diff --git a/.gitattributes b/.gitattributes index df5a53fad8d81599e80a85aa140e0dbc3b110ae3..a52d8883041acfb1dd875a35107c5fcf03d12134 100644 --- a/.gitattributes +++ b/.gitattributes @@ -37,3 +37,6 @@ checkpoint-5000/tokenizer.json filter=lfs diff=lfs merge=lfs -text checkpoint-10000/tokenizer.json filter=lfs diff=lfs merge=lfs -text checkpoint-15000/tokenizer.json filter=lfs diff=lfs merge=lfs -text checkpoint-20000/tokenizer.json filter=lfs diff=lfs merge=lfs -text +checkpoint-22635/tokenizer.json filter=lfs diff=lfs merge=lfs -text +eval_2025-02-09-14-03-10/generated_predictions.jsonl filter=lfs diff=lfs merge=lfs -text +tokenizer.json filter=lfs diff=lfs merge=lfs -text diff --git a/README.md b/README.md new file mode 100644 index 0000000000000000000000000000000000000000..2dc92cfbcc8f58a72adaa1ebe68121c07da64110 --- /dev/null +++ b/README.md @@ -0,0 +1,60 @@ +--- +library_name: transformers +license: other +base_model: Qwen/Qwen2.5-7B-Instruct +tags: +- llama-factory +- full +- generated_from_trainer +model-index: +- name: train_2025-02-07-00-42-22_qwen + results: [] +--- + + + +# train_2025-02-07-00-42-22_qwen + +This model is a fine-tuned version of [Qwen/Qwen2.5-7B-Instruct](https://huggingface.co/Qwen/Qwen2.5-7B-Instruct) on the train_hal_detection_1125 dataset. + +## Model description + +More information needed + +## Intended uses & limitations + +More information needed + +## Training and evaluation data + +More information needed + +## Training procedure + +### Training hyperparameters + +The following hyperparameters were used during training: +- learning_rate: 5e-06 +- train_batch_size: 1 +- eval_batch_size: 8 +- seed: 42 +- distributed_type: multi-GPU +- num_devices: 2 +- total_train_batch_size: 2 +- total_eval_batch_size: 16 +- optimizer: Use adamw_torch with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments +- lr_scheduler_type: cosine +- lr_scheduler_warmup_steps: 10 +- num_epochs: 3.0 + +### Training results + + + +### Framework versions + +- Transformers 4.48.2 +- Pytorch 2.3.0a0+ebedce2 +- Datasets 3.2.0 +- Tokenizers 0.21.0 diff --git a/added_tokens.json b/added_tokens.json new file mode 100644 index 0000000000000000000000000000000000000000..482ced4679301bf287ebb310bdd1790eb4514232 --- /dev/null +++ b/added_tokens.json @@ -0,0 +1,24 @@ +{ + "": 151658, + "": 151657, + "<|box_end|>": 151649, + "<|box_start|>": 151648, + "<|endoftext|>": 151643, + "<|file_sep|>": 151664, + "<|fim_middle|>": 151660, + "<|fim_pad|>": 151662, + "<|fim_prefix|>": 151659, + "<|fim_suffix|>": 151661, + "<|im_end|>": 151645, + "<|im_start|>": 151644, + "<|image_pad|>": 151655, + "<|object_ref_end|>": 151647, + "<|object_ref_start|>": 151646, + "<|quad_end|>": 151651, + "<|quad_start|>": 151650, + "<|repo_name|>": 151663, + "<|video_pad|>": 151656, + "<|vision_end|>": 151653, + "<|vision_pad|>": 151654, + "<|vision_start|>": 151652 +} diff --git a/all_results.json b/all_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ad7dbafe8d2d4395088293d4f7d8319f149b8eb5 --- /dev/null +++ b/all_results.json @@ -0,0 +1,9 @@ +{ + "epoch": 3.0, + "num_input_tokens_seen": 44325984, + "total_flos": 1.8804729049283297e+18, + "train_loss": 0.11007208550827785, + "train_runtime": 220429.5839, + "train_samples_per_second": 0.205, + "train_steps_per_second": 0.103 +} \ No newline at end of file diff --git a/checkpoint-22635/added_tokens.json b/checkpoint-22635/added_tokens.json new file mode 100644 index 0000000000000000000000000000000000000000..482ced4679301bf287ebb310bdd1790eb4514232 --- /dev/null +++ b/checkpoint-22635/added_tokens.json @@ -0,0 +1,24 @@ +{ + "": 151658, + "": 151657, + "<|box_end|>": 151649, + "<|box_start|>": 151648, + "<|endoftext|>": 151643, + "<|file_sep|>": 151664, + "<|fim_middle|>": 151660, + "<|fim_pad|>": 151662, + "<|fim_prefix|>": 151659, + "<|fim_suffix|>": 151661, + "<|im_end|>": 151645, + "<|im_start|>": 151644, + "<|image_pad|>": 151655, + "<|object_ref_end|>": 151647, + "<|object_ref_start|>": 151646, + "<|quad_end|>": 151651, + "<|quad_start|>": 151650, + "<|repo_name|>": 151663, + "<|video_pad|>": 151656, + "<|vision_end|>": 151653, + "<|vision_pad|>": 151654, + "<|vision_start|>": 151652 +} diff --git a/checkpoint-22635/config.json b/checkpoint-22635/config.json new file mode 100644 index 0000000000000000000000000000000000000000..5f63ffa19acb332b018e24bb2c8a9b61bd6dd147 --- /dev/null +++ b/checkpoint-22635/config.json @@ -0,0 +1,29 @@ +{ + "_name_or_path": "Qwen/Qwen2.5-7B-Instruct", + "architectures": [ + "Qwen2ForCausalLM" + ], + "attention_dropout": 0.0, + "bos_token_id": 151643, + "eos_token_id": 151645, + "hidden_act": "silu", + "hidden_size": 3584, + "initializer_range": 0.02, + "intermediate_size": 18944, + "max_position_embeddings": 32768, + "max_window_layers": 28, + "model_type": "qwen2", + "num_attention_heads": 28, + "num_hidden_layers": 28, + "num_key_value_heads": 4, + "rms_norm_eps": 1e-06, + "rope_scaling": null, + "rope_theta": 1000000.0, + "sliding_window": null, + "tie_word_embeddings": false, + "torch_dtype": "bfloat16", + "transformers_version": "4.48.2", + "use_cache": false, + "use_sliding_window": false, + "vocab_size": 152064 +} diff --git a/checkpoint-22635/generation_config.json b/checkpoint-22635/generation_config.json new file mode 100644 index 0000000000000000000000000000000000000000..c093dd9fd9af387f3cddd82983b9e62ecff385ad --- /dev/null +++ b/checkpoint-22635/generation_config.json @@ -0,0 +1,14 @@ +{ + "bos_token_id": 151643, + "do_sample": true, + "eos_token_id": [ + 151645, + 151643 + ], + "pad_token_id": 151643, + "repetition_penalty": 1.05, + "temperature": 0.7, + "top_k": 20, + "top_p": 0.8, + "transformers_version": "4.48.2" +} diff --git a/checkpoint-22635/global_step22635/bf16_zero_pp_rank_0_mp_rank_00_optim_states.pt b/checkpoint-22635/global_step22635/bf16_zero_pp_rank_0_mp_rank_00_optim_states.pt new file mode 100644 index 0000000000000000000000000000000000000000..fe0b54c504e1eba1abc9f65da8cd9a701c12efc7 --- /dev/null +++ b/checkpoint-22635/global_step22635/bf16_zero_pp_rank_0_mp_rank_00_optim_states.pt @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:58fca8b8ab46926e151759ebcb2f68b727696bd69556fe682ebe84864089d8c0 +size 45693717056 diff --git a/checkpoint-22635/global_step22635/bf16_zero_pp_rank_1_mp_rank_00_optim_states.pt b/checkpoint-22635/global_step22635/bf16_zero_pp_rank_1_mp_rank_00_optim_states.pt new file mode 100644 index 0000000000000000000000000000000000000000..4eb582c73fe0f8c357bee71080e6c1f514ad33bd --- /dev/null +++ b/checkpoint-22635/global_step22635/bf16_zero_pp_rank_1_mp_rank_00_optim_states.pt @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:98308d9ae65aaf3b2a047459b5d7bf0c62ea317a7f4f02564c35a7f5739c8471 +size 45693717120 diff --git a/checkpoint-22635/global_step22635/mp_rank_00_model_states.pt b/checkpoint-22635/global_step22635/mp_rank_00_model_states.pt new file mode 100644 index 0000000000000000000000000000000000000000..62cf9ac916b4ad73c26aed4dfc7c1d07e3512095 --- /dev/null +++ b/checkpoint-22635/global_step22635/mp_rank_00_model_states.pt @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f72a976a73691f114381411ec5254957ab141a9d449604429e8c1629c5b6a47d +size 15231325944 diff --git a/checkpoint-22635/latest b/checkpoint-22635/latest new file mode 100644 index 0000000000000000000000000000000000000000..b480e94c77a21abe8e569b829b05ecafc3ce8814 --- /dev/null +++ b/checkpoint-22635/latest @@ -0,0 +1 @@ +global_step22635 \ No newline at end of file diff --git a/checkpoint-22635/merges.txt b/checkpoint-22635/merges.txt new file mode 100644 index 0000000000000000000000000000000000000000..31349551d90c7606f325fe0f11bbb8bd5fa0d7c7 --- /dev/null +++ b/checkpoint-22635/merges.txt @@ -0,0 +1,151388 @@ +#version: 0.2 +Ġ Ġ +ĠĠ ĠĠ +i n +Ġ t +ĠĠĠĠ ĠĠĠĠ +e r +ĠĠ Ġ +o n +Ġ a +r e +a t +s t +e n +o r +Ġt h +Ċ Ċ +Ġ c +l e +Ġ s +i t +a n +a r +a l +Ġth e +; Ċ +Ġ p +Ġ f +o u +Ġ = +i s +ĠĠĠĠ ĠĠĠ +in g +e s +Ġ w +i on +e d +i c +Ġ b +Ġ d +e t +Ġ m +Ġ o +ĉ ĉ +r o +a s +e l +c t +n d +Ġ in +Ġ h +en t +i d +Ġ n +a m +ĠĠĠĠĠĠĠĠ ĠĠĠ +Ġt o +Ġ re +- - +Ġ { +Ġo f +o m +) ;Ċ +i m +č Ċ +Ġ ( +i l +/ / +Ġa nd +u r +s e +Ġ l +e x +Ġ S +a d +Ġ " +c h +u t +i f +* * +Ġ } +e m +o l +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠ +t h +) Ċ +Ġ{ Ċ +Ġ g +i g +i v +, Ċ +c e +o d +Ġ v +at e +Ġ T +a g +a y +Ġ * +o t +u s +Ġ C +Ġ st +Ġ I +u n +u l +u e +Ġ A +o w +Ġ ' +e w +Ġ < +at ion +( ) +Ġf or +a b +or t +u m +am e +Ġ is +p e +t r +c k +â Ģ +Ġ y +i st +-- -- +. ĊĊ +h e +Ġ e +l o +Ġ M +Ġb e +er s +Ġ on +Ġc on +a p +u b +Ġ P +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠ +as s +in t +> Ċ +l y +ur n +Ġ $ +; ĊĊ +a v +p ort +i r +- > +n t +ct ion +en d +Ġd e +it h +ou t +t urn +ou r +ĠĠĠĠ Ġ +l ic +re s +p t += = +Ġth is +Ġw h +Ġ if +Ġ D +v er +ag e +Ġ B +h t +ex t += " +Ġth at +** ** +Ġ R +Ġ it +es s +Ġ F +Ġ r +o s +an d +Ġa s +e ct +k e +ro m +Ġ // +c on +Ġ L +( " +q u +l ass +Ġw ith +i z +d e +Ġ N +Ġa l +o p +u p +g et +Ġ} Ċ +i le +Ġa n +at a +o re +r i +Ġp ro +; čĊ +ĉĉ ĉĉ +t er +a in +Ġ W +Ġ E +Ġc om +Ġre turn +ar t +Ġ H +a ck +im port +ub lic +Ġ or +e st +m ent +Ġ G +ab le +Ġ - +in e +il l +in d +er e +: : +it y +Ġ + +Ġt r +el f +ig ht +( ' +or m +ul t +st r +. . +" , +Ġy ou +y pe +p l +Ġn ew +Ġ j +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠ +Ġf rom +Ġ ex +Ġ O +l d +Ġ [ +o c +: Ċ +Ġs e +Ġ le +---- ---- +. s +{ Ċ +' , +an t +Ġa t +as e +. c +Ġc h +< / +av e +an g +Ġa re +Ġin t +âĢ Ļ +_ t +er t +i al +a ct +} Ċ +iv e +od e +o st +Ġc lass +Ġn ot +o g +or d +al ue +al l +f f +( );Ċ +on t +im e +a re +Ġ U +Ġp r +Ġ : +i es +iz e +u re +Ġb y +i re +Ġ} ĊĊ +. p +Ġs h +ic e +a st +pt ion +tr ing +o k +_ _ +c l +# # +Ġh e +ar d +) . +Ġ @ +i ew +ĉĉ ĉ +Ġw as +i p +th is +Ġ u +ĠT he +id e +a ce +i b +a c +r ou +Ġw e +j ect +Ġp ublic +a k +v e +at h +o id +Ġ= > +u st +q ue +Ġre s +) ) +' s +Ġ k +an s +y st +un ction +**** **** +Ġ i +Ġ us +p p +on e +a il +== == +n ame +Ġst r +Ġ / +Ġ & +a ch +d iv +yst em +el l +Ġh ave +er r +ou ld +ul l +p on +Ġ J +_ p +Ġ= = +ig n +S t +. Ċ +Ġp l +) ;ĊĊ +f orm +p ut +ou nt +} ĊĊ +d d +it e +Ġg et +r r +om e +Ġ âĢ +ar am +c c +Ġ* / +E R +I n +le s +_ s +on g +i e +Ġc an +Ġ V +er v +p r +Ġ un +ro w +b er +Ġd o +l l +Ġ el +Ġs elf +at ed +ar y +Ġ . +' ] +u d +Ġ en +ĠT h +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠ +t e +_ c +u ct +Ġa b +or k +. get +Ġ # +a w +res s +o b +N ame +ap p +[ ' +Ġal l +or y +it ion +an ce +e ar +Ġcon t +v ent +i a +Ġw ill +I N +ĠĠĠĠĠĠĠĠ Ġ +re turn +Ġ< / +d ata +) ĊĊ +R e +p le +il d +th er +Ġy our +" Ċ +( $ +Ġ out +) , +Ġh as +S tring +s o +Ġ up +a x +Ġde f +Ġb o +g e +al se +O N +p er +ic h +Ġb ut +Ġ Ċ +Ġ _ +_ m +ad d +que st +od el +s elf +er y +f t +en s +// // +a ke +. C +Ġg o +Ġf unction +Ġ K +iv ate +Ġ im +Ġcon st +. t +Ġ*/ Ċ +) ;čĊ +Ġv oid +Ġs et +ĠS ystem +c ri +( )Ċ +l i +ĉ if +. m +al ly +s et +e p +âĢĻ s +b o +de f +' ,Ċ +Ġm e +Ġ ! +at ch +" > +" ,Ċ +e c +ĠI n +p h +Ġ | +_ f +Ġv ar +en ce +I d +re e +in k +le ct +u g +et h +Ġel se +-------- -------- +con t +Ġs o +at ic +Ġl o +p ro +t on +s s +ow n +ab el +o int +ou s +el d +S T +T he +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +R E +" : +ol or +t p +e g +ke y +u de +ĠS t +ou nd +Ġa r +" );Ċ +en er +s er +b ject +ess age +f er +Ġm ore +ation s +ent s +Ġh is +Ġthe y +. S +Ġ Y +u se +n e +is h +ol d +_ d +i o +i eld +Ġp er +C ont +ing s +## ## +Ġd ata +Ġs a +e f +f o +Ġon e +en g +Ġd is +A T +Ġn ame +Ġtr ue +v al +le d +. f +Ġn e +Ġ end +. T +c re +ar k +lo g +E x +err or +_ id +ur re +ang e +Ġn ull +rr ay +Ġm y +p an +ic t +at or +V iew +L ist +ĉ return +âĢ Ŀ +Ġp re +Ġ x +cl ude +ar g +o v +. h +Ġ > +Ġthe ir +' ) +ir st +ic k +g h +L E +O R +Ġpr ivate +t em +čĊ čĊ +us er +Ġ ) +c om +. A +" ;Ċ +Ġ id +re ad +Ġwh o +_ b +" >Ċ +Ġt ime +Ġm an +r y +==== ==== +rou p +ro p +p ublic +v el +um ber +b le +Ġwh ich +******** ******** +Ġan y +Ġf alse +w e +Ġv alue +Ġl i +" ) +nd er +g r +Ġn o +p aram +f ig +.c om +Ġa pp +_ l +ion s +. D +ĠC h +Ġab out +Ġa dd +Ġs u +Ġstr ing +I D +Ġo ver +str ing +. l +our ce +_ C +] Ċ +Ġ qu +ĠS tring +c a +S E +Ġ ro +s h +u al +T ype +s on +n ew +er n +Ġa g +A R +] ;Ċ +] . +Ġ ? +ic al +Ġd es +ut h +i x +ay s +Ġt ype +' t +a ult +Ġin ter +v ar +. b +Ġp art +. d +urre nt +I T +E N +en c +( f +r a +v alue +ch o +ut ton +o se +Ġ! = +at er +à © +re ate +ol l +p os +y le +n g +A L +us ing +am es +Ġ{ čĊ +at es +el y +Ġw ork +Ġ em +in al +Ġs p +Ġwh en +.s et +ĠĠĠĠ ĠĠ +) :Ċ +t o +qu ire +ind ow +le ment +pe ct +as h +[ i +Ġu se +. F +pe c +Ġa d +o ve +ce ption +eng th +in clude +ad er +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠ +at us +T h +it le +r it +v oid +() . +( Ċ +Ġof f +Ġo ther +Ġ& & +' ;Ċ +m s +Ġbe en +Ġt e +m l +c o +n c +erv ice +Ġ % +** Ċ +an n +ad e +ĊĊ ĊĊ +lo ck +con st +pon se +Ġs up ++ + +d ate +Ġa cc +Ġh ad +Ġb u +ĠR e +Ġw ere +Ġf ile +Ġw ould +ĠâĢ ľ +v en +is s +Ġ our +c lass +r aw +Ġy ear +D ata +Ġv al +Ġs ome +f ter +y s +Ġ// / +rou nd +v iew +Ġp e +Ġth ere +Ġsa id +d u +o f +l ine +/ * +d uct +Ġh er +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠ +R es +Ġc o +Ġcom m +is e +m in +ĠĠĠĠ Ċ +# include +eth od +. P +ut e +Ġas s +I nt +as k +lo c +Ġli ke +od y +Ġle t +lo ad +Ġa m +ro l +Ġg r +y p +Ġal so +ĠI t +ur l +if ic +or s +_ P +_ n +ig h +Ġth an +C om +A N +U L +at ing +ĠTh is +re f +_ S +Ġst atic +ro ll +Ġj ust +Ġres ult +i an +id th +Ġthe m +) );Ċ +d er +re ak +C on +: // +u le +.. . +ar ch +em ent +Ġ< < +us h +en se +ar r +Ġint o +c ess +am p +i ed +um ent +Ġ \ +] , +w o +al s +Ġwh at +an c +V alue += ' +ol um +Ġp os +ag es +ay er +Ġs c +u es +" )Ċ +_ T +Ġl ist +( s +Ġc ase +C h +ĉĉĉĉ ĉ +//// //// +pon ent +Ġ z +Ġk n +le t +D E +re d +Ġf e +Ġ} ,Ċ +Ġ , +( t +Ġf irst +' );Ċ +w ord +Ġ import +Ġa ct +Ġch ar +C T +ĠT r +op le += { +ĉ f +i ent +c ent +. j +le ction +) )Ċ +Ġon ly +Ġpr int +m er +. W +o ck +Ġ -- +T ext +Ġo p +an k +Ġit s +Ġb ack +[ " +Ġne ed +Ġc l +Ġs ub +Ġl a +( ( +. " +O bject +Ġst art +f ile +( self +n er +e y +Ġus er +Ġ ent +ĠC om +it s +ĠC on +ou ble +ow er +it em +ver y +ĠW e +lic k +Ġ Q +ph p +t tp +' : +ic s +Ġu nder +Ġ* Ċ +. L +) ; +ic es +Ġre g +) čĊ +ĉ public +S S +Ġth en +re at +i ous +. G +e k +ire ct +he ck +cri pt +n ing +ĠU n +Ġm ay +ĠW h +B o +I tem +str uct +. st +re am +ib le +lo at +Ġor g +u nd +s um +_ in +.. / +_ M +Ġh ow +r ite +' Ċ +T o +w w +Ġpe ople +ind ex +. n +ht tp +( m +ect or +Ġin d +Ġj av +] ,Ċ +ĠH e +_ st +f ul +o le +) {Ċ +Ġsh ould +op y +el p +i er +_ name +ers on +I ON +ot e +Ġt est +Ġb et +rr or +ul ar +ã Ģ +Ġ Ð +b s +t ing +Ġm ake +T r +Ġa fter +ar get +R O +olum n +r c +_ re +def ine +Ġr ight +r ight +d ay +Ġl ong +[ ] +( p +t d +con d +ĠP ro +Ġre m +ption s +v id +. g +Ġ ext +Ġ __ +' )Ċ +p ace +m p +Ġm in +st ance +a ir +a ction +w h +t ype +ut il +a it +< ? +I C +t ext +Ġp h +Ġf l +. M +cc ess +b r +f ore +ers ion +) ,Ċ +. re +ate g +Ġl oc +in s +- s +tr ib +ĠI nt +Ġa rray +, " +P ro +( c +ess ion +> ĊĊ +Ġs he +" ] +ap h +Ġex p +ert y +ĠS e +Ġp ar +un c +E T +Ġre ad +pr int +Ġre l +Ġfor m +Ġd r +Ex ception +in put +Ġtr ans +#### #### +ord er +B y +Ġa w +it ies +u ff +pl ay +. add +ĠâĢ ĵ +Ġw ant +Ġcom p +ment s +Ġ| | +a z +b e +Ġn umber +Ġre quire +ĠE x +Ġc ol +Ġ key +em ber +Ġt wo +Ġs ize +Ġwh ere +U T +res ult +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ou gh +or ld +o od +u ch +at ive +g er +are nt +Ġ/ * +Ġar g +Ġwh ile +( this +Ġre c +Ġd if +St ate +Ġs pec +r ide +_ F +Ġlo ok +A M +il ity +et er +âĢĻ t +ĊĊ Ċ +ay out +---------------- ---------------- +ag er +Ġc ould +Ġb r +end s +u res +Ġkn ow +et s +ĠI f +ĠS h +. w +b ack +Ġs er +Ġ+ = +Ġf r +() );Ċ +Ġh and +I nd +UL L +I m +() ;ĊĊ +Ġm ost +Ġtr y +Ġn ow +rou gh +> čĊ +ack age +Ġh im +. _ +if y +Ġb reak +Ġ );Ċ +re n +# define +it t +Ġa p +ĉ c +( n +ĠY ou +: ĊĊ +- m +Ġe very +ust om +li ent +oc ument +cri ption +E rror +- b +Ð ¾ +] [ +tr ans +Ġp oint +Ġst d +Ġf il +T ime +Ġm od +Ġ -> +Ġ error +a h +Ġt ext +roll er +lo se +q l +Ġp ol +> < +. B +- c +Ġop en +Ġe st +ĠĠĠĠĠĠĠĠ Ċ +Ġn ext +I M +Ñ Ĥ +O T +à ³ +Ġf ollow +cont ent +ĠĠĠĠĠĠĠĠ ĠĠĠĠ +Ġin clud +H E +ĠR es +Ġh ref +Ð ¸ +Ġc ar +yp es +im age +U n +Ġbo ol +A D +Ġg ame +.F orm +row s +* / +vel op +.D rawing +Ġp ath +is ion +Ġe ach +ĠP l +_t ype +P ath +ne ction +Ġa v +' ). +Ġsup port +EN T +re m +" ). +Ġo wn +Ġc or +c ount +m iss +u ally +Ġm em +st d +i ence +se arch +" ĊĊ +F orm +Ġs ex +en ame +Ġs ign +Ġ et +ĠĠĠĠĠĠĠĠ ĠĠ +', ' +ĠA pp +Ġth ose +o ff +Ġ err +Ġs ystem +Ġbe st +c ode +Ġs ame +Ġd i +us s +Ġc reate +ath er +A rray +. in +f e +S ervice +U N +at s +Ġ Z +al th +Ġm ade +tr ue +A B +Ġm ark +r id +if ied +, čĊ +y n +p ress +Ġg roup +Ġf in +ĠL icense +F ield +eg er +Ġw orld +in ess +t y +Ġpro cess +( b +Ġc re +ar n +iv es +Ġm ain +ide o +_ g +A G +val id +im g +P I +Ġc olor +Ġre port +Ġt ake +ri b +O M +Ġd ay +Re quest +Ġs k +b ers +ĉ s +.A dd +o ot +Im age +Ġcom ple +ol lection +Ġto p +Ġf ree +A S +D e +ĠO n +I G +et a +D ate +Ġa ction +O ver +it or +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +n ot +Ġind ex +h er +ic on +O n +;čĊ čĊ +iv ity +m and +.W indows +O L +Ġre al +Ġm ax +l and +.. .. +r aph +Ġbu ild +le g +ass word +? ĊĊ +âĢ ¦ +o ok +u ck +Ġm essage +t est +iv ers +Ġin put +Ġar t +Ġbet ween +G et +ent er +g round +en e +à ¡ +.l ength +N ode +( i +C lass +f or +ĠâĢ Ķ +t en +o in +Ġ ke +u i +ĠI N +Ġt able +s ub +ĠL e +Ġhe ad +Ġm ust +//////// //////// +. util +Cont ext +Ġor der +Ġm ov +o ver +Ġcont in +Ġs ay +st atic +.T ext +Ġclass Name +pan y +Ġt er +he ad +r g +Ġpro duct +Th is +. âĢĿ +ĠB ut +lo y +Ġd ouble +s g +Ġpl ace +. x +m essage +Ġin formation +pr ivate +Ġo per +c ed +d b +"> +ater ial +ile d +Ġp ut +Q u +Ñ Ģ +un g +m ap +ĉĉĉĉ ĉĉĉĉ +Ġle vel +Com ponent +bo ok +cre en +_ RE +Ġcon fig +ã ģ +O r +. data +Ġd ocument +", " +trib ute +u x +L og +fer ence +p ost +_ e +Ġloc al +and om +ass ert +V al +lect ed +in a +atab ase +A dd +Ġcont ent +.p rint +s igned +r ic +." ĊĊ +Ġf a +! ĊĊ +- f +iv ed +Ġ quest +. ex +Ġf loat +Ġde velop +о Ð +M ap +ad ing +Ġpos s +U E +n amespace +_ O +ĉ b +.G et +> ( +j son +etail s +Ġto o +Ġext ends +ĠN one +Ġf ore +( String +form at +Ġg reat +int er +ca le +Ñ ģ +r on +iv ing +E nt +enc y +x t +o y +Ġmon th +Ġh app +Ġsup er +b ar +def ault +_ de +ord s +l n +( {Ċ +ĠI nd +as es +Ġt itle +Ġcont ext +o h +- p +E m +Ġm et +T est +Ġl ife +_ v +ĠU S +U I +oc ation +m d +Ġ[ Ċ +Ġ ] +s w +Ġin cre +s cript +ent ial +w ays +. de +Ġs rc +Ġc atch +ĠA meric +// Ċ +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +Ġp ay +pl it +âĢ Ķ +Ġc oun +ob j +.ph p +Ġch ange +eth ing +' re +ast er +lo s +l ation +ĠĠ Ċ +L e +à ¤ +( { +read y +ĠN o +Ġpos ition +Ġo ld +Ġbo ok +able d +b ug +H and +} ;ĊĊ +is play +av ing +Ġgo ver +Ġv ersion +S ystem +n ect +res ponse +St yle +U p +ang u +Ġth ree +in it +er o +Ġl aw +end if +Ġb ase +em ail +( l +_ V +Ġcon f +AT E +Ġd uring +t es +Ġcon sole +ĠP r +Ġs pe +v es +p ath +ial og +d ition +_t o +ard s +Ġagain st +et work +ĠP h +_ L +c ur +im it +W ith +Ġp ower +i um +' ;ĊĊ +Ġw om +le ft +our ces +at ri +ĠI m +ĠM an +or th +$ { +qu als +es e +_s ize +Ġis s +ot al +- g +i que +r ame +Ġw idth +er g +) ( +itt le +T R +ĠThe y +enc es +r l +on s +Ġl abel +. y +- t +up date +an el +s c +.t o +Ġpro ject +à ¼ +Ġe lement +Ġsu ccess +ĉĉ Ċ +.s h +r am +ch ed +() )Ċ +Ġ( Ċ +Ġd ate +Ġto t +_ ST +A ll +ific ation +ĉ var +Ġt ri +ch em +m y +Ġb ig +ĠA d +ĠA t +ot s +n um +A ct +Ġm ap +er a +co pe +. $ +, âĢĿ +Ġp op +Ġf ew +Ġl en +u id +et ers +u les +Ã Ń +s ource +http s +Ġd em +Ġe ar +######## ######## +Ġm atch +or ies +ac es +ĠC l +Ġn ode +ir c +loc al +un ity +} ;Ċ +Ġan other +< < +og le +Ġs it +ew ork +T E +. I +N S +olog y +ou ght +.C ont +> > +Ġc are +st ate +ĉ private +Ġe ffect +++ ) +_f ile +end ing +L ine +F or +i or +ĠS c +Ġf un +.S ize +ĉ else +] ) +st art +v ious +Ġ} , +our s +Ġle g +Ġs ervice +Ġs ince +ir on +L abel +Ġn on +Ġl os +ict ion +Ġf ull +act er +bo ard +g ress +Ġt urn +ith er +.s ize +Ġb ody +res h +et urn +( _ +y les +orm al +p i +Ġsom ething +! -- +u int +Ġpro du +Ġst and +Ġpro ble +Ġav ailable +m t +ĠB l +Ġ ... +Ġb lock +In put +Ġke ep +C ount +op en +Ġ[ ' +Ġth row +uild er +A ction +Ġth ings +Tr ue +Ġ url +ĠB o +print f +Ġre d +j s +.c reate +ĠO r +St atus +In stance +Ġcont rol +Ġcom e +Ġc ustom +loc ation +m odel +Ġ čĊ +Ġs ource +Ġe as +. out +] ĊĊ +one y +Ġaw ait +Ġpart ic +A P +ub lish +od es +_p ro +p ly +rit er +Ġpro v +Ġm ill +H T +] )Ċ +Ġch ang +Ġas k +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠ +Ġout put +Ġem ail +.p ush +Ġ} čĊčĊ +in ation +atri x +T able +u ccess +] );Ċ +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġdis c +( [ +Ġb usiness +he ight +. html +t a +f ield +Ġrequire d +_ R +Ġgover n +} čĊčĊ +le x +. , +ĠS et +ur ch +// / +t s +a f +Ġm ight +ist ory +S tr +Ġne ver +Res ponse +ar se +ad a +ĠH ow +Ġ* ) +Ġ ; +Ġh ard +A d +Ġinter n +us ed +( data +m od +ann el +Ġn p +ug g +Ġ/ >Ċ +Ġcal led +b ody +Ġch o +( r +_s et +ir d +Ġ> = +Ġ} ;Ċ +Ġo ptions +ĠG ener +Ġhe ight +P oint +Y ou +et y +C lick +Ġsm all +Ġ ide +Ġacc ess +angu age +Ġprot ected +Ġj ob +ĠTh ere +D ef +Ġadd ress +Ġu int +N ot +o o +ap s +< div +ain ed +at ur +Ġs um +- w +ĠD ate +Ġl ittle +Ġf ri +Y PE +Ġp ort +e h +pr ing +_p ath +Ġst atus +a im +bo ol +Ġap pe +Ġo s +. name +ens ion +_ G +Ġup date +Con fig +a ff +ER R +Ġ< = +at ely +# if +u ction +ĠT e +Ġl ink +ĠU ser +.f ind +. org +m e +Ġg iven +O ut +# endif +Ġbet ter +P age +Ġfe el +en n +M L +Ġal ready +Ġinclud ing +o ogle +r u +ic ally +pro p +le an +out er +Ġal ways +ord ing +I f +or age +Ġp arent +v is +ĉĉĉĉ ĉĉĉ +Ġg ot +st and +Ġle ss +/ s +ĠA ss +ap t +ire d +ĠA dd +Ġacc ount +p loy +Ġd er +res ent +Ġl ot +Ġval id +ĉ d +Ġb it +pon ents +Ġfollow ing +_ ex +S ON +Ġs ure +oc ial +Ġp rom +ert ies +he ader +.p ro +Ġbo olean +Ġse arch +k en +Ġor ig +Ġ er +E d +E M +a ut +l ing +al ity +By Id +b ed +ĉc ase +eth er +pos it +Ġinv est +ĠO R +Ġs ays +miss ion +AM E +Ġtem p +o ad +Ġre st +in fo +Ġinter est +A rg +Ġper form +pon s +ĠV iew +Ġv er +l ib +( const +U til +List ener +ar ge +Ġm ult +Ġd ie +Ġs ite +../ ../ +E L +Ġval ues +Ġ} )Ċ +p en +N o +ic ro +Ġbe h +Ġ' ./ +ac y +re c +() -> +ĉ ĠĠĠ +" )) +Cont ent +_ W +ple ment +Ġw on +Ġv ideo +ad i +p oint +% % +Ġg l +erv ed +v iron +I F +ut ed +ã ĥ +' m +Ġc ert +Ġpro f +Ġc ell +ar i +Ġpl ayer +a is +Ġc ost +Ġh um +( R +Ġoff ic +k s +.t ext +at ures +Ġtot al +Ġ*/ ĊĊ +o pe +Ġst at +U M +Ġlo ad +ight s +Ġc lear +u ro +Ġte chn +up port +I R +Ġ row +Ġse em +Ġ q +Ġsh ort +ĠN ot +ip p +G roup +se ction +m ax +ir l +Ġover ride +Ġcom pany +Ġd one +" );čĊ +Ġg re +. Re +Ġbel ie +r ist +Ġhe alth +AN T +() ĊĊ +ĠB e +. value +ĠG r +ott om +Ġarg s +P T +st atus +f unc +um ents +- h +N umber +: čĊ +ĠL og +er ver +Ġ) ,Ċ +am ent +Ġob j +in c +Ġchild ren +ic y +I Z +and s +ab ly +Ġdist rib +Ġc ur +er ial +Ġd ays +re ated +re ct +- l +ir m +idd en +om b +Ġin itial +.j s +Ġ â +Qu ery +Ġon line +im al +. con +a u +U rl +cont rol +ire ction +Ġin stance +OR T +ĠF r +wh ere +Ġjav ax +Ġorg an +ap ter +Ġre ason +o ptions +ĠM ar +( a +Ġwith in +.âĢĿ ĊĊ +O DE +_ DE +ad min +end ed +Ġdes ign +ĠD ata +un e +ĠF ile +ro ot +Ġc ent +Ġa rr +_ add +l en +p age +, ' +_ str +Ġb ro +ab ility +ou th +/ c +p ose +irt ual +ear ch +_ url +arg in +H ttp +Ġs chool +av a +Ġcons ider +.l abel +ĠA rray +we b +o pt +.print ln +ul ation +Ġf unc +P L +Ġ" \ +ĠT ext +act ory +(f unction +n ull +Ġen g +d own +Ġin clude +ĠE n +ĠD r +Ġd b +! ! +s ide +Ġin it +quire d +ĠS he +C olumn +re act +Ġan n +Ġst op +Ġl ater +ĠTh at +ent ion +d f +U G +I LE +Ġc lient +ra ft +ff er +PO ST +el per +Ġlo ve +qu ote +ou d +Ġj son +Ġab le +Ġm en +A X +ĠC opyright +à ¶ +av ig +re q +C lient +} );Ċ +.C om +er c +il t +pec ial +_c om +ro om +. Name +Ġg ive +am b +i ke +Ġcon dition +cl ient +ator s +: " +Ġc opy +ut ure +ivers ity +ern al +{ { +ĠC an +ou nc +d o +Ġo cc +Ġapp ro +th ers +z e +Ġe ither +ĠF l +Ġimport ant +Ġle ad +at tr +AR T +E qual +Ġd a +et ch +ent ity +Ġfam ily +add ing +Ġo ption +Ġex ist +ic a +ĠO bject +' ve +v ers +ition al +out put +ĠTr ue +ĠO F +_t ime +Ġof fer +Ġ} );ĊĊ +H ER +eg in +" " +Ġw ater +Ġc he +ĠM y +ore d +Ġst ep +anc es +C K +A Y +à ¸ +str uction +( C +ou ch +St ream +act ive +am a +Ent ity +pro duct +() {Ċ +Ġgovern ment +ĠI D +aj or +A nd +Ġdis play +Ð » +Ġt imes +Ġf our +Ġf ar +Ġpres ent +ĠN S +Ġ\ Ċ +ue st +Ġb as +e cho +ch ild +if ier +Hand ler +Ġl ib +Prop erty +trans lation +Ġro om +Ġon ce +Ġ[ ] +cent er +================ ================ +Ġresult s +Ġcontin ue +Ġt alk +_ get +Ġg row +.s w +e b +ĠP ublic +O P +ec ute +ol s +Ġ ** +" );ĊĊ +Ġm ass +ure d +.c lass +om ic +Ġme an +ip s +Ġa ut +);čĊ čĊ +Ġun til +Ġmark et +Ġare a +u it +Ġl ength +ĠW ith +struct or +e vent +"> < +ĠS p +I V +Ġm us +if f +Ġk ind +a uthor +ound s +m b +_ key +w idth +posit ory +Ġl ight +u k +R ow +oh n +al f +viron ment +app er +ollection s +Ġs ide +_in fo +Ġex ample +im ary +Ġw r +Ġc amp +cri be +" / +Ġm iss +w ay +Ġb ased +Ġpl an +V is +om ain +un k +Ġaw ay +U P +< T +O S +i od +ĠM on +âĢĻ re +Ġli k +à § +iv ely +. v +im er +iz er +S ub +Ġbut ton +ĠU p +Ġexper ience +C L +Ġre nder +_ value +Ġn ear +UR L +al t +Ġcoun try +ib ility +() ,Ċ +e ad +Ġa uthor +Ġspec ific +b ase +( name +on es +ĠD o +Ġal ong +y ear +Ġexp ress +. ' +en v +Ġbeg in +Ġso ftware +Ġim p +Ġw in +ó n +Ġth ing +Tr ans +ĠT HE +Ġ< ? +Ġwh y +Ġdoes n +i j +g ing +ĉ g +Ġs ingle +off set +ar ning +og raph +le y +_c ount +Ġan al +cre ate +/ m +ĠR eg +un ch += $ +is k +Ġright s +( M +Ġ"" "Ċ +ap er +.m odel +Ġp o +em pty +art ment +Ġa nt +ĠWh en +Ġwom en +ĠE d +Ġse ason +Ġde st +à £ +( h +Ġposs ible +Ġse ver +Ġb tn +Ġdid n +Ġs ent +Ġen c +Ġcomm and +Ġ ],Ċ +_ x +Ġre cent +ol ution +v ector +ĠB y +ĠM ay +ĠA ct +» ¿ +Ġm oney +IN T +bs ite +ĉ p +. čĊ +ï »¿ +s l +atter n +ĠC lass +Ġto ld +ud io +c urrent +Ġe qu +Ġa uto +ĠSt ate +d a +ms g +)) ;ĊĊ +Ġwork ing +Ġqu ery +ĠB r +Ġw indow +a uth +on ly +ĉ t +Ġle ast +ag n +Ġex pl +it ter +ar ing +Ġc olumn +ĠGener al +": " +er al +ri or +Ġrec ord +I B +E X +Ġd at +Ġm aking +u ed +ĠC ar +em p +" . +ĠM ed +Ġc lose +Ġper cent +Ġp ast +( g +: ( +Ġw rite +Ġm ove +Ġp at +Cont rol +.T o +Ġv i +*/ Ċ +in ate +' ll +ag ed +N ull +Ġspec ial +IZ E +Ġc ity +/* Ċ +ĠE ng +ix ed +in ary +p y +Ġe ff +ar io +Ġt ell +av or +Ġse lect +le vel +im um +op er +B uilder +I P +') ,Ċ +es c +Ġf ont +" ;ĊĊ +ĠA m +ish ed +ill s +Int er +O W +Ġcour se +Ġl ate +idd le +Ġam ount +Ġas ync +in o +c ul +Ġ ì +and le +_ user +Ġb en +ĠC al +Ġ$ _ +ĠR ep +Ġen ough +T oken +. user +( j +S c +W idth +n ow +at form +Ġlook ing +Ġh old +M odule +IT Y +v o +is on +.D ata +y c +Ġp ot +ĠTr ump +id ual +id es +r t +Ġprop erty +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠ +am ework +g o +Ġl ow +Ġpar a +Ġpr ice +ur y +Ġto day +ro y +Ġ' / +Ġpol it +Ġ' ' +ym b +P h +Ġad v +Ġatt ack +ĠS te +RO M +an a +Ġme ans +Ġst ory +id s +ak en +Ġme et +Ġm om +ĠâĢ ĺ +Ġ? > +Ġd en +ob ile +ch ange +ĠĠĠĠĠĠĠĠ ĠĠĠĠĊ +ic i +n a +ĠF orm +Ġs ort +Se lect +p are +Ġth ought +_ con +Ġt ask +oc us +ĠD E +ĠM in +Ġo pt +ĉb reak +um er +K E +th en +Ġd et +ĠT est +port s +Ġre view +(' / +m ove +Ġsw itch +ER T +p atch +ann ot +ã Ĥ +Ġab ove +it ive +Ġquest ion +ĠQ u +ãĢĤ ĊĊ +g le +Ġw ord +Ġprov ide +ĠR eturn +Ġre search +ã o +u str +Ġp ublish +chem a +} } +ĠC ON +- in +all back +Ġco ver +\ \ +c olor +ĠI S +Ġwh ether +im ate +is c +B ar +Ġd iv +B e +our n +Ġh aving +le m +pl ayer +ab s +am era +ne y +Ġex c +get her +pl ied +a o +[ $ +Ġ+ + +i pe +sh ow +/ d +[ : +ag ement +le v +_ ID +r ary +ad es +_ se +a use +Ġem ploy +Ġ*/ čĊ +Ġf re +Ġ' @ +Ġcomple t +Ġl arge +r al +\ x +Ġf ac +< String +Ġcre ated +up er +.st ate +Ġh ost +ener ic +/ b +( ! +wh ile +i as +B UG +Ġ );ĊĊ +Ġro le +Re g +ĠC olor +St art +Ġp orn +t op +Ġwe b +Ġde v +Ġde al +++ )Ċ +Int eger +pos ition +. on +Ġ( " +ä ¸ +Ġproble m +s v +Ġp ress +AB LE +AT ION +ĠSe e +an ch +Ġth ough +le ep +Ġ< !-- +Ġpoint s +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠ +. J +Ġ :: +p tr +D B +++ ;Ċ +.p ng +n ode +so ft +pon d +Ġe ver +-------------------------------- -------------------------------- +M enu +(' # +Ġs ervices +p g +} )Ċ +param s +Ġact ually +Ġ" / +Em pty +M ethod +Ġid ent +un ic +Ġmill ion +Ġa ff +st yle +Ġcon c +i os +ign ment +UL T +P r +" ;čĊ +Ġunder stand +u ary +Ġhapp en +Ġser ver +ĠC o +S C +Ġle s +Ġfile s +G rid +s ql +Ġof ten +Ġin fo +_ tr +s rc +on y +Ġsp ace +um b +Ġpass word +Ġst ore +, ĊĊ +ĠWh at +g ed +ĠF alse +U s +sw er +_ index +Ġform at +m ost +s m +N ew +Ġd etails +Ġpro b +ĠAN D +() čĊ +il ar +Ġ$ { +ry pt +.C ollections +$ this +ĠF ree +_ of +(f alse +d ated +Ġ> > +Ġf ace +CT ION +Ġs ave +Ġt yp +de v +(" # +AG E +cont ainer +ed it +Q L +Ġitem s +Ġs ocial +i en +ĠRe act +) .ĊĊ +Ġm ar +Ġre du +ĠR E +.p ut +Ġm ajor +C ell +n ext +Ġexpect ed +Ġy et +Ġin div +trib utes +at is +am ed +Ġf ood +S ource +( string +Ġ+ Ċ +it es +d r +Ġmem bers +Ġcom b +item s +ĠP er +T H += True +Ġb ar +_ SE +com m +( w +)ĊĊ Ċ +Ġs end +Ġin c +un signed +F A +Ġparam s +app ing +ro s +ug in +f a +Ġcon nection +Ġ} ;ĊĊ +Ġbe come +M ode +Ġe v +Ġdif f +ĠUn ited +He ight +ful ly +im ages +Ġm akes +Ġg lobal +Ġcont act +' :Ċ +Ġab s +а Ð +f loat +Ġex cept +ĠP ol +Ch ild +t yp +Ġcert ain +i ón +O UT +Ġim pro +ile s +Ġ-- >Ċ +ĠP art +val ues +os s +/ ** +il it +ĠE vent +cur ity +st er +Ġchar acter +Ġnew s +Ġ" , +Ġde vice +c el +log in +he et +Def ault +@ " +ĉ Ġ +c lick +( value +ĠA b +Ġpre vious +ERR OR +oc al +Ġm aterial +Ġbel ow +ĠCh rist +Ġmed ia +co ver +ĠU I +Ġf ail +Ġbl ack +Ġcom ponent +ĠAmeric an +Ġadd ed +Ġbu y +st it +Ġc ame +Ġde lete +prop erty +od ing +Ġc ard +rop s +Ġhttp s +Ġro ot +Ġhand le +C C +B ack +em plate +Ġget ting +_b y +m ail +_s h +. assert +ĠD ec +( true +Ġcom put +Ġcl aim +' => +ĠS ub +Ġa ir +op s +n av +em ents +( id +Ġent er +ang ed +E nd +Ġloc ation +Ġn ight +Ġdo ing +ĠR ed +l in +}ĊĊ Ċ +vid er +Ġp ick +Ġw atch +ess ages +Ġhum an +Ġd am +p end +d ir +Ġt ax +Ġg irl +re et +Ġbo x +Ġstr ong +( v +re l +Ġinter face +Ġm sg +f ect +_ at +Ġh ouse +Ġtr ack +' );ĊĊ +j e +ĠJ ohn +ist r +( S +ub e +Ġc e +itt ed +V ER +* ) +p arent +Ġapp lication +an y +.sw ing +Ġp ack +\ u +Ġpr act +Ġse ction +ct x +Ġun signed +.P oint +ĠO ne +Ä ± +ip le +a id +Ñ ĥ +V ector +by te +Ġw ait +Ġà ł +à ¥ +Ġto gether +Ġth rows +F O +' )) +h ost +is ing +. view +Ġter ms +fr amework +- r +Ġapp ly +Ġs ession +O ptions +ugg est +Ġo thers +w itter +Ġf und +In it +__ ( +ens or +G ET +Ġsever al +i i +[ j +I O +Ġtem plate +P osition +Ġe con +ach ine +Ġ il +.s pring +m ain +el t +im ent +Re c +m m +ĠUn iversity +urs or +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠ +G L +ict ure +ith ub +c er +c ast +F rom +a les +Ġsub ject +p assword +n y +Ġes c +.w rite +ï¼ Į +Wh at +. H +Ġh istory +ĠF e +Ġindiv idual +un it +Ġ-- > +Ġd u +I ST +Ġus ers +f s +f alse +un t +T itle +Ġm ot +Ġf uture +ach ed +Ġstart ed +Ġm ode +Ġ' < +_ array +Ġa x +'] ;Ċ +i res +Th ere +ug ht +t ml +pos ed +ic ult +Ġto ok +Ġg ames +Ġ} } +Ġ? >Ċ +Ġproduct s +I s +Ġb ad +ĠD es +.p ath +' ĊĊ +ĠP ost +av el +( : +Ġneed s +Ġkn own +F l +Ġex ec +Ġse en +um e +Ġb order +Ġl ive +tem p +P er +Ġvar iable +i et +ĠD ef +Ġg e +em e +_b ack +f irst +Ġprovid ed +//////////////// //////////////// +Ġfil ename +Ġh ope +ul y +a uto +f ind +_ string +b tn +it ude +At tribute +Ġyou ng +.t xt +Ġwe bsite +ĠP rop +Ġe y +> ();Ċ +ion al +AR R +iction ary +ur ther +. +t x +Ġp ur +u el +ymb ol +u ation +ang er +Ġback ground +ec ess +ef ined +.... .... +Ġdes cription +Ġrep resent +") );Ċ +press ion +row ser +Ġser ies +ward s +($ _ +a ise +Ġh ot +ac ity +ri es +action s +C reate +ad io +amp les +Ġorig inal +ens ive +f ont +st ream + using +.spring framework +ser ver +Ġb ill +AC K +il ename +Ġfr ame +Ġ= Ċ +Ed it +adi us +Ġd raw +ank s +Ġd eter +Ġcom es +_ int +Ġfore ach +ang le +Ġe lect +pect ed +He ader +ist ration +F alse +ĠG ame +Ġfil ter +Act ivity +Ġl arg +in ition +Ġ" < +is ed +Ġrem ove +ĠTr ans +m et +se e +Form at +Com mand +ĠE X +N one +Ġfr ont +A SE +ĠR ec +ound ation +Ġv o += \" +( * +Ch ange +.W rite +g roup +i ents +u y +******************************** ******************************** +Ġd ig +h r +( - +Ġg en +n umber +ve c +uro pe +ent ry +L L +Ġst e +Val id +'] , +_p aram +Ġse lected +Ġacc ording +ĠD is +Ġ util +B uffer +_ error +Ġass oci +_S IZE +Ġw or +Ġprint f +r ag + ł +D D +ĠV al +Ġact iv +E ng +et ime +Ġv irtual +a ign +a ur +ĠP res +ĠEx ception +Ġany thing +ĠO ff +Ġh ours +Ġw ar +Arg s +ag ing +Ġmodel s +ĠT ime +O b +am s +j oy +Ġear ly +. read +Ġc enter +ĠIn itial +Ġl anguage +l ength +x y +Ġs n +Ġin f +P ost +Ġag o +Ġeas y +_c ode +ĠAN Y +_ ch +Ġdown load +( T +av ed +âĢ ĵ +Ġstud ents +Ġf ig +l ight +x x +Ġbu ffer +ĠD ep +ĠM ath +IT H +Ġvar i +Ġd ue +F actory +Ġp or +Ġe p +ot ype +Ġcan not +Ġwh ite +< int +ter n +Ġreg ister +Ġpre d +cl us +_d ate +Ġ/ ** +Ġa uth +Ġ[ ]Ċ +Ġper iod +n own +Ġv ot +Ġs creen +' d +T ypes +Ġt mp +е Ð +ur al +Ġben ef +_ y +Ġn et +ĠSt ates +'] [' +ĠN e +ĠN OT +Ġn eg +Ġcomm on +s cope +Ġc red +g es +_T YPE +Ġs uggest +o om +.ĊĊ Ċ +Ġac cept +Ġr andom +er m +ĠV ector +w ith +T ER +( str +Ġres pons +Ġh it +.S et +gr id +ri a +Ġc lick +und le +C ase +ins ert +Util s +Ġ"" " +Ġim plement +at al +tem pt +tem plate +oc r +return s +Ġplay ers +us ers +ed ef +ĠTh ese +Ġam ong +Ġde b +h a +.get Element +Ġc irc +Ġan swer +Ġw alk +Ġt reat +ĠG e +ĠC reate +Ġa ge +Ġre q +O ST +ang ular +Ñ ı +Ġf ive +Ġdistrib uted +Ġfri end +T P +Ġc lean +ow s +.Control s +d is +Ġw ords +. io +z y +Ġhe ader +ĠC heck +âĢĻ m +j ust +h older +=" čĊ +. annot +Ġcol lection +' . +Ġsim ilar +Ġt aken +(" % +Or der +'] Ċ +-m d +ĠT H +ac ed +Ġis n +/ j +Ġs on +gr aph +ĠInt eger +Ġn ecess +re en +Ġ um +Ġ\ < +Ġmom ent +Ġbr ing +Ġind ic +ys is +Le vel +ver se +urre nc +_t est +Ġent ire +D own +Ġ}ĊĊ Ċ +( result +ĠRe ad +à ¨ +M od +Ġtry ing +") ,Ċ +Ġm ember +ĠC or +OD O +- control +un time +ĠS im +D ialog +pl ot +_ on +Ġph ys +} / +Ġn amespace +ĉ čĊ +ac c +Pl ayer +A RE +Ġf oot +Ġbo ard +p art +Ġs us +w ise +ĠM c +Ġp ush +AT A +Ġp lease +ri ed +we et +b it +id ed +V E +ĠS w +U B +Ġt ypes +ed ia +Ġc los +ace book +Wh en +Ġed it +ig ger +Ġen erg +Cont ainer +Ġph ot +ĠC ount +ĠE urope +.I s +ĠR uss +pe ed +ĠS tr +Ġp y +Ġc ult +Ġdef ined +cc ount +Ġob t +.L ocation +Ġth read +il le +Ġinst ead +str ong +ĠS ec +U RE +Ġide a +. se +em y +select ed +Con nection +ac ing +th read +.n ext +Ġc oll +Ġfil m +ist ic +Ġcomp et +Ġcon n +th ough +Ġcom pan +ock et +Ġte ach += ( +Ġph one +Ġact ive +de lete +tr ies +Ġm o +Ġde ath +} );ĊĊ +oc ol +W idget +Ġart icle +ro du +and id +Ñ ĭ +ĠC r +k a +() : +lo od +ĉĉĉ Ċ +Ġal most +Ġs ell +erv let +ri p +Un it +Ġapp lic +Ġcon nect +Ġfe ature +Ġv ia +' ), +Ġl im +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ĠG u +Eng ine +Ġen s +Ġen vironment +b lock +HER E +N ULL +g y +t ag +) ). +ex p +Ġcom pl +Ġinst all +Ġcomple te +que ue +atur al +Ġgener al +th on +Ġask ed +o res +( res +Ġres erved +S P +ĠâĢ ¦ +Å Ĥ +Ġsign ific +O ff +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠ +ĠA g +ĠJ ust +ĠE rror +Ġin fl +ad ata +Ġ icon +ask s +' ' +_ LO +? . +ac count +Ġ( * +' )ĊĊ +r ap +_ var +ĠF OR +Ġpart y +ĠY our +c at +str y +. new +bo ot +ĠN ov +Ġv ector +Ġn ormal +Ġf urther +Re pository +Ġd atabase +att le +Ġmus ic +Ġspe ed +Ġd oc +pro cess +IG HT +.p arse +Ġt aking +Ġvi ol +ce ed +ĠA fter +Ġfor ward +Ġc rit +"/ >Ċ +ro t +Ġfa iled +ef ore +Ġconc ern +o e +b a +Ġs ender +Ġter m +h as +=" # +Ġpot ential +N um +Ġpublish ed +.c lose +ĠIm age +str aint +U D +ĠO b +Ġprob ably +l im +" :Ċ +olum e +Ġcon sum +ag ue +ens ions +Ġinvest ig +- year +') ; +-s m +Ġen joy +or ig +er ing +c p +le ased +ple ments +Ġreturn s +p at +B O +ĠH ouse +.L abel +Ġwe ight +igh b +Ġcondition s +Ġex ception +d escription +Ġtr ad +- to +Ġ{ } +Ġmod ule +EN D +. ap +.p rops +Ġcon structor +av es +Ġf avor +ĠN ow +; i +ĠM ain +_ k +er ies +âĢĻ ll +trans form +imest amp +P re +Ġm er +. res +st ant +L ocation +_N AME +Ġlos s +Ġ ĊĊ +n et +Ġeng ine +B lock +Ġiss ues +Ġpar se +ĠB ar +Ġst ay +ĠJ SON +Ġd om +air s +w ner +Ġl ower +", čĊ +ĠD em +uf act +Ġp s +Ġper fect +R L +Ġed uc +l s +em ory +ARR ANT +u ge +Ġex act +. key +al led +e ch +ie f +\ / +o ke +Ġfor mer +al loc +Ġs ix +id a +Ġm argin +Ġhe art +al d +p ack +.getElement ById +ĠW ARRANT +Ġr ather +Ġbuild ing +er man +lic e +Ġquest ions +iz es +le ge +irect ory +Ġj e +Ġc as +pro ps +ut f +Ġse curity +Ġhow ever +we ight +Ġins ide +Ġpres ident +Ch ar +ĠW ITH +.m ap +Ġgr aph +Ġt ag +_st atus +Ġat tempt +op p +us es +ĉ const +Ġr ound +, $ +Ġfri ends +Em ail +? > +Res ource +KE Y +os p +. query +ĠN orth +able s +ist rib +_c lass +el lo +Th at +Ð º +pecial ly +ĠPres ident +Ġcamp aign +Ġal t +are a +Ġch all +Ġop port +.C on +Ġenerg y +li ke +. string +ing ton +) * +y y +Ġprof ession +ir th +Ġse g +æ ľ +Ġh or +i ers +c an +Ġbeh ind +Pro duct +f g +ĠS k +.j pg +? : +] ;ĊĊ +Ġcall back +ĠH ttp +Ñ Į +l ong +M S +AT H +Ġr aise +Ġwant ed +row n +ut or +l t +] = +el ine +M A +Ġse par +c s +se mb +D is +bs erv +ĠW ill +Ġpol icy +Ġth ird +ph one +Ġb ed +/ g +. __ +ĠIn c +iz ing +.re move +in stance +.t ype +Ġs erv +E ach +Ġh ar +ĠM essage +( key +SE LECT +P os +)) ;čĊ +Ġre comm +Ġtr aining +ĠE nt +ĠCh ar +ic ht +(f ile +Ġp rior +G ame +Ġex it +Param s +.c ore +P C +n es +anc ed +( request +P assword +} >Ċ +Ġm ag +Ġre lease +Ġsh all +ud ent +ĠS outh +and o +: ' +.Tab Index +s k +ann er +is set +Ġout side +led ge +Ġ å +ĠR ob +Ġim m +! Ċ +ĠWe b +D es +B C +anc ial +R oute +D ec +fer ences +Ġp urch +ĠM odel +ct or +g n +_st art +_ un +. * +is es +Ġg round +Ġun ique +Ġbe aut +{ " +Ġp our +ĠO ct +Ġt ree +set s +_ res +') -> +_re g +(" \ +Ġby te +B l +Ġd ating +Ġm atter +ĠR em +Ġ' ../ +ĠA ug +ĠL a +Ġ$ ( +ourn al +i am +Ġshow s +w rite +Ġb all +Ġsim ply +Ġf ast +Ġmem ory +A SS +ĠO f +ov ed +ant e +a ul +ist ry +)) );Ċ +Ġf it +< string +Ġpolit ical +anc el +_ . +c ard +.c urrent +o ch +_ image +\ t +# Ċ +( L +Ġindu stry +com ing +Ġex tra +Ġreport ed +.st art +Ġres ources +Ġim g +fl ow +_E X +(n ull +ĠP re +Ġwr ong +inter face +Param eter +n ers +á » +t ure +ers ist +oun try +Ġseem s +al ance +de st +ĉ String +Ġm aint +Ġun it +act ers +ĠT R +if ul +export s +pro ject +App lication +leg ate +Ġt akes +ter m +Ġet c +ust er +Ġappe ar +add ress +Ġf em +h s +Ġh om +, - +Ġdiff icult +Ġcom ing +O pen +Ġset tings +ĠW ar +ĠTh en +Ġaut om +ĠF oundation +Ġqu ite +D escription +Ġb log +i qu +P S +_f ield +J son +SS ION +ĠS ch +ĠL O +Ġdes cri +Ġevery one +Ġpret ty +Ġlong er +Ġm enu +Ġcurrent ly +se c +Ġrelations hip +################ ################ +ĠM ap +as et +Ġparam eters +Ġcr ush +" čĊ +IL ITY +ig ration +Ġc out +t otal +Ġn ames +nd ef +") ; +ri end +yn amic +Ġeff ort +Ġact ual +Ġfield s +O UN +t ers +Ġf ix +_m odel +Ġc ases +C A +M y +Inter face +ĠS E +] ] +al le +ĠN ational +ĠArray List +in line +. V +ar a +ref ix +as c +Re ader +ĠÐ ¿ +ast ic +( () +C l +.annot ation +Ġperform ance +ail y +.to String +.n et +view s +. end +ay ers +l ate +ĠA pr +ed eral +'] ) +.b ody +Ġhigh er +_f l +c r +al ert +_n ode +ĠG oogle +Ġit self +A uth +urrenc y +Ġsignific ant +app end +Ġres pect +str ap +Ġun a +riter ia +P ORT +.ap ache +Out put +Ġpro gress +Ġm id +ĠM icrosoft +Ġres ource +ab lish +Ġd im +. load +.A pp +Ġd irection +Ġadd itional +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠ +Ġnum bers +Ġcompan ies +.T h +Ġs ound +user name +Ġstat ement +Ġal ert +Ġcon tract +h ome +_l ength +.Com ponent +e v +. Ex +ï¼ ļ +" ; +ĠH igh +Ġ )ĊĊ +ĠP oint +op h +Ġl ines +-> _ +" )ĊĊ +o x +app lication +Ġ ]Ċ +ĊĊĊĊ ĊĊ +Ġso on +ction s +ing er +Ġj oin +ĠP e +Ġ ë +Ġl as +. E +c ss +/ or +ĠSt art +ĠT O +Ġsub s +con n +com ponents +DE BUG +qu are +F unction +end ar +. index +Ġf ill +Ä Ļ +Ġcho ose +h ow +ĠAmeric a +ass ets +-------- ---- +ĠV alue +Ġoff ice +Ġv eh +Ġtrans form +ĠAr t +Ġin de +Ġf n +Ġim plements +ang o +ple te ++ " +t mp +am ily +Ġhas h +miss ions +E ST +g t +Pro vider +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +Ġfl ag +Ġpartic ip +d en +ĠReturn s +Ġnot e +ü r +p m +ide os +Ġspec ified +ĠE N +est er +ol id +Ġup on +( std +ĉ v +Ġ' \ +u z +Ġv ert +Ġv ict +ĉ self +Ġ" $ +. k +Ġgroup s +g ithub +l ang +Ġm ut +T O +Ġv e +ĠP lease +;ĊĊ Ċ +ac cess +Ġ{ " +re a +Ġr isk +ick er +og gle +ĉ while +AN G +.s end +Ġwom an +Ġget s +Ġ ign +ĠI d +_ log +ON E +Ġe vid +ĠH ar +_s ub +Ġend l +Ġinclud ed +() );ĊĊ +ĠA p +ig r +Ġs em +ĠBl ack +d oc +_t able +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +- up +Ġca use +Ġ .. +Ġv an +_d ict +Ġf ocus +IN D +CE SS +.L og +Ġmult iple +id o +Ġreg ard +- M +and ler +our se +Ġde g +. U +Ġadd ition +Ġvar ious +Ġrece ive +е н +ĠH T +Ob j +D F +Ġincre ase +ĠO pen +] ; +Ġcomm it +? Ċ +ateg ories +at ory +sh ip +ĠM ich +Ġh tml +rom ise +Ġle ave +Ġstr ateg +av en +ĠCon sole +k nown +- n +_ LE +.com ponent +Ġb re +S ession +i ance +Ġal ign +typ edef +_ result +ĠW HERE +.s plit +Ġread ing +FA ULT +Ġc lo +Ġnot ice +_p r +ar ter +Ġlo ck +Ġstand ard +et ic +ell ow +Ġp adding +ĠH is +Ġst ates +_c ast +( P +a a +Ġintern al +e an +ĠP RO +ĠK ey +Ġes pecially +m ing +Ġc ross +Ġn ational +_ object +f ilter +Ġs cript +. update +_ i +ĠAss ert +/ core +%% %% +Ġproble ms +ist or +Ġ. = +Ġar ch +Ġwrit ten +Ġm ilit +M ENT +. ch +ca pe +ĠM us +_ config +ĠA PI +fo ot +Ġim ages +end l +. In +F irst +Ġpl atform +.pro t +O ption +st e +ĠT ODO +Ġfor ce +. cont +ĉ echo +ĠD av +P tr +( B +R T +ĠB ase +] [' +Ġann ounc +con sole +ĠP y +d s +. as +Ġpre vent +ap an +Ġ{ ' +} ' +Ġde ad +V AL +Q UE +**************************************************************** ******** +Ġch arg +R eturn +Ġf ul +d om +Ġr ules +Ġmod ify +Ġe val +h am +at ement +\ < +ul a += False +R A +Ġcont ains +Ġst ack +m ar +Ġ{ }Ċ +Ġund efined +A ss +ĠCh ina +ve y +* Ċ +Ġplay ing +) / +act or +Ġb ottom +li er +ĠN umber +Ġcou ple +D C +ĠS O +g or +.set Text +s uccess +com mand +F ilter +ĠO ur +_ item +Ġc tx +Ġro ad +V ersion +c ase +ur t +av ior +y ch +semb ly +ĠPro duct +Ġh eld +a fe +Ġinclud es +< quote +Ġa void +ĠF in +ĠM od +Ġt ab +an o +à ± +ipp ing +- e +Ġins ert +t arget +ch an +.M odel +IM E +\ Ċ +Ġm achine +av y +ĠN O +ĠInt er +Ġoper ation +mod al +T ag +] : +Ġprodu ction +Ġare as +Ġre n +_f rom +n bsp +Ġoper ator +m en +app ed +_p er +z en +(" . +.s ave +=" {{ +Ġt or +( response +Ġc andid +Ġcon v +a iled +ĠL ib +com p +ur a +ï¿ ½ +ĠH ere +Ġarg ument +h ood +Ġest ablish +ograph y +Ġon Click +amb da +Ġs ch +Ġmov ie +Ġse c +Ġact ivity +Ø § +Ġs ql +_ all +inc ip +Ġprovid es +Ġs ys +ack et +Ġwas n +Ġus es +ĠF unction +.g oogle +ĠRes ult +Vis ible +ag ma +el come +ĠS y +ĠC ent +AL SE +ac ión +EX T +Ġl icense +ĠL ong +Ġacc om +Ġab ility +. height +Act ive +olog ical +ol y +)) , +.S e +Ġparam eter +pr ite +AB ILITY +.s ervice +ĠG roup +_ query +ĠI tem +in ing +Ġj ud +im s +f ix +ind er +ag ram +Ġfunction s +Ġexper i +ĠE m +Ġro t +Ġp en +.b tn +ĠA S +#if def +Ġcho ice +ĠP age +_P RO +Q U +å ı +ant ity +Â Ń +word s +Ġread only +Ġf lex +prot ected +ĠAn y +Ġchar acters +enc ed +ĠJ uly +il er +C ard +ur ance +Ġre v +.e vent +al y +Ġwon der +ĠP ort +Ġleg al +ro le +Ġt en +Ġgo es +M P +wh ite +): čĊ +)) čĊ +Ġre ference +Ġm is +ĠPro ject +ick s +> & +C ON +Ġre pl +Ġreg ular +St orage +ram ework +Ġgo al +Ġt ouch +.w idget +Ġbu ilt +d es +P art +( re +Ġw orth +h ib +g ame +ĠÐ ² +ac ion +ĠWh ite +(t ype +( ` +Ġn atural +Ġin j +Ġcal cul +ĠApr il +. List +Ġassoci ated +ĉ System +~ ~ += [ +Ġst orage +Ġby tes +Ġtr avel +Ġs ou +Ġpass ed +! = +as cript +. open +Ġgr id +Ġb us +Ġrec ogn +A b +Ġh on +ĠC enter +Ġpre c +b uild +HT ML +ĠS an +Ġcoun tries +a led +t oken +k t +Ġqu al +L ast +ad ow +Ġman ufact +id ad +j ango +N ext +x f +. a +Ġporn o +ĠP M +er ve +it ing +_ th +c i += None +g s +Ġlog in +at ives +'] );Ċ +Ä ħ +Ġ ill +I A +child ren +D O +Ġlevel s +Ġ{ { +Ġlook s +Ġ" # +To String +Ġnecess ary +ĠĠĠ Ċ +c ell +En try +Ġ' # +Ġext rem +Select or +Ġplace holder +L oad +Ġre leased +O RE +En umer +ĠT V +SE T +in q +P ress +ĠDep artment +Ġprop erties +Ġres pond +S earch +a el +Ġre qu +ĠB ook +/ Ċ +( st +Ġfin ancial +ick et +_in put +Ġth reat +( in +Str ip +ì Ŀ +ç ão +Ġevid ence +)) ; +ĠB ro +Ġ[ ];Ċ +Ġ ou +b uf +S cript +d at +Ġr ule +# import +=" / +S erial +Ġstart ing +[ index +a e +Ġcon trib +s ession +_ new +ut able +o ber +Ġ" ./ +Ġlog ger +Ġrecent ly +Ġreturn ed +č čĊ +)) )Ċ +ition s +Ġse ek +Ġcomm unic +Ġ" . +Ġuser name +E CT +D S +Ġother wise +ĠG erman +. aw +Ad apter +ix el +Ġsystem s +Ġd rop +Ġstruct ure +Ġ$ ("# +enc ies +ann ing +ĠL ink +ĠRes ponse +Ġst ri +Å ¼ +ĠD B +æ Ĺ +and roid +sub mit +ot ion +( @ +.t est +ĊĊĊĊ ĊĊĊĊ +] ;čĊ +Ġdirect ly +Ġ" % +r is +el ta +A IL +) {čĊ +m ine +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠ +( k +b on +as ic +p ite +__ _ +M ax +Ġerror s +ĠWh ile +Ġarg uments +Ġens ure +R ight +-b ased +We b +Ġ- = +Ġint rodu +ĠIn st +ĠW ash +ord in +j oin +D atabase +Ġgr ad +Ġus ually +IT E +Prop s +? >Ċ +ĠG o +@ Override +RE F +Ġ ip +ĠA ustral +Ġ ist +View ById +Ġser ious +Ġcustom er +.prot otype +od o +c or +Ġdo or +ĠWITH OUT +Ġpl ant +Ġbeg an +Ġdist ance +() ). +Ġch ance +Ġor d +c ame +pr agma +Ġprot ect +rag ment +ĠN ode +en ing +Ñ ĩ +Ġr oute +ĠS chool +h i +Ġne ighb +A fter +lic it +Ġcon tr +Ġpr imary +A A +.Write Line +util s +Ġb i +R ed +.L inq +. object +Ġlead ers +un ities +Ġg un +on th +ĠDe v +F ILE +Ġcom ments +_l en +ar row +am ount +R ange +s ert +Grid View +Ġup dated +ĠM o +Ġin form +oci ety +al a +A ccess +Ġh ab +Ġc reat +_ arg +ĠJan uary +ĠD ay +") čĊ +up le +d ocument +gor ith +m enu +ĠO ver +b b +.t itle +_ out +Ġle d +ur i +Ġ? >Ċ +r un +Ġsc ene +( array +de vice +_t itle +ag on +] čĊ +ab y +Ġbe came +bo olean +Ġp ark +ĠC ode +up load +rid ay +ĠSept ember +F e +Ġs en +c ing +F L +C ol +ut s +_p age +in n +Ġim plied +al ing +Ġyour self +.C ount +con f +Ġa ud +_in it +. ) +Ġw rote +N G +. Error +ä » +.f or +Ġe qual +ĠRe quest +Ġser ial +Ġallow s +X X +Ġm iddle +ch or +à ¸ +erv al +.C olumn +read ing +Ġesc ort +ĠAug ust +Ġquick ly +Ġwe ap +ĠC G +rop ri +h o +Ġc op +( struct +ĠB ig +Ġv s +Ġfre qu +. Value +Ġaction s +Ġpro per +Ġin n +Ġobject s +Ġm atrix +av ascript +Ġon es +.g roup +Ġgre en +Ġp aint +ool s +y cl +enc ode +ol t +com ment +. api +D ir +Ġun e +iz ont +.p osition +Ġdes igned +_ val +av i +ir ing +t ab +Ġl ayer +Ġview s +Ġre ve +ra el +ĠO N +r ics +n p +Ġc ore +() );čĊ +M ain +Ġexp ert +ĉĉ čĊ +_ en +Ġ/ > +ut ter +I AL +ail s +ĠK ing +*/ ĊĊ +ĠM et +_ end +add r +or a +Ġ ir +M in +Ġsur pr +Ġre pe +Ġdirect ory +P UT +- S +Ġe lection +h aps +.p re +c m +Val ues +Ġ" Ċ +c olumn +iv il +Log in +in ue +Ġbeaut iful +Ġse cret +(e vent +Ġch at +um s +Ġorig in +Ġeffect s +Ġman agement +ill a +t k +Ġset ting +ĠC our +Ġmass age +ĉ end +Ġhapp y +Ġfin ish +Ġc amera +ĠV er +ĠDem ocr +ĠH er +( Q +con s +it a +Ġ' . +{ } +ĉ C +Ġst uff +Ġ :Ċ +ĠA R +T ask +h idden +er os +IG N +at io +ĠHe alth +ol ute +Ent er +' > +ĠT witter +ĠCount y +s cribe +Ġ= >Ċ +Ġh y +f it +Ġmilit ary +Ġsa le +re quired +n on +boot strap +h old +r im +- old +ĠD own +Ġm ention +cont act +_g roup +od ay +Ġto wn +Ġsol ution +u ate +ell ing +] -> +ot es +ent al +om en +osp ital +ĠS up +_ EN +Ġsl ow +SE SSION +Ġbl ue +ag o +Ġl ives +Ġ ^ +. un +in st +en ge +Ġcustom ers +Ġc ast +ud get +ï¼ ģ +ic ens +Ġdeter min +Se lected +_ pl +ue ue +Ġd ark +// ĊĊ +s i +ther n +ĠJ apan +/ w +P U +ĠE ast +ov ie +Ġp ackage +Ġn or +Ġap i +b ot +" ];Ċ +_p ost +ul ate +Ġcl ub +') );Ċ +Ġlo op +PI O +ion e +sh ot +In itial +Ġplay ed +reg ister +rou ght +_m ax +ac ement +m atch +raph ics +A ST +Ġexist ing +Ġcomple x +D A +.C h +.com mon +m o +Ġ' ../../ +it o +Ġanal ysis +Ġdel iver +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +id x +à ł +ong o +ĠEng lish +< !-- +Ġcomput er +EN SE +Ġp as +Ġr ais +H ash +Ġm obile +Ġo wner +F IG +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +th es +Ġat tr +w d +.t ime +aw n +Ġtreat ment +ĠA c +. View +im pl +m ore +p ass +Ġh a +.f rom +Ġle ading +FF FF +( error +. ui +at ar +ad ers +d ates +Ġz u +Ġfl ow +T arget +Ġinvol ved +Ġi o +par se +$ _ +he st +. int +- item +as y +S p +Ġsh ift +N T +Ġt f +_T R +. web +C S +Ġ} ) +Ġey es +_ z +' );čĊ +if orn +Ġ{ @ +Ġn ice +.l ist +ĠĠĠĠ čĊ +Ġf loor +Ġred irect +ĠU K +( [' +Ġw ish +Ġcap t +leg al +ĠI O +Ġst age +. String +ĠA fr +ig en +ĠS H +De lete +ell s +Ġsol id +Ġmeet ing +Ġwork ed +Ġed itor +in y +Ð ¼ +_ read +. Id +e ff +Off set +ch a +US ER +ĉĉ ĠĠĠ +ipp ed +Ġd ict +ĠR un +.h pp +Ġan g +x ml +im ple +Ġmed ical +_t oken +con nect +Ġh our +Ġcont roller +_m essage +U ID +G r +and ed +_C H +Ġbook s +Ġspe ak +am ing +Ġm ount +Rec ord +ĉ struct +.W eb +ond on +Ġ// Ċ +Ġf elt +.A uto +id ge +_p os +P R +Ġmod ern +C ollection +_m sg +C D +ĠL o +Ġsecond s +ib ly +.e quals +Ġintern ational +# pragma +oo th +W riter +i ate +Ġce le +ĠB it +iv o +iv ery +r d +HE CK +Ġc ache +.c ount +Ġro ll +.Re ad +RE D +Ġset up +izont al +model s +arg v +Ġconsider ed +=" ../ +set tings +ĠR el +Ġgrow th +Ġm ix +ĠWash ington +Ġpl t +ĠI M +á º +Ġturn ed +ĠDate Time +ĠW ed +( url +Ġ" - +Ġlet ter +As ync +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠ +ĠOct ober +_l ine +Ġatt ention +Ġcol lect +ĠH ash +Ġim ag +T ree +Ġsit uation +et te +_n o +IV E +Ġv on +.t arget +Ġknow ledge +Ġdr ive +.p ost +Ġb lood +Ġc it +pr imary +Ġconfig uration +te e +Ġph oto +is ode +Tr ace +Ġg ave +Ġsh ot +ĠA ir +Ġm other +pr ice +Ġmor ning +)) {Ċ +- x +Ġtr ade +Ġdes c +Ġ&& Ċ +Ġparent s +A pi +å Ī +t ed +w er +Ġ æ +Ġs y +ĠK e +Par ser +å ħ +anc y +Ġpie ce +iforn ia +to String +r an +id ing +PT ION +com es +/ lic +.c lient +E l +L ong +Ġprofession al +ru pt +v a +Ġcomplet ely +Ġpract ice +Ġse lection +R em +in i +Ġc am +RE E +Ġsit es +p a +AT US +Ñģ ÑĤ +arr ant +* ( +_ KEY +ĠB utton +ĠF riday +se qu +Ġre ader +Ġm essages +è ¯ +Ġbu f +K e +Ġn ov +H P +M sg +al ign +ar ily +Ġ' , +_w ith +Ġd as +Ġhe ard +at omic +ri al +) [ +Ġdis e +@ end +Ġg old +Ġf air +Ġsa les +. Button +str ict +s ave +Ġme asure +Ġ" + +ec ause +View Controller +ĠT able +.p aram +Ġdec ided +(( ( +IN FO +Ġopport unity +T e +IC ENSE +cc ording +k i +ĠU N +Ġcont ain +Ġman ager +Ġp ain +ĠF ire +rom e +Ġpl ans +F ound +l ay +ĠDec ember +Ġinfl u +à º +ren ch +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ġ +az ing +b rief +c all +wo od +Ġload ed +Ġgr and +/ f +im p +_ U +ST R +âĢ ¢ +Ġcred it +.C olor +or ge +QUE ST +Ġdiffer ence +ĠP C +w args +Ġp ub +und ay +Ġf ra +.m ax +Ġtri ed +ann els +s end +Ġreport s +Ġad ult +ä º +Ġcons ist +ĠSt reet +ĠPro gram +S QL +M atrix +ounc il +- A +ĉ w +Ġwho se +Ġrel ig +ĠS ex +Ġg ives +n one +.m essage +( G +.aw t +- right +ĠNov ember +ell ig +ut ive +Ä ĥ +over n +Ġeas ily +Ġide as +ĠÐ ½ +/c ss +ly ing +el le +C an +_c olor +оР² +Ġp air +ng th +Ġs plit +d rop +art y +on a +Ġcap ital +Ġhe ar +Ġex ists +ĉ log +em o +R un +o i +Ġpar ser +ĠM ethod +Ġeduc ation +[ k +Ġlib rary +> ";Ċ +_ UN +ĉ std +od ed +Ġcall s +h ere +R el +Ġbr and +back ground +g a +_add ress +_param s +C ategory +ĠInd ia +_e vent +Ġ ing +R ender +.c l +ump y +Ġp et +F C +ĠA nt +Ex t +Ġchar ge +en ed +gr ad +E O +Ġdep end +Ġ .ĊĊ +fr ame +Ġd f +Ġh uge +ĠP ART +ed s +; ; +ĠA M +Ġbas ic +ĠL et +lic h +Ġar m +Ġst ar +Ġf ederal +W ork +Ġcar ry +ĠIs rael +( obj +={ { +Ġs aved +Ġs yn +Ġconst ant +V ENT +Ġpos itive +Ġcon duct +Ġsk in +Ġear lier +Ġl ayout +ĠI P +O UR +Ġt im +styles heet +_ cl +ĠC ard +++ ){Ċ +Ġtem per +ĠDav id +ĉ try +.d art +Ġwant s +Ġp icture +Ġv ideos +ĠCom m +is ions +_M AX +M apping +- content +ĠE ar +- de +Ġpre m +br uary +Ġcom ponents +Ġthrough out +Ġp ull +Ġp ages +ent e +res pond +Ġg as +cript or +Ġed ge +Ġb ound +A CT +**** ** +Ġcre ating +ĠC H +Ġnull ptr +B r ++ ' +.c o +> :: +Ġle arning +.L ength +_S H +Ġpat ients +A IN +Ġk ids +Ġcom fort +Ġsh own +ug ins +ĠB ack +ell a +_C L +Ġl at +Ġdis patch +Ġclass es +. at +.b egin +Ġsuccess ful +b an +Ġobt ain +ĠS l +Ġl ack +iter ator +Th read +(s ize +Ġn one +.h as +_ X +s ort +n ap +p et +b in +ĠCan ada +The y +Ġd ans +ĠM at +< td +Ġh air +Ġ' ',Ċ +Ġc u +Ġlaw s +let ed +p ed +Ġp ow +Ġk new +_C OM +_ , +ĠM ag +id ents +( req +Ġ ), +- center +Ġw ide +ĠA uthor +st ants +Ġjob s +Ġm ath +et imes +Bo olean +Ġs cope +_ is +Ġme as +Ġkey s +el ay +Ġexact ly +'=> ' +ĠP aul +m as +ĉ print +(l en +f d +Ġ) ; +. Event +q li +ir it +ield s +om an +ĠT op +Ġv ote +Ġm ask +Ġthem e +- Ċ +Ġpro ps +Ġf ine +Ġwrit er +_ offset +c ar +Ġal tern +Ġc opyright +Ġdest roy +pp er +Ġgener ate +pp ed +âĢĻ d +ĠĠĠĠĠĠ Ċ +m ake +ĠSh ow +Ġb rowser +Ġfavor ite +Ġcare er +Ġhappen ed +( char +Ġrecomm end +Ġl iter +.f ilter +gr ade +Ġ £ +Ph one +om s +Ġn amed +- label +ip o +ĠO ther +Ġp anel +Ġro ck +S cale +ĉ assert +Ð ´ +Ġtr ust +fr ont +Ġdem on +A r +N et +Ġecon omic +foot er +Ġr ace +(n ode +ĠO ption +s plit +Ġphys ical +if est +Ġrem oved +. http +)) ,Ċ +Ġlook ed +' ; +d ing +g est +atur day +/lic enses +Pr ice +Ġd ro +Ġto wards +Ġun s +ĠC L +ĉ static +Ġ rows +Ġdef ine +.re place +Ġf ather +ĠDes ign +ass ign +m ut +De vice +D id +') )Ċ +omet ry +ay load +Ġh istor +ĠP aram +ĠBo olean +Ġn ature +Ġj s +Ġn ation +i h +Ġdis cover +se m +Hand le +ĉ r +ĠTe chn +Ġw all +{ $ +@ property +Ġ" ../ +Ġex am +.d raw +opp ing +Ġnear ly +Ġco ol +Ġinde pend +RE S +Ġhand ler +ĠMon day +Ġs un +St yles +ous ly +Ġ ĉ +v est +D isplay +( y +atic ally +Ġpred ict +y ing +Ġsom etimes +" ]Ċ +Ġdr ink +Ġb ul +ific ations +. insert +.re g +Ġtest s +Al ignment +Ġal leg +Ġat tribute +ĠN ote +Ġmy self +art s +N ow +Ġinterest ing +li ents +Ġpop ulation +ĠCal ifornia +" I +å ¹ +Ġgre ater +ues day +Ġth ous +Ġcost s +Ġla unch +\ Http +k er +b and +ĠPl ay +Ġb and +.sh ape +es ome +art icle +.r f +Ġw er +á s +em bers +us r +B A +ic an +et t +valid ate +ult i +Ġimmedi ately +z er +Ġfig ure +o es +ell er +irc le +ĠS ign +.d b +Ġr ank +By tes +Ġproject s +_re c +UL AR +A PI +ĠL ine +P ort +Ġp oll +Ġg iving +id ence +-- Ċ +Ġpl ot +ic ial +Ġw arrant +IT ION +ĠD ouble +Ġbill ion +gorith m +Ġequ ipment +D ATE +Ġ@ " +E E +Ġp le +i ation +Ġhead ers +Ġpro ced +.Component Model +ĠOb ama +Ġp a +ĠB est +im ately +.get String +. \ +mp loy +Ġr aw +_b lock +und red +" },Ċ +.Group Layout +Ġb rought +NS String +th row +cre ated +.N ew +_ view +C P +ep s +O p +Ġgr atis +Ġ' " +Ġinter view +"" "Ċ +Ġpart ial +Ġa ria +b ing +A uthor +Bo ok +ĠP at +um an +Us ers +pl us +ĠD irect +ven ue +al pha +UC CESS +ĠC all +Ġ );čĊ +im ated +Ġrem ain +Ġant i +ĠL ondon +Ġsaf ety +PO SE +o les +cont roller +By te +ĠCour t +ĠPh il +ĠAss oci +en a +å IJ +_ST R +co in +resh old +Ġb atch +_C lick +entic ation +> ';Ċ +ent y +Ġbegin ning +Ġz ero +ĠCon vert +Ġt err +Ġp aid +Ġincre ased +c atch +-s ize +act ivity +e quals +Ġque ue +Ġ" ' +ĠIntern ational +Ġf ür +urs day +Ġsc ient +all ow +ax is +Ġapp ropri +ed ge +Ġid x +S uccess +ent ifier +: \ +x is +Ġmax imum +ark s +Ġb irth +( index +Ġmay be +.p y +file s +Ġlim ited +_ check +lo ok +pl ies +Ġmov ement +'] . +Ġbro ad +ĠB E +ĠUn ityEngine +.c pp +ĠE very +Ad min +Ġf ans +p ared +Ċ ĠĠĠĠĊ +Ġfore ign +Ġp an +Ġt our +ĠOr der +Ġmov ing +Ġa uf +C all +c b +Å Ł +vent ory +ĠS ql +Ġful ly +Click Listener +W ORD +Ġannounc ed +) čĊčĊ +Ġagre ed +ri e +Ġe arn +_l ink +. array +(t ext +Ġmaterial s +, p +ff ff +v g +Ġ © +Ġun less +aj ax +LO G +Ġsex ual +Ġ\ " +- time +Ġco ach +Ġsupport ed +Ġphot os +if orm +.C reate +) ] +ri er +Ġd ialog +av er +ig e +) + +_id x +: [ +_m in +ĠC ong +Ġpress ure +Ġteam s +S ign +b egin +ri an +NE SS +L S +Ġimpro ve +ĠS unday +Ġdef inition +ig er +roll ers +Ġthink ing +T emplate +- F +Ġem erg +pl ates +ĠUS A +.set State +ĠAl so +re v +Ġen able +ĠC O +PE CT +Ġcon cept +) - +ĠâĢ ¢ +Ġset s +Ġmean ing +em on +ĠCon s +c mp +ed er +ann ed +icens ed +ĠS uper +Ġd aily +Ġmult i +_ u +Ġchall eng +_m ode +ĠP romise +Ġstr ict +j o +int on +( list +On ly +> { +Ġveh icle +í ķ +ĠPl ayer +ĠD el +Ġp ool +. url +nes day +();čĊ čĊ +Ġ" );Ċ +L ocal +. ");Ċ +Ġorgan ization +re nder +ĠApp lication +Ġsum mer +ex pected +N A +Ġr ap +_ obj +Ġsur face +ĠP UR +Ġ}, ĊĊ +Ġvariable s +(m essage +Ġop in +.b ack +а н +Ġwork ers +v m +C o +ught er +Ġm aster +Ġ" ", +Ġst ories +. User +Ġcele br +ines e +B S +ĠCom mand +ash board +Ġo g +k g +. image +.st yle +Ġstep s +ĠB en +( args +ĠP erson +, y +Ġofficial s +| Ċ +Ġsk ills +v c +Ġbuild er +Ġg ar +A ccount +ĠA uth +ç Ķ +'] )Ċ +ĠA T +n n +. Int +SS ERT +Ġeffect ive +LE TE +Ġto ols +AR D +Ġdig ital +D ouble +ĠF ind +R C +Ġin line +/ r +AR AM +AS K +Ġint ent +a ight +_add r +Ġrequest s +.f irst +Ġde bug +Ġsp ent +() ));Ċ +Å Ľ +Ġpr incip +Log ger +clud es +. use +Ġsur v +med ia +ĠFe bruary +ĠM ac +Ġmiss ing +Ġw ife +Ġtalk ing +ĠM ake +Ġc art +Ġloc ated +E nc +- a +ch ron +Ġc ards +Ġgu y +Ġp ers +ĠY es +ate ver +ĠA ng +ol ar +ĠE ven +Ġacc ur +ĠP ower +ĠG old +c lear +Pro cess +Ġrec ords +Ġk illed +.c lear +ĠWARRANT IES +Ġpur pose +pan el +J ECT +ÃŃ a +Ġex erc +W S +/ L +. exports +Ġ__ _ +Ġs in +S ervlet +Ġd é +.de lete +ro ke +S l +ug h +ear s +Ġpoint er +Ġh op +all ery +Ġo bs +co very +ĉ char +ĉĉĉĉ ĉĉĉĉĉĉ +ĉ def +oc ity +itch en +ul ations +ĠF IT +Ġ ). +straint s +vent ion +Ġrequ ires +ĠO per +M E +OUN T +al let +Ġn orm +I RE +ex as +Ġprogram s +Ġwe ak +' .$ +u ing +ĉ ĠĠĠĠĠĠĠ +Ġm il +Ġf irm +init ely +_VAL UE +ap se +atis f +Ġdem and +_m od +Ġdescri bed +Ġpl aces +V ID +Ġal one +Ġex port +Ġv ec +ĠM ax +Ġactiv ities +ict ures +g ener +Ġm a +Ĥ ¬ +Ġexpress ion +C allback +_ content +ĠM ost +Ġtest ing +E C +CH ANT +Ġad just +.Th reading +( ctx +Ġag ree +ig hest +Ġu i +ĠL aw +. Y +> ĊĊ +.ex ample +ber g +Ġmov ed +ĉ e +ĠS aturday +Ġpay load +Ä ĩ +) :ĊĊ +Ġbe y +ur er +< script +Ġs ymbol +Ġass um +Ġp ul +E ffect +Ġh undred +To ol +ak ed +con nection +Ġvo ice +Ġp d +Ġtrans action +Ġlink s +E rr +ĠInd ian +T C +atal og +n i +s ign +<< " +j i +y a +Ġdemon str +ul ated +. St +Ġinst it +Ġbo ost +Ġcell s +ol ic +.P ro +: , +"> \ +Ġth us +ĠReg ister +h ol +ĠCh inese +Ġpost ed +Ġm agn +ab ilities +Ġdise ase +Ġrem ains +ĠPro f +- form +Ġc in +org an +ic ate +Ġst ress +] * +Ġ ---------------------------------------------------------------- +_ context +or ry +Ġd ied +m at +Ġstart s +.M essage +Ġrun s +Ġgu ide +Ġwarrant y +ential s +d ict +ĠS ize +ul er +Ġrespons ible +_SE T +Ġcont aining +ĠPr ice +| | +F S +Ġem p +_b utton +( uint +Ġsu ff +p th +Ġdef initely +put e +Ġmarket ing +ĠW H +ĠS ie ++ = +OL OR +Ġcons ult +Ġs igned +Ġse quence +le e +Ġrequire ments +h y +Ex press +M T +se y +Ġ ult +å ® +ellig ence +Ġanal y +Ġd ress +eng ine +ĠG reat +ĠAnd roid +ĠA lex +m ode +D ictionary +.D ate +ä ½ +V ICE +Ġfam ilies +ĠRuss ian +ĠT imes +.c all +$ ( +Pro file +Ġf older +ch es +Ġleg is +_ row +un es +Ù Ħ +Ġ} ). +Ass ert +ag en +ĠH and +I ter +Ġbig gest +ore ach +Ġpol ic +Ġper missions +Ġshow ed +ĠE lement +Ġtop ic +âĢĶ âĢĶ +ro ad +ĠB ank +rec ord +Ġpart ners +ĠR ef +ess ions +Ġass ess +U ST +ĠPart y +pro du +L C +Ġ ul +. form +h ide +c opy +UT F +ĠSO FTWARE +čĊčĊ čĊ +ĠL in +un a +ug ar +Ġadmin istration +Ġopen ing +Ġsc an +Ġcontin ued +com ponent +.s p +Ġhapp ens +um my +ĠP R +.F ile +ĠDown load +Lo ading +d i +Ġwait ing +_A DD +T ab +.query Selector +Ġecon omy +ĠF rench +t xt +Ġf ant +_ ;Ċ +H older +S H +Ġn umpy +Ġst reet +Ġm ale +\ Model +ang ing +ĠB ill +Ġprevious ly +B I +ĠSec ret +Ġm ist +ĠF ield +up s +ĠPro cess +Ġke pt +ĠO T +Ġtrad itional +. i +am in +Ġhelp s +An y +orig in +ilt ers +j u +d esc +ĠA ccount +Ġ) čĊ +k top +ol ly +Ġf s +Ġ ê +Ġ ut +Ġcent ral +(t est +.A n +Ġs atisf +G R +ĠF ull +Ġhe at +ib er +Ġon to +m os +S chema +Ġfact ory +" .$ +aw s +St atement +(t arget +ĉ new +.b e +Ġg uest +Ġm al +AR Y +Ġre ached +Ġm ouse +Ġchall enge +ĉd ouble +ĠT em +Ġt error +Ġex tract +_T O +Ġsepar ate +Ġm ir +h elp +Ġcap acity +ĠProp erty +k an +_c reate +ĠL ight +.p arent +Ġunderstand ing +Ġeas ier +Ġ| = +Ġen h +Ġf at +Ġprot est +am m +_ AT +- of +il s +ĠO h +Ġps ych +Ġ$ . +ind s +Ġrel ative +sh op +sh ort +ĠS and +uest ion +Ġf ear +/ ĊĊ +. context +Ġschool s +Ġser ve +z one +_d b +Ġmajor ity +ex ample +Ġl ang +ĉ ĠĠ +Reg ister +end o +Ġprocess ing +_t emplate +- user +Ġe g +C OM +ĠBl ue +i ro +Ġrem ote +ĠI T +#! / +Ġred istrib +ra z +ĠS ince +ĠT ur +Back ground +== = +Ġref lect +Ġpro s +c md +Ġwh om +Com pat +ĠA re +Id entifier +ĠTh om +_ port +g u +Ġmon itor +r m +Ġpat ient +ver ter +Ġg ain +- ui +In st +Ġd ies +A rea +_f ilter +Ġgr at +Ġreal ity +ord inate +ol ved +Cont act +Ġcompl iance +_ or +ĠV ar +d l +Ġapp end +G ER +(m ax +.re nder +Ġd ynamic +ordin ates +_ options +_c olumn +Ġb atter +s pace +L a +ĠS ource +/b in +Ġd os +ĠBo ard +ĠTh read +ĠA L +( config +ĠM er +Ġm iles +_ header +ETH OD +iz z +Ġbenef it +Ġinteg r +(c urrent +ul o +. default +ĠD iv +Ġt on +o th +erv ation +ed om +Ġb aby +ce ived +.t op +rior ity +ĠL ocal +ri age +Ġattack s +Ġh ospital +Ġfem ale +ĠLog in +ĠFl or +Ġch ain +ash ion +Text ure +S ave +Ġf arm +.cont ains +.T est +Ġknow s +Ġgener ally +ip eline +Ġme ant +enc ia +Ġn icht +Ġcont ents +P M +ched ule +( line +C G +j ob +ĠRe al +u er +f irm +Ġ Ø +et ro +" `Ċ +Ġspe ech +Ġth r +fore ach +Ġw arn +ĉ l +Ġhe avy +< li +N e +Ġinvestig ation +M ath +- title +Ġch urch +Ġdes pite +ch ain +Ġwh atever +ar ian +f n +Ġm eta +} )ĊĊ +U FF +Ġregard ing +_S UCCESS +m es +ĠInt ent +Ġres olve +pos s +ir a +for ce +o ice +à ¢ +Ġp m +Ġup dates +A rr +Ġ Ñ +test ing +Ġto ward +nt ax +ë ĭ +Ġlist en +Ġgo als +Instance State +D r +Ġr are +Ġtr ail +Ke ys +C al +C ar +ĠPe ople +ĉ local +class es +Re ference +.for Each +em b +act iv +Ġpr im +red ict +Ġr ad +æķ ° +.B ack +Ġsp read +Ġc lock +Ġv ir +ed itor +Ġeffort s +Ġbr anch +Ġind ust +Ġmot or +Ġam b +Ġdat etime +Ġren cont +ĠChrist ian +ĠAmeric ans +f ull +Ġf mt +.m ain +Ġca used +_ update +ĠCont ent +AT CH +Ġb ath +ĠE ach +Ġr adio +ach ment +uz z +Sub mit +Ġre strict +ab in +ĠL oad +Ġext ension +Ġess ay +Ġh at +avi our +to Be +": [ +Ġoffer ed +Ġv ill +(d ouble +æĹ ¥ +b c +_f ree +ĠM iss +ĠB er +Ġ è +ĠL ike +Ġhelp ed +.get Name +_ AL +Ġsp irit +ĠAp ache +w s +Ġthere fore +( params +_ img +Ġpe ace +Ġinc or +ĠEX PECT +Ġmin or +ip es +ĉ data +select or +c ity +tr ie +.b ase +_f rame +Ġopen ed +/ json +L Y +n u +.D e +t f +m argin +.P arse +Ġp i +Ġe q +b d +Field s +ĠT ree +Ġb an +ist an +Ċ ĠĠĠĠĠĠĠĠĊ +ĉg l +Ġprodu ced +s ystem +M ark +_h ash +Ġb g +Ġconst it +ĠLe ague +Ġmiss ion +_ format +([ Ċ +clus ion +! " +Ð · +b reak +ĉs witch +Ġth er +Trans form +Ġfoot ball +- link +r oute +. auth +Ġb ag +ov ers +Ġen abled +Ġr ac +( I +C R +anc ing +Ġman aged +_ q +NG TH +Ġm ac +ĠA uto +ament e +Ġ' ', +.App end +Ġp in +. item +ack ing +Ġocc as +p erson +Ġt i +.Re g +Ġh aven +Ġg lass +Ġ" ) +_ char +res ource +Ġep isode +Ġ' _ +ĠE s +ĠEar th +Âł Âł +UP DATE +ĠS ou +u is +t ypes +Ġm as +Ġf av +Ġcon struct +_r ate +er as +Ġ| Ċ +rop erties +Ġext ernal +Ġap plied +Ġpre fix +ot ed +l ers +Ġc old +ĠS P +ĠCh urch +ĠOut put +los ed +ç ļ +ific ate +oper ation +her it +x FF +. env +_ err +os h +D irection +C ancel +ĠFr ank +Ġfind ing +. )ĊĊ +Ġr outer +ãĥ » +s es +Ġc row +== ' +Ġs and +Ġr id +it ure +Ġent re +Ġo bserv +Ġv ac +ð Ł +- T +A rt +n ight +. search +Ġex change +Ġdistr ict +. os +Ġdep artment +Ġdoc uments +Ġcent ury +ĠN ext +H ost +ĠK IND +Ġsus p +- P +re nd +. em +u ite +ist ers +( json +ĠAn n +w t +at i +ĠHT ML +wh en +D irectory +Ġsh ut +< a +ed y +Ġhealth y +Ġtemper ature +ĠG en +Ġmet al +Ġsub mit +ĠD O +Ġat tract +Ġ{ };Ċ +ĠW ord +Ġl l +Ġseem ed +k o +I ED +Ġl abor +.Cont ext +Ġas set +y ou +Ġc ars +ĠC olumn +Ġr é +Ġs quare +ĠNS String +âĢĿ , +ap es +.. .Ċ +Ġthan ks +( props +Ġt ick +Ġexper iment +Ġpr ison +t ree +- text +ĠIO Exception +-w idth +_ST ATUS +f ast +-b ody +- header +Ġgu ar +cre te +ĠT im +Ġclear ly +ĠRepublic an +Ġjust ify +и ÑĤ +ĉ ĠĠĠĠ +c ache +; // +Ġpres ence +Ġfact ors +Ġemploy ee +] )) +M ember +Ġselect or +b or +ĠM ex +çļ Ħ +ut ex +_t ag +ail ure +ĠN et +Ġre li +E G +Ġf printf +Ġte en +lo ss +Ġle aving +De legate +Ġbe at +Ġmin ute +sub scribe +Ġredistrib ute +Con stants +Ġcan cer +/ { +B L +Ġs pan +ĠCh ild +C enter +Ġear th +Y S +ĠLe vel +Ġse a +.s upport +.in ner +. Item +ill ing +ĠĠĠĠĊ ĠĠĠĠĊ +ĠL abel +ĠE st +( arg +bo Box +ĉf oreach +c os +F ailed +sw ers +Ed itor +r ont +ĠM P +ex pr +ĠL ife +Ġ? ? +ö r +Ġatt end +ĠQ ue +Ġspec ies +- D +Ġa us +Str uct +Ġadvant age +ost on +-b lock +in itial +C RE +Ġtr uly +Ġcomp are +or ney +Ġs pect +F ull +b es +Ġvis ible +Ġm ess +st ances +Ġcl oud +_v ersion +Ġf urn +ic ago +LO W +Ġtraff ic +Ġf ol +rypt o +Ġdecl ar +Ġsl ot +ĠEx t +ĠEng land +ĠU nder +Ġt a +let ter +Ġoffic er +ĠDon ald +Y es +_ json +IT ableView +ĠU SE +mploy ee +Ġopin ion +ĠA ut +b order +Ġad vice +Ġautom atically +is co +Ġm m +. vis +am l +Ġinitial ize +Ġ( { +Ġ ;ĊĊ +Ġgener ation +Ġb its +clip se +Ġun f +ut ors +pl t +Ġdel ta +est roy +is is +< br +Ġlimit ations +Ġend ed +ĠM ad +il m +Th ese +ĠMin ister +Ġch art +F ragment +Ġindepend ent +Y ear +Ġin str +Ġt ags +A VE +ĠAr ch +st op +Pro gress +Ġm i +Ġlearn ed +G e +Ġhot el +S M +T YPE +Ġc y +ERS ION +un ately +l imit +s el +Ġmov ies +Ġste el +o z +g b +ĠC amp +s ite +ĠLog ger +P LE +оР´ +. right +ĠC ore +Ġm ixed +st ep +Ġput s +s uper +R outer +. Http +ly ph +ĠColor s +Ġandroid x +. str +Ġinn ov +Ġde ck +' >Ċ +ap ers +] ( +cont inue +s pec +ĠR oad +AS H +ili ar +Ġcontin ues +Ġapp oint +Ġ# Ċ +ĠV ir +Ġ?> " +Ġb in +} ", +go ing +e ach +B D +ĠA ccess +D oc +ĠMan agement +B ER +ask et +.get Instance +Ġestablish ed +so cket +IN S +ĉv irtual +ĉ result +RE AD +_ height +ĠF ont +Ġ( );Ċ +_ html +Ġneighb or +l or +Ġg ather +Ġ} )ĊĊ +Ġid entity +Ġf ab +p adding +ĠR oute +Enumer able +à ´ +Ġfor ced +/j query +.ĊĊ ĊĊĊĊ +res ents +_ left +.P aram +ĉ throw +ĠH am +Ġevent ually +ac er +p ub +Ġtr a +un ique +d el +ĠFlor ida +ĠC lean +x a +Ġ · +Ġvalid ate +Vis ual +Ex pression +_f unc +m ember +ĉ h +tr l +ĉ G +nap shot +ĠProp Types +v in +] )ĊĊ +ow l +if ies +Ġ$ ('. +ĠCont ext +ĠTo ast +. Key +Ġoffic ers +/ n +s n +und efined +. items +ut ow +am age +Ġaccount s +ook ie +Se ction +ici ans +Ġad vis +( is +[: , +ĠFr ance +F unc +ic ious +Ġto k +Ch annel +ĠA D +_N UM +Ġtime out +lem ma +rem e +u j +.A l +uc lear +( os +(" < +[ Ċ +f etch +Ġb al +Ġgu id +- align +ĠW rite +ĠOn ce +utow ired +OD ULE +Ġp itch +C F +by tes +ĠCom mission +Ġincre d +P ER +_ response +ĠL os +par ser +Ġass ume +. Request +ĠT oken +_p osition +Ġn om +- term +Ġrem aining +i ostream +Ġpie ces +ap y +ĠL ess +r ange +umb n +pr ise +_ option +Im pl +k wargs +Ġbusiness es +Al ert +Ġpart ies +ĠCont ainer +ĠPr ivate +ĠPl an +Ġregister ed +Ġj our +ack er +ен и +/ > +ch at +se ct +Ġcre ation +olut ely +Ġinst ant +Ġdel ivery +ick en +y es +ĠFr anc +bl ing +end a +[ ( +_r ange +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠ +Ġsched ule +Con n +Ġthan k +x d +Ġh ook +Ġdocument ation +Param eters +H ello +v t +Ġart icles +Ġw est +def ined +. select +ok ens +ĠV AL +.f ile +res et +Ġmy s +ĠM A +] ), +Ġc ities +rel ated +å Ľ +Ġappe ared +Ġw id +.p anel +ĠIn s +. entity +Ġde cre +ĠL ou +(t ime +ĠTh ank +.create Element +Ġmention ed +oun ce +ĠT ry +ĠW all +/ images +ĠM enu +' čĊ +ĠE r +Ġcrit ic +ĠY ear +( param +Ġf lo +N N +oot er +Ġ ];Ċ +ĠA ff +" github +room s +Ġh yp +g lobal +Ġa vec +æľ Ī +Ġcomplet ion +Ġcon d +onym ous +( temp +Ġst ars +Ġre levant +Ġcover ed +Ġel im +_t ypes +( bool +Ġt u +_ex ists +Ġsec ure +Ġst ored +] / +x F +ĠCont roller +Ġm igr +M I +ĠD en +Ġann ual +U IL +- and +Ġcr ime +b el +Ġk itchen +@ g +_p h +ourn ament +ĠS ocial +ĠS pecial +log ger +Ġt ail +Ġun known +d ed +Ġapp rec +(d b +c f +Ġass ign +- out +ĠM ont +d p +w idget +Ġst one +- primary +. grid +Result s +az z +Ġda ughter +Ġcur r +Ġl in +Ġs outh +form s +ĠO UT +let te +ak s +ig ure +ĠE U +var iable +Ġb rief +ĠSc ott +Ġcon ference +and a +_ lock +or al +Ġe ine +OR S +//////////////////////////////// //////////////////////////////// +ess o +Ġr is +Ġg ender +est ic +L icense +( out +Ġm s +Se e +Ġwill ing +az e +Ġs ports +Ġy es +l u +Ġp urs +/j avascript +- pro +nav bar +_pro duct +/ bootstrap +Ġdr iving +Ġ Ä +Ġpro pos +ult ip +up lic +. email +Ġappro x +( cl +Ġwe ar +Ġrep ly +ass et +Ġ ice +Ġt x +k r +ĠGerman y +ĠGe orge +Ġc b +ĉ err +M ove +Ġpol y +vo ice +} " +Ġan imal +A v +ĠL ocation +Ġn ative +] [" +< double +Ġm ais +, int +Ġpre par +Ġinter val +plement ation +_ ERR +Ġb ug +> " +st at +Ġ} ,čĊ +< span +Ġfa ith +Ġ rom +pre v +ĠE lect +F ind +Ġg od +ot or +// ---------------------------------------------------------------- +orig inal +C pp +ĠSen ate +Ġposition s +Ġweap ons +Ġco ff +Ġpur poses +p ol +Ġim press +Ġanim als +. Entity +(n p +Ġmur der +Ġ` ` +fl ag +Ġsol utions +ĠAct ive +Ġb right +.d ate +Ġsit u +ï¼ Ī +. ID +Ġs ie +), čĊ +ak t +S pace +.d at +.index Of +h an +az ine +ĠZ e +Ġcr ash +( / +> = +Ð ± +iv a +.Auto Size +ĠL at +_ ext +Initial ize +.reg ister +OP Y +Ġre verse +_d is +'] [ +Ġprom pt +ont o +ĠJ ournal +r outer +Ġmys qli +# else +) " +-x s +let s +ph an +. LE +W ill +Ġaff ord +Ġsk ill +-t oggle +N C +B ind +T S +J ust +iter al +Y P +ĉ unsigned +Ġw ind +)) :Ċ +Ġw arning +ĠW ater +Ġd raft +Ġc m +Ġs am +Ġhold ing +z ip +ĠSc ience +Ġsup posed +G en +Ġdi et +< h +ĠP ass +v i +Ġhus band +� � +n ote +ĠAb out +ĠIn stitute +Ġcl imate +.Form at +Ġn ut +est ed +Ġapp arent +Ġhold s +f i +new s +C M +v ideo +': ' +D ITION +p ing +Ġsen ior +w a +-- >Ċ +_ default +ĠD atabase +re p +E SS +ner gy +.F ind +_m ask +Ġr ise +Ġk ernel +:: $ +. Q +Ġoffer ing +de cl +ĠC S +Ġlist ed +Ġmost ly +eng er +Ġblock s +ol o +Ġgover ning +\ F +Ġcon cent +.get Text +Ġm b +Ġocc urred +Ġchang ing +Sc ene +_C ODE +B eh +" The +Ġt ile +ĠAssoci ation +ĉ P +al ty +_ ad +od ies +i ated +Ġpre pared +poss ible +Ġm ort +TE ST +Ġign ore +Ġcal c +Ġr s +Ġassert Equals +Ġs z +ĠTH IS +. "Ċ +Ġcan vas +j ava +Ġd ut +VAL ID +.s ql +. input +Ġa ux +S up +Ġart ist +V ec +_T IME +.string ify +et ween +ĠC ategory +Ġ[ - +ĠDev Express +ĠJ ul +Ġr ing +. ed +Y Y +L et +Text Field +Ġfl at +_p rint +ĠOT HER +ad ian +Ġcheck ed +e le +Al ign +stand ing +Ġ[ ], +Ġl ab +uck y +ĠChrist mas +( image +.m odule +Ġl ots +Ġslight ly +(f inal +er ge +è ¿ +ĠPol ice +ĠR ight +Ġaw ard +ĠO S +Ġ{ }ĊĊ +Ġp tr +ov es +ic ated +еР¼ +Ġman age +olid ay +Am ount +ool Strip +t body +N av +w rap +B B +Ġwatch ing +ari os +Ġoption al +_ K +ĠL icensed +.M ap +T imer +ĠA P +ĠRe v +( o +, c +um in +eta iled +ĠH y +Ġbl ank +ag ger +ĠS elf +() [ +.m ake +ear n +ch annel +< pre +ble m +_p assword +_s p +ic ing +e z +Ġthe ory +ĠT er +, n +log o +ĠHT TP +() )) +.h andle +> ;Ċ +W orld +Ġpy thon +Ġl if +Ġtr av +Ġcon ven +com pany +ĠCl ub +V er +B tn +Ġz one +product s +ĠE duc +Ġver ify +ĠM il +on o +] );ĊĊ +EN CE +Ġpack et +Ġc er +Ġen umer +Ġpar s +form ed +Ġocc up +t re +Ġexerc ise +D ay +_s um +Ġask ing +apt ion +Ġord ers +Ġsp ending +ĠE RR +.D is +ĠU til +âĢľ I +\ ' +? ) +/ >Ċ +Ġem ot +Ġinflu ence +ĠAfr ica +att ers +Ù ħ +.s ession +Ġch ief +ĉĉĉĉĉĉĉĉ ĉĉĉ +Ġto m +clud ed +ser ial +_h andler +.T ype +ap ed +Ġpolic ies +- ex +- tr +bl ank +mer ce +Ġcover age +Ġr c +_m atrix +_ box +Ġcharg es +ĠB oston +P e +Ġcirc um +Ġfil led +Ġn orth +icture Box +ĉ res +è ® +Ġter min +Ġ[ â̦ +IRE CT +Ġb er +Ġ" ../../ +ret ch +.c ode +_c ol +ĠGovern ment +Ġarg v +ĠL ord +as i +Ex ec +ĉ let +vert is +Ġdiscuss ion +en ance +out ube +type of +Ġs erved +ĠP ut +ĉ x +Ġs weet +B efore +ateg y +. of +ĠM aterial +S ort +ON T +ig ital +Wh y +Ġs ust +Ġ ç +ab et +Ġseg ment +Ġ[ ],Ċ +ĠMus lim +Ġfind ViewById +c ut +_T EXT +ĠM ary +Ġlo ved +Ġl ie +ĠJ O +Ġis set +mon th +Ġpr ime +t i +ĠCar ol +U se +ĠP op +ĠS ave +Int erval +ex ecute +d y +ĠI ran +_ cont +ĉ T +Ġph ase +check box +we ek +Ġh ide +Ġt il +Ġj u +C ustom +b urg +/ M +T ON +Ġqu ant +Ġr ub +ix els +Ġinst alled +Ġd ump +Ġproper ly +( List +Ġdec ide +app ly +H as +Ġkeep ing +Ġcitiz ens +Ġj oint +p ool +S ocket +_ op +Ġweap on +gn ore +ĠEx ec +ott en +ĠM S +Ġ( - +ĠRe view +Ġex amples +Ġt ight +! ( +D P +ĠMessage Box +Ġphot ograph +UR I +é t +l ow +ĠGr and +.p ersistence +Ġmaint ain +Ġnum s +Ġz ip +ial s +ĠG ets +pe g +ĠB uffer +~~ ~~ +ra structure +ĠP L +u en +ob by +size of +Ġp ic +Ġse ed +Ġexperi enced +Ġo dd +Ġk ick +Ġproced ure +avig ator +- on +, j +ĠAl though +Ġuser Id +ac cept +Bl ue +IC olor +l ayer +av ailable +Ġend s +.t able +Ġdat aset +b us +Ġexpl ain +( pro +ĠCommit tee +Ġnot ed +] :Ċ +D im +std io +. ",Ċ +_s ource +ĠWe ek +ĠEd ge +Ġoper ating +Ġest e +i pl +ag ination +Ġpro ceed +Ġanim ation +.Model s +ĠW atch +i at +Ġopp on +/ A +Re port +Ġs ounds +_b uf +IEL D +Ġbu nd +ĉ get +.p r +(t mp +Ġk id +>ĊĊ Ċ +Ġy ang +Not Found +Ñ Ĩ +m ath +@g mail +ĠL IMIT +red ients +Ġv ent +avig ate +L ook +Ġrelig ious +Ġr and +ri o +( GL +_ ip +u an +ici ency +ĠCh ange +> čĊčĊ +ĠEnt ity +Ġrencont re +ĠR et +pl an +é n +BO OL +ur ies +tr ain +Def inition +======== ==== +z z +An imation +ĠO K +_m enu +.b l +_s core +Ġac ad +( System +Ġref resh +'=> $ +.G raphics +ament o +p id +t c +Ġt ips +Ġhom es +Ġf uel +â ĸ +_h elper +ĠĠ čĊ +ĠR oom +.C lose +_ attr +ĠM ount +ĠE v +ar ser +_t op +e ah +ĠDe lete +ãĢ į +u ke +Ġus age +ar ia +_de v +Ġtext ure +Ġconvers ation +e per +Be an +d one +non atomic +ĠSe cond +Ġshoot ing +_p re +Com ponents +Ġ] ĊĊ +__ , +stit ution +.Ch ar +> ();ĊĊ +Ġpresent ed +Ġw a +ok er +- ĊĊ +in er +Ġbe coming +Ġinc ident +At t +Ġreve aled +for c +Ġbo ot +.p age +Enumer ator +_ -> +Ph oto +Ġs pring +. ", +ĠD ictionary +B JECT +Ġloc ations +Ġs amples +Input Stream +ĠB rown +Ġst ats +qual ity +Ñ ħ +-d is +Ġhelp ing +Ġp ed +( se +ĠWh o +al ian +int ernal +Ġf t +> (). +-> { +Ġm ine +Ġs ector +Ġg ro +Ġopport unities +Ġà ¼ +Ġm p +Ġalleg ed +Ġdoub t +M ouse +Ab out +_p art +Ġch air +Ġstop ped +lo op +ent ities +Ġapp s +ans ion +Ġm ental +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠ +F R +Ġdef end +c are +Ġide al +/ api +ur face +Ġe le +ul ator +ĠR ights +angu ages +Ġfund s +Ġad apt +At tributes +Ġdep loy +opt s +Ġvalid ation +Ġconcern s +u ce +.n um +ult ure +il a +Ġc up +Ġp ure +.F ore +ĠHash Map +.value Of +as m +M O +Ġc s +Ġst ores +Ġ ************************************************************************ +Ġcommunic ation +m em +.Event Handler +. Status +_ right +.set On +S heet +Ġident ify +ener ated +order ed +Ġ" [ +Ġs we +Con dition +ĠA ccording +Ġpre pare +Ġro b +P ool +Ġs port +r v +ĠR outer +Ġaltern ative +( [] +ĠCh icago +ip her +is che +ĠDirect or +k l +ĠW il +key s +Ġmy sql +Ġw elcome +k ing +ĠMan ager +Ġca ught +) }Ċ +S core +_P R +Ġsur vey +h ab +He aders +AD ER +Ġdec or +Ġturn s +Ġr adius +err upt +C or +Ġm el +Ġin tr +( q +ĠA C +am os +M AX +ĠG rid +ĠJes us +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠ +.D E +Ġt s +Ġlink ed +f ree +ĠQ t +Ġ/** čĊ +Ġf aster +ct r +_ J +D T +.C heck +Ġcomb ination +Ġint ended +- the +- type +ect ors +am i +ut ing +Ġum a +X ML +U CT +A p +ĠR andom +Ġr an +.s ort +Ġsort ed +. Un +_P ER +it ory +Ġprior ity +ĠG al +ĠO ld +h ot +ĠD isplay +(s ub +_T H +_ Y +ĠC are +load ing +K ind +_h andle +, , +r ase +_re place +.add EventListener +ĠR T +Ġenter ed +g ers +Ġ ich +( start +/ app +Ġbro ther +M emory +Out let +Ġ utf +pre c +Ġn avigation +OR K +Ġd st +D etail +Ġaud ience +Ġd ur +Ġcl uster +un ched +Ġ ], +Ġcomfort able +. values +ĠT otal +Ġsn ap +Ġstand ards +Ġperform ed +h and +(" @ +å Ń +Ġph il +ib r +tr im +Ġfor get +Ġdo ctor +.Text Box +icon s +, s +ĠO p +S m +St op +ĉ List +ĉ u +Com ment +_V ERSION +.X tra +P erson +r b +LO B +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĊ +ĠCent ral +IC K +ra q +Ġput ting +Ġm d +ĠL ove +Pro gram +B order +o or +Ġallow ing +a fter +Ġent ries +ĠMay be +] ). +ĠSh ort +) \ +.n ow +f riend +Ġpre fer +ĠG PIO +os is +ĠGame Object +Ġsk ip +Ġcompet ition +_m atch +lic ations +_CON T +.group Box +Ġal s +" We +_e q +l an +_ search +ĠMus ic +as is +Ġb ind +ĠIs land +r um +( E +Ġse at +V ideo +Ġa ck +ree k +={ () +Ġr ating +Ġrestaur ant +DE X +(b uf +pp ing +ual ity +Ġle ague +Ġfoc used +ap on +$ data +CL UD +CLUD ING +Ġabs olute +( query +Ġtell s +A ng +Ġcomm unities +Ġhon est +ok ing +Ġap art +ar ity +/ $ +_m odule +ĠE nc +. an +.Con fig +C re +Ġsh ock +ĠAr ab +I ENT +/ re +Ġre trie +ycl er +is a +ĠO rgan +. graph +Ġ í +ĠB AS +En um +Ġposs ibly +ÑĢ Ð°Ð +ĠJapan ese +Ġc raft +ĠPl ace +Ġtal ent +Ġfund ing +Ġconf irmed +Ġc ycle +/ x +G E +Ġhe aring +Ġpl ants +Ġm outh +p ages +or ia +ĠRem ove +_t otal +Ġo d +oll apse +do or +Ġb ought +Ġadd r +AR CH +_d im +dd en +Ġdec ades +RE QUEST +Ġvers ions +f ire +Ġmov es +f b +Ġcoff ee +.con nect +ĠR ow +Ġs chema +S cope +- Type +Ġfight ing +Ġret ail +Ġmod ified +T F +File s +n ie +_com mand +st one +Ġ ÑĤ +_ thread +Ġb ond +ĠDevelop ment +Ġp t +F ORM +ple t +Ġident ified +c pp +Ġc oding +ok ed +ĠM aster +ID TH +Ġres idents +red it +ĠPh oto += - +un te +ate ur +_ST ATE +ĠS ing +Ġshe et +. val +or se +Ġh ers +Ġdetermin ed +Com mon +Ġw ed +_ queue +P H +ĠAt l +cre d +/L ICENSE +Ġm es +Ġadv anced +.j ava +.S h +G o +k ill +f p +_set tings +Ġp al +Ġtr uck +Ġcomb ined +Ġ" ${ +ĠCor por +Ġjo ined +ĠJ ose +ĠC up +un s +est ival +lev ision +Ġbro ken +Ġmar riage +ĠWest ern +Ġrep resents +ĠT itle +Ġs s +.A ss +ongo ose +ient o +< >();Ċ +Ġabs olutely +Ġsm ooth +TER N +ĠUn less +W ord +Ġmer ge +ig an +ĠV ol +Ġn n +.get Id +ĠÐ · +Ġsex y +Ġseek ing +S ingle +. this +Ġk om +b ound +; " +Ġfont Size +_d f +Ġinj ury +( H +Ġiss ued +_ END +: self +Ġp atch +Ġle aves +Ġad opt +File Name +ãĢ IJ +Ġexec utive +ĠBy te +] ))Ċ +Ġn u +out ing +clud ing +- R +. options +Ġsub stant +av ax +ĠB UT +Ġtechn ical +Ġtw ice +Ġm ás +Ġun ivers +y r +Ġdr ag +ĠD C +Ġs ed +Ġb ot +ĠP al +ĠH all +forc ement +Ġa uch +.m od +not ation +_file s +.l ine +_fl ag +[ name +Ġres olution +Ġb ott +(" [ +end e +( arr +F ree +( @" +ĠD istrict +PE C +: - +P icker +ĠJ o +ĠĠĠĠĠ Ċ +ĠR iver +_ rows +Ġhelp ful +Ġmass ive +--- Ċ +Ġmeas ures +ĠR untime +Ġwor ry +ĠS pec +ĉ D +ãĢ ij +Ġ) {Ċ +Ġwor se +(f ilename +Ġl ay +Ġmag ic +ĠThe ir +ou l +st roy +ĠWh ere +Ġsu dden +Ġdef e +Ġb inding +Ġfl ight +ĠOn Init +ĠW omen +ĠPol icy +Ġdrug s +ish ing +(' ../ +ĠM el +pe at +t or +Ġpro posed +Ġst ated +_RE S +Ġe ast +ĠCON DITION +_d esc +Ġwin ning +fol io +M apper +ĠP an +ĠAn ge +.s ervlet +Ġcop ies +L M +Ġv m +å į +Ġd ictionary +S eg +el ines +ĠS end +Ġ iron +ĠF ort +.d omain +Ġdeb ate +Not Null +e q +ach er +l f +ĉf mt +Ġlaw y +Ä Ł +ĠM en +Ġtr im +( NULL +Ġ! ! +Ġp ad +Ġfollow s +"] [" +re qu +ĠE p +.g ithub +( img +et o +(' \ +S ervices +umbn ail +_m ain +ple ted +fort unately +Ġw indows +Ġpl ane +ĠCon nection +. local +u ard +} \ +== " +and on +ĠR oy +w est +ig inal +em ies +it z +') :Ċ +ĠP eter +Ġt ough +Ġredu ced +Ġcalcul ate +Ġrap id +c ustomer +Ġeff icient +Ġmed ium +Ġf ell +. ref +ĠC as +Ġfeed back +S peed +( output +aj e +Ġc ategories +Ġfe e +} ; +Ġde leted +re h +Ġpro of +D esc +B uild +Ġs ides +.Array List +- % +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +Ø ± +.m atch +л и +Ġfe els +Ġachie ve +Ġcl im +_ ON +ĠC D +Ġteach er +_c urrent +b n +_P L +ist ing +En able +G EN +Ġt v +Ġso ck +Ġpl ays +Ġdis count +ĠK E +ĠDe bug +F ore +ĠI raq +Ġappear ance +M on +Ġst yled +ĠH uman +i ot +ĠH istory +Ġs ac +ĠC ollection +Ġrecomm ended +.Se lected +Ġorgan izations +Ġdiscover ed +co hol +ad as +ĠThom as +M ay +Ġcons erv +Ġdom in +ĠF ollow +ĠSe ction +ĠTh anks +User name +Ġrec ipe +Ġwonder ful +.s leep +_ if +ĉĊ ĉĊ +orn o +Ġr u +_t arget +." " +à ¦ +Event Args +Ġinput s +Ġf if +Ġv ision +c y +ĠS eries +) ((( +Ġtr ading +Ġmark er +B egin +Ġtyp ically +Ġca uses +drop down +_DE BUG +Ġdet ect +c ountry +! ");Ċ +ĉ R +app y +Ġc ref +(' < +" => +ĠL E +read er +Ġadmin istr +à µ +uck et +Ġf ashion +. char +iz ar +Ġdis able +Ġsu c +ĠL ive +iss ue +Ġmet adata +fl ags +Ġ ðŁ +Ġcomm itted +Ġv a +Ġr ough +Ġ'' 'Ċ +Ġhigh light +_var s +V O +Ġenc oding +- Z +_s ign +$ ("# +Ġr ain +reate st +ĠEN D +Se lection +Ġcandid ates +Ġs av +. Empty +Ġdec isions +Ġcoll abor +rid ge +fe ed +ress ion +Ġperson s +V M +eg a +_B IT +A ccording +ack ed +Ġdoll ars +_lo ss +ĠC ost +} "Ċ +Not ification +Ġpro stit +Ġauthor ity +.re c +Ġsp okes +ĠT oday +ist ant +ĠHe ad +âĢĿ . +ertain ment +ce an +cul ate +Ġv en +How ever +_ arr +Ġtok ens +G raph +ĠJ ud +ĠVir gin +ĠS erial +un ning +M utable +ag ers +.c sv +Ġdevelop ing +Ġinstruction s +Ġprom ise +Ġrequest ed +_ encode +/ " +ĠI con +u ilt +- day +Ġint elligence +. IS +ĠO bservable +ĠH ard +Bo ol +ident ial +.An chor +Ġsell ing +C I +AG ES +t le +b ur +UFF ER +R Y +Ġbig ger +Ġr at +Ġfam ous +Ġtyp ename +Ġexpl ained +} }Ċ +Ġn uclear +- N +Ġcr isis +ĠEnt er +Ġan swers +/ ${ +/ pl +Ġse qu +_n ext +m ask +Ġstand ing +Ġpl enty +ĠC ross +ĉ ret +d ro +ĠC ast += true +ĠCh ris +ic io +ĠM ike +Dec imal +add Component +L en +Ġco ck +Ġ# { +UR N +< tr +Ġauthor ities +Res ources +- H +B ottom +_ qu +put er +ester day +Dis patch +s ince +Ġfam iliar +, i +V C +Ġm ent +, C +Ġfre edom +Ġr outes +ĠB uy +Ġcomm ands +Ġm esh +/ C +ĠSet tings +- style +Ġw itness +Ġc le +Ġun ion +ef ault +are t +Ġthought s +Ġ ---- +_pro cess +_ us +ing ly +U ES +T ouch +ĠÐ ¼ +_ open +ĠV ec +Ġre ward +.C lick +/ : +Ġn ie +Ch anges +M onth +ï¼ Ł +Ġexec ution +Ġbe ach +( Integer +ĉ a +/ ' +.Font Style +Ġab ort +ĠS ingle +( isset +Ġd p +Ġ}} +Ġ* = +ĠP S +Ġdanger ous +[ p +OM E +O ther +ĠString Builder +Point s +head ing +Ġc urrency +Ġpercent age +_A PI +Ġclass ic +the ad +ĠM O +F E +Id x +aw ait +Ġà ¨ +Ġacc ident +Ġvari ant +Ġm yst +ĠL and +ĠB re +Ġh arm +ĠA cc +Ġcharg ed +ion es +Vis ibility +ar ry +ĠL anguage +Ġwalk ing +" .ĊĊ +if er +Ġleaders hip +.F rom +yn am +Ġt imestamp +i pt +ĠH as +REF ER +ĠIt s +Ġlist ener +UT E +_d escription +Ġexperi ences +Ġcre ates +R S +c art +bl ack +Ġcho ices +w ar +Ġ'' ' +Ġorder ed +Ġeven ing +Ġp il +Ġt un +ĠB ad +( app +r andom +Ġexp licit +Ġarr ived +Ġf ly +Ġecon om +-m ail +Ġlist s +Ġarch itect +ĠP ay +Ġd s +ĠS ol +Ġveh icles +H z +- com +Ġk ing +_e qual +ĠH elp +Ġab use +-- ;Ċ +Ġex tr +Ġchem ical +ä ¿ +Ġor ient +Ġbre ath +ĠS pace +(e lement +w ait +DE D +ig ma +Ġent r +Ġs ob +- name +Ġaff ected +ik a +Ġco al +_w ork +Ġhundred s +Ġpolit ics +sub ject +Ġconsum er +ANG E +Ġrepe ated +S end +Ġ# [ +Ġprot ocol +Ġlead s +use um +E very +Im port +(c ount +Ġchalleng es +Ġnov el +Ġdep art +b its +.C urrent +Ġ` ${ +ot ing +( \ +Ġcreat ive +Ġbu ff +Ġintrodu ced +us ic +mod ules +A re +-d oc +l anguage +_c ache +Ġto d +? > {{ +ĠRes ource +ĠSt andard +ĠP rem +up dated +ival ent +Ġas sets +_t emp +Ġinterest s +Ġhard ware +ĠR om +ĠSh are +Ġ' 'Ċ +Ġ* , +ĠT ake +ĠIm ages +_C HECK +(type of +ĠJ un +\< ^ +Ġli qu +Ġwor st +ymb ols +ĉĉĉ ĠĠĠ +Ġdr ivers +ĠD ocument +en o +ĠTechn ology +Ġappro ved +ump s +Ġs now +form ance +_A SSERT +u its +Ù Ĩ +Ġdiffer ences +. Visible +ĉĉĉ čĊ +ĠP s +_f etch +Ġto do +. ',Ċ +Ġs el +ur ers +in valid +Ġt weet +V EL +Ġresearch ers +Ġs printf +ĠR O +Ġp el +.Tr ans +Ġil legal +d ialog +sm arty +l g +_M IN +Ġher o +f inal +Ġp p +.L e +Ġc i +ĉ RT +Ġsuggest ed +p df +ach ing +ĠR o +ĠProp erties +ĠS i +Ġbuy ing +Ġm u +Ġl ands +if iers +ĠF ILE +RO UP +Ġh older +ĠS on +Ġsym pt +.r oute +) ? +Ġarg c +Ġfor t +Ġcas ino +_c ategory +Ġfor um +p refix +apt ure +T ube +em s +im ize +Ġn ue +a us +c ourse +AT OR +() ), +Ad vertis +ING S +Ġack now +ĠKore a +pl ing +Ġwork er +PL IED +h al +ĠRich ard +Element s +ĉĉĉ Ġ +st ar +Ġrelationship s +Ġche ap +AC H +ĠX ML +, & +ĠLou is +Ġr ide +_F AIL +Ġch unk +[ s +_O UT +Ġch osen +_ [ +/ ( +ĠJ eff +_s l +pr iv +ĠCan adian +Ġun able +_F LAG +Ġn os +h igh +Ġl ift +f un +() { +el ly +ycler View +_ as +_L IST +Ġr adi +.get Value +ĠAnge les +ĠS pan +_in stance +it ors +Ġm igration +A K +O h + ® +. selected +ĠG T +Ġadv ance +ĠSt yle +.Data GridView +e ction +Ñ İ +p io +ro g +Ġsh opping +ĠR ect +I lluminate +O U +ĉ array +Ġsubstant ial +Ġpre gn +Ġprom ote +IE W +.L ayout +Ġsign s +/ . +Ġlet ters +Bo ard +ct rl +" \ +ĠJ ones +Ġvert ex +Ġj a +Ġaff ili +Ġwe alth +ĉ default +Ġsignificant ly +Ġe c +Ġx s +act ual +.p er +_st ep +an vas +m ac +Ġtrans l +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Iter ator +Ġo ch +agnost ic +ĠD uring +ĠDE FAULT +Ġt ill +Ġsign ature +Ġb ird +ĠO l +ĠI r +H S +av atar +ESS AGE +Ġe lev +Ġm t +ĠN av +Ġrel ax +Ġpl ate +IT EM +( date +.n ot +Ġgr ade +Ġ} ),Ċ +? "ĊĊ +i ences +H igh +ĠD IS +dis abled +Q UI +Ġno ise +a ux +ĠU P +os a +Ġv oc +Ġ )) +oc om +_O FF +ĠD b +L ock +.e clipse +, d +ĠD raw +Ġ" ( +Ġvis ited +Ġâ Ī +Ġsuc ceed +Ġim possible +a ire +ĠT urn +Ġd ish +F G +Ġs ensor +AN N +ab a +Ġsur g +] );čĊ +Ġf p +_ an +- J +- G +ĠJ ob +Con vert +ĠKE Y +Ġauth ors +_s erver +\ r +Ġ-* - +f lex +Ġs oc +R et +Ġs alt +Ġâ̦ ĊĊ +ĠC lear +(p age +-d anger +Ġroom s +con v +# { +. op +ĠA rea +_S C +h en +Ġbeg ins +- y +Ġexc ited +Ġign ored +Ġbon us +st udent +ĠM ember +Ġrel atively +ĠL ow +ĠPro du +ate way +pos ure +Ġth ick +ani el +( view +ĠCr ush +Ext ension +I l +e ed +LO C +. im +. Items +Ġconflic t +.pre vent +Ġon Create +u v +is er +Ġw ave +M ar +ĠComm unity +ic he +ĠNo thing +[ m +ĠLe e +ri ends +è re +!! ! +an z +. result +ĠS K +_P ARAM +Ġdem ocr +Back Color +.ex ists +" It +( options +ra zy +as er +\ Database +al endar +_ ass +; }Ċ +vert ex +ine craft +W arning +arg o +Ġact or +ĠInst ead +ĠUs ing +S elf +@ interface +Ġspe aking +ĠPar is +ĠL ICENSE +.n ode +ĠF ood +E IF +ĠB i +. Start +ĠI B +Ġun iversity +ĠHe ader +.pro duct +C opy +et c +r ical +Ġ> >> +book s +Ġal gorithm +Ġ' __ +(j avax +Ġnumer ous +Sh are +H ave +Ġrec ru +Ġpro ve +.sub string +he alth +е л +Ġdec imal +Ġcomm ission +s cription +x C +Ġsum mary +att ed +Ġclo ser +fin ished +() ){Ċ +ĠW ood +_field s +k u +_ items +Fl ag +Ġconf idence +ĠF ederal +du x +Ġcomp at +Ġvert ical +Ð ¹ +è s +; ">Ċ +_m anager +() ))Ċ +ID E +: ", +__ Ċ +ĠW ay +Ñ Ī +T emp +ĠS TR +rit ten +S ync +ĠA V +ĠC EO +ĠG uid +Ġenvironment al +Ġcorrespond ing +ĉ console +Ġjust ice +ĠJ S +Ġl ived +g ar +ĠG raph +ĠSt at +Ġi Phone +. al +ĠH D +Ġocc ur +Ġth reshold +Ġon click +RE G +.Graphics Unit +M eta +Å ¾ +Ġc um +.g nu +à « +Ġobt ained +Ġcompl aint +Ġe ating +Ġt ar +_t ask +Ġopt s +( to +P ass +Ġpl astic +t ility +ĠW in +.prevent Default +p ile +ĠG ar +Ġqu antity +_l ast +Ġg reatest +D ao +_D IS +ĠUs ed +ĠH P +rit ing +S ION +bl ue +d omain +Ġs cores +N ormal +_ admin +ĠA SSERT +Th en +** * +d ist +l on +Ġh ate +sh al +Image View +d atabase +Ġp and +Ġlog ic += false +b g +ĠConfig uration +Ġn ur +O G +Ġmar ried +: + +Ġdro pped +Ġreg istration +оР¼ +ult iple +iz ers +sh ape +.c opy +Ġwe aring +ĠC ath +Ġded icated +Ġ.. .Ċ +Ġadv oc +ĠF amily +Ġstat ements +em atic +ampions hip +Ġmot iv +ĠH ave +Ġbl ow +J ob +c ert +_v ector +inst all +ĠC OPY +em bed +D IR +ĠS pring +Ġex hib +cd n +ĠCom ment +ĠOption al +. player +ĠD ark +( pos +ĠSh ould +Ġcent re +ĠGu ard +ó w +Ġtr ouble +EN ER +( unsigned +_s ervice +Ġn s +ul ing +ĠMex ico +ĠN Y +mys ql +Ġl ic +å ľ +M r +- fl +ĠC ustomer +id i +Ġ? >ĊĊ +ri ble +Ġп ÑĢ +Ġs izes +_STR ING +valid ation +ĠJ on +( Http +add Class +N odes +Ġfrag ment +Ġsp oke +Ġw aste +J oin +Ġill ustr +el i +c ient +Ġa id +Ġpro sec +') {Ċ +Ġpass ing +Ġf aces +Sh ape +_ Z +it i +Ġal le +Ġro bot +ĠĠĠĠĠĠĠ Ċ +ĠS pe +Ġrece iving +ĠD etails +Ġ" ) +m g +_RE F +Ġcompar ison +* , +ĠF ound +_s ession +( U +/ F +Ġx xx +N etwork +d ers +Ġcap ture +Ġcor re +ĠL td +ĠAd v +[ @ +Ġcl ip +M ill +ĠPro file +Ġend if +Ġob lig +des cribe +.e lement +riter ion +L D +er ed +Ġfav our +s core +ĠF ilter +at tributes +Ġcheck s +In flater +ĠPl us +Ġscient ific +Ġpriv acy +He ad +Ġfe at +Ġdeg rees +ĠP ale +; "> +Ġfil ms +ĠA udio +ĠT ag +ĠE nergy +it ar +par ator +Ġf ellow +Ġev t +ĠT ri +ĠD AM +cl oud +ĠP assword +ĠDemocr ats +ĠAc ad +$ lang +Ġre b +() )ĊĊ +н Ñĭ +ĠB ur +read cr +Ġh ex +Con sole +ct l +ous el +ĠWill iam +Ġa z +_P ORT +Ġpract ices +Ġany where +ĠP osition +Ġ- >Ċ +i ams +.user name +place holder +Ġo der +ĠSecret ary +Ġi T +mon d +event s +? âĢĿ +.S ub +Ġatt ached +Ġn ão +Ġest ate +. action +Ġfig ures +Ġ} );čĊ +Ġsubs cri +.t ag +n am +. plot +no on +li ament +Char acter +.t ab +Ġw inter +ĠVar iable +Ġtre es +Ġpr oud +( V +_ load +Ġh ier +ĠE con +Ġf d +Ġvict ims +R est +ian a +Ġf ake +.Print ln +Ġstr len +Ġs ad +Ġb le +Pro t +Ġbutton s +Ġte levision +Ġlog o +ext ension +ĉ j +ste in +acion es +Ġ"" "ĊĊ +Ġsim p +Ġrecord ed +Ġbr ings +Ġprincip al +Ġfe es +(s ource +k dir +Ġutil s +Ġcorrect ly +f il +Ġw el +P air +-b utton +s cale +ver ify +[ c +Ġ-- - +Ġes cape +ik es +Lower Case +ic ian +Ġch apter +ĠT YPE +Ġsh adow +Ġaw esome +W E +el if +Ġl ambda +Ġdist inct +Ġb are +- off +Ġcol our +.append Child +ole c +ag a +.f ill +ĉs uper +Ġad j +( position +.get Item +Sh ort +Ġtot ally +V D +ĠT re +_ ep +v ements +ĠS olution +Ġfund ament +F ollow +Ġfac ility +Ġhappen ing +O F +.text Box +S pan +Ġ « +id en +Ġex ceed +(p arent +Ġc p +ç » +Ġhas n +Ġp ri +Ġcon sequ +n en +ĠIN TO +I gnore +ĠF uture +Ġcar bon +ĠSte el +f mt +ok ie +Ġs pl +(t itle +- info +Ġde als +Ġfix ture +e a +D iv +Ġtest ed +_ return +)ĊĊ ĊĊ +upport ed +ĠC ook +Ġpay ing +ĠI ll +Ġarrest ed +ĠPr ime +_c allback +> ,Ċ +dr iver +On ce +ab b +_by tes +ĠS ets +( Object +Ġc c +Ġsh ell +al o +); // +( log +ct ors +) +Ġ$ (". +.p os +Ġbo ys +Ġwed ding +Ġag ents +=" _ +ĠAr my +Ġh int +v ision +Ġte ch +ĠCon nect +Ġleg end +ĠB et +.B ase +Sub ject +Ġl it +Rem ove +Ġ" : +ĠF inal +pear ance +ĠiT unes +Ġparticip ants +ĠPy thon +Ġbus y +i el +vert ices +Ġtemplate Url +ĠC lose +Im g +ĠCorpor ation +t imestamp +Ġext end +Ġwe bsites +Ġposs ibility +о ÑĤ +Ġk ö +Ġme at +Ġrepresent ation +Ġ ĉĉ +_ST ART +.app ly +ĠVal ley +ĠS uccess +H i +Ġn ob +ĠI Enumerable +_ select +ge o +. ")Ċ +Ġturn ing +Ġfab ric +(" ");Ċ +Ġpers pective +é Ĺ +ĠS n +Th ank +; j +.Param eters +ĉ ĠĠĠĠĠĠĠĠĠĠĠ +Ġfact s +Ġun t +.in stance +################################ ################################ +- end +ĠJO IN +ĠH en +Ġur i +åIJ į +Ġн а +ĠIn fo +Ġconduct ed +Ġà ¥ +OUR CE +Ġw ine +J ohn +.Error f +ĠA ge +ound ed +Ġreal ize +Ġ] ; +Ġsub sequ +, m +( User +ian o +Ġaccom pl +is p +.st d +é ĩ +ĠB ed +.set Attribute +B R +ke ep +ĠA LL +Ġis ol +am ma +P ackage +Ġoccas ion +-s uccess +еР´ +ĠLIMIT ED +st rip +() ĊĊĊ +istrib ution +Color s +Ġ+ :+ +Did Load +al er +Ġt id +ĠL ED +ĠLink ed +ĠC art +() )čĊ +_RE AD +Ġkill ing +ĠP HP +fe ction +Ġinst ances +c v +"/ > +Ġs f +Ġtax es +_ location +ĠBit coin +u able +r ank +ign ore +tr ack +к а +Ġshould n +ĠO P +=> {Ċ +Ġk m +Ġh elper +_ head +ĠWh ether +oc o +_b l +Ġstat istics +Ġbeaut y +Ġto g +t ip +ëĭ ¤ +Ġc sv +(s ql +std lib +we ak +Ġlik es +Ä į +Ġrepe at +Ġap artment +Ġem ph +_ edit +Ġv it +ĉ type +E ven +ut en +Ġcircum stances +b ian +Ġs ugar +W indows +ì ŀ +Ġobs erved +/ data +Ġcal endar +Ġstri ke +ĠR ES +_s c +f ony +ore m +( z +p ower +et ect +ĠS at +.d escription +Ġg ang +ĠS ports +ong s +ĠB undle +.s um +on ce +Ġacc used +Ġexplo re +Ġapprox imately +Ġlos ing +thes is +ĠF und +Ġdi agn +A utowired +prop erties +Ġ_ . +Ġc nt +ced ure +Ġy y +Ġgr ant +so ck +.inner HTML +Ġ] );Ċ +ĠCON FIG +=' $ +] ];Ċ +UN D +Ġg lob +Ġd ire +uff le +_M EM +Ġauth entic +> (" +Ġdec ade +ĠIm port +Ġorigin ally +Ġj Query +Ġindic ate +Ġours elves +S w +.l bl +ener ate +Ġbas ically +ĠH om +Ġ+ #+ +ĠBrit ain +ĠK ar +to Equal +.st op +Ġmod al +is i +Ġsuggest s +Ġd type +Ġt ur +b f +Ġconnection s +ĠB efore +ist ed +m ouse +Ġpul led +.b uild +Ġlegis lation +Ġfor th +p ad +eg o +.N ow +Ġexc iting +}ĊĊ ĊĊ +Ġcom pr +Ġsh ares +Ġr ig +g reen +_ vec +Ġenumer ate +A uto +ic ator +ĠR ay +as se +Ġh oliday +Ġnull able +g un +_d etails +Ġwr apper +se q +ĠYou ng +ju ana +Ġ" __ +lic ense +ser ve +^ ( +id ers +.Rem ove +rop down +' S +p in +(t oken +.D efault +Ġreason able +amp ion +ĠS ociety +Ġbe i +erv es +r ad +ĠF ox +_ images +Ġw heel +') [ +Ġc fg +( By +Con structor +Ġv ary +.sw ift +Ġpro xy +ĉ H +ĠAn other +ĠP en +Ġcheck ing +Ġj est +man ager +Or igin +ug s +o ir +>< !-- +Ġexpress ed +Ġmod er +Ġag encies +Ġi h +-h idden +ious ly +ĠR od +Ġso le +M ed +.A ny +Ġp c +b al +Ex ample +ĠS ale +Ġst rip +ĠCom p +Ġpresident ial +M ost +put ation +( ref +ĠF our +_f ilename +Ġen forcement +Ø ¯ +ĠGe org +we ights +/ l +Ġag gress +Ġd rawing +and y +< I +- j +ak a +h ref +Ġteach ers +_ Q +( it +ĠM B +Ġtemp orary +ire base +str a +æĹ ¶ +è ´ +( label +ou p +Ġtop ics +Ġport ion +id os +ĠJew ish +Ġre covery +Ġstand s +# [ +Ġafter noon +ĠArt icle +_ att +Ġexpl an +ĠP ak +.setOn ClickListener +. children +Ġi k ++ ( +l ag +Ġdis k +Ġcont rovers +"> & +as p +Ġw ie +ĠAustral ian +ĠYou Tube +At tr +cont ains +du ce +ĠM att +at ern +Ġvol unte +Ġnew sp +V P +olt ip +Ġde legate +_m eta +Ġaccur ate +ĠEx ample +% , +ĠD aily +Ġc abin +ĠS W +Ġlim its +k ip +Ġar my +Ġend ing +Ġb oss +ĠD ialog +Al so +="# " +ord an +row se +- min +Ġ" & +_ loc +U X +Ġdevelop ers +Ġaccur acy +Ġmaint enance +Ġhe av +Ġfil ters +.T oolStrip +Ġn arr +ĠE mp +ORD ER +ĠM obile +.S erial +.out put +.c ol +M aterial +um a +Ġconsum ers +sh ift +Ġp ued +Ġmin i +c ollection +Ġk an +.c enter +H istory +Ġben ch +() ); +itor ies +Ġcrow d +_c all +Ġpow ers +- E +Ġdis miss +Ġtalk s +ĠCh annel +for ward +_ control +/s rc +i est +**************** ******** +Ġbet a +(c olor +_O BJECT +ĠA pi +Ġeffect ively +C amera +s d +uss y +D ict +ĠE ffect +ib ilities +Ġreturn ing +ĠF ar +Ġ' ') +Ġmod ules +il ation +Ġ( % +TR GL +Ġst orm +on na +ĠEX P +Ġs pons +Ġdis pl +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠ +f all +å Į +ign Key +_ US +et rics +Ġhand les +T L +_ amount +ow a +br and +ĠT ool +Ġus ual +. Z +cre ment +ad ium +st ock +Ġserv ing +ĠB on +Ġline ar +ĠT arget +ĠR adio +H L +Sh ader +om atic +ag ues +in ity +d iff +_ iterator +qu ot +Ġ ,Ċ +c allback +Ġsympt oms +[ _ +ĠB ul +ĠF eb +und o +_ account +Ġtyp edef +и Ñģ +tr as +User Id +ĠP enn +ĠSup reme +} > +user Id +ĠK im +Ġg a +Ġart ists +å ¸ +ĠAb stract +ok emon +Ġh am +o val +Ġch a +at en +å Ĩ +F ixed +Ġvul ner +ĠParam eters +qu antity +.C lear +Servlet Request +Ġy a +Ġsou l +trans action +Ġsol o +Ġp airs +æ Ķ +ĠG re +_ word +ĠC C +Ġg i +z ie +Ġsched uled +rot ation +gy pt +ul ous +:: _ +ĠE ll +< ! +ĉĉ ĠĠ +l p +ah a +C opyright +Ġdr am +Ġdi agram +ĠM em +Ġg arden +Com p +Ġattempt s +uff ix +> () +Ġphil osoph +_re l +å ¼ +Ġs v +.se cond +ant o +.J son +ĠTe le +_ local +_s end +Ġas pects +ì Ĺ +IB LE +Ġr ail +Ġwid ely +ash ed +i ar +in f +up per +d jango +_result s +iss ing +Ġequ ivalent +OUN D +Ġt y +Ġpotential ly +Advertis ement +ĠRec ord +resent ation +_w idget +ound ing +Ġrelig ion +Ġcons c +ĠL im +. am +H tml +Ġ' : +P ATH +_s pec +ort ed +id ades +_sh ape +Ġkeep s +.S ave +ĠL oc +or i +ĠT EST +unic ip +Ġreg ions +Ġbelie ves +/ en +pos ite +{ ' +pre pare +_ const +s ample +ĠWill iams +Ġstr t +_ Get +ĠAnd rew +. active +Ġl ayers +Visual Style +az y +ĠK n +Ġac id +ĠAs ia +Ġex cess +ĉm y +Ġkey board +ens us +Ġcre w +Ġmiss ed +m aster +ĠW ild +Ġnew ly +Ġwin ner +Ġst ub +ic ode +.m ove +D omain +ĠS ar +Ġfore st +LE D +claim er +.ex it +ĠW indow +Ġres istance +ĠC HECK +(" - +ĠR yan +Ġp ipe +Ġco ast +DE F +// ! +_ off +ex it +Ġult imately +imit ive +ĠKe ep +Ġhistor ical +Ġany way +ĠJack son +ock er +ER N +ĠU INT +y ntax +ER Y +is ms +Ġc n +Ġocc urs +Ġ; ; +Text View +A E +/ img +Ġy esterday +- default +Ġt iny +Ġpro c +Ġal ive +ĠRE G +. th +ear ing +.get Logger +< link +_ login +F older +ab c +lyph icon +н о +Ġnot iced +od igo +Ġed ition +im ator +. Enabled +.parse Int +Ġy ards +ĉĉĉĉĉĉĉĉ ĉĉĉĉ +Ġver bose +л Ñı +_B Y +.log in +.* ;Ċ +ĠM id +é es +Ġg lo +Ġbuild ings +Ġz e +ĠI ter +Ġt ube +ĠP ot +\ M +< th +br idge +ĠS cript +ĠM odule +Ġv acc +Ġinstall ation +v y +VisualStyle BackColor +ĠS M +.t otal +b at +Ġfind s +Ġat mos +Sub view +iz ard +Ġrepl acement +lic ated +ap is +Ġlog ged +ĠLe ft +G ui +_ Type +t m +P ad +Ġhouse hold +Ġre le +Ġpropos al +_CL ASS +:: :: +Ġinf rastructure +In ject +/ html +Ġad s +iz za +Ġm g +ctr ine +% Ċ +< html +- image +Ġatt orney +< m +(' , +Ġcan n +Ġprint ln +o ose +Ġy ellow +.ex p +p ayment +Ġtable View +aw ay +Ġopp osition +ĠAg ain +ĠH andle +Ġex clusive +in ar +é r +оР± +ĠC ODE +emp orary +Ġre act +pi pe +c z +. activity +Ġlarg ely +Ġdis s +ax y +es is +ĠR en +Ġc orn +.Use VisualStyleBackColor +d ays +Ġfr uit +In sert +_ enc +E st +_de c +ĠL uc +Ġü ber +param eters +P ERT +ex press +_pro file +Un known +Ġrev olution +.add ress +_re quire +Ġun iform +ĠP ack +l ar +ĠU ITableView +Ġdep ends +Valid ation +conf irm +O wner +Ġt rib +h et +ĠI de +ans as +L anguage +u et +ĠP o +ĠSte ve +Ġcont est +_DE FAULT +Ġapparent ly +RE EN +Ġfrequ ently +Ġtrad ition +ocol ate +S I +ĠArg ument +F ocus +ert e +ĠL ayout +Ġd x +Ġgener ator +ĠW ait +P olicy +l ights +.Ex ecute +P y +Ġbed room +ed a +ra id +ĉs ize +Ġan cient +Ġp ump +Ġd w +Ġ(! ( +Ġspec ify +( status +ĠF BI +.ex ception +Ġrem ark +ly mp +ant ee +Up load +ern et +é ¡ +in ent +ĠR ender +d m +ĠM emory +r ich +ĠT ools +Ġk ne +Ġper m +b ad +Ġd inner +.res et +Ġj Label +Fe ature +.S ervice +Ġ( {Ċ +Ġre ferred +.class List +Ġinit With +ĠText View +Ġne ither +Ġcount y +Ġ" { +ç § +Ġt ack +class Name +ĠUS ER +Ġre new +` ` +get Name +Ġb rown +Err ors +ert o +Ġsust ain +S O +let es +ĠIn valid +Ġen emies +un ge +Ġexist ence +err a +Ċ ĠĠĊ +utor ial +# a +p ay +char ge +ĠI re +ate st +Ġexp los +Ġf ired +N ER +ĠT y +ic ion +U ri +Ġobvious ly +ĠC olum +Ġ' + +ĠDe vice +- related +_ ARG +Ġv or +ĠLess er +_O P +Serial izer +Ġup grade +L ight +Ġc odes +++ ;čĊ +Ġwrit es +fo od +Ġé t +@ section +Ġtrack s +Ġserious ly +ch t +(size of +Ġimmedi ate +Ġscient ists +Ġ{ $ +_ ne +.Anchor Styles +Ġaccom mod +ĠHar ry +Ġs ight +ĠPale st +ersist ent +Ġ Ñĥ +- input +Ġco ordinates + · +W elcome +.con f +Ġgre w +Ġb old +ĠC PU +(m y +Ġperfect ly +Ġmom ents +ĠM ovie +- data +yst al +_W IDTH +ĠS creen +æ Ŀ +Ġdis ap +Ġredu ction +.Get Component +_M ODULE +Ġgener ic +Ġd y +all er +Ġc url +ĠB ody +Ġb anks +, t +av g +Ġev il +Ġmanufact urer +Ġrece iver +Column s +Ġing redients +ĉ out +qu es +.L oad +Ġslow ly +ĠT own +ĠC ell +_n ormal +_p refix +ĠAl ert +(" { +ä r +âĢľ The +ĠM D +Ġcour ses +ath an +é Ļ +oc c +ĠS ER +es ign +Add r += [' +(" ./ +] } +.f ont +ĠInst agram +ĠB order +od a +Ġh all +Ġr um +_b it +Ġs aving +_d own +R andom +_reg ister +( Context +Ġoppos ite +R oom +Y ES +ан и +Ġenjoy ed +_r un +C lear +âĢ ĺ +ĠF ord +on ic +ost en +"] ) +_ auth +// čĊ +Ġsuff icient +LE S +Ġph en +Ġo h +_c sv +Ġrout ine +.Are Equal +ay lor +Ġb asket +_COM M +rypt ed +S im +ĠSh op +Ġstud io +at os +( W +[ string +ä t +og a +Ġsh r +Ġs ick +An other +Ġdo ors +_N E +ĠTH REE +. order +raz il +Ġmap s +_TR UE +trans late +Ġnear by +Ġn ach +LO AT +b atch +Ġl ux +ash es +ang ers +â̦ â̦ +_E VENT +_ UP +Ġact s +in v +_M ETHOD +cc ion +Ġret ain +ut ch +ĠÐ ± +Ġknow ing +Ġrepresent ing +N OT +p ng +Con tract +Ġtr ick +ĠE dition +uplic ate +Ġcontrol led +c fg +j avascript +Ġmil k +Wh ite +Se quence +aw a +Ġdiscuss ed +ĠB ush +ĠY ES +.f actory +t ags +Ġt act +Ġs id +$ $ +ĠE num +Ġfr ames +} ); +Ġreg ul +'] ;čĊ +Reg ion +ff f +Ġc ro +( com +=" + +St udent +Ġdis appoint +RES ULT +Count er +Ġbut ter +ĠH a +ĠD igital +Ġb id +"> {{ +ing ers +ĠC ountry +_t pl +"] )Ċ +/ k +d ating +: # +ĠD ATA +yn chron +_b ody +olly wood +Ġval or +ip ient +o ft +UB L +doc s +Ġsyn chron +Ġform ed +ru ption +Ġlist a +Request Mapping +Ġvill age +Ġkn ock +oc s +" { +_fl ags +Ġtrans actions +Ġhab it +ĠJ e +ed en +Ġa ircraft +ir k +ĠA B +Ġfair ly +. inter +.A ct +Ġinstr ument +remove Class +.com mand +Ñ ī +ĉm em +( min +Ġo t +Ġcol le += s +time out +Ġid s +ĠM atch +ij n +z ero +Ġnetwork s +.g ov +Ġint el +Ġsection s +out ine +(c md +(d ir +ĠLI ABILITY +ĠB log +Ġbr idge +ĠC V +con vert +Ġ" )Ċ +ĠB ern +_P O +e val +( set +to ol +Ġpay ments +Beh aviour +Ġcon crete +Ġel ig +Ġacc eler +Ġh ole +_ o +TE GER +Ġgraph ics +O wn +Form atter +on der +Ġpack ages +/ a +ĠK now +Or Default +Ġdut y +W ait +н а +_rec ord +[ t +M esh +Ġon going +.be ans +Ġt an +Ġinter pret +ast ers +QU AL +Ġleg s +\ Request +- file +_m utex +ĠS aint +// # +Ġpro hib +( info +: = +lin ux +Ġb lo +ot ic +ĉf inal +_ex p +ĠSt op +ap ing +(s aved +_p ush +Ġe ase +_F R +pons ive +str cmp +: ĊĊĊĊ +ä» ¶ +ol i +Ġextrem e +Ġprof essor +Im ages +.IO Exception +Ġaddress es +plement ed +Ġincor por +Ġuse Effect +_O F +ĠD a +n ombre +IR ST +Ġdisc rim +Ġcomp ens +greg ate +anc ell +ach es +ĠC riteria +$ result +D estroy +Ġsecond ary +W atch +ĠS em +ĠMc C +Ġacad emic +U pper +:: ~ +ut ral +ĠD og +ad ed +Valid ator +Ġder ived +Ġset Timeout +ĠK en +Ġtyp ical +ĠB ob +Ġb ounds +ĠSe ason +Ġc razy +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠ +-r outer +itt est +ĠM ir +Ġemot ional +, v +c n +/ st +å ½ +on om +Ġdecl ared +> . +ail ing +Ġ/* <<< +Ġnorm ally +(M e +ev in +lik ely +Ġpoint ed +ĠSt ack +Ġw alls +. Vector +me an +] ]Ċ +Ġlist ening +ad v +Ġsw ap +IF T +Ø ª +. argv +ul s +< option +not ations +Ġemail s +ĠU kr +ast a +ĠTh us +ĠSt one +Ġappe al +. âĢĻ +Ġreg ulations +Pre ferences +ĠPh one +ul f +ĠD R +Ġtechn ologies +Ġpar agraph +Ġnecess arily +.e ach +< float +res a +Ġunder st +Ġf inger +press ed +-b y +if fer +w atch +ĠB a +A IM +Ġwe ights +ĠR on +') }} +[ self +-------- --Ċ +per iment +Ġto String +x ic +ĠC amera +! ĊĊĊĊ +aur ant +P refix +Ġinstit utions +: int +Ġex posure +p attern +ĠLin ux +.n umber +red ient +Argument Exception +ĠCh ief +" }, +Ġelect ronic +r ong +er d +sp Net +ra it +/ ', +ĠOh io +Cont rollers +Ġcontin uing +ĠT emplate +ĠE th +s z +/ env +En v +% . +art ers +) (( +ĠT ABLE +Ġà ® +per ature +pro gress +P res +ê ° +im plementation +Ġb ien +Ġstre ets +_M SG +New s +## # +: / +Ġcut ting +x B +ress ed +_EN ABLE +l ab +Ġca using +] ));Ċ +b ra +x FFFF +il ly +plet ion +w ill +_b ar +Ġstruct ures +ĠI mp +Û Į +Ġ< > +Ġ ---------------- +_B UFFER +.d ir +Ġpl ain +Ġpe er +g g +oint s +Ġsomew hat +Ġw et +Ġemploy ment +Ġtick ets +ir ms +Ġt uple +s is +$ sql +r ig +Ġcon version +Ġg es +Ġconfig ure +eg r +ĠC a +Ġ__ (' +ou ston +.t oken +Bl ack +Ġmag azine +A W +. IN +os ing +Ġbro ke +ĠC ru +DE LETE +Ġdestroy ed +(M ath +Ġappro val +-d om +ĠI II +table View +Ġdesign s +Ġcrush ing +Ġcons ent +dir name +om p +Ġc rypt +? ( +or ough +. o +ĉ list +ams ung +."" "Ċ +err ing +G oogle +_p air +_IN IT +rem arks +Ġg ear +F ill +l ife +} ")Ċ +Ġsuit able +Ġsurpr ised +_RE QUEST +Ġman ifest +att en +Ġfr ustr +ov ement +.c lick +Ġi i +Ġexp ansion +ig s +P arse +.Reg ular +R ob +_l ayout +ì ł +Ġtrans lation +ĠBe aut +B est +_C OLOR +< label +Ġliqu id +IT S +Ġpro d +Ġoper ate +UI Kit +Ġn atur +arg ument +_d etail +ĠCent re +Ġ" -- +Ġ}} " +lo cale +.t v +_se q +Ġup coming +Ch art +ĠDiv ision +Ġclin ical +Com pany +S epar +l as +ĠH un +: s +Ġhead ing +оР³ +Ġ" ");Ċ +[ id +b ia +Ġst retch +ic ide +Ġre produ +.pro ject +leg end +end ers +Ġrespons es +Ġon t +rit ical +Ġref uge +ĠL i +Ġ: ĊĊ +ĠTh ree +.cont roller +_IN DEX +_F OR +\Model s +j ax +ĉex it +Ġâ ĸ +Ġc overs +ĉ y +- . +IND OW +Ġfail s +in cludes +Ġf ault +Ġl y +ñ o +.s lice +ILE D +ĠP ur +ĠAs ian +_b atch +.M ax +v l +ĠCOPY RIGHT +Ġg iant +ĠMan ual +ĠC opy +Class Name +He alth +C ursor +IB Outlet +Ġt we +æ ³ +_label s +Ġcol lected +Ġfurn iture +Ġdeal ing +Control s +ĠHot el +ck s +Ġch ose +âĶ Ģ +od d +S R +Ù Ĭ +ì Ħ +Ġacc ord +ĠM ove +ĠM ode +ĠM ock +Ġthread s +++ ++ +ĠO ptions +Ref resh +ĠD id +'] -> +u cc +_ch annel +. abs +Ġ{ },Ċ +ĠW al +er ior +Ġmain ly +ĠDr iver +NotFound Exception +Ġcount s +e am +Ġ& = +Q uestion +ĠA li +Ġany more +d etail +t ail +Ġm ile +ĠF air +Ġs orry +Ġsurround ing +Ġad m +De v +Ġmari juana +ĠS ound +ĠA sh +F D +Te am +. port +Ġ[ ]ĊĊ +ub ble +Ġas c +Ġint ention +A cc +ch i +ust ers +Ġins pired +se g +CL U +Ġman ip +M etadata +Con nect +ĠB eh +Ġfind ings +Ġas sembly +w orld +Ġrem ained +Ġu id +( . +Ġm x +Lo op +ĊĊĊĊ Ċ +Ġfant astic +wh o +ak i +ĠB asic +ĠY et +ĠUs ers +ik ip +Ġhead s +ĠMich igan +_ it +ĠTor onto +Ġrec ording +Ġsub mitted +_var iable +medi ate +.graph ics +Ġst ood +Ġre ar +vel ocity +_M ESSAGE +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ro les +ĠT our +_ year +end ment +amp s +ĠIre land +m al +Ġyoung er +Ġstrugg le +Ġc able +ĠSD L +(' - +an es +ĠNe ed +.R ow +P ol +ĠP H +_s cript +ag em +ĠB as +_s pace +. loc +: i +ad r +Ġengine ering +it en +) & +Ġu k +ĠL ittle +_C OUNT +x A +Array List +æ į +Ġ" ")Ċ +An chor +Ġh ang +t witter +Ġcompet itive +.s rc +ãģ Ĺ +Ġtrans late +ĠCre ates +ook s +ĠR oll +'' 'Ċ +/ sh +s ome +Enc oding +.res olve +Ġdesign er +ĠSt orage +Ġz a +ĠN ever +Ġsomew here +Ġbox es +.s ource +Ġpy game +Ġgrow n +.t w +() ),Ċ +', [' +Ġoppon ent +(s rc +.l ayer +AP P +ĠAct iv +Ġguest s +ĠVAL UES +};ĊĊ Ċ +.n ative +Ġamount s +. RE +Ġcl one +Ġwer en +Ġ" << +_ ac +Ġbreak ing +Ġreli able +.P OST +ĠSk y +Ġ' & +Ġsaved InstanceState +ast ing +ill ion +com ments +ult y +.m enu +/ config +Ġ ĊĊĊ +T ODO +Ġpurch ased +_c or +ĉ auto +Compat Activity +com plete +_ graph +is odes +Ġsitu ations +ĠH or +Re ceive +âĢľ We +Ġent ities +.assert Equals +оРº +ĠS ans +v ince +rom pt += Ċ +Ġ/ . +.Se lect +yl v +Ġb att +A udio +Ġincreasing ly +.B undle +Ġexpl ains +the ast +. offset +Ġh al +Ġtechn ique +_l imit +Ġdraw n +AY ER +Ġfeature d +yy yy +at in +ph en +ach el +! \ +l ower +ĠG R +Ġp ag +ĠP arse +Ġt ou +ä¸ Ģ +D istance +Index Path +Ġh ell +s im +UT TON +Us age +elen ium +ĠF all +Ġ" .$ +ĠM u +Ġcr uc +Ġs ont +REF IX +Ġinter ior +ĠO lymp +.Auto Scale +par a +Axis Alignment +Ġr iver +D to +Ġwith draw +Re act +- class +b efore +_ alloc +Cont ents +ĠW as +I CT +Ġform ula +Ġindic ates +ĠĠĠĠ ĊĊ +_st ore +it ting +ĠIt alian +_S et +_re port +Ġp id +_V ER +Ġw ins +ĠCl oud +") {Ċ +ch ester +Ġden ied +Ġw ird +ĠSte p +Ġinvest ors +b old +_d isplay +ou ver +or er +Res et +Ġsurg ery +Ġstrateg ies +/m aterial +_ unit +Ġc ouncil +.P er +ĠâĢ ŀ +Ġre form +F ramework +Ġlist ing +_b tn +Ġb is +% d +eg as +Ġsudden ly +_S ER +Ġa o +_d irectory +f as +Ġprem ium +Ġtrack ing +ĠB L +Ġm ature +Ġbath room +Ġ'/ ' +ĠÄ ij +Per formed +Ġsold iers +arn ings +Ġwalk ed +- con +b ottom +Ġsurpr ising +Ġg ene +Us uario +.DE FAULT +ĠM IT +C ODE +ĠE gypt +p icker +ys ql +AT URE +d etails +ĠCon ference +In formation +ĠM ail +-d own +r aries +b ro +Ġsubject s +Ġ' * +è¯ · +or ient +: @ +ver bose +E F +Ġto ler +eng ers +Ġend point +Ġstr ange +Ġcol on +Ġpre ferred +de p +ĠE V +ARR AY +Ġw he +Ġp up +_n odes +Ġtalk ed +Ġinstit ution +db c +Ġex posed +te en +ĠFr ont +T T +_N ONE +\/ \/ +pro gram +Ġencour age +. ` +sh ire +ĠIsl am +e en +N I +' " +.W idth +Ġlik ed +Ġ{ ... +ĠSystem s +Ġvot re +Ġmanufact uring +Con verter +ĠIn f +ì ļ +D TO +Ġin ches +Ġ ठ+à ¹ +ĠChar les +B U +")) ;ĊĊ +ĠL abor +un n +Ġest im +m obile +ĠL earn +_C ALL +â Ħ +Ġind ices +Ġt ub +ikip edia +C ost +row able +ë ¡ +g age +Ġfunction ality +uzz le +em os +.l ib +Ġd ass +еРº +enn a +Ġsh ots +Ġrest ore +/ D +For Key +], [ +al ias +l int +.st ream +æ ł +_FORM AT +Ġsil ver +.re pository +Ġlegis l +.B order +_fe atures +Per mission +Ġhous es +ĠW ars +_COM P +Ġinj uries +Ġconstant ly +fl utter +EN U +ĠCon f +Ġrecogn ized +Ġpract ical +Ġde cent +B J +] ); +ast y +ĠAct ivity +-m ode +Ġsl ide +.IsNullOr Empty +ĠY OU +P ower +ind ices +Ġqual ified +Ġthrow n +h ello +ĠN ick +l ah +as sembly +ĠSm all +old ing +Sh ould +ĠSil ver +(saved InstanceState +Ġtog gle +.N ot +C trl +: nil +ĠCont inue +ĠB oot +æ ī +ĠM ur +d on +ĠF A +S napshot +Ġassoci ation +fo x +, a +az ione +] )čĊ +CT YPE +Ġf ade +ĠD ar +.n avigation +Ġl uck +SC RI +ĠDe ad +Ġterm inal +_LE NGTH +Ġeff iciency +Ġun w +Ġn arrow +iment o +( Color +ĠSe a +_ area +, A +_ opt +ĠHill ary +.t ask +ĠJ ac +ast ed +ĠAd am +ĠIl legal +Ġsearch ing +Instance Of +J ava +ĠForm at +Ġreal ized +ĠChild ren +Ġk il +(f rame +âĢĿ .ĊĊ +Ġscen ario +"] );Ċ +Ġincred ible +li x +IO Exception +ĠQ uest +il ty +Ġun lock +â Ĥ¬ +Ġre ferences +ĠV ert +B inding +eg ative +Ġwr ap +.d atabase +( content +B uf +ĠTr ad +ĠA ud +tr ace +.m ock +Ġther apy +ĉ L +.To Int +ĠKing dom +B us +ha ust +"" "ĊĊ +( end +.draw able +[ ];Ċ +ĠH ospital +Ġph arm +---- - +ĠA G +é d +> ");Ċ +Ġw allet +at able +) $ +Ġmonth ly +Ġdi agnostic +S ymbol +Ġiter ator +un finished +Ġimm igration +s r +RO W +(g ame +Ġclo thes +ĠU nt +Ġactiv ation +_C on +.h ash +Ġinitial ly +.H ash +Ġcut s +f ound +ĠSt ory +ÑĨ и +ac ao +_T YP +pro to +est r +-p age +ah r +Ġincor rect +ĠJose ph +TextBox Column +_st yle +ĠD aniel +s heet +Ġl iv +l ined +Ġr a +R untime +_ empty +sl ug +_ struct +ë Ĭ +m u +Ġper mitted +Ġreg ional +Ġsob re +ĠS uch +Ġ[ _ +Ġro of +.Al ignment +t imes +.m sg +Ġche st +ĠT ab +Ġest a +ä n +Ġsubs cription +( command +s pecial +Ġme al +") :Ċ +_ ctx +Ġclos ely +et ry +- be +ad el +ĠR am +ig est +ĠSpan ish +Ġcommit ment +Ġw ake +* >( +P HP +_ { +ck er +< List +_n ull +ĠRes erved +Ġin her +.Column s +.A spNet +_IN VALID +ĠParam eter +Ġex pr +} { +Cell Style +Ġval uable +Ġfun ny +In v +Ġst able +* t +Ġp ill +pl iers +ĠC SS +ĠCon dition +ĠS peed +ublish er +Ġoff ensive +ce st +ic as +Ġsp ark +ĠPro te +set up +IF Y +ĠT ax +Wh o +F amily +- for +. uk +Ġf asc +sv g +") ). +Ġbirth day +âĸ Ī +ve h +el led +Ġimport s +ĠIsl amic +T A +ĠSt an +we ather +Ġsus pect +e ature +enn es +W M +.m inecraft +av id +è ½ +.se curity +in os +G ood +Ġm arch +Ġposs ess +us uario +Con s +am ber +ched uler +Ġhor se +ç ½ +(b ody +ĠTrans form +_de code +.s vg +Ġf oo +Ġd ella +ext ends +am er +Ġprocess ed +ĠH arr +ĠA I +Ġk o +CH AR +( % +Ġt ap +({ ' +c roll +D OM +Ġte a +Ġre in +Ġworld wide +_f n +sh a +Ġb ir +ç ões +="# "> +Ġrepresent ed +ill er +(ex pected +Ġd ance +Ġvisit ors +.con cat +-b it +UR RE +ĠR og +v p +ip h +ĠL LC +it led +iam i +C oll +_re al +_sh ow +_f older +Ġd ar +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġl atter +arch y +Ġb ow +Ġout come +ĠPost ed +Ġris ks +ĠThere fore +Ġowners hip +Ġpar allel +Ġp ending +ge ometry +Ġrecogn ize +ST EM +ĠC P +Ġimm igr +IT LE +ĠĠĠĠ ĉĉ +conn ected +Ġsm ile +(d ocument +\ Component +vert ical +Ġconsum ption +Ġsh oes +. impl +un ks +. ";Ċ +Ġfood s +_ );Ċ +.assert True +Ġp ipeline +Ġcollection s +Ġearn ed +ĠC ert +Ġpartners hip +( action +Ġc d +ĠV ery +Option al +Ġscre ens +Ġtit les +ener ator +Ġab andon +k ind +IL TER +Ġclos ing +lic a +_ inter +Ġcamp us +set ting +S prite +ãģ ¯ +_re ply +To List +: \/\/ +ed e +Ġfol ks +Ġbo at +( argv +Ġperman ent +Ġcarry ing +Ġconserv ative +import ant +. img +ĠIm m +Ġdim ensions +al and +s ingle +Ex it +-------- -- +ari ant +tern al +Se conds +ĠIt aly +ot lin +.Res ume +=' " +) == +cept or +Ġs ca +/m ain +Sec urity +_d at +Ġlet s +Ġa qu +Ġwhen ever +b erry +Ġact ing +ant i +p d +& gt +æ Ń +Z one +T oday +! . +To Props +ab is +it able +Ġg al +] { +iz ona +Ġin contri +N ET +/// Ċ +[ in +_s ave +Ġex em +ĠK enn +Ġev olution +var s +_st ats +- only +ĠColor ado +Ġwatch ed +b our +Ġsever e +Ġprofession als +port ion +Ġguar ante +Ð ³ +Ġpush ed +ĠG i +ï ½ +Ġt um +ĠA z +ĠEdge Insets +")) ;čĊ +is se +. ac +Set ting +Ġapprec iate +ĠValue Error +Ġsur ve +ĠR ole +. Inter +plot lib +j et +d am +Ġplatform s +te le +UT O +ĠInt ernal ++ : +} ;čĊ +Gener al +\ Entity +Ġlawy er +qu iv +ĠPost s +is o +Ġacc um +ob e +Ġmark s +Ġ] ;ĊĊ +ĉ text +.s uccess +cur r +as a +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠ +Ġth in +_ over +are st +ĠO s +( address +Ġvel ocity +Ġ[] ;ĊĊ +=" ../../ +ĠPr iv +b ow +Ġguar antee +% ĊĊ +Ġeval uate +.LE NGTH +Ġin ventory +q a +_de bug +.On ClickListener +Ġl ies +Ġassess ment +dat etime +.background Color +Ġ*/ čĊčĊ +ra f +un wrap +ĠF oot +Ġnot ify +Ġlow est +DO CTYPE +Ġl anguages +ex tra +- back +Ġein en +tem plates +_p ass +ĠM ust +Ġest á +_c ore +ĠSc ot +A I +Ġb ias +ations hip +Con stant +Ġprogram ming +In s +uspend Layout +ĠPRO VID +ant es +Ġsh irt +in ated +. OK +[ a +Ġthink s +? ĊĊĊĊ +Ġregard less +ĠMag ic +ul ating +ĉ class +add Group +RE ATE +ĠS U +Ġsim pl +c opyright +Ġb unch +Ġun iverse +ĠE rr +Ġpresent ation +c ategories +Ġatt ach +.s ign +_A C +Ġdisc ipl +Ġregular ly +Ġprim arily +ink s +[ [ +.r and +.sh ould +ownt own +=" ' +Ġs ans +Ġsupport ers +se quence +G O +. .ĊĊ +ĠS pr +Ġcare fully +U IColor +dest roy +Ġtod os +ĠOR DER +ott ed +Ġd ont +aud i +_ player +g re +ĠO il +< body +_st ack +.P adding +ĠProduct s +Ġpriv ile +Ġinj ured +ĠF urther +Ġal ias +.Resume Layout +_LE N +Ġs es +'] ;ĊĊ +cre ens +Ġdirect ed +.S uspendLayout +od ge +.A t +mark s +ĠUn ivers +ert s +ĠE sc +Ġnav bar +Ġutil ity +agnost ics +Ġin ject +ĠD NA +Ġ" ," +am ar +Ġe u +Ġrestaur ants +_p ut +ut ers +Tool Strip +t w +ist ro +Ġz oom +Ġleg it +pec ific +ĠC ome +Ġlocal Storage +Ġabs or +.P anel +ĠDesign er +Ġo w +IC AL +_ uri +(f ield +Ġsup erv +Ex ists +Ġrespect ively +ĠSt and +Con f +uss ian +Ġar c +Ġ nd +uck s +Ġre str +Ġseason s +ĠCh apter +ĠSw itch +p ic +Ġh i +load ed +Ġfl uid +-b tn +Ġrun time +. it +B N +Op acity +as ant +ry ption +-n ative +Ġta ught +å ¯ +ag ment +Ġm ul +Reg istry +_ grid +ĠBro ok +: Set +Ġm ongoose +AM ES +inner HTML +Ġs oci +ĠInt el +get Id +C md +Ġaccess ible +r ames +le ton +Ġ__ ( +ĉ delete +ĠS quare +" ĊĊĊ +Ġbu cket +avor ite +ĠB reak +++ ] +Ġbr ush +Ġt ensor +/ http +T ile +Ġfunction al +Ġ" * +wh el +Ġt ent +ĠChar acter +Ġse es +. ST +B ig +Ġext ern +Url s +)) )), +ĠJ r +.B uilder +. ; +n l +_ Init +ĠH ER +ż e +mys qli +_ icon +v an +Ġfeel ings +Ġle an +Ġhop ing +T V +="čĊ +b est +all as +ent ed +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĊ +_con nection +Ġrep o +en abled +аРº +Ġsh a +Ġmembers hip +Status Code +in ating +_s m +_c ustom +_ weight +Ġc ss +St at +_ env +link s +TR L +ĠH it +, r +up id +Ġop ens +Ġg ent +_v is +Ġj oy +< w +_c ost +ĠPy Object +ren ce +ĠGeorg ia +ĠBro ad +m ma +â Ĥ +p f +Ġ" \" +Ġ( & +om o +Ġliter ally +Ī ĺ +met ric +Ġb ars +z ed +(w indow +ĠIsrael i +Ġform al +ident ifier +.d ao +ĠDe ath +% ;Ċ +Ġdecl are +ar ms +RE AM +PERT Y +Ġconsequ ences +to ols +Pe ople +ĠWh ich +> ();čĊ +.de code +_A CT +Button s +.f loat +.F irst +ë ¥ +ĠPol it +ĠX CT +T ags +ĠCG Float += str +Ġle af +- check +ĠI ss +.s ystem +log out +ach t +Ang le +s in +ch art +INT ER +ĠN UM +B asic +.P roperties +ä¸ Ń +_ change +ĠB razil +Ab stract +Ġ: +: +_ use +а л +ĠL y +IB UT +Ġout er +Ġ-- >čĊ +Ġrel ief +l ap +qu er +_p arent +he ap +LO SE +Ġcomb ine +ĠR ose +ow ers +Ġproced ures +ĠS ort +an im +var iant +eh icle +Ġsign ing +Pr imary +c urrency +Ġsex e +o en +th eta +em an +Ġimpress ive +(' _ +ĉ U +ĠText Style +_c nt +Ġs lice +(' : +Ġunderst ood +H is +Ġinform ed +Ġn ick +(T AG +h d +Ġelection s +est ure +ĠS anta +ĠCo ast +.p df +inc iple +.cl one +b orn +ut a +Ġl icensed +C r +Ġb read +ĠH ouston +Ġn od +Ġhop es +ĠCG Rect +Ġgu ilty +.g if +Ġro se +.Com mon +T ip +AN K +ĠF C +D uring +ĠSym fony +Ġdef ensive +k m +) > +arch ive +ĠU RI +ycl ing +- o +ĠWe bsite +AM P +ish ment +Ġdo ctors +D irect +AR I +ĠRed irect +ier en +_d ist +y o +ĠPro gress +Ġz um +Ġmem or +ĠE D +Ġj ur +æį ® +_T ABLE +Ġu uid +Ex pr +. head +(' % +point er +Ġest imate +ĠG reg +Ġlo ader +Ġi OS +Ġm ens +[ y +Ġref used +Ġprec ision +is ch +ĠA CTION +Cl oud +s With +( ret +_ADD R +_con f +(d f +Ġlock ed +Ġr ising +ãĥ» ãĥ» +ĠM s +Ġscen es +_EX T +_ raw +_ the +pe ople +Ġre con +ĠF un +Ġb less +ĠUp dated +ü n +ĠĠĠĠĠĠĠĠĠĠĠĠ čĊ +pe ction +Re lease +.log ger +ĠS Y +Ġcoun sel +ur d +_ true +Ġevery body +iv ot +Ġh ence +ĠN AS +Ġoppos ed +unk nown +ĠDES C +ĠCh air +fa iled +ĠIN CLUDING +Ġwrit ers +{ }Ċ +ÃŃ t +_c opy +} : +ĠB at +Ġconvert ed +ed ing +pl acement +ĠH ost +S ound +и м +Ġs ought +m id +Ġsal ary +og g +âĦ ¢ +b ul +Ġw ir +valid ator +_ST AT +.st ore +ĠB attle +ı n +Ġ-- >ĊĊ +Tr ump +d ot +ĠCON T +.f etch +Ġcontin u +w as +Ġfra ud +_t mp +mit ter +.p ictureBox +G A +Ġt ournament +. Input +[ r +ex ion +cent age +ĠKore an +und ef +ĠAv ailable +resh ape +Ġk it +ĠStr uct +ĠS UB +An swer +_l ib +.t witter +Ġo re +ĠDr agon +.Ex t +, k +Ġexplan ation +ref s +ĠDr ive +ĠTr aining +.H as +int age +b ig +olog ist +enn is +Ù ĩ +Ġch icken +ĠĠĠĠĠĠĠĠĠĠ Ċ +ç Ľ +ãģ § +Ġpe ak +Ġdrink ing +Ġen code +ĠNE W +m alloc +ĉf printf +Ġ= ================================================================ +in cluding +Ġprincip les +ĠM ah +st orage +- key +Ġkey word +% ; +Ġtr ained +.con trib +Ġk v +__ ':Ċ +ĠB oy +param eter +Ġsu ite +Ġthous and +Ġco ordinate +-g enerated +íķ ĺ +gener ated +Ġad mitted +Ġp ussy +# w +Ġsw im +un ion +N a +ĠRoy al +.ch annel +Up dated +_RO OT +Ġv ital +ra ction +ĠCrush er +Ġpre ced +Ġhor izontal +Blue print +Ġattr s +Ġsm oke +Ð Ĵ +. Equals +F B +ĠRes ources +roll ing +Ġpass es +ĠN um +rot ate +et ype +\ ", +Ġsens itive +Ġt all +? âĢĿĊĊ +Pro xy +i y +_ section +âĢĶâĢĶ âĢĶâĢĶ +br id +Ġcirc uit +at an +EN C +Ġdr iven +Ġvot ed +Ġeduc ational +Ġinter action +abet es +Ġt one +ĠInitialize Component +Ġmer ely +Ġì ŀ +co okie +_ div +ĠUIL abel +vel y +} );čĊ +_ ENT +#+ #+ +art icles +ĠSou thern +Ġstrong er +ĠG iven +ĠE ric +ĠI R +ab stract +U nder +n able +Ġincre ment +ov en +Ġco in +_t imer +Ġsuffer ed +ĠF REE +'] ." +ĠQue en +st ats +Ġmeet ings +Ġenter ing +Ġalong side +(s ession +it als +Ġfound ation +ĠC redit +. div +_ ALL +pc ion +_st at +ick ing +Default s +_s rc +Ġoutput s +/ B +Ġent hus +-b l +.Fore Color +ĉ temp +F ace +Ġinter act +Ġwe ird +M ount +re ll +ud ents +Ġrequire ment +ĠS us +I ER +Ġe lected +re ference +ĠM E +Ġserv ers +.w ait +Ġsnap shot +il ton +Ġtri es +Ġt ipo +.T ime +> w +Ġmount ain +Ġp ounds +Ġ[ ... +ex ists +Ġng On +_M AP +Ġf lying +xi ety +ĉ value +_D B +un o +Ġse ats +T URN +. author +! ) +or ce +Ġindic ated +.s in +Ġass ignment +im iento +ĠF rame +_g en +in ery +_ ) +m essages +.set tings +ĠMe an +ĠM useum +ir q +att ach +ĠPalest in +_ QU +_t ags +Ġcas ual +em en +ASS WORD +$ s +ĠC irc +оР¹ +et ric +/ P +Ġep och +< head +_C MD +Ġg it +Ġpen alty +or ph +_ users +ours es +.Date Time +atern ion +_pro ject +Ġsuper ior +ĠD am +ĠSe attle +X Y +> The +ĠA k +Ġgr ass +/* čĊ +(d is +Ġgun s +Ġt b +ĠK evin +. args +ĠA h +op ed +( J +column s +arg uments +ĠWith Events +_f ull +ĠDef ense +S imple +Ġdeath s +Ġext ensive +ĠSt ill +ĠEx pression +ĠAg ency +Ġperform ing +F X +Ġus uario +U AL +S ide +od os +apt op +Ġcred entials +_c ap +at ient +ĠDis ney +Ġa i +Ġch ip +Ġvol t +.make Text +%%%%%%%% %%%%%%%% +Ġbelie f +_LO C +ĠC ivil +N avigation +Ġreve al +Ġviol ent +ĠF il +Ġc atalog +em ed +sc an +. control +Ġconstit ution +C ountry +Separ ator +_A PP +top ic +uet ooth +M IN +Ġdes criptor +y t +ET HER +Ġdistrib ute +' }Ċ +.tr im +.L ine +Ġl bl +assert Equals +ĠD et +omb ok +( width +Ġt ort +ĠEXP RESS +ac o +Us ing +ĠBr and +w all +EM ENT +ĠComm unic +< uint +ĠG UI +EG IN +ĠR ange +/ i +ĠT aylor +c ost +Ġrespond ed +ĠTh eme +n ce +IS H +Ġfeat uring +Return s +ĠK r +Ġ .Ċ +Ġn am +_c b +Test ing +Ġ{ }, +y al +.f ield +Ġ/ = +_SH ORT +m ates +Test Case +ain less +Ġeval uation +_ ITEM +ĠPac ific +ĉ k +Ġc ant +ĠR os +) s +Ġf et +STR ING +ĠDis pose +g al +ĠJ oin +ĠP orn +ĠCath olic +AR GET +cp u +ç łģ +.sc roll +IS ING +ifest yle +anc ement +Ġm erc +ĠB rowser +eter min +Ġover flow +Av ailable +Ġbott le +: UI +ific ial +Ġco ord +clar ation +Ġcon j +G LOBAL +ok u +Ġk wargs +cond itions +ul um +Ġg enu +ĠH ero +å İ +Ġun expected +ĠDAM AGES +Ġk a +ĠC ould +UP PORT +ĠPh otos +Ġconf ident +Ġdet ected +de g +rg b +Ġstrong ly +Ġ} ;čĊ +Ġ) : +Ġle ct +urs ive +RO L +ĠWe ight +Ġent ertainment +Ġ) );Ċ +Ġg onna +Ġb b +.d o +G S +Ġmist ake +D L +ĠPROVID ED +ear ning +L imit +iss ions +[ v +ä¸ į +ir ty +D el +Ġunder lying +pre ne +Ġj aw +ĠD I +pe er +Ġobject ive +Ġde posit +Ġk on +Ġes p +.set Visibility +/ login +< typename +Ġfr anch +/ e +Par allel +Ġsc ored +ĠH on +ĠV ill +ig a +Ġant icip +_ assert +ĠO pt +Ġdescri bes +w an +m ount +Ġmonitor ing +Ġt out +ëĬ Ķ +}, { +................ ................ += int +Ġc ust +---- -- +Ġatmos phere +P AR +ort e +IS IBLE +ĠI ron +ĠNot ification +.log ging +ĠBO OL +-p oint +Ġaf raid +ent a +Ġtom orrow +@ implementation +Ġeng age +ĠAn th +ĠF loor +ĠU l +To ols +Ġb ab +Ġcare ful +ãģ Ħ +Ġcruc ial +Ġcalcul ated +ĠS A +Ġw y +D X +_T AG +ind ed +Ġj et +ĠEngine ering +.M AX +en z +v d +Ġpublic ation +Ġ## # +Ġfac ed +ra ham +ĠC apt +As set +ĠCon stants +Ġlo ans +_ IP +ĠF ish +Red uc +_m at +Date Format +_m e +[] [] +Ġintegr ity +ĠC ourse +lob als +Ġfac ilit +Ġem br +ĠN g +.S ystem +Ġmanufact urers +Ġpro ven +.on Create +Ġal arm +Ġ § +Ġcomm only +ic os +æĸ ° +ĠSt ation +} ). +ĠF ilm +w i +ç ī +Ġeng aged +St ats +Ġgovern ments +Ġafford able +_p roperty +Ġag es +(' -- +Ġf ör +ĠProf essor +Ġhy dro +P ush +Ġorgan ized +Ac cept +é m +_c ell +Ġn b +p b +Art icle +Ġrem oval +Ġauth entication +ĠF R +l ide +Ġple asure +ap ol +Ġpart ition +ĠS ide +Ġcr imes +Ġdem o +hold ers +ĠPak istan +In struction +Ġexpect ations +.sc ene +Ġ' ) +h es +ino is +_P ro +Ġm olec +and al +_sh ort +Ġdefault s +Ġn ations +in en +Ġr t +O CK +P acket +S B +ĠSH ALL +_cont ents +ise conds +vert y +á t +G uid +n om +Ġcon clusion +. Update +Ġlo vely +Ġem it +b ec +ĉĉĉĉ Ġ +Ġintel lect +Ġb rew +ec ycle +F ire +Ġad mit +Ġar bit +Ġarr ang +ĠM IN +M ail +ĠN ative +C ur +Ġcon vent +.R untime +" }Ċ +.R un +Ġprint ed +Ġconven ient +. ar +m ock +ĠAdmin istration +ãģ ¾ +Ġelect ron +fl ate +Ġl ombok +Ġjava fx +n h +Ġsup plies +Ġvisit ing +ah l +Ġpow der +Ġult imate +Ġorient ation +ut as +_s cale +Con firm +ph ones +ĠOper ation +/ T +_IN TER +Ġair port +Ġmet rics +Ġphen omen +a udio +Ġm ai +( K +h u +all ing +rodu ction +ĠTrans port +ĠNOT E +æĸ ĩ +Ġfew er +_T IM +ì § +к и +A ge +F IN +Ġì Ŀ +ĠAt tribute +group s +er k +at to +. define +.AspNet Core +ategor ia +ĠS ir +( form +< User +. round +_d ay +.A ll +Servlet Response +.N o +l arge +IG H +qu ent +Ġvir us +Ġret ro +Ġim per +Bit map +Ġv ice +Ġoff ense +ist e +ĠA UTH +Ġê ° +ToolStrip MenuItem +G u +Ġr ape +ĠDav is +Ġover whel +: flutter +- table +ĠCon structor +Pr ivate +e ven +ch r +Ġap plies +_at tribute +Ġcon tribute +E VER +L ines +ĠAf ghan +Vis itor +ĠS L +se ason +C U +Ġintrodu ction +Ġmat plotlib +Å ij +Ġnewsp aper +âĢĶ and +< tag +Ġin i +Ġd iverse +Ignore Case +ĠU r +Ag ent +Ġb ull +.em it +( Exception +ar Layout +Ġincred ibly +ĠTr ust +={ ( +- nav +Ġe quals +Ġl ady +ĠP od +d isc +al am +ĠI V +â Ļ +iv idual +ph i +add ed +Ġdifficult y +Ġcomp act +ĠAction Result +c ers +_class es +Non Null +Ġqu it +Ġp ou +S witch +ir s +- test +ĠK ind +ĠCal endar +Ġstream ing +} ', +S W +Ġst ead +oc a +Ġprov ince +Ġcol span +Ġperson nel +ĠE mployee +Ġprodu cer +Ġevery where +od b +Ð Ł +bs olute +act ivate +Ġgr inding +ĠBuild ing +ĠSand ers +(s c +ĠOff set +//////// //// +} ;čĊčĊ +({ " +Ġscan f +ĠY Y +ĉdef er +Ġj ew +Ġrestrict ions +.m p +[ l +ä¸ ĭ +label s +red icate +aw esome +Ġw aves +Ġcon front +Ġmeas ured +Ġdat as +_ex it +ot ton +Ġshould er +ask a ++ # +ĠĠĠĠĠĠĠĠĊ ĠĠĠĠĠĠĠĠĊ +Ġtro ops +ĠU nd +_c ard +w ich +Ġn ous +Ġ"/ " +s b +Ġcommunic ations +Ex port +Ġdec ode +th s +inter pret +By Name +ĠSp irit +ed ges +O LE +ĠE M +t it +ĠTh rough +Ġb io +ĠP ackage +or ne +Ġ} . +` ;Ċ +Ġok ay +ĠZe aland +ident ity +(n ext +ĠB ang +Lib rary +Ġheav ily +il on +Ġdi pl +Ġrot ate +put s +) ',Ċ +ĠData Table +Ġmay or +.to LowerCase +Ġsome how +ĠNor thern +al c +Ġcap abilities +Ġv ibr ++ Ċ +ĠS u +ĠRes et +_m ean +Ġc ig +.cl oud +ĠB and +ĠF actory +ĠAr izona +_ io +op her +Ġconsc ious +Ġà ¶ +\ Controllers +_s peed +ĠF ac +_C om +ĠB ible +w en +ED IT +Ġun n +ĠSt aff +ĠIn n +Ġmechan ism +ĠM embers +Ġmigration Builder +'] .' +.get Int +< void +ĉf ree +oid s +\ Support +Ġautom atic +Ġch ances +Ð ¶ +Ġcomp licated +[ row +ah oo +Ġ}ĊĊ ĊĊ +Model s +W in +Ġt ape +ir us +iz on +on omy +(" _ +: . +.st ereotype +( env +_re ct +(w ith +Ġassert That +Ġcon straints +put y +E mployee +T D +Ġgu itar +ĠJew s +.pro cess +Ġf iction +ĠSh ared +âĶĢ âĶĢ +Ġprop ag +.N et +Ġachie ved +ĉ Q +Ġn urs +Sh ared +_FAIL URE +Ġbeh aviour +Ġcol s +ism o +Ġfem in +Ġchalleng ing +Ġpost ing +enc il +Ġcapt ured +ĠD ou +( word +ĠTur key +pan ies +Ġre putation +ORM AL +Ġelig ible +prot ocol +id as +(f rom +Ġfin ance +- per +Ġg otten +H A +d uration +ĠP arent +Ġin vent +Ġre start +ол ÑĮ +r ition +(r s +< bool +i ert +Ġmod ification +ĠT X +readcr umb +b ank +$ / +ĠMill er +] ),Ċ +.Check ed +Ġsac r +se curity +Ġp ose +ĠBr ad +Ġfit ness +Ġannounc ement +ation Token +Ġserv es +ne ed +Ġge ometry +AR S +æ Ģ +andid ate +Ġs prite +_s plit +We ek +ad ies +> (Ċ +?> " +Ġ/// Ċ +Ġein er +Ġweek ly +ĉlog ger +_p op +_m an +Ġmigr ations +Ġask s +Ġb s +Ġfall s +.W here +- height +_fe ature +.M in +Ġhy per +Ġvol atile +Ġtw enty +Typ ography +Un able +D et +, f +-m od +Ġsett lement +Ġcontract s +n ome +B ad +ĠB rian +(user name +!! !! +Ġh ack +.F ield +H R +ĠJ ordan +iz a +Ġ ł +ĠSh er +. header +( other +ĠD ub +( op +ĠR ound +Ġv ie +Ġap pl +ĉ J +ĠIn sert +ĠL P +reg on +ĠM PI +Ġan chor +ac a +ø r +Ġa de +anch or +que e +ĠTree Node +Ġtarget ed +Ġla id +AB EL +v et +ĠOr igin +A nt +. ');Ċ +ex pect +ed Reader +ĠM ajor +Ġin ch +Com par +Ġpre view +Ġill ness +ĠCONTR ACT +ĠInd epend +u uid +Ġn ome +Ġt c +ĠA venue +is an +Ġph rase +_m ove +") [ +Ġprov ision +Ġconcent r +_ IR +ĠU t +() + +Ġn as +! , +ĠRob in +i ations +at itude +Ġp x +ĠWith out +/b ash +ek t +re ement +Ob server +ĠReg ion +UBL IC +Ġ{ // +K N +å · +Game Object +å ¾ +enc oding +Ġ** * +project s +Ġt k +Ġche ese +EM PL +ar o +Ġا ÙĦ +Ġcons ists +ref resh +ure au +ĠSc anner +Ġso il +Ġfl avor +Data Source +Ex ecute +ени е +Ġsh it +åĪ Ĩ +< any +Ġretrie ve +Ġbelong s +.st rip +abs olute +Ġexp anded +bo y +): - +Ġresc ue +.J Label +Ġre ly +Ġal ignment +-f amily +Ġre nd +OLUM N +Ġb orrow +Ġqu otes +ĠL ew +Ġsh ower +ĠDE LETE +_lo op +! "ĊĊ +ĉ re +Ġattempt ed +aver age +ĠP aint +quis ition +ol en +Ġliter ature +ĠRe ference +_TEXT URE +ĠS eg +ĠInd ust +ct ype +D UCT +_H OST +ĠTr ade +Ġpl ugins +Ġbre ast +ul se +Ġcreat ure +ãģ Ļ +ĠW i +Ġsup plied +c oll +! (" +Ġfuck ing +ĠCh rome +ĠU ri +ĠN ation +Ġvert ices +T HE +ĠOr iginal +on de +Ġsh arp +Ġcook ing +Ġ{ /* +ĠPs ych +ĠH ollywood +=$ _ +.D ock +Ġg er +Ġb one +_con n +_se c +ys ics +Ġ= " +S al +s f +Ġdeep ly +ang les +T erm +b ell +ĠQu ick +ener ation +adio Button +åħ ¥ +}čĊčĊ čĊ +Ġcapt ion +l c +ĠE L +, [ +ĠĠĠĠĠĠ čĊ +ret t +(m ethod +ĠFl ash +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +W ISE +.s cale +Ġrough ly +_ child +m emory +ay ing +Ġinitial ized +in ator +а ÑĢ +Ġsc alar +ĠH o +ai res +(c olumn +.de stroy +P ACK +Ġh em +ang el +_S UB +. qu +Ġ × +DE FAULT +pos itories +ĠL ength +ĠF ast +Ġsign als +Ġ// $ +ri ers +Ġd ummy +AN Y +Ġperson ality +Ġa gricult +Pl atform +ER O +ĠT ra +Ġen orm +ĉ W +Action Result +Ġa ver +[ str +Ġ' -- +.S printf +Ġdeb ut +Ġ Ñĩ +h ex +_ utils +Ġp b +U ITableView +Ġz ur +. encode +Ġv ag +.error s +о н +Ġm r +ĠA ward +Ġc pu +Ġpress ed +' est +ĠF estival +' T +Ġa k +res olve +.m e +Ġn ic +Ġgen re +Ġat trib +ĠMo on +Ġarr ive +ĠD ating +Ġt m +.Config uration +. red +Ġgl m +Ġst ations +sw itch +Ġt ied +äº º +Ġ/ >Ċ +Ġsubsequ ent +pos able +-fl uid +Ġth orough +Ġpublic ly +apt ers +ĠWil son +_P RE +y ard +ä ¼ +ĉ in +Ġre vers +Ġbul let +cri bed +nes ota +Ġ($ _ +ann on +c ursor +Ġclo thing +ĠM ulti +: ', +Ġv ess +ordin ator +Ġein em +C annot +Ġar med +ĉ V +ä¸ Ĭ +.F lat +ĠS ep +ĠSub ject +_f ont +Ġcharacter istics +D one +el n +######## #### +PO S +Ġd ensity +ĠPl atform +- items +Ġo vers +Ġpush ing +ç ¤ +.Con nection +_ term +Ġinitial ization +________________ ________________ +ç ¬ +.d ocument +les h +ĉd ocument +ĠP in +ç a +Ġdefinition s +.P ath +_W RITE +Ġ ĉĊ +? >ĊĊ +Ġter rible +be an +ick ets +ĠS V +B uy +(t ask +Ġreg ime +g oogle +Ġcr ack +.vis it +N UM +ener gy +Ġstr uck +_s ample +.p ayload +Ġre vis +ĠSc ene +Ġp g +Ġbreak fast +URRE NT +.char At +_ex ception +ĠAnt on +Ġguid elines +Ġex haust +ĠFin ancial +Ġind ent +Ġdes ktop +H idden +F ailure +Ġpr inciple +Ġ iv +Ġse ks +n etwork +Ġnumber Of +ĠAl bert +ĉ long +, . +Ġz eros +f ade +ĠT yp +ĠT erm +ĠAr ts +.App lication +Ġbeh alf +æĪ · +Ġm ere +(` ${ +Ġaware ness +elp ers +f lix +Ġwe igh +Ġestim ates +. child +/ O +ĠBit map +.b ottom +Ġ************************************************************************ ** +Ex pect +ent o +ĠFor um +ver al +Ġj ail +Ġab ilities +ĠH OLD +ĠC it +Ġd ynam +Ġgr ay +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉ +.next Int +ant ly +ĠAR ISING +( private +Ġreject ed +ĠN ic +Ġle ather += {Ċ +aly tics +th etic +.T op +.P age +={ ` +Ġ ;čĊ +de pth +m ann +W D +ĠS om +.R ight +Ġ) }Ċ +Ġtr ait +Ã Ĺ +i ac +Ġr v +S ample +.X ml +opp ed +ĠÑ Ħ +list s +Ġt ear +ivers ary +.c ollection +ĠCon stitution +ĠHttp Response +Ġbr ill +ĠP rom +h over +ĠM iami +Ġarg ue +_f loat +Ġ ãĤ +Ġn at +ĠT al +Ġinteg ration +(c ur +Ġrem oving +Ġco eff +ĠTh ough +Ġfore cast +ĠV egas +S ite +Ġtr ab +ĠHen ry +- i +Ġinvol ves +B T +Ġs lo +In voke +Ġl ucky +r at +Ġ? Ċ +Ġhand led +(f d +cont ents +ĠO FF +R F +Ġst y +ĠM otor +ter y +t ax +M AP +ĠMr s +Ġph ones +ĠUI View +")) );Ċ +( dev +ĠIr ish +Ġw s +D I +_OFF SET +ĠEvent s +Ġst ages +Ġ} // +Ġhab en +ST ANCE +ĠS in +ĠM oney +(t op +Ġappoint ment +VER SION +met adata +_com ment +Ġcolle agues +map s +â ĺ +Ċ ĉĊ +( al +_re q +Ġf ut +Ġarchitect ure +ĠWH ETHER +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +_s creen +Ġstyle Urls +Ġmon ster +. up +ph ia +Ġprocess or +ĠT err += ', +ĠMan ufact +ĠN T +k el +ib ern +ĉf ile +A li +rient ation +Ġ// ! +ap ore +ane ous +ĠC reat +f older +Ġh ay +Sup press +( left +Ġe uro +Ġdis claimer +ustr y +sh ips +_f d +ĠF a +_in sert +Ġro l +if ting +ĠCom ments +_b r +Ġloss es +ĠAdd ed +ch arg +Ġп о +_s ystem +ĠS ometimes +ĠSp ain +(g roup +ial is +Ġdoll ar +ĠAr gs +qu ires +ĠT en +.s css +Ġsurv ive +us age +Ġj un +im iter +ï¼ģ ĊĊ +Ġfif th +t oggle +Ġdecl ine +($ " +(L ong +ing e +Ġpil ot +-l ight +-r adius +Ġpod cast +Ġnatur ally +P ages +ä¸ º +ĠDes pite +Ġlight ing +Ġcr ate +ĠB inary +Ġredu cing +Ġe leg +ĠM ouse +ĠTest Bed +Ġbefore Each +_ ARRAY +Red irect +Ġf lood +Ġsh ips +Ġelectric ity +)* ( +ê ¸ +ĠV iet +her o +Ġd ia +ĠK ent +he art +Ġthreat s +_ acc +Ġs ymbols +is chen +_in st +C riterion +ĠT IM +. Height +Ġ âĢĻ +();ĊĊ Ċ +Product s +_S P +ĠC y +Ġdepend ent +est e +Ġdat os +d it +аР² +IGN AL +Ġless on +"> ' +ĠC over +ĠH ope +ĠT imer +Ġd ad +vid ers +ĠPh ot +/ ? +rop y +om ing +as ion +Ġ\ ( +ĠE T +ĠRe ading +Ġep isodes +l m +ech a +Ġne uro +Ġhar mon +Ġlib eral +- ind +D ATA +Ġevery day +Ġdiv ided +ĠActive Record +fig ure +U A +ä ¹ +riend ly +te ch +.game Object +иÑĤ ÑĮ +Ġmo on +ft ime +Ġno ch +ĠT ORT +ĠV M +.in itial +( child +Ġmus ical +Ġo c +b as +ĠH ay +_l ong +Ġmem set +ile y +adel phia +S V +ro at +_t x +Ġl on +ĠngOn Init +b p +ĠGold en +AC HE +Ġwor ried +az i +E ar +T ake +(f p +bur gh +_ Data +g res +ĠO nt +p us +Ġtrans parent +Ġp ocket +Ġr am +igr ations +. čĊčĊ +Ġ[ ( +Ġadopt ed +Ġreported ly +ĠD ream +Ġ} ));Ċ +los ing +Ġte eth +ĠBook s +", & +enn y +LE MENT +Ġg el +ĠPl ant +! âĢĿ +.h ost +ĠRep ly +re ngth +Ġrecogn ition +Ġ}} >Ċ +L A +Ġmir ror +Ġassist ant +( device +Ġspirit ual +b uilder + § +Ġou tr +Ġt t +ĠP ER +Ġrad ical +Method s +Ġp ace +ud y +Ġg ut +ĠG reek +Ġnon atomic +ĠP aper +_G PIO +Ġob st +.A d +viron ments +ĠS ov +( con +ĠTrans action +. assign +ĉc atch +el ter +Ġbit coin +_G R +ĠčĊ +met ic +Ġtrans formation +åı · +Ġr gb +istrib utions +Ġimp licit +/ in +dest ination +аÑĤ ÑĮ +Z ero +Ġun set +. where +.g o +Ġform ation +Ġdeclar ation +() čĊčĊ +ĠEx pl +ĉĉĉ ĠĠ +/ pro +.J SON +Ġdes k +.sub str +//---------------------------------------------------------------- ------------ +ly n +p son +dis able +ĠF unc +ĉ Assert +ĠM ARK +Ġdefe at +Ġbl ind +Ġconst ants +. headers +UIL D +Ġexp enses +P ixel +Ġh r +Ġf el +ĠEast ern +_d el +ĠC ub +Ġs q +ĉc ount +ĠD irectory +Ġex clus +Ġhistor ic +Ġ ------------------------------------------------ +Ġcom position +Ġdata GridView +ĠB urn +ĠB C +M aster +Ġsp awn +Ġbe aring +.Set Active +il o +Ġg allery +Ġfound ed +Ġav ailability +.s qrt +Ġp es +ĠD OM +m ate +O ct +Ġmatch ed +it ivity +Ġan xiety +.pr ice +ĠIn stant +ì Ĭ +Ġt ut +IC ollection +.sh ared +_s ql +t bl +lib rary +_de stroy +erm al +ĠNot es +ĠE in +Ġsou thern +ĠOTHER WISE +Ġmac ro +.l ower +cl s +Content View +.l ink +const ant +ĠB es +Ġsome body +n b +"> { +( local +.. ... +ĠN ull +m x +Ġà § +Ġp ause +-------- --- +_M O +ĠC M +Ġfor Key +ĠD VD +Ġclose st +_DE VICE +ĠSte phen +ĠB BC +ĠTr avel +P aint +ĠResult s +ĠR ule +Ġt p +Ġrat ings +c in +c sv +> / +ĠG OP +l ad +Ġ ÑĢ +Ġindex Path +m atrix += f +ars ed +Ġ} ); +ĠC os +ĠS core +Ġt ak +ĠE SP +ĠIN C +_N ULL +-f lex +"] [ +int o +el and +Author ization +_F ALSE +Ġg ate +Ġv id +ist ent +T IME +Ġre write +Ġt ie +Ġarch ive +.event s +.get Parameter +ĠPer mission +Ġprogram me +Ġ é +j ud +Ġcam eras +(s ys +ĠSy rian +Ġimpro vements +Ġh ip +Ġsu icide +Ġsch olar +Ġcompat ible +rem ote +.d own +F UNCTION +Ġman aging +ĠUI Kit +. raw +>> >> +Ġdem ands +ell ite +Ġd ent +ĠM icro +åı ĸ +'] [$ +ĠI E +im ension +Ġt rem +Ġg ained +.w ith +. ok +h ou +Ġb om +amp aign +Ġjoin ing +f ish +Ġadd Subview +Ġnor thern +.c or +ore t +D ie +in ish +_com p +Ġatt ended +Ġcoll apse +ĠS S +ac ent +_E QUAL +ĠDe ep +R GB +ĉ test +ol ves +us et +Un ityEngine +w riter +Res olver +, % +if ference +_re move +ond a +Ġfem me +de code +Br anch +Ġfl ush +Ġinnov ative +Test s +Ġ[' ./ +Ġcover ing +. admin +ultip art +(l ambda + namespace +ĠS port +Ġ! ( +ac les +Ġde pression +ĠK ong +Ġp ert +ĠCon n +ĠOther wise +/ home +s upported +Ġp ink +Ġinv ited +ñ os +_en abled +Ġ- Ċ +F W +en ers +ĠM Y +Ġsuggest ions +Can vas +Ġf er +ĠMarket ing +@ Test +unt u +ĠV en +ĠC ou +iv als +Don ald +lim ited +ĉĉĉĉĉĉ Ċ +Ġanal yst +( entry +Ġrepresent ative +_at tributes +Ġf ur +.h ide +res p +ado res +rid es +ĠJ osh +ro bot +ĠN AT +Ġs esso +Ġintegr ated +: true +part s +Ġst upid +: event +@end section +Ġp u +.T able +ĠY ii +` ;ĊĊ +Ġcl ang +=" "> +eng an +_param eters +.int ernal +ĠMod ern +Ġmet ric +Ġsem i +={ {Ċ +.am azon +ĠB B +aint y +view port +Ġstart Activity +dis patch +**** * +Ġfl av +iffer ent +[ this +Ġst ake +Ġarg ued +vious ly +.w ork +ĠO ak +O ld +( async +not es +Ġfl ip +Ġdis ag +ĠT E +ĉ error +< ' +Ġ» ĊĊ +Ġfilter ed +ĠM ach +Ġh ung +_d ump +_s amples +-dis miss +Ġr ay +Im plemented +D K +Ġj ed +Ġbreak s +Ġf its +. gr +ĠZ ero +or o +Ġequ ally +Ġ' [ +Ġconcern ing +< meta +play ers +_P OS +_s im +J an +Ġyour s +ĉ N +Ġsp ir +Ġch ampion +ĠAn alysis +ap a +ĠNS Log +_l ines +ñ a +ĉĉ ĠĠĠĠĠĠĠ +.S c +Re p +etro it +ur able +M IT +com pat +own ed +_ind ices +], čĊ +Ġdis covery +ĠDie go +ob i +. Index +Ġtrend s +PL AY +.n o +Ġl ens +_c fg +Ġan no +ag an +Ġperiod s +ter ms +y z +Ġattack ed +ib ration +PEC IAL +_ grad +Ġaccord ance +.Read Line +.de vice +ri x +. container +m ay +erc ise +ĠL u +Ġr g +ĠÑģ ÑĤ +ĉĉĊ ĉĉĊ +( un +TERN AL +Ġless ons +Ġalleg ations +Ġtrans mission +.Re f +M obile +ĠT ournament +ĠN ut +ĠG a +ĠCap ital +def inition +- exp +c lean +Ġfant asy +Ġenh ance +ent ence +'] :Ċ +ack ets +Ġcelebr ate +@ ", +Serialize Field +Ġarray s +t b +ĉ st +[ assembly +( reg +.c ategory +Ġimpro ving +Ġsal ope +Byte Array +Or iginal +Ġ[ {Ċ +åĽ ŀ +ĠCl in +oen ix +ĠS amsung +Ġmaint ained +Ġag enda +f ail +Ġpres ents +Ġtim ing +.m ark +' >< +Ġprom ot +Ġin cl +_ only +ë¥ ¼ +ĠAtt orney +- date +Ġlands cape +Ġf u +S Y +.p rop +ĠA rr +p ag +Parallel Group +': čĊ +Ġlog s +a unch +unc i +n ama +Table Cell +iss ues +. { +ec urity +_ex ec +old s +Ġhost s +Ġpro to +_ import +_s ort +ĠB ow +ĠN ormal +ĠF arm +.create ParallelGroup +R otation +. err +Ġp leased +it age +.W h +ĉĉ ĠĠĠĠ +M R +ĠM ORE +ĠN atural +_ transform +B ASE +ener al +ut down +.common s +W T +Ġa an +. Result +d og +Ġclick ing +), ĊĊ +# line +Oper ator +Ġc iv +Ġm erg +ob uf +ng then +Ġ[ { +Ġcan cell +tr igger +. : +W ORK +decl are +Ġdecre ase +ÅĽ ci +lo om +.N one +ĠM I +ĠJ ason +Ġhealth care +iam ond +s ylvania +* x +ĠR a +[ b +Ġprint ing +ph abet +ĠLab our +op per +Ġz ijn +-t arget +_F UNCTION +Ġo ct +ени Ñı +åľ ¨ +Ġwest ern +Ġcomput ers +ĠR ET +Hash Map +[ String +get Value +_D ATE +.N ext +ĠF if +é l +ick ed +æ İ +-M M +Ġ{ ĊĊĊ +Ġcontact s +Ġdig its +Pro du +Ġunus ual +Ġrapid ly +t ures +Ġang ry +c ancel +xx xx +_p arser +id ity +_P REFIX +Ġme hr +Ġrare ly +et he +op es +Ġ% . +work s +Ġthe ta +Ġcontrib ution +ĠT ony +Ġsqu ad +аР¹ +Ġî n +th ere +out ed +ĉ q +Ļ Ĥ +g ood +L I +é¡ µ +ĠL iving +iz abeth +Ġk t +ĠD allas +] ],Ċ +Ġ/ >ĊĊ +Ġrais ing +/r outer +_g ame +ĠC UR +z ens +. es +Ġfont Weight +(f unc +not ification +Ġ'../../ ../ +Ġbl ame +ãĢĤ ĊĊĊĊ +an co +Id entity +f ollow +Ġart s +x s +Ġofficial ly +ĠSt udio +Ġrecommend ations +Ġloc ale +Ġam ateur +ĠEn able +Ġcap s +. End +- add +_g shared +ĠC T +For ce +Ċ ĠĠĠĠĠĠĠĠĠĠĠĠĊ +Ġor ange +Ġl p +Ġanswer ed +.G rid +Ġd ual +Ġstrateg ic +Ġnob ody +Ġf atal +_ est +( el +Ġì ł +ĠB udd +A IT +_f actor +- one +ĠH AVE +" čĊčĊ +Pro f +Ġä r +str ings +Ġdir ty +ĠF ace +ĠB egin +ĠB us +Ġw is +åŃ Ĺ +Ġspe aker +Ġcar rier +ĠO m +Ġhad n +All ow +:: __ +Ġver b +ĠCom plete +ĠE asy +Ġb ills +ĠĠ ĊĊ +Vert ical +Ġpr on +ĠDef ine +Ġlook up +variable s +Ġpand as +um es +Ġinn oc +Ġset Up +ĠCh ampionship +art ist +ĠC Type +F oundation +à¹ Ī +ĠSet up +Ġrec ipes +ĠU IColor +ĠF ight +Ġauthor ized +_c lick +_s uccess +ang an +ĠMount ain +ĠDo ctor +Ġeg g +ĠMedic ine +c les +` .Ċ +[ int +d ashboard +ĠApp ro +-d r +Ġprodu ces +Ġrent al +Ġre load +Ġarr ival +sp ot +Ġund ert +Ġequ ipped +Ġpro ved +Ġcent ers +Ġdef ines +al so +Ġop acity +ĠUn fortunately +ĠIll inois +Ġн е +ĠTem ple +ĠTr ail +ĠK elly +Ġmeasure ment +Ġsepar ated +-c ircle +H ey +ĠRE AD +ig its +Ġ ib +ĠM OD +atter y +аР· +Ġv end +ен ÑĤ +ĠHttp Client +s afe +_A SS +ic it +ĠCon struct +ĠC lo +ĠS ix +_T OKEN +(b lock +Ġwarn ed +/* ! +! Ċ +Ġinnov ation +_ " +Ġ );čĊčĊ +Ġsp ots +Ġcho osing +.c s +Ġflex ible +U Int +Ġscr atch +- al +Ġf estival +Ġout standing +================================ ================ +M ean +ĠO regon +s ymbol +. account +d ney +'' ' +! ", +Ġpart icle +à ĥ +[ MAX +IV ER +ER ENCE +NS Mutable +ĠColum bia +_ ĊĊ +.f r +Ġc ogn +V R +ĠMethod s +ĠM ade +ĠB R +ĠEl se +Ġeg gs +Ġsw ing +ĠIn v +Ġdise ases +Ġf irms +Ġle mma +}` );Ċ +l ings +Ġg ym +umin um +.T rim +M em +Ġcritic ism +ibern ate +_T X +ion i +Ġguid ance +Ġrepeated ly +Ġsup plier +Ġpaint ing +.F ragment +ed Exception +Ġw iring +Ġcour ts +W EB +æľ ī +\ . +ill ance +Ġb rows +ĠP attern +PL ICATION +ĠSum mer +Ch ain +Ġc ute +mer cial +Ġd il +ĠFrank lin +ĉg lobal +IN CLUDING +h istory +Ġl st +Q t +SD L +al ia +i ere +( ... +ĉc in +iff s +vel ope +ĠR oot +cl uster +User Name +ign e +< S +Ġf est +Ġindic ating +ke eper +Ġc ada +é g +cons in +ĠG B +Ġl b +em ony +-icon s +_d oc +Act or +e lem +.De lete +Ġin fection +ĠPriv acy +Ġgreat ly +ĠP os +ĠT reat +Fl ow +Ġattract ive +ĠMar c +s udo +tes y +- an +ab ama +ĠW ould +Ġsu ck +index Path +ĠE t +T imes +Ġclub s +_ass oc +Ġac quired +(" : +Ġint ense +.m aps +Ex pected +T oggle +Ġa y +Ġl ifestyle +-c alled +ĠS now +V olume +Ġcann abis +ĠD irection +ĠLim ited +-s pecific +Ġd owntown +/ icons +Ġre ven +L eg += null +Key board +') ). +Ġ"" ;čĊ +Ġatt itude +.n avigate +- error +AM PLE +ĠJ ay +v r +c ow +.com pile +Ġmem ories +_m ark +ĠMin nesota +Ġk osten +Ġprob ability +w arning +Ġgen etic +F ixture +ĠHash Set +N ombre +_m onth +Æ ° +- start +xy gen +ĉ ft +i agnostics +ĠMat thew +Ġconcept s +Ġcon str +. State +и н +N ov +Î ± +ĠP anel +ä¸ ª +com pare +> ()Ċ +Ġapply ing +Ġprom ised +Ġo x +nc ia +ĠValid ation +ort s +_c ur +e lect +ey e +( Data +Ġreport er +ĠB uff +Ġs r +Ġ" ; +ick y +Ġtemp or +S N +Ġres ident +pi res +ys ical +Ġend orse +ĠS ong +is Empty +le et +_ util +Ġdist ingu +ĠT alk +ĠM ot +( default +.A rg +gorith ms +_ words +im mer +_res et +f amily +W W +Ġsav ings +ĠâĢ Ŀ +_en able +side bar +Run ning +Ġal i +Ġtest im +Ġwarn ings +ĠCh em +ĠEx it +Ġfound er +pect or +Ġr m +_d ataset +ĠD as +Ġh an +Get ty +á l +Ġn y +Ġpo verty +Ġresult ed +.b y +ĠVis it +Ġobt aining +/ '.$ +ĠĠĠĠĠĠĠĠĠĠĠ Ċ +sh all +_LE FT +UI Image +_ Name +h ave +ĠN ob +l r +- footer +Ġn aked +ĠG arden +\F acades +Ġgrad uate +Ġfranch ise +pl ane +Ġcontrib utions +Ġstring With +Ġc rypto +Ġmov ements +ath ers +Ġlif etime +Ġcommunic ate +j ar +ĠFr agment +_ IF +ĠN avy +ĠF igure +Ġsim ulation +_st op +Ġreport ers +Ġvers us +aj a +ĠÎ ± +Ġgovern or +List Item +Ġse aled +.Back ground +ed i +ash ing +Ġl ip +ĠI h +mer ge +Ġn ec +el ocity +ATE G +Ġse eds +Ġflo ating +_F A +w alk +ĉ user +_de pth +Ġw age +@ app +N il +( [" +( vector +Ġsecret ary +Ġj Panel +ve z +³³ ³³ +d irection +ĠE P +Ġh unt +Json Property +ĠP ORT +] ", +аР¿ +ĠFore ign +pan ic +Ġtri als +ĠA le +Ġr ural +- value +author ized +ĠScot land +.d rop +ĠM T +ç ± +row th +File Path +Ġrec all +if le +Ġc el +ĠSE LECT +k n +_c ase +Ġc rop +s ure +p ot +IC S +Ġst em +Ġindust ries +P ut +Ġa ber +road cast +Icon s +) ")Ċ +æĪIJ åĬŁ +g ui +Ġassum ed +Ġr x +E A +è § +EL L +Ġdo se +Ġin e +Ġde eper +l ider +Ġord inary +Ġg olf +_IM AGE +ĠN AME +(m odule +Ġat om +Ġbel t +Ġoff ices +b eta +Ġphilosoph y +( JSON +-f ield +Ġintrodu ce +Ġconven ience +opt im +> "Ċ +ath y +Ġemploy er +qu ate +Ġed ited +Arg uments +ĠN ations +__ ) +Ġno se +ĠS ample +' )ĊĊĊ +Ġc ake +.get Attribute +H D +Mod ified +Ġpredict ed +Å Ħ +an ie +S orry +(d oc +w ind +ie ve +Ġprov isions +AT ER +OT E +M Y +.A utowired +ĠB ath +. Boolean +Ġback end +.M ouse +ater al +p aper +Con st +ĠV R +_ entity +_C TRL +ĠProte ction +ĠG M +ĠStud y +Ġsou p +ot ime +' use +] " +/ users +a ug +ĠH ong +_n orm +ãģ ¨ +Ġse cre +(B uild +ĠCon tract +ol as +Ġsa uce +Ġaggress ive +Ġrac ial +char acter +@ @ +Ġcomp ile +ĠV oid +_re m +_m emory +k k +Ġm ic +S ame +U tility +ĠH tml +ĠX ml +Read y +Ġg all +Ġalleged ly +ĉĉĉĉ ĠĠĠ +ĠMet al +ĠPerson al +Ġborder Radius +rx js +object s +Ġwant ing +Ġb owl +v endor +offset of +ĠR s +ĠR ating +Ġr ally +_N ODE +ĠM ix +Ġadvert is +Ġnarr ative +s al +Ġm c +SE rror +Ġf ingers +Ġaccom pany +Ġt ired +Ġstr ide +Ġgu i +el ist +Loc ale +Ġrele ases +ik ing +Ġan ger +)) )ĊĊ +alle st +Sum mary +( O +(f or +Ġbasket ball +Ġroad s +ĠInst all +ĠF ab +it map +Ġ) )Ċ +Ġinter section +ighb or +ĠB ry +ĠHER E +So ftware +elf are +ac s +Ġtrail er +.get Class +ch ars +Ġreg ulation +Ġref ers +Ġde struction +Ġcontin uous +ĠAust in +é ¢ +ak an +.w indow +ĠTem plates +Ġabs ence +: n +Ġdis order +fl ash +Ġde let +bo ards +ĠĠ ĉ +RO P +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġac qu +Ġlaws uit +ĠRe views +Ġgar age +t imer +Ġe j +ĠRect angle +Ġflow ers +il st +ĠIn stance +S uper +d et +dis posing +ĠE S +ĠI C +ver e +S k +_ch annels +put ed +/ null +nn en +ĠG allery +_g lobal +Auth entication +ĠR ank +Ġblock ed +Ġcal m +mark et +ĉ val +Ġa ug +per iod +ĠCon stant +Ġ?> ">Ċ +Ġl obby +p al +Ġs ink +ia h +Ð ¡ +urn ame +Ġcon ver +Ġinvestig ate +Ch rist +H ub +ĠIN D +ĠP ed +ur as +ĉ url +ĠT ro +Ġpre ferences +Ġguarante ed +` ĊĊ +Ġport ions +Ġeval u +' > ;ĊĊ +.AutoScale Mode +Ġc ats +Ġreg istry +ul us +F I +p ayload +- search +Ġstay ing +ac ious +Dec oration +Re view +In f +Ke ep +it is +, String +Co ord +Ġper o +S ex +ĠAtl anta +uest a +Arg b +> * +} _ +F ooter +Ġemploy ed +_b ound +v ide +.f unc +$ scope +Ġsp o +ĠAn al +ounc ed +ar ound +Ġrestr iction +Ġsh ops +å Ģ +ĠLat in +-c ol +Ġbare ly +ĠE uro +E r +Ġfa ire +_d istance +_un lock +Qu ote +IV ATE +Ġå Ī +Ġaim ed +ĠRet rie +. iter +Ġwr apped +Ġagre ements +str ument +( product +Ġstud ied +.set Value +Ġy e +ĠC ache +MB OL +Ġquarter back +Ġsy ntax +.getElements By +.v ersion +we bsite +Run ner +_s ingle +at iv +ĠAl tern +ĠBeaut iful +right arrow +Ġd iversity +pl ash +( co +.F ill +Ġtyp ing +Ġcl ar +H it +O O +ac co +w orth +Ġscript s +ĠMuslim s +ĠL L +erv ing +( boolean +Ġbase ball +ĠC AN +MA IL +de pend +Ġrespect ive +Ġconst expr +.* ;ĊĊ +'] ))Ċ +Ġy ard +Ġident ical +if ecycle +US H +up iter +. validate +cl i +IST ER +Ind icator +F ail +Ġdemocr acy +. var +Ġsatisf ied +------------ - +enc er +h or +Ġr ounds +DA O +o a +Ġfl ask += c +[ ]Ċ +/d ist +Ġpart e +Ġconfirm ation +er on +aw are + +Ġdepend encies +ĠV ideos +- row +Ġ** /Ċ +Ġn ou +Ġh over +æ ŀ +Ġn in +ĠUS D +M ac +_L oad +Ġout comes +_s ocket +Ġqu eries +w m +Ġhit ting +in ux +M ich +ud ge +AT AB +Ġvulner able +ä ¾ +Ġport folio +: YES +ĉm ap +B ound +Ġiter ation +in cess +Ġact ors +ĠQ ual +_c lean +ãĢij ãĢIJ +MS G +G reen +ĠOff icer +Ġsm oking +> ', +ĠF lo +++ ; +oly gon +Ġbul k +Ġdr ama +Ġexception s +os ed +Ġ+ čĊ +Ġleg acy +C V +Ġcontrib uted +ĠTer ms +Ġb t +Ġunt uk +Ġal ien +=== Ċ +ĉ Vector +Ġl s +On line +.f acebook +num eric +ock ets +A ut +b ury +-re dux +ĠRed istributions +GLOBAL S +urrenc ies +Ġt ons +âĢĻ , +Ġà ª +(c ol +ĠS ymbol +Ġstay ed +ĠM L +Ġm unicip +Ġsex o +S en +n r +Ġg ains +Ġshort ly +.M enu +à ½ +KN OWN +Ġoper ators +- V +ĠPat rick +/ add +_C O +ir ation +(p ost +Post s +/ _ +Ġpl ug +Ġintellect ual +Ġmet ab +Ġpregn ancy +ĠPrem ier +n m +Ġpred iction +ĠMin istry +Th ree +val uate +ĠMin i +b u +оР· +< ul +Ġd d +ol ving +ĠC ut +Ġs chem +.tr ain +it ate +Ġr ice +Ġbird s +ãģ « +m iddle +struction s +Ġn erv +a que +Ġfl u +Ġsurv ival +ĠGal axy +ĠF ant +. Order +At trib +irt s +é c +M ovie +Ġcon ce +qu arters +Ġm ood +.Add Range +Ġres olved +ãĥ Ī +Ġburn ing +ĉĉĉĉ čĊ +ĠW E +Ġhost ing +L AB +Ġman agers +Ġstre ngthen +< const +ĠFire base +on ed +ĠJ ean +' ";čĊ +ĠS av +.B old +Ġen ables +ĉt mp +Ġman ually +ĠS qu +user id +.f unction +.c ache +LO PT +.S ervices +dd it +t im +< img +ĠTh ings +ĠEvery thing +Ġa pt +em and +Ġroll ing +ë ¦ +. level +Ġst om +ĠW inter +Ġview ing +( values +ocom plete +v ia +up o +Ġabort ion +i ère +ï¼ ij +_B UTTON +_d omain +Ġb ra +ĠA st +in as +Ġstat ist +c od +L R +Ġdr ives +Ġfollow ers +Ġall ies +ĉc urrent +ecess ary +Ġdam aged +_ pt +and les +oun tries +Ġsim ult +e u +Ġcontrovers ial +_G ROUP +Ġr ib +. Info +: mm +.n ormal +_ADD RESS +Ġ íķ +add le +ĠD ur +. Element +W arnings +Ġcred its +Ġin hib +Ġem issions +Ġh az +.y outube +ugg ed +Ġbo ther +ĠK ansas +ĠF ixed +ĠTest s +ĠF IX +Un iform +Ġk ont +>> > +st ation +lo re +at ype +ish op +/ **************************************************************** +Com boBox +Ġvac ation +Ġiniti ative +Ġdefault Value +con cat +ĠK h +ĠW elcome +ized Name +M igration +Ġgrad ient +H ot +Ġhard ly +el o +ĠStud ents +Ġlo ose +at z +.S end +' / +Ġunivers al +Ġenter prise +Ġreg ex +Ġvis itor +ĠF ly +Se q +à¸ Ļ +ĠVis ual +Ġlib raries +ato es +P ayment +Ġp ent +Ġgather ed +VRT X +ĠD M +S plit +Ġlet ting +Ð Ŀ +_error s +ep och +P ARAM +c u +ÑģÑĤ в +ol utions +Edit ing +font s +Ġalloc ated +ĠB ased +( Y +ĠJud ge +Ġbro thers +FILE S +ç o +w b +_P I +' ^ +Ġs word +.s ervices +Ġn l +T im +ig g +ĠMo ore +Ġcrypt oc +åĩ º +_post s +ot ate +? ' +... .ĊĊ +Ġk l +=" $ +Ġdec oration +Ạ¡ +ĠD IRECT +G UI +) =>{Ċ +Ġnews letter +Ġprec is +(p oint +ĠEqu ipment +ut y +ĠD ave +Ġparticip ation +u arios +x it +.A s +ET ER +or ous +Ġsh ield +[] > +ilit ary +. origin +Ġprom otion +U nt +Ġc t +TR A +View Holder +Ġsig ma +d elta +are house +con tract +( Vector +Ġcompet e +/ form +/ components +Ġn r +ĠInd ones +Ġо ÑĤ +ĠV olume +.f iles +(res p +/ models +Ġsur f +stand ard +/ o +ĠXCT Assert +V ICES +.C ode +SE D +Ġact ivate +D elta +Ġlimit ation +ri j +Ġpregn ant +: ^( +Ġs our +p ie +Ġexp ense +ic ation +ĠL arge +Ġ ± +ĠB owl +(model s +/ N +P a +.re load +Ġwonder ing +Exec ution +ĉ ĠĠĠĠĠĠ +ĠG raphics +ĠCont in +_j ob +Ġget Name +ĠM agn +ĠD WORD +m ad +Ġn h +fe atures +} ");Ċ +he ets +(tr ain +z n +Ġrecru it +.con nection +Ġbar rel +Ġste am +_set ting +Ġang ular +ane ously +Ġb il +ĠN orm +(! $ +ib t +% ( +Ġpos it +ĠF ather +int endo +L ive +Ġport s +Ġme j +Ġland ing +pon der +Ġc od +_HE ADER +.M argin +Ġball s +Ġdiscuss ions +Ġbl end +H ex +Ġfarm ers +Ġmaint aining +ĠĠĠ čĊ +s yn +[ T +r us +uff ers +Ġcontrib utors +_s ys +.De bug +Ġconstruct ed +om es +? id +sl ider +Ġsup pliers +scri ber +p es +Ð ŀ +": čĊ +\ Controller +)) ĊĊĊ +Ġl ua +M ulti +EN S +S rc +Ġpet ition +Ġsl ave +look ing +V ERT +ĉ vector +S pecial +h h +an ne +ĠN iger +/ views +z ing +end ant +< C +s peed +Ġ{ };ĊĊ +Begin Init +Ġf open +@ RequestMapping +End Init +Ġp unch +S ender +é Ķ +get Message +/t ypes +.P I +(' ');Ċ +oc used +( all +Ġdrop down +). __ +ĠV in +.Fore ignKey +can f +ou red +ĠOrgan ization +ĠÐ ° +ĠC ulture +(cl s +, _ +rg ba +ìĿ ĺ +.data GridView +Ġdo zen +ĠG es +_sh ared +n ick +Ġh osp +om eter +Ġclaim ing +ib les +ri k +æĺ ¯ +en ario +Ġd engan +ob b +m ont +_r ank +('/ ', +Ġap olog +P s +_p ower +ĠG ree +Ġful fill +Ġfire base +Ġf are +ĠH im +Ġbe an +â̦ . +ĠS PI +_R X +Ġper ception +rel ative +comp ile +u um +ut os +a uc +ĠAs k +Ġindic ator +/ th +.set String +ĠWis consin +.D omain +Ġart ificial +De velop +ĠSar ah +Ġl ying +( search +ĠEmp ire +urr ing +æĹ¶ éĹ´ +=" ${ +Ġget Id +ĠP ayment +trans ition +Ġ ]. +ix in +V T +- select +Ġdemonstr ated +Ġlast Name +employ ment +.get Property +Ġf ought +file Name +ĠP ers +-c ard +a str +attr s +Ġprom inent +Des ign +anc ouver +ãģĹ ãģ +ard o +se cret +Ġr ag +Ġpo ison +-m an +, omitempty +ĉ un +it zer +ĠCas ino +ĠR oss +- foot +(result s +Pl an +Ġlas er +ê¸ ° +_D R +F acebook +Ġbo ards +st a +] ], +Ġt iles +S IZE +Ġ= ~ +Ġprem ier +oc ab +Ġenc oded +Ġres erve +ĠAfghan istan +ĠList Node +url s +Ġsub mission +Ġne u +Ġ# +# +_P OST +Ġmo ist +ell i +ellig ent +. alert +ó d +b re +ĠCol lect +Ġgraph ic +Ġlong itude +ĠPro vid +ĠCal culate +x ffff +c riteria +Ġw aters +ro ck +lo quent +ĠT rib +Ġbur st +Ġsuff ix +.Ext ensions +ish es +iv el +ĠLI KE +ĠGet ty +.Action Event +.s lf +ĠH AL +up al +E AR +ud i +_time out +U F +ĠSing apore +ĠAd vent +_int erval +cha ft +ĠE mer +Ġtele phone +ĠTur k +_ interface +ĠO wn +Ġencour aged +< Object +_T ext +ĠOnt ario +ĠApp ly +.f irebase +Ġant ib +P riority +ene z +D ays +c id +urre nce +; / +inn ed +Ñģ Ñı +Ġve z +f w +// $ +att ack +Ġstart up +ain ers +.f ragment +op acity +( conn +he im +.n etwork +( stream +ĠN ON +t ol +ĠX box +ĠD S +Ġc ached +Ġprostit utas +ĠB alt +(' [ +Ġno except +" ' +Ġs d +. valid +_ ag +Ġr aces +Ġro d +itud es +< >( +.Pro duct +Form s +NE W +P ay +ĉ boolean +_ contact +ĠElect ric +sk ip +Ġw ur +Ġch ronic +_d river +ĠS ab +ĠU lt +ĠR ad +ST ATUS +ĠLew is +O B +Ġgift s +.Re c +TR UE +Ġint ensity +Mark er +.com pare +ff ic +C ookie +ĠB aby +ĠBig Decimal +ile t +ĠHOLD ERS +ĠL ady +Ġl ung +ĠAl abama +Ġd ess +` );Ċ +ĠB uilder +_reg ion +Ġne utral +Bo th +Ġh p +Ġh orn +Ġseg ments +ĠE C +"=> " +( rec +ĠP i +G M +Ġl aptop +Sc alar +is d +-d ialog +ĠAnd erson +Ġmist akes +ĠH an +j es +est ination +Ġprom ises +b id +ĠSc ient +G IN +ĠPer formance +b age +. users +le ading +Ġor al +G raphics +_P TR +h ang +Ġin ev +process ing +F actor +ĠN A +$ string +Ġground s +.Save Changes +c lock +cri pcion +ĠNew ton +g c +.in cludes +Ġbl ast +Ġ'- ' +Ġpued e +.S ession +Ġgre p +_f inal +ĠG ay +ĠG ive +ir i +-st ar +ĠUI Image +_ep och +ub b +ent h +Ġel ite +Ġcampaign s +ĠP orno +_ assign +Prot ocol +ĠBe ing +ĠAir port +Ġconvent ional +ĠW at +ĠC I +ET A +ĠAnth ony +Ġtable t +( format +Ġconsist ently +ĠI owa +Ġav atar +.c ursor +! [ +Ġh anging +H er +S uch +';ĊĊ Ċ +orge ous +() == +Ġview Model +Ġ ãĥ +Ġel s +ĠAg ent +F etch +ap or +Ġc x +p read +ĠP ier +oe ff +S n +ĠV irtual +A pr +.Wh ite +_M OD +ĠPoint s +å¤ ± +Ġgen es +Ġv endor +Ġmain stream +< src +ĠEl izabeth +Dec oder +- state +ĠG lass +nc y +adi ans +_m on +ĠRem ote +Ġwire less +ĠM i +å ī +è¡ ¨ +st age +ĠT ile +ll ib +V ariant +== Ċ +Ġgold en +(Q String +.put Extra +ĠD om +ĠAn imation +Ġinter active +if act +éĻ ¤ +LE T +Ġfrequ ent +Ġ< >Ċ +F ilename +Ġs ne +ĠFoot ball +Ġr ival +Ġdis aster +ion ic +ĠD amage +. Resource +- en +ĠT ypes +get String +( board +Ġb ol +pl ain +z ym +ภ² +Ġsc anner +ild er +_msg s +æ ı +(int ent +Ġde struct +Ġb ust +ĠE mploy +on i +ĠUI ViewController +Ġodd s +ear er +Ge ometry +Ġy ii +_EX PORT +ĠAtt ack +Ġn iet +Ġim pression +ĠG il +_pro b +ĠC F +ĠEx perience +/pl ugins +.M ethod +Ġbelie fs +N ative +_b uild +Ġv ig +Ġr anks +cover ed +s uch +G uard +.p ack +add er +iv ia +l ng +Ġв Ñĭ +T imestamp +_n ow +Ġp oker +Ġun c +Ġsh apes +-t ypes +_per iod +p k +Ġveter an +Ġson o +Ġappoint ed +over flow +.d river +_c at +ut t +pl ant +im b +ĠAc cept +Ġconc ert +ĉ node +ĉ z +? >čĊ +Ġb anned +ĉ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġto xic +Ġdisap pe +È Ľ +Ġgr ace +ate ful +Re ply +ĠCru z +Ġsc rap +Ġkey words +s imp +Ġmort gage +Ġcy ber +ĠEx ecute +Ġlat itude +if u +.C OM +d bo +Ġsort s +ĠG as +om ial +.L ocal +Cell s +.Re place +String s +.f it +ĠTh ird +% ",Ċ +Ġ{} ". +ĠS ony +Ġ[ : +Ġfall en +. ')Ċ +in h +ĠM C +Ġred is +C odes +Ġprofile s +h ook +Reduc er +_F UNC +Ġn avigate +str len +Ġh orm +á ŀ +ĠS R +. boot +Ġdig est +ĉ header +.find One +æ ģ +Db Type +n ia +_m erge +Ġdon ne +/ Getty +_CH AR +Ġb ands +. URL +art ial +Ġf req +Ġs ist +N g +Ġrender ing +\ Core +Widget s +ĠV A +Ġactiv ists +St e += _ +all a +St amp +Ġload s +Ġx x +ĠL earning +.M vc +u ir +(" $ +Ġconnect ing +Read Only +ur u +ĠE ag +B IT +_DE L +å § +arr ass +ext ernal +ĠY OUR +ĠB rew +ĠF ive +Ġres ize +ig id +er ation +ĠÑ į +åĬ ł +ĠC atch +Ù ģ +ĠLe on +am il +.B ody +Cl ip +/ list +.b r +Edit Text +ĉ db +.G ame +(Build Context +back end +.R ed +face book +.url s +m r +rol led +---- --- +Ġinter vention +Ġretire ment +ĠK it +ĠP RE +Upper Case +ĠS ocket +Ġ: - +Ġstudy ing +ĠMet ro +ard ed +Ġconvers ations +C alled +Ġexam ine +ert ificate +.g z +-res ponsive +Ġref und +_n etwork +allow ed +em pt +Ġme als +C ategories +Ġtravel ing +Ġk g +Ġsh ame +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġexplicit ly +Ġmath ematic +ĠS uite +ĠR GB +****** / +Ġmix ture +lear ning +.t emplate +att s +w x +ĉ ctx +.p roperties +Ġdrink s +ĠE ither +set Text +.get Data +.z ip +Ġreve als +< table +.Hash Map +ĠH ur +) ");Ċ +.f ramework +ĠST ART +feed back +Ġsaf ely +. icon +config ure +. lock +.l ayers +/> .Ċ +Ġrank ed +_ impl +ĠHand les +Ġhost ed +Ġup dating +al bum +é Ŀ +Ġsh ader +Edit ors +- round +[] { +Ġse p +ĠH i +TE M +look up +.m an +_IN PUT +Ġthreat ened +_IM PORT +Ġd rops +ru it +s id +bo th +ĠEx cel +Ġj er +ord inary +еР¹ +V IEW +re ply +Ġ) :Ċ +color s +ver ified +_T r +_p arse +Ġcon gress +P romise +int s +ĠM other +.A pi +ĠD uration +Ġfirst Name +inherit doc +ĠM ars +Ġa pr +OD Y +Ġvis its +Ġhe aling +let ters +)) );čĊ +f uture +.F ramework +Ġk iss +Ġinv olve +Ġsil ent +ad ows +Ġany body +s ch +Ġsole ly +- img +Ġprop ri +Ġin struct +Ġlic enses +Ġm eth +Ġcond em +ĠD omain +ĠHarr is +Ġs Ã¥ +CE PT +B atch +@ extends +ĠCONTR IBUT +.Data Frame +_p acket +rec ision +Ġfoc using +. ht +__ ":Ċ +: Get +ĠK C +Ġpass age +Seg ment +_c enter +-z A +_B L +Ġconv in +Ġclass ified +ĠNS Mutable +_ ap +t ile +Rect angle +(n ums +v ens +ĠUI Button +ĠF eder +am o +Ġout line +ĠPar ser +Ġâ ī +ĠWork s +.S chema +Ġeng ines +_com mon +_ old +Ġset ContentView +Ġ/// < +ĠB T +f m +Ġd ivers +_ weights +em ark +ĠA CT +Ġpro portion +over lay +.dir name +ĠG it +_REF ERENCE +< > +l b +_r ule +è´ ¥ +ĠPut in +Ġsleep ing +() :čĊ +Ġpres erve +Ġpar liament +ĠLook ing +Ġpick ing +ĠDis patch +Ġsl ip +ë ĵ +ĠL yn +_sign al +config uration +ĠP itt +ad en +pro cedure +Ġenthus i +f ight +ĠCons ider +Ġt orn +Conn ected +.c os +_group s +ĠTh ink +Ġdel iber +Ġres id +work ing +.column s +ĠCal led +Ġes lint +> ", +_D OWN +h ist +ĠAdv anced +Ġre wards +act ors +Ġsil ence +Ġmy th +Ġne ur +Ġa uction +.Get String +ek s +( project +ĉ msg +ĉ output +Ġcomplaint s +, S +Ġt bl +Ġ, ĊĊ +ri ors +ah ren +Ġlawy ers +re dux +_s ymbol +off ee +_RES ULT +( Name +UT C +.current Time +Ġorgan is +. arg +Ġmin im +w ick +Ġrece ives +B alance +Ġspeak s +ĠD ays +ĠBel ow +t ipo +P resent +Ġres erv +h p +Ġr it +_R IGHT +-- ) +Ġchair man +D IS +ĠBO OST +Ġexper iments +__ );Ċ +Ġst amp +Ġf ert +Ġf ond +T er +el ve +ure n ++ i +end ency +Ġvirt ually +... " +ï½ ŀ +- cent +_un ique +Ġpr icing +m ic +RES H +Ġ:: : +Ġan notation +ĠC ircle +ong odb +it as +Ġ% ( +( component +Ġо б +( port +-h our +. obj +L BL +Ġj ury +GB T +Ġsp y +ĠProf essional +Ġ"" ;ĊĊ +Ġstri king +Ġdiscrim ination +Ġp ays +lic t +ent es +Ġthrow ing +ĠPl ugin +( def +ĠRuntime Exception +ĠM igration +Ġd ic +b ag +on ia +Ġcor ruption +( Map +Ġpr z +.d to +Ġac quire +State ToProps +Ġlo ving +оР¶ +_p attern +Ġemot ions +Ġpublish er +_b e +Ġcoup les +o j +ĠCh art +Ġt rop +.t ool +Ġestablish ment +Ġd ol +Ġto wer +Ġl ane +ĠSy dney +Ġfill ing +claim ed +Ġdialog ue +Ġcon vention +book ing +pare ncy +æ ± +ĠGener ic +\ Schema +Ġr anges +/ ch +Ġpan els +Ġr uled +çĶ Ł +.t s +_s ets +Ġclean up +Pre vious +ĠAn imal +($ ( +ĠA ve +oll ar +_e val +ĉ Name +(t ree +Ġ" ] +Ġdut ies +=' / +Click ed +Ġdifferent ly +ĠCl ark +Ġd it +olog ists +Ġsy nd +Ġs ends +- known +k b +ĠMod al +it ative +Ġr acing +Ġhigh lights +ĠSim on +ĠCapt ain +ä¿ ¡ +ĠC B +cont in +ar an +Ġphys ics +ret ty +et al +.m d +ax ios +Ġspeak ers +Ġpre p +Ġaward ed +ì§ Ģ +ĠC orn +ĠN ature +UD IO +Ġpro j +- pre +[ u +Fe atures +Ġis Equal +B inary +s ig +Ġconf usion +ĠH at +Ġkt ó +.config ure +M ON +/ edit +_A dd +, true +Ġc li +Error Message +- loader +Dim ensions +ultip ly +Ġ{ !! +ĠSql Command +Ġsp oken +Ġp ics +Ġto y +( Key +ĠLo op +Ø ¨ +E ATURE +in ction +_set up +w rapper +Ġt ong +c ular +O pt +.P l +=" , +(l ength +um n +Ġch rom +Ġse vent +ĠIllegal ArgumentException +ĉ start +Ġbeg un +CE PTION +dat aset +ĠF ailed +col s +Ġkne e +im ore +.sp lice +sh ell +ig gers +Ġthem es +ĠD J +ĠAss istant +- $ +May be +Ġorder ing +ĠInt elligence +ĠMass achusetts +Ġfail ing +el son +G reat += i +.re st +Ġinv ite +-dis able +.Group Box +âĢĻ est +Ġtack le +g v +et ter +Ġ), čĊ +_r ules +.w arn +function s +ĠChrist ians +Ġback ed +Ġsl ider +Ġenjoy ing +n est +Ġh ij +_m s +// * +An notations +ĠVariable s +< V +( server +ĠOr acle +element s +Ġorgan isation +_point er +ĠHe aders +[ d +Ġdead line +iss a +Ġkn ife +ĠNAS A +ĠHe ight +ĠAs ync +Ġven ue +.d om +bour ne +ĠHaw ai +Ġmem o +ict ions +Ġsurve illance +om i +/ assets +Ġed u +Ä Ľ +Ġro ster +Ġh ired +ĠT ok +Ġpl acement +ur ations +Ġset State +ĠMag azine +Ġhor ror +T ry +Ġl ag +ĠEvery one +th ur +)) ;čĊčĊ +. return +Ġsy mp +âĸĪ âĸĪ +Ġn ights +work er +Ġa le +ennes see +.st ep +Ġsynchron ized +our i +Do es +. change +f on +.set Background +irc ular ++ - +ĠC IA +ĠJ ane +ĠSim ilar +- I +level and +Ġpros pect +_f ound +ĉc olor +.D iagnostics +Ġann ounce +Ġassum es +/ tr +Ġb d +ĠCar bon +Ġanal ys +.de st +n ik +ĠL ie +- index +Draw able +ĠT AG +Ġtri angle +_F LOAT +ĉĉ ĠĠĠĠĠ +.bl ack +v ue +cur acy +Ġaffect s +Ġsure ly +Sl ider +uk i +c ery +Ġun ter +.pro file +ord on +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +le ave +Ġsmart phone +g ie +Ġcons pir +Ġt utorial +ç± » +Ġc ab +ĠSum mary +* ĊĊ +ä h +" This +Ġsl ides +" +c ycle +ĠB ull +path s +Ġun p +Ġview DidLoad +_M odel +Ġassert True +Ġr ated +De cl +vert ed +ĠD at +b rew +Ġpoint ing +M s +ĠPoint er +) ' +_n on +ĠSE C +Ġy eah +g ency +initial ize +f ly +[ pos +, g +Te le +Ġj oke +Ġcl ause +.find ById +en es +( instance + £ +Ġs lic +_h ome +Ġ*/ }Ċ +_p ages +(s ervice +R P +ĠAm ong +.get Current +ãĤ ¹ +Ġs lee += [Ċ +ol er +Ġlib ert +Ġ` Ċ +Ġw enn +l ated +Ġimm une +( Node +ĠPro blem +ĠA bs +log s +Ġ ../ +ĠA DC +Ġ}} ">Ċ +> ');Ċ += b +ĠW ind +lah oma +Ġalloc ate +or ian +Ġpres cription +- quality +ĠMay or +in ely +end foreach +ĠCom plex +k om +T Y +] ]. +. Style +_m any +',' $ +Ġbar rier +ĠF etch +ĠMar vel +Ġres ist +ог о +b idden +ĠRun nable +: false +Ġbuild s +ĠSt age +Ġd ub +emp o +.s ite +;ĊĊ ĊĊ +ĠDen ver +Ġre vel +Ġtrigger ed +Ġd ice +_f ail +Ġg c +ĉ X +ĠTh rowable +.r outer +ĠRev olution +ÑĢ Ð° +_N ON +Ł ¥ +Ġel der +Ġab road +ĠÐ µ +ĠAd ult +bl r +g lyphicon +Ġprom oting +Ġ iz +ĠS olid +_lo ader +ear ly +.en abled +- edit +ĠU L +_ play +ĠInt errupt +Ġadvant ages +uc le +Ġmechan ical +.table LayoutPanel +ĠWork ing +Ġan onymous +R ating +ig ious +_ph one +.addAction Listener +Ġfr an +und en +Ġ*) & +_ bool +ul ative +Ġcon e +ĠM ult +Ġm ö +ĠFor ward +] ):Ċ +Ġconvin ced +act ed +ãģ ĵ +ĠConfig ure +Ġce iling +D er +Ġpass engers +Group s +Ġsoc cer +/ W +avi ors +sw ith +ĠZ one +. Options +ĠM om +ied er +Array s +Ġtreat ments +Ġprotect ing +f ac +Ġpick le +Button Item +Ġblock ing +str ar +à ² +ĠEx port +Ġth rew +ott a +ĠB ASE +.w s +.LE ADING +order By +_d elay +ĠP u +.d ll +ĠCh oose +Pol ice +ĠBE GIN +box es +Ġdiam ond +, l +Ġ ĉĉĉ +Ġcur ious +t v +Ġerot ische +ack ages +ĉ Set +T ick +.b order +static method +Ġch er +in voice +Ġcr u +Ġdef ect +_m etadata +re lation +ik an +[ N +(Q t +( Base +æģ ¯ +be at +ĠEm pty +ĉ o +_sh ift +Ġreg ret +Th ose +C ent +ĠPort ug +ĠIs lands +ĠT IME +Man agement +-s p +ê me +Ġnot ion +un ifu +P K +è¡ Į +ĠCUR LOPT +\" \ +U V +ç º +d ra +c ou += ` +ĠD estroy +r p +.c ancel +G G +r untime +ĠV ue +Ġprogress ive +/s ervices +Ġrun ner +_FR AME +.ToolStrip MenuItem +Ġ' ,' +d elay += utf +Ġscreen ing +Ġpull ing +om as +Ġan th +- new +/ local +Ġi Pad +Ġt witter +Ġd ying +Ġhe aven +ĠU Int +ĠSen ator +Ġpres um +ĠWalk er +Ġover come +ete ction +Ġemb arrass +Ch ina +In clude +RO LL +Ġdata Type +D avid +ภ£ +lo p +-m onth +Ġsc ar +ĠS afe +Ġ **************************************************************** +Ġaccess ories +Ġr amp +_U SE +Ġcontr ad +)) ]Ċ +Ġpre st +ĠH R +ĠR ap +Ġus ize +Ġcap ability +Ġc ort +- next +Ġbur den +_read er +Ġ@ @ +reg ular +ĠK a +M AN +Ġa str +Ġ' ')Ċ +Ġf ed +Ġpars ing +ĠY ears +Ġbro ker +": {" +Ġa kt +In ventory +abe led +Ġarg parse +****** *Ċ +vers ation +Ġc ord +ĠT i +Ġhope fully +Ġa h +ver b +Ġst olen +. Entry +Ġexpect ing +O rientation +Ġpower ed +Ġp ersist +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +'] ); +')) ,Ċ +ĠC ash +ĉ item +gr ades +rop ol +b asic +Ġ" );čĊ +Ġaw ards +(r ange +- all +ĠIB Outlet +ĠInd eed +---------------------------------------------------------------- ------------ +Ġstom ach +Ġfl ower +Ġs ew +_t imes +av is +Q String +ĠR outes +_pro t +Ġcom edy +Ġlog out +Ġwood en +Ġpost er +p iece +.J oin +ĠP ok +cel ona +mut ex +;čĊ čĊčĊ +Ġstri kes +Load ed +) arg +es a +Un ited +E p +PE LL +ĠAtl antic +ul let +app le +Ġsett led +a con +Ġprint er +ĠG C +å® ļ +Ġrender ed +, âĢĻ +he it +s ocial +. ge +ĠR ick +ĠUt ah +g ot +on ical +ĠSc roll +ĠSc iences +Ġj ug +Ġam pl +ent i +LE FT +Ġt abs +Ġenorm ous +.get Key +loc ate +. EX +.st orage +.W e +Ġto ast +ĠAdd itionally +ĠN OW +_ UPDATE +Ġtrans ferred +th a +.D isplay +_ ui +ID EO +Ġmeaning ful +ĠMos cow +, this +ĠVict oria +æĶ ¹ +ĠÐ Ł +.st ack +ĠB arn +pared Statement +: string +Ġb ij +ĠST ATE +Ġemploy ers +ĉ input +( | +Ġle x +in voke +ĉ num +++ , +at ial +ors es +Ġfor k +_t xt +ĠAnton io +Ġ( < +aver se +Ġdev ast +ãĢ Ģ +.D ec +ĠG ard +/ ui +. % +tr i +Ġrol led +Value Pair +itt en +ĠTh er +Ġv rou +ĠFl ow +ĠFin ance +ĠCom b +H C +.set Visible +is l +Ġp k +Ġup set +( raw +ĠV ice +e atures +ĠL ang +Look ing +ĠA ST +Ġtri ps +ĠJust in +b rowser +=" '.$ +. vertices +- co +}/ { +Ġ? , +ĠD omin +ĠBel g +" < +Ġsup pose +add y +Ġwalk s +ERR U +_f ilters +Pre ferred +sc ene +е Ñģ +ĠAff airs +Ġ"# { +Ġon Submit +Ġstock s +/ view +g ree +- get +h it +J o +.get C +Initial ized +ÑĤ и +c uts +( Type +ĠAg reement +ĠViet nam +Ġ/* ! +Ġp izza +- view +_ em +Ġl hs +Ġm uy +ĠId ent +ĠF riends +Ġab und +_A D +.t imestamp +- ' +Ġd uplicate +Ġhun ting +Ġregul atory +ia o +am ous +ĠEnt ertainment +[ A +iat ric +_CL IENT +ĠK ids +/p kg +B reak +)) );ĊĊ +ĠSh ape +Ġrel ating +Int errupt +able Opacity +emb re +Ġmyst ery +Ġjournal ists +rit able +.L ink +Ġstop ping +CRE T +.D B +Ġpopular ity +Ġg ew +Ġim pr +set Value +FL AG +ĉm ax +Ġb ake +w y +ĠEcon omic +Ġen contr +Ġf name +/ de +R ank +Ġbug s +.s m +Ġmed ian +D OWN +ĠS ure +At Index +ĠD ick +Ġ( __ +.d elta +F r +Ġsuggest ing +ĠRec yclerView +, e +ST ART +/************************************************************************ **** +xf ord +Ġrece ipt +CL AIM +read only +Ġeng aging +C a +as ma +Ġens uring +Eng lish +ĠV ancouver +hy th +Ġpurch asing +ĠP I +. word +(s p +.h ome +: def +Ġg ig +ĠV e +for um +ĠM itch +B ay +_F L +Ġs oll +_column s +Ġminor ity +b ird +Ġhand ed +SS L +ST AT +Ġnerv ous +ĥ ½ +Ġfile Path +CRE ATE +A w +Ġp ens +se ed +ĠCom pute +ol k +ĠAs set +re ach +'), čĊ +n avigation +L F +/ util +ĠP ub +Ġâ Ķ +c ion +## Ċ +II I +Tag Name +Ġam id +per mission +if iable +xFFFF FFFF +н и +.B uffer +_ irq +d ark +Ġret val +.f ire +produ ction +.list en +ĠWe ather +Ġbuy ers +. ne +er p +ĠP ent +Ġw elfare +Ġpage Size +ĠSt adium +ert a +Ġle v +amp a +P ager +Ġcharg ing +ĠNet flix +| null +_r andom +.x path +Ġst ere +ĠIS IS +pons es +( loc +ey ond +ĠOff icial +ĠMary land +Data Type +_p ar +{ }, +ĠEn joy +_SH IFT +ĠA wards +_ENT RY +Ġseem ingly +entic ate +Ġheart s +_ ;ĊĊ +ĠH IV +Ġindiv id +ĠFl ag +_ ctrl +ĠC allback +, z +ĠG PU +ĉ obj +ĠPh oenix +ĠB US +Ġrub ber +_A UTH +ĠSol utions +( location +Variable s +.set Enabled +_h igh +W O +G esture +Ġre try +Ġobject ForKey +allow een +Ġm os +ĠC ele +Ġik ke +(c ell +ĠM ODE +ren a +Ġdescri bing +Ġph i +Ġr d +Ġdes erve +Ġwhe els +å¸ Ĥ +Ġcrit ics +N amespace +ĠF ra +Ġ ĊĊĊĊ +Ġall a +Ġrequ iring +æľ Ł +ut ation +Ġdelay ed +Ġadministr ative +Ġb ay +.h idden +T ex +Ġbound aries +Ġ] );ĊĊ +ĠFollow ing +~ / +F i +_con v +_T ITLE +Ġdes de +ICollection View +Ali as +Ġb ite +pat ient +_COMM AND +Com pleted +ĉ elif +( < +B usiness +ĠP ool +Ġpurs ue +ĠB an +_st eps +_DE CL +um ble +Ġcom bo +ĠL ayer +.x r +Ġd up +-------- - +Ġmod ifier +ro b +re z +Ġath letes +Us ed +w ear +Ġlegit imate +Ġ" ĊĊ +Ġh v +St d +ĠH old +Ġsurv iv +ĠAll iance +ĠEar ly +Beh avior +(f ont +/lib s +Ġrect angle +Ġs inger +Ġam p +Equal To +Ġ" ." +Ġgirl friend +å ± +line ar +obs erv +Ġpi ù +Ġcomple ment +With Value +(p assword +t ake +Bl ank +ĠCom par +' ", +_p olicy +m ongoose +_FA ILED +.re port +R atio +.Perform Layout +us able +m ers +_re nder +PE ED +Ġles b +ĉ E +_t ool +Ġl adies +о Ñģ +)) ))Ċ +;; ;; +.d ot +Ġn est +pe ak +uk kit +ec a +_S W +Ġ& ( +ĠOk lahoma +Ġbank ing +ĠN intendo +Ġreprodu ce +_element s +_m ac +pro xy +Ġremark able +}/ ${ +Ġout s +.has Next +M ODE +Ġan ime +.con n +Un ique +D om +Ġimportant ly +itt y +Ġju ice +T w +ĠPart ners +Ġattack ing +Ġport able +am iento +.P ictureBox +.g en +Ġopt imal +Ġre cre +Ġjournal ist +ĠEx tract +ĠMore over +Ġmargin Top +.A p +Ġf iring +Na N +ĉ template +аР´ +. En +Ġdef ence +ĠT el +il en +j an += data +ĠU rl +ĠRe uters +(t otal +ĠFif th +Ġess ays +Ġinterpret ation +Ġchar ity +ĠR ules +Ġsub section +st yled +az er +l ags +L IST +Ġupload ed +Ġtr ash +Ġreg istr +Ġsell er +>' ;čĊ +Ġstart Time +ç Ļ +s y +(Http ServletRequest +Ġtr ap +G C +Ġembed ded +Ġsurround ed +im its +T X +yl inder +ĠF al +Ġsent ences +ĠJ a +IF ICATION +we apon +ov ation +Ġco at +Ġinter pol +Ġl ips +ĠK y +Ġv ectors +_ am +Ġint ake +.w orld +Ġin box +ĠM AC +_ ab +(name of +Ġent ert +Ġgather ing +ĠS IM +++ . +ny a +' }} +ĠUP DATE +Ġp ac +( html +ĠS ant +i ating +ĠIde as +Ġspr ay +ĠH art +Ġver ification +ades h +/ modules +ĠM ind +ĠSized Box +Ġsh elter +Ġher oes +att y +Ġcert ified +s j +Ġê tre +ÅĤ o +Ġpublish ing +ĠMal ays +.get User +ĠPro vider +ĠLinked List +ĠB or +RO UND +d id +t ain +p ire +ĠJ enn +t el +and e +_f ront +ĠMc G +Test Method +à¸ Ń +Ġoccasion ally +ĠW ales +Ġexerc ises +ĠÐ Ĵ +- plus +Ġvalid ator +Ġpr ayer +L ATED +_ author +Ġlab our +++ Ċ +-e quiv +ĠG PL +Ġface book +s imple +g ly +Process or +ip y +Ġ* > +Ġcle ared +ĠP ush +Ġpen is +Struct ure +li j +ĠM organ +Ġhand ful +" .Ċ +| \ +Ġ ******************************** +ĠA qu +_ IC +.load s +Ġm eter +ĠMar ine +:: { +ĠT S +ĠArray s +.T itle +GR AM +ter min +Ġco inc +El se +_st ates +-r un +m embers +ast ro +Ġon Press +Ġbe ings +Ġabandon ed +Ġtax p +own ers +.m ode +Ġdiagn osis +Ġ_ Ċ +ĠK night +ĉ A +Ġob serve +), ' +! ")Ċ +ĠPar a +Ġvari ation +( False +ĠAnt i +Ġg ri +Ġhome less +? v +Ġbe z +.S erver +re lease +ĠP atri +Ġchar s +Ġrank ing +activ ation +Ġw ides +q r +.S ql +ac ular +ĠB ot +_s ync +Ġhapp iness +Ġvolunte ers +Ġs its +/ < +[ e +(file Name +Ġcap ac +ĠMar ia +f ather +Ġgr am +* i +Ġcas o +_d raw +ĠR aw +ĠIter ator +ĠP adding +P D +BO X +ĠS PECIAL +Ġfe cha +Ġv ide +ĠLe ader +ä» ¥ +$ (". +Ġdiam eter +Ġm ild +Ġrock s +app ings +d irectory +.fl ush +ĠJ ess +UN IT +ĠP ear +Ġmand atory +S ur +q t +Ġstream s +Ġco operation +ĠS ac +Ġche aper +ĉ ch +an imation +f are +( height +( True +N Y +Ġw rest +Ġpoll s +Ġencounter ed +ĠMarket able +_P ASSWORD +_SE LECT +ĠArab ia +_c lock +Ġv oy +Ġи з +Ġst ir +is ible +-e ffect +.c reated +Ġto ys +ĠTrad able +Ġr ust +Ġstr cpy +_t imestamp +Ġtalent ed +, null +ĠJ obs +ĠPort land +Ġweak ness +Th row +ĠAng el +ä¿ ® +Ġun cert +ï¼ī Ċ +ĠìĿ ´ +Wh ich +Ġ[- ]: +S omething +Ġconv icted +k le +ed ium +Ġbranch es +Ġb ases +ç ® +Ġcomplex ity +ĠF ig +. reshape +$ db +_CON ST +ĠT es +.r untime +Ġden y +ĠB SD +Ġk r +h att +ĠSt atic +Ġunivers ities +Re place +Ġdro ve +Ġad oles +_pl ugin +ĠL GBT +Ġt ex +du ction +ED I +ĠT ed +_ URI +Ġre ception +art en +.S ingle +r ice +sc ious +_b g +Ġw ages +ĠS ervlet +UIL ayout +Ġform atted +.M od +< class +is en +Ġrepresent atives +"] = +Ġport al +ĠHun ter +Ġh iring +__ )Ċ +ric ulum +u o +li est +Ġt ears +L at +Ġliter al +.In sert +Ġc urs +ĠCom put +Ġterror ism +Ġswe ep +Ġ[] čĊ +Ġpass enger +Ġeast ern +Ġtwe ets +Ġoper ated +w nd +ĠS yn +.t ools +ĠW M +ul ates +Ġbacter ia +( bytes +.set Data +Ġvis ibility +// ================================================================ +el m +Ġgener ating +Ġm v +Ġk h +j en +/ search +Ġaccount ing +se gment +act ic +. ip +Ġdeploy ment +Ġfoot er +> ',Ċ +Ġexpand ing +ĠHam ilton +ĠCon trib +.T ables +Act iv +H H +ocom merce +_ ; +Ġamong st +ow ing +ĠC old +AP H +Ġpsych ological +_t ensor +Ġpack aging +ĠSw eden +Ġp are +Ġag gregate +Ġmoder ate +_h and +Ġdesign ated +Ġdr um +Ġget User +ĠC reek +_s cope +ĠTrans fer +ĠM arg +Ġfight ers +W nd +ĠS el +ĠLa unch +Ġemerg ing +if rame +ĠAdd itional +Ġf ears +Ġsat ellite +_ : +Ġdis posing +Get Value +Http Post +AT IVE +ul ary +View s +Ġatt ending +ĠT ennessee +ĠM ission +Ġmedic ation +ĠW y +ĠAn na +Ø ¹ +ĠVert ex +.t ypes +O rgan +.DataGridView TextBoxColumn +ĠR S +Ġtemp o +( App +Version UID +.p oint +ĠD utch +H ours +L U +Ġqu oted +.b uilder +ĠPer fect +ĠAl ways +_t wo +Ġexclus ively +ĠC ra +ific ar +ĠA WS +ing ham +com plex +k ernel +Ġgr avity +Ġw i +Ġover view +ĠW ant +ĠW P +( sh +. rotation +St ates +ĠTe en +_com ponents +ì Īĺ +Re ceived +Ġly rics +rit es +ĉĉĉĉĉ Ġ +-A merican +[ num +/ python +ĠU ART +Ġapp le +ĠJon athan +Ġmoment um +ภ± +Ĥ ¹ +Ġm ich +and ra +Ġbi ological +ĠM ens +Ġ% % +else a +ĠMex ican +.rand int +Ġt ale +ĠValid ate +Ġdefe ated +.ht m +Ġcop per += / +cos ystem +Ġr ip +dec imal +.V ISIBLE +ĠT a +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉ +Ġdownload ed +en vironment +Ġnom ine +build ing +ĠSp ot +ipher al +Ġal to +qu et +ĠF T +/ get +/m aster +W IN +åħ ĥ +W est +arg c +Ġprodu cers +ĠM uch +_st orage +cred it +CON T +Ġv et +Ġvo ices +(' ', +Ġinstr uments +ĠM SG +es se +re pository +om ics +Ġdeal er +St ill +Ġb anner +asc ii +Ġrem arks +[ js +Ġshort er +g ulp +Ġmyst er +Ġk un +ĠB ird +Ġti ene +n ut +ĠU m +Ġw ise +Y eah +INE SS +_b egin +- heading +C ourse +Ġ čĊčĊ +omb ie +grad ed +ĠG PS +Ġ że +F it +c aption +ö n +/ image +l ia +(m od +Ġle ak +en za +/ H +ĠH appy +D ist +n x +ĠGovern or +(l ast +te acher +ĠS ent +s upport +ject ory +Ġ Ùħ +Reg istration +ĠGr ay +, false +Ġadjust ed +( settings +< R +ĠM age +Ġpl aint +_ )Ċ +ĉ it +omet ric +. bootstrap +Ġcar ries +I p +Ġ! $ +Ġswim ming +ĠMar io +ĠQuest ions +P ACE +æĸ ¹ +e or +}} " +Ġo ven +ĠK on +Ġwis dom +Ġac quisition +ess ment +ag ine +Ġexpress ions +Sequential Group +F ront +ul pt +aw k +'] )ĊĊ +_ AR +Ġanal og +ul in +_PR INT +ĠL G +Ġb lob +ĠFurther more +_com ponent +ĠC ole +L AN +SCRI PTION +Ġl ap +icens ing +_TIME OUT +ĠF ro +Ġli ability +Ġcom posed +.create SequentialGroup +_p erson +Ġbe am +ĉ ĠĠĠĠĠĠĠĠ +ĠNot Found +. 'Ċ +ÃŃ s +.Text View +P DF +Ġk ar +__ (' +Ġ" :" +_m essages +Ġhar vest +.h istory +> 'Ċ +-f old +æ Ĭ +ĠBet ter +Ġ"\ < +sp acing +Ġfurn ished +os er +] }Ċ +Ġ$ " +p ull +.P ost +( ip +Ĺ ı +.f ront +nt e +ĠF M +g uid +Ġnegot iations +agon al +Ġtrem end +unge on +Ad v +car ousel +ÃŁ e +_DE SC +Ġham mer +áº Ń +ĠĠĠĠĠĠĠĠ ĊĊ +-c ore +-s ervice +Ġcorn ers +ĠS F +p red +> A +ĠJ Label +Ġrom antic +Ġtestim ony +os c +ĠGener ation +as ures +_int ernal +Ġprint s +Ġ] )Ċ +ĠC leveland +re po +D isc +Ġ" >Ċ +�� �� +Ġne arest +_t b +( require +EO F +- child +Ġbu dd +.Xtra Editors +alt ies +\": \" +W ords +Ġloc ally +Ġpurch ases +Draw er +ex tract +Ġexec ut +} '. +user data +Ġfocus es +-min ute +ĠP ublish +og o +Ġmount ains +B ot +} >{ +Ġt ension +ro d +m esh +Ġtransform ed +, R +() }Ċ +.l ong +Ġg orgeous +ĠS chedule +Ġol dest +Ġsub process +( IN +y ect +ĠCo oper +arn ess +ĠMon itor +.p art +ĠN BC +Ġc otton +Ġh ol +Ġrg ba +ĠB io +Cont inue +P od +Ġparticip ating +clus ions +(By Val +à ¬ +ĠH OW +_set opt +Ġaccompany ing +at on +Ġ/ \ +ĠAuth entication +i én +ĠBar ack +/* . +Ġe ager +ĠC ancel +< lemma +ep h +ĉ window +Ġinc idents +), ( +.D es +ib e +ĠFunction s +Ġhosp itals +Ġo xygen +root Scope +Ġd rew +ĉ request +not ice +ak u +am ents +f ar +Ġprec ise +_w rapper +Ġlisten ers +A Z +.b ounds +ĠA verage +field set +_ axis +Ġexam ination +' .Ċ +mon s +++) {čĊ +ĠForm s +íķ ľ +Cpp Method +_tr ace +Ġengine er +ĠFl at +Ġrev ision +Ġhe ating +/ profile +.r u +p riority +Ġin fer +_ST REAM +Ġ* )( +> $ +OLE AN +OK IE +IB ILITY +U AGE +ĠSur vey +Ġres ign +w ing +Ġsecre ts +Ġch ips +JSON Object +Des ktop +_SY MBOL +(res ource +ĠĊ +Ġnew est +ul i +Ġdes ert +Ġd ip +ĠP ow +Ġequ ation +Ġposs ibilities +ĠF ed +os ph +Ġ[ % +Ġb ubble +ether lands +Ġc ement +. auto +_ AN +âĢĻ . +se lection +ĠB ond +D en +- O +.get Type +.W indow +p res +Ġsw inger +" })Ċ +Ġp ip +Ġm ice +Ġcomp ound +- plugin +ik o +Ġcent uries +ic ular +-in line +ĉ key +> \< +EN SION +Ġ[ čĊ +Ġprecis ely +Ġét é +ĠP ast +ĠCam bridge +-f ull +Ġanaly ze +ĠSte ven +Ġn em +d ue +ore n +Ġmus cles +ij ing +/ - +ĠKenn edy +R M +oss ible +Ġact ress +Ġd olor +å½ ķ +Ne ed +.t oggle +ĠR ace +w ers +.m aterial +ĠD ue +ĠP el +# print +Ġindepend ence +ex us +Sh adow +Ġenc oder +( level +ĠSw ift +.d oc +_se lection +Ġserial VersionUID +Label s +Ġperform ances +.T ag +ĠN HL +iz en +/ UIKit +_CONT ROL +Ġearn ings +ĠAl t +_H ANDLE +C tx +Ġpers u +Ġtr an +ç ¨ +_CH ANNEL +Ġsatisf action +ĠG P +io x +m itt +land o +Ġp ig +inal s +ê ncia +S urface +ĠU UID +Ġbenef icial +Ġsequ ences +ĉmem set +Ġmag ical + « +Ġw orn +AS C +pop up +COM P +_b efore +en ess +U i +L es +.re quire +.Serial izable +add Gap +Ġauthor ization +.py plot +urr ay +lat itude +fr ames +aj s +Ġcomp ass +Ġobserv ations +_s up +.en viron +Ġtri ple +ĠRub y +Ġdr ain +_F ILTER +S an +UM P +Null Exception +ĠG ab +ow e +ĠTurk ish +_se quence +ĠGr ant +uel a +Ġw o +Ġc ube +i q +Ġdis orders +Ġextra ordinary +Ġc trl +ĠSe q +ent r +Ġsan ctions +uts ch +Re ports +Ġin herit +Per iod +Ġphot ography +ĠF ramework +Ġspecial ist +Ġ? ĊĊ +_ selected +.P layer +Ġal location +( account +Ġstruct ural +v able +- offset +.App CompatActivity +аР¼ +.Add WithValue +Ġicon s +Ġshut down +_l ow +ĠCom pare +ĠC e += head +l am +.p redict +_DE C +ĠS leep +ĠGr atis +Ġsuggest ion +ĠD EL +ca ff +av irus +No thing +ŀ ĭ +Ġwides pread +Ġmechan isms +Ġtext Align +occ up +ĠR ail +: NS +Ġf iber +Ġm k +Ġv intage +-l ong +.re duce +. Entities +( record +Ġple asant +FR ING +.C ells +OT T +ĉelse if +_con firm +ĠView Group +s ym +Ġpr ay +Ġsus pected +Cont ains +Ġb orders +Ġcomponent Did +ASS ERT +Ġinf inite +- order +Ġh ello +ĠGr ade +.currentTime Millis +apol is +z h +ĉ Object +: \\ +H O +val uation +Ġvoc ab +Ġcou pon +atab ases +.Get Type +L earn +] =" +ĠG ary +ot ive +Ġas h +Ġb ib +XX XX +Ġbal anced +VAL UE +ĠN at +_A d +< E +åĮ º +ĠMethod Info +L IB +Ġconsider able +ĠInd ustry +test s +.set Title +ĠBl uetooth +Ġm apped +ĠBru ce +ĠMain Window +ĉ status +Ġr az +ĠM and +Ġclass ification +Per missions +Ġ---------------------------------------------------------------- ------------ +Ġcontain ers +: set +_x ml +Ġwh ilst +Th rough +Ġval ign +Ġworld s +C ORD +ED IA +ÑĢ Ð¾Ð² +Ġsp are +ĠH ad +ĠDE F +(p tr +Ġwarm ing +ठ¾ +Ġcons ensus +ag ne +CT L +Ġì ķ +.M ain +web Element +Ġp ist +Fl ash +App end +.tw img +T ap +Ġveget ables +al g +.s ample +Ġcoach ing +( ind +Cell Value +Check Box +ĠH ell +RO OT +Ġst adium +Ġinvestig ating +) % +st ed +ĠW riting +Ġê ² +Ġun o +Ġ{{ -- +Ġco ords +Ġun ser +organ ization +ĠCr ime +ĠDemocr at +Ġv in +/ file +- api +ĠA y +Ġfund ed +ĠBre xit +ĠG h +ent ina +c ases +Ġd ash +Ġ!! }Ċ +H I +Off ice +Ġcapt ain +Ġwor ship +\ C +Ġglo be +_ board +Ġbab ies +Ġconsec utive +Ġenh anced +ere um +ĠAd vis +Ġgr ain +Ġc raw +ancell ationToken +. alpha +_W ITH +ĠO tt +ĠC ool +.b atch +Ġver ified +(c allback +Ġreg ards +ĠInt Ptr +ouch er +Ġk in +Ġtou ched +it Ãł +ath on +Ġadj acent +Ġaccom panied +LE AR +Ġim plies +Ġh ill +ĠBalt imore +=" - +Fin ally +S am +ic opt +Ġs od +Ġm aj +ĠSh ipping +Ġget All +Ġcoach es +Ġdon ations +il ot +ĠT ar +c err +Ġbad ge +Ġmark ers +ĠR and +ais ed +iss ance +Ġexpl oring +uc ed +ĠIndones ia +Ġbene ath +Ġmagn etic +Ġm useum +match Condition +Ġdis rupt +Ġrem ind +ĠT M +Ġ/ >< +Ġf ool +Ġes k +.N ull +ĠD ies +_OUT PUT +_TYP ED +Ġpaint ed +Ġsoph istic +ĠB ear +* n +_P ACK +Ġdeliver ing +ĠC OUNT +åį ķ +Ġj eg +-c ar +f name +Ġr anging +ĠN eg +/ ******/ +ĠCH AR +Ġul tra +Gr ad += t +Ġjud ges +ĠD ise +ann ers +Ġsc al +_c al +ĠCON NECTION +_ embed +(f n +ĠC raft +ĠP as +") -> +.con vert +.res ource +ĠST ATUS +ô ng +ĠT it +Ġclass room +ĠArch itect +ĠK ings +Ġstead y +/* !Ċ +ĠG ene +) ";Ċ +ic ia +st an +ĠCon struction +um per +w c +ĠC BS +ing ing +-p arty +(d river +M ARK +Ġn ested +ew ard +Ġdepend ency +Ġm ales +ĠO NE +ĠProdu ction +][ $ +ãĥ¼ ãĥ +_LO AD +ĠB ol +el ry +ł éϤ +ĠRe quire +Ġpl acing +xx x +CA LE +Ġth umb +Ch oose +Ġprot otype +VO ID +Ġles bian +Ġtra its +Sh arp +Ġconsum e +Tr uth +Ġaction Performed +ĠEnvironment al +ĠDe an +Ġest ado +s ame +Ġnumer ic +Ġtrans it +. Email +-s ide +_R UN +ĠVill age +_OP EN +è ¦ +.re m +-w arning +any a +Property Changed +Ġ(! _ +( check +il ia +ĠSo ft +st eps +ĠMad rid +Memory Warning +Ġhand lers +Ġexperi encing +Ġins pect +button s +Receive MemoryWarning +chem y +Link s +Ġur llib +.System Colors +ĠE igen +Ġpun ishment +:UI Control +bar a +- set +Ġ}čĊčĊ čĊ +Ġtoler ance +Ġinter faces +. redirect +ighb ors +cs rf +_back ground +. Utils +_H T +ĠInter est +im os +Ġgr ants +Ġexam ined +Ð Ķ +Ġc f +for ge +back s +ĠObject s +_s ent +. entry +ĠTH EN +ell ido +c ia +, res +/std c +. nd +( Int +ĠAuth ors +ĠApp CompatActivity +' { +Ġmed i +M usic +ig m +ce ipt +Ġa uss +Ġtarget ing +ĠKe ys +h n +: ]Ċ +Ġmin eral +à ® +.c a +om ed +Ġshe ets +Ġc amb +Ġdead ly +.in ject +( unit +ĠSe lection +.g ms +( connection +Ġ$ (" +é mon +ĠCurrent ly +pt e +_path s +le af +Ġimp lications +pos al +ä½ į +[ / +anc ia +é Ľ +m ul +c ie +Ġge ile +im als +UI View +Ġs urre +serial ize +IS O +Ġarbit rary +Ġsock addr +.f n +ĠM erc +Ġcast ing +Key Down +Ġnew Value +op ens +T odo +Ġflex ibility +ĉĉĉĉ ĠĠ +V elocity +ú n +row ing +Ġcomput ed +` )Ċ +st atement +Ġr i +_c art +L ow +trans fer +.n av +Ġgr ave +ĠDo or +ĉ alert +.sub scribe +- profile +ĉb ase +ĠâĪ Ĵ +__ ĊĊ +Ġengine ers +Ġexplos ion +Ġd ari +ĉ Log +on al +Ġisol ated +{ i +ĠM sg +F uture +Ġrac ist +-w rap +ĠV ers +b org +IS ION +Ġ ÑĢаР+ĠY an +init With +Ġn omin +( empty +ÃŃ n +ãĤ ¤ +ĉ width +Ġch amber +/ ajax +EM P +Ġnec es +iv os +log ic +*) & +cript s +Row At +ib lings +Ġe ars +Ġcomput ing +Ġm aker +ĠNe ither +b readcrumb +Ġserial ize +ĠWith in +Ġd ell +_TR ACE += a +Ġwish es +-in ch +ĠD or +Ġinnoc ent +ĠD ol +Ġint ens +for ced +ĠB IT +Ġphotograph s +Ġcas a +ĠL en +\F ramework +.S imple +Ġde ar +)/ ( +ip pi +Ġown s +Pl ayers +Ġpropos als +.p i +us alem +D amage +Ġcal ories +ĠCreat ive +Ġ[ $ +Ġ// čĊ +And View +è me +.c ustom +_f actory +command s +_lo ok +Ġstr cmp +Y N +a ired +Ġaud it +о ÑģÑĤ +ĠRe verse +ropri ate +et ics +< vector +.s elenium +. or +Ġpred icate +Ġfinish ing +Ġk le +ĠRep os +ĠK han +ĠM aking +ĠF S +Ġp ute +ĉ state +_S UPPORT +' - +orient ation +Ġexist ed +atur a +Ġexpect s +ĠSh adow +Ġorgan iz +å ŀĭ +Ġsusp ension +Ġu it +Ġsimult aneously +ĠAff ero +: ");Ċ +Ġro cket +c as +eter mine +ace ut +x l +ĠA MD +( graph +ass oci +_C R +.ar ange +(j Label +Ġbe ef +Qu ick +.c ard +] ): +- gr +.G ONE +_C LOSE +ĠNe v +ÃŃ as +Ġste pped +ĠFre edom +ĠW R +NS Array +_r x +_d ialog +Ġhot els +Ġ( \< +ĠD iamond +Ġassum ption +um i +( items +č ččĊ +æ³ ķ +Ġn el +Book s +åİ ¿ +us b +ĠF IN +æ ¬ +Ġcorpor ations +US A +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +.p roperty +ew ise +_ plot +"> ';Ċ +Ġpe pper +Ġsh ed +ĠMed ium +ĠC ookie +Ġoverse as +ed or +asure ment +åŃ ĺ +Ġ' .' +Ġph p +ĠPRO C +Ġexception al +( th +ĠJ et +Ġoccup ied +.set Image +ĠRel ated +uck er +M embers +PR INT +ĠG lo +_V IEW +} ",Ċ +Ġad option +[] )Ċ +ĠMiss ouri +ĠLin coln +eral d +Pop up +Ġf ate +- bootstrap +fe ctions +ĠP oll +_ARG S +in ance +-h ome +. ), +_d one +: ĊĊĊ +Ġdiscuss ing +ĠSQL Exception +Ġelect ro +ĉ req +Ġz w +Ġl ui +Ġover night +$ user +ĠW AY +Ġall erg +Ġdisappoint ed +Ġradi ation +Ġimpress ed +ific ates +Ġto b +CL ASS +Ġc uda +_d et +- post +ul u +Trans lation +-h and +.y ear +ĠM ongo +Ġun clear +. engine +WEB PACK +r ices +_AC CESS +Ġh olidays +per cent +.Id entity +ĠG ov +Ġpassion ate +!! . +ĠGree ce +plus plus +')) ; +G P +Ġexc it +.tab Page +_ cond +Ġspons or +M ODULE +_pro c +Ġ$ Ċ +Ġr ational +.T ool +Ġi hr +cc a +åĵ ģ +ĠE state +IB UTE +Action Performed +ĠS olar +¦ Ĥ +Ġequ ity +t id +Ġrec ip +.s imple +m k +ĠL uke +ĠGuard ian +Ġenc rypted +Ġdomin ant +. place +ĠN V +Ġtong ue +( Get +Ġst ainless +.P lay +Ġe b +ac i +.b uffer +readcr umbs +Ġvacc ine +p rom +Ġuser Info +Ġsl ug +Serial izedName +-w ide +Ġre actions +ĠY ang +ĠAdd s +(user Id +Ġpl ates +ĠM EM +Ġb ail +In side +et ed +Ġels if +Ġs ake +Ġc ycles +Ġì Ĺ +ĉ I +-c ollapse +ĠG MT +De claration +Ġg ros +Ġreach es +Ġcust ody +Unt il +t u +ĠCh en +Ġn x +( addr +ĠO ffer +Ġcol leg +ass ador +Ġm apper +ĠS IGNAL +ĠB loom +ĠH oll +ĠIm per +-d es +_s ite +Pro c +E qu +Ġat omic +ĠW oman +s ent +sc ar +Ġint elligent +ĠGet ting +ĠReg istration +ĠPh ill +Ġkill er +unic ode +Ċ ĉĉĊ +ĠJac ob +ĠCon st +Ġloc ate +Ġca us +ĠSch olar +Ġconstitution al +Ġinfl ation +ĠG ot += array +end um +Ġtransl ated +Ġdiv orce +En tries +Ġs or +ĠQu ote +irl ines +U K +Ġexc el +( opt +ĠAD V +,: , +Ġcontact ed +ĠD A +Ġr ings +ĠIndust rial +.get Context +Ġforg otten +ĠT an +Ġp ants +Ġo v +Ġdec oder +ĠPart ial +Ġv c +Ġbatt les +A rial +FRING EMENT +ir ates +, w +aint enance +ĠO d +ĠTechn ologies +åī į +ĠCar ter +.find All +N ome +B en +ĠUs age +ĠP icture +Ġbad ly +_p anel +Ġpat ent +ĠProt ocol +lot te +ĉ player +je ctions +Ġd ou +_re lease +urn iture +_t ax +ĠF ields +.d ataset +_m aster +CLU DE +ĠPh arm +b st +Ġoper ational +.c ell +Ġident ifying +Ġj wt +t uple +ĠT C +ĠC ro +ix map +- components +gener al +Ġo z +_D e +_d ouble +ĠTo o +.View Group +g ate +d ings +ph otos +Ġgrand e +ol lect +_l in +Ġaw ful +f ilters +Ġaltern ate +es p +Ġcomp ress +e o +ĠS cale +Ġind irect +Ġinv oice +ĊĊĊĊĊĊĊĊ ĊĊĊĊĊĊĊĊ +Start ing +ĠPl ayers +ie le +. then +Or d +ĠT uple +Ġb out +ĠStat istics +Pre view +Ġp uzzle +ĠW idth +ST ATE +Ġover lay +ĉ on +Ġin fr +Ġsm allest +lock ed +ÑĤ о +ss l +Ġde emed +Ġs co +re ck +Ġj Button +Ġmiss ions +ç§ ° +.Selected Index +T ABLE +Se pt +Ġacknow ledge +Ġstrt otime +ĠT ell +ĠD ak +Ġal uminum +Ġf ence +ĠSt ars +CON FIG +Ġretro fit +Ġemph asis +/ header +ĠS omething +in ished +=' ".$ +ĠValid ators +Ġpol ar +section s +.as px +Ġas pir +.M ock +Code Gen +Ġpe ut +Ġaccept ing +Ġback ing +P icture +/ ap +еР³ +_SE C +- use +annot ation +Ġcogn itive +Ġg rip +h our +ĠLeg al +Ġep ic +.t oolStrip +.not ify +.L ast +OR IZ +M iddleware +cri ptions +l ash +_F OUND +ĠLiver pool +Ġ{} ", +Inst all +Ġn it +Ġfig ured +[ len +.W in +.pl atform +Ġgam bling +(d t +av ery +ĉ include +Wh ether +R outing +Ġther ap +Rem ote +ĠL oss +y ll +Ġappro ached +ĠV ehicle +ĠAl pha +Ġvoc ê +ans wers +NS Dictionary +cons ider +un used +ĠF an +or able +f re +ĠDIS CLAIM +ĠAct or +. ] +to Have +.user Id +Ġspeed s +ew ay +Ġrec urs +ĠÐ ³ +_pr iv +! âĢĿĊĊ +Ch oice +Ġsett le +Ġplan es +' }, +T om +IT ER +! "Ċ +å » +achel or +Ġsepar ation +Ġd al +ad j +Ġreg isters +r iz +ĠNot ice +Ġl u +Ġcour age +Ġax es +cell ent +.as ync +Ġcompat ibility +ç « +Ġ! ĊĊ +ĉ title +Y LE +ĉ message +U UID +OLD ER +ĠH H +ĠStyle Sheet +Ġaccess ed +. validation +t asks +Ġpoll ution +.c anvas +Ġing redient +ĠC abin +A h +old own +ĠNO I +ĠÃ Ĺ +[ f +ed uc +y alty +(n ot +_ State +am en +Ġda o +ud ad +ell ers +} & +lic ity +_W INDOW +Ġt atto +val or +.R ange +Ġrefer enced +ĠRes erve +M oney +SCRI PT +/ product +cho ices +Ġt in +ãĤ ĵ +Ġsepar ator +Ġp kg +am med +ĠM AT +! !ĊĊ +Ġr aid +Ġmotiv ation +ĠX P +ĠBack ground +ĠQu aternion +.define Property +ik er +ĉp arent +ĠOrigin ally +ant age +ĠH ans +Ġtim eline +.c ur +op ic +ĠSe qu +m ust +ĠCo al +Ġform atter +_R GB +Ġ_ (" +'} ),Ċ +Ġ= ================ +ĠF UNCTION +Ġl ng +ic ates +l ive +_ engine +Ġtown s +')) ĊĊ +ĠP K +( api +ĉs canf +pack et +.ph one +á Ģ +ĠAnd y +_N AMES +PL Y +Ġmin s +im i +Ġbr ick +Ġbl ade +.std out +}` ;Ċ +Sh ift +ĉs b +ĠCheck s +Ġphenomen on +Av atar +Ġmin istry +ro se +ĉ File +Ġtit led +( LOG +Ġg an +des ign +(), čĊ +Ġb ones +st m +ÅĽ Äĩ +ĠInput Stream +Ġvol unt +ĠSerial izable +Ġfight er +ĠDr ag +T witter +Ġsubs id +ç ¼ +Ġfor ums +.load ing +log ged +_ this +Ġterr ain +Ġir re +ĠIn g +ĠC N +_object s +. uid +Ġconscious ness +T INGS +ĠG all +Ġport ray +ĠDevelop er +Ġparticip ant +Ġ" ;čĊ +/ model +ĠOper ations +^ \ +ĠL ater +Ġrais es +-n one +.m eta +=' .$ +Fin ished +Ġrepl acing +Ġsam pling +ĠJ en +" There +RE AL +A LE +ìĬ ¤ +Or ders +_param eter +ĠOlymp ic +Ġtr ès +Ġare na +i ol +; ?> +Ġimpact s +ĠW S +: get +Ġfl ights +ĠRuss ell +c amera +F n +s igma +Ġfor cing +Ġloc als +Ġdepart ure +Ġcelebr ation +ĠS ay +ï¼ Ĵ +ĠH ills +.has OwnProperty +Ġtyp ings +.A PI +Ġdon ation +Operation Exception +.Act ivity +c plusplus +ĠChar lie +Ġimport ed +Ġd ann +Ġoccas ions +Ġimplement ing +Ġpur ple +.d ialog +SQL Exception +ern o +Ġw ars +Ġpast e +Ġdecre ased +Ġhar sh +Ġel abor +input s +ĠView s +Ġerror Message +_m ul +ĉ write +ĠC op +ĠAnn ual +(b utton +Ġv ida +b ars +ĠHar vard +ĉex pect +Ġindex es +Ġdocument ary +Ġf lesh +OR LD +ĠD elta +M AND +Br ush +-c olumn +Ġdevelop ments +method Visitor +s lice +ĠP DO +Ġinvest ing +ir able +Ġxml ns +ï¼ Ľ +art a +Ġthe ories +_c ity +Ġ$ __ +Cre ating +( pr +D ropdown +ism atch +ĠN ET +'] )){Ċ +ĠVal ues +ĠSE O +ĠST AT +Ġe cosystem +Ġtem pt +Ġ\ \ +Ġ// {Ċ +ĠChrist opher +ĠKent ucky +ĠHttp ServletResponse +Ġhy brid +y on +Ġfeed ing +ĠEx tra +N orm +IT CH +ĠSe an +ĠUp load +m un +p ur +Ġp ersistent +ĠID C +ĠPer form +.m erge +_ room +Mean while +! =' +ĠW el +Args Constructor +.D atabase +Ġcount ing +() * +Ķ åĽŀ +ĠT OP +m ill +ĠD T +IGN ED +ĠK B +Ġcomp ly +S outh +_c ollection +Ch apter +Ġexpl aining +_ AM +_t s +c ards +Ġqu el +Ġp ole +Ġtouch down +ĠO thers +Ġpe ers +ĠType Error +Ġsix th +Ġche er +Ġdis pute +us c +) ], +th umb +Ġh iding +ĠS IG +lik es +ĠP AGE +.Ref lection +Ġhead quarters +T ING +ĠG host +M LE +$ Ċ +Ġcontr ary +ext end +'] ). +FF ECT +ĠP interest +úmer o +ric ane +ĉs ession +Ġcr ystal +- Control +overn ment +og raf +- action +v olume +ft en +Ġun con +Ġan imate +Ġle ase +sc r +Ġref use +ãĢ ĭ +ft p +in formation +Ġeval uated +Ġin jection +Ġj ack +Ġwork shop +æ³ ¨ +PT H +ĠT s +off er +ĉ os +Ġking dom +M issing +Ġlaw makers +ext Field +Ġsing ing +ab i +/ client +.m edia +ATEG ORY +Sign ature +% ',Ċ +ĠF uck +][ : +Ġsens ors +/ com +ĠPr imary +.S QL +_pro gram +Ġp ills +Ġinteg ral +Ġfle et +Ġdro pping +.s l +Be en +Ġp ets +Ġadvis ed +Ġdr agon +_ EDIT +( im +F ER +ĠDr ug +(r andom +Ġcomp ression +ou st +[ % +Ġbuy er +h op +R oles +man age +Ġpain ful +ĠBr anch +-mod al +en ant +ĠM esh +/ font +ĠG raham +Ġâ ĺ +Ġn c +ĠFranc is +Ġspec ification +Ġdam ages +- config +Ġthe oret +sec ure +_m ulti +aceut ical +Ġdemand ing +en ne +IST S +() ));ĊĊ +Re ason +Re cent +ph ase +Ġps y +_M AN +Ġvolunte er +å ¿ +istrib uted +li o +Ġproduct ivity +_com m +S pring +n is +. weight +ĠC ancer +Al loc +ĠT weet +Ġsepar ately +ĉ check +_p roperties +. Unit +_CL K +Ġg t +Ġ( );ĊĊ +Ġhand y +ĠThom pson +Ġunn ecessary +ĠRe ader +G N += request +ĠU tility +.Re pository +ĠA x +hy dr +ie u +Ġth y +Ġl t +_m ail +ä¿® æĶ¹ +ail and +ĠPhil ip +Ġbit ter +Ġbet ting +Ġtim ed +ock s +' a +Ġal gorithms +Ġre interpret +Ġto ss +ro gen +Ġhop ed +( selected +Ġvent ure +TE X +ĠLe ave +.Sub string +Ġgr ateful +uk a +ĠCon sumer +Ġag greg +C ircle +ภģ +_block s +Ġleg ally +Ġ" | +ãĥ ĥ +. board +.A b +Function s +rec ipe +è ĩ +ĠO xford +Ġwho les +.B uild +_ch anged +h ai +Ġdepart ments +I mp +Ġcoal ition +IN FRINGEMENT +Ġemp ower +itch es +N orth +Ġinfl amm +ON SE +Ġmiss ile +ĠR aj +ĠIss ue +Ġat oi +ca led +.Cont rollers +ĠW olf +Ġcrush ers +á» ĩ +.A uth +.add Attribute +h is +Ġbo ots +.c lean +c amp +Ġten ant +Ġt une +Ġ{} '. +Ġwork out +Re po +Ġpartial ly +MI SSION +j amin +ĠS B +Ġdetermin ation +Ġ' ');Ċ +ĠB eng +Ġv os +Ġin hab +/ lang +s burgh +Exec utor +h one +ĠCh allenge +_link s +.Le vel +Ġunder ground +-c ode +Ġoptim ization +log ging +_de st +Ġsn ake +Ġchemical s +_IMPORT ED +ado op +ĠTH AT +man aged +Ġredu ces +ĠRE AL +ĠG uy +_GENER IC +/ ******************************** +. amount +Ġd ere +get Time +Ġp ant +an onymous +Ġharmon y +ĠAl an +Ġscen arios +Ġd irt +ht ags +M c +Sh ell +r in +{ čĊčĊ +.p ow +ĉ client +Ġconspir acy +Ġad mission +ĠReg ional +ĠView Controller +ĠPhilipp ines +Ġde pos +Ġp ap +ĠP ad +P aul +.Com boBox +Ġt utor +ĠRec ipe +w riting +Ġcontrib utor +OT H +Sm all +V I +Ġh acer +e qu +ĠEx amples +h uman +.m essages +ĉt yp +Ġ( čĊ +ĠS SL +LE N +ĠRom ney +( grid +ĉ min +Ġ> ĊĊ +Ġfr uits +Ġvot er +In line +pan e +ĠC ollections +char set +Ġsp am +z b +item ap +Ġsucceed ed +_C OL +Ġel apsed +im eter +Ġrecover ed +T ensor +hatt an +.set up +ist o +( head +ĠS IZE +Ġtact ics +Ġdist ur +Ġpre val +ici os +( Value +_c ols +ĠF at +Ġse al +Ġs ons +Ġens ures +Ġpress ing += & +igen ous +Ġharass ment +_ JSON +Ġign or +yn omial +om er +_st atic +Ġsignific ance +Ġcirc les +_S ystem +Ġdiscipl ine +Ġdress ed +Ġs phere +Ġclim b +_ actions +ĠB ab +Ġ' =', +_s chema +" use +Ġund ers +Ġc ups +.s creen +/ new +Ġappe aring +T OP +vis ed +cl ang +Ġinvestig ators +Ġmyster ious +Ġprom ising +Ġqual ify +Ġc ave +Ġequ ip += x +G T +( link +. velocity +. erase +ot er +++++ ++++ +pro fit +Ġz ones +_ uid +- ser +Ġobject ives +Ġmil f +web kit +(m atch +ne h +ĠAssoci ated +ĠT odo += d +C am +Ġv ocal +Ġs udo +( EX +Ġtr ou +AB C +.b ean +ĠG round +ĠRE ST +we ets +In g +im on +_b us +ĠC OLOR +un to +Ġf oss +ĠLink s +ä ng +/ forms +pr ises +Ġachie vement +C ALL +ел ÑĮ +ĠVer ify +_S OURCE +apt cha +ID D +_re ference +G old +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĊ +Re ceiver +Ġa j +_d irection +} ] +ĠCom pet +Ġb ang +ĠC ass +- url +te chn +ĠJer usalem +long itude +' );čĊčĊ +Ġwin ners +T asks +ĠD MA +Ġtool tip +İ · +ĠB ra +_d uration +cur y +parent s +---- >( +ĠK ir +Ġint ros +Ġsk etch +Ġsk illed +Ġim mer +Ġade quate +_re p +( header +_ like +Ġper ceived +ss h +Ġassum ing +Ġf f +_u uid +ul as +Ġdemocr atic +. entities +S eries +aph ore +Ġnew er +} ( +SE C +ai ro +Ġcomm od +Ġprivile ge +Ġde ux +ĠH op +.' / +ct ic +. ';Ċ + C +ĠWar ren +Ġoptim izer +ĠSER VICES +_ oper +get Attribute +ĠMc K +_s elf +.r s +" )ĊĊĊ +Get Component +er ce +Ġt ous +un its +'] );čĊ +Z oom +/ E +Ġobs c +Ġfast est +on line +Ġpeace ful +ff en +Ġc argo +ĉ pr +Ġseek s +z u +Tr im +Ġw ard +Ġver d +Ġblog s +.exception s +ĠPrem ium +ĠN etherlands +S afe +Fin ish +ĠAl bum +_A CC += this +v irtual +] > +_L ABEL +ĠN ich +_w in +ĠA aron +W P +; $ +aim s +ĠImage View +Ġend less +ER A +_DIS ABLE +Ġcancel led +- us +Ġins pection +em in +ĠG rey +- open +Ġiter ations +. owner +Ġk eras +.P assword +ĠR y +ĠIN S +A ir +ĠSe veral +.Tab Stop +ING LE +ĠH air +ĠCan vas +AA AA +Ġfl aw +ced es +.Re port +í Ĭ +ĠT ips +cript ors +.trans action +.S pring +Ġview er +Ġins ights +è¾ ĵ +ord ion +U INT +se ek +ĠA uf +ìŀ IJ +Ġstr ain +To oltip +Ġd z +ign al +ad t +Ġu c +fin ite +Ġn m +.c md +ĠMy Sql +[ data +.j ackson +.t ree +Request Param +_ agent +") ]čĊ +Ġass ass +( Constants +: ss +ĠM AN ++- +- +ĠB ottom +print s +ĠS ame +@ Autowired +sw ap +ici ón +Ġprotest ers +Ġh oney +ĠV eter +(C alendar +- ad +ĠBrook lyn +L ife +_V AR +ze ch +ĠC ALL +_C AST +ĠE lection +Ġthick ness +V ery +_IN TEGER +- dev +)) )) +ap at +oo oo +d emo +Ġparse Float +ĠR ather +ST IT +m aker +[ current +chron o +Ġch rist +ãģ ª +ĠD etail +ư á» +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġs ul +id ency +Q ue +Ġeleg ant +ap ons +Ġdish es +Ġinteg ers +( read +find ViewById +ĠAm ount +ĠSk ip +Ġhab its +* )( +Ġmon sters +M AC +: end +Ġfr ank +As sembly +Ġd fs +Ġne ut +_TYP ES +e qual +loy d +( uri +Ġch i +Ġdefend ant +Ġconflic ts +Ġv il +- js +ĠPe ace +Ġmut able +) sender +ĠF ocus +å» º +Ġapprec iated +s leep +ĠR ED +C ulture +Ġdesign ers +_g enerator +c odes +/ ex +.Get Value +umb led +.scal ajs +per or +Ġveter ans +Ġ} )čĊ +Ġun fortunately +_C REATE +M ass +ĠCL AIM +ĠMe et +_s upport +B ank +() .Ċ +D ark +_LO W +ĠMin ing +ĠO wner +ier a +Client e +Ġencour aging +> S +Ġboy friend +ĠH alf +ĠA CC +A ff +_ ar +-l ife +c x +.J Button +iz ado +.z ero +.open qa +ot on +.text Content +Ġto ll +at ie +Ġball ot +- number +. Exception +ĉ params +c ircle +-m ap +Ġn ap +ĠRob ot +ĠI ch +reg istration +Am azon +roll ment +( exp +Ġt anks +ĠG ordon +Ġmach inery +Ġbas eline +æ ĭ +Ø © +ĠCon vention +ĉ config +ook ies +m ult +Rec ords +ĠE ST +Ġgar bage +Ġcon form +id al +Ġb arg +Ġsurv ived +Ġinvestig ations +.contains Key +---------------------------------------------------------------- ----------Ċ +ort ion +Ġhor r +_ http +Ġm ant +] ;čĊčĊ +b inary +em pl +Ġin quiry +ĠMean while +Ġcollect ing +.Entity Framework +", ĊĊ +ĠP ic +@ Inject +ick ness +ĠB inding +Ġcont rolling +re verse +Ġch airs +semb led +( add +Dis abled +an as +.trans late +-------- ---Ċ +Ġref lected +"] ĊĊ +Ex ternal +Ar row +Single ton +% x +Ġ Å +Ġan cest +ĠOr leans +ĉc md +Ġprohib ited +ith metic +(ch annel +_c ss +For ward +.s ocket +Ġl uc +â Ĩ +ĠFire fox +ĠM ovies +) _ +. ends +( shape +Ġde alt +Ġs aves +Ġgl ory +Ġmej or +Ġbreath ing +Ġ eller +get Data +Ġang les +Ġtool bar +Ġsp acing +IP S +Ġflo ors +_ACT IVE +Ġsh uffle +/ shared +ĠE le +ed ish +Ġweb cam +.ex pect +il oc +ĠIn cludes +Ġtweet ed +Ġ: ) +ĠEss ay +F ix +-b etween +_ web +.con v +Ġrac ism +Ġreflect s +um m +иÑĤ е +_f ooter +/d ocs +ĠP our +Ng Module +.initial ize +pattern s +_ In +ĠAb b +* čĊ +Ġsent iment +b uff +_count s +Ġre use +ch unk +Ġim posed +Primary Key +Fore ground +Ġconsum ed +? ! +Ġd ick +Ġch ron +ĠF ern +Ġrespons ive +Ġin sect +icult y +Ġr w +Ġal ike +Ġsub set +ĠCook ies +ĠP air +Ġt ier +IF O +av our +ĠQ U +, sizeof +Ġmerg ed +m v +it ol +yl on +Ġjump ed +. role +ens aje +R ules +Ġb rowse +An imator +Ġy oga +Ġvari ants +Ġcour tesy +ur an +p bs +else if +Al t +ĠL ane +CL K +IM ARY +_PRO PERTY +ï¼ IJ +Ġch an +Ġgrad ually +Ġsh ake +Ġbl onde +... ");Ċ +-se x +Ġgame play +ac ies +.ref resh +US B +ĠPl ot +W as +iss ippi +ĠT ensor +Ġcryptoc urrency +Ġdifficult ies +De leted +With out +_ append +_ ver +")) čĊ +Ġhonest ly +Ġp ivot +Ġtem ps +_p s +ĠUn like +[: - +V S +_in f +Ġjun ior +Ġanim ations +Ġfile path +? {{ $ +Ġun icode +pl aces +ĠC offee +.S E +ĠP AR +(t xt +ge bra +Ġf ires +Main Window +med ium +Ġ( âĢľ +Ġl g +Ġc mp +/ base +_l ayers +_ entries +Ġadmin ister +ĠSU CH +B P +ĠScott ish +ĉčĊ ĉčĊ +gu ard +ĠStr ong +In sn +ĠC AP +as ury +ĠSE E +C lock +er ie +\ models +Ġ$ $ +ĠC ab +Ġwur de +Ġsold ier +Ġcl ips +Ġarrang ement +ĠW onder +ĠH orn +Ġsc ared +Ġc ure +m kdir +Ġal igned +ĠP ink +Ġland ed +Dim ension +Scroll Pane +.ch at +.W ith +ĠTr ain +] .Ċ +Ġth irty +Ġdur able +Ġl d +Ġlate init +Ġch arts +Ġins ult +.F atal +_ ct +Ġm asks +CLU DED +Pres ident +Ġcol ours +g ments +.at tributes +ĠF lex +ĠC lock +ÃŃ cul +im en +J O +ĠReg ex +_L INK +Ġc ouch +ĠIN PUT +Ġbe ating +b usiness +pre ced +. unit +ĠF el +N ever +osp el +.start swith +ĠE PA +. only +Ġprevent ing +y er +Column Name +Ġelev ation +fl u +icy cle +Ġoff line +Tool bar +Ġcompet ing +) ]. +Ġm og +Ġis Valid +As k +_ av +_l at +AN C +ĠJ oh +k ers +Ġgu ards +Ġch ains +ĠSimple DateFormat +.st atic +Ġvess el +Ġm ud +Ġst abil +Ġst ret +g m +am ation +ç ľ +-w ith +Ġro s +_P A +Ġresult ado +Ġconf idential +ĠTok yo +ĉ using +ĠMath f +omb ine +ĠESP N +Ġdeal ers +Ġdismiss ed +TR Y +Ġte ens +rec ords +Ġw ings +g allery +account s +_L IB +Ġj acket +ĠNS Object +Ġst ones +ĠDel ivery +ĠD iet +/w atch +Ġto ilet +ĠG uest +.d ay +Ġint val +Vis it +Ġinvestig ated +Ġpent ru +ĠThe atre +andid ates +L ang +ĠS erv +Ġcont rollers +Ġset Title +N P +am y +fl at +( ui +_d ocument +è ĥ½ +ĠC oin +ĠAd ams +pt ic +Ġproduct ive +Ġaccompl ished +čĊčĊ čĊčĊ +Ġdefer red +ient es +Ġs inc +ol ars +Right arrow +Ġvari ations +( offset +.Layout Inflater +Ġsus pend +Ġprevent ion +_pr ivate +_ js +âĺ ħ +Ġw ieder +at um +Ĵ Į +Ġappear ances +.D ocument +Ġvalid ates +cal endar +} ";Ċ +.d emo +con ut +Ġcorre ction +ĠDe al +Ġbatter ies +.d uration +, \ +_m arker +m ulti +Ġh alt +Ġc ms +Ġsh aped +B ro +re duce +Ġ #### +CT OR +ĠBen ef +Ġicon ic +Ġp iano +Ġeffect iveness +| .Ċ +Ġa jax +Ġv olumes +ภ¡ +Ġcl js +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ath s +ra its +å¤ § +Ñ ĸ +_m ult +Ġfasc inating +A verage +Ġpr é +ĠChair man +.find Element +_p in +Ġcomp aring +Ġdark ness +-F i +- server +Ġselect ing +ster dam +ĠPart s +FORM ATION +Ġnot ing +Ġp ile +og s +Ġpa lette +_d o +it ize +() ( +Ġdef ining +Ġremain der +Un its +_T ASK +Http Client +S ocial +Ġfund ra +N R +ch est +C urrency +.ad apter +Ġd op +un ting +ANG UAGE +" He +ĉ index +_p ackage +.I con +Ġrep et +m ass +=" .$ +ĠS ud +Ġl id +pro vince +ì ľ +G PIO +Ð ļ +ĠMy SQL +Ġdoc s +ĠG A +Ġip sum +K ernel +Ġaccept s +Ġfit ting +Ġcu ando +Ġd uplic +ĠBro ther +ĠK le +num s +Ġmor ph +Ġ ######## +ĠCG Point +< unsigned +ä¾ ĭ +ĠD uke +.set Bounds +q s +or ic +j er +Ġregard ed +Http Request +Ġbond s +Ġthorough ly +enc ent +Ġhighlight ed +Ġac res +Ġwork place +ĠL ux +Ġqu ot +.in flate +Ġdocument ed +Ġadd iction +Ġmut ation +.c ity +Ġbott les +ĠRepos itory +on n +err no +ARI ABLE +åº ¦ +_B EGIN +gl as +' })Ċ +ĠMass age +ĠWh it +reg ex +W A +Ġout let +- head +Ġexp ired +ĠTh ai +/ include +grad ient +scan f +Ġse am +w al +ĉb uf +B earer +Ġprec ious +if acts +co ord +Ġexpl oration +.get Y +(h andle +Top ic +ĠV ent +r hs +---- --Ċ +ĠB right +Ġg uild +m other +st orm +Ġmunicip al +Ġin k +.T YPE +w l +... manual +ĠTechn ical +Ġcorpor ation +ĠH W +ank a +T AIL +ist as +Ġperform s +ĠBeh avior +.F or +_ ORDER +ĠK ick +Ġcallback s +_d r +ue go +h ub +uff icient +sk y +Ġb p +ht able +ĠON LY +ĠAUTH ORS +.Arg ument +" };Ċ +ĠTh under +ĠK om +.Sh ould +A UTH +ah u +_p ayment +Ġst arter +ìĦ ľ +ìļ © +B log +.p atch +Ġgovern ed +ass y +-f ound +Ġthe ater +ĠFont Weight +ĠBat man +" If +.R andom +_d elta +ĠC E +Auth enticated +Ġdr one +Ġc ous +r adius +M er +( None +ĠN J +_ headers +Ġam er +py test +ĠA ctions +ĉĉĉ ĠĠĠĠ +Ġet t +Ġh oly +Ġun comfort +ĠN in +ĠDec imal +ĠM essages +.s ender +] ])Ċ +Ġembr ace +Th ough +/ sp +Ġcult ures +Ġhigh way +t ar +.f ail +_h idden +ĠcomponentDid Mount +ĠW right +Ġj ag +_ il +../../ ../ +ig u +F ood +Ġa ce +Ġa ños +US D +Ġmut ual +Log ic +Ġtem ple +Ġbrief ly +ĠT rip +class method +default s +Ġch unks +,, ,, +ĠRe ason +$ id +-up s +Ġdam n +Ġtruck s +Ġun limited +Ġsc ulpt +ĠC ards +Ġaut or +ĠTest ing +Ġdies e +sh ops +ç ´ +(p ayload +ĠP ATH +ĠMem orial +Ġridic ulous +eg ree +-w inning +Ġre hab +Ġsophistic ated +wp db +ĉ path +! ";Ċ +_S YS +.s peed +Ġso ap +s uffix +W rap +Ġenh ancement +à ī +ú b +Ġplay list +Ġmix ing +ant idad +=" ";Ċ +ĠRev ision +ĠBe at +.in c +-w ay +enc ias +ul ers +C at +id el +ĠSh ip +.set Color +Ġthreat ening +.mod ules +Ġafter wards +ĠD ashboard +Ċ ĠĊ +Sign al +Ġpr imer +orne ys +ici ary +Ġl igne +_p redict +Ġa est +_ https +> : +ĠL ex +Ġrencont res +eg ral +sc ala +_f amily +ÃŁ en +_s ym +Ġuncert ainty +ĠVAL UE +Ġ} ;čĊčĊ +Ġbro ader +Ġh orses +ãģ Ŀ +ĠK al +ob a +_IN ET +ĠK ill +j query +am ination +[ @" +Ġm uj +## #Ċ +First OrDefault +then Return +C he +/ footer +Ġpark s +as je +ĠG ulf +Ġmod est +. Init +ï¼Ł ĊĊ +Ġpros pects +Ġs vg +Ġå ı +.D ialog +_N ET +Ġ( ($ +Ġe k +ĠW arning +ĠM K +< LM +Ġ' čĊ +i em +h etic +Ġi x +th ink +-sh adow +ĠE ld +ĠNev ada +ĠLe af +ĠG ROUP +Ġprom o +ent ine +ĉ Map +ĠModel s +ĠK rist +_k ernel +-m ade +Ġc err +As sets +ell ar +Ġinv oked +.v ue +Ġcult iv +C losed +Ġgener ates +ffff ff +thes ize +s qrt +ĠCast le +.c ar +Ġke en +und a +ĠC row +ĠSing h +y thon +Ġbe ans +l arg +æĸĩ ä»¶ +Aw esome +unc ate +Path s +o ji +(c urr +CON DS +Ġm im +Ġshould ers +H ard +ast es +а еÑĤ +Ġconv ince +de cess +m ade +ĠC MD +. Im +Ġcha os +ens ively +Ġcool ing +Ġbur ied +(' @ +_S e +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉĉĉ +.com pany +.sub mit +ph ant +Ġboot strap +_h elp +à § +.d ump +Ġdif er +_m apping +Ġcirc ular +Ġescort s +Ġb ere +Ġgrad u +ĠLeg end +im edia +ĠBar celona +Ġbed s +åĪ ° +ãĢ Ĭ +_v olume +Ġtremend ous +Ġsc aling +Ġp ins +en as +type param +D ashboard +render er +Ġsp i +Ġ& $ +ĠSk in +alm art +Ġh ockey +Ġ'" .$ +Ġerr no +Ġb ew +Follow ing +.M odule +er able +ĠM ilitary +ĠR io +_ available +ĠSur face +Ġst ab +IF IER +ĠL IST +Ġd ashboard +Ġcl usters +.pl ugin +Ġj ou +ĠDec or +F our +Ġdel le +****** /Ċ +ia z +in de +ch ing +Ġget Item +.Add ress +ment ed +A meric +Pl ain +Ġus b +ĠPract ice +_ ment +.bl ue +H int +ÑĢаР² +Ġconn ector +Ġinher ited +и в +Ġinterval s +Ġc ere +Ġu d +Ġin con +.Ex ists +ĠM ic +F K +(c ard +.Set tings +Ġexhib ition +Ġon Pressed +Ġrest ored +eng u +. def +Ġrec v +." );čĊ +enc oder +ather ine +( dest +az ed +# endregion +sem bl +, M +ob y +Ġп еÑĢ +.C all +Ġattend ance +-b order +Ġaddress ing +ê n +ĠLe v +Ġb ash +ben ch +C redentials +Sp acing +( of +_RE SET +ig uous +Ġcr uel +Ġcross ed +Ġle ur +ĠG olf +or rect +Ġpack ets +ĠData Set +Ġpart ly +SEQU ENTIAL +Ġindic ation +ĠS alt +ac ia +Ġ* );Ċ +ĉ info +ĠView Bag +on z +Ġeditor ial +ĠA rena +Ġs ir +_ Static +( socket +s u +cho ose +.m onth +.M y +é ri +; font +do es +Ġcon verter +Ġsal v +Ġl r +Ġinflu enced +(f eature +ĠQue ens +let t +_M ON +& amp +Touch ableOpacity +O FF +Ġmetab ol +( iter +Ġvit amin +ĠIND IRECT +aut om +_p ublic +Ġadjust ment +Ġspecial ized +w indows +.add All +Ġaccording ly +ĠJ OptionPane +Ġcell spacing +Ġqu ad +Ġcre ep +Ġout lets +}` )Ċ +Ġpri est +_TH READ +ĠMar x +ĠBy Val +Ġc ual +éĿ ¢ +Ġtempor arily +An n +ke leton +å ¥ +ĠLO C +au er +der ive +Ġbeh aviors +as ename +ĠCent ury +Ġhor rible +ME SS +_ List +we i +P at +ĠCh oice +_F ROM +ĉ line +.in voke +.B ottom +Ġnow here +." ĊĊĊĊ +_ export +Ġstrugg led +.Ap pearance +ĠJ Button +ĠJer emy +([ [ +Ġkick ed +mar shal +st aff +es ity +Ġqu iz +_e ffect +Ġ} ));ĊĊ +m el +b anner +ĠP IN +Ġin vention +Ġcons olid +Ġop s +ĠB etween +j ack +ern ational +Ġsacr ifice +ag ation +ĠJ oy +Ġam endment +ĠS old +Ġprison ers +ан нÑĭ +Doc uments +) ])Ċ +ust ed +ĠLine arLayout +os o +_E M +.s elf +.M iddle +) // +Ġ\ ' +Ġfuck ed +ĠM urray +Ġprof ound +_E LEMENT +ult a +il ers +port folio +J une +t cp +mod ified +ĠTr ace +ĠK el +aly zer +) => +ĠRep air +_B E +Br and +u art +pre view +Ġiniti atives +run ning +b ang +ĉ update +ĠCo ach +R ich +Ġy outube +Ġrit ual +app a +ĠRobin son +prec ision +//////////////////////////////////////////////////////////////// //////////// +=[ ]Ċ +Ġcelebr ated +OT O +Ġin clusion +J P +' ;čĊčĊ +Ġnot able +(_ . +Man aged +Ġgu ides +& nbsp +ated Route +ĠAd just +Ġcol ored +_s cores +ĠTes la +_pro gress +.in st +[' _ +.fl ags +Ġf close +_O PER +ż y +_n ote +Ġtrans gender +å ķ +RI PT +Ġabs ent +Ġam et +Ġoper and +ë © +Ġh ood +to LowerCase +av o +ĠCirc uit +ĠL ind +-- }}Ċ += m +Ġsup press +ĠM AP +i ang +- admin +Ġside bar +ĠB u +ĠH ex +, F +ĠSign al +Ġtrans parency +ĠFeder ation +/ V +Re q +Ġpul se +Ġt ends +Num bers +% ' +Ġde port +dat as +_U INT +_ tra +ok o +Ġ" ? +comp et +sole te +und ry +Ġover lap +}` ,Ċ +. ly +_sum mary +ĠL ost +.C enter +Ġdis ability +.Serial ization +Ġge om +Ġ? : +ĠW o +Ġsh ipped +Ĥ æķ° +Ġu gly +Ġexcit ement +Ġext erior +Ġcheck out +Ġk ur +, D +ĠAl aska +Ġsyn thetic +ĠB udget +ĠSub scribe +Ġ& Ċ +ÈĻ i +ĠY u +ĉ query +} .Ċ +Ġtr aged +ass en +Ġaccommod ation +Ġphys ician +Ġren amed +Ġtid ak +z Äħ +Ġmin us +ny ch +_EX CEPTION +thread s +Ġt ire +_c reated +ens ure +Ġworth y +Ġexc use +Ġclo th +.parent Node +/pl atform +ĠU FC +ĠG tk +un ny +Ġg ibt +ke ley +h um +(t x +ĉ dev +Ġout fit +do ors +Ġf on +ic ut +vol atile +Ġhom osex +Max imum +Ġexp end +Ġ});ĊĊ Ċ +E q +ond ers +dep artment +ĠPhys ics +" });Ċ +Ġpar ad +.S tr +Ġse le +IF IED +Ġdel ivers +iv an +Ġrespons ibilities +Ġadvoc ates +è µ +ĠR ID +.param eters +M etrics +ron ics +ĠUITableView Cell +A bsolute +ip se +yl um +MLE lement +_VAL ID +< title +D lg +p aces +Ġsynd rome +be ans +_d atabase +oz illa +ĠM eg +DB G +Ġl ub +Bag Constraints +ab ad +Ġproject ed +_BY TE +.Size F +st reet +ĊĊĊĊ ĊĊĊĊĊĊ +ĠLO SS +Ġdirect ors +/ news +Ġnurs ing +ĠD one +. HTTP +dis count +ĠR ot +To Many +Ġen abling +Ġauss i +ost a +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ čĊ +è½ ½ +Ġhel icopt +ĠIn side +ä¿¡ æģ¯ +is per +ĠAll ah +ARCH AR +Ġroll s +Com pare +X P +Index Of +S UM +Ġass ured +ĠPhys ical +End point +.G lobal +.d etail +Ġthe ft +.j upiter +Ġhum or +.R ender +A lex +.c ap +Ġbuff ers +Ġdis pose +t ion +.p resent +z el +, P +Ġdesper ate +.get Column +Ġtw in +ì ĸ +.c an +Ġf lee +ĠIran ian +Ġstick y +ĠU TC +L T +//////////////////////////////// //////////////// +Ġl icensing +_PO INT +ĠM aps +Ġl ol += models +-t ab +ĠN ash +_log ger +tor ch +ĠCON SEQUENTIAL +Not Empty +/ react +Ġp f +Ġassert ion +Ġsubsequ ently +_c an +Ġpand emic +og ue +"+ Ċ +_ ent +_P aram +.ĊĊ ĊĊĊĊĊĊ +Res earch +C apture +Ġbel oved +d em +Ġextract ed +Ġf ights +ER C +(a uth +position s +Ġrevers ed +(st ack +Ġ_ ) +uto ff +_fl ow +ç Ĥ¹ +( Game +Ġex cluded +ĠCS V +c g +ĠT itan +p ause +Ġcer ca +Ġdump ster +L ess +Ġkotlin x +aster xml +Ġpoint ers +Ġfl ows +ĠT un +ĠMain Activity +Ġdis cret +Ġcomb inations +vis it +_b ind +oot ing +d ater +_look up +.n io +Ġswe at +ĠR d +Ġscient ist +ĠP ixel +@ NgModule +Play ing +Ġunf old +Trans late +ĠLaw rence +ĠFIX ME +B ill +ĠR IGHT +Ġwhere ver +Ġo ok +vid ence +Ġ] ]; +ĠSk ill +unist d +ĠðŁ ĻĤ +Ġfem ales +-- )Ċ +İ· åıĸ +ĠF red +Over all +Ù Ĥ +Ġess ence +Ġthere by +Ġw ounded +ĠD OWN +les son +text ure +R ound +Ġautom ated +ĠÐ ¡ +ĠUp dates +Ġsh ade +p ublish +ĠG ear += lambda +Ġle ver +) +" +h ill +Ġrad ar +ry ing +Ġ" ). +f illed +Ġline up +Ġd l +Ġworks pace +V o +_d t +ë ² +_ Item +NS URL +. verify +ĠHawai i +G od +M arch +Ġ[â̦ ] +Ġpel o +ur ious +ĠPitt sburgh +. It +C lean +> \<^ +Ġi os +s ound +"] ; +Ġfre ed +rot tle +ĠL ower +[ count +å Ŀ +Ġp ale +ĠWay ne +ear th +_c ategories +U CK +.m etadata +Ġsum mon +H OME +олÑĮ з +Ġmanufact ured +Ġdo ck +Ġcompet itors +_MODE L +ok ia +ĠH ey +Î ¿ +Ġback ward +ĠPO SS +rop a +Ġc ri +_O BJ +Trans port +-h igh +Ġerot ik +_s lot +Ġart ic +_f ramework +-ser if +ĠSql DbType +') ( ++ "/ +Ġw ore +S il +Ġst oring +ĠPh ase +u ant +Ġb ump +in ho +Ġd ign +Ġback s +q q +(h ash +Ġge o +Ġt ender +Log o +! )Ċ +ĠM X +ĠAr thur +esso a +_C h +Ġbed rooms +="# ">< +Ġth roat +ins ic +.int eger +Ġpr imitive +Truth y +Ġfacilit ate +Ġcreat ivity +ĠD NS +Ġg ra +ue z +Ġcount less +ĠPol and +' M +ĠD ist +Ġv est +Ġcert ification +á» ij +h eld +ext ensions +( static +Ġgr ades +ĠU ber +ãģ Ł +Ġ[ ])Ċ +dat os +Ġget Data +ĠCh arg +ĠB S +.m icrosoft +.v ideo +.d irection +->{ ' +l ua +ape st +Ġbo iler +ere k +Ġdec ides +.j ar +IS C +ĠW ords +(C ON +EMPL ATE +ree ze +sh ots +app s +unt ed +.set Name +:: < +-b old +ê ² +å¯ Ĩ +Long rightarrow +Ġunf air +Ġear ning +Ġsh elf +URE MENT +Ġid le +_M ENU +.C ustom +AG ER +- " +_s witch +b ecause +) view +m are +_ condition +ĠStart ing +M vc +(p re +d ump +_LO CK +at etime +.c allback +ĠC er +op ol +ib rary +Ġres ervation +ĉĉĉĉĉĉĉ Ċ +lect or +grad uate +Ġgener ous +Ġ ion +ric ao +m q +_com plete +(c ursor +ĠForm Control +: center +Ġsub stitute +ĠPl anning +Ġp ension +Ġrecommend ation +ĠT ags +Ġg ef +Ġalbum s +Ġwash ing +ro c +Ġtr ains +at ings +Ġex ponent +ack bar +- ln +á g +.Data Annotations +ĠE IF +ĠMalays ia +ĉ PORT +on us +Ġcle ver +Ġpe u +> ĊĊĊĊ +ĠArg uments +Ġdebug ging +( right +' D +com pute +Ġfin est +OR AGE +Ġspect acular +ph rase +Ġind ia +Ġlegend ary +b irth +Ġcom posite +Ġg rows +ĠT D +Ġep id +Ġlaunch ing +] ][ +Min utes +ĠCh a +Ġclean ed +Ġwitness es +uk an +ĉ Type +Ġhab e +par agraph +ĠJ Panel +ĠH ann +Ġvar ied +ĠP okemon +ĠM UST +åĬ ¨ +.vis ibility +op up +^ [ +.exp and +Ġ" ', +.f asterxml +_ auto +ĠShe et +mark er +Par cel +ew s +ĠStr ategy +-m aking +Ġun ve +Ġtrail ing +Ġclick s +ĠGet Component +ĉ content +IG ENCE +ERN EL +NSMutable Array +Ġb reat +Ġharm ful +¶ Ī +Ġbes ides +Ġb oring +Ġbrut al +v ang +(p arse +qu ick +Ġpy test +Ġswitch ing +() ]Ċ +Ġì Ħ +L ER +ĉf ont +Ġnet t +) ]ĊĊ +(/ \ +æŀ ľ +to Array +Ġbre ed +ĠC AR +ĠWe apon +A bs +t ot +Ġset Name +apt ive +Ġ: , +Ġesc aped +ord en +ĠP ri +th umbnail +Ġdescri ptions +/ styles +ĠPC I +Ġal phabet +astic search +NOT E +Ġc ialis +ĠGr iff +Ġpor que +Ġprote ins +pl ays +Ġst ating +Ġimag ination +Ġfac ial +ĠMe chan +Ġarr anged +_ used +Ġarrang ements +ĠP ipe +host name +Ġprov inc +T it +.Flat Style +ĠS plit +ĠLo ader +.c c +Ġclin ic +---------------- ------------ +Ġb aking +ĠEN T +ne ath +ãĢģ ĊĊ +AN E +.EntityFramework Core +app ers +. ic +ĠNg Module +ĠF ORM +Ġ' ; +-pro fit +h w +en emy +ĠE ye +Ġca ution +t own +Ġur ged +ĠJim my +ynchron ous +-s ized +m aking +, { +] ', +_ Object +ah oma +Ġactiv ist +IN VAL +ĠCom mercial +ĠOr lando +(t ab +ĠØ ¨ +Al gorithm +Ġher itage +Get Mapping +Ġfail ures +ri os +at iva +Ġt et +Ġcar pet +( Z +th ree +Ġdisc losure +. ERROR +_c alled +Ġd ial +Ġoccas ional +.E rr +Ġfunc ion +caff old +Ġrele asing +ï¼ī ĊĊ +_ Value +ĠV ari +y ellow +Ġstrugg les +.c al +ĠDak ota +ĉc lose +Ġsand wich +Ġanaly tics +Ġ** ) +& # +ĠJ os +Ġpass ive +AT TR +Th rowable +ĠM un +ĠU int +(dis posing +ar ak +ĠLe aders +Ġaffect ing +Ġitem View +Ġeconom ics +f v +à¹ Ģ +.r b +ĠOver all +Ġwealth y +Ġev olved +nd a +ĠH us +re strict +um en +ĠA gricult +! ĊĊĊ +Ġexp ires +Ġspokes person +int erval +Ġà ¢ +Ġque en +(n il +ing o +He ap +Ù İ +Ġcompl ain +S ym +ĠCl one +ĠR u +ĠW ILL +ĠCr ystal +/ content +ing en +oint ment +Last Name +av icon +ĠIB M +ĠDim ension +an h +icip ants +ĠAn ne +.pro gress +Ġal go +ob il +ĠV oice +ĠF E +Ġg li +Ġv ed +Ġprevent s +\ Column +Ġfol k +ett i +Ġm n +ĠCL ASS +Ġdisplay ing +ĠK l +ĠF err +d uto +. ib +Ġd ados +' name +-s pace +Ġit alian +Ġin verse +Ġd ense +ut er +ĠI Enumerator +-s ign +Ġnation wide +Ġperson a +Ġsol ved +Ġdram atically +Log out +Ġgr av +Ġanalys es +ol lo +Ġl amp +. team +ĠE rot += [" +Ġd ancing +Ġ?> / +Ġc ater +ff e +ĠSh a +ĠB os +ĠRE QUIRE +ĠMon ster +ĠR B +ĠI DE +Ġsu its +Ġform Data +( theta +Ġsp atial += NULL +ĠSql Connection +Ġ à +ĠV enez +ĠMor ning +Ġpublic ations +ĠNON INFRINGEMENT +first Name +ud s +W ould +_HE AD +Ġinvest ed +st able +f red +Ġcommand er +SE S +âĢĶ a +an che +ĠM ovement +ë ³ +S uite +Ġjur isdiction +ë¦ ¬ +ĠB eth +j Query +ĠIs a +Ġd ental +, * +ĠL imit +ili ation +=" { +b ast +Ġt urb +is y +O OK +Ġadvoc ate +im ag +LE CTION +л ÑĮ +(c ategory +.de c +Ġun iqu +_s n +Ġattract ed +Ġà ī +ĠRun ning +_ edges +ĠDis able +_A S +åĽ ¾ +Ġnetwork ing +_br anch +H aving +toBe Truthy +G I +Ġcamp s +se p +-p art +Ġ)ĊĊ ĊĊĊĊĊĊ +ustral ia +ĠRe ports +rit o +Ġwa ist +_pl us +ĠW W +-p erson +Apr il +Ġs ar +.t ar +Ġagricult ural +t ic +Ġt cp +Ġset Value +agent o +ĠAp pe +p iler +CA DE +Ġan che +atch er +Ġcom ics +Ġl bs +_se gment +'] =$ +itt ers +ich er +G INE +Ġutil ize +ĠC ursor +_ex pression +Ġd ag +< long +Ġr hyth +æı IJ +Ġconsult ation +Y et +")) ĊĊ +_M AC +c ould +Ġ' \\ +ĠV o +ĉ http +Ġg s +ph er +- grid +J ames +J ul +Ġsch on +Ġtensor flow +ĠLOG GER +am as +Ġsc ipy +Ġconv iction +. ag +Ġadministr ator +)) {čĊ +Ġn un +" group +P or +Ġnur se +ex pression +ak y +ĠHe avy +. opt +.get All +Ġover l +/ ", +_c ountry +ç İ +ĠG ENER +_r oute +ĠD al + ´ +ol oad +Ġuncomfort able +(m enu +Ġhost name +' ");Ċ +Ġcalcul ations +-c lick +Ġprotect ive +ãĤ ¯ +_F orm +ung s +Act ual +m f +ĠProcess ing +ĠIn ventory +(m atrix +app ropriate +w eg +ij a +Ġch r +Ġr ifle +-w sj +k ar +Ġindepend ently +I OS +Ġconsist ency +v n +/s ystem +ĠCh anges +Ġexp ose +ici ents +Ġrel ate +ĉ next +è ¨ +ud es +Ġglass es +F XML +.... .. +ĠP df +Ġappro ve +Ġ{ \ +Ġexist e +)) ( +ARE NT +оР¿ +ĠL atest +ĠNiger ia +.Inter faces +Ġrem oves +En emy +Ġen force +vert s +ĉ pos +_text ure +W ARD +ĠINC IDENT +( container +Ġdef ending +ĠR X +ĠH ook +br is +ĠFl ask +Gr ay +. )Ċ +vis ibility +ĠRedirectTo Action +err al +_e lem +Ġres on +front end +_variable s +ater ia +Ġ+ " +ave led +RI X +Ġdef icit +_C heck +YY YY +To One +sp y +Ġun ited +end ent +Ġp ode +ãģ Į +C AT +(f mt +ĠBon us +Ġre ck + º +Mod ules +Ġvac uum +R adio +ĠDAM AGE +P en +ĠPark er +; ;Ċ +ĠRe ally +_n eg +p ending +Ġnomine e +ĠC ategories +ĠUl tra +We apon +Ġdef ender +I ss +ĠG ender +ĠD ress +Ġimpr ison +Ġbank rupt +imension al +PH A +ĠStr ateg +ĠPROF ITS +Ġp atri +//////////////////////////////////////////////////////////////// //////////////// +de legate +Ġfor State +Ġdev oted +_m ake +Ġterror ists +ĠS nap +_n av +ĠA A +ĠI an +ĉ app +Pl acement +_h dr +< K +Ġs ang +st roke +- Q +> x +.T ask +m oney +ib aba +' });Ċ +ĠSpec ific +ĠLine ar +_O PT +Hash Code +( Player +.Contains Key +Ġcoll apsed +trans parent +_R ANGE +View er +(c fg +Ġsort ing +Ġinf ected +ĠN ach +Ġaccommod ate +.element s +_P ART +ĠSex y += get +( year +Ġx hr +: ] +ows ki +Ġsum mar +Ġ ¿ +Ġint e +Ġwork flow +ĠTai wan +vers ions +åı ij +Ġsurprising ly +Ġopt ical +Ġpro ces +Ġdisag ree +Ġnue vo +ĠC AM +sort ed +le ases +ist le +Id ent +ĉ event +ject ed +Ch unk +V ars +.pro vider +Ġproceed ings +Ġin clusive +Ġart work +end ants +ï¼ļ Ċ +se en +Ġl ig +Ġm akers +_f un +Ġlength s +Path Variable +[ item +ภµ +De ad +FFFF FF +ĠUr ban +up les +ich en +(null ptr +.s pec +, System +UR ATION +(j ob +å¼ ı +Ġtrack er +Å Ļ +ĠM R +ĠSQL ite +Ġd to +Ġ; ;Ċ +Ġm int +ĠInt roduction +ca o +Ġquestion ed +Ġf itted +rev ision +s q +Ġm ig +_un its +_ async +Ġf lick +});ĊĊ Ċ +Ġnot re +}` , +F ilters +Ġm undo +_d ays +Ġfr m +ut c +Ġval s +ew idth +ĠGener ator +ĠArt ist +ĠID s +ĠArt icles +re ater +ĠComponent Fixture +. = +Ġr ou +- no +.b ukkit +eg g +ĠD iff +atic s +Ñĥ Ñĩ +âĢĶ ĊĊ +ĠChar lotte +by e +Ġ} );čĊčĊ +ĠV ik +ĠB row +Ġl v +ĠG ib +-w ing +GL IGENCE +(I l +ĠEngine er +.W ait +ĠP ictures +Ġr het +Ġth ermal +Ġpr aise +< >();ĊĊ +ĠSp ider +P ause +ĠB aker +Ġsl ower +Ġ} ]Ċ +_en queue +Ġdisappe ared +ĠT icket +IN UX +_LOC AL +аÑģ Ñģ +@Inject able +comm unity +Gesture Recognizer +åĽ ½ +Ġsca les +Ġ- ( +/ '+ +ĠS it +Ġexecut ives +ard ing +Ġad vers +Ġback wards +ĉ context +ĠH amp +ĠP F +ĠDe ck +ĠCra ig +A merican +Ġb ell +Ġpro l +uf en +Ġr ng +ar shal +ĠSim ply +first name +sh ore +J uly +Ġmort ality +ĠâĨĴ ĊĊ +Help ers +Ġbench mark +em ade +Ġorganis ations +.g son +ĠText Field +Ġciv ilians +.Array s +ĠMiss issippi +Ġinter mediate +get User +_cl uster +Rel ative +fore ign +.querySelector All +Fore ignKey +Ġreason ably +-------- -Ċ +C ards +ĠK am +ĠTh or +Ġroll er +-e lement +ĠC urrency +dd ie +ALL Y +ĠR A +Ġper met +aa aa +Ġhom ework +ĠV it +Ġm old +ĠF er +[ start +Ġstatist ical +Ġsc ary +_H OME +.B egin +Con struct +ogen ic +ĠDEAL INGS +Ġtamb ién +ix on +. ind +ac re +Ġtransform s +ĠN ap +.B lock +uss ia +pir ation +ul ent +Ġce il +Cl ause +na ire +T ES +Ġne at +ST D +ĠReg Exp +per form +: ) +Ġun ions +Ġs ublic +Ġw inds +lo ating +g lich +Ġp agination +S kill +App ly +ĠOper ator +ist ogram +Ġqual ities +C ross +Ġde com +], " +ĠJ uan +.mod al +.Ch ild +ĠRog er +STIT UTE +:CGRect Make +a lette +Ġst a +as ide +Ġbl ur +ĠW a +if etime +re ed +control s +Ġb ins +Ġп ол +*/ ,Ċ +U IS +ĠR ou +ĠDem o +- awesome +ĠCh ain +Ġh asta +ĠB art +. KEY +Ġvend ors +nof ollow +ĠD est +_b uilder +Ġarg ues +_ answer +g oto +ĠRES ULT +ĠM ON +Ġp oder +o ons +_C ASE +Ġrep lic +Ġfin ancing +ĠD ATE +c ern +_tr ack +t ies +/ logo +ĠNE GLIGENCE +get Type +> T +b et +g irl +ĠINCIDENT AL +-s ite +.tr igger +ĠL isa +_input s +Ġrel atives +Logged In +Config ure +I K +. accept +Res ume +ĠD raft +Ġ* >( +ĠW A +ed ian +ern ess +ĠLayout Inflater +*/ čĊčĊ +oth y +Ġoblig ation +Sub scribe +Ġth umbnail +ex ist +Ġins isted +ĠU ICollectionView +ĠAng ular +Ġtable ts +ĠImp act +ãĢį ĊĊ +ah o +Ġcharacter istic +g d +Ġ= ================================================ +our t +` . +App ro +Co ordinate +Rem ember +Ġmar ine +] ==' +ĠAdmin istrator +.get Default +Ġforg ot +ĠStruct ure +V ue +ars ing +m oment +k w +_c ursor +Att ack +Ġath letic +Ġdiagn osed +Ġend e +åĪ łéϤ +H ouse +ĠP ARAM +Ġw iki +ĠO pp +Ġcons ervation +Ġs nd +_t em +sub str +ĠC ape +.s im +UT ION +an an +âĢĻ un +Ġg y +- work +Ġcomp elling +=' # +ĉs ub +Ġdirect ories +íĬ ¸ +Ġtouch es +out ines +.C ollection +s chedule +.l at +ĠDo ctrine +CA A +ĠRe fer +Ġshift s +Ġlik elihood +pre ter +ĠF emale +Ġinter cept +Ġl ou +çĻ » +Ġr ug +ĠC rown +Ġ************************************************************************ **** +- product +Ġprompt ed +ung le +d ocker +ĠT u +ĠUn ique +_ Error +ul os +Ġâ Ħ +Ġ( ` +Get ting +_s cal +ĠEn h +ü t +Ġsust ained +Ġp atches +Ġpros per +ĠG aza +_l ight +Ġin cons +-------- Ċ +ĉĉ ĠĠĠĠĠĠ +S F +C N +: ";Ċ +ĠColl ins +( *) +Ġcomp ilation +'] čĊ +Ġcon sequence +, ... +Ġd m +ĠB LOCK +Cl uster +Ġsk i +(arg c +T uple +Ġjo ins +ĠSher iff +W ar +ind i +Ġcomment ed +H OST +Ġinv itation +apan ese +Ġperm its +preced ented +_z one +ĠA my +_R D +Min imum +Ġinv ocation +.en able +icht en +- owned +" id +_PO INTER +F ac +Ġspecific ations +Ġnom ination +Ġg p +< ( +Ġrob ots +ĠJ erry +Ġhold ers +Ġw and +c ms +Ġ} ))Ċ +.To ast +ĠI List +B ased +z oom +/ style +ĠBe ck +M en +Ġcontrib uting +Ġund o +ĠO H +Ġadd Object +Ġe igen +sign up +éĶ Ļ +Ġdist ant +PAR ATOR +ĠM ari +Ġm á +E mp +ó s +Ġì Īĺ +ev t ++ j +p ark +ĠSt ay +ĠD un +Ġso y +> % +az ines +Ġti empo +(m e +p resent +.Th is +Ġedit ors +F IELD +.W ork +ĠUn iverse +Ġdr unk +.t imer +Ġalter ed +ĠN ar +ëł ¥ +.Act ive +id or +ç Ń +.delta Time +Ġawk ward +& quot +ĠSaf ari +Ġtr icks +MENT S +div ision +Ġvary ing +ĠHigh way +Ġphotograph er +ĠSt ewart +Ġlast ing +.P re +.amazon aws +ĠL uck +.D escription +ĠN az +n eg +Ġc ó +<<" \ +ĠSur v +ĠU nc +Rec ipe +.Border Style +Ġmod ifications +- at +AT FORM +h dr +ak o +Ġsublic ense +ĠJ ump +Ġbe im +ĠMan hattan +. bool +_h w +ÑĤ ÑĮ +B in +Ġg ateway +" ": +ĠU IS +:" + +- def +ĠReg ular +/ testing +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +string stream +Ġdis par +Ġmob il +- read +ĠAd apter +ĠCh ampions +Ġsched uler +Ġk ills +ĠM ultiple +ir ror +Ġgod s +AD O +ak te +ĠUs uario +.c ircular +Ġre cept +ĠEx pr +Ġelder ly +Ġnic ely +Ġbest e +W ant +Ġclass ical +.s prite +obj c +ĠM ason +Ġsist ema +.Bl ack +es o +ĠZe it +Ġdiv id +Ġent ers +_sub ject +ĠPlan et +.w arning +ĠG ram +_t okens +Ġhousehold s +_c ustomer +user Name +c ross +Ġp ione +Ġass ists +_S M +ib o +Ġlo yal +Ġuse less +# elif +ĠUlt imate +C ome +g el +Ġd ich +xy z +ik el +ob ra +_s can +ĠInter ior +ĠN ice +Ġpl ac +ĉt arget +Ġvir al +ass o +() / +und e +ĠAd obe +O s +vis ited +ĠO W +ĠFe ed +ĠSe quence +Ġman ages +in son +ĠLouis iana +{ }) +ĠH ab +ĠL D +Ġb ip +pr ites +(e lem +.h ibernate +él é +Ġoh ne +_trans action +Ġann unci +P ublished +ĠH onda +ĠT am +ĠP acket +_ selector +Ġchalleng ed +Process ing +-h over +Ġtr ainer +_c ancel +ĠNS Dictionary +ab ric +ĠM LS +_s ensor +Ġshr ink +ĠF X +th reshold +ĉH X +-m ark +` .` +S cheme +(f ull +_w riter +ĠS ys +Ġf led +ĠC in +-w idget +ĠPre vious +G ender +_ question +Fe ed +Ġscr ut +(p refix +ãĢĤ ãĢĤ +Ġin fections +Part s +Ġhier archy +_DE LETE +ĠPat ient +_p ay +Ġprom oted +Ġì ĭ +Ġcivil ian +Ġagricult ure +ĠP iece +Ġst ance +uts che +Ass ign +.A CTION +F ig +_r adius +ĠS ync +du cer +f ailure +ens ed +pt ime +B M +_dat etime +qu ivo +QUE UE +èĢ ħ +Ap pear +Ġsum mit +: void +Ġv ine +è® ¤ +on ne +_TR ANS +.g reen +_ cc +Ġhung ry +Ġ" > +() );čĊčĊ +Ex tract +iz ens +Ġsol ver +Not ify +Ġeng lish +ĠSh opping +inter faces +RE Q +Ġil leg +ĠUI ImageView +Ġdis connect +ĠUnt il +ĠConserv ative +@ Column +Ġshift ed +Ġ: čĊ +Ġf ich +Ġd la +Ġsh oe +"), čĊ +ular ity +_RE SP +We ather +UI Application +. iterator +Ġag ing +.P arent +ow ie +(e qual +ĠCon v +/ default +Ġmeas uring +.pre v +.Is Valid +.F at +Ġs Äĥ +key words +with out +Ġso vere +Ġex changes +Ġm elt +Ġis lands +ĠInt egr +Ġjump ing +Ġg le +Ġjournal ism +Ġd ated +Local ized +ĠRef resh +Part icle +Ġa a +ĠSTR ICT +Ġb od +.Pro cess +_A UTO +ĠP ublished +e very +Ġtechn ological +ls x +Ġir rit +Add itional +Ġdel imiter +_l anguage +- area +bo ys +ĠT ube +Ġw at +Ġmechan ics +_ owner +Sp ell +ĠSt ories +.Append Line +Table View +h em +st ick +oll ower +I FF +ĠU V +oll ision +S UB +Ġcompar able +Ġdon de +s ales +ll vm +Ġ} ],Ċ +OTT OM +ĠPur pose +L ab +Ġinterview ed +o is +as il +.set Id +ĠIn struction +-- > +ĠMod ified +ation ally +ĠMe eting +è¯ ¯ +# region +Ġrout ing +.f ocus +ĠYou th +< D +ĠN ag +contact s +Ġform ing +Ġm ie +',[' ../ +ĠB P +Ġapp et +ĠTe acher +ĠT P +Ġann ually +outed EventArgs +ĠSpe aker +Ġre name +CF G +(" // +æİ ¥ +/p ages +Ġpr és +ĠSp ell +.All ow +ĠINT ERRU +Ġ( # +âĢĻ ĊĊ +_G eneric +.im show +_t im +- face +(& ( +atin um +Ġrevolution ary +ĠH ours +r ain +Ġany time +Ġab b +.j sp +Scroll View +ĠTr uth +Ġanticip ated +Ġacc ent +. checked +Ġspec ifies +Ġca f +Ġcell padding +Ġcook ed +ĠH ugh +pe ek +_R ATE +Ġd orm +/ čĊ +IV ITY +.Cont roller +(p art +.con straint +Ġinv asion +MO VE +Ġgl uc +l ename +Ġam en +eng lish +ĠSw itzerland +";ĊĊ Ċ +pe st +.col lect +N ib +ĠD ict +ĠE mb +(sub ject +Ġoutr age +Ġdec iding +Ġsent enced +F echa +" A +Ġqu er +Ġfont Family +Ġqu adr +- Y +_C ACHE +Ġanaly zed +Ġg aining +ĠAgain st +ĠSou l +ta u +Ġlight weight +ĠT F +ĠEffect s +.T ypes +.add Class +Ġv egan +é ģ +.' " +ĠExpl orer +.d etect +.sh ift +Ġoblig ations +last Name +Ġassoci ations +ĠTime Span +un ter +ĠF resh +Compat ible +P ub +id ges +. option +var i +.hash Code +Ġg eb +. section +- not +ĠSub mit +T N +reg istry +_m edia +Ġn aj +ff t +Ġm ate +-th ird +Ġp ockets +est a +Ġb ent +ĠN ord +Ġretail ers +ĠMor ris +."" "ĊĊ +W rong +Ġ ÅĽ +R ay +. ec +ĠB ind +_H AND +(n on +is Valid +Ġsimilar ly +_L IMIT +Ġdynam ics +Ġdist inction +ãģ Ĩ +< N +Ġor th +ĠToy ota +ĠK ate +ĠL S +or ie +ĠSpr ings +Ġf reak +last name +_M ULT +-st ep +" ( +AD DR +Ġentert aining +_CON F +Ġdec oded +Ġst reak +Ġwait ed +Ġnot ified +rodu ced +vis ual +.Layout Params +æ ° +es ian +f its +s pring +ĠBern ie +User Defaults +Ġped est +Ap pearance +ĠW iki +ĠNOT ICE +Ġs sh +Ġdur ante +ĠZ ip +ı r +ĠNAT O +Ġtw elve +Ġro yal +ï ¸ +Ġmer chant +ĠF urniture +'] ),Ċ +, X +Ġfold ers +ĠG ate +ĉf unc +p ick +_us uario +ĠV erm +ment ion +ur pose +Ġalert s +x ious +_s ig +ĠF u +Ġ( : +Ġd umb +åħ ³ +Ġaccur ately +éĩ į +R B +-s creen +ĠV ER +j our +Ġrom ance +uc ceed +. choice +Ġad ip +_d ims +Serial izable +ãĤ ĭ +.j ob +Ġpro g +uch ar +Ġg ently +ĠR SS +ict ured +_ENABLE D +ĉ label +aw ks +ĠEn sure +rem ember +ìł ķ +Ġtrans mit +{{ $ +.Trans action +ur se +_rel ative +Ġs ized +ĠX X +ĠPr incess +ĠL arry +Ġpr ó +ĠÑģÑĤ ÑĢ +Ġs isters +estr uct +Ġcheck point +: length +ĠCar los +/ icon +_T ARGET +T okens +Ġpat ience +ĠSe lected +q ty +.show Message +Ġwild life +ĠP rops +b m +- arrow +Ġpar cel +fire base +ĠBen jamin +cess o +.t im +ĠG arc +. any +ĠHOW EVER +ĠK o +Ġgrab bed +_f rames +Ġobject AtIndex +ĠADV ISED +Ġsub ur +ĉ GL +Ġ}) }Ċ +-l ength +ìĭ ľ +ĠPot ter +_b uff +.g ui +ĠEnc oding +E lect +-m essage +Ġ � +Ġ ÈĻi +ĠArgument NullException +а ÑĨи +Ġmin imize +Ġrespond ing +$_ [' +ĠInd ividual +á c +ĠIN TER +Ġmast urb +ĠB in +(' $ +ëĵ ľ +Ġopen ly +Ġ> < +Ġun to +olog ically +ĠM ul +VID IA +Ġsl im +ĠCommission er +( on +Ġunder neath +/ db +v ote +( Message +ĠP ope +Def ined +Ġsw ift +ur f +Ġadapt ed +SE L +Ġreven ues +Ġdiv ine += y +Grad ient +_ act +Ġ/*! < +Ġpoly gon +ĠF DA +ĠC arr +at ables +(std out +Ġrefr iger +Ġco ordin +avor ites +ÑĪ Ð¸ +Ġcompass ion +ĠPOSS IBILITY +- secondary +ur acy +Ġcomp romise +_A V +_ os +Ġbes ide +ĥ Ŀ +Ġl n +.pl ugins +Cap acity +al ah +.b in +ĠC RC +_b alance +Ġflex Direction +Ġam bit +Ġnick name +ĠFor ces +C LE +ĠSh ell +Ġs ail +ĠW riter +ĠA lice +d w +ĠInd ians +ĠMar shall +_S RC +Ġnormal ized +ĠJ ag +ãĤ Ĵ +ze it +r pc +ÃŃ c +.in line +Ġtrav ers +_n umeric +Ġutil ities +Ġev ac +IN PUT +ĉ register +M X +ĠCamp bell +Ġdatas ets +Ġdem anded +Ġinitial State +g an +Ġe i +Un expected +- web +tr ait +, Y +ĠT odd +Ġske leton +Ġoptim ize +ç¬ ¬ +ĠU pon +ĠSt Object +Ġap lic +.' P +v ron +. UN +Ġpaint er +izar re +Ġl av +Ġp om +p reg += function +( serial +ific a +um ing +åľ ° +ãģ Ĥ +- op +U CH +ĠH end +.prop Types +Ġy o +Ġrout ines +Ġcar ing +S em +Ġres erves +Ġprior ities +red its +IST R +Content Type +ĠSch w +/ media +Ġe str +Ġclim bing +- week +cher che +s ensor +To Array +ĠMont real +Ġcloud s +ĠInject able +ĠR ice +Ġpropag anda +_pro vider +Ġind oor +Ġin aug +Ġdipl om +Ġmess aging +_m ut +å ¦Ĥ +Ġk w +ON S +ari ans +R PC +) ]čĊ +-r ay +ĠS or +m all +Ġmarket place +Ġv tk +M a +og an +ig i +Ġspons ored +ĠD ani +.S EVER +>' .$ +m ultipart +ĠW ol +Ġtable Name +ĠUser name +Background Color +Ġf right +_E MAIL +Sept ember +_val s +op ia +Ġsp otted +- Ch +Ġdata Source +/ "Ċ +ек ÑĤ +ĠRequest Method +ĠRe place +-d o +ah n +ĠPh D +] .ĊĊ +N ON +g ement +ĠTh r +Ġquiet ly +Ġtort ure +Ġte as +ĠC Y +Ġa tr +develop ment +-d etail +Ġlight er +Ġarg uing +Ġdes erves +Ġcur riculum +_CON TEXT +ÅĤ y +H ITE +ĉ ID +/ uploads +Ġt its +re o +_d rop +. UTF +Ġpick up +Ġgro cery +ĠP ure +Ġeas iest +Ph il +.f eature +(" * +Ġinvest or +t ok +Ġj ar +L os +âĢĶâĢĶâĢĶâĢĶ âĢĶâĢĶâĢĶâĢĶ +. queue +-s peed +M al +um blr +ĠCON ST +ĠH RESULT +ĠD ance +(file Path +Ġattrib uted +ॠį +ĠB und +co ins +Ġs ão +Ġp ir +person al +Ġpre lim +Ġprop ose +ĠT L +] ]) +ĠSub scription +ĠK re +, len +.First OrDefault +) -- +_product s +.Get Bytes +Sh ip +Ġenc rypt +ĠS G +ĠM yst +h ir +Ġiter ate +Ġint end +.mock ito +Ġch apters +( angle +ĠV lad +è® ¾ +' .ĊĊ +Response Body +ĠAb d +de al +Ġbar riers +-out line +b ill +ĠF alls +_se cond +. include +. ceil +Ġoccup ation +ph ony +.move To +ĠJenn ifer +AST ER +; ">< +ĠEn abled +Ġtermin ate +ĠI o +l ations +ĠTHE ORY +Ġear liest +Ġr ack +ĠSc ar +sh ake +ch ip +Ġu v +Ġall iance +п иÑģ +ĠGOOD S +z ione +ĠV I +Ġ{ - +Ġfilter ing +Ġmis con +.Dock Style +Ġb ush +Ġj unk +æ Į +ĠQ UE +Ġhook s +Ġfirm ware +Ġmiddle ware +d ic +ĠOak land +Ġarr ives +P ayload +p ixel +] | +Ġstart Date +.P RO +_a udio +Ġmid field +igid body +ĠSw iss +ĠCl ip +ĠD ump +ĠText Box +Ġg eh +y ield +od s +Ġrefer endum +Back end +ĠC ream +Ġdomin ated +ĠArch ive +Ġrid ers +.prepare Statement +Ġqu ando +Ġche f +w iki +in el +am pling +(" \\ +Ġs ag +_pro xy +ãģ ķ +p do +.getElementsBy TagName +Ġdemonstr ation +ĠN PC +Ġarch ivo +end ance +Ġefficient ly +( actual +.t ableView +Ġm ush +Ġbe ars +_thread s +j as +ah un +Ġne ural +Ġdesign ing +ĠG DP +Ġlift ed +çĽ ® +ĠJ oint +ĠIn clude +ĠGi ants +Ġwithdraw al +ĠR ent +n ative +ĠSe ek +gress ion +_C PU +\ S +ĠSh ield +Ġsol ic +Ġbo om +yect o +Ġmanufact ure +ĠâĢ ĭ +Ġb box +Ġearth qu +ollect ors +:@" % +Ġlo ops +J e +alk ing +ĠWh ats +ĠBo ys +. book +ARG E +_p ixel +Ġsus pects +Î ¹ +us p +ĠBM W +ie ces +(p erson +å¼ Ģ +é » +ĠPod cast +Ġb ou +( Item +à » +( Input +Http Get +Ġb urg +) ^ +BO ARD +*/ , +Ġg ulp +ĠB enn +Ġdeck s +.status Code +Ġac ute +Ġh ug +ug u +Ġp led +," % +h ape +Ġз ап +ĠMain e +.re al +Ġd alam +ĠMin or +.F loat +dis p +Ġt l +Ġen count +=> $ +Ġf g +te es +ĠRec omm +ä l +Ġchem istry +Block s +O ID +Ġfore x +ĠApp end +Ġ{ * +ĠSup ply +CG Float +(b l +Ġat e +ador a +Ġg ust +Ass oci +> .Ċ +F ETCH +.s erial +widget s +ard less +ie fs +_F ULL +ernet es +ĠP red +Ø Ń +äº ĭ +ub ernetes +ĠL aura +Ġl abeled +High light +Ġanno ying +/ update +(d escription +Ġintim id +$ c +")) )Ċ +.A P +Ġ[] * +ĠEX IT +.H ost +ĠOP EN +.send Message +_c amera +_t ile +Ġth erm +onom ous +Ġdis adv +Ġna ar +index Of +ĠP P +.prot ocol +AF E +Ġtext ures +################################ ################ +umb ai +.st ats +ĠG E +Ġi e +ĠST D +ĠM ann +.ref lect +K B +Ġd ive +.w av +/* ---------------------------------------------------------------- +/ settings +.l ifecycle +Ġda ughters +or us +ub er +N ING +st ri +ĠT ip +Ġz n +Ġswitch ed +in et +uff y +ĠTransport ation +( conf +fr ica +ĠX L +ĠLe ad +_per cent +< Map +Ġthr ust +or b +ik k +Ġtra uma +Access or +ĠF it +ĠString Buffer +ex pl +(s creen +Ġaud iences +ĠO PTION +_ round +[ node +be h +-> __ +per missions +ĠD etermine +.M an +Ġadv ances +. InputStream +Ġstrong est +Ġe Bay +Ġ# - +Ġdir name +ĠS MS +Ġmedic ations +Ġam ended +Ġchurch es +ĠImper ial +$ row +ĠMad ison +ĠIn sp +Ġaff air +Ġpsych ology +v h +Ġsever ity +âĢ IJ +Ġstri ps +A H +vert ising +Ġcon se +IM AGE +ĠSt ats +ĉs c +.C ursor +Ġfree ze +ss on +(x ml +ĠSus an +.t ile +ed ed +ĠĠĠĠ ĉĉĉ +uel le +ĠMitch ell +b ased +Oper and +½ æķ° +ĠF F +ĉstr cpy +ounc es +ild o +.execute Query +Ġapproach ing +ĠSe ven +Ġn uts +Ġr ic +ass ignment +Ġcalcul ator +ĠMur phy +ĠB ou +í Ħ +Ġbut t +Ġt icks +Project s +il ib +.text Color +m ov +_log o +( template +ĠIN IT +Ġimage View +scri ptions +OR ITY +Con sumer +Ġun precedented +Ġtour ist +Ġbr on +Ġcontract or +Ġlic ence +ĠN am +æ ¯ +( transform +_AT T +P ref +ĠG am +Ġvess els +Ġh av +L ater +.To Lower +Ġurl s +Ġbreak down +Ġpen alties +Ġf oster +ĠU E +Ġcl ue +com ed +åIJį ç§° +-m ain +Ġp ts +Ġcount ed +ict s +/ post +Ġget attr +Ġp ing +ANCE L +Ġp ec +Ñħ од +ant om +ĠBlue print +ĠEvent Emitter +Ġl ä +æ ² +Ġstr aw +( comp +' une +> N +- client +es Module +-b ase +Ġret reat +_s imple +ĉĉĉĉĉĉ Ġ +fe e +') čĊčĊ +Control Item +Ġsubscri bers +ple ase +ĠE ff +Ġp ound +ĠBy tes +ĠTe a +_ activity +Ġmax im +Ġop code +B SD +. constant +; } +omb res +Ġcare ers +) .ĊĊĊĊ +Ġsp reading +-exp anded +ĠOr d +amar in +Ġmob ility +Un fortunately +ak k +N L +_ redirect +ĠP G +ĠS ensor +b ol +t ap +_MEM ORY +ĠUI Alert +plit ude +We bsite +ĠLog o +lo ve +[ ind +Ġalto gether +Ġwonder ed +Ġes per +ĠLib eral +Ġo ss +Ġel it +Ġst iff +od ox +_ment ions +ĠDou glas +_p id +ĠC K +ĠinitWith Frame +.b log +p kg +ang hai +QUI RED +u u +Ġm kdir +AT AL +Ġun h +in ces +st h +Ġhypo thesis +Ġc ata +ĠT B +ĠCl ar +Ġpre decess +Ġsitu ated +-w orld +)) / +Ġhead lines +.st at +Ġout break +sp ath +_FLAG S +ĠServlet Exception +S un +F ROM +ĠD ir +ãĥ»ãĥ» ãĥ» +_co ord +ĠOpt im +Mon itor +.b it +XX X +Ġtod as +f eld +ÑĢ Ð¸ +im ir +Ġpolit ically +Ġmolec ular +Ġtrad ed +Ġ{{ $ +ĠSw edish +Ġ'@ / +_RE AL +Ġw arehouse +t oday +, L +or p +< section +- br +ym e +ĠUser Service +Ġlib erty +Ġmoment o +( Image +< size +S ch +Ġj og +i ology +arent ly +Ġquant um +ĠAb u +Ġr im +Ġman a +Font Size +Build ing +st airs +AIL ABLE +Ġ& ' +Ġs ect +Ġs igh +(b atch +.I Container +p oll +ĠCor ps +Î µ +ar u +ĠK ay +.r ange +_click ed +ĠRobert s +.N etwork +fin ish +- Man +Ġcolleg es +ĠF ine +")) ,Ċ +f ilm +Ġrem inded +Ġgest ure +out il +Ġthread ing +Ġobj et +Ġt ours +activ ated +.m kdir += user +Ġre de +f ü +_SY STEM +p v +Ġcon gr +Ġmass asje +Ġpract ition +Un iversity +Ġtab index +Ð ĺ +S ets +Ġcount ies +g uest +f an +Ġword en +.d i +на Ñĩ + ¿ +ig Decimal +Ġsh ore +Ġg ö +Ġrep airs +Ġhelp ers +Ġcenter ed +OL LOW +Ġmap StateToProps +Ġc ents +< A +Ġexpect ation +Oct ober +Ġbg color +ca les +.C ON +ĠV el +Ġcry ing +-se ason +Ġfunction ing +_LOC ATION +ü ss +ber y +Par a +omin ator +- le +Ġeth ical +has htags +emp lo +Ġn úmero +( activity +.St op +.str ftime +IL D +Ġto e +ĉ Node +") čĊčĊ +ĠPu erto +Ġexec uting +ĠG UID +Ġoppos ing +al ph +Ġexhib it +_fl ash +Ġme ille +Ġjson Object +H ero +aint ed +_D OM +Ġw il +Ġslo pe +Ġm Ã¥ +ĠIraq i +Ġorgan ize +ĉj Query +H UD +sh ine +. we +ĠSk ills +pons or +Ġcon clusions +Ġre forms +Ġrel uct +n amed +ĠOl iver +Ġ// }Ċ +- looking +Ġf og +ĠH O +ĠF ried +Ġinev itable +ĠData GridView +H our +il les +log ical +Ġconnect ivity +.tw ig +ĠK yle +(d st +- Sh +ĠStud ios +( Level +.j et +_PRO TO +-de coration +OT HER +Ġread ily +.Param eter +Ġmultip ly +ĠL IB +ar med +Ġsoon er +æ Ħ +_ ES +Ġfoss il +ĠA nc +âĢľ This +l odash +Py thon +Ġhist ogram +west ern +Ġinf ant +Ġco ordinator +Ġn ib +: m +Ġres pected +Ġdef init +& T +_p ad +ĠTr igger +th al +Ġimage Named +Ġbeat en +ĉ rc +ĠPal ace +Ġhaz ard +Ġisol ation +_ rc +cont re +OUT PUT +Ġre ign +ĠPl ate +AT ES +Ġfl ux +Ġpack s +.get Selected +Ġparticip ated +Ġneed le +-de pth +:::: :: +-l aw +ins pace +on itor += no +ĠAt omic +ĠBr ain +Edit able +-s c +red ential +ĠP erry +k ie +Ġ ----------Ċ +.st roke +( Intent +Ġun ity +um lah +F urther +Ġpr ze +Ġs ø +ãĤ Ĭ +ĠPROC UREMENT +ĠH ousing +Ġatt orneys +Ġcomp ose +atter ing +" What +dra ul +Ġstraight forward +In stant +.J TextField +Ġtr ades +л а +Ġ{ ! +Ġl ately +IM G +ĠA ld +ĠIN NER +Ġcart oon +.S ource +F ALSE +Ġd ough +f en +( rect +Data Table +N ick +ĠBut ter +read s +_com ments +EN V +ĠConnect icut +-F IRST +ĉĉĉ ĠĠĠĠĠ +ach i +.M sg +re ction +Ġrelax ed +Ġsha ft +Ġe f +ĠAdd ing +Ġbre ach +Ġ ï¼ļ +ram a +Ġconduct ing +Ġ( ; +(g l +ĠCA USED +ash i +ĠF LAG +ĠCom merce +ĠIN TEGER +h ours +ĠSchool s +Ġn ucle +Ag ain +pro j +Ġsevent h +EMPL ARY +(m ock +'] ,čĊ +_S PEED +> false +Ġsp a +ĠN ear +ì ķ +Ġintr ig +_m embers +w ave +Ġanalyst s +_O S +ed in +ĠF ri +Ġretrie ved +Reg ular +_ obs +EX PORT +')}} " +" class +__ (( +b ucket +Ġst ro +ĠP atch +yst ick +ful ness +ap os +D a +ĉĉĉĉĉ ĠĠĠ +Ġen rich +un ordered +h ole +C ong +< Product +ĠC urt +( the +_l ower +Ġavoid ing +Ġbu zz +Ġv iable +ub a +- is +are l +Ġact ed +-d etails +ภĩ +ĠThe ory +ĠP un +ĠAn onymous +... "Ċ +è res +åı ¯ +ĠV ision +_se m +ash a +Ġcelebr ity +Ġend Date +Ġpop ulate +Ġcu is +qu ant +f loor +Ġglob ally +Ġcru ise +ĠStan ley +Ġb ikes +.get Connection +Ġpoor ly +_ other +amp ing +." );ĊĊ +od i +_A DMIN +.color s +ĠG aming +> ';ĊĊ +STR UCT +Q R +ID s +(arg uments +_a ux +( Event +_PR IVATE +ĠTre k +Ġdownload s +m utable +_STR UCT +(w x +Ġdom ains +js px +ĠVi agra +Command s +J s +.c fg +Content Pane +ĠEdit Text +à¥į ठ+Att ach +ĠAR M +posit ive +ĠGener ated +Ġse ized += : +Ġelectron ics +ĠApp Component +/ ',Ċ +.equals IgnoreCase +Do ctrine +d isk +ĠPolit ical +CH O +< F +ĉ height +ĠB ug +. le +ik h +Ġmill iseconds +Ġconstit u +m ag +.n l +-r ange +ang gal +', [ +ropol itan +Ġà ľ +ĠU C +.d esc +-L AST +f stream +ib il +Ġf ier +VER Y +Ġë ³ +IR T +_ UI +( abs +Ġkne es +Ġro okie +ĠV ac +are na +comm end +- \ +ĠSUB STITUTE +So ft +Ġpart ir +we alth +è¦ ģ +(d ataset +ĠCl imate +- show +Ġreli ability +_ch unk +ä» £ +_st ock +ĠEX EMPLARY +ï¸ ı +Ġv ÃŃ +Ġsm iled +Ġdr ill +.F unction +ĠS I +Ġreg ression +- X +ĠJ ar +p ref +ĉs uccess +ĠHit ler +Ġinst inct +Ġfem mes +Ġlo ver +< Ċ +Ġmulti plier +r il +Res ize +ĠAuthor ization +ĠK an +Dispatch ToProps +Ġc rops +t okens +ec n +ential ly +ĠINTERRU PTION +f ake +Und efined +ĠA K +ĠTest Case +Ġr ab +Ġtor rent +ĠO t +B ars +Ġlect ure +Ġen jo +Ġrespond s +Ġindex ed +Of Work +_ch ain +)) -> +ĠBeaut y +Ġ` < +Ġtouch ing +Ġ| -- +ĉf lag +normal ize +Ġtr apped +Ġestablish ing +/b uild +A J +f y +- react +av n +RI PTION +Ġk ut +ĠF ashion +ĠIn form +cur ities +< byte +ĠUkr ain +Ġs ug +Ġconsist ing +ood le +. ctx +.To List +Ġcomment ary +Ġtransf ers +Ġn ost +ih ad +ĠU pper +Ġconf using +miss ing +- cl +Ġbound ing +Ġcongress ional +Ġreve aling +d h +r up +Ġt res +re peat +, ĊĊĊĊ +_t ac +Ġexp ed +G irl +h orizontal +Ġ"../../ ../ +( option +Ġwe iter +ĉs ql +Ġ=> {Ċ +Ġgar lic +Ġre pr +Ġrepl ies +( prop +Ġspir its +Ġins pire +Ġbas ement +.re ject +Ġhint s +Ġpoll ing +ĉ ĠĊ +_r ating +Ġc ath +av ier +Ġcomp ressed +ĠV S +] ' +Ġjud icial +ĠT rend +tr aining +EST AMP +ogn ition +Ä ģ +SE NT +vent ions +Ġconsult ant +um ph +Ġuser Service +, NULL +k h +D ear +_B AD +it ations +Ġmet aph +' é +and ise +-f ont +.ch art +Ġs g +_ Controller +.j peg +ĠUL ONG +ĉg ame +( ss +ĠM aj +ĉg o +ĠS ad +ĠB erg +ĠM ine +P ack +Ġres istant +ĠR OM +Ġp eg +ĠStan ford +ĠY ahoo +Ġsca led +Ġl an += [] +"/ > ččĊ +Ġs ud +ĉ background +Ġsch olars +-m uted +ar á +Ġ= ==== +Ġ__ __ +C reat +ene ver +/w p +ĠV PN +Error Code +) ],Ċ +(b uilder +ĠEn emy +S ensor +us a +Ġtr iggers +Ġplayoff s +_RE Q +Ġ( ~ +ĠBar ry +Ġperman ently +ĠR UN +Ġb ure +.Fat alf +Ġch ick +ĉ panic +ps i +ok a +éĢ ī +> [ +Ġunderstand s +ĠJun ior +ĠIN FO += mysqli +ust ain +-s ource +s erv +ĠC REATE +. au +Ġsell s +ĠĠĊ ĠĠĊ +E urope +z w +pre h +ĠNS A +Ġx y +ภ´ +ĠB eyond +Inst ead +Non Query +Ġar ise +Ġavoid ed +.em place +_model s +} ),Ċ +Ġh id +Ġ& _ +.p oints +.get Width +.Ex ec +Ġ// // +ĠS essions +... \ +ĠCol omb +Ġacceler ation +rest ore +Ġ ile +ob ic +< Node +ĠD X +ĠBes ides +. age +ĠCont ains +N ational +ĠIm plementation +Ġeff ic +ĠR M +H y +ĠWed ding +ok ies +Ġrec ursive +Ġprosec utors +.Se lection +ĠForm ula +Been Called +[i i +ĠFr an +Ġtraged y +_F EATURE +Ļ ¨ +comp ass +ĠB h +? ĊĊĊ +.w riter +ĠH our +Db Context +io v +am on +re pr +é ĥ +ĉf i +'] ] +ĠD ry +. ro +ĠO bserv +æł ĩ +Form er +ĠB alance +ĉ json +Ġpr zy +I SS +( sock +ĠL INE +Ġde ce +Ġal ly +Ġtend ency +F un +Ġschem es +Ġinter ven +æĺ İ +Ġad verse +quote lev +Ġsacr ific +_s ide +Ġmut ex +AG IC +Ġocc urring +ĠCommunic ation +um ar +ç¼ ĸ +ĠTreat ment +.p erson +ĠL C +Ġe ch +( (" +ĠDise ase +ä d +ĠA Z +.A ccount +Ġcontinu ously +END ING +ĠRET URN +- string +.f ilename +syn thesize +Res ponder +( opts +reg s +Ġn uest +Pe er +// ------------------------------------------------ +Ġg auge +ĠK in +.s chema +Ġarr ange +ĠBl ake +_Type Info +C over +ĠHamp shire +P aper +-in ner +util ity +Ġcross origin +F OR +Ġign oring +ĠD D +av an +Ġtrad itions +Ġget String +Ġeth ics +ĠMaterial s +DE SC +Ġen zym +io let +ĠCh ip +ĠMc Donald +Ġn erve +ç Ħ +") ] +æ± Ĥ +ĠS ugar +_S IM +j peg +Ġdiscret ion +ĠT N +bo ve +ĠMin imum +ĠForm Group +Ġwork force +ĠExec ution +err er +ĉ ĠĠĠĠĉ +Ġpres cribed +.Text Align +OP EN +ĠP B +im ity +ĠEx ternal +° C +ĠApplication Controller +Ġb arr +imp licit +_d ot +ĠCol on +C OLOR +.Pro ject +* }Ċ +pl aint +get Text +Ġindivid ually +Ġcheck box +U Y +ĠL amb +Ġdys function +ĠL ar +à ° +ĠCre ating +');ĊĊ Ċ +" They +loc ations +_C ORE +Inter action +umbn ails +ĠPart ner +b rit +Ġless er +ĠSl ot +set Attribute +ĠW ave +.p o +/ store +Ġbrows ing +_p d +sum e +s ed +Cur ve +Ġpl asma +Ġsusp icious +ìĿ ¸ +ĠB ah +ĠExp licit +_C C +.Client Size +\ View +Ġsub stit +lo on +ĠG AME +ĠB rid +Ľ 建 +_ User +Ġsqu ares +f one +Ġsac red +ug hs +] interface +ĠTh row +ĠK irk +Ġemp ire +Ġassess ed +T ax +ĠHe aven +-b uffer +_STAT IC +én é +-b ordered +Ġpun ct +(m ode +Ġke ine +S ent +ĠCal cul +ĠE ve +Ġsty lish +Ġoil s +.Test Case +Ġtrad emark +Ġliter ary +Ġconcentr ations +ĠRel ations +( Class +Ġstd in +Ġv æ +back up +. VERSION +.AutoScale Dimensions +st arter +Transaction al +- panel +St udio +k c +ĠCh amber +ĠSpi el +Ġr ho +ا ÙĦ +! ' +.At tributes +Ġmurder ed +apeut ic +Ġint imate +Ġtext Field +ĠBuff alo +d ummy +" % +ĠLib erty +ob ar +ĠT ank +ĠPop ular +erv isor +ĠIn iti +ĠM all +ĠP rior +C AP +ĠCl ay +ĠCert ificate +.L ock +-st rip +-dr iven +/ all +ĠMessageBox Buttons +_SE CRET +_p b +Ġr ats +ा ठ+Ġn t +.R outer +_top ic +Ġt ennis +ĠP UBLIC +ĠActiv atedRoute +Ġ' ,Ċ +Ġcost ume +Ġj okes +. Handle +ĉ byte +Ġflav ors +( cc +Ġperson as +ĉ image +ĠN azi +Ġgram mar +Ġú lt +Ġval ve +Ġv ic +ĠR achel +_in valid +P refs +std int +(r oute +Ġhtml specialchars +Ġpe oples +pl ine +Ġn v +ĠQu ant +opp ers +Ġcurrent User +ĠC atal +Ġrecon c +Ġconj unction +l x +amb urg +Ġinflu ential +d anger +ind ers +Ġ% @", +.config uration +os ome +. identity +Ġpick er +n ost +ĠDI Y +Aug ust +ab lo +Le af +ĠRec o +ck o +DO C +ĠH erm +: any +ĠInt erview +ĠT ex +x fe +( work +Ġle ap +He ading +Ġqu arters +\ Bundle +re b +Per haps +ĠG mbH +B irth +ĉ sum +ĠWat son +.n il +ç ¡ +{ }ĊĊ +ica id +Get ter +" name +Ġ" čĊ +_n one +z m +ac ute +uest o +Ġs ous +Ġre build +Ġnewsp apers +ĠH az +Ġk its +if o +Bl ur +Ġsu ited +- In +à ¯ +ĠKe ith +ĠNor way +IN IT +ire ccion +iet ies +_us age +ĠDou g +r ise +Ġtr illion +im ited +ĠR EL +al ic +Ġcritic ized +the orem +Ġce ase +Ġsid ew +ĠT erry +Ġsubs idi +Ġfirm ly +Ġaw s +Ġh ott +Ġdress ing +bad ge +ĠApp lications +è¿ ĶåĽŀ +Ġlaugh ed +Ġh obby +Ġmus icians +Ġ* . +. placeholder +Ġcount ers +ĠCap itol +SD K +Ġhel met +and box +qu it +Ġcriminal s +Ġteen ager +( update +G l +.se lection +Ġdis charge +Ġpresent ing +ufact urer +_UN KNOWN +Ġstress ed +å ύ +Pro to +_cor rect +ha us +Ġren ov +Ġfire arms +Ġtechn ically +-b rowser +Ġc andy +St roke +Ġexec utor +Ġocc urrence +ĠIP v +_INTER FACE +ĠRetrie ve +.b ad +Ex change +Nav bar +ĠK id +(get ApplicationContext +_ST OP +ĠB oss +List eners +Ġshoot er +ĠAl b +ä ch +Ġp ix +.key Code +al one +Ġabs urd +ĠC um +ĠNewton soft +ik t +Ġlaugh ing +Ġcapital ism +ree Node +T x +_QU ERY +.S leep +( login +Web Element +Ġcelebr ating +Ġde precated +Ġma ar +Ġart istic +_ASS OC +ĠBorder Radius +ĉw p +Ġsurviv ors +In ner +- red +Ġprosec ution +_ pp +(" $ +Ġcomm a +un checked +graph ics +r ors +G ROUND +( public +Ġcustom ized +ĠArk ansas +ĠR ew +Ġexp iration +× ķ +ĠC ul +Ġn ons +.F ilter +Ġsen ator +_def inition +ash ington +ym ph +/ J +Ġf use +ram id +ĠSup plier +Ġaut ocomplete +Ġ} ), +." ĊĊĊ +_function s +ĉ to +.e val +ĠT Object +Re ferences +Ġhe ated +H AL +Ġ)) }Ċ +} $ +ĠB arr +_UN IT ++ $ +Ġget Value +ip ed +ch ied +(v m +c ue +_int eger +_c ourse +th ird +Ġrevis ed +** /Ċ +_D IRECT +Out Of +(" ( +ĠFe el +Ġre ass +Ġsub title +per i +n f +Ġenjo ys +Ġtreat s +) this +-t abs +anc ers +Ġcontin ent +Ġcard io +S er +. question +Ġph rases +Valid ators +Ġpop ul +Ġl ÃŃ +s ong +_IN TERNAL +Ġadvis er +Ġp uzz +Ġambit ious +ĠT ob +ĠD P +Ġpres idency +Ġsurre nder +Ġwatch es +_b inary +ĠSo on +Ġcan ada +(" ")Ċ +] =' +ĠBr andon +eps ilon +r w +.add Child +.C opy +Pr incipal +Ph otos +Ġmarg inal +Ġbas ics +e ing +M ust +_ String +Ġo le +M agento +.c ustomer +(p rev +ภ¥ +Ġlo yalty +C og +Ġprot ocols +ĠCom panies +Ġtheoret ical +Ġaccess ing +ĠZ en +. ones +att ice +_w orld +z es +Ġtatto o +Ġmen os +Ġinter sect +"] ;ĊĊ +bel ie +Ġin active +.read line +-label led +.d one +lick r +ĠW ORK +Ġderiv ative +Ġd atabases +âĤ Ĥ +Ġs x +.is Array +Ġy s +Ġp ada +ĠBul let +(` / +is Active +ĠCG Size +(equal To +ĠColum bus +Ġmar ry +DE V +_l imits +ron es +I AS +Ġt au +min o +_W rite +ĠW ine +Ġ[ [' +ĠP ull +rit ers +ri ents +Ġsh ifting +up p +_TIM ER +ĠCondition s +Ạ¥ +ĠOr ders +ĠSt rength +æī Ģ +Ġvalid ity +Ġf ot +et ur +Ġb olt +åĨ ħ +ĠAl ong +os hi +Ġassum ptions +Ġmag azines +_S PI +Ġp unt +_PRO DUCT +Ġrel ay +ĠJ avascript +. te +- es +Ġwidget s +(f s +< Item +_ex tra +Ġrecru iting +E t +Ġnecess ity +p w +Ġnov els +uss els +Cre ator +ĠM VP +ĠO C +th ood +cl ients +)) * +Ġcharacter ized +_SE ND +ut i +T y +.from Json +@ Service +ãĤ Ĥ +Ch ris +_ Is +ĠJohn ny +Ġclean er +ĠInitial izes +UN K +( axis +еР· +ie val +ĠWar riors +} )( +DM I +âĻ Ģ +ĠTre asury +Ġfe as +Ġsl a +_EN UM +l hs +ĠIn stit +ipp ers +Line ar +Re ading +quir ies +-c ell +ch rome +.S earch +IN A +ç±» åŀĭ +ĠĊ ĠĊ +ĠSam uel +Ġmill s +Ġdon ate +ĠGe o +( rows +Ġshe ep +Ġé l +ä½ ĵ +Ġb em +_UN USED +ĠR CC +Ġintrodu cing +att a +ĠP riority +ĠF B +ĠSer ge +> "; +atch ing +ĠKnow ledge +ĉ The +; margin +less ness +op ard +um atic +() ));čĊ +Ġf als +(c ache +Type Id +éĢ ļ +_ choice +ĠGo th +ĠS ites +M G +_b order +Ind ices +Compar er +ĠRed istribution +Ġclo set +Ġvers atile +Input s +**************** **** +Ġob esity +qu iz +gr a +(g lobal +åĬ ¡ +Ġcollect or +Ġk or +ov able +AD C +ĠEvent Handler +. nc +Ġplay back +ient os +_p erm +_W ARNING +ĠOlymp ics +.n orm +ĠBroad cast +_sm all +dr ive +. iloc +Ġtyp ed +M EM +_con s +DM ETHOD +Ġl un +.d istance +(p ar +po on +Ġb ast +activ ities +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +: čĊčĊ +S ER +) && +_l st +ĠPol ish +Ġknock ed +Ġfrustr ation +au kee +Ġph osph +iqu id +_c oeff +æŃ ¤ +L atest +ĠD ust +T ipo +Ġmaint ains +Ġmar sh +inc inn +l bl +C are +Ġneighborhood s +_g pio +ĠAr senal +D em +ĠW he +_h ook +Ġl dc +ĠHar per +ĠBer keley +Ġgrad uated +Per cent +Ġarr iving +ĠAdvent ure +(s cope +(' * +qu arter +ĠMar ie +Spe aking +_code gen +Ġimm un +c aster +ãĤ Į +åķ Ĩ +ĠDim ensions +.rec ord +Ġtext o +ĠMich elle +P ending +( by +_P AR +uch t +be e +.Th read +amp ire +k now +ĠClin ical +Ġmargin Bottom +Ġdistingu ish +.F ull +. undefined +ĠSequ elize +################################################################ ############ +Ġeduc ated +_O VER +åº ı +ĠÂł ĠÂł +_e ach +Ġur ge +de part +Ġdon ors +ĠA u +Ġbill ions +Ġbelong ing +_ age +_ Int +Ġsub stances +m achine +!! !ĊĊ +Ġjson ify +ib bean +ĠC ad +Ġend Time +Ġc ycling +ĠUIT extField +Ġle verage +Ġvan illa +e at +La unch +( pt +st ates +ĠControl s +ĠRes pons +ĠJ ake +Ġas leep +fort unate +.next Line +Size Mode +ìĿ ¼ +Testing Module +G erman +ĠInvest ig +.re verse +ĠB ACK +( DateTime +Ġnon profit +ĠEx pect +Ġt anto +'] ), +ĉ the +M ultiple +(get Activity +_W AIT +Ġj á +de cor +lev ance +ĠGit Hub +min ation +_qu antity +.Sc anner +ĠL ion +éĶĻ è¯¯ +Ġd re +Ġtan tra +Ġcontent Type +Ġf id +_ alt +NS IndexPath +- pl +åĮ ĸ +Ġantib iot +table s +ac ial +ĠReg istry +Ġol ive +ig ers +Ġsubscri ber +_p res +ĠSy ntax +Ġlo vers +. Byte +old ers +_for ward +al ways +C aption +Pr iv +ĠT ampa +is ateur +-labelled by +ĠTo String +Ġì Ĥ¬ +Ġinit iated +W F +Ġinstitution al +in ject +ĠSc r +Ġdo ctrine +Ġsp acious +is ure +ĠAn a +" time +ess aging +Ġc id +ĠN an +Ġin complete +T AG +-b uild +Dec ember +Ġres idual +(P DO +ĠList en +Ġg lyph +Ġg aps +ne a +.R ect +Ġsa u +ĠPhot ograph +Ġexec utable +ĠExp ert +Cor outine +_s izes +ĠN L +.is Valid +); }Ċ +- reg +Ġc iting +c wd +ĠOtt awa +ĠB att +Ġrenew able +Ġprelim inary +Ġas ylum +Ġw rist +Ġutil iz +Ġdet ention +F ast +Ġan ge +incinn ati +Ġste ering +ĠNa N +ios ity +/ page +Ġè ¿ +ster ol +Ġdis g +( DB +ĠDESC RIPTION +Ġ_ $ +Ġobst acle +Ġb izarre +Ġextr action +_ex pected +Ġlos es +ĠCele br +Ġhtml For +Ġexplo it +олÑĮз ов +XY Z +Ġmagn et +amp ed +Ġat oms +S ources +pect ives +Ñģ ли +Ġ= čĊ +Ġd are +ĠWal ter +Ġbright ness +Ġan notations +ë ı +is ke +S chedule +. images +ros so +Ġ" .. +g amma +Ġin structor +Ġover write +- am +Ġdevast ating +ĠSaint s +Ġh s +Ġbon uses +$ output +ij d +(Action Event +mon itor +Ġmatt ress +Jan uary +.j p +Ġcar acter +Ġim pose +_re st +ĠSign ature +Ġcoron avirus +ãģ Ĭ +_com pare +Me asure +it ated +el ijk +ig os +es ar +Ġrush ed +met ry +_SE PARATOR +_W E +_ATTR IBUTE +Ġy aml +Ġspec s +ĠR ah +ph eric +ĠInvest ment +ä ll +Ġappe aling +Ġview port +ç © +Ġmargin Left +Ġsub tract +ĠED IT +ĉ ArrayList +gr ading +ĠF ailure +as per +EE K +(n ow +< object +ĠAl ignment +ple ado +q tt +( ERROR +ĠIN VALID +Ġuser id +ra ises +ID I +Ġvari ance +ĠN il +/ delete +_M AIN +.T oken +.C ategory +> )Ċ +Coll ision +ĠGre ater +ĠR acing +al an +Ġmon etary +, new +ĠS orry +. Enable +ĠInstant iate +oll en +ë© ´ +ĠCall ing +_h our +AD A +Ġsh y +) ** +Ġ== > +Ġes pecial +Ġinterpre ted +! =" +Ġpharm acy +.s ingle +ĠC ialis +Ġpar as +.to UpperCase +ĠDem on +Pr ime +Ġrank ings +Add ing +_H ASH +ĠEx am +Ú © +ĠVict or +Ok ay +"] ;čĊ +Ġfort une +ĠF ETCH +exp and +.Inter op +Ġb arn +æ ¶Ī +ue vo +Ġspec ulation +âĶĢâĶĢ âĶĢâĶĢ +ĠN u +ĠBl ues +(f name +Ġinhab it +Ġ\" % +C ES +ular io +_c r +Ġvalid ated +Ġmid night +ank ing +Ġincorpor ate +Ġpurs uit +EX P +pr ime +P id +- US +ĠN urs +ĠW heel +é ĺ +Ġin p +Ġsupport ive +.m ember +ĠSh ot +.Check Box +Ġaff irm +T or +Full Year +Ġconsider ably +cred entials +_ opts +R oll +( round +Ġcom ent +_U ART +Ġext ending +R G +result ado +it u +.get Session +Ġattr action +& D +$ html +ĠJess ica +ĠAssoci ate +a ñ +_ ed +ĠL ag +Ġorig ins +()) -> +add EventListener +IAL OG +åIJ ¦ +.Com pare +Al bum +ĠK u +< Q +arg est +Ġpro long +Ġconfig urations +Ġaccident ally +_ph oto +Ġ'' ;čĊ +Ġver se +B ob +Ġfarm ing +del ivery +ĠM ack +Ġuse Selector +.bootstrap cdn +keep ing +en y +. upload +ĠM ETHOD +cre ator +< _ +ĠE aster +. -- +UI Button +ãĤ ī +om eters +Ġsh ine +Ġh ogy +\ s +Ġh arness +.C ell +Ġlif ting +Ġcomb ines +ĠOcc up +ex clude +pat ial +Ġres pir +_f it +Ġfif ty +ĠM ol +Ġtun ed +-d imensional +Ġq s +Ġto ps +> ";ĊĊ +quis ite +ch annels +/ res +ĠAn alytics +.app compat +/ to +Ġon Error +( attr +IR M +Ġrag az +- as +.Se cond +orient ed +Ġdon n +Ġlight ning +f id +ĠP le +ãģ¾ ãģĻ +t ro +.Tr ue +O bservable +× Ļ +umb ing +Ġpros pective +-f ilter +Ġpurs uant +(p oints +.B ind +Ġp alm +clear fix +ö s +ĠG onz +Ġwe aken +Dr ive +en ido +l ld +ob ox +ane an +G ot +ä¿ Ŀ +Reg ex +æ ĥ +Ġsal ad +ass is +" net +inherit Doc +ĠR V +qu ier +Ġcl azz +ı ÅŁ +oster one +Ġair line +.list dir +Ġdownload ing +ĠP alm +w aukee +& lt +.B L +_IN LINE +off s +<< ( +_new s +Ġch ase +/ >< +Ġeuro s +ĠEgypt ian +ĠSt ainless +_BO OL +ĠG uild +ĠD ynam +[index Path +Ġ ï +Ġmemor able +ĠCh ampion +Resource Manager +.Log in +ĠForm er +yp ed +Ġl leg +; ", +D WORD +Ġtax i +Ġbom bs +ra h +.t ags +_test s +st ones +âĢĿ ) +[ g +r type +Ġv u +Ġhost ile +Ch ars +ĠPatri ots +/ status +< B +ĠIn come +ĠD ad +Ġpat rol +_CH ANGE +Ġup graded +Ġch ina +set q +Start ed +.U ndef +Ġcheck sum +Ġfrustr ated +{ o +Ġen f +Ġwood s +ĠAny one +Enc ode +ĠQt Widgets +are as +Ġshe er +sk i +end point +_T est +S oup +~~~~~~~~ ~~~~~~~~ +(f iles +ĉĉĉĉĉ čĊ +.sp ark +Ġval ued +Ġ% Ċ +.control s +ĠXCTAssert Equal +Ġf ame +ĠR ic +D OT +ĠAlbert a +ä½ ¿ +os al +.Web Controls +Ġ ------------ +ĠM is +ĠS YS +Non null += item +Ġexp ire +Dec ode +_ operation +ĠValid ator +.C ENTER +uff s +* m +Ġav ant +æ¬ ¡ +âĢľ You +.per mission +... ) +ĠL ic +_co ords +.n ombre +c lo +.Int ernal +ĠCh o +_s w +ĉ Il +cl k +Ġcast le +(l ayer +p it +Ġgu ided +Ġâĸ Ī +Ġsuper b +Ġsup plements +_c ent +Ġpe ek +IN ARY +.Content Alignment +f alls +")) ; +W all +). čĊ +ĠD anny +irm ingham +IAL IZ +( create +" In +Service Provider +Ġpr iced +mac ro +am ac +. box +---- Ċ +ãĥ « +ĠS uit +ur st +br u +ourn als +num ero +__ ()Ċ +D as +ĠM itt +ud er +? \ +f u +[ B +Ġ: )ĊĊ +(int er +br ains +Ġatt itudes +Ver ify +Ġsign atures +ack Bar +Ġg d +J ack +.c at +Ġz z +war f +FT ER +");ĊĊ Ċ +Al ive +IC LE +ĠWh atever +Ġout lined +s prite +еР² +_A B +_DE PTH +Ġcrush ed +aa a +(e v +æľ º +Ant i +IC O +is EqualTo +.s un +ic ulo +s ale +_h ex +ĠV k +apt or +Un ion +ĠDis count +list a +.Undef Or +Ġautom ation +N or +å¯ ¹ +åı Ĥæķ° +Ġref lex +ĠLa ure +.showMessage Dialog +.t emp +Ġa kan +Ġ__ ____ +.Is True +ARE D +ag le +E nergy +Ġquant ities +âĢĻ Ã© +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġcitizens hip +m outh +Ġin appropriate +ĠOut door +White Space +An onymous +load s +webElement Properties +T en +Ġacc idents +Ġadvertis ement +ĠY emen +(c all +Ġsl avery +Ñģ п +ĠL am +_BIT S +ome ga +ĠO le +Ġkid n +_A n +ĠR aid +Cre ation +s aved +Ġpro port +W ARNING +\ P +Ġp wd +Data Reader +is cher +ade on +ĠP redict +Ġreason ing +Ġdestroy ing +H el +* d +ĠLeg isl +_P r +ĉĉĉ ĠĠĠĠĠĠĠ +Ġsymp ath +Ġch ess +Ġm am +: hover +Ġconvert s +Ġp ela +Ġprogress ion +Ġ"_ " +ĠG ill +ĉ show +Ġsupposed ly +ac curacy +el in +Ġunf olding +ĠHy per +Ġw anna +Ġup s +( # +ĠCr iminal +( Point +at Lng +act ly +Ġcontract ors +'] } +draul ic +ód igo +ĠT T +ĠW ide +ĠAR G +_ ic +FLAG S +S chool +Ġclear ing +-be ing +={ [ +, const +man ent +Over lay +(' " +éĩ ı +ĠT imestamp +Ġmail ing +ĠC ake +.Th at +Ġmed itation +q p +Ġemp resa +ĠL ions +Ġw eld +ĠLinked In +Ġc ush +Ġgen ome +.Index Of +ag ain +Ġf allback +Ġcamp ing +re dd +-strip ed +Ġd v +Fe bruary +ĠPro xy +us k +Ġdies el +W RITE +RE AK +L orem +.In voke +- div +Inter ceptor +ĠD H +ia les +Ġvill ages +Ø ´ +ĠEN V +S ys +.X R +Ġpo em +à Ĥ +c ade +pl ots +Ġ{ ( +.g it +/s vg +nc mp +ĠÄ į +ain es +åĩ ½æķ° +Ġ( )ĊĊ +ops is +ĠRel ationship +_ aut +ĠB omb +ĉ com +* sizeof +off icial +_p ayload +ĉĉĉĉĉ ĠĠ +.m anager +ĠA round +ĉs end +ĠEx ercise +ĠB illy +iv i +Ġneed ing +_url s +_t asks +ĠH em +Ġtear Down +enc rypt +.t ie +Ġas m +IC H +ĠCGRect Make +ìĦ ± +ul ong +Ġit r +ĠG ST +Ġoffer ings +ro be +EE E +oper ators +_PRO P +ind ent +A DE +or f +ë IJ +Ġbless ed +vas cular +Ġcon oc +H appy +B ridge +ilit ation +j oint +ĠAdmin istr +- transform +Ġmeant ime +/ K +ĠBed room +Ġrig id +Ġbrows ers +EM PTY +.S erialize +_ ED +Ġst itch +Ġj an +ell t +Ġbr ace +Ġtr ails +p ublished +å¯Ĩ çłģ +} ')Ċ +Ġac ids +Ġ! !! +_d irect +> ());Ċ +aj Äħ +_O CC +Ġplan ets +æ Ł¥ +ĠDub lin +Ġser ie +.print f +de ep +` ) +Ġ\ $ +ĠÎ ¼ +_V IDEO +end ors +ĠC rypto +F ar +.Trans parent +.T R +ias m +_tr aining +Ġteach es +ĠB elt +Ġlimit ing +ĠK ath +ĠIndex Path +Ġachie vements +Ġser á +interop Require +Ġdis se +.I f +arm ing +uls ion +P o +_DE TAIL +Prot otype +ĠC AL +Ġagre es +.v o +.Execute NonQuery +ĠTop ic +Ġ' {} +Ar m +Ġe cc +M ag +Ġserial ized +ĉ conn +c ached += tf +ĠByte Array +prot obuf +var char +ĉ ASSERT +Ġlist e +_tr igger +· ¸ +Fe el +T ahoma +ĠL ik +Ġstruct ured +erg us +.In itial +_ ge +cl js +.cont act +Ġand ere +$ stmt +_C URRENT +ĠDis cover +$ res +form atter +H a +vang st +Ġem erge +ãĢĤ âĢĿ +ĠCabin et +-s quare +éĥ ¨ +Ġr age +ĠA J +ĠV T +sh adow +ĠFa ith +en ames +pret ty +has il +part y +Ġvar char +Ġf otos +Ġal um +ĠBelg ium +.y label +Ġde j +_num bers +Ġh u +.set Adapter +ĠUs ually +(s ample +.Sh ared +Ġbook ed +Ġ>> = +Ġmin erals +"> +pro g +bo o +_m d +_p ack +(ex press +ut z +\ Auth +, id +ĠCh ile +act ice +Ġrecruit ment +Ġpos es +Ġvulner ability +inst anc +or um +d ess +Ġx l +%%%%%%%%%%%%%%%% %%%%%%%%%%%%%%%% +( fig +Ġdelet ing +.d el +) ')Ċ +ĠWeek ly +?? ? +(str cmp +sm ith +Ġpurs uing +- so +ĠApp s +/ 'Ċ +Ġdec is +FO RE +Every one +Ġl anes +V irtual +. attach +( Log +ĠMed icaid +( Path +ĠTurn er +/ application +Ġport rait +Ġopp ose +check out +Ġfinish es +_M E +Bar rier +S ong +V AR +Ear lier +rell a +Ġh ast +az ar +Ġpull s +ng x +Ġinspir ing +Ñĥ Ñİ +-d irection +Ġexplos ive +Ġcreated At +st o +Ġwhe at +ĠB uilt +' ai +Ġtrack ed +ham mad +RowAt IndexPath +_ heap +D ue +Ġconnect s +.p ublish +em u +Ġbul lets +B AR +ol ate +Ġintern ally +Ġcatch ing +-p assword +ou ched +æĢ § +e ous +Ġx range +Q uality +v v +Man age +( ($ +ac ements +ĠBro thers +ĠHE AD +ĠUn supported +s an +es i +** *Ċ +Ġadapt ation +ĠWork er +'] / +.save fig +( trans +Ø ¬ +ne e +Cor rect +... ")Ċ +Ġsubmit ting +-p ath +ĉ last +iss an +.x label +ĠS epar +/ no +_b est +ĠM ills +_s ock +(f lag +Ġdest inations +em ption +ĠF AIL +å ĴĮ +Ġr p +f act +ĉ len +D AY +Ġse iz +_d st +l ip +.Line ar +ĠB asket +$ t +$ i +- brand +ĠNe il +ĠE q +Ġth ou +og ene +Ġscholar ship +æĽ ´ +Ġs wo +ag inator +en i +( book +Ġbl ink +th us +Ġcancell ationToken +ĠPalestin ians +Ġprofit able +Ġback pack +ens on +< Long +Ġp ools +Ġst icks +Ġspokes woman +Be ing +ĠHer itage +ĠN ike +SH A +ĠNotImplemented Exception +$ core +ĠR ico +/ latest +ĠC zech +ner Radius +(l ines +Ġsem ester +Ġw ounds +Pro cedure +.m ail +() ):Ċ +Ġcor rid +ter ed +ĠN CAA +Ġgal axy +_k ind +il k +Ġtr as +_P OL +ĠH et +Ġrefuge e +Ġteen age +.b inding +post al +Ġiç in +ĠData Type +é ĸ +ycl erview +, value +_id entifier +< b +Ġout file +čĊ ĠĠĠĠčĊ +Ġcr é +Ġrespond ents +ĠBe ast +ce led +Ġinter f +-th eme +g if +ĠR angers +IT AL +Ġauthentic ate +Com pletion +urs ors +Ġcin ema +Ġdisc our +ĠJ aw +OCK ET +Ġpr ayers +ĠL uis +fr ag +=[ Ċ +Ġbr ave +_p ose +C ertificate +- fe +ifer ay +ĠFl ags +Container Gap +ĠC rit +Result Set +ĉc ur +Ġcorrespond s +St aff +.Http ServletRequest +Ġneur ons +ĠMain AxisAlignment +ed ar +Ġg ad +_p arts +ĠÎ ² +Ġf x +/ files +ĠB ros +hip s +Ġgluc ose +Ġfar ms +Ġment ally +rest aurant +Table Name +ĠMer cedes +. Visual +Ġan ch +inal g +_r untime +Ġpropri etary +Ġintent ions +iz i +S lice +; "> true +ĠNY C +Ġb ored +ĠD etect +Ġapp ar +Ġje ans +ĠT ak +I OD +ĠH orse +( FILE +( ? +ri que +optim izer +n at +lo ys +ĉ Token +oub ted +u ess +oco a +Data Member +_P OWER +class List +Push Button +ĠWi Fi +. Stream +.g uild +Ġn og +ĠPortug al +ĠUnt er +Pr imitive +b oss +ĠDe utsch +Ġerot ic +Ġstr conv +.Try Parse +Ġgr ams +.S uccess +_p k +ĠHar vey +-m inded +.c ountry +[] " +Ġang el +Ġbe ats +ĠV or +il io +.m aster +s omething +ĠP ACK +( if +Request Body +Ġant es +/w idget +Ġmod o +ĠA W +find er +Ġoptim ized +Ġmiss iles +N B +ĉint ernal +t ex +ĠS ri +Ġdam aging +ĠM ais +- Allow +ĠZ h +- alt +Ġ ));ĊĊ +è ī +Ġinflu ences +Ġc atal +_REG ISTER +ĠAPI s +-cent ury +Ġbi ology +ĠAct ual +Ġhe els +TR ACE +_D IG +D ataset +ĠM atter +Ġclass ifier +.w ikipedia +ĠRog ers +Ġdon ated +raw ler +en en +Ġcas inos +ort al +Ġpr ive +s pe +duc ers +. ep +Ġgr asp +ac ji +Ġd airy +Ġb uses +.com m +. ins +ĠI RS +ĠBe er +ad c +o ard +_M ET +Ġ' +' +r ans +Ġkind a +ĠâĶ Ĥ +ĠM aur +аР³ +Ġband width +ib us +ĠD ifferent +(m at +ĠRes ume +_UN S +est ablish +Ġfon ction +Sub scription +_com pany +Ġlight ly +.con firm +.y aml +ĠBo ost +Com merce +- template +_DEL AY +ĠH I +Ġn avig +(S ender +ĠH S +_ "+ +ĠRE QUEST +Ġw ifi +=" "Ċ +]) -> +Ġro pe +Ġviol ated +Ġgl ance +ĠK urd +Ġè ® +de ck +ĠIS BN +Ġin fect +ĠF oo +Ġget ter +Ġt ener +ap pe +.h h +_h ot +< AM +p oly +! ",Ċ +Ġconver ting +ĠW WE +RO S +(' { +Com mit +) L +ĠO re +Ġsp arse +Ġdis posal +Ġcan celed +åIJ İ +Ġa er +Ġvin yl +á» ĥ +rec ogn +ark ing +Ġtrick y +* s +Ġproceed s +Ġis o +Ġco conut +Ġcraft ed +IEL DS +Ġquest o +Ġcomm un +_CON NECT +Ġtraff icking +De ep +a ções +c odigo +ve au +Ġbet ray +int a +T ED +æ r +m art +_B US +/ sc +ial ly +Ġcigaret tes +è¯ ģ +(n n +Ġmodel ing +/ products +w arn +Ġmet ro +ĠI v +& ) +ĠC able +Î » +Compar ison +g ary +ĠB A +P ART +Ġp v +_up dated +C redit +orth y +observ able +Ġthe atre +B LE +; }ĊĊ +la unch +_str ings +ug o +ĠR PG +- auth +Ð ł +hol m +ĠP and +U id +Ġim ply +ìľ ¼ +'] =' +/ User +Ġstr cat +нÑĭ й +Data Adapter +Ġland sc +Ġdipl omatic +ï¼ ĵ +************************************************************************ **** +ĠCh icken +Ġbc rypt +.In f +[ col +ĠQu antity +- position +Ġdiet ary +Ġfil mm +Is rael +Pre v +ĠMill ion +Ġrem ed +Ġbill ing +Ġout doors +.t m +Ġn ad +F org +Z Z +Ġs sl +], ' +K T +f req += document +bl ur +¬ ¸ +ĠJeff erson +C s +(s ave +Ġstr ap +Ind ia +Ġide ology +BO SE +ĠF P +( ans +Ġfe ver +ĠY am +K ing +à ² +AT ING +bo hydr +roll back +Ġnew Node +ĠN VIDIA +Ġhon our +ĠCon firm +xb d +Ġsuccess or +/ u +l iv +ourn aments +Att achment +Ġgr up +Ġtri be +Ġca res +e ft +_s ame +' label +Ġ ãĢIJ +M otor +Ġin exp +Ġ" (" +_POS ITION +Ġval ley +ĠResult Set +Ġpres erved +Ġmut ations +Ġquestion ing +mun ition +parse Int +ĠS r +ĠMet adata +âĢĿ ï¼Į +timestamp s +Ġtrans itions +í Ļ +Ñ Ĭ +i om +.D o +Ġp ine +Ġf ung +Ġtrans mitted +ct ime +ĠF am +Re vision +B as +UP ER +D estination +toHave BeenCalled +Ġun fortunate +IN ES +_pro f +Am ong +ĠCy ber +ĠB attery +gen re +ĠView Model +- = +Ġutil ized +p aint +.Integer Field +ern ity +comp iler +âĢĭ ĊĊ +ĠM asters +.To Array +Ġstrt ol +ĠUkrain ian +} ));Ċ +Ġsh emale +" That +for all +/ download +Ġrhet oric +.l atitude +ĠWH EN +Ġshock ing +IF IC +.N ormal +_F OLDER +Ġdr ift +Ġmount ing +- book +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ĠWire less +> ".$ +Ġrel ies +( Console +Int ernational +-> {$ +M id +Ġdis sert +dd s +Ġdepos its +ĉd river +# ga +pr ising +print ln +Ġpres enter +Ġmin es +C SS +ĠD ual +(! ( +Ġk am +Ġis Loading +ĠProt ect +. upper +ar ium +]: ĊĊĊ +Y ii +-sh irt +ĠIM AGE +_color s +Ġur gent +.Cont ainer +! (Ċ +S aturday +Ġsoci eties +ĠTh an +ĠC od += @ +Ġattach ments +.m obile +Ġsp ite +Ġb ounce +raw l +instanc etype +ĠTr uck +Ġmanip ulation +( Config +-in st +Ġst or +it ution +Preferred Gap +Ġmain AxisAlignment +Ġlist ened +'' 'ĊĊ +ott age +- project +.AP PLICATION +ĉ root +Ġwh it +Ġb ilder +Ġk er +Ġappl iances +row ave +ìĿ Ģ +ematic s +ĠO rg +op ing +_SE ARCH +Ġch am +add ContainerGap +Ġ( ). +ĠAr row +Il legal +Current ly +Ġus a +Ġpassword s +Ġre nown +av ern +ĠEv il +Ġconc at +Ġdu o +Ġv ale +ĠBe an +Ġindic ators +cm ath +ĠP ump +Nov ember +ific ant +_DOM AIN +reg ar +ĠPort al +" $ +Ġformer ly +"] :Ċ +ĠVis ibility +.getElementsBy ClassName +_RE D +Ġch ampions +à ´ +Val or +_ es +* a +-re peat +B and +.st age +Ġbure auc +C nt +et en +- function +Ġm uito +P ID +_ editor +Ġcrash ed +de ad +k at +ag h +ĠEX T +ass er +-sm all +Ġreal iz +( Entity +ú s +ĠAct ually +ĠEl ite +Ġhel m +(non atomic +ash er +Comm unity +all eng +ir y +ĠG rowth +Ġs ue +Ġfrequ encies +_des criptor +.At tribute +Ġrecip ients +_N S +/ "+ +ib an +Ġath lete +ĠI gn +_D MA +(d s +ĠRequire ments +AD I +ere z +\ Admin +br aska +ĠR ust +Rel ation +C OD +ĠV ERSION +em ma +)) { +.D uration +ĠC amb +- logo +Ġread able +Ġcre ators +() ];Ċ +Up Down +-h alf +.get Month +(s f +P ic +Ġhun ger +.t x +Ġexceed ed +_se ed +( ^ +_s k +.per form +Ġ> :: +Ġm ongo += float +bind Param +Sm art +if a +Ġse curities +Ġpre jud +Ġ, " +Ġcor ps +Ġv ra +amac are +it err +(M edia +uch e +Ġc ob +Ġlib er +. geometry +Loc ator +Ġsl iding +Ġsurg ical +_C UR +Ġcon sect +[ * +ĠRes ort +St ub +_DO UBLE +ĠS oph +Ġelect oral +_dis able +ĠÑģ о +ĠLight ning +Ġment ions +oc y +Ġle aked +Ġrelax ing +Pres enter +v sp +Ġgu ilt +=- =- +.re ply +ĠMir ror +C amp +Ġ+#+ #+#+ +Ġ+#+#+#+ #+#+ +.A uthor +Ġdirect ive +-h ook +íĦ ° +}ĊĊ ĊĊĊ +@ pytest +_r and +m is +Ġcolor ful +u je +lass es +ĠClass es +.h ave +% ), +é¢ ĺ +Ġdistur bing +sub string +ĠK oh +In vest +p urchase +Ġrec ycling +ĠA RT +ier archy +Ġf ps +.check Box +íķ ´ +_m aterial +duc ation +Ġf w +ud it +Ġreview ing +ĠS id +S yntax +ĠW ritten +arg ar +UM E +/ q +Class ifier +Off icial +Ġj azz +Ġom ega +Ph ysics +Ġl ugar +_access or +.command s +Ab ility +ĠB atch +R AM +Ġencount ers +. Qu +BY TE +ĠD istribution +Ġus o +ĠReco very +appro ved +Ġden ial +/sh are +Linked List +)čĊčĊ čĊ +udd y +Ġf ines +Ġr y +Un icode +ĉ render +Ġprem ises +Ġp on +ali ases +/F oundation +c uda +ĠC ock +,: ) +(f older +Ġm éd +dr ag +Ġtal ents +ĠĠĠ ĊĊ +е ÑģÑĤв +m ob +.y ml +Ġa ster +Ġdis cre +go al +ĠGT X +ĠS UCCESS +ĠL ONG +(f ind +Ġsing ular +_s z +ĠEth ereum +.. Ċ +Ġir res +')) {Ċ +Ġmin isters +St eps +ivers al +ĠNever theless +- led +Ġ( %) +ç¡ ® +Ġtime zone +Ġstr anger +(re nder +Ġsh util +Ġm ph +Ġtri o +pp y +Ġpred omin +Ġend ors +ĠRuss ians +ĉ row +Ġw izard +.s erialize +Ġcompl ained +Ġs ido +Ġdelight ed +-m e +ĠR av +H uman +ad ays +rec v +Work ing +J ump +ĠÃ¥ r +ĠAut omatic +_B ase +æł ¼ +aur ants + ¯ +æ ¸ +(C Type +IF I +( amount +Ġbelie ving += mysql +Ġf ir +Ġrest oration +ere co +Ð ¢ +_ '+ +Ġe book +Ġde bris +(input s +AY OUT +Ġscre aming +av ia +land er +Ġdist ress +Ġas sembled +ĠA void +( thread +ĠR PC +_EX IT +( queue +и ÑģÑĤ +D ll +Ġsk ull +_p ub +che z +min ate +ens en +Ġins ane +b ounds +ĠR osen +Ġcondition ing +process ed +v ideos +f our +.Con v +| ;Ċ +Person al +cer pt +:UIControlState Normal +Ġdos es +ĠKar l +ĠFre qu +.B ASE +ĠV ote +Ġcon current +ĠMessageBox Icon +Ġà ĸ +ĠDub ai +ĠR etail +: number +ĠOb server +ĠBig Integer +_ origin +_W ORK +F rames +Ġnot ably +. âĢľ +Ġtrop ical +Ġn iche +am ina +.s ys +(t okens +mod ify +os it +st rom +ĠCom ics +O PTION +T icket +Ġfact ories +Ġdis put +_F ile +ĠFin n +ee e +ĠDisc ord +_m oney +.t pl +_s afe +L B +Ġgl ut +J K +.fl ow +- cont +g os +Ġhor izon +ĠR ush +:: * +P ipe +ull a +bor ough +he imer +(m ove +( Text +} );čĊčĊ +w elcome +ĠCom ponents +Ġgovern ance +c losed +ĉm argin +Ġla undry +ĠTerm inal +iz ards +. âĢĶ +.rem ote +.r adius +ĠQue bec +Ġd h +T ech +ĠM ist +s eller +_l iteral +Ġgen ius +Ġbr ains +g em +ĠMe asure +Ġcata st +r ance +.Text Field +Ġconsum ing +Ġ'\ '' +oubted ly +ĠC ertain +E v +ert i +be ing +Ex perience +Ġ// [ +ĠArab ic +ĠC rist +ĠAz ure +Ġhor a +l adesh +\ Blueprint +d ar +.re l +Ġsup rem +ĠRe agan +ĠAt tributes +-s idebar +Ġuse Styles +ĠA irlines +Ġh ills +/x html +v inc +_m ock +Ċ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ +ĠP ill +.Layout Style +ĠCommand er +] < +sign ature +Ġ{ }čĊ +Ġhat red +Ġë ĭ +ole sterol +Ġ ******** +ancell or +c rop +T IM +ĉĉ ĊĊ +ys qli +uit ive +ĉun set +_s el +Ġmen us +t ick +Ġconstit ute +ĠElement s +ĠRed is +agg io +_f p +_de pend +em as +CA ST +or ange +j on +ĠEm ily +Ġpot atoes +Ġre ceptor +ĠElect ronic +ĠL ights +Ġcomb ining +ĠSome one +Ġ######## . +ĠT OD +/ show +X d +." ' +af x +Ġtr agic +St yled +ĠMar co +G allery +d ale +.âĢĿ ĊĊĊĊ +é rie +/s ervice +äº Ĩ +Ġamb ient +_SET TINGS +.Ad apter +l ene +Ġtrav els +Not ice +Ġcle ans +ĠF em +ch air +Ñĥ н +/ my +_b ad +ĠEcon omics +IS A +_C NT +(M enu +äº İ +ĠR idge +Ġlength y +D ot +Ġjump s +Ġhe y +$ pdf +Ġw orm +Ġs ut +Ġsh er +iam o +ĠCal c +trie ve +Ġc ops +ĠCh rom +Ġreg ulated +reat ment +ĠHigh er +ok s +Ġde ze +LOC ATION +ongs To +Ġfin ite +Ġvar ies +Ġposition ed +' il +éĩ ij +Ġh ike +(d one +play list +Ġad a +Ġcoast al +ĠN ancy +.DateTime Field +Cpp CodeGen +ĠSimilar ly +re ur +ĠCon tr +ĠH idden +ĠB eta +atch ed +_inst all +. Output +Look up +ĠRich mond +qu ared +Ġm anga +-control s +ĠBern ard +L arge +Ġslic es +Ġoff ence +ĠM ega +Ġest ar +Ġjoint s +Ġsum m +_pl atform +B uff +.add Subview +Ġret ained +Let ter +.d im +Ġess ere +ĠS caffold +EX PECT +ĉ RE +.long itude +ü nd +Ġstat ue +.add Widget +ĠCar ibbean +add PreferredGap +il de +UIL abel +ĠOp port +Ġimper ial +urs ion +Ġmand ate +Ġpromot ional +Ġv k +ia ÅĤ +Ġp yl +ĠCre ation +оз д +Ġsim pler +. what +ĠRec ent +St orm +. quantity +ĠL ov +" - +ubb les +_not ification +(w orld +ur ger +* (- +: "Ċ +h m +ans hip +ĠAl most +Ġmotor cycle +_f ee +Ġabsor b +ĠVin cent +Ġsound ed +ÃŃ st +Ġpharm aceutical +ht ag +ĠKind le +ital ize +ĠEm peror +oust ic +Ġspecial ists +åħ ¬ +Border Style +/ \ +RE LATED +(', ', +(ex pr +Ġh t +åį Ī +_C reate +Ġspecial ly +Ġ[] ;čĊ +Ġhe el +Ġse pt +_ arch +(in itial +% .ĊĊ +\", \" +Ġdiscuss es +Ġu pt +Ġ[ & +Ġman us +.h and +ĠM AIN +ĠDen mark +Ġ], čĊ +Ġcr yst +Ġn ack +Co ords +_in ner +Ġmid st +Ġaw ake +ĠÐ ŀ +-b reak +ÃŃ vel +_P ASS +ĠParam s +Ġdet r +Ġsp ider +ĠCon cept +Ġpre nd +CH ED +.Ex it +Ġpop ulated +Ġvirt ue +_SE SSION +Ġnou vel +o auth +Ġд аннÑĭ +r ink +.Header Text +atur ated +Ġer st +Ġå ħ +ॠĩ +_vis ible +ey er +Ġli able +Ġde be +Ġb w +{- # +_W IN +df s +H over +ĠP UT +- angle +Ġnob le +Ġtr aces +enc v +Ġuser Data +_in s +ĠS uz +Ġnews letters +ĠMod i +Ġentreprene urs +Ġtrib ute +Ġrum ors +Ġr r +ĠQu arter +ê³ ł +Ġfeed s +ó g +Ġen velope +Ġle ar +Ġk ø +develop er +Sim ilar +: ")Ċ +sub scription +Mod ifier +ital ic +Ġn asty +Ġtermin ation +Ġchar ming +Ġâ Ł +ton s +.tr ace +h ots +ĠU R +M ont +Ġjust ified +ĠG ang +ine a +Ġb og +( ap +_ $ +Ġcont amin +.D ot +ĉ Debug +( exports +Ġpa ired +ĠAss ignment +Ġautom obile +ĵ į +Ġph ases +v w +@ SuppressWarnings += \ +r ant +- ed +ĉ await +Ġcert ificates +'> " +Ġint act +CT RL +M ike +greg ation +AT TERN +Ġre public +_up per +ili ary +Ġcomput ation +h ire +ĠSh in +_ ANY +ĠManufact urer +ĠC arm +Ġbear ings +_c omb +c ad +ur istic +Ġwholes ale +Ġdon or +.inter faces +press o +ĠBr un +-c lose +pro ve +_S K +ĉf rame +et ros +ĠP ain +_EX P +ĠL T +_f s +.dat as +ĉ ss +vo ir +ĠA xis +M ajor +=" < +[ h +Ġprof ess +igr ate +(s core +Key word +" os +ĠĠĠĠ ĉĊ +an alysis +Ġre play +.p ass +\ d +t ls +Ġsan ct +.l ight +_m obile +ÑģÑĤ ÑĮ +ĉt otal +u ity +Ġpa used +N AS +Ġen core +lo e +Ġ-* -ĊĊ +.h igh +am pler +ĠSec ure +Ġfrag ments +_ vel +ill ary +ĠSte in +ĠD awn +Ġmax imize +ภ¢ +Ġ/ ^ +Ġcontin ually +Ġsh adows +ĉ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ĠI ActionResult +Ġinform ación +C HECK +.Selected Item +b undle +ol ley +< Int +AIN ER +ĠW ing +tit les +ount ain +C Y +ĠLoc ale +form er +< context +R adioButton +_s chedule +Ġfab ulous +Rob ert +_PRO FILE +Ġg ates +IM P +ĠPent agon +g old +b ach +employ ees +R otate +Ġch amp +Ġsel bst +Al tern +Ġconvert View +/ , +Ġ~ ( +St reet +_ place +Ġpersonal ized +P ublisher +ĠSO CK +_NAMES PACE +ĠStand ards +so ever +_C ENTER +Inter est +ô t +tem perature +View port +get Resource +Ġeat en +Ġsem pre +Ġab normal +Ġc ylinder +Ġtroub les +n od +Ñĭ в +g ames +_g l +Pl ane +g rey +_t bl +.Component Placement +ĠCh ase +Log ging +man y +ì Ĩ +Ġfl ame +="< +Ġtra jectory +_r ing +Ġhydro gen +tr on +Ġstat ute +Ġcondition al +Ġtr ay +-s chool +(w idget +$ config +Ġrequest ing +. uint +et on +brit ies +Of Type +AD MIN +p redict +Ġg egen +ĠH app +OC UMENT +ĠA part +Ġ---- - +ro e +u ide +just ify +ĠSqu ad +Ġprof es +.b ot +_c urrency +inn en +ĠM umbai +ĠNum bers +avana ugh +agn itude +âĢľ There += http +çī ĩ +Ġv b ++' {{ $ +Ġin ode +s il +Ġh ace +Ġsever ely +ĠOver view +Ġspr aw +Ġbeach es +: left +· » +($ { +ĠF IRST +ĠSp a +- ass +Ġb aise +ĠN ODE +ĠP izza +P et +(se q +\ ">Ċ +CppMethod Pointer +Ġv p +Ġi a +_se conds +em et +/b lob +_TH RESH +... čĊ +D est +ĠN H +.data Source +it és +ĠJ ak +s ell +Ġwork shops +< u +Ġr ivals +ĠEX ISTS +h om +-t oken +compat ible +.J Panel +Ġphys icians +art in +Ġdes irable +Ġdistinct ive +.D ep +g id +ili ate +, max +Ġprem iere +Ġq Debug +Ġadvoc acy +Ġwh isper +P t +Ġun changed +_q ty +请 æ±Ĥ +Se ason +avel ength +ĠP ul +Ġd ÃŃa +'] ]],Ċ +al is +(" & +bor o +Ġb m +ĠR adi +w rong +ĠGo ing +ime Type +ij i +- feedback +ĠN ames +ĠB apt +Ġprob able +ĠE ther +ĠPolit ics +_prot ocol +lin ing +S at +Ġcor rel +.Pr imary +(null able +RI ORITY +Ġcolor ing +Ġutil izing +d as +Ġexport ed +Ġcar riers +Con v +. editor +i ó +(h andles +Ġapprec iation +. import +ĠAust ria +ĠStr ip +il ight +Ġappropri ately +ĠP rest +ĠW ir +ĠUI Application +al chemy +ĠM ob +ĠD etermin +ergus on +register ed +_con vert +ĠVlad imir +.Show Dialog +ref lect +Ġsh ook +Ġass ure +ĠO ften +Ġcivil ization +Ġvocab ulary +fore ground +ĠS cope +Ġunw anted +act ing +Ġ( [] +Ġmark ing +. original +ĠMO VE +Ġsport ing +ception s +NS Number +S izes +Ġprovinc ial +_Tr ans +Ġproblem atic +d igit +ĠEm ma +lock s +ĠC rew +ib a +') : +ish a +Ġm amm +Ġocc ured +w cs +(r ule +Ġmerch andise +es pecially +ĠT win +Ġn aming +Ġs log +Ġimpro ves +Ġad her +: text +.h adoop +_HT TP +.to List +.dis abled +Ġl enses +.in i +ĠR are +ĠUb untu +Ġsc ram +ol ation +tit ulo +Every thing +Ġnod ded +icht ig +_const ant +z c +l ift +ĠNot ify +ond o +ĠIN F +(" + +ĠK az +Ġd read +.m apper +le ur +ĠCome y +ĠN B +ic ers +.P ush +ĠH ack +ĠBrazil ian +_pro d +Ġ// ĊĊ +Ġb icycle +Ġun available +Ġadoles cent +bl k +Ġmit ig +_bl ue +ì ĺ +fade In +ĠUtil ities +ĠM N +; k +< style +- status +ind o +Ġinn ings +Ġg j +Ġ|| = +.e u +: Number +Ġcuis ine +ĠURL s +ie k +Ġw ires +ĉ ps +ie g +.m k +so ap +Ġsom etime +Ġst ap +_s eries +.T arget +æ º +.dest ination +OUN TER +R aises +& A +Ġsmart phones +NI Env +.s dk +Ġhelicopt er +Ġim pe +ĠB irth +A U +b readcrumbs +co ords +Ġexplo red +Ġl od +ĠI p +g able +ian e +Ġart ifacts +Box Layout +ا ر +list ener +.c art +ĠH uff +ĠHind u +ĠData Types +ĠDr upal +IGN ORE +Ġoffset s +ĠR TC +- login +æ ® +ĠQ Object +Ġprosec utor +R ock +_ch at +W ay +ì ² +Ġneg lig +Ġd ude +; < +Ġdeleg ates +_f ailed +/ dev +/ work +( New +et able +() " +( Icons +Ġp ork +ĠModel AndView +ĠV IP +ĠK or +m ix +Ġox id +ĠSC REEN +ĠFour th +/ ",Ċ +Ġte e +ĠSte vens +t icks +Ġp ledge +ib bon +ĠLo an +Ġne o +n umpy +ĠShared Preferences +- oriented +ĠLogger Factory +ĠGraph QL +zen ia +" _ +W omen +.c ast +Ġdeliber ately ++ b +ĠAr n +font Size +Ġm aze +Ġbl amed +.m as +} )čĊ +eler ik +Ġsc anning +ĠWork shop +Ġfind en +Ġca ut +UI Font +( return +al in +cast le +//////////////////////////////////////////////////////////////// //////// +Ġincent ive +op ath +b lob +Ġcigaret te +Ġfert il +*/ ĊĊĊ +ĠSh ar +Ċ ĠĠĠĠĠĠĊ +Ġunc ertain +ĠS ton +Oper ations +ĠSp encer +Ġdef in +ĠS olo +on est +·» åĬł +Ġu omo +G ive +Ġdent ro +; padding +ent ai +ĠC ars +Ġenthus iasm +ĠOper ating +S kip +par ation +Ġprotect s +Ġre ver +d g +ĠC incinnati +Ġconsect etur +Ġm uss +employ ed +a uses +ink le +. Values +£ ¼ +lo v +_W ARN +Ġbook mark +ĠAp ollo +. axis +Ġm ét +Ġop ener +Ġtum or +d an +Ġelement ary +Ġsk ipped +ĠK er +as ia +_res p +Ġdem ol +ĠCan adians +Ġt astes +U Integer +Ġ' ${ +.aw s +RO ID +ri ans +M Q +ord able +Ġcous in +Prop agation +(S ession +ph alt +UL D +ĠSc alar +Ġblo ody +Ġ ঠ+.m ask +, q +ĠUn its +Ġcent res +ĠPr im +. ]ĊĊ +ĠSh aw +P rom +ĠTh ought +Check er +_output s +( chan +E INVAL +Ġb ob +_c mp +P ed +Ġmat rices +Ġvrou wen +Ġgenu inely +high light +(d isplay +) != +Ġdel icate +ĠL uther +ĠM iles +Ġuser ID +% = +ate urs +_B UF +---- ---Ċ +imit ives +Ġsh elves +sl ow +_in formation +LE G +W r +.form s +cel and +/ un +: & +.âĢĻ ĊĊ +=" % +Ġpro st +Ġfont size +uc ión +get ic +am t +=" . +Dec or +B rit +Ġ"" ). +Ġfound ing +.File Name +ĠT ier +Ġdisc lose +á m +.s yn +.View Holder +lic ant +_st age +Mon day +Ġdes erialize +t alk +Ġtradition ally +æĢ ģ +Ø ® +LE X +Ġe h +ĉ ROM +Ġ{ })Ċ +Quest ions +nc py +Ġfix ing +к Ñĥ +_ Key +: x +ĠSTR ING +ĠÑĦ ай +ĉ left +ĠBen ch +ell ij +UR RED +ĠDi agram +} catch +/ time +ĠMiss ing +db name +Ġs ore +ĠW alt +ugg ing +rep resent +ĠG S +ne ys +ĉ page +Ġvol can +(b tn +Ġexceed s +Ġ erg +Ġpil ots +ĠS ed +ers ions +Ġpat ron +R V +/ top +. asset +_c ross +. Editor +.t b +Ġwel coming +SC REEN +) findViewById +C oder + ",Ċ +_P in +ues e +Ġover rides +_ ready +Adv anced +Ġop i +-c art +("/ ", +ĠDe b +CR Y +ĠVert ical +ĠO VER +ĠCorpor ate +Ġ"" ; +Ġste pping +e j +Ġaccus ations +Ġor az +_t ail +Ġindu ced +Ġel astic +Ġbl own +, // +Ġbackground s +âĢĻ une +-s dk +Ġset Interval +Ġincent ives +Ġveget able +_ On +exp anded +p ix +_sh ader +ĠSP DX +@ example +ĠW rapper +.Z ero +Pos itive +Ġsp inner +Ġinvent ed +ĠG ates +оÑĤ оÑĢ +Ġcompar isons +è · +.pr imary +data Provider +add itional +ĉ options +s napshot +.set Horizontal +Ġ" {} +ĠFish er +hal ten +< Type +Ġmax Length +ĠM t +Ġê° Ģ +.jet brains +Ġident ifies +Ġflow ing +ĠDisc ussion +ats by +Ġsch w +ught y +Ġr ivers +.un ique +_PH Y +ed ral +( ll +Ġcs rf +pp ers +ü l +ĠEs pecially +port ed +ĠHarr ison +****** */Ċ +Text Color +ìĬ µ +w ire +Ġstatus Code +ĠFin ish +c ence +ĠMcC ain +ĠW or +( await +Ġ) -> +ĠRegister ed +IN ED +k al +par ison +Ġobj eto +V i +mand a +Ġrenew ed +ĠS of +ess el +.nd array +Ġcr ap +ç® ¡ +.ab spath +( up +Ġclear ance +ĠT W +_C OPY +ĠĠĠĠĠĠĠĠĠĠĠĠ ĉ +Ġforest s +Ġarg uably +ĠA SS +he y +am el +_f ore +ĠSou theast +Ġab used +Ġpract icing +aked irs +ä¸ » +_res ources +Ġp ond +.F ixed +Last Error +ĠPsych ology +Ġ" // +! : +Re usable +Ġmens aje +Ġro spy +Ġb our +Ġvar ieties +Ġem path +(( { +_ org +ĠM es +ĠMag ento +IST ORY +Un less +Ġh j +ĠD uty +J un +, size +Ġpaint ings +Ġdisp ens +d art +Ġbehavior al +Ġr pc +cal culate +fr uit +_m m +ĉp thread +Max Length +Ġc urrencies +_cap acity +ĠO z +Ġfire arm +Ġcoeff icient +Ġbankrupt cy +w art +Ġfat igue +AV A +Ġes pa +_p c +ĠQu otes +_L IGHT +ĠT ickets +Ġrel ates +Ġpublish ers +Ġunlock ed +Ġ// ---------------------------------------------------------------- +ĠInterrupt edException +Ġout look +r n +Ġreb els +W ritten +Ġas ian +ot to +Ġ ĉĉĉĉ +_g pu +T xt +.Image View +Ġsu is +_t ables +.Rec yclerView +Ġwhat soever +è ģ +] ++;Ċ +assert True +_ verify +ĠR ivers +Ġ ][ +J et +id ian +S ibling +Ġgen res +.A ccess +OP S +Ġtr ivial +ภª +al en +в ед +ĠS word +Ġscrut iny +(c b +Ġcomm erce +Ġguarante es +_ad v +ĠL ET +rec io +Ġh ilar +Ġback yard +ãĢ ı +Ġillustr ated +/v endor +. Util +Ġw ow +LO Y +ĠMar shal +"> '.$ +ĠB ak +Ġmod ifiers +d ictionary +ĠSt re +m ultiple +")) , +ĠC ort +'] "). +( admin +ĠCre ator +Int ernet +( ms +log y +DECL ARE +ĠMarc us +<< << +ãģ ł +_m y +(in st +Ġsc iences +ND ER +. enter +Ġit u +Ġbeh ave +P an +omb ies +=' < +')) ;čĊ +ĠM ENU +ĠWork ers +.No Error +Ġbind ings +Ġdis abilities +{ \ +ĠM unicip +Ġco res +ur ple +ĠN okia +us ions +ĠF itness +.handle Change +Ġjav ascript +ìļ Ķ +( dec +Ġpack ing +-de pend +Ġtrans cript +z eros +_ alert +? ",Ċ +lib s +± оÑĤ +Ġ| ĊĊ +tr ained +ĠG ent +ĠR ab +x p +_config uration +å¤ © +_ accept +.rec yclerview +: url +ĠMu hammad +Ġprivile ges +_b ank +uk u +w allet +ĠRO OT +Ġenc uent +? family +ĉ position +Ġc g +Ġprec ip +method s +_f ast +in crement +ĠT iger +_OCC URRED +qu ip +ĠH AS +_d om +Ġw reck +b j +Ġd ern +Ġorg ans +. entries +Ġ_ (' +ram ento +ĠJam ie +Ġp unk +IP P +Ġprogram a +Ġatt ain +Ġpro ves +/s ign +Ġanswer ing +Ġl adder +************************ **** +ĠW almart +ĠCONT ENT +duct or +Ġver bal +ĠP ID +c rypto +_CALL BACK +Ġ= ================================ +Ġpot ent +Ġshort s +.U ri +.un iform +; border +ĠW er +Ġhere in +ll a +ĠI hr +P ixmap +l iteral +! )ĊĊ +g eneric +r ust +_script s +ost o +it us +ĠCoal ition +Ġrem ot +de ploy +ĠEag le +ãĢģ ãĢĮ +Ġimportant e +ĉ object +Ġseason al +ne j +aid u +Bind View +ĠSi erra +-b g +Ġmake Styles +[ offset +G ames +Ġhorm one +AR IO +head s +( select +ĠStart ed +@ param +_de cl +_b log +Ġa ño +\ Api +ĠMil waukee +Pro vid +An imated +Ġcool er +ĠSe ed +. Edit +Ï Ħ +ĠT aking +Ġborder Color +-found er +.Logger Factory +Ġ"" ĊĊ +AL T +ĠL ate +EDI ATE +Ġ);ĊĊ Ċ +af a +Ġcancell ation +At om +ĠB irmingham +emp resa +HE MA +asc al +Ġup side +.V ersion +ĠF older +ĠE ight +ĠV intage +ĠApp Delegate +ĠPre vention +.se parator +ST M +( room +gener ator +Ġc attle +ĉ Z +ĠPart icle +' };Ċ +Ġneighb ours +ĠState less +Ġalt itude +Ġsa int +об ав +Ġconv inc +ĠCont ents +Ġje une +(t s +Serial ization +(c ollection +ĠJ azz +ĠD od +ĠR och +ac io +comm ended +DEF INE +.on load +Ġspecial ty +PL ACE +_MO VE +Ġaccount able +Re uters +Ġf icken +Ġde pr +W ow +V oid +.s pace +à¸ Ĺ +Ġt q +ĠP ets +< $ +(C urrent +ber ries +plan ation +Ġlist Of +ĠTh u +ĠPR INT +Ġm ismo +Ġdo i +ch k +ĠUn icode +( role +Ġvir gin +< Point +_RESP ONSE +-h ouse +ĠVenez uela +EM AIL +Ġp úb +_ex ist +B all +.C L +re ferences +ĠBeautiful Soup +ĉ Expect +TH IS +Ñĥ д +b ane +Ġtemp oral +ER IC +et as +Ġrefresh ing +Ġsec ular +@ synthesize +ac cur +Ġn ella +ĠS OL +.p ipe +Ch annels +èĩ ª +Ġinsert ion +á» ĭ +el ia +Ġadjust able +Can ada +ĠI TEM +Ġcur ves +ĠChe ap +let ing +Ġoptim istic +al lo +Ġpolit ician +_down load += edge +ORT H +Ġmodel o +art o +. rotate +Ġs elenium +æĪ ij +_al ias +Ġrenown ed +.' . +Ġc zy +Ġal les +.Com piler +ĠB ass +Conn ector +.R ole +L INK +Ġc riterion +lem etry +Success fully +/p ng +Ġey eb +asp berry +( gr +Ġd angers +Ġcorrect ed +Ġgl ow +Ġelabor ate +ĠB ears +aw ai +=" '+ +Ġpromot ions +Ġmathematic al +Ġ" ` +_Generic Class +ĠChe f +.S ort +table Name +R IC +Ġvolunt ary +ĠBl ade +-e lect +ĠCom bat +ĠAb ility +Ġab dom +Ġd uck +T mp +åħ ¨ +Ġer ase +.P h +ĠDefault s +p artment +_US B +ê te +; ' +Ġp ads +ĠOb amacare +.T otal +Ġdiv ert +Ġcr icket +Ġrecre ational +( red +ĠC le +R U +Ġmist aken +ĠMont ana +Ġstr ive +_sl ider +ĠPl astic +Ġdecor ated +ĠV P +lic o +ĉf alse +Ġpre fs +( \" +_f alse +i endo +Ġ@ $ +B ucket +act ical +ĠZ hang +.c ols +.B inding +Ġw ax +_ST ORAGE +Ġlaw n +Ġr f +.Sc ene +ĠCal culator +.d esign +Ġres il +л ем +E mploy +ĠPr ices +ĠP WM +ag i +.e valuate +ĉ param +Ġbr ass +bb en +Ġinflamm ation +ull ivan +Ġan not +Ġp H +iam eter +ĠB TC +( box +Story board +Ġcl ay +.assert Raises +| string +.App ly +Ġmatch er +und ed +Ġsatisf ying +Ġìł ķ +Render ing +_app ro +ind rome +AN EL +_f ix +br ush +.M atch +Ġsm iling +on aut +S unday +Ġdelet ion +Ġencour ages +P ull +Ġreven ge +Ġqu arry +tr ade +Ġc ables +(d elta +ites pace +Ġf h +.b unifu +Ġvi el +_IN CLUDED +ĠT ail +ad ar +of s +Ġmet als +g om +_method s +Ġn j +.St d +(w in +$ (' +Ġt urtle +ur on +Ġen rolled +ĠH z +ĠBox Decoration +Ġp ont +rel ationship +B i +³ » +Ġmas cul +Ġsh ades +Ġv r +ĠLog ic +Ġa in +ĠD IST +Ġcoll ar +" profile +Generated Value +ĠP ossible +Ġe ines +ĥ ģ +.time out +ĠE c +Ġjer sey +.D ouble +Ġqual ifying +v or +CRE EN +_A pp +_rec v +Ġali ens +It s +E sc +i ator +ĠE clipse +Ġg h +V ict +ĉ html +to o +. const +Ġant erior +ĠW u +(key s +Ġul tr +_p oly +ĠT ap +ĠB ud +A WS +Ġcrash es +_t ot +Cont in +-h anded +alth ough +ภļ +ific ent +Ġde ve +ut ory +ĠW orth +_M S +Ġfloor ing +Ġsell ers +ĠThank sgiving +Ġp ng +Ġval ores +Ġslee ve +Ġfil le +Ð IJ +Ġappoint ments +Ġv im +User Info +BO OST +Ġpos ed +initial ized +.product s +ĠLeaders hip +man uel +' % +em arks +Per centage +(d ist +. avatar +(h Object +ä» Ĭ +_ iff +ic one +; ) +_n il +Ġab ol +е ÑģÑĤ +Ġven ues +.Con vert +! ')Ċ +.B itmap +sk in +_C OLUMN +Re v +G RESS +g ow +Ġw ished +tract s +.assert False +Ġscreens hot +Ġfo is +Com b +Line Width +ĠGr ab +Ġint ensive +ĉ sh ++ ) +.first Name +_PRO CESS +Ġt ilt +it ored +.L OG +Ġb ak +Ġintention ally +.play ers +(c anvas +)) )čĊ +.Pro vider +_P UBLIC +T alk +ĠL iv +ched ulers +Ġl c +ad ic +feature d +.res ources +Full Name +Ġmean while +B uffers +Ġres olver +ĠS AP +_T E +G NU +ĠForms Module +_ wh +ĠS we +.widget s +Ġcabin ets +Ġsus cept +ĠB ott +activ ex +av ar +ant ics +Ġ" =" +_k wargs +Ġgame Object +ĠAng le +.I ter +mar sh +ĠB irthday +ĠC MS +request s +ĠPear l +_E OL +Ġlin ux +( org +_M ouse +.con structor +Ġz d +Ġk icks +art isan +Ġe ax +K n +pon ge +ĠFin land +Ġmet res +ĠAss essment +part ner +/ pre +! ',Ċ +[ Int +Ġos lo +date picker +/ String +op lay +ĠHe brew +, double +Ġtrab al ++" \ +ĉ EIF +/ text +_F IRST +ĠP ete +Ġe go +Ġextr as +P DO +Ġreg ulate +ĠQ Widget +st s +ĠSh ows +ĠN HS +.c ourse +p thread +ĠF uel +.t imes +Ġ ° +Ġstr ides +($ ('# +( words +Ġrhyth m +Ġsp ont +Ġsens ation +Ġsp ike +C losing +页 éĿ¢ +N umeric +Ġbreat he +Ġfin ale +_F ACT +in ion +Ġch ill +Ġform ally +ANG ED +Ġ' :' +ĠпÑĢ Ð¸ +a q +ĠFab ric +(l at +ĠPr incipal +Ġer ro +oc ale +N om +Ġf ost +_C USTOM +.int ellij +ert ools +Ġcl asse +adi ents +Ġfundra ising +EN E +_OPTION S +_ ob +// }Ċ +Ġprote ctions +.se ed +N V +term inal +;; ; +P redicate +Ġì ¶ +Ġbomb ing +G F +Ġch ew +)) ). +qual ified +] ={ +list en +C ENT +d igest +E ast +Ġd iver +Ġend points +Ġe e +Ġcolle ague +Ġdissert ation +_com mit +_D AT +. rc +Ġbre asts +ĠR ug +ĠP il +Contract s +ĠBry an +Web View +Ġconcent rate +ĠIn ner +Ġ' | +std out +_S ub +> -->Ċ +V ol +ĠS SD +)) ), +. Optional +Ġnurs es +Ġor b +_ pe +);čĊ čĊčĊ +pl aced +ess er +Ġther apeutic +Ġwhites pace +Ġa ston +Success ful +Ġpr aised +ĠW es +Ġe ighth +ir al +Ġvrou w +Ġf action +_b ias +Ġw itch +Ġnp c +(s b +ĠRod rig +_b ig +Dep endency +ĠAb raham +ard i +C AR +n os +Ġabund ance +Ġnut rients +in stein +.V ert +ĠI SS +< U +Ġsum s +_h ist +Ġfar mer +ĠA br +Sh ot +ĠBad Request +Ġh ass +ĠR ails +Ġaffili ated +æĿ ¥ +Ġer f +IN F +ĠView Holder +min i +ĠR oth +Ġfaith ful +ĠPhill ips +AND OM +]. [ +_P AY +ĠAr ctic +f aker +D igit +M ale +std err +se ys +Ġ Å¡ +_rem ote +li que +Ġin def +ĠIndust ries +it ra +_p airs +< iostream +Ġsal aries +ik en +.F rame +PL IC +_S PEC +ĠMed iterr +Ġsystem atic +Ġinter rog +Icon Button +se a +int ro +ĠIss ues +enc rypted +Ġintern ationally +Ġsn printf +Ġpast a +ĠBrad ley +_ Status +AL K +_P AD +.l aunch +< select +Ġhar dest +Ġph y +Ġ(( * +-s lide +ĠNob ody +S u +Ġas ÃŃ +close st +_initial izer +Ġsupport er +-g en +Ġt ales +Ġcor p +_f u +s at +ne ighbor +.M igrations +Ġal gun +Ġsin on +.S pec +? ,Ċ +.G L +m ale +Ġmon itors +yl an +-L icense +.m atches +ĠA BS +ĠM ast +ĠW allet +($ ("# +Dir ty +Ġco pe +Ġinterpol ation +ous ed +ĠJ ets +.F LAG +.C ancel +.Event s +ne ver +ĠM Hz +> D +Ġs ervlet +bast ian +Ġ> & +S ID +_cl k +Ġdiv isions +} ',Ċ +Ġd ildo +Ġpar ade +m ajor +Ġab oard +; ++ +Ġf usion +"}, {" +ĠDialog Result +ĉ arr +- em +_n r +(h andler +.N ET +.Xtra Reports +ĠSh ah +ĠB rief +- , +Ġprec io +ĉĉĉ ĠĠĠĠĠĠ +Ġt ant +ĠGrand e +/ xml +_IC ON +ĠR etro +un que +Ġn ag +to Fixed +X L +Ġdecl aring +ĠCon crete +ĠAm azing +ĉprint k +Ġdeb ates +D ATED +Ġaest hetic +emet ery +Routing Module +ĠNash ville +W AYS +Ġw olf +Ġobserv ers +OT A +ans on +Ġe a +Ġgreen house +ĵį ä½ľ +Ġst air +Ġimmigr ant +_app ly +pe are +ĠBloom berg +_PL AYER +Res p +æŃ £ +Cho oser +ĠI Collection +P eter +Er ro +.detect Changes +Map s +Ġs queeze +ĠHom es +weg ian +Ġformat ting +Ġnegot iate +ul d +ĠN ep +ĠQ B +Ġeconom ies +Ġ*/ , +Ġredu nd +ĠA ber +.IsNullOr WhiteSpace +yc led +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĊ +_S h +Ġske pt +Ġre created +Ġget Type +Ġmarg ins +Ġcolon ial +ch arts +// @ +Ġprocess ors +è¯ ´ +b atis +æĦ ı +ator io +mention ed +P atient +Ġpre y +Check box +_x path +.s kip +ĠMorm on +ĠMemory Stream +CRE MENT +Ġk u +m eld +\ Data +ĠK ernel +il tr +éĢ ģ +( profile +Car bon +RO LE +( pl +] *( +.m emory +Ġmed al +Ġadvis or +it ät +Ġh dr +ier ung +ĠProvid es +( alpha +Ġteen agers +- parser +.L atLng +] ()Ċ +Ġfel ony +ĉĉĉĊ ĉĉĉĊ +BO OK +Ġsl ash +Ġclear fix +ĠPro phet +å® ¹ +right ness +-f i +.k ind +ert on +J im +Ġmanip ulate +Ġworks heet +ol in +st ars +Ġart ifact +_EM PTY +ĉm ain +------------- ' ; +Ġexpress ing +ĠI Q +ĠF act +/************************************************************************ *******Ċ +_m ass +)) : +Ġcon dom +Ġcreate State +omet own +Ġir r +Ġ> ( +> B +iter ation +ãĥ ª +Ġshirt s +ount y +-> $ +_S IGN +ĠD ale +Ġj j +E asy +F re +ĠN y +Ġch lor +match ed +ĠG erm +- UA +ĠN athan +educ ation +-y ard +- che +h ouses +r itional +Ġprox imity +Ġdies em +áºŃ p +Ġd rought +.a udio +ĠLe o +Ġfavor able +in ch +ĠD aw +rib ly +_st udent +id able +O VE +Ġlack s +ounc ing +.b usiness +Ġre open +may be +_G LOBAL +Ġdress es +ĠEd wards +ens ible +ĠHard ware +ĠEx cellent +ĠTime Unit +CTION S +Ġsched ules +Ġseg ue +Op ens +am men +- Identifier +Ġst aring +Ġhapp ily +ĠH ob +' _ +Ġ" ); +ament os +et ched +Ġ/> }Ċ +. Users +Ġinterrupt ed +Contact s +Ġreg istro +in burgh +CH A +_ imp +ph is +s ay +Ġretail er +.N ODE +/ maps +_L AST +ĠCh arge +_g uard +Coll ider +ĠStateless Widget +": [" +(" ../../ +iox ide +ĠS und +Ġ'' ; +un set +add Widget +л Ñİ +el les +alk er +A rc +Ġded uct +G UILayout +ĠV illa +Ġfor bidden +_ where +Ġ\ / +ĠT ib +_A X +] čĊčĊ +ĠB ir +Ġb end +ĠMA KE +ĠM ET +Ġfut ures +Ġweight ed +"" "čĊ +Ġauthor ize +(pro gram +}, {" +Ġcoeff icients +ê s +Per Page +ĠBath room +ĠPublish ing +G PL +Ġsub missions +ĠNUM BER +j Äħ +Ġaddition ally +em pre +ĠSh el +ot yp +S olution +Ġth under +_ ec +ĠĊ ĠĠĠĠĊ +ĠF ellow +Ġk ay +Ġnew State +ONT AL +Im plementation +.L ook +Ġ ents +Ġl ors +ĠB IG +f ab +Ġaver aged +ĠFe edback +ĠW ells +Ġm artial +Ġind ul +ĠComm unist +ĠFore x +ĠAgricult ure +" [ +Ġqu ar +ĠK ont +ĉ view +. Bytes +des ktop +ĠM akes +akes peare +.Null able +Ġspot light +V B +ow y +(t orch +tr idge +_b ounds +Ġapolog ize +.add Item +ant d +* );Ċ +, u +(g en +ç» ĵ +re ator +ĠC ord +ou pper +.m etro +Ġ ew +ĠW ORD +.A fter +Ġdet ained +ĠHam mer +ex isting +Ġo st +Ġmon ument +-c ustom +User ID +ĠN om +Ġre jection +(d im +Ġsingle ton +ĉd ie +ari ance +re ports +] != +eld a +Ġpreval ence +_reg s +." . +Ġfemin ist +Code c +Ġ **Ċ +(label s +_M ARK +FA ILED +Ġadminister ed +W N +ĠĠĠĠĠĠĠĠ ĉĉ +Ġn oun +w ig +Ġg otta +Ġr if +- im +ĠPaul o +ĠCommand Type +] ))ĊĊ +-z ero +Tr aining +Ġl ord +_ art +re ddit +C ert +Ġpes o +R ot +Ġend anger +.d r +user Info +un ts +n v +ĠTrail er +-f irst +(m ake +Ġbenef ici +-bl ack +i ÃŁ +Ġund oubtedly +Ġm ex +ĠAnc ient +( as +Ġdes cent +P ick +Ġrep lica +$ obj +ä hr +Ġar rows +ft y +ĠLib ya +ug a +charg ed +T ur +Ġh omic +iss en +ĠF ake +Ġbe ers +Ġsc attered +( Time +UT IL +Ġbureauc r +/pl ain +Ġstick ing +FA IL +ĠC ovid +Th ird +_p resent +ĠPier re +Ġë ª +Ġ[... ]ĊĊ +Pro b +ĠTra ffic +ica o +do ctor +Ġ), ĊĊ +T abs +al u +ï¼ļ âĢľ +Ġinher ent +_N o +rit is +ĠPro of +.b asename +ä¼ ļ +Ġch im +ĠProt ected +c rit +Ġpr one +Ġк он +ĠHero es +Ġan xious +Ġan os +Ġweek ends +Ġs ext +Ġredu cer += UTF +h alf +ĠS aw +.m m +Ġnue va +.current Target +.l ua +_EXT ENSION +ĉ reg +ĠC trl +_ align +accept able +Ġrush ing +fr ac +Ġbo asts +F ive + ± +ĠTem perature +> ): +Ġchar ter +RE ATED +Ġsubject ed +Ġop c +health y +使 ç͍ +ĠScient ific +Ġfra u +ri ages +à¸ Ķ +.in ventory +ation ale +M ad +min utes +>> ();Ċ +ĠEn v +Ġrecord ings +Ġsusp icion +sql ite +ĉ read +ãģ ¦ +Ġwor ries +.put String +ĠSh anghai +( uid +r er +ĠvÃŃ de +") : +Ġmethod ology +Ġк оÑĤоÑĢ +cc c +av ad +Ġindu ction +ĉ Thread +, string +ạ i +neh men +u ition +Ġ* __ +.em f +Ġì ľ +/th emes +ĠN ine +. One +ĠEm bed +Ġf az +u ations +Ġpriv ately +Ġl ing +[ F +ush i +Ġlaunch es +( KEY +G MT +Ġaim ing +pat ible +ĠB iden +i w +ĠD egree +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġ$ ('< +á rios +to UpperCase +ìł ľ +ĠE UR +Ġovers ight +Ġtable sp +Up dates +.m akedirs +Ġhum idity +/ template +Al ways +( IS +_c ert +D ig +Ġunder way +ort on +ĠHur ricane +Ġsp ends +ĠSeg ment +Ġfl ies +ĠT oggle +ĠLyn ch +Ġs enses +ĠK os +set Enabled +ist ically +Ġtest er +Ġadministr ators +Ġtag ged +Ð ĵ +Ġshort cut +ĠRes olution +Ġsuperv ision +ĠAsh ley +Tr acking +ul atory +and el +ist en +Ġun re +(d iff +ANT S +Ġr ider +Ġs Äħ +.S eries +_ orders +ORIZ ONTAL +Ġret ention +ãĢĤ čĊčĊ +Ġdi agonal +ĠC ancellationToken +_ Internal +Ġru in +.Q t +ocr atic +T el +ĠAn swers +m atic +Ġx p +at em +_j obs +_ any +Ġsen iors +Ġland mark +ĠQ List +Ġman eu +ot ify +/ ";Ċ +/ server +ĠPhil osoph +uten ant +( io +h z +Ġauthentic ated +d v +- Compatible +Origin ally +, function +ãĢĤ čĊ +ĠRepresent ative +as ily +irc uit +.d t +(m ath +.M arshal +[ , +ĠC ities +_ turn +| )Ċ +Ġcant idad +al ter +ĉ ui +ĠNe braska +Ġsk irt +.b g +Shared Preferences +( style +Ġg rief +g ew +Ġsaf eg +ol ang +_l ists +ì Ľ +Ġgran ite +Ġhott est +.j dbc +.C ustomer +Ġâī ¤ +Ġwa ar +_sc ene ++' / +ĠJ TextField +Ġse ating +Ġwe ars +Ġ` / +C ases +ĠY outube +ı m +Ġbal con +, G +Meta Data +- price +SC R +Un ity +Ġtr unk +={` ${ +Ġearthqu ake +Part ial +Ġsub st +Ġelim in +=" '. +//* [@ +Ġsuperv isor +vro let +_ article +Ġp ane +b io +Ġmot ors +N M +F rank +Ġon ion +- word +Item ClickListener +Ġb rit +end encies +Com puter +_r unning +( day +- he +(n amed +ĠS ach +о Ñĩ +c ampaign +.Ab stract +(w rapper +.p ay +Ġu w +Ge o +r ails +/ select +icht e +son s +E VENT +Ġal iment +Pro viders +A wait +_INTER VAL +. off +Ġgl uten +_cl oud +Ġw en +.ex tract +ĉ button +/ MM +Part y +Ġdem ographic +_err no +Ġh iking +(' ')Ċ +", @" +Ġw it +r á +olog ie +ĠSt yles +ĠBrowser Module +.Request Mapping +ic ans +P AGE +cre ation +ĠF erguson +ud ed +num bers +ĠGT K +Ġpresent ations +ĠB obby +_s pan +est yle +Ġilleg ally +abel a +Ġbattle field +cap acity +ter ror +] ");Ċ +Ġwar rior +le ader +ĠDB G +ĠRe venue +Ġvig il +Ġcounter parts +( Error +ACT ER +Ġhe eft +Ġselection s +ze ug +t om +-t wo +. ;Ċ +_st atement +ĠA id +ĠV ul +_r gb +Ġpr izes +Ġedit able +ĉ form +ın ı +.de cor +D emo +lic es +Ġen ctype +rat ulations +ĠR OS +_ch ars +ĠJ ahr +part ial +Ñĥ ÑĤ +ĠRe ceive +ĠL ands +AP TER +Ġch opped +.. " +ĠAn aly +ĠU ID +ĠR adeon +ĠB ee +Ġun m +> M +.find all +Token izer +ĠWH AT +Ġs j +D rawing +E ss +ON D +Ĭ ¶ +(p acket +âĢĶ but +Inv ocation +ĠN uclear +? ;Ċ +Ġgrand es +ĠC rypt +rem ark +Ġ'../../ ../../ +Ġin ability +m agic +c ats +Ġsim ulate +: ${ +in flate +Ġen er +: NO +ip les +Ġmer it +ĠR ated +Ġgl ue +/b log +Ġg ren +Ġthr illed +.C H +unc an +ĠPR IMARY +Ġper sec +Ġfe ared +.M IN +ĠThe ater +é Ĵ +ategor ie +æ® µ +Ġappet ite +s quare +ĠAlex and +.User Id +_g t +_ enter +Ġgradu ates +Fragment Manager +Author ize +-N LS +(M y +Ġtri umph +ust ing +_PARAM S +Char acters +(: ,:, +_B UILD +M Hz +Ġwash ed +Ġun cle +Ste ve +ard own + ${ +_confirm ation +Ġtro phy +Work s +ĠElect ronics +ĠMediterr anean +_m etrics +Ġannounc ing +ĠD AY +_pro to +Ġp ear +base Url +ĉĉĉĉĉĉĉĉ Ċ +Ġcoord ination +: N +.an imate +ĠC otton +_h it +â ľ +Ġjet zt +if ter +(f ields +own load +ific acion +.c uda +ĠLi u +> equals +ĠA ce +ÑĢаР¼ +ĠSuper man +ĠGarc ia +Ġarrest s +ag ar +Ġ{} ) +Ġmac ros +rou pe +ê tre +Ġtw isted +str uments +_ (" +_ vertices +ĠTrans ition +и к +[ max +m ind +Ġaccess Token +Ġun le +m us +c op +ĠF actor +Ġcon ced +Ġre tr +.l inalg +-s lider +ob l +_Static Fields +Ġz ombie +s elling +Ġch ap +Ġsh aking +ĠTrans late +ĠAm sterdam +ĠE TH +_EX TERN +k d +_d isc +Ġpreced ing +Ġpri x +Object Name +_mod ified +ard ware +Ġ?> "> +ĠD W +` ${ +Ġ?> ">ĊĊ +Ġspin ning +_p ending +Match ers +. Keys +ĠP V +en us +ant is +Ġdisc ard +Ġh aul +Ġem pir +Ġpath way +Ġo ak +м ен +-ind uced +Ġimp air +ĠCal gary +.is Hidden +d z +_ include +Ġg m +Ġ' (' +P Y +uggest ions +Ġcommod ity +c ro +/ sub +Ġget Instance +ĠLeg acy +ĠK il +B al +( short +In form ++ x +* r +ĠHope fully +or ate +Ġmach en +Ġtreat y +ĠO ri +.p ublic +-h orizontal +Ġtact ic +Ġb ord +w ares +Ġam mo +ĠL ists +Ġequ ations +/ her +ĠNS W +B ounding +_C ollections +Ġav ail +.Drop Down +è ° +Ġh h +Ġl Ãł +.p b +Ġmemor ial +ĠAT TR +Ġexhaust ed +Ġt sp +ĉ redirect +Ġlik ewise +ST ER +L java +Ġcondem ned +oca ust +(str ict +Ġexem pt +Ġs ms +Ġex agger +S YS +Ġl ounge +: ^ +Ġto dd +de b +ator ial +ĠPort er +Ġtu ition +Ġexem pl +Ġp aren +.line To +Ġkid ney +Ġç a +Ġc ui +ï¼Į 请 +X C +Ġmo ż +Ġnomin ated +l ung +Im Gui +ĠB uzz +Ġstere o +port al +res as +Ġk lass +Ġdraft ed +Ġproject ile +/g pl +(param eters +* )Ċ +Ġassist ed +ĠNS Integer +s itemap +:n th +.View s +.Argument Parser +Ġme er +z ier +ĠD ig +Ċ +Ġpl ag +p ine +Ġblank et +Ġ: - +Ġl cd +------------ --- +(" " +Ġtact ical +ĠRon ald +ex tr +ĠF est +Ġf uer +-n avigation +Ġk b +gh ost +Ġhandle Change +_cl s +() != +Com parator +.v m +ĠCo x +_re view +/ @ +_c ookie +Ġrecogn ised +ld ap +Thread s +ĠSex ual +ĠB earing +(S QL +Ġx r +Ġth igh +URL Connection +ĠSU V +Ġm Context +Ġinc idence +ĠE ste +.s up +_t e +(EX IT +C MD +/ "> +Al most +ĠU ne +Ġand eren +ĠSingle ton +Ġb ore +Th ink +Ġn arc +] initWith +_sh op +(str ategy +! ', +her its +ĠDes k +_m achine +.net ty +ı nda += < +ĠQ R +ĠS idebar +.split Container +Ġon Success +Ġmon key +En joy +(n odes +pect rum +Ġ(* ( +ĉU INT +, height +ĠNetwork s +.t ail +.l inspace +Ġ" ... +List en +Æ ¡ +.Ch annel +- defined +Re peat +ad just +ER M +_ application +.assert NotNull +- stream +Ġr abbit +Ġposition ing +Ġw oke +Ġf ing +Ġmulti player +Ġregister ing +un til +Ã¥ n +( :: +uss ions +Ġpot ato +ĠE quals +.S up +/ap ache +Ġ( = +. ") +.p tr +ĠSpe ech +.cl ip +ĠGab riel +Ġmusic ian +/ issues +.sh op +ĠH ier +_RE T +_b ucket +ãĥ ¡ +av s +Ġro z +fl ower +Write Barrier +ĠMil an +Ġlegisl ature +ĠD oll +Ġprov ing +.concat enate +âķ IJ +Ġg char +cdn js +b les +ĠList ing +л о +.xr Label +ĠS ak +just ice +ĠVal entine +un less +Ġp iger +(r un +Ġtest ified +AN A +ĠRem oves +)) ));Ċ +rec ated +ĠRuntime Method +Ġcon qu +ãĤ ¢ +Ġt issues +ail er +ét é +- Star +Ġfl ames +.set Icon +Ġsup ern +Ġvag ina +- variable +Ġwell ness +C UR +Ġbel le +.get Request +Ġp oco +ben h +ag ens +Ġsp ill +ĠJ ur +Ġdispatch er +н ого +emon ic +(dir name +ĠÐ Ķ +Ġpas se +Ġg anz +ric ing +E U +Ġmuj eres +ess en +.at tribute +j j +ĉĉ ĠĊ +[ ^ +Ġstrtol ower +lex er +ect ar +hot el +.s quare +Ġr all +Ġlower ed +hand led +Mark et +ĠUs es +iv as +.B usiness +ãģĹãģ ¦ +D IV +Ġw asted +Ġav oir +ê m +_ACC OUNT +. et +ĉ SDL +k ap +Ġf ox +up pet +{ },Ċ +", ' +F avorite +P END +ĠA ES +} ), +Ġded uction +Ġpol ÃŃt +Ġcomponent Will +ĠT elerik +_SE LF +Ġm use +C raft +Ġd ens +ठ¿ +( tp +Ġt asty +Ġbal ances +Ġded ication +ĠWall ace +Ġun law +\"> \ +Ġm um +- update +ement e +Ġs oda +Re public +as mine +é ric +( Status +ĠJson Convert +ĠD isk +.Red irect +Ġfilm ing +/m ol +R o +Ġv ille +Ġtrab aj +Ġsyn thesis +reg a +Ġr l +S cheduler +ISH ED +current User +(error s +' h +_b ot +x imo +ĠUS ART +_s uper +_DEC REF +н ой +_RO W +Ġprom otes +ĠT A +Ġhor as +ĠRep resents +Ġname of +ĠEx c +ĠGar age +Ġse ine +, # +Ġher b +/ resources +Ġple aded +.r adioButton +Ġæ ĺ +O ps +ĠN est +c string +ĠDef ence +Ġref ere +_le af +Ġrevel ation +ë § +.execute Update +_W ORLD +Ġexp ans +(" \" +j ab +Ġdoub ts +ĠGe ometry +Ġintrodu ces +Ġsen ators +Ġcan al +.h elper +ĠBi ology +_SE NS +.pre vious +-t ouch +ab it +Ġimpact ed +Ġbr ackets +.d irect +acc um +Ġtest osterone +ĉ action +ĠCh ance +Ġpe aks +CppCodeGen WriteBarrier +Ġun belie +_p ress +.R el +ang led +/ templates +-- >čĊ +l ime +Ġsufficient ly +_ nt +Exp and +.is file +Ġis Empty +Ġq t +Ġmul her +ac ob +Ge orge +å¸ ¸ +Ġass im +as o +Ġcompr ised +O V +(CON FIG +ĉw riter +Ġdes p +Ġten ure +(c r +.p ool +ĠB rend +Ġc ensor +(time out +Ġple a +.W rap +Ġtight ly +ĠW ere +ĠI gnore +abe i +Ġbr idges +Ġcondem n +Ġsimp licity +Ġrout inely +Ġblack s +j b +ĠP it +U tf +Ġ/ Ċ +re load +Ġset Object +/g lobal +Ġf atty +Ġsock s +Could n +Ġerot isk +æĿ ¡ +ĠPress ure +ĠM az +n pos +tol ower +ĠE Q +ute ur +ĠM oment +Ġet a +{{ -- +Ġgraph s +ĠGu ar +r ine +( -- +ĠHttp Status +(st udent +* np +Ġrail way +Ġas ynchronous +_v m +'] ,' +, text +mer chant +(G uid +ĠG ra +ix er +fetch All +.add Listener +fl ip +* $ +> (), +Ġsun light +ass igned +Ġab c +ĠC OLUMN +ĠðŁĻĤ ĊĊ +) ... +Ġen semble +Ġnew line +_S INGLE +ied ad +Ġdark er +orm ap +Ġl ion +pl its +Ġillustr ation +ĠI EEE +Ġv ista +ous ands +****** * +ĠTom my +Ġh ue +S el +Ġa ura +ĠTher apy +Ġanim ator +.con straints +Ġv ague +(" ") +Ġvill ain +Ġbless ing +Ġstring Builder +ĠM isc +ĠD IR +f ax +- node +ĠWalk ing +ĠA U +s ess +Ġgr ill +VERT ISE +ĠF oods +Ġt ournaments +à ĵ +ĠMar sh +Ġw onders +Long itude +.Command Text += input +_enc oder +page Size +Ġget State +> >Ċ +.g rey +p od +Ġread ings +Ġre consider +Start up +Ġexc er +.b alance +_c ycle +_T ime +LOC AL +ĠE FI +ĠRe yn +.set Foreground +by n +Ġdis connected +ACT IVE +Ġembed ding +ick ers +Ġsurround ings +* c +Ġgar ant +Ġb f +Ġw ipe +Ġ ä¸ĭ +_T RA +ado x +ç ķ +Ġsu cks +ĠS ongs +ĠAssoci ates +ĠB ald +ĠB rett +ven ile +Ġv t +Ġin ade +Ġres igned +ĠGl enn +.p attern +.Data Bind +Ñĥ м +Layout Inflater +ch et +ĠTest ament +.m s +Ġp av +ĠReact DOM +ur dy +AD ATA +M u +/ actions +ĠJ s +_ex tract +ĠBr ing +: id +str t +iv ation +Ġoutr ight +az u +loy ment +и Ñı +al do +ĠP ublisher +E ducation +Pa lette +_d rv +Ġ($ ( +ĠAnd a +Ġrem edy +Ġincons istent +te ction +Ġregul ators +Ġshort est +(p air +ĠInstall ation +Ġdefend ants +Ġ( ); +-l arge +M el +Ġthreat en +н Ñı +Ġfet ish +ot ine +_d ic +Ġ< $ +Ġst agger +sp i +$ response +S erv +-b orn +j os +ĉ img +ĉW HERE +_l t +å½ ĵ +.c ost +ĠT ue +.label s +ĠL V +wcs store +ĠJes se +ภ« +Tr ade +Ġpredecess or +ë Ĥ +fin ally +_g eneral +ogg ler +_REG ION +n ement +Ġblog ger +ĠHar bor +ĠD ataset +[ w +Ġattend ees +. ico +max imum +.Un lock +_SY NC +ág ina +Ġdown s +ĠW ii +]) / +Ġkick ing +unic ation +ĠD AC +ĠID S +ĠR ental +Ġcurrent Time +Ġvacc ines +ĠDev il +Ġn ors +_m ouse +urre ction +(n o +Ġ> čĊ +Ġaggress ion +Ġbre eding +.s ymbol +im an +Absolute Path +ĠWH O +_fl ush +- root +arn a +& M +Ġf athers +ĠR ocket +ive au +Ġw ander +Ġcom pos +ĠWar rior +ĠSe at +ĠClin ic +_in voice +(dis patch +Product o +at uring +oss ier +ĠM AY +Ġd agger +Ġsanit ized +ĠR FC +Ġpro ph +Ġur ine +Ġgr ind +ĠExp anded +des cripcion +-f w +ĠK erry += name +Ġch k +Ġnation ally +Ġthe e +In c +Ġ? >> +.R adioButton +.Http ServletResponse +/ Y +ĉf ield +Ġhom me +y per +Ph ysical += v +Ġdr iv +ĠErr ors +Ġc Äĥ +De ath +ĠW INDOW +Ġpo et +ĠSh arp +ĠImm utable +ĉ create +Ġge ht +ĠRe form +ais er +ĠInitial ization +Ġimm unity +.com pose +Ġlat ency +ĠLeban on +ĠPar ad +Ġfu els +ĠEx hib +co h +% ">Ċ +ĠCL I +) initWith +-Z a +_C LEAR +reg n +Ġfin ances +.st andard +_C ATEGORY +.lib rary +Ġtravel ers +_w p +ĠE valuation +start ing +Ġ )),Ċ +ep isode +ĠV ariant +Ġda emon +ĠJul ia +ĠN R +Ġdoub les +< v +/r untime +Ġinterpre ter +ĠIN DEX +ĠHol mes +_D IM +Ġp addle +_ex ample +Ġfore ground +.r outes +Ġs owie +S UCCESS +ĠC DC +ĠB D +_ - +as ured +W riting +Ġcurrent Page +( answer +ĠASC II +à ¨ +Ġsocial ly +yy y +ĠSpecial ist +(c ustomer +ist ani +ke st +ĠM ak +Ġth o +. pt +( comment +ĠCon verter +g am +b ins +. tele +ĠVeter ans +_AL LOC +олÑĮзов аÑĤ +inn amon +; width +oh l +Ġfant as +Ġs ung +ĉ K +( Json +Ġneighbour hood +Ġv ow +Ġs ins +on acci +Ġepoch s +im agen +.Ch ange +.my batis +Se ek +W ER +管 çIJĨ +Ġinter ess +_ Event +eder land +Ġterr itor +Ġci udad +uck ed +Ġsn ack +Ġtransport ed +ĠMan ifest +ĠD AT +_th eta +Ġw ont +.ĊĊ ĊĊĊĊĊĊĊĊ +Ĭ¶ æĢģ +ĠEp ic +De ck +l tra +_Z ERO +Ġ[] ; +/ scripts +Ġ---------------------------------------------------------------- ---------------- +æĥ ħ +Ġwe ed +N BC +Ġrap ed +ĠG ateway +[ M +ĠTime out +ench mark +.View Model +Ġporn os +ĠY a +th ritis +ĠFly nn +Ġme ga +ac in +Ġtrib al +.app le +ĠB lo +â n +ib i +ro v +ĠL ives +^ . +get Request +ĠEst ablish +cont ainers +Ġst arring +Ġcele brities +ĠRel ative +ĠHe ights +Ġtq dm +ĠNorth west +iv ic +ĉ cl +Ġautom otive +ent ric +Ġfort unate +Ġfire place +se ud +nick name +; s +_C AL +h alt +(n s +_de leted +Develop ment +m ovies +Ġident ities +Ġprompt ly +ا ÙĨ +Ġant e +Ġ" ',' +åı £ +imp se +Ġy ap +Type Name +Ġb itch +Ġassoci ates +HE ME +- empty +ĠØ ª +ol vers +Ġpist ol +Sc oped +ag ner +'] ==' +ĠI MP +ex c +Ġo mitted +Ġmind set +Ġ[] ( +Ġor n +_C AM +A vg +Localized String +ĠN atur +Ġcom poser +ĠPlay ing +Ġover d +_ utf +.s k +ĠF ol +$ page +, Object +Ġbe es +al ary +bul let +_lib rary +O ffer +loc ated +Ġ(_ , +âĢľ He +ĠOwn ers +) ).Ċ +Ġb ri +.Ad min +kt ion +лÑİ Ñĩ +Ġerot ici +Cancel led +Ġa gr +re views +_d ma +RI CT +Ġg fx +mp i +pp o +Ġ// @ +Ġupper case +Ġcommit ting +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +User Data +Ġv ai +ĉs ort +Ġcongr at +Ġd ioxide +д а +. area +ĠJosh ua +ĠK och +_b reak +az ure +ist ical +_AL PHA +_ views +Ġelim inating +OM B +en umer +ĠHy dro +(* ( +ERT ICAL +Ġinev itably +Ġst ole +-e ast +ier on +Ġl inger +/d oc +Å º +ĠAl ready +as io +Ġ-- Ċ +Ġabb rev +ĠAt om +h im +ĠINS ERT +s un +âĻ ª +CON NECT +er ator +ĠM anning +Ġ: ( +g as +=> ' +Ġquery set +; }čĊ +ĠPop ulation +uted String +res ident +_F ONT +ĠRes pond +Ġobsc ure +Ġo bservable +ĠContrib utors +k on +ĠMus k +ex ao +ĠT ub +Boot Application +S OR +.H orizontal +.find By +.p ower +Ġposit ively +ven ience +ĠJ ong +Ġwh istle +Ġз наÑĩ +Ġl ending +Ġdestruct ive +Ġon Delete +author ization +(); ?> +_ original +sc ience +at ra +?, ?, +ĠAs c +Ġconvinc ing +$ a +org en +_D ate +ĠPro vide +Ġlon ely +) 'Ċ +ex change +; ?>Ċ +.f ast +S amples +L ondon +'] )čĊ +ĠI onic +Ġp esso +ĠKn ights +ĠR af +_attr s +Ġrepe al +> Main +ĠOrder ed +_N ew +=" "> ";Ċ +ĠS ERVER +ĠHE ADER +_ velocity +ĠIn voke +.timestamp s +Ġs ulf +I QUE +Ġinhabit ants +ph ins +azz o +Ġmon o +Leg end +Ġnon ce +IF E +; ";Ċ +- create +" ",Ċ +per mit +ĠImm igration +Ġpath name +ffect ive +âĻĢ âĻĢ +Ġex ams +- event +ĠT ill +[m id +F IX +; color +( Order +_tra its +Ġorder By +Ġs unt +ĠNich olas +Ø ² +Ġsun ny +in ers +Ġaccess ibility +ĠH B +.com p +ĉ op +Ġminor ities +ethe us +Ġcollabor ative +pr it +H IR +Ġwr aps +ĉd raw +g od +ĠI X +.app s +ĠN M +Ġirre levant +ĠT igers +Ġdi ag +G V +ĠAccess ories +k ont +Ġsimpl ify +ĠF avorite +_t ools +([] );Ċ +Ġtow ers +B es +Ġhun ter +Ġsal on +(b uff +ĉ debug +Ġmal ware +M oving +- options +) +' +ĠLO VE +_S OCKET +_f in +ĠDel aware +Ġsher iff +-in valid +ĠF ULL +Ġп од +el as +" strings +ĠRepresent atives +s urface +res olved +ht docs +)) :čĊ +Ġpress ures +Ġnorm s +Ġpl a +Ġs urname +Ġpost al +ĠDep art +Ġsla ughter +or ida +Ġhe bben +Ġdes ar +comp act +_L ANG +åIJ Ī +op oly +_r ad +ĠST DMETHOD +L azy +ĠĠĠ ĉ +... , +( web +ĠP ont +Ġet was +Ġup ward +_h at +Ġ], ĊĊ +Ġbase Url +Ġworry ing +-add on +(get Class +S PI +Ġcapt uring +) },Ċ +Effect s +Ġcompet ent +Ġf oul +Ġsubscri bing +ĠO BJECT +IX EL +b ucks +( edge +(p ass +ĠPet erson +Ġbo obs +ĠD elay +_s quare +el im +ot ers +_P C +% E +on click +ĠSV G +Ġto pped +Ġf ist +sm art +ĠR alph +( owner +j ours +Ġbron ze +ĠArgument Exception +( original +_S CALE +_c p +Ġrecomm ends +.set Style +S ure +L AND +Ġrepe ating +M att +. Visibility +Ġenter prises +.Set up +(sc ene +ĠRe active +ur ge +b w +.P ut +p ersist +.c ookie +ĠAud i +` s +sup plier +( Form + ¡ +_s o +Į Ģ +ĠLeg ion +t te +N d +L oss +( attrs +.sc atter +Ġg room +Ġgl impse +Ġn ails +Ġcum ulative +Ġf azer +_s ervices +.N um +ib ilit +_res olution +ĠT x +umin ium +op a +.s chedule +sm tp +ภķ +ur ry +ü k +go og +_sign ature +.int o +ĠSte ps +Ġhome owners +ĠNS URL +ĠP AC +ĠĠĠĠĠĠĠĠĠĠĠĠ ĊĊ +> ')Ċ +en h +Ġinc ap +$ MESS +Ġmo ins +ĠF i +Ġoff season +press ions +> .Ċ +ĠGr ass +ĠGo al +_p df +Hand lers +Ġstack s +.get FullYear +=[ ];Ċ +è½ ¦ +, V +(s plit +Ñĥн к +Ġbake ca +Ġ~ /. +pe z +t ails +ĠG len +Ġset Image +ĠCom ic +B LOCK +ĉ This +o ader +Ġcapital ist +_ST EP +( Boolean +ĠCor rect +r ina +Ġconc aten +å® ŀ +() :ĊĊ +Ġun anim +ll i +al ars +- ne +Ġdiv or +ĠKick starter +]. _ +< number +/m enu +GR APH +vis itor +Ġimpro per +_N EXT +Ġb isa +background Color +/ input +Ġmo i +Go al +li qu +Ġmiscon duct +Ġcompr ises +aw ns +ĠP ie +ra is +role um +Ġcur se +y u +_p oll +.current User +ES H +]) [ +Ġstory t +)? ;Ċ +* = +ĠB urg +/ layout +_back end +; ?> * '+ +åĿ Ģ +ac ency +( URL +_h alf += l +Ġlist View +( section +.to Array ++ / +ĠRodrig uez +ist ream +Ġelig ibility +:: - +.new Instance +P B +ĠAs sets +ĠCom posite +ĠL abs +ĠHam as +++ );Ċ +Ġbl k +ĠNe o +L uc +@ login +Ġun aware +.m et +_RE LEASE +( ST +AM IL +ri ke +Ġ( ){Ċ +(s printf +ĠAccount s +ĠV IEW +ĠA j +ãĤ ° +Ġwh isk +Ġid i +Ġro de +Ġih n +ĠElement ary +Q ty +Ġintrig uing +Ġå ¤ +J obs +ĉ offset +ĠAh med +ĠTal iban +Ġè İ·åıĸ +Ġinject ed +.Auth entication +_line ar +.Dec imal +Ġapp les +Ġshare holders +Ġb aked +.d iff +ĠE ddie +ok ers +Ġconfront ed +vo ices +Ġt us +ĠSp in +N ODE +_ Un +CT X +/g oogle +Tem perature +Ġ' '). +Ġmagn ificent +Ġstart Index +semb les +Any one +z k +eh en +ĠD ame +. strict +Ġrepl aces +Ġline back +Ġpush es +Ġche ek +ĠSh i +_BY TES +RE A +ả n +_CON NECTION +G ateway +ĠTr avis +ĠA X +ĠBas ically +ĠUp grade +à ª +th emes +erm o +k or +F emale +_att ach +ĠìĤ¬ ìļ© +Ġpo z +============ ==Ċ +(s ymbol +ĠS ector +__ )ĊĊ +_p adding +ï¼ļ " +Ġf abs +Ġr anged +set Name +Ġp error +â Ĺ +ĠFile Reader +Ġful filled +_C urrent +Ġdom inate +Ġsm ugg +Post Mapping +_for ce +Ġb loc +ĠG iant +(v ideo +ĠC U +System Service +Ġ elf +Ġkont akt +ë ª +ke es +gt k +Ġparam Int +Ġmark up +u ales +Ġaccount ed +Ġgang bang +RY PT +ĠW rong +Ġcred ited +ĠM ESSAGE +Ġfl aws +Ġbb w +Ġmetab olic +ĠO EM +/ event +(C ollectors +mont on +ap pear +Ġopt ed +Ġche at +Ġd av +ĠPro ceed +Ġê ¸ +ank ed +и з +ans k +ĠH ang +ĠC ler +Ġdis gu +Ġc map +.cl js +Ġa ument +le z +ĠJo ined +_re ceived +Ġa erial +ot el +Ġgre et +" s +ĠGen esis +ĠCal if +pan ion +Ġtail ored +m apping +and Expect +.tr ack +at omy +ĠO w +ull ah +.Y es +ĠSimple Name +db h +' en +Ġnons ense +Ġphilosoph ical +(get Context +Ġis so +ĠA CE +start Date +Ġb ÄĻd +ĠAUTH OR +ĠGlo be +Ġinsect s +_A l +ush ing +è® ° +/ Home +ĠLocal Date +need ed +hes ive +Ġill usion +äº Į +Ġtr at +x o +/d etail +_M ATCH +Ġbroad band +Ġw al +ĠIllegal StateException +IRE CTION +Ġnor theast +es ium +ĠClient e +ul ance +nt y +Ġt ecn +Dev ices +Ġgr ains +ĠO g +ĠS EL +ud iant +Ġ++ ;Ċ +Ġexplan ations +oc co +Ġdi ets +Ġco hort +( controller +.Iter ator +-r ich +ro cess +G D +Ġcar bohydr +Ġfri ed +ĠEmploy ment +ìŀ ¥ +ĠLeon ard +_ ${ +qu ares +Ġcompan ions +Ġpar is +Ġstim ulation +ĠZ oo +Ġre levance +ĠCol our +Ġspe ar +ot ional +ĠL ite +ĠK osten +Ġà ³ +_att achment +orph ic +Ġdam it +Ġd lg +Ġthr ive +CH ANGE +ĠApp arently +Ġat ual +Ġroot ed +( images +aw i +ari at +Ġch erry +STAT IC +m nt +ĠUser Id +il let +ĠHis panic +Ġn ak +Ġcent ro +Ġdim s +_initial ize +ı k +ĠCent ers +RE N +Ġevolution ary +ĠTop ics +_d amage +em er +Ġr und +Ġpun ished +Ġcub ic +f air +[] ;ĊĊ +Ġinstant iate +Ġover see +- delete +unte er +start Time +ĠP ipeline +_G AME +ĠC ir +ĉ Null +.Format ting +uc umber +ĠR ide +Ġz oo +Ġcheck er +åIJ Į += C +Ġg rit +"); // +_x y +ĠDe claration +Ġcall able +F oo +ĠList Item +Ġin accur +ml in +ĉ Data +Ġev olving +aw an +Ġca fe +fol k +_ID X +ĠAny thing +ĠPalest ine +ĠGrid View +Ġcol ony +ĠGerm ans +( + +.p id +.js x +ĠSuper ior +Christ ian +ĠL ect +ĉ Game +Ġinstrument al +Anim ations +д ал +ĠMos es +ĉĉčĊ ĉĉčĊ +z s +k te +ä¸ ļ +_D IST +bit map +d B +Ġp ersistence +ÑĢ Ð¾Ñģ +$ l +B ron +Ġ{ | +_ch art +ĠCon sum +Ġh emp +Ġ" ))Ċ +Ġattack ers +Ġknowledge able +Ġc et +Ġvir uses +' I +Ġpitch er +Ġsweep ing += list +apt ops +.de pth +Ġinstruct ed +ĠR us +benh avn +Ġи н +S ports +Ġon set +æĿ ĥ +. RED +_s i +ĠP ST +.on Change +> tag +ĠR oh +_char acter +ĠLaw s +ĠB achelor +_s wap +.re activex +Ġreward ing +Med ium +- [ +ĠRec ently +J oint +part ition +ĠMin utes +Ġind o +Ġabsor bed +ĠG N +_IN D +Ġsab er +Sp awn +output s +ĠJeff rey +Ġmed ieval +h ed +Gu ide +Ġpsy cho +Ġgl am +E lim +äd chen +_pl ain +ĠS au +-f our +Ġanaly zing +QU ERY +Ġtom ato +_button s +V EN +.set Status +. Url ++ ĊĊ +Ġcompl aining +deg ree +conf irmed +Ġsub t +p arsed +Ġtor que +Ġtroub led +ĠT ARGET +Ġtrad emarks +ĠCo ordinate +ĠV iv +Ġ// }ĊĊ +Ġapr ès +.get Position +(Key Code +ĠSil va +Ġmet eor +Ġendorse ment +Over view +ĠP oss +.In ject +Ġeven ly +Ġvisual ization +Ġw char +ĠH DMI +Ġfun ct +ick name +',' ',' +Ġfor wards +Managed Object +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠ +ĉ server +ĠOut look +ĠChron icle +Ġdub bed +Ġd ok +ĠW ear +.A L +pare n +. Interface +Inter faces +.c od +Ġd ib +.Global ization +ĠAcad emic +Ġass ms +Aut om +Ġl w +ĠN W +Ġ&& čĊ +Ġproble ma +ĠManufact uring +lim its +-m obile +Ġfil me +/ map +Ġdo it +ĠIn k +Ġsu ed +. arr +Ġunder min +ĠPro c +croll View +__ $ +Ġsidew alk +( that +ภ· +[ q +gram mar +Ġt ë +qu ito +Ġspir al +ext ended +Ġf ocal +Ġdig ging +p as +ĠT all +.pro xy +it ures +TR ACT +ĠRe alm +Ġf eder +Ġorient ed +ĠAltern ative +Ġo we +Ġsour ced +ink er +.d et +S ep +ĠQ ui +ĠPal mer +(_ , +s amples +oy er +ull an +que z +Ed ges +Ġsh out +ĠA chie +Ġha ar +_Con struct +Ġprem ature +Ġre vert +'). Ċ +Ġs chn +filter ed +null ptr +S aved +itect ure +CL A +Ġv l +st ell +ĉ Me +ĠL ip +n ational +Ġwh olly +Ġspr ings +.T imer +ĉs rc +els en +åħ ¶ +Ġcommunic ating +ĠQu iz +Ġt eng +Ġge z +ĠOut side +.S ign +(c s +Ġdisput es +ĠWe iss +ann es +> No +ĠB ach +.remove All +re fer +/d ashboard +ĠA jax +Index Changed +ĠWe ak +' "Ċ +Ġs ights +access Token +ĠJ oi +(d omain +ĉc v +Ġcontin uation +Ġpl um +ad ir +.set Message +Ġ ï¼Į +Ġsw allow +ĠL amp +Ġq w +Ġu u +C oin +ub ic +ĠDe als +r ace +Ġdict ator +Ġmem e +turn ed +ĠJul ie +.grid Column +Ġpup py +Ġp am +Ġ) {čĊ +Ġinv iting +Ġf rench +v im +Ġwr apping +Ġ#- }Ċ +([ - +Ear ly +Ġsh iny +.f aces +Ġreb ell +abc def +ä lt +Ġest imation +ph ys +los ures +_RE L +Ġex clusion +ĠSk ype +we ise +-st op +no thing +ĠE gg +is ors +Rich ard +Ġcounsel ing +Ġcomm em +ĠQ MessageBox +ĠSy nd +ĠFro st +ĠCompet ition +ĠAw ake +Ġt ed +ic iones +ĠDev Components +VERTISE MENT +ott i +.run ner +Ġuniqu ely +.fl ag +ĉ rs +_g eneric +Ġ`` `Ċ +ACH INE +Ġme in +( Application +( br +Ġrat ios +: , +ĠXCT est +ustain able +- www +it les +_T EMP +Ġs yst +umeric UpDown +ĉassert True +Ġw f +. peek +ĠBul g +Ġterr ifying +.M ODE +ĠG W +á r +Ġf ic +Ġcommit ments +- tech +ĠL iquid +ope z +z heimer +a ña +-m edia +( animated +_go al +Ġg um +yst one +.S ET +ĠW end +set CellValue +Ġmsg s +c ash +AL LOC +/ aws +Ġmic rowave +.Point er +ĉ Console +_s orted +ĠFil ip +Pro d +Ġ//! < +ing roup +Ġk s +_T RI +Ġteas poon +ĠAT T +Ġrecover ing +ĠG LOBAL +.P ar +Ġ/> ;Ċ +Ġmar ble +ul ators +ĠC ycle +Ġher bs +_m etric +) ! +_C LOCK +_ Button +H arry +è¿ Ľ +Ġstr ains +ĠApp Bar +ĠCh an +/v ideo +Ġb am +.Pro gress +$ f +lem en +Ġir regular +ĠD uncan +ĠM int +-v ideo +ঠ¾ +ó wn +ĠEM PTY +Ġstack ed +ĠH A +_c ut +Ġwhere in +ĠW ays +(count er +è¯ ķ +Form Group +Ġble w +c ourses +Ġproduct os +ry s +ĠRest r +Ġsty ling +> s +Ġp iv +Ġit ertools +get Repository +ĠI k +_dev ices +lay ui +Ġhalf way +Ġfran ç +Ġtun ing +O A +_N ode +ar de +Ġfier ce +lic ted +# čĊ +Ġbreak through +ĠE rik +Ġb ride +Ġ. " +cul us +ins ide +ĠIndian apolis +ĠE E +Ġy og +urre t +.f s +. grad +_c ards +_ac curacy +_ep i +qu eda +/ org +é ªĮ +Ġcom pte +)) [ +Out side +G reater +ĠRender er +. actor +Account s +Id le +_h ours +ern er +Jo ined +Ġmen j +requ ires +ĠO PER +.remove Child +ĉs p +Ġes se +r ift +xF E +ĠSh akespeare +________ ____ +Ġbudget s +Model State +fill able +- component +oc os +ĠBUT TON +/ io +, out +s ms +Th omas +ĠAr med +res ume +Ġrot ating +ĠV ault +Ġse us +. (* +Ġa mino +Ġ[] );ĊĊ +Ġprov oc +no x +.Get Enumerator +==== ===Ċ +æĸ Ļ +_sc roll +Ġfil med +ĠS oci +g ap +g ro +V ote +" But +_R C +An imal +Â Ģ +ib ile +Ġaw aken +ore st +in ja +ĠI van +( Command +Ġ ***** +Î · +Ġkv inder +/h elpers +_c ases +t g +ìĦ ¸ +Register ed +ĉp ass +_d igits +Ġcont our +Ġinf ants +Ġjust ification +ĠFort unately +Con tr +ĠonCreate View +_S AMPLE +Ġallow Null +Ġn ud +Ġfet ched +_e qu +ĠUn able +=\" " +> {Ċ +Ġcommit tees +ist ema ++ ". +ÃŃ an +m ant +Ġsou theast +ï¼Į Ċ +dialog s +PRO JECT +charg er +- port +(u uid +. export +S ix +ĠR P +P rem +Ġconsc ience +Ġmargin Right +_d istribution +y aml +res izing +D ock +ĠLoc ations +G Y +Se ed +B UFFER +oss ip +ull en +Th ings +- self +.p oll +PL AYER +Ġå ® +G ROUP +ĠA way +Ġg ospel +xf d +M ary +ĠPort able +T URE +Ġutil is +Ġse it +Ġstr and +Ġtrans c +Ġ( ^ +ĠAl fred +.m em +.c ircle +Ġ~ / +for cing +Ġr iot +pro x +TH ON +iz ación +ĠN I +ro st +Ġdis pro +_in stances +ï¼Į âĢľ +ograph er +end as +ĠIsa ac +ĠP ine +/d is +Ġcolor With +iter ate +_str ide +Ġpun to +.Event Args +( center +Ġneighb oring +ĠPr ison +ĠMess enger +Ġepid emic +da o +_com plex +Ġgr avel +_D IP +é ment +ĠA ri +_bit map +.qu it +( valid +Ġp end +Ġrespir atory +Ġre bound +Default Value +ãĥ Ń +Ġcomm its +.test s +_f r +it et +.s f +Ġspace craft +c ritical +Ġde pressed +ĠAny Object +Ġun b +Ġdisc ern +(m ysql +L atin +ĠB og +ĠWild life +To File +iox id +@ RestController +Ġ"$ ( +Ġ<< " +Ġdefect s +Ġdat um +h in +Ġreal izar +any ahu +ĠS ig +@ Data +ad aptive +ĠC atherine +.c r +ĠCO OKIE +Ġp ictured +ĠFight er +Query able +ĠAny way +ĠGL FW +_n amespace +_ ft +Ġ] ) +Organ ization +Ġconstit utes +Ġqu and +(ch unk +"/ >čĊ +ĠL akes +main window +Car thy +sp in +(c sv +: red +-com merce +ภ¹ +Ġdiscover ing +Ġe co +_f ac +inc eton +ĠGre ens +j wt +Ø µ +ĠBron cos +ĠGood s +(G TK +Ġreturn Value +Ġsi empre +Ġneut r +w ent +ĠN atal +Ġenthusi astic +á» į +F N +/d atabase +C atalog +Ġbr un +ĠK ash +_P l +isc rim +, width +Ġin mates +Ass ignment +ĠH aven +Ġplay ground +ex am +@ Controller +ul iar +.get Parent +Ġ" ;ĊĊ +: size +iss ors +Ġf is +Ġal c +ens ation +ĠN ixon +Ġmight y +- str +_s pecial +_A DC +ĠTw ig +um bling +- address +Ġher oin +Y TE +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĊ +F riend +Ġa ve +ĠP NG +ĠKurd ish +DataSet Changed +Ġbl ades +br al +St eam +Ġsig u +IRT UAL +ac os +UD P +(d atabase +he c +ĠString s +_scal ar +ĉd esc +ĠT LS +; "Ċ +ĠCor byn +Simple Name +u ell +ĠEnt re +ell ites +- place +Ġfrank ly +ĠE rf +CE L +Ġpa ÃŃs +Ġh edge +Ġlat ent +ĠIR Q +ĠH erald +ĠP rec +ë³ ´ +.T EXT +Sal ary +Ġaut umn +Ġtrav ail +.S um +Ġc ared +M or +Ġint uitive +Ġj ournals +_ IT +ĠT rou +ä¼ ł +Has ColumnName +Com posite +Ġsp ice +_d isk +_CODE S +ĠInt roduced +ion a +Ġnue stra +o ct +ĠĠĠĠĊĠĠĠĠĊ ĠĠĠĠĊ +(param eter +Ġstud ios +Ġproject Id +Ġbd sm +.Sql Client +im izer +ĠC ARD ++ t +a an +.s ol +_Ad just +Ġright eous +ĠLog ging +.f ilters +_T AB +ĉs ys +roph ic +other apy +ĠB rowse +key board +R ON ++ \ +ro pped +Ġext ensively +f k +Ġl ime +year s +Ex c +Ġs ph +Ġche ating +and ro +ÃŃ o +Ġpr ince +o ire +ĠD estination +ĠConvert s +Ġup stream +o led +Ġserv ants +Ġsem antic +Ġcr unch +Ġevent ual +run ner +/ error +Sp in +Ġsecret ly +Ġas semble +.P erson +end error +_ < +Ġp endant +S leep +ĠChem istry +Ġboss es +l k +)) ),Ċ +Block ly +DE VICE +Ġreflect ing +Ġam ple +Mill iseconds +ĠPresident ial +Ġus uarios +ĠN Z +ĠSal ary +ĠA manda +_n p +j ury +Ġkö n +Ġtherap ist +Ġhomosex ual +ĠDr ake +-w indow +ĠLoc ated +.D river +ĠV IDEO +Ġmerch ants +ĠC hest +- lock +/ php +Ġmil ano +_ST YLE +arg er +ide a +G UID +adv anced +me al +Options ItemSelected +=' % +ĠCh am +: data +(st at +Will Appear +Ġinform al +aj i +Ġre productive +ĠC AS +ãģ £ +F UNC +ĠR uth +)+ ( +CON ST +ĠF ans +Ġgroup Id +xffff ffff +Ġsam pler +Ġ}} "> +. the +Ġh ollow +W AY +ĠFac ulty +Attrib utedString +ĠLook s +ĠR ex +j k +ĠM IL +Ġb ard +.L ong +Ġliv est +Ġsk al +ic ism +MA IN +Ġmu cho +B ODY +Ġes e +ĉ use +F oot +.SQL Exception +Ġinherit ance +re ceived +Ġput as +ed is +als a +ĠError Message +Book ing +Ġtr act +ac z +ĠC ant +_reg ex +Ġide ological +Ġj ihad +h os +/s ys +col m +(p ool +Ġest án +ĠP ending +em ás +Ġktó ry +));ĊĊ Ċ +trans actions +Ġw ield +it ere +ert ure +_s s +Ġstretch ing +Ġprison er +.Read All +Ġbes ch +-- ;čĊ +Ġcr isp +_SC AN +Ġa e +Str ict +ĠMin neapolis +ĠBo eing +ar is +re k +_p ipe +Ġpri ests +(E IF +eh icles +ĠInter active +b etween +ĉNull Check +ĠBl air +ĠL t +_in line +eth yl + ¼ +_p ackages +Ġbarrel s +_ he +Ġreg exp +_ pts +_H andler +ing ular +ĠN issan +ĠR anch +Ġper ch +Un supported +Sm ith +ĠLeg ends +M i +Ġg f +st eder +Ġacqu iring +Ġsim ulator +() ," +re ceive +Ġin place +A CTION +ĠWeb Driver +files ystem +< Order +lo pen +ĠHE IGHT +.set Border +į ° +__ [" +Ġcl amp +Seg oe +b ands +to List +amb a +>' +Ċ +Ġcred ible +am at +play ing +.setImage Resource +qu el +Ġpod r +ge om +E k +ĠQ atar +Ġg eld +? ',Ċ +Ġc yl +( ax +ĠW I +ur ally +ĠBr asil +Ġsen za +ale y +on en +Ġb ah +Ġmolec ule +R ad +è¿ ° +AN CH +- background +- agent +Ġprol ifer +: boolean +Ġt ide +erial izer +_ ;čĊ +F ee +** ) +erg y +ĠHon or +.Log ging +ir is +Ġunder mine +ĠD y +Ġt yr +Ġde que +Ġdam er +([] )Ċ +.layout ControlItem +pe ated +C AN +rag ments +L and +) ]);Ċ +ĠS ah +ĠDE CL +With in +ĠN amespace +an other +sem bling +.des cribe +Con sum +ĠF ear +g iven +Or ange +< boolean +Ġstead ily +pa Repository +Ġresult Set +_ ENTER +_re peat +Ġt ones +ĠPRO P +n al +part icle +Ġsign aling +Ġaccess ory +ĉĉĉĉĉĉ ĠĠ +Ġvie le +ĠNo ah +- ag +Ġmur ders +Ġa ired +ĠPL AY +ĠS ullivan +_C ore +Ġul ong +Ġblog ging +> This +Ġdata Index +Ġprint able +ĠE yes +_target s +(P y +. over +Ġbr u +am pton +Ġplaint iff +< Key +b ull +Ġ⣠¨ +Iss ue +.cor nerRadius +C ritical +_p hi +. angle +Ġdynam ically +! ");čĊ +> );Ċ +in vest +.* ĊĊ +Ġt élé +Ġsuper f +Ġcas cade +DT D +Ġviv id +Ġsubsid ies +ĠH ass +Ġcoll aps +Ġcer amic +{} ". +ĠLeak age +-tr ash +coll apsed +-s ocial +ĠCh ad +Ġincl ined +Ġst o +Ġstory board +.p ayment +stack overflow +ĠRaid ers +Ġ# ' +olic ies +ìľ¼ ë¡ľ +em ap +Ġk j +Ġqu ota +ĠGard ens +ë² Ī +ĠAng els +Ġof t +Ġlower case +Ġi Param +Ġche apest +un ta +_p kt +ic ators +Ġle urs +Ġdecre ases +ĉ define +PRE C +amm ers +ĠPre paredStatement +(d irection +Ġcre ws +ark ed +ĠMem phis +ĠS ell +G TK +Ġm aid +: disable +éĽ Ĩ +ĠP f +Ġal beit +open h +?> ">Ċ +.get Source +(s cale +D u +ĠP IL +_ref resh +Ġbet s +(c ar +ĠV on +| --------------------------------------------------------------------------Ċ +ĠGr at +M uch +( Dialog +.stop Propagation +Ġte k +Ġex its +'], $ +Ġphone Number +uc s +ec imal +------------ -- +in p +.po jo +Ġcor pus +Ġpractition ers +.p ic +" testing +Ġstring By +.Not Null +Ġr ang +.D ynamic +_R ender +аÑĤ а +Wait ing +ĠW ik +Ġoverwhel med +% "> +ĠA E +}} >Ċ +u w +_t yp +Ġbuck ets +Ġgre eting +Ġla ughter +Ġant agon +uggest ion +- email +ĉt op +Ġer os +_tr i +Ġiss uing +Ġh á +Ġisol ate +Over flow +, E +Ġnut ritional +ĠAbb ott +Ġn f +.t ouch +.fetch all +_z ip +") }Ċ +Ġam at +ĠC isco +Ġn Ã¥ +PLE X +Ġse i +f oto +.to Json +å¤ ļ +ĠKle in +Ġlib c +Ġmin ers +å ¢ +- print +ĠP ride +T odos +Ġmask ed +Ġset Data +Ġtele fon +Ġunh appy +ĠT ables +ge b +( debug +_all owed +- access +Ġlog istics +Ġg ems +ĠM ature +Ġr sp +ĠAl le +.get Bytes +\ web +ynchron ized +Par agraph +Ġth rottle +.sql ite +cons ulta +ĠSe ah +C e +Ġsub mar +ER E +V ous +Ġre ddit +Ġsql alchemy +-m ile +oc ide +P our +}} ">Ċ +st ead +Ġ@ ( +Ġ[ ]) +ĠAd s +Ġover load +r idden +ĠDes ert +ĠW rap +ĠPortug uese +et z +ĉf irst +Ġmile stone +æĹ ł +Ñĥ Ñī +(s uccess +< Vector +co ol +Ġ[ ]);Ċ +erv als +Ġin vert +" io +cur so +fr agment +Ġfeas ible +.set Position +Ġel m +Ġimag in +@ Spring +Ġb ats +pu és +ga lement +ns ic +gi ene +ell ation +ĠBa iley +Sh ar +ĠT ul +ĠH K +Ġfree zing +gl m +ce ans +-c ut +_c ircle +åij ĺ +n egative +Ġind ian +s alt +Ġt ing +ĉm od +Ġs int +ak in +um l +ĠText Input +Ġpop ped +T MP +Ġpark ed +×Ļ × +ĠF usion +Ġhe ater +ET F +ro zen +h all +ĠM ik +lev ard +- heart +ĉ order +M aking +Ġpled ged +Ġdir s +$ post +ĠH err +stant iate +, "Ċ +.get Color +ĠS AT +Ġtimed elta +ĠM ai +ĉm ethod +Ġid iot +ĠTr av +ident ified +ĠDiv ine +.get Path +D ash +Ġinf iltr +Ġhandle Submit +bro ok +.g eneric +.short cuts +................................ ................................ +Ġdat ings +ĠM V + # +} "ĊĊ +Ġimprison ment +ason ic +rou d +uc ion +æĬ ¥ +Ġdia lect +Ġon Mouse +const expr +.label Control +Ġwe aker +Ġman kind +ĠRE CE +Ġd iz +Ġapp Bar +Ġqu é +f ra +_default s +Ġal iqu +_at om +: indexPath +Ġmiss es +Ġvis ually +ĠH ands +STR U +i ates +_ asset +F inder +mid t +Ġsn acks +(__ (' +. uri +ĠIn strument +ven ir +($ __ +.Dot NetBar +Ġconfig s +Ġguess ed +ि ठ+Ġinitial izer +Ġ? ", +ĠVer izon +man ifest +ge ben +.d etails +G ate +pons ible +ĠEl im +, str +Ġwrit ings +ĠD erek +ĠCo ordinator +Ġpill ow +Ġnotice able +R s +Ġduplic ates +ern els +k J +.z z +oll and +ĠSE CTION +_f name +uff led +'].' ")Ċ +ĠD ollar +Ġem oji +Car ousel +- player +Ġadjust ing +Ġjug a +alleng es +g ene +(body Parser +lop edia +ĠBeh ind +Ġslee ves +Ġdrag ging +ĠChe vrolet +Ġb iz +iv ities +ĠFrequ ency +, char +.W HITE +_pre view +) ';Ċ +_ ax +ION S +.c pu +.input s +UB E +_fe ed +ĠSup plement +! ). +es us +ĠU DP +Ġmicro phone +Ġconf irms +.is NotEmpty +":" ",Ċ +_S CREEN +ĉ expected ++-+- +-+- +ĠH ait +fast call +Ġdep ict +v b +_p icture +ĉd escription +ĠW ife +uc i +Ġv icious +ä» ĸ +ue ba +Ġset User +ãģ ¡ +Ġd iving +Ġoper a +user content +ar ah +) }, +y un +vel t +Ġun covered +Ġh ips +Ġosc ill +Ġassert ing +ĠX i +.re store +ke a +Ġsp elling +Ġder ive +ab we +ĠD ow +.set Type +_v s +Ġco zy +.c ategories +O rg +_m gr +Ġd ungeon +collection View +ĠBl ank +ac ias +ä ä +_clean up +_ACT IVITY +Ġtri angles +.Menu Item +Ġip hone +ĠW on +] ]ĊĊ +ĠCompar ison +.D oc +Ġcan onical +ĠSud an +') { +Up Inside +b uiltin +ENC Y +x be +Ġch uck +Ġcontrad ict +Ġnuest ro +Ġarchitect ural +ĠF ib +Ġcomp ares +* k +C fg +çĦ ¡ +nt en +Match es +ĠDOWN LOAD +_HAND LER +man agement +[ S +EN G +ÂĢ Â +f ang +Ġsl ipped +ĠL anka +esc aping +Ġtack les +ĠPed ro +.P rop +.' ' +.G enerated +.New Guid +at rigesimal +ill on +Ġstat istic +spec ies +hold ing +Dr upal +Ġfundament ally +Ġbond age +Ġres olutions +Inline Data +\ Type +est ion +.w rap +Ġwar riors +ĠLOC AL +Arch ive +Ġembr aced +á» § +.V er +ĠAff ordable +oles ale +ĠAp plied +ĠCon version +m ega +_c am +Ġcer emon +aur us +ĠVol k +.op ens +/ about +ĠSt d +j ournal +()) {čĊ +," \ +( Arrays +ĠD ense +ase ña +än ner +/ stat +user Data +Ġg erman +Ġt z +worth y +Format Exception +ph erd +Ġsm iles +ĠWh enever +( adapter +.bad logic +Ġbrief ing +.Grid Column +- char +dim ension +ĠC opper +Ġnin th +Ġ' {{ +Ġr av +_T able +Ġderiv atives +ĠR aise +ĠF ut +arm or +-p adding +Ġre min +ĉ style +ĠMembers hip +Ġspread s +Ġgall eries +ĠClar ke +Ġcon ception +min ute +Ġab usive +_ad j +Ġterr ific +Ġover t +our cing +Ġentr ada +level s +Ġcrit ique +Ġrespect s +ĠM MA +i ene +Ġenc aps +ĠRay mond +Div ider +iv able +b az +Ġ@ _;Ċ +ĠCl aire +Ġur ging +CE E +Ġtransform er +disc ord +ĠJ ourney +t os +Ġcompet itions +ĠO BJ +ĠB is +Ġrelax ation +id y +_IN STANCE +ĠP ref +d ados +ici encies +ĠMedia Query +ĠC ube +ĠStr ange +g pu +(d ays +_Init Struct +Ġfinger print +em at +ĠGe cko +Ġr ails +ĠL um +str action +ig ung +(m ovie +_d ictionary +_int errupt +ĠQ C +ik ed +append Child +rec ipient +r é +V e +Ġtow el +.last IndexOf +Ġplace bo +ĠW ie +.es p +( Debug +oper ative +Ġdece ased +& id +ĉm utex +el ic +Ġb apt +ĉ čĊčĊ +Ġfar ther +H alf +.dis able +.menu Strip +le ccion +Ġresult Code +Ġc ans +-e lection +f emale +_F IX +aus ible +ĠP OWER +Ġrecon struction +Ġsc ans +.Xtra Bars +âĢĺ s +Rem oved +Ġparagraph s +_m argin +Ġl ymph +Ġb os +ling ton +ĠBapt ist +Ġadvertis ements +ĠMan age +/ yyyy +IO US +ENC ES +ĠF iction +ĉm enu +ĠFile OutputStream +ov an +ĠF eng +Ġsk ipping +get Class +ann i +Ġreb ounds +Ġpublic ity +Ġing res +use ment +Ġthought ful +.Ch art +Ġhat te +pass port +Ġhook ed +ĠL ens +Ġflag ship +Ġst ip +ĠG EN +Ġcl ues +ip v +ĠR ise +ĠG ew +tab lename +Ġfore most +_ validate +_an alysis +oll a +Ġqual ifications +Ġdistrib utions +ĠFl ower +Ġt ense +Ġthank ful +Ġcl utch +Ġun ified +ro ads +Ġsit i +Ġst all +_P RIORITY +c stdlib +_USER NAME +.by tes +? page +ermal ink +ĠVe get +/v nd +- author +.N ONE +ĠCon current +ĠC ry +Ġstart ers +ĠInter action +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠ +ĠLE VEL +E ll +Ġcom boBox +ĠTh eresa +te k +_H andle +Ġab y +.g dx +, end +(L ocal +O l +kn ife +ar ial +ĠH off +Ġprostituer ade +Do ctor +Inst ances +.Set Value +ĉf rom +Ġlux urious +Ind ent +Alloc ator +_D RAW +(", ", +ĠFr ances +Ġgroup Box +(s chema +Print f +OR IES +- gradient +Ġre put +ar in +_D ONE +in cre +ig nty +Ġex ert +Ġ- . +/ App +-th rough +Ġdecl ining +Ġdess ert +Ġinc umb +Ġdesign ation +.P ORT +, strong +Ġsand box +Ġw ines +ĠP av +$ str +ask ell +Ġh ö +ĠP Y +Get Instance +Text Input +game Object +/ events +created At +Ġlocal Var +ĠWH ITE +per ed +ile ge +eff icient +, color +c ate +ĠC afe +Ġsimilar ities +Ġp umps +ĠHung ary +.User name +Ġsk ate +Ġtouchdown s +Ġacceler ate +ĠH elen +OM EM +ĠK un +_v ol +Ġfind All +ĠMens chen +a head +); " +kom men +Ġpossess ed +.arg max +.trans ition +AR P +OLUM E +(s cript +ĠÐ ĺ +ĠF inding +on ces +I o +B old +Ġrenew al +_D IALOG +Ġdis reg +INT ERN +Ġt oute +Ġelect r +ĠG ross +ĉ true +.F ields +ĠW IDTH +ĠD ent +Ġà ģ +NS Notification +Ġa os +Ġme lee +. Validation +ĠDE C +-depend ent +Ġsu ic +T raits +$ message +ĠD ear +ĉ FILE +l anguages +.P rot +.add r +-g eneration +IC ON +Ġtrans plant +-d escription +Ġch asing +Ġche es +Ġ} */Ċ +Tr ad +qu eries +/widget s +sub package +Ġes pec +Ġcr acked +Ġcompet itor +P urchase +- team +olec ular +or Thunk +& P +Ġrel ent +/ #{ +Ġproduct Id +Ġè ¾ +ĠL av +ĠAl ter +.M ode +AD IO +gr p +æ ·»åĬł +Qu it +Ġdepth s +-c ategory +ĠD ATABASE +S PELL +ĠFal con +ĠQString List +Ġ'' . +ĠIn stitution +d amage +az or +bel ongsTo +ver ages +ĠN ONE +ipp ets +, \Ċ +Ġfoot print +_ archive +n ak +.get Field +ĠRef lection +Ġ' ] +ĠH BO +_dis count +Ġin cest +ĠD odge +ĠW ade +.N O +" encoding +ĠBlock chain +Ġlaws uits +ĠM aint +ch ten +Ġét ait +Ġktó re +_ ctl +(t imer +B attle +iz o +ay ed +I OR +ĠGlas gow +Ġsyn th +_log s +.p ose +_Adjust orThunk +(( & +Ġuns ure +yst ate +íķĺ ëĬĶ +O ULD +. ng +Ġdefault dict +work space +Ġselect ive +Picker Controller +YNAM IC +.method s +Ġpath ways +ĠF ew +K G +CRY PT +follow ing +ĠD LC +ĠS ara +Ġpres et +estruct or +ĠK urt +Ġair plane +Ġo mp +ĠParent s +ĠMart inez +.com plete +Ġbroad ly +Ġsc are +ĠM é +Ġelim ination +Ġpou red +/ sw +Ġcom un +Ġm asc +ĠOrgan ic +ĠString Utils +il ateral +Ġreluct ant +- age +Ġn z +." \ +Ġpast or +ale z +Ġe fect +pro v +/ init +Ġp enn +und s +Ġs size +ĠPro j +bas ename +Ġsh ells +ĠNe ck +ĠEn forcement +vid ed +st own +S phere +$ r +uss en +af il +ĠTele gram +Ġanaly tical +нÑĭ е +us ually +x n +Ġhistor ian +ĠGreg ory +ol ph +ĠUn a +Ġcon tributes +% - +anti ago +ÑĢ ÐµÐ´ +.reg ion +Ġab rupt +ĠUnsupported OperationException +ĠT ASK +_f inish +Ġnot orious +ĠV s +ĠM Q +Ġsun set +Ġun acceptable +ar cer +Ġill umin +ĠOr b +Ġb h +E ste +_dis patch +Ġr ipped +Ġtou jours +ĠPar cel +_ ll +.user Name +.class es +S OURCE +( Number +ел Ñı +Ġhead phones +(s ide +const itution +ann ah +čĊ ĠĠĠĠĠĠĠĠčĊ +Ġcl iff +- ref +Ġmo strar +ĠPow ell ++ y +ĠB G +_f ragment +.P ort +Ġreal izing +param ref +Ġh ometown +@ Table ++" --}}Ċ +F rench +Entity Manager +ĠPl ain +//////////////////////////////////////////////////////////////// //// + ³ +( RE +c apt +Ġorgan isms +Ġj ets +ol ocation +ĠApp RoutingModule +Ġgl orious +æľ į +Ġdisc arded +ĉĉĉĉ ĠĠĠĠĠ +ĠArn old +l ug +Ġpar l +Ġhorm ones +Ġm ah +ĠSon ic +Ġorgan izers +_PL ATFORM +.in v +Ġch ord +vent ional +ĉ of +Ep isode +. Enum +unk t +ĠD h +ĠJ ared +ĠN ak +Ġint ends +End ian +Ġa ustralia +_c v +(res olve +Ġclin ics +lik ed +ASH INGTON +in ha +' * +ĠN P +_b eh +Ġh f +Ġw ür +c ategoria +$ form +Ġsub way +Ġis Active +pop ular +C our +Ġco oldown +Ġa insi +ĠGL uint +ere al +Ġarray Of +Ġh atch +======== == +ress es +_P P +. ^ +_dec ay +ĠB less +met rics +ĠCOPY ING +ĠDump ster +ĠJos é +ĠDesign s +< +Ġ" }Ċ +time zone +Ġe er +max cdn +ĠE SC +ig aret +_conn ected +_re verse +Ġquestion able +ĠUS C +Ġtut ti +Ġdrop out +ĠActiv ities +ĠW inds +')) );Ċ +Ġcon gest +ÄŁ ı +Ġprolong ed +è¿ Ļ +ĠCross AxisAlignment +LE EP +ĠVAL ID +ĠG az +Ġdepend ence +ĠP rix +.Compiler Services +j ump +Ġstr at +c irc +ĠC USTOM +x aa +Ġb mp +Ġb ureau +Ġw aren +N X +( Window +ĠChrist ie +_F E +Ġt n +ĠOm ega +communic ations +Home Page +com pletion +Ġsupply ing +YP ES +á vel +åĪ ¶ +(c lick +\ Contracts +/ questions +Ġe z +AM S +.m esh +Ġ' \Ċ +Rob ot +Json Object +ĠD F +ĠProcess or +_sh ould +.prot obuf +- users +Ġemb ry +F ONT +Ġstart ups +ĠData Source +) # +uro s +_C olor +Ġstand alone +} [ +j d +Ġforg ive +Ġng x +ĠGener ally +Ġconfig urable +/ order +Ġv as +') ";Ċ +ĠR R +ĠT roy +Ġcomprom ised +ĠSw an +int endent +Cent ral +_ keeper +Ġar quivo +ĠRead Only +_cur ve +k v +ent in +è ± +ĠE y +.im read +ĠP am +if fe +at ivity +xb c +Ġgr im +-f illed +names e +'] : +Ġa ur +ĠGib son +.Mouse Event +Ġl ado +avad oc +Ġfam il +ĠM oder +f ps +ãĢĢ ãĢĢ +- example +ĠAl zheimer +ĠU tf +_arg uments +Con clusion +text Content +rem aining +Ġinterrupt s +ĠBack up +ĠM ong +Ġrecept ors +h istor +.cor outines +Ġsh outed +Al arm +Ġcomb ust +Ġg rote +ult ural +( ids +---------------------------------------------------------------- ---------------- +ipl inary +O pts +ĠY ale +local Storage +Ġequ ival +ĠF leet +\ b +* pi +ĠQ Label +æ ¡ +Ġv x +ĠA CL +Ġsu cesso +Ġper c +ĠNot re +Ġan arch +R ing +sp b +Ġstr pos +st ores +ĠMap le +(Main Activity +(" ")) +Ġview Holder +Qu ad +Ġig ual +ors che +.m argin +Ġind ie +Ġfr anc +ĠForm Builder +ĠPart icip +.fl ash +Ġstorm s +U lt +Ġf en +[ new +E ver +=" Ċ +Ġlocal ized +_f ollow +Ġn ave +Ġdomin ance +(t ile +J ournal +ĠV C +Ġpenet ration +ï¼ ķ +Ġcomp artment +Ġb ids +Form atted +****** /ĊĊ +(c ity +âĢĶ it +[ C +Ġuse Callback +a ub +) ?. +ĠV AR +ĠSe bastian +ĠM oss +Ġabund ant +G reg +ÑĤ а +_c i +Ġbib li +CR M +ĠAt tempt +ism e +d ash +ãĢ İ +_m u +.Formatting Enabled +Ind eed +-d irect +Ġsuck ing +Ġp ne +ocab ulary +ĠPack ers +.N avigation +Ġp ied +cri bing +ĠSt uart +.To Double +ĠSecond ary +S aving +ĠD ut +ĠM add +M agic +, H +.document Element +ĠB ST +Ġdiff ers +Ġmore over +_ nd +SE ARCH +п ÑĢав +æ ´ +to Match +Ġdecre asing +-m ember +amp us +( boost +D aily +Data GridView +ĠHttp Context +Ġh ipp +_work ers +-l anguage +é ĵ +Ġconsist ed +ath ing +ĠMer cury +$ content +Ġpract iced +ĠMod ules +_D AY +Ġweakness es +ĠL odge +Ġn ar +ĠM ate +Ġj p +ĠHttp Headers +Ġsm o +ĠT OKEN +] )( +Ġaqu i +sw agen +Ġs rv +ĉ ans +A round +ĠMan uel +Ġfiction al +ĠIM G +Ġ. ' +ĠB erry +Ġwall paper +sex ual +ier o +Ġ çļĦ +ìĨ Į +Backing Field +ĠAd rian +BASE PATH +Ġrepe ats +Ġbl ues +Ġunp redict +_c oll +st acle +ĠT umblr +ĠEl f +Ġass urance +Ġc ensus +ĠIM PORT +END ER +an os +Ġ= ( +ĠEll is +" ĊĊĊĊ +.w in +ĠA bove +al on +_t ick +Ġrepresent ations +Ġæ ķ +w id +ĠAr ms +List a +_f ailure +_c m +.Flat Appearance +Ġthr one +P atch +ĠV oy +eng l +Ġnegot iating +> ` +Ġshoot s +ĠF PS +.Y ear +ĠK iss +enc ión +reet ing +From File +Ġresign ation +Ø · +Ġtw ins +ưỠ£ +Ġge bru +.get Content +.T ree +ĠEmploy ees +ĠF IFA +Ġcert ainty +(C l +Ġtot als +edit able +à¥ Ģ +.Report ing +M as +qu iet +.r ules +ĠV O +con exion +, K +Ġalloc ator +ĠPow der +\ Repository +Be at +_t ipo +Ġ[' ', +_IN TR +Ġ<< < +< hr +") == +ugg age +ĠC raw +Ġé galement +Ġg inger +Ġprim era +Ġprod uto +lt k +.User Name +Ġstr error +m ith +_n b +Ġdis comfort +']; ?> ");čĊ +drop IfExists +ĠB eg +_H AL +Ġcross AxisAlignment +ĠE vidence +Ġpec uliar +Ġinstit ute +ve is +Ġf ft +à ģ +Ġzo ekt +an aly +ĠHom eland +Ġpen etr +udden ly +ĉ element +ĠB ren +ĠTr udeau +ĠCub an +j am +us lim +_e v +Ġst ems +} % +Ŀ å§ĭ +Ġbrand ing +Ġcorrespond ence +.j query +¢ åįķ +ĠRead s +(Http StatusCode +ass in +(s lot +ĠGrad uate +/// < +Ġinform ations +EN ABLE +Ġp uis +Ġfind er +ĠBr is +Ġnett steder +_m id +Ġo gs +ĠSter ling +Ġar rog +str ftime +| ĊĊ +Ġvo x +ĠReg ardless +Ġes o +ĠCom fort +.Boolean Field +Ġu h +AC Y +Ġsque ez +ĠV ic +cont ro +. lo +Ġ ire +ĠCom edy +ë ¶ +Ġorigin ated +Ġsh ipment +| max +_g uid +lev ation +на Ñı +( undefined +ĠD DR +Ġshoot ings +ĠLat ino +END OR +Ġaver aging +Ġgre eted +Ġthe aters +о е +Ġd B +Ġg st +Ġdef inite +. Storage +.h er +Ġa fore +ĠRe ality +ĠGod s +vers ed +Ġhands ome +Ġex cluding +( ad +Qu otes +ĠS cheme +? q +ĠT amil +T icks +Ġp est +' n +Ġporn ography +_mod al +Ġ ---------- +Ġdis posable +F REE +Ġsh ark +C HE +Ġdep icted +Ġdemonstr ations +ĠK illed +ĠR ULE +Ġobs essed +Ġsimpl ified +Post al +Ġconcept ual +Ġp st +L as +_PRO JECT +ucceed ed +ol u +ÄŁ i +Ġpersonal ities +Ġres hape +Ġenc losed +ĉp tr +Ġtutor ials +Ġexpl oded +_DIRECT ORY +åĨħ 容 +Ġcan on +Ġrecogn ise +P AD +ĠAppro x +ĠRest ore +ĠImport ant +Ġheav ier +.Se quential +Ear th +ĠMil k +.set Request +.t em +Ġre construct +Ġskept ical +_Pr ivate +BU F +qu a +: a +Ġse k +Ġd well +oss a +Ġreward ed +и й +(top ic +_part ition +Ġ__ ________________ +Key words +ĠFr anco +L ite +Ġn aken +Ġз а +O BJECT +Ġcraft s +ĠSw ap +.X na +.Con nect +Ġbalcon y +(re al +ĠBarn es +b ir +ĠTw enty +ay an +at ars +ĠProp el +ĠIh nen +Up grade +Ġcur b +- second +Ġn eph +.p res +ìŀ ħ +.se q +Ġp added +" ? +j l +ãĥ ¬ +') a +Co ordinates +Ġen acted +ENT S +Ġl ac +.f inal +ĠPhp Storm +c alled +Ġin quiries +.m iddleware +ĠD owntown +/ ';Ċ +Ġkil omet +ac cel +Ġqu ien +w string +set Data +Ġman era +Ġmod ular +rim p +Ġtar iffs +âĢĻ il +_TH ROW +/c olor +ĠHT MLElement +Ġcar ro +Ġpr ere +Ġplot ting +ĠPos itive +ĠMach ines +OT ES +á» Ľ +ple asant +Ġal te +Ġa inda +th ese +Ġc ors +ip ay +ĠAdvis ory +ĠRub io +j q +Ġl imestone +Ġdet ached +设 ç½® +ten ant +ĠDep th +al ore +ĠÑģÑĤÑĢ Ð¾Ðº +ĠF ORE +ĠL ay +p resentation +) ');Ċ +.sub plots +Ï ĥ +N OW +G ar +hand les +ab ra +put ies +ĠElect rical +M iddle +rop ic +ĠJ D +ĠD yn +ĠB ristol +ĠMc Carthy +Ġstri ker +Ġenumer able +ĠEv an +.default s +qu ences +) || +ĉt oken +â Ĺı +-d ropdown +ST ORE +ĠGraph ic +( pp +Ex pl +Ġup wards +ĠD istributed +ĠW EB +J er +is NaN +çĶŁ æĪIJ +> R +üss en +ef s +Ġun cover +Ġl ud +.cal culate +Ġint ptr +Ġmidfield er +. Headers +Ġm f +ere f +.M etro +ĠSpe aking +: b +Ġcryptoc urrencies +Ġdem ons +ĉ EXPECT +Ġw icked +y outube +: Int +ĠHind i +ĠC AT +ĠØ ¹ +r ar +om ore +/ per +/lic ense +Ġre im +Ġawait ing +Ġle thal +ĠE F +round ed +ĠPl atinum +ĠвÑģ е +.co ords +.De vice +/ item +ĠW enn +compile Components +ĠK inder +.remove Item +Ġand a +bn b +Ġpr a +( transaction +Ġembarrass ing +ĉ BOOL +.content View +Ġevent data +at ore +Ġprovided In +ir ma +Ġz ona +_H W +æ Ļ +Ġst ove +Ġcounter part +_Pro duct +_MAN AGER +Ġinfr ing +ĠE RA +_p arty +Ñ ij +Ġin ici +_ Request +Ġmir acle +Ġcancel Button +S py +at ó +Ġpol ish +ĠNic ole +.display Name +\Request s +Ġuse History +Router Module +Ġst ared +ID ER +Ñĥнк ÑĨи +Ġnot a +$ arr +pec ified +Ġto pp +_DR IVER +/ ng +å ł +_t m +% timeout +< s +Ġ( *) +ĠHttp Request +_TR ACK +(n ote +ĠExp lore +_s erv +Ġç » +B inder ++ ", +. att +ĠEth i +Ġc ódigo +=' \ +.l ines +( Of +å° Ĩ +miss ible +Ġv é +Ġac oustic +Ġcraft ing +n it +.b a +ĠLuc y +Ġi Pod +Ġpup ils +-m ax +_w r +(c p +ĠRE PORT +Ġd ns +ĠRe ferences +Ġundert aken +Ġkø benhavn +Ġch ai +ĠC roat +_ Log +rown ed +_m ed +ĉ date +# __ +Ġcost umes +ĠRe quires +aff le +ç Ĭ¶æĢģ +-S emit +ela ide +еÑĤ од +Ġp estic +Ġd ra +DOC UMENT +Ġ... čĊ +}` }Ċ +ĠA uction +ĠD ock +xxxx xxxx +(get String +ħ į +Ġborder Width +ĠMach inery +Ġpredict able +.S H +Ġam plitude +.for Root +IN avigation +Table Model +at trib +Ġmaneu ver +Ġexc av +B ERS +Ġd apat +Ġinstall ations +.A sync +Ġr ays += âĢĿ +; ččĊ +.c rypto +_db g +ĠEnum erable +Of Size +_epoch s +m w +M ENU +out line +ĠP apers +============ Ċ +Ġuniform s +ĠG ig +- package +ĠJen kins +ĠHome Page +.is Selected +Ġmechan ic +M K +ĠS ounds +//---------------------------------------------------------------------------- -Ċ +Ġresearch ing +Ġinf os +ograph ics +ers et +([' / +ĠTim ber +. agent +.to JSON +_command s +par ing +_ad just +.n ome +(g lm +Status Bar +file path +? âĢĻ +Ġdetect ive +Ġunser er +ĠTib et +EN DED +(se ed +Ġsne ak +Ġam or +=" // +ĠPan thers +all ax +ĠL IVE +ĉD WORD +]= - +Ġtorn ado +/ min +Ġlung s +-c urrent +ĠBook ing +åĪĹ è¡¨ +Ġenjoy ment +ठ° +J A +typ ed +.B tn +f at +ug al +ĠSh ares +Ġdis gr +ĠB AR +ĠFO X +Op code +ĠS z +key down +iction aries +Ġdetail ing +} ))Ċ +Ġp ok +Ġdemonstr ating +Ġnot ation +l ayers +@ if +ĠN PR +.strict Equal +ĠRec ipes +.T ensor +Ġliqu or +Ġdeb ts +.ends With +W heel +.P os +CS V +$ arity +Ġun stable +( loss +ENS OR +Ġele ven +ĠL opez +ĠHop kins +con om +ĠS eth +Ġpo ems +Qu ant +Ġg sl +Ġsy rup +Ġs ibling +Ġc ass +-v ous +ö t +_P ATTERN +_SE CTION +est imated +up grade +.m ongodb +ĠBo at +_C TX +Ġfetch ing +ust in +pi el +M arg +Ref lection +Ġd uct +ĠMunicip al +Ġb x +.Get Current +ml ink +ĠAccount ing +ĠGene va +_P os +Ġpass er +Ġhear ings +com pan +Ġfrag ile +Initial izer +walk er +.M aterial +ĠHun ting +trys ide +Ġk at +Ġcl erk +á Ł +do ing +ĉg roup +Ġsan ction +.l b +ĠL azy +ĠCon straint +P agination +Ġpou vez +ĠInd icates +M ER +Ġcour s +Ġyear ly +Ġgros se +abb rev +ĠD ON +Ġproceed ed +ent lich +Ġproperty Name +ĠTe aching +st adt +Ġc utoff +orn ers +Ġa frica +Ġrend ers +ĠYan kees +ĠTool bar +sp aces +.fill Style +Ġseg undo +_str len +.F irebase +å¤ Ħ +Ġmention ing +\ ( +ĠVal ve +Set ter +Ġsp ans +ĠAl cohol +ĠLet ters +\x e +ĠT K +_B LE +.get Result +< Player +ĠP att +Ġeas ing +Ġtur key +ĠF en +') " +Ġconf ined +Ġin clus +Sup erview +(with Identifier +enc ial +Ġstuff ed +Th eta +Ġeconom ists +} ));ĊĊ +co okies +ĠRo ose +ĠChe ese +Ġfich ier +Ġen forced +AB B +no ÅĽci +_AL LOW +Ġrecru ited +Ġexpend iture +-n ight +Ġassert NotNull +_ex ecute +ĠØ ¯ +IN DEX +_F MT +Ġresc ued +ĠMonth ly +ĠCons ervation +ĠG eb +Ob ama +Ep och +ic ies +ĠOr t +Ġso it +( icon +F riends +m ol +Ġground ed +ĠC ause +ad ena +WE EN +ĠL un +IT IVE +. loop +_un til +Ġcor r +.ed ges +Ġhyp oth +ched uling +trans lator +ĠÐ ľ +R om +ãĢij ĊĊ +ĠX amarin +Ġviol ating +. anchor +--- ĊĊ +Ġtr ader +AD VERTISEMENT +Ġuns ere +ĠD AO +Ġbl ond +ĠP AT +.g lob +Ġè¾ ĵ +Ġsplit ting +Ġun subscribe +Ġatmos pheric +ĠTr im +Ġcit ation +Ġin ference +ĠF t +ĠDar win +find One +ĠG el +( Convert +Ġaccess or +; text +(s orted +Ġjud ged +); \ +: p +Ġme ine +ĠS lim +.Command s +Ġper ceive +coh olic +< Data +.entry Set +Ġassert False +ĠPat rol +ense m +ÅĤ Äħ +¨ ¡ +W IDTH +ĠRes cue +ĠU IF +_THRESH OLD +ĠMich el +ATER IAL +opens ource +ĠD iana +Ġinv ites +_B ODY +Ġreserv oir +Ġro i +c ust +(t c +ï¼ģ ");Ċ +Ġfest ivals +Ġperform ers +Ġclim bed +Ġj ungle +String Length +Ġunlaw ful +ier re +vertis ement +Ġst akes +Ġh ats +Mod ify +ĠLET TER +.H ide +Ġstat utory +_ white +ĠPer l +uten berg +em ple +.W orld +Ġoverlook ed +Ġcon cludes +/* ================================================================ +-w ise +ĉ stream +pop ulation +Ġevent o +Ġillustr ations +ft s +Ġaut of +ĠPro cedure +Ġdes erved +-t imes +Ġg ol +N SError +cre st +ĠPak istani +any ch +get Current +Ġl ar +nt l +ĠRe becca +Ġm ateria +Ġfind By +/ ad +Callback s +ĠAl s +ĠKat ie +ĠObservable Collection +ĠDocument ation +Typ ed +ĠCulture Info +ĠTim othy +Ġlater al +" type +Ġun authorized +Ġteach ings +Ġdebug ger +[ value +Ġal ors +Ġu z +Ġsc atter +Ġdown ward +Ġmig li +status Code +Ġ( )) +ĠM W +Ġм ож +RO SS +.b uf +Ġfair y +ĠInf rastructure +=> " +t lement +$ (" +From String +ĠB ild +Ġconvent ions +_n ative +ĠIns pector +ĠP ist +ub ar +Ġreg s +ĠP ilot +Th us +>' + +Ġc ela +.new s +( Product +L iving +R ussia +Ġfac et +et ical +Ġ[' $ +/ [ +ĠD ire +Ġg ases +ĠIN FORMATION +ĠE at +ĠFor ums +ĠChar acters +_m et +Ġìĭ ľ +Ġk ings +ach ie +ĠL ambda +Ġtim ers +ĠLight ing +ĠCase y +add ir +and ex +. answer +ĠH ip +ĠPr incip +Start Date +Ġ ãĢĮ +t res +Ġ& # +.Max Value +ĠPro blems +Ġlat ex +Of Class +ĠLyn n +// ' +Ġvoy age +Ġshut tle +ĠRoll er +ĠRuntime Error +uy a +D ic +ĉb uilder +Ġbul lying +Ġsimple st +.c alled +ĠL R +Ġmor ality +Ġst urdy +tr acking +.sw agger +_B IND +IT OR +-url encoded +ĠÑ ħ +ĠTr inity +Ġtr aps +Ġ| - +Ġset Text +Ġbarg ain +Ġbr akes +.get Code +Ġmigr ate +Ġrib bon +) return +Ġcharg er +ac om +ADI US +ĠAmb assador +-a fter +Ġann i +ĉs pin +Con cept +ĠHend erson +ĠH OST +.r ank +ĠNor theast +Ġber lin +Ġrequ is +.f eed +Ġsource Mapping +ĠRen contre +. ajax +nest js +Ġtre k +ĠN acional +Ġ& [ +Ġpay able +ort ex +Ġde pt +field Name +Ġcomple tes +ĠR VA +Ġon ions +al ignment +Form ats +Ġ' {$ +Hash Set +ĠB od +.Invariant Culture +Ġsettlement s +Ġhy dr +. updated +vent h +( seconds +="/ " +Ġweb page +( ĊĊ +Ġt ir +Ġto es +ĠBr ick +Ġamb ition +P ot += max +ET IME +Ġdep ot +c alls +ĠNor wegian +` : +Ġbur ger +Ġprofess ors +ĠAl locate +-third s +-ch art +Ġfor d +* N +.k otlin +Ġpaper work +ĠDE VICE +% @", +res pect +(m p +é «ĺ +- if +Ġcush ion +ob ot +Ġpar c +SP ACE +ĠNet anyahu +Ġself ish +fe at +Ġclient es +-to ols +Ġpor ch +Ġj q +. verbose +Ġlib erals +] )ĊĊĊ +p ies +Not Blank +( term +ÈĽ i +_Param s +.normal ize +B ullet +AS IC +(h ex +_client e ++ , +_D I +Ġforth coming +} ")]Ċ +se o +U m +> Name +Ġcomfort ably +irection al +W ITH +/ pr +ĠP oor +ĠVit amin +v ic +G H +Ġprior it +ĠN N +ĠC losed +¤ í +Ġis Open +\ Console +And Feel +.S UCCESS +_OPER ATION +pol ation +ĠT as +ps z +> '. +C URRENT +V endor +host s +ĠE rd +>tag ger +ĠsourceMapping URL +Ġmar athon +_c losed +Ġexem ption +Ġrecogn izes +ides how +' $ +('/ ');Ċ +m its +war z +ĠCh erry +µ ¬ +n or +port e +Ġw l +_back up +.get Boolean +.get Resource +Ġdefinit ive +. EditText +Ġs ÃŃ +.C ONT +ĠPL AYER +.c ards +ĠSh ore +('/ ')Ċ +cl uir +Web Driver +(m onth +-re lease +Ġins pector +å £ +ĠN F +_cl ip +åŃ IJ +Ġinteract ing +.t mp +Ġ'' 'ĊĊ +Ġde e +Ġfro st +"] ))Ċ +ĠPl aces +Th rows +f ork +/ day +i Phone +ĠM IC +Ġfold ing +Ġcro re +ĠCh iefs +pher ical +( price +.Write String +Ġexit ing +] ',Ċ +ight ing +Ing redient +( vertex +Ġscroll View +h f +: new +SE N +se ctor +Ġsp ins +ĠS cheduler +ote chn +sem icolon +Font OfSize +ĠSpecific ally +fl amm +.Object Id +Ġcont a +_per missions +ĉF ROM +IC ODE +/ kg +ĠHot els +-m ed +ĠD in +Ġn avy +get Param +Ġm end +Ġportray ed +ĠMet ropolitan +Paint er +Ġref erral +_g ood +Ġmar vel +osa ic +> (& +. ur +Ġest os +Will iam +Ġtim ber +Ġquel ques +ĠDoc uments +.X aml +Ġbatch es +éģ ĵ +ĠRe leased +T ail +CO OKIE +he id +_st ation +ĠV ia +S ale +ĠRe peat +Ġprom in +ĠZ o +- forward +ĠI on +it ary +Ġj us +- request +Ġproud ly +ĠStream ing +(Mouse Event +ĠS print +_ rotation +Re positories +Ġt art +ĠÑģ в +Ġm appings +è ª +C u +C ycle +Ġb un +ĉl ua +ãĥ ī +Ġ(( ! +Ġcollect ively +ĠCon d +Ġwsz yst +(l ib +openh agen +_s kip +.Column Header +é Ĥ +peri enced +ı è¿° +_p rops +Ġcontr ace +Ġmatch up +ab etic +.m embers +RE CT +(d at +Ġs og +ren om +_M ethod +Custom ers +full name +Z N +re try +Ġk ap +ĠNe u +è Ĭ +add Child +will Return +_p ermalink +Ġener getic +ĠW et +ĠMor r +Ġg cd +count s +, type +d ig +( Login +Ġcr acks +Ġbacter ial +ĠMe at +ĠArm strong +ĠBron ze +Ġapprox imate +_dir s +lig a +ÅĤ ad +Ġkind ness +Ġcont re +ĠE VERY +M ET +Ġannounc ements +g pio +ĠWaitFor Seconds +ĠPhotos hop +Ġdis contin +/ dd +Ġtop ology +an ical +. interface +auc oup +.Hash Set +ARI ANT +(r outes +ĠT eh +Ġh ype +] "). +Ġsl am +Ġbro th +- inter +ĠR id +-m anager +Cancel ar +ĠP agination +Ġsound track +Ġpost erior +Ġscr ub +cre ating +- * +ir teen +.d y +.s ymmetric +Ġ"" . +============ === +Ġch assis +ĠnumberOf Rows +Develop er +_b ins +ĠO UR +ri eb +Pro s +Ġwi ÄĻ +" d +Ġasync io +ze igen +_s pi +.A LL +Ġscre ws +Ch inese +Ġapi Key +Ġun successful +ĠSeah awks +OR G +ç« ł +Ġprofession ally +ĠCou pon +åŃĹ æ®µ +Con vention +Ġpol ym +æī ĭ +Ġsalv ation +Ġengine ered +ĠW rest +ĠG CC +Ġwar mer +Layout Constraint +Ġag grav +Script s +vent ure +Ġrefriger ator +Ġinnov ations +ĠRun ner +N IC +ĠRoll ing +Control Events +Ġlo os +p ac +ĉ panel +ef e +ĠBudd ha +------------ --Ċ +åº ĵ +(for Key +Ġl umin +Ġ( ? +ĠA IDS +, user +im ientos +content Type +ant lr +é ¦ +ĠW elt +Produ ction +m ight +ĠV II +", ( +Ġobserv ing +Ġdeliber ate +( control +Ġwith d +Ġsem ana +ST ACK +uch en +N ice +ĠDeutsch land +ĠSpec ifies +d ma +iz io +ĠF acts +_pop up +ĠDirect ors +{ : +[ R +ĠÑį леменÑĤ +Ġpl at +Ġdirect ing +ä¸ ī +ĠGil bert +â̦ .ĊĊ +.q ml +Ġthere after +Ġdis position +d raft +Ġsurge on +ĠIns ider +Bl end +ĠT rev +tr insic +Top ics +rie ve +_FILE NAME +Ġaut res +J ose +Produ cer +er us +Ġpet it +ĠN EXT +ĠF ilters +Ġreplic ate +"] ). +Ġl enders +] ",Ċ +; charset +Cpp Object +Ġfl oral +ĠT ipo +Ġcirc uits +e asy +(& $ +itt a +ery l +_COMM ON +'}} >Ċ +-back ed +(var iable +( Index +Ġvo ir +_loc ations +++) { +ĠLouis ville +Ġgrat itude +.Mock ito +ĠP owers +ie urs +Ġge ographic +ra le +Ġc ra +ĠSp urs +iph ertext +AC ION +- common +Ġvict ories +ĠFinal s +.sh uffle +-m illion +_PRO C +ass ume +Ġil s +DB C +Boot Test +Ġl avor +.test ing +. ast +"] / +m oid +Ġqual ification +ges ch +ĉ put +Ġair ports +J I +Te acher +_un iform +Ġn ama +ĠB ast +ert ype +c apture +get All +ĠReyn olds +oo led +.com ments +Ġch in +). * +Ġи ли +t gl +ud os +Ġd ÃŃas +ch ai +.pro gram +Ġps z +ĉ icon +ph il +ent ral +_WR AP +ov i +Ġnost alg +In finity +ĉy ield +Ġvit amins +Qu aternion +S ink +_g oods +Ġ ........ +ĠW ings +ur idad +-st ory +"] )ĊĊ +idel ity +Type Def +G tk +Ġí Į +_M ain +Ġche z +ĠR aven +Ġpay roll +Ġfreel ance +LL U +ĠM end +ed ay +Api ModelProperty +.Form BorderStyle +Ġeconom ist +stan bul +Ġfre ight +-A gent +(m eta +Ġsym metry +Ġ' .. +.C alendar +- aut +g f +p ent +yc lopedia +Ġwish ing +ĊĊĊĊĊĊĊĊ ĊĊĊĊ +Ġgentle man +Ġê ³ += # +Ġlect ures +âĢľ In +Ġ! _ +Ġh b +ĠV endor +Recent ly +_n otes +æıIJ 示 +" My +Headers Height +_S O +Ġunw illing +Ġsuper hero +g io +ps y +ĠPe er +j avax +& apos +ĠCr isis +ord inal +Mem cpy +++++++++ ++++++++ +- val +Ġwork book +- ap += k +Ġmetal lic +_ peer +By PrimaryKey +_S D +u ator +_SH ADER +) Math +.Trans form +Ġc ows +Ph i +ĠC lem +(_ (" +ĠL ud +-d elay +ĠSec urities +ĠOrth odox +Sym fony +(re port +Ġent ertain +E PS +iz oph +ex ual +IR D +ä» İ +Ġl ith +Ġsanit ize +Ġfemin ine +IS BN +.auth entication +_p ipeline +/ constants +ĠCON F +Ġluc r +ric ia +.t tf +.set Content +Ġst an +ore an +ĠL loyd +.raw Value +Ġg or +ĠBrow ns +Re gression +Ġlower ing +na issance +Ġbl ows +Ġam azed +Ġun related +Re views +Ġrub y +ĠMod ifier +Ġgi ants +. thread +Ġcontain ment +ĠStart Coroutine +um at +ore lease +ĠR andy +@ endif +D igest +Ġsubur ban +=" );Ċ +Ġann once +. variable +\F oundation +Ġa cre +V an +Ġt uples +d ns +ĠStand ing +_l arge +Ġbox ing +Support ActionBar +ĠFort une +ĠR um +_m ultiple +arch ical +Ġf write +_ quote +Ġfool ish +Ġcompr ising +Ġо п +- selected +v f +ma id +N ama +(d atetime +Ġindirect ly +g art +fix tures +ch os +ĠH alo +Ġrec urring +- news +v il +ĠNurs ing +- produ +ĠH Q +\Http Foundation +enc i +au en +Ġv y +ocr acy +Ġdeleg ation +Ġas phalt +Ġset Selected +k ok +/ rest +met ics +ĠNS Date +Ġtravel led +Ġrec ib +Ġm ime +CL IENT +ĠG U +ĠH ANDLE +/ Q +[ z +Ġbother ed +ĠBB Q +ç as +_ex amples +_F IN +Ġwhite Color +Ġastr onom +-d ir +Ġsovere ign +Ġb reeze +Ġin ning +ĠEd monton +g li +.blog spot +js x +Ġvers a +ĠMoh ammed +.J ob +-t oggler +Ġп олÑĮзоваÑĤ +ard on +Ġnew born +Ġnav al +note q +Ġtum blr +Ġh entai +ĠTyp ically +Ġlo ot +.S prite +Fl ight +Ġw avelength +-s k +ĠEl le +_ exports +Ġ Ñı +ĠI H +izoph ren +Ġí ģ +_pr imary +Ġmo is +ĠB N +Ġsystem ic +Ġdifer entes +IN CT +Ġ'' ĊĊ +$ q +Widget Item +cl ide +$ file +L emma +/ table +ag rid +ĠMongo DB +int e +Ġapp rent +ÂŃ ing +.D b +Ġà Ĥ +ham mer +=' ';Ċ +Ġbro kers +it lement +sembl ies +E le +{ x +Ġlast name +< - +Ġfl atten +_b and +.R oot +.read FileSync +==== == +.r x +? čĊ +Ġmetaph or +T i +con te +Ġdeb it +Ġcont empt +Cpp Type +æĶ ¯ +Form Field +r atio +os opher +Ġimpl ant +P URE +Ġal ta +_man agement +Ġref ine +ĠCheck Box +ĠChar l +- version +cond itional +ven ues +Ġrif les +Ġoff spring +Ġmill ing +Ġshar ply +Ġunder water +( origin +_ Control +Ġ. $ +Pl ugins +Ġdry ing +Ġillustr ates +- u +Ġveget arian +n pc +He art +; ',Ċ +com ma +te enth +as an +/s pec +_m oves +-m argin +Ġing en +³³ Âł +Ġpro jet +Ġo tra +Ġbr as +. utc +Ġsle pt += sub +ab ilit +post er +Ġs dk +ounc ill +Ġw d +Pre paredStatement +ĠDr um +( attribute +ĠEther net +ĉ DB +Cal ifornia +c ube +[ I +.C reated +ĠH M +Ġtr acing +Forms Module +- you +.c urrency +feed ing +Ġt body +L i +acc ion +n as +Ġtr ouver +N ONE +"} ,čĊ +Ġf tp +With Identifier +pol ate +File Info +Ġpurs ued +ĠĠĠĠčĊ ĠĠĠĠčĊ +DE SCRIPTION +} */Ċ +From Nib +Ġdecor ative +_S SL +(ch at +T LS +Ġsurpr ises +al culate +ĠS plash +( Configuration +ĠS EM +im son +/lib rary +< Double +. robot +³³³³ ³³³³ +ĠCP F +ĠUnder standing +Ġcos metic +ĠX t +t ips ++ k +(" ' +ĠP DT +W AR +.get Object +ĠTrad itional +.sl ug +ĠDi pl +=" ", +ĠFil ms +ĠAn im +.h elp +Ġemb assy +ĠBoot s +Ġb unk +-r isk +Ġp ci +Ġ/ \. +ĠI PT +Ġcrash ing +Ġip v +_ ke +ĠRES P +.Log Error +Ġinade quate +I on +ĠF ür +ric ula +Ġshould Be +al ready +']." +G ED +fa q +Ġoption ally +_D is +ĠSuccess ful +ĠC ensus +Ġinc arcer +_C ARD +Ġav iation +ĠG ym +Author ity +.B ean +sh ader +Not Exist +_Text Changed +ĠST OP +( team +" H +w g +Ġgr inder +Ġstri pe +Ġpres ervation +Cl aim +avers al +ware house +target s +Tr ust +Ġal lev +, www +ous se +_ch an +_S ize +system s +Ġobj ection +ĠK ane +Ġcor ros +ĠD SL +Ġu a +ĠM H +ĠStrateg ic +_t cp +Ġê° Ĵ +Ġborrow ed +ĠA ch +ĉ command +Ġg ps +le ston +iche ver +ĠU A +Ġassault ed +Ġspecial izes +ĉ search +Hot el +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ čĊ +ĠP itch +Ġ Ùģ +READ Y +Ġparent al +Ġg éné +Ġdonn ées +Ġdet ain +T ARGET +Ġprotagon ist +Ġclear Interval +ĠIcon Button +ĠGet All +Type Info +E H +âĢľ They +Ġ{ [ +Ġg ag +Ġ Ú© +ĠD ropdown +.f ree +g one +im ens +Ġinst al +ĉc url +_C AN +ĠB one +ï¼ Ķ +ony ms +-g overnment +.binding Navigator +ĠD ans +ĠMc L +( en +>( _ +ÐĴ Ñĭ +.* ;čĊ += j +-c or +S on +.ToolStrip Item +- around +_X ML +end Date +Ġsl ack +Ġrot ated +Ġno qa +Ġc ottage +Ġencontr ar +_s kill +hou ette +! čĊ +. weather +Ġemphas ized +å® ¶ +ĠÑģ пиÑģ +ĠComp iler +( android +ĠâĢ º +. turn +Ġsup pression +_c alls +Ġ* @ +(str len +.h ex +ĠB ills +ĠR SA +Ï Ĥ +ĠEs cape +ement ia +Ġfront end +Ġp int +_ex c +zz o +[ ],Ċ +Ġ"',' " +. Environment +Ġafore mentioned +Ġend ure +prot otype +ther apy +ss i +D eg +_pl ugins +.user Info +Print er +ĠPRO GRAM +Ġru ins +Ġempir ical +Ġcraw l +ĠBo iler +- comment +.sub plot +_ et +Ġ'. ', +min or +ĠCustom s +Ġy aw +under line +ĠCom o +( (' +(m ean +Ġcha que +ĠBlock s +.r ad +ilib rium +Ġweb driver +Ġmel hor +d ana +ĠAb use +ĠSouth west +ĠP aren +PERT IES +ĉ IL +Ġscre am +v u +Ġin comes +Ġn im +Ġl ace +Ġcompens ate +Re verse +D at +_att ack +Ġn our +ach en +ce k +< Func +w ie +com pressed +-m atch +(" ")]Ċ +im ized +. orientation +.compare To +Ġmass aggi +Ġìľ Ħ +Ġel bow +Ġant ioxid +undred s +/ tools +ĠR OW +an mar +ĠW ow +_t icket +Program ming +Ġthe or +-re view +() )));Ċ +ĠRichard son +ĠP ocket +] [] +am pp +_ health +ĠP OP +ĠNav al +Gu ess +Ġancest or +.Get All +.local Scale +ĠM apper +Ġaccum ulation +Ġsim ulated +ĠDr ivers +Ġd és +cur ring +Ġele phant +Ġadvert ised +Ġmail box +SH IFT +ĠMon ica +Ġan c +Ġward robe +Ing redients +Ġ|| čĊ +ipp y +Ġantibiot ics +av ings +(c x +ĠFerr ari +ĠAn imator +.d type +rem oved +order by +Ġc res +oc ê +Ġp ym +ĠCirc ular +@ index +ĠW arm +S ay +ĠAss istance +Ġcur tain +ĠMont e +IL ER +ĠC VE +ĠD uck +ĠAll ows +_f ire +ĠDer by +Ġre pos +Ġhttp Client +Ġpsych iat +Ġnow adays +Ġcaut ious +ĠComput ing +Ġcompletion Handler +ĠWel sh +ĠB EST +Ġstress ful +_P E +æĹ¥ æľŁ +ĠData Frame +ĉ Integer +_P rint +M oves +Ġtransform ing +.B atch +y ahoo +Position s +ze j +Ġno od +io res +_ * +Ġcl k +ĠF loyd +Ġh ap +font size +Ġn az +.not ification +ĠDep ression +Ġac ne +*** ĊĊ +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĊ +.cont ents +yn th +ĠStra ight +')}} "> "+ +Ġtoken izer +Ġsovere ignty +ĠP ence +() ");Ċ +Ġpesso as +.G e +ĠIn cluded +Ġpag ina +Ġex posing +е ÑĪ +_SC RIPT +/$ ', +Th umbnail +× Ķ +webElement X +webElementX paths +press ure +ĠCur ry +_C P +OL UTION +ILE S +prot ect +ool a +Work space +{ };Ċ +ĠU NS +Ġsymp athy +ro ker +Ġrem odel +ĉc ell +Ġat op +.Full Name +Ġfa ut +ĠE asily +_d ynamic +Ġfr amed +Ġmot ive +è· ¯ +s am +Ġmar ca +ĠText EditingController +Ġde structor +cre am +Ġr ude +ĠB old +ĠInd igenous +Ġg ens +Ġrel acion +(s ystem +ĠUIF ont +_char ge +UST ER +E V +.N amespace +Ġmer ger +Ġcal loc +g ang +Bad Request +Ġs per +-d esign +Ġâ ĩ +Ch an +Ġorgan ism +, ) += id +_pl ane +ĠC ases +elf ast +ĠLegisl ature +ĠF aker +Ġinv oking +- utils +(). ' +.f ace +Ġguard ian +my Modal +Ġclip board +ĠAT M +Ġpe as +ĠS ylv +.c alc +ĠContact s +int Value +Ġmodify ing +ĠBar b +. loss +_per centage +Ask ed +(l st +ategor ical +- files +ĠRoman ia +.A c +Ġh ai +ĠF lying +Ġ ż +j p +ĠTr ainer +. arc +_de g +Ġtrace back +Or Fail +F LOW +. old +oy a +g mt +is empty +Ġvacc ination +Ġob solete +recogn ized +Ġru ined +ĠRe in +ĠTr acking +xf b +ا ÛĮ +Ġvæ re +Ġbr yster +ĠIT S +Ġdest iny +Ġsw ear +Ġred es +Ġcl f +Ġfl ipped +ĉ head +Bl uetooth +ĠOver rides +: Boolean +_ = +_l r +sp awn +: index +VAL UES +is key +? ");Ċ +.syn thetic +ĠCheck ing +struct ures +ip ing +Ġvoc als +- Up +ĠManufact urers +ĠMar riage +代 çłģ +Ġgar ner +_C lient +par allel +RI END +Ġvine gar +seg ue +J B +Ġcontact ing +ĠCar roll +Ġout reach +t ensor +_var iant +Ġthe at +lic able +{ | +t iny +_ letter +Ġp encil +HeadersHeight SizeMode +ilt ro +.auto configure +.d rag +.use State +ĠB MI +h int +Com pile +* \ +en ary +Ġl vl +.C ache ++ =" +_t v +ruit ment +Ġf read +Art icles +f ila +Ġpack aged +âĺ Ĩ +AT HER +ĠPl anned +s cheme +Ġdi ary +Ġoff enses +/ F +ĠSt ick +Ġc erc +ĠS lee +ĉĉ ĠĠĠĠĠĠĠĠ +< Image +Ġè® ¾ +- editor +pie ces +ĠD rama +Ġ// //////////////// +ĠT asks +AR C +g ateway +.get cwd +.M etadata +Ġguess ing +åľ° åĿĢ +Ġsm arter +ĠGet Enumerator +Ġe fter +/ operators +ĠGL float +Ġf ør +Ġop aque +ä¿Ŀ åŃĺ +Sp read +SY STEM +Ġinv ersion +ĠBasket ball +Ġsim ulations +Ġden ies +Ġa vez +_list ener +Ġenh ancing +ĠMy th +ĠL akers +_M D +Nd Ex +D ATABASE +Ġt á» +ar th +[ left +Ġcontest s +st ile +(K ERN +_f c +_p m +Ġpres idents +Ġhospital ity +Ġfade In +RO PERTY +_m aps +ĠDefinition s +Ġassess ing +Ġus ar +Ġquant itative +mo z +Be autiful +[ (( +b ons +f requency +Cont ain +Ġpuzz les +ĠCast ro +Ġv illa +Ġkind ly +Font Awesome +ern a +epoch s +_dat as +ĉ ip +.p adding +ĠCont est +Ġed itions +Ġdispro portion +ĠI CO +Ġcome back += value +ri ad +-s ort +Sub mitted +(n etwork +ĠC el +Ġinstall ment +l ashes +.List View +ĠV atican +(Media Type +IV ED +reach able +: Is +ĠC ITY +äº ¬ +ĠHelp ful +Ġba ÅŁ +% čĊ +Ġpsych iatric +Ġrec ycled +FORM AT +ĠG row +b ine +G it +.s s +ĠWe apons +ĠSt y +_ arrow +* self +ire ment +Ġdeg li +App Delegate +_b anner +Ġcoordin ated +ĠWeb cam +Ġcelebr ations +. act +******************************** **************** +( show +Ġweek day +Ġconc erts +ол н +cl in +Ġcr on +ĠN im +.set Vertical +ĠEll en +س ت +ĠS AM +E ff +g z +ste am +Ġant ique +ph ysical +ĠForm Data +.set ter +ĠPO INT +B on +Ġflav our +erv ention +_ENT ITY +ĉ ĠĠĠĠĠĠĠĠĠĠĠĠ +Ġintr insic +Ġæ İ +append To +aram el +) ]) +ĠRecomm end +) m +OutOf Range +Ġkn ight +Ġsat ellites +ĠTit ans +Ġweigh ed +ĠD ana +e ase +Ġs ip +S IM +ĠDevelop ers +mal ink +/ check +_P LL +n ung +Ġdry er += A +.d w +_S QL +Ġsub plot +D ROP +Ġprot otypes +Ġhour ly +display Name +Ġas i +ĠViol ence +Ġastr onaut +Ġdat atype +Ġinformation al +Ġinvestig ative +etermin ed +ren al +; '> +ĉc ol +V G +_ boolean +re cent +Ġ* )ĊĊ +ĠRain bow +om men +Ġl ur +Ġopp ression +(", ");Ċ +ĠFac ility +DEF INED +Ġne on +Ġoff ender +AF P +ĠClean ing +[] ): +Ġund ocumented +.Re positories +ĠG uitar +аÑģÑģ ив +Sk ills +Ġtestim on +rypt ography +ĠAm ber +ĠSt alin +Ġl one +Ġap enas +Ġdies es +ĠAr duino +è½ ¬ +== - +_A ct +Ġc oded +âĸ ł +amb urger +-link s +Ġarm our +.H igh +get Content +st ag +Ġhe ck +ĠìĹ Ĩ +ĠMc Connell +ĠCon cert +ĠAl loc +ä re +.replace All +Ġpart itions +rot t +ĠF le +_T REE +reason able +ĠReport ing +Ġbillion aire +s cores +min s +- eye +M ORE +ab ort +ĠSW T +Ġin verted +ĠTe achers +; n +Ġast ro +н ов +ани ÑĨ +product o +c ountries +ĠO wen +Ġcont amination +Ġv ibe +ĠEll i +.s cript +ĠOl ive +D MA +v ier +: semicolon +-m odule +gress ive +ag u +_ players +Ġresult ados +start ed +scroll Top +==== = +Ġweigh ing +Ġ[[ [ +z ahl +( NS +ĠAssert ion +le ague +.setText Color +ĉ Message +Ġmom s +_A F +. wh +AL S +Ġaut re +] ĊĊĊĊ +.op acity +ĠBudd hist +Ġde af +ĠOrgan isation +(G lobal +ens ch +Ġhead ache +ĠAli en +_in ode +ĠSt ark +Ġæ ī +-l nd +ore f +_fe at +Ġpedest rian +Ġnom inal +Ġbal loon +Ġspr ites +Prototype Of +ĠA post +ĠF EATURE +O H +Ġre cess +ĠDon na +con sumer +$ GLOBALS +ĠG IF +- frame +In icio +Ġpass ages +Date String +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +.by te +B ug +initial izer +p kt +od ium +ĠD ER +. ops +ler i +Ġgift ed +Ġdet ach +ter rain +elt ers +ãģ ı +. loader +ĠN GO +str ncmp +K h +(font Size +ro cket +Ġpreced ent +ĠAur ora +ĠEx periment +is phere +Enc oded +ĠâĢĵ ĊĊ +Ġpy ramid +ĠAnn iversary +of il +ë Ł +( plugin +C oeff +Ġcooper ate +Ġpredomin antly +IS M +Ph rase +_DEF INE +Fl ip +AMIL Y +ĠMark ets +ĠStream Reader +ĠComb ine +Ġmanus cript +z za +, tp +Wh atever +IT ICAL +ighb our +Data Provider +.Text ure +priv acy +.S DK +Ġre charge +Ġc pp +ĠC FG +(h older +(p y +m ot +Ġsav oir +ĠR osa +ĠPC s +Ġí Ļ +.her oku +Ġf ren +ĠR iley +ag ate +Ġs ond +.x lsx +Ġh acked +st ad +G i +Ġsan ity +ĠSql DataAdapter +... ", +ĠP ussy +Ġ **************** +Ġhass le +_P ARENT +ĠU AE +Ġbegin ners +( Client +Ġstatist ically +.h our +ed elta +Ġtr action +uel ve +ar at +Ġsa una +IN VALID +Ġindict ment +AL LE +Ġdiss ent +ĠTyp ography +Ġintention al +s it +ĠAn imals +Ġcoun tryside +Ġu art +} \" +Ġseam less +¾ 示 +Ġaut os +Ġ"' ";Ċ +Fl ush +ANN OT +Ġal gebra +ass oc +ĠW aters +Ġprepar ations +ron ym +[, ] +S ans +Ġarm ies +ipe g +Ġcream y +. art +et re +ĠAn imated +Ġun pleasant +eme an +g reat +i Äħ +ĠEar lier +Ġch ic +Ġpres erving +(ex ec +ĠInvest igation +ĉG PIO +Ġrig orous +ij o += num +Ġtool Strip +) set ++" & +ĠAcc eler +Ġdevelopment al +is posable +Ġflaw ed +re ne +Up dating +Ġwatch dog +Ġden ominator +Ġsubur bs +Ġ... ) +Ġconv ictions +c losure +.I P +Ġtransl ates +.sw t +.Tr ace +Ġmet tre +.is Enabled +ĠEffect ive +.to Int +Ġen chant +Ġst unned +Ġpo i +/ code +ad m +.datab inding +ĠL orem +________________________________ ________________________________ +Ġled ger +Ġcar a +ĠG ir +Ġwa its +Un o +Ġc wd +è¾ ij +ĠT Result +Ġre jo +Ġem itted +ĠWest minster +ä¸Ģ 个 +ne k +_T is +Ġen act +ĉ with +org ia +Ġj ue +Per form +SP ATH +.top ic +ĠD aten +Ạ§ +Ġsit io +_M M +" So +b ial +Ġsc oped +Re quires +ĠT OTAL +ĠCh ancellor +( contents +Ġste alth +dev ices +-p ass +ili h +ĠMal colm +ĠDep ot +Ġconfig ur +a ussian +_con straint +в еÑĤ +G RA +ĠR ates +.dataGridView TextBoxColumn +ĠNob el +it ics +Ġignor ant +ĠReport er +ĠEb ola +ĠSh ock +_re lation +ĠNin ja +) c +Ġt icker +.is Checked +ĠSup pliers +ĠRap id +Level s +âĤ¬ âĦ¢ +ĉ queue +Ġch op +ĠUn ix +re ject +-c alendar +(s ort +è ne +erc icio +Ġh ect +CALL TYPE +rou pon +Ġrent als +auth ors +{ name +ĠF IFO +Ġl assen +ĠN ous +Ġsn apped +Ġfert ility +" log +click ed +Ġplant ing +Ġg b +/ output +PE AT +Ġc ategoria +Ġb ach +Prof essor +in th +"] čĊ +Rec order +ser de +ĠTrans mission +tr ad +Ġtur bo +_VER TEX +\ Event +il ver +Ġbod ily +ĠS ources +Ġkill ings +.xr TableCell +Ġfold ed +/ legal +un er +ĠR ifle +ĠM IDI +_Selected IndexChanged +.Size Type +ĠWeb Socket +Ġsele ccion +S and +ot ros +Ġenv ision +/ etc +ĠMel issa +Sp ot +но е +_ ARM +At tempt +ĠB I +ãģ Ķ +ĠD U +Ġback lash +str ide +/ classes +Ġtext Color +_st aff +ob lin +agent a +.c ollections +ill age +' čĊčĊ +fl atten +_s ales +_M ASTER +T W +_d a +P itch +ph ies +Ġz ombies +ĠV ERY +ĠPharm acy +Ġprogress Bar +Ġhas htag +S idebar +@ stop +(p c +ол ж +MA KE +ĠCor on +Ġkv inner +ĠM aid +b ob +.title Label +Ġsuccess es +ĠDemocr acy +ĠSurg ery +Ġcou gar +Ġcur so +Ġl oro +ist ency +Sen ior +æ k +ĠA AA +ĠBO OK +к о +W STR +Ġ*/ ,Ċ +oy al +.v ector +ĠS PEC +SS F +Ġcomp uls +ĠAppe als +ĠW inston +ĠMock ito +con trib +. available +entity Manager +ari as +_s ale +_r s +Ġdec oding +Ġloc ator +ol ith +Ġk ol +Ġasc ii +ĠR ut +/ interface +ĉĉĉĉĉĉ ĠĠĠ +ĠN umer +.fl ip +-d el +Ġbol ster +on omic +Ġz m +L G +Find By +Ġadapt ive +lo o +Ġv ue +(re verse +_c anvas +. roles +ific ado +ven ient +" As +ĠEn tr +al igned +Ġbere its +/// ĊĊ +.g wt +. employee +_cl i +Ġanticip ate +éĻ IJ +Ġp ik +Ġmush rooms +(t t +Ġo ma +ĠSan chez +_g oogle +. Valid +ĠFile Name +iv ative +k ed +-w ar +Ġm aturity +и д +Ġmin er +Reduc ers +ĠLat Lng +_ST D +D igits +Cal c +-up load +Ġhand ic +ี à¹Ī +egr ated +ĠST M +C lients +ĠTur bo +SY NC +Ġphotograph ers +. Out +.char acter +B UILD +.un lock +Ġar ises +ĠCommand s +(" ");čĊ +_F ORE +; ', ++" ' +. Images +") { +ĠM eyer +Ġneg atively +ĠD LL +Ġex e +Ġdef iciency +Ġwild ly +-s witch +con struction +Ġexception ally +ĠL iz +/j ava +Ġtheir s +ĠCont emporary +l is +.fill Rect +ĠN FC +Ġre he +(num bers +Ġr aster +Ġfig uring +Ġshow c +ĠJ ill +Ġarc ade +ĠConstruct s +md l +(' | +Ġident ifiers +Ġst ellar +( Connection +Ġ" {{ +y or +(m ysqli +Ġdo ve +Of Birth +.dis connect +_h i +Ġzw ischen +ĠGr und +i ros +_A rray +.on click +ans om +An swers +ĉ remove +F a +Ġhur ry +-in f +Ġget Class +ĠReg ulation +ĠFLAG S +m isc +K en +_ heading +G Hz +- entry +Ġbi ography +S ig +-m f +Watch er +âĢľ A +} px +Ġsp icy +_s q +L ost +(tr ack +а ли +Desc ending +< bits +qu ine +ĠAdv oc +_S N +ĠHann ah +PO P +Ġem itter +Ġc yn +ĠC AD +? ). +/ set +ĠS ister +ĠEnd point +Ġmen or +Ġinter p +r k +id le +Ġout fits +. vertex +Ġc lic +ARE N +Ġpost ure +ĠOpport unity +v x +ĠFor bes +.D irection +Ġres ide +Ġremember ing +nest y +Auto resizing +pro viders +ĠA H +Ġhur ting +ĠL ily +eval uate +lij k +p apers +ĠSm ash +ĠL AST +Ġwell s +w asher +_RO LE +ĠD anger +* (( +_re pository +ĠRes olve +ĠRoom s +_R G +ĠQ T +o op +ĠHe ap +Ġslow ing +Ġgrat uite +_c atalog +Ġpol ynomial +L y +pc s +F ox +ĠC yr +Ġdim in +/ month +S alt +Ġh ind +.P ER +For um +c en +_p ol +íĺ ¸ +Ġin ser +( ~ +@ test +ĠGold man +Ġupload ing +F c +Ġkom mer +Ġm itt +_log ged +Ġbu cks +-l ayer +) };Ċ +ĠO M +Ġv eg +col our +Ġоб ÑĬ +Std String +_ que +ĠT ian +Ġspecial ize +и п +Ġк л +tr ial +- edge +Ġm ars +OG LE +Ġempath y +ĠB om +Ġcoll isions +Ġcart e +ĠTe il +ĠM PL +Ġporn ô +Ġa irlines +A ws +N s +ĠSp awn +( use +é» ĺ认 +Ġy acc +st or +Ġconf ess +Ġpe que +r age +? "Ċ +/dat atables +ĠSh ower +__ / +Ġcryst als +Ġbus car +ĠH aus +iz ação +_ entities +ķ Į +ļ Į +x cc +v irt +-che vron +( Result +c ake +COM E +Ġprohib it +ĠCh ess +Ġbe aucoup +ĠÑĩ ÑĤо +R UN +ĠI K +ó ÅĤ +_ Update +Ġsle ek +ĠSpec ify +_c redentials +ÅŁ t +ĠUser Name +ĉ Value +Ġarray List +Ġex changed +ips is +.re lated +ĠSe ite +_B AR +ĠL em +ĠW ATCH +ĠC lients +Ġ. * +ĠEar l +-re port +Ġforeign ers +Ġstrengthen ing +ĉ Description +(g o +.tool bar +Ġcalcul ates +ĉs ource +Ġcz as +Ġre cl +ab o +Ġlocal host +Ġ^ {Ċ +.P op +ĠDes igned +\ Abstract +H old +ĠGuid elines +ipl ine +Ġc aching +.Re ader +_ext ernal +.str ptime +ĠWeek end +-M ar +ĠBe i +Ġ{* } +ĠR ud +Ġexpl or +ĠBou levard +C ash +Ġprep ares +Ġserial ization +ew ater +Ġad c +: ĊĊĊĊĊĊ +Re fer +Ġsc anned +} }ĊĊ +ĠF ul +Ġtour ing +ãĥĥ ãĤ¯ +> (( +sur vey +Ġí ĺ +... ')Ċ +ĠDiv ider +os l +_C ANCEL +_pre pare +st in +ĠHe ath +.Primary Key +ĠâĨ IJ +ĠLocal DateTime +Ġcooper ative +L earning +.en queue +Ġgo og +ĠReg ression +im ates +Ġvoy eur +ĠDr ink +pl ug +Ġl ender +man a +Ġperson nes +yp se +Ġun link +ĠRav ens +Ġhur d +Ġperiod ically +ARG S +ĠG H +char acters +... "ĊĊ +- establish +Ġd n +( condition +ĠGr avity +Ġest as +_f ocus +Creat ure +(s ite +Ġc arr +ĠR L +ĠR I +ĠM oto +AS F +ĠLuck ily +ĉ Route +Ġent ropy +(" ," +Col lect +( contact +ĠFlo rence +Ġpremium s +Ġlif ecycle +Ġb ans +x ef +Web Kit +ĠFlo ating +Ġcos a +Spec ific +ĠLo ans +b read +Ġdes criptors +Ġ{ :. +TH READ +ĠT rent +Ġsc op +Q A +ĠAnt ar +p el +_d ifference +_ch anges +(... ) +ĠR otation +ĠLG PL +ĠJ UST +(T ask +_sub set +ĠTR ANS +åĬ Ľ +ĠSc out +-p opup +Ġsm oked +_C lass +Ġturn over +br akk +ĠRock y +t as +.Regular Expressions +ĠElli ott +ĠSp inner +DU CTION +Ġlib re +Ġmol to +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠ +ĠF TP +m peg +(f eatures +Ġb ald +ĠV id +Ġsh outing +L int +Ġsock ets +Ġpro w +Ġnouvel le +isc ard +ĠS ponsor +Ġconsult a +)) ); +Ind ian +ĠR aspberry +Ġteam mate +ĠJ WT +ĠGh ana +Ġc akes +pr imer +form a +erg arten +_M anager +Ġpre season +G AME +| " +ĠBro ck +Ġoccup y +Ġdecor ations +á nd +Ġc ot +Ġpar an +D isk +rem ain +> ? +Str ong +Ġfr ance +ĠE ra +-c r +.Buffer edReader +ĠParad ise +ĠV AT +ĠAnd ers +Ġlim b +amp oo +Ġimper ative +UT ILITY +ĠRec ognition +Ġragaz ze +Ġpop s +yp ress +Ġemb argo +// {Ċ +Ġsy ll +P TR +åŃĺ åľ¨ +Ġdid nt +Mail er +Ġacad emics +ĠFra uen +ne ider +- rel +Ġrain bow +( In +Ġslic ed +============ =Ċ +(s end +NSMutable Dictionary +v os +(p ackage +Ġord inance +view er +ĠSant os +-s elling +Ġgo v +ett le +Ġfound ers +Ġw aking +sl ashes +-p ound +re cht +ا ت +.on Click +Ġn ord +st änd +_ when +UT ERS +ic c +Ġcaps ule +ĠW id +M arc +ภ¸ +ro red +UG E +LO UD +ĠAud it +ip ients +op ian +ĠS ue +Ġwur den +.H elpers +Ġf actions +[ np +-th an +Ġre co +Ġk as +Ġcmd s +/n etwork +xb f +get Color +Ġbi ased +ĠL ak +D atas +vent s +Ġë ² +_P S +. Validate +Inv oker +Ġne uen +Ġju venile +V ISION +Ġdev ote +Ġlin ha +Ġdiscount ed +\ Config +Ġworth while +Ġskin ny +ĠC ourses +le ys +ĠMort gage +K evin +Ġannounc es +]) * +res ervation +Ġæķ ° +Ġprejud ice +ĠString Comparison +Ġbe ard +-w in +ĠS ão +ĉ ms +j al +ĠE arn +_ ports +ĠN ombre +_C OR +ĠB UILD +.s ound +Y ellow +Ġlineback er +Ġchar itable +j ug +_NON NULL +ĠD ental +"> ${ +ĉm atch +R ussian +Ġvers ch +Ġp inned +Ġadopt ing +Options Menu +P ag +Ġpair ing +Ġt read +erc ises +ĠSp read +) i +ĠB AD +_t f +UI ImageView +pop ulate +b ab +ĠÏ ĥ +[ ++ +Ġopi oid +Ġ## Ċ +d type +ĠStart s +('/ ') +Ġperson als +-mark et +Ġredund ant +ĠEss ential +Ġscrap y +Ġи м +a cl +Ġcre ar +ĠB end +Ġrel ieve +- room +w ife +Ġv Ãł +ĠQ Point +Ġqu asi +Ġmethod Name +\x c +ĠPer u +/ The +. orm +Ġv iz +/p df +Loc ated +Ġconfront ation +ĠChampionship s +Ġhyp ert +Ġd j +ĠUser Info +ĠåĪ Ľå»º +\x b +(s im +Ġ== Ċ +Ġst aging +Ġdr astically +åŃ ¦ +l ords +. less +вед иÑĤе +ĠB ucket +ĠM am +. term +_p i +c zy +.p ub +prec io +ĠV irt +Ġrom an +it at +L ex +_inf os +Ä ° +. other +VE LO +Ġp onder +Ġh anno +( Page +do i +Ġpol ite +Ġprogram mer +D ies +$ d +Ġrep lication +add Column +fr ican +Ġl eng +be er +o it +Ġw asting +yl im +me asure +N eg +Ġpart ie +.con sole +ĠGu inea +TE L +_f act +.ch unk +Ġl ent +Ġall er +Ġठķ +_id le +Ġad missions +JSON Array +Ġv ibration +.h elpers +å¤ ĸ +Ġh en +j ohn +Ġì ĥĿ +Ġjud gement +Ġge en +ter ra +^ { +ĠI z +Ġc â +inst ances +Ġthreat ens +Ġm üssen +Kind OfClass +Ġstoryt elling +_d emo +ri as +Priv acy +h ift +ĠY i +es or +íķ ł +ens itivity +.W riter +ภĤ +D istrict +.get JSONObject +Im pro +(get Resources +ĠS PELL +rodu ce +Ġslow ed +Ġlin ewidth +Ġhonest y +ĠCo ord +ĠF ork +ĠDispatch Queue +ĠCl iff +ĠW iring +_TIM ESTAMP +oll ah +av oid +++ ];Ċ +sem antic +-c ss +Ġv eto +ĠM err +Ġlegisl ators +CEE DED +Ġquestion naire +ĠP ills +Cal culate +(c ore +' e +Ġdis like +ĠPre ferences +_EX TERNAL +è° ĥ +Ġd odge +æľį åĬ¡ +.n ames +.draw Image +_p rom +uck land +Ġ<$ > +ı z +/s ite +é¡ ¹ +rop he +Ġcomp elled +Ġl aptops +Ġun i +C LOSE +Ġcasual ties +ĠUn iform +Term inal +. "," +D AT +(T reeNode +ĠGand hi +(st mt +AX B +* M +Ġumb rella +an imal +Ġgr pc +Ġwhere by +Ġfloat s +ĉ arg +Ġdb g +Ġexceed ing +Event Type +.SaveChanges Async +Ġ{ {{ +Ġow ed +ahren heit +Ġì § +Ġequ ipo +ur ai +Ġid ol +] ")Ċ +_m ajor +Ġentire ty +inger print +ç os +/ account +ĉ right +urs os +ĠE DT +_INS ERT +Ġsh ining +Ġ< : +Edge Insets +Ġcolon ies +. IM +ĉĠ ĉ +RO AD +CC CC +pl acing +Ġget Activity +em acs +' %( +.click ed +ĠTh em +is ia +Bus car +.re name +Ġo ath +Ġafter ward +ĠU FO +AP S +ĠJackson ville +.s ome +Conf irmed +.s can +ig Integer +Decor ator +sh ield +ress ive +.d id +请 è¾ĵåħ¥ +Ġsh utter +D am +Ġparent ing +ey ed +$ item +-de velop +Ġextract s +Ġdecentral ized +ĠEl sa +_sp in +]) + +-in itial +Ġmult itude +Ġsens ory +ĠMODE L +Ġsafeg uard +ì ¹ +Ġhunt ers +ĠT iny +IN O +decor ate +ĠNo Such +H o +( Response +Ġr uler +ĉ short +Ġc aster +Ġclient Id +Ġp db +ëı Ħ +it ic +ĠGame State +Ġnew Item +)ĊĊ ĊĊĊĊ +ou is +n oc +.BL ACK +_V ECTOR +---------- (); +.get P +any e +Ġneur on +if old +ĠK nown +Bit coin +Any way +ay ette +Ġ' [' +Ãł nh +m gr +Ġcor related +Ġn ause +Ġment ality +has Many +ĠF G +amp ie +IT U +F s +.S p +_b etween +Dep endencies +ou g +Place holder += text +ĠMan aging +ocal ypse +åĮ Ĺ +_m ag +f ld +â ij +C AM +ĠHelp ers +Ġd ost +/ out +Ġassass ination +.get Image +ĠKenn y +.' )ĊĊ +){ // +ĠR anger +Ġg ek +Ġsinc ere +< Value +ĠD OT +ĠVict ory +Ġleg ends +Ġpr isons +(ex pression +ĠR abbit +_s entence +Ġbit es +Ġon Failure +ĠâĪ Ī +K im +.g ender +ĠÎ » +Ġ[ . +"] ); +land ing +-d igit +TE MP +ĉ entry +Ġstrt ok +Ġdesc endants +um no +Ġlean ing +Ġspecific s +q n +ĠSp art +Ġpor r +EDIATE K +Ġse per +' aut +ĠSTE P +ĠBorder Layout +Ġret ros +ĠSalv ador +ĠEN GINE +x dc +T weet +v k +Ġì ² +] << +het ics +c oding +Re ach +.re q +gu ide +.s cope +sh irt +rog ate +SET TING +ĠProte in +Ġe ing +. EMPTY +.d f +Ġclear er +Ġc rossover +ĠTo ys +Ġco ated +.M onth +ĠAtt ach +/ run +.t abs +Ġogs Ã¥ +B rown +.D ATE +Ġf os +åŃŠ符 +W ood +-th ree +her ited +Ġ rop +( ac +Ġembod iment +ĠKenn eth +Ġcan non +Ġb idding +čĊ +.get Resources +Ġl ump +_const s +( ext +ĉd ir +â Ŀ +Ġpadding Top +Ġobs ession +Ġb anning +ĠApp Module +Ġpart isan +Ġcatalog ue +Ġmin ors +Ġpitch es +we ep +Ġundert ake +Ġthem ed +aud it +.scroll Top +Ġr er +Ġsympt om +Ġopen ings +.block s +open id +Ġas sh +-s ave +ĠP ig +Ġreg ain +Ġin icial +/f avicon +ĉ exp +Ġsp ices +isk a +claim s +m ak +definition s +Ġcorrespond ent +ĠCann abis +__ ,Ċ +ĠL ucky +ĠGa ussian +ĠN early +C AD +'] ]Ċ +Ġadequ ately +ĠT ITLE +constitution al +-m m +_ override +Ġbl as +.ready State +Ġremin is +Ġrein forced +ĠColl abor +Ġdecor ating +Ġb achelor +ERRU PT +Ġup right +ip ation +ĠNob le +Ġvalue ForKey +Ġset Loading +.I gnore +å ģ +G lobals +ĠM ent +AS SES +Ġlim bs +ĠH UD +inc i +. iv +ĠQ ModelIndex +F use +Ġped al +_F REQ +( verbose +Ġlong itud +ĠChar ter +ê ·¸ +Ġbund les +. ignore +um bo +EM A +.... ... +s x +.C ard +Ġhe ute +Ġste er +j umlah +Ġ{ _ +_Check ed +Ġf ax +ĠG ust +itch ens +Ġ ))ĊĊ +Ġremark ably +/ XML +- remove +_b t +Ġinc ub +.p ackage +.current Thread +ĠHigh lander +.s ide +s plash +Ġ ici += D +Ġp uck +Ġball ots +Ġhug ely +co eff +Ġp Data +.C OLUMN +ĠHe aling +Ġord in +! ), +Ġ' ',čĊ +(m d +ĠS ask +< strong +Ġsurviv or +.s eries +Ġcaffe ine +Ġ` ( +.TRA ILING +_ Input +(" ^ +z d +& );Ċ +ĠP ing +Ġv oucher +.r ating +-sh irts +ĠRetrie ves +.al ibaba +Or acle +_MO V +Old Data +Ġ/* čĊ +Ġg boolean +Ġ=> čĊ +Ġr á +Ġbl unt +ĠImage Icon +if ik +RT C +Ġfib ers +Ġto ile +.s ent +ĠPy Qt +$ app +Ġmed io +Ġgrant ing +Ġtsl int +ĠM ö +(fig size +Ġhur ricane +Ġlif es +Ġà Ħ +rocess ing +_st andard +- option +')) ) +Ġvac ant +å· ¥ +ĠH ollow +handle Change +Ġdiv ider +ĠEngine ers +Ġsv ens +Ġcompl iant +t anggal +ĠC redits +ĠEm irates +Rule Context +Ġreal ization +Ġdistr acted +]+ = +Ġaug ment +ĠD w +ot p +or rent +Edit ar +.st ock +St udy +pe ctions +ĠGame Manager += cut +Ġf lock +ĠRom ans +th em +-h op +Ġscreens hots +Ġ/* !Ċ +Ġconvers ions +Ġnormal ization +(config uration +Ġa eros +_se curity +! 'Ċ +B onus +ĠDR IVER +ĉ Date +t ie +ĠWy oming +St and +it re +Ġsh oppers +Ġdisadv antage +Ġlik ing +ç¬ ij +Ġunderstand able +SE E +Ġh oy +Ġnin ete +Ġcon fer +Ġnow rap +ĠV ern +, čĊčĊ +imest ep +Layout Manager +à · +ĉw ait +PLE TED +J apan +Ġindu ce +Ġå ¯ +оз в +_END POINT +.h orizontal +Ġacceler ated +rim on +IV ES +Trans actions +Le an +ĠSO UR +wh ether +y g +Ġo id +ĠEntity Manager +OUN TRY +Ġfil a +OLUM NS +IN UE +ĠAn chor +TR AN +wo o +block quote +ĠN urse +ĠCar p +Ġrede em +. try +ĠJ P +Ġtimestamp s +Ġ?> ">< +ĠREM OVE +ĠStar bucks +Re ally +Ġflood ed +.C allback +Drop Down +ip ro +Ġt ended +l te +Ġproport ions +- te +ĠR ena +lic ate +for ces +.ex tra +.auth enticate +в од +¡ ° +Ġfor ControlEvents +Ġsen ha +Ġke in +Ġmin ist +ĠPre ference +ĠTele graph +Ñĥ п +str pos +Ġillness es +Ġp igs +Ġget Intent +S ol +Ġ ¡ +(c pu +[ prop +s creens +'); ?> +ĠAct s +Ġstr dup +Ġaver ages +an al +ĠCas ual +Group Box +ĠHand book +/ comments +Ġnumber ed +Ġbroadcast ing +çĽ ij +.native Element +.m u +Ġupdated At +ĠDoes n +.A C +.c oll +Ġrec order +_sh a +B g +b il +Ġbol ts +Ġç ¬ +Ġim posing +ĠInformation en +_flash data +e conomic +Rem ark +uc as +ĠOff icers +ĠT ER +W alk +Ġmerc ado +_g enerate +H Y +Call ing +s nap +script Id +. operation +ĠFl ame +l iness +Ġrent ed +_t oggle +-ch anging +ĠT Y +' util +EE P +Ġgraph ql +ĠUn i +Ġimp ulse +.B asic +Ġenerg ies +M ARY +ĠMar cel +Ġmort al +Ġf res +m ens +m otion +Ġsample d +âĢľ That +id ay +qu ipment +get Int +ĠA bsolute +,' " +un ed +.sh are +Ġ} )( +mm m +ĠR ising +ä» » +Ġun employed +x fa +.f ollow +ĉĉĉĉ ĠĠĠĠĠĠ +sl t +.P hone +Ġkn ives +Ġe ve +on Click +] ))čĊ +ĠW itness +ĉ NS +ĠE OS +ĠSte fan +ĠPri est +âĢĶ which +Get String +. By +Ġup stairs +Ġdetr iment +bro ken +emb ro +Ġnic otine +il ion +Ġaston ishing +_ aff +ĠLess on +Ġaccident al +od or +Ġdec ir +Ġnew Name ++ . +çĽ ¸ +igs list +ĠG ithub +Ġsuccess ive +rac ial +Ġen viron +éªĮ è¯ģ +Ġredirect ed +T OTAL +Ġgrab bing +ĠL ance +Ġfor fe +_C B +å¾ ® +El apsed +_w ay +(Dialog Interface +_me asure +x bb +D og +Dep art +-s rc +res olver +with standing +_sh ell +ĠLast Name +ĠAv iation +Ġbegin ner +("% . +(to ol +Ġн ов +: init +(A PI +ĠMorr ison +vt Color +Ġstap le +/ INFO +Ġsupern atural +Ġste ak +tim eline +zz le +" `ĊĊ +Second ary +ĠNep al +.String Utils +Ġad am +Ġ( ... +Ġsub stitution +Ġboard ing +ĠKey word +ĠAss ault +dbc Template +Ġorder Id +( engine +.assert That +ĠVen us +Ġhomic ide +ĠA val +Ġg utter +ĠSupport ed +/p art +Ġac claimed +H istor +Ġmes es +ü ber +ĠRen ew +Ġgr as +ĠE k +Ġin file +ind y +.m usic +.S croll +ĠA ges +ĠNar uto +ĠG ather +Ġconfirm ing += (" +Ġpitch ed +ole y +Fr ance ++' " +$ total +Ġon de +Ġd itch +_s igma +Ġcontinu ity +re ward +- load +Ġproces o +Lock ed +st aw +Ġsp inal +l azy +! == +j est +Ġd un +ĠRod gers +ĉ grid +Ġlog os +ĠBeng al +.s uper +Provid es +Ġnut rient +.T imestamp +IZ ATION +åĨ Į +Ġf ats +ĠX xx +ct ica +Target s +Ġcont ours +Ġre ordered +: Array +Ġtoler ate +V ir +Ġter ribly +Ġbr icks +(& _ +h b +Port al +ĠB read +. which +ÂŃ t +as InstanceOf +Ġj object +ĉ length +_M T +; ">čĊ +_EX IST +Ġmat ernal +RE L +Ġê²½ ìļ° +he e +Ġlayout s +ĠL ap +ais y +Ġst umbled +ĠU IG +ĠS co +Ġimp aired +RES SED +Ġab uses +V F +AR B +.N AME +r ch +prim ir +_com pleted +Ġp enny +Ch rome +(b egin +ern en +- checkbox +Plain OldData +ĠL PC +r ade +sp ir +Ġcon ceived +T ips +ĠIo T +ĠG an +èģ Ķ +Ġbi ases +Ġconsult ants +ple d +_ ht +associ ated +], ĊĊ +Ġdelight ful +ĠÑĤ ек +Hel vetica +( load +-exp and +_W IDGET +to a +ĠA kt +Ġom n +Ġcl auses +Int el +*/ }Ċ +_reg istration +Ġold Value +Ġrest oring +Ġun real +O VER +ĉĊĉĊ ĉĊ +AT S +_pro be +Ġdiv isor +.update Dynamic +å¹ ³ +Produ ces +st amp +.j boss +ĉt ask +! (: +Ġpsych ic +@ class +M artin +ĠPass ed +clar ations +h el +а Ñĩ +ĉc opy +-b in +z an +ig ram +া ঠ+(s ig +ĠC aval +_ ## +Ġ% = +out lined +ĠAc id +Ġunpredict able +-d ashboard +Hex String ++ c +.P ublic +Ạ© +Ġconvey or +ĠE B +Ġselect s +Ġknock ing +ĠC ec +IBUT ES +owa Äĩ +g atsby +* v +ent ropy +Ġdispatch ed +Ġcam el +ĠSat urn +Ġover weight +( phone +par able +% B +_v ectors +Ġbrew ing +ĠT k +ĠDownload s +ĠS aved +.Pr ice +Ġcur ved +ĠParen thood +è ¶ +.p nl +plet ely +.D ay +Ġadvertis ers +Ġej ec +Ġpr zed +ë ¯ +! ';Ċ +ĠK ush +ĠT AB +Ġquest s +Ġcoinc idence +umm ies +ĠKash mir +ĠEth ics +_g rowth +Ġakt iv +Ġgroup ing +å¢ ŀ +_tr uth +åIJ ¬ +t odos +is et +Tex Coord +ä tt +ĠZ ur +ro ys +_M AGIC +Ġbrew ery +( State +ĠSM ALL +ĠPl ants +it bart +each er +ĠAd elaide +L u +Ġf ick +und les +_load ed +и е +P oll +rit ic +EL Y +Ġ+ ' +ĠProf ession +Ġst amps +ĠS ew +scroll View +Ġcomm unist +/pro blems +}čĊčĊ čĊčĊ +, o +Ġu dp +Ġob ese +appro ve +ancell ation +_G ame +ĠHas htable +adaptive Styles +Ġpossess es +.match er +function al +M rs +ĉs ave +ĠDb Type +Ġk en +get Context +Ġm ans +( rel +ĠBrother hood +) `Ċ +è§ £ +.In formation +OutOfRange Exception +ĠS ek +C as +Ġblog gers +E ither +(" "" +Ġpin ch +Ġco arse +) p +ĠP ulse +Ġlear nt +Ġdent ist +Ġon change +Ġdirect ives +( actions +ny der +ĠSh ir +T rait +_de p +ĠP ET +ĠRE P +.App Settings +cu ador +iden av +Ġenv i +Ġsl ammed +ĠSh oot +Ġdate Format +.j oda +ve ys +Ġ) .ĊĊ +Ġcare g +ĠPar allel +_ translation +.function s +. obs +Runtime Exception +[] = +over view +ĠSch l +Ġno isy +ĠOn PropertyChanged +S ending +Ġunf amiliar +U pon +ĠPrint s +.t yp +Ġflee ing +ĉm ove +( Un +Ġq r +× ľ +_b eta +Ġsk ies +ĉm e +W ND +Ġstick ers +bl as +Ġinsert s +Ġvers es +ĠD ew +Ġtang ible +Ġhe cho +P OL +Ġte ardown +om nia +IB E +.c over +_str ategy +^ - +set Position +u ale +S igned +Ġif ace +as eline +.set Time +ĠMin eral +ĠFight ing +sk ins +Ġdiscrim in +Ġdans k +ĠPr inceton +ac ist +Ġ( ));Ċ +tr acks +imon ial +ad ecimal +EP ROM +ugg le +.Not ification +$ mail +c antidad +ĠJ ung +Ġseek ers +Ġpl ausible +t ier +еР¶ +Ġr apper +ĠMan a +ĠHttp StatusCode +Ġburn t +los es +ĠF oto +ĠJson Object +Inst agram +Ġsys call +Ġreal ities +ĠMAT LAB +:^ {Ċ +TER M +ĠC bd +ĠPar agraph +Ġtrav és +Ġconstruct ing +Ġsw al +Ġp ige +LL LL +-ex isting +G ets +Ġmelt ed +Ġmitig ate +H en +Ġh m +im as +ĠA o +ĠP erez +ĠD AL +Ġëĭ ¤ +Ġdiv is +Storyboard Segue +ĠMod ify +ĠÃľ ber +_O VERRIDE +.p em +unt os +Ġespa ñ +Ġ{ ? +ĠP AY +_ip v +ĠF ury +__ .__ +el ow +-center ed +check s +_ Reg +-J avadoc +ĉ load +ĠLik ewise +ا Ùħ +UN E +.se m +x cb +ĠC ave +_s leep +Ġsil ently +ĠExt reme +.To Upper +ĉC HECK +Ġc ue +ĠQ ByteArray +Ġcorrupt ed +ĠD é +Ġimp ed +Get Name +Ġinaccur ate +Ġso ber +е е +Ġbar code +-- ){Ċ +ink i +Ġé p +Ġd ri +ĠAL T +>>>> >>>> +ont a +[ L +Ġinter es +ver ting +Ġdi agnostics +p dev +è © +ĠIntegr ated +). ' +_g c +$ text +.g ames +ĠT erra +' Re +.trans fer +_F IFO +get Model +Ġbl and +ĠCole man +Ġpr imes +Ġæ Ī +Ġcross es +n k +G ING +Ġ' ^ +ĠB lob +Ġinter course +ĠBl vd +Ġweigh s +_reg ular +ĠPer th +Ġsepar ating +Ġb illed +.tab Control +Ġpup pet +Ġutil ization +Ġâĸ ł +Ġsucc es +Ġl amps +_pro j +E ric +Ġren ovation +ĠFam ilies +ĠB its +part ials +-M en +s olution +Ġd warf +.IN TEGER +ĠLO CK +. ct +Ġexcer pt +ĠP ix +ĠFirst Name +ANT ED +ĠAd mir +-h elp +P rior +ĠAl ign +.IN STANCE +Line Edit +('/ : +Ġin et +od us +.p kl +ĠK Y +up ert +Ġn erves +_grad ient +} ',' +_un ref +Ġs aturated +ĠConn ected +ĠF N +EX IT +Ġtele port +Ġav ait +Page Route +Ġdivor ced +(l ang +f st +ĠT yr +Ġmess enger +if stream +X S +ĠBank ing +Ġinfect ious +ĠM ons +_LO OP +Ġzur ück +Ġobt ener +/re pos +V el +ac ro +Ġuser Repository +style Type +ĠS RC +VML INUX +rec ursive +/ bar +_ch ip +omin ated +ĠN it +âĢĶ to +ĠBudd h +ом еÑĢ +ĠM AG +ĠC HE +_d en +. raises +_de gree +Ġpump kin +_tem plates +_M EDIA +ĠTim eline +Ġb ots +Object Type +Ġbu ys +.post s +C AL +wait ing +ĠDani els +Ġd abei +ĠS igma +il or +ig el +, W +AD S +( panel +ì² ´ +it ating +.p alette +Ġmos quito +Ġt ego +(parse Int +Ġdes pués +p romise +Ġw ij +types cript +ĠT v +_IDENT IFIER +).ĊĊ Ċ +_fl at +its u +US R +ex perience +-f it +ph inx +_th resh +Ġide ally +ĠFre eman +, DB +_r w +çŃ ī +U b +_stat istics +=" ">< +Ġch ore +Ġy ork +inst alled +Add itionally +Ġp stmt +yl ko +:: Ċ +Fore st +Ġhead set +Ġgall on +ÑĢ ÐµÐ¼ +Ġwithdraw n +ĠC andidate +Ġmel ting +Ġfree zer +Ġh l +_HE LP +m ime +( /* +Ġth irst +$ return +member of +еР± +ĠHttp ServletRequest +( ob +_ Result +Ġassert ed +Ġfulfill ing +Ġstret ches +par ated +-f unded +Ġå Ľ +ing les +_c a +. condition +ĠDis plays +Ġor ang +ĠC RE +Ġgl Bind +ĠSelect or +/ type +ĠAlex a +ched ules +ĠPen insula +Ġpar ity +ĉ dest +ĠDo ors +čĊ ĉčĊ +_dim ension +Ġa load +.St oredProcedure +(p aren +ĠBur ke +') ]Ċ +- engine +Ġqu ir +ĠHy brid +ĠDo e +Ġout lines +ĠTrend s +_N V +per iments +ĠH in +? ', +ĉ Text +F UL +Ġsm ells +Ġs lick +Ġmis erable +ĠArray Adapter +Ġparam String +H om +_l iterals +us uarios +Ġprompt ing +_l azy +ĠActiv ation +_ oc +We ak +Ġan ecd +ĠU CLA += re +isse ment +ĠEsc orts +Ex cellent +ĠP ause +Ġre positories +T OR +ari ate +_is o +up dates +hal b +udi ante +ë¡ Ŀ +Ġna ive +ĠP eg +ĠL ounge +ARG IN +(b in +On ClickListener +ĠFA ILED +Ġl ite +Ġd zie +ĠL iteral +iv or +fc ntl +Ġe ats +Ġq ed +Un lock +rid ing +und ai += M +AT TER +Configure Await +ici as +ustom ed +Ġsuccess ion +end Time +ĠJ upiter +Ġjud ging +d ration +_d ocs +.m o +Ġeduc ators +ĠV ine +Con d +[ out +q b +\ Validator +Ġmean ings +Ġpresent ly +Ġdiv iding +otten ham +asc ular +Ġtrail ers +ĠC LOSE +ам и +âĢĻ ai +ĠG ain +w or +Ġpl anner +Ġdistrib uting +v at +month s +x label +H F +V iol +.BASE LINE +еÑĤ ÑģÑı +ĠR otate +Ġtx n +: bold +Ġb loss +Forg ery +( embed +Ġjak o +s printf +the ir +Ġexhib its +- static +he cy +get ActiveSheet +.c lients +ãģ į +_h ide +[ word +C b +add Item +ax e +_r adio +al ion +mod ifier +Ġsat uration +Ġden om +_p ixels +m ess +(f l +at if +Ġse cs +Ġpro stitution +Ġgrand children +Ġparad ise +ĠF eld +_B INARY +it ous +๠Ħ +Ġflash ing +-s ided +Ġcontrad iction +/* ĊĊ +y label +ĠT et +Ġadm ire +res o +Ġlet z +ĠSE ARCH +sl ots +ĠRew ards +ĠH og +ĠNS Data +st ash +F all +ĠA mer +Line arLayout +/ photos +Ġfe ather +Ġ| čĊ +Download s +.Start sWith +Ġ// # +ine Transform +Ġaff id +V tbl +ĠRog ue +scri bed +Ġfa uc +ĠMon roe +Ġdecl ares +mod ern +re on +ay be +P ASS +f ers +_MULT I +ĠMath ematics +Ġsud ah +_ATT ACH +Ġnumber With +ĠSol omon +j in +ograf ia +ö l +_d esign +cul ated +ĠL una +ies z +Ġ=> ' +Ġrevel ations +Al ong +( ed +ĠF ilename +Ġy label +Sec ure +Ġbus ca +agn osis +_RE CE +Ġoverl apping +Ext ent +Ġanticip ation +Check s +ĠALS O +or c +iling ual +it ational +Ġadv ancement +ou ro +ĠP redicate +å¾ Ĺ +er ia +ĠPier ce +or io +Ġmer its +Ġpe anut +.P ackage +ĠCon duct +_SENS OR +Ġbo iling +Ġin tra +ĠI GN +ĠF ur +.Ref resh +ĠRe ach +_dec oder +.Ex p +ĠÑĤ ак +p ill +, Q +ĠGr ill +Ġpop ping +.A g +Ġpro yecto +Ġmile age +Ġec ological +] ]);Ċ +ĠÂ Ń +sub plot +ac ad +ĠTry ing +rec ipes +$ criteria +ĠPers ian +-b ound +M ASK +ĠG esture +Ġk k +ĠP VC +Ġprohib ition +Ġcom ando +ĠLO OK +Sh opping +Ġdist ortion +< Boolean +.Get Length +um pt +\ Product +ell ery +Ġfire wall +form atted +.red is +Ġes a +ĠRh ode +S om +.n on +Ġ' ). +Ġget View +ạ n +pr us +Mat thew +Ġs ia +ĠF ors +G PU +ient ras +_IN ST +Ġol arak +Ġimport ing +T CP +/ ");Ċ +e ither +Ġfresh ly +c ascade +(char acter +ĠJe ep +ot ics +_ UTIL +.Xtra Printing +.first Child +ĠEx cell +Ġd vd +Ġt aller +Ġr as +yp ass +Ġassign s +Ġgri ev +-m ore +J D +ĠBurn s +' >čĊ +.D ependency +.Query String +.O wner +Ġexp iry +Th u +( Vec +Ġhazard ous +Ġr pm +AP ON +Ġadd Target +sv ille +p Net +ĠIm g +ĠTIM ER +.An imation +Ġbe k +Ġass ort +Ġle bih +Ġbody Parser +Ġvibr ating +ID L +Ġbutter knife +int ers +Ġpersu ade +ĠLGBT Q +è ĭ +.s oft +Ġbe ams +_s ur +.D ef +Ġl abs +ĉ plt +Ġsk ins +Ġtransf erring +Ġimag inary +_E nd +; background +Ġl aps +_COM MENT +(S DL +ond s +.Rec ord +ĠIm plements +_t icks +() ))ĊĊ +Ġa rose +] ? +ĠM p +ĠI Command +Ġsculpt ure +Ġcontract ed +< HTML +Ġcal end +at y +/ Sub +Ġkv inn +_ IGNORE +ĠSh ane +ML S +Ġstim ulate +Part ition +Ġm un +ó m +eral a +- account +.B inary +c é +Ġse ize +connection s +ĠĊ ĠĠĠĠĠĠĠĠĊ +ĠDi agnostic +V ISIBLE +ĠRun s +Ġimpress ions +s uite +ob le +~ - +ak ukan +< Person +ĠN os +ĠG ui +.wait For +RE SET +Ġpost pon +Dis cover +arr ison +sh aw +b lood +AJ OR +æĽ´ æĸ° +ĠM use +æĶ ¶ +Ġret aining +ot te +Ġmos que +ĠS ne +Ġstandard ized +Ġmain land +_th ree +unge ons +get Doctrine +Ġwh ale +Ġag g +ĠP orsche +now led +lat ent +ĠRel ation +Ġ// ' +Ġshut ting +ĠRem ix +_c ov +Ġs ailing +Ġv owed +Ġp ots +out u +Ġhair y +cast s +Rel oad +Ġre connect +ter a +.child Nodes +ĠR ack +Ġcurrent Index +Ġall en +Ġ ç͍æĪ· +ĠC ubs +[ X +_SE Q +_RE MOVE +.get Action +(/ ^ +err ar +Ġ ether +cur ve +Ġsl ap +Ġu om +O thers +Ġen gr +Dis position +Ġst aged +E ye +ĠA ux +auth enticate +Ġ$ ? +ĠAndre as +Ġset w +.A rt +Ġforecast s +Ġa unt +-m iddle +Ġmis d +des k +Ġescort e +ĠCas a +rop ical +Ġexem ple +plan et +(U INT +Ġwh ip +ĠPC B +clide an +=" \ +Ġox ide +Ġsucceed s +der ived +ĠEcon om +_co ordinates +ir as +D raft +Ġvisual ize +B rian +_ASS UME +ĠObject Id +Ġtrain ers +_FOR CE +Ġcon soles +- process +lic her +ĠSim mons +T aking +ĠCl aims +Ġdiffé rent +Activity Result +Ġsn s +éĢī æĭ +ĠCr us +Ġll am +r ab +ĠJo an +AA A +ĉf ilter +ish ops +get ting +à µ +Ġquant o +P ast +ov ich +Ġin justice +ĠF LOAT +Ġal right +\ DB +( GameObject +u ish +(b ot +Ġgall ons +ĠR é +ĠS aid +ĠSTDMETHOD CALLTYPE +ais ing +_process or +ell idos +ter dam +ĠBe am +Text Area +Ġret orno +.M ake +Ġ$ ("< +Ġlock down +Ġremed ies +Ġve el +x ee +do ctype +F il +ĠExp and +Ġemp loys +Ġsession Storage +Ph p +P ublish +Ġret al +f abs +ynam ics +Ġtoss ed +ĠnumberOfRows InSection +x path +\ modules +Ġdis astr +ĠM ULT +.M esh +-st age +Ġs df +it ung +ug es +Ġ?> ">' +kin son +Ġк ол +ogn itive +_ li +Ġim minent +Ġaff inity +.sign al +Ġnot ch +ĠSteel ers +max length +K K +ĠEug ene +_P WM +ro i +Ġâ Ĺı +ĠH amburg +.M ust +Ġax e +en ef +Ġamb itions +ĠSpec ies +ĠSt ress +Ġa while +Ġб Ñĥд +Ġwith stand +ĠDec oder +_in ventory +Ġ{ ččĊ +Ġt gt +Ġrail road +W ASHINGTON +Ġnegot iated +N ST +- phone +, U +Ġexerc ising +á» ¥ +_P IXEL +av ors +iter ated +Ġv ampire +ad al +In grese +Ġun g +ject ive +.c ells +Ġn ano +Ġmark down +_R ULE +(event s +Ġl uggage +MESS AGE +ig keit +$ count +Attribute Name +IG INAL +_E nt +ĠB F +ĠCOM MENT +_in i +ĠEurope ans +ĠB elle +åij ½ +) [' +åº Ķ +ĠUse ful +.re ference +() ", +_ grade +ĠK aw +Ġsent encing +Ġsocial ism +mon ster +_L AYER +Ġdee pest +w k +ĠNo ise +### ĊĊ +Ġpr éc +ot le +ÑĤ е +a uf +ib al +Ġcon quer +> Email +Ġamb ulance +O AD +Ġ(" % +ĠF I +.f ixture +Ġter se +ĠĠĠĠ ĉĉĉĉ +Ġsanct uary +ug i +ĠCom parator +Definition s +Ġast hma +Ġl act +Ġhard wood +.c lock +Ġattract ing +ĠM our +(d istance +ic its +Ġbon ne +ĠAC CESS +.Deserialize Object +ĠTyp ed +Ġje u +Ġapp Id +ĠCl ara +ĠH F +ĠRe ich +ipp les +//---------------------------------------------------------------- ---------------- +_del ivery +erial ization +Ġplaint iffs +Sc ient +sh opping +ĠD ummy +ĠW ald +Group Name +Ġins cription +el og +:::: :::: +_ ld +Back Pressed +.R aw +ĠOn Trigger +Ġmuse ums +ĠBe en +ĠAdvent ures +Ġsl ate +Ġlet t +Ġsu nd +ĠG in +ĠMechan ical +.s hip +App Component +Ġdest ined +Ġdw elling +Prof iler +Pre pare +ze ich +Ġsil icon +(h as +Ġ# % +VID EO +Ġcollabor ate +L in +Ġsc opes +( className +(s d +and in +.h am +Service Impl +-des cribed +Ġiron y +st ial +ĠHu awei +(re po +Ġunexpected ly +ĠK ai +.inst all +\x f +Ġexhib ited +_T CP +ĠO x +_CH O +Ġprostitu erte +Ġv ä +Ġsit o +Ġconstitu ents +ĠContin ued +ĠS AVE +r ss +/ message +ub es +Ġmisd emean +Ġtax ation +Ġstory line +h air +ĠFind s +S IG +ver ification +~ = +.h p +Iter able +Ñĭ е +ator i +Ġc tr +R x +_ );ĊĊ +d ag +.p in +Ġp seud +Ġinv o +ÑģÑĤ ÑĢ +_p ix +为 空 +Ġsw orn +âĢĶ or +_reg istry +Ġdis asters +ĠRO I +ĠâĢ ķ +akt u +fore st +be iten +âĢĶ I +ue va +eg t +Ġsp ikes +URE S +ĠRecomm ended +Ġexplo ited +ĠFreder ick +_COMP LETE +ĠDr ugs +!!!! !!!! +ĠR iv +ST OP +RO OM +ĠP ASSWORD +C ookies +.E l +á» Ń +ĠB ert +Ġhash ed +ic ester +Ġdecor ator +Ġquery String +: ;Ċ +Ġ" [" +oto pe +-A meric +ĠMatthew s +UR AL +âĢľ , +Sum mer +f os +_CONT AINER +_A CK +Ġfil tr +_dis p +_ Re +Ġfac ile +а ÑĪ +Ġìķ Ĭ +Ġe ben +Ġspr ink +ĠQ uint +> V +Ġhistor ians +our met +ĠMonitor ing +led ger +c ott +Ġw are +GG LE +c ars +ĠM EDIATEK +Ġvol upt +_ View +HE L +(c opy +(st ats +Ġchrom osome +ĠCurt is +- conf +( asset +Ġhv or +File System +< >();čĊ +oc oder +ĠC annon +) x +ĠSm ooth +ĠS AS +_ ce +ĉ prev +_m ovie +E c +_w all +< Button +ĠF AST +Ġon View +ul an +ĠS UPPORT +Ġgesch ichten +ĠS ons +Im m +$ IFn +Ġfair ness +Ġd pi +ats u +J osh +Equal ity +Ġ} ()Ċ +_ less +ĠR atio +ĠC ats +ĠS tern +Mon ster +Ġmer cury +ü hr +Ġplus ieurs +.des erialize +sc opy +.F alse +) animated +ĠExp erts +Ġ"") {Ċ +.W hen +see also +.un pack +LE M +.select All +Ġperception s +ud ing +ir ling +ĠPrint ing +gram s +ĠFile Stream +erv ille +il og +ic mp +_C ount +Ġlivest ock +- ca +doc uments +Ġpo les +ĉw ant +Ġflu ores +Ġstand point +ĠH uge +Ġradi ans +ĠUIB ar +EDI UM +ĠHistor ic +_h older +ĠMar ines +Ġt ä +.L ight +quir er +ason ry +div ider +ĠFl utter +_f b +restrict ed +ĠEvery body +N ão +Ġkn ot +ĠT witch +Ġhall way +(C ollider +Input Element +? )Ċ +/ off +/ ) +play ed +[ OF +Ġbat ting +_d l +Ġcom edian +Ġé v +ĠD EM +ĠEd en +: white +' ', +Con struction +acer b +Ġtask ed +.man age +Rel ationship +Ġph on +n z +_B GR +Validate AntiForgeryToken +_ air +âĢľ When +Ġgl fw +ĠCon versation +_T OTAL +, Z +Ġg raz +Ġiter able +ĠP ASS +Ġadvert ise +Ġmö glich +/ train +ĠVolk swagen +Ġcreep y +Ġ" )čĊ +QU ENCE +Ġalt ar +Ġed its +comp iled +aw ning +ĠD ungeon +Ġo sg +Navigation Bar +Ġtrend ing +ĠE co +ogg les +cd ot +| - +S ie +ec ret +ĠN egative +ĠL ing +ĠD IM +ĠC WE +ĠCar rier +Ġcar tridge +_us b += os +ĠJack ie +Ġo tras +Ġcommod ities +ĠP resentation +)&& ( +ĠMar tha +ĠCath olics +ĠM ond +об Ñĭ +_ absolute +Ġash amed +pons ors +t al +Ġsad ness +Ġpu ò +F ade +-pre view +ĠRequest s +ĠCal vin +h orn +Reuse Identifier +(pro vider +/app s +ime o +ĉ Class +S amsung +ĠW ORLD +Ġc innamon +dot env +ĠI User +ĠDE V +_C har +.ib atis +et i +/ me +s st +.s ym +ĠRug by +-m aster +aj ar +ĠY EAR +Ġo dp +ĠR oles +Ġbip artisan +ail le +Ġblock er +Ġgre ens +.SE CONDS +Ġbelie vers +ĠL ikes +F LOAT +Ġm ak +Ġg cc +âķIJ âķIJ +(" ~/ +SCRIPT OR +Ġton nes +ĠS ang +Ġtrans pose +enn ai +P red +Ġsoll te +.github usercontent +( print +ĠH ole +çľ ĭ +ad get +Ġprompt s +Ġgen etically +ĠH od +Ġvert ically +_control s +ÑģÑĤ ан +") {čĊ +$ title +Ġ} ),ĊĊ +Ġstate wide +ĠCor respond +ĠAt tr +it ant +Element Type +Ġout ward +Ġfam ilia +( article +Ġbl at +Âł Ċ +Ġgl Get +ĠRe ceiver +Ġ% - +ad am +W inner +Ġtail or +_p wd +ert en +St an +ĉ all +al ive +strt otime +� s +s essions +$ conn +ass ist +Ġchat ting +ĠM ant +Ġ% @ +Ġ"" );ĊĊ +Ġd gv +Ġíķ ¨ +.re peat +_M essage +Ġadvis ers +/ path +Ġk es +) } .ĊĊ +ogen esis +ĠOPTION S +upt ools +Ġmilit ant +Ġex ited +ig ar +ĠCOM M +ĠDis posable +ay cast +Ġrow span +Ġsyn thes +Ġsond ern +ĠĊ +ĠJ acket +R ATION +.getSelected Item +- init +ĠReg isters +_se p +ĠTool kit +.d ict +Ġx label +\ Table +t oc +_com bo +ĠComp act +Ġr ugged +à¥ĩ ठ+-man agement +')}} ">Ċ +ĠSt amp +ı l +ro x +Ġlandsc apes +_NOT E +mon ary +c ab +Ġmo et +x af +rc ode +- cli +_g ate +[ event +SP ORT +g ia +ĠS UPER +/ Login +_sh utdown +int errupt +Ġpret ending +Ġfr inge +ĠRed s +ĠC UDA +ĠUN IX +v it +Ġbr ig +dr v +ĠConn ector +There fore +Ġl ia +D etection +_ actor +Ġtemp file +Ġecc entric +- role +Ġpad x +d ent +West ern +Ġê ·¸ +ĠApplication Record +Ġcampaign ing +_run ner +ĠC ivic +ale igh +Ġdire kt +.s ul +ĠĠ ĉĉĉ +ant en +Ġiss uer +Ġassert ions +( orig +AT IO +Ġlean ed +ä s +.D TO +expl ode +.O bservable +Ġstagger ing +Ġkidn apped +Ġprogram mers +ĠInn ov +.param eter +Ġdom ination +Ġske ptic +Ġæĺ ¯ +Ġavoid s +.Ver ify +ub by +ĠAS N +Ġformat o +ĠBeat les +_b rand +Ġin set +y outu +Ġto c +-f inal +Show ing +ĠD oub +ĠM esa +Ad j +_m edium +Cre ates +(end point +ĉ UP +bb ie +Ġst alk +.datab ind +.S can +ag ents +$ , +ind ividual ++ )/ +ĉv m +(not ification +Ġin ex +ĠClass ification +ren o +Ġo lig +-r ated +Ġform ulation +', { +Ġa cept +_un pack +_C A +.P ow +ĉ im +Ġal uminium +AN O +Ġx n +Ġcó mo +ĠIng redient +Ġseiz ures +åħ ± +ific ador +Ġsigu iente +ĠIn fragistics +Ġduplic ated +ĠDe e +Ġn ø +ĠAC CEPT +(c rate +иÑĤ елÑĮ +- less +Ġinf inity +An alyzer +-D ay +rit t +(c in +ĠG y +Ġmulti plied +uch i +ĠBald win +/ ip +Ġshort cuts +.A DD +Ġvig or +_in struction +( ; +_ eta +è¿ ŀ +utor ials +Ġboost ing +b v +Ġacknowled ges +List ening +FA Q +; b +(( - +Ġarchitect s +Ġz we +Ġpul s +Ġget Count +ver bs +ãĢ ľ +(C ollection +k re +Ġjuris dictions +_b ridge +ĠCr ack +ĠDiff iculty +K O +Res ervation +_re quires +T our +ãģĹãģ Ł +.set Current +Ġk y +ĠAlb any +Ġè § +ll er +agn a +work ers +.bl ank +ĠPr ayer +M IC +Ġresil ience +Te X +ĠL anguages +st udy +ĉc urr +Ġenzym es +Sl ug +ĠíĮ Į +str al +Ġtum ors +Ġseg unda +=' { +in struction +ĠL isp +/ info +Ġ" {$ +,: ), +Ġg v +( ErrorMessage +Ġ' = +}- ${ +.Doc uments +" Well +Ġreminis cent +Ġg az +iro pr +eh r +Ġsup pressed +ers h +.scroll To +Ġcad ena +Ġgame State +ÃŃ m +( conv +ĠTom orrow +ĠC CT +M ongo +ul g +.C amera +.hand lers +m ph +Ġst k +Ġgen etics +AC ING +Tr ivia +ĠB am +(m arker +.St retch +ĠSun ni +ĠBet ty +.t olist +un likely +.Rect angle +ob solete +IL ON +inner Text +emb ourg +a N +ĠV ehicles +un lock +: utf +n ob +ĠSee ing +ĠNE VER +Ġt ls +Ġfil les +Ġbenef ited +ĠCl int +*/ ), +.f old +Ġpos ible +A DED +th ouse +.D AL +ĠO dd +ro kes +ĠSun ny +ĠPartial Eq +_B uffer +ĠLe vi +long rightarrow +eld on +g ages +_w arn +.Create Table +ĠD ip +_ questions +.log ic +Ġ# " +={() => +Ġt ep +Ġju icy +ì Ĥ¬ +en ko +ia lect +Ù ī +Ġon board +Ġæ ı +ĉ rt +_ UTF +ĠQ Action +âĢ ŀ +( Component +(a udio +.h it +g te +Ġprogram med +state Params +Ġpoly ester +f ires +by ss +] =( +_ quality +Of Day +ĠFair y +Ġy elled +op l +(user Name +ĠD ifference +Ġevalu ations +iff any +Ġcycl ists +Ġc idade +Ġtext book +Ġprof iling +__ ), +de a +. activate +Ġindic ations +Ð ķ +Touch UpInside +Ġinval uable +ĠM ASK +Ġcont end +F req +Ġrecru its +(int erval +ĠUser Profile +Ġ'./ ../ +ed u +_C allback +Ġanal ogy +ĠTro phy +app hire +V ideos +ĠCh er +ĠH av +â̦ " +. validator +g fx +ĠU Object +class names +tri angle +ĠEnc oder +.s py +Ġpred ators += status +-s afe +: ",Ċ +ĠIn cluding +Ġ{} ;čĊ +* cos +Ġend ured +.sul ake +Ġnurs ery +Ġfrag rance +Ġre building +Ġn th +ĠFr aser +.set Date +ĠV ince +_RE ST +Ġvent ilation +æµ · +cri bes +.as m +lp Vtbl +ĠA be +uis ine +, array +ĉ className +err als +Ġ' ĊĊ +Check out +Ġsol icit +A ux +_c apture +Ġrib s +rag on +vi ol +top ics +Function Flags +ĠM arty +b ike +ĠT ucker +(k ernel +ĠO ps +Close Operation +/d emo +ild a +ĠlÃŃ nea +APP ING +Ġsu ites +.visit VarInsn +ur us +ĠMin ute +(m anager +Ġbutter fly +Ġap are +Ġw olves +J WT +ĠSal on +ĉd elay +-es lint +is ations +.r pc +)| ( +ĠSnap chat +/m m +M N +cer ies +.text Alignment +ĠFrank furt +Ġad o +(new Value +( access +( Expression +ĠSign In +ĠHait i +_t p +.set Parameter +Min ute +Ġmanual s +ric anes +ĠP TR +ĠOut er +Ġget line +oc ations +_C D +ĠLy on +/g ui +_l ive +id an +.ge om +Ġborder Bottom +im uth +_check point +Ġme u +ĠIr ving +Ġpeu vent +(M AX +ĠAR CH +Ġp ov +.source forge +Ġjam ais +Ġar k +ĠBaghd ad +ĠC LEAR +Menu Bar +Ġtro is +CHED ULE +Ġ# čĊ +(C all +$ order +(M aterial +Ġencontr ado +$ list +ĠMETHOD S +.begin Transaction +_M AG +Style Sheet +Ġmaj ors +Ġindef initely +clean up +Ġhom eland +(d to +D ates +P resentation +ĠD K +={` / +ĉ Key +( Block +_check box +ne eds +Ġon Complete +ric o +Ġgle ich +Ġx m +O OD +B etter +ĠSQL ITE +. Book +x ad +ĠG one +ĉd p +Ġdev otion +Ġst m +Ġobs ess +ĠBack end +Qu eries +I k +// **************************************************************** +Ġdivid ends +.parent Element +} ")ĊĊ +ĠMaterial PageRoute +: num +Ġexp lic +ĠO L +le ast +O ops +iment os +Ġins urers +Ġhero ic +ĉf ields +.img ur +.btn Cancel +ĠDetect ive +(s m +ĠMutable LiveData +.l ab +(( [ +Ġha irst +ĠTrans actions +å¼Ģ å§ĭ +Ġstd Class +uent o +G IS +_c od +Instruction s +C alls +Pointer Type +ĠR w +Ġassort ment +ĠD IG ++ r +_C ERT +Ġinst ability +Ġv ib +on as +Ġro ku +ap ellido +Ġan gl +prene ur +Ġfluid s +ise ase +Ġde ed +qu ist +_CONST ANT +Ġequ ilibrium +_de legate +ĠQuant um +re i +Cap abilities +rect angle +? >< +al ien +ĠJ ug +D NA +T ickets +Occ urs +ĠHaw k +.setHorizontal Group +\ Collection +ff iti +Ġre arr +.setVertical Group +Ġc avity +Ġadult e +Fac ade +- wh +ĠL OL +Ø ° +Ġgrand parents +Sw ift +ĉw x +æīĢ æľī +if en +ff set +B eyond +// }ĊĊ +Ġw ager +Ġb ury +Ġcomm ence +reg istro +sc ient +ĠPer cent +Ġд олж +( identifier +.set Model +Ġs eldom +nt on +Ġappl iance +am us +rys ler +Ġpant ies +engu ins +Ġmim ic +Ġon Changed +Ġal coholic +.reload Data +Ch arge +ĠF ax +Ġj ScrollPane +Emp resa +Ġsh attered +x ba +Font s +? s +Ġpost season +ret ain +_r ates +Ġrequest Code +.t odo +´ s +CH K +ĠKeep ing +enge ance +Ġvs code +IPP ING +Default CloseOperation +_ raise +ĠO culus +ogram s +ra j +pc i +Ġcorros ion +.handle Submit +Access ible +ĠP iano +l ittle +AC L +Äĩ e +.un wrap +ĠCon vers +ĠLe ben +ione er +ĠMer chant +ĠJ orge +Ġembr acing +Ġvent a +á st +Ġvi ene +< QString +Ġexplos ions +Ġdistur bed +." < +m emo +ĠAb original +Ġcomple to +Tex Parameter +Ġuom ini +( agent +Ñĥ ÑĢ +ĠWh olesale +/ am +ĠBook mark +dr agon +Ġglo ve +Ġ" "));Ċ +iv ariate +now rap +In Children +.B r +Ġcon exion +Ġback bone +Ġe clipse +Ġpersec ution +': ĊĊ +/ link +ĠP ero +and as +ĠT ek +. "); +-an alysis +Ġer ad +Mar shal +Ġanch ors +og er +Ġconver gence +st icky +Ġnave g +int ern +_DE SCRIPTOR +ĠConsult ant +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ĠA uch +Ġer re +ÅĽ li +ĠHor izon +col a +Install ation +hot mail +C NN +.C ollectors +ch s +(tr ace +ĠEnc rypt +Ġ---- -- +ĠBase Controller +Ġag ua +Ġre active +id l +Ġclass Names +ĉ Session +ĠDod gers +H ad +_l v +Is Valid +ĠHEL P +ut to +ĠVer ification +Ġget env +_p a +.b mp +: f +ĠLou ise +(' ; +/ socket +Gr anted +.c alendar +( IP +ĠP X +.R oom +Ġprogram m +ens i +Ġtablesp oons +Ġle ve +Ġmo str +.t ipo +/ an +(d i +Ġb iod +Ġdb Context +ĠJS X +ĉ results +. END +ht e +l ify +P recision +èĬ Ĥ +ARS ER +)did ReceiveMemoryWarning +at tempt +IS P +& a +_P OP +ĠT ac +Ġprepared Statement +Ġзап иÑģ +Ġow ing +, start +Ġreview er +Ġr st +Ġprop Types +Ġrock y +_lo cale +ĠStrateg ies +ĠWe ber +.C ascade +_equal To +Ġcos as +ĠDe letes +ĠMax im +Ġsh rimp +re trieve +.In clude +IG IN +ĠO E +] );čĊčĊ +.en umer +Ġco ef +_N ull +R a +ty ard +ĠSh awn +keep ers +Ġq q +_s b +om ens +ĠExec utes +# " +TT Y +ĠValue Type +); */Ċ +ĠAbs olutely +ĠT ottenham +/ art +Ġbless ings +Ġswift ly +b uster +Ġa vid +COM M +, temp +Ġ} ?>Ċ +-g rowing +Ġdeep copy +A ck +egg ies +Ġ__ (" +Ġno ir +terror ism +Ġanth em +ag ency +_PACK AGE +ĠC losure +.reg istry +Ġmamm als +< L +U ICollectionView +ĠLED s +Ġvol ley +( Buffer +_N ATIVE +lib c +impl ode +Scroll Bar +ĠMar ion +.Con tracts +_A t +ĠWe instein +compare To +ĠH ose +en ity +.create Query +_r outer +Ġstim uli +Ġ++ ) +ĠCh amp +ĠBay ern +ass a +.v a +Ġdistrib utors +Ġfile private +Ġdepart ed +cc cc +@ click +ĠL unch +> L +Ġbl uetooth +.De ep +- standing +ác il +Ġro oft +ĠPath s +_iter ations +Invalid ArgumentException +.s pi +ĠUIAlert Action +uy e +sign in +.p riority +ĠEss ays +=' {$ +Ġè¿ ĶåĽŀ +_s igned +.p ersist +Ġred esign +To Lower +ĠNew man += start +ĠIsrael is +asis wa +Spe ech +Ġnum eros +hand lers +ĠW ong +Ġм еÑĤод +We ights +ĠGu jar +te il +ĠNon etheless +_E FFECT +Ġv ect +ĠO sc +Ġco ats +ĠW heat +Ġge ek +ĠPRO PERTY +w orm +_const ants +ĠB oulder +ĠP arm +co le +Ġdefault Center +ĠRou ge +: A +xc f +ĠVen ice +med ian +Ġred emption +F resh +Ġcos m +Ġfig ur +Ġref urb +CO PE +.c d +Ġch ords +ĠS gt +Å į +VP N +ĠS END +ain en +_account s +Ġtent h +Ġdiss olved +< App +ĠCover age +use State +é ro +.. < +Ġì £¼ +Ġdream ing +ĠFore cast +.C ursors +Ġvis as +/ script +_start ed +Ġga str +(P RO +]; // +.T ile +* sin +( Adapter +ĠSand ra +_S IG +ard ash +ĠO val +Ġdescri pcion +(s l +ĠDes criptor +Ġ` $ +/f ree +ĠKey words +Ġt udo +ion ale +(f ound +.x yz +ĠGeneration Type +_DISABLE D +( area +Ġel ites +Ġh ombre +(m essages +ĠR ac +Ġext ingu +ĠEst a +op o +. vel +mouse out +Ġconv olution +ĠHand ling +Ġceil ings +T ek +ĠAre as +.writer ow +< View +ĠCorn ell +_B IN +.in valid +'' 'čĊ +ie ż +_P osition +Ġk idding +PC ODE +Ġwatch er +lo x +Ġâ Ĺ +D ave +_all ow +Ġbis exual +Ġun ordered +ĠSch we +_se gments +Ġt earing +IN LINE +Ġund es +.g oods +.c am +ĠL W +ĉ where +Cal culator +-th reat +- alert +ĠSuz uki +ĠIP A +ĠAtt achment +AC CESS +(d type +O pp +_s ymbols +Ġdans ke +l age +or get +res olution +е Ñĩ +ĠQ Color +ĠBar rett +аÑĨи Ñı += \' +ĠNav Controller +/ ref +(c ountry +_H DR +Ġterse but +pet ition +Ġsu f +cred its +๠Į +x m +ĠDav ies +.re ddit +Ġw oven +ĠO bl +ĠK M +ĠConsider ing +ens ored +.per iod +Ġd dl +$ wp +Ġextrem ist +; \Ċ +Ġk im +al ers +Ġspan ning +Ġco herent +Ġconse gu +.text Label +.g eneral +_d ashboard +л ение +k ick +_P ID +ĠExt ensions +reg exp +ĠCl ause +_m ov +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠ +ĠR eward +ĠLEG O +A k +=-=- =-=- +ĉ parser +Ġon ze +éĢ Ģ +âĢĿ ãĢĤ +_b all +(r hs +Ġch orus +< count +as urable +Ġwirk lich +ĠEr in +ĠMS NBC +Ġet ter +ĠC ron +_F LOW +Ġ, čĊ +Ġcal idad +ĠFile Writer +ĉ stmt +( Byte +_p at +Ġte lescope +Ġgre ed +ĠT ort +(w rite +\ application +ĉRT LR +ĠConfiguration Manager +Un ix +End Time +In cludes +ĠHar vest +en berg +ĠAustral ians +Ġë ĵ +Ġr n +Ġreput able +Ġbl ending +UL ATION +ĠBrend an +d ad +Ġm ø +ĠW oo +_d c +U ne +Ġr ue +with in +ang ep +Ġp ouch +\" ", +ĠS ic +âĢĿ ), +aly ze +ĠG ef +c overs +Ġd bo +replace All +ĉ Logger +Try ing +[ state +-p iece +éĸ ĵ +beh avior +all ows +l rt +_p ython +ert ura +-c ountry +ĠT G +.UI Manager +b ens +ale x +ĠBre itbart +b ac +Ġpredict s +Ġg ab +Ġcard inal +.Time Unit +ĠVis itor +ĠM ing +Ġliv re +Ġparent Id +port un +Ġdimension al +ĠV est +en ic +à ³ +Ġ Ùĩ +ĠBL UE +Ġitem Count +Ġfe athers +ĉp stmt +ĠPol ar +{ // +und i +Ñĥ ж +z ar +Error Response +ì ĥģ +Rep resentation +* _ ++ ] +pre pend +Ġ' > +Ġlegitim acy +Ġo o +S linky +Ġnation als +. words +; p +tr ap +oman ip +Ġc ues +Ġgradu ating +Ġsem aphore +"] );ĊĊ +ace y +RE ET +Gr ab +ĠFel ix +( Id +_ne ighbors +Ġmeaning less +(d el +Ġj eder +ĠContent Values +.abs olute +/ cl +Ġx b +dat um +Ġtort ured +Ġrub bing +S cores +ĠðŁĺ ī +Ġav ons +Ġam sterdam +E OS +H al +Ġtrust worthy +# = +.EX TRA +Ġman o +is icing +-s upport +ĉc ursor +ĠSp o +aim assage +M ission +[] {" +Ġprint ers +G REEN +Ġt eg +Ġabdom inal +! ĊĊĊĊĊĊ +.Sh ort +аз в +ĠGift s +} ") +(b inding +x ce +âĢ ij +inf os +Form Data +Ġd art +Ġele ms +(in v +Y L +t in +GEN ER +á» ¯ +ĠT aken +uck le +: e +Ġspect ral +.b aidu +/ ');Ċ +Ġgre edy +es ion +,,,, ,,,, +Ġ/> ,Ċ +Internal ServerError +NSNotification Center +ĠA i +Ġsp it +Ġaug mented +Ġstandard UserDefaults +FIN ITY +R ace +: C +ĠRE CORD +ĠHigh light +Ġ' ` +Ġdef icits +Ġne i +Ġresearch ed +T a +Ġc opp +.Get HashCode +): čĊčĊ +On Click +ĠWell ington +Ġrev ival +æ¯ Ķ +éĹ ® +ĠN SS +Ġfor n +Ġint é +ĠKu wait +_fl ip +_ bo +_ \ +Ġocc urrences +ĠScient ists +S RC +og ens +igr ant +RE MOTE +ĠS ID +. opts +u ve +() ])Ċ +Ġlibert arian +ĠGl ide +les en +Ġform e +ow ania +Ġannoy ed +Def s +ĠExec utor +Ġcast s +.set Checked +ĠSh aring +.Serialize Object +Ġselect ors +_ OTHER +ë¯ ¸ +(s uper +( OS +_VER IFY +id unt +< header +Ġ/> ';Ċ +Ġvidé o +ĠNeg ro +ĠL ords +ĠT ours +Ġsoft ly +.re ceive +ĠE RC +Ġdata Set +Bad ge +ĉ Event +Ġper l +Ġ{} \ +(s entence +Or Update +Ġdim inish +P IN +(d raw +.To DateTime +.Equal To +(p in +-p encil +lu ent +ĠCall er +Ġplay ful +- '+ +x ca +sw ick +){ }Ċ +}: ${ +ĠM eth +.get Cell +.b reak +Ġy max +=' Ċ +ĠH iro +( TRUE +as urer +Ġcu er +U ber +. Operation +Ġol an +Ġthr illing +< Response +ĠF emin +Ġtravers al +Ġp oc +Ġset Status +decl ar +std afx +Ġaddict ive +ĠB tn +Ġexplos ives +ĠCook ing +ĠPl aint +Ġaccum ulator +ĠApp ointment +, password +ĠF AR +lu et +Further more +decl spec +_Static s +.D ictionary +"> '. +ĉ valid +" ", +In strument +> J +Ġno str +ĠR ift +_P ort +Ġvec es +[ [' +Ġrall ies +- series +Ġv v +. uc +Ġr tn +State Changed +( ins +ĠCl a +------------ Ċ +c us +ĠRel oad +//---------------------------------------------------------------- -------------------------------- +.se conds +_dest ination +Ġscrew ed +> c +Th ickness +Design er +Ġgr ids +n Äħ +( cookie +T rip +-M obile +Ġv oll +Ġgen ital +Ġconf isc +ĠConfeder ate +Ġweb View +Ġm ise +Ġcl er +(se lection +$ date +Ġshar pen +rag en +And Update +Ġrem ix +Ġh tons +R W +M PI +Ġretrie val +Ġric hest +.Dec ode +:init Components +ĠT Value +S aint +@ include +ĠPER SON +.se p +ĠLD AP +g ba +Ġgro ÃŁe +Ġreli ably +ĠD FS +.getItem Id +Ġprés ent +.get Token +Ġch inese +ĠMe al +Y OU +"> >ĊĊ +b ower +Ġsw apped +/ install +Ġs inks +etr ize +Ġdecl ines +ĉm ysql +ĠC String +ĠMotion Event +.L anguage +R oad +ÑĤ еÑĢ +asc imento +')) -> +. about +( editor +ĠR atings +in come +Å¡ e +.de queueReusableCell +ĠAust rian +Ġs ulla +ĠTrib unal +ĠDid n +ов аÑĢ +Ġins pections +B oss +Ġcock tails +Ġapolog ized +_sub plot +op al ++ =( +Ġreson ance +ib u +Ġë ¦¬ +rom a +res erve +pl s +ĠT ah +ax ies +OP LE +ĠDar ren +ĠZ ombie +_M ap +Ġ] )ĊĊ +ĠQ i +ĠS ail +Ġrestrict ive +Ġeros ion +- par +WH ITE +Ġold u +Ġap erture +Ġbit coins +text o +ĠCom cast +Ġtime less +en kins +Ġfeed er +/ tmp +res den ++' _ +.D estroy +Ġç ok +ĠD OCUMENT +.l ng +.tag Name +Ġk ullan +eg rate +Ġ(* . +ç¼ĸ è¾ij +Ġhand shake +s oc +_ geometry +ĠDam ascus +Min or +ĠK afka +ìĹ ¬ +Fl orida +_com pute +.ex pr +Ġpar alle +ĠD iaz +c ir +[ target +Ġj oking +Ġgl or +(set q +_hand lers +H ang +Ġf err +rim inal +ĉĠĠĠĠ ĉĉ +ent ies +def ines +-t ax +json p +ĠU PS +met ro +__ ;Ċ +ĠUg anda +])) :Ċ +_t d +x ae +l w +. OS +ĠLog ged +ac id +ĠMay o +as pect +Ġvag inal +Ġinitial izing +Ġster oids +f iction +G RE +g end +Ġli abilities +ĠL ets +M ech +( nc +( change +Ġconnect ors +: k +Ġt ast +! ");ĊĊ +th ings +ro phy +luet ooth +ĠSign Up +. ctrl +Ġthere in +ord a +. escape +ig ator +Ġpet rol +Ġspec imen +Ġdeb uted +- Pro +Ġcr ises +.add View +ëı Ļ +-d oor +Ġmon et +Ġmill is +Ġv ier +Internal Enumerator +Ġadmin s +ĠL air +z in +get Query +umb les +L IMIT +ĠV ig +_s ong +< Character +:: . +_h om +_b p +ĠSup ervisor +sub mission +ab ile +Ġno i +Or Create +Ġpe el +Ġon Start +Ġsent iments +veh icles +Ġclass rooms +Ġs zer +Ġb ending +Ġlong evity +Ġa cl +ĠAle ppo +ĠU M +ĠR icht +Ġmultip rocessing +DOM AIN +"," + +_Y EAR +Ġsc rape +Ġsol itary +Ġ"] ";Ċ +/ errors +ìŀ ¬ +ľ ëł¥ +b etter +ĉ number +ĠL F +ĠAc ross +Pub Med +\" " +ĠExcell ence +Ġus ando +ĠU IP +Activity Indicator +_V OID +Ġbre eds +ï½ ¥ +uest as +ĠTre asure +ustral ian +(f ace +ĠT ennis +ĉ Int +ĠHans en +ç µ +: I +Ġâľ Ķ +GR AY +O USE +Ġhe pat +ł í +A IR +ó ż +Ġque ued +vinc ia +ĠChrom ium +Ġcompet ence +ung al +ill i +Ġget By +ĠF inder +Ġincap able +Ġs add +Ġc ites +ĠChurch ill +S dk +More over +As pNet +( Float +$ password +ĠConn or +-s ession +_d m +* )) +Ġde utsch +ĠN X +Ġper ks +_S ORT +_TO OL +_V ISIBLE +.as p +æĪ ĸ +ĠBre ath +D etect +ĠD uel +.c mb +[ it +.Set Bool +Ġnarc iss +Ġab ide +Ġej emplo +ĠâĦ ķ +Ġm ornings +Ġcomput es +.s sl +j t +Ġmuch os +_S S +[ end +Ġbas in +Ġalgun os +ĠCroat ia +lin ewidth +(t ags +(h idden +ÃŃc io +Ġap ar +ĠÐ ¶ +ä¸ İ +. food +ĠR ural +Ġbread th +å½ ± +(s ess ++ ") +ĠP aste +Ġserv idor +ĠBit Set +ĠTr an +la us +v ette +ey es +ĠCL ICK +ĠV III +ĠTurn s +ĠLe Bron +ĠM uj +ĠD eg +ĠAdult s +_s uite +process able +ĠPH Y +g hest +.F ail +ĠSl ack +ce j +\ Carbon +Ġsuper star +Ġhold ings +( forms +Ġ'# ' +M ultip +("[ % +-s olid +/ url +-t ier +[ length +ĠStream Writer +ĠMarket place +get text +_T ICK +ĠFor ge +Ġblack jack +ĠDO ES +ĠM atters +w aves +Ġwhisper ed +Ġl ush +ìĺ ¤ +d igital +Ġwr ink +ĠH ogan +Ġrust ic +.Apply Resources +ĠHard y +os omes +A UT +.ST ATE +Ġnarr atives +ĉ store +b ib +ĉ Scanner +ĠC ody +\ Repositories +Ġre union +and um +âĢĻ h +Ġsn iff +NS Bundle +Ġcompreh end +_US AGE +_ occ +URRE NCY +J NI +Ġspecial izing +Ġvis ions +Ġdol ore +Ġv á +ĠChe vy +ĠSt yled +imp act +all en +Ġk art +ĠTable t +st uff +re esome +аÑĤ оÑĢ +//---------------------------------------------------------------- -----------Ċ +_Ad min +Ġcell phone +Ġaut oplay +Ġcamb io +Ġmar itime +_BO OT +- quarter +Ġlat ina +ĠAJ AX +e quiv +ĠFront ier +ĠX Y +} ]Ċ +ĠR ough +.pro to +Ġcorrect ness +Ġfac il +ĠRe ached +ãģĿ ãģ® +V IS +.p s +Ġstr ncpy +Ġdiff usion +.start Activity +�� � +Ġaccom p +AMES PACE +imon ials +ĠBl ast +aby rin +Ġd ome +Ġextr av +Ġy en +Ġcul inary +P RI +ĠComm unities +n id +_oper ations +.h s +ĠMil ton +Ġno ises +Autoresizing Mask +(c id +}ĊĊ ĊĊĊĊ +] },Ċ +ĠD etection +tab la +Ġlib erties +_D YNAMIC +w get +ĠT ür +ĠP ascal +Trans parent +Delay ed +] () +ĠHer bert +< ActionResult +ch allenge +Ġmush room +.insert Before +ĠR in +Ġhum our +Ġf ø +api Key +alloc ated +Ġconf ession +. ",čĊ +ĉassert That +ĠS ORT +ĠL ORD +Ġexport er +.set Level +p okemon +ash tra +Ġf é +ur ator +(M SG +Ġt up +ĠH ull +Ġyield ed +.Sub ject +\ Route +! ? +ĠÑĥ дал +\ Security +- ar +Ġalleg ation +( Settings +ä nder +Ġell ipse +ĠRetro fit +Ġregul ating +ĠM olly +ĠL ok +_C ustom +ĠProm o +is in +Ġres umed +Ġmet ropolitan +.error Message +: ------------- +Ġpas ado +th ank +_De lete +ĠBright on +, unsigned +ä½ľ èĢħ +Ġaspir ations +-h ow +R ose += (( +_ne eded +_pl ural +< Application +ĠW EEK +ĠUn lock +ĠT EMP +S ou +Ġschizophren ia +Ġt roll +Ġcomplement ary +ĠNET WORK +Ġbl ir +Ġprogress Dialog +" %( +ĠAttribute Set +ĉ ts +.iter items +è¯ Ŀ +Ġesc rit +v ous +_pl aces +H K +Ġseg uir +_f w +ĠR ounded +Ġdis posit +è§ Ĩ +par m +w ow +STRU CTION +. allow +ĠChar Sequence +ĉ extern +Ġprosec uted +Ġmort ar +ĠJ uda +- msg +Ġest ud +.get Description +Ġs ow +amb re +Ġrom a +En h +bon us +Ġsqu at +Ġdist ra +ed Image +Ġpe ppers +-per formance +, ĊĊĊ +, file +ĠM IME +_con cat +AB S +-f ashion +Ġunder cover +One ToMany +Ġre claim +C OPY +Ġb inds +ĠT ape +Ġg ossip +ĠEqu ity +/ Card +. activ +' am +Ġdrain age +< Scalars +ĠonBind ViewHolder +() ?. +Ġs orrow +ĠI b +up y +_U UID +ĠCh arm +ĠElection s +.on Destroy +ĠInterest ingly +ounding Box +_d etection +-h eld +_ unknown +Ġrefr ain +Ġmét odo +Ġe Book +EN OMEM +Ġd ang +Prof essional +Ġd ictionaries +/m ysql +ĠST UD +Ġmas se +s cape +Ġdre i +: name +.log o +Sign Up +Ġt ahun +( theme +ĠFem me +Ġbom ber +ĠJ ade +ĠT ay +Ġsubmar ine +_cl ause +zy ch +Ġsimult aneous +Ġcas os +. boolean +(l hs +Ġcontin ental +-s ale +ĉ env +ĠC ute +ĠFactory Girl +ab us +/ value +Ġj adx +Ġst ern +> >ĊĊ +Ġsurf aced +Ġìł Ģìŀ¥ +pl atz +ĉ email +cept ors +"> ( +Ġep ile +è¯ » +ĠDe bt +åij Ĭ +N OP +" https +: j +Form Item +_L ICENSE +.get Double +ĠAg enda +ĉf inally +(f ilters +( av +ç¾ İ +AP ER +Ġl ava +еÑĢ Ð¶ +)) ))ĊĊ +Ġfault y +_n m +Ġtr ava +(B itmap +Ġspeed ing +> '). +Ġscreen ed +_ roll +ĠMac Book +ĠA UD +Ġdiagn ose +.G enerate +Ġ^ ^ +Ġstr s +[ Test +Ġr ansom +ĠDH CP +eld en +Ġinterpret ations +() ]. +flat Map +Ġline Height +_m ount +ĠW izards +Ġsl uts +eh ler +od al +Ġmilit ia +å ² +earn ed +Ġmis ery +int val +f und +Ġh ides +Ġdi arr +ĠWes ley +Ġx mm +Ġqu em +ĠAr abs +if th +ategor ized +Dis posable +P ure +_NOT IFY +sn ippet +ĠGar rett +.run ning +. weights +Ġ( -- +Ġin variant +äºĭ ä»¶ +ĠAll owed +dir s +Ġpass ions +Ġl ad +ĠFl ush +men us +: block +Ġcompr a +.ch omp +alloc ator +Ġcur ated +ĠKnow ing +ĠPatt erson +Ġtel ah +' ex +Ġdo omed +Ġphil anth +ott y +.st yles +Own ed +Ġallerg ies += params +oc ese +it elist +ĠS ending +b ef +orr ar +ĠN ão +ĠF argo +ĠL ub +ĠComb ined +_g iven +ĉĉĉĉĉ ĠĠĠĠ +Ġreconc iliation +Pattern s +az ard +Ġbiom ass +ĠH ouses +resp uesta +cc o +/top ics +ĠY uk +Ġweaken ed +_c alendar +Ġmulher es +ĠMar l +Ġs ine +ĠT il +ĠSou ls +ĠDe utsche +ĠF OLLOW +Ġpip elines +ĠBever ly +_DIP SETTING +" # +ĠPro to +.b ig +ĠSav ings +ĠT anz +j un +ĠG amma +ĠS add +Ġadvis ors +Ġro ast +Ġun ters +ud ies +_l on +-point er +ĠElement Ref +\ Builder +example Input +.web driver +data Type +ĠQu ite +ĠCelt ics +u il +-def ense +b ish +ĠUI Window +ĠS uddenly +.h ot +.re ason +Ġg ör +AM D +.M ulti +auth enticated +reg ions +; ( +а ÑĢам +ĠKir by +$ route +PREC ATED +ĠDur ham +ow o +ĠPer forms +Ġdisreg ard +n st +ĠP ols +Ġget P +"] : +-col ored +( Keys +ĠAl leg +_mod ify +_ loading +str ained +Ġat roc +_p hr +< Sprite +Ġsatisf actory +m anship +.p ipeline +T ony +Ġth ief +pol ator +( lock +bur st +ĠOptim ization +Ġsurf ing +" Yes +Ġdesc ended +æ Ĵ +_C lear +Ġc ries +ĠFro zen +D IRECT +- Con +ĠLe icester +å¥ ³ +O OM += db +Ġget Message +< Student +_b atches +.M ask +_ eth +\ ) +Ġsom a +C atch +[ ch +Own ers +ind le +: auto +. vert +iv r +.set Location +Ġfl uent +_END IAN +ĠCar lo +cept s +add Action +.o auth +< UnityEngine +re ements +.S kip +? )ĊĊ +.default Props +Ġc abe +ĠSh en +eros is +ĠPro fit +Ġpo is +_C REATED +Ġremove From +(w s +? action +( Field +Ġerr one +.min imum +ĠRetrie ved +Ġd ado +ĠPR IVATE +-s pec +Ġg zip +p data +Ġpos Y +(l ow +Ġqual quer +/ cloud +ê² Į +( common +ĠAr beit +organ isation +Ġtid y +ĠRol and +( ph +.z one +Ġgent lemen +ượ c +å± ± +Ġenc losure +ĠMan afort +ĉ Color +St encil +N ic +Ġthe orem +ĠV G +Ġcol oured +V BoxLayout +uls ive +Drag on +c ff +et est +ens a +of day +.A zure +:UIControlEvent TouchUpInside +_up dates +Ġtrend y +ug as +weak Self +Ġr idge +ib ri +Ġì¶ Ķ +(C G +ĠMon key +.write Int +.tim edelta +ViewController Animated +ĠProvid ence +ãģ Ī +Ġbl ends +/Sub threshold +ĠAp pl +Ġat an +Ġreload Data +umb otron +st üt +O Auth +ĠG iving +ĠìĦ ¤ +ĠFinn ish +check ing +. Embed +sequ elize +Ġinitial izes +ĠOs lo +Ø ¶ +get Extension +_AL T +(bl ank +Ġfatal Error +Ġdem ise +**** *Ċ +ĠX S +(A F +ĠEn s +an tha +ĠP OR +Ġn ich +.N amed +Ġgig antic +ĠObserv atory +.Res olve +ĠPay ments +g uild +Ġcurrent State +============ ===Ċ +ĠS ey +p Data +Ġdead lines +Ġcentral ized +ĠScholar ship +_s upported +.ch rome +() ]);Ċ +Ġc yan +ĠC age +Auth ors +_ čĊ +/ os +k im +de e +.t ex +Ġyours elves +Ġm gr +Ġal k +-inst all +Ġdraft ing +Ġrum or +Ġstat ues +Pool ing +ol ina +AAAA AAAA +/* ---------------------------------------------------------------------------- +Ġextrem ists +Cal cul +ighth ouse +In set +(IN PUT +Ġsynchron ization +iv irus +. axes +ĠG ap +- An +_T emplate +Ġgam er +ĠCr icket +Ġl int +Ġauthor itarian +NS UInteger +Ġred o +Ġadip iscing +_F ETCH +che id +ĠF ang +. indices +t one +д ел +Ġ{{-- < +bra him +Ġsal a +get Code +Ġcommunic ated +start sWith +ert z +Read able +Item Id +oref errer +cred ible +á ria +Ġcombine Reducers +** /ĊĊ +Ġbl iss +Ġad orn +dep ends +ĠRO OM +Ġfr aming +Ġ? ', +aut y +_p ot +_t abs +Ex act +, ", +Ġ'} ';Ċ +Ġarbit r +ahr ain +.getString Extra +Ġ$ \ +Ġoutput Stream +Ġcomm enc +an us +ch y +< Employee +Ġhex atrigesimal +Ġn acional +(serial izers +_put char +_S AFE +ential Action +ItemSelected Listener +.Dis patch +Conf lict +_ about +os aur +Bound ary +Ġclear Color +( Location +ĠMON TH +ĠT aste +- General +ĠW AR +Ġer halten +-s aving +Ġcou pling +-tr igger +m otor +Ġy yyy +ĠPat ent +pt o +Ġmisdemean or +vas ion +ĠAdmir al +à¹ī า +_P WR +Ġdevast ated +fol ios +ITU DE +urre ct +Ġrobot ic +ĠSan ct +ĠHawai ian +.R oute +- condition +Ġr k +/**************************************************************************** Ċ +create Element +ĠK op +ign ant +. rollback +Ġsal ud +_ ', +ĠAN SI +Ex cept +ĠDraw able +.Utc Now +":[ {Ċ +Ġk ole +L ua +ĠBel ieve +Com put +Ġhall uc +ĠSign s +r st +.h u +ĠKN OW +W i +ĠBr ass +ĠR as +@ hotmail +Ġsed iment +Ġap k +Ġì ĥģ +_reg ions +Ġpod ium +< Book +ж е +Ġsix teen +ĠAli as +Ġinfr ared +ĠV ander +ĠLe ading +uc ing +,: ,: +_h or +w at +Ġdé cou +_W idget +S ounds +_n avigation +Ġschn ell +(g enerator +uc ene +Ġrem ake +IP v +Ġré al +_IN CREMENT +Ġhypoth etical +_ ang +Ġof s +Ġ! Ċ +.com pleted +Get Type +Ġkom men +ál ido +add On +Ġz ÅĤ +UL A +_ind icator +'] ĊĊĊ +ap ache +_S elect +ĠGre ene +Wh ats +_an im +Ġrepet itive +m uch +ĠTh reshold +Ġl f +(C ategory +con e +M ix +_MET ADATA +ays ia +Ne ighbors +ĉĊ ĉĉĊ +IP HER +ĠFr ag +ĠC ells +Ġnames paces +( back +ĠRest aurants +sv c +Ġл и +ote ch +-s l +¥ ¿ +ĠW T +ĠRed uction +Ġd otted +ĉf ound +ĠTE AM +B orn +ĠM ush +ĠCompar able +Ġh itch +AT O +Ġmax Height +begin Transaction +ÃŃ v +_b n +Ġher d +Ġrevers al +ĠH ond +del imiter +Ġconf use +Ġh ops +Ġcent roid +Ġcourt room +.decor ators +Ġm pi +ĠImpro ved +IN NER +ĠBang alore +ĠT amb +Ġbo ast +() ))čĊ +Ġil licit +ĠMor occo +greg ator +_res ume +Ġcrack down +Ġport raits +/h igh +( \' +Ġay ud +_fe edback +Ġc ate +/ avatar +Ġhe b +Point Cloud +Ġå ĴĮ +Ġ< ![ +Ġget Resources +} :{ +Oper ating +ĠF og +ĉt ab +ĠResearch ers +Ġfabric ation +.datas ets +ĠCamp o +ĠKa uf +Ġd ll +lig t +] ));ĊĊ +st ellen +ACK ET +l vl +ĠGl ory +.date Time +Ġcomm ute +ĠonCreate ViewHolder +ĠX Element +ĠT okens +< thead +_p ick +ì ¤ +v on +depart ure +(render er +phone Number +(P erson +gen es +ĠL ars +Ġ) {ĊĊ +ĠJson Result +Ġmet odo +VO KE +.get UserId +Acc eler +ĉ required +Ġchampionship s +Build Context +/t ask +/re leases +C ategoria +_over lay +Ġscar ce +_l im +n gr +ah len +ĠArt ificial +sp read +Ġbow ling +.an alysis +SM TP +ĉp assword +Ġbath s +] )){Ċ +current ly +ac iente +_se parator +Ġde ber +ĠDis abled +i ères +Ġâ ķ +_process ing +Ġprotest ing +ĠR OT +gr ab +Ġз ак +Ġpro active +word press +ĠSe ver +ind en +Ġw ikipedia +){ čĊčĊ +_w indows +is lation +Ġun rest +Ġdismiss al +.N UM +_F AST +iss ued +ĠF ACE +_u nder +Ġpl ugged +Ġå ° +ĠbÄĻd zie +ĠI CC +Ġcombust ion +Ġkiss ed +Ġstar red +ĠW atts +Ġspi elen +-p urpose +ĠE val +arg es +, result +techn ology +Ġnational ity +ic us +ĠN ug +ĠÑĤ о +ĉĉĉĉĉĉĉ ĠĠ +col o +Ġg astro +ante ed +OL ID +.b ias +_t ele +.ins pect +Ġve il +. footer +Ġneglig ence +Ġjud gments +Room s +yn n +ĉcount er +occup ation +Ġ çĶŁ +un as +Ġ(^ )( +L ambda +f el +.Param s +Ġд обав +set Layout +Ġdeport ation +Ġlocal Object +ĠPharm aceutical +cept ive +ĠN ome +Equ ipment +F an +Un iversal +ĉ socket +Ġgr in +Ġex poses +Ġhab er +Ġsincer ely +Ġc ams +Ġm ü +en ia +E mer +C rypto +Sl ow +(x hr +! =( +-s ervices +ĠP W +Ġprend re +Ġm ädchen +em ons +озв ÑĢаÑī +.M anager +ì Ļ +Ġg raf +- ra +met rical +/ fl +Ġc emetery +g ens +Ġp ÅĻ +ĠMySql Command +- To +Ġv Ã¥ +Ġa irst +oment um +Ġserv o +m illion +ĠMir anda +" She +Ġadvoc ating +-c aption +ĠAt tribution +Ġwel che +_v endor +ĉ Status +arr is +Ġprint k +"," # +Ġrel ativ +if ferences +izz es +Ġdec imals +ĠPro v +.max imum +Ar n +Ġhelicopt ers +_B OTTOM +ch ure +od ings +' ( +")) );čĊ +( bean +.f d +F und +Ġhang s +app id +/k ernel +.p oi +.Min Value +- validation +L uke +c df +ĠFun eral +ĠS amples +ĉ de +Ġto astr +Ġtax able +Ġcl ustering +Ġ'\ ' +Ġre straint +ec ed +ch ains +ãĢĤ ï¼Ī +_GR APH +Ġfue led +éľ Ģ +H p +å¤ į +T iles +Ġa unque +J C +Ġhost age +ĠE sk +Ġm av +Ġgest ion +Ġb anners +} {$ +.int Value +.' "ĊĊ +_M ATRIX +Ġce ased +ĠG OD +_CAM ERA +.Allow User +tr acked +C ook +b airro +( company +Ġview point +.get Writer +ĠN ets +w ives +Ġ( ))Ċ +example Modal +ĉ child +Ġmyth ology +Ġ// " +_ axes +ib old +.D ark +ĠMax well +Ġg pointer +olic itud +B at +ul ner +bal anced +mail er +Ġcont empor +æīĭ æľº +(" __ +Ġ" )" +re ar +ĠHu ang +] ')Ċ +× © +FT A +ĠCalling Convention +ĠOutput s +P k +.Re ference +lect ual +Ġ) :ĊĊ +Ġbrace let +ug er +ĉ Error +S weet +("/ ");Ċ +h x +Ġun reasonable +Inter preter +Ġlo ft +_product o +Ġsoci etal +.P arser +ĠAd apt +. foo +( where +.F eature +ĠYam aha +g lass +For ge +Ġprohib its +Ġcapac ities +Ġíķ¨ ìĪĺ +Ġper mutation +Ġih m +F ld +el ial +======== ===Ċ +@ Configuration +Ġge ared +ios o +iest a +trans lations +Input Change +Pop ular +ĠPL US +Ġv f +_F ree +b box +Ġcaus al +PI LE +Ġsch ö +Ġiron ic +M ir +. @ +åį Ĺ +Ġè ĩ +R ew +ul ence +fl en +Ġcan Activate +- response +Ġacc ents +ign ored +° F +.Dependency Injection +ĉ point +Ġconting ent +Ġsqu ash +Ġpar ms +ĠC emetery +Ġdelta Time +ĠD OS +Ġvan ished +аÑĢам еÑĤ +ĠD PS +t foot +ĠZ us +_IN STALL +G AN +Ġar b +Ġmunicipal ities +Into Constraints +AutoresizingMask IntoConstraints +, image +_ ignore +Ġdanger ously +quis a +pl uck +Ġhar us +up pe +Http Exception +Br acket +.' 'ĊĊ +ĠT ol +ĠView er +zb ollah +.Code Analysis +ì nh +Ġcorrect amente +.d a +ĠAl ger +× IJ +ba um +ĠPan ther +part icipant +å¿ ħ +-s up +Ġem ulator +Ġf ading +ĠW olver +cre ates +Ġbook ings +.Q uestion +§ è¡Į +Ġstress es +Ġre written +.PI PE +ed es +Ġc bd +": "/ +Ġenh ancements +_s y +B IN +ĠSl ip +Ins pect +ĠW eg +Ġcon gregation +Ġ_ : +_r m +Frame buffer +Ġ'& # +ĠFall out +Is Required +ĠPear son +ĠF ACT +Ġrel ie +ĉ box +ĠShe pherd +ĠWiki Leaks +ĠCollect or +Ġres ized +method Name +Ġevent Type +ĠA then +Des criptors +Ġb ers +- oper +ĠInitial ly +å ¡ +_B TN +ĠĠĠĠĠĠĠĠĠ čĊ +á b +_c ampaign +_w atch +F ord +-date picker +Ġvis c +Ġsat u +_s ms +Ġcont ador +-s vg +ĠDO I +$ args +Ġkn ob +.B OLD +Ġdeb ated +img s +sock opt +tr uth +ĠFe es +Ġh Wnd +_f ood +Ġab ras +Ġnot ions +ĠT od +: create +ĠConf lict +Us uarios +OT OS +Ġm sm +K HTML +([ ( +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġ} ] +w izard +Ġm ientras +Ġdata List +Ġemerg es +Äĥ ng +.Read Int +PG A +ILL ISE +I Enumerator +(t uple +Christ mas +Look AndFeel +og enerated +Ġ# ĊĊ +control led +Ġex quisite +Ġa cest +Read Write +G ain +ãĢį ãĢĮ +Ġcopyright ed +Ġdo om +.Table LayoutPanel +ĠD ort +Ġch ili +Ġwer k +ĠEVENT S +ĠBe acon +Ġship ments +Ġse bagai +up on +ut om +.con verter +.Drop Table +={ }Ċ +f ic +~ ĊĊ +Ġlesb ians +_n a +Fore ign +ĉ then +/ ms +Ġor i +get Property +ĉsn printf +hes ion +ãģ ¤ +"} ," +Ġac rylic +P ers +@ Enable +I sl +(C ard +. Stack +L icensed +_G UID +: title +Ġh ust +Ġprincipal Table +an itize +/ embed +Ġens ured +ĠE GL +ÙĪ Ø± +ĠåĪ Ĩ +/ ,Ċ +Ġfundra iser +Key Name +Ġmarch ed +_VAL UES +ĠSc enario +Ġmet ic +_ass oci +ĠPast or +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉĉĉĉĉ +er ate +Ġinv itations +quo ise +Ġbl aming +Ġd aring +UM MY +Ġrich er +em aker +ĠIdent ification +ĠìĿ ¸ +ĠBinding Flags +ch as +Ġresil ient +_p g +Ġre leg +ĠI RA +ST E +Ġtr actor +- loading +ĠPre viously +ĠV acc +/ be +Ġn Ã¥r +Ġurl encode +ĠNor folk +.Re lease +ĠNe utral +ä¸Ń åĽ½ +ĠAr lington +Ġalleg es +ĠW riters +Test er +ĠR ally +Ġc á +ĉ Print +Ġâĩ Ĵ +ĠUser Controller +ĠSeek ing +.V AL +List Node +_ ff +ĠPhill ip +FA CT +Ġc aramel +ĠM ultip +ĠCom pared +ĠSer bia +Ł ³ +Ġrev ive +ĠK anye +Ġver ge +ĠBulg aria +get Body +Ġ| > +ce ph +.DateTime Picker +." ;ĊĊ +ĠT ie +, item +Ġm enn +G as +och a +_v irtual +Ġmaster piece +_se quences +L TE +ĠSub mission +Call er +$ \ +S port +ag us +Constraint Maker +Ġcol oc +Ġw ig +ĠÐ £ +ĉ Array +Look s +ĠGT A +.st eps +atch ewan +_r anges +ext Alignment +ĠBren nan +Ġab straction +uler Angles +.m isc +Ġantib odies +Ġexponent ial +ĠCH ANNEL +exp ense +' y +Ġdetect ives +Ġpur ported +Y STEM +Ġradio active +ĠLat ina +.Enc oding +.T AG +x in +D egree +ur acion +pr ices +ĠRefer entialAction +Ġr arity +Ġp iles +g ende +_project s +_g lobals +.start Time +Ġê µ¬ +SE CTION +_p ublish +F ault +DD L +_p rior +M om +Ġth icker +Ġsequ elize +Ġessential s +str as +in tr +>( () +.man agement +e il +éĹ Ń +A ware +.C ity +ĠAr bit +_D M +_key board +L Object +- webpack +ĠNew port +Ġprincipal Column +leg ant +Ġp allet +Ġfract ure +Ġg mail +.M eta +A bove +.Key Event +j it +_mac ro +_P USH +á» © +/ controller +åĬł è½½ +Ġsuperf icial +exter ity +Ġmens agem +W ind +ist on +.open api +и ÑĢов +ĠSerial izer +uct ive +Ġz ar +Pl aces +.St atic +B a +Ġin advert +ĠIndones ian +_IP V +(h orizontal +Ġget Title +ide press +ĠConsole Color +ip ers +$ out +Ġfest ive +Ġeven ings +.Get Data +uit ka +ĠManual s +uss ed +_M ax +.Ch at +ĠA ircraft += com +FO UND +ap ro +Ġtre asures +_al ive +Ġgad get +ek ing +Button Down +B rowsable +.PER MISSION +P ASSWORD +ĠH ASH +f é +\ TestCase +LO SS +o thers +, J +Ġassh ole +wer k +Ġm ã +. ie +ev il +kont akte +//////////////////////////////////////////////////////////////////////////////// Ċ += sys +ĉ lock +-- ;ĊĊ +_F UN +Fill Color +ó a +pre nd +Ġcompress or +M other +ĠAr cher +.g oto +Ġwür de +Ġbam boo +ï¼ İ +ĠT rees +Ġb umper +Ġsa usage +ĠEl asticsearch +Ġhor izontally +ĠG ul +Im mutable +Ġlos er +Ġabort ed +-d emo +ĠH atch +Ġund e +Ġprocess o +-c all +In come +å ĥ +_ returns +']." ' +(s w +C BS +am ilies +ĠYour self +ĠH olt +.M ON +à§ ĩ +ÑĪ Ðµ +an on +ĠFont Awesome +produ cer +j r +Ġm au +ĉint er +Ġdish onest +Ġmagn a +ĠCollect ive +Ġvra iment +Ġcho ix +st ay +Ġweld ing +r ising +, min +ĠF ate +g lob +RGB A +Ġdet te +V en +Ġembarrass ment +.DE LETE +greg ar +-re nder +(b ucket +"> ĊĊĊ +.wait Key +Bus y +Ġdifferent iation +ĠC ST +.Con stant +Ġline Number +(m atches +Ġweb socket +Ġbar red +Ġpued es +M ono +C ORE +I ID +ĠĠĠĠ čĊčĊ +Ġpúb lico +lean ing +Ġcleans ing +Ġcr is +ĠDev ils +_SET TING +unt ary +. );Ċ +Ċ ĠĠĠĊ +[ curr +ts y +ĠAlex is +rit el +Ġpet roleum +.pre processing +m atter +For Result +- license +Ġtrav ellers +ĠDispatch er +enn ifer +Ġdigest ive +P ED +hib ition +MAS ConstraintMaker +ĠW att +Ben ef +.set View +d to +TE E +ĠPel osi +_EX TRA +Ġmed als +x hr +fore cast +Ġn argin +oun s +-f ill +_CUR SOR +Ġsuperv ised +Ġtur f +ĠEd gar +POS ITION +Ġcategory Id +â ī +_ ER +á»§ a +Sh own +. ll +_POL ICY +(), ' +ĠPre v +ĠString Field +ĉG lobal +ass ed +Through out +o stringstream +.awt extra +Ġslo pes +ĠSe quential +Ġgi orn +Ġz elf +Ġvers atility +lene ck +.c gi +Ġdou bling +ĠBang kok +Ġbu urt +Ġusu ário +st udio +Ġje unes +Ġm uted +Ġ ips +_f raction +&& ( +Ġst unt +'); ?>čĊ +Ġev apor +b able +ĠPR ICE +Ġæ ³ +lu cent +Ġv amp +ĠTechn ician +Ġuniqu eness +M es +ur ban +.param etrize +ĠRe play +S essions +em br +-Americ ans +_PRO XY +Ġp ian +Ġtri e +ĠD estructor +Game State +ĠIM F +ch in +Ġport e +ĠSw al +åŁ İ +Sub string +im ing +/L ibrary +Ġfright ened +w rites +Ġrecurs os +ar Result +_INIT IALIZ +ĠBad ge +_c rc +E ight +ĠDIST INCT +Ġth ro +@ Xml +ĠLegend ary +-t witter +_e asy +Ġ+ ++ +(D ATA +.L ocale +Ġk ä +Ġn urt +Ġcr uis +_ ios +Ġsens ing +_L ine +Ċ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ +pon g +ole on +Ġwild card +ç͍æĪ· åIJį +Ġbeg ging +R od +ĠÃ İ +_C ELL +Research ers +. selector +_ ing +Ġaspir ing +Ġimm ortal +Ġy min +_ robot +Ġpl ur +B TC +ĠD ID +Ġpier cing +* u +_DEFIN ED +ĠTh i +ita ire +(m edia +- ons +Ġche fs +Ġ"* . +/ AP +Ġraz or +Ġsearch Data +Ġ= & +Ġ ãĢĤ +Ġm ourn +ting ham +Ġo li +ĠVern on +_R S +ŀ æĢ§ +Ġf ácil +ang en +cel ain +Ġa il +le st +ĠQ COMPARE +g ain +ĠÎ µ +ĠK ob +ĠF ault +_config s +ç»ĵ æŀľ +. + +cal ar +(color s +M ul +_ ART +Ġexperiment ing +erm en +ĠAng lo +.Fixed Single +Se a +Ġc txt +.s lider +C ollapse +G rey +Ġf ld +-pro of +.cap acity +get Parent +ĠCom pliance +Ġburg l +- rec +Ġover written +M U +Ġrout ers +ĉ Model +Ġfantas ies +av ian +_p rec +ĠSc andin +Ġ// < +/o ct +Ġceremon ies +Month s +und y +Ġqu ed +ĠN ou +ĠV ibr +.r gb +Ġcit rus +Ġbr aces +-upper case +get Table +Ġdop o +ĠK err +_CH ILD +- cloud +ĉ Matrix +Ġgard ening +S ing +al most +Require ments +ugu ay +( Property +sub scriber +FA ST +re action +(l p +) })Ċ +` ). +.w allet +_ex change +.Max imum +ĠVer b +âĶ ģ +() < +ï¼Ľ Ċ +RO T +C ARD +ub it +{ @ +_k el +ĠTool tip +My SQL +Main Activity +ar f +Ġm align +Ġse inen +ap ist +Ġ< % +Method Impl +M il +ĠM ick +.de pend +< ID +Ġpredict ive +ĠAP PLICATION +le f +dim ensions +Ġconoc er +/ conf +ĠTr acy +F oto +_rem aining += file +Ġpage Index +ĠPar ish +Ġt exas +ĠM AGIC +ĠH ew +d ifference +Ġalt ura +c um +ĉdata Type +Ġcaracter es +avi ours +ĠV OID +è¿ ij +P UBLIC +B io +ĠstringBy Appending +Parse Exception +ĠS uff +ĠN orton +/d etails +.n ull +>> & +ĉ ok +-l ow +. usuario +n ested +X B +OUR S +.Border Color +Ġb row +ĠÐ ķ +cor r +ĠRed skins +.get Tag +.get Transaction +Ġst igma +hard t +ĠPlayer Prefs +als y +uc son +L anguages +ĠOl ivia +Ġt ac +Ġb li +Ġc aval +Ġconsolid ated +Ġper il +Ġde le +Ġform ulated +Ġhigh ways +.sp awn +== $ +ĠN iet +Ġv eggies +yp o +-r ule +ĠV ie +/e pl +Ġenf ants +string Literal +Ġtou ghest +buy er +Ġcov ariance +Ġil i +ĠSoph ie +ĠB AB +Ġ" ), +ĠU k +current Index +_user data +.code c +ĠPun jab +ĠSN P +l ol +adv ance +Ġcom fy +Json Ignore +Ġfashion able +ĠI CON +Ġor a +ĠP ricing +< num +ĠI RC +ER V +ĠMe in +ĠID ictionary +AD OW +is New +ĠDev on +at l +(request Code +ĉ PreparedStatement +IM PORT +Ġmar ital +_SELECT ED +get Response +ar Down +B V +ib Name +ĠP ATCH +ä än +Ġda ar +ĠFile Mode +Ġm arty +.Spring Application +c ene +amp oline +get Size +Rest art +æķ Ī +.project s +ĠEthi opia +Ġstatus es +T ION +(b g +ĠX unit +Temp orary +ĠEng agement +Ġx f +Ġprox ies +Ġgen esis +Pager Adapter +ĠSl ave +Ġsung lasses +ĠCh loe +Ġko ji +ad em +ĉ JSONObject +Î ³ +Ġh ors +* w +ó r +es ch +Ġcritic ised +z ial +ĠSale m +.Vert ical +ĠR ash +> E +ter ing +/s creens +Ġheight ened +аÑĢ ÑĤ +Author ities +_b box +ün st +.font Size +ĠBO OLEAN +div ide +ĠSlo ven +uc er +Ù Ĵ +st ub +Ġnavig ating +: animated +_N OW +_v ect +} {Ċ +@ ( +Ġtele com +Ġcontract ing +ĠAss ange +Ġextract ing +Ġgr ö +c obra +.D IS +Ġcr ab +Ġtw itch +Ġvert s +Ġreject s +ĉ format +Ġreg eneration +.S ys +s olve +ĉd ialog +sh i +m eter +(b est +valid ators +Ġon wards +Ġg uru +Ġmoder ator +ow ied +ex periment +r ub +Ġm qtt +ĠCa ucas +Ġnational ism +Ġm ange +ĉ ImGui +/ Edit +Ġin h +Ġint ellig +ero kee +ĉ export +Ġdiscrim inate +sub tract +ĠM oodle +ens er +ĠGuid es +R AP +-h ot +_gr p +.p icture +X A +Ġinit View +_Com m +Ġoverd ose +Ġ+ ĊĊ +ĠSil ent +show s +Ġinterpol ate +Form ation +Ġb isc +mark ets +( SC +Z e +ĠNetwork ing +Ġad renal +ĠG uns +ete or +Decl ared +orget own +Ġk arena +/ password +_address es +ITER AL +B uzz +ĠCon way +(c ase +P WD +he iro +( act +** čĊ +());ĊĊ Ċ +Ġan v +Ġ. .ĊĊ +(Menu Item +(m ail +_section s +ĉ net +Ġpl ut +Ġw rench +/ object +ĠI st +ĠV IS +/p ub +al ten +Ġguit ars +Ġantibiot ic +ï¼ ĸ + ¹ +Ġ" +" +form ula +Ġbab es +ĠP rompt +Ġen im +/ player +ĉ ref +Ġby Äĩ +Ġconsum es +ĠH ast +ĠT ao +Ġ' ))Ċ +Ġcl am +Ġthigh s +Ġmot if +Api Operation +ĠW L +get C +ĉf lags +oint ments +Ġeconom ical +need le +x ls +pr actice +ut zer +time ofday +- output +Ġfind ById +ĠBudd y +Ðŀ ÑĤ +Se ven +ĠB ark +Ġenv oy +_al gorithm +åĪ © +Ġball istic +ç§ » +r ades +ĉd oc +rodu cing +ĠE ating +Un mount +/data Tables +_b onus +Ġl itt +pp s +) localObject +per f +ĠHel vetica +sh utdown +/ ml +.t okens +ĠHard core +, row +/b g +Sc aler +âĢĶ as +_log its +âĢĻ int +ĉ App +Imp licit +.F printf +ET O +Ġterr a +Ġpossess ing +.r strip +, ), += yes +ĠStr ipe +? = +ne utral +.g ood +Ġk ennen +ĠS ung +f ault +ystate change +Can adian +',' ".$ +ĠM its +æ nd +ĠSTR UCT +ĠURL WithString +ĠCom pass +Ġ-- ĊĊ +ĠNS LayoutConstraint +| min +-ad just +Ġreb uilt +L IGHT +/ se +-m ount +vp n +valid ated +(Q Object +Ġign ition +ĠCharg ers +RYPT O +]initWith Frame +ĠFl uid +Ġcad re +Ġnomin ations +Ne ill +ĠH ou +Ġcurrent s +_g ene +(in p +Par is +z ÄĻ +ag gregate +Ġass oc +weet ed +err at +âĢĵ ĊĊ +Ġ'/ ',Ċ +fix ture +ĠH ighest +amb ient +Ġch mod +Ġcon te +Ġsens ual +Ġgar ment +z ers +ĠPower ed +dom ains +R eward +i omanip +Ġcock pit +out file +Ġbuilt in +Ġins isting +. vars +zip code +Ġ ���� +f ails +Ġconsolid ation +_ oid +Plan et +Ġ= ", +ĉ el +UIL T +ät z +af ari +ĠMc Cl +Tim eline +Est a +Ġfr am +Y E +Ġcere bral +Of Month +ĠP regn +Ġкл аÑģÑģ +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ +ĠF res +Appro ved +.S pecial +ĠProtest ant +Ġallerg y +_p cm +ĉC opyright +Ġsuper Class +" strconv +ĠMoh amed +Ġ' // +Fore Color +Ar thur +ĠJ ungle +Ġve ins +S ad +Ġback ups +ĠOp inion +û t +Ġinter mitt +ody n +ĠChrist ina +Ġand re +Ġevac uation +pa lette +h orse +ĠRes ident +ĠHass an +.N il +Ġa isle +ĠG rowing +Ġblog info +/s ql +_io ctl +Sc aling +ĠMon ad +_c pp +ĠH utch +ĠApple WebKit +Exp ense +_J OB +Ġpoint less +From Body +ant al +Ġdepict ing +ĠC ELL +Ġref in +ĠC NC +ì¹ ĺ +_dim ensions +ĠS AN +Ġa ft +Ġfoot steps +cc oli +_PH ONE +/m ath +-k ind +ĠMe ans +ich ael +.g una +Ġinaug uration +-dr iving +( delete +Ġtotal Count +_M C +.Ext ension +Com mercial +Ġz Index +< Customer +" g +-sh are +Ġp act +ag ara +ĠS IL +_m odes +ĠM olecular +Ġsystem atically +< G +_s cr +ĠO ro +as ers +Ġb ic +Ġdest roys +PI PE +.Start Position +Ġc á»§a +ire z +.B unifu +_F unction +Ġs ü +_f uture +ĠWe alth +ĠNatur ally +æĢ » +_y es +Ġabrupt ly +String Encoding +ĠCGPoint Make +Ġz h +Ġimp erson +Ġpiv otal +ĠSom alia +Ġsegment ation +_AN AL +ĠLogin Component +Cons ult +Ġtr uncated +] ";Ċ +.get Config +Ġintern ship +B aby +ê° ľ +Ġstrengthen ed +_M I +b asket +Ġnicht s +ĠTV s +ĠSh an +ãĤ µ +rac use +.Re LU +/ interfaces +ĠgetItem Count +Ġret iring +Ġspecial s +Ġentity Manager +bel ief +Ġs older +da ughter +ij kl +Ġutil izes +.f ixed +S U +Ġdr astic +Ġh acks +gr und +ĠM U +ĠSt arter +.Com ponents +_m otor +Gold en +Ġl odge +Ġ )); +ĠCor inth +иÑĩ еÑģÑĤво +ón ico +gre SQL +ĠFl uent +Ġmar c +.Load Scene +.Group s +Ġer h +ĠAut umn +St opped +Ġitalian o +Ġmin ions +ĠAssert ions +Ġm ux +B u +Ġ---------------------------------------------------------------- -------------------------------- +ĉ up +read ystatechange +_M eta +Ġcurrent Date +ĠChap man +Und o +Se an +ap r +Ġpar m +_ icons +ĠSt a +á z +Ġsub division +Ġalter ing +P NG +ponent ial +Ġpost gres +ĠB DS +-ex istent +ĠBrad ford +ĠO MX +_W HITE +_PRO GRAM +q c +Ġtypings Slinky +ĠP ics +_M ETA +IT TER +_sub scription +IRON MENT +ĠHy undai +();ĊĊ ĊĊ +ĠØ ³ +Ġj ac +Ġelimin ates +) });Ċ +Ġcomp rend +ĉ insert +_f aces +"> $ +Ġeb ay +Ġcapt ive +pl iant +ĠCalcul ates +ol ta +est ing +_re vision +Ġm ús ++ m +"," "," +WH AT +Ġcompassion ate +h arga +[ random +Ġmod ulo +(s n +Ġoccup ations +//// Ċ +ĉ board +ĠB alk +wi Äħ +ĠW ifi +.Pro file +:m aj +ĉm at +LOCK S +(j Button +Ġ(' $ +M ur +æĮ ī +b ble +Ġf rog +-h ide +Ġbroad caster +ภŀ +ha led +Ġam using +_predict ions +_in tr +Ġe agle +аÑĤ елÑĮ +Ġget List +ps ilon +Ġcharacter ization +AR DS +Ġre location +Ġr ulers +P AY +ĠDef initely +_A ction +Ġclos ures +Ġfact ual +odyn amic +Ġpreca utions +nie j +ĠPart ies +ĠSub aru +Ġcous ins +ar beit +.m oney +gun ta +( and +get item +.Style Priority +Ġsl id +single ton +Ġg arn +ĠP AS +Ġd azz +a ż +Ġbog us +ĠM og +Ġrival ry +is ol +Ġland marks +ñ as +B ern +ĠSach s +Ġ" )ĊĊ +Ġhost ility +_m ex +m ere +M ot +p ictureBox +Def ense +Ġaffid avit +other wise +.d irectory +_ UnityEngine +-b log +.s kin +ph em +Ap ellido +er chant +[ class +Ġw art +." [ +ale ur +/ back +ĠĠĠĠ ĉĠĠĠ +Ġprecip itation +Ġob struction +Ġp Obj +Ġr upt +UCK ET +ay e +æİ Ĵ +g x +Ġe cl +Ġsecre cy +/ Header +ĠLes b +Ġle i +ĠBullet in +Ġgive away +.H ome +_RO OM +" W +Ġcow ork +_ ra +ĠC ycling +ĠP aw +Ġpup il +/ arch +ĠFile Utils +é¦ ĸ +r sp +Ġfreed oms +ĠL ear +}` ). +Ġbow ls +/b lock +_log ging +Ġmeth ane +Ġhorn s +Ġwonder fully +Ġalter ations +Ġex ile +ls en +_p ause +_L ANGUAGE +ĠUS DA +_m ysql +_AM OUNT +ĠL IFE +Ġyoung sters +Ġri ots +[ E +Ġun forgettable +, },Ċ +Dis posed +ĠAss assin +UN G +ĠNew sp +User Service +: aload ++ ', +Ġsett lers +Ġscre ams +Ġincon venience +.R otate +Ġj ars +ĠP uzzle +Ġm est +ars i +ĠSh arma +| ( +.d s +ĠSac red +_e vt +Ġexpress es +Ġh och +ĠD uch +.c alls +th r +ĠShe ffield +.Alert Dialog +Ġrad ically +Ġtr ous +Ġprev ailing +ĠWW II +âĢĻ n +ens ely +ĠY esterday +ĠSir ius +Ġkill ers +ĠF FT +Ġo val +') :čĊ +Ġìłķ ë³´ +our age +ĠCheck box +Work book +.def er +_f loor +Ġc ouncill +Ġnors ke +mo il +ore a +Ġmarket ed +_S UR +x AA +Ġst ained +e ut +ĠM eng +Ġi eee +. extern +eg ie +Ġr app +ĠPy ongyang +' class +M ob +Ġinitial Value +_w ave +Ġj ab +Ġmascul ine +Ġampl ifier +Ġt ty +Path Component +_ xt +ĠG FP +/ sec +ĉdis patch +mark down +ĠS chn +bo le +· · +mouse move +Ġerr Msg +Ġas ign +_m ono +To Selector +ĠZ u +(R ect +ĠError Code +lat in +ang ible +v tk +CG Size +P okemon +Ġclass mates +Ġattract s +ĠT atto +ult an +ol óg +Ġhalt ed +ठ¨ +ĠK art +Ġ ue +_Init Structure +Test Class +ĠAir bnb +_ ", +Ġchar coal +Ġip c +ĠSt retch +.g lide +lates AutoresizingMaskIntoConstraints +Ġpot ion +ITT LE +Ġcount ert +_h d +pre pared +Ad s +ĠV ampire +rob ots +.Create Index +Status Label +Ġt ucked +af ür +U t +Ġswe ater +_F N +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĉ +ata ka +Ġeyeb rows +ac oes +ud en +.LinearLayout Manager +Ġsw ay +Ġmult in +() )))Ċ +ĠNS UInteger +ĠMy Base +Part ner +uts chen +ĠC ater +.setBackground Color +Ġaccompl ishment +_pro blem +.d td +Ġpage Number +Ġj ackets +Ġcro pped +u els +ĠH ep +Ġc apped +* Math +_callback s +Ġpub b +ĠBrun swick +.res pond +[" _ +Ġbed ding +hyth m +O X +(s peed +Ġpestic ides +Ġ---- --- +.Bl ue +Ġnood les +ĠGo es +Ġs aver +o xy +_com pletion +ĠSw inger +Ġget Date +Ġmind ed +int egration +ĠLot us +(st op +(', ');Ċ +Ġflood s +ĠWork flow +Ġerupt ed +Mac ro +ĠSau ce +Ġevent Name +\ Input +Break ing +ĉ when +_p w +IND ER +ĠWell ness +Ġvox el +ĠM ell +ĠM EDIA +SE NS +ĠFund s +ĠM ild +< Array +- this +ump ed +/f w +ĠDb Context +W I +girl s +H OW +'); ?>Ċ +Ġtempt ing +Ġtest ament +Ġb ible +Ġconsult ed +ĠIndex Error +è¨ ĺ +Ġkey pad +izz o +( ok +Ġwhats app +ĠRemote Exception +Ġteam ed +âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ +» , +Ġget Time +di ag +iss y +Ġh ed +Ġkn ots +j om +Ġfun nel +-m ails +Ġexport ing +ĠV L +ĠK arn +ĠBuddh ism +ĠAll an +_R ADIUS +Ġw ording +ĠFor get +ĠCor ona +ip hy +Ġlim burg +ugg y +ĠUser Repository +im in +(e le +Ġlabel led +ç¤ ¾ +ĠH erman +.q q +Ġ" ));Ċ +ie ber +.Trans late +ry n +Ġdes env +um d +Sim ply +ĉm ode +R pc +ĠVal encia +Ġstaff ers +Ġsel v +ĠSpi ke +Ġdel ic +Ġer u +_D T +J udge +á» ķ +ĠBas in +.m utable +" url +Ġtar iff +ĠSlee ve +Ġfl are +.drop out +Ġbr ides +)) ,čĊ +_con straints +de struct +Out line +Ġdisappe ars +_lock ed +ĠNS LocalizedString +ck e +ĉ null +ad resse +Ġto pping +ĠJ oker +b ishop +но ÑģÑĤÑĮ +and ering +_ amp += time +_S pace +_P ULL +' = +Ġant iqu +Ġc ach +___ ĊĊ +ON ES +о Ñı +Ġun read +.p olicy +oooo oooo +ëŁ ¬ +Ġu sted +ĠRe ce +Ġal lem +ãĥ¼ ãĤ¹ +ĠThought s +ve illance +istr ate +_l ane +Ġfam ed +.Get Name +Ġsmo other +ĠQual ified +az ers +_ geo +F ax +ĠM inds +ĠR aises +Ġtrans cripts +Con versation +Ġremark ed +ëĤ ĺ +d ling +Ġdeploy ing +Ġshared Application +Ġk p +FontAwesome Icon +_d ummy +reib en +ĠJane iro +Direction s +.get Bean +s ass +Ġcommand ers +v ation +error Code +ĠAl loy +.local ized +Ð ij +Ġdish washer +ĠSou p +N u +_D efault +Ġune ven +Ġ/> ";Ċ +-B ased +Ġseam lessly +- null +ĠX C +Ġst ew +(d elay +AT ORS +ĠWhe eler +" H +e ast +. air +âĢľ But +Object Context +success fully +_l and +Ġfold s +_CO ORD +Ġsub po +.get Address +in str +Material s +Ñĥ ÑģÑĤ +de posit +-l ast +_GR AY += find +Ġmut ant +Ġlesb ienne +let cher +RO UGH +ure ka +.c apture +Ġen n +Ġ([ [ +ĠFl u +Ġtask Id +ĠHus sein +.f older +Ġa usterity +ISTR ATION +_ Impl +注 æĦı +Ġdec ree +- chat +Ġimp lication +Ġguess es +ul kan +An alytics +. plus +COM MAND +е ли +» ĊĊ +_S ITE +Ġequal To +Support FragmentManager +ĠRec ording +å®Į æĪIJ +Ġbag gage +Ġpitch ers +ĠE h +o que +ĉc nt +Ġ=> $ +/ foo +IR A +ĠSat ellite +bor ah +Ġ}} "Ċ +ĠEnd s +ĠSpr ay +, param +.Ch rome +* q +th ought +ibr ated +Ġth ieves +Ġbenefici aries +Enter ed +ottes ville +Ġveter in +By ID +qu ipe +um ption +- unit +Execution Context +@ s +ĠG iov +.Tool Tip +_f riend +( attributes +Ġdump ing +ĠJ C +_D OCUMENT +ĠArm our +( insert +.Horizontal Alignment +ĠQ ed +ãģĦ ãģ¾ãģĻ +/g it +ĠY YYY +ĠCard iff +Ġap a +organ ic +ĠWhere as +Ġæ Ŀ +ĠM ia +Ġdemol ition +Ġsc ars +Ġp ai +Ġre tries +Ġr q +ĠDen is +( Utils +Ġallev iate +ĠP IC +id ue +Ġacknowled ging +Ġ// //////////////////////////////// +ç¡® å®ļ +Ä « +\ Json +.b inary +Ġx type +sign als +ĠAp pearance +& r +} s +C i +ĠI llum +por ate +h og +Ġindex Of +\ Command +_par allel +ĠSher lock +í ĥ +Ġ" ")čĊ +//////////////////////////////////////////////////////////////// //////////////////////////////// +Ġcritic ize +ĠSo ap +ĠMatch er +Ġgr illed +* T +Ġad ore +ull ing +Ġjed och +_ref s +lean up +ĠJ AXB +Ġro ses +ĠL iam +size i +Ġget char +Ġtar de +-to oltip +Ġqual ifier +ĠInter mediate +_W indow +ĠMal ta +Dis connect +ew here +Camp o +Ġirr ational +led o +ĠD N +ARG V +Ġout ro +Ġth irteen +Jose ph +M AR +/g l +J ess +ĠPsych iat +Ġpadding Bottom +- loop +/ fonts +_se en +Te ams +React DOM +(m an +(x path +.get SimpleName +>( * +ĠP vt +Ġel ders +Ġp ies +.user Agent +- region +ĠGree ks +(f ragment +st u +Ġcouncil s +Ġst amina +ĠGod dess +è ¥¿ +Ġphilosoph ers +Ġpers one +ĠL ose +ĠCL R +ĠD ocs +Ġso ak +ĠHOLD ER +Ġb ells +hash Code +R ATE +_WE IGHT +in ous +end ra +oph obic +Ġpro se +Ġfin ely +/o auth +(s pace +ad ge +ĠM ama +Ġstring Buffer +Ġst int +Ġmis ma +Ġvill ains +ĠCrime a +Ġdipl oma +Ġпо Ñģл +ĠBe a +(j oin +Ġíķ ´ +CH AT +per ing +ĠC ros +Ġmon keys +Ġpred s +yl a +,, , +Ġvibr ator +ĠN U +åħ Ī +f ant +z et +Ġb ietet +un ft +sw orth +.F low +Ġpsy ched +ĠContin ental +> t +Ġqu ilt +. UP +Ġexpans ive +Dis pose +(l anguage +C aps +_Z ONE +Ġrec ycle +ĠMan aged +current Color +.b roadcast +sign In +.p rom +ll u +ue blo +Ġpunch es +Ġautom at +Ġassign ing +Ġcreate User +ĠAll ied +Ġconduct or +Ĥ ¨ +Ġs addle +Ġd ni +omed ical +-W est +Positive Button +Ġit alic +? [ +(tr igger +Ġele phants +":" "," +Ġcal iber +raft ed +d igits +Ġmar shal +mill iseconds +mark ers +m om +/ place +Ġhol istic +: t +# , +Ġb oto +Ġnause a +ĠSh ooting +ite ch +Ġtext Status +< Class +ĠDes cribe +Ġbuff et +g il +Ġlog its +std call +mod s +ĠSk ull +ĠB are +h ope +ĠIn tr +F air +ĉ pt +Ġacompan h +Ġf kk +_r pc +Inst alled +_ ans +.get Minutes +â̦ "ĊĊ +- thread +Ġpres chool +AIL S +Ġdiff ic +( convert +ĠN ath +ĠDO J +Ġreg imes +Ġenthusi ast +Ġwarrant ies +Ġfasc inated +_b inding +_N ot +oft en +_R W +/m ail +Ġtitle Label +Ġvill agers +ĠJ iang +Ġsw agger +.Row Index +_img s +rap y +VER AGE +. Up +Ġno op +c io +ĉ ST +Ġdecre ment +Ġmagn esium +_ rotate +S it +Ġnieu we +Ġter med +íķ ©ëĭĪëĭ¤ +Ġur g +_t ouch +Ġsw arm +Ġcl ave +th est +ĠL af +H X +ĠH ulk +Ġplaint ext +ĠSof a +get Session +L ed +Ġecosystem s +he i +ĠK ills +Ġhus bands +Ñħ ÑĢан +(d om +_t iles +Nib Name +Ġdon ating +. acc +Ġlifes pan +.b n +_RG CTX +æ ¥ +ans en +Ġmod elling +Layout Params +ĠonChange Text +rs a +- location +.P e +(b us +(s ong +Ġprodu k +ĠSH OULD +ĠC J +Ġs os +ĠHome Controller +.load ed +(D ocument +.s ocial +t iles +Ġl ame += df +.parse Long +Ġpr ac +Ġdet ox +ĠV E +Ġpunt os +Ġdo ctr +Ġan cor +CA PE +Ġc mb +çĦ ¶ +*) " +:// / +Value Type +Ġmort gages +; q +ĠRock ets +s port +UG C +ct s +ãĤ ģ +ie ur +ĠAppe al +(n b +//////////////////////////////////////////////// //////// +IM ATION +ĠC res +ĠMan ip +C ause +at ypes +man ufacturer +# ---------------------------------------------------------------------------- +Ġsp or +es on +Ġpun ched +Ġbook marks +ĠBul k +Complete Listener +ĠTalk ing +ĠEr nest +Ġrub bish +k ills +ĠDE FIN +Ġneighbour ing +ar lo +ĠP CA +ĉm atrix +lo k +Ġat las +ĠG ur +Ġw yn +-n egative +Ġt ul +Ġre lic +ĠV oltage +ĠPre is +ĠJ NICALL +ĠPM ID +ak et +ĉ attr +Ġet iqu +ĠM J +ĠG mail +cl r +_exec ution +éĶ ® +pos itor +. af +N r +Ge orgia +Top ology +Ġperch é +Ġmus lim +Ġepid emi +Ġsab ot +act us +Ġë ĮĢ +ĠIO Error +. est +p refs +ĠKr ish +.Read Key +NAS A +u ção +_D b +umer ator +W ide +(st atement +.end point +.... ..... +Ġ[ * +stream s +m time +P x +at r +Ġt pl +R oman +Ġscen ic +.n z +ĠSe conds +sub menu +Ġìĭ ¤í +_b undle +Ġde ÄŁ +ĠS isters +pre ferences +Ġport a +Ad visor +max Length +ĠG REAT +__ (Ċ +ole st +ĠLabel s +Ġen fer +ĠĠĠĠĠĠ ĊĊ +ĠThe ft +_F ILL +ĠW ise +) application +un ami +> ())Ċ +ADD RESS +B ST +et zt +ĠQ gs +S ense +Exception Handler +ĠCh u +.get OwnProperty +Ġexerc ised +iot ic +ĠRe leases +Ġp interest +ol ie +is oft +Ġsequ encing +Ġpad re +] ));čĊ +(r adius +.m ed +aint ies +.Object Model +Ġem ple +Ġseg uro +St ars +Ġqual itative +lem n +á» ± +> "). +Ġg x +-c ert +ĠAST M +Ġfull name +Ġte lemetry +ĠCamb odia +_ ul +ĠCl are +C USTOM +Q C +ĠUn s +ĠHTTP S +ĠPark inson +ancy box +',' . +T ue +.get Last +Ġab i +Äħ d +A st +ĠEd iting +.Un ity +j mp +Ġm ats +Ġshared Preferences +Capt ain +.page Size +Ġr tl +Ġan meld +Runtime Object +Ġdemand e +(" ; +se ite +-head ed +ĠK ra +ĠF ONT +` \ +Class NotFoundException +. avg +atic al +A j +Ġpermit ting +Pro j +ERR Q +Ġcre ampie +ĠBuy er +-mod ules +ĠSund ays +| `Ċ +Ġday time +Ġ+ ( +Ġgl itch +ĠOper and +Ġtox ins +iny a +D NS +ĠS as +C ake +ĠNation als +.add To +Ġs inking +Ġcompreh ension +Ġsc or +ag ements +Ġt ard +Ġmarch ing +ĠM TV +Ġs ane +Create Info +Ạ¯ +Ġend Index +ĉ layout +ĠåIJ į +S ITE +ĠT HERE +Ġ[ {' +opath ic +Ġtrans mitter +/ body +Ġp und +ĠC losing +Ġset attr +Ġbound ed +At las +sum ing +(t imes +par er +yn om +fe it +Ġf rem +- leg +ĠBr as +> # +Ġì¶ ľëł¥ +ĠIN STANCE +ĠC ouch +_host s +lik elihood +.M arker +ĠM asks +Ġcere al +util ities +Ġelement al +Ġdist orted +in active +c ry +W L +UPPORT ED +.Th rows +/s chema +ser ie +." ', +ĠBened ict +-p icker +ig gs +ĠPir ate +åij¨ æľŁ +ĠTh ema +ĠSouth ampton +Ġarray With +ĠPaul a +Ġpredict or +- Ass +.user id +Ġper i +Ġexagger ated +ur ate +arse ille +ĠCon cent +ĠP ik +Ġ@ _;ĊĊ +Ġform ations +Ġden omin +"/> .Ċ +ended or +Ġpan cre +Ġam t +Ġon Resume +on Delete +ĠB CH +) (" +m ovement +Ġpot assium + čĊčĊ +ĠMah m +} ";ĊĊ +Ġd q +ĠPublish ers +ĠAm pl +ĠDani elle +Ġt ern +èµ · +no ÅĽÄĩ +e in +ĠAsync Storage +un ger +rou w +Ġsc issors +/ assert +.b ucket +/ archive +_M an +Ġint oler +Ġ() => +ĠÐĴ Ñĭ +Ġsa i +.x y +." čĊ +Ġur inary +es ub +IST ICS +ĠÎ º +Ġcompl iments +Ġtypings Japgolly +ih ar +Exp ansion +ĠS erving +_st udents +ĠX BOOLE +( il +Ġì² ĺ +Ġj ó +(t ol +( JS +ĉC G +ĠD RAW +tw ig +Ġo at +_sm ooth +ĠC SL +Ġos ob +Ġens uing +Ġbank er +ĠBack pack +_p ing +Ġwish list += ax +ĉĠĠĠ Ċ +Dis ney +stead y +"> % +Ġproph ets +ĠZ X +Ġminimal ist +.PL AIN +Se attle +. ordinal +ĠPI PE +Ġret orna +Ġjug ador +ĠB ret +ĠâĶ ľ +Ġpl ush +UL ATOR +Sort ing +.grid y +ect omy +_ activ +r ack +Inter active +ĠAntar ctica +Ġv engeance +en so +_k nown +up plier +.Mod ules +ĠConnection State +éļ IJèĹı +@ FindBy +Ġpl acer +\ model +< ()> +.is Successful +-g ood +b z +ĠDr aco +Ass istant +-ex tra +аб лиÑĨ +Ġhyp ocrisy +Ġt st +ĠA gr +$ txt +Ġlog istic +lic ensed +ĠH of +Ġt at +( iv +Ġinto xic +post Id +_st rike +Ġhum iliation +pc odes +" sync +(rec ipe ++ N +rent e +ĉ Client +ycop g +ĠZur ich +ĠPro files +C ountries +Ġp ict +Ġroll out +requ encies +Ġpatch ed +Ġcar tridges +Ġsh ading +J ar +Ġsalv age +ĠTax es +Ġstand by +apor an +E igen +. angular +ĠN ested +äº « +Ġis Visible +ĠDw ight +_BR ANCH +.D elay +Ġk end +Ġfacilit ated +.flat Map +Ġs anta +ĉS end +/m essages +Ġof Type +ĉs wap +# plt +ĠTur ks +N ES +Ġprogress ively +ĠRes idence +ĠT REE +Ġno en +d io +Ġn elle +Ġsog ar +itt i +week ly +Ġambigu ity +_Set tings +W are +.ne o +_D ST +Ġæĸ ¹ +pre p +lob by +@ email +/m ovie +Ġfun kc +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ÂŃ s +Ġguard ians +- pos +Ġconfig uring +ĠC PS +ĠDe us +Ġvidé os +_ empresa +Ġsl apped +< Model +Ġunders cores +U h +.access Token +SET S +ĠS parse +ĠCal d +: path +ĠS ervers += batch +Ġkn itting +Ġx a +Ġsearch Bar +Ġsn ag +Ġinf used +.b am +le ver +Ġtax onomy +Ã İ +Ġatt aching +Ġh ern +_N OP +Click able +(P arse +ĠDynam o +-b uilder +Ġdere g +Ġsc attering +è¿Ľ è¡Į +an zi +ĠShe pard +"> ',Ċ +_X DECREF +ĠBuzz Feed +_M ARGIN +P LOY +.sm all +Ġm imeType +Ġh olog +ĉc amera +li as +Ġsusp ense +ody nam +b au +Ġgrave yard +_n amed +":" ' +Ġ******************************** **************** +Ġgame Over +ĠLENG TH +ĉs creen +Ġdo InBackground +_depend encies +Ġr tc +/ up +_ ROM +H all +Ġdef iciencies +( te +' # +_e quiv +Ġpre order +ĠA xe +ом Ñĥ +.send File +Ġfil t +ĠLim its +ĠCaval iers +.dis count +âĨ IJ +ĠW it +QRST UV +Ġi j +Ġt egen +Ġ: ", +diff iculty +p unkt +ĠEmail s +ch lor +(f un +.U int +ĠSt all +_ verified +u D +File Type +Ġple asures +Ġjud iciary +Ġsh am +ip ur +_PL US +off ers +( foo +_G T +ĉc ore +ENT ION +ĠLib eration +Command Line +_de partment +.A r +_ne ighbor +ĠSub mitted +ĠĊ +Ġdro its +Ġhomosexual s +Ġab duction +ĉw idget +$ headers +ĠD AR +Ġfl a +th reat +Ġlou is +.Get Property +" Just +(f rames +ry o +prof ession +| i +íķ´ ìĦľ +(s v +Ġun recognized +I onic +F ashion +Screen State +ĠIn coming +Not Nil +Ġsync ing +em ie +Ġtherm o +_pro cs +Ġincons istency +rel igious +.m j +Ġperson n +Ġmoment os +or arily +Ġæ Ĭ +_ne urons +Ill ustr +im oto +il ik +ĠW oj +Tr ading +Ġapp are +Ġentre prises +ach at +Ġ ¬ +Ġne igh +BUTTON DOWN +ĠMah er +ag han +-h ash +" f +Ġclient ele +.add Button +ĉ SP +Q i +Ġgr ated +POS ITE +: > +ĠHow ell +ĠCompar ative +ĠIS C +ÂŃ i +O cean +D avis +ĠFil me +W ins +ĠJ IT +oc cer +ĠC orm +ENCH MARK +rch ive +ica ção +Ġm ata +Ġchild birth +ĠOption ally +En s +Ġx http +Ġel ucid +_Osc InitStruct +)) ):Ċ +Ġint uit +ĠDon ate +Ġcorrel ates +> Delete +Ġequ ipe +Ġb oca +Ġinfl atable +er ah +ĠDateTime Kind +Ġcal ves +\ Lib +Ġem lrt +ĠTr ilogy +ĠP anc +ĠD uis +ĠpelÃŃcul a +WAR DS +_DE TECT +-section al +dh cp +For Row +-de struct +ĠPres enter +/s lick +, on +ĠCit adel +logged in +_sub type +Ġsig ue +Ġc uring +ĠFire wall +Ġfluores cence +ĠItal ians +иÑĤ ÑģÑı +.get Style +In Seconds +j ie +-S mith +Ġx link +Ġsub missive +он ÑĤ +arbon ate +ĠF aul +_go als +ĠCommission ers +chart Instance +_POST FIELDS +Ġmed ial +Ġman os +Ġdel t +sv m +.Ap is +ep hy +Ġasym pt +Ġapp Delegate +Ġimpro bable +ck a +sim d +/ Error +. âĢĵ +ĠP TS +de er +Ġs ina +m agnitude +ID ADE +'] }' +Ġmay ores +ĉ comment +/ console +" @ +v olt +.s ell +ĠM acy +Ġmel od +Ġim ágenes +_ch g +Ġin out +ident e +) '),Ċ +d ni +.b lob +Ġtyp ography +Ġe erie +_O ID +pes an +aj an +Ġch opping +Ġbl uff +ad f +_b ases +.Form atter +Ġ\ % +ĠPage Info +Car rier +ĠCal ibration +com o +-b odied +Ġfinanc ier +ĠIN A +. ERR +Ġhood ie +ĠSan ity +gu arded +.opend aylight +ISM ATCH +High lights +ün k +ani em +anger ed +assign ments +Ġregistr ado +ĠU PPER +ampil kan +ash ire +ĠNik ola +ĠC FL +ĠH DC +Ġp oids +ĠIP s +Ġprevent ative +ips oid +if ix +.c amel +.g a +V olumes +- ste +Y ahoo +_s ibling +H ighest +opt group +Ġkvin na +âĢĿ ãĢĤĊĊ +ĠAppl iances +Ġ" >< +') ")Ċ +ht t +ĠIdent ified +Ġpenc ils +Ġmember Id +Ġappend String +.load Data +Ġmock Mvc +Ġj ub +ĠSl ut +ĠTai pei +st att +Pol it +Ġpart ager +Did Change +Incre ases +) }. +ĠB aba +_CL IP +[ unit +Ġк лÑİÑĩ +Ġalc uni +ĠL ola +Ġcl inging +@ PostMapping +(con cat +Ġss id +ĠFa uc +ok it +ĠRecord ed +á lez +($ ('< +.assertIs Not +Ġk ali +V olt +Ġwarm ly +Ġsca res +get ti +füh rt +_d oes +. EMAIL +im ations +Ġspring fox +ĠDec om +arc y +Ġgl itches +ĠM off +ĠV oll +.b etween +Ġcoord en +ĠPart icularly +GB P +Ġsem ble +East ern +_M SB +]) {čĊ +m organ +ĠE VAL +d ere +HO USE +mo ire +ist ique +_l stm +-com mit +yster ious +Ġtw ink +-th umbnails +en ÃŃ +:' ', +Ġblack out +ĠFlo ors +Ġso fas +Ġou i +lesh oot +ĠRa q +- abs +Ġk ra +M ining +sha ft +.set Columns +Cl azz +PRE TTY +.play list +éĸ ¢ +-Sah aran +M ING +ĉ bl +è® ® +j f +DO CKER +hope fully +( ignore +ĠUsers Controller +ĠMitar beiter +ĠL ES +Ham ilton +-m etadata +ĠK K +ikt ig +Ġwoll te +egr ator +] bool +, current +Ġvalue Type +Ġexcav ation +ol and +Ġv erv +/file path +Auth Provider +Ġpro crast +ĉ ULONG +_MEM BERS +Ġup lift +ĠAut onomous +Ġart works +ĠOut reach +Ġp ore +Home page +Dialog Title +ĠGener ating +PAR SE +Ġsem anas +Ġhuman o +JSGlobal Scope +Ġvol te +Ġb ella +(is instance +Ġpl c +\C atalog +Ġeste emed +éĽ · +(s uffix +Ġswe eps +ĉ ORDER +Ġdo ivent +ĠSw arm +ĠComp iled +get Page +AD R +.R ichTextBox +ĠN aming +ag ged +ĠG ANG +r asing +ode led +Ġg ala +ĠJS Name +dd f +Ġill ust +ĠLans ing +[ port +-de ath +Ġdin heiro +ĠE ighth +Ġb ian +st Ã¥ +Ġvers ión +ĠLinear Gradient +ĠHard ing +. *) +ec zy +$ header +Ġv Ã¥r +Un checked +Ġko je +ĠPal adin +() )), +G iving +() })Ċ +Ġd ips +F riendly +Ġport rays +Ġhel ium +Ġinsurg ency +_ex piry +ĠstringByAppending String +Ġa antal +s lope +m ast +.get Integer +Ġ################ ######## +_PIPE LINE +Ġdens ely +Ġmut ating +m idi +ĠSe it +ay ne +NOW LED +ĠDes mond +ĠF Name +ĠN airobi +\ Context +Ġcalc ular +-d en +Ġc ott +] ):čĊ +ĠRecommend ation +ĠRole x +Ġvalidation Result +.p at +Ġn Ãły +ĠRest Client +ĠG PI +ĠAshe ville +ĠO SP +ĠPER MISSION +ÐĶ Ð°ÑĤа +/ notification +K night +_W ord +ĠB ender +rank ing +Ġpart ida +_res ervation +Ì Ģ +Ġm Name +Ġget ch +Ġb orr +Ġdilig ent +Disc uss +æŃ£ åľ¨ +ape ake +ion ed +-N azi +.c um +ĠK ron +=$ ('# +/s ingle +Ġerot isch +ĠV ib +Ġrat ified +Ġconcert ed +ĠREG ARD +Ġdo br +.Driver Manager +' r +Port able +ĉs uite +Ġrel aciones +ĠD op +emplo i +DO B +Ġcr umbs +Ġx ls +_App lication +(': ', +Ġ---------------------------------------------------------------- --------Ċ +m se +Ġber k +ĠReturn Value +ĠBel ly +Ġcam ar +ĠPe ek +els ing +Ġnot ifies +ĠTr istan +ĠG AR +em me +ĠElev ated +_C SV +(ch alk +Ġtw enties +ĠSearch Result += search +ĠMix ing +ý t +Ġrecru iter +ĠIDE OGRAPH +ĠA go +( Operation +$ values +Ġworld ly +ĠRosen berg +ĠConfigure Services +>* Ċ +Ġsn ork +_op acity +ĠinitWith NibName +i ado +A AC +Ġ] ). +; z +_par agraph +Ġnos es +stand s +if r +_m E +I raq +.P redicate +ena ire +]] ];Ċ +Ġun idad +Ġretire es +_h ello +Ġmode le +ĠUIT ableViewController +f write +_num ero +_vis ited +Ġrece be +( Notification +Fant astic +_sub menu +ĠP EM +ĠCup ertino +approx imately +class ed +.Read String +Ġdomic ile +_P W +Ġball park +ĠK ale +con tra +_f avorite +/ of +Qu ite +ĠOT A +Ġacceler ometer +did n +| ^ +ĠRohing ya +ivic rm +ann abin +обÑĭ ÑĤи +or ado +') + +Ha unted +, ID +( UIAlertAction +ur v +_b el +ĠMex icans +/ terms +ĠPaint er +Input Label +ĠV inci +ĠRos ie +\ uc +< Menu +Ġcool ant +(current User +_d ual +) "},Ċ +& p +Ġconver ged +Ġrestr ain +ĠYugosl avia += target +Ġimp uls +ds a +Search Tree +Ġh box +ĠImp ress +§ Ãĥ +get FullYear +(d a +ĠY YS +.al ignment +.Get Text +.token ize +ĠOlymp us +Ġmur ky +ore station +Ġdiss atisfaction +ĉT Array +_ kses +.Add Singleton +ĠStart Time +Ġfan atic +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĉ +Ġentity Type +. override +Ġ ------------- +ĠDat agram +f out +(with Id +Ġ# __ +Ł èĥ½ +ek yll +.f riends +ame leon +Ġz ach +.simple Button +ret orno +Ġkon k +/s mall +ĠQuick ly +un read +Don ate +Detail View +Ġdu a +Ġpenetr ated +OM UX +Ġn ir +_p data +"], [" +Ġlow es +Ġdop ing +Ġas ymmetric +Ġneed less +our cem +Ġup ro +ĠGu zzle +af b +Ġsext reffen +-c ollar +Ġcol ossal +Mon key +n ish +Ġhandle Message +Incre ased +* dx +ĠChatt anooga +f org +ĠOr den +Ġsh ri +ĠV and +Ġ" @" +Image Sharp +ĠWild cats +pon ible +.sc enes +Ġpaint ers +ĠPf izer +ĠZ ah +To Local +ĠFl am +Ġé taient +)) ^ +ĠSand box +ĠTR ADE +Ġchrom ium +Ġac claim +Ġpac man +´ t +) reader +M ari +.Dispatch er +.A DMIN +ĠRem ed +Sw eden +Ġoverl ays +. er +Ġp ang +Ġclean ly +aven port +Toy ota +patch es +Ġv tx +ĠE is +cl ado +ĠR itch +RO LS +Ġh ade +Ġconspic uous +Ġdo cks +(j q +ĠPrem iership +ĠBe z +ĠâĦ ĸ +ĠÑĥ Ñģл +_tot als +Ġprov a +ĠC ue +Ġsa úde +ĠGame Controller +IM IZE +, port +ãĢĤ ( +.C decl +Instant iationException +Ġcoll age +ĠIO C +Ġb ais +Ġon Finish +-st ars +set Size +Ġmog ul +Ġdis illusion +Ġche vy +(S chedulers +( IR +_loc s +Ġcann ons +Ġcancell ing +/b us +Ġbuf io +ĠY ours +ĠPik achu +Ġter me +r Ã¥ +f ahren +Ġowner Id +Ġoblig atory +Ġcul p +Ġacid ity +-m ult +ĠBam boo +Ġ' "> +_g s +Ġcomp il +n ard +-ex c +Ġrh yme +Ġbut to +s ays +ant asy +ë ¸ +Ġcitt Ãł +Ġche g +Time String +Ġpos itivity +ĠD abei +Ġw ang +Ġes cre +" c +ĉv ideo +ĠRank ed +.str ings +>> >( +Ġин ÑĤеÑĢ +Ġrest a +[: ,: +Ġrend re +Ġdes er +J os +Ġdis ruptions +Ġоп еÑĢ +s ampling +sup press +Ġcontainer View +ĠSeam less +Ġair y +Ġon load +.Window Manager +ĠPL A +br aco +.set PositiveButton +Ġp du +Ġg si +ĠC li +_gr adients +Ñı д +ĠWh isper +c stdint +Ġl äng +Ġform ulations +én om +ourn emouth +[$ _ +Ġordin arily +.set Username +Ġfacult ies +MIT TED +/ values +Ġwe ir +ĠA pt +M Z +ĉc f +uck en +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉĉĉĉĉĉĉ +def ense +[i Var +ĠBusiness Exception +Select ors +(co ordinates +ĠRes ets +ĠDr inks +ole ans +(st ypy +_IO C +.x xx +ĠSl ater +ĠBel ize +Ġ/ ************************************************************************ +add in +_ep isodes +Ġis chem +legal ArgumentException +D anny +Ġp ared +.code haus +ĠAss y +ĉ Rect +â ŀ +.list a +Ġв аÑĪ +Ġv ets +HW ND +ison er +Ġx o +Ġor ally +ĠSt mt +.r nn +ĠD PI +ĠStr ikes +.setViewport View +Ġèĩª åĬ¨çĶŁæĪIJ +Y ELLOW +GL enum +part ners +ĠImp licit +Ġtak o +âĢĻ elle +Ġerm ög +total Count +G il +ĉ work +Ġpr atic +in ati +ab ies +ĠSk inner +Ġspir ited +Ġpancre atic +Ġh df +' em +Ġpsych osis +olic it +Ġ" {" +_at ual +Ġé lect +TE AM +Ġd ak +ĠSW AT +.Fragment Manager +Ġprovision ing +l ifetime +_EXTENSION S +ĠC ASCADE +Ġ! [ +(K P +Ġv em +ĠInterr acial +'] },Ċ +sp acer +_k v +W arehouse +R DD +_f sm +.Stretch Image +, Yes +ĠRefuge e +ĠBr inging +Ġv álido +.inter section +Ġsp ooky +_port al +Ġmo th +ĠZ odiac +ĠSOC IAL +M imeType +'] }} +_Bl ue +Ġbot anical +Ġfr ags +Ġfamil ial +- du +Ġse izing +(block s +.r d +.check NotNull +Ġmis er +Ġmax x +ĠK nee +View Item +Inner HTML +D anger +(( __ +Ġprz ypad +create Url +** , +ĠDecor ating +ATEG Y +?> / +.Design er +hex digest +ĠEvery where +all eries +.TEXT URE +.Block s +z ell +Ġpre ço +S uddenly +input Email +(s ync +.b d +gold en +> '); +ĠDick inson +>> (Ċ +ĠQUE UE +Ġget Column +ĠS AND +.p iece +lic er +Fl utter +Ġget Version +Ġresource Id +og l +ÅĤ aw +.Br anch +ĉ web +Ġfr amerate +PP P +Ġfr ay +C NT +Ġinformat ie +'] čĊčĊ +ne as +Header Code +Ġæ ¸ +Ġtr g +raw types +H onda +Ġmark eter +Ġrequest Data +ĠP g +ĉ not +Ġpage Info +Ġakt uellen +ãģķ ãĤĵ +ĠA MS +push ViewController +ĉ AL +Ġv ests +produ ce +-m ême +ĠRah man +F unny +E Z +_ Valid +Ġsquad ron +Ġl ash +Ġ irm +ias co +ĠPar an +Ġpet ites +ĠDec ay +Ġun initialized +priv ileged +Ġm bedtls +å¤ĩ 注 +Ġ^ . +Ġec static +D etroit +Ġpart en +Ġsou venir +.get Login +моÑĤ ÑĢ +en ção +ĠmÃŃn imo +ĠAccess ed +ri ó +M ic +ĠV ocal +.Set String +Ġmens ajes +åĢ į +Ġattr avers +ĠA ph +Ġ' );čĊ +ünd e +Ġench anted +ĠRoot State +ĠCLOSE D +ĉĉĉĉĉĉĉĉ čĊ +Ġcal iente +or ris +Ġphysic ists +h wnd +_v i +Ġráp ido +Ġcapital ized +ed By +Ġmach ining +Ġhub by +ĠSt acy +.B us +dr ink +H ur +Ġprop ia +Unit Test +Ġmiscon ception +__ ));Ċ +/d c +ĠMay weather +_m C +.create From +ĠQ Painter +rops ych +inn itus +ay as +Ġg eg +(d w +Ġus ado +Ġtrick le +Ġann ihil +ĠP asta +Ġ++ Ċ +(Expected Conditions +.post Value +ic ap +ĠDon etsk +_s oup +-p ublish +ĠP b +ment ions +AC CEPT +.P ull +,âĢĻ âĢĻ +Ġret arded +_AT OM +ĠTermin ator +-c ourt +ĠCLLocation Coordinate +Ġrever ence +ĠS SC +ut ely +ĠW ON +ĠG SL +fre i +.get Longitude +Ġopen FileDialog +.B utter +- important +_M ANY +ĠG ong +âĢľ How +Ġg orge += msg +ĠEz ek +create Command +: checked +Ġinf ographic +.W EST +Dir s +Ġguard a +Ġbeet le +< small +- android +Ġcred itor +ĠM éd +Ġfinal ist +Ġab l +ne v +_inter action +ĠMonter ey +j ah +Ġcand ies +ĠQu incy +èª Ń +Ġbatch Size +ak it +Ġo be +(p ara +Ġexperiment ed +Ġcouncill ors +Ġcl ashed +s qu +-st rokes +ĠG K +ĠEx pires +Ġprosec utions +ĠCreat ures +Ġy ö +x lim +_IM P +Entry Point +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +.Default CellStyle +Ġbre ve +ĠBrit ann +Ġsweat y +Ġle th +Ġflash back +per manent +ĠJ DK +_D etails +E uro +p pt +Ġrich TextBox +/ board +Ġtr ance +.c ycle +'); ");Ċ +Ġtox in +_de init +Ġover arching +Ġconfig parser +ĠKaw asaki +.th umb +Ġplay a +ĠJose f ++ _ +Ġzero es +Ġa up +ĠH ari +comm itted +N it +.file Path +ĠDis abilities +man ufact +-al igned +.RE SET +Ġrust y +E y +Ġou sted +cos a +Struct ured +.get D +Ġs ábado +> Loading +_m A +.get Random +bl ings +Ġchees es +tt i +. âĢ¢ +ĠBurg ess +ender it +. ',čĊ +(" "+ +ac b +% p +index ed +_pred icate +nes ia +Ġb ied +ĠC IT +( Pos +_r adi +ä»· æł¼ +B iz +ĠAdoles cent +Ġvi ên +c ycl +_C ancel +Ġcon clusive +Ġappell ate +inform atics +S J +Ġelect ive +role Id +Fetch er +ĉ Command +(" (% +Ġf art +IL A +get Block +A USE +Ġд ан +ĠAr te +Ġnot ifying +Ġge le +.s ame +ĠReg el +ĠBa ÅŁ +.c reation +ĠV N +_comm unity +Ġuns ustainable +SE X +Ġgrid Size +res cia +avers able +(', ')[ +ĠPh elps +á»ķ i +ANCE LED +- IS +.run ners +ĠSt okes +.P rodu +Ġwh ipping +_ac quire +Ġinvestig ación +f ried +.copy With +ĠHard cover +- Se +áŀ¶ áŀ +inv itation +les ai +ĠD orm +ĠÑģпиÑģ ка +Ġconcaten ated +oph il +Ġthink er +/font awesome +ĠLe opard +Ġ"/ ");Ċ +Ġresidual s +ĠMic rowave +Ġconform e +th rop +Ġdis emb +ĠO MG +ĠDisc ipline +ĠAc robat +/re pository +df a +_M ED +buf io +Ġméth ode +_H OLD +ias i +_ legacy +) ččĊ +æ£ Ģ +Get ProcAddress +Ġy ay +ot ence +order id +-t w +Ġdear ly +In coming +/ il +Ġneu rop +uc z +); čččĊ +ĠInnov ative +Ġprof und +ig mat +Selection Mode +re levant +.G O +Ġbru ises +Ġs ach +ode f +Ġre imb +/d esktop +-s pot +und ance +Ent ropy +\ core +Ġsug er +ĠM vc +ĠGN OME +_ind x +ĠYY STYPE +ĠMat lab +ĠC IF +Ġ* )) +Ġproduct List +ĠAl right +ac emark +ÑĤи в +mod ification +int ernational +Ġhom ers +Ġdict s +ĠQ Font +.SQL ite +Ġtransplant ation +ĠMessageBox Button +ĠEl ves +'] ])Ċ +(Q Icon +Ġcin emas +CO ORD +- China +Ġkh ẩu +æĪij çļĦ +Ġskull s +Ġpain staking +f ce +.XR Label +Ġspec ifier +Ġpref erring +/ activity +( Photo +á lt +.l ot +' '. +ann once +.google code +-p df +ĠP oke +_A CL +Ġend owed +dis cover +.om g +Ġwood land +.M agic +Ġvol ont +Not Allowed +Ġch ave +BM W +',' =', +ĠS IX +æĪij 们 +Ġkos her +Ġaspir ation +int l +_ref ptr +'+ Ċ +ment or +.cl ub +Window State +.A RR +Ġz za +Ġmessage Type +.e qu +Th or +Ġin just +Ġg ums +Ġborder Side +//// / +ĠTrans mit +Ġbuf size +Ġh ak +Ġell as +R ANDOM +ĉm c +Ġpe a +ek o +document o +Ġhyster ia +Ġaren as +Ġgun men +Ġm ike +Ġimp unity +atis ation +_Z ero +_COMP ANY +ĠG ors +Ġuse Class +( redis +ĠRUN NING +ĠB air +vel te +Ġ',' . +аÑĤÑĮ ÑģÑı +ö st +encode URIComponent +_re strict +Ġdec als +ĠPed ido +Ġalter cation +Dis plays +ĠApp licants +C US +Text area +ĠAng ola +.f uture +ĠUS HORT +Ġsuppress ing +Ġset zen +AP olynomial +Ġto ch +Ġhall mark +Ġ$ $$ +ĠCHAR SET +.r pm +ĠD ich +---------------- ---- +_p arm +è¿ ĺ +acc iones +h ait +WAR DED +_r outing +ĠN OM +Ġen clave +ĠLot to +ĉf r +complex Content +ĠBall ard +k ube +/w in +.getColumn Model +_RE PLACE +Header Value +Ġest udiantes +Ġap is +Ġb pm +ĠType Name +And Get +rit a +Pl ans +> Note +Ġfet isch +Ġton ed +_g oto +ons ense +Ġm olds +Ġinfiltr ation +ĠGuerr ero +ub bo +ck i +($ (". +_ activities +(ch anges +Ġof App +ĠKe pler +ĠD emp +ĠCont inent +.T icks +ĠUn signed +ĠJah res +Ġfresh men +ĠArch ived +ĠкоÑĤоÑĢ Ñĭй +Ġ' :: +T utorial +C c +Ġtable LayoutPanel +from Json +.level s +_trans ient +Ġendors ing +ĠD IC +la uf +Ġsh red +_E MIT +ific antly +AL A +/ proto +Ġnarrow ing +U tc +Fact ors +Ġsent ient +æŀ IJ +lix ir +ĠC ROSS +met eor +Ġgro in +Ġm db +ĠRot terdam +Ġcom ida +ĠOp Code +ĠDefault Value +Permissions Result +Ġheter ogeneous +Ġm oot +Ġde ceived +-in dependent +ĠObject OutputStream +Ġover power +.d up +Ġl db +Ġdomest ically +Ġbest ellen +Ġlo v +ĠContract ors +Tri angles +Ġfod der +Ġfilm es +ä¼ ģ +Ġrev olver +Startup Script +/ validation +ĠResource Type +i ÅŁ +ĠL az +f ef +Ġlst m +{ * +. attachment +.h its +ew ith +DO G +Al abama +Ġmedium s +.m Context +-c ols +åı ĭ +.not ice +Ġat tn +ĠP acking +ĠL n +_COM PLEX +/ Users +.sav etxt +ĠR ounds +?,?, ?,?, +Ġing l +ĠR OC +_f emale +ĠSt ard +]] ; +Ġwrest lers +Ġtorrent s +Ġsin h + ĊĊ +ë³ µ +s ense +how ever +.Ph ysics +Inf rastructure +ĠSac r +F el +ĠD ISTRIBUT +é ments +ĠValid ates +################################################ ############ +Ġ| / +Ġes l +Ġré seau +ĠB ip +BY TES +_W ATER +Turn ing +EL S +Ġj uxtap +Ġlesb ische +ý ch +( Unknown +Ne o +@ JsonProperty +Ġal umnos +ĠRaq qa +ime i +.get Bounds +.Mouse EventHandler +#### ### +Generic Type +/c ms +Ġturn o +Ġм ин +Ġfolk lore +ĠE vo +Ġconduct ivity +Ġle ben +Ġgear box +-v s +ĠÏ Ĩ +Ġdrink ers +Ġcon exao +ĠTe eth +Ġget Arguments +ĠR AT +ent ious +E duc ++ W +ĠInstitution al +ĠB ord +is Equal +(p wd +Ġign ited +ĠR ousse +Ġimpact ful +ĠM alk +Ġg eral +ĠP ivot +Ġa zt +Ġcsv file +ĠR ope +ĠSOL UTION +ĠArbit rary +Ġlet to +.Mouse Adapter +Ġ} }} +ĠSail or +der a +Put ting +Ġconcentr ates +Ġauth Domain +âĢĿ çļĦ +-f inals +, strlen +Mu on +ĠOrd inary +fire fox +ĠLa TeX +ĠH und +engine ering +/ blue +ed TextBox +(" "); +ĠC DDL +ke pt +ĠGet String +K ir +() =' +ĠO CD +ant ium +$ menu +ĠAppalach ian +Secret ary +ë¥ ĺ +ี ย +Sem antic +Ġ* [ +est one +ung kin +Max Y +-t one +"} ;čĊ +_P art +< Member +tr am +Ġtrans istor +Ġ---------------------------------------------------------------- ----------Ċ +ĠDes de +Ġright ful +ĠCorn el +æ ij +.H OUR +Ġsidel ined +ref errer +m aze +Ġhol ster +Ġcripp led +ĠDate Formatter +oph age +_m D +Ġdes elect +ra ud +ĠPK K +row Data +Ġlock smith +.res ponses +(product Id +_ST MT +Key Type +.Th en +z ee +Ġcr t +ĠGrand ma +@ Resource +Ġbit wise +-c mpr +ãĢĤ www +zeit ig +& display +Cart Item +- No +Ġnum éro +Ġm aur +Ġinst ancia +ĉd t +_n pc +Ġskate board +âĢľ All +ĠCrow d +Ġä n +Ġb raz +ca e +yn et +/p m +/s creen +OPT ARG +ĠV Box +Ġle opard +_g reater +c pt +< dd +Ġmechan ically +osp els +) f +.l wjgl +.get Port +ĠP REF +.Add Transient +pp ard +Ġí ļĮ +Ether net +Ġsal ine +(level s +Ġservice Provider +.A ngle +alt itude +illa ume +Ġs cape +_CAL C +_ quest +ĠDiss ertation +ĠE DM +-C ds +Ġhon orary +st ops +Ġsub dir +ĠV H +ĠChe at +Ġright fully +Q E +.Write Byte +fig ures +enn ie +( DBG +Ġvoks ne +Ġexp ended +UN ICATION +il inx +ĠRec ap +_ verts +Ġtra umat +Ġget Player +Ġverb ess +Ġcultiv ating +Ġiniti ator +Th ông +find First +_per ms +Ġbu c +Ġ""" čĊčĊ +T YPES +object Manager +(Configuration Manager +Ġtim id +Ġsnap chat +Ġcon seg +ĉd istance +_right s +_D es +ĠF lesh +- ver +Ġa fl +fra uen +Ġblas ph +ĠQual ität +ma f +Monitor ing +.D iff +Ġshore line +Ġresponse Body +mem set +< decimal +Smarty HeaderCode +Ġin sets +ĠBinary Tree +amed a +Ġn ihil +ĠN ay +ym ology +ĠW G +Ġt api +ĠInst alled +m aintenance +)} "Ċ +ĠX O +-per iod +s ar +Ġning una +ORM AT +.set PrototypeOf +ĠK b +ĠHen rik +ét ique +ĠLah ore +ĉ Address +Ġmel ts +N y +_adv ance +Ġveloc idad +Ġalum no +Ġsanit izer +Ġph ishing +ĠCom et +Ġch iar +ĉs pec +trim med +(state arr +on nen +Re venue +L ens +Ġcha ired +ĠAss umes +Tr ash +_un set +\ Bridge +Point Size +ĠPol ic +Ġsex uales +ĉd fs +ĠWide String +Ġaccru ed +Y W +_S CHEDULE +Ġk ite +Ġparach ute +[ table +Ġactive ClassName +.Qu ad +Israel i +ĠÅ ĵ +Ġho og +Ġch á»ī +ew ear +Ġtire lessly +set Error +.get Amount +.set Items +ĠM anson +ĠBay esian +_F lag +AC HER +/ original +Ġimm ac +ĠLos ing +' >ĊĊ +L ic +ĠMir age +ĠAssembly FileVersion +Te V +ĠValue EventListener +-s olving +Th o +rou lette +_W P +Ġunint errupted +Ġfield Type +.T yped +Ġam our +Ġmock ery +(v ol +ĠSub committee +ĠR uf +ero x +:UIButtonType Custom +ĠBl ur +Ġwy kon +nc es +ASH BOARD +!! ");Ċ +Ġmurder ers +.d aily +ĠDI AG +j ing +Ġdol phin +Ġl òng +Ġb ö +ĠV ocabulary +.St Object +') "> +Ġz un +Ġscrim mage +tr éal +ĠL ig +[ vi +C ole +Ġfrost ing +.Pl ayers +- translate +Fe els +=\" / +.Butter Knife +Ġ?> ;Ċ +Ġav i +inn ie +.F ailure +Ġsp indle +Configuration Exception +_h op +Ġpos ição +ĠA wait +UIImage PickerController +ĉ day +Ġgen om +C ab +ĠÑĢ ÐµÐ·ÑĥлÑĮÑĤаÑĤ +OR IGINAL +Ġejac ulation +(t cp +SE COND +Ġton ic +ĠList Box +Ġ ĉĉĊ +() >Ċ +Ġqu atre +ượ ng +with Errors +.M aybe +, â̦ +token Id +_UN DEF +Ġfresh ness +ĠAmend ments +.map box +.C V +(b log +_get time +. quest +s parse +Ġres ale +Ġenthusi astically +ĠProstit utas +W a +C argo +.Parcel able +SENS OR +ĠRy u +La ughs +_N ative +/ pg +yst s +Ġphot oc +ç® Ģ +ado pt +.spec ies +conc iliation +Adjust ed +.Firebase Auth +ut tle +ord ination +Ġm unch +ĠSt ake +.p ing +ank er +(QString Literal +Ġsub script +ĠĠ ĉĊ +ĠM CC +_C md +se xy +i ou +ĠM ANY +Ġn anny +TR AIN +Ġflour ishing +ĠW atches +ĠQ Map +ĠF erm +Ġwas m +ĠA bed +_ UD +ĠGlass es ++ v +Att end +.Ch ain +Ġdec ency +ĠSupplement ary +h unter +-t xt +Ġ" }";Ċ +.set WindowTitle +(" +Ġmasc ara +( Profile +åĬŁ èĥ½ +imit é +Ġwild fires +- ROM +.is On +(group Id +Re pair +accum ulate +Ġ< ", +Ġhand written +Ġach eter +ĠM GM +ĠIr ma +->{ _ +ge e +cr iminal +Ġèĭ¥ è¦ģ +Ġmoment arily +") != +_l it +Ġexpires In +." ). +éķ¿ åº¦ +Ġfr ække +vl c +Ġor bs +), $ +Ġvent ured +/ >\ +char m +N uitka +eld ig +aton in +W itness +-l at +Ġset Hidden +Ġrelic s +Ġcons ulate +. IGNORE +" After +Ġset Address +Ġbeste ht +Ġ'' )ĊĊ +.x axis +Ġser ão +Ġmis led +_UN IFORM +ĠV IA +inc r +Ġzen ith +Ġvis cosity +Ġthin ly +.get SharedPreferences +.Error Code +"), " +ĠMillion en +Ġ/> )Ċ +Scroll Indicator +-se eking +ĠPOLIT ICO +as ca +_r l +N avig +(full file +Ġsol itude +Ġju ven +Ġhaul ing +ĠMac ros +ĠG ry +Ġexerc itation +ĠATT ACK +Tick Count +Ġr ites +Ġdo e +Particle System +Ġsl u +Window Text +ĠClass Name +Ġsl ander +ĉ Port +j ong +? a +.D ial +âĢĶ at +$obj PHPExcel +Ġso ar +EN N +appe ared +Ġquot id +em achine +Ġn ip +Ġmicro time +ĠAl ma +; ! +---------------------------------------------------------------- -------------------------------- +ĠPass age +Ġdump sters +ĠEx clude +Ġsuggest ive +ĠCircularProgress Indicator +_cl r +Array Type +ILL A +Elapsed Time +Dr iven +Ġresource Name +ĠG arrison +ser ir +-a head +Ġp innacle +ĠEs presso +S parse +Ġass ays +ĠGirl friend +im id +]=' \ +ONGL ONG +Ġportray ing +L ane +Ġb úsqueda +Ġrein forcements +ĠSpread sheet +ĠArray Collection +, arr +light box +ic ana +< " +build ers +K id +ĠMat SnackBar +EX PR +od cast +ĠFound ations +Ġind s +=' ${ +F izz +-function al +(work space +Ġstem med +_p atches +ĠJar vis +READ ING +Ġdisrespect ful +ĠQ Dom +Ġ$ {Ċ +est atus +Re ached +! .ĊĊ +IL T +ĠN DEBUG +ĠCour age +birth date +ĠT ing +Ġutil izado +án chez +Out door +Ġhand guns +Ref Count +É Ļ +rom o +Ġt ts +.S he +ĠP ane +ãĢij, ãĢIJ +ĠIO CTL +/ black +ins cription +Ġbi opsy +ĠTime Interval +.Test Check +ĠGUI Style +ĠCap ability +ĠBeit rag +don nees +T reatment +.back up +Ġsign ings +ĠB oca +dr m +.M AIN +Ġgo ede +ĠMark up +G REE +ĠBase Service +.C reator +Ġj ails +ĠK ahn +Ip Address +ACH I +Ġinhib ited +Ġ@ $_ +ĠAss ass +Ġenvi ado +Hero es +ÐŁ еÑĢ +ĠM aven +.l s +Ġ ive +| RF +Ġresize Mode +Ġrum pe +_attach ments +T U +Ġtact ile +Attempt ing +Ġro bin +y aw +Ġmerc enaries +ĠHab itat +end date +Ġo xy +ĉR andom +oh on +Is Null +ĠValidation Result +ãĥ ļ +um bed +pp v +Ġar p +ich ick +_r nn +ĠT FT +Tex Image +" On +ĠSam pler +top l +Ġj ane +y ling +ĠUN ICODE +Tab Index +< {Ċ +s uspend +uv ian +, application +ол иÑĩеÑģÑĤво +y at +ez ier +ĠCH UNK +ĠAd ler +/ Add +ĠKey Value +Ġspos ób +Sam pling +ch ers +_AM D +R u +.Must Compile +N ation +Ass oc +Man aging +ĠEng l +_G B +Ġsucc inct +Ġdis liked +ĠI ke +Bullet in +_ARCH IVE +Prop osal +Ġjog ging +.C REATED +Ġch ol +è£ ħ +Į ¨ +-p ush +Ġreserv a +core v +è tre +TH R +Ġincompet ence +Ġchar isma +æĦ Ł +Ġ" == +BT N +ĠLoc ator +iv et +('. ')Ċ +Ġfor IndexPath +ô me +Ġcapac it +w aters +ĠWR ONG +ho a +ĠM IPS +Ġem iss +ĠJacqu eline +(c mp +Ġe ens +Le o +.tim ing +CLUS ION +Ġ(" - +åĵ Ī +.k ode +ĠUnd ert +Ġbew ild +ĠEss en +.h d +Ġren egot +Ġm ower +Ġl sp +Ġpen chant +Ġman oe +Ġag li +Ġrec al +ĠOPER ATION +(^ )( +ĠÎ ½ +ĠSc oped +Ġ@ "Ċ += label +[ loc +Int l +ĠN z +table t +.Column Name +Ġscreen Size +DB us +co oked +- registration +âĢľ One +-n on +ĠwiÄĻ c +Ġcost a +.add Tab +. conditions +ĠH ess +MEM ORY +ĠAval anche +() }}Ċ +Ġtri plet +Ġl abyrinth +ĠNode List +ĠNY T +Ġy eni +d ff +.Html Controls +AV IS +/ Math +Ġmem cmp +Ø§Ø ¡ +оÑģ ÑĮ +c rap +(p ages +Ġl xml +ĠQ DateTime +_t cb +Ġopen id +Ġsyn aptic +ĠMD MA +(s lug +igm atic +en or +Ġcr amped +G OP +Ń IJ +.is File +ĠD ifferential +Ġ=" ";Ċ +ĉĉĉ ĠĠĠĠĉ +ĠC ooke +ĉU FUNCTION +Ġpersever ance +Relative Layout +IMPORT ANT +Ġex on +Ġо н +ib ase +(C ONT +n ovation +ä½ ķ +[ sub +Admin Controller +HTTP Header +cre ar +ĠN IR +ĠDrop DownList +Ġval ide +Ġde hydration +. '] +(W IN +Ġ... \ +Ġphotos hop +ĉ Init +_c ou +Ġtime Zone +dar win +rom atic +Navigation ItemSelectedListener +br ates +] --;Ċ +Ġtraged ies +ĠPed iatrics +SM ART +-A PI +ĠMessage Lookup +ĉ vo +Ġprejud ices +Ġm A +U ps +ĠMISS ING +ĉ ad +C ream +ĠT b +ĠMon a +_ ghost +ĉt ypes +Em b +ĠDocument ary +');ĊĊ ĊĊ +Ġl up +_ Reference +ĠB ATCH +Ġintertw ined +< Cell +ĠCab r +n ation +Ġis Connected +.remove Listener +Ġcon g +_t i +ĠSil icone +Ġê²° ê³¼ +ĠW AN +ĠG ibraltar +/ response +ĉp erson +ch ants +V IP +em ergency +Pixel Format +- Am +Ġsouth western +_pl l +if ers +_ON CE +ĠF ayette +.nc bi +_P anel +.Q ual +Ġpol ys +Ġcreate StackNavigator +� t +Ġlay offs +ĠBl anco +Fe at +ĠV imeo +_ch i +_l ifetime +POINT S +, private +Ġunb earable +print ing +Ġc gi +.B ACK +Ġintern s +ĠNew ly +inf eld +( IB +ĠK ata +ĠDef endants +Th r +é¢ Ħ +_V F +FFFF FFFF +Ġdavid jl +Ġbitter ly +S uggestions +.set Cancelable +FIN AL +ason s +_rw lock +_WRAP PER +Ġhapp iest +(row Index +ós ito +TOT YPE +Autom ation +Log File +Ġcons olation +ãĥ Ģ +Ġt êm +Ġpr er +rg yz +ĠG eg +ĉd to +.default Value +ĠK ami +ĠA SE +optim ized +Ġíı ¬ +Ġorigin ates +err Msg +Ġespa ço +(S YS +ĠMc B +d ance +_det ected +Ġfr ü +ĉĉ ĠĠĠĠĉĉ +< Date +(com b +ĠDec ide +\ Field +ĠProp osed +R ib +Ġdis likes +ĠW ien +ĉ Document +Ġtr af +Ġst oria +ĠT ells +') == +C ri +( VALUE +ĠBurn ett +, void +Ġdan h +Ġc cp +Block chain +:"- "`Ċ +IC lient +IS ODE +Iss uer +) }čĊ +, but +ĠU ph +( Sub +Ġtélé phone +ĠonData Change +Ġmarsh aller +-an alytics +, content +Ġdeb acle +_Value Changed +Ġfa una +Ġ# => +Ġf oyer +'util isation +ĠMü ller +ĠFet ish +Ġdefault Manager +Ġback track +B ah +Exp licit +_A SCII +Ġm Activity +(M sg +Ġê² Į +ĠTER MS +ĠAng ie +HS V +ĠMos que +.N ames +íĬ ¼ +rest e +_p arms +Ġgap ing +Ġcro pping +Data Frame +Ġrespons iveness +_ undo +_tr an +. terminate +Ġitalian e +Ġwalk through +Ġattract iveness +д е +_ST S +_ learn +Ġchocol ates +ier archical +-th inking +Ġ ))) +ish ments +.Log f +ĠTM Z +ĠCan ary +fo il +ĠVacc ine +.v x +ĠSur round +Inter mediate +Ġi ov +v ais +'; ";Ċ +ï½ŀ ĊĊ +éĢģ æĸĻ +â̦ it +Se ats +Cl ar +W ars +ĠHutch inson +ĠHas an +! ')ĊĊ +ĠRich ie +che iden +($ (' +Y ork +Ġl ids +Ġal phanumeric +ĠG lock +.sh apes +Ġspark ing +_ epsilon +uplic ated +.dir ty +]) == +ĠìľĦ ì¹ĺ +Ġsc n +Ġ/ **************************************************************** +_PRE VIEW +_H C +ield ing +f gets +ĠAdd ison +Ġproduct Service +- figure +(ret val +z ano +Ġaut ob +ĉs d +_n umer +ĠSet LastError +ĠF ior +ific ance +Unt itled +Ġin field +Ġ{} ));Ċ +Ġsp ac +Ġro okies +(des cribing +ng en +ி à® +.r df +.M utex +Ġkne eling +ĠQ E +set Max +Read Stream +Ġvent as +s ut +cm peq +.WriteAll Text +ĠEx perienced +$ __ +Ġka um +ĠL IS +Ġdocument os +_HE ALTH +icont ains +Ġart isans +OWN ER +Ġblink ed +get Display +Ġto en +Ġrow Num +Ġav ril +Ġinv is +ĠK ear +toBe InTheDocument +ap ur +Ġr acked +ĠMc Master +_ATTR IB +H az +Ġfact ura +/ ts +ĠÑĢаз меÑĢ +Ġz f +Ġshort fall +.f asta +ĠCONST ANT +.man aged +g ems +Shared Pointer +Ġblur ry +b rightness +( components +Ġ... "ĊĊ +SE LL +ĠIllustr ator +.get Channel +Ġtrou vé +yst ers +Ġvo is +ĠLind en +Ġem ojis +Ġb rawl +ĠMS R +ĠE lo +ĠCroat ian +Popup Menu +L ewis +.J WT +Ġaston ished +B ush +(item Id +Ġdet achment +ĠEnc ore +å° Ķ +Ġre kl +Ġcr am +)$ / +.get Host +_re commend +- HT +_cal ibration +Auth enticate +.firebase app +UN IX +ĉC amera +ĠHE AP +I deal +. office +Ġgoof y +(S ymbol +Ġjou er +_part itions +Ġrapid ement +ĠGN UNET +id User +Ġsuperv ise +( Contact +AW N +ãģ ĺ +Ġna am +Ġa ust +åľ¨ 线 +_soft max +Allow Anonymous +amm able +RO UTE +* D +Ġad en +ĠCrist ina +ĠCrist iano +Ġblood stream +sub class +_person a +CH ILD +-k now +Ġnavigation Options +ĠZuk unft +ĠPix ar +Ty ler +Ġunder world +Ġsincer ity +Ġdispens er +Ġk ter +idd ers +.add Node +- checked +Ġke yst +ĠW TO +.sign als +Ġadvent urer +ĠP ang +\ R += pos +Ġdispens aries +ĠClo set +("{ \" +ide on +Ġnécess aire +() "Ċ +_RECE IVED +Ġrésult ats +Ġmod en +ĠIceland ic +; d +. allowed +(new User +Ġmerc iless +.Wait For +Ġday care +ĠCon veyor +ç ĸ +ð ¬ +ç ĥ +ç Ĺ +ç ł +è Ħ +é ² +å ¦ +çĿ Ģ +å¾ Ī +é ħ +ç ĭ +é ª +æ Ĥ +é ¥ +è ħ +æĥ ³ +å ¨ +é ¹ +ç Ĥ +å Ĵ +ç Į +è´ ¨ +æ ¢ +æ° Ķ +ð « +æķ Ļ +ç Ł +å Ħ +åıij å±ķ +åĪ Ľ +è ij +æ ħ +å ŀ +åģ ļ +æĪ ĺ +æ IJ +å¼ º +æ· ± +åĩ ł +ç ¿ +å © +è ŀ +å§ Ķ +åIJ Ħ +è İ +é ¸ +é º +åı Ĺ +èģ Į +å ĺ +æ ½ +é£ İ +èIJ ¥ +åħ ļ +è ľ +éĤ £ +é¢ Ĩ +ç ij +é ³ +æľ ¯ +ä» Ģ +æĪ ¿ +ç² ¾ +å ª +é Ĩ +å¤ ª +èĤ ¡ +è Ľ +åħ ī +æŀ ģ +åĬ ŀ +è ĵ +ç ĺ +å ´ +å Ĺ +èĬ ± +çł Ķ +å¿ « +å¸ Ī +è¶ Ĭ +è§ Ĥ +æ ¤ +æ ¦ +ç ŀ +èĤ ² +çĪ ± +çĻ ½ +ä¸ ĸ +ä»Ģ ä¹Ī +çľ ¼ +å ³ +è Ĵ +æ ĵ +è¢ « +å¹ ² +çĹ ħ +å£ « +ç Ĵ +è ¸ +æ ¾ +å·¥ ä½ľ +è® © +çĥ Ń +è¾ ĥ +åĦ ¿ +åĬ © +ç§ ¯ +ç ³ +ç ĵ +ç £ +å Ĥ +è ¹ +è ļ +å· ± +çĻ ¾ +åĬ ¿ +èµ Ľ +æ ¨ +æ ¿ +è ĸ +æĿ ij +å¸ ¦ +å¢ ĥ +æĬ ¤ +é Ń +å « +èĩª å·± +æµ İ +ä½ İ +åĮ » +éĺ ² +åĨ ľ +è Ĩ +ç Ĩ +é « +åĨ Ľ +æĪ ı +åį ĩ +æĸ ¯ +ä½ ı +èIJ ½ +åħ » +èĩ ´ +ç Ĭ +ç ĩ +ç ħ +è Ķ +ä¼ģ ä¸ļ +åĽ ¢ +æī į +æł ¡ +åĩ Ĩ +å¥ ĩ +åī ¯ +é ¼ +æ¼ Ķ +é© ¬ +èµ ° +ç¥ ŀ +åħ ĭ +æľ Ľ +æ² ¹ +è¾ ¹ +åį ĥ +å¾ Ģ +åĪ ĩ +æ © +ç ¶ +å Ļ +éĻ ħ +çī Į +社 ä¼ļ +游 æĪı +æĸ ½ +ç ħ§ +æİ § +æ» ¡ +è¯ Ĩ +éĩį è¦ģ +è¶ ³ +çķ Ļ +ç» Ĩ +åį ı +éĢ Ĥ +æ ĩ +æ § +é Ħ +è Ŀ +å¸Ĥ åľº +ç»ı æµİ +ä¹ ł +æĸĩ åĮĸ +éļ ¾ +ä¹ IJ +åĨ ³ +æ¬ ¢ +è§ ī +åĽ Ń +åħ ´ +åħ ħ +ä¸ ¾ +æī ¹ +è ķ +æĬ Ĭ +æĬĢ æľ¯ +ç© ¶ +第 ä¸Ģ +ä¾ ¿ +åĵ į +çİ © +åĿ ļ +èŀ į +åį Ĭ +åĸ ľ +å± Ĥ +ç¦ » +ä» ħ +é Ł +åij ³ +å¿ µ +åŃ £ +ç´ § +ä¹ ħ +é ¤ +é ŀ +è ¤ +åĢ Ļ +åĨ µ +ç Ł³ +åģ ¥ +æĢ İ +å® Ŀ +è¡ Ģ +åŁ Ł +æĹ © +çŁ¥ éģĵ +è´ Ł +åį ļ +å· ´ +äº ² +å± ŀ +ä¸ ¥ +äº ī +å¯ Ł +è º +ç ° +建 设 +产 ä¸ļ +åIJ ĥ +åŃ © +æĹ ħ +æł ¹ +æĿ IJ +ä¼ Ĺ +éļ ı +å® ĺ +åº ķ +å½ © +å¯ Į +æ¸ © +åį « +åī § +çĽ Ĭ +æĬ Ĺ +è´ ¢ +çº ª +æ Ĩ +çĶŁ æ´» +çº ¢ +çĶŁ 产 +è¿ ľ +éĴ ± +åĶ ® +ç¾ ¤ +çı Ń +æ¥ ¼ +éĩ ĩ +èī º +å± ħ +åģ ĩ +è° Ī +æĻ ļ +é ¬ +èĪ ª +å® ³ +è Ĺ +ç į +å µ +çİ ĭ +åº · +è İ· +ç» Ń +äº ļ +é£ Ł +åİ ĭ +æĭ Ľ +èĮ ĥ +è® ¸ +åĽ ´ +é ½ +éĻ į +çº ³ +åĵ ª +æķĻ èĤ² +å·² ç»ı +å¾ · +æŀ Ĺ +å®ī åħ¨ +é¾ Ļ +大 å®¶ +éĿ Ĵ +åº ľ +æ² ³ +åı ¤ +èį ¯ +åĿ ĩ +æĻ º +ä¹ ¡ +çķ ¥ +åĨ · +ç¦ ı +å® ¤ +ç» ´ +æī ¿ +å± Ĭ +è¯ ī +åĪ » +è Ł +æ ª +å°± æĺ¯ +è¿Ļ 个 +ä¸Ń å¿ĥ +ä¸ĸ çķĮ +åŁİ å¸Ĥ +éĿŀ 常 +åĪ Ĵ +åı Į +æĢİ ä¹Ī +åΰ äºĨ +æľ ĥ +åı ² +ä¾ Ĩ +å¾ ĭ +å¥ ĸ +ç» Ī +åª Ĵ +å® ģ +è¯ ¾ +èģĮ ä¸ļ +åħ į +æµ ĭ +æĢ ¥ +æķ ij +çĭ ¬ +èŃ ¦ +é¤ IJ +æĦ ¿ +è´ « +çĸ ij +å ļ +å¥ ¹ +åı Ī +åĽł 为 +ä¸į æĺ¯ +å¤ Ł +æĸ¹ éĿ¢ +éķ ĩ +äº Ĵ +éħ Ĵ +è® ² +çĸ Ĺ +æĺ ¥ +æ¹ ĸ +å¤ ľ +è´£ ä»» +人 æ°ij +åħ ° +çŁ Ń +æķ ħ +åĩ ı +æĻ ® +äº ® +ä¾ Ŀ +åį ° +éĿ Ļ +åĢ ĭ +å¾ ģ +åIJ ¸ +ç¼ º +æĶ » +åĩ Ģ +åħ ¸ +åĽ º +è® ¿ +ç ¹ +ç Ģ +æıIJ ä¾Ľ +ç» ĩ +å¾Ī å¤ļ +çłĶ ç©¶ +è· Ł +主 è¦ģ +æĥħ åĨµ +çŃ ĸ +æŃ » +大 åѦ +æĶ¿ åºľ +å½± åĵį +ä¹ ° +åħ Ń +éĻ © +åħ « +æŁ IJ +è´¨ éĩı +åį ł +å· ® +æĽ´ å¤ļ +æľ ĭ +éĿ © +å® £ +çł ´ +è½ » +åº § +æĺ ¾ +ç¨ ³ +è´ µ +èĥ Į +èī ¯ +çĸ « +æ¯ Ĵ +ä¹ İ +åĢ Ł +è¿ · +çŃ Ķ +æ¿ Ģ +åij ¼ +äºĨ ä¸Ģ +è¶ £ +ä¼ ´ +ä¼ Ļ +è ¼ +ð¬ Ń +åĽ½ å®¶ +æ´» åĬ¨ +çݰ åľ¨ +ç§ij æĬĢ +åį ¡ +ä¸į åIJĮ +个 人 +è®° èĢħ +ä¸į æĸŃ +éĹ » +ä¹ Ŀ +èij Ĺ +ç» ¼ +ä¸ ĥ +æł ij +æľĭ åıĭ +åį ĸ +ä¼ ¤ +æ² Ļ +åĸ Ħ +å¥ Ĺ +è½ ® +ç© ¿ +è¡ ¥ +ä¸Ģ å®ļ +çª ģ +çĿ £ +è¿ ½ +å¨ ģ +åı ¦ +åĽ ° +æŀ ¶ +ç» Ŀ +æķ £ +æİ ¢ +æ´ Ĺ +ä¸ ´ +ä¼ ¼ +è´ ¸ +ä¸ ° +æĺ¯ ä¸Ģ +ç« ŀ +è¿ İ +èģ ļ +è « +æį Ł +æī § +é© ¾ +è¿ Ŀ +è ¥ +è ł +ä»ĸ 们 +æĹ¶ åĢĻ +å® ĥ +人 åijĺ +è¿Ļ æł· +å·¥ ç¨ĭ +åĪĽ æĸ° +åŃ© åŃIJ +å¸ Į +éĥ¨ åĪĨ +éĵ ¶ +代 表 +é¦ Ļ +å¸ ® +æİ¨ è¿Ľ +çĽ ĺ +积 æŀģ +éĥ¨ éŨ +åŁ ¹ +æŃ ¦ +ä¸į ä¼ļ +çŃ ij +éĢ Ļ +çİ© å®¶ +æĭ ¿ +åİ Ĥ +æ¯ Ľ +çģ µ +æŃ Į +ç »¿ +å¦ Ī +çĽ Ľ +é¦ Ĩ +é¡ º +èĦ ¸ +å° ¼ +ä¸ ½ +å¥ ¥ +éģ ĩ +è¯ į +å° ģ +ä¸ Ŀ +好 çļĦ +æĭ ħ +èĦ ± +æģ ¶ +åİ ļ +åĬ ³ +çĽ Ł +æĬ ĺ +åı ¥ +æĢ Ģ +æŁ ĵ +书 è®° +åĨ ł +é² ľ +æ ¦Ĥ +éļ IJ +å¹ ħ +èµ ŀ +å¹ ķ +æ¥ Ń +éģ Ĺ +åĪ ¤ +è ĺ +å ¶ +æĬķ èµĦ +è¡Į ä¸ļ +äº ij +çݯ å¢ĥ +åѦ çĶŁ +åIJĪ ä½ľ +åģ¥ åº· +é£ ŀ +ä¸Ģ æŃ¥ +ä¸Ģ 缴 +åıij çĶŁ +éĺ ¿ +é¢Ĩ 导 +åĸľ 欢 +åºĶ 该 +çĤ º +è® Ń +æĿ Ģ +æ¸ ¯ +交 éĢļ +éĺ ¶ +éĴ ¢ +ä» ¤ +å° ½ +æ¯ į +è¡ £ +ç² ī +é¡ ¶ +ä¹Ł ä¸į +æĬ ĵ +èĭ ¦ +å¹ ¸ +ç¤ ¼ +第 ä¸ī +大 çļĦ +éģ İ +çĥ Ł +éģ ¿ +ä» į +åº Ĩ +æĢ ķ +è° ¢ +çĽ ĸ +å° Ħ +éľ ² +æĸ Ĺ +ç Ĭ¶ +åŃ ¸ +æ¯ ķ +å· ¨ +çŁ ¿ +çļ ĩ +å¸ Ń +çĹ ĩ +æī ¬ +å» ¶ +ä¾ § +æ· ¡ +çļĦ ä¸Ģ +ç¶ ² +æ´ ģ +ç ¸ +è§ Ī +çŃ ¹ +ç§ ĺ +è¯ Ĭ +çı ¾ +èª ī +æ¯ « +ð ¨ +åį ´ +æĪIJ 为 +èĥ½ åĬĽ +é» Ħ +æĹħ 游 +èĪ ¬ +æ¯Ķ è¾ĥ +èµ· æĿ¥ +äºĨ è§£ +èĩª çĦ¶ +ä¸Ģ 次 +åŁº æľ¬ +æĽ ¾ +综 åIJĪ +èı ľ +è§ī å¾Ĺ +第 äºĮ +è· ij +æ³ ¢ +åĢ Ĵ +ç¡ Ģ +åħ µ +èį ī +çĶ ³ +çĶ ° +æĤ £ +è§Ħ å®ļ +èĥ ľ +èµĦ 产 +æ¢ ¦ +æľ Ŀ +è¿Ļ éĩĮ +å¤ « +æĮ ¥ +ä½ Ľ +å® Ī +éĽ ¶ +æĸ ¼ +ç¯ ĩ +å² Ľ +åĵ ¥ +éŃ Ķ +ä¸į åΰ +æī ĺ +åº Ĭ +æ¬ § +èį £ +æ± ĩ +æī © +åģ ı +å¢ Ļ +è® ¯ +å© ļ +æĥ ł +æ´ ĭ +å® ľ +æ¶ ¦ +æħ ¢ +éĢ ı +å® ½ +é¡ ¾ +ç´ ¯ +æ± ¡ +çĪ Ĩ +ç§ Ł +æĥ Ĭ +æ¶ ¨ +é¥ ° +éĺ µ +é¥ ® +æļ ĸ +åº Ł +æĹ Ĺ +éļ Ķ +ç¶ ĵ +åĭ Ļ +å¯ ¦ +éĢ Ķ +æī « +çĥ Ī +éĽ » +åĪ ij +éĹ ľ +éĹ ª +å¥ ĭ +å Ĥ¨ +ç¼ © +ä¾ µ +å ¬ +𬠶 +åĽ½ éĻħ +ç»Ħ ç»ĩ +ä¸ĵ ä¸ļ +åıij çݰ +å¸Į æľĽ +ç»ı èIJ¥ +åı « +æĿ¥ 说 +éļ ľ +ä»» ä½ķ +交 æĺĵ +éĩį çĤ¹ +çļ ® +ç» į +æ´ ¾ +ç§ij åѦ +åºĶ ç͍ +建 çŃij +èĤ ī +æĶ¹ éĿ© +åŁº ç¡Ģ +æ± ī +åĩº æĿ¥ +è¿Ļ ä¹Ī +åĪ ļ +åĿ IJ +ä¸į ä»ħ +ä¼ļ è®® +éĿ ł +åªĴ ä½ĵ +æ° ¸ +åĨ ² +èĭ ı +å¤ ® +çĪ ¶ +åł Ĥ +å®ŀ éĻħ +è¡ Ĺ +ç« ¥ +éĺ ħ +äºĭ æĥħ +åİŁ åĽł +éħ ¸ +以 æĿ¥ +å¨ ± +å® « +åĿ Ĺ +ç» © +éĩ İ +ä¸į å¾Ĺ +ä¼ł å¥ĩ +ç¡ ¬ +åİ ħ +æĹ ¢ +ç» ĥ +èĦ ij +å¼ ± +æİ Į +è´ ´ +æĮ Ĥ +åħ³ éĶ® +å° ļ +é¥ Ń +åº Ħ +çĻ ¼ +åľ ĭ +æİ Ī +个 æľĪ +äº Ī +å¸ ģ +è· Ŀ +æ² ī +ç« Ł +åĨ ¬ +æĬ ½ +éĨ Ĵ +å¼ Ł +è§ ¦ +èģ ĺ +è± Ĩ +æļ ´ +åijĬ è¯ī +è± ª +èµ ¢ +è· ¨ +è³ ĩ +çĪ ¸ +æĬ ± +æµ ª +éº » +ä» ª +è¡ ¡ +å¥ ¶ +çģ ¾ +èµ ¶ +èĤ ¥ +å§ IJ +åĢ º +éľ ĩ +è® ¢ +æ¬ Ĭ +ç · +å» ī +ä¿ Ĺ +å¿ ĺ +å¦ ĩ +ç¼ ĵ +åŃ ķ +æ¼ « +è£ ģ +çĩ ĥ +é» ĺ +çī ¢ +çĪ · +æĬ µ +å® ¾ +æľī ä¸Ģ +è¿ ¹ +è¿ « +è² Į +æľī çļĦ +ð¬ ĺ +è¿ĺ æĺ¯ +æīĢ ä»¥ +ä¹Ł æĺ¯ +è¿Ļ äºĽ +对 äºİ +åIJ § +缮 åīį +èĩªå·± çļĦ +èĥ½ å¤Ł +å¦Ĥ ä½ķ +æľº æŀĦ +åıª æĺ¯ +ç½ij ç«Ļ +åħ¨ éĿ¢ +为 äºĨ +å¼Ģ åıij +æĸ° éĹ» +éĩij èŀį +ç» § +客 æĪ· +ä¸Ģ èµ· +èĮ ¶ +åħ³ 注 +æ°´ å¹³ +åİĨ åı² +å¢ŀ éķ¿ +é ± +åŁº éĩij +åº Ń +åı ¶ +ä¿ ĥ +éĽ ¨ +æ¶Ī è´¹ +èĪ ¹ +çŁ¥ è¯Ĩ +æĪĺ çķ¥ +ç»ı éªĮ +å³ ° +æĽ ² +èĦ ļ +åĨ ° +å¤ ı +å½ Ĵ +ç¬ Ķ +èĻ ij +çĶ ² +åľ Ī +è¯ Ĺ +é½ IJ +容 æĺĵ +çłĶ åıij +éª ¨ +çº ¸ +è· µ +æĹ § +çķ ¶ +åĪ ¸ +è´ · +åı ¬ +ç§ ĭ +æ¶ ² +è¡Į æĶ¿ +çĮ ® +èĤ ¤ +éĢ IJ +è¶Ĭ æĿ¥ +è¶ĬæĿ¥ è¶Ĭ +æĦı è§ģ +èĪ ŀ +åī Ĥ +æ¶ ī +ç¨ĭ 度 +åħ¬ åħ± +æ¢ ° +æľ « +çº ¯ +åĶ ± +æ´ ² +æĬ ¢ +æ¤ į +å¿ Ļ +ä¼ ° +å¼ ¹ +æ³ ī +æľĢ 大 +è¶ ĭ +å· § +ç¦ ģ +æī ¶ +åį ± +çı ł +çĨ Ł +æĭ ľ +主 ä¹ī +æĿ Ĥ +éĻ Ħ +éģ į +æIJ Ń +æĮ ¯ +å¤ļ å¹´ +æķ ¬ +æij Ħ +çº · +å¼ ĥ +æ¹ ¿ +å¨ ĺ +æ¡ £ +é© ¶ +æľ Ĺ +æ® ĸ +æ¦ ľ +åĵ ¡ +ä¸Ģ ä½ĵ +æŁ¥ çľĭ +ç¹ ģ +æµ ĵ +åħ¬ å®ī +æ½ ľ +è´ ¯ +éª Ĺ +æ IJľ +å· ¡ +è ¬ +é Ĭ +å§Ķ ä¼ļ +æĤ ł +åī © +æı Ń +åŃ£ 度 +ð «ĺ +𬠬 +ä ´ +ð ª +ä½Ĩ æĺ¯ +éĥ½ æĺ¯ +å¹³ åı° +åѦ ä¹ł +åĵģ çīĮ +ä¸ Ķ +è¿Ļ ç§į +æĶ¿ çŃĸ +æĭ ¬ +认 为 +ä¸Ģ èά +æłĩ åĩĨ +æĶ¯ æĮģ +模 å¼ı +åħ³ ç³» +çļĦ æĺ¯ +è¿Ļ ä¸Ģ +ä¸į è¦ģ +çĶ ļ +ç²¾ ç¥ŀ +æĭ ¥ +åĪ© ç͍ +ä¿Ŀ æĬ¤ +ä½ľ ç͍ +èĭ ¥ +åĽ½ åĨħ +ä»ĭ ç»į +ä¸Ģ ä¸ĭ +å·¥ ä¸ļ +缮 æłĩ +æľĢ åIJİ +ä»· å̼ +å° į +éĵ ģ +è° ģ +ç»ĵ æŀĦ +éĽ ª +æĻº èĥ½ +ä¼ł 绣 +ä½ĵ èĤ² +çĶŁ æĢģ +æĭ į +æİ ª +åĨľ ä¸ļ +çī¹ èī² +è§Ħ 模 +æĹ¶ 代 +è¿ĩ ç¨ĭ +éĴ Ī +æĿ ¾ +åĶ IJ +åĮ» çĸĹ +çģ ¯ +åζ éĢł +æł¸ å¿ĥ +ä¸į åı¯ +ç³» åĪĹ +åIJ ī +åľ £ +åĢ ij +ä½ ³ +æĿ¥ çľĭ +æ¯Ķ èµĽ +ä¸ĭ æĿ¥ +åĩº äºĨ +å¹² éĥ¨ +å¾® ä¿¡ +å½ĵ åľ° +åį · +åį« çĶŁ +ä¼ Ł +çĸ« æĥħ +è° · +åĩł 个 +éĺ ´ +çĶŁ çī© +å° ¤ +ä¼ Ĭ +èĤ ¯ +éĿ¢ 积 +åĪĽ éĢł +æı ¡ +åľ Ĩ +æĻ ĵ +æĪIJ äºĨ +åĩ ¡ +çĸ ¾ +ç«ŀ äºī +è® ¨ +主 é¢ĺ +é² ģ +è¿ ª +ä¿ Ħ +æĢ ª +ä¸ ¦ +èĻ ļ +æ½ ® +çĥ § +èĢ ³ +æ± ł +éĢĤ åIJĪ +æł¹ æľ¬ +åĬł 缣 +ç͵ è§Ĩ +æ· · +ç¼ ĺ +çª Ĺ +çĬ ¯ +æĥ ¯ +æĦı ä¹ī +åĬŀ æ³ķ +ä¼ ij +æ» ij +åĭ ĩ +æķ ¢ +å¯ » +è¦ Ĩ +éĢ ĥ +ç»ı çIJĨ +åĿ ı +æ³ ½ +ä¹ ĺ +åĪ º +å± ı +é¡ ¿ +äº ¡ +éĤ Ģ +åħ ¼ +åĭ ¤ +æ® ĭ +æĺ ł +æ¯ķ ä¸ļ +æĪ ª +è· Į +å£ ģ +åı¦ ä¸Ģ +羣 å®ŀ +ç£ ¨ +è¯ ļ +å¿ħ è¦ģ +æģ ĭ +æĩ Ĥ +å¾ Ĵ +è° ĵ +æķ ı +æ ύ +èĥ ¸ +æĭ ¼ +å¦ Ļ +è¯ ¸ +èģ Ĭ +æĤ ī +éº ¼ +åĩ Ń +èĪ Ĵ +æ¶ Ĥ +è¿ ģ +æ² ¿ +å¡ ij +æĽ ¿ +æ¾ ³ +å¿ į +èĢ Ĺ +éľ ¸ +åĩł å¹´ +åĪ Ĭ +èĦ ī +èħ IJ +æ¡ Į +çº ł +æ» ļ +æĤ ² +åĨ Ĵ +å¦ ¹ +çķ ħ +çº µ +æij ĩ +å¤ º +è·¯ ä¸Ĭ +å¿ ½ +èĸ ª +æģ IJ +æĦı æĢĿ +å« Į +æı ´ +æ° § +èĢ Ģ +éĺ » +è½ ¨ +å¹ » +æį ķ +åĿ ¦ +åĵĪ åĵĪ +çĭ IJ +æ» ¨ +è² » +è¿ Ł +人 éĥ½ +ç» ĺ +åı ¹ +çµ IJ +æī ° +æ» ĭ +å¥ ij +åĭ Ł +ç¢ º +ð ¦ +éĽĨ åĽ¢ +æĿ İ +å¼Ģ å±ķ +æıIJ åįĩ +åħ¨ åĽ½ +æ±½ 车 +åѦ æł¡ +æł¹ æį® +è¿Ļ æĺ¯ +åĩº çݰ +éĻ Ī +ç½ Ĺ +èİ· å¾Ĺ +åĪ ĺ +éĶĢ åĶ® +æľª æĿ¥ +éľĢ æ±Ĥ +å®ŀ æĸ½ +åĿļ æĮģ +åħ¨ çIJĥ +éĵ¶ è¡Į +æİ§ åζ +é¡ » +åľ° åĮº +æīĵ éĢł +çļĦ è¯Ŀ +帮 åĬ© +ä½ĵ ç³» +è¾¾ åΰ +è§Ħ åĪĴ +åŁ¹ è®Ń +两 个 +æĬ¥ åijĬ +åľ° æĸ¹ +å®Į åħ¨ +æİ ī +ç»ĵ åIJĪ +宣 ä¼ł +æ³ķ å¾ĭ +èīº æľ¯ +ç͵ å½± +èª ª +ä¸Ģ çĤ¹ +è¶ħ è¿ĩ +ç͵ åŃIJ +æĢĿ æĥ³ +æķĻ åѦ +éĺ¶ æ®µ +åķĨ ä¸ļ +çī© æµģ +åĪĽ ä¸ļ +æĸ¹ æ¡Ī +çݰ 代 +æ¡ ¥ +èIJ½ å®ŀ +带 æĿ¥ +产 çĶŁ +ç§ Ģ +æ³ ° +ä¹ ± +åħ· ä½ĵ +åĸ Ŀ +èĵ Ŀ +å® Ĺ +åįĩ 级 +æ·± åħ¥ +ä¿Ŀ éĻ© +ç®Ģ åįķ +çĹ Ľ +稳 å®ļ +è¾ Ĩ +å±ŀ äºİ +å· Ŀ +ä¸į å°ij +åĴ ¨ +举 西 +å½¢ å¼ı +娱 ä¹IJ +æŃ£ 常 +é¸ ¡ +åħħ åĪĨ +å®ŀ è·µ +éĩĮ éĿ¢ +è· ³ +èĻ İ +æĪIJ éķ¿ +æļ Ĺ +çĿ ¡ +ç½ ª +çIJĨ 念 +æĮ ij +èµĦ æľ¬ +å¤ļ å°ij +ä¸ĭ éĿ¢ +å¸ Ŀ +åħ¬ å¼Ģ +æ¸ IJ +éķ · +å± ĭ +欢 è¿İ +å¿ĥ çIJĨ +çĤ İ +æ¹ ¾ +è® ĵ +éĤ Ħ +ç³ ĸ +ä¹ Į +åĬ ± +çī Ļ +èħ ¿ +å² Ĺ +ä¼ į +æĪIJ åijĺ +åŃ Ķ +å°ı ç¼ĸ +èij £ +æ³ ¡ +åħĪ è¿Ľ +åħ § +åĺ ´ +è´ Ŀ +è » +æIJ ŀ +æ³ Ľ +é¸ Ł +ç½ ² +èĽ ĭ +主 ä»» +缮 çļĦ +ä¹ ı +æ´ ¥ +æĪ ´ +严 æł¼ +çħ ¤ +çĮ « +åĶ ¯ +å° Ĭ +çĶ ľ +åŀ ĥ +åľ ¾ +æĭ Ł +çĦ ¦ +é« Ķ +å® ı +æ© Ł +é© » +æĹ ģ +å½ » +éĥ½ ä¸į +æij © +ä» ĵ +ä¹ ³ +å² ¸ +è° ĭ +大 å¤ļ +çģ Ń +èħ ¾ +æŁ ľ +èĪ į +åħļ çļĦ +å° ĺ +åįģ å¹´ +æĭ Ĵ +è£ ¡ +æŁ Ķ +å¹ ¼ +éĶ ģ +ä¸ĵ 项 +æī İ +驾 é©¶ +ç¢ İ +è¢ ĭ +éĶ ĭ +å£ ® +å° ĸ +ç͵ æ±ł +è¿ Ķ +æ¼ ı +å¾ ª +èı Į +èĥ ĥ +è¾ ħ +éĢ Ĵ +èĥ İ +éĻ ª +å¯ ¿ +å¥ Ķ +çĮ Ľ +çº ¹ +çŁ¥ åIJį +å¿ Ĩ +æ¡ ĥ +æ£ ĭ +éĢ Ĩ +çĤ ¼ +ç± į +çī § +æł· çļĦ +è¾ Ľ +åł Ĩ +å®ŀ åľ¨ +ä¼ ı +å® ¿ +èµ ı +è£ Ĥ +åįĬ å¹´ +åĢ ¾ +满 æĦı +æ¢ ¯ +æĦı åij³ +åŃ ¤ +ç¥ Ŀ +æĻ ¶ +èµ Ķ +åģ ¿ +èĦ Ĥ +ç½ ļ +ç¢ į +æ² ĥ +æ ĵį +å´ ĩ +æļ Ĥ +è· ĥ +æIJ ¬ +å© Ĩ +é ī +éī ´ +åħ´ è¶£ +èIJ¥ ä¸ļ +è® Ĭ +èĦ ı +è¾ Ī +å·ŀ å¸Ĥ +è´« åĽ° +ç© · +ä¸Ń å°ı +æ¼ Ĥ +çĻ Į +èľ ľ +ä¼Ļ ä¼´ +çī µ +æĤ Ł +éĻ · +èµĽ åŃ£ +æ¨ £ +åģ ¶ +æĺ Ĩ +è¢ Ń +æį IJ +èī ° +æ Ĥ¬ +çĶ ¢ +èij ¡ +çĽ Ĺ +å© ´ +å° İ +çº ½ +åĢ ¡ +æī ® +è¨ Ń +æĬ ij +ç¡ ķ +è¾ ĸ +éĥ ģ +è¾ © +éĤ » +çݰ åĩº +è¦ ı +å½ ¹ +éĺ Ķ +åī µ +è¯ ± +æĥ ij +æ· Ģ +é¢ Ī +ä¾ ¦ +æģ ° +æ£Ģ å¯Ł +éĨ « +çĦ¶ æĺ¯ +åĭ ĥ +èĮ « +ä ĵ +𠬸 +ä½ľ 为 +çļĦ 人 +éĤ£ ä¹Ī +ç¾İ åĽ½ +è¿ĺ æľī +æıIJ é«ĺ +èĻ ½ +åħ· æľī +åĮħ æĭ¬ +æĪĸ èĢħ +ä¸į è¿ĩ +ä¸Ĭ æµ· +åĮ» éĻ¢ +èµĦ éĩij +çĶļ èĩ³ +åζ 度 +è§£ åĨ³ +èģĶ ç½ij +ç»§ ç»Ń +建 ç«ĭ +è¿Ľ ä¸ĢæŃ¥ +æĿIJ æĸĻ +ä»Ĭ 天 +å¿ħ é¡» +åIJĦ ç§į +çݰ åľº +ä»ĸ çļĦ +å¢ŀ åĬł +é¢Ĩ åŁŁ +åıĤ ä¸İ +æĮģ ç»Ń +ä¹ĭ ä¸Ģ +çī¹ åĪ« +é± ¼ +åħ± åIJĮ +åĬ ª +çİ ī +人 们 +åħĪ çĶŁ +ä¼ĺ åĬ¿ +ä¿Ŀ æĮģ +ä½ľ åĵģ +çī Ľ +æĪIJ æľ¬ +æĶ¶ åħ¥ +åıĬ æĹ¶ +è´Ł è´£ +æİ¥ åıĹ +èį IJ +åıª è¦ģ +羣 çļĦ +导 èĩ´ +æľº åζ +è¡Į åĬ¨ +æĸ° çļĦ +å®Į åĸĦ +为 ä»Ģä¹Ī +ä¸Ń 央 +æĪIJ ç«ĭ +æĦŁ è§ī +åıĺ åĮĸ +åıĹ åΰ +å¹¶ ä¸į +åŃ Ļ +æĸ½ å·¥ +æĺİ æĺ¾ +è¿ĩ åİ» +åıij æĮ¥ +羣 æŃ£ +åŁº åľ° +æĺİ ç¡® +èĥ ¡ +许 å¤ļ +ä¸Ģ å¹´ +æĸ¹ åIJij +æģ © +缸 ä¿¡ +åľ ³ +详 ç»Ĩ +äºĭ ä¸ļ +çĶŁ åij½ +åĴ¨ 询 +æĸĩ æĺİ +çij ŀ +绿 èī² +èİ « +æĦı è¯Ĩ +æĬķ åħ¥ +åĬł å¿« +æ¢ ħ +ç¿ » +å¼Ģ æĶ¾ +æĻ® éĢļ +åįı ä¼ļ +æĪIJ 绩 +ä» Ļ +å¯ Ĵ +è¯ģ åΏ +认 è¯Ĩ +ä¸ ¹ +大 éĩı +è¿ ħ +åģļ åΰ +设 æĸ½ +è´¸ æĺĵ +èĥ½ æºIJ +æĹ¶ æľŁ +ä¸Ģ 天 +æ²» çIJĨ +åĺ ī +å® ĩ +丰 å¯Į +举 è¡Į +æĪIJ æŀľ +èĤ¯ å®ļ +çĭ Ĺ +åĬ¨ åĬĽ +æ£ ® +åĩł ä¹İ +åĽł ç´ł +æ°ij æĹı +æ´ ŀ +ç½ij åıĭ +åIJĪ çIJĨ +广 大 +æ® Ĭ +æ´ Ľ +æĿ ¯ +èĴ Ļ +ç͍ äºİ +èŀį èµĦ +ç¥ ĸ +æľº 械 +举 åĬŀ +èĩª åĬ¨ +åĬŀ åħ¬ +é» ŀ +éĽ Ħ +å̼ å¾Ĺ +çĮ ª +以 为 +æĺ Į +è·Ŀ 离 +åIJ¸ å¼ķ +ç» ķ +éļ Ĩ +计 ç®Ĺ +éĺŁ ä¼į +大 ä¼ļ +å¼ķ èµ· +çī¹ çĤ¹ +èĥ ¶ +å¹´ è½» +æľ¬ 身 +æľº åħ³ +å®ĺ æĸ¹ +éĥ ij +æµ Ļ +è§Ĵ èī² +èij£ äºĭ +为 主 +æĹł 论 +ä¹ł æĥ¯ +æ¥ ļ +æĭ ĵ +绣 计 +åħ Ħ +广 æ³Ľ +åį Ģ +污 æŁĵ +è« ĭ +èĬĤ 缮 +ä¼ ¦ +è¦Ĩ çĽĸ +èĢ IJ +æī¶ è´« +ç»ı åİĨ +éĩįè¦ģ çļĦ +èĤ¡ 举 +æĭĽ èģĺ +åĽĽ 个 +æĩ ī +èĥ ŀ +æij Ĩ +é«ĺ éĢŁ +éº ¦ +åİŁ åĪĻ +èİ ± +æĽ´ 好 +éķ ľ +åĩ Į +åŀĥ åľ¾ +éĢ ² +çģ ° +éĵ º +äºĭ æķħ +çĶ ĺ +空 æ°Ķ +é¾ Ħ +èı ² +çĵ ¶ +æĺ ¨ +æĹ¥ æĬ¥ +æµ ® +åľ° åĽ¾ +åij Ī +大 åĬĽ +ç» ª +å¸ ħ +æľį åĭĻ +ä¸į éĶĻ +乡 æĿij +å± ¥ +å¹³ æĸ¹ +éĹ ² +æī £ +ç´ł è´¨ +èµ ´ +éģ Ń +èIJ ¨ +èĩª 主 +éĩij å±ŀ +èī¯ å¥½ +两 å¹´ +æ³ ¥ +é¢ ľ +ç²¾ 彩 +ä¸Ń åįİ +æĻ ĭ +ä¹ł è¿ij +ä¹łè¿ij å¹³ +æĪĺ 士 +åģļ çļĦ +éª ij +æ» ´ +çĵ ľ +çīĪ æĿĥ +èĤ ł +æľĥ åĵ¡ +çı į +ç¨ ® +ä »¿ +çī© ä¸ļ +åĢĭ 人 +å¦ » +ä¼ ¸ +æ± Ĺ +æĹ º +çIJĨ æĥ³ +æij ¸ +è¿Ŀ æ³ķ +å®Į æķ´ +åİ ¦ +è¸ ı +æĸ ij +æ¡ Ĥ +ä½ĵ åζ +å¸ « +æĿ Ĩ +æ® ¿ +æ¯ ģ +é¦ Ī +è§Ĵ 度 +æ¬ £ +çĥ ¦ +èĤ º +éĩĩ 访 +æij ĺ +æĮ ¡ +æ· ĺ +åħ» èĢģ +çĤ ¸ +è¿ Ī +åİ ī +åĿ Ĭ +è¾ £ +åĩ Ŀ +æ³ ª +çĸ ı +æİ ĺ +åĥı æĺ¯ +éĽ ķ +ç¼ Ŀ +èį · +æį · +åł ¡ +åı¥ è¯Ŀ +çĸ ¼ +æł ı +éģ µ +ç¢ ³ +å·¥ åķĨ +æIJ º +åĪ ¥ +ä¹ Ļ +æĹ ĭ +æĥ ľ +ä¸Ģ 大 +å±Ĥ 次 +èµ ĸ +æĬ ¬ +æ¨ Ĥ +è¯ ŀ +åħ Ĵ +ç¯ ® +èĤ ĥ +å§ ¿ +æĬ ļ +çĵ · +ç͵ åĬ¨ +æĸ° åĨł +æ¶ µ +ç¢ ij +æ· ® +æĹ ¨ +è¸ ª +æ¸ Ķ +æĦ Ī +åı Ķ +åįĹ çľģ +ç¾ © +å§Ķ 书记 +è² ¸ +æ¶ Į +è« ĸ +èIJ Ħ +æı ı +å¿ § +è¾ ¦ +å¦ Ĩ +æī Ń +åij µ +éģ ¥ +è¨ ± +ä» ĩ +åįģ ä¸ī +åī ² +èª į +èĪ ° +é¢ ĩ +é¥ ± +çĭ ł +é«ĺ çļĦ +çµ ± +æħ İ +é¢ ģ +åIJĪ éĢĤ +æµ ´ +èµ ĭ +æĬ ¼ +å¦ ¥ +éĻ¢ éķ¿ +èĢ ķ +è¾ ¨ +æħ ° +åįģ åĽĽ +æľ µ +èĵ Ħ +æŀ ¢ +å» · +æĤ Ħ +æ¶ ¯ +çŁ © +åŃIJ éĩĮ +çĬ ¹ +å±Ģ éķ¿ +é IJ +å¥ ł +ä¼ļ éķ¿ +æĵ ļ +ä¸į åıĬ +åįģ ä¹Ŀ +æ¬ º +èº º +éĺ IJ +çº Į +è¨ » +åĨ Ĭ +èŃ ĺ +é«ĺ çŃī +èħ º +å¤ ķ +ç» ij +åĶ ¤ +èķ ´ +çķ ľ +æħ ĭ +åı Ļ +åı ĥ +å³ ¡ +人 大 +éħ ¿ +éģ © +å¥ ¢ +åı£ æ°Ķ +éĮ Ħ +é ı +åĭ ĺ +è´ ¿ +éļ ª +é ĭ +éļ ¶ +ð ¥ +𬠣 +ð £ +ð« į +𬠳 +ð« ĵ +ð« Ħ +ð« Ł +𨠱 +ä Ĺ +以 åıĬ +æľī éĻIJ +åij ¢ +åIJ Ĺ +çľĭ åΰ +计 åĪĴ +è¿Ľ åħ¥ +缴 æİ¥ +åĪĨ æŀIJ +åıª æľī +设 å¤ĩ +åħ¶ å®ŀ +åĬł 强 +ä¸Ń çļĦ +ä¿Ŀ éļľ +èĢģ å¸Ī +人 æīį +å¾Ĺ åΰ +é£İ éĻ© +ä¸Ģ ç§į +空 éĹ´ +æĪij åĽ½ +ä¹ĭ åīį +ä¸ĵ å®¶ +æĿ ¨ +æĹ¥ æľ¬ +群 ä¼Ĺ +åıĤ åĬł +æķĪ æŀľ +æľī åħ³ +å®¶ åºŃ +åĮº åŁŁ +åĬª åĬĽ +éļı çĿĢ +æĹł æ³ķ +交 æµģ +è¡Į 为 +æ£Ģ æŁ¥ +æľŁ éĹ´ +å¦Ĥ æŃ¤ +èĤ¡ 份 +å½ĵ æĹ¶ +è£ħ å¤ĩ +åĩĨ å¤ĩ +éħĴ åºĹ +è¿IJ åĬ¨ +æıIJ åĩº +å·¦ åı³ +æİª æĸ½ +é£Ł åĵģ +æ¶Īè´¹ èĢħ +åѦ éĻ¢ +æĮĩ 导 +è¿IJ èIJ¥ +éĩį 大 +åĨľ æĿij +éĢł æĪIJ +æĶ¿ æ²» +éĴΠ坹 +æŃ£ å¼ı +åıĸ å¾Ĺ +éĤ£ 个 +éĽĨ ä¸Ń +åıª èĥ½ +å¿« éĢŁ +身 ä½ĵ +åħļ åijĺ +èģĶ åIJĪ +åĬĽ éĩı +éĥ½ æľī +æ ħ§ +å¡ Ķ +åĪ« 人 +表 çݰ +æķħ äºĭ +ä¸Ģ åĪĩ +å° ĩ +èµĦ æĸĻ +åŁ¹ åħ» +éĺħ 读 +æľī 人 +èIJ¥ éĶĢ +çĽij çĿ£ +çݯ ä¿Ŀ +èĢĥ èĻij +æ·± åľ³ +严 éĩį +èĮĥ åĽ´ +å§Ķ åijĺ +çĽij 管 +ä¸ī 个 +è£ħ ä¿® +åħ¬ éĩĮ +åĪĨ åĪ« +çIJĨ è§£ +éŁ © +åĬł å·¥ +认 羣 +ä¸į 好 +åİ» å¹´ +éĻį ä½İ +æľº ä¼ļ +åįı è®® +符 åIJĪ +å¢ŀ 强 +æĬĢ èĥ½ +é¦ĸ åħĪ +ç§ ¦ +ä¸ ģ +å° ¾ +æľī äºĨ +åľ° 产 +æ¸ ł +æĸ¹ 便 +ç§» åĬ¨ +éĢŁ 度 +å°¤ åħ¶ +éĢļ çŁ¥ +åĿ Ľ +éģ¿ åħį +æģ ¢ +è´ ¡ +èģĮ å·¥ +å®ŀ åĬĽ +æĺ¯ä¸Ģ ç§į +åIJ¯ åĬ¨ +çĸ¾ çĹħ +æĿ¥ äºĨ +缸 对 +çݰ å®ŀ +èŀį åIJĪ +åIJĮ æł· +åħ¬ åijĬ +çī¹ æ®Ĭ +ç´ « +ä¸ĭ åİ» +ä¼ł æĴŃ +æľĢ 好 +ä¼ĺ è´¨ +æ² Ĵ +æĮ º +æĹ ¦ +è¯ º +ä¸Ģ åIJį +éģĵ è·¯ +示 èĮĥ +è¿ĩ æĿ¥ +åIJĮ åѦ +é¼ ĵ +æĿ Ń +æľ¬ 次 +åIJĮ æĦı +ä¸ĸ 纪 +ç¾ Ĭ +æ¬ ² +å·¥ èīº +çĵ ¦ +人 士 +æľī æīĢ +ä»İ äºĭ +æľī å¾Īå¤ļ +ä¸į äºĨ +å²Ĺ ä½į +åıĺ å¾Ĺ +åĬ³ åĬ¨ +å¤Ħ äºİ +å¹³ åĿĩ +å½¢ 象 +å¡ ŀ +åħ± 享 +çĿ Ľ +åĪ© 润 +æŃ£ æĺ¯ +å¾Ģ å¾Ģ +缸 æ¯Ķ +æ¨ ª +åĪ · +æµĻ æ±Ł +大 éĥ¨åĪĨ +å¤ļ 个 +æĤ¨ çļĦ +ç͵ åķĨ +å¾® åįļ +å§ĭ ç»Ī +çĬ¯ 罪 +æĺ¯ åľ¨ +ç»Ħ åIJĪ +åİŁ æĿ¥ +æ¸ħ æ¥ļ +åIJĦ åľ° +æĦŁ åıĹ +å½ĵ ä¸Ń +è¶ĭ åĬ¿ +æĻ¯ åĮº +羣 æĺ¯ +ä¾Ľ åºĶ +转 åŀĭ +çĭ Ĥ +èĨ ľ +èĭ Ĺ +å¿ ł +å¾Ī 大 +èĤ¡ æĿĥ +ç¾İ åħĥ +æİĴ åIJį +åĬ¨ çī© +éĶ ħ +å¢ ¨ +主 å¸Ń +å¾Ī 好 +ç»Ŀ 对 +æĿ ľ +转 è½½ +çĴ ĥ +æĿij æ°ij +åIJ ¨ +åĽŃ åĮº +é«ĺ 度 +çī© è´¨ +è¾ ī +æĹ¥ 常 +æı Ĵ +ä¸ī å¹´ +ä½ĵ çݰ +æīį æĺ¯ +代 çIJĨ +ä¸į 管 +æģ Ĵ +åľ° ä½į +ç² ® +èĸ Ħ +æĺİ çϽ +ä¸Ģ èĩ´ +æĽ ¼ +åĵ Ń +åĩ ¤ +åĬ ² +æķ Į +æĪĺ æĸĹ +主 ä½ĵ +åħ¬ å¸ĥ +åıĤ èĢĥ +èĪª 空 +å¯ º +åѦ ä¼ļ +åıį æĺł +ç¾İ 丽 +太 éĺ³ +建 æĪIJ +æħ¢ æħ¢ +åIJĦ 个 +éĤ ¦ +ç»Ħ æĪIJ +ä¸ī 大 +éĶ ¦ +大å¤ļ æķ° +æ¦Ĥ 念 +éŃ Ĥ +åħ¬ çĽĬ +èį Ĵ +身 份 +æ·± åĪ» +åħ © +ç»ı åħ¸ +åIJĦ 项 +èĻ ķ +è¿Ľ æŃ¥ +åįģ äºĮ +æī§ æ³ķ +æĥ³ åΰ +æĦŁ æŁĵ +åķĨ åĬ¡ +å°ı ç»Ħ +èĶ ¬ +çıŃ åŃIJ +åIJĮ å¿Ĺ +éĿ¢ 临 +çĤ Ĵ +å¤ļ ç§į +è§Ĥ çĤ¹ +åĵª éĩĮ +å° Ŀ +å§ Ĩ +èħ ¹ +åŁİ åĮº +太 å¤ļ +çĹħ æ¯Ĵ +åľ¨ äºİ +æīĢ è°ĵ +æĻ ° +æŀ Ŀ +æĭ ĸ +å® ħ +æķ´ æ²» +ä½ı æĪ¿ +åģ · +çĨ Ĭ +èµ ģ +æ° Ľ +æł¼ å±Ģ +åŁºç¡Ģ ä¸Ĭ +èĥ Ĩ +åħ ½ +鼶 åĶ® +åĿ ¡ +女 åŃ© +æĴ ŀ +åħ¨ åĬĽ +åĴ ĸ +èĤ © +çľ ī +èĩ³ äºİ +åħļ ç»Ħ +ä¸Ģ ä»¶ +æĭ Ĩ +äºĭ å®ŀ +åĤ ³ +æ¹ ĺ +ç¶² ç«Ļ +循 çݯ +åIJĮ æ¯Ķ +æĭ Ķ +åĮ» èᝠ+åħ» æ®ĸ +åĽº å®ļ +å®ŀéĻħ ä¸Ĭ +è®° å¾Ĺ +åĪ© äºİ +æĤ ¦ +æĭ ³ +èĤ Ŀ +æķĪ çĽĬ +è© ² +æ°ij 主 +çĹĩ çĬ¶ +é¢ ¨ +å¹¼ åĦ¿ +å§ ij +æĪ Ĵ +ä¸ĭ çļĦ +æ¸ ¡ +å¹´ åºķ +è®° å¿Ĩ +åIJ IJ +大 å¹ħ +å¾ ½ +åħ¬ ä¼Ĺ +ä¿¡ å¿ĥ +çİ Ľ +ä¼ļ ä¸Ĭ +ä¹ Ķ +æijĦ å½± +æ£ĭ çīĮ +éĻ ķ +åºĶ æĢ¥ +æĶ¶ è´¹ +æİ§ èĤ¡ +仪 å¼ı +çŀ ¬ +æīĢ åľ¨ +ç¢ ° +å§ ĵ +é¡ Į +æĶ¯ éĥ¨ +使 åij½ +çĤ ī +å¯ Ħ +ç¿ ¼ +åľ° ä¸ĭ +è¾ ŀ +ä¿ ± +主 æĮģ +è´§ å¸ģ +æģ ¨ +èĤ Į +çĽ Ī +éĶ » +å¿Ĺ æĦ¿ +ç±» ä¼¼ +æĮ ĸ +éĢ » +ç¸ ½ +纪 念 +åķ ¥ +å¼ ¯ +åIJį åŃĹ +åģ¥ èº« +çļĦ å¿ĥ +é© ± +èĥĮ åIJİ +æ³ķ å¸Ī +ç² Ĵ +èĥ½ éĩı +è¾ ° +èī ³ +å½ ¼ +段 æĹ¶éĹ´ +åIJĪ æ³ķ +æĵ ¦ +ç¾ ½ +åİ ¨ +æĪij 说 +äºĭ åĬ¡ +åĩł 天 +åħ ģ +ç¼ ´ +åį ĵ +两 ç§į +çĭ¬ çī¹ +å¸ ¶ +éĴ » +æĥ © +é¢Ĩ åħĪ +è¶³ å¤Ł +å£ ³ +æĦıåij³ çĿĢ +åĪĨ å¸ĥ +ä¹ ĥ +éģ ĭ +ä½ © +è° ± +çģ £ +èį ¡ +è´¯ å½» +å¹ ¾ +ç£ ģ +åħ¸ åŀĭ +åī ĩ +åĨ » +æ¬ ł +ä¸į ä¹ħ +æµ ¦ +éŃ ħ +å¼Ģ äºĨ +使ç͍ èĢħ +è¿Ļ 款 +å° Ī +èĦ± è´« +æĶ» åĿļ +ç®Ĺ æĺ¯ +ç¨ Ģ +æĹł 人 +åł µ +å¥ ı +éĥ½ å¸Ĥ +åı¯ è§ģ +ä¸į åĩº +æ ·» +äº ı +ç¾İ 好 +èĥ ĸ +éŁ µ +æłĩ å¿Ĺ +èĬĤ èĥ½ +æĬ « +å° º +å¯ ¸ +ä¸Ģ 代 +é¢ Ĺ +èĢ ¶ +èĴ ¸ +åĸ ® +æ »¿ +çĮ ľ +æµ Ĩ +åŁ ĥ +åįĥ ä¸ĩ +èµ Į +èģ ² +ä½ľ é£İ +è³ ª +å¯ ¨ +å¹´ 人 +åį° è±¡ +æ¡ ¶ +æĴ ¤ +åįģ äºĶ +æ¯ ħ +æ² ª +åĽ½ æľī +大éĩı çļĦ +å¾ ¡ +å¯ ĵ +è¦ ĸ +æ¼Ĥ 亮 +çľ ł +ç ĤŃ +é» İ +èĻ ¹ +åĪ© äºļ +èŃ ī +æµ ı +åįģ åħ« +ä¸ ¢ +è¾ ½ +æľīä¸Ģ äºĽ +æħ Ī +åģľ è½¦ +å® ł +è§£ æĶ¾ +æľī å¤ļ +éĤ Ĭ +常 è§ģ +æĬ ¹ +çº ¤ +è¦ ª +æ¡ Ĩ +èİ ŀ +æ°§ åĮĸ +è¿Ļ ä»¶ +åĩ ° +æŁ ´ +åıij ç͵ +é¼ ł +转 åĮĸ +å¨ ĥ +æĮ ¤ +ç½ © +å¯Ĩ åĪĩ +æĪij ä¸į +é«ĺ æĸ° +ä¸Ģ ç¯ĩ +è¿Ľ ç¨ĭ +è¡ ° +è¿ĺ ä¸į +ç ħĮ +æĸ° åįİ +èĤ ¿ +æ» © +ä¸Ģ æµģ +è¯ Ī +å®ŀ ä½ĵ +å¤ĸ åĽ½ +èº ² +èµ ł +è¦ º +æ¢ Ŀ +ä¸į è§ģ +è¨ Ĭ +åĮ ¹ +åį µ +çĩ ¥ +æħ ķ +é½ ¿ +å® ´ +é¥ ¼ +èij¡ èIJĦ +å°ı å¿ĥ +æģ ¼ +éĻ Į +æĺ Ĥ +åĥ ¹ +èĬ Ŀ +æ¯ı 个人 +åīį æıIJ +ä½ĵ ä¼ļ +æ¨ Ļ +æIJľ çĭIJ +对 åħ¶ +ä¸ § +èľ Ĥ +æµ ¸ +èª ¿ +åĿ ª +é¢ ĸ +åIJį 为 +ç¬ ¼ +èĪ Į +æľ¬ 书 +èģ ¯ +çº º +ç®Ģ 缴 +éĽ ¢ +ç¾İ çļĦ +éļ ¨ +é«ĺ å³° +è¿Ļ å®¶ +å Ĥ¬ +å° ¸ +ç¡ķ 士 +èŃ · +è° ¨ +æĺ ı +æĶ¿ åįı +è¡ Ķ +ç¿ Ĵ +åľ Ĵ +åĽ½ æ°ij +主 è§Ĵ +è£ ķ +ä¼ ª +åº ŀ +æ°ij èIJ¥ +æĥ § +ç§ĺ 书 +çĹ ķ +çϾ åĪĨ +æº ¶ +æĹł çĸij +çļĦ çľ¼ +æĵ İ +ä¼Ł 大 +å½ ° +åħ¬å®ī å±Ģ +ç³ ķ +å¼ ¥ +åĤ Ļ +ä¹ ¾ +毫 ä¸į +注 æĺİ +åī¯ æĢ» +æĦ ī +æķ ¦ +é¦ ¨ +æĶ Ģ +éĢ Ŀ +åı¯ éĿł +å¤ ¸ +åľ ĺ +éĿ¢ ä¸Ĭ +æĬ ĸ +èĦ Ĩ +é© ° +ä¼ IJ +å¦ ¨ +å®ļ äºĨ +ç³ Ĭ +æŃ ¡ +éĥ¨ éķ¿ +ç§ ī +èĪ Ĩ +åĪij äºĭ +åIJ µ +æ¤ Ĵ +è¡ ĵ +è± « +èı © +åŃ µ +é¥ ² +å°± 好 +åł ª +ä¸ī è§Ĵ +åľº æ¯ĶèµĽ +ä¸į åģľ +æĵ ħ +åħ¨ æĸĩ +æ³ ģ +åѦ ä½į +æ± ° +éł ĺ +åı ł +éļ Ľ +å¸ IJ +çľĭ åĩº +åĮ ł +å±Ģ éĿ¢ +æ³ Į +è° Ĭ +åIJĮ æľŁ +æĬķ æłĩ +å¥ ´ +æĿ¥çľĭ çľĭ +èĦ ¾ +èŀ º +æŃ ī +çĽ ¯ +ç¨İ åĬ¡ +å» Ĭ +æİ © +æħ ¨ +çĽ ¼ +èĬ Ĵ +è® Ģ +æĮ £ +èĮ ħ +æĸ ¥ +æ¤ ħ +åΰ æĿ¥ +èijĹ ä½ľ +çĭ ± +äºĮ æīĭ +ä»İ æĿ¥ +çĸ ² +åºĬ ä¸Ĭ +æĸ° 浪 +æ³ Ħ +å¢ŀ å̼ +ä¸ Ľ +æļ ij +ä»İ ä¸ļ +æ· ĭ +å¤ļ æł· +æľ ´ +份 é¢Ŀ +æŀ £ +西 çľģ +æľ¬ è´¨ +æ·± æ·± +èī ĩ +ç» µ +产 å̼ +æ¼ ł +èħ » +çŃ Ľ +åİ Į +æģ Ń +å«Į çĸij +æĪ ¶ +æ» ŀ +èĨ Ģ +åĬ £ +座 è°Ī +常 æĢģ +çļĦ æĥħ +è¦ ½ +å¯ Ĥ +åĮ Ĩ +èĩ º +é¡ ¯ +çķ ı +éģ £ +åį ľ +çŃī å¥ĸ +è² ¬ +æº ¯ +é İ +çĤ¹ 头 +èĵ ¬ +æ± º +éħ ¬ +éģ Ĭ +è³ ¼ +註 åĨĬ +æľ¬ æĬ¥ +çµ ķ +æ´» æĢ§ +åħ ij +éĮ ¯ +åĨ ¶ +åĸ » +æº ĸ +èĤ ¢ +æº ĥ +æĹ ¬ +åī Ĭ +çIJĨ äºĭ +å± ł +æ² § +èļ Ģ +鼻 åŃIJ +为 æŃ¢ +常 å§Ķ +çµ Ĥ +éĬ · +çĭ Ģ +ä¾ £ +èĥ Ģ +èŃ ° +ç͍ 车 +åĻ ª +æŃ · +åį Ķ +åĪ ¹ +竣 æĺ¯ +é© Ĺ +èIJ Ŀ +çĻ « +çĹ « +æŃ § +å¼ Ĭ +åª ½ +çı Ĭ +è¡ · +éľ ī +åŁº çĿ£ +éļ ± +æ° ¨ +ç» ¸ +å°¼ æĸ¯ +çĥ ĺ +æľŁ åĨħ +è° ħ +éĽ ĩ +éļ Ļ +å ĸī +åī ¥ +çĹ ĺ +æĮ ½ +çĵ £ +æ¹ Ľ +æ¨ ± +æ¾ İ +æ¹ ĥ +åĨ¬ 奥 +æ£ µ +å® ° +åŀ Ĵ +æ§ ĭ +ä¾ Ī +èĮ Ħ +åĺ ¿ +èı ĩ +ç ĻĤ +åĬ ĥ +é į +èĶ ½ +çŀ Ń +æķ ŀ +ä¹ ĸ +éŁ § +è¾ ľ +æĩ Ī +ä½ £ +çŀ » +åŁ Ķ +èĪ ħ +å®ŀ äºĭ +é ¨ +å§ ¥ +çµ ¡ +åĺ » +çķ ¢ +æ²ĥ å°Ķ +è¿ Ħ +èĤ ĩ +æħ ij +ã § +ä ı +ð ł +ð¬ ĩ +ð« Ń +ð« IJ +ã ³ +© ½ +ð« ł +ã Ľ +ð¬ į +é ¿ +ð¬ Ĵ +ã Ļ +𬠤 +ð ¬´ +ð« ĸ +ð ¤ +ã ¬ +ä ² +ð« Ķ +ð« ļ +è¦ģ æ±Ĥ +ä¸Ģ äºĽ +å®ŀ çݰ +èĢĮ ä¸Ķ +åĽł æŃ¤ +çͱ äºİ +åħ³ äºİ +çĦ¶ åIJİ +æİ¨ åĬ¨ +ä¸Ģ æł· +æĮī çħ§ +è¿Ļæł· çļĦ +å½¢ æĪIJ +æľī äºĽ +æĽ´ åĬł +ç»ı è¿ĩ +建 è®® +æ²» çĸĹ +ä½ł 们 +æīį èĥ½ +ä¿ĥ è¿Ľ +åijĺ å·¥ +ä½ĵ éªĮ +èĪ ĩ +åģļ 好 +ä¿Ŀ è¯ģ +æķ´ 个 +æĺ¯ ä¸Ģ个 +éĩĩ ç͍ +çIJĨ 论 +æ¯Ķ å¦Ĥ +ä¸Ĭ çļĦ +æİ¨ èįIJ +çͳ 请 +天 空 +éĥ¨ èIJ½ +åįģ åĪĨ +æĿ¥ èĩª +ä¹ĭ éĹ´ +è°ĥ æķ´ +æ¯ı 天 +è°ĥ æŁ¥ +æĤ£ èĢħ +è¿ĩç¨ĭ ä¸Ń +é¦Ļ 港 +广 åijĬ +éĿ¢ 对 +满 è¶³ +éķ¿ æľŁ +è§Ħ èĮĥ +æķ´ ä½ĵ +æĶ¹ åıĺ +æĻº æħ§ +å¦Ī å¦Ī +å¦Ĥ ä»Ĭ +åIJĪ åIJĮ +éĥ½ ä¼ļ +åĦ¿ ç«¥ +åĩı å°ij +éŁ³ ä¹IJ +ç»ı 常 +ä¸Ĭ å¸Ĥ +ä¼ĺ ç§Ģ +çļĦ éĩįè¦ģ +ä¸Ģ æĿ¡ +æµ· å¤ĸ +åı¦ å¤ĸ +ä¸Ģ å®¶ +åİĭ åĬĽ +大 åŀĭ +çľĭ çĿĢ +åĪ Ģ +幸 ç¦ı +æİ¨ 广 +åIJ Ľ +å¾ IJ +æī¾ åΰ +äºİ æĺ¯ +èĩª 身 +ä¸Ģ ä½į +åľŁ åľ° +åĬł åħ¥ +æİ¢ ç´¢ +æ¢ ģ +主 åĬ¨ +å°± ä¸ļ +女 æĢ§ +çªģ çł´ +ä¸įåIJĮ çļĦ +è¿IJ è¾ĵ +èĩª çͱ +å±ħ æ°ij +æŃ¤ 次 +çļĦ æĹ¶éĹ´ +å®¶ éķ¿ +ä¸Ģ个 人 +æ£Ģ æµĭ +åĨħ éĥ¨ +广 å·ŀ +缴 æĴŃ +ä»İ èĢĮ +è´· 款 +åı¬ å¼Ģ +æĶ¹ éĢł +人 çĶŁ +å±ķ 示 +æ¯ı å¹´ +女 人 +çļĦ æĸ¹å¼ı +æķĪ çİĩ +å±± 举 +æ¸ł éģĵ +ä¼¼ ä¹İ +æ¡Ī ä»¶ +åĪ© çĽĬ +çľĭ çľĭ +å¿ĥ éĩĮ +ç»´ æĬ¤ +å®Ŀ å®Ŀ +ç½ij ä¸Ĭ +论 åĿĽ +å°± åı¯ä»¥ +ä¸į è¶³ +æģ¢ å¤į +å¸ĥ å±Ģ +è´¡ çĮ® +ä¸ĭ éĻį +æİĮ æı¡ +çļ® èĤ¤ +å·¥ åħ· +éĩį åºĨ +åĵģ è´¨ +æİ¨ åĩº +çĶ· 人 +æī¿ æĭħ +çªģ åĩº +èĢĮ è¨Ģ +æ² Ł +åįı è°ĥ +æĺ¯ ä»Ģä¹Ī +æ± ¤ +æĴ ij +çĭ¬ ç«ĭ +çݯ èĬĤ +æī© 大 +æ´ ª +æĿ ° +çĽ IJ +ä» ģ +æ¶ī åıĬ +èĢģ 人 +åį³ ä½¿ +åįĹ äº¬ +éħį åIJĪ +é¬ ¼ +çζ 亲 +ç½Ĺ æĸ¯ +å°ı åĮº +æķĻ æİĪ +åĨ³ çŃĸ +é¢Ħ 计 +æľ¬ 人 +ä¼ ¯ +ç« ¹ +åΰ åºķ +å¸Ĥ æ°ij +åĩº åı£ +éĩĩ è´Ń +æĢ» ç»ĵ +æŃ¦ æ±ī +åĬł 大 +广 举 +æµģ ç¨ĭ +人 åı£ +å¦Ĥæŀľ ä½ł +åĩº åİ» +åĩ ī +åĨľ æ°ij +çݰ 象 +åĬĽ 度 +ç»Ļ äºĪ +åħļ å§Ķ +è¯Ń è¨Ģ +线 ä¸Ĭ +æĢİ æł· +åĦ¿ åŃIJ +ç¡® å®ŀ +ä¹ĭ å¤ĸ +éĥ½ åľ¨ +èī ¾ +çļĦ æĥħåĨµ +éĩĮ çļĦ +åĽ´ ç»ķ +æĽ´å¤ļ çļĦ +ä¾Ŀ æ³ķ +åħ¬ åĽŃ +å®¶ éĩĮ +æ¯į 亲 +ä¸į åĨį +èĭ ¹ +æ³ķ éĻ¢ +飩 åĽ½ +缸 å½ĵ +ä¸į çŁ¥ +è¯Ħ ä¼° +ä¸į ç͍ +顺 åĪ© +éĩį è§Ĩ +è´¢ åĬ¡ +ä»ĸ åĢij +åıij è¡Į +ä¸ĵ éŨ +åħ· å¤ĩ +å¹¶ ä¸įæĺ¯ +è¶³ çIJĥ +é ŀĭ +åıij 表 +æ°¸ è¿ľ +èIJ¥ åħ» +éħį å¥Ĺ +æķ´ åIJĪ +è´ º +åĽŀ çŃĶ +æĶ¶ çĽĬ +ä¹Ł 许 +è» Ĭ +æİ¥ 触 +æĶ» åĩ» +åĽĽ å·Ŀ +æĢ§ èĥ½ +åĽŀ åΰ +èħ ° +ä¹Ł 没æľī +å¼ Ħ +设 ç«ĭ +éĺ² æİ§ +æĬĢ å·§ +éĢļ 常 +è´¢ æĶ¿ +éĥ¨ ç½² +åľº æĻ¯ +æ±Ł èĭı +表 è¾¾ +åĸ · +女 åĦ¿ +èĪ ¶ +çµ ¦ +ä¼ļ åijĺ +æĪĸ 许 +äº © +举 æĸ¹ +天 æ´¥ +è¿ij å¹´ +çľĭ æĿ¥ +æ¯Ķ ä¾ĭ +å² © +éĵ ľ +çİ » +å®ŀ éªĮ +æĢĿ ç»´ +æĭħ å¿ĥ +æ² Ī +身 è¾¹ +æ·± åĮĸ +ç²¾ åĩĨ +ç§ģ æľį +æ¶Ī éĺ² +åİ» äºĨ +ç»Ĩ èĥŀ +çIJĥ éĺŁ +æĺİ æĺŁ +é£Ł çī© +å¾Ī å¿« +让 ä½ł +ä¿¡ ç͍ +å͝ ä¸Ģ +åħ¶ å®ĥ +çŃī æĸ¹éĿ¢ +å¾ĭ å¸Ī +æŃ» 亡 +æ Ł³ +ä¸Ģ æī¹ +ä¸Ĭ 涨 +æľº åľº +å½¢ åĬ¿ +æĦ¿ æĦı +éĽĨ ä½ĵ +æĸ° åŀĭ +æį٠失 +æĽ ¸ +ä¸ĭ åįĪ +æ¯ı 次 +æĪIJ å°± +åħ¬ è·¯ +èĻ « +åĴ ± +西 å®ī +æľĢ ä½³ +ç§ij çłĶ +å¤į æĿĤ +æľº åύ +çα æĥħ +çħ§ çīĩ +å¹´ é¾Ħ +è³ĩ æĸĻ +ç² Ĺ +åĩĨ ç¡® +åĬł ä¸Ĭ +åĩº çīĪ +è° IJ +å®¶ å±ħ +èĥĮ æĻ¯ +ä¸Ģ 线 +äºĭ 项 +åĬ¨ ä½ľ +ç¥ ¥ +æĢ» ä½ĵ +æĪ¿ åŃIJ +ä¹Ł å°±æĺ¯ +大 æ¦Ĥ +é«ĺ æķĪ +åIJ ¹ +æİ ĪæĿĥ +éĻĦ è¿ij +æ¡Ī ä¾ĭ +éĹ ¹ +çΏ çΏ +彩 票 +æĢ Ĵ +举 æĬ¥ +æĻ® éģį +çķĻ ä¸ĭ +è¡£ æľį +æĹłè®º æĺ¯ +åħħ 满 +æ·± 度 +æ¡ ij +æĪª èĩ³ +带æĿ¥ çļĦ +éĻ µ +æĦŁ æĥħ +èµ ļ +åĵª äºĽ +æķ´ æĶ¹ +æĪIJ çĨŁ +å¨ ľ +é¼ » +çŁ Ľ +çĽ ¾ +好 好 +第 åĽĽ +åĨł åĨĽ +è´¢ å¯Į +æľĢ 好çļĦ +车 åŀĭ +éĸ Ģ +åį³ å°Ĩ +åĪĨ 为 +éĿĴ å²Ľ +纷 纷 +ä»Ĭ æĹ¥ +å¹³ è¡¡ +å¹³æĸ¹ ç±³ +éĤ£ ç§į +åĩº çĶŁ +éĿĴ æĺ¥ +人 群 +人 å·¥ +ä¹ĭ ä¸ĭ +æ¹ĸ åĮĹ +åľ¨ æŃ¤ +åįļ 士 +æĹ¶ åĪ» +æ²³ åĮĹ +æĶ¾ å¼ĥ +éĢļ éģĵ +森 æŀĹ +çĸ Ĩ +æķ ¸ +èĬ ³ +æīĵ åĩ» +æĽ ¹ +åĮĸ åѦ +æĥ³ 象 +ä¸ĩ 人 +è´¢ ç»ı +åħĥ ç´ł +ä¼ļ 计 +åħ¨ ä½ĵ +æĦ Ľ +é«ĺ ä¸Ń +æľº éģĩ +声 éŁ³ +æĹħ è¡Į +æµ © +æŁ ± +å°ij å¹´ +åĽ½ å¤ĸ +èijĹ åIJį +çĶŁ åŃĺ +å§ ľ +带 é¢Ĩ +é¢ľ èī² +ä¸Ĭ ä¸ĭ +产ä¸ļ éĵ¾ +æĽ´ 好çļĦ +å² Ń +ä¼ĺ æĥł +便 æĺ¯ +åħ§ 容 +ä¸Ģ åıª +çIJ ´ +梦 æĥ³ +ç§Ł èµģ +å¼Ģ åIJ¯ +è´Ń çī© +åĮħ åIJ« +åĪ© çİĩ +èµ· äºĨ +æľī åĬĽ +éĤ£ éĩĮ +审 æī¹ +对 æīĭ +çݰ éĩij +天 çĦ¶ +çĽ Ĵ +çĪ ½ +å¿ħ çĦ¶ +åĮĸ å·¥ +ä¸ĵ åĪ© +åķ ¡ +å¼Ģ å¿ĥ +人 ä½ĵ +éģĵ 士 +æĢģ 度 +空 è°ĥ +æĭĽ åķĨ +å§ » +第 äºĶ +æ£ Ĵ +ä¸Ģ ç³»åĪĹ +åį± æľº +转 åıĺ +åľº æīĢ +é¸ £ +æĪ¿ éĹ´ +éĢ ¼ +è¯ķ çĤ¹ +对 å¤ĸ +åĩº åı° +åľ¨ è¿Ļ +åİĤ å®¶ +å·¨ 大 +ç®Ģ ä»ĭ +çľĭ äºĨ +åħļ 建 +æĮĩ æĮ¥ +çŁ³ æ²¹ +ä¸į åı¯èĥ½ +èİ ² +ä¸į 太 +åĪĽ æĦı +第 ä¸Ģ个 +è´µ å·ŀ +è¿ĩ äºĨ +æľ¬ æĿ¥ +éģĵ å¾· +çŃĶ æ¡Ī +éĻ ¶ +ä¸Ģ è·¯ +èĤ ĸ +æ¸ħ æ´ģ +æľī æľº +åIJį åįķ +æĿ ± +åij¼ åIJ¸ +ä¸ Ī +ç¦ı 建 +è¯ķ éªĮ +å¼ķ åıij +ä¹Ł 没 +ä¸į ä½ı +çĨŁ æĤī +èIJ ¬ +ä¸į èī¯ +çł ĸ +èĩ´ åĬĽ +çѾ 订 +åIJ Ĭ +ä¾ ¯ +çĺ ¦ +å§ij å¨ĺ +æĸ ¤ +妻 åŃIJ +æĺ¥ èĬĤ +çĪ ¬ +æĽ Ŀ +çĥŃ æĥħ +éķ¿ æ²Ļ +èIJ¥ éĢł +éħ · +éĵ Ŀ +åŁºæľ¬ ä¸Ĭ +åij¨ åĽ´ +ä»Ģ 麼 +认 åı¯ +åĪĨ åŃIJ +ä¸Ģ æĸ¹éĿ¢ +è½ ´ +å¼ · +马 ä¸Ĭ +éĽ ¾ +èĩ £ +å° ¿ +çĶŁ æĦı +å®ī å¾½ +ç¥ŀ ç»ı +åĩº å¸Ń +èᝠåĵģ +çIJĨ çͱ +åįı åIJĮ +æµģ åĬ¨ +åıij åĬ¨ +åĿļ å®ļ +表 æĺİ +åIJİ éĿ¢ +ä¹ī åĬ¡ +å¦ ĸ +æľī åı¯èĥ½ +å¹´è½» 人 +大 éĻĨ +å² ³ +ä¸į èµ· +çŀ¬ éĹ´ +ä¸įå¾Ĺ ä¸į +çѾ 约 +åIJĪ æł¼ +åħļ æĶ¯éĥ¨ +æµİ åįĹ +便 åĪ© +éļı æĹ¶ +å¥ ī +ç§° 为 +产 æĿĥ +åIJ ķ +çĽ Ĩ +课 åłĤ +ç· ļ +æ£ ī +线 ä¸ĭ +èĩª è¡Į +举 æİª +åݦ éŨ +èĩª ä¿¡ +å½± è§Ĩ +ä» Ķ +çĶŁæ´» ä¸Ń +æĿĥ çĽĬ +çϽ èī² +å°± ä¸į +è¿Ľ å±ķ +æ¯ı æĹ¥ +ä¾Ľ ç»Ļ +æĿĥ åĪ© +æĹł æķ° +çIJĨ è´¢ +ä¾Ŀ æĹ§ +ä¸Ĭ åįĪ +è¯Ĩ åĪ« +çĽĪ åĪ© +çł Ĥ +许 åı¯ +åIJĮ äºĭ +åĺ Ľ +éģ ¸ +çĿĢ åĬĽ +éŨ åı£ +ä¸į å¤ļ +åħ¶ 次 +ç¢ § +çī© çIJĨ +åĨħ å¿ĥ +çϾ å§ĵ +æĢ» 绣 +å¹² åĩĢ +积 ç´¯ +åıį é¦Ī +æłij ç«ĭ +社 交 +ç§ © +åįģ ä¸Ģ +éĤ ĵ +驱 åĬ¨ +å±ķ è§Ī +èĪĴ éĢĤ +åŁº åĽł +å·® å¼Ĥ +转 让 +å°ı å§IJ +æł· åŃIJ +ç¿ Ķ +é«ĺ åħ´ +å½±åĵį åĬĽ +æīĭ ç»Ń +缸 åIJĮ +缸 åºĶ +æĻ Ĵ +è§ Ģ +å¸Ĥ å§Ķ +èĬ ¯ +å±ķ çݰ +åľ° çIJĥ +éĤ ª +ä¸Ģå®ļ çļĦ +åħģ 许 +ä¿¡ ä»» +æī ij +éĻ¢ æł¡ +ç®Ģ ç§° +åģļ æ³ķ +ä¹ĭ è·¯ +æĹĹ ä¸ĭ +èħ Ķ +æ¶Ī 失 +ä¸ĸçķĮ ä¸Ĭ +åŁİ 乡 +èĪŀ åı° +å¾Ī 大çļĦ +绣 çѹ +åħ¬ å¹³ +èĤ ¾ +çļĦ 好 +æ± ģ +çľ¼ åīį +éĽ £ +å¹ ½ +åħ± 产 +主 åĬŀ +å¤Ħ ç½ļ +åº Ļ +éģĵ çIJĨ +å¼ µ +æİ¥ çĿĢ +çĮ İ +çģ Į +çͱ æŃ¤ +人 åĬĽ +æµģ è¡Į +ä¾ ł +åı¯ä»¥ 说 +èĴ ĭ +å½¢ æĢģ +æĹ¥ åŃIJ +æ¼ Ĩ +çķĻ åѦ +缸 éĹľ +æľĢ å¤ļ +åĩŃ åĢŁ +åħ¬ 交 +æĮĸ æİĺ +æĿĤ å¿Ĺ +主 人 +éļľ ç¢į +æł¡ éķ¿ +æĸ¹ ä½į +ä¸Ĭ çıŃ +å¤ļ åħĥ +è ĥģ +éŃħ åĬĽ +èĮ Ĥ +åħħ ç͵ +强 大 +çĥ ¤ +å¥ĭ æĸĹ +å®ŀ ç͍ +éĺ ģ +ç»Ļ äºĨ +æľ¬ ç§ij +æł ĭ +æĭ ¨ +æķĻ ç»ĥ +éĥ½ çŁ¥éģĵ +æ¯ķä¸ļ çĶŁ +ç¢ Ĺ +åŀ Ĥ +è® ¼ +å®ģ æ³¢ +åѦ èĢħ +è°¢ è°¢ +åŁİ éķĩ +æĢİä¹Ī åĬŀ +éģ Ķ +æĪIJ 交 +æ½ľ åĬĽ +åį § +æĸ° å¼Ģ +éħį å¤ĩ +主 åĬĽ +åij³ éģĵ +çĥ Ĥ +é£ŀ è¡Į +å« ģ +大 大 +ç»Ļ 大家 +å¤ĸ éĿ¢ +éĨ ī +åıij è¨Ģ +æĹ© é¤IJ +åIJĦ èĩª +å® Ļ +èᣠèªī +æĬ« éľ² +é¡ ŀ +åĨħ çļĦ +èĤ ª +è¾ IJ +æ³ µ +æĬ Ľ +æĺŁ æľŁ +ä¸Ģ 带 +çĶŁ ç´ł +ç»ı éĶĢ +åĩ ¶ +åľ° ä¸Ĭ +åij½ è¿IJ +åĵ ² +ä¸Ĭ åİ» +æĸĩ çī© +è¯ ij +æĮ¯ åħ´ +éķ¿ æĹ¶éĹ´ +ç¥ Ń +åIJĪ èĤ¥ +è¿Ŀ è§Ħ +èģ ª +ä½İ äºİ +éĢĤ å½ĵ +æľī åºı +æľ¬ ç½ij +çķĻ è¨Ģ +æĥ³ æ³ķ +çѾ ç½² +å§ ļ +æĢ§ æł¼ +èĴĻ åı¤ +æŁ ı +åŀ « +åѦ åİĨ +ä»ħ ä»ħ +讲 è¯Ŀ +éĶ IJ +æĢ ĸ +åī ª +èĭ į +åIJ ĵ +强 çĥĪ +åģ¥ åħ¨ +çĸ ¯ +åı¤ 代 +å¥ Ī +ä¸į çĦ¶ +乡 éķĩ +æľĭåıĭ 们 +åĤ ħ +èģ ½ +个 æĢ§ +æ³ķ è§Ħ +å°ı éķĩ +çĶ» éĿ¢ +第 åħŃ +ç¶² è·¯ +åīį æĻ¯ +åIJ¬ 说 +ä¼ł åªĴ +æĿ¡ ä¾ĭ +åĪ« çļĦ +ä¸į æĩĤ +顾 éĹ® +强 度 +éĺ¿ éĩĮ +èµ° åĬ¿ +å¸ ½ +çļĦ ç¡® +åĮº åĪ« +éĮ ¢ +主 管 +ä¸Ģ çľĭ +æĸ ľ +åŃĺåľ¨ çļĦ +ä» ² +åᱠ害 +éĵ Ń +游æĪı ä¸Ń +éħ ± +é¾Ļ 头 +人 å¿ĥ +éĢĢ ä¼ij +æµı è§Ī +åĬ « +éĺ² æ²» +ç® Ń +å± Ī +è¾½ å®ģ +å£ ¤ +è¿İ æĿ¥ +éŀ į +ç͍ æĿ¥ +大 åľ° +ä» ° +éĢļ 讯 +å¼Ģ å·¥ +è£ ¤ +å¦Ĥ åIJĮ +éª ¤ +éĺŁ åijĺ +è½ © +ç¾İ æľ¯ +èĻ Ł +åIJĮ ä¸Ģ +åľ ĸ +书 æ³ķ +æīĵ åį° +åIJ« æľī +éĽĨ æĪIJ +éĹ · +å¸Ĥåľº ä¸Ĭ +æĹģ è¾¹ +åľ° æĿ¿ +产çĶŁ çļĦ +ç² ¤ +éĩį ç»Ħ +è¡Ģ æ¶² +çŃ ĭ +åĬŀ äºĭ +常è§ģ çļĦ +ä¸Ĭ åįĬå¹´ +å±ı å¹ķ +åIJī æŀĹ +å· © +åĸľ çα +ç¿ ł +ä¸ī ç§į +æ¡Ĩ æŀ¶ +举 èİŀ +çĶĺ èĤĥ +èĬ ¬ +åĽ¾ 书 +åĩ¤ åĩ° +æ°Ķ åĢĻ +å° ´ +å° ¬ +两 天 +è¾ħ 导 +åĢŁ 款 +æĹ¥ èµ· +æ´ Ĵ +ä¸Ģ 度 +è¹ Ī +æ½ Ń +æī ĩ +çĻ ľ +æĸ° åħ´ +åĤ ² +诸 å¤ļ +è´ ª +éĻ· åħ¥ +èĪ Ł +èĤº çĤİ +ä¸Ģ æł·çļĦ +åİ ĺ +åľ° çIJĨ +æĬķ æ³¨ +éļ Ĭ +åħī ä¼ı +ä¿Ŀ åģ¥ +åħ Ķ +åħ¬ åĬ¡ +æīĵ çł´ +çĶ· åŃ© +åĬ³ åĬ¡ +ä½ł ä¼ļ +ç͍ åľ° +æº ¢ +åıij è¾¾ +èĤ ļ +è¿ĩ äºİ +èĩ Ĥ +éĢĻ æ¨£ +è½» è½» +ä¸Ń åħ± +åIJĦ åĽ½ +åĶ ĩ +å®ŀ ä¹ł +èĻ ¾ +æ§ ½ +ä¸į ä¸Ĭ +åħį çĸ« +åįł æį® +å·¥ ä¼ļ +åĽ Ĭ +èĪª 天 +åı¯ çα +æĸĹ äºī +çĺ ¤ +å¦Ĥ æľī +éĽ ĸ +对 æĪij +åĩº ç§Ł +好 çľĭ +太 大 +æ°´ åĪ© +åĬ¿ åĬĽ +åħ¨ æ°ij +ç½ ¢ +èµ¢ å¾Ĺ +ç͵ ä¿¡ +车 éĹ´ +æĻĤ åĢĻ +å°ij æķ° +éĵ ¸ +åħ³ èģĶ +ä¸įä»ħ ä»ħ +为 æĤ¨ +åĴ ¸ +æľº åĬ¨ +è£ Ļ +åĵį åºĶ +éģ ł +è² · +ç© ´ +å¢ ħ +éĶ ¡ +çµ Ħ +çģ« è½¦ +è³ĩ è¨Ĭ +åĨ³ èµĽ +污 æ°´ +èª ŀ +å´ Ľ +ç´§ å¯Ĩ +缺 å°ij +å¤ļ 人 +æĢ» 书记 +éĶ Ī +èij Ľ +å¿ĺ è®° +éĻĮ çĶŁ +éķ¿ å¤§ +åħĪè¿Ľ çļĦ +ç¡ ħ +åıij æĺİ +å©´ åĦ¿ +æīİ å®ŀ +èĽĭ çϽ +ä¸Ģ çϾ +缮 åħī +æ ħĮ +åĬł æ²¹ +åIJ ŀ +ä¸Ģ 群 +ä¸Ń ä»ĭ +å¸ ĸ +å¿ Į +èģĮ èĥ½ +广 æĴŃ +çĽij å¯Ł +ç§ĺ å¯Ĩ +çĭ ® +è¿Ļ æĿ¡ +éĢ ¢ +æĢ ¨ +åįģ åħŃ +è© ¦ +说 åΰ +åĩĿ èģļ +æĮĩ 示 +æ° ¢ +å¼ ĺ +éĺ Ģ +æĸ © +éł ħ +ä¸Ģ å¼Ģå§ĭ +æİĴ è¡Į +åľ¨ æĪij +纪 å½ķ +æĬ Ħ +æł ª +说 æ³ķ +ä¸Ń èᝠ+好 å¤ļ +åıª ä¸įè¿ĩ +çķĻ åľ¨ +个 å°ıæĹ¶ +认 çŁ¥ +çķ « +è§ģ è¿ĩ +å°ı å¾® +ä½Ľ å±± +çľ ¾ +讲 è¿° +æ¢ ³ +ç§° åı· +æĹ¥ æĻļ +è¢ ĸ +åķ ¤ +æľª ç»ı +æľĢ æĹ© +æī® æ¼Ķ +è¡Ģ 管 +çº ± +æĥħ èĬĤ +第 ä¸ĥ +æį § +ä» Ĺ +æ¿Ģ çĥĪ +æĹł 线 +ä¸į 容æĺĵ +å¼Ģ å¹ķ +æĸ° çĶŁ +ä¸ĵ 注 +èij ± +åįĹ æµ· +çĩ Ł +èµ· ä¾Ĩ +æ´¾ åĩº +åĦ Ĵ +ä¾ ¨ +è¼ ĥ +åįļ è§Ī +éĢ ¾ +åĮ Ģ +ç»ıæµİ åѦ +æ¸ Ĺ +ä¿Ŀ èŃ· +çī º +çī ² +çİ « +çij ° +æľĢåIJİ ä¸Ģ +æĶ¿ åĬ¡ +æ§ Ľ +èĻķ çIJĨ +éļIJ æĤ£ +æī¿ åĮħ +æ¥ µ +æ¡ © +çĽ ² +导 åIJij +èĩ´ å¯Į +ç¼ Ĩ +æģĭ çα +ä¸į åĬ¨ +ç»Ļ 人 +å· ¢ +表 æĥħ +举 åįĹ +åĨħ å¤ĸ +è¾Ī åŃIJ +åı ī +åįļ ä¼ļ +åĬŁ æķĪ +æ¸ ´ +å± ¬ +æİĴ éϤ +éĢ Ľ +ä¸Ģ ä¼ļ +ä¸į å¼Ģ +å¼Ģ å¥ĸ +é»ij é¾Ļ +é»ijé¾Ļ æ±Ł +å¿« ä¸ī +度 åģĩ +åĿ ¤ +éĤ® ä»¶ +æĩ Ĵ +ä¾Ľ ç͵ +å» £ +好 è¯Ħ +ç§ĺ书 éķ¿ +æĪĺ åľº +好 å¥ĩ +ä¾µ æĿĥ +æĨ ¾ +æľĢ åĪĿ +æī¹ åıij +åİ ķ +è¼ ķ +æŀ ¯ +ä¸ļ åĨħ +è´Ń æĪ¿ +ä¸į åľ¨ +纪 å§Ķ +æīĢ éľĢ +å¸Ĥ éķ¿ +è³ ½ +å¼ķ æĵİ +çģµ éŃĤ +éĬ Ģ +æ» ¤ +çĿ IJ +å¤ļ 项 +åĽŀ 头 +èī ĺ +å¤į å·¥ +éĥ¨ ä»¶ +ç´§ ç´§ +æŁIJ ç§į +使 åħ¶ +æĸ° 人 +æŀ ļ +æ³ķ å®ļ +å·´ å·´ +æ¶µ çĽĸ +ç¨ » +æĭ ¾ +æĻ ķ +è½ ¿ +éĢļ è¡Į +åĵ Ģ +æ³ Ĭ +温 馨 +éĽĨ èģļ +çĨ Ļ +åĩ ij +åįģ ä¸ĥ +æ°Ķ æģ¯ +æıIJä¾Ľ çļĦ +æ³ ³ +奥 è¿IJ +çģ¾ å®³ +åĩĢ åĮĸ +è·¨ è¶Ĭ +åĵª æĢķ +éŁ ¿ +å¢ŀ æ·» +çĦ Ĭ +æ®ĭ çĸ¾ +ç¢ Į +æĤ Ķ +è§ģ è¯ģ +è¾ĸ åĮº +å¿ĥ èĦı +éļ § +åį ¸ +åı¯èĥ½ æĢ§ +æľī è¶£ +åī¯ ä¹¦è®° +åĮĸ å¦Ĩ +ä¿ Ĥ +æ£ ļ +éĨ ĩ +带 头 +éł Ī +追 ç©¶ +æij Ķ +è¿Ļ éĥ¨ +ä¸į 论 +ç¥ ¸ +å ³» +éģ ķ +çĶŁ èĤ² +å¤ ł +å¤ĸ 交 +è¯Ħ 为 +ä»İ å°ı +å°ı å°ı +é ¥¿ +æĴ ¼ +è·¨ å¢ĥ +被 åijĬ +åįĹ å®ģ +身 å¿ĥ +åĨį çĶŁ +æīĢ è¯´ +æĹ¶éĹ´ åĨħ +åĪĹ åħ¥ +éĿĴ æµ· +çα 好 +çª Ħ +èĪ Ī +è¿ĩ 渡 +æ¿ Ł +éĽ Ģ +审 è®® +åĽ½ èµĦ +æŃ¥ ä¼IJ +轨 éģĵ +ä¿¡ 念 +ä¸ī åĪĨ +çĨ ¬ +åѵ åĮĸ +ç¼ ł +éĥ Ĭ +èĪĴ æľį +纪 æ£Ģ +ä¸Ģä¸ĭ åŃIJ +鼻 話 +è² ł +éĴ ¥ +åĮ Ļ +çĹ ´ +è¶ ģ +ç» £ +çĪ µ +è½ ° +éª Ħ +å§ ¨ +æĭ ĺ +çĮ ´ +è® ¶ +è¿Ļ 座 +çį ¨ +æ·ĺ æ±° +çĹħ ä¾ĭ +æ²Ļ åıij +è§Ĩ 为 +头 æĿ¡ +å¿ħè¦ģ çļĦ +åı¯ è°ĵ +è¯Ŀ 说 +ç¯ Ħ +æĹ© çĤ¹ +æŀ¢ 纽 +ç¾ ¡ +çα åĽ½ +çªģ åıij +éĢ Ĭ +æ½ į +èᣠèĢĢ +èŁ ¹ +æ¦Ĥ çİĩ +å¾Ī ä¹ħ +æĥ ķ +è¨ ´ +åľĨ 满 +çļ ± +åĪĨ æ³Į +åħħ è¶³ +çľĭ æ³ķ +è¾ Ł +æĭ ¦ +æĭ © +对 åºĶ +为 æł¸å¿ĥ +èħ Ĭ +å¤ļ ä¹Ī +æµ ij +å®ı è§Ĥ +èĦ ĸ +åIJĪ èµĦ +çĶŁ 涯 +å®ŀ è´¨ +ä¼ĺ çĤ¹ +ç͍ æ°´ +寿 åij½ +æ² « +åIJ ģ +è© ¹ +åĽ½ éĺ² +å´ © +åĿ İ +èĨ ı +ä¸Ģ è½® +éģĹ äº§ +æ¹¾ åĮº +ç» İ +åįķ 纯 +æ¾ Ħ +åīį åĪĹ +身 å½± +é»ĺ é»ĺ +æį ī +çĴ ° +èı Ĭ +æĢ ľ +åħĭ æĢĿ +æĢ» å±Ģ +çĩĥ æĸĻ +ä¸ļ æĢģ +åIJĦ æł· +åĴ ½ +åĩº èī² +åĪĿ å¿ĥ +åı Ľ +çłĶ 讨 +è¡ « +åİĨ ç¨ĭ +ç¦ ½ +è¶³å¤Ł çļĦ +èį Ĩ +çľĭ å¾ħ +è´ © +åĨ³ å¿ĥ +è£ ¹ +å¸Ī èĮĥ +åŀ Ħ +æĿ ł +åĩ ¸ +çĬ¹ 豫 +çĥŃ è¡Ģ +åIJĪ ä¼Ļ +éħ µ +èIJ½ åľ¨ +åįł åľ° +è¡ ¬ +èĵ ī +æĦ ¤ +æ¸ Ĭ +åĪĨ æķ° +ç¬ij çĿĢ +太 å¹³ +çĤ « +æİ¨ ä»ĭ +æĸ¯ åĿ¦ +å½¢ 容 +æĵ Ĭ +æĦŁ åħ´è¶£ +åĨĽ 人 +åĩĮ æĻ¨ +对 çħ§ +åıij çĹħ +å· ¾ +èĪ ī +æª ¢ +ç¬ij äºĨ +ç¡® è¯Ĭ +è´Ł åĢº +壮 大 +æĪ ļ +äºĴ èģĶ +èª ² +èħ ¦ +æĹ ± +åıĹ æ¬¢è¿İ +åį ī +éĻ¢ 士 +æ© ¡ +ä¸Ģ 对 +è¾ ± +æ² Ĥ +åı² ä¸Ĭ +æIJ ı +å´ ĸ +代 è°¢ +ç£ · +é¡ ĺ +æµ ĩ +常 ç͍ +åį ij +åĩº åĽ½ +è¯ ł +稳 æŃ¥ +ç»ı 纪 +å¤ļ å¤ļ +æīĢ å¾Ĺ +为 主é¢ĺ +ä¸Ģ åĪĨ +æł ½ +é¡ § +çº ² +åĥ ħ +å£ ĵ +åĦ ª +ç¿ ° +æİ Ģ +人 为 +åª ³ +æ´ ½ +èĿ ¶ +å¤į åħ´ +ä¼ļ å½±åĵį +åIJĦ çķĮ +éĤ£ ä¸Ģ +é¢ ¤ +çĢ ı +çĢı 覽 +å¯ ŀ +åı¯ æĢķ +åį³ æĹ¶ +çķ ´ +ä¸ĭ åįĬå¹´ +ç¬Ķ è®° +éĻĦ åĬł +çĥŃ æ°´ +å¥ ¸ +ç£ ħ +æĿ ī +æ¸ħ åįİ +éĸ ± +ç° ¡ +å¤Ħ å¤Ħ +åIJĪ éĩij +æ²³ æµģ +ç´ ° +è´Ł éĿ¢ +çļĦ 羣å®ŀ +åύ 械 +èĴ IJ +西 äºļ +å· ħ +ç² ¹ +åİŁ æĸĩ +æŀ ķ +è¡Ģ åİĭ +åļ ´ +å¸ ĺ +åĨ Ģ +æĮ « +ç͵ è·¯ +å°ı ä¼Ļä¼´ +èĿ ´ +æľĢ å¿« +æĭ Į +å® ª +æĸ · +ç¿ ħ +åĴ ³ +åĹ ½ +ç¾ ŀ +躺 åľ¨ +èµĽ 车 +æ² IJ +éĻIJ 度 +为 ä¸Ģä½ĵ +èĴ ľ +å¹ « +æIJ ħ +åĭ ĭ +åī ĸ +纳 ç¨İ +éķ¿ æķĪ +ç½ ķ +åī¯ æľ¬ +ç© į +éĴ © +ç¹ ¼ +åĽ½ åľŁ +è¼ ī +ä¸į å¿ĺ +èѦ 示 +çģ ¿ +å¿ĥ å¾Ĺ +æĦ ļ +忽 çķ¥ +åĽŀ äºĭ +åįł æľī +æ· Ħ +çī ¡ +çĽij äºĭ +ç¿ ¡ +éĴĪ对 æĢ§ +çª ĥ +è£ ½ +èĨ Ŀ +ç³ Ł +港 æ¾³ +太 太 +æ¾ ¡ +ç»Ĩ åĮĸ +åĶ® åIJİ +å®ŀåľ¨ æĺ¯ +ç« £ +çį ² +å̾ åIJij +å¼ķ ç͍ +é¹ ħ +ç¬ij 容 +ä¹IJ è¶£ +æ°ij æĶ¿ +éŨ æĪ· +å± ģ +è¿· 失 +éĶ Į +å°ı 康 +åĭ ī +æ³ ¼ +ä¾ĭ åŃIJ +ä¸ī ä½į +å» ł +èĶ ĵ +广 éĺĶ +èĢ į +èĢģ èĻİ +åĭŁ éĽĨ +èĦļ æŃ¥ +æĭ ¯ +åŃĹ åı· +çĦ ° +é¢ ł +èļ Ĥ +èļ ģ +é£ ¯ +人 æĢ§ +æĴ ° +åİ ¢ +å±Ģ éĻIJ +æľª æĪIJ +åĵª åĦ¿ +大 åıij +ä¸į å®ļ +å¾ģ æ±Ĥ +éĥ µ +åĢº æĿĥ +çα ä½ł +èº ģ +ä»ħ ä¾Ľ +è¿ľ å¤Ħ +éĨ Ľ +åĥ µ +积æŀģ æĢ§ +æİ ¡ +åīį ä¸ī +äºİ ä¸Ģä½ĵ +çŀ Ħ +çĿ ģ +æ² ¸ +åħ± èµ¢ +éĢĢ å½¹ +è´Ŀ å°Ķ +æİ ı +æĪ ² +è¡ į +éĶ Ĥ +ä¸ĩ ä½Ļ +ç§ij åĪĽ +æ¼Ķ åͱ +欧 åħĥ +æ·¡ æ·¡ +éĿĴ å±± +èĹ Ŀ +ç» ½ +令 çīĮ +éĽĨ 群 +ä½ľ çī© +çĢ ij +å¤ ¯ +ç½ij 游 +åħ« 大 +éª ļ +èª ĵ +ä¼ļ å±ķ +åħļ åı² +æ£Ģå¯Ł éĻ¢ +åĸ ĺ +éĺ ± +èĢĮ åĩº +éĢļ 车 +éĴ ĵ +æĥħ 人 +æ¸ Ľ +ä¸Ń ç§ĭ +çĪ Ń +åıª åī© +æĺ Ķ +éĩİ çĶŁ +ç¡ « +èIJĿ åįľ +æĬµ æĬĹ +çĻ« çĹ« +éĻ Ģ +èĶ ļ +å¸ ľ +满 满 +èı ± +éļĨ éĩį +æĺŁ çº§ +æ½ ĩ +åħ¬ åħĥ +è° £ +æ¯Ķ äºļ +æ¡Į åŃIJ +èµ £ +è² ¼ +æĦ¿ æľĽ +é¡ ½ +æ´¾ éģ£ +ç¥ Ľ +åª ļ +éĺ ľ +èij « +èĬ ¦ +æ³ » +å¡ Į +çĭ Ń +å»ī æĶ¿ +å¥ij æľº +æĹĹ èΰ +æĥ « +严 åİī +åıĭ æĥħ +å¦ Ĭ +å¨ ł +åĵª å®¶ +èĨ ¨ +è¶ Ł +æĮ ª +èĻ IJ +é łģ +çŀ © +éº Ł +ç¨ £ +èģĶ éĢļ +åı ® +çİĭ èĢħ +ä¸į ç¡®å®ļ +ç ijľ +è° İ +çī¢ è®° +ç¢ ¼ +æĬ¤ èĤ¤ +é¡ · +çĦ ķ +åģļ 强 +éļ± ç§ģ +éļ±ç§ģ æ¬Ĭ +åıĹ å®³ +ä¸į çͱ +çĥ ¹ +é¥ ª +é© ³ +ä¼ ½ +ä¸Ŀ 绸 +è¥ Ħ +åįģ ä½Ļ +éº Ĺ +æ¬Ĭ åĪ© +èģ ŀ +åı¤ èĢģ +éģ ı +åIJĦ å¼ı +å°± è¡Į +åħ¥ å¢ĥ +ç ĥģ +èľ ĺ +èĽ Ľ +çº ¬ +çŁ « +è» Ł +æ´Ĺ è¡£ +æĦ § +é¢Ħ æ¡Ī +éľ Ĩ +æ·± åİļ +éĺ¿ æĭī +åĨĻ åŃĹ +åį ¦ +éķ Ģ +模 æł· +åĤ į +æIJ į +èĸ ¯ +åł ħ +åħ¬ 积 +è¨ İ +ä¼ł æŁĵ +æ¯ ¯ +çIJĨ å·¥ +åĨ· éĵ¾ +ç«ĭ æĸ¹ +æ¢ Ń +åľ£ è¯ŀ +综 èīº +çİ© ç¬ij +æĥ³ ä¸įåΰ +æijĩ 头 +æ· ¹ +åģĩ æĹ¥ +åĢ ĺ +èĢ ½ +èİ ĵ +åŁ · +èĩª è´¸ +åįĬ 天 +æª Ķ +æ¾İ æ¹ĥ +éķ ij +ä¸ « +éĩĮ ç¨ĭ +å¼Ģ èįĴ +èı ı +å®Ŀ è´µ +èŃ ¬ +åķ Ł +æŁ ł +æª ¬ +é© Ń +æ± Ľ +çĨĬ çĮ« +èķ ī +éļı ä¹ĭ +å± ij +è¾ĥ 强 +èĥ ³ +èĨ Ĭ +éĿĻ éĿĻ +åĴ ª +æĭĽ åij¼ +代 è¨Ģ +ä¿¡ ç®± +è£ħ éħį +æĤ į +åįķ 车 +èIJ İ +å¤ļ 彩 +éĻ ¸ +ä»İ 严 +æ© Ħ +æ¦ Ħ +éĢ ® +éĩĮ æĸ¯ +å§¿ æĢģ +太 æŀģ +éĩ Ŀ +æº ī +è¿ Ń +ç§ ¸ +ç§ Ĩ +å·¥ å§Ķ +æ± ķ +èģ Ĩ +ä½ ¬ +ç¼ ħ +çĶ ¸ +åī¯ å±Ģéķ¿ +éĹ º +èª ¤ +è¤ IJ +ä¸į éĻIJ +èħ ķ +åij ķ +çŁ ¶ +åĨľ å®¶ +管 å§Ķä¼ļ +é¥ º +èĬ ľ +æ¾ Ī +è© ¢ +å¨ģ å°¼æĸ¯ +ä½ķ åĨµ +å°ı ä¼Ļ +奢 ä¾Ī +è¿Ļ ç¯ĩ +è¯ µ +竳 ç¨ĭ +ç´ Ģ +éIJ ĺ +éĤ ¢ +ç³ Ļ +ç¼ Ģ +ä¹ Ĵ +ä¹ ĵ +çī¢ åĽº +åĿ ŀ +å¼ Ī +ä¾ĭ å¤ĸ +å» ³ +è§Ħ 竳 +èĬ Ļ +ç¯ · +èº ¯ +æł Ī +åĿļ å®ŀ +åŁº 建 +çĿĢ çľ¼ +ç· ´ +èij © +ç¼ ļ +æ¦ Ĩ +主 åĭķ +ç¥ Ģ +äºĴ éĢļ +å°¤ 为 +å® Ľ +éª ¼ +æ± ² +ä¾ ĥ +æĤł ä¹ħ +æij § +æĭ ĩ +é« ĵ +éº Ĵ +éĻ Ľ +æŀ ¸ +æĿ ŀ +è´ ¬ +å°ı é¾Ļ +åĵ ® +èĵ¬ åĭĥ +åĮ Ī +çķľ çī§ +å¨ © +个 å¤ļ +æ² ¥ +æĺ § +çĦ ļ +æĬij éĥģ +çĸ ¡ +èĺ ij +éģİ ç¨ĭ +æ© ± +éĿ ĵ +大 çIJĨ +é« ¦ +åĪĨ 辨 +æ¸ ¤ +çĸ ¤ +åĬ¨ èĥ½ +å¼ł å®¶ +ä¸ĩ åįĥ +æ» ¥ +é¥ ¥ +åºŁ å¼ĥ +å¸ ³ +æ¼ ³ +è± IJ +ä» ij +å« ī +å¦ Ĵ +çŀ Ĵ +è¡ ħ +çĭ ¸ +å¾ģ ç¨ĭ +éĤ ¯ +éĥ ¸ +ç¥ Ī +ç¥ · +è¶ ´ +ç»ĵæŀĦ æĢ§ +è§Ĩ åIJ¬ +è¬ Ŀ +çĴ Ģ +çĴ ¨ +åĩº å¤Ħ +è¯ Ģ +å¾ ĺ +å¾ Ĭ +çľ ¨ +åĸ ĩ +åı Ń +åĺ ² +çķ ¸ +å¹² äºĭ +æļ § +æ² Ľ +åĦ Ħ +å» ĵ +åİ¿ éķ¿ +èĥ ļ +çIJ ¢ +çŃ · +éĩ ĭ +ä¾ ® +åIJ © +åĴ IJ +åĮ ¿ +æĬ¬ èµ· +æ³ £ +æ¶ ¤ +éº ½ +æĽ Ļ +åī¯ éĻ¢éķ¿ +åħļ åĴĮ +æķ£ åıij +润 æ»ij +åĵ º +æĥ ¬ +漫 éķ¿ +ä¸į æĩĪ +åŁ ł +åĹ ĵ +èĢģ çĪ· +è® ½ +æĪĺ ç»ĦåIJĪ +æ£ ł +åħ¨ åŁŁ +èł ¢ +è¯ ¡ +åīį çŀ» +æķ Ľ +ä¸Ģ å°ģ +å¹ Ĥ +èİ Ĩ +è¯Ŀ è¯Ń +ç»Ĩ åĪĻ +å± ¿ +åµ Į +éĢ į +åĺ ± +æ¸ ² +çĥ ¯ +çĿ ¹ +é¦ Ĵ +èħ ¥ +æĬĹ åĩ» +çĿ « +èį Ķ +éļ İ +æ³ī æ°´ +è¬ Ĥ +ç Ĥ¬ +åĩı æİĴ +è¸ Ĭ +è ·» +æ· Į +éľ ¾ +å¥ĩ 纳 +å¯ Ŀ +æ¤ İ +æŁ ¬ +æĸ¯ åŁº +åħ¬ ç«ĭ +è¨ ĵ +é£ Ļ +é© ¿ +åĤ µ +èĽ Ļ +ç¯ĩ 竳 +åĪĨ æĶ¯ +ä¸Ĭ å¹´ +çŃ Ŀ +ç¼ ¤ +èĢģ æĹ§ +åĻ ¬ +æľ ¦ +èĥ § +æ¶Ī è²» +æĵ Ķ +æ¦ ´ +æ¿ Ĵ +ç³ ¯ +æ³ ¸ +æį Ĩ +ç» ļ +èµ İ +çIJ IJ +èµ Ĥ +æħ ® +æ² Į +çĦ Ļ +æĴŃ æĬ¥ +æ· ĩ +åĪĩ åħ¥ +çij ķ +çĸ µ +éģ ´ +ç¨ ļ +ç© © +èŀ ĥ +æ£ ķ +æĨ § +æĨ ¬ +ä¼ º +æ¯ Ĺ +æį į +æĬ ī +ç´ Ĭ +å¼ Ľ +æĭ Ń +æĹı èĩªæ²» +åĿ · +ç« ¶ +è© ³ +è¿Ħ ä»Ĭ +è° ´ +çŀŃ è§£ +æŁ ¿ +é¢ Ĭ +ç° § +çĥŁ èĬ± +ä¾ ¥ +çĿ ¦ +éħ Ŀ +æ° ĵ +çIJ ī +å§ Ĭ +æ² ® +æħ · +èľ ķ +çij ļ +éĩĩ çŁ¿ +åł ° +åºķ èķ´ +èĨ ³ +è¾ ķ +éŁ Ń +åĴ Ļ +ç² ½ +åī Ķ +æ² ¦ +èĤ ´ +éķ ¶ +æĺ ¼ +è¾ Ĺ +å© ª +åĮ ® +æĸ ĵ +æ± ¶ +éĥ ´ +éł » +çª Ĵ +è¢ ± +åĽ ± +èĢ ĺ +è ļĮ +çĭ Ļ +çĹ ¹ +ç¥ ī +æı ® +æ· Ĩ +ç£ ĭ +éĺ ª +æ « +ã ¸ +Ļ ¶ +ã ij +𣠲 +ä ¢ +ã Ń +𬠨 +ð¬ Ģ +𬠮 +𬠯 +ð¬ ľ +𪠨 +ð« Ĺ +ð¬ Ĭ +𬠱 +ð¬ Ł +ä İ +ð ¡ +ä ĥ +ã ł +ð © +ð© ¾ +𬠺 +ð¬ Ļ +ãĢ Ķ +ãĢ ķ +çļĦ æĹ¶åĢĻ +æľīéĻIJ åħ¬åı¸ +ä¹ĭ åIJİ +ä¸ļ åĬ¡ +åķ Ĭ +èϽ çĦ¶ +æĭ¥ æľī +äºĴ èģĶç½ij +éĤ£ äºĽ +ä½ł çļĦ +åĨ³ å®ļ +éϤ äºĨ +åĽ¢ éĺŁ +åı¯ æĺ¯ +以 åIJİ +社 åĮº +çļĦ éĹ®é¢ĺ +å¹¶ ä¸Ķ +æķĻ å¸Ī +å°± ä¼ļ +天空 éĥ¨èIJ½ +æľĢ ç»Ī +å½ĵ çĦ¶ +ä¹Ł æľī +ç¡® ä¿Ŀ +æĥ³ è¦ģ +è´Ń ä¹° +人 çļĦ +åIJ ´ +çļĦ åıijå±ķ +ä¸į çŁ¥éģĵ +软 ä»¶ +æĪij们 çļĦ +çζ æ¯į +åī ij +èĢĮ æĺ¯ +å®ī æİĴ +åIJİ æĿ¥ +çļĦ åľ°æĸ¹ +èµ µ +èĢĥ è¯ķ +çªģ çĦ¶ +ä¸Ģå®ļ è¦ģ +åζ ä½ľ +è¯Ħ ä»· +åħį è´¹ +è´¹ ç͍ +绣 ä¸Ģ +çĦ¶ èĢĮ +è¿Ļ 次 +éĿĴ å¹´ +人 ç±» +äº ¦ +让 人 +è´Łè´£ 人 +éĩĩ åıĸ +çļĦ äºĭæĥħ +ä¹Ł ä¼ļ +车 è¾Ĩ +æĽ´ æĺ¯ +强 åĮĸ +æĪij åĢij +以 åīį +ä¼ĺ åĮĸ +å§Ķåijĺ ä¼ļ +åĽ° éļ¾ +å¹´ 度 +ä½į äºİ +æĮĩ åĩº +åĨį æ¬¡ +åĬŀ çIJĨ +æ¯ı 个 +对 æĸ¹ +è¿Ľè¡Į äºĨ +æľĢ é«ĺ +课 ç¨ĭ +身 ä¸Ĭ +æĽ¾ ç»ı +åĮ» çĶŁ +å®ī è£ħ +æľ ± +è¿IJ è¡Į +åıĮ æĸ¹ +æľĢ 大çļĦ +æŀĦ 建 +è¿ŀ ç»Ń +çļĦ å°ı +她 çļĦ +çŃī çŃī +æĶ¹ åĸĦ +åIJĦ ç±» +éģĩ åΰ +æľī çĿĢ +人 çī© +æĢ» æĺ¯ +è¿ħ éĢŁ +åζ å®ļ +å®ĥ 们 +å®ĺ ç½ij +è¿ĺ è¦ģ +ç»Ī äºİ +æĪ¿ åľ°äº§ +è¯ģ æĺİ +èĤ¡ 票 +åºĶ å½ĵ +èĭ± åĽ½ +è¿IJ ç͍ +æľĢ æĸ° +享 åıĹ +让 æĪij +æĻļ ä¸Ĭ +å¾ ŀ +å°ı 说 +å°¤åħ¶ æĺ¯ +è®Ń ç»ĥ +åħ¨ å¸Ĥ +æĮij æĪĺ +æľī çĤ¹ +带 çĿĢ +çļĦ ä¸ľè¥¿ +é£İ æł¼ +é»Ħ éĩij +å¼ķ 导 +æŃ¤ å¤ĸ +æľĢ è¿ij +追 æ±Ĥ +强 è°ĥ +ä¹Ł åı¯ä»¥ +æĦŁ åΰ +èĩª æĪij +çī¹åĪ« æĺ¯ +æĪIJ éĥ½ +éĢIJ æ¸IJ +å¿« ä¹IJ +ä¹ĭ ä¸Ń +æĬķèµĦ èĢħ +ä»ĸ们 çļĦ +æ° ı +å·¥ä½ľ 人åijĺ +äºĨ ä¸Ģ个 +åķ ¦ +ä¸Ģ åĢĭ +åŁº å±Ĥ +æ²Ł éĢļ +第ä¸Ģ 次 +å¹¶ 没æľī +çļĦ å·¥ä½ľ +åľ¨ è¿ĻéĩĮ +æŀ ª +æĶ¯ æĴij +æĹ¶ å°ļ +æĿ¥ åΰ +æĶ¶ è´Ń +éĿ© åij½ +æĺ¯ ä¸įæĺ¯ +讨 论 +ä¸ļ 绩 +å°± èĥ½ +ç«ĭ åį³ +è¡Ĺ éģĵ +åľ¨ ä¸Ģèµ· +æľĪ 份 +é«ĺ 端 +å¾Ī éļ¾ +ä¿Ħ ç½Ĺæĸ¯ +æīĭ 段 +åģļ åĩº +ä¼Ĺ å¤ļ +å®ŀ è¡Į +æīĵ å¼Ģ +游 客 +ä¾Ŀ çĦ¶ +å°± åĥı +离 å¼Ģ +说 éģĵ +æĸ° èĥ½æºIJ +æº ª +äº ķ +令 人 +ä¸Ģ åľº +æĪij æĥ³ +两 人 +èĩ³ å°ij +çļĦ çĶŁæ´» +æĺ¯ 个 +èĭ± è¯Ń +æ²Ĵ æľī +æĢĿ èĢĥ +éĻIJ åζ +åı° æ¹¾ +ä¸Ģ æĹ¦ +çļĦ ä¸Ģ个 +é«ĺ 级 +åĬŀåħ¬ 室 +å¾· åĽ½ +æĪij å°± +å®ļ ä½į +éĢĤ åºĶ +æĮĩ æłĩ +åħ¨ çľģ +ä¸Ĭ è¿° +å®ĥ çļĦ +åĽŀ å®¶ +欧 æ´² +éĵģ è·¯ +é¼ĵ åĬ± +çļĦ å½±åĵį +é«ĺ æł¡ +天 ä¸ĭ +é«ĺ è´¨éĩı +æĿŃ å·ŀ +èµĦ 讯 +æĶ¾ åľ¨ +æľī ä¸Ģ个 +å°± è¦ģ +ä¸Ĭ éĿ¢ +è§£ éĩĬ +éĢIJ æŃ¥ +å°½ 管 +æľī ä»Ģä¹Ī +çļĦ äºĭ +çĻ» è®° +人æ°ij å¸ģ +è§Ĥ ä¼Ĺ +è§Ĥ å¯Ł +ç͵ èĦij +çļĦ åIJĮæĹ¶ +ä½ľ ä¸ļ +宣 å¸ĥ +çļĦ ä½ľç͍ +åĽŀ æĿ¥ +éļ¾ ä»¥ +æīĢæľī çļĦ +å°ı åѦ +æıIJ åīį +æ¤į çī© +åĩ ¯ +ä¸Ĭ äºĨ +å°± åľ¨ +åħĪ åIJİ +æīĭ æľ¯ +éĥ Ń +éĿ¢ åīį +æ¯ķ 竣 +äºĮ æĺ¯ +红 èī² +éĺ³ åħī +èĭ¹ æŀľ +å¾Īå¤ļ 人 +ç»Ļ æĪij +åĵ ¦ +çľ¼ çĿĽ +éł Ń +ä¸Ģ æĺ¯ +åıijå±ķ çļĦ +åıį åºĶ +æĪ¿ å±ĭ +æľŁ å¾ħ +ç§į æ¤į +æĸĩ åѦ +åį³ åı¯ +é¦ĸ 次 +èĭ± éĽĦ +å¤ļ 次 +åĮħ è£ħ +æ²³ åįĹ +ä¹ĭéĹ´ çļĦ +ä»į çĦ¶ +åIJ¬ åΰ +èij£äºĭ éķ¿ +è§Ħ åĪĻ +ä¸Ģ 份 +大 ä¼Ĺ +使 å¾Ĺ +è¿Ľ åı£ +ä¸Ģ çīĩ +æĢ§ çļĦ +çļĦ 大 +æĪij æĺ¯ +äºĴ åĬ¨ +æ° £ +çļ Ĩ +åħ¬åı¸ çļĦ +ä¸Ģ è¾¹ +åıĬ åħ¶ +èī¯ å¥½çļĦ +æĭĵ å±ķ +å½ĵ å¹´ +广 åľº +åģļ äºĨ +åŁº äºİ +æıIJ éĨĴ +åħĦ å¼Ł +èĢģ æĿ¿ +è¿ij æĹ¥ +çĬ¶ åĨµ +注 éĩį +åĪļ åĪļ +è°ĥ çłĶ +å¿ĥ ä¸Ń +æĬĬ æı¡ +éļı åIJİ +ä¸į å¤Ł +åĪĽ ä½ľ +ç«Ļ åľ¨ +缸 äºĴ +çĸ«æĥħ éĺ²æİ§ +å¹´ 代 +带 åĬ¨ +伤 害 +竣 çĦ¶ +å¼ķ è¿Ľ +ç´¯ 计 +让 æĪij们 +åĽŀ æĶ¶ +æĬ¥ åIJį +åĬ© åĬĽ +èģĶ çĽŁ +çŃĸ çķ¥ +åij¨ è¾¹ +åĭ Ĵ +è¿ĺ åľ¨ +æµģ éĩı +寻 æī¾ +ç͵ åĬĽ +èι èζ +è¿ĺ èĥ½ +æĭħ ä»» +çļĦæĥħåĨµ ä¸ĭ +çļĦ åİŁåĽł +缺 ä¹ı +çIJĥ åijĺ +å²ģ çļĦ +çĶ· åŃIJ +å·¥ èµĦ +è¿ijå¹´ æĿ¥ +åij Ģ +æıIJä¾Ľ äºĨ +她 们 +å®¶ åħ· +çĩ ķ +è½» æĿ¾ +æł¡ åĽŃ +èĢĥ æł¸ +åį± éĻ© +åħļ ç»Ħç»ĩ +æĢ» ç»ıçIJĨ +çļĦ æĸ° +çİ» çĴĥ +è¿Ļ ä½į +对 æŃ¤ +å®¶ 人 +çļĦ è¦ģæ±Ĥ +温 度 +æĮĩ æķ° +缴 åΰ +æŃ¤ æĹ¶ +æ¹ĸ åįĹ +éĥ½ è¦ģ +ä½ľ åĩº +åIJĦ ä½į +èĢĥ çĶŁ +ä¾Ŀ æį® +说 è¯Ŀ +æĪij ä¹Ł +å·¥ åİĤ +åıĺ æĪIJ +ä»ĸ 人 +æĪij è§īå¾Ĺ +åIJĦ 级 +ä¼łå¥ĩ ç§ģæľį +ä¸Ĭ åįĩ +好 åĥı +åĬł éĢŁ +äºĮ åįģ +è¢ ģ +è£ħ 饰 +éĥ½ èĥ½ +ä¸Ģ å¼ł +åĬ¨ æĢģ +å¹´ çļĦ +è¿Ļ å°±æĺ¯ +ä¹Ł è¦ģ +èµĦ æł¼ +æĪĺ äºī +æĦŁ è°¢ +åŁ¹ èĤ² +天 æ°Ķ +女 士 +åı¯èĥ½ ä¼ļ +çļĦ 产åĵģ +ä¹Ł å°± +主è¦ģ æĺ¯ +åĪº æ¿Ģ +ç»Ļ ä½ł +大 æķ°æį® +åĮ» åѦ +åĪ ¤æĸŃ +ä»ĸ 说 +表 æ¼Ķ +äºļ æ´² +ä¸ĵ é¢ĺ +ç«ŀäºī åĬĽ +éĤ£ æł· +å±ķ å¼Ģ +å¹³ æĹ¶ +æİ¥ ä¸ĭæĿ¥ +æī¿ 诺 +æ³ķ åĽ½ +åħ³ å¿ĥ +ä¼ļ æľī +éĤĢ è¯· +é¢Ħ éĺ² +对 æİ¥ +好 äºĨ +åĴ± 们 +çļĦ æĦŁè§ī +æĢĿ è·¯ +éĥ½ 没æľī +çļĦ æĸ¹æ³ķ +女 åŃIJ +åı¸ æ³ķ +è¿ĺ ä¼ļ +è¶ĬæĿ¥è¶Ĭ å¤ļ +åĽł çĤº +æµ· åįĹ +人 æķ° +å°Ĩ ä¼ļ +ä¸ļ 主 +é¤IJ 饮 +å±ħ ä½ı +åıij åĩº +è¿ij æľŁ +å¼ķ é¢Ĩ +æľºåύ 人 +åĩºæĿ¥ çļĦ +çľĭ è§ģ +ä¿ Ĭ +让 ä»ĸ +ä¸į æĥ³ +å·¥ä½ľ çļĦ +è¡¥ åħħ +æµ ħ +çī¹ å¾ģ +ä¸Ĭå¸Ĥ åħ¬åı¸ +ç¾İ é£Ł +广 西 +æ¯ı ä¸Ģ个 +èIJ½ åľ° +åĵģ ç§į +åĴĮ è°IJ +å½» åºķ +é«ĺ èĢĥ +æĺ¨ 天 +åīį å¾Ģ +çĽij æµĭ +çϾ 度 +åľ¨ ä¸ŃåĽ½ +çļĦ éľĢæ±Ĥ +亿 ç¾İåħĥ +åѦ æľ¯ +æĶ¶ åΰ +æĿ¿ åĿĹ +ä¸Ģ 段 +æŀĦ æĪIJ +ä¼ģä¸ļ çļĦ +表 éĿ¢ +æķ´ çIJĨ +ç»ĵ å©ļ +人 å®¶ +åģľ æŃ¢ +åѦ ç§ij +æĺ¾ å¾Ĺ +ä¼ij æģ¯ +é¢Ħ æľŁ +æĪĸ æĺ¯ +çļĦ 主è¦ģ +åºĶ 对 +èµ° äºĨ +ä¸Ń éĹ´ +èµ° è¿Ľ +åijĪ çݰ +æIJŃ éħį +é¹ ı +æĺ¯ åĽłä¸º +æĥħ 绪 +å®ļ æľŁ +社ä¼ļ 主ä¹ī +çŃī 级 +磼 çĽ¾ +é£ŀ æľº +èĩ³ ä»Ĭ +æĶ¶ éĽĨ +çļĦ æķħäºĭ +åĪĩ å®ŀ +å®ŀçݰ äºĨ +å½¢ æĪIJäºĨ +åįĹ æĸ¹ +ä¸Ń åѦ +æµ· æ´ĭ +åIJ¦ åĪĻ +æĭį æijĦ +大åѦ çĶŁ +åĩºçݰ äºĨ +æĦı å¤ĸ +ä¹Ł èĥ½ +çļĦ èĥ½åĬĽ +åĿIJ åľ¨ +åĪĻ æĺ¯ +èĢĥ å¯Ł +å°Ĭ éĩį +éĺ² æŃ¢ +ç´§ å¼ł +读 书 +åĩº è¡Į +å°± æľī +å±¥ è¡Į +çݰ代 åĮĸ +åĽ½ åĬ¡ +åĽ½åĬ¡ éĻ¢ +ç»´ ä¿® +åİŁ åĪĽ +æĺ¯ æĮĩ +ä¼ij éĹ² +çĤ ® +æĸ° æĹ¶ä»£ +éĢĻ åĢĭ +ä¸į æķ¢ +å®Į ç¾İ +ç»Ĩ èĬĤ +éŃ ı +èͬ èıľ +é¢Ĩ导 çıŃåŃIJ +è¶ħ 级 +è¡Į æĥħ +人工 æĻºèĥ½ +åį° åº¦ +åŁºç¡Ģ 设æĸ½ +åıĪ æĺ¯ +èᝠçī© +åIJ¸ æĶ¶ +åį´ æĺ¯ +éĥ İ +å¥ĸ åĬ± +çļĦ æľĭåıĭ +ä¿Ŀ çķĻ +è§Ħ å¾ĭ +æĸ° çĸĨ +è¿ĺ åı¯ä»¥ +æİ¥ è¿ij +æŃ¤ åīį +æī¹ åĩĨ +æĢİä¹Ī æł· +çļĦ ä½įç½® +ä¸Ģ åĿĹ +æĭĴ ç»Ŀ +顾 客 +ä¹Ł åľ¨ +ä¸Ģ çĶŁ +éĥ¨ éĺŁ +å¹´ åīį +æĸ¹éĿ¢ çļĦ +å°Ŀ è¯ķ +羣æŃ£ çļĦ +ç¦ģ æŃ¢ +è¿ĺ 没æľī +æ°ij çĶŁ +èµ° åIJij +èĦ¸ ä¸Ĭ +å½ĵ 天 +éĽĨåĽ¢ åħ¬åı¸ +çļĦä¸Ģ ç§į +西 æĸ¹ +åĽŀ åºĶ +ä¸Ģ 声 +常 常 +æıIJ åΰ +èħ¾ 讯 +æľį è£ħ +为 ä½ķ +äºij åįĹ +å°± ç®Ĺ +ä¼ł æī¿ +åıį èĢĮ +ä¸ĩ åIJ¨ +è´¢ 产 +å¦Ĥ ä¸ĭ +æĹ¥ åīį +åİŁ æľ¬ +æľĢ éĩįè¦ģçļĦ +认 è¯ģ +ä¸Ģ éģĵ +ä¿¡æģ¯ åĮĸ +å¾Ĺ åΰäºĨ +é̲ è¡Į +æĪij è¦ģ +éĢļ ä¿¡ +室 åĨħ +èµļ éĴ± +æĶ¶ èĹı +è§£åĨ³ æĸ¹æ¡Ī +æĪ¿ 产 +çĭ ¼ +æ´» åĬĽ +ç»ıæµİ åıijå±ķ +çŃī å¾ħ +ä¹Ł å¾Ī +åĿ ij +å¾Ī 好çļĦ +éļ¾ åº¦ +ä¸į å¦Ĥ +人æ°ij æĶ¿åºľ +åĩº åıij +åīį æľŁ +æ¼Ķ åijĺ +女 çĶŁ +èģļ çĦ¦ +审 计 +é¢Ħ æµĭ +ä¾Ŀ æīĺ +äºĶ å¹´ +è¡¥ è´´ +æ¸ħ æĻ° +éª Ĥ +çľĭ èµ·æĿ¥ +çļĦ åŃ©åŃIJ +é¢ij éģĵ +ä½ı å®ħ +éĿ¢ åIJij +æľĢ ä½İ +æĹ¢ çĦ¶ +ä¸Ģ å¥Ĺ +æķ° åѦ +群 ä½ĵ +åĮĹ京 å¸Ĥ +å±ħ çĦ¶ +æ°Ľ åĽ´ +éĢĶ å¾Ħ +çļĦ åŁºç¡Ģä¸Ĭ +èģĮ è´£ +åı¯èĥ½ æĺ¯ +åĨĽ äºĭ +æĪIJ æķĪ +åŃ©åŃIJ 们 +计ç®Ĺ æľº +èµ ¤ +产ä¸ļ åıijå±ķ +å·¨ 大çļĦ +å·¥ 人 +çĶŁ éķ¿ +éĥ½ åı¯ä»¥ +çļĦ æľºä¼ļ +èµĦ è´¨ +çĹĽ èĭ¦ +ç²ī ä¸Ŀ +å¢ ĵ +å¹³ å®ī +管 éģĵ +è·Ł çĿĢ +饮 é£Ł +åķĨ å®¶ +å¤ļ å®¶ +åı¸ æľº +åºĶ该 æĺ¯ +éĢı éľ² +认 å®ļ +è¡Įä¸ļ çļĦ +çļĦ ä¼ģä¸ļ +æ¯ı ä¸Ģ +èĮĥåĽ´ åĨħ +è¾ĥ 大 +è´ ¤ +大 èµĽ +å¤ļ äºĨ +é¸ ¿ +临 åºĬ +åľ¨ è¿Ļ个 +çļĦ åĨħ容 +éĶĢ éĩı +å¾Ī å°ij +åŃ Ł +ç»´ æĮģ +åĴĸ åķ¡ +æľ¬ åľ° +èī² å½© +å¹¶ éĿŀ +èĢĮ å·² +温 æļĸ +èIJ § +æĬĵ ä½ı +èĢĮ ä¸įæĺ¯ +åĸ Ĭ +çļĦ åħ³ç³» +çī© åĵģ +éĤ£ æĺ¯ +åĨľ 产åĵģ +è¿Ļ æĹ¶ +å©ļ å§» +æ°´ æŀľ +æĶ¶ èİ· +ä»ĺ åĩº +客æĪ· 端 +æ¼Ķ åĩº +åħ¨ æĸ° +è¿Ļ ä¹Łæĺ¯ +æĺ¯ çͱ +è§Ĥ 念 +æľī 个 +éĢł åŀĭ +èĥľ åĪ© +ä¸ī æĺ¯ +è¶ħ å¸Ĥ +åħļ建 å·¥ä½ľ +æĶ¾ å¿ĥ +线 è·¯ +æĭĽ çĶŁ +åIJĥ é¥Ń +è½ ī +å°½ éĩı +è§ģ åΰ +åIJĮæ¯Ķ å¢ŀéķ¿ +åįİ ä¸º +æĪij å¸Ĥ +æıIJ åĩºäºĨ +æ°ij èѦ +åįļ çī© +åįļçī© é¦Ĩ +è¯ļ ä¿¡ +åīį éĿ¢ +å±± 西 +è¾ħ åĬ© +转 ç§» +æĽ´ 为 +丰å¯Į çļĦ +åį ¢ +å¿« éĢĴ +æĺ¾ èijĹ +çī© èµĦ +åΰ è¾¾ +æľī åĪ©äºİ +åij Ĩ +åŃ©åŃIJ çļĦ +ä¸į ä½Ĩ +çłĶç©¶ éĻ¢ +çͳ æĬ¥ +æļ ¨ +æ°ij éĹ´ +åį » +çļĦ å£°éŁ³ +å¸Ĥåľº çļĦ +ä¸Ģ åı¥ +çľģ 级 +æĿ¥ çļĦ +åĵª 个 +æīį ä¼ļ +åĪĨ éħį +èĶ ¡ +ä»ĸ åľ¨ +åħ± æľī +å¡ ĺ +èĴ Ĥ +éľ į +åıĤ è§Ĥ +ä¸Ī 夫 +ä¾Ŀ éĿł +æľī æĹ¶ +äºĨ å¾Īå¤ļ +ä¸ĸçķĮ æĿ¯ +å®¶ æĹı +ä¸į éľĢè¦ģ +大 å¸Ī +èŀį åħ¥ +éĿŀ æ³ķ +çĹħ 人 +åIJİ æľŁ +大家 éĥ½ +ç½ij åĿĢ +åİŁ æĸĻ +便 å®ľ +æ¶ Ľ +仿 ä½Ľ +å·® è·Ŀ +åı¦ä¸Ģ æĸ¹éĿ¢ +产åĵģ çļĦ +èµ « +æĥħåĨµ ä¸ĭ +éĴ¢ éĵģ +æľ¬ ç«Ļ +纳 åħ¥ +å·² æľī +æľī 没æľī +ä¼° 计 +é£ ĺ +æľŁ è´§ +åĢĭ人 è³ĩæĸĻ +ä¸ĵä¸ļ çļĦ +çĪĨ åıij +èĩ´åĬĽ äºİ +çİ°åľ¨ çļĦ +æľī åĵªäºĽ +çł´ åĿı +æķ°åŃĹ åĮĸ +åľ° éĿ¢ +é»ij èī² +å¹¼åĦ¿ åĽŃ +çļĦ ç²¾ç¥ŀ +äº Ń +导 æ¼Ķ +çݰ æľī +æŃ¦ åύ +èĭı å·ŀ +çİ Ħ +æ±Ł 西 +å»¶ 伸 +论 æĸĩ +è¾ĥ 为 +çİ© æ³ķ +é¼ İ +åIJĮ æŃ¥ +éĩĬ æĶ¾ +æĽĿ åħī +åĿļ åĨ³ +å§Ķ æīĺ +å°Ĩ åľ¨ +äºĪ 以 +ä½ľ æĸĩ +èĢĮ åľ¨ +ä¼ĺ åħĪ +åĽŀ åİ» +ä¿® å¤į +åĽ½åĨħ å¤ĸ +çŃĸ åĪĴ +åıij æĶ¾ +å¿ĥ æĥħ +çļĦ åİĨåı² +éĿ¢ è¯ķ +举 åĮĹ +ä¿¡ åı· +ç²® é£Ł +è¯ģ 书 +æŁIJ äºĽ +è¿IJ ä½ľ +åĨ² åĩ» +çĥŃ çĤ¹ +æĹ¶ æĹ¶ +æĹ¶æĹ¶ 彩 +åľ° çĤ¹ +ä¸Ģä½ĵ åĮĸ +éļ¾ é¢ĺ +æĽ ° +ç«ĭ åĪ» +æĺ¯ éĿŀ常 +åħ± åĴĮ +åħ±åĴĮ åĽ½ +æ¿Ģ åĬ± +æľīæķĪ çļĦ +å¤Ħ ç½® +该 åħ¬åı¸ +æ£Ģ éªĮ +èѦ æĸ¹ +è´ ¾ +äºĨä¸Ģ ä¸ĭ +ä»Ĭ åIJİ +çħ ® +ç͍ åĵģ +读 èĢħ +æĪij åľ¨ +åĽŀ å¤į +ä¸Ģ 座 +è¿ĺ 没 +å®ļ åζ +没 æĥ³åΰ +å¤ ¹ +ä¼ł éĢĴ +ä¸Ģ 款 +强 大çļĦ +çļĦ è¡Į为 +å¤ı 天 +åıijåĬ¨ æľº +é¢ĨåŁŁ çļĦ +å®ŀéªĮ 室 +ä¸Ģ æĬĬ +æĺ¯ 为äºĨ +éĻķ 西 +æĭħ ä¿Ŀ +è¾¾ æĪIJ +è¦ģ æĺ¯ +æĺİ å¤© +ç»Ļ ä»ĸ +建ç«ĭ äºĨ +ä¸į è¡Į +ä¸Ń æĸĩ +åľ° 说 +åIJİ çļĦ +çĽij æİ§ +éĢ ¸ +æĢ» éĥ¨ +æľ¬ æĸĩ +é¹ ¿ +æĻ¯ è§Ĥ +çļĦ 缮æłĩ +èĽ ĩ +åĨ ¯ +ä¸Ń åĮ» +æķĪ åºĶ +产 éĩı +åŃ Ŀ +è´¦ æĪ· +è¿Ŀ åıį +èij£äºĭ ä¼ļ +京 举 +责任 ç¼ĸè¾ij +åķı é¡Į +çα å¿ĥ +èѦ å¯Ł +é¤IJ åİħ +å¸Ĥ æĶ¿åºľ +天 天 +æĸ° é²ľ +éĥij å·ŀ +è¶ħ è¶Ĭ +å½ Ń +çŁ¥è¯Ĩ 产æĿĥ +åĽŀ å¿Ĩ +è·¯ 线 +å»ī æ´ģ +éĿĴ å°ijå¹´ +åıĸå¾Ĺ äºĨ +çľĭ åΰäºĨ +é¦ ¬ +ç²¾ åĵģ +åľ° éĵģ +æĮģ æľī +ä¸ĭ äºĨ +æľī æĹ¶åĢĻ +ä¸Ģ 人 +æĴ Ĵ +ä»Ķ ç»Ĩ +èĢģ åħ¬ +äºĭå®ŀ ä¸Ĭ +èģĶ èµĽ +ä¾ĽåºĶ éĵ¾ +é¢Ħ ç®Ĺ +åζéĢł ä¸ļ +å®īåħ¨ çĶŁäº§ +俱 ä¹IJ +俱ä¹IJ éĥ¨ +çļĦ æł¸å¿ĥ +æīĵ ç®Ĺ +å½± çīĩ +æIJŃ å»º +ä¹Ł ä¸įä¼ļ +æĭħ å½ĵ +å±Ĥ éĿ¢ +åѦ åijĺ +临 æĹ¶ +缸 ç»ĵåIJĪ +对 æ¯Ķ +ä»ĸ æĺ¯ +æĸ° åĮº +è¿Ľ åİ» +çϾ å¹´ +ä¿ © +å°½ å¿« +ç͵åŃIJ åķĨåĬ¡ +æĽ´ æľī +æ¸ħ çIJĨ +åı¦ ä¸Ģ个 +åĤ » +ä»Ģä¹Ī æł·çļĦ +æĺ¯ æľĢ +åij¨ å¹´ +å¾Ī 容æĺĵ +åĽ¢ ç»ĵ +ç´ Ħ +æĹ© å·² +çļĦ åıĺåĮĸ +éľ ŀ +æĹ¥ ä¸ĬåįĪ +失 åİ» +ä¸Ń åľĭ +çļĦä¸Ģ äºĽ +å°ı åŃ© +ä¸ĭ è·Į +éĶ» çĤ¼ +é ij +éij « +å¿ĹæĦ¿ èĢħ +èĤ¡ å¸Ĥ +èµĽ äºĭ +许åı¯ è¯ģ +åı¯ æĮģç»Ń +åijĬè¯ī è®°èĢħ +éĢ» è¾ij +å¼ķ åħ¥ +çļĦ è¿ĩç¨ĭä¸Ń +è§Ĩ è§ī +èĩªæ²» åĮº +è¯ģ æį® +è£ħ ç½® +第ä¸ī æĸ¹ +å¹´ æĿ¥ +å¹¿ä¸ľ çľģ +带æĿ¥ äºĨ +éķ¿ æ±Ł +访 éĹ® +å·® ä¸įå¤ļ +æĺ¯ æĪij +éģŃ éģĩ +æĬĵ 好 +é«ĺ è¾¾ +å¹¶ åľ¨ +èĩª è§ī +ä¾ĽåºĶ åķĨ +æĥħ æĦŁ +ä½ı äºĨ +çļĦ èģĮä¸ļ +çļĩ å¸Ŀ +西 éĥ¨ +åĴĮ å¹³ +çļĦ åĬĽéĩı +æ± ª +åħħåĪĨ åıijæĮ¥ +æĬķ è¯ī +èµ· åΰ +äºĴ 缸 +æ¾³ éŨ +æİ¥ åΰ +æ°´ æ³¥ +模 åŀĭ +ä¸Ģ åįĬ +ç§© åºı +æĪij们 åľ¨ +æī¿ 认 +ä¸Ģ éĥ¨åĪĨ +åįł æ¯Ķ +å¦ĩ 女 +ç² ĺ +äºĨè§£ åΰ +ä¸Ģå®ļ ä¼ļ +åIJĦ 大 +èµ° åĩº +为 大家 +é«ĺ éĵģ +åı¯ä»¥ åľ¨ +ä½Ĩ åľ¨ +çĶŁæĢģ çݯå¢ĥ +èı ¯ +çļĦ ä»·æł¼ +麻 çĥ¦ +æ¿Ģ åıij +éĤ£ å°± +çļĦ æł·åŃIJ +为 æŃ¤ +天 åľ° +çļĦ 缮çļĦ +åĢº åΏ +å·² ç¶ĵ +åĽĽ 大 +åIJĮæĹ¶ ä¹Ł +å½¼ æŃ¤ +æĭ¿ åΰ +åIJ« éĩı +åįģ 大 +éļ¾ éģĵ +å¼ Ĺ +ä¸Ģ 段æĹ¶éĹ´ +çħ§ 顾 +æķ°æį® æĺ¾ç¤º +æĪIJ为 äºĨ +èµ° åΰ +æľ¬ åħ¬åı¸ +ç»Ī 端 +ä¹Ł ä¸įæĺ¯ +头 åıij +大 约 +é£İ æĻ¯ +æ¶Ī èĢĹ +审 æŁ¥ +äºī åıĸ +æ³ķ æ²» +äºĭ çī© +ç¼ĵ è§£ +æĥ ¨ +缸åºĶ çļĦ +çļĦ æķĪæŀľ +åıį å¤į +åıijçĶŁ äºĨ +éĢĻ äºĽ +ç»ĥ ä¹ł +åݨ æĪ¿ +å¼Ģ æĭĵ +欣 èµı +夫 妻 +ä¸į ä¸Ģæł· +产 èĥ½ +èĬ¯ çīĩ +è¦ģ ç´ł +åıį 对 +çİĩ åħĪ +è´§ çī© +æĹ¥ ç͵ +ä½ľ å®¶ +æĶ¹ è¿Ľ +æĪIJ åĪĨ +åĽł èĢĮ +åĩı èĤ¥ +æ½ ĺ +å±±ä¸ľ çľģ +åĬ Ŀ +åŁ ĭ +æŃ¦ è£ħ +æ±ĩ æĬ¥ +ä¸Ģ个 æľĪ +çĥŃ éŨ +大 éģĵ +æ´» åĭķ +éĥ½ å¾Ī +ç͵ 梯 +ç´§ æĢ¥ +åĢº åĬ¡ +客 æľį +ä¸Ģ éĥ¨ +ä½ł æĺ¯ +çݰ çĬ¶ +æŃ£ç¡® çļĦ +ä¹ĭ å¤Ħ +ç¼ĸ åζ +ä½ł åı¯ä»¥ +çŃī åľ° +èİ ī +对 è¯Ŀ +æ·ĺ å®Ŀ +è°ĥ èĬĤ +æİĴ æĶ¾ +åºĵ åŃĺ +ç´ ļ +çļĦ ä¼ĺåĬ¿ +æĿĥ å¨ģ +以ä¸ĭ ç®Ģç§° +ä¸Ģ 项 +èģļ éĽĨ +ä¼łç»Ł çļĦ +æ·· åIJĪ +è¿Ļä¸Ģ çĤ¹ +ä¸Ģ çľ¼ +æĹł éĻIJ +èİ·å¾Ĺ äºĨ +éĢī æīĭ +åζ åĵģ +åįı ä½ľ +çĭ¬çī¹ çļĦ +ä¸Ģ 级 +è¿Ļ个 éĹ®é¢ĺ +æĸ Į +æĺ¯ æĪij们 +æķĮ 人 +æ¸ħ æ´Ĺ +ä¸Ģ缴 åľ¨ +å°ı ç±³ +çļĦ è¿ĩç¨ĭ +åľ¨ åĮĹ京 +ä¸Ģ æĶ¯ +æĹ© ä¸Ĭ +æĸĩ èīº +ç¦ı åĪ© +é£Ł ç͍ +æĦŁ åĬ¨ +åħ¨ ç¨ĭ +æĶ¯ åĩº +æĸ° 建 +å¸ ķ +æĺ¾ çĦ¶ +羣 çļĦæĺ¯ +æĸ°éĹ» ç½ij +èĥ½ åIJ¦ +åįı åĬ© +亲 èĩª +å¾Ī æľī +çϼ å±ķ +æĦı 大 +æĦı大 åĪ© +ç͵ ç½ij +æĹ¥ çĽĬ +çĨ ± +èĤĮ èĤ¤ +çĶ· æĢ§ +ç»Ħ 建 +çŃī éĹ®é¢ĺ +æ¶Ī éϤ +æĬ¤ çIJĨ +å¡ij æĸĻ +ä¹Į åħĭ +ä¹Įåħĭ åħ° +åķĨ æłĩ +çIJ ³ +æĸ° æīĭ +çļĦ çī¹çĤ¹ +åĴ ¬ +å½ĵ ä¸ĭ +设计 å¸Ī +èµĶ åģ¿ +第 åįģ +æĻºèĥ½ åĮĸ +å¼Ģåıij åĮº +åı¯ä»¥ éĢļè¿ĩ +åħ±äº§ åħļ +åİī 害 +çģµ æ´» +æĹ¶ åħī +éĥ¨ ä½į +人 æĸĩ +è¿Ľ æĿ¥ +ä¹ĭ æīĢ以 +ä¸ī åįģ +çļĦ åѦçĶŁ +éĺ² æĬ¤ +åĽ½ 产 +æ·±åľ³ å¸Ĥ +éĤ£ å°±æĺ¯ +åΰ ä½į +çī¹ æľĹ +çľĹ æĻ® +å®ŀ æĹ¶ +åı° çģ£ +èĢĮ ä¸į +æĮĩ å®ļ +åĿ Ŀ +èħIJ è´¥ +çī¹ å®ļ +å¢ŀ éĢŁ +æłĩ çѾ +æĪ¿ ä»· +æĦ ģ +贯彻 èIJ½å®ŀ +æĢ§ è´¨ +çłĶç©¶ çĶŁ +ç¾İ 容 +æī¹ è¯Ħ +ç©¶ 竣 +人åĬĽ èµĦæºIJ +éĸĭ å§ĭ +åĽŀ å½Ĵ +èIJ¥ åķĨ +èIJ¥åķĨ çݯå¢ĥ +ä¸ŃåĽ½ 人 +çļĦ åŁºæľ¬ +è¯Ŀ é¢ĺ +æłĩåĩĨ åĮĸ +西 èĹı +åĭ ¾ +çļĦ 设计 +ç®Ģåįķ çļĦ +å¤į åζ +æ¸IJ æ¸IJ +以 å¤ĸ +èģĶ åĬ¨ +两 次 +æĢ§ åĴĮ +æĽ´ 大 +çļĦ åIJįåŃĹ +éŁ ¦ +ä½ł è¦ģ +å¢ĥ å¤ĸ +æĹ© æľŁ +åĪĿ æŃ¥ +è´¦ åı· +害 æĢķ +æĺ¨ æĹ¥ +åĪļ æīį +ç¥ŀ ç§ĺ +ç²¾ å¿ĥ +æµģ éĢļ +åħ¨ æĸ¹ä½į +以 å¾Ģ +ä¹Ł å°Ĩ +æĺ¯ ä¸ŃåĽ½ +åĽ½å®¶ 级 +å°Ĩ åĨĽ +æij Ĭ +æľĢ 为 +第ä¸Ģ æĹ¶éĹ´ +æ¶Ī æ¯Ĵ +å°Ĩ äºİ +å¨ģ èĥģ +èĭ± æĸĩ +æīĭ ä¸Ń +çIJĥ è¿· +è§Ĥ çľĭ +离 å©ļ +æľ¬ åľŁ +åĪĨ æķ£ +æĻ ´ +è¦ģ 注æĦı +浪 è´¹ +管 æİ§ +åĩº åĶ® +æĢ» è£ģ +ä¸Ģ éĺµ +å¨ ĩ +äºĶ 个 +å½ĵ åĪĿ +çºł 纷 +ä¸ĵ ç͍ +å¤ĩ æ¡Ī +åĪĿ æľŁ +å®ĥ æĺ¯ +åĮº åĿĹ +åĮºåĿĹ éĵ¾ +大 è¿ŀ +è¿Ļ ç±» +åıĺ æĪIJäºĨ +éĤĦ æĺ¯ +åįļ 客 +çı¾ åľ¨ +ä¸Ģ æĸ¹ +å®ĮæĪIJ äºĨ +è¿Ļ个 æĹ¶åĢĻ +åħ¨ å¹´ +ä¸Ĭ 线 +ç½ IJ +ç«ŀ èµĽ +åĩºçīĪ ç¤¾ +åĵ¥ åĵ¥ +å¯ « +å¾Ĺ 以 +èĬ± åĽŃ +äºĨ èµ·æĿ¥ +èĦ±è´« æĶ»åĿļ +çļĦ åİŁåĪĻ +讲 è§£ +æ¶Ī åĮĸ +æį٠害 +æļĤ æĹ¶ +å¾Ĺ çŁ¥ +éĢĤ ç͍ +éŨ åºĹ +è§£ 读 +æĻ® åıĬ +人æ°ij æ³ķéĻ¢ +åī¯ ä¸»ä»» +å¿ĥ çģµ +è¯Ĭ æĸŃ +ç¾İ 女 +æŁ ¯ +å¹´ 以æĿ¥ +æ´» è·ĥ +åĢŁ åĬ© +åħ± 建 +è¯ī 讼 +æĶ¾ æĿ¾ +çªĹ åı£ +ä¼ģ æ¥Ń +åĬł æĭ¿ +åĬłæĭ¿ 大 +ä¹° äºĨ +主 æµģ +æĩĤ å¾Ĺ +å°Ĩ åħ¶ +éĢı æĺİ +å·¥ä½ľ ä¸Ń +èĤ¡ ä»· +æ¡£ æ¡Ī +没æľī ä»»ä½ķ +åijĬ çŁ¥ +å¹´ åĪĿ +æĹ¥ ä¸ĭåįĪ +åİĤ åķĨ +èĬĤ å¥ı +主 导 +è£ Ŀ +åħ³éĶ® è¯į +èģĬ 天 +åĨĻ ä½ľ +æĶ¹éĿ© å¼ĢæĶ¾ +æľī æľĽ +éĢļ æĬ¥ +èIJ Į +æĢ» é¢Ŀ +çŁŃ æľŁ +ä¸Ģ çķª +çĶŁæ´» çļĦ +åĮĸ çļĦ +æĺ¥ 天 +è¿Ļ åľº +æĸ°å¼Ģ ä¼łå¥ĩ +æĺ¯ è¦ģ +å°ļ æľª +åıĺ æĽ´ +ä¸Ģ åij¨ +客 è§Ĥ +æĹ¥ èĩ³ +é¹ ° +çİ ² +å°Ĩ æĿ¥ +客 人 +åıĺ éĿ© +说 äºĨ +åİŁ çIJĨ +èģĮ åĬ¡ +åıĪ æľī +ä¸Ģ åı¥è¯Ŀ +æĦŁ åıĹåΰ +ç¬Ķ èĢħ +ç§» æ°ij +西 åįĹ +ä¹ĥ èĩ³ +æŃ£ è§Ħ +åĪĿ ä¸Ń +çĬ ¬ +å½ĵ äºĭ +å½ĵäºĭ 人 +æĪij们 è¦ģ +åħ¥ åı£ +éĤ£ æĹ¶ +æľīéĻIJ 责任 +å°ij 女 +è¿Ļä¹Ī å¤ļ +åĪĨ åħ¬åı¸ +å®ĩ å®Ļ +çļĦ éĢīæĭ© +å§IJ å§IJ +åıij èµ· +è» į +æĽ´å¥½ åľ° +éĻĨ ç»Ń +æľ¬ æľįåĭĻ +å« © +èµ¶ ç´§ +èĦĤ èĤª +第äºĮ 天 +æĪij ä¼ļ +两 ä½į +æķ ² +åħ¬å®ī æľºåħ³ +ç§ijæĬĢ åĪĽæĸ° +å°º 寸 +è¾IJ å°Ħ +å®Ĺ æķĻ +转 æį¢ +åĩº çİ°åľ¨ +ä¸Ģ é¢Ĺ +æľŁ éĻIJ +åIJĮåѦ 们 +åĮĹ æĸ¹ +ä½ł å°± +ä¸Ģ带 ä¸Ģè·¯ +èĢģ å©Ĩ +游æĪı çݩ家 +çļĦ ç»ĵæŀľ +è¡¥ åģ¿ +å¤ĸ è´¸ +对 å¾ħ +ç»´ çĶŁç´ł +ç»ıéĶĢ åķĨ +è¿ĺ å°Ĩ +åŃIJ 女 +æĽ´ é«ĺ +ä¸į 大 +éī´ å®ļ +让 ä»ĸ们 +æīĢè°ĵ çļĦ +æŃ» äºĨ +帮 æī¶ +åĵ² åѦ +以ä¸Ĭ çļĦ +çļĦ åħ³éĶ® +æĹ© å°± +æĬ¥ ä»· +éģµ å®Ī +æī© å¼ł +æĺ¯ å¾Ī +å¼Ģ éĢļ +æĸ° åĬł +æĸ°åĬł åĿ¡ +ç¿» è¯ij +询 éĹ® +é¸ Ń +ä½ĵ åĨħ +两 个人 +çĪ ¹ +éľ ľ +乡æĿij æĮ¯åħ´ +çĿ¡ è§ī +å®ĺ åijĺ +åĪĽ å§ĭ +åĪĽå§ĭ 人 +ä¼Ĺ 人 +åį³ ä¾¿ +çĸ« èĭĹ +ä¼ģä¸ļ å®¶ +æ¸ £ +ç²¾ åĬĽ +å¤ĸ éĥ¨ +èģª æĺİ +è¿Ļ ä¹Ł +å½ķ åıĸ +åĨ² çªģ +åħ¨ 身 +åŃ£ èĬĤ +忽 çĦ¶ +çļĦ æĢģ度 +åĤ¨ å¤ĩ +ä¿Ŀ åħ» +çļĦ æĥ³æ³ķ +ä¸Ĭæµ· å¸Ĥ +æIJº æīĭ +çļĦ ä¿¡æģ¯ +åķĨ åľº +çļĦ æĢĿæĥ³ +æĿĥ åĬĽ +毫 æĹł +æĢĢ åŃķ +硬 ä»¶ +åĨħ èĴĻåı¤ +æİ¢ 讨 +åħ» çĶŁ +çļĦ 表çݰ +空 ä¸Ń +æģIJ æĢĸ +å¾Ī é«ĺ +ç»ıæµİ 社ä¼ļ +ä¸Ĭ æĿ¥ +å»¶ ç»Ń +éĩį å¤į +éĺ² èĮĥ +çļĦ å½¢å¼ı +æľĪ åºķ +èĢģ 年人 +绿 åĮĸ +å±± åĮº +æĭ¿ åĩº +æĹħ 客 +æĽ´ æį¢ +åħ¬ 主 +èĬĤ 约 +åħ¨ åİ¿ +åĽŀ æĬ¥ +çIJĨ æĢ§ +çĸ¯ çĭĤ +æ¶ī å«Į +åī§ æĥħ +åĨ¬ åŃ£ +åIJİ ç»Ń +è¿Ļæĺ¯ ä¸Ģ个 +æ¼Ķ 讲 +ä¸Ģ å±Ĥ +æľīåħ³ éĥ¨éŨ +æĹł å¥Ī +ç§į ç±» +缸åħ³ çļĦ +æĪĸèĢħ æĺ¯ +æī¶ æĮģ +å¤ļ æķ° +çļĦ ä½ľåĵģ +ä¸ĭ ä¸ĢæŃ¥ +å¸Ī åĤħ +é«ĺéĢŁ åħ¬è·¯ +好 åıĭ +ä¼ĺç§Ģ çļĦ +è¿Ľ äºĨ +æģIJ æĢķ +äºĨ åIJ§ +大 è§Ħ模 +çļĦ ä¸ĸçķĮ +æĢĢ çĸij +å· · +åħ´ å¥ĭ +æĪ ° +æĿij éĩĮ +æľĭåıĭ åľĪ +åĨ¬ 天 +ä¸Ńåįİ äººæ°ij +åįı åķĨ +è¯Ħ éĢī +æĹ Ń +å¢ŀåĬł äºĨ +åıĹ ä¼¤ +ä¸Ģ èĤ¡ +便 æį· +ä¸ ij +é¹ ¤ +å¤ĸ è§Ĥ +å·¥ç¨ĭ å¸Ī +åĴĮ åħ¶ä»ĸ +è¿Ļ å°± +ä¸Ńå°ı ä¼ģä¸ļ +西 åĮĹ +åĽ½æľī ä¼ģä¸ļ +èĭ¥ æĺ¯ +åı¯ æĥľ +çĶŁ æĹ¥ +åĩ ½ +ä¹° åįĸ +ç¥Ŀ ç¦ı +人æ°ij 群ä¼Ĺ +åħī æĺİ +åħ¬ å¯ĵ +æĺ¯ è°ģ +æĪij çŁ¥éģĵ +è¯Ń æĸĩ +æķı æĦŁ +ä¸įéĶĻ çļĦ +æĿ¥ 讲 +æ³¢ åĬ¨ +çļĦ 第ä¸Ģ +åľ° éľĩ +åľ¨ åħ¨åĽ½ +骨 å¹² +å®ī ç½® +å®¶ ç͵ +ä¸İ æŃ¤ +ä¸İæŃ¤ åIJĮæĹ¶ +åıĹ çģ¾ +çĥŃ çº¿ +çļĦ æĬĢæľ¯ +æµĭ éĩı +ä¾Ŀ èµĸ +ä¸ŃåĽ½ çļĦ +çī¹ æĢ§ +è¾ĥ é«ĺ +è¸ © +ä¼ļ åľ¨ +建 éĢł +导 èĪª +æĥ³ èµ· +åħ¨ ä¸ĸçķĮ +建 æĿIJ +ç¯ Ģ +çļĦ åŁºç¡Ģ +èĩªåĬ¨ åĮĸ +åīį åIJİ +çĿ¡ çľł +æİ¨ è¡Į +æį® äºĨè§£ +ä»Ģä¹Ī æĹ¶åĢĻ +ä¸į åĸľæ¬¢ +çħ¤ çĤŃ +éĤ£ä¹Ī å¤ļ +å¸Ĥåľº åĮĸ +ä¸į管 æĺ¯ +ç«ĭ åľº +éĥ½ 没 +课 é¢ĺ +æĪij们 å°Ĩ +è¿ĩ çļĦ +åĨį åĬłä¸Ĭ +çĪ ¾ +身 æĿIJ +çĶ· 女 +è¿ľ è¿ľ +çĶ· çĶŁ +èĩªèº« çļĦ +è´Ł æĭħ +çϾ ä¸ĩ +西 çıŃ +西çıŃ çīĻ +åĩĢ åĪ©æ¶¦ +æ¾³ 大 +澳大 åĪ©äºļ +ä¸į åİ» +æī¿ åıĹ +楼 çĽĺ +å¢ĥ åĨħ +æ·· åĩĿ +æ··åĩĿ åľŁ +æĢĿæĥ³ æĶ¿æ²» +å¸Ĥ åĮº +æĭĽ æłĩ +åĽ¢ ä½ĵ +è¿Ľ 度 +åĨĽ éĺŁ +åıį å¼¹ +äºĨä¸Ģ äºĽ +æİ¥ å¾ħ +çļĦ åŃ¦ä¹ł +éħį éĢģ +é£Łåĵģ å®īåħ¨ +æĽ¿ 代 +æĺ¯ 以 +éĢļ ç͍ +çłĶç©¶ æīĢ +ç¦ ħ +æī Ķ +éļĶ ç¦» +ä¸ĩ å¹³æĸ¹ç±³ +çļĦ è§Ħå®ļ +ç»Ļ æĪij们 +æ¿Ģ åħī +ä¼ļ åĩºçݰ +çŁŃ ä¿¡ +ç©¿ çĿĢ +æ²Ī éĺ³ +æķĻ æĿIJ +éĺ² çĸ« +ä¼ĺ èī¯ +约 å®ļ +æĪij çľģ +åħ¬ æ°ij +éģ¸ æĵ +é쏿ĵ ĩ +å·² æĪIJ为 +ä¸į å¿ħ +ç¥ĸ åĽ½ +å¹¶ æľª +åľŁ 壤 +å¾® ç¬ij +äºĭä¸ļ åįķä½į +çļĦ 游æĪı +åħ¬ 示 +åIJĪçIJĨ çļĦ +çª Ŀ +æ°Ķ 象 +å®¶ ä¸Ń +亮 缸 +åį« æĺŁ +è®° è½½ +è§Ĩ éĩİ +åľ°åĮº çļĦ +ä½Ĩ ä»ĸ +èĤĮ èĤī +äºı æįŁ +åĬŀ åѦ +ä¸Ģ è¡Į +è¯ŀ çĶŁ +åıijå¸ĥ çļĦ +çļĦ æľįåĬ¡ +çļĦ çłĶç©¶ +åij¨ æľ« +产ä¸ļ åĽŃ +é«ĺ 温 +æĪIJåĬŁ çļĦ +æŃ¥ 骤 +åŃĺ åĤ¨ +åŃIJ åħ¬åı¸ +让 她 +ä¸Ń æľī +åĺī 宾 +å¦ ® +æĺİ å¹´ +äºĨ åIJĹ +äºī è®® +æĪ Ī +ä¸Ģ æľ¬ +ç¾İ丽 çļĦ +ä½ł 说 +大 人 +æĶ» çķ¥ +ä¸į æľĥ +å¾ħ éģĩ +ä¸Ģ è¾Ĩ +çīĪæĿĥ æīĢæľī +æ°ij ä¼Ĺ +åĬ٠夫 +å±ķ ä¼ļ +大 èĦij +æ¯ı æľĪ +å°ı 麦 +æµĻæ±Ł çľģ +çļĦ æīĢæľī +ä¸ĭ æ»ij +èĵĿ èī² +è¦ģ æĥ³ +åѦçĶŁ çļĦ +å½ĵ ä½ł +ä½ľ æĪĺ +å®¶ 乡 +å¤ļ åIJį +é«ĺ äºİ +åĿļ 强 +è¿ŀ éĶģ +åIJİ æŀľ +人 äºĭ +ç´ ħ +æ¿Ģ åĬ¨ +è¿Ľ æĶ» +ç© Ĩ +ä¸ ĺ +让 èĩªå·± +以 æŃ¤ +夫 人 +å¼Ģ 设 +æ°Ķ è´¨ +鸡 èĽĭ +çĦ¡ æ³ķ +åIJĥ äºĨ +åĪĨåĪ« 为 +èģĶåIJĪ åĽ½ +å½ĵ 代 +å¦Ĥæŀľ æĺ¯ +è¿ľ ç¨ĭ +åĸ Ĥ +è®° ä½ı +æ¸ħ åįķ +åIJĪä½ľ ä¼Ļä¼´ +åİ» åģļ +æķħ éļľ +模 æĭŁ +å¸Ī çĶŁ +åīį æĿ¥ +ç͵è§Ĩ åī§ +çĥŃ çα +éľ² åĩº +é«ĺ å±Ĥ +ç͵ åύ +纪 å¾ĭ +å¼Ģåıij åķĨ +éķ¿ å®ī +è½½ ä½ĵ +çļĦ å°±æĺ¯ +被 人 +åıĹ çIJĨ +篮 çIJĥ +èİ İ +交 ç»Ļ +æľªæĿ¥ çļĦ +两 大 +åIJķ å¸ĥ +çŃī 人 +çļĦ æĹ¥åŃIJ +åIJĪä½ľ 社 +æĮij éĢī +åŃĺ æ¬¾ +ç³»ç»Ł çļĦ +æĬĬ å®ĥ +没æľī ä»Ģä¹Ī +ä»İ æŃ¤ +ä¸Ń åįĪ +çĸ¼ çĹĽ +å·© åĽº +浪 漫 +缸åħ³ éĥ¨éŨ +éķ¿ åŁİ +纤 ç»´ +ä¸Ĭ éŨ +çĪĨ çĤ¸ +èµ· çĤ¹ +çļĦ éĢļçŁ¥ +èĢĮ æĿ¥ +çļĦ èĢģ +æīĭ éĩĮ +è¯Ń éŁ³ +è¾Ľ èĭ¦ +æ±Łèĭı çľģ +ç͍ äºĨ +身份 è¯ģ +æľī åĬ© +æľīåĬ© äºİ +çī© èģĶç½ij +åĩº éŨ +å¼Ł åŃIJ +æĥ ¹ +è¿Ļä»¶ äºĭ +æĪij们 åı¯ä»¥ +çļĦ çĶŁåij½ +æľīä¸Ģ ç§į +åºĹ éĵº +åıĮ æīĭ +çļĦ æ¶Īæģ¯ +èĢIJ å¿ĥ +å°´ å°¬ +éĤ£ 天 +é¦ĸ æī¹ +æĺ¯ä¸Ģ å®¶ +人 æ°Ķ +åıį æŃ£ +æĪij åĴĮ +å®ł çī© +ä¸į 对 +寻 æ±Ĥ +缸 ä¼¼ +åľ¨ ç¾İåĽ½ +åı« åģļ +åĹ İ +ç«ĭ è¶³ +ç͍ éĢĶ +åħ Ĩ +大 æ°Ķ +åIJij ä¸Ĭ +ä»ĸ å°± +é¡¹çĽ® 建设 +èĭ¥ å¹² +æĺ¯ æľī +æ¿Ģ æĥħ +çļĦ æĦıä¹ī +æĺ Ń +严éĩį çļĦ +å¯Ĩ éĽĨ +èĪŀ è¹Ī +èᣠèİ· +èİ· æĤī +æ±Ł åįĹ +åģĩ å¦Ĥ +æĪ· å¤ĸ +线 ç´¢ +ç§ģ 人 +转åŀĭ åįĩ级 +çļĦ ä»·å̼ +åįķ çĭ¬ +èĢģ çϾå§ĵ +å°į æĸ¼ +åĽ½éĻħ åĮĸ +ä¼° å̼ +æľįåĬ¡ ä¸ļ +èĩ Ń +æİī äºĨ +è§£åĨ³ äºĨ +ä¹Ł ä¸įèĥ½ +åħ ¹ +æĸ¯ çī¹ +æķħ æĦı +è¿ĩ 度 +èĬĤ æĹ¥ +çϽ çĻľ +çϽçĻľ é£İ +ç»§ æī¿ +äºĨ ä¸įå°ij +äºĮ 人 +è§ģ éĿ¢ +æĥ³ æĥ³ +å¤į åIJĪ +康 å¤į +åİ¿ åŁİ +åľ¨ åĽ½åĨħ +åľº åľ° +é϶ çĵ· +è¿Ļ 项 +çľ¼ ä¸Ń +çł ¸ +æĦŁè§ī åΰ +æŀľ çĦ¶ +æĶ¾ åħ¥ +约 æĿŁ +æİĴ æŁ¥ +车 主 +çļĦ æĦıæĢĿ +æĸ° åŁİ +æĥ³ çĿĢ +éģ Ĥ +èĮ¶ åı¶ +ä¹° æĪ¿ +åĨľ æĪ· +é«ĺ æīĭ +çİī ç±³ +æĸ°åĨł èĤºçĤİ +çħ§ æĺİ +æĮĩ åįĹ +è¸ ¢ +æķij æı´ +æĻ¯ çĤ¹ +ç¨İ æĶ¶ +çļĦ æīĭ +æŃ£ 好 +è¦ģ æĬĬ +éļı æĦı +åħ¶å®ŀ æĺ¯ +ç»Ļ èĩªå·± +è°Ī åΤ +æ¯ı天 éĥ½ +æĢģ åĬ¿ +é¢Ħ 约 +åİĨåı² ä¸Ĭ +å®Ŀ è´Ŀ +åīį è¿Ľ +ä¹Łå°±æĺ¯ 说 +çļĦ æĦıè§ģ +åı£ 罩 +åİĺ ç±³ +èĬ± è´¹ +ä½ĵèĤ² æĬķæ³¨ +åħ¬ä¼Ĺ åı· +èijĹåIJį çļĦ +å¼Ģ æĪ· +æĭį åįĸ +å²ģ æľĪ +åĨħ æ¶µ +å®Įæķ´ çļĦ +é«ĺ åİĭ +åħ¬åĬ¡ åijĺ +使ç͍ çļĦ +çĶŁäº§ 线 +妹 妹 +èµ° 访 +æĺ¯ åı¯ä»¥ +åľ¨ å®¶ +æļ´ åĬĽ +æ³° åĽ½ +è´¨ çĸij +ä¸į éģİ +天çĦ¶ æ°Ķ +缺 çĤ¹ +å°ı åŀĭ +ä¸įä»ħ æĺ¯ +é»ij æļĹ +æ¢ ¨ +æĸĩ æĹħ +è¦ģ æľī +ä¸Ń å±± +çļĦ æķ°æį® +å¾Ĺ å¾Ī +以 便 +对 ä»ĸ +åĬł 以 +çϼ çı¾ +设 å®ļ +èĤļ åŃIJ +éĿ ĸ +å¥ī çĮ® +ä¸į åıĺ +åı£ ç¢ij +åľ¨ åĵªéĩĮ +ä½ IJ +è¿Ļ 两个 +çļĦ æĸ¹åIJij +æŀ « +äºĮ 次 +çīĩ åĮº +éł IJ +ç£ Ĭ +æĭ¿ çĿĢ +å·²ç»ı æĪIJ为 +ä¹ĭ ä¸Ĭ +å®Ĺ æĹ¨ +奶 奶 +é«ĺæĸ° åĮº +社 æľĥ +è·Ł 踪 +æľįåĬ¡ ä¸Ńå¿ĥ +æī ¯ +æīĭ æĮĩ +礼 çī© +宿 èĪį +ç͍ å¿ĥ +æıIJé«ĺ äºĨ +亮 çĤ¹ +ä¸į æĦ¿æĦı +æĴŃ æĶ¾ +å¤ļå°ij éĴ± +没 ä»Ģä¹Ī +æķ° åįģ +æĢ» çĽij +çļĦ åŁİå¸Ĥ +æī¾ åΰäºĨ +åĨħ åľ° +åΰ çİ°åľ¨ +æĪĺæĸĹ åĬĽ +åİŁ å§ĭ +åĥ § +åĢĴ æĺ¯ +æľĢ åħ· +è´«åĽ° æĪ· +éĢģ åΰ +级 åĪ« +åĩº èµĦ +æĪª æŃ¢ +ç§į åŃIJ +èĥ½ ä¸įèĥ½ +幸 è¿IJ +èĸ ĩ +项 éĵ¾ +æĮĤ çīĮ +ä¸Ģ 樣 +ä¹ĺ 客 +èIJ½ åIJİ +ä½Ĩ æĪij +æĹ© åľ¨ +åĬ¨ 漫 +å¹³ çŃī +对 ä½ł +ä¸į æĢķ +å¤ĸ çķĮ +å¤ļå¹´ æĿ¥ +é¦ĸ 个 +æ²³ åįĹçľģ +æĪĸ åħ¶ä»ĸ +éķľ å¤´ +åįĹ æĺĮ +ä¸Ģ éĿ¢ +éĢłæĪIJ çļĦ +å´ Ķ +çŃ Ĵ +æķĻèĤ² éĥ¨ +åľ° åŁŁ +æĺĨ æĺİ +å·´ é»İ +æīĭ 游 +ä¸Ģ æĹ¶ +çł į +é¡¶ 级 +åħ± 计 +åİŁ æ²¹ +è¾ī çħĮ +说 æĺ¯ +æĸ°åįİ ç¤¾ +ç»ıåİĨ äºĨ +ä¸į æŃ¢ +è¦ģ ä¹Ī +èĢħ çļĦ +æĢ» æĬķèµĦ +è¡Į é©¶ +ä¸Ĭ å¸Ŀ +å¹´ 纪 +çIJ ¼ +ä¼ł 说 +ç²¾ èĭ± +æĸ¹ éĴĪ +æ±Ł æ¹ĸ +æĪIJ çĤº +æĢ» éĩı +æĬķ æĶ¾ +åĬ¨ çĶ» +èĹ ¤ +ç͵ æºIJ +éĴ Ļ +åIJĮ è¡Į +æĻ®éĢļ çļĦ +åĽ¾ä¹¦ é¦Ĩ +è¯Ī éªĹ +æħĪ åĸĦ +è¿Ļ 份 +主æĮģ 人 +å°± è¿Ļæł· +èĢĮ æĪIJ +èĩªè¡Į 车 +ä¸ŃåĽ½ çī¹èī² +èĤ¿ çĺ¤ +åIJ ¾ +å¼Ł å¼Ł +åıĹ çĽĬ +éĢīæĭ© äºĨ +æĺİæĺ¾ çļĦ +æĬ¥ èĢĥ +ç¬ij éģĵ +éĽĸ çĦ¶ +温 å·ŀ +éĿŀ æ´² +ç§į ç§į +åıĤåĬł äºĨ +è´§ è¿IJ +éļı 便 +å°± 没æľī +ç¸ £ +央 è§Ĩ +ç©¿ è¶Ĭ +çļĦ çݰ象 +åĩł 次 +çļĦ é£İéĻ© +æŃĮ æĽ² +æľ¬ å±Ĭ +å¹´ åĨħ +ä¸į è¶ħè¿ĩ +è¿ĩ å¤ļ +å¿ħé¡» è¦ģ +ç»ĵ 论 +åĢŁ éī´ +ç¥ŀ å¥ĩ +æľŁ æľĽ +ä¸ĵ 享 +éĿŀ常 éĩįè¦ģ +æĦıè¯Ĩ åΰ +åIJĪ å¹¶ +æĬĬ èĩªå·± +å¥Ĺ è£ħ +éŃĶ æ³ķ +å¤ı åŃ£ +ä¸į åĥı +å¢ĥ çķĮ +æĥĬ åĸľ +æľīä¸Ģ 天 +çĦ¦ çĤ¹ +æĪij 认为 +åħ° å·ŀ +ç͵ æ°Ķ +èģĶç³» æĪij们 +ç§ij æĻ® +她 说 +çļĦ æĸĩ竳 +å¥ĩ æĢª +åıĭ 好 +饮 æĸĻ +çļĦ æĶ¯æĮģ +çŃĶ åºĶ +éĩį éĩı +çij ¶ +åĩı è½» +ç§ijåѦ å®¶ +å·´ 西 +éĩijèŀį æľºæŀĦ +åħļ å§Ķ书记 +貸 款 +ç²¾ èĩ´ +ä»İ æľª +åį° åĪ· +åĽŀ 顾 +é¦ĸ éĥ½ +åıij èĤ² +éĹ® éģĵ +è¾¾ åΰäºĨ +å¿į ä¸įä½ı +æīį æľī +æįIJ èµł +ä½Ľ æķĻ +ä¸į æ¸ħ +éĺŁ éķ¿ +缸 åıį +æĬ¥ èѦ +大 åħ¨ +欧 缣 +帮 å¿Ļ +çļĦ æĻĤåĢĻ +缮 å½ķ +è¶³ 以 +èī° éļ¾ +ä»ĸ ä¹Ł +å·¥ ä½ľèĢħ +头 èĦij +缺 éĻ· +æĪIJç«ĭ äºĨ +å°± å¼Ģå§ĭ +认 åIJĮ +é»Ħ èī² +çĹħ æĥħ +覺 å¾Ĺ +è¿Ļ 两 +ä¿¡ ä»° +åľĭ å®¶ +ä¸įä»ħä»ħ æĺ¯ +çĭ¬ å®¶ +èά çļĦ +æĿIJ è´¨ +æµ· ä¸Ĭ +çĤº äºĨ +æľºåĬ¨ 车 +缸å½ĵ äºİ +å¤ļåħĥ åĮĸ +æĽ´ 大çļĦ +èĽ ® +åģĩ æľŁ +å¼ı çļĦ +交éĢļ è¿IJè¾ĵ +çľģ å§Ķ +ä¸į ç®Ĺ +æĶ¾ ä¸ĭ +éĹ ¯ +人 åľ¨ +港 åı£ +æĹ¨ åľ¨ +åij½ 令 +æŁIJ 个 +å¹³ 稳 +åıª 好 +人 人 +äº ŀ +äºĮ ç»´ +äºĮç»´ çłģ +æŀģ 为 +åĪ« å¢ħ +åħ¶ ä½Ļ +大 äºĭ +主管 éĥ¨éŨ +æĹł éĶ¡ +éĹ µ +éģŃ åΰ +说 è¿ĩ +为 ä½ł +è§£ çŃĶ +éªĮ æĶ¶ +çļĦ ç»ıéªĮ +åĮ¹ éħį +çģ« ç®Ń +豪 åįİ +æŁIJ æŁIJ +çļĦ æĹ¶ä»£ +书 éĿ¢ +æģĴ 大 +å»¶ éķ¿ +ä¸Ģ åIJĮ +æľª èĥ½ +交 æį¢ +çĶ¢ åĵģ +çŃī åΰ +åĪĨ 离 +æīĵ ç͵è¯Ŀ +å¹² çĩ¥ +è¾ĥ å¤ļ +å¤ļå¹´ çļĦ +èĥĮæĻ¯ ä¸ĭ +为 ä¾ĭ +æijĺ è¦ģ +å´Ľ èµ· +æŃ¤ åĪ» +æľī æľºä¼ļ +æĿ¡ 款 +é¢Ĩ导 å°ıç»Ħ +çļĦ 身ä½ĵ +åįķ ä¸Ģ +央 è¡Į +ä¸įæĸŃ æıIJé«ĺ +ä»·å̼ è§Ĥ +èĬ ½ +èIJ į +æ³ķå¾ĭ æ³ķè§Ħ +ä¸į éĶĪ +ä¸įéĶĪ éĴ¢ +åĩº äºİ +èĻļ æĭŁ +æį® æĤī +çĥ¦ æģ¼ +åħ¨ æĸ°çļĦ +æī« æıı +çĻ» éĻĨ +èīºæľ¯ å®¶ +çļĦ é£Łçī© +çļĦ åŃĺåľ¨ +客 åİħ +æĪij们 å°± +æŁ¥çľĭ æĽ´å¤ļ +è¯Ħ 审 +å¸Ĥ åł´ +è¬ Ľ +å·¨ 头 +ä¸ŃåĽ½ ç»ıæµİ +äºĨ èĩªå·±çļĦ +åĨ³ è®® +çĽijçĿ£ 管çIJĨ +æĬķ 票 +åĨį 度 +è¡Į çĤº +注 åħ¥ +ä½ľä¸º ä¸Ģ个 +æ¯ı个人 éĥ½ +åįķ åħĥ +è¦ģ çŁ¥éģĵ +被 称为 +ä¹ĭ éĻħ +è§£ éϤ +ä¸ ¸ +æº « +ä¸ī æĺŁ +é²ľ æĺİ +ä¹Ł éĥ½ +æĹ¶ æľº +åĩº æīĭ +æĥħ å½¢ +åķĨ è´¸ +éĢī 举 +对 èĩªå·± +çĶŁ åĬ¨ +åħĭ æľį +个 ä½ĵ +èĭ ij +ç¨ ± +大 åݦ +æĺ¯ 对 +åĪ© æģ¯ +è¿IJåĬ¨ åijĺ +åĮĸ è§£ +åīį æ²¿ +æĦŁ æģ© +æĢ» ä¹ĭ +é«ĺæĸ° æĬĢæľ¯ +åĿĩ 为 +åħ¨ åĮº +æ°Ķ æ°Ľ +åı¯ä»¥è¯´ æĺ¯ +ä½ı 宿 +åħļåijĺ å¹²éĥ¨ +åĹ ¯ +è·µ è¡Į +çļĦ ä¸ĵä¸ļ +èĢĥ éªĮ +èķ ¾ +åħ¬ åŃIJ +çļĦ çĬ¶æĢģ +æ½® æµģ +ä¿¡ æīĺ +è´ ¼ +åIJĦ æĸ¹ +æķij åĬ© +éĿŀ常 çļĦ +æ¡¥ æ¢ģ +åħ¬ æĸ¤ +ä¼¼ çļĦ +çľĭ 好 +å±Ģ éĥ¨ +å®ī éĿĻ +éħį ä»¶ +常 è§Ħ +å¼Ģ 车 +第äºĮ 次 +ä¸Ĭ 级 +åıĤ èµĽ +å®¶ å±ŀ +强 åĬ¿ +åľ¨ ä»ĸ +åIJij åīį +ä¹ĭ åľ° +éĥ ¡ +è¡Į ç¨ĭ +èѦ åijĬ +è§Ħå®ļ çļĦ +åķĨ åŁİ +äºĶ 大 +æķĻ å®¤ +åįģ è¶³ +æīĢ以 åľ¨ +å°Ĩ ç»§ç»Ń +çŃī æĸ¹å¼ı +å®¶ ä¼ģä¸ļ +交 ä»ĺ +çĤ¹ è¯Ħ +ç»ĵ ç®Ĺ +ä¹Ł åı¯ +å¤ĸ æ±ĩ +è¿Ļç§į æĥħåĨµ +æİĪ äºĪ +å¸ĥ ç½® +æĪIJç«ĭ äºİ +é¢Ħ èѦ +管çIJĨ 人åijĺ +å©ļ 礼 +ç»ĵæĿŁ åIJİ +åħ¥ éĢī +æĹł æ¯Ķ +åĴĮ åıijå±ķ +çϽ éħĴ +çİ© åħ· +ä¸ĩ ç¾İåħĥ +çļĦ æĪIJ绩 +æĭį çħ§ +èĢĥèĻij åΰ +ä¼ģä¸ļ åıijå±ķ +äºĨ 个 +çĶŁ æ°Ķ +çļĦ 女人 +äºĶ åįģ +çĪ· çĪ· +纽 约 +éĥ½ 被 +ä¸Ĭ 课 +çĽ ¡ +ä¼łç»Ł æĸĩåĮĸ +æ½ľ åľ¨ +åıij å°Ħ +ä¸Ģ 身 +éĺ² å®Ī +åĪ ® +é¢ĺ 缮 +åľ¨ åĨħçļĦ +ç¾İ 好çļĦ +è¿ĻéĩĮ çļĦ +ä¸Ģ ä¸Ŀ +人 åĿĩ +åĢ¡ 导 +身 åIJİ +æī© å±ķ +大 éŨ +å°± 被 +该 é¡¹çĽ® +æŀ¶ æŀĦ +ä¸Ģ åı£ +ä¿¡æģ¯ æĬĢæľ¯ +å¼Ģ ä¸ļ +æĶ¶ åıĸ +ç½ij 页 +æĶ¯ æı´ +å°ģ éĹŃ +å¡ij éĢł +大 èĥĨ +å¿«éĢŁ åıijå±ķ +çľĭ ä¼¼ +æ¸ Ŀ +è¿Ļæł· ä¸Ģ个 +模 åĿĹ +注æĦı åΰ +çł´ è§£ +èĩª ä»İ +åijµ åijµ +ä¹ĭ å¾Į +ä¹ĭ æĹħ +è·Ł æĪij +æ³ķ 人 +æİĴè¡Į æ¦ľ +åĿļ å®Ī +好 å¤Ħ +çŁ³ 头 +å¹¶ å°Ĩ +èĪ ± +æŃ ĩ +两 岸 +å¤ļ ä¹ħ +象 å¾ģ +个æĢ§ åĮĸ +çļĦ è§Ĵ度 +å¸ Ĩ +ç¦ı å·ŀ +æŁ¥ å¤Ħ +两 åĽ½ +åIJ¸å¼ķ äºĨ +é¦ĸ å¸Ń +大 åĵ¥ +é¤ Ĭ +涨 å¹ħ +éĢī ç͍ +許 å¤ļ +èIJ½ æĪ· +åĵĪ å°Ķ +åĵĪå°Ķ 滨 +åģļ ä»Ģä¹Ī +以 åħį +é¾ į +æĹł éľĢ +åΰåºķ æĺ¯ +æĢ ¡ +åijĬè¯ī ä½ł +éĺ² æ°´ +è¿Ļ æĹ¶åĢĻ +欢 ä¹IJ +转 åIJij +è¿Ļ个 åľ°åĽ¾ +åħ¥ é©» +èįī åİŁ +æĹ¶ä»£ çļĦ +åıĺ åĬ¨ +åĬłå¼º 对 +åģ¶ å°Ķ +å®Ī æĬ¤ +æ°Ķ 温 +人 éĹ´ +æľĿ é²ľ +ç»ı è´¹ +åĽŃ æŀĹ +å·¥ åľ° +è§Ħ æł¼ +åĩł åįģ +è¯ķ åĽ¾ +å¦ ĥ +éĤ£ æĹ¶åĢĻ +å¼ĺ æī¬ +ä¸ļ çķĮ +çļĦ éĢŁåº¦ +ä¼ļ ä¸įä¼ļ +èIJ¥ æĶ¶ +å°ıå¾® ä¼ģä¸ļ +çľĭ è¿ĩ +æĬĬ ä»ĸ +éģµ å¾ª +è¿Ļ è¾¹ +没æľī 人 +å£ ¶ +æ¹ĸ åįĹçľģ +æŀģ åħ¶ +çļĦ人 çĶŁ +ä»ĸ è¿ĺ +转åĮĸ 为 +èµ° è¿ĩ +æĬ± çĿĢ +çīĽ å¥¶ +ä¸ĩ 亩 +å¿ĥ æĢģ +æĹ¥å¸¸ çĶŁæ´» +ä½ĵ æ£Ģ +æĻ ĥ +çŃī é¢ĨåŁŁ +æĩī 該 +åı¯ä»¥ çľĭåΰ +æī¾ ä¸įåΰ +èĢģ å¹´ +æĬĬ æĪij +积 åĪĨ +梳 çIJĨ +ç» ³ +çļĦ æĶ¿æ²» +å¸Ŀ åĽ½ +éĻª ä¼´ +æ´Ľ éĺ³ +åħ¬ æŃ£ +å¼Ģ åı£ +çī¹èī² çļĦ +åĽ° å¢ĥ +ä¸Ĭ æľī +ç«ĭ ä½ĵ +æīĵ å·¥ +åķ¤ éħĴ +åľ¨ éĤ£éĩĮ +éĤ£ è¾¹ +个 åĪ« +ä¸Ģå®ļ æĺ¯ +çļĦéĩįè¦ģ æĢ§ +主 å¼ł +åĴĮ æľįåĬ¡ +ä¸Ĭ ç½ij +è¡¥ åĬ© +åıª éľĢ +å¼ ¦ +éģ ® +åĬĽ äºī +度 è¿ĩ +èij ¬ +é¡¿ æĹ¶ +éĦ ī +纺 ç»ĩ +åľ° åĿĹ +ä¿¡ç͍ åį¡ +ç½ļ 款 +åijĬè¯ī æĪij +éĽ Ļ +书 çĶ» +è¨Ń è¨Ī +æĢ» ä¼ļ +åΤ åĨ³ +ä¿¡ èªī +个 èĤ¡ +å¹³ 常 +æĢİ éº¼ +ä½ĵ çİ°åľ¨ +é»Ħ æ²³ +åĽĽå·Ŀ çľģ +羣 缸 +åIJĦ项 å·¥ä½ľ +åĬ¨ åijĺ +å³° ä¼ļ +ä¸Ģ æľŁ +æľī ä¸Ģå®ļçļĦ +é«ĺ度 éĩįè§Ĩ +ç¹ģ èᣠ+åıijçݰ äºĨ +ç½ij 红 +æīĭ æ³ķ +å®¶ åĽŃ +仪 åύ +è¾ĥ ä½İ +çļĦ å®īåħ¨ +æ¡ IJ +ä»ĺ 款 +æĬij åζ +åįĵ è¶Ĭ +æŃ£ éĿ¢ +åĵ ij +强 åζ +ä»Ĭ天 çļĦ +æĪĺ èĥľ +楼 å¸Ĥ +æĭ¿ ä¸ĭ +é¢ľ å̼ +举 éĥ¨ +çłĶ åζ +çļĦ æĪĺçķ¥ +åľ¨ ä¸Ģ个 +ä¸ī 人 +å®Į äºĨ +æĸ° æĬĢæľ¯ +ç»ıæµİ æķĪçĽĬ +å¯Į æľī +æ¾³ æ´² +åĬ© çIJĨ +é¢Ĩ åıĸ +è° Ń +çĩĥ çĥ§ +ç´ł åħ» +éĤĦ æľī +è¿Ľ èĢĮ +ä»Ģä¹Ī æĺ¯ +çłĶç©¶ ä¸Ńå¿ĥ +éĢĤ ç͍äºİ +æİ¥ æĶ¶ +失 æľĽ +äºĮ 级 +éĹ´ çļĦ +åİŁ æłĩé¢ĺ +èªį çĤº +æį ¡ +对 çĿĢ +对 éĿ¢ +ä¸Ń åİŁ +éĵ ĥ +çĶŁäº§ çļĦ +åıijå¸ĥ ä¼ļ +士 åħµ +è¿Ļ åı¥è¯Ŀ +ç¼´ 纳 +ä¸Ģ个 个 +åѸ çĶŁ +çĸij éĹ® +交 èѦ +示èĮĥ åĮº +天 使 +åľ¨ ä¸Ĭæµ· +åIJĮ æĻĤ +è½» æĺĵ +å͝ä¸Ģ çļĦ +çĥŃ éĹ¹ +ä¹IJ è§Ĥ +çļĦ 身份 +åĸĦ äºİ +大 åİħ +èĤ¯å®ļ æĺ¯ +éĺ² çģ« +å¤ĸ åĩº +æį® 说 +é¡¹çĽ® çļĦ +ä¸Ģ åı° +èĻļ åģĩ +ä¸Ģ ç¬Ķ +ç«ĭ æ³ķ +严 èĤĥ +æī¿ åĬŀ +åįģ åĩł +çļĦ 空éĹ´ +æľ¬ ç½ijç«Ļ +åģļ å¾Ĺ +ä¿Ŀ 温 +æľĪ åĪĿ +åľ¨ ç½ijä¸Ĭ +åIJĦ æĸ¹éĿ¢ +ä¸ī 天 +交æĺĵ æīĢ +è§£ æŀIJ +åħļ ä¸Ń央 +è¿Ľ åĩºåı£ +åĴĮ 社ä¼ļ +次 æķ° +ä¹ĭ å®¶ +ç»´ 度 +æ´¾åĩº æīĢ +产çĶŁ äºĨ +带 æľī +å¾Ī 强 +æľīäºĽ 人 +å¹´ åIJİ +äºĨ 许å¤ļ +å¯Ĩ 度 +åѦ æľŁ +çıł æµ· +æľĢå¤ļ çļĦ +è¾¹ ç¼ĺ +容 éĩı +第äºĮ 个 +ä¸Ģ缴 æĺ¯ +ä¸į ç¦ģ +æŃ ² +ä»ĭç»į äºĨ +ä¼ĺ éĽħ +æ¯Ķ è¼ĥ +èģĮ ä½į +温 æŁĶ +æľī éĴ± +æľĢ é«ĺçļĦ +åįļè§Ī ä¼ļ +ä¸į æĪIJ +éĶĻ äºĨ +è¯ģ çĽij +è¯ģçĽij ä¼ļ +æĪIJ 人 +åĿĩ åĮĢ +æľī åĪ© +è¶Ĭ åįĹ +æīĵ äºĨ +好 åIJĥ +ç³» çµ± +è·Ł éļı +çļĦ åľ°ä½į +æŃ£ å¦Ĥ +ç¨į å¾® +åį° åıij +åĪĽ ç«ĭ +é£İ åħī +å°Ĩ æĪIJ为 +ä¸į é«ĺ +é¢ij ç¹ģ +设 æľī +ä¼ ŀ +æĭĨ éϤ +å½± åĥı +æ¸Ĺ éĢı +å¹´ å¼Ģå§ĭ +ç½ij æĺĵ +è¦ģ åģļ +ç͵åĬ¨ 车 +羣 å¿ĥ +æµ· åĨĽ +ä¼ł æĿ¥ +å·® åĪ« +è°¨ æħİ +çĥŁ åı° +åįĥ å¹´ +è¯ģ å®ŀ +çIJ ª +çļĦ åħ·ä½ĵ +åΰ å¤Ħ +ä¸į å®ľ +èľ Ģ +èĥ½åĬĽ åĴĮ +çīº çī² +çļĦ éĴ± +大 éĺŁ +é¦ĸ è¦ģ +ä¸į æĦ¿ +çİ« çij° +人æ°ij ç½ij +è¿ĺæĺ¯ è¦ģ +åĽĽ å¹´ +æį٠伤 +çļĦ åģļæ³ķ +éĿ Ī +è¡Ķ æİ¥ +åIJĪ æĪIJ +没 人 +éŨ æ§Ľ +ä¿¡ è´· +çļĦ 缸åħ³ +举 é£İ +社 ä¿Ŀ +ä¸ĭ 游 +åĿĹ éĴ± +è¿ĩ åIJİ +çļĦ åºĶç͍ +é¥ ¶ +é¢ģ åıij +ä¸Ģ å¤Ħ +åįİ å¤ı +为 ä¼ģä¸ļ +åıª ä¼ļ +ä¾µ 害 +çļĦ åĬŁèĥ½ +åѸ ç¿Ĵ +ä¸Ńåįİ æ°ijæĹı +åıijå¸ĥ äºĨ +è¿İ æİ¥ +æĪij èĩªå·± +è¿ĺ éľĢè¦ģ +太éĺ³ èĥ½ +åİ» ä¸ĸ +æĺ¯ ä½ł +åIJĪ åĬĽ +ç»ĺ çĶ» +åı° åĮĹ +çĿ£ ä¿ĥ +åĮĹ éĥ¨ +æľī å¤ļå°ij +å¾Ī éĩįè¦ģ +åĪĴ åĪĨ +åı· 线 +æĶ¾ 大 +ä¼ļ 被 +èİ· å¥ĸ +ä¹ĭ åĨħ +失 åİ»äºĨ +çݩ家 们 +éĩĩ éĽĨ +å£ ¹ +å®¶ ä¼Ļ +çϽ 天 +åĽłä¸º ä»ĸ +社ä¼ļ æ²»çIJĨ +å¼Ģ åĪĽ +ç͵ ç¼Ĩ +æĸ° ä¸Ģ代 +å¹¶ è´Ń +å°± å·²ç»ı +çļĦ 社ä¼ļ +éϤ éĿŀ +åı¯ä»¥ ç͍ +å© ī +æ¯Ķè¾ĥ 好 +å®ŀ ä¸ļ +åĪĽ åĬŀ +æıIJ èµ· +é» ĥ +ä½ı åľ¨ +å¸Ĥ æĶ¿ +éĿ¢ä¸´ çļĦ +èĥ½ åľ¨ +çŁŃ çŁŃ +羣 人 +æĺİ æĺİ +èµĦ åĬ© +çļĦ ä¸įåIJĮ +å°ı æľĭåıĭ +é¢ĺ æĿIJ +ç¾İ åij³ +æĺŁ åº§ +ä¸į ä¸Ģæł·çļĦ +çľĭ ä¸Ĭåİ» +ä¸Ģ æł¹ +广 å·ŀå¸Ĥ +åıijçĶŁ çļĦ +é«ĺ ç§ijæĬĢ +ä¸Ģ è¾ĪåŃIJ +交 åıī +ä½ĵç³» 建设 +åĽłä¸º æĪij +çıį æĥľ +ä¸Ĭ åѦ +æĪĺ æľ¯ +æŃ¤ ç±» +交 å¾Ģ +æĮī æij© +人们 çļĦ +åħ¶ 實 +åİŁ æĿIJæĸĻ +渴 æľĽ +缸 å¤Ħ +å¾® å¾® +æ® · +ä¹ĺ åĿIJ +å¼Ģå±ķ äºĨ +é«ĺ åĵģè´¨ +æĹłäºº æľº +ä¸įæĺ¯ å¾Ī +çļĦ æĬķèµĦ +èĬĤ çľģ +èĩ ī +ç²¾ éĢī +çļĦ æłĩåĩĨ +åįĹ éĥ¨ +认è¯Ĩ åΰ +å¹³ éĿĻ +èĹ ¥ +æī« é»ij +æī«é»ij éϤ +æī«é»ijéϤ æģ¶ +éĢĻ ç¨® +建çŃij éĿ¢ç§¯ +ç¡® ç«ĭ +管çIJĨ åĬŀæ³ķ +æĦı å¿Ĺ +ä¸ ¨ +让 åŃ©åŃIJ +æķij çģ¾ +å½ĵ ä»Ĭ +çģ« çģ¾ +åIJĦ éĥ¨éŨ +ä¾µ çĬ¯ +æ¯ı åij¨ +æı ½ +ä¸Ģ次 æĢ§ +åħ¶ä»ĸ 人 +éĶĻ è¿ĩ +ä¸İ åħ¶ +åĭĩ æ°Ķ +çĩĥ æ°Ķ +é¦ĸ å±Ĭ +æľį 饰 +ç² ¥ +å®Į æ¯ķ +å°± æĬĬ +åĬŀäºĭ å¤Ħ +ä¸Ģä¼ļ åĦ¿ +离 ä¸įå¼Ģ +å¦Ĥæŀľ æĤ¨ +ä»ĵ åºĵ +导 å¸Ī +åIJĪéĢĤ çļĦ +毫 ç±³ +å®īåħ¨ æĢ§ +ä¾Ŀ çħ§ +产ä¸ļ åĮĸ +ä½ł çľĭ +羣çļĦ å¾Ī +åѤ çĭ¬ +éĺ² å¾¡ +å¾Ī ç®Ģåįķ +é£İ æ°´ +ä½Ĩ ä¹Ł +æİ¨ åĩºäºĨ +æ°ijèIJ¥ ä¼ģä¸ļ +çłģ 头 +å¤įæĿĤ çļĦ +ç»ĦæĪIJ éĥ¨åĪĨ +åħħ满 äºĨ +è¿ij åĩłå¹´ +çľģ æĶ¿åºľ +æľī å¿ħè¦ģ +éĻ ³ +ä¹ĭ ç±» +ä¹ĭç±» çļĦ +æĢ§ ä»· +æĢ§ä»· æ¯Ķ +åķĨ åºĹ +å¸Ĥ å̼ +人æīį åŁ¹åħ» +æ·± åıĹ +管çIJĨ å±Ģ +æģIJ æĥ§ +ä»ħ æľī +æĬµ è¾¾ +æµ· åħ³ +èµĭ äºĪ +äºĭ åĦ¿ +ä»· éĴ± +æīĭ ä¸Ĭ +èĩª å¾ĭ +åħ³ çα +享 æľī +éģĹ æĨ¾ +å¾Īå¿« å°± +æĽ´ å¿« +æłĩ è¯Ĩ +åºĨ ç¥Ŀ +ä¹Ł 好 +ä¸į æĺĵ +æĪij å¾Ī +æĶ¹éĿ© åıijå±ķ +å¤ĸ åľ° +æĬµ æĬ¼ +è¯Ĺ 人 +åİķ æīĢ +æĸ° åªĴä½ĵ +èĸ Ľ +è°Ī è¯Ŀ +ä¸Ģå®ļ ç¨ĭ度 +èµ° åľ¨ +æľĢ 强 +åĬŁ çİĩ +åħ± è¯Ĩ +大 æ¡¥ +ä¸ĭ æĸ¹ +å¤ĸ èµĦ +ç¢ ± +å·¡ è§Ĩ +æ¹ĸåĮĹ çľģ +个 çϾåĪĨ +个çϾåĪĨ çĤ¹ +çļĦ 责任 +çļĦ åĵģçīĮ +åĬ© æİ¨ +åĪĽéĢł äºĨ +ä»» èģĮ +å¿« æį· +æĿij åºĦ +åİ» çľĭ +æīį èĥ½å¤Ł +å± ¤ +æĪij å®¶ +æĺ¯ä¸Ģ 款 +ç¾ ħ +åĨ° éĽª +æŀģ 大 +çģ¯ åħī +éĨ ĭ +ä¸İ åħ¶ä»ĸ +æıIJåĩº çļĦ +éĿł è¿ij +è°ĥ åĬ¨ +å°½ åı¯èĥ½ +åıij åĬĽ +ç»Ļ 她 +éĢĤ éĩı +è·¨ åĽ½ +åħĪ è¡Į +æĸ° æĿIJæĸĻ +ä½ľ äºĨ +满 äºĨ +ä¸į 满 +çļĦçľ¼ çĿĽ +çľĭ å¾Ĺ +è¿Ļ ä¸Ģ次 +é½IJ åħ¨ +çļĦä¸Ģ éĥ¨åĪĨ +ä¸ Ļ +æ¸ħ æĸ° +說 æĺİ +身边 çļĦ +æīĢæľī 人 +å½° æĺ¾ +è± ¹ +åį ¿ +è¿IJ 转 +æĮĩ å¼ķ +å¸Ĥ åħ¬å®īå±Ģ +åıĤ å±ķ +ä¹ĭ æĹ¶ +éĩijèŀį æľįåĬ¡ +èµĦæľ¬ å¸Ĥåľº +èĥ½ 让 +å¿ĺ äºĨ +天 åłĤ +æ¯Ķå¦Ĥ 说 +éĬĢ è¡Į +èĽĭ ç³ķ +çĶ © +æł¸ å®ŀ +æĻ® 京 +ä¼ĺ ç¾İ +åı£ èħĶ +漫 çĶ» +çľ¼ éĩĮ +äºĨ ä¸ĭæĿ¥ +æĪij们 ä¹Ł +ä¾ į +为 ä¸Ńå¿ĥ +å¥ĩ 迹 +éĿĴ çĿIJ +æĪªèĩ³ 缮åīį +åĩº ä¾Ĩ +æĢ» åħ¬åı¸ +å¼¥ è¡¥ +ç®Ĺ æ³ķ +å·¥ä½ľ 室 +æīĢ以 æĪij +æ°´ åĪĨ +æīĢ å±ŀ +ä¸į 说 +ä½Ĩæĺ¯ åľ¨ +è¦ģ åİ» +åĪĽä¸ļ èĢħ +ä¸į æ¸ħæ¥ļ +åĽĽ åij¨ +æĺ¯ ä»İ +çļĦ æł¹æľ¬ +çģ ¶ +æ¯Ľ æ³½ +æ¯Ľæ³½ 举 +æµ· åı£ +åĽĽ åįģ +ä¹Ł 被 +èģ · +ä¸Ģ æīĭ +绩 æķĪ +çļĦ çĶ·äºº +书 ç±į +ä¸Ģ èĦ¸ +大 äºİ +鼶 éĥ¨ä»¶ +åħ³ æĢĢ +å¹³ ç±³ +æļ´ éľ² +å¾Ĺ å¤ļ +ä¸ī 级 +æľ¬ åij¨ +两 èĢħ +对 ä¸ŃåĽ½ +åıª è§ģ +欧 ç¾İ +å¦Ĥæŀľ æľī +å·²ç»ı æĺ¯ +çľĭ å®Į +çģ« éĶħ +èµ IJ +ä¸Ģ éģį +æĦŁ åĨĴ +ç»ĵ å±Ģ +ä»ĵ åĤ¨ +å®ŀ åľ° +å̻ ç»ıçIJĨ +ä¹Łä¸į çŁ¥éģĵ +碰 åΰ +åIJĪ è®¡ +客æĪ· çļĦ +ç½Ĺ 马 +æĦī å¿« +é£ Ľ +çĥŃ çĥĪ +伦 æķ¦ +åĮ» ä¿Ŀ +éĺ¿éĩĮ å·´å·´ +åĨį 说 +为 åŁºç¡Ģ +çĶŁäº§ ç»ıèIJ¥ +è¿ĻäºĽ 人 +åĪĹ è½¦ +æ²³åĮĹ çľģ +è¿Ļ 段 +æ´»åĬ¨ ä¸Ń +å© · +çĶŁ çIJĨ +ä¸ŃåĽ½ 人æ°ij +éĦ Ĥ +åIJ¬ åıĸ +å¤į ä¹ł +æľī çĽĬ +æĶ¶ æĭ¾ +å¾Ī åı¯èĥ½ +ç½ij绾 游æĪı +们 çļĦ +èµĭ èĥ½ +éļ¾ å¾Ĺ +åĪĨ æīĭ +羣 è¯ļ +åħ¬åı¸ åľ¨ +åĿĩ è¡¡ +åı£ åij³ +çīµ å¤´ +ä¸Ģèά çļĦ +轿 车 +çŃī äºİ +æ²ī é»ĺ +æĪij éĥ½ +å°ı ç¨ĭåºı +ä¸Ģ åī¯ +æī¿ è½½ +åľ° è´¨ +çķĮ éĿ¢ +ç͵ æľº +çĦ¦ èĻij +éĶĢåĶ® é¢Ŀ +æĸ° 车 +ä¸Ĭ 游 +主 æ¼Ķ +éļIJ ç§ģ +åıijå±ķ æĪĺçķ¥ +çļĦ åĬªåĬĽ +å¼Ģ åħ³ +è§£åĨ³ éĹ®é¢ĺ +çĿ£ 导 +对 æĬĹ +å¾Īå¤ļ 人éĥ½ +æĹł æķĪ +产åĵģ è´¨éĩı +å®ī å¿ĥ +åįİ äºº +ä¸į 符åIJĪ +èĩª å®¶ +éĺµ å®¹ +çļĦ åIJĦç§į +çļĦ çIJĨ念 +çļĦ æĸĩåĮĸ +为 èĩªå·± +å±± æ°´ +游 æ³³ +éľĩ èį¡ +çĶŁæ´» æĸ¹å¼ı +è¿ľ 离 +çŁ³ åĮĸ +æŃ¤ äºĭ +æĺ¯ 羣çļĦ +çļĦ æ¯Ķä¾ĭ +ç͍ ç͵ +奥è¿IJ ä¼ļ +ä¿Ŀ å®ī +èĽĭçϽ è´¨ +çļĦ å¿ĥçIJĨ +å· « +åı· çłģ +æ°Ķ ä½ĵ +åıij æĶ¹ +åıijæĶ¹ å§Ķ +åĮ» å¸Ī +æ¶Ĥ æĸĻ +æĺ Ĭ +å¸Ĥ 级 +ä¸ĸçķĮ çļĦ +åĪĨåĪ« æĺ¯ +çł´ 产 +ä¸Ģ æĿ¯ +æĭī å¼Ģ +å¹³ åĩ¡ +çļĦ åıijçĶŁ +åĬ¨ æīĭ +ä¸Ģ缴 以æĿ¥ +æīĭ å·¥ +éĩĮéĿ¢ çļĦ +æĹł åħ³ +ä»ĭ åħ¥ +èµ° ä¸Ĭ +å°±æĺ¯ è¦ģ +å¹´ éĹ´ +åĩº çı¾ +å½± éŁ¿ +å¹ħ 度 +éĽ ģ +éģĵ åħ· +缮çļĦ åľ° +åIJİ èĢħ +ä¸Ĭ æ¼Ķ +äºĨ åĩł +æ®ĭçĸ¾ 人 +å¿Ļ ç¢Į +æĺ¯åIJ¦ æľī +å¹¶ 对 +ä¼ļ 导èĩ´ +æ°´ åºĵ +ç»Ĩ èĩ´ +åIJİ æĤĶ +å¿ĥ æĢĿ +åģļ äºĭ +åİĤ æĪ¿ +çĿ ¿ +è¿IJèIJ¥ åķĨ +头 éĥ¨ +çļĦ è§Ĵèī² +æĺ¯ ä»ĸ +æĹ¢ æľī +å°ıæĹ¶ åĢĻ +强 åĬ² +主 æĴŃ +åħ¨åĽ½ åIJĦåľ° +æį ı +æįŁ åĿı +åķĨ ä¼ļ +ä¿Ŀ ç½Ĺ +çľģ å¸Ĥ +éļ§ éģĵ +æľī ä¸įå°ij +è¦ģ åľ¨ +建设 é¡¹çĽ® +ç³ĸ å°¿ +ç³ĸå°¿ çĹħ +æĿ¡ä»¶ ä¸ĭ +ä¼ĺè´¨ çļĦ +é¦ĸ åıij +å½ĵæĹ¶ çļĦ +丰 çͰ +大 çĽĺ +缸 ç»§ +å®ģ å¤ı +åħ¥ ä½ı +æĪij è¿ĺ +åħĭ æĸ¯ +å®ļ ä»· +å¹³æĸ¹ åħ¬éĩĮ +çļĦ çŁ¥è¯Ĩ +æĪij们 ä¼ļ +åħĥ å®Ŀ +ä½ĵ éĩį +è³ £ +对 æĪij们 +çŁ³ å®¶ +çŁ³å®¶ åºĦ +ç²¾ åįİ +å½¢ çĬ¶ +åıĹ åΰäºĨ +ä¿® 订 +ç¾İ åľĭ +é«ĺ æ¸ħ +çľ¼ éķľ +è§īå¾Ĺ èĩªå·± +带 ç»Ļ +åĶ® ä»· +éŨ 票 +åŃķ å¦ĩ +ç͵è§Ĩ åı° +åıij ä½ľ +çļĦ åij³éģĵ +éķ¿ è¿ľ +åħ¬åħ± æľįåĬ¡ +æŃ£å¸¸ çļĦ +æľī è¿ĩ +é£İ æĥħ +æ¯Ķ éĩį +åIJ » +管çIJĨ å·¥ä½ľ +综åIJĪ æĢ§ +å·² 被 +说 èµ· +æİĴ æ°´ +ä¸įæĸŃ åľ° +æĥħ æĢĢ +è¾ĵ éĢģ +è¿ĩ æķı +çļĦ åı¯èĥ½æĢ§ +æľį ç͍ +æľī 许å¤ļ +å§Ķ åī¯ä¹¦è®° +åĮĸå¦Ĩ åĵģ +æļĤ åģľ +æĬķèµĦ 人 +çıŃ çº§ +说 çĿĢ +åįĹ åĮĹ +åĪĨ è¡Į +çıł å®Ŀ +å¯ ¶ +å¢ŀ å¤ļ +被 åĬ¨ +ç®Ĭ çļĦ +éĹľ ä¿Ĥ +çļĦ èĦ¸ +æĥ Ł +ä¸į ä¸Ģå®ļ +ç¶ Ń +çģ« çĪĨ +ç§Ł éĩij +çŀ § +éĩį 建 +è· ª +ä¸Ģ 種 +çļĦ åIJĪä½ľ +å®ī æħ° +ä»į æĺ¯ +ä¸ĵä¸ļ åĮĸ +è°ĥ è§£ +ä¸į 妨 +éĢĻ æĺ¯ +å¿ħ éłĪ +ä¼Ĭ æľĹ +å¾Ĺ äºĨ +æľįåĬ¡ å¹³åı° +å§ ¬ +åħĪ éĶĭ +çİĭ åŃIJ +çļĦä¸Ģ åĪĩ +æĢ» çIJĨ +åĵ ¼ +çª ij +çļĦå¿ĥ æĥħ +çļĦ éĩį大 +çij Ł +ä¸Ģ ç¬ij +åıijå±ķ ä¸Ń +åģ¥åº· åıijå±ķ +åĵģçīĮ çļĦ +ç¦ ® +ä½Ļ 人 +ä»Ĭå¹´ 以æĿ¥ +æķ° çłģ +çѾ è¯ģ +åİ» æī¾ +åŁºéĩij ä¼ļ +æĬ± æĢ¨ +æŃ£ å½ĵ +çıŃåŃIJ æĪIJåijĺ +ä¸į åIJĪæł¼ +åζ å®ļäºĨ +ç¼ĵ æħ¢ +åζ 约 +æłı 缮 +å¸Ĥåľº ç»ıæµİ +ç»ĦæĪIJ çļĦ +严 å³» +æĹ¥ 讯 +ä¸ĢçĤ¹ çĤ¹ +æĺ¯ æĢİä¹Ī +çļĦ çħ§çīĩ +éĺ» æŃ¢ +模 ç³Ĭ +ç¼ ¸ +éģķ åıį +æIJ¬ è¿ģ +éĩij éĴ± +å½ ¬ +ä¸į å®ī +æĪĺçķ¥ åIJĪä½ľ +å¡« åĨĻ +讲 ç©¶ +åħħåĪĨ åĪ©ç͍ +èĥ½ å¤ł +èij¡èIJĦ éħĴ +éĩĩç͍ äºĨ +åľ¨ ä»Ĭå¹´ +ä¸Ńå°ı åѦ +åľ¨ æĦı +çļĦ åİĭåĬĽ +ä¸į 幸 +åζ èᝠ+åı¯ä»¥ 让 +被 è¯Ħ为 +ç»Ĩ èıĮ +æĪı åī§ +åįĬ 导 +åįĬ导 ä½ĵ +è§Ĩ è§Ĵ +åĸľ æŃ¡ +å¾ģ æĶ¶ +è°ĭ åĪĴ +æŀģ 大çļĦ +çĤ¹ èµŀ +è®°èĢħ ä»İ +两 åIJį +èĩª åĬ© +èµ· æŃ¥ +æĬ¤ 士 +å®Ŀ 马 +太 åŃIJ +å°ıå°ı çļĦ +温 æ³ī +åĩºç§Ł 车 +ç§Ł æĪ¿ +两 å®¶ +éľĩ æĴ¼ +ç§ī æī¿ +ä¸Ģä»¶ äºĭ +çĥΠ士 +å®ĺ åħµ +转 身 +ä¹IJ åĽŃ +çĻĮ çĹĩ +模 èĮĥ +æĦ £ +è¿ĩåİ» çļĦ +代 ä»· +çļĦ æ¦Ĥ念 +åĩł çϾ +è´µ éĺ³ +æĭħ å¿§ +éĢĤ å®ľ +çݯå¢ĥ ä¿ĿæĬ¤ +çĥ « +ä½ł æĥ³ +æŃ¤ åIJİ +ä½ł ä¹Ł +çį İ +éϤ æŃ¤ +éϤæŃ¤ ä¹ĭå¤ĸ +è°ĥ 度 +ç§ij 缮 +æīĢ说 çļĦ +åĬ ĩ +忽 è§Ĩ +ä¸ī 次 +ä¸Ģ æĹ¥ +åŀĤ 缴 +ç«ŀ æĬĢ +éĿ¢ åĮħ +大 æĪĺ +æIJº 带 +å¦Ĥæŀľ 没æľī +åħ» æĪIJ +åĩº è¡Ģ +çα好 èĢħ +æīĵ éĢļ +èµ· è¯ī +åijĪ çݰåĩº +æŃĮ æīĭ +åľ¨ å¤ĸ +é¢Ĩ导 å¹²éĥ¨ +åĨ ¥ +èĪĨ 论 +æıIJ åıĸ +éĺ¿ å°Ķ +æľĽ çĿĢ +ä¸ī äºļ +è² ¡ +åĪ ·æĸ° +æĻļ æĬ¥ +è¿ĺæľī ä¸Ģ个 +åĨ° ç®± +ç½ij çĤ¹ +åĩº åħ· +强çĥĪ çļĦ +æĪij çĽ¸ä¿¡ +å¸ĮæľĽ èĥ½ +çīĻ é½¿ +äºĭ å®ľ +ä¸ļåĨħ 人士 +代 æĽ¿ +åıĺ å½¢ +éĽ ² +è°ĥ æİ§ +åĪĽæĸ° åĪĽä¸ļ +æĭĨ è¿ģ +æł¸ æŁ¥ +éĢ Ĺ +åħ¥ åѦ +æĦı åIJij +æı Ľ +ä¸ĭ 次 +ä¼ł è¾ĵ +ä»ĸ们 åľ¨ +èĢĮä¸Ķ è¿ĺ +æĹ¥ åľ¨ +æķĻ è®Ń +æ´» çĿĢ +çļĦ æľīæķĪ +å¤įå·¥ å¤į +å¤įå·¥å¤į 产 +æĺ¯ä¸Ģ ä»¶ +çŃī çĿĢ +å¾ © +åĭĩ æķ¢ +éģŃ åıĹ +å¥Ķ é©° +讲 座 +说 å®Į +ç»Ļ åĩº +è° ¦ +è¯Ĭ çĸĹ +çĽ² 缮 +客 è¿IJ +å°± è¿ŀ +å¼Ģ åħĥ +å¼Ģåħĥ æ£ĭçīĮ +ä¸įæĸŃ æıIJåįĩ +ç͍æĪ· çļĦ +æĴ ķ +ä¾Ľ æ°´ +ç¶ĵ æ¿Ł +ä¸Ń åĮ»èᝠ+èģĶ æĥ³ +åħ¬äº¤ 车 +èĪª çıŃ +æĬĢ è¡ĵ +å¼ķèµ· çļĦ +å° ¹ +èµĦ æ·± +åĽ½èµĦ å§Ķ +èĺ Ń +é¼» åŃIJ +éĹ ½ +æİĴ éĺŁ +è§Ĥ åħī +éģĹ åĿĢ +举 京 +é¥Ń åºĹ +ä¸įæĸŃ çļĦ +å°±æĺ¯ ä¸Ģ个 +éķ¿ ä¹ħ +çļĦ è§ĤçĤ¹ +å¨ ¶ +æĪij çİ°åľ¨ +çķ ° +å¾Ĺ åĩº +å¿ħ å®ļ +ä¸į åıĹ +åıª éľĢè¦ģ +åĽ° æī° +ç§ijåѦ æĬĢæľ¯ +çīĽ èĤī +è¾ĥ é«ĺçļĦ +è·ij æŃ¥ +æ² ¾ +èı© èIJ¨ +æľĢ å¾Į +ä¿Ŀ å¯Ĩ +æ²» å®ī +éĤ ± +常 è¯Ĩ +èĦ¸ èī² +åĮĹ å¤§ +æ±ĩ èģļ +æijĨ èĦ± +é¾Ļ头 ä¼ģä¸ļ +女 åıĭ +çŃī å·¥ä½ľ +ä¸Ń ç¾İ +èģĮ åľº +èĦij è¢ĭ +åĨĻ çļĦ +饲 æĸĻ +åĬ³ åĬ¨åĬĽ +å± ¯ +æĮģ èĤ¡ +åĽ¾ åĥı +è¿ĩåİ» äºĨ +è² ¨ +è¾ ² +éĹ® æĪij +è·Ł ä½ł +çĶŁ æŃ» +审 ç¾İ +é¢Ĺ ç²Ĵ +ä¸Ń æĸ¹ +åĬł çĥŃ +æĹħè¡Į 社 +çϼ çĶŁ +ä¸į åłª +åĤ · +æ¥ ł +åĬŀ æ¡Ī +æŁ Ħ +æĹ¢ æĺ¯ +å¤Ħ åĪĨ +羣å®ŀ çļĦ +æĬ¥ 纸 +å¸Ī çζ +å®īå¾½ çľģ +åī¯ ä¸»å¸Ń +ä¹ĭ éģĵ +导 å¼¹ +åŃ¦æł¡ çļĦ +åŁİå¸Ĥ çļĦ +è°Ī åΰ +æ¢ Ĺ +å¹³ éĿ¢ +说 ä»Ģä¹Ī +é¢ij çİĩ +éķ¿ ä¸īè§Ĵ +çļĦ åĪ©çĽĬ +é» ¨ +è±Ĩ èħIJ +å®ŀéĻħ æĥħåĨµ +æŀĹ ä¸ļ +纪æ£Ģ çĽijå¯Ł +ä½ı éĻ¢ +çļĦ æķ´ä½ĵ +åīį è¡Į +æĮ ¨ +çħ¤ çŁ¿ +å̻ è£ģ +å°ı åIJĥ +æŀģ 端 +å©Ĩ å©Ĩ +çݰ è´§ +è¯Ĺ æŃĮ +éĴ¥ åĮĻ +缩 çŁŃ +ä½Ĩ è¿Ļ +æĸ° åĵģ +è¿Ļ 对 +çŁ¥åIJį 度 +å¿ĹæĦ¿ æľįåĬ¡ +大 å±Ģ +è¡¡ éĩı +ä½ĵçݰ äºĨ +æ¡ĥ èĬ± +åIJ¸å¼ķ åĬĽ +åł ¤ +æĵħ éķ¿ +åĴ Ĵ +缸 æľº +ä¸Ģ ç«Ļ +ä¸Ģç«Ļ å¼ı +æľĢ ç¾İ +æ°¸ ä¹ħ +çļĦ éĥ¨åĪĨ +åĪĨ å·¥ +å·¥ç¨ĭ 建设 +æIJŃ è½½ +æ°´ ä¸Ń +èĮ ¨ +çļĦ æĵįä½ľ +绣 æ²» +çķħ éĢļ +åħļçļĦ åįģ +è¼ ¸ +æ¸ ¬ +ç¾İ è§Ĥ +ä¸į åĪ© +åıį æĢĿ +éªĦ åĤ² +æłĩ çļĦ +æĿĢ äºº +éĺ¿ å§¨ +é£Ł æĿIJ +åIJĥ çļĦ +åIJİ åĨį +çŁ £ +两 ä¾§ +æ¸ħ æ°´ +è¿Ľ çIJĥ +å¼Ģå§ĭ äºĨ +åIJ¬ äºĨ +çĦĬ æİ¥ +çŁ ® +å¨ Ł +为 人 +éĢģ ç»Ļ +åĨĴ éĻ© +æķ · +ç»Ī æŃ¢ +æīį çŁ¥éģĵ +è¿IJ æ°Ķ +éĢļ é£İ +æĥĬ è®¶ +ç§ijåѦ éĻ¢ +æıIJ éĹ® +太 åİŁ +缸åIJĮ çļĦ +ä» ķ +èģ ĸ +æĥħ æ³ģ +é¢Ĩ导 人 +åĩºæĿ¥ äºĨ +沿 线 +éĻ ½ +æĦŁ è¦º +ä»į åľ¨ +æ© Ļ +约 为 +åĸĿ éħĴ +ç͍ èᝠ+ä¸ĭ ä¸Ģ +æ³ķ å®ĺ +顺 åºı +åģļ ä¸Ģ个 +åĭ ¢ +æŃ ª +ç͵ ç«ŀ +ä¼´ éļıçĿĢ +ä¹ĭ åĬĽ +ä¹ĭ 人 +äºij 计ç®Ĺ +åĪ«äºº çļĦ +ç§ijåѦ åıijå±ķ +第 åħ« +å¹² æī° +女 ç¥ŀ +è¿Ļæł· åģļ +å¤Ħ åľ¨ +æ°´ è´¨ +éķ¿ æĺ¥ +å¸Ĥåľº éľĢæ±Ĥ +ç»´ æĿĥ +è̳ æľµ +æĸĩåĮĸ çļĦ +奶 ç²ī +ä¼ł è¾¾ +æīĭæľº çīĪ +æĽ¾ åľ¨ +äºĮ æľŁ +åİŁåĽł æĺ¯ +æºIJ 头 +åıĪ èĥ½ +è£ ¸ +æĬĢæľ¯ åĪĽæĸ° +æĸĩåĮĸ æĹħ游 +åıij 票 +å¹´ 级 +ä½ł ä¸į +ä¹ĭ å¿ĥ +æķ° çϾ +åIJij å¾Ģ +èĢģ å®¶ +åľĭ éļĽ +çļĦ é«ĺ度 +æľĿ éĺ³ +æ¸ħ éϤ +èĩª æľī +书 ä¸Ń +游æĪı è£ħå¤ĩ +ä¸ĩ å¤ļ +驾驶 åijĺ +ä½ł çŁ¥éģĵ +åĽ½ åºĨ +é£Ł åłĤ +æİ¥ åı£ +æĢ» æķ° +åħ¶ä»ĸ çļĦ +çĶŁåij½ çļĦ +ä½ł åľ¨ +çļĦ 缮åħī +è¿Ļ æĸ¹éĿ¢ +éĥ½ 说 +çĸĹ æ³ķ +åĭĩ 士 +åľ¨ åħ¨çIJĥ +ä¿ĿéĻ© åħ¬åı¸ +çĿ£ æŁ¥ +åĸĦ èī¯ +表 å½° +è¹ ² +è·¯ 段 +æľĥåĵ¡ è¦ı +æľĥåĵ¡è¦ı ç¯Ħ +æĪ· åŀĭ +ä¿ĥ 使 +ä¿® 建 +é«ĺ æ°´å¹³ +åģļ åĩºäºĨ +主 åľº +è¡Į èµ° +空 çϽ +æľī人 说 +è¿Ļ个 ä¸ĸçķĮ +åIJį ä¹ī +å®Į ç¾İçļĦ +羡 æħķ +åıĬ åħ¶ä»ĸ +åı¯ ç͍ +æĭ IJ +è¾ĥ 大çļĦ +æĬĢæľ¯ åĴĮ +å°¼ äºļ +çϾ è´§ +æı ī +éĢī è´Ń +éĺŁ åıĭ +ä¼ł æĦŁ +ä¼łæĦŁ åύ +åıªè¦ģ ä½ł +为ä»Ģä¹Ī è¦ģ +ä¸ĵ注 äºİ +ä½Ļ é¢Ŀ +åħ¸åŀĭ çļĦ +缮åīį å·² +欲 æľĽ +èģĶ ç»ľ +æµģ ä¼ł +çļĦ å®¶åºŃ +åı· åı¬ +çıį è´µ +ä¼Ł 大çļĦ +éī´ äºİ +è·Ł ä»ĸ +产 çī© +ä¸į å·² +è¿Ŀæ³ķ è¡Į为 +头 ä¸Ĭ +åĪĨ è§£ +åı¯ä»¥ çľĭåĩº +æł¡ åĮº +åŃĹ ä½ĵ +ä¿® çĤ¼ +çĶļèĩ³ æĺ¯ +微信 åħ¬ä¼Ĺ +åıĸ 代 +èIJ¥ä¸ļ æĶ¶åħ¥ +æ½į åĿĬ +ä½ł èĥ½ +社ä¼ļ ä¿Ŀéļľ +æ¯ĶèµĽ ä¸Ń +污水 å¤ĦçIJĨ +夫 å¦ĩ +ä¸Ģ å¹ħ +沿 æµ· +åı£ æĦŁ +ä½Ĩ åį´ +å½ĵ æĹ¥ +çļĦ æľĢ大 +æ¯ı ä¸Ģä½į +没 äºĭ +çī¹ åĪ¥ +å¼Ģ åѦ +è·¯ éĿ¢ +å¿ĥçIJĨ åѦ +æĶ¾ ç½® +éĩįåºĨ å¸Ĥ +ä½ł èĩªå·± +æ¶Īè´¹èĢħ çļĦ +ä¸Ģ æ³¢ +èѦ æĥķ +å᧠室 +注 å°Ħ +é£İ 鼨 +沿 çĿĢ +åijĬ 訴 +表 çݰåĩº +åĽĽ æĺ¯ +åı¤ åħ¸ +æĽ´ éĩįè¦ģçļĦ +好 äºĭ +çľ¼ 泪 +æ¨ ĵ +审 åΤ +碰 æĴŀ +车 ç«Ļ +è¿Ľåħ¥ äºĨ +éĽĨ åIJĪ +æł¼ å¤ĸ +宾 é¦Ĩ +æĶ¯ä»ĺ å®Ŀ +她 æĺ¯ +æĺ¯ å¦Ĥä½ķ +人 次 +çļĦ æĪIJåĬŁ +æĹł åĬĽ +æµ· æĭĶ +æĺ¥ åŃ£ +éĥ½ ä¸įä¼ļ +çŃī å¤ļç§į +ä¸Ģ个 å°ı +åģľè½¦ åľº +让 æĽ´å¤ļ +è¿Ļ çĤ¹ +æĪIJ åĵģ +éĴ ī +éģĩ è§ģ +çıŃ ä¸»ä»» +æĦı æĦ¿ +çļĦ åIJĮåѦ +游 è§Ī +åİĭ 缩 +åľ¨ ä¼łå¥ĩ +å¼¹ æĢ§ +æĹ¥ åĨħ +ç¦ı建 çľģ +è§Ĵ èIJ½ +åĪĨ å¼Ģ +ä¼ļ 让 +å¤ĸ åĽ´ +çĨŁæĤī çļĦ +çĨ Ķ +ä¸ĩ è¾Ĩ +å¤ľ éĹ´ +车 身 +ä¸Ń æľŁ +å®ĮåĸĦ çļĦ +åĵģ ç±» +åıĭ è°Ĭ +éĢīæĭ Ķ +éªij 士 +å½ ¦ +çļĦ çľĭæ³ķ +åĽ½ çİĭ +è¾£ æ¤Ĵ +åıijå¸ĥ æĹ¶éĹ´ +åı¤ åŁİ +éļı æľº +ç« ĸ +å¼Ģ è¾Ł +ä¼Ĺ çĶŁ +没 åĬŀæ³ķ +åįĥ éĩĮ +æĿ¥æºIJ äºİ +çļĦ æĿĥåĪ© +æ¯Ķ åĪĨ +满æĦı çļĦ +ä¿® è¡Į +åĿ ł +大 æµ· +èİ ¹ +åĩº 身 +è« ĩ +åħ³ èĬĤ +åIJį 人 +éľĢè¦ģ 注æĦı +æĹ© æĻ¨ +å¤ĸ åįĸ +åıĪ è¦ģ +æ¶ī æ¡Ī +çĶ³è¯· 人 +éĻĦè¿ij çļĦ +åĬłå¿« æİ¨è¿Ľ +æĸ° å¹´ +大 è¡Ĺ +ä¸Ģ é»ŀ +èĭı å®ģ +æĤĦ æĤĦ +èĦ¾ æ°Ķ +å¸Į èħĬ +éļı åį³ +æķ¢ äºİ +å®ŀè·µ ä¸Ń +æĺ¯ 没æľī +æľīè¶£ çļĦ +æĿ¥èĩª äºİ +è£ģ åΤ +女 åŃ©åŃIJ +èĩ³ åħ³ +èĩ³åħ³ éĩįè¦ģ +æĻº åĬĽ +èµ° åĩºåİ» +çŁŃ æĿ¿ +大 åĽ½ +çļĦ 认è¯Ĩ +å¹´ å¤ľ +åĨį åΰ +åIJĮ æł·çļĦ +å¯Ĩ å°ģ +å¤ĸ交 éĥ¨ +çĶŁ æķĪ +æĤ¨ åı¯ä»¥ +ä½ł åĢij +è¿ĩ å¹´ +å¼ ĵ +è¡Į æĿİ +æ¯Ķ èµ· +身 é«ĺ +è¿Ļ个 人 +ä¸Ń å¤ĸ +éģĵ æŃī +çĽ¯ çĿĢ +亲 åŃIJ +éĹ ¸ +çϽ äºij +èĦĸ åŃIJ +ä¸ĢåĪĩ éĥ½ +æ· ij +è° ľ +åģ¶ çĦ¶ +éĿł è°± +é«ĺ 管 +ä¸ĭ åıij +æĶ¾ åΰ +ç±» åĪ« +ä¸ĭ åĪĹ +æ·· ä¹± +åIJĪæ³ķ æĿĥçĽĬ +çݯ çIJĥ +æľīæķĪ åľ° +åķĨ æĪ· +æ¹ĸ 人 +æµ· 岸 +æĬķ 产 +两 个æľĪ +éĥ½ éĿŀ常 +å¢ŀ强 äºĨ +æĿ¥ åΰäºĨ +åī© ä½Ļ +æĤ¨çļĦ åŃ©åŃIJ +æµģ æ°´ +æŃ£ ä¹ī +天 çĮ« +åģļ è¿ĩ +ä½ķ æĹ¶ +æĪij åİ» +çľģ 份 +å¥ĸ éĩij +该 å¦Ĥä½ķ +ä¸ĭ çıŃ +åģ¶ åĥı +æijĨ æĶ¾ +æĸ° 模å¼ı +æĬķ è³ĩ +è·¯ åı£ +åĨľæ°ij å·¥ +大 åѸ +ä»¶ äºĭ +æł¹æľ¬ ä¸į +æµĵ 度 +æµĵ åİļ +è½® èĥİ +æĪ¿ ä¼ģ +éĿŀ常 好 +ä»İ ä¸Ń +人 æł¼ +ç¿ ģ +æĹ¶éĹ´ åĴĮ +è¿Ļ ä¸įæĺ¯ +åΏ åķĨ +æĥĬ 人 +åύ å®ĺ +åĩĨ åĪĻ +æĥħ æĻ¯ +æĽ´ é«ĺçļĦ +åѦ å®¶ +泡 沫 +åľ°æĸ¹ æĶ¿åºľ +å°± çŁ¥éģĵ +åij¼ åIJģ +ç»ı è´¸ +èĬ± éĴ± +æľī ä¸Ģ次 +æĦŁ æħ¨ +ä¸Ģ åįĥ +å¤ľ æĻļ +詹 å§Ĩ +詹å§Ĩ æĸ¯ +è¦ģ éĹ» +ç» Ĵ +æºIJ äºİ +çļĦ è´¨éĩı +注æĦı äºĭ项 +æħ¢ æĢ§ +稳å®ļ çļĦ +建设 åĴĮ +æĻ¯ 象 +éĩı åĮĸ +çļĦ 話 +è¯Ħ 级 +æº ľ +红 åĮħ +éĢļ éģİ +社ä¼ļ 责任 +æĸ° 产åĵģ +åĨ· éĿĻ +çľĭ ä¸įåΰ +èģĶ éĤ¦ +éŃ Ħ +çļĦ åīįæıIJ +çļĦåīįæıIJ ä¸ĭ +è¾ĥ 好 +çļĦ æĦŁæĥħ +客æĪ· æıIJä¾Ľ +çĭ¬ èĩª +å¢ŀ æĶ¶ +æĸĩ çĮ® +æĭ¼ åij½ +管çIJĨ åĴĮ +æµģåĬ¨ æĢ§ +åħ¨ å®¶ +ä¸Ĭ æĸ¹ +æİ¨åĩº çļĦ +ä¸ī åĽ½ +ä¸Ģ个 æĺ¯ +æĸ° ä¸Ģè½® +æĸĩåĮĸ éģĹ产 +æ® º +大 æ¹¾åĮº +éĥ½ éľĢè¦ģ +çļĦ å®ŀéĻħ +ç· Ĭ +大 å¥ĸ +åħī èĬĴ +便 äºİ +çļĦ 表æĥħ +æ¼Ķ ç»İ +红 åĨĽ +å½ĵ æĪij +æ²» æĦĪ +é¢Ŀ 度 +éĿ ľ +ä»»ä½ķ 人 +è¡Ĺ 头 +çī¹ æĸ¯ +çĸ¯ æĭī +åĮ»çĸĹ æľºæŀĦ +ç»Ļ åŃ©åŃIJ +è§Ħ 磩 +è£ ľ +çļĦ 身影 +ä¸ĵ æłı +æĿ¥ 临 +ç«¥ å¹´ +å¤į èĭı +è¨ Ĥ +åŀĭ åı· +åĽ¾ æ¡Ī +ç®Ģ åİĨ +æĭ ± +èį· åħ° +ä»» æĦı +æī¿ æİ¥ +è¿Ļ æīį +客 车 +æľĿ çĿĢ +éłħ 缮 +åı° é£İ +çļĦ æĪ¿åŃIJ +éª ı +æĿ± 西 +éģĹ ä¼ł +è¶Ĭ å¤ļ +äºĨ ä»ĸçļĦ +ä¸Ĭ åij¨ +管çIJĨ åĪ¶åº¦ +失 ä¸ļ +çĶ· åıĭ +æİ¥ ç§į +å¨ģ åIJį +çĴ° å¢ĥ +åıijçĶŁ åľ¨ +个 åĽ½å®¶ +åĪĽæĸ° åıijå±ķ +æĶ¹åıĺ äºĨ +åģ¥åº· çļĦ +å̼å¾Ĺ ä¸Ģ +å̼å¾Ĺä¸Ģ æıIJ +åĽ¢ ä¼Ļ +åģĩ 设 +åı° ä¸Ĭ +è§ĦèĮĥ åĮĸ +éĻª åIJĮ +座 æ¤ħ +åı¯ æĢľ +åħĭæĢĿ 主ä¹ī +æ³ķå¾ĭ 责任 +ä¸Ģ é¡¿ +æĬ¬ 头 +为 éĩįçĤ¹ +è¿ľ æ´ĭ +éĢı è¿ĩ +åħ¨çIJĥ åĮĸ +è¶£ åij³ +票 æĪ¿ +æ¯ı 人 +åIJĦç§į åIJĦæł· +äºĨ åĩºæĿ¥ +ç»Ŀ对 æĺ¯ +ä¸ĭ å±ŀ +ä¸Ģ åıĮ +è¿Ļ åĿĹ +æĬĹ çĸ« +è¦ģ çĤ¹ +å½¢æĪIJ çļĦ +æĪij çľĭ +ä¸ĩ éĩĮ +èĢĥ çłĶ +为 åħ¶ +æ°ij 宿 +å¤ļ ä½į +大 èĩ´ +ä»ĺ è´¹ +åħ¥ æīĭ +å±ħ å®¶ +æīĢåľ¨ åľ° +人 身 +è¿ĩ å¾Ĺ +è¯ķ è¯ķ +访 è°Ī +åĬł éĩį +å°± ä¸įä¼ļ +çĶŁäº§ ä¼ģä¸ļ +åĽŀ åĽ½ +åºķ 线 +èµ¶ åΰ +æĶ¯ éĺŁ +æĪij们 éĥ½ +éĤ® æĶ¿ +缴 èĩ³ +éĴ¢ çIJ´ +åħ ľ +çłĶ讨 ä¼ļ +æľĪ 亮 +åĿļæĮģ 以 +åħ¬å®ī éĥ¨ +éĴ¢ 管 +å°ı çϽ +ç½® ä¸ļ +èģ ĭ +书 åĨĻ +æĿ ı +éħį æĸ¹ +èĢĮ åıĪ +çijŀ 士 +çķĮ çļĦ +èĢģ 大 +æĪIJçĨŁ çļĦ +å¹² ä»Ģä¹Ī +ä¸ĵ项 æĸĹäºī +çŃī å¤ļ个 +èĦ± 离 +ä¸ī 个æľĪ +çłĶç©¶ åijĺ +æĹĭ 转 +æŀģ èĩ´ +åħį è´£ +åħįè´£ 声æĺİ +å¾Īå¤ļ çݩ家 +车 ä¸Ĭ +交 äºĴ +å·² æĺ¯ +ä¸Ģ å°ı +çļĦ éĩįçĤ¹ +èĬ± äºĨ +ä¸į æĺİ +æľīåħ³ è§Ħå®ļ +çĬ¹ å¦Ĥ +çľ ¸ +å¯ ¡ +çļĦ è¡£æľį +åĮħ 裹 +身 åŃIJ +å¸ĪèĮĥ 大åѦ +äºĭ åħĪ +线 æĿ¡ +æ³ķ åζ +åħ» æĬ¤ +稳å®ļ æĢ§ +éĤ µ +åŀĦ æĸŃ +é¡ į +èĢĥ åı¤ +æĿł æĿĨ +èĭı èģĶ +æ°´ ç͵ +åħ·ä½ĵ çļĦ +æ¿Ģ æ´» +æĪij æł¡ +åĪļ å¼Ģå§ĭ +åĩ¸ æĺ¾ +ç¦ ¾ +åħ¼ èģĮ +éĢı éģİ +åľ¨ 游æĪıä¸Ń +社ä¼ļ åıijå±ķ +好 çİ© +å¹» æĥ³ +ä¸į 代表 +注æĦı åĬĽ +æ£ į +ç͍ æīĭ +ç¾İ 人 +许å¤ļ 人 +å¾Ī æĺ¯ +çļĦ çłĶåıij +æīĵ åĩº +åIJĪä¼Ļ 人 +ä¸Ģ å¤ľ +ç¼ĵ ç¼ĵ +ä¿® æŃ£ +æĦŁ çŁ¥ +ç»Ī 身 +æ¿Ģ ç´ł +çݯå¢ĥ ä¸ĭ +次 ä¼ļè®® +ç»ıæµİ å¢ŀéķ¿ +æī Ľ +åıij éħµ +åĪĨæŀIJ å¸Ī +åľ¨ æľªæĿ¥ +主è¦ģ æľī +ä¸Ģ åŃ£åº¦ +çļĦ 说æ³ķ +ä»İæĿ¥ 没æľī +è´§ 车 +缩 å°ı +太 è¿ĩ +æķĪ åĬĽ +ä¸į ä¸ĭ +æĬķ 稿 +èᝠä¸ļ +ç»Ħ éķ¿ +ç«Ļ çĤ¹ +å¾Ī åĸľæ¬¢ +éIJ µ +åĬ¿ 头 +æ¼ı æ´ŀ +æĦ¤ æĢĴ +åħħ å®ŀ +åĪĽä¸ļ æĿ¿ +çĪ ª +æľª å¿ħ +åºķ éĥ¨ +å¾Ĺ åĪĨ +人æ°ij åĮ»éĻ¢ +äºĮæīĭ æĪ¿ +å·²ç»ı 被 +大 楼 +æĸ° æĪ¿ +辦 æ³ķ +ç͍ åĬĽ +æĭĵ 宽 +åĨħ åľ¨ +æĴŃ åĩº +饰 æ¼Ķ +ä¹Ł 让 +ä½ľ çĤº +çī©ä¸ļ 管çIJĨ +åį´ ä¸į +为 ä¸ŃåĽ½ +å±Ģ åĬ¿ +ä¸į èĤ¯ +æľĢ æĸ°çļĦ +åı¯ä»¥ éĢīæĭ© +æĺ¾ çݰ +å°± ç®Ĺæĺ¯ +åľ¨ æł¡ +é¾ Ł +两 æĿ¡ +çļĦ å®ŀåĬĽ +è¶Ĭ 好 +她 åľ¨ +å¿ł è¯ļ +ä¹Ł éľĢè¦ģ +游æĪı æĵįä½ľ +è¶ħ åĩº +å¦Ĥæŀľ ä¸į +æīĢåľ¨ çļĦ +ä½ł è¿ĺ +以 åĨħ +æľī ä¸Ģå®ļ +åı¯ è¾¾ +è·ij åΰ +åī Ľ +建ç«ĭ åģ¥åħ¨ +æķ´ 车 +åīį æĸ¹ +éĹ´ æİ¥ +çѹ å¤ĩ +çĸ² åĬ³ +离 å¼ĢäºĨ +æ± Ŀ +éĿ¢ éĥ¨ +ä¹ĭåīį çļĦ +åıĺ 为 +å¦Ĥæŀľ 说 +对 ä»ĺ +åĿĩ åı¯ +被åijĬ 人 +ç²¾ ç¾İ +èģļ ä¼ļ +çĿĢ æĢ¥ +è°· æŃĮ +ä¸Ģ åı· +红 åĪ© +ä¼łå¥ĩ 游æĪı +å» ĸ +è´ ŀ +ä¹° åΰ +éŃ ļ +ä½ĵ è´¨ +å°ij äºĨ +æ³ī å·ŀ +åIJ Ł +ç»Ŀ ä¸į +é»ij æģ¶ +é»ijæģ¶ åĬ¿åĬĽ +ä¸Ĭ æĺł +çļĦè¯Ŀ é¢ĺ +ä¸ĩ人 次 +ä¸ĸ éĹ´ +ç͍ å·¥ +è´¯ ç©¿ +å®Ŀ çŁ³ +ä½ł 好 +åĪĩ åī² +强 åĽ½ +åĽŀ èIJ½ +æ°´ æĻ¶ +模 仿 +æ´ª æ°´ +éĢĻ éº¼ +åįģä¸ī äºĶ +ä½ ij +éĻ Ħä»¶ +çļĦ å¢ŀéķ¿ +éĻĦ å±ŀ +çݰ å·² +帮 ä½ł +éĩij çīĮ +é«ĺ åİŁ +åľ¨ å®¶éĩĮ +éĺ² èħIJ +ç¡®å®ŀ æĺ¯ +宣 讲 +天 æīį +ç»ıèIJ¥ 管çIJĨ +éĶħ çĤī +åIJĪ ä¸Ģ +è§Ĥ èµı +éķ¿ è¾¾ +主ä¹ī æĢĿæĥ³ +éĤ£ 麼 +é£İ äºij +为主 çļĦ +æļij åģĩ +æĮģ ä¹ħ +å¼Ĥ åľ° +å¼Ģ éŨ +模 æĿ¿ +æī¹ 次 +ä¸į 便 +天 çĶŁ +åĩł 个æľĪ +ä¸ĵ ç§ij +åı¦ æľī +åħ¬å¸ĥ çļĦ +æĩ · +åľº åIJĪ +çļĦå¿ĥ æĢģ +è¿ĺ 好 +å®ŀ æĪĺ +èĢģå¸Ī çļĦ +åħ© åĢĭ +åı¯ åľ¨ +éĤ£ ä½į +å¥ł å®ļäºĨ +ä¿ĥ éĶĢ +æı´ åĬ© +ä¸ĩ çī© +æĥħ æĬ¥ +é¦ĸåħĪ è¦ģ +æĸĩåĮĸ åĴĮ +éĥ½ å·²ç»ı +ä¸Ĭ ä¸ĸ纪 +åĨľ åľº +大 æī¹ +æĺİçϽ äºĨ +çļĦ æĪIJéķ¿ +çļĦ æ¯ĶèµĽ +失 误 +åģļ æĪIJ +ä»Ĭ天 å°ıç¼ĸ +é¢Ĩ è¢ĸ +æıIJåįĩ äºĨ +å¾IJ å·ŀ +ä»į æľī +è¿ĩ 滤 +å¹½ é»ĺ +çĥŃ éĩı +ä¸Ģ é¦ĸ +æ¼Ĥ亮 çļĦ +åĩł ç§į +åĢ¡ è®® +å°±åı¯ä»¥ äºĨ +æİĴ åĪĹ +éĩį éĩį +ä¼ģä¸ļ åĴĮ +ä¸ĵ å±ŀ +çħ İ +亲 æĪļ +çϾåĪĨ ä¹ĭ +稿 ä»¶ +è¿ĺ å¾Ĺ +人 åĵ¡ +äºī 夺 +æĽ´ 容æĺĵ +大 èĩªçĦ¶ +鼻 èħ¦ +太 空 +åľ° å¤Ħ +å¤ ¢ +ä»ĸ 对 +å¿ħ å°Ĩ +ä¸į å½ĵ +严 è°¨ +åĩº åľº +å·²ç»ı æľī +é¢Ĩ åĨĽ +é«ĺ æ¡£ +ä¸Ģ æīĢ +æł Ĺ +让 åѦçĶŁ +æĽ¹ æĵį +æŁIJ ä¸Ģ +伸 åĩº +èĬ± åįī +æ¸ħ éĨĴ +èģĶç³» æĸ¹å¼ı +åĪĨ å±Ģ +èħ ³ +æ©¡ èĥ¶ +éķ¿ å¾Ĺ +绿 åľ° +è¢ į +çļĦ èīºæľ¯ +女 æľĭåıĭ +ä¸Ń è¶ħ +离 åŃIJ +å¤ļæł· åĮĸ +éĺ³ åı° +ä½İ 碳 +ä¸Ģ ç±» +çŃīæĸ¹éĿ¢ çļĦ +å¾Ĺ 好 +模 åħ· +ä¸ĩ 亿 +çķĻ æĦı +临 æ²Ĥ +å°ij éĩı +çľĭ åIJij +ç»ıèIJ¥ èĢħ +çķĻä¸ĭ äºĨ +åĿı äºĨ +åijĬ åĪ« +羣 çIJĨ +ç¼´ è´¹ +æĬĬ ä½ł +çļĦ ä»»åĬ¡ +æĪij 对 +ä¹° åħ¥ +çĻ» ä¸Ĭ +æľī 两个 +ä¸Ģ 头 +æĵį æİ§ +åħ¨ è¦ĨçĽĸ +çĿĢ æīĭ +å¢Ļ éĿ¢ +å¤ļ æĸ¹ +åı¯çα çļĦ +ä¹Ł åı¯èĥ½ +æľĢ æľī +è¿ĻäºĽ éĥ½æĺ¯ +æĥ ¡ +å® ® +å¾Ī å°ı +éĹ®é¢ĺ æĺ¯ +åĿĩ æľī +å¾ģ éĽĨ +说 åĩº +æľī æĦı +é¢ Ĥ +æī¬ å·ŀ +åķĨä¸ļ 模å¼ı +çĶŁ èĤĸ +æįIJ 款 +å² Ĥ +ç¾İ æĻ¯ +è¿ĺ 羣 +æĭ¥ æĬ± +身ä½ĵ åģ¥åº· +æ·± å¤Ħ +çľ¼ ç¥ŀ +çļĦ 形象 +ä¼ĺ è¶Ĭ +å½ĵ æĪIJ +åĮº åĪĨ +åİ» éϤ +注 å®ļ +å§IJ 妹 +åĮº åĨħ +é© ļ +æļĹ ç¤º +æĺİ äº® +æħ° éĹ® +å¸Ĥåľº 份é¢Ŀ +çĮª èĤī +çļĦ èµĦéĩij +åİĨ ç»ı +å§ĭç»Ī åĿļæĮģ +çĶŁ æľº +ä¸į 顾 +éĩij åĪļ +大 声 +éĻķ 西çľģ +é² į +åĨľä¸ļ åĨľæĿij +æľī 害 +éŨ è¯Ĭ +æ¯ı ä¸Ģ次 +çļĦ åĽłç´ł +é¢Ŀ å¤ĸ +åİ¿ 级 +çļĩ åIJİ +åĽ½ ä¼ģ +é¦ĸ éĢī +ç¼ĸ åĨĻ +æĭ¿ èµ· +åģ· åģ· +ä¸İ ä¸ŃåĽ½ +åįĸ å®¶ +ç»Ļ ä»ĸ们 +ç¥ŀ è¯Ŀ +åѸ æł¡ +æĪij ä¸Ģ缴 +çŁ¥éģĵ äºĨ +åį Ĵ +åĴĮ åľ°åĮº +ä»Ģä¹Ī éĥ½ +çĶ» å®¶ +æľ¬ çĿĢ +ä½Ļ åIJį +审 çIJĨ +ä¸Ģ åIJij +åıijå±ķ è¶ĭåĬ¿ +åĮº éĹ´ +注åĨĮ èµĦæľ¬ +çIJ ¦ +ä¸į åı¯ä»¥ +çļĦ åĦ¿åŃIJ +å̼ çıŃ +ä¸¥æł¼ çļĦ +å®ŀä½ĵ ç»ıæµİ +æľī æĿĥ +æĪij åıĪ +éĵ¶ æ²³ +ç«ĭ 马 +æĿĢ äºĨ +åĮħ 容 +管 å®¶ +身 é«Ķ +éĵ ħ +å°ı åŃIJ +管çIJĨ ç³»ç»Ł +æľīçļĦ 人 +é£İ ç͵ +æĻºèĥ½ åζéĢł +ç²¾ ç¡® +æĭĽåķĨ å¼ķ +æĭĽåķĨå¼ķ èµĦ +äºĮæīĭ 车 +åİ¿ å§Ķ +èīº äºº +å¥ ķ +è¿İ æĿ¥äºĨ +ç»ĵæĿŁ äºĨ +çļĦ ä¼łç»Ł +æĭ¼ æIJı +奥 迪 +çĸij æĥij +ä¹ĭ æĹ¥èµ· +æłĩå¿Ĺ çĿĢ +åľ° åįĢ +è¯ł éĩĬ +åΰ æľŁ +åħ¨ éĥ½ +çŁŃ æļĤ +æĺ¯ æĪijåĽ½ +æĪij å·²ç»ı +æ»´ æ»´ +天 èµĭ +对 她 +åį«çĶŁ éĹ´ +çĶŁäº§ åŁºåľ° +æĹ¥ è®° +çļĦ æķĻåѦ +åĵ ĩ +æ°ij äºĭ +è¿ĺ åİŁ +æīĭ ä¸ŃçļĦ +çļĦ èī¯å¥½ +æ· « +ä¸Ńåħ± ä¸Ń央 +åĪ ĥ +åĵ Ħ +åľ¨ ä»ĸçļĦ +å°Ī æ¥Ń +åľº éĿ¢ +éĤ» å±ħ +çĹ Ĵ +å¦ Ħ +å¤ĸ ç§ij +ä¸į éĢĤ +举åĬŀ çļĦ +é Ĥ¹ +åħļçļĦ 建设 +çϼ 表 +è·¨ çķĮ +æ²ī æ·Ģ +大 çīĩ +è¶Ĭ é«ĺ +å°Ĩ æĺ¯ +è§ī éĨĴ +åĤ¨ åŃĺ +å¢ŀ 大 +ä¸į 让 +æķ´ å½¢ +å¹³åı° ä¸Ĭ +åĩł ä½į +è¯ī æ±Ĥ +好 ä¸į好 +åľ į +æĸĩ æľ¬ +é̲ åħ¥ +ç´ į +æł¹ æĵļ +èįī æ¡Ī +åħŃ ä¸ª +åĭ ¿ +åζ æĪIJ +饮 æ°´ +æ°¸ æģĴ +èĩª æĿĢ +åı¸ 马 +éļ¾ çĤ¹ +为 æĪij们 +å¼ § +åī© ä¸ĭçļĦ +åĩĨå¤ĩ 好 +çļĦ æľĢä½³ +èģĶåIJĪ ä¼ļ +æĤ£èĢħ çļĦ +æĪijä¸į çŁ¥éģĵ +ä¸ĭ ä¸Ģ个 +åıijå±ķ æĸ¹åIJij +ç¬ ¨ +æīĢ以 æĪij们 +åĨĻ äºĨ +éĢł æĪIJäºĨ +æ²Ļ æ¼ł +çŃĽ éĢī +çģ¾ åĮº +ä¸Ĭ çľĭ +éħ ¶ +æ»ļ åĬ¨ +éļ¾ åħį +åIJī åĪ© +ä¸Ģ ä¸Ģ +ç²¾ å¯Ĩ +伸 æīĭ +礼 仪 +åħ¨ æĺ¯ +è¶Ĭ 大 +ä¸Ń æłĩ +åıĸ åĨ³ +åıĸåĨ³ äºİ +éĢĶ ä¸Ń +讨 åİĮ +æīĭ åĨĮ +第 ä¹Ŀ +åŃĶ åŃIJ +çĦ¶ å¾Į +ä¸Ģ åħ± +æµ· æĬ¥ +款 å¼ı +æķ´ 天 +è¾¹ çķĮ +è·¯ è¾¹ +æĻĭ 级 +åIJIJ æ§½ +çļĦ åħ³æ³¨ +æĪij 没æľī +å°±æĺ¯ åľ¨ +缮 çļĦæĺ¯ +åį³ä½¿ æĺ¯ +é¡¶ å°ĸ +å·²ç»ı åľ¨ +å®īåħ¨ éļIJæĤ£ +æłĩ æĿĨ +åįĹ éĢļ +ä¼ļ 对 +座 ä½į +èµ¢å¾Ĺ äºĨ +åİŁæĿ¥ çļĦ +身 为 +书 åºĹ +è¢Ń åĩ» +ä»Ĭ æĻļ +以 èī² +以èī² åĪĹ +æĬĸ éŁ³ +åį´ æ²¡æľī +丧 失 +çļĦ å±ĢéĿ¢ +åįģåĽĽ äºĶ +çŃī 缸åħ³ +æ±ĩ æĢ» +å¤ĸ 表 +为 æ°ij +éľĩ æĥĬ +å¥Ĺ è·¯ +çĬ¯ç½ª å«Įçĸij +å°Ĩ 以 +çİĩ é¢Ĩ +éħĴ åIJ§ +è¡Įä¸ļ åıijå±ķ +å¹´ èĩ³ +åύ æĿIJ +åĴĮ æĬĢæľ¯ +æľĢ å°ı +è¿Ļä¸Ģ åĪĩ +èģĮ ç§° +å½ĵ ä½ľ +æİĢ èµ· +åĴ ĭ +ä¸Ń éĥ¨ +æīĭ èĩĤ +ç½¢ äºĨ +媳 å¦ĩ +æ´½ è°Ī +æĹ¶ä»£ ä¸ŃåĽ½ +人çĶŁ çļĦ +æŀģ éĻIJ +ç¦ Ħ +åĮº æĶ¿åºľ +æľ¬ éĴ± +礼 åĵģ +çļĦ éĤ£ä¸ª +侦 æŁ¥ +太å¤ļ çļĦ +å®ŀæĸ½ æĸ¹æ¡Ī +é«ĺ æłĩåĩĨ +æĮĩæĮ¥ éĥ¨ +å̾ æĸľ +çī¹èī² ç¤¾ä¼ļ +çµIJ æŀľ +éĴ» çŁ³ +ç§» æ¤į +çī¹ ç§į +èĩª æĦ¿ +æĭľ çĻ» +åįķ 身 +åį´ åıĪ +åĪ¥ 人 +åIJĪ è§Ħ +æľº ç͵ +çī¹ æĦı +å½ĵåīį ä½įç½® +ä¹° å®¶ +åIJĪ çº¦ +èĤ© èĨĢ +为 åĩĨ +å®¶ è£ħ +çļĦ çĥŃæĥħ +éĿŀ éģĹ +çļĦ éŃħåĬĽ +åİŁ åijĬ +社ä¼ļ åIJĦçķĮ +ä¹° çļĦ +å¤ļ åIJĥ +éĽķ å¡ij +èµ· ä¹ī +åĬł åī§ +éĤ£ä¸Ģ åĪ» +å°Ĩ è¿Ľä¸ĢæŃ¥ +æ¡Ĥ æŀĹ +æĽ´ 强 +对 ä¼ģä¸ļ +æĹł æĦı +ä¹łè¿ijå¹³ æĸ° +æµģ 失 +å¾® 软 +缸 对äºİ +座è°Ī ä¼ļ +主 èIJ¥ä¸ļ +主èIJ¥ä¸ļ åĬ¡ +ç§ģ åĭŁ +å±ķ示 äºĨ +常æĢģ åĮĸ +è² ´ +符 åı· +å¹´è½» çļĦ +å°± éľĢè¦ģ +ä¹Ł æĽ¾ +çļĦæĥħ 绪 +è¾¾ æłĩ +èĩ ¨ +ä½į å±ħ +ä»ħ 为 +é¦ĸ å®¶ +éĺ´ éĺ³ +ä¸įåĨį æĺ¯ +åĽłä¸º å®ĥ +ä¼ģä¸ļ åľ¨ +çĺ ¾ +åIJ¬ è§ģ +åİŁ æľī +åζ è£ģ +å¯Ĥ å¯ŀ +éĢļè¿ĩ 对 +æ»ij éĽª +è¿Ļ å¼ł +çļĦ çIJĨè§£ +æĸ° ä¸ŃåĽ½ +è¿Ļ åĦ¿ +ä½İ ä»· +æĥ³ è¿ĩ +çļĦ ä¿¡å¿ĥ +建çŃij çī© +çļĦ é¢ľèī² +ä¸į åºĶ该 +æĹłçĸij æĺ¯ +å¼ķèµ· äºĨ +åħ¨ åijĺ +æĿ° åĩº +è¿Ļæĺ¯ æĪij +èª ° +èĺ ĩ +éĺµ åľ° +åħħ å̼ +çŁ¿ ä¸ļ +çĿĢ ä»ĸ +ä¿¡ 访 +ä¸ĩ è¾¾ +æij© æĵ¦ +å¼Ģ 端 +èı² å¾ĭ +èı²å¾ĭ 宾 +车 åŃIJ +æľ¬èº« çļĦ +çģ«è½¦ ç«Ļ +常 å·ŀ +为 代表 +为代表 çļĦ +广 ç͵ +亲 人 +åı³ æīĭ +éĽĨ è£ħ +éĽĨè£ħ ç®± +çļĦ åį°è±¡ +æ©Ł æľĥ +åĮĨ åĮĨ +åħī ç͵ +大 æĸ¹ +è¿ĺ æľª +åĪ© 好 +ç»Ŀ 大å¤ļæķ° +åľ¨ è¿Ļç§į +ä¸Ģ ç»Ħ +æĸ° èĤ¡ +转 åıij +æ³ķ åºŃ +æĹł æīĢ +éģĵ è·¯ä¸Ĭ +çŁ¿ å±± +èij ī +æĶ¶ åĽŀ +ç§° ä¹ĭ +ç§°ä¹ĭ 为 +æıŃ éľ² +åı£ 岸 +åIJ ¼ +å¿ĥ æĥ³ +çļĦ 梦æĥ³ +éĽ ¯ +ä¹ĭ åĪĿ +å¥ĸ 项 +订 éĺħ +èĵĿ 天 +åĿ¦ åħĭ +ç«ĭ æ¡Ī +èģĶ æīĭ +ä½Ĩæĺ¯ æĪij +帮 æĪij +ä»ħ 代表 +说 æĪij +çļĦ è¶ĭåĬ¿ +æ¯Ķè¾ĥ 大 +èµ° å»Ĭ +éĩįçĤ¹ é¡¹çĽ® +èµĮ åľº +åIJį çīĩ +æĦŁ åı¹ +åľ¨ åľ°ä¸Ĭ +åıij çĥŃ +èĮĥ çķ´ +çļĦ éģĵè·¯ +éĩij èī² +ä»ĸ åıĪ +ä¼ļ 产çĶŁ +æ°ij åĽ½ +å®ĺæĸ¹ ç½ijç«Ļ +æĶ¶çĽĬ çİĩ +çļĦ åΰæĿ¥ +çļĦ åĬŀæ³ķ +æĶ¹ åζ +ä¸ĩ ç§ij +ä¸į äºĪ +è¿ĻäºĽ éĹ®é¢ĺ +çα ä¸Ĭ +çIJĥ åľº +è´£ 令 +æİĪ è¯¾ +åľ¨ é¦Ļ港 +ç»Ĩ èħ» +å¤ļ ä¸ĩ +åIJĮ å¹´ +大 使 +æĸ ĭ +ä¹Ł 为 +æĥł å·ŀ +åIJī 祥 +çͰ åĽŃ +åĽ½å®¶ éĺŁ +éĩį çĶŁ +åľ¨ åħ¶ +é¦Ļ åij³ +è´Ł èį· +亲 åĪĩ +èĩª 豪 +没 éĶĻ +åĽłä¸º åľ¨ +æĺŁ æĺŁ +éĤ ij +è¿ĺæľī å¾Īå¤ļ +æij© æīĺ +æij©æīĺ 车 +æŃ¥ è¡Į +管çIJĨ ä½ĵç³» +èĦļ ä¸ĭ +éģİ åİ» +æ±ī è¯Ń +对 ä¸įèµ· +çļĦ ç»ıåİĨ +åıĬ 缸åħ³ +ä¸įå°ij 人 +éĩį ç£ħ +åĬ³åĬ¨ èĢħ +大åĬĽ åıijå±ķ +æĢİä¹Ī åģļ +çĭĹ çĭĹ +举åįĹ äºļ +åĭĩ äºİ +åħ¬ éĸĭ +çĵ· çłĸ +åıĤ çħ§ +广æĴŃ ç͵è§Ĩ +举 åĬ¨ +æ±Ł 西çľģ +æķĪ èĥ½ +å͝ æľī +éĿ¢ è²Į +èĩªåĬ¨ 驾驶 +æ¦ľ åįķ +å½ĵ æĪij们 +仲 è£ģ +æľ¨ æĿIJ +ç±³ åħ° +çϽ éĵ¶ +çļĦ 人éĥ½ +å°± åĥıæĺ¯ +æŃ¥ åħ¥ +åįł ç͍ +åĩ» è´¥ +让 大家 +ä¼ļ è®©ä½ł +åİ¿ æĶ¿åºľ +è¦ģ ç͍ +çŃī å½¢å¼ı +åįĩ é«ĺ +责任 æĦŁ +å¤ĩ ç͍ +ä»ĸ 认为 +æ¸ħåįİ å¤§åѦ +ä»ĸ èĩªå·± +éĸ± è®Ģ +太平 æ´ĭ +éĶģ å®ļ +çŃ Ĩ +è¿Ļ çīĩ +æī§ æĶ¿ +è¿ĶåĽŀ æIJľçĭIJ +å°± æŃ¤ +éģĩ åΰäºĨ +å¼Ģå¹ķ å¼ı +管çIJĨ éĥ¨éŨ +å§¿ åĬ¿ +设 æĥ³ +åĽĽ åŃ£ +æĬĢæľ¯ 人åijĺ +å·® çĤ¹ +è¾ŀ èģĮ +èĢģ 師 +çļĦ æĦŁåıĹ +ä¹Ł éĿŀ常 +å¹´ ä¸ĬåįĬå¹´ +æĢª çī© +èĮĥ æĸĩ +æĪĺ å½¹ +åIJ« ä¹ī +åħ¨ è¿ĩç¨ĭ +èĢĮ éĿŀ +éĢļ讯 åijĺ +è¿Ļæł· æīįèĥ½ +æľº ç»Ħ +è£ ı +çķ¶ çĦ¶ +èµĮ åįļ +åIJĦ æľī +å·¥ä½ľ æľºåζ +äºĭ åIJİ +åī§ éĻ¢ +å±Ĭ æĹ¶ +åĺ´ éĩĮ +主 线 +ä¸Ģ åľĪ +主è¦ģ åİŁåĽł +å°¸ ä½ĵ +åĮ»çĸĹ åĻ¨æ¢° +ä½ł æĢİä¹Ī +ä½Ĩ çͱäºİ +æĹ¶ 空 +çĶ· æľĭåıĭ +çĶľ èľľ +é«ĺ åľ° +æĻ ĸ +èĴIJ éĽĨ +åĩĿèģļ åĬĽ +å¤ĩ åıĹ +æĸĩ åĪĽ +马 æĿ¥ +马æĿ¥ 西äºļ +æŁ´ æ²¹ +使 人 +æķĻ ä¼ļ +ç§ĭ 天 +æĺİ çıł +åħŃ åįģ +çݯå¢ĥ ä¸Ń +æ¸ħ æĻ¨ +积æŀģ åıĤä¸İ +å·ħ å³° +为 æľŁ +çѾ åŃĹ +æĦŁ æ¿Ģ +ç§ĭ åŃ£ +æĿij åŃIJ +æ¢ħ 西 +æļ´ 鼨 +çĶŁæ´» åľ¨ +çªĹ æĪ· +æģ¶ åĬ£ +纯 ç²¹ +åľ¨ æİ¥åıĹ +没 èĥ½ +è¡Į 人 +åĭ º +æĭ¨ æīĵ +ä½ľ åĩºäºĨ +çļĦ 主é¢ĺ +æľª ä¾Ĩ +ä¸Ń æľĢ +æ¾ ľ +é«ĺ è¡Ģåİĭ +åħ´ èµ· +æŃ£ èĥ½éĩı +åŁ¹è®Ń çıŃ +æİ¥ åħ¥ +çĦ¶åIJİ åĨį +åѦçĶŁ 们 +é¢ĨåħĪ çļĦ +çģ« çĥŃ +ä¸ĵ èģĮ +æĪĸèĢħ 说 +建 è¨Ń +é» ı +对 åħ¬åı¸ +çī¹ æľīçļĦ +åħī èᣠ+å½ĵ åľº +éĿ¢ åŃIJ +èµĦ产 管çIJĨ +æĹ¶æľŁ çļĦ +çŀ İ +åįİ ä¸ľ +åıĪ ä¸Ģ次 +èĥİ åĦ¿ +å®ļ çĤ¹ +头 çĹĽ +æ¶² ä½ĵ +æĺ¯ä¸Ģ ä½į +帽 åŃIJ +å¹´ èµ· +ä¸į ä½İäºİ +è¾ĥ å°ij +éĿ¢ä¸´ çĿĢ +å±Ĥ å±Ĥ +èĿ´ èĿ¶ +èī° èĭ¦ +éĺ¿ æł¹ +éĺ¿æł¹ å»· +æ¦Ĥ æĭ¬ +请 éĹ® +èµ· åºĬ +å±Ģ å±Ģéķ¿ +稳 åģ¥ +å¦Ĥæŀľ æĪij们 +éħĴ ç²¾ +æĪ· åı£ +æĦŁ æĤŁ +æĪij们 éľĢè¦ģ +æĬĢ èīº +èĩª åªĴä½ĵ +è¿Ľ åĮĸ +æ¿ĢçĥĪ çļĦ +ä½ĵ 温 +èļ ķ +èĩ´ è¾ŀ +宪 æ³ķ +ä¸Ģ çŃīå¥ĸ +çĵ¶ é¢Ī +æĥł æ°ij +èµ° è·¯ +çݰ ä»» +åķĨ éĩı +ä¸ĭ 车 +åĪ ł +責 ä»» +èŀįåIJĪ åıijå±ķ +ç´ł æĿIJ +æ²¹ ä»· +åģļ 人 +çŀ ª +æĶ¹éĿ© åĪĽæĸ° +çļĦ åĮºåĪ« +è·¨å¢ĥ ç͵åķĨ +æ¶īåıĬ åΰ +æīĺ 管 +æĪij è¿ĺæĺ¯ +åĿIJ æłĩ +ç½ij 讯 +å½ĵåľ° çļĦ +追 溯 +åľŁ è̳ +åľŁè̳ åħ¶ +åºķ ä¸ĭ +åĩł åįģå¹´ +ç©¿ è¿ĩ +çĶŁæĢģ æĸĩæĺİ +æİ¨ èĸ +æİ¨èĸ ¦ +éł Ĩ +åĴ³ åĹ½ +åĪĨ æĪIJ +çĹķ 迹 +æĪ· ç±į +éĥ½ ä¸įèĥ½ +æĻļ ä¼ļ +åĢ © +ä½ĵ åĬĽ +è¿Ļ个 èģĮä¸ļ +æĹł å½¢ +åıª æĥ³ +è¿Ľ åıĸ +æĿĢ æŃ» +èĦ Ĭ +äºij åįĹçľģ +æľª çŁ¥ +ç¾İ èģĶ +ç¾İèģĶ åĤ¨ +å¤ĸ å½¢ +诱 æĥij +çĽ £ +è¡Į 使 +åłĨ 积 +çĨŁ ç»ĥ +éĺIJ è¿° +æľĢ大 éĻIJ度 +å·¡ æŁ¥ +夺 åĨł +ä¼ģä¸ļ æĸĩåĮĸ +çĭ® åŃIJ +ä¿Ŀ å®Ī +ä¸ºæł¸å¿ĥ çļĦ +æī© æķ£ +åζéĢł åķĨ +æŁĶ 软 +为ä¸Ģä½ĵ çļĦ +游 çİ© +çĶŁ çĹħ +幫 åĬ© +åͱ æŃĮ +æīį åı¯ä»¥ +宽 æĿ¾ +è¦ģ æ¯Ķ +æĺ¯ æĢİæł· +çģ° èī² +çİĭ åĽ½ +æIJħ æĭĮ +计 éĩı +åij¨åĽ´ çļĦ +æĻºèĥ½ æīĭæľº +常 åĬ¡ +常åĬ¡ åī¯ +é© ´ +å°Ĩ è¿ij +寻 常 +ä¸ŃåĽ½ å¸Ĥåľº +容 åύ +å±± ä¸Ĭ +èĥĮåIJİ çļĦ +亲 å¯Ĩ +æīĢ以 说 +éİ ® +çļĦ çIJĨçͱ +大 åŁİå¸Ĥ +常 å¹´ +æĹħ游 ä¸ļ +å°±æĺ¯ è¿Ļæł· +åĨį æĿ¥ +é«ĺ ä½į +åĨħ 饰 +æŀĦ éĢł +ä¸Ģ èµ·æĿ¥ +çͳ è«ĭ +å·²ç»ı å¼Ģå§ĭ +çļĦ åĬ¨ä½ľ +被 è¿« +éģį å¸ĥ +åīĸ æŀIJ +å°ı äºĭ +å¿ĥ ä¸ŃçļĦ +ä½ĵåζ æĶ¹éĿ© +çļĩ å®¶ +æķĻ åłĤ +åIJĥ å®Į +åĽ½æ°ij åħļ +æĺİç¡® äºĨ +åıijå±ķ è§ĦåĪĴ +第ä¸Ģ æŃ¥ +å¾Ĺ èµ· +åľ¨ åĵª +çļĦ è·¯ä¸Ĭ +é» Ķ +çķ¶ æĻĤ +大åĬĽ æĶ¯æĮģ +åıĮ éĩį +çŁ¥éģĵ èĩªå·± +åIJĪä½ľ åįıè®® +æ°Ķ åĬ¿ +éķ¿æķĪ æľºåζ +ç½ķ è§ģ +åĽŀ æĿ¥äºĨ +ä»ĸ ä¼ļ +ä¸Ń æĸ° +ä¸Ńæĸ° ç½ij +çļĦ åķĨåĵģ +èµł éĢģ +決 å®ļ +å¸Ĥåľº çĽij管 +çķĻ åѦçĶŁ +ç͵ åİĭ +äºļ 马 +äºļ马 éĢĬ +è¿ĺæĺ¯ æ¯Ķè¾ĥ +ä¿ĥè¿Ľ äºĨ +æµģ åħ¥ +æijĦ åĥı +æijĦåĥı 头 +æıIJ åıĬ +åıij æİĺ +æī¾ åĩº +æ¢Ŀ ä»¶ +ç¹¼ çºĮ +æĪij åĸľæ¬¢ +å¥ İ +æ¦ľ æł· +å¼Ģ èĬ± +æ²ī éĩį +åŁº åĩĨ +ä»ħä»ħ æĺ¯ +轨éģĵ 交éĢļ +åĶIJ å±± +çŃī ä¸Ģç³»åĪĹ +ä¸įè¿ĩ æĺ¯ +åŃĺåľ¨ çĿĢ +èĬ± çĶŁ +å¤ · +ç»Ī ç©¶ +ä¹Łæĺ¯ ä¸Ģ个 +åįģ åŃĹ +èĸª éħ¬ +伤 å¿ĥ +æĺ¥ ç§ĭ +åĨ· åį´ +ç²¾ çģµ +çļĦ åľ°åĽ¾ +æ¯Ķ çī¹ +æ¯Ķçī¹ å¸ģ +æĢ§ åĪ« +ä½Ļ ä¸ĩåħĥ +ä¸įå¿ĺ åĪĿå¿ĥ +å¿ĥ çĸ¼ +æĽ² 线 +é«ĺ ä½İ +è¦ı å®ļ +æĻ¯ èī² +è¦ģ 说 +åħ¬åı¸ å°Ĩ +æ¶² åİĭ +è¿Ŀ 约 +åİļ 度 +åºŀ 大çļĦ +è¿ĺæĺ¯ å¾Ī +é¦ĸåħĪ æĺ¯ +çµ ² +åĬ¡ å®ŀ +並 ä¸Ķ +å¢ŀ è¿Ľ +ç»Ħç»ĩ å¼Ģå±ķ +èµ·æĿ¥ äºĨ +è¾ĥ å°ı +导 游 +两 åľ° +ç¿ ĺ +çģ¿ çĥĤ +é£İ éĩĩ +æĶ¯ 线 +æĶ¯çº¿ ä»»åĬ¡ +娱ä¹IJ åľĪ +天津 å¸Ĥ +åĮħ åĽ´ +æľ¬ èµĽåŃ£ +éĩįè¦ģ 讲è¯Ŀ +åıĮ åIJij +åįİ ä¸½ +éĶ ¤ +åĦ¿ 女 +åįĸ åĩº +ä¾Ĩ 說 +ä»ĭç»į ä¸Ģä¸ĭ +åIJ¦ 认 +åĭ Ŀ +æĻ®éĢļ 人 +çļĦ åĬ¨åĬĽ +涨 åģľ +åŁºéĩij 管çIJĨ +ä¸Ģ个 éĩįè¦ģ +è¿IJ æ²³ +çħ ŀ +è´¢æĶ¿ éĥ¨ +è¡Įä¸ļ åįıä¼ļ +éĥ½ å°Ĩ +è¨Ģ 论 +ä¸ĭ ä¾Ĩ +墨 西 +墨西 åĵ¥ +åĽłä¸º ä»ĸ们 +æĢİä¹Ī åĽŀäºĭ +åĬłå¤§ 对 +èĬ Ń +çīĮ åŃIJ +ä¼ļ 使 +妹 åŃIJ +ç«Ļ éķ¿ +å¿ħ å¤ĩ +æłij æľ¨ +æģ¶ æĦı +æ²³ éģĵ +å¯Į è£ķ +ç¹ģ åįİ +代表 åĽ¢ +æµij 身 +é¦ĸ ä½į +èĪªç©º åħ¬åı¸ +鼻 å½± +ä¸ĵ è¾ij +æ°´ æºIJ +ä¸Ń æ¯Ĵ +並 ä¸į +èĢĮ åİ» +é ĥĿ +äºİ æŃ¤ +æĸĩåĮĸ 建设 +èĤ¯å®ļ ä¼ļ +å¸ĮæľĽ 大家 +æıı åĨĻ +ä½İ è°ĥ +æĸ°åħ´ 产ä¸ļ +æ·Ħ åįļ +æĶ¾ å¼Ģ +çļĦ æĢ§æł¼ +çĸ¾çĹħ çļĦ +æķ´ é¡¿ +线ä¸Ĭ 线ä¸ĭ +éĢī 项 +çļĦ 认åı¯ +æķ´ é½IJ +çĶļ ä¹Ī +çľģ åĨħ +åı¤ 人 +æ°ij ä¿Ĺ +çī¡ ä¸¹ +éŨ çªĹ +éĤ£ æł·çļĦ +çĽijäºĭ ä¼ļ +ç¿¡ ç¿ł +ç¦ ¹ +åįĥä¸ĩ ä¸įè¦ģ +æĶ¶ 缩 +çļĦ æĸĩåŃĹ +åĴĮ å°ļ +æĮĩ 令 +åħ±äº§ åħļåijĺ +çļĦ çĪ¶äº² +å®Į å·¥ +åĬ¡ å·¥ +马 æĭī +马æĭī æĿ¾ +æµĭ è¯Ħ +å² ļ +ä¸į åģļ +ä¸ĥ å¹´ +åĿĩ ä»· +主 è§Ĥ +å¾Ī ä¸įéĶĻ +èĤ¡ä¸ľ 大ä¼ļ +äºĶ ä¸Ģ +é£İ åIJ¹ +å¼Ģ éĩĩ +è¿Ļä¹Ī 大 +èĥ½ çľĭåΰ +èĢĥ è¯Ħ +åį³ ä¾¿æĺ¯ +çݰ代 åĨľä¸ļ +æ¯Ķè¾ĥ é«ĺ +è¦ģ çľĭ +没 äºĨ +è§£ 決 +çݯ æ¯Ķ +åĨ² åĬ¨ +æ·± å¤ľ +åĩł åįĥ +ä¿ ı +ç½ij æ°ij +å°± 没 +ä»ĸ 表示 +éĩı åŃIJ +æĹ©é¤IJ åĬłçĽŁ +åįĬ å²Ľ +æIJŀ ç¬ij +ä¸Ĭ æĬ¥ +å¯ © +é¢Ħ 订 +èľĤ èľľ +æŁ¥ æī¾ +ä¼Ĺ æīĢ +ä¼ĹæīĢ åij¨ +ä¼ĹæīĢåij¨ çŁ¥ +æĹ© æĹ¥ +åıij æī¬ +åĴĮ 个人 +åĬłåħ¥ äºĨ +åĸ® ä½į +åĪĨ æĺİ +第ä¸Ģ æī¹ +ç¾İ åĨĽ +æĿĢ æīĭ +éŨ å¤ĸ +åķĨ åľĪ +ä¸Ģ åĪ» +çļĦçľ¼ ç¥ŀ +éľ Ħ +äºĽ ä»Ģä¹Ī +åĬł æ·± +æ¯ı ä½į +å¸Ĥ éĿ¢ä¸Ĭ +åıĶ åıĶ +çļĦ éĤ£ç§į +粤 港澳 +è´´ å¿ĥ +æĸĩåĮĸ 产ä¸ļ +红 æĹĹ +åĺī åħ´ +æĶ¶ çĽĺ +å®ĮæĪIJ åIJİ +ä¼ģä¸ļ 管çIJĨ +纵 横 +ä¸į ä¿¡ +æĪIJ éĥ½å¸Ĥ +æ´Ĺ 澡 +举è¡Į çļĦ +çĶ¢ çĶŁ +ç©¿ ä¸Ĭ +åĪļ 好 +åħī 线 +æīĵ æŀ¶ +è¿Ļ æľ¬ä¹¦ +åĶ®åIJİ æľįåĬ¡ +åĩł åĪĨ +ä¸Ĭ 次 +ä¸į åĪĨ +产 åIJİ +éģ¿ å¼Ģ +ç»Ī æŀģ +代表 大ä¼ļ +æ¼Ķ æĬĢ +åĽŀ è´Ń +åѦ è´¹ +éĺ» ç¢į +ä¸Ģ大 æī¹ +ç«£ å·¥ +åĨ³ å®ļäºĨ +ä½Ĩ å¦Ĥæŀľ +ç͵ æµģ +ä¸Ŀ 毫 +èĥ½å¤Ł åľ¨ +éĶĢåĶ® æĶ¶åħ¥ +åľ¨ åŃ¦æł¡ +æ°´ åĩĨ +è§Ĩ 线 +èĩª åľ¨ +åķĨä¸ļ éĵ¶è¡Į +为äºĨ 让 +çį² å¾Ĺ +çݩ家 æľĭåıĭ +éĿ¢ èĨľ +åĪĨ åī² +åī§ æľ¬ +ç« Ń +说 å¾Ĺ +æĥ³ çŁ¥éģĵ +çļĦ人 çī© +èĮħ åı° +åIJĮ ä¸Ģ个 +æķ°æį® ä¸Ńå¿ĥ +çĶ Ħ +åĸľ æĤ¦ +ä¸ĭæĿ¥ çļĦ +å®ļ åIJij +æŀģ åħ· +çļĦ åľŁåľ° +éĤ£ åĢĭ +æijĦ åħ¥ +äºĨ æĪijçļĦ +马 è·¯ +åħ¨ 社ä¼ļ +è®® æ¡Ī +å±ĭ åŃIJ +åIJį åı« +åĮ ª +åľ¨ å¤ĸéĿ¢ +åįİ åįĹ +åıij è´§ +å¯Ĵ åĨ· +é«ĺçŃī æķĻèĤ² +详ç»Ĩ çļĦ +个 é¡¹çĽ® +çĶŁäº§ åĬĽ +æĹ¶ 常 +å°± æľĥ +ä¸ĩ èĤ¡ +éĻĮçĶŁ 人 +æıı ç»ĺ +å½ĵ çĦ¶æĺ¯ +æĭī åĬ¨ +éĵ¾ æĿ¡ +æī£ éϤ +ä¸Ģ缴 éĥ½ +å°ı åŃ©åŃIJ +伤 åı£ +第äºĮ å±Ĭ +è´Ń ç½® +çļĩ 马 +æĹł èģĬ +表 åĨ³ +诸 å¦Ĥ +åĵį èµ· +é£İ æļ´ +ä¸Ģæµģ çļĦ +ç ·¨ +è§£æĶ¾ åĨĽ +室 å¤ĸ +å°± è¿Ļä¹Ī +å³ ¶ +æīĢæľī 人éĥ½ +æIJľç´¢ å¼ķæĵİ +çļĦ æĪIJæľ¬ +åħļ æĶ¿ +åıijè¡Į 人 +çļĦ äºĭå®ŀ +对 该 +åıĹ æįŁ +ä¿Ħ ä¹Į +é²ľ èĬ± +åĨľ èᝠ+æŀģ éĢŁ +æĢ¥ æĢ§ +两 ä¼ļ +ä¸Ģèά æĿ¥è¯´ +æµ· é²ľ +åĨ Ī +ç͍ 人 +çĶ¨äºº åįķä½į +åĢ ª +åĦª æĥł +æł¹ æºIJ +åĽ¢ è´Ń +ç¾İ æ´² +ä¸ĭ è¡Į +å¹´ æľ« +èľ ¡ +è¯ģ ä»¶ +åľ¨ æĪijåĽ½ +ä¸į åºĶ +æĮī æĹ¶ +åłª ç§° +åľº ä¸Ĭ +å¹²éĥ¨ èģĮå·¥ +æľī å¾Ī大çļĦ +æķ°åŃĹ ç»ıæµİ +æ¼Ķ ç»ĥ +æį® ç»Łè®¡ +å¾Ģ æĿ¥ +广åijĬ æľįåĬ¡ +çļĦ è·Ŀ离 +æŃ ¸ +è¨Ģ è¯Ń +被 èªī +被èªī 为 +åĭī 强 +å°Ĭ æķ¬ +ä¸ĩ 亿åħĥ +ä¸ŃåĽ½ åĽ½éĻħ +å¹² é¢Ħ +å¹´ 产 +èĢķ åľ° +èĮ İ +åį³ æĺ¯ +æĺ¨ æĻļ +æĪIJ为 ä¸Ģ个 +çºł æŃ£ +åij½ åIJį +é¢ģ å¸ĥ +çĮľ æµĭ +ä¿ĿèŃ· æĶ¿çŃĸ +æĭ ¢ +æ´» æ³¼ +çŃī éĥ¨éŨ +åѦ åΰ +å¢ŀå̼ ç¨İ +èĪª 线 +åĨ ¤ +åįģ åĩłå¹´ +æİ§èĤ¡ èĤ¡ä¸ľ +ä¸Ģ éŨ +个 å·¥ä½ľ +ä¸ªå·¥ä½ľ æĹ¥ +æĸ° 西 +æĸ°è¥¿ åħ° +论 è¯ģ +ä» Ĩ +åı¦å¤ĸ ä¸Ģ个 +æĶ¹ ç¼ĸ +严 ç¦ģ +åĸľ 好 +个人 ä¿¡æģ¯ +满æĦı 度 +åĵ ¨ +å¸Ī èµĦ +æĶ¹ 为 +ç«ŀäºī 对æīĭ +åĩº çĤī +åķĨ 人 +大 æ£ļ +æĮĩ导 ä¸ĭ +å¦ĩ ç§ij +è¼ ª +æī ģ +åIJĮæĹ¶ è¿ĺ +å¹¶ éĢļè¿ĩ +æĪĺ éĺŁ +èĶĵ å»¶ +ä¿ ŀ +éĢĤå½ĵ çļĦ +åīį è¾Ī +åĵģ åij³ +湿 åľ° +æĪIJ åŀĭ +ä¸į åıªæĺ¯ +æĥ© ç½ļ +åĩºåı° äºĨ +çİ© 游æĪı +æīį åıijçݰ +åºĶ èģĺ +å¤ĸ æĿ¥ +åįł é¢Ĩ +å±ķ æľĽ +å« Ĥ +港 èĤ¡ +æ¡Į ä¸Ĭ +æĶ¯ æŁ± +çļĦæĥħ å½¢ +广éĺĶ çļĦ +æĶ¯ è¡Į +å´© æºĥ +æľĪ ä¸Ń +æľĪä¸Ń æĹ¬ +ç»į åħ´ +临 è¿ij +æĬ¤ æłı +æļ ® +åįķ èģĮä¸ļ +è¾¹ å¢ĥ +æĹ¥ çħ§ +ä¸Ģ åłĨ +缴 å¾Ħ +åħ±åIJĮ ä½ĵ +æĸ°åįİ ç½ij +æīĵ 好 +ç͵åĬ¨ 汽车 +ä¸į æĺİçϽ +éĢĻ è£¡ +缼 大 +çİĭ æľĿ +åĨį ä¸Ģ次 +åĬŀåħ¬ åİħ +è´¨ æĬ¼ +åIJĪ åĩ» +人们 对 +鼶 é£Ł +éĥ½ä¸į çŁ¥éģĵ +çļĦ è¯Ńè¨Ģ +åĭŁéĽĨ èµĦéĩij +åĬ¨ èĦī +å½ ¤ +è¿Ļ åĩłå¹´ +çŁŃ è§Ĩé¢ij +太 é«ĺ +常 å§Ķä¼ļ +åĬł çıŃ +éĩį å¿ĥ +åªĴä½ĵ æĬ¥éģĵ +没 æ³ķ +éĹ» åIJį +çĥŃ åº¦ +å¹¿æ³Ľ çļĦ +åħŃ å¤§ +çī© ä½ĵ +ä¸į 该 +é¢ĺ 主 +精彩 çļĦ +为 è¿Ľä¸ĢæŃ¥ +èĻ ŀ +åĽº çĦ¶ +è´µå·ŀ çľģ +çºł ç»ĵ +代çIJĨ 人 +æ³ķå®ļ 代表 +åı¦ä¸Ģ ç§į +ä¸į åIJ« +æĭ¯ æķij +ä¼ļ ç»Ļ +è¯Ĺ è¯į +åIJĮ ç±» +å¾Ĺ ä¸įåΰ +æĬĵ ç´§ +以 åħ¶ +åħ¥ åħļ +è¿ĺ åı¯ +æľŁ åĪĬ +å¾Īå¤ļ æĹ¶åĢĻ +æĹ¥ åIJİ +åħ¬ 约 +ä¸Ģ 举 +æ¯Ķè¾ĥ å¤ļ +éĩij æ²Ļ +æį ŀ +æİĴ åĩº +æŃ¦ æľ¯ +ä¸į æĸ· +ä¸Ń èĢĥ +ä¿¡ èµĸ +ä»İä¸ļ 人åijĺ +çģ« çĦ° +éĨĴ æĿ¥ +ä½İ 温 +é̾ æľŁ +åĬ± å¿Ĺ +éħ ¥ +åı¯è°ĵ æĺ¯ +è¿Ļ æĦıåij³çĿĢ +é¢ł è¦Ĩ +åĮĹ京 大åѦ +ä¸ĵ 线 +åıĬ 以ä¸Ĭ +è¨ ª +èĢĮ åIJİ +çŁ¥ ä¹İ +ä¸Ģ对 ä¸Ģ +å¨ĥ å¨ĥ +çģ¾ éļ¾ +åħ¨ å±Ģ +æīĢå¾Ĺ ç¨İ +å®ŀ æĥł +èļĤ èļģ +ä¹Ł çŁ¥éģĵ +温 åĴĮ +èIJ½ ä¸ĭ +åŀĭ ä¼ģä¸ļ +åĨį ä¹Ł +ä¾Ľ çĥŃ +é«ĺ æ½® +çĢı覽 åύ +çļĦ 巨大 +åħΠ天 +å¹´ ä¸ŃåĽ½ +类似 çļĦ +çIJĨäºĭ ä¼ļ +空 éĸĵ +çģµ æĦŁ +åĬĽ æ°Ķ +带 ä¸Ĭ +ä¸į好 æĦıæĢĿ +æľī ä½ķ +å·² åľ¨ +åıĸ åĩº +è¿Ŀæ³ķ çĬ¯ç½ª +åŃ¦ä¹ł 贯彻 +åľ° 带 +楼 梯 +çŃī æĥħåĨµ +ä»İ åīį +çļĦ ä¹łæĥ¯ +ç³Ł ç³ķ +å°± èĥ½å¤Ł +è© ķ +ä¸Ģ å¾ĭ +æĮ« æĬĺ +åİŁæĸĩ åľ°åĿĢ +å½ĵ å±Ģ +ä¸į éĢļ +æķ° åįĥ +éĺŁä¼į 建设 +æĹ¶ èĬĤ +åģļ èµ· +çļĦ è®°å¿Ĩ +ç½ij绾 å®īåħ¨ +åĩ¡ æĺ¯ +æ° ¯ +éĽķ åĪ» +åŁĥ åıĬ +æĪij åı¯ä»¥ +çĽij çIJĨ +æĽ´ åħ· +åŁİ 管 +èĭ ¯ +åı¥ åŃIJ +èĭ¥ æľī +ä»İæĿ¥ ä¸į +缸åħ³ è´Łè´£ +å®īåħ¨ æĦŁ +æĽ´ è¦ģ +çļĦæĥħ æĦŁ +çī¢ çī¢ +è¾ĥ 好çļĦ +æ° ® +ç¬ij è¯Ŀ +车 å±ķ +ä¹ĭ ç¾İ +ç®Ģ 约 +ç±»åŀĭ çļĦ +èĢģ åĮĸ +çľĭ ä½ł +è¿ĩ åĪĨ +éŨ åīį +ä¸Ģ éĹ´ +æĥ³ åİ» +åª Ľ +åľŁ è±Ĩ +åıĪ ç§° +ä¸Ń ä¿¡ +åŃĺ éĩı +马 äºij +èĩ´ 使 +åħĪ åīį +èĢģ åŃIJ +æīĵ æī® +æ¯ķä¸ļ äºİ +æ¯ķä¸ļ åIJİ +ç¾İ好 çĶŁæ´» +å·¥ä¸ļ ä¼ģä¸ļ +就好 äºĨ +èħIJ èļĢ +çıį çıł +åΰ è¿ĻéĩĮ +æīĢéľĢ çļĦ +è¿Ļæĺ¯ åĽłä¸º +çIJĨæĥ³ çļĦ +å·®å¼Ĥ åĮĸ +é ® +é® ® +äºļ 太 +æĹł ç©· +æıIJ çݰ +ä¸ĵä¸ļ æĬĢæľ¯ +çĶ¢ æ¥Ń +åѦ åŃIJ +ç§ij å¹» +åįłåľ° éĿ¢ç§¯ +ä¸į åĩĨ +æľªæĪIJ 年人 +æĶ¶ å½ķ +è¿ĺ 款 +éĴ¢ çŃĭ +æ¼ ¢ +å¾Ĺ æĦı +综åIJĪ ä½ĵ +æŀģ é«ĺ +åįķ è¯į +é«ĺæķĪ çļĦ +骨 头 +æī§ çĿĢ +缼 ä¸ĸ +模 çī¹ +æĽ´ èĥ½ +ç»Ŀ æľĽ +对åºĶ çļĦ +æ¨ Ĭ +æĸ° ä¸ī +æĸ°ä¸ī æĿ¿ +æģ° æģ° +åIJį å®¶ +æł¸å¿ĥ æĬĢæľ¯ +个 å°ı +æĢİä¹Ī ä¼ļ +说 ä¸įå®ļ +西 çĵľ +åĵ İ +ç¢ Ł +å¿ħ ä¸įåı¯ +å¿ħä¸įåı¯ å°ij +ä¹ĭ éĸĵ +åĪĨ 管 +交éĢļ äºĭæķħ +å¼Ģ åĬŀ +å¾ģæ±Ĥ æĦıè§ģ +äº ¨ +鼻åŃIJ éĥµ +鼻åŃIJéĥµ ä»¶ +ä¿¡æģ¯ æľįåĬ¡ +ä½ł è§īå¾Ĺ +缴 è§Ĥ +å·² å®ĮæĪIJ +åĪĨ ä¼ļ +åĽŀ åįĩ +éļ » +好 人 +äºĨè§£ ä¸Ģä¸ĭ +åį« æµ´ +æľĢ çα +åºŀ 大 +客 æĪ¿ +çijŀ åħ¸ +éĥ½ ä¸įæĺ¯ +é¤ ¨ +èĹ ī +çļĦ åIJĦ项 +为 缮æłĩ +çļĦ è®¤çŁ¥ +å½±åĵįåĬĽ çļĦ +夸 å¼ł +佩 æĪ´ +æ±ĩ çİĩ +çļĦ çαæĥħ +æĺ¥ é£İ +æĺ¯ æĪijçļĦ +æ¨ ¹ +åįĬ å°ıæĹ¶ +å±± åİ¿ +å±± 西çľģ +èĢĮ è¿Ļ +æĽ´å¤ļ ä¿¡æģ¯ +è¿ĺ æľīä¸ĢäºĽ +ç²¾ ç»ĨåĮĸ +ç¾İ åѦ +çͱ æĸ¼ +ä»ħä¾Ľ åıĤèĢĥ +å¾Ī é«ĺçļĦ +åıł åĬł +è¿Ļä¹Ī 说 +å±ķ åĩº +åĽĽ å¤Ħ +ä¸ĩ å®¶ +æĭĽ åĭŁ +çļĦ 强大 +æĤ£ æľī +å°ı äºİ +ä¹Łè®¸ æĺ¯ +对 èĩªå·±çļĦ +èģĮä¸ļ æķĻèĤ² +æĿ¥ è¿Ľè¡Į +æ¡£ 次 +æīĵ èµ¢ +éĥ½æľī çĿĢ +åº ¸ +è¯Ń æ°Ķ +çͲ éĨĽ +空 åĨĽ +车 åĨħ +åĽłä¸º ä½ł +å®ŀ æķĪ +æĥħ ä¾£ +åıijè¾¾ åĽ½å®¶ +éķľ åŃIJ +æ¯į å©´ +ä½Ĩæĺ¯ ä»ĸ +积æŀģ æİ¨è¿Ľ +大å¹ħ 度 +çļĦ 女åĦ¿ +é¤IJ æ¡Į +åIJ¬ å¾Ĺ +çļĦ 积æŀģæĢ§ +好 åIJ§ +æĹ¥ æ¶Īæģ¯ +æľī ä»»ä½ķ +æ¯Ĵ åĵģ +æĹ©çĤ¹ åĬłçĽŁ +第ä¸Ģ 天 +å°½ åĬĽ +æł ĸ +主 æīĵ +æĺ¯ä¸Ģ åIJį +çĪĨ æĸĻ +äºĭä¸ļ åıijå±ķ +å¾® åķĨ +äºİä¸Ģä½ĵ çļĦ +çĶŁ çĮª +èĩªçĦ¶ èµĦæºIJ +çŀĦ åĩĨ +è§Ħ模 åĮĸ +å¹¶ ä¸İ +èĤ¥ èĥĸ +å®¶ ç͍ +大 çĪ· +é¢Ħ åijĬ +æĿ¥ åģļ +éĺ³ åİ¿ +æŀĦ çŃij +é¢ģ å¥ĸ +åİĨåı² æĸĩåĮĸ +æľįåĭĻ æĪĸ +æĢ» åĨ³èµĽ +åıij åŀĭ +æĪij 羣çļĦ +æĽ ¦ +åıĤ ä¼ļ +èĦĨ å¼± +åĩĨ åħ¥ +èħ¹ éĥ¨ +åı¸ 令 +æĤ² åī§ +天 ä¸Ĭ +åı£ ä¸Ń +ä¸ĩ 个 +åѦ ä¸ļ +æıIJ åĢ¡ +两 è¾¹ +大 èĤ¡ä¸ľ +åı¤ éķĩ +è¡Ģ ç³ĸ +çļĦ ç¨ĭ度 +æ£ī èĬ± +åIJİ åı° +å°± åĮ» +æķ´ æķ´ +èĴ ² +çĽĪåĪ© èĥ½åĬĽ +ç± ½ +èĦ « +çľĭ éĩį +å®¶ éķ· +èģĺ ç͍ +èµĽ éģĵ +åīį èĢħ +建 èѰ +å¾ĭå¸Ī äºĭåĬ¡ +èīºæľ¯ åĵģ +æľī èĩªå·±çļĦ +åIJ¦ å®ļ +社 åĽ¢ +åij¨ äºĶ +带 åΰ +å·¥ä½ľ ä¼ļè®® +èĤ¡ æľ¬ +å¤ĸ åĮħ +å®¶ åħ¬åı¸ +çĽij çĭ± +èĪ Ĭ +åIJį æł¡ +西 æ¹ĸ +è¶ħè¿ĩ äºĨ +åįĹ å±± +ç»Ħ ä»¶ +å̼å¾Ĺ 注æĦı +æĮ£ æīİ +äºĭ 迹 +ç¶ĵ çĩŁ +ç§ij 室 +好 åIJĹ +æ¤ħ åŃIJ +åľĪ åŃIJ +ä½Ĩ 她 +æµģ çķħ +åIJĦèĩª çļĦ +èģĮ åijĺ +è¡į çĶŁ +åħ¨ åľº +æĴ¤ éĶĢ +åį´ è¢« +å®ģ éĿĻ +åīį æīĢ +åīįæīĢ æľª +åīįæīĢæľª æľī +主 ä¸ļ +åĮĹ ç¾İ +è¯Ħ å®ļ +åĵģ å°Ŀ +大家 éĥ½åľ¨ +主 å¸ħ +ç»Ĩ å¿ĥ +ä¿¡æģ¯ æĬ«éľ² +çļĦ ç«ŀäºī +éĢĻæ¨£ çļĦ +ç§ijåĪĽ æĿ¿ +éĩĩ æijĺ +票 æį® +éĢIJ å¹´ +èĭ± è¶ħ +è¡Įä¸ļ åĨħ +人 寿 +åIJİ åĭ¤ +å¦Ĥ æĦı +ç¬Ķ è¯ķ +æ·¡æ·¡ çļĦ +ä¸į èĪĴæľį +ä½ĵ 积 +ä¹Łä¸į è¦ģ +éĿ¢ æĸĻ +æł· æľ¬ +ç¥ ģ +æĮī è§Ħå®ļ +大æ¦Ĥ æĺ¯ +æĥħåĨµ è¿Ľè¡Į +åIJĦ åįķä½į +çļĦ ç¬ij容 +åĩºèī² çļĦ +代表 æĢ§ +çļĦ ç¾İ好 +éĴ ¦ +å¾® çĶŁçī© +è¶Ĭ æĺ¯ +æĸ¹ åı¯ +å¹² èĦĨ +éģĬ æĪ² +çļĦ åħ´è¶£ +éĹ® è´£ +åĽłä¸º æĪij们 +èĢĥ éĩı +çĶŁ çĶŁ +éĺ» åĬĽ +ä¸į åħģ许 +æıIJ è®® +åĩı æĮģ +åıªæĺ¯ ä¸Ģ个 +æĪij æĬĬ +åıijçݰ èĩªå·± +å¢ŀ å¹ħ +å¦ į +èĹĿ è¡ĵ +ä¸Ģå®¶ 人 +åĪĨ 级 +çļĦ æķ°éĩı +è½® èŀįèµĦ +çŃī åĽłç´ł +大 夫 +èģĺ 请 +é£İ æľº +绽 æĶ¾ +ä»»ä½ķ ä¸Ģ个 +éł Ĥ +éĺ¶ çº§ +æĬĬ 她 +è¿Ľ åĨĽ +èĥ½ åģļåΰ +åŁ¹è®Ń æľºæŀĦ +çī© æĸĻ +ç«¥ è¯Ŀ +æĮĩ导 æĦıè§ģ +éĺ ® +æ·±åħ¥ æİ¨è¿Ľ +主 æľº +æ¸Ķ ä¸ļ +ä¸į æľį +æµĵ éĥģ +è¡Ĺ ä¸Ĭ +ä¾Ŀ 次 +æĹ¶ 段 +æ¢ µ +çļĦ åĸľçα +å¾Ī éķ¿ +åĪĿ 级 +æŀľ æĸŃ +æĬ¢ æķij +é¼ĵ èĪŀ +ä¾Ľ éľĢ +æ·±åħ¥ å¼Ģå±ķ +产ä¸ļ éĽĨ群 +åĻª éŁ³ +åIJ¬ çĿĢ +æ·±åĪ» çļĦ +å¿į åıĹ +ç͵ ç£ģ +强 èĢħ +æ»ĭ åij³ +æĽ¼ èģĶ +åı¯ä»¥ 缴æİ¥ +大 ç±³ +æŃ· åı² +æĶ¿åĬ¡ æľįåĬ¡ +åħ¬ å¼ı +社 群 +éģĵ士 èģĮä¸ļ +ä¹ĭ æĥħ +æµ· æ°´ +æ¼Ķ å¥ı +åºĹ éĩĮ +迹 象 +åıijå±ķ çIJĨ念 +é«ĺ 空 +åij¨ åĪĬ +åĽŀ åΰäºĨ +ä¸į éĢĤåIJĪ +åłµ å¡ŀ +åĬ Ī +æ°´ ä¸Ĭ +çĢij å¸ĥ +纳ç¨İ 人 +çĩĥ æ²¹ +å·¥ç¨ĭ é¡¹çĽ® +峡 è°· +æľī éĴĪ对æĢ§ +åľĨ å½¢ +æľ¬ å¸Ĥ +è¿Ļ è¯Ŀ +管çIJĨ èĢħ +ç¡®è¯Ĭ çĹħä¾ĭ +æĬĬ æīĭ +彩 èī² +ä¸Ĭ åīį +夯 å®ŀ +ç¾Ĭ èĤī +å¾Ģ å¹´ +æĵħ èĩª +è¿· 人 +èĪª æ¯į +ç²¾ ç»Ĩ +åľ¨ æĪijçļĦ +åĪĽ æĬķ +麦 åħĭ +æľĪ ç»ı +åĮĹ æµ· +ä¹ĭ æĺŁ +åı¶ åŃIJ +å¸Ĥåľº ç«ŀäºī +è¿Ļ äºĭ +åıĥ èĪĩ +产 åľ° +åĶ ī +åķĨåĵģ æĪ¿ +èĪª è¿IJ +ä¼ĺ å¼Ĥ +ä»ĸ们 æĺ¯ +鼨 æ°´ +è¯į æ±ĩ +åĨľ çͰ +欧 éĺ³ +çŁŃ 线 +管 ç½ij +æł¹ åŁº +åıªæľī ä¸Ģ个 +éŀĭ åŃIJ +å¸Ĥ å§Ķ书记 +åĪ» æĦı +è¡Į 车 +åıĪ è¢« +åı¯éĿł æĢ§ +è´ ± +ä»» åij½ +åºĶ åľ¨ +å°± å¾Ĺ +æľįåĬ¡ ä½ĵç³» +æĶ¿ æĿĥ +åıijè¨Ģ 人 +è¿ĩ å¾Ģ +两 åıª +èϽ 说 +éĢģ ä¸Ĭ +ä»Ģä¹Ī äºĭ +æķ£ æĸĩ +æİĮ æİ§ +èĸĦ å¼± +ä¸ĭéĿ¢ å°± +主è¦ģ åĨħ容 +å¾Ī éĩįè¦ģçļĦ +å°± 说 +çϽèī² çļĦ +éĤ£ä¸ª æĹ¶åĢĻ +ç»ı纪 人 +çļĦ æ¯į亲 +ç¬Ķè®° æľ¬ +åºķ å±Ĥ +è¿ij 代 +è§£ 说 +è²ł 責 +æľĢ大 åĮĸ +åķĨ éĵº +æł¡ åıĭ +æ² ģ +ä¸į åĩºæĿ¥ +éĻ· éĺ± +ç¨ ħ +åħ¬å¸ĥ äºĨ +åĩĢ å̼ +çĽ¸å¯¹ è¾ĥ +ç¬ Ľ +æł¸ ç®Ĺ +åįİ ä¾¨ +æĢ¥ æķij +æĮº 好 +åħĴ ç«¥ +äºĮ èĥİ +åĩº èĩª +åĿ Ł +æīĭ ä¸ĭ +å± ¡ +åĪĽéĢł æĢ§ +ä¸¥æł¼ æĮīçħ§ +åĨį åİ» +举 缣 +人 æµģ +äºĨä¸Ģ 声 +å°ıæĹ¶ åīį +è´µ æĹı +éľ ĸ +ä¹Łæĺ¯ éĿŀ常 +éĢ ± +çľĭäºĨ çľĭ +ç¹ģ æ®ĸ +èĩ³ æŃ¤ +é¢Ħ å¤ĩ +å¾Ī æĺİæĺ¾ +æ¼Ķ èīº +åĿIJ çĿĢ +ä¿Ħ åĨĽ +åľ¨ è¿ĩåİ» +ä¹ĭ äºĭ +æĬĵ èİ· +åĿIJ ä¸ĭ +çͱ ä¸ŃåĽ½ +ä¹Ł å¼Ģå§ĭ +çŃĶ å¤į +åŀĥåľ¾ åĪĨç±» +éĴĵ é±¼ +åIJĦ 種 +缸 éģĩ +ä¸įåģľ çļĦ +æī¹ éĩı +éĩįè¦ģ ä½ľç͍ +å§Ķ å±Ī +åħŃ å¹´ +ä¸ĥ åįģ +ä¹ĭ æĪĺ +é£İéĻ© 管çIJĨ +éŁ³ æ¨Ĥ +è¡ĮæĶ¿ å¤Ħç½ļ +æľ¬ äºĭ +æĴ° åĨĻ +èģļ åIJĪ +éĢĤ æĹ¶ +æIJ¬ å®¶ +ç¢İ çīĩ +缼 å®´ +ç®Ģ æ´ģ +åı¬ éĽĨ +ç®Ģ åĮĸ +åĮĹ京 æĹ¶éĹ´ +第ä¸ī å±Ĭ +æĿ¥ åĽŀ +常ç͍ çļĦ +京 æ´¥ +京津 åĨĢ +梦 å¹» +è¯ķ è¡Į +æľº åºĬ +åΰ æľĢåIJİ +åĬ© æīĭ +åĪĨ 彩 +åĩº åĵģ +åι 车 +åIJ¯ åıij +ä¾§ éĿ¢ +æ¯ı å½ĵ +缸åħ³ è§Ħå®ļ +ä¸ĸ 人 +è´Ń 车 +å¿ĥ 缮 +å¿ĥ缮 ä¸Ń +äºĶ éĩij +è¿ĺ è®°å¾Ĺ +ä¾Ŀ çĦ¶æĺ¯ +æıIJ æ¡Ī +ç͵åķĨ å¹³åı° +åģļ åΰäºĨ +æĿľ ç»Ŀ +å®ī åįĵ +ä¸ĸçķĮ åIJĦåľ° +åīį éĢĶ +æ´Ĺ åĩĢ +å¥ĭ åĬĽ +åŁİå¸Ĥ 建设 +å¤ļ åĬŁèĥ½ +ä¼ļ éĢłæĪIJ +åıijå¸ĥ ä¼ļä¸Ĭ +ç©¶ 竣æĺ¯ +åĪĨ 红 +çŁ¥ èŃĺ +éĿ¢ æĿ¿ +æĹł 声 +æĢ¥ éľĢ +失 çľł +çΏ å¦Ī +äº Ĥ +åħ¨ æĻ¯ +ç»ıåħ¸ çļĦ +åī§ ä¸Ń +é¢Ĩ导 ä¸ĭ +åħļ åĨħ +åħ¥ ä¾µ +æĭī æĸ¯ +ä¸Ģ å¹ķ +åĬł ä¹ĭ +èĤ Ĩ +èĭ± æł¼ +èĭ±æł¼ åħ° +å·§ åħĭ +å·§åħĭ åĬĽ +ä¸Ģ å¿ĥ +èģ Ĥ +å¾Ģå¾Ģ æĺ¯ +管çIJĨ å±Ĥ +çĻ» åħ¥ +建ç«ĭ èµ· +建 åĽ½ +åŃIJ 宫 +åºĶ ä»ĺ +æİ¢ ç©¶ +第ä¸Ģ ä½į +ä½Ļ å®¶ +çŃī æ´»åĬ¨ +æīĢ èĩ´ +è¾ĥ å¿« +æĺ¯ éĿŀ +æıIJ åIJį +äºĮ èĢħ +åıªåī© ä¸ĭ +åħ¶ä¸Ń åĮħæĭ¬ +ç¼ĸ ç¨ĭ +çł´ ç¢İ +ä¸Ń 举 +å·¥ä½ľ æĬ¥åijĬ +çѾ åIJį +éħĴ ä¸ļ +çŁ¥ æĻĵ +çĥŃ å¿ĥ +éĿŀ åĩ¡ +èIJ¥ä¸ļ æī§ +èIJ¥ä¸ļæī§ çħ§ +人大 代表 +ä¸Ģ个 æĸ°çļĦ +å¨ģ æµ· +éĤ£ 人 +涨 ä»· +æ¶Ī çģŃ +éļ¾ å¿ĺ +ç¶ĵ é©Ĺ +åı£ è¢ĭ +ç³» æķ° +æĸĩ ä¸Ń +好 转 +æĸ° 鼶åĶ® +讲述 äºĨ +å¼Ģ çĽĺ +çķĻ ç»Ļ +æħ¢æħ¢ çļĦ +æĤ² 伤 +æľ¬ æľŁ +äºĨ å¤ļå°ij +è¿Ļ 让 +åIJĮ çŃī +æ¸ħ æĺİ +个 åŁİå¸Ĥ +æºĸ åĤĻ +åĩłä¹İ æĺ¯ +强 åĬĽ +ä¿ ¯ +æ°´ 稻 +åĽºå®ļ çļĦ +æł¸ åĩĨ +说 æľį +顯 示 +è¿Ļ å¥Ĺ +æĻºæħ§ åŁİå¸Ĥ +å±ĭ é¡¶ +ä¸į æĿ¥ +çĶŁ é²ľ +çŁ¥ æĥħ +æĬķ 身 +åijĬè¯ī æĪij们 +ä¸ī åĽĽ +ä¸ĩ ä¸Ģ +è¾Ĩ 车 +为 ä¹ĭ +åΰ æĹ¶åĢĻ +è¿Ļ æīįæĺ¯ +åIJį çīĮ +åºŁ æ°´ +åݻ年 åIJĮæľŁ +å¹´ éĻIJ +éģĭ åĭķ +åıĮ çľ¼ +è¦ģ ç´§ +对 çŃĸ +åľº é¦Ĩ +çϾ ç§ij +è¶Ĭ éĩİ +å¯Į åIJ« +大å¤ļæķ° 人 +æľĢ å°ij +åı¬ åͤ +åħ¸ èĮĥ +åĨľ æľº +æŃ£ æĸĩ +åºĶç͍ äºİ +æ·± èĢķ +ä¿ Ń +ä»Ģä¹Ī ä¸ľè¥¿ +å¥Ĺ é¤IJ +å½ĵ éĢī +å·¦ æīĭ +è°ĥ çIJĨ +æĻļ é¤IJ +éļ¾ åħ³ +åĩŃ è¯ģ +çα 人 +æĮĩ è´£ +è´£ ç¼ĸ +çļĦä¸Ģ 款 +éĵ ² +åįģ 个 +èĢ » +æľįåĬ¡ åķĨ +åľ° çĭ± +è¿ŀ å¿Ļ +åĽ° æĥij +çļ ĵ +ä¸į åIJĥ +çİ°åľ¨ å·²ç»ı +çĽĺ çĤ¹ +ä¸įåģľ åľ° +管çIJĨ 模å¼ı +è¿Ļ 段æĹ¶éĹ´ +æ¤ ° +礼 åĮħ +æµģ 转 +æī« çłģ +éĽĨä¸Ń åľ¨ +æ±Ĥ åĬ© +åįĬ 个 +å¿«éĢŁ å¢ŀéķ¿ +å¾Ģ ä¸ĭ +è¯Ħ åĪĨ +å°± æĥ³ +åķĨåĬ¡ éĥ¨ +æľī éĹ®é¢ĺ +èİ· åĪ© +æ¯Ľ çĹħ +æĦŁ åºĶ +èī¯ æĢ§ +åĪĨ æŃ§ +åĨ ī +æĪij们 çİ°åľ¨ +è¦ģ åĬłå¼º +å·§ å¦Ļ +èŀº æĹĭ +åĪĩ æį¢ +çĭ Ħ +顺 çķħ +å°¤åħ¶ æĺ¯åľ¨ +èĬĿ 麻 +éļ¾ è¿ĩ +æĹĹ å¸ľ +å¤į åį° +å¤įåį° ä»¶ +å¿ħ éľĢ +对å¤ĸ å¼ĢæĶ¾ +éļ¾ åıĹ +åİŁæĿ¥ æĺ¯ +ç®Ĺ äºĨ +é«ĺ å±± +离 èģĮ +çµĦ ç¹ +çµĦç¹ Ķ +å±ģ èĤ¡ +çϾ å®¶ +éģĩ ä¸Ĭ +æĺĶ æĹ¥ +ä¸į 容 +çĽij管 éĥ¨éŨ +主 æĦı +æµģ åŁŁ +è·Į å¹ħ +èĩ³ ä¸Ĭ +åĪ« 说 +æĺ¯ æ¯Ķè¾ĥ +å®ıè§Ĥ ç»ıæµİ +å¸Ĥåľº 主ä½ĵ +污æŁĵ çī© +æķij æ²» +丰 æĶ¶ +åŃĺ æĶ¾ +åĩ Ħ +éĩij å±± +æį¢ äºĨ +ä¸ĵ 人 +éĹľ æĸ¼ +æĹ¢ è¦ģ +åĽ½ è¶³ +éļ ĭ +åıį åĩ» +èµ· 身 +åħĪ æĺ¯ +å¸ĮæľĽ èĥ½å¤Ł +åζ 订 +åºĹ éĿ¢ +åĸ Ģ +æķĻ ä½ł +éĻį æ¸© +åĬĽ æ±Ĥ +ä¸ī çϾ +çī© ä»· +丢 失 +å¢Ļ ä¸Ĭ +éĥ¨ 份 +æł· æĿ¿ +ä¹ĭ æĦı +ç½ij å°ıç¼ĸ +ä¸ĸ ä¸Ĭ +è°ĥ è¯ķ +污æŁĵ éĺ²æ²» +å½± éĻ¢ +å®Įåħ¨ åı¯ä»¥ +éĢļ åħ³ +ä¹īåĬ¡ æķĻèĤ² +没æľī åĬŀæ³ķ +èĢ ¿ +å¦ ³ +æĹł æĥħ +å¾Ĺ çĽĬ +å¾ĹçĽĬ äºİ +æľŁ çĽ¼ +娱ä¹IJ åľº +çͲ æĸ¹ +ä¸Ģ æ±½ +çĹ ° +çĸij ä¼¼ +æĸ°æµª å¾®åįļ +强 è¡Į +å½ĵ ä»ĸ +èĥ º +ç͍æĪ· æıIJä¾Ľ +åĮº å§Ķ +æĦ¿ æĻ¯ +æĬĺ æī£ +失 踪 +è¿« åĪĩ +åŃĹ æ¯į +åĴ ¯ +èªį èŃĺ +ä»Ģä¹Ī æĦıæĢĿ +çĽĴ åŃIJ +å½ķ éŁ³ +建设 å·¥ç¨ĭ +ä¸ļ ä½Ļ +å®ŀè·µ æ´»åĬ¨ +羣 空 +çĤ ĸ +åľ¨ è·¯ä¸Ĭ +主è¦ģ åĮħæĭ¬ +该 æĢİä¹Ī +æĢ» æľī +æĢ§ æĦŁ +æ°ij èĪª +å¼Ģ åºĹ +欺 éªĹ +çªģ åĩ» +缺 失 +æī§ ä¸ļ +åľ° éģĵ +å¹¶ æĹł +æ°ij åĬŀ +ç»Ħç»ĩ çĶŁæ´» +æĪij å¦Ī +è¨ĺ èĢħ +管 åζ +æī¾ 个 +èĹ » +çĤİ çĹĩ +äºĴ åĬ© +æµıè§Ī åύ +çݩ家 æĿ¥è¯´ +éĻįä½İ äºĨ +è£ Ķ +æĮ£ éĴ± +åķĨ æľº +æĶ¹ è£ħ +æµģ 浪 +æĶ¿ æ³ķ +èĢģ 头 +çĶŁäº§ åĴĮ +ç© Ĺ +亲 çα +亲çα çļĦ +å±¥ èģĮ +åŁİ éĩĮ +ç»Ĩ åĪĨ +åĬ³åĬ¨ åIJĪåIJĮ +åľ¨ æĹ¥æľ¬ +å¨ģ å°Ķ +åį« è§Ĩ +éĢ£ çµIJ +çĿĢ éĩį +æĬĺ 磨 +åĽ¾ 为 +çľ · +å·¥ åºı +æĵ ģ +æĵģ æľī +ç½ijç«Ļ åľ°åĽ¾ +çļĦä¸Ģ 大 +ç»Ħç»ĩ å®ŀæĸ½ +æĬĽ å¼ĥ +åĴĮ æĶ¯æĮģ +æ³ķ åĪĻ +浪 æ½® +çݰ æľīçļĦ +åĩł çİĩ +为 客æĪ· +åįģ ä¸ĩ +è ¹Ħ +çªģåĩº éĹ®é¢ĺ +åıĥ åĬł +éĥ½ä¼ļ æľī +çĽ ¤ +è°ģ éĥ½ +æīĭ åĬ¨ +缴 è¾¾ +çĤ¹ å¤ļ +éĺ¶ å±Ĥ +ä¸į ä½³ +éĤ£ 段 +滨 æµ· +æĺ¯ åĽ½åĨħ +æĪij å¸ĮæľĽ +åIJĽ åŃIJ +è§Ĥ éŁ³ +åģļ é¥Ń +æ±½ è»Ĭ +åħ³ ç¨İ +çľ¼åīį çļĦ +æ°´ éĿ¢ +è̳ æľº +追 踪 +æİ¨ éĢģ +éĴ± åĮħ +æģ¶ å¿ĥ +æµ· åŁŁ +å· į +å¼Ģ æĿ¥ +表 æĢģ +仪 表 +å¹³ åİŁ +åįģ å¤ļå¹´ +ä¹Ł æĹłæ³ķ +åħ¼ 顾 +è¡£ æŁľ +æł½ åŁ¹ +æĪ¿ æºIJ +设ç«ĭ äºĨ +ä¸ĩ åIJį +æķ° é¢Ŀ +è¦ģ åĿļæĮģ +åIJīæŀĹ çľģ +请 èģĶç³» +ç»ıåİĨ è¿ĩ +çļĦ æľ¬è´¨ +åħ¥ éŨ +æľ¬ æ¡Ī +çİĩ è¾¾åΰ +åı° éĺ¶ +éĴ ŀ +æĪij èĥ½ +èݲ èĬ± +éĴ ł +ä¸Ģ äºĭ +åİŁ æľīçļĦ +æ¯ı åĢĭ +æ¯Ķäºļ 迪 +æ£ĭçīĮ 游æĪı +ä¸įä¼ļ æľī +å½Ĵ æĿ¥ +äºĶ çϾ +è¿ĩ é«ĺ +鼷 è¾¾ +ä¸Ģèµ· åİ» +æķĻ å¯¼ +å°± è¯Ĭ +å°± å¾Ī +ä¸įåIJĮ äºİ +ä¿ º +å¸ĸ åŃIJ +æĶ¿åįı å§Ķåijĺ +çĸ«æĥħ å½±åĵį +åĪĨ è£Ĥ +为ä»Ģä¹Ī ä¼ļ +äºĶ æĺŁ +å°ij åĦ¿ +æĬ¢ éĻ© +梦 è§ģ +è®°èĢħ éĩĩ访 +å±± è·¯ +æĪij 个人 +æ²Ļ 滩 +è¹ Ń +æĶ¹ è®Ĭ +æĸ°åŀĭ åĨł +æĸ°åŀĭåĨł çĬ¶ +åĮ» æĬ¤ +åĮ»æĬ¤ 人åijĺ +æµ· å°Ķ +åħ³äºİ æĪij们 +éϤ å¤ĸ +åº ļ +宣 åijĬ +ä¸ī åįĥ +æ¦ ¨ +ç§ijæĬĢ å¤§åѦ +ä¸ĥ åħ« +顺 åºĶ +çΏçΏ å¦Īå¦Ī +éĢī åıĸ +åī§ çĥĪ +乡æĿij æĹħ游 +积æŀģ æİ¢ç´¢ +表çݰ 为 +å¾Ī æ¸ħæ¥ļ +大 åĨĽ +æĿ¥ ç͵ +å¥Ĺ æĪ¿ +çݰ è¡Į +享 åıĹåΰ +çľĭ çĤ¹ +åĽºå®ļ èµĦ产 +以 人为 +以人为 æľ¬ +ä¸į å®Į +éĻį 鼨 +åģļçļĦ äºĭæĥħ +å¹¶ äºİ +顽 强 +èĢ ¸ +åĺ´ å·´ +缸åħ³ ä¿¡æģ¯ +æĪij 没 +æĪĺçķ¥ æĢ§ +æĢĿ 念 +åĪĺ å¤ĩ +åĬ© æĶ» +é£İ è²Į +éĿ¢å¯¹ éĿ¢ +积æŀģ å¼Ģå±ķ +çĸĹ æķĪ +çľĭ 书 +缺 åı£ +åĽ½æ°ij ç»ıæµİ +使ç͍ æĿĥ +éģ¥ è¿ľ +å¡« è¡¥ +第ä¸ī 人 +åįĬ å¤ľ +æŃ¦æ±ī å¸Ĥ +æĪij åıijçݰ +ä¼ĺæĥł æĶ¿çŃĸ +é£İ åı£ +å°± ä¸įèĥ½ +为 主è¦ģ +æµģ åĩº +å´ĩ æĭľ +å¹¶ ä¸įèĥ½ +é«ĺ ä¸ī +ä¸ĸçķĮä¸Ĭ æľĢ +æĥ³ å¿ħ +åħ¶ æīĢ +åĢĻ éĢī +åĢĻéĢī 人 +ä¸į çα +åī¯ ä½ľç͍ +人æ°ij æĹ¥æĬ¥ +æĪij ä¸įæĺ¯ +å®ŀ çī© +ç͵ åİĤ +ä¹Ł ç®Ĺæĺ¯ +æľī éĹľ +æľī èĥ½åĬĽ +æĮĤ åľ¨ +çľ¼ ä¸ĭ +约 ç¿° +å°ı åѦçĶŁ +èµ· åΰäºĨ +å·¥ 夫 +åIJĮ å¿ĥ +åĿ¦ è¨Ģ +çł Į +åıijæĮ¥ äºĨ +èģĮä¸ļ éģĵå¾· +è¿ĻäºĽ å¹´ +念 头 +èĢģ é¼ł +åħ¨ èµĦ +åħ¨èµĦ åŃIJ +ä¸Ģ åij³ +å¤ļ ä¸ĩåħĥ +æł¼ æľĥ +éķ¿ éĢĶ +带 èµ° +èĭ± 寸 +æĸĩ ä½ĵ +对 ä»ĸ们 +åĵŃ äºĨ +å¡« æĬ¥ +çīĪæĿĥ 声æĺİ +ç͵ 线 +è´Ńçī© ä¸Ńå¿ĥ +饱 满 +ä½İ 头 +强 è¿« +ä¿Ŀ æ´ģ +欧 åĨł +缸 è¿ŀ +认 è´Ń +çģ« æĺŁ +é«ĺ å°Ķ +é«ĺå°Ķ 夫 +èij« èĬ¦ +æłĩ 注 +çļĦ çIJĨæĥ³ +æł¸ éħ¸ +æł¸éħ¸ æ£Ģæµĭ +åĬ ī +ä¸Ģèά æĺ¯ +æĢĿ ç´¢ +轨 迹 +çĥŃ å¸¦ +éĻ £ +åĩĨç¡® æĢ§ +æĪ´ çĿĢ +åľ¨ çĶŁæ´»ä¸Ń +æīĢ èĥ½ +æľ¯ åIJİ +带 ä½ł +ç¥ ł +æ®ĭ éħ· +ä¹Ł åıªæĺ¯ +çͳ è´Ń +举åĬŀ äºĨ +æľī æĦıä¹ī +æĹº 缼 +åľ¨ ç¶² +åľ¨ç¶² è·¯ä¸Ĭ +å¾Ī大 ç¨ĭ度 +管 è¾ĸ +çĸ«æĥħ æľŁéĹ´ +触 æij¸ +éĺ¶æ®µ æĢ§ +ä¼ļ è§īå¾Ĺ +çļĦ çĶ»éĿ¢ +æİ¥åıĹ äºĨ +表达 äºĨ +éĤĵ å°ı +éĤĵå°ı å¹³ +åħļ é£İ +åħļé£İ å»īæĶ¿ +åķĨ åѦéĻ¢ +åħij æį¢ +é£Łåĵģ èį¯åĵģ +éĿŀ常 好çļĦ +çľ ¯ +纳 ç±³ +åĬ¨ æijĩ +åĽŀ éģ¿ +çľĭ èijĹ +款 项 +åħ« å¹´ +åģļ 个 +æĸĩ æ¡£ +éĩijèŀį ç§ijæĬĢ +åħ¶ä¸Ń æľī +äºĨä¸Ģ ç³»åĪĹ +æĹĹèΰ åºĹ +ç§° èµŀ +éĽ¢ éĸĭ +åζ åĨ· +å®¶ éŨåı£ +åįģ å¤ļ +ä¼´ ä¾£ +çľĭ çĹħ +æĭī çĿĢ +æī Ĵ +çĸ² æĥ« +å°ijæķ° æ°ijæĹı +åĽ¾ å½¢ +è½ § +å¢ŀ éĩı +饲 åħ» +çģ« å±± +æ¯ı 个æľĪ +ä½ľä¸º ä¸ĢåIJį +è½´ æī¿ +æĸĩ 书 +ç¼ ķ +åħ·ä½ĵ æĥħåĨµ +çĹĽ çĤ¹ +缴 éĶĢ +å¡ Ĭ +ä¹Ł æľĥ +çĥŃ æ½® +å¹³ æ°ij +æ¼Ķåͱ ä¼ļ +æķĻ çłĶ +éĢĥ éģ¿ +ä¸Ģ è´¯ +å°± è¶Ĭ +å®ŀ å®ŀåľ¨ +å®ŀå®ŀåľ¨ åľ¨ +ä¹łè¿ijå¹³ æĢ» +æº º +å¿ĥ åºķ +éķ¿ å¾ģ +媽 媽 +第ä¸ī 次 +åĩº æ¼Ķ +çĭĢ æ³ģ +å°Ķ æĸ¯ +代çIJĨ åķĨ +çĨ ı +çļĦ 对象 +ç͵ éĩı +è¡Į åĪĹ +åĽ½ 人 +è·ij äºĨ +åįĶ åĬ© +èIJ¥ è¿IJ +å¸Ī åħĦ +æ¦ ® +æĥ³ åĥı +æĢ§ 强 +ç§ijåѦ çłĶç©¶ +å»¶ å®ī +ä¸¥æł¼ èIJ½å®ŀ +é¢Ĩ ä¼ļ +缸 å·® +è·¯ 人 +çĶ « +æľī ä»·å̼ +æľīä»·å̼ çļĦ +ç¾İ åĽ¢ +æ°ij主 çĶŁæ´» +æĪij æīį +ç¾İåĽ½ 人 +æ°Ķ åij³ +åıį å°Ħ +çļĦ åĨ³å¿ĥ +大 è±Ĩ +交 代 +è¿Ľ åĩº +åıį æĬĹ +æĮĩ çļĦæĺ¯ +ä»· ä½į +è¿Ľ é©» +ä¸Ĭ çϾ +ä½į åĪĹ +ä¸ŃåĽ½ ä¼ģä¸ļ +çļĦ好 å¤Ħ +主 ç¼ĸ +æ±½ æ²¹ +ä½Ĩ æĪij们 +æĢİä¹Ī çľĭ +é»Ħ å±± +å¤ļ åªĴä½ĵ +åIJİ åį« +èİ·å¾Ĺ æĽ´å¤ļ +åĬ¡ å¿ħ +为 å¥ijæľº +é¦ĸ 饰 +ä¸ĩ åįļ +è¶ĬæĿ¥è¶Ĭ 大 +ä¸ĵ项 è¡ĮåĬ¨ +å¥ĭ è¿Ľ +ä»į çĦ¶æĺ¯ +è´¨ æĦŁ +å¦Ĥæŀľ ä¸įæĺ¯ +ç«Ļ èµ·æĿ¥ +ä¹¾ éļĨ +åı¯æĢķ çļĦ +å¯Į è´µ +æ¸ħ ç®Ĺ +åIJij ä¸ĭ +åĢ ļ +çļĦ çŃĶæ¡Ī +èι ä¸Ĭ +çļĦ羣å®ŀ æĢ§ +çŃī åĬŁèĥ½ +åĸľ åī§ +å¨ģ åĬĽ +æĸ° é¢ĸ +æł¸ ç͵ +æĬ¥ éĶĢ +æķħ 乡 +ä¼´ éļı +éŀ Ń +å¦Ĭ å¨ł +åĪĨ åĮĸ +æľī å¾Ī大 +æĢİä¹Ī 说 +æĻĤ 代 +产 åĩº +ä»ĭç»į 说 +å¤ĦçIJĨ åύ +èĨ¨ èĥĢ +åī¯ å¸Ĥéķ¿ +çļĦ 妻åŃIJ +æł· åĵģ +åIJĮæ¯Ķ ä¸ĭéĻį +åħĥ å·¦åı³ +ç͍ èĩªå·±çļĦ +é«ĺ éĽĦ +æĺ¥ æĻļ +ä¹Ł æľīå¾Īå¤ļ +çľ¼ çIJĥ +æķ£ æŃ¥ +ä»ĸ们 éĥ½ +第ä¸Ģ å®¶ +åĬŀ 好 +å®ī éĺ² +ä¸Ģ ä¸ĩ +åľ¨ éĩĮéĿ¢ +éŁ³ é¢ij +åı£ åı· +ä¸Ģ è¶Ł +ç¦ı çī¹ +é³ ŀ +æĥĬ èī³ +æĸ° å¨ĺ +绿èī² åıijå±ķ +ä¸Ń å¼ı +ä¹Ł åıªæľī +çݰ 身 +åı¯ ä¾Ľ +æ¯ı ä¸Ģ个人 +第ä¸ī èĢħ +åľ° å½¢ +éĴ¢ ç»ĵæŀĦ +çĽijçĿ£ æ£ĢæŁ¥ +åı« æĪij +èĩ´ æķ¬ +æ´Ĺ æīĭ +ä¸ĭ è°ĥ +康 çĨĻ +æĪIJ交 éĩı +ä¹Ł æĪIJ为 +åħī æ»ij +å®Įæķ´ æĢ§ +çģ ¼ +ç¶² éłģ +éķ¿ å¯¿ +éģ© ç͍ +çļĦä¸Ģ 项 +çŀ© 缮 +æĬĬ èĩªå·±çļĦ +éĵ¶è¡Į åį¡ +å°± å¿ħé¡» +ç¾İ çϽ +éŀį å±± +æľ¬ é¢Ĩ +ä¸Ģ ç¢Ĺ +æīĵ æ³ķ +æĤ¨ 好 +对 åŃ©åŃIJ +æĬ¥éģĵ ç§° +ä¼ł åĩº +大 èĩ£ +ç¬ ĭ +çĽ ı +é¾ ļ +缴 线 +æĻº åºĵ +ç§Ł 车 +é£İ åij³ +çľĭ ä¸Ģä¸ĭ +æİ¨ éĶĢ +éĥ¨ éĥ¨éķ¿ +è´¨éĩı åĴĮ +åĪĬ çĻ» +å·¥ä¸ļ åĮĸ +çİĩ 为 +鼶 ä»¶ +硬 åĮĸ +ä¸Ĭ åįĥ +ç»ıéªĮ å̼ +å¹³ è¡Į +声 éģĵ +æľįåĬ¡ è´¨éĩı +çĶŁ çĶ¢ +æľĢ 容æĺĵ +ä¸Ģ æŀļ +å¹´ æĬ¥ +åħ¬ ç½ij +åħ¬ç½ij å®ī +åħ¬ç½ijå®ī å¤ĩ +çļĦ èĥ½éĩı +å®ŀéĻħ è¡ĮåĬ¨ +è¦ģ ä¸įè¦ģ +æĹ¥æľ¬ 人 +è̶ 稣 +ç¼ĸ åī§ +æ¶ © +åį° å°¼ +ä¸Ĭä¸ĭ 游 +åĩł åı¥ +ä¸Ń éĵģ +ç°¡ åĸ® +èĩª 带 +çĶŁ äºİ +ä¸Ģ åı£æ°Ķ +åĭ¤ å¥ĭ +éĻį ä»· +å±ķçݰ äºĨ +å¸ĥ æĭī +ä¼ļ éĢīæĭ© +çļĦ ç»ıåħ¸ +好 æľĭåıĭ +车 éģĵ +æķ´ åĢĭ +åľ ĵ +éķ¿æľŁ 以æĿ¥ +æĬķ å½± +çļĩ åĨł +è¿ĩ 大 +åijĬè¯ī ä»ĸ +ä¼ģä¸ļ æıIJä¾Ľ +æĬ½ 象 +éĢĤ 度 +çļĦ 女åŃ© +èµ· ä¼ı +çļĦ åĬŁæķĪ +ä¸ĵ项 æķ´æ²» +åı¯ éĢļè¿ĩ +ä¸įåIJĮ ç¨ĭ度 +å¼Ĥ è®® +åĩĢ èµĦ产 +åij Ĺ +ä»Ģä¹Ī åij¢ +å·¡ éĢ» +è¸ı ä¸Ĭ +ä½Ĩ å®ĥ +ç²¾ 度 +管 å±Ģ +第ä¸Ģ åIJį +åĨħ åŃĺ +æijĨ åľ¨ +åī© ä¸ĭ +主ä½ĵ 责任 +çĤ¹ åįĬ +以 èĩ³äºİ +åħ»èĢģ ä¿ĿéĻ© +æĦŁåıĹ åΰäºĨ +çŁ¥åIJį çļĦ +å¯Į 豪 +妥 åĸĦ +åŃĻ åŃIJ +éĵ Ĥ +说 èĩªå·± +让 æĤ¨ +æķ° æİ§ +çļĦçľ¼ åħī +注 éĶĢ +çļĦ çģµéŃĤ +è¿ĺ ä¸įéĶĻ +éĹ® ä»ĸ +èĩªä¸» çłĶåıij +èĵ ĭ +ç´« èī² +åĽ½å®¶ å®īåħ¨ +è¾½å®ģ çľģ +ä¹Ł æ¯Ķè¾ĥ +ç¾İ èĤ¡ +ä¸įç¡®å®ļ æĢ§ +å¿ĥ 头 +æĪ ³ +级 åĪ«çļĦ +论 è¿° +çļĦ åĽŀçŃĶ +ä¿Ŀè¯ģ éĩij +çŃī è¡Įä¸ļ +幸ç¦ı æĦŁ +æŃ§ è§Ĩ +æľº 票 +æ´¾ 人 +èĩ´ åij½ +åĺ´ è§Ĵ +æĸ°éĹ» ä¸Ńå¿ĥ +æĶ¾å¼ĥ äºĨ +å®ľ å±ħ +åĨĻ ä¸ĭ +éĹ® çŃĶ +è¿ĻéĩĮ æĺ¯ +å¤ļ åľ° +åĮºåŁŁ åĨħ +åīµ æĸ° +çľĭ ä»ĸ +æī§æ³ķ 人åijĺ +åĬ¨ æľº +éŁ³ åĵį +çļĦ åij½è¿IJ +é¡¶ éĥ¨ +åĵ Ł +éĥ½ æľĥ +æīĵéĢł æĪIJ +æĦı åĽ¾ +çļ ĸ +åĢĴ åħ¥ +å·´ èIJ¨ +åĬ© åѦ +å¤į åı¤ +åIJ¯ ç͍ +åĽ½éĻħ å¸Ĥåľº +åĤ¨ èĥ½ +é»ijé¾Ļæ±Ł çľģ +ä¹ĺ 车 +è¿IJåĬ¨ ä¼ļ +ä¿Ŀ åĪ© +çŁ³ æĿIJ +çµ ® +çĤĴ ä½ľ +çļĦ ä¿¡ä»» +å°± æĪIJäºĨ +åı¯ è§Ĥ +çļĩ ä¸Ĭ +è¿Ļ åĩłå¤© +ä¸Ģ éĶ® +åĨ· åĨ» +ä¿Ŀ åį« +æł¸ æ¡ĥ +åIJĪä½ľ åħ³ç³» +éĢģ åĩº +æĹĹ ä¸ĭçļĦ +åľ¨ ä¹İ +为 广大 +åįĪ é¤IJ +ä¸ĵ 访 +æĪĸ å°Ĩ +éĿĴå²Ľ å¸Ĥ +å¥Ķ è·ij +æĹ¥ æĬ¥éģĵ +å¥ij åIJĪ +æĸ° æĺ¥ +ä¸į å°ıå¿ĥ +两 ä¸ī +æĦıæĢĿ æĺ¯ +åĨ· èĹı +çļĦ çĹĩçĬ¶ +æĢ§ åij½ +è¶ħ æłĩ +å¯Ĩ 碼 +ç§ijæĬĢ èĤ¡ä»½ +äºĨä¸Ģ æī¹ +çĿ£ å¯Ł +åªĴ ä»ĭ +å°Ħ æīĭ +ä¿® åħ» +çīĩ åĪ» +éĢĤåIJĪ èĩªå·± +åıªè¦ģ æĺ¯ +åIJĥ è¿ĩ +éĩij éĵ¶ +缴 å±ŀ +åѦ éĹ® +åİĭ åζ +çªĹ å¤ĸ +æĶ¶ åΰäºĨ +åħ¨åĽ½ 人大 +ä½Ĩæĺ¯ 对äºİ +åľ¨ æķ´ä¸ª +çļĦ èĥĮåIJİ +åĩıå°ij äºĨ +åıį èħIJ +åıįèħIJ åĢ¡ +åıįèħIJåĢ¡ å»ī +æĹ · +åĪĨ æľŁ +åľ¨ æ·±åľ³ +æīĵ çĿĢ +æī« ä¸Ģ +æī«ä¸Ģ æī« +æĶ¿åºľ éĥ¨éŨ +æİ¥ è¿ŀ +å±ŀäºİ èĩªå·± +åŃIJ å¼¹ +åIJĮæł· æĺ¯ +æĢ» åħ± +车 ä¼ģ +æ¢ ĵ +åħ¬ é¡· +åıij 声 +éĴ Ľ +èµ°åĬ¿ åĽ¾ +主 èIJ¥ +åĸ Ķ +æķ°æį® åĪĨæŀIJ +ä¸į è¿ľ +æľī åIJį +æľīåIJį çļĦ +åģ¿ è¿ĺ +å¾Ī ä½İ +è®ĵ 人 +èĿ ī +é«ĺ è´µ +å°ij 许 +æ° Ł +å¹ ¢ +亲 æĥħ +è¿Ļä»¶ äºĭæĥħ +ç͍ é¤IJ +缸åħ³ æĸ°éĹ» +å°± åºĶ该 +ç»Ī çĤ¹ +æĺ¯ å¤ļå°ij +çĻ» åľº +è¯ķ 管 +è¯ķ管 å©´åĦ¿ +åģļ 大 +åģļ大 åģļ强 +çļĦ ä¾ĭåŃIJ +åħ« 个 +æĺİ æĹ¥ +çĤ ³ +èµ° åİ» +éģ º +å¢ © +ä½ĵä¼ļ åΰ +åĴ ı +ä¸ĭ è¾¾ +å¤į åıij +追 éĢIJ +æīĵ åĵį +çļĦ éļ±ç§ģæ¬Ĭ +åħ·æľī ä¸Ģå®ļ +è¿Ļä¹Ī å¤ļå¹´ +æłij æŀĹ +æľĢ éķ¿ +åIJĮ èĥŀ +åħī æ³½ +åŁŁ åIJį +æĮĩ åIJij +åıĹ害 èĢħ +æłij èĦĤ +æľīå¤ļ 大 +大 éĿ¢ç§¯ +æĹł ç¼Ŀ +æĶ¹ æŃ£ +æĽ´å¤ļ çļĦæĺ¯ +æľŁ æľ« +æŃ ¼ +ä¹ī ä¹Į +éĤ£ ä½ł +çļĦ 第ä¸Ģ个 +èĮ µ +å° § +èį « +ä¸įä»ħ åı¯ä»¥ +æ¶Į çݰ +æĢ» éĿ¢ç§¯ +æĸ°éĹ» åıijå¸ĥ +æ°ij ç͍ +å°± 读 +æīĵ è´¥ +å¤ĸ è¯Ń +æĪij们 ä¸Ģèµ· +é¢Ħ å®ļ +çĥ¹ 饪 +æľĢ 主è¦ģ +æľĢ主è¦ģ çļĦ +çīĮ çħ§ +åĽł åħ¶ +ä½İ ä¸ĭ +ä¼ļ åIJĮ +è§ģ è§£ +éĹ´ éļĶ +æķĻ ç¨ĭ +å° ī +å¸Ĥ ä¸Ńå¿ĥ +åħ³éĶ® æĺ¯ +æµ· åįĹçľģ +çī¹åĪ« æĺ¯åľ¨ +ä¸ŃåĽ½ 大éĻĨ +åħħè¶³ çļĦ +æĹ¢ èĥ½ +åĤ³ çµ± +çijľ ä¼½ +åħ¥ åĽ´ +æħ¢æħ¢ åľ° +æĬ¥ éħ¬ +æī¹ å¤į +å·¥ä¸ļ åĽŃåĮº +ä¸İ åıijå±ķ +èĥ¸ éĥ¨ +åľ¨ ç½ij绾 +åľ¨ç½ij绾 ä¸Ĭ +交 è°Ī +æĽ´ æĶ¹ +åįłæľī çİĩ +ä¸Ŀ绸 ä¹ĭè·¯ +è¡ Ľ +çłĶ åΤ +åĪ ª +åĪª éϤ +è¿Ļ åıª +çļĦ æ°Ķæģ¯ +åĬł å·ŀ +éĴ § +çIJĨäºĭ éķ¿ +ä¸ĸ å®¶ +æµģè¡Į çļĦ +å¾Ī æľīåı¯èĥ½ +们 éĥ½ +ç»ıèIJ¥ 模å¼ı +è¡Įä¸ļ ä¸Ń +éĢļçŁ¥ 书 +åij½ é¢ĺ +æľ¬ ç¶²ç«Ļ +æ²Ļ çī¹ +åıij åħī +é«ĺ ä»· +å·² çĦ¶ +åıĮ åįģä¸Ģ +ä¸Ĭ è¯ī +ç¿ħ èĨĢ +è¿Ļä¸Ģ å¹´ +大ä¼ļ ä¸Ĭ +éĩ ī +å®Įåħ¨ æĺ¯ +å¾Ĺ 太 +ä¸Ģèά 人 +è¿ĺ ç®Ĺ +æĬĺ åıł +æĬķ æľº +çĤ¹ çĩĥ +çݰéĩij æµģ +åħĶ åŃIJ +ç½ij æł¼ +æİ¥ è¿ĩ +ä¾Ľ è´§ +éĺ´ å½± +åİŁ åħĪ +æį £ +å·¦ ä¾§ +åħĭ æĭī +æīĵ åį¡ +ç§ij æ¯Ķ +æ±ĩ éĽĨ +åľ°çIJĨ ä½įç½® +è¯Ħ å§Ķ +ç»ĵåIJĪ èµ·æĿ¥ +è¿Ľåħ¥ åΰ +åı¯ è¡Į +åı¯è¡Į æĢ§ +让 å®ĥ +åĪ¶åº¦ æĶ¹éĿ© +çĶĺèĤĥ çľģ +åĵ Ĺ +åģı åģı +è¡£ çī© +ç¥Ŀ è´º +æºIJ èĩª +å¹¶ä¸į 代表 +åĽ½ 度 +好 åĿı +æĿ ĸ +æĿŃ å·ŀå¸Ĥ +湿 度 +é² ¸ +åįļ 彩 +æ³° å±± +æĿij èIJ½ +æĸ° èģŀ +èĤ ĭ +åı¤èĢģ çļĦ +çļĦ ç§ĺå¯Ĩ +ä¸Ģ个 éĹ®é¢ĺ +éģı åζ +åįĥ 亿 +è¿ĩ 硬 +å°Ħ åĩ» +èĩªçĦ¶ æĺ¯ +产 åĮº +çĤ¹ çĤ¹å¤´ +åı¯ä»¥ 帮åĬ© +说 å®ŀ +说å®ŀ è¯Ŀ +æĪij åıªæĺ¯ +ä¹ĭ ä½Ļ +åIJĮæĹ¶ ä¹Łæĺ¯ +ä¸ŃåĽ½ éĺŁ +建æĪIJ åIJİ +ä¹IJ è§Ĩ +åij¨ å²ģ +èᝠåºĹ +éĩij åįİ +严éĩį å½±åĵį +è´¨ åľ° +æĹħ éģĬ +åħµ åύ +æķĻèĤ² æķĻåѦ +离 åİ» +åIJĦå¼ı åIJĦæł· +ä»ĭ ç´ +ä»ĭç´ ¹ +å¼Ģ 头 +å°Ĩ èĩªå·±çļĦ +åIJ¬ åĬĽ +ä¿¡æģ¯ ç³»ç»Ł +ä»İ æł¹æľ¬ +ä»İæł¹æľ¬ ä¸Ĭ +æİĮ 声 +欢 åĸľ +å±ķ åĮº +åķ ¸ +太å¤ļ äºĨ +éĹ² ç½® +èĥ¡ èIJĿåįľ +å§Ķ å®£ä¼ł +å§Ķå®£ä¼ł éĥ¨ +åįĹ éĺ³ +å·ŀ åĮº +ä¸İ æĹ¶ +ä¸İæĹ¶ 俱 +ä¸İæĹ¶ä¿± è¿Ľ +å«Įçĸij 人 +èī¯ å¿ĥ +头 é¡¶ +è´¢ æĬ¥ +ä½Ľ æ³ķ +å¾ µ +åİŁ ä»¶ +åĭ ŀ +çĶ· 篮 +å¤ĸåĽ½ 人 +è¿Ŀ 纪 +æī¾ äºĨ +æįķ æįī +缸 è¯Ĩ +æIJľ éĽĨ +çļĦ ä¼Łå¤§ +ä¸ī ç»´ +å°±è¡Į äºĨ +çĭIJ æľĪ +çĭIJæľĪ å±± +å¸ĮæľĽ éĢļè¿ĩ +èĢĮ 对äºİ +éĿ¢ å°į +åĨĽ åĽ¢ +è¡Ĺ åĮº +æĤ¬ æĮĤ +便 ç§ĺ +æľīä¸Ģ çĤ¹ +ä¼ļè®® ä¸Ĭ +ä¸ĭ æīĭ +廣 åijĬ +äºĶ è¡Į +çŃī åĢĻ +ç´§ç´§ åĽ´ç»ķ +æĭ¿ äºĨ +æ¡Į éĿ¢ +ç¥ŀ æĥħ +éĽĦ åİļ +çŀ ³ +楼 ä¸ĭ +å½ ª +äºĭ åıij +åĨį è§ģ +é¤ ĺ +é¢Ħ åĶ® +åİ» çľĭçľĭ +æĪij们 åºĶ该 +ä¸ī å®¶ +æµ Ĭ +ä¹IJ éĺŁ +çľĭ ä¸įè§ģ +èĦij åŃIJ +æĮģ æľīçļĦ +çϽ èıľ +éĹª çĥģ +åĸĿ æ°´ +æİ§åζ ç³»ç»Ł +ä¸ĵ åĮº +æľĿ å»· +æĪij å¿ĥéĩĮ +å±ķ åİħ +èľĺ èĽĽ +åĨ» ç»ĵ +ç² ª +åº IJ +åIJij 社ä¼ļ +åĨ³çŃĸ éĥ¨ç½² +çŁŃ æľŁåĨħ +æĸ° ä¸ļæĢģ +æľ Ķ +æĹ¶ æĬ¥ +使 ä¹ĭ +åĽł åŃIJ +åıĤä¸İ èĢħ +çļĦ 年轻人 +æīĭ 表 +å°ģ éĶģ +为ä»Ģä¹Ī ä¸į +åIJ¸ çĥŁ +æ¯Ĵ ç´ł +åĪij æ³ķ +磫 æŃ£ +身 æĹģ +åİŁ è°ħ +çĽij æĬ¤ +æŃ¤ å¤Ħ +éļ¨ æĻĤ +æŀľ å®ŀ +åĮ»çĸĹ æľįåĬ¡ +ä¸į åIJĪçIJĨ +æIJŀ 好 +çļĦ èĦļæŃ¥ +å¤ĸ å¥Ĺ +ç¶ĵ éģİ +æĶ¾ ç¼ĵ +åģľ çķĻ +æĺŁ çIJĥ +çļĦä¸Ģ éĿ¢ +åĩł ä½ķ +è½® åĽŀ +æ¯Ľ å·¾ +ä¿® çIJĨ +ä¸įçŁ¥ ä¸į +ä¸įçŁ¥ä¸į è§ī +æķ´ 个人 +æ¯ģ çģŃ +åı° å·ŀ +使ç͍ 寿åij½ +é»ij çϽ +æij¸ ç´¢ +é¼ł æłĩ +éĿ© æĸ° +éº µ +ä¸ĵéŨ 为 +å¾Īå¤ļ æľĭåıĭ +å·¥ä½ľ ç»Ħ +åIJĪ å½± +çĤº ä»Ģ麼 +æŀģ 度 +çļĦ è¿ĽæŃ¥ +å½ĵ ä¹ĭ +å½ĵä¹ĭ æĹł +å½ĵä¹ĭæĹł æĦ§ +è´´ è¿ij +å°º 度 +åľ¨ çİ°åľº +éĻį 临 +åħ»èĢģ éĩij +ç£ ķ +åı¯ä»¥ 使 +管çIJĨ æ°´å¹³ +æľ¬æĬ¥ è®°èĢħ +æ³ķ 令 +åį¡ è½¦ +举 æµ· +å¤ļ éĩį +åħ¶ éĹ´ +ç´ Ļ +éĩį大 é¡¹çĽ® +æ±Ĺ æ°´ +ç»Ħ å§Ķä¼ļ +ä¿¡æģ¯ åħ¬å¼Ģ +ä¸į论 æĺ¯ +ä¸Ģ åIJ¬ +èĴ¸ æ±½ +æıŃ ç§ĺ +è¶ħ éģİ +触 åıij +å© ¦ +åħ³èģĶ äº¤æĺĵ +å°± ç»Ļ大家 +好 ä¹ħ +åĢŁ è´· +游æĪı è§Ĵèī² +å¼ĢåIJ¯ äºĨ +æİ ł +åħļçļĦ åįģä¹Ŀ +ä¸ĭ 鼨 +çŁŃ æĹ¶éĹ´åĨħ +å¯ ħ +导 åħ¥ +å·¥ä½ľ ç»ıéªĮ +ä¹Ł åıªèĥ½ +鼷 éľĨ +è·Ł è¿Ľ +åį¡ éĢļ +é¢ĩ æľī +æľº ä½ĵ +æĪĺ士 èģĮä¸ļ +女 主 +ä½ĵåζ æľºåζ +è¶³ åįı +èĪĴéĢĤ çļĦ +åĢŁ åı£ +æī¹ åΤ +æķ° å̼ +è« ¾ +éĺ¿æĭī 伯 +åĺ İ +æħ ¶ +è¾¾ 人 +å¼Ģ æ°´ +大 鼨 +温 室 +ä½İ è¿· +ä»į æĹ§ +éªĹ åŃIJ +亲 å±ŀ +çIJĨ æĻº +æľ¬ åŁºéĩij +å¨ ħ +åĨĻåŃĹ æ¥¼ +å¢Ļ å£ģ +å® µ +èϽ çĦ¶æĺ¯ +顺 çĿĢ +åħ« åᦠ+åķĨ ç͍ +ä¸į 失 +è¿· èĮ« +顺 便 +æļij æľŁ +欺 è´Ł +é¢ij é¢ij +该 æł¡ +æĸĻ çIJĨ +æ·± æĥħ +åīį éĶĭ +ä¿Ŀ èŃī +èģĮä¸ļ çĶŁæ¶¯ +åħ¬ å¼Ģåıij +åħ¬å¼Ģåıij è¡Į +åħ¥ æĪ· +éł ĵ +å̾ åIJ¬ +éŃ ģ +æĦī æĤ¦ +åĽŀ åIJĪ +åħ¨åĬĽ 以 +åħ¨åĬĽä»¥ èµ´ +åĥ¹ å̼ +èĥ½åĬĽ 强 +ç»ı å¼Ģ +ç»ıå¼Ģ åĮº +è¿ľ æĸ¹ +çļĦ éģĵçIJĨ +缴 åįĩ +缴åįĩ æľº +为主é¢ĺ çļĦ +ç»Ļ æĤ¨ +è¿ĺ æĥ³ +æ¯Ķ æĪij +åĨľ çī§ +æµ· åºķ +çŃ¾è®¢ äºĨ +对äºİ æĪij们 +æĹ¶ 许 +éĶ® çĽĺ +å®ŀéĻħ æİ§åζ +çļĦ æ¨¡æł· +åıįæĺł äºĨ +代 åĬŀ +åĮ» ç͍ +éĽĨ ç»ĵ +åıijå±ķ åīįæĻ¯ +æĮĩ çĿĢ +åįİ åĮĹ +è¿Ļ åĩłä¸ª +åIJį æ°Ķ +åĤį æĻļ +èĩª åıij +æ³¢ åħ° +大åĬĽ æİ¨è¿Ľ +èĩª ç§° +èįĨ å·ŀ +æIJį 害 +äºĨä¸Ģ åı¥ +æľĢåĪĿ çļĦ +éĩijèŀį å᱿ľº +æĢĢ å¿µ +è¡Į åĭķ +女 æİĴ +ä¸į è§£ +ä¼ł éĶĢ +转载 请 +饰 åĵģ +åıª 为 +ä¸İ ä¼Ĺ +ä¸İä¼Ĺ ä¸įåIJĮ +èĥ½ èĢĹ +èı© æıIJ +è¿ij 两年 +è¿Ķ 乡 +马ä¸Ĭ å°± +äºĮ çŃīå¥ĸ +æ°´ 管 +æ³ķ åѦ +çģŃ çģ« +大 å§IJ +åij¨ 转 +æľī æľŁ +æľīæľŁ å¾Ĵ +æľīæľŁå¾Ĵ åĪij +å°į æĸ¹ +ç¥ŀ èī² +æ²¹ èĦĤ +ä¸ī çĤ¹ +ä¸į åĪ©äºİ +äºĭä¸ļ éĥ¨ +å°± è·Ł +å¼Ģ æĶ¯ +å°ı 女åŃ© +åħ±åIJĮ åĬªåĬĽ +çĶļèĩ³ è¿ĺ +è¿Ļ åIJį +è¿Ļ ç¬Ķ +çݯ åį« +æľī ç§į +è§Ĩ åĬĽ +çĨŁ çŁ¥ +åħ¬ç§¯ éĩij +æ¶Īéĺ² å®īåħ¨ +é¢ĩ 为 +大 èħ¿ +éĿ ¶ +çī¹ æķĪ +æľįåĬ¡ åĮº +å¼Ģ åĩº +深度 èŀįåIJĪ +æĹł å¿§ +æŁ¥ éĺħ +ç»Ī ç»ĵ +ä¿Ŀ ç¨İ +è¨İ è«ĸ +å½ĵ åģļ +è·³ èĪŀ +å¯ § +女 çİĭ +è®°èĢħ åľ¨ +åħ¨ 产ä¸ļéĵ¾ +è´¯ éĢļ +åħ´ ä¸ļ +éĻį åΰ +å°ģ éĿ¢ +åħ¨éĿ¢ æİ¨è¿Ľ +奶 èĮ¶ +éĢī åĿĢ +äºĨä¸Ģ åľº +åIJĮ ä¼´ +è®® 论 +æIJ ĵ +诸 èijĽ +诸èijĽ 亮 +å¹² åĺĽ +æµģ æĦŁ +ä¸ĵä¸ļ çŁ¥è¯Ĩ +ç͵ ç«Ļ +åĩı å¼± +åĩº åħ¥ +åIJĦ çľģ +éĿŀ常 é«ĺ +åľ° 毯 +åıij æĸĩ +çĦ ī +çĥ§ çĥ¤ +å£ģ 纸 +æģ¶ åĮĸ +èĬ ¸ +èĥĸ åŃIJ +çĩ Ĵ +çľģ éĴ± +çϾ 强 +çIJĨå·¥ 大åѦ +éĴ¢ æĿIJ +åĽ½æľī èµĦ产 +æĪĺ æľº +æ³Ħ éľ² +åIJİéĿ¢ çļĦ +æ°´ èµĦæºIJ +æ¢ħ èĬ± +åĨĻ çĿĢ +ä¹ĭ 声 +æĹł åı¯ +æĺİ æľĿ +ç«ĭæĸ¹ ç±³ +ç· £ +æĶ¾ è¿ĩ +ç¦ı çͰ +å¾Ĺ ä½ı +åıĹ ä¼Ĺ +ä¸Ń 级 +çĹħ åıĺ +ä¸Ģ çŀ¬éĹ´ +æĿĥ éĩį +人æĢ§ åĮĸ +åĮ»çĸĹ åį«çĶŁ +ä¸įåΰ ä½į +æĻºèĥ½ å®¶å±ħ +饮 ç͍ +æ¼Ķ åıĺ +é«ĺ ç´łè´¨ +ä¹Ļ æĸ¹ +åģľ çķĻåľ¨ +èİ· æī¹ +ç©¿ æ¢Ń +客 åľº +æĮ½ åĽŀ +京 åŁİ +çĶŁåij½ åĬĽ +實 éļĽ +çĩ Ī +åĨį çݰ +çݰå®ŀ ä¸Ń +æľī ä¿¡å¿ĥ +çĸı éĢļ +åĺ´ åĶĩ +鼷 éĶĭ +èıľ åįķ +éħ ¯ +è¶ħ é«ĺ +å¾Ī é«ĺåħ´ +çĶŁ æ®ĸ +éĢł ä»· +误 åĮº +æĨ ĭ +好 æ¶Īæģ¯ +å´ Ń +以 èĩ´ +å¼Ģ çİ©ç¬ij +çĽij è§Ĩ +å·¡ å¯Ł +å¾· å·ŀ +æĹ© æĹ© +éĹª ç͵ +æĪª åĽ¾ +åı¯ä»¥ æł¹æį® +æīĭ èīº +æİ¥ 轨 +ç§į æĹı +æĢĢ éĩĮ +åİ» åĮ»éĻ¢ +ä¸Ģ äºĮ +å¼Ģ éĺĶ +åĩı éĢŁ +ä½Ĩ ä»İ +éĢĻ ä¸Ģ +åĩı åħį +主é¢ĺ æķĻèĤ² +å¼Ģå·¥ 建设 +è¹ ¦ +æľĪ 饼 +ä¸ĭ æ²ī +å°Ĭ 严 +éĻ ĩ +å®ŀ æľ¨ +å»ł åķĨ +声 ç§° +èĢĥ åľº +å¸ĥ é²ģ +èĩª æĿ¥ +èĩªæĿ¥ æ°´ +éĴ ¾ +å¹´ 以ä¸Ĭ +大 åıĶ +ä»ĸ å·²ç»ı +åħ¨ æĿij +èģĶç³» ç͵è¯Ŀ +为 导åIJij +åΤ å¤Ħ +对 éĺµ +缮 æ¨Ļ +åIJį é¢Ŀ +客 æ°Ķ +横 åIJij +çŃī åĨħ容 +åĩł çĤ¹ +è°Ī 论 +ä¸į ä¹ı +å±ķ çݰåĩº +è¾ĥ éķ¿ +éĢĨ 转 +å°ı æĻĤ +æĺ¯ å¤ļä¹Ī +æľ¬ æľĪ +è¿ij è§Ĩ +æĪIJç«ĭ 以æĿ¥ +代表 çĿĢ +æĬ¥ å¤į +æĪı æĽ² +è¨Ń åĤĻ +åħ¥ èĤ¡ +å¾ģ æľį +é«ĺ åĩº +èĪŀåı° ä¸Ĭ +å¿ĥ åĬ¨ +两 çĤ¹ +缸 çķ¶ +èĻ Ľ +主 页 +åĩł å®¶ +æĹł ä¸į +åįı å®ļ +æĸ IJ +å¯ĵ æĦı +åħ¨ 线 +æįķ é±¼ +åı¯ä»¥ ä»İ +æľī è¿Ļæł·çļĦ +æģ¶ éŃĶ +åĮħ åŃIJ +æģ ¤ +å¼Ģå¥ĸ ç»ĵæŀľ +ä¸į æŃ» +èĹ į +弯 æĽ² +æµ· 峡 +éĶĢ æ¯ģ +çļĦ çĭ¬çī¹ +示 æĦı +ä¸įèĥ½ åĨį +èĥ½ æĬĬ +éĺ² çº¿ +ä¸įå°ij äºİ +æ± Ģ +çļĦ éĤ£ä¸Ģ +羣 æĥħ +åŀ ® +被 æīĵ +åĽ½ å®ī +ç¾İ å¦Ļ +è¿Ļ åĩł +åĩº éģĵ +æľįåĬ¡ äºİ +æĪIJæŀľ 转åĮĸ +æīį åįİ +天 é¹ħ +åĩł 个人 +åĢĺ èĭ¥ +è̽ 误 +æĬĹ æĪĺ +è¡Į éĬ· +æĿ¥ è¢Ń +åĢŁ éĮ¢ +èįī èİĵ +ä¸¥æł¼ æī§è¡Į +举è¡Į äºĨ +å¤ĸ ç±į +å·² è¾¾ +æĿij åħļæĶ¯éĥ¨ +è¡ Ŀ +éĻį èĩ³ +æµ· éĩı +é¤IJ é¦Ĩ +æĢ¥ å¿Ļ +æ·± è¿ľ +å¾Ģ è¿Ķ +ç¨İåĬ¡ å±Ģ +å¹¿æ³Ľ åºĶç͍ +è®® åijĺ +æĹł æķĮ +çľ¼ åħī +çĥŃè¡Ģ ä¼łå¥ĩ +æŃ IJ +äºĨ äºĽ +è¿Ŀ èĥĮ +è¿Ļ æĺ¯ä¸Ģç§į +ä¸į 稳å®ļ +大家 åĪĨ享 +表 çı¾ +åīį åįģ +è·¯ è¿ĩ +æĴ © +åIJĮ æĥħ +ä¹ł ä¿Ĺ +åıij è´¢ +åºĶ æľīçļĦ +æĿİ æŁIJ +èĤ Ľ +马 åħĭ +éĢļ åijĬ +å·¨ 人 +ä¸Ģ åĽ¢ +éĢĻ æ¬¡ +ä¸į äºĨè§£ +æĸ½ è¡Į +èij¡èIJĦ çīĻ +åıĺå¾Ĺ æĽ´åĬł +æı £ +åĪĽæĸ° èĥ½åĬĽ +çķħ éĶĢ +表 æī¬ +æ¯Ķ åĪ© +æ¯ĶåĪ© æĹ¶ +åĮ»çĸĹ ä¿ĿéĻ© +æĵį 纵 +伤 亡 +æµİ å®ģ +åıĺ äºĨ +æľ¬æ¬¡ æ´»åĬ¨ +åľŁ 豪 +æĥ³ åĬŀæ³ķ +æĺ ķ +å½ĵ æĻļ +åĩº å±Ģ +çĥŃ è®® +è°Ī è°Ī +æĻĭ åįĩ +åĬ¿ å¿ħ +çĻ» å±± +éĤ£ åĦ¿ +åIJĥ åΰ +ä¹ĭ åŁİ +å¿« æĿ¥ +æ¹Ľ æ±Ł +第ä¸ī 个 +åħ¨éĿ¢ æıIJåįĩ +å¥ĸ åѦ +å¥ĸåѦ éĩij +æĬķåħ¥ 使ç͍ +é½IJ é²ģ +åı¯ä»¥ æĬĬ +åĴĮ ä»ĸçļĦ +è´ŃæĪ¿ èĢħ +æŃ£å¼ı åIJ¯åĬ¨ +åįİ æ¶¦ +ä¸įæĸŃ å®ĮåĸĦ +éĴ¢ æĿ¿ +ç´¯ 积 +满 èĦ¸ +åĽĽ æĸ¹ +è´¢ çī© +ä»ĸ们 ä¼ļ +å¤ı æĹ¥ +éĤ£ 个人 +éĿł çĿĢ +çĤ¹ äºĨ +çĤ¹äºĨ çĤ¹å¤´ +æ© ĭ +åıΠ好 +åıĪ好 åıĪ +åıĪ好åıĪ å¿« +éĺµ éĺµ +å°ģ 建 +æľ¬ çͰ +çī©ä¸ļ æľįåĬ¡ +èĩªè´¸ åĮº +åIJ ı +便åĪ© åºĹ +åĽ½å®¶ æłĩåĩĨ +éĿ¢ ç²ī +èī° è¾Ľ +æĶ» åħ³ +æīĵ åĮħ +车 éĺŁ +人 éĢī +åı¯ ä¸įæĺ¯ +äºĮ åįģå¹´ +åIJį å¸Ī +浦 举 +åħ¬ è¯ģ +è¿IJ éĢģ +æĺ¯ æľĢ好çļĦ +æŁĶ åĴĮ +çİĭ æŁIJ +çĹħ æĪ¿ +åĨ¶ éĩij +ä¸Ģä»¶ äºĭæĥħ +åį ¤ +åı¯ æİ§ +çī Ł +æĭ Ĥ +å·² äºİ +人 éĢł +çĶŁçī© åĮ»èᝠ+ä½ĵ çݰåĩº +èĤ² åĦ¿ +èĢģ å®ŀ +åľĸ çīĩ +è« ¸ +ç´¯ äºĨ +æĦŁåħ´è¶£ çļĦ +åĽ¾çīĩ æĿ¥æºIJ +ä¹Ł æĺ¯ä¸Ģç§į +æ¾İæ¹ĥ æĸ°éĹ» +æĹ¶ 表示 +åħī è¾ī +æĬ¥ åºŁ +å²ģ æĹ¶ +éħ ® +æ£Ģ ä¿® +åıĺ éĢŁ +åıĺéĢŁ ç®± +åľ¨ èģĮ +éı ¡ +æį Ĥ +çĿ£ åĬŀ +æ°¸ ä¸į +åģļ ä¸ĢäºĽ +åİĨ æĹ¶ +å·¥ç¨ĭ æľºæ¢° +æģ° å½ĵ +å°± åľ¨äºİ +ç§° åij¼ +éĢļ常 æĺ¯ +æł· å¼ı +åij¨ ä¸Ģ +èĭ± éķij +åĿĩ 线 +ä¼ł éĹ» +ç͍æĪ· ä½ĵéªĮ +èµŀ åIJĮ +骨 æĬĺ +为主 ä½ĵ +æ±Ł å±± +æ¸ħ æľĿ +æĶĢ åįĩ +ä¸į çĽ¸ä¿¡ +éĿ ´ +æŃ¦ åĬŁ +åĭ¤ åĬ³ +æĿ¥ æī¾ +å°Ĩ æĮģç»Ń +丫 头 +æ¨Ļ æºĸ +è£ ´ +深深 çļĦ +åŃķ èĤ² +è§ĦåĪĴ 建设 +æ¸ħ çν +ç²¾åĩĨ æī¶è´« +æīĵçł´ äºĨ +è¿Ļä¸Ģ 天 +å·¥ä½ľ æĢ»ç»ĵ +æĹħ ç¨ĭ +举 èIJ¥ +æĶ¾ å°Ħ +æľī åĩłä¸ª +éĿŀ çī©è´¨ +åIJĥ å¾Ĺ +åĹ ¨ +ä¼ļ åıijçĶŁ +篮 æĿ¿ +å¼Ģ å°ģ +麻 å°Ĩ +èıı æ³½ +ä¸į åIJĪ +ç³»åĪĹ äº§åĵģ +èѬ å¦Ĥ +ç¾İ èªī +èĩªå·± åĸľæ¬¢ +交æĺĵ ä¸Ńå¿ĥ +åIJĪ åͱ +使 æĪij +åĥı ç´ł +带 éĺŁ +ä½Ĩ 对äºİ +æĬĬ è¿Ļ个 +èĤĿ èĦı +åįķ纯 çļĦ +æĶ»åĿļ æĪĺ +缼 ä¼ļ +åijµ æĬ¤ +æª Ģ +èµ¶ ä¸Ĭ +æ¥ Ĭ +ä¹ħ äºĨ +ç¡ Ŀ +çŃĶ é¢ĺ +ä¿ĿæĮģ çĿĢ +è§ģ è¯Ĩ +çĤ¹ åĦ¿ +åįĬ 个æľĪ +æ» ĩ +浸 泡 +ä¼ł éĢģ +åľ¨ å¸Ĥåľºä¸Ĭ +ä¹ĭ 乡 +çī¹ éķ¿ +éĽ ŀ +èª ł +身 å¤Ħ +æŁł 檬 +身 ç©¿ +çľģ åħ¬å®ī +çľģåħ¬å®ī åİħ +åıĻ åĪ©äºļ +åĩł åĪĨéĴŁ +人 åĢij +åľ° 段 +èĩª åѦ +ä¹Ł è¶ĬæĿ¥è¶Ĭ +èģĮ æĿĥ +æĸ § +èĩ » +å½Ĵ 纳 +驾 é©Ń +éĥ¨åĪĨ åľ°åĮº +没æľī æĥ³åΰ +æĴ ĩ +ä¹Į é²ģ +ä¹Įé²ģ æľ¨ +ä¹Įé²ģæľ¨ é½IJ +èĤ² 人 +çļĦ æŃ¥ä¼IJ +å»¶ æľŁ +æ²¹ æ°Ķ +åģļ å®Į +åľ£ åľ° +丰 åİļ +宽 带 +åı¯éĿł çļĦ +åºŃ éĻ¢ +åŃ ľ +å°ı康 社ä¼ļ +å®īåħ¨ 管çIJĨ +å¹´ 第 +æİĴ 污 +èĥĮ åĮħ +å®¶ ä½ı +åħ¶å®ŀ å°±æĺ¯ +ä¼ļ è§ģ +帮åĬ© ä¼ģä¸ļ +ç½ij è´Ń +æĺ¯ ä¸įä¼ļ +飯 åºĹ +æŃ» åİ» +åħįçĸ« åĬĽ +æľ ķ +åĸĿ äºĨ +è½» å¾® +个æľĪ åĨħ +ç»Ħ åĽ¢ +åĴĮ å®ĮåĸĦ +é¸ ½ +æıIJ éĢŁ +西å®ī å¸Ĥ +ä¸Ńå¿ĥ 主任 +æĹ¶éĹ´ 为 +æľŁ æĿĥ +è¶ ķ +ä¸įä»ħ è¦ģ +æľį ä»İ +é¡ĺ æĦı +ä¸į å°ı +ä¸įå°ı çļĦ +ç° ĩ +çª ¦ +åĪĩ æĪIJ +åĵĪ åĪ© +天 羣 +ä¸Ģ次 次 +éĩij å¸ģ +æĢİä¹Ī èĥ½ +ç½ij è´· +ä¼ļ计 å¸Ī +çŁŃ 缺 +对 æłĩ +åıĺå¾Ĺ æĽ´ +åīį åĩłå¤© +éĺ² æ±Ľ +彩 èϹ +åĵģ ä½į +表 æł¼ +严 å¯Ĩ +æ¯Ľ åĪ©çİĩ +çļĦ åį±å®³ +å½ķ åζ +æ°´ åĬ¡ +èĥ½å¤Ł 让 +å¹³ æĿ¿ +ä¹³ æĪ¿ +è¸ı å®ŀ +é¦ĸ åĪĽ +é¦Ļ èķī +æĬ¥ 表 +ä¸Ģ æĬ¹ +åĩºçĶŁ äºİ +è²» ç͍ +åĩº 让 +åIJĪæ³ķ æĢ§ +å°¼ åħĭ +åĨ° åĨ· +é¦Ļ æ°Ķ +åı· ç§° +èµ· çłģ +åŁİ åİ¿ +çİ© èĢį +ä¸Ĭ éĻIJ +ä¼ļè®® ç²¾ç¥ŀ +æĹģè¾¹ çļĦ +便 ä¼ļ +æıŃ æĻĵ +çİ© æĦı +éĽª å±± +åIJij çĿĢ +ä½ĵèĤ² åľ¨çº¿ +说æĺİ ä¹¦ +åĮĸ èĤ¥ +åħļç»Ħ 书记 +åĬ¨ 人 +ä¹ĭ æīĢ +æľĪ èĩ³ +æľĢå¿« çļĦ +èĬĤ åģĩæĹ¥ +ä¸ĵ åľº +èĢĥ ä¸Ĭ +çª Ł +é²ľ è¡Ģ +è¾ĥ强 çļĦ +æĤĦ çĦ¶ +å¤ļ个 åĽ½å®¶ +çªĹ å¸ĺ +æŀģ å¤§åľ° +ä¸įç͍ æĭħå¿ĥ +è¿Ļä¹Ī åģļ +åĥ¹ æł¼ +ç¾İ丽 乡æĿij +å°ıæĹ¶ åĨħ +ç´§ è¿« +大 çģ« +èĥ³ èĨĬ +æĵįä½ľ ç³»ç»Ł +æ®ĭ çķĻ +åĨĻ åĩº +ç¦ģ å¿Į +åĬłçĽŁ åºĹ +è¿ij çϾ +便 åı¯ +æķ´æĶ¹ æİªæĸ½ +éĩĩ访 æĹ¶ +åĶIJ 代 +æ·±åĮĸ æĶ¹éĿ© +çŁ ¢ +éĥ½ åĸľæ¬¢ +è¶ĬæĿ¥è¶Ĭ é«ĺ +èĬ± æľµ +头 çĸ¼ +å®ī 康 +å¢ŀéķ¿ çİĩ +çľ¼ çľĭ +å°±æĺ¯ 为äºĨ +èĢĮ 导èĩ´ +åĬłå¿« 建设 +èĬ± æł· +åĨħå¿ĥ çļĦ +æĺĨ å±± +è³ĩ æºIJ +åĽŀåΰ å®¶ +èıĬ èĬ± +æ°´ éĩı +å¾ģ ä¿¡ +è¡ĮæĶ¿ åĮº +ä¹ĥ æĺ¯ +æĬķèµĦ é¡¹çĽ® +å«ģ ç»Ļ +ç¥ŀ åľ£ +ç¨ ł +æľ¬æĿ¥ å°± +éĢIJ ä¸Ģ +èģĮä¸ļ æĬĢæľ¯ +ä¸įèī¯ ä¿¡æģ¯ +æīĺ è¿IJ +åIJ¯ 示 +ä¹ĭ åħ§å®¹ +éŁ ¶ +奢 åįİ +æıŃ ç¤º +æĪIJ为 ä¸ŃåĽ½ +æ¶Īè´¹ åĵģ +åħ¬ ç͍ +æIJŀ å®ļ +请 ä½ł +æŁ ļ +åĨħ è¡£ +ä½Ĩ ä»ĸ们 +ä¿Ŀ 湿 +该 åİ¿ +饱 åĴĮ +æİ¨ åIJij +èµĦæĸĻ æĺ¾ç¤º +ä¸į å½±åĵį +人 人éĥ½ +åıijå±ķ 壮大 +åħ»èĢģ æľįåĬ¡ +çĶŁæ´» æ°´å¹³ +åIJĦ åİ¿ +ä½ł éľĢè¦ģ +说 çļĦæĺ¯ +å¤ĸ åªĴ +æŃ¤ 人 +次 è¦ģ +追 èµ¶ +åºĶ该 å¦Ĥä½ķ +æĹ¥ åĩĮæĻ¨ +çķ¥ æľī +éĥ½ æĥ³ +游 ä¹IJ +è¿Ļ款 游æĪı +å¹³ æ·¡ +æĺ¯ä¸Ģ åĢĭ +å¤ĩ èĢĥ +åζ æŃ¢ +ä¸Ģå®ļ èĥ½ +å¾Ĵ å¼Ł +以 çĤº +åįĥ åħĥ +äºĶ åħŃ +迪 士 +迪士 å°¼ +éĺ³ æĢ§ +åĨ¬å¥¥ ä¼ļ +å°±æĺ¯ åĽłä¸º +æĮĤ éĴ© +æ¦Ĥ åĨµ +åıªè¦ģ æľī +æ²¹ çĶ» +åľ° æłĩ +ä¸Ĭ è°ĥ +产ä¸ļ åĽŃåĮº +åħ« åįģ +æ£ ± +æ¶² æĻ¶ +æĿij å§Ķä¼ļ +çŃ¾çº¦ 仪å¼ı +è¿Ļ åħ¶ä¸Ń +åĨĻ éģĵ +示èĮĥ åŁºåľ° +éĩİçĶŁ åĬ¨çī© +鼻åŃIJ ä¿¡ç®± +åĽ½éĻħ è´¸æĺĵ +人 æĿĥ +ä¿Ŀ 管 +èĭ¥ æĤ¨ +åİĭ æĬij +é» Ľ +åľ° çľĭçĿĢ +éĻ ° +ä¸Ģå¹´ å¤ļ +ä»İ 容 +ä¸Ń æĸŃ +å¯Ł è§ī +ç§» 交 +éĶ ¯ +æĪĸ许 æĺ¯ +ç¶ ł +两 项 +æľĢ åĸľæ¬¢ +æľĢåĸľæ¬¢ çļĦ +å¤ľ éĩĮ +åIJĮ ä»ģ +åĪĽæĸ° 驱åĬ¨ +è°ģ èĥ½ +é£ ¾ +åħī åѦ +åİ Ħ +èĦ± é¢ĸ +èĦ±é¢ĸ èĢĮåĩº +è¿ ¦ +æĺ¯ ä¸įåı¯èĥ½ +çª ¥ +èĥ½ 满足 +宽 度 +伦 çIJĨ +åı¯ä»¥ èİ·å¾Ĺ +转 ä¼ļ +å±± æĿij +éĵº 设 +åĩº åĩ» +æĸĩåĮĸ èīºæľ¯ +ä¼ļè®® 室 +æŃĮ 声 +æ» Ķ +èIJİ ç¼© +æľįåĬ¡ åijĺ +åıij表 äºĨ +æĸ¼ æĺ¯ +æĺİç¡® è§Ħå®ļ +ç»´ å¥ĩ +æ°´ 产 +æĬķ ä¿Ŀ +éĺ´ éģĵ +èµ¶ å¿« +夺 å¾Ĺ +ä¸ĭ åįķ +çµģ åħ¬åı¸ +çݯ ç»ķ +å½ Ī +ä½ľé£İ 建设 +æĹħ游 æĻ¯åĮº +æľī æĽ´å¤ļçļĦ +丰å¯Į å¤ļ彩 +çIJĨè´¢ 产åĵģ +åĩº å·® +ä»İ严 æ²» +ä»İ严治 åħļ +缸 å¹² +æ»ĭ 润 +主åĬŀ æĸ¹ +åī§ åľº +æ»ļ çIJĥ +æ©Ħ æ¦Ħ +èĩªä¸» åĪĽæĸ° +éĢļ å¾Ģ +æł¼ å°Ķ +çļĦ ä¼ĺçĤ¹ +èĥĮ ä¸Ĭ +çª ľ +çĪĨ åĩº +å¹³ æķ´ +ä¸Ģ èĦļ +åħ¨ä½ĵ åijĺå·¥ +éĻIJ å®ļ +åŁİéķĩ åĮĸ +æ· ³ +éĢ® æįķ +è¡ĮåĬ¨ 计åĪĴ +æīĵ å¾Ĺ +åİļ éĩį +纪å½ķ çīĩ +åĿļ ä¿¡ +央 ä¼ģ +åĨį ä¹Łä¸į +天 涯 +åıĤèĢĥ èµĦæĸĻ +æľī æ¯Ĵ +åIJ¸ 纳 +è¶Ĭ åıij +éĩįè¦ģ æĦıä¹ī +åĽ½éĺ² éĥ¨ +è¿Ļ个 è¡Įä¸ļ +æĻ® æŁ¥ +å¼Ĥ æĢ§ +å»¶ è¿Ł +å°ı å¹ħ +èī² æĥħ +综åIJĪ æ²»çIJĨ +æŃ£æĺ¯ åĽłä¸º +产ä¸ļ ç»ĵæŀĦ +çłĶç©¶ æĬ¥åijĬ +åģľ ä¸ĭ +éķ¿ èĢģ +éĩĿ å°į +åįĹ京 å¸Ĥ +çģĮ æºī +转 è¿IJ +欺 è¯Ī +éĢł åģĩ +åĪĨå¸ĥ å¼ı +æĦŁ è§¦ +æĪij å½ĵæĹ¶ +åıij è§ī +åĽ¾ 纸 +æĶ¹ èī¯ +çĭł çĭł +åĨ² åĪº +æĸ° 京 +æĸ°äº¬ æĬ¥ +ç¥ŀ åύ +秸 ç§Ĩ +çĪ º +å°Ĩ è¿İæĿ¥ +å·¥ ä¿¡ +工信 éĥ¨ +éĻIJ éĩı +æŃ¢ æįŁ +åѦä¼ļ äºĨ +åįİ çĽĽ +åįİ缼 é¡¿ +å¾Į ä¾Ĩ +ä¸ĭéĿ¢ æĺ¯ +ä¸ĭéĿ¢æĺ¯ å°ı +æIJ¬ è¿IJ +ç¾İæľ¯ é¦Ĩ +æ¸ħ åĩī +å¤ļå¹´ åīį +è© ŀ +åįĥ ç±³ +表 è¿° +æ±Ł éŨ +åĬłæ²¹ ç«Ļ +æľ¬ èĥ½ +导 读 +åĽ´ è§Ĥ +å¹¶ åIJij +åŁºæľ¬ æĥħåĨµ +æīĵ å¼ĢäºĨ +è¿Ļ ä¸ī个 +æ±ķ 头 +强 æľīåĬĽ +强æľīåĬĽ çļĦ +è¿Ľ åľº +ä¹Ŀ æ±Ł +çIJĥ æĺŁ +好çľĭ çļĦ +大 æĪ· +æ¹ ¯ +å¥ĩ å¦Ļ +ä¹IJ åύ +æĪijçļĦ å¿ĥ +çľī 头 +åĨľä¸ļ çĶŁäº§ +ç¼ĸ çłģ +åŁº ç¤ +åŁºç¤ İ +天 æĸĩ +åĢĭ人 è³ĩè¨Ĭ +åİ» è¿ĩ +èģĨ åIJ¬ +æĶ¾ åģĩ +ä¸į åħ·å¤ĩ +æ·Ģ ç²ī +大 佬 +åħ¨ 天 +åħ¨éĿ¢ 建æĪIJ +éļIJ å½¢ +ç¼ħ ç͏ +åIJ ³ +è¡ĮæĶ¿ æī§æ³ķ +åŁİ åł¡ +èİ« æĸ¯ +èİ«æĸ¯ ç§ij +æīĢæľī æĿĥ +éĽĨ åľĺ +å±Ģ åī¯å±Ģéķ¿ +åĩłä¹İ 没æľī +æ´ģ åĩĢ +ç͵影 èĬĤ +åŃ© ç«¥ +æīĢ åģļçļĦ +æ¸ħ 代 +æĸ° çīĪ +éĵĿ åIJĪéĩij +为 æĬĵ +为æĬĵ æīĭ +åΤ å®ļ +çī¹ äº§ +æīĭ æ©Ł +ä¸įåı¯ æĪĸ +ä¸įåı¯æĪĸ 缺 +å¸Ĥåľº è§Ħ模 +åĿ ¯ +åĮ» åѦéĻ¢ +å¿« è¦ģ +èĮ ľ +æĬĺ èħ¾ +äºĨ è¿ĩæĿ¥ +æĬ¥åijĬ æľŁåĨħ +çī© ç§į +ç»Łè®¡ å±Ģ +æī© 建 +æ¶ ħ +责任 人 +éĺ İ +è¯Ħ è®® +å¾Ģ äºĭ +æīĢ ç¤º +æķ´ æ´ģ +éĹº èľľ +æĹħ éĢĶ +å®ŀ è®Ń +ä¹ĭ ç§° +å·´ 士 +éĢŁåº¦ å¿« +ä¸įä»ħ å¦ĤæŃ¤ +å®Ŀè´µ çļĦ +åºŁ çī© +æ²³ æ°´ +æİ¥ 纳 +ç²¾ æ¹Ľ +åħ¶æ¬¡ æĺ¯ +顺 å¾· +åħ¬åħ± åį«çĶŁ +è¤IJ èī² +ä¸į æĥľ +æĬĢæľ¯ æľįåĬ¡ +æİ · +æ±Ĥ èģĮ +ä¸ī 峡 +æĬķåħ¥ åΰ +太 åIJİ +åIJ¯åĬ¨ 仪å¼ı +缴æİ¥ å½±åĵį +æĸ° 款 +个 乡éķĩ +çϾ 亿 +åº « +ä¹Ł æŃ£æĺ¯ +åı¶ çīĩ +æľĢæĹ© çļĦ +æĪĺ 绩 +å·¥ æľŁ +æĻļ æľŁ +è¿Ļæł· 说 +è¯į è¯Ń +ä¾ Ħ +æķ£ çĥŃ +éĽĨæĪIJ çĶµè·¯ +åIJį è¯į +æĻº åķĨ +æĭ¥ åłµ +çĭĤ 欢 +è¿Ļ èά +æµ´ 室 +åijķ åIJIJ +æľªæĿ¥ åıijå±ķ +ä¸īä½į ä¸Ģä½ĵ +åªĴ é«Ķ +ä¸įå¾Ĺ 转载 +åĽłä¸º 她 +æĺ¾ç¤º å±ı +ä¾Ľ æļĸ +éĨ« éĻ¢ +æľī æĦıæĢĿ +æľīæĦıæĢĿ çļĦ +娱ä¹IJ åŁİ +åįµ å·¢ +åĪĽéĢł åĬĽ +竳 èĬĤ +人大 常å§Ķ +èĢĮ çİ°åľ¨ +å¤ĸ å©Ĩ +å¢ŀ æĮģ +äºĶ åįĥ +èĢģå¸Ī 们 +æ´Ľ æĿī +æ´ĽæĿī 磶 +æİĮæı¡ äºĨ +ä¸ŃåĽ½ æĸĩåĮĸ +æĸ° æĶ¿ +主è¦ģ ç͍äºİ +åıij çĥ§ +类似 äºİ +åĮĹ æŀģ +æĪij们 认为 +å¼¥ 漫 +åħ¨çIJĥ ç»ıæµİ +é¢ IJ +ä¸Ģèµ· è£ħä¿® +æĶ Ĵ +æĭī èIJ¨ +帶 ä¾Ĩ +åĨ· æ°´ +ä¸ī åĨľ +æĿ¿ æĿIJ +è¿ŀ è¿ŀ +éĵ ® +ç»ıèIJ¥ çIJĨ念 +å±± é¡¶ +å¾Ī æĥ³ +çĺ « +å§ĭç»Ī ä¿ĿæĮģ +åľ¨ 广å·ŀ +ä¸įåIJĮ æĦı +åıĺ åİĭ +åıĺåİĭ åύ +产 éĶĢ +表 éĿ¢ä¸Ĭ +æīĢ以 ä»ĸ +ç»ıéªĮ 丰å¯Į +éĥ¨ å§Ķ +åħµ åĽ¢ +æīĢ è¿° +æķ¦ çħĮ +ç»ıèIJ¥ èĮĥåĽ´ +åı£ è¯Ń +失 ä¿¡ +æ¯ı个人 çļĦ +æīĭ æĮģ +æģIJ æħĮ +åł¡ åŀĴ +é¦ ħ +éĵ¸ éĢł +æĭ¿ åĩºæĿ¥ +æİ¢ æµĭ +大家 ä¸Ģèµ· +å¥ § +å®ŀè´¨ æĢ§ +å°ı åĦ¿ +èĩº åįĹ +èĩºåįĹ å¸Ĥ +å¼Ģåıij èĢħ +åı¯ æł¹æį® +ç®± åŃIJ +饺 åŃIJ +å¿Ļ çĿĢ +æĿ¥ ä¸įåıĬ +缸 ä¼ł +åĽ½ ç½ij +èħ¹ æ³» +è¿ĻéĩĮ æľī +é£İ æĻ¯åĮº +åıĤ ä¿Ŀ +æŃ» èĢħ +æĪ´ ä¸Ĭ +æ©Ł æ§ĭ +è¯ķéªĮ åĮº +ä¼ł æİĪ +æµ· è¾¹ +泪 æ°´ +缸åħ³ åĨħ容 +éĥij å·ŀå¸Ĥ +åħij çݰ +两 åij¨ +èĬľ æ¹ĸ +ç͵åŃIJ ä¿¡æģ¯ +红 å¤ĸ +æĹħ游 å±Ģ +å¾Ģå¾Ģ ä¼ļ +è¿ħ çĮĽ +ä¼ł 羣 +æ¸ħ æ¾Ī +å°± è¿ij +微信 群 +ç³»åĪĹ æ´»åĬ¨ +ç»ı常 ä¼ļ +è§Ĥ æµĭ +å¿ĥå¾Ĺ ä½ĵä¼ļ +éĻĪ åĪĹ +åĮĹ æĸĹ +è« ® +è«® è©¢ +è¿ĺæĺ¯ ä¼ļ +æµĭ ç®Ĺ +æĺŁ ç©º +宽 容 +çī©ä¸ļ åħ¬åı¸ +æĪĴ æĮĩ +å¸ħ æ°Ķ +ä¸ĢæŃ¥ æŃ¥ +åħ± 鸣 +åĨ³ ä¸į +æİ¥ 管 +å¦ĩ èģĶ +æ¯Ķ åĸ» +é²ģ è¿ħ +æĮģ çºĮ +缸 亲 +å¨ģå°¼æĸ¯ 人 +ç«ĭ 项 +åĪ Ŀå§ĭ +èĩª åζ +è¿Ī è¿Ľ +ä¸Ĭ æ±½ +å®ı ä¼Ł +æł¹æľ¬ 没æľī +æĸ°åĨł çĹħæ¯Ĵ +åĵª ç§į +康 åħ» +è¡° èĢģ +å½ķ åĥı +é«Ķ é©Ĺ +ç»ij å®ļ +é¢Ŀ 头 +äºĶ æľĪ +èĬ± å¼Ģ +ä¸Ģ线 åŁİå¸Ĥ +åΰ åľº +æĬķ éĻį +çĹĺ çĹĺ +åıĹ ä¸įäºĨ +æīİ æł¹ +æĽ´ ä½ķåĨµ +æĬ½ æŁ¥ +åĩº è·¯ +审议 éĢļè¿ĩ +ä¸į åĥħ +èī² è°ĥ +çϾ ä½Ļ +èĤł éģĵ +æ·±åİļ çļĦ +马 åĬĽ +æĹ© æĻļ +æŃĮ èĪŀ +éĺ² æĻĴ +æľĢåIJİ ä¸Ģ个 +樱 èĬ± +å°ıä¼Ļ åŃIJ +åľ¨ å½ĵåľ° +å°ıä¼Ļä¼´ 们 +èµ· æºIJ +åħ¨ åªĴä½ĵ +ç° ½ +éħ± æ²¹ +æĹłè®º å¦Ĥä½ķ +裤 åŃIJ +åģľ äº§ +ä¸įçͱ å¾Ĺ +çīµ å¼ķ +ä¼ł åĬ¨ +ä¹Ŀ é¾Ļ +åĬł åĽº +ä¹Łä¸į æķ¢ +æĬĢæľ¯ æĶ¯æĮģ +ä¸Ĭ å²Ĺ +ç»ıéªĮ åĴĮ +æł¼ æŀĹ +åIJ¸ éĻĦ +æľªæĪIJ å¹´ +奢ä¾Ī åĵģ +追 æį§ +好 ä¸į容æĺĵ +èķ´ åIJ« +ä¿Ŀ å®ļ +æĬ¥ ä¸ļ +æµ· åĨħå¤ĸ +ä½ł çİ°åľ¨ +æ²¹ èĢĹ +è´¨éĩı 管çIJĨ +æ½ľ æ°´ +丽 æ±Ł +转 åħ¥ +è¿Ļä¹Ī ä¹ħ +æĺİ ä»£ +责任 åζ +éĩį å·¥ +大 å·´ +触 åıĬ +èµ· åĪĿ +大 å¦Ī +æĸ¯ å¡Ķ +åĨĽ å·¥ +书 éĻ¢ +å³ ¨ +æİ¨ çIJĨ +è¿Ļç¯ĩ æĸĩ竳 +è¿ģ ç§» +åľ¨ åIJĮä¸Ģ +ç»Ĩ ç»Ĩ +åīĬ å¼± +书 æĪ¿ +ç¶ĵ 常 +è¯ķ é¢ĺ +æĤ£ ä¸Ĭ +çĻ«çĹ« çĹħ +åĨ² æ´Ĺ +å¤ĸ æı´ +åħĭ åζ +åįģ æľĪ +åģļ ä¸įåΰ +ç¾İ åĮĸ +å¦Ĥ æľŁ +è¿ĺ éľĢ +天 åºľ +å°± æĦıåij³çĿĢ +çļĦç¡® æĺ¯ +éªĹ å±Ģ +å°ıç»Ħ èµĽ +è© © +ä¹Ŀ å¹´ +æĻĵ å¾Ĺ +çłĶç©¶ 人åijĺ +大 éħĴåºĹ +ç§ij åѸ +åħŃ åIJĪ +çķĮ å®ļ +车 è½½ +å¼Ģ çĿĢ +毫 æĹłçĸij +毫æĹłçĸij éĹ® +è¿IJ ç»´ +ç¦ģ åĮº +èĦ± èIJ½ +讲 å¸Ī +产ä¸ļ åŁºåľ° +é«ĺ æĢ§èĥ½ +åħī 彩 +çݰ éĺ¶æ®µ +åĩ ¿ +è¾ĥ å·® +饮 çĶ¨æ°´ +éĸĭ çϼ +ç½ij åIJ§ +çĮ´ åŃIJ +æŃ¦ æŀĹ +å®ī åİ¿ +ä¸įåı¯ æĢĿ +ä¸įåı¯æĢĿ è®® +éĬ· åĶ® +è´« ç©· +为 åķ¥ +éº ĵ +å¹¾ åĢĭ +è§Ħ模 以ä¸Ĭ +æı ļ +被 åĽ° +缺 å¸Ń +å¿« é¤IJ +æĬ¢ åįł +æĻ Ł +å¤į æ´» +æľ¬æĬ¥ 讯 +åĪĽ ä¸ĭ +æµ· 滩 +éĩı 产 +å¦Ĥä½ķ åİ» +车 ä½į +å¯ ĩ +äºĮ åįģåĽĽ +ç»ıæµİ æįŁå¤± +éħįå¥Ĺ 设æĸ½ +åŁºæľ¬ éĿ¢ +äºī 论 +就好 åĥı +çłĶç©¶ æĪIJæŀľ +éĻĪ è¿° +æīĵ åĬ¨ +ä¸ĭ å·´ +ç§Ĵ éĴŁ +对 人ä½ĵ +æĬĢæľ¯ çłĶåıij +åİŁ åŃIJ +æĺ¯ä¸Ģ 项 +äºĨä¸Ģ 份 +æĮĩ çͲ +ç͍ éĩı +è¿ĺä¸į å¤Ł +æĶ¿åºľ éĩĩè´Ń +çŁ¥è¯Ĩ çĤ¹ +ä¸ŃåĽ½ 梦 +å¾Ī å¼Ģå¿ĥ +礼 è²Į +éĿŀ常 å¤ļ +éĿŀ常å¤ļ çļĦ +åĽ ļ +æĹħ é¦Ĩ +å°½ æĥħ +æŃĮ åͱ +æ²Ļ é¾Ļ +车 åİ¢ +客 æµģ +åģı å·® +积累 äºĨ +æ¡ Ķ +çĶ» çĶ» +ä¹Ł åºĶ该 +åºĶç͍ ç¨ĭåºı +èĥĥ èĤł +以 å¾Į +豪 å®ħ +æ·± åĬłå·¥ +缴 è¨Ģ +åĮĸ çŁ³ +åĽ½ éģĵ +ä¸ĥ 个 +ä»İèĢĮ 使 +èĤł èĥĥ +æĹ¥ è¶ĭ +çζ åŃIJ +ç· © +æĭĽ çīĮ +产 å¦ĩ +çķª èĮĦ +æĪij éĻ¢ +建çŃij å·¥ç¨ĭ +å±ķè§Ī ä¼ļ +å®¶éķ¿ ä»¬ +åĨľ ä½ľçī© +æĹ¥ å¤ľ +æĶ» æĵĬ +è§Ħ éģ¿ +èĪŁ å±± +便 æ°ij +åħ« åŃĹ +ä¸į æĽ¾ +æĶ¯ éħį +çĨ¬ å¤ľ +人 é¡ŀ +ç´Ģ éĮĦ +ç»ıèIJ¥ æ´»åĬ¨ +大 涨 +å¸Ĥå§Ķ 常å§Ķ +åĪĨ éIJĺ +ä¸Ģ个 èģĮä¸ļ +çĹħ åĽł +è¿Ļ 对äºİ +ä¸įå¾Ĺä¸į 说 +åıijç͵ æľº +æľīæīĢ å¸®åĬ© +缮æłĩ ä»»åĬ¡ +åĽł åľ° +åĽłåľ° åζ +åĽłåľ°åζ å®ľ +å°Ĩ è¾¾åΰ +ç²Ĺ ç³Ļ +稳 åĽº +å« £ +çİ°åľ¨ å¾Īå¤ļ +ä¸ĸçķĮ 级 +å¼ł æŁIJ +çĤ¹ ç¼Ģ +èij µ +社ä¼ļ ç»Ħç»ĩ +å¾Ģ åIJİ +åĬł æģ¯ +åĻª 声 +æľī åħ´è¶£ +为æĤ¨ æıIJä¾Ľ +æ²¹ æ¼Ĩ +ç¬¬åĽĽ å±Ĭ +çļĩ 宫 +ä¹Ĵ ä¹ĵ +ä¹Ĵä¹ĵ çIJĥ +éļ¨ èijĹ +éģ© åIJĪ +åįĹ éĿŀ +æĵ ´ +西 æ´ĭ +åĬł å¯Ĩ +æĪIJåĬ٠䏾åĬŀ +åı£ æ°´ +æĪIJ 年人 +æīĢ æıIJä¾ĽçļĦ +éļĶ å£ģ +åľ¨ 京 +å½ĵåľ° æĹ¶éĹ´ +çŃī åIJĦç§į +é£İ æ°Ķ +å±ĭ éĩĮ +ä¸Ģ åŃĹ +çļĦæĹ¶éĹ´ éĩĮ +åĺ¿ åĺ¿ +å¿« 讯 +ä¸Ń åľº +ä¸Ģ çĵ¶ +æ» ķ +é¢Ĩ è·ij +好 èݱ +好èݱ åĿŀ +没 åħ³ç³» +åĩº å¢ĥ +ä¸įæĺ¯ ä¸Ģ个 +éĥ½æĺ¯ éĿŀ常 +éľĩ åĬ¨ +èİ· èĥľ +åįļ å¼Ī +æĬļ åħ» +对 ç«ĭ +æľįåĬ¡ æľºæŀĦ +è°£ è¨Ģ +社ä¼ļ ç§ijåѦ +åIJ¬è¯´ è¿ĩ +æī ³ +æīĵ 磨 +åı£ æľį +好 åĥıæĺ¯ +以åıĬ åħ¶ä»ĸ +çī¹ è´¨ +亲 è¿ij +ä¸Ģ ç»ı +æ¶ Ŀ +éŃĶ æľ¯ +éģĵè·¯ 交éĢļ +è§Ħ模 æľĢ大 +å®ŀæĸ½ æĦıè§ģ +ä¹ ŀ +ä¸Ģ ä¸ĸ +åŁ· è¡Į +è±Ĩ çĵ£ +åĪĹ ä¸º +æķħ 宫 +çĶŁ åij½åij¨æľŁ +ä¸īç§į èģĮä¸ļ +详ç»Ĩ ä»ĭç»į +å®Į å¤ĩ +岩 çŁ³ +éļı æīĭ +é£ ² +æķĪæŀľ åĽ¾ +ç§ĭ åĨ¬ +åĬŁ å¾· +è§Ħ竳 åĪ¶åº¦ +æĹ¥ æ¸IJ +æīĢ éľĢè¦ģ +æīĢéľĢè¦ģ çļĦ +å²Ľ ä¸Ĭ +åĩº åľŁ +åĽ¾ æĸĩ +ç§ijæĬĢ è¿ĽæŃ¥ +éĢļ èĥĢ +èĢģ 太太 +èĭĹ æľ¨ +éĵ¶ å·Ŀ +å¸IJ 篷 +éĿŀ è¦ģ +éħį ç͵ +å¤Ħ å¢ĥ +èĤ¡æĿĥ æĬķèµĦ +ä¸Ģ缴 åΰ +åĿĩ çͱ +æĬĹ æĹ¥ +æį® ä»ĭç»į +ä½ł åĸľæ¬¢ +åĪĽæĸ° åŀĭ +åıĺ è¿ģ +è§Ĩ å¯Ł +å®Įåħ¨ 没æľī +åħĥ æĹ¦ +åı¯ ä¿¡ +åı¦ è¡Į +æĿij 级 +åħ¥ åľº +æIJŃ æ¡£ +ä¹Ł åĽłæŃ¤ +æį¢ æĪIJ +ä¸į è´Ł +äºĨ 大éĩıçļĦ +éģĶ åΰ +å¸Ĥ åİ¿ +å¹´ è¼ķ +å¿« æīĭ +å¸Į å°Ķ +èĩª èIJ¥ +éĽª èĬ± +æIJ ģ +çľ¼ ç§ij +æŃ£ 確 +çļĦ å§¿æĢģ +åĿļå®ŀ çļĦ +æĮĩ 纹 +æªĶ æ¡Ī +ç½® äºİ +佩 æľį +豪 éŨ +åĵ Ĵ +æģ° 好 +檢 æŁ¥ +åĪĿ è¡· +大 åĶIJ +约 ä¼ļ +èĴ¸ åıij +çѹ åĪĴ +å¹´ ç»Ī +è¡Į æ¥Ń +åħ± éĿĴ +åħ±éĿĴ åĽ¢ +ä¼ļ å¼ķèµ· +ä¸Ń ç§ij +ä¸Ńç§ij éĻ¢ +æĮ¯ åĬ¨ +åį´ åıijçݰ +ä¸įåĬ¨ 产 +èĮ ¹ +æĪ¿éĹ´ éĩĮ +è´§å¸ģ æĶ¿çŃĸ +æ²» çĻĤ +æħİ éĩį +å¡ŀ å°Ķ +åĽ½ ç±į +åĽł æŀľ +çŃī çī¹çĤ¹ +å±± è°· +ä¸ĭ è¼ī +è®ĵ æĪij +饮 éħĴ +è¿Ļ个 游æĪı +ç»Ŀ 大éĥ¨åĪĨ +åĴ¨è¯¢ æľįåĬ¡ +å¹² æ´» +è®® ä¼ļ +æ¦Ĥ è¿° +åĪĨ åĮº +æŃ» åIJİ +ç«Ļ çĿĢ +主è¦ģ é¢Ĩ导 +åIJĮ åŁİ +大 æłij +对 åѦçĶŁ +社ä¼ļ ä¿ĿéĻ© +å¢ŀ èµĦ +主人 åħ¬ +å®£ä¼ł æķĻèĤ² +æĸĩåĮĸ 交æµģ +客 æĪ¶ +çŁ¥åIJį åĵģçīĮ +æ»ŀ åIJİ +äºĴ è¡¥ +æĦŁ äºº +åī ¿ +åIJİ ä»£ +äºī 龸 +æķĻèĤ² åŁ¹è®Ń +éĿĻ èĦī +ä¹ı åĬĽ +说 åĩºæĿ¥ +çİĭèĢħ èį£èĢĢ +åĢ « +åįĩ èµ· +éķ ģ +åĩº 游 +éĢļè¡Į è¯ģ +å·¥ä½ľ å²Ĺä½į +åĮł å¿ĥ +æĭ¿ æĿ¥ +æ´Ĺè¡£ æľº +æĪijä¸į æĥ³ +é¢Ħ è§ģ +æ¼Ķ 示 +ä¸Ģ缴 没æľī +è·Ł 她 +对çħ§ æ£ĢæŁ¥ +ç° ¿ +ä¸ĵ å¿ĥ +è®® äºĭ +åīį 端 +åį¡ å°Ķ +è¨Ń å®ļ +设置 äºĨ +å©ļ 纱 +åľ¨ åĽ½å¤ĸ +åı³ ä¾§ +è³¼ çī© +å¥ĩ èij© +å¢ŀåĬł å̼ +好 è¿IJ +åĽ½éĻħ æľºåľº +ä¸ĭ ç§° +缮åīį 为æŃ¢ +ç¥ŀ ä»Ļ +å®ĥ åı¯ä»¥ +æ¾Ħ æ¸ħ +èĥ½ 使 +游 åĩ» +游åĩ» éĺŁ +åĩ ¹ +ä¸įè¦ģ åĨį +åĨ³ èĥľ +åĨ³ æĪĺ +æĭ ½ +缼 åħ¸ +å¾Ī好 åľ° +æľĢ ç¾İçļĦ +åĥ ļ +å·´ åŁº +å·´åŁº æĸ¯åĿ¦ +æľĢ éĢĤåIJĪ +é«ĺ èģĮ +ä¿Ŀ å§Ĩ +æİĪ æ¬Ĭ +说åΰ è¿ĻéĩĮ +æİ¨ å¼Ģ +çİĩ è¾¾ +ä¸īåĪĨ ä¹ĭä¸Ģ +管çIJĨ ä¸Ńå¿ĥ +交 æ±ĩ +森æŀĹ åħ¬åĽŃ +å¾Ģ ä¸Ĭ +éªij è¡Į +æį® æŃ¤ +纽 带 +ç» ŀ +ä¸ī æĸ¹ +æĦıä¹ī ä¸ĬçļĦ +æİ¨ è¿Ł +å¤ļæł· æĢ§ +æĥ³ èµ·äºĨ +æİĴåIJį 第 +å·¨ é¢Ŀ +æĿŁ ç¼ļ +å®ī å®ļ +äºĭ 實 +çļĦ æĦ¿æľĽ +è£ħå¤ĩ åζéĢł +人 å±ħ +人å±ħ çݯå¢ĥ +å¿ĺè®° äºĨ +该 游æĪı +楼 ä¸Ĭ +å¼Ģ ä¼ļ +æģ ³ +åıĭæĥħ éĵ¾æİ¥ +ç¡ Ĵ +ç»ĻäºĪ äºĨ +åģı 好 +åĵ ī +交éĢļ å®īåħ¨ +éĽ Į +æ²» çĹħ +è§īå¾Ĺ å¾Ī +衬 è¡« +å¿ĥ æĦ¿ +æ´ŀ å¯Ł +æ°ij æ£Ģå¯ŁéĻ¢ +æıIJ çĤ¼ +è¦ģ è¿Ľä¸ĢæŃ¥ +驾 车 +æĻ® æĥł +æķ ĸ +ç¦ı éŁ³ +éĢģ è¾¾ +è§ĦåĪĴ 设计 +æīĭ å¥Ĺ +å®ī ä¿Ŀ +è¿ĺä¸į å¦Ĥ +åīį è¿° +æłĩ è®° +ç´§ æİ¥çĿĢ +æ§ IJ +深深 åľ° +满满 çļĦ +æĺ¥ è¿IJ +æĹ¥ 产 +çα æĬ¤ +åħ¨ æĹ¥ +åħ¨æĹ¥ åζ +转 åĬ¨ +ç¥Ń ç¥Ģ +ä¹° ä¸ľè¥¿ +对 æľªæĿ¥ +æ¶Ī失 äºĨ +åļ´ éĩį +ä¸ī æĿ¡ +éħ¸ 奶 +éĽĨåĽ¢ èĤ¡ä»½ +西 è·¯ +åıª å¾Ĺ +éĢģ åİ» +çĭł æĬĵ +åĪ©ç͍ çİĩ +ä¸ĭ åij¨ +å¥ĭ æĪĺ +æĺ¥èĬĤ æľŁéĹ´ +è´Ł 责任 +æĺĤ è´µ +å°¾ å·´ +ç¯ĩ æĸĩ竳 +åħ ® +è®Ĭ æĪIJ +å¹ ¹ +çĻ» éĮĦ +ä½ Ī +å·¥ åĮł +åĵªæĢķ æĺ¯ +åıį åĵį +ç§ ĥ +åĩº 轨 +æĹ¥ åĨĽ +åIJį èªī +æķı éĶIJ +æľįåĬ¡ æ°´å¹³ +çħ§ å°Ħ +ä¼Ĭ æĭī +ä¼Ĭæĭī åħĭ +åĨħ éĺģ +èĬĴ æŀľ +ä¸ĩ åĪĨ +éĢĢ æ¬¾ +缴æĴŃ éĹ´ +æĭ¿ åΰäºĨ +å°İ èĩ´ +空æ°Ķ ä¸Ń +客æĪ· æľįåĬ¡ +è¿IJ åĬ¿ +ç»ĵ çŁ³ +ä¸į å¿ħè¦ģçļĦ +èĥ¶ åĽĬ +çIJĨ ä¼ļ +æĬ½ åĩº +空æ°Ķ è´¨éĩı +æ¯ķ 竣æĺ¯ +åĨ· æ¼ł +ä¸Ģ å¦Ĥ +ä¸Ģå¦Ĥ æĹ¢ +ä¸Ģå¦ĤæĹ¢ å¾Ģ +æĤ£ çĹħ +åĬł æĮģ +èµŀ åĬ© +é« ® +åij½ ä¸Ń +æĦıä¹ī ä¸Ĭ +ä¸į èĪį +åģļ æ¢¦ +æīĵ æī« +æĺŁ åħī +æĸŃ è£Ĥ +åħ¨ å¥Ĺ +è£ģ å®ļ +马 åħĭæĢĿ +骨 骼 +ä¸Ģ è·¯ä¸Ĭ +å®ļ æĹ¶ +å·¥ç¨ĭ æĬĢæľ¯ +å½¼ å¾Ĺ +æ±² åıĸ +ä¸Ģ è§Ī +åIJµ æŀ¶ +ä¿Ĺ ç§° +æłª æ´² +åºŁ æĹ§ +è¡Į æĺŁ +åıijçĶŁ åıĺåĮĸ +é¦ĸ ä»ĺ +åįģåĪĨ éĩįè¦ģ +æĬĬ è¿ĻäºĽ +ç¥ŀ å·ŀ +æıIJä¾Ľ åķĨ +æ¥ · +å± İ +çĬ¶ åħĥ +åŁİ å¢Ļ +çľĭ ä¸Ģçľĭ +çĶŁäº§ èĥ½åĬĽ +åŁºæľ¬ä¸Ĭ éĥ½ +æīĵ æī° +åĪĿ 次 +åĩº 示 +åħ¶ä¸Ń ä¸Ģ个 +çĶŁæĢģ ç³»ç»Ł +æīĭ æİĮ +æµİåįĹ å¸Ĥ +åľĭ åħ§ +æŃ£ å̼ +å¹¾ ä¹İ +æİ¨èįIJ éĺħ读 +è¿Ń 代 +è°ĥ ä¾ĥ +饮 åĵģ +å¢Ļ ä½ĵ +åıĺ çݰ +äºĨ 好 +äºĨ好 åĩł +ä¸į çķĻ +çĪ ² +å°½ æĹ© +æŃ£åľ¨ è¿Ľè¡Į +åĩº éĻ¢ +æĿĢ å®³ +æıIJ 款 +åıijå±ķ 空éĹ´ +åīį 身 +ä¸įæĸŃ å¢ŀ强 +æ·± å±Ĥ次 +容 纳 +éĤ£ 份 +å·¥ä½ľ æķĪçİĩ +æľ¬ åĽ½ +失 èIJ½ +æŃ£ åĽłä¸º +èĬĤ æ°´ +ä¸ĭ ä¸Ģ代 +çłĶåıij ä¸Ńå¿ĥ +ä¸į çIJĨ +å®Į 好 +ä¿ĿæĬ¤ åĮº +ç»ĵæŀĦ è°ĥæķ´ +å¥ł å®ļ +宣 ç§° +éĺ» æĮ¡ +æĴ¤ 离 +ä¸į æĸ¹ä¾¿ +åĴ ķ +ç¬ijäºĨ ç¬ij +çݯå¢ĥ 污æŁĵ +ä½ı æĪ· +ç»Ŀ ç¼ĺ +éϤ å°ĺ +é«ĺ å°ļ +æĢİä¹Ī åı¯èĥ½ +éĿ¢ èī² +åķĨ æ¥Ń +çĸ ¹ +èµĦæºIJ ä¼ĺåĬ¿ +è¾ĸåĮº åĨħ +èĢĢ çľ¼ +æij§ æ¯ģ +ä¸ĸçķĮ ç»ıæµİ +å¼ķ æĿ¥ +ä¸Ģ åĪĻ +æĭĩ æĮĩ +æĬµ 御 +éĽ į +åĩĨå¤ĩ å·¥ä½ľ +çıł ä¸īè§Ĵ +ç¨Ģ åľŁ +èİ·å¾Ĺ æĦŁ +æĪIJåĬŁ çİĩ +ç½ij 约 +ç½ij约 车 +èĦ IJ +æķ¬ ä¸ļ +éĩij ä»· +ç²¾ é«ĵ +ä¹° 车 +åħ³ åı£ +åĨį å¤ļ +æŀģ åĵģ +åIJĦ å®¶ +举æĬ¥ ç͵è¯Ŀ +èļ Ĭ +æĸ¹ å½¢ +ç§ijæĬĢ æĪIJæŀľ +æľĢ好 æĺ¯ +éĹ® åĢĻ +红 éħĴ +åĽĽ ç§į +ç¿Ĵ æħ +ç¿Ĵæħ £ +åŀ ¦ +éĤ£ åıª +é¢Ĩ æĤŁ +çľ¼ éĥ¨ +æ³° å®ī +ä»» æľŁ +磨 æįŁ +æĽ¿ æį¢ +åħ¸ 礼 +符åIJĪ æĿ¡ä»¶ +è¿ĺæľī ä»Ģä¹Ī +åħ±äº« åįķ车 +åı¯ åĪĨ为 +åŃ£ åIJİ +åŃ£åIJİ èµĽ +举èİŀ å¸Ĥ +å¿ĥ æĦı +æīŃ æĽ² +ä½ľä¸º ä¸Ģç§į +è¿Ļ éĥ¨åĪĨ +åıĤä¸İ åΰ +ç½ij çIJĥ +實 çı¾ +ç»Ħ è£ħ +åIJij å¤ĸ +å·¥ä½ľ æĸ¹æ¡Ī +åįģ æĿ¡ +課 ç¨ĭ +颤 æĬĸ +åĵ © +éĤ® å¯Ħ +äº ¢ +åħį è²» +ç§ ¤ +åºĶæĢ¥ 管çIJĨ +åĽĽ äºĶ +éºĴ éºŁ +å¾Ĵ æŃ¥ +è¨ĺ å¾Ĺ +çĴ IJ +æĺ¯åIJ¦ ä¼ļ +æĦıè§ģ åıįé¦Ī +éļ¾ æĢª +çª į +交 æİ¥ +两 åįĥ +æĩī ç͍ +æľŁ éĸĵ +æIJ¬ åΰ +è®® é¢ĺ +碧 æ¡Ĥ +碧æ¡Ĥ åĽŃ +åģļ çĶŁæĦı +éĻĽ ä¸ĭ +è· ĭ +èĢģ人 å®¶ +带 åĽŀ +æŀ¸ æĿŀ +è¡Į éķ¿ +åĨħ容 ç®Ģä»ĭ +æ¢ ¢ +æĮĩ æİ§ +éĩį çĹĩ +ç½ijåıĭ 们 +çı¾ 代 +ç±» 产åĵģ +å¥Ķ æ³¢ +æ¸ º +ç²ī ç¢İ +è¿Ļ åıªæĺ¯ +æ£Ģå¯Ł æľºåħ³ +é½ Ĭ +æĪ¿ ç§Ł +å¾· æĭī +å²ģ 以ä¸Ĭ +纯 åĩĢ +åĪĨå¸ĥ åľ¨ +èĥ½ å¾Ĺåΰ +ä¸į å°½ +ç«ŀ ä»· +çļĦ 带é¢Ĩ +çļĦ带é¢Ĩ ä¸ĭ +ä¸ŃèᝠæĿIJ +æĿij éķĩ +ä¸įåı¯ éģ¿åħį +éľ² 天 +å°ı å§ijå¨ĺ +çī© ä»¶ +èijĹä½ľ æĿĥ +æĭĺ çķĻ +éĥ½ è§īå¾Ĺ +æĽ² æĬĺ +æ·»åĬł åīĤ +åı¬ åĽŀ +æīİå®ŀ æİ¨è¿Ľ +æĬĦ è¢Ń +åĮĸ 身 +缴 èIJ¥ +ä¹Ł å¸ĮæľĽ +èį£èªī ç§°åı· +åįĸ ç»Ļ +æľī ä¸įåIJĮçļĦ +å¥ĩ çī¹ +éĥ½ 认为 +å¦ ŀ +æĪIJéķ¿ ä¸º +辩 æĬ¤ +主 æķĻç»ĥ +æ³ķå¸Ī èģĮä¸ļ +æ¤į åħ¥ +ç´¢ å°¼ +åIJ¬ è¿ĩ +ä¹łæĥ¯ äºĨ +夺 åıĸ +éŁ ĵ +æľ¬è´¨ ä¸Ĭ +æİ¥ åĬĽ +äºij 端 +è¦ģ åģļ好 +è·¯ çģ¯ +åįıåIJĮ åıijå±ķ +æľī å¾ħ +æ°´ åŁŁ +æIJľçĭIJ é¦ĸ页 +è´¨éĩı å®īåħ¨ +åįģäºĮ äºĶ +åĵ® åĸĺ +èĵ¬åĭĥ åıijå±ķ +åIJį 声 +身 亡 +çİĭ åºľ +åİŁåĪĻ ä¸Ĭ +çĥĺ å¹² +éģĹ æ¼ı +éĿ¢ 缮 +åĽ½ ä¼ļ +ä¸Ģ缴 éĥ½æĺ¯ +æľīä¸Ģ ä½į +éħį æľī +éĻª çĿĢ +ä¼ģ åĽ¾ +æĮī ä¸ĭ +èĵĿ åĽ¾ +æ© ĺ +大å¤ļ æĺ¯ +辩 论 +æĹĭ å¾ĭ +æĬ¥ éĢģ +æĿ¡ è§Ħå®ļ +åĬ¨ éĿĻ +åĮΠ奴 +æĭľ 访 +ä¸Ģ åĪĢ +ä»ĸ çŁ¥éģĵ +主 æĿĥ +ä»ĸ æĽ¾ +æĴŃ ç§į +å£ģ åŀĴ +çī¢è®° 使åij½ +åľ¨è¿Ļ æĸ¹éĿ¢ +æīĭ èħķ +æĶ¯ æŀ¶ +ä¾Ĩ èĩª +éĩį å¡ij +å¤ļ å±Ĥ次 +ä»ĭ è´¨ +éĿ¢ åŃĶ +æ½® 湿 +åİ¿ åŁŁ +游æĪı å½ĵä¸Ń +å£ ŀ +åĪĹ åĩº +èµĽ åĮº +å¤ļ åįĬ +éĩįçĤ¹ å·¥ä½ľ +æĪij们 å¿ħé¡» +æŁı æŀĹ +é²ģ èĥ½ +æĸ½ å±ķ +åIJĦ åĮº +åħį ç¨İ +èµĽ åIJİ +æľĢ éĩįè¦ģ +ä¸Ģ个 好çļĦ +è¿Ŀæ³ķ è¿Ŀè§Ħ +äºĨè§£ æĽ´å¤ļ +æķ¬ 请 +ç¬ijçĿĢ è¯´ +ä¸įæĸŃ åıijå±ķ +æijĦå½± å¸Ī +以 éĺ² +çĤ¸ å¼¹ +声 åĵį +ç¤ ģ +æĩ ¿ +èĪĨ æĥħ +èĩªçͱ è´¸æĺĵ +æķı æį· +ä¸ī大 éĺ¶æ®µ +èĭ Ķ +æĹº åŃ£ +ä¸į 满æĦı +微信 åı· +ä¿® 为 +çł´ è£Ĥ +éĢĥ 离 +æ¯ı èĤ¡ +è¾¾ ä¸įåΰ +æ¯ıå¹´ éĥ½ +çģ¯ ç¬¼ +æŃ¤ åŁºç¡Ģä¸Ĭ +åĥı 个 +åĪĨ 娩 +æĻ ¾ +ä¸į èĩ³äºİ +红 线 +误 è§£ +举 è·¯ +æ·® å®ī +产 åѦ +产åѦ çłĶ +èī¾ æ»ĭ +è»ĭ çĹħ +åīįæıIJ æĺ¯ +æ¯ı ä¸Ģ天 +ä¸ĥ 大 +æłij åı¶ +èµ° å¾Ĺ +è¿Ļ 两ç§į +æİı åĩº +æİ IJ +é¢Ĩ导 èĢħ +ä¸Ģ æľµ +个å¤ļ æľĪ +ä¸Ń åħ³ +ä¸Ńåħ³ æĿij +课åłĤ æķĻåѦ +大 åĴĸ +éģĭ ç͍ +è¯ļ æĦı +ç»Ħ åĽ¾ +è¯ķ çĿĢ +ä¹Ķ æ²» +è¿ĺ ä¸įæĺ¯ +æľī æĽ´å¥½çļĦ +åIJİ å¤ĩ +æĸ°çĶŁ åĦ¿ +æ°Ķ è¡Ģ +æ²¥ éĿĴ +å±ı éļľ +æ¥Ń åĭĻ +æĪij 以为 +éķ¿ çĽ¸ +èĢģ çΏ +éķĩ æ±Ł +æľºæ¢° 设å¤ĩ +ä½Ĩæĺ¯ å¦Ĥæŀľ +åĿļå®ļ ä¸į +åĿļå®ļä¸į ç§» +åĨ² éĶĭ +ç®Ģ缴 æĺ¯ +åĤ¨ èĵĦ +纯 ç͵åĬ¨ +漫 æŃ¥ +举 èµ· +æģ¶ æĢ§ +è¨ĺ éĮĦ +èģĮèĥ½ éĥ¨éŨ +åħ¨ éķ¿ +鼻 è¦ĸ +ä¹³ èħº +ä½ķ å¤Ħ +æ¶Ī æŀģ +æŃ£ å¤Ħäºİ +å®ī å®ģ +æĪIJ éķ· +åıĻ è¿° +æºĥ çĸ¡ +ä½Ĩ çİ°åľ¨ +女 æĺŁ +å©´ å¹¼åĦ¿ +æĬķ èŀįèµĦ +éĹ® éĹ® +æıŃ å¼Ģ +è¯ ı +åIJį å½ķ +èĺij èıĩ +åIJĬ é¡¶ +æ¹ĸ åĮº +åįĸ åľº +建 ç¯ +å»ºç¯ ī +èİ ½ +åIJ¬ åIJ¬ +ç«ŀäºī ä¼ĺåĬ¿ +åĩº ä»» +æľī 两ç§į +橱 æŁľ +è¤ ª +è¯ķ åį· +ç»ıæµİ æĬĢæľ¯ +æ·± å±Ĥ +éĩįè¦ģ åĨħ容 +é£İ æİ§ +çĬ¶æĢģ ä¸ĭ +éĥ¨ éĸĢ +广 æ±½ +è§Ĥ æij© +éģĹ çķĻ +转 è´¦ +æĮģ ä»ĵ +æĢ» 计 +åľĺ éļĬ +æĪ¿ 举 +éĺĢ éŨ +åħ¬ åħ³ +åħ³ åĪĩ +èĤ ĺ +æķ¸ æĵļ +ä¸ī åįģå¹´ +è§ģè¯ģ äºĨ +å± Ĩ +çģ° å°ĺ +æ¦ľ é¦ĸ +è¦ĨçĽĸ çİĩ +ä»Ļ 女 +çĶŁäº§ æĢ» +çĶŁäº§æĢ» å̼ +æĪ¿ è´· +æ±Ł åĮº +åħħç͵ æ¡© +çϾ åIJĪ +確 èªį +转 ç§»åΰ +éĥ½ æĹłæ³ķ +纪念 é¦Ĩ +çŃ¾ç½² äºĨ +å¹¶ä¸į å¤ļ +æĮ ł +ä¸į太 好 +ä¸ĸ 代 +误 导 +é«ĺå³° 论åĿĽ +åħ¼ 容 +龸 æ°Ķ +æĿ¥ 访 +æīĢ å¸¦æĿ¥çļĦ +æĺ¯ä¸Ģ éĥ¨ +æĻļ é¥Ń +åİĨ 代 +åIJ¦ åīĩ +ä¹ħ ä¹ħ +æľīæķĪ æľŁ +诱 åıij +æĢ» èµĦ产 +æľ¬èº« å°±æĺ¯ +çĶŁäº§ åİĤå®¶ +æĹ¶ 髦 +èĢIJ ç͍ +ä»İå°ı å°± +æĿ¡ 约 +èĭ± åĭĩ +ä¿Ĺ è¯Ŀ说 +寺 åºĻ +å¿ĥçIJĨ åģ¥åº· +ä»Ģä¹Ī äºĭæĥħ +æ±ī åŃĹ +çķĻ ä½ı +åįĹ è·¯ +ä¸ī 项 +丢 äºĨ +æĥ³ åΰäºĨ +çѹ éĽĨ +éĻĦåĬł å̼ +西 è£ħ +ä¹ĭ ä½ľ +åģļçļĦ äºĭ +çķ¶ æĤ¨ +çķ¶æĤ¨ åľ¨ +é¦ĸ 款 +ä¸įåľ¨ ä¹İ +å·¥ç¨ĭ æĸ½å·¥ +éļIJ éļIJ +åıĺ 身 +沿 éĢĶ +æĤł æĤł +ä¿Ŀ æļĸ +çĶŁæ´» åŀĥåľ¾ +渤 æµ· +æŃ¦ ä¾ł +女 主è§Ĵ +举 ä¾ĭ +æ ·¨ +çϽ é¢Ĩ +è£Ļ åŃIJ +è¿Ķ è¿ĺ +è¿Ī åĩº +é¾Ļ éŨ +ç»ıæµİ ä½ĵ +æĶ¶ å®ĺ +çķĮ éĻIJ +è·³ åĩº +åįĩ å̼ +绵 éĺ³ +çĸ¤ çĹķ +çľĭ æ¸ħ +æĭĴ çµķ +è¥Ħ éĺ³ +课 å¤ĸ +åŃIJ åŃĻ +æŃĮ è¯į +æĪIJ åIJį +溶 æ¶² +åĦĴ å®¶ +åķĨä¸ļ åĮĸ +辨 åĪ« +å¤ļ è¾¾ +ç½ij åºĹ +ä¹Ŀ 大 +ä¹Ŀ大 ç²¾ç¥ŀ +æŃ¤ 举 +è¿ŀ è½½ +ä¸Ģ åĢĭ人 +èī² æ³½ +æ¶µçĽĸ äºĨ +è¦ı åĬĥ +åĽ½ æĥħ +åį«çĶŁ åģ¥åº· +积æŀģ åĵįåºĶ +æĭ Ļ +åζ åĬ¨ +æĥ³è±¡ åĬĽ +çļĦ ä¹IJè¶£ +å¼łå®¶ çķĮ +å´ İ +éĩį åŀĭ +å¤ĸ å¢Ļ +æĶ¾ åѦ +è®¤çľŁ åŃ¦ä¹ł +è´¬ å̼ +æ³ķ æ¡Ī +æĬ¤èĤ¤ åĵģ +éĻ·åħ¥ äºĨ +请 æĤ¨ +åŀ ¢ +æķĻèĤ² èµĦæºIJ +交æĺĵ å¹³åı° +æĹ¶ è£ħ +ä¼łæŁĵ çĹħ +æ¹ĸ æ³Ĭ +èµĦ 管 +åݨ å¸Ī +éĹľ éį +éĹľéį µ +åĵĪåĵĪ åĵĪ +çĽĹ çªĥ +çĶľ ç¾İ +åºĦ åĽŃ +缮åīį å·²ç»ı +è¾¹ ä¸Ĭ +çģ« èĬ± +æĬ¥ è®°èĢħ +æģĭ æĥħ +ç´§ åĩij +æ°´ æµģ +è¿Ļæĺ¯ æĪij们 +æ³¥ åľŁ +æĽ¾ ä»» +æĸ¹ è¨Ģ +åij¨ åħŃ +åı· 楼 +ä¼ij åģĩ +误 ä¼ļ +åĽ½ åĢº +åīį å¤ķ +两 å¼ł +éĹ « +éŃĶ é¬¼ +æĬĬ æĮģ +èĬĤèĥ½ çݯä¿Ŀ +æ¸ħæ´ģ èĥ½æºIJ +èĤ¥ æĸĻ +é«ĺ é¢ij +å°± æľīäºĨ +交 ä¼ļ +没 éĴ± +éĽħ æĢĿ +è¦ģ åıĬæĹ¶ +åŁ¹åħ» åѦçĶŁ +欣 åĸľ +çĥŃæ°´ åύ +é¾Ļ æ¹ĸ +äºĮ 楼 +æĸ°æµª è´¢ç»ı +æĸ° åĬ¨èĥ½ +èµ£ å·ŀ +æĭ³ 头 +æµģ åIJij +ä¹Łæĺ¯ å¾Ī +åıij åĶ® +ä¸Ń åIJ«æľī +åIJĵ å¾Ĺ +å·¨ æĺŁ +æĹł æīĢè°ĵ +æ¯Ľ åŃĶ +åħ¬åħ± 交éĢļ +çĤİ çĥŃ +èµ· èįī +åĬłçĽŁ åķĨ +说 ä¸įåĩº +大åѦ æ¯ķä¸ļ +å·¥ä¸ļ åĽŃ +éłĺ åŁŁ +åºĨ åħ¸ +æµģ 产 +èģ² éŁ³ +ä¼¼ä¹İ æĺ¯ +è´§ æºIJ +æ·± åĪĩ +æ²»çĸĹ æĸ¹æ³ķ +èµĦæºIJ éħįç½® +ç¶² åıĭ +çĶ £ +äº ¥ +躲 åľ¨ +社 ç§ij +è»Ł é«Ķ +女 è£ħ +æŃ¡ è¿İ +综åIJĪ å®ŀåĬĽ +æł¼ å°ĩ +åħļåı² åŃ¦ä¹ł +æľĢ åŁºæľ¬ +æľĢåŁºæľ¬ çļĦ +çľĭ æľĽ +åıĹ è´¿ +ä¸įä»ħ èĥ½ +ä½ķ å¿ħ +ä¸Ģ个 å°ıæĹ¶ +ç¾ Į +æĭĽ æĶ¶ +çĤĴ èĤ¡ +æĿij å¹²éĥ¨ +缸 çα +æ½ľ èĥ½ +ä¹ į +æĹ¶ è¾° +欣 æħ° +éĵ¶ è¡Įä¸ļ +çĭŃ çªĦ +éĩįçĤ¹ é¢ĨåŁŁ +çݰå®ŀ çĶŁæ´» +éĮ¯ 誤 +æĸ° è§Ħ +滥 ç͍ +æĹ¶ ä¸į +æĹ¶ä¸į æĹ¶ +帳 èĻŁ +ç¨Ģ 缺 +åIJij 举 +ä¿Ŀåģ¥ åĵģ +çıŃ éķ¿ +äºĴ åĭķ +笼 罩 +æ½ Ľ +æļĸ å¿ĥ +è½° çĤ¸ +åºĨ 幸 +è²Į ä¼¼ +æĵ º +èĢIJ 磨 +ä¸ĵä¸ļ 人士 +ä¸Ģèά éĥ½æĺ¯ +æ¼³ å·ŀ +åħ¨ èĩªåĬ¨ +å½ķ ç͍ +大 è·Į +æľīæķĪ æĢ§ +èĩª åĭķ +ä¸ī个 æĸ¹éĿ¢ +港 åĮº +ä¿¡ 貸 +éĢļ è¯Ŀ +é«ĺ 涨 +æ³Ħ æ¼ı +éħį ä¸Ĭ +åħļ å·¥å§Ķ +被 认为 +被认为 æĺ¯ +ä¸įä¼ļ åĨį +è°ĥ åīĤ +åıĤ èĤ¡ +èĦ± åıij +å¿ł å®ŀ +åĨħ åĪĨæ³Į +ç¹ģ å¿Ļ +åıĮ åĪĽ +é©» æĿij +åĪĴ ç®Ĺ +éģİ ä¾Ĩ +åľ£ ç»ı +èıľ 鸣 +æĭ¼ å¤ļå¤ļ +ä¸ŃåĽ½ 汽车 +çĥŁ èįī +缴 æµģ +äºĨä¸Ģ åı£æ°Ķ +ä½İ æĪIJæľ¬ +æī¾ åĽŀ +èĩª åįij +總 æĺ¯ +æĸĩåĮĸ åĪĽæĦı +天 æ²³ +樱 æ¡ĥ +éªij åħµ +éĩĮéĿ¢ æľī +çİ ® +èĥ½ æī¾åΰ +éĢĥ è·ij +åĪĩ å°Ķ +åĪĩå°Ķ 西 +以ä¸ĭ æĺ¯ +å²³ éĺ³ +çļĦ æ¦Ĥçİĩ +æĬµ åζ +å¸Ī äºĭåĬ¡ +å¸ĪäºĭåĬ¡ æīĢ +åĩĨ æĹ¶ +屬 æĸ¼ +订 è´Ń +åįłæį® äºĨ +ä¸Ń éĢĶ +å° ĭ +é»ij 马 +åİ¿ åħ¬å®īå±Ģ +ä¸ĥ æľĪ +èī² ç´ł +å¿ĥèĦı çĹħ +æĹ¶ éĻIJ +æ¯į åħ¬åı¸ +å¹ķ åIJİ +ä¸Ĭ æ¦ľ +å̾åIJij äºİ +纸 ä¸Ĭ +æ¡ ĵ +éĽĨä½ĵ ç»ıæµİ +æĥħ å¢ĥ +è¦ģ åģļåΰ +ç©į 極 +åıª æĢķ +æ¹ĺ 西 +çļ± çº¹ +åħ¨ åľĭ +çĦ¡ è«ĸ +好 æĦŁ +åįķ ä»· +è¿Ľç¨ĭ ä¸Ń +æĺĨ ä»ij +åĪĽ 客 +åħħ æĸ¥ +åħĪ æĬĬ +该 æĢİä¹ĪåĬŀ +åĵģ å¾· +åħ¨éĿ¢ åıijå±ķ +è¨Ī åĬĥ +æĢ» å·¥ä¼ļ +ä½Ľå±± å¸Ĥ +æĬĹ è¡¡ +å¼Ģ åľº +éĴ± å¸ģ +åıĭ 们 +å«ī å¦Ĵ +ç´¢ èµĶ +è®Ĭ åĮĸ +æĮ¤ åİĭ +æĮij è¡ħ +çŃī ä¸Ģæī¹ +æĿ¨ 欢 +ä¸ĵå®¶ åѦèĢħ +èĥ½ è¾¾åΰ +èµ° è¿ij +è´«åĽ° åľ°åĮº +éĻIJ æľŁ +ä¸į 平衡 +åĽ½åĨħ å¸Ĥåľº +èµĽ åľº +éħį èµĦ +è¦ģ èĢĥèĻij +ä¸ĩ åı° +æľĪ æľ« +éĶ ¥ +åŃ « +æİ¥è§¦ åΰ +åĩº 产 +æķĻ åѸ +ä½ľ å¼Ĭ +çļĦ æľĢåIJİä¸Ģ +ä¿ĥ æĪIJ +åIJ¸ åıĸ +æ½ľ èīĩ +被 éªĹ +è¾ĵ äºĨ +çĭIJ çĭ¸ +åįĩ éĻį +è¿ĻäºĽ ä¸ľè¥¿ +æĬķèµĦ åŁºéĩij +çĶŁçī© åѦ +ç½ij绾 èIJ¥éĶĢ +åIJij è®°èĢħ +èįī åľ° +æĢ ¯ +æľįåĬ¡ èĥ½åĬĽ +éĥģ éĹ· +åįķ åĵģ +å¾Ĺ 罪 +æĺĵ äºİ +个å¤ļ å°ıæĹ¶ +éĩį ä»» +ä¸Ĭ å®ĺ +æľ¬ éĩij +çı¾ åł´ +溢 ä»· +æĺŁ è¾° +æ´»åĬ¨ çİ°åľº +丹 麦 +å¸Ŀ çİĭ +æŁ¥ æĺİ +åŃĺåľ¨ äºİ +é¦Ļ æ°´ +æĬ½ æ£Ģ +å®ŀéĻħä¸Ĭ æĺ¯ +æĸ° å¾ģç¨ĭ +è´¢åĬ¡ 管çIJĨ +æİ Ľ +åĨľ åİĨ +éĥ½ èĥ½å¤Ł +éĤ¯ éĥ¸ +羣 實 +ç» Ĭ +åĨµ ä¸Ķ +ç½® 身 +ç¥Ī 祷 +çĿģ å¼Ģ +æĮĩ çĤ¹ +å¼Ģ æľº +西 å®ģ +åĮĹ çº¦ +积 æ°´ +åĩº åĬ¨ +åıijå±ķ 模å¼ı +转 æĬĺ +èĢĥ çĤ¹ +æľī ç½ijåıĭ +è´«åĽ° æĿij +æĪij们 çŁ¥éģĵ +åĪĨ éĶĢ +å±± èĦī +æ¯Ķ æĭŁ +ä¼° ç®Ĺ +æĶ¹ 建 +壮 è§Ĥ +ç§ī æĮģ +æı ª +ç¦ Ģ +åĮĸåѦ åĵģ +ä¸ŃåĽ½ åζéĢł +ä¸Ģ æŀ¶ +æīį è¡Į +æĭĽ å¾ħ +åıĺ æį¢ +åīį 线 +幸 好 +è¿Ļæł· çļĦè¯Ŀ +å¿ĥ è¡Ģ管 +æĢ§ çĸ¾çĹħ +åħ¨ èĥ½ +åĪij 侦 +ä¿¡æģ¯ åıijå¸ĥ +æĺ¾ çĦ¶æĺ¯ +éĿĴ éĵľ +åIJĥ ä»Ģä¹Ī +ç͵ ä»· +æ³ķå¾ĭ è§Ħå®ļ +çħ ² +çĵ· åύ +èĤī ç±» +æıĴ åħ¥ +åĹ ľ +è¿Ł è¿Ł +ä¸ĢçĤ¹ éĥ½ä¸į +è¿ĺ åĮħæĭ¬ +èĪį ä¸įå¾Ĺ +æłĩå¿Ĺ æĢ§ +æľĪ 以æĿ¥ +ç³ĸ æŀľ +éĥ½ åºĶ该 +çݯå¢ĥ åį«çĶŁ +èĪª è¡Į +éĥij éĩį +ç½ij æĬķ +åįģ ä½³ +ç§ģ ä¸ĭ +æļ´ è·Į +åĬłå¿« åıijå±ķ +产åĵģ çłĶåıij +åĪĽéĢł åĩº +æĢ» è§īå¾Ĺ +åºķ çĽĺ +èķ Ĭ +åĩºå¸Ń ä¼ļè®® +主 æĿ¿ +æĹ¥æĻļ éĹ´ +å®ĺæĸ¹ å¾®åįļ +å¼ķç͍ æĹ¥æľŁ +åī¯ æķĻæİĪ +ç͵åŃIJ 产åĵģ +è¡° éĢĢ +çķĻ åŃĺ +çģ« åĬĽ +çĴ § +çļ Ĥ +åħ¼ åħ· +éĩį è¿Ķ +é¢Ĩ çķ¥ +åĪĩ éϤ +åĨįçĶŁ èĥ½æºIJ +å®ŀåľ¨ 太 +çIJĨ论 ä¸Ĭ +ä¸ī å±Ĥ +ä¸ĸçķĮ åIJĦåĽ½ +å®ľ æĺĮ +è̳ è¾¹ +宽 æķŀ +æ±ī æĹı +çϽ çϽ +è¿ĻéĩĮ éĿ¢ +çĶŁæ´» ä¹łæĥ¯ +èµŀ èµı +çĶ· 士 +ä¸Ń ä¿Ħ +车 祸 +åīĤ éĩı +éϤ åİ» +å·¦ è¾¹ +çŃij çī¢ +çīĽ å¸Ĥ +å®¶ åĬ¡ +åķ ĥ +ç½® æį¢ +ç´« å¤ĸ +ç´«å¤ĸ 线 +å¾Ģ åīį +åĬĽ åѦ +ç´§ è·Ł +缮çļĦ åľ¨äºİ +ç» ® +ç¥ Ĥ +宣 è¨Ģ +äºĮ æ°§åĮĸ +äºĮæ°§åĮĸ 碳 +æĹł ç¼ĺ +ç²¾ éĢļ +è¨ º +å¼ķåıij äºĨ +æľĢ åħĪ +æ´¾ é©» +ä¸į å¿į +æĪij çΏ +å¹´ ä¸ĭåįĬå¹´ +æ·ĭ å·´ +没 éĹ®é¢ĺ +åºĹ åĨħ +è·Ł æĪij说 +çĶŁäº§ çĶŁæ´» +è§Ĥ æľĽ +æ¸ į +被 æī§è¡Į +被æī§è¡Į 人 +èĪ ľ +æİ º +ä¸Ģ ç§Ĵ +èįī åĿª +åij¼ åĴĮ +åij¼åĴĮ 浩 +åij¼åĴĮ浩 çī¹ +人æ°ij éĵ¶è¡Į +çĦķ åıij +è¯ģåΏ 交æĺĵ +çķ Ķ +æľº èĥ½ +å¦ ¾ +æĻļ å¹´ +å·¥åķĨ èģĶ +åİŁ åŀĭ +è§Ĵ度 çľĭ +æĬ¥ 社 +è¯į æĿ¡ +躲 éģ¿ +éĩį åIJ¯ +å¤ķ éĺ³ +èĤ¡æĿĥ 转让 +åľ¨ ä¸Ģ +åľ¨ä¸Ģ æĹģ +社ä¼ļ åĮĸ +åıijå±ķ åİĨç¨ĭ +æĭĸ æ¬ł +使 èĢħ +ä¸İ åIJ¦ +æĸ° å±ĢéĿ¢ +ä»Ĭ天 æĪij们 +é½IJ èģļ +对 æĪij说 +éĢĴ 交 +æľª æĽ¾ +èİ Ĭ +éĸ ī +亲 æīĭ +è§Ĵ éĢIJ +æľī é»ŀ +ç¨İ çİĩ +ä½İ 声 +é»ĺ å¥ij +æĻ® æ³ķ +大 ä¸ĵ +第äºĮ 大 +ä½ı åĿĢ +æĶ¾ è¿Ľ +äºĮ æĪĺ +亲 身 +åĽº åĮĸ +ä¸ĭ 乡 +åħ³éĶ® æĬĢæľ¯ +åĽŀ æĥ³ +æĬ¥ åĪĬ +æ¶Ĥ æĬ¹ +èĹı çĿĢ +ç¥Ŀ æĦ¿ +åįĩ 温 +çĶļèĩ³ è¿ŀ +åħ¬åħĥ åīį +ç¾İ æĸ¹ +è¯ļ å®ŀ +æĹł åģ¿ +åīµ æ¥Ń +å°ıå¿ĥ 翼 +å°ıå¿ĥ翼 翼 +两 æīĭ +温馨 æıIJ示 +仿 羣 +æĥ ¶ +èĥ¡ åŃIJ +å·¥ä½ľ ç«Ļ +硬 çĽĺ +ç« ¿ +åĤ³ éĢģ +åħ¨ æł¡ +é²ľ æ´» +çĴĢ çĴ¨ +ç»ĵ å°¾ +æį¢ æĿ¥ +æĪ Ģ +ä½İ ä½į +ä¸ĩåħĥ 以ä¸Ĭ +åĬł åĪĨ +æİ¨ä»ĭ ä¼ļ +çIJĨ èµĶ +å¾· å°Ķ +æĬĹ è®® +æ´ ¼ +åĸ § +åŁİ éĻħ +å¾Ī æ£Ĵ +人 æŃ»äº¡ +ä¼ļå±ķ ä¸Ńå¿ĥ +äºĴèģĶ äºĴéĢļ +èĸĦ èĨľ +éĩį é»ŀ +ç¦ģ æ¯Ĵ +åĨ· ç¬ij +大家 åı¯ä»¥ +é¦ĸ 缸 +è¿ij è·Ŀ离 +æµ® çݰ +ç§ĺ è¯Ģ +èµ· é£ŀ +æIJ ¶ +羣 åģĩ +æģ ķ +å°ı åºĹ +æ°ij çľ¾ +åıijå¸ĥ åħ¬åijĬ +ä¾§ éĩį +å¾ĺ å¾Ĭ +æĢ Ķ +æª IJ +æķ° 缮 +åī¯ ç§ĺ书éķ¿ +两 åı¥ +éļIJ çŀĴ +åıĮ åıĮ +æīĭ æĦŁ +èij¡ 京 +éģĹ å¿ĺ +é¬ ¥ +è¿Ļ个 åľ°æĸ¹ +说 çļĦè¯Ŀ +å·¡ åĽŀ +è¿Ŀ 竳 +æī¾ å·¥ä½ľ +æĶ¯ çIJĥéĺŁ +裡 éĿ¢ +æĺ¾ç¤º åĩº +èĩ³ å°Ĭ +两 级 +åīį æ®µæĹ¶éĹ´ +çĺ¦ èº« +èĤ¢ ä½ĵ +æ¯į 親 +æīĭç»Ń è´¹ +汽车 è¡Įä¸ļ +æİ© çĽĸ +æİ§èĤ¡ éĽĨåĽ¢ +åı£ å¾Ħ +æĶ¿çŃĸ æİªæĸ½ +æµ· 绵 +åħ¨ éķĩ +äºĭ åħ³ +å¸Ń æī§è¡Į +å¸Ńæī§è¡Į å®ĺ +éĤ£ 次 +åı¯èĥ½ åĩºçݰ +ä¸Ńå¿ĥ åŁİå¸Ĥ +ç¿» 身 +ä¹Ł ç®Ĺ +ä¾µ çķ¥ +åĸĩ åıŃ +æ¯ı次 éĥ½ +è§ ħ +éĻ¢ éĻ¢éķ¿ +å§ĭ äºİ +èѦ åĬ¡ +èᝠæĿIJ +å±ł æĿĢ +æľ¬èº« å°± +éļıæĹ¶ éļı +éļıæĹ¶éļı åľ° +åĶ® åįĸ +æĹłäºº 驾驶 +é¢ ħ +åĵģ 質 +åĺ² ç¬ij +è·ij åİ» +åħĭ éĩĮæĸ¯ +çķ¸ å½¢ +ä¿® 饰 +磩 éĺµ +éŁ³ä¹IJ ä¼ļ +æŁ³ å·ŀ +é½ ¡ +ä¼ļ è°Ī +æŃ£ çīĪ +ä¹Ł åIJĮæł· +æļ§ æĺ§ +è¡ĮæĶ¿ éĥ¨éŨ +ä¹ĸ ä¹ĸ +èĤ¤ èī² +æĹ¶ ä»» +羣 åĪĩ +æľĪ ä¸ĭ +æľĪä¸ĭ æĹ¬ +举æĸ¹ è´¢å¯Į +è£ħä¿® åħ¬åı¸ +éĢĢ è¿ĺ +åĭĺ å¯Ł +åĵ¥ 伦 +åĵ¥ä¼¦ æ¯Ķäºļ +çĭ¬ ä¸Ģ +çĭ¬ä¸Ģ æĹł +çĭ¬ä¸ĢæĹł äºĮ +è°ĥ åij³ +åİĭ è¿« +åħ¨çIJĥ æľĢ大 +åī¯ æł¡éķ¿ +æĽ´ ä½İ +åĪĨéĴŁ åIJİ +åĽŀ ä¾Ĩ +åζ åīĤ +åijĬè¯ī 大家 +çĤ¹ éĴŁ +åįģä¸ī å±Ĭ +åij¨ åĽĽ +è¿Ļæł· ä¸Ģ +è¿Ļæł·ä¸Ģ æĿ¥ +èĭ Ł +æľĽ åİ» +æĪIJ è¯Ń +å½ĵ åį³ +ç¬ij 声 +ä¹ĭ åĬ¿ +åĪijäºĭ æ¡Īä»¶ +æĮĤ çĿĢ +ä½ķ ç§į +å°ı 游æĪı +åĽ½å®¶ æĪĺçķ¥ +åĨ· åĨ· +å®ľ 宾 +æIJº ç¨ĭ +è¶ĭ äºİ +åıį çľģ +常 说 +ä¸ĩ æĪ· +åĥµ å°¸ +åįĥä¸ĩ åĪ« +åıijçݰ éĹ®é¢ĺ +åı¯ çŁ¥ +éŨæĪ· ç½ijç«Ļ +åģ¥åº· 产ä¸ļ +åı³ è¾¹ +æµ· è¿IJ +è¿ij ä¹İ +åĮ» æ²» +æĢ» ç®Ĺ +ä¸Ģ åĪĨéĴŁ +æĭ § +ä¹Ł æľīä¸ĢäºĽ +ä¾Ľç͵ åħ¬åı¸ +å»ī ä»· +帮 ä»ĸ +æŃ¤æ¬¡ æ´»åĬ¨ +åıªèĥ½ 说 +èĬ ĭ +çīĩ 段 +åŃĺåľ¨ éĹ®é¢ĺ +ä½łä¼ļ åıijçݰ +è½® å»ĵ +ç½ij éĢļ +滨 æ±Ł +æİĪ ä¿¡ +é»İ æĺİ +ä¸į å±ŀäºİ +约 åįł +éķ¿æ²Ļ å¸Ĥ +èĥļ èĥİ +åħĥ ä»¶ +éĻĨ åĨĽ +è³¼ è²· +æĮĩ æľĽ +å®ŀä¹ł çĶŁ +çī¹çĤ¹ æĺ¯ +çıł æ±Ł +çľĭ ä¸įåĩº +ä¸įè§ģ äºĨ +ç¼ ī +éĺµ èIJ¥ +åĶIJ æľĿ +没 å¿ħè¦ģ +åĽ½åľŁ èµĦæºIJ +ç»ıæµİåѦ å®¶ +åIJĪèĤ¥ å¸Ĥ +çIJ¢ 磨 +ç¡® åĪĩ +åŁİå¸Ĥ åıijå±ķ +çŃ· åŃIJ +人æ°ij æľįåĬ¡ +满 åĪĨ +è¿· ä¿¡ +ä½ľèĢħ æľ¬äºº +æĸĩ竳 æĿ¥æºIJ +ç«Ļ ç«ĭ +æŀĦ æĪIJäºĨ +è¾Ľ åĭ¤ +è¶ħ 强 +éĶ ļ +åīįä¸ī åŃ£åº¦ +å°± è§īå¾Ĺ +å´ĩ é«ĺ +è¶Ĭ ä¾Ĩ +è¶Ĭä¾Ĩ è¶Ĭ +å¸Ĥåľº èIJ¥éĶĢ +综åIJĪ ç´łè´¨ +åŃ ļ +ä¾® è¾± +äºĮ åŃĹ +å·¥ä½ľ ä»»åĬ¡ +åı²ä¸Ĭ æľĢ +æľĢ ä¼ĺ +åIJ© åĴIJ +表 çϽ +èİ« åIJį +èİ«åIJį åħ¶ +èİ«åIJįåħ¶ å¦Ļ +å¹ £ +åIJĮå¿Ĺ 们 +建设 çĶ¨åľ° +åĦ Ģ +éħį åģ¶ +å¼ © +åͱ çīĩ +æīĭ èĦļ +åħ¼ ä»» +åģľ æĶ¾ +æŃ£ å®Ĺ +æĸ° åĨľæĿij +åĤ¬ çĶŁ +æīĢ åŃ¦æł¡ +念 ä½Ľ +åͤ éĨĴ +åħ± åĪĽ +æĭī ä¸ģ +èĥĮ çĿĢ +çĶŁæĢģ ä¿ĿæĬ¤ +åı£ 头 +æĸ¹åIJij çĽĺ +調 æķ´ +æĭĽèģĺ ä¿¡æģ¯ +åħ¶ä»ĸ åĽ½å®¶ +ç®Ģ æĺĵ +åĮ¿ åIJį +è¯Ħ æµĭ +æĺ¯ä¸Ģ 座 +çīµ æīĭ +è¶³ 迹 +çIJĨè§£ åĴĮ +æľĢ åıĹ +å¿ĥ è·³ +çζ 親 +éĿŀ常 åĸľæ¬¢ +èĭ¦ éļ¾ +æĬĢ å¸Ī +æ°ij æĦı +æĪĺ åĽ½ +æĽ¿ è¡¥ +æ´¥ è´´ +ä¸ŃåĽ½ ä¼łç»Ł +åIJĦ è¡Į +åIJĦè¡Į åIJĦ +åIJĦè¡ĮåIJĦ ä¸ļ +第äºĶ å±Ĭ +èį· èĬ± +æĦı èŃĺ +票 ä»· +åĪĨ æµģ +æĿİ çϽ +æ±Ł åĮĹ +æİĴ æĸ¥ +ä½ĵ éĩı +åĮħåIJ« äºĨ +åĪĺ æŁIJ +çݰ å¦Ĥä»Ĭ +å·¥èīº åĵģ +è¿Ļç§į æĸ¹æ³ķ +åĬŀåħ¬ 楼 +ç͵ å·¥ +çħ Ļ +åį¡ çīĩ +å¹´ å¹´åºķ +ä¸ĵ项 èµĦéĩij +åĮ» ç§ij +åĮ»ç§ij 大åѦ +åĽŀ头 çľĭ +ä¸į å±ij +èĩª 驾 +没 æĶ¶ +æīĵ çĮİ +èĦ¸ éĥ¨ +åıĥ èĢĥ +å°Ĩ 士 +è´«åĽ° 人åı£ +çIJĨæĥ³ 信念 +é£İ å°ļ +人æīį éĺŁä¼į +çij ¾ +æĿ¥ è¿ĻéĩĮ +æ´Ĺ 涤 +å¹´ èĸª +èĭį çϽ +ä¸ĩ äºĭ +课 æľ¬ +åºĵ éĩĮ +çī¹ æ´¾ +ç´¾ åijĺ +èµŀ ç¾İ +ç©¿ æĪ´ +製 ä½ľ +èµŀ æĪIJ +ä¸Ģ ä¾§ +å½ĵåľ° 人 +æĭ İ +纸 è´¨ +ä½Ļ 个 +éĶĤ çĶµæ±ł +æľº åŀĭ +éĻ¢ éϢ士 +åģļ å·¥ +å¼ł è´´ +ç¥Ľ æĸij +æ®ĸ æ°ij +å¥ij 约 +æ¹ĺ æ½Ń +æIJ ĸ +åŃĺ è´§ +交éĢļ 大åѦ +è¶ģ çĿĢ +æĸĩçī© ä¿ĿæĬ¤ +å¤ĩ æĪĺ +éĩĩ 纳 +åįĬ æľĪ +æľĢ åħ³éĶ® +æľĢåħ³éĶ® çļĦ +æİ¥ éĢģ +æĶ¶ åī² +åıį åĢĴ +çĥ Ľ +æ ½Ķ +ä¼Łå¤§ å¤įåħ´ +çļĦè¯Ŀ è¯Ń +容 å¿į +å®ļ éĩı +æķ Ĺ +åĵģçīĮ 形象 +æīŃ è½¬ +åĽ½å®¶ éĩįçĤ¹ +èĨĿ çĽĸ +ä¸Ģ 楼 +大 éϏ +éĤª æģ¶ +åĽŀ åij³ +çĮ ¿ +çĿ¡ åīį +æĹł è¾ľ +çĹħæ¯Ĵ æĦŁæŁĵ +æľºæ¢° åĮĸ +çĤ¹ 亮 +溶 è§£ +åĩłä¹İ æīĢæľī +è·ij éģĵ +ç͵è§Ĩ æľº +åı ¨ +æijĩ äºĨ +æijĩäºĨ æijĩ头 +èĩª è´Ł +综åIJĪ åĪ©ç͍ +èĩª å¦Ĥ +åİŁ ä¾Ĩ +ä¹Łä¸į æĥ³ +èĬĤ 课 +è¿ĩ åī© +çͲ çĬ¶ +çͲçĬ¶ èħº +æĸ° ä¸ĸ纪 +èĩªä¸» åĵģçīĮ +é«ĺ å±Ĥ次 +ä¸Ģ è§Ĵ +è¡Į äºĭ +ç¥ĸ åħĪ +å©ļ åIJİ +éĹ´ éļĻ +ç¼Ŀ éļĻ +è¿Ļ æĶ¯ +ä¸įæĸŃ åĪĽæĸ° +å¾® åŀĭ +æĽĻ åħī +享 ç͍ +ä¸ŃåĽ½ ç§»åĬ¨ +éĹŃ çݯ +æī§ æĦı +åıijå±ķ æł¼å±Ģ +æł¸å¿ĥ åĮº +éªļ æī° +åħļåĴĮ åĽ½å®¶ +ä¸ŃåĽ½ æĶ¿åºľ +帶 èijĹ +ä¸ĩåįĥ çĵ¦ +åħ© 人 +äºİæĺ¯ æĪij +åĽº ä½ĵ +çªģ å¦Ĥ +çªģå¦Ĥ åħ¶ +çªģå¦Ĥåħ¶ æĿ¥ +éĩĮç¨ĭ ç¢ij +çα ç¾İ +æŁ¥ éªĮ +åıĮ èµ¢ +éĹª åħī +楼 å®ĩ +æĻ ı +æľī è¶³å¤ŁçļĦ +æŁĶ æĢ§ +ä¿¡æģ¯ å®īåħ¨ +管 线 +å¹¶ ä¸įä¼ļ +åύ ä»¶ +ä½ł åºĶ该 +çĿĢ å®ŀ +æĺİ æ¸ħ +æĬĹ çĶŁç´ł +æīĵ æŃ» +å®Įåħ¨ ä¸įåIJĮ +èĬ± æ¤Ĵ +æĶ¾ 宽 +ä½İ 端 +åĽĽ èĤ¢ +åĮĹ京 èµĽè½¦ +éĽĨ å¸Ĥ +æľª å©ļ +大å¹ħ æıIJåįĩ +建çŃij 设计 +çĭ¬ æľīçļĦ +æİ¢ éĻ© +æ²³æµģ åŁŁ +æħķ 容 +被 çĽĹ +åĵº ä¹³ +èı ģ +æĥ¬ æĦı +è¶ĬæĿ¥è¶Ĭ 好 +广大 群ä¼Ĺ +å¾· èĤ² +å¸Ĥåľº ä»·æł¼ +奥 å·´ +奥巴 马 +èĬĤ缮 ä¸Ń +两 款 +ä¸ĩä½Ļ åħĥ +ç»´ å°Ķ +çĶŁçī© ç§ijæĬĢ +åIJ¬ èµ·æĿ¥ +çł ļ +æĭŁ å®ļ +æ²¹ çͰ +声 èªī +建çŃij ä¸ļ +éĻIJ è´Ń +çīĩ åŃIJ +çķľ ç¦½ +ç½ij é¦ĸ页 +ä¼Ĺ çѹ +æĴŀ åĩ» +åīį ä¸įä¹ħ +åīį ä¸ĸ +åĽĽä¸ª æĦıè¯Ĩ +æµĭ ç»ĺ +éĺ² ç©º +漫éķ¿ çļĦ +æ²IJ æµ´ +æ¯Ķè¾ĥ ç®Ģåįķ +æµĭ å®ļ +åĽŀ è°ĥ +让 人们 +èĴĭ ä»ĭ +èĴĭä»ĭ çŁ³ +ç»ĵ æĻ¶ +å¢ŀæ·» äºĨ +æĿ¡ è¯Ħ论 +åī¯ ä¼ļéķ¿ +ä½ı æīĢ +ç»Ļ åĩºäºĨ +è°ĥ éħį +æ² ĸ +æľī ç͍ +æľīç͍ çļĦ +ä¸ĢæĿ¡ é¾Ļ +éĩİ å¤ĸ +ç¼ĺ åĪĨ +æ°¸è¿ľ ä¸įä¼ļ +æŀľ æłij +大åıij å¿«ä¸ī +麻 éĨī +äºij éĽĨ +åİ» åĵªéĩĮ +åħ¥ å¸Ĥ +ä»» æĢ§ +建 æ¡£ +建档 ç«ĭ +建档ç«ĭ åį¡ +ä¸Ģ 棵 +社 åįĢ +缸 ä¼´ +åļ · +å¡« åħħ +ä¸Ģ æĹı +ç¾ ģ +åıĸ è¯ģ +èΰ éĺŁ +åİĤ åĮº +è¡· å¿ĥ +åıijå±ķ éĺ¶æ®µ +é«ĺ 强度 +åĹĵ åŃIJ +é¢Ĩ è¡Ķ +楼 主 +大 èĴľ +æŀķ 头 +ç²® æ²¹ +é»Ħ çĵľ +æĵ Ĵ +å°ı çĭĹ +æĶ¹éĿ© å§Ķ +åįģ åĪĨéĴŁ +é²ľ èī³ +åħ³ ç¾½ +çĭĢ æħĭ +å®ŀç͍ æĢ§ +å°ij è§ģ +é£ŀ æī¬ +çͰ éĩİ +æIJ Ĥ +è¿Ļ个 è¯į +åºĶæĢ¥ é¢Ħæ¡Ī +è§Ĵ度 æĿ¥çľĭ +æķ¬ çķı +æ³ķ å®Ŀ +åĸĦ æĦı +æīĵ æĸŃ +对 åĨ³ +çµķ å°į +åĢŁ æŃ¤ +å¼Ģ æºIJ +å°ı 說 +ç¥ º +å²ģ 以ä¸ĭ +éĢĢå½¹ åĨĽäºº +ä¸įä¹ħ åīį +åĩº åİĤ +讽 åĪº +æĿ¥çľĭçľĭ åIJ§ +éŃĶ åħ½ +çķĻ ä¸ĭæĿ¥ +å±ħ 室 +åłħ æĮģ +çľĭ äºĨä¸Ģ +çľĭäºĨä¸Ģ çľ¼ +éĽĨåĽ¢ æĹĹä¸ĭ +æĪĺ æĪĺç»ĦåIJĪ +è®¤çľŁ èIJ½å®ŀ +汽车 产ä¸ļ +çī©çIJĨ åѦ +æķ µ +éĴ Ŀ +åĽ¢ éķ¿ +ä¸įæĸŃ æī©å¤§ +èĤ© è´Ł +åıijå±ķ 缮æłĩ +è³ĩ éĩij +åīį ç½® +ä¸ŃåĽ½ åı¤ä»£ +æŃ» åĪij +åħħåĪĨ ä½ĵçݰ +åħ³ éŨ +ç¾İ æĦŁ +æīĵ åħ¥ +æĬijéĥģ çĹĩ +å°ij çĪ· +æłij æŀĿ +æ¶Īæģ¯ ç§° +æ´Ľ åħĭ +åį ¯ +è¿Ī åIJij +æİ¨ åĭķ +ä»İä¸ļ èĢħ +åİ» ä¹° +欢 å¿« +æĭ¥ æĮ¤ +马 æ¡¶ +æĬĬ æİ§ +æĶ¿ åħļ +å¼ł æī¬ +客 æłĪ +红 æĺŁ +éĢģ æĿ¥ +åħ¨åŁŁ æĹħ游 +èĩª ç§ģ +åįģäºĮ æĿ¡ +åı¹ æģ¯ +ä¸Ģ èīĺ +ä¿Ŀ è´¹ +æĸ½å·¥ çİ°åľº +æľī 幸 +ç»Ń èĪª +åı¯èĥ½ æľĥ +èĥĮ åıĽ +ä½£ éĩij +ä¸ī çŃīå¥ĸ +å¾Ī 满æĦı +游æĪı åľ¬ +群 éĩĮ +æŀĦ ä»¶ +åºı å¹ķ +太 æ¹ĸ +æľ¨ è´¨ +æĻĭ æ±Ł +çµĤ æĸ¼ +è·³ è·ĥ +åĢºæĿĥ 人 +çŃī 诸å¤ļ +æĶ¾ åĩº +åħ³éĶ® æĹ¶åĪ» +æĦŁæŁĵ èĢħ +é£ŀè¡Į åijĺ +èĥĨ åĽº +èĥĨåĽº éĨĩ +æĬ± æŃī +åij¨ äºĮ +æĸ° æĹ¶æľŁ +åĨ·éĵ¾ çµģ +è¿Ļç§į æĸ¹å¼ı +该 æĿij +åĽŀ é¦Ī +åŁºçĿ£ æķĻ +人 åıĤ +æŀ¯ çĩ¥ +æī¹åıij å¸Ĥåľº +åħħåĪĨ èĤ¯å®ļ +å¸Ĥ æĶ¿åįı +äºĭ æ¥Ń +龸 çİĭ +çĥŃ æIJľ +åįģä¹Ŀ 大 +ä¼´ æľī +ç¾İåĽ½ æĢ»ç»Ł +åŁİå¸Ĥ 管çIJĨ +ä¸ĭ 令 +èĥ¸ åı£ +åıª çŁ¥éģĵ +åij¨ ä¸ī +ç͍ æĪ¶ +éŃ ¯ +å¿ĥ è¡Ģ +带头 人 +åĮ» åĬ¡ +åĮ»åĬ¡ 人åijĺ +æİ§åζ åύ +ä½ľåĵģ åĨħ容 +æĪĺ åıĭ +åİĨ å¹´ +ä¸į åħĭ +ä¸įåħĭ ä¸įåıĬ +æĹ¥ æŃ£å¼ı +è±IJ å¯Į +ç¨İ è´¹ +æĹ¶ æķĪ +å±ķ ä½į +è¡¡ éĺ³ +æĪ¿ 貸 +çĪĨ 款 +ä¹IJ æĦı +çĶ· 主 +å¯ ¬ +æľĥ èѰ +ä¹ĭ å¤ľ +åIJĮ 樣 +ä¸įè¦ģ 太 +ä¼Ĭ æĸ¯ +ä¼Ĭæĸ¯ åħ° +åŁºæľ¬ åİŁåĪĻ +åİ» æİī +ä½İ ä¿Ŀ +个 交æĺĵ +个交æĺĵ æĹ¥ +èģĬ èģĬ +åĽĽ ä½į +åħļç»Ħ æĪIJåijĺ +主è¦ģ ä»İäºĭ +å½± éŁ³ +åĨĴ åĩº +åij¼åIJ¸ éģĵ +è¾¾ å°Ķ +æľ¨ åľ°æĿ¿ +诡 å¼Ĥ +çģ¯ åħ· +çģ« çĥ§ +è§£ èĦ± +æĦĪ åıij +æ¹ĸ å·ŀ +é£İ ä¿Ĺ +æĸ° å½¢åĬ¿ +æĸ°å½¢åĬ¿ ä¸ĭ +è² Ŀ +èĦ ĵ +åĬ¨åĬĽ çĶµæ±ł +é£ŀ èι +飧 æĢ§ +åĪ© çī© +åĪ©çī© æµ¦ +ä¸į 认è¯Ĩ +ç¼ĸ ç»ĩ +ä½ľ åĿĬ +èģĮä¸ļ æĬĢèĥ½ +çľĭ è¦ĭ +åĽ´ æ£ĭ +æĺı è¿· +å½Ĵ å±ŀäºİ +æĤ¬ å´ĸ +éĨ« çĻĤ +å®ĭ 代 +åºĦ æĿij +èĹ ķ +çĮĽ çĦ¶ +çĩĥæĸĻ çĶµæ±ł +å®ŀä½ĵ åºĹ +ä¸įè¶³ 以 +æĥħ ç· +æĥħç· Ĵ +å»Ĭ åĿĬ +ç͵ åı° +åºĶ åĬĽ +ä¸Ńå°ı åѦçĶŁ +èĥ¡ åIJĮ +éī´ åĪ« +åĨħ ç½® +ä¹± 象 +æ¬Ĭ çĽĬ +å¼ĢæĶ¾ å¼ı +åįļ æĸĩ +讲 课 +çŃī åİŁåĽł +ç©· 人 +交 æĽ¿ +æĬ¤ çħ§ +åıijå±ķ æľºéģĩ +客 åķĨ +åıį ä¹ĭ +ç±³ é¥Ń +å¹¶ åıij +å¹¶åıij çĹĩ +æ±ī åŃIJ +æŀľ åĽŃ +对æĪij æĿ¥è¯´ +åģı åIJij +æī¹ 示 +读 åIJİ +读åIJİ æĦŁ +æĺİ æĻº +åĽ´ çĿĢ +åıį 转 +æĿ¨ å¹Ĥ +ä¸ĵ åįĸ +ä¸ĵåįĸ åºĹ +åıĹ éĻIJ +åºŁ è¯Ŀ +æŀģ å°ij +åįĪ åIJİ +è¿Ľ ä¿® +åīĬ åĩı +æľ¬ç§ij çĶŁ +ä¼ĺ éĢī +åħī çħ§ +åıĻ äºĭ +åıĸ æļĸ +åĮĹ è·¯ +æ¦ ķ +èİĨ çͰ +楼 å±Ĥ +天 èĬ± +天èĬ± æĿ¿ +çĤ ľ +å·²ç»ı æľīäºĨ +è¶ ¾ +çͳ åįļ +ç͵ éĺ» +åĬŁ è¯¾ +æŃ¥ æŃ¥ +éĤ£ä¹Ī 容æĺĵ +æŃ¤ æĸĩ +ä½ ° +计 è¾ĥ +çīĩ éĿ¢ +ç͵影 éĻ¢ +ä¸į åħ¬å¹³ +ä¸ī æľŁ +æĹħ游 èµĦæºIJ +å¤ļç§į å½¢å¼ı +è£Ĥ ç¼Ŀ +åIJİ æİĴ +硬 度 +åĽŀ æļĸ +éģĵ æķĻ +è´« è¡Ģ +æ¸ħ é¦Ļ +伤 çĹħ +æĦı 義 +çļĦ ç¼ĺ +çļĦç¼ĺ æķħ +åºĦ 严 +åıªæĺ¯ 为äºĨ +æīĵ æĬĺ +以 ä¾Ĩ +滿 è¶³ +çİĽ 丽 +風 éļª +æĸĩ ç§ij +éħįå¤ĩ äºĨ +è¿Ľ é£Ł +æ¶ ¡ +è·¯ ç¨ĭ +åı« 声 +ä¸Ńå¿ĥ åŁİåĮº +æľīæīĢ ä¸įåIJĮ +å¼µ è²¼ +é¢Ħ æĬ¥ +æľīå¤ļ ä¹Ī +è¿Ľè¡Į åħ¨éĿ¢ +æĽ¾ ç¶ĵ +ä¸ī 代 +å®ı 大 +æ¸ħ æī« +éĢī åĩº +åĵª ä¸Ģ个 +主 義 +ä¾Ŀ æĵļ +çļ® éĿ© +èµ¶ æĿ¥ +çŃĽ æŁ¥ +æ¨ Ł +ä¿Ŀ èįIJ +åIJĥ æĥĬ +æľĭåıĭ们 对 +ä»ĸ æĺ¯ä¸Ģ个 +åºŁ æ°Ķ +æ» ħ +è´¢ ç¨İ +æĿij æĿijæ°ij +èµĦ产 è´ŁåĢº +å®ī å¨ľ +缮åīį åĽ½åĨħ +æĦŁè§ī èĩªå·± +çµIJ åIJĪ +éͦ æłĩ +éͦæłĩ èµĽ +æĽ´ æ·± +åŁº æķ° +éħ¿ éħĴ +çī¹èī² äº§ä¸ļ +åİĭ å®ŀ +ä¾Ŀæ³ķ 追究 +æ·¡ å®ļ +ç®Ģ缴 å°±æĺ¯ +å£ĵ åĬĽ +æ°ij å¿ĥ +ä¸į åIJĪéĢĤ +çͱæŃ¤ åı¯è§ģ +èµŀ èªī +æ¾ ¤ +åĩłå¹´ åīį +åIJī ä»ĸ +çł´ æįŁ +轻轻 åľ° +å²Ľ 屿 +æĦı å¢ĥ +ä»Ģä¹Ī åı« +åģĩ è£ħ +éĢģ è´§ +å¹ķ å¢Ļ +妥 åįı +åĽ½ æĹĹ +äºĨ å¾Īä¹ħ +åĪĨ辨 çİĩ +ç´ Ķ +éĺ³ åĮº +åĩŃ çĿĢ +åģľè½¦ ä½į +京 éĥ½ +éĶ £ +æĵ ¾ +è¿Ľ éŨ +åĪĺ æµ· +åĽĽ 级 +女 è¶³ +è¡ĮæĶ¿ 审æī¹ +éģ¥ æİ§ +ä¸į éĮ¯ +å¾Ĺ å¾Ī好 +为 缮çļĦ +ä»į æľª +ç²¾ è£ħ +éĢį éģ¥ +å°½ 头 +çºł ç¼ł +éłĺ å°İ +æĭħ è´Ł +æĪĸèĢħ åħ¶ä»ĸ +åıªä¸įè¿ĩ æĺ¯ +åı® åĺ± +åģĩ åĨĴ +æļĸ æ°Ķ +çĽIJ åŁİ +被 è§Ĩ为 +诺 è´Ŀå°Ķ +ç»ĻäºĨ æĪij +è¿ij åįĥ +éĩį åĽŀ +éĨĴ äºĨ +ç͵ è§£ +忽çķ¥ äºĨ +èĥĮ éĥ¨ +æĸĩæĺİ åŁİå¸Ĥ +æº ħ +è² ĵ +æĬµ æĮ¡ +åĸľæ¬¢ åIJĥ +éĿĻéĿĻ åľ° +å¾Ī æ·± +åŁºç¡Ģ çŁ¥è¯Ĩ +è¿ĩ éĶĻ +çIJĨ ç§ij +交æµģ åIJĪä½ľ +èĪ Ķ +調 æŁ¥ +æħĪ æĤ² +éĴ ° +èĩ´ ç͵ +å®£ä¼ł æ´»åĬ¨ +åıĺ éĩı +çļĦ人 æĿ¥è¯´ +æĹ¶ éļĶ +ä¸į管 ä½ł +缸 è¿ij +è´µ éĩijå±ŀ +ä¹Łä¸į åı¯èĥ½ +ç²ī æľ« +åįĹ çĵľ +çϽ 马 +åħī æºIJ +éĩij å¥ĸ +çĭ¬ è§Ĵ +çĭ¬è§Ĵ åħ½ +妨 ç¢į +ç»Ļ åĬĽ +ä½Ĩ ä»į +å¼łå®¶ åı£ +èIJ¬ åħĥ +渲 æŁĵ +éķ¿å¤§ äºĨ +è®°èĢħ äºĨè§£ +æĢĢ çĿĢ +è¦ģ åѦä¼ļ +游æĪı 代 +游æĪı代 ç»ĥ +äºĮ çϾ +æĦıè¯Ĩ å½¢æĢģ +çİ º +计åĪĴ çĶŁèĤ² +æī¾ åĩĨ +åħ° èĬ± +è¿Ļ座 åŁİå¸Ĥ +污 æ³¥ +å®ĺæĸ¹ 微信 +å½Ĵ å±ŀ +æ°§ æ°Ķ +éģİç¨ĭ ä¸Ń +åį°è±¡ æ·±åĪ» +稳 妥 +çµIJ æĿŁ +åŃķ æľŁ +çī¹ æĿĥ +åĿļ åĽº +顺 åĬ¿ +æŀľ èͬ +éĨ« 師 +åİ ® +ä¹Łæĺ¯ å¦ĤæŃ¤ +é¦Ĵ 头 +缸 åĬ© +å¹² 线 +ä¸Ģ æľ¬ä¹¦ +ç» ¥ +æĮ¯ å¥ĭ +èĤ¾ èĦı +åĭķ çī© +é£ŀ è·ĥ +èıľ åĵģ +å¤ļ ä½Ļ +å¤ļä½Ļ çļĦ +éĢĿ ä¸ĸ +æģĭ 人 +å¼Ģåıij åĪ©ç͍ +顺 丰 +éĩİ å¿ĥ +æł¡ å¤ĸ +æģIJ é¾Ļ +éĿ¢ åħ· +éķ¿ è¾Ī +éļı å¤Ħ +éļıå¤Ħ åı¯è§ģ +ç´§ 缺 +éĩį ä¸Ń +éĩįä¸Ń ä¹ĭ +éĩįä¸Ńä¹ĭ éĩį +奥 æĸ¯ +奥æĸ¯ åį¡ +ä¸Ģ个 å¤ļ +ä¸Ģ个å¤ļ æľĪ +ä¸įåı¯ 缺å°ij +æĸ° æł¼å±Ģ +æıIJ æĮ¯ +è¡Į è´¿ +æ¼Ĥ æµģ +èģĬ åŁİ +åħ´ 建 +è´¨ æ£Ģ +ç§ģæľį 游æĪı +æĽ´ éĩįè¦ģ +è´ ® +çħ ľ +转åıĺ 为 +è¿Ļ 两年 +ä¿Ŀ é²ľ +æī§ æķĻ +çĥ ¨ +å¼Ģåıij 建设 +è¿IJèIJ¥ 管çIJĨ +误 å·® +京 åī§ +å¸IJ åı· +å·¥ä½ľ ä½ľé£İ +ä¸ĸ ä¿Ĺ +çϽ 宫 +天 åĽ½ +å¤©åĽ½ ç»§ç»Ń +å·´ æĸ¯ +èIJ¥ åĪ© +åĵģ æł¼ +æĿijæ°ij 们 +æĪ¿ 车 +çŃī çĹĩçĬ¶ +å¦Ĥ å®ŀ +å® ¸ +å±Ĥ 级 +éĶĻ è¿ĩäºĨ +ç»ĵ å®ŀ +ç¬ij èĦ¸ +羣å®ŀ æĢ§ +éĥ½å¸Ĥ æĬ¥ +é¥Ń èıľ +åºĶ 注æĦı +æĬ½ çĥŁ +伪 éĢł +åīį ä¸Ģ天 +éŃĶ é¾Ļ +éŃĶé¾Ļ 令çīĮ +约 è°Ī +绣çѹ æİ¨è¿Ľ +让 ç͍æĪ· +åħ¨éĿ¢ èIJ½å®ŀ +å¼Ħ å¾Ĺ +è°Ī æģĭçα +鸣 æĪIJéķ¿ +鸣æĪIJéķ¿ è®° +æ´ĭ æ´ĭ +çĸı æķ£ +éĿ¢ç§¯ 约 +æµĵ 缩 +æĸ¯ é¡¿ +çĶŁæĢģ åľĪ +æī§ 导 +ç§» éĢģ +齿 è½® +æł¹æľ¬ å°±ä¸į +缩 åĩı +èµ° ä¸ĭåİ» +çĿ« æ¯Ľ +ä¹Łä¸į éĶĻ +åıįæĺł åĩº +èĭ¦ æģ¼ +缸åħ³ æĶ¿çŃĸ +é«ĺ 楼 +ç²ī èī² +æĬķèµĦ é¢Ŀ +ä¸į ç»ı +ä¸įç»ı æĦı +å®ģ æĦ¿ +èĪĮ 头 +æ»ĭ çĶŁ +å®ģ åİ¿ +åīįåĪĹ èħº +åĩ ³ +é£Ł 欲 +åıĸ èĥľ +éĻ¢ åŃIJ +ç´łè´¨ æķĻèĤ² +滨 å·ŀ +æĬ¢ æĬĵ +å¼Ĥ åij³ +åĴ ļ +åĬ į +宽 éĺĶ +æļ´ 涨 +æĥł åıĬ +è§Ħ ç¨ĭ +ä¾Ľ åħ» +éĢģ å¾Ģ +å±± åºĦ +举 äºļ +å±ķ é¦Ĩ +è§£ éĶģ +æĹł è§Ĩ +éĻį èIJ½ +è¿ŀ äºij +è¿ŀäºij 港 +åıĤ è°ĭ +çİ ĸ +ç¬ ĥ +èĢĹ è´¹ +æī¿ å¾· +社ä¼ļ æķĪçĽĬ +åįĹæµ· ç½ij +åĪĽ 伤 +èIJ ± +åħħ æ²Ľ +ç½ijç«Ļ 建设 +大 åºĨ +åĨį éĢł +åŃĹ æł· +åħ¨æ°ij åģ¥èº« +èĮ« èĮ« +æµ® åĬ¨ +åīį åı° +å¢ŀ 设 +éĢĽ è¡Ĺ +åĢĴ éĹŃ +æ³ķå¾ĭ 顾éĹ® +çĸ ® +çĹħ çĹĩ +空 åīį +请 æķĻ +èĥľ ä»» +æĿĢ èıĮ +æĪĺæĸĹ æľº +ç»ĺ åζ +å¤Ħ æĸ¹ +çªģ åĽ´ +çĮ« åĴª +æĬ¥åijĬ æĺ¾ç¤º +ç¿ Ł +çķ¶ åľ° +æľĢ éļ¾ +纪 å§Ķ书记 +ä½İ åİĭ +èĻļ 空 +è¿Ļéĥ¨ ç͵影 +产ä¸ļ åįĩ级 +è°· çα +è°·çα åĩĮ +æĬ¼ éĩij +女 æĸ¹ +éĴ» çłĶ +æļĹ æļĹ +è¿· ä½ł +æīĢ è¬Ĥ +å¨ģ å»ī +å¼Ģ æľĹ +å² Ķ +çģ« çĤ¬ +åIJĪçIJĨ æĢ§ +åħ¬ åĬŀ +ä¼ļ ä¼ļéķ¿ +éĺ´ è°ĭ +å¼Ģ å±Ģ +æĻ®éĢļ è¯Ŀ +åį¡ æĭī +å°ij åIJĥ +éĹª èĢĢ +æŀľ æ±ģ +æī§è¡Į åĬĽ +è° Ľ +æĬ¢ åĬ« +é«ĺéĢŁ åıijå±ķ +éŁ ¬ +åįĹ æ²Ļ +é«ĺçŃī åŃ¦æł¡ +æį¢ 个 +åı¯èĥ½ åŃĺåľ¨ +æĬ Ĵ +è°± åĨĻ +被 æĬĵ +æĿ¯ åŃIJ +èĬĤèĥ½ åĩıæİĴ +æ°ĶåĢĻ åıĺåĮĸ +åĪĨ åĪ¥ +ä¸Ń æŀ¢ +欢 åij¼ +åħī 纤 +è¿Ļ 群 +çľ¼ çķĮ +åħ±åIJĮ åıijå±ķ +çݰ ä»Ĭ +éĹ» è¨Ģ +çī¹èī² å°ıéķĩ +æķij 人 +éĻį æ°´ +ä¸ĸçķĮ ä¸Ģæµģ +å°± é¤IJ +çŀ ¥ +å¤į ä»ĩ +ç¾½ æ¯Ľ +ç¾½æ¯Ľ çIJĥ +è´© åįĸ +æºIJ æ³ī +æĢ»ä½ĵ è§ĦåĪĴ +åĬ¨ æĦŁ +ä¸Ģ 审 +åĢŁ éĴ± +è§ģ æķĪ +èĬ± èįī +åIJĮ ä¸ļ +æŁ¥ è©¢ +åĽ½éĻħ åIJĪä½ľ +ä¾Ľ åĽ¾ +åģ ´ +æł ĵ +缸 éĢļ +è°Ī åıĬ +è¿ĩç¨ĭ å½ĵä¸Ń +é¦Ļ èıĩ +åįģåĽĽ æĿ¡ +ä¸Ģå¼Ģå§ĭ å°± +ä¸ĵ åijĺ +æĺİ é¡¯ +æīĵéĢł åĩº +ä¸ĭéĿ¢ æĪij们 +æľº æ²¹ +åı° è¯į +åŃIJ å¼Ł +æľĢ 常è§ģçļĦ +æĪij è®°å¾Ĺ +ç» ° +æĤ¬ æµ® +è¿ĺ 羣æĺ¯ +æĮĤ åı· +åıĭ åĸĦ +éĩį 伤 +çħ§ 亮 +æŃ¦ èѦ +åĩºçݰ éĹ®é¢ĺ +è¸Ĭ è·ĥ +åľ°çIJĥ ä¸Ĭ +å¸Ĥ 人大 +åıĹ害 人 +å² IJ +åIJĮ åѸ +éĩijèŀį å¸Ĥåľº +æľīçļĦ çݩ家 +å¸Ĥ æķĻèĤ² +å¸ĤæķĻèĤ² å±Ģ +åIJĦ å¼Ĥ +ç·ļ ä¸Ĭ +æģ º +æľī 大éĩıçļĦ +åķĨ æĬ¥ +åįķ åįķ +åħ¨ é¢Ŀ +ä¾ĿæĹ§ æĺ¯ +好 åĩłä¸ª +åĸ µ +éĩį æķ´ +çĶŁæ´» è´¨éĩı +æİ¢ 访 +åį° èĬ± +缼 è¡Į +å¾® è§Ĥ +èĪį å¾Ĺ +åºŁå¼ĥ çī© +积 èĵĦ +å®ļ å±ħ +æĤ ¼ +èĮ ¸ +çļĦ 帮åĬ© +çļĦ帮åĬ© ä¸ĭ +亿 åIJ¨ +åŃĶ éĽĢ +è¿ĻæĿ¡ è·¯ +é¥ µ +æĦĪ åĬł +éķ į +ä½ľ æ¡Ī +èįĶ æŀĿ +太 å°ij +è·» 身 +åħ¬çĽĬ æ´»åĬ¨ +çϽ æĸij +æĬĢæľ¯ æ°´å¹³ +å¸ § +æĹł çŁ¥ +åºĶ该 æĢİä¹Ī +éĢĢ å¸Ĥ +æ¸ Ń +åħ» çĮª +é© ¼ +群 å²Ľ +大 åį« +ä¹ĺ çĶ¨è½¦ +èı² å°Ķ +è´´ åIJ§ +åģľ ä¸ĭæĿ¥ +æľīæľº ç»ĵåIJĪ +åĪ» èĭ¦ +çļĦ åľ° +çļĦåľ° æŃ¥ +è¯Ĭ æīĢ +å¼Ģ æĪĺ +èĢģ çīĮ +çѹ çłģ +åħ«å¤§ 以æĿ¥ +楼 æĪ¿ +åŃĻ æĤŁ +åŃĻæĤŁ ç©º +åħĴ åŃIJ +第ä¸Ģ æĿ¡ +社交 åªĴä½ĵ +æĥ³ èµ·æĿ¥ +大 æ´ĭ +æĭ¼ éŁ³ +è¿Ľ åįļä¼ļ +è¿ĩ åħ³ +æ² ¼ +ç©¿ æIJŃ +éĤ£ ä¸Ģ天 +çł´ éŨ +æĬķæłĩ 人 +èµ¢ å®¶ +èĻļ å¼± +æ¿ ĥ +å®ī æ£Ģ +客 å®¶ +çĭ¬ç«ĭ èij£äºĭ +æīĭ åĬ¿ +åīµ éĢł +åľĨ满 å®ĮæĪIJ +为主 线 +好å¥ĩ å¿ĥ +é¢Ĩ åľŁ +çª ĸ +åħ¸åŀĭ æ¡Īä¾ĭ +çªģåıij äºĭä»¶ +åºķ æ°Ķ +头 æĻķ +å®Ľ å¦Ĥ +è§ ¸ +æ¸ħ æ·¡ +åļ ¼ +åģľ ç͵ +ç²ī å°ĺ +éĻįä½İ æĪIJæľ¬ +æĶ¾ æīĭ +è®°èĢħ 表示 +æĭĸ å»¶ +éª ĩ +æ®ĭ å¿į +çľģ æķĻèĤ² +çľģæķĻèĤ² åİħ +é«ĺ é¢Ŀ +éĦ Ļ +æ¥ ŀ +åĨħ ç§ij +èIJ¥ä¸ļ é¢Ŀ +åŁº çŁ³ +æµģ æ·Į +主 æĹ¨ +éĺIJ éĩĬ +建 åįİ +æĥĬ åı¹ +çī¢åĽº æłijç«ĭ +æĺ¯åIJ¦ åŃĺåľ¨ +建 åĨĽ +éĽ¾ éľ¾ +åħ¬ 认 +åħ¬è®¤ çļĦ +æ°¨ åŁº +æ°¨åŁº éħ¸ +åīį åĩłå¹´ +åι éĤ£ +æ±Ł 举 +å·¥ æ¥Ń +ä¸ĢçĤ¹ ä¹Łä¸į +ä¿® 士 +äºĨä¸Ģ éģį +åĪ ģ +æ»ļ æ»ļ +åĪĨ æł¡ +羣 çα +è¡Ģ èĦī +æĢ¥ åī§ +ä¸Ģ群 人 +ç¾ ¯ +æĪIJ é¾Ļ +ç²¾ç¥ŀ çĹħ +缸åħ³ 人åijĺ +éĿĵ 丽 +ä¸ī åŃ£åº¦ +åĪĴ å®ļ +ä¸ĸçķĮ 第ä¸Ģ +éĢļ ä¿Ĺ +åķĨä¸ļ åľ°äº§ +åĬŁèĥ½ æĢ§ +èµĦæľ¬ 主ä¹ī +详 è§ģ +æĬĵ æįķ +æĸĩ æĺĮ +å®Ŀ å®ī +è£ħéħį å¼ı +æºIJ æºIJ +æºIJæºIJ ä¸įæĸŃ +çĶŁ æĢķ +纵 åIJij +å£ ½ +çľ¼ è¢ĭ +èĤī ä½ĵ +åı¤ ä»Ĭ +èŀį åªĴä½ĵ +åģ ī +æł¼ æľĥåĵ¡ +çĥ · +åĬŁ ç͍ +æīŃ çŁ© +绿èī² éĢļéģĵ +åī§ ç»Ħ +å¼± åĬ¿ +è´¨éĩı éĹ®é¢ĺ +éĻIJ é¢Ŀ +éª Ĩ +éģµ ä¹ī +å¯Ŀ 室 +æĥ³ 念 +åł± åijĬ +ä»ħ 次 +ä»ħ次 äºİ +èŀį åĪĽ +æĭĽèģĺ ä¼ļ +åºĬ åŀ« +转åŀĭ åıijå±ķ +ä¸ŃåĽ½ çĶµä¿¡ +åIJ¬ è¯Ŀ +è«ĭ æ±Ĥ +大éĥ¨åĪĨ 人 +æ´» å¾Ĺ +åĵŃ æ³£ +è¶ Ļ +åıijçĹħ çİĩ +ä¸į 符 +åĨĽ å®ĺ +é¢Ī æ¤İ +æĸ°åĨł çĸ«æĥħ +æŁ¬ åŁĶ +æŁ¬åŁĶ 寨 +ä»»ä½ķ å½¢å¼ı +人 éĻħ +人éĻħ åħ³ç³» +æĢ» æī¿åĮħ +å¹³åĿĩ æ¯ı +æģŃ åĸľ +åĦ ĺ +åħµ 马 +è¿Ł åΰ +å·¥ 伤 +çīĪæĿĥ å½Ĵ +çīĪæĿĥå½Ĵ åİŁ +æĭ¥ æĬ¤ +ç³Ĭ æ¶Ĥ +å¹² æ¶ī +å°ij ä¸įäºĨ +æĥ³ æī¾ +è´¹ çİĩ +该 éĻ¢ +èŀį åĮĸ +è¿İ åIJĪ +è§ĨåIJ¬ èĬĤ缮 +æł¼ ç¶²ç«Ļ +çľī æ¯Ľ +欢è¿İ 大家 +å®¶åºŃ æķĻèĤ² +ä¾µ èļĢ +ç»Ļ ä½łä»¬ +è¡Ģæ¶² 循çݯ +å¯Ħ æīĺ +å°ĸ åı« +以ä¸ĭ åĩłä¸ª +è¿ĺ 以为 +åħ¶ä»ĸ çݩ家 +ç¬ij ç¬ij +æīĵ åIJ¬ +èĩªçĦ¶ ç§ijåѦ +åŁº ç«Ļ +ä¹Ŀ å·ŀ +ä¿Ŀ 驾 +ä¿Ŀ驾 æĬ¤ +ä¿Ŀ驾æĬ¤ èĪª +æĶ¾ çľ¼ +çŁ¥åIJį ä¼ģä¸ļ +ç¸ ® +ç¨ ½ +æļ ĩ +使ç͍ 網路 +é¢Ħ çķĻ +大 象 +åıijæĺİ ä¸ĵåĪ© +æĸĩ 娱 +éĢł ç¦ı +湿 润 +éĿ¢ æĿ¡ +æ¶Īè´¹ åįĩ级 +è®Ĭ å¾Ĺ +åĩł åIJį +ä» Ħ +认 æ¸ħ +è¿ľ æĻ¯ +æıĴ 座 +诸 侯 +åıĺ æĢģ +ç¦ı 彩 +è´§ æŀ¶ +失 æİ§ +ç§»åĬ¨ 端 +ä¸Ĭ åı¸ +éĢł 纸 +å¸ĥ æľĹ +çĴ ĩ +åı° åįĹ +åĮĹ京 åĨ¬å¥¥ +èĵĿ çīĻ +éķ¿ çŁŃ +æĬĺ å°Ħ +ç»ij æŀ¶ +å¯Ĵ åģĩ +转 åŁºåĽł +æĢ¥ äºİ +æŃ£ åĵģ +åħħ 滿 +大 纲 +æĬĹ ä½ĵ +è¨ĵ ç·´ +æĶ¶ ç´§ +æ¯Ķ è³½ +åħµ åĬĽ +æľ¬ æĽ¸ +äºĮ 代 +æĢ¥ è¯Ĭ +æĸĩ æ¡Ī +ç»ı åķĨ +æĻ¨ æĬ¥ +æ£ ĺ +æĢ»ä¹¦è®° åľ¨ +åıĹ éĤĢ +äºĶ åĽĽ +å²Ń åįĹ +çα åIJĥ +åŁĥ å°Ķ +å¿ĥ å¢ĥ +è¦ĨçĽĸ éĿ¢ +å®ŀåľ¨æĺ¯ 太 +æł¹ åºķ +纷纷 表示 +åĹ ħ +éļıçĿĢ æĹ¶éĹ´ +åİĨåı² æĤłä¹ħ +éħ ī +æĢ» éĺŁ +主é¢ĺ æ´»åĬ¨ +éĹ® åį· +é©¿ ç«Ļ +æı¡ ä½ı +åı¯èĥ½ 导èĩ´ +æ°ij éĸĵ +éĸĭ åķŁ +ä½Ĩ ä¸įéĻIJ +ä½Ĩä¸įéĻIJ äºİ +åįģ éĩĮ +å¨ ¥ +æįŁ èĢĹ +çĸı 导 +çݯ æ°§ +ç¥ŀ éĢļ +çα å°Ķ +çαå°Ķ åħ° +æľ´ å®ŀ +å¿« æĬ¥ +æĶ¶ åıĹ +æĪĸ 許 +èĥĮ éĿ¢ +æĸĩåĮĸ ä¼łåªĴ +ä¸ī åĢĭ +æĶ» åĬ¿ +å®ī 举 +å®ī举 å°¼ +åĿĩ å·² +顾 èĻij +éĦ Ń +è¿Ļå®¶ åħ¬åı¸ +åħ¬åijĬ ç§° +æıIJä¾Ľ ä¼ĺè´¨ +稳æŃ¥ æİ¨è¿Ľ +å¤į è¯ķ +å°Ĩ é¢Ĩ +è°Ī èµ· +å¨ Ħ +è¿ŀ 线 +æ©Ł éĹľ +åºĶç͍ åľºæĻ¯ +çĶ» åĥı +è´¢ è¿IJ +ä¿Ŀ éļª +çĹħ çIJĨ +æ¯Ľ 主å¸Ń +ä¸Ŀ 毫ä¸į +çα å¥ĩ +çαå¥ĩ èīº +ä¸ĵå®¶ ç»Ħ +åij¼ åͤ +éĭ ¼ +çģ ¸ +é¢ĨåħĪ åľ°ä½į +æıIJ æĭĶ +龸 éģĵ +å±± åĿ¡ +èĿ İ +沸 èħ¾ +该 项 +ä»Ĭ çĶŁ +ä¸Ģç¯ĩ æĸĩ竳 +æĸ¹å¼ı è¿Ľè¡Į +é»ij 客 +æĶ¹ åĬ¨ +主 é¡Į +æķ£ å¸ĥ +ä»Ģä¹Ī åľ°æĸ¹ +åĮĸ åIJĪ +åĮĸåIJĪ çī© +éĿĻ ç͵ +æĢ» æĶ¶åħ¥ +å§Ķ ç»Ħç»ĩ +å§Ķç»Ħç»ĩ éĥ¨ +éĿĻ æĢģ +èĢģ åŃĹåı· +室 åıĭ +éĥ½ä¸į æķ¢ +æŀ¶ åŃIJ +çģµ æķı +审 è§Ĩ +æĤ£ åĦ¿ +å±± 寨 +èĸª èµĦ +é©° æı´ +éĥ¨åĪĨ åĨħ容 +好 ä¼¼ +æĪIJåijĺ åĽ½ +åľ¨æĪij çľĭæĿ¥ +åħ³æ³¨ 度 +éĻĪ æŁIJ +è¿Ļç§į äºĭæĥħ +éĢī å®ļ +ç²¾ åŃIJ +å£ģ çĶ» +æ±Ł æ·® +é«ĺ æĺĤ +æł¼ åĬĽ +è¼ © +åѦ åłĤ +æĤ¨ åIJĮæĦı +ä¸ĢåĪĩ éĥ½æĺ¯ +æ½ ¤ +éĸ ĥ +å¸ĮæľĽ èĩªå·± +ä¿ ĺ +æ±Ł åİ¿ +æ³ ¾ +ç§ij æķĻ +æīĵ è¿Ľ +ä¸į æħİ +å¯Ĵ åĨ¬ +æ¸Ķ æ°ij +鼷 æĸ¯ +主 å®° +æĹħ游 度åģĩ +ç͵åŃIJ éĤ®ä»¶ +æ±Ĥ å©ļ +éļİ æ®µ +åģ¥èº« æĪ¿ +注æĺİ åĩºå¤Ħ +äºĭæķħ åıijçĶŁ +级 以ä¸Ĭ +åŃĺ æ´» +æĸ½ èĤ¥ +èľľ èľĤ +åµ © +æĮĸæİĺ æľº +æĬĹ æĭĴ +ä¼ł 导 +æĺ¯ä»Ģä¹Ī åij¢ +ä¸Ĭå¹´ åIJĮæľŁ +建 åħļ +çĶŁ æħĭ +ä¿Ŀ ä½ı +款 车åŀĭ +人 èĦī +éļIJ èͽ +失 æķĪ +éģ¿ åŃķ +ç®Ģ 便 +谢谢 ä½ł +å®Ī ä½ı +æĶ¾ æĺł +è¨Ī çķ« +çݰ代 çµģ +é¤IJ 廳 +æķħ å±ħ +大 大å°ı +大大å°ı å°ı +çī¹åĪ« 声æĺİ +éģį åıĬ +å¿ĥçIJĨ åĴ¨è¯¢ +è³ ´ +çĮ® è¡Ģ +å·²ç»ı è¾¾åΰ +æīĵ æĭĽåij¼ +åıĮ è¾¹ +ä¸Ģæĸ¹éĿ¢ æĺ¯ +å´ĩ å°ļ +éĺ¿ å¯Į +éĺ¿å¯Į æ±Ĺ +æĮģ æľī人 +è± ģ +é£İ çŃĿ +åĬ¨ èį¡ +äºĨä¸Ģ ä¼ļ +äºĨä¸Ģä¼ļ åĦ¿ +ä¸ĩ 象 +çľĭ ç͵è§Ĩ +åįģä¸ī æĿ¡ +çĮĽ çĥĪ +è¦ģ ä¸įçĦ¶ +太æŀģ æĭ³ +å¼ķ çĪĨ +ç»ıè¿ĩ å¤ļå¹´ +游æĪı éĩĮçļĦ +é¾Ļ æ³ī +æłĩ éħį +è®ĵ ä»ĸåĢij +éĢł æŀĹ +åĮºåŁŁ æĢ§ +亿 ä¸ĩ +æĪĺçķ¥ å¸ĥå±Ģ +éķĩ æĶ¿åºľ +åĶ® 票 +çĶŁäº§ å·¥èīº +éķĩ åħļå§Ķ +ä¸Ńå°ı åŀĭ +æľ¨ è̳ +æ²³ è¾¹ +èĦ¾ èĥĥ +欢è¿İ æĤ¨ +åıĺ å¼Ĥ +缤 纷 +åŀĥåľ¾ æ¡¶ +辩 è¯ģ +车 åºĵ +æ¯Ķ çİĩ +åħ´ æĹº +详ç»Ĩ äºĨè§£ +å®ī å±ħ +çħ§ æĸĻ +æĸ¹ æīį +èµ ¦ +åĨ ķ +å¥Ķ èµ´ +å®Ŀ 鸡 +åľº åĿĩ +缮åīį æŃ£åľ¨ +åIJŀ åϬ +è¿° èģĮ +æĩ µ +å¥ĩ çijŀ +ä»į å°Ĩ +èĪī 辦 +å·¥åķĨ å±Ģ +å¡ij èĥ¶ +åĬŀ å®ŀäºĭ +æĸ¹ æĸ¹éĿ¢ +æĸ¹æĸ¹éĿ¢ éĿ¢ +æĸĩåĮĸ èĬĤ +åħ¥ èģĮ +é¸ ¥ +ç©¿ éĢı +以 ä¹łè¿ijå¹³ +åį± éļª +æľ¦ èĥ§ +åİĨåı² æĢ§ +æķŀ å¼Ģ +ä¼Ļä¼´ åħ³ç³» +çŁ¿ åĮº +åĽ½éĻħ åľ¨çº¿ +ä¼łå¥ĩ éĩĮéĿ¢ +è¿ij äºĽ +è¿ijäºĽ å¹´ +åĬ£ åĬ¿ +æĶ»åĩ» åĬĽ +æĻº éĢł +ç¦ § +çİĭ åħĪçĶŁ +éĨ« çĶŁ +åĽĽ 项 +å®ŀ æĻ¯ +åĪĿ åĪĽ +å¿ĥ 裡 +æĻ¶ ä½ĵ +交 éĻħ +让 æ¶Īè´¹èĢħ +课 æĸĩ +æİĴ æ°Ķ +å¹¶ä¸į æĦıåij³ +缸 声 +第ä¸Ģ å±Ĭ +åİŁ èijĹ +éĽ ľ +没æľī 太大 +è¡¥ æ°´ +çµģ ä¼ģä¸ļ +第äºĮ æī¹ +åħ¶å®ĥ éĹ®é¢ĺ +æİĮ éŨ +责任 å¿ĥ +é¤IJ åħ· +ç¾Ĭ æ¯Ľ +没æľī å¿ħè¦ģ +ä¹IJ åĽ¢ +è¿Ľ åŁİ +ä¸ĢçĤ¹ åĦ¿ +身 å½¢ +çļ®èĤ¤ çĹħ +æĺ ± +å¢ŀ èĩ³ +èģ² æĺİ +æıIJ è´¨ +ä½ĵèĤ² åľº +çѹ 建 +é¬ Ĩ +车 çīĮ +éļĶ éŁ³ +è´Łè´£ åIJĮå¿Ĺ +丰 ç¡ķ +ä½Ľ éĻĢ +äºī åIJµ +åº ¶ +æ·¡ æ°´ +å°ı çĶ·åŃ© +ç§ģ èĩª +åĮĸ è¿Ľç¨ĭ +æĪĺ士 æĿ¥è¯´ +æ²¹ èħ» +èĦ±è´« èĩ´å¯Į +æĹ¥å¸¸ å·¥ä½ľ +交 èŀį +åĨľ è´¸ +åĨľè´¸ å¸Ĥåľº +åĵĪ çĻ» +ç͵ è´¹ +èµ ĺ +åıĮ èħ¿ +æĵĶ å¿ĥ +æĿ¥ 形容 +使åij½ æĦŁ +éĤ£ä¹Ī ç®Ģåįķ +èĬĻ èĵī +åĢŁæ¬¾ 人 +ç§Ģ 丽 +è®ĵ ä»ĸ +严åİī æīĵåĩ» +è³ ŀ +æļ « +çħ¤ æ°Ķ +çά ä¸Ĭ +æ½ĩ æ´Ĵ +太 ä¹ħ +åij½ åIJį为 +è·¯ çͱ +è·¯çͱ åύ +é© ¯ +æıIJ æĹ© +æĬĹåĩ» çĸ«æĥħ +åĩ Ľ +交 åıĭ +éĶĢåĶ® æ¸łéģĵ +毫ä¸į çĬ¹è±« +èIJ¥ åľ° +çłĶç©¶ 表æĺİ +é±¼ ç±» +æį¢ å±Ĭ +æİ¡ åıĸ +çī Ĩ +缼 å¼Ģ +æ²§ æ¡ij +åºŃ 审 +ç»ı æŁ¥ +åĬł å¼· +缸æ¯Ķ äºİ +ä¸ĵ çıŃ +ä½ĵ åŀĭ +被 害 +被害 人 +æĶ¶ 款 +åħ·æľī èī¯å¥½ +é«ĺå³° æľŁ +åģı ä½İ +åĦ Ł +åĨľä¸ļ ç§ijæĬĢ +ç®Ĭ æĥħåĨµ +å¦Ĥæŀľ çݩ家 +éķ¿ çº¦ +第åħŃ å±Ĭ +åħ¬å¼Ģ æĭĽèģĺ +åĪĩ æĸŃ +è¿« 使 +çĸĹ ç¨ĭ +第äºĮ ç§į +ä¸į åħį +å¹² èѦ +çŁ³ 榴 +åĹ £ +两 ç±» +çε 士 +åŁİ乡 å±ħæ°ij +æŃ¤ 项 +缴 è¾ĸ +缴è¾ĸ å¸Ĥ +åij¼ åºĶ +éĴ ¯ +ç¦ı å¾· +æľº 身 +æĵį åľº +æ¿Ĵ 临 +人群 ä¸Ń +èĤ¡ æ°ij +åŃ ½ +æ³ķ åħ° +é¨ İ +糯 ç±³ +æĢ» çļĦ +æĢ»çļĦ æĿ¥è¯´ +åħ¸ éĽħ +æĸ° éĻĪ +æĸ°éĻĪ ä»£è°¢ +缮 çĿ¹ +é¢Ħ è¨Ģ +è·Į çł´ +æĸ° ç¯ĩ竳 +æ¯Ĵ æĢ§ +åĸĿ èĮ¶ +æŁ¥ èİ· +亮 丽 +çĶŁäº§ åķĨ +æĶ¹ æĪIJ +为äºĨ æĽ´å¥½ +æ·± 交 +深交 æīĢ +æİ ĥ +ä¹Ļ èĤĿ +泸 å·ŀ +åħĪè¿Ľ æĬĢæľ¯ +è¾ĵ ç»Ļ +æķ£ æĪ· +æĢĿç»´ æĸ¹å¼ı +åºĹ 主 +è°ĭ æ±Ĥ +游æĪı æĬĢå·§ +ä¸Ģå¹´ 级 +çľ¼ è§Ĵ +ä¸Ńä»ĭ æľºæŀĦ +å·§ åIJĪ +éĺ² çĽĹ +导 è´Ń +æĪ Ĭ +æĽ´ éĢĤåIJĪ +åŁºæľ¬ ä¿¡æģ¯ +马 ä¸ģ +åħ»æ®ĸ åľº +åıį è¿ĩæĿ¥ +æİ¨ å´ĩ +å¯ĨåĪĩ åħ³æ³¨ +åŁºéĩij ç»ıçIJĨ +æĮī éĶ® +åĨħéĥ¨ æİ§åζ +æĪIJåijĺ åįķä½į +æľ¯ è¯Ń +åζ æľį +åĪļ éľĢ +æ£Ģ ç´¢ +大大 æıIJé«ĺ +åģ¥åº· 管çIJĨ +èĩª æŃ¤ +客æĪ· éľĢæ±Ĥ +丰 èĥ¸ +èµ· éĩį +èµ·éĩį æľº +æ¬ł 缺 +æ¡Ī åŃIJ +æĥħ人 èĬĤ +åħļ æł¡ +è¢ ľ +该 åī§ +迷失 ä¼łå¥ĩ +ç»ļ 丽 +åķ ª +æĹł ç§ģ +é̲ ä¸ĢæŃ¥ +第ä¸Ģ 竳 +åύ åħ· +åĨľ èµĦ +確 實 +åºı åĪĹ +娱ä¹IJ å¹³åı° +èŀįèµĦ ç§Łèµģ +èµĦæºIJ åħ±äº« +èģ½ åΰ +æIJŀ å¾Ĺ +ç»§ç»Ń ä¿ĿæĮģ +åIJ¯ èĴĻ +çľ º +ä¸Ŀ è·¯ +设æĸ½ 建设 +æİ¥ åľ° +æİ¥åľ° æ°Ķ +第ä¸ī åŃ£åº¦ +åŁº è°ĥ +åıij éŁ³ +社ä¼ļ èµĦæľ¬ +éĽĩ 主 +è¿ŀ èĥľ +没 åķ¥ +å» ¢ +èµ¶ èµ´ +æ¼Ķ åĮĸ +åı¤ æĢª +çİĭ çĪ· +é¢Ħ åħĪ +å¼Ģ åħ· +åĽŀ é¦ĸ +åľ°ä¸ĭ æ°´ +å°ıç¼ĸ ä¸Ģèµ· +èµİ åĽŀ +åľ° è²Į +åĪĿ ä¸ī +åı¯ ç͍äºİ +éģĹ è¿¹ +è¿Ļ æī¹ +èĸª æ°´ +å¿ħçĦ¶ ä¼ļ +æ² ½ +éį ĭ +第ä¸Ģ éĥ¨ +åĪĬ çī© +å®ŀ ä¾ĭ +æ¸ħ åĩĢ +ä¸Ĭ èµĽåŃ£ +åĽ¾ 表 +éĤ® è½® +åĵª 裡 +缸 è§ģ +æī° ä¹± +æ¯ı æ¯ı +è¿Ļ è¾ĪåŃIJ +ç¡« éħ¸ +äºī 缸 +溯 æºIJ +åĩº ä¼Ĺ +çİī çŁ³ +åħ± çĶŁ +æĹ¶éĹ´ 段 +éĩįè¦ģ æĮĩ示 +æ¶Īè´¹ éľĢæ±Ĥ +éķ¿ éķ¿ +éķ¿éķ¿ çļĦ +å®ī æĬļ +å¢ŀ é«ĺ +æľ¬ è½® +亲 çľ¼ +é£İ æ³¢ +èĢģ å¦Ī +æĶ¶è´¹ æłĩåĩĨ +åĨħ éĻĨ +æĮ¥ åıij +åįĩ åѦ +èĥ¸ åīį +åģı è¿ľ +纯 æ´ģ +æĸ½å·¥ åįķä½į +身 ä»· +è´¢ åĬĽ +çº ¶ +è£ħ çͲ +æĺ¾ç¤º åύ +毫 åįĩ +æ·± çŁ¥ +è̶ ç© +èĢ¶ç© Į +è¾ĥ éĩı +åľ¨ è¿ĩ渡 +åľ¨è¿ĩ渡 æľŁ +èĮ Ĺ +ä¸Ģ个 æĺŁæľŁ +èĬ · +è´¿ èµĤ +æ¿ ķ +æĩĤ äºĭ +ç§ § +åħħ å½ĵ +åĽ½ ç«ĭ +èĬ± çĵ£ +éĤĦ è¦ģ +åħ¬ åľĴ +触 åĬ¨ +æ³° å·ŀ +ä»Ģä¹Ī æł· +æ»ĭ åħ» +è¯Ħ åΤ +æĮ¥ æīĭ +èĦ Ī +å§¥ å§¥ +è¿IJ è´¹ +æ¯ħ åĬĽ +å¿ĥ æĻº +ä¸į æİĴéϤ +第ä¸ī 代 +éĢĢ è´§ +æĺŁ éĻħ +æ°¸ åĪ© +æĬ¤ åį« +çıŃ è½¦ +è¨Ģ è¡Į +ç¹ ª +主åĬ¨ æĢ§ +å·¥ç¨ĭ è´¨éĩı +éĥĬ åĮº +ä¸Ģ æłĭ +ä½Ĩ å®ŀéĻħä¸Ĭ +ä¸ī大 èģĮä¸ļ +åij¼ åı« +女 åħĴ +è¯ģåΏ æĬķèµĦ +èĢĥ æħ® +çĤ« èĢĢ +æ²» 好 +åĺ ¶ +èĥ ¤ +åħīä¼ı åıijç͵ +åĩł æŃ¥ +æīĢ æīĢ +æīĢæīĢ éķ¿ +çħ§ æł· +åĵ¥ 们 +è¯ Ľ +è¿Ļä¸Ģ åĪ» +çŁ¿ çī©è´¨ +ä¸įå¾Ĺ å·² +åIJĮ 缣 +ç»Ĩ å¾® +è·¯ èĻİ +çϾ èĬ± +æ·· æ²Į +ä¸Ĭæµ· è¯ģåΏ +éĢĢ ç¨İ +èµŀ åı¹ +æī®æ¼Ķ 游æĪı +åIJį åĪĹ +åIJįåĪĹ åīį +åIJįåĪĹåīį èĮħ +ç±³ å°Ķ +ä»Ģä¹Ī åİŁåĽł +å®īåħ¨ ä¿Ŀéļľ +ä¸Ģåıª æīĭ +ä¹³ ä¸ļ +ä¸į çĶĺ +æĥħ åķĨ +æĮ¡ ä½ı +åİŁåĽł ä¹ĭä¸Ģ +è¿Ļ 两天 +çĥĺ çĦĻ +è± ¬ +ä½ł 以为 +没 è§ģè¿ĩ +åĵªå®¶ 好 +åīį ä»» +è¿Ľ è´§ +éĢĢ åĽŀ +串 èģĶ +èĩ³ æĸ¼ +åĨ° æ·ĩ +åĨ°æ·ĩ æ·ĭ +æŁ¥çľĭ 详æĥħ +çı¾ 實 +æİ¨ æµĭ +æİ¥ æīĭ +éļ¶ å±ŀäºİ +åŁİå¸Ĥ 群 +æĿİ åħĪçĶŁ +çŁ¿ æ³īæ°´ +çī¹ ä»· +æĽ´å¤ļ 精彩 +ç¨ĭ å¼ı +读 æĩĤ +å±ı èͽ +奥 æŀĹ +奥æŀĹ åĮ¹ +奥æŀĹåĮ¹ åħĭ +红 èĸ¯ +å¥ ® +å®Ŀ çİī +ç¶² 絡 +è² § +欧 å¼ı +çϽ ç³ĸ +èĩªçĦ¶ çģ¾å®³ +åijĬè¯ī 她 +å» ļ +çĤ¹åĩ» æŁ¥çľĭ +é£İ 湿 +èµĦ产 éĩįç»Ħ +ä¹Łä¸į ä¾ĭå¤ĸ +åįĬ 个å°ıæĹ¶ +åIJ¸å¼ķ æĽ´å¤ļ +æĹ¶éĹ´ èĬĤçĤ¹ +æĶ¶ 纳 +åIJ¸ æ¯Ĵ +èĢģ 乡 +çIJ ħ +æľĢ çµĤ +åıį æĦŁ +ç͍ 微信 +çĶ¨å¾®ä¿¡ æī« +éĢŁ çİĩ +大 çĨĬçĮ« +åı¯ æĥ³ +åı¯æĥ³ èĢĮ +åı¯æĥ³èĢĮ çŁ¥ +åĴ § +èµ° åħ¥ +碳 éħ¸ +èĮĥ åĨ° +èĮĥåĨ° åĨ° +被 åΤ +积æŀģ æİ¨åĬ¨ +è¶³ è¶³ +ç²Ĵ åŃIJ +大 å®Ĺ +大å®Ĺ åķĨåĵģ +ç½ij绾 ç§ijæĬĢ +æĽ¼ åŁİ +å·² ä¹ħ +å·²ä¹ħ çļĦ +秦 çļĩ +秦çļĩ å²Ľ +ä»» æķĻ +å͝ ç¾İ +æ·¡ åĮĸ +æ¡Ĥ èĬ± +çŁ¥è¯Ĩ åĪĨåŃIJ +æĩĴ å¾Ĺ +主 åħ¬ +设计 çIJĨ念 +è³ º +æīĢ æıIJä¾Ľ +æīĢæıIJä¾Ľ ä¹ĭ +æĶ» åħĭ +åĤ ¾ +è¯Ń æ³ķ +åįĥ åı¤ +éĸĭ æĶ¾ +第ä¸Ģ èĬĤ +éĤĦ æ²Ĵ +éĢĥ çĶŁ +æ³ Ĺ +åİ¿ å§Ķ书记 +ä½ľèĢħ æīĢæľī +çħ ½ +ç» ħ +æł ħ +æľ´ ç´ł +çijķ çĸµ +åĮħ åĮħ +æ°ij主 åħļ +ä¸į è¿ľå¤Ħ +å¥ĩ å¼Ĥ +åĺ» åĺ» +æī ¼ +ç¿» å¼Ģ +æĢİ èĥ½ +éģ´ éĢī +è§£ éĩĭ +å¹¼ ç¨ļ +è¦ģ 好好 +è¶´ åľ¨ +ç´¢ åıĸ +ç»Ī çĶŁ +åħ¨ æµģç¨ĭ +éģ© çķ¶ +åįıè°ĥ åıijå±ķ +æĬ¥ ä»ĩ +ç§ijæĬĢ åĽŃ +ä»Ģä¹Ī éĥ½ä¸į +æľĢåIJİ ä¸Ģ次 +ç»Ļ人 ä¸Ģç§į +æł¸ å®ļ +被 åĪĹåħ¥ +æĦı æĥ³ä¸įåΰ +èĢĥ æŁ¥ +åľ¨æŃ¤ ä¹ĭåīį +æīĵ çIJĥ +è¶ĬæĿ¥è¶Ĭ å°ij +å®ļ å¾ĭ +è¡ĮæĶ¿ æľºåħ³ +ä½ıæĪ¿ åħ¬ç§¯ +å°ıå§IJ å§IJ +ä¸ī èı± +ä¿® è¡¥ +èŀĥ èŁ¹ +西 çͲ +æĢ ł +çŃī å¤ļ项 +产ä¸ļ éĽĨèģļ +ä»·æł¼ ä¸Ĭ涨 +åħ¬åħ± åľºæīĢ +è¢ĭ åŃIJ +æĨ§ æĨ¬ +çļĦæĸ¹å¼ı æĿ¥ +åΰ è´¦ +çģ ½ +å·´ èı² +å·´èı² çī¹ +æ¼Ķ ä¹ł +èŃ¦ç¤º æķĻèĤ² +çķı æĥ§ +å¼ķ æµģ +æĶ¶ æĶ¯ +å±Ĥ åĩº +å±Ĥåĩº ä¸į +å±Ĥåĩºä¸į ç©· +æijĩ æ»ļ +辦 çIJĨ +纵 è§Ĥ +æķij æµİ +å®¶ éĥ½çŁ¥éģĵ +åĮ ¯ +å°ı 鸣 +ä»» åĭĻ +计 åħ¥ +ç«ŀ éĢī +å¼ĢèįĴ æĹ¶æľŁ +åij¨ æģ© +åij¨æģ© æĿ¥ +交 ç»ĩ +çķ¢ æ¥Ń +æł¹æį® èĩªå·± +æĸ°äºº çݩ家 +åѵåĮĸ åύ +éĩĩ æļĸ +å¹³åĿĩ æ°´å¹³ +åħ¬å¼Ģ 课 +失 åĪ© +伺 æľį +çĬ ģ +忽 æĤł +主è¦ģ éĽĨä¸Ń +æ¤į æłij +æ¯Ĺ éĤ» +èĩº çģ£ +åĩºåĽ½ çķĻåѦ +æĬĹ éľĩ +æĥ© æĪĴ +å¹´åºķ åīį +åĴ¸ éĺ³ +æ°ij å±ħ +大çIJĨ çŁ³ +éĿ ³ +éķ ĸ +æ¸ħ è¿ľ +è£ħ è½½ +èĩ Ģ +å½± ä¸ļ +å¼Ł åħĦ +æĤ² è§Ĥ +çĿĢçľ¼ äºİ +æįį åį« +åī¥ å¤º +ç¯ Ĩ +å¾Ī éķ¿æĹ¶éĹ´ +è¥ Ł +第ä¸Ģ çϾ +ä¸ĢåĪĨ éĴ± +æĸ°éĹ» è®°èĢħ +éķ· æľŁ +æ³ķ æĪĺç»ĦåIJĪ +è°ģ çŁ¥éģĵ +èħ° éĥ¨ +æ±ī åł¡ +åħ¥ çĿ¡ +åįĸ æİī +æ¶Īè²» èĢħ +æĥ¯ ä¾ĭ +æĥ³ äºĨ +æĥ³äºĨ æĥ³ +èĢģæĹ§ å°ıåĮº +ä¼ł è¨Ģ +åĪĨæķ° 线 +æµģ 泪 +ç»Ħç»ĩ é¢Ĩ导 +äºļ åĨĽ +å¢ŀå̼ æľįåĬ¡ +å¾ ¹ +ä¼ ¶ +äºĽ 许 +å¸ĥ èݱ +强 æĤį +宫 å»· +绿 èĮ¶ +åĮ ¡ +å¾Ī æŃ£å¸¸ +æĺ¥ å¤ı +æ¯ Ļ +è¯Ħ æ¯Ķ +åĩ¡ äºĭ +æĬī æĭ© +åĢĴ éľī +éĩį 度 +åįıä¼ļ ä¼ļéķ¿ +å¿§ èĻij +ä¸ĭ ä¸Ģç¯ĩ +沪 æ·± +æĪ İ +æīĵ ä»Ĺ +åįĪ é¥Ń +å¹´é¾Ħ 段 +ä¸ŃåĽ½ è¶³çIJĥ +设计 æĸ¹æ¡Ī +åºĶç͍ æŁ¥çľĭ +é¢Ħ æĸĻ +åĹ ¡ +ç¥ĸ çζ +çļĦä¸Ģ åijĺ +æ´Ĺ å¹²åĩĢ +åİĨåı² æĸ° +åİĨåı²æĸ° é«ĺ +çĭ¬ åħ· +æħĭ 度 +æīĵ 交 +æīĵ交 éģĵ +é»Ħ çŁ³ +çĽ¼ æľĽ +çī§ åľº +转 弯 +åįĩ åįİ +åĨį ä¹Łæ²¡æľī +èĭ± æīį +æĽ´ åIJį为 +åĢŁ ç͍ +çºł éĶĻ +ç»Ŀ对 ä¸įä¼ļ +çİĭ çīĮ +çĽĨ åľ° +失 è°ĥ +好 象 +é³ ¥ +ä¿Ŀ ä¿® +åĽĽä¸ª èĩªä¿¡ +头 çļ® +åİŁ åīĩ +æĬ¥ æ¡Ī +奴 éļ¶ +å³ Ļ +è°ĥ æĸĻ +ä¹Ł 許 +èIJ½ åΰ +èIJ½åΰ å®ŀ +èIJ½åΰå®ŀ å¤Ħ +çĦļ çĥ§ +çĶŁæ´» çݯå¢ĥ +åºĶ åıĬæĹ¶ +è¶Ĭ è¿ĩ +æĦŁ è¬Ŀ +æĻ¯ å¾· +æĻ¯å¾· éķĩ +çĬ Ģ +身 éĤĬ +ç¨İåĬ¡ æĢ»å±Ģ +åĩĢ åľŁ +ä¾µ åįł +åĬ¨ å·¥ +å¹´ ä¹ĭ +å¹´ä¹ĭ ä¹ħ +第äºĮ èĬĤ +åĬ¨çī© åĽŃ +第ä¸Ģ 书记 +éħ ļ +çĶŁäº§ 设å¤ĩ +æŁIJç§į ç¨ĭ度 +åľ Ń +åĩŃåĢŁ çĿĢ +éĺħ è§Ī +çϽ æ²Ļ +æ²¹ çĥŁ +çªģçł´ åı£ +åıĹ å½±åĵį +åı¯ä»¥ æĽ´å¥½ +å³° å̼ +æĿĤ è´¨ +宿 è¿ģ +çĽĺ æ´» +æ¿Ģ èµ· +åĦ¿ ç§ij +åĿIJ èIJ½åľ¨ +æĮª å¨ģ +æµ· å²Ľ +绣 绣 +éĻ ¨ +ä¼ĺ äºİ +å°Ī å®¶ +ä¸Ģ éĤĬ +èIJ Ĭ +äºĨä¸Ģ åı£ +æ²ĥå°Ķ æ²ĥ +æŃ£å¸¸ 使ç͍ +æĻ®éģį åŃĺåľ¨ +丰 满 +çĶ» åį· +åºĶ æĶ¶ +åºĶæĶ¶ è´¦ +åºĶæĶ¶è´¦ 款 +å®Įæķ´ çĥŃ +å®Įæķ´çĥŃ æ¦ľ +注 è§Ĩ +çĨ Ħ +èº ¬ +éĶĢåĶ® 人åijĺ +è¶ĭ åIJij +çĦ¦ æĢ¥ +åįģå¹´ åīį +ä¼łç»Ł 产ä¸ļ +質 éĩı +åĩ¤åĩ° ç½ij +èµĦæºIJ æķ´åIJĪ +æ¶Į åħ¥ +æĸĩåĮĸ ä¼łæĴŃ +çķĮ 第ä¸Ģ +æ°´ æ³µ +宫 殿 +æİ¢ 寻 +ä¿® åīª +æĦı è¦ĭ +ç´Ĭ ä¹± +æĽ ī +çϽ è¡£ +èĻİ åį« +ç´§ æī£ +å¤Ħå¤Ħ éķ¿ +åĪĽå»º å·¥ä½ľ +红 æŀ£ +饼 å¹² +äºĨ åįĬ天 +ä¼ļå½±åĵį åΰ +çĽ¸ä¿¡ 大家 +èħ¾ é£ŀ +å°± å¦ĤåIJĮ +ä¸ĭéĿ¢ å°ıç¼ĸ +æ°ijèIJ¥ ç»ıæµİ +æĻ ¦ +è£ħ æī® +é»ij å¤ľ +常 å¾· +å·¥ä¸ļ 大åѦ +æĺİ çŁ¥ +éĺŁåijĺ 们 +åIJ¬ 课 +æ¯ı éļĶ +羣æĺ¯ 太 +åIJĪä½ľ åħ±èµ¢ +çIJĨ åıij +æīį å¹² +çľĭ èµ·ä¾Ĩ +殿 ä¸ĭ +å®ī éĺ³ +æīĢ äº§çĶŁçļĦ +éĽĩ ä½£ +æĬ¬èµ· 头 +æį® æĬ¥éģĵ +éļĨéĩį 举è¡Į +交 éĶĻ +è¶ħ é¢Ŀ +åĮĸ çĸĹ +é¡ Ĩ +纵 æ·± +çĪ±åĽ½ 主ä¹ī +éĻ¢ åī¯éĻ¢éķ¿ +è® ³ +羣æŃ£ åģļåΰ +åѤ åįķ +èĩªçĦ¶ èĢĮ +èĩªçĦ¶èĢĮ çĦ¶ +ä¿® 身 +èĬ ¹ +æģ¯ æģ¯ +æģ¯æģ¯ 缸åħ³ +驾 æł¡ +æİ© 饰 +æ³½ è¿ŀ +æ³½è¿ŀ æĸ¯åŁº +举 æŃ¢ +管çIJĨ ä½ĵåζ +åħ¶ä¸Ń ä¹ĭä¸Ģ +æĿ¾ å¼Ľ +æĭ¦ æĪª +åį« åģ¥ +åį«åģ¥ å§Ķ +ä»İ åݻ年 +åĤ ¢ +è´Ń 票 +åĽ¾ æłĩ +æ²³ 西 +æ°ijæĶ¿ å±Ģ +ç§ģ èIJ¥ +å¤ĸåĽ½ è¯Ń +å¹² è´§ +æĵ¦ æĭŃ +åľ° ä¸Ń +åľ°ä¸Ń æµ· +æµĵ æµĵ +æµĵæµĵ çļĦ +å§ĭ 建 +å§ĭ建 äºİ +ç¶ĵ æŃ· +è·¯ æ¼Ķ +æļ´ é£İ +åŁº è¾ħ +æī¶è´« å·¥ä½ľ +ä¸Ģ缴 å¤Ħäºİ +æĥħ è¶£ +äºĮ åŃ£åº¦ +åİĮ æģ¶ +顺åĪ© å®ĮæĪIJ +æŁ¥ å°ģ +é¡¶ 端 +ä¸į åŃķ +ä¸Ģ大 åłĨ +被 æ·ĺæ±° +æĺ¯ ç͍æĿ¥ +æľĢ åIJĪéĢĤ +亮 çľ¼ +å¹¶ä¸įæĺ¯ å¾Ī +ç§ijçłĶ éĻ¢ +ç§ijçłĶéĻ¢ æīĢ +ç² Ł +é¢Ī éĥ¨ +é»ĺé»ĺ åľ° +é«ĺä¸Ń çĶŁ +æĹıèĩªæ²» åİ¿ +æķĻåѦ è´¨éĩı +æĪĺ çģ« +åĿİ åĿ· +æIJŃ ä¹ĺ +è¯Ĺ æĦı +åĪij èѦ +åĩº æ±Ĺ +åįģåħŃ æĿ¡ +请 åıĬæĹ¶ +åĨľä¸ļ 大åѦ +èIJ½ åı¶ +æĢ» èĢĮè¨Ģ +æĢ»èĢĮè¨Ģ ä¹ĭ +æĿľ åħ° +æĿľåħ° çī¹ +éĻª ä½ł +åħ¬ æĬ¥ +çķĻè¨Ģ æĿ¿ +éĺħ åİĨ +ç«¶ çĪŃ +ç»Ļ åĪ«äºº +æĹ¥æĬ¥ 社 +åĿIJ èIJ½ +åĿIJèIJ½ äºİ +éĩij åŃĹ +éĩijåŃĹ å¡Ķ +åĽ ¤ +è¯Ŀ åī§ +æĮģç»Ń æİ¨è¿Ľ +æ¼ı æ°´ +詳 ç´° +æĢĢ æĬ± +åıĺ å¹» +饥 饿 +éļIJ 身 +个 èµĽåŃ£ +åĵ¡ å·¥ +æģ¢å¤į æŃ£å¸¸ +äºĨ 好å¤ļ +æĺŁ å·´ +æĺŁå·´ åħĭ +åħī çݯ +å¸ħ åĵ¥ +çϽ éĽª +ç¨į ç¨į +计 æıIJ +æĦĽ æĥħ +éİ ĸ +ä¿¡ éĺ³ +è§Ģ å¯Ł +å¦Ĥæŀľä½ł æĥ³ +缸æ¯Ķ ä¹ĭä¸ĭ +è§£ å¼Ģ +æīĵåį° æľº +身 躯 +ç²¾ç¥ŀ æĸĩæĺİ +èĤ¡ æĮĩ +å¾® åĪĽ +红 èĮ¶ +èĩ´ çĻĮ +æģ© æĸ½ +èħ¿ éĥ¨ +大åŀĭ å¤ļ人 +å®ī åĢį +è¾ħ导 åijĺ +èĪª éģĵ +å¸ĥ å°Ķ +åįĹå®ģ å¸Ĥ +ä¸ĬçıŃ æĹı +ä¾§ ç»ĵæŀĦæĢ§ +追 éļı +å½ĵåľ° æĶ¿åºľ +èµ° åĩºæĿ¥ +éĩijèŀį ä¸ļ +丼 书 +é¡¹çĽ® ç»ıçIJĨ +è¿ĩ æĪ· +骨 æŀ¶ +è¡ Ļ +ä»Ģ 麽 +èħ ĭ +è¦ģ 害 +åľ¨ åºĬä¸Ĭ +代è¨Ģ 人 +並 å°ĩ +åIJĦ个 æĸ¹éĿ¢ +è°´ è´£ +åħ± æĮ¯ +åį³å°Ĩ åΰæĿ¥ +èĤº çĻĮ +ä¾Ľ éĶĢ +丼 æŀĹ +èµ ĥ +åįģä½Ļ å¹´ +åĭĺ æİ¢ +飵 åij³ +èĭ¦ ç¬ij +æľĢ大 ç¨ĭ度 +éĩįçĤ¹ åħ³æ³¨ +ä¹ĭ 举 +满 æĢĢ +åıĹåΰ å½±åĵį +æĭĽ æĬķæłĩ +è¡¥ é½IJ +西 红 +西红 æŁ¿ +é¬ § +è£ħ åᏠ+éĤ» éĩĮ +èĤĩ äºĭ +æİĴ æ¯Ĵ +åѤ åĦ¿ +鼶 è·Ŀ离 +å®ŀ å¹² +çľĭ æŁ¥çľĭ +æĶ¶è´¹ ç«Ļ +ç» · +åħ¬çĽĬ æĢ§ +éĢĴ ç»Ļ +æĶ» æīĵ +æĺŁçº§ éħĴåºĹ +æĺİ åªļ +ç፠ç«ĭ +è¯Ŀè¯Ń æĿĥ +ä¸ĢæŃ¥ ä¸ĢæŃ¥ +书æ³ķ å®¶ +æľªç»ı æİĪæĿĥ +çŁ³ èĨı +åĩŃ ä»Ģä¹Ī +çļĦ æĹ¥ +çļĦæĹ¥ åŃIJéĩĮ +诱 人 +çϾåĪĨ çϾ +èĪĪ è¶£ +å¼ł åħĪçĶŁ +èĢģçĪ· åŃIJ +æ³¢ çī¹ +åŁºéĩij 份é¢Ŀ +æ²Ļåıij ä¸Ĭ +å¥ĭæĸŠ缮æłĩ +æ°¢ èĥ½ +æ²ĥå°Ķ çİĽ +義 åĭĻ +éŁ³ ç®± +æ²ī 浸 +æ²ī浸 åľ¨ +èĭ± åľĭ +çģ¯ çģ« +è¿Ľ 项 +两 端 +ä¹Ķ 丹 +èĦ¸ é¢Ĭ +åıijå±ķ æ½ľåĬĽ +åĭķ ä½ľ +åĵĪ ä½Ľ +å®´ ä¼ļ +æ§ į +ç«ĭ å¿Ĺ +ç¡ķ士 åѦä½į +åĭĭ 竳 +è¿Ļ åľºæ¯ĶèµĽ +æĮģ å¹³ +éķĢ éĶĮ +èĭ± çī¹ +èĭ±çī¹ å°Ķ +æķĻ èģĮå·¥ +åĬŁ åĬĽ +该 æ¡Ī +ä¸Ģ æ¢Ŀ +åĺī å¹´ +åĺīå¹´ åįİ +è¿« ä¸įåıĬ +è¿«ä¸įåıĬ å¾ħ +è¿Ļ个 æĹ¶ä»£ +精彩 æĴŃæĬ¥ +人 èĦ¸ +人èĦ¸ è¯ĨåĪ« +æ£Ģå¯Ł å®ĺ +å°ı èħ¿ +éĨĴ 缮 +åħļ æĢ» +åħļæĢ» æĶ¯ +æĪ Ł +èĮ« çĦ¶ +è±Ĩ æµĨ +主 æ²» +éĿĴæµ· çľģ +åĪijäºĭ 责任 +çł ° +ä¹ĭ æ¬ĬåĪ© +äºĶ å®ĺ +è¿· æĥij +åħ¥ åºĵ +å®¶ 纺 +å¼¹ ç°§ +åįģäºĶ æĿ¡ +ç»Ļ å®Ŀå®Ŀ +èĪªç©º èĪªå¤© +å¾Ģ å¤ĸ +å¼ķ åĬĽ +çľ¼ çļ® +æ¶ī è¶³ +æĿ¥ 宾 +åľ¨çº¿ è§Ĵèī² +çĥŃ éĶĢ +æµģ éĢĿ +泡 泡 +éĻį å¹ħ +è´ŁéĿ¢ å½±åĵį +红 楼 +红楼 梦 +éļĶ çĿĢ +ä¾¥ 幸 +许 ä¹ħ +åĴĮ çĿ¦ +èŃ ½ +使ç͍èĢħ æĪĸ +ä¹° åįķ +è¿ ´ +é£İ æīĩ +æķĻ å¸« +æ¡ĮåŃIJ ä¸Ĭ +å¾Ī æ¼Ĥ亮 +åł± å°İ +第ä¸Ģ åŃ£åº¦ +ç©© å®ļ +æĤ² åĵĢ +çĿĢåĬĽ æīĵéĢł +æĮ Ł +è·¯ æ¡¥ +åij IJ +åľ£è¯ŀ èĬĤ +çļĩ åŃIJ +ä»ĩ æģ¨ +éħĿ éħ¿ +ä¸į éĹ´ +ä¸įéĹ´ æĸŃ +æĮĩ å°ĸ +ä¸ŃåĽ½ ç½ij游 +åŀ £ +æĦıè§ģ 建议 +æ¯ħ çĦ¶ +亮 度 +èģĶ è°Ĭ +å½ķ åħ¥ +åĦ ² +å¨ĺ å®¶ +ç§ij å°Ķ +ä¹Łæ²¡ ä»Ģä¹Ī +æł¹æį® ä¸įåIJĮ +åı¶ ä¿® +å̼ å®Ī +æľ« 端 +åĪ ¨ +åĤµ åĭĻ +èģ¯ åIJĪ +å¥ĩ å¹» +èĻļ æŀĦ +é»Ħ æĺı +å¹³ åĿ¦ +æµģ æ°ĵ +æĸ° åŁºå»º +æĮ½ æķij +åįİ å°Ķ +åįİå°Ķ è¡Ĺ +æľĢ åıĹæ¬¢è¿İ +ç»Ń 约 +å¼Ĭ 端 +éŃĶ æ³ķå¸Ī +éŃĶæ³ķå¸Ī åĴĮ +åħ·ä½ĵ åĨħ容 +çIJī çĴĥ +æī© 容 +èĮ¶ åĽŃ +主ä¹ī èĢħ +ç«ĭ éĿ¢ +æİ¥åıĹ éĩĩ访 +åĩº åħ¥å¢ĥ +ç§ij åįı +éĴ ³ +çµIJ æ§ĭ +ç»ĵæŀľ æĺ¾ç¤º +åı° è´¦ +å°± æĿ¥çľĭçľĭ +èĩª æķij +åıį æĩī +åİ» åĵªåĦ¿ +è¿Ļ é¦ĸ +è¿Ļé¦ĸ æŃĮ +åIJ¬ ä¼Ĺ +å¤ĸ 壳 +ä½ĵèĤ² é¦Ĩ +實 æĸ½ +èŀº ä¸Ŀ +æĭī åįĩ +çĮĽ åľ° +åħ¨åĽ½ 人æ°ij +æĤī å°¼ +æĹı 群 +åĽ¢ åijĺ +两个 å°ıæĹ¶ +åľ¨ çݩ家 +åľ¨çݩ家 ä¸Ń +çĶľ çĶľ +æĬķ è¡Į +åįĶ æľĥ +éĻ ¡ +åĬłå·¥ åİĤ +æ¦Ĩ æŀĹ +æŃ» è§Ĵ +åĨħ å¹ķ +æīĢæľī æĥħèĬĤ +åĪ· åį¡ +æ°´ èĤ¿ +èĥĥ åı£ +å«Į å¼ĥ +æ²® 丧 +ä¸īå¹´ 级 +æ¶Ĥ å±Ĥ +å¿ĥ 仪 +å¿ĥ仪 çļĦ +å¤ Ń +é¦ĸ è½® +æĹłè®ºæĺ¯ åħ¶ +éĢı æ°Ķ +äºĮ åįģäºĶ +ç® « +åĬŁ åĬ³ +çѾ ä¸ĭ +æ²ī è¿· +æķij åij½ +éĹª éĹª +åIJĥ äºı +å±ķ åĵģ +åį³æĹ¶ åıijçĶŁ +ç¶ ľ +ç¶ľ åIJĪ +æłĩ æĺİ +çľĭ ç͵影 +åħ¬ 竳 +éĺ¿ æ£® +éĺ¿æ£® 纳 +身 åĪĽéĢł +身åĪĽéĢł çļĦ +æ¸Ľ å°ij +å̼å¾Ĺ åħ³æ³¨ +鼶åĶ® åķĨ +æįĨ ç»ij +è¸ı åħ¥ +èĽ Ł +æŁ´ 纳 +èĢģ åħµ +绿èī² çݯä¿Ŀ +é¹ Ń +麻 æľ¨ +æıŃ çīĮ +è¿Ļ款 车 +ç¾İ å¾· +ç¾İå¾· åħ¬åı¸ +æ¶ § +è°ģ çŁ¥ +æ´ĭ èij± +æ¯į æł¡ +ä¸Ģ éĹª +çĶ· 主è§Ĵ +æĹłçº¿ ç͵ +å±ł å®° +æĺ¯ éŁ©åĽ½ +æĺ¯éŁ©åĽ½ 娱 +容 è²Į +åĿĩ 使åħ¶ +太 å¿« +å¹´ çͱ +å¹´çͱ 缼 +èĭ¦ èĭ¦ +åĬĽ è¿ĺæĺ¯ +åĬĽè¿ĺæĺ¯ èĩª +æĨ © +èģ¯ çµ¡ +åĶ ¾ +åħ·æľī æĪĺ士 +追 éĹ® +åłĨ æĶ¾ +åıį 驳 +å®ŀäºĭ æ±Ĥ +å®ŀäºĭæ±Ĥ æĺ¯ +åѸ éĻ¢ +åįģ åĩłä¸ª +æķij æĬ¤ +æķijæĬ¤ 车 +ç½ij绾 ä¼łæĴŃ +åįģåħ« å±Ĭ +éĥ¨ åī¯ +éĥ¨åī¯ éĥ¨éķ¿ +çĹ´ è¿· +管çIJĨ æĿ¡ä¾ĭ +èŀį 为ä¸Ģä½ĵ +æĢ» 产å̼ +è³ ĵ +ä¸ĥ æĺŁ +çıŃ ç»Ħ +绣 é¢Ĩ +请 大家 +éĩij éϵ +èĪħ èĪħ +æµ· æ¹¾ +æĸ½ çŃĸ +享 èªī +éº ¥ +端 åįĪ +绿 åŁİ +確 ä¿Ŀ +å·´ æĭī +åĨĴ çĿĢ +æħ· æħ¨ +个人 è§ĤçĤ¹ +ä¹Ļ çĥ¯ +ç¡ħ è°· +éĸĭ å±ķ +å°ļ 书 +åĿļ 飧 +åº µ +èĢģ é¾Ħ +èĢģé¾Ħ åĮĸ +羨 çľ¼ +绿 æ°´ +绿水 éĿĴå±± +书 é¦Ļ +主åĬĽ åĨĽ +æīįæĺ¯ 羣æŃ£ +æĬ¢ åħĪ +æĪIJå°± æĦŁ +éĩį æŀĦ +éĴ¢ åİĤ +æĪIJ 份 +èĬ± 纹 +ä¹ĭ äºī +å¹² ç»Ĩèĥŀ +æĹ¢ åı¯ä»¥ +ç¹ģ çIJIJ +æĦļ èł¢ +éĿŀ常 æĺİæĺ¾ +ä½ĵ 彩 +æĬĢ æ³ķ +æĿĨ èıĮ +å¹¿æ³Ľ åħ³æ³¨ +åĮĹ å®ĭ +å§Ĭ 妹 +åįı åĬŀ +æ·® åįĹ +çĥ ı +æ´Ĺ èĦ¸ +åıĹ è®¿ +åıĹ访 èĢħ +éĩįè¦ģ åĽłç´ł +å½±è§Ĩ åī§ +综èīº èĬĤ缮 +èľķ åıĺ +äºĮ 线 +äºĮ线 åŁİå¸Ĥ +ä¼Ĭ å§ĭ +çıĬ çijļ +èĩª æŁ¥ +åħ¥ åĽŃ +åĩ¶ æīĭ +åħ¬ è¯ī +éģĩ éļ¾ +éĩĩçŁ¿ çŃī +èĩª çIJĨ +åĸ· æ¶Ĥ +æī© åħħ +éĢı è§Ĩ +é«ĺéĢŁ å¢ŀéķ¿ +åĽ¾ çĶ» +ç¾ ¹ +èĤĩ åºĨ +è¾ľ è´Ł +èµĶ ä»ĺ +è· ¡ +åģ¥åº· æĪIJéķ¿ +以ä¸Ĭ åѦåİĨ +åıĸå¾Ĺ 以åıĬ +æ²ī 积 +åįģä¹Ŀ å±Ĭ +缸éĹľ æľįåĭĻ +æī§ åĭ¤ +åī¯ åİ¿éķ¿ +å¯ ° +åģľ æ»ŀ +æ·¹ 没 +çŁ³ çģ° +çį ¸ +åĢ ¦ +ç¾İ åªĴ +æķĻ æ¡Ī +åĬł çĽĸ +åħ¬å¼Ģ èµĽ +å¥ł åŁº +æĺĨ èĻ« +çŀ ħ +磷 éħ¸ +äºī åĪĽ +çİĭ æĻĵ +ç¼ĵ åĨ² +åİļ åİļ +åİļåİļ çļĦ +æŀ£ åºĦ +ç²¾ çĽĬ +ç²¾çĽĬ æ±Ĥ +ç²¾çĽĬæ±Ĥ ç²¾ +åĪĨæĶ¯ æľºæŀĦ +å®ŀæĸ½ ç»ĨåĪĻ +æĸ° èµĽåŃ£ +總 çµ± +éĢł è¡Ģ +é¢ĩ åħ· +é»Ħ åŁĶ +è¡Ģ èĦĤ +交éĢļ å·¥åħ· +å³ ¥ +æĹıèĩªæ²» å·ŀ +寺 éĻ¢ +確 å®ļ +æ¦Ĥ念 èĤ¡ +æĦŁ å®ĺ +æŁľ åı° +åĶ Ķ +çŀŃè§£ 並 +æĢ» ä»· +åIJ¸ åħ¥ +æĢ ¼ +æĻļ éĹ´ +å±Ĭ æ¯ķä¸ļçĶŁ +çĶŁ å§ľ +éĺħ读 åħ¨æĸĩ +å¾Ĺåΰ æľīæķĪ +æIJľ æķij +åİĨ æĿ¥ +èŃī æĺİ +åĥ » +èĨ³ é£Ł +åĦĦ åħĥ +æīĵ åİĭ +宾 客 +åķ ¼ +ä¸ĢçϾ å¤ļ +æ·±åħ¥ 人å¿ĥ +æ¢ħ å·ŀ +çłĶ åѦ +åħ³ ä¹İ +è¼ Ľ +亲 åıĭ +éħį æĸĻ +æĪij çĪ±ä½ł +è´¸æĺĵ æĪĺ +æľī èī² +æľīèī² éĩijå±ŀ +æįIJ åĬ© +为 é¦ĸ +为é¦ĸ çļĦ +å¯Į åĬĽ +çĶ· ç¥ŀ +é³ ³ +æµĩ æ°´ +åIJ ± +æĺİç¡® æıIJåĩº +åı¹ äºĨ +åı¹äºĨ åı£æ°Ķ +礼 æĭľ +è¿Ļ个 åIJįåŃĹ +ä¿¡ å¾Ĵ +å¿Ĺ 强 +éĻIJ æĹ¶ +æĶ¶ è²» +åĨľå®¶ ä¹IJ +å°ıé¾Ļ èϾ +èIJ½ å¹ķ +æ§ Ł +åѦ 龸 +æĪĸ å¤ļ +æĪĸå¤ļ æĪĸ +æĪĸå¤ļæĪĸ å°ij +座è°Ī ä¼ļä¸Ĭ +æ¶ ¼ +éŃĶ çİĭ +å² ± +é¡¶ å±Ĥ +é¡¶å±Ĥ 设计 +èĦij åŃIJéĩĮ +éĻ¢ åŃIJéĩĮ +轩 è¾ķ +身å¿ĥ åģ¥åº· +èħ ij +éĹľ 注 +åıĤåĬł ä¼ļè®® +ä¸Ńåįİ æĸĩåĮĸ +追 寻 +å®ī çĦ¶ +é£Ļ åįĩ +éŁŃ èıľ +é¸ ¦ +åĤ¨ éĩı +çĶ· æĸ¹ +å¤ĩ 份 +æijĶ åĢĴ +润æ»ij æ²¹ +é̼ è¿ij +çͳ è¯ī +鸣 ç±» +çŁ³æ²¹ åĮĸå·¥ +åĿļ æŀľ +è¿Ļå®¶ ä¼Ļ +æĭĴ ä¸į +羣 çļ® +è·Ŀ éĽ¢ +è¿ĺ æĮº +éĽķ åĥı +åĪĿ æģĭ +æıIJä¾Ľ æĽ´å¤ļ +æŁ¥çľĭ åħ¨æĸĩ +æķ°åŃĹ è´§å¸ģ +åĸī åĴĻ +åı¦ä¸Ģ ä½į +åĤ¬ åĮĸ +åĤ¬åĮĸ åīĤ +ä»İæĿ¥ 没 +å¯ĨåĪĩ 缸åħ³ +éĥ¨ 主任 +产åĵģ ç»ıçIJĨ +並 åIJĮæĦı +èIJ½ åħ¥ +å±ıå¹ķ ä¸Ĭ +åħ¬åı¸ 竳ç¨ĭ +æį¢ åı¥è¯Ŀ +æį¢åı¥è¯Ŀ 说 +ä½į æĸ¼ +ä½ Ķ +åĩ» æĿĢ +缸 è¾ĥ +缸è¾ĥ äºİ +ç²½ åŃIJ +åįĹ æŀģ +宫 é¢Ī +è£ģ åijĺ +æĺİ ç»Ĩ +ä»·å̼ éĵ¾ +åĽĽä¸ª æĸ¹éĿ¢ +æĥħåĨµ æĿ¥çľĭ +æĮij åīĶ +æ® ĺ +æŀģ åĬĽ +çĸij éļ¾ +æĬµæĬĹ åĬĽ +æĢ¥ éĢŁ +æĪ Į +ä½İ ä¼° +éĹª è¿ĩ +æģ ¬ +èµŀ æī¬ +ä»ĸ å¦Ī +æĪIJ为 ä¸ĢåIJį +æ´Ĺ 礼 +é¢Ħ计 å°Ĩ +åħĪè¿Ľ åįķä½į +è¼ Ķ +éĢĥ èĦ± +çݰ åŃĺ +èĢģèĻİ æľº +åįģä¸ĥ æĿ¡ +åı¦ä¸Ģ åįĬ +温 æĥħ +åī¥ ç¦» +ä¸ĸ è´¸ +å®ĺ åı¸ +å¾Ī å·® +éĹ´ è·Ŀ +请 注æĦı +åı² è¯Ĺ +åĪ© åύ +è¿IJ ç®Ĺ +沦 为 +該 使ç͍èĢħ +èĮ ¬ +éͦ 绣 +åı² æĸĻ +çģµ æ´»æĢ§ +èģĶ ç¤¾ +æĹł åĬ© +æĬĹ æ°§åĮĸ +èıľ èĤ´ +éĢł èι +æİī èIJ½ +å¤į æŁ¥ +åĭĥ åĭĥ +åij¼ 声 +給 äºĪ +åIJĮäºĭ 们 +ç½ ° +è¯ķ æİ¢ +åħ³éĶ® åŃĹ +æįIJ çĮ® +ç»Łè®¡ æķ°æį® +åĪĽ ä½ľèĢħ +ä¸ĭ åįĬ +ä¸ĭåįĬ åľº +æī¿æĭħ 责任 +端 æŃ£ +ç©¿ è¡£ +ä¼ł çIJĥ +åĬ© éķ¿ +åĩ ± +éķ¶ åµĮ +é£ŀ ç¿Ķ +è¾ĵ åįµ +è¾ĵåįµ ç®¡ +ä¸ĩ åħ¬éĩĮ +æİ¨å¹¿ åºĶç͍ +å¿« æ¨Ĥ +ç§ ½ +èī° å·¨ +åIJ¬ å®Į +åĿļ 硬 +奥 åľ° +å¥¥åľ° åĪ© +é¢ ĵ +èĻIJ å¾ħ +ä¾Ľ æ±Ĥ +éľī ç´ł +伪 è£ħ +乡 åľŁ +åĩ¡ æľ¬ç½ij +åĩ¡æľ¬ç½ij 注 +ä¼Ĭ åĪ© +è¡¡ æ°´ +æĽ´ åĥıæĺ¯ +åĪĨéĴŁ å·¦åı³ +è¦ı 模 +äºĶ åĪĨéĴŁ +åºĹ åĬłçĽŁ +åĽ° éĽ£ +åħ³ åģľ +æĢĿ 绪 +åĴ½ åĸī +缸 符 +çĥ¦ èºģ +æĻĤ æľŁ +åijĪ çı¾ +è§£ æķ£ +诱 导 +éļĶ çĥŃ +çĮ ¶ +åįĹ å®ĭ +æ·±åħ¥ äºĨè§£ +çŃĶ çĸij +æĺ¼ å¤ľ +åįĥ ä¼ı +åĬ³åĬ¡ æ´¾éģ£ +红 è±Ĩ +åĿı äºĭ +çĤ¹ æ»´ +å°±ä¸ļ å²Ĺä½į +约 åIJĪ +åħį éϤ +éĢĨ åĬ¿ +éĩį éĩijå±ŀ +å®ĺ 宣 +ä½İ å»ī +æģ¨ ä¸įå¾Ĺ +å¾Ĺ 天 +å¾Ĺ天 çĭ¬ +å¾Ĺ天çĭ¬ åİļ +ä¸Ģå°ģ ä¿¡ +æĬ½ å¥ĸ +è¾Ĺ 转 +çķĻ å®Ī +çķĻå®Ī åĦ¿ç«¥ +çŃĶ åį· +å·¨ åŀĭ +æľĢ好 ä¸įè¦ģ +æµĻæ±Ł 大åѦ +æĨ ¨ +æı¡ æīĭ +éĴĪ ç»ĩ +æİĴ 骨 +çĤ ½ +å°ģ è£ħ +åįĢ åŁŁ +空æ°Ķ åĩĢåĮĸ +åħī å½± +åĢĴ å¡Į +å§ļ æĺİ +æ¤į 被 +åѦ åīį +åѦåīį æķĻèĤ² +èĬĿ åĬł +èĬĿåĬł åĵ¥ +缩 æ°´ +ä½ Ł +åľ¨çº¿ åĴ¨è¯¢ +èµı æŀIJ +éĿĴ èĽĻ +æĬ± ä½ı +èĮĤ åIJį +åħ¨åĬĽ æīĵéĢł +åįļ士 åѦä½į +æ²§ å·ŀ +åĻ ¢ +æĿĤ çī© +åĪ» çĶ» +æį ħ +å¾® éĩı +å¾®éĩı åħĥç´ł +ä¸Ģ åĽŀäºĭ +鸡 èĤī +åĪ©æ¶¦ çİĩ +æīį ç®Ĺ +å¾® å¦Ļ +棵 æłij +è´ª 婪 +åĩı å̼ +梦 å¢ĥ +åı¯ è§Ĩ +åı¯è§Ĩ åĮĸ +广大 å¸Ĥæ°ij +ä¸ĵä¸ļ ä»İäºĭ +ç»ı 纬 +ç´§ çĽ¯ +çŁ¥ å·± +è¤ ļ +æĸĩåĮĸ åºķèķ´ +åݦéŨ å¸Ĥ +临 港 +对åħ¶ 羣å®ŀ +岸 è¾¹ +è¦ĸ çĤº +æĬĹ çĻĮ +åĶIJ å®ĩ +ä¸įå¾Ĺ è¶ħè¿ĩ +å¨ģ æħij +æ¡Ĩæŀ¶ åįıè®® +èµ° ç§ģ +åĽ¢ å§Ķ +夸 大 +æ¬ Ħ +ç¥ŀç»ı ç³»ç»Ł +æijĦå½± ä½ľåĵģ +èĬ ¥ +å®ī åºĨ +æµ· 滨 +æŀĦ æĢĿ +çīµ æĮĤ +åı © +éĺIJ æĺİ +éģ ģ +ç²¾ æ²¹ +ç©´ ä½į +æĬ¤ 身 +æĬ¤èº« 符 +æĮĩ å°İ +åŃĺåľ¨ ä¸Ģå®ļ +å¯Ĥ éĿĻ +æµ·å¤ĸ å¸Ĥåľº +éĿ ¡ +综åIJĪ å¾ģ +ä¿ IJ +è¨Ī ç®Ĺ +æĺİ æľĹ +äºļ è¿IJ +äºļè¿IJ ä¼ļ +åīįçŀ» æĢ§ +åĮ® ä¹ı +产ä¸ļ æī¶è´« +èĦij æµ· +èĦijæµ· ä¸Ń +åħļçļĦ é¢Ĩ导 +åĪĺ éĤ¦ +æµģ æĺŁ +æĵ Ĥ +æĶĢ çĻ» +åĴ Ķ +ä¸Ģä¸ĭåŃIJ å°± +è¯Ĭ æ²» +使 åĬ² +åīµ ä½ľ +éĵŃ è®° +éĴ± è´¢ +æĹ¥æĬ¥ è®°èĢħ +çĥŁ çģ« +èĥľ è´Ł +åįļ 主 +ä¸ŃåĽ½ èģĶéĢļ +ç½ijç«Ļ é¦ĸ页 +å°± å¤Ł +å°±å¤Ł äºĨ +æīij åħĭ +å±ħ å§Ķä¼ļ +è° ¬ +å®īåħ¨ äºĭæķħ +åķĨ çĶ¨è½¦ +循çݯ ç»ıæµİ +æ· ¤ +èĢĥ è¯ģ +å®Ŀ èĹı +å®Į ç»ĵ +çłĶåıij æĬķåħ¥ +å² ij +æģŃ æķ¬ +离 éĢĢä¼ij +æ°´ 墨 +å© ¶ +è¯Ĺ åı¥ +å®ģæ³¢ å¸Ĥ +å¼± çĤ¹ +åģľ çīĮ +奶 æ²¹ +å¥ĩ纳 æ²³ +æĨ Ĥ +社ä¼ļ å®ŀè·µ +è´Ŀ 壳 +çłĤ æµĨ +èι åıª +宣 æī¬ +综åIJĪ æķ´æ²» +åĤ ij +æ°ijæĹı æĸĩåĮĸ +éĩį çݰ +积 æ·Ģ +åħ¬ çĦ¶ +çħ ī +缸 èģļ +æ± ¾ +纹 çIJĨ +çĩĥ çħ¤ +æŃ¤ ç§į +ç¾İ å¦Ĩ +åįĥ çĵ¦ +çIJ Ľ +驾驶 è¯ģ +éĺ¶ æ¢¯ +ä¸Ŀ ä¸Ŀ +å¾Īå¤ļ äºĭæĥħ +åħī éĺ´ +èijĹä½ľ æ¬Ĭ +åħ§ éĥ¨ +çĽ¸å¯¹ æĿ¥è¯´ +éĸ Ĵ +éľĩ æħij +說 話 +æĨ ij +ç«¥ è£ħ +ä½ıæĪ¿ åĴĮ +ä½ıæĪ¿åĴĮ åŁİ +å·²ç»ı è¶ħè¿ĩ +侦 å¯Ł +çŁ¿ çī© +ä¾Ľ 大家 +çī¹ éĤĢ +ç¨ĭåºı åijĺ +çķľçī§ ä¸ļ +æ° ª +çij ª +åĢĴ åľ¨ +åĢĴåľ¨ åľ° +æ¯ Ģ +梯 éĺŁ +æİ¥ èijĹ +æĬĹ èıĮ +è¤ ĩ +ç¬ Ļ +æ¯Ķ ä¸Ĭå¹´ +鸡 汤 +åŃ¦ä¹ł æĪIJ绩 +æĸij æĸĵ +åħΠ坼 +åĪĹ ä¸¾ +è°ĥæŁ¥ æĺ¾ç¤º +æ© « +ä¹Ŀ åįģ +è°¢ 飵 +è·¨è¶Ĭ å¼ı +女æĢ§ æľĭåıĭ +èIJ¥åħ» ä»·å̼ +å®ŀè·µ ç»ıéªĮ +èĭı å·ŀå¸Ĥ +çĵ¶ åŃIJ +æĸ° çļĦä¸Ģ +æĸ°çļĦä¸Ģ å¹´ +æĺİ æĻ° +å®ł çα +åŃŠ第 +æľĹ 诵 +纳 æĸ¯ +éĢĨ è¡Į +è«ĭ æĤ¨ +è«ĭæĤ¨ æıIJä¾Ľ +èĥ¸ æĢĢ +第ä¸ĥ å±Ĭ +强 壮 +代 åŃķ +æ±¶ å·Ŀ +å®¶ åĸ» +å®¶åĸ» æĪ· +å®¶åĸ»æĪ· æĻĵ +èħ ® +åIJ¯ 迪 +æĹł éļľç¢į +èĻķçIJĨ åıĬ +æĿ¥ åİĨ +å®ŀ åĬ¡ +ä¹Ł éļıä¹ĭ +æĬĢèĥ½ åŁ¹è®Ń +åѤ ç«ĭ +åī ģ +éĥ´ å·ŀ +æĶ¶ æķĽ +éł» éģĵ +èᣠ幏 +èİ« è¿ĩäºİ +æŃ¤ æĻĤ +纪å§Ķ çĽij +纪å§ĶçĽij å§Ķ +缸 éĤ» +åı¦ä¸Ģ è¾¹ +çªĴ æģ¯ +æľīå¾Īå¤ļ ç§į +æ¯ı éĢ¢ +éĹ® ä¸ĸ +ç´¯ ç´¯ +éĿĴæĺ¥ æľŁ +è·¯ åĨµ +åħĭ èݱ +è¿Ħä»Ĭ 为æŃ¢ +æĥĬ å¥ĩ +è·¨ 度 +éħ¿ éĢł +åĩ ĭ +è¿ij ä¸īå¹´ +åĨħ 马 +åĨħ马 å°Ķ +æı į +è¿Ľå±ķ æĥħåĨµ +èĮ § +æľīåºı æİ¨è¿Ľ +æĢ» åĨłåĨĽ +æĪIJ绩 åįķ +éĽ»è©± åıĬ +ç´§å¯Ĩ ç»ĵåIJĪ +åºĬ ä½į +é¹ Ĭ +æķ£åıij çĿĢ +åĭŁ èµĦ +æ°¨ éħ¸ +彩 ç¥ŀ +è®Ģ åıĸ +éĩį æ¸© +ä¸Ń åŃĺåľ¨çļĦ +ç¾İ éºĹ +ä¸įæĸŃ å¢ŀåĬł +è½® æµģ +æİ¥ åIJ¬ +å¹´ 产å̼ +åįĥ åħĭ +æĪĺåľº ä¸Ĭ +çħ§ é¡§ +å¹²éĥ¨ éĺŁä¼į +åį° ç«ł +ä¸Ģèĩ´ æĢ§ +è¿ŀ å¤ľ +åħħ è£ķ +é»ij åIJįåįķ +åĩĢ æ°´ +ä¸Ģ大 æĹ© +åĮħ 袱 +çĬ¯ è§Ħ +çIJĨ è«ĸ +æŀģ æĺĵ +éª ¸ +å¨ĺ å¨ĺ +åĽ¢ åľĨ +亿åħĥ 以ä¸Ĭ +åĪ©ç͍ æĤ¨çļĦ +带æĿ¥ æĽ´å¤ļ +ä¸Ń央 空è°ĥ +æľĪ èĸª +çĮľ æĥ³ +åĪº 客 +ä½ľ æģ¯ +åįķ è°ĥ +äºĴ åĪ© +å¦Ĥæľī ä¾µæĿĥ +å°ı å·§ +åįģ åł° +åĵĪåĵĪ åĵĪåĵĪ +è¾¹ éĻħ +æłĩ è¯Ń +åĪĩåħ¥ çĤ¹ +éĢĨ è¢Ń +è¯ķ åīĤ +绿 è±Ĩ +è® ļ +åŁºçĿ£ å¾Ĵ +å£ ¬ +åħ¨ æĺİæĺŁ +éĢī ç§Ģ +èĪĮ å°ĸ +ä¸įåIJĮ ç±»åŀĭ +çĥŁ åĽ± +çģµ æ°Ķ +åĮº 管å§Ķä¼ļ +åĨľ åī¯ +åĨľåī¯ äº§åĵģ +èĶļ æĿ¥ +沪 æĮĩ +åħ»æ®ĸ æĪ· +æĸĹ å¿Ĺ +é¦ĸ é¢Ĩ +è¡Ģ èħ¥ +åĬł ç´§ +ä¸Ģèĩ´ 好è¯Ħ +第ä¸ī èĬĤ +æī¬ å°ĺ +交éĢļ æŀ¢çº½ +鼶 ç¢İ +é»ij æ´ŀ +çľĭ ä¸įæĩĤ +å±ŀ å®ŀ +主 åŁİåĮº +å¨ Ľ +å¨Ľ æ¨Ĥ +ç¬ij æĦı +èϹ æ¡¥ +åIJĦ个 çݯèĬĤ +çķ¥ å¾® +èĢķ èĢĺ +æľ¬ åľºæ¯ĶèµĽ +æĪIJ è´¥ +éĢī èĤ¡ +èªŀ è¨Ģ +çŃĶ è¾© +èĩª ä¹ł +æ£ º +ä¸ĩ 欧åħĥ +åģľ å·¥ +对åħ¶ è¿Ľè¡Į +积æŀģ éħįåIJĪ +ä¹¾ åĿ¤ +å¦ĸ æĢª +èļĮ åŁł +èµĦ产 è¯Ħä¼° +è°ĥ çļ® +éϤ å¤ķ +åĽ´ å¢Ļ +æľį å½¹ +æ·± æ¸Ĭ +é¢Ħ åζ +ç ĥ½ +å®ī 稳 +建 æŀĦ +çĭĻ åĩ» +主åĭķ 註åĨĬ +éĥ½æľī èĩªå·± +æİĴåIJį 第ä¸Ģ +麻 è¾£ +çĢ ļ +çĥŁèĬ± çĪĨ +çĥŁèĬ±çĪĨ 竹 +èĩªçĦ¶ ä¿ĿæĬ¤ +ä»Ļ å¢ĥ +为äºĨ éģ¿åħį +åĨ· åºĵ +è§£æĶ¾ æĢĿæĥ³ +åĪĿ äºĮ +ä½ĵ è´´ +é¦ĸ å¯Į +迪 æĭľ +æļĤ ç¼ĵ +æĶ¯æĮģ åĬĽåº¦ +侦 æİ¢ +马 åĪº +åĮĹ æ±½ +ç¹ ŀ +è°İ è¨Ģ +éĢ£ çºĮ +å· ³ +ä»»ä½ķ æĹ¶åĢĻ +车 èģĶç½ij +åįķ 项 +å¸Ń åį· +建çŃij æĿIJæĸĻ +ä¸Ńç§ĭ èĬĤ +ç¡ķ士 çłĶç©¶ +ç§ģ ç«ĭ +åħļåĴĮ æĶ¿åºľ +æľ¬æ¬¡ 交æĺĵ +èººåľ¨ åºĬä¸Ĭ +ç½ijåıĭ è¯Ħ论 +å¦ Ŀ +害 ç¾ŀ +åħ¬ç«ĭ åĮ»éĻ¢ +ä¸ ŀ +çĶŁçī© è´¨ +åºĶ éĤĢ +æĬ½ åıĸ +åĩł å¼ł +æijĺ ç¼ĸ +ç»ĺ æľ¬ +详 è§£ +强 硬 +æľĢ åħĪè¿ĽçļĦ +æĭĽ èĤ¡ +æĭĽèĤ¡ 书 +åįĥ æĸ¹ +åįĥæĸ¹ çϾ +åįĥæĸ¹çϾ 计 +éħį éŁ³ +驾 çħ§ +å¾ģ æĪĺ +èªĵ è¨Ģ +æĭľ å¸Ī +æĭľå¸Ī åѦ +æĭľå¸ĪåѦ èīº +æĬ± åĽ¢ +ç±³ ç²ī +éĿŀ常 éĢĤåIJĪ +èĪª æµ· +å±¥ 约 +åįģåħ« æĿ¡ +éĶ» éĢł +éĩįè¦ģ 举æİª +åıijæĮ¥ ä½ľç͍ +æ· ļ +人 社 +人社 å±Ģ +è¯ķçĤ¹ å·¥ä½ľ +éĺľ éĺ³ +æ¡ĥ åľĴ +æ°ij ä¼ģ +æ´ģ çϽ +è´µ 宾 +åħ¬ 社 +è§ī æĤŁ +è®°å¿Ĩ åĬĽ +æľĥåĵ¡ 註åĨĬ +æŃ¤ æ¡Ī +麻 çĹ¹ +çı Ģ +æĸ© èİ· +çĶ· åŃ©åŃIJ +å±ĢéĻIJ äºİ +åĭĺ æŁ¥ +åIJĥ 饱 +èĬ¬ åħ° +æ£ķ èī² +ç¦ı ç¥ī +çͳ èĬ± +æµ· çĽĹ +èĶ ij +æĸĩ åѸ +æ´»æĢ§ çĤŃ +缴 éĢļ车 +è°¢ éĤĢ +躺 çĿĢ +åľ ĥ +æ¯ıæĹ¥ ç»ıæµİ +åħ¬åħ± æĸĩåĮĸ +讲 æķħäºĭ +å¯Ł çľĭ +æĤł éĹ² +åľ° åĿª +æ¶Į çݰåĩº +é«ĺçŃī éĻ¢æł¡ +èĮĦ åŃIJ +éĺ² åį« +ä¾ĭ è¡Į +æĺ¾ éľ² +æĸ° 常æĢģ +ç»Ŀ ä½³ +å¯Į æ°ij +以 人æ°ij +以人æ°ij 为 +éĤ¢ åı° +å±ķ æ¼Ķ +çϼ å¸ĥ +è´Ł è½½ +åģı 离 +æ°¸ éģł +éĩįè¦ģ åİŁåĽł +åįıä¼ļ ä¼ļåijĺ +éļ¾ æ°ij +çĶŁäº§ 车éĹ´ +çģµ åĬ¨ +两年 åīį +æĸ¹ åľĨ +æ´» ä¸ĭåİ» +ä¸ĸçķĮ è§Ĥ +éªĹ åıĸ +ç¾İ è²Į +èĥ½ çľĭåĩº +çϼ æı® +è§Ĥ å½± +åī ĥ +åIJĪèµĦ åħ¬åı¸ +å© § +å¹² æĹ± +åħŃ ä¸ªæľĪ +尤为 éĩįè¦ģ +èĤ ½ +秦 åĽ½ +æīĺ ç¦ı +建çŃij å¸Ī +åįĩ级 æĶ¹éĢł +å°ı é¢Ŀ +å°ıé¢Ŀ 贷款 +两个 ç»´æĬ¤ +æĭį æĭį +åı¯ çĸij +æį¢ åıĸ +æŃ¦ 士 +èµĸ 以 +èµĸ以 çĶŁåŃĺ +æĮ ļ +殿 åłĤ +èĩªçĦ¶ çķĮ +ç£ģ åľº +å¦Ĥä½ķ çľĭå¾ħ +ä»ĬæĹ¥ 头æĿ¡ +西 åŁŁ +èİ· è¯Ħ +風 æł¼ +ä¿Ħ åĽ½ +æīĵ æĭ¼ +å®£ä¼ł çīĩ +å¾Ī æĸ¹ä¾¿ +ä¾Ľç»Ļ ä¾§ +纪念 ç¢ij +毫 åħĭ +èĬ³ é¦Ļ +å·¥åķĨ éĵ¶è¡Į +请 çĤ¹åĩ» +ç¼ ª +æĹłæķ° 次 +èᝠå¸Ī +èħ ¸ +游 èīĩ +åĮ ¾ +å·¡ èĪª +æ²»çIJĨ ä½ĵç³» +èIJ¥éĢł èī¯å¥½ +æ·· æ·Ĩ +éĢļ çķħ +åĬ³ ç´¯ +ä»ĵ ä½į +å¢ŀ éķ· +éļIJ 约 +æĿĤå¿Ĺ 社 +åħ» èĤ² +åı¯èĥ½ åıijçĶŁ +èĢĥ 試 +西 ä¾§ +åĬł åĢį +主æĮģ åı¬å¼Ģ +çķ¢ ç«Ł +éĹ® 询 +æµ· æ£ł +èĹ © +注æĺİ æĿ¥æºIJ +æ£Ģ çĸ« +请 åģĩ +æĬļ æij¸ +èĵĦ çĶµæ±ł +è·Ł ä¸įä¸Ĭ +çݰ代 社ä¼ļ +çѹ èµĦ +ä½ĵèĤ² 彩票 +å»¶ 误 +è¾Ľ è¾£ +éĿ¢ 容 +åį° è®° +çģŃ äº¡ +ç´ł é£Ł +åħ´ èĩ´ +éľĢè¦ģ ç͍ +éľĢè¦ģç͍ åΰ +å®Ŀ å¦Ī +ç£ĭ åķĨ +éļ¶ å±ŀ +è´¡çĮ® åĬĽéĩı +åħ¬åħ± èµĦæºIJ +大 éĺª +åĨĽ è®Ń +æĤ¬ 念 +社ä¼ļ 稳å®ļ +å¹²äºĭ åĪĽä¸ļ +æľī æĿ¡ä»¶ +æľīæĿ¡ä»¶ çļĦ +ä¸Ģå¹´ ä¸Ģ度 +åİ ¥ +强 奸 +豪 车 +æİĮ æŁľ +æ°´åĪ© å·¥ç¨ĭ +å³ ª +积æŀģ ä½ľç͍ +æµ· æ·Ģ +æµ·æ·Ģ åĮº +çĥŃ æĴŃ +åĿļæĮģ ä¸įæĩĪ +åıĮ èĦļ +绣 æĪĺ +ä»»ä½ķ 人éĥ½ +åľ°ä¸ĭ 室 +åĨ¶ çĤ¼ +è°ħ è§£ +æ¸Ķ èι +太éĺ³ åŁİ +被 æįķ +计ç®Ĺ åύ +西 åĮ» +èĪĴ å¿ĥ +æ¡ ¦ +éģ ² +åĬ ij +è¨ Ĺ +èİ º +åĸ ¬ +çĵ ¯ +åĺ ĺ +åł ķ +æķ Ŀ +åij ¦ +èĭ ŀ +æŃ ¹ +æĵ ¬ +æ£ Ħ +èĪ µ +å¥ ª +çļ ĭ +æĶ ¸ +åľ © +ç¤ Ļ +ç¢ ĺ +éı Ī +æĦ ķ +ç¹ ³ +èĺ ¸ +è² Ĥ +æ¼ ² +æij ¹ +æĶ Ŀ +åŃ ¢ +èķ Ń +é¨ ° +æ½ ¼ +éħ ° +æĴ ¥ +è¹ ¬ +é¨ Ļ +è¸ ¹ +éģ IJ +çĺ Ģ +èĽ ¤ +æĤ ĸ +çĴ ŀ +ç£ IJ +æİ ° +è¾ Ĭ +å¾ ij +æİ ĸ +éģ ŀ +éĤ ¸ +éĽ ı +æĨ İ +æľ ½ +çį » +ç® Ķ +è¤ ¶ +æļ ¢ +æĺ µ +çı Ĥ +æĤ ¸ +åģ µ +åĻ ľ +å£ ¯ +æĴ ® +æģ į +å© ķ +ç¯ ± +éĺ Ļ +çī ł +è£ ĺ +è³ ¢ +éĩ ľ +éĵ ł +èİ ĺ +æ® Ĩ +çĻ ¸ +è´ ı +ç² ± +å« ¡ +åĨ ¢ +è¤ Ĵ +æĩ Ĭ +éľ ĵ +å¡ µ +æĭ £ +å» Ł +é£ ½ +é¢ Į +åļ İ +æ· º +èĨ ł +åİ Ń +åļ ĩ +åij ĥ +çĴ ĭ +çŃ ± +æĭ · +èį § +éĶ ° +åŃ ° +èĵ ĵ +èĨ ½ +æŀ ī +åĸ ½ +çĽ Ķ +çŃ IJ +ç¾ ļ +è ħĮ +è¾ « +æ³ ĵ +çĶ ¬ +èŁ ² +åĸ ª +å¦ ĵ +è¬ Ģ +çĤ Ĭ +æĽ ľ +æ± IJ +è´ Ī +èį Ģ +æĬ ł +ç¢ ¾ +æ« ĥ +éŀ ł +èij Ĩ +ç¥ ¯ +å½ Ŀ +é¦ į +åĮ £ +æľ Ń +åĿ Ĥ +ä¿ ij +èĵ ® +çij Ľ +æī ī +èĩ Ł +è² « +çİ ¥ +æ· ¼ +åİ ² +é³ Į +å³ Ń +åij Ľ +é § +é§ IJ +éģ · +ä¿ ª +æĢ Ĥ +è¾ į +å± į +åĭ ģ +å¥ ļ +éļ ħ +éĴ ´ +è¼ Ŀ +å® ¦ +èIJ ĥ +çĺ ĭ +æĨ ¶ +æĤ ħ +è¾ Ļ +åij ľ +çł º +éĢ ŀ +æµ ļ +éĸ £ +èĸ © +éĻ ĭ +çĤ Ļ +èª ķ +ä¸ Ł +é¹ ½ +ç± Į +è´ ° +éĭ ª +çľ © +æĴ IJ +èĨ º +éŀ ĺ +ç¾ ² +çª ® +ç´ IJ +æ® ´ +çº ¾ +èº į +ç´ ĭ +çĦ ĸ +çĶ º +çī ½ +çĤ ¯ +ç¼ Ķ +æ¯ ĵ +å¬ ° +æ¢ § +äº Ł +è¢ ħ +çį Ħ +è¿ ¥ +æ¼ ¾ +çĿ ij +ç¸ ¾ +é¦ ĭ +é¤ ħ +æ ¹Ħ +æĺ ĩ +æŀ Ń +èĸ ° +æŁ ij +æ¦ » +åĻ Ĺ +åĻ ´ +æ£ £ +åĶ § +çĨ ¹ +è¼ ¯ +å¢ Ł +é² ² +æĪ Ľ +èī ¦ +èĬ ® +åĺ Ł +å¸ ¥ +å¿ » +çĮ Ŀ +å¯ µ +è³ ¦ +èĽ ¾ +æ» ¾ +çĤ ķ +éĵ ¬ +èĴ ¿ +éĴ ¨ +çĥ Ļ +ç² ķ +æĥ ¦ +æº § +é¢ į +éħ £ +å³ ¦ +ç± ģ +çĥ ĥ +åĨ Ĺ +åı ģ +çĽ § +ç½ µ +éĴ Ĺ +å¬ ī +è° ı +ç³ § +è¾ Ń +æ· ¬ +èŁ Ĵ +è¯ © +è¦ ĥ +çĻ ĸ +é½ Ĵ +çĪ IJ +ç® į +ç¼ İ +ç£ º +è¯ « +è¤ ² +æĵ ł +èIJ ¦ +çĿ ¬ +è° į +éĦ ° +æł ¾ +é¡ ı +ç¸ ± +æ¡ ¨ +éĨ ¬ +è¥ ² +è® ª +å© º +èį Ł +åĮ Ŀ +çĨ ł +èĽ Ĭ +æ¸ ļ +å´ ½ +é² ¤ +åķ ° +åĮ ķ +ä¸ IJ +è® ¥ +åı ½ +åı ¼ +çļ ¿ +è¿ Ĥ +åIJ Ĩ +å± ¹ +èĩ ¼ +è® ¹ +é© ® +çº « +æ± ŀ +æĬ ¡ +èĭ ĩ +åIJ ł +åIJ Ń +åIJ ® +å² ĸ +ä½ ĥ +çĭ Ī +åº ĩ +åIJ Ŀ +éĹ ° +æ± ¹ +å¿ ± +æĭ Ħ +æĭ Ĺ +èĮ ī +èĭ Ľ +èĮ ģ +çŁ ¾ +èĻ ı +åij » +åĴ Ħ +å¿ ¿ +èĤ ® +çĭ ŀ +çĸ Ł +çĸ Ļ +çĸ ļ +æ³ ŀ +å¸ ļ +å± ī +è¿ ¢ +é© ¹ +ç İ· +çıĬ ó +çıĬó ł +çıĬół Ħ +çıĬółĦ ģ +æĮ İ +æĭ ´ +åŀ Ľ +èį ¤ +æ® ĥ +çĽ ¹ +åĵ Ĩ +è´ » +æ¯ ¡ +çĭ ° +çĭ ¡ +æŁ Ĵ +æģ ĥ +è¯ ¬ +è¢ Ħ +è¯ ² +èļ ¤ +èĢ Ļ +åŁ Ĥ +æį İ +æį Į +æ¢ Ĩ +é ħĮ +çł ¾ +æ® ī +åĶ ł +æĻ Į +èļ £ +èļ ª +èļ ĵ +é¸ ¯ +åĶ ģ +åĶ Ĩ +åĢ Ķ +èĪ Ģ +è± º +èĥ ° +é¸ µ +é¸ ³ +é¦ ģ +ç¾ Ķ +æ¶ £ +æ¶ ķ +æĤ ¯ +è¯ ½ +è° Ĩ +ç¥ Ł +ç» ¢ +æį º +æį ¶ +æį » +æİ Ĥ +èı ł +èIJ ¤ +éħ Ĺ +çľ ¶ +åķ Ħ +èļ ¯ +èĽ Ģ +åĶ ¬ +å¸ · +éĵ IJ +éĵ Ľ +åģ İ +å¾ Ļ +èĦ ¯ +è± ļ +çĮ ĸ +çĹ Ĭ +æ¶ ® +æĥ Ń +æĤ ´ +æĥ ĭ +è° ļ +æı © +æIJ Ģ +æIJ Ķ +æ¦ Ķ +æ¤ Ń +éĽ ³ +åĸ ³ +è· Ľ +èľ ĵ +èľ Ĵ +é¹ ĥ +éĶ Ħ +çĶ ¥ +çŃ ı +çĮ © +çĮ ¬ +çĮ ¾ +çĹ ¢ +çĹ ª +æĥ ° +çª ĺ +è° ¤ +éļ ĺ +å© ¿ +é¹ ī +çij Ļ +æĸ Ł +æ¤ ¿ +éħ ª +éĽ ¹ +åĹ ¦ +è· · +è· º +è· ¤ +èľ Ī +èľ Ĺ +å¹ Į +é¦ ı +èª Ĭ +æ¼ ĵ +è¤ Ĥ +èĶ Ĺ +èĶ ¼ +åħ ¢ +è£ ³ +èľ » +èĿ ĩ +åĺ Ģ +éĶ ¹ +ç® ķ +ç® © +çĺ © +çĺ Ł +æ¼ ± +å¯ ¥ +éª ¡ +æĴ µ +æĴ ¬ +è± Į +åĺ ¹ +èĿ ł +èĿ Į +èĿ Ĺ +èĿ Ļ +éķ IJ +ç¨ ¼ +ç¯ ĵ +èĨ Ľ +é² « +çĺ ª +é² ¨ +æĨ Ķ +ç¿ © +è¤ ¥ +ç¼ Ń +åĻ © +çĵ ¢ +éľ İ +è¸ ± +è¹ Ĥ +èŁ Ĩ +é¹ ¦ +ç¯ ¡ +çĺ ¸ +çª ¿ +ç¼ ° +èĹ IJ +è¹ ĭ +èŁ ĭ +èŁ Ģ +èµ ¡ +èĩ Ĭ +é³ Ħ +ç³ ł +æĩ ¦ +åļ £ +éķ ° +é³ į +ç° ¸ +çĻ £ +é³ ĸ +é¬ ĵ +èł ķ +éľ ¹ +èº ı +é» ¯ +çĵ ¤ +çŁ Ĺ +ä¹ Ĥ +ä¹ ľ +åħ Ģ +å¼ ĭ +åŃ ij +åŃ ĵ +å¹ º +äº ĵ +å »¿ +ä¸ ı +åį ħ +ä» ĥ +ä» ī +ä» Ĥ +åĪ Ī +çĪ » +åį ŀ +éĹ © +è® £ +å¤ ¬ +çĪ ¿ +æ¯ ĭ +éĤ Ĺ +éĤ Ľ +èī ½ +èī ¿ +åı µ +ä¸ ķ +åĮ ľ +åĬ ¢ +åį Ł +åı ± +åı » +ä» ¨ +ä» Ł +ä» ¡ +ä» « +ä» ŀ +åį ® +æ° IJ +çĬ ° +åĪ į +éĤ Ŀ +éĤ Ļ +è® ¦ +è® § +è® « +å° » +éĺ ¡ +å° ķ +å¼ ģ +èĢ Ĵ +çİ İ +çİ ij +åľ ¬ +æī ¦ +åľ ª +åľ ¹ +æī ª +åľ ® +åľ ¯ +èĬ Ĭ +èĬ į +èĬ Ħ +èĬ ¨ +èĬ ij +èĬ İ +èĬ Ĺ +äº ĺ +åİ į +å¤ ¼ +æĪ į +å° ¥ +ä¹ © +æĹ ¯ +æĽ ³ +å² Į +å± º +åĩ ¼ +åĽ ¡ +éĴ ĩ +ç¼ ¶ +æ° ĺ +æ° ĸ +çī Ŀ +ä¼ İ +ä¼ Ľ +ä¼ ¢ +ä½ ¤ +ä» µ +ä¼ ¥ +ä¼ § +ä¼ ī +ä¼ « +åĽ Ł +æ± Ĩ +åĪ ĸ +å¤ Ļ +æĹ ® +åĪ İ +çĬ · +çĬ ¸ +èĪ Ľ +åĩ « +é Ĥ¬ +é¥ § +æ± Ķ +æ± ľ +æ± Ĭ +å¿ ĸ +å¿ ı +è® ´ +è® µ +è® · +èģ ¿ +èī ® +åİ ¾ +å¦ ģ +çº ¡ +çº £ +çº ¥ +çº ¨ +çİ ķ +çİ Ļ +æĬ Ł +æĬ Ķ +åľ » +åĿ į +æĬ ĥ +ã§ IJ +èĬ « +èĬ ¾ +èĭ Ī +èĭ £ +èĭ ĭ +èĬ ¼ +èĭ Į +èĭ ģ +èĬ © +èĬ ª +èĬ ¡ +èĬ Ł +èĭ Ħ +èĭ İ +èĭ ¡ +æĿ Į +æĿ ĵ +æĿ Ī +å¿ ij +åŃ Ľ +éĤ ´ +éĤ ³ +å¥ ģ +è± ķ +å¿ Ĵ +æ¬ ¤ +è½ « +è¿ ĵ +éĤ ¶ +å¿ IJ +åį £ +éĤ º +æĹ ° +åij ĭ +åij Ĵ +åij ĵ +åij Ķ +åij ĸ +æĹ ¸ +åIJ ¡ +èĻ ¬ +åIJ ½ +åIJ £ +åIJ ² +å¸ ı +å² Ī +å² ĺ +åħ ķ +åĽ µ +åĽ « +éĴ Ĭ +éĴ ĭ +é ĴĮ +è¿ ķ +æ° Ļ +æ° ļ +çī ¤ +ä½ ŀ +ä½ ļ +ä½ Ŀ +ä½ Ĺ +å½ · +ä½ ĺ +ä½ ¥ +è± ¸ +åĿ Į +èĤ Ł +å¥ Ĥ +åĬ ¬ +çĭ ģ +é¸ ł +é¥ ¨ +é¥ © +é¥ « +é¥ ¬ +åº ij +åº ĭ +çĸ Ķ +çĸ ĸ +èĤ ĵ +éĹ ± +éĹ ³ +çĤ Ģ +æ² £ +æ² ħ +æ² Ķ +æ² ¤ +æ² ı +æ² ļ +æ± © +æ± ¨ +æ² ¨ +æ± ´ +æ² Ĩ +æ² © +æ³ IJ +æĢ ĥ +æĢ Ħ +å¿ ¡ +å¿ ¤ +å¿ ¾ +æĢ ħ +å¿ ª +æĢ Ĩ +å¿ Ń +å¿ ¸ +è¯ Ĥ +è¯ ĥ +è¯ ħ +è¯ ĭ +è¯ Į +è¯ Ĵ +éĻ Ĥ +éĻ ī +å¦ © +å¦ ª +å¦ £ +å¦ Ĺ +å¦ « +å§ Ĵ +å¦ ¤ +åĬ Ń +åĪ Ń +éĤ ° +çº Ń +çº ° +çº ´ +çİ ¡ +çİ Ń +çİ ł +çİ ¢ +çİ ¦ +çĽ Ĥ +å¿ Ŀ +åĮ ¦ +åĿ © +æĬ ¨ +æĭ ¤ +åĿ « +æĭ Ī +åŀ Ĩ +æĬ » +åĬ ¼ +æĭ ĥ +æĭ Ĭ +åĿ ¼ +åĿ » +ã§ Ł +åĿ ¨ +åĿ Ń +æĬ ¿ +åĿ ³ +èĭ · +èĭ ¤ +èĮ ı +èĭ « +èĭ ľ +èĭ ´ +èĭ Ĵ +èĭ ĺ +èĮ Į +èĭ » +èĭ ĵ +èĮ ļ +èĮ Ĩ +èĮ ij +èĮ ĵ +èĮ Ķ +èĮ ķ +è ĮĢ +èĭ ķ +æŀ ¥ +æŀ ĩ +æĿ ª +æĿ ³ +æŀ § +æĿ µ +æŀ ¨ +æŀ ŀ +æŀ ĭ +æĿ » +æĿ · +æĿ ¼ +çŁ ¸ +ç łĢ +åĪ ³ +å¥ Ħ +æ® ģ +éĥ ı +è½ Ń +éĥ ħ +é¸ ¢ +çĽ ± +æĺ Ļ +æĿ ² +æĺ ĥ +åĴ Ĥ +åij ¸ +æĺ Ģ +æĹ » +æĺ ī +çĤ ħ +çķ Ģ +èĻ ® +åĴ Ģ +åij · +é» ¾ +åij ± +åij ¤ +åĴ Ĩ +åĴ Ľ +åij ¶ +åij £ +åĴ Ŀ +å² ¢ +å² ¿ +å² ¬ +å² « +å¸ Ļ +å² £ +å³ ģ +åĪ ¿ +å² · +åī Ģ +å¸ Ķ +å³ Ħ +æ² ĵ +åĽ ¹ +ç½ Ķ +éĴ į +éĴ İ +éĴ ı +éĴ Ĵ +éĴ ķ +éĤ ¾ +è¿ ® +çī ¦ +ç« º +è¿ ¤ +ä½ ¶ +ä¾ ij +ä¾ ī +èĩ ¾ +ä¾ Ĺ +ä¾ ı +ä¾ © +ä½ » +ä½ ¾ +ä¾ ª +ä½ ¼ +ä½ ¯ +ä¾ ¬ +å¸ Ľ +ä¾ Ķ +å¾ Ĥ +åĪ ½ +éĥ Ħ +ç± ´ +çĵ ® +æĪ Ĺ +èĤ ¼ +äı Ŀ +èĤ ± +èĤ « +è¿ © +éĥ ĩ +çĭ İ +çĭ į +çĭ Ĵ +åĴ İ +é¥ ¯ +é¥ ´ +åĨ ½ +åĨ ¼ +åº ĸ +çĸ ł +çĸ Ŀ +åħ ĸ +åĬ ¾ +ð¬ ī +ð¬ī ¼ +çĤ ĺ +çĤ Ŀ +çĤ Ķ +æ³ Ķ +æ² Ń +æ³ · +æ³ ± +æ³ ħ +æ³ ł +æ³ º +æ³ ĸ +æ³ « +æ³ ® +æ² ± +æ³ ¯ +æĢ Ļ +æĢ µ +æĢ ¦ +æĢ Ľ +æĢ ı +æĢ į +ã ¤ +㤠ĺ +æĢ © +æĢ « +æĢ ¿ +å® ķ +ç© ¹ +å® ĵ +è¯ ĵ +è¯ Ķ +è¯ ĸ +è¯ ĺ +æĪ ¾ +è¯ Ļ +æĪ ½ +éĥ ĵ +è¡ © +ç¥ Ĩ +ç¥ İ +ç¥ ĩ +è¯ ľ +è¯ Ł +è¯ £ +è¯ ¤ +è¯ § +è¯ ¨ +æĪ ķ +éĻ Ķ +å¦ ² +å¦ ¯ +å§ Ĺ +å¸ ij +åŃ ¥ +é© ½ +èĻ ± +è¿ ¨ +ç» Ģ +ç» ģ +ç» Ĥ +é© · +é© ¸ +ç» ī +ç» Į +éª Ģ +çĶ ¾ +çı ı +çı IJ +çı ij +çİ ³ +é¡ ¸ +çı ī +çı Ī +æĭ ® +åŀ Ń +æĮ Ŀ +æĮ ŀ +åŀ ¤ +èµ ³ +è´ ² +åŀ ± +åŀ Į +åŀ § +åŀ ĵ +æĮ ¦ +åŀ ł +èį ļ +èį ij +è´ ³ +èį ľ +èİ Ĵ +èĮ ¼ +èĮ ´ +èĮ ± +èİ Ľ +èį ŀ +èĮ ¯ +èį ı +èį ĩ +èį ĥ +èį ł +èĮ Ń +åŀ © +èį ¥ +èį ¦ +èį ¨ +èį © +åī ĭ +èį ª +èį ¬ +èį ® +æŁ ° +æł ī +æŁ ĺ +æł Ĭ +æŁ © +æŀ ° +æł Į +æŁ Ļ +æŀ µ +æŀ ³ +æŁ ŀ +æŁ Ŀ +æł Ģ +æŁ ¢ +æł İ +æŁ Ī +æŁ ģ +æŀ · +æŁ ½ +åī Į +éħ Ĭ +éĥ ¦ +çĶ Ń +çł Ĺ +çł ĺ +çł Ĵ +æĸ « +çł Ń +çł ľ +èĢ · +èĻ º +æ® Ĥ +æ® ĩ +æ® Ħ +è½ ± +è½ ² +è½ ³ +è½ ¶ +è½ ¸ +èĻ ¿ +æ¯ ĸ +è§ ĩ +å° ľ +åĵ IJ +çľ Ħ +çľ į +ðł ³ +ðł³ IJ +éĥ ¢ +çľ ĩ +çľ Ĭ +çľ Ī +ç¦ º +åĵ Ĥ +åĴ ´ +æĽ · +æĺ ´ +åĴ ¦ +åĵ ĵ +åĵ Ķ +çķ İ +åij ² +èĥ Ħ +çķ ĭ +çķ Ī +èĻ ¼ +èĻ » +çĽ ħ +åĴ £ +åĵ ķ +åī IJ +éĥ § +åĴ » +åĽ ¿ +åĴ ¿ +åĵ Į +åĵ Ļ +åĵ ļ +åĴ © +åĴ ¤ +åĵ Ŀ +åĵ ı +åĵ ŀ +å³ £ +ç½ ĺ +å³ Ĵ +å³ ¤ +å³ ĭ +è´ ¶ +éĴ ļ +éĴ ¡ +éĴ £ +éĴ ¤ +éĴ « +æ° ¡ +çī ¯ +éĥ ľ +ç§ ķ +ç§ Ń +ç« ½ +ç¬ Ī +ä¿ ¦ +ä¿ ¨ +ä¿ ħ +åı Ł +åŀ ¡ +çī ® +ä¿ £ +ä¿ ļ +çļ Ī +ä¿ Ł +éĢ ħ +å¾ ĩ +å¾ ī +èĪ ¢ +éĥ Ĺ +ä¿ İ +éĥ ¤ +çĪ ° +éĥ Ľ +çĵ ´ +èĥ ¨ +èĥ ª +èĥ Ľ +èĥ Ĥ +èĥ Ļ +èĥ į +èĥ Ĺ +è ĥĿ +æľ IJ +èĥ « +é¸ ¨ +åĮ į +çĭ ¨ +çĭ ¯ +é£ ij +çĭ © +çĭ ² +è¨ ĩ +éĢ Ħ +æĺ Ŀ +é¥ · +é¥ ¸ +é¥ ¹ +åŃ ª +å¨ Ī +åº ¥ +çĸ ¬ +çĸ £ +çĸ ¥ +çĸ Ń +åº ł +ç« ij +é£ Ĵ +éĹ ¼ +éĹ ¾ +éĹ ¿ +éĺ Ĥ +ç¾ ij +è¿ ¸ +ç± ¼ +éħ ĭ +çĤ » +çĥ Ģ +çĤ · +æ´ ± +æ´ ¹ +æ´ § +æ´ Į +æµ ĥ +æ´ ĩ +æ´ Ħ +æ´ Ļ +æ¶ İ +æ´ İ +æ´ « +æµ į +æ´ ® +æ´ µ +æµ Ĵ +æµ Ķ +æµ ķ +æ´ ³ +æģ ¸ +æģ ĵ +æģ ¹ +æģ « +æģ » +æģ Ĥ +æģ ª +æģ ½ +å® ¥ +æī ĥ +è¡ ² +è¡ ½ +è¡ ¿ +è¢ Ĥ +ç¥ ľ +ç¥ ĵ +ç¥ ļ +è¯ ® +ç¥ Ĺ +ç¥ ¢ +è¯ ° +è¯ ³ +é¸ © +æĺ ¶ +åĴ « +å¼ Ń +çī ģ +èĥ ¥ +éĻ Ł +å§ ® +å¨ Ĩ +å§ Ŀ +å§ £ +å§ ĺ +å§ ¹ +ç¾ ¿ +çĤ ± +çŁ ľ +ç» Ķ +éª ģ +éª ħ +ç» Ĺ +ç» Ľ +éª Ī +èĢ ĸ +æĮ Ī +çı ¥ +çı Ļ +é¡ ¼ +çı ° +çı © +çı § +çı £ +çı ŀ +çIJ ¤ +çı ² +æģ ļ +åŁ ķ +åŁ ĺ +åŁ Ļ +åŁ ļ +æĮ ¹ +èĢ Ĩ +èĢ Ħ +åŁ Ĵ +æį ĭ +è´ ½ +åŀ ¸ +æį ĥ +çĽ į +èį ¸ +èİ ³ +èİ ´ +èİ ª +èİ ł +èİ ľ +èİ ħ +èį ¼ +èİ © +èį ½ +èİ ¸ +èį » +èİ ¨ +é¸ ª +èİ ¼ +æł ² +æł ³ +æ¡ ¡ +æ¡ İ +æ¡ ¢ +æ¡ ¤ +æ¢ ĥ +æł Ŀ +æ¡ ķ +æ¡ ģ +æ¡ § +æ¡ ħ +æł Ł +æ¡ ī +æł © +éĢ ij +éĢ ĭ +å½ § +é¬ ² +è± ĩ +éħ IJ +éĢ ¦ +åİ Ŀ +åŃ ¬ +çł Ŀ +çł ¹ +çł § +çł · +çł Ł +çł ¼ +çł ¥ +çł £ +åī ŀ +çł » +è½ ¼ +è½ ¾ +è¾ Ĥ +é¸ « +è¶ ¸ +é¾ Ģ +é¸ ¬ +èĻ Ķ +çľ ¬ +åĶ Ľ +çľ Ļ +åĵ § +åĵ ½ +æĻ ģ +é¸ ® +è¶ µ +è¶ ¿ +çķ Ľ +èļ ¨ +èļ ľ +èļ į +èļ ĭ +èļ ¬ +èļ Ŀ +èļ § +åĶ ¢ +åľ Ħ +åĶ £ +åĶ ı +çĽ İ +åĶ ij +å´ Ĥ +å´ ĥ +ç½ ¡ +ç½ Ł +è§ Ĭ +èµ ħ +éĴ ² +éĴ µ +éĴ ¹ +éĴ º +éĴ ½ +éĴ ¼ +éĴ ¿ +éĵ Ģ +éĵ Ħ +éĵ Ĩ +éĵ Ī +éĵ ī +éĵ Ĭ +éĵ ĭ +éĵ Į +é ĵį +ä ¥ +ä¥ ½ +éĵ İ +æ° © +æ° ¤ +æ° ¦ +æ¯ ª +èĪ IJ +ç§ £ +ç§ « +çĽ ī +ç¬ Ħ +ç¬ ķ +ç¬ Ĭ +ç¬ ı +ç¬ Ĩ +ä¿ ¸ +ä¿ µ +åģ Į +ä¿ ³ +ä¿ ¶ +åĢ ¬ +åĢ ı +æģ ģ +åĢ Ń +ä¿ ¾ +åĢ ľ +éļ ¼ +éļ ½ +åĢ Į +åĢ ¥ +èĩ ¬ +éĥ « +åĢ ¨ +è¡ Ħ +é¢ Ģ +å¾ ķ +èĪ « +è¡ ¾ +èĥ ¯ +èĥ ± +èĥ ´ +èĥ Ń +èĦ į +èĥ ¼ +èĦ Ĵ +é¸ ± +é¸ ² +çĭ · +çĮ ģ +çĭ ³ +çĮ ĥ +çĭ º +éĢ ĸ +æ¡ Ģ +é¥ ½ +åĩ ĩ +æĮ Ľ +äº ³ +çĸ ³ +çĸ ´ +çĸ ¸ +çĸ ½ +çĹ Ī +çĸ ± +çĹ Ĥ +çĹ ī +è¡ ® +é¢ ĥ +æģ £ +æĹ Ĩ +æĹ Ħ +æĹ ĥ +éĺ ĥ +éĺ Ħ +è¨ ļ +éĺ Ĩ +æģ Ļ +ç² ij +çĥ ľ +çĥ © +çĥ Ĭ +åī ¡ +éĥ ¯ +çĥ ¬ +æ¶ ij +æµ ¯ +æ¶ ŀ +æ¶ Ł +å¨ ij +æ¶ ł +æµ ŀ +æ¶ ĵ +æµ ¥ +æ¶ Ķ +æµ ľ +æµ ł +æµ £ +æĤ ļ +æ ĤŃ +æĤ Ŀ +æĤ Ĵ +æĤ Į +æĤ Ľ +çª Ī +åī ľ +è¯ ¹ +è¯ ¼ +è¢ Ĵ +è¢ ¢ +è¯ ¿ +è° Ģ +è° Ĥ +è° Ħ +è° ĩ +å± IJ +å± Ļ +éĻ ¬ +åĭ IJ +å¥ ĺ +çī Ĥ +èļ © +éĻ ² +å¨ Į +å¨ ī +å¨ ² +å¨ ´ +å¨ £ +å¨ ĵ +å© Ģ +çķ ļ +éĢ ¡ +ç» ł +éª Ĭ +ç» ¡ +éª ĭ +ç» ¦ +ç» ¨ +éª İ +éĤ ķ +é¸ ¶ +å½ Ĺ +èĢ ľ +çĦ ĺ +èĪ Ĥ +çIJ ı +çIJ ĩ +éº ¸ +æı ¶ +åŁ ´ +åŁ ¯ +æį ¯ +æİ ³ +æİ ´ +åŁ ¸ +åŁ µ +èµ § +åŁ ¤ +æį Ń +éĢ µ +åŁ Ŀ +åł ĭ +åł į +æİ ¬ +é¸ · +æį ½ +æİ Ĭ +åł ī +æİ ¸ +æį © +æİ ® +æĤ « +åŁ Ń +åŁ ½ +æİ ĩ +æİ ¼ +èģ ĥ +èIJ ģ +èı ĺ +åł ĩ +èIJ ĺ +èIJ ĭ +èı ½ +èı ĸ +è IJľ +èIJ ¸ +èIJ ij +æ£ » +èı Ķ +èı Ł +èIJ ı +èı ¹ +èı ª +èı ħ +èı Ģ +èı ° +èı ¡ +æ¢ ¿ +æ¢ ı +è§ ĭ +æ¡ ´ +æ¡ · +æ£ ģ +æ¡ « +æ£ Ĥ +åķ ¬ +éĥ ¾ +æķ ķ +è± ī +éĦ Ħ +éħ ŀ +ç¡ İ +ç¡ Ń +ç¡ ĸ +ç¡ Ĺ +ç¡ IJ +ç¡ ĩ +ç¡ Į +é¸ ¸ +çĵ ł +åĮ ı +åİ © +æ® Ĵ +æ® ĵ +æ® į +èµ ī +éĽ © +è¾ Ħ +åł ij +çľ Ń +çľ ¦ +åķ § +æĻ ¡ +æĻ ¤ +çľ µ +åľ Ĭ +åĸ ı +åķ ī +åĭ ĸ +æĻ ŀ +åĶ µ +æĻ Ĺ +åķ Ń +çķ ¦ +è¶ º +åķ ® +è· Ħ +èļ ¶ +è ĽĦ +èĽ İ +èĽ Ĩ +èļ ° +åľ ī +èļ ± +èĽ ī +èĽ ı +èļ ´ +åķ ģ +åķ ķ +åĶ ¿ +åķ IJ +åĶ ¼ +åĶ · +åķ ĸ +åķ µ +åķ ¶ +åķ · +åĶ ³ +åĶ ° +åķ ľ +å¸ » +å´ ļ +å´ ¦ +å¸ ¼ +å´ ® +å´ ¤ +å´ Ĩ +èµ ĩ +èµ Ī +èµ Ĭ +éĵ ij +éĵ Ĵ +éĵ Ĺ +éĵ Ļ +éĵ Ł +éĵ ¡ +éĵ ¢ +éĵ £ +éĵ ¤ +éĵ § +éĵ ¨ +éĵ © +éĵ ª +éĵ « +éĵ ¯ +éĵ ° +éĵ ± +éĵ ³ +éĵ µ +éĵ · +çī ¾ +é¸ ¹ +ç§ ¾ +éĢ ¶ +ç¬ º +çŃ ĩ +ç¬ ¸ +ç¬ ª +ç¬ ® +ç¬ ł +ç¬ ¥ +ç¬ ¤ +ç¬ ³ +ç¬ ¾ +ç¬ ŀ +åģ ¾ +åģ ĥ +åģ ķ +åģ Ī +åĤ Ģ +åģ ¬ +åģ » +çļ ij +çļ İ +é¸ » +å¾ ľ +èĪ ¸ +èĪ » +èĪ ´ +èĪ · +é¾ Ľ +ç¿ İ +èĦ ¬ +èĦ ĺ +èĦ ² +åĮ IJ +çĮ Ĺ +çĮ ¡ +çĮ ŀ +æĸ Ľ +çĮ ķ +é¦ Ĺ +é¦ ĥ +é¦ Ħ +é¸ ¾ +åº ¹ +åº ¾ +çĹ Ķ +çĹ į +ç¿ Ĭ +æĹ Į +æĹ İ +è¢ ¤ +éĺ ĩ +éĺ Ī +éĺ ī +éĺ Ĭ +éĺ ĭ +éĺ į +éĺ ı +ç¾ Ł +ç² Ŀ +çĦ IJ +çĦ ĵ +çĦ Ĺ +æ· ħ +æ· ŀ +æ¸ İ +æ¶ ¿ +æ· ĸ +æĮ ² +æ· ł +æ¶ ¸ +æ¸ ij +æ· ¦ +æ· Ŀ +æ¶ ª +æ· Ļ +æ¶ « +æ¸ Į +æĤ » +æĤ ± +æ ĥĿ +æĥ ĺ +æĥ Ĩ +æĥ ļ +æĥ ĩ +æĥ ® +çª ķ +è° Į +æī Ī +çļ ² +è° ij +è£ Ĩ +è¢ · +è£ ī +è° Ĵ +è° Ķ +è° ķ +è° ĸ +è° Ĺ +è° Ļ +è° Ŀ +éĢ ¯ +éĥ ¿ +éļ Ī +ç² ľ +éļ į +éļ Ĺ +å© Ĭ +å¨ ¼ +å© ¢ +å© µ +èĥ ¬ +è¢ Ī +ç¿ Į +æģ ¿ +æ¬ ¸ +ç» « +éª IJ +ç» ¯ +ç» ± +éª Ĵ +ç» ² +éª ĵ +ç» ¶ +ç» º +ç» » +ç» ¾ +éª ĸ +ç¼ ģ +èĢ ł +çIJ « +çIJ µ +çIJ ¶ +çIJ ¥ +çIJ ¨ +çIJ ° +çIJ ® +çIJ ¯ +çIJ ¬ +çIJ ļ +è¾ ĩ +é¼ ĭ +æı ³ +åł ŀ +æIJ ½ +æı ¸ +æı ł +åł Ļ +è¶ Ħ +æı ĸ +é¢ ī +å¡ Ħ +æı ¿ +èĢ ĭ +æı Ħ +èĽ © +èĽ ° +å¡ Ĩ +æij Ĵ +æı Ĩ +æİ ¾ +èģ Ĵ +èij ij +èij ļ +éĿ ° +éĿ ¸ +èij ³ +èij º +èij ¸ +èIJ ¼ +èij ¶ +è ĴĮ +èij Ń +æ¥ ® +æ £¼ +æ¤ Ł +æ£ ¹ +æ¤ ¤ +æ£ ° +èµ į +æ¤ ĭ +æ¤ ģ +æ¤ ª +æ¤ IJ +é¹ ģ +éħ ¤ +éħ ¢ +éħ ¡ +é¹ Ĥ +æ® ļ +æ® Ľ +éĽ ± +è¾ ĭ +æ¤ ł +è¾ İ +çĿ Ħ +çĿ ĩ +çĿ ĥ +æĪ ¢ +åĸ ĭ +åĹ Ĵ +åĸ ĥ +åĸ ± +åĸ ¹ +æĻ · +åĸ Ī +è· ĸ +è· Ĺ +è· ŀ +è· ļ +è· İ +è· ı +è· Ĩ +èĽ ± +èĽ ² +èĽ Ń +èĽ ³ +èĽ IJ +èĽ Ķ +èĽ ŀ +èĽ ´ +èĽ ĺ +åĸ ģ +åĸ Ł +åķ ¾ +åĹ ĸ +åĸ ij +åĹ Ł +åĹ ŀ +åĸ Ļ +åµ ĺ +åµ ĸ +å´ ´ +éģ Ħ +è© Ī +åµ İ +å µ¬ +åµ Ľ +åµ ¯ +åµ Ŀ +åµ « +å¹ Ħ +åµ ĭ +èµ ķ +éĵ » +éĵ ¼ +éĵ ¿ +éĶ ĥ +éĶ Ĩ +éĶ ĩ +éĶ ī +éĶ ı +éĶ ij +éĶ Ĵ +éĶ Ķ +éĶ ķ +æİ £ +çŁ ¬ +æ° ° +æ¯ ³ +æ¯ ½ +çĬ Ĭ +çĬ Ħ +çĬ ĭ +é ¹Ħ +çĬ į +åµ ĩ +é» į +ç¨ ĥ +ç¨ Ĥ +çŃ ļ +çŃ µ +çŃ Į +åĤ £ +åĤ Ī +èĪ Ħ +çī į +åĤ ¥ +åĤ § +éģ ij +åĤ © +å¾ ¨ +åª Ń +çķ ² +å¼ ij +ç¿ ķ +é¹ Ĩ +èħ Ī +èħ ĵ +èħ Ĩ +èħ ´ +èħ ļ +èħ ± +é± ¿ +é² Ģ +é² Ĥ +çĮ ¢ +çĮ ¹ +çĮ ¥ +é£ ĵ +è§ ŀ +è§ ļ +çĮ ± +é¢ İ +é£ § +é¦ ĩ +é¦ Ĭ +äº µ +èĦ Ķ +è£ Ĵ +çĹ £ +çĹ ¨ +çĹ ¦ +çĹ ŀ +çĹ ¤ +çĹ § +èµ ĵ +ç« ¦ +çĵ ¿ +åķ » +é¢ ı +é¹ ĩ +éĺ ij +éĺ Ĵ +éĺ ķ +ç² ŀ +éģ Ĵ +åŃ ³ +çĦ ¯ +çĦ ľ +çĦ ± +é¹ Ī +æ¸ « +æ¹ ® +æ¹ İ +æ¹ ľ +æ¹ į +æ¹ « +æº ² +æ¹ Ł +æº Ĩ +æ¹ ² +æ¹ Ķ +æ¹ ī +æ¸ ¥ +æ» ģ +æĦ ł +æĥ º +æĦ ¦ +æĥ ´ +æĦ Ģ +æĦ İ +æĦ Ķ +åĸ ¾ +å¯ IJ +è° Ł +è£ ¢ +è£ İ +è£ ¥ +ç¥ ¾ +è° ł +è° ¡ +è° ¥ +è° § +åŃ ± +å¼ ¼ +å· ½ +éª ĺ +åª ª +å· ¯ +ç¿ ļ +çļ ´ +éª Ľ +ç¼ Ĥ +ç¼ ĥ +ç¼ Ħ +å½ ĺ +ç¼ ĩ +ç¼ Ī +ç¼ Į +ç¼ ij +ç¼ Ĵ +ç¼ Ĺ +é£ ¨ +èĢ ¢ +çij ģ +çij Ĺ +çij Ħ +éģ ¨ +éª ľ +éŁ « +é« ¡ +å¡ ¬ +éĦ ¢ +è¶ Ķ +è¶ ij +æij ħ +æij ģ +èľ ĩ +æIJ ĭ +æIJ ª +æIJ IJ +æIJ Ľ +æIJ ł +æij Ī +å½ Ģ +æ¯ Ĥ +æIJ ¦ +æIJ ¡ +èĵ ģ +æĪ ¡ +è ĵį +éĦ ŀ +èĵ IJ +èĵ ¦ +é¹ ĭ +èĴ ½ +èĵ ĸ +èĵ Ĭ +èĴ ¯ +èĵ Ł +èĵ ij +èĴ º +èĵ ł +èĴ Ł +èĴ ¡ +èĴ ¹ +èĴ ´ +èĴ Ĺ +èĵ ¥ +æ¥ Ķ +æ¥ Ĥ +æ¥ Ŀ +æ¥ « +æ¥ ¸ +æ¤ ´ +æ§ Į +æ¥ ¯ +çļ Ļ +æ¦ Ī +æ§ İ +æ¦ ī +æ¥ ¦ +æ¥ £ +æ¥ ¹ +æ¤ ½ +åī ½ +éħ © +èľ ĥ +ç¢ Ľ +ç¢ ĵ +ç¡ ¼ +ç¢ ī +ç¢ ļ +ç¢ ĩ +ç¢ ľ +é¹ Į +è¾ ı +é¾ ĥ +é¾ ħ +è¨ ¾ +ç² ² +çĿ ļ +åĹ ª +éŁ ª +åĹ · +åĹ ī +çĿ ¨ +çĿ ¢ +éĽ İ +çĿ ¥ +åĹ ij +åĹ « +åĹ ¬ +åĹ Ķ +åĹ Ŀ +æĪ ¥ +åĹ Ħ +çħ ¦ +æļ Ħ +éģ ¢ +æ ļĮ +è· ¬ +è· ¶ +è ·¸ +è· IJ +è· £ +è· ¹ +èĽ ¸ +èľ Ĭ +èľ į +èľ ī +èľ £ +çķ ¹ +èĽ ¹ +åĹ ¥ +åĹ ² +åĹ ³ +åĹ Į +åĹ į +åĹ IJ +åĹ ¤ +åĹ µ +ç½ ¨ +åµ Ĭ +åµ ´ +éª ° +éĶ Ĺ +éĶ Ľ +éĶ ľ +éĶ Ŀ +éĶ ŀ +éĶ Ł +éĶ ¢ +éĶ ¨ +éĶ © +éĶ Ń +éĶ ± +éĽ ī +æ° ² +çĬ ı +æŃ ĥ +ç¨ ŀ +ç¨ Ĺ +ç¨ Ķ +çŃ ł +çŃ ¢ +çŃ ® +çŃ ² +çī Ĵ +æķ « +å¾ Ń +æĦ Ĩ +èī Ħ +è§ İ +æ¯ ¹ +è² Ĭ +è² ħ +è² ī +é¢ Ķ +èħ ł +èħ © +èħ ¼ +èħ Ń +è ħ§ +å¡ į +åª µ +é² ħ +é² Ĩ +é² ĩ +é² Ī +é² ĭ +é² IJ +èĤ Ħ +é¹ IJ +é£ ķ +è§ ¥ +éģ Ľ +é¦ IJ +é¹ ij +äº ¶ +çĺ ĥ +çĹ ± +çĹ ¼ +çĹ ¿ +çĺ IJ +çĺ ģ +çĺ Ĩ +éº Ĥ +æŃ Ĩ +æĹ Ĵ +éĺ ĸ +éĺ Ĺ +ç¾ § +è± ¢ +ç² ³ +çĮ · +çħ ³ +çħ ¨ +çħ ħ +çħ Ĭ +çħ ¸ +çħ º +æ» Ł +æº ± +æº ĺ +æ¼ Ń +æ» ¢ +æº ¥ +æº ½ +è£ Ł +æº » +æº · +æ» Ĺ +æ» « +æº ´ +æ» ı +æ» ĥ +æ» ¦ +æº ı +æ» Ĥ +æ» ĵ +æº Ł +æ» ª +æĦ « +æħ Ĭ +é² İ +éª ŀ +çª ł +çª £ +è£ ± +è£ ¨ +è£ ¾ +è£ ° +ç¦ Ĭ +è° © +è° ª +åª ¾ +å« « +åª ² +å« Ĵ +å« Ķ +åª ¸ +ç¼ Ļ +ç¼ ľ +ç¼ Ľ +è¾ Ķ +éª Ŀ +ç¼ Ł +ç¼ ¡ +ç¼ ¢ +ç¼ £ +éª Ł +èĢ ¥ +çĴ Ī +çij Ń +çį Ĵ +è§ ı +æħ Ŀ +å« ł +åı Ĩ +æij ½ +å¢ ģ +æĴ Ĥ +æij ŀ +æĴ Ħ +ç¿ ¥ +è¸ ħ +æij Ń +å¢ ī +å¢ Ĵ +æ¦ ĸ +ç¶ ¦ +èĶ « +èĶ · +éĿ º +éĿ ¼ +éŀ ħ +éĿ ¿ +çĶ į +èĶ ¸ +èĶ Ł +èĶ º +æĪ ¬ +èķ ĸ +èĶ » +èĵ ¿ +æĸ ¡ +é¹ ķ +èĵ ¼ +æ¦ Ľ +æ¦ § +æ¦ « +æ¦ Ń +æ§ Ķ +æ¦ ± +æ§ ģ +æ§ ł +æ¦ · +åĥ ° +éħ ½ +éħ ¹ +ç¢ ¡ +ç¢ ´ +ç¢ £ +ç¢ ² +èĩ § +è± ¨ +æ® ¡ +éľ ģ +èľ ļ +é¾ ĩ +é¾ Ī +ä ģ +äģ ĸ +çĿ ½ +åĺ ŀ +åĺ Ī +åĺ Į +åĺ ģ +æļ Ŀ +è¸ Į +è¸ ī +èľ ŀ +èľ ¥ +èľ ® +èĿ Ī +èľ ´ +èľ ± +èľ © +èľ · +èľ ¿ +èŀ Ĥ +èľ ¢ +åĺ ¡ +é¹ Ĺ +åĺ £ +åĺ ¤ +åĺ ļ +åĹ ¾ +åĺ § +ç½ ´ +ç½ ± +å¹ Ķ +å¶ Ĥ +å¹ Ľ +èµ Ļ +ç½ Ĥ +éª · +éª ¶ +é¹ ĺ +éĶ ² +éĶ ´ +éĶ ¶ +éĶ · +éĶ ¸ +éĶ µ +éķ Ĥ +çĬ Ĵ +ç® IJ +ç® ¦ +ç® § +ç® ¸ +ç® ¬ +ç® ħ +ç® ª +ç® ľ +ç® ¢ +ç® ĵ +åĥ ĸ +åĦ Ĩ +åĥ ³ +åĥ Ń +åĬ ģ +åĥ ® +éŃ ĥ +éŃ Ĩ +çĿ ¾ +èī ĭ +éĦ ± +èĨ Ī +èĨ ij +é² ij +é² Ķ +é² ļ +é² Ľ +é² Ł +çį IJ +è§ « +éĽ Ĵ +å¤ ¤ +é¦ ij +éĬ ® +å¡ ¾ +çĺ Į +çĺ Ĭ +çĺ ĺ +çĺ Ļ +æĹ ĸ +èĨ Ĥ +éĺ ļ +éĦ ¯ +é² ŀ +ç² ¿ +ç² ¼ +ç³ ģ +æ§ Ĭ +é¹ ļ +çĨ ĺ +çĨ ¥ +æ½ ¢ +æ¼ ķ +æ» ¹ +æ¼ ¯ +æ¼ ¶ +æ½ ĭ +æ½ ´ +æ¼ ª +æ¼ ī +æ¼ © +æ¾ ī +æħ µ +æIJ ´ +çª ¨ +å¯ ¤ +ç¶ ® +è° ® +è¤ ¡ +è¤ Ļ +è¤ ĵ +è¤ Ľ +è¤ Ĭ +è° ¯ +è° ° +è° ² +å± £ +é¹ Ľ +å« ± +å« ĸ +å« ¦ +å« ļ +å «ĺ +é¼ IJ +çŀ Ģ +é¹ ľ +éª ł +ç¼ ¥ +ç¼ ¦ +ç¼ § +ç¼ ¨ +éª ¢ +ç¼ « +èĢ ¦ +èĢ § +çĴ ľ +çĴ İ +çĴ ģ +å¥ Ń +é« ¯ +é« « +æĴ · +æĴ ħ +èµ Ń +æĴ ¸ +éĭ Ĩ +æĴ Ļ +æĴ º +å¢ Ģ +èģ © +è§ IJ +éŀ ij +èķ Ļ +éŀ Ĵ +èķ Ī +èķ ¨ +èķ ¤ +èķ ŀ +èķ º +çŀ ¢ +èķ ĥ +èķ ² +èµ ľ +æ§ ¿ +æ¨ ¯ +æ§ Ń +æ¨ Ĺ +æ¨ ĺ +æ§ ² +éĨ Į +éĨ ħ +éĿ ¥ +éŃ ĩ +é¤ į +ç£ Ķ +ç£ Ļ +éľ Ī +è¾ ĺ +é¾ ī +é¾ Ĭ +è§ ij +çŀ Į +ç ŀĭ +çŀ ij +åĺ Ń +åĻ İ +åĻ ¶ +é¢ Ļ +æļ ¹ +åĻ ĺ +è¸ Ķ +è¸ Ŀ +è¸ Ł +è¸ Ĵ +è¸ ¬ +è¸ ® +è¸ ¯ +è¸ º +è¸ ŀ +èĿ ½ +èĿ ¾ +èĿ » +èĿ ° +èĿ ® +è ŀĭ +èĿ ĵ +èĿ £ +è Ŀ¼ +åĺ ¬ +é¢ ļ +åĻ į +åĻ Ļ +åĻ Į +åĻ Ķ +é¢ Ľ +å¹ ŀ +å¹ ¡ +å¶ Ļ +å¶ Ŀ +éª º +éķ Ĭ +éķ ī +éķ Į +éķ ı +éķ Ĵ +éķ ĵ +éķ Ķ +ç¨ · +ç® ´ +ç¯ ij +ç¯ ģ +ç¯ Į +çī ĸ +åĦ ĭ +èĻ ¢ +é¹ ŀ +èĨ ĺ +é² ł +é² ¡ +é² ¢ +é² £ +é² ¥ +é² § +é² © +çį Ĺ +çį ł +è§ ¯ +é¦ ĵ +é¦ Ķ +éº ¾ +å» Ľ +çĺ Ľ +çĺ ¼ +çĺ ¢ +çĺ ł +é½ ij +ç¾ ° +𥠻 +ð¥» Ĺ +ç³ Į +ç³ į +ç³ ħ +çĨ ľ +ç Ĩµ +æ¾ į +æ¾ Į +æ½ ¸ +æ½ ¦ +æ½ ² +éĭ Ī +æ½ Ł +æ½ º +å¯ ® +çª ³ +è° ³ +è¤ ´ +è¤ Ł +è¤ « +è° µ +çĨ ¨ +å± ¦ +åĭ ° +æĪ ® +èĿ ¥ +ç¼ ¬ +ç¼ ® +ç¼ ¯ +éª £ +çķ ¿ +èĢ © +èĢ ¨ +èĢ ª +çĴ Ł +éĿ Ľ +çĴ ł +çĴ ĺ +èģ ± +èŀ ¯ +é« » +é« Ń +é« ¹ +æĵ Ģ +çĶ ı +æĵ ŀ +ç¸ ł +ç£ ¬ +é¢ ŀ +èķ » +é¢ Ł +èĸ ¤ +èĸ ¨ +æª ł +èĸ ı +èĸ ® +èĸ ľ +èĸ ħ +æ¨ ¾ +æ© Ľ +æ© ĩ +æ¨ µ +æª İ +æ© ¹ +æ¨ ½ +æ¨ ¨ +æ© ¼ +å¢ ¼ +æ© IJ +ç¿ ® +éĨ IJ +éĨ į +éĨ ļ +ç£ ² +èµ Ŀ +æ® ª +éľ ı +éĮ ¾ +è¾ ļ +éģ ½ +æ° ħ +çŀ Ł +çŀ ł +çŀ ° +åļ Ħ +åļ Ĩ +åĻ ¤ +æļ ¾ +è¹ Ģ +è¸ µ +è¸ ½ +è¹ ī +è¹ ģ +èŀ ¨ +èŀ Ī +èŀ ħ +èŀ Ń +èŀ ł +èŀ Ł +åĻ ± +åĻ « +åĻ » +åĻ ¼ +ç½ ¹ +åľ ľ +ä ¦ +ä¦ ĥ +éķ Ĺ +éķ ĺ +éķ ļ +éķ Ľ +éķ Ŀ +éķ ŀ +éķ ł +æ° ĩ +æ° Ĩ +ç© ij +ç¯ Ŀ +ç¯ ¥ +ç¯ ¦ +ç¯ ª +ç¯ Ļ +çĽ ¥ +åĬ ĵ +ç¿ ± +éŃ ī +éŃ Ī +å¾ ¼ +æŃ Ļ +èĨ ¦ +èĨ Ļ +é² ® +é² ± +é² ³ +é² ´ +é² µ +é² · +é² » +çį ´ +çį Ń +çį ¬ +éĤ Ĥ +é¹ § +å» ¨ +èµ Ł +çĺ ° +å» ª +çĺ ¿ +çĺ µ +çĺ ´ +çĻ ĥ +çĺ ³ +éº ĩ +éº Ī +å ¬´ +å£ ħ +ç³ Ĺ +çĶ ij +çĩ İ +çĩ ł +çĩ Ķ +çĩ § +æ¿ ij +æ¿ ī +æ½ ŀ +æ¾ § +æ¾ ¹ +æ¾ ¥ +æ¾ ¶ +æ¿ Ĥ +è¤ ° +çª ¸ +å¬ ĸ +çĬ Ł +éļ ° +å¬ Ĺ +é¢ ¡ +ç¼ ± +ç¼ ² +ç¼ ³ +çĴ © +çĴ ª +èŀ « +æĵ ¤ +å£ ķ +è§ ³ +ç½ Ħ +æĵ ¢ +èĸ ¹ +éŀ ¡ +éŀ ¬ +èĸ · +èĹ ĵ +èĹ ģ +æª Ħ +æª © +æĩ ĭ +éĨ ¢ +ç¿ ³ +ç¤ ħ +ç£ ´ +é¹ © +é¾ ĭ +é¾ Į +è± ³ +å£ ij +é» » +åļ ı +åļ ħ +è¹ ij +è¹ Ĵ +è¹ Ĭ +è Ł¥ +èŀ ¬ +èŀ µ +çĸ ĥ +èŀ ³ +èŁ ij +åļ ĵ +ç½ ½ +ç½ ¾ +å¶ · +é» ľ +é» Ŀ +é« ģ +é« Ģ +éķ ¡ +éķ ¢ +éķ £ +éķ ¦ +éķ § +éķ © +éķ ª +éķ « +ç½ ħ +ç° Į +ç¯ ¾ +ç¯ ¼ +ç° ĸ +ç° ĭ +é¼ ¢ +åĦ ¡ +é¹ ª +é¼ ¾ +çļ ¤ +éŃ į +é¾ ł +ç¹ ĩ +è² ĺ +éĤ Ī +è² Ķ +èĩ Į +èĨ » +èĩ Ĩ +èĩ ĥ +é² ¼ +é² ½ +é³ Ģ +é³ ĥ +é³ ħ +é³ ĩ +é³ Ĭ +èŀ ½ +çĩ ® +é¹ « +ç³ ľ +ç¸ » +çĻ į +éº ĭ +æĩ ij +æ¿ ¡ +æ¿ ® +æ¿ ŀ +æ¿ ł +æ¿ ¯ +è¹ ĩ +è¬ ĩ +éĤ ĥ +è¥ ģ +æª Ĺ +æ ĵĺ +åŃ º +éļ ³ +å¬ · +èŁ Ĭ +é¹ ¬ +éį ª +éı Ĭ +é¬ Ī +é¬ ĥ +çŀ ½ +éŀ ¯ +éŀ ¨ +éŀ « +éŀ § +éŀ £ +èĹ ľ +èĹ ł +éĨ ª +è¹ Ļ +ç¤ ĵ +çĩ ¹ +é¤ ® +çŀ ¿ +æĽ Ľ +é¢ ¢ +èº ĩ +è¹ ļ +èŁ Ľ +èŁ ª +èŁ ł +èŁ ® +é¹ ® +é» ł +é» Ł +é« ħ +é« Ĥ +éķ ¬ +éķ Ń +éķ ¯ +é¦ ¥ +ç° Ł +ç° ª +é¼ ¬ +éĽ ł +èī Ł +é³ İ +é³ ı +é³ IJ +çĻ ŀ +çĻ Ķ +ç³ ¨ +è¹ © +éİ ı +éĤ ĭ +é¬ ı +æĶ ī +éŀ ² +éŀ ´ +èĹ ¿ +èĺ § +èĺ ħ +éĨ ® +éĨ ¯ +éħ ĥ +éľ ª +éľ Ń +éľ ¨ +é» ¼ +åļ ¯ +è¹ ° +è¹ ¶ +è¹ ½ +è¹ ¼ +è¹ ´ +è¹ ¾ +è¹ ¿ +èł ĸ +èł ĵ +èŁ ¾ +èł Ĭ +é» ¢ +é« ĭ +é« Į +éķ ² +ç± Ģ +é½ ģ +éŃ ij +èī ¨ +é³ ĵ +é³ Ķ +é³ ķ +é³ Ĺ +é³ Ļ +éı ĸ +ç¾ ¸ +㸠Ĩ +çĢ £ +çĢ Ľ +è¥ ¦ +è° ¶ +è¥ ŀ +éª ¥ +ç¼ µ +çĵ Ĵ +æĶ ĺ +èĺ © +èĺ ĸ +éĨ ´ +éľ ° +éħ Ĩ +çŁ į +èº ħ +é¼ į +å· ī +é» © +é» ¥ +é» ª +éķ ³ +éķ ´ +é» § +çº Ĥ +çĴ º +é¼ ¯ +èĩ ľ +é³ ľ +é³ Ŀ +é³ Ł +çį ¾ +åŃ Ģ +éª § +ç ĵĺ +é¼ Ļ +éĨ º +ç¤ ´ +é¢ ¦ +æĽ © +é³ ¢ +éº Ŀ +å¤ Ķ +çĪ Ŀ +çģ ı +ç¦ ³ +éIJ ¾ +ç¾ ¼ +èł ¡ +èĢ ± +é¹ ³ +æ° į +é¥ ķ +èº IJ +é« ij +éķ µ +ç© ° +é¥ Ķ +é¬ » +é¬ Ł +è¶ ± +æĶ « +æĶ ¥ +é¢ § +èº ľ +é¼ ¹ +çĻ ¯ +èł ² +èł ¹ +èº ŀ +è¡ ¢ +çģ ŀ +è¥ » +çº Ľ +é¬ £ +æĶ ® +åĽ Ķ +é¦ ķ +æĪ Ĩ +çĪ ¨ +é½ ī +äº į +å° ¢ +å½ ³ +åį ¬ +æ® ³ +ðł ϶ +æ¯ Į +éĤ ĺ +æĪ ĭ +åľ ¢ +æ° ķ +ä¼ ĭ +ä» Ŀ +åĨ ® +æ° ¿ +æ± Ī +æ° ¾ +å¿ ī +å® Ħ +ð¬£ Ļ +è® ± +æī ŀ +åľ ² +åľ « +èĬ ı +èĬ ĥ +æľ ³ +æľ ¸ +ð¨ Ļ +ð¨Ļ ¸ +éĤ ¨ +åIJ Ĵ +åIJ ĸ +å± ¼ +å± ¾ +è¾ ¿ +éĴ Ĩ +ä» ³ +ä¼ £ +ä¼ Ī +çĻ ¿ +çĶ ª +éĤ ł +çĬ ´ +åĨ ± +éĤ ¡ +ð¬ĩ ķ +æ± ĭ +ä ľ +äľ £ +è® » +𬣠ŀ +åŃ ĸ +ð¬ĺ ĵ +çº © +çİ Ĵ +çİ ĵ +çİ ĺ +çİ ļ +åĪ ¬ +ð«Ń Ł +åĿ ľ +åĿ ī +æī ½ +ð«Ń ¢ +åĿ ĭ +æī º +ã§ ij +æ¯ IJ +èĬ ° +èĬ £ +èĭ Ĭ +èĭ ī +èĬ ĺ +èĬ ´ +èĬ ł +ð« ĩ +ð«ĩ Ń +èĬ ¤ +æĿ ķ +æĿ Ļ +æĿ Ħ +æĿ § +æĿ © +å° ª +å° ¨ +è½ ª +ð«IJ Ħ +åĿ Ĵ +èĬ Ī +æĹ ´ +æĹ µ +åij Ļ +ã ķ +ãķ ® +å² į +ð« µ +𫵠· +å² ł +å² ľ +åij ĩ +åĨ ı +è§ ĥ +å² Ļ +ä¼ ¾ +ãij ĩ +ä¼ Ń +ä½ ĸ +ä¼ ² +ä½ ģ +é£ ı +çĭ ĥ +éĹ ¶ +æ± § +æ± « +𣲠ĺ +ð£² Ĺ +æ² Ħ +æ² ĺ +ð¬ĩ Ļ +æ± Ń +ã³ ĩ +æ² ĩ +å¿ ® +å¿ ³ +å¿ º +𬣠¡ +ç¥ ĥ +è¯ ĩ +éĤ ² +è¯ İ +è¯ IJ +å± ĥ +ð« ¸ +𫸠© +å² Ĭ +éĺ ½ +ä¢ º +éĺ ¼ +å¦ § +å¦ ĺ +ð¨ ļ +ð¨ļ ķ +çº ® +é© ² +ð«ĺ ľ +çº » +ð¬ĺ ĺ +ð«ĺ Ŀ +çº ¼ +çİ ¤ +çİ ŀ +çİ ± +çİ Ł +éĤ ½ +éĤ ¿ +åĿ ¥ +åĿ ° +åĿ ¬ +åĿ ½ +å¼ Ĩ +èĢ µ +ä¢ ¼ +ð¦ Ń +ð¦Ń ľ +èĮ ĭ +èĭ § +èĭ ¾ +èĭ ł +æŀ ħ +ãŃ İ +æŀ ĺ +æŀ į +çŁ ¼ +çŁ » +åĮ ¼ +𬨠Ĥ +ð¬Ģ © +ð¬Ģ ª +æĹ ¿ +æĺ Ħ +æĺ Ĵ +æĺ Ī +åĴ ī +åĴ ĩ +åĴ į +å² µ +å² ½ +å² ¨ +å² ŀ +å³ Ĥ +ã Ł +ãŁ ĥ +åĽ · +𬬠© +éĴ IJ +éĴ Ķ +éĴ ĸ +çī ¥ +ä½ ´ +åŀ Ī +ä¾ ģ +ä¾ ¹ +ä½ ¸ +ä½ º +éļ ¹ +ãij Ĭ +ä¾ Ĥ +ä½ ½ +ä¾ ĺ +éĥ Ī +èĪ ł +éĥ IJ +éĥ ĥ +æĶ ½ +èĤ Ń +èĤ ¸ +èĤ · +çĭ ī +çĭ Ŀ +é¥ ³ +å¿ ŀ +çĤ Į +çĤ Ĩ +æ³ Ļ +æ² º +æ³ Ĥ +æ³ ľ +æ³ ĥ +æ³ ĩ +æĢ Ĭ +å³ ĥ +ç© ¸ +ç¥ ĭ +ç¥ Ĭ +ð«į £ +𬣠³ +𬠩½ +é¸ ¤ +å¼ ¢ +å¼ ¨ +éĻ ij +𬮠¿ +éĻ İ +ð¬¯ Ģ +åį º +ä¹ ¸ +å¦ Ń +å§ Ī +ð« ° +ð«° Ľ +è¿ ³ +åı ķ +𬳠µ +é© µ +𬳠¶ +ä Į +äĮ ¹ +é© º +ð«ł Ĭ +ç» ĭ +ç» IJ +çł ī +èĢ Ķ +ãĽ ĥ +çİ ¶ +çı ĩ +çı ħ +ð¬į Ľ +çı ĭ +çİ ¹ +çı Į +çİ ¿ +éŁ ¨ +åŀ ļ +åŀ ¯ +åŀ Ļ +åŀ ² +åŁ ı +åŀ į +èĢ ĩ +é¿ į +åŀ İ +åŀ ´ +åŀ Ł +åŀ ŀ +æĮ ĵ +åŀ µ +åŀ ı +æĭ ¶ +èį ĸ +èį ģ +èį Ļ +èį Ľ +èĮ Ī +èĮ ½ +èį Ħ +èĮ º +ð¬ľ ¬ +èį ĵ +èĮ ³ +𦠰 +𦰠¡ +èĮ Ľ +èį Ń +ãŃ ķ +æŁ · +æŁ ĥ +æŁ Ĭ +æŀ ¹ +æł IJ +æŁ ĸ +éĥ ļ +åī ħ +ä´ ĵ +è¿ º +åİ ĸ +çł Ĩ +çł ij +çł Ħ +èĢ ı +å¥ ĵ +ä ¶ +ä¶ ® +è½ µ +è½ · +è½ ¹ +è½ º +æĺ º +𪠾 +𪾠¢ +æĺ ½ +çĽ · +åĴ ¡ +åĴ º +æĺ ³ +æĺ £ +æĺ ¤ +æĺ « +æĺ ¡ +åĴ ¥ +æĺ ª +èĻ · +èĻ ¸ +åĵ ĥ +å³ ĺ +èĢ ij +å³ Ľ +𪨠° +å³ Ĺ +å³ § +å¸ ¡ +éĴ ĺ +ð«ĵ § +éĴ ľ +𬬠® +𬬠± +ð¬¬ Ń +éĴ ª +éĴ ¬ +éĴ Ń +çŁ § +ç§ ¬ +ä¿ « +èĪ ģ +ä¿ ľ +ä¿ Ļ +ä¿ į +åŀ ķ +è¡ İ +èĪ £ +å¼ ĩ +ä¾ ´ +é¸ § +äı ¡ +èĥ ł +ð¦ ϶ +èĥ Ī +èĥ © +èĥ £ +æľ ı +é£ IJ +è¨ Ħ +é¥ » +åº ¤ +çĸ ¢ +çĤ £ +çĤ Ł +ã ¶ +ã¶ ² +æ´ Ń +æ´ ĺ +æ´ ĵ +æ´ ¿ +ã³ ļ +æ³ ļ +æµ Ī +æµ ī +æ´ ¸ +æ´ ij +æ´ ¢ +æ´ Ī +æ´ ļ +æ´ º +æ´ ¨ +æµ IJ +ã³ ĺ +æ´ ´ +æ´ £ +æģ Ķ +å® ¬ +çª Ģ +æī Ĥ +è¢ Ĩ +ç¥ ı +ç¥ IJ +ç¥ ķ +åı ļ +éĻ § +éĻ ŀ +å¨ Ģ +å§ ŀ +å§ ± +å§ ¤ +å§ ¶ +å§ ½ +æŀ ² +ç» ĸ +éª ĥ +ð¬ĺ ¡ +𬳠½ +ð¬ĺ © +ð«Ħ § +å½ ĸ +éª ī +æģ Ŀ +çı ª +çı Ľ +çı ¹ +çIJ Ĭ +çİ ¼ +çı ĸ +ðª Ł +ðªŁ Ŀ +çı ½ +çı ¦ +çı « +çı Ĵ +ð¬į ¤ +çı ¢ +çı ķ +çı Ŀ +ð«Ń ¼ +åŁ Ĺ +åŀ ¾ +åŀ º +åŁ Ĩ +åŀ ¿ +åŁ Į +åŁ ĩ +èİ ° +èĮ Ŀ +ð¬ľ ¯ +éĦ Ģ +èİ ¶ +èİ Ŀ +äĵ ĸ +èİ Ļ +æł » +æ¡ ł +ð¬ Ĥ +ð¬Ĥ © +æ¡ Ħ +æ¢ ł +æł ´ +æ¢ ´ +æł Ĵ +éħ İ +éħ ı +ð«ł Ĩ +çł µ +çł ł +çł « +çł ¬ +ç¡ ģ +æģ § +ç¿ ĥ +éĥ ª +ð¨ IJ +ð¨IJ Ī +è¾ Ģ +è¾ ģ +ð¬ Į +ð¬Į Ĺ +åī ķ +èµ Ģ +åĵ ¢ +æĻ ħ +æĻ Ĭ +åĶ Ŀ +åĵ ³ +åĵ ± +åĨ Ķ +æĻ Ķ +æĻ IJ +çķ ĸ +èļ Ħ +èļ Ĩ +ð« ij +ð«ij ¡ +å¸ ± +å´ ģ +å³ ¿ +𪨠¶ +å´ Ħ +å¸ ¨ +å ´Ģ +èµ Ĩ +𬠬¸ +éĴ · +𬬠» +𬬠¹ +𬬠¿ +ð¬Ń ģ +çľ ļ +çĶ ¡ +ç¬ « +åĢ » +åĢ ´ +èĦ © +åĢ ® +åĢ ķ +åĢ ŀ +ð« ¢ +ð«¢ ¸ +åĢ ĵ +åĢ § +è¡ ĥ +èĻ Ĵ +èĪ Ń +èĪ ¯ +èĪ ¥ +çĵ ŀ +é¬ ¯ +é¸ ° +èĦ İ +æľ ĵ +èĥ ² +èĻ ĵ +é± ½ +çĭ ´ +å³ ± +çĭ » +çľ ¢ +ð«Ĺ § +åĭ į +çĹ Ħ +çĸ ° +çĹ ĥ +ç« ĺ +ç¾ ĸ +ç¾ ĵ +æ¡ Ĭ +æķ ī +çĥ ł +çĥ Ķ +çĥ ¶ +çĥ » +ð¬Ĭ Ī +æ¶ į +æµ ¡ +æµ Ń +æµ ¬ +æ¶ Ħ +æ¶ ¢ +æ¶ IJ +æµ ° +æµ Ł +æµ Ľ +æµ ¼ +æµ ² +æ¶ ĺ +æĤ Ī +æĤ ĥ +æĤ ¢ +ð¬Ĵ Ī +å® § +çª ħ +çª Ĭ +çª İ +æī ħ +æī Ĩ +è¢ ª +è¢ Ĺ +è¢ ¯ +ç¥ § +éļ º +åł ² +çĸ į +𨠺 +ð¨º Ļ +éĻ ´ +ç ĥĿ +çł ® +ãĽ ļ +åĵ ¿ +ç¿ Ģ +ç¿ Ĥ +åī Ł +𬳠¿ +ð«Ħ ¨ +ç» ¤ +éª į +ð¬ĺ « +ä Ĥ +äĤ ® +çIJ İ +çı ¸ +çı µ +çIJ Ħ +çIJ Ī +çIJ Ģ +çı º +æİ Ń +åł İ +åł IJ +åŁ ¼ +æİ İ +åŁ « +åł Į +æĻ ¢ +ð« ® +ð«® ĥ +æİ ŀ +åŁ ª +å£ ¸ +ãĻ į +èģ į +èı Ŀ +èIJ ļ +èı ¥ +èİ ¿ +äĵ « +åĭ ļ +äĵ ¬ +èIJ Ĩ +èı Ĥ +èı į +èı ¼ +èIJ £ +äĵ ¨ +èı ī +äĵ Ľ +æ¢ ¼ +æ¢ ½ +æ¡ ² +æ¢ ¾ +æ¡ ¯ +æ¢ £ +æ¢ Į +æ¡ ¹ +æķ Ķ +åİ £ +ç¡ Ķ +é¿ İ +ç¡ Ļ +ç¡ ļ +ç¡ Ĭ +ç¡ į +åĭ Ķ +ä´ ķ +é¾ ģ +éĢ ´ +åĶ ª +åķ « +ç¿ Ī +ã « +ã« ° +æĻ Ļ +çķ ¤ +𬱠ĸ +è¶ ¼ +è· Ĥ +èĽ ĥ +èļ ² +ð¬Ł ½ +èļ º +åķ ´ +äİ ĥ +å´ § +å´ Ł +å´ ŀ +å´ Ĵ +å´ Į +å´ ¡ +éĵ ı +ð«ĵ ¯ +ð«Ł ¹ +éĵ ķ +ð«Ł ¼ +éĵ ĸ +éĵ ĺ +éĵ ļ +éĵ ŀ +éĵ ¥ +éĵ ´ +çī » +çī ¿ +ç¨ Ĩ +ç¬ ± +ç¬ ¯ +åģ ° +åģ ¡ +é¸ º +åģ Ń +åģ ² +åģ ģ +ã ¿ +ã¿ ł +éĦ ħ +åģ ĵ +å¾ Ľ +è¡ Ĵ +èĪ ³ +èĪ ² +é¸ ¼ +æĤ Ĩ +éĦ ĥ +çĵ » +ä Ŀ +äĿ Ļ +èĦ ¶ +èĦ ŀ +èĦ Ł +äı ² +é± ¾ +çĮ ĩ +çĮ Ĭ +çĮ Ħ +è§ ĸ +ðł ħ +ðłħ ¤ +åº ± +åº ¼ +åº ³ +çĹ ĵ +ä´ Ķ +ç« « +åł ĥ +éĺ Į +ç¾ Ŀ +ç¾ ķ +çĦ Ĩ +çĥ º +çĦ Į +æ· ı +ð¬ĩ ¹ +æ· Ł +æ· ľ +æ· ´ +æ· ¯ +æ¹ ´ +æ¶ ´ +ð¬į ¡ +ã ¥ +㥠Ħ +æĥ Ľ +æĥ Ķ +æĤ ° +æĥ Ļ +å¯ ģ +éĢ Ń +𬤠ĩ +ð«į ¯ +è¢ ¼ +è£ Ī +ç¥ ² +𬤠Ĭ +ð«į ² +è° ŀ +èī ´ +å¼ ¸ +å¼ ¶ +ð¬¯ İ +éļ ĥ +å© ŀ +å¨ µ +å© ¼ +åª ĸ +å© ³ +å© į +å© Į +å© « +å© ¤ +å© ĺ +å© ł +ð¬ĺ ¬ +ð¬ĺ Ń +𬴠Ĥ +ð«ĺ ¦ +ç» ¹ +ð«Ł ħ +ð¬ĺ ¯ +éª ķ +ð«ĺ § +çµ ľ +çı · +çIJ ² +çIJ ¡ +çIJ Ł +çIJ Ķ +çIJ Ń +åł ¾ +åł ¼ +æı ķ +ãĻ ĺ +åł § +åĸ Ĩ +åł ¨ +å¡ ħ +åł ł +çµ · +𪠣 +𪣠» +ð¡ İ +ð¡İ ļ +è ijľ +æĥ İ +èIJ ³ +èij Ļ +éĿ ¬ +èij ´ +èĴ ĩ +èĴ Ī +éĦ ļ +èĴ ī +èĵ ĩ +èIJ © +èij ° +èij İ +éĦ ij +èĴ İ +èij ĸ +èĴ Ħ +èIJ ¹ +æ£ ¤ +æ£ ½ +æ£ « +æ¤ ĵ +æ¤ ij +ð¬ ĥ +ð¬ĥ Ĭ +é¹ Ģ +æ¤ Ĩ +æ£ ĵ +æ£ ¬ +æ£ ª +æ¤ Ģ +æ¥ Ĺ +𬠷 +𬷠ķ +çĶ ¦ +éħ ¦ +è§ Į +å¥ ¡ +çļ ķ +ç¡ ª +æ¬ ¹ +è© Ł +ð«IJ IJ +è¾ Į +æ£ IJ +é¾ Ĥ +𬠹 +𬹠¼ +é» ¹ +çī ļ +çĿ İ +æĻ « +æĻ ª +æĻ ± +ð § +ð§ ¿ +ð§¿ ¹ +èĽ ij +çķ ¯ +æĸ Ŀ +åĸ ¤ +å´ ¶ +åµ ģ +ð« ¶ +ð«¶ ĩ +å´ ¾ +åµ ħ +å´ ¿ +åµ ļ +ç¿ Ļ +ð«ĸ ® +åľ Į +åľ IJ +èµ ij +èµ Ĵ +é¿ ı +éĵ ¹ +ð¬Ń Ĭ +éĵ ½ +𨱠ĩ +ð«ĵ ¶ +éĶ Ĭ +éĶ į +éĶ İ +ð¬Ń İ +éĶ ĵ +çĬ ĩ +é¢ ĭ +ç¨ Į +çŃ Ģ +çŃ ĺ +çŃ ľ +çŃ ¥ +çŃ ħ +åĤ ĥ +åĤ ī +ç¿ Ľ +åĤ Ĵ +åĤ ķ +èĪ ¾ +çķ ¬ +ð«ĸ ¯ +èĦ ¿ +èħ ĺ +ä IJ +äIJ ĥ +èħ Ļ +èħ Ĵ +ð¬± Ł +é² ĥ +çĮ ° +ð« Ľ +ð«Ľ Ń +çĮ ¯ +ã º +㺠Ħ +é¦ ī +åĩ ĵ +éĦ Ĺ +ð« · +ð«· · +å» ĭ +å» Ĩ +éĦ Į +ç² ¢ +éģ Ĩ +æĹ IJ +𬮠± +çĦ ŀ +ð¬Ĭ ¤ +æ¬ » +𣠸 +𣸠£ +æº ļ +æº ģ +æ¹ Ŀ +æ¸ ° +æ¹ ĵ +ã ´ +ã´ Ķ +æ¸ Ł +æº ł +æ¸ ¼ +æº ĩ +æ¹ £ +æ¹ ij +æº ŀ +æĦ IJ +æĦ ĥ +æķ © +çĶ ¯ +æ£ ¨ +æī Ĭ +è£ £ +ç¥ ¼ +å© » +åª Ĩ +åª ŀ +ãĽ ¹ +åª ĵ +åª Ĥ +åª Ħ +æ¯ µ +çŁ ŀ +𬴠ĥ +ð«ĺ ¨ +ç¼ Ĭ +ç¼ IJ +éª Ļ +çij ĥ +çij ĵ +çij ħ +çij Ĩ +ä´ ĸ +çij ĸ +çij Ŀ +çij Ķ +çij Ģ +𤠧 +𤧠Ľ +çij ³ +çij Ĥ +å¶ ħ +çij ij +éģ ĺ +é« ¢ +å¡ ¥ +åł ½ +èµ ª +æij Ľ +å¡ Ŀ +æIJ Ĵ +æIJ Į +èĴ ± +èĴ ¨ +èĵ ı +èĶ Ģ +èĵ ¢ +èĵ Ĥ +èĴ » +èĵ £ +æ¤ ¹ +æ¥ ª +æ¦ ĥ +æ¦ ħ +æ¥ Ĵ +æ¥ © +æ¦ ĩ +æ¤ ¸ +æ¥ Ļ +æŃ ħ +𬠪 +𬪠© +ç¢ ĥ +ç¢ ı +ð¬Ĵ Ķ +ç¢ Ī +äĥ ħ +ç¡ ¿ +éĦ ł +è¾ Ĵ +ð¬¨ İ +ð«IJ ĵ +é¾ Ĩ +è§ ľ +ä £ +ä£ ĺ +æļ ķ +é¹ į +ð« « +ð«« ĩ +㬠Ĭ +æļ ħ +è· ± +èľ IJ +èľ İ +åµ ² +èµ Ĺ +éª ± +éĶ ĸ +ð«ĵ ¹ +éĶ ĺ +éĶ ³ +éĶ § +éĶ ª +ð¬Ń ļ +éĶ « +éĶ ¬ +ð¬Ń Ľ +ç¨ ij +ç¨ Ļ +ä ħ +äħ Ł +ð¬ ķ +ð¬ķ Ĥ +çŃ » +çŃ ¼ +çŃ ¶ +çŃ ¦ +çŃ ¤ +åĤ º +é¹ İ +åĥ ĩ +èī ħ +èī ī +è° ¼ +è² Ĩ +èħ ½ +èħ ¨ +èħ ¯ +é² ī +é² Ĭ +é² Į +ä² Ł +𬶠ĭ +𬶠į +é² ı +éĽ Ĭ +çĮ º +é£ Ķ +è§ Ł +ð¦ Ŀ¼ +é¦ Į +è£ Ľ +å» Ĵ +çĺ ħ +éĦ ĺ +é¹ Ĵ +éĦ ľ +éº Ģ +éĦ £ +éĺ ĺ +ð«Ķ ¶ +çħ ģ +çħ ĥ +çħ ´ +çħ ĭ +çħ Ł +çħ ĵ +æ» ł +æº į +æº ¹ +æ» Ĩ +æ» ī +æº ¦ +æº µ +æ¼ · +æ» § +æ» ĺ +æ» į +æĦ Ń +æħ ¥ +æħ Ĩ +å¡ ± +ð« ĮĢ +è £¼ +ç¦ ĭ +ç¦ Ķ +ç¦ ĺ +ç¦ Ĵ +è° « +é¹ Ķ +ð«ĸ ³ +æĦ į +å« Ħ +åª ± +æĪ ¤ +åĭ ł +æĪ £ +ð«ĺ ª +ð«ĺ ¬ +ç¼ ŀ +èĢ ¤ +çij § +ð« ŀ +ð«ŀ © +çij ¨ +çij ± +çij · +çij ¢ +æĸ ł +æij ı +å¢ ķ +å¢ Ī +å¢ IJ +å¢ ĺ +æij ´ +éĬ İ +ð¡ IJ +ð¡IJ ĵ +å¢ ļ +æĴ ĸ +𪠤 +ðª¤ Ĺ +éĿ ½ +éŀ ģ +èĶ Į +èĶ Ī +èĵ ° +èĶ ¹ +èĶ Ĭ +åĺ ı +æ¦ ° +æ¦ ij +æ§ ļ +ð£ Ĺ +ð£Ĺ ĭ +æ§ ľ +æ¦ į +çĸ IJ +𬸠ĺ +éħ º +éħ ¾ +éħ ² +éħ ´ +ç¢ ¶ +äĥ İ +ð¬Ĵ Ĺ +ç¢ ¨ +ð¥ Ķ +ð¥Ķ ² +ç¢ ¹ +ç¢ ¥ +åĬ Ĥ +ð«ļ ĸ +ä´ Ĺ +å¤ ¥ +çŀ į +é¹ ĸ +ã¬ İ +è· ½ +èľ ¾ +å¹ ĸ +å¶ į +åľ Ļ +𨱠ı +éĶ º +éĶ ¼ +éĶ ½ +ð¬Ń ¤ +éĶ ¾ +éĶ ¿ +éķ ĥ +éķ Ħ +éķ ħ +é¦ Ŀ +é¹ Ļ +ç® ¨ +ç® ĸ +åĬ Ħ +åĥ ¬ +åĥ ¦ +åĥ Ķ +åĥ İ +æ§ ĥ +ãĻ ¦ +é² Ĵ +é² ķ +ð«ļ ķ +é² ĸ +é² Ĺ +é² ĺ +é² Ļ +𬶠IJ +𬶠ı +ð ©½ +𩽠¾ +å¤ IJ +çį į +é£ Ĺ +𬸠ļ +åĩ ĺ +å» ij +å» Ļ +çĺ Ĺ +çĺ ¥ +çĺ ķ +é² Ŀ +éĦ « +çĨ ĩ +æ¼ ¹ +æ¼ ĸ +æ½ Ĩ +æ¼ ¤ +æ½ © +æ¼ ¼ +æ¼ ´ +ã ½ +ã½ ı +æ¼ Ī +æ¼ ĭ +æ¼ » +æħ ¬ +çª ¬ +çª Ń +ã ® +ã® ¾ +𬤠Ŀ +è¤ ķ +ç¦ Ľ +ç¦ ļ +éļ © +å« ķ +å« Ń +å« ľ +å« ª +ð¬ ĻĤ +ã » +ã» ¬ +éº ¹ +çĴ Ĩ +æ¼ ¦ +åı ĩ +å¢ £ +å¢ ¦ +å¢ ¡ +åĬ IJ +èĸ ģ +èķ ° +èĶ ĥ +é¼ Ĵ +æ§ ± +é¹ Ŀ +ç£ ı +ç£ ī +æ® £ +æħ Ń +éľ ħ +æļ µ +æļ ² +æļ ¶ +è¸ ¦ +è¸ £ +äĹ ĸ +èĿ ĺ +èĿ ² +èĿ ¤ +åĻ ĩ +å ĻĤ +åĻ Ģ +ç½ ¶ +å¶ ² +å¶ ĵ +ãł ĩ +å¶ Ł +å¶ Ĵ +éķ Ĩ +éķ Ī +éķ ĭ +éķ İ +ð¬Ń © +éķ ķ +ç¨ ¹ +åĦ ĩ +çļ ŀ +çļ Ľ +ä´ ĺ +èī İ +èī ı +é¹ Ł +𩾠ĥ +é² ¦ +é² ª +é² ¬ +æ© ¥ +è§ Ń +é¹ ł +é¹ ¡ +ç³ ĩ +ç³ Ī +ç¿ ¦ +é¹ ¢ +é¹ £ +çĨ Ľ +æ½ ĸ +æ½ µ +ã µ +ãµ IJ +æ¾ Ĥ +æ¾ Ľ +çij ¬ +æ½ ½ +æ½ ¾ +æ½ ı +æĨ Ń +æĨ ķ +𬸠£ +æĪ Ń +è¤ ¯ +ç¦ ¤ +ð«į ½ +å« ½ +éģ ¹ +𬴠Ĭ +çĴ ¥ +çĴ ² +çĴ Ĵ +æĨ Ļ +æĵ IJ +éĦ ¹ +èĸ ³ +éŀ Ķ +é» ĩ +ð¬ ŀ +ð¬ŀ Ł +èķ Ĺ +èĸ ¢ +èķ ¹ +æ© ŀ +æ© ij +æ© ¦ +éĨ ij +è§ ± +ç£ ¡ +ð¥ ķ +ð¥ķ ¢ +ç£ ľ +è± ® +ð«Ł ¦ +ð¬º Ī +ð«ł ľ +é¹ ¾ +èĻ ¤ +æļ ¿ +æĽ Į +æĽ Ī +㬠ļ +è¹ ħ +è¸ ¶ +äĹ Ľ +èŀ Ĺ +çĸ ģ +ãł ĵ +å¹ ª +𪠩 +𪩠ĺ +å¶ ¦ +ð¬Ń ¬ +𨱠ij +ð¬Ń ¯ +é¦ ŀ +ç© Ħ +ç¯ ļ +ç¯ ¯ +ç° ī +é¼ ½ +è¡ ł +çĽ ¦ +èŀ £ +ç¸ ¢ +é² Ń +é² ¯ +é² ° +é² º +é² ¹ +ð«Ĺ ´ +äº ¸ +çĻ Ģ +çĺ Ń +𬸠¦ +ç¾ ± +ç³ Ĵ +çĩ ĭ +çĨ » +çĩ Ĭ +çĩ ļ +çĩ ı +æ¿ © +æ¿ ĭ +æ¾ ª +æ¾ ½ +æ¾ ´ +æ¾ Ń +æ¾ ¼ +æĨ · +æĨ º +æĩ Ķ +é» ī +å¬ Ľ +é¹ ¨ +ç¿ ¯ +ð«Ħ · +çĴ ± +𤠩½ +çĴ ¬ +çĴ ® +é« ½ +æĵ ¿ +èĸ ¿ +èĸ ¸ +æª ij +æ« Ĩ +æª ŀ +éĨ ¨ +ç ¹Ħ +ç£ ¹ +ç£ » +çŀ « +çŀ µ +è¹ IJ +èŁ ı +ã ĺ +ãĺ İ +ð¬Ń ³ +éķ ¤ +ð¬Ń ¶ +ð«Ķ į +éķ ¥ +éķ ¨ +ð¬Ń ¸ +ð¨± Ķ +ð¬Ń ¼ +ð«Ķ İ +çŁ ° +ç© Ļ +ç© ľ +ç© Ł +ç° ķ +ç° ĥ +ç° ı +åĦ ¦ +éŃ ĭ +æĸ ¶ +èī ļ +𬸠ª +è° ¿ +ä² ł +ð¬¶ Ł +é² ¾ +𬶠ł +é² ¿ +é³ ģ +é³ Ĥ +é³ Ī +é³ ī +çį ¯ +äĹ ª +é¦ ĺ +è¥ ķ +è¥ ļ +𬶠¨ +èŀ ± +çĶ ĵ +å¬ ¬ +å¬ ¥ +ð¦ Ī +ð¦Ī ¡ +ð«Ħ ¸ +çĵ Ģ +éĩ IJ +é¬ ¶ +çĪ ĩ +éŀ ³ +éŀ ® +ð¬Ł ģ +èĹ Ł +èĹ ¦ +èĹ ¨ +é¹ ² +æª « +é» ¡ +ç¤ ŀ +ç¤ Į +ð¥ ĸ +ð¥ĸ ¨ +è¹ ¢ +è¹ ľ +èŁ « +äĹ ´ +åļ ļ +é« ĥ +éķ ® +éķ ± +éħ Ĥ +é¦ § +ç° ł +ç° Ŀ +ç° ° +é¼ « +é¼ © +çļ ¦ +èĩ ij +ä² ¢ +é³ ij +é³ Ĵ +é¹ ± +é¹ ¯ +çĻ Ĺ +ð¦ Ĵ +ð¦Ĵ į +æĹ ŀ +ç¿ · +åĨ ģ +äİ ĸ +çĢ Ķ +çĢ į +çĢ Į +è¥ ľ +ä´ Ļ +ð¬Ļ Ĭ +åļ Ń +ã ° +ã° Ģ +é¬ · +éĨ Ń +è¹ ¯ +èł ĭ +ç¿ ¾ +é³ ĺ +åĦ ³ +åĦ ´ +é¼ Ĺ +ð¬¶ Ń +𩾠Į +é³ ļ +é³ Ľ +éº ij +éº ĸ +èł ĥ +å½ Ł +å¬ ¿ +é¬ Ĵ +èĺ ĺ +æ¬ Ĥ +é Ĩµ +é¢ ¥ +çĶ Ĺ +ð¨ Ł +ð¨Ł ł +å· ĩ +éħ ħ +é« İ +çĬ ¨ +𬶠® +ð¨ Ń +ð¨Ń ī +㸠Į +çĪ Ķ +çĢ ± +çĢ ¹ +çĢ ¼ +çĢ µ +è¥ « +åŃ ħ +éª ¦ +ð¬Ļ ĭ +èĢ ° +𤠫 +𤫠ī +çĵ ĸ +é¬ ĺ +è¶ ¯ +𬺠ĵ +ç½ į +é¼ ± +é³ ł +é³ ¡ +é³ £ +çĪ Ł +çĪ ļ +çģ Ī +éŁ Ĥ +ç³ µ +èĺ ¼ +ç¤ µ +é¹ ´ +èº Ķ +çļ Ń +é¾ ¢ +é³ ¤ +äº ¹ +ç± ¥ +é¼ · +ð«ļ Ń +çİ ĥ +éĨ ¾ +é½ ĩ +è§ ¿ +èł ¼ +× § +× ¤ +× Ľ +×ķ× ª +× ¡ +×Ļ× Ŀ +× ¦ +× Ĵ +× ĺ +×ķ× ¨ +× Ŀ +×ķ× ľ +× ĸ +๠Ĥ +ï º +ðŁ į +ðŁ IJ +×Ļ× ¨ +ï » +ðŁ ij +ðĿ IJ +ðŁ ı +ðŁ Ķ +ðŁ Į +ðŁ İ +ðŁ ĵ +× Ł +ðĿ ij +×ķ× ĵ +ï ¦ +Ġ× ķ +×ķ× ij +à¸Ń à¸ĩ +ðĿ ĺ +×Ļ× ª +ðĿ ķ +à¸Ĺ ีà¹Ī +Ø§Ø ¦ +ðŁ ¤ +×ķ× Ł +ر ÙĬ +×Ļ× ľ +ร ะ +า ย +ï ¯ +ï ® +า ม +â ĩ +ðŁ ¥ +ï Ń +ðĿ Ļ +×ķ× ł +á ½ +Ġ× Ľ +ðŁ ļ +â ļ +ï § +×ij ר +×Ļ× ł +á ´ +Ġ× Ĺ +á ¼ +ðĿ Ĺ +Ġ× ¢ +×Ļ× Ķ +ãģ£ ãģŁ +ãģĵ ãģ¨ +á ¸ +ÙĬ ÙĨ +ãģª ãģĦ +ا ع +ภ¨ +à¹Ī à¸ĩ +×Ļ× ĵ +×ŀ ש +á Ī +׳ ×Ļ +×Ļ× ij +ï ¥ +ðĿ ĵ +Ġ× Ļ +× ļ +ั à¸ĩ +â ĵ +ï ¤ +ĠاÙĦ Ø£ +า à¸ģ +à¹ī à¸Ļ +à¹Ģ ร +×ķ× Ŀ +á ¹ +ภ¶ +×Ļ× § +ภĭ +à¸Ħ ร +ภĺ +ั à¸ģ +ðŁ ķ +ÙĪ ÙĨ +à¸Ń ย +â Ĭ +ðĿ Ĵ +ĠاÙĦ ع +า à¸Ļ +×Ļ× Ł +ÙĦ ÙĬ +×Ļ× © +à¸Ľ ระ +à¹Ģ à¸Ľ +Ġ× ł +×ķ× ¡ +ภł +Ùħ ÙĨ +×ķ× ¢ +×ķ× ŀ +â Į +ðŁ § +à¹ĩ à¸Ļ +ภį +ã İ +á µ +ĠاÙĦ س +×ķ× § +ห ล +ðŁ ĩ +â ı +ðŁ ¦ +Ġ×Ķ ×ŀ +ÙĪ Ø§ +Ġ× ª +ר ×IJ +à¸Ń à¸Ļ +ภ© +à¹Ī ว +×ķ× ¦ +í Ĺ +ã Ħ +ï ¨ +ï ¹ +â İ +ï ² +ðĿ ļ +ð IJ +à¸Ħ ว +ห à¸Ļ +Ġ× ¨ +ب ÙĬ +ร à¹Į +ر ا +Ø´ ر +×ķ× Ĺ +×ķ× ¤ +×ķ× © +×ķ× Ĵ +í Ŀ +â Ľ +à¸ķ ิ +à¹Ģ à¸ģ +ï ³ +ï ± +à¸Ķ à¹ī +ë ¹ +ï ¬ +á ¿ +ðŁ Ľ +ðĿ ĸ +à¹Īา à¸ĩ +ู à¹ī +Ġ×Ķ ×IJ +ĠاÙĦ ØŃ +פ ר +ÙĪ Ùħ +à¹Ģ ล +í ĸ +×Ļ× ¢ +ì Ī +í ĵ +ðŁ ħ +á ł +à¸Ħว าม +à¸Ī ะ +׳ ×Ķ +Ġ× § +à¸ Ł +à¹ī à¸ĩ +ห ม +ت Ùħ +׾ ×Ļ +ÙĬ د +à¹Ī à¸Ļ +׊ר +ש ר +à¹Ģ à¸Ĺ +×ŀ ר +ë ĸ +ع ÙĦ +×ŀ ×¢ +â ² +׾ ×Ķ +Ġ× ¤ +à¸Ń à¸ģ +س ÙĦ +×Ļ× ŀ +ÙĤ ÙĬ +í İ +ت ØŃ +×Ļ× ¡ +×Ļ× Ĺ +í Ľ +ï ° +â ½ +á ī +á Ĭ +á ¨ +Ùĩ ا +Ġ׾ ×Ķ +×ķ× IJ +Ùħ ا +à¹īà¸Ń à¸ĩ +ر ب +ĠاÙĦ ج +×ŀ ×ĵ +Ùħ ÙĦ +ت ر +à¹Ģ à¸Ķ +×§ ר +í ħ +ì ¼ +ê ¿ +ã Ī +á IJ +ðŁ Ĺ +ê ¦ +á ĭ +ðĿ Ķ +à¹Ģà¸Ľ à¹ĩà¸Ļ +à¹ĥ ห +ม า +ว à¹Īา +ม ี +ี à¹ī +à¹Ħม à¹Ī +ÙĨ ÙĬ +Ø ¤ +ร า +×ķ ×Ļ +ãĤĪ ãģĨ +ิ à¸Ķ +×Ļ× ¤ +׊׾ +ÙĤ د +à¹Ģ ส +×Ļ× ĺ +à¸ģ ล +ר ׼ +×ķ× Ľ +×Ļ× Ľ +ë Ī +ë ĥ +ðŁ ĸ +á ħ +â ¼ +ã ī +à¹Ħ à¸Ķà¹ī +ת ×Ļ +×Ļ× IJ +ĠاÙĦ Ø¥ +à¸ł า +ร ิ +ÙĤ Ø© +ØŃ د +ê » +ì ± +ת ×Ĺ +ì º +â ĭ +á Ħ +á ¾ +â µ +â ¾ +ĠÙĪ Ø§ÙĦ +׳ ×ķ +Ù Ģ +ÙĬ ا +à¸ģ à¹ĩ +×ŀ ×Ķ +ãģĦ ãĤĭ +ع د +ĠاÙĦ ÙĨ +Ġ×Ķ ×© +Ø ¦ +ั à¹īà¸ĩ +ร ัà¸ļ +ÙĪ ÙĤ +ãģ§ ãģį +à¹Ģ à¸ŀ +׼ ׾ +×ĺ ר +ั à¸Ķ +à¸Ń า +ì ¢ +à¸Ń à¸ļ +à¸ķ ร +à¹Ģ à¸Ĭ +ì Ķ +ãģĹ ãģ¾ +ë ģ +ë ķ +ðŁ Ļ +â Ĵ +á ¶ +à¹ģ ล +ÙĨ ا +à¹ĥห à¹ī +à¹Ħ à¸Ľ +× £ +ั ว +า à¸ĩ +×ĵ ר +×ij ׾ +פ ×Ļ +Ġ× ĵ +ĠاÙĦ Ùģ +à¹Ģ à¸Ĥ +ש ×Ķ +×IJ ר +ë ¬ +ãģ« ãģª +ÑĢ Ð¾ +ว ิ +Ùħ ر +×IJ ת +Ùĥ ر +س ب +ÙĨ ت +ãģĹ ãģĦ +ا ج +à¸Ń รà¹Į +Ùĥ ÙĦ +س Ùħ +ส ิ +×Ļ× ¦ +ë Ŀ +í ľ +ì ī +á Ĩ +Ùĩ Ùħ +à¸Ļ ีà¹ī +ãģĤ ãĤĭ +ãģĦ ãģ¦ +س ÙĬ +׾ ×IJ +د ر +ãģ ļ +ÙĪ Ø¬ +ĠاÙĦ Ø® +ص ر +í ı +à¹īา à¸ĩ +ุ à¸Ķ +×ķ× ĺ +×ij ×¢ +í Ĩ +à¸Ĭ า +ร ม +ש ×ŀ +×ŀ ס +ê ´ +ì ´ +ë ľ +ì ¿ +ì © +ë » +â ¤ +ðŁ Ĩ +á Į +á ķ +ذ ا +à¸Ĺ ำ +à¸ķ à¹Ī +ĠاÙĦ ÙĤ +ÙĦ Ùĥ +ู à¹Ī +à¸Ħ ุ +ÙĬ Ùħ +׳ ×Ļ×Ŀ +ืà¹Ī à¸Ń +ÙĪ Ø¹ +ãĤ ĩ +ا ÙĤ +Ġ×ij ×¢ +à¹Ģ ม +ج Ùħ +á» « +ãģĵãģ¨ ãģĮ +ب د +×ķ× Ķ +ש ׾ +Ùĩ ر +à¹Ģ à¸Ļ +ãģ ¹ +í ĭ +ì » +ì ½ +ë Ń +ì Į +í Ģ +ë Į +ë º +ã Ĭ +à¹ĥ à¸Ļ +Ġ× Ĵ +๠Ĩ +à¸Ī าà¸ģ +ว ย +à¹ĥ à¸Ĭ +à¸ĩ าà¸Ļ +ĠاÙĦ Ø´ +ا ØŃ +à¹īา à¸Ļ +ืà¹Ī à¸Ńà¸ĩ +×IJ ×Ļ +ب ÙĦ +ãģ¨ æĢĿ +׳ ס +ãģ¾ ãģĽ +Ùĥ ÙĨ +×¢ ר +ĠاÙĦ د +ש ת +í ŀ +Ùħ س +ص ÙĦ +×ķ׳ ×Ķ +ار Ø© +ÙĦ Ùħ +ส ม +Ø£ ÙĨ +ת ר +×IJ ×ŀ +ع ب +Ø® ت +ãĤ ĥ +ì ¡ +ì £ +ив а +ส ั +ึ à¸ģ +ì ¸ +ë Ĩ +алÑĮ н +ì ³ +ì į +ê ¼ +ê ½ +ì ı +ã Į +ã ı +ï © +ê ª +á İ +Ġ× ĸ +à¸ģ ัà¸Ļ +×Ļ ×ķ +à¸Ħ à¸Ļ +׳ ×ķת +à¸ľ ูà¹ī +à¹ĥ à¸Ī +ãģĦ ãģŁ +Ùģ Ø± +×ĺ ×Ļ +צ ×Ļ +ãĤĤ ãģ® +ĠاÙĦ ص +ãģ¾ãģĽ ãĤĵ +د Ø© +×ij ×Ļ +ĠاÙĦ ر +Ġ×ŀ ×IJ +ส ำ +à¹Ģ ห +ع ر +ãģª ãģı +à¸ģร ะ +×ij ×ĵ +à¹Ģ à¸Ī +×Ļ× ļ +×Ĺ ×Ļ +ÙĬ ع +ש ×ij +ÙĨ Ø© +ÙĪ Ø¶ +ÙĦ Ùģ +ÙĢ ÙĢ +פ ×¢ +í Ī +×ŀ ×§ +ภIJ +ØŃ Ø© +ا ص +Ñĭв а +à¸Ħ ม +ว ั +à¸Ľ ล +ì Ł +í ļ +ë ´ +ë ij +ë ī +ë ĩ +ì ¨ +ë ± +ë İ +â ¬ +á ¥ +á Ĺ +á Ľ +á į +Å © +à¸Ķ ี +ô i +Ġ× ¡ +׾ ×ķ +á»Ŀ i +à¸Ħุ à¸ĵ +â y +à¸Ļ า +×Ĺ ×ĵ +×ĵ ×Ļ +ห า +ج ÙĦ +à¹Ģ ว +ãĤĩ ãģĨ +Ùħ Ø© +ĠاÙĦ Ùĥ +Ġ×Ķ ×¢ +ج ر +×ĸ ר +ا Ø· +׼ ת +×ķ׳ ×Ļ×Ŀ +ØŃ Ùħ +ê ¶ +ر Ùĥ +Ġ׾ ×¢ +×ķ× ĸ +ส ร +צ ׾ +Ø ¢ +ا ست +à¹Ī ม +Ø® ر +צ ×¢ +×Ļר ×ķת +اد Ø© +Ø´ ار +×ŀ ×Ĺ +í Ĵ +à¹Ģร ีย +×Ĺ ×§ +Ø§Ø « +ร à¸ĩ +à¹Ģ à¸ķ +à¸Ī ำ +ภĿ +à¹Īา ย +à¸Ħ ล +ÙĤ ÙĪ +иÑĩеÑģ к +à¸ĵ à¹Į +ั ย +Ùħ ع +ë ¨ +ë ¿ +ë ® +ï ´ +ì ¥ +ì « +ë µ +á ¡ +â į +ð ĵ +â ° +à¸Ĥ à¸Ńà¸ĩ +Ù ĭ +à¸ģ ัà¸ļ +ãģ® ãģ§ +à¹ī ว +à¸Ńย à¹Īาà¸ĩ +ãģ Ń +á»ĩ t +à¸ķ à¹īà¸Ńà¸ĩ +×ŀ ×Ļ +à¹ģ à¸ļ +×Ĵ ר +ÙĪ Ùģ +ÙĤ ÙĦ +à¸łà¸² à¸ŀ +ר ×Ļ +ล า +ÙĬ س +Ġ× ¦ +ÙĬ Ùģ +Ġ× ĺ +à¸ľ ล +á ng +ร ว +Ġ×ŀ ש +×IJ ×ķת +×ĸ ×Ķ +ู à¸ģ +à¸Ļ ัà¸ģ +اÙĨ ÙĬ +د ا +ãģ ³ +׼ ף +ãĤī ãĤĮ +ãĤĮ ãģ° +ת ×§ +ú c +ÙĪ Ø² +×Ļר ×Ķ +Ġn gh +án h +Ġ×ķ ×IJ +á» ħ +ส ุà¸Ķ +ë į° +ا ض +اÙĦ ÙĬ +ب ار +ع Ùħ +à¸ļ า +ت ج +à¸ŀ ร +×ķר ×Ķ +ả ng +Ø® ÙĦ +ภī +ắ c +ש ×Ļ×Ŀ +í Ķ +Ùģ Ø³ +×Ļ× Ĵ +п ÑĢ +ĠاÙĦ Ø« +س Ø· +ร ูà¹ī +ีà¹Ī ย +à¸Ń à¸Ķ +ãģª ãĤĬ +×Ĵ ×ĵ +ãģĦ ãģ¾ãģĹãģŁ +ס ×§ +Ø® ص +la ÅŁ +ен но +ب ØŃ +ส à¸Ļ +ภ® +ר×IJ ש +Ùħ ÙĪ +دÙĬ د +ษ า +×ķ× ļ +ãĥ§ ãĥ³ +à¸ķ ุ +Ġê µ +ĠÑģв о +צ ×ij +à¸Ń ม +à¸Ľ ร +ت ع +×Ķ ×ª +اÙħ ÙĦ +×ŀ ׳ +ç ¶ļ +ภ¤ +í į +ë ĺ +ë ¤ +ì ij +â ´ +ã ĭ +Ġب اÙĦ +á»ģ u +ĠاÙĦ ÙĦ +à¸ķ ัว +ذ Ùĩ +ึ à¸ĩ +à¹ĥà¸Ĭ à¹ī +á»ĵ ng +à¸Ļ ั +ม าà¸ģ +ãĥ Ł +×ŀ ×ķ +à¸Ĺ ย +á»Ļ i +Ạ± +ả o +à¹Ĥ à¸Ķ +×IJ ׾ +ส าม +ÙĪ Ø¨ +à¸Ĺ ุ +ย ัà¸ĩ +×¢ ת +×ķ׳ ×ķת +à¸Ĥ ึ +à¸Ĥึ à¹īà¸Ļ +à¸ģ à¹Ī +Ạ« +á»ij c +ãģĹ ãĤĩãģĨ +á»ĭ ch +Ġ×IJ ×ķת +Ġש ×IJ +׼ ×ķ׾ +á»Ļ c +ع Ø© +à¸Ĺ ี +à¹Ģ à¸Ń +Ùĥ ت +ãģ » +Ạ» +ìĹ ħ +à¸Ń à¸Ńà¸ģ +اÙĨ ت +à¹Ħ ร +Ġ×IJ ×Ĺר +Ø· ر +ÙĨ د +ื à¹īà¸Ń +Ø· ÙĦ +×IJ ×Ķ +uy ên +í ĸī +×ij ×Ķ +à¸Ħ à¹Ī +à¸Ĭ à¹Īว +ãģĤãĤĬ ãģ¾ãģĻ +ÙĬ ب +×§ ׾ +ãĥ Ļ +Ä © +س ر +า ว +ãĤ ± +à¸ļ ริ +ר ×Ĵ +á»ĥ u +ØŃ ت +×ķ×ŀ ×Ļ +ب ÙĨ +êµ IJ +ÄŁ u +ãģª ãĤĵ +×ij ×§ +Ġפ ר +ắ n +ØŃ ÙĦ +×ij ×Ĺ +ấ u +×ij ×ķ×ĵ +ãĥ ¯ +Ġ׾ ×§ +ั à¸į +à¸ŀ ิ +×Ĺ ×Ķ +×ĸ ׼ +ãĥ¼ãĥ ł +ÑĤ елÑĮ +×ŀ ×Ļ×ĵ +ÙĬ Ø® +Ạ³ +ت ص +à¸ĺ ิ +è¾ ¼ +ì ĵ +Ùĥ Ø© +ÙĤ ب +à¸Ħ à¹Į +à¹īา ย +à¸ĵ ะ +า ะ +ë Ĵ +ê ¾ +ë · +ì ĩ +ê º +ì ģ +ë Ģ +ì ¾ +ë ½ +ë ļ +ì Ń +ì İ +á ij +ë Ĺ +ê Ĵ +à ¡ +à ¬ +ðIJ Į +ã ĩ +ðĿ Ħ +Ġ׾ ×IJ +ãģ¨ ãģĦãģĨ +Ġn hi +×Ļ ×ķת +Ġש ×Ķ +à¹ģล à¹īว +Æ°á»Ľ c +à¸Ķà¹ī วย +à¸Ĺ าà¸ĩ +׳ ת +פ ת +à¹ģ à¸ķà¹Ī +ư ng +à¸Ńย ูà¹Ī +à¹ī ำ +Ġ×IJ ׾ +Ùĥ Ùħ +ấ p +ล à¸ĩ +ãģŁ ãĤģ +×Ĵ ׾ +ห ร +ĠÑĢ Ðµ +à¹Ģà¸Ĥ à¹īา +ÙĤ ر +Ġ×Ķ ×¡ +ÙĪ ÙĬ +สาม าร +สามาร à¸ĸ +Äĥ n +à¸Ń ี +פ ×ķ +×Ļ׳ ×ķ +ว ัà¸Ļ +ặ c +íķ Ļ +×ŀ ת +ê u +Ạ¹ +Ùģ ÙĬ +×ŀ צ +à¸Ħ า +ãģĿ ãģĨ +ãĢ ħ +ا ز +ا Ùĩ +ר ×Ļ×Ŀ +ấ n +ห าร +ạ t +ÙĨ Ùĩ +à¹Ģ à¸Ħร +ج Ùĩ +׼ ×Ļ +ắ t +à¸Ħ à¹īา +ر Ø© +ãĥ ı +Ùĥ ÙĪÙĨ +ứ ng +Ġìļ ° +ย à¹Į +à¹Īว à¸Ļ +à¸ģ ำ +Ø« ر +Ñģ и +ĠاÙĦ Ø· +Ġ×Ķ ×¦ +ĠØ · +ĠاÙĦ ÙĪ +ê¹ Į +ØŃ ÙĬ +ار ات +à¹Ģ à¸ĭ +ب ا +г ÑĢ +ร ี +ืà¸Ń à¸Ļ +ع ت +ÙĤ اÙĦ +د Ùħ +Ø ¡ +Ġ×ŀ ×§ +×ĵ ×Ļ×Ŀ +×¢ ׾ +ãģ Ĵ +ëĭ ĺ +×¢ ×Ķ +Ġìĸ ´ +Ñģ ÑĮ +ÙĤ Ø· +ãĥ Ľ +èĢĥ ãģĪ +à¹ģ à¸Ļ +ÙĪ Ø§Øª +â u +ĠìĤ¬ ëŀ +ห ว +ĠاÙĦØ£ Ùħ +Ġ×Ķ ×ŀש +ب ÙĪ +à¸Ĭ à¸Ļ +ãĤĵ ãģ§ãģĻ +ว à¸Ļ +à¸ģร รม +×ŀ ×ķ×ĵ +Ùĥ اÙĨ +×ķ× £ +ол ог +ت ÙĨ +à¸ķ à¹Į +ê² ĥ +ר ×ĺ +ừ ng +×ķ×ij ×Ķ +Ùħ ØŃ +ĠÐ § +פ ×Ĵ +ส à¸ĸ +ãģĭ ãĤĬ +ını z +à¹Ģ ย +ãĥ¼ ãĥ³ +ãģĬ ãĤĬ +פ ש +ิ à¸ķ +Ø· ÙĨ +×Ļת ×Ļ +×IJ ׳ +ç ek +ì ª +×ŀ ×ij +ศ า +ãĤ¹ ãĤ¿ +à¸ļ ุ +×ĵ ×ijר +ãģĦ ãģı +ส ะ +à¹Ģ หล +ิ à¸ĩ +à¸ŀ ัà¸Ļ +ãģĦ ãģŁãģł +ãĤĤ ãĤī +à¹ī ม +ãģĵãģ¨ãģĮ ãģ§ãģį +าร à¹Į +ุ à¸ĩ +í ij +ì ¯ +ë ¼ +í Ĥ +ì · +ê ¡ +á ı +á Ĵ +ðĿ ľ +á © +ðŁ Ħ +ðIJ ¤ +Ġש ׾ +Ġ×ŀ ×Ķ +à¹ģล ะ +Ġ׼ ׾ +Ạ½ +á»Ļ ng +ذ ÙĬ +л е +× ¥ +ãģª ãģ© +ĠÙĪ Ø£ +หà¸Ļ à¹īา +ãģ¾ ãģ§ +à¸ķà¹Ī à¸Ń +à¸Ĺ ัà¹īà¸ĩ +ãģł ãģij +à¹ģà¸ļ à¸ļ +à¹Ģร า +פ ׾ +ãģŁ ãģĦ +à¹Ģล ย +ãģ£ãģ¦ ãģĦãĤĭ +ế p +ึ à¹Īà¸ĩ +ê ´Ģ +ê³ Ħ +׼ ×ķ +à¹Ģร ืà¹Īà¸Ńà¸ĩ +×§ ×Ļ +êµ Ń +פ ס +ت ÙĬ +ãĥ Ħ +Ġ×Ķ ×Ĺ +г и +ר×IJ ׾ +×ŀ ׾ +ĠØ£ ÙĬ +Ġع ÙĦÙĬ +ãģĭ ãģ£ãģŁ +ש ×Ļ +д Ñĥ +×ŀ ף +׳ ×ĺ +׳ ×Ļת +mi ÅŁ +׼ ×Ŀ +Ġ×ij ר +Ġ׾ ×ij +ĠÐ Ľ +ç e +×ķ׳ ×Ļ +ãĤĪãģĨ ãģ« +פ ×ķר +ãĥ į +Ùĥ ÙĬ +×Ĺ ×ª +Ùģ ÙĦ +Ġ×Ķ ×§ +Ġ×Ķ ×ij +Ġ×ŀ ס +à¹Īา à¸Ļ +п еÑĢ +à¹Īา ว +Ġ×ij ×IJ +ĠÙĪ Ùĩ +à¸Ļ ำ +Ġ×ij ש +׳ ×§ +ãģ© ãģĨ +ש ×ķת +×ĵ ×Ķ +à¹Ģ à¸ļ +ÙĨ س +Ġìļ° ë¦¬ +ส à¹Īวà¸Ļ +ล ัà¸ĩ +ج ز +Ġ×Ĺ ×Ļ +Ùĥ ثر +ล ะ +Ùĩ د +ĠÙĪ Ø¨ +اÙĦ Ùħ +à¹ģ ม +Æ¡ i +Ġ×ij ×Ĺ +ữ a +à¹Ģà¸Ĺ ศ +à¸ķ ัà¹īà¸ĩ +ог да +׾ ×§ +د د +สร à¹īาà¸ĩ +à¸Ĭ ี +Ùģ Ø¶ +à¹ģ ห +uy á»ĩn +ร ัà¸ģ +á»ĩ m +ส า +פ ×§ +ีย à¸ĩ +à¸ķ à¹Īาà¸ĩ +à¸Ħร ัà¹īà¸ĩ +ØŃ ÙĤ +à¹Ģ à¸Ńà¸ĩ +ائ ÙĬ +×ĺ ×¢ +اÙĦ Ø© +ิ à¹Īม +ãĤ ½ +د Ùī +Ġר ×IJ +ãģ£ ãģ¨ +ãĥĥ ãĥĹ +ÙĬر Ø© +ê± ´ +×ŀ ×IJ +×ķ ×ķ +ب ع +ãģ ² +ร าย +×ĵ ×Ŀ +ت Ùģ +à¸ķ à¸ģ +ạ ng +ãĤĴ è¦ĭ +à¸Ĭ ั +Æ°á» Ł +Æ°á»Ł ng +ج ب +×ķ×ŀ ר +ĠìĤ¬ëŀ Į +ó ng +ร ั +Ġ×Ķ ×ĸ +ר צ +Ġ×Ĺ ×ĵ +ذ ÙĦÙĥ +×ķר ×Ļ +ãģ¡ ãĤĥ +Ùģ Ø¹ +Ġ׾ צ +á i +à¹ĩ à¸ļ +ãģ İ +à¸ģ ิ +ạ c +ë© ° +ãģª ãĤĭ +×ķ׾ ×Ŀ +à¹ģ à¸Ĺ +×ķ× ¥ +м еÑĤ +ü ÅŁ +ÑĢ Ñı +ภĴ +ÑģÑĤ оÑı +ع ÙĪØ¯ +Ùħ ار +Ø· Ø© +à¸ŀ ื +к ÑĢ +à¹ģ à¸ģ +à¹Ĥ รà¸ĩ +×ij ×Ļ×ĺ +ê² ł +×ķ׾ ×Ķ +ØŃ ر +ืà¹Ī à¸Ńà¸Ļ +×ķ×ij ר +׊ש +ãĥķãĤ ¡ +×ŀ ×ĺ +ú t +Ġd ön +ắ ng +ëł ĩ +ẳ ng +ว à¸ģ +ص د +Ø® Ø· +à¸Ń ั +ãĤı ãĤĮ +سÙĦ اÙħ +à¹Ģร à¹ĩ +×Ļש ×Ļ +ج اÙĦ +ãģij ãĤĭ +à¸Ĭา à¸ķิ +ÙĪØ§ ÙĤ +à¹Ĥ à¸Ļ +ãģ¦ ãģĹãģ¾ +اع Ø© +ãĤŃ ãĥ£ +à¸į า +ÙĦا ÙĤ +ิ à¸ģ +ĠÑģ ов +ÑĢаРº +×Ļ׳ ×Ļ +ü ÄŁ +Ã¼ÄŁ ü +×§ ×ij +à¹Ī à¸Ńà¸ĩ +Ġger çek +à¸Ĺ ั +ов аниÑı +×ŀ ׼ +س Ø© +×Ļ× £ +le ÅŁ +Ùħ ؤ +ĠìĿ ĺ +à¸IJ าà¸Ļ +ĠÑģ об +Ġêµ Ń +×¢ צ +з в +ส à¸ĩ +ز ÙĦ +ãģı ãĤĮ +и ÑĢÑĥ +ت Ø£ +п олн +ìĺ Ģ +ÙĨ Ø´ +׼ ×IJ +Ùħ Ø´ +à¸Ķ à¹Į +ÙĪ ÙĬÙĦ +à¹ģ à¸Ĥ +ãģ£ãģ¦ ãģĹãģ¾ +но ÑģÑĤ +в л +Ùħ ÙĤ +را ج +å¤ ī +ë Ľ +â ¸ +ì IJ +à » +á ļ +â » +ê Ļ +â § +ð Ĵ +ðĿ ĩ +Ġ×IJ ת +ĠÙĦ ÙĦ +ĠØ£ ÙĨ +Ġ×ķ ×Ķ +ãģ« ãģ¯ +Ġ×Ļ ×© +ت Ùĩ +ÃŃ nh +ÙĬ ات +Ġ×ij ×ŀ +à¸Ļั à¹īà¸Ļ +à¸Ļ à¹īำ +Ãł o +à¸ķ าม +ãģ® ãģ¯ +d ır +Ġn ghi +ặ t +×ŀ ×Ļ×Ŀ +ãģ¦ ãģĦãĤĭ +Ġ×ij ת +หร ืà¸Ń +Ġس ÙĬ +ãģª ãĤī +à¹Ĥà¸Ķ ย +ı yor +à¸Ńี à¸ģ +á»ĩ nh +Ñĭ м +à¸Ĺุ à¸ģ +Ġ׾ ×Ĺ +Ġ×Ķ ×¨ +Ġ×Ķ ×Ļ +à¸ŀ ระ +à¹Ģว ลา +ĠØ º +ẫ n +m Ä±ÅŁ +׼ ×Ķ +á»ij n +ãģ§ ãģĹãĤĩãģĨ +ãĥ ¢ +à¸Ľ ี +ס ×Ļ +ãģĵ ãĤį +Ġ׾ פ +ร à¸ĸ +ê¸ Ī +à¸ģ วà¹Īา +ë ¬´ +á»į ng +ãĤĵ ãģ§ +ãĤĪãģĨ ãģª +á»ĵ i +ãĤ ¬ +ส à¹Īà¸ĩ +×Ļ׳ ×Ķ +à¸ĸ ูà¸ģ +à¸Ī ัà¸Ķ +Ġ×Ķ ×Ĵ +ãĥ ľ +×ŀ ×ķת +ÙĪ Ùĥ +ëĭ ¨ +ĠØ « +ãģ® ãģĮ +à¹Ģห à¹ĩà¸Ļ +ع ا +à¸Ļ ิ +Å ŀ +à¸Ń ะ +ãģĪ ãĤĭ +Ø« ÙĦ +ØŃÙħ د +à¹Ģà¸ģ ิà¸Ķ +פ שר +פ ×Ķ +ม ิ +ئ ÙĬس +à¸Ĺำ à¹ĥหà¹ī +×¢ ×ĵ +ìĭ ¤ +à¸Ĭà¹Īว ย +ĠاÙĦÙħ ÙĨ +ز ÙĬ +ع ÙĬ +Ġ׼ ×IJ +ạ nh +á» ¹ +ãĤĵ ãģª +ส ู +צ ר +Æ°á»Ľ ng +×ķ ×ķ×Ķ +à¹Ĥ ล +ĠاÙĦ Ùĩ +ว า +หล าย +Ñī е +à¸Ĥ à¹īà¸Ń +à¹īà¸Ń ย +ب Ø· +ка Ñı +ĠØ ¢ +Ġи Ñģ +ĠاÙĦ غ +à¸ģ า +à¸Ļ à¹Īา +ÙĬ ÙĪ +×ij ×ķר +á»ħ n +ว à¸ĩ +×Ļ× ĸ +ì² Ń +н им +ëŁ ° +×Ĵ ×ķר +ص ØŃ +ÙĦ ÙĪ +×Ĺ ×ķת +ส ุ +رÙĬ ÙĤ +ס ×ĺ +Ġ×ŀ ×¢ +ãĥĨ ãĤ£ +à¸Ħ ิà¸Ķ +ãĤį ãģĨ +à¹Ħ ล +à¸Ļ à¹Į +á»ı i +ÑģÑĤÑĢ Ð¾ +ส à¸Ķ +ส าร +ÙĪÙĦ Ø© +ầ m +ร à¹Īว +รà¹Īว ม +ร ุ +ĠاÙĦس ÙĬ +ìĺ ģ +Ġ×ŀ ×ij +פ ×ĺ +à¸ķิ à¸Ķ +×ĺ ×Ļ×Ŀ +Ġë ¬´ +ÙĤد Ùħ +Ġdü ÅŁ +ائ ÙĦ +м Ñĭ +ØŃ س +ÙĪ Øµ +×Ļ×§ ×Ķ +ãģ§ãģ¯ ãģªãģĦ +à¹Ģ หม +оÑĢ ÑĤ +í Ĩµ +ãģ IJ +к ÑĢа +ีย ว +ع ار +ئ Ø© +íĥ Ģ +ãģ«ãģª ãĤĬ +ج Ø© +ÙĪÙĤ ع +ÑĮ Ñı +×ķצ ×Ķ +ש ×Ŀ +ب ÙĤ +Ġ×Ļ ×Ķ +ÙĬ Ø· +ım ız +д еÑĢж +×Ļש ר×IJ׾ +غ ÙĬر +ร à¸Ńà¸ĩ +à¹Ģรีย à¸Ļ +Ġ×Ķ ×ĺ +หม าย +Ùħ Ùĩ +اÙģ Ø© +Ġо ÑĢг +ÙĪ Ùī +ãĥ© ãĤ¤ +×ŀ ׳×Ķ +ĠÄij o +Ġг оÑĢ +اÙħ Ø© +æ¥ ½ +Ø« ÙĬر +à¸ģิ à¸Ī +á»ĵ n +ÙĨ ب +ÑĢÑĥ д +ìĹ Ī +Ġ×Ĺ ×ijר +ÑĢаР¶ +ạ ch +ت ÙĪ +à¹Ĥ ม +×ij ×Ļ×ij +Ġí Ĩµ +aca ģı +جÙĦ س +à¹Ģà¸Ľ ล +ว à¸Ķ +à¸Ń ล +ãģŁ ãĤĬ +à¸Ľ ัà¸į +Ġìķ Į +عر Ùģ +à¹Ħ à¸Ł +Ø£ Ø® +å¤ļ ãģĦ +à¸Ķ ัà¸ĩ +Ø´ Ùģ +ãģ£ãģ¦ ãģĦãģ¾ãģĻ +׼ ×ł×¡ +ÑĨ е +еÑģ п +Ùħ اÙħ +à¸ŀื à¹īà¸Ļ +иÑĩеÑģ ки +Ø® د +Ùĥ ÙĪÙħ +Ġ×Ķ ×¨×IJש +ت اب +é£Ł ãģ¹ +ื à¸Ļ +оÑĢ Ð¾ +Ġb öl +×ķ×Ĺ ×ĵ +دÙĬ ر +ắ m +د ع +ãģķ ãģĽ +à¸ĺ ร +à¸ĺร รม +ãģĭ ãĤĤ +å¤ļ ãģı +r ä +س ع +×Ļ׾ ×Ķ +ض ر +ĠاÙĦ شر +×ĸ ×ķר +×¢ ×ijר +ạ m +алÑĮ но +ر ÙĨ +اÙħ ج +׼ ×ļ +d ıģ +д ен +ض ا +ÙĦÙĬ Ùħ +Ġê·¸ 룬 +تÙħ اع +ار ÙĬØ® +à¹Ĥ à¸ķ +ĠÑģ ÑĢед +Ġ׳ ×ķס +ÙĤ بÙĦ +оÑĤ ов +le ÅŁtir +Ġм еÑģÑĤ +سÙĦ Ùħ +Ġ×¢ צ +ĠاÙĦس ÙĦ +еÑĤ ÑĮ +اب Ø© +н ак +สà¸ĸ าà¸Ļ +Ġ×ij ׳ +à¸ļ ัà¸Ļ +׼ ׳ +Ġö ÄŁ +ãģ¨ è¨Ģ +uy ến +di ÄŁ +áºŃ u +ÑĢ Ð°Ñģ +ãĤ· ãĥ§ãĥ³ +n ız +×ķ×ĵ ×Ķ +ت س +Ùħ اÙĦ +à¹Ģห à¸ķุ +ย ว +à¸ŀ ัà¸ģ +ãģĦ ãģªãģĦ +Ġк аÑĩ +ล à¹Į +ר׼ ת +ÅŁt ur +×ŀ ×ķס +ãģ ¥ +б ол +عÙħ اÙĦ +×ķר ת +ÑĨи он +ศ ึà¸ģ +ภı +ÑĢ ÐµÐ½ +اس ÙĬ +ائ ر +à¹Ĥ à¸Ľà¸£ +Ġse ç +غ ÙĬ +Ñį ÑĤ +ен н +ãģª ãģ® +×Ļש ×Ķ +×Ļפ ×ķר +ãģŁãĤģ ãģ« +ز Ø© +Ġç oc +ãĤ¯ ãĥª +ÑĪ ÐµÐ½ +ãĤı ãģij +رÙĬ د +ĠÑĢ Ð°ÑģÑģ +Ùĥ ات +ส à¸Ńà¸ļ +ce ÄŁi +ãĤ¿ ãĤ¤ +à¸ļ ร +ĠاÙĦ بر +׳ ×ķ×¢ +r ün +را ض +ศา ส +à¸ķ รà¹Į +ãģį ãģŁ +×ķ׾ ×ĵ +еÑĢ Ð¸ +íĹ ĺ +ắ p +ت عÙĦ +Ùĥ د +иÑĤелÑĮ но +Ø· Ùģ +Ġав ÑĤом +Ġ×ŀ צ +ÑĪи Ñħ +ات Ùģ +ĠÑħ оÑĤ +Ùİ Ø§ +ãģı ãĤĭ +×Ķ ×¤ +à¹Ĥ à¸Ĺ +à¹ģ à¸ŀ +à¹Ī à¸Ńย +ĠاÙĦÙħ Ø´ +à¸ģาร à¸ĵà¹Į +ани з +×Ķ ×ľ +ظ Ùħ +ย ุ +li ÄŁ +à¹Ħ à¸Ĥ +à¸ĸ ืà¸Ń +ö z +ãģij ãģ¦ +à¹Ģ à¸ľ +ุ ม +ãĥĹ ãĥ¬ +Ġ×Ķ×IJ ×Ĺר +خت ÙĦÙģ +à¸ İ +ÙĦا ØŃ +Ġdü zen +צ ×Ķ +س اء +×ķר ×ļ +×ķ×ĵ ×Ļ +ÑĢа ÑĦ +ÅŁt ır +ãģ« åħ¥ +ãģĪ ãģ° +ص ÙĪÙĦ +ĠÐľ оÑģ +ا Ùĩر +ãģ£ ãģ +ĠлÑİ Ð± +×Ļ×¢ ×Ķ +Ġ×Ķ×ŀ ×§ +สิ à¸Ĺ +สิà¸Ĺ à¸ĺิ +×Ļ׳ ×Ŀ +ÙĦا Ùģ +à¸ŀัà¸Ļ à¸ĺ +×ķ×IJ ×Ķ +ม ั +à¸Ĥ à¸ĵะ +д оÑĢ +ãģ¨ ãģª +à¸ģระ à¸Ĺ +ac ı +×ķ׾ ×ķ×Ĵ +Ñĥ ÑĪ +ãĥ¥ ãĥ¼ +ãĥ ¦ +Ùħ ست +Ġa ÅŁ +ש ×§ +פ ת×Ĺ +าย à¸Ļ +í ĩ +ë ¢ +ï · +í ī +ì µ +ì ¬ +ðĿ Ľ +ì Ĵ +ë Ļ +ê § +á ĸ +â ¨ +â ± +á ĺ +ð ĸ +à ł +á Ķ +ðIJ Ń +ữ ng +Å© ng +Ġ×Ķ ×ª +ĠاÙĦ ا +Ġ×ŀ ת +à¸ĸ ึà¸ĩ +ò n +á»ĭ nh +нÑĭ м +Ġc ả +à¸Ķ ู +Ġ à¹ģà¸ķà¹Ī +Ġ×ij ×Ķ +ó i +ãģ¨ ãģĹãģ¦ +ú ng +ĠØ ° +Ġ×Ķ ×ł +Ġب ÙĨ +ÙĦ اÙĦ +à¹Ħ à¸Ĺย +á»ĩ p +t ı +ม ัà¸Ļ +ằ ng +á»ij t +к ом +à¸ĭ ึà¹Īà¸ĩ +à¸Ħร ัà¸ļ +à¸ļ à¹īาà¸Ļ +ĠاÙĦ ÙĬ +l ü +ÙĪ Ø³ +ãģł ãģ£ãģŁ +à¹Ģ à¸ĩ +Ġê³ µ +н Ñĥ +ãĤĪ ãĤĬ +м Ñĥ +à¹Ģà¸Ĥ า +ãĤ Ģ +ни е +ãģ«ãģª ãĤĭ +áºŃ y +ĠÙĪ Ø§ +ëł ¤ +ש ×ķ +á p +×ĵ ×ķ +ãģ§ ãģĹãģŁ +ع ض +Ñģк ой +æĦŁ ãģĺ +ÑİÑĤ ÑģÑı +Ġ×Ļ ×Ľ×ķ׾ +ãĤĵ ãģł +в и +à¹Ģล à¹Īà¸Ļ +ìĿ´ ëĭ¤ +ĠÙĦ Ùĩ +à¸Ħ ืà¸Ń +ت Ùĥ +Ùħ ÙĥÙĨ +a ģı +׳ ×ĵ +ë¯ ¼ +à¹Ħ ว +สำ ห +สำห รัà¸ļ +Ñģл ед +t ır +ĠÙĦ ÙĬ +ĠاÙĦع ÙħÙĦ +×ij ×ķת +×ij ×Ļ×Ŀ +à¸Ħ ำ +à¹Ģà¸Ħร ืà¹Īà¸Ńà¸ĩ +lı ģı +ืà¸Ń à¸ĩ +ج د +íŀ Ī +ìĭ ¬ +×¢ ×ķת +ส ิà¸Ļ +Ñĩ и +ر ض +à¹Ģà¸Ľ ิà¸Ķ +à¸Ħ à¹Īา +ìĦ ł +ÙĪØ± Ø© +×§ ×ĺ +ìľ ł +ع ÙħÙĦ +×IJ ×Ļ×Ŀ +׾ ×Ļ×Ŀ +à¹ĥห à¸į +à¹ĥหà¸į à¹Ī +ừ a +á»į i +ãģ ¶ +ÃŃ ch +ãĥĩ ãĤ£ +×ķר ×Ļ×Ŀ +Ñģ о +ìķ ½ +ов а +Ñĩ аÑģÑĤ +à¹Ģà¸Ī à¹īา +п ÑĢо +Ġ×ŀ ×Ĺ +ãĥ İ +×ķ×Ļ ×ķת +Ġд е +ë§ Ī +ì§ ģ +×Ļפ ×Ķ +ĠاÙĦع اÙĦÙħ +ë¥ ´ +ר×IJ ×Ķ +uy á»ĥn +×¢ ×Ļ +ม ืà¸Ń +Ø¥ ÙĨ +ร ู +ĠØ ² +×Ļ ×ķ×Ŀ +à¸ķ à¹īà¸Ļ +ãģ¦ ãģĦãģ¾ãģĻ +Ùħ اÙĨ +ĠÐ ¥ +à¸Ľà¸£à¸° à¹Ģà¸Ĺศ +á» ³ +׾ ×ij +à¹Ģà¸Ķ à¹ĩ +ãģŁ ãģ¡ +à¸Ĺี ม +à¸Ļ ะ +ìĹ ° +Ġìł Ģ +ÙĦ Ùĩ +ợ i +ĠاÙĦ ز +د ار +ãĤ³ ãĥ³ +м ин +à¹ģห à¹Īà¸ĩ +à¸Ķ ัà¸ļ +׼ ר +ж а +íĸ Ī +×ŀ ×ĸ +ợ i +à¸Ķ า +Ġع بد +à¹ģ ร +×IJת ר +×¢ ׳×Ļ +à¹Ģ à¸Ħ +×ķצ ר +ì§Ģ ë§Į +ائ Ùħ +Ø£ س +uy á»ģn +Ġ×IJ ׳ +׊׳×ķ +×ĸ ×Ļ +ร à¹īาà¸Ļ +ĠÐł оÑģ +ĠÐłÐ¾Ñģ Ñģ +رب ÙĬØ© +t ür +ãĤĭ ãģĵãģ¨ +ظ ر +б Ñĭ +à¸Ĺีà¹Ī สุà¸Ķ +Ġצ ר +èĩª åĪĨ +л аÑģ +ĠÑı в +ĠÑıв лÑı +à¸ŀร à¹īà¸Ńม +à¸Ńา à¸Ī +à¸ļริ à¸ģาร +Ġç ı +ëį ĺ +ĠاÙĦÙħ ست +ت Ø´ +ש ×ķ×ij +ãĤ ´ +Ġyap ıl +ĠاÙĦ ذ +ุ à¹Īม +à¸ĸ à¹īา +ìĦ ¤ +ì° ¨ +в аÑĢ +à¹Ģà¸ŀ ิà¹Īม +Æ°á»Ľ i +Ùĥ س +à¸Ńย าà¸ģ +ãģ¦ ãĤĤ +Ġг од +ÙĬ ار +à¸ķ à¸Ńà¸Ļ +Ġиг ÑĢ +à¹Ħà¸Ķà¹ī รัà¸ļ +ĠاÙĦÙħ ر +ÙĤ ت +Ġë ĺ +Ġëĺ IJ +ẩ n +ãģĻãĤĭ ãģĵãģ¨ +×Ĵ ×Ŀ +Ġ×ij ×ij +ت د +ÙĪ Ø§Ø± +ãĤ ® +п ол +Ġм ог +تر Ùĥ +ÙĪ Ø« +Ġç ık +ا Ø© +à¹Ģà¸Ķ ียว +มี à¸Ħวาม +Ġ×ŀ ×Ĵ +ص Ùģ +ĠТ ак +Ġ׼ ת +×Ļ×ĵ ×Ļ +ов оÑĢ +ầ y +สิ à¹Īà¸ĩ +ب ت +ür ü +ÙĨ ج +หล ัà¸ģ +×Ļ×Ķ ×Ŀ +ÙĤ ص +з Ñĭ +×Ľ×ª ×ij +ư u +m ız +ĠìĦ ¸ +л ог +Ùħ ÙĬÙĦ +ÙĬ ج +íĴ Ī +à¸ŀ à¸ļ +ห ัว +з на +ר ×§ +à¹Ĥ ร +Ġ×ij ס +ĠBaÅŁ kan +ĠëĶ ° +à¸Ń ัà¸Ļ +ีà¹Īย ว +н еÑģ +à¹Ģà¸Ķ ิà¸Ļ +ÙĬ اÙĨ +×ķ׾ ×Ļ +ا خت +צ ×ķת +ãģĵ ãģĵ +ĠاÙĦ اÙĨ +ĠпÑĢо ÑĨ +ãģ¾ ãģł +׼ ס +ĠاÙĦ Ø¢ +ÙĬ ز +ĠاÙĦد ÙĪÙĦ +Ġíķĺ ëĤĺ +ض ع +ê» ĺ +ÅĽ wi +ย ิ +ãģ¡ãĤĥ ãĤĵ +ĠÙħ Ø´ +à¸ĺ ี +ãģ¨ ãģį +׳×Ļ ×ķת +Ġë ¯ +Ġë¯ ¸ +Ġs ı +ëĭĪ ê¹Į +Ġп л +غ ÙĦ +à¹ģ รà¸ĩ +ب ÙĬر +ãģĤãĤĬ ãģ¾ãģĽãĤĵ +ê· ¼ +Ġy üz +ĠdeÄŁ er +åł´ åIJĪ +á» ¡ +м аÑĤ +รา à¸Ĭ +ÙĪØ± ÙĬ +ж ен +ãģ¾ ãĤĬ +ãģ® ä¸Ń +×Ļ×ĵ ×¢ +à¸Ń ุ +à¸ļ à¸Ńล +à¸Ľà¸±à¸į หา +ز Ùħ +ÄŁ a +à¸Ń ืà¹Ī +à¸Ńืà¹Ī à¸Ļ +п л +Ġне обÑħодим +׼ ×ij +à¹Ģ ศ +קר ×Ķ +ì² ĺ +ëł ¨ +×ŀ×§ ×ķ×Ŀ +jÄħ c +Ùĩ ÙĦ +Ġ×¢ ×ij×ķ×ĵ +à¹Ħม à¹ī +à¸ģล ัà¸ļ +×ķ׼ ׾ +×§ ×ĵ +اÙĦ ÙĬØ© +ر Ùĩ +ãģij ãĤĮãģ° +ĠÙĨ Ù쨳 +ãĤ¢ ãĥ« +ìĹ Īëĭ¤ +×§ ×ķר +н еÑĢ +ب اب +ãĤ ¶ +سب ب +ÙĦ ÙĬÙĦ +ص ÙĨ +ص در +ế m +à¸Ĭà¹Īว à¸ĩ +ØŃ ÙĨ +Ġ×ij ×Ĵ +×ŀ ×ķ×¢ +׾ ×Ĺ +大 ãģį +ت ب +н еÑĤ +×Ļ×ij ×Ķ +б л +ãĥĹ ãĥª +اص Ø© +ãģ¤ ãģij +×Ļ×ŀ ×ķש +ãģĮ ãģĤ +ëĭ ´ +ãģĭãĤĤ ãģĹ +ãģĭãĤĤãģĹ ãĤĮ +ãģ¡ ãĤī +×ij ×ĺ +Ġba ÄŁ +×Ļ×Ĺ ×¡ +×ij ×ķ×¢ +ล ี +פע ×Ļ׾ +им и +g ÅĤ +Ġим е +خد اÙħ +×IJ ×Ļר +Ġy apt +ãģ¨ ãģĦ +à¸ĩ à¹Īาย +׾×Ļ ×ķ +ØŃد Ø« +را ÙĤ +ĠÄIJ i +اد ر +ãģĵãģ¨ ãĤĤ +×ij ×Ļר +Ġв з +ض اÙģ +ת ×ķ׼ +ÑĢ Ð¾Ð¼ +ر ات +à¹Ģà¸Ĺ à¹Īา +ãģĺ ãĤĥ +ãģĿ ãģĵ +اج تÙħاع +à¹īà¸Ń à¸Ļ +ÙĤ Ùħ +ë³ ¸ +Ä ŀ +ש ×Ļ×ķ +×ij ׳×Ļ +ìľĦ ìĽIJ +à¹ģ à¸Ī +×Ĺ ×ķר +دÙĬ ÙĨØ© +ت Ø· +ằ m +ò a +ย à¸Ńà¸Ķ +Ġëĭ ¹ +สุ à¸Ĥ +×ĵר ×ļ +د ÙĨ +س ÙĬÙĨ +ÙĪÙĤ Ùģ +ÑĨ Ñĭ +г оÑĤов +еж дÑĥ +à¸ŀ วà¸ģ +اÙĤ تص +اÙĤتص اد +cz ÄĻ +ni ÄĻ +ÑĢ ÐµÐ± +ØŃ ÙĪ +à¸Ĺ à¹Į +ãĤĪ ãģŃ +д ж +à¸ģล à¹Īาว +دÙĬ Ø« +ãĤ³ ãĥŁ +ÙĤ ÙĪÙħ +Ġت ØŃ +à¹Ģ à¸ķิ +اÙģ Ø¸ +à¸Ī ุ +رÙĬ اض +×ŀש ×ļ +à¹Ĥ ย +еÑĢ Ðµ +ãģ¿ ãģŁãģĦ +ìĿ´ ëĿ¼ +ĠاÙĦÙħ ÙĪ +ĠÑģÑĤ о +à¹Ģรà¹ĩ ว +Ġд еÑĤ +ĠÑģ дел +à¹Ģà¸Ĭ ืà¹Īà¸Ń +פ ׳×Ļ +ÙĪØ¶ ÙĪØ¹ +×ij ס +à¹ģ à¸Ķ +ó c +ริ ม +ÑĢаР´ +ìĪ ł +ãĥ¼ãĤ º +ãģ« ãģĬ +и но +פ ×Ļ׾ +à¸Ĭั à¹Īà¸Ļ +×Ĺ×ĵ ש +à¹Ģà¸Ļ ืà¹Īà¸Ńà¸ĩ +׳ ×Ļס +غ رب +ãĤ¸ ãĥ£ +ส ัà¸ĩ +à¹Ģ à¸Ĺีà¹Ī +à¹Ģà¸Ĺีà¹Ī ยว +ëŁ ¼ +à¹ģ à¸Ł +ãĥ¼ãĤ · +ãĥ¼ãĤ· ãĥ§ãĥ³ +Ġвоз мож +جÙħ ÙĪØ¹ +×ijר ×Ļ×Ŀ +ãĥĪ ãĥ© +ĠкаÑĩ еÑģÑĤв +Ø· ÙĬ +ÑĤ Ñı +צ ×ķ×¢ +ÄŁ ını +ع ÙĦÙī +ا ذ +ÙĪØ§ÙĤ ع +Ùħ ÙĪØ§ +ائ ÙĬÙĦ +к ол +á»ģ m +à¸ľà¸¥ ิà¸ķ +×Ļ׳ ×ĺר +س Ùĥ +ש ×Ļר +ศึà¸ģ ษา +à¸ļ ั +Ñĩ аÑģ +×ķפ ×Ķ +×Ļפ ×ķ׾ +ĠاÙĦس اب +رÙĬ ب +ĠاÙĦ بÙĬ +ãĤ¹ ãĥĨ +Ñĩ ен +à¹ģ à¸ľ +Ġ׳ ש +ز ÙĬد +ØŃ اد +ëį Ķ +رÙĪ Ø¹ +à¸Ĺุ à¸Ļ +ส มา +c zeÅĦ +×Ļ×ĵ ×Ķ +ãģ§ ãģĤ +Ġçoc uk +Ø® ب +à¸ļ าย +à¸Ľà¸£à¸° à¸Ĭา +×ŀש ׾ +ãģª ãģĭ +à¸ģ าย +ãĥģ ãĥ£ +аÑĢ Ð¸ +ĠÑĩ а +à¸Ķ ำ +à¸Ĺั à¹Īว +Ñĥ Ñħ +Ġö z +Ġì¢ ĭ +ج رÙĬ +ائ ÙĤ +à¸ł ัย +Ø· ار +د ارة +Ä© nh +Ø« ÙĨ +zell ik +اÙĦ ت +Ġg eli +ãĥķãĤ © +ол од +رب ع +שת ×ŀש +à¸ļร ร +íĿ ¬ +Ġü rün +Ġê·¸ ëłĩ +ศาส à¸ķรà¹Į +ãģ ľ +×Ļ×ij ׾ +ĠпÑĢед ÑģÑĤав +سط ÙĬÙĨ +ãĤĴ 使 +Ġпом оÑī +×ķ×§ ר +ãĥ¯ ãĥ¼ +Ġyö net +×Ļ×§ ר +à¸Ĥ า +еÑĢи ал +ØŃ Ùģ +Ġ×Ļ ×¦ +à¸Ĺ ิ +å£ ² +à¸Ļ à¸Ńà¸ģ +×ķ׼ ר +íĻ ľ +á»§ y +ĠاÙĦÙĤ ر +×Ļ×ij ×ķת +ÅĽ ni +Ùħ شار +ượ t +ĠÙĦ دÙĬ +ÑĤ ел +ĠØ¥ ÙĦÙĬ +عÙĦ ÙĪÙħ +ìķ ĺ +в иÑĤ +à¸Ħ ะ +yr ı +ãģ¨ ãģ£ãģ¦ +à¹Ģ à¸ī +à¸ĸ าม +ÙĤ ار +عÙĦ اÙħ +ặ ng +Ùħ ÙĴ +×Ļ×ŀ ת +سب Ø© +ãĤ¯ ãĥ© +×ķס ×£ +ĠпÑĢ Ð¸Ð½ +ãģĦ ãĤį +س اس +عت بر +วิ à¸Ĺย +วิà¸Ĺย า +س Ùĥر +ãĤ· ãĥ§ +ãģ ģ +ัà¸ģ ษ +×ij ×ķ×Ķ +ห ย +ãģ¾ ãĤĮ +ĠоÑĢг аниз +каз ал +ĠÑģв Ñıз +uy ết +ĠпÑĢо из +Ġ×§ ×ĺ +à¹ģà¸ģ à¹ī +п ÑĥÑģ +Ġê·¸ ê²ĥ +ëĬ IJ +л екÑģ +ãĥ¼ãĥ Ĺ +à¸ķ ำ +ת×Ĺ ×Ļ׾ +à¸Ńà¸ĩ à¸Ħà¹Į +Ạµ +׳ צ +Ø£ Ø´ +Ø´ Ùĩ +ย ะ +à¸ģ à¸İ +ĠاÙĦØ¥ سÙĦاÙħ +ед ÑĮ +ãģ² ãģ¨ +ëıĦ ë¡Ŀ +ãģ© ãģ® +Ñĥ в +еÑĩ ение +ĠاÙĦت ج +ãģ« è¡Į +Ġп озв +ãĤı ãĤĬ +ÙĦ اث +íķĺ ìĺĢ +Ġм аÑĢ +Ġkon uÅŁ +ãĥ¬ ãĤ¹ +ãĤĴ æĮģ +ĠоÑģ нов +×Ĺ ×ij +ÙĪØ¬ ÙĪØ¯ +פ ×ķף +в оÑĢ +Ġн ик +ãģĭ ãĤĭ +ÅŁtır ma +×Ļס ×ĺ +Ø£ ÙĦ +ห à¹Į +и она +лÑĮ н +Ġг оÑģ +ĠÐľÐ¾Ñģ к +ÑĢ Ð¾Ð± +×ķ×IJ ×Ļ +ãģĬãĤĬ ãģ¾ãģĻ +ãģ£ãģ ± +к л +à¸Ļ à¸Ķà¹Į +رÙĬ Ùģ +اس ب +ĠÑĢ ÐµÑĪ +Ġд ол +ãģ¹ ãģį +×Ļ×ij ×ķר +м еÑī +Ġна ÑĪ +à¹ģ à¸Ľà¸¥ +ÑĢ Ð¸ÑĤ +кÑĥ Ñģ +и ÑĢа +аÑĤ ÑĥÑĢ +ÙĪØ§ صÙĦ +à¹Ģà¸ľ ย +à¸Ń ำ +à¹Ģà¸ģ ิà¸Ļ +غ Ùħ +ãģĻ ãģİ +lı kl +ÅĦ sk +ê² ¬ +×Ļ׼ ×Ķ +׊ש×ij +ÙĪØ± ÙĬØ© +Ġд ейÑģÑĤв +×Ĺ׾ ×ĺ +Ġ׾ ×ŀ×¢ +צ׾ ×Ļ×Ĺ +еÑĩ а +Ùģ Ø§Ø¹ +×Ĵ ×Ļ×ĵ +áºŃ m +ÄĻ b +Ø´ ع +ãģı ãĤĬ +à¸ŀ ุ +ед еÑĢ +à¸Ĥ à¸Ļ +à¸Ħ าร +ĠболÑĮ ÑĪ +ãģı ãģªãĤĬ +à¸ĵ า +×ĵ ×ķ×Ĵ +Ġм н +ä¸Ĭ ãģĮ +ç¶ļ ãģį +ฤ ษ +ภĨ +Ø® ÙĬ +à¹Ģà¸Ĺ à¸ŀ +สั ม +à¹Ģส à¸Ļ +à¹Ģสà¸Ļ à¸Ń +ãĥ ´ +Ġи ÑģÑĤ +با شر +ĠÑĥ ÑĢов +×ŀ ×ķ×ĸ +ab ı +wa ż +×ķצ ×IJ×Ķ +ÑĤ веÑĢ +à¸ŀัà¸Ļà¸ĺ à¹Į +׳ ×Ĵ×ĵ +ãĤĭ ãģĵãģ¨ãģĮãģ§ãģį +ĠÑĤÑĢ ÐµÐ± +à¸ģร ุà¸ĩ +ØŃت اج +à¹Ģ à¸Ħล +ã Ĩ +ÄĻ tr +Ġszcz eg +Ġר ש +à¸Ĺ à¸ĺ +Ġн ек +Ġнек оÑĤоÑĢ +в ÑĪ +Ð ¬ +à¹Īว ย +ล ุ +б ÑĢÑı +หม ูà¹Ī +à¹ģ à¸ķà¸ģ +ר׼ ×Ļ×Ŀ +Ġí ĸī +ã i +Ùĥر Ø© +â Ń +í IJ +ã į +á ģ +â ® +â ¥ +ì ® +à ¿ +â ¿ +á Ĥ +á ¤ +â ł +í Ł +ðIJ į +ðIJ ° +ðĿ Ĩ +ðŁ Ī +Ġ×¢ ׾ +Ġع ÙĨ +ĠÙħ ع +Ġ×ĸ ×Ķ +ĠÙħ ا +Ġm Ãł +Ġd ụ +á»ĩ c +а Ñħ +s ı +íķĺ ê³ł +Ġ×ķ ×ij +ĠÐŁ о +×ķת ר +ĠÙĦ Ùħ +Ġ×ķ ׾ +ãģĹãģ¦ ãģĦãĤĭ +Ġ×ŀ ×Ļ +Ġب ÙĬÙĨ +з а +ĠÙĥ اÙĨ +Ġ×Ķ ×Ļ×Ķ +ëħ Ħ +×IJ ×ķ +д и +ĠпеÑĢ Ðµ +d ı +Ġ׾ ש +Ġש ×ŀ +ãģĮ ãģĤãĤĭ +ãģĦ ãģĦ +ÑĢ Ðµ +×§ ×ķ +и ли +м е +ÙĬ ت +ãģ§ ãģĤãĤĭ +Ġв о +à¹ĥ หม +à¹ĥหม à¹Ī +Ġש ×ij +Ġ à¹Ĥà¸Ķย +ÙĬ Ùĩ +ãģ§ãģĻ ãģĮ +ãģ¨ ãģ¯ +ר ×ķ +Ġ à¸ĭึà¹Īà¸ĩ +ãģ§ãģį ãĤĭ +м о +à¹Ģà¸ŀ ืà¹Īà¸Ń +צ ×ķ +×ĺ ×ķ +ìķ Ī +Ġh á»į +à¹Ģà¸ĩ ิà¸Ļ +ĠاÙĦ ب +Ġ มี +ë¬ ¼ +Ñģ е +ëĵ¤ ìĿ´ +Ġë§ IJ +Ġl Ỽ +a ÅĤ +×Ĺ ×ijר +Ġd á»± +ÙĬ Ø« +Ġth á»ĭ +à¸ģà¹Ī à¸Ńà¸Ļ +Ġ×ij ׼׾ +ãģ ¸ +ã썿ĢĿ ãģĦãģ¾ãģĻ +ả nh +ย า +Ùģ Ø§ +ส ี +à¸ķ า +ë² ķ +ãĥª ãĥ¼ +รา à¸Ħา +Ġ×ķ ׾×IJ +ãģ¨ ãģĵãĤį +à¹Ģล ืà¸Ń +di ÄŁi +ÙĪ Ø§ÙĨ +Ġ׾×Ķ ×ª +รว ม +פ ×Ļ×Ŀ +à¸ľ ม +ж и +c ı +ÑĢ Ð¾Ð´ +Ġkar ÅŁÄ± +×Ĵ ×ķ +ãģ« ãģ¤ +ãģ«ãģ¤ ãģĦãģ¦ +r Ãł +×Ļ×ķת ר +ĠìĨ Į +×§ ×Ķ +ÑģÑĤв о +ãģij ãģ© +g é +à¸Ķ à¹īาà¸Ļ +çļĦ ãģ« +ĠÙĬ ÙħÙĥÙĨ +ìĨ į +ÙĬ Ùĥ +à¹Ħว à¹ī +Ñģки й +ì m +Ġ׾×IJ ×Ĺר +à¸Ńา หาร +Ġà¹Ģ à¸ŀ +รา ะ +ล ูà¸ģ +ÑģÑĤ а +Ġìľ ł +ÙĤ ÙĪÙĦ +б оÑĢ +Ñģк ого +หล ัà¸ĩ +à¸Ĥ à¹Īาว +à¹Ģม ืà¸Ńà¸ĩ +ê° ģ +t Ãł +ÙĬ ÙĬÙĨ +عر ض +ë° © +Ġëı Ļ +Ġà¹Ģ à¸Ľ +Ġà¹Ģà¸Ľ à¹ĩà¸Ļ +ç i +li ÄŁi +ìĹIJ ê²Į +ãĤ¿ ãĥ¼ +Ġ׾ ת +פ ×ķת +à¸Ĥ à¸Ń +ر س +ìł IJ +à¸ľ à¹Īาà¸Ļ +ÑĦ и +ج ÙĨ +ì¢ ħ +Ġ×Ķ ×¤ +Ġn go +á»ĭ a +Ġtá» ķ +Ġê·¸ 리 +à¹Ģม ืà¹Īà¸Ń +ذ Ùĥر +ìĸ ij +ìĹ Ń +×ĺ ׾ +k ı +Ġع ÙħÙĦ +Ġع ÙĨد +à¸ĭ ืà¹īà¸Ń +Ġê± ° +в е +r ü +à¹Ģ à¸Ńา +ส à¹Į +à¸Ī à¸Ļ +ס ת +Ġgi ả +ãĤĭ ãģ¨ +à¸ģำ ลัà¸ĩ +н ей +à¸Ī ริ +à¸Īริ à¸ĩ +Ġë į +Ġëį Ķ +à¸Ħà¹Ī ะ +ì n +Ġsü re +Ġqu y +à¸ļ าà¸ĩ +åıĸ ãĤĬ +ר ×Ĺ +×ij ת +ãģĮ ãģĤãĤĬãģ¾ãģĻ +ר ש +ìĹIJ ëĬĶ +Ġ×IJ פשר +ay ı +ãģĮ ãĤī +ØŃ ب +ан Ñģ +س ÙĪ +ĠпÑĢ Ðµ +د ÙĪ +ãģ« ãĤĪ +à¹Ģà¸ģ ม +สู à¸ĩ +m akt +makt ad +maktad ır +Ġön em +×Ļ×ŀ ×Ļ×Ŀ +б о +ÙĪ ÙĬØ© +รู à¸Ľ +à¹Ĥล à¸ģ +Ùħ ÙĬع +ÑģÑĤ Ñĥп +à¹Ĥ à¸Ń +دÙĬ ÙĨ +ì¤ ij +ãģĹãģ ı +à¹Ģส ีย +в Ñĭ +Ùħ ت +íĺ Ħ +ãĥIJ ãĥ¼ +ا Ø´ +×§ ס +Ġtá» ¥ +ล à¸Ķ +Ùģ Ø© +í ijľ +ر ج +k ÅĤad +ĠÅŁ ey +ĠØ£ Ùħ +Ġà¹Ģ ม +Ġب ÙĦ +Ñģ каÑı +ãģ¨ ãģ® +Ġìĭ ¤ +ấ m +ห à¹īà¸Ńà¸ĩ +à¸Ĭ ม +d ü +Ġç ek +Ġê³ ł +×Ĵ ×ij +à¸Ĭี วิ +à¸Ĭีวิ à¸ķ +Ù쨶 ÙĦ +ภ¯ +ç ı +Ġب Ø´ +ĠÙĩ ÙĨا +ãģį ãģ¾ãģĹãģŁ +t ü +Ġìĺ ģ +ĠTür k +к ÑĤ +פר ס +ãģ¨ãģĦãģĨ ãģĵãģ¨ +í ĶĦ +à¹ģร à¸ģ +ר ×ķף +Ġar as +×ŀצ ×IJ +Ġtá» ī +س ا +à¸ŀ à¸Ń +ĠاÙĦÙħ ØŃ +ãĥ ¤ +ĠاÙĦ است +Ùģ ÙĨ +×Ļ×ŀ ×Ķ +ر ت +ãģ¨ ãĤĤ +Ġна Ñģ +п ÑĢи +Ġ×Ĺ ×ķ +и ла +ÙĬ Ø´ +Ġgö z +Ġ×ij ׳×Ļ +ım ı +ĠÑĤ еÑħ +Ġh á»Ļ +غ ر +к он +اØŃ ت +Ġ à¸ŀ +à¸Ń à¸Ńà¸Ļ +à¸Ńà¸Ńà¸Ļ à¹Ħล +à¸Ńà¸Ńà¸Ļà¹Ħล à¸Ļà¹Į +Ñħ о +Ñı в +à¹ģ สà¸Ķ +à¹ģสà¸Ķ à¸ĩ +à¹Ģà¸ŀ ียà¸ĩ +ÑĤ ов +ا ÙĬ +Ġ×Ķ ×ĵ +Ġ×ķ ׼ +ãĤī ãģĦ +×ķפ ף +Ġë ¶Ī +ล à¸Ńà¸ĩ +Ø· اÙĦ +Ġн и +ĠÙħ ست +ế c +Ġש ׼ +ĠëķĮ 문 +วัà¸Ļ à¸Ĺีà¹Ī +×Ļ׾ ×ĵ +ØŃ ا +е ÑĨ +Ġc ứ +×ĵ ×ķר +ĠÙħ ØŃ +ר׼ ×ij +بÙĬ ع +ни и +ĠاÙĦØ£ ÙĪÙĦ +à¸Ħว ร +ã썿ĢĿ ãģĨ +ĠС о +ائ ÙĬØ© +ر اء +оÑģ об +Ġب Ø£ÙĨ +×¢ ×ķ×ĵ +ĠÑĤ е +ãģĵ ãģĨ +ÑģÑĤ ÑĢа +ай н +Ġsö z +ت ÙĨا +à¸Ń ิ +ặ p +ĠìķĦ ëĭĪ +íķ Ń +Ġר×IJ ש +Ġ à¹Ħà¸Ķà¹ī +Ġ×Ĵ ×ĵ +Ġס פר +обÑī е +ĠÙĪ Ø¥ +ada ÅŁ +ãģ¡ ãĤĩ +×§ ×ķ׾ +ÑĢ ÐµÐ· +ĠdÃ¼ÅŁ ün +Ġ×ij ×IJ×ŀ +Ġìĸ´ ëĸ +ער ×ij +н ее +ĠÑģÑĤÑĢ Ð°Ð½ +س اÙĨ +yn ı +ĠاÙĦر ئÙĬس +ãģĹãģ ª +Ġ׳ ת +ãģ«ãģª ãģ£ãģŁ +g ü +åıĹ ãģij +׾ ת +ìł Ī +ëĬĶ ëį° +Ø® ÙĬر +à¸ķà¹īà¸Ńà¸ĩ à¸ģาร +ĠÙĦ Ø£ÙĨ +Ġch á»ĭ +ÙĪ Ø© +à¹ĥ ส +ë¶Ģ íĦ° +íķĺ ë©´ +ữ u +à¹Ģหม ืà¸Ńà¸Ļ +б еÑĢ +ĠìĿ´ ìļ© +ĠÑģ еб +wiÄĻ ks +Ġ׳ ×¢ +ÑĤ ÑĥÑĢ +Ġngh Ä© +ש ×ķ×ĺ +ti ÄŁi +Ġde ÄŁi +×IJ ×ij +Ġ×ŀ ×ŀ +ãĥĹ ãĥŃ +wa ÅĤ +à¸Ī ึà¸ĩ +Ø® دÙħ +×IJ ×Ŀ +Ä±ÅŁ ı +cz Äħ +ר ×ĵ +ĠÑĢ Ñĥб +خر Ùī +ãģ® æĸ¹ +Ġд енÑĮ +×Ĺ ×Ļ×Ŀ +еÑĤ е +ëĤ ľ +×IJ ×Ĵ +×¢ ×ķר +ë³ Ħ +åIJĮ ãģĺ +ãĤ ² +ר ×ļ +×ķש ×IJ +ìľ ¡ +ا Ø® +צ ×Ļ×Ķ +á»± a +ãģĪ ãģ¦ +ש×Ķ ×ķ +ан ÑĤ +ลา à¸Ķ +ин г +ë¡ ł +اع د +ÙĪ Ø³Ø· +Ġв оп +Ġвоп ÑĢоÑģ +Ùħ ÙĬÙĨ +à¸Ħ à¸ĩ +×Ļר ×Ļ×Ŀ +c ów +ê² © +Ġê·¸ 룰 +Ġì§ Ħ +Ġש ׾×Ķ +à¹Ģร ิà¹Īม +à¸Ĭ à¸Ńà¸ļ +д еÑĤ +ÑİÑī иÑħ +à¸ļ à¸Ńà¸ģ +æĢĿ ãģĦ +ع ÙĬد +ס ×ŀ +×Ĵ ×Ļ×¢ +צ ×ĵ +ب ات +ĠëͰ ëĿ¼ +à¸Ī ัà¸ĩ +ãģłãģij ãģ§ +×¢ ×Ļר +ĠÑĩ ел +ĠÑĩел ов +ĠÑĩелов ек +ãĥĥ ãĥģ +à¹Ģà¸ģ ีà¹Īยว +à¸Ķ ิ +Ġפ ×¢ +×Ļ×ŀ ×Ļ +ë° ĺ +Ø® ار +×ij ×Ļת +×¢ ×Ļ×Ŀ +ü yor +ãĤģ ãģ¦ +к лад +Ġ à¸Īาà¸ģ +à¹Ģà¸Ħ ย +ส à¸Ńà¸ĩ +à¹ģ à¸Ħà¹Ī +ẫ u +หà¸Ļ ัà¸ĩ +ש׾ ×ķ×Ŀ +اÙĨ ÙĬØ© +åĩº ä¼ļ +åĩºä¼ļ ãģĦ +à¸ł าย +à¸ļา à¸Ĺ +à¸Ĭา ว +mu ÅŁ +Ġ׾ק ×ij׾ +ãĤ· ãĥ£ +Ġİ ÅŁ +×Ĵ×ĵ ×ķ׾ +ج عÙĦ +ë³ Ģ +ยิ à¹Īà¸ĩ +à¸Ļ าย +à¸Ļ ีà¹Ī +วิ à¸ĺี +ãĤī ãģªãģĦ +ëł Ī +Ġ문 ìłľ +Ġ à¸ģ +à¸Ĺำ à¸ĩาà¸Ļ +à¹Ģว à¹ĩà¸ļ +ÑĦ е +楽 ãģĹ +สำ à¸Ħ +สำà¸Ħ ัà¸į +ر Ùħ +ãģķãĤĮ ãģ¦ +Ġоб ла +ר×IJ ×Ļ +หม à¸Ķ +ÙĨ ÙĬØ© +ли н +Ġe ÄŁ +it im +ëł ¹ +ص اÙĦ +ÅĽ l +à¸ľ ิà¸Ķ +ãĥŀ ãĥ³ +åħ¥ ãĤĮ +à¹Ģà¸ķ à¸Ńรà¹Į +ار ÙĬ +ĠÐ ¦ +d ür +ส วย +ë¦ ½ +رÙĥ Ø© +Ġh ã +×Ļת ×Ķ +à¸Ĥ à¸Ļา +à¸Ĥà¸Ļา à¸Ķ +à¸Īำ à¸Ļ +à¸Īำà¸Ļ วà¸Ļ +ש ×ķ×§ +Ġд ом +ì± ħ +ãģĭ ãģij +פ ×ķ׾ +à¸Ĭ าย +Ñģ моÑĤÑĢ +Ñģл Ñĥж +ש ×IJ׾ +кÑĢÑĭ ÑĤ +Ġìŀ ĺ +é«ĺ ãģĦ +ĠÑĢ Ñĥк +ÙĨ ص +д ав +ưỠ¡ +ưỡ ng +ر اÙħ +×Ļ׳ ×Ļ×Ŀ +ãĥ© ãĥ¼ +ëĦ ¤ +Ġت ع +l ke +好 ãģį +æĮģ ãģ¡ +Ġë§ İ +Ġy ük +ĠÑģоÑģÑĤ ав +енÑĤ ÑĢ +pe ÅĤ +à¹Ģà¸Ľà¸¥ ีà¹Īย +à¹Ģà¸Ľà¸¥à¸µà¹Īย à¸Ļ +íı ī +ãĤĦ ãģĻ +×Ĺ ×ĸ +×ijר ×Ķ +ë£ ¨ +ìĶ Ģ +بØŃ Ø« +à¹Ģà¸ķ à¹ĩ +ów i +ب Ùĩ +ãģį ãģ¾ãģĻ +Ġ×¢ ×ŀ +×Ĵ ×ķ׾ +ез д +ÙĬÙģ Ø© +สà¸Ļ à¹ĥà¸Ī +Ġת ׾ +Ñı Ñī +Ġس ÙĨ +ĠÙĪØ§ ØŃد +ĠÑģ м +lad ı +ı ld +×Ļר ת +ีย à¸Ļ +ת×Ĺ ×ª +Ġж из +à¸ŀ ั +à¸ŀั à¸Ĵ +à¸ŀัà¸Ĵ à¸Ļา +à¸Ĭ ิ +ا Ø®ÙĦ +ãģ£ãģ¦ ãģĦãģŁ +รั à¸IJ +ãĤģ ãĤĭ +à¹Ĥ à¸ģ +ĠT á»ķ +Ġh akk +ر Ùģ +ìł Ģ +Ñģ об +ãģª ãģijãĤĮãģ° +Ùĩ ÙĪ +Ġë² ķ +ãĤ Ĩ +ĠاÙĦس عÙĪØ¯ +Ġ×IJ תר +Ø§Ø º +Ġ׾ ×ĵ +à¹ģ à¸ķ +à¹ģà¸ķ à¹Īà¸ĩ +íĮ Į +Ñĥп иÑĤÑĮ +à¸ŀืà¹īà¸Ļ à¸Ĺีà¹Ī +×ij ת×Ļ +à¹ĩ à¸ģ +ÅĤ at +Ġê°ľ ìĿ¸ +ìłķ ë³´ +ÑĤ ал +Ġgü ven +Ġİ l +Ġê° ģ +Ġب ت +×ŀ ×ķ׳×Ķ +ĠاÙĦØŃ ÙĥÙĪÙħ +ÙĤ ات +à¹ģ à¸ģà¹Ī +ห าà¸ģ +н ÑĮ +à¸Ľ รัà¸ļ +มา à¸ĵ +Ġне Ñģк +ĠØ ¶ +สม ั +สมั à¸Ħร +ãģĮ ãģĤãĤĬ +м еÑģÑĤ +Ġ×IJ צ׾ +Ġкомп ани +ס ר +ÙĬÙħ Ø© +ĠÑħ оÑĢо +ĠÑħоÑĢо ÑĪ +Ġ×Ļ ×ķ×ĵ +ü s +×Ĵ ×Ļש +à¸ļ à¸Ĺ +تÙĨ ظ +ว าà¸ĩ +ม หา +Ġ׼ ×ķ׾ +à¸Ĥ à¹īาà¸ĩ +ë° ľ +г од +д ан +ãģĭãĤĤãģĹãĤĮ ãģ¾ãģĽãĤĵ +ãģĵ ãģ¡ãĤī +ãĥIJ ãĤ¤ +ece ÄŁi +دÙĬ دة +ÙĨ Ùī +Ġëĭ¤ ìĿĮ +ว ี +غ ا +ли з +à¹Ģà¸Ķ ิ +à¹Ģà¸Ķิ ม +ĠÙĬ ست +Ġy ılı +ko ÅĦ +ãģ§ãģĹãĤĩãģĨ ãģĭ +ãģĤ ãģª +ãģĤãģª ãģŁ +ÑĨ ен +ĠÙĪ Ø² +×IJ ×Ļש +à¹Ī à¸Ń +ر ØŃ +ê´ ij +ÑĢа ÑģÑĤ +Ġ×Ķ ×ľ +ãģĹãģ¦ ãĤĤ +×ŀר ׼ +×ŀר׼ ×ĸ +éģķ ãģĦ +ãģŁ ãģı +ĠÑģ Ñĥд +в еÑģÑĤи +ĠíķĦ ìļĶ +ãĥķ ãĤ§ +ÑĤелÑĮ но +à¹Ģà¸ŀ ืà¹Īà¸Ńà¸Ļ +ÅĤu ż +à¹Ģà¸Ķิà¸Ļ à¸Ĺาà¸ĩ +ש ×ķר +Ġ×ŀ ×ĵ +×ķ×¢ ׾ +ÙĦ اÙħ +à¹Ħ à¸ĭ +л ей +кÑĥ ÑĢ +Ạ¢ +à¸Ĺ าà¸Ļ +ì§ ij +ĠгоÑĢ Ð¾Ð´ +ר ס +׾ ×ķ×Ĵ +mas ını +Ġл ÑĥÑĩ +ล à¹Īา +ìļ ¸ +ש ×ĺ +ĠÐĺ н +í Ĥ¤ +ÙĪÙĦ ا +ìķ ł +ĠØ£ÙĬ ضا +Ùĥ ار +ĠاÙĦت ع +ส ูà¹Ī +ãĤ ¼ +×ij ×Ļ×IJ +ย à¸ģ +ĠØŃ ÙĤ +ر بÙĬ +ãģĺãĤĥ ãģªãģĦ +รัà¸ģ ษา +Ñħод иÑĤ +à¸ķ à¸Ńà¸ļ +׳ ×ĺ×Ļ +ĠاÙĦÙħ ج +تÙħ ع +ов аÑĤÑĮ +ÙĦ ÙĬÙĨ +×Ļ×ŀ ×ķת +Ġm ù +n ÄĻ +Ġد ÙĬ +׼ ש×Ļ×ķ +Ġhi ç +ë ijIJ +ÙĪ Ø§Ø¡ +ÙĪ Ø· +ĠاÙĦ بÙĦ +à¹ģม à¹ī +×§ ×ķת +ÙĪØ¬ د +å§ĭ ãĤģ +ÙĬ ئة +Ġë§ ¤ +ص بØŃ +פ ×IJ +г оÑĢ +ס ×Ķ +بÙĬ ÙĤ +ย าà¸ģ +Ġн ад +ÙĬ Ùij +Ġب ÙĪ +ס ×ķר +Ùħ ÙĥاÙĨ +ר ×ij +×Ĵ ×ĸ +צ ת +b ilit +л аг +ĠN go +×IJ ×ķר +à¸ķ à¸Ļ +íĬ ¹ +à¸Ĺีà¹Ī à¸Ķี +à¸Ľà¸£à¸° à¸Īำ +ов ание +ãģĦ ãģ¤ +ãĥĥãĤ¯ ãĤ¹ +åIJĪ ãĤı +åIJĪãĤı ãģĽ +×Ļ׳ ×ķ×Ļ +ạ y +Ø« ÙĤ +ĠпÑĢ Ð¾Ð± +ĠпÑĢоб лем +ÅŁ eh +ÅŁeh ir +ع ادة +اÙĨ ÙĪÙĨ +à¸ķัว à¹Ģà¸Ńà¸ĩ +ì¶ ķ +ı lan +б ан +ãĥ³ ãĥī +à¸Ī ี +Ġ×Ķש ׳×Ļ +п оÑĤ +×ķ׾ ×Ļ×Ŀ +ล ัà¸ļ +ĠÑį ÑĤи +×ij×§ ש +ë¹Ħ ìĬ¤ +à¸Ńยà¹Īาà¸ĩ à¹Ħร +×Ļ׾ ×Ļ +à¹ĥà¸Ĭ à¹Ī +ĠاÙĦ ÙĥÙĦ +ãĥļ ãĥ¼ãĤ¸ +ص Ø© +ÑĤи ÑĢ +ãĤĵ ãģ© +зÑĭ к +wy ż +Ùĩ ÙĬ +ĠÙħ ÙĦÙĬ +Ġвид е +ظ اÙħ +دا ÙĪÙĦ +×ŀ ת×Ļ +Ġs ık +à¹Ģà¸ķิ ม +ãĤ¢ ãĤ¤ +ка Ñħ +צ ×Ļ׾ +à¹Ģà¸Ĭ à¹Īà¸Ļ +м аг +маг аз +магаз ин +à¸Ľ ั +à¸Ľà¸± à¸Ī +Ġש ×Ļר×ķת +ีย ม +ãĥĸ ãĥ« +Ġد ÙĪÙĦ +קר ×Ļ×Ŀ +Ùĩ Ùı +ов о +Ġü ret +د ÙĪÙĨ +à¹ģà¸Ļ ว +à¹Ģà¸Ļ ืà¹īà¸Ń +ĠÑĦ оÑĤ +ãĥ ĺ +ãģ¤ ãģĭ +Ñı Ñģ +ĠíķĺëĤĺ ëĭĺ +ائ ع +Ġп лаÑĤ +ìĺ Ī +Ġdost ÄĻp +ÙĪØ¬ Ùĩ +Ġ×Ķ ×Ĺ×Ļ +׳ ×Ļ×§ +д ей +í ĽĦ +ı y +بØŃ ر +à¹Ģส ริม +Ġ׾ ×Ĵ +ذÙĩ ب +ج ÙĬÙĦ +رÙĥ ز +Ġë ħ +Ġëħ ¸ +פ×Ļ׾ ×ķ +ãģ¾ ãģļ +iri ÅŁ +ĠÙĥ ÙĬÙģ +Ġ×ij צ +Ġêµ IJ +ÑĢоÑģ Ñģ +ĠØ´ ÙĬ +Ġiç er +×Ĵ ×ķ×ij×Ķ +мен но +×¢ ×ij×Ļר +×ķ×ŀ ×Ķ +ãĤī ãģĹãģĦ +ãģ ¼ +Ñī ин +è²· ãģĦ +جÙħÙĪØ¹ Ø© +Ġdön em +Ġ×ij ×IJר +в еÑģÑĤ +×ķר ×ķת +س Ùģ +à¹ģà¸Ĺ à¸Ļ +Ġд окÑĥменÑĤ +Ġا ÙĬ +ج اÙĨ +צ×ķ×¢ ×Ļ +ĠоÑģ об +ĠاÙĦÙħ س +ÑĢаР± +à¸ł ู +à¸Ķ าว +л екÑĤ +ع ÙĤ +×ķ×ĵ ×ķת +Ġol u +Ġolu ÅŁtur +ãģ¾ ãģ¾ +ед ин +à¹Ģ à¸Ńà¸ģ +ãĤµ ãĤ¤ +ëĦ Ī +Ø· ÙĨÙĬ +Ø· ÙĤØ© +ĠÐł аз +ÙĦ Ùij +Ñĩ ем +Ġ׾ ×ĺ +สั à¹Īà¸ĩ +سر ائÙĬÙĦ +Ġפר ×ĺ×Ļ +д еÑģÑĮ +Ġ׳ ׼ +اÙĨ ب +ÙĬا Ø© +Ùħ بر +Ġk ı +à¸Ľ à¸ı +à¸Ľà¸ı ิ +à¸ļั à¸ķิ +׳ ת×Ļ +ìĨ ¡ +ر اب +à¹ĥ à¸ķ +à¹ĥà¸ķ à¹ī +×Ļ׳ ת +ÙĪ ÙĬر +Ġ×Ķ×ŀ ×Ļ +ей ÑĩаÑģ +×§ ×ķ×ij +در اس +ĠÙħ ÙĤ +رÙĬ ÙĨ +Ø® اص +ãģĬ éĩij +Ġج دا +ãģĨ ãģ¡ +ëħ ¸ +ır ım +æ§ ĺ +ãģ« å¯ +ãģ«å¯ ¾ +ÑĨ ев +Ġv ard +ĠÐIJ н +e ÄŁ +ÑģÑĤв енно +Ð ¨ +س د +à¸ģ ุ +à¹ģà¸ľ à¸Ļ +รูà¹ī ส +รูà¹īส ึà¸ģ +ات ØŃاد +Ñij ÑĤ +×Ĺ ×ķ×§ +ãģĻ ãģIJ +Ø· ÙĦاÙĤ +Ġ×§ ×ķ×ĵ +à¹ĥà¸Ĭ à¹īà¸ĩ +à¹ĥà¸Ĭà¹īà¸ĩ าà¸Ļ +ãĥ¼ãĤ ¿ +Ġs ür +ÑĢ Ð¾Ðº +ë³ ij +สมา à¸Ĭ +สมาà¸Ĭ ิà¸ģ +ãĥķ ãĥ¬ +è¾¼ ãģ¿ +ãĤ» ãĥ³ +Ġê°Ģ ì§Ģ +à¸ľ à¹īา +ÑįÑĤ омÑĥ +иÑĤ ел +à¸ł ั +ภij +ãĥĸ ãĥ© +×Ľ×ª ×ķ×ij +׳ ×Ŀ +ен нÑĭе +×¢ ×¨×Ľ×ª +Ġì Ĥ +ĠìĤ ´ +à¸Ĥ à¹īา +׳ ×ķס +ãĥ¬ ãĥĵ +ÑĢ ÐµÑģ +à¹Ģล à¸Ĥ +Ø« اÙĦ +ìĹ Ĩ +ĠÑĩ аÑģÑĤ +า ศ +ãĥª ãĤ¢ +u ç +×Ļ׼ ×ķת +ล à¹īาà¸Ļ +i ë +ãĤ¸ ãĤ§ +à¸Ī à¸Ń +ÙĪ ØŃد +×Ļצ ×ķ×ij +Ġ×ij ש׾ +ок о +ض Ø© +ذ ر +ĠÑĥ д +İ L +×ķצ ×Ļ×Ŀ +×ĸ ×ŀף +à¸Ľ à¸ģ +íķĻ êµIJ +س اÙħ +à¹Ħ à¸Ķ +ละ à¹Ģà¸Ń +ละà¹Ģà¸Ń ีย +ละà¹Ģà¸Ńีย à¸Ķ +ả y +аÑĨи он +ãĤ¹ ãĤ¯ +פ ×ķס +ร à¹Īาà¸ĩ +ен нÑĭй +ع ÙĨ +عÙĦ ÙĨ +ائ Ùģ +d ÄĻ +ؤ ÙĪÙĦ +׾×ķ ×ķ +Ġ×ij ש×ij +ä»Ĭ åĽŀ +ĠاÙĦج ÙĨ +د اد +wa Äĩ +ãĥª ãĥ³ +ĠìŀIJ ìĭł +اÙĨ ÙĬا +ãĥ¡ ãĥª +ÙĦ ÙĪÙĨ +à¸Ĺ à¹Īà¸Ńà¸ĩ +à¸Ĺà¹Īà¸Ńà¸ĩ à¹Ģà¸Ĺีà¹Īยว +اÙģ ÙĬ +Ġли ÑĪ +Ùħ ÙĬØ© +оÑĤ веÑĤ +Ñĩ ин +à Ĭ +ãĥ¡ ãĥ³ +å® Ł +éļĽ ãģ« +ĠÑĢаР¹ +ãĤ¦ ãĥ³ +×Ļר ×ķש +×Ļר×ķש ׾×Ļ×Ŀ +ม ะ +Ġar a +каз аÑĤÑĮ +à¸ķ ัà¸Ķ +ÑĥÑİ ÑĤ +Ġü st +×Ĵ ×ķ×ij +×Ĵ×ķ×ij ×ķת +mal ı +ег од +егод нÑı +اÙģ ÙĤ +à¸Ĭ à¹Īà¸Ńà¸ĩ +Ġö zellik +×Ļצ ×ķר +Ġmi ÄĻd +Ġili ÅŁ +Ġна Ñħод +×¢ ×ĸר +׾ ×Ľ×ª +ÙĨت اج +ĠÑģ ем +à¸Ī à¹Īาย +à¸ķร ว +à¸ķรว à¸Ī +פר ×ķ +à¸Ĥ ัà¸ļ +ãģ ŀ +Ġп ло +к олÑĮ +×ŀ×¢ ×ĺ +íķĺ ìĭľ +jÄħ ce +ÙĨ اÙĨ +ลี à¸ģ +н ÑĥÑĤ +Ġоб ÑĢаз +Ùĥ بر +ĠاÙĦÙĪ Ø·ÙĨ +ãģķãģĽ ãģ¦ +ÙĤ اء +×ŀ×ĵ ×Ļ׳ +y ü +פ ×Ļת +׳ ×ķף +ÙħÙĨ ظ +หà¸Ļ ัà¸ģ +ìŀ Ī +ãĤ« ãĥ¼ãĥī +ع ÙĨÙĬ +п од +ض اء +à¸Ļ à¸ķà¹Į +×ŀש פ +ว à¹Į +ר ×ķ×§ +ส ืà¹Īà¸Ń +פק ×Ļ×ĵ +ãģªãĤī ãģªãģĦ +ĠìŬ 룬 +ÙĦ ج +Ñī иÑĤ +ãĥĥ ãĤ· +ÙĦÙĬ س +ĠÙĦ Ùħا +ìł ij +×ij ×Ļף +ãĥģ ãĤ§ +Ġgü ç +Ġch ứ +×ķצ ×IJ +קר ×ij +à¹Ĥ à¸ŀ +оÑĩ но +סק ×Ļ +ש׾ ×Ŀ +صر Ùģ +ĠL Ãł +×¢ ×Ļת +á» · +à¹Ĥ à¸Ńà¸ģ +à¹Ĥà¸Ńà¸ģ า +à¹Ĥà¸Ńà¸ģา ส +Ġ×Ķ ×ĵ×ijר +à¸Ļั à¹Īà¸Ļ +ز ر +нак о +íļ į +ãĤĤ ãģ¡ +ãĤĤãģ¡ ãĤį +ãĤĤãģ¡ãĤį ãĤĵ +اÙħ ت +عد اد +и нÑĭ +ÅĤy w +à¸Ħ à¸ĵะ +à¸Ĺ ะ +kt ör +×Ļ×Ĺ ×Ķ +Ġм е +Ġме ÑģÑı +׳×Ķ ×Ĵ +ĠÑģ ÑĥÑīеÑģÑĤв +à¸Ļ ัà¸Ļ +ÑĦ ÑĦ +ек ÑĤив +عÙĦÙĪÙħ ات +б Ñĥд +à¸Ļัà¸ģ à¸ĩาà¸Ļ +หà¸Ļà¹īา à¸Ĺีà¹Ī +ÙĤÙĬ ÙĤ +ãĤ· ãĥ³ +ãģ« éĸ¢ +×IJר ×Ĵ +ĠпÑĢ Ð¾ÑĤ +ĠпÑĢоÑĤ ив +ĠìŀĪ ìĸ´ +ÙĤÙĬ ÙĤØ© +ìĹ ĩ +k ür +ãģ«ãģªãĤĬ ãģ¾ãģĹãģŁ +Ġде ÑıÑĤ +ĠдеÑıÑĤ елÑĮ +פ×ķר ×ĺ +à¸Ł à¹īา +à¹Ģ à¸ł +ĠавÑĤом аÑĤ +×ĸ ×Ļ×§ +Ġold uk +ع اÙħ +ĠÑĤ оÑĢ +yrı ca +ê Ì +ãĤŃ ãĥ³ãĤ° +ãģ« ãģ¨ãģ£ãģ¦ +à¹Ģà¸ī à¸ŀ +à¹Ģà¸īà¸ŀ าะ +ãģ¯ ãģļ +×ŀ ×IJ×Ļ +สะ à¸Ķ +สะà¸Ķ วà¸ģ +ìľ¼ ë©° +à¸ģ ี +ภ¬ +Ġ×¢ ×ķש +à¸łà¸² ษา +à¸Ĺ ัà¸Ļ +ac akt +acakt ır +اع دة +ĠÑĥÑģл Ñĥг +ס ר×ĺ +×ķ×ŀ ×ķת +×Ķ ×ķר +×ŀ ×ķ×ij +×ŀ×ķ×ij ף +سÙĬ اس +اتÙģ Ø§ÙĤ +×Ķ ×¦×ľ +Ùħؤ س +Ġp ó +Ġк ни +×Ļ׼ ×ķ׾ +à¹Ģหล ืà¸Ń +׼׾ ׼ +׳ ×ĸ +ÑĪи е +r ès +ĠاÙĦØŃ ÙĤ +лÑı ÑĢ +ห à¸į +หà¸į ิà¸ĩ +ר×Ĵ ×Ļש +à¹Ģส à¹īà¸Ļ +ש×ij ×ķף +ô tel +ап ÑĢ +апÑĢ Ð¸Ð¼ÐµÑĢ +اب ÙĦ +ĠÑĢаз виÑĤ +Ġп олÑĮз +ĠС еÑĢ +×ķ×ij ×Ļ +r óż +ìĭ Ń +ãĤ¯ ãĥĪ +ãģĹ ãĤĪãģĨ +à¸ģร ม +ØŃ ÙĥÙĪÙħ +à¹Ĥ à¸ļ +à¸Ĺ à¹īาย +ĠM á +ĠÑĤ Ñĭ +à¸Ħร ัว +ÑĢÑĥ б +ạ p +Ġm ÅĤ +ĠmÅĤ od +Ġgör Ã¼ÅŁ +Ġgeli ÅŁ +ươ i +×ŀש ×§ +ÙĢÙĢ ÙĢÙĢ +รา ว +ãģĹãģ £ +ãģĹãģ£ ãģĭãĤĬ +ĠÐļ он +Ġk ê +à¹Ĥà¸Ĺ ร +èIJ½ ãģ¡ +åĩº ãģ¦ +ล ัà¸ģษ +Ġ×Ĵ ×ij×ķ×Ķ +ãĥĻ ãĥ« +ê±° ëĤĺ +ë§ IJ +×Ļ׾ ×ĵ×Ļ×Ŀ +ĠëĦ Ī +×ŀר ×Ļ +ร ส +ãĥŃ ãĥ³ +и ло +ноÑģÑĤÑĮ Ñİ +×ĸר ×Ĺ +п он +Ġ×Ķש ׾ +ê²ł ìĬµëĭĪëĭ¤ +Ġki ÅŁ +ĠÐļ и +ว ร +د اع +ÅŁ im +ÙĨ Ùij +в аÑĤ +را Ùĥ +ب اÙĦ +ид е +Ġ×Ķ×ŀ ×Ĺ +ìĸ µ +تÙģ Ø§Ø¹ +Ø£ ت +ëĬ ĺ +ש ×Ļת +ست Ùħر +ĠÑĦ ак +ĠاÙĦØ£Ùħ رÙĬ +ëŀ ¨ +اس Ùħ +Ġa ÄŁ +Ġç ev +Ùĥ ÙĪØ± +ãģķ ãģ¾ +Ġç öz +Ġر س +Äħ da +สà¸Ļ ุ +ãģĹãģ¦ ãģıãĤĮ +н Ñİ +leÅŁ me +ãĤª ãĥ³ +ãģ¨ ãģªãĤĬ +ava ÅŁ +×ĺ ×Ļ×ij +ØŃ ض +×ķצ ×IJ×ķת +ÙĨ ÙħÙĪ +ı t +ĠÑħ а +ĠÑħа ÑĢак +ĠÑħаÑĢак ÑĤеÑĢ +Ġd ÅĤ +ãĥĹ ãĥ© +à¸Ĭ ุม +à¹Ī à¸Ńà¸Ļ +×ķ×ij ׾ +Ñģ ол +×ĵ ×Ĵ +аÑĢ Ð°ÑĤ +n ivers +Ġgerçek leÅŁtir +ĠاÙĦ ÙĦÙĬ +ระ ยะ +ĠÙħ ختÙĦÙģ +Ġgö nder +Ùģ Ø§Ø± +do ÄŁ +doÄŁ an +ص ÙĦاØŃ +Ġyay ın +ãĥĨ ãĥ³ +รว à¸Ī +×Ļ×Ĺ ×Ļ×ĵ +ünk ü +ÑĨи алÑĮн +à¸ļ ู +ม ุ +h ä +Ø® Ùģ +å¢ Ĺ +å¢Ĺ ãģĪ +еÑĩ но +ĠاÙĦس ÙĨ +à¸Ĥ าว +im di +Ð « +à¸Ļà¸Ńà¸ģ à¸Īาà¸ģ +à¸ļา ล +ת ש +Ġdüzen le +мÑĭ Ñģл +ãģı ãģª +ż u +Ġwsp óÅĤ +Ġн аз +ınd aki +تر Ø© +ÅŁ ek +Ġö d +ĠÙĪ Ùĥ +Ġпозв олÑı +Ġת ×ķ׼ +ÙħÙĨ تج +ë§ ī +ĠاÙĦØ« ÙĦاث +аÑĨи Ñİ +ÙĪØ± ÙĪ +Ñĭв аеÑĤ +خص ص +ĠاÙĦÙģ ÙĦ +ĠاÙĦÙģÙĦ سطÙĬÙĨ +Ø¥ جر +إجر اء +اÙĨت Ø® +اÙĨتخ اب +ار ÙĬØ© +×ķ Ö +Ø¢ ÙĨ +×ŀ×¢ ×ķת +Ġм ал +Ġ×IJ ×Ĺ +à¸Ĺ à¹īà¸Ńà¸ĩ +ze ÅĽ +Ġë§Į ëĵ¤ +رÙĬ ع +äºĭ ãĤĴ +à¸ļริ หาร +׾ ×ŀ×Ļ×ĵ +Ġм Ñĥж +ت رÙĪ +ĠباÙĦ Ø¥ +פ ×Ļ×§ +ز ÙħØ© +ĠÃ¶ÄŁ renc +ãĥ ¶ +اÙħ عة +×§×ij ×ķצ +×ŀ ׳×ķת +رÙĬ Ùħ +Ġо каз +ãģłãģij ãģ© +Ġh ız +Ġש ×IJת +ãĤ¢ ãĥ¼ +Ġmożli wo +ìĦ ¼ +ÙĪ Ø§Ø¨ +ог ÑĢаÑĦ +Ġعبد اÙĦ +ãĤĴ è¡Į +ب ÙĬÙĦ +Ġİ ç +ย าย +ĠÑĥ ÑĩаÑģÑĤ +ÑĦ еÑģÑģ +ÑĦеÑģÑģ иона +Ạ¤ +ÙĨ ÙĬÙĨ +عد ÙĦ +สร ร +دÙĬ ÙĦ +×ij ×Ļ×§ +czy ÅĤ +ÑĢом е +Ġм ед +ìĻ Ķ +ãĥ© ãĤ¤ãĥ³ +ĠÑĤ еп +еÑĢ ÑĮ +i ÄŁi +в ели +ÑĢи ÑģÑĤ +ס ×ķפ +×ŀ׾ ×Ĺ +ĠاÙĦØ¥ ÙĨ +Ġ׾×Ķ ×© +è¶Ĭ ãģĹ +ĠÑĢ Ñĭ +×ķ×IJ ר +رÙĩ اب +פ ×ķ×IJ×Ļ +ĠгоÑģ Ñĥд +ĠгоÑģÑĥд аÑĢ +ĠгоÑģÑĥдаÑĢ ÑģÑĤв +ĠاÙĦØ£Ùħ ÙĬر +Ùħ ج +à¹Ģหม าะ +ÑĢ ÐµÐ² +à¸Ĭี à¸ŀ +ãĥķ ãĥĪ +иÑĩ но +ĠاÙĦÙħ ؤ +Ġi ht +íħ ľ +د ÙĨÙĬ +ر ص +ла ÑģÑĤ +à¹Ģหล à¹Īา +ılı r +ร à¸ĵà¹Į +×ŀש ×Ļ×ļ +Ġd á»ĭ +Ø·Ùģ Ø§ÙĦ +×ĺ ×ķף +Ġ×ij ×Ļ׳ +ãģ¾ ãģ£ãģŁ +лож ениÑı +تØŃ ر +ب اØŃ +à¹Ģส ืà¹īà¸Ń +ãģĻ ãģĶ +lt ür +à¸ĩ าม +Ġt ü +ĠпÑĢ Ð¸Ð¼ +ĠпÑĢим ен +Ġhay at +ëĥ IJ +ëĭ Į +׳×Ļ ×ķ +вед ен +ìħ ¨ +à¸Ī ัย +à¸ģà¹Ī à¸Ń +Ġв од +оÑģÑĤ оÑı +н аÑĤ +à¹ģ หล +سÙħ ÙĬ +à¸Ķำ à¹Ģà¸Ļ +à¸Ķำà¹Ģà¸Ļ ิà¸Ļ +w ód +ö yle +ãĥĢ ãĤ¤ +ÑĪи й +меÑī ен +ãģĹãģ¾ ãģĨ +ãĥī ãĥ© +ÙĪØ¶ ØŃ +à¸Ńà¸Ļ ุ +ĠاÙĦ اجتÙħاع +laÅŁ ma +à¸Ħ à¸Ńà¸Ļ +×ŀר ×Ļ×Ŀ +ÙĨ اÙħج +שר ×ķת +اÙĦ Ø£ +Ġksi Äħż +Ġа н +ÑĢаР¹ +اÙĩر Ø© +×ŀ×ĵ ×Ķ +ä¸Ģ ç· +ä¸Ģç· Ĵ +ä¸Ģç·Ĵ ãģ« +ÑĢиÑĤ оÑĢ +d ıkl +à¹ģ à¸ĸ +à¹ģà¸Ĥ à¹Īà¸ĩ +екÑĤ оÑĢ +×ŀס ×¢ +ÑĢак ÑĤи +u ÄŁu +×ķ×ij ת +สู à¸ķร +ĠçalÄ±ÅŁ m +ĠçalÄ±ÅŁm alar +Ġа на +ãĥĽ ãĥ¼ãĥł +Ġböl üm +Ġب ص +ол оÑģ +ĠìķĬ ëĬĶ +à¹Ī ะ +ÙĪ ØªØ± +ä¹ Ĺ +ست خداÙħ +פ×Ļ ×Ļס +פ×Ļ×Ļס ×ij +פ×Ļ×Ļס×ij ×ķ×§ +Ġк ÑĢаÑģ +ли к +رÙĬ ØŃ +×ŀש ׾×Ķ +à¹Ģย ีà¹Īย +à¹Ģยีà¹Īย ม +в иÑģ +ом н +ÄŁ un +ãĥŃ ãĥ¼ãĥ³ +Ø£ تÙĬ +à¸ķร ี +çͳ ãģĹ +تÙħ ر +ìĹ ĪìĬµëĭĪëĭ¤ +ĠÙĪ ØºÙĬر +red ni +ĠاÙĦص Ùģ +Ġна ÑģÑĤоÑı +ĠнаÑģÑĤоÑı Ñī +à¸ķ รา +ĠÑĥÑģл ов +ĠÑĥÑģлов иÑı +ÑĨ еп +×Ķ ×Ĺ׾×ĺ +Ø· ÙĬع +ĠB akan +ĠاÙĦ رÙĪ +илÑĮ но +Ġм еÑĤ +à¸Ķ à¸Ńà¸ģ +ãģĭãĤī ãģªãģĦ +Ġпо ÑģÑĤоÑı +ĠпоÑģÑĤоÑı н +ĠÑĩ аÑģ +ü c +wr ó +б ÑĥÑĢ +ãĥIJ ãĥĥãĤ¯ +ãĥ©ãĥ³ ãĥī +Ġо гÑĢ +สั à¸į +สัà¸į à¸įา +มั à¹Īà¸Ļ +à¸Ħ à¸Ńม +al ık +Ġн ед +üm üz +ĠÅĽ wie +é rio +×Ļ×IJ ×Ķ +دÙħ ات +ı rl +ĠоÑĤ з +ĠоÑĤз Ñĭв +ä»ĺ ãģį +Ġkaż de +мин иÑģÑĤ +ãĤ° ãĥ« +ë° ĸ +ез н +اÙĦ Ùģ +Ġש ק׾ +Ùħ ض +ãĥĿ ãĥ¼ãĥĪ +ÙħÙĨ ت +ÙĤÙĬ اÙħ +Ø´ ÙĨ +×Ļר ×ķ×¢ +ãĤŃãĥ£ ãĥ³ +доÑĢ Ð¾Ð² +×ŀ ×Ļת×Ļ +ÙĪÙĦ ÙĪØ¬ +Ùĥ اÙģ +ĠÑĢаз лиÑĩ +иÑĤ еÑĤ +н олог +ลà¸ĩ à¸Ĺุà¸Ļ +Ġyak laÅŁ +ãĥ¬ ãĤ¤ +ê²ł ëĭ¤ +æ±Ĥ ãĤģ +رÙĪ Ùģ +Ġí Ĭ +ĠíĬ ¹ +ãģ£ ãģıãĤĬ +à¸Ħวาม à¸Ħิà¸Ķ +×Ķ ×Ļס×ĺ +Ø¥ ÙĤ +ãģ¦ ãģĦ +à¹Ĥ à¸Ĭ +ĠBü yük +ĠФ едеÑĢ +ÑĨи н +ÑĢов а +ĠاÙĦ اÙĤتصاد +Ġch á +à¸ĺ าà¸Ļ +ë¥ ł +à¹Ħ à¸ķ +ÃŃ pio +Ùĭ ا +Ġоб Ñıз +Ùĩ ج +Ġì¤ij ìļĶ +ãģ® ãģ§ãģ¯ãģªãģĦ +بار اة +ãĤ¤ ãĥ« +Ġн оÑĢм +á»ī nh +m ö +mö glich +ÑĨи п +ãĤ¢ ãĤ¯ +×Ķ ×Ļ +ÑĨи алÑĮно +ĠÅĽ wi +ت ÙĤ +ĠÑģÑĤо им +بÙĬ عÙĬ +Ġ׾ ש×ŀ +г лÑı +глÑı д +ãģ¦ ãģıãĤĮ +ÄĻd zi +à¸Ĥ ั +à¸Ĥั à¹īà¸Ļ +Ø· ÙĤ +ĠìĹ Ń +ãģ£ãģ¦ãģĹãģ¾ ãģĨ +ĠdeÄŁer l +ĠdeÄŁerl endir +Ġü lk +Ġмн ог +๠ĭ +ë¿ IJ +ĠУ кÑĢа +ÄŁ ini +Ġбез оп +Ġбезоп аÑģ +à¸Ńà¸Ńà¸ģ à¹ģà¸ļà¸ļ +Ø§Ø ¸ +ØŃد اث +л еÑĢ +×Ļ× ¥ +×Ļ׳×ĺר ׳×ĺ +lar ınız +ØŃÙĬ ØŃ +ż eli +à¸Ń ัà¸ĩ +à¸Ńัà¸ĩ à¸ģ +à¸Ńัà¸ĩà¸ģ ฤษ +ĠоÑĤ лиÑĩ +ั ส +ëŀ į +ож но +ãĤ¹ ãĥĿ +ĠÑħ оÑĩ +Ġк ап +еÑĩ ен +ØŃÙĦ Ø© +ÙĬا Ùĩ +на л +×ķצ ר×Ļ×Ŀ +Ġk ald +åĥ į +ĠاÙĦØ´ خص +Ġз на +Ġwz gl +ż ycz +ê° Ŀ +à¸ŀ ลัà¸ĩ +íģ ¼ +Ġö l +Ġb ụ +Ø´ Ùĩر +Ġз ам +Ġд ев +×Ļ×ĺ ת +تعÙĦ ÙĤ +ÙĪÙħ Ø© +ãĤĴ ä½ľ +ãģį ãģ¦ +í ĥĿ +ras ında +ãĤĴ æİ¢ +ĠÙħ باشر +راج ع +Ġв озд +ÙħØŃ ا +×ķש ר +ĠиÑģÑĤ оÑĢ +ม ัà¸ģ +t ıģ +Ø« ار +تر ÙĨت +à¹ģà¸Ĥ à¹ĩ +à¹ģà¸Ĥà¹ĩ à¸ĩ +п оÑĩ +Ġ×ij ×IJ×ķת +ë¯ Ģ +ëĿ¼ ëıĦ +à¸Ĭ ัà¸Ķ +ส à¸ķà¹Į +ãĥĭ ãĥĥãĤ¯ +ид енÑĤ +Ġг ÑĢÑĥпп +ت Ø® +Ạł +ย ืà¸Ļ +ย ัà¸Ļ +ó ry +T Ãľ +ãģĹ ãĤĥ +ĠпÑĢов ед +лÑı еÑĤ +Ùħ Ø® +ย à¸Ńม +×Ľ×ł×¡ ת +ĠاÙĦÙħ ÙĨت +Ġol mad +ר׼ ×ĸ×Ļ +Ġв ÑģÑĤÑĢ +ĠиÑģ Ñģлед +ÑĤвеÑĢ Ð¶ +بد ÙĪ +еÑĢ ÑĤ +ï» · +± ħ +สัม à¸ŀัà¸Ļà¸ĺà¹Į +ิ à¹Īà¸Ļ +צ ×Ļ×ij +wiÄĻ t +Ġì° ¸ +Ġz wiÄħz +سب ÙĪØ¹ +ãĥĥ ãĤ° +à¸Ľà¸¥ à¸Ńà¸Ķ +à¸Ľà¸¥à¸Ńà¸Ķ à¸łà¸±à¸¢ +ãĤĤ ãĤĬ +ÙĤد س +Ġspr z +Ġsprz eda +Ġist edi +Ġk hu +Ġд ен +Ġko ÅĦ +Ġ×ij ×Ĺ×Ļ +à¹Ģà¸Ĺ à¹īา +×ķס ×Ļ×£ +ãĥĭ ãĥ¥ãĥ¼ +ĠпÑĢед оÑģÑĤ +ĠпÑĢедоÑģÑĤ ав +à¹Ĥ à¸Ł +é v +ĠاÙĦص ØŃ +صØŃ اب +à¹Ģà¸Ī à¹ĩà¸ļ +вл ек +วั à¸ķ +à¸ĸ ุ +ãģĵãģ¨ãģĮãģ§ãģį ãģ¾ãģĻ +ÙĤÙĬ ÙĤÙĬ +×ķ׊ר +Ñĭ ÑĪ +ĠоÑĤ но +ĠоÑĤно ÑĪ +об илÑĮ +Ùģ ØŃ +ı nt +ınt ı +Ġ׾ ×ij×ĵ +í İĺìĿ´ì§Ģ +ãĥĬ ãĥ« +ĠÙħ ساء +×Ļ×ĺ ×ij +ÑĮ еÑĢ +ëĦ · +Ñĭ ÑĤа +ĠоÑĩ еÑĢ +à¸Ķ ืà¹Ī +à¸Ķืà¹Ī ม +ĠN gh +ت عب +ÙĦاÙĤ ات +×ķ׾×ķ×Ĵ ×Ļ×Ķ +ĠìĿ´ ê²ĥ +Ġ×Ķ ×ijר +ìľ µ +à¹Ģà¸Ħล ืà¹Īà¸Ńà¸Ļ +Ùĩ Ø© +à¸Īำ à¹Ģà¸Ľà¹ĩà¸Ļ +å¤ī ãģĪ +wi ÅĽcie +ch od +chod zÄħ +в ÑĢо +×ŀ×Ĺ ×Ļר +Ġy ı +Ġyı ll +ì¡ Į +à¹Ħ หว +ãģªãģı ãģª +Ġзав иÑģ +ĠìĺĪ ìĪĺ +Ùģ Ø° +á»§ ng +à¸ŀุ à¸Ĺà¸ĺ +з н +lay an +ãĤ ¡ +à¸ģà¹ĩ à¸ķาม +ĠsaÄŁ lam +ร à¸ĵ +ĠÑģ иÑĤ +ĠÑģиÑĤ Ñĥ +ĠاÙĦت ÙĨ +×Ķ ×ĸ +ĠØ· ÙĪÙĬÙĦ +ta ÅĤ +Ġgö rd +å¤ī ãĤı +ëĥ ¥ +à¸Ħà¹Ī à¸Ńย +×IJ ×ķ×ĺ +ëħ IJ +ãĥ©ãĥ³ ãĤ¹ +วั à¸Ĵ +วัà¸Ĵ à¸Ļ +Ġol uÅŁ +פע ×ķ׾ +Ġszczeg óÅĤ +à¸Ħา สิ +à¸Ħาสิ à¹Ĥà¸Ļ +pow ied +ĠÑĤ еб +หà¸Ļ à¹Īวย +Ġм ил +ØŃ Ùĥ +à¸Ĺ à¸Ķ +ĠмаÑĤ еÑĢиал +ÅĤ ow +à¹Ģà¸ģ ีย +ĠÑģов еÑĢ +ãĤ © +à¸Ľ ริ +Ġи Ñİ +наÑĩ ен +ÑĢен д +mu ÅŁtur +ĠпÑĢод Ñĥк +з д +Ñı ÑĤи +ÑıÑĤи Ñı +à¹Ģม ีย +رات ÙĬج +Ġam acı +ש ×ķ׾ +ש×ķ׾ ×Ĺ +สะ à¸Ńา +สะà¸Ńา à¸Ķ +פ×Ĵ ×¢ +عب Ø© +d ın +íħ Ķ +Ġ×ŀש ×Ĺ×§ +Ġfi yat +Ġз аÑı +ĠзаÑı в +à¹Ĥ หล +à¹Ĥหล à¸Ķ +à¸ģรุà¸ĩ à¹Ģà¸Ĺà¸ŀ +צ×Ļ ×Ļף +ìļ ± +Ùħ ب +Ùħب اد +land ır +Ġв еÑģÑĮ +Ġh ük +ĠÐĴ оз +ÑĩиÑĤ Ñĭва +ว ล +×ķצ ×¢ +à¸Ĥà¸ĵะ à¸Ĺีà¹Ī +ĠaÅŁ aģı +׾×IJ ×ķ×ŀ×Ļ +tr zym +Ã¤ÃŁ ig +owo ÅĽci +ãģĿ ãĤĤ +Ġroz wiÄħz +ĠgÅĤ ówn +м онÑĤ +×ŀ ×ķ×ŀ +ĠÑģÑĤ ан +ÙĦا ÙĤØ© +p rowad +prowad zi +ĠÑģоÑģÑĤ оÑı +×Ļ×IJ ×ķת +r ı +g ı +ãĥij ãĥij +Ġна лиÑĩ +×Ķ ×¦×¢ +Ġ׳ ×Ķ +à¸Ħ ัà¸ļ +ع راض +и ж +Ùĩ ائÙĬ +ãĤī ãģı +ож еÑĤ +Ġоб оÑĢ +ĠобоÑĢ Ñĥд +Ø£ سÙĦ +à¹ĩ à¸Ķ +ÑĢÑĥ ÑĤ +دÙĬ ÙħÙĤ +دÙĬÙħÙĤ را +Ġjest e +×ķ×ķ ×Ļר +×ij×ĵ ×Ļ×§ +деÑĢж ива +ãģĬ ãģı +ewn ÄĻtr +ewnÄĻtr zn +à¸ŀ ฤ +Ġ×IJ ×ķ×Ķ +ת×Ĺ ×ķש +Ġz ob +д Ñĥм +ĠÑģ Ñĭ +ÙĬر ا +ĠwiÄĻ ks +à¹ģà¸ķà¸ģ à¸ķà¹Īาà¸ĩ +lar aras +lararas ı +íĺ Ģ +ëī ´ +×ķ×Ĵ ׾ +ĠоÑĤ меÑĤ +ĠÑĢ Ð°Ð½ +ت ÙĥÙĦ +иÑĤелÑĮ н +à¸Ľà¸£à¸° วั +à¸Ľà¸£à¸°à¸§à¸± à¸ķิ +ìŀ ĸ +мож но +pie czeÅĦ +pieczeÅĦ st +ëª » +ìĬ ¨ +×ŀס ×ŀ +á» ¦ +ศ ิ +ศิ ล +ศิล à¸Ľ +ĠÅļ w +ãĥĥ ãĤ·ãĥ§ãĥ³ +unit Ãł +Ġmiesz ka +Ġmieszka ÅĦ +pr zed +przed si +przedsi ÄĻb +przedsiÄĻb ior +à¸Ľà¸£à¸° สิà¸Ĺà¸ĺิ +à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺิ à¸łà¸²à¸ŀ +ย à¹Ī +ìķ Ļ +รว à¸Ķ +รวà¸Ķ à¹Ģรà¹ĩว +å½ĵ ãģŁãĤĬ +äl le +Ñĥ еÑĤÑģÑı +ã n +ëł µ +th è +ãĤĴ åĪ©ç͍ +ì µľ +íĵ ¨ +à¸Ĺ ัà¸ļ +า à¸Ħม +ãģ ĩ +ëĤ Į +à¹Ģà¸Ľà¸¥ à¹Īา +â ¦ +ë ¾ +ê Ģ +ê ĩ +â ¡ +ðŁ Ł +ã IJ +â º +á Ń +á Ļ +á ĵ +á ² +ðĵ ı +á ¬ +â ¯ +ä ¨ +ê Ŀ +ê « +ð ij +ðĵ ĥ +ðĿ ħ +< unk + + + +Ġع ÙĦÙī +Ġm á»Ļt +Ġv Ỽi +Ġng ưá»Ŀi +ĠØ¥ ÙĦÙī +Ġnh ững +Ġth á»ĥ +Ġ×IJ ×ķ +Ġ×¢ ×Ŀ +ا Ùĭ +Ġ à¹ģละ +ĠÙĦ ا +Ġnh ư +ĠاÙĦت ÙĬ +Ġ×Ķ ×ķ×IJ +ĠÄij ến +ĠØ£ ÙĪ +Ġv á»ģ +ĠlÃł m +Ġs ẽ +Ġc Å©ng +Ġ ợ +ĠÄij ó +Ġnhi á»ģu +Ġt ại +Ġtr ên +Ġ×Ĵ ×Ŀ +Ġnh Ãł +Ġ׼ ×Ļ +Ġs á»± +ĠÄij ầu +Ġb á»ĭ +ĠÙĩ ذا +Ġnh ất +Ġph ải +Ġhi á»ĩn +Ġdụ ng +ĠÄij á»Ļng +ĠاÙĦÙĦ Ùĩ +ĠØ Į +ĠÙĥ ÙĦ +Ġvi á»ĩc +Ġn Äĥm +Ġth ì +Ġh á»įc +ĠÙĪ Øª +t é +Ġا ÙĨ +Ġt ôi +Ġ×IJ ׳×Ļ +Ġ׾ ×Ļ +Ġ×ŀ ×ķ +Ġng Ãły +Ġn Æ°á»Ľc +Ġ×Ķ ×Ļ×IJ +Ġ×IJ ×Ļ +Ġh Æ¡n +ĠÙĩ ذÙĩ +ĠÙĪ ÙĬ +ĠاÙĦ ذÙĬ +Ġ×ķ ×ŀ +Ġgi á +Ġnh ân +Ġch ÃŃnh +Ġm ình +ĠÐĿ а +Ġth ế +Ġ×Ļ ×ķתר +Ġ×IJ ×Ŀ +Ġn ên +Ġh ợ +Ġhợ p +Ġc òn +ĠÙĩ ÙĪ +Ġc Æ¡ +Ġr ất +ĠVi á»ĩt +Ġب عد +Ġש ×Ļ +Ġth á»Ŀi +Ġc ách +ĠÄij á»ĵng +Ġн о +Ġtr ưá»Ŀng +Ø Ł +ĠÄij á»ĭnh +ĠÄiji á»ģu +×Ļ ×Ļ×Ŀ +Ġth á»±c +n ın +Ġh ình +Ġn ói +Ġc ùng +Ġ×Ķ ×Ķ +ĠØ¥ ÙĨ +Ġ×IJ ×ij׾ +Ġnh ưng +Ġbi ết +Ġж е +Ġch úng +ĠÄij ang +Ġذ ÙĦÙĥ +Ġl ên +Ġkh ách +Ġn Ãło +Ġs á»Ń +Ġkh ác +Ġë° ı +Ġl ý +×Ļ ×Ļ +ĠÄij ây +Ġ׾ ×ŀ +Ġc ần +Ġtr ình +Ġph át +ãģ« ãĤĤ +п о +Ġn Äĥng +Ġb á»Ļ +Ġv ụ +ĠÄij á»Ļ +Ñĩ е +Ġnh áºŃn +Ġtr Æ°á»Ľc +Ġ×¢ ×ĵ +Ġh Ãłnh +ĠØ® ÙĦاÙĦ +Ġl ượng +Ġc ấp +Ġtá» ± +Ġv ì +Ġt ư +Ġch ất +Ġ׼ ×ŀ×ķ +Ġg ì +Ġש ׳ +Ġt ế +ת ×ķ +Ġnghi á»ĩp +Ġm ặt +ĠÙĥ Ùħا +Ġ×ij ×Ļף +Ġר ×§ +Ġth ấy +Ġmá y +ĠÙģ Ùī +Ġd ân +Ġ×IJ ×Ĺ×ĵ +Ġt âm +Ġ׼ ×ļ +Ġ׾ ×ķ +в о +Ġt ác +Ġto Ãłn +ĠÙĪ Ùħ +Ġk ết +Ġ หรืà¸Ń +ĠÙĪØ§ÙĦ Ùħ +ĠÄiji á»ĥm +Ġ×ĸ ×ķ +Ġ×ij ×ķ +׼ ×ķת +Ġh á»Ļi +Ġb ằng +ت Ùĩا +Ġ׼ ×ĵ×Ļ +Ġ×Ķ ×Ŀ +Ġxu ất +ĠÙĤ د +Ġb ảo +Ġt á»ijt +Ġt ình +ĠÙĩ ÙĬ +ĠÄij á»iji +Ġthi ết +Ġhi á»ĩu +Ġti ếp +Ġt ạo +ת ×Ķ +Ġch á»§ +o ÅĽÄĩ +Ġgi ú +Ġgiú p +Ġà ½ +Ġqu ả +Ġlo ại +Ġc ô +Ġà ´ +Ġô ng +Ġ×Ķ ×ķ +ĠاÙĦÙĬ ÙĪÙħ +ĠtÃŃ nh +г а +Ġph òng +Ġ Äĥn +Ġع اÙħ +Ġv á»ĭ +lar ını +r ÃŃa +Ġt Ỽi +ĠÄij ưá»Ŀng +Ġgi Ỽi +Ġb ản +Ġc ầu +Ġnhi ên +Ġb á»ĩnh +Ġth ưá»Ŀng +Ġ×IJ ×Ļף +ĠÄij á»ģ +Ġh á»ĩ +Ġ×Ļש ר×IJ׾ +Ġqu á +ĠÐĹ Ð° +ãģ® ãģ§ãģĻãģĮ +ĠÐŁ ÑĢи +Ġph ần +ĠÙĪ ÙĦا +ĠlỼ n +Ġtr á»ĭ +Ġcả m +Ġм о +Ġd ùng +ĠاÙĦ Ùī +ĠعÙĦÙĬ Ùĩ +ĠìŀĪ ìĬµëĭĪëĭ¤ +ÙĬ ÙĤ +ĠÙĤ بÙĦ +Ġho ặc +ĠØŃ ÙĬØ« +Ġ à¸Ĺีà¹Ī +Ġغ ÙĬر +ĠÄij ại +Ġsá»ij ng +нÑĭ ми +Ġth ức +Ġפ ×Ļ +ĠÄiji á»ĩn +ãģª ãģĭãģ£ãģŁ +Ġgi ải +Ġv ẫn +Ġи Ñħ +Ġö nce +Ġv áºŃy +Ġmu á»ijn +Ġ ảnh +à¹ĥà¸Ļ à¸ģาร +ĠQu á»ijc +Ġk ế +׳ ×IJ +Ġס ×Ļ +Ġy êu +ãģ® ãģĭ +ĠÄij ẹ +ĠÄijẹ p +Ġch ức +Ġy ıl +ĠTür kiye +d é +ĠÙĤ اÙĦ +Ġd á»ĭch +ĠolduÄŁ u +Ġch á»įn +Ġت Ùħ +หà¸Ļ ึà¹Īà¸ĩ +ãģķãĤĮ ãģŁ +Ġph áp +ìĽ Ķ +Ġti á»ģn +ãģĹ ãģ¾ãģĹãģŁ +Ġש ׾×IJ +ÙĦ Ø© +Ġ׾פ ׳×Ļ +Ġ×ij ×Ļת +ĠH Ãł +ĠØŃ ت +ĠØŃت Ùī +Ġ×¢ ×ķ×ĵ +Ġn ó +Ġth áng +à¹Ģลืà¸Ń à¸ģ +ר ×Ķ +Ġt Äĥng +Ġcá i +Ġtri á»ĥn +Ġ×IJ×ķת ×ķ +ìłģ ìĿ¸ +ĠC ông +Ġ׾×Ķ ×Ļ×ķת +Ġг ода +и Ñİ +Ġب عض +Ġ à¸ģาร +èī¯ ãģĦ +ÙĪ Øª +Ġli ên +ĠÐĿ о +ĠÐĿ е +çļĦ ãģª +ĠÙħ ت +ĠÑĤак же +ĠкоÑĤоÑĢ Ñĭе +Ġ×Ļ ×ĵ×Ļ +Ġtr á»įng +ãĤµ ãĤ¤ãĥĪ +ìłģ ìľ¼ë¡ľ +Ġt áºŃp +Ġש ׾×Ļ +íķĺ ê²Į +Ġt Ãłi +ĠÐ ¯ +Ġr á»ĵi +ا Ùĥ +Ġth ương +Ġ×Ķ ×ĸ×Ķ +ĠÙĪ ÙħÙĨ +à¸Ĺีà¹Ī มี +Ġcu á»Ļc +Ġbü yük +ãģ¨ ãģĭ +Ġ×ij ×Ļ×ķתר +Ġl ần +Ġgö re +Ġtr ợ +Ġ×ĺ ×ķ×ij +ÑĤÑĮ ÑģÑı +Ġth á»ijng +Ġ׼ ש +Ġti êu +Ġ×ŀ×IJ ×ķ×ĵ +Ø Ľ +k Äħ +Ġ à¹ĥà¸Ļ +Ġv ấn +Ġש ׾×ķ +ĠÄij á»ģu +Ùģ Øª +Ġê²ĥ ìĿ´ +Ġh óa +ĠاÙĦع اÙħ +ĠÙĬ ÙĪÙħ +к ой +Ġbi á»ĩt +ÑģÑĤ о +Ġ×Ķ ×Ļ×ķ +à¸Ĺีà¹Ī à¸Īะ +Ġ×ĵ ×Ļ +Ġ×IJ ×ļ +Ġá n +ص ÙĪØ± +Ġtr ÃŃ +ĠÐŁÑĢ Ð¾ +Ġl á»±c +ãģĹãģ¦ ãģĦãģ¾ãģĻ +Ġb Ãłi +Ġ×ĸ ×IJת +Ġb áo +à¸ļ à¸Ļ +ĠëĮĢ íķľ +Ġti ế +Ġtiế ng +Ġb ên +ãģķãĤĮ ãĤĭ +s ión +Ġt ìm +×¢ ×ķ +m é +ни Ñı +ãģ» ãģ© +Ġà¹Ģà¸ŀ ราะ +ب Ø© +Ġë¶ Ħ +Ġ×IJ ×ĸ +à¸Ĺ à¹Īาà¸Ļ +ת ×Ŀ +Ġth êm +Ġho ạt +y ı +×ĸ ×ķ +Ġgi á»Ŀ +Ġb án +à¸Ĥ าย +Ñĩ а +Ġ à¹Ĩ +ĠاÙĦÙħ ت +ĠоÑĩ енÑĮ +Ġb ất +Ġtr ẻ +ÑĤ ÑĢ +ĠØ£ ÙĨÙĩ +ĠØ« Ùħ +Ġ׼ ×ŀ×Ķ +Ġkh ó +Ġr ằng +ĠÙĪ ÙģÙĬ +ни й +Ġho Ãłn +t ó +Ġ×IJ שר +ĠìĥĿ ê°ģ +Ñģ а +Ġ׼ ×ijר +ĠÑįÑĤ ом +lar ının +Ġch ưa +з и +Ġd ẫn +ĠÐļ ак +ج ÙĪ +ĠбÑĭ ло +ĠÙĬ ت +n ı +ÅĤ am +ĠÙĪÙĩ ÙĪ +×ij ×ķ +п и +ר ת +Ġqu á»ijc +ж д +ĠÄij Æ¡n +Ùĥت ب +Ġm ắt +ระ à¸ļ +ระà¸ļ à¸ļ +ĠÙĥ اÙĨت +Ġth ân +สิà¸Ļ à¸Ħà¹īา +×Ĵ ×Ļ +Ġph ương +à¹Ħมà¹Ī à¹Ħà¸Ķà¹ī +ĠìĦ ± +ĠC ác +Ġ×Ķ×ŀ ×ķ +ĠÑĤ ем +Ġ×ĵ ×ķ +à¸Ńะ à¹Ħร +Ġv Äĥn +ãģª ãģ®ãģ§ +ĠN á»Ļi +Ġ×¢ ×ķ +ãĤīãĤĮ ãĤĭ +Ġs áng +Ġgö ster +ãģĵãģ¨ ãĤĴ +Ġtaraf ından +Ġм а +ĠпоÑģл е +Ġ׳ ×Ļת +Ġ׳×Ļת ף +Ġл еÑĤ +Ġ׾ ׳×ķ +Ñģ Ñģ +Ġ×Ļ ×ķ +п е +ĠÙĪ ÙĦÙĥ +ĠÙĪÙĦÙĥ ÙĨ +Ġngo Ãłi +ĠÄij á»ĭa +r zÄħd +dz iaÅĤ +ĠÙħ ر +иÑĤÑĮ ÑģÑı +Ġ×IJ×Ĺר ×Ļ +Ġ׾ ׼׾ +à¸Ĥ à¹īà¸Ńม +à¸Ĥà¹īà¸Ńม ูล +Ġб ол +Ġбол ее +جÙħ ع +л еÑĤ +Ġl á»ĭch +ĠÙħ Ø«ÙĦ +Ġ그리 ê³ł +Ġth ứ +ĠdeÄŁ il +ÙĪ ØŃ +Ġש׾ ×ļ +ĠÙħ ØŃÙħد +Ġn ếu +ĠÄij á»ķi +Ġv ừa +Ġm á»įi +Ġо ни +Ġl úc +ĠÙĬ ÙĥÙĪÙĨ +ì§ Ī +Ġש׾ ׳×ķ +ĠÐĶ Ð¾ +Ġש ׳×Ļ +ล ิ +×IJ פשר +Ġs ức +ê¶ Į +Ġ ứng +à¹Ħมà¹Ī มี +Ø·ÙĦ ب +ĠÑĩ ем +Ġch uyên +Ġth ÃŃch +Ġ×ķ ×Ļ +íķ © +ĠÙħ صر +д о +ĠÄij ất +Ġch ế +à¸Ĭ ืà¹Īà¸Ń +Ġìĭ ł +ĠØ¥ ذا +Ġر ئÙĬس +Ġש ×Ļש +Ġgiả m +Ñģ ка +lar ında +Ġs ợ +ĠtÃŃ ch +ĠÙĦ ÙĥÙĨ +Ġب Ùħ +×¢ ×ķ×ij +×¢×ķ×ij ×ĵ +ÅĤÄħ cz +ları na +Ġש ×Ŀ +ĠÙĦ ت +Ġש×Ķ ×ķ×IJ +t ów +Ġëĭ¤ 른 +ĠØ£ Ùĥثر +ãģ® ãģ§ãģĻ +׼ ×Ļ×Ŀ +ĠolduÄŁ unu +ãģĭ ãģª +ãĤĤ ãģĨ +ÙĬ ØŃ +Ġnh ìn +Ġngh á»ĩ +ãģ«ãģª ãģ£ãģ¦ +п а +Ġquy ết +ÙĦ ÙĤ +t á +Ġlu ôn +ĠÄij ặc +Ġ×IJ ר +Ġtu á»ķi +s ão +ìĻ ¸ +ر د +ĠبÙĩ ا +Ġ×Ķ×Ļ ×ķ×Ŀ +×ķ ×ķ×Ļ +ãģ§ãģĻ ãģŃ +ĠÑĤ ого +Ġth á»§ +ãģĹãģŁ ãģĦ +ر ÙĤ +Ġb ắt +г Ñĥ +Ġtá» Ń +ÑĪ Ð° +Ġ à¸Ľà¸µ +Ġ×Ķ×IJ ×Ŀ +íı ¬ +ż a +Ġ×IJת ×Ķ +Ġn á»Ļi +Ġph ÃŃ +ĠÅŁek ilde +Ġl á»Ŀi +d ıģı +Ġ׼×IJ ף +Ġt üm +Ġm ạnh +ĠM ỹ +ãģĿ ãĤĵãģª +Ġnh á»ı +ãģª ãģĮãĤī +Ġb ình +ı p +à¸ŀ า +ĠÄij ánh +ĠÙĪ ÙĦ +ר ×ķת +Ġ×IJ ×Ļ×ļ +Ġch uyá»ĥn +Ùĥ ا +ãĤĮ ãĤĭ +à¹ģม à¹Ī +ãĤĪ ãģı +ĠÙĪ ÙĤد +íĸ Īëĭ¤ +Ġn Æ¡i +ãģ«ãĤĪ ãģ£ãģ¦ +Ġvi ết +Ġà¹Ģà¸ŀ ืà¹Īà¸Ń +ëIJĺ ëĬĶ +اد ÙĬ +ĠÙģ Ø¥ÙĨ +ì¦ Ŀ +ĠÄij ặt +Ġh Æ°á»Ľng +Ġx ã +Ġönem li +ãģł ãģ¨ +Ġm ẹ +Ġ×ij ×Ļ +Ġ×ĵ ×ijר +Ġv áºŃt +ĠÄij ạo +Ġdá»± ng +ĠÑĤ ом +ĠÙģÙĬ Ùĩا +Ġج ÙħÙĬع +Ġthu áºŃt +st ÄĻp +Ġti ết +Ø´ ÙĬ +Ġе Ñīе +ãģĻãĤĭ ãģ¨ +ĠmÃł u +ĠÑįÑĤ ого +Ġv ô +ĠÐŃ ÑĤо +Ġth áºŃt +Ġn ữa +Ġbi ến +Ġn ữ +Ġ׾ ׼×Ŀ +×Ļ ×Ļף +Ġس ت +ĠÐŀ ÑĤ +Ġph ụ +ê¹Į ì§Ģ +Ġ׾ ×ļ +Ġk ỳ +à¹ĥ à¸Ħร +Ġg ây +ĠÙĦ ÙĦÙħ +Ġtụ c +ت ÙĬÙĨ +Ġtr ợ +Ġ׾ פ×Ļ +Ġb á»ij +ĠÐļ а +ĠÄij ình +ow Äħ +s ında +Ġkhi ến +s ız +Ġк огда +ס ׾ +ĠбÑĭ л +à¸Ļ à¹īà¸Ńย +обÑĢаР· +Ġê²ĥ ìĿ´ëĭ¤ +ëĵ¤ ìĿĢ +ãģ¸ ãģ® +Ġà¹Ģม ืà¹Īà¸Ń +Ġph ục +Ġ׊׾ק +Ġh ết +ĠÄij a +à¹Ģà¸Ķà¹ĩ à¸ģ +íĺ ķ +l ÃŃ +ê¸ ī +Ġع دد +ĠÄij á»ĵ +Ġg ần +Ġ×Ļ ×ķ×Ŀ +Ġs Ä© +ÑĢ Ñıд +Ġquy á»ģn +Ġ×IJ ׾×IJ +Ùĩ Ùħا +׳ ×Ļ×Ķ +׾ ×ķת +Ġ×Ķר ×ij×Ķ +Ġti ên +Ġal ın +Ġd á»ħ +人 ãģĮ +но Ñģ +л ÑģÑı +ĠÄij ưa +ส าว +иÑĢов ан +Ġ×ŀס פר +×Ĵ ף +Ġki ến +ĠÐ ¨ +p é +б Ñĥ +ов ой +б а +ĠØ¥ ÙĦا +×IJ ׾×Ļ +Ġx ây +Ġb ợi +Ġש ×ķ +人 ãģ® +×§ ×Ļ×Ŀ +à¹Ģà¸Ķ ืà¸Ńà¸Ļ +Ġkh á +Ġ×ķ ׾×Ķ +×ĵ ×ķת +Ġ×¢ ×ij×ķר +Ġبش ÙĥÙĦ +ĠÙĩÙĨا Ùĥ +ÑĤ ÑĢа +Ġ íķĺëĬĶ +ร à¸Ńà¸ļ +owa ÅĤ +h é +Ġdi á»ħn +Ġ×Ķ ×Ľ×ľ +ĠØ£ س +Ġch uyá»ĩn +ระ à¸Ķัà¸ļ +ĠNh ững +Ġ×IJ ×Ĺת +ĠØŃ ÙĪÙĦ +л ов +׳ ר +Ġ×ķ ׳ +Ġch Æ¡i +Ġiç inde +ÑģÑĤв Ñĥ +Ġph á»ij +ĠÑģ Ñĥ +ç§ģ ãģ¯ +Ġch ứng +Ġv á»±c +à¹ģ à¸Ń +Ġl áºŃp +Ġtừ ng +å°ij ãģĹ +ĠNg uy +ĠNguy á»ħn +ĠÙģÙĬ Ùĩ +Ġб а +×Ļ ×Ļת +Ġ×ľ×¢ ש×ķת +Ġ×ŀ ׼ +Ġnghi á»ĩm +Ġм ного +Ġе е +ëIJĺ ìĸ´ +Ġl ợi +Ġ׾ ׾×IJ +Ġ׼ ף +Ġch ÃŃ +ãģ§ ãģ® +×Ĺ ×ķ +ש ×ķ×Ŀ +Ġ×ŀ ר +ĠÐĶ Ð»Ñı +Å ģ +Ġ׼×IJ שר +ĠM á»Ļt +ĠÙĪØ§ÙĦ ت +ĠìĿ´ 룰 +ÅŁ a +Ġchi ến +Ġaras ında +Ġ×ij ×IJתר +ãģķãĤĮ ãģ¦ãģĦãĤĭ +Ø´ ÙĥÙĦ +Ġt ượng +Ġت ت +ĠC ó +Ġb á»ı +Ġtá»ī nh +Ġkh ÃŃ +ĠпÑĢ Ð¾ÑģÑĤ +ĠпÑĢоÑģÑĤ о +ĠÙĪ ÙĤاÙĦ +Ġgi áo +ĠN ếu +×IJ ×ŀר +×¢×ł×Ļ ×Ļף +íİ ¸ +Ùĩد Ùģ +ĠB á»Ļ +Ġb Ãłn +Ġng uyên +Ġgü zel +ส าย +ì² ľ +×ŀ ×ķר +Ġph ân +ס פק +×§ ×ij׾ +ĠاÙĦÙħ تØŃ +ĠاÙĦÙħتØŃ دة +ائ د +Ġ×IJ ×ŀר +Ġki ÅŁi +ì¤ Ģ +Ġtr uyá»ģn +ĠÙĦ Ùĩا +ĠÐľ а +à¸ļริ ษ +à¸ļริษ ั +à¸ļริษั à¸Ĺ +Ġש ׳×Ļ×Ŀ +Ġмен Ñı +ÅŁ e +Ġdi á»ĩn +Ġ×IJ׳ ×Ĺ׳×ķ +k ü +Ġc á»ķ +Ġm á»Ĺi +w ä +Ùħ ÙĬ +Ġhi á»ĥu +ëĭ ¬ +Ġ×Ķ ×Ĺ׾ +Ġt ên +Ġki á»ĩn +ÙĨ ÙĤÙĦ +Ġv á»ĩ +×ĵ ת +ĠÐłÐ¾ÑģÑģ ии +л Ñĥ +ĠاÙĦع ربÙĬØ© +ĠØ· رÙĬÙĤ +Ġ×Ķ×ij ×Ļת +Ñģ еÑĢ +Ġм не +ä u +Ġtri á»ĩu +ĠÄij á»§ +Ġר ×ij +ت ÙĩÙħ +à¸ĭ ี +Ġì§Ģ ê¸Ī +li ÅĽmy +د عÙħ +ãģł ãĤįãģĨ +Ñģки е +Ġh á»ıi +Ġ×§ ×ķ +ÑĢÑĥ Ñģ +ÙĨ ظر +ãģ® ãĤĤ +Ġ×Ķ ×Ľ×Ļ +ĠìĽ IJ +ÙĪ Ùĩ +ĠÙĪ Ùİ +ĠB ạn +п лаÑĤ +Ġ×ŀ ×ŀש +лÑİ Ð± +ĠнÑĥж но +Ġth ư +ãģ µ +ãģı ãĤīãģĦ +ر Ø´ +ר ×ķ×Ĺ +ĠÙĬ تÙħ +Ġצר ×Ļ×ļ +Ġph á +ม à¸Ńà¸ĩ +Ġ×ij×IJ ×ķפף +Ġcả nh +Ġíķľ ëĭ¤ +Ġ×Ķ×ŀ ת +à¸ķà¹Īาà¸ĩ à¹Ĩ +มี à¸ģาร +Ñģки Ñħ +ĠÐĴ Ñģе +Ġا ÙĪ +ج ÙĬ +ãģĵãģ¨ ãģ¯ +Ġd Ãłi +Ġh á»ĵ +èĩªåĪĨ ãģ® +à¹Ħ หà¸Ļ +ëĵ¤ ìĿĦ +ĠV Äĥn +Ġд аж +Ġдаж е +Ñĭ ми +лаÑģ ÑĮ +ÙĬ ÙĪÙĨ +ÙĨ ÙĪ +c ó +ãģĹãģ¦ ãģĦãģŁ +ãģł ãģĭãĤī +طاÙĦ ب +Ġc á»Ńa +п ÑĢоÑģ +ãģªãģ© ãģ® +รุ à¹Īà¸Ļ +Ġchi ếc +л Ñĭ +ĠÑıвлÑı еÑĤÑģÑı +Ġn á»ķi +ãģ® ãģĬ +Ġ×IJת ×Ŀ +ĠëķĮ문 ìĹIJ +à¸ģล าà¸ĩ +ĠbaÅŁ ka +ìĦ Ŀ +ĠÑĨ ел +Ùģ ÙĤ +ãģ«ãĤĪ ãĤĭ +ÙĤ ا +Ġçı kar +Ġcứ u +Ø· ا +Ġש ת +à¹Ĥ à¸Ħ +Ġ×ŀ ׾ +Ġ×Ķ ×¤×¨ +Ġг де +ĠØ® Ø· +åīį ãģ« +c jÄĻ +Ġ׊ש×ķ×ij +ר×Ĵ ×¢ +Ġkho ảng +ĠÄij á»Ŀi +ĠÐł е +Ġо на +Ġ×IJ ׳×ķ +ãģ® ãģ« +ĠاÙĦذ ÙĬÙĨ +кÑĥ п +ãĤµ ãĥ¼ãĥ +ãĤµãĥ¼ãĥ ĵ +ãĤµãĥ¼ãĥĵ ãĤ¹ +в ал +г е +Ġgi ữa +ĠKh ông +ĠâĹ ĭ +à¸ģล ุà¹Īม +ĠÙħÙĨ ذ +à¸Ń à¹Īาà¸Ļ +ĠÑģп оÑģоб +ĠÄij á»Ļi +Ġdi ÄŁer +Ġ à¸ĸà¹īา +Ùħ Ø«ÙĦ +Ġ×Ķ×IJ ×Ļ +Ġد ÙĪÙĨ +ÙĬر اÙĨ +Ñī и +بÙĨ اء +ĠØ¢ خر +ظ Ùĩر +Ġ×ij ׼ +ĠاÙĦÙħ ع +ãĥ Ĵ +Ġt ất +Ġm ục +ĠdoÄŁ ru +ãģŁ ãĤī +Ġס ×ķ +Ġx ác +ร à¸Ń +ĠcÄĥ n +Ġон л +Ġонл айн +Ġk ý +Ġch ân +Ġ à¹Ħมà¹Ī +اØŃ Ø© +r án +׳×Ļ ×Ļ×Ŀ +Ġ×ij ף +ĠÐ ĸ +à¸ķร à¸ĩ +д Ñĭ +Ġs ắc +ÙĦ ت +ãĥŃ ãĥ¼ +ĠÙĦ ÙĨ +Ġר ×ķ +Ġd Æ°á»Ľi +à¹Ģ à¸ĺ +à¹Ģà¸ĺ à¸Ń +e ÄŁi +Ġ×ķ ש +ĠÙĦ Ø£ +Ġg ặp +Ġc á»ij +ãģ¨ ãģ¦ãĤĤ +رÙĪ Ø³ +Ġ׾×Ķ ×Ļ +Ġë³ ¸ +ä¸Ĭ ãģĴ +Ġm ức +Ñħ а +Ġìŀ ¬ +à¸ī ัà¸Ļ +ÑĢÑĥ ж +Ġaç ık +ÙĪ Ø§ÙĦ +Ġ×ĸ ×ŀף +人 ãģ¯ +ع ÙĬÙĨ +Ñı Ñħ +Ġ×Ĵ×ĵ ×ķ׾ +ר ×ķ×ij +g ó +ëĿ¼ ê³ł +Ġark adaÅŁ +ÙĨ شر +Ġгод Ñĥ +ĠболÑĮ ÑĪе +ãģ¡ãĤĩ ãģ£ãģ¨ +Ġcâ u +Ġs át +íĶ ¼ +Ġti ến +íķ´ ìķ¼ +ĠÙĪ Ø£ÙĨ +à¸Ļ าà¸Ļ +Ġ×ij×IJ×ŀ צע +Ġ×ij×IJ×ŀצע ×ķת +Ġ׾ ר +Ġqu ản +ĠÙĪØ§ÙĦ Ø£ +Ġ×IJ×ķת ×Ķ +Ġìĸ´ëĸ ¤ +Ġê²ĥ ìĿĢ +ØŃس ÙĨ +Ġm ất +à¸Ħ ูà¹Ī +ãĥ¬ ãĥ¼ +ĠÐĶ Ð° +Ġol ması +Ġthu á»Ļc +׳ ×Ĺ +íĨ ł +Ġsö yle +ãģĿãģĨ ãģ§ãģĻ +Ġت ÙĥÙĪÙĨ +л ÑĥÑĩ +׾ ×Ļ×ļ +ĠØ£ ØŃد +ли ÑģÑĮ +ĠвÑģ его +Ġ×Ķר ×ij +Ġëª » +o ÄŁ +oÄŁ lu +ĠìĦ ł +Ġк аÑĢ +à¸łà¸² à¸Ħ +e ÅĦ +Ġ à¸ģà¹ĩ +Ġa ynı +Ġb Ãł +ãģªãĤĵ ãģ¦ +Ġ모 ëĵł +ÙĤر ار +ãģĹãģª ãģĦ +ĠÐĴ о +ĠÙĪÙĩ ÙĬ +ни ки +ãĤĮ ãģŁ +Ġchu ẩn +ר ×¢ +Ùģ Ø±ÙĬÙĤ +ãĤĴ åıĹãģij +ĠÄij úng +б е +׼ ×ķ×Ĺ +п Ñĥ +Ġ×ķ ×Ĵ×Ŀ +×ŀ ׳×Ļ +íĸ ¥ +צ ×Ļ×Ŀ +à¸ĭ ิ +Ùĩ ÙĨ +н ем +Ġ×ij×ij ×Ļת +ر ع +Ġ ส +ĠÄIJ Ãł +íķĺ ëĭ¤ +Ġ ấy +×Ĺ ×ķ×ĵ +×Ĺ×ķ×ĵ ש +ĠÑĩеÑĢ ÐµÐ· +Ñĥ л +ĠB ình +Ġê²ĥ ìĿĦ +Ġ×Ĵ ר +ä»ĺ ãģij +×Ĺ׾ ×§ +Ġت ÙĦÙĥ +à¹ĥส à¹Ī +sz Äħ +ÙĤ اÙħ +د ÙĪØ± +ĠÙģ ÙĤØ· +Ġh ữu +Ġмог ÑĥÑĤ +Ġg á»įi +Ġ×§ ר +à¸Īะ มี +ت ÙĤدÙħ +Ġع بر +Ġ׾×Ķ ×Ŀ +ĠÑģам о +ס ×ĵר +Ġc Ãłng +r ÃŃ +Ġìŀ ¥ +ëĵ¤ ìĿĺ +ĠÙĦ Ùĥ +п оÑĢÑĤ +Ġkh ả +ĠÑģеб Ñı +׳ ף +Ġد ÙĪØ± +Ġm ợ +Ġcâ y +Ġf ark +Ġfark lı +а ÑİÑĤ +Ġtr á»±c +wiÄĻks z +Ġthu á»ijc +Ġت ØŃت +ت ÙĦ +ов Ñĭе +ëĤ ł +Ġв ам +بÙĦ غ +Ġê°Ļ ìĿĢ +íĮ IJ +ÙĦ ب +Ġnas ıl +Ġод ин +м ан +ĠعÙĦÙĬ Ùĩا +б и +Ġפ ש×ķ×ĺ +×ijר ×Ļ +Ġש ׳×Ķ +Ġëı Ħ +ĠÄIJ ại +Ġ×IJ×ķת ×Ŀ +ĠاÙĦØŃ ر +Ġб о +à¸Ī ุà¸Ķ +Ġr õ +ĠdeÄŁi ÅŁ +Ġëĭ ¨ +ĠÑģлÑĥÑĩ а +ĠÑģлÑĥÑĩа е +Ġ×IJ׳ ש×Ļ×Ŀ +×ĵ ×£ +ש×ij ת +Ġש׾ ׼×Ŀ +Ġch ú +nik ów +Ġtan ı +Ġcá o +ĠÄij á +Ġ×IJ ×ĵ×Ŀ +Ġê° ķ +Ġnhi á»ĩm +Ġ׾ ס +Ġ×Ľ×ª ×ij +Ġ×Ķס פר +ĠÄij Äĥng +Ġë ijIJ +à¸ľ ิ +à¸ľà¸´ ว +ج ا +Ġê° IJ +ر Ø£ +ست خدÙħ +ãģ«ãģªãĤĬ ãģ¾ãģĻ +Ġtá» · +×ĺ ×ķר +г овоÑĢ +Ġв оÑģ +ĠÙħÙĨ Ùĩا +иÑĢов аÑĤÑĮ +ĠÄij ầy +׳ ×Ĵ +ĠÙħ ÙĪ +ĠÙħ ÙĪÙĤع +ר׼ ×Ļ +ت Ùı +ëª ¨ +Ġת ×ķ +ÙĬا Ùĭ +à¹ĥ à¸Ķ +ãĤĬ ãģ¾ãģĻ +à¸Ńยูà¹Ī à¹ĥà¸Ļ +ĠØ£ ÙĪÙĦ +ĠØ£ خرÙī +Ġc ư +ص ار +×ŀ׊ש×ij +б ÑĢа +ÅĦ ski +б ÑĢ +ĠÙĬ Ùı +à¸ģ ิà¸Ļ +Ġch á»ijng +Ùħ Ùı +Ġ à¸Ħืà¸Ń +Ġت ÙĨ +t ÃŃ +y Äĩ +Ġm ạng +Ùģ ÙĪ +Ġdü nya +×§ ר×IJ +Ġ×§ ׾ +ĠØŃ اÙĦ +c ÃŃa +Ġà¹Ģ รา +Ġר ×ķצ×Ķ +Ġá p +ë° ķ +ا ÙĤØ© +ни Ñİ +Ġ×IJ ׾×ķ +Ġ×ŀס ×ķ +ãģ§ãģ¯ ãģªãģı +Ġtr ả +Ġ×§ שר +mi ÅŁtir +Ġl ưu +Ġh á»Ĺ +ĠбÑĭ ли +Ġl ấy +عÙĦ Ùħ +Ġö zel +æ°Ĺ ãģĮ +Ġ×ĵ ר×ļ +Ùħ د +s ını +׳ ×ķש×IJ +r ów +Ñĩ еÑĢ +êµIJ ìľ¡ +ĠÐľ о +л ег +ĠV Ỽi +วัà¸Ļ à¸Ļีà¹ī +ÑİÑī ие +ãģĬ ãģĻ +ãģĬãģĻ ãģĻ +ãģĬãģĻãģĻ ãĤģ +ëı ħ +Ġ×Ļ×Ķ ×Ļ×Ķ +×ŀ ×ĺר +Ñı ми +Ġl á»±a +ĠÄij ấu +à¹Ģส ียà¸ĩ +Ġt ương +ëĵ ± +ĠÑģÑĤ аÑĢ +à¹ĥ à¸ļ +ว ัà¸Ķ +Ġİ stanbul +Ġ à¸Īะ +à¸ķ ลาà¸Ķ +Ġب ÙĬ +à¹ģà¸Ļ ะ +à¹ģà¸Ļะ à¸Ļำ +س اعد +Ġب Ø£ +Ġki á»ĥm +ØŃ سب +à¸Ĭั à¹īà¸Ļ +Ġ×ķ ×¢×ķ×ĵ +ов ÑĭÑħ +оÑģ нов +Ġtr Æ°á»Łng +צ ×ij×¢ +ĠÃŃ t +Ġk ỹ +cr é +Ñı м +êµ ° +ãģĮ ãģªãģĦ +ÙĬÙĦ Ø© +ãĥķ ãĤ£ +ر Ùī +ĠÙĬ جب +Ġ×IJ ×£ +Ġc á»±c +ãĤīãĤĮ ãģŁ +Ġ à¸ľà¸¹à¹ī +Ġ à¸Ń +lar ımız +Ġkad ın +Ġê·¸ ëŀĺ +Ġê·¸ëŀĺ ìĦľ +ĠëĺIJ ëĬĶ +ĠÄij ả +ĠÄijả m +Ġ×IJ ×ķ×ŀר +Ġy ếu +ci Äħ +ciÄħ g +Ġt á»ij +Ġש×IJ ׳×Ļ +Ġdz iaÅĤa +Ñī а +ĠÄij Ãłn +s ına +ãģĵãĤĮ ãģ¯ +Ġ×ij ׾×Ļ +Ġ×ij ×Ļשר×IJ׾ +л оÑģÑĮ +Ġgi ữ +ê° IJ +ÑĢ Ð¾Ð½ +تج ار +г лав +в ин +Ġh ạn +Ġyapı lan +ب س +Ġ à¸ŀรà¹īà¸Ńม +ê´Ģ 리 +mÄ±ÅŁ tır +b ü +r ück +ĠBaÅŁkan ı +ĠÙĦ ÙĬس +Ġs Æ¡ +à¸Īัà¸ĩ หว +à¸Īัà¸ĩหว ัà¸Ķ +د اء +Ġ×Ķ ×Ľ +v ÃŃ +ש ×IJר +Ġh Æ°á»Łng +Ġb óng +ĠCh ÃŃnh +Äħ c +à¹Ģà¸ģีà¹Īยว à¸ģัà¸ļ +Ġtá» © +Ġtứ c +ĠÑĨ веÑĤ +Ġt á»iji +ĠnghÄ© a +ÙĦا عب +د ÙĦ +Ġפע ×Ŀ +h ör +à¸Ĭ ุà¸Ķ +à¸ŀ ู +à¸ŀู à¸Ķ +п аÑģ +ĠÅŁ u +Ġt Æ°á»Łng +خار ج +Ġâ m +ĠинÑĤеÑĢ ÐµÑģ +ен нÑĭÑħ +×IJ ׳×Ļ +بد Ø£ +ëĿ¼ ëĬĶ +ì¹ ´ +æĸ¹ ãģĮ +ли в +Ġ à¸Ħà¸Ļ +ער ×ļ +à¸Ĥà¸Ńà¸ĩ à¸Ħุà¸ĵ +п ад +Ġc ạnh +ĠëĤ ¨ +ĠÄij âu +Ġbi á»ĥu +ãĤĤ ãģĤãĤĭ +׾ ×Ĵ +Ġ สำหรัà¸ļ +Ġxu á»ijng +ס ×ķ +Ġذ ات +ĠÐľ е +ع اÙĦÙħ +×IJ ס +ب ÙĬØ© +Ø´ ا +и ем +ĠNg ưá»Ŀi +íĺ ij +Ñģл ов +Ġп а +Ġm ẫu +ĠпÑĢоÑĨ еÑģÑģ +ĠNh Ãł +пÑĢо из +пÑĢоиз вод +à¸łà¸²à¸¢ à¹ĥà¸Ļ +Ġ à¸ļาà¸Ĺ +×ŀ ׳×ķ +ĠоÑĢг ан +רצ ×ķ +×ķ×ŀ ×Ļ×Ŀ +Ġyaz ı +Ġd ù +ãĥ¬ ãĥ³ +ÙĪÙĦ ÙĬ +ย ู +Ġtr ò +à¹Ģà¸ŀ ลà¸ĩ +Ġ×ŀ ׾×IJ +à¸ķ ล +à¸ķล à¸Ńà¸Ķ +ĠÄij ạt +Ġ×Ĺ×ĵ ש +p óÅĤ +Ġ×ŀ ×ĵ×Ļ +ujÄħ c +×ŀ׳×Ķ ×ľ +Ġש×ij ×ķ +Ġ×Ķ×ŀש פ×ĺ +Ġ×IJ ׾×Ķ +ĠÙĪ Ø°ÙĦÙĥ +à¹Ģà¸ŀ ราะ +ĠÄijo Ãłn +Ġíķ¨ ê»ĺ +Ġd ục +Ø´ ت +Ġ ula +Ġula ÅŁ +Ġqu ý +Ġ×Ķ ×Ĵ×ĵ×ķ׾ +à¸ķัà¹īà¸ĩ à¹ģà¸ķà¹Ī +Ġש ר +Ø´ Ùĩد +׳ ש×Ļ×Ŀ +à¸ŀ ล +رÙĪ Ø§ +ãĤĮ ãģ¦ +Ġн иÑħ +Ġдел а +ãģ§ãģį ãģªãģĦ +ÅĤo ż +×IJ ×Ĺר +ì ½Ķ +ãĤ¢ ãĥĥãĥĹ +د Ù쨹 +Ġti á»ĩn +Ġkh á»ı +Ġkhá»ı e +ĠاÙĦع اÙħØ© +ãģ« ãģĤãĤĭ +ĠÄij á»Ļc +ì¡ ± +Ġc ụ +й ÑĤе +Ġзак он +ĠпÑĢо екÑĤ +ìĸ ¸ +ÙĦ ØŃ +ĠçalÄ±ÅŁ ma +ãĤĴ ãģĻãĤĭ +Ñħ и +ع اد +Ġ׳ ×ŀצ×IJ +Ġר ×Ļ +à¸Ńà¸Ńà¸ģ มา +ĠT ôi +Ġth ần +ĠÙĬ ا +ล าย +Ġав ÑĤо +Ġsı ra +ĠÙĥ Ø«ÙĬر +Ùħ ÙĬز +ĠاÙĦع ÙĦÙħ +æĸ¹ ãģ¯ +×ķ×¢ ×ĵ +Ġобла ÑģÑĤи +×Ļ׾ ×Ļ×Ŀ +ãģĮ åĩº +à¸ĺ ุ +à¸ĺุ ร +à¸ĺุร à¸ģิà¸Ī +ÙĤت ÙĦ +ר×IJ ×ķ +Ġng u +Ġngu á»ĵn +Ġ มา +Ġпл ан +t ório +Ġcu á»iji +Ñģк ом +ĠاÙĦÙħ اض +ĠاÙĦÙħاض ÙĬ +Ġ×ij×¢ ׾ +Ġר ×ij×Ļ×Ŀ +Ġlu áºŃn +Ùĥ ÙĪ +à¸Ĺัà¹īà¸ĩ หมà¸Ķ +в ан +Ġtho ại +à¹Ħ à¸Ń +б иÑĢ +ĠاÙĦ ض +ت ا +ĠÑĢ Ð¾Ð´ +ĠV Ãł +×ŀ ×Ļף +ĠбÑĭ ла +к ами +ĠÐĶ Ðµ +t ık +קר ×Ļ +ĠeÄŁ itim +ĠÙĥ بÙĬر +ب Ùĥ +ĠÙĦ ÙĪ +в ой +Ġ ãģĵãģ® +ĠÑĤ ÑĢÑĥд +my ÅĽl +Ġs ư +à¸ŀ ีà¹Ī +Ġ à¹ģลà¹īว +×¢ ×§ +Ġ×Ĺ×ijר ת +ระ หว +ระหว à¹Īาà¸ĩ +×Ļ ×Ļ×Ķ +ĠاÙĦÙĨ اس +ün ü +Ġ׾ ×ŀ×Ķ +Ġch ương +ĠH á»ĵ +ار ت +ãĤĪãģĨ ãģ§ãģĻ +l á +×§×Ļ ×Ļ×Ŀ +æľ¬ å½ĵ +æľ¬å½ĵ ãģ« +ãģĵãĤĵ ãģª +Ñģ ов +Ġ×ķ ×Ĺ +à¹Ģà¸ģ à¹ĩà¸ļ +Ġк ÑĤо +à¹Ĥร à¸Ħ +ĠØ´ رÙĥØ© +ع زÙĬ +عزÙĬ ز +Ø·ÙĦ ÙĤ +п ÑĥÑģÑĤ +Ùģ ØªØŃ +ëŀ Ģ +Ġhã y +ض Ùħ +ë¦ ° +åł´åIJĪ ãģ¯ +ãĤª ãĥ¼ +Ġh ắn +Ġ×IJ ×ij×Ļ×ij +Ġש׾×Ķ ×Ŀ +Ġ×Ķ×Ļ ×Ļת×Ķ +ĠاÙĦد ÙĪÙĦØ© +ĠاÙĦ ÙĪÙĤ +ĠاÙĦÙĪÙĤ ت +ãģĤ ãģ¾ãĤĬ +Ġta ÅŁÄ± +İ N +×¢ סק +ãģ¦ ãģĦãģŁ +Ġtá»ķ ng +ĠاÙĦØ¥ ÙĨس +ĠاÙĦØ¥ÙĨس اÙĨ +ÑĢ ÐµÑĪ +Ġg ái +ĠÑĨ ен +ĠÙģ ÙĤد +Ùħ ات +ãģķãĤĵ ãģ® +Ġph ù +×ĺ ×Ķ +ĠÙĪØ§ÙĦ تÙĬ +Ġب Ùĥ +ìĿ´ ëĤĺ +к Ñģ +Ùħ ÙĬر +Ġv ùng +ĠاÙĦØ´ عب +ĠNh ưng +ãĥĢ ãĥ¼ +Ġ×Ĺ×Ļ ×Ļ×Ŀ +ĠØ´ خص +×§ ×ķ×ĵ +ê² Ģ +×¢ ש +×¢ ×ķ׾×Ŀ +צ ×ķר +ع ÙĤد +ĠiÅŁ lem +Ġ×Ķ×ij ×IJ +Ġd ưỡng +à¸Ł รี +Ġph ÃŃa +ãģ®ä¸Ń ãģ§ +Ġп и +Ġng Ãłnh +ним а +ĠÙĩ ÙĦ +Ġ×ķ ×IJת +ĠÄij áng +é quipe +ĠÑįÑĤ оÑĤ +Ġgö rev +ë§ ¤ +Ġqu ân +å¼ķ ãģį +æĻĤ ãģ« +Ġب Ùħا +×ŀ ×Ļת +Ġü lke +Ġ×ŀ×§ ×ķ×Ŀ +×ij ף +æ°Ĺ æĮģãģ¡ +Ġë§İ ìĿĢ +Ġyük sek +ÑĨ енÑĤÑĢ +ĠÙħ جÙĦس +ç§ģ ãģ® +ÙĤد ر +Ġë¶Ģ ë¶Ħ +Ġì° ¨ +خر ج +ãģĭ ãģªãĤĬ +ë³´ ëĭ¤ +Ġ×ŀ ×Ļ×ĵ×¢ +peÅĤ ni +Ġx á»Ń +ìĹIJìĦľ ëĬĶ +ĠباÙĦ Ùħ +ĠÙĪ Ùħا +ĠÑįÑĤ ой +ب ÙĬÙĨ +n ü +ØŃ ز +ØŃز ب +ĠÑĢабоÑĤ а +ĠNh áºŃt +ÙĦ اء +Ġëĵ ¤ +Ġëĵ¤ ìĸ´ +ãĤĦãģĻ ãģĦ +×Ĺ×ĸ ×§ +Ġ×Ķ×Ĺ ×ijר×Ķ +п иÑĤ +ãģĭãĤī ãģ® +Ġë§IJ ìĶĢ +Ġפ ×ķ +ÙĦ Ùİ +à¹Ģà¸ķà¹ĩ ม +ĠÐļ о +Ġm ówi +Ġt ÃŃn +ר×Ĵ ש +פר ×§ +Ġtr ạng +ĠÐŀ н +×Ĺ ×ķ×¥ +ĠعÙĨد Ùħا +Ġب ر +使 ãģĦ +Ġr á»Ļng +ëĮĢ ë¡ľ +íĪ ¬ +Ġktóry ch +в ид +ลูà¸ģ à¸Ħà¹īา +Ġmog Äħ +Ġש ×Ĺ +×ij ×Ĺר +ãĥĸ ãĥŃãĤ° +ĠTh Ãłnh +Ġ×Ķ ×¨×Ļ +ĠÑģÑĤ аÑĤÑĮ +ĠH á»Ļi +à¸ļ à¹īาà¸ĩ +çī¹ ãģ« +ĠÄIJ ức +èĢħ ãģ® +×¢ ×ŀ×ķ×ĵ +×ĺר ×Ķ +Ð ¥ +ĠÙħ Ùħا +Ġe ÅŁ +ĠнеобÑħодим о +ник ов +Ġüzer inde +a ÅĤa +Ġchá»ĭ u +ĠاÙĦ دÙĬÙĨ +أخ بار +ĠÄij au +ãģĮ å¤ļãģĦ +jÄħ cych +د Ø®ÙĦ +ları nd +larınd an +Ġs ẻ +à¸ŀิ à¹Ģศ +à¸ŀิà¹Ģศ ษ +ת ף +t ıģı +Ġlu áºŃt +ĠÅŀ e +ãĤ« ãĥ¼ +ãģ® ãģĤãĤĭ +Ġ×Ķ×IJ תר +ĠاÙĦØ¢ ÙĨ +ıld ı +Ġá o +ĠнаÑĩ ал +Ġvi á»ĩn +Ġ×ij×¢ ×ķ׾×Ŀ +з наÑĩ +×Ļ×ĺ ×Ķ +к ам +ĠÐĺ з +à¹Ģà¸Ĥ ียà¸Ļ +à¸Ļ à¹īà¸Ńà¸ĩ +ÑĤ ÑĢо +à¹Ģ à¸Ł +Ġжиз ни +Ġ สà¹Īวà¸Ļ +Ġv áºŃn +Ġê´Ģ 볨 +Ġl âu +ס ×ĺר +×§ ש +س ÙĬر +Ġ×IJ×ķת ×Ļ +Ġm ôi +ائ ب +Ġо ÑģÑĤа +Ġm ón +Ġ×ij ×ŀ×§×ķ×Ŀ +Ġد اخÙĦ +Ġ×IJ ×ķר +Ġв аÑģ +Ùĥ Ø´Ùģ +ìĺ ¨ +à¸ĸ à¹Īาย +Ġkullan ıl +Ġt ô +ãģ« ãĤĪãĤĬ +ĠëĺIJ íķľ +Ġ×¢×ij×ķ×ĵ ×Ķ +Ġri ê +Ġriê ng +Ġyak ın +ز ا +Å » +×IJ ×ķ׼׾ +شار Ùĥ +Ġб еÑģ +× ´ +Ġا بÙĨ +ĠTá»ķ ng +ÙĨ ظ +ÅĽwi ad +ãĤµ ãĥ¼ +ห าย +ĠG ün +Ġhakk ında +à¹Ģà¸Ĥà¹īา มา +ز ÙĨ +ĠÐł о +Ġbi á»ĥn +ãģ© ãģĵ +Ùģ Ø¹ÙĦ +ز ع +פר ×ĺ +Ġ×Ķ ×Ł +Ø£ ÙĩÙĦ +Ġth ất +ØŃ ÙħÙĦ +Ñĩ Ñĥ +ĠìĤ¬ ìĭ¤ +ì° ¸ +ĠìľĦ íķ´ +ÙĪ Ø¸ +ĠÐŁ од +Ġkho ản +ÑĤ ен +ĠÙģ Ø§ÙĦ +Ñģ ад +à¸Ļ à¸Ńà¸Ļ +ĠاÙĦسعÙĪØ¯ ÙĬØ© +" ØĮ +ĠاÙĦ ÙĴ +ãĤī ãģļ +Ġto án +Ġch ắc +׼ ×Ļר +m éd +méd ia +ز ÙĪ +Ġyan ı +פ ׳×Ļ×Ŀ +ØŃ ظ +Ġб еÑģп +ĠбеÑģп лаÑĤ +ĠбеÑģплаÑĤ но +ĠØ£ ÙħاÙħ +à¸Ń าย +à¸Ńาย ุ +ר שת +Ġg á»ĵ +Ġgá»ĵ m +Ġu á»ijng +ص ب +k ır +ãĥij ãĥ¼ +Ġ׾×ĵ עת +Ġк ÑĥпиÑĤÑĮ +׾ ×ķ×Ĺ +ÙĪØ¶ ع +ÙĤÙĬ Ùħ +à¸Ľ า +ж ив +à¸Ķ ิà¸Ļ +×IJ ×ķפ +à¹Ģล à¹ĩà¸ģ +ãĥĥ ãĥī +иÑĩеÑģки Ñħ +ĠCh á»§ +кÑĢ Ð°Ñģ +ÙĪ ØµÙĦ +p ÅĤat +м оÑĢ +Ġ×Ķ×IJ ×ķ +à¸Ń ิà¸Ļ +Ġíķľ êµŃ +гÑĢ Ðµ +Ġìłľ ê³µ +ì° ½ +Ġê°ľìĿ¸ ìłķë³´ +Ġngh á»ĭ +à¸ĭ า +ØŃس اب +Ġby ÅĤa +ÙħÙĦ Ùĥ +иÑĩеÑģки е +Ġb ác +ض ØŃ +ê¸ ¸ +ש ×ŀ×¢ +Ġìĸ´ëĸ » +Ġìĸ´ëĸ» ê²Į +ìĽ Į +ات Ùĩ +à¹Ĥรà¸ĩ à¹ģ +à¹Ĥรà¸ĩà¹ģ รม +خد ÙħØ© +ĠÐł а +׼×ķ׾ ×Ŀ +×ŀש ×Ĺ×§ +ĠÙĪ ÙĥاÙĨ +ס ×ķ×£ +ĠاÙĦØŃÙĥÙĪÙħ Ø© +Ġ×ij ×ĺ +Ġtr áºŃn +Ġ×Ķ×¢ ×ķ׾×Ŀ +ĠÃŃ ch +t Äħ +ש×ŀ ×ķ +Ġ×Ķר×IJש ×ķף +Ġíķĺ ê³ł +ãģķ ãĤī +ãģķãĤī ãģ« +ãģ« ãģĹãģ¦ +Ġ à¸ľà¸¡ +ãģ® ãĤĪãģĨãģª +ĠÙĪ ÙĤت +ãĥį ãĥĥãĥĪ +ÙĦ عب +ÙĪ Ø´ +ìĺ ¬ +Ġ หาà¸ģ +Ġm iaÅĤ +à¸Ĺ à¸Ńà¸ĩ +иÑĤ а +ا صر +ил ÑģÑı +з е +à¸Ľà¸£à¸° มาà¸ĵ +ãģĿãĤĮ ãģ¯ +Ġb ır +Ġbır ak +صÙĨ اع +Ð ® +Ø´ عر +Ġ׳ ×Ĵ×ĵ +Ġب سبب +ãĥĿ ãĤ¤ +ãĥĿãĤ¤ ãĥ³ãĥĪ +ĠاÙĦج ÙĪ +ĠнеÑģк олÑĮко +Ġki ếm +Ùģ Ùİ +Ġض د +×ij×Ļ×ĺ ×ķ×Ĺ +تاب ع +ÙĨ ز +ĠB ản +Ġaç ıkl +Ġaçıkl ama +Ġ à¸Ħุà¸ĵ +à¸Ĺ า +ÅĤ ów +Ø· ب +ÙĨ ØŃÙĨ +Ġ×ŀ×§ ×ķר +Ġİ s +Ġдом а +Ġ วัà¸Ļ +Ġd Ãłnh +Ñı н +ми ÑĢ +Ġm ô +ĠvÃł ng +ص اب +s ının +à¸Ħ ืà¸Ļ +Ø® بر +×ĸ׼ ×ķ +Ġ×ŀ ש×Ķ×ķ +m ü +Ġкомпани и +Ġ×Ķ×¢ ×Ļר +ĠÙĥ ÙĪ +ÙĤÙĦ ب +ĠlỼ p +и ки +׳ ×ij +à¹Ĥ à¸Ħร +à¹Ĥà¸Ħร à¸ĩ +à¹Ĥà¸Ħรà¸ĩ à¸ģาร +×ŀ×ķ×¢ ×ĵ +ÑıÑĤ ÑģÑı +หลัà¸ĩ à¸Īาà¸ģ +ени Ñİ +Ġש ×¢ +Ġb Æ°á»Ľc +ãĥ¡ ãĥ¼ãĥ« +ãĤĦ ãĤĬ +Ġ×Ļ×ķ×ĵ ×¢ +Ġê´Ģ íķľ +ĠاÙĦØ£ Ùħر +Ġböl ge +ĠÑģв ой +ÙĦ س +Ġ×ŀ×Ļ ×ķ×Ĺ×ĵ +ĠëĤ´ ìļ© +ĠØ£ جÙĦ +ĠÄIJ ông +Ġ×ŀ ×ł×ª +Ġìĭľ ê°Ħ +Ùĥ Ùİ +ãģ¨ãģĦãģĨ ãģ®ãģ¯ +Ġnale ży +تÙĨظ ÙĬÙħ +ĠÑģозд а +Ġph é +Ġphé p +ãģ§ãģį ãģ¾ãģĻ +Ġع ÙĦÙħ +大ãģį ãģª +ãĤ² ãĥ¼ãĥł +í ħĮ +Ġ׼×ķ׾ ׾ +ĠинÑĤеÑĢ Ð½ÐµÑĤ +ĠT ừ +ãģ¨ ãģªãĤĭ +ز اÙĦ +Ġktóry m +Ġnh é +ìĪ ľ +н ев +д еÑĢ +ãĤ¢ ãĥĹãĥª +i á»ĩu +×ij ×Ļ׾ +Ġت س +ĠÄIJ ây +ĠاÙĦØ® اصة +Ġà¹Ģ à¸Ĭ +Ġà¹Ģà¸Ĭ à¹Īà¸Ļ +ص اد +Ġd ạng +س عر +Ġש ×Ļ×ŀ×ķש +×Ĵ ×Ļ×Ŀ +ãģĮãģĤ ãģ£ãģŁ +п ÑĢов +пÑĢов од +Ġ×IJ ×Ļ׳×ķ +Ġ׾ ר×IJ +Ġ׾ר×IJ ×ķת +ĠØ£ Ù쨶ÙĦ +ĠØŃ ÙĦ +ĠØ£ بÙĪ +ê° ķ +Ġì§ ij +ãģ® ãĤĪãģĨãģ« +Ġפ ׳×Ļ +ס ×Ļ×Ŀ +ĠÙĪÙĩ ذا +Ġka ç +Ġé én +Ġê± ´ +ë° Ķ +Ñĥ з +à¸Ĥà¸Ńà¸ĩ à¹Ģรา +i ÅĤ +ĠÐľ Ñĭ +Ġch ết +ĠاÙĦØ« اÙĨÙĬ +×IJ ×§ +Ġ×ķ ×¢×ľ +ĠاÙĦØ· ب +×ij×ĺ ×Ĺ +Ġج دÙĬدة +Ġع دÙħ +ع ز +สิà¹Īà¸ĩ à¸Ĺีà¹Ī +ãģĻ ãĤĮãģ° +ĠÄij ô +ì£ ł +د ÙĤ +н омÑĥ +Ġk á»ĥ +ãĤ¢ ãĥ³ +å¤ļãģı ãģ® +à¸Ľà¸£à¸° à¸ģ +à¸Ľà¸£à¸°à¸ģ à¸Ńà¸ļ +פע×Ļ׾ ×ķת +ĠÑģÑĤ ол +may ı +ãģ¤ ãģĦ +Ġyılı nda +Ġ à¸Īึà¸ĩ +koÅĦ cz +ĠTh ông +Ġак ÑĤив +н ÑģÑĤ +нÑģÑĤ ÑĢÑĥ +ĠÃĸ z +Ġת ×ŀ×Ļ×ĵ +ĠÙĥ ÙĨت +Ñģ иÑģÑĤем +pr és +prés ent +Ġn â +Ġnâ ng +gÅĤ os +ĠÙĪØ² ÙĬر +ØŃ صÙĦ +Ġиме еÑĤ +ØŃ رÙĥØ© +à¸ŀ à¹Īà¸Ń +ãĤĴ ãģĬ +Ġاست خداÙħ +×IJ×Ļר ×ķ×¢ +ä»ĸ ãģ® +Ġש×Ķ ×Ŀ +ãģĹãģŁ ãĤī +ש×ŀ ×Ļ +Ñģ ла +m ı +Ġbaz ı +Ġíķĺ ì§Ģë§Į +×ĵ ׾ +Ġyapt ıģı +ãĥĬ ãĥ¼ +׾ ×Ļ׾×Ķ +ãģ¨ãģĦ ãģ£ãģŁ +änd ig +ĠÅŁ a +ĠÙģÙĬ Ùħا +иÑĤ елÑı +×ŀ ×ķש +à¸Ĥ à¸Ńà¸ļ +l ük +Ġh á»ĵi +Ġëª ħ +ĠاÙĦÙĥ Ø«ÙĬر +צ ×IJ +Ġhaz ır +طر Ùģ +ا ÙĬا +ĠÄij ôi +ен д +ÙĦ غ +×Ĺ ×ĸ×ķר +ĠвÑģ ег +ĠвÑģег да +ëIJĺ ê³ł +×ĵ ×ķ×ĵ +ан а +د ÙĪÙĦØ© +Ġho ạch +ع ÙĦا +عÙĦا ج +Ġ×ķ ×¢×ĵ +×Ķ ×Ŀ +ки й +ÙĦ ÙIJ +Ġ×¢ ׾×Ļ×ķ +ÑİÑī ий +Ġng á»§ +صÙĨ ع +ĠاÙĦع راÙĤ +à¸ķà¹Īà¸Ń à¹Ħà¸Ľ +ãģŁãģı ãģķãĤĵ +Ġph ạm +ÙĦ اÙĨ +ات Ùĩا +Ġbö yle +تÙĨ ÙģÙĬ +تÙĨÙģÙĬ ذ +Ġש×Ķ ×Ļ×IJ +Ñģ Ñĥ +ย าว +Ġש ×ķ׳×Ļ×Ŀ +Ġ×ŀ ×ķ׾ +ĠÑģ ил +Ġ×IJ×Ĺר ×Ļ×Ŀ +Ġph á»§ +ÙĤØ· ع +ĠTh á»§ +à¸Ľà¸£à¸°à¹Ģà¸Ĺศ à¹Ħà¸Ĺย +ÙĨ ÙĤ +ĠÄijo ạn +Ġب Ø¥ +п ÑĢедел +×ķת ×ķ +Ġy arı +пÑĢ Ðµ +ĠczÄĻ ÅĽci +ØŃ ÙĥÙħ +×ķ׳ ×Ļת +פע ׾ +ãĤĴ ãģĹãģ¦ +Ġktó rzy +׾ ×Ŀ +ĠÄIJi á»ģu +ĠкоÑĤоÑĢ Ð°Ñı +ĠìĿ´ ìĥģ +ãģĤ ãģ£ãģŁ +Ġ×ŀ×ĵ ×ķ×ijר +פ ×ķ×¢×ľ +d ım +éĢļ ãĤĬ +ĠбÑĥд ÑĥÑĤ +à¹Ģวà¹ĩà¸ļ à¹Ħà¸ĭ +à¹Ģวà¹ĩà¸ļà¹Ħà¸ĭ à¸ķà¹Į +ا خر +×Ĺ ×Ļ׾ +Ġ×Ļ ×ľ +Ġ×Ļ׾ ×ĵ×Ļ×Ŀ +×Ĺ ×Ļפ +×Ĺ×Ļפ ×ķש +Ġd òng +Ġש ×ĸ×Ķ +ÑĮ е +ãģĤ ãģ¨ +ìŀIJ ê°Ģ +×IJ ×ĵ +Ġü z +Ġüz ere +ظ ÙĦ +Ġ×IJ ×ķ׾×Ļ +Ġ×ij ×Ļ×ķ×Ŀ +ÙĦ ات +Ġm ê +ì¹ ¨ +تØŃ د +تØŃد Ø« +ĠØ® اصة +Ġب رÙĨ +ĠبرÙĨ اÙħج +ĠH Ãłn +×Ĺ ×¡ +ĠÙĪ ÙĦÙħ +×¢ ×Ŀ +Ġm ı +à¸Ł ัà¸ĩ +ש ×¢×Ķ +ÙĪÙģ ÙĤ +ס ×ij×Ļר +алÑĮ нÑĭй +×Ĺש ×ķ×ij +Ġn Ãłng +ë³ ¼ +ĠкоÑĤоÑĢ ÑĭÑħ +Ġ×Ĺ ×ķ×§ +t ör +ĠлÑĥÑĩ ÑĪе +ãĥij ãĥ³ +ลà¹Īา สุà¸Ķ +Ġج دÙĬد +ÙĬد Ø© +à¸Ĺ รà¸ĩ +ãĤĪãĤĬ ãĤĤ +ÙĦ ÙĦ +ãĤĤ ãģ£ãģ¨ +ש×ĺ ×Ĺ +Ġ×ķ ×IJ×Ļ +Ġgi á»ijng +Ø¥ ضاÙģ +×§ ת +ë§ Ŀ +Ġzosta ÅĤ +ÑĢ Ð¾Ð· +×Ļפ ×Ļ×Ŀ +Ġ׼׾ ׾ +ת×ķ׼ ף +dıģ ını +ÙĤ سÙħ +ĠÑģ ÑĩиÑĤ +ĠÑģÑĩиÑĤ а +×ĺ ×ķת +Ġ ưu +ĠØ¢ ÙĦ +Ġм ом +Ġмом енÑĤ +ĠاÙĦتع ÙĦÙĬÙħ +×¢×ľ ×ķת +Ġch ữa +Ġy ön +Ġtr Ãł +ĠØŃ ÙĬÙĨ +à¸ĭ ั +ĠC á +×¢ ×ĸ +ĠاÙĦØ£ ÙħÙĨ +c ÃŃ +Ġv á»ijn +Ġ à¸Ļาย +об ÑĢа +×§ ×IJ +Ġthi ếu +ãĥŀ ãĥ¼ +ส วà¸Ļ +Ġg á»Ń +Ġgá»Ń i +Ġê ¹ +Ġê¹ Ģ +Ġthi á»ĩn +ÙĤ ع +w ÄĻ +Ġн ам +ÑĤ ол +Ġs ân +ס ×ķ×Ĵ +Ġgeç ir +ÑĤ он +ев а +ĠÙĪ Ø¶Ø¹ +Ġع شر +Ñģ ло +à¸Ī ัà¸ļ +ãĤ· ãĥ¼ +ãĤĤ ãģĤãĤĬãģ¾ãģĻ +Ġv ẻ +ĠÄIJ á»ĥ +ر Ù쨹 +ĠاÙĦØ£ÙĪÙĦ Ùī +ÑĤ аÑĢ +ãģªãģı ãģ¦ +Ùħ Ùİ +qu ÃŃ +×¢×ł×Ļ ×Ļ׳ +г ен +Ġh ôm +à¸Ī า +Ġnh Ỽ +ĠاÙĦع ربÙĬ +×IJ ף +Ġl á»Ļ +Ġje ÅĽli +à¹Ģà¸Ĺà¹Īา à¸Ļัà¹īà¸Ļ +ĠØ£ÙĨ Ùĩا +Ġt uy +Ġtuy á»ĩt +Ġت ص +Ġتص ÙĨÙĬ +ĠتصÙĨÙĬ Ùģ +Ġê·¸ëŁ¬ ëĤĺ +о ÑĨен +à¸ģิà¸Ī à¸ģรรม +ãĤĦ ãģ£ãģ¦ +Ġkh á»ıi +Ġl á»ĩ +ĠاÙĦÙħج تÙħع +à¸Ńาà¸Ī à¸Īะ +à¸Īะ à¹Ģà¸Ľà¹ĩà¸Ļ +ов Ñĭй +ר ×Ŀ +ร à¹īà¸Ńà¸Ļ +ש ×ŀש +人 ãģ« +Ġüzer ine +פר ×Ļ +du ÄŁu +Ñĩ ик +Ġmù a +Ġ×ŀת ×ķ×ļ +Ġc áºŃp +Ġت ارÙĬØ® +×ij׾ ת×Ļ +Ġì¢ Ģ +ÙĦ ع +ب اÙĨ +Ġch út +Ġ×Ķ×ĸ ×ŀף +n ée +ĠLi ên +ĠÙĦÙĦ Ø£ +ØŃد ÙĪØ¯ +Ġ×¢ ׼ש×Ļ×ķ +в оз +Ġyapt ı +Ġоб о +à¹ĥหà¹ī à¸ģัà¸ļ +Ġ×ij×Ķ ×Ŀ +ãģı ãģ¦ +ر أس +ĠÑģÑĢед ÑģÑĤв +ĠB Ãłi +ãģĵãģ¨ ãģ« +ĠìĤ¬ íļĮ +Ġ모 ëijIJ +×ij ×IJ +Ġtr ắng +ĠاÙĦبÙĦ د +ĠHo Ãłng +ли бо +ĠдÑĢÑĥг иÑħ +İ R +Ñĥм а +ĠJe ÅĽli +ãĤĤ ãģĹ +Ġv òng +Ġ×IJתר ×Ļ×Ŀ +ĠÄij á»įc +Ġв оÑĤ +ãģł ãģĮ +ë° ° +à¸Ķู à¹ģล +Ġ×ŀ ׼׾ +ìĹIJ ëıĦ +г аз +Ġ׳×ķס פ×Ļ×Ŀ +ãģĵãģ¨ ãģ§ +Ġت ÙĪ +ãģ§ ãģĤãĤĬ +à¸Ļั à¹Īà¸ĩ +ĠможеÑĤ е +sz ÄĻ +ãģ® ãģł +ĠÙħÙĨ Ùĩ +Ġb á»ķ +Ġb üt +Ġbüt ün +ë³´ ê³ł +Ġch á»ĵng +à¹ģà¸Ī à¹īà¸ĩ +ĠV ì +ĠØŃ ر +Ġgi ản +ĠÙħ دÙĬÙĨØ© +تط بÙĬÙĤ +à¸Ī ิ +æĹ¥ ãģ® +б ил +à¸ģ à¸Ńà¸ĩ +ê³ ³ +ĠØ£ Ùħا +ìĨ IJ +Ġtr ái +ĠвÑģ ем +Ġس ÙĨØ© +ĠÑģай ÑĤ +Ġг оÑĤов +п Ñĭ +ĠëIJ ł +ĠاÙĦØ® Ø· +ĠاÙĦرئÙĬس ÙĬØ© +Ġíķ ©ëĭĪëĭ¤ +ĠìķĦëĭĪ ëĿ¼ +ĠìĿ´ ëłĩ +ĠìĿ´ëłĩ ê²Į +) ØĮ +h ält +ĠØ£ Ùħر +Ġع Ùħر +à¸ģà¹ĩ à¸Īะ +Ġ à¸Ĺำà¹ĥหà¹ī +Ġc ân +Ġ×ij ׾ +Ġ×ij׾ ×ij×ĵ +פ סק +ĠÙĬ ÙĤÙĪÙĦ +н ÑĥÑĤÑĮ +à¹ģ à¸Ħ +Ġ×§ צת +Ġn ằm +Ġh òa +bilit Ãł +ĠìĹĨ ëĭ¤ +Ġ׼ פ×Ļ +ÑĢ Ð¾Ð¶ +лаг а +Ġ×Ķש ×Ļ +ĠNgo Ãłi +ĠÙĪ Ø¬ +ĠÙĪØ¬ ÙĪØ¯ +ĠìľĦ íķľ +Ġus ÅĤug +Ġtu ần +d ź +×ŀ ×ķף +ĠاÙĦع دÙĬد +Ġch ẳng +สุà¸Ĥ à¸łà¸²à¸ŀ +Ġ×ij ×ĵר×ļ +ĠÑģеб е +ĠìŀĪ ìĿĦ +ĠاÙĦØŃ اÙĦ +Ġd á +Ġc ưá»Ŀi +Ġnghi ên +ie ÅĦ +ĠD ương +ï¼ ħ +Ø´ د +ãģĦãģ¤ ãĤĤ +ĠвÑĭб оÑĢ +Ġc á»Ļng +ש ×Ļ׳×ķ×Ļ +Ġch ạy +Ġ×ij×¢ ׾×Ļ +اخ بار +íķĺ ë©° +ż Äħ +ج از +Ġ׳ ר×IJ×Ķ +ศ ู +ศู à¸Ļ +ศูà¸Ļ ยà¹Į +×Ĵ ×¢ +Ġ×¢ ×ĵ×Ļ +Ġ×¢×ĵ×Ļ ×Ļף +بر ا +ÑĨи й +ĠÄIJ á»ĵng +ÙĤ اÙĨÙĪÙĨ +ĠÄij ứng +ãģĹãģŁ ãĤĬ +Ġ×Ĺ×Ļ ×Ļ +Ġë IJľ +ĠëIJľ ëĭ¤ +Ġм еждÑĥ +à¸ŀวà¸ģ à¹Ģà¸Ĥา +ĠB ắc +ล ำ +ë° ± +ĠíĻ ķ +มาà¸ģ ม +มาà¸ģม าย +бан к +à¸Ńา à¸ģาร +Ġh Ãł +Ġ׾ ׳ +à¸Ń à¸Ń +Ġë°Ķ ë¡ľ +л ом +m ática +ĠØŃ د +اب ت +à¸Ĺีà¹Ī à¸Ļีà¹Ī +Ġco ÅĽ +ÙģÙĬ دÙĬ +ÙģÙĬدÙĬ ÙĪ +ĠмеÑģÑĤ о +Ġph út +มาà¸ģ à¸ģวà¹Īา +×IJ פ +ب ÙIJ +ĠPh ú +ì± Ħ +ĠÙĪ Ø³ÙĦÙħ +à¸Īี à¸Ļ +поÑĤ ÑĢеб +Ġ×Ĺ×ĵ ש×ķת +Ø´ ÙĪ +Ġעצ ×ŀ×ķ +ĠعÙħÙĦ ÙĬØ© +à¸Ħุà¸ĵ à¸łà¸²à¸ŀ +ãģ¾ãģĻ ãģĮ +دع ÙĪ +طر ÙĤ +à¹Ħมà¹Ī à¸ķà¹īà¸Ńà¸ĩ +ë² Ķ +ìĬ ¹ +Ġk ÃŃch +ĠìĹĨ ëĬĶ +ĠÑĤ ам +ĠÙĨ ØŃÙĪ +ĠاÙĦÙĤ اÙĨÙĪÙĨ +×Ĺ ×ķ×Ŀ +Ġk ız +Ġ×ĵ ×Ļף +ĠвÑĢем ени +ãģ£ãģŁ ãĤĬ +ĠØ´ Ùĩر +ĠìĦľ ë¹ĦìĬ¤ +×¢ ש×Ķ +Ġgi ác +ĠاÙĦسÙĦ اÙħ +Ġ×IJ ש +ĠполÑĥÑĩ а +à¸Īัà¸Ķ à¸ģาร +к оÑĢ +Ġ×Ķ×ĺ ×ķ×ij +ราย à¸ģาร +주 ìĿĺ +à¹ģà¸ķà¹Ī ละ +Ġê·¸ëŁ° ëį° +à¸Ĺีà¹Ī à¹Ģà¸Ľà¹ĩà¸Ļ +Ġת ×ķ×ļ +بÙĬ اÙĨ +Ð Ļ +oÅĽci Äħ +ÑĤ ок +ĠÃ Ķ +ĠÃĶ ng +à¹Ħมà¹Ī à¹ĥà¸Ĭà¹Ī +ãģ¿ ãģ¦ +ÐŁ о +ĠЧ ÑĤо +íĻ © +×ĺ ×ij×¢ +меÑĤ ÑĢ +Ġ×ij ×ŀ×Ķ +Ġ×ij×ŀ×Ķ ×ľ +Ġ×ij×ŀ×Ķ׾ ×ļ +Ñĩ ÑĮ +×§ ש×Ķ +з нак +знак ом +uj ÄĻ +×Ļצ ר +ĠاÙĦÙħ ÙĦÙĥ +ı yla +×IJ×ŀ ת +à¸Ľ ิà¸Ķ +×IJ ×Ĺ×ĵ +ر اد +Ġm áºŃt +ëĭ¤ ëĬĶ +Ġl ạnh +ש׾ ×ķש +ØŃ دÙĬØ« +ت ز +å¹´ ãģ® +Ġк ваÑĢ +ĠкваÑĢ ÑĤиÑĢ +ä½ľ ãĤĬ +رÙĪ Ø¨ +ов ан +ĠТ е +à¸Īำ à¸ģ +à¸Īำà¸ģ ัà¸Ķ +ب اط +×Ĵ ת +Ġм аÑĪ +ĠмаÑĪ Ð¸Ð½ +×Ļצ ×Ķ +ãģ» ãģ¨ +ãģ»ãģ¨ ãĤĵãģ© +ÃŃ do +ĠÑı зÑĭк +à¸ļ ิà¸Ļ +สà¸ĸาà¸Ļ à¸Ĺีà¹Ī +ĠìĹ ´ +ãĤ¦ ãĤ§ +Ġc Ãł +п ан +åı£ ãĤ³ãĥŁ +Ġر د +اÙĤ ت +ĠÙĥ ب +ĠÙĥب ÙĬرة +ÑģÑĤ ал +ש×ŀ ×Ĺ +pos ición +ĠÙħÙĦÙĬ ÙĪÙĨ +ĠìĿ´ ìķ¼ +ĠìĿ´ìķ¼ ê¸° +Ġh út +ĠÅĽw iat +Ġë°© ë²ķ +ĠÑģв еÑĤ +Ġвиде о +ĠاÙĦÙĨ ظاÙħ +Ġtr á»Ŀi +ĠëĮĢ íķ´ìĦľ +ר ×ŀת +ت داÙĪÙĦ +×ķר ×ĵ +ת ×ŀ +ת×ŀ ×ķ׳×ķת +Ġ×ŀ ף +Ġдв а +Ġ×Ķ×§ ×ķ +æĹ¥ ãģ« +Ġ×Ķ×Ĵ ×Ļ×¢ +à¹Ģà¸ŀิà¹Īม à¹Ģà¸ķิม +Ùħار س +Ġê²ĥ ìŀħëĭĪëĭ¤ +ãģªãģĦ ãģ¨ +Ġnhi á»ĩt +ëIJ ©ëĭĪëĭ¤ +Ġ×ij׳ ×ķש×IJ +Ġê°Ģ ìŀ¥ +Ġv ợ +ĠÄij óng +צ×Ļ׾ ×ķ×Ŀ +ê´Ģ ê³Ħ +в аÑı +×IJ ×Ļ×ĸ +×IJ×Ļ×ĸ ×Ķ +ĠÙĨ ظاÙħ +ÙħØŃ اÙ쨏 +Ġt ải +기 ëıĦ +à¸Ľà¸±à¸Ī à¸Īุ +à¸Ľà¸±à¸Īà¸Īุ à¸ļัà¸Ļ +׼ ×ĵ×ķר +ĠìķĦ ìĿ´ +׼׳ ×Ļס +à¹Ģ à¸ķร +à¹Ģà¸ķร ียม +Ġngo ại +ĠدÙĪÙĦ ار +Ġr ẻ +Ġkh Äĥn +عد د +Ø´ عب +czy Äĩ +ĠاÙĦ Ùĥر +ĠÑĩеловек а +ĠÙĪ Ø¥ÙĨ +×IJ ×ĺ +Ġth Æ¡ +ĠاÙĦ رÙĬاض +оп ÑĢедел +опÑĢедел ен +×Ķ ×ŀש×ļ +ĠÐĿ ово +з Ñĭва +ĠاÙĦدÙĪÙĦ ÙĬ +ĠÄij áp +Ġк ÑĢед +ĠкÑĢед иÑĤ +ов ого +Ġm ôn +à¸Ľà¸£à¸° à¹Ĥย +à¸Ľà¸£à¸°à¹Ĥย à¸Ĭà¸Ļ +à¸Ľà¸£à¸°à¹Ĥยà¸Ĭà¸Ļ à¹Į +ÑģÑĤ е +ĠTh á»ĭ +د ÙĬØ© +×ŀצ ×ķ +Ùģ Ø§Øª +×§ ×ĵ×Ŀ +ìĿ´ëĿ¼ ê³ł +ÙĪ Ø® +Ġ×Ĺ ×ĸ +ĠÑĦоÑĤ о +׾ ×Ļת +ت Ùİ +ÙĪ Ø¨Ø± +й ÑĤи +ĠÃ¶ÄŁ ren +Ġ×Ķ×ĸ ×ķ +Ġv á»įng +ÙĤÙĪ Ø© +ĠT ây +ĠÐĿ и +Ġש ×ķ×ij +ãģ¨è¨Ģ ãĤıãĤĮ +ãģ© ãĤĵãģª +׊צ×Ļ +ï½ ľ +Ġ×ķ×Ķ ×ķ×IJ +ä¸Ģ ãģ¤ +ĠÑģÑĤо иÑĤ +ni Äħ +×ĺר ×Ļ +ĠдеÑĤ ей +нÑı ÑĤÑĮ +ĠÑģдел аÑĤÑĮ +Ġë§İ ìĿ´ +ä½ķ ãģĭ +ãģĽ ãĤĭ +à¹Ħ หม +à¸ķิà¸Ķ à¸ķà¹Īà¸Ń +Ġ×ij ת×Ĺ +Ġ×ijת×Ĺ ×ķ×Ŀ +ìĻ Ħ +ì§Ģ ëĬĶ +ÑģÑĤ аÑĤ +ÑıÑģ н +ü b +Ġth ả +Ġ×ij×IJ×ŀ ת +Ġt uyến +×ĵ ×Ļר×Ķ +Ġ×IJ ×Ļש×Ļ +×ĸ׼ ר +ãģ° ãģĭãĤĬ +Ġx ét +׼ ×Ļ×ķ +׼×Ļ×ķ ×ķף +diÄŁ ini +ĠاÙĦÙħ ÙĪØ¶ÙĪØ¹ +Ġh áºŃu +à¸Īาà¸ģ à¸ģาร +×ijס ×Ļס +Ġ×ŀ×Ĵ ×Ļ×¢ +×ij ×Ļ×¢ +ĠÙĪ Ø¬Ùĩ +à¹ģà¸Ķ à¸ĩ +à¸Ļ าà¸ĩ +ĠÅŀ a +ì ¡´ +ë¡ Ģ +à¸ķ ะ +Ġ×Ķ×Ĺ×Ļ ×Ļ×Ŀ +Ùģ ÙĬد +ãģ§ãģĻ ãģĭãĤī +ê· ľ +ź ni +ĠлÑİ Ð´ÐµÐ¹ +Ġyüz de +ıy orum +ĠاÙĦ بØŃر +e ño +п аÑĢ +ÙĬ ÙĤØ© +об ÑĢ +ר ×ķ×ļ +ت ÙĪÙĤع +ĠاÙĦØ´ ÙĬØ® +åĪĿ ãĤģãģ¦ +ĠÑĤ елеÑĦ +ĠÑĤелеÑĦ он +Ġth ôi +Ġ×Ļ׼×ķ׾ ×Ļ×Ŀ +ĠÅŁ irk +ĠÅŁirk et +Ġìļ°ë¦¬ ê°Ģ +ĠÄij ông +Ġת ×ķ×ĵ×Ķ +ÑģмоÑĤÑĢ ÐµÑĤÑĮ +ĠÙĦ ÙĩÙħ +Ġ׾ ׼ +ĠN ó +ĠØŃ اÙĦØ© +ãģĦ ãģij +קר ×ķ +az ı +ãĤ³ ãĥ¼ +ĠÙĦÙĦ ت +s ınız +ĠH ải +기 ìĪł +ยัà¸ĩ à¹Ħมà¹Ī +ëĭ¤ ê³ł +פ ×Ĺ +Ġ׾×Ĵ ×ij×Ļ +Ġع ÙĨÙĩ +Ġк аз +Ġказ ино +ب ÙĪØ± +ÑĦ еÑĢ +Ġê°Ļ ìĿ´ +تس جÙĬÙĦ +ĠاÙĦÙħ رÙĥز +ĠTh ái +д аÑĤÑĮ +×ŀ×Ļ ×Ļ׾ +Ġpay laÅŁ +ãģ¤ ãģ® +à¹Ģร ืà¸Ń +n ça +׳ ×ķ×Ĺ +Ġ×IJ פ×Ļ׾×ķ +ãģ¨ èĢĥãģĪ +ãģ¨ãģĹãģ¦ ãģ¯ +à¹Ģà¸Ī à¸Ń +×ŀ פ +Ġg iriÅŁ +л иÑĤ +ÑĤ елÑı +Ñij н +æ°Ĺ ãģ« +Ġg ó +Ġgó p +åĪĩ ãĤĬ +Ġ×Ķ ×Ĺ×ĵש +ж ал +Ġ×ĵ עת +éģķ ãģĨ +à¹Ģà¸Ĥà¹īา à¹Ħà¸Ľ +Ġס ר×ĺ +e ña +æĸ° ãģĹãģĦ +ر Ùİ +ĠÐIJ ÑĢ +Ġph ản +à¸Īะ à¹Ħà¸Ķà¹ī +Ġ×ijצ ×ķר×Ķ +Ø´ اÙĩ +شاÙĩ د +ÙĪØ± د +à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ à¸Īาà¸ģ +или ÑģÑĮ +à¹ģละ à¸ģาร +Ġ×Ķ ×ĸ׼ +Ġ×Ķ×ĸ׼ ×ķ×Ļ×ķת +ei ÃŁ +ãĥ ¨ +ìĥ Ī +ĠÃĩ a +Æ ¯ +ש ×Ĵ +ÙĬÙĨ Ø© +ร à¹īà¸Ńà¸ĩ +ãĤµ ãĥ³ +ÑĢоÑģÑģ ий +ÑĢоÑģÑģий Ñģк +a ÄŁa +ĠнаÑĩ ина +Ġص ÙĦÙī +à¸Ĺุà¸ģ à¸Ħà¸Ļ +íļĮ ìĤ¬ +Ġли ÑĨ +Ø´ ÙĬر +ĠØ´ÙĬ Ø¡ +ÙĬÙĨ ا +Ġפ ×Ĺ×ķת +Ġiçer is +Ġiçeris inde +ĠØ£ ØŃÙħد +Ġże by +ì´ Ŀ +Ġп оказ +Ġи менно +หà¸Ļัà¸ĩ ส +หà¸Ļัà¸ĩส ืà¸Ń +ĠÑĤÑĢ Ðµ +สัà¸ĩ à¸Ħม +Ø¥ ÙIJ +ãģĮ å¿ħè¦ģ +ÙĬÙij Ø© +פ צ +íĭ ° +ĠÙħ جاÙĦ +׳ פש +к ан +×Ĺ ×ķפ +×Ĺ×ķפ ש +ì²ĺ ëŁ¼ +ов аÑı +з ов +Ġh ạ +Ġdzi ÄĻki +×Ļר ×ķ +Ġ׾ ×ŀצ +Ġ׾×ŀצ ×ķ×IJ +×Ļ×ĵ ×ķ +Ġs ợ +Ġ׾×Ķ ×Ĵ×Ļ×¢ +×§ ×ij×¢ +Ġchi á»ģu +ãĥŀ ãĤ¤ +Ġd Ãłng +à¹ģà¸Ł à¸Ļ +Ġü ye +×Ļ׳ ×Ĵ +à¹Ģรีย à¸ģ +ç§ģ ãģĮ +th é +ĠÑĦ илÑĮ +ĠÑĦилÑĮ м +ĠNg Ãły +Ġж ен +Ġжен Ñīин +ج ÙĬد +n ç +à¸Ľ รา +×Ļ×ŀ ×ķ +Ġn á»ģn +×IJ ×ķ׾×Ŀ +Ġвозмож ноÑģÑĤÑĮ +Ġëĭ¤ ìĭľ +è¦ĭ ãģŁ +à¸ĸ à¸Ļ +à¸ĸà¸Ļ à¸Ļ +mız ı +ĠÙħ جÙħÙĪØ¹Ø© +c jÄħ +ĠÐł Ф +à¸ģำ หà¸Ļ +à¸ģำหà¸Ļ à¸Ķ +ĠìŬ 기 +land ı +ни ÑĨ +ÑģÑĤв е +Ġ×ĵ ×ijר×Ļ×Ŀ +Ġsk ÅĤad +ãĤĬ ãģ¾ãģĹãģŁ +ĠоÑĤ кÑĢÑĭÑĤ +нÑı ÑĤ +ĠÑģво ей +à¸Ī ิà¸ķ +ĠкаÑĩеÑģÑĤв е +Ġet tiÄŁi +ìĤ¬ íķŃ +ĠاÙĦÙĬ ÙħÙĨ +иÑĩеÑģки й +ë¸ Į +Ġ×ij×IJר ×¥ +Ġا سÙħ +Ġиз веÑģÑĤ +r ão +Ġatt ivitÃł +à¹Ģà¸Ľà¹ĩà¸Ļ à¸ģาร +ĠاÙĦد Ùĥت +ĠاÙĦدÙĥت ÙĪØ± +ĠÙĪØ§ØŃد Ø© +ĠÑģ ÑĩеÑĤ +ĠпÑĢ Ð¸Ñĩ +ĠпÑĢиÑĩ ин +ĠÙĪØ² ارة +Ġh uyá»ĩn +ĠÙĥ تاب +à¹ģà¸Ļ à¹Īà¸Ļ +à¹ģà¸Ļà¹Īà¸Ļ à¸Ńà¸Ļ +Ġgün ü +г ÑĢÑĥз +ĠاÙĦØ® اص +Ġgör ül +׾ ×ŀ×ĵ +Ġìłķ ëıĦ +×ķ×ij ×Ļ׾ +Ġ×ŀ×§ צ×ķ×¢×Ļ +ĠоÑģоб енно +à¸Ľà¸£à¸° à¸ģา +à¸Ľà¸£à¸°à¸ģา ศ +aca ģını +ë¶ ģ +à¸łà¸¹ มิ +ĠÑį лекÑĤ +ĠÑįлекÑĤ ÑĢо +Ġ×§ ש×Ķ +سÙĦ Ø· +à¸Ĭà¸Ļ ะ +×¢ ×Ļ׾ +ĠЧ е +à¹ģà¸Ļ à¹Ī +lı ÄŁ +lıģ ın +Ġ×ŀ×¢ ×¨×Ľ×ª +好ãģį ãģª +มาà¸ģ à¸Ĥึà¹īà¸Ļ +×ŀ×¢ ×ijר +ĠاÙĦÙħ غرب +ĠпеÑĢ Ð¸ +ĠпеÑĢи од +Ġnh ạc +ا ÙĪÙĬ +ĠÙĪ Ø¹ÙĦÙī +أخ ذ +ĠC ô +תר ×ij×ķת +×Ĵ ×Ķ +Ġktóre j +×IJ ×Ļת +×ij ×ķ×IJ +д елÑĮ +รี วิ +รีวิ ว +ж Ñĥ +Ġ×ij×Ĺ ×ķ +еÑĪ ÑĮ +ĠØ£ ÙĦÙģ +ĠاÙĦÙĪ Ø·ÙĨÙĬ +ĠاÙĦÙħÙĨ Ø·ÙĤØ© +nÄħ Äĩ +Ġthi ên +иÑĩеÑģк ой +ĠاÙĦÙħ ÙĦ +Ġع Ùħ +ס פר +Ġnh óm +ÙĪØµ Ùģ +ĠCh úng +Ġر ÙĤÙħ +ãģ¾ãģĹãģŁ ãģĮ +al ité +ล ม +ĠëĤ´ ê°Ģ +׾ק ×ķ×Ĺ +ĠS Æ¡n +pos ição +mi ÄĻ +Ġtr ánh +ĠÄIJ á»Ļ +׼ ×Ĺ +ãģĤ ãģ£ãģ¦ +à¸Ńย à¹Īา +Ġ×ŀ×Ĺ ×Ļר +Ġ×Ķ ×Ļת×Ķ +à¸Ľ à¹Īา +à¸Ńืà¹Īà¸Ļ à¹Ĩ +Ø´ ÙĤ +×ł×¡ ×Ļ +ë¦ ¼ +ãģ¦ãģĹãģ¾ ãģĨ +Ġ×ŀ צ×ij +ãģ« åĩº +ÙħÙĪØ§ Ø·ÙĨ +ยัà¸ĩ มี +алÑĮ нÑĭе +san ız +Ø¥ سرائÙĬÙĦ +ĠvÃł i +ì¤ Ħ +ã썿ĢĿ ãģ£ãģ¦ +×Ļ ×ķ׳×Ļ +çĶŁ ãģį +Ġs âu +Ñĩ иÑģÑĤ +Ġl á»ħ +ĠGi á +à¸Ńุ à¸Ľ +à¸Ńà¸¸à¸Ľ à¸ģร +à¸Ńà¸¸à¸Ľà¸ģร à¸ĵà¹Į +Ġnh ẹ +r ö +ס ×ĺ×Ļ +ãģķãĤĵ ãģĮ +Ġd ầu +ع Ùİ +ت را +×Ĵ×ĵ ׾ +Ġtécn ica +׼ ׳×Ļ×Ŀ +תק ש +תקש ×ķרת +Ġн его +ét ait +Ġm á»ģm +Ñģ еÑĤ +Ġnh áºŃt +Ġ×ŀ ×¢×ľ +Ġ×Ķ×¢ ×ij×ķ×ĵ +Ġ×Ķ×¢×ij×ķ×ĵ ×Ķ +Ġ×Ĵ ×Ļ׾ +ãģ¯ ãģªãģĦ +ائ ØŃ +Ġз деÑģÑĮ +×IJ ×Ļ׳×ĺר +Ùħ ÙIJ +Ġ×Ļ ×Ĺ×ĵ +ر اÙģ +ì²ĺ 리 +×ĵ ×¢×ķת +ì¹ ľ +ĠТ о +ĠTh ế +ì¶ © +Ġ׳׼ ×ķף +عÙĬ Ø´ +ни з +Ġج اÙĨب +×ŀ×§ צ×ķ×¢ +à¹Ĥ à¸ĭ +Ñģ ÑĥÑĤ +ìĸ´ ìļĶ +ãĤĴè¦ĭ ãģ¦ +ار د +Ġaç ıl +ĠاÙĦØŃ ÙĬاة +à¸ģà¹ĩ à¹Ħà¸Ķà¹ī +ãģĿãĤĮ ãĤĴ +عض ÙĪ +Ġг ÑĢаж +ĠгÑĢаж дан +à¸Īะ à¸ķà¹īà¸Ńà¸ĩ +ĠìĿ´ 룬 +ĠìĿ´ë٬ íķľ +Ġtr ách +ÙĨ Ùİ +Ġkı sa +Ã Ķ +ÑĪ ÐºÐ° +ãģ® äºº +ĠÐŁ оÑģ +ĠÐŁÐ¾Ñģ ле +Ñĥ лÑĮ +ÙĪØ§ جÙĩ +ÙĤ رب +à¸Ľà¸ıิ à¸ļัà¸ķิ +ê° Ļ +Ġ×ŀ ׳ +ĠÑģво и +بر اÙħج +Ġر ÙĪ +пÑĢ Ð¾Ð´ +пÑĢод аж +Ġby ÅĤy +วั ย +Ġgör ün +ĠÃ Ī +ÑİÑī им +ĠÑĤак ой +Ùģ ÙĪØ± +ĠÙģ Ø¹ÙĦ +Ġб ел +ëIJ ł +er ÃŃa +ĠÑģво Ñİ +Ġl ã +Ġlã nh +à¹Ģà¸ŀืà¹Īà¸Ń à¹ĥหà¹ī +ÙĤ ÙĨ +تط ÙĪÙĬر +Ġsay ı +ĠÑģ ейÑĩаÑģ +Ġ×IJ×Ĺר ת +×§ ×ķפ×Ķ +×§×ķר ס +Ġس Ùħ +Ġ×ĺ ×Ļפ×ķ׾ +ìĿ´ëĿ¼ ëĬĶ +دراس Ø© +èµ· ãģĵ +×Ĺ ×Ļ׳ +×Ĺ×Ļ׳ ×ķ×ļ +×ĵ ×§ +Ġë§ ŀ +Ġком анд +ĠÐij о +Ġиг ÑĢÑĭ +à¸ļ ี +ĠØ£ Ùİ +в ен +ĠاÙĦج دÙĬد +ĠÙĦ Ø¥ +Ġ×ķ×IJ ׳×Ļ +Ġ×Ķס ×Ļ +иÑĩеÑģк ого +رÙĪ ØŃ +à¸ģาร ศึà¸ģษา +ĠTr ưá»Ŀng +иг ÑĢа +ıl ması +Ġм аÑģÑģ +ãģ¨ãģį ãģ« +à¸Ĺีà¹Ī à¸ľà¹Īาà¸Ļ +à¸Ĺีà¹Īà¸ľà¹Īาà¸Ļ มา +ĠاÙĦساب ÙĤ +Ġ×ŀ×¢ ×ĺ +в аÑĤÑĮ +m Ã¼ÅŁ +Ġ׾ ׼×ļ +Ġt á»ĭch +Ùģ ÙĩÙħ +تد رÙĬب +Ø´ Ùĥ +Ġ×ij ×ŀ×Ļ +Ġ×ij×ŀ×Ļ ×ķ×Ĺ×ĵ +ÙĤØ· اع +ãģª ãģĹ +×ķצ ×Ļ×IJ +ĠÙĪ Ø³ÙĬ +з Ñĥ +Ġy at +Ġyat ırım +ë§ İ +Ġth ắng +ãģĬ 客 +ãģĬ客 æ§ĺ +ĠThi ên +ãģ«å¯¾ ãģĹãģ¦ +ÑĢ Ð¸Ñģ +ÙĨت ائ +ÙĨتائ ج +Ġ×ŀ שר +Ġ×ŀשר ×ĵ +Ġتع اÙĦ +ĠتعاÙĦ Ùī +ש ׳×Ļ +Ùĩ اÙħ +×IJ׳ ש×Ļ×Ŀ +Ġżyc ia +ĠÑĢÑĥб лей +ÙĬ ض +Ġkat ıl +ĠÙħ ÙĪØ¶ÙĪØ¹ +Ġvard ır +ĠÙħÙĨ Ø·ÙĤØ© +ĠTr ần +Ġв еÑģ +ü p +Ùħ ÙĪÙĨ +ÑĪ Ð»Ð¸ +Ġn óng +Ø® ÙĦÙģ +ĠС ÑĤа +Ġд оÑĢ +ĠдоÑĢ Ð¾Ð³ +ĠwÅĤa ÅĽnie +eÄŁ in +Ġhi á»ĥm +ĠС ам +ê»ĺ ìĦľ +ĠÑĦ а +ãģ» ãģĨ +ãģ»ãģĨ ãģĮ +×ķפ ×Ļ×¢ +ê° Ī +د ÙĪÙĦ +Ġthu ê +Ġch á»Ĺ +Ġëĭ¹ ìĭł +ãģij ãĤĮ +ãģijãĤĮ ãģ© +ë³´ íĺ¸ +ãģķãĤĮ ãģ¦ãģĦãģ¾ãģĻ +Ġнад о +ĠìĤ¬ëŀĮ ëĵ¤ +à¹Ģà¸Ĥ à¸ķ +สม ัย +z ÅĤ +ت ÙĪØ± +Ġש ת×Ļ +v ê +Ġ×ijת ×ķ×ļ +à¸Ĭ ัย +ãģĦ ãģ£ãģŁ +ìĿ ij +Ġt ầ +Ġtầ ng +ש ׼ר +Ġê¸ Ģ +Ġ×Ķש ׳×Ķ +Ġا ÙĨÙĩ +ç«ĭ ãģ¡ +r és +füh ren +ر ØŃÙħ +ê· ¹ +ĠâĢ « +Ġsu ất +à¸Ł ิ +ÙĬ Ùĩا +ĠاÙĦ اتØŃاد +Ġt uyá»ĥn +ãģ¾ ãĤĭ +Ġm ại +Ġng ân +ãĤ° ãĥ© +欲 ãģĹãģĦ +س ار +ãĤĤãģ® ãģ§ãģĻ +ки е +Ġseç im +åħ¥ ãĤĬ +ãģªãģ© ãĤĴ +ÑĤ ÑĢи +ĠÑģп еÑĨ +ĠØ£ د +Ġод но +ÑĪ ÐµÐ» +ãĥĩ ãĥ¼ãĤ¿ +ãĤ· ãĤ¹ãĥĨ +ãĤ·ãĤ¹ãĥĨ ãĥł +è¡Į ãģį +ã썿ĢĿ ãģ£ãģŁ +à¹Ģà¸ģิà¸Ķ à¸Ĥึà¹īà¸Ļ +ĠÑĤ ож +ĠÑĤож е +Ġs ạch +ĠÑģ ÑĢок +Ġкли енÑĤ +ĠÙħØ´ رÙĪØ¹ +Ġalt ında +Ġì ·¨ +ä¸Ń ãģ® +ãģķãģĽ ãĤĭ +ãģĻ ãģ¹ +ãģĻãģ¹ ãģ¦ +ê°ľ ë°ľ +ĠÄij êm +ãģªãģĦ ãģ®ãģ§ +ì² ł +×¢ ×ij×ĵ +Ġd ấu +à¸Ħà¸Ļ à¸Ĺีà¹Ī +ĠC ách +تع ÙĦÙĬÙħ +Ġh ại +ãĤ» ãĥķãĥ¬ +ĠÙĨÙ쨳 Ùĩ +ĠíĨµ íķ´ +ÑĪ Ð»Ð¾ +Ġнап ÑĢав +ĠнапÑĢав лен +ÑĢÑĥ Ñĩ +íĶ Į +Ġ×ijר ×Ļ×IJ +ãģ® ãģ¿ +ãģ«ãģĬ ãģĦãģ¦ +×ij ׳ק +ãĤ¨ ãĥ³ +Ø«ÙĦ اث +Ġm ỹ +ĠÑģай ÑĤе +Ġе мÑĥ +ت غÙĬ +تغÙĬ ÙĬر +خص ÙĪØµ +ÑĤе ли +Ġ×ķ׾ ׼ף +פע ×Ŀ +Ġпо ÑįÑĤомÑĥ +ر اÙĨ +иÑĤел ей +пиÑģ ан +×¢ ×¥ +ĠìĤ¬ ìĹħ +Ùħ ز +جÙħ ÙĬع +ë©´ ìĦľ +à¸ľà¸¥à¸´à¸ķ à¸łà¸± +à¸ľà¸¥à¸´à¸ķà¸łà¸± à¸ĵ +à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵ à¸ij +à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵà¸ij à¹Į +ĠпÑĢ Ð¸Ð¼ÐµÑĢ +ãĤŃ ãĥ¼ +l â +Ġch Äĥm +缮 ãģ® +ãģĦ ãģĭ +ãģ¨è¨Ģ ãģĨ +×ĸ ×ķ×Ĵ +Ġ×ij ×ĵ×Ļ +Ġ×ij×ĵ×Ļ ×ķ×§ +ãģĬ åºĹ +à¸ķà¸Ńà¸Ļ à¸Ļีà¹ī +Ġph á»iji +п ÑĤ +สà¸Ļ าม +Ø· ÙĪ +ص اØŃ +صاØŃ ب +ĠD ü +ĠDü nya +Ġп ока +п ал +ĠÄij ảo +ĠاÙĦÙģ ÙĪØ± +ĠاÙĦÙģÙĪØ± Ùĥس +Ġmá u +кÑĢ ÐµÐ¿ +ĠاÙĦس اعة +ĠгоÑĢ Ð¾Ð´Ð° +Ùģ ØµÙĦ +ай ÑĤе +Ġд ог +Ġдог овоÑĢ +ĠØ¥ ذ +Ġ×ij׼׾ ׾ +ÙĬ تÙĩ +×Ĵ ×ijר +Ġbir ç +Ġbirç ok +문 íĻĶ +ãģĿãģĨ ãģª +را ØŃ +ĠÙħ رة +ĠденÑĮ ги +f ä +à¸Ĥà¹īา ว +ĠÑģов ÑĢем +ĠÑģовÑĢем енн +׾×Ĺ ×¥ +èī¯ ãģı +ĠÙģ Ø£ +Ġ×ķ ×ĸ×Ķ +Ġз ани +Ġзани ма +Ġê°Ģì§Ģ ê³ł +Ġh Æ¡i +ãģªãģ® ãģĭ +ãĥĨ ãĥ¬ãĥĵ +Ġר ×ij×ķת +à¸ķ ี +Ġ×ijש ×ł×ª +ĠT ại +Ġthu áºŃn +Ñģ ел +Ñij м +dzi Äĩ +ĠÑģ ка +ĠÑģка Ñĩ +ĠÑģкаÑĩ аÑĤÑĮ +×ķ×ŀ ×ķ +г ла +Ġмин ÑĥÑĤ +åĩº ãģĻ +Ġ×Ĺ×Ļ ×Ļ×ij +Ġת ×Ĵ×ķ×ij×Ķ +à¸£à¸¹à¸Ľ à¹ģà¸ļà¸ļ +ни ÑĨа +Ġİ n +ĠØ£ ع +Ġض ÙħÙĨ +Ùħ ثاÙĦ +ĠyaÅŁ an +ĠìŰ 구 +ĠL ê +ש׾ ×Ĺ +ãģı ãģªãĤĭ +ìĹĨ ìĿ´ +ĠÑĤ ÑĢи +ĠÑĩаÑģÑĤ о +Ġоб ÑĢаÑĤ +п ло +د Ø® +دخ ÙĪÙĦ +س Ùĩ +à¸Ń าà¸ģ +à¸Ńาà¸ģ าศ +Ġ׼ ×ĸ×Ķ +Ġ×Ķ×¢ סק +ĠاÙĦØ£ ÙĨ +å¹´ ãģ« +×¢ ש×ķ +Ġש ×¢×ķת +Ġm Ãłn +×IJר ×Ļ +sı yla +Ù쨱 ÙĤ +ни Ñħ +Ġت ست +è¦ĭ ãģ¦ +ØŃا ÙĪÙĦ +×IJ ×Ļ׼×ķת +ĠbaÅŁ ladı +st Äħ +stÄħ pi +à¸Ĺีà¹Ī à¹Ģรา +ÙĤر ر +ج اب +Ġ×ijר ×ķר +à¹Ģà¸Ĥà¹īา à¹ĥà¸Ī +×ŀ׊קר +al ım +Ġס ×Ļפ×ķר +ãģ§ãģĤ ãĤĮãģ° +Ġש×ŀ ×ķר×ķת +Ġ×ķ ×ŀ×Ķ +ãģĵ ãģĿ +id ée +ä¸ĭ ãģķãģĦ +تÙĨا ÙĪÙĦ +Ġ ลà¹īาà¸Ļ +Ġìļ°ë¦¬ ëĬĶ +اÙĨ ا +ÑģÑĤ ой +б оÑĤ +ĠyaÅŁ am +kö y +Ø¥ ÙĦ +ÑĢ Ñĭв +기 ìĹħ +Ġ×Ķ×ŀ ×ĵ +Ġ×Ķ×ŀ×ĵ ×Ļ׳×Ķ +د ب +×¢ ×Ļ׳×Ļ +×ŀ ת×Ĺ +Ġפ ר×Ļ +ãĥĭ ãĥ¼ +اÙħ ÙĬ +Ġnh ằm +ãĤĮ ãģªãģĦ +ت عرÙģ +Ġë§Ī ìĿĮ +ìĵ ° +Ġh ấp +ר×Ĵ ×Ļ׾ +ب Ùİ +Ġr Äĥng +gl Äħd +ĠÑģиÑģÑĤем Ñĭ +Ġkh óa +ãģ§ãģĻ ãĤĪãģŃ +大ãģį ãģı +기 를 +Ġké o +ÙĪ Ø¡ +ج اÙħ +جاÙħ ع +Ġ×¢ ×Ļצ×ķ×ij +t éri +Ġת ש +Ġ×IJ ×ij×Ļ +ĠCh ương +à¸ļริ à¹Ģว +à¸ļริà¹Ģว à¸ĵ +ãģ¤ ãģı +Ġ×Ĺ ×ķ׾ +עת ×Ļ×ĵ +ש ×Ļ×ŀ×Ķ +ëĤ ¨ +Ġש×IJ ×Ļף +ĠÙĪØ§ÙĦ Ø¥ +ÑĦ а +Ġkh ám +Ġ×ĺ ×ķ×ij×Ķ +ĠвÑĭ Ñģ +ĠвÑĭÑģ око +ĠاÙĦØŃ دÙĬØ« +人 ãĤĤ +d Ã¼ÄŁÃ¼ +×Ļ×Ĺ ×ķ×ĵ +تع ÙĦÙĬ +تعÙĦÙĬ ÙĤ +l ö +تØŃ دÙĬد +н его +ĠÑĥд об +Ġ׾ ×ŀ×Ļ +Ġר ×ķצ×Ļ×Ŀ +Ġج اء +Ġ×ij ×ĸ×ŀף +à¸Ľà¸ģ à¸ķิ +é«ĺ ãģı +à¸Ľà¸¥ า +Ġart ık +Ġbug ün +×§ ׳×Ļ +Ġkho á +ĠÙħ رÙĥز +ĠìŀIJ 기 +در جة +×ŀש ר×ĵ +Ġgi ấy +Ġch óng +×§ פ +ÙĬب Ø© +ĠczÄĻ sto +в али +Ùĥ ب +ìŁ ģ +ส à¸ļาย +à¸Ľà¸£à¸°à¸Ĭา à¸Ĭà¸Ļ +×Ĵ ×ķ×£ +ëŁ ī +ãģ® ãģĵãģ¨ +ล à¸Ń +Ġngh á»ī +åŃIJ ãģ© +åŃIJãģ© ãĤĤ +à¹Ħà¸Ķ à¹īà¸Ńย +à¹Ħà¸Ķà¹īà¸Ńย à¹Īาà¸ĩ +×ĵ ×¢ +ĠاÙĦت Ùī +ĠÑģов еÑĤ +Ġqual itÃł +åĩº ãģĹ +ĠÑĢÑĥк ов +ĠÑĢÑĥков од +ราย ละà¹Ģà¸Ńียà¸Ķ +ãģªãģĭ ãģªãģĭ +기 ê´Ģ +Ġ×Ĺ ×ķש +Ġ×Ĺ×ķש ×ij +л оÑĤ +à¸Ļะ à¸Ħรัà¸ļ +×§×ij ×ķצ×Ķ +Ġth ái +Ġש ×ij×Ķ +ĠÑĪ ÐºÐ¾Ð» +ĠÙĦ ÙĥÙĦ +à¹ĥà¸Ļ à¸Ĭà¹Īวà¸ĩ +ĠÙħ ÙĥاÙĨ +ë ķĮ +Ġc ải +ĠCh ÃŃ +ÑĥÑĩ а +ìĿ µ +Ġx ảy +à¸Ĭà¸Ļ ิà¸Ķ +Ġc áºŃu +к ÑĢов +ss é +ĠÙĨ ÙĪØ¹ +ĠТ а +Ø® Ùħس +פ×ķס ×ĺ +Ġm ắc +ĠÄij em +à¸ģาร à¹ĥà¸Ĭà¹ī +ר ×ķס +ĠÐĽ е +Ġth á»Ń +รà¹Īาà¸ĩ à¸ģาย +üz ü +æĹ¥æľ¬ ãģ® +ê³¼ ìłķ +ש ×Ļ×IJ +ĠìŀĪ ê³ł +×ij ×ķ׾ +ìķ ħ +ĠÙĪØ§ÙĦ ا +ĠÐĽ и +ĠвÑģ Ñij +Ġużytk ow +×Ĺ ×ķ׾ +ر Ù쨶 +Ġson uç +ãģĦ ãģ¾ãģĽãĤĵ +ìĤ¬ ìĹħ +ëĪ Ħ +ÑĤ ек +Ġud ziaÅĤ +л ез +Ġ×Ķ×Ļ ×Ļת×Ļ +ãĤīãĤĮ ãģ¦ +Ùħس ؤÙĪÙĦ +ر ار +ÑĤ ан +ĠÄij Ãło +Ġר ×ķ×ij +Ġ×ijש×ij ×Ļ׾ +ä»ĬåĽŀ ãģ¯ +ãĤ¸ ãĥ¥ +Ġ×¢ ×ijר +ãģĽ ãģ¦ +п олÑĮ +ak lı +Ġk ÃŃnh +د ت +лож ение +ĠاÙĦÙħ ص +ĠاÙĦÙħص رÙĬ +à¸Īริà¸ĩ à¹Ĩ +ĠاÙĦشر ÙĥØ© +ĠÄij á»ı +ãĥĽ ãĥĨ +ãĥĽãĥĨ ãĥ« +Ñį кон +Ñįкон ом +ĠÙĪ Ø¹ÙĨ +Ġת ׳ +Ġ×ª×ł ×IJ×Ļ +ĠاÙĦدÙĪÙĦ ÙĬØ© +Ġì§Ģ ìĹŃ +ãģ§ãģĻ ãģĭ +Ġв аÑĢи +ĠваÑĢи анÑĤ +ĠاÙĦع رب +ел а +Ġt Æ°á»Ľng +sk Äħ +Ġm ặc +ส ัà¸ģ +ãĥĵ ãĥ¼ +Ġ×ij ×Ĵ׾ +Ġ×ij×Ĵ׾ ׾ +ãĥķãĤ¡ ãĥ³ +×ij ×Ļצ +×ij×Ļצ ×ķ×¢ +ли ÑģÑĤ +à¸Ł ุ +à¸Łà¸¸ à¸ķ +à¸Łà¸¸à¸ķ à¸ļà¸Ńล +à¸Ŀ à¹Īาย +ìŀIJ ìĿĺ +Ġس ÙĪÙģ +Ġש ×Ķת +Ġê± ¸ +×¢ ×ij×ķ×ĵ +ãģĻãĤĭ ãģĵãģ¨ãģĮ +ĠÑĩа ÑģÑĤÑĮ +ãĤ¢ ãĥ¡ãĥª +ãĤ¢ãĥ¡ãĥª ãĤ« +Ġtak ım +Ġs Ỽ +ĠsỼ m +שר ×Ķ +è¨Ģ ãģĨ +л ан +ì» ¤ +׼ ׳×Ķ +ÙĪÙģ ÙĬ +íĹ Ī +lu ÄŁu +ĠëĮĢ íķ´ +Ġ׾×ij ×Ļת +Ġ×Ķר×IJש ×ķ׳×Ķ +ص Ùħ +Ġsö yled +Ġsöyled i +à¸Ľ าà¸ģ +Ġard ından +ãģĪ ãģŁ +à¸Ĺัà¹Īว à¹Ħà¸Ľ +Ġ׳×ķס ×£ +б олÑĮ +ãĤĵãģ§ãģĻ ãģijãģ© +ĠлиÑĪ ÑĮ +Ġ×ij ×IJ×Ļ +ĠбÑĭ ÑģÑĤÑĢо +ส ัà¸Ļ +Ġ×ij פ׳×Ļ +л еÑĩ +ĠاÙĦØ® بر +Ġsó c +Ġth ú +Ġп ÑıÑĤ +ãģĬ é¡ĺ +ãģĬé¡ĺ ãģĦ +ÑĤ ин +ãģ«ãģ¤ãģĦãģ¦ ãģ¯ +פ ף +Ġдв ÑĥÑħ +à¸į ีà¹Ī +à¸įีà¹Ī à¸Ľ +à¸įีà¹Īà¸Ľ ุ +à¸įีà¹Īà¸Ľà¸¸ à¹Īà¸Ļ +оп еÑĢ +ĠاÙĦب شر +ĠاÙĦÙħ اÙĦ +ıyor uz +تØŃ ÙħÙĬÙĦ +à¸ģ ะ +éĸĵ ãģ« +×Ĺ ×ķש +ĠNg uyên +ãģĦãģ¦ ãģĦãĤĭ +дÑĥ ÑĪ +ש פע +ÑĪ Ñĥ +å®Ł éļĽãģ« +ĠÑĢай он +ĠCh á»ī +ÙĨ صر +Ġìļ ´ +Ġìļ´ ìĺģ +Ġ×Ķ×ĵ ×Ļף +ØŃد د +ر ز +ĠاÙĦد Ùħ +ĠPh áp +ÑĤ ÑģÑı +è¦ĭ ãģĪ +Ġti á»ĥu +Ġs á»Ńa +а ÑİÑĤÑģÑı +ĠB á +Ġ×ķ ׼׾ +Ð ĸ +ÑĪ Ð¸Ð¼ +ìĿ´ ëĬĶ +л ев +d ık +Ġprés ente +Ġara ç +صد ÙĤ +Ġпом ог +ĠاÙĦشر ÙĤ +ĠÙĪØ§ÙĦ ذÙĬ +رÙĬ ا +×ij ׳×ķת +Ġng á»ĵi +ר ×ķפ +ר×ķפ ×IJ +Ġth ấp +ãĤĦ ãģ¯ +ãĤĦãģ¯ ãĤĬ +ĠاÙĦج دÙĬدة +éĿŀ常 ãģ« +ÙĬÙĦ ÙĬ +ìª ½ +تع اÙħÙĦ +ãģł ã썿ĢĿãģĦãģ¾ãģĻ +Ùħ Ùħ +иÑĤе ли +ãĤµãĤ¤ ãĤº +اد ات +ĠاÙĦÙħ اÙĦÙĬØ© +Ùĥات ب +к ли +веÑĢ Ñħ +ни Ñĩ +Ġ×ľ×¢ ×ij×ķ×ĵ +׾ ×Ļ×Ķ +ØŃ Ùİ +ãĤ¤ ãĥĻ +ãĤ¤ãĥĻ ãĥ³ãĥĪ +Ġת ×Ĵ×ķ×ij×ķת +ÑĦ он +ĠдÑĢÑĥг ие +×IJ ×ĸ×ķר +Ġper ò +ìķ ŀ +åĢŁ ãĤĬ +ר צ×Ļ +×IJ ×ĸ +алÑĮ нÑĭÑħ +Ġê²ĥ ìľ¼ë¡ľ +ĠпÑĢав о +ĠاÙĦØ£ رض +à¹Ģà¸Ĺ à¸Ħ +à¹Ģà¸Ĺà¸Ħ à¹Ĥà¸Ļ +à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļ à¹Ĥล +à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥล ย +à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥลย ี +צ ר×Ļ +ĠÐļ Ñĥ +ıl ma +決 ãĤģ +ا ÙĪ +Ġ×ĵ ×§×ķת +à¸Ħร ู +ĠÙħست ÙĪÙī +à¸Ľ à¹īà¸Ńà¸ĩ +à¸Ľà¹īà¸Ńà¸ĩ à¸ģัà¸Ļ +×ĵ ×ķ×ŀ×Ķ +ĠÑģ егоднÑı +س ÙĪÙĤ +ר×Ĺ ×ķ×ij +ĠØ¥ دارة +Ñħ ож +éģİ ãģİ +à¸Ħ à¸Ń +нÑĥ л +×ķ׼ ×Ķ +ÙĪ Ø§ÙģÙĤ +׼׾ ׾ +Ġ×Ķ ×ĵ×ķ +Ġl Ä©nh +Ġkh ảo +×IJ×ŀ צע +ë¨ ¸ +Ġ׼ ×Ļצ +Ġ׼×Ļצ ×ĵ +Ġдолж нÑĭ +หว ัà¸ĩ +ãĥĩ ãĤ¶ +ãĥĩãĤ¶ ãĤ¤ãĥ³ +Ġng á»Ŀ +ä¸Ń ãģ« +à¸ģลัà¸ļ มา +جÙħ اÙĦ +à¸Ķัà¸ĩ à¸ģลà¹Īาว +س ÙĥÙĨ +س ÙĨ +Ġözellik le +з еÑĢ +rz ÄĻ +×ŀ ×ķר×Ķ +Ġl ạ +×ŀ ×Ļ׳×Ļ +ר ×Ļת +ãģĿãĤĮ ãģĮ +ãģĭ ãĤĮ +ĠÙĬÙħÙĥÙĨ Ùĥ +öff entlich +г ан +ĠاÙĦØŃ ÙĦ +ĠmiÄĻd zy +ĠÑĩа ÑģÑĤи +ujÄħ cy +ĠbaÄŁ lı +ĠiliÅŁ ki +Ùģ Ø§Ø¡ +ãĥª ãĥ³ãĤ° +Ġhã ng +ĠконÑĤ ÑĢ +ĠконÑĤÑĢ Ð¾Ð» +к оп +ש ×Ļ×¢ +ש×Ļ×¢ ×ķר +ĠÐĴ аÑĪ +Ġ×Ķ ×ª×§ +ÙħÙĨ ع +ĠpolÃŃt ico +Ġг олов +ĠØ¥ ÙĬ +Ø¥ ÙĨتاج +à¸ļ ิ +Ġг овоÑĢ +ĠговоÑĢ Ð¸ÑĤ +Ġph á»ķ +ĠÑģем ÑĮ +ãģ¯ ãģĤãĤĬãģ¾ãģĽãĤĵ +ĠÙĪ Ø§Ø³Øª +×ŀש פ×ĺ +з ем +×ŀ×ĵ ×ijר +Ġíģ ° +ĠìĿ´ ë²Ī +ê°Ģ ëĬĶ +Ġì§Ģ ìĽIJ +Ġca ÅĤy +Ġgeli ÅŁtir +Ñģк ое +pos é +Ġkh ô +à¸ķิà¸Ķ à¸ķาม +miss ão +Ġ׾ ×ŀר +Ġ׾×ŀר ×ķת +Ġb ó +à¸ķรวà¸Ī สà¸Ńà¸ļ +Ġngh á»ģ +Ġб из +Ġбиз неÑģ +ÑģÑĤ еÑĢ +ÙĪ Ùİ +楽 ãģĹãģ +楽ãģĹãģ ¿ +ãģĵãĤĮ ãģĭãĤī +wiÄħ zan +ส à¸Ńà¸Ļ +Ùħ ÙĪØ± +׳×ĵ ׾ +Ġ×Ķ×IJ ×ĵ×Ŀ +Ġм олод +ØŃ Ùħا +ØŃÙħا ÙĬØ© +ÑģÑĤ ÑĢан +Ġbu á»ķi +ת×Ļ ×Ļ×Ŀ +abile ceÄŁi +L İ +à¹Ģย à¸Ńะ +à¸Ī ร +س ÙĥاÙĨ +à¸Ļ ัà¸Ķ +Ġm ấy +ĠÐij а +s ÅĤaw +ĠÙģ ÙĦا +ĠкоÑĤоÑĢ Ð¾Ð¹ +Ġпло Ñī +ĠплоÑī ад +ãĤĤ ãģĤãĤĬ +sz czÄĻ +×Ļפ ×ķ +ש×ŀ ת +owa ÅĤa +Ġn ông +צ×ij ×IJ +ĠìŀĪ ìĹĪ +ãģ¾ ãģ¨ +ãģ¾ãģ¨ ãĤģ +ÙĤÙĪ Ø§Øª +ãģ¿ ãĤĵãģª +Ġ׼ ×ŀ×¢×ĺ +Ġx úc +ï¼ Ĩ +r ÄĻ +rÄĻ cz +×ĵ ×ŀ×Ļ +Ġt áºŃn +à¸Ķ วà¸ĩ +ê²½ ìłľ +п ÑĥÑĤ +Ø£ ربع +Ġ×ŀ שת×ŀש +ãĤ¿ãĤ¤ ãĥĹ +Ġìłľ ê°Ģ +Ġ׾ ׼ף +ĠобÑĢаз ом +ÙĬÙĥ ا +w ÅĤ +wÅĤ asn +ĠاÙĦÙĪØ·ÙĨ ÙĬØ© +بÙĬ ب +×ŀ ׾×Ļ +к ÑĢаÑĤ +기 ìĹIJ +ÙĤ اد +ĠÙĦ دÙī +à¸Ħวาม รูà¹ī +×ŀ×ĵ×Ļ׳ ×Ļ×ķת +ê² ¨ +Ġíĺ Ħìŀ¬ +ש ת×Ļ +м ол +Ġmá i +à¸ŀิ ม +à¸ŀิม à¸ŀ +à¸ŀิมà¸ŀ à¹Į +หล วà¸ĩ +Ġx uyên +×Ĺ ×¡×¨ +رÙĪ ÙĨ +ãģĿãģĨ ãģĦãģĨ +ãģĿãĤĮ ãģŀ +ãģĿãĤĮãģŀ ãĤĮ +Ġ׼ ש×Ķ +ÐŁ ÑĢав +×ŀ×ij צע +ع رب +Ġbü yü +פ×Ļת ×ķ×Ĺ +à¸Ī à¸ļ +ĠØ£ Ùĥبر +שר ת +×ŀ׼ ש×Ļר +ĠÙĪ Ùħع +ãģ® ãģŁãĤģãģ« +à¸Ļ ัà¸ļ +ì° ° +ãĥª ãĥķãĤ© +ãĥªãĥķãĤ© ãĥ¼ãĥł +Ġc ưá»Ŀng +ĠìłĢ íĿ¬ +ÙħÙĨظ ÙħØ© +Ġhiç bir +ãģ§ãģ¯ ãģĤãĤĬãģ¾ãģĽãĤĵ +ร à¸Ńย +ëIJľ ëĭ¤ +ãģĻãģIJ ãģ« +к ла +Ġürün ler +Ġki á»ĥu +ĠëĤĺ ëĬĶ +ÑĤ ки +Ñģ им +Ġchá»ī nh +ãĤĤ ãģªãģĦ +ศ รี +æĽ¿ ãģĪ +ta ÅŁ +Ġب ÙĥÙĦ +Ġ×ķ ×Ļש +vis ão +ä¼ Ŀ +ä¼Ŀ ãģĪ +ÙĦ د +׾ ×Ļ×ŀ +׾×Ļ×ŀ ×ķ×ĵ +t ória +د Ùij +اÙħ ر +Ġê·¸ëłĩ ê²Į +Ġmateria ÅĤ +à¸Ĺ รา +à¸Ĺรา à¸ļ +ã쮿ĸ¹ ãģĮ +ãģ¦ ãģįãģŁ +ض غ +ضغ Ø· +ĠÙĬ عÙĨÙĬ +ел о +×IJ×Ķ ×ij×Ķ +×¢ ×ŀ +ÅŁ ık +ìŀIJ ëĬĶ +ãĤ¿ ãĥ³ +Ġb áºŃt +×ŀשפ ×Ĺ×Ķ +к ÑĢи +б ли +สั à¸ķ +สัà¸ķ วà¹Į +ĠسÙĨ ÙĪØ§Øª +ĠPh ương +ãģ¦ãģĹãģ¾ ãģ£ãģŁ +ãģª ãģľ +Ġ×ij×IJ ×ķ +Ġc án +س جÙĦ +Ġl ẽ +ãĤ± ãĥ¼ãĤ¹ +Ġ×§ ×Ļ×ij׾ +à¸ļà¸Ĺ à¸Ħวาม +Ġ×ķ ׼ף +ĠпÑĢедÑģÑĤав лен +Ġn á»iji +Ġcoment ário +ени ем +Ġtá» ı +l Ãł +Ġש×Ķ ×Ļ×Ķ +Ñģл ав +ĠاÙĦ ÙĪÙĦا +ĠاÙĦÙĪÙĦا ÙĬات +ÙĦج ÙĨØ© +×§×ķר ×IJ +бÑĭ ÑĤ +Ġì ¦ +Ġì¦ ī +ãģ§ãģĻ ãģĹ +หรืà¸Ń à¹Ħมà¹Ī +за ÑīиÑĤ +ÙģÙĦ سطÙĬÙĨ +Ġmi á»ħn +à¹Ģย à¹ĩà¸Ļ +ĠçalÄ±ÅŁ an +×Ļ×Ĵ ×Ķ +ĠE ÄŁ +ĠEÄŁ itim +ãĥĥãĤ· ãĥ¥ +Ġоп Ñĭ +ĠопÑĭ ÑĤ +ر غ +رغ ب +ĠÑģво иÑħ +à¸Ľà¸£à¸° à¸ķ +à¸Ľà¸£à¸°à¸ķ ู +Ġ×ŀ×IJ ×ĵ +׼ ×ķ׳×Ļ×Ŀ +à¸Ļ ี +ĠвÑĭ Ñħод +ãģ®ä¸Ń ãģ« +פ ׾×IJ +ĠÙĪ ÙĦÙĬس +פ×ķר ס +פ×ķרס ×Ŀ +Ùħ سÙĦÙħ +Ġng ôi +×ĵ ×ŀ×ķת +ãĤĴ使 ãģ£ãģ¦ +ĠпомоÑī ÑĮÑİ +Ø£ سر +бл ок +ÙĤ Ùĩ +ãģĹãģ¾ ãģĦ +ãģ¨ ãģĹãģŁ +Ġп еÑģ +ãĥī ãĥ« +×Ĺ ×Ŀ +ãģĹãģª ãģĮãĤī +ĠÐŁ ÑĢед +ãĥģãĤ§ ãĥĥãĤ¯ +å¼· ãģĦ +ש ×Ļר×ķת +д аеÑĤ +×Ļ×ij ×ķ +Ġgen ç +ил аÑģ +илаÑģ ÑĮ +ĠبÙĦ د +æĤ ª +æĤª ãģĦ +Ġ×ŀ שת +æ§ĺ ãĢħ +æ§ĺãĢħ ãģª +à¸ĺรรม à¸Ĭาà¸ķิ +ĠÙĥ اÙħÙĦ +ĠاÙĦس Ùħ +×ij×ĺ ×Ļ×Ĺ +c á +g ência +ãĤ¹ãĤ¿ ãĥ¼ +à¸Ĺำ à¸ģาร +×Ļ׾ ת +Ġ×Ļ ×ķצ×IJ +w ój +à¸ļุ à¸Ħ +à¸ļุà¸Ħ à¸Ħล +ع تÙħ +عتÙħ د +ãģĿãĤĮ ãģ« +ĠاÙĦت ارÙĬØ® +ÙĤر اء +Ġyönet im +×§ שר +ĠÑģп оÑĢÑĤ +Ġר×IJש ×ķף +Ġseñ al +Ġch ắn +çĦ¡ ãģĦ +ĠдоÑģÑĤ аÑĤ +ĠдоÑģÑĤаÑĤ оÑĩно +Ġá gua +à¸ģร à¸ĵ +à¸ģรà¸ĵ ี +Ġ×ŀש ×ķ +Ġtr ải +ë² Į +ujÄħ cych +Ù쨱 د +à¹ĥ à¸ģล +à¹ĥà¸ģล à¹ī +ãĤĭ ãģ®ãģ¯ +ר×ķ ×ķ×Ĺ +ÙĨ Ùĥ +ĠاÙĦÙĨ ÙĤ +ãģ®ãģ§ ãģĹãĤĩãģĨ +ãģ®ãģ§ãģĹãĤĩãģĨ ãģĭ +Ùħ عرÙģ +ÙħعرÙģ Ø© +ÑĥÑī е +Ġ×ij×¢ ×Ļקר +ت صÙĦ +Ġ×Ķ×IJ ר +Ġ×Ķ×IJר ×¥ +ĠÅŀ i +à¸Ĥา à¸Ķ +íŀ ĺ +ãģªãĤĵ ãģ¨ +ĠìĤ¬ëŀ ij +l Ã¼ÄŁÃ¼ +ب اء +ĠاÙĦØ¢ خر +Ġfam ÃŃlia +ĠTh áng +Ñī ениÑı +ãĤ¯ ãĥŃ +ĠTh ứ +æĽ¸ ãģį +ен ной +ìŀ ¡ +бл аг +благ о +п ов +à¹ģ ว +à¸ĩ à¸Ħà¹Į +à¸Ńัà¸Ļ à¸Ķัà¸ļ +ãģĤ ãģĴ +ร à¹īาย +ün ün +Ġ×Ļ׼×ķ׾ ×Ķ +з он +ĠÐľ и +маÑĤ еÑĢиал +Ġë³´ ë©´ +ØŃÙģ Ø¸ +ê Ìģ +ãģ« ãģĻãĤĭ +Ġת ×IJ +Ġ×Ķס ×ķ +ĠÑģÑĤ оÑĢ +ĠÑģÑĤоÑĢ Ð¾Ð½ +ãĥĪ ãĥĥãĥĹ +ÅĤo ÅĽÄĩ +ëħ ¼ +ëĵ Ŀ +ĠÙĪØ§ÙĦ ع +ì¶ Ķ +Ġ×Ļצ ×IJ +ĠÑĢаз дел +алÑĮ наÑı +×IJ׳ ש×Ļ +spo ÅĤ +spoÅĤ ec +spoÅĤec zn +Ø¥ عÙĦ +إعÙĦ اÙĨ +ÙĤÙĪ Ùī +íķĺë©´ ìĦľ +تط ÙĪØ± +Ġsi êu +Ỽ t +д ви +дви ж +Ġqu ần +k ıl +ĠпÑĢи зна +ĠH ã +ĠHã y +ĠباÙĦ ت +man ın +ãĤ« ãĥ« +Ġk á»· +×§ ׾×Ļ +ëIJĺ ì§Ģ +تعÙĦ Ùħ +ìĭľ ìĦ¤ +ìĭ ¶ +íĺ ¼ +Ùĥ ÙĬÙģ +売 ãĤĬ +วิ à¸Ĭา +б ал +ĠØ£ ØŃ +Ġдолж ен +รา à¸ĩ +ราà¸ĩ วั +ราà¸ĩวั ล +Ùħ اء +ج ار +Å ļ +Ġ×ŀ×IJ ×ĸ +ר ×ŀ×Ķ +ãģĭãĤĤãģĹãĤĮ ãģªãģĦ +ét ude +czÄħ c +Ġg ór +×ł×¡ ×Ķ +Ùħ ÙĬد +ĠÐŁ еÑĢе +Ø£ خر +ãģĿãģ® å¾Į +à¹Ģà¸Ķียว à¸ģัà¸Ļ +×ŀ ×Ĵ×ķ +×ŀ×Ĵ×ķ ×ķף +д ов +mas ına +×¢ ׳×Ķ +ãĤ± ãĥĥãĥĪ +ס ×¢ +סע ×Ļ×£ +ĠT ư +Ġt óc +íĻľ ëıĻ +ĠÐŀ д +ĠÐŀд нако +Ġdol ayı +ؤ Ùĥد +ê³Ħ íļį +׾ ר +в еÑĩ +Ġkh ợi +Ġth á»§y +×ĵ ף +ร à¸ģ +à¸ļั à¸ķร +à¹Ģà¸ģ à¹Īา +ĠاÙĦØ« اÙĦ +ĠاÙĦثاÙĦ Ø« +Ġpod rá +ער ×Ļ +ÙĨج اØŃ +Ġkh ắc +ì¸ ¡ +İ M +ãĤ» ãĥĥãĥĪ +ż enia +Ġ׾×Ĺ ×ijר +er Ãł +ì ´Ī +Ġkü ç +Ġküç ük +ات ÙĩÙħ +à¸ĭ à¹Į +Ùħشار ÙĥØ© +ĠاÙĦ بط +Ġd ây +ен нÑĭм +à¸Ĺีà¹Ī à¹Ħมà¹Ī +ÙĤ Ùİ +Ġv ượt +Ġtr ì +Ġwp ÅĤyw +A Åŀ +з о +ĠاÙĦس ÙĬد +à¸Ĺะ à¹Ģล +ĠÑģодеÑĢж а +ع Ø·ÙĬ +ĠاÙĦع ÙĨ +èĢħ ãģĮ +à¹Ģ หà¸Ļ +à¹Ģหà¸Ļ ืà¸Ń +Ġb ÃŃ +Ġüzer inden +ĠV Å© +Ġnu ôi +ÙĨ Ùħ +алÑĮ ного +×¢ ×Ļף +ØŃ ضر +ĠоÑĤ дел +ëª ĩ +ìķ ¡ +ĠÙĦدÙĬ Ùĩ +ìĻ ľ +Ġse ktör +Ġвозмож но +ĠÐĶ Ð¶ +Ġh ô +äºĭ ãģĮ +иÑĢов ание +алÑĮ ной +Ġ미 êµŃ +ر ØŃÙĦ +ĠÑįк Ñģ +пÑĢав лÑı +Ġnh á»Ŀ +ĠÄij ẩ +ĠÄijẩ y +Ùģ Ùĥر +ĠÙĪØ£ ضاÙģ +ãĥIJ ãĤ¹ +ת×ķ׼ ׳×Ļת +ÑĤел ей +ĠØ¥ÙĦÙĬ Ùĩ +ãģ¨è¨Ģ ãģ£ãģ¦ +Ġдв е +Ġch ấp +ĠL ö +à¸Ħล ิ +à¸Ħลิ à¸Ľ +Ġس ÙĪØ± +ĠسÙĪØ± ÙĬا +×ŀ×Ĺ ×ķ +st ä +д об +Ġni á»ĩm +ãģ® å¤§ +פר×ķ ×Ļ×§ +פר×ķ×Ļ×§ ×ĺ +ĠCh âu +Ġ×ŀ×Ķ ×Ŀ +Ñģк им +ĠполÑĥÑĩ иÑĤÑĮ +ÙĬ ÙĪÙħ +Ø« ÙĪØ± +פ×ķ׾ ×Ļ×ĺ +פ×ķ׾×Ļ×ĺ ×Ļ +ĠмеÑģÑı ÑĨ +åħ¨ ãģ¦ +ĠاÙĦÙħ جÙĦس +ĠاÙĦت اÙĦÙĬ +Ġ׊ר +åIJij ãģij +׼ ×ŀ×Ķ +б ед +Ø£ عض +أعض اء +ÙĪÙĦ د +วà¹Īา à¸Īะ +Ġb ánh +à¸Ļิ ย +à¸Ļิย ม +à¸Ľà¸£à¸° à¸ģัà¸Ļ +ÑģÑĤав иÑĤÑĮ +à¸ŀ à¸Ļัà¸Ļ +ĠÑį ÑĦÑĦ +ĠÑįÑĦÑĦ екÑĤив +Ġав ÑĤоÑĢ +ĠÄIJ Äĥng +Ġth Æ°á»Łng +ãĤĴ æĦŁãģĺ +à¸ģัà¸ļ à¸ģาร +å¾Į ãģ« +Ġya ÄŁ +ست اÙĨ +Ġli á»ģn +ãģĦ ãģ¾ +i êu +à¹Ĥà¸Ķ à¸Ļ +ĠÙĦ ذÙĦÙĥ +à¹Ĥรà¸ĩ à¹Ģรียà¸Ļ +צ ×Ļ×Ĵ +ĠاÙĦÙħ عÙĦÙĪÙħات +ç§ģ ãģŁãģ¡ +à¸Ĺีà¹Ī à¸Ħุà¸ĵ +ãģ«ãģª ãģ£ãģ¦ãģĦãĤĭ +×ŀ×ĵ ×Ļ׳×Ķ +ס ׼×Ŀ +Ġв не +à¸ŀ à¸Ļัà¸ģà¸ĩาà¸Ļ +ÑĢ ÐµÐ¹ +à¹Ģà¸Īà¹īา หà¸Ļà¹īาà¸Ĺีà¹Ī +ĠHi á»ĩn +Ġméd ico +ĠتØŃ ÙĤÙĬÙĤ +ÑĮ ÑĤе +miÅŁ ti +ÙĤÙĬ ادة +ãĤı ãģĭãĤĬ +มา à¸Īาà¸ģ +ëħ Ģ +ãģ«éĸ¢ ãģĻãĤĭ +×IJר×Ĵ ×ķף +m ètre +Ġעצ ×ŀ×Ļ +ĠCh úa +รูà¹ī à¸Ī +รูà¹īà¸Ī ัà¸ģ +ì£ Ħ +ëĭ µ +à¹ģà¸Ĺ à¹ī +Ġgeç en +Ġlan ça +ĠاÙĦ بØŃØ« +×ĵ ×ŀ×ķ +ãģ¯ ãģĺ +ãģ¯ãģĺ ãĤģ +Ġdön Ã¼ÅŁ +è¿ij ãģı +à¹Ģส ม +à¹Ģสม à¸Ń +ëĿ ½ +Ġü ç +á» ŀ +ÑĪ Ð°Ñı +à¸Ĺ ร +ØŃ ÙĤÙĬÙĤØ© +à¸Ĥà¸Ńà¸ĩ à¸ģาร +Ġ무 ìĹĩ +Ġ×Ķ ×Ľ×¨ +ĠاÙĦص ÙĬÙĨ +ĠлÑİ Ð´Ð¸ +à¸ķ าย +ب ÙĪÙĦ +Ġvi êm +Ġthi á»ĩu +à¸ģ à¸Ķ +Ġ׾ ×ĵ×ijר +פ ׳×Ķ +×IJר ×ij×¢ +س Ùī +ĠاÙĦسÙĬ اس +ĠاÙĦسÙĬاس ÙĬØ© +yd ı +ÙĪØŃØ¯ Ø© +ĠдеÑıÑĤелÑĮ ноÑģÑĤи +Ġ×ķ×Ķ ×ŀ +п еÑĩ +пеÑĩ аÑĤ +иÑĢов аниÑı +ĠÑģ ог +ĠÑģог лаÑģ +Ġ׼ ×ĵ +Ġ׼×ĵ ×IJ×Ļ +ĠиÑģполÑĮзов аÑĤÑĮ +ס פ×ķר×ĺ +Ġil çe +exp érience +ĠTh á»Ŀi +İ K +à¹Ħà¸Ł à¸Łà¹īา +ëĵ¤ ìĹIJê²Į +à¸Ľà¸£à¸° à¹Ģà¸ł +à¸Ľà¸£à¸°à¹Ģà¸ł à¸Ĺ +Ġmü mk +Ġmümk ün +Ġ×IJ×ķת ׳×ķ +ìĦ± ìĿĦ +ĠìĿ´ ìľł +زÙĬ ارة +Ġolduk ça +r ób +ĠØ£ ÙĨا +Ġ×Ķ ×ij×Ļ +Ñģ ен +×¢ ×Ļקר +×Ļ×ĵ ×ķ×¢ +d zÄħ +Ùħ عÙĦÙĪÙħات +Ø´ اب +Ġpar ça +à¸Ļะ à¸Ħะ +ب اس +ĠÑĤоÑĢ Ð³ +ĠÑĤоÑĢг ов +Ġ×Ĺ ×ĵר +׼ ר×ĺ +׼ר×ĺ ×Ļס +ĠA yrıca +ÃªÌ £ +ìľ ¨ +ĠÑĤак ие +Ġ×ŀצ ×ķ×Ļ +ãĥ©ãĥ³ ãĤŃãĥ³ãĤ° +ש×Ļ×ķ ×ķ×§ +åīį ãģ® +ĠB ảo +Ñī Ñĥ +æĹ© ãģı +ĠPh òng +à¸ŀระ ราà¸Ĭ +פ ×Ĺ×ķת +Ġг л +Ġгл аз +à¸Ĺ à¹Īา +Ġd ạy +ÑĢ Ð¾ÑģÑĤ +à¹Ĥà¸Ķย à¹Ģà¸īà¸ŀาะ +Ġqu áºŃn +Ġ×Ĺ×ijר ×ķת +m ême +mÄ±ÅŁ tı +ĠاÙĦت داÙĪÙĦ +Ġn ạn +Ġ×Ķ ×ĵ×Ļ +ĠاÙĦØ· رÙĬÙĤ +×Ĵ ×ķת +Ġ×Ķ ×ĵר×ļ +ujÄħ ce +Ġch ữ +ãĤĤãģ® ãģ® +ë° Ľ +ãģķãĤĵ ãģ¯ +Ġyard ım +ĠاÙĦع Ùħ +Ġì§Ħ íĸī +Ġ×Ļ ×Ĺ +Ġ×Ļ×Ĺ ×¡×Ļ +ĠاÙĦÙħ دÙĬÙĨØ© +Ġc ú +à¸ģี ฬ +à¸ģีฬ า +Ġni ên +mis ión +׳×Ļס ×Ļ +׳×Ļס×Ļ ×ķף +Ġвоз ÑĢаÑģÑĤ +Ġ×¢×ķש ×Ķ +ĠÙħ دÙĬر +Ñı ÑģÑĮ +ØŃ جÙħ +íĻĺ ê²½ +ĠاÙĦØ£ خرÙī +u ÃŁer +ĠاÙĦعاÙĦÙħ ÙĬØ© +ĠNg á»įc +êµIJ íļĮ +ä¸Ĭ ãģ§ +×Ļ×Ķ ×ķ×ĵ +×Ļ×Ķ×ķ×ĵ ×Ļ×Ŀ +Ùħس اعدة +Ġжиз нÑĮ +ĠпоÑĤ омÑĥ +ĠاÙĦÙħ ÙħÙĦ +ĠاÙĦÙħÙħÙĦ ÙĥØ© +ĠG ör +ر ÙIJ +×ŀ×§ ×ķ×ŀ×ķת +åĩºæĿ¥ ãĤĭ +ÑĦ ÑĤ +ĠìĿ´ ìłľ +ĠÑĢ ÐµÐ¼ +ĠÑĢем онÑĤ +ת ×ķ×ļ +æĻĤ ãģ¯ +ãĤīãĤĮ ãģªãģĦ +alt ı +å®¶ ãģ® +ĠاÙĦØ¥ عÙĦاÙħ +리 ëĬĶ +ãģĭãĤī ãģ¯ +ĠH ạ +ãģĤ ãģ® +×ĵ×Ļ ×ķף +رÙĬ س +Ġsoci etÃł +ĠاÙĦÙĥ بÙĬر +Ġ×ij ×ŀס +Ġ×ij×ŀס ×Ĵר +Ġ×ij×ŀס×Ĵר ת +ĠìŀĪ ìľ¼ë©° +Ġn ặng +Ùĩ Ùī +ĠB Ãł +×ŀר ×ķ +Ġj ÄĻ +ĠjÄĻ zy +ĠjÄĻzy k +Ġ׼ ×ŀ×ķ×ijף +×¢ ׾×Ķ +à¸Ĺีà¹Ī à¹Ħà¸Ķà¹ī +ãģ¾ ãģĹãĤĩãģĨ +×ŀס פר +Т Ðŀ +سÙĬاس Ø© +Ġкажд Ñĭй +ë² ł +t ım +y á»ĩn +ร ีà¹Ī +ĠдеÑĤ Ñģк +วิà¸ĺี à¸ģาร +m ówi +×ĺ×¢ ×Ŀ +×Ķצ׾ ×Ĺ×Ķ +ض ÙĬÙģ +ĠÑħоÑĤ Ñı +ãĤĵãģ§ ãģĦãĤĭ +à¸Ħา à¸Ķ +à¸Ħร à¸ļ +Ġк ÑĥÑĢÑģ +ĠbaÅŁ arı +×ijר ×ķ +ÙĬع Ø© +ĠÐĿ Ñĥ +à¸Ħวาม à¹Ģà¸Ľà¹ĩà¸Ļ +Ġ׾ ×ŀש׾ +Ġì¢ĭ ìĿĢ +Ùħؤس س +Ùħؤسس ات +Ġpréc is +Ġth ảo +à¸ģà¹ĩ à¸Ħืà¸Ń +Ġש ׼׾ +führ ung +ãģĦ ãģ§ +à¹ģละ มี +à¸ģà¹ĩ มี +Ġש ש +м ел +Ġкни г +ĠباÙĦ ÙĨ +ĠباÙĦÙĨ سبة +Ġald ı +ÑĤ ай +Ġ×Ĺ×ĵ ש×Ļ×Ŀ +å®Ł ãģ¯ +ع ÙĪØ§ +ĠìĿĺ 미 +из м +ÑĢабоÑĤ аÑĤÑĮ +Ùģ Øµ +Ġ×ij׳ ×ķסף +ãģ¨ãģĹãģ¦ ãĤĤ +à¹Ģà¸Ľà¹ĩà¸Ļ à¸Ĺีà¹Ī +ĠÑģлед ÑĥеÑĤ +èĢĥãģĪ ãģ¦ +Ġ׼ ×Ļ×ķ×Ŀ +ÑģÑĤ Ñĭ +׼׾׼ ׾×Ļ +æµģ ãĤĮ +ãĤĴ ãģ¤ãģij +Ñĩ аÑĤ +×Ļ׼ ×ķף +×Ļר ×Ļ +ları yla +ãĤ¤ ãĥ¡ +ãĤ¤ãĥ¡ ãĥ¼ãĤ¸ +׳×ĸ ×§ +Ġci ò +Ġs ın +Ġsın ır +à¸Ļ à¸Ħร +к аÑĤ +Ġl á»Ĺi +ëŀ Į +تÙģ Ø§Øµ +تÙģØ§Øµ ÙĬÙĦ +ëĨ ĵ +ĠÙħ ض +il miÅŁ +بار Ùĥ +ÐĿ Ðĺ +Ġth ẩm +Ġ×IJ×ķת ×ļ +ĠпÑĢин им +ĠпÑĢиним а +Ġyö nt +Ġyönt em +Ġ×ŀ×§ ×ij׾ +Ġktó rego +ê· Ģ +شر Ùģ +د اÙħ +ãģĦãĤį ãģĦãĤį +ĠAl ém +Ġgör ü +Ġgörü nt +Ġgörünt ü +د س +ÑĪ ÐºÐ¸ +г ÑĢад +Ġl ạc +Ġs ữa +ãĤīãĤĮ ãģ¾ãģĻ +o Ãłi +Ñī ен +ãģĭ ãģªãģĦ +Ġп оп +Ġпоп Ñĥ +ĠпопÑĥ лÑıÑĢ +ĠاÙĦÙħ ÙĪÙĤع +rä g +ï¼ ¡ +íķ Ħ +ãĤĴè¦ĭ ãĤĭ +اÙħ ا +ĠاÙĦØŃ رب +ĠÐŁ а +Ġ׾ ×IJתר +Ġt á»ijc +×ij ׾×Ķ +ر ئÙĬس +в Ñĥ +ÙĬ دÙĬ +каз ан +Ġ׊ש×ij×ķף +h ôtel +×¢ ×ķ׳×Ķ +ب ÙĨÙĬ +×ŀ ×ķ׾ +Ġд нÑı +éĽ£ ãģĹãģĦ +вед ениÑı +Ġ×ķ ×ŀת +н апÑĢимеÑĢ +ÙĤ ابÙĦ +Ġrésult at +ĠÑĢазвиÑĤ иÑı +ر Ùij +ìłĦ 문 +ĠاÙĦÙħ زÙĬد +ĠìľĦ íķ´ìĦľ +ëĨ į +íĻ ķ +ĠThi ết +íĮ ¨ +malı dır +Ġcz ÅĤ +ĠczÅĤ owie +ĠczÅĤowie k +ĠÙĦ بÙĨ +ĠÙĦبÙĨ اÙĨ +üs ü +ãģªãĤĵ ãģł +Ġżyc ie +ĠÑħоÑĢоÑĪ Ð¾ +æĸ¹ ãģ« +ëĭ¤ ë©´ +иÑĩеÑģ каÑı +ער ×Ļ׼ +ער×Ļ׼ ת +ãģ¾ãģĽãĤĵ ãģ§ãģĹãģŁ +ĠÑģоб ой +Ġg á»Ĺ +Ġдел аÑĤÑĮ +da Äĩ +аÑĢ Ð° +róż ni +à¹Ģล ีà¹ī +à¹Ģลีà¹ī ย +à¹Ģลีà¹īย à¸ĩ +à¸Ŀ าà¸ģ +Ġت ÙĤ +ĠتÙĤ دÙĬ +ĠتÙĤدÙĬ Ùħ +หà¸Ļ ุà¹Īม +Ġmü cade +Ġmücade le +ì§Ģ 를 +ãĤ¤ ãĤ¹ +ĠØ£ ساس +jÄħce go +ĠÅŁ eh +н ÑĤеÑĢ +ÑĨи Ñİ +ï» » +ÑİÑī его +à¹Ĥà¸Ľà¸£ à¹ģ +à¹Ĥà¸Ľà¸£à¹ģ à¸ģรม +Ġmie Äĩ +ØŃÙĥÙĪÙħ Ø© +ãģ§ãģĹãģŁ ãģĮ +×Ļס ×Ķ +ãĤĤãģ® ãĤĴ +Ġ×ŀ ×IJת +สุà¸Ķ à¸Ĺà¹īาย +Ġc Å© +ÙĨ سب +ĠпÑĢ Ð¾Ñĩ +Ġд ней +ĠÑįÑĤи Ñħ +׾ ×ŀת +нÑı Ñı +Ñį к +Ġì§Ģ ëĤľ +มหา วิà¸Ĺยา +มหาวิà¸Ĺยา ล +มหาวิà¸Ĺยาล ัย +d ão +ĠMá y +ĠêµŃ ê°Ģ +à¸ļุ รี +×Ĵ ×Ļ׾ +ĠÑĤÑĭ ÑģÑı +ĠÑĤÑĭÑģÑı Ñĩ +Ùģ Ùĥ +ĠÐĺ Ñģ +è¡Į ãĤıãĤĮ +פר ×ĵ +ãģ¤ ãģį +à¸Ħร à¸Ńà¸ļ +à¸Ħรà¸Ńà¸ļ à¸Ħรัว +à¸Ĥึà¹īà¸Ļ มา +ä»ĬæĹ¥ ãģ¯ +ĠìĤ¬ëŀĮ ìĿ´ +עצ ×ŀ×Ķ +п оÑĢ +ĠK ỳ +Ġ Æ¡n +Ġth Äĥm +Ùģ Ø§ÙĤ +ãģļ ãģ« +Ġ׾ קר +Ġ׾קר ×ķ×IJ +اÙģ ÙĬØ© +Ùħ ÙİØ§ +г аÑĢ +ص ÙĦا +صÙĦا Ø© +Ġ×ŀ ×ĸ×Ķ +lı ģını +Ġ×IJ ×Ļ׳×Ķ +к ÑĢо +Ġng ươi +Ġв ним +Ġвним ание +jÄħ cy +ÙĢÙĢÙĢÙĢ ÙĢ +Ñģ Ñħод +ãģªãĤĵ ãģĭ +×ŀ ×Ļ׾ +Ġ×Ķ×IJ ×Ĺ +ãĤı ãģªãģĦ +ع سÙĥر +ĠìĦ¸ ê³Ħ +ĠÑĩ его +ĠÑģÑĢед ÑģÑĤва +ĠÐł аÑģ +ãģª ãģģ +ÙĨ Ù쨳 +ר×Ļ ×ķף +Ñģ Ñĥд +ĠìĿ¸ ê°Ħ +ĠاÙĦÙħ ÙĤبÙĦ +ÙĨ عÙħ +تÙĪ Ù쨱 +ש ×ij×¢ +ı lm +ılm Ä±ÅŁ +Ġ×ľ×ª ת +تص Ùģ +×Ķפ ×ķ×ļ +à¹ĥà¸Ļ à¸Ľà¸µ +ìĿ´ ê³ł +Ùģ ÙĪØ² +à¸ľà¸¥ à¸ĩาà¸Ļ +ĠGi áo +à¸ļà¸Ńà¸ģ วà¹Īา +Ġd Ä±ÅŁ +ĠdÄ±ÅŁ ında +ì£ ½ +Ġdzie ÅĦ +к ÑĨии +и ÑĨе +ãģ® ä¸Ģ +ع Ø´ +пÑĢ ÐµÑģÑģ +หà¸Ļ à¹Īà¸Ńย +ลัà¸ģษ à¸ĵะ +Ġpossibilit Ãł +à¹Ħà¸Ķà¹īรัà¸ļ à¸ģาร +หย ุà¸Ķ +Ġphi ên +çĶŁ ãģ¾ãĤĮ +Ø· ÙĪÙĦ +ÑĦ ин +f ür +ØŃ ÙĬاة +íĸ ĪìĬµëĭĪëĭ¤ +׼ ׳×ķת +à¸Ľà¸£à¸° ส +à¸Ľà¸£à¸°à¸ª à¸ļ +à¸Ľà¸£à¸°à¸ªà¸ļ à¸ģารà¸ĵà¹Į +ëIJĺ ìĹĪ +Ġkaż dy +Ġl uyá»ĩn +ĠоÑĢганиз аÑĨии +å°ij ãģªãģı +ÑģÑĤÑĢо ен +Ġtécn ico +×§ ×Ķ׾ +Ġ×ķ×IJ ×Ĺ +ĠعÙĦÙĬ Ùĥ +Ñī ение +Ġ×Ķ ×Ļ׾×ĵ×Ļ×Ŀ +ÙĪØ³ ائÙĦ +Ġ×ķ ×Ķת +تÙħ ÙĬز +ĠÑģ казал +Ġпол и +Ġ×Ķ×ŀ ס +ÙĦÙij Ùİ +Ùħؤس سة +Ġ×ŀ ×Ļ×ĵ +ãģ£ ãģ¡ +ĠëĦĪ ë¬´ +à¸ŀ ี +Ġt ặng +Ġt ấn +ר ש×Ŀ +Ġméd ica +Ġ×¢ ×ķ×ŀ +Ġ×¢×ķ×ŀ ×ĵ +ÑĦ оÑĢ +Ùħر Ø© +Ġvat anda +Ġvatanda ÅŁ +Ġдел о +à¸Ļ ม +ãģ¨ åIJĮãģĺ +Ùģ Ùī +Ñģ оÑĢ +Ġ×Ķס ר×ĺ +Ġép oca +ìłķ ì±ħ +ĠÑģвÑıз ан +ض رب +ĠÙĦ ÙĨا +Ġuży wa +ĠاÙĦج ÙĬØ´ +Ñİ ÑĢ +×ijס ×ķ×£ +Ġм Ñĥ +ĠмÑĥ зÑĭк +bilit é +Ġma ç +س Ùİ +ت ÙĦÙĥ +ãģ ¬ +ÙĬ ÙĦا +ÑĪ Ð»Ð° +ÙĢÙĢ ÙĢ +Ġод ной +зв ан +ĠÑģ ÑĢаз +ĠÑģÑĢаз Ñĥ +ÙĨ ظÙħ +را Ùĩ +ĠÙĦÙĩ ذا +׼ ×ķר +Ġ×Ķש ×ij×ķ×¢ +Ġ×Ķש ת +ĠQu ảng +ãĥ« ãĥ¼ +ãģĪ ãģªãģĦ +×ĺ ×IJ +Ġmi á»ģn +ĠPh áºŃt +ĠاÙĦس ÙĪÙĤ +Ä Ĥ +ĠاÙĦج Ùħع +ĠاÙĦجÙħع Ø© +ÑİÑī ей +a ÅĤem +عت ÙĤد +Ø£ ÙĦÙħ +Ñģ ке +ĠìĿ´ íķ´ +ÙĨس Ø® +è¨Ģ ãģĦ +д обав +سب ÙĤ +×¢×ķר ר +ÑĤи п +ãģĿãģĵ ãģ§ +vis ión +عÙĪØ¯ Ø© +ë¨ ¹ +×ŀ ×ĸר×Ĺ +ĠØ¥ ØŃ +Ġ׾×ij ×Ļף +Ġ׾צ ×IJת +Ġyard ı +Ġyardı mc +Ġyardımc ı +İ Z +×§ פ×Ķ +tr é +liÄŁ ini +клÑİÑĩ а +Ġüret im +Ġa yrı +ĠkiÅŁ iler +à¸Ħ à¹īà¸Ļ +à¸Ħà¹īà¸Ļ หา +ĠS á»± +Ġ׼ ס +Ġ×Ľ×¡ ×£ +ĠÑĤак иÑħ +ĠXu ân +Ġл ег +Ġлег ко +Ø«ÙĤ اÙ쨩 +ÐĿ Ðŀ +ãĤ¹ãĤ¿ ãĥĥ +ãĤ¹ãĤ¿ãĥĥ ãĥķ +åIJĪ ãģĦ +Ġ×Ķש ×Ļ×ŀ×ķש +man ız +ĠÐĴ аÑģ +g ün +ìľĦìĽIJ íļĮ +Ġwsp óln +ĠÑģв ое +í ĥģ +à¹Ģà¸Ļ ีย +ÙĪØ¨ Ø© +в Ñıз +ı dır +ëIJĺ ìĹĪëĭ¤ +ĠdeÄŁi ÅŁtir +ãĤĭ ãģĵãģ¨ãģĮ +Ġ×Ĺ×ĵ ש×Ķ +ãĤīãĤĮ ãģ¦ãģĦãĤĭ +×Ĺ×Ļ ×Ļ×ij +ĠÐļ аÑĢ +׳×Ļת ×ķ×Ĺ +Ġ×§×ĺ ף +ר ×ĸ +ÙĪ Øº +èªŃ ãģ¿ +Ġت ÙĤÙĪÙħ +ĠÙĥ اÙĦ +à¸Ŀ ึà¸ģ +Ġë°ľ ìĥĿ +ológ ico +ر اع +à¹ģà¸ģà¹ī à¹Ħà¸Ĥ +ĠÑĢабоÑĤ Ñĥ +ÙĨÙij Ùİ +à¸Ńยูà¹Ī à¸Ĺีà¹Ī +ĠاÙĦØ« اÙĨÙĬØ© +ĠNh ân +Ñħ ваÑĤ +ö ne +Ġع دة +à¹ģ สà¸ĩ +ÑĤ оп +пÑĥÑģ ка +شر اء +ĠÐļ ом +Ġפע ×ķ׾×Ķ +ìĤ¬ ìĿ´ +ìĤ¬ìĿ´ íĬ¸ +è¡Į ãģ£ãģ¦ +Ġ×Ķ ×Ķת +ĠÑģÑĤ оÑĢо +ĠÑģÑĤоÑĢо нÑĭ +در س +à¸ĭ ู +à¸ķà¹Ī ำ +ĠØ£ بÙĬ +под об +ãģ« ãģ¦ +ار تÙģØ§Ø¹ +ĠÙħ ؤ +ик ов +ge führt +มืà¸Ń à¸ĸืà¸Ń +ĠÙĦ ÙĤد +ĠØ£ÙĨ Ùij +سÙĬ طر +ãģ¾ãģļ ãģ¯ +ס ×ĵ +Ñģк олÑĮко +ãģ¿ãģŁãģĦ ãģª +×ĵר ×Ĵ +×¢ ×Ļ×ĵ +à¹ĥหà¹ī à¸ļริà¸ģาร +ĠÐĶ Ð¸ +×ij×¢ ×Ļ×ķת +Ġ×Ķ×Ĺ ×ķ +пиÑģ ÑĮ +ĠاÙĦØ® ÙĦ +б ав +Ġİ lk +ĠاÙĦØ® Ùħ +ĠاÙĦØ®Ùħ ÙĬس +ĠÙĬ ÙĤÙĪÙħ +æĻĤ ãģ® +ĠsÅĤ ow +ĠØ£ ÙĩÙħ +Ø®ÙĦ ÙĤ +ĠØ£ صبØŃ +Ġchứ a +Ġth ác +Ùģ Ø§ÙĦ +Ġch á»Ŀ +ĠاÙĦØ® ار +ĠاÙĦخار ج +ĠاÙĦخارج ÙĬØ© +Ø· ائر +Ġt Ãł +ĠtÃł u +à¸ģล à¹īà¸Ńà¸ĩ +ĠاÙĦÙħر Ø£ +ĠاÙĦÙħرأ Ø© +åħ¨ ãģı +ĠÃĸ n +çļĦ ãģ«ãģ¯ +Ġpiè ce +×Ĵ ×Ļ×ij +ĠاÙĦ ÙĪØ§ÙĤع +ä»Ĭ ãģ® +ĠاÙĦÙħ ÙĤ +cz nÄħ +Ù쨹 اÙĦ +ен ного +ĠÑĦак ÑĤ +ìĭł ì²Ń +ĠÐŀ ни +ĠاÙĦبÙĦ اد +ов иÑĩ +ëı Į +ÑĦ ÑĥнкÑĨи +Ġìĸ´ ëĬIJ +ãĥķãĤ© ãĥ¼ +d ÃŃ +ил оÑģÑĮ +Ùħ Ùī +ĠاÙĦØ£ÙħرÙĬ Ùĥ +ĠاÙĦØ£ÙħرÙĬÙĥ ÙĬØ© +×ĺ ×Ļפ×ķ׾ +íĶĦ ë¡ľê·¸ +íĶĦë¡ľê·¸ ëŀ¨ +Ġש ×ķ׳×ķת +Ø´ ÙħÙĦ +ĠпаÑĢ Ð° +Ġ×Ķ×Ĺ ×ķ×§ +ÙĪØ² ارة +ãģ¨ ãģĻãĤĭ +Ġqu ảng +ĠaÄŁ ır +ĠاÙĦÙĦ ج +ĠاÙĦÙĦج ÙĨØ© +ê¸ ´ +ĠT ân +ج ÙħÙĦ +д ол +à¹ģà¸ŀ à¸Ĺย +à¹ģà¸ŀà¸Ĺย à¹Į +Ġר×IJ ש×Ļ +Ñī ей +Ġçev re +Ġкомп лекÑģ +Ġ×ij ×ŀש×ļ +Ġalt ın +ĠØ£ عÙħاÙĦ +ĠÑģво его +ãĤĪ ãģĦ +×Ĺ׾ ×Ļ×ĺ +×ŀ׳ ×¢ +Ġר ×ij×Ķ +ĠØ£ÙĬضا Ùĭ +×ĸ ׾ +ĠاÙĦسÙĬ اسÙĬ +æĢĿ ãģĨ +קר ×§ +קרק ×¢ +ĠاÙĦÙģ Ø±ÙĬÙĤ +б иÑĤ +×§ ׳×Ķ +ĠØ¥ ÙĨÙĩ +ĠÐĴ ам +Ðł Ðŀ +ãĥĪ ãĥª +å¿ħè¦ģ ãģª +Ġch âu +ç¶ļ ãģij +Ġçöz üm +gÅĤ ow +ع ÙĤÙĦ +売 ãĤĭ +i ết +à¸Ĭิ à¹īà¸Ļ +ĠØŃÙĤ ÙĪÙĤ +Ø·ÙĦ ع +ĠÄij en +ĠÙĥ اÙ쨩 +ãģ® ãģĶ +Ġë ¬ +Ġë¬ ¼ +Ġ물 ë¡ł +Ġرس ÙĪÙĦ +з ам +зам ен +Ġkullan ıcı +×¢ ×ķ׾ +èī² ãĢħ +ÑĪи ÑĢ +Ġ׊ש +Ġwy gl +Ġwygl Äħda +ש ×Ļ×ŀ×ķש +å¿ĺ ãĤĮ +×¢ ×Ļצ×ķ×ij +ĠاÙĦس ÙĪØ±ÙĬ +å°ij ãģªãģĦ +Ġпо иÑģк +สำ à¸Ļัà¸ģà¸ĩาà¸Ļ +Ġ×ŀצ ×ĵ +Ġmü ÅŁ +ĠmÃ¼ÅŁ ter +ĠmÃ¼ÅŁter i +ĠÙħÙĨ ÙĩÙħ +à¸ķำ à¹ģ +à¸ķำà¹ģ หà¸Ļ +à¸ķำà¹ģหà¸Ļ à¹Īà¸ĩ +ÅĽ mie +Ġש ×ł×ª +Ġ×Ķ ×¤×Ļ +פר ש +×¢×ijר ×Ļת +สà¸Ļ ัà¸ļ +สà¸Ļัà¸ļ สà¸Ļุ +สà¸Ļัà¸ļสà¸Ļุ à¸Ļ +è¨Ģ ãģ£ãģ¦ +à¸ģาร à¸Īัà¸Ķ +ĠMo że +из аÑĨии +ứ t +ĠÙĪØ¨ عد +ĠdeÄŁ ild +ĠdeÄŁild ir +Ġת ×ŀ +Ġ×ŀ×ŀ ׳×ķ +話 ãĤĴ +ĠÑĨ ена +Ġth úc +×Ļ×ŀ ×ķף +ĠB áo +ãĤĴ åıĸãĤĬ +å®ī ãģĦ +Ġ×¢×ķש ×Ļ×Ŀ +èĩªåĪĨ ãģĮ +l ée +ãĤĭ ãģ®ãģ§ +иÑĢÑĥ еÑĤ +ãģ¦ ãĤĭ +ست ر +ĠاÙĦØŃ ÙĬ +×Ļ׾ ×ķת +Ġ×Ĺ ×ij +ÙĤر Ø£ +تÙħ ÙĥÙĨ +س ائÙĦ +prü f +ãģĭ ãģijãģ¦ +ĠÑģоб ÑģÑĤвенно +ĠìľĦ íķĺìŬ +׾ ×Ļ×ĺ +ãģĮ å¤ļãģı +ÙĬت Ùĩا +ç«ĭ ãģ¦ +ม à¸Ńà¸ļ +ìĭľ ìŀ¥ +оÑĢ Ð° +Ġs avaÅŁ +×ĺ×Ļ×ij ×Ļ +×ij ׳×ķ +Ùħا ذا +기 ê°Ħ +ãģªãģ© ãģ§ +Ġ×ŀ ת×Ĺ×Ļ׾ +Ġnhi á»ħ +Ġnhiá»ħ m +ка ÑĢ +каÑĢ ÑĤ +Ġ׾×Ķ ×©×ª×ŀש +׳ ×Ļ×Ĺ +اد ÙĬØ© +ราย à¸ĩาà¸Ļ +Ġprzy kÅĤad +Ñī ий +ØŃض ÙĪØ± +Ġh ôn +à Ŀ +ת ×ķצ×IJ×ķת +راب Ø· +Ġb ếp +ĠполÑĥÑĩ и +åĩºä¼ļãģĦ ç³» +à¸Ľà¸¥ à¹Īà¸Ńย +ĠاÙĦØ´ باب +اÙĩ ÙĦ +ä»Ĭ ãģ¾ãģ§ +رج ع +ãĤ¶ ãĥ¼ +ÙĤ Ùģ +ĠGro ÃŁ +ĠíļĮ ìĽIJ +اج ر +Ġ×ij×ŀ קר×Ķ +Ġseg urança +fü hl +ãģ¦ ãģĦãģı +หม à¸Ń +ĠкоÑĤоÑĢ Ð¾Ð¼ +ĠN Äĥm +ĠdÅĤ ugo +ÙħÙĨ ØŃ +ש×ķ ×ķ×Ļ +ĠØ£ÙĬ اÙħ +ส à¸łà¸²à¸ŀ +r zÄħ +شر Ùĥات +ãĤĴ èĢĥãģĪ +д аÑĢ +à¸Ľà¸£à¸° à¸Ĭุม +Ġ×ķ×IJ ×ĸ +i á»ĩn +Ġt ươi +ש ×Ļ×Ĺ +à¸Ń à¹Īà¸Ńà¸Ļ +æĽ¸ ãģĦãģ¦ +Ġng ữ +×ij×Ļ×ĺ ×Ĺ +×ij×Ļ×ĺ×Ĺ ×ķף +Ġs ẵ +Ġsẵ n +ì§Ģ ëıĦ +ĠпÑĢ ÐµÐ¿ +ĠпÑĢеп аÑĢаÑĤ +Ġна ÑĥÑĩ +ĠÃľ nivers +ĠÃľnivers ites +ĠÃľniversites i +Ġ×Ĵ×ĵ ×ķ׾×Ķ +Ġ×Ķ ×ł×ª +Ġ×Ķ×ł×ª ×ij×¢ +ãģ§ãģĤ ãģ£ãģŁ +Ġmies iÄħ +ĠmiesiÄħ c +г ÑĢам +гÑĢам м +Ġبش Ø£ÙĨ +ĠÑħ ÑĢ +×§ ×Ļ×ĵ +×§×Ļ×ĵ ×ķ×Ŀ +Ø´ Ùĥر +Ġ á»ķ +Ġá»ķ n +ãģĮãģĤ ãģ£ãģ¦ +ãģķãĤĮ ãģ¾ãģĻ +Ġ×Ĺ ×ķ×ĵ +Ġ×Ĺ×ķ×ĵ ש×Ļ×Ŀ +ÙħÙĪØ§ جÙĩ +ÙħÙĪØ§Ø¬Ùĩ Ø© +أش خاص +ب غ +à¹Ģรียà¸Ļ รูà¹ī +ãģĹãģ¦ ãģĦãģı +Ġs ạn +å¿ħ ãģļ +׳ ×Ļ×Ĵ +׳×Ļ×Ĵ ×ķ×ĵ +باÙĦ غ +׊ש×ŀ +×Ĺש×ŀ ׾ +Ġnap raw +Ġnapraw dÄĻ +Ø´Ùĩ اد +×IJ ×ķ×Ķ +×IJ×ķ×Ķ ×ij +и ÑĨÑĭ +Ġ×Ķ ×¨×Ľ×ij +ëŀ ij +Ġת ×¢ +Ġ×Ķ ×Ļש +Ġ×Ķ×Ļש ר×IJ +Ġ×Ķ×Ļשר×IJ ׾×Ļ +Ø£ ÙħÙĨ +ÑİÑī аÑı +sk ór +LER İ +Ġ×Ķ×IJ×Ĺר ×ķף +×¢ ׳ק +ĠÙĪ ÙĥÙĦ +ãģĵãģĵ ãģ§ +Ġqu án +liÄŁ in +à¸ģà¸İ หมาย +Ø· Ùħ +Ø£ جÙĩ +أجÙĩ زة +ĠEr doÄŁan +ãģ§ ãģĬ +Ġв ÑĢа +ĠвÑĢа Ñĩ +ĠPh ó +à¸Ĭั à¹Īว +à¸Ĭัà¹Īว à¹Ĥม +à¸Ĭัà¹Īวà¹Ĥม à¸ĩ +Ġph úc +×Ļפ ×ķת +×¢×Ļ ×ķף +Ġduż o +ãĥģ ãĥ¼ãĥł +ĠÙĬ Ùİ +Ġзад аÑĩ +Ġ×Ĵ×ij×ķ×Ķ ×Ķ +Ġ׼ ׼׾ +лож ен +ét at +Ġng Äĥn +èµ· ãģį +ĠTi ến +ص عب +Ġexperi ência +Ø® Ùħ +à¸ģาร à¸Ĺำà¸ĩาà¸Ļ +س ÙĬد +ĠD á»± +ĠкоÑĤоÑĢ Ð¾Ð³Ð¾ +lad ıģı +Ġkh á»ķ +Ġê³Ħ ìĨį +Ñī ик +สà¹Īวà¸Ļ à¸ķัว +з оÑĢ +ÙĨ Ùı +Ġ à¸Ķัà¸ĩ +Ġà¸Ķัà¸ĩ à¸Ļัà¹īà¸Ļ +Ġc ấu +ĠÄij á»ijc +о ÑĦ +ĠاÙĦØ£ عÙħاÙĦ +ãģªãģı ãģ¦ãĤĤ +×ķ׼ ×Ļ×Ŀ +à¹ģ à¸Ľ +ĠB ên +ãĥ¯ ãĥ³ +Ġgi ám +ĠÅŀ u +Ġd áng +ع ÙĦÙĬ +à¹Ģà¸ģ ษ +à¹Ģà¸ģษ à¸ķร +ÙĪØ¬ ب +н нÑĭе +ÙĤ ضاء +à¸Ħว à¸ļ +à¸Ħวà¸ļ à¸Ħุ +à¸Ħวà¸ļà¸Ħุ ม +ãģ¤ ãģ¤ +ĠVi á»ĩc +×ŀ×ij ×ĺ +ש×Ļת ×ķ×£ +Ġв едÑĮ +k aza +kaza ÅĤ +à¸ķำ รวà¸Ī +ãĤ¿ ãĥ« +Ġпов Ñĭ +ĠповÑĭ ÑĪен +ĠS ợ +ĠìĦ¤ ëªħ +ĠÃĩ ünkü +ìĥĿ íĻľ +Ö ¾ +ãĤĮ ãģ¦ãģĦãĤĭ +Ġ×ij ר×IJש +ר ×ķ×Ĵ +Ġо ÑĦи +ĠоÑĦи ÑĨиалÑĮн +ĠÑĥ ÑģÑĤанов +ĠÑĥÑģÑĤанов лен +ĠاÙĦÙħ صر +ĠاÙĦÙħصر ÙĬØ© +ĠÐŁÐ¾ ÑįÑĤомÑĥ +ÙĨ صÙģ +ĠÙĪØ§ÙĦ ÙĨ +Ġh Ãłi +à¸Ħ ิ +ĠApr ès +ì³ IJ +à¹Ģà¸ĭ ีย +×ĵ ×ŀ×Ķ +activ ité +à¸Ħิà¸Ķ วà¹Īา +ÑĤ ÑĢен +à¹Ģ ฮ +ãĥı ãĤ¤ +ãģĮ å¢ĹãģĪ +ен наÑı +Ġìĺ¤ ëĬĺ +ãĥ¢ ãĥ³ +Ġкон еÑĩно +ĠÙħÙĤ ابÙĦ +cl é +Ġh ü +Ġth ẳng +ìłģ ìĿ´ +ĠÐIJ лекÑģ +ĠÐIJлекÑģ ан +ĠÐIJлекÑģан дÑĢ +ãĥŀãĥ³ ãĤ·ãĥ§ãĥ³ +ãģ²ãģ¨ ãģ¤ +ãģª ãģĬ +à¹Ģà¸Īà¹īา à¸Ĥà¸Ńà¸ĩ +ëĵľ 리 +Ø´ اء +ĠsaÄŁ lık +ĠÅŁ imdi +×Ļ×IJ ׾ +تأ Ø«ÙĬر +Ø£ سب +أسب اب +ĠвÑĭполн ен +л ок +ש ×Ļ×ij×Ķ +Ġl ắm +ĠTr Æ°á»Ľc +Ġ×Ķ×¢ ׾ +리 를 +ĠÑĢ ÐµÐ¶ +ĠÑĢеж им +int é +inté gr +×Ĵ ׳×Ļ +ĠاÙĦØ´ عر +Ġmil hões +Ġpeque ño +ãĤ³ ãĥ¼ãĤ¹ +×ķ׼ ×Ĺ +à¹Ģà¸Ĭ à¹īา +شر ÙĤ +Ġh ương +รัà¸IJ à¸ļาล +à¸ģล าย +à¸ģลาย à¹Ģà¸Ľà¹ĩà¸Ļ +Ġпод Ñħод +תש ×ķ×ij×Ķ +ãģıãģª ãģ£ãģ¦ +ĠاÙĦØ£Ùħ Ùħ +ĠH á»įc +ĠwspóÅĤ pr +ĠwspóÅĤpr ac +Ñĩ Ñĥв +ÑĩÑĥв ÑģÑĤв +ÃŃst ico +à¹Ģà¸ģ าะ +ìĽ Ģ +Ġназ ад +ãĤĭ ãĤĪãģĨãģ« +ĠС Ш +ĠСШ ÐIJ +м он +ĠAs ÃŃ +×ķר ×Ĵ +полн ен +×ŀס ׾ +×ŀ×¡×ľ ×ķ׾ +à¹Ģลืà¸Ń à¸Ķ +à¹Ģริà¹Īม à¸ķà¹īà¸Ļ +ĠاÙĦØ¥ Ùħ +ĠاÙĦØ¥Ùħ ارات +צ×Ķ ×¨ +ãĥ¡ãĥª ãĥĥãĥĪ +ĠпоÑĤ ом +в из +ĠÙģ ØªØ±Ø© +å¾Į ãģ® +ÐĿ ÐIJ +×ŀס ר +ÙĬر ÙĬ +pr é +Ġte ÅŁek +ĠteÅŁek kür +Ġöd eme +د اÙĨ +ãģ¾ ãģĹãģ¦ +缮 ãģ« +ĠÑĤ еÑĩение +l ard +lard ır +à¹Ģรา à¸Īะ +ס פ×Ļ +ĠÙĪÙĥ ذÙĦÙĥ +Ġh át +Ġt á»Ļc +à¸Ħุ ย +Ġb ức +ØŃ ÙĬÙĨ +èģŀ ãģĦãģ¦ +Ùħؤ شر +ĠNh ư +Ġмен ее +ละ à¸Ħร +Ñģ ин +ĠÑĢ ÐµÐº +ĠÑĢек л +ĠÑĢекл ам +ĠÙģ ÙĩÙĪ +Ġ׾ ×ĸ +×Ļ׳ ×ķת +ĠÅŁ art +ÑģÑĤав ка +Ġíı¬ íķ¨ +ãģ«è¡Į ãģı +ï¼ Ŀ +ĠпозволÑı еÑĤ +Ġת×ķ׼ ׾×ķ +ов ал +صÙĦ Ø© +Ġ׾ש ׳×ķת +ĠÐĺ гÑĢ +ÙħÙĨتج ات +Ġsat Ä±ÅŁ +Ñģ ко +ĠاÙĦØ«ÙĦاث اء +Ġ×Ķ×ĵ×ijר ×Ļ×Ŀ +ãģĹãģ¾ ãģĹãĤĩãģĨ +بÙĤ Ùī +åĬĽ ãĤĴ +ĠÃĩ ok +ãĥģ ãĥ¥ +à¹Ģà¸Ĭ ืà¹īà¸Ń +ยุ à¸Ħ +ศา ล +Ġ×§×ķ×ĵ ×Ŀ +×ĸר ×Ļ×Ŀ +ãģ® åł´åIJĪ +ĠìķĬ ìķĺ +ãģĤãĤĬãģ¾ãģĻ ãģĮ +×IJ שר +è¡Į ãģı +ãģ» ãģĭ +æ°Ĺ ãģ«ãģªãĤĭ +й деÑĤ +íķĺìĺĢ ëĭ¤ +ستÙħر ار +ĠÐŁÑĢ Ðµ +ĠÑģ боÑĢ +ĠìķĦ 무 +ç§ģ ãĤĤ +ع ص +Ġн иÑĩ +ĠниÑĩ его +ĠпÑĢи ем +×§ ×ķ×ŀ +ĠìĪĺ ëıĦ +Ġì ¡´ +Ġì¡´ ìŀ¬ +ĠØ£ Ø«ÙĨ +ĠأثÙĨ اء +ĠÙĪØ§ÙĦ ØŃ +ãģĮ ãģ§ãģįãĤĭ +Ġת ×Ķ +Ġת×Ķ ×Ļ×Ķ +ר ף +ĠÑģвÑıз и +×Ĵ שת +Ñģп екÑĤ +ס ×ij×Ļ×ij +ס×ij×Ļ×ij ×Ķ +ĠíķĦìļĶ íķľ +ت خصص +Ġж ив +Ġжив оÑĤ +ĠMay ıs +تع ا +تعا ÙĪÙĨ +ĠعÙĨ Ùĩا +ów ki +ĠاÙĦÙģÙĦسطÙĬÙĨ ÙĬ +ãģłãģijãģ§ ãģªãģı +ìĿ¸ ì§Ģ +ĠاÙĦس ÙĪØ¯ +ĠاÙĦسÙĪØ¯ اÙĨ +إجراء ات +Ġkö tü +Ġ×Ļ ×ª×¨ +×Ĵ ×Ļש×Ķ +Ġצ ×ķר×ļ +รà¸ĸ ย +รà¸ĸย à¸Ļà¸ķà¹Į +Ñħ оÑĤ +Ðł ÐIJ +ÙĪ Ø·ÙĨ +Ġsay ısı +ס ×Ĺר +Ùħ ÙĪÙĦ +ãĤĴæĮģ ãģ£ãģ¦ +ع اÙĨ +Ġt á»Ļi +ĠвÑĭ ÑĪе +Ġt ầm +ãĥĪ ãĥ¬ +×Ļצ ×ķ +ม ุม +س ÙĪØ¯ +ìłĦ ìŀIJ +ãĤµ ãĥŃãĥ³ +ìĤ° ìĹħ +ĠоÑģнов ан +Ø® Ù쨶 +רצ ×Ķ +بÙĬ ض +×ķÖ ¹ +ס×Ļ ×Ļ×¢ +Ġש ×IJ×Ļ +ĠاÙĦÙĤر Ø¢ÙĨ +ĠТак же +×ŀש ×ŀ×¢×ķת +س ÙĩÙĦ +Ġ×Ķ ×ł×Ķ +ãĤĴ ãģĹãģ¦ãģĦãĤĭ +×Ļ ×Ļס +×Ķ ×ķ×IJ +ĠB ÃŃ +Ġмал о +ĠëͰëĿ¼ ìĦľ +Ġר ×Ĺ×ij +ãģĮ é«ĺãģĦ +ÙĪ Ø§Ø³ +ìĤ ¼ +׳ ×¢ +ãģ£ ãģ¡ãĤĥ +ĠT üm +à¸Ńีà¸ģ à¸Ķà¹īวย +ãģĹãģ¦ ãģıãģłãģķãģĦ +ÙĨØ´ اط +ãĥĹ ãĥ©ãĥ³ +али ÑģÑĮ +×ĵ ×ľ×ª +Ġwc zeÅĽ +ĠwczeÅĽ niej +ĠÑįÑĤ им +Ġthá»ĭ t +à¸ļ ัà¸į +à¸ļัà¸į à¸Ĭี +ãģļ ãģ£ãģ¨ +ÑĢ Ð¸Ð½ +Ġswo jÄħ +íķĺëĬĶ ëį° +Ġë§Įëĵ¤ ìĸ´ +تش Ùĥ +تشÙĥ ÙĬÙĦ +ائ Ùĩ +Ġ׾פ ×Ĺ×ķת +ãĥĭ ãĥ¥ +ãĥĭãĥ¥ ãĥ¼ãĤ¹ +׼×IJ ף +ãģ§ãģį ãģŁ +зв он +Ġsta ÅĤ +×Ĺ×ijר ת×Ļ +ĠØ£ عÙĦÙĨ +à¹ģà¸ļà¸ļ à¸Ļีà¹ī +بد Ø¡ +ãĤģ ãģŁ +Ġ×ŀש ×ŀ×¢×ķת +Ġ×ŀש×ŀ×¢×ķת ×Ļ +ör ü +Ġh ạnh +z ähl +ĠL ý +Ġ×ij ×Ķת +Ġ×ij×Ķת ×IJ×Ŀ +б аÑĢ +ì¦ Ī +ä»ĬåĽŀ ãģ® +Ġy ü +Ġyü ks +Ġyüks el +ãĤ½ ãĥ¼ +ãģĤ ãĤĮ +ת ׾×ŀ×Ļ×ĵ +ãģ¤ ãģª +×ij ׳×Ļ×Ŀ +Ġx ếp +ĠмÑĥж Ñĩин +ĠاÙĦÙĥ تاب +׼ ×ŀ×ķת +Ġç e +Ġçe ÅŁ +ĠçeÅŁ it +ĠçeÅŁit li +×ĵ ×Ļר×ķת +à¸ļุ à¸į +ĠاÙĦØ¥ ÙĦÙĥ +ĠاÙĦØ¥ÙĦÙĥ ترÙĪ +ĠاÙĦØ¥ÙĦÙĥترÙĪ ÙĨÙĬ +ĠباÙĦØ¥ ض +ĠباÙĦإض اÙ쨩 +Ġyö nel +Ġyönel ik +mys ÅĤ +à¸Ķà¹īวย à¸ģาร +à¸ģาร à¸Ĺำ +ов Ñĭм +Ø£ زÙħØ© +æİ¢ ãģĹ +íļ ¨ +Ġ×ķ×IJ ×Ŀ +Ġnghi êm +ÑĪ Ð¸Ð½ +ка л +Ġcrian ças +èĩªåĪĨ ãģ§ +Ġн ай +Ġнай ÑĤи +ĠS á»ij +ĠÃ¶ÄŁrenc iler +ãĥ¶ æľĪ +Ñģ ан +ĠJ á +ĠkonuÅŁ ma +شر Ø· +ëĪ Ī +ar rière +ضر ÙĪØ±Ø© +ãĥĶ ãĥ³ +×¢ שר +аÑĢ ÑĮ +جÙħ اع +Ġdé co +Ġ×Ļ×Ķ ×ķ×ĵ×Ļ +à¸ŀ ลาà¸Ķ +ĠÙĬ ÙĥÙĨ +Ġج اÙħعة +Ø· بÙĤ +Ġbo ÅŁ +×ķ ×ķ×IJ +×ŀ×ĵ ×¢ +×§×ij×ķצ ת +פ ×Ļר +jÄħc ym +ÙħØ´ ا +Ùħشا ÙĥÙĦ +צ פ×ķף +Ø¥ ست +×ŀ׼ ר +سÙħ ع +Ġкак ой +ÑĤ воÑĢ +ØŃ ج +Ù쨱 ض +пÑĢав лен +Ġник ак +Ġmi á»ĩ +Ġmiá»ĩ ng +ü ÃŁ +иÑĢов ал +׾ ×ŀ×ķת +次 ãģ® +ÙĦ Ø· +à¸ķ ัà¸Ļ +×Ķ ×ª×Ĺ×Ļ׾ +Ġfoto ÄŁ +ĠfotoÄŁ raf +طر ØŃ +à¸Ńà¸Ńà¸ģ à¹Ħà¸Ľ +Ġy ên +Ġп ок +Ġпок Ñĥп +ĠпокÑĥп а +ÑĨ Ñĥ +Ġкомп ÑĮÑİ +ĠкомпÑĮÑİ ÑĤеÑĢ +ĠاÙĦÙĥ رÙĬÙħ +تص Ùħ +تصÙħ ÙĬÙħ +Ġоказ а +Ġzar ówn +Ġzarówn o +ëĮĢ ì¶ľ +ãĤ»ãĥ³ ãĤ¿ãĥ¼ +Ġjako ÅĽci +æĤ © +æĤ© ãģ¿ +Ø£ÙĨ ÙĪ +Ø£ÙĨÙĪ Ø§Ø¹ +ë¹ ł +Ġìłķ ë§IJ +Ġk ẻ +ĠÑģай ÑĤа +Ġ×Ķ ×¢×¨×ij +Ùĩ ز +pres ión +ĠÑģÑĤ ен +ãģ£ãģ¦ ãĤĭ +Ġhız lı +Ðļ ÐIJ +×ŀשפ ×Ĺת +ĠÙĨ Ùĩا +ĠÙĨÙĩا ÙĬØ© +ãģ¾ ãģĦ +о ÑħÑĢан +ร à¹īà¸Ńย +ล ึà¸ģ +ĠÙĪØ¨ اÙĦ +ãĤĤãģ® ãģĮ +ר׼ ×Ļ×ij +ãĤ¤ ãĥ¤ +س ؤ +سؤ اÙĦ +ĠÙĦØ£ÙĨ Ùĩ +ĠkonuÅŁ tu +Ðļ ÑĥпиÑĤÑĮ +Ġש×IJת ×Ķ +ĠÙĪØ§ÙĦ س +Ġmożliwo ÅĽci +Ġpró b +ëĶ ° +ãģ© ãĤĮ +ĠÐľ ин +ĠоÑĢганиз м +ãģ«å¯¾ ãģĻãĤĭ +ĠPr é +Ġpriv é +ch è +ãģĦãģŁãģł ãģį +สà¸Ļุ à¸ģ +ajÄħ ce +ĠD zi +ĠDzi ÄĻki +ÅĤat w +r än +rän k +æĿ¥ ãģŁ +Ġ×Ķ×Ļ×Ķ ×ķ×ĵ×Ļ +ãĤ¬ ãĥ¼ +ĠÑĢаР´ +ĠÑĢад и +к ÑĤив +Ø£ Ùĩد +Ø£Ùĩد اÙģ +ש ×IJ×Ļר +ãģ¦ ãģĦãģªãģĦ +Ġfr üh +Ġок ол +Ġокол о +Ġreg ião +ĠÑĩиÑģ ле +Ġpon iew +Ġponiew aż +ìĦ¼ íĦ° +Ġb ầu +Ġê · +Ġê· ľ +Ġê·ľ ìłķ +ĠH òa +ĠÑĤ оÑĤ +ãĤĤ å¤ļãģĦ +ĠاÙĦإسÙĦاÙħ ÙĬØ© +ãģĭ ãģĦ +Ñį н +ĠÑĥказ ан +ĠÑĤак ое +ï¼ ³ +ëĮĢ íķĻ +Ġgen iÅŁ +ĠاÙĦØ® ÙĬ +ĠاÙĦØ®ÙĬ ارات +ãĤĴè¡Į ãģĨ +ש ×ŀ×Ķ +ĠLÃł m +ÙĪÙĨ ÙĬ +Ġ×IJ ׾×Ļ×ķ +Ä ĺ +à¹Ħมà¹Ī สามารà¸ĸ +人 ãģ¨ +بر ز +×Ļס ×ķ×ĵ +×Ĵ ׾×Ļ +ĠÙĬ ÙĨا +ĠÙĬÙĨا ÙĬر +ĠкаÑĢÑĤ ин +Ġt ôn +à¹Ģ à¸ģร +à¸Ħ à¸Ķี +Ġ׾×IJ ×ķר×ļ +ãĤĤãĤī ãģĨ +ãģĭ ãģĭãĤĭ +ани и +Ġara ÅŁtırma +ÙĦاØŃ ظ +ãģĦ ãĤĦ +ĠT Ãłi +Ġ à¸Ļà¸Ńà¸ģà¸Īาà¸ģ +Ġà¸Ļà¸Ńà¸ģà¸Īาà¸ģ à¸Ļีà¹ī +ĠÄIJ ảng +ãģ£ãģ¦ ãģįãģŁ +Ġà¸ĭึà¹Īà¸ĩ à¹Ģà¸Ľà¹ĩà¸Ļ +Ġt ả +Ġmożliwo ÅĽÄĩ +ĠS ản +Ġİ ki +Ġc ắt +س Ø£ÙĦ +Ġbak ım +Ø´ ب +à¸ķ ีà¹ī +à¸ŀ ยาย +à¸ŀยาย าม +สั à¸Ľ +à¸ªà¸±à¸Ľ à¸Ķา +à¸ªà¸±à¸Ľà¸Ķา หà¹Į +ë° Ģ +еÑĢ Ñĭ +Ġc ánh +Ġthu ế +ت بع +ãģ«åħ¥ ãĤĮ +Ñİ ÑģÑĮ +íļĮ ìĿĺ +ç°¡ åį +ç°¡åį ĺ +ç°¡åįĺ ãģ« +Ġtr úc +ĠاÙĦÙĥ ÙĪÙĬ +ĠاÙĦÙĥÙĪÙĬ ت +ãĤıãģij ãģ§ãģĻ +ĠÑģв об +ĠÑģвоб од +ĠÑĥÑĩаÑģÑĤ ник +สิ à¹īà¸Ļ +ĠпÑĢо ÑĦеÑģÑģиона +ĠпÑĢоÑĦеÑģÑģиона лÑĮн +Ñģп оÑĢ +×Ĺ ×ķ×ij×Ķ +Ùħع ÙĨÙī +ĠاÙĦÙģ ØªØ±Ø© +สูà¸ĩ สุà¸Ķ +ãĤı ãģļ +ĠÄij è +ĠÄijè n +æ¯Ķ ãģ¹ +า à¸ĺิ +Ġmoż emy +à¹ģ à¸ĭ +à¸Īะ à¹Ħมà¹Ī +Ġs ắp +Ðļ Ðŀ +Ġprá ctica +ÙĪÙĥ اÙĦØ© +è¾¼ ãĤĵãģ§ +ológ ica +Ġе Ñī +ĠеÑī Ñij +تع دÙĬÙĦ +ĠØ£ Ùĥد +Ġצר ×Ļ׼ +Ġצר×Ļ׼ ×Ļ×Ŀ +Ø« Ùħ +Ġк ÑĢÑĥ +ĠкÑĢÑĥ п +×ij×Ļ×§ ×ķרת +Ġì¡° ê¸Ī +ãģ¨ãģį ãģ¯ +Ġb ạc +ĠÑĢаÑģ пол +ĠÑĢаÑģпол ож +ĠÑĢаÑģполож ен +ز ÙĬÙĨ +ĠÐļ ÑĢоме +ĠاÙĦÙĨ ظر +×Ķ ×ķ×ĵ +ĠاÙĦس بت +ã썿ĢĿ ãģĦ +Ġpa ÅĦst +ĠpaÅĦst w +ĠÙĦÙĬ ست +ĠбÑĥд Ñĥ +à¸Ĺัà¸Ļ à¸Ĺี +ร าม +ØŃ صÙĪÙĦ +ãģĹãģ¦ãģıãĤĮ ãĤĭ +ĠاÙĦØ¥ سرائÙĬÙĦ +ĠاÙĦإسرائÙĬÙĦ ÙĬ +ãģĵãĤĮ ãģ¾ãģ§ +ìĤ¬ 를 +Ġs ürü +à¹Ģว à¸Ńรà¹Į +à¹Ģà¸ĭ à¸Ńรà¹Į +Ġutilis é +ĠÑģиÑģÑĤем а +Ġdw ó +Ġdwó ch +Ġpróp rio +Ġëĵ± ìĿĦ +arr êt +ĠЧ а +×IJ×ŀ ׳×ķת +عار ض +à¹Ģà¸ģม สà¹Į +Ġ׾×Ķ ×ij×Ļף +Ġ׾ ×ij×Ĺ +Ġ׾×ij×Ĺ ×ķר +สา à¸Ĥา +ĠÐľÐ¾Ñģк ве +ب عد +ĠاÙĦÙĤر ار +ĠÄIJ á»ĭa +Ġ×Ĺ ×Ĵ +Ùģ ØªØ± +ÙĪÙĨ Ø© +Ġ×Ķ×ĸ ×IJת +å¸Ĥ ãģ® +ãģ» ãģĹãģĦ +Ġ×ij×¢ ×Ļר +ĠÑĤеп еÑĢÑĮ +ìĬµ ëĭĪê¹Į +à¹Ħม à¹Īว +à¹Ħมà¹Īว à¹Īา +à¹Ħมà¹Īวà¹Īา à¸Īะ +×ŀ ×IJ×Ķ +æĥħ åł± +æĥħåł± ãĤĴ +غ ÙĨ +Ġпо Ñı +ĠпоÑı ви +éģİ ãģĶ +تش غ +تشغ ÙĬÙĦ +в ел +Ġ×Ĺ ×ŀ +ãģ¨ãģªãĤĬ ãģ¾ãģĻ +Ġra ÄŁ +ĠraÄŁ men +ãģĭ ãģ©ãģĨ +ãģĭãģ©ãģĨ ãģĭ +ен ко +ì§Ģ ê³ł +Ġ×IJ׾ ×Ļ×Ķ +ĠØ£ ÙĦ +à¸Īำ หà¸Ļ +à¸Īำหà¸Ļ à¹Īาย +nız ı +Ġ׾ק ×Ĺת +Ø£ ÙĩÙħ +Ø£ÙĩÙħ ÙĬØ© +ت غÙĬر +ש ×Ĺר +ס×ķפ ר +×ĵ ×Ļר +èī¯ ãģĭãģ£ãģŁ +×ŀ׾×Ĺ ×ŀ×Ķ +ÑģÑĤв ие +ÑĤ ÑĢаÑĤ +ĠاÙĦØ£ Ø® +ĠاÙĦأخ ÙĬرة +ĠاÙĦØŃ صÙĪÙĦ +Ġcréd ito +צ ×Ļ×¢ +ãĥ¬ ãĥĻãĥ« +بر ÙĬ +ëIJ IJ +ãģł ãģ£ãģ¦ +Ġreal tÃł +س Ù쨱 +×ķ׳ ×ķ +×Ĵ ×ķ×ĵ +×Ĵ×ķ×ĵ ׾ +ฮ า +ãģĹãģ¦ ãģĬãĤĬãģ¾ãģĻ +Ġg Ãł +Ġ׾×ij צע +å¼ķ è¶ĬãģĹ +Ġ×ŀ ×Ļ׾×Ļ +Ġ×ŀ×Ļ׾×Ļ ×ķף +Ùħ در +Ùħدر سة +פ ×ķ×ĺ +à¸Ļà¹īำ มัà¸Ļ +ëģ Ŀ +ع Ùĥس +ĠÙĤ ض +ĠÑĢÑĭ б +خط Ø· +×ŀ×ķס ×ĵ +Ġ׼׾ ׾×Ļ +ĠкоÑĤоÑĢ Ð¾Ðµ +צ×Ļ ×ķף +ĠмеÑģÑĤ а +ãģĭ ãģ¤ +г ÑĢÑĥпп +׾ ×Ļ׾ +ת ×ķ×IJר +ë³µ ì§Ģ +à¹ģà¸ľ à¹Īà¸Ļ +Ġ×ij×¢ ת +æĻĤéĸĵ ãĤĴ +ï¼ £ +ãģ¨ãģĦãģĨãģĵãģ¨ ãģ§ +Ġ׾×Ķ ×§ +Ġ׾ ×ĸ×Ķ +ĠìłĢ ëĬĶ +ĠاÙĦØ¥ رÙĩاب +ĠìŀĪëĬĶ ëį° +ĠÑĤ огда +Ġ×Ķ ×¦×Ļ +×ķ׾ ×ĺ +Ġר פ×ķ×IJ×Ļ +ãģĵãģ¨ ãģ§ãģĻ +ĠÄij ÃŃch +ØŃ ÙĬا +Ġ×Ķ×ŀש ×Ĺ×§ +ãģľ ãģ² +Ġ×ŀ×IJ פשר +ãģ¿ ãģ¾ãģĹãģŁ +ĠاÙĦØ£ÙħÙĬر ÙĥÙĬ +Ùħج تÙħع +Ġس اب +Ġساب ÙĤ +׼ ×Ļ׾ +Ạ¾ +ãĥª ãĤ¹ãĥĪ +Ġì ĥ +Ġìĥ Ī +ĠìĥĪ ë¡ľ +ĠìĥĪë¡ľ ìļ´ +ĠD á»ĭch +à¹Ģหมาะ สม +ĠاÙĦÙĨ بÙĬ +׾ ׾ +ÙĨ ع +Ðĵ лав +Ðĵлав наÑı +Ùħر ض +Ġ×ķ ×ĵ +ت ÙĤÙĬ +تÙĤÙĬ ÙĬÙħ +Ġb ảng +ĠÙģ ÙĤاÙĦ +×¢ ×ŀ×Ļ +д ÑĢа +Ġsu á»ijt +سر عة +Ġc á»Ń +Ġ×Ķ ×Ļ×Ĺ×Ļ×ĵ +سع ÙĬد +à¸Ńา à¸Ĭีà¸ŀ +Ġس ÙĪØ§Ø¡ +ãĤ½ ãĥķãĥĪ +Ġл иÑĩно +ĠÐļ оÑĢ +اÙĩ تÙħ +اÙĩتÙħ اÙħ +à¸Ń à¸Ķี +à¸Ńà¸Ķี à¸ķ +ãģIJ ãĤīãģĦ +Ġiht iya +Ġihtiya ç +ãģ¾ãģ§ ãģ® +ìĭľ ìĬ¤ +ìĭľìĬ¤ íħľ +ÑĢÑĥ ÑĪ +ãĤĦ ãģ£ãģ± +ãĤĦãģ£ãģ± ãĤĬ +к еÑĢ +Ġ ży +Ġży w +кл он +Ġl ượt +à ¾ +да Ñĩи +tür k +غ ÙĪ +ĠигÑĢ Ð¾Ðº +Ġph ê +Ġש ×¢×ľ +ĠاÙĦÙħ دÙĨÙĬ +ĠìŬ룬 ë¶Ħ +ער ×Ļ×Ŀ +Ñħод ÑıÑĤ +Ġx ứ +ÐĹ Ð° +ĠÙģ Ø±Øµ +à¸Īะ à¸Ĺำà¹ĥหà¹ī +íģ ´ +×¢ ×ij×ķר +à¹Ģหลà¹Īา à¸Ļีà¹ī +èĢĥãģĪ ãĤĭ +ÑĢ ÐµÑģÑĤ +н нÑĭй +Ġc ầm +دا Ø®ÙĦ +ĠÙħÙĦÙĬ ار +ĠÐIJ л +ĠвÑĢем ен +à¸Ĭà¹Īวย à¹ĥหà¹ī +ר×Ļ ×ķת +ëĵ ¯ +飲 ãģ¿ +׳ ׾ +שת ×£ +ĠاÙĦسعÙĪØ¯ ÙĬ +u ÃŁ +ìĿ¸ ëį° +ĠìĿ¼ ë°ĺ +ÅĤ ÄĻ +Ġm á»iji +×ŀ ×Ļ׳ +ĠاÙĦØ£ Ø·Ù쨧ÙĦ +Ġçı kan +é cole +×§ ×Ļש +×§×Ļש ×ķר +ĠоÑģ ÑĥÑīеÑģÑĤв +ĠоÑģÑĥÑīеÑģÑĤв лÑı +×ij ×IJר +à¹Ħà¸Ľ à¸Ķà¹īวย +Ġ×¢ ×ķ׾×Ķ +à¸ģà¹ĩ à¹Ħมà¹Ī +ãĥ¢ ãĥĩ +ãĥ¢ãĥĩ ãĥ« +تØŃ ÙĪÙĦ +Ġод ного +ת×Ĺ×Ļ׾ ת +Ġت Ø® +Ġch cia +Ġchcia ÅĤ +ãĥIJ ãĥ³ +èĢħ ãģ¯ +ĠÙħ ØŃÙĦ +Ñģл ож +Ñģлож н +Ġt ÄĻ +Ġçı kt +Ġçıkt ı +ĠC Æ¡ +à¹Ħà¸Ķà¹ī à¹Ģลย +ır ken +à¹Ģà¸Ĥà¹īา สูà¹Ī +ÙħØŃ Ùĥ +ÙħØŃÙĥ ÙħØ© +à¸Ħุ à¹īม +à¸Ļà¹Īา à¸Īะ +лÑİ Ð´ +де ÑģÑı +деÑģÑı ÑĤ +ĠлÑİб ой +تØŃر ÙĬر +צע ×ĵ +Ġе Ñij +ĠاÙĦØŃ ÙĥÙħ +Ġص باØŃ +à¹Ģà¸ļ à¸Ńรà¹Į +Ġróż nych +ги б +ĠÑģ оÑĤ +ĠÑģоÑĤ ÑĢÑĥд +ĠÑģоÑĤÑĢÑĥд ник +ĠобÑĬ ем +פ ×ĺר +ãģĻãģĶ ãģı +ãģ«éĸ¢ ãģĹãģ¦ +в ол +Ø« ÙħاÙĨ +Ġd ần +æĬ ľ +æĬľ ãģij +Ġ×¢ ש +Ġעש ×ķ×Ļ +ס ×ķף +ãģªãģ® ãģ§ãģĻ +ãģ¯ ãģ©ãģĨ +×ŀ×¢ ר×ij +ï¼ ° +Ùħ صر +ÙħÙĨ اسب +ÙħÙĨاسب Ø© +ä¸Ĭ ãģ® +×IJ×Ļש ×ķר +ĠìĦ¤ ì¹ĺ +×ŀ×ĵ×Ļ׳ ×ķת +×ŀר ת +ãĤĭ ãģ®ãģĮ +د Ùİ +ĠاÙĦشر Ùĥات +ìĭľ ê°Ħ +ĠÑĢеÑĪ ÐµÐ½Ð¸Ðµ +ãģĻãĤĭ ãģ®ãģ¯ +ĠìŀIJìĭł ìĿĺ +׾ ×ŀ×ķ +ãģ¨ãģĵãĤį ãģ§ +Ġ×§ צר +Ġmã i +Ġkü ltür +ãĥ©ãĤ¤ ãĥĸ +à¸ľà¸¹à¹ī หà¸įิà¸ĩ +æĻĤéĸĵ ãģĮ +клÑİÑĩ и +diÄŁ iniz +มาà¸ģ à¹Ĩ +تØŃ ÙħÙĦ +Ġh ạt +ãĤ¦ ãĤ£ +п ле +×ŀ ׾×IJ +ÅĤ ó +Ġg á»ijc +Ġ×IJ ×ķ×ĵ×ķת +หว าà¸Ļ +ĠاÙĦ ÙĪØ² +ĠاÙĦÙĪØ² راء +ëĵ¤ ê³¼ +Ġص ØŃ +ĠصØŃ ÙĬÙ쨩 +Ġм м +تد Ø®ÙĦ +Ġpersön lich +Ġز ÙĬ +ĠزÙĬ ادة +ãĤ· ãĤ¢ +Ġng ắn +à¸Ħล ิà¸ģ +Ġs ông +Ġtü ket +Ñį ÑĦÑĦ +ÑįÑĦÑĦ екÑĤ +ש ×Ļ×ij +Ġا عت +ت ض +تض ÙħÙĨ +ĠاÙĦÙħØ´ رÙĪØ¹ +Ġprodu ção +ĠпÑĢимен Ñı +ни ÑĨÑĭ +주 ëĬĶ +ر Ùı +Ġm Æ¡ +Ġhayat ı +ëŁ ½ +Ġü cret +Ġyan ında +Ġpr ática +×ij×Ļ×§ ×ķר +Ãľ N +Ñģ оÑĤ +ãĤıãģij ãģ§ +Ġдол го +ת ׼×ķ +ĠìķĦ ëĭĮ +ë į°ìĿ´ +Ġç iz +Ġcho Äĩ +Ġ×Ķ ×Ļת +Ġ×Ķ×Ļת ר +Ġso át +׼ ×ij×ĵ +à¹Ģล à¹Īา +Ġд еÑĢ +ĠдеÑĢ ÐµÐ² +ãĤĴ åħ¥ãĤĮ +×Ĺ ×ķס +×Ĺ×ķס ר +ج ÙĬÙĨ +t ón +onn é +Ġпол ноÑģÑĤÑĮÑİ +人 ãģŁãģ¡ +Ġpr êt +ëł ¸ +Ġdéc embre +cı lar +Ġת ת +Ġê²½ìļ° ìĹIJëĬĶ +ÙĪ Ø¹Ø¯ +è¦ĭ ãĤĭ +วิ à¸Īัย +ë ¶Ī +ز ÙĪØ§ +زÙĪØ§ ج +d ì +ãģ§ãģĻ ãĤĪ +Ġвод о +ĠÙĬ ÙĪØ¬Ø¯ +Ñģ оÑģÑĤоÑı +Ðŀ С +ĠÄIJ ó +׊פש +Ġצ ×Ļ×ij×ķר +ĠاÙĦÙĤ Ø· +ĠاÙĦÙĤØ· اع +Ġиме ÑİÑĤ +Ġph áºŃn +×Ľ×¡ פ×Ļ +полн иÑĤелÑĮ +éĻIJ ãĤĬ +ĠÑģ ÑĢав +ĠÑģÑĢав н +ÙħاÙĦ Ùĥ +×ĵר ×ķ×Ŀ +çļĨ ãģķãĤĵ +ØŃÙĤ ÙĤ +à¹ģหล à¹Īà¸ĩ +ĠاÙĦر سÙħÙĬ +оÑĩ ки +×ĺ ×ij×Ĺ +Ġcan lı +Ġ׾ ׾ +Ġ׾׾ ×ŀ×ķ×ĵ +×ŀ×ij ×ķ +ת ׼ +×ª×Ľ ׳×Ļת +ĠاÙĦÙħ شار +ĠاÙĦÙħشار ÙĥØ© +İ Åŀ +ĠسÙĬ اسÙĬ +в олÑĮ +ĠÑģ пÑĢав +æĿ¥ ãģ¦ +פ×ķר ×ķ×Ŀ +สำ à¹Ģรà¹ĩ +สำà¹Ģรà¹ĩ à¸Ī +ĠÅŁ öyle +Ġzosta ÅĤa +ĠH ü +ר ×ķש +د ÙĦÙĬÙĦ +ÑĢи д +ש ף +×ŀ×§ ×ķר +ĠÑĥ Ñĩ +ĠÑĥÑĩ еб +ĠÑį ÑĤа +ков а +à¸ķà¸Ļ à¹Ģà¸Ńà¸ĩ +ÙĨ ÙIJ +à¸Ńีà¸ģ à¸Ħรัà¹īà¸ĩ +ระ à¸ļุ +Ġd ữ +ĠاÙĦØŃ اÙĦÙĬ +׼ ×ķ׼ +׼×ķ׼ ×ij +Ġ×ŀ×IJ שר +Ġtr ụ +ÑĤел ем +Ġв ли +Ġвли Ñı +Ġש×IJת ×Ŀ +Ġuw ag +Ġuwag ÄĻ +×ĺ ×Ļת +×IJ ×ĵ×Ŀ +à¸Ķ ุ +Ġ×Ķ×IJ ׾×Ķ +Ġkar Ä±ÅŁ +ĠÄIJ á»iji +да ÑİÑĤ +ãģªãģ® ãģ« +Äħ cych +à¹Ģà¸Ļ à¹īà¸Ļ +ãģĹãģ¦ ãģĹãģ¾ãģĨ +int érieur +ĠfÃŃs ica +ĠÐŁ ол +ãģĹãģ ķ +à¸Ĺำ à¹Ħม +ĠL âm +ĠاÙĦÙħ سÙĦÙħ +ĠاÙĦÙħسÙĦÙħ ÙĬÙĨ +ص ØŃØ© +ìĹ Ħ +à¹Ģà¸Ķà¹ĩ à¸Ķ +ĠÑĥ ÑĩеÑĤ +â Ìģ +Ġب ÙĦا +ĠاÙĦاجتÙħاع ÙĬ +פרס ×Ŀ +ãĥķ ãĥ© +ĠÐļ огда +mie ÅĽci +ĠبÙĬÙĨ Ùħا +Ġ×ŀ×IJ ×ŀר×Ļ×Ŀ +Ġ×ij×IJ ×ĸ×ķר +×ķש ×Ļ×Ŀ +ĠÑģдел а +entr ée +à¹Ģ à¸Ħà¹īา +Ñĥг л +ĠاÙĦÙģ ÙĨÙĬ +ĠÐĴ оÑĤ +à¸Ĺีà¹Ī มา +×ķצ ×Ĵ +ÙĤد رة +Ġëª © +Ġ목 ìłģ +íıī ê°Ģ +ĠاÙĦØ£ ربع +ĠاÙĦأربع اء +פס ×Ļ×§ +ĠÑıвлÑı ÑİÑĤÑģÑı +ب ÙĪÙĨ +ì° ¾ +×ŀ×¢ ר׼ +×ŀ×¢×¨×Ľ ×ķת +ãĤ· ãĤ§ +ĠباÙĦ Ø£ +íĸĪ ëįĺ +ĠاÙĦبر ÙĨاÙħج +ĠاÙĦØ£ ØŃد +Ġm Å© +ĠmÅ© i +п аÑĤ +ب Ø« +ĠÑĨ енÑĭ +Ġ×ijת ׾ +è¨Ģ ãĤıãĤĮ +ĠاÙĦÙħ جاÙĦ +ĠìĦ¸ ìĥģ +Ġ×Ĵ ×ķפ +ĠнаÑĪ ÐµÐ¹ +Ġкомп аниÑı +б ин +öl ü +×Ļ ×Ļ×ĺ +Ġ×ŀס פ×Ļ×§ +ยัà¸ĩ à¸Ħà¸ĩ +ĠЧ и +Ġан ÑĤи +ĠÑģÑĢед и +สà¹Īวà¸Ļ à¹ĥหà¸įà¹Ī +оÑĩ ка +íĬ¹ ë³Ħ +ว à¹Īาà¸ĩ +гоÑĢ Ð¾Ð´ +با Ùĥ +à¹Ģส ีà¹Īย +à¹Ģสีà¹Īย à¸ĩ +ãĤĤãĤī ãģĦ +×§ ×ķ×Ŀ +ãģĽ ãģļ +ĠاÙĦÙĤ اÙĩرة +Ġ×ij ׼×ļ +Ùħشار ÙĬع +باØŃ Ø« +Ġпо Ñĩ +ĠпоÑĩ ÑĤи +ĠÑĦоÑĢм а +S İ +Ġ×ŀצ ×Ļ×¢ +ล ื +ลื ม +ĠÑĤ еÑĢ +ĠÑĤеÑĢ ÑĢиÑĤоÑĢ +ĠÑĤеÑĢÑĢиÑĤоÑĢ Ð¸Ð¸ +Ġв меÑģÑĤ +ĠвмеÑģÑĤ е +dıkl arı +op ération +à¹Ĥ ห +ص دÙĬ +صدÙĬ ÙĤ +íĸī ìłķ +تج ا +تجا ÙĪØ² +Ġsu ç +Ġar ty +Ġarty ku +Ġartyku ÅĤ +ãĤ·ãĥ§ ãĥĥãĥĹ +ש פ +שפ ×Ļ×¢ +Ġ×Ķש ×Ļר×ķת +à¹ģà¸ĸ ม +ë¸ Ķ +Ġuk ÅĤad +Ġ×ķ ׼×Ļ +หล าà¸ģ +หลาà¸ģ หลาย +æĸ¹ ãĤĤ +Ġpodr óż +ĠE ÄŁer +Ġком наÑĤ +ĠÑģам ÑĭÑħ +Ġв кÑĥÑģ +б еж +Ġ×ij ×§×ķ +æİĽ ãģij +ãģ¿ ãĤĭãģ¨ +ĠiliÅŁ kin +ĠÙĬ عÙħÙĦ +Ġпод аÑĢ +Ġyaz ılı +ãĤĴ å¾Ĺ +Ġwyst ÄĻp +à¸Ĺีà¹Ī à¹ĥà¸Ĭà¹ī +ØŃاد Ø« +ÙĪ ÙĬد +кÑĥ лÑĮÑĤ +кÑĥлÑĮÑĤ ÑĥÑĢ +à¸ģาร à¹ģà¸Ĥà¹Īà¸ĩ +à¸ģารà¹ģà¸Ĥà¹Īà¸ĩ à¸Ĥ +à¸ģารà¹ģà¸Ĥà¹Īà¸ĩà¸Ĥ ัà¸Ļ +ÙħÙĪ Ø¸ +ÙħÙĪØ¸ Ùģ +ÙĬÙħ ÙĬ +ãĤĵãģ§ãģĻ ãģĮ +diÄŁ im +diÄŁim iz +ĠÐŁ еÑĢ +ĠÐŁÐµÑĢ Ð² +Ġm ão +ĠÑģ ез +ĠÑģез он +Ġ×Ķ×ŀ ×¢ +Ùħ جÙħÙĪØ¹Ø© +ĠинÑĦоÑĢм аÑĨии +i ếc +ã ng +ĠÄij ấy +ãģĶ ç´ +ãģĶç´ ¹ +ãģĶç´¹ ä»ĭ +Ġad ım +à¹Ħ หล +Ġп ÑĢакÑĤи +ĠпÑĢакÑĤи Ñĩ +ĠпÑĢакÑĤиÑĩ еÑģ +ĠпÑĢакÑĤиÑĩеÑģ ки +ĠاÙĦÙĨ Ù쨳 +ĠÑĢабоÑĤ е +ÙĦÙĬ Ùģ +ĠاÙĦجÙĨ ÙĪØ¨ +Ġвод Ñĭ +ì¹ Ļ +Ġм иÑĢа +ĠÄij ừng +ĠпÑĢоÑĤив о +ĠÑģÑĤÑĢан Ñĭ +ล ู +ìĤ ¶ +kre ÅĽl +Ġbul und +Ġbulund uÄŁu +à¹ģ สà¸Ļ +ãĤ± ãĤ¢ +ת×Ĺ ×ķ×ŀ×Ļ +ר׼ ×Ķ +Ġ׾ק ×ķ×Ĺ +Ġ׾ק×ķ×Ĺ ×ķת +Ġ×Ľ×ª ×ķ×ijת +ĠÙĦ ÙĥÙħ +ب شر +Ġr Ãłng +Ġ×ŀ×Ķ ×ŀ +Ġ×IJ×Ĺר ×ķת +Ġб он +Ġбон ÑĥÑģ +ï½ Ĺ +à¹ģ ยà¸ģ +ãģĤãģªãģŁ ãģ® +ĠÑĥÑĩаÑģÑĤ ие +ĠE yl +ĠEyl ül +ĠçalÄ±ÅŁmalar ı +Ø® طر +ìĿ ½ +à¸ģาร à¹ĥà¸Ĭà¹īà¸ĩาà¸Ļ +Ġана лиз +תק ×ij׾ +ни ем +Ġİ ns +Ġİns an +ĠبÙĪ Ø§Ø³ +ĠبÙĪØ§Ø³ طة +Ġ׳ ×Ľ×ł×¡ +Ġ×Ķ×ŀ ×Ļ×ĵ×¢ +Ġç o +Ġço ÄŁu +á» ĺ +ĠêµŃ 민 +ãĤĤ ãģĦãģĦ +Ġ׼ ׾×Ļ +ĠÑģÑĢед не +g ÅĤo +gÅĤo ÅĽ +Ġneg ó +Ġnegó cio +ĠÑĢ ÐµÐ³Ð¸ÑģÑĤ +ĠÑĢегиÑģÑĤ ÑĢа +ĠÑĢегиÑģÑĤÑĢа ÑĨии +Ġtr á»ĵng +ĠпÑĢ Ñı +ĠпÑĢÑı мо +ëłĪ ìĿ´ +Ġk ém +к ле +à¸Ļำ มา +ĠÑĦ ин +ĠÑĦин анÑģ +ĠÑĦинанÑģ ов +Ġki á»ĩm +ยัà¸ĩ à¹Ħ +ยัà¸ĩà¹Ħ à¸ĩ +ย ิà¸ĩ +à¹Ĥ à¸Ľ +ĠполÑĥÑĩ ил +×Ļ×ĸ ×Ŀ +à¹ģละ à¸Ħวาม +Ġво обÑīе +ص ÙĬر +ãĥı ãĥ³ +ĠاÙĦÙĤ اد +ĠاÙĦÙĤاد Ùħ +Ġب دÙĪÙĨ +ع ظÙħ +ת ׳×ķ×¢ +×ª×ł×ķ×¢ ×Ķ +Ø£ ÙħÙĦ +ãģķ ãģĪ +ÑĤ ем +ÑĤем пеÑĢ +ÑĤемпеÑĢ Ð°ÑĤÑĥÑĢ +Ġ׾ ×Ļצ×ķר +Ġr ÄĻk +ر سÙĦ +ìŀIJ 를 +Ġ×Ļצ ×Ļרת +ÙĨ بÙĬ +Ñĩ наÑı +تØŃ ÙĦÙĬÙĦ +Ġм ик +Ġмик ÑĢо +ĠS öz +Ġfor ça +Ñģ он +ĠاÙĦع را +ĠاÙĦعرا ÙĤÙĬ +ĠH á»ĵng +ãģĻãĤĭ ãģŁãĤģãģ« +à¸Ĺีà¹Ī à¸Ńยูà¹Ī +Ġ×ķ×IJ ×£ +ص ÙĬد +ĠìķĬ ê³ł +ร ัà¸ĩ +ĠاÙĦت ÙĪØ§ØµÙĦ +à¹Ģม à¸ķร +Ñĥ ÑģÑĤÑĢой +ÑĥÑģÑĤÑĢой ÑģÑĤв +m ıyor +Ġبا سÙħ +Ġ×ķ ׼×ķ +ĠG ül +á» IJ +Ãī tat +غ اÙĦ +Ø¥ ÙĨØ´ +Ø¥ÙĨØ´ اء +T İ +à¸Ĥà¹īา ม +Ġtro ch +Ġtroch ÄĻ +Ø¥ ص +إص ابة +ĠØ« اÙĨÙĬ +ĠاÙĦص ØŃØ© +Ġ×ĸ×Ķ ×ķ +jÄħ cej +ãĥĢ ãĥ³ +ìĿ¸ ìĿ´ +Ġв олоÑģ +ëIJĺ ë©´ +Ġzak ÅĤad +ãģĻ ãģĵãģ¨ +以ä¸Ĭ ãģ® +Ġ×Ķ×ŀ×§ ×ķ×Ŀ +ÙħØ´ اÙĩ +ÙħشاÙĩ دة +Ñĩ ив +ب Ø´ +ย à¹īาย +Ġsür dür +ĠN ẵ +ĠNẵ ng +ĠигÑĢ Ð°ÑĤÑĮ +Ġê·¸ëŁ¬ ë©´ +ãĥķ ãĥ« +ล à¹Īะ +Ġtend rá +Ġb Ãły +à¹Ģà¸Ľà¹ĩà¸Ļ à¸ľà¸¹à¹ī +Ġok o +Ġoko ÅĤo +w ÅĤa +wÅĤa ÅĽci +wÅĤaÅĽci w +æĢĿ ãĤı +ĠYa ÅŁ +ĠB á»ĩnh +íı Ń +بÙĬ د +קר ף +à¹Ģศ ร +à¹Ģศร ษ +à¹Ģศรษ à¸IJ +à¹Ģศรษà¸IJ à¸ģิà¸Ī +ĠاÙĦØ£ ÙĪØ±ÙĪ +ĠاÙĦØ£ÙĪØ±ÙĪ Ø¨ÙĬ +fl äche +ä¹Ĺ ãĤĬ +Ġb á»ģn +Ùĩ ب +æľĢ ãĤĤ +Ġsa ç +à¸Ńำ à¹Ģà¸ł +à¸Ńำà¹Ģà¸ł à¸Ń +ĠØ£ ج +ĠاÙĦد اخÙĦ +ĠاÙĦداخÙĦ ÙĬØ© +×ĺ ×ķ×ij +ãĤĤ ãģªãģı +Ġли ÑĨа +à¹ģลà¹īว à¸ģà¹ĩ +×ĸ׼ ×Ļר +Ġqu Ãł +ĠÙĥ ذÙĦÙĥ +صØŃ Ùģ +ĠÃĤ u +ÙĪØ¨ ا +à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļ à¹ģà¸Ľà¸¥ +à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļà¹ģà¸Ľà¸¥ à¸ĩ +à¸ķัว à¸Ńยà¹Īาà¸ĩ +Ġráp ida +Ġtas ar +Ġtasar ım +ĠعÙĦÙĬ ÙĩÙħ +ס ×ķ׾ +c ılı +cılı k +Ġر غÙħ +ìĭľ íĤ¤ +Ġ×IJ׾ ×§ +Ġ×IJ׾ק ×ĺר +Ġ×IJ׾ק×ĺר ×ķ׳×Ļ +à¹ģà¸ļ à¹Īà¸ĩ +Ġh ạng +ãģ£ãģ¦ ãģıãĤĮ +ĠÙĨ تÙĬ +ĠÙĨتÙĬ جة +ıkl ı +غ اÙĨ +à¸Ĥà¹īà¸Ń à¸Ħวาม +à¸Ľà¸¥ าย +ĠØ£ Ùħس +à¸Ĺีà¹Ī à¹Ģà¸ģีà¹Īยว +à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยว à¸Ĥ +à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยวà¸Ĥ à¹īà¸Ńà¸ĩ +Ġdé fin +Ġdéfin i +ÙģÙĨ اد +ÙģÙĨاد ÙĤ +à¹Ħà¸Ķà¹ī วà¹Īา +ãģªãģĦ ãĤĪãģĨãģ« +Ġpróp ria +ĠPh át +ãĤĦãģĻ ãģı +สวย à¸ĩาม +ê³ł ìļĶ +Ñı еÑĤ +ãģĭãĤĤãģĹãĤĮãģ¾ãģĽãĤĵ ãģĮ +تر جÙħ +ĠкÑĢаÑģ ив +Ġ×ŀ ר×IJש +д еж +ĠÙĬ ÙĪÙĨ +ĠÙĬÙĪÙĨ ÙĬÙĪ +Ñģк оÑĢ +ĠKas ım +ê³Ħ ìķ½ +к оÑģ +Ġна ÑĢÑĥ +ĠнаÑĢÑĥ ÑĪен +Ġdu że +acc ès +Ġh á»ĵng +Ġv Å© +ãģĦãģŁ ãģĹãģ¾ãģĻ +Ġ×ĺ ×Ļ +Ġ×ĺ×Ļ ×ķ׾ +lıkl arı +Ġqu ê +ëħ¸ ëıĻ +ìķ Ķ +CI ÃĵN +Ġt ắc +press ão +ĠìŀĪ ìľ¼ +สิà¸Ĺà¸ĺิ à¹Į +íĥ Ħ +Ġ×Ķ×ŀ ×ŀש׾×Ķ +å¬ī ãģĹãģĦ +ĠÄIJ ặc +ÙĨ زÙĦ +ĠдÑĢÑĥг ой +д ÑĥÑĤ +ìĪ Ļ +Ġth ụ +à¹Ģส ร +à¹Ģสร à¹ĩ +à¹Ģสรà¹ĩ à¸Ī +Ġto plant +Ġtoplant ı +×IJ×ŀ ף +×ķ׾ ת +п омн +Ġyo ÄŁun +ÅĦsk iego +ì° © +ĠØ« ÙĦاث +ĠØ«ÙĦاث Ø© +Ġl ắng +ë¦ ´ +ราà¸Ĭ à¸ģาร +ĠÑģлов а +á» Ĩ +à¸Ķี à¸ģวà¹Īา +ãģĶãģĸ ãģĦãģ¾ãģĻ +Ġд из +Ġдиз айн +fé rence +lıkl ar +ãģªãĤĵ ãģ§ãģĻ +ajÄħ cy +Ġëĭ¤ ìĸij +Ġëĭ¤ìĸij íķľ +×§ ×Ļר +ØŃ ار +ส ูà¹ī +Ġz ro +Ġzro bi +Ġzrobi Äĩ +×ŀ ×Ļ׼×Ķ +à¸Ĭà¹Īวย à¹Ģหลืà¸Ń +ĠÑįÑĤ Ñĥ +ë´ ī +楽 ãģĹãģĦ +س ÙĪØ± +íķĺ ê±°ëĤĺ +Ùħؤ تÙħر +Ġpoc zÄħ +ĠpoczÄħ tk +ĠpoczÄħtk u +Ġع ربÙĬ +اÙĦØ£ ر +اÙĦأر دÙĨ +à¸Ķ ร +Åĵ uvre +ĠÙĪÙĥ اÙĨت +ĠÅĽ redni +Ø® ضر +Ġch uyến +н ÑĤ +ĠìķĮ ê³ł +Ġv á»Ŀi +Ġ×ij ×Ļ×ĵ×Ļ +×ŀ×ĵ ×ķ×ijר +ÙĪ Ù쨱 +ÙĬ Ø¡ +׳ ×Ľ×¡ +ĠÐĽ а +л он +Ġx ấu +Ùģ ÙĬÙĨ +Ġfé vrier +ĠÐŀ на +ĠV á»ģ +ĠÅŁey ler +ĠполÑĥÑĩ ен +з ад +Ġn ét +à¹Ħà¸Ľ ยัà¸ĩ +×Ĺש×ij ×ķ +à¸ļัà¸Ļ à¸Ĺ +à¸ļัà¸Ļà¸Ĺ ึà¸ģ +Ġgerçek leÅŁ +иÑĩеÑģк ое +ìĪĺ ê°Ģ +Ø« بت +ãģ¤ ãģ¾ãĤĬ +ĠÑĥÑģловиÑı Ñħ +ëĭ¤ ê°Ģ +ราย à¹Ħà¸Ķà¹ī +׼×IJ ×ij +à¹Ĥà¸Ľà¸£ à¹Ĥม +à¹Ĥà¸Ľà¸£à¹Ĥม à¸Ĭัà¹Īà¸Ļ +j ähr +jähr ige +×§ ׳×Ļ×Ŀ +×ŀ ×ķ×§ +×ŀ×ķ×§ ×ĵ +ãģ«è¡Į ãģ£ãģ¦ +Ø¢ ÙĦ +вед ение +Ġ׾ ×Ľ×ª×ķ×ij +جÙħ Ùĩ +جÙħÙĩ ÙĪØ±ÙĬØ© +à¸ī à¸ļ +à¸īà¸ļ ัà¸ļ +ĠC òn +à¸ľ สม +ãģªãģ© ãģĮ +×IJ×Ķ ×ij +ĠдейÑģÑĤв иÑı +y ız +à¹Ħมà¹Ī à¹Ģà¸Ħย +ج ÙĪØ² +×Ķ×Ĺ׾×ĺ ×Ķ +f ällt +ãĥĵ ãĤ¸ +ãĥĵãĤ¸ ãĥį +ãĥĵãĤ¸ãĥį ãĤ¹ +Ġ×IJ ×Ļ׳×Ŀ +ĠнаÑħод иÑĤÑģÑı +Ġdzi ÅĽ +ست Ø·ÙĬع +׾ ×Ļף +Ø® ÙĦاÙģ +Ùĩ ÙIJ +Ġatr ás +íĺ ģ +ãĤĴ ãģĶ +Ġ×Ķ×ŀ ×ķצר +ĠBakan lıģı +ÑİÑī ее +ÙħÙĨ اط +ÙħÙĨاط ÙĤ +Ùģ Ø¯ +à¸Ļำ à¹Ħà¸Ľ +Ġв аж +Ġваж но +Ġm ạch +׼ ׳×ķ +بع Ø« +lan ması +Ġa yr +Ġayr ıl +ìĤ¬ íļĮ +d ÃŃa +p ÅĤyw +اÙħ ÙĬØ© +íĺ ľ +×IJ׳ ×Ĵ׾ +×IJ׳×Ĵ׾ ×Ļת +ĠìŀĪëĭ¤ ëĬĶ +Ġس اعة +ĠëĤĺ íĥĢ +b ö +à¸Ħ ัà¸Ļ +ĠdziaÅĤ ania +Ø© Ùĭ +Ġng Å© +׳צ ×Ĺ +ãģ¯ ãģĤãĤĭ +ĠyaÅŁ ında +st ück +car acter +caracter ÃŃsticas +Ġr á»Ńa +ĠÙħختÙĦÙģ Ø© +ãģ«ãģĬ ãģijãĤĭ +à¹ģà¸ŀ à¸ĩ +วิ à¹Īà¸ĩ +ת פ×ķ +سا ÙĩÙħ +使 ãģĨ +Ùĥ رÙĬ +×IJ פ×Ļ +........ ....... +ĠÑĤак им +×Ļ׼ ×ķ×Ļ +Ø´ بÙĩ +ج ÙĬر +ãģĿãģ® ãģ¾ãģ¾ +ac jÄĻ +ĠاÙĦت رÙĥ +ĠاÙĦترÙĥ ÙĬ +ĠпÑĢав илÑĮно +Ġت عÙħÙĦ +à¸ģล à¹īา +Ġbi ên +Ġ×ij׳×Ļ ×Ļת +Ġкл Ñĥб +Ġ×ŀ ש×Ķ +в ÑĪий +ãģĵãģ¨ãģĮãģ§ãģį ãĤĭ +à¸ŀัà¸Ļà¸ĺ ุ +à¸ŀัà¸Ļà¸ĺุ à¹Į +ר ×ķ×Ŀ +ĠاÙĦÙģ Ø±ÙĨ +ĠاÙĦÙ쨱ÙĨ سÙĬ +à¹Ģà¸Ľà¹ĩà¸Ļ à¸Ħà¸Ļ +ãģĹãģ¦ ãģĬãĤĬ +Ġth ầy +ãĤĵ ãģłãģijãģ© +ìĶ ¨ +Ùħ دÙĨ +ت ÙĪÙĨ +ĠмеÑĤ ал +ĠмеÑĤал л +Ġin ÃŃcio +à¸Ńà¸Ńà¸ģ à¸Īาà¸ģ +ëĴ ¤ +Ġcu á»ijn +Ġbu á»Ļc +ÙĨ سÙĬ +ä cht +×ŀ ×Ļ׳×Ļ×Ŀ +ãģķ ãģ¦ +ãģĮ ãģ§ãģį +ÑĬ ем +Ġtá i +ĠЧ ÑĤ +ĠЧÑĤ обÑĭ +à¸Ľà¸¥ ูà¸ģ +à¸Ĭุม à¸Ĭà¸Ļ +н Ñģкий +Ġv ững +Ġ×Ķ ×ľ×ij +ë le +Ġש ×¢×ijר +в аÑĤÑĮÑģÑı +б ой +ع ÙĪÙĨ +à¹ģà¸Ķ à¸Ļ +Ġספר ×Ļ×Ŀ +Ġt uyên +Ġnhi êu +ĠQu ý +Ġh uyết +ãĤı ãģĭãĤīãģªãģĦ +Ġ×ŀ ׼ף +Ġ×Ķ ×§×ľ +Ġ׾×IJ ×ķר +ĠÄIJi á»ĩn +Ø´ ؤ +شؤ ÙĪÙĨ +Ġ×ŀ׊פש +ĠпоÑģÑĤоÑıн но +×ŀ ×Ļר +ìħ Ķ +Ðŀ Ñģ +ÐŀÑģ нов +×ĸ ×Ļת +ĠH á +ĠÑĩаÑģ ов +×IJ ×ķ׾×Ļ +Ġm át +Ø® رÙĪ +خرÙĪ Ø¬ +ÙĤ ضا +ÙĤضا ÙĬا +à¹Ģà¸Ľ à¸Ńรà¹Į +ĠÙĬ ÙĪÙĦ +ĠÙĬÙĪÙĦ ÙĬÙĪ +à¹Ĥà¸Ĺ ษ +׳ פ׾ +ת ×ķש +ת×ķש ×ij×Ļ +Ġv ários +×ŀ ר×IJ×Ķ +ëĿ¼ ìĿ´ +ÙĨ غ +×ij צע +г он +ĠÄIJ ược +ع Ùı +пÑĥÑģ к +ĠÙĪØ§ÙĦ Ùģ +üc ü +×Ļ×§ ×Ļ×Ŀ +Ġس بÙĬÙĦ +׾×ij ף +ĠاÙĦÙĤ رÙĨ +ס ×ķת +ĠQu áºŃn +ãģĵãĤĮ ãģĮ +ãĥĸ ãĥ©ãĥ³ãĥī +×Ĵ ×ŀר +Ġwarto ÅĽci +ĠÙĪØ¨ ÙĬÙĨ +Ġd ạ +ÐIJ в +ÐIJв ÑĤо +Ġol acaktır +à¸Ļ à¸Ĺà¹Į +Ùħ طار +Ġ×¢ ×§×ij +Ġת פ +ãģĹãģ¦ ãģĦãģ¦ +צ ×ŀ×Ĺ +à¸Ī à¸Ńà¸ĩ +Ġö de +ìį ¨ +ÙĨ اس +調 ãģ¹ +ĠогÑĢ Ð¾Ð¼Ð½ +ë³´ íĹĺ +×ĺ ×§ +×ĺ×§ ס×ĺ +ĠbaÅŁ v +ĠbaÅŁv uru +Ġpom ys +Ġpomys ÅĤ +ãģ« ä¹Ĺ +Ġש ׼ף +ĠاÙĦÙħس ؤÙĪÙĦ +Ġз ан +Ġзан ÑıÑĤ +Ġd ương +ãĥĹãĥ¬ ãĤ¤ +ล à¸ļ +ÑĤи ка +ĠAr alık +Ġнед о +Ġm á»Ļ +Ġor an +Ġoran ı +Ġktó r +Ġktór Äħ +Ġ×Ķ×IJ×Ĺר ×ķ׳×ķת +ائ ÙĨ +ÅĦ s +ÅĦs ka +åĽ½ ãģ® +×ŀ ×ĺ×Ļ +ĠвопÑĢоÑģ Ñĭ +à¸Ńà¸ĩà¸Ħà¹Į à¸ģร +×ŀ ×ķצ×IJ +Ġpó ź +Ġpóź niej +ש×ŀ ×IJ׾ +Ġk aps +Ġkaps am +Ġkapsam ında +Ġmá quina +ĠÅĽwie cie +Ġho Ãłng +Ġöz gü +×Ĵ×ķר ×Ŀ +ãģĤ ãģŁãĤĬ +à¸ķัà¸Ķ สิà¸Ļ +à¸ķัà¸Ķสิà¸Ļ à¹ĥà¸Ī +б ÑĢи +ãģ«ãģªãĤĭ ãģ¨ +ت ÙĥÙĪÙĨ +Ġ×ķ×Ķ ×Ļ×IJ +Ġchi ếu +ÑģÑĤан ав +ÑģÑĤанав ли +ÑģÑĤанавли ва +×ŀ ×ķ×Ĵ +c ité +ĠK örper +Ġש ×Ĵ×Ŀ +ع ظ +عظ ÙĬÙħ +Ġ×Ķ×IJ ×Ļש×Ļ +Ġmat ière +ĠÙģ ÙĪÙĤ +Ġk to +Ġkto ÅĽ +à¸Ļ à¹Ĥย +à¸Ļà¹Ĥย à¸ļาย +å¾ħ ãģ¡ +à¹Ģม à¸Ļ +à¹Ģมà¸Ļ ู +A ÃĩÃĥO +Ġt ù +Ġtù y +ãĥĪ ãĥ³ +ĠоÑĤ каз +Ġ×ŀ ×ķצר +ül ü +ãģķãĤĵ ãģ« +Ġ×Ĺ ×ķ×ij +קר ×Ļ×IJ×Ķ +ĠاÙĦØ® دÙħات +ĠÙĦÙħ دة +ر ؤ +رؤ ÙĬØ© +ãĤĴè¦ĭ ãģ¤ãģij +à¸Ł า +Ġréuss i +à¸Ļัà¸ģ à¹Ģรียà¸Ļ +ĠÑĩиÑģ л +à¸ģาร à¹Ģลà¹Īà¸Ļ +Ġhaz ırl +Ġhazırl an +ĠпеÑĢв Ñĭй +ли м +ĠоÑĤзÑĭв Ñĭ +Ġwy jÄħ +ĠwyjÄħ tk +ĠØ£ ÙĤÙĦ +ס ×ļ +Ġê²° ìłķ +Ġ׾×ŀ×¢ ש×Ķ +Ġl ắp +à¹ģà¸ļ ร +à¹ģà¸ļร à¸Ļà¸Ķà¹Į +วà¹Īา à¹Ģà¸Ľà¹ĩà¸Ļ +Ġب دا +Ġبدا ÙĬØ© +ãģ¨ãģĦãģĨ ãģ®ãģĮ +иÑĩеÑģк им +à¸ģาร à¸ŀัà¸Ĵà¸Ļา +Ġb Ãło +Ġmia ÅĤa +y waÄĩ +ĠMär z +ĠÙĨ سبة +Ġéconom ique +×ĸ ×ŀ +×ĸ×ŀ ׳×Ļ×Ŀ +æŃ¢ ãĤģ +Ġt á»§ +íķĺ ìĭł +Ġkażde go +stra ÃŁe +à¸Ĭ ีà¹ī +à¹Ģ à¸ļา +ÑĢеÑģ ÑĥÑĢÑģ +ев ой +Ø´ باب +à¸ķà¹Īาà¸ĩ à¸Ľà¸£à¸°à¹Ģà¸Ĺศ +Ġ×IJ ×Ļש +Ġ×IJ×Ļש ×Ļת +×Ļ ×ķפ +×Ļ×ķפ ×Ļ +ĠìļĶ êµ¬ +ì¡° ìĤ¬ +ãģ£ãģŁ ãĤī +׾ ×Ļ×§ +миниÑģÑĤ ÑĢ +ãĤĤãģ® ãģ¯ +Ġl ương +Ġна и +Ġнаи бол +Ġнаибол ее +íİ ĺ +à¹ģà¸ŀ à¹ī +ãĤŃ ãĥ¥ +ĠкоÑĤоÑĢ Ñĭм +à¹ģà¸Ĺ à¸ĩ +à¹ģà¸Ĺà¸ĩ à¸ļà¸Ńล +Ġ׳ ×Ļ×Ķ +Ġ׳×Ļ×Ķ ×ķ׾ +âĤ ª +ĠGi ải +ĠиÑģполÑĮзов а +ëł¥ ìĿĦ +ãģĹãģĭ ãĤĤ +à¸ģà¹ĩ à¸ķà¹īà¸Ńà¸ĩ +ĠÑĢ ÐµÐ± +ĠÑĢеб ен +ĠÑĢебен ка +ت ÙĪØ§ØµÙĦ +ãĤ°ãĥ« ãĥ¼ãĥĹ +ãĤĦ ãĤī +à¹Ģà¸Ľà¸´à¸Ķ à¸ķัว +б ÑĢо +ë°ĸ ìĹIJ +ÙĨ ÙİØ§ +×Ķ ×Ĵ +×Ķ×Ĵ ׳×Ķ +à¸Ĺ รั +à¸Ĺรั à¸ŀ +à¸Ĺรัà¸ŀ ยà¹Į +Ġkh á»iji +עצ ×ŀ×ķ +бол езн +Ġë°Ľ ìķĦ +ม à¸Ļ +มà¸Ļ ุ +มà¸Ļุ ษ +มà¸Ļุษ ยà¹Į +âĹ Ĩ +×ŀ צ׾×Ļ×Ĺ +Ñıв ление +Ùħ Ø·ÙĦ +ÙħØ·ÙĦ ÙĪØ¨ +Ø® اÙĦÙģ +ت ÙĪÙĤÙģ +ãģ§ãģį ãģ¾ãģĽãĤĵ +оÑģÑĤ ей +м еÑĩа +기 ëĬĶ +תש ×¢ +ص ÙĬب +Ġ×ij×¢ ×ķ×ĵ +à¸Ĥà¸Ńà¸ĩ à¹Ģà¸Ĥา +ÑĤÑı ж +ĠÑĥ пÑĢав +ĠÑĥпÑĢав лениÑı +Ġgén ér +Ġth ÃŃ +פ ×ļ +Ġر Ùħض +ĠرÙħض اÙĨ +Ġtr uyá»ĩn +Ø¥ عداد +ãĤµ ãĥĿãĥ¼ãĥĪ +Ġпол но +Ø® اÙħ +ÐŁ еÑĤ +ÐŁÐµÑĤ еÑĢ +ÐŁÐµÑĤеÑĢ Ð±ÑĥÑĢ +ÐŁÐµÑĤеÑĢбÑĥÑĢ Ð³ +ÙħÙĨت دÙī +ãģķãĤĮ ãģ¾ãģĹãģŁ +ĠëĮĢ íķĺìŬ +à¸ľà¸¹à¹ī à¸Ĺีà¹Ī +Ġ×ŀ×IJ ×ķ +׾ ׳×ĵ +оÑĩ нÑĭе +ĠнаÑĩ ала +Ġ׾ ×Ļ׾×ĵ×Ļ×Ŀ +ов ое +ãģĻãĤĭãģĵãģ¨ ãģ§ +ĠاÙĦÙĨ Ùģ +ĠاÙĦÙĨÙģ Ø· +ìŀĪ ëĬĶ +غ ÙĨÙĬ +פ ×ĵ +ãĤ ¾ +ĠCr é +ãģ© ãģ¡ãĤī +Ø« اÙĨ +ÑĢаб аÑĤ +ÑĢабаÑĤ Ñĭва +Ġê°Ļ ëĭ¤ +à¸Ī ั +à¸Īั à¸ģร +Ġch ụ +Ġchụ p +Ġм аÑģÑĤ +ĠмаÑģÑĤ еÑĢ +Ġn ắm +ĠÑģÑĤ али +Ġ×Ķ×IJ ×Ļר×ķ×¢ +ãĤ½ ãĥ³ +åĪĨ ãģĭãĤĬ +Ø· بع +بد ا +gr áfico +г еÑĢ +à¸Ķำà¹Ģà¸Ļิà¸Ļ à¸ģาร +Ġsal dır +Ġsaldır ı +в ÑĪиÑħ +ãģĭãģ£ãģŁ ãģ§ãģĻ +Ġyapı yor +ĠاÙĦÙģ Øª +צר פת +з доÑĢов +×ij×¢ ׾ +Ġ×IJ ×ŀ×Ļת×Ļ +Ġоб Ñĭ +ĠобÑĭ Ñĩ +ĠобÑĭÑĩ но +Ġ׾ ×ķ×ŀר +ت ÙĥÙĨ +تÙĥÙĨ ÙĪÙĦÙĪØ¬ +تÙĥÙĨÙĪÙĦÙĪØ¬ ÙĬا +Ġhakk ı +ĠÑĢаР² +ĠÑĢав но +رÙĬ Ùĥ +Ġ×ij ×ŀ×Ļ×ĵ +Ġ×ij×ŀ×Ļ×ĵ ×Ķ +à¹ģà¸ģ à¹īว +Ġìĸ ĺ +Ġìĸĺ 기 +ãģĹãģ¦ ãģĦãģ¾ãģĹãģŁ +Ġkı sm +Ġkısm ı +ê± ¸ +åĨħ ãģ® +ì§ ķ +à¹Ģหมืà¸Ńà¸Ļ à¸ģัà¸Ļ +ĠÙģ ÙIJ +ĠÙģÙIJ ÙĬ +ÙĤ اعدة +Ġmoż esz +Ùħ صاÙĦ +ÙħصاÙĦ ØŃ +ãģ¾ãģŁ ãģ¯ +б ег +Ġs ıc +Ġsıc ak +Ñĩ иÑģ +ÑĩиÑģ лен +Ġн ог +ãĥģãĥ£ ãĥ³ +ãĥ« ãĥī +Ġgi ó +Ġs ını +Ġsını f +ив аÑĤÑĮ +Ġqu ên +Ġì łģ +Ġìłģ ìļ© +ĠJo ão +Ùģ Ø§Ø¯ +ĠGl ück +à¸Ĺ à¸Ńà¸Ķ +Ġg ói +ï¼ Ĭ +Ġdé tail +ĠدÙĬ سÙħ +ĠدÙĬسÙħ بر +ë¡ľ ìĦľ +×ŀ ×ķ×Ĺ +à¹Ħ ฮ +ĠоÑĤ д +ĠоÑĤд ÑĭÑħ +Ġkh uyến +à¸Ħ à¸Ńย +Ġج ÙĨÙĬ +ĠجÙĨÙĬ Ùĩ +ĠاÙĦد ÙģØ§Ø¹ +à¸Ļà¹īำ หà¸Ļัà¸ģ +ĠìĤ¬ëŀĮ ëĵ¤ìĿ´ +Ġth ừa +ĠÃ¶ÄŁrenc i +ĠпомоÑī и +ĠczÄĻ ÅĽÄĩ +ש ×ĺר +ĠN hi +ĠNhi á»ģu +׳ צ×Ļ +ĠнаÑĪ ÐµÐ¼ +ĠkarÅŁÄ± laÅŁ +Ġ×Ķש ׳×Ļ×Ŀ +ĠÄIJ ưá»Ŀng +Ġtr ú +ĠÑĢазлиÑĩ нÑĭÑħ +ĠاÙĦØ´ Ùĩر +Ġ×ľ×¢ ×ķ׾×Ŀ +ØŃ جر +ĠÄij á»ķ +ĠìĿĺ íķ´ +à¸ļ à¹Īà¸Ńย +Ġ×Ķ ×Ļ׾×ĵ +ãģ¨ãģª ãģ£ãģŁ +Ġ×Ĺ×ķ ×ķת +Ġש×Ļר×ķת ×Ļ +Äħ cy +س رÙĬ +K İ +פ ׳×ķ +ÑģÑĤÑĢÑĥк ÑĤÑĥÑĢ +ÑĤ ÑĢÑĥд +Ġ×Ķ ×§×¨ +Ġ×Ķקר ×ķ×ij +Ġth áºŃm +èģŀ ãģį +ÙĤÙĪ ÙĬ +клÑİÑĩ ен +ÑĤе Ñħ +ÑĤеÑħ нолог +è¡Į ãģ£ãģŁ +Ġ×ķ×IJ ×Ļף +ĠÅŁek lin +ĠÅŁeklin de +r ô +ÑĢ Ð¾Ð³ +Ġнов Ñĭе +Ġס ×ij×Ļ×ij +Ġtecn ologÃŃa +ס ׼ +×¡×Ľ ×ķ×Ŀ +ĠÅŀ ub +ĠÅŀub at +Ġ×Ķ×ŀ ׾×IJ +Ġwy pos +Ġwypos aż +ãģ¯ ä½ķ +ãĤ¬ ãĥ³ +ê° ĸ +Ġкак ие +Ġçocuk lar +Ġ׾צ ×ĵ +Ġkay ıt +ĠмеÑģÑĤ е +Ùħ دÙĬÙĨØ© +Ġ׼ ×Ĵ +Ġ׼×Ĵ ×ķף +ãģĹãģ¦ ãĤĭ +ĠÙħا ÙĬÙĪ +ãģ£ãģ¦ãģĹãģ¾ ãģ£ãģŁ +ĠпÑĢогÑĢамм Ñĭ +à¹ģล à¸Ļà¸Ķà¹Į +ãĥ¯ ãĤ¤ +ער ×ķ×¥ +Ñģ ид +ĠB öyle +Ġì²ĺ ìĿĮ +Ġת פק×Ļ×ĵ +ĠTr ên +íĥ Ī +ĠÐłÐ¾ÑģÑģ ий +ĠÐłÐ¾ÑģÑģий Ñģкой +Ġs Ãłn +Ġrè gle +ĠyaklaÅŁ ık +à¹Ģล ิà¸ģ +Ġد ائÙħ +Ġ×ķ ×Ĵ +اب ر +Ġb è +ĠاÙĦ ÙĤدÙħ +ĠÑĢеÑĪ ÐµÐ½Ð¸Ñı +hi ên +ÑĤи к +Ä Ħ +à¸ļรร ยาà¸ģ +à¸ļรรยาà¸ģ าศ +רצ ×ķף +åĭķ ãģį +ĠGä ste +Ġ기 본 +ĠÙĬ عرÙģ +ĠS á»Ń +gÅĤ ÄĻb +à¹Ģà¸Ń ส +×IJ×ŀ ×Ļף +Ġп Ñĥнк +ĠпÑĥнк ÑĤ +Ġ×Ļ×ķ×ĵ ×¢×Ļ×Ŀ +ãĤ« ãĥ©ãĥ¼ +Ġ×ijס ×ĵר +Ġbu á»ĵn +й ÑĤ +йÑĤ еÑģÑĮ +ãĤĴ æ±ĤãĤģ +Ġ×IJת ׼×Ŀ +Ġ모 르 +ظ رÙĪÙģ +Ñĩ еÑģÑĤво +ìĸ´ ìĦľ +Ġод на +Ġkap ı +Ġëħ¸ ëł¥ +ĠKü che +ĠاÙĦت Ø´ +Ø· ÙĬب +ĠíĬ¹ íŀĪ +ĠвÑĭп ÑĥÑģ +ĠвÑĭпÑĥÑģ к +×ĵ ת×Ļ +Ġu ÄŁ +ĠuÄŁ ra +ائ Ùĩا +Ġtho át +ãģª ãĤĤãģ® +Ñij ÑĢ +기 ê°Ģ +ĠgeliÅŁ me +تØŃ ÙĤ +تØŃÙĤ ÙĤ +Ġоп аÑģ +б ÑĢоÑģ +ห ุ +หุ à¹īà¸Ļ +ì¼ Ģ +ãĤ¹ ãĥŀ +ãĤ¹ãĥŀ ãĥĽ +Ø£ Ù쨱 +Ø£Ù쨱 اد +ĠTh á»±c +Ġth ắ +ãĥªãĥ³ ãĤ¯ +Ġni á»ģm +ĠHö he +عÙħ ار +ÙĥÙĪØ± ÙĪÙĨ +ÙĥÙĪØ±ÙĪÙĨ ا +ĠÄIJ ến +ĠÑģам ом +ĠÑĤ еле +ĠÄijo án +à¸Ħวามà¸Ħิà¸Ķ à¹Ģหà¹ĩà¸Ļ +Ġд иÑģк +Ø£ Ø·Ù쨧ÙĦ +ม ารà¹Į +à¸Ĺ หาร +à¸Ĺ à¸Ļ +Ġب عÙĬد +ĠاÙĦÙĩ ÙĨد +åĩº ãģĹãģ¦ +Ġkar de +Ġkarde ÅŁ +×Ķ×Ļס×ĺ ×ķר +×Ķ×Ļס×ĺ×ķר ×Ļ×Ķ +éģ¸ ãģ³ +ع اÙħÙĦ +à¸Ĥ ยาย +Ġtü rl +Ġtürl ü +ĠìĿ¼ ìĿ´ +Ġmaté ria +Ġ׼׾ ×ķ×ŀר +ãĥģãĥ£ ãĥ¼ +جÙħ اعة +ĠÑģво им +Ø¥ÙĤ اÙħØ© +ä¾ĭ ãģĪãģ° +س اب +Ø¢ خر +ÙĤ دÙĬر +×IJ×ŀ ×Ļ +ìĸ » +Ġ׳×ķס פת +ĠÐĴ лад +ĠÐĴлад им +ĠÐĴладим иÑĢ +Ġest ará +ãģĵãģĨ ãģĦãģĨ +ãĤĴ 使ç͍ +มา à¸ķร +มาà¸ķร à¸IJาà¸Ļ +ãģ£ãģ ½ +Ġn ú +Ġnú i +ย าà¸ĩ +ĠاÙĦج ÙĨس +Ġüst ün +ëľ » +ãĤ» ãĥ« +ãģ¦ãģĦ ãģįãģ¾ãģĻ +Ġ×Ĺ ×ķ×ĸ +Ġ×Ĺ×ķ×ĸ ר +ĠÐĵ лав +à¹Ĥà¸Ĭ à¸Ħ +íı IJ +ÙĨت ظر +Ġ×Ĵ ×ij×Ļ +ع ÙĤب +int ér +intér êt +×ŀ פ×Ĵ +×ŀפ×Ĵ ש +Ġth ù +اÙģ Øª +Ġ×ŀש פ +Ġ×ŀשפ ×ĺ×Ļ +ĠÙħ ÙĪØ§ÙĤع +è¦ ļ +è¦ļ ãģĪ +×ĵ ×Ļף +à¹Ģรืà¹Īà¸Ńà¸ĩ ราว +ãģ¾ ãģĤ +Ġgh ế +иÑĢÑĥ ÑİÑĤ +à¸ģ ว +à¸ģว à¹īาà¸ĩ +Ġпов еÑĢ +ĠповеÑĢ Ñħ +ĠповеÑĢÑħ ноÑģÑĤ +׳ ×ĵר +Ġкон ÑĨе +Ġдолж на +Ġ×Ļש ×Ļר +acaģı z +ìĹ Ķ +Ġn ÃŃvel +Ġö r +Ġör nek +Ùĥ Ùģ +ĠФедеÑĢ Ð°ÑĨии +Ġ구 ìĦ± +หัว à¹ĥà¸Ī +ĠV áºŃy +м ед +мед и +меди ÑĨин +медиÑĨин Ñģк +از ÙĬ +×Ĵ×ij ×ķ׾ +ÑĦ ÑĢ +Ġzus ätzlich +à¸ģ à¸ģ +ĠاÙĦاÙĤتصاد ÙĬØ© +Ġh è +lu ÄŁun +ج Ùİ +à¹Ħà¸Ł ลà¹Į +ÄIJ T +ãģĿãģ® ä»ĸ +à¸Ĺิ à¹īà¸ĩ +ĠاÙĦØ£ ÙĪ +ر سÙħ +æ°Ĺ ãģ¥ +ìĿ´ ë©° +ÑĮ ев +ص Ø· +ĠاÙĦاست Ø« +ĠاÙĦاستث Ùħار +à¸Ńา à¸Ħาร +ĠÑĤоÑĩ но +ĠV ân +à¸Ń ร +à¸Ńร à¹Īà¸Ńย +ĠاÙĦس ÙĨØ© +Ġc Æ°á»Ľi +×Ļ×Ķ ×Ł +íį ¼ +話 ãģĹ +âĹ ĭ +ĠìķĬ ìĿĢ +ãĥ¡ ãĥ¼ãĤ +ãĥ¡ãĥ¼ãĤ « +ãĥ¡ãĥ¼ãĤ« ãĥ¼ +ĠÑĤеп ло +å½¼ ãĤī +Ġİ z +Ġİz mir +íĻ į +Ġr ượ +Ġrượ u +æĢĿãģĦ åĩº +ĠPh ạm +Ġchá u +צ×Ļ ×ķת +ĠìĿ¼ 본 +ìĤ¬ ëĬĶ +ĠÑģозд ан +Ġar acı +Ġ×¢ ר +Ġער ×Ļ׼×Ķ +ĠíķĺëĤĺëĭĺ ìĿĺ +dzi ÅĤ +à¸Ľà¸£à¸° à¸ĺาà¸Ļ +Ġser ÃŃa +ĠìŀĪ ëıĦë¡Ŀ +در ج +íķľëĭ¤ ëĬĶ +à¸Ńา à¸Ĺ +à¸Ńาà¸Ĺ ิà¸ķ +à¸Ńาà¸Ĺิà¸ķ ยà¹Į +ÑĤелÑĮ нÑĭй +ĠØ® دÙħات +×ŀ׳ ×ĺ +Ġl ược +ĠS Ãłi +ĠÙĪ Ø§Ø¶ +ĠÙĪØ§Ø¶ ØŃ +غ از +ĠdoÄŁ al +Ġ×ijש ×Ŀ +Ġд лин +ĠØ¥ طار +Ġ×ijס פר +ãĤĴ ä¸İ +ãĤĴä¸İ ãģĪ +Ġë²ķ ë¥ł +ĠÑĥ вели +ĠÑĥвели Ñĩи +ส à¹Ħà¸ķ +สà¹Ħà¸ķ ลà¹Į +à¹Ħ à¸ģล +×ij׊ף +ĠìĿ´ íĽĦ +Ġm unic +Ġmunic ÃŃpio +تÙħ Ø«ÙĦ +ĠÄij áo +H ôtel +Ġl á»Ńa +ĠÄij ẳng +Ñĩ ки +Ø´ رÙĪ +شرÙĪ Ø· +ĠìĿ´ 를 +ÙĬ Ùĭا +×ŀ׾ ×ļ +×ŀ×Ķ ×Ļר×ķת +ĠобÑıз аÑĤелÑĮ +ĠобÑıзаÑĤелÑĮ но +é nergie +Ġmud ança +Ġm ụ +Ġmụ n +Ġn º +ĠاÙĦت عا +ĠاÙĦتعا ÙĪÙĨ +ĠاÙĦاجتÙħاع ÙĬØ© +Ġп лаÑģÑĤ +Ġëĵ± ìĿĺ +ãĥIJãĤ¤ ãĤ¯ +Ùĩج ÙĪÙħ +ĠSa úde +Ġì¤ijìļĶ íķľ +Ġ×Ķצ ×Ļ×ij×ķר +תק ף +ĠاÙĦعاÙĦÙħ ÙĬ +ĠболÑĮÑĪ Ð¾Ð¹ +ĠÙĥ ÙĦÙħ +ĠÙĥÙĦÙħ Ø© +ãģ®ãģ§ãģ¯ãģªãģĦ ãģ§ãģĹãĤĩãģĨãģĭ +ĠÙħ باراة +Ġש×IJ ׳ +Ġש×IJ׳ ×Ĺ׳×ķ +ãĤ¹ãĤ¿ ãĤ¤ãĥ« +ĠSa ÄŁ +ĠSaÄŁ lık +Ġh ư +׳ ×Ĺ×Ķ +Ġ×ij קר×ij +Ø· عÙħ +ห ิà¸Ļ +à¸Ĺุà¸ģ วัà¸Ļ +à¸Ħรัà¹īà¸ĩ à¸Ĺีà¹Ī +ĠlÃł nh +Ġdonn é +ãģĽ ãģĦ +جز ÙĬرة +доÑĢ Ð¾Ð¶ +ì¼ ľ +تÙĨظ ÙĬÙģ +ãĥģ ãĥ§ +Ġald ıģı +ج اج +ĠÑĤ омÑĥ +à¸Ľ ิ +Ġ×ijר שת +ãģıãģªãĤĬ ãģ¾ãģĻ +ĠпÑĢин ÑĨип +Ġ׊׾×ķ +ëı ¼ +×ķ×Ĵ ש +س س +à¸Ľ ู +Ġh ầu +æĦŁãģĺ ãĤĭ +ï¼ ´ +د ÙĪØ§ +ĠÑģм ог +scri ção +Ġth áºŃn +Ġר ×ķ×IJ×Ķ +обÑĢаж ен +ĠاÙĦتج ارÙĬØ© +Ø· بÙĬع +jÄħc Äħ +íĸī ìľĦ +Ġнов Ñĭй +Ġ×ŀ ×Ĺ×ĵש +æĮ¯ ãĤĬ +gu é +Ġ×IJ ×Ļר×ķ×¢ +Ġ×IJ×Ļר×ķ×¢ ×Ļ×Ŀ +ĠاÙĦ ذÙĩب +×ĵ ×IJ +ت اÙĨ +ãģł ãģĹ +à¸Ńั à¸ķรา +à¹Ĥ à¸Ī +بÙĦ اد +×Ķ×Ļ ×Ļ׳×ķ +ĠÑģп е +ĠÑģпе ÑĨиалÑĮно +ĠÅĽwi ata +ãĤĵãģ§ãģĻ ãĤĪ +شر ÙĥØ© +ĠpÅĤ yt +Ġsitu é +Ġ׼×IJ ׾×Ķ +ס ×ijר +Ġkaż d +Ġkażd ym +ãĤĴæĮģ ãģ¤ +׾×Ķ ×ľ +׾×Ķ׾ ף +ĠwÅĤ as +ĠwÅĤas ne +ĠsaÄŁ lan +×ŀ×¢ ׾×Ķ +ĠاÙĦا ÙĪÙĦ +ìĹIJìĦľ ëıĦ +×IJ×Ļר ×ķפ×Ķ +تÙĤ ÙĨÙĬØ© +Ùħ ائ +Ùħائ Ø© +Ġcompañ ÃŃa +Ġsü rek +Ġsürek li +ĠиÑģ кÑĥÑģ +ĠиÑģкÑĥÑģ ÑģÑĤв +ĠB ürger +ת ×Ĺר +ת×Ĺר ×ķת +à¸ŀรà¹īà¸Ńม à¸ģัà¸ļ +Ø´ Ùħ +à¸ĸืà¸Ń วà¹Īา +è¾¼ ãĤĢ +ä¼ij ãģ¿ +ĠاÙĦØ£ ب +ĠÑģÑĤоим оÑģÑĤÑĮ +ĠпÑĢав а +may ın +ห วย +ĠاÙĦØ· بÙĬعÙĬ +à¸Ĺีà¹Ī à¸ŀัà¸ģ +ĠEst á +Ñĭва ÑİÑĤ +ب سÙĬ +بسÙĬ Ø· +Ġ×ij×¢ ×ijר +åı¯èĥ½ ãģ§ãģĻ +Ġ×ĵ ×ķ׾ +Ġ×ĵ×ķ׾ ר +Ùĩ ÙİØ§ +воÑĢ Ð¾ÑĤ +ãģ¦ ãģĦãģ¾ãģĹãģŁ +à¹Ĥà¸Ĺร ศ +à¹Ĥà¸Ĺรศ ั +à¹Ĥà¸Ĺรศั à¸ŀ +à¹Ĥà¸Ĺรศัà¸ŀ à¸Ĺà¹Į +Ġ×§ ׳ +ĠاÙĦØ« ÙĨ +ĠاÙĦØ«ÙĨ ائÙĬØ© +Ġco ût +à¸ķิà¸Ķ à¸ķัà¹īà¸ĩ +Ġö rg +Ġörg üt +ĠاÙĦØ® ÙĦÙĬ +ĠاÙĦØ®ÙĦÙĬ ج +Ġb á»įn +×ķ׾×ķ×Ĵ ×Ļ +ëŀ ľ +ĠÐij олÑĮ +ĠÐijолÑĮ ÑĪ +×Ĵ ×ijר×Ļ×Ŀ +ÙĤ ÙĬد +×ij×Ļ×ĺ ×ķ×Ļ +æīĵ ãģ¡ +Ġol muÅŁ +f äh +fäh ig +ล าà¸Ļ +ĠÙĤ طر +ש פ×Ķ +èªŃ ãĤĵãģ§ +à¸Ĥ วา +Ġchi ếm +ãĤ¤ãĥ³ ãĤ¿ +ãĤ¤ãĥ³ãĤ¿ ãĥ¼ãĥ +ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥ į +ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥį ãĥĥãĥĪ +Ġ׾ש×ŀ ×ķר +Ġت رÙĥ +ĠترÙĥ ÙĬا +ר ×ķ×ĺ +ã썿ĢĿ ãģĦãģ¾ãģĹãģŁ +ĠاÙĦت ÙĤ +Ġd ư +ãģ¦ãģıãĤĮ ãĤĭ +ãģĹãģŁ ãģĵãģ¨ +Ġróż ne +ĠاÙĦØ· ÙģÙĦ +ĠPost é +Ġ×ŀש ×ķ×Ŀ +Ñį ÑĢ +ĠÑĢабоÑĤ аеÑĤ +ãĤ· ãĥª +ãĤ·ãĥª ãĥ¼ãĤº +Ġ×ij×Ķ ×Ĺ׾×ĺ +×§×Ķ ×Ļ׾×Ķ +ãĤ« ãĥ¡ +ãĤ«ãĥ¡ ãĥ© +ï¼ ¯ +ĠìĤ¬ ìĿ´ +Ġk ì +Ġth Æ°á»Ľc +ض بط +ÙĤب ÙĪÙĦ +åĪ¥ ãģ® +Ġparticul ière +ĠÑģво ем +Ġ×¢ סק +Ġעסק ×Ļ×Ŀ +×ij×Ĺ ×Ļר×ķת +×ij ×Ļ׳×ķ +à¸ĭ à¸Ń +Ġ×¢ ×ķ×ijר +ãģłãģ£ãģŁ ãģ®ãģ§ +ıld ıģı +Ùħ دار +Ùħدار س +주 ìĭľ +à¸Ńา ศ +à¸Ńาศ ัย +Ġt ấm +à¸ŀิ à¸Ī +à¸ŀิà¸Ī าร +à¸ŀิà¸Īาร à¸ĵา +ÑĤелÑĮ нÑĭе +Ñģк ÑĥÑİ +Ðľ Ðĺ +à¹Ģà¸ģ า +à¹Ģà¸ģา หล +à¹Ģà¸ģาหล ี +×ĵ ×Ĺ +à¹Ģà¸Ĭ ิà¸ĩ +Ġد ÙĤÙĬÙĤØ© +íķĻ ìĥĿ +Ġש×IJ ׾×Ķ +Ġcontr ôle +Ġsit uação +à¸Ĥà¸Ńà¸ĩ à¸ľà¸¹à¹ī +ÙĨ Ø·ÙĤ +ê³¼ íķĻ +หลาย à¸Ħà¸Ļ +Ġn ắng +ÙĤ Ùı +ì¡° ê±´ +Ñ ķ +ãĥĥ ãģ¨ +×ŀ ×Ļ׾×Ķ +Gr ün +×Ļ ×Ļ×¢ +×Ļ×Ļ×¢ ×ķ×¥ +×ŀ׳ ׼ +ë ŃIJ +×ŀ×¢ ×ŀ×ĵ +สำ à¸Ļัà¸ģ +ج دد +à¸Ħ ัà¸Ķ +Ġ×Ķ×ŀש פ +Ġ×Ķ×ŀשפ ×Ĺ×Ķ +×ŀש ק׾ +ÙĦ Ùı +Ġty tu +Ġtytu ÅĤ +ÑĪ ÐµÐ¹ +ĠìĿ¼ ë¶Ģ +ÑĪ ÐµÐ½Ð¸Ðµ +Ġph óng +ĠìĹŃ ìĤ¬ +ãĤ« ãĥ³ +Ġtú i +ĠÙĨ ÙĪÙģ +ĠÙĨÙĪÙģ Ùħبر +gr ün +ĠاÙĦØ´ ÙħاÙĦ +ÅĽwi adc +ÅĽwiadc zenie +ער ×Ķ +Ġ×¢ ×ķ×ij +Ġ×¢×ķ×ij ×ĵ×Ļ×Ŀ +×ĵ×ķ×Ĵ ×ŀ×IJ +ä»Ĭ ãģ¯ +Ġv ão +ĠТ ем +Ñģ илÑĮ +Ġch ợ +Ùħ را +Ùħرا ÙĤب +à¹Ħมà¹Ī รูà¹ī +Ġر ائع +×IJ׳ ×Ĺ׳×ķ +สà¹Īà¸ĩ à¹Ģสริม +צ ×Ĺ +ĠìŀĪìĸ´ ìĦľ +Ġkur ulu +Ġkurulu ÅŁ +ĠÃĸ zellik +ĠÃĸzellik le +Ġת ×Ļ×§ +Ġgh é +Ġspr zÄĻ +ĠsprzÄĻ t +ער ×ķת +را ØŃØ© +ãģ£ ãģį +ãģ£ãģį ãĤĬ +ĠìķĦ ëŀĺ +stit uição +Ġдолж но +×Ķ ×¨×© +×Ķרש ×ŀ×Ķ +×Ķ׾ ×ļ +ãģ¡ ãģª +ãģ¡ãģª ãģ¿ +ãģ¡ãģªãģ¿ ãģ« +פ ×Ĺ×ĵ +ĠاÙĦج ÙħÙĬع +×ij×¢ ׾×Ļ +Ġtr ùng +Ġפ ת×Ĺ +×ŀ׾×Ĺ ×ŀת +ãĥĨ ãĥ¼ãĥ +ãĥĨãĥ¼ãĥ ŀ +Ùħ تاب +Ùħتاب عة +Ġ모 ìĬµ +ÙĬ ص +åIJĪ ãģĨ +ĠY ap +ĠYap ı +ĠÑģ казаÑĤÑĮ +ëª ° +à¸Ĺีà¹Ī สำà¸Ħัà¸į +ĠìĹĨ ìĬµëĭĪëĭ¤ +Ġnh ắc +Ġülk eler +Ġмног ие +íķĺ ìħ¨ +มาà¸ģ à¸Ĺีà¹Īสุà¸Ķ +à¸ģ à¹īา +à¸ģà¹īา ว +Ġİ yi +л еж +леж а +ãĤ¸ ãĥ§ +à¸Ĺั à¸ŀ +ا ÙĪØ± +Ġ×Ĺ×ijר ×Ļ +Ġ׾ ש×Ŀ +ì² « +ĠT á»Ń +×ŀ ×ķ׳×Ļ +ÙĤ ÙĪØ¯ +à¸ģระ à¹Ģà¸Ľ +à¸ģระà¹Ģà¸Ľ à¹ĭ +à¸ģระà¹Ģà¸Ľà¹ĭ า +ĠпÑĢоблем Ñĭ +Ġaç ıs +Ġaçıs ından +Ġ×Ķ×ŀ ׼ +ĠÙħع ظÙħ +ÙĤÙĬ اس +ĠпÑĢод олж +ĠпÑĢодолж а +Ġver diÄŁi +ĠпÑĢед меÑĤ +ãģĦãģ¾ãģĻ ãģĮ +ĠëͰ 른 +ĠاÙĦ ÙĤÙĬاÙħ +ĠØ¥ÙĦÙĬ Ùĩا +Т ÐIJ +п оз +ãĤ· ãĥ¥ +ä¸ĬãģĮ ãĤĬ +à¹Ģà¸Ķิม à¸ŀัà¸Ļ +à¸ģุ ล +ØŃر ÙĬØ© +×§×ij×ķצ ×ķת +ë¯ ¿ +ĠاÙĦÙħ ÙĨا +ĠاÙĦÙħÙĨا Ø·ÙĤ +ĠвÑĭп ол +ĠвÑĭпол нÑı +ãĥĭ ãĤ¢ +Ġê²° êµŃ +×Ĺ ×ķ×ŀ +×Ĺ×ķ×ŀ ר×Ļ×Ŀ +ĠУкÑĢа инÑĭ +ห à¸Ńม +ר ×Ļס +ĠÑħоÑĤ ел +ĠобÑĢаз ованиÑı +Ġkh ẳng +Ġm ưa +Ġgör me +Ġgüç lü +سع Ùī +มัà¹Īà¸Ļ à¹ĥà¸Ī +íķĺ ê²łìĬµëĭĪëĭ¤ +Ġпол Ñĥ +Ġfün f +ã썿ĢĿ ãģ£ãģ¦ãģĦãģ¾ãģĻ +Ġê·¸ê²ĥ ìĿĢ +ĠdÃ¼ÅŁÃ¼n ce +ìŀ ł +ĠH Æ°á»Ľng +ĠTi á»ĥu +Ġç ift +ãģij ãģ° +à¸Īà¸Ļ à¸ĸึà¸ĩ +à¸Ĺำ à¹Ħà¸Ķà¹ī +ĠìŀIJ ì²´ +Ġd õ +Ġdõ i +à¸Ī ัà¸Ļ +à¸Īัà¸Ļ à¸Ĺ +à¸Īัà¸Ļà¸Ĺ รà¹Į +ece ÄŁini +׳×ķ×¢ ר +غ ار +ĠاÙĦØ£ÙħرÙĬ ÙĥÙĬ +داع Ø´ +ĠбезопаÑģ ноÑģÑĤи +Ġб Ñİ +ĠбÑİ Ð´Ð¶ +ĠбÑİдж еÑĤ +ãĥĬ ãĤ¤ +à¸ŀà¸ļ วà¹Īา +da ÄŁ +×IJ ×ķפף +íĹ Į +ãĥĢãĤ¤ ãĤ¨ +ãĥĢãĤ¤ãĤ¨ ãĥĥãĥĪ +ĠëĮĢ íĨµ +ĠëĮĢíĨµ ëł¹ +D İ +Ø£ ØŃداث +ĠA ÄŁ +ĠAÄŁ ust +ĠAÄŁust os +ØŃÙĦ ÙĪÙĦ +Ġw ÅĽ +ĠwÅĽ ród +ĠÑģо оÑĤвеÑĤ +ĠÑģооÑĤвеÑĤ ÑģÑĤв +ĠÑģооÑĤвеÑĤÑģÑĤв ии +ĠLu áºŃt +Ġ׼׾ פ×Ļ +Ġв еÑī +ĠвеÑī еÑģÑĤв +×§ ×Ļ×¥ +ĠبÙĩ ذا +عا Ø´ +à¹Ģà¸Ľà¹ĩà¸Ļ à¹Ģรืà¹Īà¸Ńà¸ĩ +Т Ðķ +Ġ×ij×IJ ×Ļ׳×ĺר׳×ĺ +س عد +Ġ×Ķ×ĺ ×Ļפ×ķ׾ +פ ×Ļס +à¸ĩà¹Īาย à¹Ĩ +ĠGer ät +׾ ×Ļ×ĵ×Ķ +ĠÑĢ Ð¸Ñģк +׾ק ×Ĺ +н наÑı +ר ×Ļ×ĵ +п ÑĢакÑĤи +пÑĢакÑĤи к +à¸Ĥัà¹īà¸Ļ à¸ķà¸Ńà¸Ļ +à¸Ļà¹Īา รัà¸ģ +larınız ı +à¸Ńà¸Ļุ à¸įา +à¸Ńà¸Ļุà¸įา à¸ķ +ĠzdjÄĻ cia +Ġb ây +Ñģ ÑĢ +ÑģÑĢ Ð¾Ñĩ +ãĥĭ ãĥ³ãĤ° +Ġö ner +Ġöner i +Ġнов ÑĭÑħ +دع ÙĪØ© +Ġg ắn +ĠاÙĦÙĦ بÙĨ +ĠاÙĦÙĦبÙĨ اÙĨÙĬ +ãĥĨãĤ£ ãĥ¼ +Ġص ØŃÙĬØŃ +ем ÑĭÑħ +çĸ² ãĤĮ +ĠпÑĢо иÑģ +ĠпÑĢоиÑģ ÑħодиÑĤ +ส à¸ķิ +ĠT ết +Ġ×Ķ׾ ׾×ķ +à¹Ģรืà¹Īà¸Ńà¸ĩ à¸Ļีà¹ī +×ŀ×ij ׳×Ķ +Ġconte údo +Ġا خت +Ġاخت ÙĬار +Ùħ سÙĦ +ÙħسÙĦ سÙĦ +ëı Ī +Ġ׾ ×Ļ×ĵ +à¸ŀิ à¸ĺี +ĠÑģов Ñģ +ĠÑģовÑģ ем +ãģĮãģĤãĤĬ ãģ¾ãģĹãģŁ +Ġsó ng +Ø¥ صÙĦاØŃ +ë§ ģ +Ùģ ÙĬر +ĠJe żeli +ìłľ ëıĦ +d ÅĤug +ìĥģ ìĿĦ +Ġc áºŃn +Ġhá»į p +Ø£ ست +أست اذ +Ġ×ŀ ×Ļש×Ķ +Ġ×ŀ×Ļש×Ķ ×ķ +Ġd Ãły +Ġch Ãłng +ãģ¡ãĤĥãĤĵ ãģ¨ +ĠÄij ám +Ġsw ój +Ġpoder á +ĠоÑĤлиÑĩ а +Ġpéri ode +ünd ig +×ĺ×¢ ף +ÑģÑĤÑĢо иÑĤелÑĮ +ר ת×Ļ +Ġ×Ļ×Ķ ×Ļ×ķ +׾ ס +ĠاÙĦÙħÙĨ زÙĦ +à¸Ļิ à¹īว +иÑĦ ика +иÑĦика ÑĨи +ðŁĺ ī +Ġad ına +ãĢĤãĢĤ ãĢĤ +×IJ ×Ļף +ס ×Ļר +ĠÙĬ عد +çŃĶ ãģĪ +اÙĦ جز +اÙĦجز ائر +енÑĮ к +ร ห +รห ัส +ĠTürk çe +ê¾ ¸ +Ġ×Ļ ×ķ׼׾ +Ġש ×ķ׳×Ķ +Ġ×ij×ŀ צ×ij +ĠдейÑģÑĤв иÑĤелÑĮно +ĠبأÙĨ Ùĩ +×ŀ×§ ×ĵ +Ġ×Ķש ×§ +Ø®ÙĬ ارات +Ġf ı +Ġfı rs +Ġfırs at +ëij ĺ +ĠìĦľ ìļ¸ +Ġ×Ķ×Ĵ ×ķ×£ +ر عا +رعا ÙĬØ© +ĠK ết +к Ñģи +ĠÑĥÑģлÑĥг и +ноÑģÑĤ ей +ìļ´ ëıĻ +ĠобÑĬ Ñı +ĠобÑĬÑı вл +н еж +×Ķפ ×ļ +Ġ×ij×¢ ×Ļ׳×Ļ +ëĨ Ĵ +ĠпÑĢоÑĨ ед +ĠпÑĢоÑĨед ÑĥÑĢ +Ġiht iy +Ġihtiy acı +Ġë°Ķ ëŀį +Ġë°Ķëŀį ëĭĪëĭ¤ +à¸ģล ัว +ĠÑģл ожно +×§×Ļ ×Ļ×ŀת +ĠÄIJ ình +ĠÙħ ÙĦÙģ +Ġà¹Ĥà¸Ķย มี +Ġkat kı +تØŃ ÙĪÙĬÙĦ +à¹Ħ à¸ŀ +ĠH á»į +ñ e +Ġдо Ñħод +Ġtho ải +íķĺìŬ ìķ¼ +ãĤ¹ãĥĿ ãĥ¼ãĥ +ãĤ¹ãĥĿãĥ¼ãĥ Ħ +ĠG òn +Ġk è +Ġkè m +é̲ ãĤģ +ãĤ¹ ãĥ¼ãĥ +ãĤ¹ãĥ¼ãĥ ij +ãĤ¹ãĥ¼ãĥij ãĥ¼ +ĠgiÃł u +ĠØ¥ عادة +Ġ׾ ×ķ×§ +Ġ׾×ķ×§ ×Ĺ +ĠÑħоÑĩ еÑĤ +×ĺ ׾×ķ×ķ +×ĺ׾×ķ×ķ ×Ļ×ĸ +×ĺ׾×ķ×ķ×Ļ×ĸ ×Ļ×Ķ +Ġth uyết +ãģĿãĤĮ ãģ§ +Ġvard ı +à¹Ħร à¹ī +ع بد +ĠRep ública +ãĥ¼ãĤ¿ ãĥ¼ +Ġ×ŀ×IJ ×ķת +à¹Ħà¸Ľ à¹ģลà¹īว +Ġyapıl acak +ãĤ¹ãĤ¿ ãĥ¼ãĥĪ +ãģ» ãģ¼ +Ġko ÅŁ +ĠмаÑĤ еÑĢи +Ġsiè cle +ĠاÙĦÙħ ختÙĦÙģ +ĠاÙĦÙħختÙĦÙģ Ø© +Ġ׾ק ר×IJ +Ġ׾קר×IJ ת +Ġ×Ķפ ×ķ×¢×ľ +Ġt òa +Ġr Æ¡i +åij¨ ãĤĬ +à¸Ŀ à¸Ļ +j ÅĽÄĩ +ĠìķĬ ìĿĦ +اÙĨت ÙĤاÙĦ +ëĸ ł +ив аеÑĤ +ãĥĪ ãĥ« +ĠاÙĦÙģÙĦسطÙĬÙĨ ÙĬØ© +à¸ģลà¹Īาว วà¹Īา +ا Ùĥت +ĠÃĸ l +ĠÑĢе ÑĪи +ĠÑĢеÑĪи л +Ġ׳×ķס פ×ķת +Ġìłķ ì¹ĺ +вл еÑĩен +Ùħر ØŃÙĦØ© +Ġcome ça +Ġy ık +ìĤ ´ +à¸ĺ à¸Ļา +à¸ĺà¸Ļา à¸Ħาร +à¸Ńà¸Ļ า +à¸Ńà¸Ļา à¸Ħ +à¸Ńà¸Ļาà¸Ħ à¸ķ +Ġpeque ña +ä»ķ äºĭãĤĴ +Ġب ذÙĦÙĥ +Ġнов ого +ãģĹãģ¦ ãģĦãģªãģĦ +ĠاÙĦÙħ ÙĬاÙĩ +à¸ģà¹ĩ à¹Ģà¸Ľà¹ĩà¸Ļ +Ġж ÑĥÑĢ +ĠжÑĥÑĢ Ð½Ð°Ð» +в еÑģ +خت ار +Ġ매 ìļ° +ĠM ã +ĠавÑĤомаÑĤ Ñĭ +ضع Ùģ +ĠاÙĦÙģ Ùĥر +ãģ§ãģĻ ãģ®ãģ§ +ãĥ¡ãĥ³ ãĥIJãĥ¼ +Ġк ÑĢÑĥг +ĠاÙĦسÙĦ طة +à¸Ħรัà¹īà¸ĩ à¹ģรà¸ģ +à¸ģระà¸Ĺ รว +à¸ģระà¸Ĺรว à¸ĩ +ÑĨ ов +éķ· ãģĦ +大ãģį ãģĦ +Ġgeç miÅŁ +ìĦ± ìĿ´ +Ġצר ×Ļ׼×Ķ +Ġм оÑī +ĠмоÑī н +Ġ×§ ×Ļש +Ġ×§×Ļש ×ķר×Ļ×Ŀ +ĠNas ıl +г ÑĢан +Ġ×ŀ ×ķצר×Ļ×Ŀ +Ġ×ŀס ×ķ×Ĵ +Ġy ür +Ġyür üt +Ġ׾׊צ×ķ +×ķÖ ¼ +ĠìŀĪ ìĹĪëĭ¤ +Ġter ör +ĠTh ương +ĠÙĪ ÙĬÙħ +ĠÙĪÙĬÙħ ÙĥÙĨ +ج ÙĪÙĨ +ĠÙĪØºÙĬر Ùĩا +×ŀ פ×ķ +×Ĵ×ķר ×ŀ×Ļ×Ŀ +׼×ij ×Ļש +ĠاÙĦÙĦ غ +ĠاÙĦÙĦغ Ø© +شر Ùĥ +ĠاÙĦر اب +ĠاÙĦراب ع +ĠпÑĢ ÐµÐº +ĠпÑĢек ÑĢаÑģ +ĠпÑĢекÑĢаÑģ н +Ġenerg ÃŃa +×§×ĵ ×ŀ×Ļ +ãģıãģª ãģ£ãģŁ +ĠÄij ứ +ĠÄijứ a +Serv i +Servi ço +Ġkald ır +åĥį ãģį +Ġод еж +Ġодеж д +물 ìĿĦ +ãģĿãģĨ ãģ§ +ãģĮãģĤ ãĤĮãģ° +ìĻ ķ +צ×ĵ ×§ +Ġart ır +Ġile ti +Ġileti ÅŁim +ãĤĪãģĨ ãģ§ +ãĥĪ ãĥ¼ +ãĤ¢ ãĥĭ +ãĤ¢ãĥĭ ãĥ¡ +×ĺ×Ļ ×Ļ׾ +ãĥķ ãĥªãĥ¼ +ãĥĿ ãĥ³ +ÐŁÑĢ Ð¾ +Ġع اÙĦÙĬØ© +ĠÃ¶ÄŁ ret +ĠÃ¶ÄŁret men +ĠкаÑĩеÑģÑĤв а +Ġ×Ķ×ĺ ×ij×¢ +Ġзна Ñİ +ãģ¦ ãģıãĤĭ +Ġm ừng +ÙħÙĪ Øª +ש ×ķ×ŀר +×Ĺ׾ ×ij +Ġwzgl ÄĻ +ĠwzglÄĻ du +ë²Ī 째 +Ġtá» ĵ +Ġtá»ĵ n +ãĥ¯ãĥ¼ ãĤ¯ +Ġpo życz +Ġpożycz k +×Ļ ×ķצר×Ļ×Ŀ +Ùĥر Ùħ +Ġг аÑĢ +ĠгаÑĢ Ð°Ð½ +ĠгаÑĢан ÑĤи +ล à¹īาà¸ĩ +Ġìĺģ íĻĶ +×ĺ ×Ļס +Ġth ẻ +ĠìŀĪëĭ¤ ê³ł +اÙĦت ز +اÙĦتز اÙħ +Ġна ÑĪи +is ée +ãģĵãĤĮ ãĤĴ +Ġm ẽ +ض ÙĦ +بÙĪ Øª +Ġ׼ ׼×Ķ +h ợ +ĠاÙĦس ÙĪØ±ÙĬØ© +Ġ×ľ×¢ ×ķ×ŀ +Ġ×ľ×¢×ķ×ŀ ת +ĠbaÅŁ ar +ĠbaÅŁar ılı +е ÑģÑĤÑĮ +à¸Ħร ี +à¸Ħรี ม +ĠìłĦ ì²´ +ĠسÙĬ ÙĥÙĪÙĨ +Ġ×ŀ×ĵ ×ķ×¢ +ĠëķĮ문 ìĿ´ëĭ¤ +Ġc ứng +ger ät +Ġм иÑĢ +ĠмиÑĢ Ðµ +ĠÙĥÙĬÙģ ÙĬØ© +Ġפר ×ĺ×Ļ×Ŀ +Ġgo ÅĽci +иÑĤ еÑģÑĮ +ÑĥÑĪ ÐºÐ¸ +ؤ ÙħÙĨ +Ġ×IJ ׼ף +ĠاÙĦر جÙĦ +Ġl á»įc +à¹Ģรีย à¸ģวà¹Īา +ãģĵãģ® ãĤĪãģĨãģª +ë§Į íģ¼ +Ġп еÑĩ +ÙĪÙĦ ات +ĠÃľ ye +liÄŁ inde +à¸Ħะ à¹ģà¸Ļ +à¸Ħะà¹ģà¸Ļ à¸Ļ +ãĤĭãģĵãģ¨ ãģ¯ +วิ à¹Ģà¸Ħร +วิà¹Ģà¸Ħร าะ +วิà¹Ģà¸Ħราะ หà¹Į +Ġвозмож ноÑģÑĤи +ĠاÙĦÙĨ ساء +ãĥīãĥ© ãĥŀ +Ġgü c +Ġgüc ü +Ġt ưá»Ŀng +Ġacomp aña +ãĤ¤ ãĥ© +×§ צ×ij +ĠY ö +ĠYö net +ĠYönet im +สัม à¸ľ +à¸ªà¸±à¸¡à¸ľ ัส +à¸Ļ าม +ĠÄij ợi +à¹ģหà¹Īà¸ĩ à¸Ĭาà¸ķิ +ãģĿãĤĮ ãģ§ãĤĤ +ät ig +ת ×ķ×Ŀ +ĠbaÅŁ lat +ĠвÑģ ей +ת ×Ļ×§ +ת×Ļ×§ ×ķף +ĠNg ô +ĠGesch ä +ĠGeschä fts +Ø£ Ùħ +Ø£Ùħ راض +à¹Ģà¸Ĺ à¸Ħà¸Ļ +à¹Ģà¸Ĺà¸Ħà¸Ļ ิ +à¹Ģà¸Ĺà¸Ħà¸Ļิ à¸Ħ +Ġм енÑĮ +ĠменÑĮ ÑĪе +Ġöl ç +Ġölç ü +ĠÙĬ جعÙĦ +ĠÄij ỡ +ש ×Ļ׾ +ש×Ļ׾ ×ķ×ij +ĠGr Ã¶ÃŁe +ĠÙĩ اتÙģ +รà¹īาà¸Ļ à¸Ńาหาร +×Ķ׾ ×Ļ׼ +×Ķ׾×Ļ׼ ×Ļ +иÑĢÑĥ ÑİÑī +èĭ¥ ãģĦ +ĠÃĸ zel +ãģĦãģŁ ãĤī +à¸Ħำ à¸ĸาม +Ġzosta ÅĤy +Ġ×Ķס ×Ļפ×ķר +×Ķ ×ķ׾ +×Ķ×ķ׾ ×ļ +à¹Ģà¸Ĭà¹Īà¸Ļ à¸ģัà¸Ļ +à¹Ĥ à¸Ĩ +à¹Ĥà¸Ĩ ษ +à¹Ĥà¸Ĩษ à¸ĵา +×IJר צ×ķת +×Ĵר פ×Ļ +Ġao ût +ĠÙĬ رÙĬد +ت ÙĪØ¬ +تÙĪØ¬ ÙĬÙĩ +ĠÑįÑĤ ап +ãĤ¹ãĤ¿ ãĥ³ +Ġkr ó +Ġkró tk +ãĤĴ使 ãģĨ +ì ·¨ +éĸ¢ ãĤı +à¸Ķà¹īวย à¸Ħวาม +à¸Ļำ à¹Ģสà¸Ļà¸Ń +Ġa yrıca +à¸Ī à¹īาà¸ĩ +ĠÑĦоÑĤ огÑĢаÑĦ +Ġв еÑĩ +ĠвеÑĩ еÑĢ +åĩº ãģĹãģŁ +ĠÐ¥ о +Ġ×ŀ ר×Ĵ×Ļש +à¹ĥหà¹ī à¹Ģà¸Ľà¹ĩà¸Ļ +ãĤĴ 缮 +ãĤĴ缮 æĮĩ +׾ ×ŀ×Ļ×Ŀ +nÄħ ÅĤ +ĠÑģÑĤ анд +ĠÑģÑĤанд аÑĢÑĤ +ĠSü d +ĠT âm +اخت بار +à¹Ģà¸ģ à¸Ńรà¹Į +Ùħس رØŃ +Ġbi á»ĩn +ب Ùı +Ġص اÙĦ +ĠصاÙĦ ØŃ +ĠPh ụ +íľ ´ +ãĥ¬ãĥĵ ãĥ¥ãĥ¼ +Ġbụ ng +Ġrég ime +ĠØ£ Ø´Ùĩر +ĠÑĢабоÑĤ ник +à¸Ŀ ัà¸Ļ +اع تÙħ +اعتÙħ اد +Ġзам еÑĤ +ãģ¾ ãģ£ãģ¦ +Ġch ặt +æĿ¥ ãĤĭ +ĠاÙĦÙĤ ÙĪØ§Øª +ãģ«åħ¥ ãģ£ãģ¦ +تØŃ اÙĦÙģ +Ùħ زÙĬد +ĠÙĬ صÙĦ +ìĹ ¼ +à¹Ģà¸Ĭ à¹ĩ +à¹Ģà¸Ĭà¹ĩ à¸Ħ +Ġk á»ĭ +Ġká»ĭ p +ĠìķĦ ì§ģ +×IJ׳ ×Ĵ +Ġобла ÑģÑĤÑĮ +Ġpomoc Äħ +Ġ×ķ ש׾ +ëĵł ì§Ģ +ĠGi ám +ĠSt ück +Ġchá y +ĠëĤĺ ìĺ¤ +ש ×Ļ×ĺת +×ŀ×ĵ ר +×ŀ×ĵר ×Ļ×ļ +Ġsüre ç +к ва +×ij׾ ×Ļ×Ŀ +×Ķ ×ª×Ļ +×Ķת×Ļ ×Ļ×Ĺס +ÙĤب اÙĦ +Ġס ×ķ×Ĵ +Ġס×ķ×Ĵ ×Ļ +ÑģÑĤ олÑĮ +ä½ķ ãĤĤ +×ĸ׼ ×ķר +è²· ãģĨ +å®ī ãģı +à¸Ħรัà¹īà¸ĩ à¸Ļีà¹ī +kö p +ĠÑģеÑĢ Ð²Ð¸Ñģ +оÑĩ нÑĭÑħ +ê±° ëŀĺ +تأ Ùĥ +تأÙĥ ÙĬد +×ĵ ׾ק +Ġпо Ñĩем +ĠпоÑĩем Ñĥ +пиÑģ аÑĤÑĮ +×ij שר +ĠH Ãłng +ĠT ìm +Ġtr ừ +ãĤ» ãĥĥãĤ¯ãĤ¹ +×ķ׳ ×Ĵ +mız da +п Ñģи +ĠìŀĪ ê¸° +Ġr út +ز اÙĨ +تÙĨ ÙĪØ¹ +ÙħÙĤ ا +ÙħÙĤا ÙĪÙħØ© +Ġ׾צ ×ķר×ļ +Ġ×ij ×Ļר×ķש׾×Ļ×Ŀ +ãĥ´ ãĤ£ +eb ile +ebile ceÄŁi +ãĥ¦ ãĥ¼ãĤ +ãĥ¦ãĥ¼ãĤ ¶ +ãĥ¦ãĥ¼ãĤ¶ ãĥ¼ +ãĤĴä½ľ ãĤĭ +Ñģ меÑĢ +ÑģмеÑĢ ÑĤ +Ġì§ ģ +Ġì§ģ ìłij +ĠÐŁ аÑĢ +ØŃ اض +ØŃاض ر +Ùħ ÙĥاÙģ +ÙħÙĥاÙģ ØŃØ© +ล ิà¸Ļ +ãģ¦ ãģįãģ¦ +ÑĢоÑģ л +ĠÄ°ÅŁ te +ÙĤص ÙĬر +Ġ×ij×Ĵ ×Ļ׾ +Ġ×ŀת ×IJ×Ļ×Ŀ +Ġ×Ķ ×Ĺ×ĵ +Ġ×Ķ×Ĺ×ĵ ש×Ķ +ר ×ķ×¢ +Ġprodukt ów +ĠÙħ صدر +не ÑĨ +ĠاÙĦعÙħÙĦ ات +Ġçık ma +Ġد بÙĬ +×§ ×Ļף +ת ×IJר +ת×IJר ×Ļ×ļ +׳×Ļ ×Ļ×ĵ +صر اع +l ève +צ ×Ļר +à¸Ķ ัà¸Ļ +à¹ĥหà¹ī à¹Ħà¸Ķà¹ī +ãĤ¿ãĤ¤ ãĥł +Ġgi ảng +С ÐŁ +ĠاÙĦÙħ ØŃÙĦ +ĠاÙĦÙħØŃÙĦ ÙĬØ© +ĠT ất +׾ ×ķ×ĺ +h á»ķ +Ġam éric +Ġaméric ain +Ġ×ijש׾ ×ij +Ġ׾×IJ ×ķ×ŀ×Ļ +Ġpe ça +ĠÑĢаз нÑĭÑħ +ãģĦãĤĭ ãģ¨ +ãĥĩ ãĥ³ +ס קר +Ġ×Ķ×ŀ×Ĺ ×Ļר +ãģ¨ãģĦãģĨ ãĤĤãģ® +رت بط +ĠиÑģÑĤ оÑĩ +ĠиÑģÑĤоÑĩ ник +สมัà¸Ħร สมาà¸Ĭิà¸ģ +Ġ à¸Ĺัà¹īà¸ĩ +Ġà¸Ĺัà¹īà¸ĩ à¸Ļีà¹ī +ĠT áºŃp +ãģ£ãģ¦ ãģĦãģĨ +ĠاÙĦÙĪ ØµÙĪÙĦ +Ġdéc ada +Ġо ÑĦоÑĢм +ĠоÑĦоÑĢм лен +สำหรัà¸ļ à¸ģาร +Ġog óln +ãģĨãģ¡ ãģ« +Ġvá rias +ãģĻãģİ ãĤĭ +ÙĪ Ùĩا +à¹Ĥà¸Ľà¸£ à¸Ķ +ĠÐłÐ¾ÑģÑģ иÑı +人 ãĢħ +ãģĹãģ¦ ãģįãģŁ +Ġsı rasında +Ġng ôn +س ÙĨØ© +تÙħ تع +×ŀ׼ ×ij×Ļ +Ġnh ấn +×¢ ×ŀ×Ļ×ĵ +á» ¨ +ж иÑĤÑĮ +ãĤī ãģĽ +gr áf +gráf ica +ĠÙĤ ÙĪÙĦ +ĠÙĤÙĪÙĦ Ùĩ +ëĭ¨ ì²´ +ห à¹īา +หà¹īา ม +使 ãģ£ãģ¦ +ת ×Ļ×ij +ת×Ļ×ij ת +i á»ĥu +à¹ģ à¸Ĭม +à¹ģà¸Ĭม à¸Ľ +à¹ģà¸Ĭà¸¡à¸Ľ à¹Į +Ạ¬ +ĠëĤĺ ëĿ¼ +ĠÙħباشر Ø© +Ġtr Äĥm +سÙĥ ÙĪ +ĠاÙĦذ Ùī +Ġbi ç +Ġbiç im +ت راجع +Ġоб еÑģп +ĠобеÑģп еÑĩ +ĠобеÑģпеÑĩ ива +Ġвозд ÑĥÑħ +Ñĭв аÑĤÑĮ +ÙĦ ØŃÙĤ +ĠMü dü +ĠMüdü rl +ĠMüdürl Ã¼ÄŁÃ¼ +Ġyapt ır +Ġפר ס +Ġפרס ×ķ×Ŀ +Ø· ÙĪØ± +ÑģÑĤв оваÑĤÑĮ +ìŀ¥ ìĿĦ +à¸Ĺีà¹Īà¸Ķี à¸Ĺีà¹Īสุà¸Ķ +à¸Ńั ล +ÑĢ Ñİ +Ùħست ÙĤبÙĦ +Ñģл ÑĥÑĪ +ÑģлÑĥÑĪ Ð° +èªį ãĤģ +Ġ׾ ×Ļ×ŀ +Ġ׾×Ļ×ŀ ×ķ×ĵ×Ļ +ת ש×ķ×ij +תש×ķ×ij ×ķת +ĠgerçekleÅŁtir il +ĠاÙĦ اتÙ쨧ÙĤ +ĠÑĥÑĢов не +ĠÑĤ ÑĢав +Ġ×Ķ×ŀ ×ķף +ØŃÙģ Ø§Ø¸ +ĠÙħ ÙIJ +ĠÙħÙIJ ÙĨ +ĠÙħÙIJÙĨ ÙĴ +Ġdem ás +×ŀ×ķ×ĸ ×Ļ×§×Ķ +ש ×Ļ×Ĺ×Ķ +Ġb ú +алÑĮ нÑĭм +ãĤı ãģŁ +ãĤıãģŁ ãģĹ +ĠاÙĦÙħÙĪ Ø§Ø¯ +ת ׼׳ +×ª×Ľ×ł ×ķף +ãĥŃ ãĥĥãĤ¯ +hi ếu +ĠÑĥ ме +ÙħØŃا ÙĪÙĦØ© +×IJ ×ķשר +Ġкон кÑĥÑĢ +ĠконкÑĥÑĢ Ñģ +Ġ×ŀ ×ij×Ĺ +Ġ×ŀ×ij×Ĺ ×Ļ×ł×ª +Ġan lam +Ġanlam ı +Ġli á»ĩt +Ġв Ñħод +ĠH ình +ĠÙĨ ÙĬ +ĠÙĨÙĬ ÙĪØ² +ãĤ¸ãĥ£ ãĥ¼ +×ij ×Ļ×¥ +ÑĤелÑĮ нÑĭÑħ +à¸Ĺุà¸ģ à¸Ńยà¹Īาà¸ĩ +ĠkiÅŁ inin +Ø£ Ùĥثر +ĠиÑģÑĤоÑĢ Ð¸Ð¸ +Ġë³Ģ íĻĶ +פ׾ ס×ĺ +×¤×ľ×¡×ĺ ×Ļ׳×Ļ +ĠÑģ еÑĤ +ĠÑģеÑĤ и +dıģ ımız +íķĺ ëıĦë¡Ŀ +×Ķ ×¨ +×Ķר ×ij×Ķ +ãģĻãĤĭãģĵãģ¨ ãģ¯ +Ġphi ếu +تØŃ سÙĬÙĨ +ĠÅĽ rod +ĠÅĽrod ow +ĠÅĽrodow isk +ĠÑĢаÑģ Ñħод +بر ÙĬد +Ġر ÙĬ +ĠرÙĬ اÙĦ +Ġ×ķ ׼×ļ +ì§Ģ ìļĶ +׼ ×ŀ×ķ +Ġ×¢×ľ ×Ļ×Ķ×Ŀ +f ÃŃcio +Ġkar arı +tıģ ını +ĠС ов +ĠСов еÑĤ +ãģĬéĩij ãĤĴ +м еждÑĥ +междÑĥ на +междÑĥна ÑĢод +междÑĥнаÑĢод н +Ġm á»Ŀi +ĠاÙĦØ¥ ÙĬر +ĠاÙĦØ¥ÙĬر اÙĨÙĬ +ĠاÙĦرÙĪ Ø³ÙĬ +ص ÙĨد +صÙĨد ÙĪÙĤ +ĠاÙĦØ¥ÙĨ ترÙĨت +Ġt ắm +ĠÑĤак ого +Ġ×ij ׾×ķ×Ĵ +Ġü crets +Ġücrets iz +×Ĺ×ĸ ×Ļר +ìĸ´ ìķ¼ +ĠPh ần +ï¼ ľ +Ġ×ĺ ×ij×¢ +Ġ×ĺ×ij×¢ ×Ļ +×IJ×ŀ ×IJ +اÙĤ ÙĦ +Ġcondi ções +ÙĤات ÙĦ +ĠÑĢезÑĥлÑĮÑĤаÑĤ е +ĠÑģво ими +צ×ij ×Ļ×¢ +gé ni +Ġz es +Ġzes po +Ġzespo ÅĤ +ÑĪ Ð¸Ð² +Ġפר×ĺ×Ļ ×ķת +Ùħست Ø´Ùģ +ÙħستشÙģ Ùī +شر ع +Ġko ÅĽci +Ġ×Ķ×IJ ×Ļ׳×ĺר׳×ĺ +ĠЧ еÑĢ +поÑĩ ÑĤ +Ġactiv ités +çŁ¥ ãģ£ãģ¦ +Ġ×ij ×ĸ×Ķ +Ġyüz den +ãģªãĤĬ ãģ¾ãģĽãĤĵ +Ġíĺ ¹ +Ġíĺ¹ ìĿĢ +Ġ×ŀש ׳×Ķ +ĠÐĴ еÑĢ +Ġ×ij×IJ×ķת ×ķ +éĿ¢ çϽ +éĿ¢çϽ ãģĦ +شر ØŃ +gr ünde +Ùģ Ø´ +Ù쨴 ÙĦ +Ġsé jour +ë´ IJ +Ġr ôle +Ø´ عار +ем Ñĭе +ĠاÙĦج سÙħ +алÑĮ ное +Ġìĥģ íĥľ +ï¼ ¤ +ë¯Ģ ë¡ľ +ĠÙĨ ÙĤØ· +ĠÙĨÙĤØ· Ø© +ãģĿãģĨ ãģł +ãģĻãĤĭ ãģ®ãģĮ +ห ู +Ġnh á»ĭ +Ġeconóm ica +ס×ĺ ×ķ×ĵ +ס×ĺ×ķ×ĵ ׳×ĺ +มี à¹Ĥà¸Ńà¸ģาส +Ġgest ão +รูà¹ī วà¹Īา +Ġlo ạt +ĠاÙĦÙħ Ùı +ĠاÙĦØŃ ÙħÙĦ +ĠاÙĦعÙħÙĦ ÙĬØ© +Ġê²ĥ ëıĦ +ĠÐľÐ¾Ñģк ва +×§×ĺ ×ķר +Ġпод ÑĢоб +ĠподÑĢоб н +Ġl ưng +ت Ù쨳 +تÙ쨳 ÙĬر +ĠاÙĦ بع +ĠاÙĦبع ض +ئ ت +Ðķ ÐĿ +ìŰ 구 +à¹ĥหà¹ī à¸Ħุà¸ĵ +ãģĤãĤĬ ãģ¾ãģĹãģŁ +Ġbir ka +Ġbirka ç +Ġİ sl +Ġİsl am +çĹĽ ãģ¿ +Ġh ảo +Ġм аÑı +ĠiÅŁ çi +ש × +×©× ģ +à¸ģาร à¹Ģมืà¸Ńà¸ĩ +×ķ×Ķ ×¨ +Ġch ó +ëĨ Ģ +Ġyan lı +Ġyanlı ÅŁ +幸 ãģĽ +×IJר×Ĵ ×ķ׳×Ļ +à¸Ńาà¸Ī าร +à¸Ńาà¸Īาร ยà¹Į +ĠинÑĦоÑĢм аÑĨиÑİ +Ðĵ Ðŀ +׳ ×Ĺש +ĠìķĮ ìķĦ +ĠÑħаÑĢакÑĤеÑĢ Ð¸ÑģÑĤ +ĠÑħаÑĢакÑĤеÑĢиÑģÑĤ ик +à¸Ħุà¸ĵ สามารà¸ĸ +è¦ĭ ãģĪãĤĭ +à¸Ĭัà¸Ķ à¹Ģà¸Ī +à¸Ĭัà¸Ķà¹Ģà¸Ī à¸Ļ +ĠdziaÅĤ al +ĠdziaÅĤal noÅĽci +à¹Ĥà¸ŀ สà¸ķà¹Į +ĠÐļ ол +ĠÙģ ÙĩÙĬ +Ġ×ŀ פ׳×Ļ +Ġ×Ķ×§ שר +Ùħر Ùĥ +ÙħرÙĥ ز +Ġho á +Ġа пп +Ġапп аÑĢаÑĤ +Ġp ami +Ġpami ÄĻ +ĠpamiÄĻ ta +Ġç ünkü +×ĵ ×ķף +ãģ¯ ãģĵãģ¡ãĤī +ĠM Ãł +ĠÙĬ ÙĤدÙħ +ĠпÑĢ ÐµÐ· +ĠпÑĢез иденÑĤ +à¸Ńุ à¸ķ +à¸Ńุà¸ķ สา +à¸Ńุà¸ķสา ห +à¸Ńุà¸ķสาห à¸ģรรม +ì§Ģ ìĽIJ +Ġ×IJפשר ×ķת +sch üt +schüt z +ĠTi ên +Ġsay ılı +ĠгÑĢÑĥпп Ñĭ +оÑĩ нÑĭй +Ġ×ľ×¢ ×ŀ×ķ×ĵ +Ġwr zeÅĽ +ĠwrzeÅĽ nia +ĠÄIJ ầu +à¹Ģà¸Ĥà¹īา รà¹Īวม +nız da +Ø®ÙĬ ص +Ġgü nc +Ġgünc el +ĠÙĦÙĩ ذÙĩ +ĠÙĬ عتبر +lé gi +ãĤı ãģĭãĤĭ +Ġr ừng +ظ Ùĩ +ظÙĩ ÙĪØ± +Ġ×ŀ×ij ×Ļף +Ġ기 íĥĢ +åĪĩ ãĤĮ +lan mÄ±ÅŁ +à¸Ĺีà¹Ī มีà¸Ħวาม +Ġh á»ģ +ت ÙĪØ¬Ùĩ +ĠاÙĦØ¥ دارة +Ġú til +ס פ×ķ +à¸Ħวาม รัà¸ģ +à¹Ĥ ฮ +Ġпол иÑĤ +ĠполиÑĤ ик +Ġsat ın +ĠÅŀ imdi +×ŀ ×ķר×Ļ×Ŀ +ìķĺ ëĭ¤ +×Ĺ ×ķ×ķ +×Ĺ×ķ×ķ ×Ļ×Ķ +à¸Ħà¸Ńม à¸ŀิ +à¸Ħà¸Ńมà¸ŀิ ว +à¸Ħà¸Ńมà¸ŀิว à¹Ģà¸ķà¸Ńรà¹Į +Ġا ذا +تخ اذ +ãĤ¨ ãĥ« +Ġpossibilit é +ยืà¸Ļ ยัà¸Ļ +Ġü nivers +Ġünivers ite +ĠاÙĦد ÙĪØ±ÙĬ +ĠìķĬëĬĶ ëĭ¤ +ĠìĦľ ë¡ľ +ØŃ اÙĦ +Ġë ¨ +Ġë¨ ¼ +Ġ먼 ìłĢ +à¸Ĺีà¹Ī à¸ĸูà¸ģ +ì§ ľ +Ġsk óry +лÑĮ ÑĨ +à¹ĥà¸Ĭà¹ī à¹Ģวลา +×ij×§ שת +Ġذ ÙĪ +æĹ¥ ãĢħ +ĠкоÑĤоÑĢ ÑĥÑİ +ĠÑĥÑĢов енÑĮ +ê¹ ¨ +à¹Ħ à¸Ĺ +ãĤµ ãĥĹãĥª +ãĤ¸ ãĥ§ãĥ³ +ãģĻ ãģ¹ãģį +ĠG ór +ãĥĪ ãĤ¤ +ãĥĪãĤ¤ ãĥ¬ +ĠyaÅŁ ama +Ġdá»ĭ p +Ġb ữa +à¸ĭ ุ +Ġöl üm +ãģ£ãģ¦ ãģıãĤĭ +à¸ģาร à¸Ħà¹īา +ש ער +ĠÑĤип а +Ġг еÑĢ +ĠгеÑĢ Ð¾ +רק ×¢ +Ġu waż +Ġuważ a +ש×ŀ ף +Ġhast alık +ãĤıãĤĮ ãĤĭ +ba ÅŁÄ± +Ñĩ ÑĤо +Ġ×ij ×ŀר׼×ĸ +Ġìļ°ë¦¬ ìĿĺ +ĠÙĥاÙĨ ÙĪØ§ +ĠØ£ بر +Ġأبر ÙĬÙĦ +ì¸ µ +à¹Ħà¸Ĥ à¹Ī +ĠÙĪ ÙĦÙĪ +à¸Ĺ ัว +à¸Ĺัว รà¹Į +ĠÙĪØ£ Ùĥد +à¸Ĭ วà¸Ļ +׾ ×ķ×§ +æį ¨ +æį¨ ãģ¦ +Ġİç in +p éri +Ġy al +Ġyal nız +ÑĮÑı н +Ġg ắng +à¸ģà¹ĩ ยัà¸ĩ +ĠУкÑĢа ин +ĠÑģ ами +ĠпÑĢовед ен +à¸ķà¸ģ à¹ģà¸ķà¹Īà¸ĩ +ĠQu ân +é paration +ĠbaÅŁ ında +Ġzn ale +Ġznale ź +Ġznaleź Äĩ +ãĤ± ãĥ¼ +ãĥİ ãĥ¼ +à¸ĸูà¸ģ à¸ķà¹īà¸Ńà¸ĩ +ëª ¸ +Ġëı Į +ĠëıĮ ìķĦ +ĠSch üler +Ġпод гоÑĤов +ĠподгоÑĤов к +ع رÙĪ +عرÙĪ Ø¶ +la ÅŁtır +ĠÑģоÑģÑĤав лÑıеÑĤ +ĠпÑĢоиз вод +ĠпÑĢоизвод ÑģÑĤва +ĠоÑģнов е +ĠØ´ ÙħاÙĦ +à¸ģร ี +ĠgörÃ¼ÅŁ me +оÑĩ ек +Ġ×Ĺ×ijר ×Ļ×Ŀ +ÙħØ® اط +Ùħخاط ر +ï¼ Ń +ר פ×IJ +ĠM ẹ +ยà¸Ńม รัà¸ļ +Ġv ết +Ø® ذ +ĠاÙĦت Ø· +ĠاÙĦتط بÙĬÙĤ +à¸Ļ ึà¸ģ +Ġ×Ķ ×Ľ×ł×¡×ª +ĠогÑĢ Ð°Ð½Ð¸ +ĠогÑĢани Ñĩен +ĠÃĩ alÄ±ÅŁ +ĠاÙĦÙħÙĨت دÙī +à¸Īำà¸Ļวà¸Ļ มาà¸ģ +ĠÑĤоÑĢ ÑĢ +ĠÑĤоÑĢÑĢ ÐµÐ½ÑĤ +ĠìĤ´ ìķĦ +à¸ŀลัà¸ĩ à¸ĩาà¸Ļ +à¸Ĭ ัà¸Ļ +ĠÐIJн дÑĢ +Ġréalis é +×ŀש ×IJ +à¹ģ à¸Ĭ +à¹ģà¸Ĭ รà¹Į +Ġб ог +มา à¹ģลà¹īว +ĠاÙĦÙĨ ار +Ġolmad ıģı +×ĵ ×¢×Ķ +ĠÑĥ веÑĢ +ĠÑĥвеÑĢ ÐµÐ½ +ãĤĭ ãĤĤãģ® +Ø£ د +أد ÙĪØ§Øª +Ġ×Ķ×ĸ ×ķ×Ĵ +Ø¥ عÙĦاÙħ +h á»ı +ĠNä he +ĠÑĤ еÑģÑĤ +Ġ×ŀ ×ķ׼ר +Ġë¬¸ìłľ ê°Ģ +ת ×ķצ×IJ×Ķ +m ó +mó vel +ĠاÙĦتج ارة +Ġмног иÑħ +обÑī а +Ġ×¢ סק×Ļ +ĠEdu cação +×§ ש×Ļ×Ŀ +é tabl +établ issement +Ġд еле +иÑĢÑĥ еÑĤÑģÑı +Ø¢ ثار +Ġ×Ķ×ŀ ר׼×ĸ×Ļ +ãĥIJ ãĥ« +ĠвÑģÑĤÑĢ ÐµÑĩ +ãģĴ ãĤĭ +Ġci Äħ +ĠciÄħ gu +ÙĬ ست +à¸łà¸² ว +à¸łà¸²à¸§ ะ +Ø£ Ùħر +Ġо жи +Ġожи да +Ġ á»§y +ãĥŀ ãĥ« +ر اس +оÑĩ ной +ת ×Ĵ×ķ×ij×ķת +تع رÙĬÙģ +ĠÑģо ÑĨиалÑĮно +ãĤĴ éĸĭ +ĠиÑģÑģлед ова +Ġd ú +Ġdú vida +Ġsk ÅĤ +ĠskÅĤ ada +Ġhä ufig +ĠвÑĭб ÑĢ +ĠвÑĭбÑĢ Ð°ÑĤÑĮ +ãģ®ãģ§ãģ¯ãģªãģĦ ãģĭ +ĠÑģ илÑĮно +ÑĤвеÑĢж ден +ר פ +רפ ×ķ×IJ×Ķ +æĢĿ ãģĦãģ¾ãģĻ +ØŃر ص +ש×ķת ×£ +Ùħس جد +à¹Ĥà¸Ĭ วà¹Į +ем ÑģÑı +в ÑĪие +Ġм л +Ġмл н +Ġ׾×Ķ ×ij×Ļ×IJ +ĠÙĬ تعÙĦÙĤ +à¸ķ ูà¹ī +Ġп ÑĢаз +ĠпÑĢаз д +ĠпÑĢазд ник +Ġн ем +Ġнем ного +Ġs Ãłng +تÙĨ سÙĬ +تÙĨسÙĬ ÙĤ +Ġtá» Ŀ +Ġмед и +ãģ« æĪ +ã쫿Π» +à¸Ħว à¹īา +ãģĭ ãģijãĤĭ +×ij׾ ×ķת +ĠÑįк Ñģп +ĠÑįкÑģп еÑĢÑĤ +Ġдев ÑĥÑĪ +ĠдевÑĥÑĪ Ðº +ĠØŃ ص +ÙĨØ´ Ø£ +ãģĮãģĤãĤĭ ãģ®ãģ§ +Ġت راÙħ +ĠتراÙħ ب +أس ÙĪØ§ÙĤ +Ġ׾פ ׳×ķת +Ġا ï»· +ãģ« ãģı +ãģ«ãģı ãģĦ +ĠØ£ عÙĦÙī +Ġ׾×Ķ ×ŀש×Ļ×ļ +rä u +ש×ŀ ×Ļ×Ŀ +åĪĨ ãģij +ãģĻ ãģ§ +ãģĻãģ§ ãģ« +×Ķ׾ ׼×Ķ +×Ĺ׾ ×Ļ×£ +Ġì ±ħ +Ġì±ħ ìŀĦ +à¹Ģà¸Ī ริ +à¹Ģà¸Īริ à¸į +éģĬ ãģ³ +ج سد +สา à¸ĺ +สาà¸ĺ าร +สาà¸ĺาร à¸ĵ +Ġbas ın +ÑĢаР³ +г ад +Ġho ÅŁ +íķ µ +×ij×Ĺ ×Ļר×Ķ +×ŀס ×ļ +Ġìłľ íĴĪ +تÙħ ÙĪÙĬÙĦ +ĠL ưu +ë¡ľ ë¶ĢíĦ° +Ġп об +Ġпоб ед +ÙħÙĨ ذ +常 ãģ« +ÙĤ س +ĠاÙĦÙħ صدر +ĠÙĪØ§ÙĦ است +Ġkh ắp +ĠاÙĦج اÙĨب +Ġng uyá»ĩn +éĸĵ éģķãģĦ +ĠÑģÑĤ ÑĢа +ĠÑģÑĤÑĢа Ñħ +ĠÑģÑĤÑĢаÑħ ов +รี à¸ļ +Ġx ương +Ġì° ¾ +Ġì°¾ ìķĦ +Ġng ại +г ал +à¸ĭ ีà¹Ī +Ġ×ij פ×Ļ×Ļס×ij×ķ×§ +Ц енÑĤÑĢ +Ġaval iação +Ġeconóm ico +×ĸ ף +ĠÐľ ак +Ġinter és +à¸ģล ิà¹Īà¸Ļ +ÑģÑĤÑĮ Ñİ +ĠÄij ương +å¼· ãģı +ĠKh ách +à¹Ģà¸Ļืà¹īà¸Ń หา +ĠYaz ı +è²· ãģ£ãģ¦ +Ðł Ðķ +à¹Ģà¸ŀิà¹Īม à¸Ĥึà¹īà¸Ļ +สม à¸ļู +สมà¸ļู รà¸ĵà¹Į +Ġм иÑĢов +×Ĵ ׳×Ļ×Ŀ +ĠÄij ức +à¸Ń ารà¹Į +ص اص +ãģĬ ãĤĪ +ãģĬãĤĪ ãģ³ +ÃªÌ ī +ĠاÙĦÙħؤ تÙħر +ĠاÙĦÙħر ØŃÙĦØ© +สà¸Ńà¸ļ à¸ĸาม +Ġà¸Īาà¸ģ à¸Ļัà¹īà¸Ļ +Ġت عد +ãģĿãģ® ãģŁãĤģ +Ġkh áng +à¸Ļ ิà¸Ķ +ãĥĬ ãĥ³ +ëĦ¤ ìļĶ +ĠاÙĦ اØŃت +ĠاÙĦاØŃت ÙĦاÙĦ +ìļ ķ +Ġмод ели +ĠпÑĢоÑĨ енÑĤ +à¸ŀวà¸ģ à¹Ģรา +Ġ×Ķצ ×ĵ +Ġ×Ķצ×ĵ ×ĵ×Ļ×Ŀ +ständ e +׳ ×Ĵר +Ġdot yc +Ġdotyc zÄħ +ĠdotyczÄħ ce +ĠÅĽ wiÄĻt +×ŀר ×Ķ +ãģĻãģĶ ãģĦ +ãĥĩãĤ£ ãĥ³ãĤ° +à¸ģาร สรà¹īาà¸ĩ +ë Ĥ¬ +Ġì°¸ ìŬ +Ñģ Ñħ +ÑģÑħ ем +ÙħÙĪ Ø³ +Ġn ấu +Ġ׾×ŀ×¢ ׾×Ķ +à¹Ģà¸Ľ à¹īา +à¹Ģà¸Ľà¹īา หมาย +Ġmù i +ائ ز +íĽ Ī +×Ĺ×ij ×ķר×Ķ +à¸ľà¸¹à¹ī à¹ĥà¸Ĭà¹ī +Ġpa ź +Ġpaź dzi +Ġpaździ ern +Ġpaździern ika +ลà¸ĩ à¹Ħà¸Ľ +ÙĤ اع +Ġch áºŃm +Ġözellik leri +ĠÄIJ o +ĠÄIJo Ãłn +ж ение +Ġh ẳ +Ġhẳ n +ĠaÅŁ k +ï½ į +ãĥij ãĤ¹ +×Ķ×ķר ×IJ×ķת +ĠÅ » +ĠÅ» y +×ŀ×ĸ ׾ +ĠÑĥ кÑĢа +ĠÑĥкÑĢа ин +à¹Ģà¸Ĭ ิ +à¹Ģà¸Ĭิ à¸į +Ðł Ðĺ +ĠzwiÄħz ku +×Ķ×Ĺ׾×ĺ ת +ãĤĵãģ§ãģĻ ãĤĪãģŃ +ãģ¦ ãģĬãĤĬ +лож иÑĤÑĮ +×ŀ ×ķ׳×Ļ×Ŀ +ฮ ิ +ì° ¬ +ĠاÙĦÙħØ´ ترÙĥ +ĠdÃ¼ÅŁ ük +аг енÑĤ +ĠاÙĦØ£ سبÙĪØ¹ +ĠÙĤ رÙĬب +ин д +инд ив +индив ид +индивид Ñĥ +индивидÑĥ алÑĮн +för der +Ġseç en +Ġseçen ek +Ġét ant +ĠлÑİб им +каз ÑĭваеÑĤ +ว ิà¸Ļ +Ġ×Ķ×ij ×IJ×Ļ×Ŀ +Ġд ов +Ġдов олÑĮ +ĠдоволÑĮ но +×¢×ĵ ×Ļ×£ +Ġok re +Ġokre ÅĽ +ĠokreÅĽ lon +Ġت رÙĬد +à¹Ģมืà¹Īà¸Ń วัà¸Ļà¸Ĺีà¹Ī +ãĤĪ ãģĭãģ£ãģŁ +Cum h +Cumh ur +Cumhur ba +Cumhurba ÅŁ +CumhurbaÅŁ kan +CumhurbaÅŁkan ı +Ġn ợ +à¸ľà¸¹à¹ī à¹Ģลà¹Īà¸Ļ +Ġcompl ète +à¹Ģà¸ŀ ศ +د ÙIJ +Ġdü z +Ġdüz ey +ãģ§ãģĤãĤĭ ãģĵãģ¨ +ext érieur +× ³ +Ġinform ação +ãĤ¯ãĥª ãĥĭãĥĥãĤ¯ +ĠPub li +ĠPubli é +ר ×ķ×ĵ +à¸Ħวาม à¸Ľà¸¥à¸Ńà¸Ķà¸łà¸±à¸¢ +ĠØ£ÙĬ ض +ĠØ£ÙĬض Ùĭا +ت سبب +ãģ¤ ãĤĤãĤĬ +из ма +à¸Ĥึà¹īà¸Ļ à¹Ħà¸Ľ +Ùĥ ÙIJ +ÙĦ ÙĪÙħ +Ġש צר +Ġשצר ×Ļ×ļ +ãģ¯ ãĤĤãģ¡ãĤįãĤĵ +Ġк ан +Ġкан ал +ãģ«ãģª ãģ£ãģ¦ãģĦãģ¾ãģĻ +ĠاÙĦØ£ Ùĥثر +ت اØŃ +ÙĨت Ùĩ +ÙĨتÙĩ اء +ا ÙĪÙĬØ© +ĠBug ün +н Ñģкого +à¸Ķ à¹Īวà¸Ļ +é volution +ãģ£ãģ¦ ãģĦãģ¾ãģĹãģŁ +ãĤ ħ +ĠV ương +à¸łà¸²à¸ŀ ย +à¸łà¸²à¸ŀย à¸Ļ +à¸łà¸²à¸ŀยà¸Ļ à¸ķรà¹Į +Ġ×Ķ ×¦×ľ×Ļ×Ĺ +ĠاÙĦإسÙĦاÙħ ÙĬ +ÙĦÙĬ ب +Ġed ição +ÑģÑĤÑĢ ÐµÐ» +Ġkh úc +ÙĨÙħÙĪ Ø° +ÙĨÙħÙĪØ° ج +׾ צ×Ķ +ÑģÑĤав ил +à¸ĸ า +สรà¹īาà¸ĩ à¸Ħวาม +ãģĦ ãģ£ãģ± +ãģĦãģ£ãģ± ãģĦ +ÑģÑĤав лен +ĠاÙĦ ÙĤدس +Ġng ược +ب Ø® +ส หร +สหร ั +สหรั à¸IJ +ĠØ£ غ +Ġأغ سط +Ġأغسط س +ãģĨ ãģ¾ +ãģĨãģ¾ ãģı +ĠêµŃ ìłľ +ØŃض ار +Ġd ừng +æĬ¼ ãģĹ +ت ÙĪØ§ +تÙĪØ§ جد +ש×ŀ ×Ĺ×Ķ +ãģı ãĤĵ +Ġ×ij×¢ צ +Ġ×ijעצ ×Ŀ +×ŀ ׳×Ļ×ķת +×ķ ×Ļ×ĵ +×ķ×Ļ×ĵ ×IJ×ķ +à¸Ĭ ิà¸ĩ +Ġprac ÄĻ +Ġз аÑĤ +ĠзаÑĤ ем +ĠìŀIJ ìľł +Ġì¤ Ģ +Ġì¤Ģ ë¹Ħ +Ġb áºŃ +ĠbáºŃ c +Ġ×Ķ×ŀ צ×ij +ĠÙĤ ÙĬÙħØ© +à¹Ģà¸Ń à¹Ģà¸Ĭ +à¹Ģà¸Ńà¹Ģà¸Ĭ ีย +Ġperch è +ĠاÙĦع سÙĥر +ĠاÙĦعسÙĥر ÙĬØ© +ج ÙĬب +ëŀ µ +Ùħ Ùĩر +ÙħÙĩر جاÙĨ +Ùħ راÙĥ +ÙħراÙĥ ز +Ġод нако +à¸Ķี à¹Ĩ +Ġצ פ×ķ +Ġkullan ılan +Ġк ино +ãĥĨãĤ£ ãĥ³ãĤ° +ĠGi Ỽi +ت ÙĪØ² +تÙĪØ² ÙĬع +ย ิà¸Ļ +ยิà¸Ļ à¸Ķี +Ġc Åĵur +ĠiÅŁ aret +Ġ×ij×¢ ×ĸר +Ġ×ij×¢×ĸר ת +Ġп аÑĨи +ĠпаÑĨи енÑĤ +ãģ¿ãģŁãģĦ ãģ§ãģĻ +в ез +ли на +од е +Ġ×IJ×ķת ף +dıģ ınız +ĠÐIJ в +ĠÐIJв ÑĤоÑĢ +ï¼ ® +ĠC ần +ĠاÙĦا Ø® +ĠاÙĦاخ بار +Ġê±° ìĿĺ +Ġat enção +Ġgeld iÄŁi +ãĤª ãĤ¹ +ãĤªãĤ¹ ãĤ¹ +ãĤªãĤ¹ãĤ¹ ãĥ¡ +ев Ñĭе +кÑĢÑĭ л +à¹Ģà¸Ĭ ียà¸ĩ +à¹Ģà¸Ĭียà¸ĩ à¹ĥหมà¹Ī +Ġmar ço +ĠاÙĦÙħ ادة +Ġг ол +Ġsprzeda ży +Ġíķ´ ê²° +ĠÐķ го +ê¹ Ģ +Ġ׾ק×ij׾ ת +ĠاÙĦÙģ ÙĨاÙĨ +Ġcomunic ación +à¹Ģสà¹īà¸Ļ à¸Ĺาà¸ĩ +íĺ ¹ +à¸Ĭ ำ +à¸Ĭำ ระ +Ġ׼ ×IJ×ŀ +Ġ׼×IJ×ŀ ×ķר +à¸Ĭ à¹Īาà¸ĩ +ز Ùĩر +Ġklient ów +ива ÑİÑĤ +ан г +׳ ×ļ +Ġg á»įn +Ãľ R +ìĺģ ìĥģ +Ġغ زة +ìĿĮ ìĿĦ +Ġbez po +Ġbezpo ÅĽ +ĠbezpoÅĽ redni +ĠاÙĦÙħ ÙĪØ§ +ĠاÙĦÙħÙĪØ§ Ø·ÙĨ +ĠاÙĦÙħÙĪØ§Ø·ÙĨ ÙĬÙĨ +ãĤĮ ãģ¾ãģĻ +ĠмаÑĤ Ñĩ +×IJ ×ķף +Ġر سÙħÙĬ +ĠÑįк он +ĠÑįкон ом +ĠÑįконом иÑĩеÑģк +ãĥľ ãĥ¼ +Ġд иÑĢ +ĠдиÑĢ ÐµÐºÑĤоÑĢ +ĠÑģк оÑĢо +à¸ļ ำ +à¸ļำ ร +à¸ļำร ุà¸ĩ +ĠÑĦ ÑĥÑĤ +ĠÑĦÑĥÑĤ бол +Ġ×IJ ×Ļ׾ +Ġì¤ij êµŃ +ìľ ¤ +eÄŁ e +à¹Ħ à¸ģà¹Ī +tra î +traî n +ĠÑĤ ÑĢÑĥб +à¹Ģà¸ļ ื +à¹Ģà¸ļื à¹īà¸Ńà¸ĩ +à¹ģม à¸Ļ +ĠتØŃ دÙĬØ« +Ġ׼ עת +ØŃ اسب +lı ÄŁa +×§×Ļ ×Ļ×ŀ×Ļ×Ŀ +оÑģÑĤ ÑĮÑİ +à¸Ŀ ั +à¸Ŀั à¹Īà¸ĩ +Ø´ غÙĦ +ìĽ ¹ +Ġкажд ого +Ġbölüm ü +หà¸Ļ ี +Ġistedi ÄŁi +Ġtr ưng +ãĥ Į +ฮ à¸Ń +Ø£ÙĨ Ø´ +Ø£ÙĨØ´ طة +ĠاÙĦÙħ سÙĬ +ĠاÙĦÙħسÙĬ ØŃ +ลัà¸ģษ à¸ĵà¹Į +Ġn á»Ńa +à¸Ĺีà¹Ī à¸ķà¹īà¸Ńà¸ĩà¸ģาร +ÑĪ ÐµÐº +л Ñij +Ġש ×Ļ×Ķ +Ġש×Ļ×Ķ ×Ļ×Ķ +Ġkhu ôn +ĠÑĤÑĢеб ованиÑı +Ġ×ľ×¢ ×ĸ×ķר +ĠاÙĦع Ùħر +ราà¸Ħา à¸ĸูà¸ģ +ÙĩÙı ÙħÙĴ +ü st +üst ü +Ġден ег +Ġn ạ +à¸Ĥà¸Ļ ม +Ġбл аг +Ġблаг од +Ġблагод аÑĢ +ĠблагодаÑĢ Ñı +Ø¥ سÙĦاÙħ +à¸Ļิ ว +çŁ¥ ãĤīãģªãģĦ +Ø« ÙĤØ© +Ġг олоÑģ +×IJ×ķר ×Ĺ +Ġtr ứng +Ġод ном +ĠkoÅĦ cu +Ġ×ķ רק +Wi ÄĻ +WiÄĻ cej +Ġ×IJ ×Ļ׼×ķת +Ġ×IJ×Ļ׼×ķת ×Ļ +Ñģ оÑģ +Ġje żeli +以ä¸ĭ ãģ® +å°ı ãģķ +å°ıãģķ ãģª +олог ии +Ġоб ÑģлÑĥж +ĠобÑģлÑĥж ива +Ùĥت ابة +Ġê´Ģ ìĭ¬ +×¢ ש×Ļר +Ġaras ındaki +ĠÑĢай она +ÙĪØ§ جب +Ġ×ij×Ĺ×Ļ ×Ļ +íķ´ ì£¼ +Ġg óc +ай л +ĠT ình +æļ® ãĤī +æļ®ãĤī ãģĹ +æĻĤ ãģ«ãģ¯ +ĠгоÑĢод е +Ġ׼×IJ ×Ļ׾ +Ġ׼×IJ×Ļ׾ ×ķ +ĠC á»Ļng +ãģ©ãģĨ ãģĹãģ¦ãĤĤ +×Ĺ ×ķ×£ +تØŃ رÙĥ +ĠÑģлов ам +à¸Īะ à¸Ĭà¹Īวย +ĠاÙĦÙħست ÙĤبÙĦ +ÙĤ ض +ÙĤض ÙĬ +×ijס ×ķפ +×ijס×ķפ ×ķ +iÄĻ Äĩ +ĠY ıl +Ø´ ÙĬØ® +à¸Ħุà¸ĵ à¸Īะ +ש×ŀ ×ķת +Ġت عرض +Ġanál ise +ĠÑģоб иÑĢа +à¹Ģà¸ŀ à¸Ĭ +à¹Ģà¸ŀà¸Ĭ ร +Ġв ели +Ġвели к +สั à¹īà¸Ļ +Ġpop ulação +รà¹Īวม à¸ģัà¸Ļ +×Ĺ ×ŀ +×Ĺ×ŀ ×Ļש×Ļ +ס ×Ļס +åĨħ ãģ§ +Ġsob Äħ +ĠY ay +ĠYay ın +ãĥ¡ ãĥĭãĥ¥ãĥ¼ +ĠпÑĢедоÑģÑĤав лÑı +ãģł ã썿ĢĿãģĨ +Ġê³ł ê°Ŀ +Ġод ним +à¹ĥà¸Ļ à¹Ģรืà¹Īà¸Ńà¸ĩ +Ġs á»ķ +ĠÐĹ Ð´ÐµÑģÑĮ +Ġизмен ениÑı +ĠìĿ¼ ìĿĦ +ãģªãģ® ãģł +клад Ñĭва +ÑĢ Ð¼Ð° +Ġ×ķ×ij ׼׾ +تأ ÙħÙĬÙĨ +ĠпÑĢи ÑıÑĤ +ĠпÑĢиÑıÑĤ н +Ùħ Ùħار +ÙħÙħار سة +ãģ¨ãģª ãģ£ãģ¦ +Ġج ÙħÙĬÙĦ +Ġì§ Ī +Ġì§Ī 문 +Ġquest ão +i é +ié ndo +หà¹īà¸Ńà¸ĩ à¸ŀัà¸ģ +ãĥij ãĥ¼ãĥĪ +ÑĤвеÑĢж да +н Ñģкой +з ал +มุ à¹Īà¸ĩ +á» Ĭ +Ġ×Ķ×IJ×Ĺר ×ķ׳×Ķ +ĠTh ư +주 민 +ĠاÙĦع ب +év én +évén ement +ÙĤÙĪ Ø§Ø¹Ø¯ +د Ùı +ĠìķĬ ìĬµëĭĪëĭ¤ +Ġë³´ 기 +Ġyapıl ması +à¹Ģร าà¸ģ +à¹Ģราà¸ģ à¹ĩ +ØŃ ذر +ÙĤ صر +ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĹãģŁ +Ġà¹Ģà¸Ľà¹ĩà¸Ļ à¸ķà¹īà¸Ļ +ãģ¨ ãģ« +ãģ¨ãģ« ãģĭ +ãģ¨ãģ«ãģĭ ãģı +н ÑĨе +зв Ñĥк +ãģĹãĤĪãģĨ ãģ¨ +ĠاÙĦصØŃ ÙĬØ© +Ġש×Ķ ×Ļ×ķ +ĠDi ÄŁer +ÙĤÙĦ ÙĤ +ãĤ¸ãĥ£ ãĥ³ +Ġr á»Ŀi +Ġл еÑĩ +ĠлеÑĩ ениÑı +تب اد +تباد ÙĦ +צ פ×Ķ +à¸Ħวาม à¹Ģหà¹ĩà¸Ļ +ĠØ´ ب +Ġشب ÙĥØ© +ר ×Ļ×§ +Ùħ عد +Ùħعد ات +dıģ ında +Ġ×ijש ׳×Ļ×Ŀ +Ġ×Ķ ×Ļשר×IJ׾ +Ġ×Ķ×Ļשר×IJ׾ ×Ļת +Ġsı nav +׳צ ×Ļ×Ĵ +วัà¸ķ à¸ĸุ +ĠاÙĦبر ÙĦÙħ +ĠاÙĦبرÙĦÙħ اÙĨ +t ivitÃł +ãĤĵãģł ãĤįãģĨ +×§×Ļ ×Ļ×ŀ +ÙĦÙĬ Ùĥ +ĠÄij ò +ĠÄijò i +ĠÐĺн ÑĤеÑĢ +ĠÐĺнÑĤеÑĢ Ð½ÐµÑĤ +ãģ«ãģ¨ãģ£ãģ¦ ãģ¯ +ãģ£ ãģĵ +×§ ×ķס +ست ØŃÙĤ +æķĻ ãģĪãģ¦ +ãĥĢ ãĥ¡ +ĠÙħÙĨ زÙĦ +à¹Ģà¸ĭ à¹ĩà¸Ļ +使 ãģĪãĤĭ +è¦ĭ ç©į +è¦ĭç©į ãĤĤãĤĬ +Ø£ Ùģ +Ø£Ùģ Ùĥار +Ġиг ÑĢов +ĠигÑĢов Ñĭе +Ġm ÄĻż +ĠmÄĻż czy +ĠmÄĻżczy zn +ĠاÙĦØŃ ÙĤÙĬÙĤÙĬ +ع بر +׼×ķ׾ ׳×ķ +íĿ ¥ +×ŀ×IJ ×ķ×Ĺר +خت ص +ãĥŀ ãĥŀ +Ġ×IJ×Ĺ ×ķ×ĸ +í ĮĢ +Ġr á»iji +Ġв ÑĤоÑĢ +ĠвÑĤоÑĢ Ð¾Ð¹ +Ġl ẫn +пÑĢ Ð¾Ð¼ +пÑĢом ÑĭÑĪ +пÑĢомÑĭÑĪ Ð»ÐµÐ½ +пÑĢомÑĭÑĪлен н +ĠоÑĤноÑĪ ÐµÐ½Ð¸Ñı +Ġs ứ +Ġм обилÑĮ +ĠмобилÑĮ н +ĠÑįÑĤ омÑĥ +Ġt ạp +ĠìĤ¬ ê±´ +ĠìķĮ 볤 +Ùĥ Ùı +ÙĥÙı ÙħÙĴ +Ġ×§ ×ķר×Ķ +ĠÑĦ иÑĢ +ĠÑĦиÑĢ Ð¼ +Ġsık ıntı +׳ ׼ +׳׼ ×ķף +ÙĪÙĦÙĪØ¬ ÙĬ +ØŃ اÙĨ +Ġlo ạn +Ġ×IJ׾ ×£ +Ġm ắn +abh äng +abhäng ig +ĠÑĥÑĢов нÑı +Ġ׾×ij×ĵ ×ķ×§ +ÙĬ ÙħÙĨ +lay ın +Ġh ải +Ġзав од +ĠìķĦ 주 +สà¸ĸ า +สà¸ĸา à¸ļัà¸Ļ +Ġgüven lik +à¹Ģà¸Ķ à¹Īà¸Ļ +×ij×ĵ ×§ +Ġë Ī +ĠëĪ Ħ +ĠëĪĦ 구 +éĩįè¦ģ ãģª +รà¸Ńà¸ĩ รัà¸ļ +sch lie +schlie ÃŁen +Ġìĸ ¼ +Ġìĸ¼ ë§Ī +Ġìĸ¼ë§Ī ëĤĺ +ÑĤи ки +íķľëĭ¤ ê³ł +ãģłãģ£ãģŁ ãĤī +Ġ×Ķ ×Ļ×ĺ×ij +ãģªãģijãĤĮãģ° ãģªãĤīãģªãģĦ +â Ì +Ã¢Ì £ +Ġph ạt +ak Ä±ÅŁ +ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĻ +à¹Ģà¸ĭ à¹ĩ +ĠС егоднÑı +Ġinsan ların +Ġdévelop pe +ת פר +תפר ×Ļ×ĺ +اÙĨت شار +ê° ij +Fran çois +Ø£ÙĦ ع +Ø£ÙĦع اب +ãĤĴ è¶ħ +ãĤĴè¶ħ ãģĪ +Ġê°Ļ ìĬµëĭĪëĭ¤ +ãĤ³ ãĥ¬ +ĠмеÑģÑı ÑĨев +íĮ ħ +ĠاÙĦج اÙħعة +ìĿ¸ íĦ° +ìĿ¸íĦ° ëĦ· +×ĵר ×ķש +ĠÙĪØ£ شار +ĠпÑĢав ила +ãģĿãģĵ ãģ« +×Ĺ ×ŀ×ĵ +à¹Ģหà¸ķุ à¸ģารà¸ĵà¹Į +Ġê²½ íĹĺ +ãģ¶ ãĤĬ +׾ ש +׾ש ×ķף +à¹Ģ à¸ĸ +ĠDo ÄŁu +ĠиÑģполÑĮзов ание +Ġçoc uÄŁu +магазин е +ĠÄiji á»ĥn +Ġas lı +Ġaslı nda +Ġdoen ça +Ġس اع +Ġساع ات +ĠиÑģполÑĮзов аниÑı +ר ×ķצ×Ļ×Ŀ +ĠзнаÑĩ иÑĤ +ĠÑĢаР¼ +ĠÑĢам каÑħ +ê±° 리 +Ġп ÑĭÑĤа +ãĥģ ãĥ³ +Ġпо Ñģк +ĠпоÑģк олÑĮ +ĠпоÑģколÑĮ кÑĥ +Ø¥ بر +إبر اÙĩ +إبراÙĩ ÙĬÙħ +ĠÑĤÑĢ ÐµÑħ +ĠGen ç +س ÙĪÙģ +Ġve ÃŃculo +ĠNg ân +ĠоÑĩеÑĢ ÐµÐ´ÑĮ +à¸Ħร ึà¹Īà¸ĩ +×IJ ×ij×Ļ +à¸ķ à¹īม +ãĤĴè¡Į ãģĦ +ĠاÙĦساب ÙĤØ© +на ÑĨи +наÑĨи она +наÑĨиона лÑĮн +Ġgest ión +ت ÙĤد +ĠاÙĦبÙĬ اÙĨ +ĠاÙĦبÙĬاÙĨ ات +ĠاÙĦ اÙĨتخاب +ĠاÙĦاÙĨتخاب ات +à¹Ģà¸Ĭ à¹Īา +×ĵ ×IJ×Ĵ +Ġ׾×Ĵ ×ŀר×Ļ +Ġت ØŃتاج +Ġth ôn +à¸ķ à¹īà¸Ńà¸Ļ +à¸ķà¹īà¸Ńà¸Ļ รัà¸ļ +女 ãģ® +女ãģ® åŃIJ +Ġth ợ +Ø· ØŃÙĨ +ารà¹Į à¸Ķ +ת ×ŀ×Ļ×ĵ +ĠÑģам Ñĭм +Ġìĭľ íĸī +Ø¥ صد +إصد ار +ĠNgh á»ĩ +ìķ ķ +س ئ +سئ ÙĦ +à¸Ń าร +à¸Ńาร ม +à¸Ńารม à¸ĵà¹Į +à¹ģ ฮ +׳×ĺ ׾ +Ġì¢ĭ ìķĦ +×ķ׾ ׾ +Ġ×ij ×Ľ×ª×ij +ãĤ« ãĥ© +צע ×Ļר×Ļ×Ŀ +تعب ÙĬر +Ġ×ŀ קר×Ķ +ĠÑĦак ÑĤоÑĢ +Ġت ÙħاÙħ +ĠتÙħاÙħ ا +ëį ķ +Ġv ưá»Ŀ +Ġvưá»Ŀ n +Ġd Ä±ÅŁÄ± +ãģĦ ãģ¡ +Ġ׾ק ׳×ķת +ĠاÙĦع ÙĦاÙĤات +п Ñĥб +пÑĥб ли +Ø¥ ÙĬÙħ +Ø¥ÙĬÙħ اÙĨ +à¸Ńำ à¸Ļา +à¸Ńำà¸Ļา à¸Ī +åIJ« ãģ¾ãĤĮ +ãĤĭ ãģŁãĤģãģ« +ס ×Ĵ +ס×Ĵ ׳×ķף +تØŃ دÙĬ +Ġaup rès +ĠاÙĦج Ùĩا +ĠاÙĦجÙĩا ز +Ġ×ŀ ת×Ĺת +ен нÑĥÑİ +Ġз им +à¸ģา à¹ģà¸Ł +Ġ×ijת ×ķר +Ġngh è +Ġnghè o +ĠÐĽ Ñİ +ĠÐĽÑİ Ð± +תק צ×Ļ×ij +×ŀ×¢ ש×Ķ +ĠاÙĦبÙĬ ت +צ ×Ļפ +ĠобÑıз ан +ĠM á»Ĺi +ĠТ ÑĥÑĢ +ĠÙĪØ¨ اÙĦت +ĠÙĪØ¨Ø§ÙĦت اÙĦÙĬ +Ġdéc ision +Ġب د +Ġبد أت +Ġc ục +Ġb ask +Ġbask ı +Ġhat ırl +Ġhatırl a +å°ı ãģķãģĦ +Ġgerçek ten +à¸ľ ัà¸ģ +åı¯èĥ½ ãģª +×ŀ×IJ ס +Ġcr ÃŃtica +ĠìĿĺ ìĽIJ +عÙĤ ÙĪØ¯ +×ĺ ׼׳ +×ĺ׼׳ ×ķ׾×ķ×Ĵ×Ļ×Ķ +è¨Ģ ãģĪãģ° +ĠÙĤ ÙĨا +ĠÙĤÙĨا Ø© +ĠìĿ´ê²ĥ ìĿĢ +ت صر +à¸Ł ัà¸Ļ +ĠÑĢе ÑĨеп +ĠÑĢеÑĨеп ÑĤ +ĠبÙĨ Ù쨳 +ÑĢо ÑĪ +ĠмаÑĢ ÑĤа +Ġson ras +Ġsonras ı +×ķ×ij ש +ãĥª ãĤ¹ãĤ¯ +ĠFranç ais +á» ļ +ê° Ķ +Ġ×Ķ×ijר ×Ļת +פ ×Ļצ +פ×Ļצ ×ķ×Ļ +ĠÙĦÙħا ذا +ĠÐļи ев +ĠÑģ мÑĭÑģл +ê¸Ī ìľµ +ãĤ·ãĥ£ ãĥ« +ãĥ© ãĤ¤ãĥĪ +ìĽ ĥ +×ŀ ×Ĺר +ãĨ į +Ġkullan ım +Ġ×IJצ׾ ׳×ķ +Ġt Ãłn +ãĥı ãĥ¼ +ãģ¨ ãģ¨ãĤĤ +ãģ¨ãģ¨ãĤĤ ãģ« +ÑĢ ÐµÐ³ +ÑĢег и +ÑĢеги он +ãģªãģı ãģªãĤĭ +Ġch ảy +Ġج ÙĩØ© +ÅĦsk iej +à¸Ńี à¹Ģม +à¸Ńีà¹Ģม ล +ãģį ãģ£ãģ¨ +ĠìĺĪ ìĤ° +Ġkit abı +Ġedu cação +Ġbul uÅŁ +олог иÑı +Ġкон кÑĢ +ĠконкÑĢ ÐµÑĤ +×Ĵ ×Ļר +ĠпÑĢед лаг +ĠпÑĢедлаг аеÑĤ +ĠY ên +Ġíķľ ë²Ī +Ġ×ŀ ר׼×ĸ×Ļ +à¹Ģà¸Ľà¸´à¸Ķ à¹Ģà¸ľà¸¢ +ÑĤвеÑĢ Ð´ +ĠH á»ĩ +ĠÐĵ ÑĢ +à¸Ŀ à¹īา +×Ķ ×©×§ +×Ķשק ×¢×Ķ +Ġна Ñĥк +ìłIJ ìĿĦ +Ġн елÑĮ +ĠнелÑĮ з +ĠнелÑĮз Ñı +г ин +ĠB öl +ĠBöl ge +Ġв ла +Ġвла ÑģÑĤи +à¹Ģà¸Ļ à¹ĩ +à¹Ģà¸Ļà¹ĩ à¸ķ +ê³ ¨ +Ġö ld +Ġöld ür +׼׳ ×¢ +ĠاÙĦÙĩ ÙĬئة +ت ارÙĬØ® +ĠÐij ÑĢ +ĠÑģ мож +ĠÑģмож еÑĤе +ĠL úc +à¹Ħà¸Ľ à¸ĸึà¸ĩ +ĠBakan ı +Ġerklä rt +ĠÐIJ на +Ġsc ène +åķı ãģĦ +åķıãģĦ åIJĪãĤıãģĽ +ÙħÙĩ ÙĨد +ÙħÙĩÙĨد س +Ġн азвание +ив аниÑı +ãĤĴ å¤īãģĪ +ä»ĺãģį åIJĪ +ãĥij ãĤ½ +ãĥijãĤ½ ãĤ³ãĥ³ +æĺİ ãĤī +æĺİãĤī ãģĭ +à¹Ģà¸Ńà¸ģ สาร +à¹Ģà¸ģิà¸Ļ à¹Ħà¸Ľ +л еп +ãģĹãģŁ ãĤĤãģ® +ĠC âm +ĠCâm ara +×§×ķ׾ ׳×ķ×¢ +Ġ×ij×Ĵ ×Ļף +Ġoc zy +Ġoczy wiÅĽcie +att ivitÃł +ãĥĵ ãĥ¥ãĥ¼ +Ġeduc ación +İ YE +ê¹Į ìļĶ +ãĤ¨ ãĥªãĤ¢ +н еÑģÑĤи +Ġm óg +Ġmóg ÅĤ +Ġ×§×ĺ ׳×Ļ×Ŀ +ĠPr ä +Ġ×ľ×¢ ×ij×ķר +بÙĨ Ùī +з ол +зол оÑĤ +Ġwn ÄĻtr +ĠwnÄĻtr z +Ġconstr ução +รัà¸ļ รà¸Ńà¸ĩ +س جÙĨ +Ġ×§ ×ķ׳ +ס ×Ļפ×ķר +ĠÙħ دÙī +رض Ùī +п лав +ï¼ ¥ +Ġil a +Ġila ç +ãĤĭ ãģ¹ãģį +ĠÙħ ÙĪÙĤÙģ +à¸ģร ุ +à¸ģรุ à¸ĵา +chodzÄħ c +ĠÑĤÑĭ Ñģ +Ðķ вÑĢо +ĠÙĬ ØŃدث +ãĥ¡ ãĤ¤ãĥ³ +ĠاÙĦص ØŃÙĬ +ĠÐĶ Ð°Ð½ +دع اء +ãĤ´ ãĥ¼ãĥ« +ש ×ł×ª×Ļ +×©×ł×ª×Ļ ×Ļ×Ŀ +à¸Ķà¹īวย à¸ģัà¸Ļ +Ġol acaģı +Ġ×ij ×ŀ×Ĺ×Ļר +×Ķ ×§ +×Ķ×§ ×ŀת +ãĥ¢ ãĥİ +ĠçalÄ±ÅŁ tı +Ġjó venes +ãģĦãģı ãĤī +ĠÙħ عدÙĦ +ĠC Å©ng +ĠSeg ún +Ġdönem de +Ġ׾ ×Ļ×ĵ×Ļ +ãģį ãģ¡ +ãģįãģ¡ ãĤĵ +ãģįãģ¡ãĤĵ ãģ¨ +Ù쨱 ÙĨس +Ù쨱ÙĨس ا +åIJij ãģį +Ġcamp aña +ĠÑģам оÑģÑĤоÑı +ĠÑģамоÑģÑĤоÑı ÑĤелÑĮно +á» Ģ +ÙĤ ÙĪØ§ +س ÙĦاØŃ +à¸ģระ à¹ģ +à¸ģระà¹ģ ส +ĠполÑĮз Ñĥ +n qu +nqu ête +รà¹Īวม à¸ģัà¸ļ +ëĬIJ ëĥIJ +à¸Ĺีม à¸Ĭาà¸ķิ +Ġyıll ık +ìĬ ¬ +ĠØ£ صØŃاب +ill é +Ġdó la +Ġdóla res +Ġк ож +Ġкож и +ล à¹īà¸Ń +à¹Ģรีย à¸ļร +à¹Ģรียà¸ļร à¹īà¸Ńย +à¹Ģà¸ŀ ิ +à¹Ģà¸ŀิ à¹Īà¸ĩ +ÑĢиÑĤоÑĢ Ð¸ +Ġí ijľ +Ġíijľ íĺĦ +ĠпеÑĢ ÐµÐ² +ĠпеÑĢев од +פ×Ĵ ×Ļ×¢×Ķ +ĠdeÄŁerlendir me +Ùģ Ø§Ø¦ +ĠвÑĭ год +ınız ı +×ķ׼ ×Ļ×Ĺ +ĠдоÑģÑĤ иг +Ġng Ãłn +æĢĿ ãģ£ãģŁ +ĠÐķ ÑģÑĤÑĮ +ĠاÙĦر غÙħ +ĠzwiÄħz ane +رب Ø· +à¸Ļ ึà¸ĩ +Ġ׾×Ĺ ×ķ×§ +Ġszczeg óln +Ġszczególn ie +Ġبا ستخداÙħ +ĠfÃŃs ico +×¢ ס +עס ×ķ×§ +سÙĦ ÙĪÙĥ +Ġا ØŃد +Ñĩ ÑijÑĤ +×ĸ׼ ×Ķ +Ġl á»ĩnh +ĠÙĪ ØŃت +ĠÙĪØŃØª Ùī +à¸Ħวาม สามารà¸ĸ +à¸Ńยูà¹Ī à¹ģลà¹īว +à¸ģาร à¹Ģà¸Ķิà¸Ļà¸Ĺาà¸ĩ +تخ ذ +צ×Ļ ×ķ×ĵ +ĠاÙĦØ£ س +ĠاÙĦأس ÙĩÙħ +Ġt á»ĩ +ãģ£ãģ¦ ãģĦãģ¦ +สร ุ +สรุ à¸Ľ +Ġком ÑĦ +ĠкомÑĦ оÑĢÑĤ +ìĺ¤ ëĬĶ +ĠÑĢаз в +ĠÑĢазв ива +л анд +h änge +ĠبÙĨ سبة +à¹Ģà¸Ĥ ียว +עצ ×Ŀ +Ġ׾ ×ľ×Ľ×ª +Ñģо ÑĨиалÑĮн +Ġëĭ¤ìĿĮ ê³¼ +Ġרש ×ķ×ŀ +×ŀר ×Ĺ×ij +س ÙĤØ· +Ġalan ı +ĠÄij á»ĩ +é£Łãģ¹ ãĤĭ +à¸Ķ ึà¸ĩ +Ġgegen über +ĠبÙĩ ذÙĩ +à¸ĸืà¸Ń à¹Ģà¸Ľà¹ĩà¸Ļ +ëķ ħ +à¸Ħà¸Ļ à¹Ħà¸Ĺย +ãĤ¢ ãĤ¦ +ãĤ¢ãĤ¦ ãĥĪ +ศ ัà¸ģ +ศัà¸ģ à¸Ķิ +ศัà¸ģà¸Ķิ à¹Į +ÙĤÙĪ Ø§ÙĨ +ÙĤÙĪØ§ÙĨ ÙĬÙĨ +Ġhá»Ļ p +ãģªãģıãģª ãģ£ãģ¦ +Ġ×IJ ×ŀ׳ +Ġ×IJ×ŀ׳ ×Ŀ +à¹Ģà¸ķ ืà¸Ńà¸Ļ +ĠзавиÑģ им +ĠзавиÑģим оÑģÑĤи +ת ×Ļ×IJ +ת×Ļ×IJ ×ķר +å§ĭãĤģ ãģŁ +Ġng á»į +Ġngá»į t +íĴ į +ê³¼ ìŀ¥ +Ġb ại +ãģ§ãģį ãģ¦ +Ġcomeç ar +à¸Ľà¸£ าà¸ģ +à¸Ľà¸£à¸²à¸ģ à¸ı +Ġгод Ñĭ +м еÑģ +ĠاÙĦÙħست ÙĪÙī +ĠÑģам Ñĭе +л леÑĢ +ãģ£ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĻ +ãģ¨ãģ® ãģĵãģ¨ +bi ó +à¸ģล à¹Īà¸Ńà¸ĩ +ĠاÙĦز ÙĪØ¬ +ãģ«è¡Į ãģ£ãģŁ +à¸Ħà¹Ī à¸Ńà¸Ļ +à¸Ħà¹Īà¸Ńà¸Ļ à¸Ĥà¹īาà¸ĩ +ĠbaÄŁ l +ĠbaÄŁl ant +ĠbaÄŁlant ı +確 ãģĭ +確ãģĭ ãģ« +ãĥľ ãĥ¼ãĥ« +çµĤ ãĤıãĤĬ +ש ×ŀר +à¸Ĺีà¹Ī สามารà¸ĸ +ÙĦ زÙħ +д аеÑĤÑģÑı +รัà¸ļ à¸Ľà¸£à¸° +รัà¸ļà¸Ľà¸£à¸° à¸Ĺาà¸Ļ +å¤ī ãĤıãĤĬ +ï¼ ¢ +ĠìĺĪìĪĺ ëĭĺ +ãĤĪãģĨ ãģ¨ +มัà¸ģ à¸Īะ +ĠH ương +ÙĨ Ù쨰 +×ŀ×ĵ ×ĵ +ĠìĿ¸ ìłķ +Ñħод иÑĤÑĮ +ĠзавиÑģ иÑĤ +×ķ×ĵ ×Ļ×¢ +ãģĵãģ¨ãģĮ ãģĤãĤĬãģ¾ãģĻ +ع راÙĤ +سط ØŃ +à¸ģำ à¹Ħร +ëĵ¤ ëıĦ +×Ļצ ×Ļר×Ķ +ãģĨ ãģĵãģ¨ +ÙĦا ØŃÙĤ +ãģĦ ãĤĮãģ° +ĠиÑģполÑĮз ÑĥÑİÑĤ +ĠB ợi +Ġשק׾ ×Ļ×Ŀ +ÑĨи кл +ÐIJ Ðŀ +Ġ×ijש ׳×Ķ +ÙĨØ´ Ø· +Ġש ×Ļ׳×ķ×Ļ +Ġש×Ļ׳×ķ×Ļ ×Ļ×Ŀ +Ġpobl ación +ĠH ưng +ระ ว +ระว ัà¸ĩ +رÙĬاض Ø© +ر صد +تÙĤ ÙĦÙĬ +تÙĤÙĦÙĬ د +Ġülk em +Ġülkem iz +à¸Ĭ ะ +ãĤ¯ãĥª ãĥ¼ãĥł +èģŀ ãģĦãģŁ +Ġwa ż +Ġważ ne +ê±° ëĵł +ê±°ëĵł ìļĶ +×ŀ×IJ ×ij×§ +×Ĺ×ĵ ש×ķת +ĠW roc +ĠWroc ÅĤaw +ĠKü ltür +s ist +sist ência +×¢×ĸר ×Ķ +Ġg ương +รà¹īาà¸Ļ à¸Ħà¹īา +ĠÙĪØ£ ÙĪØ¶ØŃ +ánd ose +ãĤ· ãĥ¼ãĥ³ +×IJ׳ ר×Ĵ +×IJ׳ר×Ĵ ×Ļ×Ķ +ãģªãģĦ ãģ§ãģĻ +Ġkh á»§ng +Ġ문 ìĦľ +Ġ×ij ×ĵ×ijר +×ĵ ×Ļ×ķ +×ĵ×Ļ×ķ ×ķ×Ĺ +Ġré gl +ÙħÙĪ Ø§Ø¯ +об оÑĢ +обоÑĢ Ð¾ÑĤ +Ġ×Ķ ×ij׾ +Ġ×Ķ×ij׾ ×ķ×Ĵ +ØŃ اÙħ +ĠاÙĦع اص +ĠاÙĦعاص ÙħØ© +пеÑĢ Ð°ÑĤоÑĢ +ت Ø®ÙĦ +تخÙĦ ص +ãģŁãģł ãģĹ +ت سÙħ +à¹Ĥรà¸ĩ à¸ŀ +à¹Ĥรà¸ĩà¸ŀ ยา +à¹Ĥรà¸ĩà¸ŀยา à¸ļาล +ĠY ük +ĠYük sek +Ġש ׳×Ļת +Ġש׳×Ļת ף +liÄŁ e +Ġפ ת +Ġפת ×ķ×Ĺ +Ġbe ÄŁ +ĠbeÄŁ en +Ġ×ŀ ×ķר +Ġ×ŀ×ķר ׼×ij +Ġرس اÙĦØ© +íĨµ ìĭł +Ġaval ia +Ġavalia ções +Ġman h +Ġmanh ã +Ġìķ ŀ +Ġìķŀ ìľ¼ë¡ľ +ÙĤ تر +ÙĤتر ØŃ +à¹Ģà¸ģ ืà¸Ń +à¹Ģà¸ģืà¸Ń à¸ļ +Ġpropos é +Ø£ Ùħا +Ø£Ùħا ÙĥÙĨ +ĠÐŀ Ðŀ +ĠÐŀÐŀ Ðŀ +ÙħÙĤ ار +ÙħÙĤار ÙĨØ© +ëĦ IJ +ãģĦãģŁãģł ãģı +ÙĤ ÙĬÙĦ +Ġна ÑĪиÑħ +ãĤ« ãĥĥãĥĹ +×Ĺ׾ ת +Ġëĭ¤ ë§Į +à¸Ĺัà¹Īว à¹Ĥลà¸ģ +ãĥį ãĤ¿ +ØŃس اس +ãģ«ãģª ãĤĮ +ج ائ +جائ زة +é change +é conom +économ ie +Т Ðĺ +סת ׼׾ +à¸Ĺัà¹īà¸ĩ สà¸Ńà¸ĩ +ĠاÙĦØ® اÙħ +ĠاÙĦخاÙħ س +×§ ×ĺ×¢ +au waż +à¸ľà¸¹à¹ī à¸Ĭาย +à¹ģà¸Ľà¸¥ à¸ģ +åIJĮæĻĤ ãģ« +зн аниÑı +ãģĦãģŁãģł ãģįãģ¾ãģĹãģŁ +Ġ×ŀ×ij ׾×Ļ +à¸Ĥà¸Ń à¹ĥหà¹ī +ĠاÙĦت ربÙĬØ© +Ġdécou vert +Ġżyc iu +apr ès +Ġy ab +Ġyab anc +Ġyabanc ı +ĠbaÅŁ layan +ìĹĪ ëįĺ +Ġhes abı +Ġë§Į ìķ½ +ë§ Īëĭ¤ +ĠTh ánh +ãĥ´ ãĤ¡ +à¸Ľà¸£à¸±à¸ļ à¸Ľà¸£ +à¸Ľà¸£à¸±à¸ļà¸Ľà¸£ ุà¸ĩ +ĠM ặc +à¹Ģหà¸ķุ à¸ľà¸¥ +ĠÐij ез +Ġcapac itÃł +ÅĤe ÅĽ +ĠпÑĢе им +ĠпÑĢеим ÑĥÑīеÑģÑĤв +ĠÅļ wiÄĻt +Ġpubli é +×ŀ×¢ צ×ij +Ùħشار Ùĥات +à¸łà¸² ษ +à¸łà¸²à¸© ี +Ġdeux ième +ĠÙħØŃ اÙ쨏 +ĠÙħØŃاÙ쨏 Ø© +ĠSch ön +ï½ ¤ +Ġ×Ķ ×ij×¢ +Ġ×Ķ×ij×¢ ×Ļ×Ķ +ĠÙĪØ§ÙĦ ÙĦÙĩ +è¨Ģ ãģ£ãģŁ +à¸ķ à¹īาà¸Ļ +วร รà¸ĵ +à¸Ĺิ ศ +ĠbaÅŁ ına +Ġmog ÄĻ +ש ×Ļפ×ķר +ĠÙĪ Ø¹Ø¯ +ĠÙĪØ¹Ø¯ Ùħ +Ġhistó rico +Ġk ısı +ĠìĿ´ ê²Į +ĠPol ÃŃtica +ĠÑģиÑĤÑĥ аÑĨии +ĠkoÅĦ ca +×ij×ĵ ×Ļ×§×Ķ +ĠاÙĦسÙĬ ارات +ãģªãĤī ãģ° +ãĤµ ãĥ© +ãĤĭãģĵãģ¨ãģĮãģ§ãģį ãĤĭ +Ġdecis ão +×ķ ×ķ×ĵ +lä ss +läss ig +Ġ׾ ×Ļשר×IJ׾ +ĠÙĬ أتÙĬ +ר ×ķ×ĸ +ö ÄŁ +Ã¶ÄŁ ret +Ã¶ÄŁret im +Ġд ек +Ġдек аб +Ġдекаб ÑĢÑı +Ġש ×Ĺ×ķר +ãģ¦ãģıãĤĮ ãģŁ +عب ارة +Ġélect rique +ĠاÙĦتÙĨ ÙħÙĬØ© +جر Ùī +ĠìĪĺ íĸī +à¸Ĺ ู +ĠÑĢе алÑĮно +Ñģп оÑģоб +à¸Ħล à¹īาย +Ġس عÙĪØ¯ +ön ü +ĠÙģ ÙħÙĨ +تÙĥ ÙĪ +تÙĥÙĪ ÙĬÙĨ +ĠкаÑĩ еÑģÑĤво +ĠконÑĤ ак +ĠконÑĤак ÑĤ +Ġsöz leÅŁme +à¸Ń à¹īาà¸ĩ +Ġت ÙĪÙģ +ĠتÙĪÙģ ÙĬر +×Ķ×ĸ ×ĵ +×Ķ×ĸ×ĵ ×ŀ׳×ķת +ĠØ·ÙĪÙĬÙĦ Ø© +Ġtér mino +Ġ×IJ ×Ļפ×Ķ +ãĥĵ ãĥ« +ส à¹Ĥม +สà¹Ĥม สร +ĠاÙĦ اث +ĠاÙĦاث ÙĨÙĬÙĨ +ев иÑĩ +Ġopin ión +à¸Ľ วà¸Ķ +åı¤ ãģĦ +ร à¹Īา +ĠB iaÅĤ +ĠÑģÑĤ ал +ĠÑģÑĤал о +ó logo +ĠìķĦ ëĭĪëĭ¤ +Ġ×IJ ×Ļת +Ġ×IJ×Ļת ×ķ +à¹Ģหà¹ĩà¸Ļ วà¹Īา +à¸ļ ารà¹Į +çĦ ¼ +çĦ¼ ãģį +ĠìĿ´ìļ© ìŀIJ +ĠнекоÑĤоÑĢ Ñĭе +ks z +ksz taÅĤ +ksztaÅĤ c +ãĤŃãĥ£ ãĥĥãĤ· +ãĤŃãĥ£ãĥĥãĤ· ãĥ³ãĤ° +Ġro ÅĽ +ĠroÅĽ lin +ÑĢаж а +×ij׳×Ļ ×Ļ×Ķ +à¸Ľà¸£ สิ +à¸Ľà¸£à¸ªà¸´ à¸ķ +Ġgörd ü +×ŀ׳×Ķ ×Ļ×Ĵ +å¤īãĤı ãģ£ãģ¦ +Ġ×IJ ×Ķ +Ġ×IJ×Ķ ×ijת×Ļ +à¹Ģร à¹Īà¸ĩ +Ġön ünde +Ġê·¸ ëĥ¥ +пол иÑĤ +полиÑĤ иÑĩеÑģк +ãĥ¡ ãĥĩãĤ£ +ãĥ¡ãĥĩãĤ£ ãĤ¢ +ĠDet ay +ĠDetay lı +ĠاÙĦصÙģ ØŃØ© +à¸ģาร à¹Ģà¸ĩิà¸Ļ +Ġìµľ ê·¼ +׼ ש׾ +ï¼ © +вÑĪ ÐµÐ³Ð¾ +íķĺ ìĭ¤ +ĠÐŃ ÑĤ +ĠÐŃÑĤ оÑĤ +ส ื +สื à¸ļ +Ġng ừng +ĠдокÑĥменÑĤ ов +дав аÑĤÑĮ +ĠاÙĦشخص ÙĬØ© +Ġצ ×¢×Ļר +در Ùĥ +س ØŃب +à¹Ħมà¹Ī à¸Ħà¹Īà¸Ńย +Ġ×Ķ×ŀ×§ ×ķ×ŀ×Ļ +สัà¹Īà¸ĩ à¸ĭืà¹īà¸Ń +Ġê·¸ê²ĥ ìĿĦ +ãģĤãĤĭ ãģĦ +ãģĤãĤĭãģĦ ãģ¯ +×IJ×ķ×ĺ ×ķ×ij +×IJ×ķ×ĺ×ķ×ij ×ķס +к ÑĨион +ĠÐľ ожно +ãģı ãģł +ãģıãģł ãģķ +ĠинÑĦоÑĢм аÑĨиÑı +ï» Ł +Ġìŀij ìĹħ +Ġ×Ļ ×ķסף +Ø¥ دارة +ĠاÙĦØŃ اج +×ł×¡ ×Ļ×¢×Ķ +из аÑĨиÑı +×IJ׾ ×ij +×IJ׾×ij ×ķ×Ŀ +п ед +Ġ×§×ĺ ׳×Ķ +ĠÙĨÙ쨳 Ùĩا +ĠMinist ério +Ġп ен +Ġпен Ñģи +ãĥIJ ãĥ©ãĥ³ãĤ¹ +Ġ×Ķת ×ķר×Ķ +Ġt ạm +ĠìĹŃ ìĭľ +ï½ ¡ +Ġth á»± +Ġ ısı +ì» ¨ +ãģĹãģ£ãģĭãĤĬ ãģ¨ +Ġx ưa +Ġc ặp +×Ĺ ×Ļ×ij×ķר +วัà¸Ĵà¸Ļ à¸ĺรรม +st är +stär ke +ĠÑģам Ñĭй +p isa +pisa Äĩ +ĠoluÅŁ an +ĠاÙĦØ¥ ÙħاÙħ +ĠcÄĥ ng +Ġgü nl +Ġgünl ük +Ġ׳ש ×IJר +Ġkhi á»ĥn +ç¶ļ ãģijãĤĭ +stit ución +Ġcapac ité +Ġj aki +Ġjaki ÅĽ +вÑĪ Ð¸Ñģ +вÑĪиÑģ ÑĮ +פע×ķ׾ ×ķת +ĠØŃ ÙĬات +ĠØŃÙĬات Ùĩ +Ġник огда +ÐĽ Ь +Ġ×Ķ×¢ ×ķ×ij +Ġ×Ķ×¢×ķ×ij ×ĵ×Ķ +Ġch Ãło +หลาย à¹Ĩ +ĠÑı н +ĠÑıн ваÑĢ +ĠÑıнваÑĢ Ñı +à¸Īำà¹Ģà¸Ľà¹ĩà¸Ļ à¸ķà¹īà¸Ńà¸ĩ +Ġhö her +ãģķãĤĮãģ¦ ãģĦãģŁ +สà¸ĩ สั +สà¸ĩสั ย +ĠاÙĦ اس +ĠاÙĦاس ÙĦاÙħ +ĠاÙĦØ´ Ùħس +สà¸ĸาà¸Ļ ี +ãĤ¯ãĥ© ãĤ¹ +à¸ŀร ร +à¸ŀรร à¸Ħ +p õ +põ e +Ġpor ém +à¸Ľà¸£à¸° สà¸ĩ +à¸Ľà¸£à¸°à¸ªà¸ĩ à¸Ħà¹Į +powied zie +powiedzie Äĩ +Ġмог Ñĥ +Ġж ел +Ġжел ез +ĠاÙĦØ« ÙĤ +ĠاÙĦØ«ÙĤ اÙģÙĬ +ĠпÑĢав ило +Ġgdy ż +פש ×ķ×ĺ +ÑĢабоÑĤ ка +ĠÙĥ رة +Ø´ دد +Ùħار Ùĥ +Ùħ ÙĥØ© +Ġпод пиÑģ +×ĺ×ķ ×ķ×Ĺ +ĠÅĽ c +ĠÅĽc ian +Ġر جاÙĦ +Ġ×ª×ľ ×ķ×Ļ +и ÑĪ +иÑĪ ÑĮ +Ġmé dec +Ġmédec in +ëįĶ ëĿ¼ëıĦ +ĠÑĤеб Ñı +Ġ׾×Ķ ×ķס×Ļ×£ +ãģĬ 話 +Ġà¹ģà¸ķà¹Ī à¸ģà¹ĩ +د اÙģ +داÙģ Ø¹ +ĠC ùng +ãĥ»ãĥ» ãĥ»ãĥ» +ê¶ ģ +Ġdeber ÃŃa +หà¸Ļà¹Īวย à¸ĩาà¸Ļ +Ġva ÌĢ +Ġעצ ×ŀ +Ġעצ×ŀ ×Ŀ +à¹Ģà¸Ĭืà¹Īà¸Ń วà¹Īา +שק ×¢ +Ġ×Ķ ×Ľ×ķ׾ +Ġ×Ķ׼×ķ׾ ׾ +ни бÑĥд +нибÑĥд ÑĮ +ĠëĦĪ íĿ¬ +Ġоб ÑĢаÑī +ĠобÑĢаÑī а +Ġ×¢×ij×ķ×ĵ ת +ĠاÙĦÙħÙĨت خب +ıy ord +ıyord u +ÙĪ Ø° +×Ĺש ×Ļ×ij×ķת +Ġ×Ķ×¢ ×Ļ×§ +Ġ×Ķ×¢×Ļ×§ ר×Ļ +ì¢ Į +ยุ à¹Ĥร +ยุà¹Ĥร à¸Ľ +Ġа пÑĢ +ĠапÑĢ ÐµÐ»Ñı +sz ed +szed ÅĤ +д он +à¹Ģà¸ķิ à¸ļ +à¹Ģà¸ķิà¸ļ à¹Ĥà¸ķ +кол о +Ġkażde j +å¸ ° +帰 ãĤĬ +Ġмил ли +Ġмилли он +ç¾İåij³ ãģĹãģĦ +ت ÙĤار +تÙĤار ÙĬر +ĠìĿ´ 루 +ĠìĿ´ë£¨ ìĸ´ +Ġsprzeda ż +×Ķ ×ķצ×IJ×ķת +ãĤ¢ãĤ¯ ãĤ» +ãĤ¢ãĤ¯ãĤ» ãĤ¹ +ר ×ķ×¥ +ĠгоÑģÑĥдаÑĢÑģÑĤв енн +Ø£ ØŃÙĥ +Ø£ØŃÙĥ اÙħ +ĠoluÅŁ u +ĠA ç +ĠAç ık +ãĤ¸ ãĥ¼ +ç´ł æĻ´ +ç´łæĻ´ ãĤīãģĹãģĦ +Ġ×ijש×ij ×ķ×¢ +ب ذ +بذ ÙĦ +สา à¹Ģหà¸ķุ +Ġpoz osta +Ġpozosta ÅĤ +ØŃر Ùħ +Ġimport ância +leÅŁtir me +Ġд ÑĢев +Ġmó vil +ĠA ynı +Ġна лог +Ġналог ов +Ġ×Ĺ ×Ļפ×Ķ +ĠÑĦоÑĢм Ñĥ +à¸Ĺà¸Ķ สà¸Ńà¸ļ +ĠksiÄħż ki +Ġma ÅĤe +Ùħس Ø£ÙĦ +ÙħسأÙĦ Ø© +ï¼¾ ï¼¾ +ç ãeste +év iter +Ġкон ÑģÑĤÑĢÑĥк +ĠконÑģÑĤÑĢÑĥк ÑĨи +ï¾ ŀ +Ġת×ķ׼ ׳ +ãĤ¹ãĥĪ ãĥ¬ãĤ¹ +ĠاÙĦاÙĤتصاد ÙĬ +×ŀ×ĵ ×Ļ +Ġw ÅĤad +ĠwÅĤad z +Ø® ÙĪÙģ +ĠмаÑĤеÑĢиал ов +ãģ¨ãģ£ãģ¦ ãĤĤ +Ġznaj du +Ġznajdu jÄħ +Ùģ Ø¦Ø© +ãģ©ãģ® ãĤĪãģĨãģª +æĬij ãģĪ +׳ ×Ĺ׾ +Ġdü ny +Ġdüny an +Ġdünyan ın +гÑĢ Ð°Ð½Ð¸ +гÑĢани Ñĩ +Ġ×Ķש׾ ×Ļש×Ļ +Ġ×Ķ×IJ ש +åıĬ ãģ³ +ìĭŃ ìĭľ +ìĭŃìĭľ ìĺ¤ +Ġдол л +Ġдолл аÑĢ +Ġпов ÑĤоÑĢ +Ġ×Ĺ ×Ļ׳×Ŀ +ת פת×Ĺ +Ñĥв ели +Ñĥвели Ñĩен +ãĤ« ãĥª +raw id +rawid ÅĤow +×ķ ×ķ׾ +ãĥŁ ãĥ¥ +ì½ ĺ +ĠBy ÅĤ +Ðľ ÐIJ +ع ÙIJ +ĠÑģовеÑĢ ÑĪ +ĠÑģовеÑĢÑĪ ÐµÐ½Ð½Ð¾ +Ġм ой +Ġ×ķ׾×IJ ×Ĺר +æħ £ +æħ£ ãĤĮ +ØŃ اÙ쨏 +Ġ무 ë£Į +à¸Ħà¸ĵะ à¸ģรรม +à¸Ħà¸ĵะà¸ģรรม à¸ģาร +Ġìĸ´ ëĶĶ +Ġdif eren +Ġdiferen ça +ĠاÙĦØ£ ساس +ĠاÙĦأساس ÙĬØ© +Ġ׾×IJ×Ĺר ×ķ׳×Ķ +ê· ł +Ġ×Ķש׳×Ļ ×Ļ×Ķ +ìľĦìĽIJ ìŀ¥ +ลุ à¸ģ +ç iler +Ġ×Ķ×IJ ׾×ķ +èģŀ ãģı +Ġ×ķ×IJ פ×Ļ׾×ķ +ĠÑĢе ализ +ĠÑĢеализ аÑĨи +ระยะ à¹Ģวลา +Ġجدا Ùĭ +تب اع +Ġveh ÃŃculo +Ġдол г +à¸Ľà¸£à¸´ มาà¸ĵ +ì¦ IJ +Ġ׾ ×ŀ×§×ķ×Ŀ +ĠìĤ¬ ì§Ħ +à¸Ĭ à¹īา +Ġ×ŀ×¢ ×ķ׾×Ķ +Ġgö rm +Ġgörm ek +ĠÙĪÙĩ ذÙĩ +пеÑĢ Ð² +пеÑĢв ÑĭÑħ +ê·¸ ëŀĺ +ĠاÙĦبر ÙĬØ· +ĠاÙĦبرÙĬØ· اÙĨÙĬ +ĠиÑİ Ð½Ñı +ĠÐĵ оÑĢ +Ġ׾ ש׾×Ŀ +ÐIJ ÐĿ +Ġназ наÑĩен +о оÑĢ +ооÑĢ Ñĥж +Ġöz elli +Ġözelli ÄŁi +Ġни же +ç¶ļ ãģijãģ¦ +Ġа ÑĢенд +Ġkat ılı +Ġkatılı m +ĠØ¥ Ø·ÙĦاÙĤ +ĠÙĪØ¥ ذا +Ġок ÑĤÑı +ĠокÑĤÑı бÑĢÑı +à¹Ĥà¸ķ ๠+à¹Ĥà¸ķ๠Ĭ +à¹Ĥà¸ķà¹Ĭ ะ +Ġolduk ları +Ùħ ÙĪÙĤع +ëĤ © +ã썿ĢĿ ãģ£ãģ¦ãģĦãĤĭ +Ġש ×Ļ׼×ķ׾ +วา à¸Ķ +س ÙĬÙĦ +à¸Ĥ วั +à¸Ĥวั à¸į +تØŃ ÙĥÙħ +ì ĤŃ +Ġconna ît +׳ פת×Ĺ +Ġch ặ +Ġchặ n +ĠÙħ ØŃÙħ +ĠÙħØŃÙħ ÙĪØ¯ +ãģ ´ +ĠпÑĢодÑĥк ÑĨии +зд ÑĢав +ãģĶ è¦ +ãģĶè¦ § +×IJ×ij ×IJ +Ġvé ritable +ĠØ· ÙģÙĦ +ãĥĪãĥ© ãĥĸãĥ« +ê³ ¡ +Ġת ×ŀ×ķ׳×Ķ +Ġki ên +ĠÙĤ ادر +Ø¥ÙĤ ÙĦÙĬÙħ +ĠпÑĢед пÑĢи +ĠпÑĢедпÑĢи ÑıÑĤиÑı +Ġb Äĥng +Ġay ında +Ġg ấp +еÑħ ал +Ġgi Ãłnh +Ġд ав +Ġдав но +ìĺĢ ëĭ¤ +à¸Ļัà¸ģ à¹Ģà¸ķ +à¸Ļัà¸ģà¹Ģà¸ķ ะ +Ùħست شار +ست راتÙĬج +ستراتÙĬج ÙĬ +رÙħ ز +Ġt Ä©nh +ë¡ Ń +ĠÑĩ еÑĤ +ĠÑĩеÑĤ Ñĭ +ĠÑĩеÑĤÑĭ ÑĢе +ĠEnt ão +Ġص غ +Ġصغ ÙĬرة +×ij×Ļ×ĺ ×ķ׾ +خط ÙĪØ· +ĠÑĢазвиÑĤ ие +Ġamacı yla +à¸Ĺี วี +Ġо ÑģÑĤ +ĠоÑģÑĤ алÑĮн +ש×ķ׾׊ף +Ġ׼ ׳×Ļס +Ġ׼׳×Ļס ×Ķ +Ġd áºŃy +ĠyaÅŁ ayan +Ġ×ŀ×Ķ ×ķ×ķ×Ķ +ĠÑĥ Ñģи +ĠÑĥÑģи ли +×ŀ פ×Ļ +ĠпÑĢовед ениÑı +Ġر ب +Ġرب Ùħا +ĠاÙĦØ£ ÙĪØ³Ø· +Ġìľł ì§Ģ +Ġprac ownik +Ġpracownik ów +×ŀס ×ķרת +ÙĤار ب +à¸Ħวาม รูà¹īสึà¸ģ +à¹ģหล ะ +ĠاÙĦÙĨ ÙĤد +Ġ×IJ׾ פ×Ļ +Ùħس ئ +Ùħسئ ÙĪÙĦ +ев ÑĭÑħ +клÑİÑĩ ениÑı +×ij ×Ļ׳ +×ij×Ļ׳ ×Ļ×Ķ×Ŀ +ש ×ķ×IJ×Ķ +ĠÅŁ ark +ĠÅŁark ı +Ġsü rec +Ġsürec in +à¹Ģà¸Ħร à¸Ķ +à¹Ģà¸Ħรà¸Ķ ิà¸ķ +ãĥIJ ãĥ¬ +ĠØ´ Ø£ÙĨ +à¹Ģà¸Ńา à¹Ħวà¹ī +niÄĻ cie +רצ ×Ĺ +ĠaÅŁ ama +׳ פ×Ĵ×¢ +Ġth á»Ŀ +Ġkhu ẩn +diÄŁ inde +ÑıÑī иÑħ +ãĥĺ ãĥ« +Ġüber h +Ġüberh aupt +ĠÑĤÑĢеб ова +ĠdÅĤ ugi +×ĺ ×Ļף +à¸Ĥà¸Ļาà¸Ķ à¹ĥหà¸įà¹Ī +ĠاÙĦØ£ Ùĩ +ĠاÙĦØ£Ùĩ ÙĦÙĬ +ĠMü d +ĠMüd ürü +Ġ×Ļ×Ķ ×ķ×ĵ×Ķ +Ñĭв аеÑĤÑģÑı +س اط +×Ķת ׳×Ķ×Ĵ +×Ķ×ª×ł×Ķ×Ĵ ×ķת +à¸ģาร à¸ľà¸¥à¸´à¸ķ +íĴ Ģ +สà¸ĸาà¸Ļ à¸ģารà¸ĵà¹Į +Ġо ÑĦ +ĠоÑĦ иÑģ +ĠÙĦ عبة +Ġstron ÄĻ +Ġר×IJ ×ķ×Ļ +×Ĺ ×ij׾ +ĠÑĢÑĭ н +ĠÑĢÑĭн ке +Ġ׾×ŀ×¢ ף +اس ÙĦ +ห ัà¸Ļ +Ġ×IJ ×Ĺ×Ļ +ĠпÑĢод ол +ê°Ģ ìŀħ +Ġ×ijר ×Ĺ +Ġ×ijר×Ĺ ×ij×Ļ +дж еÑĢ +Ġ׾ ×Ĺ׾ +Ġ׾×Ĺ׾ ×ķ×ĺ +Ġ׾×Ĺ׾×ķ×ĺ ×Ļף +ศาส à¸Ļา +ãĤ¢ãĤ¤ ãĥĨ +ãĤ¢ãĤ¤ãĥĨ ãĥł +Ġפר ×ķפ +جز اء +ล à¸Ńย +Ġc iaÅĤa +Ġgi ết +ĠзнаÑĩ иÑĤелÑĮно +Ġolmad ıģ +Ġolmadıģ ını +н д +нд екÑģ +تأ Ùĥد +Ġìĸ ¸ +Ġìĸ¸ ìłľ +ay dın +ãĥī ãĥ¬ãĤ¹ +Ġs ắt +Ġíĺ¸ íħĶ +Ġë¶ ģ +Ġë¶ģ íķľ +ãĥij ãĤ¤ +Ġ×ŀש×Ĺ×§ ×Ļ +à¸Ħà¸Ļ à¸Ńืà¹Īà¸Ļ +Ġиз гоÑĤов +ĠизгоÑĤов лен +à¹Ģà¸ģีย ร +à¹Ģà¸ģียร à¸ķิ +תק שר +ĠÑĢаÑģ ÑĩеÑĤ +ส à¹Ģà¸ķ +Ġl änger +ĠiÅŁ let +ĠiÅŁlet me +Ġع ÙĦÙĬÙĨ +ĠعÙĦÙĬÙĨ ا +é lection +ĠاÙĦغ ربÙĬØ© +íĭ Ģ +ãĤĤãĤī ãģĪ +Ġкни ги +Ø£ سÙħ +أسÙħ اء +Ġth á»ı +Ġthá»ı a +หà¸Ļ ู +Ġ×ł×¢ ש×Ķ +à¸łà¸²à¸¢ à¹ĥà¸ķà¹ī +à¸ŀื à¸Ĭ +رÙĬ Ø· +Ùģ ÙĪØ¶ +ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸ ãģĦãģ¾ãģĹãģŁ +ש ×ĵ×Ķ +Ġng á»±c +ĠÑģеÑĢ ÑĮ +ĠÑģеÑĢÑĮ езн +T ôi +Ġfiyat ları +ĠвÑģ Ñİ +ĠC ódigo +Ġ×Ķש ×IJ +Ġ×Ķש×IJ ׾×Ķ +ĠP ública +Ø¥ Ø® +إخ ÙĪØ§ÙĨ +ĠзаÑıв ил +ãĥ¦ ãĥ¼ +ר×IJ ×Ļת +vol ución +Ġsz ko +Ġszko ÅĤy +جرÙĬ دة +Ġpens é +ìī ¬ +ĠBüyük ÅŁehir +ĠØ£Ùħ رÙĬ +ĠØ£ÙħرÙĬ ÙĥÙĬ +à¸Ļัà¸ģ ศึà¸ģษา +Ġtod av +Ġtodav ÃŃa +ĠС ан +ĠСан кÑĤ +íķĺ ìŀIJ +ØŃÙĪ Ø§ÙĦ +׼ ×ķשר +à¹Ģลย à¸Ħรัà¸ļ +Ġal gu +Ġalgu ém +Ùģ Ø² +Ġçek il +Ġ×ĵ ר׼×Ļ×Ŀ +ãĥIJ ãĥ© +à¸ģà¹ĩ สามารà¸ĸ +สà¹Īวà¸Ļ ลà¸Ķ +íı ° +ĠP úb +ĠPúb lico +à¹ģà¸Ļว à¸Ĺาà¸ĩ +×IJת ×Ĵר +Ø´ اش +شاش Ø© +ci ÅĽni +ĠÃľ rün +ÙĦÙĪ ØŃ +ĠاÙĦ بÙĨ +ĠاÙĦبÙĨ Ùĥ +ì¡° ì¹ĺ +Ġorganiz ación +ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸ ãģĦãģ¾ãģĻ +s ätze +ĠÑģем ей +ÙĤ صد +ÑģÑĤв еннÑĭе +Ġpréc éd +Ġprécéd ent +à¸ģรุà¸ĩà¹Ģà¸Ĺà¸ŀ ฯ +ãģ¨è¨Ģ ãģĦ +×ij׳×Ļ ×Ļף +ĠØŃ ÙĪ +ĠØŃÙĪ Ø§ÙĦÙĬ +סק ס +ĠsaÄŁlam ak +Ġ׾ צ×Ļ×Ļף +×§×ĵ ש +Ġ×Ķ×ŀ ×¢×¨×Ľ×ª +Ġ׾×Ķ ×¢×ij×Ļר +Ġg ünd +Ġgünd em +ĠнаÑĪ ÐµÐ³Ð¾ +à¹ĥà¸Ļ à¸ŀืà¹īà¸Ļà¸Ĺีà¹Ī +à¹Ģà¸Ħร ืà¸Ń +à¹Ģà¸Ħรืà¸Ń à¸Ĥ +à¹Ģà¸Ħรืà¸Ńà¸Ĥ à¹Īาย +ظ اÙĩرة +ÙħÙĨ ظÙħ +ÙħÙĨظÙħ ات +Ùħت از +追 ãģĦ +dı kt +dıkt an +ĠëįĶ ìļ± +ĠÐĿ апÑĢимеÑĢ +tw ór +×ŀ×ķ×¢ צ×Ķ +Ùĥ ÙĪÙĥ +Ð © +×ŀ×ĺ פ׾ +ó lica +訪 ãĤĮ +ĠëĮĢ ë¶Ģ +ĠëĮĢë¶Ģ ë¶Ħ +ãĤ¯ãĥª ãĥĥãĤ¯ +ãĤĴ éģ¸ +ãĤĴéģ¸ ãģ¶ +Ġpow sta +Ġpowsta ÅĤ +Ġraz ón +×ij ×ķ×Ĺר +ĠÑģообÑī ил +Ġ×§ ×ij×ķ×¢ +r êt +à¸Ķี à¸Ĥึà¹īà¸Ļ +×ŀס ×¢×ĵ +×ŀסע×ĵ ×ķת +ĠÃĸ sterreich +Ġ׳ ×Ĺש×ij +Ùħباد رة +ì´ ī +×Ĵ ׳×ĺ×Ļ +ä¿¡ ãģĺ +du ÄŁ +duÄŁ unu +Ġph ú +ĠاÙĦØ£ Ø®ÙĬر +Ġت عتبر +landır ıl +ãģ¨ãģ¯ ãģĦ +ãģ¨ãģ¯ãģĦ ãģĪ +ĠاÙĦ Ø·ÙĦ +ĠاÙĦØ·ÙĦ اب +ĠN º +éģ¿ ãģij +اÙĦ Ùħع +اÙĦÙħع رÙĪÙģ +ส à¸łà¸² +éĽ¢ ãĤĮ +ĠпомоÑī ÑĮ +Ġзна еÑĤ +ãĥĹãĥ¬ ãĤ¼ +ãĥĹãĥ¬ãĤ¼ ãĥ³ãĥĪ +Ġsup érieur +Ġש׾ ×Ļש×Ļ +ĠاÙĦÙĨ ÙĪØ¹ +ãĤĵãģ§ãģĻ ãģŃ +à¸Ńà¸ļ รม +Ġgi á»įng +Ġwzgl ÄĻd +ĠاÙĦÙģ ÙĤر +è rent +Ġ×ŀ×IJ ×Ĺ +Ġ×ŀ×IJ×Ĺ ×ķר×Ļ +×Ĵ ×Ĵ +×Ļ ×Ļ×ij +ÙħÙĦ اب +ÙħÙĦاب س +Ġhük ü +Ġhükü met +Ġ×ŀ×Ĵ ×Ļ×ij +ĠÐŀ Ñĩ +ĠÐŀÑĩ енÑĮ +æĹ© ãģĦ +Ġconstr ucción +Ġth ượng +ï¼ ĭ +Ġcor ação +à¹Ģหล à¹ĩà¸ģ +ĠBaÅŁ b +ĠBaÅŁb akan +éĢ£ ãĤĮ +ãģĻãĤĭ ãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ +ĠÙĤ اÙħت +Ġا Ùĥثر +ÙģØ§Ø¹ ÙĦ +ĠÑĦ оÑĢ +ĠÑĦоÑĢ Ñĥм +غ ذÙĬ +ĠiÅŁ le +ĠiÅŁle ml +ĠiÅŁleml eri +ĠìĤ¬ëŀĮ ìĿĢ +Ġìŀij ìĦ± +Ġë§Ī 볨 +Ùħ جÙĦس +หม ู +д в +дв иг +двиг а +à¹Ģสีย à¸Ĭีวิà¸ķ +×Ķת פת×Ĺ +×Ķתפת×Ĺ ×ķת +ĠмеÑĤ ÑĢо +ĠÑģ енÑĤ +ĠÑģенÑĤ Ñı +ĠÑģенÑĤÑı бÑĢÑı +ê³ § +Ġ׾ פע +Ġ×ľ×¤×¢ ×ŀ×Ļ×Ŀ +à¹Ģà¸ļ ีย +詳 ãģĹãģı +çķ° ãģªãĤĭ +Ġİl çe +ĠAt at +ĠAtat ür +ĠAtatür k +รุ à¹Īà¸ĩ +Ġkald ı +Ġ주 ìŀ¥ +Ġprés ence +Ġн аб +Ġнаб лÑİ +ĠнаблÑİ Ð´Ð° +ĠÑģам ого +×Ĵ ×ķש +×ŀ×ĺ ×ķפ +×ŀ×ĺ×ķפ ׾ +ĠвÑĭб иÑĢа +ĠìŀIJ 리 +åĪĨ ãģĭãĤīãģªãģĦ +Ġз Ñĥб +Ġש׼ ×ijר +Ġد ائ +Ġدائ Ùħا +ĠпаÑĢ ÑĤи +ï¼ ² +ĠاÙĬ ضا +ĠÑħ оз +ĠÑħоз Ñı +ĠÑħозÑı й +ĠÑħозÑıй ÑģÑĤв +ĠاÙĦØ£ ج +ĠاÙĦأج ÙĨب +ĠاÙĦأجÙĨب ÙĬØ© +ĠÐĹ Ð½Ð° +ĠAp ós +ĠÑį неÑĢ +ĠÑįнеÑĢ Ð³Ð¸ +Ġy ans +Ġyans ı +ĠJust i +ĠJusti ça +Ġpré vu +ม วล +ìŀ¥ ëĭĺ +à¸ģระ à¸ļ +à¸ģระà¸ļ วà¸Ļ +à¸ģระà¸ļวà¸Ļ à¸ģาร +×ŀ ×ŀ +×ŀ×ŀ ×ķצע +Ġh ẹ +Ġhẹ n +зд ание +Ġak ÅŁ +ĠakÅŁ am +×ĺ ×ķפ +Ġgere kt +Ġgerekt i +Ġgerekti ÄŁini +Ġnar z +Ġnarz ÄĻdzi +é po +épo que +ĠTh ần +Ġwys oko +Ġwysoko ÅĽci +à¸ľà¸¹à¹ī à¸Ľ +à¸ľà¸¹à¹īà¸Ľ à¹Īวย +ĠÙĬ بدÙĪ +ÑĤелÑĮ ного +Ġвз глÑıд +Ġjed nÄħ +ĠìĿĺ 견 +Ġ à¸Ĥà¸ĵะà¸Ĺีà¹Ī +פ ×Ļ×ĵ +ìĥģ ëĭ´ +Ġm ỡ +×Ķ ×ŀ׾ +×Ķ×ŀ׾ צ×ķת +ĠÑģоÑģÑĤ о +ĠÑģоÑģÑĤо иÑĤ +Ġав и +Ġави а +ĠL änder +تص ÙĪÙĬر +×ŀ×ĵ ×Ļ×Ķ +ìłĪ ì°¨ +ãģ¨ ãĤĬ +ãģ¨ãĤĬ ãģĤ +ãģ¨ãĤĬãģĤ ãģĪ +ãģ¨ãĤĬãģĤãģĪ ãģļ +ĠÑĢ Ñıд +ĠÑĢÑıд ом +ĠNh ất +ĠاÙĦÙĥ اÙħÙĦ +×Ĺ׾ ׾ +ĠGi ấy +צ ×ĺר +צ×ĺר ×£ +Ġ׾×ij ×ĺ׾ +Ġим еÑĤÑĮ +ס×ŀ ×ķ×ļ +Ġparticip ação +íķľëĭ¤ ë©´ +ÙħÙĨت دÙĬ +ÙħÙĨتدÙĬ ات +ĠeÄŁ len +g änge +رب ØŃ +ãĤ® ãĥ£ +ĠاÙĦر ÙĤÙħ +à¸ĭ à¹īำ +ĠH óa +×ŀר ×Ĺ×§ +ØŃÙħ اÙħ +بÙĪ Ùĥ +ĠArt ÃŃculo +ãĥĦ ãĤ¢ãĥ¼ +×Ķפ ׼×Ķ +×Ĺ׾ ×ķף +ĠпеÑĢе Ñħод +len miÅŁ +زر اعة +Ġseñ or +ãģ£ãģ¦ ãģįãģ¦ +Ø¥ Ø´ +إش ارة +Ġpod ÃŃa +ĠÃľ lke +н ÑģкаÑı +Ġadapt é +Ġdüzen len +Ġdüzenlen en +ĠÑģÑĤ ала +ĠÙĬ ØŃتاج +Ġn ier +Ġnier uch +Ġnieruch omo +Ġnieruchomo ÅĽci +ãģĵãģ¨ãģĮ ãģĤãĤĭ +ยà¸Ńà¸Ķ à¹Ģยีà¹Īยม +ĠÙħ ج +ĠÙħج اÙĨÙĬ +Ġз аб +Ġзаб ол +Ġзабол ев +Ġзаболев аниÑı +ĠÅĽ ro +ĠÅĽro dk +ĠÅĽrodk ów +Ġ×Ķ ×ľ×IJ×ķ×ŀ×Ļ +Ġdok ÅĤad +ĠdokÅĤad nie +ãģŁãģı ãģªãģĦ +ãģ¯ãģļ ãģ§ãģĻ +ã썿ĢĿ ãģ£ãģ¦ãģĦãģŁ +é cran +ìĹħ ì²´ +trzym aÅĤ +ÑģÑĤв еннÑĭй +ĠNot ÃŃc +ĠNotÃŃc ias +Ùħ رÙĬ +ÙħرÙĬ ض +æ°Ĺ è» +æ°Ĺè» ½ +æ°Ĺ軽 ãģ« +ëĵ £ +Ġ×ĵ ×ķ×IJר +Ġ׾ ×ŀ׳ +Ġ׾×ŀ׳ ×ķ×¢ +ĠçalÄ±ÅŁ ıyor +ĠÅŁ idd +ĠÅŁidd et +ĠM ặt +Ġate ÅŁ +ĠполÑĥÑĩ ениÑı +à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩ มืà¸Ń +Ġgrö ÃŁer +د ائ +دائ رة +Ġbul un +Ġbulun maktadır +à¹Ģห ร +à¹Ģหร ีย +à¹Ģหรีย à¸į +à¸Ļัà¸ģ à¸Ĺà¹Īà¸Ńà¸ĩà¹Ģà¸Ĺีà¹Īยว +Ġalan ında +ĠÑĥ зна +Ġл еÑĩение +売 ãĤĮ +Ġçev ir +Ġdeste ÄŁi +ĠheiÃŁ t +âĸ ² +ØŃ Ø· +à¸Ħำ à¸ķà¸Ńà¸ļ +ãĤªãĥ³ ãĥ©ãĤ¤ãĥ³ +Ġ×ij×Ĺ×Ļ ×Ļ×Ŀ +ãĥ¦ ãĥĭ +Ġdüzenle me +Ġmodal itÃł +سر Ø· +سرط اÙĨ +×ŀ׼ ×ķף +ĠданнÑĭ й +تر ت +ترت ÙĬب +à¸ļาà¸ĩ à¸Ħà¸Ļ +ĠÄIJ á»ĭnh +ม ูล +มูล à¸Ħà¹Īา +ÙĨ ÙĤص +à¸ģาร รัà¸ģษา +ĠÑĦ он +ĠÑĦон д +ãĤĪãģĨ ãģ«ãģªãģ£ãģŁ +Ùħع اÙĦ +ÙħعاÙĦ جة +ĠOs man +ĠOsman lı +иÑĩеÑģк ом +à¸Ńยาà¸ģ à¸Īะ +ãģķãģ¾ ãģĸ +ãģķãģ¾ãģĸ ãģ¾ +ãģķãģ¾ãģĸãģ¾ ãģª +Ġת ×ķ׼׾ +×¢ צ×ij +ĠاÙĦع سÙĥ +ĠاÙĦعسÙĥ رÙĬ +Ġvé hic +Ġvéhic ule +Ġ×Ļצ ×Ĺ×§ +ĠاÙĦÙĪ ØŃ +ĠاÙĦÙĪØŃ ÙĬد +ĠاÙĦع دÙĪ +ĠQu ản +Ġê³µ ëıĻ +بد ÙĦ +ĠÄij ảng +Ġm á»ĩnh +Ġnie zb +Ġniezb ÄĻ +ĠniezbÄĻ dn +Ġyayın lan +обÑī и +Ġgö tür +צ פ +צפ ×ķ×Ļ +ĠÙĦÙĬ بÙĬ +ĠÙĦÙĬبÙĬ ا +ØŃ ÙĪØ§ +Ġд об +Ġдоб ÑĢо +иÑĢÑĥ ем +ĠاÙĦØŃÙĥÙĪÙħ ÙĬØ© +m Ã¤ÃŁig +Ġed ición +влек аÑĤелÑĮ +влекаÑĤелÑĮ н +Ġת ש׾×ķ×Ŀ +Ġ×Ķש ×ķ׳×Ļ×Ŀ +มิ à¸ĸุ +มิà¸ĸุ à¸Ļ +มิà¸ĸุà¸Ļ ายà¸Ļ +é£Łãģ¹ ãģ¦ +ĠìĪĺ ì§ij +ס ×ij×Ļ +ĠиÑİ Ð»Ñı +Ġà¹Ħà¸Ķà¹ī à¹ģà¸ģà¹Ī +׾×Ĺ ×Ŀ +tr ä +trä gt +ãģĿãĤĤ ãģĿãĤĤ +ÐĿ Ðķ +Ġв нÑĥÑĤ +ĠвнÑĥÑĤ ÑĢи +ãģ¨ ä¸Ģç·Ĵãģ« +ãĤ« ãĥķãĤ§ +Ġ×ij×Ĺ ×ĵר +×Ĺ ×ŀש +ãĤ¨ ãĥį +ãĤ¨ãĥį ãĥ« +ãĤ¨ãĥįãĥ« ãĤ® +ãĤ¨ãĥįãĥ«ãĤ® ãĥ¼ +à¸Ĥà¸Ńà¸ĩ à¸ķัวà¹Ģà¸Ńà¸ĩ +بÙĤ اء +פס ×Ļ׼ +פס×Ļ׼ ×ķ׾×ķ×Ĵ +ãĥ¡ ãĥĥ +ãĥ¡ãĥĥ ãĤ» +ãĥ¡ãĥĥãĤ» ãĥ¼ãĤ¸ +ÙĦ ÙĤب +A Äŀ +שק ×Ļ×¢ +ÙĤ ساÙħ +×ĵ×ķ×Ĵ ×ŀ×Ķ +æ·± ãģĦ +íĸĪ ëĬĶëį° +ĠrozwiÄħz anie +à¸Ļัà¹Īà¸Ļ à¹Ģà¸Ńà¸ĩ +×Ļצ ×ij +Ġtr ông +à¹ĥà¸Ĭà¹ī à¸ļริà¸ģาร +ĠاÙĦÙħÙĪ Ø³Ùħ +ĠдеÑĤ и +ãģĹãģĭ ãģªãģĦ +ס ×Ļף +Ġréfé rence +à¹ģห à¹īà¸ĩ +ãĤĤãĤī ãģ£ãģŁ +Ġ׾ ר׼ +Ġ׾ר׼ ×ķש +شع ÙĪØ± +ĠÐij ог +Ġlaz ım +Ġ×Ļש ׳×Ŀ +Ġп аÑĢÑĤ +ĠпаÑĢÑĤ неÑĢ +ĠÑĥ ника +ĠÑĥника лÑĮн +Ġmaté riel +×ŀר ×§ +Ġph ưá»Ŀng +Ġз ай +Ġзай м +Ùģ ÙĤد +Univers itÃł +×¢ ר׼×Ļ×Ŀ +Ġba ño +Ġн оÑı +ĠноÑı бÑĢÑı +à¸Ľ à¹īาย +Ġt ats +Ġtats äch +Ġtatsäch lich +ĠÑĤÑĢ ÐµÑĤÑĮ +Ñį м +ãĥĻ ãĥ¼ãĤ¹ +Ġnh á»±a +ìĬ¤ íģ¬ +ĠعبداÙĦ ÙĦÙĩ +Ġת ×ķר×Ķ +أش ÙĬ +أشÙĬ اء +ĠÙĦÙĦ غا +ĠÙĦÙĦغا ÙĬØ© +Ùħ ÙĪØ§ÙĤ +ÙħÙĪØ§ÙĤ Ùģ +ĠgÅĤówn a +Ġart Ä±ÅŁ +Ġ×ŀ×§ ×ķ×ŀ×Ļ +ãĤ¯ãĥ© ãĥĸ +Ġس ÙĪÙī +ĠìŬ ìĦ± +اس ر +اسر ائÙĬÙĦ +Ġ׳ ×Ľ×ª×ij +ย à¹īà¸Ńà¸Ļ +Ġdeber á +Ġph ẫu +ÑİÑī ем +ĠÙĦدÙĬ ÙĨا +×ŀ×ĺ ×Ķ +Ġ׳ ×ķ׾×ĵ +ĠвÑģÑĤÑĢ ÐµÑĩа +ãĤīãĤĮ ãģ¦ãģĦãģ¾ãģĻ +ĠcaÅĤ ej +ย ึ +ยึ à¸Ķ +поÑĤ ен +поÑĤен ÑĨи +Ġл иÑĤ +ĠлиÑĤ еÑĢ +ĠлиÑĤеÑĢ Ð°ÑĤÑĥÑĢ +Ġкажд ом +ĠíĮ IJ +ĠíĮIJ ëĭ¨ +à¸Ī ู +Ġpres ença +ãģªãĤĵ ãģ§ +Ùħ ÙĬاÙĩ +ин ÑĦоÑĢм +инÑĦоÑĢм аÑĨион +инÑĦоÑĢмаÑĨион н +ĠìŀIJ ìŰ +ר׼ ש +Ġöd ül +ç¶ļ ãģı +Ġп Ñģ +ĠпÑģ иÑħ +ĠпÑģиÑħ олог +ت ذÙĥر +Ġìŀħ ìŀ¥ +ล à¸Ķà¹Į +ìĦł ê±° +ãģ£ãģ¦ ãģĬãĤĬãģ¾ãģĻ +Ġ×Ļ ×¢ +Ġ×Ļ×¢ ×§×ij +ĠاÙĦØ· عاÙħ +ãĥĨ ãĤ¹ãĥĪ +ĠTu ấn +Ġparticip ación +×ŀ×ķ×ŀ ×Ĺ×Ķ +×Ĵר ס×Ķ +ĠاÙĦتÙĨ ÙģÙĬ +ĠاÙĦتÙĨÙģÙĬ ذÙĬ +ĠбезопаÑģ н +ge f +gef ähr +Ø´ ÙĪØ± +Ġmy ÅĽli +ÙĪØ§ Ø´ÙĨ +ÙĪØ§Ø´ÙĨ Ø·ÙĨ +׳×ķס ×¢ +Ùĥ Ùĩ +ÙĥÙĩ رب +ÙĥÙĩرب اء +Ġmus iaÅĤ +ìĭ ¸ +ãĥĸãĥ© ãĥĥãĤ¯ +Ġcré é +ÙĨÙĩ ار +owo ÅĽÄĩ +ÙħØŃا ÙĥÙħ +ĠwÅĤa ÅĽ +ĠwÅĤaÅĽ c +ĠwÅĤaÅĽc iciel +ĠÙĬ ؤ +ĠÙĬؤ دÙĬ +×ŀ×¢ ×ķ׳ +×IJ ×ij׾ +خط Ø£ +ĠÑħ олод +×ĸ ×ķ׾ +ãģĵãĤĮ ãĤī +ãģĵãĤĮãĤī ãģ® +Ġbás ica +ฤ à¸Ķ +ฤà¸Ķ ูà¸ģ +ฤà¸Ķูà¸ģ า +ฤà¸Ķูà¸ģา ล +èIJ½ãģ¡ çĿĢ +ãģªãģĦ ãģĵãģ¨ +ص ÙĪÙħ +ÙĨج ØŃ +׳ק ×ķ×ĵ +׳ק×ķ×ĵ ת +кл аÑģÑģ +íķĺìĭľ ëĬĶ +ëĦ ĺ +Ġש×IJ ×Ļ׳×ķ +ĠС ейÑĩаÑģ +may acaģı +Ġyap ılır +Ġcategor ÃŃa +عب اد +ĠТ еп +ĠТеп еÑĢÑĮ +×Ķ×Ļס×ĺ ×ķר×Ļ +h ế +ãĤ³ ãĥ¼ãĥī +Ġcabe ça +ج Ùħا +جÙħا Ùĩ +جÙħاÙĩ ÙĬر +ä½İ ãģĦ +ĠÑĤоваÑĢ Ð¾Ð² +à¸Ĭาว à¸ļà¹īาà¸Ļ +ĠÑģÑĤан ов +ĠÑģÑĤанов иÑĤÑģÑı +ĠавÑĤом обилÑĮ +ĠÑģлÑĥÑĩ ай +à¸Ńั à¸ŀ +ĠG iriÅŁ +ĠìĿ¼ ëĭ¨ +ĠпÑĢ Ð¾Ñģ +ĠпÑĢоÑģ моÑĤÑĢ +ãģªãģıãģª ãģ£ãģŁ +มี à¸Ľà¸±à¸įหา +ïº İ +éc oute +ĠÙħ ÙĪØ¬ÙĪØ¯ +Ġس رÙĬع +ĠÙĪÙĩ ÙĨا +ĠÙĪÙĩÙĨا Ùĥ +à¸Ħุà¸ĵ สม +à¸Ħุà¸ĵสม à¸ļัà¸ķิ +Ġìļ° ìĦł +à¸ŀระ à¸ŀุà¸Ĺà¸ĺ +好 ãģ¿ +ظ ÙĦÙħ +Ġм акÑģ +ĠмакÑģ ималÑĮ +ĠмакÑģималÑĮ но +ãĥª ãĤ¢ãĥ« +à¹ģมà¹ī วà¹Īา +ĠاÙĦØŃ ÙĪØ§Ø± +ãĥĹãĥ© ãĤ¹ +Ġع ÙĦاÙĤØ© +Ġíĸī ëıĻ +Ġgönder il +Ġl ãi +ĠsaÄŁ lıkl +ĠsaÄŁlıkl ı +ĠÑĪ Ð°Ð³ +Ġ×ij×IJר ×Ķ +prowadzi Äĩ +ãģĦãģı ãģ¤ãģĭ +Ġبت ارÙĬØ® +Ġ×ij×IJ×ķת ×Ķ +Ġmó c +ĠÐľ не +ãĥĹãĥ¬ ãĥ¼ +×IJ ×ĸר×Ĺ +åł´åIJĪ ãģ«ãģ¯ +使 ãģĪ +à¹Ģร ืà¸Ńà¸Ļ +ĠÐŁ еÑĤ +ĠÐŁÐµÑĤ ÑĢ +ãģ«åħ¥ ãĤĭ +Ùħ ادة +à¹Ģà¸ĩ ืà¹Īà¸Ńà¸Ļ +à¹Ģà¸ĩืà¹Īà¸Ńà¸Ļ à¹Ħà¸Ĥ +ĠÑģоÑģÑĤоÑı ние +ôn ica +ĠÑĦ ев +ĠÑĦев ÑĢа +ĠÑĦевÑĢа лÑı +Ġ×ķ ×ĸ +Ġ×ķ×ĸ ×IJת +à¸Ħร ิ +à¸Ħริ ส +ĠÐķ Ñīе +ãģ£ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĹãģŁ +ĠпÑĢав иÑĤелÑĮ +ĠпÑĢавиÑĤелÑĮ ÑģÑĤв +Ġtä glich +Ġëĭ¹ ìĭľ +×ŀ×ķ×¢ ×ŀ×ĵ +Ġдв оÑĢ +æī ķ +æīķ ãģĦ +ĠÑģÑĤан еÑĤ +Ġвозд ейÑģÑĤв +ĠвоздейÑģÑĤв и +Ġf ête +à¹Ģส า +תק ×ķ×ķ×Ķ +Ġu yar +Ġuyar ı +à¸ģลัà¸ļ à¹Ħà¸Ľ +Ġgi ưá»Ŀng +Ġв а +Ġва ÑĪи +ĠÄij áºŃu +ĠSpa ÃŁ +ĠìķĦ ë§Ī +à¹Ħà¸Ķà¹ī à¸ĩà¹Īาย +Ġ×Ķ×ŀ ×ijקש +æĸ° ãģŁ +æĸ°ãģŁ ãģª +ılı yor +пл ан +Ġ×Ķ×ijר ×Ļ×IJ×ķת +ĠaÄŁ rı +Ġsay gı +建 ãģ¦ +Ġnaj wyż +Ġnajwyż sz +سÙĬاس ات +ãģĬ å¾Ĺ +ĠاÙĦع ÙĦÙĬ +ĠاÙĦعÙĦÙĬ ا +Ġcoraz ón +ì¹ĺ ë£Į +หัว à¸Ĥà¹īà¸Ń +Ġب ØŃÙĬ +ĠبØŃÙĬ Ø« +зв езд +بÙĪ Ø§Ø¨Ø© +ÐĽ Ðĺ +ÙĦا زÙħ +Ġroz p +Ġrozp oc +Ġrozpoc zÄĻ +触 ãĤĮ +ĠاÙĦج ÙħÙĩ +ĠاÙĦجÙħÙĩ ÙĪØ± +Ġsp ÄĻd +ĠspÄĻd z +วิà¸Ĺยา ศาสà¸ķรà¹Į +ив аеÑĤÑģÑı +Ġдан ной +Ġreprés ente +ĠÄij á»ĭch +Ġ×¢×ŀ ×ķ×§ +à¸Ńัà¸Ļ à¸ķร +à¸Ńัà¸Ļà¸ķร าย +Ġestr atég +Ġestratég ia +pad ÅĤ +Ġв полн +Ġвполн е +ĠпÑĢедоÑģÑĤав лен +×Ĺ׾ ×ķ×§ +×Ĺ׾×ķ×§ ת +ãĤ¢ ãĥĬ +ĠاÙĦغ ذ +ĠاÙĦغذ ائÙĬ +ĠÑĥ зн +ĠÑĥзн аÑĤÑĮ +à¸ĭ à¹īาย +å½ĵ ãģ¦ +ØŃÙĬ اء +Ġbás ico +×§×ķ×ij ×¢ +ĠاÙĦÙħ باراة +ĠاÙĦÙĩ اتÙģ +Ġ׼ ׳×Ĵ×ĵ +à¸Ľà¸£à¸° หย +à¸Ľà¸£à¸°à¸«à¸¢ ัà¸Ķ +Ðļ ак +à¸Ĺีà¹Ī à¸Ļà¹Īา +à¸Ĺีà¹Īà¸Ļà¹Īา สà¸Ļà¹ĥà¸Ī +ãģ¾ ãģģ +ï½ ¢ +Ñģк оп +Ġson rasında +Ġur zÄħd +ĠurzÄħd zenia +׼×ķ ×ķ׳ +׼×ķ×ķ׳ ת +Ġ׾×Ķת ×ŀ×ķ×ĵ +Ġ׾×Ķת×ŀ×ķ×ĵ ×ĵ +ĠÑģ ли +ĠÑģли ÑĪ +ĠÑģлиÑĪ ÐºÐ¾Ð¼ +ĠÑģÑĤ Ñĥд +ĠÑģÑĤÑĥд енÑĤ +Ġ×Ķ ×ķ×ĵ +Ġ×Ķ×ķ×ĵ ×¢×Ķ +ë¹Ħ ìļ© +à¸Ńยาà¸ģ à¹ĥหà¹ī +Ġb á»ģ +ยุ à¸Ĺà¸ĺ +Ðĺ ÐĿ +س ائر +Ø£ صÙĪÙĦ +ĠاÙĦغ رÙģ +ãģĵãģ¨ãĤĤ ãģĤãĤĬãģ¾ãģĻ +è¾¼ ãģ¾ãĤĮ +ĠاÙĦساب ع +Ġc á»§ +ãģĦãģŁãģł ãģĦãģŁ +ì§ ĵ +ìĤ¬ 무 +powied ź +تÙģ Ùĥ +تÙģÙĥ ÙĬر +иÑĢов ки +ĠíĨµ íķ´ìĦľ +ãĤ¨ ãĤ¹ãĥĨ +ĠдеÑıÑĤелÑĮ ноÑģÑĤÑĮ +ĠданнÑĭ м +Ġ×¢ ×ķר +Ġ×¢×ķר ׼×Ļ +×ķ×ĵ עת +Ġhayat ını +Ġb Äħd +ĠbÄħd ź +obs ÅĤug +à¹Ģà¸ŀียà¸ĩ à¹ģà¸Ħà¹Ī +à¸ĭ à¹Īา +è²ł ãģij +ĠÑģÑĤÑĢ ÐµÐ¼ +ĠÄij á»īnh +ĠÐł ÑĥÑģ +ĠN ữ +Ġ׾×Ķש ×Ļ×Ĵ +Ġjed noc +Ġjednoc ze +Ġjednocze ÅĽnie +Ġ×Ķ×Ĵ ×ij×ķ×Ķ +أخ ÙĦاÙĤ +ĠнаÑģ ел +ĠнаÑģел ениÑı +ĠÙĬ ÙĨب +ĠÙĬÙĨب غÙĬ +ãģĮ ãģĭ +ãģĮãģĭ ãģĭ +×Ĵ עת +Ðŀ Ðł +ĠналиÑĩ ии +Ġë§Ī ì§Ģ +Ġë§Īì§Ģ ë§ī +Ġíĸī ìĤ¬ +Ġtre ÅĽci +Ġê°Ģ ì¹ĺ +ì¦ ĺ +Ġана лог +×Ķצע ת +в лад +влад е +ĠÑģдел ал +Ġ׳ ×Ĵ×Ļש +Ġ׳×Ĵ×Ļש ×ķת +полн ение +à¸Ĩ à¹Īา +ĠD ön +׼׾׼ ׾×Ķ +×ŀ×ĸ ×Ĵ +Ùħ Ùģ +ÙħÙģ Ùĩ +ÙħÙģÙĩ ÙĪÙħ +×Ķ ×ĵ +×Ķ×ĵ פס +×Ķ×ĵפס ×Ķ +ãģĻãģİ ãģ¦ +Ġг ÑĢ +ĠгÑĢ Ð½ +×ŀ×ĺ ×ķס +Ġ기 ìĸµ +ï¾ Ł +ĠpÅĤ yn +ĠGr ünde +ĠBü cher +Ġwed ÅĤug +ãģ¾ãģł ãģ¾ãģł +Ġ׳×Ķ ×ĵר +ĠÙĬست Ø·ÙĬع +ĠHi á»ĩp +ãĤŃãĥ£ãĥ³ ãĥļ +ãĤŃãĥ£ãĥ³ãĥļ ãĥ¼ãĥ³ +Ġth á»ķ +Ġeuropé enne +à¸ļ ัà¸ĩ +à¸ļัà¸ĩ à¸Ħัà¸ļ +ĠszczegóÅĤ owo +׳ שק +ãĥķ ãĥ©ãĥ³ãĤ¹ +×ŀ×ķ×ŀ ×Ĺ×Ļ +Ġcom ún +Ġç arp +ØŃت ÙĬا +ØŃتÙĬا ج +ØŃتÙĬاج ات +ëĭ´ ëĭ¹ +ä½ķ 度 +ä½ķ度 ãĤĤ +×ĵ ×ij×§ +ãģį ãĤĮ +ãģįãĤĮ ãģĦ +Ġк ам +Ġкам еÑĢ +ĠespecÃŃf ico +Ġtel éfono +à¸ķัà¹īà¸ĩ à¸Ńยูà¹Ī +I Åŀ +ãģ© ãĤĵãģ© +ãģ©ãĤĵãģ© ãĤĵ +עצ ×ŀ×IJ×Ļ +à¸Ķัà¸ĩ à¸Ļีà¹ī +ĠÑĦоÑĢм иÑĢов +ĠÑĦоÑĢмиÑĢов а +×ķ×ŀ ×ij +Ġkullan ımı +Ðľ Ðŀ +×¢ ש×Ļ +עש×Ļ ×Ļ×Ķ +Ġön lem +à¹Ģà¸Ń à¹ĩ +à¹Ģà¸Ńà¹ĩ ม +×ŀשק ×Ļ×¢ +ר ×Ļ×Ĺ +à¸Ĥ ัà¸Ķ +ĠíĻ ľ +ĠíĻľ ìļ© +à¸ĭ ะ +ãĤĪãģĨ ãģ«ãģªãĤĬãģ¾ãģĹãģŁ +ĠÑĢаÑģ пÑĢ +ĠÑĢаÑģпÑĢ Ð¾ÑģÑĤ +ĠÑĢаÑģпÑĢоÑģÑĤ ÑĢан +ĠÑĢаÑģпÑĢоÑģÑĤÑĢан ен +׼×Ļ ×ķף +ÙĤب ض +تص رÙĬØŃ +تصرÙĬØŃ ات +Ġо ÑĢи +ĠоÑĢи г +ĠоÑĢиг ина +ĠоÑĢигина л +ĠاÙĦع اÙĦÙĬ +à¹ģหà¹Īà¸ĩ à¸Ļีà¹ī +ãĥķãĤ¡ ãĥ¼ +ãģ¦ãģĦ ãģį +ãģ¦ãģĦãģį ãģŁãģĦ +פ תר +פתר ×ķ׳×ķת +Ġ×ij ×Ļ×Ĺ +Ġ×ij×Ļ×Ĺ ×ĵ +Ġod by +Ġodby ÅĤ +ĠоÑĩеÑĢ ÐµÐ´ +Ġtr ương +ãĤŃ ãĥ³ +×ŀ ×ķפ +×ŀ×ķפ ×¢ +ëĵľ 립 +ëĵľë¦½ ëĭĪëĭ¤ +à¸ŀืà¹īà¸Ļ à¸IJาà¸Ļ +ìŀIJ 격 +ĠVi á»ĩn +ĠDes pués +Ġ×IJ׾ ×Ļ׳×ķ +Ġdur ée +íĩ ´ +Ġmü zik +i ếu +ĠÑĢаз меÑīен +Ġк Ñĥд +ĠкÑĥд а +غ ض +غض ب +ĠTamb ém +à¸Īัà¸Ķ สà¹Īà¸ĩ +à¸ģาร à¹ģสà¸Ķà¸ĩ +onom ÃŃa +Ġан г +Ġанг ли +Ġангли й +Ġанглий Ñģк +Ġzn al +Ġznal az +Ġznalaz ÅĤ +תר ×Ĵ +תר×Ĵ ×ķ×Ŀ +ĠÑģ нов +ĠÑģнов а +ĠÑĩаÑģ а +Ġcommun auté +ĠespecÃŃf ica +ĠL á»ĭch +Ġli é +Ùģ Ø¬Ø± +à¹Ģà¸ģ à¹Īà¸ĩ +ع اÙĦ +عاÙĦ ج +Ø£ÙĨ ظ +Ø£ÙĨظ ÙħØ© +ES İ +ĠاÙĦØŃ دÙĬد +à¸ŀระ à¸Ńà¸ĩà¸Ħà¹Į +Ġפר שת +Ġдв иж +Ġдвиж ениÑı +ĠاÙĦج ارÙĬ +à¸ĺาà¸Ļ ี +неÑģ ен +ĠاÙĦÙĨ ÙĩائÙĬ +Ġб еÑĢ +ĠбеÑĢ ÐµÐ¼ +ĠбеÑĢем енн +Ġdépart ement +à¹Ģà¸Ĺ ีย +à¹Ģà¸Ĺีย à¸ļ +ĠÐľ аÑĢи +ĠнекоÑĤоÑĢ ÑĭÑħ +об еÑģп +обеÑģп еÑĩен +×Ĺ ×ķ×ĸ +×Ĺ×ķ×ĸ ×Ķ +ÙĨت ج +à¸Īะ à¹Ħà¸Ķà¹īรัà¸ļ +á» ° +Ġél éments +ع Ø· +عط اء +Ġt ắt +i á»ĩm +ÑİÑīиÑħ ÑģÑı +ãģĹãģ ° +ãģĹãģ° ãĤīãģı +Ġпом ожеÑĤ +à¸Ĥà¸ĵะ à¸Ļีà¹ī +Ġ×¢ שר×ķת +éģķ ãģ£ãģ¦ +ĠпÑĢ Ð¾Ð³ +ĠпÑĢог н +ĠпÑĢогн оз +Ġt ÅĤ +ĠtÅĤ um +ĠtÅĤum acz +T ür +Tür kiye +ãģį ãģ£ +ãģįãģ£ ãģĭãģij +Ġ×Ķ׳ ×ķ׼ +Ġ×Ķ׳×ķ׼ ×Ĺ×Ļ +ĠìĥĿ ìĤ° +ĠÑĦоÑĢм Ñĭ +ç¾İ ãģĹãģĦ +à¸Ľà¸£ ึà¸ģ +à¸Ľà¸£à¸¶à¸ģ ษา +Ġlum ière +ãĤª ãĥ¼ãĥĹ +ãĤªãĥ¼ãĥĹ ãĥ³ +à¸Ľ ืà¸Ļ +วั สà¸Ķ +วัสà¸Ķ ุ +еÑĢÑĤ в +ÙĥÙĦ Ùģ +ï½ £ +à¸ĺรรม à¸Ķา +׳ ×ĺר +ĠпÑĢедÑģÑĤав лÑıеÑĤ +Ġanál isis +Ġb ãi +با ÙĤÙĬ +à¸Ľà¸£à¸° à¹Ģà¸Ķ +à¸Ľà¸£à¸°à¹Ģà¸Ķ à¹ĩà¸Ļ +ĠÑģлÑĥÑĩ аÑı +ĠÑģлÑĥÑĩаÑı Ñħ +ÐĽ ÐIJ +สัà¸ĩ à¹Ģà¸ģ +สัà¸ĩà¹Ģà¸ģ à¸ķ +Ġprz ec +Ġprzec ież +Ùħ صÙĦ +ÙħصÙĦ ØŃØ© +ש×ķ×§ ×ķ׾×ĵ +ĠобоÑĢÑĥд ованиÑı +Ġtr waÅĤ +رÙĪ Ùħ +ìķĪ ëĤ´ +ĠNgh á»ĭ +Ø® Ø´ +à¸ļา à¸Ħาร +à¸ļาà¸Ħาร à¹Īา +Ġоп ÑĨион +ĠÑģозд аниÑı +ãĤ³ ãĤ¹ãĥĪ +Ġ×Ķ×¢ ׾×Ļ +Ġ×Ķ×¢×ľ×Ļ ×ķף +lä uft +ãĥĻ ãĤ¹ãĥĪ +Ġr ê +Ġrê ve +×IJ ×ij×Ļ×ij +×Ļ ×Ļ×ļ +ë¶ Ļ +ãĤ¤ãĥ³ ãĥī +ÅĤo ży +ÅĤoży Äĩ +ع ائÙĦ +عائÙĦ Ø© +Ø£ ÙĪØ± +Ø£ÙĪØ± اÙĤ +à¸Ĺà¹īà¸Ńà¸ĩ à¸ĸ +à¸Ĺà¹īà¸Ńà¸ĩà¸ĸ ิà¹Īà¸Ļ +Ġä hn +Ġähn lich +ãĥŁ ãĥĭ +à¸ľ ู +à¸ľà¸¹ à¹īà¸Ļ +à¸ľà¸¹à¹īà¸Ļ ำ +ĠмаÑĤеÑĢиал Ñĭ +Ġкап иÑĤ +ĠкапиÑĤ ал +ï¼ ¦ +Ġseç il +Ġh ứng +Ġintéress ant +ãģ£ãģ¦ ãģĦãģı +Ġe ÄŁer +ëIJĺ ìĹĪìĬµëĭĪëĭ¤ +Ġan laÅŁma +ãģĶ åĪ©ç͍ +Ġ×ij ×ĸ׼ +Ġ×ij×ĸ׼ ×ķת +ëĿ¼ ë©´ +ĠÙĬ ÙĪØ³ +ĠÙĬÙĪØ³ Ùģ +أسÙĦ ØŃØ© +ĠGef ühl +ĠноÑĢм алÑĮн +ãĥĻ ãĥ³ +ãģķãĤĮ ãĤĭãģĵãģ¨ +ĠÐij еÑģ +ãģ¨ãģĦ ãģĪãģ° +ĠÙħ ÙĩÙħ +ĠÙħÙĩÙħ Ø© +ãģ§ãģĹãĤĩãģĨ ãģŃ +ĠêµŃ ëĤ´ +à¹Ģม à¹ĩà¸Ķ +×ŀ×ij קר +ĠاÙĦد ÙĨÙĬ +ĠاÙĦدÙĨÙĬ ا +à¸Ĭ ู +к ÑĢÑĥÑĤ +Ġtho áng +Ġ׳ ×ĵר +Ġ׳×ĵר ש +ĠÑĢаÑģÑģ казал +ĠAu ÃŁerdem +פ ×IJר +פ×IJר ×§ +Ġ×ŀש×Ĺ×§ ×Ļ×Ŀ +צ ר׼×Ļ×Ŀ +×ŀ×ĵ ×ķ +×ŀ×ĵ×ķ ×Ļ×§ +èĭ¦ ãģĹ +ĠÑģ иг +ĠÑģиг нал +ĠM á»įi +Ġtr ữ +Ġnast ÄĻp +ĠnastÄĻp nie +Ġì¶Ķ ì§Ħ +ĠاÙĦÙģ ÙĨد +ĠاÙĦÙģÙĨد ÙĤ +koÅĦ czyÅĤ +ส ีà¹Ī +×§ ×Ļ×ij +×§×Ļ×ij ×ķ×¥ +ĠнÑĥж нÑĭ +大 åĪĩ +大åĪĩ ãģª +æıĽ ãģĪ +ת ×ķס +ת×ķס פת +ãģ£ãģ¦ ãģĦãģªãģĦ +Ġм Ñı +ĠмÑı г +ĠмÑıг к +Ġjak ie +Ġjakie ÅĽ +à¸ķำ à¸ļ +à¸ķำà¸ļ ล +ĠìŀĪ ì§Ģ +×ij×ĺ ×IJ +ĠоÑĤлиÑĩ но +ÙĤ ÙIJ +ĠавÑĤом об +ĠавÑĤомоб и +ĠавÑĤомоби лÑı +دÙĬÙħÙĤرا Ø·ÙĬ +ĠاÙĦ ÙĪØ§ +ĠاÙĦÙĪØ§ ØŃد +Ġس ÙĪØ±ÙĬØ© +Ø£ غÙĦ +أغÙĦ ب +ĠÑįк ÑĢан +ãĥĹ ãĥ©ãĤ¤ +Ġjeste ÅĽ +ãĥIJ ãĥª +Ġ×Ķ×IJ ×ķ×ķ×Ļר +ائ Ùĥ +à¸Ńยà¹Īาà¸ĩ ยิà¹Īà¸ĩ +ÑĢ ÐµÐºÑĤ +Ġum o +Ġumo ż +Ġumoż li +Ġumożli w +Ġumożliw ia +Ġnäch ste +ĠìŀĪ ì§Ģë§Į +ĠпÑĢед н +ĠпÑĢедн аз +ĠпÑĢедназ наÑĩен +Ġma çı +Ġp omi +Ġpomi ÄĻd +ĠpomiÄĻd zy +ĠاÙĦÙĦ ÙĤاء +à¹Ģà¸Ķ à¸Ńะ +Ġнов оÑģÑĤи +×ŀ׊׾×Ķ +رÙĬاض ÙĬ +à¸Ķ à¸Ļ +à¸Ķà¸Ļ à¸ķรี +ب صر +ìĬ¤ íĥĢ +scri pción +Ġnap isa +Ġnapisa ÅĤ +Ġ׳ש ×ŀ×¢ +ĠاÙĦÙħØŃ ÙĦÙĬ +Ġhi á»ĥn +×IJ ×Ĺ +×IJ׊ר×IJ×Ļ +Ġг ÑĢаниÑĨ +æīĭ ç¶ļãģį +Ùĥ سب +Ġà¹ģà¸ķà¹Ī à¸ĸà¹īา +à¸Ķาว à¸Ļà¹Į +à¸Ķาวà¸Ļà¹Į à¹Ĥหลà¸Ķ +ãĤĭãģĵãģ¨ãģĮãģ§ãģį ãģ¾ãģĻ +åŁºæľ¬ çļĦãģ« +ÙĪÙĦ اد +rä ume +د ÙģØ§Ø¹ +×Ļצ ×¢ +ĠO czy +ĠOczy wiÅĽcie +ĠÅ ģ +ĠÅģ a +اÙĦÙĬ اب +اÙĦÙĬاب اÙĨ +áºł I +ĠBir liÄŁi +×Ķ ×ķצ +×Ķ×ķצ ×IJת +ĠÄij ua +Ġê·¸ëŁ¬ ëĭĪê¹Į +Ġréal ité +ع ÙĦاÙĤات +J este +Jeste ÅĽ +Ġмн ож +Ġмнож еÑģÑĤво +ï¼ « +ãĥĹãĥŃ ãĤ¸ãĤ§ +ãĥĹãĥŃãĤ¸ãĤ§ ãĤ¯ãĥĪ +ĠÑĦ л +ظ ÙĨ +×Ĵ׾ ×Ĵ׾ +ĠmÅĤod zie +ĠmÅĤodzie ż +à¸Ļà¹īำ à¸ķา +à¸Ļà¹īำà¸ķา ล +ÐĽ Ðķ +×ij ×ķ×ĺ +Ġ׾×Ķ ×Ĵ×Ļ×ĵ +ãģĵãģ¨ãĤĤ ãģĤãĤĭ +ز اد +×ŀ×Ļ×ĵ ×¢ +ĠgÅĤówn ie +ãĥı ãĤ¦ +ãĥıãĤ¦ ãĤ¹ +б ел +Ġét ape +ðŁĺ Ģ +Ġмод елÑĮ +a ģını +ש ×Ĺ×§ +ש×Ĺ×§ ף +Ġni ño +à¸Ĭ à¹īาà¸ĩ +à¹Ģล ีย +ĠÑĦоÑĢм е +ĠاÙĦØ´ رÙĬÙģ +ĠÑĥд аÑĢ +arr iv +arriv ée +Ġmies iÄĻ +ĠmiesiÄĻ cy +ØŃ رÙĥ +ØŃرÙĥ ات +ĠDi á»ħn +ÐĿ Ы +ãģ¾ãģ£ãģŁ ãģı +Ġ×Ļ ×¨×ķ×§ +еÑģÑĤ еÑģÑĤв +еÑģÑĤеÑģÑĤв енн +Ġê·¸ ëŁ¼ +ĠاÙĦÙħ تÙĪ +ĠاÙĦÙħتÙĪ Ø³Ø· +Ġbéné fic +Ġbénéfic ie +Ġwy bra +Ġwybra Äĩ +ĠاÙĦز ÙħÙĨ +ĠпÑĢин Ñı +ĠпÑĢинÑı л +Ù쨱 ØŃ +Ġk sz +Ġksz taÅĤ +ĠksztaÅĤ t +ק׾ ×ĺ +×ij×ĵ×Ļ×§ ת +Ġgi ấ +Ġgiấ c +Ġpropriet Ãł +деÑĢж ан +ĠKö ln +ĠGü zel +×Ļפ ×ķ×Ļ +ĠCu á»Ļc +ÑįÑĤ аж +تر ÙĥÙĬ +ترÙĥÙĬ ز +лож ений +Ġп Ñĥ +ĠпÑĥ ÑĤи +اخت ÙĦاÙģ +åĩºãģ¦ ãģıãĤĭ +à¸ļุ à¸ģ +âĿ ¤ +ÑĦ ан +פש ×ĺ +à¸ļัà¸Ļ à¹Ģà¸Ĺ +à¸ļัà¸Ļà¹Ģà¸Ĺ ิà¸ĩ +ĠاÙĦس اد +ĠاÙĦساد س +ĠاÙĦÙĤ ÙĪÙħ +ĠاÙĦÙĤÙĪÙħ ÙĬ +Ġyönet ici +Ùĩ ÙĪØ§Øª +ÙĩÙĪØ§Øª Ùģ +Ġrespons ável +Ġпод деÑĢжива +ĠاÙĦسÙĦ Ø· +ĠاÙĦسÙĦØ· ات +ãģĹãģ¦ ãģĬãģı +ãĥļ ãĥĥãĥĪ +à¸Ľ ุà¹Īม +Ġogl Äħda +ÙĨا ÙĤ +ÙĨاÙĤ Ø´ +à¸Ħà¸Ńà¸Ļ à¹Ĥà¸Ķ +ĠMü sl +ĠMüsl ü +ĠMüslü man +ĠMo ż +ĠMoż na +Ġnum érique +Ġv á»ı +ĠسÙĬ تÙħ +Ġyer leÅŁ +монÑĤ аж +Ġgo ût +ãģ¦ ãģĬãĤĬãģ¾ãģĻ +ĠKh ánh +Ġе дин +Ġедин ÑģÑĤв +اÙĨ Ø®Ùģ +اÙĨØ®Ùģ Ø§Ø¶ +ìĭľ íĹĺ +Ġl ặng +ĠÑĢ Ð¾Ð»ÑĮ +à¸ķัว à¹ģà¸Ĺà¸Ļ +à¸Ħà¹Īา à¹ĥà¸Ĭà¹ī +à¸Ħà¹Īาà¹ĥà¸Ĭà¹ī à¸Īà¹Īาย +Ġver füg +Ġverfüg bar +ìĻĶ ëĭ¤ +ãģĦ ãģļ +ãģĦãģļ ãĤĮ +ĠиÑģÑģлед ованиÑı +меÑī а +×Ķ ×Ĺ +×Ķ×Ĺ ×ĸר +à¹ģà¸Ł à¸Ĭัà¹Īà¸Ļ +ت صرÙģ +Ø¥ رÙĩاب +Ġexerc ÃŃcio +Ġé lev +Ġélev é +สัà¸įà¸įา à¸ĵ +Ãĸ Z +ãĥĹ ãĥŃãĤ° +ãĥĹãĥŃãĤ° ãĥ© +ãĥĹãĥŃãĤ°ãĥ© ãĥł +Ġw ewnÄĻtrzn +Ġhen üz +é£Ľ ãģ³ +à¹Ģà¸Ķ à¸Ńรà¹Į +Ñģ Ñĥж +ÑģÑĥж ден +شع ÙĪØ¨ +ãģ²ãģ¨ ãĤĬ +Ġwy ÅĤÄħ +ĠwyÅĤÄħ cznie +Ġпло Ñħо +ÐĶ Ðķ +Ạ¦ +Ù쨹 اÙĦÙĬ +ÙģØ¹Ø§ÙĦÙĬ ات +ĠاÙĦع شر +ÑģÑĤÑĥп ил +Ġy arg +Ġyarg ı +нÑİ Ñİ +×ķ×IJ ×ij +Ġu ç +Ġuç ak +ë² ½ +تÙĪ ÙĤÙĬ +تÙĪÙĤÙĬ ع +Ġì¤ij ìĭ¬ +׳×Ļ×ķ ×ķ×ĺ +Ø£ ÙĥÙĦ +ç½® ãģĦãģ¦ +éłĤ ãģį +Ġ×Ķת ×ij +Ġ×Ķת×ij ×Ļ×¢×Ķ +Ġdür fen +Ùħ ÙĤاÙĦ +ÙħÙĤاÙĦ ات +Ġز ÙħÙĨ +à¸ŀฤ ศ +à¸ŀฤศ à¸Ī +à¸ŀฤศà¸Ī ิà¸ģ +à¸ŀฤศà¸Īิà¸ģ ายà¸Ļ +ĠнеÑģк олÑĮ +ĠнеÑģколÑĮ ки +ĠнеÑģколÑĮки Ñħ +Ġcrian ça +มิ à¸ķร +×ŀ׼ ×Ļר×ķת +à¸ģาร à¸ļริหาร +Ġtélé charg +Ġ×IJ×ķ×Ķ ×ijת +ĠBü ro +ä½ľ ãģ£ãģŁ +ĠKi ÅŁi +ç¾İåij³ ãģĹ +à¹Ģลย à¸Ħà¹Īะ +à¸ŀà¸ļ à¸ģัà¸ļ +à¸Ī à¹īา +Ġç er +Ġçer ç +Ġçerç eve +ãĤĴä½ľ ãģ£ãģ¦ +ĠпеÑĢв ÑĥÑİ +×ŀצ ר×Ļ×Ŀ +×IJ׾ ×ķ×Ķ +×IJ׾×ķ×Ķ ×Ļ×Ŀ +Ġagr é +Ġagré able +Ġay ır +İL İ +ãĤ ¥ +Ġíĺ Ħ +ĠíĺĦ ìĭ¤ +ثاÙĦ Ø« +ת ×ĸ +ת×ĸ ×ķ׳×Ķ +ãģ¨ãģĦ ãģ£ãģ¦ +ãģ¨ãģĦãģ£ãģ¦ ãĤĤ +Ġا بÙĪ +ĠÑģоб ак +é£Łãģ¹ ãģŁ +Ġдан ном +à¹Ģล ิ +à¹Ģลิ ศ +Ġí ļ +Ġíļ ¨ +Ġíļ¨ ê³¼ +ãĤĤãĤī ãģĪãĤĭ +׳ צ׾ +ÑĦ ик +ÑĦик Ñģ +Ġjeste ÅĽmy +ת×Ĺ×ķש ×Ķ +à¹Ħมà¹Ī à¸Ħวร +ĠØŃ سÙĬÙĨ +à¸ģาร ลà¸ĩà¸Ĺุà¸Ļ +ë´ ¤ +ĠÐĺ менно +à¸ļ à¸Ńรà¹Į +à¸ļà¸Ńรà¹Į à¸Ķ +ĠC ảnh +ìĦľ ë¹ĦìĬ¤ +Ġпол ов +Ġполов ин +Ġзам еÑĩа +ãģĦãĤį ãĤĵãģª +Ġ×ij ×Ļ×§ +Ġ×ij×Ļ×§ ש +л ÑĥÑĪ +ãĤĴ è¿İ +ãĤĴè¿İ ãģĪ +جرÙĬ ÙħØ© +Ġt ây +ĠاÙĦÙĨ ÙĪ +ĠاÙĦÙĨÙĪ ÙĪÙĬ +ÃĤ N +ì¿ ł +หà¸Ļ าว +Ġ×ij׊ש×ij×ķף +ز ار +à¸Ķ าร +à¸Ķาร า +ĠÅĽ l +ĠÅĽl ub +มีà¸Ħวาม สุà¸Ĥ +Ġn hu +Ġnhu áºŃn +ÙħØŃ طة +à¹Ģสืà¹īà¸Ń à¸ľà¹īา +ĠТ олÑĮко +ĠÙĥ س +ĠÙĥس ارة +ÙħØ´ رÙĪØ¹ +niÄĻ cia +×¢ ׼ש×Ļ×ķ +ت ÙĦÙģ +تÙĦÙģ Ø²ÙĬ +تÙĦÙ쨲ÙĬ ÙĪÙĨ +Ġl Æ°á»Ľi +ĠÐľÐ¾Ñģк вÑĭ +Ġré serve +Ġan laÅŁ +ĠanlaÅŁ ıl +Ġed eceÄŁi +รà¸Ńà¸ĩ à¹Ģà¸Ĺà¹īา +Ġب Ø· +Ġبط رÙĬ +ĠبطرÙĬ ÙĤØ© +ãģ¦ãģĹãģ¾ ãģ£ãģ¦ +ãĤĤãĤī ãģ£ãģ¦ +بر ج +æ± ļ +æ±ļ ãĤĮ +Ġch oc +Ġchoc ia +Ġchocia ż +Ġzob ac +Ġzobac zyÄĩ +пÑĢ Ñı +пÑĢÑı жен +ĠÑĨ иÑĦ +ĠÑĨиÑĦ ÑĢ +Ġм ам +Ġвз ÑıÑĤÑĮ +Ġch ạm +ج سÙħ +ØŃÙħ اس +à¹Ģล à¹Īม +à¸ŀิ ษ +×Ķפ ׼×ķ +à¸Ĭà¹Īà¸Ńà¸ĩ à¸Ĺาà¸ĩ +Ġв ек +Ġвек а +Æ¡ Ìģ +Æ¡Ìģ i +ĠTi á»ģn +Ġtr ầm +мÑĭ ÑĪ +мÑĭÑĪ Ð» +ĠÑĤ Ñĥ +ĠÑĤÑĥ ÑĢиÑģÑĤ +Ġch c +Ġchc Äħ +Ġав г +Ġавг ÑĥÑģÑĤ +ĠавгÑĥÑģÑĤ а +ס ×IJ×ķת +Ġר ×Ĵ׾ +à¸ľà¸¥ à¸ģระà¸Ĺ +à¸ľà¸¥à¸ģระà¸Ĺ à¸ļ +å¤īãĤı ãĤĭ +Ġ×Ķ×IJ×Ĺר ×ķ׳×Ļ×Ŀ +سÙģ ÙĬر +ĠÑĩа Ñīе +ãģĦ ãĤī +ãģĦãĤī ãģ£ +ãģĦãĤīãģ£ ãģĹãĤĥ +×ķ×ŀ ׳×Ļ×Ŀ +Ġart tır +ĠCh á»ĭ +Ġì¡° ì§ģ +ĠÑĥÑģп еÑħ +Ġ×¢ ×ķס +Ġ×¢×ķס ×§ +ĠìĥĿ ëªħ +ÑĨ иÑĤ +Ġreg ión +Ðŀ ÐĿ +ĠdoÄŁ um +ĠyaÅŁ ad +ĠyaÅŁad ıģı +à¸Ĺà¸Ķ ลà¸Ńà¸ĩ +Ġgöz ü +ש ×Ļר×Ķ +дÑĥм ал +Ġda ģı +Ġdaģı t +à¸Ĺีม à¸ĩาà¸Ļ +Ġti á»ģm +ĠاÙĦÙĥ بر +ĠاÙĦÙĥبر Ùī +ì¹ Ń +ĠGü nc +ĠGünc elle +ĠGüncelle me +ê¹ Ĭ +ĠобоÑĢÑĥд ование +ĠÑĢеÑĪ Ð° +á» ¤ +Ġп иÑĤ +ĠпиÑĤ аниÑı +à¹Ģรีย à¸ļ +×Ľ×ª ×Ļ×ij×Ķ +Ġп он +Ġпон ÑĢав +ĠпонÑĢав и +Ġ×Ķ ×ķ׾×ĵ +Ġ×Ķ×ķ׾×ĵ ת +Ġê² ģ +Ġê²ģ ëĭĪëĭ¤ +ĠпеÑĢв ой +ãĥ©ãĤ¤ ãĥķ +ĠÅŁi ir +kr ÄĻ +krÄĻ c +Ġthi á»ĥu +à¹Ģลย à¸Ĺี +à¹Ģลยà¸Ĺี à¹Ģà¸Ķียว +×ĺ×¢ ׳×ķת +ائ ÙĩÙħ +Ġ×IJ ס×ķר +ĠплаÑĤ еж +تر دد +Ġmożli we +Ġkh Ỽ +ĠkhỼ p +تÙģØ§Ø¹ ÙĦ +ĠÑĪ ÐºÐ¾Ð»ÑĮ +ĠÑĪколÑĮ н +ĠÙĤ صة +Ġmét ier +nÄĻ ÅĤa +หล à¹Īà¸Ń +Ġ á»§ng +Ġprz egl +Ġprzegl Äħd +ĠاÙĦÙħ تعÙĦ +ĠاÙĦÙħتعÙĦ ÙĤØ© +ĠÑģÑĭ н +Ġв олн +ãĥĩ ãĥ¼ãĥĪ +ĠÐŃ ÑĤи +Ġк ÑĢоме +à¸Ħ ารà¹Į +׳ק ×ķ×ĵ×Ķ +Ġ׾ש×ŀ ×ķ×¢ +Ġ×ĸ ×ķ׼ר +ï¼ § +ÙĬ ÙİØ§ +Ġgi á»ıi +åĥį ãģı +ĠÑģ ни +ĠÑģни жен +à¹ģà¸Ķ à¸Ķ +รุ à¸Ļ +รุà¸Ļ à¹ģรà¸ĩ +Ġhi á»ĩp +ograf ÃŃa +à¹Ģà¸Ī à¸Ńรà¹Į +Ġдв иг +Ġдвиг аÑĤ +ĠдвигаÑĤ ел +Ġü y +Ġüy eler +Ġüyeler i +Ġб Ñĥк +ĠбÑĥк в +ãĤĤ å¤ļãģı +Ġthi á»ĩt +ĠPa ÃŃs +ĠØ· بÙĬعÙĬ +à¹ģà¸Ī à¸ģ +ĠاÙĦص ØŃÙĬØŃ +Ġapp ré +Ġappré ci +Ġdecis ión +Ġë°ĺ ëĵľ +Ġë°ĺëĵľ ìĭľ +ĠÑĤеб е +ãĤ· ãĥ¼ãĤº +ãĤ·ãĥ¼ãĤº ãĥ³ +Ġд алÑĮн +ĠìĬ ¤ +ĠìĬ¤ ìĬ¤ +ĠìĬ¤ìĬ¤ ë¡ľ +ĠTh á»ĥ +Ġkar ÅŁ +ĠkarÅŁ ıs +ĠkarÅŁÄ±s ında +ĠK ön +ĠKön ig +ив ание +×ij ×ķצע +г лаÑģ +Ġtw ó +Ġtwó rc +à¸Ľà¸ģ à¸Ħร +à¸Ľà¸ģà¸Ħร à¸Ńà¸ĩ +ĠG ÅĤ +ĠGÅĤ ówn +ĠUnter stüt +ĠUnterstüt zung +Ġд ÑĥÑħ +ĠдÑĥÑħ ов +Ø£ ÙħاÙĨ +×Ĺש ש +ت ظ +تظ اÙĩر +ĠлÑİб ом +à¸ķ าร +à¸ķาร าà¸ĩ +Ġkr ól +Ø£ ØŃدث +ì¡Į ëĭ¤ +Ðļ ÑĥÑĢÑģ +ãĥĥ ãĥĦ +×ŀ×§ ×ķ×ij׾ +ĠÑģимв ол +Ġdés orm +Ġdésorm ais +w üns +wüns che +Ñĥ ни +Ñĥни ÑĨип +ÑĥниÑĨип алÑĮн +หลัà¸ģ สูà¸ķร +ÙĨت شر +Ġа л +Ġал к +Ġалк ог +Ġалког ол +ĠÑĥ ÑĩиÑĤÑĭва +à¸ģำ à¸ģัà¸ļ +Ġ׾ פע×ķ׾ +ĠìŰ ê²° +s Äħd +ĠاÙĦØ£ ÙĬ +ĠاÙĦØ£ÙĬ اÙħ +غÙĬ اب +Ġна ÑĢ +ĠнаÑĢ ÐºÐ¾ +×ŀ×ķ×ĵ ×¢ +ĠÑģеÑĢ Ð¸Ð¸ +пиÑģ Ñĭва +สิ ว +ç¶ļ ãģĦãģ¦ +çͳãģĹ è¾¼ãģ¿ +Ġ׾ ×Ĵר +Ġ׾×Ĵר ×ķ×Ŀ +Ġд ем +Ġдем о +Ġë³´ ëĤ´ +تÙĩ دÙĬد +ĠÙħØ´ ÙĬرا +Ġdu y +Ġduy á»ĩt +ĠwiÄĻks ze +Ùħع اÙĬ +ÙħعاÙĬ ÙĬر +ĠG da +ĠGda ÅĦsk +Ġr ah +Ġrah ats +Ġrahats ız +ר ×ķצ×Ķ +l ös +lös ung +ĠТак им +ÑĪ ÐµÐ´ +ÑĪед ÑĪ +ع زÙĦ +Ġרש ×Ļ×ŀת +Ġ׾×Ķ ×Ļ׼ +Ġ׾×Ķ×Ļ׼ ×ł×¡ +Ġп ÑĥÑĤ +ĠпÑĥÑĤ еÑĪ +ĠпÑĥÑĤеÑĪ ÐµÑģÑĤв +Ġnot ÃŃcia +Ġal Ä±ÅŁ +ĠalÄ±ÅŁ ver +ĠalÄ±ÅŁver iÅŁ +ĠwÅĤ os +ĠwÅĤos ów +Ġب غ +Ġبغ داد +Ġver öffent +Ġveröffent licht +ĠKh á +Ġt án +ëIJĺ 기 +Ġë°© 문 +Ùģ ÙĬÙĦ +à¹Ģà¸ģิà¸Ķ à¸Īาà¸ģ +åı¯ æĦĽ +åı¯æĦĽ ãģĦ +à¸ĸ ุà¸ĩ +Ġz ewnÄĻtrzn +à¸łà¸²à¸©à¸² à¸Ńัà¸ĩà¸ģฤษ +Ġmá xima +Ġul us +Ġulus lararası +Ġ׳×Ķ ×ł +à¸Ĥà¹Īาว สาร +ĠìĿĺ ìĤ¬ +à¹Ģหล ืà¸Ńà¸ĩ +Ġد ÙĤ +ĠدÙĤ ائÙĤ +สืà¹Īà¸Ń สาร +ë¨ ¼ +ĠÑģоÑģÑĤоÑı нии +สมา à¸Ħม +á» Ĥ +ĠÐľÐ¾Ñģ ков +ĠÐľÐ¾Ñģков Ñģк +×ŀס ×ķ×Ĵ׾ +ãģĭ ãģĭãĤĬ +ĠTr uyá»ģn +à¹ģà¸Ĥà¹ĩà¸ĩ à¹ģรà¸ĩ +×ŀ×Ĺ ×ĸ×Ļ×§ +à¹Ĥà¸ģ à¹ī +ÙĬس ر +ìĶ © +×IJ ×ķ×§ +×IJ×ķ×§ ×ĺ +×IJ×ķ×§×ĺ ×ķ×ijר +Ġprox imité +ÙħÙĨ Ùĩج +ĠاÙĦج ز +ĠاÙĦجز ائ +ĠاÙĦجزائ رÙĬ +ĠÄIJi á»ĥm +Ġден еж +Ġденеж н +ÙģØŃ ص +Ùģ Ø¦ +ĠÐij Ñĥд +×Ĵ×Ļ×ĵ ×ķ׾ +ĠÐĴ едÑĮ +عÙĦ اÙħØ© +Ġ×IJ×Ĺר ×ķ׳×ķת +ãģĦãģŁãģł ãģĦãģ¦ +سÙĦ ØŃ +ØŃ ÙĦÙħ +ز ÙĪØ§Ø± +Ùĥ سر +×ĺ קס +Ġб ан +Ġбан ков +ĠпÑĢ Ð¾Ð¶ +ĠпÑĢож ива +li wo +liwo ÅĽci +ĠTi ếp +ĠاÙĦÙħÙĨ اسب +ĠاÙĦØ® ÙĬار +ãģĬ ãģĭ +ãģĬãģĭ ãģĴ +à¸Ķà¸Ńà¸ģ à¹Ħมà¹ī +ä mp +ämp fe +à¸ķัà¹īà¸ĩ à¹ĥà¸Ī +Ġза ÑīиÑĤ +ĠзаÑīиÑĤ Ñĭ +ĠTh ưá»Ŀng +Ġص Ùģ +ĠصÙģ ØŃØ© +×Ĺ×ķר ×£ +ãĥIJ ãĥĥãĤ° +Ġ×ĵ ×Ļ×Ĵ +Ġ×ĵ×Ļ×Ĵ ×Ļ×ĺ +Ġ×ĵ×Ļ×Ĵ×Ļ×ĺ ׾×Ļ +Ġ×Ķ×Ĺ ×ķ׾×Ļ×Ŀ +в еÑī +веÑī а +Ġк ÑĥлÑĮÑĤ +ĠкÑĥлÑĮÑĤ Ñĥ +ĠкÑĥлÑĮÑĤÑĥ ÑĢÑĭ +ĠاÙĦاÙĨ ترÙĨت +Ġhö ch +Ġhöch st +Ġíĺ ķ +Ġíĺķ íĥľ +Ġв ой +Ġвой нÑĭ +ÐĽ Ðŀ +ìĭł ìļ© +Ġ×ŀ×ij ×ķס +Ġ×ŀ×ij×ķס ס +×ŀ׳ ×Ļ×¢ +Ġfiyat ı +ĠÑģл Ñĥж +ĠÑģлÑĥж бÑĭ +à¸Ĺั ศ +à¸Ĺัศ à¸Ļ +ãģĵãģ¨ãģĮ å¤ļãģĦ +Ġ×Ķ×ŀש ת +Ġ×Ķ×ŀשת ×ŀש +å¯Ħ ãģĽ +×ŀש׾ ×ķ×Ĺ +æĻĤ çĤ¹ +æĻĤçĤ¹ ãģ§ +à¸ŀร ี +à¸ŀรี à¹Ģมีย +à¸ŀรีà¹Ģมีย รà¹Į +à¸ŀรีà¹Ģมียรà¹Į ลีà¸ģ +Ġdiffic olt +Ġdifficolt Ãł +ãĥ¬ ãĤ¹ãĥĪ +ãĥ¬ãĤ¹ãĥĪ ãĥ©ãĥ³ +สม à¹Ģà¸Ķà¹ĩ +สมà¹Ģà¸Ķà¹ĩ à¸Ī +Ġж ид +Ġжид к +Ġzu peÅĤ +ĠzupeÅĤ nie +ĠÙħ جر +ĠÙħجر د +ãģĮ å§ĭ +ãģĮå§ĭ ãģ¾ +ãĤŃãĥ£ ãĥ© +Ġ×IJ ×ķ×ķ×Ļר +ãģĬ äºĴ +ãģĬäºĴ ãģĦ +Ġpot rÃł +ĠPa ÅĦst +ĠPaÅĦst wo +Ġب ÙĬاÙĨ +ĠبÙĬاÙĨ ات +Ġин огда +ĠÑĢ Ð° +ĠÑĢа ÑģÑĤв +ĠÑĢаÑģÑĤв оÑĢ +Ġ×ĸ ×ŀ׳ +ยิ à¹īม +Ä Ĩ +ãģ¾ ãģķ +ãģ¾ãģķ ãģ« +ãĥķãĤ¡ ãĤ¤ãĥ« +Ġgörd Ã¼ÄŁÃ¼ +สà¸ĩ à¸Ħร +สà¸ĩà¸Ħร าม +ĠArk adaÅŁ +ĠrozwiÄħz ania +×ŀ ×ķ×ĺ +pi ÄĻ +piÄĻ t +ص غر +ส ย +สย าม +ãĤĨ ãģ£ãģıãĤĬ +Ġtr ần +Ġeconom ÃŃa +Ġgeh ören +ãĤ·ãĥ§ ãĥ¼ +ĠsÅĤ ucha +à¸ŀà¸Ń à¹ĥà¸Ī +ĠоÑĤмеÑĤ ил +ÙĨت ÙĤÙĦ +Ġprop ósito +ĠваÑĪ ÐµÐ³Ð¾ +Ġnh ắn +à¹ģà¸ĸ ว +Ġком иÑģ +ĠкомиÑģ Ñģи +waż nie +Ġy avaÅŁ +×ŀ ×Ļ×§ +×ŀ×Ļ×§ ×ķ×Ŀ +ש×IJ׾ ת +Ġyıll arda +ĠÐ ® +ĠЮ ÑĢ +×ł×¡ ×Ļ×ij×ķת +ת צ +תצ ×ķ×Ĵ +Ġод нÑĥ +Ġ à¸Ńยà¹Īาà¸ĩà¹Ħร +Ġà¸Ńยà¹Īาà¸ĩà¹Ħร à¸ģà¹ĩà¸ķาม +ëģ ¼ +à¹Ħล à¹Ī +تس ÙĦÙĬÙħ +بÙĦ اغ +Ġì ī +Ġìī ½ +Ġìī½ ê²Į +ãĥļ ãĥ³ +зв ÑĥÑĩ +ĠW äh +ĠWäh rend +Ġ×Ļ ×Ļת +Ġ×Ļ×Ļת ׼ף +Ġkh uyên +Ġv ẽ +Ġа меÑĢ +ĠамеÑĢ Ð¸Ðº +ĠамеÑĢик ан +ĠамеÑĢикан Ñģк +ع جب +ãĥĽãĥ¼ãĥł ãĥļãĥ¼ãĤ¸ +Ġник ÑĤо +ĠÙĤ Ùİ +ĠÙĤÙİ Ø§ÙĦ +ĠÙĤÙİØ§ÙĦ Ùİ +ÐIJ ÐĹ +Ùħ جÙħÙĪØ¹ +ÙħجÙħÙĪØ¹ ات +Ġnecess itÃł +Ġpob li +Ġpobli żu +Ġph ấn +ĠСо обÑī +ÙħÙĤ اط +ÙħÙĤاط ع +Ġ×Ķצ ×ķר×ļ +la ÅŁtırma +ว ิà¸Ķ +วิà¸Ķ ี +วิà¸Ķี à¹Ĥà¸Ń +Ġ그리 ìĬ¤ +Ġ그리ìĬ¤ ëıĦ +ãĤ¿ãĤ¤ ãĥŁ +ãĤ¿ãĤ¤ãĥŁ ãĥ³ãĤ° +×§×ĺ ×Ĵ×ķר +×§×ĺ×Ĵ×ķר ×Ļ×Ķ +Ġ×Ĺ ×ķפ +Ġ×Ĺ×ķפ ש×Ļ +Ø£ جر +Ġим ени +ĠÑĢан ее +à¹Ģà¸ŀืà¹Īà¸Ńà¸Ļ à¹Ĩ +ĠJes ús +Ñģо един +Ñģоедин ен +Ġר ×Ĺ×ķ×§ +à¹Ĥà¸ļ รา +à¹Ĥà¸ļรา à¸ĵ +ĠH Æ¡n +Ġth áºŃp +تع ÙĬÙĬÙĨ +Ġtart Ä±ÅŁ +ĠtartÄ±ÅŁ ma +ĠGes pr +ĠGespr äch +תר ×ķפ +תר×ķפ ×ķת +Ġcat égorie +Ġоказ Ñĭва +ĠналиÑĩ ие +Ġprésent é +Ġk ull +Ġkull and +Ġkulland ı +Ġü nl +Ġünl ü +ĠÙģ Ùĥرة +из аÑĤоÑĢ +×IJ ×ķ׳ +×IJ×ķ׳ ×Ļ×ij +×IJ×ķ׳×Ļ×ij רס +×IJ×ķ׳×Ļ×ijרס ×Ļ×ĺת +ĠÑĢаÑģÑģ маÑĤ +ĠÑĢаÑģÑģмаÑĤ ÑĢ +ĠÑĢаÑģÑģмаÑĤÑĢ Ð¸Ð²Ð° +تÙĥÙĦ Ùħ +Ùĥت رÙĪ +ÙĥترÙĪ ÙĨÙĬ +ĠÑģо ÑĩеÑĤ +ĠÑģоÑĩеÑĤ а +ãĤĴè¦ĭ ãģĽ +Ġng ừa +ĠÐł еÑģп +ĠÐłÐµÑģп Ñĥб +ĠÐłÐµÑģпÑĥб лик +ãĤ¦ ãĤ© +ãĤ¦ãĤ© ãĥ¼ +ĠÐľ еждÑĥ +ĠìŀĪ ê²Į +Ġm â +ĠìļĶ ì²Ń +ض ار +ลุ à¹īà¸Ļ +ëĮĢ íķĻêµIJ +×ĸ ×Ļ׼ +×ĸ×Ļ׼ ר×ķף +ãĤ¹ ãĥļ +ãĤ¹ãĥļ ãĥ¼ãĤ¹ +ĠкÑĢаÑģ оÑĤ +ï¼ ¨ +ê¼ Ń +ãĤĴ éĽĨ +ãĤĴéĽĨ ãĤģ +ë° Ŀ +Ġ×Ķ׳ ×IJ +Ġ×Ķ׳×IJ ש×Ŀ +Ġê°Ģ ìļ´ +Ġê°Ģìļ´ ëį° +تÙĥÙĦ Ù쨩 +ĠØŃ ÙĤÙĬÙĤÙĬ +Ġh alk +Ġhalk ın +ÑİÑī ÑĥÑİ +ĠÑģп ин +סר×ĺ ף +ĠпеÑĢв ого +Ġпол ож +Ġполож иÑĤелÑĮн +Ġд л +Ġдл иÑĤелÑĮн +ĠV Ä©nh +ê´ ´ +ĠÑģÑĭ ÑĢ +ĠíĨµ íķĺìŬ +ë³ij ìĽIJ +à¹Ĥรà¸ĩ à¸ĩาà¸Ļ +รัà¸ļ à¸ľà¸´à¸Ķ +รัà¸ļà¸ľà¸´à¸Ķ à¸Ĭà¸Ńà¸ļ +تج ÙĨب +s ÅĤ +sÅĤ uch +ãĤ¢ãĥ« ãĥIJ +ãĤ¢ãĥ«ãĥIJ ãĥł +ëī´ ìĬ¤ +Ġpat ië +Ġpatië nt +Ġìĺ ¤í +Ġìĺ¤í ŀ +Ġìĺ¤íŀ Ī +Ġìĺ¤íŀĪ ëł¤ +ĠDer ne +ĠDerne ÄŁi +wró ci +wróci Äĩ +Ġоб Ñī +ĠобÑī еÑģÑĤв +ĠобÑīеÑģÑĤв енно +ĠêµIJ ìĪĺ +tıģ ımız +Ġ×Ķ×ŀש ×Ļ×ij +k örper +Ġпозв ол +Ġпозвол иÑĤ +ĠChi ến +أخ ÙĪ +ĠAy dın +à¸Ķà¹īาà¸Ļ ล +à¸Ķà¹īาà¸Ļล à¹Īาà¸ĩ +Ġdr u +Ġdru ż +Ġdruż yn +Ġë°ľ íijľ +ĠTh ảo +جÙĩ اد +à¸ģระà¸Ĺ ูà¹ī +Ġк ÑĢов +ĠкÑĢов и +Ġiçer ik +Ġnad zie +Ġnadzie jÄĻ +ĠС моÑĤÑĢ +Ġph ức +ج تÙħاع +جتÙħاع ÙĬØ© +ком пон +компон енÑĤ +Ġб ил +Ġбил еÑĤ +ãĥIJ ãĥ³ãĥī +ĠPol ÃŃcia +اÙĦ تÙĩ +اÙĦتÙĩ اب +ØŃر Ùģ +ت خط +تخط ÙĬØ· +ãĤ³ ãĥ¼ãĥ +ãĤ³ãĥ¼ãĥ Ĵ +ãĤ³ãĥ¼ãĥĴ ãĥ¼ +・・ ï½¥ +à¸ĭ à¸Ńย +Ġcréd it +è²· ãģ£ãģŁ +ĠпоÑĢ Ñıд +ĠпоÑĢÑıд ке +Ġph ó +Ġw ida +Ġwida Äĩ +جر ائÙħ +à¸ľ ี +ĠbÄĻd ÄĻ +Ġ×ŀ פת×Ĺ +ãĥij ãĥ¼ãĥ +ãĥijãĥ¼ãĥ Ĩ +ãĥijãĥ¼ãĥĨ ãĤ£ +ãĥijãĥ¼ãĥĨãĤ£ ãĥ¼ +ĠKa ż +ĠKaż dy +ĠнеобÑħодим оÑģÑĤи +à¸Ł à¸Ńรà¹Į +à¸Łà¸Ńรà¹Į ม +Ġмал ÑĭÑĪ +Ġпл оÑĤ +ĠÑĥ ÑģÑĤÑĢой +ĠÑĥÑģÑĤÑĢой ÑģÑĤва +à¸ĸ à¸Ńà¸Ļ +ĠoluÅŁtur ul +ĠÅĽwi ad +ĠÅĽwiad om +Ùħع Ùĩد +ĠпÑĢоиз веден +Æ ł +ר ×Ļש +Ùħست Ø« +Ùħستث Ùħر +׳×Ļ ×Ļר +pa ñ +Ġ; -) +Ġë°ľ 견 +Ġgör üyor +Ùħؤ ÙĦÙģ +ĠÄIJ á»ģ +ĠاÙĦÙĨ ÙĪØ§Ø¨ +×Ĺ×§ ×Ļר×Ķ +Ġm á»ıi +è¿° ãģ¹ +ÐĿ ик +ìŀĸ ìķĦ +ìŀĸìķĦ ìļĶ +prowadzi ÅĤ +l óg +lóg ica +פס ×ĺ +פס×ĺ ×Ļ×ij׾ +Ġ×ŀ ×ĵ×Ķ +Ġ×ŀ×ĵ×Ķ ×Ļ×Ŀ +ãģĵãģĵ ãģ¾ãģ§ +×Ķ ×ª×Ĺ +×Ķת׊׾×Ķ +Ġפ ×ķס +Ġפ×ķס ×ĺ×Ļ×Ŀ +Ġн ев +Ġнев оз +Ġневоз можно +ĠdostÄĻp ny +Ġغ اÙĦ +ĠغاÙĦ ب +Ġbez pieczeÅĦst +ĠbezpieczeÅĦst wa +åĪĨ ãģĭãĤĭ +ĠF ührung +à¸ģ ีà¹ī +gem Ã¤ÃŁ +à¸Ĭà¹Īวà¸ĩ à¹Ģวลา +Ġìļ°ë¦¬ ëĤĺ +Ġìļ°ë¦¬ëĤĺ ëĿ¼ +ãģ¥ ãģıãĤĬ +ĠاÙĦÙħ سÙĦ +ĠاÙĦÙħسÙĦ ØŃØ© +Ġlibert é +клÑİÑĩ ение +Ġzam ów +Ġzamów ienia +รà¸ĸ à¹Ħà¸Ł +Ø£ ÙģÙĦ +Ø£ÙģÙĦ اÙħ +Ùħ راج +Ùħراج عة +Ġë¹Ħ êµIJ +ĠاÙĦت اب +ĠاÙĦتاب عة +Ġë§Į ëĤĺ +Ġб Ñĥм +ĠбÑĥм аг +Ġgé nero +Ġìŀĺ 못 +×ŀ פ×ķר×ĺ +è²·ãģĦ çī© +ĠÙĦدÙĬ Ùĥ +Ġ×ľ×¢ ×Ļת +Ġ×ľ×¢×Ļת ×Ļ×Ŀ +ĠsÅĤ ab +ĠпÑĢедÑģÑĤав лÑı +ãĤ¿ ãĤ¤ãĥĪ +ãĤ¿ãĤ¤ãĥĪ ãĥ« +Ùħ ص +Ùħص Ø·Ùģ +ÙħصطÙģ Ùī +Ġdifficult é +ãĥĨãĤ£ ãĥĸ +Ġpew noÅĽci +ĠpewnoÅĽci Äħ +Ġ무 ìĬ¨ +Ø¥ رس +إرس اÙĦ +Ġд алÑĮ +ĠдалÑĮ ÑĪе +Ġ׾ ×ł×¡ +Ġ×ľ×ł×¡ ×ķת +หมูà¹Ī à¸ļà¹īาà¸Ļ +×ŀס×ŀ ׼×Ļ +أسÙĦ ÙĪØ¨ +Ġzw ÅĤ +ĠzwÅĤ as +ĠzwÅĤas zc +ĠzwÅĤaszc za +ĠпÑĢ ÐµÐ¶ +ĠпÑĢеж де +ĠоÑĢганиз аÑĨиÑı +Ġdön emin +Ġdönemin de +Ġ Ủ +ĠỦ y +ä¸ĭ ãģĴ +ĠпоÑģлед ние +Ġgü ne +Ġgüne ÅŁ +Ġ×IJ ×ĸר +Ġ×IJ×ĸר ×Ĺ×Ļ +ãģ§ãģĤ ãĤįãģĨ +ĠÙĨ ÙĤ +ĠÙĨÙĤ اط +æŃ£ ãģĹãģĦ +ĠÑĢ ÐµÐ³ +ĠÑĢег иона +ĠFör der +ê²½ ìĺģ +dıkl ar +dıklar ını +trzym aÄĩ +أش Ùĥ +أشÙĥ اÙĦ +×Ķת ×IJ +×Ķת×IJ ×ŀ×Ķ +à¸Ĺำà¹ĥหà¹ī à¹Ģà¸ģิà¸Ķ +ĠGeb ä +ĠGebä ude +ĠСеÑĢ Ð³ +ĠСеÑĢг ей +Ġз доÑĢов +ĠздоÑĢов ÑĮÑı +Ġr ãi +ĠпÑĢед ÑĥÑģ +ĠпÑĢедÑĥÑģ моÑĤÑĢ +ĠпÑĢедÑĥÑģмоÑĤÑĢ ÐµÐ½ +Ġ×Ķצ ×Ļ×ij +Ġ×Ķצ×Ļ×ij ×ķר×Ļ +Ġdés ir +Ġн оÑĩ +ĠноÑĩ ÑĮ +möglich keiten +Ġ×IJ×Ĺר ×ķ׳×Ļ×Ŀ +Ġsoir ée +ĠNh áºŃn +Ù ª +à¸Ľà¸£à¸°à¸§à¸±à¸ķิ ศาสà¸ķรà¹Į +êµIJ íĨµ +ĠØ£ Ø®ÙĬ +Ġdé cid +Ġdécid é +Ġwy ja +Ġwyja ÅĽni +Ġ สิ +Ġสิ à¸ĩ +Ġสิà¸ĩ หา +Ġสิà¸ĩหา à¸Ħม +à¹ģ à¸Ńรà¹Į +หà¸Ļà¹īา à¸Īà¸Ń +ס תר +Ġê ¶ +Ġê¶ Į +Ġê¶Į 리 +pl ätze +ب Ø·ÙĦ +ê±´ ìĦ¤ +Ġ×IJ ×Ļ×ŀ×Ļ +Ġ×IJ×Ļ×ŀ×Ļ ×Ļ׾ +ãģ ½ +تر اث +×IJ׾ ×Ļ×ŀ×ķת +Ġdispon ÃŃveis +Ġz ale +Ġzale ży +à¸Ľà¸£à¸°à¸Ĭา สัมà¸ŀัà¸Ļà¸ĺà¹Į +ĠÅļw iat +Ġpor ówn +Ġporówn a +Ġ׾×ĺ ×ķ×ijת +×Ķ×ĸ ×ŀ׳×Ķ +Ġ×Ľ×ª ×ķצ×IJ×Ķ +Ġ×ij ק׾ +Ġ×ijק׾ ×ķת +ĠоÑĤ кÑĢ +ĠоÑĤкÑĢ Ñĭва +ãĥij ãĥ¯ãĥ¼ +ë¿IJ ë§Į +Ġв ÑģÑı +ĠвÑģÑı к +ãģ¨ãģª ãģ£ãģ¦ãģĦãĤĭ +Ġgi áºŃn +Ġок ÑĢÑĥ +ĠокÑĢÑĥ жа +ĠокÑĢÑĥжа ÑİÑī +ĠUnivers ität +ĠÑĢ Ð¾Ð¶ +ĠÑĢож д +ĠÑĢожд ениÑı +Ø® ÙĬÙĦ +Ġкомпани й +ĠÑĢазлиÑĩ нÑĭе +ĠЦ ена +׳×Ļ ×ķ×ĸ +׳×Ļ×ķ×ĸ ׾ +׳×Ļ×ķ×ĸ׾ ×ĺר +Ġê³µ ê°Ħ +Ġê°ľ ëħIJ +landır ma +ĠÑĥдал ен +à¸ŀัà¸ģ à¸ľ +à¸ŀัà¸ģà¸ľ à¹Īà¸Ńà¸Ļ +Ġprote cción +Ġb ÅĤ +ĠbÅĤ ÄĻd +Ã Ī +Ġíĸī ë³µ +ĠÅŁ ü +ĠÅŁÃ¼ phe +Ġí Ķ +ĠíĶ ¼ +Ġíͼ íķ´ +Ġëĭ¤ 르 +à¹Ħมà¹Ī à¹Ģà¸ģิà¸Ļ +ãģ¿ ãģª +ãģ¿ãģª ãģķãĤĵ +ĠпоÑĤ ÑĢеб +ĠпоÑĤÑĢеб иÑĤел +ĠاÙĦÙĥÙĦ اÙħ +ìķĦ ë²Ħ +ìķĦë²Ħ ì§Ģ +ãĤĴ使 ãģ£ãģŁ +Ġbụ i +ĠпоÑĤ еÑĢ +ĠпоÑĤеÑĢ Ñı +ĠØ¢ ÙĦاÙģ +ĠнаÑģÑĤоÑıÑī ее +ãģıãģªãĤĬ ãģ¾ãģĹãģŁ +clus ão +ãĤ³ ãĥĶãĥ¼ +צ פ×Ļ +צפ×Ļ ×Ļ×Ķ +Ø® ÙĦا +Ø®ÙĦا ص +ล à¹īำ +ãĥ¯ ãĤ¤ãĥ³ +Ġมี à¸Ļา +Ġมีà¸Ļา à¸Ħม +Ø´ خص +شخص ÙĬات +Ġ×ĸ ×§ +Ġ×ĸ×§ ×ķ×§ +×Ļ ×Ļצ +×Ļ×Ļצ ×Ĵ +èĢĥãģĪ æĸ¹ +Ġürün ü +ĠиÑģп ол +ĠиÑģпол ни +Ġcompañ ero +×§ צ×Ķ +×ŀ×¢ ׳×Ļ×§ +Ùħ ØŃÙħد +Ġc ámara +Ġп ед +Ġпед аг +Ġпедаг ог +м аÑĢ +маÑĢ Ðº +×Ķת ׳×Ĵ×ĵ +ĠìĨĮ ê°ľ +Ġcom unitÃł +ê³ ¤ +ĠNg Ãłi +สà¸ĩ à¸ļ +ĠmieszkaÅĦ ców +ĠÙĨ ÙĩائÙĬ +iv ité +Ġи де +Ġиде алÑĮн +ĠØ£ سبÙĪØ¹ +Ġ×Ļ ×¢×ľ +Ġ׾ ר×IJש +Ġ׾ר×IJש ×ķ׳×Ķ +ĠзапиÑģ и +ĠкоÑĢ Ð¿ÑĥÑģ +วà¸ĩ ศ +วà¸ĩศ à¹Į +ĠÐĶ Ð¼ +ĠÐĶм иÑĤ +ĠÐĶмиÑĤ ÑĢ +Ġkön nt +Ġböl ges +Ġbölges inde +׼ ×Ļ׼ +׼×Ļ׼ ר +ĠاÙĦØ¥ Ø«ÙĨ +ĠاÙĦإثÙĨ ÙĬÙĨ +Ġng á»Ļ +ì¹ ł +د راج +Ġu da +Ġuda ÅĤo +ìº IJ +بر ÙĨاÙħج +ĠÑģÑĥд еб +ĠÑģÑĥдеб н +Ġzun ächst +ĠEduc ación +ãģ¨ãģª ãģ£ãģ¦ãģĦãģ¾ãģĻ +Ġ×Ķ×IJ ×ŀ×Ļת×Ļ +Ġİ nt +Ġİnt ernet +ĠcaÅĤ ego +ãĥĹãĥª ãĥ³ +Ø¥ بد +إبد اع +ĠпоÑĢ ÑĤал +à¹Ĥà¸ķ à¹ī +Ġ×Ķ×§ ש×ķר +пл од +ĠÙħ د +ĠÙħد رÙĬد +×ŀסע ×ĵ×Ķ +ĠØ´ÙĬ ئ +ĠØ´ÙĬئ ا +à¸ģà¹Īà¸Ń สรà¹īาà¸ĩ +Ġì°¸ ê³ł +à¹Ģà¸Ĺ ร +à¹Ģà¸Ĺร à¸Ķ +Ġ×ij×ŀ קר×Ļ×Ŀ +Ġb ât +Ġbât iment +åij¼ ãģ³ +ç´ł æķµ +ç´łæķµ ãģª +przedsiÄĻbior st +przedsiÄĻbiorst w +Ġ×ł×ª ×ķ׳×Ļ×Ŀ +×Ĺ׾ ×ķ×Ŀ +ร วย +Ùħ ÙĪØ¶ÙĪØ¹ +ĠÑģоб ÑĢан +вед ÑĥÑī +ĠÑĤе аÑĤ +ĠÑĤеаÑĤ ÑĢ +m eye +meye ceÄŁi +Ġpien iÄħ +ĠpieniÄħ d +ĠpieniÄħd ze +ÑĢез иденÑĤ +ØŃ صر +ìĺ ¥ +à¹Ģย ืà¸Ńà¸Ļ +ĠÑĥ ни +ĠÑĥни веÑĢ +ĠÑĥнивеÑĢ Ñģ +ĠÑĥнивеÑĢÑģ иÑĤеÑĤ +ĠاÙĦر ØŃ +ĠاÙĦرØŃ ÙħÙĨ +ĠÑĤеÑħ нолог +ĠÑĤеÑħнолог ии +ìĹIJ ëĦĪ +ìĹIJëĦĪ ì§Ģ +Ġíķ Ń +ĠíķŃ ìĥģ +à¸ĺ า +à¸ĺา à¸ķุ +ĠEspañ ol +×ĵ×Ĵ ש +Ġêµ ī +Ġêµī ìŀ¥ +Ġêµīìŀ¥ íŀĪ +ĠÅĤ at +ĠÅĤat wo +Ġk á»ĭch +Ø¥ ز +إز اÙĦØ© +ĠдейÑģÑĤв ие +ĠsaÄŁ layan +สุà¸Ķ ยà¸Ńà¸Ķ +Ġzosta Äĩ +Ġdispon ÃŃvel +ïº į +ver ständ +verständ lich +tw or +twor zyÄĩ +ع جز +à¹Ģà¸Ĥ à¹īม +ยà¹Ī à¸Ńม +Ġstrat ég +Ġstratég ie +à¸ľà¸¥ à¹Ħมà¹ī +Ġê°ģ ì¢ħ +ĠÙħ ÙĪØ§ +ĠÙħÙĪØ§ ض +ĠÙħÙĪØ§Ø¶ ÙĬع +اØŃ تج +اØŃتج اج +Ġ Ấ +ĠẤ n +×ŀ ×ŀש׾×Ķ +ĠÅŁek il +×ŀ ×Ĺ׾ +×ŀ×Ĺ׾ ×ķת +Ġ à¸ĺ +Ġà¸ĺ ัà¸Ļ +Ġà¸ĺัà¸Ļ วา +Ġà¸ĺัà¸Ļวา à¸Ħม +Ġìĭ¤ ìłľ +Ġìĭ¤ìłľ ë¡ľ +ì¤ij ìķĻ +ëįĶ ëĿ¼ +ĠÑĪ Ð¸ÑĢ +ĠÑĪиÑĢ Ð¾ÐºÐ¾ +Ġsol ución +วาà¸ĩ à¹ģà¸ľà¸Ļ +×IJ×ķ×ĺ ×ķ×ŀ +×IJ×ķ×ĺ×ķ×ŀ ×ĺ×Ļ +ĠÑĢ ÐµÑģÑĤ +ĠÑĢеÑģÑĤ оÑĢ +ĠÑĢеÑģÑĤоÑĢ Ð°Ð½ +ëį ¸ +ÑĤ ÑĢад +ÑĤÑĢад и +ÑĤÑĢади ÑĨион +ÑĤÑĢадиÑĨион н +มะ à¹Ģรà¹ĩ +มะà¹Ģรà¹ĩ à¸ĩ +à¹Ĥ ส +Ġol masını +×ŀ×ķס ר +ĠоÑĤноÑĪ ÐµÐ½Ð¸Ð¸ +Ġê°ĢëĬ¥ ìĦ± +Ġy uk +Ġyuk arı +ìĨ Ķ +ĠÑģ ÑĦ +ĠÑģÑĦ еÑĢе +Ġ×§ ×ķפ +ãĤ± ãĥ¼ãĤ +ãĤ±ãĥ¼ãĤ Ń +âĢķ âĢķ +ĠاÙĦØ£ ÙĦÙħ +ĠاÙĦØ£ÙĦÙħ اÙĨÙĬ +Ả N +ת×ķ׼ ׳×Ļ×ķת +ĠÑģÑĥÑīеÑģÑĤв ÑĥеÑĤ +æĪij ãĢħ +ĠاÙĦص ادر +ĠTr á»įng +Ġа д +Ġад миниÑģÑĤ +ĠадминиÑģÑĤ ÑĢа +ĠадминиÑģÑĤÑĢа ÑĨи +ĠдÑĢÑĥг ими +Ñģп еÑĪ +عÙĦاÙħ ات +Ġа б +Ġаб Ñģол +ĠабÑģол ÑİÑĤ +ĠабÑģолÑİÑĤ но +ฤ à¸Ķู +é tr +étr anger +нÑı ÑĤи +нÑıÑĤи е +×¢ ×ķ׳ +×¢×ķ׳ ש +ĠÙĤ ائ +ĠÙĤائ ÙĦا +Ġм аÑģ +ĠмаÑģ ло +ãĥī ãĤ¤ +ãĥīãĤ¤ ãĥĦ +å¿ħè¦ģ ãģĮãģĤãĤĬãģ¾ãģĻ +×ŀ×ķ×ĸ ×Ļ×IJ +×ŀ×ķ×ĸ×Ļ×IJ ×ķף +ĠNgo ại +Ġkê nh +à¸ģาร à¸Ńà¸Ńà¸ģà¹ģà¸ļà¸ļ +×ŀ פק +×ŀפק ×ĵ +ÙħÙĨ از +ÙħÙĨاز ÙĦ +ë· ° +íĹ ¤ +ÙħÙĩ ارات +Ġpropri été +פ×Ĵ ×Ļש×Ķ +Ñĩ ÑĢ +ÑĩÑĢ ÐµÐ¶ +ÑĩÑĢеж ден +×Ķ ×ķצ×IJ×Ķ +ØŃÙĥ ÙĬÙħ +ĠíĻ Ī +ĠíĻĪ íİĺìĿ´ì§Ģ +åİ ³ +åݳ ãģĹãģĦ +×¢ ×ŀ×ĵ×Ķ +ĠAu ÃŁen +سÙĪ Ø¡ +ë¹ Ī +ĠÙĪ Ø® +ĠÙĪØ® اصة +ин ÑĤеÑĢ +инÑĤеÑĢ ÐµÑģ +èĩ´ ãģĹãģ¾ãģĻ +Ġhük üm +à¹Ħà¸Ĥ มัà¸Ļ +Ġdav ran +Ġdavran Ä±ÅŁ +à¹Ģà¸ķ ียà¸ĩ +в ÑĢем +вÑĢем енно +à¹Ģà¸Ĺศ à¸ģา +à¹Ģà¸Ĺศà¸ģา ล +å¼ķ ãģ£ +å¼ķãģ£ è¶ĬãģĹ +×IJר ×ķ×Ĺ +×IJר×ķ×Ĺ ×ª +à¹Ģ วิ +à¹Ģวิ รà¹Į +à¸Ńยà¹Īาà¸ĩ รวà¸Ķà¹Ģรà¹ĩว +ĠìŬ íĸī +ĠÑĢан ÑĮ +ĠÑĢанÑĮ ÑĪе +Ġzob ow +Ġzobow iÄħ +ĠzobowiÄħ z +Ġ×ķ׼ ×ŀ×ķ×ijף +ĠاÙĦÙħ Ùĩ +ĠاÙĦÙħÙĩ ÙĨÙĬ +ãĤ¢ ãĤ¸ +ãĤ¢ãĤ¸ ãĤ¢ +ë°© ìĨ¡ +à¸Ńà¸Ńà¸ģ à¸ģำลัà¸ĩ +à¸Ńà¸Ńà¸ģà¸ģำลัà¸ĩ à¸ģาย +am éli +améli orer +å½ĵãģŁãĤĬ åīį +Ġreg elm +Ġregelm Ã¤ÃŁig +ãģĬ åĭ +ãģĬåĭ § +ãģĬåĭ§ ãĤģ +Ġm ưá»Ŀi +بر Ùħج +ĠNat ürlich +ĠD Å©ng +ĠاÙĦر جاÙĦ +Ġthé p +Ġol muÅŁtur +×ŀ×ķס ×Ļ×§×Ķ +f älle +주 íĥĿ +ĠاÙĦÙģ Ø±Øµ +Ġnaj wiÄĻks +ĠnajwiÄĻks zy +Ġça ÄŁ +ĠçaÄŁ rı +ì¸ ł +ĠvÃŃ ct +ĠvÃŃct ima +ĠÑģовеÑĢ ÑĪен +×Ķ×Ļ ×Ļת×Ļ +à¹Ģà¸Ķ ี +à¹Ģà¸Ķี à¹ĭ +à¹Ģà¸Ķีà¹ĭ ยว +ü yü +Ġд оп +Ġдоп олн +Ġдополн иÑĤелÑĮно +à¹ģà¸ķà¸ģà¸ķà¹Īาà¸ĩ à¸ģัà¸Ļ +Ġá l +Ġál bum +à¸Ľà¸£à¸°à¸Īำ à¸Ľà¸µ +ĠÑĦ едеÑĢ +ĠÑĦедеÑĢ Ð°Ð»ÑĮн +Ġobs ÅĤ +ĠobsÅĤ ugi +à¹Ģร ืà¹Ī +à¹Ģรืà¹Ī à¸Ńย +à¹Ģรืà¹Īà¸Ńย à¹Ĩ +ëģ Į +Ġngh ìn +ĠBaÅŁkan lıģı +تأ سÙĬ +تأسÙĬ س +Ġ×ij×ij ×ķקר +Ġ×¢×ij×ķ×ĵ ×ķת +Ġبص ÙĪØ±Ø© +ãĤıãģij ãģ§ãģ¯ãģªãģĦ +führ er +ãĤ¹ ãĤŃ +ãĤ¹ãĤŃ ãĥ« +ĠاÙĦÙĤ ض +ĠاÙĦÙĤض ÙĬØ© +Ġдолж ноÑģÑĤ +ÙģØ§Ø± ÙĤ +Ġcomeç ou +Ġorganis é +Ġxu ân +ĠÑģообÑī аеÑĤ +ĠпÑĢи д +ĠпÑĢид еÑĤÑģÑı +TÃľ RK +ãĥ¬ ãĥ¼ãĤ·ãĥ§ãĥ³ +Kh ông +است Ùģ +استÙģ Ø§Ø¯Ø© +ä¸ĬãģĮ ãģ£ãģ¦ +Ġum ie +Ġumie jÄĻ +ĠumiejÄĻ tn +ĠumiejÄĻtn oÅĽci +ëĤ ¸ +à¹Ģà¸Ļ à¸Ńรà¹Į +×ĵ×ķ ×ķ×Ĺ +ÃŃs imo +I ÃĬ +IÃĬ N +Ġalcan ç +Ġ à¸ķุ +Ġà¸ķุ ลา +Ġà¸ķุลา à¸Ħม +ש׾ ×ĺ×ķף +Ġél è +Ġélè ves +ĠÄij u +ĠÄiju á»ķi +ĠØ£ Ùģ +ĠØ£Ùģ Ø±ÙĬ +ĠØ£Ù쨱ÙĬ ÙĤÙĬ +ĠØ£Ù쨱ÙĬÙĤÙĬ ا +ãĤĴæİ¢ ãģĻ +ĠпÑĢед ложениÑı +ج اد +ĠÑħоÑĤ ÑĮ +Ñģ ал +Ñģал он +à¸Ľà¸£à¸° à¹Ģม +à¸Ľà¸£à¸°à¹Ģม ิà¸Ļ +ãĤŃ ãĥĥãĥģ +ãĤŃãĥĥãĥģ ãĥ³ +×ij×ĵ×Ļ×§ ×ķת +Ġch ù +Ġchù a +ÐĴ иде +ÐĴиде о +иÑĢов ка +ĠÑħоÑĤ иÑĤе +Ġspéc ifique +รส à¸Ĭาà¸ķิ +è¾¼ ãĤĵãģł +伸 ãģ³ +×Ķצ׾ ×Ĺת +ãģ©ãģ® ãĤĪãģĨãģ« +سع ادة +Ġл ид +Ġлид еÑĢ +ม à¸ĩ +มà¸ĩ à¸Ħล +ØŃ اÙħÙĦ +หล ุà¸Ķ +à¸Ńยà¹Īาà¸ĩ à¸ķà¹Īà¸Ń +à¸Ńยà¹Īาà¸ĩà¸ķà¹Īà¸Ń à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ +ãģķãģĽãģ¦ éłĤ +تس ÙĪÙĬ +تسÙĪÙĬ ÙĤ +ĠaÅŁaģı d +ĠaÅŁaģıd aki +ĠÑĨ елÑĮ +ĠÑĨелÑĮ Ñİ +ĠAra ÅŁtırma +à¸Ĥัà¸ļ รà¸ĸ +Ùĩ ذÙĩ +ลà¸ĩ à¸Ĺะ +ลà¸ĩà¸Ĺะ à¹Ģà¸ļ +ลà¸ĩà¸Ĺะà¹Ģà¸ļ ียà¸Ļ +تÙĥ اÙħÙĦ +Ġc io +Ġcio è +ãģ¦ ãģĬãģı +ĠاÙĦصØŃ ÙģÙĬ +ĠíĬ¹ ìłķ +полн иÑĤÑĮ +ãĤĵ ãģĺãĤĥãģªãģĦ +ãĤĵãģĺãĤĥãģªãģĦ ãģĭ +ĠاÙĦج Ùĩ +ĠاÙĦجÙĩ ات +ĠÑĥÑģпеÑĪ Ð½Ð¾ +Ġв ок +Ġвок ÑĢÑĥг +ĠÑģиÑĤÑĥ аÑĨиÑı +Ġ×Ķ×IJ ×ŀר +Ġ×Ķ×IJ×ŀר ×Ļ×§ +Ġ×Ķ×IJ×ŀר×Ļ×§ ×IJ×Ļ +×ŀ ×Ĵ×ĸ +×ŀ×Ĵ×ĸ ×Ļף +Ġак ÑĤÑĥ +ĠакÑĤÑĥ алÑĮн +é ta +éta is +Ġmog ÅĤa +ĠÑĤоÑĩ ки +Ġ×ŀ×Ķ ×ŀ×¢ +Ġ×ŀ×Ķ×ŀ×¢ ×¨×Ľ×ª +มี à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺà¸´à¸łà¸²à¸ŀ +×Ļר ×Ļ×ĵ×Ķ +×Ĵר ×ŀ׳ +×Ĵר×ŀ׳ ×Ļ×Ķ +Ġг лав +Ġглав ное +Ġ미 ëŀĺ +Ġ׳׼ ×ķ׳×Ķ +ĠÙĪ Ø·ÙĨÙĬ +op port +opport unitÃł +Ġh á»§y +ĠÙĦ تØŃ +ĠÙĦتØŃ ÙĤÙĬÙĤ +Ġó rg +Ġórg ão +ãĤ¹ ãĥĶ +ãĤ¹ãĥĶ ãĥ¼ãĥī +Ġön ü +Ġönü ne +Ùħع اÙħÙĦ +ש×ŀ ×Ļר×Ķ +ĠвеÑģÑĮ ма +ĠwiÄĻks zo +ĠwiÄĻkszo ÅĽÄĩ +Ġاست راتÙĬج +ĠاستراتÙĬج ÙĬØ© +ĠÙģ Ø¥ +ĠÙ쨥 ذا +à¹Ģà¸Ĭืà¹Īà¸Ń ม +à¹Ģà¸Ĭืà¹Īà¸Ńม à¸ķà¹Īà¸Ń +Ġ׾ פר +Ġ׾פר ×ĺ×Ļ×Ŀ +Ùħض ÙĬ +ĠGer çek +Ġçocuk ların +ÙĪØ« ائÙĤ +ĠÙħساء Ùĭ +Ġunterstüt zt +Ġpré st +Ġprést amo +ĠÐłÐ°Ð· меÑĢ +ĠÅŁ eker +Ġsé culo +×ij×Ķ ×Ļר +Ø´Ùĩ ÙĪØ± +Ġ à¸Ńีà¸ģ +Ġà¸Ńีà¸ģ à¸Ĺัà¹īà¸ĩ +Ġlleg ó +à¸¨à¸´à¸¥à¸Ľ ะ +æĪij ãģĮ +æĪijãģĮ å®¶ +ع ÙĤÙĪ +عÙĤÙĪ Ø¨Ø§Øª +ĠF älle +Ġs ÅĤuż +ĠsÅĤuż b +ĠاÙĦØŃÙĤ ÙĪÙĤ +Ġпл иÑĤ +Ġи ноÑģÑĤ +ĠиноÑģÑĤ ÑĢан +ĠиноÑģÑĤÑĢан н +à¹ĥà¸Ļ à¸Ĥà¸ĵะà¸Ĺีà¹Ī +ãĤ« ãĥĨ +ãĤ«ãĥĨ ãĤ´ +ãĤ«ãĥĨãĤ´ ãĥª +à¸Ńิ ส +à¸Ńิส ระ +à¹Ģà¸ľà¸¢ à¹ģ +à¹Ģà¸ľà¸¢à¹ģ à¸ŀร +à¹Ģà¸ľà¸¢à¹ģà¸ŀร à¹Ī +ãģĬ ãģĦ +ãģĬãģĦ ãģĹãģĦ +است ÙĤÙĦ +استÙĤÙĦ اÙĦ +تØŃ ض +تØŃض ÙĬر +åĬ© ãģij +Ùħر اÙģÙĤ +Ġ×ĵ ×ķר +Ġ×ĵ×ķר ש +×ŀת×Ļ ×Ļ×Ĺס +ס ×Ļ׼ +ס×Ļ׼ ×ķ×Ŀ +íĮĮ íĬ¸ +Ġwy ÅĽ +ĠwyÅĽ w +ĠwyÅĽw iet +ĠwyÅĽwiet l +ĠاÙĦاÙĨ ساÙĨ +ĠStra ÃŁen +ï¼ ¬ +ãģ« åŁº +ãģ«åŁº ãģ¥ +Ġcap ÃŃtulo +ลุ ย +Ġ×Ķ×ŀ×§ צ×ķ×¢×Ļ +ãģĤãĤĭ ç¨ĭ度 +á» ¢ +ĠاÙĦ ÙĦا +ĠاÙĦÙĦا زÙħØ© +æķĻ ãģĪ +Ġרש ×IJ×Ļ +з ав +зав иÑģ +завиÑģ им +à¸Ľà¸±à¸Ī à¸Īัย +à¹Ģà¸ĭ ล +à¹Ģà¸ĭล ลà¹Į +Ġdiffé rence +ĠAlt ın +Ġк ÑĢай +ĠкÑĢай не +Ġз ло +Ġgün ümüz +Ġн аÑĤÑĥÑĢ +ĠнаÑĤÑĥÑĢ Ð°Ð»ÑĮн +×Ĵ×ķ׾ ש×Ļ×Ŀ +Ġк аÑĤегоÑĢ +ĠкаÑĤегоÑĢ Ð¸Ð¸ +Ġз нак +à¸ģà¹Īà¸Ńà¸Ļ หà¸Ļà¹īา +à¸ģà¹Īà¸Ńà¸Ļหà¸Ļà¹īา à¸Ļีà¹ī +ĠÙħÙĨ ت +ĠÙħÙĨت خب +ãĥĽ ãĥ¼ãĥ« +Ġе вÑĢо +ส ว +สว ม +ĠìľĦ ìĽIJ +ĠìľĦìĽIJ ëĭĺ +ĠاÙĦØŃ ÙĪØ« +ĠاÙĦØŃÙĪØ« ÙĬ +ĠÑģодеÑĢж иÑĤ +ãĥķãĤ¡ ãĥĥãĤ·ãĥ§ãĥ³ +Ġ à¸ģัà¸Ļ +Ġà¸ģัà¸Ļ ย +Ġà¸ģัà¸Ļย ายà¸Ļ +ãĤª ãĥª +ãĤªãĥª ãĤ¸ +ãĤªãĥªãĤ¸ ãĥĬãĥ« +Ġб ÑĢенд +ãĤĴæĮģ ãģ£ãģ¦ãģĦãĤĭ +Ġinvers ión +Ġê° ĸ +Ġê°ĸ ê³ł +Ġnov itÃł +ê´Ģ ê´ij +Ġà¸ŀ ฤษ +Ġà¸ŀฤษ à¸łà¸² +Ġà¸ŀà¸¤à¸©à¸łà¸² à¸Ħม +×ķר ×Ĺ×Ļ×Ŀ +׼׾ ×ķ׾ +Ġng ạc +×Ļ ×Ļש +×Ļ×Ļש ×ķ×ij +f äll +fäll ig +ĠÑĤÑĢеб ÑĥеÑĤÑģÑı +Ġcar á +Ġcará cter +Ġprinc ÃŃpio +ĠÅĤ az +ĠÅĤaz ien +ĠÅĤazien k +Ġgi ãn +ÑģÑĤÑĢа ива +Ùħس اب +Ùħساب ÙĤØ© +à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩ à¸Ķืà¹Īม +ترÙĥ ÙĬب +vol ução +ĠÐŁ оÑĩ +ĠÐŁÐ¾Ñĩ ем +ĠÐŁÐ¾Ñĩем Ñĥ +казал оÑģÑĮ +ĠпÑĢимен ениÑı +à¹Ģà¸Ĺ ียม +íĮ Ķ +à¸Ĥà¹īà¸Ń à¹Ģสà¸Ļà¸Ń +à¸Ľà¸±à¸į à¸įา +Ġоб ÑĥÑĩ +ĠобÑĥÑĩ ениÑı +ĠÑģеÑĢ Ð¸ +ĠÑģеÑĢи ал +Ġingl és +ĠÙĦ Ùĥرة +Ġ×ĺ ׾ +Ġ×ĺ׾ פ×ķף +Ġìł ij +Ġìłij ê·¼ +×IJ ×ķ×Ĵ +×IJ×ķ×Ĵ ×ķס +×IJ×ķ×Ĵ×ķס ×ĺ +ĠболÑĮÑĪ Ð¾Ðµ +ĠÐļон еÑĩно +×¢×Ļת ×ķ׳ +×¢×Ļת×ķ׳ ×IJ×Ļ +Ġкноп к +Ġз н +Ġзн аÑĤÑĮ +ĠÄij á»± +ĠÄijá»± ng +вл аж +влаж н +×ŀ ×Ļ×ĺ×ij +ãĤ¬ ãĤ¤ +ãĤ¬ãĤ¤ ãĥī +........ .. +Ġà¸ģ ุม +Ġà¸ģุม à¸łà¸²à¸ŀ +Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀ ัà¸Ļ +Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļ à¸ĺ +Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļà¸ĺ à¹Į +be z +bez pieczeÅĦst +bezpieczeÅĦst w +ãĥijãĥij æ´» +ع اط +عاط Ùģ +ĠÄij áºŃm +Ġз ÑĢ +ĠзÑĢ ÐµÐ½Ð¸Ñı +Ġbor ç +Ġнед ел +Ġнедел Ñİ +Ġh á»ı +Ġhá»ı ng +ìŀ¥ ìķł +ìŀ¥ìķł ìĿ¸ +ĠاÙĦع ÙĦاÙĤØ© +Ġíģ ¬ +Ġíģ¬ ê²Į +à¹Ħร à¹Ī +à¸ļา à¸Ķ +à¸ļาà¸Ķ à¹Ģà¸Īà¹ĩà¸ļ +à¸Ŀ รั +à¸Ŀรั à¹Īà¸ĩ +à¸Ŀรัà¹Īà¸ĩ à¹Ģศ +à¸Ŀรัà¹Īà¸ĩà¹Ģศ ส +ר ×¢×Ļ +רע×Ļ ×ķ׳×ķת +Ġë Į +ĠëĮ ĵ +ĠëĮĵ ê¸Ģ +Ġnaj b +Ġnajb li +Ġnajbli ż +Ġnajbliż sz +ĠиÑģполÑĮз ÑĥеÑĤÑģÑı +Ġcient ÃŃf +ĠcientÃŃf ico +×¢ ×ŀ×§ +Ġg ợi +Ø´ ØŃÙĨ +ĠÅĽ m +ĠÅĽm ier +ĠÅĽmier ci +à¸Ħาสิà¹Ĥà¸Ļ à¸Ńà¸Ńà¸Ļà¹Ħลà¸Ļà¹Į +×Ĺש×ij ת×Ļ +Ġn ingu +Ġningu ém +è¾¼ ãĤģ +ãģ · +ĠÑĥ г +ĠÑĥг ол +ï½ ° +פת ×Ļ×Ĺ +פת×Ļ×Ĺ ×ª +Ġ×Ķר×IJש ×ķ׳×Ļ×Ŀ +p ósito +ãĤŃ ãĥ¬ãĤ¤ +ãģ© ãģĵãĤį +à¹Ģà¸Ĺà¹Īา à¹Ħ +à¹Ģà¸Ĺà¹Īาà¹Ħ หร +à¹Ģà¸Ĺà¹Īาà¹Ħหร à¹Ī +ĠинÑĤеÑĢ ÑĮеÑĢ +ĠØŃ اج +ĠØŃاج Ø© +สี à¸Ĥาว +ìĸ ¼ +Ġn á»Ļ +Ġná»Ļ p +ĠÃŃ nd +ĠÃŃnd ice +สำ รวà¸Ī +Ġкажд ой +Ġhot éis +Ġnast ÄĻ +ĠnastÄĻ pn +Ġ×Ķ×§ ×ķ×ĵ +Ġ×Ķ×§×ķ×ĵ ×Ŀ +פ ×ķפ +פ×ķפ ×ķ׾ +פ×ķפ×ķ׾ ר×Ļ +вÑĪ ÐµÐ¹ +ãĤ·ãĥ³ ãĥĹ +ãĤ·ãĥ³ãĥĹ ãĥ« +ĠzdjÄĻ Äĩ +ĠгÑĢÑĥпп а +Ġпом еÑī +ĠпомеÑī ениÑı +ãģ©ãģĨ ãģĦãģĨ +ĠиÑģп ÑĭÑĤа +Ġog ÅĤ +ĠogÅĤ os +ĠogÅĤos zen +ĠogÅĤoszen i +สรà¹īาà¸ĩ สรร +สรà¹īาà¸ĩสรร à¸Ħà¹Į +à¸ŀร รà¸ĵ +Ġçık Ä±ÅŁ +ĠÑĩаÑģÑĤ ноÑģÑĤи +Ġ×ķ ×Ļ×ķתר +ç¶ļãģį ãĤĴ +ç¶ļãģįãĤĴ èªŃ +ç¶ļãģįãĤĴèªŃ ãĤĢ +à¸ģร ั +à¸ģรั ม +г ÑĢаÑĦ +Ġв лад +Ġвлад елÑĮ +ĠвладелÑĮ ÑĨ +Ġistedi ÄŁ +ĠistediÄŁ iniz +×ij׾ ×¢ +×ij×ľ×¢ ×ĵ×Ļ +ÙħÙĪ Ø§Ùģ +ÙħÙĪØ§Ùģ ÙĤØ© +Ġ×Ļ ×ķר +Ġ×Ļ×ķר ×§ +ãĤ«ãĥ¼ãĥī ãĥŃãĥ¼ãĥ³ +ĠاÙĦÙħØ´ ÙĥÙĦ +ĠاÙĦÙħØ´ÙĥÙĦ Ø© +ĠêµŃ íļĮ +ס פ×ĺ +ספ×ĺ ×ŀ +ספ×ĺ×ŀ ×ijר +Ġìĸ´ ëłµ +Ùĥ اÙħ +ÙĥاÙħ ÙĬرا +sch lü +schlü sse +ĠØ« ÙĨ +ĠØ«ÙĨ ائÙĬ +ìī ½ +ĠÐŀ Ñģоб +ĠÐŀÑģоб енно +Ġин веÑģÑĤи +ĠинвеÑģÑĤи ÑĨи +اØŃ تÙħ +اØŃتÙħ اÙĦ +E Äŀ +EÄŀ İ +íķĺ ê²łëĭ¤ +Ġ×IJ ×ijר×Ķ +Ġ×IJ×ijר×Ķ ×Ŀ +Ġ×ij×Ĺ ×Ļ׳×Ŀ +Ø£ ÙĪØ¶ +Ø£ÙĪØ¶ اع +Ġdé l +Ġdél ai +Ġ×IJ×ķ×Ķ ×ij×Ļ×Ŀ +ĠÑģо Ñħ +ĠÑģоÑħ ÑĢ +ĠÑģоÑħÑĢ Ð°Ð½Ð¸ +ĠдоÑģÑĤ иж +ĠдоÑģÑĤиж ени +สิà¹Īà¸ĩ à¹ģ +สิà¹Īà¸ĩà¹ģ วà¸Ķ +สิà¹Īà¸ĩà¹ģวà¸Ķ ล +สิà¹Īà¸ĩà¹ģวà¸Ķล à¹īà¸Ńม +ĠاÙĦÙħ باشر +ĠÑĦ иг +ĠÑĦиг ÑĥÑĢ +мож ем +׾×ŀ×Ļ×ĵ ×Ķ +Ġcin é +Ġciné ma +Ġb ada +Ġbada ÅĦ +جب ÙĩØ© +Ġд еп +Ġдеп ÑĥÑĤ +ĠдепÑĥÑĤ аÑĤ +Ġdist ância +ĠاÙĦÙħ عار +ĠاÙĦÙħعار ضة +thè se +ü nc +ünc ü +Ġдан ного +ĠBel gi +ĠBelgi ë +Ġ×ij ×ij×§ +Ġ×ij×ij×§ ש×Ķ +ย à¹Īาà¸Ļ +Ġsol ução +Ġ×Ķצ ×ĺר +Ġ×Ķצ×ĺר פ×ķ +ĠØ£ÙĨ ØŃ +ĠØ£ÙĨØŃ اء +Ġد ÙħØ´ +ĠدÙħØ´ ÙĤ +มั à¹ī +มัà¹ī ย +Ùħ غرب +است عÙħاÙĦ +ĠS ÅĤow +ĠëıĻ ìĭľ +ĠëıĻìĭľ ìĹIJ +ĠÑģ оÑģ +ĠÑģоÑģ ед +ì²Ń ìĨĮ +ì²ŃìĨĮ ëħĦ +Ġг ÑĢаÑĦ +ĠгÑĢаÑĦ ик +Ġìŀij ìĿĢ +Ġyet i +Ġyeti ÅŁtir +ĠìĿ´ê²ĥ ìĿ´ +ห à¹Īาà¸ĩ +Ø¥ ÙħÙĥاÙĨ +Ø¥ÙħÙĥاÙĨ ÙĬØ© +است عراض +ÙħØ® در +ĠÑĩ ÑĥÑĤÑĮ +Ùħ دÙĬر +ÙħدÙĬر ÙĬØ© +Ġà¹Ģม ษ +Ġà¹Ģมษ ายà¸Ļ +Ġм еÑħ +ĠмеÑħ аниз +ĠмеÑħаниз м +ĠÑģ Ñĥм +ĠÑģÑĥм мÑĥ +Ġv ö +Ġvö ll +Ġvöll ig +Ġд ÑĢÑĥз +ĠдÑĢÑĥз ÑĮÑı +ãĤĴåĪ©ç͍ ãģĹãģ¦ +à¸ļรร à¸Īุ +po życz +×ŀש ׼ +×ŀש׼ ×ł×ª +×ŀ×©×Ľ×ł×ª ×IJ +Ġeuropé en +Ġpropri é +Ġproprié taire +Ġkh ấu +ãģĦãģŁãģł ãģijãĤĭ +Ġtec rü +Ġtecrü be +×Ķ ×ij +×Ķ×ij ׳×Ķ +Ġcu Ì +ĠcuÌ ī +ĠcuÌī a +×IJ ×ķ×ķ +×IJ×ķ×ķ ×Ļר×Ķ +Ġ׼×ķ׾ ×ķ +U lus +Ulus lararası +Ġ׳ ×ķת +Ġ׳×ķת ף +ãģ« åIJij +ãģ«åIJij ãģijãģ¦ +ë¹ Ľ +à¸Ĺ ัà¸ģษ +à¸Ĺัà¸ģษ ะ +س ÙĤÙĪ +سÙĤÙĪ Ø· +Ġв н +Ġвн еÑĪ +ĠвнеÑĪ Ð½Ðµ +Ġur z +Ġurz ÄĻd +Ġá mb +Ġámb ito +à¸Ń à¸ĺิ +à¸Ńà¸ĺิ à¸ļาย +Ġ ÅĤad +ĠÅĤad n +ê±´ ì¶ķ +wód zt +wództ w +Ġquest ões +Ġש ×§ +Ġשק ×Ļ×ij׾ +Ġmiejsc owoÅĽci +Ġв ал +Ġвал ÑİÑĤ +hä user +หà¸Ļ à¸Ńà¸ĩ +ãģ¨ åħ± +ãģ¨åħ± ãģ« +ãĥı ãĥ¼ãĥī +Ġê°ľ ìµľ +ĠоÑģнов ном +Ġм ÑıÑģ +اع ت +اعت ÙĤاÙĦ +สà¸ĸ ิ +สà¸ĸิ à¸ķิ +N gu +Ngu á»ĵn +ĠÙħ جÙĦ +ĠÙħجÙĦ Ø© +à¹ģà¸Ĥ à¸Ļ +ĠاÙĦÙĦÙĬ بÙĬ +פע×Ļ׾ ×ķ×Ļ×ķת +Ġ×Ķר פ×ķ×IJ×Ļ +פר ×ķפ +פר×ķפ ×Ļ׾ +×§ ׾×IJ +ק׾×IJ ס×Ļ +Ùĥت Ø´Ùģ +ãģ«ãģª ãģ£ãģ¦ãģĹãģ¾ãģĨ +à¹Ģà¸Ħล à¹ĩà¸Ķ +à¹Ģà¸Ħลà¹ĩà¸Ķ ลัà¸ļ +Ġì» ´ +Ġì»´ íĵ¨ +Ġì»´íĵ¨ íĦ° +Ġ×Ĺ×Ļ ×ķ×ij×Ļ +Ġnä m +Ġnäm lich +åij¼ ãģ° +åij¼ãģ° ãĤĮ +ĠÑĢ Ð¾Ð» +ĠÑĢол и +Ġspécial isé +à¸Ļ วัà¸ķ +à¸Ļวัà¸ķ à¸ģรรม +ÙĨص ÙĪØµ +пеÑĢ ÐµÐ´ +пеÑĢед аÑĩ +thè que +Ġר×IJ ×Ļת×Ļ +ãĥĢ ãĤ¦ãĥ³ +ãĤı ãģĭ +ãĤıãģĭ ãģ£ãģ¦ +беÑĢ ÐµÐ¶ +ĠÑģ ек +ĠÑģек ÑĢ +ĠÑģекÑĢ ÐµÑĤ +ĠпоÑģÑĤоÑıн н +à¸Ĥà¸Ļ สà¹Īà¸ĩ +Ġm ük +Ġmük em +Ġmükem mel +еÑĤ еÑģÑĮ +ĠاÙĦسÙĨ ÙĪØ§Øª +ĠìłĦ íĺĢ +Ġ×Ķ×ŀ×§ ×ķר×Ļ +Ġmü d +Ġmüd ah +Ġmüdah ale +Ġwy b +Ġwyb ór +Ġtend ência +Ø¥ دار +إدار ÙĬØ© +Ġunterstüt zen +ת ×ijר +ת×ijר ר +Ġdi á +Ġdiá logo +ĠÃĸ nce +ĠÃĸnce ki +ãĤ¹ãĥĿ ãĥĥãĥĪ +ëĦ £ +ĠG eli +ĠGeli ÅŁ +ãĤĴ éĢļ +ãĤĴéĢļ ãģĹãģ¦ +ĠFuÃŁ ball +Ġsal ari +Ġsalari é +ĠпÑĢодÑĥк ÑĤов +صÙģ ÙĤØ© +รว à¸ļ +รวà¸ļ รวม +à¹ĥà¸Ļ à¸IJาà¸Ļ +à¹ĥà¸Ļà¸IJาà¸Ļ ะ +Ġkay na +Ġkayna ģı +Ġìŀij íĴĪ +ĠвÑĭ ÑĢаж +ĠвÑĭÑĢаж ен +ĠÑģÑĤ еп +ĠÑģÑĤеп ени +ĠاÙĦÙħ ÙĪØ¬ÙĪØ¯ +ĠاÙĦÙħÙĪØ¬ÙĪØ¯ Ø© +ล à¹īม +Ġnaj czÄĻ +ĠnajczÄĻ ÅĽcie +ĠnajczÄĻÅĽcie j +Ġz wy +Ġzwy k +Ġzwyk ÅĤ +Ġê·¸ëłĩ ì§Ģ +à¸ģระ à¸Ī +à¸ģระà¸Ī าย +Ġëĭ µ +Ġëĭµ ë³Ģ +ĠÑĢе ак +ĠÑĢеак ÑĨи +ĠÅĽwie ż +ĠÑģÑĤоим оÑģÑĤи +ÙħÙĨ اÙĤ +ÙħÙĨاÙĤ Ø´ +ÙħÙĨاÙĤØ´ Ø© +ĠÑħоÑĩ Ñĥ +ãĥľ ãĥ¼ãĥī +Ġróż nic +Ġк ÑĢÑĭ +ĠкÑĢÑĭ ÑĪ +âľ ĵ +ãĤ³ãĥ³ ãĥĨãĥ³ +ãĤ³ãĥ³ãĥĨãĥ³ ãĥĦ +ĠпÑĢед поÑĩ +×ŀר ×ij×Ļת +ĠØ´ Ùĥ +ĠØ´Ùĥ را +Ġд ал +Ġдал ек +Ġдалек о +بر ÙĬØ· +برÙĬØ· اÙĨÙĬا +ع ÙĨا +عÙĨا ÙĬØ© +ĠÑĢаÑģÑģ каз +ĠÑĢаÑģÑģказ Ñĭва +Ø£ ÙĦÙĪ +Ø£ÙĦÙĪ Ø§ÙĨ +æĮģ ãģ£ãģ¦ +æĮģãģ£ãģ¦ ãģĦ +Ùħباد ئ +×Ķ ×¢×ijר +×Ķ×¢×ijר ת +Ġyay ı +Ġyayı ml +Ġyayıml a +m át +mát icos +à¸ģ ัà¸ĩ +à¸ģัà¸ĩ วล +Ġ׾ פת +Ġ×ľ×¤×ª ×ķ×Ĺ +à¸ŀฤ à¸ķิ +à¸ŀฤà¸ķิ à¸ģรรม +í Ĥ¬ +Ġок ÑĢÑĥг +Ġ×ŀצ ×ķ×ķ×Ķ +ÐĽ ени +ÐĽÐµÐ½Ð¸ н +ĠTri á»ģu +ãĤ³ãĥŁ ãĥ¥ +ãĤ³ãĥŁãĥ¥ ãĥĭ +ãĤ³ãĥŁãĥ¥ãĥĭ ãĤ± +ãĤ³ãĥŁãĥ¥ãĥĭãĤ± ãĥ¼ãĤ·ãĥ§ãĥ³ +Ùĥ ÙĨÙĬ +ÙĥÙĨÙĬ سة +ãĤĴ ä¸Ńå¿ĥ +ãĤĴä¸Ńå¿ĥ ãģ« +ĠmiÄĻd z +ĠmiÄĻdz yn +ĠmiÄĻdzyn ar +ĠmiÄĻdzynar od +ĠmiÄĻdzynarod ow +ÙĦ ÙĨ +ÙĦÙĨ دا +بر Ø´ +برش ÙĦÙĪÙĨ +برشÙĦÙĪÙĨ Ø© +à¸ģระ à¸ķุ +à¸ģระà¸ķุ à¹īà¸Ļ +Ġg ı +Ġgı da +à¸Ľà¸£à¸° à¸Ĺัà¸ļ +à¸Ľà¸£à¸°à¸Ĺัà¸ļ à¹ĥà¸Ī +Ġë¶Ī 구 +Ġë¶Ī구 íķĺê³ł +ĠÙĨ Ø· +ĠÙĨØ· اÙĤ +ĠÐľ ожеÑĤ +Pr äs +Präs ident +ĠÑģк оÑĢ +ĠÑģкоÑĢ Ð¾ÑģÑĤÑĮ +Ġ×Ķ×ij ×ķקר +еÑħ аÑĤÑĮ +Ġg ạo +Ġש×IJ ×Ļ׳×Ŀ +Ġ×ij׳ ×ķ×Ĵ +Ġ×ij׳×ķ×Ĵ ×¢ +Ġо пиÑģание +Ġucz ni +Ġuczni ów +à¹Ģà¸Ń à¹ĩà¸Ļ +Ġت Ø´ +Ġتش رÙĬÙĨ +Ġnh ãn +ë¹ ¨ +Ġcaract ère +×¢ ׾×Ļ +×¢×ľ×Ļ ×Ļ×Ķ +楽ãģĹ ãĤģãĤĭ +ĠÑģ аÑħ +ĠÑģаÑħ аÑĢ +дÑĥм аÑĤÑĮ +ĠÐĴоз можно +ص ÙĬاÙĨ +صÙĬاÙĨ Ø© +öm ür +ส ล +สล à¹ĩ +สลà¹ĩ à¸Ń +สลà¹ĩà¸Ń à¸ķ +ë¡ ¯ +Ġth ói +gr Ã¶ÃŁe +Ġksi ÄĻ +ĠksiÄĻ g +ĠÑĢ Ð¾Ð¼ +ĠÑĢом ан +ÙĤ اسÙħ +×ŀ×ij ×ķ×Ĵ +×ŀ×ij×ķ×Ĵ ר×Ļ×Ŀ +bes ch +besch äft +beschäft ig +×Ķצע ×Ķ +ĠÃģ rea +ĠзаÑıв к +Ä ¹ +ĠлÑİб ого +Ġ ม +Ġม à¸ģร +Ġมà¸ģร าà¸Ħม +ÑĦ из +ÑĦиз иÑĩеÑģк +ин ÑĦ +инÑĦ ек +инÑĦек ÑĨи +اÙĦ Ø· +اÙĦØ· ائÙģ +Ġкол л +Ġколл екÑĤив +ез жа +Ġس بØŃ +ĠسبØŃ اÙĨ +ĠسبØŃاÙĨ Ùĩ +sch lä +schlä ge +Ġд и +Ġди аг +Ġдиаг ноÑģÑĤ +ĠоÑĤмеÑĤ иÑĤÑĮ +Т Ь +ĠاÙĦ در +ĠاÙĦدر اسÙĬ +עצ ×ŀ +עצ×ŀ ×IJ×ķת +Ġdém arch +Ġdémarch e +Ġ×ĺ ×ķ×¢ +Ġ×ĺ×ķ×¢ ף +Ġfuncion ários +á» µ +׾ ׼×IJ +׾׼×IJ ×ķר×Ķ +à¸ĭ à¹Ī +à¸ĭà¹Ī à¸Ńม +ĠÑĩ Ñĥв +ĠÑĩÑĥв ÑģÑĤво +âĸ ¼ +п ÑĥÑī +пÑĥÑī ен +Ġм еÑĢ +ĠмеÑĢ Ð¾Ð¿ +ĠмеÑĢоп ÑĢи +ĠмеÑĢопÑĢи ÑıÑĤиÑı +Ġu çu +Ġuçu ÅŁ +ãĤĴåĪ©ç͍ ãģĻãĤĭ +a ÄŁ +aÄŁ lı +ìĺĪ ìĪł +à¹ģ ยà¹Ī +ĠاÙĦÙĥ Ùħ +ĠاÙĦÙĥÙħ بÙĬ +ĠاÙĦÙĥÙħبÙĬ ÙĪØªØ± +ت ÙĪÙĬ +تÙĪÙĬ تر +à¹Ģà¸Ĭ ีà¹Īยว +à¹Ģà¸Ĭีà¹Īยว à¸Ĭา +à¹Ģà¸Ĭีà¹Īยวà¸Ĭา à¸į +á» Ķ +Ġhi ếm +ذا Ùĥرة +Ġ×Ķ×ŀ×Ļ ×ķ×Ĺ×ĵ +ĠìĪ ľ +ĠìĪľ ê°Ħ +ĠK ı +ĠKı sa +Ġgele ceÄŁi +пÑĢо ÑĦеÑģÑģиона +пÑĢоÑĦеÑģÑģиона л +Ġog ó +Ġogó le +ĠgÅĤ ów +ĠgÅĤów ne +ĠÑģÑĤ илÑĮ +×IJ פ׾ +×IJפ׾ ×Ļ×§ +×IJפ׾×Ļ×§ צ×Ļ×Ķ +สม ารà¹Į +สมารà¹Į à¸Ĺ +สมารà¹Įà¸Ĺ à¹Ĥà¸Ł +สมารà¹Įà¸Ĺà¹Ĥà¸Ł à¸Ļ +Ġth ánh +ÐŁ од +ÐŁÐ¾Ð´ ÑĢоб +ÐŁÐ¾Ð´ÑĢоб нее +ĠاÙĦت ÙĪÙĨ +ĠاÙĦتÙĪÙĨ سÙĬ +Ġbah çe +à¹ģà¸ģà¹ī à¸Ľà¸±à¸įหา +é ducation +eu rop +europ ä +europä ische +ĠK si +ĠKsi ÄĻ +ĠëĦ ĺ +ĠëĦĺ ìĸ´ +Ġv üc +Ġvüc ud +Ġyay g +Ġyayg ın +Ġnie kt +Ġniekt óry +Ġniektóry ch +ãģŃ ãģĩ +Ġк аж +Ġкаж еÑĤÑģÑı +к аж +каж еÑĤ +ĠاÙĦ دÙĬÙħÙĤرا +ĠاÙĦدÙĬÙħÙĤرا Ø· +ĠاÙĦدÙĬÙħÙĤراط ÙĬØ© +æŃ © +æŃ© ãģĦãģ¦ +Ġv az +Ġvaz ge +Ġvazge ç +Ġмин ималÑĮ +ĠминималÑĮ н +ãĥij ãĤ¿ +ãĥijãĤ¿ ãĥ¼ãĥ³ +Ġë Ĭ +ĠëĬ IJ +ĠëĬIJ ëĤĮ +ãģ¡ ãĤĩãģĨ +ãģ¡ãĤĩãģĨ ãģ© +Ġ à¸ģร +Ġà¸ģร à¸ģà¸İ +Ġà¸ģรà¸ģà¸İ าà¸Ħม +تج دÙĬد +ĠØ´ اÙħÙĦ +หลัà¸ģ à¸IJาà¸Ļ +ĠмаÑĢ ÑĪ +ĠмаÑĢÑĪ ÑĢÑĥÑĤ +Ġv ÃŃt +ĠvÃŃt ima +Ġquiz á +ay gı +×ĵ×ijר ×Ļ×ķ +Ġиз д +Ġизд ели +Ġиздели Ñı +п ла +пла Ñĩ +плаÑĩ ива +ä»» ãģĽ +Ġéquip é +ä¹ħ ãģĹãģ +ä¹ħãģĹãģ ¶ +ä¹ħãģĹãģ¶ ãĤĬ +Ġк аÑĤ +ĠкаÑĤ ал +ĠкаÑĤал ог +ส à¹īม +ĠÑĢ ÐµÐ¹ +ĠÑĢей ÑĤ +ĠÑĢейÑĤ инг +Ġth uyá»ģn +ĠاÙĦÙħ ÙĤدس +esp ère +ãģ«åħ¥ ãģ£ãģŁ +หมาย à¹Ģลà¸Ĥ +ת×Ĺ×ķש ת +à¸Ļ à¹Īะ +Ġpe ÅĤ +ĠpeÅĤ ne +Ġpé rd +Ġpérd ida +หม วà¸Ķ +หมวà¸Ķ หมูà¹Ī +иÑĩеÑģк ÑĥÑİ +çµĤ ãĤı +çµĤãĤı ãģ£ãģŁ +Ġ×Ĵ ×ķ×Ĵ׾ +à¸Ĺำ à¸Ħวาม +à¸Ĺำà¸Ħวาม สะà¸Ńาà¸Ķ +Hot éis +Ġз аÑĢ +ĠзаÑĢ ÐµÐ³Ð¸ÑģÑĤ +ĠзаÑĢегиÑģÑĤ ÑĢи +ĠзаÑĢегиÑģÑĤÑĢи ÑĢова +ĠÑģ обÑĭÑĤи +ĠÑģобÑĭÑĤи Ñı +Ġ×ĸ ׼×IJ +ÙħÙĨظ ÙĪÙħØ© +Ġ×Ķ×ŀ צ +Ġ×Ķ×ŀצ ×Ļ×IJ×ķת +Ùħ ÙĥÙĪÙĨ +ÙħÙĥÙĪÙĨ ات +ä¸ĬãģĮ ãĤĭ +Ġm ÄĻ +ĠmÄĻ sk +หรืà¸Ń à¹Ģà¸Ľà¸¥à¹Īา +ëĤ ® +Ġnok tas +Ġnoktas ı +ĠболÑĮÑĪ Ð¸Ð¼ +ĠлÑĥÑĩ ÑĪиÑħ +Ø´Ùĩ ÙĬد +à¸Ńำ à¸Ļ +à¸Ńำà¸Ļ วย +à¸Ńำà¸Ļวย à¸Ħวาม +à¸Ńำà¸Ļวยà¸Ħวาม สะà¸Ķวà¸ģ +Ġе в +Ġев ÑĢ +ĠевÑĢ Ð¾Ð¿ +ĠевÑĢоп ей +à¸ī าย +ìĦ Ń +Ùħ Ù쨧 +ÙħÙ쨧 ÙĪØ¶ +ÙħÙ쨧ÙĪØ¶ ات +ë¹ Į +赤 ãģ¡ãĤĥãĤĵ +ĠÑĥдал оÑģÑĮ +ĠÐ¥ оÑĤ +ĠХоÑĤ Ñı +przedsiÄĻbior c +ĠH ôm +íķĺìĺĢ ìĬµëĭĪëĭ¤ +Ġн аг +Ġнаг ÑĢÑĥз +ĠнагÑĢÑĥз к +Ġ×ij×Ļ׳ ׾×IJ×ķ×ŀ×Ļ +Ġê°ĢëĬ¥ íķľ +ĠH ữu +à¸Ń ุà¸Ķ +à¸Ńุà¸Ķ ม +ת ×ķפ +ת×ķפ ×¢×Ķ +Ġmi ÅĤo +ĠmiÅĤo ÅĽci +ksi Äħż +ksiÄħż ka +ĠاÙĦÙĦ عبة +à¸ī าà¸ģ +สะ สม +×ŀ תר +×ŀתר ×Ĺש +Ġlég ère +Ġ׾צ פ +Ġ׾צפ ×Ļ×Ķ +ĠиÑģÑĤоÑĢ Ð¸Ñı +Ġ ãĥĪãĥ© +ĠãĥĪãĥ© ãĥĥãĤ¯ +ĠãĥĪãĥ©ãĥĥãĤ¯ ãĥIJãĥĥãĤ¯ +Ġк а +Ġка ÑĦе +×ŀס×ŀ ×ļ +Ġc üm +Ġcüm le +à¹Ģà¸Ħลืà¹Īà¸Ńà¸Ļ à¹Ħหว +ãģĬ ãģĿ +ãģĬãģĿ ãĤīãģı +ìŀIJ ëıĻ +ìŀIJëıĻ ì°¨ +à¸Ńั à¸ķ +à¸Ńัà¸ķ à¹Ĥà¸Ļ +à¸Ńัà¸ķà¹Ĥà¸Ļ มั +à¸Ńัà¸ķà¹Ĥà¸Ļมั à¸ķิ +ĠÅŁ ik +ĠÅŁik ay +ĠÅŁikay et +extr ême +kr ä +krä fte +ëĤ Ļ +íķ ij +ì² Ļ +íĺ Ī +ì° į +âĻ ¡ +ìŀ Ķ +ë¢ ° +íĿ Ķ +íĿ IJ +âĩ Ĵ +ë§ Ľ +ìĬ Ī +á» Ĵ +ìĺ µ +âĹ İ +í Ĥ¨ +ê¿ Ī +ìĪ ¨ +ìĽ ¨ +ë§ ¥ +ï½ Ģ +ï¼ ª +Ạ¨ +ãħ İ +Ñ Ĺ +ìĦ ¬ +ì¹ ¼ +ï¼ ¶ +ìĽ ł +ëŁ ´ +Å ĥ +ëĤ ¼ +ëĭ IJ +âĢ ¹ +ë¦ Ń +ì§ IJ +âĢ ¤ +à ħ +ëľ ¨ +íĦ ¸ +íľ ĺ +ê² ģ +ë´ ħ +à ĺ +ëŃ Ķ +ëĺ ij +âĹ ĩ +ìĹ ĺ +ï» ´ +ë§ ¹ +ï¾ Ŀ +ìĬ · +íĥ ķ +ï¼ ł +ì» ´ +ëł Į +ì½ ľ +ï» ¹ +ãħ ł +ì¡ ¸ +ëħ ¹ +âĤ º +âĸ ¶ +íĥ IJ +êµ ´ +íij ¸ +Ñ Ķ +íĶ ½ +Ð ħ +ë° ¤ +Ô ģ +ì² ¨ +ì¶ ĺ +ë² Ĺ +ë© ¸ +ï¼ » +ï¼ ½ +ï¼ · +ì° Į +à Ĵ +íı ´ +ìĵ ¸ +ì´ Į +ëģ Ķ +ëĶ © +ëĩ Į +ë© Ģ +ë² ¨ +ï¼ µ +ë§ ¡ +ëĭ « +ภ¿ +ãģ ± +ìĩ ¼ +ìº ł +ë® ¤ +ê± ± +ì» ¬ +âĦ ĥ +ëĶ ± +ëĥ Ī +ìĭ ± +íĻ Ī +ëŀ IJ +ìħ Ģ +ìł ł +Ð Ĩ +ëł ī +ï½ ħ +ï½ ı +íĻ Ģ +ëĽ ° +á» ® +í Ĥ¹ +ê½ ĥ +ï» ¤ +ïº Ķ +êº ¼ +ìķ ī +âĻ ¦ +ï½ ģ +ìĵ ´ +ãĢ ī +ì° ® +ì¤ ĺ +á» ª +ëģ Ħ +ëIJ ¨ +ìķ Į +íĿ ĺ +íħ IJ +ãĢ Ī +ê² ª +ëĭ ¥ +ê² ¼ +á» Į +ë§ ¨ +ëģ Ĭ +ë² ¤ +ëij Ķ +íĿ ¡ +á» ¬ +ë¬ ĺ +ãģ ī +ëŀ « +íĶ Ī +í ħį +ìŀ ĥ +ï½ ī +ìģ ľ +âĸ ½ +ë¬ » +âĸ ³ +ï¼ ¸ +ìģ ĺ +ì¶ ° +ìĬ ´ +ìķ ± +ìĩ Ħ +Ạ® +ï´ ¿ +ï´ ¾ +âĤ ½ +ëĦ ĵ +ë£ © +ì³ ¤ +ê´ ľ +Ã Ļ +á» ľ +ï¿ £ +ëĵ Ń +ë© ĺ +ê» ´ +ëł ´ +Ð ĥ +ë¬ µ +ì§ Ŀ +ãģ º +ðŁĺ Ĥ +ëŀ ¬ +ìł Ĭ +ê´ Ħ +ìŀ Ĭ +íŀ Į +ìĦ ¯ +âĪ Ģ +âĸ ¡ +ëĢ Į +ëŀ Ļ +ï½ ĥ +Ạ¶ +ï¾ Ħ +ïº ĺ +ë¹ ¼ +à Į +âĸ · +ê¸ į +ë© ĭ +ãģ ĥ +ìĺ Ĩ +ìĺ ® +ëª ¬ +ë¡ ¤ +ëł ¬ +ëĬ ¦ +âĸ ª +ì¼ ĵ +ìľ Ī +ì§ § +ï½ ½ +ëĥ ī +ï¾ Į +ëĺ IJ +ï¼ ĥ +á» Ħ +ì´ ¬ +ì¶ ¤ +ï¼ ¹ +ï» Ń +âĤ « +ï½ ĩ +ìĺ · +ëĸ ¨ +âī « +ë¦ ¿ +âľ ¨ +Ù ± +ì¯ ¤ +ê¹ Ķ +ðŁĺ Ĭ +ìĪ « +ê³ ± +êµ ³ +ï½ ĭ +ภĮ +Ä ł +ëĶ ¸ +ë° ij +ìħ ĭ +íİ ´ +âľ ħ +íĥ ij +ëĪ ĩ +íı ¼ +ðŁĺ į +ìĺ Ľ +ï» £ +Ñ ĺ +ì© Į +ë¦ ħ +ìĿ į +ï½ ¸ +ëį ľ +ãģ ħ +íİ ¼ +ëĭ Ŀ +ë¿ Į +ì¼ ° +ìĭ « +ë° ¥ +íĽ Į +ì¨ Į +ë¹ Ļ +ï½ İ +ë´ Ħ +ìĦ ¹ +ï½ ² +ìĮ ĵ +Ò ij +ë° į +ëł Ģ +íĨ ¤ +ï½ ¯ +ë¤ Ħ +ê½ ¤ +ï½ Ĵ +ìķ ¨ +ï½ ¼ +ê¹ IJ +íģ IJ +âĦ ĸ +ë§ º +ïº ® +ëħ ģ +ê² ¸ +ï» ł +íĬ ľ +Å ¹ +ë¥ Ń +ëĪ ī +ï½ Ķ +íĮ ¬ +ìŀ ĩ +ï ¬ģ +ï» ¨ +ëij ¥ +ëŀ Ħ +Ù ¬ +íĭ ´ +ìŀ ī +Ú ¾ +ìĽ ħ +ï» ® +ëĭ ī +âī ª +âĹ Ħ +ëĪ Į +íĽ ¼ +ì¤ į +Å ¸ +ì¤ ¬ +ì¾ Į +ï½ ĵ +ï¾ Ĭ +ðŁı » +ï¾ ī +Ð ģ +íĺ IJ +ï¾ Ļ +ê¼ ¬ +íŀ IJ +âĢ ¥ +ëŁ Ń +ë§ ŀ +ìĥ ¤ +ïº Ĵ +íĭ ± +ë½ ij +à ķ +âĪ ļ +ëĤ Ħ +ê¹ Ŀ +ëĨ Ī +Ạº +ìħ Ī +ìĮ į +âĢ ¡ +ï¼ ± +ìģ ¨ +âĺ º +ëĴ · +ìĺ ³ +ðŁij į +ëª ½ +ëĤ Ń +ïº Ń +ë© Ī +á» Ī +íķ Ģ +ëĭ Ļ +ë¦ ĩ +ìķ ¤ +ìį ¼ +ãĥ µ +Ñ £ +ìľ Ĺ +â ŃIJ +ï¾ ĺ +íĹ ¬ +ê¾ ¼ +ìķ Ĺ +ï» Į +ê± · +ëħ ķ +ë¡ ± +ìķ Ĭ +ï¾ Ģ +ìĩ ł +íĮ © +ïº ª +ë§ Ļ +ï¼ ¿ +ê¿ Ķ +íİ ľ +ë£ ¸ +íĶ Ķ +ï» ³ +ëı ķ +ìĭ ¼ +á» İ +ë§ ĺ +ì¢ ĭ +íĨ ¡ +ï½ ± +íĿ ij +á» ¸ +ì¦ Į +ì¹ ¸ +ëŃ ĺ +ï¾ Ĺ +ï» ĭ +íĬ Ģ +ë¥ Ļ +ì½ © +ëģ Ĺ +ëį ´ +ìħ ľ + ¸ +ë» IJ +ìĥ µ +ê² IJ +ëĵ ¬ +ë£ ° +ãħ ĭ +ìĹ ī +á» ĸ +ëĦ Į +ï½ ¶ +ë´ ĩ +ëĤ ³ +ãĤ ľ +ëĸ » +íİ Ģ +ëį © +íķ ¸ +à · +ê¼ ¼ +ëĶ ľ +ë° ´ +ë© į +âĹ ¯ +ìĹ ij +ìĻ ¼ +ïº ij +ë¶ ķ +ë¡ ¬ +ï½ Į +íĨ ¨ +ïº ´ +ëł ĺ +ê° ¤ +ìĪ ² +Ñ ĵ +ìħ ī +ï» ĵ +ëĪ Ķ +ëį § +âĢ ¼ +ï» ² +ê° ± +ê¿ Ģ +ëĭ · +Ạ¸ +Ạª +Æ Ĵ +ëį ¤ +ìĪ Ń +ï½ Ĥ +ï½ Ī +Å ł +ë£ ¬ +Ñ µ +ëĸ ¡ +ëĥ Ħ +ìĦ ° +ëĵ Ī +ï¾ ĥ +ëĩ ¨ +ï½ IJ +êµ ½ +ìĹ ½ +ëĤ Ģ +ë¬ ¶ +ï½ · +ìı Ł +íĺ Ķ +ê¼ Ī +ëģ Ī +ì¥ IJ +ïº Ĺ +Ä Į +ëĪ ł +ëĸ ¼ +íĢ ´ +âī ¥ +ëĭ Ń +ì± Ļ +ê» ı +ë© ¤ +ìĥ ĺ +ëį ® +ë£ ¡ +ìĤ ½ +ãĪ ľ +Ä ¨ +âĢ § +ï½ º +Ä £ +ì¦ ī +ï¼ ¼ +Û © +âĪ Ļ +ë° ı +ë¹ ħ +ðŁĺ Ľ +íĪ ´ +ðŁĴ ķ +ãĢ Ĵ +ìŀ ĺ +ïº ¤ +ï½ ĸ +ë© ľ +ë² ¼ +ëĿ Ħ +ëļ ľ +ï» ĺ +ìĥ Į +ï½ Ħ +ì© Ķ +ï½ Ļ +ïº © +Û ŀ +âĺ İ +ìł ¤ +ëIJ © +Å Ŀ +âŀ ¡ +ï» § +Ð ı +ì« ĵ +ê³ ½ +É ij +ãĥ ² +ëĤ « +ë¦ ī +ì¢ ģ +ë° Ń +ðŁĺ ģ +ë¹ µ +ì² © +ì» µ +ðŁĺ ĺ +ë± ħ +âī Ī +ë¹ ļ +ï» ľ +ðŁĻ ı +íģ ° +ìĦ ŀ +ï¾ ļ +ìĺ ¹ +ë¼ Ī +ëĤ ¯ +ëŀ © +íļ ¡ +ï½ ķ +íĥ ĵ +ëĿ ł +ê³ ģ +ëĵ Ģ +ìĹ ł +ï¼ º +ë§ ij +ëĭ ¿ +ì¿ ¨ +ãİ ¡ +Ð Ĭ +íĦ ± +Å ¨ +ïº ³ +ï¾ ı +âĭ ħ +ê¼ ´ +âī ¤ +íĮ ģ +Î © +ê¶ ¤ +ìĪ į +âľ ¿ +ì½ ¤ +ëĪ ħ +íĨ ± +ãħ ľ +áIJ ħ +Å Ĵ +ðŁij ī +ï» ¦ +Ð ª +ë¥ ľ +íķ « +ï¾ ĭ +âĻ « +ê¹ ľ +ë° ¸ +ëĶ ĺ +íĿ ī +ï¾ ģ +ï¾ Ľ +ëł Ľ +ê² ¹ +ì¿ ¼ +ï» ¬ +âŀ ¤ +ðŁĻ ģ +ïº ł +ëĨ ¨ +ë¯ ¹ +ê¸ ĭ +ë» Ķ +ê¹ ĥ +ëij ij +íĭ ¸ +íİ Ļ +âŀ ĸ +ãĥ ½ +ì§ ļ +ï½ ¬ +ï» ¥ +íĮ ½ +âĢ Ĵ +ì ĮĢ +ìŃ ī +ëļ ± +ãĤ ŀ +íĭ Ī +ãĤ IJ +ëī ĺ +Î £ +ê³ ° +ë¹ Ĺ +ï¾ İ +ðŁĺ Ń +íĿ ł +ìĹ ¿ +ê° ļ +ì¤ Į +ë§ µ +ï½ ³ +ãģ ¢ +ï» Ĺ +âī ¦ +Ú ¤ +ë łģ +ê¼ ½ +ï» « +âī § +ì´ Ľ +ìł Ŀ +Ạ° +âĻ £ +ìº ĺ +âĪ ĩ +ê² ī +ë° Ł +ï» Ķ +íĸ ĩ +âĸ Ĵ +ðŁij ı +à ŀ +ðŁĺ Ĩ +ïº ¼ +âĿ Ĺ +ìº Ķ +ì¹ © +ëĸ ¤ +ëĥ ħ +âĶ ľ +ï½ » +Î Ķ +áĥ ¦ +ìŀ İ +âĺ Ģ +âĪ ¼ +ðŁĶ ¥ +ë° Į +ìł ĸ +íĹ Ľ +Î ķ +ïº ĥ +ë¶ ī +âĪ ŀ +íĥ Ń +à ĭ +âģ Ħ +ãħ ĩ +ëĦ ¥ +ëĭ ® +ëł · +íĮ Ŀ +ìº ¡ +ë· Ķ +ì© į +íĤ ´ +ëļ « +âĵ Ĵ +íķ į +âĻ Ĥ +ï¾ Ĩ +âĨ © +ìį © +ïº ķ +íĿ Ļ +Ñ ľ +íĤ · +íĿ ° +íĥ ± +ëķ IJ +ï¾ Ĵ +× ĥ +ëĮ Ħ +ìĺ ´ +ìķ µ +ê¹ ¥ +ëŀ Ń +ìª ¼ +ãİ Ŀ +ðŁĺ ħ +ëı ĭ +ëª « +ïº ¸ +ë® ¬ +ë² ħ +ëij ł +ìħ ° +ì» · +ëĶ ª +ëħ Ķ +ãħ ¡ +ìĶ » +íķ ı +ëį ± +ïº ¨ +ï¾ į +ï½ µ +ì¢ Ģ +íİ Į +ï» ° +ïº £ +Æ £ +ðŁ¤ £ +ï· º +ëĤ ļ +âĭ Ĩ +ë³ į +ðŁĺ Ħ +ìĸ Ģ +ìĻ ł +ëĨ Ķ +íĹ ¨ +ï» Ľ +ï» Ŀ +á» ¶ +ìĸ ĺ +ìİ Ħ +Ú Ĩ +ï» ŀ +ëĢ IJ +ê² Ķ +ï» µ +âĹ ¦ +íļ Ł +ê¹ ģ +ê° ĵ +ëĶ ´ +ìı ĺ +ëļ Ŀ +á» ł +ëŀ ´ +ëĦ ī +âĺ ŀ +ï½ ĺ +Å ½ +ë¦ İ +âĸ ¬ +ëŃ ī +âĩ Ľ +ìį ¬ +ïº Ł +Ë ľ +ë¶ ĵ +ìĽ ° +Å ľ +ëŃ ĩ +á» ² +Ë ļ +ëķ Ģ +âĺ ij +ðŁı ¼ +ìĸ ½ +âĮ Ĵ +Ð İ +É ¾ +íĮ ¡ +ï¾ ħ +ìŀ Ń +ï½ ¨ +ì¹ « +ìľ Į +Ò Ľ +êµ ¿ +ëĭ ¦ +âĶ Ķ +ï¾ ij +ì§ ĸ +ìº Ħ +ãĢ ĥ +Ê ¼ +ê² Ł +ï½ § +Ä ¢ +íİ ł +ë§ · +ê° ĩ +ìĭ ¹ +ðŁĴ ¦ +ï¾ ľ +ëĬ Ļ +ë² ¡ +Å ¿ +ðŁĺ ĭ +ðŁĴ ª +ì¿ Ħ +ë© ķ +ìŃ ¤ +ëĬ Ħ +ðŁĮ ¸ +ãĤ Ŀ +Ç İ +ï½ ļ +Ä Ĺ +ëģ ĵ +ê¶ IJ +áµ ī +ãĥ Ĥ +ê» į +ðŁĺ ¦ +ãĢ Ŀ +ðŁ¤ Ĺ +Ñ Ł +ìĹ İ +âľ Į +ìī IJ +à Ĩ +íĹ IJ +ðŁİ ī +Î ij +ï½ Ń +ðŁĴ Ļ +ìĽ ¬ +íĢ ĺ +ï» ¢ +ðŁĺ İ +íij ¼ +íĿ © +ï» Ħ +íħ Ģ +ëł IJ +ì¥ ¬ +Ð ĭ +ìĥ · +ëľ ¬ +ðŁĺ ĥ +ëĦ ¬ +ë¥ ¨ +ìĽ į +ï½ Ĩ +ï½ ´ +ãĥ ħ +à ı +ï» ª +âĻ ł +ëĬ ¬ +ë± Ģ +ë° ĭ +ìĥ Ģ +ï½ ¾ +ëĤ ± +ì» ¸ +ðŁĴ ĸ +ðŁij Į +Ñ ŀ +ì§ ± +Ë Ĩ +ðŁĵ ļ +âŃ ķ +ï¬ Ĥ +ï» ¡ +ëij ¬ +íĪ ¼ +âĸ ¸ +ê° ¯ +ê¹ ħ +ï½ ® +ëĺ ¥ +Ä ¡ +íĮ Ł +Ð Į +ìĨ Ł +ïº ĵ +ï» ¼ +à Ľ +ãĥ ¾ +ëĮ ĵ +íĴ ĭ +ìķ ĵ +ï½ ¹ +ëĤ ¡ +ðŁij ĩ +Ạ¼ +ãĢ Ł +ðŁĮ Ł +íĥ ł +ãĢ Ĩ +âĢ Ł +ë¸ IJ +ðŁĮ ¹ +ìł ¼ +ðŁĵ Į +ìĶ ¬ +âĹ Ģ +ðŁĴ ĵ +ê¹ İ +ìĤ IJ +ìĶ Į +Ñ Ľ +âĶ Ī +ë² ³ +ãİ ŀ +Õ ¡ +íĤ µ +ðŁ¤ Ķ +ëĢ Ķ +ìĬ IJ +íĻ ī +âľ ¦ +ëľ ¯ +ìł ¯ +ëĶ § +Î ¦ +Ë Ī +ìī ¼ +âĹ Ĭ +ëľ © +ëľ ° +ï¾ IJ +ë¿ Ķ +ìĹ ® +ì· Į +ïº § +Î Ĵ +ëµ Ļ +ï» Ĭ +ì° Ķ +íİ Ħ +ðŁĴ Ĺ +Ạ´ +ì° ¢ +íľ ¼ +ê½ Ĥ +ì± Ķ +ìī ´ +âĸ ¾ +íĪ ° +ëĭ Ľ +âĿ £ +ï½ ª +ðŁĴ ľ +Ë ĺ +ãħ ¤ +âĨ Ĺ +íĸ Ħ +âĻ ¬ +ìķ ° +ïº ľ +âī ¡ +ãĢ ĵ +ìij ¥ +íĮ į +íī ģ +ë» Ĺ +íľ ł +íľ © +âľ Ī +íĢ Ħ +ìĸ ĩ +ì¢ ĩ +íŀ Ļ +ëª ¹ +ãĤ Ľ +ðŁĺ ± +ëį Ł +๠ħ +êµ ¶ +Ù « +ìĶ ģ +âľ ª +ï¾ Ī +ðŁĻ Į +âļ ¡ +Î ļ +ì¼ Ī +ï¾ Ķ +ï¾ Ĥ +êµ ī +ïº » +ðŁĴ ĭ +á¹ £ +Ó Ļ +ìĨ ľ +ìĹ £ +âľ © +ìľ Ļ +ïº ° +Ạ² +ìŀ £ +âĿ Į +âĺ ģ +ìķ İ +Ä ½ +Û ģ +ãĦ ± +ëŁ ¿ +íĮ ¸ +ê½ ī +ìı ł +ðŁį Ģ +âĨ Ķ +ëŃ ¡ +ï» ģ +ï¼ Ħ +ðŁĴ ¥ +âĺ Ľ +íĹ · +ëij ¡ +Î ł +Î ¤ +âĦ ĵ +ïº · +Î Ļ +ëı Ķ +ì§ ¤ +âĶ ĥ +ãĦ · +Ç Ĵ +ðŁ¥ ° +ëĶ ķ +ìļ ¥ +ì¸ Ħ +íĽ Ķ +ïº ĩ +ïº ¬ +ðŁĺ ¢ +ë¹ ¡ +ìĶ ¹ +Å ³ +Ë Ŀ +íİ ij +ï¾ ĵ +ðŁĴ ļ +ëĬ ij +êº ¾ +íĨ ° +à ¿ +Ð Ħ +ëĮ IJ +ë½ Ģ +ì· Ħ +ðŁ ĵį +ðŁĻ Ī +âĹ Ī +ê¿ ĩ +ì¼ Ħ +íİ « +ðŁĩ · +âĶ ĭ +âļ ł +ë± ī +ì į° +ìĻ Ī +É ª +ïº ĭ +ðŁĺ ľ +Î Ł +ðŁ ĻĤ +âļ ½ +Å Ī +ë¹ Ķ +íĮ ľ +๠ı +ìĸ ¹ +íĪ Ń +ðŁ¥ ĩ +ãĦ ´ +ëĶ ¥ +ìŃ Ī +âĪ Ĩ +ëĸ ³ +ë± ĥ +ìŀ ¦ +ï» IJ +Î ľ +âľ § +Ï į +ìł ĵ +âĹ ķ +ëĴ Ģ +ï» Ģ +ðŁĶ ´ +ê½ ģ +ëĮ Ī +ëİ Į +ãĤ İ +⦠ģ +ì½ § +ï¯ ¾ +âĿ ¯ +ภħ +ðŁĻ Ħ +âĿ Ģ +ðŁĶ ¹ +âĩ IJ +êµ µ +âĩ Ķ +ë¶ IJ +ðŁĴ Ľ +Î ¾ +íĥ ¬ +âĿ Ħ +Ò £ +ãĢ ° +âĪ ij +âĺ ¼ +âī ł +Ò ¯ +ïº ¯ +ê¿ ¨ +âľ ĸ +Ê ĸ +íĢ Ģ +ê¾ Ģ +íĹ Ŀ +âĶ £ +ãİ ľ +ëĶ Ľ +ëľ ¸ +ï º« +ê¿ ° +ðŁĩ ¹ +Ç IJ +Û Ĵ +ë£ » +ïº ĸ +Ñ ļ +ëĬ ł +Û ķ +ê¹ ¡ +ë¿ ľ +ì² ¼ +ï¨ ij +ë¥ µ +ìį ¸ +íħ ħ +íij ¹ +Ö Ģ +ï³ Į +ãħ £ +ìij ¤ +ì½ ķ +ëķ ł +ðŁĮ ¿ +íĥ Ķ +ìĽ ģ +Î ¶ +âŀ ľ +ìĬ ĺ +íĽ Ĺ +ë© § +ìī ĺ +Õ ¶ +á¹ ĩ +ðŁİ ģ +ï½ ¿ +ï¼ Ĥ +á¼ IJ +âľ ķ +âŀ ¢ +ëĦ ¨ +ì» « +ì¯ Ķ +ì° ľ +ðŁĴ ° +íħ Ŀ +ãİ ı +ë³ ¶ +Ò ĵ +âĨ ³ +ìĥ ´ +íģ ĺ +âĸ Ģ +ë² Ļ +ภĥ +á½ ¶ +Ä ķ +⬠ĩ +ë¤ ĺ +ðŁİ µ +âľ ļ +ïº ı +Î ¡ +âĹ ī +ðŁĴ « +Ð Ī +ìĸ Ħ +ì§ Ļ +ï» ĥ +ðĿij Ĵ +ëŃ Ħ +âĿ ¥ +âĿ ĸ +âĺ Ŀ +Ê ¹ +Ḡ¥ +âĢ ¿ +ãħ ħ +ê¸ ģ +ëķ ¡ +ëį ¥ +âĪ © +ê» Ħ +ë® Į +Ò ± +âĪ Ĺ +ëł Ļ +ïº Į +Ë IJ +ðŁĺ ³ +ðŁij © +ðŁİ ¶ +ì¿ µ +ðŁ¤ © +ê· ¤ +ëĮ Ķ +ïº IJ +Ï İ +ì¶ ¥ +ï½ Ĭ +á¹ Ń +ë¤ ¼ +âĸ « +ì§ ł +á¼ Ģ +ê» ij +ëĮ ģ +íĢ ¸ +âĻ Ľ +ðŁĴ ŀ +âĸ ° +ðĿij ĸ +ëĿ ¤ +ठ¦ +ì´ ĺ +ðŁĺ ĩ +ëĶ ¤ +Î Ĺ +ðŁĻ ĩ +Ë Ľ +ì© ¡ +âĪ § +Õ ¥ +Ñ Ļ +ëIJ ¬ +ëĸ Ħ +ðŁĮ · +ìĹ Į +ðŁĺ ¥ +ëĪ ´ +ï» ļ +É Ľ +ïº Ħ +ï» ı +Å Į +ë² ļ +ìĭ £ +ïº Ģ +Î ĵ +ðŁĺ Į +Ë Ļ +ëŀ ı +ðŁĶ ¸ +ðŁĵ · +ëģ ½ +íģ ½ +ðŁĴ ¡ +ðŁĮ ± +ëº ı +ìģ ł +ìĥ IJ +ëı Ĺ +ì¸ ° +ëĪ ķ +Î Ŀ +âģ ī +ðŁĮ ¼ +íĮ ł +âĭ ¯ +áĥ ĺ +âľ ¤ +ê± Ķ +íĮ İ +ðŁĴ ¯ +ìı Ļ +íĹ ī +Ù Ń +ì½ ° +ïº ¿ +ï» ± +ì± Į +âĺ ķ +ðŁİ Ģ +Ä Ŀ +ë° § +ìĤ ¿ +áij ķ +ðŁį ĥ +âĩ ¨ +Î Ľ +ë§ ´ +ë³ ķ +á ijIJ +âĸ ĵ +ðĿ ijľ +âĻ » +íĤ ¥ +Õ ¸ +ãĪ ± +ëº Ģ +ì² ¸ +ïº Ľ +ðŁı Ĩ +ðŁĩ ª +âĿ ĵ +Ä Ģ +ì½ ¥ +ðŁĩ § +á½ · +âľ Ĥ +ìŀ ¼ +ï§ ¡ +ðŁĵ ¸ +âĻ ¯ +É Ķ +á½ ¸ +âĮ ª +ï» ĸ +ï¥ § +âļ « +âĶ Ĺ +ðŁĮ Ī +ï» © +ðŁĵ ² +Ï Ī +ðŁĺ ¡ +ðĿij İ +ìľ ½ +ì§ ¬ +ì§ Ĭ +á½ ³ +ìĮ ¤ +ëĤ į +âī Ĵ +ðŁij ¨ +âĺ ĺ +Ó © +âĤ ĵ +âĪ Ĥ +ï¹ ģ +ðŁĴ IJ +íħ ĥ +ðŁı ½ +ê· Ħ +ðŁĺ ı +ðŁĮ º +ðŁĺ Ķ +ï½ « +âľ İ +ëµ Ī +ðŁĩ ¸ +âĢ £ +âŀ Ķ +ëĺ ĺ +ìĥ ¬ +Ê ĥ +⬠ħ +ì© IJ +ðŁĻ Ĩ +ðŁİ Ħ +Ä ¾ +⣠¶ +áĥ IJ +âĺ » +ì± ķ +ìģ © +ë½ ķ +ìº £ +ðŁij Ī +ðŁĻ ĭ +ï¾ ĸ +Ò ļ +Õ « +ìĮ Ī +ë² § +ðŁĩ ® +ï½ Ŀ +ðŁį ģ +ìĹ ¥ +Ä ³ +ë½ IJ +íį ½ +íĽ ij +âĤ ¹ +ãħ ģ +ìĶ ½ +ðŁĶ ģ +ठ¯ +ê¾ ¹ +ëī ľ +âĹ ¡ +íķ Į +Î ĺ +ë£ ¹ +ìĻ ĵ +ðŁĩ ¦ +ðŁij Ģ +âĶ Į +á¿ ¦ +ëĦ Ľ +ìĦ £ +ìŃ Ļ +ï± ł +Î ŀ +Ê » +á¿ ¶ +âĿ Ŀ +ê± Ģ +ëĸ ´ +ãĦ ¹ +ðŁĴ İ +Ï ¹ +⼠ħ +ï» ķ +ãĥ ± +ï½ Ľ +ëĮ ķ +ë¹ ½ +ì¥ Ķ +ì¿ ¤ +ðŁĸ ¤ +Ñ Ĵ +ê¹ į +ëİ Ģ +ìĭ ¯ +ë» ¤ +ðŁĵ ŀ +ðŁĵ £ +ðŁĺ Ŀ +ìį ¹ +ìĹ ¡ +ì° IJ +á½ IJ +ï» Ī +âľ į +Ä ı +ðŁĮ ŀ +âĦ ¦ +ê½ Ŀ +ë» ĺ +ìĪ ± +âĶ ĺ +ðŁĮ » +âĤ ´ +âŀ ¨ +íIJ ģ +ê ¶Ī +âĺ ¢ +ðŁĺ Ī +ï½ © +âĦ Ĺ +ê° Ń +ê° ¸ +ë» ij +ì¥ ´ +ì» ¥ +ï¤ Ĭ +ï» Ĵ +ðŁĺ ķ +âĺ Ķ +ìĺ IJ +ðŁļ Ĺ +ëĹ Ħ +ë§ ı +Õ ½ +âĸ » +⣠µ +ìī ° +ï» ij +âĻ © +Î ¥ +ðŁĺ £ +âĬ Ĥ +ãħ Ĥ +ìħ ¸ +íı Ħ +âľ ½ +ì¦ Ļ +âĸ £ +ê± į +ê¿ ĭ +ì« Ħ +ìº ĩ +ðŁĩ µ +ðŁij ij +âľ ĺ +ðĿij Ľ +ìį ½ +ìº ī +ï¬ µ +ðŁĶ º +âĦ ® +íĥ ¤ +ðŁĩ º +ðŁĴ µ +íħ ¨ +ï½ ij +Î ¨ +ìĥ ¹ +ìĸ ķ +ì¹ µ +ðŁĵ ± +ठµ +ðŁij Ĭ +ðŁĴ Ħ +ðŁĴ Ŀ +ãĮ Ķ +ìĻ ģ +Ð ĩ +à® IJ +âĸ ¹ +á´ Ľ +âĹ ĺ +ëº ¨ +íĥ ī +ìĸ Į +ðŁIJ ¶ +ãĤ ij +Ë ĩ +Å ı +á½ ¹ +ìħ § +ï¹ ° +ðĿij ¡ +ðŁĶ Ŀ +ðŁĺ » +ðŁĴ ĥ +ðŁ¤ ¦ +ðŁį Ĵ +íĢ µ +âľ Ĩ +ë¹ ´ +ï§ ¤ +ï» Ļ +á´ Ĺ +ðŁĮ ´ +Í ¾ +ëĮ ij +ì¨ ĭ +ìµ ¸ +ðŁİ Ī +ðŁı ł +á½ ± +Û Ĩ +á¿ ĸ +âĢ Ľ +ì° ¼ +íķ ¥ +íĹ ´ +ðŁĩ ¬ +ì° Ŀ +âĪ ł +ï¼ ĩ +âĬ Ļ +âĿ ij +ëĦ ĭ +ëŀ Ĺ +ë° ī +ìĹ Ĭ +ì¢ Ĩ +íĮ ¥ +ï° ² +ðŁĵ ĸ +ðŁĺ ® +âļ ª +ðŁĺ ļ +âĿ ŀ +ðĿij Ł +ðŁİ Ĥ +Å ķ +áIJ Ī +êº ½ +ì± ł +ïº Ŀ +ê¿ ī +áĥ ł +ðŁı ĥ +ðŁĴ ¸ +âĿ ģ +âĹ ¾ +Ú ª +á¹ ĥ +íĬ ¬ +ðŁĩ ± +íİ Ń +ðŁĺ ŀ +ë¾ ° +á¹ Ľ +ëĽ ¸ +âĿ Ĥ +êĴ ³ +âĶ IJ +íĵ ° +âŀ ł +ê´ ĺ +ëħ ĺ +ë» ¥ +ì¾ ħ +ðŁĺ IJ +âĪ ª +ðŁij ģ +âĪ ´ +âĹ ģ +ëº IJ +ìŀ ¤ +ì± Ĺ +ðŁı ¾ +Î § +á½ » +âŀ ¥ +ìŁ Ī +ï» ī +âĸ Į +ãĥ ® +ðŁ¤ ¤ +âĩ ĵ +ì¼ ł +á´ ı +ë§ ¬ +ë» £ +ðŁĴ ¬ +ðŁį ĵ +Ä ¸ +Ù ¹ +Ê ¿ +á½ ° +ëķ ľ +ì° ¡ +ì° » +íİ į +ðŁİ ¯ +ðŁį Ĥ +ðŁij § +âĻ ¢ +áĨ ŀ +âĻ § +âļ ľ +âľ ī +ëĵ ¦ +ëŃ £ +ìĪ ı +ìĵ ± +Å Ń +Ê Ĭ +âĴ ¸ +âĩ © +ðŁĴ Ķ +Õ µ +Ð ī +Ò » +ë§ £ +ìĽ ľ +ì¿ ¡ +íĽ ħ +íĽ ¤ +ïº ¢ +âľ ĭ +âĪ Ī +ðŁĮ į +Ê ľ +ëĬ ª +ëĴ ¹ +ïº ² +âĸ Ħ +ãħ Ī +ëļ ¤ +íİ © +âĪ ¨ +ðŁ¤ ª +áĥ ļ +ê³ ¶ +íĬ ķ +ðŁĺ ¬ +âĪ « +ðŁij ĭ +Ò IJ +íĬ ¿ +ðŁĶ µ +ðŁĴ ¨ +ðŁĮ Ļ +ëĩ © +âľ ³ +ë¨ ģ +ëº Ħ +ìĻ ij +ìº ħ +íı Ī +ðĿij Ļ +ðŁĴ ĺ +ãİ ¥ +âĿ ı +âľ ° +ï¯ ¿ +ëµ IJ +ì¼ IJ +ïº ± +Õ ´ +ï¬ Ģ +âľ ´ +ðŁ¤ Ń +ðŁij Ĩ +âĽ Ķ +ê· ĵ +ìĮ Į +ðŁ¤ · +Û Ķ +ðŁ§ ¡ +ðŁĺ ĵ +Î ĸ +âı ° +ê² ľ +ëĭ ³ +ëİ ħ +ë° Ī +ï® IJ +ðŁı ¡ +âĨ ª +âĵ Ķ +âľ Ĭ +Ï ² +Ü IJ +ðŁĩ ³ +Ö Ĥ +âľ ı +ìĸ Ĺ +ì« Ļ +ðŁĺ ² +Ä Ń +âĻ Ń +âĶ ı +âĹ Į +ðŁĺ ¯ +áµ Ĵ +íĬ ł +Ä · +Ê ģ +à¤ Ł +á¹ ģ +á¼ ° +á¿ Ĩ +â « +â« ¸ +ëį « +ì³ ĩ +ì¼ ¤ +íĽ ¨ +ðŁĴ Ł +Ê Ģ +Ê ³ +ëĵ IJ +âķ ° +âĿ ĩ +Ç Ģ +Ç Ķ +É ´ +âĺ ļ +âĺ ľ +ê¶ Ĥ +ì« Ĵ +ì± Ī +ðŁĩ ¨ +ðŁİ ¥ +ðŁĵ Ŀ +Ä § +ðĿ ijIJ +Û Ī +ठ¬ +ì¬ IJ +íĹ ¥ +âĻ ¨ +ðŁį ´ +ï¹ ı +Ë ĭ +ðŁ¥ º +âĸ ¨ +íĻ ĭ +âĪ ħ +ëģ Ļ +ëŀ ł +ìĨ ¥ +âĢ ĸ +ðŁ¤ ĺ +ðŁIJ » +áµ ķ +Ç Ŀ +âĺ ı +ïº ļ +ï» Ĥ +ðŁļ © +ìĪ Ł +Ë Ĭ +⤠µ +ðŁĴ § +ã ħį +ë© © +Æ ¬ +Î ĩ +âĩ § +âĵ ļ +ìĤ ¯ +ìĪ ¯ +ëĨ ĭ +âľ ¯ +ðŁļ Ģ +Ú ĺ +Ú ¨ +âľ Ń +ê² ħ +íĮ ° +íľ Ļ +ðŁĮ Ĭ +ðŁİ ĵ +ðŁĺ Ļ +Ë ĥ +ðŁĴ ģ +ðŁij İ +âĺ ¹ +ðŁĺ « +ðŁĴ » +ëĤ µ +ìĿ Ĭ +íĮ » +Ò ³ +á½ ² +âŀ ŀ +ëĤ ij +ëĿ Ī +ì£ ¤ +ï» ¯ +ðŁĩ © +ðŁ¥ ³ +âĴ ¼ +ðŁ¦ ĭ +âĺ Ĥ +ðŁĺ ° +ðŁĻ ĥ +ðŁĺ Ĵ +Û İ +Ï ķ +Ḡ¤ +ë£ ½ +ìĬ ¥ +ðĿij ī +É IJ +ðŁį İ +âķ ¯ +âķ ¹ +ຠ² +ï¾ ł +ë¹ ķ +ïº Ĩ +Ê º +Ó § +âĨ ł +ëĥ ĩ +ìİ Ī +ìŁ ¤ +ï± ¢ +âķ ¬ +âĺ ł +ðŁİ Ĭ +ãį į +ãİ İ +âĺ ° +âľ ĥ +ãħ ī +ë¯ Ī +ë¹ ¤ +ìı Ń +ðĿij ¢ +ðŁIJ ¾ +Å ĭ +ðŁij ¶ +âĶ Ľ +ï¿ ¢ +áĥ ¡ +Ä ¼ +Å Ĩ +Ñ IJ +ìĥ Ľ +ìĺ Į +ì± ¤ +íħ ģ +íļ ĥ +ï³ Ĭ +ðĿij Ķ +ðŁĩ « +âĭ ° +ðŁĺ ¨ +âĤ © +Õ ¬ +Ḡį +á» ´ +âĨ ĺ +âĺ ¯ +ãħ ı +ìł ¬ +âĻ Ķ +ðŁĶ Ķ +ðŁĺ ł +ðŁĻ Ĭ +à® ľ +á¹ ħ +âĹ IJ +âĿ Ī +âŀ ½ +ìĥ ħ +ðĿij ł +Æ ¢ +âĭ Ļ +ê° Ľ +ëĿ µ +ë£ Ł +ìı ľ +ïº ģ +ðŁĴ Ń +âĬ ĥ +ðŁIJ ° +ãħ Į +Ü ĵ +âŀ ķ +á½ ģ +ìķ ³ +ðĿij Ŀ +ðŁİ ¬ +É ¡ +à¤ Ĺ +áIJ ī +ì© ľ +ì¶ § +ï³ ī +ï» ħ +ðĿIJ ŀ +ठ¶ +ðŁĵ ¢ +ðŁį ĭ +ðŁĴ ħ +ï¾ ķ +⬠Ĩ +âĪ µ +ðŁ¤ ij +áĥ £ +Æ Ħ +Ñ ¹ +á¼ Ķ +ê° ł +ê´ Į +ê· IJ +ëĽ ´ +ì± ĺ +ï® Ń +ïº ¹ +ïº ¾ +âľ Ĺ +âĿ ¦ +ðŁij ¦ +áĥ Ĺ +Ù ² +á½ ´ +âĪ ı +âľ ® +ê¹ ° +ë² µ +ìĦ Ģ +ì© Ŀ +ïº ŀ +ïº ½ +ðŁĩ Ń +Ë Ĥ +ðŁį ij +ðŁį Į +ðŁĶ » +ê¹ ¬ +ìĬ Ń +ìľ · +ðŁĽ ij +Ç § +ë¼ Ľ +ïº ¡ +ïº º +ðĿij ļ +ðŁĵ ¦ +ðŁĶ İ +ðŁĹ ĵ +áĥ Ķ +âľ Ĵ +âľ ¡ +ðŁĮ µ +âĶ ķ +ëĢ Ŀ +ðŁį Ĭ +âĺ ĥ +ìĺ ħ +ঠ¬ +ðŁ¦ ģ +âİ ¯ +ðŁIJ ķ +Ñ ¿ +ॠ¤ +༠ĭ +ê· Ī +ì« Į +ðŁĩ ° +âĿ ī +ì« Ģ +íĿ Ħ +ðĿIJ ¢ +ðŁļ ¨ +âĻ ¤ +ðŁĺ © +ðŁį į +ðŁĺ ij +ðŁļ ļ +Ö Ħ +ë « +ë« ¼ +ठı +á¿ · +âĮ © +âĺ IJ +âŀ £ +ê¸ ± +ê¼ ¿ +ëĦ Ŀ +ìı ´ +ìļ ¤ +ì¿ ± +íİ IJ +ðŁĴ ¢ +ì´ IJ +âĩ ij +âĶ ĵ +âģ ¾ +Ü Ŀ +ðŁ į° +â´ ° +Æ ı +Ï Ł +Ú º +Û ĥ +áĦ Ĵ +âĪ Ł +âĿ į +ãĦ ² +ìľ ħ +ì¤ ı +ðŁĩ ² +êº Ħ +ðŁİ ¤ +âľ £ +⸠Ŀ +ï¸ µ +ຠ§ +áĢ Ļ +âķ ł +Õ ¯ +âı © +ðĿij £ +ðŁĴ £ +Å ĺ +ॠIJ +âģ ĥ +âĮ ĺ +ê» Į +ìĮ Ķ +ðĿij ĺ +ðŁ¤ ĵ +Õ ¿ +à¤ Ń +âĮ ļ +âľ Ŀ +ðŁIJ ¼ +Ë Į +âķ ļ +ï¦ Ĺ +âĿ ķ +âķ £ +ðŁIJ ± +à® ¤ +Ñ ¾ +ठļ +ठľ +ìĪ Ħ +ìļ ľ +ðŁİ ® +É Ĵ +Ú · +ຠį +âĨ µ +â Īĺ +âĿ Ĭ +ë¿ į +ìIJ Ī +ìļ ĺ +ì¯ § +íĥ ¯ +ìĸ ı +ï¸ ° +ðŁĩ ¯ +ðŁ§ ļ +ðŁĺ µ +ðŁĺ · +ðŁĮ ³ +ຠ¥ +Ä ī +Ä ¥ +âľ ¶ +á¿ ¾ +âĬ ± +âĺ ¾ +ê° ī +ê¼ ° +ëº ij +ðŁĶ Ĭ +ðŁĸ IJ +Å ¤ +Ò « +à® ® +âĮ Ī +âĹ Ĺ +ëĦ µ +ëħ ľ +ëľ ¹ +ðĿij ¥ +ðŁĴ ¿ +ðŁĽ Ĵ +Ê Ĵ +áŀ ĵ +ðŁIJ Ŀ +ðŁ¦ Ħ +ðŁį · +âĺ Ł +ï¸ ¶ +ðŁ¤ Ł +Ô ± +âĨ ² +âĪ İ +âľ « +ëĩ ½ +ëı IJ +ëķ Ħ +ï¦ ³ +ï§ Ŀ +ïº Ļ +ðŁij » +ðŁĵ º +êµ ¼ +ìĮ © +ðŁĮ ² +È ± +íĶ ķ +ðŁĺ ¤ +ãĮ ¢ +Ê Ķ +ठ¡ +á¼ Ī +ëİ ĥ +ë© ± +ë® Ī +ðĿIJ « +âĬ ķ +ëĥ ł +ë» ¬ +íĭ Ķ +Õ ¤ +á¼ ± +âľ ¥ +âĺ Ħ +âĪ ¥ +âļ ķ +ðŁij Ħ +ðŁİ ħ +àº Ļ +âĶ ¬ +á½ µ +Õ ¾ +Ö ģ +âĹ Ķ +ê¿ į +ëĸ µ +ë© İ +ë® ´ +ìķ ´ +áĥ ľ +á¼ ¡ +âĶ Ĭ +âķ ® +âĹ ¼ +ðŁį ¾ +ðŁĽ į +ðŁij Ĺ +ðŁ¤ ŀ +âľ Ħ +Õ Ģ +ঠ² +Ë ī +⣠¨ +Ä ¯ +Ï Ĭ +á´ ľ +ë¹ ³ +ï³ ĭ +ï¿ ł +Ä ª +âĤ ¸ +âľ ± +ê» IJ +ëĭ » +ë§ ¸ +ìŀ ¿ +ì© ¨ +ì ŃIJ +ì° ¿ +íħ Ł +ðĿIJ § +ðĿij ij +ðŁĮ İ +ðŁĵ ® +ðŁķ Ķ +âĹ Ļ +âĹ » +âŀ § +ìŁ Ŀ +âľ ¬ +ãĥ ° +âģ Ī +â ĵĺ +ðŁ ĴĮ +ï¬ ĥ +àº Ķ +ìĶ ° +ðŁĺ ª +× Ģ +ìĥ ¨ +ïŃ ĭ +ðŁį ķ +ðŁĺ ´ +Ï ³ +á¼ Ħ +á½ ħ +âĩ ¢ +âķ Ń +ìĺ » +íĬ ¤ +Ü ĺ +⤠´ +âĹ į +áŀ Ł +ðŁį º +áŀ ļ +ðŁı Ĭ +ðŁIJ · +Ê Į +á½ º +âģ » +ê½ Į +ëĪ Ĺ +ë Ĺı +ì¿ ° +íĢ ¼ +íį ħ +ï· ² +ðŁĮ ı +ðŁį « +ðŁį ³ +ðŁİ ° +ðŁij ° +ðŁĴ ² +á¥ Ļ +ðŁIJ Ł +ï¿ ¡ +ðŁĹ £ +ðŁį ľ +âľ ² +ãİ ¢ +ðŁĶ ° +á¼ ¸ +á½ ij +Ä İ +áĦ Ģ +âĻ ķ +ëł Ŀ +ìĪ ´ +ïŃ Ń +Ó ľ +Ô Ģ +ëĢ ľ +ëĥ Ķ +ìĬ Ľ +ì« ij +ìº ¥ +ìº ¬ +ðĿij ¦ +ðŁĶ ¶ +ì¾ ¨ +ðĿIJ ļ +ðŁį » +ðŁĴ į +ðŁ¤ ¡ +ðŁķ Ĭ +â½ ĩ +âĵ IJ +ðŁį Ń +ðŁį ª +ðŁĶ Ĩ +Ò ¡ +á´ ĩ +É Ĺ +Ü Ķ +âĦ İ +âĿ ĥ +ëĹ Ģ +ï² Ķ +ïº Ī +ðĿIJ » +ðŁĴ Ĭ +ðŁļ « +Ñ ° +Ñ ³ +ठ· +âĹ ł +ðŁij ¤ +ï¾ ĩ +âĺ ĵ +ðŁį µ +ðŁ¤ ¨ +âĸ Ń +à® ´ +Ü ¢ +Ü ¬ +à´ ® +ðŁķ º +Ô ¹ +Õ £ +à´ ¯ +á ´Ģ +âĮ ī +âľ IJ +âŀ ¦ +ê¹ ½ +ëĮ ľ +ðŁı ¥ +ðŁĵ © +Ò ¹ +Ó ĺ +ठħ +âĿ § +Æ Ĺ +âĹ ½ +ðŁij « +ðŁİ § +ðŁij £ +âľ » +ðŁĻ ħ +ðŁĺ ĸ +ðŁĴ ® +ຠ° +ðŁĶ ľ +ðŁį Ħ +ðŁ¤ Ŀ +á ĥĿ +áŀ Ģ +âĩ ¦ +Ê ¾ +Ò ® +Õ ¼ +ठĨ +âĹ ħ +âļ ĵ +âļ ĸ +ê¿ © +ë¯ Ħ +ìIJ IJ +ìŀ ° +ì§ Ń +íĭ ĭ +íİ ¨ +íĻ § +ï² ij +ðŁİ Ĺ +Ù ³ +ðŁij ¸ +ঠ® +ðŁij ķ +Ú µ +âĢ ¾ +âŀ ° +ðŁij ¯ +ðŁİ ¼ +ðŁı ģ +Ä º +Ê ı +Ú ³ +âı ± +ê½ Ī +ëĿ Į +ìĮ ī +ìĹ · +ìŀ ´ +íĹ ¹ +íľ ¨ +ðĿĹ ² +ðŁĮ IJ +ðŁİ Ļ +ðŁı µ +íĽ Ļ +ðĿij ħ +ðŁĺ ¶ +âĵ ħ +âķ ¥ +ðŁį ı +ï¦ İ +Õ © +ðĿIJ Ħ +Ó £ +Ú ¿ +âĻ ļ +ðŁĶ Ĺ +Ḡ« +âĭ ® +âĸ ¦ +⼠½ +âľ µ +ãħ Ĩ +ãħ Ĭ +ëĦ Ļ +ëĿ ¨ +ë¥ Ħ +ìĦ ¦ +ì§ ° +ì§ ¹ +íī Ī +ï§ ij +ï» ĩ +ðŁĮ ¾ +ðŁı ĸ +ðŁIJ ij +ðŁĴ ³ +ðŁĵ Ĩ +Û ĩ +Ü ķ +á½ ½ +ëĦ ľ +à´ ² +à´ ³ +àº Ń +áĥ Ľ +âĿ Ķ +âij ħ +áĥ ¥ +ðŁĵ ħ +âŀ ³ +á´ µ +ï¹ ¡ +ï¹ ¶ +Î Ĩ +ठ¥ +áī µ +âĿ Ļ +âĿ ± +ëī ł +ëİ ł +ëı Ľ +ë¿ ħ +ìĶ ¸ +íij ¯ +íŀ ī +íŀ Ľ +ï§ Ħ +ïŃ ĺ +ïº ¦ +ï» ¸ +ðĿij Ĥ +ðĿij ı +Ï ij +Ú ł +áĢ Ķ +áŀ Ķ +á¹ ¢ +ëĦ ¸ +ðĿIJ ¨ +ðŁĩ ´ +Õ ° +ðŁij ł +ðŁį Ĩ +ðŁı Ģ +ðŁ ijIJ +ðŁį ĩ +ðŁIJ £ +áĪ Ń +Ü ª +ðŁ ĮĢ +áŀ ĺ +âĩ Ħ +ðĿIJ Ģ +Ê Ļ +âĶ ¼ +ðŁı ¿ +Æ · +È ł +Ñ ½ +âĤ ¨ +ê´ Ń +ê¹ » +ëĶ ¨ +ìĪ Ģ +ì¾ ° +íĨ Ī +ï® § +ï¯ ½ +ðŁĶ ħ +ðŁĶ ® +Å ¢ +Ê ° +Ñ ¸ +ठ£ +âĬ Ĺ +ëª Ħ +ï¹ · +ïº ħ +ðĿIJ µ +ðŁĮ ¶ +ðŁĵ ° +ðŁĶ · +ðŁĸ Ĵ +ðŁ¤ ² +ëī © +ðŁİ Ĩ +ðŁ§ IJ +ðŁį ® +âĨ º +âĿ ¢ +ðŁij ª +ðŁij ± +âĨ ¡ +áŀ ı +Ú ķ +ðŁį ¹ +ðŁĴ Ģ +Ë ® +Ó ¨ +Ö ħ +ठĩ +âĤ ¡ +âĪ ķ +âĺ ī +ê¹ ¼ +ê¼ IJ +ì½ ¸ +ðĿIJ ¬ +ðŁı ħ +ðŁij Ļ +ðŁĴ ī +ðŁ¤ Ļ +È ĺ +É ³ +É ¹ +Ù º +áĢ Ħ +á¿ ³ +âļ ĺ +âĿ Ĩ +ëĨ ī +ìĸ į +ìĺ ĩ +ì¥ ĺ +íĸ ħ +íĻ ij +ï® Ĭ +ï¿ Ń +ðĿĴ IJ +ðĿĹ ¢ +ðŁĶ ĸ +ðŁĶ ¨ +ðŁļ ij +ðŁļ ² +Æ ¸ +âĹ ¥ +ðĿIJ Ń +ðŁį ½ +âĹ ij +âĵ ĩ +ðŁĶ ± +âľ ¼ +ï¹ ĥ +âķ ± +ãĢ Ĺ +ðŁı ĭ +ðŁļ ´ +ðĿIJ ® +Ä ļ +Õ ı +Ä ¶ +áĥ ij +á¹ ¬ +Ä Ī +Ä Ĵ +Ò ° +Ó ķ +â IJ +âIJ £ +âĹ ¢ +âļ Ļ +ãħ Ĺ +ê° ¬ +ê³ ª +ê» Ģ +ëĦ ´ +ëİ ģ +ëĿ Ķ +ë¬ ½ +ëŃ į +ìĩ ³ +ì° ¹ +íĮ ¹ +íŀ Ŀ +ï® ĭ +ï ¶Ī +ðĿĴ Ĥ +ðŁ¥ Ģ +ðŁ¦ ħ +Ê ĺ +á¼ ij +âģ İ +ðŁį ŀ +âĨ ĸ +âĨ Ļ +ðŁİ ĥ +âĦ ¡ +âĭ ± +ðŁĶ į +ಠ¨ +áµ ĥ +âĶ « +⦠¿ +ðŁĩ » +Æ ¤ +Ò ı +Ò · +Û ī +à® ķ +Ḡ³ +ï¬ ± +ðŁĨ Ķ +Ú Ń +Û ¦ +áħ ¡ +âĦ ¹ +ê¿ İ +ëķ Ķ +ë¼ ī +ìļ § +ì² µ +ì´ ¨ +íĬ Ī +íĸ IJ +ðĿĹ ĺ +ðŁĩ ¿ +ðŁİ ĸ +ðŁij ħ +ðŁ ĵĺ +ðŁļ Ļ +ðŁĽ µ +à¶ ½ +⼠µ +ðĿIJ ³ +ðĿIJ ¸ +âļ Ķ +ðŁij Ń +Ó ij +âĶ ¯ +ðŁħ ¿ +ðŁĺ ¹ +ï¿ « +â¼ ¤ +ðŁĴ ĩ +ðŁĵ İ +ðŁĸ ĭ +ঠ¸ +ðĿIJ į +Ä ² +Ï ĭ +Ñ ¬ +Ú ¬ +Ü Ĵ +á´ ¬ +ï¨ Ħ +É £ +Ë ij +Ï µ +Ò Ŀ +Û ¥ +Ü ł +๠Ľ +áĥ ķ +áĬ ķ +á¾ ¶ +âĤ · +âĩ ¾ +âķ © +âĸ IJ +âĺ ª +âĺ ® +âĿ ļ +âĿ Ń +âŀ ± +âµ İ +ãı Ĭ +ë© ĵ +ìĹ ¾ +ìª Ħ +íĵ Į +íķ ¼ +ïŃ ¬ +ðĿij Ĩ +ðĿij ŀ +ðĿĸ Ĭ +ðŁİ ¸ +ðŁı Ħ +ðŁij µ +ðŁĴ ł +ðŁĶ ĺ +ðŁ¥ Ĥ +Å ª +à· ĥ +á´ ¼ +âĬ ° +ë³ ı +ë´ £ +ï¥ ľ +ðŁĵ Ī +ðŁķ ¯ +ðŁ§ Ģ +âĻ IJ +ðŁĨ Ĺ +ðŁĵ ķ +ðŁ§ ģ +Ü « +âĿ IJ +Õ ķ +འķ +âŀ Ŀ +ঠķ +ðĿIJ ¶ +É ¢ +Î Ħ +áĨ ¢ +âĤ ± +Õ į +à¡ ķ +á´ ° +Ḡ© +⼠· +âĿ ® +ê¡ ĵ +ëı ¤ +ëĹ IJ +ëµ Į +ìij Ī +íı ¿ +íĹ µ +ðĿIJ İ +ðŁĨ ĺ +ðŁı Ł +É ¥ +Õ » +à¡ Ķ +ठĸ +á´ ¸ +âİ Ļ +âİ ¥ +âı ³ +ëģ ķ +ëĬ ī +ì¡ į +ì¹ ¡ +ï¦ ¶ +ï¬ Ł +ï® « +ï® ¯ +ï± ĥ +ï ·» +ïº µ +ðĿĹ Ķ +ðĿĹ ¡ +ðŁİ ¨ +ðŁĶ Ĵ +Ú Ľ +ठ§ +âŀ ¹ +áĢ Ģ +ðŁį ħ +âĹ ¤ +ठł +ðŁIJ ¥ +áĥ Ĵ +ðŁı Ŀ +ðŁį ¼ +ãĮ § +âĿ Ľ +ðŁIJ Ī +ঠ¯ +áĢ ŀ +ãĢ ĸ +áŀ Ļ +ঠª +Õ Ĩ +âĬ Ĩ +âľ ¾ +ðŁIJ Ĺ +ï¹ ¿ +Ä ¦ +Ü Ł +ಠł +ಠ¥ +áŀ ī +á´ ¥ +á´ © +á½ Ģ +á½ ¡ +âĨ ķ +âŀ ¯ +ê¡ ij +ëij £ +ë± Į +ìĪ ij +ìľ Ķ +ìŀ ½ +ì¨ į +ðĿij Ģ +ðŁĮ Į +ðŁį ¦ +ðŁį © +ðŁIJ ļ +ðŁĵ Ĵ +ðŁĵ ¹ +ðŁ¥ ij +Ä ĭ +Ë Ĺ +Ñ « +Õ ¢ +Ú ° +â ĮĢ +âĹ Ĥ +âĹ £ +âľ Ľ +âĿ Ĵ +âĿ ĺ +âŀ Ļ +âŀ ² +ãİ į +ê¡ IJ +ëŀ ĸ +ìĬ Ŀ +ìĽ ¤ +ì¡ ĭ +ì¨ ° +íĹ Ļ +ï¥ ¸ +ï³ į +ï» İ +ðĿij ĵ +ðŁĵ Ĭ +ðŁļ ¼ +ï¦ ģ +ðĿķ Ĵ +ðŁ ijľ +ðŁij ¿ +ðŁĩ ½ +à· Ħ +âĸ ´ +ãį ī +âĬ ĩ +ðŁ§ ¸ +Ú ¡ +â¾ ĥ +ðŁĹ » +âĵ ij +ðŁ¤ ¸ +ðŁ¤ ¯ +êĴ ° +ðĿIJ ĵ +âĶ ´ +êĴ ± +áĢ ĺ +â ĽĦ +ï¹ ¹ +Ó Ķ +áĥ ± +Ü ¡ +ß ŀ +âĻ ı +âľ ¸ +ìij ¨ +ðĿIJ Ŀ +ðĿIJ ¥ +ðŁį ī +ðŁij ¼ +ðŁ¥ Ŀ +Æ Ķ +Ý ¬ +ठ« +ຠļ +á´ ´ +á½ ĸ +âĤ ¶ +âİ ¢ +âĿ ħ +⣠« +ãİ Ľ +ë® ¨ +ëº Į +ë¼ ĺ +ìĨ Ŀ +ìľ ³ +ìŀ Į +ì£ Ĺ +ìª ĺ +ì» ¹ +ï· ¼ +ïº Ĥ +ðĿIJ ´ +ðĿIJ ¼ +ðŁĮ ļ +ðŁı « +ðŁĴ ¤ +ðŁĴ ¶ +ðŁĴ ¼ +Ê ķ +Ê ½ +â² Ł +ãī ł +ê¡ Ĵ +ëľ Ģ +ìĥ ¾ +ì¸ ¤ +ï¥ ģ +ðĿļ Ĭ +ðŁļ ĥ +âŀ Ľ +ìħ ´ +áĦ ĭ +âĩ Ĺ +ï§ · +âĺ ĸ +ðŁIJ ¦ +⸠ľ +ðŁĴ ´ +ðŁ¤ ļ +ãĬ Ĺ +âĮ Ľ +áĪ Ľ +༠º +â½ ī +ðŁı ¢ +âĵ ŀ +âĺ ½ +ãĢ Ļ +ðŁ¤ ® +Å IJ +áĥ ¬ +ðĿĹ » +ðŁį ĸ +Æ Ĭ +Ê Ł +ß ĭ +ठĭ +áµ Ķ +á¿ ĥ +âĦ ī +âĮ ĭ +âı ² +âĵ Ī +âĵ ¢ +âķ Ķ +âļ ij +âĿ ĭ +âĿ İ +â µľ +âµ £ +ëĴ Ī +ëľ ģ +ë¶ ĩ +ìį » +ìĺ Ń +ì§ ¢ +íĹ Ģ +ï§ Ĭ +ï ¬¸ +ï± ¡ +ðĿIJ º +ðĿij § +ðĿĺ ¦ +ðŁĵ ¥ +ðŁĺ Ł +ðŁ¥ IJ +Ä ĸ +É ¨ +áĢ IJ +áĥ ĵ +Ạĵ +á¼ ¶ +á½ Ħ +âĤ ¤ +âĮ ľ +âĮ Ł +âİ ł +⼠¸ +âµ į +âµ ı +âµ ĵ +ãĢ ĺ +ë ·¸ +íħ ¼ +ï¦ Į +ïŃ Ħ +ïŃ İ +ðĿĻ ļ +ðĿļ ĺ +༠ĵ +ëŃ ħ +áIJ Ľ +ãİ ¾ +ï¨ Ģ +ðŁĹ ½ +âĻ ŀ +Ë ĸ +âĹ ŀ +ðŁ¤ « +ðŁĺ Ĺ +ï½ ¦ +ðŁ¤ ¢ +âģ ĩ +ãĢ µ +ðŁį Ķ +áĬ ł +ðŁĺ ¼ +ðĿĹ ® +ðŁIJ ³ +ðĿIJ ĭ +ðŁĨ ļ +ðŁĶ Ľ +Ñ » +Ü ¨ +à® ² +âľ ŀ +âµ Ļ +êµ £ +ì¸ ¨ +ðĿ IJľ +ðĿĺ ° +ðŁĶ ½ +Ç » +Ç ¿ +Ê ĩ +Î IJ +Ð Ģ +Ñ ¡ +Ñ ² +Ò Ĵ +Ù ¶ +ß ķ +à¶ ± +áIJ ģ +âģ ŀ +âĸ § +âĽ Ī +âľ ľ +âľ ¹ +⣠¹ +⤠ĩ +ê² Ĭ +ê¾ ľ +ë¯ IJ +ë³ IJ +ìħ © +ìIJ ¬ +ìij ¹ +ï¤ Ķ +ï¦ ļ +ï¬ ł +ïŃ Ķ +ïº ¶ +ðĿĴ ı +ðĿĸ Ĩ +ðĿĹ ¶ +ðŁı Ĥ +ðŁIJ ½ +ðŁĴ © +ðŁĵ ½ +ðŁĹ ¨ +ðŁĹ º +ðŁĺ ¸ +ðŁ¥ § +Å Ĺ +Ê İ +Ò Ļ +× ² +à¤ Ī +á¼ ´ +á¿ ij +âµ ī +ãħ ĵ +ì½ ´ +ðĿĸ ĵ +ðŁĵ Ĺ +ðŁĶ ª +ðŁĸ į +Ï Ĵ +ðŁij ¬ +áĥ Ļ +âĨ ¬ +âĶ ¤ +⼠¹ +âĻ Ł +ðŁļ ¶ +ðŁij ¾ +âĪ ĭ +ðŁIJ ¯ +à¼ İ +âľ · +ï¨ Ļ +âĶ » +ðŁij ¹ +áĦ ī +ຠª +â¾ ı +â½ ħ +ãİ ĸ +Ñ ´ +Õ ® +Ú ¼ +áĢ ķ +áĨ ¼ +ëŃ ı +ðŁIJ ¸ +ðŁļ £ +Æ Ŀ +Ô » +áĥ ¢ +ðŁį ¯ +É ¦ +Õ ¦ +âĻ ĭ +ï¬ « +ðĿĹ ¦ +Ç ļ +É ± +ठī +á´ Ħ +âĻ ĵ +⼠° +⣠ª +ëĥ ĺ +ë¢ ¸ +ìĤ ij +ï® Ķ +ðĿķ ĸ +ðĿĹ § +ðŁĩ ¼ +ðŁĵ ĭ +ðŁļ ľ +ðŁ¥ ¤ +Ä ® +Å · +ß Ĭ +ॠ¥ +à® ª +áŀ Ħ +áµ Ģ +Ḡħ +á¼ ¢ +âĪ Ŀ +âĬ ¹ +âĴ ¶ +âķ ´ +⼠± +⼠³ +⼠º +âŀ Ł +ãı Ħ +ê¸ Ķ +ê¹ Ł +ëĩ ° +ë¹ » +ìĤ ¥ +ìĽ » +ì° Ł +íĥ ° +íĨ º +íļ ½ +ï¤ ´ +ï¥ ¾ +ï³ Ŀ +ðĿIJ ¦ +ðĿĴ ľ +ðĿĴ Ł +ðĿļ Ĺ +ðŁİ Ń +ðŁı ĵ +ðŁı ³ +ðŁı º +ðŁIJ į +ðŁij ĥ +ðŁĴ ı +ðŁ¤ ĸ +ðŁ¤ µ +Õ ² +âµ Ķ +ëĺ ¬ +ï¦ £ +Ê Ĥ +áĨ « +áŀ ij +ðĿĸ İ +ðĿĹ ĸ +áĦ ĥ +âĩ ł +áĢ ¡ +འĦ +âŀ ¸ +ï¦ Ļ +âĩ ļ +ðŁIJ ¬ +ðŁIJ ¢ +â¾ Ĵ +ðŁIJ ¤ +ðŁĶ « +ãĢ ŀ +ï¸ º +ðŁĺ º +â½ ´ +ðŁĨ ķ +âģ ¿ +ðŁį ¨ +ಠķ +ðŁļ ĺ +áŀ ħ +ঠħ +áŀ ¢ +ਠľ +â ļĮ +ãĢ ½ +à· ´ +âĵ Ľ +áĢ ľ +ìĨ ¨ +Ë © +Ü Ĺ +âĭ ¼ +ðŁĻ ī +Å Ĭ +É ĵ +Ê ² +Î ° +Ñ ¼ +Ô ¿ +à¡ IJ +༠ľ +འ¦ +á¶ ľ +âĤ ² +âĨ ¨ +âĬ ¥ +âķ § +âĻ ľ +ãĭ ¡ +ë´ ¬ +ë¶ ij +ìī ¿ +ìİ ħ +ìł ± +ì° § +ï² ¡ +ðĿĴ Ľ +ðĿķ £ +ðĿĹ ľ +ðŁį ² +ðŁİ © +ðŁIJ IJ +ðŁIJ ł +ðŁij ½ +ðŁĴ ij +ðŁĵ ľ +ðŁķ µ +ðŁ ļĮ +ðŁĽ £ +Ê ĭ +Ó ¯ +Ù ¸ +ß Ķ +ß Ļ +à¡ ĵ +á´ į +Ḡ¿ +âı º +âĸ ¥ +ë¤ ½ +íľ ij +ðĿIJ ¹ +ðĿĸ Ķ +ðĿļ İ +ðŁĵ Ħ +ðŁ¦ · +Æ ĥ +à¦ Ł +âĮ Ĥ +âĺ Ń +â² ļ +ëĿ ķ +ðŁİ £ +à® ĩ +འĨ +áħ µ +áĹ ľ +âĢ ½ +âĮ £ +âģ ½ +ðŁĵ ¬ +ðŁ¤ § +âĩ ª +â½ £ +âĹ Ł +ï¨ Ĺ +êĴ ª +ðŁĽ Ģ +Ç Ĥ +ðŁ¥ ¶ +ðŁİ į +ï¿ © +ðŁij Ĵ +áµ Ī +ï¸ ¿ +áħ © +â¾ ¦ +à° ¤ +á´ ĸ +ਠ¬ +àº Ĺ +༠» +Ñ º +ਠª +á´ ³ +ðĿIJ Ī +à» Ģ +á´ ¿ +âĤ į +âĩ ¡ +⼠ª +ðĿIJ Ĥ +ðĿĴ ķ +ðŁ IJľ +Ê į +Ñ ± +འĥ +ë® IJ +ìĽ ¡ +ìľ ģ +ðĿIJ ¿ +ðĿķ ł +ðŁij Ľ +Æ ª +Ï º +Ó ¬ +Ù ¿ +Ý £ +ઠī +à® ¹ +འij +áĨ ¯ +áµ ĩ +âĩ ¥ +âı ª +âĻ ° +âļ Ń +âļ ¾ +ãħ Ħ +êĢ ° +ê° Ĺ +ê² ĭ +ê² » +ê¶ ľ +ê¼ ĩ +ê½ ¹ +ëĤ Ł +ëħ Ī +ëĭ ¢ +ë§ Ł +ëª Ĩ +ëµ Ģ +ì½ ± +íĩ ĺ +íľ ľ +ï§ ¾ +ï± µ +ï² ¢ +ï² ¤ +ðĿĴ Ĭ +ðĿĺ ¯ +ðŁį Ĺ +ðŁı į +ðŁIJ ĺ +ðŁĵ ¡ +ðŁĶ ŀ +ðŁ¤ ³ +ðŁ¥ ģ +ðŁ¥ Ĺ +ðŁ¦ Ĭ +Ä µ +Æ ¦ +Ç µ +É ¯ +Î ı +Õ Ħ +Ü ¥ +འģ +ᨠł +âķ « +ãİ ī +ë· ´ +ìĨ İ +ìİ Į +ì£ µ +íĽ ł +ï§ ª +ï³ ı +ï» º +ðĿij ģ +ðĿij ĩ +ðĿĴ Ĩ +ðŁİ ł +ðŁIJ Ķ +ðŁij Ł +Å ĸ +ठĮ +á¾ ½ +ê¦ Ĵ +à® Ł +á´ ± +ðŁı ° +ðŁIJ ŀ +à½ Ģ +áĢ ħ +âĬ ¿ +ðŁIJ § +ἠģ +â¼ Ī +âĶ ¿ +ðŁ¥ ´ +â¼ ¿ +ðŁ§ ľ +ãħ ¿ +âĦ « +ãĢ ³ +ãĬ Ļ +â¼ Ģ +ï ¦¬ +ðŁı ¬ +ðŁĵ » +áĬ Ľ +áĦ ħ +ຠĬ +ຠĽ +áħ ³ +ðŁij ® +à® ± +âĺ ĩ +ðĿIJ ı +à´ µ +à» ģ +འı +འ¢ +ᥠ± +âĤ £ +ï¥ ¦ +ïŃ Ļ +ï´ © +ï¹ Ĥ +ðŁį £ +ðŁķ ¹ +Ï ĸ +à¶ ¸ +ຠ¢ +áĭ Ń +âİ Ŀ +âĹ Ŀ +âĻ Ī +âĻ İ +ê½ ¥ +ì³ Ķ +ì¼ ij +ï± ° +ðĿij ĥ +ðŁĮ ª +ðŁį ¡ +Å İ +Ê ¦ +Ñ § +Ó İ +Ô ´ +Ú Ī +ß ĵ +ß § +à¤ Ķ +áĪ « +áĪ µ +áĹ © +á´ ł +á¼ ł +âĢ Ĺ +âģ ij +âĦ ı +âĸ ĩ +â² £ +ãĦ ³ +ãī ® +ê³ Ĺ +ëĦ Ĵ +ëĸ « +ë¡ Ħ +ë¹ ° +ë½ ģ +ìĦ ģ +ìĮ ĺ +ìŁ Į +ì³ ī +ì¼ ķ +ï¬ » +ï³ İ +ï¹ ¸ +ï¹ ¾ +ðĿIJ Ĩ +ðĿij · +ðĿĽ ¼ +ðŁİ ı +ðŁİ ŀ +ðŁIJ Ļ +ðŁij Ĥ +ðŁĵ ģ +ðŁĸ ± +ðŁļ į +ðŁļ § +ðŁĽ ¡ +ðŁ¤ Ĵ +ðŁ¥ ŀ +ðŁ¥ © +ðŁ¦ Ģ +ðŁ¦ ĸ +Ë ¢ +Ü ļ +à® µ +áĢ ģ +áī ° +âı Ń +âĻ ¿ +ê³ ĺ +ëı Ŀ +ëķ ĥ +ìħ Į +ìĴ ¸ +ìĽ Ł +íħ Ħ +íľ « +ï§ ĺ +ï¿ ¬ +ðŁı · +ðŁĶ § +ðŁ¥ Ī +Æ ĸ +áŀ ĩ +áŀ ĸ +âģ º +âĹ ľ +âŀ © +ê¦ Ń +ëĻ ¤ +ïŃ ¼ +ðĿĻ ĸ +ðĿĻ £ +ðĿĻ ¤ +ðŁĮ Ŀ +ðŁĶ ij +ðŁĽ ł +ຠĩ +âĺ £ +ãĦ ¨ +ðĿĸ Ĺ +Ó ĵ +âĨ £ +ðŁ¥ ī +ðŁĮ ł +ðŁĺ ½ +ãİ ł +Å § +ðŁIJ Ĵ +ï§ IJ +ðŁĺ ¿ +âĪ ¬ +ðŁIJ ® +⣠± +ಠ¡ +â¾ ¼ +à° ² +Ë ¶ +âĸ ¿ +Õ Ī +áŀ İ +áħ ¥ +áŀ Ĺ +Õ § +ðŁ¤ IJ +ðŁį ł +ঠ¤ +à¶ º +âĻ į +ìĺ Ļ +íĺ ĵ +ï¹ º +ðŁĽ ³ +Å ī +á´ İ +âı ľ +âĶ ³ +ê¸ · +ì¡ Ķ +ðĿĴ Ī +ðĿĴ į +ðĿĴ ¹ +ðĿĵ ĩ +ðĿķ Ł +ðĿĹ ¹ +ðŁĮ ħ +ðŁı ´ +Ä Ķ +Ä ¤ +Å µ +Ç ¾ +Ï ŀ +Ï ¶ +Ô ³ +Ü Ĩ +ß © +à¡ Ĵ +ठĺ +à¶ ļ +འĸ +áģ Ĭ +áĥ ŀ +áĦ Ĥ +áĭ « +á´ º +Ḡ£ +Ḡª +á¹ Ĥ +á¼ · +á¿ ĩ +âĩ Į +âı ¬ +âĻ Į +â® Ł +â´ » +âµ Ł +ê¦ ķ +ê¦ ª +ê¦ ® +ê² Ħ +ê¾ IJ +ëĥ ij +ëķ ĭ +ë¡ ¸ +ë¬ Ģ +ìĩ ¤ +ìĪ © +ìľ ķ +ìŃ ĺ +ì· ° +ì ·¸ +íľ Ģ +ï¤ £ +ï§ į +ï± Ħ +ï³ ij +ðĿIJ ¤ +ðĿĴ ĵ +ðĿĴ ¶ +ðĿĹ ¼ +ðĿĻ Ĭ +ðŁĩ ¾ +ðŁĮ Ľ +ðŁĮ ® +ðŁİ ĩ +ðŁİ ² +ðŁı Ľ +ðŁij ¥ +ðŁij ´ +ðŁĴ Ĩ +ðŁĵ Ĥ +ðŁĵ § +ðŁķ IJ +ðŁĸ ķ +ðŁĺ § +ðŁĻ Ģ +ðŁļ Ĵ +ðŁĽ « +ðŁ¤ ł +ðŁ¥ ļ +ðŁ¥ Ľ +ðŁ¥ £ +Ç ¯ +È § +Î Ĭ +Ò ² +× ° +Û ij +áĥ © +áĦ Į +áĪ į +áī ¥ +áı Ĥ +âģ ± +âĬ ¢ +âĹ ĵ +âĿ ° +ë¿ ¡ +ìĽ © +íģ Ń +íĨ ³ +íĬ Ħ +íĵ ¸ +ï¥ £ +ï¥ ´ +ï± IJ +ï± ¯ +ï³ ļ +ðĿĸ ĺ +ðĿĺ Ģ +ðŁIJ Ĭ +ðŁIJ Į +ðŁij ļ +ðŁĵ ĥ +ðŁļ Ľ +ðŁļ ª +ðŁ¤ ° +Ä ´ +áĥ ® +áĹ ¨ +âĻ ® +â² ŀ +ãĪ Ķ +ì ħį +ãħ ĥ +ï¥ ¡ +ຠ¡ +Õ İ +Õ º +⬠Ľ +â½ ¤ +ðĿIJ ² +âŀ µ +áĢ Ľ +âĶ ħ +âĨ Ł +â¼ Ĭ +ðŁĮ ½ +ðŁļ ¿ +ï¦ Ĭ +ãĦ £ +⼠© +ï© Ľ +ðŁį ± +â¾ ¨ +à´ ¤ +áŀ ģ +ຠŀ +Ê ļ +ðĿIJ Ĵ +à´ ± +áŀ ľ +à® © +à° Ĺ +à´ ļ +âĩ £ +ï¦ ķ +Õ ħ +Æ ĺ +âĤ ¦ +âĶ Ħ +ï¦ Ł +ï¦ « +ðĿIJ ģ +ðĿIJ ĥ +ðŁį ¸ +ðŁIJ ² +Å ¶ +É ĸ +ß ĺ +ภ¦ +à½ Ķ +áĨ · +âģ ķ +âĵ Ĥ +âĿ ľ +ï¥ ¥ +ï¬ ® +ðĿĹ Ŀ +ðĿĹ ¿ +ðŁİ ¾ +ðŁĹ Ŀ +ðŁ¦ Į +Æ ħ +Ç ª +Ò Ĺ +Ü Ľ +ß ł +à¡ ij +áī £ +áĬ Ń +á¹ ¡ +âŀ ¼ +âŀ ¾ +â´ ± +ãī ¡ +ê³ ¯ +ë½ Ī +ìĤ ĺ +ìī ij +ì «ĺ +íĮ ĥ +íĻ ° +ï¤ Ĺ +ðŁĮ ¬ +ðŁĮ ° +ðŁį ¤ +Ä » +Å ĩ +Æ ¨ +É ķ +Ò ¢ +Ò º +Ö į +× ± +Ú ± +Ú ½ +Û IJ +ठĽ +à· Ģ +๠ļ +ຠ« +á´ ¹ +á ½Ķ +á¾ ³ +âĤ Ĵ +âĨ ´ +âĩ Ŀ +âī ħ +â Į¨ +âĵ ĵ +âĸ ¢ +âļ ¬ +âŀ Ń +â² Ĵ +ãİ ¿ +ê¿ ´ +ëĪ ± +ëį ¬ +ëİ IJ +ëIJ « +ëĶ « +ë± ģ +ìĥ ¥ +íĮ ¼ +ïŃ ĵ +ï® ¥ +ï² ° +ðĿIJ ĩ +ðĿIJ ij +ðĿij Į +ðĿĵ ª +ðĿķ ļ +ðĿĺ ª +ðĿĺ ¼ +ðĿļ Ľ +ðŁĩ ¶ +ðŁĮ Ħ +ðŁĮ ķ +ðŁĮ ¤ +ðŁĮ § +ðŁį ¬ +ðŁİ ĭ +ðŁİ » +ðŁı ¨ +ðŁIJ ĩ +ðŁij ĵ +ðŁĵ IJ +ðŁĵ Ļ +ðŁĶ ¼ +ðŁķ Ĵ +ðŁĸ ı +ðŁĸ ¥ +ðŁ¤ ¬ +ðŁ¥ Ĭ +ðŁ¥ Ĵ +ß Į +ຠĦ +á¼ µ +âķ ¡ +â² ¤ +â´ ¼ +âµ ¢ +ãĪ ¯ +ëĵ ¸ +ëŁ ĩ +ëº į +ðĿĻ § +ðŁį Ī +ðŁĶ ¬ +ðŁĸ Ĭ +ðŁ¤ ¾ +Ë ¡ +Ü © +âĮ ¡ +âŃ ij +â² ¦ +ë© ī +ì¼ Ń +ï¿ ¤ +ðĿĴ İ +ðĿĹ ¥ +ðŁIJ µ +ðŁķ ¶ +ðŁķ ¸ +ðŁ¤ ľ +Õ ª +áĪ ĭ +ðŁ¥ µ +ï° ģ +áµ IJ +âķ ĵ +áĢ ĸ +âĭ Ī +É ŀ +âŀ ® +ॠ° +ãĨ ģ +ðŁĴ ± +ðŁı Ń +áĨ ¨ +ðŁį ļ +ðŁ¦ IJ +á´ » +âĺ Į +à´ ķ +Õ ± +áħ ® +ðĿIJ Į +Å ¦ +ຠķ +âľ Ļ +Ë ³ +Ô µ +âķ Ĵ +ðĿĹ Ĺ +ðĿĹ ł +Ú ļ +ঠ§ +âĨ Ŀ +âĻ ī +ãĮ » +ì¹ Ĭ +ðĿĹ º +ðŁ§ ĺ +ì³ £ +ï¬ Ŀ +ðŁij º +Ç Ł +Î Ī +Î « +Ñ ¥ +Ô ² +Õ ¨ +Ü ¦ +ঠĨ +ঠ¥ +áIJ ¢ +á¼ ģ +á¼ ĺ +á¼ ¦ +âĵ Ŀ +ãĪ ° +ãİ Ĺ +ê² ¡ +ë¨ Ģ +ì£ Ķ +ì´ ¤ +ìµ Ŀ +ï§ ´ +ïŃ Ĭ +ï² Ł +ðĿIJ · +ðĿij ĭ +ðĿĵ ī +ðĿĺ µ +ðŁĴ · +ðŁĽ © +ðŁ§ ¹ +Å Ķ +Ê ŀ +Ë ¥ +Î Į +Ñ © +Ó IJ +Ó ł +Ú ij +Ú Ĵ +ß ¨ +àª Ī +áIJ ĥ +á¹ ¯ +âĤ ĭ +âĤ µ +âĦ ħ +âĦ ł +âĪ £ +âī º +âī » +âĬ Ľ +âĮ IJ +âİ ĵ +âĺ ¸ +âĻ Ĵ +âļ Ĵ +âľ ĩ +âľ ł +â´ · +âµ ĸ +ãĦ ¸ +ãī ¢ +ãī ° +êĩ ´ +ê´ ¸ +êº ł +ëĤ ı +ëĤ ¢ +ëIJ Ģ +ëº ´ +ìĥ ľ +ìį ħ +ì¤ « +ì± ¦ +ìº ij +ì¼ ģ +ì¿ ³ +íĤ ģ +íħ ¡ +íĴ Ĥ +íĴ ī +íľ Ħ +ïŃ ª +ï® ¬ +ï¯ ¦ +ï± ª +ï² ı +ï ´Ģ +ï» Ĩ +ï¿ ¦ +ðĿij Ĺ +ðĿĸ Ļ +ðŁĮ ¡ +ðŁį Ŀ +ðŁį § +ðŁİ « +ðŁı ĺ +ðŁı ª +ðŁIJ ĭ +ðŁIJ Ľ +ðŁIJ º +ðŁij ĸ +ðŁij ŀ +ðŁij · +ðŁĵ Ģ +ðŁ ĶĦ +ðŁĶ Į +ðŁķ Ļ +ðŁĻ į +ðŁĻ İ +ðŁ¦ į +Ç ° +É Ł +Ê Ĩ +Ô ¼ +Ú ľ +ঠ¡ +ঠ¶ +áĴ ĥ +á¼ © +âĵ ķ +â² Ī +ê° ° +ê¹ ł +êº ħ +ëĦ ¹ +ë¯ ĵ +íIJ Ī +ï§ ¶ +ï® ij +ï² ¨ +ðĿĴ ī +ðĿĴ Ķ +ðĿĹ ¨ +ðĿĻ ŀ +ðĿļ Ĵ +ðĿļ ķ +ðŁIJ İ +ðŁ¤ ķ +ðŁ§ Ķ +Ï ° +Ô Ŀ +âĮ Ĭ +âĴ ¾ +ãī £ +ïŃ © +ðĿļ ŀ +Ê ij +ঠ¦ +áĦ ĩ +âī ĥ +â² Ģ +ìŁ İ +ðĿij ¶ +ðĿĵ ² +ðŁ İ· +ðŁļ ¹ +ຠģ +áł ł +ãĦ ļ +ðŁIJ ¿ +ἠļ +âķ ³ +ðŁIJ Ń +âĴ ¹ +ðĿĸ ļ +âĻ ĸ +ãĪ ² +âĨ ¾ +áĦ Ĩ +âķ Ľ +ðŁ¤ į +â½ ¥ +ðŁ Į¨ +âĪ ® +ãĮ ĺ +ãį ij +ï¹ Ģ +âĵ Ĺ +âĬ Ħ +ðŁı ¹ +Ë Ĵ +ðŁ¤ ± +ãı ľ +ðŁİ Į +ï¥ Ń +ঠ£ +ðŁİ ¹ +ãĬ Ł +à´ ° +ðĿIJ Ķ +à´ ¨ +འļ +âľ º +Õ · +ðŁij ³ +ঠľ +âĺ ĭ +âĻ Ĭ +ãĢ Ľ +È ĭ +à® ° +áĥ ¨ +âĦ ķ +íij Ģ +ðĿĵ ĥ +ðŁ¦ Ķ +Ä ¿ +Å Ģ +Æ ³ +É ļ +Ö ĥ +Ü £ +ß Ł +à¦ Ń +à§ ¡ +à¶ » +ຠ£ +འĩ +Ḡ¨ +á½ Ī +â½ ¬ +ê¡ Ķ +ì³ Ħ +ï¨ ī +ðĿIJ ¡ +ðĿĺ ¢ +ðŁį ¿ +ðŁİ Ł +ðŁı ī +ðŁĶ IJ +ðŁļ ħ +ðŁ¤ ½ +Æ į +Ç « +Ç ½ +È ļ +Î ī +Ó ¤ +Ó ª +Õ Ĭ +Ù ¼ +Ú ´ +ß Ŀ +à¶ ľ +á¼ ķ +á¿ ¥ +âİ ŀ +ãĢ ļ +ãī ¤ +ê³ ¸ +ê· ģ +ëĵ Ħ +ëĵ ķ +ì¨ Ķ +ì± ¨ +ðĿIJ ¾ +ðĿij » +ðĿĶ ¼ +ðĿķ Ŀ +ðĿĺ Ń +ðŁĨ Ļ +ðŁĵ ¤ +ðŁĶ Ł +ðŁĹ ¼ +Ä ľ +Æ ģ +Æ ¿ +Ç ³ +Ç · +É ĥ +É ł +Ê ī +Ê § +Ë ² +Ï ´ +Õ ģ +Õ ŀ +Ö ĩ +Û Ĥ +Û ĵ +ß Ĺ +ß ¦ +ঠ¹ +à® ³ +à´ ¸ +à» Ĥ +áĪ Ŀ +áĪ ª +áĭ µ +áIJ Ĭ +áĴ ª +áļ ĸ +áŀ Ľ +á´ ¢ +áµ ı +áµ Ń +á¶ « +Ḡı +ẠĴ +á¼ ¥ +á½ ķ +á½ ¼ +âĤ Ĭ +âĦ Ĥ +âĦ © +âĩ ī +âī £ +âĮ ł +âİ Ł +âı ® +âķ ĺ +âĹ ĸ +âĺ © +âĻ ij +âĻ ² +âļ Ľ +ãĦ Ł +ãī ± +ãİ ļ +ê¡ ķ +êª ĸ +ê° ¹ +ê² Ĩ +êµ Ħ +ëĩ ¬ +ëĭ ¯ +ëı ł +ëĴ ¬ +ëĸ Ī +ëĸ ½ +ëĺ Ķ +ëŀ ¸ +ë¸ ħ +ë» ł +ë¿ Ł +ìĤ µ +ìĬ ī +ìľ ° +ìł ĭ +ìł Ķ +ì¥ ¡ +ìŃ Ŀ +ì¼ ¬ +íĪ ĩ +íī ľ +íį Ħ +íĽ ¾ +íĿ £ +ï¤ © +ï¤ ¯ +ï¦ ľ +ï¦ § +ï§ ľ +ï¨ Ī +ï¬ ª +ï ¬´ +ïŃ ½ +ï® ī +ï¯ ŀ +ï° Ĵ +ï± ĩ +ï¿ Ħ +ðĿIJ ħ +ðĿij Ħ +ðĿij º +ðĿĴ Ĺ +ðĿĵ ® +ðĿķ Ľ +ðĿķ ŀ +ðĿĸ ij +ðĿĺ ģ +ðĿĺ Ĩ +ðĿĺ ¶ +ðĿĻ ¢ +ðĿļ ľ +ðŁĮ ĥ +ðŁĮ ¦ +ðŁį Ł +ðŁİ İ +ðŁı Ļ +ðŁIJ © +ðŁIJ « +ðŁIJ ´ +ðŁij Ķ +ðŁĵ ī +ðŁĵ Ľ +ðŁĶ ī +ðŁĸ ¼ +ðŁĹ ĥ +ðŁĹ ¯ +ðŁļ ĩ +ðŁļ IJ +ðŁļ µ +ðŁ¤ ¶ +ðŁ¥ ĭ +ðŁ¥ ĵ +ðŁ¥ ® +ðŁ¦ İ +ðŁ¦ ł +ðŁ§ Ĵ +ðŁ§ ¨ +Æ IJ +Ç į +Ó Ģ +Ô Ľ +ಠ° +à´ Ļ +áĢ Ĵ +ê² Ŀ +ê¹ ¹ +ë© ¥ +ìĸ Ķ +ï¤ ģ +ï¤ ı +ï¦ ī +ï¦ ĵ +ï§ ī +ï² Ŀ +ðĿĹ ŀ +ðĿĹ ± +ðŁĮ ĭ +ðŁį ¶ +ঠļ +ìķ ľ +ðĿIJ ¯ +ðĿļ Ŀ +à° ¨ +འĺ +འł +á¡ ¥ +á¾ ° +âģ į +âĶ ° +⬠ľ +ðĿIJ ł +ðĿij ¯ +ðĿĹ Ľ +ðĿĵ » +ðĿĸ Ī +âŀ » +áŀ ł +â¡ ± +â» ij +ðŁ§ µ +ï¦ ¢ +ðŁij ĺ +ãĤ Ķ +â¼ Ł +ãĬ ¤ +ï¦ Ŀ +ãĮ ¦ +âĢ ¸ +ðŁĶ Ļ +ã ¹ +ã¹ ¦ +ï¹ ħ +ï© Į +ãī ¨ +ï¸ ½ +âį ¥ +ðŁļ ī +ðŁ¥ ľ +âĵ ľ +â» Ŀ +ï¨ ľ +ðŁĴ Ĵ +áĦ ij +â¾ ŀ +ï¨ ģ +à´ ª +áĦ İ +âŀ ´ +ঠ· +áħ ¬ +áŀ § +âĨ ¢ +âķ ¦ +âľ ij +Ë ¬ +Õ IJ +à¼ Ķ +Ê ¤ +Ë ¨ +ठŀ +à» ĥ +༠ļ +âĵ ¥ +âķ ľ +ðŁIJ ĸ +á¼ Ļ +á¼ ¤ +ìĨ ° +È Ĥ +Ê ± +à® ļ +áĥ § +á´ ĭ +á´ ® +âĿ ¡ +âŀ · +ëĿ ¡ +ï§ ¢ +ï¯ ¡ +ðĿķ ķ +ðŁħ ° +ðŁ¦ ¸ +Ç ¸ +Ó ŀ +Ô ¶ +Ö Ĩ +Ú ģ +Û ĭ +áİ ¥ +á¾ ¿ +âĶ Ń +âĶ ® +êĢ Ģ +ê± ĺ +ëIJ Ń +ë½ Ħ +ìĶ IJ +ì¸ Į +íģ ł +íĻ ± +ï¥ ī +ï¨ ĸ +ðĿij ´ +ðĿĸ Ĵ +ðĿĺ ¨ +ðĿ ļĮ +ðŁIJ ¡ +ðŁij ¢ +ðŁĵ Ķ +Å ħ +Æ İ +È © +Ò ª +Ô ĥ +áĥ « +Ḡĩ +âĽ Ł +ê» Ń +ë¨ Ħ +ìŁ Ģ +ì¤ ´ +íļ IJ +ï¤ ³ +ðŁŁ ¢ +Æ § +È ¼ +Ê Ŀ +Ë Ħ +Ë ħ +Ë į +Ë § +Ò ¥ +Õ Ķ +Ø ı +Ø ¼ +ß IJ +ß ľ +ठĵ +à¦ Ļ +à® ĵ +à¶ ´ +༠į +༠Ĵ +འ£ +áĢ Ĥ +áĢ Ĭ +áĦ Ħ +á Īĺ +áĭ Ĭ +áĮ į +áij ĭ +áŀ Ĥ +áł ¢ +á¡ Ŀ +á´ ¦ +áµ į +áµ ¨ +Ḡ¡ +Ḡ¯ +á¼ £ +âģ Ĥ +âĦ ĺ +âĦ ľ +âĦ ³ +âĦ µ +âĨ ¦ +âĩ Ĩ +âĪ · +âĬ ļ +âĮ « +âĮ ¯ +âİ Ľ +âİ ľ +âİ ¤ +âİ ¦ +âİ ® +âij ī +âĶ ī +âķ Ļ +âĸ Ĥ +âĹ Ń +âĺ Ĭ +âĺ į +âĺ Ĵ +âļ Ĩ +⼠§ +⼠² +âŀ ĺ +⥠Ħ +â´ ³ +â´ ½ +âµ Ī +ãī ¯ +ãİ ij +ã§ ¬ +êĻ ¬ +ê§ ģ +ê³ ¬ +ê´ ŀ +ê» ľ +ëħ ĵ +ëĭ ¼ +ëį ĸ +ëĸ ± +ëĿ ° +ë¡ ¹ +ë¢ ´ +ë£ Ģ +ë¤ ł +ë¨ ķ +ëŃ ¥ +ìĦ ¶ +ìħ ¤ +ìĮ ķ +ìį ª +ìı © +ìĴ Ģ +ìĶ ¯ +ìĿ Ķ +ìĿ ľ +ìł Ń +ì§ ¦ +ì¨ © +ì² ¬ +ì³ ¥ +ì¼ ¯ +íĢ « +íĢ Ń +íĥ ¸ +íĵ ģ +íķ ¬ +íĹ ¸ +íĽ ķ +íľ Ń +íĿ Ĺ +ï¤ Į +ï¤ ª +ï§ ¿ +ï¬ Ħ +ï¬ ħ +ïŃ ij +ïŃ « +ïŃ º +ï® Ĥ +ï® ¢ +ï® ¨ +ï° İ +ï° ł +ï² £ +ï³ IJ +ï³ Ĵ +ï³ ĺ +ï³ ľ +ï¹ ¼ +ï¿ ¨ +ðĿIJ © +ðĿĴ ļ +ðĿķ Ķ +ðĿķ ¤ +ðĿĸ Į +ðĿĹ £ +ðĿĹ ° +ðĿĹ ´ +ðĿĺ Ĥ +ðĿĺ ¥ +ðĿĺ ® +ðĿĺ ¸ +ðĿĻ Ģ +ðĿĽ ¾ +ðĿľ ı +ðŁĮ ģ +ðŁĮ ľ +ðŁĮ ¥ +ðŁĮ ¯ +ðŁį IJ +ðŁİ Ĵ +ðŁı Ķ +ðŁı ķ +ðŁı ® +ðŁIJ Ĥ +ðŁIJ ī +ðŁIJ ¹ +ðŁĶ ķ +ðŁĶ ļ +ðŁķ ij +ðŁķ £ +ðŁĹ ŀ +ðŁĹ ¡ +ðŁĹ ¿ +ðŁļ Ĩ +ðŁļ Ĭ +ðŁļ ĵ +ðŁļ ķ +ðŁļ ¾ +ðŁĽ ģ +ðŁĽ İ +ðŁĽ ı +ðŁ¤ ´ +ðŁ¥ ķ +ðŁ¥ ĸ +ðŁ¥ ł +ðŁ¥ ¥ +ðŁ¦ Ĩ +ðŁ¦ ī +ðŁ¦ ļ +ðŁ§ ij +ðŁ§ ¥ +ðŁ§ ¿ +Å ° +Æ º +É § +ઠĩ +à® £ +áĪ Ī +áĬ ¤ +áĭ ® +áĮ Ī +áĮ µ +ᥠ² +âĵ Ł +êĻ ³ +ê° Ĭ +ëķ ģ +ëķ ¨ +ìĬ ģ +ï¦ µ +ï¬ ² +ðĿĸ į +ðĿĺ Į +ðĿĺ ³ +ðĿĻ © +ðŁį Ļ +ðŁĸ ĸ +áī ³ +áĭ ¨ +áĸ ĩ +áŀ Į +á¹ § +âķ ª +âŀ ļ +â² ĺ +ê ķ +êķ ¥ +ï¤ · +ï® £ +ï¯ ł +ðĿĴ ĸ +ðĿķ ĺ +ðĿĸ ĩ +ðĿĹ Ł +ðĿĹ ª +ðĿĹ ¯ +ðĿĻ ł +ðŁĵ ı +à¦ Ĺ +âĴ » +â² ł +ðĿĵ µ +Ê £ +à° ľ +áĬ ¢ +áŀ IJ +Ḡ· +âĦ Ľ +âĩ Ģ +âĩ Ĭ +êĴ ¦ +ê¦ ł +ï® ¤ +ðŁį Ľ +ðŁ¤ Ľ +ᨠ¾ +âŀ º +áķ ¯ +ἠı +âĩ Ĥ +âĶ ¹ +âĻ Ĺ +ðŁĸ ¨ +ê¦ ı +ઠ° +áļ ¨ +ðŁ¤ ¥ +ðŁ§ ¢ +ãIJ Ĥ +ãĦ ¥ +ðŁĸ Į +â¼ Ĵ +ãĬ § +âį © +ðŁ¦ ij +âĶ · +ï© IJ +ï© ¡ +ðĵ Ī +ðĵĪ Ĵ +â» Ħ +ï¨ Ĵ +âĦ ª +Ò § +Ú Į +âĢ ¶ +⺠ł +â» ģ +âĨ ¸ +áĦ IJ +ãħ IJ +à» Ħ +áĹ ª +âĨ ¼ +âĩ ĭ +âĩ ĺ +âĮ ij +âĸ © +ðĿIJ Ĺ +Ä Ĭ +ঠī +ìī ł +É ¤ +ß į +ß ı +áµ Ĺ +âĤ ¥ +âĵ ī +âĶ ł +âĶ ¨ +âķ Ħ +ä ¤ +ä¤ Ģ +ê» ¸ +ï® ģ +ðĵ Ĥ +ðĵĤ ĥ +ðŁ¦ ķ +Æ Ľ +ঠĩ +ãı ĺ +ï® ¼ +Ú ĵ +Ú Ŀ +ঠĵ +à¶ ¯ +á´ ħ +á½ Ļ +âģ ¼ +âĸ İ +â¼ © +ä Ķ +äĶ Ģ +ë» ¡ +ìĽ ½ +íģ Ħ +ï¥ ¼ +ï± ī +ï¹ » +ðĿĸ ĭ +ðĿĻ Ī +ðĿĻ ª +ðĿ ϶ +ðŁIJ Ħ +ðŁIJ Ĩ +áİ ¢ +ḠĮ +âĿ ´ +ðŁı ¸ +È Ŀ +É ¸ +Î ħ +Ï ľ +Ó ¢ +Õ ¹ +à´ ħ +àº Ī +áĭ ° +áij İ +áł µ +á¡ ł +á´ ī +Ḡµ +á¿ ´ +âĵ £ +âĶ ¶ +â½ ¯ +ê² ¥ +ê¿ ĺ +ëģ İ +ëİ Ī +ëĶ ¯ +ë² ° +ìĺ ¯ +ìĽ ¸ +ìŀ Ĺ +ì§ ĺ +ì¬ ¬ +ì· ¬ +íģ ħ +íĵ Ķ +íĽ Ŀ +ï¤ ® +ï¤ ¹ +ï¥ ² +ï¯ ĸ +ðĿĵ ħ +ðĿĻ Ħ +ðŁĵ ¶ +ðŁĹ Ĵ +ðŁ¥ Ķ +ðŁ¥ Ń +Å ® +Å ´ +Æ ī +Æ « +Ç ģ +Ç £ +Ç º +Ç ¼ +È į +È ¯ +É ľ +Ê ¬ +Ë ģ +Ë ¤ +Ë µ +Ï Ľ +Ò ¤ +Ò ¬ +Ó ı +Ó Ľ +Ó ¡ +Ó ³ +Ô Į +Ô ¬ +Õ ³ +Ù » +Ú ī +Ú § +Ü ľ +ß ª +ठĿ +ঠĽ +ਠĨ +ઠķ +ઠ¡ +à® İ +à° ¬ +ൠ» +ൠ¼ +à¶ ł +à¶ Ń +à¶ ¶ +à· Ĩ +༠½ +áĢ ļ +áħ ¢ +áĨ ¸ +áĪ Ģ +áĪ ķ +áĪ ° +áī ¡ +áī ¤ +áĬ ¦ +áĬ « +áĭ ĭ +áĭ į +áİ ¯ +áij Ń +áķ Ĺ +ᣠĽ +ᥠĴ +á© ī +áŃ º +á´ ¡ +áµ ĺ +áµ Ľ +á¶ ł +Ḡģ +Ḡĭ +á¹ Ļ +á¹ Ŀ +á¹ ¦ +Ạħ +á¼ Ĥ +á½ ĥ +á½ į +á½ § +á¾ · +âĢ µ +âĤ İ +âĦ Ŀ +âħ Ģ +âĨ ŀ +âĨ § +âĩ ħ +âĪ ĥ +âī ı +âī ½ +âĬ ŀ +âĬ ¡ +âĬ § +â Ĭ¶ +âĭ Ħ +âİ Ĵ +âİ ¡ +âİ £ +âİ ª +âı İ +âĵ ĥ +âĵ ĸ +âĵ ¨ +âķ ĭ +âķ ĸ +âķ ¢ +âķ ² +âĸ Ĩ +âĸ Ĭ +âĸ į +âĸ ® +âĺ ¡ +âĺ ¦ +âĺ ± +âĺ ¿ +âĻ ĺ +âĻ Ŀ +âļ ° +⼠ij +âŀ ª +⤠Ŀ +⤠¢ +⤠· +â§ « +â¨ Ń +⨠¯ +â± £ +â² İ +âµ Ľ +ãħ Ķ +ãĪ ı +ãī ² +ãī ³ +ãĬ ij +ãĭ Ľ +ãİ IJ +ê² ¤ +ê· ¿ +ê¹ ŀ +ê» ¨ +ê¼ į +ê¿ ¸ +ëĥ ¬ +ëĩ IJ +ëĭ ł +ëį ¯ +ëĹ Į +ëĹ ij +ë¥ Ģ +ëª ĥ +ëª ¯ +ë± ¡ +ë³ ĵ +ë³ ½ +ë µľ +ìĤ ³ +ìħ ¥ +ìĩ ½ +ìı ¨ +ìı ¸ +ìķ į +ìĸ ĸ +ìŁ ¨ +ì¢ ĥ +ì¢ į +ì¥ ij +ì§ ¼ +ì© ĥ +ì® ľ +ì® ¸ +ì³ ij +ì´ ¥ +ì¾ ĥ +íħ ¦ +íĪ ¿ +íĵ ½ +íķ ³ +íĸ ı +íĹ ł +íĿ « +ï¤ ĵ +ï¤ ĺ +ï¥ İ +ï¥ ¶ +ï¦ ħ +ï¦ ½ +ï§ ĩ +ï¬ Ĩ +ï¬ ³ +ï® ĩ +ï® Ī +ï® Ŀ +ï® © +ï® ± +ï¯ ĺ +ï¯ Ļ +ï¯ ¢ +ï¯ £ +ï¯ ¤ +ï¯ ¥ +ï± Ĥ +ï² Ĩ +ï² ª +ï´ ¼ +ïº ī +ïº Ĭ +ïº ¥ +ðĿij ¨ +ðĿij © +ðĿij ² +ðĿ ĴĮ +ðĿĴ ª +ðĿĴ ® +ðĿĵ Ĥ +ðĿĵ Ī +ðĿĵ ¯ +ðĿĶ ¨ +ðĿķ Ģ +ðĿķ Ĩ +ðĿķ ¦ +ðĿķ § +ðĿķ « +ðĿķ · +ðĿĹ µ +ðĿĹ ¸ +ðĿĺ Ħ +ðĿĺ Ļ +ðĿĺ ł +ðĿĺ ¬ +ðĿĻ į +ðĿĻ ij +ðĿĻ ¡ +ðĿ ύ +ðĿĻ · +ðĿļ į +ðĿĽ ¿ +ðŁ ĥ +ðŁĥ ı +ðŁħ ĺ +ðŁ ī +ðŁī ij +ðŁİ ¡ +ðŁİ ª +ðŁİ ± +ðŁİ ³ +ðŁİ º +ðŁı İ +ðŁı Ĺ +ðŁı ļ +ðŁı ŀ +ðŁı ¦ +ðŁı § +ðŁIJ ģ +ðŁIJ ħ +ðŁIJ ĵ +ðŁĴ Ĥ +ðŁĵ ij +ðŁĵ ĵ +ðŁĵ ¨ +ðŁĵ « +ðŁĶ ĭ +ðŁĶ Ń +ðŁĶ ¯ +ðŁķ Ĺ +ðŁļ Ĥ +ðŁļ ¢ +ðŁļ ¦ +ðŁļ ¬ +ðŁĽ ĭ +ðŁĽ Į +ðŁĽ ¬ +ðŁĽ ¶ +ðŁŁ ¡ +ðŁ¥ ĺ +ðŁ¥ Ł +ðŁ¥ ¦ +ðŁ¦ ĩ +ðŁ¦ Ī +ðŁ§ Ĭ +ðŁ§ Ĺ +ðŁ§ ¤ +Ê · +Ë ¹ +á¹ ļ +á½ ¥ +âĦ Ł +ê² ¯ +ê» « +ë° · +ìĥ Ĩ +ìĽ Ŀ +ì¨ ī +ì« ı +ï¯ ķ +ðĿľ ĭ +É ² +Ò Ń +Ó Ī +འĽ +áĭ ĵ +áĻ Ń +áł © +á¹ ® +âĦ Ĵ +âĨ » +âµ ĥ +ëĢ ¨ +ëł § +ìī ¥ +ìĮ ľ +ìĹ ¶ +ì¨ Ī +ìª ¾ +íı ½ +íļ Ķ +íĽ µ +ï¤ ¸ +ï¦ IJ +ï§ Ĺ +ï§ ļ +ï¬ ¯ +ðĿIJ Ĭ +ðĿķ Ĺ +ðĿĹ ļ +ðĿļ ĸ +ðŁħ ´ +È ĥ +É Ŀ +Ï ± +Ó Ĺ +ठ¢ +áħ ł +áī ¦ +áij Į +áĴ ¼ +áŀ ¡ +áł ¨ +áł Ń +ᨠħ +á¨ Ķ +á´ ĺ +á¶ ¦ +á¸ İ +á¼ ħ +á¼ ¹ +âĨ ¯ +âĵ İ +ãı Į +ê ī +êī Ĥ +ëĨ § +ëĿ ± +ì¢ ¡ +íĪ ½ +ï¤ ĩ +ï¤ Ľ +ðĿIJ ķ +ðĿĵ ¸ +ðĿĵ ¼ +ðĿĹ ķ +ðĿĺ Ī +ðŁı £ +ðŁı ¤ +ðŁĹ Ħ +Ñ · +Ò ł +áµ ĸ +á¼ ¨ +ë¬ Ħ +ï° ´ +âĪ ½ +Õ Ń +Ú ¹ +à¥ Ł +áĢ Ĩ +áŀ Ĵ +ãĢ ¶ +ê¦ « +ï¸ ĵ +ðĿIJ Ľ +ðĿĺ Ĺ +ðŁı ľ +ì« Ń +ðŁ§ ŀ +འĤ +âĨ ¿ +âĩ ı +âĵ ģ +âĶ § +âķ ģ +âķ ¤ +ê¦ Ĺ +ê¦ ¤ +ðŁı Ī +áŀ ķ +Ô ½ +àª Ĺ +ଠĨ +âķ ķ +ï½ ł +â¼ ¦ +â¼ ¯ +â¾ · +âĶ ĸ +ଠĵ +âĺ Ĺ +âį ĭ +ï¨ Ŀ +â¼ ¥ +ï¦ ª +âĦ Ĭ +ãĢ ´ +âį ¢ +ð¡ Ī +ð¡Ī ½ +ï© ¨ +ãĢ » +ãı ĥ +ï¦ ¡ +ï¨ ĺ +ðŁIJ ĥ +ðŁĨ ĸ +ðŁĹ ¾ +ãĦ ĩ +Þ ĭ +â¼ ¼ +ï¨ Ń +Þ Ģ +Þ Ħ +Þ Ī +Þ IJ +âĮ Ħ +â» ĺ +ãŁ ¢ +á ħ§ +ðIJĮ ¿ +Ë » +à² Ĺ +áĢ ĩ +áŀ Ĭ +âķ ĩ +ãĩ ¼ +ãİ ° +Õ Ĵ +Ü Ī +ß ¥ +à¿ IJ +áĢ Ł +âĨ ¥ +âķ Į +â½ Ģ +â½ ° +â¾ Ĭ +ä Ħ +äĦ Ģ +ðĵ IJ +ðĵIJ į +ðŁİ ¦ +âĤ ¯ +âĬ ĺ +âĦ į +Ê µ +Ñ ¶ +Ú ĥ +à¦ Ķ +à´ ¦ +áİ ¶ +áĵ ķ +á¹ ¨ +âĤ ł +âĩ ° +âĹ Ĵ +â¿ Ĭ +ê· ± +ì¹ ķ +íĪ © +ïŃ Ģ +ðĿĴ ¸ +ðĿĵ Ĭ +ðĿĺ © +Ç ¦ +É « +áĬ ¨ +È ¹ +Ê ¯ +Î ª +Ú Ģ +áĮ ¸ +áİ » +áı ķ +áı ´ +á² Ĥ +á½ ¨ +âı Ŀ +âĺ Ļ +ëĥ ¨ +ëĦ ¼ +ëĪ Ļ +ë£ ħ +ìĶ ¼ +ìķ Ŀ +ìļ ¬ +ìľ ± +ï¥ Ĥ +ï¦ ¹ +ï¬ ¹ +ïŃ ģ +ï³ Ī +ðĿĶ ħ +ðĿĺ ¤ +ðĿĻ ı +ðĿĻ Ļ +ðŁķ ī +ðŁ§ Ļ +Ḡij +ê´ ¼ +ëģ į +ëĹ ´ +ëĿ ³ +ë° ŀ +ë° ¢ +ëµ ĺ +ìĤ Ķ +ìĦ Ħ +ì¼ ļ +íĢ ł +íĬ ± +íĮ ĸ +ï¤ ij +ï¦ ´ +ï¦ ¸ +ï´ į +ðĿĺ · +Ä ¬ +Å ¬ +Æ Ģ +Æ ĭ +Æ ľ +Ç ij +Ç ĺ +Ç ŀ +Ç ¥ +Ç ® +É ° +É ¶ +É · +É ½ +Ê Ī +Ê IJ +Ë İ +Ë Ł +Ë ¦ +Ë ¯ +Ï IJ +Ï ĵ +Ï ¢ +Ï ¤ +Ï ª +Ï Ń +Ï ® +Ï » +Ñ ł +Ñ Ń +Ò ¨ +Ó Ŀ +Ô ¡ +Ô · +Õ ī +Õ ĵ +Õ ĸ +Õ ļ +Õ Ŀ +Ö İ +Ø ¿ +Ú ħ +Ú į +Ú Ķ +Û Ĭ +Û ¾ +Ü Ļ +Ý Ĵ +Ý ĺ +ß Ĵ +ß ĸ +ठĬ +ठIJ +ঠı +ঠĸ +à§ Ł +ઠ® +ઠ¹ +à® ħ +à® Ĩ +à° ¡ +à° ° +ಠļ +ಠ® +ಠ¯ +à´ Ł +à´ · +ൠ¾ +à¶ ij +à¶ ŀ +༠¼ +འĵ +áĢ ĵ +áĤ ¦ +áĥ ĸ +áĥ Ń +áĥ ¯ +áħ ¨ +áħ ª +áĨ ° +áĪ ģ +áĪ İ +áĪ ĵ +áĪ ¥ +áĪ ² +áĪ ´ +áĪ » +áī ł +áī ² +áī ¶ +áĬ £ +áĬ ¥ +áĬ ª +áĭ ĺ +áĭ ² +áĭ ¶ +áĮ £ +áį ¡ +áį £ +áİ ¬ +áİ ¾ +áIJ ¡ +áķ ķ +áĸ ± +áĹ IJ +áĹ Ń +áĺ ī +áļ ± +áĽ Ł +áŀ ¥ +áŁ Ķ +áł £ +áł ª +áł ° +áł ´ +ᤠĸ +ᥠ£ +á ® +á® ł +á ¯ +á¯ Ļ +á ° +á° į +á´ Ĭ +á´ ¾ +áµ ģ +áµ İ +áµ ŀ +áµ ¤ +á¶ ħ +á¶ ĺ +á¶ Ł +á¶ ¢ +á¶ ¤ +á¶ ± +á¶ » +Ḡī +Ḡŀ +Ḡº +á¹ ĵ +á¹ Ĺ +á¹ ª +ẠĬ +Ạı +ẠĽ +á¼ ĥ +á¼ Į +á¼ ¿ +á½ Ĥ +á½ ĵ +á½ Ĺ +á½ ¦ +á¾ ± +á¾ ´ +á¿ ĺ +á¿ Ł +á¿ ¸ +âģ ĺ +âĤ ij +âĤ Ľ +âĤ ¿ +âĦ ĩ +âĦ ŀ +âĦ ± +âĩ Ł +âĩ ² +âĪ ¤ +âĪ ¶ +âī Ĥ +âī ¾ +âĬ ¨ +âĬ ³ +âĬ · +âĭ Į +âĭ ĺ +âĮ ķ +âĮ ¥ +âĮ µ +âĮ º +âį £ +âį ² +âį µ +âİ ĩ +âı ĥ +âı IJ +âı ł +âı ¤ +âı ¶ +âı ¸ +âı ¹ +âij Ĥ +âĴ · +âĴ º +âĵ ¡ +âĵ ¤ +âĶ ¾ +âĸ ĺ +âĸ µ +âĹ ª +âĹ · +âĺ ¨ +âĺ « +âĺ ² +âĺ ³ +âĻ Ĩ +âļ ¤ +âļ ¥ +⼠ĵ +⼠´ +⼠¾ +âŀ « +âŀ ¿ +⣠· +⤠ij +⤠« +⤠¶ +⤠½ +â§ ª +â¨ Ģ +â ©½ +⬠¡ +⬠¢ +⬠¤ +â² ĸ +â² ª +âµ Ģ +⸠® +⸠½ +ãĢ ł +ãĢ · +ãĦ Į +ãĦ ĺ +ãħ ij +ãĪ İ +ãĪ IJ +ãĬ ľ +ãĮ ĵ +ãĮ ł +ãİ Ł +ãİ ¤ +ãİ § +㬠® +ä Ī +äĪ Ģ +ä ° +ä° Ģ +ê ħ +êħ ī +êĩ Ĺ +ê Ī +êĪ į +ê§ Ĥ +ê§ Ĭ +êª Ģ +ê² Ī +ê² į +ê³ Ģ +êµ ł +ê½ IJ +ê¾ Ī +ê¿ ± +ëĥ ı +ëĦ ij +ëħ ¤ +ëĩ ¸ +ëĪ ¼ +ëī ħ +ëĬ £ +ëĭ º +ëį ŀ +ëIJ Į +ëķ ¸ +ëĺ ł +ëĻ ĩ +ëĻ Ī +ëľ ½ +ëŀ Ķ +ëł ľ +ë£ IJ +ë§ Ģ +ë§ Ĭ +ëª Ģ +ë¬ Ń +ë¯ ¾ +ë³ ľ +ë´ Ĭ +ëµ ī +ë· ľ +ë¸ Ģ +ë¹ ĭ +ìģ Ħ +ìĤ £ +ìĤ » +ìĦ µ +ìħ Ĵ +ìī Ī +ìī Ķ +ìĬ Į +ìĬ Ļ +ìIJ ´ +ìĵ º +ìķ ļ +ìķ º +ìĸ ľ +ìĹ ª +ìĺ ľ +ìĻ ¤ +ìļ Ľ +ìļ º +ìĿ ħ +ìĿ ı +ìĿ Ń +ìĿ ¶ +ìł Ľ +ì¡ Ī +ì¢ ī +ì¢ Ķ +ì© ł +ìŃ Į +ì¯ © +ì´ £ +ì¸ ķ +ì¹ Ł +ì¾ ¡ +ì¿ Ļ +íģ ĩ +íģ ī +íĩ Ģ +íĪ ¶ +íĸ ij +íĸ ¤ +íĹ ħ +íľ ı +íĿ Ŀ +ï¤ Ĵ +ï¤ ķ +ï¤ ¬ +ï¥ ħ +ï¥ ĩ +ï¥ ı +ï¥ ļ +ï¥ Ł +ï¦ Ħ +ï¦ Ī +ï¦ ¨ +ï¦ © +ï¦ ² +ï§ ģ +ï§ ĥ +ï§ Ķ +ï§ ł +ï§ £ +ï§ ® +ï ŃIJ +ïŃ ĸ +ïŃ ¦ +ïŃ ´ +ïŃ µ +ïŃ ¶ +ïŃ ¸ +ï® Į +ï® İ +ï® ŀ +ï® Ł +ï® ¡ +ï® ª +ï¯ Ķ +ï¯ Ĺ +ï¯ ļ +ï¯ Ľ +ï¯ Ŀ +ï¯ Ł +ï¯ § +ï¯ ¨ +ï¯ « +ï¯ ¯ +ï¯ ° +ï¯ ± +ï¯ ² +ï¯ ³ +ï¯ ´ +ï¯ µ +ï¯ ¶ +ï° Ģ +ï± ħ +ï± Ķ +ï± ´ +ï² ģ +ï³ ķ +ï· ½ +ï¸ ķ +ï¸ ± +ï¹ £ +ï¹ ½ +ï» į +ï¾ ± +ðĿIJ Ļ +ðĿIJ ½ +ðĿij ¤ +ðĿij ® +ðĿij µ +ðĿĴ ĥ +ðĿĴ Ħ +ðĿĵ Ń +ðĿĵ · +ðĿĶ ĸ +ðĿĶ ŀ +ðĿĶ ¢ +ðĿĶ ¦ +ðĿĶ ¬ +ðĿķ Ħ +ðĿķ Ĭ +ðĿķ İ +ðĿķ Ļ +ðĿķ ľ +ðĿķ Ń +ðĿķ ³ +ðĿķ ¸ +ðĿķ ¾ +ðĿ ĸī +ðĿĸ ı +ðĿĺ ĩ +ðĿĺ ī +ðĿĺ ĸ +ðĿĺ Ľ +ðĿĺ ŀ +ðĿĺ « +ðĿĺ ¾ +ðĿĻ ĩ +ðĿĻ ī +ðĿĻ ĭ +ðĿĻ İ +ðĿĻ ĺ +ðĿĻ ¥ +ðĿļ ĥ +ðĿļ IJ +ðĿļ Ķ +ðĿľ ĥ +ðŁĦ · +ðŁħ Ŀ +ðŁħ ¾ +ðŁĨ Ĥ +ðŁĨ ĵ +ðŁĮ Ĥ +ðŁĮ Ĩ +ðŁĮ ī +ðŁĮ ij +ðŁĮ ĺ +ðŁĮ © +ðŁĮ « +ðŁį ¢ +ðŁį ¥ +ðŁİ Ľ +ðŁİ ¢ +ðŁİ ´ +ðŁij ¡ +ðŁĴ ¾ +ðŁĵ Ń +ðŁĶ Ī +ðŁĶ ¦ +ðŁĶ ² +ðŁĶ ³ +ðŁķ ĵ +ðŁķ ķ +ðŁķ ĺ +ðŁķ Ł +ðŁķ · +ðŁĹ ³ +ðŁļ Ħ +ðŁļ Ķ +ðŁļ ĸ +ðŁĽ IJ +ðŁĽ ¤ +ðŁĽ ¸ +ðŁ ł +ðŁł ³ +ðŁ¤ ¹ +ðŁ¥ ĥ +ðŁ¥ ¨ +ðŁ¥ ª +ðŁ¥ ¾ +ðŁ¦ ĥ +ðŁ¦ Ĵ +ðŁ¦ Ļ +ðŁ¦ ¶ +ðŁ§ ł +ðŁ§ ª +ðŁ§ Ń +ðŁ§ ² +𣠷 +ð£· Ń +ð¦ ĺ +ð¦ĺ Ĵ +Æ ij +Ç Ļ +È ® +Ø ł +Ú Ħ +Ü Ģ +ß ¢ +áī Ģ +áĬ IJ +áİ ł +Ạŀ +ëĪ ŀ +ëķ Ł +ë£ ģ +ë¤ Ĺ +ìĦ ¥ +ìħ ij +ìĸ IJ +ìĽ Ľ +ì£ ķ +íİ ı +íĽ ĵ +ï¥ º +ï³ Ľ +ï´ « +ðĸ § +ðĸ§ · +ðĿķ ģ +ðŁIJ ª +ðŁĴ Ī +ðŁĵ ł +ðŁķ Ľ +ðŁķ ´ +Ñ Ŀ +Ó Ĭ +ॠ² +ઠª +áĥ ¤ +áį IJ +á¶ ° +á¼ Ŀ +á½ © +âĭ ĭ +âĴ ½ +âĻ ¾ +â ½Ķ +â¾ ¯ +ãĦ Ĵ +ãħ ļ +ëIJ į +ë· ģ +ìĭ Ģ +ìļ Ŀ +ì¥ ° +ìº ´ +íĭ ī +íĿ ½ +ï¦ Ģ +ï¦ ¿ +ï§ ħ +ï§ ĵ +ïŃ ¯ +ï® Ĩ +ðIJ¤ ķ +ðĿIJ Ł +ðĿĴ ħ +ðĿĵ ľ +ðĿĶ ° +ðĿĶ » +ðĿĺ į +ðĿĻ ¯ +ðŁĦ ½ +ðŁħ Ĥ +ðŁħ Ķ +ðŁħ ½ +ðŁĵ ´ +ðŁ§ ĸ +Ó Ĵ +Ḡ² +ëī ¼ +Ç ı +È ĵ +Ê ¸ +Õ Ĥ +Û ħ +ß ¡ +ß £ +à® ¯ +à° Ī +ಠ¸ +ຠ® +༠ķ +áĢ İ +áĨ ¡ +áIJ ĭ +áIJ ķ +áij ¯ +áŀ Ĩ +ᨠķ +á© Ī +âģ ħ +âĨ ļ +âĶ İ +âł © +â² Ĥ +â² Ķ +â² ¨ +ãĬ ļ +íĵ ² +ðĿij Ī +ðĿij ¬ +ðĿij ¹ +ðĿĴ ¾ +ðĿĵ ± +ðĿĵ ½ +ðĿķ ¯ +ðĿķ » +ðĿĺ ½ +ðĿļ Ĩ +ðŁĦ ° +ðŁIJ ¨ +Ò ķ +ಠħ +ï¨ Ĩ +ðĿij ° +ðŁĦ ¸ +Ô İ +Ø į +Ù µ +ಠ¶ +áĢ Ī +áĺ Ĺ +áł ¸ +á¡ ¡ +ᨠ² +á© ģ +á´ · +áµ § +âķ ¨ +âļ ģ +â¾ Ŀ +ãĢ ¼ +ãĦ ı +êĴ « +ê¦ ¥ +ê¦ © +ê¦ ² +ìĺ ¼ +íĵ IJ +ðĵ ĩ +ðĵĩ ¼ +ðĿķ ¿ +ðŁĽ ´ +ë¨ ľ +ಠµ +à´ İ +à¼ Ģ +âĩ ĸ +ãĪ « +âĵ Ģ +áħ ´ +áļ ¾ +ἠŀ +ἠ« +ᥠ´ +âĨ Ľ +âĨ ¶ +âĩ ¤ +âķ Ł +âĺ · +âļ IJ +ðŁ§ ´ +á¹ ³ +âĶ į +âĶ Ĵ +âĶ © +âĶ ¦ +â¾ µ +ઠľ +ઠ¤ +âĩ Ļ +âĶ ± +âķ Ģ +â½ Ĭ +ï½ Ł +ଠ¡ +ðł ® +ðł® · +âķ ĥ +â° Ķ +ãĬ ¦ +ðŁİ IJ +ãĩ ° +â¼ Ŀ +â¾ Ķ +â½ Ĵ +âł Ĵ +ï¨ ¦ +ï© Ĵ +ï¨ ² +ï© ĸ +ðĵı ¸ +ãĮ ĥ +ðĸ ¤ +ðĸ¤ IJ +ï¦ Ń +âĬ ħ +â¾ ³ +ä´ ¥ +ï© ķ +ðŁĮ Ķ +áŀ ĭ +âļ į +â¼ ĭ +ãİ ĺ +ðIJĮ ² +É © +áİ ij +âĨ ® +âĩ ĥ +âļ İ +ãĩ ± +ãĭ © +ãĮ ¶ +êĻ ª +ëİ ¬ +ï¨ IJ +ï¨ Ľ +ï© Ĭ +ï© į +ðĵ ħ +ðĵħ º +Ï ¡ +È ij +É Ĥ +Ô ĵ +ß İ +à´ § +áĢ ī +áĢ ĭ +áĢ ij +áĢ ł +áļ Ļ +ᨠĦ +ᨠ© +ᨠ¹ +á© ĵ +ᬠľ +á´ Ļ +áµ ij +âĤ Ń +âĨ ° +âľ ģ +â½ IJ +ãĭ ¯ +ãĮ ½ +íĨ ¢ +ï¤ ¿ +ðŁ Ĥ +ðŁĤ » +È Ĵ +Í º +Ô ¥ +Õ ij +Ú ¶ +à§ İ +à¶ ® +ຠĸ +ຠľ +ຠ½ +áĥ » +áħ ¯ +áĭ ŀ +áĸ ķ +á ´Ī +á¶ Ĩ +Ḡľ +á¹ ¼ +á¿ ¨ +âĦ ĭ +âĦ Ń +âĪ ± +âĮ ĵ +âĶ ĩ +âĶ ¢ +â± ® +â² Ħ +ãĩ ¾ +ãĪ ¬ +ë¸ ¡ +ìIJ ī +íĻ Ľ +ðĿķ ª +Æ ¹ +Í ² +Ó ģ +Û ¼ +ঠ« +áħ Ł +áī Ĩ +áį Ī +Ạĸ +á½ ī +âĶ ¸ +â½ © +ê ľ +êľ ¥ +êµ ħ +ëĤ Ķ +ëĦ ł +ëĩ Ĺ +ëĻ Ŀ +ìļ ¯ +ìļ · +ìŁ Ľ +ì· IJ +íŁ ¬ +íŁ ® +íŁ ° +ï¦ Ĩ +ï¦ ± +ï² ŀ +ï³ ¤ +ï³ ¥ +ðIJĮ ¸ +ðĿĶ ı +ðĿķ ® +ðĿĺ £ +à¦ Ī +âı ı +ãĦ ĸ +ê² ĩ +ëĸ ĺ +ëľ · +ëŀ Ĵ +ë¡ ĵ +ë¢ ī +ë£ ĥ +ë§ ĭ +ë² ĭ +ìĤ · +ìĪ ķ +ì Į¨ +ìĵ » +ìĸ Ĭ +ìĻ ¬ +ìĿ » +ì¦ ģ +ìµ ¤ +ì· ĥ +íĢ ľ +íħ ī +íį ł +íı ħ +íij ± +íķ ķ +íĸ ł +íĿ ķ +Æ Ļ +Æ ļ +Æ ŀ +Ç ĥ +Ç Ĭ +Ç ľ +Ç ¤ +Ç Ń +Ç ¹ +È Ģ +È ģ +È ħ +È ī +È Ĺ +È Ł +È ¤ +È ¥ +È ¨ +È µ +È º +È » +É Į +É ® +Ê ħ +Ê ¥ +Ê ¨ +Ë ĵ +Ë Ķ +Ë ł +Ë £ +Ë ¸ +Í ´ +Ï Ĺ +Ï ĺ +Ï Ļ +Ï ļ +Ï Ŀ +Ï ¨ +Ï ¬ +Ï ¾ +Ï ¿ +Ñ ª +Ò Ģ +Ò ľ +Ò ¼ +Ò ½ +Ó Ĥ +Ó ħ +Ó ĩ +Ó į +Ó ĸ +Ó Ł +Ó « +Ó ± +Ô Ĩ +Ô ĩ +Ô º +Õ ĭ +Ö ī +Ø Ī +Ø Ĭ +Ø ½ +Ø ¾ +Ù · +Ú Ĥ +Ú Ĭ +Ú ĸ +Ú Ĺ +Ú £ +Ú « +Ú ¸ +Û Ģ +Û į +Û ½ +Ü ī +Ü ¤ +Ý § +Ý ´ +Þ ĥ +Þ ¤ +Þ ¥ +ß ļ +ß Ľ +ß ¤ +àł į +àł ĵ +àł ³ +à¡ ¢ +ॠł +à§ ł +à§ º +ਠĬ +ਠIJ +ਠ® +ਠ¯ +ਠ° +ਠ¸ +ઠĨ +ઠ³ +ઠµ +ઠ½ +ଠĮ +ଠĺ +ଠ½ +à® ĥ +à® ¸ +à° Ĩ +à° ķ +à° ¦ +ಠĨ +ಠĬ +ಠĮ +ಠIJ +ಠĽ +ಠ¤ +ಠ¦ +ಠª +ಠ² +ಠ¹ +à´ Ĩ +à´ ı +à´ Ĺ +à´ « +à´ ¹ +ൠº +ൠ½ +à¶ ħ +à¶ Ĭ +à¶ Ķ +à¶ § +à¶ « +à¶ ° +༠Ħ +༠ħ +༠Ĭ +à½ Ļ +འ¡ +འ§ +à¿ Ģ +à¿ Ļ +áĢ Ŀ +áĢ § +áĢ © +áĢ ¿ +áģ µ +áĤ ģ +áĤ ½ +áĥ Ĥ +áĥ ª +áĦ Ĭ +áĦ ¢ +áħ ¦ +áħ Ń +áĨ ® +áĨ ± +áĨ » +á ĩ +áĩ Ĥ +áĪ ħ +áĪ ī +áĪ Į +áĪ IJ +áĪ Ĵ +áĪ Ļ +áĪ ļ +áĪ ľ +áĪ ŀ +áĪ © +áĪ ³ +áĪ º +áĪ ½ +áī ħ +áī ¢ +áī ± +áī ´ +áĬ ĥ +áĬ į +áĬ ĸ +áĬ ® +áĬ ¸ +áĭ Ľ +áĭ Ŀ +áĭ ³ +áĮ ģ +áĮ ħ +áĮ ¥ +áĮ ¦ +á Į¨ +áį Ĭ +áį į +áį ķ +áį ĸ +áį ¢ +áį ¤ +áİ Ĵ +áİ ª +áı ģ +áı IJ +áı Ł +áIJ Ĥ +áIJ ĸ +áIJ Ŀ +áIJ ŀ +áIJ Ł +áIJ ł +áij ĸ +áĴ ĭ +áĴ į +áĴ ¡ +áĵ « +áĶ ķ +áķ ĭ +áķ ij +áķ Ļ +áķ ļ +áķ Ľ +áķ ¤ +áķ ¦ +áķ ® +áķ ¼ +áĸ ĵ +áĹ Ĺ +áĹ ¢ +áĹ ¯ +áĹ · +áĺ Ħ +áĺ ij +ἠĤ +áĽ Ļ +áŀ į +áł Ĩ +áł ¡ +áł ¦ +áł ® +áł ¯ +áł ² +áł · +á¡ į +á¡ ŀ +á¡ ¤ +á ¡´ +á¡ µ +ᤠĵ +ᥠĸ +ᥠ° +ᨠ¦ +ᨠ§ +ᨠ¨ +ᨠª +ᨠ¬ +ᨠ¯ +ᨠ³ +ᨠµ +á© ĥ +ᬠķ +áŃ £ +á ± +á± ļ +á² ł +á´ ĵ +á´ ¶ +áµ Ĥ +áµ Į +áµ ¥ +áµ ´ +á¶ ĩ +á¸ Ī +Ḡł +Ḡ§ +Ḡ´ +Ḡ¾ +á¹ Ģ +á¹ ĸ +á¹ Ł +á¹ ł +á¹ « +á¹ ± +á¹ · +á¹ ¿ +ẠĦ +Ạį +Ạij +áº Ĺ +á¼ ī +á¼ ĵ +á¼ Ń +á½ ĭ +á½ Ĵ +á½ ł +á½ £ +á¾ Ħ +á¾ ı +á¾ ij +á¾ Ĺ +á¾ ¦ +á¾ § +á¾ ¾ +á¿ Ħ +á¿ ĵ +á¿ ¡ +á¿ ¬ +âģ ļ +âĤ Į +âĦ ģ +âĦ Ķ +âĦ £ +âĦ § +âĦ ¯ +âĦ ° +âĦ ´ +âħ ħ +âĨ ľ +âĨ « +âĨ Ń +âĨ ± +âĨ ¹ +âĨ ½ +âĩ ĩ +âĩ ľ +âĩ µ +âĪ ī +âĪ Ĭ +âĪ ĸ +âĪ ľ +âĪ ¾ +âī Ģ +âī ĭ +âī Į +âī ĵ +âī ľ +âī ´ +âī ¿ +âĬ Ĭ +âĬ ĭ +âĬ Ķ +âĬ ĸ +âĬ £ +âĬ ¦ +âĭ İ +âĭ ª +âĭ ² +âĮ ¦ +âĮ § +âį º +âİ Ī +âİ ¨ +âİ ¬ +âİ ³ +âİ ¼ +âİ ¾ +âı Į +âı ļ +âı « +âı ¯ +âı µ +âĴ ľ +âĴ Ŀ +âĴ « +âĵ Ħ +âĵ Ĭ +âĵ Ļ +âĵ © +âĶ ij +âĶ Ļ +âĶ ļ +âĶ ¥ +âķ ħ +âķ ī +âķ į +âķ ı +âķ ŀ +âĸ ļ +âĸ ¯ +âĹ ĥ +âĹ ļ +âĹ ¬ +âĹ ´ +âĺ Ī +âĺ ¤ +âĺ ¥ +âĺ § +âĺ ¬ +âĻ ģ +âĻ ± +âļ ĥ +âļ Ħ +âļ ħ +âļ ı +âļ ļ +âļ ŀ +âļ Ł +âļ ± +âļ ² +âľ Ģ +âľ Ł +âľ ¢ +âĿ µ +⣠¡ +⣠¦ +⣠§ +⣠³ +⣠¾ +⣠¿ +âł ĩ +⤠Ħ +⤠º +⥠Ĥ +⥠¹ +â§ ī +â§ ¼ +â§ ½ +⨠į +⬠Ĭ +â¬ Ł +âŃ ŀ +â® ŀ +â® ³ +â¯ Ī +⯠ij +â± ł +â± ± +â² Ń +â´ ¹ +âµ ķ +⸠¾ +â º« +â¼ Ĩ +â¼ ł +â½ Ł +â½ ¼ +â¾ Ľ +â¾ § +â¿ ĥ +â¿ » +ãĤ ķ +ãĤ Ł +ãĦ Ľ +ãĦ ¡ +ãĦ ¶ +ãĦ º +ãħ Ĵ +ãħ Ł +ãĨ Ģ +ãĩ » +ãĪ ij +ãĪ Ń +ãĪ ® +ãĪ ³ +ãĪ ¹ +ãī ¥ +ãī ¦ +ãī ¹ +ãī ¿ +ãĬ ŀ +ãĬ ¨ +ãĭ ij +ãĭ ¥ +ãĭ ´ +ãĭ º +ãİ Ħ +ãİ ķ +ãİ ¯ +ãı Ĥ +ãı Ī +ãı ĵ +ãı ĸ +ãı ± +ãIJ ± +ãŁ ģ +ã ¢ +㢠¨ +ã ¨ +㨠³ +ã« ª +ã« ´ +ã¶ ³ +㺠¾ +ä Ģ +äĢ Ģ +ä ĭ +äĭ Į +ä ĮĢ +äIJ Ģ +ä łĢ +ä ł +äł ¼ +ä § +ä§ ŀ +ä¨ ° +ä¨ º +ä ´Ģ +ä · +ä· ħ +ä ·¸ +ê Ĥ +êĤ « +ê Į +êĮ ¼ +ê į +êį ² +êĴ µ +ê ĵ +êĵ ½ +êĻ Ń +êĿ Ľ +êĿ ¥ +ê ŀ +êŀ Ĭ +ê¦ Ĩ +ê¦ ĩ +ê¦ Ł +ê¦ ¨ +ê§ Ī +ê © +ê© Ł +êª ĭ +êª ij +êª ķ +êª Ĺ +êª ľ +êª ® +êª ± +êª » +êª ¼ +ê« Ģ +ê« Ŀ +ê° ĥ +ê° ĺ +ê± ľ +ê² ĵ +ê² ļ +ê³ Ļ +ê³ ¾ +ê´ Ĺ +ê´ Ļ +êµ Ľ +ê¶ ĥ +ê¶ ķ +ê¶ ¨ +ê¸ © +ê¸ ¿ +ê ¹Ħ +ê¹ Ĩ +ê¹ ī +ê¹ ĵ +ê¹ ¢ +ê¹ £ +ê¹ ¸ +êº ³ +ê¿ ı +ê¿ ķ +ê¿ § +ëĢ © +ëģ ħ +ëĥ µ +ëĦ ĸ +ëĦ Ĺ +ëĦ ¢ +ëħ Ĥ +ëĨ IJ +ëĩ ľ +ëĪ ĭ +ëĪ ļ +ëī į +ëī ¨ +ëĬ ļ +ëĬ ¡ +ëĭ ľ +ëĭ ª +ëĮ ĺ +ëĮ ¤ +ëĮ ¸ +ëİ Ł +ëı ¨ +ëIJ Ħ +ëIJ ı +ëIJ ´ +ëIJ ¸ +ëij ģ +ëij ¿ +ëĴ ¨ +ëĵ · +ëĶ ® +ëĶ ² +ëķ § +ëĸ Ķ +ëĸ ª +ëĺ Ń +ëļ Ģ +ëļ ł +ëĽ Ķ +ëĽ © +ëľ ħ +ëŀ ķ +ëŀ ° +ëŁ IJ +ëł ¡ +ë¡ ŀ +ë¡ £ +ë¡ µ +ë£ Ħ +ë£ į +ë¤ ³ +ë¦ į +ë¦ ı +ë¦ ³ +ë§ Ħ +ë§ Ĩ +ë§ į +ë§ ľ +ë§ « +ë§ » +ë¨ ® +ë© Ĥ +ë© Ń +ëª ´ +ë¬ ľ +ë¬ ł +ë¬ « +ë¬ ¾ +ëŃ ¬ +ë® ĺ +ë® ¹ +ë¯ ķ +ë¯ ľ +ë° ¨ +ë° ª +ë± Ķ +ë² ĺ +ë² Ľ +ë² ± +ë² ´ +ë´ ½ +ëµ ¤ +ëµ ¨ +ë· Ĺ +ë· ĺ +ë¸ ĵ +ë¸ ľ +ë¹ ª +ëº ĥ +ëº ĺ +ëº µ +ë» ´ +ë¼ IJ +ë¾ Ķ +ìģ Ń +ìĤ ł +ìĤ ® +ìĥ ı +ìĥ Ļ +ìĦ º +ìħ ¢ +ìĨ Ģ +ìĨ ħ +ìĨ ¤ +ìĨ ¦ +ìĨ ¬ +ìĩ ± +ìĪ µ +ìĭ ¨ +ìĭ ´ +ìĮ ° +ìį ľ +ìİ Ĺ +ìİ ĺ +ìİ ¼ +ìij ī +ìij Ŀ +ìij » +ìĴ Ķ +ìĴ ¯ +ìĵ © +ìķ IJ +ìķ ĸ +ìĸ ł +ìĸ ¾ +ìĹ ĥ +ìĹ Ĺ +ìĹ ľ +ìĹ ¨ +ìĺ Ĥ +ìĺ Ħ +ìĺ ı +ìĺ ¾ +ìĺ ¿ +ìľ § +ìĿ IJ +ìĿ ĸ +ìĿ · +ìŀ į +ìŀ ı +ìŀ ¨ +ìŀ ª +ìŀ ³ +ìł ¡ +ìł ´ +ìł ¹ +ì¡ Ģ +ì¡ ª +ì¡ µ +ì¢ IJ +ì¢ ¨ +ì£ Į +ì£ Ļ +ì£ ³ +ì¦ ij +ì§ ¥ +ì§ ´ +ì§ ¾ +ì¨ ĵ +ì¨ ķ +ì© ° +ì© » +ì© ¼ +ìª Ĺ +ì¬ Ķ +ì¬ ĺ +ì® ® +ì¯ ķ +ì¯ ĺ +ì° İ +ì° ¯ +ì± ĥ +ì± µ +ì² § +ì² ® +ì² ¯ +ì³ ¬ +ì´ ĭ +ì´ ¢ +ìµ ¥ +ì¶ £ +ì¸ Ī +ì¸ Ļ +ìº ¤ +ìº Ń +ì» ½ +ì¼ Ļ +ì½ ¬ +ì¾ Ģ +ì¿ ħ +ì¿ ½ +íĢ ħ +íģ ¦ +íĤ ħ +íĥ ¶ +íĥ ¹ +íĦ Ķ +íħ £ +íĨ Ħ +íĨ § +íĨ ¹ +íĩ ¼ +íī ¤ +íĬ ½ +íĭ Ĥ +íĭ ij +íį Ī +íį Ļ +íį ¿ +íİ ¶ +íIJ Ŀ +íĴ ľ +íĵ Ŀ +íĵ ª +íĵ ± +íĵ · +íĵ ¼ +íĶ Ļ +íĶ ł +íķ ļ +íķ Ľ +íķ ŀ +íķ Ł +íķ § +íķ ¶ +íĸ Ĭ +íĸ ĭ +íĸ į +íĸ Ķ +íĸ ĺ +íĸ ¡ +íĸ ¬ +íĹ £ +íĹ ¿ +íĺ ĸ +íĺ Ń +íļ ° +íĽ į +íĽ ½ +íĿ Ł +íĿ Ń +íĿ ´ +íŀ ľ +ï¤ ī +ï¤ Ń +ï¤ ² +ï¤ µ +ï¤ ¼ +ï¥ Ģ +ï¥ ij +ï¥ Ĵ +ï¥ ķ +ï¥ ĺ +ï¥ Ļ +ï¥ « +ï¥ ¬ +ï¥ ° +ï ¥¿ +ï¦ ĭ +ï¦ ı +ï¦ Ķ +ï¦ ĸ +ï¦ ĺ +ï¦ Ľ +ï¦ ł +ï¦ ® +ï¦ ¯ +ï¦ º +ï¦ » +ï¦ ¾ +ï§ Ĩ +ï§ ĸ +ï§ Ľ +ï§ ŀ +ï§ Ł +ï§ § +ï§ ³ +ï§ º +ï§ ½ +ï¨ ĥ +ï¨ ļ +ï¨ ¢ +ï© Ł +ï¬ ¤ +ï¬ ¬ +ï¬ ¼ +ïŃ Ĵ +ïŃ ķ +ïŃ Ľ +ïŃ Ŀ +ïŃ ŀ +ïŃ Ł +ïŃ ¤ +ïŃ § +ïŃ ¨ +ïŃ ® +ïŃ ° +ïŃ ± +ïŃ · +ïŃ ¹ +ïŃ » +ï® Ģ +ï® ĥ +ï® Ħ +ï® ħ +ï® į +ï® Ĵ +ï® ĵ +ï® ķ +ï® ¦ +ï® ® +ï® ° +ï¯ ĵ +ï¯ ľ +ï¯ © +ï¯ ª +ï¯ ¬ +ï¯ Ń +ï¯ ® +ï¯ · +ï¯ ¹ +ï¯ » +ï¯ ¼ +ï° ĥ +ï° Į +ï° IJ +ï° ĺ +ï° Ļ +ï° ľ +ï° ŀ +ï° ¢ +ï° ® +ï° ° +ï° ¼ +ï° ¿ +ï± Ģ +ï± ģ +ï± Ī +ï± ĭ +ï± ı +ï± Ń +ï² Ģ +ï² ĩ +ï² Ī +ï² ĭ +ï² İ +ï² Ĵ +ï² ľ +ï² ł +ï² ¬ +ï² » +ï³ ĩ +ï³ Ķ +ï³ £ +ï³ « +ï´ ĺ +ï´ ° +ï´ ½ +ï ¶ +ï¶ ° +ï¸ ĸ +ï¸ ´ +ï¸ ¹ +ï¹ į +ï¹ Ĺ +ï¹ ¢ +ï¹ ¤ +ï¹ © +ï¹ ± +ï¾ ° +ï¿ Ĥ +ï¿ ® +ðIJĮ ° +ðIJĮ ¹ +ðIJĮ º +ðIJĮ ½ +ðIJį Ĥ +ðIJį ĥ +ðIJį Ħ +ðIJ İ +ðIJİ ¹ +ðIJ¤ Ĥ +ðIJ¤ į +ðIJ¤ ı +ðIJ¤ ĵ +ðIJŃ ī +ðIJŃ į +ðIJ° ĩ +ðIJ° ° +ðij Ĥ +ðijĤ Ħ +ðij ĺ +ðijĺ ģ +ðĴ Ģ +ðĴĢ ¸ +ðĴ ģ +ðĴģ º +ðĴ Ħ +ðĴĦ · +ðĴ Ĭ +ðĴĬ ij +ðĴ ĭ +ðĴĭ Ĺ +ð ĴĮ +ðĴĮ ¨ +ðĵĥ ¢ +ðĵĥ ° +ðĸ ł +ðĸł ļ +ðĿĦ ĥ +ðĿĦ ħ +ðĿĦ ķ +ðĿĦ Ļ +ðĿĦ ± +ðĿĦ ´ +ðĿĦ ¹ +ðĿħ İ +ðĿħ ª +ðĿĨ £ +ðĿĨ ³ +ðĿĨ ¹ +ðĿĩ Ĭ +ðĿĩ Ĺ +ðĿĩ ļ +ðĿĩ ľ +ðĿĩ ł +ðĿIJ ī +ðĿIJ ĸ +ðĿIJ ĺ +ðĿIJ £ +ðĿIJ ± +ðĿij Ĭ +ðĿij Ń +ðĿij ¼ +ðĿij ½ +ðĿĴ ° +ðĿĴ · +ðĿĴ ¿ +ðĿĵ ģ +ðĿĵ ĭ +ðĿĵ İ +ðĿĵ Ĵ +ðĿ ĵĺ +ðĿĵ ¢ +ðĿĵ ¦ +ðĿĵ « +ðĿĵ ¿ +ðĿĶ İ +ðĿĶ ± +ðĿĶ ´ +ðĿĶ · +ðĿĶ ¸ +ðĿĶ ½ +ðĿķ Ĥ +ðĿķ ĥ +ðĿķ ĭ +ðĿķ ı +ðĿķ IJ +ðĿķ ¥ +ðĿķ ´ +ðĿķ º +ðĿĸ IJ +ðĿĸ Ľ +ðĿĸ Ŀ +ðĿĸ ŀ +ðĿĹ © +ðĿĹ ³ +ðĿĹ ½ +ðĿĺ Ĭ +ðĿĺ ĭ +ðĿĺ Ķ +ðĿĺ ± +ðĿĺ ´ +ðĿĺ ¿ +ðĿĻ Ĵ +ðĿĻ Ŀ +ðĿĻ Ł +ðĿĻ ¬ +ðĿĻ Ń +ðĿĻ » +ðĿĻ ¾ +ðĿļ Ī +ðĿļ ĭ +ðĿļ ij +ðĿļ Ł +ðĿļ ł +ðĿļ £ +ðĿĽ ½ +ðĿľ Ĥ +ðĿľ Ķ +ðĿľ Ļ +ðŁ Ģ +ðŁĢ Ħ +ðŁĦ ² +ðŁĦ ¶ +ðŁħ IJ +ðŁħ ĸ +ðŁħ ļ +ðŁħ Ľ +ðŁħ ¦ +ðŁħ ¶ +ðŁħ » +ðŁħ ¼ +ðŁĨ ĥ +ðŁĨ Ĩ +ðŁĨ İ +ðŁĪ ¯ +ðŁĪ ² +ðŁĪ ¹ +ðŁĮ ĩ +ðŁĮ ĵ +ðŁį ĺ +ðŁİ ij +ðŁİ ¿ +ðŁı ı +ðŁı Ĵ +ðŁı © +ðŁı ¯ +ðŁIJ Ģ +ðŁij Ŀ +ðŁĴ ¹ +ðŁĴ º +ðŁĵ Ł +ðŁĵ ª +ðŁĵ ¼ +ðŁĶ Ģ +ðŁĶ Ĥ +ðŁĶ ĥ +ðŁĶ ĩ +ðŁĶ ĵ +ðŁĶ ¢ +ðŁĶ ¤ +ðŁĶ © +ðŁķ ĸ +ðŁķ ļ +ðŁķ ľ +ðŁķ Ŀ +ðŁķ ŀ +ðŁķ ł +ðŁķ ¢ +ðŁķ ³ +ðŁĸ ĩ +ðŁĸ ij +ðŁĸ ¶ +ðŁĹ ģ +Ñ ¨ +Ú İ +á¡ Į +Ḡ° +áº Ģ +á¼ ® +á½ Ŀ +âĦ ¬ +âļ § +⼠¤ +ã³ ¬ +êĻ ĭ +ê¸ ij +ëĶ ī +ëĹ į +ë¡ ij +ë¯ ij +ë» ħ +ë¼ Ŀ +ìĦ IJ +ìī ¡ +ìĭ ² +ìı ± +ìĹ ¤ +ìĿ © +ìĿ ¿ +ìŁ Ļ +ìł ° +ì¥ ī +íĬ Ń +íķ ® +ï® ı +ðŁħ ± +ðŁĨ Ĵ +ðŁķ ĭ +É ĺ +Ê ĵ +Õ ĥ +à´ ´ +འħ +áĨ º +áĪ Ĭ +áĪ ¨ +áĪ ¾ +áī IJ +áĮ ĥ +áĮ ½ +áĶ Ń +áł Ĥ +áł ¬ +ᨠ¸ +á© ĭ +á¶ ı +á¾ Ķ +á¿ IJ +á¿ ļ +âĻ Ļ +âļ Ĥ +âļ Ĺ +â¡ ¢ +⤠¦ +ëĸ ° +ë¤ Ĥ +ë§ ł +ë± ĭ +ë± IJ +ìĽ ¢ +ìľ ¾ +ì³ ħ +ì» ģ +íģ » +íĥ Ļ +íĵ ĸ +íĵ Ń +íķ ± +íĽ ľ +ï¤ ħ +ï¤ Ĩ +ï¦ ĥ +ï§ © +ï¨ Ĥ +ðIJ¤ Ķ +ðIJŃ ĵ +ðIJ° ¼ +ðĿĵ ŀ +ðĿĵ ° +ðĿĻ ľ +ðĿļ ģ +ðŁħ ¢ +ðŁı ĩ +È ² +Ê ¶ +Ô Ī +Ô ij +Ý ĵ +Ý ¥ +ठij +ॠ± +ଠī +à° ³ +à° µ +à² Ł +áĢ ı +áģ ¼ +áī ¨ +áĬ Ĵ +áĭ © +áĮ Ħ +áĮ Ķ +áIJ § +á ĴĮ +áĶ ħ +áĶ Ĭ +áł Ħ +ᨠģ +Ḡĥ +Ḡ» +âĶ ŀ +âĺ µ +âļ £ +â² ¢ +ãĪ ª +ä¶ µ +ê² Ļ +ê² ´ +ê³ Ĥ +ë¡ ¼ +ìĨ Ĭ +ì¼ ĩ +íĭ į +íĵ ¬ +íĵ ® +íĵ ¶ +íĵ » +ï¤ ¦ +ï¥ ł +ï¥ ± +ïŃ ² +ðIJŃ Ĭ +ðIJ ±ħ +ðĸ ¥ +ðĸ¥ ¨ +ðĿij ³ +ðĿĵ ķ +ðĿĵ ¬ +ðĿĵ ¹ +ðĿĵ ¾ +ðĿĶ ĵ +ðĿķ į +ðĿķ ¡ +ðĿķ ± +ðĿĸ ĸ +ðĿĺ ı +ðĿĺ IJ +ðĿĺ ļ +ðĿĻ ® +ðĿĻ ° +ðĿĻ ¸ +ðĿĻ º +ðĿĻ ¼ +ðĿĻ ½ +ðĿĻ ¿ +ðĿļ Ħ +ðĿļ ı +ðŁħ ħ +ðŁħ ĵ +Æ Ī +àł Į +áĻ ³ +á ļĮ +ἠħ +ἠIJ +ᤠĬ +ḠĬ +âĶ ½ +âķ Ĭ +⼠ĩ +⼠ı +âĿ ª +âĿ « +⣠° +ãĦ į +ãĦ ĵ +ãĦ § +ãħ ĸ +ãī « +ê¦ Ķ +ï± Ĭ +ຠĤ +áħ £ +á¥ Ķ +ᥠ¤ +âĨ ¤ +âĨ · +âĩ ŀ +âĸ ¤ +âŀ ¶ +ãĪ ¼ +ï¨ · +ðĵı § +âĶ ² +âĢ ´ +âĴ Ł +âĴ ¡ +â° Ĥ +â° į +â° İ +â° IJ +â° ij +â° Ł +â° ł +â° ¡ +â¼ Ń +ãĬ ¥ +âĴ ł +â½ º +ãĩ º +ãĩ ½ +ï¨ Ĭ +áķ · +âį ¨ +âº Ł +â½ Ĺ diff --git a/checkpoint-22635/model-00001-of-00004.safetensors b/checkpoint-22635/model-00001-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..50f012e41828593a6f685ac721b81338895e6b3a --- /dev/null +++ b/checkpoint-22635/model-00001-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ec8893ad23f6b4e25d558b7c3652f30827b46c172197c44cf04d009125dded5e +size 4877660776 diff --git a/checkpoint-22635/model-00002-of-00004.safetensors b/checkpoint-22635/model-00002-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..fb2c892a40fc5921dfe75e47578d74c53dc7d0b9 --- /dev/null +++ b/checkpoint-22635/model-00002-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:96ab2dfbebcc95f38e511e5b0634de91a2856ee9f480edfcd2f88526397892d3 +size 4932751008 diff --git a/checkpoint-22635/model-00003-of-00004.safetensors b/checkpoint-22635/model-00003-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..a49defc2db50f13c5137ecdf4841e38df68de65b --- /dev/null +++ b/checkpoint-22635/model-00003-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e115bd279bb036f5fa3173fe465ab1a27f86506e63fc66e735f6b532b1649223 +size 4330865200 diff --git a/checkpoint-22635/model-00004-of-00004.safetensors b/checkpoint-22635/model-00004-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..ce044ffe80e9be67641f8ac9b8b41ed49bbde11b --- /dev/null +++ b/checkpoint-22635/model-00004-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:481a0d59a11f12bacd51df1a156f2f59b5ff564682a2481c428fa925d81f79cc +size 1089994880 diff --git a/checkpoint-22635/model.safetensors.index.json b/checkpoint-22635/model.safetensors.index.json new file mode 100644 index 0000000000000000000000000000000000000000..6ca5084b88f1a95fef37f1b94c6e87ff69422bb7 --- /dev/null +++ b/checkpoint-22635/model.safetensors.index.json @@ -0,0 +1,346 @@ +{ + "metadata": { + "total_size": 15231233024 + }, + "weight_map": { + "lm_head.weight": "model-00004-of-00004.safetensors", + "model.embed_tokens.weight": "model-00001-of-00004.safetensors", + "model.layers.0.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.0.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.1.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.10.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.10.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.11.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.12.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.13.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.14.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.15.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.16.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.17.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.18.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.18.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.18.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.19.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.19.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.2.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.2.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.20.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.20.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.21.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.22.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.23.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.24.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.25.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.26.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.27.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.3.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.3.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.4.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.5.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.6.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.7.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.8.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.8.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.8.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.8.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.8.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.9.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.9.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.norm.weight": "model-00003-of-00004.safetensors" + } +} diff --git a/checkpoint-22635/rng_state_0.pth b/checkpoint-22635/rng_state_0.pth new file mode 100644 index 0000000000000000000000000000000000000000..9959dfa0d32cf7a8deece6c5a778423e8a10619a --- /dev/null +++ b/checkpoint-22635/rng_state_0.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:34bcae41c589c7e4cab7b2ef263b878c90c2741404a6af11994dc31537b2319b +size 14512 diff --git a/checkpoint-22635/rng_state_1.pth b/checkpoint-22635/rng_state_1.pth new file mode 100644 index 0000000000000000000000000000000000000000..b8d192967011a6873fc38efe91068e31262ad585 --- /dev/null +++ b/checkpoint-22635/rng_state_1.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d05dc84075e8f7dd1191c36f3be9dda12073208e12f7d2cef433c38d6336774a +size 14512 diff --git a/checkpoint-22635/scheduler.pt b/checkpoint-22635/scheduler.pt new file mode 100644 index 0000000000000000000000000000000000000000..b6d98ccdbeb32a4864bcd8e662c4653a0a9d437d --- /dev/null +++ b/checkpoint-22635/scheduler.pt @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1e33bbd4dda7e66662825ace3c1f6e43ac605769744e4e9d2a1226d5ad5f8385 +size 1064 diff --git a/checkpoint-22635/special_tokens_map.json b/checkpoint-22635/special_tokens_map.json new file mode 100644 index 0000000000000000000000000000000000000000..ac23c0aaa2434523c494330aeb79c58395378103 --- /dev/null +++ b/checkpoint-22635/special_tokens_map.json @@ -0,0 +1,31 @@ +{ + "additional_special_tokens": [ + "<|im_start|>", + "<|im_end|>", + "<|object_ref_start|>", + "<|object_ref_end|>", + "<|box_start|>", + "<|box_end|>", + "<|quad_start|>", + "<|quad_end|>", + "<|vision_start|>", + "<|vision_end|>", + "<|vision_pad|>", + "<|image_pad|>", + "<|video_pad|>" + ], + "eos_token": { + "content": "<|im_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false + }, + "pad_token": { + "content": "<|endoftext|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false + } +} diff --git a/checkpoint-22635/tokenizer.json b/checkpoint-22635/tokenizer.json new file mode 100644 index 0000000000000000000000000000000000000000..51ebb3ba93988c73bbd83a3c163a14343fbc5b06 --- /dev/null +++ b/checkpoint-22635/tokenizer.json @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9c5ae00e602b8860cbd784ba82a8aa14e8feecec692e7076590d014d7b7fdafa +size 11421896 diff --git a/checkpoint-22635/tokenizer_config.json b/checkpoint-22635/tokenizer_config.json new file mode 100644 index 0000000000000000000000000000000000000000..fbb0accdce6eb595ec87eb674282b779430138cd --- /dev/null +++ b/checkpoint-22635/tokenizer_config.json @@ -0,0 +1,209 @@ +{ + "add_bos_token": false, + "add_prefix_space": false, + "added_tokens_decoder": { + "151643": { + "content": "<|endoftext|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151644": { + "content": "<|im_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151645": { + "content": "<|im_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151646": { + "content": "<|object_ref_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151647": { + "content": "<|object_ref_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151648": { + "content": "<|box_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151649": { + "content": "<|box_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151650": { + "content": "<|quad_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151651": { + "content": "<|quad_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151652": { + "content": "<|vision_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151653": { + "content": "<|vision_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151654": { + "content": "<|vision_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151655": { + "content": "<|image_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151656": { + "content": "<|video_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151657": { + "content": "", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151658": { + "content": "", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151659": { + "content": "<|fim_prefix|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151660": { + "content": "<|fim_middle|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151661": { + "content": "<|fim_suffix|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151662": { + "content": "<|fim_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151663": { + "content": "<|repo_name|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151664": { + "content": "<|file_sep|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + } + }, + "additional_special_tokens": [ + "<|im_start|>", + "<|im_end|>", + "<|object_ref_start|>", + "<|object_ref_end|>", + "<|box_start|>", + "<|box_end|>", + "<|quad_start|>", + "<|quad_end|>", + "<|vision_start|>", + "<|vision_end|>", + "<|vision_pad|>", + "<|image_pad|>", + "<|video_pad|>" + ], + "bos_token": null, + "chat_template": "{%- if tools %}\n {{- '<|im_start|>system\\n' }}\n {%- if messages[0]['role'] == 'system' %}\n {{- messages[0]['content'] }}\n {%- else %}\n {{- 'You are Qwen, created by Alibaba Cloud. You are a helpful assistant.' }}\n {%- endif %}\n {{- \"\\n\\n# Tools\\n\\nYou may call one or more functions to assist with the user query.\\n\\nYou are provided with function signatures within XML tags:\\n\" }}\n {%- for tool in tools %}\n {{- \"\\n\" }}\n {{- tool | tojson }}\n {%- endfor %}\n {{- \"\\n\\n\\nFor each function call, return a json object with function name and arguments within XML tags:\\n\\n{\\\"name\\\": , \\\"arguments\\\": }\\n<|im_end|>\\n\" }}\n{%- else %}\n {%- if messages[0]['role'] == 'system' %}\n {{- '<|im_start|>system\\n' + messages[0]['content'] + '<|im_end|>\\n' }}\n {%- else %}\n {{- '<|im_start|>system\\nYou are Qwen, created by Alibaba Cloud. You are a helpful assistant.<|im_end|>\\n' }}\n {%- endif %}\n{%- endif %}\n{%- for message in messages %}\n {%- if (message.role == \"user\") or (message.role == \"system\" and not loop.first) or (message.role == \"assistant\" and not message.tool_calls) %}\n {{- '<|im_start|>' + message.role + '\\n' + message.content + '<|im_end|>' + '\\n' }}\n {%- elif message.role == \"assistant\" %}\n {{- '<|im_start|>' + message.role }}\n {%- if message.content %}\n {{- '\\n' + message.content }}\n {%- endif %}\n {%- for tool_call in message.tool_calls %}\n {%- if tool_call.function is defined %}\n {%- set tool_call = tool_call.function %}\n {%- endif %}\n {{- '\\n\\n{\"name\": \"' }}\n {{- tool_call.name }}\n {{- '\", \"arguments\": ' }}\n {{- tool_call.arguments | tojson }}\n {{- '}\\n' }}\n {%- endfor %}\n {{- '<|im_end|>\\n' }}\n {%- elif message.role == \"tool\" %}\n {%- if (loop.index0 == 0) or (messages[loop.index0 - 1].role != \"tool\") %}\n {{- '<|im_start|>user' }}\n {%- endif %}\n {{- '\\n\\n' }}\n {{- message.content }}\n {{- '\\n' }}\n {%- if loop.last or (messages[loop.index0 + 1].role != \"tool\") %}\n {{- '<|im_end|>\\n' }}\n {%- endif %}\n {%- endif %}\n{%- endfor %}\n{%- if add_generation_prompt %}\n {{- '<|im_start|>assistant\\n' }}\n{%- endif %}\n", + "clean_up_tokenization_spaces": false, + "eos_token": "<|im_end|>", + "errors": "replace", + "extra_special_tokens": {}, + "model_max_length": 2048, + "pad_token": "<|endoftext|>", + "padding_side": "right", + "split_special_tokens": false, + "tokenizer_class": "Qwen2Tokenizer", + "unk_token": null +} diff --git a/checkpoint-22635/trainer_state.json b/checkpoint-22635/trainer_state.json new file mode 100644 index 0000000000000000000000000000000000000000..37d2f4d6c20d40fbd71ffe1b85a7b22c60c8e355 --- /dev/null +++ b/checkpoint-22635/trainer_state.json @@ -0,0 +1,181113 @@ +{ + "best_metric": null, + "best_model_checkpoint": null, + "epoch": 3.0, + "eval_steps": 500, + "global_step": 22635, + "is_hyper_param_search": false, + "is_local_process_zero": true, + "is_world_process_zero": true, + "log_history": [ + { + "epoch": 0.0001325381047051027, + "grad_norm": 250.43743896484375, + "learning_rate": 5.000000000000001e-07, + "loss": 1.0252, + "num_input_tokens_seen": 2128, + "step": 1 + }, + { + "epoch": 0.0002650762094102054, + "grad_norm": 174.06369018554688, + "learning_rate": 1.0000000000000002e-06, + "loss": 1.0459, + "num_input_tokens_seen": 4048, + "step": 2 + }, + { + "epoch": 0.00039761431411530816, + "grad_norm": 273.9053955078125, + "learning_rate": 1.5e-06, + "loss": 1.4319, + "num_input_tokens_seen": 6248, + "step": 3 + }, + { + "epoch": 0.0005301524188204108, + "grad_norm": 34.939170837402344, + "learning_rate": 2.0000000000000003e-06, + "loss": 0.1974, + "num_input_tokens_seen": 7776, + "step": 4 + }, + { + "epoch": 0.0006626905235255136, + "grad_norm": 82.0633544921875, + "learning_rate": 2.5e-06, + "loss": 0.5028, + "num_input_tokens_seen": 9320, + "step": 5 + }, + { + "epoch": 0.0007952286282306163, + "grad_norm": 96.41106414794922, + "learning_rate": 3e-06, + "loss": 1.3664, + "num_input_tokens_seen": 11160, + "step": 6 + }, + { + "epoch": 0.0009277667329357191, + "grad_norm": 112.13668060302734, + "learning_rate": 3.5e-06, + "loss": 1.5008, + "num_input_tokens_seen": 12952, + "step": 7 + }, + { + "epoch": 0.0010603048376408217, + "grad_norm": 66.35326385498047, + "learning_rate": 4.000000000000001e-06, + "loss": 1.3062, + "num_input_tokens_seen": 15400, + "step": 8 + }, + { + "epoch": 0.0011928429423459245, + "grad_norm": 19.309053421020508, + "learning_rate": 4.5e-06, + "loss": 0.2608, + "num_input_tokens_seen": 17040, + "step": 9 + }, + { + "epoch": 0.0013253810470510272, + "grad_norm": 33.11587905883789, + "learning_rate": 5e-06, + "loss": 0.2822, + "num_input_tokens_seen": 19048, + "step": 10 + }, + { + "epoch": 0.0014579191517561298, + "grad_norm": 32.90431213378906, + "learning_rate": 4.999999975899138e-06, + "loss": 0.0864, + "num_input_tokens_seen": 20840, + "step": 11 + }, + { + "epoch": 0.0015904572564612327, + "grad_norm": 0.9036729335784912, + "learning_rate": 4.9999999035965515e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23096, + "step": 12 + }, + { + "epoch": 0.0017229953611663353, + "grad_norm": 0.010966886766254902, + "learning_rate": 4.999999783092242e-06, + "loss": 0.0, + "num_input_tokens_seen": 24496, + "step": 13 + }, + { + "epoch": 0.0018555334658714381, + "grad_norm": 62.49030685424805, + "learning_rate": 4.999999614386212e-06, + "loss": 1.451, + "num_input_tokens_seen": 26248, + "step": 14 + }, + { + "epoch": 0.0019880715705765406, + "grad_norm": 30.907695770263672, + "learning_rate": 4.999999397478466e-06, + "loss": 0.7342, + "num_input_tokens_seen": 29496, + "step": 15 + }, + { + "epoch": 0.0021206096752816434, + "grad_norm": 0.008592139929533005, + "learning_rate": 4.999999132369006e-06, + "loss": 0.0, + "num_input_tokens_seen": 31216, + "step": 16 + }, + { + "epoch": 0.0022531477799867462, + "grad_norm": 40.367591857910156, + "learning_rate": 4.9999988190578376e-06, + "loss": 1.1096, + "num_input_tokens_seen": 34480, + "step": 17 + }, + { + "epoch": 0.002385685884691849, + "grad_norm": 121.25069427490234, + "learning_rate": 4.999998457544968e-06, + "loss": 0.761, + "num_input_tokens_seen": 35928, + "step": 18 + }, + { + "epoch": 0.0025182239893969515, + "grad_norm": 0.20059402287006378, + "learning_rate": 4.999998047830402e-06, + "loss": 0.0005, + "num_input_tokens_seen": 37392, + "step": 19 + }, + { + "epoch": 0.0026507620941020544, + "grad_norm": 30.98487663269043, + "learning_rate": 4.999997589914151e-06, + "loss": 0.6026, + "num_input_tokens_seen": 39128, + "step": 20 + }, + { + "epoch": 0.002783300198807157, + "grad_norm": 33.51759338378906, + "learning_rate": 4.999997083796221e-06, + "loss": 0.4553, + "num_input_tokens_seen": 41656, + "step": 21 + }, + { + "epoch": 0.0029158383035122596, + "grad_norm": 19.42667007446289, + "learning_rate": 4.999996529476622e-06, + "loss": 0.0542, + "num_input_tokens_seen": 42992, + "step": 22 + }, + { + "epoch": 0.0030483764082173625, + "grad_norm": 17.662841796875, + "learning_rate": 4.999995926955366e-06, + "loss": 0.2276, + "num_input_tokens_seen": 45224, + "step": 23 + }, + { + "epoch": 0.0031809145129224653, + "grad_norm": 6.467265605926514, + "learning_rate": 4.999995276232463e-06, + "loss": 0.151, + "num_input_tokens_seen": 47048, + "step": 24 + }, + { + "epoch": 0.0033134526176275677, + "grad_norm": 41.72969436645508, + "learning_rate": 4.9999945773079275e-06, + "loss": 0.841, + "num_input_tokens_seen": 49592, + "step": 25 + }, + { + "epoch": 0.0034459907223326706, + "grad_norm": 4.11884880065918, + "learning_rate": 4.999993830181772e-06, + "loss": 0.0121, + "num_input_tokens_seen": 51344, + "step": 26 + }, + { + "epoch": 0.0035785288270377734, + "grad_norm": 1.7135484218597412, + "learning_rate": 4.99999303485401e-06, + "loss": 0.005, + "num_input_tokens_seen": 53536, + "step": 27 + }, + { + "epoch": 0.0037110669317428763, + "grad_norm": 23.234941482543945, + "learning_rate": 4.999992191324657e-06, + "loss": 0.5664, + "num_input_tokens_seen": 55264, + "step": 28 + }, + { + "epoch": 0.0038436050364479787, + "grad_norm": 0.08144200593233109, + "learning_rate": 4.9999912995937314e-06, + "loss": 0.0003, + "num_input_tokens_seen": 56656, + "step": 29 + }, + { + "epoch": 0.003976143141153081, + "grad_norm": 31.365327835083008, + "learning_rate": 4.999990359661249e-06, + "loss": 1.0078, + "num_input_tokens_seen": 58944, + "step": 30 + }, + { + "epoch": 0.004108681245858184, + "grad_norm": 52.97278594970703, + "learning_rate": 4.999989371527226e-06, + "loss": 0.9884, + "num_input_tokens_seen": 60536, + "step": 31 + }, + { + "epoch": 0.004241219350563287, + "grad_norm": 0.017972925677895546, + "learning_rate": 4.9999883351916845e-06, + "loss": 0.0001, + "num_input_tokens_seen": 63072, + "step": 32 + }, + { + "epoch": 0.00437375745526839, + "grad_norm": 19.20778465270996, + "learning_rate": 4.9999872506546435e-06, + "loss": 0.4417, + "num_input_tokens_seen": 64648, + "step": 33 + }, + { + "epoch": 0.0045062955599734925, + "grad_norm": 19.955821990966797, + "learning_rate": 4.999986117916123e-06, + "loss": 0.5826, + "num_input_tokens_seen": 67136, + "step": 34 + }, + { + "epoch": 0.004638833664678595, + "grad_norm": 0.09148523211479187, + "learning_rate": 4.999984936976145e-06, + "loss": 0.0003, + "num_input_tokens_seen": 69128, + "step": 35 + }, + { + "epoch": 0.004771371769383698, + "grad_norm": 5.537275314331055, + "learning_rate": 4.999983707834735e-06, + "loss": 0.1306, + "num_input_tokens_seen": 70528, + "step": 36 + }, + { + "epoch": 0.0049039098740888, + "grad_norm": 17.37434959411621, + "learning_rate": 4.999982430491912e-06, + "loss": 0.479, + "num_input_tokens_seen": 73696, + "step": 37 + }, + { + "epoch": 0.005036447978793903, + "grad_norm": 29.15047264099121, + "learning_rate": 4.999981104947704e-06, + "loss": 0.4218, + "num_input_tokens_seen": 75456, + "step": 38 + }, + { + "epoch": 0.005168986083499006, + "grad_norm": 6.122926235198975, + "learning_rate": 4.999979731202136e-06, + "loss": 0.0178, + "num_input_tokens_seen": 77288, + "step": 39 + }, + { + "epoch": 0.005301524188204109, + "grad_norm": 28.305675506591797, + "learning_rate": 4.9999783092552334e-06, + "loss": 0.5839, + "num_input_tokens_seen": 79128, + "step": 40 + }, + { + "epoch": 0.0054340622929092116, + "grad_norm": 28.465259552001953, + "learning_rate": 4.999976839107025e-06, + "loss": 0.3275, + "num_input_tokens_seen": 80504, + "step": 41 + }, + { + "epoch": 0.005566600397614314, + "grad_norm": 12.967247009277344, + "learning_rate": 4.999975320757539e-06, + "loss": 0.1255, + "num_input_tokens_seen": 82496, + "step": 42 + }, + { + "epoch": 0.005699138502319417, + "grad_norm": 13.58895206451416, + "learning_rate": 4.999973754206803e-06, + "loss": 0.0443, + "num_input_tokens_seen": 84048, + "step": 43 + }, + { + "epoch": 0.005831676607024519, + "grad_norm": 8.829529762268066, + "learning_rate": 4.9999721394548485e-06, + "loss": 0.1663, + "num_input_tokens_seen": 86064, + "step": 44 + }, + { + "epoch": 0.005964214711729622, + "grad_norm": 16.731121063232422, + "learning_rate": 4.999970476501707e-06, + "loss": 0.173, + "num_input_tokens_seen": 88632, + "step": 45 + }, + { + "epoch": 0.006096752816434725, + "grad_norm": 6.858058452606201, + "learning_rate": 4.99996876534741e-06, + "loss": 0.0222, + "num_input_tokens_seen": 91328, + "step": 46 + }, + { + "epoch": 0.006229290921139828, + "grad_norm": 26.11011505126953, + "learning_rate": 4.99996700599199e-06, + "loss": 0.2834, + "num_input_tokens_seen": 93624, + "step": 47 + }, + { + "epoch": 0.006361829025844931, + "grad_norm": 1.8604565858840942, + "learning_rate": 4.999965198435482e-06, + "loss": 0.0058, + "num_input_tokens_seen": 95360, + "step": 48 + }, + { + "epoch": 0.0064943671305500335, + "grad_norm": 52.78355407714844, + "learning_rate": 4.99996334267792e-06, + "loss": 0.8988, + "num_input_tokens_seen": 97032, + "step": 49 + }, + { + "epoch": 0.0066269052352551355, + "grad_norm": 17.50345230102539, + "learning_rate": 4.999961438719341e-06, + "loss": 0.3259, + "num_input_tokens_seen": 98816, + "step": 50 + }, + { + "epoch": 0.006759443339960238, + "grad_norm": 21.572919845581055, + "learning_rate": 4.99995948655978e-06, + "loss": 0.2656, + "num_input_tokens_seen": 100792, + "step": 51 + }, + { + "epoch": 0.006891981444665341, + "grad_norm": 0.284165620803833, + "learning_rate": 4.999957486199276e-06, + "loss": 0.001, + "num_input_tokens_seen": 103272, + "step": 52 + }, + { + "epoch": 0.007024519549370444, + "grad_norm": 7.135979175567627, + "learning_rate": 4.999955437637867e-06, + "loss": 0.136, + "num_input_tokens_seen": 104672, + "step": 53 + }, + { + "epoch": 0.007157057654075547, + "grad_norm": 27.35825538635254, + "learning_rate": 4.999953340875592e-06, + "loss": 0.6583, + "num_input_tokens_seen": 106728, + "step": 54 + }, + { + "epoch": 0.00728959575878065, + "grad_norm": 17.128623962402344, + "learning_rate": 4.999951195912492e-06, + "loss": 0.3751, + "num_input_tokens_seen": 108408, + "step": 55 + }, + { + "epoch": 0.0074221338634857525, + "grad_norm": 1.3629236221313477, + "learning_rate": 4.999949002748608e-06, + "loss": 0.0046, + "num_input_tokens_seen": 111088, + "step": 56 + }, + { + "epoch": 0.0075546719681908545, + "grad_norm": 1.013257622718811, + "learning_rate": 4.999946761383984e-06, + "loss": 0.0035, + "num_input_tokens_seen": 112792, + "step": 57 + }, + { + "epoch": 0.007687210072895957, + "grad_norm": 12.58083438873291, + "learning_rate": 4.999944471818661e-06, + "loss": 0.2518, + "num_input_tokens_seen": 114872, + "step": 58 + }, + { + "epoch": 0.00781974817760106, + "grad_norm": 0.324655145406723, + "learning_rate": 4.999942134052684e-06, + "loss": 0.0011, + "num_input_tokens_seen": 116808, + "step": 59 + }, + { + "epoch": 0.007952286282306162, + "grad_norm": 0.15079373121261597, + "learning_rate": 4.9999397480860975e-06, + "loss": 0.0005, + "num_input_tokens_seen": 118824, + "step": 60 + }, + { + "epoch": 0.008084824387011266, + "grad_norm": 0.07261475175619125, + "learning_rate": 4.999937313918949e-06, + "loss": 0.0002, + "num_input_tokens_seen": 119800, + "step": 61 + }, + { + "epoch": 0.008217362491716368, + "grad_norm": 24.96176528930664, + "learning_rate": 4.999934831551284e-06, + "loss": 0.6587, + "num_input_tokens_seen": 122024, + "step": 62 + }, + { + "epoch": 0.008349900596421472, + "grad_norm": 0.033747754991054535, + "learning_rate": 4.99993230098315e-06, + "loss": 0.0001, + "num_input_tokens_seen": 123976, + "step": 63 + }, + { + "epoch": 0.008482438701126574, + "grad_norm": 31.08684730529785, + "learning_rate": 4.9999297222145986e-06, + "loss": 0.5857, + "num_input_tokens_seen": 125992, + "step": 64 + }, + { + "epoch": 0.008614976805831677, + "grad_norm": 35.08548355102539, + "learning_rate": 4.999927095245676e-06, + "loss": 0.7041, + "num_input_tokens_seen": 127976, + "step": 65 + }, + { + "epoch": 0.00874751491053678, + "grad_norm": 6.023736953735352, + "learning_rate": 4.999924420076434e-06, + "loss": 0.1227, + "num_input_tokens_seen": 130272, + "step": 66 + }, + { + "epoch": 0.008880053015241881, + "grad_norm": 0.04503978043794632, + "learning_rate": 4.999921696706925e-06, + "loss": 0.0001, + "num_input_tokens_seen": 131408, + "step": 67 + }, + { + "epoch": 0.009012591119946985, + "grad_norm": 49.56775665283203, + "learning_rate": 4.9999189251372025e-06, + "loss": 0.727, + "num_input_tokens_seen": 133760, + "step": 68 + }, + { + "epoch": 0.009145129224652087, + "grad_norm": 31.22989273071289, + "learning_rate": 4.999916105367317e-06, + "loss": 0.5476, + "num_input_tokens_seen": 135416, + "step": 69 + }, + { + "epoch": 0.00927766732935719, + "grad_norm": 0.1987680345773697, + "learning_rate": 4.999913237397324e-06, + "loss": 0.0007, + "num_input_tokens_seen": 137448, + "step": 70 + }, + { + "epoch": 0.009410205434062293, + "grad_norm": 25.454242706298828, + "learning_rate": 4.999910321227281e-06, + "loss": 0.6887, + "num_input_tokens_seen": 138704, + "step": 71 + }, + { + "epoch": 0.009542743538767396, + "grad_norm": 24.782148361206055, + "learning_rate": 4.999907356857241e-06, + "loss": 0.3743, + "num_input_tokens_seen": 140512, + "step": 72 + }, + { + "epoch": 0.009675281643472498, + "grad_norm": 29.465654373168945, + "learning_rate": 4.999904344287263e-06, + "loss": 1.2092, + "num_input_tokens_seen": 143656, + "step": 73 + }, + { + "epoch": 0.0098078197481776, + "grad_norm": 64.79688262939453, + "learning_rate": 4.999901283517404e-06, + "loss": 0.7532, + "num_input_tokens_seen": 146464, + "step": 74 + }, + { + "epoch": 0.009940357852882704, + "grad_norm": 15.676737785339355, + "learning_rate": 4.999898174547725e-06, + "loss": 0.4197, + "num_input_tokens_seen": 148800, + "step": 75 + }, + { + "epoch": 0.010072895957587806, + "grad_norm": 63.59064865112305, + "learning_rate": 4.9998950173782834e-06, + "loss": 1.5147, + "num_input_tokens_seen": 152160, + "step": 76 + }, + { + "epoch": 0.01020543406229291, + "grad_norm": 4.737969875335693, + "learning_rate": 4.999891812009143e-06, + "loss": 0.0752, + "num_input_tokens_seen": 153832, + "step": 77 + }, + { + "epoch": 0.010337972166998012, + "grad_norm": 6.161489009857178, + "learning_rate": 4.999888558440362e-06, + "loss": 0.0232, + "num_input_tokens_seen": 154888, + "step": 78 + }, + { + "epoch": 0.010470510271703115, + "grad_norm": 8.917037010192871, + "learning_rate": 4.9998852566720055e-06, + "loss": 0.1196, + "num_input_tokens_seen": 156528, + "step": 79 + }, + { + "epoch": 0.010603048376408217, + "grad_norm": 11.00399112701416, + "learning_rate": 4.999881906704137e-06, + "loss": 0.2367, + "num_input_tokens_seen": 158136, + "step": 80 + }, + { + "epoch": 0.01073558648111332, + "grad_norm": 5.292150020599365, + "learning_rate": 4.99987850853682e-06, + "loss": 0.0198, + "num_input_tokens_seen": 159440, + "step": 81 + }, + { + "epoch": 0.010868124585818423, + "grad_norm": 4.829105854034424, + "learning_rate": 4.999875062170121e-06, + "loss": 0.0183, + "num_input_tokens_seen": 160840, + "step": 82 + }, + { + "epoch": 0.011000662690523525, + "grad_norm": 3.056729793548584, + "learning_rate": 4.999871567604107e-06, + "loss": 0.0109, + "num_input_tokens_seen": 162240, + "step": 83 + }, + { + "epoch": 0.011133200795228629, + "grad_norm": 19.688913345336914, + "learning_rate": 4.999868024838844e-06, + "loss": 0.2948, + "num_input_tokens_seen": 164328, + "step": 84 + }, + { + "epoch": 0.01126573889993373, + "grad_norm": 33.16144561767578, + "learning_rate": 4.999864433874401e-06, + "loss": 0.584, + "num_input_tokens_seen": 166216, + "step": 85 + }, + { + "epoch": 0.011398277004638835, + "grad_norm": 10.677643775939941, + "learning_rate": 4.999860794710847e-06, + "loss": 0.1286, + "num_input_tokens_seen": 168280, + "step": 86 + }, + { + "epoch": 0.011530815109343936, + "grad_norm": 0.293518990278244, + "learning_rate": 4.999857107348253e-06, + "loss": 0.0011, + "num_input_tokens_seen": 170024, + "step": 87 + }, + { + "epoch": 0.011663353214049038, + "grad_norm": 23.888822555541992, + "learning_rate": 4.999853371786689e-06, + "loss": 0.74, + "num_input_tokens_seen": 172424, + "step": 88 + }, + { + "epoch": 0.011795891318754142, + "grad_norm": 0.42366430163383484, + "learning_rate": 4.999849588026227e-06, + "loss": 0.0016, + "num_input_tokens_seen": 175000, + "step": 89 + }, + { + "epoch": 0.011928429423459244, + "grad_norm": 33.93714904785156, + "learning_rate": 4.999845756066941e-06, + "loss": 0.9005, + "num_input_tokens_seen": 177248, + "step": 90 + }, + { + "epoch": 0.012060967528164348, + "grad_norm": 33.67679214477539, + "learning_rate": 4.999841875908904e-06, + "loss": 0.5072, + "num_input_tokens_seen": 178768, + "step": 91 + }, + { + "epoch": 0.01219350563286945, + "grad_norm": 21.549104690551758, + "learning_rate": 4.9998379475521915e-06, + "loss": 0.4235, + "num_input_tokens_seen": 180760, + "step": 92 + }, + { + "epoch": 0.012326043737574552, + "grad_norm": 26.029510498046875, + "learning_rate": 4.999833970996878e-06, + "loss": 0.6335, + "num_input_tokens_seen": 182864, + "step": 93 + }, + { + "epoch": 0.012458581842279656, + "grad_norm": 0.6470825672149658, + "learning_rate": 4.999829946243042e-06, + "loss": 0.0024, + "num_input_tokens_seen": 184424, + "step": 94 + }, + { + "epoch": 0.012591119946984758, + "grad_norm": 13.286639213562012, + "learning_rate": 4.999825873290759e-06, + "loss": 0.2366, + "num_input_tokens_seen": 186560, + "step": 95 + }, + { + "epoch": 0.012723658051689861, + "grad_norm": 22.230331420898438, + "learning_rate": 4.9998217521401095e-06, + "loss": 0.3539, + "num_input_tokens_seen": 188384, + "step": 96 + }, + { + "epoch": 0.012856196156394963, + "grad_norm": 17.20349884033203, + "learning_rate": 4.999817582791171e-06, + "loss": 0.4303, + "num_input_tokens_seen": 190808, + "step": 97 + }, + { + "epoch": 0.012988734261100067, + "grad_norm": 1.6089740991592407, + "learning_rate": 4.999813365244026e-06, + "loss": 0.0059, + "num_input_tokens_seen": 192480, + "step": 98 + }, + { + "epoch": 0.013121272365805169, + "grad_norm": 1.8107287883758545, + "learning_rate": 4.999809099498755e-06, + "loss": 0.0067, + "num_input_tokens_seen": 194128, + "step": 99 + }, + { + "epoch": 0.013253810470510271, + "grad_norm": 13.169525146484375, + "learning_rate": 4.999804785555439e-06, + "loss": 0.2379, + "num_input_tokens_seen": 195728, + "step": 100 + }, + { + "epoch": 0.013386348575215375, + "grad_norm": 0.6430429220199585, + "learning_rate": 4.999800423414163e-06, + "loss": 0.0023, + "num_input_tokens_seen": 197120, + "step": 101 + }, + { + "epoch": 0.013518886679920477, + "grad_norm": 20.317203521728516, + "learning_rate": 4.99979601307501e-06, + "loss": 0.4052, + "num_input_tokens_seen": 199064, + "step": 102 + }, + { + "epoch": 0.01365142478462558, + "grad_norm": 14.788737297058105, + "learning_rate": 4.999791554538065e-06, + "loss": 0.3322, + "num_input_tokens_seen": 200560, + "step": 103 + }, + { + "epoch": 0.013783962889330682, + "grad_norm": 0.3029716908931732, + "learning_rate": 4.999787047803415e-06, + "loss": 0.0011, + "num_input_tokens_seen": 203784, + "step": 104 + }, + { + "epoch": 0.013916500994035786, + "grad_norm": 1.024711012840271, + "learning_rate": 4.999782492871146e-06, + "loss": 0.0034, + "num_input_tokens_seen": 205776, + "step": 105 + }, + { + "epoch": 0.014049039098740888, + "grad_norm": 18.154651641845703, + "learning_rate": 4.999777889741345e-06, + "loss": 0.2853, + "num_input_tokens_seen": 208688, + "step": 106 + }, + { + "epoch": 0.01418157720344599, + "grad_norm": 9.336213111877441, + "learning_rate": 4.999773238414103e-06, + "loss": 0.2062, + "num_input_tokens_seen": 210408, + "step": 107 + }, + { + "epoch": 0.014314115308151094, + "grad_norm": 111.06527709960938, + "learning_rate": 4.999768538889508e-06, + "loss": 2.0096, + "num_input_tokens_seen": 213224, + "step": 108 + }, + { + "epoch": 0.014446653412856196, + "grad_norm": 0.13847197592258453, + "learning_rate": 4.999763791167651e-06, + "loss": 0.0004, + "num_input_tokens_seen": 214760, + "step": 109 + }, + { + "epoch": 0.0145791915175613, + "grad_norm": 10.839756965637207, + "learning_rate": 4.999758995248624e-06, + "loss": 0.2364, + "num_input_tokens_seen": 216176, + "step": 110 + }, + { + "epoch": 0.014711729622266401, + "grad_norm": 6.870694160461426, + "learning_rate": 4.999754151132519e-06, + "loss": 0.1528, + "num_input_tokens_seen": 217600, + "step": 111 + }, + { + "epoch": 0.014844267726971505, + "grad_norm": 20.930335998535156, + "learning_rate": 4.999749258819429e-06, + "loss": 0.663, + "num_input_tokens_seen": 220640, + "step": 112 + }, + { + "epoch": 0.014976805831676607, + "grad_norm": 24.177223205566406, + "learning_rate": 4.99974431830945e-06, + "loss": 0.4515, + "num_input_tokens_seen": 222616, + "step": 113 + }, + { + "epoch": 0.015109343936381709, + "grad_norm": 18.11847686767578, + "learning_rate": 4.999739329602675e-06, + "loss": 0.278, + "num_input_tokens_seen": 225032, + "step": 114 + }, + { + "epoch": 0.015241882041086813, + "grad_norm": 14.463335990905762, + "learning_rate": 4.999734292699201e-06, + "loss": 0.3191, + "num_input_tokens_seen": 226712, + "step": 115 + }, + { + "epoch": 0.015374420145791915, + "grad_norm": 0.5931599140167236, + "learning_rate": 4.999729207599126e-06, + "loss": 0.002, + "num_input_tokens_seen": 228776, + "step": 116 + }, + { + "epoch": 0.015506958250497018, + "grad_norm": 20.722591400146484, + "learning_rate": 4.999724074302548e-06, + "loss": 0.3065, + "num_input_tokens_seen": 230560, + "step": 117 + }, + { + "epoch": 0.01563949635520212, + "grad_norm": 2.0402841567993164, + "learning_rate": 4.9997188928095645e-06, + "loss": 0.0073, + "num_input_tokens_seen": 232688, + "step": 118 + }, + { + "epoch": 0.015772034459907224, + "grad_norm": 22.575775146484375, + "learning_rate": 4.999713663120276e-06, + "loss": 0.6893, + "num_input_tokens_seen": 234456, + "step": 119 + }, + { + "epoch": 0.015904572564612324, + "grad_norm": 1.2449815273284912, + "learning_rate": 4.999708385234784e-06, + "loss": 0.0044, + "num_input_tokens_seen": 236176, + "step": 120 + }, + { + "epoch": 0.016037110669317428, + "grad_norm": 0.7653734087944031, + "learning_rate": 4.99970305915319e-06, + "loss": 0.0027, + "num_input_tokens_seen": 237824, + "step": 121 + }, + { + "epoch": 0.016169648774022532, + "grad_norm": 0.6011762022972107, + "learning_rate": 4.999697684875596e-06, + "loss": 0.0021, + "num_input_tokens_seen": 240552, + "step": 122 + }, + { + "epoch": 0.016302186878727636, + "grad_norm": 0.4856562912464142, + "learning_rate": 4.9996922624021076e-06, + "loss": 0.0017, + "num_input_tokens_seen": 242560, + "step": 123 + }, + { + "epoch": 0.016434724983432736, + "grad_norm": 0.09074526280164719, + "learning_rate": 4.9996867917328264e-06, + "loss": 0.0003, + "num_input_tokens_seen": 245040, + "step": 124 + }, + { + "epoch": 0.01656726308813784, + "grad_norm": 0.14254754781723022, + "learning_rate": 4.99968127286786e-06, + "loss": 0.0005, + "num_input_tokens_seen": 247464, + "step": 125 + }, + { + "epoch": 0.016699801192842943, + "grad_norm": 21.311914443969727, + "learning_rate": 4.999675705807314e-06, + "loss": 0.54, + "num_input_tokens_seen": 249168, + "step": 126 + }, + { + "epoch": 0.016832339297548043, + "grad_norm": 20.326438903808594, + "learning_rate": 4.999670090551296e-06, + "loss": 0.4356, + "num_input_tokens_seen": 251232, + "step": 127 + }, + { + "epoch": 0.016964877402253147, + "grad_norm": 0.01491043996065855, + "learning_rate": 4.999664427099914e-06, + "loss": 0.0001, + "num_input_tokens_seen": 253296, + "step": 128 + }, + { + "epoch": 0.01709741550695825, + "grad_norm": 23.955692291259766, + "learning_rate": 4.999658715453279e-06, + "loss": 0.5625, + "num_input_tokens_seen": 255376, + "step": 129 + }, + { + "epoch": 0.017229953611663355, + "grad_norm": 0.004617680795490742, + "learning_rate": 4.999652955611497e-06, + "loss": 0.0, + "num_input_tokens_seen": 257456, + "step": 130 + }, + { + "epoch": 0.017362491716368455, + "grad_norm": 18.199174880981445, + "learning_rate": 4.9996471475746835e-06, + "loss": 0.4444, + "num_input_tokens_seen": 259528, + "step": 131 + }, + { + "epoch": 0.01749502982107356, + "grad_norm": 7.164508819580078, + "learning_rate": 4.999641291342948e-06, + "loss": 0.1856, + "num_input_tokens_seen": 261320, + "step": 132 + }, + { + "epoch": 0.017627567925778662, + "grad_norm": 28.76552963256836, + "learning_rate": 4.999635386916404e-06, + "loss": 1.0287, + "num_input_tokens_seen": 263936, + "step": 133 + }, + { + "epoch": 0.017760106030483763, + "grad_norm": 0.014427479356527328, + "learning_rate": 4.999629434295165e-06, + "loss": 0.0001, + "num_input_tokens_seen": 266784, + "step": 134 + }, + { + "epoch": 0.017892644135188866, + "grad_norm": 15.610347747802734, + "learning_rate": 4.999623433479346e-06, + "loss": 0.4054, + "num_input_tokens_seen": 268744, + "step": 135 + }, + { + "epoch": 0.01802518223989397, + "grad_norm": 0.03668922930955887, + "learning_rate": 4.999617384469063e-06, + "loss": 0.0001, + "num_input_tokens_seen": 270464, + "step": 136 + }, + { + "epoch": 0.018157720344599074, + "grad_norm": 45.97502517700195, + "learning_rate": 4.999611287264433e-06, + "loss": 0.566, + "num_input_tokens_seen": 271928, + "step": 137 + }, + { + "epoch": 0.018290258449304174, + "grad_norm": 5.405684471130371, + "learning_rate": 4.999605141865573e-06, + "loss": 0.0962, + "num_input_tokens_seen": 273864, + "step": 138 + }, + { + "epoch": 0.018422796554009278, + "grad_norm": 20.897493362426758, + "learning_rate": 4.999598948272601e-06, + "loss": 0.3346, + "num_input_tokens_seen": 275368, + "step": 139 + }, + { + "epoch": 0.01855533465871438, + "grad_norm": 11.520383834838867, + "learning_rate": 4.999592706485636e-06, + "loss": 0.2364, + "num_input_tokens_seen": 277304, + "step": 140 + }, + { + "epoch": 0.01868787276341948, + "grad_norm": 5.902313709259033, + "learning_rate": 4.999586416504801e-06, + "loss": 0.0918, + "num_input_tokens_seen": 278904, + "step": 141 + }, + { + "epoch": 0.018820410868124585, + "grad_norm": 16.073192596435547, + "learning_rate": 4.999580078330215e-06, + "loss": 0.1683, + "num_input_tokens_seen": 280552, + "step": 142 + }, + { + "epoch": 0.01895294897282969, + "grad_norm": 1.160386085510254, + "learning_rate": 4.999573691962001e-06, + "loss": 0.0047, + "num_input_tokens_seen": 282752, + "step": 143 + }, + { + "epoch": 0.019085487077534793, + "grad_norm": 2.3690803050994873, + "learning_rate": 4.99956725740028e-06, + "loss": 0.0096, + "num_input_tokens_seen": 285584, + "step": 144 + }, + { + "epoch": 0.019218025182239893, + "grad_norm": 6.115748882293701, + "learning_rate": 4.99956077464518e-06, + "loss": 0.0868, + "num_input_tokens_seen": 286832, + "step": 145 + }, + { + "epoch": 0.019350563286944997, + "grad_norm": 1.332751750946045, + "learning_rate": 4.999554243696822e-06, + "loss": 0.0054, + "num_input_tokens_seen": 288816, + "step": 146 + }, + { + "epoch": 0.0194831013916501, + "grad_norm": 18.80128288269043, + "learning_rate": 4.999547664555335e-06, + "loss": 0.4129, + "num_input_tokens_seen": 290592, + "step": 147 + }, + { + "epoch": 0.0196156394963552, + "grad_norm": 16.31783103942871, + "learning_rate": 4.999541037220845e-06, + "loss": 0.879, + "num_input_tokens_seen": 293464, + "step": 148 + }, + { + "epoch": 0.019748177601060304, + "grad_norm": 14.406692504882812, + "learning_rate": 4.999534361693479e-06, + "loss": 0.3031, + "num_input_tokens_seen": 295664, + "step": 149 + }, + { + "epoch": 0.019880715705765408, + "grad_norm": 3.517805337905884, + "learning_rate": 4.999527637973367e-06, + "loss": 0.0144, + "num_input_tokens_seen": 298008, + "step": 150 + }, + { + "epoch": 0.020013253810470512, + "grad_norm": 23.954038619995117, + "learning_rate": 4.999520866060637e-06, + "loss": 0.6077, + "num_input_tokens_seen": 301040, + "step": 151 + }, + { + "epoch": 0.020145791915175612, + "grad_norm": 17.75224494934082, + "learning_rate": 4.99951404595542e-06, + "loss": 0.4108, + "num_input_tokens_seen": 303840, + "step": 152 + }, + { + "epoch": 0.020278330019880716, + "grad_norm": 18.609392166137695, + "learning_rate": 4.999507177657848e-06, + "loss": 0.1972, + "num_input_tokens_seen": 306024, + "step": 153 + }, + { + "epoch": 0.02041086812458582, + "grad_norm": 20.8830509185791, + "learning_rate": 4.999500261168054e-06, + "loss": 0.6959, + "num_input_tokens_seen": 308224, + "step": 154 + }, + { + "epoch": 0.02054340622929092, + "grad_norm": 14.19822883605957, + "learning_rate": 4.99949329648617e-06, + "loss": 0.2804, + "num_input_tokens_seen": 309752, + "step": 155 + }, + { + "epoch": 0.020675944333996023, + "grad_norm": 9.410264015197754, + "learning_rate": 4.999486283612332e-06, + "loss": 0.15, + "num_input_tokens_seen": 311368, + "step": 156 + }, + { + "epoch": 0.020808482438701127, + "grad_norm": 26.67640495300293, + "learning_rate": 4.999479222546673e-06, + "loss": 0.544, + "num_input_tokens_seen": 313456, + "step": 157 + }, + { + "epoch": 0.02094102054340623, + "grad_norm": 20.946008682250977, + "learning_rate": 4.9994721132893305e-06, + "loss": 0.1774, + "num_input_tokens_seen": 315808, + "step": 158 + }, + { + "epoch": 0.02107355864811133, + "grad_norm": 12.023552894592285, + "learning_rate": 4.9994649558404415e-06, + "loss": 0.1994, + "num_input_tokens_seen": 317824, + "step": 159 + }, + { + "epoch": 0.021206096752816435, + "grad_norm": 3.0416977405548096, + "learning_rate": 4.999457750200143e-06, + "loss": 0.0128, + "num_input_tokens_seen": 319336, + "step": 160 + }, + { + "epoch": 0.02133863485752154, + "grad_norm": 18.2331600189209, + "learning_rate": 4.999450496368576e-06, + "loss": 0.4826, + "num_input_tokens_seen": 321272, + "step": 161 + }, + { + "epoch": 0.02147117296222664, + "grad_norm": 8.425516128540039, + "learning_rate": 4.999443194345879e-06, + "loss": 0.0416, + "num_input_tokens_seen": 323240, + "step": 162 + }, + { + "epoch": 0.021603711066931743, + "grad_norm": 5.87241268157959, + "learning_rate": 4.999435844132193e-06, + "loss": 0.0265, + "num_input_tokens_seen": 325416, + "step": 163 + }, + { + "epoch": 0.021736249171636846, + "grad_norm": 4.545175075531006, + "learning_rate": 4.999428445727659e-06, + "loss": 0.019, + "num_input_tokens_seen": 327384, + "step": 164 + }, + { + "epoch": 0.02186878727634195, + "grad_norm": 17.245952606201172, + "learning_rate": 4.9994209991324205e-06, + "loss": 0.4342, + "num_input_tokens_seen": 328744, + "step": 165 + }, + { + "epoch": 0.02200132538104705, + "grad_norm": 2.1576149463653564, + "learning_rate": 4.999413504346621e-06, + "loss": 0.0087, + "num_input_tokens_seen": 330616, + "step": 166 + }, + { + "epoch": 0.022133863485752154, + "grad_norm": 0.9837048649787903, + "learning_rate": 4.999405961370405e-06, + "loss": 0.0039, + "num_input_tokens_seen": 331952, + "step": 167 + }, + { + "epoch": 0.022266401590457258, + "grad_norm": 15.896281242370605, + "learning_rate": 4.999398370203917e-06, + "loss": 0.3722, + "num_input_tokens_seen": 333400, + "step": 168 + }, + { + "epoch": 0.022398939695162358, + "grad_norm": 21.467859268188477, + "learning_rate": 4.999390730847306e-06, + "loss": 0.7088, + "num_input_tokens_seen": 335704, + "step": 169 + }, + { + "epoch": 0.02253147779986746, + "grad_norm": 30.230329513549805, + "learning_rate": 4.9993830433007165e-06, + "loss": 0.7724, + "num_input_tokens_seen": 337736, + "step": 170 + }, + { + "epoch": 0.022664015904572565, + "grad_norm": 0.07943902164697647, + "learning_rate": 4.999375307564297e-06, + "loss": 0.0004, + "num_input_tokens_seen": 338928, + "step": 171 + }, + { + "epoch": 0.02279655400927767, + "grad_norm": 16.193147659301758, + "learning_rate": 4.999367523638198e-06, + "loss": 0.4945, + "num_input_tokens_seen": 341384, + "step": 172 + }, + { + "epoch": 0.02292909211398277, + "grad_norm": 26.579015731811523, + "learning_rate": 4.999359691522568e-06, + "loss": 0.7879, + "num_input_tokens_seen": 343792, + "step": 173 + }, + { + "epoch": 0.023061630218687873, + "grad_norm": 15.10954761505127, + "learning_rate": 4.99935181121756e-06, + "loss": 0.37, + "num_input_tokens_seen": 345416, + "step": 174 + }, + { + "epoch": 0.023194168323392977, + "grad_norm": 19.339305877685547, + "learning_rate": 4.999343882723325e-06, + "loss": 0.6132, + "num_input_tokens_seen": 346728, + "step": 175 + }, + { + "epoch": 0.023326706428098077, + "grad_norm": 20.464967727661133, + "learning_rate": 4.999335906040015e-06, + "loss": 0.6838, + "num_input_tokens_seen": 348536, + "step": 176 + }, + { + "epoch": 0.02345924453280318, + "grad_norm": 24.76003646850586, + "learning_rate": 4.999327881167785e-06, + "loss": 0.8473, + "num_input_tokens_seen": 350632, + "step": 177 + }, + { + "epoch": 0.023591782637508284, + "grad_norm": 29.685523986816406, + "learning_rate": 4.999319808106789e-06, + "loss": 0.4731, + "num_input_tokens_seen": 352032, + "step": 178 + }, + { + "epoch": 0.023724320742213385, + "grad_norm": 0.12374715507030487, + "learning_rate": 4.999311686857184e-06, + "loss": 0.0006, + "num_input_tokens_seen": 353936, + "step": 179 + }, + { + "epoch": 0.02385685884691849, + "grad_norm": 15.263150215148926, + "learning_rate": 4.999303517419124e-06, + "loss": 0.2656, + "num_input_tokens_seen": 355856, + "step": 180 + }, + { + "epoch": 0.023989396951623592, + "grad_norm": 21.625612258911133, + "learning_rate": 4.999295299792768e-06, + "loss": 0.4828, + "num_input_tokens_seen": 357560, + "step": 181 + }, + { + "epoch": 0.024121935056328696, + "grad_norm": 15.519153594970703, + "learning_rate": 4.999287033978275e-06, + "loss": 0.3393, + "num_input_tokens_seen": 359240, + "step": 182 + }, + { + "epoch": 0.024254473161033796, + "grad_norm": 11.988371849060059, + "learning_rate": 4.999278719975804e-06, + "loss": 0.2141, + "num_input_tokens_seen": 360992, + "step": 183 + }, + { + "epoch": 0.0243870112657389, + "grad_norm": 18.441619873046875, + "learning_rate": 4.999270357785515e-06, + "loss": 0.507, + "num_input_tokens_seen": 363120, + "step": 184 + }, + { + "epoch": 0.024519549370444003, + "grad_norm": 12.764714241027832, + "learning_rate": 4.999261947407568e-06, + "loss": 0.2737, + "num_input_tokens_seen": 365032, + "step": 185 + }, + { + "epoch": 0.024652087475149104, + "grad_norm": 22.18332862854004, + "learning_rate": 4.999253488842128e-06, + "loss": 0.463, + "num_input_tokens_seen": 366448, + "step": 186 + }, + { + "epoch": 0.024784625579854207, + "grad_norm": 2.5686256885528564, + "learning_rate": 4.999244982089357e-06, + "loss": 0.0141, + "num_input_tokens_seen": 367880, + "step": 187 + }, + { + "epoch": 0.02491716368455931, + "grad_norm": 1.7752444744110107, + "learning_rate": 4.999236427149418e-06, + "loss": 0.0084, + "num_input_tokens_seen": 369128, + "step": 188 + }, + { + "epoch": 0.025049701789264415, + "grad_norm": 9.059718132019043, + "learning_rate": 4.9992278240224765e-06, + "loss": 0.2373, + "num_input_tokens_seen": 371376, + "step": 189 + }, + { + "epoch": 0.025182239893969515, + "grad_norm": 14.930595397949219, + "learning_rate": 4.999219172708698e-06, + "loss": 0.2159, + "num_input_tokens_seen": 373576, + "step": 190 + }, + { + "epoch": 0.02531477799867462, + "grad_norm": 31.155925750732422, + "learning_rate": 4.99921047320825e-06, + "loss": 0.5783, + "num_input_tokens_seen": 375728, + "step": 191 + }, + { + "epoch": 0.025447316103379723, + "grad_norm": 2.1444640159606934, + "learning_rate": 4.9992017255213e-06, + "loss": 0.0099, + "num_input_tokens_seen": 377176, + "step": 192 + }, + { + "epoch": 0.025579854208084823, + "grad_norm": 12.785717010498047, + "learning_rate": 4.999192929648017e-06, + "loss": 0.1593, + "num_input_tokens_seen": 379112, + "step": 193 + }, + { + "epoch": 0.025712392312789926, + "grad_norm": 2.521740198135376, + "learning_rate": 4.999184085588569e-06, + "loss": 0.0115, + "num_input_tokens_seen": 380800, + "step": 194 + }, + { + "epoch": 0.02584493041749503, + "grad_norm": 15.717253684997559, + "learning_rate": 4.99917519334313e-06, + "loss": 0.2697, + "num_input_tokens_seen": 383360, + "step": 195 + }, + { + "epoch": 0.025977468522200134, + "grad_norm": 22.165664672851562, + "learning_rate": 4.999166252911868e-06, + "loss": 0.4282, + "num_input_tokens_seen": 385080, + "step": 196 + }, + { + "epoch": 0.026110006626905234, + "grad_norm": 7.5503644943237305, + "learning_rate": 4.999157264294956e-06, + "loss": 0.1602, + "num_input_tokens_seen": 387392, + "step": 197 + }, + { + "epoch": 0.026242544731610338, + "grad_norm": 17.232053756713867, + "learning_rate": 4.999148227492568e-06, + "loss": 0.6237, + "num_input_tokens_seen": 389056, + "step": 198 + }, + { + "epoch": 0.02637508283631544, + "grad_norm": 19.79399299621582, + "learning_rate": 4.999139142504878e-06, + "loss": 0.4356, + "num_input_tokens_seen": 392336, + "step": 199 + }, + { + "epoch": 0.026507620941020542, + "grad_norm": 4.224052906036377, + "learning_rate": 4.999130009332062e-06, + "loss": 0.0712, + "num_input_tokens_seen": 394640, + "step": 200 + }, + { + "epoch": 0.026640159045725646, + "grad_norm": 17.576534271240234, + "learning_rate": 4.999120827974295e-06, + "loss": 0.2182, + "num_input_tokens_seen": 396496, + "step": 201 + }, + { + "epoch": 0.02677269715043075, + "grad_norm": 14.022331237792969, + "learning_rate": 4.999111598431754e-06, + "loss": 0.3605, + "num_input_tokens_seen": 398736, + "step": 202 + }, + { + "epoch": 0.026905235255135853, + "grad_norm": 21.757204055786133, + "learning_rate": 4.999102320704618e-06, + "loss": 0.3021, + "num_input_tokens_seen": 400872, + "step": 203 + }, + { + "epoch": 0.027037773359840953, + "grad_norm": 21.306703567504883, + "learning_rate": 4.999092994793065e-06, + "loss": 0.6083, + "num_input_tokens_seen": 403008, + "step": 204 + }, + { + "epoch": 0.027170311464546057, + "grad_norm": 4.1254754066467285, + "learning_rate": 4.9990836206972746e-06, + "loss": 0.0184, + "num_input_tokens_seen": 405536, + "step": 205 + }, + { + "epoch": 0.02730284956925116, + "grad_norm": 11.163147926330566, + "learning_rate": 4.999074198417429e-06, + "loss": 0.2964, + "num_input_tokens_seen": 407504, + "step": 206 + }, + { + "epoch": 0.02743538767395626, + "grad_norm": 22.429800033569336, + "learning_rate": 4.999064727953707e-06, + "loss": 0.446, + "num_input_tokens_seen": 409536, + "step": 207 + }, + { + "epoch": 0.027567925778661365, + "grad_norm": 4.595419883728027, + "learning_rate": 4.999055209306295e-06, + "loss": 0.0204, + "num_input_tokens_seen": 411592, + "step": 208 + }, + { + "epoch": 0.02770046388336647, + "grad_norm": 20.951740264892578, + "learning_rate": 4.999045642475374e-06, + "loss": 0.3642, + "num_input_tokens_seen": 413496, + "step": 209 + }, + { + "epoch": 0.027833001988071572, + "grad_norm": 18.991111755371094, + "learning_rate": 4.999036027461128e-06, + "loss": 0.4246, + "num_input_tokens_seen": 415864, + "step": 210 + }, + { + "epoch": 0.027965540092776672, + "grad_norm": 23.66268539428711, + "learning_rate": 4.999026364263744e-06, + "loss": 0.5465, + "num_input_tokens_seen": 418560, + "step": 211 + }, + { + "epoch": 0.028098078197481776, + "grad_norm": 10.489510536193848, + "learning_rate": 4.9990166528834085e-06, + "loss": 0.3397, + "num_input_tokens_seen": 421304, + "step": 212 + }, + { + "epoch": 0.02823061630218688, + "grad_norm": 4.345235347747803, + "learning_rate": 4.999006893320307e-06, + "loss": 0.0193, + "num_input_tokens_seen": 423144, + "step": 213 + }, + { + "epoch": 0.02836315440689198, + "grad_norm": 18.24567413330078, + "learning_rate": 4.998997085574628e-06, + "loss": 0.2422, + "num_input_tokens_seen": 425352, + "step": 214 + }, + { + "epoch": 0.028495692511597084, + "grad_norm": 1.7618850469589233, + "learning_rate": 4.998987229646562e-06, + "loss": 0.0073, + "num_input_tokens_seen": 426672, + "step": 215 + }, + { + "epoch": 0.028628230616302187, + "grad_norm": 10.86171817779541, + "learning_rate": 4.9989773255362995e-06, + "loss": 0.13, + "num_input_tokens_seen": 428568, + "step": 216 + }, + { + "epoch": 0.02876076872100729, + "grad_norm": 31.913516998291016, + "learning_rate": 4.9989673732440285e-06, + "loss": 0.6857, + "num_input_tokens_seen": 430936, + "step": 217 + }, + { + "epoch": 0.02889330682571239, + "grad_norm": 14.94822883605957, + "learning_rate": 4.9989573727699435e-06, + "loss": 0.2922, + "num_input_tokens_seen": 432392, + "step": 218 + }, + { + "epoch": 0.029025844930417495, + "grad_norm": 0.7612848281860352, + "learning_rate": 4.998947324114236e-06, + "loss": 0.0031, + "num_input_tokens_seen": 433984, + "step": 219 + }, + { + "epoch": 0.0291583830351226, + "grad_norm": 17.241859436035156, + "learning_rate": 4.998937227277099e-06, + "loss": 0.3538, + "num_input_tokens_seen": 436368, + "step": 220 + }, + { + "epoch": 0.0292909211398277, + "grad_norm": 4.021599769592285, + "learning_rate": 4.998927082258731e-06, + "loss": 0.044, + "num_input_tokens_seen": 438072, + "step": 221 + }, + { + "epoch": 0.029423459244532803, + "grad_norm": 11.155754089355469, + "learning_rate": 4.998916889059323e-06, + "loss": 0.2909, + "num_input_tokens_seen": 439488, + "step": 222 + }, + { + "epoch": 0.029555997349237906, + "grad_norm": 1.1311284303665161, + "learning_rate": 4.998906647679074e-06, + "loss": 0.0045, + "num_input_tokens_seen": 441304, + "step": 223 + }, + { + "epoch": 0.02968853545394301, + "grad_norm": 16.937152862548828, + "learning_rate": 4.998896358118181e-06, + "loss": 0.2745, + "num_input_tokens_seen": 442928, + "step": 224 + }, + { + "epoch": 0.02982107355864811, + "grad_norm": 32.88721466064453, + "learning_rate": 4.998886020376842e-06, + "loss": 0.6268, + "num_input_tokens_seen": 446216, + "step": 225 + }, + { + "epoch": 0.029953611663353214, + "grad_norm": 27.79301643371582, + "learning_rate": 4.9988756344552565e-06, + "loss": 1.0521, + "num_input_tokens_seen": 449200, + "step": 226 + }, + { + "epoch": 0.030086149768058318, + "grad_norm": 15.246744155883789, + "learning_rate": 4.998865200353625e-06, + "loss": 0.1614, + "num_input_tokens_seen": 451320, + "step": 227 + }, + { + "epoch": 0.030218687872763418, + "grad_norm": 14.964058876037598, + "learning_rate": 4.998854718072149e-06, + "loss": 0.3347, + "num_input_tokens_seen": 453064, + "step": 228 + }, + { + "epoch": 0.030351225977468522, + "grad_norm": 38.46656036376953, + "learning_rate": 4.998844187611031e-06, + "loss": 0.8131, + "num_input_tokens_seen": 455048, + "step": 229 + }, + { + "epoch": 0.030483764082173626, + "grad_norm": 16.31789207458496, + "learning_rate": 4.998833608970471e-06, + "loss": 0.3002, + "num_input_tokens_seen": 456976, + "step": 230 + }, + { + "epoch": 0.03061630218687873, + "grad_norm": 16.649085998535156, + "learning_rate": 4.998822982150677e-06, + "loss": 0.3018, + "num_input_tokens_seen": 459376, + "step": 231 + }, + { + "epoch": 0.03074884029158383, + "grad_norm": 28.501062393188477, + "learning_rate": 4.998812307151851e-06, + "loss": 0.8573, + "num_input_tokens_seen": 461160, + "step": 232 + }, + { + "epoch": 0.030881378396288933, + "grad_norm": 9.457627296447754, + "learning_rate": 4.9988015839741995e-06, + "loss": 0.098, + "num_input_tokens_seen": 463480, + "step": 233 + }, + { + "epoch": 0.031013916500994037, + "grad_norm": 1.945236325263977, + "learning_rate": 4.9987908126179305e-06, + "loss": 0.0075, + "num_input_tokens_seen": 465048, + "step": 234 + }, + { + "epoch": 0.031146454605699137, + "grad_norm": 16.86723518371582, + "learning_rate": 4.9987799930832515e-06, + "loss": 0.4702, + "num_input_tokens_seen": 467840, + "step": 235 + }, + { + "epoch": 0.03127899271040424, + "grad_norm": 10.56873607635498, + "learning_rate": 4.998769125370369e-06, + "loss": 0.0711, + "num_input_tokens_seen": 469648, + "step": 236 + }, + { + "epoch": 0.03141153081510934, + "grad_norm": 22.688934326171875, + "learning_rate": 4.998758209479495e-06, + "loss": 0.471, + "num_input_tokens_seen": 471440, + "step": 237 + }, + { + "epoch": 0.03154406891981445, + "grad_norm": 9.229374885559082, + "learning_rate": 4.998747245410838e-06, + "loss": 0.0545, + "num_input_tokens_seen": 474248, + "step": 238 + }, + { + "epoch": 0.03167660702451955, + "grad_norm": 43.888267517089844, + "learning_rate": 4.998736233164611e-06, + "loss": 0.7092, + "num_input_tokens_seen": 477184, + "step": 239 + }, + { + "epoch": 0.03180914512922465, + "grad_norm": 6.8438897132873535, + "learning_rate": 4.9987251727410254e-06, + "loss": 0.0346, + "num_input_tokens_seen": 480040, + "step": 240 + }, + { + "epoch": 0.031941683233929756, + "grad_norm": 2.162801742553711, + "learning_rate": 4.998714064140294e-06, + "loss": 0.0083, + "num_input_tokens_seen": 482648, + "step": 241 + }, + { + "epoch": 0.032074221338634856, + "grad_norm": 11.149718284606934, + "learning_rate": 4.998702907362633e-06, + "loss": 0.2339, + "num_input_tokens_seen": 485136, + "step": 242 + }, + { + "epoch": 0.03220675944333996, + "grad_norm": 0.5103450417518616, + "learning_rate": 4.998691702408255e-06, + "loss": 0.0021, + "num_input_tokens_seen": 486680, + "step": 243 + }, + { + "epoch": 0.032339297548045064, + "grad_norm": 13.526078224182129, + "learning_rate": 4.9986804492773785e-06, + "loss": 0.1776, + "num_input_tokens_seen": 488784, + "step": 244 + }, + { + "epoch": 0.032471835652750164, + "grad_norm": 0.023342560976743698, + "learning_rate": 4.998669147970218e-06, + "loss": 0.0001, + "num_input_tokens_seen": 490448, + "step": 245 + }, + { + "epoch": 0.03260437375745527, + "grad_norm": 14.449139595031738, + "learning_rate": 4.998657798486994e-06, + "loss": 0.2465, + "num_input_tokens_seen": 492584, + "step": 246 + }, + { + "epoch": 0.03273691186216037, + "grad_norm": 0.13257715106010437, + "learning_rate": 4.998646400827923e-06, + "loss": 0.0005, + "num_input_tokens_seen": 494648, + "step": 247 + }, + { + "epoch": 0.03286944996686547, + "grad_norm": 0.009109255857765675, + "learning_rate": 4.998634954993224e-06, + "loss": 0.0, + "num_input_tokens_seen": 496912, + "step": 248 + }, + { + "epoch": 0.03300198807157058, + "grad_norm": 9.28011703491211, + "learning_rate": 4.998623460983121e-06, + "loss": 0.2192, + "num_input_tokens_seen": 498320, + "step": 249 + }, + { + "epoch": 0.03313452617627568, + "grad_norm": 35.02414321899414, + "learning_rate": 4.998611918797834e-06, + "loss": 0.3857, + "num_input_tokens_seen": 499840, + "step": 250 + }, + { + "epoch": 0.03326706428098078, + "grad_norm": 9.046163558959961, + "learning_rate": 4.998600328437586e-06, + "loss": 0.2055, + "num_input_tokens_seen": 501984, + "step": 251 + }, + { + "epoch": 0.033399602385685886, + "grad_norm": 0.29357361793518066, + "learning_rate": 4.998588689902599e-06, + "loss": 0.0013, + "num_input_tokens_seen": 503952, + "step": 252 + }, + { + "epoch": 0.03353214049039099, + "grad_norm": 12.435687065124512, + "learning_rate": 4.998577003193099e-06, + "loss": 0.2083, + "num_input_tokens_seen": 505832, + "step": 253 + }, + { + "epoch": 0.03366467859509609, + "grad_norm": 62.12875747680664, + "learning_rate": 4.99856526830931e-06, + "loss": 0.4879, + "num_input_tokens_seen": 507304, + "step": 254 + }, + { + "epoch": 0.033797216699801194, + "grad_norm": 0.09826428443193436, + "learning_rate": 4.998553485251459e-06, + "loss": 0.0004, + "num_input_tokens_seen": 508800, + "step": 255 + }, + { + "epoch": 0.033929754804506294, + "grad_norm": 15.336609840393066, + "learning_rate": 4.998541654019774e-06, + "loss": 0.4523, + "num_input_tokens_seen": 510440, + "step": 256 + }, + { + "epoch": 0.0340622929092114, + "grad_norm": 17.225994110107422, + "learning_rate": 4.998529774614482e-06, + "loss": 0.3167, + "num_input_tokens_seen": 512544, + "step": 257 + }, + { + "epoch": 0.0341948310139165, + "grad_norm": 20.611408233642578, + "learning_rate": 4.998517847035812e-06, + "loss": 0.4972, + "num_input_tokens_seen": 514160, + "step": 258 + }, + { + "epoch": 0.0343273691186216, + "grad_norm": 0.1505860835313797, + "learning_rate": 4.998505871283994e-06, + "loss": 0.0007, + "num_input_tokens_seen": 516064, + "step": 259 + }, + { + "epoch": 0.03445990722332671, + "grad_norm": 33.17475128173828, + "learning_rate": 4.99849384735926e-06, + "loss": 0.4428, + "num_input_tokens_seen": 518064, + "step": 260 + }, + { + "epoch": 0.03459244532803181, + "grad_norm": 28.57742691040039, + "learning_rate": 4.99848177526184e-06, + "loss": 0.9032, + "num_input_tokens_seen": 519992, + "step": 261 + }, + { + "epoch": 0.03472498343273691, + "grad_norm": 0.5577319860458374, + "learning_rate": 4.998469654991969e-06, + "loss": 0.0027, + "num_input_tokens_seen": 521592, + "step": 262 + }, + { + "epoch": 0.03485752153744202, + "grad_norm": 6.979521751403809, + "learning_rate": 4.998457486549878e-06, + "loss": 0.2413, + "num_input_tokens_seen": 524088, + "step": 263 + }, + { + "epoch": 0.03499005964214712, + "grad_norm": 14.174946784973145, + "learning_rate": 4.998445269935805e-06, + "loss": 0.2806, + "num_input_tokens_seen": 525904, + "step": 264 + }, + { + "epoch": 0.03512259774685222, + "grad_norm": 13.45556354522705, + "learning_rate": 4.998433005149981e-06, + "loss": 0.4349, + "num_input_tokens_seen": 528288, + "step": 265 + }, + { + "epoch": 0.035255135851557325, + "grad_norm": 24.512451171875, + "learning_rate": 4.998420692192647e-06, + "loss": 0.4747, + "num_input_tokens_seen": 530176, + "step": 266 + }, + { + "epoch": 0.035387673956262425, + "grad_norm": 14.442388534545898, + "learning_rate": 4.9984083310640375e-06, + "loss": 0.3086, + "num_input_tokens_seen": 532744, + "step": 267 + }, + { + "epoch": 0.035520212060967525, + "grad_norm": 13.616148948669434, + "learning_rate": 4.998395921764393e-06, + "loss": 0.2474, + "num_input_tokens_seen": 535144, + "step": 268 + }, + { + "epoch": 0.03565275016567263, + "grad_norm": 12.278056144714355, + "learning_rate": 4.9983834642939505e-06, + "loss": 0.3656, + "num_input_tokens_seen": 537872, + "step": 269 + }, + { + "epoch": 0.03578528827037773, + "grad_norm": 35.60847091674805, + "learning_rate": 4.998370958652952e-06, + "loss": 0.5403, + "num_input_tokens_seen": 540856, + "step": 270 + }, + { + "epoch": 0.03591782637508284, + "grad_norm": 13.47176742553711, + "learning_rate": 4.998358404841637e-06, + "loss": 0.3135, + "num_input_tokens_seen": 542320, + "step": 271 + }, + { + "epoch": 0.03605036447978794, + "grad_norm": 25.42990493774414, + "learning_rate": 4.998345802860249e-06, + "loss": 0.5438, + "num_input_tokens_seen": 545176, + "step": 272 + }, + { + "epoch": 0.03618290258449304, + "grad_norm": 20.656879425048828, + "learning_rate": 4.998333152709031e-06, + "loss": 0.3382, + "num_input_tokens_seen": 547128, + "step": 273 + }, + { + "epoch": 0.03631544068919815, + "grad_norm": 33.70890426635742, + "learning_rate": 4.998320454388225e-06, + "loss": 0.5682, + "num_input_tokens_seen": 548944, + "step": 274 + }, + { + "epoch": 0.03644797879390325, + "grad_norm": 6.59552001953125, + "learning_rate": 4.998307707898078e-06, + "loss": 0.039, + "num_input_tokens_seen": 551064, + "step": 275 + }, + { + "epoch": 0.03658051689860835, + "grad_norm": 12.120160102844238, + "learning_rate": 4.998294913238834e-06, + "loss": 0.2049, + "num_input_tokens_seen": 552736, + "step": 276 + }, + { + "epoch": 0.036713055003313455, + "grad_norm": 13.951089859008789, + "learning_rate": 4.998282070410741e-06, + "loss": 0.2062, + "num_input_tokens_seen": 556584, + "step": 277 + }, + { + "epoch": 0.036845593108018555, + "grad_norm": 25.15782928466797, + "learning_rate": 4.998269179414047e-06, + "loss": 0.306, + "num_input_tokens_seen": 557960, + "step": 278 + }, + { + "epoch": 0.036978131212723656, + "grad_norm": 21.26768684387207, + "learning_rate": 4.998256240248999e-06, + "loss": 0.3163, + "num_input_tokens_seen": 561984, + "step": 279 + }, + { + "epoch": 0.03711066931742876, + "grad_norm": 21.928241729736328, + "learning_rate": 4.998243252915847e-06, + "loss": 0.5134, + "num_input_tokens_seen": 564784, + "step": 280 + }, + { + "epoch": 0.03724320742213386, + "grad_norm": 16.106935501098633, + "learning_rate": 4.9982302174148425e-06, + "loss": 0.3639, + "num_input_tokens_seen": 566848, + "step": 281 + }, + { + "epoch": 0.03737574552683896, + "grad_norm": 8.305567741394043, + "learning_rate": 4.998217133746235e-06, + "loss": 0.095, + "num_input_tokens_seen": 568584, + "step": 282 + }, + { + "epoch": 0.03750828363154407, + "grad_norm": 2.3119444847106934, + "learning_rate": 4.998204001910279e-06, + "loss": 0.0111, + "num_input_tokens_seen": 569592, + "step": 283 + }, + { + "epoch": 0.03764082173624917, + "grad_norm": 17.673871994018555, + "learning_rate": 4.998190821907225e-06, + "loss": 0.2595, + "num_input_tokens_seen": 571448, + "step": 284 + }, + { + "epoch": 0.03777335984095427, + "grad_norm": 6.476834774017334, + "learning_rate": 4.99817759373733e-06, + "loss": 0.0407, + "num_input_tokens_seen": 573352, + "step": 285 + }, + { + "epoch": 0.03790589794565938, + "grad_norm": 10.310851097106934, + "learning_rate": 4.998164317400846e-06, + "loss": 0.1975, + "num_input_tokens_seen": 574784, + "step": 286 + }, + { + "epoch": 0.03803843605036448, + "grad_norm": 7.472101211547852, + "learning_rate": 4.998150992898032e-06, + "loss": 0.1528, + "num_input_tokens_seen": 576360, + "step": 287 + }, + { + "epoch": 0.038170974155069586, + "grad_norm": 7.403510570526123, + "learning_rate": 4.998137620229143e-06, + "loss": 0.1364, + "num_input_tokens_seen": 578160, + "step": 288 + }, + { + "epoch": 0.038303512259774686, + "grad_norm": 2.993300199508667, + "learning_rate": 4.998124199394437e-06, + "loss": 0.0148, + "num_input_tokens_seen": 580080, + "step": 289 + }, + { + "epoch": 0.038436050364479786, + "grad_norm": 13.170620918273926, + "learning_rate": 4.998110730394174e-06, + "loss": 0.3559, + "num_input_tokens_seen": 582336, + "step": 290 + }, + { + "epoch": 0.03856858846918489, + "grad_norm": 14.553942680358887, + "learning_rate": 4.998097213228611e-06, + "loss": 0.2029, + "num_input_tokens_seen": 583928, + "step": 291 + }, + { + "epoch": 0.03870112657388999, + "grad_norm": 0.8202224969863892, + "learning_rate": 4.998083647898011e-06, + "loss": 0.0029, + "num_input_tokens_seen": 586016, + "step": 292 + }, + { + "epoch": 0.038833664678595094, + "grad_norm": 25.899988174438477, + "learning_rate": 4.998070034402635e-06, + "loss": 0.5873, + "num_input_tokens_seen": 588280, + "step": 293 + }, + { + "epoch": 0.0389662027833002, + "grad_norm": 11.520463943481445, + "learning_rate": 4.9980563727427464e-06, + "loss": 0.1645, + "num_input_tokens_seen": 590600, + "step": 294 + }, + { + "epoch": 0.0390987408880053, + "grad_norm": 18.768911361694336, + "learning_rate": 4.998042662918607e-06, + "loss": 0.6236, + "num_input_tokens_seen": 592976, + "step": 295 + }, + { + "epoch": 0.0392312789927104, + "grad_norm": 0.867225170135498, + "learning_rate": 4.998028904930481e-06, + "loss": 0.0038, + "num_input_tokens_seen": 594848, + "step": 296 + }, + { + "epoch": 0.03936381709741551, + "grad_norm": 25.768062591552734, + "learning_rate": 4.998015098778636e-06, + "loss": 0.4069, + "num_input_tokens_seen": 596640, + "step": 297 + }, + { + "epoch": 0.03949635520212061, + "grad_norm": 12.203022956848145, + "learning_rate": 4.998001244463336e-06, + "loss": 0.2393, + "num_input_tokens_seen": 598832, + "step": 298 + }, + { + "epoch": 0.03962889330682571, + "grad_norm": 25.078598022460938, + "learning_rate": 4.997987341984848e-06, + "loss": 0.4055, + "num_input_tokens_seen": 600400, + "step": 299 + }, + { + "epoch": 0.039761431411530816, + "grad_norm": 2.1533451080322266, + "learning_rate": 4.9979733913434405e-06, + "loss": 0.0306, + "num_input_tokens_seen": 602224, + "step": 300 + }, + { + "epoch": 0.039893969516235916, + "grad_norm": 14.567193031311035, + "learning_rate": 4.997959392539383e-06, + "loss": 0.2431, + "num_input_tokens_seen": 604472, + "step": 301 + }, + { + "epoch": 0.040026507620941024, + "grad_norm": 12.722371101379395, + "learning_rate": 4.997945345572946e-06, + "loss": 0.4987, + "num_input_tokens_seen": 606416, + "step": 302 + }, + { + "epoch": 0.040159045725646124, + "grad_norm": 25.712350845336914, + "learning_rate": 4.997931250444399e-06, + "loss": 0.5941, + "num_input_tokens_seen": 608848, + "step": 303 + }, + { + "epoch": 0.040291583830351224, + "grad_norm": 7.8166184425354, + "learning_rate": 4.997917107154015e-06, + "loss": 0.2187, + "num_input_tokens_seen": 611056, + "step": 304 + }, + { + "epoch": 0.04042412193505633, + "grad_norm": 0.5850040912628174, + "learning_rate": 4.997902915702065e-06, + "loss": 0.0022, + "num_input_tokens_seen": 613552, + "step": 305 + }, + { + "epoch": 0.04055666003976143, + "grad_norm": 23.503761291503906, + "learning_rate": 4.997888676088823e-06, + "loss": 0.7279, + "num_input_tokens_seen": 615648, + "step": 306 + }, + { + "epoch": 0.04068919814446653, + "grad_norm": 19.09429168701172, + "learning_rate": 4.997874388314565e-06, + "loss": 0.3783, + "num_input_tokens_seen": 617648, + "step": 307 + }, + { + "epoch": 0.04082173624917164, + "grad_norm": 16.295747756958008, + "learning_rate": 4.997860052379566e-06, + "loss": 0.4785, + "num_input_tokens_seen": 620128, + "step": 308 + }, + { + "epoch": 0.04095427435387674, + "grad_norm": 7.503650665283203, + "learning_rate": 4.9978456682841015e-06, + "loss": 0.0362, + "num_input_tokens_seen": 622376, + "step": 309 + }, + { + "epoch": 0.04108681245858184, + "grad_norm": 15.009029388427734, + "learning_rate": 4.99783123602845e-06, + "loss": 0.1055, + "num_input_tokens_seen": 624088, + "step": 310 + }, + { + "epoch": 0.04121935056328695, + "grad_norm": 16.56051254272461, + "learning_rate": 4.997816755612887e-06, + "loss": 0.304, + "num_input_tokens_seen": 625752, + "step": 311 + }, + { + "epoch": 0.04135188866799205, + "grad_norm": 10.829145431518555, + "learning_rate": 4.997802227037697e-06, + "loss": 0.1062, + "num_input_tokens_seen": 627472, + "step": 312 + }, + { + "epoch": 0.04148442677269715, + "grad_norm": 20.199914932250977, + "learning_rate": 4.9977876503031545e-06, + "loss": 0.2104, + "num_input_tokens_seen": 629176, + "step": 313 + }, + { + "epoch": 0.041616964877402254, + "grad_norm": 6.902258396148682, + "learning_rate": 4.9977730254095435e-06, + "loss": 0.0944, + "num_input_tokens_seen": 630648, + "step": 314 + }, + { + "epoch": 0.041749502982107355, + "grad_norm": 12.835172653198242, + "learning_rate": 4.997758352357146e-06, + "loss": 0.2762, + "num_input_tokens_seen": 632816, + "step": 315 + }, + { + "epoch": 0.04188204108681246, + "grad_norm": 11.454261779785156, + "learning_rate": 4.997743631146244e-06, + "loss": 0.0646, + "num_input_tokens_seen": 634504, + "step": 316 + }, + { + "epoch": 0.04201457919151756, + "grad_norm": 29.429641723632812, + "learning_rate": 4.997728861777121e-06, + "loss": 0.8085, + "num_input_tokens_seen": 638080, + "step": 317 + }, + { + "epoch": 0.04214711729622266, + "grad_norm": 9.454316139221191, + "learning_rate": 4.997714044250064e-06, + "loss": 0.2269, + "num_input_tokens_seen": 640616, + "step": 318 + }, + { + "epoch": 0.04227965540092777, + "grad_norm": 26.891950607299805, + "learning_rate": 4.997699178565356e-06, + "loss": 0.7373, + "num_input_tokens_seen": 642592, + "step": 319 + }, + { + "epoch": 0.04241219350563287, + "grad_norm": 16.68791961669922, + "learning_rate": 4.997684264723285e-06, + "loss": 0.2951, + "num_input_tokens_seen": 644672, + "step": 320 + }, + { + "epoch": 0.04254473161033797, + "grad_norm": 21.331117630004883, + "learning_rate": 4.997669302724139e-06, + "loss": 0.6098, + "num_input_tokens_seen": 646912, + "step": 321 + }, + { + "epoch": 0.04267726971504308, + "grad_norm": 20.414836883544922, + "learning_rate": 4.997654292568204e-06, + "loss": 0.3962, + "num_input_tokens_seen": 649656, + "step": 322 + }, + { + "epoch": 0.04280980781974818, + "grad_norm": 7.269143104553223, + "learning_rate": 4.997639234255773e-06, + "loss": 0.1993, + "num_input_tokens_seen": 651112, + "step": 323 + }, + { + "epoch": 0.04294234592445328, + "grad_norm": 20.107419967651367, + "learning_rate": 4.9976241277871335e-06, + "loss": 0.3358, + "num_input_tokens_seen": 653312, + "step": 324 + }, + { + "epoch": 0.043074884029158385, + "grad_norm": 27.0461368560791, + "learning_rate": 4.997608973162578e-06, + "loss": 0.5486, + "num_input_tokens_seen": 656072, + "step": 325 + }, + { + "epoch": 0.043207422133863485, + "grad_norm": 17.05916976928711, + "learning_rate": 4.997593770382398e-06, + "loss": 0.4689, + "num_input_tokens_seen": 658840, + "step": 326 + }, + { + "epoch": 0.043339960238568585, + "grad_norm": 1.6389083862304688, + "learning_rate": 4.9975785194468886e-06, + "loss": 0.0072, + "num_input_tokens_seen": 661824, + "step": 327 + }, + { + "epoch": 0.04347249834327369, + "grad_norm": 3.850003242492676, + "learning_rate": 4.997563220356341e-06, + "loss": 0.0198, + "num_input_tokens_seen": 664928, + "step": 328 + }, + { + "epoch": 0.04360503644797879, + "grad_norm": 23.54313087463379, + "learning_rate": 4.997547873111053e-06, + "loss": 0.3895, + "num_input_tokens_seen": 668112, + "step": 329 + }, + { + "epoch": 0.0437375745526839, + "grad_norm": 9.03012466430664, + "learning_rate": 4.997532477711318e-06, + "loss": 0.3714, + "num_input_tokens_seen": 671248, + "step": 330 + }, + { + "epoch": 0.043870112657389, + "grad_norm": 14.154772758483887, + "learning_rate": 4.997517034157433e-06, + "loss": 0.3441, + "num_input_tokens_seen": 672536, + "step": 331 + }, + { + "epoch": 0.0440026507620941, + "grad_norm": 0.9552240967750549, + "learning_rate": 4.997501542449697e-06, + "loss": 0.0043, + "num_input_tokens_seen": 675576, + "step": 332 + }, + { + "epoch": 0.04413518886679921, + "grad_norm": 11.67136001586914, + "learning_rate": 4.99748600258841e-06, + "loss": 0.1134, + "num_input_tokens_seen": 677632, + "step": 333 + }, + { + "epoch": 0.04426772697150431, + "grad_norm": 20.03084945678711, + "learning_rate": 4.997470414573869e-06, + "loss": 0.216, + "num_input_tokens_seen": 681088, + "step": 334 + }, + { + "epoch": 0.04440026507620941, + "grad_norm": 18.869739532470703, + "learning_rate": 4.997454778406375e-06, + "loss": 0.3727, + "num_input_tokens_seen": 683368, + "step": 335 + }, + { + "epoch": 0.044532803180914515, + "grad_norm": 15.195161819458008, + "learning_rate": 4.997439094086231e-06, + "loss": 0.3932, + "num_input_tokens_seen": 685528, + "step": 336 + }, + { + "epoch": 0.044665341285619616, + "grad_norm": 5.1058478355407715, + "learning_rate": 4.9974233616137365e-06, + "loss": 0.0612, + "num_input_tokens_seen": 687896, + "step": 337 + }, + { + "epoch": 0.044797879390324716, + "grad_norm": 8.459250450134277, + "learning_rate": 4.997407580989198e-06, + "loss": 0.0422, + "num_input_tokens_seen": 689520, + "step": 338 + }, + { + "epoch": 0.04493041749502982, + "grad_norm": 29.686885833740234, + "learning_rate": 4.997391752212918e-06, + "loss": 0.421, + "num_input_tokens_seen": 691944, + "step": 339 + }, + { + "epoch": 0.04506295559973492, + "grad_norm": 7.44094181060791, + "learning_rate": 4.997375875285203e-06, + "loss": 0.1209, + "num_input_tokens_seen": 695152, + "step": 340 + }, + { + "epoch": 0.04519549370444002, + "grad_norm": 21.71242332458496, + "learning_rate": 4.997359950206357e-06, + "loss": 0.5102, + "num_input_tokens_seen": 697656, + "step": 341 + }, + { + "epoch": 0.04532803180914513, + "grad_norm": 0.6252732872962952, + "learning_rate": 4.99734397697669e-06, + "loss": 0.0021, + "num_input_tokens_seen": 698952, + "step": 342 + }, + { + "epoch": 0.04546056991385023, + "grad_norm": 10.156767845153809, + "learning_rate": 4.997327955596507e-06, + "loss": 0.2217, + "num_input_tokens_seen": 700608, + "step": 343 + }, + { + "epoch": 0.04559310801855534, + "grad_norm": 7.860878944396973, + "learning_rate": 4.997311886066118e-06, + "loss": 0.1274, + "num_input_tokens_seen": 702120, + "step": 344 + }, + { + "epoch": 0.04572564612326044, + "grad_norm": 11.383088111877441, + "learning_rate": 4.997295768385834e-06, + "loss": 0.2046, + "num_input_tokens_seen": 703528, + "step": 345 + }, + { + "epoch": 0.04585818422796554, + "grad_norm": 7.847553730010986, + "learning_rate": 4.997279602555964e-06, + "loss": 0.0318, + "num_input_tokens_seen": 704848, + "step": 346 + }, + { + "epoch": 0.045990722332670646, + "grad_norm": 19.786420822143555, + "learning_rate": 4.997263388576822e-06, + "loss": 0.3434, + "num_input_tokens_seen": 706392, + "step": 347 + }, + { + "epoch": 0.046123260437375746, + "grad_norm": 2.1406922340393066, + "learning_rate": 4.997247126448718e-06, + "loss": 0.043, + "num_input_tokens_seen": 708000, + "step": 348 + }, + { + "epoch": 0.046255798542080846, + "grad_norm": 4.831175327301025, + "learning_rate": 4.9972308161719665e-06, + "loss": 0.0204, + "num_input_tokens_seen": 709728, + "step": 349 + }, + { + "epoch": 0.04638833664678595, + "grad_norm": 18.041276931762695, + "learning_rate": 4.997214457746882e-06, + "loss": 0.4672, + "num_input_tokens_seen": 711960, + "step": 350 + }, + { + "epoch": 0.046520874751491054, + "grad_norm": 5.1598029136657715, + "learning_rate": 4.99719805117378e-06, + "loss": 0.1205, + "num_input_tokens_seen": 713208, + "step": 351 + }, + { + "epoch": 0.046653412856196154, + "grad_norm": 3.019613265991211, + "learning_rate": 4.997181596452977e-06, + "loss": 0.0065, + "num_input_tokens_seen": 715120, + "step": 352 + }, + { + "epoch": 0.04678595096090126, + "grad_norm": 12.380135536193848, + "learning_rate": 4.99716509358479e-06, + "loss": 0.1354, + "num_input_tokens_seen": 716648, + "step": 353 + }, + { + "epoch": 0.04691848906560636, + "grad_norm": 13.253052711486816, + "learning_rate": 4.9971485425695374e-06, + "loss": 0.126, + "num_input_tokens_seen": 718024, + "step": 354 + }, + { + "epoch": 0.04705102717031146, + "grad_norm": 0.013280677609145641, + "learning_rate": 4.997131943407538e-06, + "loss": 0.0, + "num_input_tokens_seen": 719576, + "step": 355 + }, + { + "epoch": 0.04718356527501657, + "grad_norm": 0.12724220752716064, + "learning_rate": 4.9971152960991134e-06, + "loss": 0.0002, + "num_input_tokens_seen": 722600, + "step": 356 + }, + { + "epoch": 0.04731610337972167, + "grad_norm": 10.176298141479492, + "learning_rate": 4.997098600644582e-06, + "loss": 0.2611, + "num_input_tokens_seen": 724280, + "step": 357 + }, + { + "epoch": 0.04744864148442677, + "grad_norm": 21.48967742919922, + "learning_rate": 4.997081857044267e-06, + "loss": 0.5354, + "num_input_tokens_seen": 726312, + "step": 358 + }, + { + "epoch": 0.047581179589131876, + "grad_norm": 0.03790980949997902, + "learning_rate": 4.997065065298491e-06, + "loss": 0.0001, + "num_input_tokens_seen": 727712, + "step": 359 + }, + { + "epoch": 0.04771371769383698, + "grad_norm": 20.249364852905273, + "learning_rate": 4.997048225407578e-06, + "loss": 0.4925, + "num_input_tokens_seen": 729752, + "step": 360 + }, + { + "epoch": 0.047846255798542084, + "grad_norm": 7.8548078536987305, + "learning_rate": 4.997031337371853e-06, + "loss": 0.1501, + "num_input_tokens_seen": 731480, + "step": 361 + }, + { + "epoch": 0.047978793903247184, + "grad_norm": 13.437089920043945, + "learning_rate": 4.99701440119164e-06, + "loss": 0.188, + "num_input_tokens_seen": 734528, + "step": 362 + }, + { + "epoch": 0.048111332007952284, + "grad_norm": 12.443678855895996, + "learning_rate": 4.996997416867268e-06, + "loss": 0.2899, + "num_input_tokens_seen": 736376, + "step": 363 + }, + { + "epoch": 0.04824387011265739, + "grad_norm": 19.146350860595703, + "learning_rate": 4.996980384399062e-06, + "loss": 0.3962, + "num_input_tokens_seen": 738712, + "step": 364 + }, + { + "epoch": 0.04837640821736249, + "grad_norm": 18.645601272583008, + "learning_rate": 4.996963303787354e-06, + "loss": 0.421, + "num_input_tokens_seen": 741656, + "step": 365 + }, + { + "epoch": 0.04850894632206759, + "grad_norm": 23.880483627319336, + "learning_rate": 4.996946175032469e-06, + "loss": 0.3565, + "num_input_tokens_seen": 743160, + "step": 366 + }, + { + "epoch": 0.0486414844267727, + "grad_norm": 26.378475189208984, + "learning_rate": 4.996928998134739e-06, + "loss": 0.6684, + "num_input_tokens_seen": 745936, + "step": 367 + }, + { + "epoch": 0.0487740225314778, + "grad_norm": 16.886404037475586, + "learning_rate": 4.996911773094496e-06, + "loss": 0.3134, + "num_input_tokens_seen": 747736, + "step": 368 + }, + { + "epoch": 0.0489065606361829, + "grad_norm": 15.819960594177246, + "learning_rate": 4.9968944999120715e-06, + "loss": 0.2254, + "num_input_tokens_seen": 749528, + "step": 369 + }, + { + "epoch": 0.04903909874088801, + "grad_norm": 2.205227851867676, + "learning_rate": 4.996877178587799e-06, + "loss": 0.0097, + "num_input_tokens_seen": 750640, + "step": 370 + }, + { + "epoch": 0.04917163684559311, + "grad_norm": 19.295799255371094, + "learning_rate": 4.9968598091220115e-06, + "loss": 0.4687, + "num_input_tokens_seen": 752648, + "step": 371 + }, + { + "epoch": 0.04930417495029821, + "grad_norm": 2.245725154876709, + "learning_rate": 4.996842391515045e-06, + "loss": 0.01, + "num_input_tokens_seen": 754448, + "step": 372 + }, + { + "epoch": 0.049436713055003315, + "grad_norm": 17.21232032775879, + "learning_rate": 4.996824925767233e-06, + "loss": 0.1311, + "num_input_tokens_seen": 757344, + "step": 373 + }, + { + "epoch": 0.049569251159708415, + "grad_norm": 29.35503578186035, + "learning_rate": 4.996807411878915e-06, + "loss": 0.4628, + "num_input_tokens_seen": 758560, + "step": 374 + }, + { + "epoch": 0.04970178926441352, + "grad_norm": 11.46652889251709, + "learning_rate": 4.996789849850427e-06, + "loss": 0.0821, + "num_input_tokens_seen": 760800, + "step": 375 + }, + { + "epoch": 0.04983432736911862, + "grad_norm": 0.5824503898620605, + "learning_rate": 4.99677223968211e-06, + "loss": 0.0026, + "num_input_tokens_seen": 761840, + "step": 376 + }, + { + "epoch": 0.04996686547382372, + "grad_norm": 8.417191505432129, + "learning_rate": 4.9967545813743e-06, + "loss": 0.1175, + "num_input_tokens_seen": 763424, + "step": 377 + }, + { + "epoch": 0.05009940357852883, + "grad_norm": 6.865485668182373, + "learning_rate": 4.996736874927341e-06, + "loss": 0.0421, + "num_input_tokens_seen": 765096, + "step": 378 + }, + { + "epoch": 0.05023194168323393, + "grad_norm": 6.654351234436035, + "learning_rate": 4.996719120341571e-06, + "loss": 0.0766, + "num_input_tokens_seen": 766416, + "step": 379 + }, + { + "epoch": 0.05036447978793903, + "grad_norm": 12.908503532409668, + "learning_rate": 4.996701317617335e-06, + "loss": 0.3849, + "num_input_tokens_seen": 768728, + "step": 380 + }, + { + "epoch": 0.05049701789264414, + "grad_norm": 0.8765175342559814, + "learning_rate": 4.996683466754974e-06, + "loss": 0.0036, + "num_input_tokens_seen": 770104, + "step": 381 + }, + { + "epoch": 0.05062955599734924, + "grad_norm": 23.151649475097656, + "learning_rate": 4.996665567754834e-06, + "loss": 0.5085, + "num_input_tokens_seen": 771960, + "step": 382 + }, + { + "epoch": 0.05076209410205434, + "grad_norm": 17.043270111083984, + "learning_rate": 4.99664762061726e-06, + "loss": 0.3232, + "num_input_tokens_seen": 774312, + "step": 383 + }, + { + "epoch": 0.050894632206759445, + "grad_norm": 23.318056106567383, + "learning_rate": 4.996629625342597e-06, + "loss": 0.4619, + "num_input_tokens_seen": 776112, + "step": 384 + }, + { + "epoch": 0.051027170311464545, + "grad_norm": 15.63559341430664, + "learning_rate": 4.9966115819311926e-06, + "loss": 0.2928, + "num_input_tokens_seen": 777552, + "step": 385 + }, + { + "epoch": 0.051159708416169646, + "grad_norm": 0.42104920744895935, + "learning_rate": 4.996593490383395e-06, + "loss": 0.0015, + "num_input_tokens_seen": 779176, + "step": 386 + }, + { + "epoch": 0.05129224652087475, + "grad_norm": 17.924867630004883, + "learning_rate": 4.996575350699552e-06, + "loss": 0.4286, + "num_input_tokens_seen": 781216, + "step": 387 + }, + { + "epoch": 0.05142478462557985, + "grad_norm": 27.782072067260742, + "learning_rate": 4.996557162880014e-06, + "loss": 0.8455, + "num_input_tokens_seen": 782984, + "step": 388 + }, + { + "epoch": 0.05155732273028496, + "grad_norm": 26.4074649810791, + "learning_rate": 4.996538926925132e-06, + "loss": 0.4452, + "num_input_tokens_seen": 784928, + "step": 389 + }, + { + "epoch": 0.05168986083499006, + "grad_norm": 0.5493453741073608, + "learning_rate": 4.996520642835257e-06, + "loss": 0.0024, + "num_input_tokens_seen": 788072, + "step": 390 + }, + { + "epoch": 0.05182239893969516, + "grad_norm": 17.478471755981445, + "learning_rate": 4.996502310610742e-06, + "loss": 0.4274, + "num_input_tokens_seen": 790008, + "step": 391 + }, + { + "epoch": 0.05195493704440027, + "grad_norm": 6.221721172332764, + "learning_rate": 4.99648393025194e-06, + "loss": 0.1173, + "num_input_tokens_seen": 791736, + "step": 392 + }, + { + "epoch": 0.05208747514910537, + "grad_norm": 14.853644371032715, + "learning_rate": 4.996465501759205e-06, + "loss": 0.3939, + "num_input_tokens_seen": 793584, + "step": 393 + }, + { + "epoch": 0.05222001325381047, + "grad_norm": 0.30814510583877563, + "learning_rate": 4.9964470251328935e-06, + "loss": 0.0014, + "num_input_tokens_seen": 794944, + "step": 394 + }, + { + "epoch": 0.052352551358515576, + "grad_norm": 22.30123519897461, + "learning_rate": 4.996428500373361e-06, + "loss": 0.4323, + "num_input_tokens_seen": 796856, + "step": 395 + }, + { + "epoch": 0.052485089463220676, + "grad_norm": 13.975912094116211, + "learning_rate": 4.996409927480965e-06, + "loss": 0.4534, + "num_input_tokens_seen": 799224, + "step": 396 + }, + { + "epoch": 0.052617627567925776, + "grad_norm": 10.820759773254395, + "learning_rate": 4.9963913064560634e-06, + "loss": 0.2199, + "num_input_tokens_seen": 801496, + "step": 397 + }, + { + "epoch": 0.05275016567263088, + "grad_norm": 1.8996949195861816, + "learning_rate": 4.996372637299015e-06, + "loss": 0.0085, + "num_input_tokens_seen": 802768, + "step": 398 + }, + { + "epoch": 0.05288270377733598, + "grad_norm": 13.372843742370605, + "learning_rate": 4.9963539200101795e-06, + "loss": 0.2026, + "num_input_tokens_seen": 804376, + "step": 399 + }, + { + "epoch": 0.053015241882041084, + "grad_norm": 21.658615112304688, + "learning_rate": 4.99633515458992e-06, + "loss": 0.6691, + "num_input_tokens_seen": 806400, + "step": 400 + }, + { + "epoch": 0.05314777998674619, + "grad_norm": 13.015047073364258, + "learning_rate": 4.996316341038595e-06, + "loss": 0.2655, + "num_input_tokens_seen": 808336, + "step": 401 + }, + { + "epoch": 0.05328031809145129, + "grad_norm": 8.32094669342041, + "learning_rate": 4.9962974793565685e-06, + "loss": 0.0826, + "num_input_tokens_seen": 809912, + "step": 402 + }, + { + "epoch": 0.0534128561961564, + "grad_norm": 20.510452270507812, + "learning_rate": 4.996278569544206e-06, + "loss": 0.4597, + "num_input_tokens_seen": 812640, + "step": 403 + }, + { + "epoch": 0.0535453943008615, + "grad_norm": 5.006075382232666, + "learning_rate": 4.9962596116018695e-06, + "loss": 0.024, + "num_input_tokens_seen": 813848, + "step": 404 + }, + { + "epoch": 0.0536779324055666, + "grad_norm": 5.897892475128174, + "learning_rate": 4.996240605529926e-06, + "loss": 0.0971, + "num_input_tokens_seen": 815392, + "step": 405 + }, + { + "epoch": 0.053810470510271706, + "grad_norm": 22.914487838745117, + "learning_rate": 4.996221551328742e-06, + "loss": 0.5509, + "num_input_tokens_seen": 816928, + "step": 406 + }, + { + "epoch": 0.053943008614976806, + "grad_norm": 27.326887130737305, + "learning_rate": 4.996202448998684e-06, + "loss": 0.485, + "num_input_tokens_seen": 818344, + "step": 407 + }, + { + "epoch": 0.054075546719681906, + "grad_norm": 8.313642501831055, + "learning_rate": 4.996183298540121e-06, + "loss": 0.1001, + "num_input_tokens_seen": 820040, + "step": 408 + }, + { + "epoch": 0.054208084824387014, + "grad_norm": 4.386748790740967, + "learning_rate": 4.996164099953421e-06, + "loss": 0.0218, + "num_input_tokens_seen": 821696, + "step": 409 + }, + { + "epoch": 0.054340622929092114, + "grad_norm": 14.14405632019043, + "learning_rate": 4.996144853238956e-06, + "loss": 0.2684, + "num_input_tokens_seen": 824176, + "step": 410 + }, + { + "epoch": 0.054473161033797214, + "grad_norm": 16.349185943603516, + "learning_rate": 4.996125558397096e-06, + "loss": 0.3261, + "num_input_tokens_seen": 826576, + "step": 411 + }, + { + "epoch": 0.05460569913850232, + "grad_norm": 14.40383529663086, + "learning_rate": 4.996106215428214e-06, + "loss": 0.4198, + "num_input_tokens_seen": 828056, + "step": 412 + }, + { + "epoch": 0.05473823724320742, + "grad_norm": 12.038331031799316, + "learning_rate": 4.996086824332681e-06, + "loss": 0.26, + "num_input_tokens_seen": 830184, + "step": 413 + }, + { + "epoch": 0.05487077534791252, + "grad_norm": 1.7930399179458618, + "learning_rate": 4.9960673851108724e-06, + "loss": 0.0085, + "num_input_tokens_seen": 831600, + "step": 414 + }, + { + "epoch": 0.05500331345261763, + "grad_norm": 16.52307891845703, + "learning_rate": 4.996047897763163e-06, + "loss": 0.2179, + "num_input_tokens_seen": 833840, + "step": 415 + }, + { + "epoch": 0.05513585155732273, + "grad_norm": 2.702738046646118, + "learning_rate": 4.996028362289928e-06, + "loss": 0.0113, + "num_input_tokens_seen": 835520, + "step": 416 + }, + { + "epoch": 0.055268389662027836, + "grad_norm": 28.42337417602539, + "learning_rate": 4.996008778691544e-06, + "loss": 1.5106, + "num_input_tokens_seen": 838536, + "step": 417 + }, + { + "epoch": 0.05540092776673294, + "grad_norm": 8.068453788757324, + "learning_rate": 4.995989146968389e-06, + "loss": 0.1233, + "num_input_tokens_seen": 839880, + "step": 418 + }, + { + "epoch": 0.05553346587143804, + "grad_norm": 10.71106243133545, + "learning_rate": 4.9959694671208415e-06, + "loss": 0.3155, + "num_input_tokens_seen": 841736, + "step": 419 + }, + { + "epoch": 0.055666003976143144, + "grad_norm": 15.732540130615234, + "learning_rate": 4.995949739149281e-06, + "loss": 0.4902, + "num_input_tokens_seen": 843216, + "step": 420 + }, + { + "epoch": 0.055798542080848244, + "grad_norm": 12.263782501220703, + "learning_rate": 4.9959299630540876e-06, + "loss": 0.0779, + "num_input_tokens_seen": 844912, + "step": 421 + }, + { + "epoch": 0.055931080185553345, + "grad_norm": 0.03717665746808052, + "learning_rate": 4.995910138835642e-06, + "loss": 0.0002, + "num_input_tokens_seen": 846536, + "step": 422 + }, + { + "epoch": 0.05606361829025845, + "grad_norm": 18.78084945678711, + "learning_rate": 4.9958902664943275e-06, + "loss": 0.1599, + "num_input_tokens_seen": 848712, + "step": 423 + }, + { + "epoch": 0.05619615639496355, + "grad_norm": 3.03532338142395, + "learning_rate": 4.995870346030528e-06, + "loss": 0.0133, + "num_input_tokens_seen": 850872, + "step": 424 + }, + { + "epoch": 0.05632869449966865, + "grad_norm": 1.760057806968689, + "learning_rate": 4.995850377444624e-06, + "loss": 0.0009, + "num_input_tokens_seen": 852224, + "step": 425 + }, + { + "epoch": 0.05646123260437376, + "grad_norm": 21.569618225097656, + "learning_rate": 4.995830360737005e-06, + "loss": 0.5746, + "num_input_tokens_seen": 854456, + "step": 426 + }, + { + "epoch": 0.05659377070907886, + "grad_norm": 11.767157554626465, + "learning_rate": 4.995810295908054e-06, + "loss": 0.2346, + "num_input_tokens_seen": 856800, + "step": 427 + }, + { + "epoch": 0.05672630881378396, + "grad_norm": 17.919403076171875, + "learning_rate": 4.995790182958159e-06, + "loss": 0.2724, + "num_input_tokens_seen": 858352, + "step": 428 + }, + { + "epoch": 0.05685884691848907, + "grad_norm": 12.62038803100586, + "learning_rate": 4.995770021887707e-06, + "loss": 0.149, + "num_input_tokens_seen": 859712, + "step": 429 + }, + { + "epoch": 0.05699138502319417, + "grad_norm": 13.71484661102295, + "learning_rate": 4.995749812697088e-06, + "loss": 0.1083, + "num_input_tokens_seen": 862248, + "step": 430 + }, + { + "epoch": 0.05712392312789927, + "grad_norm": 0.01438061147928238, + "learning_rate": 4.99572955538669e-06, + "loss": 0.0001, + "num_input_tokens_seen": 863664, + "step": 431 + }, + { + "epoch": 0.057256461232604375, + "grad_norm": 0.35884493589401245, + "learning_rate": 4.995709249956905e-06, + "loss": 0.0014, + "num_input_tokens_seen": 865600, + "step": 432 + }, + { + "epoch": 0.057388999337309475, + "grad_norm": 0.010414387099444866, + "learning_rate": 4.995688896408124e-06, + "loss": 0.0001, + "num_input_tokens_seen": 867256, + "step": 433 + }, + { + "epoch": 0.05752153744201458, + "grad_norm": 15.658315658569336, + "learning_rate": 4.995668494740739e-06, + "loss": 0.3547, + "num_input_tokens_seen": 869240, + "step": 434 + }, + { + "epoch": 0.05765407554671968, + "grad_norm": 0.9342787265777588, + "learning_rate": 4.995648044955144e-06, + "loss": 0.0025, + "num_input_tokens_seen": 871888, + "step": 435 + }, + { + "epoch": 0.05778661365142478, + "grad_norm": 2.8957719802856445, + "learning_rate": 4.9956275470517335e-06, + "loss": 0.0064, + "num_input_tokens_seen": 873752, + "step": 436 + }, + { + "epoch": 0.05791915175612989, + "grad_norm": 0.04046275466680527, + "learning_rate": 4.995607001030902e-06, + "loss": 0.0002, + "num_input_tokens_seen": 875584, + "step": 437 + }, + { + "epoch": 0.05805168986083499, + "grad_norm": 8.409808158874512, + "learning_rate": 4.995586406893045e-06, + "loss": 0.2931, + "num_input_tokens_seen": 878072, + "step": 438 + }, + { + "epoch": 0.05818422796554009, + "grad_norm": 9.53891658782959, + "learning_rate": 4.995565764638561e-06, + "loss": 0.2245, + "num_input_tokens_seen": 880688, + "step": 439 + }, + { + "epoch": 0.0583167660702452, + "grad_norm": 16.10770034790039, + "learning_rate": 4.995545074267848e-06, + "loss": 0.4526, + "num_input_tokens_seen": 882336, + "step": 440 + }, + { + "epoch": 0.0584493041749503, + "grad_norm": 0.003209405578672886, + "learning_rate": 4.995524335781305e-06, + "loss": 0.0, + "num_input_tokens_seen": 883672, + "step": 441 + }, + { + "epoch": 0.0585818422796554, + "grad_norm": 37.67921447753906, + "learning_rate": 4.9955035491793295e-06, + "loss": 1.0989, + "num_input_tokens_seen": 886512, + "step": 442 + }, + { + "epoch": 0.058714380384360505, + "grad_norm": 5.709592819213867, + "learning_rate": 4.995482714462324e-06, + "loss": 0.0741, + "num_input_tokens_seen": 888104, + "step": 443 + }, + { + "epoch": 0.058846918489065606, + "grad_norm": 38.78124237060547, + "learning_rate": 4.995461831630691e-06, + "loss": 1.0351, + "num_input_tokens_seen": 889864, + "step": 444 + }, + { + "epoch": 0.058979456593770706, + "grad_norm": 15.407828330993652, + "learning_rate": 4.995440900684832e-06, + "loss": 0.4081, + "num_input_tokens_seen": 892560, + "step": 445 + }, + { + "epoch": 0.05911199469847581, + "grad_norm": 0.17919433116912842, + "learning_rate": 4.995419921625152e-06, + "loss": 0.0008, + "num_input_tokens_seen": 894792, + "step": 446 + }, + { + "epoch": 0.05924453280318091, + "grad_norm": 0.6332680583000183, + "learning_rate": 4.995398894452054e-06, + "loss": 0.0019, + "num_input_tokens_seen": 896840, + "step": 447 + }, + { + "epoch": 0.05937707090788602, + "grad_norm": 46.322914123535156, + "learning_rate": 4.995377819165943e-06, + "loss": 0.3411, + "num_input_tokens_seen": 898520, + "step": 448 + }, + { + "epoch": 0.05950960901259112, + "grad_norm": 94.10094451904297, + "learning_rate": 4.995356695767226e-06, + "loss": 0.3775, + "num_input_tokens_seen": 900272, + "step": 449 + }, + { + "epoch": 0.05964214711729622, + "grad_norm": 18.68901252746582, + "learning_rate": 4.995335524256312e-06, + "loss": 0.4001, + "num_input_tokens_seen": 901736, + "step": 450 + }, + { + "epoch": 0.05977468522200133, + "grad_norm": 16.15734100341797, + "learning_rate": 4.995314304633606e-06, + "loss": 0.3467, + "num_input_tokens_seen": 903400, + "step": 451 + }, + { + "epoch": 0.05990722332670643, + "grad_norm": 22.254375457763672, + "learning_rate": 4.99529303689952e-06, + "loss": 0.3432, + "num_input_tokens_seen": 905168, + "step": 452 + }, + { + "epoch": 0.06003976143141153, + "grad_norm": 18.157529830932617, + "learning_rate": 4.995271721054462e-06, + "loss": 0.2681, + "num_input_tokens_seen": 906808, + "step": 453 + }, + { + "epoch": 0.060172299536116636, + "grad_norm": 21.01182746887207, + "learning_rate": 4.995250357098844e-06, + "loss": 0.049, + "num_input_tokens_seen": 909552, + "step": 454 + }, + { + "epoch": 0.060304837640821736, + "grad_norm": 9.753447532653809, + "learning_rate": 4.995228945033078e-06, + "loss": 0.2303, + "num_input_tokens_seen": 912344, + "step": 455 + }, + { + "epoch": 0.060437375745526836, + "grad_norm": 21.69582748413086, + "learning_rate": 4.9952074848575765e-06, + "loss": 0.3012, + "num_input_tokens_seen": 914864, + "step": 456 + }, + { + "epoch": 0.06056991385023194, + "grad_norm": 20.239931106567383, + "learning_rate": 4.9951859765727535e-06, + "loss": 0.3241, + "num_input_tokens_seen": 916880, + "step": 457 + }, + { + "epoch": 0.060702451954937044, + "grad_norm": 1.746264934539795, + "learning_rate": 4.995164420179023e-06, + "loss": 0.0079, + "num_input_tokens_seen": 918272, + "step": 458 + }, + { + "epoch": 0.060834990059642144, + "grad_norm": 24.057586669921875, + "learning_rate": 4.995142815676802e-06, + "loss": 0.6932, + "num_input_tokens_seen": 920336, + "step": 459 + }, + { + "epoch": 0.06096752816434725, + "grad_norm": 9.76949691772461, + "learning_rate": 4.995121163066505e-06, + "loss": 0.0648, + "num_input_tokens_seen": 921872, + "step": 460 + }, + { + "epoch": 0.06110006626905235, + "grad_norm": 2.4379332065582275, + "learning_rate": 4.995099462348551e-06, + "loss": 0.0113, + "num_input_tokens_seen": 923888, + "step": 461 + }, + { + "epoch": 0.06123260437375746, + "grad_norm": 0.6686123609542847, + "learning_rate": 4.995077713523359e-06, + "loss": 0.0028, + "num_input_tokens_seen": 926408, + "step": 462 + }, + { + "epoch": 0.06136514247846256, + "grad_norm": 8.666668891906738, + "learning_rate": 4.995055916591347e-06, + "loss": 0.3313, + "num_input_tokens_seen": 928328, + "step": 463 + }, + { + "epoch": 0.06149768058316766, + "grad_norm": 16.044036865234375, + "learning_rate": 4.9950340715529355e-06, + "loss": 0.171, + "num_input_tokens_seen": 931568, + "step": 464 + }, + { + "epoch": 0.061630218687872766, + "grad_norm": 15.3733491897583, + "learning_rate": 4.9950121784085455e-06, + "loss": 0.2286, + "num_input_tokens_seen": 933800, + "step": 465 + }, + { + "epoch": 0.061762756792577866, + "grad_norm": 0.15300540626049042, + "learning_rate": 4.9949902371586e-06, + "loss": 0.0007, + "num_input_tokens_seen": 935504, + "step": 466 + }, + { + "epoch": 0.06189529489728297, + "grad_norm": 9.183958053588867, + "learning_rate": 4.994968247803522e-06, + "loss": 0.1304, + "num_input_tokens_seen": 937728, + "step": 467 + }, + { + "epoch": 0.062027833001988074, + "grad_norm": 0.26844802498817444, + "learning_rate": 4.994946210343734e-06, + "loss": 0.0009, + "num_input_tokens_seen": 938752, + "step": 468 + }, + { + "epoch": 0.062160371106693174, + "grad_norm": 0.05436732992529869, + "learning_rate": 4.994924124779662e-06, + "loss": 0.0003, + "num_input_tokens_seen": 940520, + "step": 469 + }, + { + "epoch": 0.062292909211398274, + "grad_norm": 13.469395637512207, + "learning_rate": 4.9949019911117325e-06, + "loss": 0.1647, + "num_input_tokens_seen": 942560, + "step": 470 + }, + { + "epoch": 0.06242544731610338, + "grad_norm": 0.03584084287285805, + "learning_rate": 4.99487980934037e-06, + "loss": 0.0002, + "num_input_tokens_seen": 944648, + "step": 471 + }, + { + "epoch": 0.06255798542080848, + "grad_norm": 8.76506233215332, + "learning_rate": 4.994857579466005e-06, + "loss": 0.0416, + "num_input_tokens_seen": 946304, + "step": 472 + }, + { + "epoch": 0.06269052352551359, + "grad_norm": 0.027090368792414665, + "learning_rate": 4.994835301489065e-06, + "loss": 0.0001, + "num_input_tokens_seen": 947696, + "step": 473 + }, + { + "epoch": 0.06282306163021868, + "grad_norm": 8.105457305908203, + "learning_rate": 4.9948129754099785e-06, + "loss": 0.1449, + "num_input_tokens_seen": 949296, + "step": 474 + }, + { + "epoch": 0.06295559973492379, + "grad_norm": 7.156956672668457, + "learning_rate": 4.994790601229177e-06, + "loss": 0.0745, + "num_input_tokens_seen": 951536, + "step": 475 + }, + { + "epoch": 0.0630881378396289, + "grad_norm": 0.016795145347714424, + "learning_rate": 4.994768178947092e-06, + "loss": 0.0001, + "num_input_tokens_seen": 953008, + "step": 476 + }, + { + "epoch": 0.06322067594433399, + "grad_norm": 24.05290985107422, + "learning_rate": 4.9947457085641544e-06, + "loss": 0.3832, + "num_input_tokens_seen": 954480, + "step": 477 + }, + { + "epoch": 0.0633532140490391, + "grad_norm": 12.219489097595215, + "learning_rate": 4.994723190080799e-06, + "loss": 0.2212, + "num_input_tokens_seen": 956120, + "step": 478 + }, + { + "epoch": 0.0634857521537442, + "grad_norm": 39.07728958129883, + "learning_rate": 4.994700623497459e-06, + "loss": 0.8499, + "num_input_tokens_seen": 958200, + "step": 479 + }, + { + "epoch": 0.0636182902584493, + "grad_norm": 0.4574955701828003, + "learning_rate": 4.994678008814571e-06, + "loss": 0.0013, + "num_input_tokens_seen": 960472, + "step": 480 + }, + { + "epoch": 0.0637508283631544, + "grad_norm": 14.811234474182129, + "learning_rate": 4.9946553460325695e-06, + "loss": 0.3978, + "num_input_tokens_seen": 961832, + "step": 481 + }, + { + "epoch": 0.06388336646785951, + "grad_norm": 31.710086822509766, + "learning_rate": 4.994632635151893e-06, + "loss": 0.2641, + "num_input_tokens_seen": 964024, + "step": 482 + }, + { + "epoch": 0.06401590457256462, + "grad_norm": 24.19526481628418, + "learning_rate": 4.994609876172976e-06, + "loss": 0.4087, + "num_input_tokens_seen": 966136, + "step": 483 + }, + { + "epoch": 0.06414844267726971, + "grad_norm": 31.750226974487305, + "learning_rate": 4.994587069096262e-06, + "loss": 0.9694, + "num_input_tokens_seen": 967848, + "step": 484 + }, + { + "epoch": 0.06428098078197482, + "grad_norm": 3.483440399169922, + "learning_rate": 4.994564213922187e-06, + "loss": 0.0053, + "num_input_tokens_seen": 969576, + "step": 485 + }, + { + "epoch": 0.06441351888667993, + "grad_norm": 32.30971145629883, + "learning_rate": 4.994541310651193e-06, + "loss": 0.2429, + "num_input_tokens_seen": 971744, + "step": 486 + }, + { + "epoch": 0.06454605699138502, + "grad_norm": 29.977540969848633, + "learning_rate": 4.994518359283722e-06, + "loss": 0.7457, + "num_input_tokens_seen": 973856, + "step": 487 + }, + { + "epoch": 0.06467859509609013, + "grad_norm": 2187.822509765625, + "learning_rate": 4.994495359820217e-06, + "loss": 1.7051, + "num_input_tokens_seen": 975752, + "step": 488 + }, + { + "epoch": 0.06481113320079523, + "grad_norm": 11.483095169067383, + "learning_rate": 4.99447231226112e-06, + "loss": 0.1525, + "num_input_tokens_seen": 977488, + "step": 489 + }, + { + "epoch": 0.06494367130550033, + "grad_norm": 38.371864318847656, + "learning_rate": 4.994449216606875e-06, + "loss": 0.7257, + "num_input_tokens_seen": 979576, + "step": 490 + }, + { + "epoch": 0.06507620941020544, + "grad_norm": 6.387148380279541, + "learning_rate": 4.994426072857929e-06, + "loss": 0.1932, + "num_input_tokens_seen": 981728, + "step": 491 + }, + { + "epoch": 0.06520874751491054, + "grad_norm": 1.466477394104004, + "learning_rate": 4.994402881014728e-06, + "loss": 0.0054, + "num_input_tokens_seen": 983904, + "step": 492 + }, + { + "epoch": 0.06534128561961564, + "grad_norm": 10.523158073425293, + "learning_rate": 4.994379641077718e-06, + "loss": 0.0993, + "num_input_tokens_seen": 987464, + "step": 493 + }, + { + "epoch": 0.06547382372432074, + "grad_norm": 16.072219848632812, + "learning_rate": 4.994356353047348e-06, + "loss": 0.0805, + "num_input_tokens_seen": 989544, + "step": 494 + }, + { + "epoch": 0.06560636182902585, + "grad_norm": 0.09814932197332382, + "learning_rate": 4.9943330169240665e-06, + "loss": 0.0004, + "num_input_tokens_seen": 990872, + "step": 495 + }, + { + "epoch": 0.06573889993373094, + "grad_norm": 9.3329496383667, + "learning_rate": 4.994309632708324e-06, + "loss": 0.0247, + "num_input_tokens_seen": 992896, + "step": 496 + }, + { + "epoch": 0.06587143803843605, + "grad_norm": 20.09090805053711, + "learning_rate": 4.994286200400571e-06, + "loss": 0.1765, + "num_input_tokens_seen": 995992, + "step": 497 + }, + { + "epoch": 0.06600397614314116, + "grad_norm": 10.68331527709961, + "learning_rate": 4.99426272000126e-06, + "loss": 0.2593, + "num_input_tokens_seen": 997656, + "step": 498 + }, + { + "epoch": 0.06613651424784625, + "grad_norm": 0.11378294974565506, + "learning_rate": 4.994239191510841e-06, + "loss": 0.0005, + "num_input_tokens_seen": 999768, + "step": 499 + }, + { + "epoch": 0.06626905235255136, + "grad_norm": 20.251298904418945, + "learning_rate": 4.994215614929772e-06, + "loss": 0.4918, + "num_input_tokens_seen": 1002136, + "step": 500 + }, + { + "epoch": 0.06640159045725647, + "grad_norm": 14.02566146850586, + "learning_rate": 4.994191990258504e-06, + "loss": 0.2084, + "num_input_tokens_seen": 1003272, + "step": 501 + }, + { + "epoch": 0.06653412856196156, + "grad_norm": 17.264339447021484, + "learning_rate": 4.9941683174974935e-06, + "loss": 0.1955, + "num_input_tokens_seen": 1005232, + "step": 502 + }, + { + "epoch": 0.06666666666666667, + "grad_norm": 0.1551053524017334, + "learning_rate": 4.994144596647198e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1006424, + "step": 503 + }, + { + "epoch": 0.06679920477137177, + "grad_norm": 29.754657745361328, + "learning_rate": 4.994120827708073e-06, + "loss": 0.5756, + "num_input_tokens_seen": 1008272, + "step": 504 + }, + { + "epoch": 0.06693174287607687, + "grad_norm": 10.792243957519531, + "learning_rate": 4.994097010680579e-06, + "loss": 0.2684, + "num_input_tokens_seen": 1010184, + "step": 505 + }, + { + "epoch": 0.06706428098078197, + "grad_norm": 6.34636926651001, + "learning_rate": 4.994073145565174e-06, + "loss": 0.1127, + "num_input_tokens_seen": 1012784, + "step": 506 + }, + { + "epoch": 0.06719681908548708, + "grad_norm": 8.283468246459961, + "learning_rate": 4.994049232362318e-06, + "loss": 0.0891, + "num_input_tokens_seen": 1014768, + "step": 507 + }, + { + "epoch": 0.06732935719019217, + "grad_norm": 13.287981033325195, + "learning_rate": 4.994025271072472e-06, + "loss": 0.0825, + "num_input_tokens_seen": 1016376, + "step": 508 + }, + { + "epoch": 0.06746189529489728, + "grad_norm": 16.882177352905273, + "learning_rate": 4.994001261696098e-06, + "loss": 0.4124, + "num_input_tokens_seen": 1018504, + "step": 509 + }, + { + "epoch": 0.06759443339960239, + "grad_norm": 2.0997307300567627, + "learning_rate": 4.99397720423366e-06, + "loss": 0.0055, + "num_input_tokens_seen": 1020080, + "step": 510 + }, + { + "epoch": 0.06772697150430748, + "grad_norm": 14.057239532470703, + "learning_rate": 4.99395309868562e-06, + "loss": 0.3045, + "num_input_tokens_seen": 1021728, + "step": 511 + }, + { + "epoch": 0.06785950960901259, + "grad_norm": 12.672103881835938, + "learning_rate": 4.993928945052444e-06, + "loss": 0.268, + "num_input_tokens_seen": 1024688, + "step": 512 + }, + { + "epoch": 0.0679920477137177, + "grad_norm": 0.49435117840766907, + "learning_rate": 4.993904743334598e-06, + "loss": 0.0017, + "num_input_tokens_seen": 1026544, + "step": 513 + }, + { + "epoch": 0.0681245858184228, + "grad_norm": 0.19059982895851135, + "learning_rate": 4.993880493532548e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1028224, + "step": 514 + }, + { + "epoch": 0.0682571239231279, + "grad_norm": 12.96335506439209, + "learning_rate": 4.9938561956467615e-06, + "loss": 0.2523, + "num_input_tokens_seen": 1030200, + "step": 515 + }, + { + "epoch": 0.068389662027833, + "grad_norm": 2.7128167152404785, + "learning_rate": 4.993831849677707e-06, + "loss": 0.0115, + "num_input_tokens_seen": 1031920, + "step": 516 + }, + { + "epoch": 0.06852220013253811, + "grad_norm": 6.8787455558776855, + "learning_rate": 4.993807455625854e-06, + "loss": 0.1451, + "num_input_tokens_seen": 1033472, + "step": 517 + }, + { + "epoch": 0.0686547382372432, + "grad_norm": 10.646443367004395, + "learning_rate": 4.9937830134916735e-06, + "loss": 0.2795, + "num_input_tokens_seen": 1035400, + "step": 518 + }, + { + "epoch": 0.06878727634194831, + "grad_norm": 28.678573608398438, + "learning_rate": 4.9937585232756355e-06, + "loss": 0.6005, + "num_input_tokens_seen": 1037488, + "step": 519 + }, + { + "epoch": 0.06891981444665342, + "grad_norm": 26.15842628479004, + "learning_rate": 4.993733984978213e-06, + "loss": 0.7782, + "num_input_tokens_seen": 1039928, + "step": 520 + }, + { + "epoch": 0.06905235255135851, + "grad_norm": 16.04706573486328, + "learning_rate": 4.993709398599879e-06, + "loss": 0.237, + "num_input_tokens_seen": 1041584, + "step": 521 + }, + { + "epoch": 0.06918489065606362, + "grad_norm": 4.769724369049072, + "learning_rate": 4.993684764141107e-06, + "loss": 0.074, + "num_input_tokens_seen": 1043624, + "step": 522 + }, + { + "epoch": 0.06931742876076873, + "grad_norm": 16.5262393951416, + "learning_rate": 4.993660081602373e-06, + "loss": 0.3854, + "num_input_tokens_seen": 1045808, + "step": 523 + }, + { + "epoch": 0.06944996686547382, + "grad_norm": 13.904562950134277, + "learning_rate": 4.993635350984152e-06, + "loss": 0.3698, + "num_input_tokens_seen": 1047520, + "step": 524 + }, + { + "epoch": 0.06958250497017893, + "grad_norm": 0.04643460735678673, + "learning_rate": 4.993610572286921e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1049560, + "step": 525 + }, + { + "epoch": 0.06971504307488403, + "grad_norm": 0.23561903834342957, + "learning_rate": 4.993585745511158e-06, + "loss": 0.001, + "num_input_tokens_seen": 1051608, + "step": 526 + }, + { + "epoch": 0.06984758117958913, + "grad_norm": 0.0867864117026329, + "learning_rate": 4.993560870657342e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1052984, + "step": 527 + }, + { + "epoch": 0.06998011928429423, + "grad_norm": 6.684571743011475, + "learning_rate": 4.993535947725952e-06, + "loss": 0.118, + "num_input_tokens_seen": 1054744, + "step": 528 + }, + { + "epoch": 0.07011265738899934, + "grad_norm": 9.315130233764648, + "learning_rate": 4.993510976717468e-06, + "loss": 0.1495, + "num_input_tokens_seen": 1056144, + "step": 529 + }, + { + "epoch": 0.07024519549370443, + "grad_norm": 5.07112979888916, + "learning_rate": 4.993485957632374e-06, + "loss": 0.0532, + "num_input_tokens_seen": 1058824, + "step": 530 + }, + { + "epoch": 0.07037773359840954, + "grad_norm": 29.896940231323242, + "learning_rate": 4.993460890471149e-06, + "loss": 0.6898, + "num_input_tokens_seen": 1061040, + "step": 531 + }, + { + "epoch": 0.07051027170311465, + "grad_norm": 0.9054104685783386, + "learning_rate": 4.993435775234278e-06, + "loss": 0.0036, + "num_input_tokens_seen": 1062480, + "step": 532 + }, + { + "epoch": 0.07064280980781974, + "grad_norm": 10.092836380004883, + "learning_rate": 4.993410611922246e-06, + "loss": 0.1754, + "num_input_tokens_seen": 1064640, + "step": 533 + }, + { + "epoch": 0.07077534791252485, + "grad_norm": 12.96221923828125, + "learning_rate": 4.9933854005355365e-06, + "loss": 0.327, + "num_input_tokens_seen": 1066608, + "step": 534 + }, + { + "epoch": 0.07090788601722996, + "grad_norm": 0.35928207635879517, + "learning_rate": 4.993360141074636e-06, + "loss": 0.0017, + "num_input_tokens_seen": 1068816, + "step": 535 + }, + { + "epoch": 0.07104042412193505, + "grad_norm": 21.966604232788086, + "learning_rate": 4.993334833540032e-06, + "loss": 0.558, + "num_input_tokens_seen": 1071216, + "step": 536 + }, + { + "epoch": 0.07117296222664016, + "grad_norm": 10.543190956115723, + "learning_rate": 4.993309477932214e-06, + "loss": 0.1464, + "num_input_tokens_seen": 1073104, + "step": 537 + }, + { + "epoch": 0.07130550033134526, + "grad_norm": 21.538822174072266, + "learning_rate": 4.993284074251668e-06, + "loss": 0.891, + "num_input_tokens_seen": 1075600, + "step": 538 + }, + { + "epoch": 0.07143803843605036, + "grad_norm": 0.27097639441490173, + "learning_rate": 4.993258622498885e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1077048, + "step": 539 + }, + { + "epoch": 0.07157057654075547, + "grad_norm": 16.11741065979004, + "learning_rate": 4.9932331226743555e-06, + "loss": 0.697, + "num_input_tokens_seen": 1079584, + "step": 540 + }, + { + "epoch": 0.07170311464546057, + "grad_norm": 0.2181357592344284, + "learning_rate": 4.993207574778572e-06, + "loss": 0.001, + "num_input_tokens_seen": 1081056, + "step": 541 + }, + { + "epoch": 0.07183565275016568, + "grad_norm": 0.1433018445968628, + "learning_rate": 4.993181978812026e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1082448, + "step": 542 + }, + { + "epoch": 0.07196819085487077, + "grad_norm": 8.875802040100098, + "learning_rate": 4.993156334775212e-06, + "loss": 0.0938, + "num_input_tokens_seen": 1084832, + "step": 543 + }, + { + "epoch": 0.07210072895957588, + "grad_norm": 13.357874870300293, + "learning_rate": 4.993130642668623e-06, + "loss": 0.397, + "num_input_tokens_seen": 1087112, + "step": 544 + }, + { + "epoch": 0.07223326706428099, + "grad_norm": 25.850324630737305, + "learning_rate": 4.993104902492756e-06, + "loss": 0.4894, + "num_input_tokens_seen": 1088864, + "step": 545 + }, + { + "epoch": 0.07236580516898608, + "grad_norm": 0.18744581937789917, + "learning_rate": 4.993079114248107e-06, + "loss": 0.0009, + "num_input_tokens_seen": 1090264, + "step": 546 + }, + { + "epoch": 0.07249834327369119, + "grad_norm": 6.02025032043457, + "learning_rate": 4.993053277935172e-06, + "loss": 0.1977, + "num_input_tokens_seen": 1092008, + "step": 547 + }, + { + "epoch": 0.0726308813783963, + "grad_norm": 0.32402750849723816, + "learning_rate": 4.99302739355445e-06, + "loss": 0.0014, + "num_input_tokens_seen": 1094192, + "step": 548 + }, + { + "epoch": 0.07276341948310139, + "grad_norm": 3.706557273864746, + "learning_rate": 4.99300146110644e-06, + "loss": 0.0165, + "num_input_tokens_seen": 1095504, + "step": 549 + }, + { + "epoch": 0.0728959575878065, + "grad_norm": 14.554426193237305, + "learning_rate": 4.992975480591643e-06, + "loss": 0.2236, + "num_input_tokens_seen": 1097344, + "step": 550 + }, + { + "epoch": 0.0730284956925116, + "grad_norm": 4.300492763519287, + "learning_rate": 4.992949452010558e-06, + "loss": 0.0587, + "num_input_tokens_seen": 1098792, + "step": 551 + }, + { + "epoch": 0.0731610337972167, + "grad_norm": 0.206004798412323, + "learning_rate": 4.992923375363687e-06, + "loss": 0.001, + "num_input_tokens_seen": 1101152, + "step": 552 + }, + { + "epoch": 0.0732935719019218, + "grad_norm": 0.8021019101142883, + "learning_rate": 4.992897250651535e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1103448, + "step": 553 + }, + { + "epoch": 0.07342611000662691, + "grad_norm": 6.172055244445801, + "learning_rate": 4.992871077874604e-06, + "loss": 0.0726, + "num_input_tokens_seen": 1105240, + "step": 554 + }, + { + "epoch": 0.073558648111332, + "grad_norm": 32.844390869140625, + "learning_rate": 4.992844857033399e-06, + "loss": 0.7557, + "num_input_tokens_seen": 1107952, + "step": 555 + }, + { + "epoch": 0.07369118621603711, + "grad_norm": 16.420387268066406, + "learning_rate": 4.992818588128424e-06, + "loss": 0.2981, + "num_input_tokens_seen": 1109504, + "step": 556 + }, + { + "epoch": 0.07382372432074222, + "grad_norm": 8.786429405212402, + "learning_rate": 4.992792271160189e-06, + "loss": 0.0788, + "num_input_tokens_seen": 1112600, + "step": 557 + }, + { + "epoch": 0.07395626242544731, + "grad_norm": 2.0075364112854004, + "learning_rate": 4.992765906129198e-06, + "loss": 0.0365, + "num_input_tokens_seen": 1114192, + "step": 558 + }, + { + "epoch": 0.07408880053015242, + "grad_norm": 12.34540843963623, + "learning_rate": 4.9927394930359604e-06, + "loss": 0.2806, + "num_input_tokens_seen": 1116328, + "step": 559 + }, + { + "epoch": 0.07422133863485753, + "grad_norm": 1.716313362121582, + "learning_rate": 4.992713031880986e-06, + "loss": 0.0061, + "num_input_tokens_seen": 1117928, + "step": 560 + }, + { + "epoch": 0.07435387673956262, + "grad_norm": 8.74285888671875, + "learning_rate": 4.992686522664785e-06, + "loss": 0.032, + "num_input_tokens_seen": 1119712, + "step": 561 + }, + { + "epoch": 0.07448641484426773, + "grad_norm": 0.0721452385187149, + "learning_rate": 4.992659965387868e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1121688, + "step": 562 + }, + { + "epoch": 0.07461895294897283, + "grad_norm": 12.754493713378906, + "learning_rate": 4.9926333600507484e-06, + "loss": 0.2298, + "num_input_tokens_seen": 1123272, + "step": 563 + }, + { + "epoch": 0.07475149105367793, + "grad_norm": 15.049842834472656, + "learning_rate": 4.992606706653936e-06, + "loss": 0.2616, + "num_input_tokens_seen": 1125256, + "step": 564 + }, + { + "epoch": 0.07488402915838303, + "grad_norm": 18.730566024780273, + "learning_rate": 4.992580005197949e-06, + "loss": 0.4459, + "num_input_tokens_seen": 1127576, + "step": 565 + }, + { + "epoch": 0.07501656726308814, + "grad_norm": 10.277911186218262, + "learning_rate": 4.992553255683298e-06, + "loss": 0.1509, + "num_input_tokens_seen": 1130264, + "step": 566 + }, + { + "epoch": 0.07514910536779323, + "grad_norm": 0.07839662581682205, + "learning_rate": 4.9925264581105015e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1131752, + "step": 567 + }, + { + "epoch": 0.07528164347249834, + "grad_norm": 15.85098648071289, + "learning_rate": 4.992499612480075e-06, + "loss": 0.2329, + "num_input_tokens_seen": 1133176, + "step": 568 + }, + { + "epoch": 0.07541418157720345, + "grad_norm": 0.09915667772293091, + "learning_rate": 4.992472718792537e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1134096, + "step": 569 + }, + { + "epoch": 0.07554671968190854, + "grad_norm": 12.51353931427002, + "learning_rate": 4.992445777048406e-06, + "loss": 0.1673, + "num_input_tokens_seen": 1136064, + "step": 570 + }, + { + "epoch": 0.07567925778661365, + "grad_norm": 0.14763173460960388, + "learning_rate": 4.9924187872482e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1137432, + "step": 571 + }, + { + "epoch": 0.07581179589131876, + "grad_norm": 0.5407018065452576, + "learning_rate": 4.99239174939244e-06, + "loss": 0.0025, + "num_input_tokens_seen": 1139384, + "step": 572 + }, + { + "epoch": 0.07594433399602386, + "grad_norm": 17.991897583007812, + "learning_rate": 4.992364663481649e-06, + "loss": 0.2767, + "num_input_tokens_seen": 1141512, + "step": 573 + }, + { + "epoch": 0.07607687210072896, + "grad_norm": 0.1771698296070099, + "learning_rate": 4.992337529516347e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1143440, + "step": 574 + }, + { + "epoch": 0.07620941020543406, + "grad_norm": 18.083797454833984, + "learning_rate": 4.992310347497058e-06, + "loss": 0.4597, + "num_input_tokens_seen": 1145896, + "step": 575 + }, + { + "epoch": 0.07634194831013917, + "grad_norm": 31.536720275878906, + "learning_rate": 4.992283117424307e-06, + "loss": 1.1379, + "num_input_tokens_seen": 1147712, + "step": 576 + }, + { + "epoch": 0.07647448641484426, + "grad_norm": 13.542040824890137, + "learning_rate": 4.992255839298617e-06, + "loss": 0.3027, + "num_input_tokens_seen": 1150688, + "step": 577 + }, + { + "epoch": 0.07660702451954937, + "grad_norm": 1.3251203298568726, + "learning_rate": 4.9922285131205165e-06, + "loss": 0.0061, + "num_input_tokens_seen": 1153064, + "step": 578 + }, + { + "epoch": 0.07673956262425448, + "grad_norm": 0.8419384360313416, + "learning_rate": 4.99220113889053e-06, + "loss": 0.0106, + "num_input_tokens_seen": 1154960, + "step": 579 + }, + { + "epoch": 0.07687210072895957, + "grad_norm": 21.277334213256836, + "learning_rate": 4.9921737166091854e-06, + "loss": 0.6207, + "num_input_tokens_seen": 1156976, + "step": 580 + }, + { + "epoch": 0.07700463883366468, + "grad_norm": 11.78198528289795, + "learning_rate": 4.992146246277014e-06, + "loss": 0.32, + "num_input_tokens_seen": 1158328, + "step": 581 + }, + { + "epoch": 0.07713717693836979, + "grad_norm": 0.7457808256149292, + "learning_rate": 4.992118727894543e-06, + "loss": 0.0034, + "num_input_tokens_seen": 1159808, + "step": 582 + }, + { + "epoch": 0.07726971504307488, + "grad_norm": 14.351053237915039, + "learning_rate": 4.9920911614623034e-06, + "loss": 0.5199, + "num_input_tokens_seen": 1161808, + "step": 583 + }, + { + "epoch": 0.07740225314777999, + "grad_norm": 17.17698097229004, + "learning_rate": 4.9920635469808274e-06, + "loss": 0.3101, + "num_input_tokens_seen": 1163712, + "step": 584 + }, + { + "epoch": 0.0775347912524851, + "grad_norm": 14.19390869140625, + "learning_rate": 4.992035884450647e-06, + "loss": 0.296, + "num_input_tokens_seen": 1165336, + "step": 585 + }, + { + "epoch": 0.07766732935719019, + "grad_norm": 10.093198776245117, + "learning_rate": 4.992008173872295e-06, + "loss": 0.1378, + "num_input_tokens_seen": 1167368, + "step": 586 + }, + { + "epoch": 0.0777998674618953, + "grad_norm": 19.43902587890625, + "learning_rate": 4.991980415246307e-06, + "loss": 0.2828, + "num_input_tokens_seen": 1169792, + "step": 587 + }, + { + "epoch": 0.0779324055666004, + "grad_norm": 1.6475398540496826, + "learning_rate": 4.9919526085732175e-06, + "loss": 0.0075, + "num_input_tokens_seen": 1171288, + "step": 588 + }, + { + "epoch": 0.0780649436713055, + "grad_norm": 9.919628143310547, + "learning_rate": 4.991924753853562e-06, + "loss": 0.2253, + "num_input_tokens_seen": 1172728, + "step": 589 + }, + { + "epoch": 0.0781974817760106, + "grad_norm": 9.461600303649902, + "learning_rate": 4.991896851087878e-06, + "loss": 0.2042, + "num_input_tokens_seen": 1174664, + "step": 590 + }, + { + "epoch": 0.07833001988071571, + "grad_norm": 0.33462563157081604, + "learning_rate": 4.991868900276705e-06, + "loss": 0.0015, + "num_input_tokens_seen": 1176024, + "step": 591 + }, + { + "epoch": 0.0784625579854208, + "grad_norm": 16.593881607055664, + "learning_rate": 4.991840901420579e-06, + "loss": 0.5138, + "num_input_tokens_seen": 1177640, + "step": 592 + }, + { + "epoch": 0.07859509609012591, + "grad_norm": 3.8829195499420166, + "learning_rate": 4.991812854520043e-06, + "loss": 0.0181, + "num_input_tokens_seen": 1180352, + "step": 593 + }, + { + "epoch": 0.07872763419483102, + "grad_norm": 8.810951232910156, + "learning_rate": 4.991784759575635e-06, + "loss": 0.2146, + "num_input_tokens_seen": 1182048, + "step": 594 + }, + { + "epoch": 0.07886017229953611, + "grad_norm": 13.477286338806152, + "learning_rate": 4.991756616587898e-06, + "loss": 0.1102, + "num_input_tokens_seen": 1183664, + "step": 595 + }, + { + "epoch": 0.07899271040424122, + "grad_norm": 25.641202926635742, + "learning_rate": 4.991728425557375e-06, + "loss": 0.9096, + "num_input_tokens_seen": 1186840, + "step": 596 + }, + { + "epoch": 0.07912524850894632, + "grad_norm": 16.363447189331055, + "learning_rate": 4.991700186484608e-06, + "loss": 0.4999, + "num_input_tokens_seen": 1188680, + "step": 597 + }, + { + "epoch": 0.07925778661365142, + "grad_norm": 0.2997564971446991, + "learning_rate": 4.991671899370143e-06, + "loss": 0.0014, + "num_input_tokens_seen": 1190120, + "step": 598 + }, + { + "epoch": 0.07939032471835653, + "grad_norm": 0.28962504863739014, + "learning_rate": 4.9916435642145245e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1191216, + "step": 599 + }, + { + "epoch": 0.07952286282306163, + "grad_norm": 0.30223163962364197, + "learning_rate": 4.9916151810183e-06, + "loss": 0.0014, + "num_input_tokens_seen": 1192968, + "step": 600 + }, + { + "epoch": 0.07965540092776674, + "grad_norm": 21.49254035949707, + "learning_rate": 4.9915867497820154e-06, + "loss": 0.3617, + "num_input_tokens_seen": 1195656, + "step": 601 + }, + { + "epoch": 0.07978793903247183, + "grad_norm": 13.202689170837402, + "learning_rate": 4.991558270506219e-06, + "loss": 0.0293, + "num_input_tokens_seen": 1197160, + "step": 602 + }, + { + "epoch": 0.07992047713717694, + "grad_norm": 14.31188678741455, + "learning_rate": 4.991529743191461e-06, + "loss": 0.3444, + "num_input_tokens_seen": 1199736, + "step": 603 + }, + { + "epoch": 0.08005301524188205, + "grad_norm": 23.098224639892578, + "learning_rate": 4.991501167838291e-06, + "loss": 0.5607, + "num_input_tokens_seen": 1201960, + "step": 604 + }, + { + "epoch": 0.08018555334658714, + "grad_norm": 13.40975570678711, + "learning_rate": 4.991472544447259e-06, + "loss": 0.1489, + "num_input_tokens_seen": 1203832, + "step": 605 + }, + { + "epoch": 0.08031809145129225, + "grad_norm": 8.271739959716797, + "learning_rate": 4.991443873018917e-06, + "loss": 0.137, + "num_input_tokens_seen": 1207128, + "step": 606 + }, + { + "epoch": 0.08045062955599735, + "grad_norm": 25.32298469543457, + "learning_rate": 4.991415153553819e-06, + "loss": 0.5161, + "num_input_tokens_seen": 1208880, + "step": 607 + }, + { + "epoch": 0.08058316766070245, + "grad_norm": 6.173625469207764, + "learning_rate": 4.991386386052519e-06, + "loss": 0.1023, + "num_input_tokens_seen": 1210880, + "step": 608 + }, + { + "epoch": 0.08071570576540756, + "grad_norm": 4.077023506164551, + "learning_rate": 4.99135757051557e-06, + "loss": 0.0334, + "num_input_tokens_seen": 1212360, + "step": 609 + }, + { + "epoch": 0.08084824387011266, + "grad_norm": 11.888177871704102, + "learning_rate": 4.9913287069435275e-06, + "loss": 0.2108, + "num_input_tokens_seen": 1214440, + "step": 610 + }, + { + "epoch": 0.08098078197481776, + "grad_norm": 0.2590247690677643, + "learning_rate": 4.99129979533695e-06, + "loss": 0.001, + "num_input_tokens_seen": 1216784, + "step": 611 + }, + { + "epoch": 0.08111332007952286, + "grad_norm": 0.09978921711444855, + "learning_rate": 4.991270835696393e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1218104, + "step": 612 + }, + { + "epoch": 0.08124585818422797, + "grad_norm": 28.489778518676758, + "learning_rate": 4.991241828022417e-06, + "loss": 0.5733, + "num_input_tokens_seen": 1219880, + "step": 613 + }, + { + "epoch": 0.08137839628893306, + "grad_norm": 6.184957027435303, + "learning_rate": 4.991212772315579e-06, + "loss": 0.1045, + "num_input_tokens_seen": 1221544, + "step": 614 + }, + { + "epoch": 0.08151093439363817, + "grad_norm": 0.11869768053293228, + "learning_rate": 4.99118366857644e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1223912, + "step": 615 + }, + { + "epoch": 0.08164347249834328, + "grad_norm": 10.143977165222168, + "learning_rate": 4.991154516805562e-06, + "loss": 0.317, + "num_input_tokens_seen": 1226928, + "step": 616 + }, + { + "epoch": 0.08177601060304837, + "grad_norm": 18.1310977935791, + "learning_rate": 4.991125317003506e-06, + "loss": 0.5772, + "num_input_tokens_seen": 1229456, + "step": 617 + }, + { + "epoch": 0.08190854870775348, + "grad_norm": 0.15265947580337524, + "learning_rate": 4.991096069170835e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1230944, + "step": 618 + }, + { + "epoch": 0.08204108681245859, + "grad_norm": 15.075489044189453, + "learning_rate": 4.991066773308113e-06, + "loss": 0.2118, + "num_input_tokens_seen": 1232712, + "step": 619 + }, + { + "epoch": 0.08217362491716368, + "grad_norm": 0.2138608992099762, + "learning_rate": 4.991037429415906e-06, + "loss": 0.001, + "num_input_tokens_seen": 1233984, + "step": 620 + }, + { + "epoch": 0.08230616302186879, + "grad_norm": 9.908183097839355, + "learning_rate": 4.991008037494779e-06, + "loss": 0.2053, + "num_input_tokens_seen": 1235280, + "step": 621 + }, + { + "epoch": 0.0824387011265739, + "grad_norm": 15.478682518005371, + "learning_rate": 4.990978597545297e-06, + "loss": 0.2799, + "num_input_tokens_seen": 1237448, + "step": 622 + }, + { + "epoch": 0.08257123923127899, + "grad_norm": 19.739458084106445, + "learning_rate": 4.9909491095680306e-06, + "loss": 0.4469, + "num_input_tokens_seen": 1239672, + "step": 623 + }, + { + "epoch": 0.0827037773359841, + "grad_norm": 8.118733406066895, + "learning_rate": 4.990919573563546e-06, + "loss": 0.1296, + "num_input_tokens_seen": 1240872, + "step": 624 + }, + { + "epoch": 0.0828363154406892, + "grad_norm": 9.600885391235352, + "learning_rate": 4.990889989532414e-06, + "loss": 0.2823, + "num_input_tokens_seen": 1243056, + "step": 625 + }, + { + "epoch": 0.0829688535453943, + "grad_norm": 21.85724639892578, + "learning_rate": 4.990860357475206e-06, + "loss": 0.4024, + "num_input_tokens_seen": 1245072, + "step": 626 + }, + { + "epoch": 0.0831013916500994, + "grad_norm": 1.1288819313049316, + "learning_rate": 4.9908306773924904e-06, + "loss": 0.0052, + "num_input_tokens_seen": 1246392, + "step": 627 + }, + { + "epoch": 0.08323392975480451, + "grad_norm": 13.654850006103516, + "learning_rate": 4.990800949284842e-06, + "loss": 0.2984, + "num_input_tokens_seen": 1248224, + "step": 628 + }, + { + "epoch": 0.08336646785950962, + "grad_norm": 3.5629279613494873, + "learning_rate": 4.990771173152832e-06, + "loss": 0.0182, + "num_input_tokens_seen": 1249912, + "step": 629 + }, + { + "epoch": 0.08349900596421471, + "grad_norm": 0.7646605968475342, + "learning_rate": 4.990741348997036e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1251288, + "step": 630 + }, + { + "epoch": 0.08363154406891982, + "grad_norm": 27.763885498046875, + "learning_rate": 4.990711476818027e-06, + "loss": 0.5743, + "num_input_tokens_seen": 1253304, + "step": 631 + }, + { + "epoch": 0.08376408217362492, + "grad_norm": 26.014076232910156, + "learning_rate": 4.990681556616385e-06, + "loss": 0.5963, + "num_input_tokens_seen": 1255944, + "step": 632 + }, + { + "epoch": 0.08389662027833002, + "grad_norm": 17.14945411682129, + "learning_rate": 4.990651588392683e-06, + "loss": 0.46, + "num_input_tokens_seen": 1257712, + "step": 633 + }, + { + "epoch": 0.08402915838303512, + "grad_norm": 8.238128662109375, + "learning_rate": 4.990621572147501e-06, + "loss": 0.2309, + "num_input_tokens_seen": 1259400, + "step": 634 + }, + { + "epoch": 0.08416169648774023, + "grad_norm": 17.069917678833008, + "learning_rate": 4.990591507881416e-06, + "loss": 0.5602, + "num_input_tokens_seen": 1261352, + "step": 635 + }, + { + "epoch": 0.08429423459244532, + "grad_norm": 16.171161651611328, + "learning_rate": 4.990561395595008e-06, + "loss": 0.3492, + "num_input_tokens_seen": 1264176, + "step": 636 + }, + { + "epoch": 0.08442677269715043, + "grad_norm": 0.11699037998914719, + "learning_rate": 4.990531235288859e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1266072, + "step": 637 + }, + { + "epoch": 0.08455931080185554, + "grad_norm": 14.559609413146973, + "learning_rate": 4.99050102696355e-06, + "loss": 0.4229, + "num_input_tokens_seen": 1267752, + "step": 638 + }, + { + "epoch": 0.08469184890656063, + "grad_norm": 6.065984725952148, + "learning_rate": 4.9904707706196634e-06, + "loss": 0.1386, + "num_input_tokens_seen": 1269160, + "step": 639 + }, + { + "epoch": 0.08482438701126574, + "grad_norm": 11.977204322814941, + "learning_rate": 4.990440466257781e-06, + "loss": 0.2277, + "num_input_tokens_seen": 1271328, + "step": 640 + }, + { + "epoch": 0.08495692511597085, + "grad_norm": 0.07289767265319824, + "learning_rate": 4.990410113878489e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1272608, + "step": 641 + }, + { + "epoch": 0.08508946322067594, + "grad_norm": 7.814647197723389, + "learning_rate": 4.990379713482372e-06, + "loss": 0.1684, + "num_input_tokens_seen": 1275256, + "step": 642 + }, + { + "epoch": 0.08522200132538105, + "grad_norm": 0.3539038300514221, + "learning_rate": 4.9903492650700155e-06, + "loss": 0.0016, + "num_input_tokens_seen": 1276824, + "step": 643 + }, + { + "epoch": 0.08535453943008615, + "grad_norm": 0.5345784425735474, + "learning_rate": 4.9903187686420076e-06, + "loss": 0.0021, + "num_input_tokens_seen": 1277992, + "step": 644 + }, + { + "epoch": 0.08548707753479125, + "grad_norm": 2.2201688289642334, + "learning_rate": 4.990288224198936e-06, + "loss": 0.0041, + "num_input_tokens_seen": 1279720, + "step": 645 + }, + { + "epoch": 0.08561961563949635, + "grad_norm": 9.425178527832031, + "learning_rate": 4.99025763174139e-06, + "loss": 0.1398, + "num_input_tokens_seen": 1281968, + "step": 646 + }, + { + "epoch": 0.08575215374420146, + "grad_norm": 0.05981895327568054, + "learning_rate": 4.990226991269957e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1283296, + "step": 647 + }, + { + "epoch": 0.08588469184890656, + "grad_norm": 0.1609344780445099, + "learning_rate": 4.990196302785232e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1284600, + "step": 648 + }, + { + "epoch": 0.08601722995361166, + "grad_norm": 0.07702692598104477, + "learning_rate": 4.990165566287803e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1286848, + "step": 649 + }, + { + "epoch": 0.08614976805831677, + "grad_norm": 12.37551498413086, + "learning_rate": 4.990134781778264e-06, + "loss": 0.1459, + "num_input_tokens_seen": 1288568, + "step": 650 + }, + { + "epoch": 0.08628230616302186, + "grad_norm": 19.112503051757812, + "learning_rate": 4.99010394925721e-06, + "loss": 0.2366, + "num_input_tokens_seen": 1290192, + "step": 651 + }, + { + "epoch": 0.08641484426772697, + "grad_norm": 12.018131256103516, + "learning_rate": 4.990073068725232e-06, + "loss": 0.0659, + "num_input_tokens_seen": 1291920, + "step": 652 + }, + { + "epoch": 0.08654738237243208, + "grad_norm": 20.139245986938477, + "learning_rate": 4.990042140182929e-06, + "loss": 0.3819, + "num_input_tokens_seen": 1294288, + "step": 653 + }, + { + "epoch": 0.08667992047713717, + "grad_norm": 0.020606258884072304, + "learning_rate": 4.990011163630894e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1295936, + "step": 654 + }, + { + "epoch": 0.08681245858184228, + "grad_norm": 18.525423049926758, + "learning_rate": 4.9899801390697275e-06, + "loss": 0.5304, + "num_input_tokens_seen": 1298160, + "step": 655 + }, + { + "epoch": 0.08694499668654739, + "grad_norm": 12.277786254882812, + "learning_rate": 4.989949066500026e-06, + "loss": 0.2501, + "num_input_tokens_seen": 1301304, + "step": 656 + }, + { + "epoch": 0.08707753479125248, + "grad_norm": 20.86549949645996, + "learning_rate": 4.989917945922389e-06, + "loss": 0.3786, + "num_input_tokens_seen": 1303488, + "step": 657 + }, + { + "epoch": 0.08721007289595759, + "grad_norm": 16.710758209228516, + "learning_rate": 4.989886777337416e-06, + "loss": 0.2996, + "num_input_tokens_seen": 1306000, + "step": 658 + }, + { + "epoch": 0.08734261100066269, + "grad_norm": 14.10604190826416, + "learning_rate": 4.9898555607457075e-06, + "loss": 0.1954, + "num_input_tokens_seen": 1308600, + "step": 659 + }, + { + "epoch": 0.0874751491053678, + "grad_norm": 6.774168968200684, + "learning_rate": 4.9898242961478675e-06, + "loss": 0.13, + "num_input_tokens_seen": 1310120, + "step": 660 + }, + { + "epoch": 0.0876076872100729, + "grad_norm": 20.237262725830078, + "learning_rate": 4.989792983544496e-06, + "loss": 0.087, + "num_input_tokens_seen": 1312000, + "step": 661 + }, + { + "epoch": 0.087740225314778, + "grad_norm": 9.918155670166016, + "learning_rate": 4.989761622936199e-06, + "loss": 0.0958, + "num_input_tokens_seen": 1314680, + "step": 662 + }, + { + "epoch": 0.08787276341948311, + "grad_norm": 0.10521414130926132, + "learning_rate": 4.9897302143235805e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1316064, + "step": 663 + }, + { + "epoch": 0.0880053015241882, + "grad_norm": 0.02062806487083435, + "learning_rate": 4.989698757707246e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1317280, + "step": 664 + }, + { + "epoch": 0.08813783962889331, + "grad_norm": 7.562278747558594, + "learning_rate": 4.9896672530878004e-06, + "loss": 0.0489, + "num_input_tokens_seen": 1318816, + "step": 665 + }, + { + "epoch": 0.08827037773359842, + "grad_norm": 8.728992462158203, + "learning_rate": 4.989635700465854e-06, + "loss": 0.0293, + "num_input_tokens_seen": 1320984, + "step": 666 + }, + { + "epoch": 0.08840291583830351, + "grad_norm": 19.341419219970703, + "learning_rate": 4.989604099842013e-06, + "loss": 0.535, + "num_input_tokens_seen": 1323600, + "step": 667 + }, + { + "epoch": 0.08853545394300862, + "grad_norm": 3.3183066844940186, + "learning_rate": 4.989572451216888e-06, + "loss": 0.0097, + "num_input_tokens_seen": 1326272, + "step": 668 + }, + { + "epoch": 0.08866799204771372, + "grad_norm": 0.23016738891601562, + "learning_rate": 4.989540754591088e-06, + "loss": 0.0006, + "num_input_tokens_seen": 1327888, + "step": 669 + }, + { + "epoch": 0.08880053015241882, + "grad_norm": 2.326965808868408, + "learning_rate": 4.989509009965226e-06, + "loss": 0.0098, + "num_input_tokens_seen": 1329992, + "step": 670 + }, + { + "epoch": 0.08893306825712392, + "grad_norm": 10.426582336425781, + "learning_rate": 4.989477217339912e-06, + "loss": 0.2614, + "num_input_tokens_seen": 1331000, + "step": 671 + }, + { + "epoch": 0.08906560636182903, + "grad_norm": 14.278281211853027, + "learning_rate": 4.98944537671576e-06, + "loss": 0.488, + "num_input_tokens_seen": 1333088, + "step": 672 + }, + { + "epoch": 0.08919814446653412, + "grad_norm": 12.702383041381836, + "learning_rate": 4.989413488093384e-06, + "loss": 0.2876, + "num_input_tokens_seen": 1334856, + "step": 673 + }, + { + "epoch": 0.08933068257123923, + "grad_norm": 19.054916381835938, + "learning_rate": 4.989381551473399e-06, + "loss": 0.307, + "num_input_tokens_seen": 1336176, + "step": 674 + }, + { + "epoch": 0.08946322067594434, + "grad_norm": 30.507787704467773, + "learning_rate": 4.989349566856419e-06, + "loss": 1.1632, + "num_input_tokens_seen": 1339584, + "step": 675 + }, + { + "epoch": 0.08959575878064943, + "grad_norm": 0.01704728789627552, + "learning_rate": 4.989317534243063e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1342520, + "step": 676 + }, + { + "epoch": 0.08972829688535454, + "grad_norm": 16.835655212402344, + "learning_rate": 4.989285453633948e-06, + "loss": 0.2461, + "num_input_tokens_seen": 1344832, + "step": 677 + }, + { + "epoch": 0.08986083499005965, + "grad_norm": 8.752105712890625, + "learning_rate": 4.989253325029691e-06, + "loss": 0.1929, + "num_input_tokens_seen": 1346968, + "step": 678 + }, + { + "epoch": 0.08999337309476474, + "grad_norm": 9.870306015014648, + "learning_rate": 4.989221148430913e-06, + "loss": 0.1515, + "num_input_tokens_seen": 1349128, + "step": 679 + }, + { + "epoch": 0.09012591119946985, + "grad_norm": 26.429723739624023, + "learning_rate": 4.989188923838235e-06, + "loss": 1.103, + "num_input_tokens_seen": 1351552, + "step": 680 + }, + { + "epoch": 0.09025844930417495, + "grad_norm": 27.696903228759766, + "learning_rate": 4.989156651252276e-06, + "loss": 0.4898, + "num_input_tokens_seen": 1352760, + "step": 681 + }, + { + "epoch": 0.09039098740888005, + "grad_norm": 13.558822631835938, + "learning_rate": 4.989124330673661e-06, + "loss": 0.2836, + "num_input_tokens_seen": 1354720, + "step": 682 + }, + { + "epoch": 0.09052352551358515, + "grad_norm": 9.587841033935547, + "learning_rate": 4.989091962103011e-06, + "loss": 0.1231, + "num_input_tokens_seen": 1356160, + "step": 683 + }, + { + "epoch": 0.09065606361829026, + "grad_norm": 15.322427749633789, + "learning_rate": 4.98905954554095e-06, + "loss": 0.4212, + "num_input_tokens_seen": 1358464, + "step": 684 + }, + { + "epoch": 0.09078860172299535, + "grad_norm": 20.8477783203125, + "learning_rate": 4.9890270809881046e-06, + "loss": 0.2775, + "num_input_tokens_seen": 1360008, + "step": 685 + }, + { + "epoch": 0.09092113982770046, + "grad_norm": 0.48768192529678345, + "learning_rate": 4.9889945684451e-06, + "loss": 0.002, + "num_input_tokens_seen": 1362760, + "step": 686 + }, + { + "epoch": 0.09105367793240557, + "grad_norm": 13.189520835876465, + "learning_rate": 4.988962007912564e-06, + "loss": 0.1808, + "num_input_tokens_seen": 1364992, + "step": 687 + }, + { + "epoch": 0.09118621603711068, + "grad_norm": 9.489797592163086, + "learning_rate": 4.988929399391122e-06, + "loss": 0.175, + "num_input_tokens_seen": 1366232, + "step": 688 + }, + { + "epoch": 0.09131875414181577, + "grad_norm": 12.343358039855957, + "learning_rate": 4.988896742881405e-06, + "loss": 0.1203, + "num_input_tokens_seen": 1367944, + "step": 689 + }, + { + "epoch": 0.09145129224652088, + "grad_norm": 342.6282043457031, + "learning_rate": 4.988864038384041e-06, + "loss": 1.5204, + "num_input_tokens_seen": 1369784, + "step": 690 + }, + { + "epoch": 0.09158383035122598, + "grad_norm": 15.843669891357422, + "learning_rate": 4.988831285899663e-06, + "loss": 0.0256, + "num_input_tokens_seen": 1371432, + "step": 691 + }, + { + "epoch": 0.09171636845593108, + "grad_norm": 2.5344300270080566, + "learning_rate": 4.988798485428898e-06, + "loss": 0.0108, + "num_input_tokens_seen": 1372928, + "step": 692 + }, + { + "epoch": 0.09184890656063618, + "grad_norm": 7.959270000457764, + "learning_rate": 4.9887656369723835e-06, + "loss": 0.297, + "num_input_tokens_seen": 1375088, + "step": 693 + }, + { + "epoch": 0.09198144466534129, + "grad_norm": 15.053533554077148, + "learning_rate": 4.988732740530751e-06, + "loss": 0.3799, + "num_input_tokens_seen": 1376720, + "step": 694 + }, + { + "epoch": 0.09211398277004638, + "grad_norm": 15.338154792785645, + "learning_rate": 4.988699796104632e-06, + "loss": 0.4782, + "num_input_tokens_seen": 1378656, + "step": 695 + }, + { + "epoch": 0.09224652087475149, + "grad_norm": 24.729204177856445, + "learning_rate": 4.988666803694666e-06, + "loss": 0.2049, + "num_input_tokens_seen": 1380128, + "step": 696 + }, + { + "epoch": 0.0923790589794566, + "grad_norm": 9.287247657775879, + "learning_rate": 4.988633763301487e-06, + "loss": 0.1624, + "num_input_tokens_seen": 1381952, + "step": 697 + }, + { + "epoch": 0.09251159708416169, + "grad_norm": 0.44355037808418274, + "learning_rate": 4.988600674925732e-06, + "loss": 0.002, + "num_input_tokens_seen": 1383208, + "step": 698 + }, + { + "epoch": 0.0926441351888668, + "grad_norm": 1.12647545337677, + "learning_rate": 4.988567538568039e-06, + "loss": 0.0045, + "num_input_tokens_seen": 1384728, + "step": 699 + }, + { + "epoch": 0.0927766732935719, + "grad_norm": 13.151799201965332, + "learning_rate": 4.988534354229047e-06, + "loss": 0.0929, + "num_input_tokens_seen": 1386360, + "step": 700 + }, + { + "epoch": 0.092909211398277, + "grad_norm": 53.58653259277344, + "learning_rate": 4.988501121909396e-06, + "loss": 0.2849, + "num_input_tokens_seen": 1389464, + "step": 701 + }, + { + "epoch": 0.09304174950298211, + "grad_norm": 15.320070266723633, + "learning_rate": 4.988467841609727e-06, + "loss": 0.1257, + "num_input_tokens_seen": 1391072, + "step": 702 + }, + { + "epoch": 0.09317428760768721, + "grad_norm": 23.33917999267578, + "learning_rate": 4.988434513330681e-06, + "loss": 0.2425, + "num_input_tokens_seen": 1393744, + "step": 703 + }, + { + "epoch": 0.09330682571239231, + "grad_norm": 20.63372230529785, + "learning_rate": 4.988401137072901e-06, + "loss": 0.39, + "num_input_tokens_seen": 1395936, + "step": 704 + }, + { + "epoch": 0.09343936381709742, + "grad_norm": 15.035074234008789, + "learning_rate": 4.98836771283703e-06, + "loss": 0.5303, + "num_input_tokens_seen": 1397912, + "step": 705 + }, + { + "epoch": 0.09357190192180252, + "grad_norm": 14.882782936096191, + "learning_rate": 4.988334240623713e-06, + "loss": 0.2208, + "num_input_tokens_seen": 1399960, + "step": 706 + }, + { + "epoch": 0.09370444002650762, + "grad_norm": 0.6375334858894348, + "learning_rate": 4.9883007204335956e-06, + "loss": 0.0026, + "num_input_tokens_seen": 1402368, + "step": 707 + }, + { + "epoch": 0.09383697813121272, + "grad_norm": 14.368058204650879, + "learning_rate": 4.988267152267324e-06, + "loss": 0.21, + "num_input_tokens_seen": 1403632, + "step": 708 + }, + { + "epoch": 0.09396951623591783, + "grad_norm": 0.14596626162528992, + "learning_rate": 4.988233536125544e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1405800, + "step": 709 + }, + { + "epoch": 0.09410205434062292, + "grad_norm": 13.29217529296875, + "learning_rate": 4.988199872008906e-06, + "loss": 0.434, + "num_input_tokens_seen": 1408168, + "step": 710 + }, + { + "epoch": 0.09423459244532803, + "grad_norm": 0.041853271424770355, + "learning_rate": 4.988166159918057e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1410112, + "step": 711 + }, + { + "epoch": 0.09436713055003314, + "grad_norm": 14.671149253845215, + "learning_rate": 4.988132399853649e-06, + "loss": 0.4687, + "num_input_tokens_seen": 1412880, + "step": 712 + }, + { + "epoch": 0.09449966865473823, + "grad_norm": 19.114940643310547, + "learning_rate": 4.988098591816332e-06, + "loss": 0.3795, + "num_input_tokens_seen": 1414648, + "step": 713 + }, + { + "epoch": 0.09463220675944334, + "grad_norm": 18.239574432373047, + "learning_rate": 4.988064735806757e-06, + "loss": 0.2361, + "num_input_tokens_seen": 1416168, + "step": 714 + }, + { + "epoch": 0.09476474486414845, + "grad_norm": 28.464008331298828, + "learning_rate": 4.988030831825577e-06, + "loss": 0.4571, + "num_input_tokens_seen": 1418120, + "step": 715 + }, + { + "epoch": 0.09489728296885354, + "grad_norm": 0.10835893452167511, + "learning_rate": 4.9879968798734465e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1420168, + "step": 716 + }, + { + "epoch": 0.09502982107355865, + "grad_norm": 15.603118896484375, + "learning_rate": 4.987962879951021e-06, + "loss": 0.3054, + "num_input_tokens_seen": 1422728, + "step": 717 + }, + { + "epoch": 0.09516235917826375, + "grad_norm": 12.232925415039062, + "learning_rate": 4.987928832058952e-06, + "loss": 0.292, + "num_input_tokens_seen": 1424600, + "step": 718 + }, + { + "epoch": 0.09529489728296886, + "grad_norm": 19.580366134643555, + "learning_rate": 4.987894736197901e-06, + "loss": 0.4345, + "num_input_tokens_seen": 1426968, + "step": 719 + }, + { + "epoch": 0.09542743538767395, + "grad_norm": 546.7924194335938, + "learning_rate": 4.987860592368523e-06, + "loss": 0.6036, + "num_input_tokens_seen": 1430096, + "step": 720 + }, + { + "epoch": 0.09555997349237906, + "grad_norm": 96.1352310180664, + "learning_rate": 4.987826400571476e-06, + "loss": 1.4265, + "num_input_tokens_seen": 1434192, + "step": 721 + }, + { + "epoch": 0.09569251159708417, + "grad_norm": 22.91558265686035, + "learning_rate": 4.98779216080742e-06, + "loss": 0.2517, + "num_input_tokens_seen": 1436480, + "step": 722 + }, + { + "epoch": 0.09582504970178926, + "grad_norm": 56.499263763427734, + "learning_rate": 4.987757873077015e-06, + "loss": 0.1272, + "num_input_tokens_seen": 1437936, + "step": 723 + }, + { + "epoch": 0.09595758780649437, + "grad_norm": 23.61193084716797, + "learning_rate": 4.9877235373809216e-06, + "loss": 0.2669, + "num_input_tokens_seen": 1439720, + "step": 724 + }, + { + "epoch": 0.09609012591119948, + "grad_norm": 23.29979133605957, + "learning_rate": 4.987689153719802e-06, + "loss": 0.5032, + "num_input_tokens_seen": 1442256, + "step": 725 + }, + { + "epoch": 0.09622266401590457, + "grad_norm": 5.512513160705566, + "learning_rate": 4.987654722094321e-06, + "loss": 0.0438, + "num_input_tokens_seen": 1443728, + "step": 726 + }, + { + "epoch": 0.09635520212060968, + "grad_norm": 24.879680633544922, + "learning_rate": 4.987620242505139e-06, + "loss": 0.4635, + "num_input_tokens_seen": 1445640, + "step": 727 + }, + { + "epoch": 0.09648774022531478, + "grad_norm": 11.99130630493164, + "learning_rate": 4.987585714952923e-06, + "loss": 0.1229, + "num_input_tokens_seen": 1447824, + "step": 728 + }, + { + "epoch": 0.09662027833001988, + "grad_norm": 1.627767562866211, + "learning_rate": 4.987551139438339e-06, + "loss": 0.0078, + "num_input_tokens_seen": 1450440, + "step": 729 + }, + { + "epoch": 0.09675281643472498, + "grad_norm": 1.4350247383117676, + "learning_rate": 4.987516515962052e-06, + "loss": 0.0072, + "num_input_tokens_seen": 1452416, + "step": 730 + }, + { + "epoch": 0.09688535453943009, + "grad_norm": 11.842101097106934, + "learning_rate": 4.987481844524731e-06, + "loss": 0.1608, + "num_input_tokens_seen": 1454432, + "step": 731 + }, + { + "epoch": 0.09701789264413518, + "grad_norm": 36.77568054199219, + "learning_rate": 4.987447125127044e-06, + "loss": 1.6341, + "num_input_tokens_seen": 1457456, + "step": 732 + }, + { + "epoch": 0.09715043074884029, + "grad_norm": 16.38068962097168, + "learning_rate": 4.987412357769661e-06, + "loss": 0.1922, + "num_input_tokens_seen": 1459752, + "step": 733 + }, + { + "epoch": 0.0972829688535454, + "grad_norm": 19.159032821655273, + "learning_rate": 4.9873775424532515e-06, + "loss": 0.3839, + "num_input_tokens_seen": 1462136, + "step": 734 + }, + { + "epoch": 0.09741550695825049, + "grad_norm": 15.491409301757812, + "learning_rate": 4.987342679178486e-06, + "loss": 0.366, + "num_input_tokens_seen": 1464608, + "step": 735 + }, + { + "epoch": 0.0975480450629556, + "grad_norm": 12.078960418701172, + "learning_rate": 4.987307767946039e-06, + "loss": 0.3364, + "num_input_tokens_seen": 1467048, + "step": 736 + }, + { + "epoch": 0.0976805831676607, + "grad_norm": 9.48757553100586, + "learning_rate": 4.987272808756581e-06, + "loss": 0.1777, + "num_input_tokens_seen": 1468840, + "step": 737 + }, + { + "epoch": 0.0978131212723658, + "grad_norm": 745.883056640625, + "learning_rate": 4.987237801610788e-06, + "loss": 0.2046, + "num_input_tokens_seen": 1470272, + "step": 738 + }, + { + "epoch": 0.0979456593770709, + "grad_norm": 1.5754197835922241, + "learning_rate": 4.987202746509335e-06, + "loss": 0.0029, + "num_input_tokens_seen": 1471808, + "step": 739 + }, + { + "epoch": 0.09807819748177601, + "grad_norm": 0.10619448125362396, + "learning_rate": 4.9871676434528966e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1473296, + "step": 740 + }, + { + "epoch": 0.09821073558648111, + "grad_norm": 9.894831657409668, + "learning_rate": 4.98713249244215e-06, + "loss": 0.1444, + "num_input_tokens_seen": 1475344, + "step": 741 + }, + { + "epoch": 0.09834327369118621, + "grad_norm": 5.439673900604248, + "learning_rate": 4.987097293477774e-06, + "loss": 0.0632, + "num_input_tokens_seen": 1477456, + "step": 742 + }, + { + "epoch": 0.09847581179589132, + "grad_norm": 20.135883331298828, + "learning_rate": 4.987062046560446e-06, + "loss": 0.5811, + "num_input_tokens_seen": 1479344, + "step": 743 + }, + { + "epoch": 0.09860834990059641, + "grad_norm": 32.169254302978516, + "learning_rate": 4.987026751690845e-06, + "loss": 0.5984, + "num_input_tokens_seen": 1481352, + "step": 744 + }, + { + "epoch": 0.09874088800530152, + "grad_norm": 0.05301506444811821, + "learning_rate": 4.986991408869654e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1484000, + "step": 745 + }, + { + "epoch": 0.09887342611000663, + "grad_norm": 25.11466407775879, + "learning_rate": 4.986956018097552e-06, + "loss": 0.2294, + "num_input_tokens_seen": 1486248, + "step": 746 + }, + { + "epoch": 0.09900596421471174, + "grad_norm": 12.702735900878906, + "learning_rate": 4.986920579375223e-06, + "loss": 0.2259, + "num_input_tokens_seen": 1487488, + "step": 747 + }, + { + "epoch": 0.09913850231941683, + "grad_norm": 9.419434547424316, + "learning_rate": 4.986885092703349e-06, + "loss": 0.1453, + "num_input_tokens_seen": 1490616, + "step": 748 + }, + { + "epoch": 0.09927104042412194, + "grad_norm": 5.48451042175293, + "learning_rate": 4.986849558082615e-06, + "loss": 0.1653, + "num_input_tokens_seen": 1492584, + "step": 749 + }, + { + "epoch": 0.09940357852882704, + "grad_norm": 6.994708061218262, + "learning_rate": 4.986813975513706e-06, + "loss": 0.0853, + "num_input_tokens_seen": 1495160, + "step": 750 + }, + { + "epoch": 0.09953611663353214, + "grad_norm": 14.051322937011719, + "learning_rate": 4.986778344997308e-06, + "loss": 0.3267, + "num_input_tokens_seen": 1497128, + "step": 751 + }, + { + "epoch": 0.09966865473823724, + "grad_norm": 13.732600212097168, + "learning_rate": 4.986742666534108e-06, + "loss": 0.1131, + "num_input_tokens_seen": 1498752, + "step": 752 + }, + { + "epoch": 0.09980119284294235, + "grad_norm": 25.390104293823242, + "learning_rate": 4.986706940124794e-06, + "loss": 0.5778, + "num_input_tokens_seen": 1500480, + "step": 753 + }, + { + "epoch": 0.09993373094764745, + "grad_norm": 14.873355865478516, + "learning_rate": 4.986671165770054e-06, + "loss": 0.252, + "num_input_tokens_seen": 1502464, + "step": 754 + }, + { + "epoch": 0.10006626905235255, + "grad_norm": 16.085914611816406, + "learning_rate": 4.986635343470579e-06, + "loss": 0.2568, + "num_input_tokens_seen": 1504296, + "step": 755 + }, + { + "epoch": 0.10019880715705766, + "grad_norm": 26.34661102294922, + "learning_rate": 4.98659947322706e-06, + "loss": 0.4456, + "num_input_tokens_seen": 1506384, + "step": 756 + }, + { + "epoch": 0.10033134526176275, + "grad_norm": 1.040360927581787, + "learning_rate": 4.986563555040186e-06, + "loss": 0.0054, + "num_input_tokens_seen": 1507712, + "step": 757 + }, + { + "epoch": 0.10046388336646786, + "grad_norm": 42.569305419921875, + "learning_rate": 4.986527588910652e-06, + "loss": 0.5666, + "num_input_tokens_seen": 1511024, + "step": 758 + }, + { + "epoch": 0.10059642147117297, + "grad_norm": 17.265544891357422, + "learning_rate": 4.986491574839151e-06, + "loss": 0.5337, + "num_input_tokens_seen": 1513336, + "step": 759 + }, + { + "epoch": 0.10072895957587806, + "grad_norm": 11.115621566772461, + "learning_rate": 4.986455512826377e-06, + "loss": 0.078, + "num_input_tokens_seen": 1515248, + "step": 760 + }, + { + "epoch": 0.10086149768058317, + "grad_norm": 14.317075729370117, + "learning_rate": 4.986419402873025e-06, + "loss": 0.4713, + "num_input_tokens_seen": 1517360, + "step": 761 + }, + { + "epoch": 0.10099403578528827, + "grad_norm": 10.884073257446289, + "learning_rate": 4.986383244979792e-06, + "loss": 0.0761, + "num_input_tokens_seen": 1519016, + "step": 762 + }, + { + "epoch": 0.10112657388999337, + "grad_norm": 18.775115966796875, + "learning_rate": 4.9863470391473745e-06, + "loss": 0.4286, + "num_input_tokens_seen": 1520384, + "step": 763 + }, + { + "epoch": 0.10125911199469848, + "grad_norm": 4.701003551483154, + "learning_rate": 4.986310785376471e-06, + "loss": 0.0202, + "num_input_tokens_seen": 1521808, + "step": 764 + }, + { + "epoch": 0.10139165009940358, + "grad_norm": 14.515257835388184, + "learning_rate": 4.98627448366778e-06, + "loss": 0.3837, + "num_input_tokens_seen": 1523400, + "step": 765 + }, + { + "epoch": 0.10152418820410868, + "grad_norm": 3.0291593074798584, + "learning_rate": 4.986238134022003e-06, + "loss": 0.0159, + "num_input_tokens_seen": 1525736, + "step": 766 + }, + { + "epoch": 0.10165672630881378, + "grad_norm": 0.7638363242149353, + "learning_rate": 4.986201736439838e-06, + "loss": 0.0034, + "num_input_tokens_seen": 1527536, + "step": 767 + }, + { + "epoch": 0.10178926441351889, + "grad_norm": 1.6707223653793335, + "learning_rate": 4.98616529092199e-06, + "loss": 0.0085, + "num_input_tokens_seen": 1529320, + "step": 768 + }, + { + "epoch": 0.10192180251822398, + "grad_norm": 0.04035111889243126, + "learning_rate": 4.9861287974691594e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1530912, + "step": 769 + }, + { + "epoch": 0.10205434062292909, + "grad_norm": 17.018436431884766, + "learning_rate": 4.98609225608205e-06, + "loss": 0.6156, + "num_input_tokens_seen": 1533232, + "step": 770 + }, + { + "epoch": 0.1021868787276342, + "grad_norm": 20.329517364501953, + "learning_rate": 4.986055666761367e-06, + "loss": 0.6314, + "num_input_tokens_seen": 1534720, + "step": 771 + }, + { + "epoch": 0.10231941683233929, + "grad_norm": 0.01515394076704979, + "learning_rate": 4.986019029507816e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1536128, + "step": 772 + }, + { + "epoch": 0.1024519549370444, + "grad_norm": 0.06699056178331375, + "learning_rate": 4.985982344322103e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1537712, + "step": 773 + }, + { + "epoch": 0.1025844930417495, + "grad_norm": 18.549163818359375, + "learning_rate": 4.985945611204936e-06, + "loss": 0.4909, + "num_input_tokens_seen": 1539952, + "step": 774 + }, + { + "epoch": 0.10271703114645461, + "grad_norm": 15.423291206359863, + "learning_rate": 4.985908830157021e-06, + "loss": 0.4519, + "num_input_tokens_seen": 1542168, + "step": 775 + }, + { + "epoch": 0.1028495692511597, + "grad_norm": 11.36609172821045, + "learning_rate": 4.98587200117907e-06, + "loss": 0.2412, + "num_input_tokens_seen": 1544152, + "step": 776 + }, + { + "epoch": 0.10298210735586481, + "grad_norm": 30.567285537719727, + "learning_rate": 4.985835124271791e-06, + "loss": 0.8359, + "num_input_tokens_seen": 1546608, + "step": 777 + }, + { + "epoch": 0.10311464546056992, + "grad_norm": 15.79310131072998, + "learning_rate": 4.985798199435897e-06, + "loss": 0.4973, + "num_input_tokens_seen": 1549064, + "step": 778 + }, + { + "epoch": 0.10324718356527501, + "grad_norm": 19.374916076660156, + "learning_rate": 4.985761226672099e-06, + "loss": 0.4881, + "num_input_tokens_seen": 1551144, + "step": 779 + }, + { + "epoch": 0.10337972166998012, + "grad_norm": 11.14467716217041, + "learning_rate": 4.985724205981109e-06, + "loss": 0.239, + "num_input_tokens_seen": 1552944, + "step": 780 + }, + { + "epoch": 0.10351225977468523, + "grad_norm": 0.022233571857213974, + "learning_rate": 4.985687137363642e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1554288, + "step": 781 + }, + { + "epoch": 0.10364479787939032, + "grad_norm": 7.771042346954346, + "learning_rate": 4.9856500208204115e-06, + "loss": 0.1592, + "num_input_tokens_seen": 1555704, + "step": 782 + }, + { + "epoch": 0.10377733598409543, + "grad_norm": 19.567974090576172, + "learning_rate": 4.985612856352135e-06, + "loss": 0.4304, + "num_input_tokens_seen": 1557880, + "step": 783 + }, + { + "epoch": 0.10390987408880054, + "grad_norm": 21.69396209716797, + "learning_rate": 4.985575643959526e-06, + "loss": 0.8001, + "num_input_tokens_seen": 1559864, + "step": 784 + }, + { + "epoch": 0.10404241219350563, + "grad_norm": 20.777292251586914, + "learning_rate": 4.985538383643305e-06, + "loss": 0.5572, + "num_input_tokens_seen": 1562088, + "step": 785 + }, + { + "epoch": 0.10417495029821074, + "grad_norm": 0.2171250283718109, + "learning_rate": 4.98550107540419e-06, + "loss": 0.0011, + "num_input_tokens_seen": 1564152, + "step": 786 + }, + { + "epoch": 0.10430748840291584, + "grad_norm": 9.17831039428711, + "learning_rate": 4.985463719242899e-06, + "loss": 0.1282, + "num_input_tokens_seen": 1565840, + "step": 787 + }, + { + "epoch": 0.10444002650762094, + "grad_norm": 19.05247688293457, + "learning_rate": 4.985426315160152e-06, + "loss": 0.2431, + "num_input_tokens_seen": 1568152, + "step": 788 + }, + { + "epoch": 0.10457256461232604, + "grad_norm": 8.950368881225586, + "learning_rate": 4.985388863156672e-06, + "loss": 0.2835, + "num_input_tokens_seen": 1570136, + "step": 789 + }, + { + "epoch": 0.10470510271703115, + "grad_norm": 0.6779446601867676, + "learning_rate": 4.985351363233179e-06, + "loss": 0.0033, + "num_input_tokens_seen": 1571696, + "step": 790 + }, + { + "epoch": 0.10483764082173624, + "grad_norm": 17.873313903808594, + "learning_rate": 4.985313815390399e-06, + "loss": 0.5607, + "num_input_tokens_seen": 1573920, + "step": 791 + }, + { + "epoch": 0.10497017892644135, + "grad_norm": 0.3745076656341553, + "learning_rate": 4.985276219629053e-06, + "loss": 0.002, + "num_input_tokens_seen": 1575376, + "step": 792 + }, + { + "epoch": 0.10510271703114646, + "grad_norm": 21.35468101501465, + "learning_rate": 4.985238575949867e-06, + "loss": 0.4964, + "num_input_tokens_seen": 1576864, + "step": 793 + }, + { + "epoch": 0.10523525513585155, + "grad_norm": 5.856512546539307, + "learning_rate": 4.985200884353567e-06, + "loss": 0.0708, + "num_input_tokens_seen": 1578128, + "step": 794 + }, + { + "epoch": 0.10536779324055666, + "grad_norm": 1.709293007850647, + "learning_rate": 4.9851631448408795e-06, + "loss": 0.0405, + "num_input_tokens_seen": 1580688, + "step": 795 + }, + { + "epoch": 0.10550033134526177, + "grad_norm": 15.964642524719238, + "learning_rate": 4.9851253574125325e-06, + "loss": 0.3801, + "num_input_tokens_seen": 1582144, + "step": 796 + }, + { + "epoch": 0.10563286944996686, + "grad_norm": 11.121831893920898, + "learning_rate": 4.985087522069254e-06, + "loss": 0.2094, + "num_input_tokens_seen": 1584328, + "step": 797 + }, + { + "epoch": 0.10576540755467197, + "grad_norm": 15.89108657836914, + "learning_rate": 4.985049638811773e-06, + "loss": 0.4751, + "num_input_tokens_seen": 1587168, + "step": 798 + }, + { + "epoch": 0.10589794565937707, + "grad_norm": 5.668000221252441, + "learning_rate": 4.985011707640821e-06, + "loss": 0.1316, + "num_input_tokens_seen": 1588960, + "step": 799 + }, + { + "epoch": 0.10603048376408217, + "grad_norm": 11.672808647155762, + "learning_rate": 4.984973728557129e-06, + "loss": 0.1876, + "num_input_tokens_seen": 1590808, + "step": 800 + }, + { + "epoch": 0.10616302186878727, + "grad_norm": 12.616355895996094, + "learning_rate": 4.98493570156143e-06, + "loss": 0.187, + "num_input_tokens_seen": 1593128, + "step": 801 + }, + { + "epoch": 0.10629555997349238, + "grad_norm": 11.747628211975098, + "learning_rate": 4.984897626654455e-06, + "loss": 0.1139, + "num_input_tokens_seen": 1595336, + "step": 802 + }, + { + "epoch": 0.10642809807819748, + "grad_norm": 6.239638805389404, + "learning_rate": 4.98485950383694e-06, + "loss": 0.0484, + "num_input_tokens_seen": 1597000, + "step": 803 + }, + { + "epoch": 0.10656063618290258, + "grad_norm": 14.411937713623047, + "learning_rate": 4.98482133310962e-06, + "loss": 0.2067, + "num_input_tokens_seen": 1599784, + "step": 804 + }, + { + "epoch": 0.10669317428760769, + "grad_norm": 6.464604377746582, + "learning_rate": 4.984783114473231e-06, + "loss": 0.0765, + "num_input_tokens_seen": 1601336, + "step": 805 + }, + { + "epoch": 0.1068257123923128, + "grad_norm": 1.3901069164276123, + "learning_rate": 4.984744847928508e-06, + "loss": 0.0067, + "num_input_tokens_seen": 1602672, + "step": 806 + }, + { + "epoch": 0.10695825049701789, + "grad_norm": 0.6944620013237, + "learning_rate": 4.984706533476191e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1604024, + "step": 807 + }, + { + "epoch": 0.107090788601723, + "grad_norm": 11.79548168182373, + "learning_rate": 4.984668171117017e-06, + "loss": 0.0872, + "num_input_tokens_seen": 1606096, + "step": 808 + }, + { + "epoch": 0.1072233267064281, + "grad_norm": 10.3992919921875, + "learning_rate": 4.984629760851728e-06, + "loss": 0.1345, + "num_input_tokens_seen": 1607272, + "step": 809 + }, + { + "epoch": 0.1073558648111332, + "grad_norm": 7.927424907684326, + "learning_rate": 4.9845913026810624e-06, + "loss": 0.284, + "num_input_tokens_seen": 1609176, + "step": 810 + }, + { + "epoch": 0.1074884029158383, + "grad_norm": 11.217361450195312, + "learning_rate": 4.984552796605762e-06, + "loss": 0.3618, + "num_input_tokens_seen": 1611440, + "step": 811 + }, + { + "epoch": 0.10762094102054341, + "grad_norm": 6.751386642456055, + "learning_rate": 4.98451424262657e-06, + "loss": 0.1044, + "num_input_tokens_seen": 1613256, + "step": 812 + }, + { + "epoch": 0.1077534791252485, + "grad_norm": 7.366720199584961, + "learning_rate": 4.98447564074423e-06, + "loss": 0.1946, + "num_input_tokens_seen": 1615016, + "step": 813 + }, + { + "epoch": 0.10788601722995361, + "grad_norm": 0.077422134578228, + "learning_rate": 4.984436990959486e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1616104, + "step": 814 + }, + { + "epoch": 0.10801855533465872, + "grad_norm": 17.3349666595459, + "learning_rate": 4.9843982932730814e-06, + "loss": 0.507, + "num_input_tokens_seen": 1618336, + "step": 815 + }, + { + "epoch": 0.10815109343936381, + "grad_norm": 12.384060859680176, + "learning_rate": 4.9843595476857655e-06, + "loss": 0.2621, + "num_input_tokens_seen": 1621104, + "step": 816 + }, + { + "epoch": 0.10828363154406892, + "grad_norm": 17.825319290161133, + "learning_rate": 4.984320754198282e-06, + "loss": 0.3285, + "num_input_tokens_seen": 1623584, + "step": 817 + }, + { + "epoch": 0.10841616964877403, + "grad_norm": 2.3461272716522217, + "learning_rate": 4.984281912811382e-06, + "loss": 0.0497, + "num_input_tokens_seen": 1625264, + "step": 818 + }, + { + "epoch": 0.10854870775347912, + "grad_norm": 0.4677661061286926, + "learning_rate": 4.984243023525812e-06, + "loss": 0.0024, + "num_input_tokens_seen": 1627456, + "step": 819 + }, + { + "epoch": 0.10868124585818423, + "grad_norm": 0.0713978111743927, + "learning_rate": 4.984204086342323e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1629088, + "step": 820 + }, + { + "epoch": 0.10881378396288933, + "grad_norm": 38.562618255615234, + "learning_rate": 4.984165101261665e-06, + "loss": 0.5041, + "num_input_tokens_seen": 1631544, + "step": 821 + }, + { + "epoch": 0.10894632206759443, + "grad_norm": 0.06658313423395157, + "learning_rate": 4.984126068284591e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1633848, + "step": 822 + }, + { + "epoch": 0.10907886017229954, + "grad_norm": 0.18257781863212585, + "learning_rate": 4.984086987411852e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1636048, + "step": 823 + }, + { + "epoch": 0.10921139827700464, + "grad_norm": 2.978452205657959, + "learning_rate": 4.984047858644202e-06, + "loss": 0.0551, + "num_input_tokens_seen": 1638800, + "step": 824 + }, + { + "epoch": 0.10934393638170974, + "grad_norm": 0.11380869895219803, + "learning_rate": 4.984008681982396e-06, + "loss": 0.0006, + "num_input_tokens_seen": 1640872, + "step": 825 + }, + { + "epoch": 0.10947647448641484, + "grad_norm": 0.5317994356155396, + "learning_rate": 4.983969457427189e-06, + "loss": 0.0026, + "num_input_tokens_seen": 1642744, + "step": 826 + }, + { + "epoch": 0.10960901259111995, + "grad_norm": 13.86351490020752, + "learning_rate": 4.983930184979338e-06, + "loss": 0.4566, + "num_input_tokens_seen": 1644416, + "step": 827 + }, + { + "epoch": 0.10974155069582504, + "grad_norm": 15.852274894714355, + "learning_rate": 4.983890864639598e-06, + "loss": 0.295, + "num_input_tokens_seen": 1647160, + "step": 828 + }, + { + "epoch": 0.10987408880053015, + "grad_norm": 0.10582073777914047, + "learning_rate": 4.983851496408729e-06, + "loss": 0.0006, + "num_input_tokens_seen": 1648984, + "step": 829 + }, + { + "epoch": 0.11000662690523526, + "grad_norm": 13.638051986694336, + "learning_rate": 4.98381208028749e-06, + "loss": 0.2271, + "num_input_tokens_seen": 1650856, + "step": 830 + }, + { + "epoch": 0.11013916500994035, + "grad_norm": 14.870671272277832, + "learning_rate": 4.983772616276641e-06, + "loss": 0.3975, + "num_input_tokens_seen": 1652480, + "step": 831 + }, + { + "epoch": 0.11027170311464546, + "grad_norm": 0.1878441721200943, + "learning_rate": 4.9837331043769416e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1653672, + "step": 832 + }, + { + "epoch": 0.11040424121935057, + "grad_norm": 0.2929903566837311, + "learning_rate": 4.983693544589155e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1655256, + "step": 833 + }, + { + "epoch": 0.11053677932405567, + "grad_norm": 1.0403456687927246, + "learning_rate": 4.9836539369140434e-06, + "loss": 0.003, + "num_input_tokens_seen": 1658256, + "step": 834 + }, + { + "epoch": 0.11066931742876077, + "grad_norm": 15.563006401062012, + "learning_rate": 4.98361428135237e-06, + "loss": 0.405, + "num_input_tokens_seen": 1661384, + "step": 835 + }, + { + "epoch": 0.11080185553346587, + "grad_norm": 13.409303665161133, + "learning_rate": 4.9835745779049e-06, + "loss": 0.2076, + "num_input_tokens_seen": 1663480, + "step": 836 + }, + { + "epoch": 0.11093439363817098, + "grad_norm": 0.06287132948637009, + "learning_rate": 4.9835348265724e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1665440, + "step": 837 + }, + { + "epoch": 0.11106693174287607, + "grad_norm": 7.390381813049316, + "learning_rate": 4.983495027355634e-06, + "loss": 0.2333, + "num_input_tokens_seen": 1667560, + "step": 838 + }, + { + "epoch": 0.11119946984758118, + "grad_norm": 13.304295539855957, + "learning_rate": 4.983455180255371e-06, + "loss": 0.562, + "num_input_tokens_seen": 1669904, + "step": 839 + }, + { + "epoch": 0.11133200795228629, + "grad_norm": 15.280116081237793, + "learning_rate": 4.983415285272379e-06, + "loss": 0.3232, + "num_input_tokens_seen": 1671944, + "step": 840 + }, + { + "epoch": 0.11146454605699138, + "grad_norm": 21.811206817626953, + "learning_rate": 4.983375342407427e-06, + "loss": 0.8501, + "num_input_tokens_seen": 1674224, + "step": 841 + }, + { + "epoch": 0.11159708416169649, + "grad_norm": 0.05672546476125717, + "learning_rate": 4.983335351661285e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1675736, + "step": 842 + }, + { + "epoch": 0.1117296222664016, + "grad_norm": 0.6553467512130737, + "learning_rate": 4.983295313034725e-06, + "loss": 0.0032, + "num_input_tokens_seen": 1677808, + "step": 843 + }, + { + "epoch": 0.11186216037110669, + "grad_norm": 0.864575982093811, + "learning_rate": 4.9832552265285174e-06, + "loss": 0.0037, + "num_input_tokens_seen": 1679848, + "step": 844 + }, + { + "epoch": 0.1119946984758118, + "grad_norm": 3.7665722370147705, + "learning_rate": 4.983215092143437e-06, + "loss": 0.0919, + "num_input_tokens_seen": 1681832, + "step": 845 + }, + { + "epoch": 0.1121272365805169, + "grad_norm": 7.560515880584717, + "learning_rate": 4.983174909880255e-06, + "loss": 0.1615, + "num_input_tokens_seen": 1683824, + "step": 846 + }, + { + "epoch": 0.112259774685222, + "grad_norm": 9.117321968078613, + "learning_rate": 4.9831346797397485e-06, + "loss": 0.1764, + "num_input_tokens_seen": 1685800, + "step": 847 + }, + { + "epoch": 0.1123923127899271, + "grad_norm": 5.653853416442871, + "learning_rate": 4.983094401722692e-06, + "loss": 0.1085, + "num_input_tokens_seen": 1687336, + "step": 848 + }, + { + "epoch": 0.11252485089463221, + "grad_norm": 0.38787755370140076, + "learning_rate": 4.983054075829863e-06, + "loss": 0.0019, + "num_input_tokens_seen": 1689088, + "step": 849 + }, + { + "epoch": 0.1126573889993373, + "grad_norm": 29.667003631591797, + "learning_rate": 4.983013702062037e-06, + "loss": 0.4131, + "num_input_tokens_seen": 1691560, + "step": 850 + }, + { + "epoch": 0.11278992710404241, + "grad_norm": 23.675508499145508, + "learning_rate": 4.982973280419996e-06, + "loss": 0.4548, + "num_input_tokens_seen": 1692944, + "step": 851 + }, + { + "epoch": 0.11292246520874752, + "grad_norm": 18.625350952148438, + "learning_rate": 4.982932810904516e-06, + "loss": 0.3063, + "num_input_tokens_seen": 1694728, + "step": 852 + }, + { + "epoch": 0.11305500331345261, + "grad_norm": 11.815914154052734, + "learning_rate": 4.9828922935163785e-06, + "loss": 0.3517, + "num_input_tokens_seen": 1697208, + "step": 853 + }, + { + "epoch": 0.11318754141815772, + "grad_norm": 12.923126220703125, + "learning_rate": 4.982851728256365e-06, + "loss": 0.3375, + "num_input_tokens_seen": 1699128, + "step": 854 + }, + { + "epoch": 0.11332007952286283, + "grad_norm": 22.642520904541016, + "learning_rate": 4.982811115125257e-06, + "loss": 0.6115, + "num_input_tokens_seen": 1701200, + "step": 855 + }, + { + "epoch": 0.11345261762756792, + "grad_norm": 23.831607818603516, + "learning_rate": 4.9827704541238385e-06, + "loss": 0.8099, + "num_input_tokens_seen": 1703208, + "step": 856 + }, + { + "epoch": 0.11358515573227303, + "grad_norm": 5.9392547607421875, + "learning_rate": 4.982729745252893e-06, + "loss": 0.0386, + "num_input_tokens_seen": 1704664, + "step": 857 + }, + { + "epoch": 0.11371769383697813, + "grad_norm": 8.692997932434082, + "learning_rate": 4.982688988513205e-06, + "loss": 0.0659, + "num_input_tokens_seen": 1706640, + "step": 858 + }, + { + "epoch": 0.11385023194168323, + "grad_norm": 12.953629493713379, + "learning_rate": 4.98264818390556e-06, + "loss": 0.4667, + "num_input_tokens_seen": 1708560, + "step": 859 + }, + { + "epoch": 0.11398277004638833, + "grad_norm": 1.076991319656372, + "learning_rate": 4.982607331430746e-06, + "loss": 0.0059, + "num_input_tokens_seen": 1709928, + "step": 860 + }, + { + "epoch": 0.11411530815109344, + "grad_norm": 15.592238426208496, + "learning_rate": 4.9825664310895494e-06, + "loss": 0.298, + "num_input_tokens_seen": 1712344, + "step": 861 + }, + { + "epoch": 0.11424784625579854, + "grad_norm": 9.876296043395996, + "learning_rate": 4.98252548288276e-06, + "loss": 0.3059, + "num_input_tokens_seen": 1713992, + "step": 862 + }, + { + "epoch": 0.11438038436050364, + "grad_norm": 0.7367914319038391, + "learning_rate": 4.982484486811166e-06, + "loss": 0.004, + "num_input_tokens_seen": 1715384, + "step": 863 + }, + { + "epoch": 0.11451292246520875, + "grad_norm": 14.256082534790039, + "learning_rate": 4.982443442875559e-06, + "loss": 0.302, + "num_input_tokens_seen": 1717360, + "step": 864 + }, + { + "epoch": 0.11464546056991386, + "grad_norm": 18.457731246948242, + "learning_rate": 4.98240235107673e-06, + "loss": 0.5164, + "num_input_tokens_seen": 1719080, + "step": 865 + }, + { + "epoch": 0.11477799867461895, + "grad_norm": 16.755495071411133, + "learning_rate": 4.9823612114154704e-06, + "loss": 0.1996, + "num_input_tokens_seen": 1721680, + "step": 866 + }, + { + "epoch": 0.11491053677932406, + "grad_norm": 11.11315631866455, + "learning_rate": 4.982320023892575e-06, + "loss": 0.2141, + "num_input_tokens_seen": 1723256, + "step": 867 + }, + { + "epoch": 0.11504307488402916, + "grad_norm": 16.627334594726562, + "learning_rate": 4.982278788508837e-06, + "loss": 0.4186, + "num_input_tokens_seen": 1725144, + "step": 868 + }, + { + "epoch": 0.11517561298873426, + "grad_norm": 0.2547544836997986, + "learning_rate": 4.982237505265051e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1726704, + "step": 869 + }, + { + "epoch": 0.11530815109343936, + "grad_norm": 16.413021087646484, + "learning_rate": 4.982196174162014e-06, + "loss": 0.456, + "num_input_tokens_seen": 1727976, + "step": 870 + }, + { + "epoch": 0.11544068919814447, + "grad_norm": 11.950100898742676, + "learning_rate": 4.982154795200522e-06, + "loss": 0.178, + "num_input_tokens_seen": 1730312, + "step": 871 + }, + { + "epoch": 0.11557322730284957, + "grad_norm": 11.07381534576416, + "learning_rate": 4.9821133683813735e-06, + "loss": 0.191, + "num_input_tokens_seen": 1731576, + "step": 872 + }, + { + "epoch": 0.11570576540755467, + "grad_norm": 12.142051696777344, + "learning_rate": 4.982071893705367e-06, + "loss": 0.4028, + "num_input_tokens_seen": 1733168, + "step": 873 + }, + { + "epoch": 0.11583830351225978, + "grad_norm": 21.12917137145996, + "learning_rate": 4.982030371173302e-06, + "loss": 0.8856, + "num_input_tokens_seen": 1735040, + "step": 874 + }, + { + "epoch": 0.11597084161696487, + "grad_norm": 2.745619773864746, + "learning_rate": 4.981988800785979e-06, + "loss": 0.0097, + "num_input_tokens_seen": 1737032, + "step": 875 + }, + { + "epoch": 0.11610337972166998, + "grad_norm": 16.126264572143555, + "learning_rate": 4.981947182544199e-06, + "loss": 0.3656, + "num_input_tokens_seen": 1738504, + "step": 876 + }, + { + "epoch": 0.11623591782637509, + "grad_norm": 1.384109377861023, + "learning_rate": 4.981905516448766e-06, + "loss": 0.0181, + "num_input_tokens_seen": 1740544, + "step": 877 + }, + { + "epoch": 0.11636845593108018, + "grad_norm": 0.529175341129303, + "learning_rate": 4.981863802500483e-06, + "loss": 0.0027, + "num_input_tokens_seen": 1743152, + "step": 878 + }, + { + "epoch": 0.11650099403578529, + "grad_norm": 22.3206729888916, + "learning_rate": 4.981822040700153e-06, + "loss": 0.6353, + "num_input_tokens_seen": 1745192, + "step": 879 + }, + { + "epoch": 0.1166335321404904, + "grad_norm": 11.981969833374023, + "learning_rate": 4.981780231048582e-06, + "loss": 0.183, + "num_input_tokens_seen": 1746936, + "step": 880 + }, + { + "epoch": 0.11676607024519549, + "grad_norm": 8.657827377319336, + "learning_rate": 4.981738373546575e-06, + "loss": 0.1326, + "num_input_tokens_seen": 1748576, + "step": 881 + }, + { + "epoch": 0.1168986083499006, + "grad_norm": 16.50551414489746, + "learning_rate": 4.981696468194942e-06, + "loss": 0.3783, + "num_input_tokens_seen": 1751376, + "step": 882 + }, + { + "epoch": 0.1170311464546057, + "grad_norm": 31.99459457397461, + "learning_rate": 4.981654514994489e-06, + "loss": 0.7492, + "num_input_tokens_seen": 1753328, + "step": 883 + }, + { + "epoch": 0.1171636845593108, + "grad_norm": 17.236486434936523, + "learning_rate": 4.981612513946024e-06, + "loss": 0.5204, + "num_input_tokens_seen": 1755368, + "step": 884 + }, + { + "epoch": 0.1172962226640159, + "grad_norm": 0.35969194769859314, + "learning_rate": 4.981570465050357e-06, + "loss": 0.0019, + "num_input_tokens_seen": 1757712, + "step": 885 + }, + { + "epoch": 0.11742876076872101, + "grad_norm": 3.8617584705352783, + "learning_rate": 4.981528368308301e-06, + "loss": 0.0712, + "num_input_tokens_seen": 1760288, + "step": 886 + }, + { + "epoch": 0.1175612988734261, + "grad_norm": 19.82040786743164, + "learning_rate": 4.981486223720665e-06, + "loss": 0.2419, + "num_input_tokens_seen": 1762048, + "step": 887 + }, + { + "epoch": 0.11769383697813121, + "grad_norm": 20.818172454833984, + "learning_rate": 4.9814440312882635e-06, + "loss": 0.4932, + "num_input_tokens_seen": 1763880, + "step": 888 + }, + { + "epoch": 0.11782637508283632, + "grad_norm": 9.143793106079102, + "learning_rate": 4.981401791011909e-06, + "loss": 0.0884, + "num_input_tokens_seen": 1766216, + "step": 889 + }, + { + "epoch": 0.11795891318754141, + "grad_norm": 16.558807373046875, + "learning_rate": 4.981359502892416e-06, + "loss": 0.4182, + "num_input_tokens_seen": 1768304, + "step": 890 + }, + { + "epoch": 0.11809145129224652, + "grad_norm": 19.93306541442871, + "learning_rate": 4.9813171669306e-06, + "loss": 0.6198, + "num_input_tokens_seen": 1770912, + "step": 891 + }, + { + "epoch": 0.11822398939695163, + "grad_norm": 16.844219207763672, + "learning_rate": 4.9812747831272775e-06, + "loss": 0.5516, + "num_input_tokens_seen": 1773040, + "step": 892 + }, + { + "epoch": 0.11835652750165673, + "grad_norm": 5.556632041931152, + "learning_rate": 4.981232351483265e-06, + "loss": 0.1735, + "num_input_tokens_seen": 1775560, + "step": 893 + }, + { + "epoch": 0.11848906560636183, + "grad_norm": 12.321590423583984, + "learning_rate": 4.981189871999381e-06, + "loss": 0.231, + "num_input_tokens_seen": 1777696, + "step": 894 + }, + { + "epoch": 0.11862160371106693, + "grad_norm": 8.620399475097656, + "learning_rate": 4.981147344676446e-06, + "loss": 0.2044, + "num_input_tokens_seen": 1778856, + "step": 895 + }, + { + "epoch": 0.11875414181577204, + "grad_norm": 9.742249488830566, + "learning_rate": 4.981104769515277e-06, + "loss": 0.2322, + "num_input_tokens_seen": 1780392, + "step": 896 + }, + { + "epoch": 0.11888667992047713, + "grad_norm": 10.554191589355469, + "learning_rate": 4.981062146516696e-06, + "loss": 0.1007, + "num_input_tokens_seen": 1783336, + "step": 897 + }, + { + "epoch": 0.11901921802518224, + "grad_norm": 5.274407386779785, + "learning_rate": 4.981019475681527e-06, + "loss": 0.0428, + "num_input_tokens_seen": 1785160, + "step": 898 + }, + { + "epoch": 0.11915175612988735, + "grad_norm": 15.795299530029297, + "learning_rate": 4.98097675701059e-06, + "loss": 0.3509, + "num_input_tokens_seen": 1787056, + "step": 899 + }, + { + "epoch": 0.11928429423459244, + "grad_norm": 28.578710556030273, + "learning_rate": 4.9809339905047095e-06, + "loss": 0.5014, + "num_input_tokens_seen": 1788920, + "step": 900 + }, + { + "epoch": 0.11941683233929755, + "grad_norm": 6.704741477966309, + "learning_rate": 4.980891176164711e-06, + "loss": 0.1481, + "num_input_tokens_seen": 1790480, + "step": 901 + }, + { + "epoch": 0.11954937044400266, + "grad_norm": 6.743203163146973, + "learning_rate": 4.980848313991417e-06, + "loss": 0.1238, + "num_input_tokens_seen": 1792296, + "step": 902 + }, + { + "epoch": 0.11968190854870775, + "grad_norm": 8.272367477416992, + "learning_rate": 4.9808054039856575e-06, + "loss": 0.1913, + "num_input_tokens_seen": 1794040, + "step": 903 + }, + { + "epoch": 0.11981444665341286, + "grad_norm": 1.7441437244415283, + "learning_rate": 4.980762446148259e-06, + "loss": 0.0095, + "num_input_tokens_seen": 1795320, + "step": 904 + }, + { + "epoch": 0.11994698475811796, + "grad_norm": 12.581842422485352, + "learning_rate": 4.980719440480048e-06, + "loss": 0.1067, + "num_input_tokens_seen": 1796400, + "step": 905 + }, + { + "epoch": 0.12007952286282306, + "grad_norm": 1.9570139646530151, + "learning_rate": 4.980676386981856e-06, + "loss": 0.0104, + "num_input_tokens_seen": 1798608, + "step": 906 + }, + { + "epoch": 0.12021206096752816, + "grad_norm": 2.0020437240600586, + "learning_rate": 4.980633285654511e-06, + "loss": 0.0088, + "num_input_tokens_seen": 1801216, + "step": 907 + }, + { + "epoch": 0.12034459907223327, + "grad_norm": 0.8369412422180176, + "learning_rate": 4.980590136498845e-06, + "loss": 0.0043, + "num_input_tokens_seen": 1803376, + "step": 908 + }, + { + "epoch": 0.12047713717693836, + "grad_norm": 0.9324873685836792, + "learning_rate": 4.98054693951569e-06, + "loss": 0.0046, + "num_input_tokens_seen": 1805384, + "step": 909 + }, + { + "epoch": 0.12060967528164347, + "grad_norm": 16.33839988708496, + "learning_rate": 4.980503694705879e-06, + "loss": 0.3225, + "num_input_tokens_seen": 1807768, + "step": 910 + }, + { + "epoch": 0.12074221338634858, + "grad_norm": 15.873828887939453, + "learning_rate": 4.9804604020702454e-06, + "loss": 0.4233, + "num_input_tokens_seen": 1809320, + "step": 911 + }, + { + "epoch": 0.12087475149105367, + "grad_norm": 9.458096504211426, + "learning_rate": 4.980417061609625e-06, + "loss": 0.0929, + "num_input_tokens_seen": 1811576, + "step": 912 + }, + { + "epoch": 0.12100728959575878, + "grad_norm": 13.18581771850586, + "learning_rate": 4.980373673324851e-06, + "loss": 0.2054, + "num_input_tokens_seen": 1813992, + "step": 913 + }, + { + "epoch": 0.12113982770046389, + "grad_norm": 0.03155744820833206, + "learning_rate": 4.9803302372167615e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1816104, + "step": 914 + }, + { + "epoch": 0.12127236580516898, + "grad_norm": 0.042727030813694, + "learning_rate": 4.980286753286196e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1818056, + "step": 915 + }, + { + "epoch": 0.12140490390987409, + "grad_norm": 2.7886788845062256, + "learning_rate": 4.980243221533988e-06, + "loss": 0.0989, + "num_input_tokens_seen": 1819312, + "step": 916 + }, + { + "epoch": 0.1215374420145792, + "grad_norm": 0.07936962693929672, + "learning_rate": 4.980199641960981e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1820712, + "step": 917 + }, + { + "epoch": 0.12166998011928429, + "grad_norm": 11.05478572845459, + "learning_rate": 4.980156014568014e-06, + "loss": 0.2817, + "num_input_tokens_seen": 1822568, + "step": 918 + }, + { + "epoch": 0.1218025182239894, + "grad_norm": 13.562288284301758, + "learning_rate": 4.980112339355928e-06, + "loss": 0.189, + "num_input_tokens_seen": 1825920, + "step": 919 + }, + { + "epoch": 0.1219350563286945, + "grad_norm": 19.410114288330078, + "learning_rate": 4.980068616325565e-06, + "loss": 0.2246, + "num_input_tokens_seen": 1828048, + "step": 920 + }, + { + "epoch": 0.1220675944333996, + "grad_norm": 20.214387893676758, + "learning_rate": 4.980024845477769e-06, + "loss": 0.8152, + "num_input_tokens_seen": 1830496, + "step": 921 + }, + { + "epoch": 0.1222001325381047, + "grad_norm": 19.170421600341797, + "learning_rate": 4.979981026813382e-06, + "loss": 0.5857, + "num_input_tokens_seen": 1833752, + "step": 922 + }, + { + "epoch": 0.12233267064280981, + "grad_norm": 20.561349868774414, + "learning_rate": 4.97993716033325e-06, + "loss": 0.3535, + "num_input_tokens_seen": 1836312, + "step": 923 + }, + { + "epoch": 0.12246520874751492, + "grad_norm": 16.416982650756836, + "learning_rate": 4.979893246038219e-06, + "loss": 0.2581, + "num_input_tokens_seen": 1839752, + "step": 924 + }, + { + "epoch": 0.12259774685222001, + "grad_norm": 0.01307649165391922, + "learning_rate": 4.979849283929135e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1840872, + "step": 925 + }, + { + "epoch": 0.12273028495692512, + "grad_norm": 9.902410507202148, + "learning_rate": 4.979805274006847e-06, + "loss": 0.2249, + "num_input_tokens_seen": 1843648, + "step": 926 + }, + { + "epoch": 0.12286282306163022, + "grad_norm": 17.429828643798828, + "learning_rate": 4.979761216272202e-06, + "loss": 0.1367, + "num_input_tokens_seen": 1845304, + "step": 927 + }, + { + "epoch": 0.12299536116633532, + "grad_norm": 19.342809677124023, + "learning_rate": 4.97971711072605e-06, + "loss": 0.3836, + "num_input_tokens_seen": 1847072, + "step": 928 + }, + { + "epoch": 0.12312789927104043, + "grad_norm": 6.875079154968262, + "learning_rate": 4.979672957369242e-06, + "loss": 0.0226, + "num_input_tokens_seen": 1848416, + "step": 929 + }, + { + "epoch": 0.12326043737574553, + "grad_norm": 28.68491554260254, + "learning_rate": 4.979628756202628e-06, + "loss": 0.4527, + "num_input_tokens_seen": 1850944, + "step": 930 + }, + { + "epoch": 0.12339297548045063, + "grad_norm": 19.466541290283203, + "learning_rate": 4.979584507227062e-06, + "loss": 0.4791, + "num_input_tokens_seen": 1852864, + "step": 931 + }, + { + "epoch": 0.12352551358515573, + "grad_norm": 0.02839178964495659, + "learning_rate": 4.979540210443396e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1854928, + "step": 932 + }, + { + "epoch": 0.12365805168986084, + "grad_norm": 11.732213973999023, + "learning_rate": 4.979495865852483e-06, + "loss": 0.0857, + "num_input_tokens_seen": 1856592, + "step": 933 + }, + { + "epoch": 0.12379058979456593, + "grad_norm": 8.966989517211914, + "learning_rate": 4.979451473455179e-06, + "loss": 0.1056, + "num_input_tokens_seen": 1858192, + "step": 934 + }, + { + "epoch": 0.12392312789927104, + "grad_norm": 29.38459014892578, + "learning_rate": 4.979407033252342e-06, + "loss": 0.7006, + "num_input_tokens_seen": 1861032, + "step": 935 + }, + { + "epoch": 0.12405566600397615, + "grad_norm": 14.765287399291992, + "learning_rate": 4.979362545244825e-06, + "loss": 0.2784, + "num_input_tokens_seen": 1862640, + "step": 936 + }, + { + "epoch": 0.12418820410868124, + "grad_norm": 16.24656105041504, + "learning_rate": 4.979318009433489e-06, + "loss": 0.2565, + "num_input_tokens_seen": 1864392, + "step": 937 + }, + { + "epoch": 0.12432074221338635, + "grad_norm": 7.147797584533691, + "learning_rate": 4.979273425819191e-06, + "loss": 0.1088, + "num_input_tokens_seen": 1866104, + "step": 938 + }, + { + "epoch": 0.12445328031809146, + "grad_norm": 19.232332229614258, + "learning_rate": 4.979228794402791e-06, + "loss": 0.4301, + "num_input_tokens_seen": 1868016, + "step": 939 + }, + { + "epoch": 0.12458581842279655, + "grad_norm": 10.900642395019531, + "learning_rate": 4.979184115185149e-06, + "loss": 0.0946, + "num_input_tokens_seen": 1870328, + "step": 940 + }, + { + "epoch": 0.12471835652750166, + "grad_norm": 12.264572143554688, + "learning_rate": 4.979139388167128e-06, + "loss": 0.0838, + "num_input_tokens_seen": 1871640, + "step": 941 + }, + { + "epoch": 0.12485089463220676, + "grad_norm": 5.650241851806641, + "learning_rate": 4.9790946133495884e-06, + "loss": 0.0336, + "num_input_tokens_seen": 1873160, + "step": 942 + }, + { + "epoch": 0.12498343273691186, + "grad_norm": 22.28797149658203, + "learning_rate": 4.979049790733395e-06, + "loss": 0.3869, + "num_input_tokens_seen": 1874480, + "step": 943 + }, + { + "epoch": 0.12511597084161696, + "grad_norm": 15.541543006896973, + "learning_rate": 4.97900492031941e-06, + "loss": 0.2555, + "num_input_tokens_seen": 1876344, + "step": 944 + }, + { + "epoch": 0.12524850894632206, + "grad_norm": 32.305545806884766, + "learning_rate": 4.978960002108502e-06, + "loss": 0.3528, + "num_input_tokens_seen": 1879096, + "step": 945 + }, + { + "epoch": 0.12538104705102718, + "grad_norm": 15.09549617767334, + "learning_rate": 4.978915036101534e-06, + "loss": 0.327, + "num_input_tokens_seen": 1880960, + "step": 946 + }, + { + "epoch": 0.12551358515573227, + "grad_norm": 18.13591957092285, + "learning_rate": 4.978870022299374e-06, + "loss": 0.6034, + "num_input_tokens_seen": 1883112, + "step": 947 + }, + { + "epoch": 0.12564612326043736, + "grad_norm": 11.852300643920898, + "learning_rate": 4.97882496070289e-06, + "loss": 0.2273, + "num_input_tokens_seen": 1884448, + "step": 948 + }, + { + "epoch": 0.12577866136514249, + "grad_norm": 20.35089874267578, + "learning_rate": 4.978779851312951e-06, + "loss": 0.2672, + "num_input_tokens_seen": 1886368, + "step": 949 + }, + { + "epoch": 0.12591119946984758, + "grad_norm": 8.971364974975586, + "learning_rate": 4.978734694130426e-06, + "loss": 0.196, + "num_input_tokens_seen": 1889032, + "step": 950 + }, + { + "epoch": 0.12604373757455267, + "grad_norm": 3.7292568683624268, + "learning_rate": 4.978689489156187e-06, + "loss": 0.0767, + "num_input_tokens_seen": 1891576, + "step": 951 + }, + { + "epoch": 0.1261762756792578, + "grad_norm": 0.7282701134681702, + "learning_rate": 4.978644236391104e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1892776, + "step": 952 + }, + { + "epoch": 0.1263088137839629, + "grad_norm": 1.57236647605896, + "learning_rate": 4.97859893583605e-06, + "loss": 0.0073, + "num_input_tokens_seen": 1894352, + "step": 953 + }, + { + "epoch": 0.12644135188866798, + "grad_norm": 16.642669677734375, + "learning_rate": 4.978553587491899e-06, + "loss": 0.4573, + "num_input_tokens_seen": 1896568, + "step": 954 + }, + { + "epoch": 0.1265738899933731, + "grad_norm": 1.8103134632110596, + "learning_rate": 4.9785081913595244e-06, + "loss": 0.0096, + "num_input_tokens_seen": 1898272, + "step": 955 + }, + { + "epoch": 0.1267064280980782, + "grad_norm": 1.0839422941207886, + "learning_rate": 4.978462747439802e-06, + "loss": 0.0058, + "num_input_tokens_seen": 1901432, + "step": 956 + }, + { + "epoch": 0.1268389662027833, + "grad_norm": 0.35691606998443604, + "learning_rate": 4.9784172557336085e-06, + "loss": 0.0018, + "num_input_tokens_seen": 1903728, + "step": 957 + }, + { + "epoch": 0.1269715043074884, + "grad_norm": 0.2396673709154129, + "learning_rate": 4.97837171624182e-06, + "loss": 0.0012, + "num_input_tokens_seen": 1905568, + "step": 958 + }, + { + "epoch": 0.1271040424121935, + "grad_norm": 14.472853660583496, + "learning_rate": 4.978326128965316e-06, + "loss": 0.2768, + "num_input_tokens_seen": 1907928, + "step": 959 + }, + { + "epoch": 0.1272365805168986, + "grad_norm": 0.017154300585389137, + "learning_rate": 4.978280493904974e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1909240, + "step": 960 + }, + { + "epoch": 0.12736911862160372, + "grad_norm": 26.194080352783203, + "learning_rate": 4.978234811061674e-06, + "loss": 0.9594, + "num_input_tokens_seen": 1910848, + "step": 961 + }, + { + "epoch": 0.1275016567263088, + "grad_norm": 0.018787138164043427, + "learning_rate": 4.978189080436298e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1912712, + "step": 962 + }, + { + "epoch": 0.1276341948310139, + "grad_norm": 17.589214324951172, + "learning_rate": 4.978143302029726e-06, + "loss": 0.5851, + "num_input_tokens_seen": 1915472, + "step": 963 + }, + { + "epoch": 0.12776673293571902, + "grad_norm": 0.18589110672473907, + "learning_rate": 4.978097475842843e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1918640, + "step": 964 + }, + { + "epoch": 0.12789927104042412, + "grad_norm": 6.767877578735352, + "learning_rate": 4.97805160187653e-06, + "loss": 0.2474, + "num_input_tokens_seen": 1921496, + "step": 965 + }, + { + "epoch": 0.12803180914512924, + "grad_norm": 15.221022605895996, + "learning_rate": 4.978005680131672e-06, + "loss": 0.435, + "num_input_tokens_seen": 1923384, + "step": 966 + }, + { + "epoch": 0.12816434724983433, + "grad_norm": 7.466868877410889, + "learning_rate": 4.977959710609156e-06, + "loss": 0.1878, + "num_input_tokens_seen": 1926368, + "step": 967 + }, + { + "epoch": 0.12829688535453942, + "grad_norm": 21.889080047607422, + "learning_rate": 4.977913693309867e-06, + "loss": 0.8215, + "num_input_tokens_seen": 1928536, + "step": 968 + }, + { + "epoch": 0.12842942345924455, + "grad_norm": 0.02951613999903202, + "learning_rate": 4.9778676282346935e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1930192, + "step": 969 + }, + { + "epoch": 0.12856196156394964, + "grad_norm": 17.272552490234375, + "learning_rate": 4.977821515384522e-06, + "loss": 0.4763, + "num_input_tokens_seen": 1932088, + "step": 970 + }, + { + "epoch": 0.12869449966865473, + "grad_norm": 4.174117565155029, + "learning_rate": 4.977775354760241e-06, + "loss": 0.1649, + "num_input_tokens_seen": 1935352, + "step": 971 + }, + { + "epoch": 0.12882703777335985, + "grad_norm": 11.728879928588867, + "learning_rate": 4.977729146362744e-06, + "loss": 0.2765, + "num_input_tokens_seen": 1936928, + "step": 972 + }, + { + "epoch": 0.12895957587806495, + "grad_norm": 10.122467041015625, + "learning_rate": 4.977682890192919e-06, + "loss": 0.2682, + "num_input_tokens_seen": 1939032, + "step": 973 + }, + { + "epoch": 0.12909211398277004, + "grad_norm": 20.24359130859375, + "learning_rate": 4.9776365862516585e-06, + "loss": 0.3167, + "num_input_tokens_seen": 1940704, + "step": 974 + }, + { + "epoch": 0.12922465208747516, + "grad_norm": 15.037644386291504, + "learning_rate": 4.977590234539855e-06, + "loss": 0.3133, + "num_input_tokens_seen": 1942472, + "step": 975 + }, + { + "epoch": 0.12935719019218025, + "grad_norm": 0.871199369430542, + "learning_rate": 4.977543835058403e-06, + "loss": 0.0047, + "num_input_tokens_seen": 1943720, + "step": 976 + }, + { + "epoch": 0.12948972829688535, + "grad_norm": 10.860332489013672, + "learning_rate": 4.977497387808197e-06, + "loss": 0.3642, + "num_input_tokens_seen": 1945920, + "step": 977 + }, + { + "epoch": 0.12962226640159047, + "grad_norm": 12.183349609375, + "learning_rate": 4.977450892790131e-06, + "loss": 0.3583, + "num_input_tokens_seen": 1947984, + "step": 978 + }, + { + "epoch": 0.12975480450629556, + "grad_norm": 11.729555130004883, + "learning_rate": 4.977404350005104e-06, + "loss": 0.159, + "num_input_tokens_seen": 1950904, + "step": 979 + }, + { + "epoch": 0.12988734261100066, + "grad_norm": 0.8721858263015747, + "learning_rate": 4.977357759454011e-06, + "loss": 0.0049, + "num_input_tokens_seen": 1951912, + "step": 980 + }, + { + "epoch": 0.13001988071570578, + "grad_norm": 16.194427490234375, + "learning_rate": 4.977311121137752e-06, + "loss": 0.4528, + "num_input_tokens_seen": 1953840, + "step": 981 + }, + { + "epoch": 0.13015241882041087, + "grad_norm": 23.044219970703125, + "learning_rate": 4.977264435057226e-06, + "loss": 0.6483, + "num_input_tokens_seen": 1956032, + "step": 982 + }, + { + "epoch": 0.13028495692511596, + "grad_norm": 5.177922248840332, + "learning_rate": 4.977217701213332e-06, + "loss": 0.0912, + "num_input_tokens_seen": 1958464, + "step": 983 + }, + { + "epoch": 0.13041749502982108, + "grad_norm": 9.338175773620605, + "learning_rate": 4.9771709196069716e-06, + "loss": 0.166, + "num_input_tokens_seen": 1961120, + "step": 984 + }, + { + "epoch": 0.13055003313452618, + "grad_norm": 1.4829189777374268, + "learning_rate": 4.977124090239048e-06, + "loss": 0.008, + "num_input_tokens_seen": 1963200, + "step": 985 + }, + { + "epoch": 0.13068257123923127, + "grad_norm": 5.258603096008301, + "learning_rate": 4.977077213110462e-06, + "loss": 0.0914, + "num_input_tokens_seen": 1964400, + "step": 986 + }, + { + "epoch": 0.1308151093439364, + "grad_norm": 16.36634635925293, + "learning_rate": 4.977030288222119e-06, + "loss": 0.3669, + "num_input_tokens_seen": 1966760, + "step": 987 + }, + { + "epoch": 0.13094764744864149, + "grad_norm": 9.772537231445312, + "learning_rate": 4.976983315574923e-06, + "loss": 0.3577, + "num_input_tokens_seen": 1968784, + "step": 988 + }, + { + "epoch": 0.13108018555334658, + "grad_norm": 14.790483474731445, + "learning_rate": 4.97693629516978e-06, + "loss": 0.4724, + "num_input_tokens_seen": 1971256, + "step": 989 + }, + { + "epoch": 0.1312127236580517, + "grad_norm": 6.397546291351318, + "learning_rate": 4.976889227007597e-06, + "loss": 0.0896, + "num_input_tokens_seen": 1973680, + "step": 990 + }, + { + "epoch": 0.1313452617627568, + "grad_norm": 10.71539306640625, + "learning_rate": 4.97684211108928e-06, + "loss": 0.3719, + "num_input_tokens_seen": 1976496, + "step": 991 + }, + { + "epoch": 0.1314777998674619, + "grad_norm": 17.441057205200195, + "learning_rate": 4.976794947415739e-06, + "loss": 0.2989, + "num_input_tokens_seen": 1978144, + "step": 992 + }, + { + "epoch": 0.131610337972167, + "grad_norm": 7.96646785736084, + "learning_rate": 4.976747735987882e-06, + "loss": 0.2642, + "num_input_tokens_seen": 1980192, + "step": 993 + }, + { + "epoch": 0.1317428760768721, + "grad_norm": 0.7479077577590942, + "learning_rate": 4.976700476806622e-06, + "loss": 0.0041, + "num_input_tokens_seen": 1981616, + "step": 994 + }, + { + "epoch": 0.1318754141815772, + "grad_norm": 6.590865135192871, + "learning_rate": 4.976653169872866e-06, + "loss": 0.0968, + "num_input_tokens_seen": 1983648, + "step": 995 + }, + { + "epoch": 0.13200795228628232, + "grad_norm": 4.6522135734558105, + "learning_rate": 4.976605815187529e-06, + "loss": 0.0313, + "num_input_tokens_seen": 1985560, + "step": 996 + }, + { + "epoch": 0.1321404903909874, + "grad_norm": 0.715999186038971, + "learning_rate": 4.976558412751524e-06, + "loss": 0.0039, + "num_input_tokens_seen": 1987096, + "step": 997 + }, + { + "epoch": 0.1322730284956925, + "grad_norm": 0.8746582269668579, + "learning_rate": 4.976510962565764e-06, + "loss": 0.0045, + "num_input_tokens_seen": 1989448, + "step": 998 + }, + { + "epoch": 0.13240556660039762, + "grad_norm": 1.1189825534820557, + "learning_rate": 4.976463464631164e-06, + "loss": 0.0059, + "num_input_tokens_seen": 1991608, + "step": 999 + }, + { + "epoch": 0.13253810470510272, + "grad_norm": 9.288385391235352, + "learning_rate": 4.97641591894864e-06, + "loss": 0.1396, + "num_input_tokens_seen": 1993440, + "step": 1000 + }, + { + "epoch": 0.1326706428098078, + "grad_norm": 0.09776676446199417, + "learning_rate": 4.976368325519109e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1994544, + "step": 1001 + }, + { + "epoch": 0.13280318091451293, + "grad_norm": 3.845468044281006, + "learning_rate": 4.976320684343488e-06, + "loss": 0.0441, + "num_input_tokens_seen": 1995920, + "step": 1002 + }, + { + "epoch": 0.13293571901921802, + "grad_norm": 0.11025694757699966, + "learning_rate": 4.976272995422696e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1996984, + "step": 1003 + }, + { + "epoch": 0.13306825712392312, + "grad_norm": 12.400800704956055, + "learning_rate": 4.976225258757652e-06, + "loss": 0.3215, + "num_input_tokens_seen": 1999408, + "step": 1004 + }, + { + "epoch": 0.13320079522862824, + "grad_norm": 0.1854807734489441, + "learning_rate": 4.9761774743492776e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2000664, + "step": 1005 + }, + { + "epoch": 0.13333333333333333, + "grad_norm": 0.0483243502676487, + "learning_rate": 4.976129642198492e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2002536, + "step": 1006 + }, + { + "epoch": 0.13346587143803842, + "grad_norm": 14.460874557495117, + "learning_rate": 4.9760817623062196e-06, + "loss": 0.2247, + "num_input_tokens_seen": 2004744, + "step": 1007 + }, + { + "epoch": 0.13359840954274355, + "grad_norm": 34.594844818115234, + "learning_rate": 4.976033834673383e-06, + "loss": 0.8309, + "num_input_tokens_seen": 2006888, + "step": 1008 + }, + { + "epoch": 0.13373094764744864, + "grad_norm": 14.689656257629395, + "learning_rate": 4.975985859300905e-06, + "loss": 0.3425, + "num_input_tokens_seen": 2008976, + "step": 1009 + }, + { + "epoch": 0.13386348575215373, + "grad_norm": 17.404752731323242, + "learning_rate": 4.975937836189712e-06, + "loss": 0.6832, + "num_input_tokens_seen": 2010720, + "step": 1010 + }, + { + "epoch": 0.13399602385685885, + "grad_norm": 11.40569019317627, + "learning_rate": 4.975889765340729e-06, + "loss": 0.2868, + "num_input_tokens_seen": 2012408, + "step": 1011 + }, + { + "epoch": 0.13412856196156395, + "grad_norm": 11.377372741699219, + "learning_rate": 4.975841646754885e-06, + "loss": 0.3469, + "num_input_tokens_seen": 2014008, + "step": 1012 + }, + { + "epoch": 0.13426110006626904, + "grad_norm": 14.436957359313965, + "learning_rate": 4.975793480433104e-06, + "loss": 0.3232, + "num_input_tokens_seen": 2016552, + "step": 1013 + }, + { + "epoch": 0.13439363817097416, + "grad_norm": 0.0989784449338913, + "learning_rate": 4.975745266376317e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2018104, + "step": 1014 + }, + { + "epoch": 0.13452617627567925, + "grad_norm": 0.02434745617210865, + "learning_rate": 4.975697004585455e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2019352, + "step": 1015 + }, + { + "epoch": 0.13465871438038435, + "grad_norm": 0.17050907015800476, + "learning_rate": 4.975648695061445e-06, + "loss": 0.0008, + "num_input_tokens_seen": 2021000, + "step": 1016 + }, + { + "epoch": 0.13479125248508947, + "grad_norm": 15.06557559967041, + "learning_rate": 4.975600337805221e-06, + "loss": 0.3678, + "num_input_tokens_seen": 2023184, + "step": 1017 + }, + { + "epoch": 0.13492379058979456, + "grad_norm": 5.201245307922363, + "learning_rate": 4.9755519328177146e-06, + "loss": 0.0711, + "num_input_tokens_seen": 2024728, + "step": 1018 + }, + { + "epoch": 0.13505632869449966, + "grad_norm": 8.9242582321167, + "learning_rate": 4.975503480099859e-06, + "loss": 0.208, + "num_input_tokens_seen": 2027088, + "step": 1019 + }, + { + "epoch": 0.13518886679920478, + "grad_norm": 20.803049087524414, + "learning_rate": 4.975454979652589e-06, + "loss": 0.6699, + "num_input_tokens_seen": 2028744, + "step": 1020 + }, + { + "epoch": 0.13532140490390987, + "grad_norm": 6.726044654846191, + "learning_rate": 4.975406431476839e-06, + "loss": 0.1754, + "num_input_tokens_seen": 2030448, + "step": 1021 + }, + { + "epoch": 0.13545394300861496, + "grad_norm": 15.010723114013672, + "learning_rate": 4.975357835573546e-06, + "loss": 0.257, + "num_input_tokens_seen": 2032208, + "step": 1022 + }, + { + "epoch": 0.13558648111332008, + "grad_norm": 1.7161058187484741, + "learning_rate": 4.975309191943644e-06, + "loss": 0.0084, + "num_input_tokens_seen": 2034176, + "step": 1023 + }, + { + "epoch": 0.13571901921802518, + "grad_norm": 8.106315612792969, + "learning_rate": 4.975260500588076e-06, + "loss": 0.1332, + "num_input_tokens_seen": 2036864, + "step": 1024 + }, + { + "epoch": 0.1358515573227303, + "grad_norm": 8.195710182189941, + "learning_rate": 4.975211761507777e-06, + "loss": 0.0749, + "num_input_tokens_seen": 2038344, + "step": 1025 + }, + { + "epoch": 0.1359840954274354, + "grad_norm": 11.96745777130127, + "learning_rate": 4.975162974703687e-06, + "loss": 0.1417, + "num_input_tokens_seen": 2040008, + "step": 1026 + }, + { + "epoch": 0.13611663353214049, + "grad_norm": 0.40713274478912354, + "learning_rate": 4.975114140176748e-06, + "loss": 0.0016, + "num_input_tokens_seen": 2041480, + "step": 1027 + }, + { + "epoch": 0.1362491716368456, + "grad_norm": 5.220546722412109, + "learning_rate": 4.9750652579279005e-06, + "loss": 0.0322, + "num_input_tokens_seen": 2043112, + "step": 1028 + }, + { + "epoch": 0.1363817097415507, + "grad_norm": 11.272992134094238, + "learning_rate": 4.975016327958087e-06, + "loss": 0.1386, + "num_input_tokens_seen": 2044688, + "step": 1029 + }, + { + "epoch": 0.1365142478462558, + "grad_norm": 3.4789772033691406, + "learning_rate": 4.974967350268251e-06, + "loss": 0.0805, + "num_input_tokens_seen": 2046976, + "step": 1030 + }, + { + "epoch": 0.13664678595096091, + "grad_norm": 14.42776870727539, + "learning_rate": 4.974918324859338e-06, + "loss": 0.4598, + "num_input_tokens_seen": 2048696, + "step": 1031 + }, + { + "epoch": 0.136779324055666, + "grad_norm": 1.0267363786697388, + "learning_rate": 4.974869251732293e-06, + "loss": 0.0052, + "num_input_tokens_seen": 2050664, + "step": 1032 + }, + { + "epoch": 0.1369118621603711, + "grad_norm": 22.682056427001953, + "learning_rate": 4.974820130888061e-06, + "loss": 0.7385, + "num_input_tokens_seen": 2051824, + "step": 1033 + }, + { + "epoch": 0.13704440026507622, + "grad_norm": 0.19740206003189087, + "learning_rate": 4.974770962327589e-06, + "loss": 0.001, + "num_input_tokens_seen": 2053608, + "step": 1034 + }, + { + "epoch": 0.13717693836978131, + "grad_norm": 12.586018562316895, + "learning_rate": 4.974721746051825e-06, + "loss": 0.285, + "num_input_tokens_seen": 2055192, + "step": 1035 + }, + { + "epoch": 0.1373094764744864, + "grad_norm": 0.3698250353336334, + "learning_rate": 4.97467248206172e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2057896, + "step": 1036 + }, + { + "epoch": 0.13744201457919153, + "grad_norm": 8.431306838989258, + "learning_rate": 4.974623170358222e-06, + "loss": 0.2271, + "num_input_tokens_seen": 2060752, + "step": 1037 + }, + { + "epoch": 0.13757455268389662, + "grad_norm": 23.15184211730957, + "learning_rate": 4.974573810942281e-06, + "loss": 0.8263, + "num_input_tokens_seen": 2063032, + "step": 1038 + }, + { + "epoch": 0.13770709078860172, + "grad_norm": 1.7490357160568237, + "learning_rate": 4.974524403814851e-06, + "loss": 0.0093, + "num_input_tokens_seen": 2064680, + "step": 1039 + }, + { + "epoch": 0.13783962889330684, + "grad_norm": 0.0850224569439888, + "learning_rate": 4.974474948976883e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2066064, + "step": 1040 + }, + { + "epoch": 0.13797216699801193, + "grad_norm": 10.165837287902832, + "learning_rate": 4.974425446429331e-06, + "loss": 0.1956, + "num_input_tokens_seen": 2067368, + "step": 1041 + }, + { + "epoch": 0.13810470510271702, + "grad_norm": 0.10979548841714859, + "learning_rate": 4.97437589617315e-06, + "loss": 0.0006, + "num_input_tokens_seen": 2068352, + "step": 1042 + }, + { + "epoch": 0.13823724320742214, + "grad_norm": 23.999309539794922, + "learning_rate": 4.974326298209294e-06, + "loss": 0.678, + "num_input_tokens_seen": 2070472, + "step": 1043 + }, + { + "epoch": 0.13836978131212724, + "grad_norm": 1.0572566986083984, + "learning_rate": 4.9742766525387184e-06, + "loss": 0.0036, + "num_input_tokens_seen": 2072760, + "step": 1044 + }, + { + "epoch": 0.13850231941683233, + "grad_norm": 3.4263973236083984, + "learning_rate": 4.9742269591623845e-06, + "loss": 0.0669, + "num_input_tokens_seen": 2074584, + "step": 1045 + }, + { + "epoch": 0.13863485752153745, + "grad_norm": 10.278995513916016, + "learning_rate": 4.974177218081247e-06, + "loss": 0.2531, + "num_input_tokens_seen": 2076200, + "step": 1046 + }, + { + "epoch": 0.13876739562624255, + "grad_norm": 25.111663818359375, + "learning_rate": 4.974127429296266e-06, + "loss": 0.3791, + "num_input_tokens_seen": 2078328, + "step": 1047 + }, + { + "epoch": 0.13889993373094764, + "grad_norm": 7.208645343780518, + "learning_rate": 4.974077592808402e-06, + "loss": 0.1693, + "num_input_tokens_seen": 2080400, + "step": 1048 + }, + { + "epoch": 0.13903247183565276, + "grad_norm": 9.183088302612305, + "learning_rate": 4.974027708618614e-06, + "loss": 0.1283, + "num_input_tokens_seen": 2082184, + "step": 1049 + }, + { + "epoch": 0.13916500994035785, + "grad_norm": 0.16749460995197296, + "learning_rate": 4.9739777767278656e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2084512, + "step": 1050 + }, + { + "epoch": 0.13929754804506295, + "grad_norm": 0.14608798921108246, + "learning_rate": 4.973927797137119e-06, + "loss": 0.0008, + "num_input_tokens_seen": 2085888, + "step": 1051 + }, + { + "epoch": 0.13943008614976807, + "grad_norm": 24.015453338623047, + "learning_rate": 4.973877769847338e-06, + "loss": 0.6617, + "num_input_tokens_seen": 2088232, + "step": 1052 + }, + { + "epoch": 0.13956262425447316, + "grad_norm": 8.42868709564209, + "learning_rate": 4.9738276948594865e-06, + "loss": 0.2422, + "num_input_tokens_seen": 2090456, + "step": 1053 + }, + { + "epoch": 0.13969516235917825, + "grad_norm": 18.085811614990234, + "learning_rate": 4.97377757217453e-06, + "loss": 0.3224, + "num_input_tokens_seen": 2092672, + "step": 1054 + }, + { + "epoch": 0.13982770046388338, + "grad_norm": 19.4833984375, + "learning_rate": 4.973727401793437e-06, + "loss": 0.3896, + "num_input_tokens_seen": 2095208, + "step": 1055 + }, + { + "epoch": 0.13996023856858847, + "grad_norm": 9.022984504699707, + "learning_rate": 4.973677183717172e-06, + "loss": 0.1654, + "num_input_tokens_seen": 2097840, + "step": 1056 + }, + { + "epoch": 0.14009277667329356, + "grad_norm": 8.475109100341797, + "learning_rate": 4.973626917946704e-06, + "loss": 0.2702, + "num_input_tokens_seen": 2099688, + "step": 1057 + }, + { + "epoch": 0.14022531477799868, + "grad_norm": 25.786333084106445, + "learning_rate": 4.973576604483004e-06, + "loss": 0.8779, + "num_input_tokens_seen": 2102472, + "step": 1058 + }, + { + "epoch": 0.14035785288270378, + "grad_norm": 0.3217809200286865, + "learning_rate": 4.973526243327039e-06, + "loss": 0.0018, + "num_input_tokens_seen": 2103656, + "step": 1059 + }, + { + "epoch": 0.14049039098740887, + "grad_norm": 14.359037399291992, + "learning_rate": 4.973475834479783e-06, + "loss": 0.2964, + "num_input_tokens_seen": 2104656, + "step": 1060 + }, + { + "epoch": 0.140622929092114, + "grad_norm": 15.119754791259766, + "learning_rate": 4.973425377942206e-06, + "loss": 0.1965, + "num_input_tokens_seen": 2106952, + "step": 1061 + }, + { + "epoch": 0.14075546719681908, + "grad_norm": 15.015596389770508, + "learning_rate": 4.973374873715281e-06, + "loss": 0.666, + "num_input_tokens_seen": 2109152, + "step": 1062 + }, + { + "epoch": 0.14088800530152418, + "grad_norm": 6.950316429138184, + "learning_rate": 4.973324321799983e-06, + "loss": 0.172, + "num_input_tokens_seen": 2112112, + "step": 1063 + }, + { + "epoch": 0.1410205434062293, + "grad_norm": 12.297924041748047, + "learning_rate": 4.973273722197285e-06, + "loss": 0.1637, + "num_input_tokens_seen": 2114272, + "step": 1064 + }, + { + "epoch": 0.1411530815109344, + "grad_norm": 10.396502494812012, + "learning_rate": 4.973223074908163e-06, + "loss": 0.2256, + "num_input_tokens_seen": 2116368, + "step": 1065 + }, + { + "epoch": 0.14128561961563949, + "grad_norm": 2.5695409774780273, + "learning_rate": 4.9731723799335954e-06, + "loss": 0.014, + "num_input_tokens_seen": 2118088, + "step": 1066 + }, + { + "epoch": 0.1414181577203446, + "grad_norm": 0.9237880706787109, + "learning_rate": 4.973121637274558e-06, + "loss": 0.0052, + "num_input_tokens_seen": 2119440, + "step": 1067 + }, + { + "epoch": 0.1415506958250497, + "grad_norm": 14.194740295410156, + "learning_rate": 4.973070846932028e-06, + "loss": 0.3794, + "num_input_tokens_seen": 2121888, + "step": 1068 + }, + { + "epoch": 0.1416832339297548, + "grad_norm": 0.8454501628875732, + "learning_rate": 4.973020008906987e-06, + "loss": 0.0045, + "num_input_tokens_seen": 2123736, + "step": 1069 + }, + { + "epoch": 0.1418157720344599, + "grad_norm": 7.1999993324279785, + "learning_rate": 4.9729691232004135e-06, + "loss": 0.0613, + "num_input_tokens_seen": 2125096, + "step": 1070 + }, + { + "epoch": 0.141948310139165, + "grad_norm": 16.522409439086914, + "learning_rate": 4.97291818981329e-06, + "loss": 0.7136, + "num_input_tokens_seen": 2127216, + "step": 1071 + }, + { + "epoch": 0.1420808482438701, + "grad_norm": 7.099532604217529, + "learning_rate": 4.972867208746597e-06, + "loss": 0.2218, + "num_input_tokens_seen": 2129040, + "step": 1072 + }, + { + "epoch": 0.14221338634857522, + "grad_norm": 10.5108060836792, + "learning_rate": 4.972816180001319e-06, + "loss": 0.1802, + "num_input_tokens_seen": 2131160, + "step": 1073 + }, + { + "epoch": 0.14234592445328031, + "grad_norm": 13.357348442077637, + "learning_rate": 4.972765103578438e-06, + "loss": 0.2124, + "num_input_tokens_seen": 2133136, + "step": 1074 + }, + { + "epoch": 0.1424784625579854, + "grad_norm": 0.17172189056873322, + "learning_rate": 4.972713979478941e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2135176, + "step": 1075 + }, + { + "epoch": 0.14261100066269053, + "grad_norm": 7.505782604217529, + "learning_rate": 4.972662807703813e-06, + "loss": 0.0844, + "num_input_tokens_seen": 2137488, + "step": 1076 + }, + { + "epoch": 0.14274353876739562, + "grad_norm": 2.9465689659118652, + "learning_rate": 4.97261158825404e-06, + "loss": 0.0498, + "num_input_tokens_seen": 2139320, + "step": 1077 + }, + { + "epoch": 0.14287607687210072, + "grad_norm": 0.1261802464723587, + "learning_rate": 4.972560321130609e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2140672, + "step": 1078 + }, + { + "epoch": 0.14300861497680584, + "grad_norm": 7.9510498046875, + "learning_rate": 4.97250900633451e-06, + "loss": 0.1369, + "num_input_tokens_seen": 2142224, + "step": 1079 + }, + { + "epoch": 0.14314115308151093, + "grad_norm": 8.301384925842285, + "learning_rate": 4.9724576438667316e-06, + "loss": 0.2094, + "num_input_tokens_seen": 2144048, + "step": 1080 + }, + { + "epoch": 0.14327369118621602, + "grad_norm": 16.20797348022461, + "learning_rate": 4.972406233728264e-06, + "loss": 0.3451, + "num_input_tokens_seen": 2145504, + "step": 1081 + }, + { + "epoch": 0.14340622929092114, + "grad_norm": 11.305400848388672, + "learning_rate": 4.972354775920099e-06, + "loss": 0.2041, + "num_input_tokens_seen": 2147824, + "step": 1082 + }, + { + "epoch": 0.14353876739562624, + "grad_norm": 17.06035041809082, + "learning_rate": 4.972303270443227e-06, + "loss": 0.3535, + "num_input_tokens_seen": 2149680, + "step": 1083 + }, + { + "epoch": 0.14367130550033136, + "grad_norm": 8.827367782592773, + "learning_rate": 4.972251717298644e-06, + "loss": 0.154, + "num_input_tokens_seen": 2151256, + "step": 1084 + }, + { + "epoch": 0.14380384360503645, + "grad_norm": 15.790962219238281, + "learning_rate": 4.972200116487342e-06, + "loss": 0.3193, + "num_input_tokens_seen": 2153144, + "step": 1085 + }, + { + "epoch": 0.14393638170974155, + "grad_norm": 11.527240753173828, + "learning_rate": 4.972148468010316e-06, + "loss": 0.126, + "num_input_tokens_seen": 2155544, + "step": 1086 + }, + { + "epoch": 0.14406891981444667, + "grad_norm": 0.07238878309726715, + "learning_rate": 4.972096771868562e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2156976, + "step": 1087 + }, + { + "epoch": 0.14420145791915176, + "grad_norm": 16.891948699951172, + "learning_rate": 4.972045028063076e-06, + "loss": 0.404, + "num_input_tokens_seen": 2159440, + "step": 1088 + }, + { + "epoch": 0.14433399602385685, + "grad_norm": 9.059277534484863, + "learning_rate": 4.971993236594858e-06, + "loss": 0.1847, + "num_input_tokens_seen": 2160560, + "step": 1089 + }, + { + "epoch": 0.14446653412856197, + "grad_norm": 16.980607986450195, + "learning_rate": 4.971941397464904e-06, + "loss": 0.2502, + "num_input_tokens_seen": 2162656, + "step": 1090 + }, + { + "epoch": 0.14459907223326707, + "grad_norm": 18.538114547729492, + "learning_rate": 4.971889510674215e-06, + "loss": 0.5705, + "num_input_tokens_seen": 2164232, + "step": 1091 + }, + { + "epoch": 0.14473161033797216, + "grad_norm": 0.23751325905323029, + "learning_rate": 4.9718375762237915e-06, + "loss": 0.0013, + "num_input_tokens_seen": 2166360, + "step": 1092 + }, + { + "epoch": 0.14486414844267728, + "grad_norm": 0.9280669689178467, + "learning_rate": 4.971785594114634e-06, + "loss": 0.0045, + "num_input_tokens_seen": 2168392, + "step": 1093 + }, + { + "epoch": 0.14499668654738238, + "grad_norm": 9.240777015686035, + "learning_rate": 4.971733564347745e-06, + "loss": 0.1102, + "num_input_tokens_seen": 2171184, + "step": 1094 + }, + { + "epoch": 0.14512922465208747, + "grad_norm": 0.21600164473056793, + "learning_rate": 4.971681486924127e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2172256, + "step": 1095 + }, + { + "epoch": 0.1452617627567926, + "grad_norm": 7.418125629425049, + "learning_rate": 4.971629361844785e-06, + "loss": 0.2352, + "num_input_tokens_seen": 2174832, + "step": 1096 + }, + { + "epoch": 0.14539430086149768, + "grad_norm": 6.598450660705566, + "learning_rate": 4.971577189110724e-06, + "loss": 0.0517, + "num_input_tokens_seen": 2176176, + "step": 1097 + }, + { + "epoch": 0.14552683896620278, + "grad_norm": 17.72537612915039, + "learning_rate": 4.971524968722951e-06, + "loss": 0.445, + "num_input_tokens_seen": 2177968, + "step": 1098 + }, + { + "epoch": 0.1456593770709079, + "grad_norm": 0.332596093416214, + "learning_rate": 4.97147270068247e-06, + "loss": 0.0014, + "num_input_tokens_seen": 2179224, + "step": 1099 + }, + { + "epoch": 0.145791915175613, + "grad_norm": 11.393199920654297, + "learning_rate": 4.9714203849902906e-06, + "loss": 0.2588, + "num_input_tokens_seen": 2180720, + "step": 1100 + }, + { + "epoch": 0.14592445328031808, + "grad_norm": 0.12381167709827423, + "learning_rate": 4.9713680216474215e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2183600, + "step": 1101 + }, + { + "epoch": 0.1460569913850232, + "grad_norm": 0.0911279022693634, + "learning_rate": 4.971315610654872e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2185096, + "step": 1102 + }, + { + "epoch": 0.1461895294897283, + "grad_norm": 0.09448344260454178, + "learning_rate": 4.971263152013653e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2186376, + "step": 1103 + }, + { + "epoch": 0.1463220675944334, + "grad_norm": 14.062426567077637, + "learning_rate": 4.971210645724775e-06, + "loss": 0.3228, + "num_input_tokens_seen": 2189072, + "step": 1104 + }, + { + "epoch": 0.1464546056991385, + "grad_norm": 16.506311416625977, + "learning_rate": 4.971158091789251e-06, + "loss": 0.3634, + "num_input_tokens_seen": 2190944, + "step": 1105 + }, + { + "epoch": 0.1465871438038436, + "grad_norm": 0.06774196773767471, + "learning_rate": 4.971105490208095e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2192232, + "step": 1106 + }, + { + "epoch": 0.1467196819085487, + "grad_norm": 13.49811840057373, + "learning_rate": 4.971052840982319e-06, + "loss": 0.44, + "num_input_tokens_seen": 2193848, + "step": 1107 + }, + { + "epoch": 0.14685222001325382, + "grad_norm": 16.973705291748047, + "learning_rate": 4.971000144112941e-06, + "loss": 0.4162, + "num_input_tokens_seen": 2196192, + "step": 1108 + }, + { + "epoch": 0.1469847581179589, + "grad_norm": 7.563966274261475, + "learning_rate": 4.970947399600975e-06, + "loss": 0.0709, + "num_input_tokens_seen": 2198112, + "step": 1109 + }, + { + "epoch": 0.147117296222664, + "grad_norm": 0.5764822959899902, + "learning_rate": 4.970894607447438e-06, + "loss": 0.0054, + "num_input_tokens_seen": 2199712, + "step": 1110 + }, + { + "epoch": 0.14724983432736913, + "grad_norm": 3.911957025527954, + "learning_rate": 4.970841767653349e-06, + "loss": 0.109, + "num_input_tokens_seen": 2201200, + "step": 1111 + }, + { + "epoch": 0.14738237243207422, + "grad_norm": 16.377504348754883, + "learning_rate": 4.970788880219726e-06, + "loss": 0.4557, + "num_input_tokens_seen": 2203248, + "step": 1112 + }, + { + "epoch": 0.14751491053677931, + "grad_norm": 9.744097709655762, + "learning_rate": 4.970735945147589e-06, + "loss": 0.1216, + "num_input_tokens_seen": 2204600, + "step": 1113 + }, + { + "epoch": 0.14764744864148444, + "grad_norm": 3.640883684158325, + "learning_rate": 4.970682962437958e-06, + "loss": 0.0379, + "num_input_tokens_seen": 2206720, + "step": 1114 + }, + { + "epoch": 0.14777998674618953, + "grad_norm": 15.960216522216797, + "learning_rate": 4.970629932091856e-06, + "loss": 0.3399, + "num_input_tokens_seen": 2208168, + "step": 1115 + }, + { + "epoch": 0.14791252485089462, + "grad_norm": 14.752596855163574, + "learning_rate": 4.970576854110304e-06, + "loss": 0.2745, + "num_input_tokens_seen": 2209904, + "step": 1116 + }, + { + "epoch": 0.14804506295559974, + "grad_norm": 0.04901452735066414, + "learning_rate": 4.970523728494326e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2211384, + "step": 1117 + }, + { + "epoch": 0.14817760106030484, + "grad_norm": 1.8523015975952148, + "learning_rate": 4.970470555244946e-06, + "loss": 0.0055, + "num_input_tokens_seen": 2213496, + "step": 1118 + }, + { + "epoch": 0.14831013916500993, + "grad_norm": 15.264734268188477, + "learning_rate": 4.970417334363189e-06, + "loss": 0.2557, + "num_input_tokens_seen": 2214912, + "step": 1119 + }, + { + "epoch": 0.14844267726971505, + "grad_norm": 0.6389595866203308, + "learning_rate": 4.970364065850082e-06, + "loss": 0.0012, + "num_input_tokens_seen": 2216496, + "step": 1120 + }, + { + "epoch": 0.14857521537442014, + "grad_norm": 17.97623634338379, + "learning_rate": 4.970310749706651e-06, + "loss": 0.4766, + "num_input_tokens_seen": 2217760, + "step": 1121 + }, + { + "epoch": 0.14870775347912524, + "grad_norm": 8.3178129196167, + "learning_rate": 4.970257385933925e-06, + "loss": 0.0791, + "num_input_tokens_seen": 2219928, + "step": 1122 + }, + { + "epoch": 0.14884029158383036, + "grad_norm": 0.09905339032411575, + "learning_rate": 4.970203974532933e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2221032, + "step": 1123 + }, + { + "epoch": 0.14897282968853545, + "grad_norm": 20.534059524536133, + "learning_rate": 4.970150515504703e-06, + "loss": 0.3386, + "num_input_tokens_seen": 2223080, + "step": 1124 + }, + { + "epoch": 0.14910536779324055, + "grad_norm": 2.9343061447143555, + "learning_rate": 4.970097008850269e-06, + "loss": 0.0115, + "num_input_tokens_seen": 2225104, + "step": 1125 + }, + { + "epoch": 0.14923790589794567, + "grad_norm": 21.946889877319336, + "learning_rate": 4.97004345457066e-06, + "loss": 0.5937, + "num_input_tokens_seen": 2227400, + "step": 1126 + }, + { + "epoch": 0.14937044400265076, + "grad_norm": 0.10060641914606094, + "learning_rate": 4.969989852666908e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2229248, + "step": 1127 + }, + { + "epoch": 0.14950298210735585, + "grad_norm": 13.128434181213379, + "learning_rate": 4.969936203140048e-06, + "loss": 0.275, + "num_input_tokens_seen": 2230928, + "step": 1128 + }, + { + "epoch": 0.14963552021206097, + "grad_norm": 7.371717929840088, + "learning_rate": 4.969882505991115e-06, + "loss": 0.0981, + "num_input_tokens_seen": 2233280, + "step": 1129 + }, + { + "epoch": 0.14976805831676607, + "grad_norm": 0.08068453520536423, + "learning_rate": 4.969828761221142e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2235200, + "step": 1130 + }, + { + "epoch": 0.14990059642147116, + "grad_norm": 10.685983657836914, + "learning_rate": 4.969774968831168e-06, + "loss": 0.1411, + "num_input_tokens_seen": 2236888, + "step": 1131 + }, + { + "epoch": 0.15003313452617628, + "grad_norm": 0.26747697591781616, + "learning_rate": 4.969721128822228e-06, + "loss": 0.0012, + "num_input_tokens_seen": 2238376, + "step": 1132 + }, + { + "epoch": 0.15016567263088137, + "grad_norm": 1.9737640619277954, + "learning_rate": 4.9696672411953615e-06, + "loss": 0.0044, + "num_input_tokens_seen": 2240352, + "step": 1133 + }, + { + "epoch": 0.15029821073558647, + "grad_norm": 11.947619438171387, + "learning_rate": 4.969613305951607e-06, + "loss": 0.4761, + "num_input_tokens_seen": 2242592, + "step": 1134 + }, + { + "epoch": 0.1504307488402916, + "grad_norm": 0.06477290391921997, + "learning_rate": 4.969559323092004e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2243648, + "step": 1135 + }, + { + "epoch": 0.15056328694499668, + "grad_norm": 0.28587570786476135, + "learning_rate": 4.969505292617593e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2245264, + "step": 1136 + }, + { + "epoch": 0.15069582504970178, + "grad_norm": 0.09513625502586365, + "learning_rate": 4.969451214529416e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2246488, + "step": 1137 + }, + { + "epoch": 0.1508283631544069, + "grad_norm": 0.06177070364356041, + "learning_rate": 4.969397088828517e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2248832, + "step": 1138 + }, + { + "epoch": 0.150960901259112, + "grad_norm": 14.32563304901123, + "learning_rate": 4.969342915515938e-06, + "loss": 0.3412, + "num_input_tokens_seen": 2251040, + "step": 1139 + }, + { + "epoch": 0.15109343936381708, + "grad_norm": 34.86860656738281, + "learning_rate": 4.969288694592725e-06, + "loss": 0.5281, + "num_input_tokens_seen": 2253832, + "step": 1140 + }, + { + "epoch": 0.1512259774685222, + "grad_norm": 9.496525764465332, + "learning_rate": 4.969234426059922e-06, + "loss": 0.3175, + "num_input_tokens_seen": 2255632, + "step": 1141 + }, + { + "epoch": 0.1513585155732273, + "grad_norm": 0.34487175941467285, + "learning_rate": 4.9691801099185746e-06, + "loss": 0.0012, + "num_input_tokens_seen": 2257104, + "step": 1142 + }, + { + "epoch": 0.15149105367793242, + "grad_norm": 8.842801094055176, + "learning_rate": 4.969125746169733e-06, + "loss": 0.1957, + "num_input_tokens_seen": 2259288, + "step": 1143 + }, + { + "epoch": 0.1516235917826375, + "grad_norm": 8.908940315246582, + "learning_rate": 4.9690713348144425e-06, + "loss": 0.3226, + "num_input_tokens_seen": 2262024, + "step": 1144 + }, + { + "epoch": 0.1517561298873426, + "grad_norm": 7.990653038024902, + "learning_rate": 4.969016875853754e-06, + "loss": 0.1555, + "num_input_tokens_seen": 2263808, + "step": 1145 + }, + { + "epoch": 0.15188866799204773, + "grad_norm": 14.654000282287598, + "learning_rate": 4.968962369288717e-06, + "loss": 0.2299, + "num_input_tokens_seen": 2265416, + "step": 1146 + }, + { + "epoch": 0.15202120609675282, + "grad_norm": 41.310523986816406, + "learning_rate": 4.968907815120382e-06, + "loss": 0.8631, + "num_input_tokens_seen": 2268504, + "step": 1147 + }, + { + "epoch": 0.1521537442014579, + "grad_norm": 7.033841133117676, + "learning_rate": 4.9688532133498004e-06, + "loss": 0.1642, + "num_input_tokens_seen": 2270696, + "step": 1148 + }, + { + "epoch": 0.15228628230616303, + "grad_norm": 10.48091983795166, + "learning_rate": 4.968798563978026e-06, + "loss": 0.2556, + "num_input_tokens_seen": 2272960, + "step": 1149 + }, + { + "epoch": 0.15241882041086813, + "grad_norm": 18.73812484741211, + "learning_rate": 4.9687438670061126e-06, + "loss": 0.3744, + "num_input_tokens_seen": 2274712, + "step": 1150 + }, + { + "epoch": 0.15255135851557322, + "grad_norm": 2.2381982803344727, + "learning_rate": 4.968689122435114e-06, + "loss": 0.0052, + "num_input_tokens_seen": 2276112, + "step": 1151 + }, + { + "epoch": 0.15268389662027834, + "grad_norm": 0.17634576559066772, + "learning_rate": 4.968634330266087e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2277688, + "step": 1152 + }, + { + "epoch": 0.15281643472498344, + "grad_norm": 14.243127822875977, + "learning_rate": 4.968579490500086e-06, + "loss": 0.4828, + "num_input_tokens_seen": 2279936, + "step": 1153 + }, + { + "epoch": 0.15294897282968853, + "grad_norm": 12.21242618560791, + "learning_rate": 4.96852460313817e-06, + "loss": 0.0618, + "num_input_tokens_seen": 2280984, + "step": 1154 + }, + { + "epoch": 0.15308151093439365, + "grad_norm": 19.897294998168945, + "learning_rate": 4.968469668181397e-06, + "loss": 0.592, + "num_input_tokens_seen": 2282200, + "step": 1155 + }, + { + "epoch": 0.15321404903909874, + "grad_norm": 14.368499755859375, + "learning_rate": 4.968414685630825e-06, + "loss": 0.0857, + "num_input_tokens_seen": 2283496, + "step": 1156 + }, + { + "epoch": 0.15334658714380384, + "grad_norm": 21.154964447021484, + "learning_rate": 4.968359655487515e-06, + "loss": 0.5014, + "num_input_tokens_seen": 2285608, + "step": 1157 + }, + { + "epoch": 0.15347912524850896, + "grad_norm": 0.20786318182945251, + "learning_rate": 4.968304577752528e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2287040, + "step": 1158 + }, + { + "epoch": 0.15361166335321405, + "grad_norm": 5.691685199737549, + "learning_rate": 4.968249452426927e-06, + "loss": 0.1654, + "num_input_tokens_seen": 2288952, + "step": 1159 + }, + { + "epoch": 0.15374420145791914, + "grad_norm": 0.19987598061561584, + "learning_rate": 4.968194279511773e-06, + "loss": 0.001, + "num_input_tokens_seen": 2291320, + "step": 1160 + }, + { + "epoch": 0.15387673956262427, + "grad_norm": 0.4299350380897522, + "learning_rate": 4.968139059008131e-06, + "loss": 0.0021, + "num_input_tokens_seen": 2293296, + "step": 1161 + }, + { + "epoch": 0.15400927766732936, + "grad_norm": 8.03731632232666, + "learning_rate": 4.9680837909170646e-06, + "loss": 0.1455, + "num_input_tokens_seen": 2295360, + "step": 1162 + }, + { + "epoch": 0.15414181577203445, + "grad_norm": 12.259587287902832, + "learning_rate": 4.96802847523964e-06, + "loss": 0.1423, + "num_input_tokens_seen": 2298368, + "step": 1163 + }, + { + "epoch": 0.15427435387673957, + "grad_norm": 23.08724594116211, + "learning_rate": 4.967973111976925e-06, + "loss": 0.6332, + "num_input_tokens_seen": 2300048, + "step": 1164 + }, + { + "epoch": 0.15440689198144467, + "grad_norm": 14.329208374023438, + "learning_rate": 4.967917701129985e-06, + "loss": 0.1032, + "num_input_tokens_seen": 2302168, + "step": 1165 + }, + { + "epoch": 0.15453943008614976, + "grad_norm": 15.72828197479248, + "learning_rate": 4.967862242699889e-06, + "loss": 0.3043, + "num_input_tokens_seen": 2303696, + "step": 1166 + }, + { + "epoch": 0.15467196819085488, + "grad_norm": 10.578027725219727, + "learning_rate": 4.967806736687707e-06, + "loss": 0.0761, + "num_input_tokens_seen": 2305760, + "step": 1167 + }, + { + "epoch": 0.15480450629555997, + "grad_norm": 12.880636215209961, + "learning_rate": 4.967751183094508e-06, + "loss": 0.097, + "num_input_tokens_seen": 2307368, + "step": 1168 + }, + { + "epoch": 0.15493704440026507, + "grad_norm": 0.1368607133626938, + "learning_rate": 4.967695581921364e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2309000, + "step": 1169 + }, + { + "epoch": 0.1550695825049702, + "grad_norm": 0.13404937088489532, + "learning_rate": 4.967639933169347e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2310144, + "step": 1170 + }, + { + "epoch": 0.15520212060967528, + "grad_norm": 0.13037435710430145, + "learning_rate": 4.96758423683953e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2311640, + "step": 1171 + }, + { + "epoch": 0.15533465871438037, + "grad_norm": 18.210630416870117, + "learning_rate": 4.9675284929329855e-06, + "loss": 0.3665, + "num_input_tokens_seen": 2314128, + "step": 1172 + }, + { + "epoch": 0.1554671968190855, + "grad_norm": 1.6704750061035156, + "learning_rate": 4.96747270145079e-06, + "loss": 0.012, + "num_input_tokens_seen": 2315808, + "step": 1173 + }, + { + "epoch": 0.1555997349237906, + "grad_norm": 9.904519081115723, + "learning_rate": 4.96741686239402e-06, + "loss": 0.2422, + "num_input_tokens_seen": 2318288, + "step": 1174 + }, + { + "epoch": 0.15573227302849568, + "grad_norm": 0.13234105706214905, + "learning_rate": 4.96736097576375e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2321216, + "step": 1175 + }, + { + "epoch": 0.1558648111332008, + "grad_norm": 29.408897399902344, + "learning_rate": 4.967305041561057e-06, + "loss": 0.7555, + "num_input_tokens_seen": 2323696, + "step": 1176 + }, + { + "epoch": 0.1559973492379059, + "grad_norm": 0.12690770626068115, + "learning_rate": 4.967249059787021e-06, + "loss": 0.0006, + "num_input_tokens_seen": 2325592, + "step": 1177 + }, + { + "epoch": 0.156129887342611, + "grad_norm": 6.844043254852295, + "learning_rate": 4.967193030442722e-06, + "loss": 0.136, + "num_input_tokens_seen": 2326656, + "step": 1178 + }, + { + "epoch": 0.1562624254473161, + "grad_norm": 20.070098876953125, + "learning_rate": 4.967136953529239e-06, + "loss": 0.3159, + "num_input_tokens_seen": 2328128, + "step": 1179 + }, + { + "epoch": 0.1563949635520212, + "grad_norm": 0.23279854655265808, + "learning_rate": 4.967080829047653e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2329656, + "step": 1180 + }, + { + "epoch": 0.1565275016567263, + "grad_norm": 9.846593856811523, + "learning_rate": 4.967024656999048e-06, + "loss": 0.2366, + "num_input_tokens_seen": 2331160, + "step": 1181 + }, + { + "epoch": 0.15666003976143142, + "grad_norm": 21.642732620239258, + "learning_rate": 4.966968437384504e-06, + "loss": 0.4724, + "num_input_tokens_seen": 2333192, + "step": 1182 + }, + { + "epoch": 0.1567925778661365, + "grad_norm": 6.204029560089111, + "learning_rate": 4.966912170205108e-06, + "loss": 0.142, + "num_input_tokens_seen": 2335760, + "step": 1183 + }, + { + "epoch": 0.1569251159708416, + "grad_norm": 11.157078742980957, + "learning_rate": 4.9668558554619424e-06, + "loss": 0.3597, + "num_input_tokens_seen": 2337720, + "step": 1184 + }, + { + "epoch": 0.15705765407554673, + "grad_norm": 0.18780739605426788, + "learning_rate": 4.966799493156095e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2339768, + "step": 1185 + }, + { + "epoch": 0.15719019218025182, + "grad_norm": 0.20116011798381805, + "learning_rate": 4.966743083288651e-06, + "loss": 0.001, + "num_input_tokens_seen": 2341296, + "step": 1186 + }, + { + "epoch": 0.1573227302849569, + "grad_norm": 9.951813697814941, + "learning_rate": 4.966686625860699e-06, + "loss": 0.2009, + "num_input_tokens_seen": 2343016, + "step": 1187 + }, + { + "epoch": 0.15745526838966203, + "grad_norm": 13.271669387817383, + "learning_rate": 4.9666301208733266e-06, + "loss": 0.2422, + "num_input_tokens_seen": 2344848, + "step": 1188 + }, + { + "epoch": 0.15758780649436713, + "grad_norm": 14.315110206604004, + "learning_rate": 4.966573568327625e-06, + "loss": 0.3175, + "num_input_tokens_seen": 2346528, + "step": 1189 + }, + { + "epoch": 0.15772034459907222, + "grad_norm": 13.240228652954102, + "learning_rate": 4.966516968224683e-06, + "loss": 0.1778, + "num_input_tokens_seen": 2348136, + "step": 1190 + }, + { + "epoch": 0.15785288270377734, + "grad_norm": 18.752595901489258, + "learning_rate": 4.966460320565592e-06, + "loss": 0.5405, + "num_input_tokens_seen": 2350872, + "step": 1191 + }, + { + "epoch": 0.15798542080848244, + "grad_norm": 0.40500640869140625, + "learning_rate": 4.966403625351444e-06, + "loss": 0.002, + "num_input_tokens_seen": 2352456, + "step": 1192 + }, + { + "epoch": 0.15811795891318753, + "grad_norm": 10.899077415466309, + "learning_rate": 4.966346882583333e-06, + "loss": 0.1399, + "num_input_tokens_seen": 2354200, + "step": 1193 + }, + { + "epoch": 0.15825049701789265, + "grad_norm": 14.641097068786621, + "learning_rate": 4.966290092262353e-06, + "loss": 0.5644, + "num_input_tokens_seen": 2355840, + "step": 1194 + }, + { + "epoch": 0.15838303512259774, + "grad_norm": 9.716653823852539, + "learning_rate": 4.9662332543895984e-06, + "loss": 0.1583, + "num_input_tokens_seen": 2358192, + "step": 1195 + }, + { + "epoch": 0.15851557322730284, + "grad_norm": 16.018234252929688, + "learning_rate": 4.966176368966165e-06, + "loss": 0.6166, + "num_input_tokens_seen": 2360216, + "step": 1196 + }, + { + "epoch": 0.15864811133200796, + "grad_norm": 11.404841423034668, + "learning_rate": 4.9661194359931504e-06, + "loss": 0.4163, + "num_input_tokens_seen": 2362416, + "step": 1197 + }, + { + "epoch": 0.15878064943671305, + "grad_norm": 0.8917785882949829, + "learning_rate": 4.966062455471651e-06, + "loss": 0.0045, + "num_input_tokens_seen": 2365168, + "step": 1198 + }, + { + "epoch": 0.15891318754141814, + "grad_norm": 10.884905815124512, + "learning_rate": 4.9660054274027666e-06, + "loss": 0.2707, + "num_input_tokens_seen": 2368040, + "step": 1199 + }, + { + "epoch": 0.15904572564612326, + "grad_norm": 0.4378180503845215, + "learning_rate": 4.965948351787597e-06, + "loss": 0.0022, + "num_input_tokens_seen": 2369048, + "step": 1200 + }, + { + "epoch": 0.15917826375082836, + "grad_norm": 0.7108259797096252, + "learning_rate": 4.9658912286272416e-06, + "loss": 0.0036, + "num_input_tokens_seen": 2371280, + "step": 1201 + }, + { + "epoch": 0.15931080185553348, + "grad_norm": 23.162755966186523, + "learning_rate": 4.965834057922802e-06, + "loss": 1.1308, + "num_input_tokens_seen": 2373632, + "step": 1202 + }, + { + "epoch": 0.15944333996023857, + "grad_norm": 0.20963579416275024, + "learning_rate": 4.965776839675381e-06, + "loss": 0.001, + "num_input_tokens_seen": 2374704, + "step": 1203 + }, + { + "epoch": 0.15957587806494367, + "grad_norm": 10.45650577545166, + "learning_rate": 4.965719573886081e-06, + "loss": 0.2593, + "num_input_tokens_seen": 2377064, + "step": 1204 + }, + { + "epoch": 0.1597084161696488, + "grad_norm": 10.756378173828125, + "learning_rate": 4.9656622605560065e-06, + "loss": 0.1955, + "num_input_tokens_seen": 2378792, + "step": 1205 + }, + { + "epoch": 0.15984095427435388, + "grad_norm": 0.3480214774608612, + "learning_rate": 4.965604899686264e-06, + "loss": 0.0016, + "num_input_tokens_seen": 2380192, + "step": 1206 + }, + { + "epoch": 0.15997349237905897, + "grad_norm": 7.867863655090332, + "learning_rate": 4.965547491277957e-06, + "loss": 0.0445, + "num_input_tokens_seen": 2382344, + "step": 1207 + }, + { + "epoch": 0.1601060304837641, + "grad_norm": 21.34485626220703, + "learning_rate": 4.965490035332193e-06, + "loss": 0.7536, + "num_input_tokens_seen": 2384232, + "step": 1208 + }, + { + "epoch": 0.1602385685884692, + "grad_norm": 12.051791191101074, + "learning_rate": 4.965432531850081e-06, + "loss": 0.2002, + "num_input_tokens_seen": 2386752, + "step": 1209 + }, + { + "epoch": 0.16037110669317428, + "grad_norm": 24.40317726135254, + "learning_rate": 4.965374980832729e-06, + "loss": 0.4844, + "num_input_tokens_seen": 2388560, + "step": 1210 + }, + { + "epoch": 0.1605036447978794, + "grad_norm": 10.289485931396484, + "learning_rate": 4.9653173822812466e-06, + "loss": 0.1146, + "num_input_tokens_seen": 2390520, + "step": 1211 + }, + { + "epoch": 0.1606361829025845, + "grad_norm": 9.223539352416992, + "learning_rate": 4.965259736196744e-06, + "loss": 0.2771, + "num_input_tokens_seen": 2392504, + "step": 1212 + }, + { + "epoch": 0.1607687210072896, + "grad_norm": 18.188947677612305, + "learning_rate": 4.965202042580333e-06, + "loss": 0.5398, + "num_input_tokens_seen": 2396208, + "step": 1213 + }, + { + "epoch": 0.1609012591119947, + "grad_norm": 8.66128158569336, + "learning_rate": 4.965144301433126e-06, + "loss": 0.122, + "num_input_tokens_seen": 2397920, + "step": 1214 + }, + { + "epoch": 0.1610337972166998, + "grad_norm": 9.544986724853516, + "learning_rate": 4.965086512756236e-06, + "loss": 0.1422, + "num_input_tokens_seen": 2399576, + "step": 1215 + }, + { + "epoch": 0.1611663353214049, + "grad_norm": 10.718111991882324, + "learning_rate": 4.965028676550778e-06, + "loss": 0.2169, + "num_input_tokens_seen": 2401296, + "step": 1216 + }, + { + "epoch": 0.16129887342611002, + "grad_norm": 9.164186477661133, + "learning_rate": 4.964970792817866e-06, + "loss": 0.3463, + "num_input_tokens_seen": 2403816, + "step": 1217 + }, + { + "epoch": 0.1614314115308151, + "grad_norm": 14.77768611907959, + "learning_rate": 4.964912861558617e-06, + "loss": 0.4384, + "num_input_tokens_seen": 2405872, + "step": 1218 + }, + { + "epoch": 0.1615639496355202, + "grad_norm": 9.14603328704834, + "learning_rate": 4.964854882774148e-06, + "loss": 0.2088, + "num_input_tokens_seen": 2407776, + "step": 1219 + }, + { + "epoch": 0.16169648774022533, + "grad_norm": 7.468289852142334, + "learning_rate": 4.964796856465576e-06, + "loss": 0.1911, + "num_input_tokens_seen": 2409488, + "step": 1220 + }, + { + "epoch": 0.16182902584493042, + "grad_norm": 2.329026460647583, + "learning_rate": 4.96473878263402e-06, + "loss": 0.0119, + "num_input_tokens_seen": 2411224, + "step": 1221 + }, + { + "epoch": 0.1619615639496355, + "grad_norm": 5.656033992767334, + "learning_rate": 4.9646806612806e-06, + "loss": 0.0471, + "num_input_tokens_seen": 2412808, + "step": 1222 + }, + { + "epoch": 0.16209410205434063, + "grad_norm": 8.645514488220215, + "learning_rate": 4.964622492406437e-06, + "loss": 0.1249, + "num_input_tokens_seen": 2414240, + "step": 1223 + }, + { + "epoch": 0.16222664015904573, + "grad_norm": 0.2108611762523651, + "learning_rate": 4.964564276012652e-06, + "loss": 0.0008, + "num_input_tokens_seen": 2416544, + "step": 1224 + }, + { + "epoch": 0.16235917826375082, + "grad_norm": 13.370351791381836, + "learning_rate": 4.964506012100367e-06, + "loss": 0.1463, + "num_input_tokens_seen": 2418144, + "step": 1225 + }, + { + "epoch": 0.16249171636845594, + "grad_norm": 10.555953025817871, + "learning_rate": 4.964447700670706e-06, + "loss": 0.2306, + "num_input_tokens_seen": 2420040, + "step": 1226 + }, + { + "epoch": 0.16262425447316103, + "grad_norm": 12.894680976867676, + "learning_rate": 4.964389341724794e-06, + "loss": 0.2132, + "num_input_tokens_seen": 2422504, + "step": 1227 + }, + { + "epoch": 0.16275679257786613, + "grad_norm": 18.176006317138672, + "learning_rate": 4.964330935263754e-06, + "loss": 0.4596, + "num_input_tokens_seen": 2424376, + "step": 1228 + }, + { + "epoch": 0.16288933068257125, + "grad_norm": 56.68040084838867, + "learning_rate": 4.964272481288715e-06, + "loss": 0.1415, + "num_input_tokens_seen": 2427168, + "step": 1229 + }, + { + "epoch": 0.16302186878727634, + "grad_norm": 22.071115493774414, + "learning_rate": 4.964213979800802e-06, + "loss": 0.5743, + "num_input_tokens_seen": 2429760, + "step": 1230 + }, + { + "epoch": 0.16315440689198143, + "grad_norm": 5.792419910430908, + "learning_rate": 4.964155430801143e-06, + "loss": 0.0925, + "num_input_tokens_seen": 2431880, + "step": 1231 + }, + { + "epoch": 0.16328694499668656, + "grad_norm": 13.725963592529297, + "learning_rate": 4.964096834290868e-06, + "loss": 0.3464, + "num_input_tokens_seen": 2433800, + "step": 1232 + }, + { + "epoch": 0.16341948310139165, + "grad_norm": 11.299811363220215, + "learning_rate": 4.964038190271106e-06, + "loss": 0.1396, + "num_input_tokens_seen": 2435296, + "step": 1233 + }, + { + "epoch": 0.16355202120609674, + "grad_norm": 6.829468727111816, + "learning_rate": 4.963979498742988e-06, + "loss": 0.1915, + "num_input_tokens_seen": 2437008, + "step": 1234 + }, + { + "epoch": 0.16368455931080186, + "grad_norm": 15.892531394958496, + "learning_rate": 4.963920759707645e-06, + "loss": 0.3817, + "num_input_tokens_seen": 2440152, + "step": 1235 + }, + { + "epoch": 0.16381709741550696, + "grad_norm": 9.568033218383789, + "learning_rate": 4.96386197316621e-06, + "loss": 0.0495, + "num_input_tokens_seen": 2442048, + "step": 1236 + }, + { + "epoch": 0.16394963552021205, + "grad_norm": 7.006852149963379, + "learning_rate": 4.963803139119817e-06, + "loss": 0.2443, + "num_input_tokens_seen": 2444840, + "step": 1237 + }, + { + "epoch": 0.16408217362491717, + "grad_norm": 13.384697914123535, + "learning_rate": 4.9637442575695995e-06, + "loss": 0.3175, + "num_input_tokens_seen": 2446568, + "step": 1238 + }, + { + "epoch": 0.16421471172962226, + "grad_norm": 14.999347686767578, + "learning_rate": 4.963685328516693e-06, + "loss": 0.1554, + "num_input_tokens_seen": 2449384, + "step": 1239 + }, + { + "epoch": 0.16434724983432736, + "grad_norm": 0.9093858599662781, + "learning_rate": 4.9636263519622334e-06, + "loss": 0.0047, + "num_input_tokens_seen": 2451536, + "step": 1240 + }, + { + "epoch": 0.16447978793903248, + "grad_norm": 12.794568061828613, + "learning_rate": 4.963567327907359e-06, + "loss": 0.2892, + "num_input_tokens_seen": 2453088, + "step": 1241 + }, + { + "epoch": 0.16461232604373757, + "grad_norm": 28.85283660888672, + "learning_rate": 4.963508256353206e-06, + "loss": 0.1888, + "num_input_tokens_seen": 2455704, + "step": 1242 + }, + { + "epoch": 0.16474486414844267, + "grad_norm": 10.746437072753906, + "learning_rate": 4.963449137300915e-06, + "loss": 0.1503, + "num_input_tokens_seen": 2458200, + "step": 1243 + }, + { + "epoch": 0.1648774022531478, + "grad_norm": 2.46858811378479, + "learning_rate": 4.9633899707516245e-06, + "loss": 0.0713, + "num_input_tokens_seen": 2459384, + "step": 1244 + }, + { + "epoch": 0.16500994035785288, + "grad_norm": 1.8052623271942139, + "learning_rate": 4.963330756706477e-06, + "loss": 0.0084, + "num_input_tokens_seen": 2460800, + "step": 1245 + }, + { + "epoch": 0.16514247846255797, + "grad_norm": 7.2112603187561035, + "learning_rate": 4.963271495166612e-06, + "loss": 0.2209, + "num_input_tokens_seen": 2463552, + "step": 1246 + }, + { + "epoch": 0.1652750165672631, + "grad_norm": 0.8979879021644592, + "learning_rate": 4.963212186133174e-06, + "loss": 0.0048, + "num_input_tokens_seen": 2465504, + "step": 1247 + }, + { + "epoch": 0.1654075546719682, + "grad_norm": 23.280481338500977, + "learning_rate": 4.963152829607306e-06, + "loss": 0.4791, + "num_input_tokens_seen": 2467528, + "step": 1248 + }, + { + "epoch": 0.16554009277667328, + "grad_norm": 15.63931941986084, + "learning_rate": 4.963093425590152e-06, + "loss": 0.2506, + "num_input_tokens_seen": 2470128, + "step": 1249 + }, + { + "epoch": 0.1656726308813784, + "grad_norm": 7.766134262084961, + "learning_rate": 4.963033974082857e-06, + "loss": 0.1795, + "num_input_tokens_seen": 2472808, + "step": 1250 + }, + { + "epoch": 0.1658051689860835, + "grad_norm": 16.949462890625, + "learning_rate": 4.962974475086568e-06, + "loss": 0.598, + "num_input_tokens_seen": 2474696, + "step": 1251 + }, + { + "epoch": 0.1659377070907886, + "grad_norm": 16.239791870117188, + "learning_rate": 4.962914928602432e-06, + "loss": 0.6068, + "num_input_tokens_seen": 2476944, + "step": 1252 + }, + { + "epoch": 0.1660702451954937, + "grad_norm": 18.533939361572266, + "learning_rate": 4.962855334631598e-06, + "loss": 0.2969, + "num_input_tokens_seen": 2478856, + "step": 1253 + }, + { + "epoch": 0.1662027833001988, + "grad_norm": 12.568775177001953, + "learning_rate": 4.962795693175213e-06, + "loss": 0.1615, + "num_input_tokens_seen": 2480576, + "step": 1254 + }, + { + "epoch": 0.1663353214049039, + "grad_norm": 0.4570324718952179, + "learning_rate": 4.962736004234429e-06, + "loss": 0.002, + "num_input_tokens_seen": 2482216, + "step": 1255 + }, + { + "epoch": 0.16646785950960902, + "grad_norm": 10.312764167785645, + "learning_rate": 4.962676267810395e-06, + "loss": 0.2164, + "num_input_tokens_seen": 2484192, + "step": 1256 + }, + { + "epoch": 0.1666003976143141, + "grad_norm": 14.856953620910645, + "learning_rate": 4.962616483904263e-06, + "loss": 0.2962, + "num_input_tokens_seen": 2485928, + "step": 1257 + }, + { + "epoch": 0.16673293571901923, + "grad_norm": 20.90708351135254, + "learning_rate": 4.962556652517188e-06, + "loss": 0.458, + "num_input_tokens_seen": 2487856, + "step": 1258 + }, + { + "epoch": 0.16686547382372433, + "grad_norm": 0.3233267664909363, + "learning_rate": 4.962496773650322e-06, + "loss": 0.0018, + "num_input_tokens_seen": 2489248, + "step": 1259 + }, + { + "epoch": 0.16699801192842942, + "grad_norm": 20.04923439025879, + "learning_rate": 4.962436847304818e-06, + "loss": 0.3699, + "num_input_tokens_seen": 2491816, + "step": 1260 + }, + { + "epoch": 0.16713055003313454, + "grad_norm": 23.092763900756836, + "learning_rate": 4.962376873481833e-06, + "loss": 0.7277, + "num_input_tokens_seen": 2494112, + "step": 1261 + }, + { + "epoch": 0.16726308813783963, + "grad_norm": 14.853482246398926, + "learning_rate": 4.962316852182523e-06, + "loss": 0.4203, + "num_input_tokens_seen": 2495800, + "step": 1262 + }, + { + "epoch": 0.16739562624254473, + "grad_norm": 8.015201568603516, + "learning_rate": 4.9622567834080475e-06, + "loss": 0.1154, + "num_input_tokens_seen": 2497704, + "step": 1263 + }, + { + "epoch": 0.16752816434724985, + "grad_norm": 11.065986633300781, + "learning_rate": 4.96219666715956e-06, + "loss": 0.396, + "num_input_tokens_seen": 2500376, + "step": 1264 + }, + { + "epoch": 0.16766070245195494, + "grad_norm": 7.045234680175781, + "learning_rate": 4.962136503438224e-06, + "loss": 0.2278, + "num_input_tokens_seen": 2501608, + "step": 1265 + }, + { + "epoch": 0.16779324055666003, + "grad_norm": 18.814783096313477, + "learning_rate": 4.962076292245197e-06, + "loss": 0.6398, + "num_input_tokens_seen": 2504376, + "step": 1266 + }, + { + "epoch": 0.16792577866136515, + "grad_norm": 8.410832405090332, + "learning_rate": 4.962016033581641e-06, + "loss": 0.0826, + "num_input_tokens_seen": 2506360, + "step": 1267 + }, + { + "epoch": 0.16805831676607025, + "grad_norm": 9.72460651397705, + "learning_rate": 4.961955727448716e-06, + "loss": 0.0395, + "num_input_tokens_seen": 2507784, + "step": 1268 + }, + { + "epoch": 0.16819085487077534, + "grad_norm": 6.11878776550293, + "learning_rate": 4.961895373847588e-06, + "loss": 0.1862, + "num_input_tokens_seen": 2509576, + "step": 1269 + }, + { + "epoch": 0.16832339297548046, + "grad_norm": 14.088763236999512, + "learning_rate": 4.961834972779418e-06, + "loss": 0.253, + "num_input_tokens_seen": 2511480, + "step": 1270 + }, + { + "epoch": 0.16845593108018556, + "grad_norm": 12.575016021728516, + "learning_rate": 4.961774524245371e-06, + "loss": 0.1721, + "num_input_tokens_seen": 2513424, + "step": 1271 + }, + { + "epoch": 0.16858846918489065, + "grad_norm": 7.279139518737793, + "learning_rate": 4.9617140282466136e-06, + "loss": 0.2121, + "num_input_tokens_seen": 2515968, + "step": 1272 + }, + { + "epoch": 0.16872100728959577, + "grad_norm": 14.74572467803955, + "learning_rate": 4.9616534847843115e-06, + "loss": 0.1213, + "num_input_tokens_seen": 2517824, + "step": 1273 + }, + { + "epoch": 0.16885354539430086, + "grad_norm": 0.7207683324813843, + "learning_rate": 4.9615928938596305e-06, + "loss": 0.0039, + "num_input_tokens_seen": 2519168, + "step": 1274 + }, + { + "epoch": 0.16898608349900596, + "grad_norm": 0.6745265126228333, + "learning_rate": 4.961532255473742e-06, + "loss": 0.0037, + "num_input_tokens_seen": 2522008, + "step": 1275 + }, + { + "epoch": 0.16911862160371108, + "grad_norm": 19.08082389831543, + "learning_rate": 4.961471569627813e-06, + "loss": 0.3813, + "num_input_tokens_seen": 2523960, + "step": 1276 + }, + { + "epoch": 0.16925115970841617, + "grad_norm": 14.044391632080078, + "learning_rate": 4.961410836323014e-06, + "loss": 0.3901, + "num_input_tokens_seen": 2526504, + "step": 1277 + }, + { + "epoch": 0.16938369781312126, + "grad_norm": 6.240870952606201, + "learning_rate": 4.961350055560516e-06, + "loss": 0.1013, + "num_input_tokens_seen": 2528200, + "step": 1278 + }, + { + "epoch": 0.16951623591782639, + "grad_norm": 0.1938682645559311, + "learning_rate": 4.961289227341491e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2529608, + "step": 1279 + }, + { + "epoch": 0.16964877402253148, + "grad_norm": 70.04135131835938, + "learning_rate": 4.961228351667111e-06, + "loss": 0.9064, + "num_input_tokens_seen": 2532488, + "step": 1280 + }, + { + "epoch": 0.16978131212723657, + "grad_norm": 0.11638358235359192, + "learning_rate": 4.961167428538552e-06, + "loss": 0.0006, + "num_input_tokens_seen": 2533640, + "step": 1281 + }, + { + "epoch": 0.1699138502319417, + "grad_norm": 13.382452964782715, + "learning_rate": 4.961106457956986e-06, + "loss": 0.3132, + "num_input_tokens_seen": 2535384, + "step": 1282 + }, + { + "epoch": 0.1700463883366468, + "grad_norm": 12.490396499633789, + "learning_rate": 4.961045439923589e-06, + "loss": 0.2024, + "num_input_tokens_seen": 2537776, + "step": 1283 + }, + { + "epoch": 0.17017892644135188, + "grad_norm": 8.545411109924316, + "learning_rate": 4.9609843744395405e-06, + "loss": 0.272, + "num_input_tokens_seen": 2540064, + "step": 1284 + }, + { + "epoch": 0.170311464546057, + "grad_norm": 0.04541824758052826, + "learning_rate": 4.960923261506014e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2541312, + "step": 1285 + }, + { + "epoch": 0.1704440026507621, + "grad_norm": 11.121861457824707, + "learning_rate": 4.960862101124189e-06, + "loss": 0.2936, + "num_input_tokens_seen": 2543048, + "step": 1286 + }, + { + "epoch": 0.1705765407554672, + "grad_norm": 15.224230766296387, + "learning_rate": 4.960800893295246e-06, + "loss": 0.3807, + "num_input_tokens_seen": 2544344, + "step": 1287 + }, + { + "epoch": 0.1707090788601723, + "grad_norm": 6.467791557312012, + "learning_rate": 4.960739638020363e-06, + "loss": 0.0913, + "num_input_tokens_seen": 2546464, + "step": 1288 + }, + { + "epoch": 0.1708416169648774, + "grad_norm": 14.586759567260742, + "learning_rate": 4.960678335300723e-06, + "loss": 0.4684, + "num_input_tokens_seen": 2548840, + "step": 1289 + }, + { + "epoch": 0.1709741550695825, + "grad_norm": 0.07136260718107224, + "learning_rate": 4.960616985137507e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2550432, + "step": 1290 + }, + { + "epoch": 0.17110669317428762, + "grad_norm": 0.47577252984046936, + "learning_rate": 4.960555587531898e-06, + "loss": 0.0023, + "num_input_tokens_seen": 2552160, + "step": 1291 + }, + { + "epoch": 0.1712392312789927, + "grad_norm": 13.335426330566406, + "learning_rate": 4.960494142485079e-06, + "loss": 0.256, + "num_input_tokens_seen": 2553880, + "step": 1292 + }, + { + "epoch": 0.1713717693836978, + "grad_norm": 13.659242630004883, + "learning_rate": 4.960432649998237e-06, + "loss": 0.2444, + "num_input_tokens_seen": 2555496, + "step": 1293 + }, + { + "epoch": 0.17150430748840292, + "grad_norm": 17.66350555419922, + "learning_rate": 4.960371110072556e-06, + "loss": 0.4865, + "num_input_tokens_seen": 2557240, + "step": 1294 + }, + { + "epoch": 0.17163684559310802, + "grad_norm": 0.0468173585832119, + "learning_rate": 4.960309522709222e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2558608, + "step": 1295 + }, + { + "epoch": 0.1717693836978131, + "grad_norm": 12.314399719238281, + "learning_rate": 4.960247887909423e-06, + "loss": 0.5134, + "num_input_tokens_seen": 2560296, + "step": 1296 + }, + { + "epoch": 0.17190192180251823, + "grad_norm": 7.6465373039245605, + "learning_rate": 4.960186205674348e-06, + "loss": 0.2015, + "num_input_tokens_seen": 2563136, + "step": 1297 + }, + { + "epoch": 0.17203445990722332, + "grad_norm": 7.99665641784668, + "learning_rate": 4.960124476005185e-06, + "loss": 0.1211, + "num_input_tokens_seen": 2564800, + "step": 1298 + }, + { + "epoch": 0.17216699801192842, + "grad_norm": 5.727914810180664, + "learning_rate": 4.960062698903126e-06, + "loss": 0.0384, + "num_input_tokens_seen": 2566536, + "step": 1299 + }, + { + "epoch": 0.17229953611663354, + "grad_norm": 9.787583351135254, + "learning_rate": 4.960000874369361e-06, + "loss": 0.2331, + "num_input_tokens_seen": 2568440, + "step": 1300 + }, + { + "epoch": 0.17243207422133863, + "grad_norm": 29.9659481048584, + "learning_rate": 4.959939002405081e-06, + "loss": 0.7485, + "num_input_tokens_seen": 2570344, + "step": 1301 + }, + { + "epoch": 0.17256461232604373, + "grad_norm": 4.79191255569458, + "learning_rate": 4.95987708301148e-06, + "loss": 0.1534, + "num_input_tokens_seen": 2572056, + "step": 1302 + }, + { + "epoch": 0.17269715043074885, + "grad_norm": 0.05787365138530731, + "learning_rate": 4.959815116189753e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2573704, + "step": 1303 + }, + { + "epoch": 0.17282968853545394, + "grad_norm": 0.05866735056042671, + "learning_rate": 4.959753101941093e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2575800, + "step": 1304 + }, + { + "epoch": 0.17296222664015903, + "grad_norm": 22.51832389831543, + "learning_rate": 4.959691040266697e-06, + "loss": 0.6, + "num_input_tokens_seen": 2577216, + "step": 1305 + }, + { + "epoch": 0.17309476474486415, + "grad_norm": 6.810016632080078, + "learning_rate": 4.95962893116776e-06, + "loss": 0.1055, + "num_input_tokens_seen": 2579216, + "step": 1306 + }, + { + "epoch": 0.17322730284956925, + "grad_norm": 10.866792678833008, + "learning_rate": 4.9595667746454805e-06, + "loss": 0.1586, + "num_input_tokens_seen": 2580720, + "step": 1307 + }, + { + "epoch": 0.17335984095427434, + "grad_norm": 4.257212162017822, + "learning_rate": 4.959504570701057e-06, + "loss": 0.0613, + "num_input_tokens_seen": 2584008, + "step": 1308 + }, + { + "epoch": 0.17349237905897946, + "grad_norm": 7.145122528076172, + "learning_rate": 4.959442319335689e-06, + "loss": 0.133, + "num_input_tokens_seen": 2586456, + "step": 1309 + }, + { + "epoch": 0.17362491716368456, + "grad_norm": 12.153865814208984, + "learning_rate": 4.959380020550576e-06, + "loss": 0.3231, + "num_input_tokens_seen": 2587840, + "step": 1310 + }, + { + "epoch": 0.17375745526838965, + "grad_norm": 33.809593200683594, + "learning_rate": 4.95931767434692e-06, + "loss": 0.7073, + "num_input_tokens_seen": 2589544, + "step": 1311 + }, + { + "epoch": 0.17388999337309477, + "grad_norm": 22.8640079498291, + "learning_rate": 4.959255280725921e-06, + "loss": 0.4314, + "num_input_tokens_seen": 2591984, + "step": 1312 + }, + { + "epoch": 0.17402253147779986, + "grad_norm": 0.2230100929737091, + "learning_rate": 4.959192839688786e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2593728, + "step": 1313 + }, + { + "epoch": 0.17415506958250496, + "grad_norm": 27.39137077331543, + "learning_rate": 4.959130351236715e-06, + "loss": 1.2096, + "num_input_tokens_seen": 2596560, + "step": 1314 + }, + { + "epoch": 0.17428760768721008, + "grad_norm": 7.179905414581299, + "learning_rate": 4.959067815370915e-06, + "loss": 0.0992, + "num_input_tokens_seen": 2598832, + "step": 1315 + }, + { + "epoch": 0.17442014579191517, + "grad_norm": 12.255276679992676, + "learning_rate": 4.959005232092591e-06, + "loss": 0.3726, + "num_input_tokens_seen": 2600504, + "step": 1316 + }, + { + "epoch": 0.1745526838966203, + "grad_norm": 0.24817180633544922, + "learning_rate": 4.958942601402949e-06, + "loss": 0.0013, + "num_input_tokens_seen": 2602184, + "step": 1317 + }, + { + "epoch": 0.17468522200132539, + "grad_norm": 17.49175262451172, + "learning_rate": 4.958879923303198e-06, + "loss": 0.4214, + "num_input_tokens_seen": 2603912, + "step": 1318 + }, + { + "epoch": 0.17481776010603048, + "grad_norm": 15.520642280578613, + "learning_rate": 4.958817197794545e-06, + "loss": 0.5072, + "num_input_tokens_seen": 2605640, + "step": 1319 + }, + { + "epoch": 0.1749502982107356, + "grad_norm": 7.988204479217529, + "learning_rate": 4.958754424878202e-06, + "loss": 0.1501, + "num_input_tokens_seen": 2608952, + "step": 1320 + }, + { + "epoch": 0.1750828363154407, + "grad_norm": 14.617895126342773, + "learning_rate": 4.958691604555376e-06, + "loss": 0.4428, + "num_input_tokens_seen": 2610320, + "step": 1321 + }, + { + "epoch": 0.1752153744201458, + "grad_norm": 8.387760162353516, + "learning_rate": 4.9586287368272805e-06, + "loss": 0.2063, + "num_input_tokens_seen": 2612480, + "step": 1322 + }, + { + "epoch": 0.1753479125248509, + "grad_norm": 0.3168196380138397, + "learning_rate": 4.958565821695126e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2614824, + "step": 1323 + }, + { + "epoch": 0.175480450629556, + "grad_norm": 5.0695576667785645, + "learning_rate": 4.958502859160127e-06, + "loss": 0.1005, + "num_input_tokens_seen": 2618512, + "step": 1324 + }, + { + "epoch": 0.1756129887342611, + "grad_norm": 21.439069747924805, + "learning_rate": 4.958439849223496e-06, + "loss": 0.6034, + "num_input_tokens_seen": 2621664, + "step": 1325 + }, + { + "epoch": 0.17574552683896622, + "grad_norm": 10.268298149108887, + "learning_rate": 4.95837679188645e-06, + "loss": 0.0392, + "num_input_tokens_seen": 2623624, + "step": 1326 + }, + { + "epoch": 0.1758780649436713, + "grad_norm": 15.390063285827637, + "learning_rate": 4.9583136871502025e-06, + "loss": 0.3062, + "num_input_tokens_seen": 2625328, + "step": 1327 + }, + { + "epoch": 0.1760106030483764, + "grad_norm": 13.129558563232422, + "learning_rate": 4.958250535015972e-06, + "loss": 0.4096, + "num_input_tokens_seen": 2627464, + "step": 1328 + }, + { + "epoch": 0.17614314115308152, + "grad_norm": 16.459684371948242, + "learning_rate": 4.958187335484974e-06, + "loss": 0.5073, + "num_input_tokens_seen": 2630224, + "step": 1329 + }, + { + "epoch": 0.17627567925778662, + "grad_norm": 6.999892234802246, + "learning_rate": 4.9581240885584295e-06, + "loss": 0.2283, + "num_input_tokens_seen": 2632296, + "step": 1330 + }, + { + "epoch": 0.1764082173624917, + "grad_norm": 4.824463367462158, + "learning_rate": 4.958060794237557e-06, + "loss": 0.1857, + "num_input_tokens_seen": 2633848, + "step": 1331 + }, + { + "epoch": 0.17654075546719683, + "grad_norm": 0.5638998746871948, + "learning_rate": 4.957997452523576e-06, + "loss": 0.0031, + "num_input_tokens_seen": 2635456, + "step": 1332 + }, + { + "epoch": 0.17667329357190192, + "grad_norm": 8.772820472717285, + "learning_rate": 4.957934063417708e-06, + "loss": 0.1095, + "num_input_tokens_seen": 2638112, + "step": 1333 + }, + { + "epoch": 0.17680583167660702, + "grad_norm": 18.29918670654297, + "learning_rate": 4.957870626921177e-06, + "loss": 0.7832, + "num_input_tokens_seen": 2639760, + "step": 1334 + }, + { + "epoch": 0.17693836978131214, + "grad_norm": 23.334012985229492, + "learning_rate": 4.957807143035204e-06, + "loss": 0.2197, + "num_input_tokens_seen": 2641640, + "step": 1335 + }, + { + "epoch": 0.17707090788601723, + "grad_norm": 4.936501979827881, + "learning_rate": 4.957743611761013e-06, + "loss": 0.0911, + "num_input_tokens_seen": 2642944, + "step": 1336 + }, + { + "epoch": 0.17720344599072232, + "grad_norm": 11.561747550964355, + "learning_rate": 4.957680033099831e-06, + "loss": 0.2882, + "num_input_tokens_seen": 2644568, + "step": 1337 + }, + { + "epoch": 0.17733598409542745, + "grad_norm": 0.17479321360588074, + "learning_rate": 4.957616407052882e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2645736, + "step": 1338 + }, + { + "epoch": 0.17746852220013254, + "grad_norm": 7.629298686981201, + "learning_rate": 4.957552733621393e-06, + "loss": 0.1594, + "num_input_tokens_seen": 2647336, + "step": 1339 + }, + { + "epoch": 0.17760106030483763, + "grad_norm": 11.04284954071045, + "learning_rate": 4.957489012806591e-06, + "loss": 0.1328, + "num_input_tokens_seen": 2649664, + "step": 1340 + }, + { + "epoch": 0.17773359840954275, + "grad_norm": 6.219261169433594, + "learning_rate": 4.957425244609707e-06, + "loss": 0.1289, + "num_input_tokens_seen": 2651160, + "step": 1341 + }, + { + "epoch": 0.17786613651424785, + "grad_norm": 5.224959850311279, + "learning_rate": 4.957361429031969e-06, + "loss": 0.1162, + "num_input_tokens_seen": 2652888, + "step": 1342 + }, + { + "epoch": 0.17799867461895294, + "grad_norm": 18.43150520324707, + "learning_rate": 4.957297566074607e-06, + "loss": 0.3498, + "num_input_tokens_seen": 2654760, + "step": 1343 + }, + { + "epoch": 0.17813121272365806, + "grad_norm": 0.18989135324954987, + "learning_rate": 4.957233655738852e-06, + "loss": 0.001, + "num_input_tokens_seen": 2655968, + "step": 1344 + }, + { + "epoch": 0.17826375082836315, + "grad_norm": 0.4958026111125946, + "learning_rate": 4.9571696980259376e-06, + "loss": 0.0026, + "num_input_tokens_seen": 2657848, + "step": 1345 + }, + { + "epoch": 0.17839628893306825, + "grad_norm": 10.45175552368164, + "learning_rate": 4.9571056929370965e-06, + "loss": 0.3346, + "num_input_tokens_seen": 2659592, + "step": 1346 + }, + { + "epoch": 0.17852882703777337, + "grad_norm": 1.3028470277786255, + "learning_rate": 4.957041640473562e-06, + "loss": 0.0056, + "num_input_tokens_seen": 2661432, + "step": 1347 + }, + { + "epoch": 0.17866136514247846, + "grad_norm": 0.16366267204284668, + "learning_rate": 4.95697754063657e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2662904, + "step": 1348 + }, + { + "epoch": 0.17879390324718356, + "grad_norm": 8.679288864135742, + "learning_rate": 4.956913393427356e-06, + "loss": 0.0858, + "num_input_tokens_seen": 2664200, + "step": 1349 + }, + { + "epoch": 0.17892644135188868, + "grad_norm": 7.6977925300598145, + "learning_rate": 4.956849198847157e-06, + "loss": 0.155, + "num_input_tokens_seen": 2666392, + "step": 1350 + }, + { + "epoch": 0.17905897945659377, + "grad_norm": 4.024433612823486, + "learning_rate": 4.95678495689721e-06, + "loss": 0.0219, + "num_input_tokens_seen": 2668096, + "step": 1351 + }, + { + "epoch": 0.17919151756129886, + "grad_norm": 16.507389068603516, + "learning_rate": 4.956720667578755e-06, + "loss": 0.3301, + "num_input_tokens_seen": 2669976, + "step": 1352 + }, + { + "epoch": 0.17932405566600398, + "grad_norm": 12.342925071716309, + "learning_rate": 4.95665633089303e-06, + "loss": 0.2227, + "num_input_tokens_seen": 2671896, + "step": 1353 + }, + { + "epoch": 0.17945659377070908, + "grad_norm": 16.24755859375, + "learning_rate": 4.956591946841277e-06, + "loss": 0.2726, + "num_input_tokens_seen": 2674160, + "step": 1354 + }, + { + "epoch": 0.17958913187541417, + "grad_norm": 15.209321975708008, + "learning_rate": 4.956527515424736e-06, + "loss": 0.6729, + "num_input_tokens_seen": 2677000, + "step": 1355 + }, + { + "epoch": 0.1797216699801193, + "grad_norm": 15.547550201416016, + "learning_rate": 4.95646303664465e-06, + "loss": 0.1294, + "num_input_tokens_seen": 2679720, + "step": 1356 + }, + { + "epoch": 0.17985420808482439, + "grad_norm": 0.04554541036486626, + "learning_rate": 4.956398510502261e-06, + "loss": 0.0002, + "num_input_tokens_seen": 2680728, + "step": 1357 + }, + { + "epoch": 0.17998674618952948, + "grad_norm": 0.07686033844947815, + "learning_rate": 4.956333936998816e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2683136, + "step": 1358 + }, + { + "epoch": 0.1801192842942346, + "grad_norm": 13.693772315979004, + "learning_rate": 4.956269316135557e-06, + "loss": 0.5034, + "num_input_tokens_seen": 2684736, + "step": 1359 + }, + { + "epoch": 0.1802518223989397, + "grad_norm": 10.692391395568848, + "learning_rate": 4.956204647913731e-06, + "loss": 0.333, + "num_input_tokens_seen": 2686952, + "step": 1360 + }, + { + "epoch": 0.1803843605036448, + "grad_norm": 0.030914820730686188, + "learning_rate": 4.956139932334586e-06, + "loss": 0.0002, + "num_input_tokens_seen": 2689360, + "step": 1361 + }, + { + "epoch": 0.1805168986083499, + "grad_norm": 7.450273036956787, + "learning_rate": 4.956075169399368e-06, + "loss": 0.1463, + "num_input_tokens_seen": 2691240, + "step": 1362 + }, + { + "epoch": 0.180649436713055, + "grad_norm": 22.607311248779297, + "learning_rate": 4.956010359109326e-06, + "loss": 0.3636, + "num_input_tokens_seen": 2692696, + "step": 1363 + }, + { + "epoch": 0.1807819748177601, + "grad_norm": 9.848207473754883, + "learning_rate": 4.955945501465711e-06, + "loss": 0.1439, + "num_input_tokens_seen": 2695152, + "step": 1364 + }, + { + "epoch": 0.18091451292246521, + "grad_norm": 16.704357147216797, + "learning_rate": 4.955880596469771e-06, + "loss": 0.3333, + "num_input_tokens_seen": 2697160, + "step": 1365 + }, + { + "epoch": 0.1810470510271703, + "grad_norm": 0.12614494562149048, + "learning_rate": 4.95581564412276e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2698680, + "step": 1366 + }, + { + "epoch": 0.1811795891318754, + "grad_norm": 3.5355217456817627, + "learning_rate": 4.955750644425928e-06, + "loss": 0.0901, + "num_input_tokens_seen": 2700512, + "step": 1367 + }, + { + "epoch": 0.18131212723658052, + "grad_norm": 9.856828689575195, + "learning_rate": 4.95568559738053e-06, + "loss": 0.2626, + "num_input_tokens_seen": 2702360, + "step": 1368 + }, + { + "epoch": 0.18144466534128562, + "grad_norm": 5.182863712310791, + "learning_rate": 4.9556205029878205e-06, + "loss": 0.1628, + "num_input_tokens_seen": 2704136, + "step": 1369 + }, + { + "epoch": 0.1815772034459907, + "grad_norm": 3.907506227493286, + "learning_rate": 4.955555361249053e-06, + "loss": 0.0814, + "num_input_tokens_seen": 2706224, + "step": 1370 + }, + { + "epoch": 0.18170974155069583, + "grad_norm": 9.75102710723877, + "learning_rate": 4.9554901721654846e-06, + "loss": 0.0714, + "num_input_tokens_seen": 2708560, + "step": 1371 + }, + { + "epoch": 0.18184227965540092, + "grad_norm": 11.964812278747559, + "learning_rate": 4.955424935738371e-06, + "loss": 0.3374, + "num_input_tokens_seen": 2710344, + "step": 1372 + }, + { + "epoch": 0.18197481776010602, + "grad_norm": 6.92396354675293, + "learning_rate": 4.95535965196897e-06, + "loss": 0.0887, + "num_input_tokens_seen": 2712272, + "step": 1373 + }, + { + "epoch": 0.18210735586481114, + "grad_norm": 22.524127960205078, + "learning_rate": 4.955294320858543e-06, + "loss": 0.5707, + "num_input_tokens_seen": 2713728, + "step": 1374 + }, + { + "epoch": 0.18223989396951623, + "grad_norm": 0.24901993572711945, + "learning_rate": 4.955228942408347e-06, + "loss": 0.0013, + "num_input_tokens_seen": 2715912, + "step": 1375 + }, + { + "epoch": 0.18237243207422135, + "grad_norm": 12.116771697998047, + "learning_rate": 4.9551635166196425e-06, + "loss": 0.3255, + "num_input_tokens_seen": 2718016, + "step": 1376 + }, + { + "epoch": 0.18250497017892645, + "grad_norm": 7.756706714630127, + "learning_rate": 4.955098043493692e-06, + "loss": 0.2238, + "num_input_tokens_seen": 2720272, + "step": 1377 + }, + { + "epoch": 0.18263750828363154, + "grad_norm": 3.5088140964508057, + "learning_rate": 4.955032523031757e-06, + "loss": 0.0205, + "num_input_tokens_seen": 2721824, + "step": 1378 + }, + { + "epoch": 0.18277004638833666, + "grad_norm": 15.379654884338379, + "learning_rate": 4.954966955235103e-06, + "loss": 0.4006, + "num_input_tokens_seen": 2724432, + "step": 1379 + }, + { + "epoch": 0.18290258449304175, + "grad_norm": 10.215106964111328, + "learning_rate": 4.954901340104991e-06, + "loss": 0.0775, + "num_input_tokens_seen": 2726392, + "step": 1380 + }, + { + "epoch": 0.18303512259774685, + "grad_norm": 2.4512383937835693, + "learning_rate": 4.954835677642688e-06, + "loss": 0.013, + "num_input_tokens_seen": 2727536, + "step": 1381 + }, + { + "epoch": 0.18316766070245197, + "grad_norm": 3.808758497238159, + "learning_rate": 4.95476996784946e-06, + "loss": 0.0248, + "num_input_tokens_seen": 2729104, + "step": 1382 + }, + { + "epoch": 0.18330019880715706, + "grad_norm": 17.573938369750977, + "learning_rate": 4.954704210726573e-06, + "loss": 0.3097, + "num_input_tokens_seen": 2731288, + "step": 1383 + }, + { + "epoch": 0.18343273691186215, + "grad_norm": 0.7857549786567688, + "learning_rate": 4.9546384062752965e-06, + "loss": 0.004, + "num_input_tokens_seen": 2733352, + "step": 1384 + }, + { + "epoch": 0.18356527501656728, + "grad_norm": 0.9988700151443481, + "learning_rate": 4.954572554496897e-06, + "loss": 0.0051, + "num_input_tokens_seen": 2735472, + "step": 1385 + }, + { + "epoch": 0.18369781312127237, + "grad_norm": 15.075550079345703, + "learning_rate": 4.954506655392645e-06, + "loss": 0.237, + "num_input_tokens_seen": 2737840, + "step": 1386 + }, + { + "epoch": 0.18383035122597746, + "grad_norm": 17.40070915222168, + "learning_rate": 4.954440708963813e-06, + "loss": 0.3638, + "num_input_tokens_seen": 2739824, + "step": 1387 + }, + { + "epoch": 0.18396288933068258, + "grad_norm": 14.727279663085938, + "learning_rate": 4.9543747152116695e-06, + "loss": 0.3716, + "num_input_tokens_seen": 2741912, + "step": 1388 + }, + { + "epoch": 0.18409542743538768, + "grad_norm": 0.0239323228597641, + "learning_rate": 4.954308674137489e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2743536, + "step": 1389 + }, + { + "epoch": 0.18422796554009277, + "grad_norm": 5.457317352294922, + "learning_rate": 4.9542425857425435e-06, + "loss": 0.1929, + "num_input_tokens_seen": 2745488, + "step": 1390 + }, + { + "epoch": 0.1843605036447979, + "grad_norm": 14.15846061706543, + "learning_rate": 4.954176450028108e-06, + "loss": 0.1807, + "num_input_tokens_seen": 2747352, + "step": 1391 + }, + { + "epoch": 0.18449304174950298, + "grad_norm": 10.494392395019531, + "learning_rate": 4.954110266995458e-06, + "loss": 0.1434, + "num_input_tokens_seen": 2749960, + "step": 1392 + }, + { + "epoch": 0.18462557985420808, + "grad_norm": 0.0084645701572299, + "learning_rate": 4.954044036645869e-06, + "loss": 0.0, + "num_input_tokens_seen": 2751328, + "step": 1393 + }, + { + "epoch": 0.1847581179589132, + "grad_norm": 8.417326927185059, + "learning_rate": 4.953977758980618e-06, + "loss": 0.2025, + "num_input_tokens_seen": 2753480, + "step": 1394 + }, + { + "epoch": 0.1848906560636183, + "grad_norm": 2.6627230644226074, + "learning_rate": 4.953911434000982e-06, + "loss": 0.0387, + "num_input_tokens_seen": 2755088, + "step": 1395 + }, + { + "epoch": 0.18502319416832338, + "grad_norm": 4.448336124420166, + "learning_rate": 4.953845061708241e-06, + "loss": 0.0609, + "num_input_tokens_seen": 2756048, + "step": 1396 + }, + { + "epoch": 0.1851557322730285, + "grad_norm": 0.013358982279896736, + "learning_rate": 4.953778642103675e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2757576, + "step": 1397 + }, + { + "epoch": 0.1852882703777336, + "grad_norm": 0.014393574558198452, + "learning_rate": 4.953712175188564e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2759968, + "step": 1398 + }, + { + "epoch": 0.1854208084824387, + "grad_norm": 0.01428682915866375, + "learning_rate": 4.953645660964189e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2761224, + "step": 1399 + }, + { + "epoch": 0.1855533465871438, + "grad_norm": 5.122958183288574, + "learning_rate": 4.9535790994318335e-06, + "loss": 0.1171, + "num_input_tokens_seen": 2762648, + "step": 1400 + }, + { + "epoch": 0.1856858846918489, + "grad_norm": 4.081135272979736, + "learning_rate": 4.95351249059278e-06, + "loss": 0.1286, + "num_input_tokens_seen": 2764832, + "step": 1401 + }, + { + "epoch": 0.185818422796554, + "grad_norm": 0.06594186276197433, + "learning_rate": 4.953445834448314e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2766224, + "step": 1402 + }, + { + "epoch": 0.18595096090125912, + "grad_norm": 12.58669376373291, + "learning_rate": 4.9533791309997184e-06, + "loss": 0.202, + "num_input_tokens_seen": 2768408, + "step": 1403 + }, + { + "epoch": 0.18608349900596421, + "grad_norm": 11.852744102478027, + "learning_rate": 4.9533123802482815e-06, + "loss": 0.2999, + "num_input_tokens_seen": 2770896, + "step": 1404 + }, + { + "epoch": 0.1862160371106693, + "grad_norm": 17.630538940429688, + "learning_rate": 4.953245582195288e-06, + "loss": 0.4739, + "num_input_tokens_seen": 2773616, + "step": 1405 + }, + { + "epoch": 0.18634857521537443, + "grad_norm": 7.816521644592285, + "learning_rate": 4.953178736842029e-06, + "loss": 0.1411, + "num_input_tokens_seen": 2775952, + "step": 1406 + }, + { + "epoch": 0.18648111332007952, + "grad_norm": 15.505335807800293, + "learning_rate": 4.9531118441897915e-06, + "loss": 0.2839, + "num_input_tokens_seen": 2778184, + "step": 1407 + }, + { + "epoch": 0.18661365142478462, + "grad_norm": 29.322540283203125, + "learning_rate": 4.953044904239865e-06, + "loss": 0.3927, + "num_input_tokens_seen": 2780704, + "step": 1408 + }, + { + "epoch": 0.18674618952948974, + "grad_norm": 3.9190611839294434, + "learning_rate": 4.95297791699354e-06, + "loss": 0.143, + "num_input_tokens_seen": 2782800, + "step": 1409 + }, + { + "epoch": 0.18687872763419483, + "grad_norm": 16.224727630615234, + "learning_rate": 4.952910882452109e-06, + "loss": 0.2726, + "num_input_tokens_seen": 2785696, + "step": 1410 + }, + { + "epoch": 0.18701126573889992, + "grad_norm": 5.798166275024414, + "learning_rate": 4.9528438006168635e-06, + "loss": 0.176, + "num_input_tokens_seen": 2786904, + "step": 1411 + }, + { + "epoch": 0.18714380384360504, + "grad_norm": 11.637779235839844, + "learning_rate": 4.952776671489098e-06, + "loss": 0.2707, + "num_input_tokens_seen": 2788656, + "step": 1412 + }, + { + "epoch": 0.18727634194831014, + "grad_norm": 12.561522483825684, + "learning_rate": 4.952709495070106e-06, + "loss": 0.1834, + "num_input_tokens_seen": 2791176, + "step": 1413 + }, + { + "epoch": 0.18740888005301523, + "grad_norm": 20.759782791137695, + "learning_rate": 4.952642271361183e-06, + "loss": 0.4771, + "num_input_tokens_seen": 2792496, + "step": 1414 + }, + { + "epoch": 0.18754141815772035, + "grad_norm": 19.70482635498047, + "learning_rate": 4.952575000363625e-06, + "loss": 0.5119, + "num_input_tokens_seen": 2794128, + "step": 1415 + }, + { + "epoch": 0.18767395626242545, + "grad_norm": 4.772583961486816, + "learning_rate": 4.9525076820787285e-06, + "loss": 0.0587, + "num_input_tokens_seen": 2795328, + "step": 1416 + }, + { + "epoch": 0.18780649436713054, + "grad_norm": 10.307486534118652, + "learning_rate": 4.952440316507792e-06, + "loss": 0.157, + "num_input_tokens_seen": 2796784, + "step": 1417 + }, + { + "epoch": 0.18793903247183566, + "grad_norm": 13.984895706176758, + "learning_rate": 4.952372903652115e-06, + "loss": 0.4324, + "num_input_tokens_seen": 2798888, + "step": 1418 + }, + { + "epoch": 0.18807157057654075, + "grad_norm": 24.499588012695312, + "learning_rate": 4.9523054435129966e-06, + "loss": 0.7377, + "num_input_tokens_seen": 2801576, + "step": 1419 + }, + { + "epoch": 0.18820410868124585, + "grad_norm": 8.95081615447998, + "learning_rate": 4.952237936091737e-06, + "loss": 0.2374, + "num_input_tokens_seen": 2803160, + "step": 1420 + }, + { + "epoch": 0.18833664678595097, + "grad_norm": 3.977041721343994, + "learning_rate": 4.952170381389639e-06, + "loss": 0.056, + "num_input_tokens_seen": 2804536, + "step": 1421 + }, + { + "epoch": 0.18846918489065606, + "grad_norm": 11.694116592407227, + "learning_rate": 4.9521027794080035e-06, + "loss": 0.1135, + "num_input_tokens_seen": 2806728, + "step": 1422 + }, + { + "epoch": 0.18860172299536115, + "grad_norm": 13.62118148803711, + "learning_rate": 4.952035130148135e-06, + "loss": 0.3857, + "num_input_tokens_seen": 2809208, + "step": 1423 + }, + { + "epoch": 0.18873426110006628, + "grad_norm": 14.459735870361328, + "learning_rate": 4.9519674336113385e-06, + "loss": 0.2551, + "num_input_tokens_seen": 2810736, + "step": 1424 + }, + { + "epoch": 0.18886679920477137, + "grad_norm": 14.811407089233398, + "learning_rate": 4.951899689798917e-06, + "loss": 0.5976, + "num_input_tokens_seen": 2812088, + "step": 1425 + }, + { + "epoch": 0.18899933730947646, + "grad_norm": 9.987671852111816, + "learning_rate": 4.9518318987121794e-06, + "loss": 0.0825, + "num_input_tokens_seen": 2813752, + "step": 1426 + }, + { + "epoch": 0.18913187541418158, + "grad_norm": 11.869303703308105, + "learning_rate": 4.951764060352431e-06, + "loss": 0.2615, + "num_input_tokens_seen": 2816480, + "step": 1427 + }, + { + "epoch": 0.18926441351888668, + "grad_norm": 12.198988914489746, + "learning_rate": 4.9516961747209795e-06, + "loss": 0.1687, + "num_input_tokens_seen": 2818464, + "step": 1428 + }, + { + "epoch": 0.18939695162359177, + "grad_norm": 12.543244361877441, + "learning_rate": 4.951628241819134e-06, + "loss": 0.1593, + "num_input_tokens_seen": 2819760, + "step": 1429 + }, + { + "epoch": 0.1895294897282969, + "grad_norm": 8.581977844238281, + "learning_rate": 4.951560261648206e-06, + "loss": 0.1176, + "num_input_tokens_seen": 2822816, + "step": 1430 + }, + { + "epoch": 0.18966202783300198, + "grad_norm": 4.672897815704346, + "learning_rate": 4.951492234209504e-06, + "loss": 0.0523, + "num_input_tokens_seen": 2825256, + "step": 1431 + }, + { + "epoch": 0.18979456593770708, + "grad_norm": 8.391756057739258, + "learning_rate": 4.951424159504341e-06, + "loss": 0.128, + "num_input_tokens_seen": 2826968, + "step": 1432 + }, + { + "epoch": 0.1899271040424122, + "grad_norm": 4.2906599044799805, + "learning_rate": 4.951356037534028e-06, + "loss": 0.0305, + "num_input_tokens_seen": 2829144, + "step": 1433 + }, + { + "epoch": 0.1900596421471173, + "grad_norm": 0.6365682482719421, + "learning_rate": 4.951287868299881e-06, + "loss": 0.0033, + "num_input_tokens_seen": 2830688, + "step": 1434 + }, + { + "epoch": 0.1901921802518224, + "grad_norm": 24.61792755126953, + "learning_rate": 4.951219651803212e-06, + "loss": 0.4558, + "num_input_tokens_seen": 2833344, + "step": 1435 + }, + { + "epoch": 0.1903247183565275, + "grad_norm": 6.3319854736328125, + "learning_rate": 4.951151388045338e-06, + "loss": 0.1775, + "num_input_tokens_seen": 2835456, + "step": 1436 + }, + { + "epoch": 0.1904572564612326, + "grad_norm": 0.12330157309770584, + "learning_rate": 4.951083077027573e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2837296, + "step": 1437 + }, + { + "epoch": 0.19058979456593772, + "grad_norm": 2.628593683242798, + "learning_rate": 4.951014718751236e-06, + "loss": 0.0064, + "num_input_tokens_seen": 2840048, + "step": 1438 + }, + { + "epoch": 0.1907223326706428, + "grad_norm": 12.96270751953125, + "learning_rate": 4.950946313217645e-06, + "loss": 0.3344, + "num_input_tokens_seen": 2842872, + "step": 1439 + }, + { + "epoch": 0.1908548707753479, + "grad_norm": 0.4206317067146301, + "learning_rate": 4.950877860428117e-06, + "loss": 0.0025, + "num_input_tokens_seen": 2844112, + "step": 1440 + }, + { + "epoch": 0.19098740888005303, + "grad_norm": 7.179927825927734, + "learning_rate": 4.950809360383974e-06, + "loss": 0.1734, + "num_input_tokens_seen": 2846024, + "step": 1441 + }, + { + "epoch": 0.19111994698475812, + "grad_norm": 13.49063777923584, + "learning_rate": 4.950740813086535e-06, + "loss": 0.3759, + "num_input_tokens_seen": 2848992, + "step": 1442 + }, + { + "epoch": 0.19125248508946321, + "grad_norm": 16.809833526611328, + "learning_rate": 4.950672218537124e-06, + "loss": 0.6711, + "num_input_tokens_seen": 2852144, + "step": 1443 + }, + { + "epoch": 0.19138502319416834, + "grad_norm": 15.014547348022461, + "learning_rate": 4.95060357673706e-06, + "loss": 0.401, + "num_input_tokens_seen": 2853408, + "step": 1444 + }, + { + "epoch": 0.19151756129887343, + "grad_norm": 0.03233711048960686, + "learning_rate": 4.95053488768767e-06, + "loss": 0.0002, + "num_input_tokens_seen": 2854752, + "step": 1445 + }, + { + "epoch": 0.19165009940357852, + "grad_norm": 14.743435859680176, + "learning_rate": 4.9504661513902755e-06, + "loss": 0.5222, + "num_input_tokens_seen": 2856832, + "step": 1446 + }, + { + "epoch": 0.19178263750828364, + "grad_norm": 16.61276626586914, + "learning_rate": 4.950397367846204e-06, + "loss": 0.3905, + "num_input_tokens_seen": 2858616, + "step": 1447 + }, + { + "epoch": 0.19191517561298874, + "grad_norm": 10.526078224182129, + "learning_rate": 4.950328537056781e-06, + "loss": 0.3363, + "num_input_tokens_seen": 2860696, + "step": 1448 + }, + { + "epoch": 0.19204771371769383, + "grad_norm": 10.344022750854492, + "learning_rate": 4.950259659023333e-06, + "loss": 0.2589, + "num_input_tokens_seen": 2862856, + "step": 1449 + }, + { + "epoch": 0.19218025182239895, + "grad_norm": 10.606470108032227, + "learning_rate": 4.950190733747188e-06, + "loss": 0.2366, + "num_input_tokens_seen": 2865224, + "step": 1450 + }, + { + "epoch": 0.19231278992710404, + "grad_norm": 9.286369323730469, + "learning_rate": 4.950121761229676e-06, + "loss": 0.164, + "num_input_tokens_seen": 2866832, + "step": 1451 + }, + { + "epoch": 0.19244532803180914, + "grad_norm": 0.17270997166633606, + "learning_rate": 4.950052741472126e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2868712, + "step": 1452 + }, + { + "epoch": 0.19257786613651426, + "grad_norm": 0.11371482163667679, + "learning_rate": 4.949983674475869e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2870200, + "step": 1453 + }, + { + "epoch": 0.19271040424121935, + "grad_norm": 2.0509612560272217, + "learning_rate": 4.949914560242236e-06, + "loss": 0.0401, + "num_input_tokens_seen": 2872040, + "step": 1454 + }, + { + "epoch": 0.19284294234592445, + "grad_norm": 11.695093154907227, + "learning_rate": 4.949845398772561e-06, + "loss": 0.2868, + "num_input_tokens_seen": 2873384, + "step": 1455 + }, + { + "epoch": 0.19297548045062957, + "grad_norm": 3.2590997219085693, + "learning_rate": 4.949776190068176e-06, + "loss": 0.0603, + "num_input_tokens_seen": 2875848, + "step": 1456 + }, + { + "epoch": 0.19310801855533466, + "grad_norm": 0.27745962142944336, + "learning_rate": 4.949706934130417e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2877216, + "step": 1457 + }, + { + "epoch": 0.19324055666003975, + "grad_norm": 17.104896545410156, + "learning_rate": 4.949637630960618e-06, + "loss": 0.7062, + "num_input_tokens_seen": 2879584, + "step": 1458 + }, + { + "epoch": 0.19337309476474487, + "grad_norm": 11.767041206359863, + "learning_rate": 4.949568280560115e-06, + "loss": 0.3207, + "num_input_tokens_seen": 2881168, + "step": 1459 + }, + { + "epoch": 0.19350563286944997, + "grad_norm": 13.05449390411377, + "learning_rate": 4.949498882930246e-06, + "loss": 0.1772, + "num_input_tokens_seen": 2883136, + "step": 1460 + }, + { + "epoch": 0.19363817097415506, + "grad_norm": 2.6173017024993896, + "learning_rate": 4.949429438072348e-06, + "loss": 0.0118, + "num_input_tokens_seen": 2884720, + "step": 1461 + }, + { + "epoch": 0.19377070907886018, + "grad_norm": 0.624408483505249, + "learning_rate": 4.949359945987762e-06, + "loss": 0.0039, + "num_input_tokens_seen": 2886000, + "step": 1462 + }, + { + "epoch": 0.19390324718356527, + "grad_norm": 0.6071314811706543, + "learning_rate": 4.949290406677826e-06, + "loss": 0.0037, + "num_input_tokens_seen": 2887856, + "step": 1463 + }, + { + "epoch": 0.19403578528827037, + "grad_norm": 2.3573100566864014, + "learning_rate": 4.949220820143881e-06, + "loss": 0.0096, + "num_input_tokens_seen": 2889656, + "step": 1464 + }, + { + "epoch": 0.1941683233929755, + "grad_norm": 9.5718994140625, + "learning_rate": 4.949151186387269e-06, + "loss": 0.2236, + "num_input_tokens_seen": 2891584, + "step": 1465 + }, + { + "epoch": 0.19430086149768058, + "grad_norm": 9.640631675720215, + "learning_rate": 4.949081505409332e-06, + "loss": 0.1823, + "num_input_tokens_seen": 2893536, + "step": 1466 + }, + { + "epoch": 0.19443339960238568, + "grad_norm": 17.514127731323242, + "learning_rate": 4.949011777211415e-06, + "loss": 0.1424, + "num_input_tokens_seen": 2895704, + "step": 1467 + }, + { + "epoch": 0.1945659377070908, + "grad_norm": 0.2816193699836731, + "learning_rate": 4.948942001794861e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2896928, + "step": 1468 + }, + { + "epoch": 0.1946984758117959, + "grad_norm": 4.933318138122559, + "learning_rate": 4.948872179161016e-06, + "loss": 0.0433, + "num_input_tokens_seen": 2898712, + "step": 1469 + }, + { + "epoch": 0.19483101391650098, + "grad_norm": 0.1647079885005951, + "learning_rate": 4.948802309311226e-06, + "loss": 0.001, + "num_input_tokens_seen": 2900152, + "step": 1470 + }, + { + "epoch": 0.1949635520212061, + "grad_norm": 8.096887588500977, + "learning_rate": 4.948732392246838e-06, + "loss": 0.134, + "num_input_tokens_seen": 2902544, + "step": 1471 + }, + { + "epoch": 0.1950960901259112, + "grad_norm": 20.626953125, + "learning_rate": 4.9486624279692e-06, + "loss": 0.2312, + "num_input_tokens_seen": 2905952, + "step": 1472 + }, + { + "epoch": 0.1952286282306163, + "grad_norm": 0.09424714744091034, + "learning_rate": 4.948592416479662e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2908976, + "step": 1473 + }, + { + "epoch": 0.1953611663353214, + "grad_norm": 3.65250825881958, + "learning_rate": 4.9485223577795725e-06, + "loss": 0.0529, + "num_input_tokens_seen": 2911104, + "step": 1474 + }, + { + "epoch": 0.1954937044400265, + "grad_norm": 0.26873332262039185, + "learning_rate": 4.948452251870282e-06, + "loss": 0.0015, + "num_input_tokens_seen": 2913480, + "step": 1475 + }, + { + "epoch": 0.1956262425447316, + "grad_norm": 0.09667015820741653, + "learning_rate": 4.9483820987531436e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2915200, + "step": 1476 + }, + { + "epoch": 0.19575878064943672, + "grad_norm": 0.05408121645450592, + "learning_rate": 4.9483118984295095e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2916952, + "step": 1477 + }, + { + "epoch": 0.1958913187541418, + "grad_norm": 6.450794219970703, + "learning_rate": 4.948241650900733e-06, + "loss": 0.0441, + "num_input_tokens_seen": 2919096, + "step": 1478 + }, + { + "epoch": 0.1960238568588469, + "grad_norm": 0.02533072419464588, + "learning_rate": 4.948171356168168e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2920384, + "step": 1479 + }, + { + "epoch": 0.19615639496355203, + "grad_norm": 5.56210994720459, + "learning_rate": 4.948101014233171e-06, + "loss": 0.1898, + "num_input_tokens_seen": 2922064, + "step": 1480 + }, + { + "epoch": 0.19628893306825712, + "grad_norm": 24.328418731689453, + "learning_rate": 4.948030625097097e-06, + "loss": 0.2696, + "num_input_tokens_seen": 2925008, + "step": 1481 + }, + { + "epoch": 0.19642147117296221, + "grad_norm": 15.620478630065918, + "learning_rate": 4.947960188761304e-06, + "loss": 0.402, + "num_input_tokens_seen": 2927296, + "step": 1482 + }, + { + "epoch": 0.19655400927766734, + "grad_norm": 19.02410125732422, + "learning_rate": 4.9478897052271504e-06, + "loss": 0.2184, + "num_input_tokens_seen": 2929920, + "step": 1483 + }, + { + "epoch": 0.19668654738237243, + "grad_norm": 17.353513717651367, + "learning_rate": 4.9478191744959935e-06, + "loss": 0.4118, + "num_input_tokens_seen": 2931448, + "step": 1484 + }, + { + "epoch": 0.19681908548707752, + "grad_norm": 14.65807819366455, + "learning_rate": 4.947748596569195e-06, + "loss": 0.4383, + "num_input_tokens_seen": 2933464, + "step": 1485 + }, + { + "epoch": 0.19695162359178264, + "grad_norm": 0.013869226910173893, + "learning_rate": 4.947677971448114e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2934832, + "step": 1486 + }, + { + "epoch": 0.19708416169648774, + "grad_norm": 4.815378189086914, + "learning_rate": 4.947607299134114e-06, + "loss": 0.122, + "num_input_tokens_seen": 2937264, + "step": 1487 + }, + { + "epoch": 0.19721669980119283, + "grad_norm": 8.090982437133789, + "learning_rate": 4.947536579628557e-06, + "loss": 0.1378, + "num_input_tokens_seen": 2938688, + "step": 1488 + }, + { + "epoch": 0.19734923790589795, + "grad_norm": 30.305927276611328, + "learning_rate": 4.947465812932806e-06, + "loss": 1.0197, + "num_input_tokens_seen": 2941152, + "step": 1489 + }, + { + "epoch": 0.19748177601060304, + "grad_norm": 0.3082437813282013, + "learning_rate": 4.947394999048225e-06, + "loss": 0.0016, + "num_input_tokens_seen": 2942936, + "step": 1490 + }, + { + "epoch": 0.19761431411530814, + "grad_norm": 14.401032447814941, + "learning_rate": 4.947324137976181e-06, + "loss": 0.3299, + "num_input_tokens_seen": 2944352, + "step": 1491 + }, + { + "epoch": 0.19774685222001326, + "grad_norm": 6.82422399520874, + "learning_rate": 4.947253229718039e-06, + "loss": 0.1891, + "num_input_tokens_seen": 2946280, + "step": 1492 + }, + { + "epoch": 0.19787939032471835, + "grad_norm": 9.745396614074707, + "learning_rate": 4.947182274275166e-06, + "loss": 0.229, + "num_input_tokens_seen": 2948488, + "step": 1493 + }, + { + "epoch": 0.19801192842942347, + "grad_norm": 6.9834065437316895, + "learning_rate": 4.947111271648931e-06, + "loss": 0.1487, + "num_input_tokens_seen": 2950624, + "step": 1494 + }, + { + "epoch": 0.19814446653412857, + "grad_norm": 19.150836944580078, + "learning_rate": 4.947040221840702e-06, + "loss": 0.4586, + "num_input_tokens_seen": 2951888, + "step": 1495 + }, + { + "epoch": 0.19827700463883366, + "grad_norm": 1.4499837160110474, + "learning_rate": 4.9469691248518505e-06, + "loss": 0.0183, + "num_input_tokens_seen": 2953528, + "step": 1496 + }, + { + "epoch": 0.19840954274353878, + "grad_norm": 15.1196928024292, + "learning_rate": 4.946897980683745e-06, + "loss": 0.2454, + "num_input_tokens_seen": 2955144, + "step": 1497 + }, + { + "epoch": 0.19854208084824387, + "grad_norm": 16.50326156616211, + "learning_rate": 4.946826789337759e-06, + "loss": 0.2717, + "num_input_tokens_seen": 2956568, + "step": 1498 + }, + { + "epoch": 0.19867461895294897, + "grad_norm": 0.046950824558734894, + "learning_rate": 4.946755550815265e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2957848, + "step": 1499 + }, + { + "epoch": 0.1988071570576541, + "grad_norm": 3.3023948669433594, + "learning_rate": 4.946684265117635e-06, + "loss": 0.0375, + "num_input_tokens_seen": 2961072, + "step": 1500 + }, + { + "epoch": 0.19893969516235918, + "grad_norm": 35.056427001953125, + "learning_rate": 4.9466129322462444e-06, + "loss": 0.5977, + "num_input_tokens_seen": 2963560, + "step": 1501 + }, + { + "epoch": 0.19907223326706427, + "grad_norm": 14.703974723815918, + "learning_rate": 4.94654155220247e-06, + "loss": 0.2402, + "num_input_tokens_seen": 2965576, + "step": 1502 + }, + { + "epoch": 0.1992047713717694, + "grad_norm": 11.942296028137207, + "learning_rate": 4.946470124987686e-06, + "loss": 0.1351, + "num_input_tokens_seen": 2968232, + "step": 1503 + }, + { + "epoch": 0.1993373094764745, + "grad_norm": 14.916484832763672, + "learning_rate": 4.946398650603269e-06, + "loss": 0.5421, + "num_input_tokens_seen": 2971448, + "step": 1504 + }, + { + "epoch": 0.19946984758117958, + "grad_norm": 17.552587509155273, + "learning_rate": 4.9463271290506e-06, + "loss": 0.2842, + "num_input_tokens_seen": 2973656, + "step": 1505 + }, + { + "epoch": 0.1996023856858847, + "grad_norm": 13.145828247070312, + "learning_rate": 4.946255560331056e-06, + "loss": 0.2213, + "num_input_tokens_seen": 2975304, + "step": 1506 + }, + { + "epoch": 0.1997349237905898, + "grad_norm": 8.712215423583984, + "learning_rate": 4.946183944446017e-06, + "loss": 0.2274, + "num_input_tokens_seen": 2976936, + "step": 1507 + }, + { + "epoch": 0.1998674618952949, + "grad_norm": 2.575416088104248, + "learning_rate": 4.946112281396864e-06, + "loss": 0.0125, + "num_input_tokens_seen": 2979312, + "step": 1508 + }, + { + "epoch": 0.2, + "grad_norm": 2.6841654777526855, + "learning_rate": 4.946040571184978e-06, + "loss": 0.0117, + "num_input_tokens_seen": 2981024, + "step": 1509 + }, + { + "epoch": 0.2001325381047051, + "grad_norm": 9.58149528503418, + "learning_rate": 4.945968813811743e-06, + "loss": 0.1947, + "num_input_tokens_seen": 2983936, + "step": 1510 + }, + { + "epoch": 0.2002650762094102, + "grad_norm": 6.357746124267578, + "learning_rate": 4.945897009278543e-06, + "loss": 0.0832, + "num_input_tokens_seen": 2985328, + "step": 1511 + }, + { + "epoch": 0.20039761431411532, + "grad_norm": 12.998671531677246, + "learning_rate": 4.94582515758676e-06, + "loss": 0.1627, + "num_input_tokens_seen": 2988088, + "step": 1512 + }, + { + "epoch": 0.2005301524188204, + "grad_norm": 15.709349632263184, + "learning_rate": 4.945753258737781e-06, + "loss": 0.2284, + "num_input_tokens_seen": 2989576, + "step": 1513 + }, + { + "epoch": 0.2006626905235255, + "grad_norm": 7.763367176055908, + "learning_rate": 4.945681312732992e-06, + "loss": 0.2367, + "num_input_tokens_seen": 2991384, + "step": 1514 + }, + { + "epoch": 0.20079522862823063, + "grad_norm": 6.251837730407715, + "learning_rate": 4.9456093195737794e-06, + "loss": 0.1219, + "num_input_tokens_seen": 2993384, + "step": 1515 + }, + { + "epoch": 0.20092776673293572, + "grad_norm": 0.11836721748113632, + "learning_rate": 4.945537279261533e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2995904, + "step": 1516 + }, + { + "epoch": 0.2010603048376408, + "grad_norm": 4.0873870849609375, + "learning_rate": 4.945465191797641e-06, + "loss": 0.0481, + "num_input_tokens_seen": 2997504, + "step": 1517 + }, + { + "epoch": 0.20119284294234593, + "grad_norm": 0.6148648858070374, + "learning_rate": 4.945393057183492e-06, + "loss": 0.0036, + "num_input_tokens_seen": 2999336, + "step": 1518 + }, + { + "epoch": 0.20132538104705103, + "grad_norm": 12.814029693603516, + "learning_rate": 4.945320875420478e-06, + "loss": 0.301, + "num_input_tokens_seen": 3003144, + "step": 1519 + }, + { + "epoch": 0.20145791915175612, + "grad_norm": 10.5188627243042, + "learning_rate": 4.945248646509991e-06, + "loss": 0.1691, + "num_input_tokens_seen": 3004824, + "step": 1520 + }, + { + "epoch": 0.20159045725646124, + "grad_norm": 1.2420895099639893, + "learning_rate": 4.945176370453423e-06, + "loss": 0.0068, + "num_input_tokens_seen": 3005840, + "step": 1521 + }, + { + "epoch": 0.20172299536116634, + "grad_norm": 27.47368049621582, + "learning_rate": 4.945104047252168e-06, + "loss": 1.0257, + "num_input_tokens_seen": 3008392, + "step": 1522 + }, + { + "epoch": 0.20185553346587143, + "grad_norm": 10.00438404083252, + "learning_rate": 4.94503167690762e-06, + "loss": 0.2241, + "num_input_tokens_seen": 3010304, + "step": 1523 + }, + { + "epoch": 0.20198807157057655, + "grad_norm": 8.860278129577637, + "learning_rate": 4.944959259421173e-06, + "loss": 0.1447, + "num_input_tokens_seen": 3013168, + "step": 1524 + }, + { + "epoch": 0.20212060967528164, + "grad_norm": 2.469446897506714, + "learning_rate": 4.944886794794227e-06, + "loss": 0.0137, + "num_input_tokens_seen": 3015488, + "step": 1525 + }, + { + "epoch": 0.20225314777998674, + "grad_norm": 6.759047031402588, + "learning_rate": 4.9448142830281764e-06, + "loss": 0.1058, + "num_input_tokens_seen": 3018448, + "step": 1526 + }, + { + "epoch": 0.20238568588469186, + "grad_norm": 1.4119298458099365, + "learning_rate": 4.94474172412442e-06, + "loss": 0.0073, + "num_input_tokens_seen": 3020000, + "step": 1527 + }, + { + "epoch": 0.20251822398939695, + "grad_norm": 21.874143600463867, + "learning_rate": 4.944669118084356e-06, + "loss": 0.4905, + "num_input_tokens_seen": 3024096, + "step": 1528 + }, + { + "epoch": 0.20265076209410204, + "grad_norm": 12.965889930725098, + "learning_rate": 4.9445964649093855e-06, + "loss": 0.319, + "num_input_tokens_seen": 3026120, + "step": 1529 + }, + { + "epoch": 0.20278330019880716, + "grad_norm": 0.36019694805145264, + "learning_rate": 4.944523764600908e-06, + "loss": 0.0018, + "num_input_tokens_seen": 3027472, + "step": 1530 + }, + { + "epoch": 0.20291583830351226, + "grad_norm": 11.79969596862793, + "learning_rate": 4.944451017160327e-06, + "loss": 0.2418, + "num_input_tokens_seen": 3029120, + "step": 1531 + }, + { + "epoch": 0.20304837640821735, + "grad_norm": 1.4309542179107666, + "learning_rate": 4.944378222589043e-06, + "loss": 0.0076, + "num_input_tokens_seen": 3030760, + "step": 1532 + }, + { + "epoch": 0.20318091451292247, + "grad_norm": 13.358979225158691, + "learning_rate": 4.944305380888461e-06, + "loss": 0.2395, + "num_input_tokens_seen": 3032400, + "step": 1533 + }, + { + "epoch": 0.20331345261762757, + "grad_norm": 6.730549335479736, + "learning_rate": 4.944232492059985e-06, + "loss": 0.0747, + "num_input_tokens_seen": 3034504, + "step": 1534 + }, + { + "epoch": 0.20344599072233266, + "grad_norm": 4.821010589599609, + "learning_rate": 4.9441595561050205e-06, + "loss": 0.0539, + "num_input_tokens_seen": 3036160, + "step": 1535 + }, + { + "epoch": 0.20357852882703778, + "grad_norm": 10.793621063232422, + "learning_rate": 4.944086573024973e-06, + "loss": 0.4039, + "num_input_tokens_seen": 3038216, + "step": 1536 + }, + { + "epoch": 0.20371106693174287, + "grad_norm": 11.968805313110352, + "learning_rate": 4.944013542821251e-06, + "loss": 0.3655, + "num_input_tokens_seen": 3039976, + "step": 1537 + }, + { + "epoch": 0.20384360503644797, + "grad_norm": 5.364990234375, + "learning_rate": 4.943940465495262e-06, + "loss": 0.0959, + "num_input_tokens_seen": 3042400, + "step": 1538 + }, + { + "epoch": 0.2039761431411531, + "grad_norm": 2.2847580909729004, + "learning_rate": 4.943867341048414e-06, + "loss": 0.0124, + "num_input_tokens_seen": 3044120, + "step": 1539 + }, + { + "epoch": 0.20410868124585818, + "grad_norm": 0.06408200412988663, + "learning_rate": 4.943794169482119e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3045472, + "step": 1540 + }, + { + "epoch": 0.20424121935056327, + "grad_norm": 0.10299701243638992, + "learning_rate": 4.943720950797785e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3046680, + "step": 1541 + }, + { + "epoch": 0.2043737574552684, + "grad_norm": 13.509176254272461, + "learning_rate": 4.943647684996827e-06, + "loss": 0.2526, + "num_input_tokens_seen": 3048352, + "step": 1542 + }, + { + "epoch": 0.2045062955599735, + "grad_norm": 9.015371322631836, + "learning_rate": 4.943574372080654e-06, + "loss": 0.2274, + "num_input_tokens_seen": 3050040, + "step": 1543 + }, + { + "epoch": 0.20463883366467858, + "grad_norm": 21.445486068725586, + "learning_rate": 4.943501012050682e-06, + "loss": 0.5459, + "num_input_tokens_seen": 3051944, + "step": 1544 + }, + { + "epoch": 0.2047713717693837, + "grad_norm": 0.25789403915405273, + "learning_rate": 4.943427604908325e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3053248, + "step": 1545 + }, + { + "epoch": 0.2049039098740888, + "grad_norm": 8.787060737609863, + "learning_rate": 4.943354150654998e-06, + "loss": 0.2267, + "num_input_tokens_seen": 3055080, + "step": 1546 + }, + { + "epoch": 0.2050364479787939, + "grad_norm": 10.775382041931152, + "learning_rate": 4.943280649292117e-06, + "loss": 0.1584, + "num_input_tokens_seen": 3056552, + "step": 1547 + }, + { + "epoch": 0.205168986083499, + "grad_norm": 0.07496646046638489, + "learning_rate": 4.9432071008211005e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3057536, + "step": 1548 + }, + { + "epoch": 0.2053015241882041, + "grad_norm": 19.620237350463867, + "learning_rate": 4.9431335052433645e-06, + "loss": 0.8056, + "num_input_tokens_seen": 3060488, + "step": 1549 + }, + { + "epoch": 0.20543406229290923, + "grad_norm": 8.260318756103516, + "learning_rate": 4.9430598625603305e-06, + "loss": 0.1048, + "num_input_tokens_seen": 3062600, + "step": 1550 + }, + { + "epoch": 0.20556660039761432, + "grad_norm": 11.072790145874023, + "learning_rate": 4.942986172773417e-06, + "loss": 0.2021, + "num_input_tokens_seen": 3064744, + "step": 1551 + }, + { + "epoch": 0.2056991385023194, + "grad_norm": 16.27667236328125, + "learning_rate": 4.942912435884043e-06, + "loss": 0.2106, + "num_input_tokens_seen": 3066600, + "step": 1552 + }, + { + "epoch": 0.20583167660702453, + "grad_norm": 12.170722961425781, + "learning_rate": 4.942838651893633e-06, + "loss": 0.3647, + "num_input_tokens_seen": 3068416, + "step": 1553 + }, + { + "epoch": 0.20596421471172963, + "grad_norm": 17.116518020629883, + "learning_rate": 4.942764820803608e-06, + "loss": 0.2935, + "num_input_tokens_seen": 3070192, + "step": 1554 + }, + { + "epoch": 0.20609675281643472, + "grad_norm": 0.45862770080566406, + "learning_rate": 4.942690942615394e-06, + "loss": 0.0024, + "num_input_tokens_seen": 3072152, + "step": 1555 + }, + { + "epoch": 0.20622929092113984, + "grad_norm": 13.14889907836914, + "learning_rate": 4.942617017330411e-06, + "loss": 0.4201, + "num_input_tokens_seen": 3073984, + "step": 1556 + }, + { + "epoch": 0.20636182902584493, + "grad_norm": 2.4476521015167236, + "learning_rate": 4.942543044950088e-06, + "loss": 0.0104, + "num_input_tokens_seen": 3076208, + "step": 1557 + }, + { + "epoch": 0.20649436713055003, + "grad_norm": 0.07111723721027374, + "learning_rate": 4.94246902547585e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3077336, + "step": 1558 + }, + { + "epoch": 0.20662690523525515, + "grad_norm": 6.37446928024292, + "learning_rate": 4.942394958909125e-06, + "loss": 0.0601, + "num_input_tokens_seen": 3079224, + "step": 1559 + }, + { + "epoch": 0.20675944333996024, + "grad_norm": 0.0938825011253357, + "learning_rate": 4.942320845251339e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3080592, + "step": 1560 + }, + { + "epoch": 0.20689198144466533, + "grad_norm": 17.8950252532959, + "learning_rate": 4.942246684503922e-06, + "loss": 0.3943, + "num_input_tokens_seen": 3081928, + "step": 1561 + }, + { + "epoch": 0.20702451954937046, + "grad_norm": 14.652807235717773, + "learning_rate": 4.942172476668305e-06, + "loss": 0.4855, + "num_input_tokens_seen": 3083736, + "step": 1562 + }, + { + "epoch": 0.20715705765407555, + "grad_norm": 6.170396327972412, + "learning_rate": 4.942098221745918e-06, + "loss": 0.1458, + "num_input_tokens_seen": 3085376, + "step": 1563 + }, + { + "epoch": 0.20728959575878064, + "grad_norm": 14.20685863494873, + "learning_rate": 4.942023919738192e-06, + "loss": 0.4159, + "num_input_tokens_seen": 3087440, + "step": 1564 + }, + { + "epoch": 0.20742213386348576, + "grad_norm": 2.665311574935913, + "learning_rate": 4.941949570646561e-06, + "loss": 0.0072, + "num_input_tokens_seen": 3088920, + "step": 1565 + }, + { + "epoch": 0.20755467196819086, + "grad_norm": 0.9632099866867065, + "learning_rate": 4.941875174472457e-06, + "loss": 0.0049, + "num_input_tokens_seen": 3090632, + "step": 1566 + }, + { + "epoch": 0.20768721007289595, + "grad_norm": 3.530364990234375, + "learning_rate": 4.941800731217314e-06, + "loss": 0.0706, + "num_input_tokens_seen": 3092464, + "step": 1567 + }, + { + "epoch": 0.20781974817760107, + "grad_norm": 15.34891414642334, + "learning_rate": 4.94172624088257e-06, + "loss": 0.2871, + "num_input_tokens_seen": 3094400, + "step": 1568 + }, + { + "epoch": 0.20795228628230616, + "grad_norm": 19.512920379638672, + "learning_rate": 4.94165170346966e-06, + "loss": 0.6074, + "num_input_tokens_seen": 3096752, + "step": 1569 + }, + { + "epoch": 0.20808482438701126, + "grad_norm": 12.263246536254883, + "learning_rate": 4.941577118980019e-06, + "loss": 0.298, + "num_input_tokens_seen": 3098760, + "step": 1570 + }, + { + "epoch": 0.20821736249171638, + "grad_norm": 10.468993186950684, + "learning_rate": 4.941502487415088e-06, + "loss": 0.2145, + "num_input_tokens_seen": 3100576, + "step": 1571 + }, + { + "epoch": 0.20834990059642147, + "grad_norm": 13.77182388305664, + "learning_rate": 4.941427808776305e-06, + "loss": 0.3044, + "num_input_tokens_seen": 3102912, + "step": 1572 + }, + { + "epoch": 0.20848243870112657, + "grad_norm": 7.96223783493042, + "learning_rate": 4.941353083065109e-06, + "loss": 0.0549, + "num_input_tokens_seen": 3105368, + "step": 1573 + }, + { + "epoch": 0.2086149768058317, + "grad_norm": 10.390724182128906, + "learning_rate": 4.941278310282941e-06, + "loss": 0.2599, + "num_input_tokens_seen": 3106896, + "step": 1574 + }, + { + "epoch": 0.20874751491053678, + "grad_norm": 9.694853782653809, + "learning_rate": 4.941203490431243e-06, + "loss": 0.125, + "num_input_tokens_seen": 3109000, + "step": 1575 + }, + { + "epoch": 0.20888005301524187, + "grad_norm": 17.4279842376709, + "learning_rate": 4.941128623511459e-06, + "loss": 0.2793, + "num_input_tokens_seen": 3110552, + "step": 1576 + }, + { + "epoch": 0.209012591119947, + "grad_norm": 0.37305963039398193, + "learning_rate": 4.94105370952503e-06, + "loss": 0.002, + "num_input_tokens_seen": 3112368, + "step": 1577 + }, + { + "epoch": 0.2091451292246521, + "grad_norm": 0.5690521001815796, + "learning_rate": 4.940978748473401e-06, + "loss": 0.0031, + "num_input_tokens_seen": 3114496, + "step": 1578 + }, + { + "epoch": 0.20927766732935718, + "grad_norm": 9.067329406738281, + "learning_rate": 4.940903740358019e-06, + "loss": 0.3023, + "num_input_tokens_seen": 3116720, + "step": 1579 + }, + { + "epoch": 0.2094102054340623, + "grad_norm": 21.493934631347656, + "learning_rate": 4.940828685180327e-06, + "loss": 0.3311, + "num_input_tokens_seen": 3118664, + "step": 1580 + }, + { + "epoch": 0.2095427435387674, + "grad_norm": 1.2281928062438965, + "learning_rate": 4.940753582941777e-06, + "loss": 0.0064, + "num_input_tokens_seen": 3121488, + "step": 1581 + }, + { + "epoch": 0.2096752816434725, + "grad_norm": 4.252953052520752, + "learning_rate": 4.940678433643812e-06, + "loss": 0.0211, + "num_input_tokens_seen": 3122944, + "step": 1582 + }, + { + "epoch": 0.2098078197481776, + "grad_norm": 11.897409439086914, + "learning_rate": 4.940603237287883e-06, + "loss": 0.3087, + "num_input_tokens_seen": 3124856, + "step": 1583 + }, + { + "epoch": 0.2099403578528827, + "grad_norm": 0.12686584889888763, + "learning_rate": 4.9405279938754405e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3125944, + "step": 1584 + }, + { + "epoch": 0.2100728959575878, + "grad_norm": 7.8734283447265625, + "learning_rate": 4.940452703407935e-06, + "loss": 0.2241, + "num_input_tokens_seen": 3127864, + "step": 1585 + }, + { + "epoch": 0.21020543406229292, + "grad_norm": 8.402398109436035, + "learning_rate": 4.940377365886817e-06, + "loss": 0.3412, + "num_input_tokens_seen": 3129728, + "step": 1586 + }, + { + "epoch": 0.210337972166998, + "grad_norm": 10.226612091064453, + "learning_rate": 4.940301981313541e-06, + "loss": 0.1393, + "num_input_tokens_seen": 3131392, + "step": 1587 + }, + { + "epoch": 0.2104705102717031, + "grad_norm": 6.102915287017822, + "learning_rate": 4.940226549689559e-06, + "loss": 0.0552, + "num_input_tokens_seen": 3133200, + "step": 1588 + }, + { + "epoch": 0.21060304837640823, + "grad_norm": 19.175670623779297, + "learning_rate": 4.940151071016325e-06, + "loss": 1.0989, + "num_input_tokens_seen": 3135624, + "step": 1589 + }, + { + "epoch": 0.21073558648111332, + "grad_norm": 9.163742065429688, + "learning_rate": 4.940075545295295e-06, + "loss": 0.2058, + "num_input_tokens_seen": 3137600, + "step": 1590 + }, + { + "epoch": 0.2108681245858184, + "grad_norm": 0.07821919023990631, + "learning_rate": 4.939999972527926e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3139120, + "step": 1591 + }, + { + "epoch": 0.21100066269052353, + "grad_norm": 19.046098709106445, + "learning_rate": 4.9399243527156735e-06, + "loss": 0.6531, + "num_input_tokens_seen": 3142000, + "step": 1592 + }, + { + "epoch": 0.21113320079522863, + "grad_norm": 22.99635887145996, + "learning_rate": 4.939848685859997e-06, + "loss": 0.486, + "num_input_tokens_seen": 3144184, + "step": 1593 + }, + { + "epoch": 0.21126573889993372, + "grad_norm": 0.11313114315271378, + "learning_rate": 4.939772971962354e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3145512, + "step": 1594 + }, + { + "epoch": 0.21139827700463884, + "grad_norm": 18.431657791137695, + "learning_rate": 4.9396972110242044e-06, + "loss": 0.6959, + "num_input_tokens_seen": 3147264, + "step": 1595 + }, + { + "epoch": 0.21153081510934393, + "grad_norm": 8.416237831115723, + "learning_rate": 4.939621403047011e-06, + "loss": 0.1401, + "num_input_tokens_seen": 3149016, + "step": 1596 + }, + { + "epoch": 0.21166335321404903, + "grad_norm": 0.46213310956954956, + "learning_rate": 4.939545548032233e-06, + "loss": 0.0022, + "num_input_tokens_seen": 3150600, + "step": 1597 + }, + { + "epoch": 0.21179589131875415, + "grad_norm": 12.233981132507324, + "learning_rate": 4.939469645981334e-06, + "loss": 0.4133, + "num_input_tokens_seen": 3152624, + "step": 1598 + }, + { + "epoch": 0.21192842942345924, + "grad_norm": 0.9122524857521057, + "learning_rate": 4.939393696895778e-06, + "loss": 0.0036, + "num_input_tokens_seen": 3153960, + "step": 1599 + }, + { + "epoch": 0.21206096752816433, + "grad_norm": 32.98881530761719, + "learning_rate": 4.939317700777028e-06, + "loss": 1.1184, + "num_input_tokens_seen": 3155568, + "step": 1600 + }, + { + "epoch": 0.21219350563286946, + "grad_norm": 18.546852111816406, + "learning_rate": 4.93924165762655e-06, + "loss": 0.43, + "num_input_tokens_seen": 3158056, + "step": 1601 + }, + { + "epoch": 0.21232604373757455, + "grad_norm": 0.20501665771007538, + "learning_rate": 4.93916556744581e-06, + "loss": 0.0011, + "num_input_tokens_seen": 3159976, + "step": 1602 + }, + { + "epoch": 0.21245858184227964, + "grad_norm": 7.36048698425293, + "learning_rate": 4.9390894302362754e-06, + "loss": 0.1961, + "num_input_tokens_seen": 3161792, + "step": 1603 + }, + { + "epoch": 0.21259111994698476, + "grad_norm": 0.11844947934150696, + "learning_rate": 4.9390132459994135e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3163160, + "step": 1604 + }, + { + "epoch": 0.21272365805168986, + "grad_norm": 8.891694068908691, + "learning_rate": 4.938937014736694e-06, + "loss": 0.2378, + "num_input_tokens_seen": 3165232, + "step": 1605 + }, + { + "epoch": 0.21285619615639495, + "grad_norm": 24.88727378845215, + "learning_rate": 4.938860736449587e-06, + "loss": 0.658, + "num_input_tokens_seen": 3168088, + "step": 1606 + }, + { + "epoch": 0.21298873426110007, + "grad_norm": 9.448894500732422, + "learning_rate": 4.938784411139561e-06, + "loss": 0.2552, + "num_input_tokens_seen": 3169344, + "step": 1607 + }, + { + "epoch": 0.21312127236580516, + "grad_norm": 10.28486156463623, + "learning_rate": 4.93870803880809e-06, + "loss": 0.2629, + "num_input_tokens_seen": 3171160, + "step": 1608 + }, + { + "epoch": 0.21325381047051029, + "grad_norm": 10.416315078735352, + "learning_rate": 4.938631619456646e-06, + "loss": 0.1774, + "num_input_tokens_seen": 3173096, + "step": 1609 + }, + { + "epoch": 0.21338634857521538, + "grad_norm": 10.50994873046875, + "learning_rate": 4.938555153086701e-06, + "loss": 0.225, + "num_input_tokens_seen": 3174120, + "step": 1610 + }, + { + "epoch": 0.21351888667992047, + "grad_norm": 10.50826644897461, + "learning_rate": 4.938478639699732e-06, + "loss": 0.3346, + "num_input_tokens_seen": 3175488, + "step": 1611 + }, + { + "epoch": 0.2136514247846256, + "grad_norm": 15.99755859375, + "learning_rate": 4.938402079297211e-06, + "loss": 0.4693, + "num_input_tokens_seen": 3177616, + "step": 1612 + }, + { + "epoch": 0.2137839628893307, + "grad_norm": 9.410768508911133, + "learning_rate": 4.9383254718806165e-06, + "loss": 0.2641, + "num_input_tokens_seen": 3179304, + "step": 1613 + }, + { + "epoch": 0.21391650099403578, + "grad_norm": 8.813210487365723, + "learning_rate": 4.9382488174514245e-06, + "loss": 0.1131, + "num_input_tokens_seen": 3181504, + "step": 1614 + }, + { + "epoch": 0.2140490390987409, + "grad_norm": 11.054888725280762, + "learning_rate": 4.938172116011113e-06, + "loss": 0.2597, + "num_input_tokens_seen": 3183568, + "step": 1615 + }, + { + "epoch": 0.214181577203446, + "grad_norm": 1.068084478378296, + "learning_rate": 4.938095367561162e-06, + "loss": 0.0047, + "num_input_tokens_seen": 3185480, + "step": 1616 + }, + { + "epoch": 0.2143141153081511, + "grad_norm": 9.036762237548828, + "learning_rate": 4.938018572103049e-06, + "loss": 0.1213, + "num_input_tokens_seen": 3187128, + "step": 1617 + }, + { + "epoch": 0.2144466534128562, + "grad_norm": 13.213265419006348, + "learning_rate": 4.937941729638257e-06, + "loss": 0.5154, + "num_input_tokens_seen": 3189720, + "step": 1618 + }, + { + "epoch": 0.2145791915175613, + "grad_norm": 0.3549255132675171, + "learning_rate": 4.9378648401682675e-06, + "loss": 0.0021, + "num_input_tokens_seen": 3192192, + "step": 1619 + }, + { + "epoch": 0.2147117296222664, + "grad_norm": 11.899450302124023, + "learning_rate": 4.9377879036945605e-06, + "loss": 0.2224, + "num_input_tokens_seen": 3194432, + "step": 1620 + }, + { + "epoch": 0.21484426772697152, + "grad_norm": 10.466017723083496, + "learning_rate": 4.937710920218622e-06, + "loss": 0.1578, + "num_input_tokens_seen": 3196496, + "step": 1621 + }, + { + "epoch": 0.2149768058316766, + "grad_norm": 23.57000732421875, + "learning_rate": 4.937633889741934e-06, + "loss": 0.2188, + "num_input_tokens_seen": 3199192, + "step": 1622 + }, + { + "epoch": 0.2151093439363817, + "grad_norm": 21.964622497558594, + "learning_rate": 4.937556812265984e-06, + "loss": 0.6021, + "num_input_tokens_seen": 3201088, + "step": 1623 + }, + { + "epoch": 0.21524188204108682, + "grad_norm": 24.73978042602539, + "learning_rate": 4.937479687792257e-06, + "loss": 0.3227, + "num_input_tokens_seen": 3203208, + "step": 1624 + }, + { + "epoch": 0.21537442014579192, + "grad_norm": 9.107304573059082, + "learning_rate": 4.937402516322239e-06, + "loss": 0.2177, + "num_input_tokens_seen": 3204936, + "step": 1625 + }, + { + "epoch": 0.215506958250497, + "grad_norm": 6.08217191696167, + "learning_rate": 4.93732529785742e-06, + "loss": 0.1215, + "num_input_tokens_seen": 3207608, + "step": 1626 + }, + { + "epoch": 0.21563949635520213, + "grad_norm": 15.261053085327148, + "learning_rate": 4.9372480323992885e-06, + "loss": 0.3029, + "num_input_tokens_seen": 3209472, + "step": 1627 + }, + { + "epoch": 0.21577203445990722, + "grad_norm": 6.329408168792725, + "learning_rate": 4.937170719949333e-06, + "loss": 0.0522, + "num_input_tokens_seen": 3210880, + "step": 1628 + }, + { + "epoch": 0.21590457256461232, + "grad_norm": 11.83716106414795, + "learning_rate": 4.937093360509044e-06, + "loss": 0.0852, + "num_input_tokens_seen": 3212544, + "step": 1629 + }, + { + "epoch": 0.21603711066931744, + "grad_norm": 11.321566581726074, + "learning_rate": 4.9370159540799146e-06, + "loss": 0.3831, + "num_input_tokens_seen": 3214944, + "step": 1630 + }, + { + "epoch": 0.21616964877402253, + "grad_norm": 21.89409065246582, + "learning_rate": 4.936938500663436e-06, + "loss": 0.524, + "num_input_tokens_seen": 3216840, + "step": 1631 + }, + { + "epoch": 0.21630218687872763, + "grad_norm": 14.414962768554688, + "learning_rate": 4.936861000261101e-06, + "loss": 0.2561, + "num_input_tokens_seen": 3219256, + "step": 1632 + }, + { + "epoch": 0.21643472498343275, + "grad_norm": 8.296018600463867, + "learning_rate": 4.936783452874406e-06, + "loss": 0.1726, + "num_input_tokens_seen": 3222136, + "step": 1633 + }, + { + "epoch": 0.21656726308813784, + "grad_norm": 7.5279316902160645, + "learning_rate": 4.9367058585048456e-06, + "loss": 0.2471, + "num_input_tokens_seen": 3223968, + "step": 1634 + }, + { + "epoch": 0.21669980119284293, + "grad_norm": 0.36171770095825195, + "learning_rate": 4.936628217153914e-06, + "loss": 0.0019, + "num_input_tokens_seen": 3225528, + "step": 1635 + }, + { + "epoch": 0.21683233929754805, + "grad_norm": 0.8328701257705688, + "learning_rate": 4.93655052882311e-06, + "loss": 0.003, + "num_input_tokens_seen": 3227984, + "step": 1636 + }, + { + "epoch": 0.21696487740225315, + "grad_norm": 4.806658744812012, + "learning_rate": 4.936472793513931e-06, + "loss": 0.0702, + "num_input_tokens_seen": 3229856, + "step": 1637 + }, + { + "epoch": 0.21709741550695824, + "grad_norm": 4.383067607879639, + "learning_rate": 4.936395011227876e-06, + "loss": 0.114, + "num_input_tokens_seen": 3231792, + "step": 1638 + }, + { + "epoch": 0.21722995361166336, + "grad_norm": 0.8216667175292969, + "learning_rate": 4.9363171819664434e-06, + "loss": 0.0024, + "num_input_tokens_seen": 3234576, + "step": 1639 + }, + { + "epoch": 0.21736249171636846, + "grad_norm": 9.61504077911377, + "learning_rate": 4.936239305731135e-06, + "loss": 0.1803, + "num_input_tokens_seen": 3237240, + "step": 1640 + }, + { + "epoch": 0.21749502982107355, + "grad_norm": 12.264850616455078, + "learning_rate": 4.936161382523452e-06, + "loss": 0.3079, + "num_input_tokens_seen": 3239808, + "step": 1641 + }, + { + "epoch": 0.21762756792577867, + "grad_norm": 15.373514175415039, + "learning_rate": 4.936083412344898e-06, + "loss": 0.5683, + "num_input_tokens_seen": 3241840, + "step": 1642 + }, + { + "epoch": 0.21776010603048376, + "grad_norm": 0.06137187033891678, + "learning_rate": 4.936005395196974e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3242800, + "step": 1643 + }, + { + "epoch": 0.21789264413518886, + "grad_norm": 1.243264079093933, + "learning_rate": 4.935927331081186e-06, + "loss": 0.0124, + "num_input_tokens_seen": 3244584, + "step": 1644 + }, + { + "epoch": 0.21802518223989398, + "grad_norm": 0.052737534046173096, + "learning_rate": 4.935849219999039e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3245944, + "step": 1645 + }, + { + "epoch": 0.21815772034459907, + "grad_norm": 2.980928897857666, + "learning_rate": 4.935771061952038e-06, + "loss": 0.0097, + "num_input_tokens_seen": 3248096, + "step": 1646 + }, + { + "epoch": 0.21829025844930416, + "grad_norm": 6.593144416809082, + "learning_rate": 4.935692856941691e-06, + "loss": 0.1378, + "num_input_tokens_seen": 3249680, + "step": 1647 + }, + { + "epoch": 0.21842279655400929, + "grad_norm": 7.3935346603393555, + "learning_rate": 4.935614604969505e-06, + "loss": 0.0455, + "num_input_tokens_seen": 3251336, + "step": 1648 + }, + { + "epoch": 0.21855533465871438, + "grad_norm": 12.530481338500977, + "learning_rate": 4.93553630603699e-06, + "loss": 0.3653, + "num_input_tokens_seen": 3253880, + "step": 1649 + }, + { + "epoch": 0.21868787276341947, + "grad_norm": 12.22199535369873, + "learning_rate": 4.9354579601456545e-06, + "loss": 0.4126, + "num_input_tokens_seen": 3256184, + "step": 1650 + }, + { + "epoch": 0.2188204108681246, + "grad_norm": 0.7065559029579163, + "learning_rate": 4.935379567297009e-06, + "loss": 0.0032, + "num_input_tokens_seen": 3258952, + "step": 1651 + }, + { + "epoch": 0.2189529489728297, + "grad_norm": 9.172409057617188, + "learning_rate": 4.935301127492565e-06, + "loss": 0.2361, + "num_input_tokens_seen": 3260904, + "step": 1652 + }, + { + "epoch": 0.21908548707753478, + "grad_norm": 0.7518073916435242, + "learning_rate": 4.935222640733836e-06, + "loss": 0.004, + "num_input_tokens_seen": 3261976, + "step": 1653 + }, + { + "epoch": 0.2192180251822399, + "grad_norm": 16.84255027770996, + "learning_rate": 4.935144107022334e-06, + "loss": 0.3524, + "num_input_tokens_seen": 3264208, + "step": 1654 + }, + { + "epoch": 0.219350563286945, + "grad_norm": 8.219185829162598, + "learning_rate": 4.935065526359574e-06, + "loss": 0.3323, + "num_input_tokens_seen": 3265776, + "step": 1655 + }, + { + "epoch": 0.2194831013916501, + "grad_norm": 0.07503607869148254, + "learning_rate": 4.934986898747071e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3267272, + "step": 1656 + }, + { + "epoch": 0.2196156394963552, + "grad_norm": 7.613670349121094, + "learning_rate": 4.934908224186341e-06, + "loss": 0.0419, + "num_input_tokens_seen": 3269200, + "step": 1657 + }, + { + "epoch": 0.2197481776010603, + "grad_norm": 13.691352844238281, + "learning_rate": 4.9348295026789e-06, + "loss": 0.3911, + "num_input_tokens_seen": 3271288, + "step": 1658 + }, + { + "epoch": 0.2198807157057654, + "grad_norm": 14.167842864990234, + "learning_rate": 4.934750734226267e-06, + "loss": 0.2875, + "num_input_tokens_seen": 3273136, + "step": 1659 + }, + { + "epoch": 0.22001325381047052, + "grad_norm": 21.928781509399414, + "learning_rate": 4.93467191882996e-06, + "loss": 0.3142, + "num_input_tokens_seen": 3275736, + "step": 1660 + }, + { + "epoch": 0.2201457919151756, + "grad_norm": 9.621772766113281, + "learning_rate": 4.934593056491498e-06, + "loss": 0.1505, + "num_input_tokens_seen": 3278352, + "step": 1661 + }, + { + "epoch": 0.2202783300198807, + "grad_norm": 0.05005446448922157, + "learning_rate": 4.934514147212403e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3279752, + "step": 1662 + }, + { + "epoch": 0.22041086812458582, + "grad_norm": 8.94521713256836, + "learning_rate": 4.934435190994195e-06, + "loss": 0.1141, + "num_input_tokens_seen": 3281664, + "step": 1663 + }, + { + "epoch": 0.22054340622929092, + "grad_norm": 0.062009260058403015, + "learning_rate": 4.9343561878383984e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3283960, + "step": 1664 + }, + { + "epoch": 0.220675944333996, + "grad_norm": 0.11217901110649109, + "learning_rate": 4.934277137746535e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3285912, + "step": 1665 + }, + { + "epoch": 0.22080848243870113, + "grad_norm": 5.784594535827637, + "learning_rate": 4.9341980407201286e-06, + "loss": 0.1341, + "num_input_tokens_seen": 3287576, + "step": 1666 + }, + { + "epoch": 0.22094102054340622, + "grad_norm": 7.565398216247559, + "learning_rate": 4.934118896760705e-06, + "loss": 0.1398, + "num_input_tokens_seen": 3288936, + "step": 1667 + }, + { + "epoch": 0.22107355864811135, + "grad_norm": 24.51899528503418, + "learning_rate": 4.934039705869789e-06, + "loss": 0.8829, + "num_input_tokens_seen": 3290376, + "step": 1668 + }, + { + "epoch": 0.22120609675281644, + "grad_norm": 13.75235366821289, + "learning_rate": 4.933960468048909e-06, + "loss": 0.3791, + "num_input_tokens_seen": 3293080, + "step": 1669 + }, + { + "epoch": 0.22133863485752153, + "grad_norm": 0.8770029544830322, + "learning_rate": 4.9338811832995925e-06, + "loss": 0.0036, + "num_input_tokens_seen": 3295056, + "step": 1670 + }, + { + "epoch": 0.22147117296222665, + "grad_norm": 9.46823787689209, + "learning_rate": 4.933801851623367e-06, + "loss": 0.1653, + "num_input_tokens_seen": 3296984, + "step": 1671 + }, + { + "epoch": 0.22160371106693175, + "grad_norm": 14.412089347839355, + "learning_rate": 4.933722473021763e-06, + "loss": 0.2312, + "num_input_tokens_seen": 3298976, + "step": 1672 + }, + { + "epoch": 0.22173624917163684, + "grad_norm": 16.31475257873535, + "learning_rate": 4.933643047496311e-06, + "loss": 0.3257, + "num_input_tokens_seen": 3300032, + "step": 1673 + }, + { + "epoch": 0.22186878727634196, + "grad_norm": 0.08501935750246048, + "learning_rate": 4.933563575048542e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3302080, + "step": 1674 + }, + { + "epoch": 0.22200132538104705, + "grad_norm": 17.939287185668945, + "learning_rate": 4.9334840556799885e-06, + "loss": 0.5308, + "num_input_tokens_seen": 3303696, + "step": 1675 + }, + { + "epoch": 0.22213386348575215, + "grad_norm": 7.127903461456299, + "learning_rate": 4.933404489392184e-06, + "loss": 0.0889, + "num_input_tokens_seen": 3305528, + "step": 1676 + }, + { + "epoch": 0.22226640159045727, + "grad_norm": 4.072912216186523, + "learning_rate": 4.933324876186661e-06, + "loss": 0.0957, + "num_input_tokens_seen": 3307336, + "step": 1677 + }, + { + "epoch": 0.22239893969516236, + "grad_norm": 11.142993927001953, + "learning_rate": 4.933245216064957e-06, + "loss": 0.1511, + "num_input_tokens_seen": 3308656, + "step": 1678 + }, + { + "epoch": 0.22253147779986746, + "grad_norm": 0.2088087946176529, + "learning_rate": 4.933165509028606e-06, + "loss": 0.0011, + "num_input_tokens_seen": 3310184, + "step": 1679 + }, + { + "epoch": 0.22266401590457258, + "grad_norm": 19.459409713745117, + "learning_rate": 4.933085755079145e-06, + "loss": 0.4961, + "num_input_tokens_seen": 3312464, + "step": 1680 + }, + { + "epoch": 0.22279655400927767, + "grad_norm": 7.557456970214844, + "learning_rate": 4.933005954218113e-06, + "loss": 0.0977, + "num_input_tokens_seen": 3314424, + "step": 1681 + }, + { + "epoch": 0.22292909211398276, + "grad_norm": 14.821629524230957, + "learning_rate": 4.932926106447048e-06, + "loss": 0.4703, + "num_input_tokens_seen": 3316864, + "step": 1682 + }, + { + "epoch": 0.22306163021868788, + "grad_norm": 0.24442431330680847, + "learning_rate": 4.932846211767488e-06, + "loss": 0.0014, + "num_input_tokens_seen": 3318560, + "step": 1683 + }, + { + "epoch": 0.22319416832339298, + "grad_norm": 5.608514308929443, + "learning_rate": 4.932766270180976e-06, + "loss": 0.1271, + "num_input_tokens_seen": 3321832, + "step": 1684 + }, + { + "epoch": 0.22332670642809807, + "grad_norm": 13.253571510314941, + "learning_rate": 4.932686281689051e-06, + "loss": 0.3954, + "num_input_tokens_seen": 3324280, + "step": 1685 + }, + { + "epoch": 0.2234592445328032, + "grad_norm": 17.71905517578125, + "learning_rate": 4.932606246293256e-06, + "loss": 0.4995, + "num_input_tokens_seen": 3326456, + "step": 1686 + }, + { + "epoch": 0.22359178263750829, + "grad_norm": 5.279988765716553, + "learning_rate": 4.932526163995136e-06, + "loss": 0.1175, + "num_input_tokens_seen": 3328128, + "step": 1687 + }, + { + "epoch": 0.22372432074221338, + "grad_norm": 15.228689193725586, + "learning_rate": 4.9324460347962325e-06, + "loss": 0.4672, + "num_input_tokens_seen": 3329872, + "step": 1688 + }, + { + "epoch": 0.2238568588469185, + "grad_norm": 11.764204025268555, + "learning_rate": 4.9323658586980915e-06, + "loss": 0.2224, + "num_input_tokens_seen": 3332776, + "step": 1689 + }, + { + "epoch": 0.2239893969516236, + "grad_norm": 12.289379119873047, + "learning_rate": 4.932285635702259e-06, + "loss": 0.2397, + "num_input_tokens_seen": 3334720, + "step": 1690 + }, + { + "epoch": 0.22412193505632869, + "grad_norm": 30.804235458374023, + "learning_rate": 4.932205365810281e-06, + "loss": 0.6516, + "num_input_tokens_seen": 3336616, + "step": 1691 + }, + { + "epoch": 0.2242544731610338, + "grad_norm": 3.714463710784912, + "learning_rate": 4.932125049023706e-06, + "loss": 0.0245, + "num_input_tokens_seen": 3338296, + "step": 1692 + }, + { + "epoch": 0.2243870112657389, + "grad_norm": 2.002056837081909, + "learning_rate": 4.9320446853440815e-06, + "loss": 0.0113, + "num_input_tokens_seen": 3340400, + "step": 1693 + }, + { + "epoch": 0.224519549370444, + "grad_norm": 2.714550733566284, + "learning_rate": 4.931964274772959e-06, + "loss": 0.0157, + "num_input_tokens_seen": 3341728, + "step": 1694 + }, + { + "epoch": 0.22465208747514911, + "grad_norm": 6.166360378265381, + "learning_rate": 4.931883817311886e-06, + "loss": 0.2204, + "num_input_tokens_seen": 3343792, + "step": 1695 + }, + { + "epoch": 0.2247846255798542, + "grad_norm": 0.5058887004852295, + "learning_rate": 4.931803312962417e-06, + "loss": 0.0029, + "num_input_tokens_seen": 3345528, + "step": 1696 + }, + { + "epoch": 0.2249171636845593, + "grad_norm": 1.7587809562683105, + "learning_rate": 4.931722761726102e-06, + "loss": 0.0108, + "num_input_tokens_seen": 3348384, + "step": 1697 + }, + { + "epoch": 0.22504970178926442, + "grad_norm": 17.575016021728516, + "learning_rate": 4.9316421636044945e-06, + "loss": 0.316, + "num_input_tokens_seen": 3350696, + "step": 1698 + }, + { + "epoch": 0.22518223989396952, + "grad_norm": 1.106317400932312, + "learning_rate": 4.931561518599148e-06, + "loss": 0.0056, + "num_input_tokens_seen": 3352168, + "step": 1699 + }, + { + "epoch": 0.2253147779986746, + "grad_norm": 0.4117383062839508, + "learning_rate": 4.9314808267116185e-06, + "loss": 0.0019, + "num_input_tokens_seen": 3354080, + "step": 1700 + }, + { + "epoch": 0.22544731610337973, + "grad_norm": 13.850700378417969, + "learning_rate": 4.931400087943461e-06, + "loss": 0.2391, + "num_input_tokens_seen": 3355808, + "step": 1701 + }, + { + "epoch": 0.22557985420808482, + "grad_norm": 17.980010986328125, + "learning_rate": 4.9313193022962325e-06, + "loss": 0.265, + "num_input_tokens_seen": 3357592, + "step": 1702 + }, + { + "epoch": 0.22571239231278992, + "grad_norm": 7.735844612121582, + "learning_rate": 4.93123846977149e-06, + "loss": 0.4048, + "num_input_tokens_seen": 3359136, + "step": 1703 + }, + { + "epoch": 0.22584493041749504, + "grad_norm": 5.844985485076904, + "learning_rate": 4.931157590370794e-06, + "loss": 0.112, + "num_input_tokens_seen": 3360624, + "step": 1704 + }, + { + "epoch": 0.22597746852220013, + "grad_norm": 0.04979546740651131, + "learning_rate": 4.931076664095701e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3362272, + "step": 1705 + }, + { + "epoch": 0.22611000662690522, + "grad_norm": 9.528762817382812, + "learning_rate": 4.930995690947774e-06, + "loss": 0.2703, + "num_input_tokens_seen": 3364216, + "step": 1706 + }, + { + "epoch": 0.22624254473161035, + "grad_norm": 18.23267936706543, + "learning_rate": 4.930914670928572e-06, + "loss": 0.4144, + "num_input_tokens_seen": 3366896, + "step": 1707 + }, + { + "epoch": 0.22637508283631544, + "grad_norm": 6.709630966186523, + "learning_rate": 4.930833604039659e-06, + "loss": 0.1561, + "num_input_tokens_seen": 3368736, + "step": 1708 + }, + { + "epoch": 0.22650762094102053, + "grad_norm": 16.42906379699707, + "learning_rate": 4.930752490282596e-06, + "loss": 0.6671, + "num_input_tokens_seen": 3371056, + "step": 1709 + }, + { + "epoch": 0.22664015904572565, + "grad_norm": 30.568758010864258, + "learning_rate": 4.93067132965895e-06, + "loss": 0.7228, + "num_input_tokens_seen": 3373176, + "step": 1710 + }, + { + "epoch": 0.22677269715043075, + "grad_norm": 13.62087345123291, + "learning_rate": 4.930590122170283e-06, + "loss": 0.4284, + "num_input_tokens_seen": 3374608, + "step": 1711 + }, + { + "epoch": 0.22690523525513584, + "grad_norm": 8.012083053588867, + "learning_rate": 4.9305088678181615e-06, + "loss": 0.2542, + "num_input_tokens_seen": 3376512, + "step": 1712 + }, + { + "epoch": 0.22703777335984096, + "grad_norm": 0.43502819538116455, + "learning_rate": 4.930427566604153e-06, + "loss": 0.0025, + "num_input_tokens_seen": 3378304, + "step": 1713 + }, + { + "epoch": 0.22717031146454605, + "grad_norm": 4.435062885284424, + "learning_rate": 4.930346218529822e-06, + "loss": 0.0863, + "num_input_tokens_seen": 3380104, + "step": 1714 + }, + { + "epoch": 0.22730284956925115, + "grad_norm": 14.251241683959961, + "learning_rate": 4.9302648235967415e-06, + "loss": 0.4994, + "num_input_tokens_seen": 3382256, + "step": 1715 + }, + { + "epoch": 0.22743538767395627, + "grad_norm": 0.2695981562137604, + "learning_rate": 4.930183381806478e-06, + "loss": 0.0016, + "num_input_tokens_seen": 3383976, + "step": 1716 + }, + { + "epoch": 0.22756792577866136, + "grad_norm": 23.366899490356445, + "learning_rate": 4.930101893160603e-06, + "loss": 0.8223, + "num_input_tokens_seen": 3385472, + "step": 1717 + }, + { + "epoch": 0.22770046388336646, + "grad_norm": 15.77640438079834, + "learning_rate": 4.930020357660687e-06, + "loss": 0.3659, + "num_input_tokens_seen": 3387008, + "step": 1718 + }, + { + "epoch": 0.22783300198807158, + "grad_norm": 0.5171908140182495, + "learning_rate": 4.929938775308301e-06, + "loss": 0.003, + "num_input_tokens_seen": 3388656, + "step": 1719 + }, + { + "epoch": 0.22796554009277667, + "grad_norm": 16.954925537109375, + "learning_rate": 4.92985714610502e-06, + "loss": 0.3829, + "num_input_tokens_seen": 3390632, + "step": 1720 + }, + { + "epoch": 0.22809807819748176, + "grad_norm": 13.440217018127441, + "learning_rate": 4.929775470052417e-06, + "loss": 0.4645, + "num_input_tokens_seen": 3392376, + "step": 1721 + }, + { + "epoch": 0.22823061630218688, + "grad_norm": 4.9072651863098145, + "learning_rate": 4.929693747152066e-06, + "loss": 0.1009, + "num_input_tokens_seen": 3394760, + "step": 1722 + }, + { + "epoch": 0.22836315440689198, + "grad_norm": 0.882038950920105, + "learning_rate": 4.929611977405544e-06, + "loss": 0.0052, + "num_input_tokens_seen": 3396632, + "step": 1723 + }, + { + "epoch": 0.22849569251159707, + "grad_norm": 5.4153032302856445, + "learning_rate": 4.9295301608144265e-06, + "loss": 0.1757, + "num_input_tokens_seen": 3398176, + "step": 1724 + }, + { + "epoch": 0.2286282306163022, + "grad_norm": 11.803627967834473, + "learning_rate": 4.929448297380292e-06, + "loss": 0.3344, + "num_input_tokens_seen": 3400112, + "step": 1725 + }, + { + "epoch": 0.22876076872100728, + "grad_norm": 16.858858108520508, + "learning_rate": 4.929366387104718e-06, + "loss": 0.3613, + "num_input_tokens_seen": 3402208, + "step": 1726 + }, + { + "epoch": 0.2288933068257124, + "grad_norm": 7.683289527893066, + "learning_rate": 4.929284429989284e-06, + "loss": 0.147, + "num_input_tokens_seen": 3404248, + "step": 1727 + }, + { + "epoch": 0.2290258449304175, + "grad_norm": 10.316078186035156, + "learning_rate": 4.929202426035571e-06, + "loss": 0.404, + "num_input_tokens_seen": 3406632, + "step": 1728 + }, + { + "epoch": 0.2291583830351226, + "grad_norm": 21.18628692626953, + "learning_rate": 4.929120375245159e-06, + "loss": 0.431, + "num_input_tokens_seen": 3407800, + "step": 1729 + }, + { + "epoch": 0.2292909211398277, + "grad_norm": 4.152615070343018, + "learning_rate": 4.9290382776196296e-06, + "loss": 0.0726, + "num_input_tokens_seen": 3409560, + "step": 1730 + }, + { + "epoch": 0.2294234592445328, + "grad_norm": 9.900524139404297, + "learning_rate": 4.9289561331605675e-06, + "loss": 0.3087, + "num_input_tokens_seen": 3411576, + "step": 1731 + }, + { + "epoch": 0.2295559973492379, + "grad_norm": 3.816608190536499, + "learning_rate": 4.928873941869555e-06, + "loss": 0.0217, + "num_input_tokens_seen": 3414272, + "step": 1732 + }, + { + "epoch": 0.22968853545394302, + "grad_norm": 2.1002542972564697, + "learning_rate": 4.928791703748178e-06, + "loss": 0.0123, + "num_input_tokens_seen": 3416040, + "step": 1733 + }, + { + "epoch": 0.22982107355864811, + "grad_norm": 10.384066581726074, + "learning_rate": 4.928709418798021e-06, + "loss": 0.2213, + "num_input_tokens_seen": 3417784, + "step": 1734 + }, + { + "epoch": 0.2299536116633532, + "grad_norm": 10.045069694519043, + "learning_rate": 4.928627087020671e-06, + "loss": 0.0981, + "num_input_tokens_seen": 3419456, + "step": 1735 + }, + { + "epoch": 0.23008614976805833, + "grad_norm": 13.13155460357666, + "learning_rate": 4.9285447084177154e-06, + "loss": 0.3302, + "num_input_tokens_seen": 3420992, + "step": 1736 + }, + { + "epoch": 0.23021868787276342, + "grad_norm": 6.180624008178711, + "learning_rate": 4.928462282990743e-06, + "loss": 0.1132, + "num_input_tokens_seen": 3422904, + "step": 1737 + }, + { + "epoch": 0.23035122597746852, + "grad_norm": 11.870166778564453, + "learning_rate": 4.928379810741341e-06, + "loss": 0.3498, + "num_input_tokens_seen": 3425440, + "step": 1738 + }, + { + "epoch": 0.23048376408217364, + "grad_norm": 17.951276779174805, + "learning_rate": 4.928297291671102e-06, + "loss": 0.4949, + "num_input_tokens_seen": 3427680, + "step": 1739 + }, + { + "epoch": 0.23061630218687873, + "grad_norm": 1.7743738889694214, + "learning_rate": 4.928214725781616e-06, + "loss": 0.01, + "num_input_tokens_seen": 3429736, + "step": 1740 + }, + { + "epoch": 0.23074884029158382, + "grad_norm": 15.868306159973145, + "learning_rate": 4.928132113074474e-06, + "loss": 0.461, + "num_input_tokens_seen": 3432912, + "step": 1741 + }, + { + "epoch": 0.23088137839628894, + "grad_norm": 20.072362899780273, + "learning_rate": 4.928049453551271e-06, + "loss": 0.6744, + "num_input_tokens_seen": 3435504, + "step": 1742 + }, + { + "epoch": 0.23101391650099404, + "grad_norm": 3.188154697418213, + "learning_rate": 4.927966747213599e-06, + "loss": 0.0202, + "num_input_tokens_seen": 3436688, + "step": 1743 + }, + { + "epoch": 0.23114645460569913, + "grad_norm": 6.160930156707764, + "learning_rate": 4.927883994063053e-06, + "loss": 0.1286, + "num_input_tokens_seen": 3438584, + "step": 1744 + }, + { + "epoch": 0.23127899271040425, + "grad_norm": 1.9092910289764404, + "learning_rate": 4.9278011941012284e-06, + "loss": 0.0086, + "num_input_tokens_seen": 3440608, + "step": 1745 + }, + { + "epoch": 0.23141153081510935, + "grad_norm": 1.3322649002075195, + "learning_rate": 4.927718347329723e-06, + "loss": 0.0072, + "num_input_tokens_seen": 3442448, + "step": 1746 + }, + { + "epoch": 0.23154406891981444, + "grad_norm": 6.96110200881958, + "learning_rate": 4.927635453750132e-06, + "loss": 0.2768, + "num_input_tokens_seen": 3444360, + "step": 1747 + }, + { + "epoch": 0.23167660702451956, + "grad_norm": 8.553160667419434, + "learning_rate": 4.927552513364056e-06, + "loss": 0.1197, + "num_input_tokens_seen": 3446264, + "step": 1748 + }, + { + "epoch": 0.23180914512922465, + "grad_norm": 0.1770925670862198, + "learning_rate": 4.927469526173092e-06, + "loss": 0.001, + "num_input_tokens_seen": 3448256, + "step": 1749 + }, + { + "epoch": 0.23194168323392975, + "grad_norm": 8.112807273864746, + "learning_rate": 4.92738649217884e-06, + "loss": 0.0655, + "num_input_tokens_seen": 3450152, + "step": 1750 + }, + { + "epoch": 0.23207422133863487, + "grad_norm": 20.28702735900879, + "learning_rate": 4.927303411382903e-06, + "loss": 0.4507, + "num_input_tokens_seen": 3452488, + "step": 1751 + }, + { + "epoch": 0.23220675944333996, + "grad_norm": 15.00679874420166, + "learning_rate": 4.927220283786882e-06, + "loss": 0.3254, + "num_input_tokens_seen": 3453624, + "step": 1752 + }, + { + "epoch": 0.23233929754804505, + "grad_norm": 5.46200704574585, + "learning_rate": 4.927137109392378e-06, + "loss": 0.0466, + "num_input_tokens_seen": 3457080, + "step": 1753 + }, + { + "epoch": 0.23247183565275018, + "grad_norm": 0.13290804624557495, + "learning_rate": 4.927053888200998e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3459176, + "step": 1754 + }, + { + "epoch": 0.23260437375745527, + "grad_norm": 8.002230644226074, + "learning_rate": 4.9269706202143435e-06, + "loss": 0.1621, + "num_input_tokens_seen": 3460944, + "step": 1755 + }, + { + "epoch": 0.23273691186216036, + "grad_norm": 30.684972763061523, + "learning_rate": 4.926887305434022e-06, + "loss": 0.303, + "num_input_tokens_seen": 3463560, + "step": 1756 + }, + { + "epoch": 0.23286944996686548, + "grad_norm": 4.7676005363464355, + "learning_rate": 4.926803943861638e-06, + "loss": 0.0179, + "num_input_tokens_seen": 3465872, + "step": 1757 + }, + { + "epoch": 0.23300198807157058, + "grad_norm": 0.5567274689674377, + "learning_rate": 4.9267205354988e-06, + "loss": 0.0023, + "num_input_tokens_seen": 3468184, + "step": 1758 + }, + { + "epoch": 0.23313452617627567, + "grad_norm": 7.913361549377441, + "learning_rate": 4.926637080347116e-06, + "loss": 0.3205, + "num_input_tokens_seen": 3470720, + "step": 1759 + }, + { + "epoch": 0.2332670642809808, + "grad_norm": 0.11509038507938385, + "learning_rate": 4.9265535784081965e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3472824, + "step": 1760 + }, + { + "epoch": 0.23339960238568588, + "grad_norm": 7.033679962158203, + "learning_rate": 4.9264700296836485e-06, + "loss": 0.0979, + "num_input_tokens_seen": 3474704, + "step": 1761 + }, + { + "epoch": 0.23353214049039098, + "grad_norm": 18.40431022644043, + "learning_rate": 4.926386434175085e-06, + "loss": 0.461, + "num_input_tokens_seen": 3476000, + "step": 1762 + }, + { + "epoch": 0.2336646785950961, + "grad_norm": 21.795299530029297, + "learning_rate": 4.926302791884116e-06, + "loss": 0.7161, + "num_input_tokens_seen": 3479176, + "step": 1763 + }, + { + "epoch": 0.2337972166998012, + "grad_norm": 15.102032661437988, + "learning_rate": 4.926219102812357e-06, + "loss": 0.3513, + "num_input_tokens_seen": 3482088, + "step": 1764 + }, + { + "epoch": 0.23392975480450628, + "grad_norm": 3.790903091430664, + "learning_rate": 4.926135366961419e-06, + "loss": 0.0399, + "num_input_tokens_seen": 3484120, + "step": 1765 + }, + { + "epoch": 0.2340622929092114, + "grad_norm": 19.174198150634766, + "learning_rate": 4.926051584332917e-06, + "loss": 0.4966, + "num_input_tokens_seen": 3486000, + "step": 1766 + }, + { + "epoch": 0.2341948310139165, + "grad_norm": 0.1310090869665146, + "learning_rate": 4.925967754928468e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3487392, + "step": 1767 + }, + { + "epoch": 0.2343273691186216, + "grad_norm": 9.813427925109863, + "learning_rate": 4.925883878749687e-06, + "loss": 0.0898, + "num_input_tokens_seen": 3489256, + "step": 1768 + }, + { + "epoch": 0.2344599072233267, + "grad_norm": 5.372792720794678, + "learning_rate": 4.92579995579819e-06, + "loss": 0.2185, + "num_input_tokens_seen": 3491352, + "step": 1769 + }, + { + "epoch": 0.2345924453280318, + "grad_norm": 8.608305931091309, + "learning_rate": 4.925715986075597e-06, + "loss": 0.2153, + "num_input_tokens_seen": 3492592, + "step": 1770 + }, + { + "epoch": 0.2347249834327369, + "grad_norm": 14.550671577453613, + "learning_rate": 4.925631969583526e-06, + "loss": 0.5905, + "num_input_tokens_seen": 3495672, + "step": 1771 + }, + { + "epoch": 0.23485752153744202, + "grad_norm": 18.621952056884766, + "learning_rate": 4.925547906323598e-06, + "loss": 0.3413, + "num_input_tokens_seen": 3497848, + "step": 1772 + }, + { + "epoch": 0.23499005964214711, + "grad_norm": 0.3151490390300751, + "learning_rate": 4.925463796297433e-06, + "loss": 0.0017, + "num_input_tokens_seen": 3499384, + "step": 1773 + }, + { + "epoch": 0.2351225977468522, + "grad_norm": 10.724369049072266, + "learning_rate": 4.9253796395066534e-06, + "loss": 0.0497, + "num_input_tokens_seen": 3501088, + "step": 1774 + }, + { + "epoch": 0.23525513585155733, + "grad_norm": 13.683547973632812, + "learning_rate": 4.92529543595288e-06, + "loss": 0.3988, + "num_input_tokens_seen": 3504152, + "step": 1775 + }, + { + "epoch": 0.23538767395626242, + "grad_norm": 0.2387828826904297, + "learning_rate": 4.925211185637738e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3505560, + "step": 1776 + }, + { + "epoch": 0.23552021206096752, + "grad_norm": 12.554303169250488, + "learning_rate": 4.9251268885628515e-06, + "loss": 0.1244, + "num_input_tokens_seen": 3507160, + "step": 1777 + }, + { + "epoch": 0.23565275016567264, + "grad_norm": 4.6954450607299805, + "learning_rate": 4.925042544729845e-06, + "loss": 0.0607, + "num_input_tokens_seen": 3509880, + "step": 1778 + }, + { + "epoch": 0.23578528827037773, + "grad_norm": 13.988066673278809, + "learning_rate": 4.924958154140345e-06, + "loss": 0.3042, + "num_input_tokens_seen": 3511384, + "step": 1779 + }, + { + "epoch": 0.23591782637508282, + "grad_norm": 0.21485891938209534, + "learning_rate": 4.924873716795979e-06, + "loss": 0.0012, + "num_input_tokens_seen": 3513256, + "step": 1780 + }, + { + "epoch": 0.23605036447978794, + "grad_norm": 8.725808143615723, + "learning_rate": 4.924789232698376e-06, + "loss": 0.1306, + "num_input_tokens_seen": 3514912, + "step": 1781 + }, + { + "epoch": 0.23618290258449304, + "grad_norm": 9.861848831176758, + "learning_rate": 4.924704701849164e-06, + "loss": 0.1018, + "num_input_tokens_seen": 3516800, + "step": 1782 + }, + { + "epoch": 0.23631544068919813, + "grad_norm": 9.570998191833496, + "learning_rate": 4.92462012424997e-06, + "loss": 0.129, + "num_input_tokens_seen": 3518384, + "step": 1783 + }, + { + "epoch": 0.23644797879390325, + "grad_norm": 18.63361930847168, + "learning_rate": 4.92453549990243e-06, + "loss": 0.3637, + "num_input_tokens_seen": 3520240, + "step": 1784 + }, + { + "epoch": 0.23658051689860835, + "grad_norm": 11.900542259216309, + "learning_rate": 4.924450828808172e-06, + "loss": 0.2691, + "num_input_tokens_seen": 3522072, + "step": 1785 + }, + { + "epoch": 0.23671305500331347, + "grad_norm": 0.7060779929161072, + "learning_rate": 4.924366110968829e-06, + "loss": 0.0038, + "num_input_tokens_seen": 3523424, + "step": 1786 + }, + { + "epoch": 0.23684559310801856, + "grad_norm": 22.841415405273438, + "learning_rate": 4.9242813463860364e-06, + "loss": 0.2523, + "num_input_tokens_seen": 3525408, + "step": 1787 + }, + { + "epoch": 0.23697813121272365, + "grad_norm": 16.0593318939209, + "learning_rate": 4.924196535061426e-06, + "loss": 0.4969, + "num_input_tokens_seen": 3527560, + "step": 1788 + }, + { + "epoch": 0.23711066931742877, + "grad_norm": 6.943134784698486, + "learning_rate": 4.924111676996634e-06, + "loss": 0.0958, + "num_input_tokens_seen": 3529648, + "step": 1789 + }, + { + "epoch": 0.23724320742213387, + "grad_norm": 0.562179446220398, + "learning_rate": 4.924026772193296e-06, + "loss": 0.0027, + "num_input_tokens_seen": 3532208, + "step": 1790 + }, + { + "epoch": 0.23737574552683896, + "grad_norm": 9.025856971740723, + "learning_rate": 4.923941820653051e-06, + "loss": 0.18, + "num_input_tokens_seen": 3533776, + "step": 1791 + }, + { + "epoch": 0.23750828363154408, + "grad_norm": 0.2391253411769867, + "learning_rate": 4.923856822377534e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3535928, + "step": 1792 + }, + { + "epoch": 0.23764082173624917, + "grad_norm": 8.657227516174316, + "learning_rate": 4.923771777368386e-06, + "loss": 0.0707, + "num_input_tokens_seen": 3537896, + "step": 1793 + }, + { + "epoch": 0.23777335984095427, + "grad_norm": 4.383547306060791, + "learning_rate": 4.923686685627246e-06, + "loss": 0.0313, + "num_input_tokens_seen": 3539320, + "step": 1794 + }, + { + "epoch": 0.2379058979456594, + "grad_norm": 1.466487169265747, + "learning_rate": 4.923601547155755e-06, + "loss": 0.0066, + "num_input_tokens_seen": 3540680, + "step": 1795 + }, + { + "epoch": 0.23803843605036448, + "grad_norm": 18.77025604248047, + "learning_rate": 4.923516361955554e-06, + "loss": 0.5952, + "num_input_tokens_seen": 3542800, + "step": 1796 + }, + { + "epoch": 0.23817097415506958, + "grad_norm": 14.198873519897461, + "learning_rate": 4.923431130028285e-06, + "loss": 0.5729, + "num_input_tokens_seen": 3545096, + "step": 1797 + }, + { + "epoch": 0.2383035122597747, + "grad_norm": 0.12466581910848618, + "learning_rate": 4.923345851375594e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3546304, + "step": 1798 + }, + { + "epoch": 0.2384360503644798, + "grad_norm": 0.03186096251010895, + "learning_rate": 4.923260525999122e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3548768, + "step": 1799 + }, + { + "epoch": 0.23856858846918488, + "grad_norm": 3.608673095703125, + "learning_rate": 4.923175153900514e-06, + "loss": 0.1196, + "num_input_tokens_seen": 3550696, + "step": 1800 + }, + { + "epoch": 0.23870112657389, + "grad_norm": 13.959561347961426, + "learning_rate": 4.9230897350814186e-06, + "loss": 0.3268, + "num_input_tokens_seen": 3552624, + "step": 1801 + }, + { + "epoch": 0.2388336646785951, + "grad_norm": 0.07867728918790817, + "learning_rate": 4.923004269543482e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3554024, + "step": 1802 + }, + { + "epoch": 0.2389662027833002, + "grad_norm": 0.03175168111920357, + "learning_rate": 4.9229187572883504e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3556216, + "step": 1803 + }, + { + "epoch": 0.2390987408880053, + "grad_norm": 7.483557224273682, + "learning_rate": 4.922833198317675e-06, + "loss": 0.1845, + "num_input_tokens_seen": 3558192, + "step": 1804 + }, + { + "epoch": 0.2392312789927104, + "grad_norm": 3.9855382442474365, + "learning_rate": 4.922747592633103e-06, + "loss": 0.1151, + "num_input_tokens_seen": 3559648, + "step": 1805 + }, + { + "epoch": 0.2393638170974155, + "grad_norm": 0.047177959233522415, + "learning_rate": 4.9226619402362865e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3560928, + "step": 1806 + }, + { + "epoch": 0.23949635520212062, + "grad_norm": 11.509875297546387, + "learning_rate": 4.922576241128877e-06, + "loss": 0.1308, + "num_input_tokens_seen": 3562592, + "step": 1807 + }, + { + "epoch": 0.2396288933068257, + "grad_norm": 16.34734344482422, + "learning_rate": 4.922490495312525e-06, + "loss": 0.2195, + "num_input_tokens_seen": 3564512, + "step": 1808 + }, + { + "epoch": 0.2397614314115308, + "grad_norm": 12.467219352722168, + "learning_rate": 4.922404702788886e-06, + "loss": 0.1308, + "num_input_tokens_seen": 3566200, + "step": 1809 + }, + { + "epoch": 0.23989396951623593, + "grad_norm": 10.48387622833252, + "learning_rate": 4.922318863559613e-06, + "loss": 0.2352, + "num_input_tokens_seen": 3567808, + "step": 1810 + }, + { + "epoch": 0.24002650762094102, + "grad_norm": 3.375532865524292, + "learning_rate": 4.922232977626361e-06, + "loss": 0.0192, + "num_input_tokens_seen": 3569400, + "step": 1811 + }, + { + "epoch": 0.24015904572564611, + "grad_norm": 0.07941216230392456, + "learning_rate": 4.922147044990787e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3570800, + "step": 1812 + }, + { + "epoch": 0.24029158383035124, + "grad_norm": 30.34292984008789, + "learning_rate": 4.922061065654547e-06, + "loss": 0.6347, + "num_input_tokens_seen": 3573368, + "step": 1813 + }, + { + "epoch": 0.24042412193505633, + "grad_norm": 3.300945997238159, + "learning_rate": 4.921975039619297e-06, + "loss": 0.0396, + "num_input_tokens_seen": 3574680, + "step": 1814 + }, + { + "epoch": 0.24055666003976142, + "grad_norm": 0.23001621663570404, + "learning_rate": 4.921888966886699e-06, + "loss": 0.0012, + "num_input_tokens_seen": 3575992, + "step": 1815 + }, + { + "epoch": 0.24068919814446654, + "grad_norm": 9.388580322265625, + "learning_rate": 4.92180284745841e-06, + "loss": 0.0612, + "num_input_tokens_seen": 3578264, + "step": 1816 + }, + { + "epoch": 0.24082173624917164, + "grad_norm": 10.528152465820312, + "learning_rate": 4.921716681336092e-06, + "loss": 0.2871, + "num_input_tokens_seen": 3580032, + "step": 1817 + }, + { + "epoch": 0.24095427435387673, + "grad_norm": 34.9313850402832, + "learning_rate": 4.921630468521406e-06, + "loss": 0.243, + "num_input_tokens_seen": 3583576, + "step": 1818 + }, + { + "epoch": 0.24108681245858185, + "grad_norm": 11.806851387023926, + "learning_rate": 4.921544209016014e-06, + "loss": 0.3089, + "num_input_tokens_seen": 3585168, + "step": 1819 + }, + { + "epoch": 0.24121935056328694, + "grad_norm": 14.904276847839355, + "learning_rate": 4.921457902821578e-06, + "loss": 0.3052, + "num_input_tokens_seen": 3587368, + "step": 1820 + }, + { + "epoch": 0.24135188866799204, + "grad_norm": 15.053776741027832, + "learning_rate": 4.9213715499397645e-06, + "loss": 0.262, + "num_input_tokens_seen": 3590160, + "step": 1821 + }, + { + "epoch": 0.24148442677269716, + "grad_norm": 18.164548873901367, + "learning_rate": 4.921285150372236e-06, + "loss": 0.591, + "num_input_tokens_seen": 3592048, + "step": 1822 + }, + { + "epoch": 0.24161696487740225, + "grad_norm": 13.959782600402832, + "learning_rate": 4.92119870412066e-06, + "loss": 0.2746, + "num_input_tokens_seen": 3594208, + "step": 1823 + }, + { + "epoch": 0.24174950298210734, + "grad_norm": 17.967731475830078, + "learning_rate": 4.921112211186703e-06, + "loss": 0.3412, + "num_input_tokens_seen": 3596640, + "step": 1824 + }, + { + "epoch": 0.24188204108681247, + "grad_norm": 0.15441210567951202, + "learning_rate": 4.9210256715720315e-06, + "loss": 0.0009, + "num_input_tokens_seen": 3598488, + "step": 1825 + }, + { + "epoch": 0.24201457919151756, + "grad_norm": 0.9628341197967529, + "learning_rate": 4.9209390852783155e-06, + "loss": 0.0046, + "num_input_tokens_seen": 3599624, + "step": 1826 + }, + { + "epoch": 0.24214711729622265, + "grad_norm": 14.651203155517578, + "learning_rate": 4.920852452307224e-06, + "loss": 0.2891, + "num_input_tokens_seen": 3602008, + "step": 1827 + }, + { + "epoch": 0.24227965540092777, + "grad_norm": 4.754458427429199, + "learning_rate": 4.920765772660426e-06, + "loss": 0.0363, + "num_input_tokens_seen": 3603712, + "step": 1828 + }, + { + "epoch": 0.24241219350563287, + "grad_norm": 14.206003189086914, + "learning_rate": 4.920679046339595e-06, + "loss": 0.4401, + "num_input_tokens_seen": 3606744, + "step": 1829 + }, + { + "epoch": 0.24254473161033796, + "grad_norm": 1.5548858642578125, + "learning_rate": 4.920592273346402e-06, + "loss": 0.0068, + "num_input_tokens_seen": 3609376, + "step": 1830 + }, + { + "epoch": 0.24267726971504308, + "grad_norm": 12.981927871704102, + "learning_rate": 4.92050545368252e-06, + "loss": 0.3457, + "num_input_tokens_seen": 3611648, + "step": 1831 + }, + { + "epoch": 0.24280980781974817, + "grad_norm": 0.07560261338949203, + "learning_rate": 4.920418587349622e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3613488, + "step": 1832 + }, + { + "epoch": 0.24294234592445327, + "grad_norm": 1.855639100074768, + "learning_rate": 4.9203316743493855e-06, + "loss": 0.0124, + "num_input_tokens_seen": 3615760, + "step": 1833 + }, + { + "epoch": 0.2430748840291584, + "grad_norm": 37.005455017089844, + "learning_rate": 4.920244714683483e-06, + "loss": 0.1748, + "num_input_tokens_seen": 3617584, + "step": 1834 + }, + { + "epoch": 0.24320742213386348, + "grad_norm": 0.07631472498178482, + "learning_rate": 4.920157708353594e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3619216, + "step": 1835 + }, + { + "epoch": 0.24333996023856858, + "grad_norm": 32.240447998046875, + "learning_rate": 4.920070655361394e-06, + "loss": 0.6, + "num_input_tokens_seen": 3621344, + "step": 1836 + }, + { + "epoch": 0.2434724983432737, + "grad_norm": 4.75414514541626, + "learning_rate": 4.919983555708563e-06, + "loss": 0.0764, + "num_input_tokens_seen": 3623064, + "step": 1837 + }, + { + "epoch": 0.2436050364479788, + "grad_norm": 0.039452098309993744, + "learning_rate": 4.919896409396779e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3625264, + "step": 1838 + }, + { + "epoch": 0.24373757455268388, + "grad_norm": 2.0670645236968994, + "learning_rate": 4.919809216427723e-06, + "loss": 0.013, + "num_input_tokens_seen": 3626880, + "step": 1839 + }, + { + "epoch": 0.243870112657389, + "grad_norm": 0.031204301863908768, + "learning_rate": 4.919721976803076e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3628840, + "step": 1840 + }, + { + "epoch": 0.2440026507620941, + "grad_norm": 0.0632593184709549, + "learning_rate": 4.91963469052452e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3631488, + "step": 1841 + }, + { + "epoch": 0.2441351888667992, + "grad_norm": 7.157535076141357, + "learning_rate": 4.919547357593738e-06, + "loss": 0.2211, + "num_input_tokens_seen": 3633320, + "step": 1842 + }, + { + "epoch": 0.2442677269715043, + "grad_norm": 5.95433235168457, + "learning_rate": 4.9194599780124145e-06, + "loss": 0.1283, + "num_input_tokens_seen": 3635992, + "step": 1843 + }, + { + "epoch": 0.2444002650762094, + "grad_norm": 28.20613670349121, + "learning_rate": 4.919372551782232e-06, + "loss": 0.9456, + "num_input_tokens_seen": 3638056, + "step": 1844 + }, + { + "epoch": 0.24453280318091453, + "grad_norm": 22.270618438720703, + "learning_rate": 4.9192850789048785e-06, + "loss": 0.6525, + "num_input_tokens_seen": 3640472, + "step": 1845 + }, + { + "epoch": 0.24466534128561962, + "grad_norm": 9.557283401489258, + "learning_rate": 4.919197559382039e-06, + "loss": 0.1512, + "num_input_tokens_seen": 3642552, + "step": 1846 + }, + { + "epoch": 0.2447978793903247, + "grad_norm": 0.05236904323101044, + "learning_rate": 4.919109993215403e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3644048, + "step": 1847 + }, + { + "epoch": 0.24493041749502983, + "grad_norm": 14.896482467651367, + "learning_rate": 4.919022380406657e-06, + "loss": 0.2717, + "num_input_tokens_seen": 3645704, + "step": 1848 + }, + { + "epoch": 0.24506295559973493, + "grad_norm": 0.045757632702589035, + "learning_rate": 4.91893472095749e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3648448, + "step": 1849 + }, + { + "epoch": 0.24519549370444002, + "grad_norm": 7.438886642456055, + "learning_rate": 4.9188470148695936e-06, + "loss": 0.1148, + "num_input_tokens_seen": 3650144, + "step": 1850 + }, + { + "epoch": 0.24532803180914514, + "grad_norm": 14.617999076843262, + "learning_rate": 4.918759262144658e-06, + "loss": 0.1507, + "num_input_tokens_seen": 3653088, + "step": 1851 + }, + { + "epoch": 0.24546056991385024, + "grad_norm": 0.09754247963428497, + "learning_rate": 4.918671462784375e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3654768, + "step": 1852 + }, + { + "epoch": 0.24559310801855533, + "grad_norm": 0.06411875039339066, + "learning_rate": 4.918583616790438e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3655920, + "step": 1853 + }, + { + "epoch": 0.24572564612326045, + "grad_norm": 17.208988189697266, + "learning_rate": 4.918495724164539e-06, + "loss": 0.6348, + "num_input_tokens_seen": 3658016, + "step": 1854 + }, + { + "epoch": 0.24585818422796554, + "grad_norm": 12.79676628112793, + "learning_rate": 4.9184077849083756e-06, + "loss": 0.4025, + "num_input_tokens_seen": 3659200, + "step": 1855 + }, + { + "epoch": 0.24599072233267064, + "grad_norm": 15.47212028503418, + "learning_rate": 4.918319799023641e-06, + "loss": 0.3718, + "num_input_tokens_seen": 3662184, + "step": 1856 + }, + { + "epoch": 0.24612326043737576, + "grad_norm": 7.295891284942627, + "learning_rate": 4.918231766512033e-06, + "loss": 0.4086, + "num_input_tokens_seen": 3664936, + "step": 1857 + }, + { + "epoch": 0.24625579854208085, + "grad_norm": 6.603776931762695, + "learning_rate": 4.918143687375248e-06, + "loss": 0.1973, + "num_input_tokens_seen": 3666792, + "step": 1858 + }, + { + "epoch": 0.24638833664678594, + "grad_norm": 12.235093116760254, + "learning_rate": 4.918055561614984e-06, + "loss": 0.3252, + "num_input_tokens_seen": 3669520, + "step": 1859 + }, + { + "epoch": 0.24652087475149106, + "grad_norm": 5.89321231842041, + "learning_rate": 4.91796738923294e-06, + "loss": 0.0646, + "num_input_tokens_seen": 3671104, + "step": 1860 + }, + { + "epoch": 0.24665341285619616, + "grad_norm": 26.585529327392578, + "learning_rate": 4.917879170230819e-06, + "loss": 1.3579, + "num_input_tokens_seen": 3672744, + "step": 1861 + }, + { + "epoch": 0.24678595096090125, + "grad_norm": 8.526714324951172, + "learning_rate": 4.9177909046103175e-06, + "loss": 0.2967, + "num_input_tokens_seen": 3674832, + "step": 1862 + }, + { + "epoch": 0.24691848906560637, + "grad_norm": 9.289690017700195, + "learning_rate": 4.9177025923731405e-06, + "loss": 0.284, + "num_input_tokens_seen": 3677432, + "step": 1863 + }, + { + "epoch": 0.24705102717031147, + "grad_norm": 1.7415971755981445, + "learning_rate": 4.917614233520988e-06, + "loss": 0.0105, + "num_input_tokens_seen": 3678936, + "step": 1864 + }, + { + "epoch": 0.24718356527501656, + "grad_norm": 11.623764991760254, + "learning_rate": 4.917525828055567e-06, + "loss": 0.2367, + "num_input_tokens_seen": 3681576, + "step": 1865 + }, + { + "epoch": 0.24731610337972168, + "grad_norm": 10.674825668334961, + "learning_rate": 4.91743737597858e-06, + "loss": 0.3292, + "num_input_tokens_seen": 3684800, + "step": 1866 + }, + { + "epoch": 0.24744864148442677, + "grad_norm": 25.170217514038086, + "learning_rate": 4.917348877291732e-06, + "loss": 0.6979, + "num_input_tokens_seen": 3686672, + "step": 1867 + }, + { + "epoch": 0.24758117958913187, + "grad_norm": 6.641921043395996, + "learning_rate": 4.9172603319967305e-06, + "loss": 0.0466, + "num_input_tokens_seen": 3689880, + "step": 1868 + }, + { + "epoch": 0.247713717693837, + "grad_norm": 11.338716506958008, + "learning_rate": 4.917171740095282e-06, + "loss": 0.168, + "num_input_tokens_seen": 3691768, + "step": 1869 + }, + { + "epoch": 0.24784625579854208, + "grad_norm": 6.881922721862793, + "learning_rate": 4.917083101589095e-06, + "loss": 0.1734, + "num_input_tokens_seen": 3693824, + "step": 1870 + }, + { + "epoch": 0.24797879390324717, + "grad_norm": 3.25223445892334, + "learning_rate": 4.916994416479879e-06, + "loss": 0.0699, + "num_input_tokens_seen": 3695640, + "step": 1871 + }, + { + "epoch": 0.2481113320079523, + "grad_norm": 7.841526985168457, + "learning_rate": 4.916905684769342e-06, + "loss": 0.0838, + "num_input_tokens_seen": 3697688, + "step": 1872 + }, + { + "epoch": 0.2482438701126574, + "grad_norm": 13.312283515930176, + "learning_rate": 4.916816906459197e-06, + "loss": 0.5383, + "num_input_tokens_seen": 3700360, + "step": 1873 + }, + { + "epoch": 0.24837640821736248, + "grad_norm": 11.762429237365723, + "learning_rate": 4.916728081551155e-06, + "loss": 0.3084, + "num_input_tokens_seen": 3702608, + "step": 1874 + }, + { + "epoch": 0.2485089463220676, + "grad_norm": 15.119577407836914, + "learning_rate": 4.9166392100469275e-06, + "loss": 0.4866, + "num_input_tokens_seen": 3704632, + "step": 1875 + }, + { + "epoch": 0.2486414844267727, + "grad_norm": 1.252411961555481, + "learning_rate": 4.916550291948229e-06, + "loss": 0.0078, + "num_input_tokens_seen": 3706016, + "step": 1876 + }, + { + "epoch": 0.2487740225314778, + "grad_norm": 28.945934295654297, + "learning_rate": 4.916461327256774e-06, + "loss": 0.9813, + "num_input_tokens_seen": 3708080, + "step": 1877 + }, + { + "epoch": 0.2489065606361829, + "grad_norm": 10.158907890319824, + "learning_rate": 4.916372315974277e-06, + "loss": 0.3053, + "num_input_tokens_seen": 3711008, + "step": 1878 + }, + { + "epoch": 0.249039098740888, + "grad_norm": 9.339791297912598, + "learning_rate": 4.916283258102455e-06, + "loss": 0.181, + "num_input_tokens_seen": 3712848, + "step": 1879 + }, + { + "epoch": 0.2491716368455931, + "grad_norm": 9.664850234985352, + "learning_rate": 4.916194153643026e-06, + "loss": 0.1581, + "num_input_tokens_seen": 3714368, + "step": 1880 + }, + { + "epoch": 0.24930417495029822, + "grad_norm": 2.597472667694092, + "learning_rate": 4.916105002597706e-06, + "loss": 0.0853, + "num_input_tokens_seen": 3716024, + "step": 1881 + }, + { + "epoch": 0.2494367130550033, + "grad_norm": 13.91226863861084, + "learning_rate": 4.916015804968215e-06, + "loss": 0.2494, + "num_input_tokens_seen": 3718872, + "step": 1882 + }, + { + "epoch": 0.2495692511597084, + "grad_norm": 11.05497932434082, + "learning_rate": 4.915926560756272e-06, + "loss": 0.2445, + "num_input_tokens_seen": 3720472, + "step": 1883 + }, + { + "epoch": 0.24970178926441353, + "grad_norm": 3.511528730392456, + "learning_rate": 4.915837269963599e-06, + "loss": 0.0094, + "num_input_tokens_seen": 3721960, + "step": 1884 + }, + { + "epoch": 0.24983432736911862, + "grad_norm": 8.397645950317383, + "learning_rate": 4.915747932591916e-06, + "loss": 0.0718, + "num_input_tokens_seen": 3724280, + "step": 1885 + }, + { + "epoch": 0.2499668654738237, + "grad_norm": 12.69995403289795, + "learning_rate": 4.915658548642947e-06, + "loss": 0.2206, + "num_input_tokens_seen": 3726112, + "step": 1886 + }, + { + "epoch": 0.25009940357852883, + "grad_norm": 3.728536605834961, + "learning_rate": 4.915569118118414e-06, + "loss": 0.0807, + "num_input_tokens_seen": 3727584, + "step": 1887 + }, + { + "epoch": 0.2502319416832339, + "grad_norm": 8.45195484161377, + "learning_rate": 4.9154796410200424e-06, + "loss": 0.247, + "num_input_tokens_seen": 3729936, + "step": 1888 + }, + { + "epoch": 0.250364479787939, + "grad_norm": 8.986550331115723, + "learning_rate": 4.915390117349558e-06, + "loss": 0.1091, + "num_input_tokens_seen": 3731496, + "step": 1889 + }, + { + "epoch": 0.2504970178926441, + "grad_norm": 17.828346252441406, + "learning_rate": 4.915300547108684e-06, + "loss": 0.5773, + "num_input_tokens_seen": 3734072, + "step": 1890 + }, + { + "epoch": 0.25062955599734926, + "grad_norm": 5.765731334686279, + "learning_rate": 4.9152109302991505e-06, + "loss": 0.0485, + "num_input_tokens_seen": 3736088, + "step": 1891 + }, + { + "epoch": 0.25076209410205436, + "grad_norm": 14.23884391784668, + "learning_rate": 4.915121266922684e-06, + "loss": 0.3383, + "num_input_tokens_seen": 3738456, + "step": 1892 + }, + { + "epoch": 0.25089463220675945, + "grad_norm": 0.36799290776252747, + "learning_rate": 4.9150315569810125e-06, + "loss": 0.0019, + "num_input_tokens_seen": 3740016, + "step": 1893 + }, + { + "epoch": 0.25102717031146454, + "grad_norm": 12.369023323059082, + "learning_rate": 4.9149418004758675e-06, + "loss": 0.3953, + "num_input_tokens_seen": 3741648, + "step": 1894 + }, + { + "epoch": 0.25115970841616964, + "grad_norm": 0.11495542526245117, + "learning_rate": 4.914851997408978e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3742952, + "step": 1895 + }, + { + "epoch": 0.25129224652087473, + "grad_norm": 12.457237243652344, + "learning_rate": 4.9147621477820765e-06, + "loss": 0.385, + "num_input_tokens_seen": 3744632, + "step": 1896 + }, + { + "epoch": 0.2514247846255799, + "grad_norm": 7.956409931182861, + "learning_rate": 4.914672251596895e-06, + "loss": 0.2395, + "num_input_tokens_seen": 3746336, + "step": 1897 + }, + { + "epoch": 0.25155732273028497, + "grad_norm": 21.85320472717285, + "learning_rate": 4.9145823088551654e-06, + "loss": 0.4798, + "num_input_tokens_seen": 3748816, + "step": 1898 + }, + { + "epoch": 0.25168986083499006, + "grad_norm": 0.10949128121137619, + "learning_rate": 4.914492319558625e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3751584, + "step": 1899 + }, + { + "epoch": 0.25182239893969516, + "grad_norm": 9.546878814697266, + "learning_rate": 4.914402283709005e-06, + "loss": 0.2836, + "num_input_tokens_seen": 3753312, + "step": 1900 + }, + { + "epoch": 0.25195493704440025, + "grad_norm": 4.9800124168396, + "learning_rate": 4.914312201308045e-06, + "loss": 0.1131, + "num_input_tokens_seen": 3754576, + "step": 1901 + }, + { + "epoch": 0.25208747514910534, + "grad_norm": 7.190089702606201, + "learning_rate": 4.91422207235748e-06, + "loss": 0.2296, + "num_input_tokens_seen": 3756480, + "step": 1902 + }, + { + "epoch": 0.2522200132538105, + "grad_norm": 2.693955421447754, + "learning_rate": 4.914131896859048e-06, + "loss": 0.0183, + "num_input_tokens_seen": 3758536, + "step": 1903 + }, + { + "epoch": 0.2523525513585156, + "grad_norm": 6.982316493988037, + "learning_rate": 4.914041674814487e-06, + "loss": 0.2071, + "num_input_tokens_seen": 3760376, + "step": 1904 + }, + { + "epoch": 0.2524850894632207, + "grad_norm": 17.749452590942383, + "learning_rate": 4.913951406225538e-06, + "loss": 0.3403, + "num_input_tokens_seen": 3761912, + "step": 1905 + }, + { + "epoch": 0.2526176275679258, + "grad_norm": 5.351406574249268, + "learning_rate": 4.913861091093939e-06, + "loss": 0.1225, + "num_input_tokens_seen": 3763664, + "step": 1906 + }, + { + "epoch": 0.25275016567263087, + "grad_norm": 1.302483081817627, + "learning_rate": 4.913770729421434e-06, + "loss": 0.0154, + "num_input_tokens_seen": 3765632, + "step": 1907 + }, + { + "epoch": 0.25288270377733596, + "grad_norm": 17.06321144104004, + "learning_rate": 4.9136803212097645e-06, + "loss": 0.4955, + "num_input_tokens_seen": 3767904, + "step": 1908 + }, + { + "epoch": 0.2530152418820411, + "grad_norm": 9.149087905883789, + "learning_rate": 4.9135898664606726e-06, + "loss": 0.2951, + "num_input_tokens_seen": 3769480, + "step": 1909 + }, + { + "epoch": 0.2531477799867462, + "grad_norm": 10.772250175476074, + "learning_rate": 4.913499365175903e-06, + "loss": 0.1489, + "num_input_tokens_seen": 3771184, + "step": 1910 + }, + { + "epoch": 0.2532803180914513, + "grad_norm": 8.179113388061523, + "learning_rate": 4.913408817357202e-06, + "loss": 0.2732, + "num_input_tokens_seen": 3772912, + "step": 1911 + }, + { + "epoch": 0.2534128561961564, + "grad_norm": 12.885571479797363, + "learning_rate": 4.913318223006313e-06, + "loss": 0.4088, + "num_input_tokens_seen": 3775336, + "step": 1912 + }, + { + "epoch": 0.2535453943008615, + "grad_norm": 4.166633129119873, + "learning_rate": 4.913227582124983e-06, + "loss": 0.0586, + "num_input_tokens_seen": 3777760, + "step": 1913 + }, + { + "epoch": 0.2536779324055666, + "grad_norm": 15.097594261169434, + "learning_rate": 4.913136894714962e-06, + "loss": 0.3176, + "num_input_tokens_seen": 3779112, + "step": 1914 + }, + { + "epoch": 0.2538104705102717, + "grad_norm": 40.72220230102539, + "learning_rate": 4.9130461607779955e-06, + "loss": 0.4155, + "num_input_tokens_seen": 3781096, + "step": 1915 + }, + { + "epoch": 0.2539430086149768, + "grad_norm": 7.796159744262695, + "learning_rate": 4.9129553803158354e-06, + "loss": 0.0957, + "num_input_tokens_seen": 3782632, + "step": 1916 + }, + { + "epoch": 0.2540755467196819, + "grad_norm": 12.889358520507812, + "learning_rate": 4.912864553330231e-06, + "loss": 0.2891, + "num_input_tokens_seen": 3785016, + "step": 1917 + }, + { + "epoch": 0.254208084824387, + "grad_norm": 18.439678192138672, + "learning_rate": 4.912773679822933e-06, + "loss": 0.623, + "num_input_tokens_seen": 3786720, + "step": 1918 + }, + { + "epoch": 0.2543406229290921, + "grad_norm": 7.719338893890381, + "learning_rate": 4.912682759795694e-06, + "loss": 0.0307, + "num_input_tokens_seen": 3788488, + "step": 1919 + }, + { + "epoch": 0.2544731610337972, + "grad_norm": 2.7555367946624756, + "learning_rate": 4.9125917932502664e-06, + "loss": 0.0279, + "num_input_tokens_seen": 3790992, + "step": 1920 + }, + { + "epoch": 0.25460569913850234, + "grad_norm": 0.22711621224880219, + "learning_rate": 4.912500780188405e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3792992, + "step": 1921 + }, + { + "epoch": 0.25473823724320743, + "grad_norm": 16.960533142089844, + "learning_rate": 4.912409720611865e-06, + "loss": 0.7691, + "num_input_tokens_seen": 3795288, + "step": 1922 + }, + { + "epoch": 0.2548707753479125, + "grad_norm": 8.18647575378418, + "learning_rate": 4.912318614522401e-06, + "loss": 0.2349, + "num_input_tokens_seen": 3797328, + "step": 1923 + }, + { + "epoch": 0.2550033134526176, + "grad_norm": 9.723200798034668, + "learning_rate": 4.912227461921771e-06, + "loss": 0.1876, + "num_input_tokens_seen": 3799688, + "step": 1924 + }, + { + "epoch": 0.2551358515573227, + "grad_norm": 14.271493911743164, + "learning_rate": 4.912136262811729e-06, + "loss": 0.3895, + "num_input_tokens_seen": 3801528, + "step": 1925 + }, + { + "epoch": 0.2552683896620278, + "grad_norm": 13.908578872680664, + "learning_rate": 4.912045017194037e-06, + "loss": 0.3838, + "num_input_tokens_seen": 3803216, + "step": 1926 + }, + { + "epoch": 0.25540092776673295, + "grad_norm": 12.45673656463623, + "learning_rate": 4.911953725070453e-06, + "loss": 0.4295, + "num_input_tokens_seen": 3804952, + "step": 1927 + }, + { + "epoch": 0.25553346587143805, + "grad_norm": 1.1298795938491821, + "learning_rate": 4.911862386442737e-06, + "loss": 0.0058, + "num_input_tokens_seen": 3806496, + "step": 1928 + }, + { + "epoch": 0.25566600397614314, + "grad_norm": 6.069340229034424, + "learning_rate": 4.911771001312651e-06, + "loss": 0.1139, + "num_input_tokens_seen": 3807616, + "step": 1929 + }, + { + "epoch": 0.25579854208084823, + "grad_norm": 6.994503498077393, + "learning_rate": 4.911679569681956e-06, + "loss": 0.09, + "num_input_tokens_seen": 3809480, + "step": 1930 + }, + { + "epoch": 0.25593108018555333, + "grad_norm": 10.260053634643555, + "learning_rate": 4.911588091552415e-06, + "loss": 0.1346, + "num_input_tokens_seen": 3811984, + "step": 1931 + }, + { + "epoch": 0.2560636182902585, + "grad_norm": 12.260746002197266, + "learning_rate": 4.9114965669257925e-06, + "loss": 0.3195, + "num_input_tokens_seen": 3814368, + "step": 1932 + }, + { + "epoch": 0.25619615639496357, + "grad_norm": 9.225576400756836, + "learning_rate": 4.911404995803853e-06, + "loss": 0.0865, + "num_input_tokens_seen": 3815864, + "step": 1933 + }, + { + "epoch": 0.25632869449966866, + "grad_norm": 12.727394104003906, + "learning_rate": 4.9113133781883606e-06, + "loss": 0.4504, + "num_input_tokens_seen": 3817632, + "step": 1934 + }, + { + "epoch": 0.25646123260437376, + "grad_norm": 2.2808163166046143, + "learning_rate": 4.9112217140810825e-06, + "loss": 0.0604, + "num_input_tokens_seen": 3819656, + "step": 1935 + }, + { + "epoch": 0.25659377070907885, + "grad_norm": 0.3402206301689148, + "learning_rate": 4.911130003483787e-06, + "loss": 0.002, + "num_input_tokens_seen": 3822264, + "step": 1936 + }, + { + "epoch": 0.25672630881378394, + "grad_norm": 10.273092269897461, + "learning_rate": 4.911038246398241e-06, + "loss": 0.4197, + "num_input_tokens_seen": 3824408, + "step": 1937 + }, + { + "epoch": 0.2568588469184891, + "grad_norm": 0.31295084953308105, + "learning_rate": 4.910946442826216e-06, + "loss": 0.0018, + "num_input_tokens_seen": 3825968, + "step": 1938 + }, + { + "epoch": 0.2569913850231942, + "grad_norm": 6.330104827880859, + "learning_rate": 4.910854592769478e-06, + "loss": 0.2035, + "num_input_tokens_seen": 3827640, + "step": 1939 + }, + { + "epoch": 0.2571239231278993, + "grad_norm": 11.184147834777832, + "learning_rate": 4.9107626962298016e-06, + "loss": 0.1846, + "num_input_tokens_seen": 3829360, + "step": 1940 + }, + { + "epoch": 0.25725646123260437, + "grad_norm": 9.858233451843262, + "learning_rate": 4.9106707532089575e-06, + "loss": 0.2018, + "num_input_tokens_seen": 3831088, + "step": 1941 + }, + { + "epoch": 0.25738899933730947, + "grad_norm": 11.623895645141602, + "learning_rate": 4.910578763708718e-06, + "loss": 0.2234, + "num_input_tokens_seen": 3832816, + "step": 1942 + }, + { + "epoch": 0.25752153744201456, + "grad_norm": 12.907204627990723, + "learning_rate": 4.910486727730857e-06, + "loss": 0.4126, + "num_input_tokens_seen": 3834784, + "step": 1943 + }, + { + "epoch": 0.2576540755467197, + "grad_norm": 5.1612677574157715, + "learning_rate": 4.910394645277149e-06, + "loss": 0.0667, + "num_input_tokens_seen": 3836376, + "step": 1944 + }, + { + "epoch": 0.2577866136514248, + "grad_norm": 0.10249636322259903, + "learning_rate": 4.9103025163493685e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3838704, + "step": 1945 + }, + { + "epoch": 0.2579191517561299, + "grad_norm": 14.6361083984375, + "learning_rate": 4.910210340949294e-06, + "loss": 0.4059, + "num_input_tokens_seen": 3840832, + "step": 1946 + }, + { + "epoch": 0.258051689860835, + "grad_norm": 0.15117675065994263, + "learning_rate": 4.9101181190787e-06, + "loss": 0.0009, + "num_input_tokens_seen": 3842512, + "step": 1947 + }, + { + "epoch": 0.2581842279655401, + "grad_norm": 0.2026304006576538, + "learning_rate": 4.910025850739367e-06, + "loss": 0.0011, + "num_input_tokens_seen": 3846128, + "step": 1948 + }, + { + "epoch": 0.2583167660702452, + "grad_norm": 2.1146724224090576, + "learning_rate": 4.909933535933073e-06, + "loss": 0.0112, + "num_input_tokens_seen": 3847960, + "step": 1949 + }, + { + "epoch": 0.2584493041749503, + "grad_norm": 9.959967613220215, + "learning_rate": 4.9098411746615984e-06, + "loss": 0.2864, + "num_input_tokens_seen": 3849072, + "step": 1950 + }, + { + "epoch": 0.2585818422796554, + "grad_norm": 24.567041397094727, + "learning_rate": 4.909748766926723e-06, + "loss": 0.6826, + "num_input_tokens_seen": 3851248, + "step": 1951 + }, + { + "epoch": 0.2587143803843605, + "grad_norm": 17.398883819580078, + "learning_rate": 4.9096563127302285e-06, + "loss": 0.5278, + "num_input_tokens_seen": 3853160, + "step": 1952 + }, + { + "epoch": 0.2588469184890656, + "grad_norm": 6.31428861618042, + "learning_rate": 4.9095638120738985e-06, + "loss": 0.1567, + "num_input_tokens_seen": 3855008, + "step": 1953 + }, + { + "epoch": 0.2589794565937707, + "grad_norm": 15.87155532836914, + "learning_rate": 4.909471264959516e-06, + "loss": 0.5319, + "num_input_tokens_seen": 3858176, + "step": 1954 + }, + { + "epoch": 0.2591119946984758, + "grad_norm": 9.704957008361816, + "learning_rate": 4.9093786713888645e-06, + "loss": 0.2225, + "num_input_tokens_seen": 3860592, + "step": 1955 + }, + { + "epoch": 0.25924453280318094, + "grad_norm": 0.11763802915811539, + "learning_rate": 4.909286031363732e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3862344, + "step": 1956 + }, + { + "epoch": 0.25937707090788603, + "grad_norm": 10.972003936767578, + "learning_rate": 4.909193344885901e-06, + "loss": 0.4619, + "num_input_tokens_seen": 3864912, + "step": 1957 + }, + { + "epoch": 0.2595096090125911, + "grad_norm": 9.863266944885254, + "learning_rate": 4.909100611957161e-06, + "loss": 0.3023, + "num_input_tokens_seen": 3867264, + "step": 1958 + }, + { + "epoch": 0.2596421471172962, + "grad_norm": 0.11831197142601013, + "learning_rate": 4.909007832579298e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3869680, + "step": 1959 + }, + { + "epoch": 0.2597746852220013, + "grad_norm": 12.972223281860352, + "learning_rate": 4.908915006754103e-06, + "loss": 0.1185, + "num_input_tokens_seen": 3871672, + "step": 1960 + }, + { + "epoch": 0.2599072233267064, + "grad_norm": 13.743368148803711, + "learning_rate": 4.908822134483365e-06, + "loss": 0.3367, + "num_input_tokens_seen": 3873832, + "step": 1961 + }, + { + "epoch": 0.26003976143141155, + "grad_norm": 11.24937915802002, + "learning_rate": 4.9087292157688746e-06, + "loss": 0.3837, + "num_input_tokens_seen": 3875624, + "step": 1962 + }, + { + "epoch": 0.26017229953611665, + "grad_norm": 0.17184431850910187, + "learning_rate": 4.9086362506124225e-06, + "loss": 0.001, + "num_input_tokens_seen": 3877032, + "step": 1963 + }, + { + "epoch": 0.26030483764082174, + "grad_norm": 7.578049182891846, + "learning_rate": 4.908543239015803e-06, + "loss": 0.2223, + "num_input_tokens_seen": 3878856, + "step": 1964 + }, + { + "epoch": 0.26043737574552683, + "grad_norm": 0.7672553062438965, + "learning_rate": 4.908450180980807e-06, + "loss": 0.004, + "num_input_tokens_seen": 3880856, + "step": 1965 + }, + { + "epoch": 0.2605699138502319, + "grad_norm": 1.161653757095337, + "learning_rate": 4.90835707650923e-06, + "loss": 0.0063, + "num_input_tokens_seen": 3882016, + "step": 1966 + }, + { + "epoch": 0.260702451954937, + "grad_norm": 4.956658363342285, + "learning_rate": 4.9082639256028685e-06, + "loss": 0.0973, + "num_input_tokens_seen": 3883800, + "step": 1967 + }, + { + "epoch": 0.26083499005964217, + "grad_norm": 15.792479515075684, + "learning_rate": 4.908170728263516e-06, + "loss": 0.4463, + "num_input_tokens_seen": 3885608, + "step": 1968 + }, + { + "epoch": 0.26096752816434726, + "grad_norm": 19.68912696838379, + "learning_rate": 4.908077484492971e-06, + "loss": 0.8024, + "num_input_tokens_seen": 3888384, + "step": 1969 + }, + { + "epoch": 0.26110006626905236, + "grad_norm": 3.058600902557373, + "learning_rate": 4.9079841942930305e-06, + "loss": 0.0376, + "num_input_tokens_seen": 3890992, + "step": 1970 + }, + { + "epoch": 0.26123260437375745, + "grad_norm": 12.606821060180664, + "learning_rate": 4.907890857665494e-06, + "loss": 0.2474, + "num_input_tokens_seen": 3893296, + "step": 1971 + }, + { + "epoch": 0.26136514247846254, + "grad_norm": 5.281127452850342, + "learning_rate": 4.907797474612161e-06, + "loss": 0.0709, + "num_input_tokens_seen": 3895184, + "step": 1972 + }, + { + "epoch": 0.26149768058316764, + "grad_norm": 5.009737491607666, + "learning_rate": 4.9077040451348305e-06, + "loss": 0.1491, + "num_input_tokens_seen": 3897360, + "step": 1973 + }, + { + "epoch": 0.2616302186878728, + "grad_norm": 12.964507102966309, + "learning_rate": 4.907610569235306e-06, + "loss": 0.3012, + "num_input_tokens_seen": 3899448, + "step": 1974 + }, + { + "epoch": 0.2617627567925779, + "grad_norm": 8.432779312133789, + "learning_rate": 4.907517046915388e-06, + "loss": 0.2229, + "num_input_tokens_seen": 3900984, + "step": 1975 + }, + { + "epoch": 0.26189529489728297, + "grad_norm": 0.20178042352199554, + "learning_rate": 4.907423478176881e-06, + "loss": 0.0012, + "num_input_tokens_seen": 3902744, + "step": 1976 + }, + { + "epoch": 0.26202783300198806, + "grad_norm": 0.16021206974983215, + "learning_rate": 4.907329863021588e-06, + "loss": 0.001, + "num_input_tokens_seen": 3904720, + "step": 1977 + }, + { + "epoch": 0.26216037110669316, + "grad_norm": 12.543532371520996, + "learning_rate": 4.907236201451315e-06, + "loss": 0.339, + "num_input_tokens_seen": 3906160, + "step": 1978 + }, + { + "epoch": 0.26229290921139825, + "grad_norm": 8.385379791259766, + "learning_rate": 4.907142493467868e-06, + "loss": 0.1689, + "num_input_tokens_seen": 3908896, + "step": 1979 + }, + { + "epoch": 0.2624254473161034, + "grad_norm": 18.749778747558594, + "learning_rate": 4.907048739073052e-06, + "loss": 0.4735, + "num_input_tokens_seen": 3911168, + "step": 1980 + }, + { + "epoch": 0.2625579854208085, + "grad_norm": 21.68638038635254, + "learning_rate": 4.906954938268677e-06, + "loss": 0.612, + "num_input_tokens_seen": 3913688, + "step": 1981 + }, + { + "epoch": 0.2626905235255136, + "grad_norm": 0.528471052646637, + "learning_rate": 4.906861091056549e-06, + "loss": 0.0033, + "num_input_tokens_seen": 3914864, + "step": 1982 + }, + { + "epoch": 0.2628230616302187, + "grad_norm": 10.204917907714844, + "learning_rate": 4.906767197438479e-06, + "loss": 0.2666, + "num_input_tokens_seen": 3916760, + "step": 1983 + }, + { + "epoch": 0.2629555997349238, + "grad_norm": 11.734451293945312, + "learning_rate": 4.9066732574162776e-06, + "loss": 0.2295, + "num_input_tokens_seen": 3918712, + "step": 1984 + }, + { + "epoch": 0.26308813783962887, + "grad_norm": 0.8257302641868591, + "learning_rate": 4.906579270991755e-06, + "loss": 0.0034, + "num_input_tokens_seen": 3920976, + "step": 1985 + }, + { + "epoch": 0.263220675944334, + "grad_norm": 0.7100668549537659, + "learning_rate": 4.9064852381667244e-06, + "loss": 0.0044, + "num_input_tokens_seen": 3922544, + "step": 1986 + }, + { + "epoch": 0.2633532140490391, + "grad_norm": 7.989956378936768, + "learning_rate": 4.906391158942998e-06, + "loss": 0.1863, + "num_input_tokens_seen": 3924408, + "step": 1987 + }, + { + "epoch": 0.2634857521537442, + "grad_norm": 0.2879713475704193, + "learning_rate": 4.90629703332239e-06, + "loss": 0.0016, + "num_input_tokens_seen": 3926432, + "step": 1988 + }, + { + "epoch": 0.2636182902584493, + "grad_norm": 5.889092445373535, + "learning_rate": 4.906202861306715e-06, + "loss": 0.1722, + "num_input_tokens_seen": 3928160, + "step": 1989 + }, + { + "epoch": 0.2637508283631544, + "grad_norm": 9.483233451843262, + "learning_rate": 4.906108642897789e-06, + "loss": 0.1704, + "num_input_tokens_seen": 3929600, + "step": 1990 + }, + { + "epoch": 0.26388336646785954, + "grad_norm": 21.586238861083984, + "learning_rate": 4.906014378097429e-06, + "loss": 0.5517, + "num_input_tokens_seen": 3932624, + "step": 1991 + }, + { + "epoch": 0.26401590457256463, + "grad_norm": 12.82308578491211, + "learning_rate": 4.905920066907451e-06, + "loss": 0.2326, + "num_input_tokens_seen": 3934672, + "step": 1992 + }, + { + "epoch": 0.2641484426772697, + "grad_norm": 11.597251892089844, + "learning_rate": 4.905825709329674e-06, + "loss": 0.2367, + "num_input_tokens_seen": 3936400, + "step": 1993 + }, + { + "epoch": 0.2642809807819748, + "grad_norm": 15.270519256591797, + "learning_rate": 4.90573130536592e-06, + "loss": 0.2457, + "num_input_tokens_seen": 3938048, + "step": 1994 + }, + { + "epoch": 0.2644135188866799, + "grad_norm": 0.1481652706861496, + "learning_rate": 4.905636855018004e-06, + "loss": 0.0009, + "num_input_tokens_seen": 3939608, + "step": 1995 + }, + { + "epoch": 0.264546056991385, + "grad_norm": 11.909150123596191, + "learning_rate": 4.905542358287751e-06, + "loss": 0.376, + "num_input_tokens_seen": 3941472, + "step": 1996 + }, + { + "epoch": 0.26467859509609015, + "grad_norm": 0.2123836874961853, + "learning_rate": 4.9054478151769824e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3943160, + "step": 1997 + }, + { + "epoch": 0.26481113320079525, + "grad_norm": 16.624813079833984, + "learning_rate": 4.90535322568752e-06, + "loss": 0.2058, + "num_input_tokens_seen": 3945496, + "step": 1998 + }, + { + "epoch": 0.26494367130550034, + "grad_norm": 7.588615417480469, + "learning_rate": 4.905258589821188e-06, + "loss": 0.0763, + "num_input_tokens_seen": 3949272, + "step": 1999 + }, + { + "epoch": 0.26507620941020543, + "grad_norm": 8.724717140197754, + "learning_rate": 4.9051639075798115e-06, + "loss": 0.2393, + "num_input_tokens_seen": 3951376, + "step": 2000 + }, + { + "epoch": 0.2652087475149105, + "grad_norm": 2.962209701538086, + "learning_rate": 4.905069178965215e-06, + "loss": 0.0286, + "num_input_tokens_seen": 3953696, + "step": 2001 + }, + { + "epoch": 0.2653412856196156, + "grad_norm": 9.51966667175293, + "learning_rate": 4.904974403979226e-06, + "loss": 0.1367, + "num_input_tokens_seen": 3956088, + "step": 2002 + }, + { + "epoch": 0.26547382372432077, + "grad_norm": 14.170860290527344, + "learning_rate": 4.904879582623671e-06, + "loss": 0.2694, + "num_input_tokens_seen": 3958344, + "step": 2003 + }, + { + "epoch": 0.26560636182902586, + "grad_norm": 14.364133834838867, + "learning_rate": 4.904784714900379e-06, + "loss": 0.4111, + "num_input_tokens_seen": 3961544, + "step": 2004 + }, + { + "epoch": 0.26573889993373095, + "grad_norm": 11.268760681152344, + "learning_rate": 4.904689800811179e-06, + "loss": 0.1794, + "num_input_tokens_seen": 3963936, + "step": 2005 + }, + { + "epoch": 0.26587143803843605, + "grad_norm": 5.095663070678711, + "learning_rate": 4.904594840357901e-06, + "loss": 0.0296, + "num_input_tokens_seen": 3965264, + "step": 2006 + }, + { + "epoch": 0.26600397614314114, + "grad_norm": 0.5969743132591248, + "learning_rate": 4.904499833542374e-06, + "loss": 0.0031, + "num_input_tokens_seen": 3967416, + "step": 2007 + }, + { + "epoch": 0.26613651424784623, + "grad_norm": 6.687586307525635, + "learning_rate": 4.9044047803664315e-06, + "loss": 0.1079, + "num_input_tokens_seen": 3969912, + "step": 2008 + }, + { + "epoch": 0.2662690523525514, + "grad_norm": 16.669143676757812, + "learning_rate": 4.904309680831908e-06, + "loss": 0.1944, + "num_input_tokens_seen": 3972248, + "step": 2009 + }, + { + "epoch": 0.2664015904572565, + "grad_norm": 15.311866760253906, + "learning_rate": 4.9042145349406335e-06, + "loss": 0.4541, + "num_input_tokens_seen": 3973952, + "step": 2010 + }, + { + "epoch": 0.26653412856196157, + "grad_norm": 0.25193893909454346, + "learning_rate": 4.904119342694445e-06, + "loss": 0.0015, + "num_input_tokens_seen": 3975472, + "step": 2011 + }, + { + "epoch": 0.26666666666666666, + "grad_norm": 21.174386978149414, + "learning_rate": 4.904024104095178e-06, + "loss": 0.6547, + "num_input_tokens_seen": 3977736, + "step": 2012 + }, + { + "epoch": 0.26679920477137176, + "grad_norm": 0.1642005443572998, + "learning_rate": 4.903928819144666e-06, + "loss": 0.001, + "num_input_tokens_seen": 3979552, + "step": 2013 + }, + { + "epoch": 0.26693174287607685, + "grad_norm": 0.40174320340156555, + "learning_rate": 4.903833487844749e-06, + "loss": 0.0016, + "num_input_tokens_seen": 3980760, + "step": 2014 + }, + { + "epoch": 0.267064280980782, + "grad_norm": 0.2936193645000458, + "learning_rate": 4.9037381101972635e-06, + "loss": 0.0014, + "num_input_tokens_seen": 3983176, + "step": 2015 + }, + { + "epoch": 0.2671968190854871, + "grad_norm": 9.621676445007324, + "learning_rate": 4.9036426862040485e-06, + "loss": 0.3425, + "num_input_tokens_seen": 3984360, + "step": 2016 + }, + { + "epoch": 0.2673293571901922, + "grad_norm": 5.5126051902771, + "learning_rate": 4.903547215866945e-06, + "loss": 0.1968, + "num_input_tokens_seen": 3986088, + "step": 2017 + }, + { + "epoch": 0.2674618952948973, + "grad_norm": 18.312286376953125, + "learning_rate": 4.903451699187793e-06, + "loss": 0.5361, + "num_input_tokens_seen": 3988456, + "step": 2018 + }, + { + "epoch": 0.26759443339960237, + "grad_norm": 3.170588970184326, + "learning_rate": 4.903356136168435e-06, + "loss": 0.0197, + "num_input_tokens_seen": 3990216, + "step": 2019 + }, + { + "epoch": 0.26772697150430746, + "grad_norm": 15.552123069763184, + "learning_rate": 4.903260526810712e-06, + "loss": 0.4036, + "num_input_tokens_seen": 3992712, + "step": 2020 + }, + { + "epoch": 0.2678595096090126, + "grad_norm": 11.448805809020996, + "learning_rate": 4.903164871116468e-06, + "loss": 0.553, + "num_input_tokens_seen": 3996408, + "step": 2021 + }, + { + "epoch": 0.2679920477137177, + "grad_norm": 5.961345195770264, + "learning_rate": 4.903069169087548e-06, + "loss": 0.0658, + "num_input_tokens_seen": 3999040, + "step": 2022 + }, + { + "epoch": 0.2681245858184228, + "grad_norm": 8.351921081542969, + "learning_rate": 4.902973420725796e-06, + "loss": 0.0991, + "num_input_tokens_seen": 4000824, + "step": 2023 + }, + { + "epoch": 0.2682571239231279, + "grad_norm": 11.373915672302246, + "learning_rate": 4.902877626033059e-06, + "loss": 0.1192, + "num_input_tokens_seen": 4003128, + "step": 2024 + }, + { + "epoch": 0.268389662027833, + "grad_norm": 6.572281360626221, + "learning_rate": 4.9027817850111836e-06, + "loss": 0.0607, + "num_input_tokens_seen": 4004656, + "step": 2025 + }, + { + "epoch": 0.2685222001325381, + "grad_norm": 16.788888931274414, + "learning_rate": 4.902685897662017e-06, + "loss": 0.4096, + "num_input_tokens_seen": 4006128, + "step": 2026 + }, + { + "epoch": 0.26865473823724323, + "grad_norm": 7.543140411376953, + "learning_rate": 4.90258996398741e-06, + "loss": 0.193, + "num_input_tokens_seen": 4008552, + "step": 2027 + }, + { + "epoch": 0.2687872763419483, + "grad_norm": 16.228511810302734, + "learning_rate": 4.902493983989211e-06, + "loss": 0.3381, + "num_input_tokens_seen": 4010688, + "step": 2028 + }, + { + "epoch": 0.2689198144466534, + "grad_norm": 9.006682395935059, + "learning_rate": 4.9023979576692695e-06, + "loss": 0.2154, + "num_input_tokens_seen": 4012280, + "step": 2029 + }, + { + "epoch": 0.2690523525513585, + "grad_norm": 8.267720222473145, + "learning_rate": 4.902301885029439e-06, + "loss": 0.154, + "num_input_tokens_seen": 4014384, + "step": 2030 + }, + { + "epoch": 0.2691848906560636, + "grad_norm": 5.125559329986572, + "learning_rate": 4.90220576607157e-06, + "loss": 0.1735, + "num_input_tokens_seen": 4015936, + "step": 2031 + }, + { + "epoch": 0.2693174287607687, + "grad_norm": 0.15806277096271515, + "learning_rate": 4.902109600797518e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4018200, + "step": 2032 + }, + { + "epoch": 0.26944996686547384, + "grad_norm": 0.2320534735918045, + "learning_rate": 4.902013389209135e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4020664, + "step": 2033 + }, + { + "epoch": 0.26958250497017894, + "grad_norm": 0.22386534512043, + "learning_rate": 4.901917131308277e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4022096, + "step": 2034 + }, + { + "epoch": 0.26971504307488403, + "grad_norm": 8.560279846191406, + "learning_rate": 4.9018208270967994e-06, + "loss": 0.2377, + "num_input_tokens_seen": 4023784, + "step": 2035 + }, + { + "epoch": 0.2698475811795891, + "grad_norm": 16.491777420043945, + "learning_rate": 4.9017244765765595e-06, + "loss": 0.1779, + "num_input_tokens_seen": 4025784, + "step": 2036 + }, + { + "epoch": 0.2699801192842942, + "grad_norm": 10.388203620910645, + "learning_rate": 4.901628079749415e-06, + "loss": 0.1628, + "num_input_tokens_seen": 4028192, + "step": 2037 + }, + { + "epoch": 0.2701126573889993, + "grad_norm": 0.5208950638771057, + "learning_rate": 4.901531636617224e-06, + "loss": 0.0028, + "num_input_tokens_seen": 4029360, + "step": 2038 + }, + { + "epoch": 0.27024519549370446, + "grad_norm": 0.661808967590332, + "learning_rate": 4.901435147181846e-06, + "loss": 0.0032, + "num_input_tokens_seen": 4031104, + "step": 2039 + }, + { + "epoch": 0.27037773359840955, + "grad_norm": 19.85924530029297, + "learning_rate": 4.9013386114451425e-06, + "loss": 0.2914, + "num_input_tokens_seen": 4033824, + "step": 2040 + }, + { + "epoch": 0.27051027170311465, + "grad_norm": 12.537938117980957, + "learning_rate": 4.901242029408973e-06, + "loss": 0.2449, + "num_input_tokens_seen": 4035280, + "step": 2041 + }, + { + "epoch": 0.27064280980781974, + "grad_norm": 13.15445327758789, + "learning_rate": 4.9011454010752015e-06, + "loss": 0.2494, + "num_input_tokens_seen": 4037048, + "step": 2042 + }, + { + "epoch": 0.27077534791252483, + "grad_norm": 1.1507568359375, + "learning_rate": 4.901048726445689e-06, + "loss": 0.0026, + "num_input_tokens_seen": 4038760, + "step": 2043 + }, + { + "epoch": 0.2709078860172299, + "grad_norm": 0.09718719869852066, + "learning_rate": 4.900952005522302e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4040496, + "step": 2044 + }, + { + "epoch": 0.2710404241219351, + "grad_norm": 21.779573440551758, + "learning_rate": 4.900855238306904e-06, + "loss": 0.6145, + "num_input_tokens_seen": 4042480, + "step": 2045 + }, + { + "epoch": 0.27117296222664017, + "grad_norm": 15.950552940368652, + "learning_rate": 4.900758424801361e-06, + "loss": 0.3946, + "num_input_tokens_seen": 4044376, + "step": 2046 + }, + { + "epoch": 0.27130550033134526, + "grad_norm": 4.705066204071045, + "learning_rate": 4.900661565007538e-06, + "loss": 0.0815, + "num_input_tokens_seen": 4045880, + "step": 2047 + }, + { + "epoch": 0.27143803843605036, + "grad_norm": 5.091487884521484, + "learning_rate": 4.900564658927305e-06, + "loss": 0.1412, + "num_input_tokens_seen": 4047608, + "step": 2048 + }, + { + "epoch": 0.27157057654075545, + "grad_norm": 0.09139948338270187, + "learning_rate": 4.9004677065625284e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4049224, + "step": 2049 + }, + { + "epoch": 0.2717031146454606, + "grad_norm": 11.605480194091797, + "learning_rate": 4.900370707915079e-06, + "loss": 0.1594, + "num_input_tokens_seen": 4051216, + "step": 2050 + }, + { + "epoch": 0.2718356527501657, + "grad_norm": 16.284513473510742, + "learning_rate": 4.900273662986826e-06, + "loss": 0.2195, + "num_input_tokens_seen": 4052832, + "step": 2051 + }, + { + "epoch": 0.2719681908548708, + "grad_norm": 0.07736451923847198, + "learning_rate": 4.900176571779642e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4054304, + "step": 2052 + }, + { + "epoch": 0.2721007289595759, + "grad_norm": 0.070550337433815, + "learning_rate": 4.900079434295397e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4055520, + "step": 2053 + }, + { + "epoch": 0.27223326706428097, + "grad_norm": 20.032869338989258, + "learning_rate": 4.8999822505359655e-06, + "loss": 0.4176, + "num_input_tokens_seen": 4056880, + "step": 2054 + }, + { + "epoch": 0.27236580516898606, + "grad_norm": 8.376030921936035, + "learning_rate": 4.8998850205032195e-06, + "loss": 0.1885, + "num_input_tokens_seen": 4059520, + "step": 2055 + }, + { + "epoch": 0.2724983432736912, + "grad_norm": 10.103906631469727, + "learning_rate": 4.899787744199035e-06, + "loss": 0.2957, + "num_input_tokens_seen": 4062776, + "step": 2056 + }, + { + "epoch": 0.2726308813783963, + "grad_norm": 12.452119827270508, + "learning_rate": 4.899690421625287e-06, + "loss": 0.2127, + "num_input_tokens_seen": 4065752, + "step": 2057 + }, + { + "epoch": 0.2727634194831014, + "grad_norm": 14.237703323364258, + "learning_rate": 4.899593052783853e-06, + "loss": 0.1875, + "num_input_tokens_seen": 4067280, + "step": 2058 + }, + { + "epoch": 0.2728959575878065, + "grad_norm": 14.333855628967285, + "learning_rate": 4.899495637676609e-06, + "loss": 0.4797, + "num_input_tokens_seen": 4069456, + "step": 2059 + }, + { + "epoch": 0.2730284956925116, + "grad_norm": 6.316786289215088, + "learning_rate": 4.899398176305434e-06, + "loss": 0.0643, + "num_input_tokens_seen": 4071408, + "step": 2060 + }, + { + "epoch": 0.2731610337972167, + "grad_norm": 7.7867631912231445, + "learning_rate": 4.899300668672207e-06, + "loss": 0.0099, + "num_input_tokens_seen": 4073280, + "step": 2061 + }, + { + "epoch": 0.27329357190192183, + "grad_norm": 10.514313697814941, + "learning_rate": 4.8992031147788075e-06, + "loss": 0.2162, + "num_input_tokens_seen": 4075208, + "step": 2062 + }, + { + "epoch": 0.2734261100066269, + "grad_norm": 17.147254943847656, + "learning_rate": 4.8991055146271175e-06, + "loss": 0.3135, + "num_input_tokens_seen": 4077040, + "step": 2063 + }, + { + "epoch": 0.273558648111332, + "grad_norm": 10.662821769714355, + "learning_rate": 4.8990078682190175e-06, + "loss": 0.1895, + "num_input_tokens_seen": 4078960, + "step": 2064 + }, + { + "epoch": 0.2736911862160371, + "grad_norm": 11.364448547363281, + "learning_rate": 4.898910175556391e-06, + "loss": 0.3366, + "num_input_tokens_seen": 4081136, + "step": 2065 + }, + { + "epoch": 0.2738237243207422, + "grad_norm": 26.864459991455078, + "learning_rate": 4.898812436641122e-06, + "loss": 0.6015, + "num_input_tokens_seen": 4082864, + "step": 2066 + }, + { + "epoch": 0.2739562624254473, + "grad_norm": 5.448799133300781, + "learning_rate": 4.898714651475094e-06, + "loss": 0.0489, + "num_input_tokens_seen": 4084024, + "step": 2067 + }, + { + "epoch": 0.27408880053015244, + "grad_norm": 14.595294952392578, + "learning_rate": 4.898616820060192e-06, + "loss": 0.2594, + "num_input_tokens_seen": 4086136, + "step": 2068 + }, + { + "epoch": 0.27422133863485754, + "grad_norm": 16.47277069091797, + "learning_rate": 4.898518942398304e-06, + "loss": 0.5557, + "num_input_tokens_seen": 4087624, + "step": 2069 + }, + { + "epoch": 0.27435387673956263, + "grad_norm": 15.175814628601074, + "learning_rate": 4.898421018491316e-06, + "loss": 0.2742, + "num_input_tokens_seen": 4089128, + "step": 2070 + }, + { + "epoch": 0.2744864148442677, + "grad_norm": 12.268685340881348, + "learning_rate": 4.898323048341115e-06, + "loss": 0.2884, + "num_input_tokens_seen": 4090280, + "step": 2071 + }, + { + "epoch": 0.2746189529489728, + "grad_norm": 10.0732421875, + "learning_rate": 4.898225031949592e-06, + "loss": 0.2714, + "num_input_tokens_seen": 4092288, + "step": 2072 + }, + { + "epoch": 0.2747514910536779, + "grad_norm": 20.11159896850586, + "learning_rate": 4.8981269693186365e-06, + "loss": 0.6043, + "num_input_tokens_seen": 4094184, + "step": 2073 + }, + { + "epoch": 0.27488402915838306, + "grad_norm": 10.031855583190918, + "learning_rate": 4.898028860450138e-06, + "loss": 0.3076, + "num_input_tokens_seen": 4096584, + "step": 2074 + }, + { + "epoch": 0.27501656726308815, + "grad_norm": 11.20979118347168, + "learning_rate": 4.8979307053459884e-06, + "loss": 0.3234, + "num_input_tokens_seen": 4098720, + "step": 2075 + }, + { + "epoch": 0.27514910536779325, + "grad_norm": 4.827417373657227, + "learning_rate": 4.897832504008081e-06, + "loss": 0.1674, + "num_input_tokens_seen": 4100944, + "step": 2076 + }, + { + "epoch": 0.27528164347249834, + "grad_norm": 9.533052444458008, + "learning_rate": 4.897734256438309e-06, + "loss": 0.2884, + "num_input_tokens_seen": 4102928, + "step": 2077 + }, + { + "epoch": 0.27541418157720343, + "grad_norm": 4.671139240264893, + "learning_rate": 4.897635962638566e-06, + "loss": 0.0754, + "num_input_tokens_seen": 4105280, + "step": 2078 + }, + { + "epoch": 0.2755467196819085, + "grad_norm": 12.15795612335205, + "learning_rate": 4.897537622610748e-06, + "loss": 0.2198, + "num_input_tokens_seen": 4108352, + "step": 2079 + }, + { + "epoch": 0.2756792577866137, + "grad_norm": 0.42824143171310425, + "learning_rate": 4.89743923635675e-06, + "loss": 0.0025, + "num_input_tokens_seen": 4109648, + "step": 2080 + }, + { + "epoch": 0.27581179589131877, + "grad_norm": 17.460590362548828, + "learning_rate": 4.89734080387847e-06, + "loss": 0.2317, + "num_input_tokens_seen": 4111184, + "step": 2081 + }, + { + "epoch": 0.27594433399602386, + "grad_norm": 3.146728754043579, + "learning_rate": 4.897242325177805e-06, + "loss": 0.0138, + "num_input_tokens_seen": 4112624, + "step": 2082 + }, + { + "epoch": 0.27607687210072895, + "grad_norm": 0.4596201777458191, + "learning_rate": 4.897143800256655e-06, + "loss": 0.0029, + "num_input_tokens_seen": 4114336, + "step": 2083 + }, + { + "epoch": 0.27620941020543405, + "grad_norm": 13.028621673583984, + "learning_rate": 4.897045229116919e-06, + "loss": 0.3446, + "num_input_tokens_seen": 4117016, + "step": 2084 + }, + { + "epoch": 0.27634194831013914, + "grad_norm": 0.43419769406318665, + "learning_rate": 4.896946611760496e-06, + "loss": 0.0026, + "num_input_tokens_seen": 4119848, + "step": 2085 + }, + { + "epoch": 0.2764744864148443, + "grad_norm": 1.7718678712844849, + "learning_rate": 4.89684794818929e-06, + "loss": 0.0068, + "num_input_tokens_seen": 4121592, + "step": 2086 + }, + { + "epoch": 0.2766070245195494, + "grad_norm": 10.505563735961914, + "learning_rate": 4.896749238405202e-06, + "loss": 0.2272, + "num_input_tokens_seen": 4123720, + "step": 2087 + }, + { + "epoch": 0.2767395626242545, + "grad_norm": 14.227324485778809, + "learning_rate": 4.896650482410135e-06, + "loss": 0.252, + "num_input_tokens_seen": 4125096, + "step": 2088 + }, + { + "epoch": 0.27687210072895957, + "grad_norm": 0.12318974733352661, + "learning_rate": 4.896551680205992e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4126384, + "step": 2089 + }, + { + "epoch": 0.27700463883366466, + "grad_norm": 9.384637832641602, + "learning_rate": 4.896452831794681e-06, + "loss": 0.4158, + "num_input_tokens_seen": 4128424, + "step": 2090 + }, + { + "epoch": 0.27713717693836976, + "grad_norm": 3.53444766998291, + "learning_rate": 4.896353937178106e-06, + "loss": 0.0519, + "num_input_tokens_seen": 4130104, + "step": 2091 + }, + { + "epoch": 0.2772697150430749, + "grad_norm": 0.919614851474762, + "learning_rate": 4.896254996358174e-06, + "loss": 0.0045, + "num_input_tokens_seen": 4131184, + "step": 2092 + }, + { + "epoch": 0.27740225314778, + "grad_norm": 18.927024841308594, + "learning_rate": 4.896156009336792e-06, + "loss": 0.6818, + "num_input_tokens_seen": 4133368, + "step": 2093 + }, + { + "epoch": 0.2775347912524851, + "grad_norm": 8.679544448852539, + "learning_rate": 4.896056976115869e-06, + "loss": 0.1331, + "num_input_tokens_seen": 4136256, + "step": 2094 + }, + { + "epoch": 0.2776673293571902, + "grad_norm": 15.54692268371582, + "learning_rate": 4.895957896697315e-06, + "loss": 0.4987, + "num_input_tokens_seen": 4137520, + "step": 2095 + }, + { + "epoch": 0.2777998674618953, + "grad_norm": 3.3338866233825684, + "learning_rate": 4.895858771083039e-06, + "loss": 0.0848, + "num_input_tokens_seen": 4139032, + "step": 2096 + }, + { + "epoch": 0.27793240556660037, + "grad_norm": 12.034407615661621, + "learning_rate": 4.895759599274955e-06, + "loss": 0.3229, + "num_input_tokens_seen": 4141664, + "step": 2097 + }, + { + "epoch": 0.2780649436713055, + "grad_norm": 10.661338806152344, + "learning_rate": 4.895660381274971e-06, + "loss": 0.265, + "num_input_tokens_seen": 4143560, + "step": 2098 + }, + { + "epoch": 0.2781974817760106, + "grad_norm": 4.307747840881348, + "learning_rate": 4.895561117085004e-06, + "loss": 0.2225, + "num_input_tokens_seen": 4147128, + "step": 2099 + }, + { + "epoch": 0.2783300198807157, + "grad_norm": 10.567222595214844, + "learning_rate": 4.895461806706965e-06, + "loss": 0.2437, + "num_input_tokens_seen": 4149080, + "step": 2100 + }, + { + "epoch": 0.2784625579854208, + "grad_norm": 16.266071319580078, + "learning_rate": 4.89536245014277e-06, + "loss": 0.2531, + "num_input_tokens_seen": 4150656, + "step": 2101 + }, + { + "epoch": 0.2785950960901259, + "grad_norm": 11.213003158569336, + "learning_rate": 4.895263047394334e-06, + "loss": 0.2957, + "num_input_tokens_seen": 4152424, + "step": 2102 + }, + { + "epoch": 0.278727634194831, + "grad_norm": 16.003807067871094, + "learning_rate": 4.895163598463575e-06, + "loss": 0.4159, + "num_input_tokens_seen": 4155384, + "step": 2103 + }, + { + "epoch": 0.27886017229953614, + "grad_norm": 0.06696567684412003, + "learning_rate": 4.89506410335241e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4156712, + "step": 2104 + }, + { + "epoch": 0.27899271040424123, + "grad_norm": 1.272228717803955, + "learning_rate": 4.894964562062755e-06, + "loss": 0.0162, + "num_input_tokens_seen": 4158504, + "step": 2105 + }, + { + "epoch": 0.2791252485089463, + "grad_norm": 4.4508843421936035, + "learning_rate": 4.894864974596531e-06, + "loss": 0.0528, + "num_input_tokens_seen": 4160480, + "step": 2106 + }, + { + "epoch": 0.2792577866136514, + "grad_norm": 1.2055717706680298, + "learning_rate": 4.894765340955659e-06, + "loss": 0.0041, + "num_input_tokens_seen": 4162632, + "step": 2107 + }, + { + "epoch": 0.2793903247183565, + "grad_norm": 0.13629478216171265, + "learning_rate": 4.89466566114206e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4164136, + "step": 2108 + }, + { + "epoch": 0.27952286282306166, + "grad_norm": 6.652531623840332, + "learning_rate": 4.894565935157654e-06, + "loss": 0.0524, + "num_input_tokens_seen": 4166208, + "step": 2109 + }, + { + "epoch": 0.27965540092776675, + "grad_norm": 13.997855186462402, + "learning_rate": 4.894466163004365e-06, + "loss": 0.2631, + "num_input_tokens_seen": 4168528, + "step": 2110 + }, + { + "epoch": 0.27978793903247184, + "grad_norm": 3.0898513793945312, + "learning_rate": 4.894366344684117e-06, + "loss": 0.0576, + "num_input_tokens_seen": 4171128, + "step": 2111 + }, + { + "epoch": 0.27992047713717694, + "grad_norm": 0.09713403880596161, + "learning_rate": 4.894266480198834e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4173600, + "step": 2112 + }, + { + "epoch": 0.28005301524188203, + "grad_norm": 14.981772422790527, + "learning_rate": 4.894166569550442e-06, + "loss": 0.5667, + "num_input_tokens_seen": 4175976, + "step": 2113 + }, + { + "epoch": 0.2801855533465871, + "grad_norm": 13.724303245544434, + "learning_rate": 4.894066612740866e-06, + "loss": 0.4238, + "num_input_tokens_seen": 4178056, + "step": 2114 + }, + { + "epoch": 0.2803180914512923, + "grad_norm": 0.1035027801990509, + "learning_rate": 4.893966609772034e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4180032, + "step": 2115 + }, + { + "epoch": 0.28045062955599737, + "grad_norm": 5.932621002197266, + "learning_rate": 4.893866560645874e-06, + "loss": 0.1781, + "num_input_tokens_seen": 4181456, + "step": 2116 + }, + { + "epoch": 0.28058316766070246, + "grad_norm": 3.967175245285034, + "learning_rate": 4.893766465364316e-06, + "loss": 0.0745, + "num_input_tokens_seen": 4183264, + "step": 2117 + }, + { + "epoch": 0.28071570576540755, + "grad_norm": 6.677824974060059, + "learning_rate": 4.8936663239292885e-06, + "loss": 0.0485, + "num_input_tokens_seen": 4185616, + "step": 2118 + }, + { + "epoch": 0.28084824387011265, + "grad_norm": 0.20160391926765442, + "learning_rate": 4.893566136342723e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4187440, + "step": 2119 + }, + { + "epoch": 0.28098078197481774, + "grad_norm": 10.150309562683105, + "learning_rate": 4.893465902606553e-06, + "loss": 0.2062, + "num_input_tokens_seen": 4189088, + "step": 2120 + }, + { + "epoch": 0.2811133200795229, + "grad_norm": 7.110853672027588, + "learning_rate": 4.893365622722708e-06, + "loss": 0.1879, + "num_input_tokens_seen": 4191512, + "step": 2121 + }, + { + "epoch": 0.281245858184228, + "grad_norm": 11.135810852050781, + "learning_rate": 4.893265296693122e-06, + "loss": 0.1136, + "num_input_tokens_seen": 4193784, + "step": 2122 + }, + { + "epoch": 0.2813783962889331, + "grad_norm": 10.362106323242188, + "learning_rate": 4.8931649245197295e-06, + "loss": 0.2628, + "num_input_tokens_seen": 4195360, + "step": 2123 + }, + { + "epoch": 0.28151093439363817, + "grad_norm": 7.839051723480225, + "learning_rate": 4.893064506204468e-06, + "loss": 0.2214, + "num_input_tokens_seen": 4197504, + "step": 2124 + }, + { + "epoch": 0.28164347249834326, + "grad_norm": 9.837350845336914, + "learning_rate": 4.892964041749272e-06, + "loss": 0.1783, + "num_input_tokens_seen": 4198800, + "step": 2125 + }, + { + "epoch": 0.28177601060304835, + "grad_norm": 20.550384521484375, + "learning_rate": 4.892863531156077e-06, + "loss": 0.7532, + "num_input_tokens_seen": 4201304, + "step": 2126 + }, + { + "epoch": 0.2819085487077535, + "grad_norm": 6.567972660064697, + "learning_rate": 4.892762974426824e-06, + "loss": 0.1319, + "num_input_tokens_seen": 4202584, + "step": 2127 + }, + { + "epoch": 0.2820410868124586, + "grad_norm": 0.40053123235702515, + "learning_rate": 4.892662371563449e-06, + "loss": 0.0024, + "num_input_tokens_seen": 4205288, + "step": 2128 + }, + { + "epoch": 0.2821736249171637, + "grad_norm": 11.262001991271973, + "learning_rate": 4.892561722567893e-06, + "loss": 0.0842, + "num_input_tokens_seen": 4206400, + "step": 2129 + }, + { + "epoch": 0.2823061630218688, + "grad_norm": 13.66666316986084, + "learning_rate": 4.8924610274420965e-06, + "loss": 0.3291, + "num_input_tokens_seen": 4209208, + "step": 2130 + }, + { + "epoch": 0.2824387011265739, + "grad_norm": 0.42933377623558044, + "learning_rate": 4.892360286188001e-06, + "loss": 0.0026, + "num_input_tokens_seen": 4210536, + "step": 2131 + }, + { + "epoch": 0.28257123923127897, + "grad_norm": 3.2867815494537354, + "learning_rate": 4.892259498807549e-06, + "loss": 0.0461, + "num_input_tokens_seen": 4212336, + "step": 2132 + }, + { + "epoch": 0.2827037773359841, + "grad_norm": 1.2013334035873413, + "learning_rate": 4.892158665302683e-06, + "loss": 0.0073, + "num_input_tokens_seen": 4215064, + "step": 2133 + }, + { + "epoch": 0.2828363154406892, + "grad_norm": 6.951056957244873, + "learning_rate": 4.8920577856753485e-06, + "loss": 0.1215, + "num_input_tokens_seen": 4216496, + "step": 2134 + }, + { + "epoch": 0.2829688535453943, + "grad_norm": 9.356734275817871, + "learning_rate": 4.891956859927489e-06, + "loss": 0.2638, + "num_input_tokens_seen": 4218424, + "step": 2135 + }, + { + "epoch": 0.2831013916500994, + "grad_norm": 5.535884857177734, + "learning_rate": 4.891855888061051e-06, + "loss": 0.1378, + "num_input_tokens_seen": 4220232, + "step": 2136 + }, + { + "epoch": 0.2832339297548045, + "grad_norm": 0.24731677770614624, + "learning_rate": 4.8917548700779815e-06, + "loss": 0.0015, + "num_input_tokens_seen": 4221688, + "step": 2137 + }, + { + "epoch": 0.2833664678595096, + "grad_norm": 9.523365020751953, + "learning_rate": 4.891653805980229e-06, + "loss": 0.2774, + "num_input_tokens_seen": 4224160, + "step": 2138 + }, + { + "epoch": 0.28349900596421473, + "grad_norm": 4.411974906921387, + "learning_rate": 4.89155269576974e-06, + "loss": 0.1228, + "num_input_tokens_seen": 4225664, + "step": 2139 + }, + { + "epoch": 0.2836315440689198, + "grad_norm": 7.0857062339782715, + "learning_rate": 4.891451539448466e-06, + "loss": 0.0419, + "num_input_tokens_seen": 4227248, + "step": 2140 + }, + { + "epoch": 0.2837640821736249, + "grad_norm": 1.3636587858200073, + "learning_rate": 4.891350337018356e-06, + "loss": 0.0053, + "num_input_tokens_seen": 4228600, + "step": 2141 + }, + { + "epoch": 0.28389662027833, + "grad_norm": 17.46363639831543, + "learning_rate": 4.891249088481362e-06, + "loss": 0.5138, + "num_input_tokens_seen": 4230584, + "step": 2142 + }, + { + "epoch": 0.2840291583830351, + "grad_norm": 3.9148268699645996, + "learning_rate": 4.891147793839436e-06, + "loss": 0.0845, + "num_input_tokens_seen": 4232488, + "step": 2143 + }, + { + "epoch": 0.2841616964877402, + "grad_norm": 8.393854141235352, + "learning_rate": 4.8910464530945315e-06, + "loss": 0.3156, + "num_input_tokens_seen": 4235264, + "step": 2144 + }, + { + "epoch": 0.28429423459244535, + "grad_norm": 0.19208067655563354, + "learning_rate": 4.890945066248601e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4236536, + "step": 2145 + }, + { + "epoch": 0.28442677269715044, + "grad_norm": 12.819842338562012, + "learning_rate": 4.8908436333036e-06, + "loss": 0.2872, + "num_input_tokens_seen": 4238552, + "step": 2146 + }, + { + "epoch": 0.28455931080185554, + "grad_norm": 10.956326484680176, + "learning_rate": 4.890742154261485e-06, + "loss": 0.3317, + "num_input_tokens_seen": 4239920, + "step": 2147 + }, + { + "epoch": 0.28469184890656063, + "grad_norm": 10.47569465637207, + "learning_rate": 4.8906406291242124e-06, + "loss": 0.3484, + "num_input_tokens_seen": 4241688, + "step": 2148 + }, + { + "epoch": 0.2848243870112657, + "grad_norm": 7.644991874694824, + "learning_rate": 4.890539057893738e-06, + "loss": 0.1377, + "num_input_tokens_seen": 4243464, + "step": 2149 + }, + { + "epoch": 0.2849569251159708, + "grad_norm": 0.26079681515693665, + "learning_rate": 4.890437440572023e-06, + "loss": 0.0014, + "num_input_tokens_seen": 4245144, + "step": 2150 + }, + { + "epoch": 0.28508946322067596, + "grad_norm": 0.09864098578691483, + "learning_rate": 4.890335777161024e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4246512, + "step": 2151 + }, + { + "epoch": 0.28522200132538106, + "grad_norm": 11.880043983459473, + "learning_rate": 4.890234067662703e-06, + "loss": 0.3895, + "num_input_tokens_seen": 4249016, + "step": 2152 + }, + { + "epoch": 0.28535453943008615, + "grad_norm": 19.725011825561523, + "learning_rate": 4.890132312079019e-06, + "loss": 0.416, + "num_input_tokens_seen": 4251416, + "step": 2153 + }, + { + "epoch": 0.28548707753479124, + "grad_norm": 0.11647134274244308, + "learning_rate": 4.890030510411936e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4252536, + "step": 2154 + }, + { + "epoch": 0.28561961563949634, + "grad_norm": 4.854540824890137, + "learning_rate": 4.889928662663416e-06, + "loss": 0.1292, + "num_input_tokens_seen": 4254872, + "step": 2155 + }, + { + "epoch": 0.28575215374420143, + "grad_norm": 4.824460506439209, + "learning_rate": 4.889826768835422e-06, + "loss": 0.1208, + "num_input_tokens_seen": 4257088, + "step": 2156 + }, + { + "epoch": 0.2858846918489066, + "grad_norm": 6.68923282623291, + "learning_rate": 4.88972482892992e-06, + "loss": 0.1716, + "num_input_tokens_seen": 4258632, + "step": 2157 + }, + { + "epoch": 0.2860172299536117, + "grad_norm": 7.124477863311768, + "learning_rate": 4.8896228429488745e-06, + "loss": 0.1301, + "num_input_tokens_seen": 4261320, + "step": 2158 + }, + { + "epoch": 0.28614976805831677, + "grad_norm": 0.330934077501297, + "learning_rate": 4.889520810894252e-06, + "loss": 0.002, + "num_input_tokens_seen": 4263792, + "step": 2159 + }, + { + "epoch": 0.28628230616302186, + "grad_norm": 11.706367492675781, + "learning_rate": 4.88941873276802e-06, + "loss": 0.4521, + "num_input_tokens_seen": 4266248, + "step": 2160 + }, + { + "epoch": 0.28641484426772695, + "grad_norm": 5.327991485595703, + "learning_rate": 4.889316608572145e-06, + "loss": 0.098, + "num_input_tokens_seen": 4267912, + "step": 2161 + }, + { + "epoch": 0.28654738237243205, + "grad_norm": 7.563729286193848, + "learning_rate": 4.889214438308599e-06, + "loss": 0.1869, + "num_input_tokens_seen": 4269632, + "step": 2162 + }, + { + "epoch": 0.2866799204771372, + "grad_norm": 9.429889678955078, + "learning_rate": 4.889112221979351e-06, + "loss": 0.111, + "num_input_tokens_seen": 4271432, + "step": 2163 + }, + { + "epoch": 0.2868124585818423, + "grad_norm": 11.942160606384277, + "learning_rate": 4.88900995958637e-06, + "loss": 0.296, + "num_input_tokens_seen": 4274160, + "step": 2164 + }, + { + "epoch": 0.2869449966865474, + "grad_norm": 9.047669410705566, + "learning_rate": 4.888907651131629e-06, + "loss": 0.2054, + "num_input_tokens_seen": 4277056, + "step": 2165 + }, + { + "epoch": 0.2870775347912525, + "grad_norm": 0.7073408365249634, + "learning_rate": 4.888805296617101e-06, + "loss": 0.0044, + "num_input_tokens_seen": 4278632, + "step": 2166 + }, + { + "epoch": 0.28721007289595757, + "grad_norm": 6.935251712799072, + "learning_rate": 4.888702896044759e-06, + "loss": 0.1116, + "num_input_tokens_seen": 4280664, + "step": 2167 + }, + { + "epoch": 0.2873426110006627, + "grad_norm": 6.126161575317383, + "learning_rate": 4.888600449416576e-06, + "loss": 0.0927, + "num_input_tokens_seen": 4282560, + "step": 2168 + }, + { + "epoch": 0.2874751491053678, + "grad_norm": 16.38372230529785, + "learning_rate": 4.88849795673453e-06, + "loss": 0.2978, + "num_input_tokens_seen": 4284872, + "step": 2169 + }, + { + "epoch": 0.2876076872100729, + "grad_norm": 18.123579025268555, + "learning_rate": 4.888395418000595e-06, + "loss": 0.4355, + "num_input_tokens_seen": 4286896, + "step": 2170 + }, + { + "epoch": 0.287740225314778, + "grad_norm": 10.993791580200195, + "learning_rate": 4.888292833216749e-06, + "loss": 0.218, + "num_input_tokens_seen": 4288672, + "step": 2171 + }, + { + "epoch": 0.2878727634194831, + "grad_norm": 19.185699462890625, + "learning_rate": 4.8881902023849696e-06, + "loss": 0.1878, + "num_input_tokens_seen": 4290640, + "step": 2172 + }, + { + "epoch": 0.2880053015241882, + "grad_norm": 16.663862228393555, + "learning_rate": 4.888087525507235e-06, + "loss": 0.3048, + "num_input_tokens_seen": 4293048, + "step": 2173 + }, + { + "epoch": 0.28813783962889333, + "grad_norm": 15.162696838378906, + "learning_rate": 4.887984802585525e-06, + "loss": 0.1771, + "num_input_tokens_seen": 4295712, + "step": 2174 + }, + { + "epoch": 0.2882703777335984, + "grad_norm": 8.397686004638672, + "learning_rate": 4.887882033621821e-06, + "loss": 0.2193, + "num_input_tokens_seen": 4297968, + "step": 2175 + }, + { + "epoch": 0.2884029158383035, + "grad_norm": 2.960301160812378, + "learning_rate": 4.887779218618105e-06, + "loss": 0.0206, + "num_input_tokens_seen": 4299832, + "step": 2176 + }, + { + "epoch": 0.2885354539430086, + "grad_norm": 16.112192153930664, + "learning_rate": 4.887676357576358e-06, + "loss": 0.3614, + "num_input_tokens_seen": 4301440, + "step": 2177 + }, + { + "epoch": 0.2886679920477137, + "grad_norm": 12.998985290527344, + "learning_rate": 4.887573450498564e-06, + "loss": 0.2919, + "num_input_tokens_seen": 4303680, + "step": 2178 + }, + { + "epoch": 0.2888005301524188, + "grad_norm": 18.08317756652832, + "learning_rate": 4.887470497386706e-06, + "loss": 0.314, + "num_input_tokens_seen": 4306304, + "step": 2179 + }, + { + "epoch": 0.28893306825712395, + "grad_norm": 17.149301528930664, + "learning_rate": 4.88736749824277e-06, + "loss": 0.32, + "num_input_tokens_seen": 4307808, + "step": 2180 + }, + { + "epoch": 0.28906560636182904, + "grad_norm": 11.350018501281738, + "learning_rate": 4.887264453068742e-06, + "loss": 0.3471, + "num_input_tokens_seen": 4309816, + "step": 2181 + }, + { + "epoch": 0.28919814446653413, + "grad_norm": 15.040003776550293, + "learning_rate": 4.887161361866608e-06, + "loss": 0.1677, + "num_input_tokens_seen": 4311736, + "step": 2182 + }, + { + "epoch": 0.28933068257123923, + "grad_norm": 11.911293983459473, + "learning_rate": 4.887058224638356e-06, + "loss": 0.3556, + "num_input_tokens_seen": 4314048, + "step": 2183 + }, + { + "epoch": 0.2894632206759443, + "grad_norm": 10.788071632385254, + "learning_rate": 4.886955041385975e-06, + "loss": 0.1982, + "num_input_tokens_seen": 4316024, + "step": 2184 + }, + { + "epoch": 0.2895957587806494, + "grad_norm": 9.0302734375, + "learning_rate": 4.886851812111454e-06, + "loss": 0.2302, + "num_input_tokens_seen": 4317664, + "step": 2185 + }, + { + "epoch": 0.28972829688535456, + "grad_norm": 4.5644989013671875, + "learning_rate": 4.886748536816784e-06, + "loss": 0.123, + "num_input_tokens_seen": 4318688, + "step": 2186 + }, + { + "epoch": 0.28986083499005966, + "grad_norm": 3.457049608230591, + "learning_rate": 4.886645215503955e-06, + "loss": 0.0247, + "num_input_tokens_seen": 4320896, + "step": 2187 + }, + { + "epoch": 0.28999337309476475, + "grad_norm": 1.8337422609329224, + "learning_rate": 4.8865418481749605e-06, + "loss": 0.0121, + "num_input_tokens_seen": 4322448, + "step": 2188 + }, + { + "epoch": 0.29012591119946984, + "grad_norm": 1.623603343963623, + "learning_rate": 4.886438434831792e-06, + "loss": 0.0108, + "num_input_tokens_seen": 4324248, + "step": 2189 + }, + { + "epoch": 0.29025844930417494, + "grad_norm": 10.071128845214844, + "learning_rate": 4.886334975476445e-06, + "loss": 0.3087, + "num_input_tokens_seen": 4326088, + "step": 2190 + }, + { + "epoch": 0.29039098740888003, + "grad_norm": 6.025654315948486, + "learning_rate": 4.886231470110913e-06, + "loss": 0.0756, + "num_input_tokens_seen": 4327744, + "step": 2191 + }, + { + "epoch": 0.2905235255135852, + "grad_norm": 11.878471374511719, + "learning_rate": 4.886127918737191e-06, + "loss": 0.3052, + "num_input_tokens_seen": 4329432, + "step": 2192 + }, + { + "epoch": 0.2906560636182903, + "grad_norm": 6.4588303565979, + "learning_rate": 4.8860243213572776e-06, + "loss": 0.0933, + "num_input_tokens_seen": 4331320, + "step": 2193 + }, + { + "epoch": 0.29078860172299537, + "grad_norm": 10.340522766113281, + "learning_rate": 4.885920677973169e-06, + "loss": 0.392, + "num_input_tokens_seen": 4333216, + "step": 2194 + }, + { + "epoch": 0.29092113982770046, + "grad_norm": 10.025800704956055, + "learning_rate": 4.885816988586864e-06, + "loss": 0.1623, + "num_input_tokens_seen": 4335312, + "step": 2195 + }, + { + "epoch": 0.29105367793240555, + "grad_norm": 14.015799522399902, + "learning_rate": 4.8857132532003624e-06, + "loss": 0.2503, + "num_input_tokens_seen": 4338424, + "step": 2196 + }, + { + "epoch": 0.29118621603711065, + "grad_norm": 0.4355078339576721, + "learning_rate": 4.885609471815662e-06, + "loss": 0.0027, + "num_input_tokens_seen": 4340248, + "step": 2197 + }, + { + "epoch": 0.2913187541418158, + "grad_norm": 0.33607354760169983, + "learning_rate": 4.885505644434766e-06, + "loss": 0.0021, + "num_input_tokens_seen": 4342096, + "step": 2198 + }, + { + "epoch": 0.2914512922465209, + "grad_norm": 7.259146690368652, + "learning_rate": 4.885401771059676e-06, + "loss": 0.0773, + "num_input_tokens_seen": 4343840, + "step": 2199 + }, + { + "epoch": 0.291583830351226, + "grad_norm": 5.765463352203369, + "learning_rate": 4.885297851692393e-06, + "loss": 0.1881, + "num_input_tokens_seen": 4345552, + "step": 2200 + }, + { + "epoch": 0.2917163684559311, + "grad_norm": 7.386293888092041, + "learning_rate": 4.885193886334922e-06, + "loss": 0.1949, + "num_input_tokens_seen": 4348552, + "step": 2201 + }, + { + "epoch": 0.29184890656063617, + "grad_norm": 6.986801624298096, + "learning_rate": 4.885089874989268e-06, + "loss": 0.2179, + "num_input_tokens_seen": 4350448, + "step": 2202 + }, + { + "epoch": 0.29198144466534126, + "grad_norm": 4.420465469360352, + "learning_rate": 4.884985817657436e-06, + "loss": 0.0385, + "num_input_tokens_seen": 4352016, + "step": 2203 + }, + { + "epoch": 0.2921139827700464, + "grad_norm": 9.250154495239258, + "learning_rate": 4.884881714341432e-06, + "loss": 0.1252, + "num_input_tokens_seen": 4353368, + "step": 2204 + }, + { + "epoch": 0.2922465208747515, + "grad_norm": 0.14360158145427704, + "learning_rate": 4.884777565043264e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4355584, + "step": 2205 + }, + { + "epoch": 0.2923790589794566, + "grad_norm": 13.098666191101074, + "learning_rate": 4.884673369764939e-06, + "loss": 0.4706, + "num_input_tokens_seen": 4357728, + "step": 2206 + }, + { + "epoch": 0.2925115970841617, + "grad_norm": 6.148409843444824, + "learning_rate": 4.884569128508465e-06, + "loss": 0.202, + "num_input_tokens_seen": 4358888, + "step": 2207 + }, + { + "epoch": 0.2926441351888668, + "grad_norm": 0.04250134155154228, + "learning_rate": 4.8844648412758535e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4360296, + "step": 2208 + }, + { + "epoch": 0.2927766732935719, + "grad_norm": 7.456624984741211, + "learning_rate": 4.884360508069116e-06, + "loss": 0.1137, + "num_input_tokens_seen": 4361720, + "step": 2209 + }, + { + "epoch": 0.292909211398277, + "grad_norm": 5.744297981262207, + "learning_rate": 4.884256128890262e-06, + "loss": 0.1297, + "num_input_tokens_seen": 4363712, + "step": 2210 + }, + { + "epoch": 0.2930417495029821, + "grad_norm": 6.307443618774414, + "learning_rate": 4.884151703741306e-06, + "loss": 0.185, + "num_input_tokens_seen": 4365064, + "step": 2211 + }, + { + "epoch": 0.2931742876076872, + "grad_norm": 0.07225403189659119, + "learning_rate": 4.8840472326242594e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4366224, + "step": 2212 + }, + { + "epoch": 0.2933068257123923, + "grad_norm": 0.04703948274254799, + "learning_rate": 4.883942715541138e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4368440, + "step": 2213 + }, + { + "epoch": 0.2934393638170974, + "grad_norm": 8.693592071533203, + "learning_rate": 4.8838381524939575e-06, + "loss": 0.1653, + "num_input_tokens_seen": 4370184, + "step": 2214 + }, + { + "epoch": 0.2935719019218025, + "grad_norm": 1.8131909370422363, + "learning_rate": 4.883733543484731e-06, + "loss": 0.0117, + "num_input_tokens_seen": 4371552, + "step": 2215 + }, + { + "epoch": 0.29370444002650764, + "grad_norm": 0.3738787770271301, + "learning_rate": 4.883628888515478e-06, + "loss": 0.0014, + "num_input_tokens_seen": 4373160, + "step": 2216 + }, + { + "epoch": 0.29383697813121273, + "grad_norm": 9.417610168457031, + "learning_rate": 4.883524187588216e-06, + "loss": 0.2664, + "num_input_tokens_seen": 4374904, + "step": 2217 + }, + { + "epoch": 0.2939695162359178, + "grad_norm": 0.08255329728126526, + "learning_rate": 4.8834194407049626e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4376640, + "step": 2218 + }, + { + "epoch": 0.2941020543406229, + "grad_norm": 10.780593872070312, + "learning_rate": 4.883314647867739e-06, + "loss": 0.5253, + "num_input_tokens_seen": 4379472, + "step": 2219 + }, + { + "epoch": 0.294234592445328, + "grad_norm": 0.0779641643166542, + "learning_rate": 4.883209809078565e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4381792, + "step": 2220 + }, + { + "epoch": 0.2943671305500331, + "grad_norm": 0.04254482313990593, + "learning_rate": 4.8831049243394615e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4383512, + "step": 2221 + }, + { + "epoch": 0.29449966865473826, + "grad_norm": 16.96940040588379, + "learning_rate": 4.882999993652451e-06, + "loss": 0.3445, + "num_input_tokens_seen": 4385136, + "step": 2222 + }, + { + "epoch": 0.29463220675944335, + "grad_norm": 5.812951564788818, + "learning_rate": 4.882895017019556e-06, + "loss": 0.1333, + "num_input_tokens_seen": 4386760, + "step": 2223 + }, + { + "epoch": 0.29476474486414844, + "grad_norm": 12.121362686157227, + "learning_rate": 4.882789994442802e-06, + "loss": 0.4926, + "num_input_tokens_seen": 4388792, + "step": 2224 + }, + { + "epoch": 0.29489728296885354, + "grad_norm": 0.09935160726308823, + "learning_rate": 4.882684925924213e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4390712, + "step": 2225 + }, + { + "epoch": 0.29502982107355863, + "grad_norm": 6.53181791305542, + "learning_rate": 4.882579811465814e-06, + "loss": 0.0886, + "num_input_tokens_seen": 4392672, + "step": 2226 + }, + { + "epoch": 0.2951623591782638, + "grad_norm": 16.24932861328125, + "learning_rate": 4.882474651069634e-06, + "loss": 0.6107, + "num_input_tokens_seen": 4395744, + "step": 2227 + }, + { + "epoch": 0.29529489728296887, + "grad_norm": 4.402467727661133, + "learning_rate": 4.882369444737698e-06, + "loss": 0.1179, + "num_input_tokens_seen": 4397352, + "step": 2228 + }, + { + "epoch": 0.29542743538767396, + "grad_norm": 0.09423938393592834, + "learning_rate": 4.882264192472036e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4398928, + "step": 2229 + }, + { + "epoch": 0.29555997349237906, + "grad_norm": 10.287824630737305, + "learning_rate": 4.8821588942746765e-06, + "loss": 0.2996, + "num_input_tokens_seen": 4400352, + "step": 2230 + }, + { + "epoch": 0.29569251159708415, + "grad_norm": 13.64413833618164, + "learning_rate": 4.882053550147651e-06, + "loss": 0.5281, + "num_input_tokens_seen": 4402224, + "step": 2231 + }, + { + "epoch": 0.29582504970178924, + "grad_norm": 5.7602620124816895, + "learning_rate": 4.88194816009299e-06, + "loss": 0.1773, + "num_input_tokens_seen": 4403488, + "step": 2232 + }, + { + "epoch": 0.2959575878064944, + "grad_norm": 0.15154927968978882, + "learning_rate": 4.881842724112724e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4404592, + "step": 2233 + }, + { + "epoch": 0.2960901259111995, + "grad_norm": 1.4744921922683716, + "learning_rate": 4.881737242208888e-06, + "loss": 0.0067, + "num_input_tokens_seen": 4406728, + "step": 2234 + }, + { + "epoch": 0.2962226640159046, + "grad_norm": 12.635961532592773, + "learning_rate": 4.881631714383515e-06, + "loss": 0.3641, + "num_input_tokens_seen": 4408848, + "step": 2235 + }, + { + "epoch": 0.2963552021206097, + "grad_norm": 12.352937698364258, + "learning_rate": 4.881526140638638e-06, + "loss": 0.3232, + "num_input_tokens_seen": 4410728, + "step": 2236 + }, + { + "epoch": 0.29648774022531477, + "grad_norm": 0.786177933216095, + "learning_rate": 4.881420520976296e-06, + "loss": 0.0046, + "num_input_tokens_seen": 4411888, + "step": 2237 + }, + { + "epoch": 0.29662027833001986, + "grad_norm": 10.772207260131836, + "learning_rate": 4.881314855398523e-06, + "loss": 0.0888, + "num_input_tokens_seen": 4413816, + "step": 2238 + }, + { + "epoch": 0.296752816434725, + "grad_norm": 5.836910724639893, + "learning_rate": 4.881209143907356e-06, + "loss": 0.2267, + "num_input_tokens_seen": 4415296, + "step": 2239 + }, + { + "epoch": 0.2968853545394301, + "grad_norm": 0.4418144226074219, + "learning_rate": 4.881103386504835e-06, + "loss": 0.0023, + "num_input_tokens_seen": 4416888, + "step": 2240 + }, + { + "epoch": 0.2970178926441352, + "grad_norm": 9.291844367980957, + "learning_rate": 4.880997583192998e-06, + "loss": 0.1473, + "num_input_tokens_seen": 4419672, + "step": 2241 + }, + { + "epoch": 0.2971504307488403, + "grad_norm": 11.143998146057129, + "learning_rate": 4.880891733973884e-06, + "loss": 0.3925, + "num_input_tokens_seen": 4421528, + "step": 2242 + }, + { + "epoch": 0.2972829688535454, + "grad_norm": 14.662081718444824, + "learning_rate": 4.8807858388495355e-06, + "loss": 0.3738, + "num_input_tokens_seen": 4423000, + "step": 2243 + }, + { + "epoch": 0.2974155069582505, + "grad_norm": 21.81793212890625, + "learning_rate": 4.880679897821994e-06, + "loss": 0.6423, + "num_input_tokens_seen": 4425072, + "step": 2244 + }, + { + "epoch": 0.2975480450629556, + "grad_norm": 0.2173934429883957, + "learning_rate": 4.880573910893301e-06, + "loss": 0.0013, + "num_input_tokens_seen": 4426600, + "step": 2245 + }, + { + "epoch": 0.2976805831676607, + "grad_norm": 0.7134649753570557, + "learning_rate": 4.880467878065501e-06, + "loss": 0.004, + "num_input_tokens_seen": 4429312, + "step": 2246 + }, + { + "epoch": 0.2978131212723658, + "grad_norm": 0.6743342876434326, + "learning_rate": 4.8803617993406385e-06, + "loss": 0.0037, + "num_input_tokens_seen": 4430568, + "step": 2247 + }, + { + "epoch": 0.2979456593770709, + "grad_norm": 12.765079498291016, + "learning_rate": 4.8802556747207586e-06, + "loss": 0.2069, + "num_input_tokens_seen": 4432896, + "step": 2248 + }, + { + "epoch": 0.298078197481776, + "grad_norm": 4.122313499450684, + "learning_rate": 4.880149504207906e-06, + "loss": 0.0313, + "num_input_tokens_seen": 4434992, + "step": 2249 + }, + { + "epoch": 0.2982107355864811, + "grad_norm": 0.18297256529331207, + "learning_rate": 4.880043287804131e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4436520, + "step": 2250 + }, + { + "epoch": 0.29834327369118624, + "grad_norm": 10.148646354675293, + "learning_rate": 4.879937025511478e-06, + "loss": 0.1464, + "num_input_tokens_seen": 4438840, + "step": 2251 + }, + { + "epoch": 0.29847581179589133, + "grad_norm": 14.868453025817871, + "learning_rate": 4.879830717331997e-06, + "loss": 0.2112, + "num_input_tokens_seen": 4440992, + "step": 2252 + }, + { + "epoch": 0.2986083499005964, + "grad_norm": 25.890005111694336, + "learning_rate": 4.879724363267738e-06, + "loss": 1.05, + "num_input_tokens_seen": 4443704, + "step": 2253 + }, + { + "epoch": 0.2987408880053015, + "grad_norm": 0.14283990859985352, + "learning_rate": 4.879617963320753e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4445104, + "step": 2254 + }, + { + "epoch": 0.2988734261100066, + "grad_norm": 0.28805074095726013, + "learning_rate": 4.879511517493091e-06, + "loss": 0.0015, + "num_input_tokens_seen": 4446616, + "step": 2255 + }, + { + "epoch": 0.2990059642147117, + "grad_norm": 11.149937629699707, + "learning_rate": 4.879405025786806e-06, + "loss": 0.2234, + "num_input_tokens_seen": 4448592, + "step": 2256 + }, + { + "epoch": 0.29913850231941685, + "grad_norm": 10.31842041015625, + "learning_rate": 4.87929848820395e-06, + "loss": 0.3823, + "num_input_tokens_seen": 4451056, + "step": 2257 + }, + { + "epoch": 0.29927104042412195, + "grad_norm": 8.116284370422363, + "learning_rate": 4.8791919047465775e-06, + "loss": 0.1482, + "num_input_tokens_seen": 4453928, + "step": 2258 + }, + { + "epoch": 0.29940357852882704, + "grad_norm": 1.1918914318084717, + "learning_rate": 4.879085275416744e-06, + "loss": 0.0058, + "num_input_tokens_seen": 4455720, + "step": 2259 + }, + { + "epoch": 0.29953611663353213, + "grad_norm": 6.680629730224609, + "learning_rate": 4.8789786002165055e-06, + "loss": 0.0591, + "num_input_tokens_seen": 4457744, + "step": 2260 + }, + { + "epoch": 0.29966865473823723, + "grad_norm": 15.128524780273438, + "learning_rate": 4.878871879147918e-06, + "loss": 0.5397, + "num_input_tokens_seen": 4459336, + "step": 2261 + }, + { + "epoch": 0.2998011928429423, + "grad_norm": 19.39220428466797, + "learning_rate": 4.87876511221304e-06, + "loss": 0.5077, + "num_input_tokens_seen": 4461936, + "step": 2262 + }, + { + "epoch": 0.29993373094764747, + "grad_norm": 9.773737907409668, + "learning_rate": 4.87865829941393e-06, + "loss": 0.4246, + "num_input_tokens_seen": 4464008, + "step": 2263 + }, + { + "epoch": 0.30006626905235256, + "grad_norm": 0.05762796103954315, + "learning_rate": 4.878551440752646e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4465480, + "step": 2264 + }, + { + "epoch": 0.30019880715705766, + "grad_norm": 12.822464942932129, + "learning_rate": 4.87844453623125e-06, + "loss": 0.4152, + "num_input_tokens_seen": 4467320, + "step": 2265 + }, + { + "epoch": 0.30033134526176275, + "grad_norm": 8.42055606842041, + "learning_rate": 4.878337585851802e-06, + "loss": 0.2294, + "num_input_tokens_seen": 4469704, + "step": 2266 + }, + { + "epoch": 0.30046388336646784, + "grad_norm": 14.45976734161377, + "learning_rate": 4.878230589616365e-06, + "loss": 0.5654, + "num_input_tokens_seen": 4471744, + "step": 2267 + }, + { + "epoch": 0.30059642147117294, + "grad_norm": 0.07128151506185532, + "learning_rate": 4.878123547527002e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4473280, + "step": 2268 + }, + { + "epoch": 0.3007289595758781, + "grad_norm": 9.115377426147461, + "learning_rate": 4.878016459585776e-06, + "loss": 0.1438, + "num_input_tokens_seen": 4475480, + "step": 2269 + }, + { + "epoch": 0.3008614976805832, + "grad_norm": 0.0583374947309494, + "learning_rate": 4.877909325794752e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4477688, + "step": 2270 + }, + { + "epoch": 0.30099403578528827, + "grad_norm": 6.256191253662109, + "learning_rate": 4.877802146155996e-06, + "loss": 0.1179, + "num_input_tokens_seen": 4479624, + "step": 2271 + }, + { + "epoch": 0.30112657388999337, + "grad_norm": 15.40497875213623, + "learning_rate": 4.877694920671574e-06, + "loss": 0.4721, + "num_input_tokens_seen": 4481784, + "step": 2272 + }, + { + "epoch": 0.30125911199469846, + "grad_norm": 11.886549949645996, + "learning_rate": 4.877587649343553e-06, + "loss": 0.3917, + "num_input_tokens_seen": 4483216, + "step": 2273 + }, + { + "epoch": 0.30139165009940355, + "grad_norm": 9.00411319732666, + "learning_rate": 4.877480332174003e-06, + "loss": 0.2911, + "num_input_tokens_seen": 4484856, + "step": 2274 + }, + { + "epoch": 0.3015241882041087, + "grad_norm": 4.763082027435303, + "learning_rate": 4.877372969164992e-06, + "loss": 0.1393, + "num_input_tokens_seen": 4486672, + "step": 2275 + }, + { + "epoch": 0.3016567263088138, + "grad_norm": 11.841622352600098, + "learning_rate": 4.8772655603185906e-06, + "loss": 0.528, + "num_input_tokens_seen": 4489416, + "step": 2276 + }, + { + "epoch": 0.3017892644135189, + "grad_norm": 0.10015904158353806, + "learning_rate": 4.877158105636868e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4490768, + "step": 2277 + }, + { + "epoch": 0.301921802518224, + "grad_norm": 15.050132751464844, + "learning_rate": 4.877050605121897e-06, + "loss": 0.3823, + "num_input_tokens_seen": 4492936, + "step": 2278 + }, + { + "epoch": 0.3020543406229291, + "grad_norm": 7.292393684387207, + "learning_rate": 4.876943058775752e-06, + "loss": 0.2537, + "num_input_tokens_seen": 4495056, + "step": 2279 + }, + { + "epoch": 0.30218687872763417, + "grad_norm": 18.64552116394043, + "learning_rate": 4.876835466600503e-06, + "loss": 0.3755, + "num_input_tokens_seen": 4497936, + "step": 2280 + }, + { + "epoch": 0.3023194168323393, + "grad_norm": 1.5576262474060059, + "learning_rate": 4.876727828598229e-06, + "loss": 0.0085, + "num_input_tokens_seen": 4499640, + "step": 2281 + }, + { + "epoch": 0.3024519549370444, + "grad_norm": 0.12575441598892212, + "learning_rate": 4.876620144771002e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4501776, + "step": 2282 + }, + { + "epoch": 0.3025844930417495, + "grad_norm": 6.489303112030029, + "learning_rate": 4.8765124151208975e-06, + "loss": 0.2004, + "num_input_tokens_seen": 4503840, + "step": 2283 + }, + { + "epoch": 0.3027170311464546, + "grad_norm": 14.678549766540527, + "learning_rate": 4.876404639649995e-06, + "loss": 0.5339, + "num_input_tokens_seen": 4506336, + "step": 2284 + }, + { + "epoch": 0.3028495692511597, + "grad_norm": 9.66697883605957, + "learning_rate": 4.876296818360372e-06, + "loss": 0.0448, + "num_input_tokens_seen": 4508112, + "step": 2285 + }, + { + "epoch": 0.30298210735586484, + "grad_norm": 0.17515404522418976, + "learning_rate": 4.876188951254108e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4510712, + "step": 2286 + }, + { + "epoch": 0.30311464546056993, + "grad_norm": 0.1487409472465515, + "learning_rate": 4.87608103833328e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4511920, + "step": 2287 + }, + { + "epoch": 0.303247183565275, + "grad_norm": 0.1465209275484085, + "learning_rate": 4.875973079599972e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4513424, + "step": 2288 + }, + { + "epoch": 0.3033797216699801, + "grad_norm": 10.462250709533691, + "learning_rate": 4.875865075056262e-06, + "loss": 0.2312, + "num_input_tokens_seen": 4515256, + "step": 2289 + }, + { + "epoch": 0.3035122597746852, + "grad_norm": 0.10487841069698334, + "learning_rate": 4.875757024704236e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4516736, + "step": 2290 + }, + { + "epoch": 0.3036447978793903, + "grad_norm": 0.15438759326934814, + "learning_rate": 4.875648928545975e-06, + "loss": 0.001, + "num_input_tokens_seen": 4518360, + "step": 2291 + }, + { + "epoch": 0.30377733598409545, + "grad_norm": 4.229559421539307, + "learning_rate": 4.875540786583564e-06, + "loss": 0.0435, + "num_input_tokens_seen": 4519856, + "step": 2292 + }, + { + "epoch": 0.30390987408880055, + "grad_norm": 8.338935852050781, + "learning_rate": 4.8754325988190875e-06, + "loss": 0.1618, + "num_input_tokens_seen": 4521480, + "step": 2293 + }, + { + "epoch": 0.30404241219350564, + "grad_norm": 12.536456108093262, + "learning_rate": 4.8753243652546316e-06, + "loss": 0.3658, + "num_input_tokens_seen": 4523224, + "step": 2294 + }, + { + "epoch": 0.30417495029821073, + "grad_norm": 5.160500526428223, + "learning_rate": 4.875216085892283e-06, + "loss": 0.0404, + "num_input_tokens_seen": 4524680, + "step": 2295 + }, + { + "epoch": 0.3043074884029158, + "grad_norm": 0.34268054366111755, + "learning_rate": 4.8751077607341306e-06, + "loss": 0.002, + "num_input_tokens_seen": 4526056, + "step": 2296 + }, + { + "epoch": 0.3044400265076209, + "grad_norm": 6.561368942260742, + "learning_rate": 4.874999389782262e-06, + "loss": 0.1351, + "num_input_tokens_seen": 4528216, + "step": 2297 + }, + { + "epoch": 0.30457256461232607, + "grad_norm": 11.347625732421875, + "learning_rate": 4.874890973038766e-06, + "loss": 0.2648, + "num_input_tokens_seen": 4529848, + "step": 2298 + }, + { + "epoch": 0.30470510271703116, + "grad_norm": 10.4386625289917, + "learning_rate": 4.874782510505734e-06, + "loss": 0.3965, + "num_input_tokens_seen": 4531392, + "step": 2299 + }, + { + "epoch": 0.30483764082173626, + "grad_norm": 22.0225830078125, + "learning_rate": 4.8746740021852576e-06, + "loss": 0.6215, + "num_input_tokens_seen": 4533120, + "step": 2300 + }, + { + "epoch": 0.30497017892644135, + "grad_norm": 18.458955764770508, + "learning_rate": 4.874565448079428e-06, + "loss": 0.796, + "num_input_tokens_seen": 4535440, + "step": 2301 + }, + { + "epoch": 0.30510271703114644, + "grad_norm": 20.216047286987305, + "learning_rate": 4.8744568481903375e-06, + "loss": 0.8113, + "num_input_tokens_seen": 4536712, + "step": 2302 + }, + { + "epoch": 0.30523525513585154, + "grad_norm": 11.850532531738281, + "learning_rate": 4.874348202520082e-06, + "loss": 0.1842, + "num_input_tokens_seen": 4538520, + "step": 2303 + }, + { + "epoch": 0.3053677932405567, + "grad_norm": 13.13093090057373, + "learning_rate": 4.874239511070755e-06, + "loss": 0.2179, + "num_input_tokens_seen": 4540448, + "step": 2304 + }, + { + "epoch": 0.3055003313452618, + "grad_norm": 2.783926486968994, + "learning_rate": 4.874130773844452e-06, + "loss": 0.0095, + "num_input_tokens_seen": 4542416, + "step": 2305 + }, + { + "epoch": 0.30563286944996687, + "grad_norm": 0.04120277240872383, + "learning_rate": 4.874021990843269e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4543792, + "step": 2306 + }, + { + "epoch": 0.30576540755467196, + "grad_norm": 0.12249967455863953, + "learning_rate": 4.873913162069306e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4546320, + "step": 2307 + }, + { + "epoch": 0.30589794565937706, + "grad_norm": 5.431410789489746, + "learning_rate": 4.873804287524658e-06, + "loss": 0.0457, + "num_input_tokens_seen": 4548248, + "step": 2308 + }, + { + "epoch": 0.30603048376408215, + "grad_norm": 0.05795201286673546, + "learning_rate": 4.873695367211427e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4549488, + "step": 2309 + }, + { + "epoch": 0.3061630218687873, + "grad_norm": 3.3292765617370605, + "learning_rate": 4.8735864011317114e-06, + "loss": 0.0182, + "num_input_tokens_seen": 4552800, + "step": 2310 + }, + { + "epoch": 0.3062955599734924, + "grad_norm": 13.742362976074219, + "learning_rate": 4.873477389287612e-06, + "loss": 0.351, + "num_input_tokens_seen": 4554888, + "step": 2311 + }, + { + "epoch": 0.3064280980781975, + "grad_norm": 14.86807918548584, + "learning_rate": 4.8733683316812315e-06, + "loss": 0.4338, + "num_input_tokens_seen": 4557512, + "step": 2312 + }, + { + "epoch": 0.3065606361829026, + "grad_norm": 17.22825813293457, + "learning_rate": 4.873259228314673e-06, + "loss": 0.265, + "num_input_tokens_seen": 4559376, + "step": 2313 + }, + { + "epoch": 0.3066931742876077, + "grad_norm": 0.07642994076013565, + "learning_rate": 4.873150079190038e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4561856, + "step": 2314 + }, + { + "epoch": 0.30682571239231277, + "grad_norm": 0.0376090444624424, + "learning_rate": 4.873040884309433e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4563408, + "step": 2315 + }, + { + "epoch": 0.3069582504970179, + "grad_norm": 6.630155563354492, + "learning_rate": 4.872931643674963e-06, + "loss": 0.2238, + "num_input_tokens_seen": 4565824, + "step": 2316 + }, + { + "epoch": 0.307090788601723, + "grad_norm": 0.08366625756025314, + "learning_rate": 4.872822357288733e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4567328, + "step": 2317 + }, + { + "epoch": 0.3072233267064281, + "grad_norm": 11.427505493164062, + "learning_rate": 4.872713025152852e-06, + "loss": 0.3075, + "num_input_tokens_seen": 4568840, + "step": 2318 + }, + { + "epoch": 0.3073558648111332, + "grad_norm": 0.1984274536371231, + "learning_rate": 4.872603647269427e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4570848, + "step": 2319 + }, + { + "epoch": 0.3074884029158383, + "grad_norm": 0.01841103844344616, + "learning_rate": 4.8724942236405655e-06, + "loss": 0.0001, + "num_input_tokens_seen": 4572240, + "step": 2320 + }, + { + "epoch": 0.3076209410205434, + "grad_norm": 0.048301417380571365, + "learning_rate": 4.87238475426838e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4574360, + "step": 2321 + }, + { + "epoch": 0.30775347912524853, + "grad_norm": 14.42236614227295, + "learning_rate": 4.8722752391549795e-06, + "loss": 0.2713, + "num_input_tokens_seen": 4576256, + "step": 2322 + }, + { + "epoch": 0.3078860172299536, + "grad_norm": 6.023249626159668, + "learning_rate": 4.872165678302476e-06, + "loss": 0.1606, + "num_input_tokens_seen": 4577744, + "step": 2323 + }, + { + "epoch": 0.3080185553346587, + "grad_norm": 0.03531588613986969, + "learning_rate": 4.872056071712981e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4579304, + "step": 2324 + }, + { + "epoch": 0.3081510934393638, + "grad_norm": 12.995361328125, + "learning_rate": 4.871946419388609e-06, + "loss": 0.3878, + "num_input_tokens_seen": 4580760, + "step": 2325 + }, + { + "epoch": 0.3082836315440689, + "grad_norm": 8.4299898147583, + "learning_rate": 4.871836721331475e-06, + "loss": 0.3143, + "num_input_tokens_seen": 4582384, + "step": 2326 + }, + { + "epoch": 0.308416169648774, + "grad_norm": 6.2899675369262695, + "learning_rate": 4.871726977543691e-06, + "loss": 0.1073, + "num_input_tokens_seen": 4584472, + "step": 2327 + }, + { + "epoch": 0.30854870775347915, + "grad_norm": 0.15512315928936005, + "learning_rate": 4.8716171880273754e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4585776, + "step": 2328 + }, + { + "epoch": 0.30868124585818424, + "grad_norm": 0.06477442383766174, + "learning_rate": 4.871507352784645e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4588344, + "step": 2329 + }, + { + "epoch": 0.30881378396288933, + "grad_norm": 8.844597816467285, + "learning_rate": 4.871397471817615e-06, + "loss": 0.2402, + "num_input_tokens_seen": 4590496, + "step": 2330 + }, + { + "epoch": 0.3089463220675944, + "grad_norm": 8.777436256408691, + "learning_rate": 4.871287545128407e-06, + "loss": 0.2058, + "num_input_tokens_seen": 4592056, + "step": 2331 + }, + { + "epoch": 0.3090788601722995, + "grad_norm": 2.4256484508514404, + "learning_rate": 4.871177572719139e-06, + "loss": 0.015, + "num_input_tokens_seen": 4593672, + "step": 2332 + }, + { + "epoch": 0.3092113982770046, + "grad_norm": 0.1641574203968048, + "learning_rate": 4.871067554591932e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4595240, + "step": 2333 + }, + { + "epoch": 0.30934393638170976, + "grad_norm": 0.10168379545211792, + "learning_rate": 4.870957490748907e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4596616, + "step": 2334 + }, + { + "epoch": 0.30947647448641485, + "grad_norm": 0.2703472077846527, + "learning_rate": 4.870847381192185e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4598280, + "step": 2335 + }, + { + "epoch": 0.30960901259111995, + "grad_norm": 0.0431048721075058, + "learning_rate": 4.870737225923891e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4599424, + "step": 2336 + }, + { + "epoch": 0.30974155069582504, + "grad_norm": 0.21082842350006104, + "learning_rate": 4.870627024946146e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4601512, + "step": 2337 + }, + { + "epoch": 0.30987408880053013, + "grad_norm": 27.151540756225586, + "learning_rate": 4.870516778261078e-06, + "loss": 0.9187, + "num_input_tokens_seen": 4604264, + "step": 2338 + }, + { + "epoch": 0.3100066269052352, + "grad_norm": 16.894166946411133, + "learning_rate": 4.870406485870811e-06, + "loss": 0.3856, + "num_input_tokens_seen": 4605808, + "step": 2339 + }, + { + "epoch": 0.3101391650099404, + "grad_norm": 6.911101818084717, + "learning_rate": 4.8702961477774715e-06, + "loss": 0.2188, + "num_input_tokens_seen": 4607600, + "step": 2340 + }, + { + "epoch": 0.31027170311464547, + "grad_norm": 21.6949462890625, + "learning_rate": 4.870185763983187e-06, + "loss": 0.5444, + "num_input_tokens_seen": 4609160, + "step": 2341 + }, + { + "epoch": 0.31040424121935056, + "grad_norm": 16.570449829101562, + "learning_rate": 4.870075334490086e-06, + "loss": 0.6775, + "num_input_tokens_seen": 4611192, + "step": 2342 + }, + { + "epoch": 0.31053677932405566, + "grad_norm": 9.404993057250977, + "learning_rate": 4.869964859300298e-06, + "loss": 0.314, + "num_input_tokens_seen": 4613360, + "step": 2343 + }, + { + "epoch": 0.31066931742876075, + "grad_norm": 42.66393280029297, + "learning_rate": 4.869854338415952e-06, + "loss": 0.174, + "num_input_tokens_seen": 4615856, + "step": 2344 + }, + { + "epoch": 0.3108018555334659, + "grad_norm": 0.05939304456114769, + "learning_rate": 4.86974377183918e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4616984, + "step": 2345 + }, + { + "epoch": 0.310934393638171, + "grad_norm": 5.048226833343506, + "learning_rate": 4.869633159572113e-06, + "loss": 0.0804, + "num_input_tokens_seen": 4619464, + "step": 2346 + }, + { + "epoch": 0.3110669317428761, + "grad_norm": 0.09742506593465805, + "learning_rate": 4.869522501616884e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4620880, + "step": 2347 + }, + { + "epoch": 0.3111994698475812, + "grad_norm": 10.257518768310547, + "learning_rate": 4.869411797975626e-06, + "loss": 0.2994, + "num_input_tokens_seen": 4622664, + "step": 2348 + }, + { + "epoch": 0.31133200795228627, + "grad_norm": 10.37560749053955, + "learning_rate": 4.869301048650474e-06, + "loss": 0.2133, + "num_input_tokens_seen": 4625760, + "step": 2349 + }, + { + "epoch": 0.31146454605699136, + "grad_norm": 3.146977663040161, + "learning_rate": 4.869190253643565e-06, + "loss": 0.082, + "num_input_tokens_seen": 4627384, + "step": 2350 + }, + { + "epoch": 0.3115970841616965, + "grad_norm": 17.42863655090332, + "learning_rate": 4.869079412957031e-06, + "loss": 0.0101, + "num_input_tokens_seen": 4629448, + "step": 2351 + }, + { + "epoch": 0.3117296222664016, + "grad_norm": 15.892781257629395, + "learning_rate": 4.868968526593013e-06, + "loss": 0.1414, + "num_input_tokens_seen": 4632032, + "step": 2352 + }, + { + "epoch": 0.3118621603711067, + "grad_norm": 0.18932265043258667, + "learning_rate": 4.868857594553647e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4633640, + "step": 2353 + }, + { + "epoch": 0.3119946984758118, + "grad_norm": 0.05859370157122612, + "learning_rate": 4.8687466168410726e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4635016, + "step": 2354 + }, + { + "epoch": 0.3121272365805169, + "grad_norm": 0.13451075553894043, + "learning_rate": 4.868635593457429e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4637168, + "step": 2355 + }, + { + "epoch": 0.312259774685222, + "grad_norm": 7.182871341705322, + "learning_rate": 4.868524524404858e-06, + "loss": 0.14, + "num_input_tokens_seen": 4638720, + "step": 2356 + }, + { + "epoch": 0.31239231278992713, + "grad_norm": 0.08676090836524963, + "learning_rate": 4.868413409685499e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4640088, + "step": 2357 + }, + { + "epoch": 0.3125248508946322, + "grad_norm": 8.121641159057617, + "learning_rate": 4.868302249301497e-06, + "loss": 0.2428, + "num_input_tokens_seen": 4641840, + "step": 2358 + }, + { + "epoch": 0.3126573889993373, + "grad_norm": 8.843557357788086, + "learning_rate": 4.8681910432549925e-06, + "loss": 0.2957, + "num_input_tokens_seen": 4643264, + "step": 2359 + }, + { + "epoch": 0.3127899271040424, + "grad_norm": 9.292862892150879, + "learning_rate": 4.868079791548131e-06, + "loss": 0.2335, + "num_input_tokens_seen": 4644536, + "step": 2360 + }, + { + "epoch": 0.3129224652087475, + "grad_norm": 11.492375373840332, + "learning_rate": 4.867968494183058e-06, + "loss": 0.3478, + "num_input_tokens_seen": 4646544, + "step": 2361 + }, + { + "epoch": 0.3130550033134526, + "grad_norm": 5.405326843261719, + "learning_rate": 4.86785715116192e-06, + "loss": 0.1007, + "num_input_tokens_seen": 4648752, + "step": 2362 + }, + { + "epoch": 0.31318754141815774, + "grad_norm": 11.212135314941406, + "learning_rate": 4.867745762486862e-06, + "loss": 0.4053, + "num_input_tokens_seen": 4651064, + "step": 2363 + }, + { + "epoch": 0.31332007952286284, + "grad_norm": 0.39075979590415955, + "learning_rate": 4.8676343281600306e-06, + "loss": 0.0025, + "num_input_tokens_seen": 4653416, + "step": 2364 + }, + { + "epoch": 0.31345261762756793, + "grad_norm": 6.183170795440674, + "learning_rate": 4.867522848183578e-06, + "loss": 0.2085, + "num_input_tokens_seen": 4655432, + "step": 2365 + }, + { + "epoch": 0.313585155732273, + "grad_norm": 9.377362251281738, + "learning_rate": 4.8674113225596495e-06, + "loss": 0.3691, + "num_input_tokens_seen": 4657448, + "step": 2366 + }, + { + "epoch": 0.3137176938369781, + "grad_norm": 16.857759475708008, + "learning_rate": 4.8672997512904e-06, + "loss": 0.346, + "num_input_tokens_seen": 4659840, + "step": 2367 + }, + { + "epoch": 0.3138502319416832, + "grad_norm": 27.054405212402344, + "learning_rate": 4.867188134377977e-06, + "loss": 0.6092, + "num_input_tokens_seen": 4661112, + "step": 2368 + }, + { + "epoch": 0.31398277004638836, + "grad_norm": 12.904631614685059, + "learning_rate": 4.8670764718245335e-06, + "loss": 0.2831, + "num_input_tokens_seen": 4662472, + "step": 2369 + }, + { + "epoch": 0.31411530815109345, + "grad_norm": 1.072129249572754, + "learning_rate": 4.866964763632222e-06, + "loss": 0.0068, + "num_input_tokens_seen": 4664096, + "step": 2370 + }, + { + "epoch": 0.31424784625579855, + "grad_norm": 6.47117280960083, + "learning_rate": 4.866853009803198e-06, + "loss": 0.1221, + "num_input_tokens_seen": 4665968, + "step": 2371 + }, + { + "epoch": 0.31438038436050364, + "grad_norm": 8.04733943939209, + "learning_rate": 4.866741210339615e-06, + "loss": 0.3006, + "num_input_tokens_seen": 4668752, + "step": 2372 + }, + { + "epoch": 0.31451292246520873, + "grad_norm": 8.533254623413086, + "learning_rate": 4.866629365243629e-06, + "loss": 0.1317, + "num_input_tokens_seen": 4670632, + "step": 2373 + }, + { + "epoch": 0.3146454605699138, + "grad_norm": 6.609121799468994, + "learning_rate": 4.866517474517396e-06, + "loss": 0.1295, + "num_input_tokens_seen": 4672288, + "step": 2374 + }, + { + "epoch": 0.314777998674619, + "grad_norm": 9.03375244140625, + "learning_rate": 4.866405538163073e-06, + "loss": 0.1818, + "num_input_tokens_seen": 4674160, + "step": 2375 + }, + { + "epoch": 0.31491053677932407, + "grad_norm": 0.3066478669643402, + "learning_rate": 4.86629355618282e-06, + "loss": 0.002, + "num_input_tokens_seen": 4675792, + "step": 2376 + }, + { + "epoch": 0.31504307488402916, + "grad_norm": 0.27516910433769226, + "learning_rate": 4.866181528578793e-06, + "loss": 0.0018, + "num_input_tokens_seen": 4677432, + "step": 2377 + }, + { + "epoch": 0.31517561298873426, + "grad_norm": 6.214582920074463, + "learning_rate": 4.866069455353155e-06, + "loss": 0.1704, + "num_input_tokens_seen": 4679904, + "step": 2378 + }, + { + "epoch": 0.31530815109343935, + "grad_norm": 0.33407238125801086, + "learning_rate": 4.8659573365080655e-06, + "loss": 0.0021, + "num_input_tokens_seen": 4681536, + "step": 2379 + }, + { + "epoch": 0.31544068919814444, + "grad_norm": 18.06239128112793, + "learning_rate": 4.865845172045686e-06, + "loss": 0.6775, + "num_input_tokens_seen": 4683944, + "step": 2380 + }, + { + "epoch": 0.3155732273028496, + "grad_norm": 11.272034645080566, + "learning_rate": 4.865732961968179e-06, + "loss": 0.2196, + "num_input_tokens_seen": 4686272, + "step": 2381 + }, + { + "epoch": 0.3157057654075547, + "grad_norm": 5.787203788757324, + "learning_rate": 4.865620706277709e-06, + "loss": 0.1253, + "num_input_tokens_seen": 4687424, + "step": 2382 + }, + { + "epoch": 0.3158383035122598, + "grad_norm": 13.923933029174805, + "learning_rate": 4.865508404976441e-06, + "loss": 0.4374, + "num_input_tokens_seen": 4689960, + "step": 2383 + }, + { + "epoch": 0.31597084161696487, + "grad_norm": 11.860907554626465, + "learning_rate": 4.865396058066538e-06, + "loss": 0.4108, + "num_input_tokens_seen": 4692296, + "step": 2384 + }, + { + "epoch": 0.31610337972166996, + "grad_norm": 11.430327415466309, + "learning_rate": 4.865283665550167e-06, + "loss": 0.4003, + "num_input_tokens_seen": 4694272, + "step": 2385 + }, + { + "epoch": 0.31623591782637506, + "grad_norm": 7.905951976776123, + "learning_rate": 4.865171227429495e-06, + "loss": 0.095, + "num_input_tokens_seen": 4696800, + "step": 2386 + }, + { + "epoch": 0.3163684559310802, + "grad_norm": 7.172763824462891, + "learning_rate": 4.865058743706691e-06, + "loss": 0.1535, + "num_input_tokens_seen": 4698528, + "step": 2387 + }, + { + "epoch": 0.3165009940357853, + "grad_norm": 9.360395431518555, + "learning_rate": 4.864946214383922e-06, + "loss": 0.2372, + "num_input_tokens_seen": 4700200, + "step": 2388 + }, + { + "epoch": 0.3166335321404904, + "grad_norm": 8.127171516418457, + "learning_rate": 4.8648336394633585e-06, + "loss": 0.1542, + "num_input_tokens_seen": 4702768, + "step": 2389 + }, + { + "epoch": 0.3167660702451955, + "grad_norm": 0.3152252733707428, + "learning_rate": 4.8647210189471726e-06, + "loss": 0.0019, + "num_input_tokens_seen": 4704712, + "step": 2390 + }, + { + "epoch": 0.3168986083499006, + "grad_norm": 2.2181358337402344, + "learning_rate": 4.864608352837532e-06, + "loss": 0.0039, + "num_input_tokens_seen": 4707312, + "step": 2391 + }, + { + "epoch": 0.3170311464546057, + "grad_norm": 0.11500225961208344, + "learning_rate": 4.864495641136612e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4708512, + "step": 2392 + }, + { + "epoch": 0.3171636845593108, + "grad_norm": 11.490994453430176, + "learning_rate": 4.864382883846586e-06, + "loss": 0.2637, + "num_input_tokens_seen": 4710568, + "step": 2393 + }, + { + "epoch": 0.3172962226640159, + "grad_norm": 12.361715316772461, + "learning_rate": 4.864270080969625e-06, + "loss": 0.1677, + "num_input_tokens_seen": 4713128, + "step": 2394 + }, + { + "epoch": 0.317428760768721, + "grad_norm": 7.869872093200684, + "learning_rate": 4.864157232507907e-06, + "loss": 0.1173, + "num_input_tokens_seen": 4715064, + "step": 2395 + }, + { + "epoch": 0.3175612988734261, + "grad_norm": 4.561809062957764, + "learning_rate": 4.864044338463606e-06, + "loss": 0.0363, + "num_input_tokens_seen": 4717384, + "step": 2396 + }, + { + "epoch": 0.3176938369781312, + "grad_norm": 5.06044864654541, + "learning_rate": 4.863931398838899e-06, + "loss": 0.109, + "num_input_tokens_seen": 4719560, + "step": 2397 + }, + { + "epoch": 0.3178263750828363, + "grad_norm": 13.439164161682129, + "learning_rate": 4.863818413635965e-06, + "loss": 0.4624, + "num_input_tokens_seen": 4722008, + "step": 2398 + }, + { + "epoch": 0.31795891318754144, + "grad_norm": 10.076236724853516, + "learning_rate": 4.8637053828569805e-06, + "loss": 0.3145, + "num_input_tokens_seen": 4724496, + "step": 2399 + }, + { + "epoch": 0.31809145129224653, + "grad_norm": 0.09990496933460236, + "learning_rate": 4.863592306504125e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4726496, + "step": 2400 + }, + { + "epoch": 0.3182239893969516, + "grad_norm": 0.03365609422326088, + "learning_rate": 4.863479184579581e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4727584, + "step": 2401 + }, + { + "epoch": 0.3183565275016567, + "grad_norm": 9.044075012207031, + "learning_rate": 4.8633660170855255e-06, + "loss": 0.4158, + "num_input_tokens_seen": 4729672, + "step": 2402 + }, + { + "epoch": 0.3184890656063618, + "grad_norm": 0.04071224108338356, + "learning_rate": 4.863252804024145e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4730992, + "step": 2403 + }, + { + "epoch": 0.31862160371106696, + "grad_norm": 29.465429306030273, + "learning_rate": 4.863139545397619e-06, + "loss": 1.0326, + "num_input_tokens_seen": 4732744, + "step": 2404 + }, + { + "epoch": 0.31875414181577205, + "grad_norm": 9.384528160095215, + "learning_rate": 4.863026241208132e-06, + "loss": 0.1982, + "num_input_tokens_seen": 4734560, + "step": 2405 + }, + { + "epoch": 0.31888667992047715, + "grad_norm": 15.243741989135742, + "learning_rate": 4.8629128914578695e-06, + "loss": 0.4678, + "num_input_tokens_seen": 4736760, + "step": 2406 + }, + { + "epoch": 0.31901921802518224, + "grad_norm": 7.035901069641113, + "learning_rate": 4.862799496149017e-06, + "loss": 0.2825, + "num_input_tokens_seen": 4738344, + "step": 2407 + }, + { + "epoch": 0.31915175612988733, + "grad_norm": 10.949930191040039, + "learning_rate": 4.8626860552837585e-06, + "loss": 0.1726, + "num_input_tokens_seen": 4739928, + "step": 2408 + }, + { + "epoch": 0.3192842942345924, + "grad_norm": 24.149385452270508, + "learning_rate": 4.862572568864285e-06, + "loss": 0.6593, + "num_input_tokens_seen": 4742408, + "step": 2409 + }, + { + "epoch": 0.3194168323392976, + "grad_norm": 14.280720710754395, + "learning_rate": 4.86245903689278e-06, + "loss": 0.539, + "num_input_tokens_seen": 4744752, + "step": 2410 + }, + { + "epoch": 0.31954937044400267, + "grad_norm": 15.06515884399414, + "learning_rate": 4.862345459371437e-06, + "loss": 0.3699, + "num_input_tokens_seen": 4746504, + "step": 2411 + }, + { + "epoch": 0.31968190854870776, + "grad_norm": 0.07665840536355972, + "learning_rate": 4.862231836302444e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4747736, + "step": 2412 + }, + { + "epoch": 0.31981444665341285, + "grad_norm": 11.211732864379883, + "learning_rate": 4.862118167687991e-06, + "loss": 0.2193, + "num_input_tokens_seen": 4749712, + "step": 2413 + }, + { + "epoch": 0.31994698475811795, + "grad_norm": 15.756593704223633, + "learning_rate": 4.862004453530269e-06, + "loss": 0.45, + "num_input_tokens_seen": 4751960, + "step": 2414 + }, + { + "epoch": 0.32007952286282304, + "grad_norm": 8.564964294433594, + "learning_rate": 4.861890693831472e-06, + "loss": 0.1738, + "num_input_tokens_seen": 4754992, + "step": 2415 + }, + { + "epoch": 0.3202120609675282, + "grad_norm": 5.211246967315674, + "learning_rate": 4.8617768885937944e-06, + "loss": 0.1933, + "num_input_tokens_seen": 4757832, + "step": 2416 + }, + { + "epoch": 0.3203445990722333, + "grad_norm": 5.289076328277588, + "learning_rate": 4.861663037819428e-06, + "loss": 0.0431, + "num_input_tokens_seen": 4759272, + "step": 2417 + }, + { + "epoch": 0.3204771371769384, + "grad_norm": 12.89932632446289, + "learning_rate": 4.86154914151057e-06, + "loss": 0.4088, + "num_input_tokens_seen": 4760960, + "step": 2418 + }, + { + "epoch": 0.32060967528164347, + "grad_norm": 0.10930877923965454, + "learning_rate": 4.861435199669414e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4762392, + "step": 2419 + }, + { + "epoch": 0.32074221338634856, + "grad_norm": 12.59751033782959, + "learning_rate": 4.86132121229816e-06, + "loss": 0.5084, + "num_input_tokens_seen": 4764512, + "step": 2420 + }, + { + "epoch": 0.32087475149105366, + "grad_norm": 0.10619465261697769, + "learning_rate": 4.8612071793990025e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4765744, + "step": 2421 + }, + { + "epoch": 0.3210072895957588, + "grad_norm": 11.316045761108398, + "learning_rate": 4.861093100974143e-06, + "loss": 0.1684, + "num_input_tokens_seen": 4767816, + "step": 2422 + }, + { + "epoch": 0.3211398277004639, + "grad_norm": 20.91433334350586, + "learning_rate": 4.860978977025779e-06, + "loss": 0.9307, + "num_input_tokens_seen": 4770264, + "step": 2423 + }, + { + "epoch": 0.321272365805169, + "grad_norm": 0.16921111941337585, + "learning_rate": 4.86086480755611e-06, + "loss": 0.001, + "num_input_tokens_seen": 4771952, + "step": 2424 + }, + { + "epoch": 0.3214049039098741, + "grad_norm": 6.8373894691467285, + "learning_rate": 4.8607505925673414e-06, + "loss": 0.062, + "num_input_tokens_seen": 4773352, + "step": 2425 + }, + { + "epoch": 0.3215374420145792, + "grad_norm": 0.16040894389152527, + "learning_rate": 4.860636332061671e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4775432, + "step": 2426 + }, + { + "epoch": 0.32166998011928427, + "grad_norm": 14.172039031982422, + "learning_rate": 4.860522026041304e-06, + "loss": 0.3022, + "num_input_tokens_seen": 4777392, + "step": 2427 + }, + { + "epoch": 0.3218025182239894, + "grad_norm": 10.313090324401855, + "learning_rate": 4.860407674508445e-06, + "loss": 0.3031, + "num_input_tokens_seen": 4779728, + "step": 2428 + }, + { + "epoch": 0.3219350563286945, + "grad_norm": 0.8662859797477722, + "learning_rate": 4.860293277465296e-06, + "loss": 0.0022, + "num_input_tokens_seen": 4781424, + "step": 2429 + }, + { + "epoch": 0.3220675944333996, + "grad_norm": 0.09188725054264069, + "learning_rate": 4.860178834914066e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4782480, + "step": 2430 + }, + { + "epoch": 0.3222001325381047, + "grad_norm": 5.912001609802246, + "learning_rate": 4.860064346856959e-06, + "loss": 0.1457, + "num_input_tokens_seen": 4784264, + "step": 2431 + }, + { + "epoch": 0.3223326706428098, + "grad_norm": 0.1483450084924698, + "learning_rate": 4.859949813296184e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4786752, + "step": 2432 + }, + { + "epoch": 0.3224652087475149, + "grad_norm": 7.647861957550049, + "learning_rate": 4.859835234233947e-06, + "loss": 0.1633, + "num_input_tokens_seen": 4788856, + "step": 2433 + }, + { + "epoch": 0.32259774685222004, + "grad_norm": 0.1386691778898239, + "learning_rate": 4.85972060967246e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4789936, + "step": 2434 + }, + { + "epoch": 0.32273028495692513, + "grad_norm": 2.059891939163208, + "learning_rate": 4.859605939613932e-06, + "loss": 0.0393, + "num_input_tokens_seen": 4792120, + "step": 2435 + }, + { + "epoch": 0.3228628230616302, + "grad_norm": 0.15478159487247467, + "learning_rate": 4.859491224060572e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4793984, + "step": 2436 + }, + { + "epoch": 0.3229953611663353, + "grad_norm": 8.184882164001465, + "learning_rate": 4.8593764630145955e-06, + "loss": 0.1682, + "num_input_tokens_seen": 4795624, + "step": 2437 + }, + { + "epoch": 0.3231278992710404, + "grad_norm": 14.103765487670898, + "learning_rate": 4.859261656478211e-06, + "loss": 0.4096, + "num_input_tokens_seen": 4797152, + "step": 2438 + }, + { + "epoch": 0.3232604373757455, + "grad_norm": 11.606586456298828, + "learning_rate": 4.859146804453636e-06, + "loss": 0.3912, + "num_input_tokens_seen": 4798984, + "step": 2439 + }, + { + "epoch": 0.32339297548045065, + "grad_norm": 3.270960569381714, + "learning_rate": 4.859031906943082e-06, + "loss": 0.0972, + "num_input_tokens_seen": 4800688, + "step": 2440 + }, + { + "epoch": 0.32352551358515574, + "grad_norm": 6.662178039550781, + "learning_rate": 4.858916963948767e-06, + "loss": 0.0694, + "num_input_tokens_seen": 4802464, + "step": 2441 + }, + { + "epoch": 0.32365805168986084, + "grad_norm": 3.5934388637542725, + "learning_rate": 4.858801975472904e-06, + "loss": 0.0596, + "num_input_tokens_seen": 4804184, + "step": 2442 + }, + { + "epoch": 0.32379058979456593, + "grad_norm": 7.985162258148193, + "learning_rate": 4.858686941517712e-06, + "loss": 0.2226, + "num_input_tokens_seen": 4806176, + "step": 2443 + }, + { + "epoch": 0.323923127899271, + "grad_norm": 13.521080017089844, + "learning_rate": 4.858571862085409e-06, + "loss": 0.235, + "num_input_tokens_seen": 4807752, + "step": 2444 + }, + { + "epoch": 0.3240556660039761, + "grad_norm": 6.998464584350586, + "learning_rate": 4.8584567371782134e-06, + "loss": 0.2099, + "num_input_tokens_seen": 4810544, + "step": 2445 + }, + { + "epoch": 0.32418820410868127, + "grad_norm": 0.3152054250240326, + "learning_rate": 4.858341566798344e-06, + "loss": 0.0016, + "num_input_tokens_seen": 4812168, + "step": 2446 + }, + { + "epoch": 0.32432074221338636, + "grad_norm": 1.6591954231262207, + "learning_rate": 4.858226350948023e-06, + "loss": 0.0071, + "num_input_tokens_seen": 4813648, + "step": 2447 + }, + { + "epoch": 0.32445328031809145, + "grad_norm": 6.460522651672363, + "learning_rate": 4.858111089629472e-06, + "loss": 0.0952, + "num_input_tokens_seen": 4815288, + "step": 2448 + }, + { + "epoch": 0.32458581842279655, + "grad_norm": 0.23468884825706482, + "learning_rate": 4.857995782844911e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4817048, + "step": 2449 + }, + { + "epoch": 0.32471835652750164, + "grad_norm": 0.535457968711853, + "learning_rate": 4.8578804305965645e-06, + "loss": 0.0029, + "num_input_tokens_seen": 4819232, + "step": 2450 + }, + { + "epoch": 0.32485089463220673, + "grad_norm": 18.374446868896484, + "learning_rate": 4.857765032886657e-06, + "loss": 0.8662, + "num_input_tokens_seen": 4822720, + "step": 2451 + }, + { + "epoch": 0.3249834327369119, + "grad_norm": 2.967433214187622, + "learning_rate": 4.857649589717413e-06, + "loss": 0.0131, + "num_input_tokens_seen": 4824576, + "step": 2452 + }, + { + "epoch": 0.325115970841617, + "grad_norm": 0.044765494763851166, + "learning_rate": 4.857534101091059e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4827352, + "step": 2453 + }, + { + "epoch": 0.32524850894632207, + "grad_norm": 19.87103271484375, + "learning_rate": 4.857418567009821e-06, + "loss": 0.8718, + "num_input_tokens_seen": 4829512, + "step": 2454 + }, + { + "epoch": 0.32538104705102716, + "grad_norm": 17.599321365356445, + "learning_rate": 4.857302987475927e-06, + "loss": 0.6143, + "num_input_tokens_seen": 4831112, + "step": 2455 + }, + { + "epoch": 0.32551358515573225, + "grad_norm": 8.495377540588379, + "learning_rate": 4.857187362491605e-06, + "loss": 0.1442, + "num_input_tokens_seen": 4833416, + "step": 2456 + }, + { + "epoch": 0.3256461232604374, + "grad_norm": 0.08904121071100235, + "learning_rate": 4.857071692059085e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4834496, + "step": 2457 + }, + { + "epoch": 0.3257786613651425, + "grad_norm": 21.11811637878418, + "learning_rate": 4.856955976180595e-06, + "loss": 0.7141, + "num_input_tokens_seen": 4836240, + "step": 2458 + }, + { + "epoch": 0.3259111994698476, + "grad_norm": 7.011678218841553, + "learning_rate": 4.856840214858369e-06, + "loss": 0.1682, + "num_input_tokens_seen": 4838648, + "step": 2459 + }, + { + "epoch": 0.3260437375745527, + "grad_norm": 9.919988632202148, + "learning_rate": 4.856724408094637e-06, + "loss": 0.2142, + "num_input_tokens_seen": 4841000, + "step": 2460 + }, + { + "epoch": 0.3261762756792578, + "grad_norm": 12.991177558898926, + "learning_rate": 4.856608555891634e-06, + "loss": 0.21, + "num_input_tokens_seen": 4842776, + "step": 2461 + }, + { + "epoch": 0.32630881378396287, + "grad_norm": 20.477828979492188, + "learning_rate": 4.856492658251591e-06, + "loss": 0.6444, + "num_input_tokens_seen": 4844944, + "step": 2462 + }, + { + "epoch": 0.326441351888668, + "grad_norm": 17.48164176940918, + "learning_rate": 4.8563767151767446e-06, + "loss": 0.5143, + "num_input_tokens_seen": 4846152, + "step": 2463 + }, + { + "epoch": 0.3265738899933731, + "grad_norm": 0.2186077982187271, + "learning_rate": 4.856260726669329e-06, + "loss": 0.0013, + "num_input_tokens_seen": 4847488, + "step": 2464 + }, + { + "epoch": 0.3267064280980782, + "grad_norm": 15.246328353881836, + "learning_rate": 4.856144692731582e-06, + "loss": 1.0336, + "num_input_tokens_seen": 4850600, + "step": 2465 + }, + { + "epoch": 0.3268389662027833, + "grad_norm": 11.29224681854248, + "learning_rate": 4.85602861336574e-06, + "loss": 0.3545, + "num_input_tokens_seen": 4852560, + "step": 2466 + }, + { + "epoch": 0.3269715043074884, + "grad_norm": 20.979074478149414, + "learning_rate": 4.855912488574039e-06, + "loss": 0.5786, + "num_input_tokens_seen": 4854432, + "step": 2467 + }, + { + "epoch": 0.3271040424121935, + "grad_norm": 0.33819472789764404, + "learning_rate": 4.855796318358722e-06, + "loss": 0.002, + "num_input_tokens_seen": 4856384, + "step": 2468 + }, + { + "epoch": 0.32723658051689863, + "grad_norm": 6.447828769683838, + "learning_rate": 4.855680102722026e-06, + "loss": 0.1995, + "num_input_tokens_seen": 4858552, + "step": 2469 + }, + { + "epoch": 0.3273691186216037, + "grad_norm": 2.3483965396881104, + "learning_rate": 4.8555638416661924e-06, + "loss": 0.013, + "num_input_tokens_seen": 4859896, + "step": 2470 + }, + { + "epoch": 0.3275016567263088, + "grad_norm": 11.520812034606934, + "learning_rate": 4.8554475351934635e-06, + "loss": 0.1894, + "num_input_tokens_seen": 4861528, + "step": 2471 + }, + { + "epoch": 0.3276341948310139, + "grad_norm": 0.5696682929992676, + "learning_rate": 4.8553311833060805e-06, + "loss": 0.0035, + "num_input_tokens_seen": 4862648, + "step": 2472 + }, + { + "epoch": 0.327766732935719, + "grad_norm": 6.993871688842773, + "learning_rate": 4.855214786006288e-06, + "loss": 0.2435, + "num_input_tokens_seen": 4865056, + "step": 2473 + }, + { + "epoch": 0.3278992710404241, + "grad_norm": 0.48319047689437866, + "learning_rate": 4.855098343296329e-06, + "loss": 0.003, + "num_input_tokens_seen": 4866872, + "step": 2474 + }, + { + "epoch": 0.32803180914512925, + "grad_norm": 10.132923126220703, + "learning_rate": 4.85498185517845e-06, + "loss": 0.138, + "num_input_tokens_seen": 4868936, + "step": 2475 + }, + { + "epoch": 0.32816434724983434, + "grad_norm": 1.9582284688949585, + "learning_rate": 4.854865321654896e-06, + "loss": 0.0121, + "num_input_tokens_seen": 4870592, + "step": 2476 + }, + { + "epoch": 0.32829688535453944, + "grad_norm": 14.191243171691895, + "learning_rate": 4.854748742727914e-06, + "loss": 0.4173, + "num_input_tokens_seen": 4872192, + "step": 2477 + }, + { + "epoch": 0.32842942345924453, + "grad_norm": 8.466787338256836, + "learning_rate": 4.854632118399751e-06, + "loss": 0.0963, + "num_input_tokens_seen": 4874112, + "step": 2478 + }, + { + "epoch": 0.3285619615639496, + "grad_norm": 7.038083076477051, + "learning_rate": 4.854515448672658e-06, + "loss": 0.1798, + "num_input_tokens_seen": 4875176, + "step": 2479 + }, + { + "epoch": 0.3286944996686547, + "grad_norm": 13.709606170654297, + "learning_rate": 4.854398733548882e-06, + "loss": 0.3756, + "num_input_tokens_seen": 4877640, + "step": 2480 + }, + { + "epoch": 0.32882703777335986, + "grad_norm": 7.141223907470703, + "learning_rate": 4.854281973030674e-06, + "loss": 0.1695, + "num_input_tokens_seen": 4879976, + "step": 2481 + }, + { + "epoch": 0.32895957587806496, + "grad_norm": 1.346604585647583, + "learning_rate": 4.854165167120285e-06, + "loss": 0.0083, + "num_input_tokens_seen": 4881848, + "step": 2482 + }, + { + "epoch": 0.32909211398277005, + "grad_norm": 6.044533729553223, + "learning_rate": 4.854048315819968e-06, + "loss": 0.1629, + "num_input_tokens_seen": 4883520, + "step": 2483 + }, + { + "epoch": 0.32922465208747514, + "grad_norm": 5.787064075469971, + "learning_rate": 4.853931419131976e-06, + "loss": 0.2168, + "num_input_tokens_seen": 4884640, + "step": 2484 + }, + { + "epoch": 0.32935719019218024, + "grad_norm": 14.233854293823242, + "learning_rate": 4.853814477058561e-06, + "loss": 0.49, + "num_input_tokens_seen": 4886864, + "step": 2485 + }, + { + "epoch": 0.32948972829688533, + "grad_norm": 14.842486381530762, + "learning_rate": 4.853697489601981e-06, + "loss": 0.5716, + "num_input_tokens_seen": 4889024, + "step": 2486 + }, + { + "epoch": 0.3296222664015905, + "grad_norm": 5.033909320831299, + "learning_rate": 4.8535804567644886e-06, + "loss": 0.0394, + "num_input_tokens_seen": 4891248, + "step": 2487 + }, + { + "epoch": 0.3297548045062956, + "grad_norm": 0.6181367039680481, + "learning_rate": 4.853463378548341e-06, + "loss": 0.0037, + "num_input_tokens_seen": 4893656, + "step": 2488 + }, + { + "epoch": 0.32988734261100067, + "grad_norm": 21.318761825561523, + "learning_rate": 4.853346254955796e-06, + "loss": 0.7032, + "num_input_tokens_seen": 4895816, + "step": 2489 + }, + { + "epoch": 0.33001988071570576, + "grad_norm": 2.9122464656829834, + "learning_rate": 4.8532290859891125e-06, + "loss": 0.0414, + "num_input_tokens_seen": 4897624, + "step": 2490 + }, + { + "epoch": 0.33015241882041085, + "grad_norm": 0.5618943572044373, + "learning_rate": 4.853111871650548e-06, + "loss": 0.0034, + "num_input_tokens_seen": 4898888, + "step": 2491 + }, + { + "epoch": 0.33028495692511595, + "grad_norm": 14.67484188079834, + "learning_rate": 4.852994611942364e-06, + "loss": 0.8535, + "num_input_tokens_seen": 4901672, + "step": 2492 + }, + { + "epoch": 0.3304174950298211, + "grad_norm": 3.7947425842285156, + "learning_rate": 4.85287730686682e-06, + "loss": 0.0248, + "num_input_tokens_seen": 4903704, + "step": 2493 + }, + { + "epoch": 0.3305500331345262, + "grad_norm": 9.250006675720215, + "learning_rate": 4.852759956426178e-06, + "loss": 0.2065, + "num_input_tokens_seen": 4905544, + "step": 2494 + }, + { + "epoch": 0.3306825712392313, + "grad_norm": 14.868971824645996, + "learning_rate": 4.852642560622702e-06, + "loss": 0.4638, + "num_input_tokens_seen": 4907304, + "step": 2495 + }, + { + "epoch": 0.3308151093439364, + "grad_norm": 16.35065460205078, + "learning_rate": 4.852525119458654e-06, + "loss": 0.5164, + "num_input_tokens_seen": 4909720, + "step": 2496 + }, + { + "epoch": 0.33094764744864147, + "grad_norm": 0.8608124852180481, + "learning_rate": 4.852407632936299e-06, + "loss": 0.0047, + "num_input_tokens_seen": 4911344, + "step": 2497 + }, + { + "epoch": 0.33108018555334656, + "grad_norm": 6.037642002105713, + "learning_rate": 4.852290101057901e-06, + "loss": 0.0996, + "num_input_tokens_seen": 4914296, + "step": 2498 + }, + { + "epoch": 0.3312127236580517, + "grad_norm": 5.970702171325684, + "learning_rate": 4.852172523825729e-06, + "loss": 0.18, + "num_input_tokens_seen": 4916032, + "step": 2499 + }, + { + "epoch": 0.3313452617627568, + "grad_norm": 1.6504173278808594, + "learning_rate": 4.852054901242046e-06, + "loss": 0.0085, + "num_input_tokens_seen": 4917976, + "step": 2500 + }, + { + "epoch": 0.3314777998674619, + "grad_norm": 1.5778703689575195, + "learning_rate": 4.851937233309123e-06, + "loss": 0.0071, + "num_input_tokens_seen": 4920024, + "step": 2501 + }, + { + "epoch": 0.331610337972167, + "grad_norm": 2.2431654930114746, + "learning_rate": 4.851819520029227e-06, + "loss": 0.0355, + "num_input_tokens_seen": 4921448, + "step": 2502 + }, + { + "epoch": 0.3317428760768721, + "grad_norm": 13.440147399902344, + "learning_rate": 4.851701761404629e-06, + "loss": 0.4951, + "num_input_tokens_seen": 4923336, + "step": 2503 + }, + { + "epoch": 0.3318754141815772, + "grad_norm": 0.7404280304908752, + "learning_rate": 4.851583957437598e-06, + "loss": 0.0037, + "num_input_tokens_seen": 4925056, + "step": 2504 + }, + { + "epoch": 0.3320079522862823, + "grad_norm": 11.032755851745605, + "learning_rate": 4.851466108130406e-06, + "loss": 0.438, + "num_input_tokens_seen": 4926792, + "step": 2505 + }, + { + "epoch": 0.3321404903909874, + "grad_norm": 10.95981216430664, + "learning_rate": 4.851348213485326e-06, + "loss": 0.491, + "num_input_tokens_seen": 4928664, + "step": 2506 + }, + { + "epoch": 0.3322730284956925, + "grad_norm": 17.006113052368164, + "learning_rate": 4.85123027350463e-06, + "loss": 0.5775, + "num_input_tokens_seen": 4931424, + "step": 2507 + }, + { + "epoch": 0.3324055666003976, + "grad_norm": 0.47183868288993835, + "learning_rate": 4.851112288190592e-06, + "loss": 0.0023, + "num_input_tokens_seen": 4932824, + "step": 2508 + }, + { + "epoch": 0.3325381047051027, + "grad_norm": 8.050056457519531, + "learning_rate": 4.850994257545488e-06, + "loss": 0.339, + "num_input_tokens_seen": 4935664, + "step": 2509 + }, + { + "epoch": 0.3326706428098078, + "grad_norm": 0.3868926167488098, + "learning_rate": 4.850876181571592e-06, + "loss": 0.0016, + "num_input_tokens_seen": 4938328, + "step": 2510 + }, + { + "epoch": 0.33280318091451294, + "grad_norm": 14.420541763305664, + "learning_rate": 4.850758060271181e-06, + "loss": 0.6009, + "num_input_tokens_seen": 4940472, + "step": 2511 + }, + { + "epoch": 0.33293571901921803, + "grad_norm": 0.22953245043754578, + "learning_rate": 4.850639893646534e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4941968, + "step": 2512 + }, + { + "epoch": 0.33306825712392313, + "grad_norm": 13.4358549118042, + "learning_rate": 4.850521681699928e-06, + "loss": 0.5495, + "num_input_tokens_seen": 4943256, + "step": 2513 + }, + { + "epoch": 0.3332007952286282, + "grad_norm": 1.4146995544433594, + "learning_rate": 4.850403424433642e-06, + "loss": 0.0062, + "num_input_tokens_seen": 4945560, + "step": 2514 + }, + { + "epoch": 0.3333333333333333, + "grad_norm": 6.421215057373047, + "learning_rate": 4.8502851218499566e-06, + "loss": 0.1505, + "num_input_tokens_seen": 4947256, + "step": 2515 + }, + { + "epoch": 0.33346587143803846, + "grad_norm": 13.972963333129883, + "learning_rate": 4.850166773951153e-06, + "loss": 0.4566, + "num_input_tokens_seen": 4949064, + "step": 2516 + }, + { + "epoch": 0.33359840954274356, + "grad_norm": 12.054634094238281, + "learning_rate": 4.850048380739512e-06, + "loss": 0.5551, + "num_input_tokens_seen": 4951520, + "step": 2517 + }, + { + "epoch": 0.33373094764744865, + "grad_norm": 0.5132588148117065, + "learning_rate": 4.849929942217318e-06, + "loss": 0.0028, + "num_input_tokens_seen": 4953472, + "step": 2518 + }, + { + "epoch": 0.33386348575215374, + "grad_norm": 12.718517303466797, + "learning_rate": 4.849811458386853e-06, + "loss": 0.3673, + "num_input_tokens_seen": 4955392, + "step": 2519 + }, + { + "epoch": 0.33399602385685884, + "grad_norm": 0.06976090371608734, + "learning_rate": 4.849692929250401e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4956336, + "step": 2520 + }, + { + "epoch": 0.33412856196156393, + "grad_norm": 13.524518013000488, + "learning_rate": 4.849574354810251e-06, + "loss": 0.4958, + "num_input_tokens_seen": 4958872, + "step": 2521 + }, + { + "epoch": 0.3342611000662691, + "grad_norm": 13.198885917663574, + "learning_rate": 4.849455735068684e-06, + "loss": 0.5385, + "num_input_tokens_seen": 4960768, + "step": 2522 + }, + { + "epoch": 0.3343936381709742, + "grad_norm": 0.14774581789970398, + "learning_rate": 4.8493370700279905e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4963336, + "step": 2523 + }, + { + "epoch": 0.33452617627567927, + "grad_norm": 10.848809242248535, + "learning_rate": 4.849218359690458e-06, + "loss": 0.2331, + "num_input_tokens_seen": 4965240, + "step": 2524 + }, + { + "epoch": 0.33465871438038436, + "grad_norm": 0.13256627321243286, + "learning_rate": 4.849099604058375e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4967208, + "step": 2525 + }, + { + "epoch": 0.33479125248508945, + "grad_norm": 5.851517677307129, + "learning_rate": 4.84898080313403e-06, + "loss": 0.0832, + "num_input_tokens_seen": 4969416, + "step": 2526 + }, + { + "epoch": 0.33492379058979455, + "grad_norm": 16.57158088684082, + "learning_rate": 4.848861956919715e-06, + "loss": 0.206, + "num_input_tokens_seen": 4971528, + "step": 2527 + }, + { + "epoch": 0.3350563286944997, + "grad_norm": 2.150195837020874, + "learning_rate": 4.848743065417722e-06, + "loss": 0.0522, + "num_input_tokens_seen": 4973120, + "step": 2528 + }, + { + "epoch": 0.3351888667992048, + "grad_norm": 0.17715318500995636, + "learning_rate": 4.8486241286303415e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4974960, + "step": 2529 + }, + { + "epoch": 0.3353214049039099, + "grad_norm": 11.661783218383789, + "learning_rate": 4.848505146559868e-06, + "loss": 0.2968, + "num_input_tokens_seen": 4976984, + "step": 2530 + }, + { + "epoch": 0.335453943008615, + "grad_norm": 15.448066711425781, + "learning_rate": 4.848386119208595e-06, + "loss": 0.4958, + "num_input_tokens_seen": 4980304, + "step": 2531 + }, + { + "epoch": 0.33558648111332007, + "grad_norm": 6.0017828941345215, + "learning_rate": 4.848267046578817e-06, + "loss": 0.1532, + "num_input_tokens_seen": 4982344, + "step": 2532 + }, + { + "epoch": 0.33571901921802516, + "grad_norm": 3.1475830078125, + "learning_rate": 4.848147928672831e-06, + "loss": 0.0737, + "num_input_tokens_seen": 4984304, + "step": 2533 + }, + { + "epoch": 0.3358515573227303, + "grad_norm": 9.871624946594238, + "learning_rate": 4.8480287654929326e-06, + "loss": 0.2759, + "num_input_tokens_seen": 4986216, + "step": 2534 + }, + { + "epoch": 0.3359840954274354, + "grad_norm": 8.20520305633545, + "learning_rate": 4.84790955704142e-06, + "loss": 0.2514, + "num_input_tokens_seen": 4987912, + "step": 2535 + }, + { + "epoch": 0.3361166335321405, + "grad_norm": 14.068840980529785, + "learning_rate": 4.847790303320592e-06, + "loss": 0.2199, + "num_input_tokens_seen": 4989104, + "step": 2536 + }, + { + "epoch": 0.3362491716368456, + "grad_norm": 13.081754684448242, + "learning_rate": 4.847671004332746e-06, + "loss": 0.4257, + "num_input_tokens_seen": 4990960, + "step": 2537 + }, + { + "epoch": 0.3363817097415507, + "grad_norm": 1.3506258726119995, + "learning_rate": 4.847551660080184e-06, + "loss": 0.0086, + "num_input_tokens_seen": 4993200, + "step": 2538 + }, + { + "epoch": 0.3365142478462558, + "grad_norm": 1.0557507276535034, + "learning_rate": 4.847432270565207e-06, + "loss": 0.0068, + "num_input_tokens_seen": 4994464, + "step": 2539 + }, + { + "epoch": 0.3366467859509609, + "grad_norm": 12.210657119750977, + "learning_rate": 4.847312835790117e-06, + "loss": 0.1723, + "num_input_tokens_seen": 4996960, + "step": 2540 + }, + { + "epoch": 0.336779324055666, + "grad_norm": 1.9731026887893677, + "learning_rate": 4.847193355757215e-06, + "loss": 0.0121, + "num_input_tokens_seen": 4999848, + "step": 2541 + }, + { + "epoch": 0.3369118621603711, + "grad_norm": 8.374910354614258, + "learning_rate": 4.8470738304688055e-06, + "loss": 0.2966, + "num_input_tokens_seen": 5002256, + "step": 2542 + }, + { + "epoch": 0.3370444002650762, + "grad_norm": 0.3551548719406128, + "learning_rate": 4.846954259927195e-06, + "loss": 0.0022, + "num_input_tokens_seen": 5004672, + "step": 2543 + }, + { + "epoch": 0.3371769383697813, + "grad_norm": 14.602219581604004, + "learning_rate": 4.846834644134686e-06, + "loss": 0.507, + "num_input_tokens_seen": 5006896, + "step": 2544 + }, + { + "epoch": 0.3373094764744864, + "grad_norm": 17.20040512084961, + "learning_rate": 4.8467149830935865e-06, + "loss": 0.6817, + "num_input_tokens_seen": 5007968, + "step": 2545 + }, + { + "epoch": 0.33744201457919154, + "grad_norm": 9.876198768615723, + "learning_rate": 4.846595276806203e-06, + "loss": 0.3634, + "num_input_tokens_seen": 5009816, + "step": 2546 + }, + { + "epoch": 0.33757455268389663, + "grad_norm": 0.33512306213378906, + "learning_rate": 4.846475525274844e-06, + "loss": 0.0021, + "num_input_tokens_seen": 5011016, + "step": 2547 + }, + { + "epoch": 0.3377070907886017, + "grad_norm": 20.322330474853516, + "learning_rate": 4.846355728501817e-06, + "loss": 0.4798, + "num_input_tokens_seen": 5012856, + "step": 2548 + }, + { + "epoch": 0.3378396288933068, + "grad_norm": 8.270444869995117, + "learning_rate": 4.8462358864894345e-06, + "loss": 0.1673, + "num_input_tokens_seen": 5014592, + "step": 2549 + }, + { + "epoch": 0.3379721669980119, + "grad_norm": 15.18359661102295, + "learning_rate": 4.8461159992400044e-06, + "loss": 0.547, + "num_input_tokens_seen": 5016760, + "step": 2550 + }, + { + "epoch": 0.338104705102717, + "grad_norm": 4.201569557189941, + "learning_rate": 4.84599606675584e-06, + "loss": 0.0104, + "num_input_tokens_seen": 5019664, + "step": 2551 + }, + { + "epoch": 0.33823724320742216, + "grad_norm": 10.736529350280762, + "learning_rate": 4.845876089039253e-06, + "loss": 0.2526, + "num_input_tokens_seen": 5021336, + "step": 2552 + }, + { + "epoch": 0.33836978131212725, + "grad_norm": 4.422069549560547, + "learning_rate": 4.845756066092556e-06, + "loss": 0.0624, + "num_input_tokens_seen": 5022448, + "step": 2553 + }, + { + "epoch": 0.33850231941683234, + "grad_norm": 0.2259720116853714, + "learning_rate": 4.845635997918064e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5024408, + "step": 2554 + }, + { + "epoch": 0.33863485752153744, + "grad_norm": 8.32859992980957, + "learning_rate": 4.845515884518093e-06, + "loss": 0.1041, + "num_input_tokens_seen": 5026944, + "step": 2555 + }, + { + "epoch": 0.33876739562624253, + "grad_norm": 9.94010066986084, + "learning_rate": 4.845395725894956e-06, + "loss": 0.1135, + "num_input_tokens_seen": 5028832, + "step": 2556 + }, + { + "epoch": 0.3388999337309476, + "grad_norm": 10.362662315368652, + "learning_rate": 4.845275522050973e-06, + "loss": 0.1865, + "num_input_tokens_seen": 5031224, + "step": 2557 + }, + { + "epoch": 0.33903247183565277, + "grad_norm": 8.959379196166992, + "learning_rate": 4.845155272988459e-06, + "loss": 0.3073, + "num_input_tokens_seen": 5032296, + "step": 2558 + }, + { + "epoch": 0.33916500994035786, + "grad_norm": 0.3402162194252014, + "learning_rate": 4.845034978709733e-06, + "loss": 0.0021, + "num_input_tokens_seen": 5033824, + "step": 2559 + }, + { + "epoch": 0.33929754804506296, + "grad_norm": 5.115143299102783, + "learning_rate": 4.844914639217115e-06, + "loss": 0.1712, + "num_input_tokens_seen": 5036352, + "step": 2560 + }, + { + "epoch": 0.33943008614976805, + "grad_norm": 14.035609245300293, + "learning_rate": 4.844794254512926e-06, + "loss": 0.3628, + "num_input_tokens_seen": 5038480, + "step": 2561 + }, + { + "epoch": 0.33956262425447314, + "grad_norm": 6.534146785736084, + "learning_rate": 4.844673824599486e-06, + "loss": 0.0682, + "num_input_tokens_seen": 5040264, + "step": 2562 + }, + { + "epoch": 0.33969516235917824, + "grad_norm": 0.33945485949516296, + "learning_rate": 4.844553349479117e-06, + "loss": 0.0021, + "num_input_tokens_seen": 5042176, + "step": 2563 + }, + { + "epoch": 0.3398277004638834, + "grad_norm": 11.172015190124512, + "learning_rate": 4.844432829154142e-06, + "loss": 0.5188, + "num_input_tokens_seen": 5044112, + "step": 2564 + }, + { + "epoch": 0.3399602385685885, + "grad_norm": 10.872260093688965, + "learning_rate": 4.8443122636268845e-06, + "loss": 0.194, + "num_input_tokens_seen": 5045808, + "step": 2565 + }, + { + "epoch": 0.3400927766732936, + "grad_norm": 11.375405311584473, + "learning_rate": 4.844191652899669e-06, + "loss": 0.3708, + "num_input_tokens_seen": 5047744, + "step": 2566 + }, + { + "epoch": 0.34022531477799867, + "grad_norm": 0.38756489753723145, + "learning_rate": 4.844070996974822e-06, + "loss": 0.0025, + "num_input_tokens_seen": 5050336, + "step": 2567 + }, + { + "epoch": 0.34035785288270376, + "grad_norm": 0.30488312244415283, + "learning_rate": 4.8439502958546684e-06, + "loss": 0.0018, + "num_input_tokens_seen": 5052408, + "step": 2568 + }, + { + "epoch": 0.34049039098740885, + "grad_norm": 0.1934095025062561, + "learning_rate": 4.843829549541537e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5054376, + "step": 2569 + }, + { + "epoch": 0.340622929092114, + "grad_norm": 16.13597297668457, + "learning_rate": 4.843708758037754e-06, + "loss": 0.7639, + "num_input_tokens_seen": 5056688, + "step": 2570 + }, + { + "epoch": 0.3407554671968191, + "grad_norm": 0.2038782835006714, + "learning_rate": 4.843587921345649e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5057808, + "step": 2571 + }, + { + "epoch": 0.3408880053015242, + "grad_norm": 18.087759017944336, + "learning_rate": 4.8434670394675536e-06, + "loss": 0.5012, + "num_input_tokens_seen": 5059872, + "step": 2572 + }, + { + "epoch": 0.3410205434062293, + "grad_norm": 0.5027891993522644, + "learning_rate": 4.843346112405796e-06, + "loss": 0.0027, + "num_input_tokens_seen": 5061496, + "step": 2573 + }, + { + "epoch": 0.3411530815109344, + "grad_norm": 0.2382429987192154, + "learning_rate": 4.84322514016271e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5063712, + "step": 2574 + }, + { + "epoch": 0.3412856196156395, + "grad_norm": 3.5534324645996094, + "learning_rate": 4.843104122740625e-06, + "loss": 0.0369, + "num_input_tokens_seen": 5065600, + "step": 2575 + }, + { + "epoch": 0.3414181577203446, + "grad_norm": 13.352022171020508, + "learning_rate": 4.842983060141877e-06, + "loss": 0.4957, + "num_input_tokens_seen": 5067280, + "step": 2576 + }, + { + "epoch": 0.3415506958250497, + "grad_norm": 14.412768363952637, + "learning_rate": 4.842861952368799e-06, + "loss": 0.4341, + "num_input_tokens_seen": 5069552, + "step": 2577 + }, + { + "epoch": 0.3416832339297548, + "grad_norm": 8.399524688720703, + "learning_rate": 4.842740799423726e-06, + "loss": 0.0724, + "num_input_tokens_seen": 5071856, + "step": 2578 + }, + { + "epoch": 0.3418157720344599, + "grad_norm": 0.09015511721372604, + "learning_rate": 4.8426196013089945e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5073472, + "step": 2579 + }, + { + "epoch": 0.341948310139165, + "grad_norm": 13.617608070373535, + "learning_rate": 4.8424983580269416e-06, + "loss": 0.3859, + "num_input_tokens_seen": 5075080, + "step": 2580 + }, + { + "epoch": 0.34208084824387014, + "grad_norm": 1.20191490650177, + "learning_rate": 4.8423770695799035e-06, + "loss": 0.0047, + "num_input_tokens_seen": 5077224, + "step": 2581 + }, + { + "epoch": 0.34221338634857523, + "grad_norm": 5.682173728942871, + "learning_rate": 4.842255735970221e-06, + "loss": 0.0736, + "num_input_tokens_seen": 5078576, + "step": 2582 + }, + { + "epoch": 0.3423459244532803, + "grad_norm": 9.435686111450195, + "learning_rate": 4.842134357200231e-06, + "loss": 0.106, + "num_input_tokens_seen": 5079936, + "step": 2583 + }, + { + "epoch": 0.3424784625579854, + "grad_norm": 7.388195514678955, + "learning_rate": 4.842012933272274e-06, + "loss": 0.0934, + "num_input_tokens_seen": 5081912, + "step": 2584 + }, + { + "epoch": 0.3426110006626905, + "grad_norm": 13.4119873046875, + "learning_rate": 4.841891464188692e-06, + "loss": 0.3727, + "num_input_tokens_seen": 5083584, + "step": 2585 + }, + { + "epoch": 0.3427435387673956, + "grad_norm": 15.916617393493652, + "learning_rate": 4.841769949951829e-06, + "loss": 0.3822, + "num_input_tokens_seen": 5085688, + "step": 2586 + }, + { + "epoch": 0.34287607687210075, + "grad_norm": 0.062166765332221985, + "learning_rate": 4.841648390564025e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5086848, + "step": 2587 + }, + { + "epoch": 0.34300861497680585, + "grad_norm": 0.06384774297475815, + "learning_rate": 4.841526786027624e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5088200, + "step": 2588 + }, + { + "epoch": 0.34314115308151094, + "grad_norm": 0.0751710832118988, + "learning_rate": 4.841405136344971e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5089440, + "step": 2589 + }, + { + "epoch": 0.34327369118621603, + "grad_norm": 8.333683013916016, + "learning_rate": 4.841283441518413e-06, + "loss": 0.2896, + "num_input_tokens_seen": 5091008, + "step": 2590 + }, + { + "epoch": 0.34340622929092113, + "grad_norm": 0.11106595396995544, + "learning_rate": 4.841161701550295e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5092968, + "step": 2591 + }, + { + "epoch": 0.3435387673956262, + "grad_norm": 8.654097557067871, + "learning_rate": 4.841039916442962e-06, + "loss": 0.2042, + "num_input_tokens_seen": 5094864, + "step": 2592 + }, + { + "epoch": 0.34367130550033137, + "grad_norm": 5.409858226776123, + "learning_rate": 4.840918086198767e-06, + "loss": 0.1349, + "num_input_tokens_seen": 5096288, + "step": 2593 + }, + { + "epoch": 0.34380384360503646, + "grad_norm": 6.716861248016357, + "learning_rate": 4.840796210820055e-06, + "loss": 0.1318, + "num_input_tokens_seen": 5098192, + "step": 2594 + }, + { + "epoch": 0.34393638170974156, + "grad_norm": 0.07945011556148529, + "learning_rate": 4.840674290309178e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5100760, + "step": 2595 + }, + { + "epoch": 0.34406891981444665, + "grad_norm": 13.218320846557617, + "learning_rate": 4.840552324668485e-06, + "loss": 0.2058, + "num_input_tokens_seen": 5102936, + "step": 2596 + }, + { + "epoch": 0.34420145791915174, + "grad_norm": 7.486458778381348, + "learning_rate": 4.8404303139003295e-06, + "loss": 0.1768, + "num_input_tokens_seen": 5105112, + "step": 2597 + }, + { + "epoch": 0.34433399602385684, + "grad_norm": 19.353336334228516, + "learning_rate": 4.840308258007063e-06, + "loss": 0.5371, + "num_input_tokens_seen": 5107368, + "step": 2598 + }, + { + "epoch": 0.344466534128562, + "grad_norm": 31.570310592651367, + "learning_rate": 4.840186156991038e-06, + "loss": 0.5615, + "num_input_tokens_seen": 5109696, + "step": 2599 + }, + { + "epoch": 0.3445990722332671, + "grad_norm": 0.14075443148612976, + "learning_rate": 4.840064010854609e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5111008, + "step": 2600 + }, + { + "epoch": 0.34473161033797217, + "grad_norm": 0.15091027319431305, + "learning_rate": 4.839941819600133e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5112848, + "step": 2601 + }, + { + "epoch": 0.34486414844267727, + "grad_norm": 20.39800453186035, + "learning_rate": 4.839819583229964e-06, + "loss": 0.7999, + "num_input_tokens_seen": 5114928, + "step": 2602 + }, + { + "epoch": 0.34499668654738236, + "grad_norm": 0.3418734073638916, + "learning_rate": 4.839697301746459e-06, + "loss": 0.002, + "num_input_tokens_seen": 5116216, + "step": 2603 + }, + { + "epoch": 0.34512922465208745, + "grad_norm": 11.38237476348877, + "learning_rate": 4.839574975151976e-06, + "loss": 0.4725, + "num_input_tokens_seen": 5118312, + "step": 2604 + }, + { + "epoch": 0.3452617627567926, + "grad_norm": 8.359557151794434, + "learning_rate": 4.839452603448873e-06, + "loss": 0.2628, + "num_input_tokens_seen": 5120232, + "step": 2605 + }, + { + "epoch": 0.3453943008614977, + "grad_norm": 7.7645649909973145, + "learning_rate": 4.839330186639511e-06, + "loss": 0.2457, + "num_input_tokens_seen": 5122272, + "step": 2606 + }, + { + "epoch": 0.3455268389662028, + "grad_norm": 0.20248530805110931, + "learning_rate": 4.839207724726248e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5125072, + "step": 2607 + }, + { + "epoch": 0.3456593770709079, + "grad_norm": 0.6183853149414062, + "learning_rate": 4.8390852177114476e-06, + "loss": 0.0084, + "num_input_tokens_seen": 5126776, + "step": 2608 + }, + { + "epoch": 0.345791915175613, + "grad_norm": 2.827495813369751, + "learning_rate": 4.83896266559747e-06, + "loss": 0.0221, + "num_input_tokens_seen": 5128088, + "step": 2609 + }, + { + "epoch": 0.34592445328031807, + "grad_norm": 10.523560523986816, + "learning_rate": 4.838840068386678e-06, + "loss": 0.1884, + "num_input_tokens_seen": 5130200, + "step": 2610 + }, + { + "epoch": 0.3460569913850232, + "grad_norm": 15.118446350097656, + "learning_rate": 4.838717426081437e-06, + "loss": 0.4927, + "num_input_tokens_seen": 5131984, + "step": 2611 + }, + { + "epoch": 0.3461895294897283, + "grad_norm": 6.286466121673584, + "learning_rate": 4.83859473868411e-06, + "loss": 0.168, + "num_input_tokens_seen": 5134160, + "step": 2612 + }, + { + "epoch": 0.3463220675944334, + "grad_norm": 8.771166801452637, + "learning_rate": 4.838472006197064e-06, + "loss": 0.1892, + "num_input_tokens_seen": 5135832, + "step": 2613 + }, + { + "epoch": 0.3464546056991385, + "grad_norm": 7.78450345993042, + "learning_rate": 4.838349228622663e-06, + "loss": 0.2389, + "num_input_tokens_seen": 5137688, + "step": 2614 + }, + { + "epoch": 0.3465871438038436, + "grad_norm": 7.166824817657471, + "learning_rate": 4.838226405963277e-06, + "loss": 0.1208, + "num_input_tokens_seen": 5139384, + "step": 2615 + }, + { + "epoch": 0.3467196819085487, + "grad_norm": 11.340084075927734, + "learning_rate": 4.838103538221272e-06, + "loss": 0.4306, + "num_input_tokens_seen": 5141208, + "step": 2616 + }, + { + "epoch": 0.34685222001325383, + "grad_norm": 5.661216735839844, + "learning_rate": 4.837980625399018e-06, + "loss": 0.0798, + "num_input_tokens_seen": 5143376, + "step": 2617 + }, + { + "epoch": 0.3469847581179589, + "grad_norm": 13.118907928466797, + "learning_rate": 4.837857667498885e-06, + "loss": 0.3629, + "num_input_tokens_seen": 5146192, + "step": 2618 + }, + { + "epoch": 0.347117296222664, + "grad_norm": 5.755819797515869, + "learning_rate": 4.837734664523243e-06, + "loss": 0.1382, + "num_input_tokens_seen": 5148608, + "step": 2619 + }, + { + "epoch": 0.3472498343273691, + "grad_norm": 11.884995460510254, + "learning_rate": 4.8376116164744645e-06, + "loss": 0.0692, + "num_input_tokens_seen": 5151888, + "step": 2620 + }, + { + "epoch": 0.3473823724320742, + "grad_norm": 5.193696975708008, + "learning_rate": 4.837488523354921e-06, + "loss": 0.2207, + "num_input_tokens_seen": 5153544, + "step": 2621 + }, + { + "epoch": 0.3475149105367793, + "grad_norm": 1.6338624954223633, + "learning_rate": 4.837365385166986e-06, + "loss": 0.0221, + "num_input_tokens_seen": 5154784, + "step": 2622 + }, + { + "epoch": 0.34764744864148445, + "grad_norm": 8.607190132141113, + "learning_rate": 4.837242201913035e-06, + "loss": 0.1012, + "num_input_tokens_seen": 5156640, + "step": 2623 + }, + { + "epoch": 0.34777998674618954, + "grad_norm": 12.23025131225586, + "learning_rate": 4.83711897359544e-06, + "loss": 0.219, + "num_input_tokens_seen": 5158408, + "step": 2624 + }, + { + "epoch": 0.34791252485089463, + "grad_norm": 0.14775116741657257, + "learning_rate": 4.836995700216581e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5160480, + "step": 2625 + }, + { + "epoch": 0.3480450629555997, + "grad_norm": 12.328269958496094, + "learning_rate": 4.8368723817788314e-06, + "loss": 0.3127, + "num_input_tokens_seen": 5162112, + "step": 2626 + }, + { + "epoch": 0.3481776010603048, + "grad_norm": 6.5969319343566895, + "learning_rate": 4.83674901828457e-06, + "loss": 0.0767, + "num_input_tokens_seen": 5163856, + "step": 2627 + }, + { + "epoch": 0.3483101391650099, + "grad_norm": 15.464762687683105, + "learning_rate": 4.836625609736176e-06, + "loss": 0.4079, + "num_input_tokens_seen": 5165776, + "step": 2628 + }, + { + "epoch": 0.34844267726971506, + "grad_norm": 2.8966989517211914, + "learning_rate": 4.836502156136028e-06, + "loss": 0.0183, + "num_input_tokens_seen": 5167984, + "step": 2629 + }, + { + "epoch": 0.34857521537442016, + "grad_norm": 21.495792388916016, + "learning_rate": 4.836378657486508e-06, + "loss": 0.6785, + "num_input_tokens_seen": 5170472, + "step": 2630 + }, + { + "epoch": 0.34870775347912525, + "grad_norm": 0.4247101843357086, + "learning_rate": 4.836255113789994e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5171832, + "step": 2631 + }, + { + "epoch": 0.34884029158383034, + "grad_norm": 11.294836044311523, + "learning_rate": 4.8361315250488705e-06, + "loss": 0.3737, + "num_input_tokens_seen": 5173560, + "step": 2632 + }, + { + "epoch": 0.34897282968853544, + "grad_norm": 1.940533995628357, + "learning_rate": 4.836007891265519e-06, + "loss": 0.0116, + "num_input_tokens_seen": 5174920, + "step": 2633 + }, + { + "epoch": 0.3491053677932406, + "grad_norm": 0.193169504404068, + "learning_rate": 4.8358842124423245e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5176512, + "step": 2634 + }, + { + "epoch": 0.3492379058979457, + "grad_norm": 18.383394241333008, + "learning_rate": 4.83576048858167e-06, + "loss": 0.3589, + "num_input_tokens_seen": 5177888, + "step": 2635 + }, + { + "epoch": 0.34937044400265077, + "grad_norm": 0.08755943924188614, + "learning_rate": 4.835636719685942e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5179104, + "step": 2636 + }, + { + "epoch": 0.34950298210735586, + "grad_norm": 1.7547752857208252, + "learning_rate": 4.835512905757528e-06, + "loss": 0.0068, + "num_input_tokens_seen": 5181416, + "step": 2637 + }, + { + "epoch": 0.34963552021206096, + "grad_norm": 0.1409478783607483, + "learning_rate": 4.835389046798813e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5183224, + "step": 2638 + }, + { + "epoch": 0.34976805831676605, + "grad_norm": 8.044390678405762, + "learning_rate": 4.835265142812187e-06, + "loss": 0.2563, + "num_input_tokens_seen": 5185472, + "step": 2639 + }, + { + "epoch": 0.3499005964214712, + "grad_norm": 11.293478965759277, + "learning_rate": 4.835141193800037e-06, + "loss": 0.2075, + "num_input_tokens_seen": 5187528, + "step": 2640 + }, + { + "epoch": 0.3500331345261763, + "grad_norm": 11.678450584411621, + "learning_rate": 4.835017199764754e-06, + "loss": 0.3128, + "num_input_tokens_seen": 5189648, + "step": 2641 + }, + { + "epoch": 0.3501656726308814, + "grad_norm": 7.599231243133545, + "learning_rate": 4.834893160708729e-06, + "loss": 0.1659, + "num_input_tokens_seen": 5192112, + "step": 2642 + }, + { + "epoch": 0.3502982107355865, + "grad_norm": 8.560397148132324, + "learning_rate": 4.834769076634352e-06, + "loss": 0.2134, + "num_input_tokens_seen": 5193912, + "step": 2643 + }, + { + "epoch": 0.3504307488402916, + "grad_norm": 9.08426284790039, + "learning_rate": 4.834644947544018e-06, + "loss": 0.0999, + "num_input_tokens_seen": 5196600, + "step": 2644 + }, + { + "epoch": 0.35056328694499667, + "grad_norm": 0.066383957862854, + "learning_rate": 4.834520773440118e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5198632, + "step": 2645 + }, + { + "epoch": 0.3506958250497018, + "grad_norm": 12.781527519226074, + "learning_rate": 4.834396554325047e-06, + "loss": 0.3929, + "num_input_tokens_seen": 5199968, + "step": 2646 + }, + { + "epoch": 0.3508283631544069, + "grad_norm": 0.10992295295000076, + "learning_rate": 4.8342722902012005e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5201168, + "step": 2647 + }, + { + "epoch": 0.350960901259112, + "grad_norm": 2.396319627761841, + "learning_rate": 4.834147981070973e-06, + "loss": 0.0607, + "num_input_tokens_seen": 5202952, + "step": 2648 + }, + { + "epoch": 0.3510934393638171, + "grad_norm": 12.338872909545898, + "learning_rate": 4.834023626936763e-06, + "loss": 0.3525, + "num_input_tokens_seen": 5204624, + "step": 2649 + }, + { + "epoch": 0.3512259774685222, + "grad_norm": 3.2395901679992676, + "learning_rate": 4.833899227800968e-06, + "loss": 0.0208, + "num_input_tokens_seen": 5206496, + "step": 2650 + }, + { + "epoch": 0.3513585155732273, + "grad_norm": 5.437209606170654, + "learning_rate": 4.833774783665985e-06, + "loss": 0.0834, + "num_input_tokens_seen": 5207776, + "step": 2651 + }, + { + "epoch": 0.35149105367793243, + "grad_norm": 0.08772001415491104, + "learning_rate": 4.833650294534214e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5209368, + "step": 2652 + }, + { + "epoch": 0.3516235917826375, + "grad_norm": 7.437930107116699, + "learning_rate": 4.833525760408055e-06, + "loss": 0.0702, + "num_input_tokens_seen": 5211928, + "step": 2653 + }, + { + "epoch": 0.3517561298873426, + "grad_norm": 4.432439804077148, + "learning_rate": 4.83340118128991e-06, + "loss": 0.0404, + "num_input_tokens_seen": 5213920, + "step": 2654 + }, + { + "epoch": 0.3518886679920477, + "grad_norm": 10.84237289428711, + "learning_rate": 4.83327655718218e-06, + "loss": 0.2531, + "num_input_tokens_seen": 5215992, + "step": 2655 + }, + { + "epoch": 0.3520212060967528, + "grad_norm": 19.16095733642578, + "learning_rate": 4.8331518880872695e-06, + "loss": 0.3891, + "num_input_tokens_seen": 5217576, + "step": 2656 + }, + { + "epoch": 0.3521537442014579, + "grad_norm": 12.686888694763184, + "learning_rate": 4.833027174007581e-06, + "loss": 0.4381, + "num_input_tokens_seen": 5219624, + "step": 2657 + }, + { + "epoch": 0.35228628230616305, + "grad_norm": 0.21289145946502686, + "learning_rate": 4.832902414945519e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5221376, + "step": 2658 + }, + { + "epoch": 0.35241882041086814, + "grad_norm": 1.2822811603546143, + "learning_rate": 4.832777610903487e-06, + "loss": 0.0078, + "num_input_tokens_seen": 5223720, + "step": 2659 + }, + { + "epoch": 0.35255135851557323, + "grad_norm": 14.713430404663086, + "learning_rate": 4.832652761883896e-06, + "loss": 0.5127, + "num_input_tokens_seen": 5226280, + "step": 2660 + }, + { + "epoch": 0.3526838966202783, + "grad_norm": 11.527045249938965, + "learning_rate": 4.8325278678891486e-06, + "loss": 0.2571, + "num_input_tokens_seen": 5228496, + "step": 2661 + }, + { + "epoch": 0.3528164347249834, + "grad_norm": 7.736532211303711, + "learning_rate": 4.832402928921656e-06, + "loss": 0.2654, + "num_input_tokens_seen": 5230616, + "step": 2662 + }, + { + "epoch": 0.3529489728296885, + "grad_norm": 10.425844192504883, + "learning_rate": 4.832277944983825e-06, + "loss": 0.1387, + "num_input_tokens_seen": 5231896, + "step": 2663 + }, + { + "epoch": 0.35308151093439366, + "grad_norm": 8.610852241516113, + "learning_rate": 4.832152916078068e-06, + "loss": 0.3806, + "num_input_tokens_seen": 5234064, + "step": 2664 + }, + { + "epoch": 0.35321404903909875, + "grad_norm": 19.013717651367188, + "learning_rate": 4.8320278422067926e-06, + "loss": 0.4992, + "num_input_tokens_seen": 5236192, + "step": 2665 + }, + { + "epoch": 0.35334658714380385, + "grad_norm": 6.491237163543701, + "learning_rate": 4.831902723372412e-06, + "loss": 0.1254, + "num_input_tokens_seen": 5238784, + "step": 2666 + }, + { + "epoch": 0.35347912524850894, + "grad_norm": 10.515507698059082, + "learning_rate": 4.831777559577337e-06, + "loss": 0.2655, + "num_input_tokens_seen": 5240368, + "step": 2667 + }, + { + "epoch": 0.35361166335321403, + "grad_norm": 16.409242630004883, + "learning_rate": 4.8316523508239835e-06, + "loss": 0.4999, + "num_input_tokens_seen": 5242544, + "step": 2668 + }, + { + "epoch": 0.3537442014579191, + "grad_norm": 19.251745223999023, + "learning_rate": 4.831527097114763e-06, + "loss": 0.5179, + "num_input_tokens_seen": 5246024, + "step": 2669 + }, + { + "epoch": 0.3538767395626243, + "grad_norm": 2.0515401363372803, + "learning_rate": 4.831401798452092e-06, + "loss": 0.0117, + "num_input_tokens_seen": 5247656, + "step": 2670 + }, + { + "epoch": 0.35400927766732937, + "grad_norm": 0.660833477973938, + "learning_rate": 4.831276454838386e-06, + "loss": 0.0036, + "num_input_tokens_seen": 5249328, + "step": 2671 + }, + { + "epoch": 0.35414181577203446, + "grad_norm": 8.581456184387207, + "learning_rate": 4.831151066276062e-06, + "loss": 0.2808, + "num_input_tokens_seen": 5251224, + "step": 2672 + }, + { + "epoch": 0.35427435387673956, + "grad_norm": 0.07275553047657013, + "learning_rate": 4.831025632767538e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5252616, + "step": 2673 + }, + { + "epoch": 0.35440689198144465, + "grad_norm": 12.886369705200195, + "learning_rate": 4.83090015431523e-06, + "loss": 0.23, + "num_input_tokens_seen": 5254888, + "step": 2674 + }, + { + "epoch": 0.35453943008614974, + "grad_norm": 0.17593100666999817, + "learning_rate": 4.83077463092156e-06, + "loss": 0.001, + "num_input_tokens_seen": 5256848, + "step": 2675 + }, + { + "epoch": 0.3546719681908549, + "grad_norm": 0.550105094909668, + "learning_rate": 4.830649062588947e-06, + "loss": 0.0027, + "num_input_tokens_seen": 5258152, + "step": 2676 + }, + { + "epoch": 0.35480450629556, + "grad_norm": 0.18115903437137604, + "learning_rate": 4.830523449319813e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5259792, + "step": 2677 + }, + { + "epoch": 0.3549370444002651, + "grad_norm": 0.1869560182094574, + "learning_rate": 4.8303977911165785e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5261400, + "step": 2678 + }, + { + "epoch": 0.35506958250497017, + "grad_norm": 7.449179649353027, + "learning_rate": 4.8302720879816665e-06, + "loss": 0.1592, + "num_input_tokens_seen": 5263936, + "step": 2679 + }, + { + "epoch": 0.35520212060967526, + "grad_norm": 0.06532639265060425, + "learning_rate": 4.830146339917502e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5265440, + "step": 2680 + }, + { + "epoch": 0.35533465871438036, + "grad_norm": 0.03875555470585823, + "learning_rate": 4.830020546926508e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5266936, + "step": 2681 + }, + { + "epoch": 0.3554671968190855, + "grad_norm": 15.970491409301758, + "learning_rate": 4.82989470901111e-06, + "loss": 0.5837, + "num_input_tokens_seen": 5268656, + "step": 2682 + }, + { + "epoch": 0.3555997349237906, + "grad_norm": 11.810888290405273, + "learning_rate": 4.829768826173735e-06, + "loss": 0.1878, + "num_input_tokens_seen": 5271552, + "step": 2683 + }, + { + "epoch": 0.3557322730284957, + "grad_norm": 0.03669019415974617, + "learning_rate": 4.82964289841681e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5273280, + "step": 2684 + }, + { + "epoch": 0.3558648111332008, + "grad_norm": 0.9188379645347595, + "learning_rate": 4.829516925742764e-06, + "loss": 0.0041, + "num_input_tokens_seen": 5274528, + "step": 2685 + }, + { + "epoch": 0.3559973492379059, + "grad_norm": 6.313194274902344, + "learning_rate": 4.829390908154022e-06, + "loss": 0.2197, + "num_input_tokens_seen": 5275928, + "step": 2686 + }, + { + "epoch": 0.356129887342611, + "grad_norm": 18.509252548217773, + "learning_rate": 4.829264845653018e-06, + "loss": 0.5059, + "num_input_tokens_seen": 5277256, + "step": 2687 + }, + { + "epoch": 0.3562624254473161, + "grad_norm": 3.853984832763672, + "learning_rate": 4.829138738242181e-06, + "loss": 0.0307, + "num_input_tokens_seen": 5278624, + "step": 2688 + }, + { + "epoch": 0.3563949635520212, + "grad_norm": 13.607367515563965, + "learning_rate": 4.829012585923942e-06, + "loss": 0.5285, + "num_input_tokens_seen": 5280688, + "step": 2689 + }, + { + "epoch": 0.3565275016567263, + "grad_norm": 0.07905127853155136, + "learning_rate": 4.828886388700734e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5282096, + "step": 2690 + }, + { + "epoch": 0.3566600397614314, + "grad_norm": 6.90317440032959, + "learning_rate": 4.828760146574989e-06, + "loss": 0.1898, + "num_input_tokens_seen": 5283584, + "step": 2691 + }, + { + "epoch": 0.3567925778661365, + "grad_norm": 0.04748100787401199, + "learning_rate": 4.828633859549142e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5285384, + "step": 2692 + }, + { + "epoch": 0.35692511597084164, + "grad_norm": 31.073902130126953, + "learning_rate": 4.828507527625628e-06, + "loss": 1.0915, + "num_input_tokens_seen": 5287624, + "step": 2693 + }, + { + "epoch": 0.35705765407554674, + "grad_norm": 0.05502196028828621, + "learning_rate": 4.8283811508068826e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5289448, + "step": 2694 + }, + { + "epoch": 0.35719019218025183, + "grad_norm": 8.48267936706543, + "learning_rate": 4.828254729095343e-06, + "loss": 0.1088, + "num_input_tokens_seen": 5291328, + "step": 2695 + }, + { + "epoch": 0.3573227302849569, + "grad_norm": 12.937058448791504, + "learning_rate": 4.828128262493445e-06, + "loss": 0.3588, + "num_input_tokens_seen": 5293952, + "step": 2696 + }, + { + "epoch": 0.357455268389662, + "grad_norm": 0.617555558681488, + "learning_rate": 4.828001751003628e-06, + "loss": 0.0032, + "num_input_tokens_seen": 5295536, + "step": 2697 + }, + { + "epoch": 0.3575878064943671, + "grad_norm": 0.9359810948371887, + "learning_rate": 4.827875194628332e-06, + "loss": 0.0052, + "num_input_tokens_seen": 5297944, + "step": 2698 + }, + { + "epoch": 0.35772034459907226, + "grad_norm": 0.20049409568309784, + "learning_rate": 4.827748593369996e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5299568, + "step": 2699 + }, + { + "epoch": 0.35785288270377735, + "grad_norm": 11.105497360229492, + "learning_rate": 4.827621947231061e-06, + "loss": 0.2461, + "num_input_tokens_seen": 5301800, + "step": 2700 + }, + { + "epoch": 0.35798542080848245, + "grad_norm": 8.143413543701172, + "learning_rate": 4.8274952562139695e-06, + "loss": 0.2674, + "num_input_tokens_seen": 5303992, + "step": 2701 + }, + { + "epoch": 0.35811795891318754, + "grad_norm": 0.12301398813724518, + "learning_rate": 4.827368520321163e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5306568, + "step": 2702 + }, + { + "epoch": 0.35825049701789263, + "grad_norm": 10.06353759765625, + "learning_rate": 4.827241739555087e-06, + "loss": 0.1921, + "num_input_tokens_seen": 5308576, + "step": 2703 + }, + { + "epoch": 0.3583830351225977, + "grad_norm": 0.07130112498998642, + "learning_rate": 4.827114913918184e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5309672, + "step": 2704 + }, + { + "epoch": 0.3585155732273029, + "grad_norm": 0.060565609484910965, + "learning_rate": 4.8269880434129e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5311544, + "step": 2705 + }, + { + "epoch": 0.35864811133200797, + "grad_norm": 0.10120686143636703, + "learning_rate": 4.826861128041682e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5313584, + "step": 2706 + }, + { + "epoch": 0.35878064943671306, + "grad_norm": 3.437826156616211, + "learning_rate": 4.826734167806976e-06, + "loss": 0.0766, + "num_input_tokens_seen": 5315568, + "step": 2707 + }, + { + "epoch": 0.35891318754141815, + "grad_norm": 8.354029655456543, + "learning_rate": 4.826607162711229e-06, + "loss": 0.2113, + "num_input_tokens_seen": 5317024, + "step": 2708 + }, + { + "epoch": 0.35904572564612325, + "grad_norm": 18.631977081298828, + "learning_rate": 4.826480112756892e-06, + "loss": 0.4829, + "num_input_tokens_seen": 5318752, + "step": 2709 + }, + { + "epoch": 0.35917826375082834, + "grad_norm": 20.836320877075195, + "learning_rate": 4.826353017946414e-06, + "loss": 0.4978, + "num_input_tokens_seen": 5320952, + "step": 2710 + }, + { + "epoch": 0.3593108018555335, + "grad_norm": 11.428426742553711, + "learning_rate": 4.826225878282244e-06, + "loss": 0.333, + "num_input_tokens_seen": 5322808, + "step": 2711 + }, + { + "epoch": 0.3594433399602386, + "grad_norm": 9.816218376159668, + "learning_rate": 4.826098693766834e-06, + "loss": 0.2347, + "num_input_tokens_seen": 5324424, + "step": 2712 + }, + { + "epoch": 0.3595758780649437, + "grad_norm": 0.17480172216892242, + "learning_rate": 4.825971464402637e-06, + "loss": 0.001, + "num_input_tokens_seen": 5326728, + "step": 2713 + }, + { + "epoch": 0.35970841616964877, + "grad_norm": 0.10027627646923065, + "learning_rate": 4.8258441901921046e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5328160, + "step": 2714 + }, + { + "epoch": 0.35984095427435386, + "grad_norm": 7.035010814666748, + "learning_rate": 4.825716871137694e-06, + "loss": 0.0669, + "num_input_tokens_seen": 5329976, + "step": 2715 + }, + { + "epoch": 0.35997349237905896, + "grad_norm": 0.33973458409309387, + "learning_rate": 4.825589507241856e-06, + "loss": 0.002, + "num_input_tokens_seen": 5332320, + "step": 2716 + }, + { + "epoch": 0.3601060304837641, + "grad_norm": 8.755828857421875, + "learning_rate": 4.825462098507048e-06, + "loss": 0.2259, + "num_input_tokens_seen": 5334408, + "step": 2717 + }, + { + "epoch": 0.3602385685884692, + "grad_norm": 8.906939506530762, + "learning_rate": 4.825334644935727e-06, + "loss": 0.2249, + "num_input_tokens_seen": 5336368, + "step": 2718 + }, + { + "epoch": 0.3603711066931743, + "grad_norm": 0.49791663885116577, + "learning_rate": 4.825207146530349e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5338160, + "step": 2719 + }, + { + "epoch": 0.3605036447978794, + "grad_norm": 5.675534248352051, + "learning_rate": 4.825079603293374e-06, + "loss": 0.0879, + "num_input_tokens_seen": 5339912, + "step": 2720 + }, + { + "epoch": 0.3606361829025845, + "grad_norm": 8.904741287231445, + "learning_rate": 4.82495201522726e-06, + "loss": 0.1763, + "num_input_tokens_seen": 5342760, + "step": 2721 + }, + { + "epoch": 0.3607687210072896, + "grad_norm": 10.000617980957031, + "learning_rate": 4.824824382334467e-06, + "loss": 0.2787, + "num_input_tokens_seen": 5344496, + "step": 2722 + }, + { + "epoch": 0.3609012591119947, + "grad_norm": 4.359716892242432, + "learning_rate": 4.824696704617456e-06, + "loss": 0.0459, + "num_input_tokens_seen": 5346032, + "step": 2723 + }, + { + "epoch": 0.3610337972166998, + "grad_norm": 20.22006607055664, + "learning_rate": 4.824568982078689e-06, + "loss": 0.4951, + "num_input_tokens_seen": 5348568, + "step": 2724 + }, + { + "epoch": 0.3611663353214049, + "grad_norm": 4.95950984954834, + "learning_rate": 4.824441214720629e-06, + "loss": 0.0419, + "num_input_tokens_seen": 5350288, + "step": 2725 + }, + { + "epoch": 0.36129887342611, + "grad_norm": 6.043578624725342, + "learning_rate": 4.824313402545738e-06, + "loss": 0.0915, + "num_input_tokens_seen": 5353072, + "step": 2726 + }, + { + "epoch": 0.3614314115308151, + "grad_norm": 13.984691619873047, + "learning_rate": 4.824185545556482e-06, + "loss": 0.7146, + "num_input_tokens_seen": 5355256, + "step": 2727 + }, + { + "epoch": 0.3615639496355202, + "grad_norm": 9.403741836547852, + "learning_rate": 4.8240576437553246e-06, + "loss": 0.1839, + "num_input_tokens_seen": 5358120, + "step": 2728 + }, + { + "epoch": 0.36169648774022534, + "grad_norm": 9.493645668029785, + "learning_rate": 4.823929697144733e-06, + "loss": 0.2058, + "num_input_tokens_seen": 5359616, + "step": 2729 + }, + { + "epoch": 0.36182902584493043, + "grad_norm": 14.25259780883789, + "learning_rate": 4.823801705727173e-06, + "loss": 0.481, + "num_input_tokens_seen": 5362224, + "step": 2730 + }, + { + "epoch": 0.3619615639496355, + "grad_norm": 3.7409017086029053, + "learning_rate": 4.823673669505113e-06, + "loss": 0.1407, + "num_input_tokens_seen": 5365328, + "step": 2731 + }, + { + "epoch": 0.3620941020543406, + "grad_norm": 19.91145133972168, + "learning_rate": 4.823545588481023e-06, + "loss": 0.6865, + "num_input_tokens_seen": 5367784, + "step": 2732 + }, + { + "epoch": 0.3622266401590457, + "grad_norm": 0.24601709842681885, + "learning_rate": 4.823417462657369e-06, + "loss": 0.0015, + "num_input_tokens_seen": 5370008, + "step": 2733 + }, + { + "epoch": 0.3623591782637508, + "grad_norm": 0.6090838313102722, + "learning_rate": 4.8232892920366255e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5371432, + "step": 2734 + }, + { + "epoch": 0.36249171636845595, + "grad_norm": 10.948972702026367, + "learning_rate": 4.82316107662126e-06, + "loss": 0.2235, + "num_input_tokens_seen": 5372880, + "step": 2735 + }, + { + "epoch": 0.36262425447316105, + "grad_norm": 7.48264741897583, + "learning_rate": 4.8230328164137475e-06, + "loss": 0.1722, + "num_input_tokens_seen": 5374648, + "step": 2736 + }, + { + "epoch": 0.36275679257786614, + "grad_norm": 4.644361972808838, + "learning_rate": 4.82290451141656e-06, + "loss": 0.0631, + "num_input_tokens_seen": 5376232, + "step": 2737 + }, + { + "epoch": 0.36288933068257123, + "grad_norm": 13.291915893554688, + "learning_rate": 4.82277616163217e-06, + "loss": 0.2009, + "num_input_tokens_seen": 5377832, + "step": 2738 + }, + { + "epoch": 0.3630218687872763, + "grad_norm": 5.830990314483643, + "learning_rate": 4.8226477670630535e-06, + "loss": 0.0711, + "num_input_tokens_seen": 5379144, + "step": 2739 + }, + { + "epoch": 0.3631544068919814, + "grad_norm": 7.66276741027832, + "learning_rate": 4.822519327711686e-06, + "loss": 0.1609, + "num_input_tokens_seen": 5380808, + "step": 2740 + }, + { + "epoch": 0.36328694499668657, + "grad_norm": 3.8986198902130127, + "learning_rate": 4.822390843580543e-06, + "loss": 0.0428, + "num_input_tokens_seen": 5382920, + "step": 2741 + }, + { + "epoch": 0.36341948310139166, + "grad_norm": 3.8060407638549805, + "learning_rate": 4.822262314672103e-06, + "loss": 0.0531, + "num_input_tokens_seen": 5384920, + "step": 2742 + }, + { + "epoch": 0.36355202120609675, + "grad_norm": 14.809745788574219, + "learning_rate": 4.822133740988843e-06, + "loss": 0.5055, + "num_input_tokens_seen": 5388112, + "step": 2743 + }, + { + "epoch": 0.36368455931080185, + "grad_norm": 8.85603141784668, + "learning_rate": 4.822005122533243e-06, + "loss": 0.1833, + "num_input_tokens_seen": 5389984, + "step": 2744 + }, + { + "epoch": 0.36381709741550694, + "grad_norm": 14.71507453918457, + "learning_rate": 4.821876459307782e-06, + "loss": 0.6708, + "num_input_tokens_seen": 5392304, + "step": 2745 + }, + { + "epoch": 0.36394963552021203, + "grad_norm": 7.249777793884277, + "learning_rate": 4.821747751314941e-06, + "loss": 0.0601, + "num_input_tokens_seen": 5393952, + "step": 2746 + }, + { + "epoch": 0.3640821736249172, + "grad_norm": 8.879473686218262, + "learning_rate": 4.821618998557202e-06, + "loss": 0.2415, + "num_input_tokens_seen": 5396136, + "step": 2747 + }, + { + "epoch": 0.3642147117296223, + "grad_norm": 1.3180749416351318, + "learning_rate": 4.821490201037048e-06, + "loss": 0.0076, + "num_input_tokens_seen": 5398072, + "step": 2748 + }, + { + "epoch": 0.36434724983432737, + "grad_norm": 13.902233123779297, + "learning_rate": 4.82136135875696e-06, + "loss": 0.4783, + "num_input_tokens_seen": 5400696, + "step": 2749 + }, + { + "epoch": 0.36447978793903246, + "grad_norm": 6.44667911529541, + "learning_rate": 4.821232471719424e-06, + "loss": 0.1601, + "num_input_tokens_seen": 5402016, + "step": 2750 + }, + { + "epoch": 0.36461232604373756, + "grad_norm": 11.358306884765625, + "learning_rate": 4.821103539926925e-06, + "loss": 0.3299, + "num_input_tokens_seen": 5403728, + "step": 2751 + }, + { + "epoch": 0.3647448641484427, + "grad_norm": 15.400067329406738, + "learning_rate": 4.820974563381949e-06, + "loss": 0.5389, + "num_input_tokens_seen": 5405504, + "step": 2752 + }, + { + "epoch": 0.3648774022531478, + "grad_norm": 1.9128706455230713, + "learning_rate": 4.82084554208698e-06, + "loss": 0.0092, + "num_input_tokens_seen": 5407424, + "step": 2753 + }, + { + "epoch": 0.3650099403578529, + "grad_norm": 6.558671474456787, + "learning_rate": 4.82071647604451e-06, + "loss": 0.0386, + "num_input_tokens_seen": 5409048, + "step": 2754 + }, + { + "epoch": 0.365142478462558, + "grad_norm": 8.509815216064453, + "learning_rate": 4.820587365257024e-06, + "loss": 0.1868, + "num_input_tokens_seen": 5410984, + "step": 2755 + }, + { + "epoch": 0.3652750165672631, + "grad_norm": 6.833467483520508, + "learning_rate": 4.820458209727014e-06, + "loss": 0.1614, + "num_input_tokens_seen": 5413344, + "step": 2756 + }, + { + "epoch": 0.36540755467196817, + "grad_norm": 8.644022941589355, + "learning_rate": 4.820329009456968e-06, + "loss": 0.1508, + "num_input_tokens_seen": 5415096, + "step": 2757 + }, + { + "epoch": 0.3655400927766733, + "grad_norm": 10.98110580444336, + "learning_rate": 4.820199764449378e-06, + "loss": 0.3432, + "num_input_tokens_seen": 5418040, + "step": 2758 + }, + { + "epoch": 0.3656726308813784, + "grad_norm": 2.9276976585388184, + "learning_rate": 4.820070474706736e-06, + "loss": 0.0239, + "num_input_tokens_seen": 5420464, + "step": 2759 + }, + { + "epoch": 0.3658051689860835, + "grad_norm": 9.445584297180176, + "learning_rate": 4.8199411402315356e-06, + "loss": 0.3231, + "num_input_tokens_seen": 5423080, + "step": 2760 + }, + { + "epoch": 0.3659377070907886, + "grad_norm": 2.3052515983581543, + "learning_rate": 4.819811761026269e-06, + "loss": 0.0099, + "num_input_tokens_seen": 5424672, + "step": 2761 + }, + { + "epoch": 0.3660702451954937, + "grad_norm": 0.09113645553588867, + "learning_rate": 4.819682337093431e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5425928, + "step": 2762 + }, + { + "epoch": 0.3662027833001988, + "grad_norm": 16.88588523864746, + "learning_rate": 4.819552868435517e-06, + "loss": 0.796, + "num_input_tokens_seen": 5428768, + "step": 2763 + }, + { + "epoch": 0.36633532140490394, + "grad_norm": 10.21859073638916, + "learning_rate": 4.819423355055024e-06, + "loss": 0.4537, + "num_input_tokens_seen": 5430832, + "step": 2764 + }, + { + "epoch": 0.36646785950960903, + "grad_norm": 10.199539184570312, + "learning_rate": 4.819293796954449e-06, + "loss": 0.2956, + "num_input_tokens_seen": 5432944, + "step": 2765 + }, + { + "epoch": 0.3666003976143141, + "grad_norm": 7.365966796875, + "learning_rate": 4.819164194136289e-06, + "loss": 0.1657, + "num_input_tokens_seen": 5434728, + "step": 2766 + }, + { + "epoch": 0.3667329357190192, + "grad_norm": 0.46876177191734314, + "learning_rate": 4.819034546603044e-06, + "loss": 0.0025, + "num_input_tokens_seen": 5436160, + "step": 2767 + }, + { + "epoch": 0.3668654738237243, + "grad_norm": 0.09722945094108582, + "learning_rate": 4.818904854357212e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5437600, + "step": 2768 + }, + { + "epoch": 0.3669980119284294, + "grad_norm": 14.744268417358398, + "learning_rate": 4.818775117401296e-06, + "loss": 0.5286, + "num_input_tokens_seen": 5439176, + "step": 2769 + }, + { + "epoch": 0.36713055003313455, + "grad_norm": 5.0414838790893555, + "learning_rate": 4.818645335737795e-06, + "loss": 0.1518, + "num_input_tokens_seen": 5440624, + "step": 2770 + }, + { + "epoch": 0.36726308813783964, + "grad_norm": 3.2627439498901367, + "learning_rate": 4.818515509369214e-06, + "loss": 0.062, + "num_input_tokens_seen": 5441944, + "step": 2771 + }, + { + "epoch": 0.36739562624254474, + "grad_norm": 11.379758834838867, + "learning_rate": 4.818385638298053e-06, + "loss": 0.289, + "num_input_tokens_seen": 5443248, + "step": 2772 + }, + { + "epoch": 0.36752816434724983, + "grad_norm": 0.3330937623977661, + "learning_rate": 4.8182557225268174e-06, + "loss": 0.002, + "num_input_tokens_seen": 5445728, + "step": 2773 + }, + { + "epoch": 0.3676607024519549, + "grad_norm": 0.2368849664926529, + "learning_rate": 4.818125762058014e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5446968, + "step": 2774 + }, + { + "epoch": 0.36779324055666, + "grad_norm": 8.730948448181152, + "learning_rate": 4.817995756894145e-06, + "loss": 0.2473, + "num_input_tokens_seen": 5449256, + "step": 2775 + }, + { + "epoch": 0.36792577866136517, + "grad_norm": 0.31364089250564575, + "learning_rate": 4.817865707037719e-06, + "loss": 0.0019, + "num_input_tokens_seen": 5451048, + "step": 2776 + }, + { + "epoch": 0.36805831676607026, + "grad_norm": 8.201196670532227, + "learning_rate": 4.817735612491243e-06, + "loss": 0.2061, + "num_input_tokens_seen": 5452672, + "step": 2777 + }, + { + "epoch": 0.36819085487077535, + "grad_norm": 20.229724884033203, + "learning_rate": 4.817605473257226e-06, + "loss": 0.499, + "num_input_tokens_seen": 5454800, + "step": 2778 + }, + { + "epoch": 0.36832339297548045, + "grad_norm": 0.7167686223983765, + "learning_rate": 4.817475289338176e-06, + "loss": 0.0043, + "num_input_tokens_seen": 5456760, + "step": 2779 + }, + { + "epoch": 0.36845593108018554, + "grad_norm": 10.311163902282715, + "learning_rate": 4.817345060736604e-06, + "loss": 0.1983, + "num_input_tokens_seen": 5458384, + "step": 2780 + }, + { + "epoch": 0.36858846918489063, + "grad_norm": 8.68519115447998, + "learning_rate": 4.817214787455022e-06, + "loss": 0.0979, + "num_input_tokens_seen": 5460296, + "step": 2781 + }, + { + "epoch": 0.3687210072895958, + "grad_norm": 13.810454368591309, + "learning_rate": 4.817084469495938e-06, + "loss": 0.3559, + "num_input_tokens_seen": 5462976, + "step": 2782 + }, + { + "epoch": 0.3688535453943009, + "grad_norm": 0.3250599503517151, + "learning_rate": 4.816954106861868e-06, + "loss": 0.0019, + "num_input_tokens_seen": 5464328, + "step": 2783 + }, + { + "epoch": 0.36898608349900597, + "grad_norm": 9.174680709838867, + "learning_rate": 4.816823699555324e-06, + "loss": 0.135, + "num_input_tokens_seen": 5466440, + "step": 2784 + }, + { + "epoch": 0.36911862160371106, + "grad_norm": 0.591949999332428, + "learning_rate": 4.816693247578821e-06, + "loss": 0.0035, + "num_input_tokens_seen": 5468224, + "step": 2785 + }, + { + "epoch": 0.36925115970841615, + "grad_norm": 4.287399768829346, + "learning_rate": 4.816562750934875e-06, + "loss": 0.0842, + "num_input_tokens_seen": 5470344, + "step": 2786 + }, + { + "epoch": 0.36938369781312125, + "grad_norm": 6.258661270141602, + "learning_rate": 4.816432209625999e-06, + "loss": 0.0692, + "num_input_tokens_seen": 5472040, + "step": 2787 + }, + { + "epoch": 0.3695162359178264, + "grad_norm": 14.845474243164062, + "learning_rate": 4.816301623654714e-06, + "loss": 0.4915, + "num_input_tokens_seen": 5474176, + "step": 2788 + }, + { + "epoch": 0.3696487740225315, + "grad_norm": 11.282391548156738, + "learning_rate": 4.816170993023535e-06, + "loss": 0.4019, + "num_input_tokens_seen": 5477208, + "step": 2789 + }, + { + "epoch": 0.3697813121272366, + "grad_norm": 1.8792104721069336, + "learning_rate": 4.816040317734981e-06, + "loss": 0.0447, + "num_input_tokens_seen": 5478848, + "step": 2790 + }, + { + "epoch": 0.3699138502319417, + "grad_norm": 6.433264255523682, + "learning_rate": 4.8159095977915725e-06, + "loss": 0.1937, + "num_input_tokens_seen": 5480672, + "step": 2791 + }, + { + "epoch": 0.37004638833664677, + "grad_norm": 5.4285197257995605, + "learning_rate": 4.815778833195829e-06, + "loss": 0.0357, + "num_input_tokens_seen": 5481888, + "step": 2792 + }, + { + "epoch": 0.37017892644135186, + "grad_norm": 0.45382043719291687, + "learning_rate": 4.815648023950272e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5483120, + "step": 2793 + }, + { + "epoch": 0.370311464546057, + "grad_norm": 7.863617897033691, + "learning_rate": 4.815517170057423e-06, + "loss": 0.0689, + "num_input_tokens_seen": 5485024, + "step": 2794 + }, + { + "epoch": 0.3704440026507621, + "grad_norm": 3.0515055656433105, + "learning_rate": 4.815386271519807e-06, + "loss": 0.0346, + "num_input_tokens_seen": 5486544, + "step": 2795 + }, + { + "epoch": 0.3705765407554672, + "grad_norm": 0.24760496616363525, + "learning_rate": 4.815255328339946e-06, + "loss": 0.0015, + "num_input_tokens_seen": 5488048, + "step": 2796 + }, + { + "epoch": 0.3707090788601723, + "grad_norm": 12.127198219299316, + "learning_rate": 4.815124340520364e-06, + "loss": 0.422, + "num_input_tokens_seen": 5490208, + "step": 2797 + }, + { + "epoch": 0.3708416169648774, + "grad_norm": 9.043184280395508, + "learning_rate": 4.814993308063589e-06, + "loss": 0.1885, + "num_input_tokens_seen": 5491784, + "step": 2798 + }, + { + "epoch": 0.3709741550695825, + "grad_norm": 22.74708366394043, + "learning_rate": 4.814862230972145e-06, + "loss": 0.9328, + "num_input_tokens_seen": 5495136, + "step": 2799 + }, + { + "epoch": 0.3711066931742876, + "grad_norm": 5.827566146850586, + "learning_rate": 4.814731109248561e-06, + "loss": 0.0988, + "num_input_tokens_seen": 5496808, + "step": 2800 + }, + { + "epoch": 0.3712392312789927, + "grad_norm": 6.5667877197265625, + "learning_rate": 4.8145999428953626e-06, + "loss": 0.1433, + "num_input_tokens_seen": 5498200, + "step": 2801 + }, + { + "epoch": 0.3713717693836978, + "grad_norm": 8.760632514953613, + "learning_rate": 4.814468731915082e-06, + "loss": 0.2566, + "num_input_tokens_seen": 5500392, + "step": 2802 + }, + { + "epoch": 0.3715043074884029, + "grad_norm": 5.427152633666992, + "learning_rate": 4.814337476310248e-06, + "loss": 0.0563, + "num_input_tokens_seen": 5502400, + "step": 2803 + }, + { + "epoch": 0.371636845593108, + "grad_norm": 3.9160783290863037, + "learning_rate": 4.81420617608339e-06, + "loss": 0.0797, + "num_input_tokens_seen": 5504104, + "step": 2804 + }, + { + "epoch": 0.3717693836978131, + "grad_norm": 6.1304450035095215, + "learning_rate": 4.8140748312370405e-06, + "loss": 0.2059, + "num_input_tokens_seen": 5506640, + "step": 2805 + }, + { + "epoch": 0.37190192180251824, + "grad_norm": 7.111385822296143, + "learning_rate": 4.813943441773732e-06, + "loss": 0.2043, + "num_input_tokens_seen": 5508448, + "step": 2806 + }, + { + "epoch": 0.37203445990722334, + "grad_norm": 0.954653799533844, + "learning_rate": 4.813812007695998e-06, + "loss": 0.0043, + "num_input_tokens_seen": 5509584, + "step": 2807 + }, + { + "epoch": 0.37216699801192843, + "grad_norm": 13.62472152709961, + "learning_rate": 4.813680529006372e-06, + "loss": 0.4609, + "num_input_tokens_seen": 5511128, + "step": 2808 + }, + { + "epoch": 0.3722995361166335, + "grad_norm": 20.73649787902832, + "learning_rate": 4.813549005707389e-06, + "loss": 0.7493, + "num_input_tokens_seen": 5513744, + "step": 2809 + }, + { + "epoch": 0.3724320742213386, + "grad_norm": 12.14520263671875, + "learning_rate": 4.813417437801585e-06, + "loss": 0.312, + "num_input_tokens_seen": 5515200, + "step": 2810 + }, + { + "epoch": 0.37256461232604376, + "grad_norm": 12.121313095092773, + "learning_rate": 4.813285825291498e-06, + "loss": 0.3774, + "num_input_tokens_seen": 5516784, + "step": 2811 + }, + { + "epoch": 0.37269715043074886, + "grad_norm": 4.442098140716553, + "learning_rate": 4.813154168179663e-06, + "loss": 0.021, + "num_input_tokens_seen": 5518528, + "step": 2812 + }, + { + "epoch": 0.37282968853545395, + "grad_norm": 7.283833026885986, + "learning_rate": 4.813022466468621e-06, + "loss": 0.1261, + "num_input_tokens_seen": 5520152, + "step": 2813 + }, + { + "epoch": 0.37296222664015904, + "grad_norm": 12.564074516296387, + "learning_rate": 4.8128907201609095e-06, + "loss": 0.6129, + "num_input_tokens_seen": 5521936, + "step": 2814 + }, + { + "epoch": 0.37309476474486414, + "grad_norm": 0.37329480051994324, + "learning_rate": 4.8127589292590696e-06, + "loss": 0.0022, + "num_input_tokens_seen": 5523064, + "step": 2815 + }, + { + "epoch": 0.37322730284956923, + "grad_norm": 4.183423042297363, + "learning_rate": 4.812627093765642e-06, + "loss": 0.1098, + "num_input_tokens_seen": 5526136, + "step": 2816 + }, + { + "epoch": 0.3733598409542744, + "grad_norm": 17.65333366394043, + "learning_rate": 4.812495213683169e-06, + "loss": 0.5372, + "num_input_tokens_seen": 5528840, + "step": 2817 + }, + { + "epoch": 0.3734923790589795, + "grad_norm": 9.254899024963379, + "learning_rate": 4.812363289014193e-06, + "loss": 0.1286, + "num_input_tokens_seen": 5530856, + "step": 2818 + }, + { + "epoch": 0.37362491716368457, + "grad_norm": 9.81226921081543, + "learning_rate": 4.8122313197612565e-06, + "loss": 0.2343, + "num_input_tokens_seen": 5533832, + "step": 2819 + }, + { + "epoch": 0.37375745526838966, + "grad_norm": 0.40088605880737305, + "learning_rate": 4.812099305926906e-06, + "loss": 0.0023, + "num_input_tokens_seen": 5535400, + "step": 2820 + }, + { + "epoch": 0.37388999337309475, + "grad_norm": 11.985273361206055, + "learning_rate": 4.811967247513685e-06, + "loss": 0.4819, + "num_input_tokens_seen": 5538072, + "step": 2821 + }, + { + "epoch": 0.37402253147779985, + "grad_norm": 0.19371116161346436, + "learning_rate": 4.811835144524141e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5539520, + "step": 2822 + }, + { + "epoch": 0.374155069582505, + "grad_norm": 0.41432109475135803, + "learning_rate": 4.811702996960821e-06, + "loss": 0.0024, + "num_input_tokens_seen": 5541600, + "step": 2823 + }, + { + "epoch": 0.3742876076872101, + "grad_norm": 0.28967615962028503, + "learning_rate": 4.811570804826272e-06, + "loss": 0.0017, + "num_input_tokens_seen": 5543200, + "step": 2824 + }, + { + "epoch": 0.3744201457919152, + "grad_norm": 14.24317455291748, + "learning_rate": 4.811438568123044e-06, + "loss": 0.6332, + "num_input_tokens_seen": 5545768, + "step": 2825 + }, + { + "epoch": 0.3745526838966203, + "grad_norm": 0.18354202806949615, + "learning_rate": 4.811306286853684e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5546848, + "step": 2826 + }, + { + "epoch": 0.37468522200132537, + "grad_norm": 1.3571782112121582, + "learning_rate": 4.811173961020746e-06, + "loss": 0.0146, + "num_input_tokens_seen": 5548816, + "step": 2827 + }, + { + "epoch": 0.37481776010603046, + "grad_norm": 1.520582914352417, + "learning_rate": 4.8110415906267795e-06, + "loss": 0.0086, + "num_input_tokens_seen": 5551176, + "step": 2828 + }, + { + "epoch": 0.3749502982107356, + "grad_norm": 0.15347182750701904, + "learning_rate": 4.8109091756743355e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5552304, + "step": 2829 + }, + { + "epoch": 0.3750828363154407, + "grad_norm": 0.23789644241333008, + "learning_rate": 4.81077671616597e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5554680, + "step": 2830 + }, + { + "epoch": 0.3752153744201458, + "grad_norm": 6.411083221435547, + "learning_rate": 4.810644212104234e-06, + "loss": 0.076, + "num_input_tokens_seen": 5556408, + "step": 2831 + }, + { + "epoch": 0.3753479125248509, + "grad_norm": 8.77319049835205, + "learning_rate": 4.810511663491684e-06, + "loss": 0.1447, + "num_input_tokens_seen": 5559512, + "step": 2832 + }, + { + "epoch": 0.375480450629556, + "grad_norm": 1.6859214305877686, + "learning_rate": 4.810379070330876e-06, + "loss": 0.0319, + "num_input_tokens_seen": 5560816, + "step": 2833 + }, + { + "epoch": 0.3756129887342611, + "grad_norm": 12.44225788116455, + "learning_rate": 4.810246432624365e-06, + "loss": 0.2305, + "num_input_tokens_seen": 5562592, + "step": 2834 + }, + { + "epoch": 0.3757455268389662, + "grad_norm": 2.298737049102783, + "learning_rate": 4.810113750374709e-06, + "loss": 0.047, + "num_input_tokens_seen": 5564824, + "step": 2835 + }, + { + "epoch": 0.3758780649436713, + "grad_norm": 0.037678878754377365, + "learning_rate": 4.8099810235844654e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5566176, + "step": 2836 + }, + { + "epoch": 0.3760106030483764, + "grad_norm": 1.4424196481704712, + "learning_rate": 4.8098482522561955e-06, + "loss": 0.0094, + "num_input_tokens_seen": 5567848, + "step": 2837 + }, + { + "epoch": 0.3761431411530815, + "grad_norm": 10.544405937194824, + "learning_rate": 4.809715436392457e-06, + "loss": 0.3774, + "num_input_tokens_seen": 5570768, + "step": 2838 + }, + { + "epoch": 0.3762756792577866, + "grad_norm": 6.835763454437256, + "learning_rate": 4.809582575995812e-06, + "loss": 0.1068, + "num_input_tokens_seen": 5573232, + "step": 2839 + }, + { + "epoch": 0.3764082173624917, + "grad_norm": 12.55688762664795, + "learning_rate": 4.809449671068821e-06, + "loss": 0.4922, + "num_input_tokens_seen": 5575880, + "step": 2840 + }, + { + "epoch": 0.37654075546719684, + "grad_norm": 0.06836347281932831, + "learning_rate": 4.809316721614048e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5577328, + "step": 2841 + }, + { + "epoch": 0.37667329357190193, + "grad_norm": 3.1467015743255615, + "learning_rate": 4.8091837276340546e-06, + "loss": 0.0451, + "num_input_tokens_seen": 5578560, + "step": 2842 + }, + { + "epoch": 0.37680583167660703, + "grad_norm": 8.121678352355957, + "learning_rate": 4.8090506891314066e-06, + "loss": 0.2487, + "num_input_tokens_seen": 5581072, + "step": 2843 + }, + { + "epoch": 0.3769383697813121, + "grad_norm": 0.016818249598145485, + "learning_rate": 4.808917606108668e-06, + "loss": 0.0001, + "num_input_tokens_seen": 5582392, + "step": 2844 + }, + { + "epoch": 0.3770709078860172, + "grad_norm": 13.593183517456055, + "learning_rate": 4.808784478568405e-06, + "loss": 0.4682, + "num_input_tokens_seen": 5584264, + "step": 2845 + }, + { + "epoch": 0.3772034459907223, + "grad_norm": 10.936602592468262, + "learning_rate": 4.808651306513185e-06, + "loss": 0.3243, + "num_input_tokens_seen": 5585880, + "step": 2846 + }, + { + "epoch": 0.37733598409542746, + "grad_norm": 5.6197285652160645, + "learning_rate": 4.808518089945575e-06, + "loss": 0.1943, + "num_input_tokens_seen": 5587632, + "step": 2847 + }, + { + "epoch": 0.37746852220013255, + "grad_norm": 19.004112243652344, + "learning_rate": 4.8083848288681436e-06, + "loss": 0.4383, + "num_input_tokens_seen": 5590496, + "step": 2848 + }, + { + "epoch": 0.37760106030483764, + "grad_norm": 0.42464756965637207, + "learning_rate": 4.80825152328346e-06, + "loss": 0.0025, + "num_input_tokens_seen": 5591488, + "step": 2849 + }, + { + "epoch": 0.37773359840954274, + "grad_norm": 0.18224036693572998, + "learning_rate": 4.8081181731940946e-06, + "loss": 0.001, + "num_input_tokens_seen": 5593576, + "step": 2850 + }, + { + "epoch": 0.37786613651424783, + "grad_norm": 9.077179908752441, + "learning_rate": 4.807984778602619e-06, + "loss": 0.3147, + "num_input_tokens_seen": 5596528, + "step": 2851 + }, + { + "epoch": 0.3779986746189529, + "grad_norm": 0.10246941447257996, + "learning_rate": 4.807851339511604e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5597752, + "step": 2852 + }, + { + "epoch": 0.37813121272365807, + "grad_norm": 14.062154769897461, + "learning_rate": 4.807717855923624e-06, + "loss": 0.5376, + "num_input_tokens_seen": 5599992, + "step": 2853 + }, + { + "epoch": 0.37826375082836317, + "grad_norm": 4.889924049377441, + "learning_rate": 4.80758432784125e-06, + "loss": 0.0989, + "num_input_tokens_seen": 5601664, + "step": 2854 + }, + { + "epoch": 0.37839628893306826, + "grad_norm": 8.847596168518066, + "learning_rate": 4.8074507552670605e-06, + "loss": 0.2732, + "num_input_tokens_seen": 5603184, + "step": 2855 + }, + { + "epoch": 0.37852882703777335, + "grad_norm": 11.587574005126953, + "learning_rate": 4.807317138203627e-06, + "loss": 0.2452, + "num_input_tokens_seen": 5605024, + "step": 2856 + }, + { + "epoch": 0.37866136514247845, + "grad_norm": 7.685604572296143, + "learning_rate": 4.807183476653528e-06, + "loss": 0.1439, + "num_input_tokens_seen": 5606808, + "step": 2857 + }, + { + "epoch": 0.37879390324718354, + "grad_norm": 4.846345901489258, + "learning_rate": 4.80704977061934e-06, + "loss": 0.0587, + "num_input_tokens_seen": 5609456, + "step": 2858 + }, + { + "epoch": 0.3789264413518887, + "grad_norm": 68.86653137207031, + "learning_rate": 4.80691602010364e-06, + "loss": 0.3999, + "num_input_tokens_seen": 5612816, + "step": 2859 + }, + { + "epoch": 0.3790589794565938, + "grad_norm": 13.789451599121094, + "learning_rate": 4.806782225109009e-06, + "loss": 0.5113, + "num_input_tokens_seen": 5614600, + "step": 2860 + }, + { + "epoch": 0.3791915175612989, + "grad_norm": 9.264317512512207, + "learning_rate": 4.8066483856380245e-06, + "loss": 0.223, + "num_input_tokens_seen": 5616464, + "step": 2861 + }, + { + "epoch": 0.37932405566600397, + "grad_norm": 11.028992652893066, + "learning_rate": 4.806514501693268e-06, + "loss": 0.2552, + "num_input_tokens_seen": 5618728, + "step": 2862 + }, + { + "epoch": 0.37945659377070906, + "grad_norm": 3.7008163928985596, + "learning_rate": 4.80638057327732e-06, + "loss": 0.0042, + "num_input_tokens_seen": 5620056, + "step": 2863 + }, + { + "epoch": 0.37958913187541415, + "grad_norm": 7.706905841827393, + "learning_rate": 4.806246600392765e-06, + "loss": 0.0894, + "num_input_tokens_seen": 5621768, + "step": 2864 + }, + { + "epoch": 0.3797216699801193, + "grad_norm": 7.523062705993652, + "learning_rate": 4.806112583042184e-06, + "loss": 0.0873, + "num_input_tokens_seen": 5623664, + "step": 2865 + }, + { + "epoch": 0.3798542080848244, + "grad_norm": 0.7280088067054749, + "learning_rate": 4.805978521228161e-06, + "loss": 0.0044, + "num_input_tokens_seen": 5626256, + "step": 2866 + }, + { + "epoch": 0.3799867461895295, + "grad_norm": 0.5145332217216492, + "learning_rate": 4.8058444149532816e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5627560, + "step": 2867 + }, + { + "epoch": 0.3801192842942346, + "grad_norm": 8.557425498962402, + "learning_rate": 4.805710264220131e-06, + "loss": 0.2467, + "num_input_tokens_seen": 5629568, + "step": 2868 + }, + { + "epoch": 0.3802518223989397, + "grad_norm": 5.689026832580566, + "learning_rate": 4.805576069031296e-06, + "loss": 0.1245, + "num_input_tokens_seen": 5631968, + "step": 2869 + }, + { + "epoch": 0.3803843605036448, + "grad_norm": 14.75581169128418, + "learning_rate": 4.805441829389363e-06, + "loss": 0.2518, + "num_input_tokens_seen": 5634272, + "step": 2870 + }, + { + "epoch": 0.3805168986083499, + "grad_norm": 7.1187849044799805, + "learning_rate": 4.8053075452969224e-06, + "loss": 0.2179, + "num_input_tokens_seen": 5636104, + "step": 2871 + }, + { + "epoch": 0.380649436713055, + "grad_norm": 6.471792697906494, + "learning_rate": 4.805173216756562e-06, + "loss": 0.128, + "num_input_tokens_seen": 5637792, + "step": 2872 + }, + { + "epoch": 0.3807819748177601, + "grad_norm": 7.564325332641602, + "learning_rate": 4.805038843770871e-06, + "loss": 0.0914, + "num_input_tokens_seen": 5639584, + "step": 2873 + }, + { + "epoch": 0.3809145129224652, + "grad_norm": 18.496036529541016, + "learning_rate": 4.804904426342442e-06, + "loss": 0.4562, + "num_input_tokens_seen": 5642800, + "step": 2874 + }, + { + "epoch": 0.3810470510271703, + "grad_norm": 0.5235787630081177, + "learning_rate": 4.804769964473864e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5645504, + "step": 2875 + }, + { + "epoch": 0.38117958913187544, + "grad_norm": 1.3340500593185425, + "learning_rate": 4.804635458167732e-06, + "loss": 0.0084, + "num_input_tokens_seen": 5647376, + "step": 2876 + }, + { + "epoch": 0.38131212723658053, + "grad_norm": 14.965535163879395, + "learning_rate": 4.804500907426638e-06, + "loss": 0.5277, + "num_input_tokens_seen": 5649184, + "step": 2877 + }, + { + "epoch": 0.3814446653412856, + "grad_norm": 0.6908347606658936, + "learning_rate": 4.804366312253177e-06, + "loss": 0.0041, + "num_input_tokens_seen": 5651112, + "step": 2878 + }, + { + "epoch": 0.3815772034459907, + "grad_norm": 3.9593496322631836, + "learning_rate": 4.804231672649944e-06, + "loss": 0.0878, + "num_input_tokens_seen": 5653192, + "step": 2879 + }, + { + "epoch": 0.3817097415506958, + "grad_norm": 20.214065551757812, + "learning_rate": 4.804096988619534e-06, + "loss": 0.502, + "num_input_tokens_seen": 5654960, + "step": 2880 + }, + { + "epoch": 0.3818422796554009, + "grad_norm": 4.521189212799072, + "learning_rate": 4.8039622601645454e-06, + "loss": 0.1067, + "num_input_tokens_seen": 5656592, + "step": 2881 + }, + { + "epoch": 0.38197481776010606, + "grad_norm": 10.256596565246582, + "learning_rate": 4.803827487287575e-06, + "loss": 0.1613, + "num_input_tokens_seen": 5658440, + "step": 2882 + }, + { + "epoch": 0.38210735586481115, + "grad_norm": 12.114916801452637, + "learning_rate": 4.8036926699912215e-06, + "loss": 0.3, + "num_input_tokens_seen": 5660496, + "step": 2883 + }, + { + "epoch": 0.38223989396951624, + "grad_norm": 5.946622848510742, + "learning_rate": 4.803557808278083e-06, + "loss": 0.1662, + "num_input_tokens_seen": 5662336, + "step": 2884 + }, + { + "epoch": 0.38237243207422134, + "grad_norm": 14.305303573608398, + "learning_rate": 4.803422902150762e-06, + "loss": 0.4726, + "num_input_tokens_seen": 5664616, + "step": 2885 + }, + { + "epoch": 0.38250497017892643, + "grad_norm": 0.1547321379184723, + "learning_rate": 4.803287951611857e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5665768, + "step": 2886 + }, + { + "epoch": 0.3826375082836315, + "grad_norm": 0.7804080843925476, + "learning_rate": 4.803152956663972e-06, + "loss": 0.0044, + "num_input_tokens_seen": 5668416, + "step": 2887 + }, + { + "epoch": 0.38277004638833667, + "grad_norm": 4.414644241333008, + "learning_rate": 4.80301791730971e-06, + "loss": 0.0199, + "num_input_tokens_seen": 5670344, + "step": 2888 + }, + { + "epoch": 0.38290258449304176, + "grad_norm": 3.5182840824127197, + "learning_rate": 4.802882833551673e-06, + "loss": 0.0506, + "num_input_tokens_seen": 5672656, + "step": 2889 + }, + { + "epoch": 0.38303512259774686, + "grad_norm": 13.864169120788574, + "learning_rate": 4.802747705392466e-06, + "loss": 0.1403, + "num_input_tokens_seen": 5674440, + "step": 2890 + }, + { + "epoch": 0.38316766070245195, + "grad_norm": 0.16644710302352905, + "learning_rate": 4.802612532834695e-06, + "loss": 0.001, + "num_input_tokens_seen": 5676568, + "step": 2891 + }, + { + "epoch": 0.38330019880715704, + "grad_norm": 11.119260787963867, + "learning_rate": 4.802477315880966e-06, + "loss": 0.1751, + "num_input_tokens_seen": 5678072, + "step": 2892 + }, + { + "epoch": 0.38343273691186214, + "grad_norm": 14.251937866210938, + "learning_rate": 4.802342054533886e-06, + "loss": 0.1929, + "num_input_tokens_seen": 5680152, + "step": 2893 + }, + { + "epoch": 0.3835652750165673, + "grad_norm": 9.28195571899414, + "learning_rate": 4.8022067487960634e-06, + "loss": 0.1583, + "num_input_tokens_seen": 5681984, + "step": 2894 + }, + { + "epoch": 0.3836978131212724, + "grad_norm": 9.147839546203613, + "learning_rate": 4.8020713986701055e-06, + "loss": 0.0787, + "num_input_tokens_seen": 5683440, + "step": 2895 + }, + { + "epoch": 0.3838303512259775, + "grad_norm": 7.044008731842041, + "learning_rate": 4.8019360041586225e-06, + "loss": 0.0642, + "num_input_tokens_seen": 5685448, + "step": 2896 + }, + { + "epoch": 0.38396288933068257, + "grad_norm": 0.08466002345085144, + "learning_rate": 4.801800565264227e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5688000, + "step": 2897 + }, + { + "epoch": 0.38409542743538766, + "grad_norm": 0.060855597257614136, + "learning_rate": 4.801665081989528e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5689392, + "step": 2898 + }, + { + "epoch": 0.38422796554009275, + "grad_norm": 10.958772659301758, + "learning_rate": 4.801529554337138e-06, + "loss": 0.167, + "num_input_tokens_seen": 5691984, + "step": 2899 + }, + { + "epoch": 0.3843605036447979, + "grad_norm": 0.08043933659791946, + "learning_rate": 4.80139398230967e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5693376, + "step": 2900 + }, + { + "epoch": 0.384493041749503, + "grad_norm": 8.444103240966797, + "learning_rate": 4.8012583659097385e-06, + "loss": 0.126, + "num_input_tokens_seen": 5695584, + "step": 2901 + }, + { + "epoch": 0.3846255798542081, + "grad_norm": 6.222550392150879, + "learning_rate": 4.801122705139959e-06, + "loss": 0.1006, + "num_input_tokens_seen": 5697864, + "step": 2902 + }, + { + "epoch": 0.3847581179589132, + "grad_norm": 4.725201606750488, + "learning_rate": 4.800987000002946e-06, + "loss": 0.1507, + "num_input_tokens_seen": 5699408, + "step": 2903 + }, + { + "epoch": 0.3848906560636183, + "grad_norm": 8.471427917480469, + "learning_rate": 4.800851250501316e-06, + "loss": 0.1996, + "num_input_tokens_seen": 5701096, + "step": 2904 + }, + { + "epoch": 0.38502319416832337, + "grad_norm": 0.05548432469367981, + "learning_rate": 4.800715456637687e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5702960, + "step": 2905 + }, + { + "epoch": 0.3851557322730285, + "grad_norm": 8.121257781982422, + "learning_rate": 4.800579618414677e-06, + "loss": 0.2707, + "num_input_tokens_seen": 5704960, + "step": 2906 + }, + { + "epoch": 0.3852882703777336, + "grad_norm": 5.4546403884887695, + "learning_rate": 4.800443735834904e-06, + "loss": 0.1191, + "num_input_tokens_seen": 5707312, + "step": 2907 + }, + { + "epoch": 0.3854208084824387, + "grad_norm": 15.769217491149902, + "learning_rate": 4.800307808900989e-06, + "loss": 0.6465, + "num_input_tokens_seen": 5708472, + "step": 2908 + }, + { + "epoch": 0.3855533465871438, + "grad_norm": 9.134364128112793, + "learning_rate": 4.800171837615553e-06, + "loss": 0.0937, + "num_input_tokens_seen": 5710800, + "step": 2909 + }, + { + "epoch": 0.3856858846918489, + "grad_norm": 6.90806245803833, + "learning_rate": 4.8000358219812165e-06, + "loss": 0.2421, + "num_input_tokens_seen": 5712696, + "step": 2910 + }, + { + "epoch": 0.385818422796554, + "grad_norm": 13.220758438110352, + "learning_rate": 4.799899762000602e-06, + "loss": 0.3505, + "num_input_tokens_seen": 5715064, + "step": 2911 + }, + { + "epoch": 0.38595096090125913, + "grad_norm": 4.890446662902832, + "learning_rate": 4.7997636576763354e-06, + "loss": 0.0742, + "num_input_tokens_seen": 5716560, + "step": 2912 + }, + { + "epoch": 0.3860834990059642, + "grad_norm": 8.918073654174805, + "learning_rate": 4.799627509011038e-06, + "loss": 0.0987, + "num_input_tokens_seen": 5718576, + "step": 2913 + }, + { + "epoch": 0.3862160371106693, + "grad_norm": 5.0368146896362305, + "learning_rate": 4.799491316007337e-06, + "loss": 0.1193, + "num_input_tokens_seen": 5720688, + "step": 2914 + }, + { + "epoch": 0.3863485752153744, + "grad_norm": 15.296892166137695, + "learning_rate": 4.799355078667855e-06, + "loss": 0.5037, + "num_input_tokens_seen": 5722736, + "step": 2915 + }, + { + "epoch": 0.3864811133200795, + "grad_norm": 0.11789968609809875, + "learning_rate": 4.799218796995222e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5724136, + "step": 2916 + }, + { + "epoch": 0.3866136514247846, + "grad_norm": 15.619475364685059, + "learning_rate": 4.799082470992064e-06, + "loss": 0.2294, + "num_input_tokens_seen": 5727096, + "step": 2917 + }, + { + "epoch": 0.38674618952948975, + "grad_norm": 11.507015228271484, + "learning_rate": 4.798946100661011e-06, + "loss": 0.1717, + "num_input_tokens_seen": 5730048, + "step": 2918 + }, + { + "epoch": 0.38687872763419484, + "grad_norm": 20.806148529052734, + "learning_rate": 4.7988096860046895e-06, + "loss": 1.1562, + "num_input_tokens_seen": 5732920, + "step": 2919 + }, + { + "epoch": 0.38701126573889993, + "grad_norm": 5.2293901443481445, + "learning_rate": 4.798673227025732e-06, + "loss": 0.0461, + "num_input_tokens_seen": 5734536, + "step": 2920 + }, + { + "epoch": 0.387143803843605, + "grad_norm": 7.92720890045166, + "learning_rate": 4.79853672372677e-06, + "loss": 0.1044, + "num_input_tokens_seen": 5736104, + "step": 2921 + }, + { + "epoch": 0.3872763419483101, + "grad_norm": 12.38214111328125, + "learning_rate": 4.798400176110432e-06, + "loss": 0.3783, + "num_input_tokens_seen": 5738768, + "step": 2922 + }, + { + "epoch": 0.3874088800530152, + "grad_norm": 4.390325546264648, + "learning_rate": 4.798263584179355e-06, + "loss": 0.0359, + "num_input_tokens_seen": 5740872, + "step": 2923 + }, + { + "epoch": 0.38754141815772036, + "grad_norm": 16.519081115722656, + "learning_rate": 4.79812694793617e-06, + "loss": 0.5263, + "num_input_tokens_seen": 5742752, + "step": 2924 + }, + { + "epoch": 0.38767395626242546, + "grad_norm": 12.951534271240234, + "learning_rate": 4.797990267383512e-06, + "loss": 0.1945, + "num_input_tokens_seen": 5745080, + "step": 2925 + }, + { + "epoch": 0.38780649436713055, + "grad_norm": 9.392237663269043, + "learning_rate": 4.797853542524017e-06, + "loss": 0.2681, + "num_input_tokens_seen": 5747512, + "step": 2926 + }, + { + "epoch": 0.38793903247183564, + "grad_norm": 7.611248970031738, + "learning_rate": 4.797716773360321e-06, + "loss": 0.1502, + "num_input_tokens_seen": 5750064, + "step": 2927 + }, + { + "epoch": 0.38807157057654074, + "grad_norm": 3.736629009246826, + "learning_rate": 4.797579959895058e-06, + "loss": 0.0156, + "num_input_tokens_seen": 5751672, + "step": 2928 + }, + { + "epoch": 0.3882041086812459, + "grad_norm": 23.248306274414062, + "learning_rate": 4.79744310213087e-06, + "loss": 0.5916, + "num_input_tokens_seen": 5753760, + "step": 2929 + }, + { + "epoch": 0.388336646785951, + "grad_norm": 13.426590919494629, + "learning_rate": 4.797306200070394e-06, + "loss": 0.4148, + "num_input_tokens_seen": 5755784, + "step": 2930 + }, + { + "epoch": 0.38846918489065607, + "grad_norm": 6.554684162139893, + "learning_rate": 4.7971692537162694e-06, + "loss": 0.12, + "num_input_tokens_seen": 5758264, + "step": 2931 + }, + { + "epoch": 0.38860172299536117, + "grad_norm": 14.359375953674316, + "learning_rate": 4.797032263071138e-06, + "loss": 0.3622, + "num_input_tokens_seen": 5759864, + "step": 2932 + }, + { + "epoch": 0.38873426110006626, + "grad_norm": 14.0858736038208, + "learning_rate": 4.796895228137638e-06, + "loss": 0.194, + "num_input_tokens_seen": 5761584, + "step": 2933 + }, + { + "epoch": 0.38886679920477135, + "grad_norm": 13.78635311126709, + "learning_rate": 4.796758148918415e-06, + "loss": 0.2577, + "num_input_tokens_seen": 5763592, + "step": 2934 + }, + { + "epoch": 0.3889993373094765, + "grad_norm": 7.855655193328857, + "learning_rate": 4.7966210254161095e-06, + "loss": 0.1948, + "num_input_tokens_seen": 5765192, + "step": 2935 + }, + { + "epoch": 0.3891318754141816, + "grad_norm": 6.836536407470703, + "learning_rate": 4.796483857633366e-06, + "loss": 0.0662, + "num_input_tokens_seen": 5767896, + "step": 2936 + }, + { + "epoch": 0.3892644135188867, + "grad_norm": 8.234159469604492, + "learning_rate": 4.7963466455728304e-06, + "loss": 0.2592, + "num_input_tokens_seen": 5770280, + "step": 2937 + }, + { + "epoch": 0.3893969516235918, + "grad_norm": 12.620244979858398, + "learning_rate": 4.796209389237146e-06, + "loss": 0.1193, + "num_input_tokens_seen": 5772136, + "step": 2938 + }, + { + "epoch": 0.3895294897282969, + "grad_norm": 1.0394253730773926, + "learning_rate": 4.796072088628963e-06, + "loss": 0.0063, + "num_input_tokens_seen": 5775072, + "step": 2939 + }, + { + "epoch": 0.38966202783300197, + "grad_norm": 9.655213356018066, + "learning_rate": 4.795934743750923e-06, + "loss": 0.3118, + "num_input_tokens_seen": 5777440, + "step": 2940 + }, + { + "epoch": 0.3897945659377071, + "grad_norm": 7.174744606018066, + "learning_rate": 4.795797354605679e-06, + "loss": 0.1946, + "num_input_tokens_seen": 5778976, + "step": 2941 + }, + { + "epoch": 0.3899271040424122, + "grad_norm": 0.5289475917816162, + "learning_rate": 4.795659921195878e-06, + "loss": 0.0032, + "num_input_tokens_seen": 5780792, + "step": 2942 + }, + { + "epoch": 0.3900596421471173, + "grad_norm": 10.455952644348145, + "learning_rate": 4.795522443524171e-06, + "loss": 0.2786, + "num_input_tokens_seen": 5782704, + "step": 2943 + }, + { + "epoch": 0.3901921802518224, + "grad_norm": 13.964348793029785, + "learning_rate": 4.7953849215932065e-06, + "loss": 0.4183, + "num_input_tokens_seen": 5784920, + "step": 2944 + }, + { + "epoch": 0.3903247183565275, + "grad_norm": 0.43512532114982605, + "learning_rate": 4.7952473554056375e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5786232, + "step": 2945 + }, + { + "epoch": 0.3904572564612326, + "grad_norm": 11.050591468811035, + "learning_rate": 4.795109744964116e-06, + "loss": 0.2845, + "num_input_tokens_seen": 5787816, + "step": 2946 + }, + { + "epoch": 0.39058979456593773, + "grad_norm": 22.758481979370117, + "learning_rate": 4.7949720902712945e-06, + "loss": 0.2809, + "num_input_tokens_seen": 5789432, + "step": 2947 + }, + { + "epoch": 0.3907223326706428, + "grad_norm": 12.670291900634766, + "learning_rate": 4.794834391329829e-06, + "loss": 0.2404, + "num_input_tokens_seen": 5791648, + "step": 2948 + }, + { + "epoch": 0.3908548707753479, + "grad_norm": 7.334057331085205, + "learning_rate": 4.794696648142373e-06, + "loss": 0.0867, + "num_input_tokens_seen": 5792832, + "step": 2949 + }, + { + "epoch": 0.390987408880053, + "grad_norm": 1.034836769104004, + "learning_rate": 4.794558860711583e-06, + "loss": 0.0059, + "num_input_tokens_seen": 5794640, + "step": 2950 + }, + { + "epoch": 0.3911199469847581, + "grad_norm": 10.421894073486328, + "learning_rate": 4.794421029040115e-06, + "loss": 0.3422, + "num_input_tokens_seen": 5796680, + "step": 2951 + }, + { + "epoch": 0.3912524850894632, + "grad_norm": 11.266824722290039, + "learning_rate": 4.794283153130627e-06, + "loss": 0.1729, + "num_input_tokens_seen": 5798240, + "step": 2952 + }, + { + "epoch": 0.39138502319416835, + "grad_norm": 7.401568412780762, + "learning_rate": 4.794145232985776e-06, + "loss": 0.1613, + "num_input_tokens_seen": 5799624, + "step": 2953 + }, + { + "epoch": 0.39151756129887344, + "grad_norm": 5.495708465576172, + "learning_rate": 4.794007268608223e-06, + "loss": 0.0847, + "num_input_tokens_seen": 5801184, + "step": 2954 + }, + { + "epoch": 0.39165009940357853, + "grad_norm": 15.047117233276367, + "learning_rate": 4.793869260000627e-06, + "loss": 0.3358, + "num_input_tokens_seen": 5802960, + "step": 2955 + }, + { + "epoch": 0.3917826375082836, + "grad_norm": 3.915280342102051, + "learning_rate": 4.79373120716565e-06, + "loss": 0.0741, + "num_input_tokens_seen": 5804808, + "step": 2956 + }, + { + "epoch": 0.3919151756129887, + "grad_norm": 6.27174186706543, + "learning_rate": 4.793593110105952e-06, + "loss": 0.0618, + "num_input_tokens_seen": 5806272, + "step": 2957 + }, + { + "epoch": 0.3920477137176938, + "grad_norm": 26.54920196533203, + "learning_rate": 4.793454968824197e-06, + "loss": 0.8077, + "num_input_tokens_seen": 5808136, + "step": 2958 + }, + { + "epoch": 0.39218025182239896, + "grad_norm": 9.607259750366211, + "learning_rate": 4.793316783323047e-06, + "loss": 0.1445, + "num_input_tokens_seen": 5809640, + "step": 2959 + }, + { + "epoch": 0.39231278992710406, + "grad_norm": 12.036971092224121, + "learning_rate": 4.793178553605169e-06, + "loss": 0.1451, + "num_input_tokens_seen": 5811200, + "step": 2960 + }, + { + "epoch": 0.39244532803180915, + "grad_norm": 15.08952522277832, + "learning_rate": 4.793040279673226e-06, + "loss": 0.4523, + "num_input_tokens_seen": 5814120, + "step": 2961 + }, + { + "epoch": 0.39257786613651424, + "grad_norm": 9.915499687194824, + "learning_rate": 4.7929019615298844e-06, + "loss": 0.3195, + "num_input_tokens_seen": 5816384, + "step": 2962 + }, + { + "epoch": 0.39271040424121934, + "grad_norm": 18.3887939453125, + "learning_rate": 4.792763599177811e-06, + "loss": 0.5786, + "num_input_tokens_seen": 5818384, + "step": 2963 + }, + { + "epoch": 0.39284294234592443, + "grad_norm": 14.735946655273438, + "learning_rate": 4.792625192619674e-06, + "loss": 0.3675, + "num_input_tokens_seen": 5820328, + "step": 2964 + }, + { + "epoch": 0.3929754804506296, + "grad_norm": 13.089232444763184, + "learning_rate": 4.792486741858141e-06, + "loss": 0.3246, + "num_input_tokens_seen": 5822632, + "step": 2965 + }, + { + "epoch": 0.39310801855533467, + "grad_norm": 11.526205062866211, + "learning_rate": 4.792348246895883e-06, + "loss": 0.2, + "num_input_tokens_seen": 5824544, + "step": 2966 + }, + { + "epoch": 0.39324055666003976, + "grad_norm": 6.57134485244751, + "learning_rate": 4.792209707735569e-06, + "loss": 0.081, + "num_input_tokens_seen": 5826824, + "step": 2967 + }, + { + "epoch": 0.39337309476474486, + "grad_norm": 11.693963050842285, + "learning_rate": 4.79207112437987e-06, + "loss": 0.234, + "num_input_tokens_seen": 5828832, + "step": 2968 + }, + { + "epoch": 0.39350563286944995, + "grad_norm": 8.574296951293945, + "learning_rate": 4.791932496831459e-06, + "loss": 0.2149, + "num_input_tokens_seen": 5830304, + "step": 2969 + }, + { + "epoch": 0.39363817097415504, + "grad_norm": 13.792306900024414, + "learning_rate": 4.791793825093009e-06, + "loss": 0.6277, + "num_input_tokens_seen": 5833152, + "step": 2970 + }, + { + "epoch": 0.3937707090788602, + "grad_norm": 3.509612560272217, + "learning_rate": 4.791655109167192e-06, + "loss": 0.0278, + "num_input_tokens_seen": 5835208, + "step": 2971 + }, + { + "epoch": 0.3939032471835653, + "grad_norm": 0.9070621728897095, + "learning_rate": 4.791516349056684e-06, + "loss": 0.005, + "num_input_tokens_seen": 5836376, + "step": 2972 + }, + { + "epoch": 0.3940357852882704, + "grad_norm": 0.6295693516731262, + "learning_rate": 4.7913775447641595e-06, + "loss": 0.0038, + "num_input_tokens_seen": 5838968, + "step": 2973 + }, + { + "epoch": 0.3941683233929755, + "grad_norm": 0.42120882868766785, + "learning_rate": 4.791238696292296e-06, + "loss": 0.0027, + "num_input_tokens_seen": 5840256, + "step": 2974 + }, + { + "epoch": 0.39430086149768057, + "grad_norm": 0.146803081035614, + "learning_rate": 4.79109980364377e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5841520, + "step": 2975 + }, + { + "epoch": 0.39443339960238566, + "grad_norm": 8.67635726928711, + "learning_rate": 4.790960866821258e-06, + "loss": 0.3369, + "num_input_tokens_seen": 5843336, + "step": 2976 + }, + { + "epoch": 0.3945659377070908, + "grad_norm": 0.11394452303647995, + "learning_rate": 4.790821885827441e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5845024, + "step": 2977 + }, + { + "epoch": 0.3946984758117959, + "grad_norm": 11.386565208435059, + "learning_rate": 4.790682860664998e-06, + "loss": 0.1871, + "num_input_tokens_seen": 5847568, + "step": 2978 + }, + { + "epoch": 0.394831013916501, + "grad_norm": 0.14270855486392975, + "learning_rate": 4.790543791336608e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5849144, + "step": 2979 + }, + { + "epoch": 0.3949635520212061, + "grad_norm": 0.1783614605665207, + "learning_rate": 4.790404677844954e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5850872, + "step": 2980 + }, + { + "epoch": 0.3950960901259112, + "grad_norm": 9.506954193115234, + "learning_rate": 4.790265520192717e-06, + "loss": 0.2391, + "num_input_tokens_seen": 5853744, + "step": 2981 + }, + { + "epoch": 0.3952286282306163, + "grad_norm": 4.984894275665283, + "learning_rate": 4.790126318382582e-06, + "loss": 0.1252, + "num_input_tokens_seen": 5855008, + "step": 2982 + }, + { + "epoch": 0.3953611663353214, + "grad_norm": 12.45118522644043, + "learning_rate": 4.789987072417232e-06, + "loss": 0.3526, + "num_input_tokens_seen": 5856352, + "step": 2983 + }, + { + "epoch": 0.3954937044400265, + "grad_norm": 10.527811050415039, + "learning_rate": 4.789847782299351e-06, + "loss": 0.3427, + "num_input_tokens_seen": 5858112, + "step": 2984 + }, + { + "epoch": 0.3956262425447316, + "grad_norm": 0.030683059245347977, + "learning_rate": 4.789708448031625e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5859624, + "step": 2985 + }, + { + "epoch": 0.3957587806494367, + "grad_norm": 5.548108100891113, + "learning_rate": 4.789569069616739e-06, + "loss": 0.1473, + "num_input_tokens_seen": 5861584, + "step": 2986 + }, + { + "epoch": 0.3958913187541418, + "grad_norm": 16.987546920776367, + "learning_rate": 4.789429647057384e-06, + "loss": 0.6618, + "num_input_tokens_seen": 5863168, + "step": 2987 + }, + { + "epoch": 0.39602385685884695, + "grad_norm": 0.10859762132167816, + "learning_rate": 4.7892901803562455e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5864880, + "step": 2988 + }, + { + "epoch": 0.39615639496355204, + "grad_norm": 11.099987030029297, + "learning_rate": 4.789150669516013e-06, + "loss": 0.1943, + "num_input_tokens_seen": 5866904, + "step": 2989 + }, + { + "epoch": 0.39628893306825713, + "grad_norm": 18.681299209594727, + "learning_rate": 4.789011114539376e-06, + "loss": 0.5396, + "num_input_tokens_seen": 5869288, + "step": 2990 + }, + { + "epoch": 0.3964214711729622, + "grad_norm": 5.464449405670166, + "learning_rate": 4.788871515429026e-06, + "loss": 0.1703, + "num_input_tokens_seen": 5870968, + "step": 2991 + }, + { + "epoch": 0.3965540092776673, + "grad_norm": 10.166231155395508, + "learning_rate": 4.788731872187653e-06, + "loss": 0.2362, + "num_input_tokens_seen": 5872624, + "step": 2992 + }, + { + "epoch": 0.3966865473823724, + "grad_norm": 8.971012115478516, + "learning_rate": 4.7885921848179516e-06, + "loss": 0.2499, + "num_input_tokens_seen": 5874176, + "step": 2993 + }, + { + "epoch": 0.39681908548707756, + "grad_norm": 16.86927604675293, + "learning_rate": 4.788452453322614e-06, + "loss": 0.2378, + "num_input_tokens_seen": 5876920, + "step": 2994 + }, + { + "epoch": 0.39695162359178265, + "grad_norm": 7.404328346252441, + "learning_rate": 4.788312677704335e-06, + "loss": 0.0978, + "num_input_tokens_seen": 5879176, + "step": 2995 + }, + { + "epoch": 0.39708416169648775, + "grad_norm": 6.144297122955322, + "learning_rate": 4.788172857965808e-06, + "loss": 0.1248, + "num_input_tokens_seen": 5881256, + "step": 2996 + }, + { + "epoch": 0.39721669980119284, + "grad_norm": 0.10653188079595566, + "learning_rate": 4.78803299410973e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5882792, + "step": 2997 + }, + { + "epoch": 0.39734923790589793, + "grad_norm": 17.77987289428711, + "learning_rate": 4.787893086138797e-06, + "loss": 0.513, + "num_input_tokens_seen": 5884456, + "step": 2998 + }, + { + "epoch": 0.397481776010603, + "grad_norm": 12.142847061157227, + "learning_rate": 4.787753134055708e-06, + "loss": 0.1951, + "num_input_tokens_seen": 5885952, + "step": 2999 + }, + { + "epoch": 0.3976143141153082, + "grad_norm": 3.825782537460327, + "learning_rate": 4.78761313786316e-06, + "loss": 0.0265, + "num_input_tokens_seen": 5887648, + "step": 3000 + }, + { + "epoch": 0.39774685222001327, + "grad_norm": 12.713396072387695, + "learning_rate": 4.7874730975638525e-06, + "loss": 0.4991, + "num_input_tokens_seen": 5889720, + "step": 3001 + }, + { + "epoch": 0.39787939032471836, + "grad_norm": 14.01033878326416, + "learning_rate": 4.787333013160485e-06, + "loss": 0.4214, + "num_input_tokens_seen": 5891472, + "step": 3002 + }, + { + "epoch": 0.39801192842942346, + "grad_norm": 11.056123733520508, + "learning_rate": 4.78719288465576e-06, + "loss": 0.2324, + "num_input_tokens_seen": 5893512, + "step": 3003 + }, + { + "epoch": 0.39814446653412855, + "grad_norm": 4.753828048706055, + "learning_rate": 4.787052712052378e-06, + "loss": 0.0504, + "num_input_tokens_seen": 5895000, + "step": 3004 + }, + { + "epoch": 0.39827700463883364, + "grad_norm": 2.477724075317383, + "learning_rate": 4.786912495353042e-06, + "loss": 0.0144, + "num_input_tokens_seen": 5897896, + "step": 3005 + }, + { + "epoch": 0.3984095427435388, + "grad_norm": 4.012485980987549, + "learning_rate": 4.786772234560455e-06, + "loss": 0.1019, + "num_input_tokens_seen": 5899648, + "step": 3006 + }, + { + "epoch": 0.3985420808482439, + "grad_norm": 1.1006004810333252, + "learning_rate": 4.7866319296773216e-06, + "loss": 0.0069, + "num_input_tokens_seen": 5901408, + "step": 3007 + }, + { + "epoch": 0.398674618952949, + "grad_norm": 0.5684716105461121, + "learning_rate": 4.786491580706348e-06, + "loss": 0.0036, + "num_input_tokens_seen": 5902712, + "step": 3008 + }, + { + "epoch": 0.39880715705765407, + "grad_norm": 0.44975587725639343, + "learning_rate": 4.786351187650239e-06, + "loss": 0.0028, + "num_input_tokens_seen": 5904200, + "step": 3009 + }, + { + "epoch": 0.39893969516235916, + "grad_norm": 9.59408950805664, + "learning_rate": 4.786210750511701e-06, + "loss": 0.1614, + "num_input_tokens_seen": 5905768, + "step": 3010 + }, + { + "epoch": 0.39907223326706426, + "grad_norm": 11.989697456359863, + "learning_rate": 4.786070269293444e-06, + "loss": 0.3817, + "num_input_tokens_seen": 5909056, + "step": 3011 + }, + { + "epoch": 0.3992047713717694, + "grad_norm": 11.94229793548584, + "learning_rate": 4.785929743998174e-06, + "loss": 0.4448, + "num_input_tokens_seen": 5910592, + "step": 3012 + }, + { + "epoch": 0.3993373094764745, + "grad_norm": 17.604032516479492, + "learning_rate": 4.7857891746286025e-06, + "loss": 0.738, + "num_input_tokens_seen": 5912872, + "step": 3013 + }, + { + "epoch": 0.3994698475811796, + "grad_norm": 5.24974250793457, + "learning_rate": 4.785648561187438e-06, + "loss": 0.0739, + "num_input_tokens_seen": 5914752, + "step": 3014 + }, + { + "epoch": 0.3996023856858847, + "grad_norm": 2.9489407539367676, + "learning_rate": 4.785507903677392e-06, + "loss": 0.0689, + "num_input_tokens_seen": 5916720, + "step": 3015 + }, + { + "epoch": 0.3997349237905898, + "grad_norm": 5.593491554260254, + "learning_rate": 4.785367202101178e-06, + "loss": 0.1008, + "num_input_tokens_seen": 5918432, + "step": 3016 + }, + { + "epoch": 0.3998674618952949, + "grad_norm": 13.952553749084473, + "learning_rate": 4.785226456461508e-06, + "loss": 0.5344, + "num_input_tokens_seen": 5920480, + "step": 3017 + }, + { + "epoch": 0.4, + "grad_norm": 0.10456594079732895, + "learning_rate": 4.785085666761094e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5921888, + "step": 3018 + }, + { + "epoch": 0.4001325381047051, + "grad_norm": 13.457680702209473, + "learning_rate": 4.784944833002654e-06, + "loss": 0.397, + "num_input_tokens_seen": 5923736, + "step": 3019 + }, + { + "epoch": 0.4002650762094102, + "grad_norm": 5.41466760635376, + "learning_rate": 4.784803955188899e-06, + "loss": 0.0587, + "num_input_tokens_seen": 5926984, + "step": 3020 + }, + { + "epoch": 0.4003976143141153, + "grad_norm": 11.419010162353516, + "learning_rate": 4.7846630333225495e-06, + "loss": 0.2443, + "num_input_tokens_seen": 5928304, + "step": 3021 + }, + { + "epoch": 0.4005301524188204, + "grad_norm": 8.327176094055176, + "learning_rate": 4.784522067406319e-06, + "loss": 0.1608, + "num_input_tokens_seen": 5930296, + "step": 3022 + }, + { + "epoch": 0.4006626905235255, + "grad_norm": 0.17967109382152557, + "learning_rate": 4.7843810574429284e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5932520, + "step": 3023 + }, + { + "epoch": 0.40079522862823064, + "grad_norm": 0.6572452783584595, + "learning_rate": 4.784240003435095e-06, + "loss": 0.0035, + "num_input_tokens_seen": 5934288, + "step": 3024 + }, + { + "epoch": 0.40092776673293573, + "grad_norm": 0.7890099883079529, + "learning_rate": 4.7840989053855374e-06, + "loss": 0.0032, + "num_input_tokens_seen": 5936080, + "step": 3025 + }, + { + "epoch": 0.4010603048376408, + "grad_norm": 0.1663220375776291, + "learning_rate": 4.783957763296978e-06, + "loss": 0.001, + "num_input_tokens_seen": 5937344, + "step": 3026 + }, + { + "epoch": 0.4011928429423459, + "grad_norm": 23.41261100769043, + "learning_rate": 4.783816577172137e-06, + "loss": 0.4825, + "num_input_tokens_seen": 5939352, + "step": 3027 + }, + { + "epoch": 0.401325381047051, + "grad_norm": 4.292874813079834, + "learning_rate": 4.783675347013736e-06, + "loss": 0.1444, + "num_input_tokens_seen": 5941512, + "step": 3028 + }, + { + "epoch": 0.4014579191517561, + "grad_norm": 2.5654399394989014, + "learning_rate": 4.7835340728245e-06, + "loss": 0.0162, + "num_input_tokens_seen": 5943120, + "step": 3029 + }, + { + "epoch": 0.40159045725646125, + "grad_norm": 10.964597702026367, + "learning_rate": 4.783392754607152e-06, + "loss": 0.2558, + "num_input_tokens_seen": 5944800, + "step": 3030 + }, + { + "epoch": 0.40172299536116635, + "grad_norm": 8.546445846557617, + "learning_rate": 4.783251392364417e-06, + "loss": 0.2801, + "num_input_tokens_seen": 5946080, + "step": 3031 + }, + { + "epoch": 0.40185553346587144, + "grad_norm": 10.508057594299316, + "learning_rate": 4.783109986099019e-06, + "loss": 0.2873, + "num_input_tokens_seen": 5947752, + "step": 3032 + }, + { + "epoch": 0.40198807157057653, + "grad_norm": 0.0683145523071289, + "learning_rate": 4.782968535813685e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5949728, + "step": 3033 + }, + { + "epoch": 0.4021206096752816, + "grad_norm": 13.5866117477417, + "learning_rate": 4.782827041511143e-06, + "loss": 0.2349, + "num_input_tokens_seen": 5950968, + "step": 3034 + }, + { + "epoch": 0.4022531477799867, + "grad_norm": 5.996464252471924, + "learning_rate": 4.782685503194121e-06, + "loss": 0.2151, + "num_input_tokens_seen": 5953112, + "step": 3035 + }, + { + "epoch": 0.40238568588469187, + "grad_norm": 8.38286304473877, + "learning_rate": 4.782543920865348e-06, + "loss": 0.2292, + "num_input_tokens_seen": 5955192, + "step": 3036 + }, + { + "epoch": 0.40251822398939696, + "grad_norm": 1.311390995979309, + "learning_rate": 4.7824022945275535e-06, + "loss": 0.0204, + "num_input_tokens_seen": 5956824, + "step": 3037 + }, + { + "epoch": 0.40265076209410205, + "grad_norm": 5.924940586090088, + "learning_rate": 4.782260624183468e-06, + "loss": 0.0334, + "num_input_tokens_seen": 5959088, + "step": 3038 + }, + { + "epoch": 0.40278330019880715, + "grad_norm": 8.918008804321289, + "learning_rate": 4.782118909835823e-06, + "loss": 0.2929, + "num_input_tokens_seen": 5960680, + "step": 3039 + }, + { + "epoch": 0.40291583830351224, + "grad_norm": 0.106726735830307, + "learning_rate": 4.781977151487351e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5962168, + "step": 3040 + }, + { + "epoch": 0.40304837640821733, + "grad_norm": 15.09712028503418, + "learning_rate": 4.781835349140786e-06, + "loss": 0.4329, + "num_input_tokens_seen": 5964096, + "step": 3041 + }, + { + "epoch": 0.4031809145129225, + "grad_norm": 9.392486572265625, + "learning_rate": 4.781693502798861e-06, + "loss": 0.1517, + "num_input_tokens_seen": 5965760, + "step": 3042 + }, + { + "epoch": 0.4033134526176276, + "grad_norm": 8.407020568847656, + "learning_rate": 4.781551612464311e-06, + "loss": 0.2123, + "num_input_tokens_seen": 5968096, + "step": 3043 + }, + { + "epoch": 0.40344599072233267, + "grad_norm": 10.140686988830566, + "learning_rate": 4.7814096781398725e-06, + "loss": 0.2907, + "num_input_tokens_seen": 5969616, + "step": 3044 + }, + { + "epoch": 0.40357852882703776, + "grad_norm": 0.2493980973958969, + "learning_rate": 4.781267699828281e-06, + "loss": 0.0015, + "num_input_tokens_seen": 5971352, + "step": 3045 + }, + { + "epoch": 0.40371106693174286, + "grad_norm": 10.33617877960205, + "learning_rate": 4.781125677532274e-06, + "loss": 0.143, + "num_input_tokens_seen": 5973440, + "step": 3046 + }, + { + "epoch": 0.403843605036448, + "grad_norm": 6.5604963302612305, + "learning_rate": 4.7809836112545906e-06, + "loss": 0.0494, + "num_input_tokens_seen": 5975112, + "step": 3047 + }, + { + "epoch": 0.4039761431411531, + "grad_norm": 18.71568489074707, + "learning_rate": 4.78084150099797e-06, + "loss": 0.5231, + "num_input_tokens_seen": 5976680, + "step": 3048 + }, + { + "epoch": 0.4041086812458582, + "grad_norm": 11.909926414489746, + "learning_rate": 4.780699346765152e-06, + "loss": 0.2672, + "num_input_tokens_seen": 5978664, + "step": 3049 + }, + { + "epoch": 0.4042412193505633, + "grad_norm": 11.537005424499512, + "learning_rate": 4.780557148558876e-06, + "loss": 0.1979, + "num_input_tokens_seen": 5980384, + "step": 3050 + }, + { + "epoch": 0.4043737574552684, + "grad_norm": 12.15526294708252, + "learning_rate": 4.780414906381886e-06, + "loss": 0.5005, + "num_input_tokens_seen": 5982792, + "step": 3051 + }, + { + "epoch": 0.40450629555997347, + "grad_norm": 5.510542392730713, + "learning_rate": 4.7802726202369236e-06, + "loss": 0.1017, + "num_input_tokens_seen": 5984328, + "step": 3052 + }, + { + "epoch": 0.4046388336646786, + "grad_norm": 7.926218032836914, + "learning_rate": 4.780130290126731e-06, + "loss": 0.1155, + "num_input_tokens_seen": 5986304, + "step": 3053 + }, + { + "epoch": 0.4047713717693837, + "grad_norm": 10.571142196655273, + "learning_rate": 4.779987916054054e-06, + "loss": 0.1468, + "num_input_tokens_seen": 5988336, + "step": 3054 + }, + { + "epoch": 0.4049039098740888, + "grad_norm": 0.49342310428619385, + "learning_rate": 4.7798454980216375e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5989840, + "step": 3055 + }, + { + "epoch": 0.4050364479787939, + "grad_norm": 9.98480224609375, + "learning_rate": 4.779703036032227e-06, + "loss": 0.197, + "num_input_tokens_seen": 5991936, + "step": 3056 + }, + { + "epoch": 0.405168986083499, + "grad_norm": 9.786097526550293, + "learning_rate": 4.779560530088568e-06, + "loss": 0.3541, + "num_input_tokens_seen": 5993920, + "step": 3057 + }, + { + "epoch": 0.4053015241882041, + "grad_norm": 11.278203010559082, + "learning_rate": 4.779417980193411e-06, + "loss": 0.1997, + "num_input_tokens_seen": 5995688, + "step": 3058 + }, + { + "epoch": 0.40543406229290924, + "grad_norm": 14.312846183776855, + "learning_rate": 4.779275386349502e-06, + "loss": 0.5092, + "num_input_tokens_seen": 5997272, + "step": 3059 + }, + { + "epoch": 0.40556660039761433, + "grad_norm": 11.433096885681152, + "learning_rate": 4.779132748559591e-06, + "loss": 0.277, + "num_input_tokens_seen": 5999984, + "step": 3060 + }, + { + "epoch": 0.4056991385023194, + "grad_norm": 13.709260940551758, + "learning_rate": 4.7789900668264285e-06, + "loss": 0.285, + "num_input_tokens_seen": 6002960, + "step": 3061 + }, + { + "epoch": 0.4058316766070245, + "grad_norm": 1.373302936553955, + "learning_rate": 4.778847341152766e-06, + "loss": 0.0089, + "num_input_tokens_seen": 6005040, + "step": 3062 + }, + { + "epoch": 0.4059642147117296, + "grad_norm": 8.988983154296875, + "learning_rate": 4.778704571541353e-06, + "loss": 0.211, + "num_input_tokens_seen": 6006856, + "step": 3063 + }, + { + "epoch": 0.4060967528164347, + "grad_norm": 2.7159955501556396, + "learning_rate": 4.7785617579949464e-06, + "loss": 0.0525, + "num_input_tokens_seen": 6008328, + "step": 3064 + }, + { + "epoch": 0.40622929092113985, + "grad_norm": 5.499091625213623, + "learning_rate": 4.778418900516295e-06, + "loss": 0.2052, + "num_input_tokens_seen": 6009720, + "step": 3065 + }, + { + "epoch": 0.40636182902584495, + "grad_norm": 8.766337394714355, + "learning_rate": 4.778275999108156e-06, + "loss": 0.2336, + "num_input_tokens_seen": 6011488, + "step": 3066 + }, + { + "epoch": 0.40649436713055004, + "grad_norm": 6.744692802429199, + "learning_rate": 4.778133053773285e-06, + "loss": 0.1526, + "num_input_tokens_seen": 6013040, + "step": 3067 + }, + { + "epoch": 0.40662690523525513, + "grad_norm": 12.018231391906738, + "learning_rate": 4.777990064514436e-06, + "loss": 0.5898, + "num_input_tokens_seen": 6015712, + "step": 3068 + }, + { + "epoch": 0.4067594433399602, + "grad_norm": 11.734688758850098, + "learning_rate": 4.777847031334367e-06, + "loss": 0.4626, + "num_input_tokens_seen": 6018200, + "step": 3069 + }, + { + "epoch": 0.4068919814446653, + "grad_norm": 0.4630076289176941, + "learning_rate": 4.777703954235836e-06, + "loss": 0.003, + "num_input_tokens_seen": 6020296, + "step": 3070 + }, + { + "epoch": 0.40702451954937047, + "grad_norm": 3.5980210304260254, + "learning_rate": 4.777560833221602e-06, + "loss": 0.0933, + "num_input_tokens_seen": 6022024, + "step": 3071 + }, + { + "epoch": 0.40715705765407556, + "grad_norm": 5.336532115936279, + "learning_rate": 4.777417668294423e-06, + "loss": 0.1168, + "num_input_tokens_seen": 6023808, + "step": 3072 + }, + { + "epoch": 0.40728959575878065, + "grad_norm": 6.206470012664795, + "learning_rate": 4.777274459457061e-06, + "loss": 0.1349, + "num_input_tokens_seen": 6025672, + "step": 3073 + }, + { + "epoch": 0.40742213386348575, + "grad_norm": 9.960881233215332, + "learning_rate": 4.777131206712276e-06, + "loss": 0.2055, + "num_input_tokens_seen": 6028920, + "step": 3074 + }, + { + "epoch": 0.40755467196819084, + "grad_norm": 11.088637351989746, + "learning_rate": 4.776987910062831e-06, + "loss": 0.2431, + "num_input_tokens_seen": 6031552, + "step": 3075 + }, + { + "epoch": 0.40768721007289593, + "grad_norm": 8.290035247802734, + "learning_rate": 4.776844569511488e-06, + "loss": 0.3315, + "num_input_tokens_seen": 6034800, + "step": 3076 + }, + { + "epoch": 0.4078197481776011, + "grad_norm": 0.3557060956954956, + "learning_rate": 4.776701185061011e-06, + "loss": 0.0023, + "num_input_tokens_seen": 6036192, + "step": 3077 + }, + { + "epoch": 0.4079522862823062, + "grad_norm": 10.25466537475586, + "learning_rate": 4.776557756714165e-06, + "loss": 0.3523, + "num_input_tokens_seen": 6038112, + "step": 3078 + }, + { + "epoch": 0.40808482438701127, + "grad_norm": 0.794212281703949, + "learning_rate": 4.776414284473714e-06, + "loss": 0.0051, + "num_input_tokens_seen": 6040296, + "step": 3079 + }, + { + "epoch": 0.40821736249171636, + "grad_norm": 2.279489517211914, + "learning_rate": 4.776270768342426e-06, + "loss": 0.0324, + "num_input_tokens_seen": 6043056, + "step": 3080 + }, + { + "epoch": 0.40834990059642146, + "grad_norm": 14.591126441955566, + "learning_rate": 4.776127208323066e-06, + "loss": 0.261, + "num_input_tokens_seen": 6045160, + "step": 3081 + }, + { + "epoch": 0.40848243870112655, + "grad_norm": 8.44650650024414, + "learning_rate": 4.7759836044184045e-06, + "loss": 0.2093, + "num_input_tokens_seen": 6046888, + "step": 3082 + }, + { + "epoch": 0.4086149768058317, + "grad_norm": 0.26111704111099243, + "learning_rate": 4.775839956631209e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6048240, + "step": 3083 + }, + { + "epoch": 0.4087475149105368, + "grad_norm": 12.474830627441406, + "learning_rate": 4.775696264964248e-06, + "loss": 0.258, + "num_input_tokens_seen": 6050160, + "step": 3084 + }, + { + "epoch": 0.4088800530152419, + "grad_norm": 8.354405403137207, + "learning_rate": 4.775552529420294e-06, + "loss": 0.1556, + "num_input_tokens_seen": 6052160, + "step": 3085 + }, + { + "epoch": 0.409012591119947, + "grad_norm": 11.345044136047363, + "learning_rate": 4.7754087500021166e-06, + "loss": 0.222, + "num_input_tokens_seen": 6053904, + "step": 3086 + }, + { + "epoch": 0.40914512922465207, + "grad_norm": 19.17113494873047, + "learning_rate": 4.775264926712489e-06, + "loss": 0.3486, + "num_input_tokens_seen": 6055320, + "step": 3087 + }, + { + "epoch": 0.40927766732935716, + "grad_norm": 10.271292686462402, + "learning_rate": 4.775121059554185e-06, + "loss": 0.2964, + "num_input_tokens_seen": 6057752, + "step": 3088 + }, + { + "epoch": 0.4094102054340623, + "grad_norm": 13.502019882202148, + "learning_rate": 4.774977148529976e-06, + "loss": 0.6909, + "num_input_tokens_seen": 6059664, + "step": 3089 + }, + { + "epoch": 0.4095427435387674, + "grad_norm": 0.2012919783592224, + "learning_rate": 4.77483319364264e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6060904, + "step": 3090 + }, + { + "epoch": 0.4096752816434725, + "grad_norm": 5.689934730529785, + "learning_rate": 4.774689194894949e-06, + "loss": 0.0643, + "num_input_tokens_seen": 6062440, + "step": 3091 + }, + { + "epoch": 0.4098078197481776, + "grad_norm": 0.16804854571819305, + "learning_rate": 4.774545152289682e-06, + "loss": 0.001, + "num_input_tokens_seen": 6063496, + "step": 3092 + }, + { + "epoch": 0.4099403578528827, + "grad_norm": 0.13473553955554962, + "learning_rate": 4.774401065829615e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6064816, + "step": 3093 + }, + { + "epoch": 0.4100728959575878, + "grad_norm": 17.00417137145996, + "learning_rate": 4.7742569355175265e-06, + "loss": 0.4453, + "num_input_tokens_seen": 6066272, + "step": 3094 + }, + { + "epoch": 0.41020543406229293, + "grad_norm": 0.4533868432044983, + "learning_rate": 4.774112761356196e-06, + "loss": 0.0027, + "num_input_tokens_seen": 6068736, + "step": 3095 + }, + { + "epoch": 0.410337972166998, + "grad_norm": 12.019583702087402, + "learning_rate": 4.773968543348401e-06, + "loss": 0.2849, + "num_input_tokens_seen": 6071496, + "step": 3096 + }, + { + "epoch": 0.4104705102717031, + "grad_norm": 42.181907653808594, + "learning_rate": 4.773824281496925e-06, + "loss": 0.3721, + "num_input_tokens_seen": 6073360, + "step": 3097 + }, + { + "epoch": 0.4106030483764082, + "grad_norm": 17.163623809814453, + "learning_rate": 4.773679975804548e-06, + "loss": 0.6141, + "num_input_tokens_seen": 6076352, + "step": 3098 + }, + { + "epoch": 0.4107355864811133, + "grad_norm": 13.250836372375488, + "learning_rate": 4.773535626274052e-06, + "loss": 0.1539, + "num_input_tokens_seen": 6078464, + "step": 3099 + }, + { + "epoch": 0.41086812458581845, + "grad_norm": 0.06211230531334877, + "learning_rate": 4.773391232908221e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6080024, + "step": 3100 + }, + { + "epoch": 0.41100066269052354, + "grad_norm": 10.412588119506836, + "learning_rate": 4.77324679570984e-06, + "loss": 0.4491, + "num_input_tokens_seen": 6081584, + "step": 3101 + }, + { + "epoch": 0.41113320079522864, + "grad_norm": 10.901458740234375, + "learning_rate": 4.77310231468169e-06, + "loss": 0.1699, + "num_input_tokens_seen": 6083480, + "step": 3102 + }, + { + "epoch": 0.41126573889993373, + "grad_norm": 14.307418823242188, + "learning_rate": 4.772957789826561e-06, + "loss": 0.4568, + "num_input_tokens_seen": 6085696, + "step": 3103 + }, + { + "epoch": 0.4113982770046388, + "grad_norm": 0.22862078249454498, + "learning_rate": 4.772813221147238e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6087016, + "step": 3104 + }, + { + "epoch": 0.4115308151093439, + "grad_norm": 9.769891738891602, + "learning_rate": 4.772668608646507e-06, + "loss": 0.2239, + "num_input_tokens_seen": 6088616, + "step": 3105 + }, + { + "epoch": 0.41166335321404907, + "grad_norm": 15.975464820861816, + "learning_rate": 4.772523952327158e-06, + "loss": 0.4469, + "num_input_tokens_seen": 6090528, + "step": 3106 + }, + { + "epoch": 0.41179589131875416, + "grad_norm": 0.19305944442749023, + "learning_rate": 4.77237925219198e-06, + "loss": 0.001, + "num_input_tokens_seen": 6092024, + "step": 3107 + }, + { + "epoch": 0.41192842942345925, + "grad_norm": 17.83104705810547, + "learning_rate": 4.772234508243762e-06, + "loss": 0.8094, + "num_input_tokens_seen": 6094184, + "step": 3108 + }, + { + "epoch": 0.41206096752816435, + "grad_norm": 5.032706260681152, + "learning_rate": 4.772089720485294e-06, + "loss": 0.0383, + "num_input_tokens_seen": 6096752, + "step": 3109 + }, + { + "epoch": 0.41219350563286944, + "grad_norm": 14.342052459716797, + "learning_rate": 4.77194488891937e-06, + "loss": 0.6316, + "num_input_tokens_seen": 6099168, + "step": 3110 + }, + { + "epoch": 0.41232604373757453, + "grad_norm": 0.8267076015472412, + "learning_rate": 4.7718000135487805e-06, + "loss": 0.0047, + "num_input_tokens_seen": 6102288, + "step": 3111 + }, + { + "epoch": 0.4124585818422797, + "grad_norm": 17.27442169189453, + "learning_rate": 4.77165509437632e-06, + "loss": 0.5241, + "num_input_tokens_seen": 6105184, + "step": 3112 + }, + { + "epoch": 0.4125911199469848, + "grad_norm": 4.625985622406006, + "learning_rate": 4.771510131404782e-06, + "loss": 0.1199, + "num_input_tokens_seen": 6107976, + "step": 3113 + }, + { + "epoch": 0.41272365805168987, + "grad_norm": 19.51150131225586, + "learning_rate": 4.771365124636962e-06, + "loss": 0.7241, + "num_input_tokens_seen": 6109464, + "step": 3114 + }, + { + "epoch": 0.41285619615639496, + "grad_norm": 5.553974628448486, + "learning_rate": 4.771220074075655e-06, + "loss": 0.0661, + "num_input_tokens_seen": 6110952, + "step": 3115 + }, + { + "epoch": 0.41298873426110005, + "grad_norm": 11.857381820678711, + "learning_rate": 4.771074979723658e-06, + "loss": 0.3017, + "num_input_tokens_seen": 6112760, + "step": 3116 + }, + { + "epoch": 0.41312127236580515, + "grad_norm": 6.518974781036377, + "learning_rate": 4.770929841583769e-06, + "loss": 0.2368, + "num_input_tokens_seen": 6114952, + "step": 3117 + }, + { + "epoch": 0.4132538104705103, + "grad_norm": 12.872612953186035, + "learning_rate": 4.770784659658786e-06, + "loss": 0.2508, + "num_input_tokens_seen": 6116928, + "step": 3118 + }, + { + "epoch": 0.4133863485752154, + "grad_norm": 21.21937370300293, + "learning_rate": 4.7706394339515084e-06, + "loss": 0.5766, + "num_input_tokens_seen": 6118968, + "step": 3119 + }, + { + "epoch": 0.4135188866799205, + "grad_norm": 11.144512176513672, + "learning_rate": 4.770494164464736e-06, + "loss": 0.1176, + "num_input_tokens_seen": 6120664, + "step": 3120 + }, + { + "epoch": 0.4136514247846256, + "grad_norm": 0.5427361130714417, + "learning_rate": 4.77034885120127e-06, + "loss": 0.0032, + "num_input_tokens_seen": 6122608, + "step": 3121 + }, + { + "epoch": 0.41378396288933067, + "grad_norm": 14.200712203979492, + "learning_rate": 4.770203494163911e-06, + "loss": 0.4424, + "num_input_tokens_seen": 6124632, + "step": 3122 + }, + { + "epoch": 0.41391650099403576, + "grad_norm": 17.00480079650879, + "learning_rate": 4.770058093355463e-06, + "loss": 0.52, + "num_input_tokens_seen": 6127632, + "step": 3123 + }, + { + "epoch": 0.4140490390987409, + "grad_norm": 10.266498565673828, + "learning_rate": 4.76991264877873e-06, + "loss": 0.1349, + "num_input_tokens_seen": 6130328, + "step": 3124 + }, + { + "epoch": 0.414181577203446, + "grad_norm": 16.510438919067383, + "learning_rate": 4.769767160436513e-06, + "loss": 0.3694, + "num_input_tokens_seen": 6132504, + "step": 3125 + }, + { + "epoch": 0.4143141153081511, + "grad_norm": 9.144237518310547, + "learning_rate": 4.769621628331621e-06, + "loss": 0.1583, + "num_input_tokens_seen": 6134448, + "step": 3126 + }, + { + "epoch": 0.4144466534128562, + "grad_norm": 15.152335166931152, + "learning_rate": 4.769476052466858e-06, + "loss": 0.2271, + "num_input_tokens_seen": 6136088, + "step": 3127 + }, + { + "epoch": 0.4145791915175613, + "grad_norm": 11.477108001708984, + "learning_rate": 4.769330432845031e-06, + "loss": 0.2565, + "num_input_tokens_seen": 6137712, + "step": 3128 + }, + { + "epoch": 0.4147117296222664, + "grad_norm": 7.583346843719482, + "learning_rate": 4.769184769468947e-06, + "loss": 0.1339, + "num_input_tokens_seen": 6139192, + "step": 3129 + }, + { + "epoch": 0.4148442677269715, + "grad_norm": 12.235583305358887, + "learning_rate": 4.769039062341416e-06, + "loss": 0.4335, + "num_input_tokens_seen": 6140768, + "step": 3130 + }, + { + "epoch": 0.4149768058316766, + "grad_norm": 11.85566520690918, + "learning_rate": 4.768893311465247e-06, + "loss": 0.3706, + "num_input_tokens_seen": 6143088, + "step": 3131 + }, + { + "epoch": 0.4151093439363817, + "grad_norm": 11.401771545410156, + "learning_rate": 4.768747516843248e-06, + "loss": 0.3559, + "num_input_tokens_seen": 6144656, + "step": 3132 + }, + { + "epoch": 0.4152418820410868, + "grad_norm": 3.7596797943115234, + "learning_rate": 4.768601678478233e-06, + "loss": 0.0218, + "num_input_tokens_seen": 6146072, + "step": 3133 + }, + { + "epoch": 0.4153744201457919, + "grad_norm": 7.428145885467529, + "learning_rate": 4.7684557963730125e-06, + "loss": 0.1476, + "num_input_tokens_seen": 6147888, + "step": 3134 + }, + { + "epoch": 0.415506958250497, + "grad_norm": 10.638260841369629, + "learning_rate": 4.7683098705303995e-06, + "loss": 0.3115, + "num_input_tokens_seen": 6149528, + "step": 3135 + }, + { + "epoch": 0.41563949635520214, + "grad_norm": 8.499889373779297, + "learning_rate": 4.768163900953207e-06, + "loss": 0.1436, + "num_input_tokens_seen": 6151400, + "step": 3136 + }, + { + "epoch": 0.41577203445990724, + "grad_norm": 6.4343976974487305, + "learning_rate": 4.76801788764425e-06, + "loss": 0.2123, + "num_input_tokens_seen": 6153928, + "step": 3137 + }, + { + "epoch": 0.41590457256461233, + "grad_norm": 2.0699076652526855, + "learning_rate": 4.767871830606343e-06, + "loss": 0.0123, + "num_input_tokens_seen": 6156352, + "step": 3138 + }, + { + "epoch": 0.4160371106693174, + "grad_norm": 10.167271614074707, + "learning_rate": 4.767725729842303e-06, + "loss": 0.2444, + "num_input_tokens_seen": 6158368, + "step": 3139 + }, + { + "epoch": 0.4161696487740225, + "grad_norm": 9.541232109069824, + "learning_rate": 4.7675795853549465e-06, + "loss": 0.2729, + "num_input_tokens_seen": 6160592, + "step": 3140 + }, + { + "epoch": 0.4163021868787276, + "grad_norm": 0.28433868288993835, + "learning_rate": 4.767433397147092e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6162072, + "step": 3141 + }, + { + "epoch": 0.41643472498343276, + "grad_norm": 6.1566243171691895, + "learning_rate": 4.767287165221557e-06, + "loss": 0.0757, + "num_input_tokens_seen": 6163680, + "step": 3142 + }, + { + "epoch": 0.41656726308813785, + "grad_norm": 0.060589615255594254, + "learning_rate": 4.76714088958116e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6164992, + "step": 3143 + }, + { + "epoch": 0.41669980119284294, + "grad_norm": 3.048267126083374, + "learning_rate": 4.766994570228723e-06, + "loss": 0.0199, + "num_input_tokens_seen": 6167136, + "step": 3144 + }, + { + "epoch": 0.41683233929754804, + "grad_norm": 0.09219857305288315, + "learning_rate": 4.766848207167069e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6169176, + "step": 3145 + }, + { + "epoch": 0.41696487740225313, + "grad_norm": 19.610143661499023, + "learning_rate": 4.766701800399015e-06, + "loss": 0.2388, + "num_input_tokens_seen": 6171008, + "step": 3146 + }, + { + "epoch": 0.4170974155069582, + "grad_norm": 0.07013262808322906, + "learning_rate": 4.7665553499273875e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6173600, + "step": 3147 + }, + { + "epoch": 0.4172299536116634, + "grad_norm": 9.332684516906738, + "learning_rate": 4.76640885575501e-06, + "loss": 0.3414, + "num_input_tokens_seen": 6174880, + "step": 3148 + }, + { + "epoch": 0.41736249171636847, + "grad_norm": 11.6048583984375, + "learning_rate": 4.766262317884706e-06, + "loss": 0.1967, + "num_input_tokens_seen": 6177560, + "step": 3149 + }, + { + "epoch": 0.41749502982107356, + "grad_norm": 12.333416938781738, + "learning_rate": 4.7661157363193e-06, + "loss": 0.2254, + "num_input_tokens_seen": 6180184, + "step": 3150 + }, + { + "epoch": 0.41762756792577865, + "grad_norm": 0.060673609375953674, + "learning_rate": 4.76596911106162e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6181848, + "step": 3151 + }, + { + "epoch": 0.41776010603048375, + "grad_norm": 0.2722627520561218, + "learning_rate": 4.765822442114493e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6183592, + "step": 3152 + }, + { + "epoch": 0.41789264413518884, + "grad_norm": 25.811012268066406, + "learning_rate": 4.765675729480746e-06, + "loss": 0.9896, + "num_input_tokens_seen": 6185856, + "step": 3153 + }, + { + "epoch": 0.418025182239894, + "grad_norm": 13.918129920959473, + "learning_rate": 4.7655289731632075e-06, + "loss": 0.5266, + "num_input_tokens_seen": 6187336, + "step": 3154 + }, + { + "epoch": 0.4181577203445991, + "grad_norm": 10.792093276977539, + "learning_rate": 4.765382173164706e-06, + "loss": 0.1677, + "num_input_tokens_seen": 6189296, + "step": 3155 + }, + { + "epoch": 0.4182902584493042, + "grad_norm": 3.2576427459716797, + "learning_rate": 4.765235329488075e-06, + "loss": 0.0277, + "num_input_tokens_seen": 6191600, + "step": 3156 + }, + { + "epoch": 0.41842279655400927, + "grad_norm": 5.458369255065918, + "learning_rate": 4.765088442136144e-06, + "loss": 0.105, + "num_input_tokens_seen": 6193864, + "step": 3157 + }, + { + "epoch": 0.41855533465871436, + "grad_norm": 0.035416051745414734, + "learning_rate": 4.764941511111746e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6195304, + "step": 3158 + }, + { + "epoch": 0.4186878727634195, + "grad_norm": 0.0703611969947815, + "learning_rate": 4.764794536417712e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6197496, + "step": 3159 + }, + { + "epoch": 0.4188204108681246, + "grad_norm": 9.709760665893555, + "learning_rate": 4.764647518056877e-06, + "loss": 0.2388, + "num_input_tokens_seen": 6199016, + "step": 3160 + }, + { + "epoch": 0.4189529489728297, + "grad_norm": 9.391764640808105, + "learning_rate": 4.764500456032076e-06, + "loss": 0.3105, + "num_input_tokens_seen": 6200776, + "step": 3161 + }, + { + "epoch": 0.4190854870775348, + "grad_norm": 18.629287719726562, + "learning_rate": 4.764353350346144e-06, + "loss": 0.6329, + "num_input_tokens_seen": 6202984, + "step": 3162 + }, + { + "epoch": 0.4192180251822399, + "grad_norm": 7.715208530426025, + "learning_rate": 4.764206201001918e-06, + "loss": 0.2561, + "num_input_tokens_seen": 6204880, + "step": 3163 + }, + { + "epoch": 0.419350563286945, + "grad_norm": 13.882681846618652, + "learning_rate": 4.764059008002233e-06, + "loss": 0.5021, + "num_input_tokens_seen": 6206272, + "step": 3164 + }, + { + "epoch": 0.4194831013916501, + "grad_norm": 10.552160263061523, + "learning_rate": 4.7639117713499295e-06, + "loss": 0.2802, + "num_input_tokens_seen": 6208128, + "step": 3165 + }, + { + "epoch": 0.4196156394963552, + "grad_norm": 14.564270973205566, + "learning_rate": 4.763764491047845e-06, + "loss": 0.5994, + "num_input_tokens_seen": 6209688, + "step": 3166 + }, + { + "epoch": 0.4197481776010603, + "grad_norm": 6.692846775054932, + "learning_rate": 4.763617167098819e-06, + "loss": 0.168, + "num_input_tokens_seen": 6210992, + "step": 3167 + }, + { + "epoch": 0.4198807157057654, + "grad_norm": 16.475135803222656, + "learning_rate": 4.763469799505693e-06, + "loss": 0.5053, + "num_input_tokens_seen": 6213088, + "step": 3168 + }, + { + "epoch": 0.4200132538104705, + "grad_norm": 3.4039344787597656, + "learning_rate": 4.763322388271307e-06, + "loss": 0.0951, + "num_input_tokens_seen": 6214816, + "step": 3169 + }, + { + "epoch": 0.4201457919151756, + "grad_norm": 1.5329331159591675, + "learning_rate": 4.7631749333985044e-06, + "loss": 0.0099, + "num_input_tokens_seen": 6216768, + "step": 3170 + }, + { + "epoch": 0.42027833001988074, + "grad_norm": 0.1647091805934906, + "learning_rate": 4.7630274348901285e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6218296, + "step": 3171 + }, + { + "epoch": 0.42041086812458583, + "grad_norm": 2.2457377910614014, + "learning_rate": 4.762879892749022e-06, + "loss": 0.0123, + "num_input_tokens_seen": 6220776, + "step": 3172 + }, + { + "epoch": 0.42054340622929093, + "grad_norm": 8.632234573364258, + "learning_rate": 4.762732306978029e-06, + "loss": 0.263, + "num_input_tokens_seen": 6223248, + "step": 3173 + }, + { + "epoch": 0.420675944333996, + "grad_norm": 12.974858283996582, + "learning_rate": 4.7625846775799975e-06, + "loss": 0.5419, + "num_input_tokens_seen": 6224992, + "step": 3174 + }, + { + "epoch": 0.4208084824387011, + "grad_norm": 0.2980729937553406, + "learning_rate": 4.7624370045577715e-06, + "loss": 0.002, + "num_input_tokens_seen": 6226560, + "step": 3175 + }, + { + "epoch": 0.4209410205434062, + "grad_norm": 0.8574631214141846, + "learning_rate": 4.7622892879142e-06, + "loss": 0.0055, + "num_input_tokens_seen": 6228216, + "step": 3176 + }, + { + "epoch": 0.42107355864811136, + "grad_norm": 10.34976577758789, + "learning_rate": 4.762141527652131e-06, + "loss": 0.2832, + "num_input_tokens_seen": 6230296, + "step": 3177 + }, + { + "epoch": 0.42120609675281645, + "grad_norm": 8.182145118713379, + "learning_rate": 4.761993723774411e-06, + "loss": 0.1288, + "num_input_tokens_seen": 6232512, + "step": 3178 + }, + { + "epoch": 0.42133863485752154, + "grad_norm": 0.34891024231910706, + "learning_rate": 4.761845876283893e-06, + "loss": 0.0023, + "num_input_tokens_seen": 6234168, + "step": 3179 + }, + { + "epoch": 0.42147117296222664, + "grad_norm": 2.2028005123138428, + "learning_rate": 4.761697985183426e-06, + "loss": 0.0143, + "num_input_tokens_seen": 6236160, + "step": 3180 + }, + { + "epoch": 0.42160371106693173, + "grad_norm": 0.16459161043167114, + "learning_rate": 4.761550050475861e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6238520, + "step": 3181 + }, + { + "epoch": 0.4217362491716368, + "grad_norm": 6.952666282653809, + "learning_rate": 4.761402072164051e-06, + "loss": 0.0601, + "num_input_tokens_seen": 6240056, + "step": 3182 + }, + { + "epoch": 0.42186878727634197, + "grad_norm": 12.082425117492676, + "learning_rate": 4.76125405025085e-06, + "loss": 0.3815, + "num_input_tokens_seen": 6242728, + "step": 3183 + }, + { + "epoch": 0.42200132538104707, + "grad_norm": 9.790754318237305, + "learning_rate": 4.76110598473911e-06, + "loss": 0.1503, + "num_input_tokens_seen": 6245088, + "step": 3184 + }, + { + "epoch": 0.42213386348575216, + "grad_norm": 13.3594970703125, + "learning_rate": 4.760957875631686e-06, + "loss": 0.4013, + "num_input_tokens_seen": 6247008, + "step": 3185 + }, + { + "epoch": 0.42226640159045725, + "grad_norm": 12.206310272216797, + "learning_rate": 4.760809722931435e-06, + "loss": 0.3708, + "num_input_tokens_seen": 6248904, + "step": 3186 + }, + { + "epoch": 0.42239893969516235, + "grad_norm": 11.866032600402832, + "learning_rate": 4.760661526641214e-06, + "loss": 0.2464, + "num_input_tokens_seen": 6251328, + "step": 3187 + }, + { + "epoch": 0.42253147779986744, + "grad_norm": 16.07721519470215, + "learning_rate": 4.760513286763878e-06, + "loss": 0.4798, + "num_input_tokens_seen": 6252536, + "step": 3188 + }, + { + "epoch": 0.4226640159045726, + "grad_norm": 6.7011399269104, + "learning_rate": 4.760365003302286e-06, + "loss": 0.1763, + "num_input_tokens_seen": 6254176, + "step": 3189 + }, + { + "epoch": 0.4227965540092777, + "grad_norm": 10.597217559814453, + "learning_rate": 4.7602166762592985e-06, + "loss": 0.2457, + "num_input_tokens_seen": 6256208, + "step": 3190 + }, + { + "epoch": 0.4229290921139828, + "grad_norm": 8.765196800231934, + "learning_rate": 4.7600683056377735e-06, + "loss": 0.1289, + "num_input_tokens_seen": 6257488, + "step": 3191 + }, + { + "epoch": 0.42306163021868787, + "grad_norm": 10.604379653930664, + "learning_rate": 4.759919891440573e-06, + "loss": 0.213, + "num_input_tokens_seen": 6258736, + "step": 3192 + }, + { + "epoch": 0.42319416832339296, + "grad_norm": 5.606478691101074, + "learning_rate": 4.7597714336705585e-06, + "loss": 0.1711, + "num_input_tokens_seen": 6260632, + "step": 3193 + }, + { + "epoch": 0.42332670642809805, + "grad_norm": 24.88968276977539, + "learning_rate": 4.759622932330591e-06, + "loss": 0.5038, + "num_input_tokens_seen": 6262416, + "step": 3194 + }, + { + "epoch": 0.4234592445328032, + "grad_norm": 0.5721713304519653, + "learning_rate": 4.759474387423534e-06, + "loss": 0.0038, + "num_input_tokens_seen": 6264400, + "step": 3195 + }, + { + "epoch": 0.4235917826375083, + "grad_norm": 6.471712589263916, + "learning_rate": 4.759325798952253e-06, + "loss": 0.0827, + "num_input_tokens_seen": 6266072, + "step": 3196 + }, + { + "epoch": 0.4237243207422134, + "grad_norm": 4.871187686920166, + "learning_rate": 4.7591771669196115e-06, + "loss": 0.0416, + "num_input_tokens_seen": 6268096, + "step": 3197 + }, + { + "epoch": 0.4238568588469185, + "grad_norm": 8.076518058776855, + "learning_rate": 4.759028491328476e-06, + "loss": 0.3966, + "num_input_tokens_seen": 6269864, + "step": 3198 + }, + { + "epoch": 0.4239893969516236, + "grad_norm": 12.052094459533691, + "learning_rate": 4.7588797721817125e-06, + "loss": 0.2255, + "num_input_tokens_seen": 6273008, + "step": 3199 + }, + { + "epoch": 0.42412193505632867, + "grad_norm": 8.013740539550781, + "learning_rate": 4.758731009482189e-06, + "loss": 0.2477, + "num_input_tokens_seen": 6274832, + "step": 3200 + }, + { + "epoch": 0.4242544731610338, + "grad_norm": 1.2955780029296875, + "learning_rate": 4.758582203232773e-06, + "loss": 0.0079, + "num_input_tokens_seen": 6277168, + "step": 3201 + }, + { + "epoch": 0.4243870112657389, + "grad_norm": 6.372220039367676, + "learning_rate": 4.758433353436334e-06, + "loss": 0.1013, + "num_input_tokens_seen": 6278952, + "step": 3202 + }, + { + "epoch": 0.424519549370444, + "grad_norm": 7.447582721710205, + "learning_rate": 4.7582844600957425e-06, + "loss": 0.3166, + "num_input_tokens_seen": 6280856, + "step": 3203 + }, + { + "epoch": 0.4246520874751491, + "grad_norm": 3.587099552154541, + "learning_rate": 4.758135523213868e-06, + "loss": 0.0586, + "num_input_tokens_seen": 6284152, + "step": 3204 + }, + { + "epoch": 0.4247846255798542, + "grad_norm": 9.551051139831543, + "learning_rate": 4.757986542793583e-06, + "loss": 0.3202, + "num_input_tokens_seen": 6286176, + "step": 3205 + }, + { + "epoch": 0.4249171636845593, + "grad_norm": 10.828388214111328, + "learning_rate": 4.75783751883776e-06, + "loss": 0.2285, + "num_input_tokens_seen": 6288416, + "step": 3206 + }, + { + "epoch": 0.42504970178926443, + "grad_norm": 8.946134567260742, + "learning_rate": 4.757688451349271e-06, + "loss": 0.0646, + "num_input_tokens_seen": 6290424, + "step": 3207 + }, + { + "epoch": 0.4251822398939695, + "grad_norm": 10.437426567077637, + "learning_rate": 4.757539340330993e-06, + "loss": 0.313, + "num_input_tokens_seen": 6293568, + "step": 3208 + }, + { + "epoch": 0.4253147779986746, + "grad_norm": 14.829366683959961, + "learning_rate": 4.757390185785798e-06, + "loss": 0.3653, + "num_input_tokens_seen": 6295504, + "step": 3209 + }, + { + "epoch": 0.4254473161033797, + "grad_norm": 20.425113677978516, + "learning_rate": 4.7572409877165624e-06, + "loss": 0.6285, + "num_input_tokens_seen": 6298096, + "step": 3210 + }, + { + "epoch": 0.4255798542080848, + "grad_norm": 12.301413536071777, + "learning_rate": 4.757091746126165e-06, + "loss": 0.2366, + "num_input_tokens_seen": 6299744, + "step": 3211 + }, + { + "epoch": 0.4257123923127899, + "grad_norm": 9.431246757507324, + "learning_rate": 4.756942461017481e-06, + "loss": 0.1655, + "num_input_tokens_seen": 6300888, + "step": 3212 + }, + { + "epoch": 0.42584493041749505, + "grad_norm": 7.4078450202941895, + "learning_rate": 4.756793132393388e-06, + "loss": 0.131, + "num_input_tokens_seen": 6303872, + "step": 3213 + }, + { + "epoch": 0.42597746852220014, + "grad_norm": 0.44162753224372864, + "learning_rate": 4.7566437602567686e-06, + "loss": 0.0028, + "num_input_tokens_seen": 6305544, + "step": 3214 + }, + { + "epoch": 0.42611000662690524, + "grad_norm": 15.503522872924805, + "learning_rate": 4.7564943446105e-06, + "loss": 0.4489, + "num_input_tokens_seen": 6308016, + "step": 3215 + }, + { + "epoch": 0.42624254473161033, + "grad_norm": 8.623398780822754, + "learning_rate": 4.756344885457462e-06, + "loss": 0.1578, + "num_input_tokens_seen": 6310632, + "step": 3216 + }, + { + "epoch": 0.4263750828363154, + "grad_norm": 6.237339019775391, + "learning_rate": 4.75619538280054e-06, + "loss": 0.0663, + "num_input_tokens_seen": 6312368, + "step": 3217 + }, + { + "epoch": 0.42650762094102057, + "grad_norm": 25.49467658996582, + "learning_rate": 4.756045836642614e-06, + "loss": 0.6745, + "num_input_tokens_seen": 6314936, + "step": 3218 + }, + { + "epoch": 0.42664015904572566, + "grad_norm": 6.262709617614746, + "learning_rate": 4.755896246986568e-06, + "loss": 0.3051, + "num_input_tokens_seen": 6316848, + "step": 3219 + }, + { + "epoch": 0.42677269715043076, + "grad_norm": 9.886835098266602, + "learning_rate": 4.755746613835287e-06, + "loss": 0.4395, + "num_input_tokens_seen": 6318280, + "step": 3220 + }, + { + "epoch": 0.42690523525513585, + "grad_norm": 12.256113052368164, + "learning_rate": 4.755596937191653e-06, + "loss": 0.1916, + "num_input_tokens_seen": 6320352, + "step": 3221 + }, + { + "epoch": 0.42703777335984094, + "grad_norm": 16.476892471313477, + "learning_rate": 4.755447217058556e-06, + "loss": 0.4537, + "num_input_tokens_seen": 6322320, + "step": 3222 + }, + { + "epoch": 0.42717031146454604, + "grad_norm": 0.5555036067962646, + "learning_rate": 4.75529745343888e-06, + "loss": 0.0037, + "num_input_tokens_seen": 6323872, + "step": 3223 + }, + { + "epoch": 0.4273028495692512, + "grad_norm": 16.511619567871094, + "learning_rate": 4.755147646335513e-06, + "loss": 0.4184, + "num_input_tokens_seen": 6326064, + "step": 3224 + }, + { + "epoch": 0.4274353876739563, + "grad_norm": 3.4608192443847656, + "learning_rate": 4.754997795751344e-06, + "loss": 0.0298, + "num_input_tokens_seen": 6327024, + "step": 3225 + }, + { + "epoch": 0.4275679257786614, + "grad_norm": 15.203058242797852, + "learning_rate": 4.754847901689261e-06, + "loss": 0.3173, + "num_input_tokens_seen": 6328904, + "step": 3226 + }, + { + "epoch": 0.42770046388336647, + "grad_norm": 6.806552410125732, + "learning_rate": 4.754697964152155e-06, + "loss": 0.2833, + "num_input_tokens_seen": 6330512, + "step": 3227 + }, + { + "epoch": 0.42783300198807156, + "grad_norm": 0.29349565505981445, + "learning_rate": 4.754547983142918e-06, + "loss": 0.0019, + "num_input_tokens_seen": 6331664, + "step": 3228 + }, + { + "epoch": 0.42796554009277665, + "grad_norm": 12.76695728302002, + "learning_rate": 4.75439795866444e-06, + "loss": 0.4526, + "num_input_tokens_seen": 6333216, + "step": 3229 + }, + { + "epoch": 0.4280980781974818, + "grad_norm": 0.6151604056358337, + "learning_rate": 4.754247890719615e-06, + "loss": 0.0041, + "num_input_tokens_seen": 6334448, + "step": 3230 + }, + { + "epoch": 0.4282306163021869, + "grad_norm": 0.5471124649047852, + "learning_rate": 4.754097779311333e-06, + "loss": 0.0036, + "num_input_tokens_seen": 6335672, + "step": 3231 + }, + { + "epoch": 0.428363154406892, + "grad_norm": 8.136335372924805, + "learning_rate": 4.753947624442493e-06, + "loss": 0.1509, + "num_input_tokens_seen": 6338552, + "step": 3232 + }, + { + "epoch": 0.4284956925115971, + "grad_norm": 0.37853461503982544, + "learning_rate": 4.753797426115987e-06, + "loss": 0.0025, + "num_input_tokens_seen": 6341144, + "step": 3233 + }, + { + "epoch": 0.4286282306163022, + "grad_norm": 11.111507415771484, + "learning_rate": 4.7536471843347124e-06, + "loss": 0.4224, + "num_input_tokens_seen": 6344120, + "step": 3234 + }, + { + "epoch": 0.42876076872100727, + "grad_norm": 1.112655520439148, + "learning_rate": 4.753496899101565e-06, + "loss": 0.0015, + "num_input_tokens_seen": 6345384, + "step": 3235 + }, + { + "epoch": 0.4288933068257124, + "grad_norm": 6.592243671417236, + "learning_rate": 4.753346570419442e-06, + "loss": 0.1619, + "num_input_tokens_seen": 6346680, + "step": 3236 + }, + { + "epoch": 0.4290258449304175, + "grad_norm": 0.24551311135292053, + "learning_rate": 4.753196198291244e-06, + "loss": 0.0015, + "num_input_tokens_seen": 6348336, + "step": 3237 + }, + { + "epoch": 0.4291583830351226, + "grad_norm": 3.84431791305542, + "learning_rate": 4.753045782719868e-06, + "loss": 0.1027, + "num_input_tokens_seen": 6351560, + "step": 3238 + }, + { + "epoch": 0.4292909211398277, + "grad_norm": 1.7530347108840942, + "learning_rate": 4.752895323708216e-06, + "loss": 0.0085, + "num_input_tokens_seen": 6353784, + "step": 3239 + }, + { + "epoch": 0.4294234592445328, + "grad_norm": 1.575809121131897, + "learning_rate": 4.752744821259188e-06, + "loss": 0.0139, + "num_input_tokens_seen": 6356016, + "step": 3240 + }, + { + "epoch": 0.4295559973492379, + "grad_norm": 10.949199676513672, + "learning_rate": 4.752594275375684e-06, + "loss": 0.3173, + "num_input_tokens_seen": 6359160, + "step": 3241 + }, + { + "epoch": 0.42968853545394303, + "grad_norm": 0.23050843179225922, + "learning_rate": 4.752443686060609e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6360584, + "step": 3242 + }, + { + "epoch": 0.4298210735586481, + "grad_norm": 12.696118354797363, + "learning_rate": 4.752293053316867e-06, + "loss": 0.2938, + "num_input_tokens_seen": 6363496, + "step": 3243 + }, + { + "epoch": 0.4299536116633532, + "grad_norm": 7.891383171081543, + "learning_rate": 4.7521423771473605e-06, + "loss": 0.3196, + "num_input_tokens_seen": 6365776, + "step": 3244 + }, + { + "epoch": 0.4300861497680583, + "grad_norm": 6.171553134918213, + "learning_rate": 4.751991657554995e-06, + "loss": 0.0778, + "num_input_tokens_seen": 6367384, + "step": 3245 + }, + { + "epoch": 0.4302186878727634, + "grad_norm": 0.1137521043419838, + "learning_rate": 4.751840894542677e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6368664, + "step": 3246 + }, + { + "epoch": 0.4303512259774685, + "grad_norm": 0.07953488826751709, + "learning_rate": 4.751690088113313e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6369592, + "step": 3247 + }, + { + "epoch": 0.43048376408217365, + "grad_norm": 6.827754497528076, + "learning_rate": 4.751539238269811e-06, + "loss": 0.1433, + "num_input_tokens_seen": 6371728, + "step": 3248 + }, + { + "epoch": 0.43061630218687874, + "grad_norm": 9.533121109008789, + "learning_rate": 4.751388345015079e-06, + "loss": 0.3224, + "num_input_tokens_seen": 6373808, + "step": 3249 + }, + { + "epoch": 0.43074884029158383, + "grad_norm": 0.2911543548107147, + "learning_rate": 4.751237408352027e-06, + "loss": 0.0018, + "num_input_tokens_seen": 6375160, + "step": 3250 + }, + { + "epoch": 0.4308813783962889, + "grad_norm": 6.170498847961426, + "learning_rate": 4.751086428283564e-06, + "loss": 0.218, + "num_input_tokens_seen": 6376944, + "step": 3251 + }, + { + "epoch": 0.431013916500994, + "grad_norm": 5.136447906494141, + "learning_rate": 4.7509354048126025e-06, + "loss": 0.1243, + "num_input_tokens_seen": 6378808, + "step": 3252 + }, + { + "epoch": 0.4311464546056991, + "grad_norm": 0.12435410171747208, + "learning_rate": 4.750784337942053e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6380480, + "step": 3253 + }, + { + "epoch": 0.43127899271040426, + "grad_norm": 10.81765365600586, + "learning_rate": 4.750633227674829e-06, + "loss": 0.2345, + "num_input_tokens_seen": 6382608, + "step": 3254 + }, + { + "epoch": 0.43141153081510936, + "grad_norm": 9.513566017150879, + "learning_rate": 4.7504820740138436e-06, + "loss": 0.1001, + "num_input_tokens_seen": 6385504, + "step": 3255 + }, + { + "epoch": 0.43154406891981445, + "grad_norm": 11.01030445098877, + "learning_rate": 4.750330876962012e-06, + "loss": 0.3387, + "num_input_tokens_seen": 6387080, + "step": 3256 + }, + { + "epoch": 0.43167660702451954, + "grad_norm": 0.14989186823368073, + "learning_rate": 4.750179636522248e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6388440, + "step": 3257 + }, + { + "epoch": 0.43180914512922464, + "grad_norm": 0.23726676404476166, + "learning_rate": 4.750028352697467e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6390432, + "step": 3258 + }, + { + "epoch": 0.43194168323392973, + "grad_norm": 2.9729433059692383, + "learning_rate": 4.749877025490589e-06, + "loss": 0.0439, + "num_input_tokens_seen": 6392192, + "step": 3259 + }, + { + "epoch": 0.4320742213386349, + "grad_norm": 2.461897850036621, + "learning_rate": 4.749725654904529e-06, + "loss": 0.0165, + "num_input_tokens_seen": 6393368, + "step": 3260 + }, + { + "epoch": 0.43220675944333997, + "grad_norm": 8.683965682983398, + "learning_rate": 4.749574240942206e-06, + "loss": 0.2531, + "num_input_tokens_seen": 6395120, + "step": 3261 + }, + { + "epoch": 0.43233929754804507, + "grad_norm": 6.3044538497924805, + "learning_rate": 4.749422783606541e-06, + "loss": 0.1591, + "num_input_tokens_seen": 6397496, + "step": 3262 + }, + { + "epoch": 0.43247183565275016, + "grad_norm": 16.04700469970703, + "learning_rate": 4.749271282900451e-06, + "loss": 0.4915, + "num_input_tokens_seen": 6399848, + "step": 3263 + }, + { + "epoch": 0.43260437375745525, + "grad_norm": 15.745956420898438, + "learning_rate": 4.749119738826862e-06, + "loss": 0.5069, + "num_input_tokens_seen": 6402104, + "step": 3264 + }, + { + "epoch": 0.43273691186216034, + "grad_norm": 0.0707186609506607, + "learning_rate": 4.748968151388691e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6403656, + "step": 3265 + }, + { + "epoch": 0.4328694499668655, + "grad_norm": 0.04840201884508133, + "learning_rate": 4.748816520588862e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6404848, + "step": 3266 + }, + { + "epoch": 0.4330019880715706, + "grad_norm": 0.05223044753074646, + "learning_rate": 4.7486648464303e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6406208, + "step": 3267 + }, + { + "epoch": 0.4331345261762757, + "grad_norm": 3.870861530303955, + "learning_rate": 4.748513128915928e-06, + "loss": 0.0494, + "num_input_tokens_seen": 6409528, + "step": 3268 + }, + { + "epoch": 0.4332670642809808, + "grad_norm": 0.05873791500926018, + "learning_rate": 4.748361368048672e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6410960, + "step": 3269 + }, + { + "epoch": 0.43339960238568587, + "grad_norm": 6.463876247406006, + "learning_rate": 4.7482095638314575e-06, + "loss": 0.079, + "num_input_tokens_seen": 6412696, + "step": 3270 + }, + { + "epoch": 0.43353214049039096, + "grad_norm": 8.980402946472168, + "learning_rate": 4.748057716267212e-06, + "loss": 0.3456, + "num_input_tokens_seen": 6414448, + "step": 3271 + }, + { + "epoch": 0.4336646785950961, + "grad_norm": 0.3042178452014923, + "learning_rate": 4.747905825358863e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6416512, + "step": 3272 + }, + { + "epoch": 0.4337972166998012, + "grad_norm": 0.4682639539241791, + "learning_rate": 4.747753891109338e-06, + "loss": 0.0026, + "num_input_tokens_seen": 6417952, + "step": 3273 + }, + { + "epoch": 0.4339297548045063, + "grad_norm": 11.877985000610352, + "learning_rate": 4.747601913521569e-06, + "loss": 0.1636, + "num_input_tokens_seen": 6419600, + "step": 3274 + }, + { + "epoch": 0.4340622929092114, + "grad_norm": 14.691099166870117, + "learning_rate": 4.747449892598483e-06, + "loss": 0.3116, + "num_input_tokens_seen": 6421400, + "step": 3275 + }, + { + "epoch": 0.4341948310139165, + "grad_norm": 18.678707122802734, + "learning_rate": 4.747297828343012e-06, + "loss": 0.4132, + "num_input_tokens_seen": 6422864, + "step": 3276 + }, + { + "epoch": 0.43432736911862163, + "grad_norm": 0.23068086802959442, + "learning_rate": 4.747145720758091e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6425232, + "step": 3277 + }, + { + "epoch": 0.4344599072233267, + "grad_norm": 9.23740291595459, + "learning_rate": 4.746993569846649e-06, + "loss": 0.4506, + "num_input_tokens_seen": 6427296, + "step": 3278 + }, + { + "epoch": 0.4345924453280318, + "grad_norm": 10.200162887573242, + "learning_rate": 4.74684137561162e-06, + "loss": 0.3438, + "num_input_tokens_seen": 6429952, + "step": 3279 + }, + { + "epoch": 0.4347249834327369, + "grad_norm": 0.0796721950173378, + "learning_rate": 4.746689138055941e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6431920, + "step": 3280 + }, + { + "epoch": 0.434857521537442, + "grad_norm": 0.1400357186794281, + "learning_rate": 4.7465368571825445e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6433528, + "step": 3281 + }, + { + "epoch": 0.4349900596421471, + "grad_norm": 6.827568531036377, + "learning_rate": 4.746384532994368e-06, + "loss": 0.2183, + "num_input_tokens_seen": 6435192, + "step": 3282 + }, + { + "epoch": 0.43512259774685225, + "grad_norm": 18.18243980407715, + "learning_rate": 4.746232165494347e-06, + "loss": 0.6414, + "num_input_tokens_seen": 6437272, + "step": 3283 + }, + { + "epoch": 0.43525513585155734, + "grad_norm": 15.806026458740234, + "learning_rate": 4.746079754685421e-06, + "loss": 0.4384, + "num_input_tokens_seen": 6439384, + "step": 3284 + }, + { + "epoch": 0.43538767395626243, + "grad_norm": 8.984960556030273, + "learning_rate": 4.7459273005705285e-06, + "loss": 0.5182, + "num_input_tokens_seen": 6442192, + "step": 3285 + }, + { + "epoch": 0.4355202120609675, + "grad_norm": 11.54957103729248, + "learning_rate": 4.745774803152607e-06, + "loss": 0.4304, + "num_input_tokens_seen": 6444664, + "step": 3286 + }, + { + "epoch": 0.4356527501656726, + "grad_norm": 11.394903182983398, + "learning_rate": 4.745622262434599e-06, + "loss": 0.1527, + "num_input_tokens_seen": 6446528, + "step": 3287 + }, + { + "epoch": 0.4357852882703777, + "grad_norm": 16.90025520324707, + "learning_rate": 4.745469678419444e-06, + "loss": 0.4675, + "num_input_tokens_seen": 6449080, + "step": 3288 + }, + { + "epoch": 0.43591782637508286, + "grad_norm": 0.28165432810783386, + "learning_rate": 4.745317051110084e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6451240, + "step": 3289 + }, + { + "epoch": 0.43605036447978796, + "grad_norm": 10.608962059020996, + "learning_rate": 4.745164380509464e-06, + "loss": 0.3, + "num_input_tokens_seen": 6453480, + "step": 3290 + }, + { + "epoch": 0.43618290258449305, + "grad_norm": 13.799406051635742, + "learning_rate": 4.7450116666205245e-06, + "loss": 0.499, + "num_input_tokens_seen": 6454968, + "step": 3291 + }, + { + "epoch": 0.43631544068919814, + "grad_norm": 10.929240226745605, + "learning_rate": 4.744858909446212e-06, + "loss": 0.3673, + "num_input_tokens_seen": 6456592, + "step": 3292 + }, + { + "epoch": 0.43644797879390324, + "grad_norm": 15.704523086547852, + "learning_rate": 4.74470610898947e-06, + "loss": 0.3869, + "num_input_tokens_seen": 6458568, + "step": 3293 + }, + { + "epoch": 0.43658051689860833, + "grad_norm": 0.1996748149394989, + "learning_rate": 4.744553265253246e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6460048, + "step": 3294 + }, + { + "epoch": 0.4367130550033135, + "grad_norm": 16.50066566467285, + "learning_rate": 4.744400378240488e-06, + "loss": 0.223, + "num_input_tokens_seen": 6461576, + "step": 3295 + }, + { + "epoch": 0.43684559310801857, + "grad_norm": 10.287540435791016, + "learning_rate": 4.744247447954141e-06, + "loss": 0.1951, + "num_input_tokens_seen": 6463384, + "step": 3296 + }, + { + "epoch": 0.43697813121272366, + "grad_norm": 9.577747344970703, + "learning_rate": 4.744094474397156e-06, + "loss": 0.2353, + "num_input_tokens_seen": 6465168, + "step": 3297 + }, + { + "epoch": 0.43711066931742876, + "grad_norm": 3.065082550048828, + "learning_rate": 4.74394145757248e-06, + "loss": 0.0347, + "num_input_tokens_seen": 6466912, + "step": 3298 + }, + { + "epoch": 0.43724320742213385, + "grad_norm": 0.2064424306154251, + "learning_rate": 4.743788397483066e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6468672, + "step": 3299 + }, + { + "epoch": 0.43737574552683894, + "grad_norm": 5.417873382568359, + "learning_rate": 4.743635294131863e-06, + "loss": 0.0564, + "num_input_tokens_seen": 6470880, + "step": 3300 + }, + { + "epoch": 0.4375082836315441, + "grad_norm": 14.123854637145996, + "learning_rate": 4.743482147521824e-06, + "loss": 0.494, + "num_input_tokens_seen": 6472888, + "step": 3301 + }, + { + "epoch": 0.4376408217362492, + "grad_norm": 10.059908866882324, + "learning_rate": 4.7433289576559015e-06, + "loss": 0.3102, + "num_input_tokens_seen": 6475144, + "step": 3302 + }, + { + "epoch": 0.4377733598409543, + "grad_norm": 12.827664375305176, + "learning_rate": 4.743175724537049e-06, + "loss": 0.1994, + "num_input_tokens_seen": 6476920, + "step": 3303 + }, + { + "epoch": 0.4379058979456594, + "grad_norm": 4.525793075561523, + "learning_rate": 4.743022448168222e-06, + "loss": 0.0608, + "num_input_tokens_seen": 6478640, + "step": 3304 + }, + { + "epoch": 0.43803843605036447, + "grad_norm": 0.5189858675003052, + "learning_rate": 4.742869128552374e-06, + "loss": 0.0034, + "num_input_tokens_seen": 6480472, + "step": 3305 + }, + { + "epoch": 0.43817097415506956, + "grad_norm": 5.578190326690674, + "learning_rate": 4.742715765692462e-06, + "loss": 0.0746, + "num_input_tokens_seen": 6482112, + "step": 3306 + }, + { + "epoch": 0.4383035122597747, + "grad_norm": 10.450170516967773, + "learning_rate": 4.742562359591442e-06, + "loss": 0.28, + "num_input_tokens_seen": 6483976, + "step": 3307 + }, + { + "epoch": 0.4384360503644798, + "grad_norm": 10.942258834838867, + "learning_rate": 4.742408910252274e-06, + "loss": 0.3709, + "num_input_tokens_seen": 6486552, + "step": 3308 + }, + { + "epoch": 0.4385685884691849, + "grad_norm": 1.9542473554611206, + "learning_rate": 4.742255417677914e-06, + "loss": 0.0199, + "num_input_tokens_seen": 6487920, + "step": 3309 + }, + { + "epoch": 0.43870112657389, + "grad_norm": 15.771306991577148, + "learning_rate": 4.7421018818713236e-06, + "loss": 0.4687, + "num_input_tokens_seen": 6490128, + "step": 3310 + }, + { + "epoch": 0.4388336646785951, + "grad_norm": 23.088443756103516, + "learning_rate": 4.741948302835462e-06, + "loss": 0.4987, + "num_input_tokens_seen": 6492408, + "step": 3311 + }, + { + "epoch": 0.4389662027833002, + "grad_norm": 0.2232021540403366, + "learning_rate": 4.741794680573291e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6493456, + "step": 3312 + }, + { + "epoch": 0.4390987408880053, + "grad_norm": 0.5259813070297241, + "learning_rate": 4.741641015087771e-06, + "loss": 0.0033, + "num_input_tokens_seen": 6495680, + "step": 3313 + }, + { + "epoch": 0.4392312789927104, + "grad_norm": 6.458506107330322, + "learning_rate": 4.741487306381866e-06, + "loss": 0.1363, + "num_input_tokens_seen": 6498016, + "step": 3314 + }, + { + "epoch": 0.4393638170974155, + "grad_norm": 0.5402525067329407, + "learning_rate": 4.74133355445854e-06, + "loss": 0.0032, + "num_input_tokens_seen": 6499560, + "step": 3315 + }, + { + "epoch": 0.4394963552021206, + "grad_norm": 0.25143033266067505, + "learning_rate": 4.7411797593207565e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6500880, + "step": 3316 + }, + { + "epoch": 0.4396288933068257, + "grad_norm": 23.83981704711914, + "learning_rate": 4.741025920971481e-06, + "loss": 0.3849, + "num_input_tokens_seen": 6502696, + "step": 3317 + }, + { + "epoch": 0.4397614314115308, + "grad_norm": 13.371020317077637, + "learning_rate": 4.7408720394136796e-06, + "loss": 0.3305, + "num_input_tokens_seen": 6504280, + "step": 3318 + }, + { + "epoch": 0.43989396951623594, + "grad_norm": 20.570331573486328, + "learning_rate": 4.74071811465032e-06, + "loss": 0.6006, + "num_input_tokens_seen": 6505568, + "step": 3319 + }, + { + "epoch": 0.44002650762094103, + "grad_norm": 19.411767959594727, + "learning_rate": 4.740564146684369e-06, + "loss": 0.6488, + "num_input_tokens_seen": 6507576, + "step": 3320 + }, + { + "epoch": 0.4401590457256461, + "grad_norm": 6.28535270690918, + "learning_rate": 4.740410135518795e-06, + "loss": 0.0459, + "num_input_tokens_seen": 6510264, + "step": 3321 + }, + { + "epoch": 0.4402915838303512, + "grad_norm": 13.772862434387207, + "learning_rate": 4.740256081156569e-06, + "loss": 0.4754, + "num_input_tokens_seen": 6512160, + "step": 3322 + }, + { + "epoch": 0.4404241219350563, + "grad_norm": 9.0480318069458, + "learning_rate": 4.74010198360066e-06, + "loss": 0.0763, + "num_input_tokens_seen": 6513736, + "step": 3323 + }, + { + "epoch": 0.4405566600397614, + "grad_norm": 9.289855003356934, + "learning_rate": 4.7399478428540394e-06, + "loss": 0.13, + "num_input_tokens_seen": 6515904, + "step": 3324 + }, + { + "epoch": 0.44068919814446655, + "grad_norm": 13.83438491821289, + "learning_rate": 4.739793658919678e-06, + "loss": 0.2975, + "num_input_tokens_seen": 6518424, + "step": 3325 + }, + { + "epoch": 0.44082173624917165, + "grad_norm": 0.20669658482074738, + "learning_rate": 4.739639431800551e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6520480, + "step": 3326 + }, + { + "epoch": 0.44095427435387674, + "grad_norm": 14.202149391174316, + "learning_rate": 4.739485161499631e-06, + "loss": 0.4193, + "num_input_tokens_seen": 6522944, + "step": 3327 + }, + { + "epoch": 0.44108681245858183, + "grad_norm": 7.478730201721191, + "learning_rate": 4.7393308480198915e-06, + "loss": 0.0923, + "num_input_tokens_seen": 6525256, + "step": 3328 + }, + { + "epoch": 0.4412193505632869, + "grad_norm": 0.19464318454265594, + "learning_rate": 4.739176491364308e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6526712, + "step": 3329 + }, + { + "epoch": 0.441351888667992, + "grad_norm": 20.973407745361328, + "learning_rate": 4.739022091535857e-06, + "loss": 0.6609, + "num_input_tokens_seen": 6528440, + "step": 3330 + }, + { + "epoch": 0.44148442677269717, + "grad_norm": 3.9169130325317383, + "learning_rate": 4.738867648537516e-06, + "loss": 0.0256, + "num_input_tokens_seen": 6529848, + "step": 3331 + }, + { + "epoch": 0.44161696487740226, + "grad_norm": 0.2776479125022888, + "learning_rate": 4.738713162372263e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6531760, + "step": 3332 + }, + { + "epoch": 0.44174950298210736, + "grad_norm": 6.610439300537109, + "learning_rate": 4.738558633043074e-06, + "loss": 0.1544, + "num_input_tokens_seen": 6533928, + "step": 3333 + }, + { + "epoch": 0.44188204108681245, + "grad_norm": 0.1773267686367035, + "learning_rate": 4.738404060552932e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6535904, + "step": 3334 + }, + { + "epoch": 0.44201457919151754, + "grad_norm": 0.15859174728393555, + "learning_rate": 4.738249444904814e-06, + "loss": 0.001, + "num_input_tokens_seen": 6538584, + "step": 3335 + }, + { + "epoch": 0.4421471172962227, + "grad_norm": 5.876689434051514, + "learning_rate": 4.738094786101704e-06, + "loss": 0.1528, + "num_input_tokens_seen": 6540688, + "step": 3336 + }, + { + "epoch": 0.4422796554009278, + "grad_norm": 10.820859909057617, + "learning_rate": 4.737940084146582e-06, + "loss": 0.1789, + "num_input_tokens_seen": 6541992, + "step": 3337 + }, + { + "epoch": 0.4424121935056329, + "grad_norm": 12.894454002380371, + "learning_rate": 4.737785339042431e-06, + "loss": 0.7197, + "num_input_tokens_seen": 6543920, + "step": 3338 + }, + { + "epoch": 0.44254473161033797, + "grad_norm": 9.09660816192627, + "learning_rate": 4.737630550792235e-06, + "loss": 0.1178, + "num_input_tokens_seen": 6545672, + "step": 3339 + }, + { + "epoch": 0.44267726971504306, + "grad_norm": 1.8006818294525146, + "learning_rate": 4.7374757193989784e-06, + "loss": 0.0264, + "num_input_tokens_seen": 6547632, + "step": 3340 + }, + { + "epoch": 0.44280980781974816, + "grad_norm": 20.160762786865234, + "learning_rate": 4.737320844865646e-06, + "loss": 0.4105, + "num_input_tokens_seen": 6549688, + "step": 3341 + }, + { + "epoch": 0.4429423459244533, + "grad_norm": 9.02538013458252, + "learning_rate": 4.737165927195225e-06, + "loss": 0.2323, + "num_input_tokens_seen": 6551856, + "step": 3342 + }, + { + "epoch": 0.4430748840291584, + "grad_norm": 7.381674289703369, + "learning_rate": 4.7370109663907015e-06, + "loss": 0.262, + "num_input_tokens_seen": 6553832, + "step": 3343 + }, + { + "epoch": 0.4432074221338635, + "grad_norm": 18.117494583129883, + "learning_rate": 4.736855962455062e-06, + "loss": 0.2754, + "num_input_tokens_seen": 6556032, + "step": 3344 + }, + { + "epoch": 0.4433399602385686, + "grad_norm": 10.242547988891602, + "learning_rate": 4.736700915391298e-06, + "loss": 0.373, + "num_input_tokens_seen": 6558088, + "step": 3345 + }, + { + "epoch": 0.4434724983432737, + "grad_norm": 15.688780784606934, + "learning_rate": 4.736545825202397e-06, + "loss": 0.422, + "num_input_tokens_seen": 6560072, + "step": 3346 + }, + { + "epoch": 0.4436050364479788, + "grad_norm": 6.993330955505371, + "learning_rate": 4.736390691891349e-06, + "loss": 0.3007, + "num_input_tokens_seen": 6562432, + "step": 3347 + }, + { + "epoch": 0.4437375745526839, + "grad_norm": 0.6917096376419067, + "learning_rate": 4.736235515461146e-06, + "loss": 0.0044, + "num_input_tokens_seen": 6565064, + "step": 3348 + }, + { + "epoch": 0.443870112657389, + "grad_norm": 1.7357581853866577, + "learning_rate": 4.73608029591478e-06, + "loss": 0.0101, + "num_input_tokens_seen": 6566400, + "step": 3349 + }, + { + "epoch": 0.4440026507620941, + "grad_norm": 0.24806712567806244, + "learning_rate": 4.735925033255243e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6567648, + "step": 3350 + }, + { + "epoch": 0.4441351888667992, + "grad_norm": 0.3699946999549866, + "learning_rate": 4.735769727485528e-06, + "loss": 0.0024, + "num_input_tokens_seen": 6570320, + "step": 3351 + }, + { + "epoch": 0.4442677269715043, + "grad_norm": 14.791948318481445, + "learning_rate": 4.735614378608632e-06, + "loss": 0.2891, + "num_input_tokens_seen": 6572320, + "step": 3352 + }, + { + "epoch": 0.4444002650762094, + "grad_norm": 0.1550486981868744, + "learning_rate": 4.735458986627547e-06, + "loss": 0.001, + "num_input_tokens_seen": 6573680, + "step": 3353 + }, + { + "epoch": 0.44453280318091454, + "grad_norm": 10.05436897277832, + "learning_rate": 4.735303551545272e-06, + "loss": 0.4996, + "num_input_tokens_seen": 6575504, + "step": 3354 + }, + { + "epoch": 0.44466534128561963, + "grad_norm": 0.18503151834011078, + "learning_rate": 4.735148073364801e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6576600, + "step": 3355 + }, + { + "epoch": 0.4447978793903247, + "grad_norm": 13.025964736938477, + "learning_rate": 4.734992552089134e-06, + "loss": 0.2231, + "num_input_tokens_seen": 6577968, + "step": 3356 + }, + { + "epoch": 0.4449304174950298, + "grad_norm": 0.11442652344703674, + "learning_rate": 4.7348369877212684e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6578992, + "step": 3357 + }, + { + "epoch": 0.4450629555997349, + "grad_norm": 9.061229705810547, + "learning_rate": 4.734681380264204e-06, + "loss": 0.2224, + "num_input_tokens_seen": 6580544, + "step": 3358 + }, + { + "epoch": 0.44519549370444, + "grad_norm": 2.76716685295105, + "learning_rate": 4.734525729720941e-06, + "loss": 0.007, + "num_input_tokens_seen": 6582680, + "step": 3359 + }, + { + "epoch": 0.44532803180914515, + "grad_norm": 6.341799259185791, + "learning_rate": 4.734370036094481e-06, + "loss": 0.1583, + "num_input_tokens_seen": 6585376, + "step": 3360 + }, + { + "epoch": 0.44546056991385025, + "grad_norm": 14.088835716247559, + "learning_rate": 4.734214299387824e-06, + "loss": 0.4938, + "num_input_tokens_seen": 6587448, + "step": 3361 + }, + { + "epoch": 0.44559310801855534, + "grad_norm": 11.763378143310547, + "learning_rate": 4.734058519603975e-06, + "loss": 0.413, + "num_input_tokens_seen": 6588904, + "step": 3362 + }, + { + "epoch": 0.44572564612326043, + "grad_norm": 0.09960298240184784, + "learning_rate": 4.733902696745936e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6590640, + "step": 3363 + }, + { + "epoch": 0.4458581842279655, + "grad_norm": 9.904974937438965, + "learning_rate": 4.7337468308167125e-06, + "loss": 0.1519, + "num_input_tokens_seen": 6591872, + "step": 3364 + }, + { + "epoch": 0.4459907223326706, + "grad_norm": 0.8243458271026611, + "learning_rate": 4.733590921819309e-06, + "loss": 0.0043, + "num_input_tokens_seen": 6593768, + "step": 3365 + }, + { + "epoch": 0.44612326043737577, + "grad_norm": 14.89431095123291, + "learning_rate": 4.733434969756732e-06, + "loss": 0.2022, + "num_input_tokens_seen": 6595896, + "step": 3366 + }, + { + "epoch": 0.44625579854208086, + "grad_norm": 0.22572316229343414, + "learning_rate": 4.733278974631987e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6597424, + "step": 3367 + }, + { + "epoch": 0.44638833664678595, + "grad_norm": 8.510120391845703, + "learning_rate": 4.733122936448083e-06, + "loss": 0.3085, + "num_input_tokens_seen": 6599168, + "step": 3368 + }, + { + "epoch": 0.44652087475149105, + "grad_norm": 13.875428199768066, + "learning_rate": 4.732966855208029e-06, + "loss": 0.4491, + "num_input_tokens_seen": 6600944, + "step": 3369 + }, + { + "epoch": 0.44665341285619614, + "grad_norm": 21.13619041442871, + "learning_rate": 4.732810730914832e-06, + "loss": 0.7085, + "num_input_tokens_seen": 6602488, + "step": 3370 + }, + { + "epoch": 0.44678595096090123, + "grad_norm": 0.1032075509428978, + "learning_rate": 4.732654563571505e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6603560, + "step": 3371 + }, + { + "epoch": 0.4469184890656064, + "grad_norm": 0.12376049906015396, + "learning_rate": 4.732498353181058e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6604840, + "step": 3372 + }, + { + "epoch": 0.4470510271703115, + "grad_norm": 15.353861808776855, + "learning_rate": 4.732342099746502e-06, + "loss": 0.5511, + "num_input_tokens_seen": 6607008, + "step": 3373 + }, + { + "epoch": 0.44718356527501657, + "grad_norm": 0.4640714228153229, + "learning_rate": 4.73218580327085e-06, + "loss": 0.0027, + "num_input_tokens_seen": 6608536, + "step": 3374 + }, + { + "epoch": 0.44731610337972166, + "grad_norm": 11.818785667419434, + "learning_rate": 4.732029463757117e-06, + "loss": 0.3105, + "num_input_tokens_seen": 6610776, + "step": 3375 + }, + { + "epoch": 0.44744864148442676, + "grad_norm": 0.12626540660858154, + "learning_rate": 4.7318730812083155e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6612176, + "step": 3376 + }, + { + "epoch": 0.44758117958913185, + "grad_norm": 5.480452537536621, + "learning_rate": 4.731716655627461e-06, + "loss": 0.1269, + "num_input_tokens_seen": 6613912, + "step": 3377 + }, + { + "epoch": 0.447713717693837, + "grad_norm": 2.331057548522949, + "learning_rate": 4.731560187017569e-06, + "loss": 0.0196, + "num_input_tokens_seen": 6615616, + "step": 3378 + }, + { + "epoch": 0.4478462557985421, + "grad_norm": 2.400275230407715, + "learning_rate": 4.7314036753816595e-06, + "loss": 0.016, + "num_input_tokens_seen": 6617736, + "step": 3379 + }, + { + "epoch": 0.4479787939032472, + "grad_norm": 10.343480110168457, + "learning_rate": 4.7312471207227465e-06, + "loss": 0.347, + "num_input_tokens_seen": 6619416, + "step": 3380 + }, + { + "epoch": 0.4481113320079523, + "grad_norm": 8.320096015930176, + "learning_rate": 4.73109052304385e-06, + "loss": 0.2576, + "num_input_tokens_seen": 6621416, + "step": 3381 + }, + { + "epoch": 0.44824387011265737, + "grad_norm": 0.044903963804244995, + "learning_rate": 4.730933882347988e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6622648, + "step": 3382 + }, + { + "epoch": 0.44837640821736247, + "grad_norm": 0.10990428179502487, + "learning_rate": 4.730777198638183e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6624392, + "step": 3383 + }, + { + "epoch": 0.4485089463220676, + "grad_norm": 9.115584373474121, + "learning_rate": 4.730620471917454e-06, + "loss": 0.3811, + "num_input_tokens_seen": 6627184, + "step": 3384 + }, + { + "epoch": 0.4486414844267727, + "grad_norm": 33.583404541015625, + "learning_rate": 4.730463702188824e-06, + "loss": 0.2169, + "num_input_tokens_seen": 6630296, + "step": 3385 + }, + { + "epoch": 0.4487740225314778, + "grad_norm": 6.667294979095459, + "learning_rate": 4.730306889455314e-06, + "loss": 0.07, + "num_input_tokens_seen": 6631376, + "step": 3386 + }, + { + "epoch": 0.4489065606361829, + "grad_norm": 10.882554054260254, + "learning_rate": 4.73015003371995e-06, + "loss": 0.3074, + "num_input_tokens_seen": 6633088, + "step": 3387 + }, + { + "epoch": 0.449039098740888, + "grad_norm": 3.9572091102600098, + "learning_rate": 4.7299931349857535e-06, + "loss": 0.1124, + "num_input_tokens_seen": 6636376, + "step": 3388 + }, + { + "epoch": 0.4491716368455931, + "grad_norm": 1.989731788635254, + "learning_rate": 4.729836193255752e-06, + "loss": 0.0118, + "num_input_tokens_seen": 6639200, + "step": 3389 + }, + { + "epoch": 0.44930417495029823, + "grad_norm": 0.5093509554862976, + "learning_rate": 4.72967920853297e-06, + "loss": 0.0031, + "num_input_tokens_seen": 6641392, + "step": 3390 + }, + { + "epoch": 0.4494367130550033, + "grad_norm": 13.902198791503906, + "learning_rate": 4.729522180820434e-06, + "loss": 0.3645, + "num_input_tokens_seen": 6643864, + "step": 3391 + }, + { + "epoch": 0.4495692511597084, + "grad_norm": 0.09832777827978134, + "learning_rate": 4.729365110121174e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6645280, + "step": 3392 + }, + { + "epoch": 0.4497017892644135, + "grad_norm": 7.182304382324219, + "learning_rate": 4.729207996438215e-06, + "loss": 0.3736, + "num_input_tokens_seen": 6647464, + "step": 3393 + }, + { + "epoch": 0.4498343273691186, + "grad_norm": 7.930952548980713, + "learning_rate": 4.729050839774589e-06, + "loss": 0.2603, + "num_input_tokens_seen": 6649688, + "step": 3394 + }, + { + "epoch": 0.44996686547382375, + "grad_norm": 0.14620444178581238, + "learning_rate": 4.728893640133324e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6651208, + "step": 3395 + }, + { + "epoch": 0.45009940357852884, + "grad_norm": 5.989103317260742, + "learning_rate": 4.728736397517453e-06, + "loss": 0.1895, + "num_input_tokens_seen": 6653856, + "step": 3396 + }, + { + "epoch": 0.45023194168323394, + "grad_norm": 0.21796511113643646, + "learning_rate": 4.728579111930007e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6656272, + "step": 3397 + }, + { + "epoch": 0.45036447978793903, + "grad_norm": 11.188365936279297, + "learning_rate": 4.728421783374018e-06, + "loss": 0.3376, + "num_input_tokens_seen": 6657936, + "step": 3398 + }, + { + "epoch": 0.4504970178926441, + "grad_norm": 9.467327117919922, + "learning_rate": 4.728264411852519e-06, + "loss": 0.509, + "num_input_tokens_seen": 6660248, + "step": 3399 + }, + { + "epoch": 0.4506295559973492, + "grad_norm": 0.20046353340148926, + "learning_rate": 4.728106997368545e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6662232, + "step": 3400 + }, + { + "epoch": 0.45076209410205437, + "grad_norm": 0.1963941603899002, + "learning_rate": 4.727949539925132e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6663776, + "step": 3401 + }, + { + "epoch": 0.45089463220675946, + "grad_norm": 10.46510124206543, + "learning_rate": 4.727792039525314e-06, + "loss": 0.4066, + "num_input_tokens_seen": 6665856, + "step": 3402 + }, + { + "epoch": 0.45102717031146455, + "grad_norm": 0.18379952013492584, + "learning_rate": 4.727634496172129e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6667424, + "step": 3403 + }, + { + "epoch": 0.45115970841616965, + "grad_norm": 0.0947766825556755, + "learning_rate": 4.727476909868614e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6668752, + "step": 3404 + }, + { + "epoch": 0.45129224652087474, + "grad_norm": 0.3160610795021057, + "learning_rate": 4.727319280617807e-06, + "loss": 0.0018, + "num_input_tokens_seen": 6670200, + "step": 3405 + }, + { + "epoch": 0.45142478462557983, + "grad_norm": 16.8338623046875, + "learning_rate": 4.727161608422749e-06, + "loss": 0.5058, + "num_input_tokens_seen": 6672296, + "step": 3406 + }, + { + "epoch": 0.451557322730285, + "grad_norm": 6.496436595916748, + "learning_rate": 4.727003893286478e-06, + "loss": 0.0974, + "num_input_tokens_seen": 6674352, + "step": 3407 + }, + { + "epoch": 0.4516898608349901, + "grad_norm": 12.64709186553955, + "learning_rate": 4.726846135212036e-06, + "loss": 0.2691, + "num_input_tokens_seen": 6676176, + "step": 3408 + }, + { + "epoch": 0.45182239893969517, + "grad_norm": 7.829931259155273, + "learning_rate": 4.726688334202464e-06, + "loss": 0.1546, + "num_input_tokens_seen": 6678048, + "step": 3409 + }, + { + "epoch": 0.45195493704440026, + "grad_norm": 0.054195426404476166, + "learning_rate": 4.726530490260805e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6679552, + "step": 3410 + }, + { + "epoch": 0.45208747514910536, + "grad_norm": 0.2684761583805084, + "learning_rate": 4.726372603390101e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6680880, + "step": 3411 + }, + { + "epoch": 0.45222001325381045, + "grad_norm": 0.3117387890815735, + "learning_rate": 4.726214673593398e-06, + "loss": 0.0019, + "num_input_tokens_seen": 6683064, + "step": 3412 + }, + { + "epoch": 0.4523525513585156, + "grad_norm": 8.266839027404785, + "learning_rate": 4.72605670087374e-06, + "loss": 0.1384, + "num_input_tokens_seen": 6685968, + "step": 3413 + }, + { + "epoch": 0.4524850894632207, + "grad_norm": 11.656111717224121, + "learning_rate": 4.725898685234174e-06, + "loss": 0.4296, + "num_input_tokens_seen": 6687864, + "step": 3414 + }, + { + "epoch": 0.4526176275679258, + "grad_norm": 0.42431381344795227, + "learning_rate": 4.725740626677746e-06, + "loss": 0.0022, + "num_input_tokens_seen": 6690376, + "step": 3415 + }, + { + "epoch": 0.4527501656726309, + "grad_norm": 11.26159381866455, + "learning_rate": 4.725582525207503e-06, + "loss": 0.3102, + "num_input_tokens_seen": 6692848, + "step": 3416 + }, + { + "epoch": 0.45288270377733597, + "grad_norm": 0.14348818361759186, + "learning_rate": 4.725424380826493e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6695080, + "step": 3417 + }, + { + "epoch": 0.45301524188204106, + "grad_norm": 7.584483623504639, + "learning_rate": 4.725266193537765e-06, + "loss": 0.1943, + "num_input_tokens_seen": 6697000, + "step": 3418 + }, + { + "epoch": 0.4531477799867462, + "grad_norm": 5.411701679229736, + "learning_rate": 4.725107963344371e-06, + "loss": 0.2663, + "num_input_tokens_seen": 6699304, + "step": 3419 + }, + { + "epoch": 0.4532803180914513, + "grad_norm": 2.625098943710327, + "learning_rate": 4.7249496902493605e-06, + "loss": 0.0136, + "num_input_tokens_seen": 6700920, + "step": 3420 + }, + { + "epoch": 0.4534128561961564, + "grad_norm": 5.04707670211792, + "learning_rate": 4.724791374255784e-06, + "loss": 0.2234, + "num_input_tokens_seen": 6702464, + "step": 3421 + }, + { + "epoch": 0.4535453943008615, + "grad_norm": 7.7730631828308105, + "learning_rate": 4.7246330153666954e-06, + "loss": 0.2966, + "num_input_tokens_seen": 6704272, + "step": 3422 + }, + { + "epoch": 0.4536779324055666, + "grad_norm": 7.220533847808838, + "learning_rate": 4.7244746135851485e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6706080, + "step": 3423 + }, + { + "epoch": 0.4538104705102717, + "grad_norm": 11.883634567260742, + "learning_rate": 4.724316168914195e-06, + "loss": 0.3974, + "num_input_tokens_seen": 6707336, + "step": 3424 + }, + { + "epoch": 0.45394300861497683, + "grad_norm": 9.447149276733398, + "learning_rate": 4.724157681356892e-06, + "loss": 0.251, + "num_input_tokens_seen": 6708808, + "step": 3425 + }, + { + "epoch": 0.4540755467196819, + "grad_norm": 16.157278060913086, + "learning_rate": 4.723999150916295e-06, + "loss": 0.6322, + "num_input_tokens_seen": 6710416, + "step": 3426 + }, + { + "epoch": 0.454208084824387, + "grad_norm": 0.042269252240657806, + "learning_rate": 4.72384057759546e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6711768, + "step": 3427 + }, + { + "epoch": 0.4543406229290921, + "grad_norm": 0.23470933735370636, + "learning_rate": 4.723681961397444e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6713616, + "step": 3428 + }, + { + "epoch": 0.4544731610337972, + "grad_norm": 6.778000831604004, + "learning_rate": 4.723523302325306e-06, + "loss": 0.1814, + "num_input_tokens_seen": 6715744, + "step": 3429 + }, + { + "epoch": 0.4546056991385023, + "grad_norm": 2.0614142417907715, + "learning_rate": 4.723364600382104e-06, + "loss": 0.0669, + "num_input_tokens_seen": 6717704, + "step": 3430 + }, + { + "epoch": 0.45473823724320744, + "grad_norm": 9.870048522949219, + "learning_rate": 4.723205855570899e-06, + "loss": 0.22, + "num_input_tokens_seen": 6719568, + "step": 3431 + }, + { + "epoch": 0.45487077534791254, + "grad_norm": 5.1438727378845215, + "learning_rate": 4.723047067894752e-06, + "loss": 0.1886, + "num_input_tokens_seen": 6721792, + "step": 3432 + }, + { + "epoch": 0.45500331345261763, + "grad_norm": 8.39296817779541, + "learning_rate": 4.722888237356724e-06, + "loss": 0.2978, + "num_input_tokens_seen": 6724208, + "step": 3433 + }, + { + "epoch": 0.4551358515573227, + "grad_norm": 0.15995049476623535, + "learning_rate": 4.722729363959877e-06, + "loss": 0.001, + "num_input_tokens_seen": 6726080, + "step": 3434 + }, + { + "epoch": 0.4552683896620278, + "grad_norm": 8.57268238067627, + "learning_rate": 4.722570447707275e-06, + "loss": 0.1489, + "num_input_tokens_seen": 6727696, + "step": 3435 + }, + { + "epoch": 0.4554009277667329, + "grad_norm": 15.05240249633789, + "learning_rate": 4.7224114886019804e-06, + "loss": 0.4957, + "num_input_tokens_seen": 6730616, + "step": 3436 + }, + { + "epoch": 0.45553346587143806, + "grad_norm": 8.12574291229248, + "learning_rate": 4.72225248664706e-06, + "loss": 0.1275, + "num_input_tokens_seen": 6732296, + "step": 3437 + }, + { + "epoch": 0.45566600397614315, + "grad_norm": 8.275718688964844, + "learning_rate": 4.722093441845578e-06, + "loss": 0.1578, + "num_input_tokens_seen": 6734792, + "step": 3438 + }, + { + "epoch": 0.45579854208084825, + "grad_norm": 13.090919494628906, + "learning_rate": 4.721934354200602e-06, + "loss": 0.4731, + "num_input_tokens_seen": 6736824, + "step": 3439 + }, + { + "epoch": 0.45593108018555334, + "grad_norm": 13.868168830871582, + "learning_rate": 4.721775223715199e-06, + "loss": 0.3414, + "num_input_tokens_seen": 6739064, + "step": 3440 + }, + { + "epoch": 0.45606361829025843, + "grad_norm": 7.289348602294922, + "learning_rate": 4.7216160503924365e-06, + "loss": 0.1797, + "num_input_tokens_seen": 6740752, + "step": 3441 + }, + { + "epoch": 0.4561961563949635, + "grad_norm": 13.353787422180176, + "learning_rate": 4.721456834235384e-06, + "loss": 0.5553, + "num_input_tokens_seen": 6743040, + "step": 3442 + }, + { + "epoch": 0.4563286944996687, + "grad_norm": 10.058000564575195, + "learning_rate": 4.721297575247111e-06, + "loss": 0.2204, + "num_input_tokens_seen": 6745160, + "step": 3443 + }, + { + "epoch": 0.45646123260437377, + "grad_norm": 13.75790023803711, + "learning_rate": 4.721138273430689e-06, + "loss": 0.3976, + "num_input_tokens_seen": 6746896, + "step": 3444 + }, + { + "epoch": 0.45659377070907886, + "grad_norm": 4.942676544189453, + "learning_rate": 4.720978928789188e-06, + "loss": 0.1012, + "num_input_tokens_seen": 6748432, + "step": 3445 + }, + { + "epoch": 0.45672630881378395, + "grad_norm": 14.997764587402344, + "learning_rate": 4.720819541325682e-06, + "loss": 0.2681, + "num_input_tokens_seen": 6750080, + "step": 3446 + }, + { + "epoch": 0.45685884691848905, + "grad_norm": 10.357013702392578, + "learning_rate": 4.720660111043243e-06, + "loss": 0.39, + "num_input_tokens_seen": 6751792, + "step": 3447 + }, + { + "epoch": 0.45699138502319414, + "grad_norm": 4.007915019989014, + "learning_rate": 4.7205006379449445e-06, + "loss": 0.0216, + "num_input_tokens_seen": 6753768, + "step": 3448 + }, + { + "epoch": 0.4571239231278993, + "grad_norm": 12.639501571655273, + "learning_rate": 4.720341122033862e-06, + "loss": 0.4189, + "num_input_tokens_seen": 6755808, + "step": 3449 + }, + { + "epoch": 0.4572564612326044, + "grad_norm": 7.345523357391357, + "learning_rate": 4.720181563313071e-06, + "loss": 0.0468, + "num_input_tokens_seen": 6757448, + "step": 3450 + }, + { + "epoch": 0.4573889993373095, + "grad_norm": 9.172658920288086, + "learning_rate": 4.720021961785648e-06, + "loss": 0.2125, + "num_input_tokens_seen": 6758880, + "step": 3451 + }, + { + "epoch": 0.45752153744201457, + "grad_norm": 7.229430675506592, + "learning_rate": 4.71986231745467e-06, + "loss": 0.2521, + "num_input_tokens_seen": 6760896, + "step": 3452 + }, + { + "epoch": 0.45765407554671966, + "grad_norm": 20.520578384399414, + "learning_rate": 4.719702630323215e-06, + "loss": 0.2354, + "num_input_tokens_seen": 6762520, + "step": 3453 + }, + { + "epoch": 0.4577866136514248, + "grad_norm": 5.293634414672852, + "learning_rate": 4.719542900394361e-06, + "loss": 0.1087, + "num_input_tokens_seen": 6764888, + "step": 3454 + }, + { + "epoch": 0.4579191517561299, + "grad_norm": 0.2889997065067291, + "learning_rate": 4.71938312767119e-06, + "loss": 0.0018, + "num_input_tokens_seen": 6765880, + "step": 3455 + }, + { + "epoch": 0.458051689860835, + "grad_norm": 0.7488850951194763, + "learning_rate": 4.719223312156782e-06, + "loss": 0.0043, + "num_input_tokens_seen": 6767672, + "step": 3456 + }, + { + "epoch": 0.4581842279655401, + "grad_norm": 7.767181396484375, + "learning_rate": 4.719063453854216e-06, + "loss": 0.1899, + "num_input_tokens_seen": 6769968, + "step": 3457 + }, + { + "epoch": 0.4583167660702452, + "grad_norm": 11.677338600158691, + "learning_rate": 4.718903552766576e-06, + "loss": 0.3151, + "num_input_tokens_seen": 6772112, + "step": 3458 + }, + { + "epoch": 0.4584493041749503, + "grad_norm": 13.982976913452148, + "learning_rate": 4.718743608896945e-06, + "loss": 0.5062, + "num_input_tokens_seen": 6775208, + "step": 3459 + }, + { + "epoch": 0.4585818422796554, + "grad_norm": 15.643267631530762, + "learning_rate": 4.718583622248407e-06, + "loss": 0.3352, + "num_input_tokens_seen": 6776976, + "step": 3460 + }, + { + "epoch": 0.4587143803843605, + "grad_norm": 3.260188102722168, + "learning_rate": 4.718423592824047e-06, + "loss": 0.0345, + "num_input_tokens_seen": 6778400, + "step": 3461 + }, + { + "epoch": 0.4588469184890656, + "grad_norm": 2.7483954429626465, + "learning_rate": 4.7182635206269475e-06, + "loss": 0.0162, + "num_input_tokens_seen": 6780192, + "step": 3462 + }, + { + "epoch": 0.4589794565937707, + "grad_norm": 7.3294677734375, + "learning_rate": 4.718103405660198e-06, + "loss": 0.2597, + "num_input_tokens_seen": 6782616, + "step": 3463 + }, + { + "epoch": 0.4591119946984758, + "grad_norm": 0.37416163086891174, + "learning_rate": 4.717943247926885e-06, + "loss": 0.0023, + "num_input_tokens_seen": 6784224, + "step": 3464 + }, + { + "epoch": 0.4592445328031809, + "grad_norm": 6.967800140380859, + "learning_rate": 4.717783047430096e-06, + "loss": 0.1431, + "num_input_tokens_seen": 6786368, + "step": 3465 + }, + { + "epoch": 0.45937707090788604, + "grad_norm": 0.6319146156311035, + "learning_rate": 4.71762280417292e-06, + "loss": 0.0039, + "num_input_tokens_seen": 6788584, + "step": 3466 + }, + { + "epoch": 0.45950960901259114, + "grad_norm": 3.8938984870910645, + "learning_rate": 4.717462518158447e-06, + "loss": 0.0177, + "num_input_tokens_seen": 6791368, + "step": 3467 + }, + { + "epoch": 0.45964214711729623, + "grad_norm": 2.0523159503936768, + "learning_rate": 4.7173021893897655e-06, + "loss": 0.0118, + "num_input_tokens_seen": 6793016, + "step": 3468 + }, + { + "epoch": 0.4597746852220013, + "grad_norm": 16.6965389251709, + "learning_rate": 4.7171418178699686e-06, + "loss": 0.722, + "num_input_tokens_seen": 6795400, + "step": 3469 + }, + { + "epoch": 0.4599072233267064, + "grad_norm": 0.1304982751607895, + "learning_rate": 4.716981403602148e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6797016, + "step": 3470 + }, + { + "epoch": 0.4600397614314115, + "grad_norm": 5.9426589012146, + "learning_rate": 4.716820946589397e-06, + "loss": 0.0769, + "num_input_tokens_seen": 6798408, + "step": 3471 + }, + { + "epoch": 0.46017229953611666, + "grad_norm": 6.750141143798828, + "learning_rate": 4.7166604468348085e-06, + "loss": 0.1026, + "num_input_tokens_seen": 6799680, + "step": 3472 + }, + { + "epoch": 0.46030483764082175, + "grad_norm": 0.027093039825558662, + "learning_rate": 4.716499904341477e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6802248, + "step": 3473 + }, + { + "epoch": 0.46043737574552684, + "grad_norm": 0.033254474401474, + "learning_rate": 4.716339319112499e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6803600, + "step": 3474 + }, + { + "epoch": 0.46056991385023194, + "grad_norm": 0.05802615359425545, + "learning_rate": 4.71617869115097e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6805064, + "step": 3475 + }, + { + "epoch": 0.46070245195493703, + "grad_norm": 2.059119939804077, + "learning_rate": 4.716018020459986e-06, + "loss": 0.034, + "num_input_tokens_seen": 6806400, + "step": 3476 + }, + { + "epoch": 0.4608349900596421, + "grad_norm": 3.234501838684082, + "learning_rate": 4.715857307042646e-06, + "loss": 0.0698, + "num_input_tokens_seen": 6808112, + "step": 3477 + }, + { + "epoch": 0.4609675281643473, + "grad_norm": 0.052756454795598984, + "learning_rate": 4.7156965509020494e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6810096, + "step": 3478 + }, + { + "epoch": 0.46110006626905237, + "grad_norm": 10.914143562316895, + "learning_rate": 4.715535752041294e-06, + "loss": 0.2037, + "num_input_tokens_seen": 6812536, + "step": 3479 + }, + { + "epoch": 0.46123260437375746, + "grad_norm": 9.169696807861328, + "learning_rate": 4.715374910463481e-06, + "loss": 0.2529, + "num_input_tokens_seen": 6813840, + "step": 3480 + }, + { + "epoch": 0.46136514247846255, + "grad_norm": 18.554460525512695, + "learning_rate": 4.715214026171711e-06, + "loss": 0.5491, + "num_input_tokens_seen": 6816752, + "step": 3481 + }, + { + "epoch": 0.46149768058316765, + "grad_norm": 8.606828689575195, + "learning_rate": 4.715053099169088e-06, + "loss": 0.2324, + "num_input_tokens_seen": 6819320, + "step": 3482 + }, + { + "epoch": 0.46163021868787274, + "grad_norm": 9.947463989257812, + "learning_rate": 4.714892129458712e-06, + "loss": 0.3311, + "num_input_tokens_seen": 6822088, + "step": 3483 + }, + { + "epoch": 0.4617627567925779, + "grad_norm": 0.040584735572338104, + "learning_rate": 4.7147311170436875e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6823832, + "step": 3484 + }, + { + "epoch": 0.461895294897283, + "grad_norm": 7.335174560546875, + "learning_rate": 4.714570061927119e-06, + "loss": 0.3384, + "num_input_tokens_seen": 6825440, + "step": 3485 + }, + { + "epoch": 0.4620278330019881, + "grad_norm": 14.993861198425293, + "learning_rate": 4.7144089641121125e-06, + "loss": 0.5626, + "num_input_tokens_seen": 6827152, + "step": 3486 + }, + { + "epoch": 0.46216037110669317, + "grad_norm": 9.26425552368164, + "learning_rate": 4.714247823601774e-06, + "loss": 0.1909, + "num_input_tokens_seen": 6829056, + "step": 3487 + }, + { + "epoch": 0.46229290921139826, + "grad_norm": 4.233144283294678, + "learning_rate": 4.714086640399209e-06, + "loss": 0.1163, + "num_input_tokens_seen": 6830808, + "step": 3488 + }, + { + "epoch": 0.46242544731610336, + "grad_norm": 0.08130092173814774, + "learning_rate": 4.713925414507527e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6833496, + "step": 3489 + }, + { + "epoch": 0.4625579854208085, + "grad_norm": 6.8416852951049805, + "learning_rate": 4.713764145929836e-06, + "loss": 0.2026, + "num_input_tokens_seen": 6835072, + "step": 3490 + }, + { + "epoch": 0.4626905235255136, + "grad_norm": 6.314442157745361, + "learning_rate": 4.713602834669243e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6837080, + "step": 3491 + }, + { + "epoch": 0.4628230616302187, + "grad_norm": 0.07984998822212219, + "learning_rate": 4.713441480728862e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6838568, + "step": 3492 + }, + { + "epoch": 0.4629555997349238, + "grad_norm": 0.32196831703186035, + "learning_rate": 4.713280084111802e-06, + "loss": 0.002, + "num_input_tokens_seen": 6841576, + "step": 3493 + }, + { + "epoch": 0.4630881378396289, + "grad_norm": 9.388946533203125, + "learning_rate": 4.713118644821175e-06, + "loss": 0.236, + "num_input_tokens_seen": 6843304, + "step": 3494 + }, + { + "epoch": 0.46322067594433397, + "grad_norm": 10.134395599365234, + "learning_rate": 4.712957162860094e-06, + "loss": 0.1961, + "num_input_tokens_seen": 6845392, + "step": 3495 + }, + { + "epoch": 0.4633532140490391, + "grad_norm": 4.014077186584473, + "learning_rate": 4.712795638231672e-06, + "loss": 0.0446, + "num_input_tokens_seen": 6846624, + "step": 3496 + }, + { + "epoch": 0.4634857521537442, + "grad_norm": 0.2507886588573456, + "learning_rate": 4.712634070939024e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6848864, + "step": 3497 + }, + { + "epoch": 0.4636182902584493, + "grad_norm": 0.16358473896980286, + "learning_rate": 4.712472460985264e-06, + "loss": 0.001, + "num_input_tokens_seen": 6850744, + "step": 3498 + }, + { + "epoch": 0.4637508283631544, + "grad_norm": 10.368104934692383, + "learning_rate": 4.712310808373509e-06, + "loss": 0.1925, + "num_input_tokens_seen": 6852496, + "step": 3499 + }, + { + "epoch": 0.4638833664678595, + "grad_norm": 5.731873035430908, + "learning_rate": 4.712149113106875e-06, + "loss": 0.067, + "num_input_tokens_seen": 6854272, + "step": 3500 + }, + { + "epoch": 0.4640159045725646, + "grad_norm": 9.510446548461914, + "learning_rate": 4.711987375188481e-06, + "loss": 0.1777, + "num_input_tokens_seen": 6856712, + "step": 3501 + }, + { + "epoch": 0.46414844267726973, + "grad_norm": 0.17497515678405762, + "learning_rate": 4.711825594621443e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6859264, + "step": 3502 + }, + { + "epoch": 0.46428098078197483, + "grad_norm": 12.0756254196167, + "learning_rate": 4.711663771408883e-06, + "loss": 0.2428, + "num_input_tokens_seen": 6861144, + "step": 3503 + }, + { + "epoch": 0.4644135188866799, + "grad_norm": 13.558756828308105, + "learning_rate": 4.711501905553919e-06, + "loss": 0.1976, + "num_input_tokens_seen": 6862928, + "step": 3504 + }, + { + "epoch": 0.464546056991385, + "grad_norm": 13.208483695983887, + "learning_rate": 4.711339997059673e-06, + "loss": 0.429, + "num_input_tokens_seen": 6864824, + "step": 3505 + }, + { + "epoch": 0.4646785950960901, + "grad_norm": 18.7616024017334, + "learning_rate": 4.711178045929267e-06, + "loss": 0.801, + "num_input_tokens_seen": 6866920, + "step": 3506 + }, + { + "epoch": 0.4648111332007952, + "grad_norm": 9.190680503845215, + "learning_rate": 4.711016052165822e-06, + "loss": 0.1913, + "num_input_tokens_seen": 6869160, + "step": 3507 + }, + { + "epoch": 0.46494367130550035, + "grad_norm": 0.18456867337226868, + "learning_rate": 4.710854015772462e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6871440, + "step": 3508 + }, + { + "epoch": 0.46507620941020544, + "grad_norm": 9.639766693115234, + "learning_rate": 4.710691936752312e-06, + "loss": 0.2014, + "num_input_tokens_seen": 6872920, + "step": 3509 + }, + { + "epoch": 0.46520874751491054, + "grad_norm": 0.17921799421310425, + "learning_rate": 4.710529815108496e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6874312, + "step": 3510 + }, + { + "epoch": 0.46534128561961563, + "grad_norm": 0.13441920280456543, + "learning_rate": 4.7103676508441395e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6875872, + "step": 3511 + }, + { + "epoch": 0.4654738237243207, + "grad_norm": 3.1142585277557373, + "learning_rate": 4.710205443962371e-06, + "loss": 0.0397, + "num_input_tokens_seen": 6878568, + "step": 3512 + }, + { + "epoch": 0.46560636182902587, + "grad_norm": 1.7977932691574097, + "learning_rate": 4.710043194466316e-06, + "loss": 0.0148, + "num_input_tokens_seen": 6881128, + "step": 3513 + }, + { + "epoch": 0.46573889993373097, + "grad_norm": 8.77234172821045, + "learning_rate": 4.709880902359104e-06, + "loss": 0.1691, + "num_input_tokens_seen": 6883496, + "step": 3514 + }, + { + "epoch": 0.46587143803843606, + "grad_norm": 7.098576545715332, + "learning_rate": 4.709718567643864e-06, + "loss": 0.1133, + "num_input_tokens_seen": 6885968, + "step": 3515 + }, + { + "epoch": 0.46600397614314115, + "grad_norm": 6.075428485870361, + "learning_rate": 4.709556190323725e-06, + "loss": 0.1374, + "num_input_tokens_seen": 6887632, + "step": 3516 + }, + { + "epoch": 0.46613651424784625, + "grad_norm": 9.650872230529785, + "learning_rate": 4.709393770401818e-06, + "loss": 0.1179, + "num_input_tokens_seen": 6889816, + "step": 3517 + }, + { + "epoch": 0.46626905235255134, + "grad_norm": 18.97589874267578, + "learning_rate": 4.709231307881276e-06, + "loss": 0.5897, + "num_input_tokens_seen": 6891944, + "step": 3518 + }, + { + "epoch": 0.4664015904572565, + "grad_norm": 19.381183624267578, + "learning_rate": 4.7090688027652295e-06, + "loss": 0.181, + "num_input_tokens_seen": 6893888, + "step": 3519 + }, + { + "epoch": 0.4665341285619616, + "grad_norm": 15.839090347290039, + "learning_rate": 4.708906255056813e-06, + "loss": 0.6315, + "num_input_tokens_seen": 6896096, + "step": 3520 + }, + { + "epoch": 0.4666666666666667, + "grad_norm": 27.02651596069336, + "learning_rate": 4.70874366475916e-06, + "loss": 1.0679, + "num_input_tokens_seen": 6899136, + "step": 3521 + }, + { + "epoch": 0.46679920477137177, + "grad_norm": 1.7673804759979248, + "learning_rate": 4.708581031875406e-06, + "loss": 0.0171, + "num_input_tokens_seen": 6900768, + "step": 3522 + }, + { + "epoch": 0.46693174287607686, + "grad_norm": 10.952544212341309, + "learning_rate": 4.708418356408685e-06, + "loss": 0.3071, + "num_input_tokens_seen": 6902488, + "step": 3523 + }, + { + "epoch": 0.46706428098078195, + "grad_norm": 3.474372148513794, + "learning_rate": 4.708255638362135e-06, + "loss": 0.0484, + "num_input_tokens_seen": 6904192, + "step": 3524 + }, + { + "epoch": 0.4671968190854871, + "grad_norm": 4.23491907119751, + "learning_rate": 4.708092877738893e-06, + "loss": 0.1421, + "num_input_tokens_seen": 6906360, + "step": 3525 + }, + { + "epoch": 0.4673293571901922, + "grad_norm": 6.1367878913879395, + "learning_rate": 4.707930074542097e-06, + "loss": 0.1427, + "num_input_tokens_seen": 6908184, + "step": 3526 + }, + { + "epoch": 0.4674618952948973, + "grad_norm": 8.948915481567383, + "learning_rate": 4.707767228774885e-06, + "loss": 0.1737, + "num_input_tokens_seen": 6910384, + "step": 3527 + }, + { + "epoch": 0.4675944333996024, + "grad_norm": 0.1639985293149948, + "learning_rate": 4.707604340440399e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6911848, + "step": 3528 + }, + { + "epoch": 0.4677269715043075, + "grad_norm": 12.816913604736328, + "learning_rate": 4.707441409541779e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6913872, + "step": 3529 + }, + { + "epoch": 0.46785950960901257, + "grad_norm": 0.48404574394226074, + "learning_rate": 4.707278436082165e-06, + "loss": 0.0025, + "num_input_tokens_seen": 6915688, + "step": 3530 + }, + { + "epoch": 0.4679920477137177, + "grad_norm": 28.354053497314453, + "learning_rate": 4.707115420064699e-06, + "loss": 1.0691, + "num_input_tokens_seen": 6918248, + "step": 3531 + }, + { + "epoch": 0.4681245858184228, + "grad_norm": 6.964322090148926, + "learning_rate": 4.706952361492526e-06, + "loss": 0.2007, + "num_input_tokens_seen": 6920344, + "step": 3532 + }, + { + "epoch": 0.4682571239231279, + "grad_norm": 0.20571963489055634, + "learning_rate": 4.70678926036879e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6921904, + "step": 3533 + }, + { + "epoch": 0.468389662027833, + "grad_norm": 0.07439305633306503, + "learning_rate": 4.706626116696632e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6924288, + "step": 3534 + }, + { + "epoch": 0.4685222001325381, + "grad_norm": 10.463114738464355, + "learning_rate": 4.706462930479202e-06, + "loss": 0.2889, + "num_input_tokens_seen": 6925864, + "step": 3535 + }, + { + "epoch": 0.4686547382372432, + "grad_norm": 0.07231903821229935, + "learning_rate": 4.706299701719644e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6927344, + "step": 3536 + }, + { + "epoch": 0.46878727634194833, + "grad_norm": 13.263286590576172, + "learning_rate": 4.706136430421107e-06, + "loss": 0.2207, + "num_input_tokens_seen": 6930144, + "step": 3537 + }, + { + "epoch": 0.4689198144466534, + "grad_norm": 10.516202926635742, + "learning_rate": 4.705973116586736e-06, + "loss": 0.1775, + "num_input_tokens_seen": 6932816, + "step": 3538 + }, + { + "epoch": 0.4690523525513585, + "grad_norm": 5.35650110244751, + "learning_rate": 4.705809760219683e-06, + "loss": 0.0998, + "num_input_tokens_seen": 6935120, + "step": 3539 + }, + { + "epoch": 0.4691848906560636, + "grad_norm": 4.04359769821167, + "learning_rate": 4.705646361323095e-06, + "loss": 0.0354, + "num_input_tokens_seen": 6937264, + "step": 3540 + }, + { + "epoch": 0.4693174287607687, + "grad_norm": 8.984070777893066, + "learning_rate": 4.705482919900124e-06, + "loss": 0.3484, + "num_input_tokens_seen": 6939464, + "step": 3541 + }, + { + "epoch": 0.4694499668654738, + "grad_norm": 9.976149559020996, + "learning_rate": 4.705319435953921e-06, + "loss": 0.2858, + "num_input_tokens_seen": 6941152, + "step": 3542 + }, + { + "epoch": 0.46958250497017895, + "grad_norm": 7.658107280731201, + "learning_rate": 4.705155909487637e-06, + "loss": 0.2591, + "num_input_tokens_seen": 6943064, + "step": 3543 + }, + { + "epoch": 0.46971504307488404, + "grad_norm": 6.953422546386719, + "learning_rate": 4.704992340504426e-06, + "loss": 0.2118, + "num_input_tokens_seen": 6944496, + "step": 3544 + }, + { + "epoch": 0.46984758117958914, + "grad_norm": 6.0076141357421875, + "learning_rate": 4.704828729007443e-06, + "loss": 0.1274, + "num_input_tokens_seen": 6946560, + "step": 3545 + }, + { + "epoch": 0.46998011928429423, + "grad_norm": 2.6947245597839355, + "learning_rate": 4.7046650749998396e-06, + "loss": 0.032, + "num_input_tokens_seen": 6947640, + "step": 3546 + }, + { + "epoch": 0.4701126573889993, + "grad_norm": 6.5871381759643555, + "learning_rate": 4.704501378484772e-06, + "loss": 0.1343, + "num_input_tokens_seen": 6949400, + "step": 3547 + }, + { + "epoch": 0.4702451954937044, + "grad_norm": 21.81719207763672, + "learning_rate": 4.704337639465399e-06, + "loss": 0.4704, + "num_input_tokens_seen": 6951224, + "step": 3548 + }, + { + "epoch": 0.47037773359840956, + "grad_norm": 6.1173810958862305, + "learning_rate": 4.704173857944875e-06, + "loss": 0.0759, + "num_input_tokens_seen": 6953560, + "step": 3549 + }, + { + "epoch": 0.47051027170311466, + "grad_norm": 19.397836685180664, + "learning_rate": 4.704010033926358e-06, + "loss": 0.6053, + "num_input_tokens_seen": 6956720, + "step": 3550 + }, + { + "epoch": 0.47064280980781975, + "grad_norm": 0.04566048085689545, + "learning_rate": 4.703846167413007e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6958128, + "step": 3551 + }, + { + "epoch": 0.47077534791252484, + "grad_norm": 6.820549011230469, + "learning_rate": 4.703682258407981e-06, + "loss": 0.0614, + "num_input_tokens_seen": 6960984, + "step": 3552 + }, + { + "epoch": 0.47090788601722994, + "grad_norm": 5.300433158874512, + "learning_rate": 4.703518306914442e-06, + "loss": 0.0461, + "num_input_tokens_seen": 6964080, + "step": 3553 + }, + { + "epoch": 0.47104042412193503, + "grad_norm": 11.61038589477539, + "learning_rate": 4.70335431293555e-06, + "loss": 0.4296, + "num_input_tokens_seen": 6965624, + "step": 3554 + }, + { + "epoch": 0.4711729622266402, + "grad_norm": 9.014015197753906, + "learning_rate": 4.703190276474466e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6967456, + "step": 3555 + }, + { + "epoch": 0.4713055003313453, + "grad_norm": 9.886773109436035, + "learning_rate": 4.703026197534354e-06, + "loss": 0.3265, + "num_input_tokens_seen": 6969440, + "step": 3556 + }, + { + "epoch": 0.47143803843605037, + "grad_norm": 6.1779046058654785, + "learning_rate": 4.702862076118377e-06, + "loss": 0.0765, + "num_input_tokens_seen": 6971352, + "step": 3557 + }, + { + "epoch": 0.47157057654075546, + "grad_norm": 4.020450115203857, + "learning_rate": 4.702697912229699e-06, + "loss": 0.0255, + "num_input_tokens_seen": 6973592, + "step": 3558 + }, + { + "epoch": 0.47170311464546055, + "grad_norm": 0.1025056540966034, + "learning_rate": 4.702533705871487e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6975464, + "step": 3559 + }, + { + "epoch": 0.47183565275016565, + "grad_norm": 8.514978408813477, + "learning_rate": 4.702369457046904e-06, + "loss": 0.3335, + "num_input_tokens_seen": 6977192, + "step": 3560 + }, + { + "epoch": 0.4719681908548708, + "grad_norm": 4.87443733215332, + "learning_rate": 4.702205165759119e-06, + "loss": 0.1765, + "num_input_tokens_seen": 6979528, + "step": 3561 + }, + { + "epoch": 0.4721007289595759, + "grad_norm": 5.829202651977539, + "learning_rate": 4.7020408320113e-06, + "loss": 0.1468, + "num_input_tokens_seen": 6982144, + "step": 3562 + }, + { + "epoch": 0.472233267064281, + "grad_norm": 5.061383247375488, + "learning_rate": 4.701876455806615e-06, + "loss": 0.1379, + "num_input_tokens_seen": 6983752, + "step": 3563 + }, + { + "epoch": 0.4723658051689861, + "grad_norm": 7.918785572052002, + "learning_rate": 4.701712037148231e-06, + "loss": 0.1314, + "num_input_tokens_seen": 6986208, + "step": 3564 + }, + { + "epoch": 0.47249834327369117, + "grad_norm": 6.342104911804199, + "learning_rate": 4.701547576039321e-06, + "loss": 0.2634, + "num_input_tokens_seen": 6988792, + "step": 3565 + }, + { + "epoch": 0.47263088137839626, + "grad_norm": 10.905147552490234, + "learning_rate": 4.701383072483056e-06, + "loss": 0.3358, + "num_input_tokens_seen": 6991376, + "step": 3566 + }, + { + "epoch": 0.4727634194831014, + "grad_norm": 0.16422037780284882, + "learning_rate": 4.701218526482606e-06, + "loss": 0.001, + "num_input_tokens_seen": 6993824, + "step": 3567 + }, + { + "epoch": 0.4728959575878065, + "grad_norm": 1.7487876415252686, + "learning_rate": 4.701053938041144e-06, + "loss": 0.0097, + "num_input_tokens_seen": 6994960, + "step": 3568 + }, + { + "epoch": 0.4730284956925116, + "grad_norm": 0.07559742778539658, + "learning_rate": 4.700889307161843e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6996656, + "step": 3569 + }, + { + "epoch": 0.4731610337972167, + "grad_norm": 14.890816688537598, + "learning_rate": 4.70072463384788e-06, + "loss": 0.4581, + "num_input_tokens_seen": 6999152, + "step": 3570 + }, + { + "epoch": 0.4732935719019218, + "grad_norm": 5.607250213623047, + "learning_rate": 4.700559918102426e-06, + "loss": 0.2113, + "num_input_tokens_seen": 7001648, + "step": 3571 + }, + { + "epoch": 0.47342611000662693, + "grad_norm": 0.10200473666191101, + "learning_rate": 4.700395159928659e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7004200, + "step": 3572 + }, + { + "epoch": 0.473558648111332, + "grad_norm": 12.87032699584961, + "learning_rate": 4.700230359329756e-06, + "loss": 0.2462, + "num_input_tokens_seen": 7006320, + "step": 3573 + }, + { + "epoch": 0.4736911862160371, + "grad_norm": 11.754016876220703, + "learning_rate": 4.7000655163088925e-06, + "loss": 0.3285, + "num_input_tokens_seen": 7007864, + "step": 3574 + }, + { + "epoch": 0.4738237243207422, + "grad_norm": 5.008886814117432, + "learning_rate": 4.699900630869249e-06, + "loss": 0.1819, + "num_input_tokens_seen": 7009920, + "step": 3575 + }, + { + "epoch": 0.4739562624254473, + "grad_norm": 0.058161620050668716, + "learning_rate": 4.699735703014004e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7011640, + "step": 3576 + }, + { + "epoch": 0.4740888005301524, + "grad_norm": 9.170276641845703, + "learning_rate": 4.699570732746337e-06, + "loss": 0.4069, + "num_input_tokens_seen": 7013392, + "step": 3577 + }, + { + "epoch": 0.47422133863485755, + "grad_norm": 8.129196166992188, + "learning_rate": 4.699405720069429e-06, + "loss": 0.1891, + "num_input_tokens_seen": 7015272, + "step": 3578 + }, + { + "epoch": 0.47435387673956264, + "grad_norm": 8.739459037780762, + "learning_rate": 4.6992406649864605e-06, + "loss": 0.2107, + "num_input_tokens_seen": 7017376, + "step": 3579 + }, + { + "epoch": 0.47448641484426773, + "grad_norm": 0.16730321943759918, + "learning_rate": 4.699075567500615e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7020160, + "step": 3580 + }, + { + "epoch": 0.4746189529489728, + "grad_norm": 9.901205062866211, + "learning_rate": 4.698910427615076e-06, + "loss": 0.1999, + "num_input_tokens_seen": 7021360, + "step": 3581 + }, + { + "epoch": 0.4747514910536779, + "grad_norm": 10.716650009155273, + "learning_rate": 4.698745245333026e-06, + "loss": 0.3243, + "num_input_tokens_seen": 7023736, + "step": 3582 + }, + { + "epoch": 0.474884029158383, + "grad_norm": 13.758613586425781, + "learning_rate": 4.698580020657653e-06, + "loss": 0.3305, + "num_input_tokens_seen": 7025888, + "step": 3583 + }, + { + "epoch": 0.47501656726308816, + "grad_norm": 2.665637254714966, + "learning_rate": 4.698414753592139e-06, + "loss": 0.0605, + "num_input_tokens_seen": 7028576, + "step": 3584 + }, + { + "epoch": 0.47514910536779326, + "grad_norm": 18.0197696685791, + "learning_rate": 4.698249444139672e-06, + "loss": 0.4927, + "num_input_tokens_seen": 7032600, + "step": 3585 + }, + { + "epoch": 0.47528164347249835, + "grad_norm": 4.9588823318481445, + "learning_rate": 4.698084092303439e-06, + "loss": 0.1225, + "num_input_tokens_seen": 7034088, + "step": 3586 + }, + { + "epoch": 0.47541418157720344, + "grad_norm": 1.3933740854263306, + "learning_rate": 4.697918698086629e-06, + "loss": 0.0075, + "num_input_tokens_seen": 7035624, + "step": 3587 + }, + { + "epoch": 0.47554671968190854, + "grad_norm": 6.276792049407959, + "learning_rate": 4.697753261492429e-06, + "loss": 0.0486, + "num_input_tokens_seen": 7037768, + "step": 3588 + }, + { + "epoch": 0.47567925778661363, + "grad_norm": 9.799899101257324, + "learning_rate": 4.697587782524031e-06, + "loss": 0.3571, + "num_input_tokens_seen": 7039176, + "step": 3589 + }, + { + "epoch": 0.4758117958913188, + "grad_norm": 15.974863052368164, + "learning_rate": 4.697422261184625e-06, + "loss": 0.4476, + "num_input_tokens_seen": 7041008, + "step": 3590 + }, + { + "epoch": 0.47594433399602387, + "grad_norm": 0.06836438179016113, + "learning_rate": 4.697256697477401e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7042888, + "step": 3591 + }, + { + "epoch": 0.47607687210072896, + "grad_norm": 0.23637758195400238, + "learning_rate": 4.697091091405552e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7045520, + "step": 3592 + }, + { + "epoch": 0.47620941020543406, + "grad_norm": 0.11919800192117691, + "learning_rate": 4.6969254429722715e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7046760, + "step": 3593 + }, + { + "epoch": 0.47634194831013915, + "grad_norm": 2.406327962875366, + "learning_rate": 4.696759752180753e-06, + "loss": 0.024, + "num_input_tokens_seen": 7047928, + "step": 3594 + }, + { + "epoch": 0.47647448641484424, + "grad_norm": 10.8333158493042, + "learning_rate": 4.696594019034191e-06, + "loss": 0.2878, + "num_input_tokens_seen": 7049872, + "step": 3595 + }, + { + "epoch": 0.4766070245195494, + "grad_norm": 11.24345588684082, + "learning_rate": 4.69642824353578e-06, + "loss": 0.3361, + "num_input_tokens_seen": 7052248, + "step": 3596 + }, + { + "epoch": 0.4767395626242545, + "grad_norm": 4.304723262786865, + "learning_rate": 4.696262425688719e-06, + "loss": 0.0769, + "num_input_tokens_seen": 7054560, + "step": 3597 + }, + { + "epoch": 0.4768721007289596, + "grad_norm": 0.1264643669128418, + "learning_rate": 4.696096565496201e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7055744, + "step": 3598 + }, + { + "epoch": 0.4770046388336647, + "grad_norm": 0.31086790561676025, + "learning_rate": 4.695930662961428e-06, + "loss": 0.0019, + "num_input_tokens_seen": 7057648, + "step": 3599 + }, + { + "epoch": 0.47713717693836977, + "grad_norm": 15.648187637329102, + "learning_rate": 4.695764718087597e-06, + "loss": 0.6259, + "num_input_tokens_seen": 7059672, + "step": 3600 + }, + { + "epoch": 0.47726971504307486, + "grad_norm": 8.93014144897461, + "learning_rate": 4.695598730877906e-06, + "loss": 0.3532, + "num_input_tokens_seen": 7061440, + "step": 3601 + }, + { + "epoch": 0.47740225314778, + "grad_norm": 17.751750946044922, + "learning_rate": 4.695432701335558e-06, + "loss": 0.5704, + "num_input_tokens_seen": 7063408, + "step": 3602 + }, + { + "epoch": 0.4775347912524851, + "grad_norm": 0.16362851858139038, + "learning_rate": 4.695266629463753e-06, + "loss": 0.001, + "num_input_tokens_seen": 7065576, + "step": 3603 + }, + { + "epoch": 0.4776673293571902, + "grad_norm": 12.111469268798828, + "learning_rate": 4.695100515265692e-06, + "loss": 0.5356, + "num_input_tokens_seen": 7068104, + "step": 3604 + }, + { + "epoch": 0.4777998674618953, + "grad_norm": 0.3510127067565918, + "learning_rate": 4.694934358744579e-06, + "loss": 0.002, + "num_input_tokens_seen": 7070400, + "step": 3605 + }, + { + "epoch": 0.4779324055666004, + "grad_norm": 10.041983604431152, + "learning_rate": 4.694768159903618e-06, + "loss": 0.2129, + "num_input_tokens_seen": 7071744, + "step": 3606 + }, + { + "epoch": 0.4780649436713055, + "grad_norm": 15.56740665435791, + "learning_rate": 4.694601918746013e-06, + "loss": 0.2034, + "num_input_tokens_seen": 7073392, + "step": 3607 + }, + { + "epoch": 0.4781974817760106, + "grad_norm": 3.900268077850342, + "learning_rate": 4.694435635274967e-06, + "loss": 0.0868, + "num_input_tokens_seen": 7075048, + "step": 3608 + }, + { + "epoch": 0.4783300198807157, + "grad_norm": 15.370348930358887, + "learning_rate": 4.69426930949369e-06, + "loss": 0.3446, + "num_input_tokens_seen": 7076640, + "step": 3609 + }, + { + "epoch": 0.4784625579854208, + "grad_norm": 5.116485595703125, + "learning_rate": 4.694102941405387e-06, + "loss": 0.1836, + "num_input_tokens_seen": 7079040, + "step": 3610 + }, + { + "epoch": 0.4785950960901259, + "grad_norm": 0.5230085253715515, + "learning_rate": 4.693936531013265e-06, + "loss": 0.0032, + "num_input_tokens_seen": 7080864, + "step": 3611 + }, + { + "epoch": 0.478727634194831, + "grad_norm": 11.05142593383789, + "learning_rate": 4.693770078320533e-06, + "loss": 0.1962, + "num_input_tokens_seen": 7082592, + "step": 3612 + }, + { + "epoch": 0.4788601722995361, + "grad_norm": 0.23189933598041534, + "learning_rate": 4.6936035833304015e-06, + "loss": 0.0015, + "num_input_tokens_seen": 7084104, + "step": 3613 + }, + { + "epoch": 0.47899271040424124, + "grad_norm": 0.8146563172340393, + "learning_rate": 4.693437046046078e-06, + "loss": 0.005, + "num_input_tokens_seen": 7086000, + "step": 3614 + }, + { + "epoch": 0.47912524850894633, + "grad_norm": 0.21613956987857819, + "learning_rate": 4.6932704664707765e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7087240, + "step": 3615 + }, + { + "epoch": 0.4792577866136514, + "grad_norm": 0.2218838632106781, + "learning_rate": 4.693103844607707e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7088864, + "step": 3616 + }, + { + "epoch": 0.4793903247183565, + "grad_norm": 9.091875076293945, + "learning_rate": 4.692937180460082e-06, + "loss": 0.2301, + "num_input_tokens_seen": 7091320, + "step": 3617 + }, + { + "epoch": 0.4795228628230616, + "grad_norm": 4.170630931854248, + "learning_rate": 4.692770474031116e-06, + "loss": 0.0962, + "num_input_tokens_seen": 7092744, + "step": 3618 + }, + { + "epoch": 0.4796554009277667, + "grad_norm": 14.123799324035645, + "learning_rate": 4.692603725324022e-06, + "loss": 0.5683, + "num_input_tokens_seen": 7095448, + "step": 3619 + }, + { + "epoch": 0.47978793903247186, + "grad_norm": 6.59906005859375, + "learning_rate": 4.692436934342016e-06, + "loss": 0.2922, + "num_input_tokens_seen": 7097192, + "step": 3620 + }, + { + "epoch": 0.47992047713717695, + "grad_norm": 0.40969640016555786, + "learning_rate": 4.692270101088313e-06, + "loss": 0.0023, + "num_input_tokens_seen": 7098976, + "step": 3621 + }, + { + "epoch": 0.48005301524188204, + "grad_norm": 2.175377607345581, + "learning_rate": 4.69210322556613e-06, + "loss": 0.0131, + "num_input_tokens_seen": 7101016, + "step": 3622 + }, + { + "epoch": 0.48018555334658714, + "grad_norm": 8.167495727539062, + "learning_rate": 4.6919363077786855e-06, + "loss": 0.2313, + "num_input_tokens_seen": 7102424, + "step": 3623 + }, + { + "epoch": 0.48031809145129223, + "grad_norm": 14.146867752075195, + "learning_rate": 4.691769347729196e-06, + "loss": 0.5304, + "num_input_tokens_seen": 7105504, + "step": 3624 + }, + { + "epoch": 0.4804506295559973, + "grad_norm": 6.243712425231934, + "learning_rate": 4.691602345420882e-06, + "loss": 0.1511, + "num_input_tokens_seen": 7107416, + "step": 3625 + }, + { + "epoch": 0.48058316766070247, + "grad_norm": 0.191379114985466, + "learning_rate": 4.691435300856962e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7109104, + "step": 3626 + }, + { + "epoch": 0.48071570576540756, + "grad_norm": 10.162073135375977, + "learning_rate": 4.691268214040658e-06, + "loss": 0.3553, + "num_input_tokens_seen": 7111032, + "step": 3627 + }, + { + "epoch": 0.48084824387011266, + "grad_norm": 4.809532165527344, + "learning_rate": 4.6911010849751916e-06, + "loss": 0.0741, + "num_input_tokens_seen": 7113368, + "step": 3628 + }, + { + "epoch": 0.48098078197481775, + "grad_norm": 4.5478620529174805, + "learning_rate": 4.690933913663784e-06, + "loss": 0.048, + "num_input_tokens_seen": 7114856, + "step": 3629 + }, + { + "epoch": 0.48111332007952284, + "grad_norm": 0.18467599153518677, + "learning_rate": 4.690766700109659e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7116696, + "step": 3630 + }, + { + "epoch": 0.481245858184228, + "grad_norm": 17.60898208618164, + "learning_rate": 4.690599444316042e-06, + "loss": 0.449, + "num_input_tokens_seen": 7118576, + "step": 3631 + }, + { + "epoch": 0.4813783962889331, + "grad_norm": 7.66585111618042, + "learning_rate": 4.690432146286155e-06, + "loss": 0.3184, + "num_input_tokens_seen": 7120536, + "step": 3632 + }, + { + "epoch": 0.4815109343936382, + "grad_norm": 18.95626449584961, + "learning_rate": 4.690264806023226e-06, + "loss": 0.4574, + "num_input_tokens_seen": 7121872, + "step": 3633 + }, + { + "epoch": 0.4816434724983433, + "grad_norm": 0.11527787148952484, + "learning_rate": 4.6900974235304805e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7123720, + "step": 3634 + }, + { + "epoch": 0.48177601060304837, + "grad_norm": 6.762696743011475, + "learning_rate": 4.689929998811145e-06, + "loss": 0.1712, + "num_input_tokens_seen": 7125784, + "step": 3635 + }, + { + "epoch": 0.48190854870775346, + "grad_norm": 0.4892951548099518, + "learning_rate": 4.6897625318684494e-06, + "loss": 0.0025, + "num_input_tokens_seen": 7127448, + "step": 3636 + }, + { + "epoch": 0.4820410868124586, + "grad_norm": 2.992539405822754, + "learning_rate": 4.689595022705621e-06, + "loss": 0.0942, + "num_input_tokens_seen": 7128640, + "step": 3637 + }, + { + "epoch": 0.4821736249171637, + "grad_norm": 0.06269744038581848, + "learning_rate": 4.689427471325891e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7130616, + "step": 3638 + }, + { + "epoch": 0.4823061630218688, + "grad_norm": 16.022083282470703, + "learning_rate": 4.689259877732487e-06, + "loss": 0.4353, + "num_input_tokens_seen": 7132576, + "step": 3639 + }, + { + "epoch": 0.4824387011265739, + "grad_norm": 0.09941118955612183, + "learning_rate": 4.6890922419286436e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7134048, + "step": 3640 + }, + { + "epoch": 0.482571239231279, + "grad_norm": 9.228554725646973, + "learning_rate": 4.688924563917592e-06, + "loss": 0.1197, + "num_input_tokens_seen": 7135704, + "step": 3641 + }, + { + "epoch": 0.4827037773359841, + "grad_norm": 0.06086016818881035, + "learning_rate": 4.688756843702563e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7137080, + "step": 3642 + }, + { + "epoch": 0.4828363154406892, + "grad_norm": 9.835884094238281, + "learning_rate": 4.688589081286794e-06, + "loss": 0.2404, + "num_input_tokens_seen": 7138160, + "step": 3643 + }, + { + "epoch": 0.4829688535453943, + "grad_norm": 10.266068458557129, + "learning_rate": 4.688421276673517e-06, + "loss": 0.3296, + "num_input_tokens_seen": 7140376, + "step": 3644 + }, + { + "epoch": 0.4831013916500994, + "grad_norm": 2.3182859420776367, + "learning_rate": 4.6882534298659675e-06, + "loss": 0.015, + "num_input_tokens_seen": 7141512, + "step": 3645 + }, + { + "epoch": 0.4832339297548045, + "grad_norm": 10.558012008666992, + "learning_rate": 4.6880855408673835e-06, + "loss": 0.2838, + "num_input_tokens_seen": 7143248, + "step": 3646 + }, + { + "epoch": 0.4833664678595096, + "grad_norm": 7.685230731964111, + "learning_rate": 4.6879176096809995e-06, + "loss": 0.2251, + "num_input_tokens_seen": 7144664, + "step": 3647 + }, + { + "epoch": 0.4834990059642147, + "grad_norm": 19.196279525756836, + "learning_rate": 4.687749636310055e-06, + "loss": 0.6622, + "num_input_tokens_seen": 7147528, + "step": 3648 + }, + { + "epoch": 0.48363154406891984, + "grad_norm": 15.792891502380371, + "learning_rate": 4.687581620757788e-06, + "loss": 0.4496, + "num_input_tokens_seen": 7149704, + "step": 3649 + }, + { + "epoch": 0.48376408217362493, + "grad_norm": 10.962190628051758, + "learning_rate": 4.687413563027439e-06, + "loss": 0.1057, + "num_input_tokens_seen": 7151368, + "step": 3650 + }, + { + "epoch": 0.48389662027833, + "grad_norm": 0.7263032793998718, + "learning_rate": 4.687245463122247e-06, + "loss": 0.0045, + "num_input_tokens_seen": 7153376, + "step": 3651 + }, + { + "epoch": 0.4840291583830351, + "grad_norm": 6.699631690979004, + "learning_rate": 4.687077321045454e-06, + "loss": 0.1838, + "num_input_tokens_seen": 7156232, + "step": 3652 + }, + { + "epoch": 0.4841616964877402, + "grad_norm": 5.326754093170166, + "learning_rate": 4.686909136800301e-06, + "loss": 0.1323, + "num_input_tokens_seen": 7158464, + "step": 3653 + }, + { + "epoch": 0.4842942345924453, + "grad_norm": 13.424384117126465, + "learning_rate": 4.6867409103900315e-06, + "loss": 0.1772, + "num_input_tokens_seen": 7160520, + "step": 3654 + }, + { + "epoch": 0.48442677269715045, + "grad_norm": 18.61404800415039, + "learning_rate": 4.6865726418178886e-06, + "loss": 0.8723, + "num_input_tokens_seen": 7162840, + "step": 3655 + }, + { + "epoch": 0.48455931080185555, + "grad_norm": 12.540332794189453, + "learning_rate": 4.686404331087117e-06, + "loss": 0.4924, + "num_input_tokens_seen": 7165080, + "step": 3656 + }, + { + "epoch": 0.48469184890656064, + "grad_norm": 8.716713905334473, + "learning_rate": 4.686235978200961e-06, + "loss": 0.1661, + "num_input_tokens_seen": 7167288, + "step": 3657 + }, + { + "epoch": 0.48482438701126573, + "grad_norm": 7.3954362869262695, + "learning_rate": 4.686067583162667e-06, + "loss": 0.2172, + "num_input_tokens_seen": 7169136, + "step": 3658 + }, + { + "epoch": 0.4849569251159708, + "grad_norm": 6.320158958435059, + "learning_rate": 4.685899145975482e-06, + "loss": 0.1723, + "num_input_tokens_seen": 7170960, + "step": 3659 + }, + { + "epoch": 0.4850894632206759, + "grad_norm": 16.36895179748535, + "learning_rate": 4.685730666642654e-06, + "loss": 0.5165, + "num_input_tokens_seen": 7172496, + "step": 3660 + }, + { + "epoch": 0.48522200132538107, + "grad_norm": 2.5520060062408447, + "learning_rate": 4.68556214516743e-06, + "loss": 0.0302, + "num_input_tokens_seen": 7174440, + "step": 3661 + }, + { + "epoch": 0.48535453943008616, + "grad_norm": 9.569836616516113, + "learning_rate": 4.685393581553061e-06, + "loss": 0.1684, + "num_input_tokens_seen": 7176104, + "step": 3662 + }, + { + "epoch": 0.48548707753479126, + "grad_norm": 9.7288236618042, + "learning_rate": 4.685224975802797e-06, + "loss": 0.3023, + "num_input_tokens_seen": 7178240, + "step": 3663 + }, + { + "epoch": 0.48561961563949635, + "grad_norm": 2.0769824981689453, + "learning_rate": 4.685056327919886e-06, + "loss": 0.0359, + "num_input_tokens_seen": 7180384, + "step": 3664 + }, + { + "epoch": 0.48575215374420144, + "grad_norm": 1.1037579774856567, + "learning_rate": 4.684887637907583e-06, + "loss": 0.0073, + "num_input_tokens_seen": 7181400, + "step": 3665 + }, + { + "epoch": 0.48588469184890654, + "grad_norm": 6.982590675354004, + "learning_rate": 4.684718905769138e-06, + "loss": 0.1672, + "num_input_tokens_seen": 7184032, + "step": 3666 + }, + { + "epoch": 0.4860172299536117, + "grad_norm": 1.2424237728118896, + "learning_rate": 4.684550131507806e-06, + "loss": 0.0082, + "num_input_tokens_seen": 7185672, + "step": 3667 + }, + { + "epoch": 0.4861497680583168, + "grad_norm": 13.110060691833496, + "learning_rate": 4.68438131512684e-06, + "loss": 0.2624, + "num_input_tokens_seen": 7187144, + "step": 3668 + }, + { + "epoch": 0.48628230616302187, + "grad_norm": 2.2205982208251953, + "learning_rate": 4.684212456629496e-06, + "loss": 0.0247, + "num_input_tokens_seen": 7189056, + "step": 3669 + }, + { + "epoch": 0.48641484426772696, + "grad_norm": 6.307052135467529, + "learning_rate": 4.684043556019028e-06, + "loss": 0.1582, + "num_input_tokens_seen": 7190768, + "step": 3670 + }, + { + "epoch": 0.48654738237243206, + "grad_norm": 12.494579315185547, + "learning_rate": 4.683874613298695e-06, + "loss": 0.2223, + "num_input_tokens_seen": 7192648, + "step": 3671 + }, + { + "epoch": 0.48667992047713715, + "grad_norm": 12.971120834350586, + "learning_rate": 4.683705628471752e-06, + "loss": 0.4699, + "num_input_tokens_seen": 7194312, + "step": 3672 + }, + { + "epoch": 0.4868124585818423, + "grad_norm": 11.755553245544434, + "learning_rate": 4.683536601541458e-06, + "loss": 0.322, + "num_input_tokens_seen": 7196048, + "step": 3673 + }, + { + "epoch": 0.4869449966865474, + "grad_norm": 12.68346881866455, + "learning_rate": 4.683367532511072e-06, + "loss": 0.634, + "num_input_tokens_seen": 7197824, + "step": 3674 + }, + { + "epoch": 0.4870775347912525, + "grad_norm": 21.495649337768555, + "learning_rate": 4.683198421383853e-06, + "loss": 0.7325, + "num_input_tokens_seen": 7199904, + "step": 3675 + }, + { + "epoch": 0.4872100728959576, + "grad_norm": 10.929720878601074, + "learning_rate": 4.683029268163064e-06, + "loss": 0.2668, + "num_input_tokens_seen": 7202168, + "step": 3676 + }, + { + "epoch": 0.4873426110006627, + "grad_norm": 13.11765193939209, + "learning_rate": 4.682860072851963e-06, + "loss": 0.356, + "num_input_tokens_seen": 7204336, + "step": 3677 + }, + { + "epoch": 0.48747514910536777, + "grad_norm": 1.0770907402038574, + "learning_rate": 4.682690835453815e-06, + "loss": 0.0067, + "num_input_tokens_seen": 7206120, + "step": 3678 + }, + { + "epoch": 0.4876076872100729, + "grad_norm": 7.749923229217529, + "learning_rate": 4.682521555971881e-06, + "loss": 0.1145, + "num_input_tokens_seen": 7208184, + "step": 3679 + }, + { + "epoch": 0.487740225314778, + "grad_norm": 17.261608123779297, + "learning_rate": 4.6823522344094265e-06, + "loss": 0.2908, + "num_input_tokens_seen": 7210440, + "step": 3680 + }, + { + "epoch": 0.4878727634194831, + "grad_norm": 0.5793535113334656, + "learning_rate": 4.6821828707697155e-06, + "loss": 0.0036, + "num_input_tokens_seen": 7212328, + "step": 3681 + }, + { + "epoch": 0.4880053015241882, + "grad_norm": 12.21238899230957, + "learning_rate": 4.682013465056014e-06, + "loss": 0.4645, + "num_input_tokens_seen": 7214736, + "step": 3682 + }, + { + "epoch": 0.4881378396288933, + "grad_norm": 7.762907981872559, + "learning_rate": 4.681844017271586e-06, + "loss": 0.1034, + "num_input_tokens_seen": 7216504, + "step": 3683 + }, + { + "epoch": 0.4882703777335984, + "grad_norm": 8.921805381774902, + "learning_rate": 4.681674527419701e-06, + "loss": 0.2196, + "num_input_tokens_seen": 7218408, + "step": 3684 + }, + { + "epoch": 0.48840291583830353, + "grad_norm": 10.31627082824707, + "learning_rate": 4.681504995503626e-06, + "loss": 0.2883, + "num_input_tokens_seen": 7219936, + "step": 3685 + }, + { + "epoch": 0.4885354539430086, + "grad_norm": 8.42447566986084, + "learning_rate": 4.681335421526629e-06, + "loss": 0.0715, + "num_input_tokens_seen": 7221728, + "step": 3686 + }, + { + "epoch": 0.4886679920477137, + "grad_norm": 0.3916245698928833, + "learning_rate": 4.681165805491982e-06, + "loss": 0.0025, + "num_input_tokens_seen": 7223328, + "step": 3687 + }, + { + "epoch": 0.4888005301524188, + "grad_norm": 0.4920238256454468, + "learning_rate": 4.680996147402952e-06, + "loss": 0.0029, + "num_input_tokens_seen": 7225000, + "step": 3688 + }, + { + "epoch": 0.4889330682571239, + "grad_norm": 0.1166110411286354, + "learning_rate": 4.680826447262812e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7226336, + "step": 3689 + }, + { + "epoch": 0.48906560636182905, + "grad_norm": 3.457275629043579, + "learning_rate": 4.680656705074834e-06, + "loss": 0.0543, + "num_input_tokens_seen": 7227960, + "step": 3690 + }, + { + "epoch": 0.48919814446653415, + "grad_norm": 2.1174094676971436, + "learning_rate": 4.680486920842291e-06, + "loss": 0.0171, + "num_input_tokens_seen": 7229608, + "step": 3691 + }, + { + "epoch": 0.48933068257123924, + "grad_norm": 0.5574467778205872, + "learning_rate": 4.680317094568454e-06, + "loss": 0.0033, + "num_input_tokens_seen": 7231480, + "step": 3692 + }, + { + "epoch": 0.48946322067594433, + "grad_norm": 3.1361982822418213, + "learning_rate": 4.6801472262566005e-06, + "loss": 0.0794, + "num_input_tokens_seen": 7232968, + "step": 3693 + }, + { + "epoch": 0.4895957587806494, + "grad_norm": 17.396100997924805, + "learning_rate": 4.679977315910005e-06, + "loss": 0.392, + "num_input_tokens_seen": 7234304, + "step": 3694 + }, + { + "epoch": 0.4897282968853545, + "grad_norm": 9.992633819580078, + "learning_rate": 4.679807363531942e-06, + "loss": 0.3459, + "num_input_tokens_seen": 7236272, + "step": 3695 + }, + { + "epoch": 0.48986083499005967, + "grad_norm": 0.1709693968296051, + "learning_rate": 4.67963736912569e-06, + "loss": 0.001, + "num_input_tokens_seen": 7238008, + "step": 3696 + }, + { + "epoch": 0.48999337309476476, + "grad_norm": 5.947240829467773, + "learning_rate": 4.679467332694525e-06, + "loss": 0.1294, + "num_input_tokens_seen": 7240952, + "step": 3697 + }, + { + "epoch": 0.49012591119946985, + "grad_norm": 8.366475105285645, + "learning_rate": 4.679297254241727e-06, + "loss": 0.1231, + "num_input_tokens_seen": 7242744, + "step": 3698 + }, + { + "epoch": 0.49025844930417495, + "grad_norm": 0.06506709009408951, + "learning_rate": 4.679127133770574e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7244048, + "step": 3699 + }, + { + "epoch": 0.49039098740888004, + "grad_norm": 8.427557945251465, + "learning_rate": 4.678956971284347e-06, + "loss": 0.1014, + "num_input_tokens_seen": 7247080, + "step": 3700 + }, + { + "epoch": 0.49052352551358513, + "grad_norm": 2.152414083480835, + "learning_rate": 4.678786766786327e-06, + "loss": 0.028, + "num_input_tokens_seen": 7248792, + "step": 3701 + }, + { + "epoch": 0.4906560636182903, + "grad_norm": 10.751141548156738, + "learning_rate": 4.678616520279794e-06, + "loss": 0.0706, + "num_input_tokens_seen": 7250360, + "step": 3702 + }, + { + "epoch": 0.4907886017229954, + "grad_norm": 5.024112701416016, + "learning_rate": 4.6784462317680315e-06, + "loss": 0.0787, + "num_input_tokens_seen": 7253496, + "step": 3703 + }, + { + "epoch": 0.49092113982770047, + "grad_norm": 2.8715667724609375, + "learning_rate": 4.678275901254324e-06, + "loss": 0.0717, + "num_input_tokens_seen": 7254664, + "step": 3704 + }, + { + "epoch": 0.49105367793240556, + "grad_norm": 8.858973503112793, + "learning_rate": 4.6781055287419525e-06, + "loss": 0.1985, + "num_input_tokens_seen": 7255896, + "step": 3705 + }, + { + "epoch": 0.49118621603711066, + "grad_norm": 6.407101631164551, + "learning_rate": 4.6779351142342044e-06, + "loss": 0.2617, + "num_input_tokens_seen": 7257672, + "step": 3706 + }, + { + "epoch": 0.49131875414181575, + "grad_norm": 0.18223018944263458, + "learning_rate": 4.677764657734366e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7259376, + "step": 3707 + }, + { + "epoch": 0.4914512922465209, + "grad_norm": 0.09545232355594635, + "learning_rate": 4.677594159245722e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7262984, + "step": 3708 + }, + { + "epoch": 0.491583830351226, + "grad_norm": 7.851983070373535, + "learning_rate": 4.67742361877156e-06, + "loss": 0.0725, + "num_input_tokens_seen": 7264488, + "step": 3709 + }, + { + "epoch": 0.4917163684559311, + "grad_norm": 0.1380966156721115, + "learning_rate": 4.677253036315169e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7265952, + "step": 3710 + }, + { + "epoch": 0.4918489065606362, + "grad_norm": 4.944606304168701, + "learning_rate": 4.677082411879837e-06, + "loss": 0.1532, + "num_input_tokens_seen": 7268056, + "step": 3711 + }, + { + "epoch": 0.49198144466534127, + "grad_norm": 9.678457260131836, + "learning_rate": 4.6769117454688545e-06, + "loss": 0.4166, + "num_input_tokens_seen": 7270344, + "step": 3712 + }, + { + "epoch": 0.49211398277004637, + "grad_norm": 11.303293228149414, + "learning_rate": 4.6767410370855115e-06, + "loss": 0.344, + "num_input_tokens_seen": 7271936, + "step": 3713 + }, + { + "epoch": 0.4922465208747515, + "grad_norm": 1.7822917699813843, + "learning_rate": 4.6765702867331e-06, + "loss": 0.0101, + "num_input_tokens_seen": 7274352, + "step": 3714 + }, + { + "epoch": 0.4923790589794566, + "grad_norm": 0.12557177245616913, + "learning_rate": 4.676399494414911e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7275560, + "step": 3715 + }, + { + "epoch": 0.4925115970841617, + "grad_norm": 1.5916081666946411, + "learning_rate": 4.67622866013424e-06, + "loss": 0.0084, + "num_input_tokens_seen": 7277688, + "step": 3716 + }, + { + "epoch": 0.4926441351888668, + "grad_norm": 12.983985900878906, + "learning_rate": 4.676057783894378e-06, + "loss": 0.4425, + "num_input_tokens_seen": 7279928, + "step": 3717 + }, + { + "epoch": 0.4927766732935719, + "grad_norm": 13.755720138549805, + "learning_rate": 4.6758868656986214e-06, + "loss": 0.1449, + "num_input_tokens_seen": 7281128, + "step": 3718 + }, + { + "epoch": 0.492909211398277, + "grad_norm": 14.462699890136719, + "learning_rate": 4.6757159055502635e-06, + "loss": 0.2867, + "num_input_tokens_seen": 7282992, + "step": 3719 + }, + { + "epoch": 0.49304174950298213, + "grad_norm": 0.09824782609939575, + "learning_rate": 4.675544903452603e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7284320, + "step": 3720 + }, + { + "epoch": 0.4931742876076872, + "grad_norm": 0.17122478783130646, + "learning_rate": 4.675373859408936e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7286048, + "step": 3721 + }, + { + "epoch": 0.4933068257123923, + "grad_norm": 0.25496169924736023, + "learning_rate": 4.6752027734225605e-06, + "loss": 0.0015, + "num_input_tokens_seen": 7287432, + "step": 3722 + }, + { + "epoch": 0.4934393638170974, + "grad_norm": 0.10535811632871628, + "learning_rate": 4.675031645496775e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7288840, + "step": 3723 + }, + { + "epoch": 0.4935719019218025, + "grad_norm": 0.15338915586471558, + "learning_rate": 4.674860475634878e-06, + "loss": 0.001, + "num_input_tokens_seen": 7290376, + "step": 3724 + }, + { + "epoch": 0.4937044400265076, + "grad_norm": 0.8637729287147522, + "learning_rate": 4.674689263840171e-06, + "loss": 0.0047, + "num_input_tokens_seen": 7291904, + "step": 3725 + }, + { + "epoch": 0.49383697813121274, + "grad_norm": 8.982322692871094, + "learning_rate": 4.674518010115955e-06, + "loss": 0.2171, + "num_input_tokens_seen": 7293712, + "step": 3726 + }, + { + "epoch": 0.49396951623591784, + "grad_norm": 7.300834655761719, + "learning_rate": 4.674346714465532e-06, + "loss": 0.2726, + "num_input_tokens_seen": 7295584, + "step": 3727 + }, + { + "epoch": 0.49410205434062293, + "grad_norm": 4.2447509765625, + "learning_rate": 4.674175376892204e-06, + "loss": 0.159, + "num_input_tokens_seen": 7297392, + "step": 3728 + }, + { + "epoch": 0.494234592445328, + "grad_norm": 7.436861991882324, + "learning_rate": 4.674003997399275e-06, + "loss": 0.0729, + "num_input_tokens_seen": 7299048, + "step": 3729 + }, + { + "epoch": 0.4943671305500331, + "grad_norm": 0.9530767798423767, + "learning_rate": 4.673832575990048e-06, + "loss": 0.0105, + "num_input_tokens_seen": 7300360, + "step": 3730 + }, + { + "epoch": 0.4944996686547382, + "grad_norm": 0.05369829013943672, + "learning_rate": 4.673661112667831e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7302296, + "step": 3731 + }, + { + "epoch": 0.49463220675944336, + "grad_norm": 7.32320499420166, + "learning_rate": 4.673489607435927e-06, + "loss": 0.2798, + "num_input_tokens_seen": 7304504, + "step": 3732 + }, + { + "epoch": 0.49476474486414845, + "grad_norm": 15.532498359680176, + "learning_rate": 4.6733180602976445e-06, + "loss": 0.6279, + "num_input_tokens_seen": 7307064, + "step": 3733 + }, + { + "epoch": 0.49489728296885355, + "grad_norm": 0.08652970939874649, + "learning_rate": 4.67314647125629e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7309048, + "step": 3734 + }, + { + "epoch": 0.49502982107355864, + "grad_norm": 7.71146297454834, + "learning_rate": 4.6729748403151735e-06, + "loss": 0.2324, + "num_input_tokens_seen": 7311168, + "step": 3735 + }, + { + "epoch": 0.49516235917826373, + "grad_norm": 0.08946602046489716, + "learning_rate": 4.672803167477602e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7313592, + "step": 3736 + }, + { + "epoch": 0.4952948972829688, + "grad_norm": 12.425528526306152, + "learning_rate": 4.672631452746887e-06, + "loss": 0.3299, + "num_input_tokens_seen": 7315648, + "step": 3737 + }, + { + "epoch": 0.495427435387674, + "grad_norm": 4.399319648742676, + "learning_rate": 4.6724596961263376e-06, + "loss": 0.1433, + "num_input_tokens_seen": 7317776, + "step": 3738 + }, + { + "epoch": 0.49555997349237907, + "grad_norm": 15.491249084472656, + "learning_rate": 4.672287897619267e-06, + "loss": 0.4529, + "num_input_tokens_seen": 7320488, + "step": 3739 + }, + { + "epoch": 0.49569251159708416, + "grad_norm": 3.01819109916687, + "learning_rate": 4.672116057228988e-06, + "loss": 0.0315, + "num_input_tokens_seen": 7322640, + "step": 3740 + }, + { + "epoch": 0.49582504970178926, + "grad_norm": 19.011850357055664, + "learning_rate": 4.671944174958812e-06, + "loss": 1.0043, + "num_input_tokens_seen": 7325680, + "step": 3741 + }, + { + "epoch": 0.49595758780649435, + "grad_norm": 8.788366317749023, + "learning_rate": 4.671772250812055e-06, + "loss": 0.2475, + "num_input_tokens_seen": 7327896, + "step": 3742 + }, + { + "epoch": 0.49609012591119944, + "grad_norm": 10.707992553710938, + "learning_rate": 4.671600284792031e-06, + "loss": 0.3097, + "num_input_tokens_seen": 7330056, + "step": 3743 + }, + { + "epoch": 0.4962226640159046, + "grad_norm": 23.457717895507812, + "learning_rate": 4.671428276902054e-06, + "loss": 0.6047, + "num_input_tokens_seen": 7332120, + "step": 3744 + }, + { + "epoch": 0.4963552021206097, + "grad_norm": 15.116650581359863, + "learning_rate": 4.671256227145443e-06, + "loss": 0.4513, + "num_input_tokens_seen": 7333624, + "step": 3745 + }, + { + "epoch": 0.4964877402253148, + "grad_norm": 7.731261253356934, + "learning_rate": 4.671084135525513e-06, + "loss": 0.2663, + "num_input_tokens_seen": 7335616, + "step": 3746 + }, + { + "epoch": 0.49662027833001987, + "grad_norm": 9.077445030212402, + "learning_rate": 4.6709120020455845e-06, + "loss": 0.1923, + "num_input_tokens_seen": 7337552, + "step": 3747 + }, + { + "epoch": 0.49675281643472496, + "grad_norm": 4.799147129058838, + "learning_rate": 4.670739826708974e-06, + "loss": 0.0242, + "num_input_tokens_seen": 7339088, + "step": 3748 + }, + { + "epoch": 0.4968853545394301, + "grad_norm": 6.35343074798584, + "learning_rate": 4.670567609519002e-06, + "loss": 0.0519, + "num_input_tokens_seen": 7340704, + "step": 3749 + }, + { + "epoch": 0.4970178926441352, + "grad_norm": 18.491138458251953, + "learning_rate": 4.670395350478989e-06, + "loss": 0.6177, + "num_input_tokens_seen": 7342768, + "step": 3750 + }, + { + "epoch": 0.4971504307488403, + "grad_norm": 7.562197685241699, + "learning_rate": 4.670223049592257e-06, + "loss": 0.3762, + "num_input_tokens_seen": 7344696, + "step": 3751 + }, + { + "epoch": 0.4972829688535454, + "grad_norm": 0.670927107334137, + "learning_rate": 4.670050706862127e-06, + "loss": 0.0042, + "num_input_tokens_seen": 7347024, + "step": 3752 + }, + { + "epoch": 0.4974155069582505, + "grad_norm": 10.624455451965332, + "learning_rate": 4.669878322291923e-06, + "loss": 0.2179, + "num_input_tokens_seen": 7349416, + "step": 3753 + }, + { + "epoch": 0.4975480450629556, + "grad_norm": 14.380655288696289, + "learning_rate": 4.669705895884968e-06, + "loss": 0.3537, + "num_input_tokens_seen": 7351880, + "step": 3754 + }, + { + "epoch": 0.49768058316766073, + "grad_norm": 7.3378682136535645, + "learning_rate": 4.6695334276445855e-06, + "loss": 0.1797, + "num_input_tokens_seen": 7353928, + "step": 3755 + }, + { + "epoch": 0.4978131212723658, + "grad_norm": 9.116175651550293, + "learning_rate": 4.669360917574103e-06, + "loss": 0.2611, + "num_input_tokens_seen": 7355776, + "step": 3756 + }, + { + "epoch": 0.4979456593770709, + "grad_norm": 10.5614652633667, + "learning_rate": 4.669188365676845e-06, + "loss": 0.1879, + "num_input_tokens_seen": 7357616, + "step": 3757 + }, + { + "epoch": 0.498078197481776, + "grad_norm": 6.729059219360352, + "learning_rate": 4.669015771956138e-06, + "loss": 0.1513, + "num_input_tokens_seen": 7359032, + "step": 3758 + }, + { + "epoch": 0.4982107355864811, + "grad_norm": 12.209918022155762, + "learning_rate": 4.668843136415311e-06, + "loss": 0.3582, + "num_input_tokens_seen": 7360840, + "step": 3759 + }, + { + "epoch": 0.4983432736911862, + "grad_norm": 9.738348007202148, + "learning_rate": 4.668670459057693e-06, + "loss": 0.2889, + "num_input_tokens_seen": 7362184, + "step": 3760 + }, + { + "epoch": 0.49847581179589134, + "grad_norm": 13.182435989379883, + "learning_rate": 4.668497739886611e-06, + "loss": 0.3929, + "num_input_tokens_seen": 7363624, + "step": 3761 + }, + { + "epoch": 0.49860834990059644, + "grad_norm": 11.195540428161621, + "learning_rate": 4.668324978905398e-06, + "loss": 0.2136, + "num_input_tokens_seen": 7366344, + "step": 3762 + }, + { + "epoch": 0.49874088800530153, + "grad_norm": 7.256974220275879, + "learning_rate": 4.668152176117383e-06, + "loss": 0.1638, + "num_input_tokens_seen": 7367728, + "step": 3763 + }, + { + "epoch": 0.4988734261100066, + "grad_norm": 14.844018936157227, + "learning_rate": 4.667979331525899e-06, + "loss": 0.476, + "num_input_tokens_seen": 7369720, + "step": 3764 + }, + { + "epoch": 0.4990059642147117, + "grad_norm": 11.778115272521973, + "learning_rate": 4.667806445134277e-06, + "loss": 0.2855, + "num_input_tokens_seen": 7371064, + "step": 3765 + }, + { + "epoch": 0.4991385023194168, + "grad_norm": 0.8699835538864136, + "learning_rate": 4.667633516945851e-06, + "loss": 0.0058, + "num_input_tokens_seen": 7372592, + "step": 3766 + }, + { + "epoch": 0.49927104042412196, + "grad_norm": 11.455622673034668, + "learning_rate": 4.667460546963956e-06, + "loss": 0.2738, + "num_input_tokens_seen": 7374368, + "step": 3767 + }, + { + "epoch": 0.49940357852882705, + "grad_norm": 6.262709140777588, + "learning_rate": 4.667287535191927e-06, + "loss": 0.1314, + "num_input_tokens_seen": 7377296, + "step": 3768 + }, + { + "epoch": 0.49953611663353215, + "grad_norm": 21.019472122192383, + "learning_rate": 4.667114481633098e-06, + "loss": 0.4648, + "num_input_tokens_seen": 7380024, + "step": 3769 + }, + { + "epoch": 0.49966865473823724, + "grad_norm": 7.639338970184326, + "learning_rate": 4.666941386290808e-06, + "loss": 0.0945, + "num_input_tokens_seen": 7381584, + "step": 3770 + }, + { + "epoch": 0.49980119284294233, + "grad_norm": 8.748551368713379, + "learning_rate": 4.666768249168391e-06, + "loss": 0.2389, + "num_input_tokens_seen": 7384024, + "step": 3771 + }, + { + "epoch": 0.4999337309476474, + "grad_norm": 0.5426409840583801, + "learning_rate": 4.666595070269189e-06, + "loss": 0.0035, + "num_input_tokens_seen": 7385288, + "step": 3772 + }, + { + "epoch": 0.5000662690523525, + "grad_norm": 21.49462890625, + "learning_rate": 4.66642184959654e-06, + "loss": 0.2756, + "num_input_tokens_seen": 7387680, + "step": 3773 + }, + { + "epoch": 0.5001988071570577, + "grad_norm": 8.051777839660645, + "learning_rate": 4.666248587153782e-06, + "loss": 0.0853, + "num_input_tokens_seen": 7389424, + "step": 3774 + }, + { + "epoch": 0.5003313452617627, + "grad_norm": 9.731081008911133, + "learning_rate": 4.666075282944257e-06, + "loss": 0.0663, + "num_input_tokens_seen": 7391152, + "step": 3775 + }, + { + "epoch": 0.5004638833664679, + "grad_norm": 11.829185485839844, + "learning_rate": 4.665901936971306e-06, + "loss": 0.4676, + "num_input_tokens_seen": 7393520, + "step": 3776 + }, + { + "epoch": 0.500596421471173, + "grad_norm": 10.346894264221191, + "learning_rate": 4.665728549238272e-06, + "loss": 0.1606, + "num_input_tokens_seen": 7397072, + "step": 3777 + }, + { + "epoch": 0.500728959575878, + "grad_norm": 0.5274060368537903, + "learning_rate": 4.665555119748499e-06, + "loss": 0.0034, + "num_input_tokens_seen": 7399472, + "step": 3778 + }, + { + "epoch": 0.5008614976805832, + "grad_norm": 2.381251573562622, + "learning_rate": 4.665381648505327e-06, + "loss": 0.0131, + "num_input_tokens_seen": 7401672, + "step": 3779 + }, + { + "epoch": 0.5009940357852882, + "grad_norm": 10.102008819580078, + "learning_rate": 4.665208135512104e-06, + "loss": 0.3348, + "num_input_tokens_seen": 7403624, + "step": 3780 + }, + { + "epoch": 0.5011265738899934, + "grad_norm": 1.107379674911499, + "learning_rate": 4.665034580772175e-06, + "loss": 0.0067, + "num_input_tokens_seen": 7406488, + "step": 3781 + }, + { + "epoch": 0.5012591119946985, + "grad_norm": 1.9707496166229248, + "learning_rate": 4.664860984288884e-06, + "loss": 0.0118, + "num_input_tokens_seen": 7408384, + "step": 3782 + }, + { + "epoch": 0.5013916500994036, + "grad_norm": 5.604523181915283, + "learning_rate": 4.664687346065581e-06, + "loss": 0.1872, + "num_input_tokens_seen": 7410400, + "step": 3783 + }, + { + "epoch": 0.5015241882041087, + "grad_norm": 17.170034408569336, + "learning_rate": 4.664513666105612e-06, + "loss": 0.5413, + "num_input_tokens_seen": 7413112, + "step": 3784 + }, + { + "epoch": 0.5016567263088137, + "grad_norm": 3.253962755203247, + "learning_rate": 4.664339944412327e-06, + "loss": 0.0122, + "num_input_tokens_seen": 7414536, + "step": 3785 + }, + { + "epoch": 0.5017892644135189, + "grad_norm": 13.5678071975708, + "learning_rate": 4.6641661809890735e-06, + "loss": 0.8068, + "num_input_tokens_seen": 7416888, + "step": 3786 + }, + { + "epoch": 0.5019218025182239, + "grad_norm": 11.761780738830566, + "learning_rate": 4.663992375839204e-06, + "loss": 0.3547, + "num_input_tokens_seen": 7418192, + "step": 3787 + }, + { + "epoch": 0.5020543406229291, + "grad_norm": 4.3910298347473145, + "learning_rate": 4.663818528966069e-06, + "loss": 0.1387, + "num_input_tokens_seen": 7419208, + "step": 3788 + }, + { + "epoch": 0.5021868787276342, + "grad_norm": 0.035544801503419876, + "learning_rate": 4.66364464037302e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7421048, + "step": 3789 + }, + { + "epoch": 0.5023194168323393, + "grad_norm": 6.48258638381958, + "learning_rate": 4.663470710063409e-06, + "loss": 0.1329, + "num_input_tokens_seen": 7422528, + "step": 3790 + }, + { + "epoch": 0.5024519549370444, + "grad_norm": 16.436424255371094, + "learning_rate": 4.66329673804059e-06, + "loss": 0.6685, + "num_input_tokens_seen": 7424744, + "step": 3791 + }, + { + "epoch": 0.5025844930417495, + "grad_norm": 0.03394150361418724, + "learning_rate": 4.663122724307919e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7426112, + "step": 3792 + }, + { + "epoch": 0.5027170311464546, + "grad_norm": 8.756386756896973, + "learning_rate": 4.662948668868748e-06, + "loss": 0.2209, + "num_input_tokens_seen": 7429416, + "step": 3793 + }, + { + "epoch": 0.5028495692511598, + "grad_norm": 9.006821632385254, + "learning_rate": 4.662774571726435e-06, + "loss": 0.1185, + "num_input_tokens_seen": 7431536, + "step": 3794 + }, + { + "epoch": 0.5029821073558648, + "grad_norm": 23.868593215942383, + "learning_rate": 4.662600432884336e-06, + "loss": 0.8272, + "num_input_tokens_seen": 7433408, + "step": 3795 + }, + { + "epoch": 0.5031146454605699, + "grad_norm": 6.650596618652344, + "learning_rate": 4.66242625234581e-06, + "loss": 0.4601, + "num_input_tokens_seen": 7435184, + "step": 3796 + }, + { + "epoch": 0.503247183565275, + "grad_norm": 0.04085260629653931, + "learning_rate": 4.662252030114212e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7436440, + "step": 3797 + }, + { + "epoch": 0.5033797216699801, + "grad_norm": 0.039970021694898605, + "learning_rate": 4.662077766192906e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7438960, + "step": 3798 + }, + { + "epoch": 0.5035122597746852, + "grad_norm": 0.028971130028367043, + "learning_rate": 4.661903460585248e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7440552, + "step": 3799 + }, + { + "epoch": 0.5036447978793903, + "grad_norm": 4.454335689544678, + "learning_rate": 4.661729113294599e-06, + "loss": 0.2197, + "num_input_tokens_seen": 7442240, + "step": 3800 + }, + { + "epoch": 0.5037773359840955, + "grad_norm": 4.77355432510376, + "learning_rate": 4.661554724324321e-06, + "loss": 0.1512, + "num_input_tokens_seen": 7445344, + "step": 3801 + }, + { + "epoch": 0.5039098740888005, + "grad_norm": 0.6460253000259399, + "learning_rate": 4.661380293677778e-06, + "loss": 0.006, + "num_input_tokens_seen": 7447232, + "step": 3802 + }, + { + "epoch": 0.5040424121935057, + "grad_norm": 7.980596542358398, + "learning_rate": 4.661205821358331e-06, + "loss": 0.1835, + "num_input_tokens_seen": 7449616, + "step": 3803 + }, + { + "epoch": 0.5041749502982107, + "grad_norm": 8.587661743164062, + "learning_rate": 4.6610313073693454e-06, + "loss": 0.4085, + "num_input_tokens_seen": 7451872, + "step": 3804 + }, + { + "epoch": 0.5043074884029158, + "grad_norm": 0.027200492098927498, + "learning_rate": 4.660856751714185e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7454192, + "step": 3805 + }, + { + "epoch": 0.504440026507621, + "grad_norm": 3.177253007888794, + "learning_rate": 4.660682154396217e-06, + "loss": 0.0595, + "num_input_tokens_seen": 7455952, + "step": 3806 + }, + { + "epoch": 0.504572564612326, + "grad_norm": 0.030226562172174454, + "learning_rate": 4.660507515418805e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7457376, + "step": 3807 + }, + { + "epoch": 0.5047051027170312, + "grad_norm": 18.29974365234375, + "learning_rate": 4.6603328347853185e-06, + "loss": 0.6711, + "num_input_tokens_seen": 7459120, + "step": 3808 + }, + { + "epoch": 0.5048376408217362, + "grad_norm": 10.222456932067871, + "learning_rate": 4.660158112499124e-06, + "loss": 0.394, + "num_input_tokens_seen": 7460688, + "step": 3809 + }, + { + "epoch": 0.5049701789264414, + "grad_norm": 0.04791877418756485, + "learning_rate": 4.659983348563591e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7462720, + "step": 3810 + }, + { + "epoch": 0.5051027170311465, + "grad_norm": 15.199453353881836, + "learning_rate": 4.659808542982089e-06, + "loss": 0.4378, + "num_input_tokens_seen": 7464128, + "step": 3811 + }, + { + "epoch": 0.5052352551358515, + "grad_norm": 19.845563888549805, + "learning_rate": 4.659633695757988e-06, + "loss": 0.2716, + "num_input_tokens_seen": 7466616, + "step": 3812 + }, + { + "epoch": 0.5053677932405567, + "grad_norm": 8.899648666381836, + "learning_rate": 4.65945880689466e-06, + "loss": 0.2255, + "num_input_tokens_seen": 7467920, + "step": 3813 + }, + { + "epoch": 0.5055003313452617, + "grad_norm": 10.421370506286621, + "learning_rate": 4.659283876395476e-06, + "loss": 0.2526, + "num_input_tokens_seen": 7469944, + "step": 3814 + }, + { + "epoch": 0.5056328694499669, + "grad_norm": 14.412315368652344, + "learning_rate": 4.659108904263809e-06, + "loss": 0.3013, + "num_input_tokens_seen": 7473008, + "step": 3815 + }, + { + "epoch": 0.5057654075546719, + "grad_norm": 0.41000670194625854, + "learning_rate": 4.658933890503034e-06, + "loss": 0.0026, + "num_input_tokens_seen": 7474592, + "step": 3816 + }, + { + "epoch": 0.5058979456593771, + "grad_norm": 0.8977817893028259, + "learning_rate": 4.658758835116524e-06, + "loss": 0.0074, + "num_input_tokens_seen": 7476104, + "step": 3817 + }, + { + "epoch": 0.5060304837640822, + "grad_norm": 12.335478782653809, + "learning_rate": 4.6585837381076535e-06, + "loss": 0.3348, + "num_input_tokens_seen": 7478328, + "step": 3818 + }, + { + "epoch": 0.5061630218687873, + "grad_norm": 0.15439845621585846, + "learning_rate": 4.6584085994798e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7479448, + "step": 3819 + }, + { + "epoch": 0.5062955599734924, + "grad_norm": 5.305031776428223, + "learning_rate": 4.65823341923634e-06, + "loss": 0.1122, + "num_input_tokens_seen": 7480520, + "step": 3820 + }, + { + "epoch": 0.5064280980781974, + "grad_norm": 7.51107931137085, + "learning_rate": 4.65805819738065e-06, + "loss": 0.1945, + "num_input_tokens_seen": 7482144, + "step": 3821 + }, + { + "epoch": 0.5065606361829026, + "grad_norm": 16.621143341064453, + "learning_rate": 4.657882933916109e-06, + "loss": 0.4277, + "num_input_tokens_seen": 7484248, + "step": 3822 + }, + { + "epoch": 0.5066931742876077, + "grad_norm": 7.599722385406494, + "learning_rate": 4.6577076288460974e-06, + "loss": 0.1359, + "num_input_tokens_seen": 7485384, + "step": 3823 + }, + { + "epoch": 0.5068257123923128, + "grad_norm": 22.24402618408203, + "learning_rate": 4.657532282173994e-06, + "loss": 0.5525, + "num_input_tokens_seen": 7487480, + "step": 3824 + }, + { + "epoch": 0.5069582504970179, + "grad_norm": 0.5006080865859985, + "learning_rate": 4.657356893903179e-06, + "loss": 0.0034, + "num_input_tokens_seen": 7489432, + "step": 3825 + }, + { + "epoch": 0.507090788601723, + "grad_norm": 9.591044425964355, + "learning_rate": 4.657181464037036e-06, + "loss": 0.3522, + "num_input_tokens_seen": 7491032, + "step": 3826 + }, + { + "epoch": 0.5072233267064281, + "grad_norm": 16.038673400878906, + "learning_rate": 4.6570059925789455e-06, + "loss": 0.2749, + "num_input_tokens_seen": 7493008, + "step": 3827 + }, + { + "epoch": 0.5073558648111332, + "grad_norm": 15.959938049316406, + "learning_rate": 4.656830479532292e-06, + "loss": 0.6408, + "num_input_tokens_seen": 7494936, + "step": 3828 + }, + { + "epoch": 0.5074884029158383, + "grad_norm": 9.982244491577148, + "learning_rate": 4.656654924900458e-06, + "loss": 0.3631, + "num_input_tokens_seen": 7497328, + "step": 3829 + }, + { + "epoch": 0.5076209410205434, + "grad_norm": 0.7568904757499695, + "learning_rate": 4.656479328686829e-06, + "loss": 0.0053, + "num_input_tokens_seen": 7499552, + "step": 3830 + }, + { + "epoch": 0.5077534791252485, + "grad_norm": 13.756217956542969, + "learning_rate": 4.6563036908947915e-06, + "loss": 0.4165, + "num_input_tokens_seen": 7501232, + "step": 3831 + }, + { + "epoch": 0.5078860172299536, + "grad_norm": 14.193361282348633, + "learning_rate": 4.6561280115277314e-06, + "loss": 0.3105, + "num_input_tokens_seen": 7503072, + "step": 3832 + }, + { + "epoch": 0.5080185553346587, + "grad_norm": 8.322296142578125, + "learning_rate": 4.6559522905890355e-06, + "loss": 0.3782, + "num_input_tokens_seen": 7504336, + "step": 3833 + }, + { + "epoch": 0.5081510934393638, + "grad_norm": 3.3163723945617676, + "learning_rate": 4.655776528082093e-06, + "loss": 0.0182, + "num_input_tokens_seen": 7506056, + "step": 3834 + }, + { + "epoch": 0.508283631544069, + "grad_norm": 8.745096206665039, + "learning_rate": 4.655600724010291e-06, + "loss": 0.2784, + "num_input_tokens_seen": 7508264, + "step": 3835 + }, + { + "epoch": 0.508416169648774, + "grad_norm": 5.671663284301758, + "learning_rate": 4.6554248783770205e-06, + "loss": 0.2096, + "num_input_tokens_seen": 7509816, + "step": 3836 + }, + { + "epoch": 0.5085487077534792, + "grad_norm": 17.65005874633789, + "learning_rate": 4.65524899118567e-06, + "loss": 0.3535, + "num_input_tokens_seen": 7511928, + "step": 3837 + }, + { + "epoch": 0.5086812458581842, + "grad_norm": 5.636123180389404, + "learning_rate": 4.655073062439633e-06, + "loss": 0.1573, + "num_input_tokens_seen": 7513576, + "step": 3838 + }, + { + "epoch": 0.5088137839628893, + "grad_norm": 5.241680145263672, + "learning_rate": 4.654897092142302e-06, + "loss": 0.0653, + "num_input_tokens_seen": 7515280, + "step": 3839 + }, + { + "epoch": 0.5089463220675944, + "grad_norm": 0.5257935523986816, + "learning_rate": 4.654721080297066e-06, + "loss": 0.0037, + "num_input_tokens_seen": 7517032, + "step": 3840 + }, + { + "epoch": 0.5090788601722995, + "grad_norm": 5.624911785125732, + "learning_rate": 4.654545026907324e-06, + "loss": 0.1783, + "num_input_tokens_seen": 7518256, + "step": 3841 + }, + { + "epoch": 0.5092113982770047, + "grad_norm": 0.8047042489051819, + "learning_rate": 4.6543689319764654e-06, + "loss": 0.0056, + "num_input_tokens_seen": 7519848, + "step": 3842 + }, + { + "epoch": 0.5093439363817097, + "grad_norm": 9.142449378967285, + "learning_rate": 4.654192795507888e-06, + "loss": 0.253, + "num_input_tokens_seen": 7521488, + "step": 3843 + }, + { + "epoch": 0.5094764744864149, + "grad_norm": 7.155490398406982, + "learning_rate": 4.654016617504987e-06, + "loss": 0.1163, + "num_input_tokens_seen": 7523168, + "step": 3844 + }, + { + "epoch": 0.5096090125911199, + "grad_norm": 12.159253120422363, + "learning_rate": 4.65384039797116e-06, + "loss": 0.286, + "num_input_tokens_seen": 7524728, + "step": 3845 + }, + { + "epoch": 0.509741550695825, + "grad_norm": 6.172644138336182, + "learning_rate": 4.653664136909804e-06, + "loss": 0.1558, + "num_input_tokens_seen": 7525976, + "step": 3846 + }, + { + "epoch": 0.5098740888005302, + "grad_norm": 0.17605362832546234, + "learning_rate": 4.653487834324319e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7527096, + "step": 3847 + }, + { + "epoch": 0.5100066269052352, + "grad_norm": 6.352392196655273, + "learning_rate": 4.653311490218102e-06, + "loss": 0.0706, + "num_input_tokens_seen": 7529400, + "step": 3848 + }, + { + "epoch": 0.5101391650099404, + "grad_norm": 9.853144645690918, + "learning_rate": 4.653135104594554e-06, + "loss": 0.1792, + "num_input_tokens_seen": 7530904, + "step": 3849 + }, + { + "epoch": 0.5102717031146454, + "grad_norm": 6.2242279052734375, + "learning_rate": 4.652958677457076e-06, + "loss": 0.214, + "num_input_tokens_seen": 7532960, + "step": 3850 + }, + { + "epoch": 0.5104042412193506, + "grad_norm": 0.18780875205993652, + "learning_rate": 4.652782208809069e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7534448, + "step": 3851 + }, + { + "epoch": 0.5105367793240556, + "grad_norm": 0.15818049013614655, + "learning_rate": 4.652605698653936e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7536040, + "step": 3852 + }, + { + "epoch": 0.5106693174287608, + "grad_norm": 8.0579252243042, + "learning_rate": 4.65242914699508e-06, + "loss": 0.0802, + "num_input_tokens_seen": 7537776, + "step": 3853 + }, + { + "epoch": 0.5108018555334659, + "grad_norm": 13.291154861450195, + "learning_rate": 4.652252553835905e-06, + "loss": 0.1999, + "num_input_tokens_seen": 7539152, + "step": 3854 + }, + { + "epoch": 0.510934393638171, + "grad_norm": 4.071899890899658, + "learning_rate": 4.652075919179817e-06, + "loss": 0.0427, + "num_input_tokens_seen": 7541344, + "step": 3855 + }, + { + "epoch": 0.5110669317428761, + "grad_norm": 7.976846218109131, + "learning_rate": 4.65189924303022e-06, + "loss": 0.1686, + "num_input_tokens_seen": 7543176, + "step": 3856 + }, + { + "epoch": 0.5111994698475811, + "grad_norm": 0.07538077235221863, + "learning_rate": 4.651722525390522e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7544848, + "step": 3857 + }, + { + "epoch": 0.5113320079522863, + "grad_norm": 3.565011739730835, + "learning_rate": 4.651545766264127e-06, + "loss": 0.0414, + "num_input_tokens_seen": 7546448, + "step": 3858 + }, + { + "epoch": 0.5114645460569914, + "grad_norm": 5.377864837646484, + "learning_rate": 4.651368965654448e-06, + "loss": 0.232, + "num_input_tokens_seen": 7547888, + "step": 3859 + }, + { + "epoch": 0.5115970841616965, + "grad_norm": 9.728271484375, + "learning_rate": 4.65119212356489e-06, + "loss": 0.2512, + "num_input_tokens_seen": 7549600, + "step": 3860 + }, + { + "epoch": 0.5117296222664016, + "grad_norm": 0.27952712774276733, + "learning_rate": 4.6510152399988635e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7551848, + "step": 3861 + }, + { + "epoch": 0.5118621603711067, + "grad_norm": 0.12081749737262726, + "learning_rate": 4.650838314959779e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7553504, + "step": 3862 + }, + { + "epoch": 0.5119946984758118, + "grad_norm": 8.880135536193848, + "learning_rate": 4.650661348451049e-06, + "loss": 0.1328, + "num_input_tokens_seen": 7555176, + "step": 3863 + }, + { + "epoch": 0.512127236580517, + "grad_norm": 0.5720003247261047, + "learning_rate": 4.650484340476084e-06, + "loss": 0.0031, + "num_input_tokens_seen": 7557024, + "step": 3864 + }, + { + "epoch": 0.512259774685222, + "grad_norm": 0.1851201355457306, + "learning_rate": 4.650307291038297e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7558320, + "step": 3865 + }, + { + "epoch": 0.5123923127899271, + "grad_norm": 11.492060661315918, + "learning_rate": 4.650130200141103e-06, + "loss": 0.4219, + "num_input_tokens_seen": 7560928, + "step": 3866 + }, + { + "epoch": 0.5125248508946322, + "grad_norm": 5.517479419708252, + "learning_rate": 4.649953067787915e-06, + "loss": 0.1236, + "num_input_tokens_seen": 7563128, + "step": 3867 + }, + { + "epoch": 0.5126573889993373, + "grad_norm": 5.839290618896484, + "learning_rate": 4.649775893982149e-06, + "loss": 0.2432, + "num_input_tokens_seen": 7565072, + "step": 3868 + }, + { + "epoch": 0.5127899271040424, + "grad_norm": 11.97633171081543, + "learning_rate": 4.64959867872722e-06, + "loss": 0.2892, + "num_input_tokens_seen": 7568264, + "step": 3869 + }, + { + "epoch": 0.5129224652087475, + "grad_norm": 0.09630770236253738, + "learning_rate": 4.649421422026546e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7570816, + "step": 3870 + }, + { + "epoch": 0.5130550033134527, + "grad_norm": 1.6739745140075684, + "learning_rate": 4.649244123883544e-06, + "loss": 0.0218, + "num_input_tokens_seen": 7572264, + "step": 3871 + }, + { + "epoch": 0.5131875414181577, + "grad_norm": 11.977849006652832, + "learning_rate": 4.6490667843016325e-06, + "loss": 0.503, + "num_input_tokens_seen": 7573896, + "step": 3872 + }, + { + "epoch": 0.5133200795228628, + "grad_norm": 19.54895782470703, + "learning_rate": 4.6488894032842315e-06, + "loss": 0.5571, + "num_input_tokens_seen": 7576776, + "step": 3873 + }, + { + "epoch": 0.5134526176275679, + "grad_norm": 0.060662273317575455, + "learning_rate": 4.648711980834759e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7577864, + "step": 3874 + }, + { + "epoch": 0.513585155732273, + "grad_norm": 14.085258483886719, + "learning_rate": 4.648534516956639e-06, + "loss": 0.6941, + "num_input_tokens_seen": 7579432, + "step": 3875 + }, + { + "epoch": 0.5137176938369782, + "grad_norm": 6.37233829498291, + "learning_rate": 4.64835701165329e-06, + "loss": 0.0766, + "num_input_tokens_seen": 7581880, + "step": 3876 + }, + { + "epoch": 0.5138502319416832, + "grad_norm": 12.37532901763916, + "learning_rate": 4.648179464928136e-06, + "loss": 0.1853, + "num_input_tokens_seen": 7584632, + "step": 3877 + }, + { + "epoch": 0.5139827700463884, + "grad_norm": 1.3831883668899536, + "learning_rate": 4.6480018767846005e-06, + "loss": 0.0153, + "num_input_tokens_seen": 7586056, + "step": 3878 + }, + { + "epoch": 0.5141153081510934, + "grad_norm": 10.08962631225586, + "learning_rate": 4.647824247226106e-06, + "loss": 0.1379, + "num_input_tokens_seen": 7587640, + "step": 3879 + }, + { + "epoch": 0.5142478462557986, + "grad_norm": 13.777557373046875, + "learning_rate": 4.647646576256079e-06, + "loss": 0.5273, + "num_input_tokens_seen": 7590256, + "step": 3880 + }, + { + "epoch": 0.5143803843605036, + "grad_norm": 6.842599391937256, + "learning_rate": 4.647468863877944e-06, + "loss": 0.1601, + "num_input_tokens_seen": 7591864, + "step": 3881 + }, + { + "epoch": 0.5145129224652087, + "grad_norm": 0.06761663407087326, + "learning_rate": 4.647291110095128e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7594496, + "step": 3882 + }, + { + "epoch": 0.5146454605699139, + "grad_norm": 0.09105087071657181, + "learning_rate": 4.647113314911059e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7596360, + "step": 3883 + }, + { + "epoch": 0.5147779986746189, + "grad_norm": 0.05476690083742142, + "learning_rate": 4.6469354783291634e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7597720, + "step": 3884 + }, + { + "epoch": 0.5149105367793241, + "grad_norm": 4.954082012176514, + "learning_rate": 4.64675760035287e-06, + "loss": 0.1412, + "num_input_tokens_seen": 7600312, + "step": 3885 + }, + { + "epoch": 0.5150430748840291, + "grad_norm": 0.20849671959877014, + "learning_rate": 4.64657968098561e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7602072, + "step": 3886 + }, + { + "epoch": 0.5151756129887343, + "grad_norm": 0.10920123010873795, + "learning_rate": 4.646401720230812e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7604032, + "step": 3887 + }, + { + "epoch": 0.5153081510934394, + "grad_norm": 7.964940071105957, + "learning_rate": 4.646223718091909e-06, + "loss": 0.2723, + "num_input_tokens_seen": 7606360, + "step": 3888 + }, + { + "epoch": 0.5154406891981445, + "grad_norm": 5.736359596252441, + "learning_rate": 4.646045674572331e-06, + "loss": 0.1512, + "num_input_tokens_seen": 7608232, + "step": 3889 + }, + { + "epoch": 0.5155732273028496, + "grad_norm": 9.374197006225586, + "learning_rate": 4.645867589675514e-06, + "loss": 0.2189, + "num_input_tokens_seen": 7609696, + "step": 3890 + }, + { + "epoch": 0.5157057654075546, + "grad_norm": 14.919758796691895, + "learning_rate": 4.6456894634048875e-06, + "loss": 0.3773, + "num_input_tokens_seen": 7611264, + "step": 3891 + }, + { + "epoch": 0.5158383035122598, + "grad_norm": 6.105409622192383, + "learning_rate": 4.645511295763888e-06, + "loss": 0.1598, + "num_input_tokens_seen": 7613704, + "step": 3892 + }, + { + "epoch": 0.5159708416169648, + "grad_norm": 6.688642978668213, + "learning_rate": 4.645333086755952e-06, + "loss": 0.0816, + "num_input_tokens_seen": 7615824, + "step": 3893 + }, + { + "epoch": 0.51610337972167, + "grad_norm": 11.338894844055176, + "learning_rate": 4.645154836384513e-06, + "loss": 0.3308, + "num_input_tokens_seen": 7617808, + "step": 3894 + }, + { + "epoch": 0.5162359178263751, + "grad_norm": 0.34471264481544495, + "learning_rate": 4.644976544653009e-06, + "loss": 0.0024, + "num_input_tokens_seen": 7620472, + "step": 3895 + }, + { + "epoch": 0.5163684559310802, + "grad_norm": 1.1194355487823486, + "learning_rate": 4.644798211564877e-06, + "loss": 0.0095, + "num_input_tokens_seen": 7621784, + "step": 3896 + }, + { + "epoch": 0.5165009940357853, + "grad_norm": 14.840388298034668, + "learning_rate": 4.644619837123557e-06, + "loss": 0.1561, + "num_input_tokens_seen": 7624232, + "step": 3897 + }, + { + "epoch": 0.5166335321404903, + "grad_norm": 0.6106372475624084, + "learning_rate": 4.644441421332486e-06, + "loss": 0.004, + "num_input_tokens_seen": 7625512, + "step": 3898 + }, + { + "epoch": 0.5167660702451955, + "grad_norm": 4.217182636260986, + "learning_rate": 4.644262964195106e-06, + "loss": 0.0534, + "num_input_tokens_seen": 7628064, + "step": 3899 + }, + { + "epoch": 0.5168986083499006, + "grad_norm": 7.864591121673584, + "learning_rate": 4.644084465714857e-06, + "loss": 0.2397, + "num_input_tokens_seen": 7630032, + "step": 3900 + }, + { + "epoch": 0.5170311464546057, + "grad_norm": 0.7796896696090698, + "learning_rate": 4.643905925895179e-06, + "loss": 0.005, + "num_input_tokens_seen": 7632440, + "step": 3901 + }, + { + "epoch": 0.5171636845593108, + "grad_norm": 2.427598476409912, + "learning_rate": 4.643727344739517e-06, + "loss": 0.0273, + "num_input_tokens_seen": 7633696, + "step": 3902 + }, + { + "epoch": 0.5172962226640159, + "grad_norm": 7.205782890319824, + "learning_rate": 4.643548722251312e-06, + "loss": 0.2571, + "num_input_tokens_seen": 7636576, + "step": 3903 + }, + { + "epoch": 0.517428760768721, + "grad_norm": 6.383040428161621, + "learning_rate": 4.643370058434009e-06, + "loss": 0.1253, + "num_input_tokens_seen": 7638976, + "step": 3904 + }, + { + "epoch": 0.5175612988734261, + "grad_norm": 2.788740634918213, + "learning_rate": 4.643191353291053e-06, + "loss": 0.0112, + "num_input_tokens_seen": 7640888, + "step": 3905 + }, + { + "epoch": 0.5176938369781312, + "grad_norm": 19.716602325439453, + "learning_rate": 4.64301260682589e-06, + "loss": 0.7377, + "num_input_tokens_seen": 7644080, + "step": 3906 + }, + { + "epoch": 0.5178263750828364, + "grad_norm": 0.3081749975681305, + "learning_rate": 4.642833819041964e-06, + "loss": 0.0021, + "num_input_tokens_seen": 7645712, + "step": 3907 + }, + { + "epoch": 0.5179589131875414, + "grad_norm": 7.278192520141602, + "learning_rate": 4.6426549899427245e-06, + "loss": 0.2684, + "num_input_tokens_seen": 7647776, + "step": 3908 + }, + { + "epoch": 0.5180914512922465, + "grad_norm": 12.155147552490234, + "learning_rate": 4.6424761195316185e-06, + "loss": 0.2869, + "num_input_tokens_seen": 7650616, + "step": 3909 + }, + { + "epoch": 0.5182239893969516, + "grad_norm": 7.674764633178711, + "learning_rate": 4.642297207812095e-06, + "loss": 0.0756, + "num_input_tokens_seen": 7652408, + "step": 3910 + }, + { + "epoch": 0.5183565275016567, + "grad_norm": 12.263961791992188, + "learning_rate": 4.642118254787603e-06, + "loss": 0.3006, + "num_input_tokens_seen": 7654280, + "step": 3911 + }, + { + "epoch": 0.5184890656063619, + "grad_norm": 6.193371772766113, + "learning_rate": 4.641939260461594e-06, + "loss": 0.2269, + "num_input_tokens_seen": 7656056, + "step": 3912 + }, + { + "epoch": 0.5186216037110669, + "grad_norm": 0.19670720398426056, + "learning_rate": 4.641760224837518e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7658352, + "step": 3913 + }, + { + "epoch": 0.5187541418157721, + "grad_norm": 10.243383407592773, + "learning_rate": 4.6415811479188275e-06, + "loss": 0.1787, + "num_input_tokens_seen": 7659936, + "step": 3914 + }, + { + "epoch": 0.5188866799204771, + "grad_norm": 0.09814871847629547, + "learning_rate": 4.641402029708975e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7661648, + "step": 3915 + }, + { + "epoch": 0.5190192180251822, + "grad_norm": 0.1302480399608612, + "learning_rate": 4.641222870211413e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7664008, + "step": 3916 + }, + { + "epoch": 0.5191517561298873, + "grad_norm": 0.07020407915115356, + "learning_rate": 4.641043669429599e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7665088, + "step": 3917 + }, + { + "epoch": 0.5192842942345924, + "grad_norm": 12.221670150756836, + "learning_rate": 4.640864427366984e-06, + "loss": 0.2453, + "num_input_tokens_seen": 7667208, + "step": 3918 + }, + { + "epoch": 0.5194168323392976, + "grad_norm": 9.392801284790039, + "learning_rate": 4.640685144027027e-06, + "loss": 0.3726, + "num_input_tokens_seen": 7669064, + "step": 3919 + }, + { + "epoch": 0.5195493704440026, + "grad_norm": 0.14656253159046173, + "learning_rate": 4.640505819413184e-06, + "loss": 0.001, + "num_input_tokens_seen": 7671688, + "step": 3920 + }, + { + "epoch": 0.5196819085487078, + "grad_norm": 0.10497324913740158, + "learning_rate": 4.6403264535289115e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7672952, + "step": 3921 + }, + { + "epoch": 0.5198144466534128, + "grad_norm": 11.629120826721191, + "learning_rate": 4.640147046377669e-06, + "loss": 0.3155, + "num_input_tokens_seen": 7675208, + "step": 3922 + }, + { + "epoch": 0.519946984758118, + "grad_norm": 0.35601159930229187, + "learning_rate": 4.639967597962914e-06, + "loss": 0.0021, + "num_input_tokens_seen": 7676880, + "step": 3923 + }, + { + "epoch": 0.5200795228628231, + "grad_norm": 12.927213668823242, + "learning_rate": 4.6397881082881095e-06, + "loss": 0.4533, + "num_input_tokens_seen": 7679456, + "step": 3924 + }, + { + "epoch": 0.5202120609675281, + "grad_norm": 15.095540046691895, + "learning_rate": 4.6396085773567115e-06, + "loss": 0.3754, + "num_input_tokens_seen": 7680712, + "step": 3925 + }, + { + "epoch": 0.5203445990722333, + "grad_norm": 10.376604080200195, + "learning_rate": 4.639429005172186e-06, + "loss": 0.2242, + "num_input_tokens_seen": 7682504, + "step": 3926 + }, + { + "epoch": 0.5204771371769383, + "grad_norm": 3.0157835483551025, + "learning_rate": 4.639249391737992e-06, + "loss": 0.0317, + "num_input_tokens_seen": 7685080, + "step": 3927 + }, + { + "epoch": 0.5206096752816435, + "grad_norm": 12.498023986816406, + "learning_rate": 4.639069737057595e-06, + "loss": 0.1583, + "num_input_tokens_seen": 7687184, + "step": 3928 + }, + { + "epoch": 0.5207422133863486, + "grad_norm": 12.41493034362793, + "learning_rate": 4.6388900411344575e-06, + "loss": 0.3695, + "num_input_tokens_seen": 7689944, + "step": 3929 + }, + { + "epoch": 0.5208747514910537, + "grad_norm": 0.14885379374027252, + "learning_rate": 4.638710303972044e-06, + "loss": 0.001, + "num_input_tokens_seen": 7691456, + "step": 3930 + }, + { + "epoch": 0.5210072895957588, + "grad_norm": 5.978907585144043, + "learning_rate": 4.638530525573821e-06, + "loss": 0.1282, + "num_input_tokens_seen": 7693696, + "step": 3931 + }, + { + "epoch": 0.5211398277004639, + "grad_norm": 12.325837135314941, + "learning_rate": 4.638350705943254e-06, + "loss": 0.2525, + "num_input_tokens_seen": 7695912, + "step": 3932 + }, + { + "epoch": 0.521272365805169, + "grad_norm": 4.714094161987305, + "learning_rate": 4.6381708450838104e-06, + "loss": 0.0282, + "num_input_tokens_seen": 7697336, + "step": 3933 + }, + { + "epoch": 0.521404903909874, + "grad_norm": 0.17871876060962677, + "learning_rate": 4.637990942998957e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7698472, + "step": 3934 + }, + { + "epoch": 0.5215374420145792, + "grad_norm": 17.90882682800293, + "learning_rate": 4.637810999692164e-06, + "loss": 0.6474, + "num_input_tokens_seen": 7700456, + "step": 3935 + }, + { + "epoch": 0.5216699801192843, + "grad_norm": 9.274698257446289, + "learning_rate": 4.6376310151669e-06, + "loss": 0.1898, + "num_input_tokens_seen": 7701808, + "step": 3936 + }, + { + "epoch": 0.5218025182239894, + "grad_norm": 0.7546862959861755, + "learning_rate": 4.637450989426635e-06, + "loss": 0.0044, + "num_input_tokens_seen": 7703616, + "step": 3937 + }, + { + "epoch": 0.5219350563286945, + "grad_norm": 0.16327273845672607, + "learning_rate": 4.637270922474841e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7705496, + "step": 3938 + }, + { + "epoch": 0.5220675944333996, + "grad_norm": 10.371885299682617, + "learning_rate": 4.637090814314989e-06, + "loss": 0.2251, + "num_input_tokens_seen": 7707480, + "step": 3939 + }, + { + "epoch": 0.5222001325381047, + "grad_norm": 4.093565464019775, + "learning_rate": 4.6369106649505516e-06, + "loss": 0.027, + "num_input_tokens_seen": 7709056, + "step": 3940 + }, + { + "epoch": 0.5223326706428099, + "grad_norm": 15.884981155395508, + "learning_rate": 4.636730474385003e-06, + "loss": 0.4056, + "num_input_tokens_seen": 7711008, + "step": 3941 + }, + { + "epoch": 0.5224652087475149, + "grad_norm": 4.421368598937988, + "learning_rate": 4.636550242621816e-06, + "loss": 0.0491, + "num_input_tokens_seen": 7713144, + "step": 3942 + }, + { + "epoch": 0.52259774685222, + "grad_norm": 2.412248373031616, + "learning_rate": 4.636369969664467e-06, + "loss": 0.086, + "num_input_tokens_seen": 7714824, + "step": 3943 + }, + { + "epoch": 0.5227302849569251, + "grad_norm": 7.426116466522217, + "learning_rate": 4.636189655516431e-06, + "loss": 0.1391, + "num_input_tokens_seen": 7716696, + "step": 3944 + }, + { + "epoch": 0.5228628230616302, + "grad_norm": 8.407407760620117, + "learning_rate": 4.636009300181184e-06, + "loss": 0.0965, + "num_input_tokens_seen": 7719072, + "step": 3945 + }, + { + "epoch": 0.5229953611663353, + "grad_norm": 5.500792503356934, + "learning_rate": 4.635828903662205e-06, + "loss": 0.075, + "num_input_tokens_seen": 7722384, + "step": 3946 + }, + { + "epoch": 0.5231278992710404, + "grad_norm": 0.19300252199172974, + "learning_rate": 4.635648465962971e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7725160, + "step": 3947 + }, + { + "epoch": 0.5232604373757456, + "grad_norm": 0.1379784792661667, + "learning_rate": 4.6354679870869614e-06, + "loss": 0.001, + "num_input_tokens_seen": 7726800, + "step": 3948 + }, + { + "epoch": 0.5233929754804506, + "grad_norm": 11.754271507263184, + "learning_rate": 4.6352874670376556e-06, + "loss": 0.18, + "num_input_tokens_seen": 7729720, + "step": 3949 + }, + { + "epoch": 0.5235255135851558, + "grad_norm": 0.4266282021999359, + "learning_rate": 4.635106905818535e-06, + "loss": 0.0029, + "num_input_tokens_seen": 7731304, + "step": 3950 + }, + { + "epoch": 0.5236580516898608, + "grad_norm": 6.5703959465026855, + "learning_rate": 4.634926303433079e-06, + "loss": 0.2175, + "num_input_tokens_seen": 7733208, + "step": 3951 + }, + { + "epoch": 0.5237905897945659, + "grad_norm": 18.028095245361328, + "learning_rate": 4.634745659884773e-06, + "loss": 0.4297, + "num_input_tokens_seen": 7734824, + "step": 3952 + }, + { + "epoch": 0.5239231278992711, + "grad_norm": 0.12948773801326752, + "learning_rate": 4.634564975177097e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7735928, + "step": 3953 + }, + { + "epoch": 0.5240556660039761, + "grad_norm": 0.12280768901109695, + "learning_rate": 4.634384249313535e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7737344, + "step": 3954 + }, + { + "epoch": 0.5241882041086813, + "grad_norm": 13.939336776733398, + "learning_rate": 4.634203482297574e-06, + "loss": 0.292, + "num_input_tokens_seen": 7738936, + "step": 3955 + }, + { + "epoch": 0.5243207422133863, + "grad_norm": 0.2067951261997223, + "learning_rate": 4.634022674132695e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7741632, + "step": 3956 + }, + { + "epoch": 0.5244532803180915, + "grad_norm": 12.44519329071045, + "learning_rate": 4.633841824822389e-06, + "loss": 0.0828, + "num_input_tokens_seen": 7743816, + "step": 3957 + }, + { + "epoch": 0.5245858184227965, + "grad_norm": 0.13119351863861084, + "learning_rate": 4.63366093437014e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7745608, + "step": 3958 + }, + { + "epoch": 0.5247183565275017, + "grad_norm": 9.463254928588867, + "learning_rate": 4.633480002779436e-06, + "loss": 0.3272, + "num_input_tokens_seen": 7748152, + "step": 3959 + }, + { + "epoch": 0.5248508946322068, + "grad_norm": 6.2471466064453125, + "learning_rate": 4.633299030053765e-06, + "loss": 0.1687, + "num_input_tokens_seen": 7750712, + "step": 3960 + }, + { + "epoch": 0.5249834327369118, + "grad_norm": 0.4079556167125702, + "learning_rate": 4.633118016196617e-06, + "loss": 0.0027, + "num_input_tokens_seen": 7753208, + "step": 3961 + }, + { + "epoch": 0.525115970841617, + "grad_norm": 15.901931762695312, + "learning_rate": 4.632936961211484e-06, + "loss": 0.2196, + "num_input_tokens_seen": 7754768, + "step": 3962 + }, + { + "epoch": 0.525248508946322, + "grad_norm": 8.711216926574707, + "learning_rate": 4.632755865101853e-06, + "loss": 0.1868, + "num_input_tokens_seen": 7756144, + "step": 3963 + }, + { + "epoch": 0.5253810470510272, + "grad_norm": 0.7210275530815125, + "learning_rate": 4.632574727871219e-06, + "loss": 0.0043, + "num_input_tokens_seen": 7759640, + "step": 3964 + }, + { + "epoch": 0.5255135851557323, + "grad_norm": 6.543086051940918, + "learning_rate": 4.632393549523072e-06, + "loss": 0.2831, + "num_input_tokens_seen": 7761920, + "step": 3965 + }, + { + "epoch": 0.5256461232604374, + "grad_norm": 15.134282112121582, + "learning_rate": 4.632212330060907e-06, + "loss": 0.4894, + "num_input_tokens_seen": 7764048, + "step": 3966 + }, + { + "epoch": 0.5257786613651425, + "grad_norm": 4.576977252960205, + "learning_rate": 4.632031069488216e-06, + "loss": 0.066, + "num_input_tokens_seen": 7765840, + "step": 3967 + }, + { + "epoch": 0.5259111994698475, + "grad_norm": 15.82397747039795, + "learning_rate": 4.631849767808496e-06, + "loss": 0.4433, + "num_input_tokens_seen": 7768016, + "step": 3968 + }, + { + "epoch": 0.5260437375745527, + "grad_norm": 9.389792442321777, + "learning_rate": 4.631668425025243e-06, + "loss": 0.0811, + "num_input_tokens_seen": 7770328, + "step": 3969 + }, + { + "epoch": 0.5261762756792577, + "grad_norm": 9.84054946899414, + "learning_rate": 4.631487041141951e-06, + "loss": 0.1585, + "num_input_tokens_seen": 7773024, + "step": 3970 + }, + { + "epoch": 0.5263088137839629, + "grad_norm": 8.409414291381836, + "learning_rate": 4.631305616162119e-06, + "loss": 0.1792, + "num_input_tokens_seen": 7775336, + "step": 3971 + }, + { + "epoch": 0.526441351888668, + "grad_norm": 7.878690242767334, + "learning_rate": 4.6311241500892435e-06, + "loss": 0.3553, + "num_input_tokens_seen": 7777760, + "step": 3972 + }, + { + "epoch": 0.5265738899933731, + "grad_norm": 15.82659912109375, + "learning_rate": 4.630942642926825e-06, + "loss": 0.4995, + "num_input_tokens_seen": 7779704, + "step": 3973 + }, + { + "epoch": 0.5267064280980782, + "grad_norm": 3.158552885055542, + "learning_rate": 4.630761094678362e-06, + "loss": 0.0179, + "num_input_tokens_seen": 7781696, + "step": 3974 + }, + { + "epoch": 0.5268389662027833, + "grad_norm": 0.24967467784881592, + "learning_rate": 4.6305795053473545e-06, + "loss": 0.0016, + "num_input_tokens_seen": 7783424, + "step": 3975 + }, + { + "epoch": 0.5269715043074884, + "grad_norm": 0.07183726876974106, + "learning_rate": 4.630397874937305e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7785368, + "step": 3976 + }, + { + "epoch": 0.5271040424121936, + "grad_norm": 5.644267559051514, + "learning_rate": 4.630216203451715e-06, + "loss": 0.0696, + "num_input_tokens_seen": 7786784, + "step": 3977 + }, + { + "epoch": 0.5272365805168986, + "grad_norm": 0.0759982317686081, + "learning_rate": 4.630034490894087e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7788264, + "step": 3978 + }, + { + "epoch": 0.5273691186216037, + "grad_norm": 0.08297236263751984, + "learning_rate": 4.629852737267924e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7791128, + "step": 3979 + }, + { + "epoch": 0.5275016567263088, + "grad_norm": 7.059423923492432, + "learning_rate": 4.629670942576731e-06, + "loss": 0.1124, + "num_input_tokens_seen": 7793232, + "step": 3980 + }, + { + "epoch": 0.5276341948310139, + "grad_norm": 1.4923434257507324, + "learning_rate": 4.6294891068240135e-06, + "loss": 0.0219, + "num_input_tokens_seen": 7794696, + "step": 3981 + }, + { + "epoch": 0.5277667329357191, + "grad_norm": 13.473164558410645, + "learning_rate": 4.6293072300132765e-06, + "loss": 0.4393, + "num_input_tokens_seen": 7797960, + "step": 3982 + }, + { + "epoch": 0.5278992710404241, + "grad_norm": 9.597066879272461, + "learning_rate": 4.629125312148027e-06, + "loss": 0.1025, + "num_input_tokens_seen": 7800696, + "step": 3983 + }, + { + "epoch": 0.5280318091451293, + "grad_norm": 4.252924919128418, + "learning_rate": 4.628943353231774e-06, + "loss": 0.1214, + "num_input_tokens_seen": 7803560, + "step": 3984 + }, + { + "epoch": 0.5281643472498343, + "grad_norm": 0.10358887910842896, + "learning_rate": 4.628761353268023e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7805696, + "step": 3985 + }, + { + "epoch": 0.5282968853545394, + "grad_norm": 4.281703948974609, + "learning_rate": 4.628579312260285e-06, + "loss": 0.045, + "num_input_tokens_seen": 7807376, + "step": 3986 + }, + { + "epoch": 0.5284294234592445, + "grad_norm": 16.330989837646484, + "learning_rate": 4.628397230212069e-06, + "loss": 0.6654, + "num_input_tokens_seen": 7809408, + "step": 3987 + }, + { + "epoch": 0.5285619615639496, + "grad_norm": 13.92752742767334, + "learning_rate": 4.628215107126888e-06, + "loss": 0.2344, + "num_input_tokens_seen": 7811520, + "step": 3988 + }, + { + "epoch": 0.5286944996686548, + "grad_norm": 14.059699058532715, + "learning_rate": 4.628032943008249e-06, + "loss": 0.3923, + "num_input_tokens_seen": 7814144, + "step": 3989 + }, + { + "epoch": 0.5288270377733598, + "grad_norm": 0.12259407341480255, + "learning_rate": 4.627850737859669e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7815872, + "step": 3990 + }, + { + "epoch": 0.528959575878065, + "grad_norm": 4.583789348602295, + "learning_rate": 4.627668491684657e-06, + "loss": 0.0252, + "num_input_tokens_seen": 7817560, + "step": 3991 + }, + { + "epoch": 0.52909211398277, + "grad_norm": 0.10020911693572998, + "learning_rate": 4.62748620448673e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7819016, + "step": 3992 + }, + { + "epoch": 0.5292246520874752, + "grad_norm": 13.534164428710938, + "learning_rate": 4.627303876269401e-06, + "loss": 0.3385, + "num_input_tokens_seen": 7821072, + "step": 3993 + }, + { + "epoch": 0.5293571901921803, + "grad_norm": 8.080652236938477, + "learning_rate": 4.627121507036186e-06, + "loss": 0.2756, + "num_input_tokens_seen": 7822512, + "step": 3994 + }, + { + "epoch": 0.5294897282968853, + "grad_norm": 0.2605687975883484, + "learning_rate": 4.6269390967906e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7824320, + "step": 3995 + }, + { + "epoch": 0.5296222664015905, + "grad_norm": 3.1092402935028076, + "learning_rate": 4.626756645536161e-06, + "loss": 0.0898, + "num_input_tokens_seen": 7826688, + "step": 3996 + }, + { + "epoch": 0.5297548045062955, + "grad_norm": 11.595963478088379, + "learning_rate": 4.626574153276387e-06, + "loss": 0.2987, + "num_input_tokens_seen": 7828608, + "step": 3997 + }, + { + "epoch": 0.5298873426110007, + "grad_norm": 0.10772614181041718, + "learning_rate": 4.626391620014797e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7829928, + "step": 3998 + }, + { + "epoch": 0.5300198807157057, + "grad_norm": 10.73455810546875, + "learning_rate": 4.626209045754908e-06, + "loss": 0.4074, + "num_input_tokens_seen": 7831552, + "step": 3999 + }, + { + "epoch": 0.5301524188204109, + "grad_norm": 26.661184310913086, + "learning_rate": 4.626026430500243e-06, + "loss": 0.8685, + "num_input_tokens_seen": 7834056, + "step": 4000 + }, + { + "epoch": 0.530284956925116, + "grad_norm": 10.731963157653809, + "learning_rate": 4.625843774254321e-06, + "loss": 0.3024, + "num_input_tokens_seen": 7836088, + "step": 4001 + }, + { + "epoch": 0.530417495029821, + "grad_norm": 13.635927200317383, + "learning_rate": 4.6256610770206665e-06, + "loss": 0.3658, + "num_input_tokens_seen": 7838120, + "step": 4002 + }, + { + "epoch": 0.5305500331345262, + "grad_norm": 8.361394882202148, + "learning_rate": 4.625478338802798e-06, + "loss": 0.2745, + "num_input_tokens_seen": 7840168, + "step": 4003 + }, + { + "epoch": 0.5306825712392312, + "grad_norm": 0.30881306529045105, + "learning_rate": 4.625295559604241e-06, + "loss": 0.0021, + "num_input_tokens_seen": 7841704, + "step": 4004 + }, + { + "epoch": 0.5308151093439364, + "grad_norm": 7.118462085723877, + "learning_rate": 4.62511273942852e-06, + "loss": 0.1064, + "num_input_tokens_seen": 7844088, + "step": 4005 + }, + { + "epoch": 0.5309476474486415, + "grad_norm": 1.277662992477417, + "learning_rate": 4.62492987827916e-06, + "loss": 0.0084, + "num_input_tokens_seen": 7845904, + "step": 4006 + }, + { + "epoch": 0.5310801855533466, + "grad_norm": 0.5338249206542969, + "learning_rate": 4.6247469761596845e-06, + "loss": 0.0037, + "num_input_tokens_seen": 7847424, + "step": 4007 + }, + { + "epoch": 0.5312127236580517, + "grad_norm": 1.4985874891281128, + "learning_rate": 4.6245640330736224e-06, + "loss": 0.0185, + "num_input_tokens_seen": 7849128, + "step": 4008 + }, + { + "epoch": 0.5313452617627568, + "grad_norm": 9.822949409484863, + "learning_rate": 4.6243810490245e-06, + "loss": 0.1705, + "num_input_tokens_seen": 7851120, + "step": 4009 + }, + { + "epoch": 0.5314777998674619, + "grad_norm": 0.2604467570781708, + "learning_rate": 4.624198024015845e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7852408, + "step": 4010 + }, + { + "epoch": 0.531610337972167, + "grad_norm": 400.1668701171875, + "learning_rate": 4.624014958051187e-06, + "loss": 0.4129, + "num_input_tokens_seen": 7854528, + "step": 4011 + }, + { + "epoch": 0.5317428760768721, + "grad_norm": 0.43131300806999207, + "learning_rate": 4.623831851134055e-06, + "loss": 0.0029, + "num_input_tokens_seen": 7857200, + "step": 4012 + }, + { + "epoch": 0.5318754141815772, + "grad_norm": 0.3718176484107971, + "learning_rate": 4.623648703267981e-06, + "loss": 0.0025, + "num_input_tokens_seen": 7858792, + "step": 4013 + }, + { + "epoch": 0.5320079522862823, + "grad_norm": 13.121262550354004, + "learning_rate": 4.623465514456494e-06, + "loss": 0.5068, + "num_input_tokens_seen": 7861376, + "step": 4014 + }, + { + "epoch": 0.5321404903909874, + "grad_norm": 0.25891396403312683, + "learning_rate": 4.623282284703127e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7863664, + "step": 4015 + }, + { + "epoch": 0.5322730284956925, + "grad_norm": 6.230240821838379, + "learning_rate": 4.623099014011413e-06, + "loss": 0.1452, + "num_input_tokens_seen": 7865456, + "step": 4016 + }, + { + "epoch": 0.5324055666003976, + "grad_norm": 4.335967063903809, + "learning_rate": 4.622915702384885e-06, + "loss": 0.0973, + "num_input_tokens_seen": 7867016, + "step": 4017 + }, + { + "epoch": 0.5325381047051028, + "grad_norm": 8.595365524291992, + "learning_rate": 4.622732349827078e-06, + "loss": 0.1016, + "num_input_tokens_seen": 7868872, + "step": 4018 + }, + { + "epoch": 0.5326706428098078, + "grad_norm": 0.1359635293483734, + "learning_rate": 4.6225489563415266e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7870264, + "step": 4019 + }, + { + "epoch": 0.532803180914513, + "grad_norm": 0.12251783907413483, + "learning_rate": 4.622365521931767e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7871944, + "step": 4020 + }, + { + "epoch": 0.532935719019218, + "grad_norm": 11.952160835266113, + "learning_rate": 4.6221820466013365e-06, + "loss": 0.4018, + "num_input_tokens_seen": 7874064, + "step": 4021 + }, + { + "epoch": 0.5330682571239231, + "grad_norm": 1.6966038942337036, + "learning_rate": 4.621998530353772e-06, + "loss": 0.0308, + "num_input_tokens_seen": 7875840, + "step": 4022 + }, + { + "epoch": 0.5332007952286282, + "grad_norm": 15.353293418884277, + "learning_rate": 4.621814973192612e-06, + "loss": 0.4655, + "num_input_tokens_seen": 7878144, + "step": 4023 + }, + { + "epoch": 0.5333333333333333, + "grad_norm": 15.296635627746582, + "learning_rate": 4.621631375121395e-06, + "loss": 0.2782, + "num_input_tokens_seen": 7880832, + "step": 4024 + }, + { + "epoch": 0.5334658714380385, + "grad_norm": 12.293479919433594, + "learning_rate": 4.621447736143662e-06, + "loss": 0.3628, + "num_input_tokens_seen": 7882800, + "step": 4025 + }, + { + "epoch": 0.5335984095427435, + "grad_norm": 2.8818576335906982, + "learning_rate": 4.621264056262953e-06, + "loss": 0.1255, + "num_input_tokens_seen": 7884528, + "step": 4026 + }, + { + "epoch": 0.5337309476474487, + "grad_norm": 10.513691902160645, + "learning_rate": 4.62108033548281e-06, + "loss": 0.3848, + "num_input_tokens_seen": 7886272, + "step": 4027 + }, + { + "epoch": 0.5338634857521537, + "grad_norm": 0.14609111845493317, + "learning_rate": 4.620896573806774e-06, + "loss": 0.001, + "num_input_tokens_seen": 7887560, + "step": 4028 + }, + { + "epoch": 0.5339960238568588, + "grad_norm": 0.5605419278144836, + "learning_rate": 4.620712771238389e-06, + "loss": 0.0022, + "num_input_tokens_seen": 7889336, + "step": 4029 + }, + { + "epoch": 0.534128561961564, + "grad_norm": 17.75749969482422, + "learning_rate": 4.6205289277811995e-06, + "loss": 0.0951, + "num_input_tokens_seen": 7890912, + "step": 4030 + }, + { + "epoch": 0.534261100066269, + "grad_norm": 12.841143608093262, + "learning_rate": 4.620345043438748e-06, + "loss": 0.1, + "num_input_tokens_seen": 7892672, + "step": 4031 + }, + { + "epoch": 0.5343936381709742, + "grad_norm": 7.515597343444824, + "learning_rate": 4.620161118214583e-06, + "loss": 0.067, + "num_input_tokens_seen": 7894280, + "step": 4032 + }, + { + "epoch": 0.5345261762756792, + "grad_norm": 0.0845167338848114, + "learning_rate": 4.619977152112248e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7895368, + "step": 4033 + }, + { + "epoch": 0.5346587143803844, + "grad_norm": 13.487278938293457, + "learning_rate": 4.619793145135292e-06, + "loss": 0.6303, + "num_input_tokens_seen": 7898272, + "step": 4034 + }, + { + "epoch": 0.5347912524850894, + "grad_norm": 4.179569244384766, + "learning_rate": 4.619609097287261e-06, + "loss": 0.0298, + "num_input_tokens_seen": 7900632, + "step": 4035 + }, + { + "epoch": 0.5349237905897946, + "grad_norm": 0.19195279479026794, + "learning_rate": 4.619425008571705e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7903104, + "step": 4036 + }, + { + "epoch": 0.5350563286944997, + "grad_norm": 0.1777542531490326, + "learning_rate": 4.619240878992172e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7906272, + "step": 4037 + }, + { + "epoch": 0.5351888667992047, + "grad_norm": 0.2937557101249695, + "learning_rate": 4.6190567085522134e-06, + "loss": 0.0018, + "num_input_tokens_seen": 7908792, + "step": 4038 + }, + { + "epoch": 0.5353214049039099, + "grad_norm": 1.8593034744262695, + "learning_rate": 4.618872497255379e-06, + "loss": 0.0385, + "num_input_tokens_seen": 7910448, + "step": 4039 + }, + { + "epoch": 0.5354539430086149, + "grad_norm": 0.1838109791278839, + "learning_rate": 4.618688245105222e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7912440, + "step": 4040 + }, + { + "epoch": 0.5355864811133201, + "grad_norm": 16.996774673461914, + "learning_rate": 4.618503952105293e-06, + "loss": 0.3133, + "num_input_tokens_seen": 7914224, + "step": 4041 + }, + { + "epoch": 0.5357190192180252, + "grad_norm": 37.801334381103516, + "learning_rate": 4.6183196182591465e-06, + "loss": 0.4917, + "num_input_tokens_seen": 7915528, + "step": 4042 + }, + { + "epoch": 0.5358515573227303, + "grad_norm": 5.75848388671875, + "learning_rate": 4.618135243570336e-06, + "loss": 0.2948, + "num_input_tokens_seen": 7917048, + "step": 4043 + }, + { + "epoch": 0.5359840954274354, + "grad_norm": 11.034120559692383, + "learning_rate": 4.617950828042418e-06, + "loss": 0.3539, + "num_input_tokens_seen": 7918848, + "step": 4044 + }, + { + "epoch": 0.5361166335321405, + "grad_norm": 0.11634110659360886, + "learning_rate": 4.617766371678947e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7920152, + "step": 4045 + }, + { + "epoch": 0.5362491716368456, + "grad_norm": 13.197975158691406, + "learning_rate": 4.6175818744834785e-06, + "loss": 0.4056, + "num_input_tokens_seen": 7921784, + "step": 4046 + }, + { + "epoch": 0.5363817097415507, + "grad_norm": 0.3431829512119293, + "learning_rate": 4.61739733645957e-06, + "loss": 0.002, + "num_input_tokens_seen": 7924152, + "step": 4047 + }, + { + "epoch": 0.5365142478462558, + "grad_norm": 14.108015060424805, + "learning_rate": 4.617212757610782e-06, + "loss": 0.5635, + "num_input_tokens_seen": 7926256, + "step": 4048 + }, + { + "epoch": 0.5366467859509609, + "grad_norm": 2.9647858142852783, + "learning_rate": 4.61702813794067e-06, + "loss": 0.0937, + "num_input_tokens_seen": 7927576, + "step": 4049 + }, + { + "epoch": 0.536779324055666, + "grad_norm": 12.520955085754395, + "learning_rate": 4.616843477452796e-06, + "loss": 0.3035, + "num_input_tokens_seen": 7929760, + "step": 4050 + }, + { + "epoch": 0.5369118621603711, + "grad_norm": 9.80131721496582, + "learning_rate": 4.616658776150719e-06, + "loss": 0.1621, + "num_input_tokens_seen": 7931136, + "step": 4051 + }, + { + "epoch": 0.5370444002650762, + "grad_norm": 12.030084609985352, + "learning_rate": 4.616474034038e-06, + "loss": 0.2362, + "num_input_tokens_seen": 7933512, + "step": 4052 + }, + { + "epoch": 0.5371769383697813, + "grad_norm": 10.376489639282227, + "learning_rate": 4.616289251118202e-06, + "loss": 0.3434, + "num_input_tokens_seen": 7936040, + "step": 4053 + }, + { + "epoch": 0.5373094764744865, + "grad_norm": 8.85754108428955, + "learning_rate": 4.616104427394887e-06, + "loss": 0.0862, + "num_input_tokens_seen": 7937936, + "step": 4054 + }, + { + "epoch": 0.5374420145791915, + "grad_norm": 0.46287301182746887, + "learning_rate": 4.6159195628716195e-06, + "loss": 0.0027, + "num_input_tokens_seen": 7939512, + "step": 4055 + }, + { + "epoch": 0.5375745526838966, + "grad_norm": 0.19545811414718628, + "learning_rate": 4.615734657551963e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7940936, + "step": 4056 + }, + { + "epoch": 0.5377070907886017, + "grad_norm": 7.342900276184082, + "learning_rate": 4.615549711439483e-06, + "loss": 0.2312, + "num_input_tokens_seen": 7943168, + "step": 4057 + }, + { + "epoch": 0.5378396288933068, + "grad_norm": 6.551323890686035, + "learning_rate": 4.615364724537744e-06, + "loss": 0.171, + "num_input_tokens_seen": 7944704, + "step": 4058 + }, + { + "epoch": 0.537972166998012, + "grad_norm": 11.921992301940918, + "learning_rate": 4.615179696850315e-06, + "loss": 0.2878, + "num_input_tokens_seen": 7946048, + "step": 4059 + }, + { + "epoch": 0.538104705102717, + "grad_norm": 10.918295860290527, + "learning_rate": 4.614994628380761e-06, + "loss": 0.1427, + "num_input_tokens_seen": 7947616, + "step": 4060 + }, + { + "epoch": 0.5382372432074222, + "grad_norm": 11.038885116577148, + "learning_rate": 4.614809519132653e-06, + "loss": 0.3313, + "num_input_tokens_seen": 7949792, + "step": 4061 + }, + { + "epoch": 0.5383697813121272, + "grad_norm": 6.8225932121276855, + "learning_rate": 4.614624369109557e-06, + "loss": 0.0921, + "num_input_tokens_seen": 7951304, + "step": 4062 + }, + { + "epoch": 0.5385023194168324, + "grad_norm": 5.132601261138916, + "learning_rate": 4.614439178315045e-06, + "loss": 0.0411, + "num_input_tokens_seen": 7953088, + "step": 4063 + }, + { + "epoch": 0.5386348575215374, + "grad_norm": 0.7638110518455505, + "learning_rate": 4.614253946752687e-06, + "loss": 0.0035, + "num_input_tokens_seen": 7955376, + "step": 4064 + }, + { + "epoch": 0.5387673956262425, + "grad_norm": 6.3938117027282715, + "learning_rate": 4.614068674426054e-06, + "loss": 0.0994, + "num_input_tokens_seen": 7956944, + "step": 4065 + }, + { + "epoch": 0.5388999337309477, + "grad_norm": 8.795907020568848, + "learning_rate": 4.613883361338719e-06, + "loss": 0.087, + "num_input_tokens_seen": 7959152, + "step": 4066 + }, + { + "epoch": 0.5390324718356527, + "grad_norm": 36.54825210571289, + "learning_rate": 4.613698007494255e-06, + "loss": 0.5746, + "num_input_tokens_seen": 7961368, + "step": 4067 + }, + { + "epoch": 0.5391650099403579, + "grad_norm": 14.218330383300781, + "learning_rate": 4.613512612896235e-06, + "loss": 0.2931, + "num_input_tokens_seen": 7963544, + "step": 4068 + }, + { + "epoch": 0.5392975480450629, + "grad_norm": 0.17901967465877533, + "learning_rate": 4.613327177548234e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7965288, + "step": 4069 + }, + { + "epoch": 0.5394300861497681, + "grad_norm": 0.1499279886484146, + "learning_rate": 4.613141701453826e-06, + "loss": 0.001, + "num_input_tokens_seen": 7966680, + "step": 4070 + }, + { + "epoch": 0.5395626242544732, + "grad_norm": 9.754743576049805, + "learning_rate": 4.612956184616589e-06, + "loss": 0.3682, + "num_input_tokens_seen": 7968784, + "step": 4071 + }, + { + "epoch": 0.5396951623591782, + "grad_norm": 20.259737014770508, + "learning_rate": 4.612770627040098e-06, + "loss": 0.4256, + "num_input_tokens_seen": 7971256, + "step": 4072 + }, + { + "epoch": 0.5398277004638834, + "grad_norm": 0.09793662279844284, + "learning_rate": 4.612585028727933e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7972480, + "step": 4073 + }, + { + "epoch": 0.5399602385685884, + "grad_norm": 10.20346450805664, + "learning_rate": 4.612399389683671e-06, + "loss": 0.1662, + "num_input_tokens_seen": 7974248, + "step": 4074 + }, + { + "epoch": 0.5400927766732936, + "grad_norm": 0.11752693355083466, + "learning_rate": 4.612213709910892e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7975808, + "step": 4075 + }, + { + "epoch": 0.5402253147779986, + "grad_norm": 12.99082088470459, + "learning_rate": 4.612027989413175e-06, + "loss": 0.3927, + "num_input_tokens_seen": 7977928, + "step": 4076 + }, + { + "epoch": 0.5403578528827038, + "grad_norm": 3.2054526805877686, + "learning_rate": 4.611842228194101e-06, + "loss": 0.0354, + "num_input_tokens_seen": 7979800, + "step": 4077 + }, + { + "epoch": 0.5404903909874089, + "grad_norm": 8.888463973999023, + "learning_rate": 4.611656426257253e-06, + "loss": 0.3038, + "num_input_tokens_seen": 7981688, + "step": 4078 + }, + { + "epoch": 0.540622929092114, + "grad_norm": 2.5232126712799072, + "learning_rate": 4.611470583606212e-06, + "loss": 0.1064, + "num_input_tokens_seen": 7983792, + "step": 4079 + }, + { + "epoch": 0.5407554671968191, + "grad_norm": 0.02956196665763855, + "learning_rate": 4.611284700244561e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7984920, + "step": 4080 + }, + { + "epoch": 0.5408880053015241, + "grad_norm": 14.2171630859375, + "learning_rate": 4.6110987761758834e-06, + "loss": 0.3936, + "num_input_tokens_seen": 7986904, + "step": 4081 + }, + { + "epoch": 0.5410205434062293, + "grad_norm": 3.6032845973968506, + "learning_rate": 4.610912811403766e-06, + "loss": 0.0433, + "num_input_tokens_seen": 7988760, + "step": 4082 + }, + { + "epoch": 0.5411530815109344, + "grad_norm": 1.8011516332626343, + "learning_rate": 4.610726805931794e-06, + "loss": 0.0368, + "num_input_tokens_seen": 7990608, + "step": 4083 + }, + { + "epoch": 0.5412856196156395, + "grad_norm": 8.52591323852539, + "learning_rate": 4.610540759763552e-06, + "loss": 0.0661, + "num_input_tokens_seen": 7993152, + "step": 4084 + }, + { + "epoch": 0.5414181577203446, + "grad_norm": 6.99245548248291, + "learning_rate": 4.6103546729026295e-06, + "loss": 0.2279, + "num_input_tokens_seen": 7995624, + "step": 4085 + }, + { + "epoch": 0.5415506958250497, + "grad_norm": 10.101627349853516, + "learning_rate": 4.610168545352612e-06, + "loss": 0.1242, + "num_input_tokens_seen": 7998024, + "step": 4086 + }, + { + "epoch": 0.5416832339297548, + "grad_norm": 0.054514020681381226, + "learning_rate": 4.6099823771170894e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7999984, + "step": 4087 + }, + { + "epoch": 0.5418157720344599, + "grad_norm": 7.615383625030518, + "learning_rate": 4.6097961681996516e-06, + "loss": 0.2287, + "num_input_tokens_seen": 8001928, + "step": 4088 + }, + { + "epoch": 0.541948310139165, + "grad_norm": 0.05668923258781433, + "learning_rate": 4.6096099186038875e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8004424, + "step": 4089 + }, + { + "epoch": 0.5420808482438702, + "grad_norm": 0.05965054780244827, + "learning_rate": 4.60942362833339e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8005832, + "step": 4090 + }, + { + "epoch": 0.5422133863485752, + "grad_norm": 1.9437217712402344, + "learning_rate": 4.6092372973917484e-06, + "loss": 0.0404, + "num_input_tokens_seen": 8007856, + "step": 4091 + }, + { + "epoch": 0.5423459244532803, + "grad_norm": 0.5218856930732727, + "learning_rate": 4.609050925782557e-06, + "loss": 0.0025, + "num_input_tokens_seen": 8009712, + "step": 4092 + }, + { + "epoch": 0.5424784625579854, + "grad_norm": 15.88712215423584, + "learning_rate": 4.608864513509409e-06, + "loss": 0.6892, + "num_input_tokens_seen": 8011904, + "step": 4093 + }, + { + "epoch": 0.5426110006626905, + "grad_norm": 0.11739930510520935, + "learning_rate": 4.608678060575899e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8013544, + "step": 4094 + }, + { + "epoch": 0.5427435387673957, + "grad_norm": 4.469979286193848, + "learning_rate": 4.6084915669856195e-06, + "loss": 0.1359, + "num_input_tokens_seen": 8015592, + "step": 4095 + }, + { + "epoch": 0.5428760768721007, + "grad_norm": 10.837701797485352, + "learning_rate": 4.608305032742169e-06, + "loss": 0.3234, + "num_input_tokens_seen": 8017472, + "step": 4096 + }, + { + "epoch": 0.5430086149768059, + "grad_norm": 11.945828437805176, + "learning_rate": 4.608118457849143e-06, + "loss": 0.2767, + "num_input_tokens_seen": 8019800, + "step": 4097 + }, + { + "epoch": 0.5431411530815109, + "grad_norm": 3.062751054763794, + "learning_rate": 4.607931842310139e-06, + "loss": 0.1484, + "num_input_tokens_seen": 8021320, + "step": 4098 + }, + { + "epoch": 0.543273691186216, + "grad_norm": 10.515359878540039, + "learning_rate": 4.607745186128755e-06, + "loss": 0.2404, + "num_input_tokens_seen": 8023832, + "step": 4099 + }, + { + "epoch": 0.5434062292909212, + "grad_norm": 5.204316139221191, + "learning_rate": 4.607558489308589e-06, + "loss": 0.0868, + "num_input_tokens_seen": 8025768, + "step": 4100 + }, + { + "epoch": 0.5435387673956262, + "grad_norm": 15.432523727416992, + "learning_rate": 4.6073717518532415e-06, + "loss": 0.2798, + "num_input_tokens_seen": 8027904, + "step": 4101 + }, + { + "epoch": 0.5436713055003314, + "grad_norm": 4.542093753814697, + "learning_rate": 4.607184973766313e-06, + "loss": 0.0831, + "num_input_tokens_seen": 8030400, + "step": 4102 + }, + { + "epoch": 0.5438038436050364, + "grad_norm": 4.5041728019714355, + "learning_rate": 4.606998155051405e-06, + "loss": 0.1123, + "num_input_tokens_seen": 8032952, + "step": 4103 + }, + { + "epoch": 0.5439363817097416, + "grad_norm": 0.08445163071155548, + "learning_rate": 4.606811295712119e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8034408, + "step": 4104 + }, + { + "epoch": 0.5440689198144466, + "grad_norm": 21.89432716369629, + "learning_rate": 4.606624395752057e-06, + "loss": 0.6877, + "num_input_tokens_seen": 8038504, + "step": 4105 + }, + { + "epoch": 0.5442014579191518, + "grad_norm": 0.18032686412334442, + "learning_rate": 4.606437455174825e-06, + "loss": 0.0012, + "num_input_tokens_seen": 8040240, + "step": 4106 + }, + { + "epoch": 0.5443339960238569, + "grad_norm": 10.134572982788086, + "learning_rate": 4.606250473984024e-06, + "loss": 0.3267, + "num_input_tokens_seen": 8042480, + "step": 4107 + }, + { + "epoch": 0.5444665341285619, + "grad_norm": 9.405549049377441, + "learning_rate": 4.606063452183261e-06, + "loss": 0.2923, + "num_input_tokens_seen": 8044736, + "step": 4108 + }, + { + "epoch": 0.5445990722332671, + "grad_norm": 0.4269721508026123, + "learning_rate": 4.605876389776143e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8046000, + "step": 4109 + }, + { + "epoch": 0.5447316103379721, + "grad_norm": 5.793757438659668, + "learning_rate": 4.605689286766274e-06, + "loss": 0.2216, + "num_input_tokens_seen": 8047744, + "step": 4110 + }, + { + "epoch": 0.5448641484426773, + "grad_norm": 5.584360122680664, + "learning_rate": 4.6055021431572636e-06, + "loss": 0.1198, + "num_input_tokens_seen": 8049960, + "step": 4111 + }, + { + "epoch": 0.5449966865473824, + "grad_norm": 4.206791877746582, + "learning_rate": 4.605314958952719e-06, + "loss": 0.0128, + "num_input_tokens_seen": 8052208, + "step": 4112 + }, + { + "epoch": 0.5451292246520875, + "grad_norm": 3.2708704471588135, + "learning_rate": 4.605127734156251e-06, + "loss": 0.1091, + "num_input_tokens_seen": 8054232, + "step": 4113 + }, + { + "epoch": 0.5452617627567926, + "grad_norm": 0.17672087252140045, + "learning_rate": 4.604940468771466e-06, + "loss": 0.0012, + "num_input_tokens_seen": 8055912, + "step": 4114 + }, + { + "epoch": 0.5453943008614976, + "grad_norm": 6.984878063201904, + "learning_rate": 4.604753162801978e-06, + "loss": 0.1857, + "num_input_tokens_seen": 8057800, + "step": 4115 + }, + { + "epoch": 0.5455268389662028, + "grad_norm": 0.8402068614959717, + "learning_rate": 4.6045658162513964e-06, + "loss": 0.0121, + "num_input_tokens_seen": 8059480, + "step": 4116 + }, + { + "epoch": 0.5456593770709078, + "grad_norm": 0.26560404896736145, + "learning_rate": 4.604378429123334e-06, + "loss": 0.0016, + "num_input_tokens_seen": 8060968, + "step": 4117 + }, + { + "epoch": 0.545791915175613, + "grad_norm": 0.13185304403305054, + "learning_rate": 4.604191001421405e-06, + "loss": 0.0009, + "num_input_tokens_seen": 8063056, + "step": 4118 + }, + { + "epoch": 0.5459244532803181, + "grad_norm": 12.191259384155273, + "learning_rate": 4.60400353314922e-06, + "loss": 0.2488, + "num_input_tokens_seen": 8064904, + "step": 4119 + }, + { + "epoch": 0.5460569913850232, + "grad_norm": 0.08191758394241333, + "learning_rate": 4.6038160243103965e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8066024, + "step": 4120 + }, + { + "epoch": 0.5461895294897283, + "grad_norm": 12.817622184753418, + "learning_rate": 4.603628474908548e-06, + "loss": 0.3704, + "num_input_tokens_seen": 8067936, + "step": 4121 + }, + { + "epoch": 0.5463220675944334, + "grad_norm": 5.399591445922852, + "learning_rate": 4.603440884947292e-06, + "loss": 0.0886, + "num_input_tokens_seen": 8069768, + "step": 4122 + }, + { + "epoch": 0.5464546056991385, + "grad_norm": 5.079294681549072, + "learning_rate": 4.603253254430244e-06, + "loss": 0.1308, + "num_input_tokens_seen": 8072032, + "step": 4123 + }, + { + "epoch": 0.5465871438038437, + "grad_norm": 11.848227500915527, + "learning_rate": 4.6030655833610235e-06, + "loss": 0.407, + "num_input_tokens_seen": 8074464, + "step": 4124 + }, + { + "epoch": 0.5467196819085487, + "grad_norm": 8.840668678283691, + "learning_rate": 4.602877871743246e-06, + "loss": 0.3576, + "num_input_tokens_seen": 8076752, + "step": 4125 + }, + { + "epoch": 0.5468522200132538, + "grad_norm": 11.436777114868164, + "learning_rate": 4.602690119580534e-06, + "loss": 0.3846, + "num_input_tokens_seen": 8078160, + "step": 4126 + }, + { + "epoch": 0.5469847581179589, + "grad_norm": 16.899656295776367, + "learning_rate": 4.602502326876505e-06, + "loss": 0.4454, + "num_input_tokens_seen": 8081056, + "step": 4127 + }, + { + "epoch": 0.547117296222664, + "grad_norm": 11.110140800476074, + "learning_rate": 4.602314493634782e-06, + "loss": 0.3647, + "num_input_tokens_seen": 8082840, + "step": 4128 + }, + { + "epoch": 0.5472498343273691, + "grad_norm": 12.675568580627441, + "learning_rate": 4.602126619858983e-06, + "loss": 0.4172, + "num_input_tokens_seen": 8084344, + "step": 4129 + }, + { + "epoch": 0.5473823724320742, + "grad_norm": 16.5428466796875, + "learning_rate": 4.601938705552734e-06, + "loss": 0.5982, + "num_input_tokens_seen": 8085648, + "step": 4130 + }, + { + "epoch": 0.5475149105367794, + "grad_norm": 11.334456443786621, + "learning_rate": 4.601750750719657e-06, + "loss": 0.0772, + "num_input_tokens_seen": 8087776, + "step": 4131 + }, + { + "epoch": 0.5476474486414844, + "grad_norm": 10.161344528198242, + "learning_rate": 4.601562755363374e-06, + "loss": 0.1594, + "num_input_tokens_seen": 8090448, + "step": 4132 + }, + { + "epoch": 0.5477799867461896, + "grad_norm": 12.087780952453613, + "learning_rate": 4.601374719487513e-06, + "loss": 0.1989, + "num_input_tokens_seen": 8092848, + "step": 4133 + }, + { + "epoch": 0.5479125248508946, + "grad_norm": 6.118009567260742, + "learning_rate": 4.601186643095698e-06, + "loss": 0.1896, + "num_input_tokens_seen": 8095456, + "step": 4134 + }, + { + "epoch": 0.5480450629555997, + "grad_norm": 6.1144256591796875, + "learning_rate": 4.6009985261915536e-06, + "loss": 0.1067, + "num_input_tokens_seen": 8097120, + "step": 4135 + }, + { + "epoch": 0.5481776010603049, + "grad_norm": 7.965542316436768, + "learning_rate": 4.600810368778708e-06, + "loss": 0.1284, + "num_input_tokens_seen": 8098760, + "step": 4136 + }, + { + "epoch": 0.5483101391650099, + "grad_norm": 6.611481666564941, + "learning_rate": 4.600622170860791e-06, + "loss": 0.1039, + "num_input_tokens_seen": 8101072, + "step": 4137 + }, + { + "epoch": 0.5484426772697151, + "grad_norm": 4.470078468322754, + "learning_rate": 4.6004339324414286e-06, + "loss": 0.0796, + "num_input_tokens_seen": 8103208, + "step": 4138 + }, + { + "epoch": 0.5485752153744201, + "grad_norm": 8.41801929473877, + "learning_rate": 4.60024565352425e-06, + "loss": 0.2553, + "num_input_tokens_seen": 8104968, + "step": 4139 + }, + { + "epoch": 0.5487077534791253, + "grad_norm": 0.7607479691505432, + "learning_rate": 4.600057334112887e-06, + "loss": 0.0036, + "num_input_tokens_seen": 8108192, + "step": 4140 + }, + { + "epoch": 0.5488402915838303, + "grad_norm": 6.524007797241211, + "learning_rate": 4.59986897421097e-06, + "loss": 0.1332, + "num_input_tokens_seen": 8110184, + "step": 4141 + }, + { + "epoch": 0.5489728296885354, + "grad_norm": 2.2956554889678955, + "learning_rate": 4.599680573822131e-06, + "loss": 0.0141, + "num_input_tokens_seen": 8111800, + "step": 4142 + }, + { + "epoch": 0.5491053677932406, + "grad_norm": 0.26627495884895325, + "learning_rate": 4.599492132950001e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8113560, + "step": 4143 + }, + { + "epoch": 0.5492379058979456, + "grad_norm": 11.378226280212402, + "learning_rate": 4.5993036515982144e-06, + "loss": 0.2734, + "num_input_tokens_seen": 8116200, + "step": 4144 + }, + { + "epoch": 0.5493704440026508, + "grad_norm": 10.30105972290039, + "learning_rate": 4.599115129770406e-06, + "loss": 0.1435, + "num_input_tokens_seen": 8117912, + "step": 4145 + }, + { + "epoch": 0.5495029821073558, + "grad_norm": 5.610369682312012, + "learning_rate": 4.598926567470209e-06, + "loss": 0.029, + "num_input_tokens_seen": 8120696, + "step": 4146 + }, + { + "epoch": 0.549635520212061, + "grad_norm": 9.871245384216309, + "learning_rate": 4.59873796470126e-06, + "loss": 0.2819, + "num_input_tokens_seen": 8124000, + "step": 4147 + }, + { + "epoch": 0.5497680583167661, + "grad_norm": 0.10486636310815811, + "learning_rate": 4.598549321467195e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8125792, + "step": 4148 + }, + { + "epoch": 0.5499005964214712, + "grad_norm": 0.2691498398780823, + "learning_rate": 4.598360637771651e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8128056, + "step": 4149 + }, + { + "epoch": 0.5500331345261763, + "grad_norm": 0.14830152690410614, + "learning_rate": 4.5981719136182675e-06, + "loss": 0.001, + "num_input_tokens_seen": 8129736, + "step": 4150 + }, + { + "epoch": 0.5501656726308813, + "grad_norm": 0.10912959277629852, + "learning_rate": 4.5979831490106815e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8131384, + "step": 4151 + }, + { + "epoch": 0.5502982107355865, + "grad_norm": 3.2231178283691406, + "learning_rate": 4.597794343952533e-06, + "loss": 0.0273, + "num_input_tokens_seen": 8133368, + "step": 4152 + }, + { + "epoch": 0.5504307488402916, + "grad_norm": 3.418339967727661, + "learning_rate": 4.597605498447463e-06, + "loss": 0.0837, + "num_input_tokens_seen": 8135504, + "step": 4153 + }, + { + "epoch": 0.5505632869449967, + "grad_norm": 9.763542175292969, + "learning_rate": 4.5974166124991116e-06, + "loss": 0.3183, + "num_input_tokens_seen": 8137800, + "step": 4154 + }, + { + "epoch": 0.5506958250497018, + "grad_norm": 3.4293720722198486, + "learning_rate": 4.597227686111121e-06, + "loss": 0.1011, + "num_input_tokens_seen": 8139472, + "step": 4155 + }, + { + "epoch": 0.5508283631544069, + "grad_norm": 14.084505081176758, + "learning_rate": 4.597038719287134e-06, + "loss": 0.3703, + "num_input_tokens_seen": 8141304, + "step": 4156 + }, + { + "epoch": 0.550960901259112, + "grad_norm": 11.821980476379395, + "learning_rate": 4.596849712030793e-06, + "loss": 0.118, + "num_input_tokens_seen": 8143496, + "step": 4157 + }, + { + "epoch": 0.551093439363817, + "grad_norm": 6.229593276977539, + "learning_rate": 4.596660664345744e-06, + "loss": 0.1725, + "num_input_tokens_seen": 8144952, + "step": 4158 + }, + { + "epoch": 0.5512259774685222, + "grad_norm": 8.892006874084473, + "learning_rate": 4.5964715762356295e-06, + "loss": 0.286, + "num_input_tokens_seen": 8146776, + "step": 4159 + }, + { + "epoch": 0.5513585155732273, + "grad_norm": 0.23390333354473114, + "learning_rate": 4.596282447704098e-06, + "loss": 0.0013, + "num_input_tokens_seen": 8149152, + "step": 4160 + }, + { + "epoch": 0.5514910536779324, + "grad_norm": 1.6519416570663452, + "learning_rate": 4.596093278754794e-06, + "loss": 0.0455, + "num_input_tokens_seen": 8150800, + "step": 4161 + }, + { + "epoch": 0.5516235917826375, + "grad_norm": 0.04528777673840523, + "learning_rate": 4.595904069391366e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8153088, + "step": 4162 + }, + { + "epoch": 0.5517561298873426, + "grad_norm": 4.183203220367432, + "learning_rate": 4.595714819617462e-06, + "loss": 0.0444, + "num_input_tokens_seen": 8155552, + "step": 4163 + }, + { + "epoch": 0.5518886679920477, + "grad_norm": 11.055419921875, + "learning_rate": 4.595525529436729e-06, + "loss": 0.1988, + "num_input_tokens_seen": 8156976, + "step": 4164 + }, + { + "epoch": 0.5520212060967529, + "grad_norm": 0.04133330658078194, + "learning_rate": 4.59533619885282e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8158224, + "step": 4165 + }, + { + "epoch": 0.5521537442014579, + "grad_norm": 9.351491928100586, + "learning_rate": 4.595146827869383e-06, + "loss": 0.2428, + "num_input_tokens_seen": 8159792, + "step": 4166 + }, + { + "epoch": 0.5522862823061631, + "grad_norm": 15.061875343322754, + "learning_rate": 4.594957416490069e-06, + "loss": 0.4489, + "num_input_tokens_seen": 8162024, + "step": 4167 + }, + { + "epoch": 0.5524188204108681, + "grad_norm": 10.789448738098145, + "learning_rate": 4.594767964718532e-06, + "loss": 0.4409, + "num_input_tokens_seen": 8164104, + "step": 4168 + }, + { + "epoch": 0.5525513585155732, + "grad_norm": 9.472795486450195, + "learning_rate": 4.594578472558423e-06, + "loss": 0.3299, + "num_input_tokens_seen": 8165760, + "step": 4169 + }, + { + "epoch": 0.5526838966202783, + "grad_norm": 11.541179656982422, + "learning_rate": 4.5943889400133955e-06, + "loss": 0.4529, + "num_input_tokens_seen": 8167392, + "step": 4170 + }, + { + "epoch": 0.5528164347249834, + "grad_norm": 6.17018461227417, + "learning_rate": 4.594199367087105e-06, + "loss": 0.0775, + "num_input_tokens_seen": 8169200, + "step": 4171 + }, + { + "epoch": 0.5529489728296886, + "grad_norm": 11.9037446975708, + "learning_rate": 4.594009753783206e-06, + "loss": 0.2757, + "num_input_tokens_seen": 8171088, + "step": 4172 + }, + { + "epoch": 0.5530815109343936, + "grad_norm": 4.553421497344971, + "learning_rate": 4.593820100105355e-06, + "loss": 0.0451, + "num_input_tokens_seen": 8172576, + "step": 4173 + }, + { + "epoch": 0.5532140490390988, + "grad_norm": 8.459004402160645, + "learning_rate": 4.593630406057207e-06, + "loss": 0.3134, + "num_input_tokens_seen": 8175888, + "step": 4174 + }, + { + "epoch": 0.5533465871438038, + "grad_norm": 15.0360689163208, + "learning_rate": 4.593440671642421e-06, + "loss": 0.2604, + "num_input_tokens_seen": 8177768, + "step": 4175 + }, + { + "epoch": 0.553479125248509, + "grad_norm": 12.067193984985352, + "learning_rate": 4.593250896864654e-06, + "loss": 0.212, + "num_input_tokens_seen": 8180112, + "step": 4176 + }, + { + "epoch": 0.5536116633532141, + "grad_norm": 5.24225378036499, + "learning_rate": 4.5930610817275664e-06, + "loss": 0.1322, + "num_input_tokens_seen": 8181944, + "step": 4177 + }, + { + "epoch": 0.5537442014579191, + "grad_norm": 1.855466604232788, + "learning_rate": 4.592871226234816e-06, + "loss": 0.0104, + "num_input_tokens_seen": 8183728, + "step": 4178 + }, + { + "epoch": 0.5538767395626243, + "grad_norm": 10.864151954650879, + "learning_rate": 4.592681330390066e-06, + "loss": 0.2209, + "num_input_tokens_seen": 8185720, + "step": 4179 + }, + { + "epoch": 0.5540092776673293, + "grad_norm": 8.799050331115723, + "learning_rate": 4.592491394196976e-06, + "loss": 0.17, + "num_input_tokens_seen": 8189224, + "step": 4180 + }, + { + "epoch": 0.5541418157720345, + "grad_norm": 9.319714546203613, + "learning_rate": 4.592301417659208e-06, + "loss": 0.2978, + "num_input_tokens_seen": 8191560, + "step": 4181 + }, + { + "epoch": 0.5542743538767395, + "grad_norm": 5.550588607788086, + "learning_rate": 4.592111400780425e-06, + "loss": 0.0502, + "num_input_tokens_seen": 8192968, + "step": 4182 + }, + { + "epoch": 0.5544068919814447, + "grad_norm": 0.8211635947227478, + "learning_rate": 4.591921343564292e-06, + "loss": 0.0044, + "num_input_tokens_seen": 8194904, + "step": 4183 + }, + { + "epoch": 0.5545394300861498, + "grad_norm": 8.733579635620117, + "learning_rate": 4.591731246014471e-06, + "loss": 0.1681, + "num_input_tokens_seen": 8196936, + "step": 4184 + }, + { + "epoch": 0.5546719681908548, + "grad_norm": 11.438721656799316, + "learning_rate": 4.5915411081346296e-06, + "loss": 0.3361, + "num_input_tokens_seen": 8198632, + "step": 4185 + }, + { + "epoch": 0.55480450629556, + "grad_norm": 4.61662483215332, + "learning_rate": 4.591350929928432e-06, + "loss": 0.0978, + "num_input_tokens_seen": 8199856, + "step": 4186 + }, + { + "epoch": 0.554937044400265, + "grad_norm": 8.586577415466309, + "learning_rate": 4.591160711399546e-06, + "loss": 0.3735, + "num_input_tokens_seen": 8203136, + "step": 4187 + }, + { + "epoch": 0.5550695825049702, + "grad_norm": 1.3087859153747559, + "learning_rate": 4.590970452551639e-06, + "loss": 0.0266, + "num_input_tokens_seen": 8204672, + "step": 4188 + }, + { + "epoch": 0.5552021206096753, + "grad_norm": 7.745833396911621, + "learning_rate": 4.5907801533883795e-06, + "loss": 0.2347, + "num_input_tokens_seen": 8206472, + "step": 4189 + }, + { + "epoch": 0.5553346587143804, + "grad_norm": 18.175031661987305, + "learning_rate": 4.590589813913436e-06, + "loss": 0.4127, + "num_input_tokens_seen": 8207968, + "step": 4190 + }, + { + "epoch": 0.5554671968190855, + "grad_norm": 0.12182530760765076, + "learning_rate": 4.590399434130478e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8209560, + "step": 4191 + }, + { + "epoch": 0.5555997349237906, + "grad_norm": 0.27077168226242065, + "learning_rate": 4.590209014043178e-06, + "loss": 0.0018, + "num_input_tokens_seen": 8212488, + "step": 4192 + }, + { + "epoch": 0.5557322730284957, + "grad_norm": 11.877026557922363, + "learning_rate": 4.590018553655205e-06, + "loss": 0.2348, + "num_input_tokens_seen": 8214528, + "step": 4193 + }, + { + "epoch": 0.5558648111332007, + "grad_norm": 1.5523983240127563, + "learning_rate": 4.589828052970233e-06, + "loss": 0.009, + "num_input_tokens_seen": 8216608, + "step": 4194 + }, + { + "epoch": 0.5559973492379059, + "grad_norm": 0.17122042179107666, + "learning_rate": 4.589637511991935e-06, + "loss": 0.0012, + "num_input_tokens_seen": 8218344, + "step": 4195 + }, + { + "epoch": 0.556129887342611, + "grad_norm": 5.337427616119385, + "learning_rate": 4.589446930723984e-06, + "loss": 0.0544, + "num_input_tokens_seen": 8220536, + "step": 4196 + }, + { + "epoch": 0.5562624254473161, + "grad_norm": 0.1055503562092781, + "learning_rate": 4.589256309170055e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8222096, + "step": 4197 + }, + { + "epoch": 0.5563949635520212, + "grad_norm": 5.509279251098633, + "learning_rate": 4.589065647333822e-06, + "loss": 0.1598, + "num_input_tokens_seen": 8223880, + "step": 4198 + }, + { + "epoch": 0.5565275016567263, + "grad_norm": 13.789811134338379, + "learning_rate": 4.5888749452189625e-06, + "loss": 0.7158, + "num_input_tokens_seen": 8226600, + "step": 4199 + }, + { + "epoch": 0.5566600397614314, + "grad_norm": 6.495257377624512, + "learning_rate": 4.588684202829154e-06, + "loss": 0.124, + "num_input_tokens_seen": 8228928, + "step": 4200 + }, + { + "epoch": 0.5567925778661366, + "grad_norm": 6.73385763168335, + "learning_rate": 4.588493420168072e-06, + "loss": 0.1272, + "num_input_tokens_seen": 8230824, + "step": 4201 + }, + { + "epoch": 0.5569251159708416, + "grad_norm": 0.5748089551925659, + "learning_rate": 4.588302597239396e-06, + "loss": 0.0039, + "num_input_tokens_seen": 8233384, + "step": 4202 + }, + { + "epoch": 0.5570576540755467, + "grad_norm": 12.322843551635742, + "learning_rate": 4.588111734046806e-06, + "loss": 0.2668, + "num_input_tokens_seen": 8235344, + "step": 4203 + }, + { + "epoch": 0.5571901921802518, + "grad_norm": 7.579004287719727, + "learning_rate": 4.58792083059398e-06, + "loss": 0.172, + "num_input_tokens_seen": 8237648, + "step": 4204 + }, + { + "epoch": 0.5573227302849569, + "grad_norm": 0.1485251784324646, + "learning_rate": 4.587729886884602e-06, + "loss": 0.001, + "num_input_tokens_seen": 8238984, + "step": 4205 + }, + { + "epoch": 0.557455268389662, + "grad_norm": 3.3117733001708984, + "learning_rate": 4.587538902922351e-06, + "loss": 0.0244, + "num_input_tokens_seen": 8241192, + "step": 4206 + }, + { + "epoch": 0.5575878064943671, + "grad_norm": 9.784858703613281, + "learning_rate": 4.587347878710909e-06, + "loss": 0.2539, + "num_input_tokens_seen": 8243336, + "step": 4207 + }, + { + "epoch": 0.5577203445990723, + "grad_norm": 0.15626606345176697, + "learning_rate": 4.58715681425396e-06, + "loss": 0.0011, + "num_input_tokens_seen": 8245200, + "step": 4208 + }, + { + "epoch": 0.5578528827037773, + "grad_norm": 0.08361523598432541, + "learning_rate": 4.586965709555188e-06, + "loss": 0.0006, + "num_input_tokens_seen": 8246272, + "step": 4209 + }, + { + "epoch": 0.5579854208084825, + "grad_norm": 6.800239562988281, + "learning_rate": 4.586774564618277e-06, + "loss": 0.2555, + "num_input_tokens_seen": 8247912, + "step": 4210 + }, + { + "epoch": 0.5581179589131875, + "grad_norm": 16.345766067504883, + "learning_rate": 4.586583379446914e-06, + "loss": 0.6866, + "num_input_tokens_seen": 8249888, + "step": 4211 + }, + { + "epoch": 0.5582504970178926, + "grad_norm": 10.406549453735352, + "learning_rate": 4.5863921540447834e-06, + "loss": 0.3264, + "num_input_tokens_seen": 8251680, + "step": 4212 + }, + { + "epoch": 0.5583830351225978, + "grad_norm": 0.08881685882806778, + "learning_rate": 4.586200888415571e-06, + "loss": 0.0006, + "num_input_tokens_seen": 8252728, + "step": 4213 + }, + { + "epoch": 0.5585155732273028, + "grad_norm": 12.554142951965332, + "learning_rate": 4.5860095825629695e-06, + "loss": 0.5008, + "num_input_tokens_seen": 8255472, + "step": 4214 + }, + { + "epoch": 0.558648111332008, + "grad_norm": 0.32159581780433655, + "learning_rate": 4.5858182364906615e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8256808, + "step": 4215 + }, + { + "epoch": 0.558780649436713, + "grad_norm": 15.256695747375488, + "learning_rate": 4.5856268502023405e-06, + "loss": 0.673, + "num_input_tokens_seen": 8258736, + "step": 4216 + }, + { + "epoch": 0.5589131875414182, + "grad_norm": 0.2954338788986206, + "learning_rate": 4.585435423701694e-06, + "loss": 0.002, + "num_input_tokens_seen": 8260808, + "step": 4217 + }, + { + "epoch": 0.5590457256461233, + "grad_norm": 14.656773567199707, + "learning_rate": 4.585243956992415e-06, + "loss": 0.5055, + "num_input_tokens_seen": 8262504, + "step": 4218 + }, + { + "epoch": 0.5591782637508284, + "grad_norm": 0.32726091146469116, + "learning_rate": 4.585052450078193e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8265000, + "step": 4219 + }, + { + "epoch": 0.5593108018555335, + "grad_norm": 0.20523113012313843, + "learning_rate": 4.584860902962721e-06, + "loss": 0.0014, + "num_input_tokens_seen": 8266240, + "step": 4220 + }, + { + "epoch": 0.5594433399602385, + "grad_norm": 9.635098457336426, + "learning_rate": 4.584669315649694e-06, + "loss": 0.4355, + "num_input_tokens_seen": 8269000, + "step": 4221 + }, + { + "epoch": 0.5595758780649437, + "grad_norm": 6.79335355758667, + "learning_rate": 4.584477688142803e-06, + "loss": 0.23, + "num_input_tokens_seen": 8271160, + "step": 4222 + }, + { + "epoch": 0.5597084161696487, + "grad_norm": 7.971199035644531, + "learning_rate": 4.584286020445745e-06, + "loss": 0.0878, + "num_input_tokens_seen": 8273000, + "step": 4223 + }, + { + "epoch": 0.5598409542743539, + "grad_norm": 5.691652774810791, + "learning_rate": 4.584094312562215e-06, + "loss": 0.055, + "num_input_tokens_seen": 8274744, + "step": 4224 + }, + { + "epoch": 0.559973492379059, + "grad_norm": 15.90192985534668, + "learning_rate": 4.583902564495909e-06, + "loss": 0.486, + "num_input_tokens_seen": 8276072, + "step": 4225 + }, + { + "epoch": 0.5601060304837641, + "grad_norm": 7.757584095001221, + "learning_rate": 4.583710776250523e-06, + "loss": 0.1326, + "num_input_tokens_seen": 8278080, + "step": 4226 + }, + { + "epoch": 0.5602385685884692, + "grad_norm": 0.4073067307472229, + "learning_rate": 4.583518947829756e-06, + "loss": 0.0027, + "num_input_tokens_seen": 8279440, + "step": 4227 + }, + { + "epoch": 0.5603711066931742, + "grad_norm": 8.02692699432373, + "learning_rate": 4.583327079237307e-06, + "loss": 0.1566, + "num_input_tokens_seen": 8281704, + "step": 4228 + }, + { + "epoch": 0.5605036447978794, + "grad_norm": 0.3048041760921478, + "learning_rate": 4.583135170476873e-06, + "loss": 0.0021, + "num_input_tokens_seen": 8283112, + "step": 4229 + }, + { + "epoch": 0.5606361829025845, + "grad_norm": 18.203075408935547, + "learning_rate": 4.582943221552158e-06, + "loss": 0.7575, + "num_input_tokens_seen": 8284632, + "step": 4230 + }, + { + "epoch": 0.5607687210072896, + "grad_norm": 11.17457103729248, + "learning_rate": 4.582751232466859e-06, + "loss": 0.191, + "num_input_tokens_seen": 8286376, + "step": 4231 + }, + { + "epoch": 0.5609012591119947, + "grad_norm": 13.156503677368164, + "learning_rate": 4.58255920322468e-06, + "loss": 0.4593, + "num_input_tokens_seen": 8288440, + "step": 4232 + }, + { + "epoch": 0.5610337972166998, + "grad_norm": 10.41724967956543, + "learning_rate": 4.582367133829323e-06, + "loss": 0.1182, + "num_input_tokens_seen": 8290960, + "step": 4233 + }, + { + "epoch": 0.5611663353214049, + "grad_norm": 2.760406970977783, + "learning_rate": 4.582175024284491e-06, + "loss": 0.0155, + "num_input_tokens_seen": 8292904, + "step": 4234 + }, + { + "epoch": 0.56129887342611, + "grad_norm": 0.3311265707015991, + "learning_rate": 4.5819828745938885e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8294400, + "step": 4235 + }, + { + "epoch": 0.5614314115308151, + "grad_norm": 22.410964965820312, + "learning_rate": 4.58179068476122e-06, + "loss": 0.5681, + "num_input_tokens_seen": 8297344, + "step": 4236 + }, + { + "epoch": 0.5615639496355203, + "grad_norm": 10.7067289352417, + "learning_rate": 4.58159845479019e-06, + "loss": 0.2121, + "num_input_tokens_seen": 8299584, + "step": 4237 + }, + { + "epoch": 0.5616964877402253, + "grad_norm": 24.17529296875, + "learning_rate": 4.581406184684506e-06, + "loss": 0.9069, + "num_input_tokens_seen": 8301872, + "step": 4238 + }, + { + "epoch": 0.5618290258449304, + "grad_norm": 10.71629524230957, + "learning_rate": 4.581213874447876e-06, + "loss": 0.2664, + "num_input_tokens_seen": 8303592, + "step": 4239 + }, + { + "epoch": 0.5619615639496355, + "grad_norm": 12.087874412536621, + "learning_rate": 4.581021524084006e-06, + "loss": 0.212, + "num_input_tokens_seen": 8305704, + "step": 4240 + }, + { + "epoch": 0.5620941020543406, + "grad_norm": 14.72028636932373, + "learning_rate": 4.580829133596605e-06, + "loss": 0.5102, + "num_input_tokens_seen": 8308336, + "step": 4241 + }, + { + "epoch": 0.5622266401590458, + "grad_norm": 0.7996182441711426, + "learning_rate": 4.580636702989383e-06, + "loss": 0.0044, + "num_input_tokens_seen": 8310800, + "step": 4242 + }, + { + "epoch": 0.5623591782637508, + "grad_norm": 10.016292572021484, + "learning_rate": 4.58044423226605e-06, + "loss": 0.2175, + "num_input_tokens_seen": 8312832, + "step": 4243 + }, + { + "epoch": 0.562491716368456, + "grad_norm": 0.4290071427822113, + "learning_rate": 4.580251721430318e-06, + "loss": 0.003, + "num_input_tokens_seen": 8314344, + "step": 4244 + }, + { + "epoch": 0.562624254473161, + "grad_norm": 10.686200141906738, + "learning_rate": 4.5800591704858965e-06, + "loss": 0.5142, + "num_input_tokens_seen": 8316984, + "step": 4245 + }, + { + "epoch": 0.5627567925778661, + "grad_norm": 8.642796516418457, + "learning_rate": 4.5798665794365e-06, + "loss": 0.2419, + "num_input_tokens_seen": 8319048, + "step": 4246 + }, + { + "epoch": 0.5628893306825712, + "grad_norm": 0.6038889288902283, + "learning_rate": 4.57967394828584e-06, + "loss": 0.0036, + "num_input_tokens_seen": 8320864, + "step": 4247 + }, + { + "epoch": 0.5630218687872763, + "grad_norm": 7.067734241485596, + "learning_rate": 4.5794812770376325e-06, + "loss": 0.1742, + "num_input_tokens_seen": 8322992, + "step": 4248 + }, + { + "epoch": 0.5631544068919815, + "grad_norm": 0.40288838744163513, + "learning_rate": 4.579288565695591e-06, + "loss": 0.0028, + "num_input_tokens_seen": 8324736, + "step": 4249 + }, + { + "epoch": 0.5632869449966865, + "grad_norm": 0.2552488446235657, + "learning_rate": 4.579095814263431e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8326280, + "step": 4250 + }, + { + "epoch": 0.5634194831013917, + "grad_norm": 18.879011154174805, + "learning_rate": 4.57890302274487e-06, + "loss": 0.5748, + "num_input_tokens_seen": 8327696, + "step": 4251 + }, + { + "epoch": 0.5635520212060967, + "grad_norm": 5.923543930053711, + "learning_rate": 4.5787101911436256e-06, + "loss": 0.0616, + "num_input_tokens_seen": 8329384, + "step": 4252 + }, + { + "epoch": 0.5636845593108019, + "grad_norm": 3.0735182762145996, + "learning_rate": 4.5785173194634135e-06, + "loss": 0.0423, + "num_input_tokens_seen": 8331184, + "step": 4253 + }, + { + "epoch": 0.563817097415507, + "grad_norm": 5.253058910369873, + "learning_rate": 4.5783244077079535e-06, + "loss": 0.297, + "num_input_tokens_seen": 8332760, + "step": 4254 + }, + { + "epoch": 0.563949635520212, + "grad_norm": 13.91555404663086, + "learning_rate": 4.578131455880966e-06, + "loss": 0.5648, + "num_input_tokens_seen": 8335680, + "step": 4255 + }, + { + "epoch": 0.5640821736249172, + "grad_norm": 7.740660667419434, + "learning_rate": 4.577938463986169e-06, + "loss": 0.0815, + "num_input_tokens_seen": 8337760, + "step": 4256 + }, + { + "epoch": 0.5642147117296222, + "grad_norm": 5.496605396270752, + "learning_rate": 4.577745432027286e-06, + "loss": 0.1804, + "num_input_tokens_seen": 8339568, + "step": 4257 + }, + { + "epoch": 0.5643472498343274, + "grad_norm": 17.28211212158203, + "learning_rate": 4.5775523600080375e-06, + "loss": 0.5457, + "num_input_tokens_seen": 8341600, + "step": 4258 + }, + { + "epoch": 0.5644797879390324, + "grad_norm": 9.130685806274414, + "learning_rate": 4.577359247932146e-06, + "loss": 0.4271, + "num_input_tokens_seen": 8343432, + "step": 4259 + }, + { + "epoch": 0.5646123260437376, + "grad_norm": 2.593804121017456, + "learning_rate": 4.577166095803336e-06, + "loss": 0.0241, + "num_input_tokens_seen": 8344992, + "step": 4260 + }, + { + "epoch": 0.5647448641484427, + "grad_norm": 3.4626922607421875, + "learning_rate": 4.57697290362533e-06, + "loss": 0.0908, + "num_input_tokens_seen": 8347104, + "step": 4261 + }, + { + "epoch": 0.5648774022531478, + "grad_norm": 10.954967498779297, + "learning_rate": 4.576779671401853e-06, + "loss": 0.156, + "num_input_tokens_seen": 8349208, + "step": 4262 + }, + { + "epoch": 0.5650099403578529, + "grad_norm": 7.874474048614502, + "learning_rate": 4.576586399136632e-06, + "loss": 0.3566, + "num_input_tokens_seen": 8351176, + "step": 4263 + }, + { + "epoch": 0.5651424784625579, + "grad_norm": 3.974134683609009, + "learning_rate": 4.576393086833393e-06, + "loss": 0.0725, + "num_input_tokens_seen": 8353752, + "step": 4264 + }, + { + "epoch": 0.5652750165672631, + "grad_norm": 8.1998929977417, + "learning_rate": 4.576199734495862e-06, + "loss": 0.2603, + "num_input_tokens_seen": 8355472, + "step": 4265 + }, + { + "epoch": 0.5654075546719682, + "grad_norm": 15.944494247436523, + "learning_rate": 4.576006342127768e-06, + "loss": 0.5336, + "num_input_tokens_seen": 8357832, + "step": 4266 + }, + { + "epoch": 0.5655400927766733, + "grad_norm": 9.196968078613281, + "learning_rate": 4.57581290973284e-06, + "loss": 0.2245, + "num_input_tokens_seen": 8359512, + "step": 4267 + }, + { + "epoch": 0.5656726308813784, + "grad_norm": 6.578267574310303, + "learning_rate": 4.575619437314807e-06, + "loss": 0.2115, + "num_input_tokens_seen": 8361384, + "step": 4268 + }, + { + "epoch": 0.5658051689860835, + "grad_norm": 9.462727546691895, + "learning_rate": 4.575425924877399e-06, + "loss": 0.23, + "num_input_tokens_seen": 8363208, + "step": 4269 + }, + { + "epoch": 0.5659377070907886, + "grad_norm": 4.790237903594971, + "learning_rate": 4.575232372424348e-06, + "loss": 0.1118, + "num_input_tokens_seen": 8365320, + "step": 4270 + }, + { + "epoch": 0.5660702451954938, + "grad_norm": 5.361525058746338, + "learning_rate": 4.575038779959385e-06, + "loss": 0.0307, + "num_input_tokens_seen": 8366856, + "step": 4271 + }, + { + "epoch": 0.5662027833001988, + "grad_norm": 8.946442604064941, + "learning_rate": 4.574845147486242e-06, + "loss": 0.2441, + "num_input_tokens_seen": 8369752, + "step": 4272 + }, + { + "epoch": 0.566335321404904, + "grad_norm": 12.714821815490723, + "learning_rate": 4.574651475008655e-06, + "loss": 0.434, + "num_input_tokens_seen": 8372000, + "step": 4273 + }, + { + "epoch": 0.566467859509609, + "grad_norm": 20.241958618164062, + "learning_rate": 4.574457762530354e-06, + "loss": 0.8547, + "num_input_tokens_seen": 8374528, + "step": 4274 + }, + { + "epoch": 0.5666003976143141, + "grad_norm": 9.682726860046387, + "learning_rate": 4.5742640100550776e-06, + "loss": 0.3227, + "num_input_tokens_seen": 8376704, + "step": 4275 + }, + { + "epoch": 0.5667329357190192, + "grad_norm": 11.85971736907959, + "learning_rate": 4.57407021758656e-06, + "loss": 0.4482, + "num_input_tokens_seen": 8378152, + "step": 4276 + }, + { + "epoch": 0.5668654738237243, + "grad_norm": 22.23664665222168, + "learning_rate": 4.573876385128539e-06, + "loss": 0.7954, + "num_input_tokens_seen": 8379952, + "step": 4277 + }, + { + "epoch": 0.5669980119284295, + "grad_norm": 10.538466453552246, + "learning_rate": 4.573682512684748e-06, + "loss": 0.263, + "num_input_tokens_seen": 8381672, + "step": 4278 + }, + { + "epoch": 0.5671305500331345, + "grad_norm": 7.241318225860596, + "learning_rate": 4.57348860025893e-06, + "loss": 0.2313, + "num_input_tokens_seen": 8383464, + "step": 4279 + }, + { + "epoch": 0.5672630881378397, + "grad_norm": 7.920835018157959, + "learning_rate": 4.573294647854819e-06, + "loss": 0.1121, + "num_input_tokens_seen": 8385248, + "step": 4280 + }, + { + "epoch": 0.5673956262425447, + "grad_norm": 0.19351337850093842, + "learning_rate": 4.573100655476159e-06, + "loss": 0.0013, + "num_input_tokens_seen": 8386680, + "step": 4281 + }, + { + "epoch": 0.5675281643472498, + "grad_norm": 8.171653747558594, + "learning_rate": 4.572906623126687e-06, + "loss": 0.1455, + "num_input_tokens_seen": 8388480, + "step": 4282 + }, + { + "epoch": 0.567660702451955, + "grad_norm": 0.22796307504177094, + "learning_rate": 4.572712550810146e-06, + "loss": 0.0015, + "num_input_tokens_seen": 8389648, + "step": 4283 + }, + { + "epoch": 0.56779324055666, + "grad_norm": 11.489493370056152, + "learning_rate": 4.5725184385302765e-06, + "loss": 0.3254, + "num_input_tokens_seen": 8391736, + "step": 4284 + }, + { + "epoch": 0.5679257786613652, + "grad_norm": 3.537522315979004, + "learning_rate": 4.5723242862908225e-06, + "loss": 0.0748, + "num_input_tokens_seen": 8393464, + "step": 4285 + }, + { + "epoch": 0.5680583167660702, + "grad_norm": 0.6127605438232422, + "learning_rate": 4.572130094095526e-06, + "loss": 0.0041, + "num_input_tokens_seen": 8394808, + "step": 4286 + }, + { + "epoch": 0.5681908548707754, + "grad_norm": 0.7648752331733704, + "learning_rate": 4.571935861948132e-06, + "loss": 0.0114, + "num_input_tokens_seen": 8396464, + "step": 4287 + }, + { + "epoch": 0.5683233929754804, + "grad_norm": 12.284891128540039, + "learning_rate": 4.571741589852385e-06, + "loss": 0.278, + "num_input_tokens_seen": 8398248, + "step": 4288 + }, + { + "epoch": 0.5684559310801856, + "grad_norm": 7.874042987823486, + "learning_rate": 4.5715472778120315e-06, + "loss": 0.2357, + "num_input_tokens_seen": 8400104, + "step": 4289 + }, + { + "epoch": 0.5685884691848907, + "grad_norm": 11.329712867736816, + "learning_rate": 4.571352925830817e-06, + "loss": 0.2304, + "num_input_tokens_seen": 8402904, + "step": 4290 + }, + { + "epoch": 0.5687210072895957, + "grad_norm": 9.141334533691406, + "learning_rate": 4.571158533912489e-06, + "loss": 0.346, + "num_input_tokens_seen": 8405056, + "step": 4291 + }, + { + "epoch": 0.5688535453943009, + "grad_norm": 0.2751242518424988, + "learning_rate": 4.570964102060796e-06, + "loss": 0.0018, + "num_input_tokens_seen": 8406328, + "step": 4292 + }, + { + "epoch": 0.5689860834990059, + "grad_norm": 9.666380882263184, + "learning_rate": 4.570769630279486e-06, + "loss": 0.1686, + "num_input_tokens_seen": 8408600, + "step": 4293 + }, + { + "epoch": 0.5691186216037111, + "grad_norm": 10.13422679901123, + "learning_rate": 4.570575118572309e-06, + "loss": 0.0319, + "num_input_tokens_seen": 8410472, + "step": 4294 + }, + { + "epoch": 0.5692511597084162, + "grad_norm": 4.587724685668945, + "learning_rate": 4.570380566943016e-06, + "loss": 0.1246, + "num_input_tokens_seen": 8413200, + "step": 4295 + }, + { + "epoch": 0.5693836978131213, + "grad_norm": 7.932286262512207, + "learning_rate": 4.570185975395357e-06, + "loss": 0.2141, + "num_input_tokens_seen": 8415800, + "step": 4296 + }, + { + "epoch": 0.5695162359178264, + "grad_norm": 20.300233840942383, + "learning_rate": 4.569991343933084e-06, + "loss": 0.4416, + "num_input_tokens_seen": 8418248, + "step": 4297 + }, + { + "epoch": 0.5696487740225314, + "grad_norm": 0.07834914326667786, + "learning_rate": 4.569796672559949e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8419520, + "step": 4298 + }, + { + "epoch": 0.5697813121272366, + "grad_norm": 13.601746559143066, + "learning_rate": 4.569601961279708e-06, + "loss": 0.676, + "num_input_tokens_seen": 8421120, + "step": 4299 + }, + { + "epoch": 0.5699138502319416, + "grad_norm": 16.05999183654785, + "learning_rate": 4.569407210096113e-06, + "loss": 0.4325, + "num_input_tokens_seen": 8423008, + "step": 4300 + }, + { + "epoch": 0.5700463883366468, + "grad_norm": 12.571924209594727, + "learning_rate": 4.569212419012919e-06, + "loss": 0.1696, + "num_input_tokens_seen": 8424736, + "step": 4301 + }, + { + "epoch": 0.5701789264413519, + "grad_norm": 5.0280609130859375, + "learning_rate": 4.569017588033882e-06, + "loss": 0.1832, + "num_input_tokens_seen": 8426232, + "step": 4302 + }, + { + "epoch": 0.570311464546057, + "grad_norm": 16.32701301574707, + "learning_rate": 4.5688227171627586e-06, + "loss": 1.074, + "num_input_tokens_seen": 8429400, + "step": 4303 + }, + { + "epoch": 0.5704440026507621, + "grad_norm": 5.640312671661377, + "learning_rate": 4.568627806403306e-06, + "loss": 0.0368, + "num_input_tokens_seen": 8431176, + "step": 4304 + }, + { + "epoch": 0.5705765407554672, + "grad_norm": 14.657163619995117, + "learning_rate": 4.5684328557592825e-06, + "loss": 0.4167, + "num_input_tokens_seen": 8432800, + "step": 4305 + }, + { + "epoch": 0.5707090788601723, + "grad_norm": 10.338888168334961, + "learning_rate": 4.568237865234447e-06, + "loss": 0.2876, + "num_input_tokens_seen": 8434976, + "step": 4306 + }, + { + "epoch": 0.5708416169648775, + "grad_norm": 5.957551956176758, + "learning_rate": 4.5680428348325575e-06, + "loss": 0.1107, + "num_input_tokens_seen": 8437704, + "step": 4307 + }, + { + "epoch": 0.5709741550695825, + "grad_norm": 16.47465705871582, + "learning_rate": 4.567847764557377e-06, + "loss": 0.546, + "num_input_tokens_seen": 8439872, + "step": 4308 + }, + { + "epoch": 0.5711066931742876, + "grad_norm": 0.11251896619796753, + "learning_rate": 4.567652654412664e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8441104, + "step": 4309 + }, + { + "epoch": 0.5712392312789927, + "grad_norm": 4.6540069580078125, + "learning_rate": 4.567457504402182e-06, + "loss": 0.0521, + "num_input_tokens_seen": 8442536, + "step": 4310 + }, + { + "epoch": 0.5713717693836978, + "grad_norm": 5.070131301879883, + "learning_rate": 4.567262314529693e-06, + "loss": 0.1366, + "num_input_tokens_seen": 8443816, + "step": 4311 + }, + { + "epoch": 0.5715043074884029, + "grad_norm": 8.351707458496094, + "learning_rate": 4.56706708479896e-06, + "loss": 0.135, + "num_input_tokens_seen": 8446944, + "step": 4312 + }, + { + "epoch": 0.571636845593108, + "grad_norm": 0.9232221841812134, + "learning_rate": 4.566871815213747e-06, + "loss": 0.0053, + "num_input_tokens_seen": 8448752, + "step": 4313 + }, + { + "epoch": 0.5717693836978132, + "grad_norm": 3.869992971420288, + "learning_rate": 4.566676505777821e-06, + "loss": 0.0342, + "num_input_tokens_seen": 8452096, + "step": 4314 + }, + { + "epoch": 0.5719019218025182, + "grad_norm": 15.801178932189941, + "learning_rate": 4.566481156494944e-06, + "loss": 0.1767, + "num_input_tokens_seen": 8453816, + "step": 4315 + }, + { + "epoch": 0.5720344599072233, + "grad_norm": 7.275855541229248, + "learning_rate": 4.5662857673688875e-06, + "loss": 0.3267, + "num_input_tokens_seen": 8455376, + "step": 4316 + }, + { + "epoch": 0.5721669980119284, + "grad_norm": 8.781572341918945, + "learning_rate": 4.5660903384034135e-06, + "loss": 0.156, + "num_input_tokens_seen": 8457160, + "step": 4317 + }, + { + "epoch": 0.5722995361166335, + "grad_norm": 0.7213758230209351, + "learning_rate": 4.565894869602294e-06, + "loss": 0.0048, + "num_input_tokens_seen": 8459784, + "step": 4318 + }, + { + "epoch": 0.5724320742213387, + "grad_norm": 14.654979705810547, + "learning_rate": 4.565699360969297e-06, + "loss": 0.5773, + "num_input_tokens_seen": 8462112, + "step": 4319 + }, + { + "epoch": 0.5725646123260437, + "grad_norm": 9.059070587158203, + "learning_rate": 4.565503812508189e-06, + "loss": 0.4075, + "num_input_tokens_seen": 8464104, + "step": 4320 + }, + { + "epoch": 0.5726971504307489, + "grad_norm": 7.977756023406982, + "learning_rate": 4.565308224222745e-06, + "loss": 0.348, + "num_input_tokens_seen": 8466048, + "step": 4321 + }, + { + "epoch": 0.5728296885354539, + "grad_norm": 0.11737184226512909, + "learning_rate": 4.5651125961167305e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8467152, + "step": 4322 + }, + { + "epoch": 0.5729622266401591, + "grad_norm": 23.347951889038086, + "learning_rate": 4.564916928193923e-06, + "loss": 0.5547, + "num_input_tokens_seen": 8468760, + "step": 4323 + }, + { + "epoch": 0.5730947647448641, + "grad_norm": 7.015285968780518, + "learning_rate": 4.5647212204580915e-06, + "loss": 0.2062, + "num_input_tokens_seen": 8471704, + "step": 4324 + }, + { + "epoch": 0.5732273028495692, + "grad_norm": 8.148268699645996, + "learning_rate": 4.564525472913012e-06, + "loss": 0.149, + "num_input_tokens_seen": 8473632, + "step": 4325 + }, + { + "epoch": 0.5733598409542744, + "grad_norm": 0.31451258063316345, + "learning_rate": 4.564329685562455e-06, + "loss": 0.002, + "num_input_tokens_seen": 8475016, + "step": 4326 + }, + { + "epoch": 0.5734923790589794, + "grad_norm": 12.027788162231445, + "learning_rate": 4.564133858410199e-06, + "loss": 0.2643, + "num_input_tokens_seen": 8476536, + "step": 4327 + }, + { + "epoch": 0.5736249171636846, + "grad_norm": 6.506690979003906, + "learning_rate": 4.5639379914600176e-06, + "loss": 0.1771, + "num_input_tokens_seen": 8478056, + "step": 4328 + }, + { + "epoch": 0.5737574552683896, + "grad_norm": 5.623752593994141, + "learning_rate": 4.5637420847156884e-06, + "loss": 0.1983, + "num_input_tokens_seen": 8479592, + "step": 4329 + }, + { + "epoch": 0.5738899933730948, + "grad_norm": 0.7790703773498535, + "learning_rate": 4.563546138180988e-06, + "loss": 0.0149, + "num_input_tokens_seen": 8481032, + "step": 4330 + }, + { + "epoch": 0.5740225314777999, + "grad_norm": 10.818570137023926, + "learning_rate": 4.563350151859695e-06, + "loss": 0.2969, + "num_input_tokens_seen": 8482928, + "step": 4331 + }, + { + "epoch": 0.574155069582505, + "grad_norm": 6.5961103439331055, + "learning_rate": 4.5631541257555866e-06, + "loss": 0.145, + "num_input_tokens_seen": 8484904, + "step": 4332 + }, + { + "epoch": 0.5742876076872101, + "grad_norm": 6.804736614227295, + "learning_rate": 4.562958059872443e-06, + "loss": 0.1083, + "num_input_tokens_seen": 8486656, + "step": 4333 + }, + { + "epoch": 0.5744201457919151, + "grad_norm": 8.181356430053711, + "learning_rate": 4.5627619542140465e-06, + "loss": 0.1237, + "num_input_tokens_seen": 8488424, + "step": 4334 + }, + { + "epoch": 0.5745526838966203, + "grad_norm": 7.599025726318359, + "learning_rate": 4.562565808784175e-06, + "loss": 0.3012, + "num_input_tokens_seen": 8490584, + "step": 4335 + }, + { + "epoch": 0.5746852220013254, + "grad_norm": 4.574509143829346, + "learning_rate": 4.562369623586612e-06, + "loss": 0.0307, + "num_input_tokens_seen": 8491832, + "step": 4336 + }, + { + "epoch": 0.5748177601060305, + "grad_norm": 0.25657889246940613, + "learning_rate": 4.56217339862514e-06, + "loss": 0.0015, + "num_input_tokens_seen": 8493168, + "step": 4337 + }, + { + "epoch": 0.5749502982107356, + "grad_norm": 0.08141116797924042, + "learning_rate": 4.561977133903543e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8494368, + "step": 4338 + }, + { + "epoch": 0.5750828363154407, + "grad_norm": 6.296396255493164, + "learning_rate": 4.561780829425604e-06, + "loss": 0.0884, + "num_input_tokens_seen": 8495824, + "step": 4339 + }, + { + "epoch": 0.5752153744201458, + "grad_norm": 7.0741095542907715, + "learning_rate": 4.561584485195108e-06, + "loss": 0.1277, + "num_input_tokens_seen": 8496928, + "step": 4340 + }, + { + "epoch": 0.5753479125248508, + "grad_norm": 5.731409072875977, + "learning_rate": 4.561388101215841e-06, + "loss": 0.1947, + "num_input_tokens_seen": 8499016, + "step": 4341 + }, + { + "epoch": 0.575480450629556, + "grad_norm": 6.399181365966797, + "learning_rate": 4.56119167749159e-06, + "loss": 0.2332, + "num_input_tokens_seen": 8501080, + "step": 4342 + }, + { + "epoch": 0.5756129887342611, + "grad_norm": 12.875848770141602, + "learning_rate": 4.560995214026141e-06, + "loss": 0.3918, + "num_input_tokens_seen": 8503432, + "step": 4343 + }, + { + "epoch": 0.5757455268389662, + "grad_norm": 9.309961318969727, + "learning_rate": 4.560798710823282e-06, + "loss": 0.2479, + "num_input_tokens_seen": 8505816, + "step": 4344 + }, + { + "epoch": 0.5758780649436713, + "grad_norm": 1.1099779605865479, + "learning_rate": 4.560602167886803e-06, + "loss": 0.0299, + "num_input_tokens_seen": 8507664, + "step": 4345 + }, + { + "epoch": 0.5760106030483764, + "grad_norm": 8.282926559448242, + "learning_rate": 4.560405585220492e-06, + "loss": 0.2038, + "num_input_tokens_seen": 8509616, + "step": 4346 + }, + { + "epoch": 0.5761431411530815, + "grad_norm": 19.77098274230957, + "learning_rate": 4.560208962828141e-06, + "loss": 0.724, + "num_input_tokens_seen": 8511640, + "step": 4347 + }, + { + "epoch": 0.5762756792577867, + "grad_norm": 0.3607216477394104, + "learning_rate": 4.5600123007135385e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8513408, + "step": 4348 + }, + { + "epoch": 0.5764082173624917, + "grad_norm": 0.2982603907585144, + "learning_rate": 4.559815598880478e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8514632, + "step": 4349 + }, + { + "epoch": 0.5765407554671969, + "grad_norm": 3.2125802040100098, + "learning_rate": 4.559618857332752e-06, + "loss": 0.036, + "num_input_tokens_seen": 8516264, + "step": 4350 + }, + { + "epoch": 0.5766732935719019, + "grad_norm": 9.185589790344238, + "learning_rate": 4.5594220760741535e-06, + "loss": 0.312, + "num_input_tokens_seen": 8518496, + "step": 4351 + }, + { + "epoch": 0.576805831676607, + "grad_norm": 8.0495023727417, + "learning_rate": 4.559225255108477e-06, + "loss": 0.2852, + "num_input_tokens_seen": 8520200, + "step": 4352 + }, + { + "epoch": 0.5769383697813121, + "grad_norm": 8.494548797607422, + "learning_rate": 4.559028394439517e-06, + "loss": 0.151, + "num_input_tokens_seen": 8522440, + "step": 4353 + }, + { + "epoch": 0.5770709078860172, + "grad_norm": 0.25275135040283203, + "learning_rate": 4.558831494071069e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8524136, + "step": 4354 + }, + { + "epoch": 0.5772034459907224, + "grad_norm": 1.3453714847564697, + "learning_rate": 4.558634554006929e-06, + "loss": 0.009, + "num_input_tokens_seen": 8526880, + "step": 4355 + }, + { + "epoch": 0.5773359840954274, + "grad_norm": 10.653584480285645, + "learning_rate": 4.558437574250896e-06, + "loss": 0.3991, + "num_input_tokens_seen": 8528576, + "step": 4356 + }, + { + "epoch": 0.5774685222001326, + "grad_norm": 14.852418899536133, + "learning_rate": 4.558240554806765e-06, + "loss": 0.646, + "num_input_tokens_seen": 8530120, + "step": 4357 + }, + { + "epoch": 0.5776010603048376, + "grad_norm": 9.925727844238281, + "learning_rate": 4.558043495678336e-06, + "loss": 0.144, + "num_input_tokens_seen": 8532168, + "step": 4358 + }, + { + "epoch": 0.5777335984095427, + "grad_norm": 0.045869458466768265, + "learning_rate": 4.55784639686941e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8534032, + "step": 4359 + }, + { + "epoch": 0.5778661365142479, + "grad_norm": 0.17023147642612457, + "learning_rate": 4.557649258383785e-06, + "loss": 0.001, + "num_input_tokens_seen": 8536472, + "step": 4360 + }, + { + "epoch": 0.5779986746189529, + "grad_norm": 10.310873031616211, + "learning_rate": 4.557452080225263e-06, + "loss": 0.1882, + "num_input_tokens_seen": 8537984, + "step": 4361 + }, + { + "epoch": 0.5781312127236581, + "grad_norm": 0.03095160238444805, + "learning_rate": 4.557254862397645e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8539568, + "step": 4362 + }, + { + "epoch": 0.5782637508283631, + "grad_norm": 0.031688202172517776, + "learning_rate": 4.557057604904735e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8541096, + "step": 4363 + }, + { + "epoch": 0.5783962889330683, + "grad_norm": 7.196596622467041, + "learning_rate": 4.5568603077503345e-06, + "loss": 0.1348, + "num_input_tokens_seen": 8543416, + "step": 4364 + }, + { + "epoch": 0.5785288270377733, + "grad_norm": 0.11335533112287521, + "learning_rate": 4.556662970938249e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8544944, + "step": 4365 + }, + { + "epoch": 0.5786613651424785, + "grad_norm": 10.476348876953125, + "learning_rate": 4.5564655944722825e-06, + "loss": 0.2256, + "num_input_tokens_seen": 8547376, + "step": 4366 + }, + { + "epoch": 0.5787939032471836, + "grad_norm": 0.0516941137611866, + "learning_rate": 4.55626817835624e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8549688, + "step": 4367 + }, + { + "epoch": 0.5789264413518886, + "grad_norm": 0.0313602089881897, + "learning_rate": 4.556070722593929e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8550936, + "step": 4368 + }, + { + "epoch": 0.5790589794565938, + "grad_norm": 8.793875694274902, + "learning_rate": 4.555873227189156e-06, + "loss": 0.15, + "num_input_tokens_seen": 8554000, + "step": 4369 + }, + { + "epoch": 0.5791915175612988, + "grad_norm": 0.0633508712053299, + "learning_rate": 4.555675692145729e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8555296, + "step": 4370 + }, + { + "epoch": 0.579324055666004, + "grad_norm": 11.965086936950684, + "learning_rate": 4.555478117467456e-06, + "loss": 0.1877, + "num_input_tokens_seen": 8557440, + "step": 4371 + }, + { + "epoch": 0.5794565937707091, + "grad_norm": 0.013543857261538506, + "learning_rate": 4.555280503158147e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8559000, + "step": 4372 + }, + { + "epoch": 0.5795891318754142, + "grad_norm": 10.043455123901367, + "learning_rate": 4.555082849221612e-06, + "loss": 0.2861, + "num_input_tokens_seen": 8560912, + "step": 4373 + }, + { + "epoch": 0.5797216699801193, + "grad_norm": 0.12319021672010422, + "learning_rate": 4.554885155661663e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8562816, + "step": 4374 + }, + { + "epoch": 0.5798542080848244, + "grad_norm": 33.75932693481445, + "learning_rate": 4.55468742248211e-06, + "loss": 0.5537, + "num_input_tokens_seen": 8564280, + "step": 4375 + }, + { + "epoch": 0.5799867461895295, + "grad_norm": 10.492067337036133, + "learning_rate": 4.554489649686765e-06, + "loss": 0.2457, + "num_input_tokens_seen": 8566760, + "step": 4376 + }, + { + "epoch": 0.5801192842942345, + "grad_norm": 6.253518104553223, + "learning_rate": 4.5542918372794435e-06, + "loss": 0.2509, + "num_input_tokens_seen": 8568872, + "step": 4377 + }, + { + "epoch": 0.5802518223989397, + "grad_norm": 0.3660961091518402, + "learning_rate": 4.554093985263958e-06, + "loss": 0.0024, + "num_input_tokens_seen": 8570312, + "step": 4378 + }, + { + "epoch": 0.5803843605036448, + "grad_norm": 13.249551773071289, + "learning_rate": 4.5538960936441235e-06, + "loss": 0.4213, + "num_input_tokens_seen": 8573352, + "step": 4379 + }, + { + "epoch": 0.5805168986083499, + "grad_norm": 0.07100484520196915, + "learning_rate": 4.5536981624237545e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8574800, + "step": 4380 + }, + { + "epoch": 0.580649436713055, + "grad_norm": 0.037556443363428116, + "learning_rate": 4.553500191606669e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8575936, + "step": 4381 + }, + { + "epoch": 0.5807819748177601, + "grad_norm": 5.215287208557129, + "learning_rate": 4.553302181196683e-06, + "loss": 0.1371, + "num_input_tokens_seen": 8577416, + "step": 4382 + }, + { + "epoch": 0.5809145129224652, + "grad_norm": 10.468539237976074, + "learning_rate": 4.553104131197614e-06, + "loss": 0.2726, + "num_input_tokens_seen": 8580040, + "step": 4383 + }, + { + "epoch": 0.5810470510271704, + "grad_norm": 5.80501651763916, + "learning_rate": 4.552906041613282e-06, + "loss": 0.0992, + "num_input_tokens_seen": 8581936, + "step": 4384 + }, + { + "epoch": 0.5811795891318754, + "grad_norm": 0.5218558311462402, + "learning_rate": 4.552707912447504e-06, + "loss": 0.0029, + "num_input_tokens_seen": 8584240, + "step": 4385 + }, + { + "epoch": 0.5813121272365805, + "grad_norm": 12.1973876953125, + "learning_rate": 4.552509743704102e-06, + "loss": 0.4238, + "num_input_tokens_seen": 8585976, + "step": 4386 + }, + { + "epoch": 0.5814446653412856, + "grad_norm": 8.577536582946777, + "learning_rate": 4.552311535386897e-06, + "loss": 0.3621, + "num_input_tokens_seen": 8587688, + "step": 4387 + }, + { + "epoch": 0.5815772034459907, + "grad_norm": 0.029581217095255852, + "learning_rate": 4.552113287499708e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8588912, + "step": 4388 + }, + { + "epoch": 0.5817097415506959, + "grad_norm": 9.509265899658203, + "learning_rate": 4.55191500004636e-06, + "loss": 0.2605, + "num_input_tokens_seen": 8591208, + "step": 4389 + }, + { + "epoch": 0.5818422796554009, + "grad_norm": 10.583097457885742, + "learning_rate": 4.551716673030676e-06, + "loss": 0.1594, + "num_input_tokens_seen": 8592896, + "step": 4390 + }, + { + "epoch": 0.5819748177601061, + "grad_norm": 0.052210304886102676, + "learning_rate": 4.551518306456478e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8594344, + "step": 4391 + }, + { + "epoch": 0.5821073558648111, + "grad_norm": 10.652533531188965, + "learning_rate": 4.551319900327593e-06, + "loss": 0.3092, + "num_input_tokens_seen": 8596352, + "step": 4392 + }, + { + "epoch": 0.5822398939695163, + "grad_norm": 0.12843726575374603, + "learning_rate": 4.551121454647844e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8598272, + "step": 4393 + }, + { + "epoch": 0.5823724320742213, + "grad_norm": 8.99263858795166, + "learning_rate": 4.550922969421059e-06, + "loss": 0.1758, + "num_input_tokens_seen": 8600304, + "step": 4394 + }, + { + "epoch": 0.5825049701789264, + "grad_norm": 22.130340576171875, + "learning_rate": 4.550724444651065e-06, + "loss": 0.8582, + "num_input_tokens_seen": 8603496, + "step": 4395 + }, + { + "epoch": 0.5826375082836316, + "grad_norm": 4.380096912384033, + "learning_rate": 4.550525880341688e-06, + "loss": 0.0439, + "num_input_tokens_seen": 8605112, + "step": 4396 + }, + { + "epoch": 0.5827700463883366, + "grad_norm": 5.272134780883789, + "learning_rate": 4.5503272764967574e-06, + "loss": 0.2539, + "num_input_tokens_seen": 8606856, + "step": 4397 + }, + { + "epoch": 0.5829025844930418, + "grad_norm": 0.05595359206199646, + "learning_rate": 4.550128633120102e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8608216, + "step": 4398 + }, + { + "epoch": 0.5830351225977468, + "grad_norm": 7.434205532073975, + "learning_rate": 4.549929950215553e-06, + "loss": 0.3007, + "num_input_tokens_seen": 8610416, + "step": 4399 + }, + { + "epoch": 0.583167660702452, + "grad_norm": 7.668612480163574, + "learning_rate": 4.549731227786941e-06, + "loss": 0.2227, + "num_input_tokens_seen": 8612080, + "step": 4400 + }, + { + "epoch": 0.5833001988071571, + "grad_norm": 7.521057605743408, + "learning_rate": 4.549532465838096e-06, + "loss": 0.1927, + "num_input_tokens_seen": 8614176, + "step": 4401 + }, + { + "epoch": 0.5834327369118621, + "grad_norm": 3.920696258544922, + "learning_rate": 4.549333664372851e-06, + "loss": 0.1192, + "num_input_tokens_seen": 8615608, + "step": 4402 + }, + { + "epoch": 0.5835652750165673, + "grad_norm": 4.160447597503662, + "learning_rate": 4.549134823395039e-06, + "loss": 0.0099, + "num_input_tokens_seen": 8617088, + "step": 4403 + }, + { + "epoch": 0.5836978131212723, + "grad_norm": 2.0484983921051025, + "learning_rate": 4.548935942908494e-06, + "loss": 0.0098, + "num_input_tokens_seen": 8618808, + "step": 4404 + }, + { + "epoch": 0.5838303512259775, + "grad_norm": 19.578227996826172, + "learning_rate": 4.548737022917051e-06, + "loss": 0.7331, + "num_input_tokens_seen": 8620136, + "step": 4405 + }, + { + "epoch": 0.5839628893306825, + "grad_norm": 13.342570304870605, + "learning_rate": 4.548538063424546e-06, + "loss": 0.5457, + "num_input_tokens_seen": 8622456, + "step": 4406 + }, + { + "epoch": 0.5840954274353877, + "grad_norm": 5.851290702819824, + "learning_rate": 4.548339064434812e-06, + "loss": 0.0959, + "num_input_tokens_seen": 8624408, + "step": 4407 + }, + { + "epoch": 0.5842279655400928, + "grad_norm": 17.008792877197266, + "learning_rate": 4.548140025951689e-06, + "loss": 0.3667, + "num_input_tokens_seen": 8626032, + "step": 4408 + }, + { + "epoch": 0.5843605036447979, + "grad_norm": 0.07513957470655441, + "learning_rate": 4.547940947979013e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8627728, + "step": 4409 + }, + { + "epoch": 0.584493041749503, + "grad_norm": 5.069014549255371, + "learning_rate": 4.547741830520622e-06, + "loss": 0.0654, + "num_input_tokens_seen": 8629384, + "step": 4410 + }, + { + "epoch": 0.584625579854208, + "grad_norm": 18.559001922607422, + "learning_rate": 4.547542673580357e-06, + "loss": 0.2714, + "num_input_tokens_seen": 8630912, + "step": 4411 + }, + { + "epoch": 0.5847581179589132, + "grad_norm": 9.031882286071777, + "learning_rate": 4.547343477162056e-06, + "loss": 0.2967, + "num_input_tokens_seen": 8633400, + "step": 4412 + }, + { + "epoch": 0.5848906560636183, + "grad_norm": 7.995486736297607, + "learning_rate": 4.5471442412695605e-06, + "loss": 0.2286, + "num_input_tokens_seen": 8635624, + "step": 4413 + }, + { + "epoch": 0.5850231941683234, + "grad_norm": 3.0888314247131348, + "learning_rate": 4.546944965906712e-06, + "loss": 0.0513, + "num_input_tokens_seen": 8637912, + "step": 4414 + }, + { + "epoch": 0.5851557322730285, + "grad_norm": 9.285609245300293, + "learning_rate": 4.5467456510773525e-06, + "loss": 0.2707, + "num_input_tokens_seen": 8640008, + "step": 4415 + }, + { + "epoch": 0.5852882703777336, + "grad_norm": 10.080692291259766, + "learning_rate": 4.546546296785324e-06, + "loss": 0.2375, + "num_input_tokens_seen": 8641656, + "step": 4416 + }, + { + "epoch": 0.5854208084824387, + "grad_norm": 1.5417126417160034, + "learning_rate": 4.546346903034472e-06, + "loss": 0.058, + "num_input_tokens_seen": 8644032, + "step": 4417 + }, + { + "epoch": 0.5855533465871438, + "grad_norm": 0.24453695118427277, + "learning_rate": 4.54614746982864e-06, + "loss": 0.0016, + "num_input_tokens_seen": 8645680, + "step": 4418 + }, + { + "epoch": 0.5856858846918489, + "grad_norm": 0.48124921321868896, + "learning_rate": 4.545947997171673e-06, + "loss": 0.003, + "num_input_tokens_seen": 8647000, + "step": 4419 + }, + { + "epoch": 0.585818422796554, + "grad_norm": 5.7744879722595215, + "learning_rate": 4.545748485067417e-06, + "loss": 0.1108, + "num_input_tokens_seen": 8648512, + "step": 4420 + }, + { + "epoch": 0.5859509609012591, + "grad_norm": 8.144845008850098, + "learning_rate": 4.5455489335197185e-06, + "loss": 0.1027, + "num_input_tokens_seen": 8650936, + "step": 4421 + }, + { + "epoch": 0.5860834990059642, + "grad_norm": 1.0975395441055298, + "learning_rate": 4.545349342532425e-06, + "loss": 0.0051, + "num_input_tokens_seen": 8652440, + "step": 4422 + }, + { + "epoch": 0.5862160371106693, + "grad_norm": 0.21946904063224792, + "learning_rate": 4.5451497121093865e-06, + "loss": 0.0014, + "num_input_tokens_seen": 8654072, + "step": 4423 + }, + { + "epoch": 0.5863485752153744, + "grad_norm": 0.3981848657131195, + "learning_rate": 4.544950042254452e-06, + "loss": 0.0026, + "num_input_tokens_seen": 8655736, + "step": 4424 + }, + { + "epoch": 0.5864811133200796, + "grad_norm": 8.976275444030762, + "learning_rate": 4.544750332971467e-06, + "loss": 0.1844, + "num_input_tokens_seen": 8657624, + "step": 4425 + }, + { + "epoch": 0.5866136514247846, + "grad_norm": 11.50351619720459, + "learning_rate": 4.544550584264287e-06, + "loss": 0.2203, + "num_input_tokens_seen": 8660256, + "step": 4426 + }, + { + "epoch": 0.5867461895294898, + "grad_norm": 4.574235439300537, + "learning_rate": 4.54435079613676e-06, + "loss": 0.2324, + "num_input_tokens_seen": 8661944, + "step": 4427 + }, + { + "epoch": 0.5868787276341948, + "grad_norm": 3.243374824523926, + "learning_rate": 4.54415096859274e-06, + "loss": 0.0387, + "num_input_tokens_seen": 8665048, + "step": 4428 + }, + { + "epoch": 0.5870112657389, + "grad_norm": 9.473231315612793, + "learning_rate": 4.543951101636078e-06, + "loss": 0.3565, + "num_input_tokens_seen": 8667080, + "step": 4429 + }, + { + "epoch": 0.587143803843605, + "grad_norm": 1.1654329299926758, + "learning_rate": 4.54375119527063e-06, + "loss": 0.0066, + "num_input_tokens_seen": 8669736, + "step": 4430 + }, + { + "epoch": 0.5872763419483101, + "grad_norm": 7.744290351867676, + "learning_rate": 4.543551249500249e-06, + "loss": 0.095, + "num_input_tokens_seen": 8671632, + "step": 4431 + }, + { + "epoch": 0.5874088800530153, + "grad_norm": 7.371616363525391, + "learning_rate": 4.54335126432879e-06, + "loss": 0.3018, + "num_input_tokens_seen": 8673048, + "step": 4432 + }, + { + "epoch": 0.5875414181577203, + "grad_norm": 0.552163302898407, + "learning_rate": 4.5431512397601085e-06, + "loss": 0.0023, + "num_input_tokens_seen": 8674832, + "step": 4433 + }, + { + "epoch": 0.5876739562624255, + "grad_norm": 15.323720932006836, + "learning_rate": 4.542951175798062e-06, + "loss": 0.4853, + "num_input_tokens_seen": 8676504, + "step": 4434 + }, + { + "epoch": 0.5878064943671305, + "grad_norm": 0.031158868223428726, + "learning_rate": 4.542751072446507e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8679080, + "step": 4435 + }, + { + "epoch": 0.5879390324718357, + "grad_norm": 8.181913375854492, + "learning_rate": 4.5425509297093025e-06, + "loss": 0.1164, + "num_input_tokens_seen": 8680480, + "step": 4436 + }, + { + "epoch": 0.5880715705765408, + "grad_norm": 1.8267797231674194, + "learning_rate": 4.5423507475903075e-06, + "loss": 0.0271, + "num_input_tokens_seen": 8681728, + "step": 4437 + }, + { + "epoch": 0.5882041086812458, + "grad_norm": 9.63296127319336, + "learning_rate": 4.542150526093381e-06, + "loss": 0.2124, + "num_input_tokens_seen": 8682928, + "step": 4438 + }, + { + "epoch": 0.588336646785951, + "grad_norm": 0.08651191741228104, + "learning_rate": 4.541950265222383e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8684968, + "step": 4439 + }, + { + "epoch": 0.588469184890656, + "grad_norm": 14.389850616455078, + "learning_rate": 4.541749964981175e-06, + "loss": 0.3405, + "num_input_tokens_seen": 8687480, + "step": 4440 + }, + { + "epoch": 0.5886017229953612, + "grad_norm": 4.722055912017822, + "learning_rate": 4.541549625373619e-06, + "loss": 0.1108, + "num_input_tokens_seen": 8689704, + "step": 4441 + }, + { + "epoch": 0.5887342611000662, + "grad_norm": 10.62497329711914, + "learning_rate": 4.541349246403579e-06, + "loss": 0.0537, + "num_input_tokens_seen": 8692496, + "step": 4442 + }, + { + "epoch": 0.5888667992047714, + "grad_norm": 16.432832717895508, + "learning_rate": 4.541148828074916e-06, + "loss": 0.3868, + "num_input_tokens_seen": 8694720, + "step": 4443 + }, + { + "epoch": 0.5889993373094765, + "grad_norm": 3.7078092098236084, + "learning_rate": 4.540948370391497e-06, + "loss": 0.0538, + "num_input_tokens_seen": 8696128, + "step": 4444 + }, + { + "epoch": 0.5891318754141815, + "grad_norm": 4.969757556915283, + "learning_rate": 4.540747873357184e-06, + "loss": 0.1678, + "num_input_tokens_seen": 8697800, + "step": 4445 + }, + { + "epoch": 0.5892644135188867, + "grad_norm": 3.952193260192871, + "learning_rate": 4.540547336975844e-06, + "loss": 0.1317, + "num_input_tokens_seen": 8700176, + "step": 4446 + }, + { + "epoch": 0.5893969516235917, + "grad_norm": 0.025973495095968246, + "learning_rate": 4.540346761251345e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8702272, + "step": 4447 + }, + { + "epoch": 0.5895294897282969, + "grad_norm": 5.541677474975586, + "learning_rate": 4.540146146187552e-06, + "loss": 0.0322, + "num_input_tokens_seen": 8704536, + "step": 4448 + }, + { + "epoch": 0.589662027833002, + "grad_norm": 0.07036970555782318, + "learning_rate": 4.539945491788335e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8705872, + "step": 4449 + }, + { + "epoch": 0.5897945659377071, + "grad_norm": 3.2239980697631836, + "learning_rate": 4.53974479805756e-06, + "loss": 0.0613, + "num_input_tokens_seen": 8707560, + "step": 4450 + }, + { + "epoch": 0.5899271040424122, + "grad_norm": 0.02359906956553459, + "learning_rate": 4.539544064999099e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8709928, + "step": 4451 + }, + { + "epoch": 0.5900596421471173, + "grad_norm": 0.19118675589561462, + "learning_rate": 4.539343292616821e-06, + "loss": 0.001, + "num_input_tokens_seen": 8711480, + "step": 4452 + }, + { + "epoch": 0.5901921802518224, + "grad_norm": 5.0489091873168945, + "learning_rate": 4.539142480914598e-06, + "loss": 0.069, + "num_input_tokens_seen": 8714120, + "step": 4453 + }, + { + "epoch": 0.5903247183565276, + "grad_norm": 0.019733447581529617, + "learning_rate": 4.538941629896301e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8716048, + "step": 4454 + }, + { + "epoch": 0.5904572564612326, + "grad_norm": 0.05661563575267792, + "learning_rate": 4.538740739565803e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8717264, + "step": 4455 + }, + { + "epoch": 0.5905897945659377, + "grad_norm": 8.199716567993164, + "learning_rate": 4.5385398099269765e-06, + "loss": 0.1131, + "num_input_tokens_seen": 8718688, + "step": 4456 + }, + { + "epoch": 0.5907223326706428, + "grad_norm": 11.063639640808105, + "learning_rate": 4.538338840983697e-06, + "loss": 0.3495, + "num_input_tokens_seen": 8721072, + "step": 4457 + }, + { + "epoch": 0.5908548707753479, + "grad_norm": 14.782572746276855, + "learning_rate": 4.538137832739838e-06, + "loss": 0.2652, + "num_input_tokens_seen": 8724072, + "step": 4458 + }, + { + "epoch": 0.590987408880053, + "grad_norm": 0.017578277736902237, + "learning_rate": 4.537936785199275e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8727120, + "step": 4459 + }, + { + "epoch": 0.5911199469847581, + "grad_norm": 7.24366569519043, + "learning_rate": 4.5377356983658855e-06, + "loss": 0.1343, + "num_input_tokens_seen": 8728704, + "step": 4460 + }, + { + "epoch": 0.5912524850894633, + "grad_norm": 11.244036674499512, + "learning_rate": 4.537534572243546e-06, + "loss": 0.6403, + "num_input_tokens_seen": 8730872, + "step": 4461 + }, + { + "epoch": 0.5913850231941683, + "grad_norm": 2.816316604614258, + "learning_rate": 4.537333406836134e-06, + "loss": 0.0932, + "num_input_tokens_seen": 8732880, + "step": 4462 + }, + { + "epoch": 0.5915175612988735, + "grad_norm": 18.80072593688965, + "learning_rate": 4.537132202147529e-06, + "loss": 0.5628, + "num_input_tokens_seen": 8735424, + "step": 4463 + }, + { + "epoch": 0.5916500994035785, + "grad_norm": 0.037906862795352936, + "learning_rate": 4.536930958181609e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8737424, + "step": 4464 + }, + { + "epoch": 0.5917826375082836, + "grad_norm": 12.490594863891602, + "learning_rate": 4.5367296749422555e-06, + "loss": 0.3221, + "num_input_tokens_seen": 8738936, + "step": 4465 + }, + { + "epoch": 0.5919151756129888, + "grad_norm": 0.016223672777414322, + "learning_rate": 4.536528352433349e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8740320, + "step": 4466 + }, + { + "epoch": 0.5920477137176938, + "grad_norm": 7.457622528076172, + "learning_rate": 4.5363269906587705e-06, + "loss": 0.2888, + "num_input_tokens_seen": 8741840, + "step": 4467 + }, + { + "epoch": 0.592180251822399, + "grad_norm": 6.541828155517578, + "learning_rate": 4.536125589622402e-06, + "loss": 0.343, + "num_input_tokens_seen": 8743888, + "step": 4468 + }, + { + "epoch": 0.592312789927104, + "grad_norm": 10.480128288269043, + "learning_rate": 4.535924149328129e-06, + "loss": 0.4572, + "num_input_tokens_seen": 8745832, + "step": 4469 + }, + { + "epoch": 0.5924453280318092, + "grad_norm": 0.04811680316925049, + "learning_rate": 4.535722669779833e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8748208, + "step": 4470 + }, + { + "epoch": 0.5925778661365142, + "grad_norm": 4.689108371734619, + "learning_rate": 4.5355211509814e-06, + "loss": 0.2352, + "num_input_tokens_seen": 8750256, + "step": 4471 + }, + { + "epoch": 0.5927104042412193, + "grad_norm": 20.923831939697266, + "learning_rate": 4.535319592936715e-06, + "loss": 1.1591, + "num_input_tokens_seen": 8752504, + "step": 4472 + }, + { + "epoch": 0.5928429423459245, + "grad_norm": 6.1349263191223145, + "learning_rate": 4.535117995649663e-06, + "loss": 0.1117, + "num_input_tokens_seen": 8754600, + "step": 4473 + }, + { + "epoch": 0.5929754804506295, + "grad_norm": 18.565927505493164, + "learning_rate": 4.534916359124134e-06, + "loss": 0.5349, + "num_input_tokens_seen": 8755968, + "step": 4474 + }, + { + "epoch": 0.5931080185553347, + "grad_norm": 0.1351647824048996, + "learning_rate": 4.534714683364013e-06, + "loss": 0.0009, + "num_input_tokens_seen": 8757272, + "step": 4475 + }, + { + "epoch": 0.5932405566600397, + "grad_norm": 11.154069900512695, + "learning_rate": 4.534512968373189e-06, + "loss": 0.3176, + "num_input_tokens_seen": 8759288, + "step": 4476 + }, + { + "epoch": 0.5933730947647449, + "grad_norm": 5.009145259857178, + "learning_rate": 4.534311214155551e-06, + "loss": 0.0778, + "num_input_tokens_seen": 8761368, + "step": 4477 + }, + { + "epoch": 0.59350563286945, + "grad_norm": 0.1187877282500267, + "learning_rate": 4.534109420714991e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8762472, + "step": 4478 + }, + { + "epoch": 0.593638170974155, + "grad_norm": 36.71934127807617, + "learning_rate": 4.533907588055396e-06, + "loss": 0.2383, + "num_input_tokens_seen": 8765464, + "step": 4479 + }, + { + "epoch": 0.5937707090788602, + "grad_norm": 9.284875869750977, + "learning_rate": 4.5337057161806606e-06, + "loss": 0.3986, + "num_input_tokens_seen": 8767664, + "step": 4480 + }, + { + "epoch": 0.5939032471835652, + "grad_norm": 11.058073997497559, + "learning_rate": 4.533503805094676e-06, + "loss": 0.4033, + "num_input_tokens_seen": 8769880, + "step": 4481 + }, + { + "epoch": 0.5940357852882704, + "grad_norm": 12.482577323913574, + "learning_rate": 4.533301854801335e-06, + "loss": 0.2505, + "num_input_tokens_seen": 8771512, + "step": 4482 + }, + { + "epoch": 0.5941683233929754, + "grad_norm": 5.154951095581055, + "learning_rate": 4.533099865304533e-06, + "loss": 0.1267, + "num_input_tokens_seen": 8774640, + "step": 4483 + }, + { + "epoch": 0.5943008614976806, + "grad_norm": 10.228135108947754, + "learning_rate": 4.532897836608161e-06, + "loss": 0.3263, + "num_input_tokens_seen": 8776296, + "step": 4484 + }, + { + "epoch": 0.5944333996023857, + "grad_norm": 7.892743110656738, + "learning_rate": 4.532695768716117e-06, + "loss": 0.1586, + "num_input_tokens_seen": 8778192, + "step": 4485 + }, + { + "epoch": 0.5945659377070908, + "grad_norm": 4.75492525100708, + "learning_rate": 4.5324936616322965e-06, + "loss": 0.1479, + "num_input_tokens_seen": 8780176, + "step": 4486 + }, + { + "epoch": 0.5946984758117959, + "grad_norm": 0.5556977987289429, + "learning_rate": 4.532291515360596e-06, + "loss": 0.0038, + "num_input_tokens_seen": 8781976, + "step": 4487 + }, + { + "epoch": 0.594831013916501, + "grad_norm": 10.598833084106445, + "learning_rate": 4.532089329904913e-06, + "loss": 0.4334, + "num_input_tokens_seen": 8783344, + "step": 4488 + }, + { + "epoch": 0.5949635520212061, + "grad_norm": 7.626993179321289, + "learning_rate": 4.5318871052691455e-06, + "loss": 0.3437, + "num_input_tokens_seen": 8786920, + "step": 4489 + }, + { + "epoch": 0.5950960901259112, + "grad_norm": 6.43360710144043, + "learning_rate": 4.531684841457193e-06, + "loss": 0.151, + "num_input_tokens_seen": 8788864, + "step": 4490 + }, + { + "epoch": 0.5952286282306163, + "grad_norm": 22.759531021118164, + "learning_rate": 4.531482538472956e-06, + "loss": 0.5418, + "num_input_tokens_seen": 8791512, + "step": 4491 + }, + { + "epoch": 0.5953611663353214, + "grad_norm": 0.7809638977050781, + "learning_rate": 4.531280196320333e-06, + "loss": 0.0056, + "num_input_tokens_seen": 8793384, + "step": 4492 + }, + { + "epoch": 0.5954937044400265, + "grad_norm": 0.9846444725990295, + "learning_rate": 4.531077815003227e-06, + "loss": 0.0072, + "num_input_tokens_seen": 8794584, + "step": 4493 + }, + { + "epoch": 0.5956262425447316, + "grad_norm": 4.842322826385498, + "learning_rate": 4.5308753945255395e-06, + "loss": 0.1149, + "num_input_tokens_seen": 8797016, + "step": 4494 + }, + { + "epoch": 0.5957587806494367, + "grad_norm": 1.3778271675109863, + "learning_rate": 4.5306729348911735e-06, + "loss": 0.0097, + "num_input_tokens_seen": 8799024, + "step": 4495 + }, + { + "epoch": 0.5958913187541418, + "grad_norm": 0.6451683640480042, + "learning_rate": 4.530470436104033e-06, + "loss": 0.0047, + "num_input_tokens_seen": 8800184, + "step": 4496 + }, + { + "epoch": 0.596023856858847, + "grad_norm": 0.5446711182594299, + "learning_rate": 4.530267898168021e-06, + "loss": 0.0039, + "num_input_tokens_seen": 8802016, + "step": 4497 + }, + { + "epoch": 0.596156394963552, + "grad_norm": 7.1697797775268555, + "learning_rate": 4.5300653210870436e-06, + "loss": 0.1197, + "num_input_tokens_seen": 8804016, + "step": 4498 + }, + { + "epoch": 0.5962889330682571, + "grad_norm": 6.376197338104248, + "learning_rate": 4.529862704865006e-06, + "loss": 0.0903, + "num_input_tokens_seen": 8805752, + "step": 4499 + }, + { + "epoch": 0.5964214711729622, + "grad_norm": 10.263676643371582, + "learning_rate": 4.529660049505815e-06, + "loss": 0.604, + "num_input_tokens_seen": 8808208, + "step": 4500 + }, + { + "epoch": 0.5965540092776673, + "grad_norm": 0.5609136819839478, + "learning_rate": 4.529457355013379e-06, + "loss": 0.0027, + "num_input_tokens_seen": 8809904, + "step": 4501 + }, + { + "epoch": 0.5966865473823725, + "grad_norm": 0.05879468098282814, + "learning_rate": 4.529254621391604e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8811944, + "step": 4502 + }, + { + "epoch": 0.5968190854870775, + "grad_norm": 0.12315049022436142, + "learning_rate": 4.529051848644401e-06, + "loss": 0.0009, + "num_input_tokens_seen": 8813856, + "step": 4503 + }, + { + "epoch": 0.5969516235917827, + "grad_norm": 6.565806865692139, + "learning_rate": 4.528849036775677e-06, + "loss": 0.131, + "num_input_tokens_seen": 8816008, + "step": 4504 + }, + { + "epoch": 0.5970841616964877, + "grad_norm": 8.05581283569336, + "learning_rate": 4.528646185789346e-06, + "loss": 0.1606, + "num_input_tokens_seen": 8817888, + "step": 4505 + }, + { + "epoch": 0.5972166998011929, + "grad_norm": 7.169454097747803, + "learning_rate": 4.528443295689317e-06, + "loss": 0.2224, + "num_input_tokens_seen": 8820128, + "step": 4506 + }, + { + "epoch": 0.597349237905898, + "grad_norm": 7.315868377685547, + "learning_rate": 4.5282403664795005e-06, + "loss": 0.313, + "num_input_tokens_seen": 8822536, + "step": 4507 + }, + { + "epoch": 0.597481776010603, + "grad_norm": 4.2231974601745605, + "learning_rate": 4.52803739816381e-06, + "loss": 0.0968, + "num_input_tokens_seen": 8825240, + "step": 4508 + }, + { + "epoch": 0.5976143141153082, + "grad_norm": 0.021635306999087334, + "learning_rate": 4.527834390746161e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8827992, + "step": 4509 + }, + { + "epoch": 0.5977468522200132, + "grad_norm": 10.768719673156738, + "learning_rate": 4.527631344230466e-06, + "loss": 0.302, + "num_input_tokens_seen": 8829688, + "step": 4510 + }, + { + "epoch": 0.5978793903247184, + "grad_norm": 0.04123631492257118, + "learning_rate": 4.527428258620639e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8832256, + "step": 4511 + }, + { + "epoch": 0.5980119284294234, + "grad_norm": 10.023737907409668, + "learning_rate": 4.527225133920596e-06, + "loss": 0.1675, + "num_input_tokens_seen": 8833904, + "step": 4512 + }, + { + "epoch": 0.5981444665341286, + "grad_norm": 13.836169242858887, + "learning_rate": 4.5270219701342555e-06, + "loss": 0.6522, + "num_input_tokens_seen": 8835416, + "step": 4513 + }, + { + "epoch": 0.5982770046388337, + "grad_norm": 8.968985557556152, + "learning_rate": 4.5268187672655326e-06, + "loss": 0.4208, + "num_input_tokens_seen": 8837408, + "step": 4514 + }, + { + "epoch": 0.5984095427435387, + "grad_norm": 18.943763732910156, + "learning_rate": 4.526615525318345e-06, + "loss": 0.582, + "num_input_tokens_seen": 8839072, + "step": 4515 + }, + { + "epoch": 0.5985420808482439, + "grad_norm": 25.836790084838867, + "learning_rate": 4.526412244296613e-06, + "loss": 0.6857, + "num_input_tokens_seen": 8841808, + "step": 4516 + }, + { + "epoch": 0.5986746189529489, + "grad_norm": 14.204140663146973, + "learning_rate": 4.526208924204254e-06, + "loss": 0.2076, + "num_input_tokens_seen": 8843472, + "step": 4517 + }, + { + "epoch": 0.5988071570576541, + "grad_norm": 0.07145500928163528, + "learning_rate": 4.526005565045189e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8845472, + "step": 4518 + }, + { + "epoch": 0.5989396951623592, + "grad_norm": 10.216188430786133, + "learning_rate": 4.52580216682334e-06, + "loss": 0.3633, + "num_input_tokens_seen": 8847200, + "step": 4519 + }, + { + "epoch": 0.5990722332670643, + "grad_norm": 0.04807635769248009, + "learning_rate": 4.5255987295426265e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8849120, + "step": 4520 + }, + { + "epoch": 0.5992047713717694, + "grad_norm": 0.016722597181797028, + "learning_rate": 4.525395253206974e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8850944, + "step": 4521 + }, + { + "epoch": 0.5993373094764745, + "grad_norm": 7.352213382720947, + "learning_rate": 4.525191737820302e-06, + "loss": 0.2549, + "num_input_tokens_seen": 8853400, + "step": 4522 + }, + { + "epoch": 0.5994698475811796, + "grad_norm": 15.775116920471191, + "learning_rate": 4.524988183386536e-06, + "loss": 0.4617, + "num_input_tokens_seen": 8855240, + "step": 4523 + }, + { + "epoch": 0.5996023856858846, + "grad_norm": 0.0293857641518116, + "learning_rate": 4.524784589909602e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8857008, + "step": 4524 + }, + { + "epoch": 0.5997349237905898, + "grad_norm": 0.024235641583800316, + "learning_rate": 4.524580957393424e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8859904, + "step": 4525 + }, + { + "epoch": 0.5998674618952949, + "grad_norm": 11.712533950805664, + "learning_rate": 4.524377285841929e-06, + "loss": 0.2427, + "num_input_tokens_seen": 8861664, + "step": 4526 + }, + { + "epoch": 0.6, + "grad_norm": 0.02020755037665367, + "learning_rate": 4.524173575259042e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8863568, + "step": 4527 + }, + { + "epoch": 0.6001325381047051, + "grad_norm": 0.07037772238254547, + "learning_rate": 4.523969825648692e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8865656, + "step": 4528 + }, + { + "epoch": 0.6002650762094102, + "grad_norm": 0.01822470687329769, + "learning_rate": 4.523766037014809e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8866960, + "step": 4529 + }, + { + "epoch": 0.6003976143141153, + "grad_norm": 6.157485485076904, + "learning_rate": 4.5235622093613195e-06, + "loss": 0.0622, + "num_input_tokens_seen": 8868400, + "step": 4530 + }, + { + "epoch": 0.6005301524188205, + "grad_norm": 8.748900413513184, + "learning_rate": 4.523358342692156e-06, + "loss": 0.3731, + "num_input_tokens_seen": 8870480, + "step": 4531 + }, + { + "epoch": 0.6006626905235255, + "grad_norm": 8.124286651611328, + "learning_rate": 4.523154437011247e-06, + "loss": 0.1777, + "num_input_tokens_seen": 8872776, + "step": 4532 + }, + { + "epoch": 0.6007952286282306, + "grad_norm": 4.451871395111084, + "learning_rate": 4.522950492322524e-06, + "loss": 0.0731, + "num_input_tokens_seen": 8874416, + "step": 4533 + }, + { + "epoch": 0.6009277667329357, + "grad_norm": 7.3767619132995605, + "learning_rate": 4.52274650862992e-06, + "loss": 0.1955, + "num_input_tokens_seen": 8876696, + "step": 4534 + }, + { + "epoch": 0.6010603048376408, + "grad_norm": 0.07187385857105255, + "learning_rate": 4.522542485937369e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8877792, + "step": 4535 + }, + { + "epoch": 0.6011928429423459, + "grad_norm": 5.0182952880859375, + "learning_rate": 4.5223384242488036e-06, + "loss": 0.0838, + "num_input_tokens_seen": 8879240, + "step": 4536 + }, + { + "epoch": 0.601325381047051, + "grad_norm": 14.679693222045898, + "learning_rate": 4.522134323568157e-06, + "loss": 0.5397, + "num_input_tokens_seen": 8881304, + "step": 4537 + }, + { + "epoch": 0.6014579191517562, + "grad_norm": 5.694046497344971, + "learning_rate": 4.521930183899367e-06, + "loss": 0.1809, + "num_input_tokens_seen": 8883568, + "step": 4538 + }, + { + "epoch": 0.6015904572564612, + "grad_norm": 6.009949207305908, + "learning_rate": 4.521726005246367e-06, + "loss": 0.1011, + "num_input_tokens_seen": 8885168, + "step": 4539 + }, + { + "epoch": 0.6017229953611664, + "grad_norm": 6.791545391082764, + "learning_rate": 4.521521787613095e-06, + "loss": 0.2922, + "num_input_tokens_seen": 8887360, + "step": 4540 + }, + { + "epoch": 0.6018555334658714, + "grad_norm": 8.365147590637207, + "learning_rate": 4.521317531003489e-06, + "loss": 0.3158, + "num_input_tokens_seen": 8889592, + "step": 4541 + }, + { + "epoch": 0.6019880715705765, + "grad_norm": 0.9974453449249268, + "learning_rate": 4.521113235421487e-06, + "loss": 0.0037, + "num_input_tokens_seen": 8891600, + "step": 4542 + }, + { + "epoch": 0.6021206096752817, + "grad_norm": 0.3686714172363281, + "learning_rate": 4.520908900871026e-06, + "loss": 0.0023, + "num_input_tokens_seen": 8893024, + "step": 4543 + }, + { + "epoch": 0.6022531477799867, + "grad_norm": 7.982909202575684, + "learning_rate": 4.520704527356049e-06, + "loss": 0.2266, + "num_input_tokens_seen": 8894960, + "step": 4544 + }, + { + "epoch": 0.6023856858846919, + "grad_norm": 3.595158338546753, + "learning_rate": 4.520500114880494e-06, + "loss": 0.0648, + "num_input_tokens_seen": 8897016, + "step": 4545 + }, + { + "epoch": 0.6025182239893969, + "grad_norm": 7.6053595542907715, + "learning_rate": 4.520295663448302e-06, + "loss": 0.3825, + "num_input_tokens_seen": 8899176, + "step": 4546 + }, + { + "epoch": 0.6026507620941021, + "grad_norm": 3.278895139694214, + "learning_rate": 4.520091173063417e-06, + "loss": 0.1652, + "num_input_tokens_seen": 8900552, + "step": 4547 + }, + { + "epoch": 0.6027833001988071, + "grad_norm": 8.445926666259766, + "learning_rate": 4.51988664372978e-06, + "loss": 0.2359, + "num_input_tokens_seen": 8902752, + "step": 4548 + }, + { + "epoch": 0.6029158383035123, + "grad_norm": 11.667129516601562, + "learning_rate": 4.519682075451335e-06, + "loss": 0.3455, + "num_input_tokens_seen": 8904544, + "step": 4549 + }, + { + "epoch": 0.6030483764082174, + "grad_norm": 7.595519542694092, + "learning_rate": 4.5194774682320266e-06, + "loss": 0.1127, + "num_input_tokens_seen": 8906816, + "step": 4550 + }, + { + "epoch": 0.6031809145129224, + "grad_norm": 7.491942405700684, + "learning_rate": 4.5192728220758e-06, + "loss": 0.1301, + "num_input_tokens_seen": 8909136, + "step": 4551 + }, + { + "epoch": 0.6033134526176276, + "grad_norm": 0.23396670818328857, + "learning_rate": 4.5190681369865995e-06, + "loss": 0.0011, + "num_input_tokens_seen": 8911320, + "step": 4552 + }, + { + "epoch": 0.6034459907223326, + "grad_norm": 4.209238529205322, + "learning_rate": 4.518863412968373e-06, + "loss": 0.0349, + "num_input_tokens_seen": 8912736, + "step": 4553 + }, + { + "epoch": 0.6035785288270378, + "grad_norm": 6.982316493988037, + "learning_rate": 4.518658650025066e-06, + "loss": 0.2646, + "num_input_tokens_seen": 8913896, + "step": 4554 + }, + { + "epoch": 0.6037110669317429, + "grad_norm": 10.744330406188965, + "learning_rate": 4.518453848160629e-06, + "loss": 0.3957, + "num_input_tokens_seen": 8915752, + "step": 4555 + }, + { + "epoch": 0.603843605036448, + "grad_norm": 0.09913662821054459, + "learning_rate": 4.518249007379009e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8918944, + "step": 4556 + }, + { + "epoch": 0.6039761431411531, + "grad_norm": 11.746828079223633, + "learning_rate": 4.5180441276841556e-06, + "loss": 0.4279, + "num_input_tokens_seen": 8920432, + "step": 4557 + }, + { + "epoch": 0.6041086812458581, + "grad_norm": 5.90751314163208, + "learning_rate": 4.51783920908002e-06, + "loss": 0.1511, + "num_input_tokens_seen": 8921856, + "step": 4558 + }, + { + "epoch": 0.6042412193505633, + "grad_norm": 0.10062120109796524, + "learning_rate": 4.517634251570551e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8923072, + "step": 4559 + }, + { + "epoch": 0.6043737574552683, + "grad_norm": 6.651098251342773, + "learning_rate": 4.517429255159702e-06, + "loss": 0.2661, + "num_input_tokens_seen": 8925184, + "step": 4560 + }, + { + "epoch": 0.6045062955599735, + "grad_norm": 14.558205604553223, + "learning_rate": 4.517224219851426e-06, + "loss": 0.3519, + "num_input_tokens_seen": 8927152, + "step": 4561 + }, + { + "epoch": 0.6046388336646786, + "grad_norm": 9.759568214416504, + "learning_rate": 4.517019145649675e-06, + "loss": 0.4091, + "num_input_tokens_seen": 8929168, + "step": 4562 + }, + { + "epoch": 0.6047713717693837, + "grad_norm": 12.05634593963623, + "learning_rate": 4.516814032558404e-06, + "loss": 0.4341, + "num_input_tokens_seen": 8930848, + "step": 4563 + }, + { + "epoch": 0.6049039098740888, + "grad_norm": 18.662532806396484, + "learning_rate": 4.516608880581566e-06, + "loss": 0.4086, + "num_input_tokens_seen": 8932944, + "step": 4564 + }, + { + "epoch": 0.6050364479787939, + "grad_norm": 0.2509464621543884, + "learning_rate": 4.516403689723118e-06, + "loss": 0.0018, + "num_input_tokens_seen": 8934608, + "step": 4565 + }, + { + "epoch": 0.605168986083499, + "grad_norm": 11.71917724609375, + "learning_rate": 4.516198459987016e-06, + "loss": 0.3193, + "num_input_tokens_seen": 8936632, + "step": 4566 + }, + { + "epoch": 0.6053015241882042, + "grad_norm": 10.383745193481445, + "learning_rate": 4.515993191377217e-06, + "loss": 0.3079, + "num_input_tokens_seen": 8939072, + "step": 4567 + }, + { + "epoch": 0.6054340622929092, + "grad_norm": 0.43665623664855957, + "learning_rate": 4.515787883897679e-06, + "loss": 0.003, + "num_input_tokens_seen": 8940216, + "step": 4568 + }, + { + "epoch": 0.6055666003976143, + "grad_norm": 5.400319576263428, + "learning_rate": 4.515582537552359e-06, + "loss": 0.0571, + "num_input_tokens_seen": 8943520, + "step": 4569 + }, + { + "epoch": 0.6056991385023194, + "grad_norm": 9.727317810058594, + "learning_rate": 4.515377152345217e-06, + "loss": 0.1748, + "num_input_tokens_seen": 8945680, + "step": 4570 + }, + { + "epoch": 0.6058316766070245, + "grad_norm": 7.340142250061035, + "learning_rate": 4.515171728280214e-06, + "loss": 0.3424, + "num_input_tokens_seen": 8947920, + "step": 4571 + }, + { + "epoch": 0.6059642147117297, + "grad_norm": 2.4260149002075195, + "learning_rate": 4.514966265361309e-06, + "loss": 0.0258, + "num_input_tokens_seen": 8949368, + "step": 4572 + }, + { + "epoch": 0.6060967528164347, + "grad_norm": 4.754249572753906, + "learning_rate": 4.514760763592465e-06, + "loss": 0.0486, + "num_input_tokens_seen": 8951776, + "step": 4573 + }, + { + "epoch": 0.6062292909211399, + "grad_norm": 10.615996360778809, + "learning_rate": 4.514555222977643e-06, + "loss": 0.3899, + "num_input_tokens_seen": 8953488, + "step": 4574 + }, + { + "epoch": 0.6063618290258449, + "grad_norm": 17.5757999420166, + "learning_rate": 4.514349643520807e-06, + "loss": 0.5614, + "num_input_tokens_seen": 8955952, + "step": 4575 + }, + { + "epoch": 0.60649436713055, + "grad_norm": 11.869431495666504, + "learning_rate": 4.514144025225921e-06, + "loss": 0.464, + "num_input_tokens_seen": 8958344, + "step": 4576 + }, + { + "epoch": 0.6066269052352551, + "grad_norm": 7.819013595581055, + "learning_rate": 4.5139383680969475e-06, + "loss": 0.183, + "num_input_tokens_seen": 8960696, + "step": 4577 + }, + { + "epoch": 0.6067594433399602, + "grad_norm": 6.039429664611816, + "learning_rate": 4.513732672137854e-06, + "loss": 0.0695, + "num_input_tokens_seen": 8961944, + "step": 4578 + }, + { + "epoch": 0.6068919814446654, + "grad_norm": 6.966115951538086, + "learning_rate": 4.513526937352604e-06, + "loss": 0.2923, + "num_input_tokens_seen": 8964208, + "step": 4579 + }, + { + "epoch": 0.6070245195493704, + "grad_norm": 6.5732011795043945, + "learning_rate": 4.5133211637451665e-06, + "loss": 0.1039, + "num_input_tokens_seen": 8966616, + "step": 4580 + }, + { + "epoch": 0.6071570576540756, + "grad_norm": 0.7121011018753052, + "learning_rate": 4.513115351319508e-06, + "loss": 0.0052, + "num_input_tokens_seen": 8968776, + "step": 4581 + }, + { + "epoch": 0.6072895957587806, + "grad_norm": 14.751883506774902, + "learning_rate": 4.512909500079596e-06, + "loss": 0.4606, + "num_input_tokens_seen": 8971584, + "step": 4582 + }, + { + "epoch": 0.6074221338634858, + "grad_norm": 34.59712219238281, + "learning_rate": 4.5127036100294015e-06, + "loss": 0.3538, + "num_input_tokens_seen": 8973280, + "step": 4583 + }, + { + "epoch": 0.6075546719681909, + "grad_norm": 1.0584779977798462, + "learning_rate": 4.512497681172892e-06, + "loss": 0.0074, + "num_input_tokens_seen": 8975152, + "step": 4584 + }, + { + "epoch": 0.607687210072896, + "grad_norm": 20.662830352783203, + "learning_rate": 4.51229171351404e-06, + "loss": 0.2321, + "num_input_tokens_seen": 8977360, + "step": 4585 + }, + { + "epoch": 0.6078197481776011, + "grad_norm": 8.430717468261719, + "learning_rate": 4.512085707056813e-06, + "loss": 0.2758, + "num_input_tokens_seen": 8979096, + "step": 4586 + }, + { + "epoch": 0.6079522862823061, + "grad_norm": 0.2120072841644287, + "learning_rate": 4.511879661805188e-06, + "loss": 0.0015, + "num_input_tokens_seen": 8980808, + "step": 4587 + }, + { + "epoch": 0.6080848243870113, + "grad_norm": 9.471118927001953, + "learning_rate": 4.511673577763134e-06, + "loss": 0.4393, + "num_input_tokens_seen": 8982432, + "step": 4588 + }, + { + "epoch": 0.6082173624917163, + "grad_norm": 12.794418334960938, + "learning_rate": 4.511467454934626e-06, + "loss": 0.4066, + "num_input_tokens_seen": 8983584, + "step": 4589 + }, + { + "epoch": 0.6083499005964215, + "grad_norm": 14.948718070983887, + "learning_rate": 4.511261293323637e-06, + "loss": 0.3341, + "num_input_tokens_seen": 8985544, + "step": 4590 + }, + { + "epoch": 0.6084824387011266, + "grad_norm": 14.16418170928955, + "learning_rate": 4.511055092934144e-06, + "loss": 0.2328, + "num_input_tokens_seen": 8987360, + "step": 4591 + }, + { + "epoch": 0.6086149768058317, + "grad_norm": 11.421998977661133, + "learning_rate": 4.510848853770122e-06, + "loss": 0.2661, + "num_input_tokens_seen": 8988944, + "step": 4592 + }, + { + "epoch": 0.6087475149105368, + "grad_norm": 11.948812484741211, + "learning_rate": 4.510642575835545e-06, + "loss": 0.4508, + "num_input_tokens_seen": 8990792, + "step": 4593 + }, + { + "epoch": 0.6088800530152418, + "grad_norm": 0.09583049267530441, + "learning_rate": 4.510436259134394e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8991808, + "step": 4594 + }, + { + "epoch": 0.609012591119947, + "grad_norm": 1.7254836559295654, + "learning_rate": 4.510229903670643e-06, + "loss": 0.0102, + "num_input_tokens_seen": 8993784, + "step": 4595 + }, + { + "epoch": 0.6091451292246521, + "grad_norm": 9.337934494018555, + "learning_rate": 4.510023509448273e-06, + "loss": 0.2054, + "num_input_tokens_seen": 8995760, + "step": 4596 + }, + { + "epoch": 0.6092776673293572, + "grad_norm": 15.228385925292969, + "learning_rate": 4.509817076471265e-06, + "loss": 0.6889, + "num_input_tokens_seen": 8997864, + "step": 4597 + }, + { + "epoch": 0.6094102054340623, + "grad_norm": 12.639373779296875, + "learning_rate": 4.509610604743596e-06, + "loss": 0.367, + "num_input_tokens_seen": 8999664, + "step": 4598 + }, + { + "epoch": 0.6095427435387674, + "grad_norm": 12.03857421875, + "learning_rate": 4.509404094269248e-06, + "loss": 0.3081, + "num_input_tokens_seen": 9001928, + "step": 4599 + }, + { + "epoch": 0.6096752816434725, + "grad_norm": 3.5542972087860107, + "learning_rate": 4.509197545052203e-06, + "loss": 0.0285, + "num_input_tokens_seen": 9003808, + "step": 4600 + }, + { + "epoch": 0.6098078197481775, + "grad_norm": 0.13124549388885498, + "learning_rate": 4.508990957096443e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9005184, + "step": 4601 + }, + { + "epoch": 0.6099403578528827, + "grad_norm": 3.2197208404541016, + "learning_rate": 4.508784330405952e-06, + "loss": 0.0284, + "num_input_tokens_seen": 9006552, + "step": 4602 + }, + { + "epoch": 0.6100728959575878, + "grad_norm": 1.1755419969558716, + "learning_rate": 4.508577664984713e-06, + "loss": 0.0048, + "num_input_tokens_seen": 9008816, + "step": 4603 + }, + { + "epoch": 0.6102054340622929, + "grad_norm": 0.0717979297041893, + "learning_rate": 4.508370960836711e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9009864, + "step": 4604 + }, + { + "epoch": 0.610337972166998, + "grad_norm": 15.239445686340332, + "learning_rate": 4.508164217965931e-06, + "loss": 0.3906, + "num_input_tokens_seen": 9011568, + "step": 4605 + }, + { + "epoch": 0.6104705102717031, + "grad_norm": 12.738359451293945, + "learning_rate": 4.50795743637636e-06, + "loss": 0.4596, + "num_input_tokens_seen": 9013928, + "step": 4606 + }, + { + "epoch": 0.6106030483764082, + "grad_norm": 10.088764190673828, + "learning_rate": 4.507750616071984e-06, + "loss": 0.2146, + "num_input_tokens_seen": 9015048, + "step": 4607 + }, + { + "epoch": 0.6107355864811134, + "grad_norm": 0.1670483946800232, + "learning_rate": 4.507543757056792e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9017656, + "step": 4608 + }, + { + "epoch": 0.6108681245858184, + "grad_norm": 12.729340553283691, + "learning_rate": 4.50733685933477e-06, + "loss": 0.2315, + "num_input_tokens_seen": 9019296, + "step": 4609 + }, + { + "epoch": 0.6110006626905236, + "grad_norm": 0.15931633114814758, + "learning_rate": 4.507129922909909e-06, + "loss": 0.0011, + "num_input_tokens_seen": 9020536, + "step": 4610 + }, + { + "epoch": 0.6111332007952286, + "grad_norm": 7.022318363189697, + "learning_rate": 4.506922947786199e-06, + "loss": 0.3223, + "num_input_tokens_seen": 9021912, + "step": 4611 + }, + { + "epoch": 0.6112657388999337, + "grad_norm": 1.6859134435653687, + "learning_rate": 4.506715933967631e-06, + "loss": 0.0127, + "num_input_tokens_seen": 9023864, + "step": 4612 + }, + { + "epoch": 0.6113982770046388, + "grad_norm": 0.11855582147836685, + "learning_rate": 4.5065088814581935e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9024984, + "step": 4613 + }, + { + "epoch": 0.6115308151093439, + "grad_norm": 10.458747863769531, + "learning_rate": 4.506301790261881e-06, + "loss": 0.3945, + "num_input_tokens_seen": 9027080, + "step": 4614 + }, + { + "epoch": 0.6116633532140491, + "grad_norm": 5.482684135437012, + "learning_rate": 4.5060946603826866e-06, + "loss": 0.1763, + "num_input_tokens_seen": 9029760, + "step": 4615 + }, + { + "epoch": 0.6117958913187541, + "grad_norm": 7.692590236663818, + "learning_rate": 4.5058874918246035e-06, + "loss": 0.2638, + "num_input_tokens_seen": 9031400, + "step": 4616 + }, + { + "epoch": 0.6119284294234593, + "grad_norm": 9.06706714630127, + "learning_rate": 4.5056802845916245e-06, + "loss": 0.1305, + "num_input_tokens_seen": 9034216, + "step": 4617 + }, + { + "epoch": 0.6120609675281643, + "grad_norm": 4.921189785003662, + "learning_rate": 4.505473038687747e-06, + "loss": 0.1956, + "num_input_tokens_seen": 9036536, + "step": 4618 + }, + { + "epoch": 0.6121935056328695, + "grad_norm": 0.14490513503551483, + "learning_rate": 4.505265754116965e-06, + "loss": 0.001, + "num_input_tokens_seen": 9038688, + "step": 4619 + }, + { + "epoch": 0.6123260437375746, + "grad_norm": 9.038633346557617, + "learning_rate": 4.505058430883275e-06, + "loss": 0.2481, + "num_input_tokens_seen": 9040088, + "step": 4620 + }, + { + "epoch": 0.6124585818422796, + "grad_norm": 9.133187294006348, + "learning_rate": 4.504851068990678e-06, + "loss": 0.2461, + "num_input_tokens_seen": 9041848, + "step": 4621 + }, + { + "epoch": 0.6125911199469848, + "grad_norm": 1.131885290145874, + "learning_rate": 4.504643668443167e-06, + "loss": 0.008, + "num_input_tokens_seen": 9044344, + "step": 4622 + }, + { + "epoch": 0.6127236580516898, + "grad_norm": 8.648845672607422, + "learning_rate": 4.504436229244744e-06, + "loss": 0.2392, + "num_input_tokens_seen": 9046808, + "step": 4623 + }, + { + "epoch": 0.612856196156395, + "grad_norm": 8.154289245605469, + "learning_rate": 4.504228751399408e-06, + "loss": 0.1539, + "num_input_tokens_seen": 9048408, + "step": 4624 + }, + { + "epoch": 0.6129887342611001, + "grad_norm": 0.12523721158504486, + "learning_rate": 4.5040212349111586e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9049880, + "step": 4625 + }, + { + "epoch": 0.6131212723658052, + "grad_norm": 0.35211700201034546, + "learning_rate": 4.503813679783997e-06, + "loss": 0.0025, + "num_input_tokens_seen": 9052352, + "step": 4626 + }, + { + "epoch": 0.6132538104705103, + "grad_norm": 7.847185134887695, + "learning_rate": 4.503606086021925e-06, + "loss": 0.113, + "num_input_tokens_seen": 9054200, + "step": 4627 + }, + { + "epoch": 0.6133863485752153, + "grad_norm": 0.22652332484722137, + "learning_rate": 4.5033984536289475e-06, + "loss": 0.0017, + "num_input_tokens_seen": 9056184, + "step": 4628 + }, + { + "epoch": 0.6135188866799205, + "grad_norm": 23.547622680664062, + "learning_rate": 4.5031907826090634e-06, + "loss": 0.7299, + "num_input_tokens_seen": 9057960, + "step": 4629 + }, + { + "epoch": 0.6136514247846255, + "grad_norm": 9.33605670928955, + "learning_rate": 4.50298307296628e-06, + "loss": 0.3337, + "num_input_tokens_seen": 9060576, + "step": 4630 + }, + { + "epoch": 0.6137839628893307, + "grad_norm": 9.735233306884766, + "learning_rate": 4.502775324704601e-06, + "loss": 0.1273, + "num_input_tokens_seen": 9062152, + "step": 4631 + }, + { + "epoch": 0.6139165009940358, + "grad_norm": 16.75956916809082, + "learning_rate": 4.502567537828033e-06, + "loss": 0.4844, + "num_input_tokens_seen": 9063888, + "step": 4632 + }, + { + "epoch": 0.6140490390987409, + "grad_norm": 0.08369563519954681, + "learning_rate": 4.502359712340581e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9066032, + "step": 4633 + }, + { + "epoch": 0.614181577203446, + "grad_norm": 3.727271795272827, + "learning_rate": 4.502151848246252e-06, + "loss": 0.0293, + "num_input_tokens_seen": 9068296, + "step": 4634 + }, + { + "epoch": 0.614314115308151, + "grad_norm": 19.521671295166016, + "learning_rate": 4.501943945549054e-06, + "loss": 0.7203, + "num_input_tokens_seen": 9070856, + "step": 4635 + }, + { + "epoch": 0.6144466534128562, + "grad_norm": 7.795699119567871, + "learning_rate": 4.501736004252995e-06, + "loss": 0.2465, + "num_input_tokens_seen": 9072112, + "step": 4636 + }, + { + "epoch": 0.6145791915175614, + "grad_norm": 14.626348495483398, + "learning_rate": 4.501528024362086e-06, + "loss": 0.7532, + "num_input_tokens_seen": 9074160, + "step": 4637 + }, + { + "epoch": 0.6147117296222664, + "grad_norm": 17.480411529541016, + "learning_rate": 4.501320005880337e-06, + "loss": 0.3319, + "num_input_tokens_seen": 9076224, + "step": 4638 + }, + { + "epoch": 0.6148442677269715, + "grad_norm": 0.7760393023490906, + "learning_rate": 4.501111948811755e-06, + "loss": 0.0054, + "num_input_tokens_seen": 9077504, + "step": 4639 + }, + { + "epoch": 0.6149768058316766, + "grad_norm": 8.23949909210205, + "learning_rate": 4.500903853160356e-06, + "loss": 0.1324, + "num_input_tokens_seen": 9079064, + "step": 4640 + }, + { + "epoch": 0.6151093439363817, + "grad_norm": 7.4478960037231445, + "learning_rate": 4.50069571893015e-06, + "loss": 0.3362, + "num_input_tokens_seen": 9080992, + "step": 4641 + }, + { + "epoch": 0.6152418820410868, + "grad_norm": 0.12939141690731049, + "learning_rate": 4.50048754612515e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9082480, + "step": 4642 + }, + { + "epoch": 0.6153744201457919, + "grad_norm": 4.620145320892334, + "learning_rate": 4.50027933474937e-06, + "loss": 0.2403, + "num_input_tokens_seen": 9085328, + "step": 4643 + }, + { + "epoch": 0.6155069582504971, + "grad_norm": 0.10231047868728638, + "learning_rate": 4.500071084806824e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9086480, + "step": 4644 + }, + { + "epoch": 0.6156394963552021, + "grad_norm": 14.9724702835083, + "learning_rate": 4.499862796301529e-06, + "loss": 0.2381, + "num_input_tokens_seen": 9088568, + "step": 4645 + }, + { + "epoch": 0.6157720344599072, + "grad_norm": 0.11861508339643478, + "learning_rate": 4.4996544692375e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9091232, + "step": 4646 + }, + { + "epoch": 0.6159045725646123, + "grad_norm": 0.21257458627223969, + "learning_rate": 4.499446103618752e-06, + "loss": 0.0015, + "num_input_tokens_seen": 9092344, + "step": 4647 + }, + { + "epoch": 0.6160371106693174, + "grad_norm": 10.051376342773438, + "learning_rate": 4.499237699449304e-06, + "loss": 0.309, + "num_input_tokens_seen": 9094752, + "step": 4648 + }, + { + "epoch": 0.6161696487740226, + "grad_norm": 3.0165855884552, + "learning_rate": 4.499029256733174e-06, + "loss": 0.0623, + "num_input_tokens_seen": 9096048, + "step": 4649 + }, + { + "epoch": 0.6163021868787276, + "grad_norm": 10.058028221130371, + "learning_rate": 4.4988207754743805e-06, + "loss": 0.4459, + "num_input_tokens_seen": 9098368, + "step": 4650 + }, + { + "epoch": 0.6164347249834328, + "grad_norm": 14.995697975158691, + "learning_rate": 4.498612255676944e-06, + "loss": 0.6362, + "num_input_tokens_seen": 9100104, + "step": 4651 + }, + { + "epoch": 0.6165672630881378, + "grad_norm": 10.024073600769043, + "learning_rate": 4.498403697344885e-06, + "loss": 0.3696, + "num_input_tokens_seen": 9102664, + "step": 4652 + }, + { + "epoch": 0.616699801192843, + "grad_norm": 2.230666399002075, + "learning_rate": 4.4981951004822235e-06, + "loss": 0.0492, + "num_input_tokens_seen": 9103816, + "step": 4653 + }, + { + "epoch": 0.616832339297548, + "grad_norm": 13.140382766723633, + "learning_rate": 4.497986465092982e-06, + "loss": 0.525, + "num_input_tokens_seen": 9105800, + "step": 4654 + }, + { + "epoch": 0.6169648774022531, + "grad_norm": 13.978934288024902, + "learning_rate": 4.497777791181183e-06, + "loss": 0.3803, + "num_input_tokens_seen": 9108296, + "step": 4655 + }, + { + "epoch": 0.6170974155069583, + "grad_norm": 8.822529792785645, + "learning_rate": 4.4975690787508504e-06, + "loss": 0.3266, + "num_input_tokens_seen": 9109512, + "step": 4656 + }, + { + "epoch": 0.6172299536116633, + "grad_norm": 3.7693190574645996, + "learning_rate": 4.497360327806007e-06, + "loss": 0.1337, + "num_input_tokens_seen": 9110984, + "step": 4657 + }, + { + "epoch": 0.6173624917163685, + "grad_norm": 0.3466157019138336, + "learning_rate": 4.497151538350679e-06, + "loss": 0.0025, + "num_input_tokens_seen": 9112592, + "step": 4658 + }, + { + "epoch": 0.6174950298210735, + "grad_norm": 2.6810734272003174, + "learning_rate": 4.4969427103888925e-06, + "loss": 0.021, + "num_input_tokens_seen": 9114360, + "step": 4659 + }, + { + "epoch": 0.6176275679257787, + "grad_norm": 26.58724594116211, + "learning_rate": 4.4967338439246725e-06, + "loss": 0.6333, + "num_input_tokens_seen": 9117104, + "step": 4660 + }, + { + "epoch": 0.6177601060304838, + "grad_norm": 1.0373183488845825, + "learning_rate": 4.496524938962046e-06, + "loss": 0.0072, + "num_input_tokens_seen": 9118536, + "step": 4661 + }, + { + "epoch": 0.6178926441351889, + "grad_norm": 13.612814903259277, + "learning_rate": 4.496315995505042e-06, + "loss": 0.2523, + "num_input_tokens_seen": 9121296, + "step": 4662 + }, + { + "epoch": 0.618025182239894, + "grad_norm": 16.107580184936523, + "learning_rate": 4.496107013557687e-06, + "loss": 0.5627, + "num_input_tokens_seen": 9123352, + "step": 4663 + }, + { + "epoch": 0.618157720344599, + "grad_norm": 4.370780944824219, + "learning_rate": 4.4958979931240135e-06, + "loss": 0.1225, + "num_input_tokens_seen": 9126016, + "step": 4664 + }, + { + "epoch": 0.6182902584493042, + "grad_norm": 8.912665367126465, + "learning_rate": 4.495688934208049e-06, + "loss": 0.2641, + "num_input_tokens_seen": 9128240, + "step": 4665 + }, + { + "epoch": 0.6184227965540092, + "grad_norm": 10.929624557495117, + "learning_rate": 4.495479836813825e-06, + "loss": 0.3224, + "num_input_tokens_seen": 9130128, + "step": 4666 + }, + { + "epoch": 0.6185553346587144, + "grad_norm": 0.5185471773147583, + "learning_rate": 4.495270700945373e-06, + "loss": 0.0038, + "num_input_tokens_seen": 9131744, + "step": 4667 + }, + { + "epoch": 0.6186878727634195, + "grad_norm": 2.056727647781372, + "learning_rate": 4.495061526606725e-06, + "loss": 0.0142, + "num_input_tokens_seen": 9133344, + "step": 4668 + }, + { + "epoch": 0.6188204108681246, + "grad_norm": 6.010608673095703, + "learning_rate": 4.494852313801916e-06, + "loss": 0.0611, + "num_input_tokens_seen": 9134944, + "step": 4669 + }, + { + "epoch": 0.6189529489728297, + "grad_norm": 0.33955755829811096, + "learning_rate": 4.4946430625349765e-06, + "loss": 0.0024, + "num_input_tokens_seen": 9135952, + "step": 4670 + }, + { + "epoch": 0.6190854870775347, + "grad_norm": 2.5804831981658936, + "learning_rate": 4.494433772809944e-06, + "loss": 0.0757, + "num_input_tokens_seen": 9138184, + "step": 4671 + }, + { + "epoch": 0.6192180251822399, + "grad_norm": 0.4750082790851593, + "learning_rate": 4.494224444630852e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9139976, + "step": 4672 + }, + { + "epoch": 0.619350563286945, + "grad_norm": 0.6756501197814941, + "learning_rate": 4.494015078001737e-06, + "loss": 0.0035, + "num_input_tokens_seen": 9141576, + "step": 4673 + }, + { + "epoch": 0.6194831013916501, + "grad_norm": 11.099910736083984, + "learning_rate": 4.493805672926636e-06, + "loss": 0.3121, + "num_input_tokens_seen": 9143832, + "step": 4674 + }, + { + "epoch": 0.6196156394963552, + "grad_norm": 14.962285041809082, + "learning_rate": 4.4935962294095856e-06, + "loss": 0.717, + "num_input_tokens_seen": 9146200, + "step": 4675 + }, + { + "epoch": 0.6197481776010603, + "grad_norm": 0.07355666905641556, + "learning_rate": 4.493386747454624e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9147720, + "step": 4676 + }, + { + "epoch": 0.6198807157057654, + "grad_norm": 11.331989288330078, + "learning_rate": 4.4931772270657925e-06, + "loss": 0.1293, + "num_input_tokens_seen": 9150272, + "step": 4677 + }, + { + "epoch": 0.6200132538104705, + "grad_norm": 9.6017484664917, + "learning_rate": 4.492967668247128e-06, + "loss": 0.3661, + "num_input_tokens_seen": 9152872, + "step": 4678 + }, + { + "epoch": 0.6201457919151756, + "grad_norm": 16.255386352539062, + "learning_rate": 4.492758071002672e-06, + "loss": 0.3591, + "num_input_tokens_seen": 9154104, + "step": 4679 + }, + { + "epoch": 0.6202783300198808, + "grad_norm": 13.214810371398926, + "learning_rate": 4.4925484353364654e-06, + "loss": 0.6361, + "num_input_tokens_seen": 9156224, + "step": 4680 + }, + { + "epoch": 0.6204108681245858, + "grad_norm": 1.5089373588562012, + "learning_rate": 4.492338761252551e-06, + "loss": 0.0171, + "num_input_tokens_seen": 9157512, + "step": 4681 + }, + { + "epoch": 0.6205434062292909, + "grad_norm": 10.229904174804688, + "learning_rate": 4.492129048754971e-06, + "loss": 0.4306, + "num_input_tokens_seen": 9159392, + "step": 4682 + }, + { + "epoch": 0.620675944333996, + "grad_norm": 0.1794777810573578, + "learning_rate": 4.4919192978477675e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9162344, + "step": 4683 + }, + { + "epoch": 0.6208084824387011, + "grad_norm": 8.99548625946045, + "learning_rate": 4.491709508534987e-06, + "loss": 0.1933, + "num_input_tokens_seen": 9165552, + "step": 4684 + }, + { + "epoch": 0.6209410205434063, + "grad_norm": 4.505803108215332, + "learning_rate": 4.491499680820672e-06, + "loss": 0.0846, + "num_input_tokens_seen": 9167560, + "step": 4685 + }, + { + "epoch": 0.6210735586481113, + "grad_norm": 4.874803066253662, + "learning_rate": 4.49128981470887e-06, + "loss": 0.1084, + "num_input_tokens_seen": 9169160, + "step": 4686 + }, + { + "epoch": 0.6212060967528165, + "grad_norm": 4.848454475402832, + "learning_rate": 4.491079910203627e-06, + "loss": 0.227, + "num_input_tokens_seen": 9171248, + "step": 4687 + }, + { + "epoch": 0.6213386348575215, + "grad_norm": 6.063534259796143, + "learning_rate": 4.49086996730899e-06, + "loss": 0.1123, + "num_input_tokens_seen": 9173312, + "step": 4688 + }, + { + "epoch": 0.6214711729622266, + "grad_norm": 9.427091598510742, + "learning_rate": 4.490659986029005e-06, + "loss": 0.0885, + "num_input_tokens_seen": 9175872, + "step": 4689 + }, + { + "epoch": 0.6216037110669318, + "grad_norm": 13.28331470489502, + "learning_rate": 4.490449966367724e-06, + "loss": 0.1892, + "num_input_tokens_seen": 9177536, + "step": 4690 + }, + { + "epoch": 0.6217362491716368, + "grad_norm": 3.939404249191284, + "learning_rate": 4.490239908329193e-06, + "loss": 0.0915, + "num_input_tokens_seen": 9179024, + "step": 4691 + }, + { + "epoch": 0.621868787276342, + "grad_norm": 12.433578491210938, + "learning_rate": 4.490029811917465e-06, + "loss": 0.3202, + "num_input_tokens_seen": 9180600, + "step": 4692 + }, + { + "epoch": 0.622001325381047, + "grad_norm": 12.812872886657715, + "learning_rate": 4.489819677136587e-06, + "loss": 0.2954, + "num_input_tokens_seen": 9182512, + "step": 4693 + }, + { + "epoch": 0.6221338634857522, + "grad_norm": 0.3575594425201416, + "learning_rate": 4.489609503990615e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9183576, + "step": 4694 + }, + { + "epoch": 0.6222664015904572, + "grad_norm": 8.992940902709961, + "learning_rate": 4.489399292483599e-06, + "loss": 0.3486, + "num_input_tokens_seen": 9185464, + "step": 4695 + }, + { + "epoch": 0.6223989396951624, + "grad_norm": 10.612434387207031, + "learning_rate": 4.489189042619592e-06, + "loss": 0.1858, + "num_input_tokens_seen": 9187336, + "step": 4696 + }, + { + "epoch": 0.6225314777998675, + "grad_norm": 5.957917213439941, + "learning_rate": 4.488978754402648e-06, + "loss": 0.1281, + "num_input_tokens_seen": 9189568, + "step": 4697 + }, + { + "epoch": 0.6226640159045725, + "grad_norm": 15.949165344238281, + "learning_rate": 4.488768427836821e-06, + "loss": 1.0414, + "num_input_tokens_seen": 9192304, + "step": 4698 + }, + { + "epoch": 0.6227965540092777, + "grad_norm": 0.714363157749176, + "learning_rate": 4.488558062926167e-06, + "loss": 0.0047, + "num_input_tokens_seen": 9195248, + "step": 4699 + }, + { + "epoch": 0.6229290921139827, + "grad_norm": 4.676016330718994, + "learning_rate": 4.488347659674742e-06, + "loss": 0.1134, + "num_input_tokens_seen": 9196888, + "step": 4700 + }, + { + "epoch": 0.6230616302186879, + "grad_norm": 8.10399341583252, + "learning_rate": 4.488137218086602e-06, + "loss": 0.1283, + "num_input_tokens_seen": 9198784, + "step": 4701 + }, + { + "epoch": 0.623194168323393, + "grad_norm": 18.103416442871094, + "learning_rate": 4.487926738165805e-06, + "loss": 0.4921, + "num_input_tokens_seen": 9200536, + "step": 4702 + }, + { + "epoch": 0.6233267064280981, + "grad_norm": 4.6310858726501465, + "learning_rate": 4.48771621991641e-06, + "loss": 0.061, + "num_input_tokens_seen": 9201952, + "step": 4703 + }, + { + "epoch": 0.6234592445328032, + "grad_norm": 0.174373060464859, + "learning_rate": 4.487505663342474e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9205240, + "step": 4704 + }, + { + "epoch": 0.6235917826375083, + "grad_norm": 0.4662921130657196, + "learning_rate": 4.487295068448057e-06, + "loss": 0.0025, + "num_input_tokens_seen": 9206600, + "step": 4705 + }, + { + "epoch": 0.6237243207422134, + "grad_norm": 2.202655792236328, + "learning_rate": 4.487084435237222e-06, + "loss": 0.0561, + "num_input_tokens_seen": 9208184, + "step": 4706 + }, + { + "epoch": 0.6238568588469184, + "grad_norm": 7.26932430267334, + "learning_rate": 4.486873763714028e-06, + "loss": 0.1977, + "num_input_tokens_seen": 9210136, + "step": 4707 + }, + { + "epoch": 0.6239893969516236, + "grad_norm": 10.733011245727539, + "learning_rate": 4.486663053882536e-06, + "loss": 0.1926, + "num_input_tokens_seen": 9211392, + "step": 4708 + }, + { + "epoch": 0.6241219350563287, + "grad_norm": 14.1680908203125, + "learning_rate": 4.48645230574681e-06, + "loss": 0.2926, + "num_input_tokens_seen": 9213688, + "step": 4709 + }, + { + "epoch": 0.6242544731610338, + "grad_norm": 12.292638778686523, + "learning_rate": 4.4862415193109135e-06, + "loss": 0.1858, + "num_input_tokens_seen": 9215984, + "step": 4710 + }, + { + "epoch": 0.6243870112657389, + "grad_norm": 0.7757108807563782, + "learning_rate": 4.48603069457891e-06, + "loss": 0.0048, + "num_input_tokens_seen": 9217648, + "step": 4711 + }, + { + "epoch": 0.624519549370444, + "grad_norm": 5.925593376159668, + "learning_rate": 4.485819831554865e-06, + "loss": 0.1952, + "num_input_tokens_seen": 9220024, + "step": 4712 + }, + { + "epoch": 0.6246520874751491, + "grad_norm": 15.597627639770508, + "learning_rate": 4.485608930242844e-06, + "loss": 0.643, + "num_input_tokens_seen": 9222656, + "step": 4713 + }, + { + "epoch": 0.6247846255798543, + "grad_norm": 11.462278366088867, + "learning_rate": 4.485397990646912e-06, + "loss": 0.2415, + "num_input_tokens_seen": 9224288, + "step": 4714 + }, + { + "epoch": 0.6249171636845593, + "grad_norm": 9.234786033630371, + "learning_rate": 4.4851870127711385e-06, + "loss": 0.1598, + "num_input_tokens_seen": 9226040, + "step": 4715 + }, + { + "epoch": 0.6250497017892644, + "grad_norm": 0.14623677730560303, + "learning_rate": 4.4849759966195885e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9227856, + "step": 4716 + }, + { + "epoch": 0.6251822398939695, + "grad_norm": 15.587583541870117, + "learning_rate": 4.484764942196332e-06, + "loss": 0.491, + "num_input_tokens_seen": 9229856, + "step": 4717 + }, + { + "epoch": 0.6253147779986746, + "grad_norm": 4.736959934234619, + "learning_rate": 4.48455384950544e-06, + "loss": 0.1619, + "num_input_tokens_seen": 9231400, + "step": 4718 + }, + { + "epoch": 0.6254473161033797, + "grad_norm": 6.97900390625, + "learning_rate": 4.4843427185509786e-06, + "loss": 0.1963, + "num_input_tokens_seen": 9234672, + "step": 4719 + }, + { + "epoch": 0.6255798542080848, + "grad_norm": 6.921455383300781, + "learning_rate": 4.484131549337022e-06, + "loss": 0.3091, + "num_input_tokens_seen": 9236456, + "step": 4720 + }, + { + "epoch": 0.62571239231279, + "grad_norm": 7.441236972808838, + "learning_rate": 4.483920341867639e-06, + "loss": 0.287, + "num_input_tokens_seen": 9238352, + "step": 4721 + }, + { + "epoch": 0.625844930417495, + "grad_norm": 11.993032455444336, + "learning_rate": 4.483709096146904e-06, + "loss": 0.2502, + "num_input_tokens_seen": 9240728, + "step": 4722 + }, + { + "epoch": 0.6259774685222002, + "grad_norm": 10.66808032989502, + "learning_rate": 4.48349781217889e-06, + "loss": 0.4643, + "num_input_tokens_seen": 9242936, + "step": 4723 + }, + { + "epoch": 0.6261100066269052, + "grad_norm": 4.909586429595947, + "learning_rate": 4.483286489967669e-06, + "loss": 0.077, + "num_input_tokens_seen": 9245000, + "step": 4724 + }, + { + "epoch": 0.6262425447316103, + "grad_norm": 3.0337061882019043, + "learning_rate": 4.483075129517315e-06, + "loss": 0.0338, + "num_input_tokens_seen": 9246624, + "step": 4725 + }, + { + "epoch": 0.6263750828363155, + "grad_norm": 11.160965919494629, + "learning_rate": 4.482863730831906e-06, + "loss": 0.3363, + "num_input_tokens_seen": 9248256, + "step": 4726 + }, + { + "epoch": 0.6265076209410205, + "grad_norm": 6.9632439613342285, + "learning_rate": 4.482652293915516e-06, + "loss": 0.1224, + "num_input_tokens_seen": 9250808, + "step": 4727 + }, + { + "epoch": 0.6266401590457257, + "grad_norm": 9.692371368408203, + "learning_rate": 4.482440818772222e-06, + "loss": 0.3217, + "num_input_tokens_seen": 9252448, + "step": 4728 + }, + { + "epoch": 0.6267726971504307, + "grad_norm": 15.692598342895508, + "learning_rate": 4.482229305406101e-06, + "loss": 0.5902, + "num_input_tokens_seen": 9255096, + "step": 4729 + }, + { + "epoch": 0.6269052352551359, + "grad_norm": 0.28097230195999146, + "learning_rate": 4.482017753821233e-06, + "loss": 0.0016, + "num_input_tokens_seen": 9256976, + "step": 4730 + }, + { + "epoch": 0.6270377733598409, + "grad_norm": 11.245853424072266, + "learning_rate": 4.481806164021693e-06, + "loss": 0.2608, + "num_input_tokens_seen": 9258592, + "step": 4731 + }, + { + "epoch": 0.627170311464546, + "grad_norm": 14.31205940246582, + "learning_rate": 4.4815945360115655e-06, + "loss": 0.4802, + "num_input_tokens_seen": 9260616, + "step": 4732 + }, + { + "epoch": 0.6273028495692512, + "grad_norm": 3.7629506587982178, + "learning_rate": 4.481382869794927e-06, + "loss": 0.1381, + "num_input_tokens_seen": 9262520, + "step": 4733 + }, + { + "epoch": 0.6274353876739562, + "grad_norm": 0.11953546106815338, + "learning_rate": 4.48117116537586e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9263896, + "step": 4734 + }, + { + "epoch": 0.6275679257786614, + "grad_norm": 6.599833011627197, + "learning_rate": 4.480959422758446e-06, + "loss": 0.1279, + "num_input_tokens_seen": 9266504, + "step": 4735 + }, + { + "epoch": 0.6277004638833664, + "grad_norm": 0.339495986700058, + "learning_rate": 4.480747641946767e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9268152, + "step": 4736 + }, + { + "epoch": 0.6278330019880716, + "grad_norm": 4.102339744567871, + "learning_rate": 4.4805358229449096e-06, + "loss": 0.0515, + "num_input_tokens_seen": 9270400, + "step": 4737 + }, + { + "epoch": 0.6279655400927767, + "grad_norm": 0.10254357755184174, + "learning_rate": 4.480323965756953e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9272128, + "step": 4738 + }, + { + "epoch": 0.6280980781974818, + "grad_norm": 11.284097671508789, + "learning_rate": 4.480112070386985e-06, + "loss": 0.2533, + "num_input_tokens_seen": 9273944, + "step": 4739 + }, + { + "epoch": 0.6282306163021869, + "grad_norm": 9.663166046142578, + "learning_rate": 4.479900136839089e-06, + "loss": 0.2506, + "num_input_tokens_seen": 9275792, + "step": 4740 + }, + { + "epoch": 0.6283631544068919, + "grad_norm": 15.408649444580078, + "learning_rate": 4.479688165117354e-06, + "loss": 0.3845, + "num_input_tokens_seen": 9278304, + "step": 4741 + }, + { + "epoch": 0.6284956925115971, + "grad_norm": 4.305943965911865, + "learning_rate": 4.479476155225866e-06, + "loss": 0.0798, + "num_input_tokens_seen": 9279472, + "step": 4742 + }, + { + "epoch": 0.6286282306163022, + "grad_norm": 0.09096726775169373, + "learning_rate": 4.47926410716871e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9281720, + "step": 4743 + }, + { + "epoch": 0.6287607687210073, + "grad_norm": 4.696253299713135, + "learning_rate": 4.479052020949978e-06, + "loss": 0.0515, + "num_input_tokens_seen": 9283864, + "step": 4744 + }, + { + "epoch": 0.6288933068257124, + "grad_norm": 9.44750690460205, + "learning_rate": 4.478839896573758e-06, + "loss": 0.0617, + "num_input_tokens_seen": 9285592, + "step": 4745 + }, + { + "epoch": 0.6290258449304175, + "grad_norm": 7.358789920806885, + "learning_rate": 4.478627734044139e-06, + "loss": 0.1826, + "num_input_tokens_seen": 9287640, + "step": 4746 + }, + { + "epoch": 0.6291583830351226, + "grad_norm": 12.37944221496582, + "learning_rate": 4.478415533365212e-06, + "loss": 0.2451, + "num_input_tokens_seen": 9289976, + "step": 4747 + }, + { + "epoch": 0.6292909211398277, + "grad_norm": 4.406274795532227, + "learning_rate": 4.4782032945410694e-06, + "loss": 0.1359, + "num_input_tokens_seen": 9291624, + "step": 4748 + }, + { + "epoch": 0.6294234592445328, + "grad_norm": 5.894015789031982, + "learning_rate": 4.477991017575802e-06, + "loss": 0.0871, + "num_input_tokens_seen": 9293136, + "step": 4749 + }, + { + "epoch": 0.629555997349238, + "grad_norm": 13.213053703308105, + "learning_rate": 4.477778702473504e-06, + "loss": 0.283, + "num_input_tokens_seen": 9295712, + "step": 4750 + }, + { + "epoch": 0.629688535453943, + "grad_norm": 14.832886695861816, + "learning_rate": 4.477566349238268e-06, + "loss": 0.8326, + "num_input_tokens_seen": 9298696, + "step": 4751 + }, + { + "epoch": 0.6298210735586481, + "grad_norm": 9.77347469329834, + "learning_rate": 4.477353957874188e-06, + "loss": 0.1554, + "num_input_tokens_seen": 9300616, + "step": 4752 + }, + { + "epoch": 0.6299536116633532, + "grad_norm": 11.360574722290039, + "learning_rate": 4.47714152838536e-06, + "loss": 0.2502, + "num_input_tokens_seen": 9302496, + "step": 4753 + }, + { + "epoch": 0.6300861497680583, + "grad_norm": 4.4659647941589355, + "learning_rate": 4.476929060775879e-06, + "loss": 0.1487, + "num_input_tokens_seen": 9305104, + "step": 4754 + }, + { + "epoch": 0.6302186878727635, + "grad_norm": 40.28339385986328, + "learning_rate": 4.476716555049843e-06, + "loss": 0.2617, + "num_input_tokens_seen": 9307184, + "step": 4755 + }, + { + "epoch": 0.6303512259774685, + "grad_norm": 8.567086219787598, + "learning_rate": 4.476504011211347e-06, + "loss": 0.1876, + "num_input_tokens_seen": 9309072, + "step": 4756 + }, + { + "epoch": 0.6304837640821737, + "grad_norm": 5.161421775817871, + "learning_rate": 4.47629142926449e-06, + "loss": 0.0208, + "num_input_tokens_seen": 9310864, + "step": 4757 + }, + { + "epoch": 0.6306163021868787, + "grad_norm": 5.451211929321289, + "learning_rate": 4.476078809213371e-06, + "loss": 0.0766, + "num_input_tokens_seen": 9313392, + "step": 4758 + }, + { + "epoch": 0.6307488402915838, + "grad_norm": 28.7636775970459, + "learning_rate": 4.47586615106209e-06, + "loss": 0.8131, + "num_input_tokens_seen": 9315280, + "step": 4759 + }, + { + "epoch": 0.6308813783962889, + "grad_norm": 8.143635749816895, + "learning_rate": 4.475653454814746e-06, + "loss": 0.1577, + "num_input_tokens_seen": 9317800, + "step": 4760 + }, + { + "epoch": 0.631013916500994, + "grad_norm": 0.39525511860847473, + "learning_rate": 4.475440720475441e-06, + "loss": 0.0028, + "num_input_tokens_seen": 9319472, + "step": 4761 + }, + { + "epoch": 0.6311464546056992, + "grad_norm": 4.914936542510986, + "learning_rate": 4.475227948048276e-06, + "loss": 0.1786, + "num_input_tokens_seen": 9321520, + "step": 4762 + }, + { + "epoch": 0.6312789927104042, + "grad_norm": 0.8538804054260254, + "learning_rate": 4.475015137537353e-06, + "loss": 0.0062, + "num_input_tokens_seen": 9323792, + "step": 4763 + }, + { + "epoch": 0.6314115308151094, + "grad_norm": 7.3070969581604, + "learning_rate": 4.474802288946776e-06, + "loss": 0.1408, + "num_input_tokens_seen": 9325552, + "step": 4764 + }, + { + "epoch": 0.6315440689198144, + "grad_norm": 0.39548006653785706, + "learning_rate": 4.474589402280649e-06, + "loss": 0.0026, + "num_input_tokens_seen": 9327208, + "step": 4765 + }, + { + "epoch": 0.6316766070245196, + "grad_norm": 19.981210708618164, + "learning_rate": 4.474376477543075e-06, + "loss": 0.5314, + "num_input_tokens_seen": 9329072, + "step": 4766 + }, + { + "epoch": 0.6318091451292247, + "grad_norm": 10.657853126525879, + "learning_rate": 4.474163514738161e-06, + "loss": 0.5323, + "num_input_tokens_seen": 9331056, + "step": 4767 + }, + { + "epoch": 0.6319416832339297, + "grad_norm": 7.317267417907715, + "learning_rate": 4.473950513870013e-06, + "loss": 0.1049, + "num_input_tokens_seen": 9332672, + "step": 4768 + }, + { + "epoch": 0.6320742213386349, + "grad_norm": 6.87615966796875, + "learning_rate": 4.473737474942736e-06, + "loss": 0.0881, + "num_input_tokens_seen": 9334776, + "step": 4769 + }, + { + "epoch": 0.6322067594433399, + "grad_norm": 6.279460430145264, + "learning_rate": 4.47352439796044e-06, + "loss": 0.2506, + "num_input_tokens_seen": 9337032, + "step": 4770 + }, + { + "epoch": 0.6323392975480451, + "grad_norm": 3.7162981033325195, + "learning_rate": 4.473311282927233e-06, + "loss": 0.0446, + "num_input_tokens_seen": 9338288, + "step": 4771 + }, + { + "epoch": 0.6324718356527501, + "grad_norm": 12.533162117004395, + "learning_rate": 4.473098129847222e-06, + "loss": 0.4662, + "num_input_tokens_seen": 9340944, + "step": 4772 + }, + { + "epoch": 0.6326043737574553, + "grad_norm": 3.261996269226074, + "learning_rate": 4.4728849387245174e-06, + "loss": 0.0265, + "num_input_tokens_seen": 9343072, + "step": 4773 + }, + { + "epoch": 0.6327369118621604, + "grad_norm": 15.451162338256836, + "learning_rate": 4.472671709563231e-06, + "loss": 0.5624, + "num_input_tokens_seen": 9345392, + "step": 4774 + }, + { + "epoch": 0.6328694499668654, + "grad_norm": 0.059484872967004776, + "learning_rate": 4.472458442367473e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9347688, + "step": 4775 + }, + { + "epoch": 0.6330019880715706, + "grad_norm": 5.385174751281738, + "learning_rate": 4.472245137141355e-06, + "loss": 0.1769, + "num_input_tokens_seen": 9350256, + "step": 4776 + }, + { + "epoch": 0.6331345261762756, + "grad_norm": 12.318608283996582, + "learning_rate": 4.472031793888991e-06, + "loss": 0.3522, + "num_input_tokens_seen": 9352808, + "step": 4777 + }, + { + "epoch": 0.6332670642809808, + "grad_norm": 0.06902060657739639, + "learning_rate": 4.471818412614492e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9354296, + "step": 4778 + }, + { + "epoch": 0.6333996023856859, + "grad_norm": 3.1061789989471436, + "learning_rate": 4.471604993321975e-06, + "loss": 0.0461, + "num_input_tokens_seen": 9355944, + "step": 4779 + }, + { + "epoch": 0.633532140490391, + "grad_norm": 0.0948604866862297, + "learning_rate": 4.471391536015554e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9357336, + "step": 4780 + }, + { + "epoch": 0.6336646785950961, + "grad_norm": 0.05408541485667229, + "learning_rate": 4.471178040699343e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9358976, + "step": 4781 + }, + { + "epoch": 0.6337972166998012, + "grad_norm": 0.09396762400865555, + "learning_rate": 4.470964507377461e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9361392, + "step": 4782 + }, + { + "epoch": 0.6339297548045063, + "grad_norm": 0.05462309718132019, + "learning_rate": 4.4707509360540224e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9362632, + "step": 4783 + }, + { + "epoch": 0.6340622929092113, + "grad_norm": 4.9388017654418945, + "learning_rate": 4.470537326733147e-06, + "loss": 0.0931, + "num_input_tokens_seen": 9365192, + "step": 4784 + }, + { + "epoch": 0.6341948310139165, + "grad_norm": 6.067946434020996, + "learning_rate": 4.470323679418952e-06, + "loss": 0.1887, + "num_input_tokens_seen": 9366632, + "step": 4785 + }, + { + "epoch": 0.6343273691186216, + "grad_norm": 0.05308328568935394, + "learning_rate": 4.4701099941155576e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9368240, + "step": 4786 + }, + { + "epoch": 0.6344599072233267, + "grad_norm": 7.645464897155762, + "learning_rate": 4.469896270827083e-06, + "loss": 0.2742, + "num_input_tokens_seen": 9370840, + "step": 4787 + }, + { + "epoch": 0.6345924453280318, + "grad_norm": 6.440088748931885, + "learning_rate": 4.469682509557649e-06, + "loss": 0.1394, + "num_input_tokens_seen": 9373144, + "step": 4788 + }, + { + "epoch": 0.6347249834327369, + "grad_norm": 11.439305305480957, + "learning_rate": 4.469468710311378e-06, + "loss": 0.3313, + "num_input_tokens_seen": 9375048, + "step": 4789 + }, + { + "epoch": 0.634857521537442, + "grad_norm": 0.0310747642070055, + "learning_rate": 4.469254873092392e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9377648, + "step": 4790 + }, + { + "epoch": 0.6349900596421472, + "grad_norm": 5.411471843719482, + "learning_rate": 4.469040997904813e-06, + "loss": 0.1519, + "num_input_tokens_seen": 9379352, + "step": 4791 + }, + { + "epoch": 0.6351225977468522, + "grad_norm": 0.04134681448340416, + "learning_rate": 4.468827084752765e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9380552, + "step": 4792 + }, + { + "epoch": 0.6352551358515574, + "grad_norm": 15.2728271484375, + "learning_rate": 4.468613133640373e-06, + "loss": 0.4077, + "num_input_tokens_seen": 9382176, + "step": 4793 + }, + { + "epoch": 0.6353876739562624, + "grad_norm": 23.983142852783203, + "learning_rate": 4.468399144571761e-06, + "loss": 0.4982, + "num_input_tokens_seen": 9384000, + "step": 4794 + }, + { + "epoch": 0.6355202120609675, + "grad_norm": 13.765985488891602, + "learning_rate": 4.468185117551056e-06, + "loss": 0.5123, + "num_input_tokens_seen": 9386832, + "step": 4795 + }, + { + "epoch": 0.6356527501656726, + "grad_norm": 5.54903507232666, + "learning_rate": 4.467971052582384e-06, + "loss": 0.1848, + "num_input_tokens_seen": 9389208, + "step": 4796 + }, + { + "epoch": 0.6357852882703777, + "grad_norm": 5.594756603240967, + "learning_rate": 4.467756949669873e-06, + "loss": 0.2428, + "num_input_tokens_seen": 9391456, + "step": 4797 + }, + { + "epoch": 0.6359178263750829, + "grad_norm": 10.289932250976562, + "learning_rate": 4.46754280881765e-06, + "loss": 0.3626, + "num_input_tokens_seen": 9393488, + "step": 4798 + }, + { + "epoch": 0.6360503644797879, + "grad_norm": 8.716151237487793, + "learning_rate": 4.467328630029845e-06, + "loss": 0.2365, + "num_input_tokens_seen": 9395216, + "step": 4799 + }, + { + "epoch": 0.6361829025844931, + "grad_norm": 9.418380737304688, + "learning_rate": 4.467114413310586e-06, + "loss": 0.1986, + "num_input_tokens_seen": 9397504, + "step": 4800 + }, + { + "epoch": 0.6363154406891981, + "grad_norm": 10.990334510803223, + "learning_rate": 4.466900158664005e-06, + "loss": 0.3999, + "num_input_tokens_seen": 9400944, + "step": 4801 + }, + { + "epoch": 0.6364479787939032, + "grad_norm": 0.5313312411308289, + "learning_rate": 4.46668586609423e-06, + "loss": 0.0089, + "num_input_tokens_seen": 9402968, + "step": 4802 + }, + { + "epoch": 0.6365805168986084, + "grad_norm": 29.295711517333984, + "learning_rate": 4.466471535605397e-06, + "loss": 0.5898, + "num_input_tokens_seen": 9404832, + "step": 4803 + }, + { + "epoch": 0.6367130550033134, + "grad_norm": 8.569259643554688, + "learning_rate": 4.466257167201635e-06, + "loss": 0.2356, + "num_input_tokens_seen": 9407184, + "step": 4804 + }, + { + "epoch": 0.6368455931080186, + "grad_norm": 0.7735918164253235, + "learning_rate": 4.466042760887079e-06, + "loss": 0.0049, + "num_input_tokens_seen": 9408672, + "step": 4805 + }, + { + "epoch": 0.6369781312127236, + "grad_norm": 11.682205200195312, + "learning_rate": 4.465828316665861e-06, + "loss": 0.2697, + "num_input_tokens_seen": 9410400, + "step": 4806 + }, + { + "epoch": 0.6371106693174288, + "grad_norm": 6.96370792388916, + "learning_rate": 4.465613834542118e-06, + "loss": 0.1502, + "num_input_tokens_seen": 9411992, + "step": 4807 + }, + { + "epoch": 0.6372432074221339, + "grad_norm": 8.249862670898438, + "learning_rate": 4.4653993145199845e-06, + "loss": 0.2517, + "num_input_tokens_seen": 9414024, + "step": 4808 + }, + { + "epoch": 0.637375745526839, + "grad_norm": 0.2477010190486908, + "learning_rate": 4.465184756603597e-06, + "loss": 0.0018, + "num_input_tokens_seen": 9415672, + "step": 4809 + }, + { + "epoch": 0.6375082836315441, + "grad_norm": 0.4310399293899536, + "learning_rate": 4.46497016079709e-06, + "loss": 0.0031, + "num_input_tokens_seen": 9417808, + "step": 4810 + }, + { + "epoch": 0.6376408217362491, + "grad_norm": 24.789512634277344, + "learning_rate": 4.464755527104604e-06, + "loss": 1.0219, + "num_input_tokens_seen": 9420472, + "step": 4811 + }, + { + "epoch": 0.6377733598409543, + "grad_norm": 10.651152610778809, + "learning_rate": 4.464540855530275e-06, + "loss": 0.2242, + "num_input_tokens_seen": 9422264, + "step": 4812 + }, + { + "epoch": 0.6379058979456593, + "grad_norm": 3.9325499534606934, + "learning_rate": 4.464326146078244e-06, + "loss": 0.0673, + "num_input_tokens_seen": 9423856, + "step": 4813 + }, + { + "epoch": 0.6380384360503645, + "grad_norm": 7.080622673034668, + "learning_rate": 4.464111398752648e-06, + "loss": 0.1986, + "num_input_tokens_seen": 9426984, + "step": 4814 + }, + { + "epoch": 0.6381709741550696, + "grad_norm": 11.83078670501709, + "learning_rate": 4.4638966135576315e-06, + "loss": 0.3659, + "num_input_tokens_seen": 9428976, + "step": 4815 + }, + { + "epoch": 0.6383035122597747, + "grad_norm": 0.4345207214355469, + "learning_rate": 4.463681790497332e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9430392, + "step": 4816 + }, + { + "epoch": 0.6384360503644798, + "grad_norm": 16.421342849731445, + "learning_rate": 4.463466929575894e-06, + "loss": 0.7735, + "num_input_tokens_seen": 9432120, + "step": 4817 + }, + { + "epoch": 0.6385685884691849, + "grad_norm": 8.015900611877441, + "learning_rate": 4.463252030797458e-06, + "loss": 0.2068, + "num_input_tokens_seen": 9435288, + "step": 4818 + }, + { + "epoch": 0.63870112657389, + "grad_norm": 6.320451736450195, + "learning_rate": 4.46303709416617e-06, + "loss": 0.1152, + "num_input_tokens_seen": 9436960, + "step": 4819 + }, + { + "epoch": 0.6388336646785951, + "grad_norm": 0.39286741614341736, + "learning_rate": 4.462822119686171e-06, + "loss": 0.0029, + "num_input_tokens_seen": 9441032, + "step": 4820 + }, + { + "epoch": 0.6389662027833002, + "grad_norm": 16.194061279296875, + "learning_rate": 4.462607107361608e-06, + "loss": 0.4237, + "num_input_tokens_seen": 9442896, + "step": 4821 + }, + { + "epoch": 0.6390987408880053, + "grad_norm": 9.960128784179688, + "learning_rate": 4.462392057196626e-06, + "loss": 0.1203, + "num_input_tokens_seen": 9444432, + "step": 4822 + }, + { + "epoch": 0.6392312789927104, + "grad_norm": 1.8447933197021484, + "learning_rate": 4.462176969195371e-06, + "loss": 0.013, + "num_input_tokens_seen": 9446992, + "step": 4823 + }, + { + "epoch": 0.6393638170974155, + "grad_norm": 5.806275844573975, + "learning_rate": 4.461961843361991e-06, + "loss": 0.1424, + "num_input_tokens_seen": 9448800, + "step": 4824 + }, + { + "epoch": 0.6394963552021206, + "grad_norm": 10.891443252563477, + "learning_rate": 4.461746679700632e-06, + "loss": 0.2417, + "num_input_tokens_seen": 9450432, + "step": 4825 + }, + { + "epoch": 0.6396288933068257, + "grad_norm": 0.7464866042137146, + "learning_rate": 4.461531478215446e-06, + "loss": 0.0053, + "num_input_tokens_seen": 9453024, + "step": 4826 + }, + { + "epoch": 0.6397614314115309, + "grad_norm": 10.647525787353516, + "learning_rate": 4.461316238910578e-06, + "loss": 0.2265, + "num_input_tokens_seen": 9455088, + "step": 4827 + }, + { + "epoch": 0.6398939695162359, + "grad_norm": 6.746596336364746, + "learning_rate": 4.461100961790181e-06, + "loss": 0.1839, + "num_input_tokens_seen": 9457248, + "step": 4828 + }, + { + "epoch": 0.640026507620941, + "grad_norm": 2.391592264175415, + "learning_rate": 4.460885646858404e-06, + "loss": 0.0584, + "num_input_tokens_seen": 9460176, + "step": 4829 + }, + { + "epoch": 0.6401590457256461, + "grad_norm": 8.733220100402832, + "learning_rate": 4.460670294119399e-06, + "loss": 0.3492, + "num_input_tokens_seen": 9462000, + "step": 4830 + }, + { + "epoch": 0.6402915838303512, + "grad_norm": 0.27454718947410583, + "learning_rate": 4.460454903577318e-06, + "loss": 0.002, + "num_input_tokens_seen": 9463200, + "step": 4831 + }, + { + "epoch": 0.6404241219350564, + "grad_norm": 7.840694427490234, + "learning_rate": 4.460239475236314e-06, + "loss": 0.2701, + "num_input_tokens_seen": 9465264, + "step": 4832 + }, + { + "epoch": 0.6405566600397614, + "grad_norm": 0.2896285355091095, + "learning_rate": 4.46002400910054e-06, + "loss": 0.0021, + "num_input_tokens_seen": 9467928, + "step": 4833 + }, + { + "epoch": 0.6406891981444666, + "grad_norm": 1.2033575773239136, + "learning_rate": 4.459808505174152e-06, + "loss": 0.0067, + "num_input_tokens_seen": 9470944, + "step": 4834 + }, + { + "epoch": 0.6408217362491716, + "grad_norm": 4.316341876983643, + "learning_rate": 4.459592963461304e-06, + "loss": 0.0564, + "num_input_tokens_seen": 9472536, + "step": 4835 + }, + { + "epoch": 0.6409542743538768, + "grad_norm": 1.8086624145507812, + "learning_rate": 4.459377383966151e-06, + "loss": 0.0118, + "num_input_tokens_seen": 9474176, + "step": 4836 + }, + { + "epoch": 0.6410868124585818, + "grad_norm": 6.824998378753662, + "learning_rate": 4.459161766692851e-06, + "loss": 0.2292, + "num_input_tokens_seen": 9476416, + "step": 4837 + }, + { + "epoch": 0.6412193505632869, + "grad_norm": 0.17999917268753052, + "learning_rate": 4.45894611164556e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9478120, + "step": 4838 + }, + { + "epoch": 0.6413518886679921, + "grad_norm": 8.806440353393555, + "learning_rate": 4.458730418828437e-06, + "loss": 0.1975, + "num_input_tokens_seen": 9480152, + "step": 4839 + }, + { + "epoch": 0.6414844267726971, + "grad_norm": 3.3774189949035645, + "learning_rate": 4.458514688245641e-06, + "loss": 0.0375, + "num_input_tokens_seen": 9481616, + "step": 4840 + }, + { + "epoch": 0.6416169648774023, + "grad_norm": 0.07355403155088425, + "learning_rate": 4.45829891990133e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9483616, + "step": 4841 + }, + { + "epoch": 0.6417495029821073, + "grad_norm": 10.695578575134277, + "learning_rate": 4.458083113799664e-06, + "loss": 0.1648, + "num_input_tokens_seen": 9485304, + "step": 4842 + }, + { + "epoch": 0.6418820410868125, + "grad_norm": 5.048794269561768, + "learning_rate": 4.457867269944806e-06, + "loss": 0.0775, + "num_input_tokens_seen": 9486936, + "step": 4843 + }, + { + "epoch": 0.6420145791915176, + "grad_norm": 4.7919440269470215, + "learning_rate": 4.457651388340916e-06, + "loss": 0.1346, + "num_input_tokens_seen": 9489424, + "step": 4844 + }, + { + "epoch": 0.6421471172962226, + "grad_norm": 6.147254943847656, + "learning_rate": 4.457435468992157e-06, + "loss": 0.1702, + "num_input_tokens_seen": 9490760, + "step": 4845 + }, + { + "epoch": 0.6422796554009278, + "grad_norm": 11.189906120300293, + "learning_rate": 4.45721951190269e-06, + "loss": 0.2798, + "num_input_tokens_seen": 9492672, + "step": 4846 + }, + { + "epoch": 0.6424121935056328, + "grad_norm": 7.041614055633545, + "learning_rate": 4.457003517076683e-06, + "loss": 0.2798, + "num_input_tokens_seen": 9494712, + "step": 4847 + }, + { + "epoch": 0.642544731610338, + "grad_norm": 0.045423202216625214, + "learning_rate": 4.456787484518297e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9496208, + "step": 4848 + }, + { + "epoch": 0.642677269715043, + "grad_norm": 7.87891960144043, + "learning_rate": 4.456571414231699e-06, + "loss": 0.2755, + "num_input_tokens_seen": 9498424, + "step": 4849 + }, + { + "epoch": 0.6428098078197482, + "grad_norm": 1.3120954036712646, + "learning_rate": 4.456355306221054e-06, + "loss": 0.0176, + "num_input_tokens_seen": 9499936, + "step": 4850 + }, + { + "epoch": 0.6429423459244533, + "grad_norm": 0.09056670218706131, + "learning_rate": 4.456139160490529e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9502672, + "step": 4851 + }, + { + "epoch": 0.6430748840291584, + "grad_norm": 0.05561875179409981, + "learning_rate": 4.455922977044291e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9504008, + "step": 4852 + }, + { + "epoch": 0.6432074221338635, + "grad_norm": 11.432732582092285, + "learning_rate": 4.455706755886509e-06, + "loss": 0.263, + "num_input_tokens_seen": 9505792, + "step": 4853 + }, + { + "epoch": 0.6433399602385685, + "grad_norm": 6.313557147979736, + "learning_rate": 4.455490497021352e-06, + "loss": 0.1424, + "num_input_tokens_seen": 9508416, + "step": 4854 + }, + { + "epoch": 0.6434724983432737, + "grad_norm": 5.000476360321045, + "learning_rate": 4.455274200452989e-06, + "loss": 0.15, + "num_input_tokens_seen": 9510824, + "step": 4855 + }, + { + "epoch": 0.6436050364479788, + "grad_norm": 1.254848599433899, + "learning_rate": 4.45505786618559e-06, + "loss": 0.0067, + "num_input_tokens_seen": 9512056, + "step": 4856 + }, + { + "epoch": 0.6437375745526839, + "grad_norm": 7.127485275268555, + "learning_rate": 4.454841494223328e-06, + "loss": 0.2149, + "num_input_tokens_seen": 9513656, + "step": 4857 + }, + { + "epoch": 0.643870112657389, + "grad_norm": 0.7913540005683899, + "learning_rate": 4.454625084570372e-06, + "loss": 0.0051, + "num_input_tokens_seen": 9515448, + "step": 4858 + }, + { + "epoch": 0.6440026507620941, + "grad_norm": 0.26762810349464417, + "learning_rate": 4.454408637230897e-06, + "loss": 0.0019, + "num_input_tokens_seen": 9516952, + "step": 4859 + }, + { + "epoch": 0.6441351888667992, + "grad_norm": 8.086902618408203, + "learning_rate": 4.454192152209074e-06, + "loss": 0.2745, + "num_input_tokens_seen": 9518736, + "step": 4860 + }, + { + "epoch": 0.6442677269715044, + "grad_norm": 12.396095275878906, + "learning_rate": 4.453975629509079e-06, + "loss": 0.6375, + "num_input_tokens_seen": 9521848, + "step": 4861 + }, + { + "epoch": 0.6444002650762094, + "grad_norm": 15.481982231140137, + "learning_rate": 4.453759069135087e-06, + "loss": 0.578, + "num_input_tokens_seen": 9523696, + "step": 4862 + }, + { + "epoch": 0.6445328031809145, + "grad_norm": 5.175758361816406, + "learning_rate": 4.45354247109127e-06, + "loss": 0.0961, + "num_input_tokens_seen": 9526368, + "step": 4863 + }, + { + "epoch": 0.6446653412856196, + "grad_norm": 0.32571929693222046, + "learning_rate": 4.453325835381808e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9528416, + "step": 4864 + }, + { + "epoch": 0.6447978793903247, + "grad_norm": 1.2239230871200562, + "learning_rate": 4.453109162010875e-06, + "loss": 0.0182, + "num_input_tokens_seen": 9529920, + "step": 4865 + }, + { + "epoch": 0.6449304174950298, + "grad_norm": 8.420411109924316, + "learning_rate": 4.452892450982651e-06, + "loss": 0.2873, + "num_input_tokens_seen": 9531680, + "step": 4866 + }, + { + "epoch": 0.6450629555997349, + "grad_norm": 0.10115247964859009, + "learning_rate": 4.452675702301313e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9533184, + "step": 4867 + }, + { + "epoch": 0.6451954937044401, + "grad_norm": 5.8544487953186035, + "learning_rate": 4.4524589159710406e-06, + "loss": 0.1923, + "num_input_tokens_seen": 9534304, + "step": 4868 + }, + { + "epoch": 0.6453280318091451, + "grad_norm": 22.86847496032715, + "learning_rate": 4.452242091996013e-06, + "loss": 1.0328, + "num_input_tokens_seen": 9535920, + "step": 4869 + }, + { + "epoch": 0.6454605699138503, + "grad_norm": 8.39797306060791, + "learning_rate": 4.452025230380412e-06, + "loss": 0.1684, + "num_input_tokens_seen": 9537992, + "step": 4870 + }, + { + "epoch": 0.6455931080185553, + "grad_norm": 18.60875129699707, + "learning_rate": 4.451808331128417e-06, + "loss": 0.2908, + "num_input_tokens_seen": 9540536, + "step": 4871 + }, + { + "epoch": 0.6457256461232604, + "grad_norm": 0.30296850204467773, + "learning_rate": 4.451591394244211e-06, + "loss": 0.002, + "num_input_tokens_seen": 9543192, + "step": 4872 + }, + { + "epoch": 0.6458581842279656, + "grad_norm": 22.829776763916016, + "learning_rate": 4.451374419731978e-06, + "loss": 0.4296, + "num_input_tokens_seen": 9544896, + "step": 4873 + }, + { + "epoch": 0.6459907223326706, + "grad_norm": 8.951194763183594, + "learning_rate": 4.451157407595898e-06, + "loss": 0.2081, + "num_input_tokens_seen": 9546752, + "step": 4874 + }, + { + "epoch": 0.6461232604373758, + "grad_norm": 15.652210235595703, + "learning_rate": 4.450940357840157e-06, + "loss": 0.4454, + "num_input_tokens_seen": 9548808, + "step": 4875 + }, + { + "epoch": 0.6462557985420808, + "grad_norm": 0.3247293531894684, + "learning_rate": 4.4507232704689415e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9550304, + "step": 4876 + }, + { + "epoch": 0.646388336646786, + "grad_norm": 6.515808582305908, + "learning_rate": 4.4505061454864355e-06, + "loss": 0.178, + "num_input_tokens_seen": 9553040, + "step": 4877 + }, + { + "epoch": 0.646520874751491, + "grad_norm": 6.426331043243408, + "learning_rate": 4.450288982896825e-06, + "loss": 0.19, + "num_input_tokens_seen": 9554720, + "step": 4878 + }, + { + "epoch": 0.6466534128561962, + "grad_norm": 0.37664979696273804, + "learning_rate": 4.450071782704297e-06, + "loss": 0.0026, + "num_input_tokens_seen": 9556088, + "step": 4879 + }, + { + "epoch": 0.6467859509609013, + "grad_norm": 12.391663551330566, + "learning_rate": 4.44985454491304e-06, + "loss": 0.5698, + "num_input_tokens_seen": 9558832, + "step": 4880 + }, + { + "epoch": 0.6469184890656063, + "grad_norm": 5.82336950302124, + "learning_rate": 4.4496372695272426e-06, + "loss": 0.1832, + "num_input_tokens_seen": 9560488, + "step": 4881 + }, + { + "epoch": 0.6470510271703115, + "grad_norm": 4.2001566886901855, + "learning_rate": 4.449419956551094e-06, + "loss": 0.0641, + "num_input_tokens_seen": 9562728, + "step": 4882 + }, + { + "epoch": 0.6471835652750165, + "grad_norm": 14.888204574584961, + "learning_rate": 4.449202605988784e-06, + "loss": 0.3792, + "num_input_tokens_seen": 9564760, + "step": 4883 + }, + { + "epoch": 0.6473161033797217, + "grad_norm": 10.145330429077148, + "learning_rate": 4.448985217844501e-06, + "loss": 0.2194, + "num_input_tokens_seen": 9567184, + "step": 4884 + }, + { + "epoch": 0.6474486414844268, + "grad_norm": 6.315364837646484, + "learning_rate": 4.44876779212244e-06, + "loss": 0.1209, + "num_input_tokens_seen": 9569832, + "step": 4885 + }, + { + "epoch": 0.6475811795891319, + "grad_norm": 6.940689563751221, + "learning_rate": 4.448550328826792e-06, + "loss": 0.0681, + "num_input_tokens_seen": 9571768, + "step": 4886 + }, + { + "epoch": 0.647713717693837, + "grad_norm": 7.291001319885254, + "learning_rate": 4.448332827961749e-06, + "loss": 0.0757, + "num_input_tokens_seen": 9574040, + "step": 4887 + }, + { + "epoch": 0.647846255798542, + "grad_norm": 5.533946514129639, + "learning_rate": 4.448115289531505e-06, + "loss": 0.1314, + "num_input_tokens_seen": 9576032, + "step": 4888 + }, + { + "epoch": 0.6479787939032472, + "grad_norm": 9.036831855773926, + "learning_rate": 4.4478977135402536e-06, + "loss": 0.2193, + "num_input_tokens_seen": 9578144, + "step": 4889 + }, + { + "epoch": 0.6481113320079522, + "grad_norm": 3.3029744625091553, + "learning_rate": 4.447680099992191e-06, + "loss": 0.0693, + "num_input_tokens_seen": 9580632, + "step": 4890 + }, + { + "epoch": 0.6482438701126574, + "grad_norm": 10.926652908325195, + "learning_rate": 4.447462448891513e-06, + "loss": 0.2621, + "num_input_tokens_seen": 9582544, + "step": 4891 + }, + { + "epoch": 0.6483764082173625, + "grad_norm": 11.979860305786133, + "learning_rate": 4.447244760242415e-06, + "loss": 0.3476, + "num_input_tokens_seen": 9585016, + "step": 4892 + }, + { + "epoch": 0.6485089463220676, + "grad_norm": 2.7239322662353516, + "learning_rate": 4.447027034049094e-06, + "loss": 0.0259, + "num_input_tokens_seen": 9587384, + "step": 4893 + }, + { + "epoch": 0.6486414844267727, + "grad_norm": 9.86445140838623, + "learning_rate": 4.44680927031575e-06, + "loss": 0.1054, + "num_input_tokens_seen": 9589312, + "step": 4894 + }, + { + "epoch": 0.6487740225314778, + "grad_norm": 0.4499588906764984, + "learning_rate": 4.4465914690465785e-06, + "loss": 0.0031, + "num_input_tokens_seen": 9590760, + "step": 4895 + }, + { + "epoch": 0.6489065606361829, + "grad_norm": 4.442226409912109, + "learning_rate": 4.4463736302457824e-06, + "loss": 0.0682, + "num_input_tokens_seen": 9592944, + "step": 4896 + }, + { + "epoch": 0.649039098740888, + "grad_norm": 9.19690990447998, + "learning_rate": 4.446155753917559e-06, + "loss": 0.3678, + "num_input_tokens_seen": 9595008, + "step": 4897 + }, + { + "epoch": 0.6491716368455931, + "grad_norm": 16.92936134338379, + "learning_rate": 4.44593784006611e-06, + "loss": 0.2864, + "num_input_tokens_seen": 9597088, + "step": 4898 + }, + { + "epoch": 0.6493041749502982, + "grad_norm": 3.8098597526550293, + "learning_rate": 4.4457198886956374e-06, + "loss": 0.1194, + "num_input_tokens_seen": 9599176, + "step": 4899 + }, + { + "epoch": 0.6494367130550033, + "grad_norm": 1.7245649099349976, + "learning_rate": 4.445501899810343e-06, + "loss": 0.0138, + "num_input_tokens_seen": 9600632, + "step": 4900 + }, + { + "epoch": 0.6495692511597084, + "grad_norm": 11.463774681091309, + "learning_rate": 4.44528387341443e-06, + "loss": 0.4453, + "num_input_tokens_seen": 9603160, + "step": 4901 + }, + { + "epoch": 0.6497017892644135, + "grad_norm": 12.178915977478027, + "learning_rate": 4.445065809512102e-06, + "loss": 0.4404, + "num_input_tokens_seen": 9605192, + "step": 4902 + }, + { + "epoch": 0.6498343273691186, + "grad_norm": 0.23685547709465027, + "learning_rate": 4.444847708107562e-06, + "loss": 0.0016, + "num_input_tokens_seen": 9606168, + "step": 4903 + }, + { + "epoch": 0.6499668654738238, + "grad_norm": 8.615063667297363, + "learning_rate": 4.444629569205018e-06, + "loss": 0.3142, + "num_input_tokens_seen": 9608024, + "step": 4904 + }, + { + "epoch": 0.6500994035785288, + "grad_norm": 10.248557090759277, + "learning_rate": 4.444411392808674e-06, + "loss": 0.1872, + "num_input_tokens_seen": 9609992, + "step": 4905 + }, + { + "epoch": 0.650231941683234, + "grad_norm": 9.712374687194824, + "learning_rate": 4.444193178922737e-06, + "loss": 0.1912, + "num_input_tokens_seen": 9611832, + "step": 4906 + }, + { + "epoch": 0.650364479787939, + "grad_norm": 14.79377555847168, + "learning_rate": 4.443974927551414e-06, + "loss": 0.3073, + "num_input_tokens_seen": 9613768, + "step": 4907 + }, + { + "epoch": 0.6504970178926441, + "grad_norm": 14.20767879486084, + "learning_rate": 4.443756638698913e-06, + "loss": 0.7216, + "num_input_tokens_seen": 9615856, + "step": 4908 + }, + { + "epoch": 0.6506295559973493, + "grad_norm": 11.211538314819336, + "learning_rate": 4.443538312369444e-06, + "loss": 0.5318, + "num_input_tokens_seen": 9618648, + "step": 4909 + }, + { + "epoch": 0.6507620941020543, + "grad_norm": 8.546815872192383, + "learning_rate": 4.443319948567215e-06, + "loss": 0.2733, + "num_input_tokens_seen": 9620232, + "step": 4910 + }, + { + "epoch": 0.6508946322067595, + "grad_norm": 6.848811149597168, + "learning_rate": 4.443101547296437e-06, + "loss": 0.2028, + "num_input_tokens_seen": 9622424, + "step": 4911 + }, + { + "epoch": 0.6510271703114645, + "grad_norm": 0.6491931080818176, + "learning_rate": 4.442883108561321e-06, + "loss": 0.0041, + "num_input_tokens_seen": 9624488, + "step": 4912 + }, + { + "epoch": 0.6511597084161697, + "grad_norm": 12.751710891723633, + "learning_rate": 4.442664632366077e-06, + "loss": 0.4509, + "num_input_tokens_seen": 9626704, + "step": 4913 + }, + { + "epoch": 0.6512922465208748, + "grad_norm": 1.621903419494629, + "learning_rate": 4.44244611871492e-06, + "loss": 0.0213, + "num_input_tokens_seen": 9629200, + "step": 4914 + }, + { + "epoch": 0.6514247846255798, + "grad_norm": 6.312143325805664, + "learning_rate": 4.442227567612062e-06, + "loss": 0.2643, + "num_input_tokens_seen": 9631728, + "step": 4915 + }, + { + "epoch": 0.651557322730285, + "grad_norm": 11.068902969360352, + "learning_rate": 4.442008979061715e-06, + "loss": 0.2523, + "num_input_tokens_seen": 9633224, + "step": 4916 + }, + { + "epoch": 0.65168986083499, + "grad_norm": 15.456021308898926, + "learning_rate": 4.441790353068098e-06, + "loss": 0.3187, + "num_input_tokens_seen": 9635936, + "step": 4917 + }, + { + "epoch": 0.6518223989396952, + "grad_norm": 14.133515357971191, + "learning_rate": 4.4415716896354205e-06, + "loss": 0.4168, + "num_input_tokens_seen": 9637712, + "step": 4918 + }, + { + "epoch": 0.6519549370444002, + "grad_norm": 3.9950807094573975, + "learning_rate": 4.441352988767903e-06, + "loss": 0.0693, + "num_input_tokens_seen": 9639592, + "step": 4919 + }, + { + "epoch": 0.6520874751491054, + "grad_norm": 10.165696144104004, + "learning_rate": 4.4411342504697595e-06, + "loss": 0.2075, + "num_input_tokens_seen": 9641832, + "step": 4920 + }, + { + "epoch": 0.6522200132538105, + "grad_norm": 9.085101127624512, + "learning_rate": 4.4409154747452096e-06, + "loss": 0.4002, + "num_input_tokens_seen": 9644000, + "step": 4921 + }, + { + "epoch": 0.6523525513585156, + "grad_norm": 4.153408050537109, + "learning_rate": 4.44069666159847e-06, + "loss": 0.0416, + "num_input_tokens_seen": 9646800, + "step": 4922 + }, + { + "epoch": 0.6524850894632207, + "grad_norm": 13.377498626708984, + "learning_rate": 4.4404778110337595e-06, + "loss": 0.3605, + "num_input_tokens_seen": 9648520, + "step": 4923 + }, + { + "epoch": 0.6526176275679257, + "grad_norm": 13.998909950256348, + "learning_rate": 4.440258923055298e-06, + "loss": 0.4652, + "num_input_tokens_seen": 9651128, + "step": 4924 + }, + { + "epoch": 0.6527501656726309, + "grad_norm": 0.3415073752403259, + "learning_rate": 4.440039997667307e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9653432, + "step": 4925 + }, + { + "epoch": 0.652882703777336, + "grad_norm": 0.08827115595340729, + "learning_rate": 4.439821034874006e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9654896, + "step": 4926 + }, + { + "epoch": 0.6530152418820411, + "grad_norm": 1.8026548624038696, + "learning_rate": 4.439602034679618e-06, + "loss": 0.0417, + "num_input_tokens_seen": 9656344, + "step": 4927 + }, + { + "epoch": 0.6531477799867462, + "grad_norm": 11.30551528930664, + "learning_rate": 4.439382997088363e-06, + "loss": 0.2153, + "num_input_tokens_seen": 9658512, + "step": 4928 + }, + { + "epoch": 0.6532803180914513, + "grad_norm": 3.9185690879821777, + "learning_rate": 4.439163922104467e-06, + "loss": 0.0273, + "num_input_tokens_seen": 9659952, + "step": 4929 + }, + { + "epoch": 0.6534128561961564, + "grad_norm": 11.925789833068848, + "learning_rate": 4.438944809732153e-06, + "loss": 0.2703, + "num_input_tokens_seen": 9661648, + "step": 4930 + }, + { + "epoch": 0.6535453943008614, + "grad_norm": 5.87583589553833, + "learning_rate": 4.438725659975644e-06, + "loss": 0.0812, + "num_input_tokens_seen": 9663776, + "step": 4931 + }, + { + "epoch": 0.6536779324055666, + "grad_norm": 13.513618469238281, + "learning_rate": 4.438506472839169e-06, + "loss": 0.4256, + "num_input_tokens_seen": 9665696, + "step": 4932 + }, + { + "epoch": 0.6538104705102717, + "grad_norm": 12.337636947631836, + "learning_rate": 4.43828724832695e-06, + "loss": 0.2735, + "num_input_tokens_seen": 9668368, + "step": 4933 + }, + { + "epoch": 0.6539430086149768, + "grad_norm": 4.707254886627197, + "learning_rate": 4.438067986443217e-06, + "loss": 0.1286, + "num_input_tokens_seen": 9669824, + "step": 4934 + }, + { + "epoch": 0.6540755467196819, + "grad_norm": 1.4064189195632935, + "learning_rate": 4.437848687192195e-06, + "loss": 0.0056, + "num_input_tokens_seen": 9672800, + "step": 4935 + }, + { + "epoch": 0.654208084824387, + "grad_norm": 1.4091341495513916, + "learning_rate": 4.437629350578115e-06, + "loss": 0.0091, + "num_input_tokens_seen": 9675272, + "step": 4936 + }, + { + "epoch": 0.6543406229290921, + "grad_norm": 0.22482064366340637, + "learning_rate": 4.437409976605204e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9676744, + "step": 4937 + }, + { + "epoch": 0.6544731610337973, + "grad_norm": 4.379144668579102, + "learning_rate": 4.437190565277691e-06, + "loss": 0.1677, + "num_input_tokens_seen": 9678872, + "step": 4938 + }, + { + "epoch": 0.6546056991385023, + "grad_norm": 4.113053321838379, + "learning_rate": 4.4369711165998085e-06, + "loss": 0.1263, + "num_input_tokens_seen": 9680992, + "step": 4939 + }, + { + "epoch": 0.6547382372432075, + "grad_norm": 9.140275955200195, + "learning_rate": 4.4367516305757864e-06, + "loss": 0.1357, + "num_input_tokens_seen": 9682272, + "step": 4940 + }, + { + "epoch": 0.6548707753479125, + "grad_norm": 0.03027283400297165, + "learning_rate": 4.436532107209857e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9683552, + "step": 4941 + }, + { + "epoch": 0.6550033134526176, + "grad_norm": 0.1308932900428772, + "learning_rate": 4.436312546506252e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9685320, + "step": 4942 + }, + { + "epoch": 0.6551358515573227, + "grad_norm": 0.13611389696598053, + "learning_rate": 4.436092948469205e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9687064, + "step": 4943 + }, + { + "epoch": 0.6552683896620278, + "grad_norm": 11.976266860961914, + "learning_rate": 4.435873313102951e-06, + "loss": 0.3159, + "num_input_tokens_seen": 9689208, + "step": 4944 + }, + { + "epoch": 0.655400927766733, + "grad_norm": 0.048062171787023544, + "learning_rate": 4.435653640411724e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9690600, + "step": 4945 + }, + { + "epoch": 0.655533465871438, + "grad_norm": 9.773316383361816, + "learning_rate": 4.43543393039976e-06, + "loss": 0.3407, + "num_input_tokens_seen": 9694160, + "step": 4946 + }, + { + "epoch": 0.6556660039761432, + "grad_norm": 9.891671180725098, + "learning_rate": 4.435214183071294e-06, + "loss": 0.4888, + "num_input_tokens_seen": 9697208, + "step": 4947 + }, + { + "epoch": 0.6557985420808482, + "grad_norm": 1.2753030061721802, + "learning_rate": 4.434994398430563e-06, + "loss": 0.0082, + "num_input_tokens_seen": 9699944, + "step": 4948 + }, + { + "epoch": 0.6559310801855534, + "grad_norm": 7.925821304321289, + "learning_rate": 4.434774576481806e-06, + "loss": 0.2255, + "num_input_tokens_seen": 9702176, + "step": 4949 + }, + { + "epoch": 0.6560636182902585, + "grad_norm": 0.013318458572030067, + "learning_rate": 4.43455471722926e-06, + "loss": 0.0001, + "num_input_tokens_seen": 9703720, + "step": 4950 + }, + { + "epoch": 0.6561961563949635, + "grad_norm": 10.792168617248535, + "learning_rate": 4.4343348206771645e-06, + "loss": 0.403, + "num_input_tokens_seen": 9706440, + "step": 4951 + }, + { + "epoch": 0.6563286944996687, + "grad_norm": 9.374406814575195, + "learning_rate": 4.43411488682976e-06, + "loss": 0.1483, + "num_input_tokens_seen": 9707768, + "step": 4952 + }, + { + "epoch": 0.6564612326043737, + "grad_norm": 8.012020111083984, + "learning_rate": 4.433894915691285e-06, + "loss": 0.1881, + "num_input_tokens_seen": 9711160, + "step": 4953 + }, + { + "epoch": 0.6565937707090789, + "grad_norm": 9.518787384033203, + "learning_rate": 4.433674907265982e-06, + "loss": 0.3732, + "num_input_tokens_seen": 9713744, + "step": 4954 + }, + { + "epoch": 0.6567263088137839, + "grad_norm": 21.15972328186035, + "learning_rate": 4.433454861558094e-06, + "loss": 0.6788, + "num_input_tokens_seen": 9715776, + "step": 4955 + }, + { + "epoch": 0.6568588469184891, + "grad_norm": 0.03623078763484955, + "learning_rate": 4.4332347785718615e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9717664, + "step": 4956 + }, + { + "epoch": 0.6569913850231942, + "grad_norm": 13.509406089782715, + "learning_rate": 4.433014658311529e-06, + "loss": 0.2496, + "num_input_tokens_seen": 9719592, + "step": 4957 + }, + { + "epoch": 0.6571239231278992, + "grad_norm": 9.939379692077637, + "learning_rate": 4.4327945007813406e-06, + "loss": 0.23, + "num_input_tokens_seen": 9721544, + "step": 4958 + }, + { + "epoch": 0.6572564612326044, + "grad_norm": 4.431924343109131, + "learning_rate": 4.432574305985541e-06, + "loss": 0.0807, + "num_input_tokens_seen": 9723856, + "step": 4959 + }, + { + "epoch": 0.6573889993373094, + "grad_norm": 9.369827270507812, + "learning_rate": 4.432354073928374e-06, + "loss": 0.1657, + "num_input_tokens_seen": 9726120, + "step": 4960 + }, + { + "epoch": 0.6575215374420146, + "grad_norm": 10.54124641418457, + "learning_rate": 4.432133804614089e-06, + "loss": 0.2355, + "num_input_tokens_seen": 9727688, + "step": 4961 + }, + { + "epoch": 0.6576540755467197, + "grad_norm": 0.13701234757900238, + "learning_rate": 4.431913498046931e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9728968, + "step": 4962 + }, + { + "epoch": 0.6577866136514248, + "grad_norm": 2.403229236602783, + "learning_rate": 4.431693154231148e-06, + "loss": 0.0378, + "num_input_tokens_seen": 9730368, + "step": 4963 + }, + { + "epoch": 0.6579191517561299, + "grad_norm": 0.7506384253501892, + "learning_rate": 4.431472773170988e-06, + "loss": 0.0042, + "num_input_tokens_seen": 9732056, + "step": 4964 + }, + { + "epoch": 0.658051689860835, + "grad_norm": 20.07316780090332, + "learning_rate": 4.431252354870701e-06, + "loss": 0.6298, + "num_input_tokens_seen": 9733952, + "step": 4965 + }, + { + "epoch": 0.6581842279655401, + "grad_norm": 13.885061264038086, + "learning_rate": 4.431031899334537e-06, + "loss": 0.2005, + "num_input_tokens_seen": 9735216, + "step": 4966 + }, + { + "epoch": 0.6583167660702451, + "grad_norm": 4.1072678565979, + "learning_rate": 4.430811406566744e-06, + "loss": 0.029, + "num_input_tokens_seen": 9736824, + "step": 4967 + }, + { + "epoch": 0.6584493041749503, + "grad_norm": 0.10417488217353821, + "learning_rate": 4.430590876571577e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9738592, + "step": 4968 + }, + { + "epoch": 0.6585818422796554, + "grad_norm": 0.12139590084552765, + "learning_rate": 4.4303703093532845e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9740584, + "step": 4969 + }, + { + "epoch": 0.6587143803843605, + "grad_norm": 6.384578704833984, + "learning_rate": 4.430149704916121e-06, + "loss": 0.2513, + "num_input_tokens_seen": 9742400, + "step": 4970 + }, + { + "epoch": 0.6588469184890656, + "grad_norm": 7.288904666900635, + "learning_rate": 4.42992906326434e-06, + "loss": 0.1837, + "num_input_tokens_seen": 9744408, + "step": 4971 + }, + { + "epoch": 0.6589794565937707, + "grad_norm": 10.088225364685059, + "learning_rate": 4.429708384402195e-06, + "loss": 0.1502, + "num_input_tokens_seen": 9747288, + "step": 4972 + }, + { + "epoch": 0.6591119946984758, + "grad_norm": 12.420062065124512, + "learning_rate": 4.429487668333941e-06, + "loss": 0.4258, + "num_input_tokens_seen": 9749792, + "step": 4973 + }, + { + "epoch": 0.659244532803181, + "grad_norm": 10.40991497039795, + "learning_rate": 4.4292669150638346e-06, + "loss": 0.3383, + "num_input_tokens_seen": 9751632, + "step": 4974 + }, + { + "epoch": 0.659377070907886, + "grad_norm": 0.06113347411155701, + "learning_rate": 4.42904612459613e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9753880, + "step": 4975 + }, + { + "epoch": 0.6595096090125911, + "grad_norm": 0.35043495893478394, + "learning_rate": 4.428825296935086e-06, + "loss": 0.0024, + "num_input_tokens_seen": 9755488, + "step": 4976 + }, + { + "epoch": 0.6596421471172962, + "grad_norm": 1.0674535036087036, + "learning_rate": 4.428604432084959e-06, + "loss": 0.0049, + "num_input_tokens_seen": 9757920, + "step": 4977 + }, + { + "epoch": 0.6597746852220013, + "grad_norm": 0.04963526502251625, + "learning_rate": 4.42838353005001e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9759776, + "step": 4978 + }, + { + "epoch": 0.6599072233267065, + "grad_norm": 11.400837898254395, + "learning_rate": 4.428162590834495e-06, + "loss": 0.2831, + "num_input_tokens_seen": 9761504, + "step": 4979 + }, + { + "epoch": 0.6600397614314115, + "grad_norm": 2.0109293460845947, + "learning_rate": 4.427941614442675e-06, + "loss": 0.0124, + "num_input_tokens_seen": 9762768, + "step": 4980 + }, + { + "epoch": 0.6601722995361167, + "grad_norm": 9.907425880432129, + "learning_rate": 4.4277206008788096e-06, + "loss": 0.1858, + "num_input_tokens_seen": 9764432, + "step": 4981 + }, + { + "epoch": 0.6603048376408217, + "grad_norm": 9.269798278808594, + "learning_rate": 4.4274995501471625e-06, + "loss": 0.1293, + "num_input_tokens_seen": 9767344, + "step": 4982 + }, + { + "epoch": 0.6604373757455269, + "grad_norm": 9.2672758102417, + "learning_rate": 4.427278462251994e-06, + "loss": 0.24, + "num_input_tokens_seen": 9769200, + "step": 4983 + }, + { + "epoch": 0.6605699138502319, + "grad_norm": 4.715796947479248, + "learning_rate": 4.427057337197566e-06, + "loss": 0.0396, + "num_input_tokens_seen": 9771176, + "step": 4984 + }, + { + "epoch": 0.660702451954937, + "grad_norm": 7.958349227905273, + "learning_rate": 4.426836174988145e-06, + "loss": 0.2333, + "num_input_tokens_seen": 9772376, + "step": 4985 + }, + { + "epoch": 0.6608349900596422, + "grad_norm": 0.32258349657058716, + "learning_rate": 4.426614975627993e-06, + "loss": 0.0019, + "num_input_tokens_seen": 9774120, + "step": 4986 + }, + { + "epoch": 0.6609675281643472, + "grad_norm": 7.679451942443848, + "learning_rate": 4.426393739121374e-06, + "loss": 0.1117, + "num_input_tokens_seen": 9776280, + "step": 4987 + }, + { + "epoch": 0.6611000662690524, + "grad_norm": 5.332755088806152, + "learning_rate": 4.426172465472556e-06, + "loss": 0.2184, + "num_input_tokens_seen": 9777880, + "step": 4988 + }, + { + "epoch": 0.6612326043737574, + "grad_norm": 7.2600178718566895, + "learning_rate": 4.425951154685804e-06, + "loss": 0.1276, + "num_input_tokens_seen": 9780368, + "step": 4989 + }, + { + "epoch": 0.6613651424784626, + "grad_norm": 6.8875322341918945, + "learning_rate": 4.425729806765385e-06, + "loss": 0.1292, + "num_input_tokens_seen": 9782384, + "step": 4990 + }, + { + "epoch": 0.6614976805831677, + "grad_norm": 13.065975189208984, + "learning_rate": 4.425508421715565e-06, + "loss": 0.3635, + "num_input_tokens_seen": 9784872, + "step": 4991 + }, + { + "epoch": 0.6616302186878728, + "grad_norm": 0.07522980123758316, + "learning_rate": 4.425286999540617e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9786944, + "step": 4992 + }, + { + "epoch": 0.6617627567925779, + "grad_norm": 0.042785629630088806, + "learning_rate": 4.425065540244805e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9788144, + "step": 4993 + }, + { + "epoch": 0.6618952948972829, + "grad_norm": 0.03004760667681694, + "learning_rate": 4.424844043832403e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9790128, + "step": 4994 + }, + { + "epoch": 0.6620278330019881, + "grad_norm": 13.8309907913208, + "learning_rate": 4.424622510307679e-06, + "loss": 0.2251, + "num_input_tokens_seen": 9792896, + "step": 4995 + }, + { + "epoch": 0.6621603711066931, + "grad_norm": 11.583640098571777, + "learning_rate": 4.424400939674906e-06, + "loss": 0.5219, + "num_input_tokens_seen": 9794944, + "step": 4996 + }, + { + "epoch": 0.6622929092113983, + "grad_norm": 12.569435119628906, + "learning_rate": 4.424179331938355e-06, + "loss": 0.3063, + "num_input_tokens_seen": 9797352, + "step": 4997 + }, + { + "epoch": 0.6624254473161034, + "grad_norm": 8.057336807250977, + "learning_rate": 4.423957687102299e-06, + "loss": 0.1473, + "num_input_tokens_seen": 9799264, + "step": 4998 + }, + { + "epoch": 0.6625579854208085, + "grad_norm": 20.758127212524414, + "learning_rate": 4.423736005171012e-06, + "loss": 0.7184, + "num_input_tokens_seen": 9801504, + "step": 4999 + }, + { + "epoch": 0.6626905235255136, + "grad_norm": 9.654420852661133, + "learning_rate": 4.423514286148768e-06, + "loss": 0.3853, + "num_input_tokens_seen": 9803672, + "step": 5000 + }, + { + "epoch": 0.6628230616302186, + "grad_norm": 0.25291866064071655, + "learning_rate": 4.423292530039841e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9806840, + "step": 5001 + }, + { + "epoch": 0.6629555997349238, + "grad_norm": 5.552849292755127, + "learning_rate": 4.423070736848507e-06, + "loss": 0.0931, + "num_input_tokens_seen": 9808376, + "step": 5002 + }, + { + "epoch": 0.6630881378396289, + "grad_norm": 15.180678367614746, + "learning_rate": 4.422848906579042e-06, + "loss": 0.0912, + "num_input_tokens_seen": 9810656, + "step": 5003 + }, + { + "epoch": 0.663220675944334, + "grad_norm": 12.315427780151367, + "learning_rate": 4.422627039235725e-06, + "loss": 0.2831, + "num_input_tokens_seen": 9812360, + "step": 5004 + }, + { + "epoch": 0.6633532140490391, + "grad_norm": 0.5663869380950928, + "learning_rate": 4.422405134822831e-06, + "loss": 0.0031, + "num_input_tokens_seen": 9813896, + "step": 5005 + }, + { + "epoch": 0.6634857521537442, + "grad_norm": 4.510916709899902, + "learning_rate": 4.422183193344642e-06, + "loss": 0.0822, + "num_input_tokens_seen": 9815664, + "step": 5006 + }, + { + "epoch": 0.6636182902584493, + "grad_norm": 11.862811088562012, + "learning_rate": 4.421961214805432e-06, + "loss": 0.4808, + "num_input_tokens_seen": 9817176, + "step": 5007 + }, + { + "epoch": 0.6637508283631544, + "grad_norm": 11.01945686340332, + "learning_rate": 4.4217391992094864e-06, + "loss": 0.1436, + "num_input_tokens_seen": 9818744, + "step": 5008 + }, + { + "epoch": 0.6638833664678595, + "grad_norm": 3.3814823627471924, + "learning_rate": 4.4215171465610815e-06, + "loss": 0.0996, + "num_input_tokens_seen": 9820520, + "step": 5009 + }, + { + "epoch": 0.6640159045725647, + "grad_norm": 0.8859408497810364, + "learning_rate": 4.421295056864501e-06, + "loss": 0.0048, + "num_input_tokens_seen": 9822280, + "step": 5010 + }, + { + "epoch": 0.6641484426772697, + "grad_norm": 9.419044494628906, + "learning_rate": 4.4210729301240266e-06, + "loss": 0.3337, + "num_input_tokens_seen": 9823824, + "step": 5011 + }, + { + "epoch": 0.6642809807819748, + "grad_norm": 9.986599922180176, + "learning_rate": 4.42085076634394e-06, + "loss": 0.2552, + "num_input_tokens_seen": 9825968, + "step": 5012 + }, + { + "epoch": 0.6644135188866799, + "grad_norm": 8.335803985595703, + "learning_rate": 4.420628565528527e-06, + "loss": 0.2553, + "num_input_tokens_seen": 9828984, + "step": 5013 + }, + { + "epoch": 0.664546056991385, + "grad_norm": 15.004911422729492, + "learning_rate": 4.42040632768207e-06, + "loss": 0.4594, + "num_input_tokens_seen": 9831016, + "step": 5014 + }, + { + "epoch": 0.6646785950960902, + "grad_norm": 30.192182540893555, + "learning_rate": 4.420184052808854e-06, + "loss": 1.0335, + "num_input_tokens_seen": 9834088, + "step": 5015 + }, + { + "epoch": 0.6648111332007952, + "grad_norm": 15.952327728271484, + "learning_rate": 4.419961740913163e-06, + "loss": 0.163, + "num_input_tokens_seen": 9836912, + "step": 5016 + }, + { + "epoch": 0.6649436713055004, + "grad_norm": 4.233673572540283, + "learning_rate": 4.419739391999287e-06, + "loss": 0.0357, + "num_input_tokens_seen": 9838912, + "step": 5017 + }, + { + "epoch": 0.6650762094102054, + "grad_norm": 9.261635780334473, + "learning_rate": 4.419517006071511e-06, + "loss": 0.1837, + "num_input_tokens_seen": 9840848, + "step": 5018 + }, + { + "epoch": 0.6652087475149105, + "grad_norm": 0.715478777885437, + "learning_rate": 4.419294583134123e-06, + "loss": 0.0037, + "num_input_tokens_seen": 9842400, + "step": 5019 + }, + { + "epoch": 0.6653412856196156, + "grad_norm": 25.23809814453125, + "learning_rate": 4.419072123191411e-06, + "loss": 0.4748, + "num_input_tokens_seen": 9843704, + "step": 5020 + }, + { + "epoch": 0.6654738237243207, + "grad_norm": 2.126145839691162, + "learning_rate": 4.418849626247664e-06, + "loss": 0.0786, + "num_input_tokens_seen": 9845176, + "step": 5021 + }, + { + "epoch": 0.6656063618290259, + "grad_norm": 24.467252731323242, + "learning_rate": 4.418627092307174e-06, + "loss": 1.2944, + "num_input_tokens_seen": 9847992, + "step": 5022 + }, + { + "epoch": 0.6657388999337309, + "grad_norm": 0.4962744116783142, + "learning_rate": 4.418404521374229e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9850216, + "step": 5023 + }, + { + "epoch": 0.6658714380384361, + "grad_norm": 4.327403545379639, + "learning_rate": 4.418181913453121e-06, + "loss": 0.0677, + "num_input_tokens_seen": 9852520, + "step": 5024 + }, + { + "epoch": 0.6660039761431411, + "grad_norm": 9.603227615356445, + "learning_rate": 4.417959268548143e-06, + "loss": 0.2486, + "num_input_tokens_seen": 9854600, + "step": 5025 + }, + { + "epoch": 0.6661365142478463, + "grad_norm": 9.059036254882812, + "learning_rate": 4.417736586663587e-06, + "loss": 0.2638, + "num_input_tokens_seen": 9856904, + "step": 5026 + }, + { + "epoch": 0.6662690523525514, + "grad_norm": 5.030508041381836, + "learning_rate": 4.417513867803747e-06, + "loss": 0.1136, + "num_input_tokens_seen": 9858408, + "step": 5027 + }, + { + "epoch": 0.6664015904572564, + "grad_norm": 14.200212478637695, + "learning_rate": 4.417291111972917e-06, + "loss": 0.6719, + "num_input_tokens_seen": 9860312, + "step": 5028 + }, + { + "epoch": 0.6665341285619616, + "grad_norm": 0.14212562143802643, + "learning_rate": 4.417068319175391e-06, + "loss": 0.001, + "num_input_tokens_seen": 9862080, + "step": 5029 + }, + { + "epoch": 0.6666666666666666, + "grad_norm": 7.112290859222412, + "learning_rate": 4.416845489415465e-06, + "loss": 0.1419, + "num_input_tokens_seen": 9863936, + "step": 5030 + }, + { + "epoch": 0.6667992047713718, + "grad_norm": 3.9986684322357178, + "learning_rate": 4.416622622697436e-06, + "loss": 0.0323, + "num_input_tokens_seen": 9865656, + "step": 5031 + }, + { + "epoch": 0.6669317428760769, + "grad_norm": 6.242071628570557, + "learning_rate": 4.416399719025602e-06, + "loss": 0.0924, + "num_input_tokens_seen": 9867240, + "step": 5032 + }, + { + "epoch": 0.667064280980782, + "grad_norm": 0.14766113460063934, + "learning_rate": 4.416176778404258e-06, + "loss": 0.001, + "num_input_tokens_seen": 9869616, + "step": 5033 + }, + { + "epoch": 0.6671968190854871, + "grad_norm": 20.075815200805664, + "learning_rate": 4.415953800837704e-06, + "loss": 0.6163, + "num_input_tokens_seen": 9871400, + "step": 5034 + }, + { + "epoch": 0.6673293571901922, + "grad_norm": 0.17864811420440674, + "learning_rate": 4.415730786330238e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9873608, + "step": 5035 + }, + { + "epoch": 0.6674618952948973, + "grad_norm": 18.78772735595703, + "learning_rate": 4.415507734886162e-06, + "loss": 0.3052, + "num_input_tokens_seen": 9875672, + "step": 5036 + }, + { + "epoch": 0.6675944333996023, + "grad_norm": 10.10122299194336, + "learning_rate": 4.415284646509775e-06, + "loss": 0.3539, + "num_input_tokens_seen": 9877736, + "step": 5037 + }, + { + "epoch": 0.6677269715043075, + "grad_norm": 5.717212677001953, + "learning_rate": 4.415061521205379e-06, + "loss": 0.1252, + "num_input_tokens_seen": 9879688, + "step": 5038 + }, + { + "epoch": 0.6678595096090126, + "grad_norm": 7.765366077423096, + "learning_rate": 4.414838358977276e-06, + "loss": 0.1498, + "num_input_tokens_seen": 9881624, + "step": 5039 + }, + { + "epoch": 0.6679920477137177, + "grad_norm": 0.09273875504732132, + "learning_rate": 4.414615159829768e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9883080, + "step": 5040 + }, + { + "epoch": 0.6681245858184228, + "grad_norm": 12.386722564697266, + "learning_rate": 4.4143919237671595e-06, + "loss": 0.3715, + "num_input_tokens_seen": 9885576, + "step": 5041 + }, + { + "epoch": 0.6682571239231279, + "grad_norm": 0.190579354763031, + "learning_rate": 4.414168650793753e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9886888, + "step": 5042 + }, + { + "epoch": 0.668389662027833, + "grad_norm": 5.57904577255249, + "learning_rate": 4.413945340913855e-06, + "loss": 0.1759, + "num_input_tokens_seen": 9888640, + "step": 5043 + }, + { + "epoch": 0.6685222001325382, + "grad_norm": 0.106113962829113, + "learning_rate": 4.413721994131771e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9890640, + "step": 5044 + }, + { + "epoch": 0.6686547382372432, + "grad_norm": 4.529018878936768, + "learning_rate": 4.4134986104518065e-06, + "loss": 0.028, + "num_input_tokens_seen": 9892568, + "step": 5045 + }, + { + "epoch": 0.6687872763419483, + "grad_norm": 11.19788646697998, + "learning_rate": 4.4132751898782676e-06, + "loss": 0.3302, + "num_input_tokens_seen": 9894744, + "step": 5046 + }, + { + "epoch": 0.6689198144466534, + "grad_norm": 2.2651402950286865, + "learning_rate": 4.4130517324154645e-06, + "loss": 0.0268, + "num_input_tokens_seen": 9896528, + "step": 5047 + }, + { + "epoch": 0.6690523525513585, + "grad_norm": 0.4463745951652527, + "learning_rate": 4.412828238067704e-06, + "loss": 0.0029, + "num_input_tokens_seen": 9897952, + "step": 5048 + }, + { + "epoch": 0.6691848906560636, + "grad_norm": 9.748815536499023, + "learning_rate": 4.412604706839294e-06, + "loss": 0.2879, + "num_input_tokens_seen": 9899840, + "step": 5049 + }, + { + "epoch": 0.6693174287607687, + "grad_norm": 0.17950616776943207, + "learning_rate": 4.412381138734547e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9900984, + "step": 5050 + }, + { + "epoch": 0.6694499668654739, + "grad_norm": 18.12680435180664, + "learning_rate": 4.4121575337577725e-06, + "loss": 0.6558, + "num_input_tokens_seen": 9902728, + "step": 5051 + }, + { + "epoch": 0.6695825049701789, + "grad_norm": 10.23061466217041, + "learning_rate": 4.411933891913281e-06, + "loss": 0.4668, + "num_input_tokens_seen": 9904536, + "step": 5052 + }, + { + "epoch": 0.669715043074884, + "grad_norm": 0.5455088019371033, + "learning_rate": 4.411710213205386e-06, + "loss": 0.0036, + "num_input_tokens_seen": 9906256, + "step": 5053 + }, + { + "epoch": 0.6698475811795891, + "grad_norm": 4.464481830596924, + "learning_rate": 4.411486497638399e-06, + "loss": 0.0307, + "num_input_tokens_seen": 9908024, + "step": 5054 + }, + { + "epoch": 0.6699801192842942, + "grad_norm": 0.10425784438848495, + "learning_rate": 4.411262745216633e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9910368, + "step": 5055 + }, + { + "epoch": 0.6701126573889994, + "grad_norm": 10.11318588256836, + "learning_rate": 4.411038955944403e-06, + "loss": 0.436, + "num_input_tokens_seen": 9912680, + "step": 5056 + }, + { + "epoch": 0.6702451954937044, + "grad_norm": 7.7582783699035645, + "learning_rate": 4.410815129826025e-06, + "loss": 0.2796, + "num_input_tokens_seen": 9914472, + "step": 5057 + }, + { + "epoch": 0.6703777335984096, + "grad_norm": 13.129932403564453, + "learning_rate": 4.410591266865812e-06, + "loss": 0.4313, + "num_input_tokens_seen": 9918120, + "step": 5058 + }, + { + "epoch": 0.6705102717031146, + "grad_norm": 3.296034097671509, + "learning_rate": 4.410367367068081e-06, + "loss": 0.0263, + "num_input_tokens_seen": 9920608, + "step": 5059 + }, + { + "epoch": 0.6706428098078198, + "grad_norm": 9.669759750366211, + "learning_rate": 4.410143430437149e-06, + "loss": 0.1508, + "num_input_tokens_seen": 9922712, + "step": 5060 + }, + { + "epoch": 0.6707753479125248, + "grad_norm": 0.13385877013206482, + "learning_rate": 4.409919456977335e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9925560, + "step": 5061 + }, + { + "epoch": 0.67090788601723, + "grad_norm": 8.13770866394043, + "learning_rate": 4.409695446692955e-06, + "loss": 0.2427, + "num_input_tokens_seen": 9927880, + "step": 5062 + }, + { + "epoch": 0.6710404241219351, + "grad_norm": 0.09607189893722534, + "learning_rate": 4.4094713995883304e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9929744, + "step": 5063 + }, + { + "epoch": 0.6711729622266401, + "grad_norm": 17.464380264282227, + "learning_rate": 4.4092473156677795e-06, + "loss": 0.8497, + "num_input_tokens_seen": 9932808, + "step": 5064 + }, + { + "epoch": 0.6713055003313453, + "grad_norm": 0.20174774527549744, + "learning_rate": 4.409023194935623e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9935472, + "step": 5065 + }, + { + "epoch": 0.6714380384360503, + "grad_norm": 2.341762065887451, + "learning_rate": 4.408799037396183e-06, + "loss": 0.0109, + "num_input_tokens_seen": 9937104, + "step": 5066 + }, + { + "epoch": 0.6715705765407555, + "grad_norm": 1.1015726327896118, + "learning_rate": 4.408574843053781e-06, + "loss": 0.0052, + "num_input_tokens_seen": 9939040, + "step": 5067 + }, + { + "epoch": 0.6717031146454606, + "grad_norm": 8.07042121887207, + "learning_rate": 4.408350611912739e-06, + "loss": 0.278, + "num_input_tokens_seen": 9941528, + "step": 5068 + }, + { + "epoch": 0.6718356527501657, + "grad_norm": 2.494370460510254, + "learning_rate": 4.40812634397738e-06, + "loss": 0.019, + "num_input_tokens_seen": 9943656, + "step": 5069 + }, + { + "epoch": 0.6719681908548708, + "grad_norm": 5.115164756774902, + "learning_rate": 4.407902039252029e-06, + "loss": 0.1386, + "num_input_tokens_seen": 9945536, + "step": 5070 + }, + { + "epoch": 0.6721007289595758, + "grad_norm": 7.323765754699707, + "learning_rate": 4.407677697741011e-06, + "loss": 0.0923, + "num_input_tokens_seen": 9947696, + "step": 5071 + }, + { + "epoch": 0.672233267064281, + "grad_norm": 5.594784259796143, + "learning_rate": 4.40745331944865e-06, + "loss": 0.1361, + "num_input_tokens_seen": 9949160, + "step": 5072 + }, + { + "epoch": 0.672365805168986, + "grad_norm": 5.180838108062744, + "learning_rate": 4.407228904379274e-06, + "loss": 0.1081, + "num_input_tokens_seen": 9951296, + "step": 5073 + }, + { + "epoch": 0.6724983432736912, + "grad_norm": 0.03395497426390648, + "learning_rate": 4.407004452537209e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9953032, + "step": 5074 + }, + { + "epoch": 0.6726308813783963, + "grad_norm": 5.230647563934326, + "learning_rate": 4.406779963926782e-06, + "loss": 0.1623, + "num_input_tokens_seen": 9955040, + "step": 5075 + }, + { + "epoch": 0.6727634194831014, + "grad_norm": 5.3114824295043945, + "learning_rate": 4.406555438552322e-06, + "loss": 0.1561, + "num_input_tokens_seen": 9956904, + "step": 5076 + }, + { + "epoch": 0.6728959575878065, + "grad_norm": 0.02076246775686741, + "learning_rate": 4.406330876418158e-06, + "loss": 0.0001, + "num_input_tokens_seen": 9959328, + "step": 5077 + }, + { + "epoch": 0.6730284956925116, + "grad_norm": 18.329252243041992, + "learning_rate": 4.40610627752862e-06, + "loss": 0.5498, + "num_input_tokens_seen": 9961584, + "step": 5078 + }, + { + "epoch": 0.6731610337972167, + "grad_norm": 0.0381946824491024, + "learning_rate": 4.405881641888038e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9963408, + "step": 5079 + }, + { + "epoch": 0.6732935719019219, + "grad_norm": 7.628283500671387, + "learning_rate": 4.405656969500742e-06, + "loss": 0.2154, + "num_input_tokens_seen": 9966168, + "step": 5080 + }, + { + "epoch": 0.6734261100066269, + "grad_norm": 0.015847966074943542, + "learning_rate": 4.405432260371066e-06, + "loss": 0.0001, + "num_input_tokens_seen": 9967768, + "step": 5081 + }, + { + "epoch": 0.673558648111332, + "grad_norm": 15.920512199401855, + "learning_rate": 4.405207514503341e-06, + "loss": 0.714, + "num_input_tokens_seen": 9970320, + "step": 5082 + }, + { + "epoch": 0.6736911862160371, + "grad_norm": 0.029172945767641068, + "learning_rate": 4.4049827319019015e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9971592, + "step": 5083 + }, + { + "epoch": 0.6738237243207422, + "grad_norm": 7.37698221206665, + "learning_rate": 4.40475791257108e-06, + "loss": 0.1768, + "num_input_tokens_seen": 9972952, + "step": 5084 + }, + { + "epoch": 0.6739562624254473, + "grad_norm": 0.1236468106508255, + "learning_rate": 4.404533056515213e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9974296, + "step": 5085 + }, + { + "epoch": 0.6740888005301524, + "grad_norm": 4.536341667175293, + "learning_rate": 4.404308163738634e-06, + "loss": 0.1213, + "num_input_tokens_seen": 9975856, + "step": 5086 + }, + { + "epoch": 0.6742213386348576, + "grad_norm": 12.280192375183105, + "learning_rate": 4.40408323424568e-06, + "loss": 0.1738, + "num_input_tokens_seen": 9977280, + "step": 5087 + }, + { + "epoch": 0.6743538767395626, + "grad_norm": 9.334624290466309, + "learning_rate": 4.403858268040688e-06, + "loss": 0.1273, + "num_input_tokens_seen": 9979472, + "step": 5088 + }, + { + "epoch": 0.6744864148442677, + "grad_norm": 10.807537078857422, + "learning_rate": 4.403633265127995e-06, + "loss": 0.5099, + "num_input_tokens_seen": 9982840, + "step": 5089 + }, + { + "epoch": 0.6746189529489728, + "grad_norm": 11.606165885925293, + "learning_rate": 4.40340822551194e-06, + "loss": 0.3692, + "num_input_tokens_seen": 9985032, + "step": 5090 + }, + { + "epoch": 0.6747514910536779, + "grad_norm": 0.4771312177181244, + "learning_rate": 4.40318314919686e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9987528, + "step": 5091 + }, + { + "epoch": 0.6748840291583831, + "grad_norm": 9.602693557739258, + "learning_rate": 4.402958036187096e-06, + "loss": 0.261, + "num_input_tokens_seen": 9989528, + "step": 5092 + }, + { + "epoch": 0.6750165672630881, + "grad_norm": 10.47360610961914, + "learning_rate": 4.402732886486989e-06, + "loss": 0.2707, + "num_input_tokens_seen": 9992080, + "step": 5093 + }, + { + "epoch": 0.6751491053677933, + "grad_norm": 17.313518524169922, + "learning_rate": 4.402507700100879e-06, + "loss": 0.501, + "num_input_tokens_seen": 9993304, + "step": 5094 + }, + { + "epoch": 0.6752816434724983, + "grad_norm": 7.180430889129639, + "learning_rate": 4.402282477033109e-06, + "loss": 0.2267, + "num_input_tokens_seen": 9995136, + "step": 5095 + }, + { + "epoch": 0.6754141815772035, + "grad_norm": 10.786030769348145, + "learning_rate": 4.402057217288019e-06, + "loss": 0.2575, + "num_input_tokens_seen": 9996752, + "step": 5096 + }, + { + "epoch": 0.6755467196819086, + "grad_norm": 0.11024980247020721, + "learning_rate": 4.401831920869954e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9997696, + "step": 5097 + }, + { + "epoch": 0.6756792577866136, + "grad_norm": 9.799957275390625, + "learning_rate": 4.401606587783258e-06, + "loss": 0.0871, + "num_input_tokens_seen": 9999552, + "step": 5098 + }, + { + "epoch": 0.6758117958913188, + "grad_norm": 0.19720172882080078, + "learning_rate": 4.4013812180322755e-06, + "loss": 0.0013, + "num_input_tokens_seen": 10001096, + "step": 5099 + }, + { + "epoch": 0.6759443339960238, + "grad_norm": 0.14439494907855988, + "learning_rate": 4.4011558116213506e-06, + "loss": 0.001, + "num_input_tokens_seen": 10002952, + "step": 5100 + }, + { + "epoch": 0.676076872100729, + "grad_norm": 12.2544584274292, + "learning_rate": 4.400930368554831e-06, + "loss": 0.5235, + "num_input_tokens_seen": 10004976, + "step": 5101 + }, + { + "epoch": 0.676209410205434, + "grad_norm": 15.562100410461426, + "learning_rate": 4.400704888837062e-06, + "loss": 0.4753, + "num_input_tokens_seen": 10007512, + "step": 5102 + }, + { + "epoch": 0.6763419483101392, + "grad_norm": 0.2386159598827362, + "learning_rate": 4.400479372472392e-06, + "loss": 0.0017, + "num_input_tokens_seen": 10008632, + "step": 5103 + }, + { + "epoch": 0.6764744864148443, + "grad_norm": 8.07843017578125, + "learning_rate": 4.400253819465168e-06, + "loss": 0.2633, + "num_input_tokens_seen": 10009776, + "step": 5104 + }, + { + "epoch": 0.6766070245195493, + "grad_norm": 0.3921319246292114, + "learning_rate": 4.400028229819739e-06, + "loss": 0.0028, + "num_input_tokens_seen": 10011712, + "step": 5105 + }, + { + "epoch": 0.6767395626242545, + "grad_norm": 18.368431091308594, + "learning_rate": 4.399802603540456e-06, + "loss": 0.6072, + "num_input_tokens_seen": 10014448, + "step": 5106 + }, + { + "epoch": 0.6768721007289595, + "grad_norm": 14.085212707519531, + "learning_rate": 4.399576940631668e-06, + "loss": 0.2236, + "num_input_tokens_seen": 10015936, + "step": 5107 + }, + { + "epoch": 0.6770046388336647, + "grad_norm": 20.190231323242188, + "learning_rate": 4.399351241097726e-06, + "loss": 0.6187, + "num_input_tokens_seen": 10018496, + "step": 5108 + }, + { + "epoch": 0.6771371769383698, + "grad_norm": 12.832771301269531, + "learning_rate": 4.399125504942982e-06, + "loss": 0.535, + "num_input_tokens_seen": 10020096, + "step": 5109 + }, + { + "epoch": 0.6772697150430749, + "grad_norm": 17.57253646850586, + "learning_rate": 4.398899732171787e-06, + "loss": 0.3736, + "num_input_tokens_seen": 10021616, + "step": 5110 + }, + { + "epoch": 0.67740225314778, + "grad_norm": 12.094898223876953, + "learning_rate": 4.398673922788497e-06, + "loss": 0.2396, + "num_input_tokens_seen": 10023520, + "step": 5111 + }, + { + "epoch": 0.6775347912524851, + "grad_norm": 10.971561431884766, + "learning_rate": 4.3984480767974625e-06, + "loss": 0.3923, + "num_input_tokens_seen": 10025736, + "step": 5112 + }, + { + "epoch": 0.6776673293571902, + "grad_norm": 0.4917202293872833, + "learning_rate": 4.398222194203039e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10027328, + "step": 5113 + }, + { + "epoch": 0.6777998674618952, + "grad_norm": 7.606281757354736, + "learning_rate": 4.3979962750095836e-06, + "loss": 0.1778, + "num_input_tokens_seen": 10029240, + "step": 5114 + }, + { + "epoch": 0.6779324055666004, + "grad_norm": 0.25366276502609253, + "learning_rate": 4.39777031922145e-06, + "loss": 0.0018, + "num_input_tokens_seen": 10031744, + "step": 5115 + }, + { + "epoch": 0.6780649436713055, + "grad_norm": 14.961990356445312, + "learning_rate": 4.397544326842995e-06, + "loss": 0.3837, + "num_input_tokens_seen": 10034144, + "step": 5116 + }, + { + "epoch": 0.6781974817760106, + "grad_norm": 8.941864967346191, + "learning_rate": 4.397318297878577e-06, + "loss": 0.2587, + "num_input_tokens_seen": 10035784, + "step": 5117 + }, + { + "epoch": 0.6783300198807157, + "grad_norm": 5.699052333831787, + "learning_rate": 4.397092232332553e-06, + "loss": 0.2017, + "num_input_tokens_seen": 10037672, + "step": 5118 + }, + { + "epoch": 0.6784625579854208, + "grad_norm": 12.88026237487793, + "learning_rate": 4.396866130209282e-06, + "loss": 0.4548, + "num_input_tokens_seen": 10039416, + "step": 5119 + }, + { + "epoch": 0.6785950960901259, + "grad_norm": 16.35521697998047, + "learning_rate": 4.396639991513124e-06, + "loss": 0.5328, + "num_input_tokens_seen": 10041800, + "step": 5120 + }, + { + "epoch": 0.6787276341948311, + "grad_norm": 6.698175430297852, + "learning_rate": 4.396413816248438e-06, + "loss": 0.1041, + "num_input_tokens_seen": 10044784, + "step": 5121 + }, + { + "epoch": 0.6788601722995361, + "grad_norm": 1.4897096157073975, + "learning_rate": 4.396187604419585e-06, + "loss": 0.0107, + "num_input_tokens_seen": 10046584, + "step": 5122 + }, + { + "epoch": 0.6789927104042413, + "grad_norm": 10.547821044921875, + "learning_rate": 4.395961356030928e-06, + "loss": 0.2656, + "num_input_tokens_seen": 10049032, + "step": 5123 + }, + { + "epoch": 0.6791252485089463, + "grad_norm": 0.6442855000495911, + "learning_rate": 4.395735071086828e-06, + "loss": 0.0044, + "num_input_tokens_seen": 10050616, + "step": 5124 + }, + { + "epoch": 0.6792577866136514, + "grad_norm": 4.081016540527344, + "learning_rate": 4.395508749591647e-06, + "loss": 0.0346, + "num_input_tokens_seen": 10051752, + "step": 5125 + }, + { + "epoch": 0.6793903247183565, + "grad_norm": 19.204418182373047, + "learning_rate": 4.39528239154975e-06, + "loss": 0.4233, + "num_input_tokens_seen": 10053840, + "step": 5126 + }, + { + "epoch": 0.6795228628230616, + "grad_norm": 0.38819560408592224, + "learning_rate": 4.395055996965501e-06, + "loss": 0.0027, + "num_input_tokens_seen": 10055600, + "step": 5127 + }, + { + "epoch": 0.6796554009277668, + "grad_norm": 5.8730268478393555, + "learning_rate": 4.394829565843265e-06, + "loss": 0.0957, + "num_input_tokens_seen": 10058528, + "step": 5128 + }, + { + "epoch": 0.6797879390324718, + "grad_norm": 7.633223533630371, + "learning_rate": 4.394603098187408e-06, + "loss": 0.1299, + "num_input_tokens_seen": 10060472, + "step": 5129 + }, + { + "epoch": 0.679920477137177, + "grad_norm": 11.324410438537598, + "learning_rate": 4.3943765940022965e-06, + "loss": 0.1356, + "num_input_tokens_seen": 10061800, + "step": 5130 + }, + { + "epoch": 0.680053015241882, + "grad_norm": 7.574645519256592, + "learning_rate": 4.394150053292297e-06, + "loss": 0.2034, + "num_input_tokens_seen": 10064072, + "step": 5131 + }, + { + "epoch": 0.6801855533465871, + "grad_norm": 8.12269401550293, + "learning_rate": 4.393923476061778e-06, + "loss": 0.161, + "num_input_tokens_seen": 10066216, + "step": 5132 + }, + { + "epoch": 0.6803180914512923, + "grad_norm": 1.8340046405792236, + "learning_rate": 4.393696862315107e-06, + "loss": 0.0121, + "num_input_tokens_seen": 10068064, + "step": 5133 + }, + { + "epoch": 0.6804506295559973, + "grad_norm": 10.71570873260498, + "learning_rate": 4.393470212056655e-06, + "loss": 0.3858, + "num_input_tokens_seen": 10069976, + "step": 5134 + }, + { + "epoch": 0.6805831676607025, + "grad_norm": 0.16110946238040924, + "learning_rate": 4.3932435252907914e-06, + "loss": 0.0011, + "num_input_tokens_seen": 10071336, + "step": 5135 + }, + { + "epoch": 0.6807157057654075, + "grad_norm": 12.69213581085205, + "learning_rate": 4.3930168020218855e-06, + "loss": 0.4975, + "num_input_tokens_seen": 10073208, + "step": 5136 + }, + { + "epoch": 0.6808482438701127, + "grad_norm": 4.869973182678223, + "learning_rate": 4.39279004225431e-06, + "loss": 0.0889, + "num_input_tokens_seen": 10075392, + "step": 5137 + }, + { + "epoch": 0.6809807819748177, + "grad_norm": 0.6059229373931885, + "learning_rate": 4.392563245992437e-06, + "loss": 0.004, + "num_input_tokens_seen": 10077256, + "step": 5138 + }, + { + "epoch": 0.6811133200795229, + "grad_norm": 10.862265586853027, + "learning_rate": 4.39233641324064e-06, + "loss": 0.231, + "num_input_tokens_seen": 10078920, + "step": 5139 + }, + { + "epoch": 0.681245858184228, + "grad_norm": 10.850610733032227, + "learning_rate": 4.3921095440032905e-06, + "loss": 0.3785, + "num_input_tokens_seen": 10081856, + "step": 5140 + }, + { + "epoch": 0.681378396288933, + "grad_norm": 5.917884349822998, + "learning_rate": 4.391882638284763e-06, + "loss": 0.2369, + "num_input_tokens_seen": 10083968, + "step": 5141 + }, + { + "epoch": 0.6815109343936382, + "grad_norm": 9.508611679077148, + "learning_rate": 4.391655696089433e-06, + "loss": 0.2836, + "num_input_tokens_seen": 10085824, + "step": 5142 + }, + { + "epoch": 0.6816434724983432, + "grad_norm": 5.912469863891602, + "learning_rate": 4.3914287174216774e-06, + "loss": 0.1479, + "num_input_tokens_seen": 10087856, + "step": 5143 + }, + { + "epoch": 0.6817760106030484, + "grad_norm": 6.553494453430176, + "learning_rate": 4.391201702285871e-06, + "loss": 0.1434, + "num_input_tokens_seen": 10089800, + "step": 5144 + }, + { + "epoch": 0.6819085487077535, + "grad_norm": 0.08189654350280762, + "learning_rate": 4.390974650686391e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10091528, + "step": 5145 + }, + { + "epoch": 0.6820410868124586, + "grad_norm": 4.9979681968688965, + "learning_rate": 4.3907475626276155e-06, + "loss": 0.1786, + "num_input_tokens_seen": 10093536, + "step": 5146 + }, + { + "epoch": 0.6821736249171637, + "grad_norm": 0.08108515292406082, + "learning_rate": 4.390520438113922e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10095920, + "step": 5147 + }, + { + "epoch": 0.6823061630218688, + "grad_norm": 9.103939056396484, + "learning_rate": 4.39029327714969e-06, + "loss": 0.3121, + "num_input_tokens_seen": 10097736, + "step": 5148 + }, + { + "epoch": 0.6824387011265739, + "grad_norm": 4.609950065612793, + "learning_rate": 4.3900660797393005e-06, + "loss": 0.1947, + "num_input_tokens_seen": 10099824, + "step": 5149 + }, + { + "epoch": 0.682571239231279, + "grad_norm": 13.706204414367676, + "learning_rate": 4.389838845887133e-06, + "loss": 0.4235, + "num_input_tokens_seen": 10101816, + "step": 5150 + }, + { + "epoch": 0.6827037773359841, + "grad_norm": 0.40879833698272705, + "learning_rate": 4.389611575597569e-06, + "loss": 0.0029, + "num_input_tokens_seen": 10103576, + "step": 5151 + }, + { + "epoch": 0.6828363154406892, + "grad_norm": 7.0339226722717285, + "learning_rate": 4.389384268874989e-06, + "loss": 0.2841, + "num_input_tokens_seen": 10104856, + "step": 5152 + }, + { + "epoch": 0.6829688535453943, + "grad_norm": 6.98808479309082, + "learning_rate": 4.3891569257237775e-06, + "loss": 0.0979, + "num_input_tokens_seen": 10106608, + "step": 5153 + }, + { + "epoch": 0.6831013916500994, + "grad_norm": 0.09090457856655121, + "learning_rate": 4.388929546148317e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10107880, + "step": 5154 + }, + { + "epoch": 0.6832339297548045, + "grad_norm": 5.910809516906738, + "learning_rate": 4.388702130152993e-06, + "loss": 0.0953, + "num_input_tokens_seen": 10110072, + "step": 5155 + }, + { + "epoch": 0.6833664678595096, + "grad_norm": 0.07751896977424622, + "learning_rate": 4.388474677742188e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10111472, + "step": 5156 + }, + { + "epoch": 0.6834990059642148, + "grad_norm": 14.025826454162598, + "learning_rate": 4.388247188920288e-06, + "loss": 0.4521, + "num_input_tokens_seen": 10113488, + "step": 5157 + }, + { + "epoch": 0.6836315440689198, + "grad_norm": 7.779784202575684, + "learning_rate": 4.38801966369168e-06, + "loss": 0.1851, + "num_input_tokens_seen": 10115000, + "step": 5158 + }, + { + "epoch": 0.6837640821736249, + "grad_norm": 2.8445193767547607, + "learning_rate": 4.387792102060751e-06, + "loss": 0.0779, + "num_input_tokens_seen": 10116488, + "step": 5159 + }, + { + "epoch": 0.68389662027833, + "grad_norm": 2.744990348815918, + "learning_rate": 4.387564504031887e-06, + "loss": 0.0209, + "num_input_tokens_seen": 10118576, + "step": 5160 + }, + { + "epoch": 0.6840291583830351, + "grad_norm": 0.25698724389076233, + "learning_rate": 4.3873368696094785e-06, + "loss": 0.0018, + "num_input_tokens_seen": 10119856, + "step": 5161 + }, + { + "epoch": 0.6841616964877403, + "grad_norm": 6.561476230621338, + "learning_rate": 4.387109198797912e-06, + "loss": 0.1156, + "num_input_tokens_seen": 10121688, + "step": 5162 + }, + { + "epoch": 0.6842942345924453, + "grad_norm": 11.146231651306152, + "learning_rate": 4.386881491601578e-06, + "loss": 0.162, + "num_input_tokens_seen": 10123096, + "step": 5163 + }, + { + "epoch": 0.6844267726971505, + "grad_norm": 0.15085971355438232, + "learning_rate": 4.386653748024868e-06, + "loss": 0.001, + "num_input_tokens_seen": 10124424, + "step": 5164 + }, + { + "epoch": 0.6845593108018555, + "grad_norm": 16.216583251953125, + "learning_rate": 4.3864259680721725e-06, + "loss": 0.5163, + "num_input_tokens_seen": 10126568, + "step": 5165 + }, + { + "epoch": 0.6846918489065607, + "grad_norm": 7.989547252655029, + "learning_rate": 4.386198151747882e-06, + "loss": 0.1866, + "num_input_tokens_seen": 10128008, + "step": 5166 + }, + { + "epoch": 0.6848243870112657, + "grad_norm": 0.11146971583366394, + "learning_rate": 4.38597029905639e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10128992, + "step": 5167 + }, + { + "epoch": 0.6849569251159708, + "grad_norm": 7.317201614379883, + "learning_rate": 4.38574241000209e-06, + "loss": 0.2573, + "num_input_tokens_seen": 10130816, + "step": 5168 + }, + { + "epoch": 0.685089463220676, + "grad_norm": 0.07720663398504257, + "learning_rate": 4.385514484589375e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10131856, + "step": 5169 + }, + { + "epoch": 0.685222001325381, + "grad_norm": 0.2312750518321991, + "learning_rate": 4.38528652282264e-06, + "loss": 0.0014, + "num_input_tokens_seen": 10133904, + "step": 5170 + }, + { + "epoch": 0.6853545394300862, + "grad_norm": 3.1167891025543213, + "learning_rate": 4.385058524706282e-06, + "loss": 0.1673, + "num_input_tokens_seen": 10136272, + "step": 5171 + }, + { + "epoch": 0.6854870775347912, + "grad_norm": 0.2546970546245575, + "learning_rate": 4.384830490244693e-06, + "loss": 0.0017, + "num_input_tokens_seen": 10137960, + "step": 5172 + }, + { + "epoch": 0.6856196156394964, + "grad_norm": 18.992210388183594, + "learning_rate": 4.384602419442272e-06, + "loss": 0.8135, + "num_input_tokens_seen": 10139320, + "step": 5173 + }, + { + "epoch": 0.6857521537442015, + "grad_norm": 7.735326766967773, + "learning_rate": 4.384374312303418e-06, + "loss": 0.2901, + "num_input_tokens_seen": 10140680, + "step": 5174 + }, + { + "epoch": 0.6858846918489065, + "grad_norm": 11.820390701293945, + "learning_rate": 4.384146168832526e-06, + "loss": 0.5068, + "num_input_tokens_seen": 10142384, + "step": 5175 + }, + { + "epoch": 0.6860172299536117, + "grad_norm": 8.235243797302246, + "learning_rate": 4.383917989033995e-06, + "loss": 0.169, + "num_input_tokens_seen": 10143904, + "step": 5176 + }, + { + "epoch": 0.6861497680583167, + "grad_norm": 6.0625762939453125, + "learning_rate": 4.383689772912227e-06, + "loss": 0.08, + "num_input_tokens_seen": 10145904, + "step": 5177 + }, + { + "epoch": 0.6862823061630219, + "grad_norm": 2.686798334121704, + "learning_rate": 4.383461520471621e-06, + "loss": 0.0439, + "num_input_tokens_seen": 10147448, + "step": 5178 + }, + { + "epoch": 0.6864148442677269, + "grad_norm": 5.788634300231934, + "learning_rate": 4.383233231716577e-06, + "loss": 0.1623, + "num_input_tokens_seen": 10149104, + "step": 5179 + }, + { + "epoch": 0.6865473823724321, + "grad_norm": 0.18411491811275482, + "learning_rate": 4.383004906651497e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10151008, + "step": 5180 + }, + { + "epoch": 0.6866799204771372, + "grad_norm": 8.171854972839355, + "learning_rate": 4.3827765452807835e-06, + "loss": 0.3028, + "num_input_tokens_seen": 10153152, + "step": 5181 + }, + { + "epoch": 0.6868124585818423, + "grad_norm": 7.945657730102539, + "learning_rate": 4.382548147608839e-06, + "loss": 0.3053, + "num_input_tokens_seen": 10155136, + "step": 5182 + }, + { + "epoch": 0.6869449966865474, + "grad_norm": 11.356136322021484, + "learning_rate": 4.382319713640068e-06, + "loss": 0.1508, + "num_input_tokens_seen": 10156792, + "step": 5183 + }, + { + "epoch": 0.6870775347912524, + "grad_norm": 6.04031229019165, + "learning_rate": 4.382091243378874e-06, + "loss": 0.1286, + "num_input_tokens_seen": 10158656, + "step": 5184 + }, + { + "epoch": 0.6872100728959576, + "grad_norm": 1.3314054012298584, + "learning_rate": 4.381862736829663e-06, + "loss": 0.0085, + "num_input_tokens_seen": 10160544, + "step": 5185 + }, + { + "epoch": 0.6873426110006627, + "grad_norm": 5.13046932220459, + "learning_rate": 4.3816341939968396e-06, + "loss": 0.1243, + "num_input_tokens_seen": 10162320, + "step": 5186 + }, + { + "epoch": 0.6874751491053678, + "grad_norm": 1.3660556077957153, + "learning_rate": 4.381405614884811e-06, + "loss": 0.0083, + "num_input_tokens_seen": 10164680, + "step": 5187 + }, + { + "epoch": 0.6876076872100729, + "grad_norm": 0.46857357025146484, + "learning_rate": 4.381176999497985e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10165872, + "step": 5188 + }, + { + "epoch": 0.687740225314778, + "grad_norm": 0.6251587271690369, + "learning_rate": 4.3809483478407674e-06, + "loss": 0.0037, + "num_input_tokens_seen": 10167888, + "step": 5189 + }, + { + "epoch": 0.6878727634194831, + "grad_norm": 0.1713877171278, + "learning_rate": 4.3807196599175684e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10170304, + "step": 5190 + }, + { + "epoch": 0.6880053015241882, + "grad_norm": 0.060870639979839325, + "learning_rate": 4.3804909357327975e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10171496, + "step": 5191 + }, + { + "epoch": 0.6881378396288933, + "grad_norm": 2.487144947052002, + "learning_rate": 4.380262175290863e-06, + "loss": 0.017, + "num_input_tokens_seen": 10174504, + "step": 5192 + }, + { + "epoch": 0.6882703777335984, + "grad_norm": 7.979701519012451, + "learning_rate": 4.3800333785961775e-06, + "loss": 0.2788, + "num_input_tokens_seen": 10176624, + "step": 5193 + }, + { + "epoch": 0.6884029158383035, + "grad_norm": 19.77692413330078, + "learning_rate": 4.379804545653152e-06, + "loss": 0.6383, + "num_input_tokens_seen": 10178824, + "step": 5194 + }, + { + "epoch": 0.6885354539430086, + "grad_norm": 32.988441467285156, + "learning_rate": 4.3795756764661974e-06, + "loss": 1.873, + "num_input_tokens_seen": 10181656, + "step": 5195 + }, + { + "epoch": 0.6886679920477137, + "grad_norm": 0.13673114776611328, + "learning_rate": 4.379346771039728e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10183280, + "step": 5196 + }, + { + "epoch": 0.6888005301524188, + "grad_norm": 0.9877931475639343, + "learning_rate": 4.379117829378155e-06, + "loss": 0.0221, + "num_input_tokens_seen": 10184872, + "step": 5197 + }, + { + "epoch": 0.688933068257124, + "grad_norm": 4.092088222503662, + "learning_rate": 4.378888851485894e-06, + "loss": 0.1318, + "num_input_tokens_seen": 10186032, + "step": 5198 + }, + { + "epoch": 0.689065606361829, + "grad_norm": 1.1899350881576538, + "learning_rate": 4.378659837367361e-06, + "loss": 0.0348, + "num_input_tokens_seen": 10187616, + "step": 5199 + }, + { + "epoch": 0.6891981444665342, + "grad_norm": 13.512741088867188, + "learning_rate": 4.378430787026969e-06, + "loss": 0.5092, + "num_input_tokens_seen": 10189200, + "step": 5200 + }, + { + "epoch": 0.6893306825712392, + "grad_norm": 7.496296405792236, + "learning_rate": 4.378201700469136e-06, + "loss": 0.1868, + "num_input_tokens_seen": 10191072, + "step": 5201 + }, + { + "epoch": 0.6894632206759443, + "grad_norm": 5.2618608474731445, + "learning_rate": 4.377972577698278e-06, + "loss": 0.075, + "num_input_tokens_seen": 10192640, + "step": 5202 + }, + { + "epoch": 0.6895957587806494, + "grad_norm": 6.543499946594238, + "learning_rate": 4.3777434187188135e-06, + "loss": 0.2141, + "num_input_tokens_seen": 10194560, + "step": 5203 + }, + { + "epoch": 0.6897282968853545, + "grad_norm": 12.690526962280273, + "learning_rate": 4.377514223535162e-06, + "loss": 0.1983, + "num_input_tokens_seen": 10196232, + "step": 5204 + }, + { + "epoch": 0.6898608349900597, + "grad_norm": 6.952563762664795, + "learning_rate": 4.377284992151739e-06, + "loss": 0.2206, + "num_input_tokens_seen": 10198192, + "step": 5205 + }, + { + "epoch": 0.6899933730947647, + "grad_norm": 9.442009925842285, + "learning_rate": 4.377055724572967e-06, + "loss": 0.4371, + "num_input_tokens_seen": 10200568, + "step": 5206 + }, + { + "epoch": 0.6901259111994699, + "grad_norm": 2.073357582092285, + "learning_rate": 4.376826420803267e-06, + "loss": 0.0186, + "num_input_tokens_seen": 10202872, + "step": 5207 + }, + { + "epoch": 0.6902584493041749, + "grad_norm": 9.931365013122559, + "learning_rate": 4.376597080847057e-06, + "loss": 0.3161, + "num_input_tokens_seen": 10205208, + "step": 5208 + }, + { + "epoch": 0.69039098740888, + "grad_norm": 14.322099685668945, + "learning_rate": 4.376367704708761e-06, + "loss": 0.3462, + "num_input_tokens_seen": 10207496, + "step": 5209 + }, + { + "epoch": 0.6905235255135852, + "grad_norm": 9.058643341064453, + "learning_rate": 4.376138292392801e-06, + "loss": 0.2825, + "num_input_tokens_seen": 10208968, + "step": 5210 + }, + { + "epoch": 0.6906560636182902, + "grad_norm": 0.1128392368555069, + "learning_rate": 4.375908843903601e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10210104, + "step": 5211 + }, + { + "epoch": 0.6907886017229954, + "grad_norm": 0.048101648688316345, + "learning_rate": 4.375679359245585e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10211648, + "step": 5212 + }, + { + "epoch": 0.6909211398277004, + "grad_norm": 0.07231906056404114, + "learning_rate": 4.375449838423176e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10213736, + "step": 5213 + }, + { + "epoch": 0.6910536779324056, + "grad_norm": 7.748062610626221, + "learning_rate": 4.3752202814408004e-06, + "loss": 0.363, + "num_input_tokens_seen": 10215168, + "step": 5214 + }, + { + "epoch": 0.6911862160371107, + "grad_norm": 0.14155329763889313, + "learning_rate": 4.374990688302885e-06, + "loss": 0.0011, + "num_input_tokens_seen": 10217056, + "step": 5215 + }, + { + "epoch": 0.6913187541418158, + "grad_norm": 10.102121353149414, + "learning_rate": 4.374761059013854e-06, + "loss": 0.5367, + "num_input_tokens_seen": 10219264, + "step": 5216 + }, + { + "epoch": 0.6914512922465209, + "grad_norm": 0.22931811213493347, + "learning_rate": 4.374531393578138e-06, + "loss": 0.0017, + "num_input_tokens_seen": 10220736, + "step": 5217 + }, + { + "epoch": 0.691583830351226, + "grad_norm": 8.334806442260742, + "learning_rate": 4.374301692000163e-06, + "loss": 0.1874, + "num_input_tokens_seen": 10222008, + "step": 5218 + }, + { + "epoch": 0.6917163684559311, + "grad_norm": 0.14932233095169067, + "learning_rate": 4.374071954284358e-06, + "loss": 0.001, + "num_input_tokens_seen": 10223568, + "step": 5219 + }, + { + "epoch": 0.6918489065606361, + "grad_norm": 0.08902860432863235, + "learning_rate": 4.3738421804351535e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10225288, + "step": 5220 + }, + { + "epoch": 0.6919814446653413, + "grad_norm": 0.10684773325920105, + "learning_rate": 4.373612370456979e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10226584, + "step": 5221 + }, + { + "epoch": 0.6921139827700464, + "grad_norm": 12.19336986541748, + "learning_rate": 4.373382524354265e-06, + "loss": 0.2667, + "num_input_tokens_seen": 10228096, + "step": 5222 + }, + { + "epoch": 0.6922465208747515, + "grad_norm": 11.567729949951172, + "learning_rate": 4.373152642131444e-06, + "loss": 0.167, + "num_input_tokens_seen": 10229880, + "step": 5223 + }, + { + "epoch": 0.6923790589794566, + "grad_norm": 0.17095962166786194, + "learning_rate": 4.372922723792947e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10232152, + "step": 5224 + }, + { + "epoch": 0.6925115970841617, + "grad_norm": 0.8013207316398621, + "learning_rate": 4.3726927693432084e-06, + "loss": 0.0053, + "num_input_tokens_seen": 10233656, + "step": 5225 + }, + { + "epoch": 0.6926441351888668, + "grad_norm": 8.57664680480957, + "learning_rate": 4.372462778786662e-06, + "loss": 0.3064, + "num_input_tokens_seen": 10235344, + "step": 5226 + }, + { + "epoch": 0.692776673293572, + "grad_norm": 17.11249351501465, + "learning_rate": 4.372232752127741e-06, + "loss": 0.6689, + "num_input_tokens_seen": 10237288, + "step": 5227 + }, + { + "epoch": 0.692909211398277, + "grad_norm": 10.308618545532227, + "learning_rate": 4.37200268937088e-06, + "loss": 0.3646, + "num_input_tokens_seen": 10239576, + "step": 5228 + }, + { + "epoch": 0.6930417495029821, + "grad_norm": 11.843452453613281, + "learning_rate": 4.371772590520516e-06, + "loss": 0.2951, + "num_input_tokens_seen": 10241528, + "step": 5229 + }, + { + "epoch": 0.6931742876076872, + "grad_norm": 5.81355094909668, + "learning_rate": 4.371542455581087e-06, + "loss": 0.1348, + "num_input_tokens_seen": 10243496, + "step": 5230 + }, + { + "epoch": 0.6933068257123923, + "grad_norm": 6.560523986816406, + "learning_rate": 4.371312284557027e-06, + "loss": 0.1707, + "num_input_tokens_seen": 10245840, + "step": 5231 + }, + { + "epoch": 0.6934393638170974, + "grad_norm": 4.5499653816223145, + "learning_rate": 4.371082077452775e-06, + "loss": 0.1984, + "num_input_tokens_seen": 10247664, + "step": 5232 + }, + { + "epoch": 0.6935719019218025, + "grad_norm": 4.0428619384765625, + "learning_rate": 4.37085183427277e-06, + "loss": 0.0853, + "num_input_tokens_seen": 10250184, + "step": 5233 + }, + { + "epoch": 0.6937044400265077, + "grad_norm": 6.735337734222412, + "learning_rate": 4.370621555021451e-06, + "loss": 0.3618, + "num_input_tokens_seen": 10252392, + "step": 5234 + }, + { + "epoch": 0.6938369781312127, + "grad_norm": 5.220327377319336, + "learning_rate": 4.370391239703257e-06, + "loss": 0.1992, + "num_input_tokens_seen": 10253864, + "step": 5235 + }, + { + "epoch": 0.6939695162359178, + "grad_norm": 0.14506489038467407, + "learning_rate": 4.370160888322631e-06, + "loss": 0.001, + "num_input_tokens_seen": 10255376, + "step": 5236 + }, + { + "epoch": 0.6941020543406229, + "grad_norm": 22.455324172973633, + "learning_rate": 4.369930500884012e-06, + "loss": 0.6093, + "num_input_tokens_seen": 10257952, + "step": 5237 + }, + { + "epoch": 0.694234592445328, + "grad_norm": 0.7495766878128052, + "learning_rate": 4.369700077391844e-06, + "loss": 0.0036, + "num_input_tokens_seen": 10259584, + "step": 5238 + }, + { + "epoch": 0.6943671305500332, + "grad_norm": 3.2545533180236816, + "learning_rate": 4.369469617850568e-06, + "loss": 0.0358, + "num_input_tokens_seen": 10260912, + "step": 5239 + }, + { + "epoch": 0.6944996686547382, + "grad_norm": 19.410465240478516, + "learning_rate": 4.369239122264628e-06, + "loss": 0.2023, + "num_input_tokens_seen": 10262568, + "step": 5240 + }, + { + "epoch": 0.6946322067594434, + "grad_norm": 9.67562198638916, + "learning_rate": 4.369008590638468e-06, + "loss": 0.3296, + "num_input_tokens_seen": 10263920, + "step": 5241 + }, + { + "epoch": 0.6947647448641484, + "grad_norm": 12.899747848510742, + "learning_rate": 4.368778022976534e-06, + "loss": 0.5128, + "num_input_tokens_seen": 10265960, + "step": 5242 + }, + { + "epoch": 0.6948972829688536, + "grad_norm": 15.291996955871582, + "learning_rate": 4.36854741928327e-06, + "loss": 0.4482, + "num_input_tokens_seen": 10267760, + "step": 5243 + }, + { + "epoch": 0.6950298210735586, + "grad_norm": 0.22596414387226105, + "learning_rate": 4.368316779563122e-06, + "loss": 0.0016, + "num_input_tokens_seen": 10269640, + "step": 5244 + }, + { + "epoch": 0.6951623591782637, + "grad_norm": 8.064006805419922, + "learning_rate": 4.3680861038205384e-06, + "loss": 0.2055, + "num_input_tokens_seen": 10271576, + "step": 5245 + }, + { + "epoch": 0.6952948972829689, + "grad_norm": 13.91385555267334, + "learning_rate": 4.367855392059965e-06, + "loss": 0.7073, + "num_input_tokens_seen": 10274352, + "step": 5246 + }, + { + "epoch": 0.6954274353876739, + "grad_norm": 7.5989460945129395, + "learning_rate": 4.367624644285853e-06, + "loss": 0.1707, + "num_input_tokens_seen": 10276056, + "step": 5247 + }, + { + "epoch": 0.6955599734923791, + "grad_norm": 0.1431422382593155, + "learning_rate": 4.367393860502648e-06, + "loss": 0.001, + "num_input_tokens_seen": 10277112, + "step": 5248 + }, + { + "epoch": 0.6956925115970841, + "grad_norm": 17.388700485229492, + "learning_rate": 4.367163040714801e-06, + "loss": 0.7218, + "num_input_tokens_seen": 10279016, + "step": 5249 + }, + { + "epoch": 0.6958250497017893, + "grad_norm": 8.644015312194824, + "learning_rate": 4.366932184926763e-06, + "loss": 0.2846, + "num_input_tokens_seen": 10280624, + "step": 5250 + }, + { + "epoch": 0.6959575878064944, + "grad_norm": 3.996027946472168, + "learning_rate": 4.366701293142985e-06, + "loss": 0.0467, + "num_input_tokens_seen": 10283112, + "step": 5251 + }, + { + "epoch": 0.6960901259111995, + "grad_norm": 12.316780090332031, + "learning_rate": 4.366470365367918e-06, + "loss": 0.3997, + "num_input_tokens_seen": 10285248, + "step": 5252 + }, + { + "epoch": 0.6962226640159046, + "grad_norm": 5.466716289520264, + "learning_rate": 4.366239401606014e-06, + "loss": 0.0578, + "num_input_tokens_seen": 10287336, + "step": 5253 + }, + { + "epoch": 0.6963552021206096, + "grad_norm": 0.5244131684303284, + "learning_rate": 4.366008401861727e-06, + "loss": 0.0036, + "num_input_tokens_seen": 10290008, + "step": 5254 + }, + { + "epoch": 0.6964877402253148, + "grad_norm": 0.3388371169567108, + "learning_rate": 4.3657773661395115e-06, + "loss": 0.0023, + "num_input_tokens_seen": 10291552, + "step": 5255 + }, + { + "epoch": 0.6966202783300198, + "grad_norm": 11.980232238769531, + "learning_rate": 4.365546294443821e-06, + "loss": 0.2772, + "num_input_tokens_seen": 10293960, + "step": 5256 + }, + { + "epoch": 0.696752816434725, + "grad_norm": 11.34706974029541, + "learning_rate": 4.36531518677911e-06, + "loss": 0.2289, + "num_input_tokens_seen": 10295552, + "step": 5257 + }, + { + "epoch": 0.6968853545394301, + "grad_norm": 0.4876137673854828, + "learning_rate": 4.3650840431498365e-06, + "loss": 0.0033, + "num_input_tokens_seen": 10297024, + "step": 5258 + }, + { + "epoch": 0.6970178926441352, + "grad_norm": 0.10733532905578613, + "learning_rate": 4.364852863560456e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10298296, + "step": 5259 + }, + { + "epoch": 0.6971504307488403, + "grad_norm": 10.179142951965332, + "learning_rate": 4.364621648015426e-06, + "loss": 0.2033, + "num_input_tokens_seen": 10300256, + "step": 5260 + }, + { + "epoch": 0.6972829688535453, + "grad_norm": 13.415271759033203, + "learning_rate": 4.364390396519203e-06, + "loss": 0.2783, + "num_input_tokens_seen": 10302560, + "step": 5261 + }, + { + "epoch": 0.6974155069582505, + "grad_norm": 0.10923636704683304, + "learning_rate": 4.364159109076248e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10304168, + "step": 5262 + }, + { + "epoch": 0.6975480450629556, + "grad_norm": 2.047806739807129, + "learning_rate": 4.363927785691019e-06, + "loss": 0.0084, + "num_input_tokens_seen": 10305552, + "step": 5263 + }, + { + "epoch": 0.6976805831676607, + "grad_norm": 0.14924830198287964, + "learning_rate": 4.363696426367976e-06, + "loss": 0.001, + "num_input_tokens_seen": 10307032, + "step": 5264 + }, + { + "epoch": 0.6978131212723658, + "grad_norm": 10.935125350952148, + "learning_rate": 4.363465031111581e-06, + "loss": 0.2968, + "num_input_tokens_seen": 10308728, + "step": 5265 + }, + { + "epoch": 0.6979456593770709, + "grad_norm": 8.447747230529785, + "learning_rate": 4.3632335999262945e-06, + "loss": 0.3276, + "num_input_tokens_seen": 10311216, + "step": 5266 + }, + { + "epoch": 0.698078197481776, + "grad_norm": 7.594271659851074, + "learning_rate": 4.363002132816578e-06, + "loss": 0.2177, + "num_input_tokens_seen": 10313480, + "step": 5267 + }, + { + "epoch": 0.6982107355864812, + "grad_norm": 7.9201765060424805, + "learning_rate": 4.362770629786896e-06, + "loss": 0.2559, + "num_input_tokens_seen": 10315072, + "step": 5268 + }, + { + "epoch": 0.6983432736911862, + "grad_norm": 4.4513421058654785, + "learning_rate": 4.362539090841711e-06, + "loss": 0.0652, + "num_input_tokens_seen": 10316880, + "step": 5269 + }, + { + "epoch": 0.6984758117958914, + "grad_norm": 7.337923049926758, + "learning_rate": 4.362307515985488e-06, + "loss": 0.1356, + "num_input_tokens_seen": 10319328, + "step": 5270 + }, + { + "epoch": 0.6986083499005964, + "grad_norm": 13.303313255310059, + "learning_rate": 4.36207590522269e-06, + "loss": 0.3061, + "num_input_tokens_seen": 10320984, + "step": 5271 + }, + { + "epoch": 0.6987408880053015, + "grad_norm": 4.793094635009766, + "learning_rate": 4.361844258557786e-06, + "loss": 0.0435, + "num_input_tokens_seen": 10322872, + "step": 5272 + }, + { + "epoch": 0.6988734261100066, + "grad_norm": 1.6766669750213623, + "learning_rate": 4.361612575995239e-06, + "loss": 0.0115, + "num_input_tokens_seen": 10324520, + "step": 5273 + }, + { + "epoch": 0.6990059642147117, + "grad_norm": 0.7178148627281189, + "learning_rate": 4.361380857539517e-06, + "loss": 0.0048, + "num_input_tokens_seen": 10326032, + "step": 5274 + }, + { + "epoch": 0.6991385023194169, + "grad_norm": 5.723263740539551, + "learning_rate": 4.361149103195088e-06, + "loss": 0.2274, + "num_input_tokens_seen": 10327944, + "step": 5275 + }, + { + "epoch": 0.6992710404241219, + "grad_norm": 0.012143773958086967, + "learning_rate": 4.3609173129664216e-06, + "loss": 0.0001, + "num_input_tokens_seen": 10329096, + "step": 5276 + }, + { + "epoch": 0.6994035785288271, + "grad_norm": 0.014949504286050797, + "learning_rate": 4.360685486857984e-06, + "loss": 0.0001, + "num_input_tokens_seen": 10330840, + "step": 5277 + }, + { + "epoch": 0.6995361166335321, + "grad_norm": 0.05713149905204773, + "learning_rate": 4.360453624874248e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10333288, + "step": 5278 + }, + { + "epoch": 0.6996686547382373, + "grad_norm": 9.647068977355957, + "learning_rate": 4.360221727019682e-06, + "loss": 0.2069, + "num_input_tokens_seen": 10334976, + "step": 5279 + }, + { + "epoch": 0.6998011928429424, + "grad_norm": 7.801065921783447, + "learning_rate": 4.359989793298757e-06, + "loss": 0.2666, + "num_input_tokens_seen": 10337008, + "step": 5280 + }, + { + "epoch": 0.6999337309476474, + "grad_norm": 5.655546188354492, + "learning_rate": 4.359757823715946e-06, + "loss": 0.1989, + "num_input_tokens_seen": 10339272, + "step": 5281 + }, + { + "epoch": 0.7000662690523526, + "grad_norm": 9.195932388305664, + "learning_rate": 4.3595258182757226e-06, + "loss": 0.3398, + "num_input_tokens_seen": 10340824, + "step": 5282 + }, + { + "epoch": 0.7001988071570576, + "grad_norm": 13.319113731384277, + "learning_rate": 4.359293776982558e-06, + "loss": 0.5047, + "num_input_tokens_seen": 10343080, + "step": 5283 + }, + { + "epoch": 0.7003313452617628, + "grad_norm": 12.953853607177734, + "learning_rate": 4.359061699840925e-06, + "loss": 0.4603, + "num_input_tokens_seen": 10345808, + "step": 5284 + }, + { + "epoch": 0.7004638833664678, + "grad_norm": 3.146357774734497, + "learning_rate": 4.358829586855302e-06, + "loss": 0.1006, + "num_input_tokens_seen": 10347248, + "step": 5285 + }, + { + "epoch": 0.700596421471173, + "grad_norm": 7.401439189910889, + "learning_rate": 4.358597438030161e-06, + "loss": 0.1483, + "num_input_tokens_seen": 10348872, + "step": 5286 + }, + { + "epoch": 0.7007289595758781, + "grad_norm": 9.841824531555176, + "learning_rate": 4.3583652533699795e-06, + "loss": 0.2142, + "num_input_tokens_seen": 10350800, + "step": 5287 + }, + { + "epoch": 0.7008614976805831, + "grad_norm": 13.105070114135742, + "learning_rate": 4.358133032879234e-06, + "loss": 0.3994, + "num_input_tokens_seen": 10352616, + "step": 5288 + }, + { + "epoch": 0.7009940357852883, + "grad_norm": 1.8817970752716064, + "learning_rate": 4.3579007765624024e-06, + "loss": 0.0144, + "num_input_tokens_seen": 10354424, + "step": 5289 + }, + { + "epoch": 0.7011265738899933, + "grad_norm": 4.865450382232666, + "learning_rate": 4.357668484423961e-06, + "loss": 0.1506, + "num_input_tokens_seen": 10356032, + "step": 5290 + }, + { + "epoch": 0.7012591119946985, + "grad_norm": 6.411260604858398, + "learning_rate": 4.357436156468391e-06, + "loss": 0.1294, + "num_input_tokens_seen": 10358024, + "step": 5291 + }, + { + "epoch": 0.7013916500994036, + "grad_norm": 12.339280128479004, + "learning_rate": 4.357203792700169e-06, + "loss": 0.4542, + "num_input_tokens_seen": 10360360, + "step": 5292 + }, + { + "epoch": 0.7015241882041087, + "grad_norm": 1.5538820028305054, + "learning_rate": 4.356971393123778e-06, + "loss": 0.0192, + "num_input_tokens_seen": 10361664, + "step": 5293 + }, + { + "epoch": 0.7016567263088138, + "grad_norm": 0.35731470584869385, + "learning_rate": 4.3567389577436965e-06, + "loss": 0.0024, + "num_input_tokens_seen": 10363840, + "step": 5294 + }, + { + "epoch": 0.7017892644135189, + "grad_norm": 8.202995300292969, + "learning_rate": 4.3565064865644074e-06, + "loss": 0.283, + "num_input_tokens_seen": 10365888, + "step": 5295 + }, + { + "epoch": 0.701921802518224, + "grad_norm": 8.994125366210938, + "learning_rate": 4.356273979590393e-06, + "loss": 0.2604, + "num_input_tokens_seen": 10367544, + "step": 5296 + }, + { + "epoch": 0.702054340622929, + "grad_norm": 4.477342128753662, + "learning_rate": 4.356041436826135e-06, + "loss": 0.1963, + "num_input_tokens_seen": 10369728, + "step": 5297 + }, + { + "epoch": 0.7021868787276342, + "grad_norm": 4.8990559577941895, + "learning_rate": 4.355808858276117e-06, + "loss": 0.1388, + "num_input_tokens_seen": 10371568, + "step": 5298 + }, + { + "epoch": 0.7023194168323393, + "grad_norm": 11.591240882873535, + "learning_rate": 4.355576243944825e-06, + "loss": 0.5024, + "num_input_tokens_seen": 10373920, + "step": 5299 + }, + { + "epoch": 0.7024519549370444, + "grad_norm": 9.065117835998535, + "learning_rate": 4.355343593836743e-06, + "loss": 0.2231, + "num_input_tokens_seen": 10376512, + "step": 5300 + }, + { + "epoch": 0.7025844930417495, + "grad_norm": 5.833688259124756, + "learning_rate": 4.355110907956356e-06, + "loss": 0.1275, + "num_input_tokens_seen": 10378368, + "step": 5301 + }, + { + "epoch": 0.7027170311464546, + "grad_norm": 6.7619147300720215, + "learning_rate": 4.354878186308151e-06, + "loss": 0.1738, + "num_input_tokens_seen": 10379832, + "step": 5302 + }, + { + "epoch": 0.7028495692511597, + "grad_norm": 8.367796897888184, + "learning_rate": 4.3546454288966155e-06, + "loss": 0.4947, + "num_input_tokens_seen": 10382240, + "step": 5303 + }, + { + "epoch": 0.7029821073558649, + "grad_norm": 12.617276191711426, + "learning_rate": 4.354412635726237e-06, + "loss": 0.1031, + "num_input_tokens_seen": 10384712, + "step": 5304 + }, + { + "epoch": 0.7031146454605699, + "grad_norm": 10.556106567382812, + "learning_rate": 4.354179806801502e-06, + "loss": 0.2775, + "num_input_tokens_seen": 10386536, + "step": 5305 + }, + { + "epoch": 0.703247183565275, + "grad_norm": 1.250957727432251, + "learning_rate": 4.353946942126903e-06, + "loss": 0.0145, + "num_input_tokens_seen": 10387944, + "step": 5306 + }, + { + "epoch": 0.7033797216699801, + "grad_norm": 4.309374809265137, + "learning_rate": 4.353714041706927e-06, + "loss": 0.0379, + "num_input_tokens_seen": 10390552, + "step": 5307 + }, + { + "epoch": 0.7035122597746852, + "grad_norm": 5.812258243560791, + "learning_rate": 4.3534811055460655e-06, + "loss": 0.1602, + "num_input_tokens_seen": 10391888, + "step": 5308 + }, + { + "epoch": 0.7036447978793903, + "grad_norm": 0.49550989270210266, + "learning_rate": 4.3532481336488096e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10394320, + "step": 5309 + }, + { + "epoch": 0.7037773359840954, + "grad_norm": 11.787468910217285, + "learning_rate": 4.353015126019651e-06, + "loss": 0.6394, + "num_input_tokens_seen": 10396168, + "step": 5310 + }, + { + "epoch": 0.7039098740888006, + "grad_norm": 0.14753291010856628, + "learning_rate": 4.352782082663083e-06, + "loss": 0.001, + "num_input_tokens_seen": 10398056, + "step": 5311 + }, + { + "epoch": 0.7040424121935056, + "grad_norm": 34.56886672973633, + "learning_rate": 4.352549003583598e-06, + "loss": 1.3396, + "num_input_tokens_seen": 10400120, + "step": 5312 + }, + { + "epoch": 0.7041749502982108, + "grad_norm": 0.2277163416147232, + "learning_rate": 4.352315888785691e-06, + "loss": 0.0016, + "num_input_tokens_seen": 10402472, + "step": 5313 + }, + { + "epoch": 0.7043074884029158, + "grad_norm": 13.350781440734863, + "learning_rate": 4.352082738273854e-06, + "loss": 0.3459, + "num_input_tokens_seen": 10404416, + "step": 5314 + }, + { + "epoch": 0.7044400265076209, + "grad_norm": 7.1642279624938965, + "learning_rate": 4.351849552052585e-06, + "loss": 0.0972, + "num_input_tokens_seen": 10406424, + "step": 5315 + }, + { + "epoch": 0.7045725646123261, + "grad_norm": 6.712897777557373, + "learning_rate": 4.3516163301263796e-06, + "loss": 0.1395, + "num_input_tokens_seen": 10408432, + "step": 5316 + }, + { + "epoch": 0.7047051027170311, + "grad_norm": 9.911812782287598, + "learning_rate": 4.351383072499734e-06, + "loss": 0.2317, + "num_input_tokens_seen": 10410584, + "step": 5317 + }, + { + "epoch": 0.7048376408217363, + "grad_norm": 0.17060184478759766, + "learning_rate": 4.351149779177145e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10412224, + "step": 5318 + }, + { + "epoch": 0.7049701789264413, + "grad_norm": 0.7141030430793762, + "learning_rate": 4.350916450163112e-06, + "loss": 0.0047, + "num_input_tokens_seen": 10413592, + "step": 5319 + }, + { + "epoch": 0.7051027170311465, + "grad_norm": 5.739474773406982, + "learning_rate": 4.350683085462132e-06, + "loss": 0.0564, + "num_input_tokens_seen": 10416256, + "step": 5320 + }, + { + "epoch": 0.7052352551358515, + "grad_norm": 4.152627468109131, + "learning_rate": 4.350449685078706e-06, + "loss": 0.1163, + "num_input_tokens_seen": 10418616, + "step": 5321 + }, + { + "epoch": 0.7053677932405567, + "grad_norm": 7.785134315490723, + "learning_rate": 4.350216249017333e-06, + "loss": 0.2863, + "num_input_tokens_seen": 10420712, + "step": 5322 + }, + { + "epoch": 0.7055003313452618, + "grad_norm": 15.75673770904541, + "learning_rate": 4.349982777282515e-06, + "loss": 0.5681, + "num_input_tokens_seen": 10422656, + "step": 5323 + }, + { + "epoch": 0.7056328694499668, + "grad_norm": 0.035148218274116516, + "learning_rate": 4.349749269878752e-06, + "loss": 0.0002, + "num_input_tokens_seen": 10424032, + "step": 5324 + }, + { + "epoch": 0.705765407554672, + "grad_norm": 15.061479568481445, + "learning_rate": 4.349515726810548e-06, + "loss": 0.3935, + "num_input_tokens_seen": 10426312, + "step": 5325 + }, + { + "epoch": 0.705897945659377, + "grad_norm": 7.007232189178467, + "learning_rate": 4.349282148082404e-06, + "loss": 0.2244, + "num_input_tokens_seen": 10427864, + "step": 5326 + }, + { + "epoch": 0.7060304837640822, + "grad_norm": 11.781513214111328, + "learning_rate": 4.349048533698824e-06, + "loss": 0.3764, + "num_input_tokens_seen": 10429880, + "step": 5327 + }, + { + "epoch": 0.7061630218687873, + "grad_norm": 3.62870454788208, + "learning_rate": 4.348814883664314e-06, + "loss": 0.09, + "num_input_tokens_seen": 10432048, + "step": 5328 + }, + { + "epoch": 0.7062955599734924, + "grad_norm": 0.13700160384178162, + "learning_rate": 4.348581197983377e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10433480, + "step": 5329 + }, + { + "epoch": 0.7064280980781975, + "grad_norm": 11.195610046386719, + "learning_rate": 4.348347476660519e-06, + "loss": 0.2654, + "num_input_tokens_seen": 10434928, + "step": 5330 + }, + { + "epoch": 0.7065606361829025, + "grad_norm": 3.7285003662109375, + "learning_rate": 4.3481137197002475e-06, + "loss": 0.1234, + "num_input_tokens_seen": 10436616, + "step": 5331 + }, + { + "epoch": 0.7066931742876077, + "grad_norm": 3.434617757797241, + "learning_rate": 4.347879927107067e-06, + "loss": 0.0923, + "num_input_tokens_seen": 10438504, + "step": 5332 + }, + { + "epoch": 0.7068257123923128, + "grad_norm": 9.34477424621582, + "learning_rate": 4.347646098885488e-06, + "loss": 0.348, + "num_input_tokens_seen": 10440136, + "step": 5333 + }, + { + "epoch": 0.7069582504970179, + "grad_norm": 7.150413990020752, + "learning_rate": 4.347412235040017e-06, + "loss": 0.2217, + "num_input_tokens_seen": 10442840, + "step": 5334 + }, + { + "epoch": 0.707090788601723, + "grad_norm": 8.25818920135498, + "learning_rate": 4.347178335575164e-06, + "loss": 0.3178, + "num_input_tokens_seen": 10445592, + "step": 5335 + }, + { + "epoch": 0.7072233267064281, + "grad_norm": 8.304454803466797, + "learning_rate": 4.346944400495438e-06, + "loss": 0.2673, + "num_input_tokens_seen": 10447160, + "step": 5336 + }, + { + "epoch": 0.7073558648111332, + "grad_norm": 1.1421347856521606, + "learning_rate": 4.3467104298053495e-06, + "loss": 0.0069, + "num_input_tokens_seen": 10448424, + "step": 5337 + }, + { + "epoch": 0.7074884029158383, + "grad_norm": 0.12685857713222504, + "learning_rate": 4.346476423509411e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10450600, + "step": 5338 + }, + { + "epoch": 0.7076209410205434, + "grad_norm": 3.092546224594116, + "learning_rate": 4.346242381612132e-06, + "loss": 0.0836, + "num_input_tokens_seen": 10452968, + "step": 5339 + }, + { + "epoch": 0.7077534791252486, + "grad_norm": 8.69534683227539, + "learning_rate": 4.346008304118028e-06, + "loss": 0.337, + "num_input_tokens_seen": 10455192, + "step": 5340 + }, + { + "epoch": 0.7078860172299536, + "grad_norm": 0.64402174949646, + "learning_rate": 4.345774191031609e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10456808, + "step": 5341 + }, + { + "epoch": 0.7080185553346587, + "grad_norm": 13.261296272277832, + "learning_rate": 4.34554004235739e-06, + "loss": 0.251, + "num_input_tokens_seen": 10459152, + "step": 5342 + }, + { + "epoch": 0.7081510934393638, + "grad_norm": 4.151136875152588, + "learning_rate": 4.345305858099887e-06, + "loss": 0.0358, + "num_input_tokens_seen": 10461440, + "step": 5343 + }, + { + "epoch": 0.7082836315440689, + "grad_norm": 7.528071880340576, + "learning_rate": 4.3450716382636135e-06, + "loss": 0.2003, + "num_input_tokens_seen": 10463632, + "step": 5344 + }, + { + "epoch": 0.7084161696487741, + "grad_norm": 0.10861289501190186, + "learning_rate": 4.344837382853086e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10465296, + "step": 5345 + }, + { + "epoch": 0.7085487077534791, + "grad_norm": 6.541368007659912, + "learning_rate": 4.34460309187282e-06, + "loss": 0.203, + "num_input_tokens_seen": 10467672, + "step": 5346 + }, + { + "epoch": 0.7086812458581843, + "grad_norm": 16.940521240234375, + "learning_rate": 4.344368765327335e-06, + "loss": 0.4411, + "num_input_tokens_seen": 10469392, + "step": 5347 + }, + { + "epoch": 0.7088137839628893, + "grad_norm": 6.4979071617126465, + "learning_rate": 4.344134403221148e-06, + "loss": 0.0985, + "num_input_tokens_seen": 10471928, + "step": 5348 + }, + { + "epoch": 0.7089463220675944, + "grad_norm": 9.174598693847656, + "learning_rate": 4.343900005558777e-06, + "loss": 0.1553, + "num_input_tokens_seen": 10474104, + "step": 5349 + }, + { + "epoch": 0.7090788601722995, + "grad_norm": 0.1891871839761734, + "learning_rate": 4.343665572344742e-06, + "loss": 0.0013, + "num_input_tokens_seen": 10477200, + "step": 5350 + }, + { + "epoch": 0.7092113982770046, + "grad_norm": 5.6008524894714355, + "learning_rate": 4.343431103583563e-06, + "loss": 0.0618, + "num_input_tokens_seen": 10479096, + "step": 5351 + }, + { + "epoch": 0.7093439363817098, + "grad_norm": 5.606502532958984, + "learning_rate": 4.343196599279761e-06, + "loss": 0.074, + "num_input_tokens_seen": 10480592, + "step": 5352 + }, + { + "epoch": 0.7094764744864148, + "grad_norm": 0.15002194046974182, + "learning_rate": 4.342962059437856e-06, + "loss": 0.001, + "num_input_tokens_seen": 10483512, + "step": 5353 + }, + { + "epoch": 0.70960901259112, + "grad_norm": 10.585344314575195, + "learning_rate": 4.342727484062371e-06, + "loss": 0.2651, + "num_input_tokens_seen": 10486464, + "step": 5354 + }, + { + "epoch": 0.709741550695825, + "grad_norm": 30.622039794921875, + "learning_rate": 4.3424928731578296e-06, + "loss": 0.6854, + "num_input_tokens_seen": 10489120, + "step": 5355 + }, + { + "epoch": 0.7098740888005302, + "grad_norm": 13.048038482666016, + "learning_rate": 4.342258226728755e-06, + "loss": 0.387, + "num_input_tokens_seen": 10490832, + "step": 5356 + }, + { + "epoch": 0.7100066269052353, + "grad_norm": 4.078963756561279, + "learning_rate": 4.34202354477967e-06, + "loss": 0.0576, + "num_input_tokens_seen": 10492144, + "step": 5357 + }, + { + "epoch": 0.7101391650099403, + "grad_norm": 14.519580841064453, + "learning_rate": 4.341788827315101e-06, + "loss": 0.3535, + "num_input_tokens_seen": 10494184, + "step": 5358 + }, + { + "epoch": 0.7102717031146455, + "grad_norm": 7.30565071105957, + "learning_rate": 4.341554074339572e-06, + "loss": 0.275, + "num_input_tokens_seen": 10496072, + "step": 5359 + }, + { + "epoch": 0.7104042412193505, + "grad_norm": 3.5833187103271484, + "learning_rate": 4.3413192858576105e-06, + "loss": 0.0819, + "num_input_tokens_seen": 10498744, + "step": 5360 + }, + { + "epoch": 0.7105367793240557, + "grad_norm": 6.386040210723877, + "learning_rate": 4.341084461873743e-06, + "loss": 0.0943, + "num_input_tokens_seen": 10500888, + "step": 5361 + }, + { + "epoch": 0.7106693174287607, + "grad_norm": 0.08746777474880219, + "learning_rate": 4.3408496023924974e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10502136, + "step": 5362 + }, + { + "epoch": 0.7108018555334659, + "grad_norm": 11.39535903930664, + "learning_rate": 4.3406147074184e-06, + "loss": 0.1657, + "num_input_tokens_seen": 10504056, + "step": 5363 + }, + { + "epoch": 0.710934393638171, + "grad_norm": 5.37987756729126, + "learning_rate": 4.340379776955983e-06, + "loss": 0.1192, + "num_input_tokens_seen": 10506328, + "step": 5364 + }, + { + "epoch": 0.711066931742876, + "grad_norm": 0.2989250123500824, + "learning_rate": 4.340144811009773e-06, + "loss": 0.0022, + "num_input_tokens_seen": 10507848, + "step": 5365 + }, + { + "epoch": 0.7111994698475812, + "grad_norm": 0.557701826095581, + "learning_rate": 4.339909809584302e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10510936, + "step": 5366 + }, + { + "epoch": 0.7113320079522862, + "grad_norm": 16.63957977294922, + "learning_rate": 4.339674772684101e-06, + "loss": 0.5224, + "num_input_tokens_seen": 10513096, + "step": 5367 + }, + { + "epoch": 0.7114645460569914, + "grad_norm": 9.339136123657227, + "learning_rate": 4.339439700313701e-06, + "loss": 0.3479, + "num_input_tokens_seen": 10514872, + "step": 5368 + }, + { + "epoch": 0.7115970841616965, + "grad_norm": 4.87075138092041, + "learning_rate": 4.339204592477635e-06, + "loss": 0.0768, + "num_input_tokens_seen": 10516544, + "step": 5369 + }, + { + "epoch": 0.7117296222664016, + "grad_norm": 2.8643717765808105, + "learning_rate": 4.338969449180435e-06, + "loss": 0.0486, + "num_input_tokens_seen": 10517648, + "step": 5370 + }, + { + "epoch": 0.7118621603711067, + "grad_norm": 15.83580207824707, + "learning_rate": 4.338734270426636e-06, + "loss": 0.4671, + "num_input_tokens_seen": 10519696, + "step": 5371 + }, + { + "epoch": 0.7119946984758118, + "grad_norm": 0.3790338933467865, + "learning_rate": 4.338499056220771e-06, + "loss": 0.0026, + "num_input_tokens_seen": 10521568, + "step": 5372 + }, + { + "epoch": 0.7121272365805169, + "grad_norm": 0.3970550000667572, + "learning_rate": 4.3382638065673755e-06, + "loss": 0.0028, + "num_input_tokens_seen": 10524128, + "step": 5373 + }, + { + "epoch": 0.712259774685222, + "grad_norm": 13.866540908813477, + "learning_rate": 4.338028521470987e-06, + "loss": 0.5854, + "num_input_tokens_seen": 10526368, + "step": 5374 + }, + { + "epoch": 0.7123923127899271, + "grad_norm": 0.11552596092224121, + "learning_rate": 4.33779320093614e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10527960, + "step": 5375 + }, + { + "epoch": 0.7125248508946322, + "grad_norm": 7.586239337921143, + "learning_rate": 4.337557844967372e-06, + "loss": 0.0635, + "num_input_tokens_seen": 10529432, + "step": 5376 + }, + { + "epoch": 0.7126573889993373, + "grad_norm": 7.3875837326049805, + "learning_rate": 4.337322453569221e-06, + "loss": 0.1583, + "num_input_tokens_seen": 10531272, + "step": 5377 + }, + { + "epoch": 0.7127899271040424, + "grad_norm": 12.727602005004883, + "learning_rate": 4.337087026746226e-06, + "loss": 0.3294, + "num_input_tokens_seen": 10533552, + "step": 5378 + }, + { + "epoch": 0.7129224652087475, + "grad_norm": 2.3973748683929443, + "learning_rate": 4.336851564502927e-06, + "loss": 0.0077, + "num_input_tokens_seen": 10536488, + "step": 5379 + }, + { + "epoch": 0.7130550033134526, + "grad_norm": 10.029938697814941, + "learning_rate": 4.3366160668438606e-06, + "loss": 0.1877, + "num_input_tokens_seen": 10538456, + "step": 5380 + }, + { + "epoch": 0.7131875414181578, + "grad_norm": 18.643531799316406, + "learning_rate": 4.336380533773571e-06, + "loss": 0.3149, + "num_input_tokens_seen": 10540200, + "step": 5381 + }, + { + "epoch": 0.7133200795228628, + "grad_norm": 0.14181943237781525, + "learning_rate": 4.336144965296596e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10541208, + "step": 5382 + }, + { + "epoch": 0.713452617627568, + "grad_norm": 5.419266700744629, + "learning_rate": 4.33590936141748e-06, + "loss": 0.0669, + "num_input_tokens_seen": 10543328, + "step": 5383 + }, + { + "epoch": 0.713585155732273, + "grad_norm": 1.700243592262268, + "learning_rate": 4.335673722140767e-06, + "loss": 0.0505, + "num_input_tokens_seen": 10544472, + "step": 5384 + }, + { + "epoch": 0.7137176938369781, + "grad_norm": 2.2277565002441406, + "learning_rate": 4.335438047470996e-06, + "loss": 0.0618, + "num_input_tokens_seen": 10545728, + "step": 5385 + }, + { + "epoch": 0.7138502319416833, + "grad_norm": 1.5551958084106445, + "learning_rate": 4.335202337412714e-06, + "loss": 0.0102, + "num_input_tokens_seen": 10547552, + "step": 5386 + }, + { + "epoch": 0.7139827700463883, + "grad_norm": 4.267632007598877, + "learning_rate": 4.334966591970465e-06, + "loss": 0.0627, + "num_input_tokens_seen": 10549232, + "step": 5387 + }, + { + "epoch": 0.7141153081510935, + "grad_norm": 1.5692423582077026, + "learning_rate": 4.334730811148794e-06, + "loss": 0.0358, + "num_input_tokens_seen": 10551208, + "step": 5388 + }, + { + "epoch": 0.7142478462557985, + "grad_norm": 3.1644279956817627, + "learning_rate": 4.334494994952247e-06, + "loss": 0.022, + "num_input_tokens_seen": 10553600, + "step": 5389 + }, + { + "epoch": 0.7143803843605037, + "grad_norm": 3.423093557357788, + "learning_rate": 4.334259143385371e-06, + "loss": 0.0475, + "num_input_tokens_seen": 10554968, + "step": 5390 + }, + { + "epoch": 0.7145129224652087, + "grad_norm": 7.736878871917725, + "learning_rate": 4.334023256452714e-06, + "loss": 0.0745, + "num_input_tokens_seen": 10557088, + "step": 5391 + }, + { + "epoch": 0.7146454605699138, + "grad_norm": 6.876927375793457, + "learning_rate": 4.333787334158823e-06, + "loss": 0.2055, + "num_input_tokens_seen": 10559416, + "step": 5392 + }, + { + "epoch": 0.714777998674619, + "grad_norm": 8.267438888549805, + "learning_rate": 4.333551376508247e-06, + "loss": 0.2574, + "num_input_tokens_seen": 10561336, + "step": 5393 + }, + { + "epoch": 0.714910536779324, + "grad_norm": 11.670564651489258, + "learning_rate": 4.333315383505536e-06, + "loss": 0.3131, + "num_input_tokens_seen": 10563480, + "step": 5394 + }, + { + "epoch": 0.7150430748840292, + "grad_norm": 1.9028925895690918, + "learning_rate": 4.333079355155239e-06, + "loss": 0.0234, + "num_input_tokens_seen": 10566328, + "step": 5395 + }, + { + "epoch": 0.7151756129887342, + "grad_norm": 0.20793849229812622, + "learning_rate": 4.332843291461908e-06, + "loss": 0.0014, + "num_input_tokens_seen": 10567632, + "step": 5396 + }, + { + "epoch": 0.7153081510934394, + "grad_norm": 11.558806419372559, + "learning_rate": 4.332607192430094e-06, + "loss": 0.2997, + "num_input_tokens_seen": 10569960, + "step": 5397 + }, + { + "epoch": 0.7154406891981445, + "grad_norm": 10.364891052246094, + "learning_rate": 4.332371058064348e-06, + "loss": 0.1178, + "num_input_tokens_seen": 10571784, + "step": 5398 + }, + { + "epoch": 0.7155732273028496, + "grad_norm": 7.065649509429932, + "learning_rate": 4.332134888369225e-06, + "loss": 0.1902, + "num_input_tokens_seen": 10573264, + "step": 5399 + }, + { + "epoch": 0.7157057654075547, + "grad_norm": 3.975583791732788, + "learning_rate": 4.331898683349277e-06, + "loss": 0.0243, + "num_input_tokens_seen": 10575072, + "step": 5400 + }, + { + "epoch": 0.7158383035122597, + "grad_norm": 0.5255308747291565, + "learning_rate": 4.33166244300906e-06, + "loss": 0.0035, + "num_input_tokens_seen": 10576704, + "step": 5401 + }, + { + "epoch": 0.7159708416169649, + "grad_norm": 9.464899063110352, + "learning_rate": 4.331426167353126e-06, + "loss": 0.1927, + "num_input_tokens_seen": 10579536, + "step": 5402 + }, + { + "epoch": 0.7161033797216699, + "grad_norm": 15.958910942077637, + "learning_rate": 4.331189856386031e-06, + "loss": 0.5436, + "num_input_tokens_seen": 10581512, + "step": 5403 + }, + { + "epoch": 0.7162359178263751, + "grad_norm": 9.428521156311035, + "learning_rate": 4.330953510112334e-06, + "loss": 0.4042, + "num_input_tokens_seen": 10583128, + "step": 5404 + }, + { + "epoch": 0.7163684559310802, + "grad_norm": 4.2583441734313965, + "learning_rate": 4.3307171285365905e-06, + "loss": 0.0778, + "num_input_tokens_seen": 10585040, + "step": 5405 + }, + { + "epoch": 0.7165009940357853, + "grad_norm": 10.576728820800781, + "learning_rate": 4.330480711663356e-06, + "loss": 0.2728, + "num_input_tokens_seen": 10587320, + "step": 5406 + }, + { + "epoch": 0.7166335321404904, + "grad_norm": 6.718013763427734, + "learning_rate": 4.3302442594971925e-06, + "loss": 0.1954, + "num_input_tokens_seen": 10590008, + "step": 5407 + }, + { + "epoch": 0.7167660702451955, + "grad_norm": 5.553983211517334, + "learning_rate": 4.330007772042656e-06, + "loss": 0.0641, + "num_input_tokens_seen": 10592216, + "step": 5408 + }, + { + "epoch": 0.7168986083499006, + "grad_norm": 1.5864758491516113, + "learning_rate": 4.329771249304307e-06, + "loss": 0.0224, + "num_input_tokens_seen": 10593608, + "step": 5409 + }, + { + "epoch": 0.7170311464546058, + "grad_norm": 7.581082344055176, + "learning_rate": 4.329534691286707e-06, + "loss": 0.1692, + "num_input_tokens_seen": 10595168, + "step": 5410 + }, + { + "epoch": 0.7171636845593108, + "grad_norm": 8.926233291625977, + "learning_rate": 4.329298097994415e-06, + "loss": 0.0996, + "num_input_tokens_seen": 10596624, + "step": 5411 + }, + { + "epoch": 0.7172962226640159, + "grad_norm": 3.1127870082855225, + "learning_rate": 4.329061469431995e-06, + "loss": 0.0999, + "num_input_tokens_seen": 10598856, + "step": 5412 + }, + { + "epoch": 0.717428760768721, + "grad_norm": 11.583666801452637, + "learning_rate": 4.328824805604007e-06, + "loss": 0.1968, + "num_input_tokens_seen": 10600640, + "step": 5413 + }, + { + "epoch": 0.7175612988734261, + "grad_norm": 7.029998779296875, + "learning_rate": 4.328588106515016e-06, + "loss": 0.1904, + "num_input_tokens_seen": 10602584, + "step": 5414 + }, + { + "epoch": 0.7176938369781312, + "grad_norm": 2.6394267082214355, + "learning_rate": 4.328351372169584e-06, + "loss": 0.0195, + "num_input_tokens_seen": 10604192, + "step": 5415 + }, + { + "epoch": 0.7178263750828363, + "grad_norm": 75.4927978515625, + "learning_rate": 4.328114602572276e-06, + "loss": 0.4094, + "num_input_tokens_seen": 10607632, + "step": 5416 + }, + { + "epoch": 0.7179589131875415, + "grad_norm": 0.11221078783273697, + "learning_rate": 4.3278777977276576e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10608888, + "step": 5417 + }, + { + "epoch": 0.7180914512922465, + "grad_norm": 8.978494644165039, + "learning_rate": 4.327640957640295e-06, + "loss": 0.2859, + "num_input_tokens_seen": 10610808, + "step": 5418 + }, + { + "epoch": 0.7182239893969516, + "grad_norm": 0.056512702256441116, + "learning_rate": 4.327404082314754e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10612144, + "step": 5419 + }, + { + "epoch": 0.7183565275016567, + "grad_norm": 0.36572855710983276, + "learning_rate": 4.327167171755599e-06, + "loss": 0.0025, + "num_input_tokens_seen": 10614080, + "step": 5420 + }, + { + "epoch": 0.7184890656063618, + "grad_norm": 11.710256576538086, + "learning_rate": 4.326930225967404e-06, + "loss": 0.5209, + "num_input_tokens_seen": 10616912, + "step": 5421 + }, + { + "epoch": 0.718621603711067, + "grad_norm": 0.14278718829154968, + "learning_rate": 4.3266932449547316e-06, + "loss": 0.001, + "num_input_tokens_seen": 10619664, + "step": 5422 + }, + { + "epoch": 0.718754141815772, + "grad_norm": 9.962724685668945, + "learning_rate": 4.326456228722155e-06, + "loss": 0.212, + "num_input_tokens_seen": 10621184, + "step": 5423 + }, + { + "epoch": 0.7188866799204772, + "grad_norm": 2.9257819652557373, + "learning_rate": 4.326219177274241e-06, + "loss": 0.07, + "num_input_tokens_seen": 10623632, + "step": 5424 + }, + { + "epoch": 0.7190192180251822, + "grad_norm": 0.731238603591919, + "learning_rate": 4.3259820906155615e-06, + "loss": 0.0046, + "num_input_tokens_seen": 10624976, + "step": 5425 + }, + { + "epoch": 0.7191517561298874, + "grad_norm": 11.588208198547363, + "learning_rate": 4.325744968750688e-06, + "loss": 0.3923, + "num_input_tokens_seen": 10627168, + "step": 5426 + }, + { + "epoch": 0.7192842942345924, + "grad_norm": 6.853522300720215, + "learning_rate": 4.325507811684192e-06, + "loss": 0.2317, + "num_input_tokens_seen": 10628976, + "step": 5427 + }, + { + "epoch": 0.7194168323392975, + "grad_norm": 7.076307773590088, + "learning_rate": 4.325270619420645e-06, + "loss": 0.1596, + "num_input_tokens_seen": 10631000, + "step": 5428 + }, + { + "epoch": 0.7195493704440027, + "grad_norm": 6.852641582489014, + "learning_rate": 4.325033391964623e-06, + "loss": 0.0981, + "num_input_tokens_seen": 10633528, + "step": 5429 + }, + { + "epoch": 0.7196819085487077, + "grad_norm": 9.873103141784668, + "learning_rate": 4.324796129320696e-06, + "loss": 0.2821, + "num_input_tokens_seen": 10635392, + "step": 5430 + }, + { + "epoch": 0.7198144466534129, + "grad_norm": 10.66834545135498, + "learning_rate": 4.324558831493443e-06, + "loss": 0.3592, + "num_input_tokens_seen": 10637032, + "step": 5431 + }, + { + "epoch": 0.7199469847581179, + "grad_norm": 6.377750873565674, + "learning_rate": 4.324321498487436e-06, + "loss": 0.1151, + "num_input_tokens_seen": 10639088, + "step": 5432 + }, + { + "epoch": 0.7200795228628231, + "grad_norm": 8.164138793945312, + "learning_rate": 4.324084130307252e-06, + "loss": 0.3514, + "num_input_tokens_seen": 10641048, + "step": 5433 + }, + { + "epoch": 0.7202120609675282, + "grad_norm": 0.09812411665916443, + "learning_rate": 4.323846726957468e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10642280, + "step": 5434 + }, + { + "epoch": 0.7203445990722332, + "grad_norm": 12.22256088256836, + "learning_rate": 4.32360928844266e-06, + "loss": 0.3678, + "num_input_tokens_seen": 10645008, + "step": 5435 + }, + { + "epoch": 0.7204771371769384, + "grad_norm": 1.7772632837295532, + "learning_rate": 4.323371814767407e-06, + "loss": 0.025, + "num_input_tokens_seen": 10646920, + "step": 5436 + }, + { + "epoch": 0.7206096752816434, + "grad_norm": 7.865345001220703, + "learning_rate": 4.323134305936289e-06, + "loss": 0.2219, + "num_input_tokens_seen": 10649288, + "step": 5437 + }, + { + "epoch": 0.7207422133863486, + "grad_norm": 18.25265121459961, + "learning_rate": 4.322896761953882e-06, + "loss": 0.477, + "num_input_tokens_seen": 10651200, + "step": 5438 + }, + { + "epoch": 0.7208747514910536, + "grad_norm": 6.348635673522949, + "learning_rate": 4.322659182824769e-06, + "loss": 0.19, + "num_input_tokens_seen": 10653208, + "step": 5439 + }, + { + "epoch": 0.7210072895957588, + "grad_norm": 12.010926246643066, + "learning_rate": 4.322421568553529e-06, + "loss": 0.6441, + "num_input_tokens_seen": 10655312, + "step": 5440 + }, + { + "epoch": 0.7211398277004639, + "grad_norm": 2.6433982849121094, + "learning_rate": 4.322183919144745e-06, + "loss": 0.0169, + "num_input_tokens_seen": 10657112, + "step": 5441 + }, + { + "epoch": 0.721272365805169, + "grad_norm": 6.007479667663574, + "learning_rate": 4.321946234602997e-06, + "loss": 0.0486, + "num_input_tokens_seen": 10658768, + "step": 5442 + }, + { + "epoch": 0.7214049039098741, + "grad_norm": 6.667125225067139, + "learning_rate": 4.3217085149328685e-06, + "loss": 0.1054, + "num_input_tokens_seen": 10659760, + "step": 5443 + }, + { + "epoch": 0.7215374420145791, + "grad_norm": 3.3705594539642334, + "learning_rate": 4.321470760138944e-06, + "loss": 0.0446, + "num_input_tokens_seen": 10661000, + "step": 5444 + }, + { + "epoch": 0.7216699801192843, + "grad_norm": 0.22150379419326782, + "learning_rate": 4.321232970225806e-06, + "loss": 0.0015, + "num_input_tokens_seen": 10662568, + "step": 5445 + }, + { + "epoch": 0.7218025182239894, + "grad_norm": 7.884476661682129, + "learning_rate": 4.32099514519804e-06, + "loss": 0.1561, + "num_input_tokens_seen": 10663968, + "step": 5446 + }, + { + "epoch": 0.7219350563286945, + "grad_norm": 4.997055530548096, + "learning_rate": 4.320757285060231e-06, + "loss": 0.1245, + "num_input_tokens_seen": 10666568, + "step": 5447 + }, + { + "epoch": 0.7220675944333996, + "grad_norm": 0.8927567005157471, + "learning_rate": 4.320519389816966e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10668344, + "step": 5448 + }, + { + "epoch": 0.7222001325381047, + "grad_norm": 0.24215669929981232, + "learning_rate": 4.320281459472831e-06, + "loss": 0.0015, + "num_input_tokens_seen": 10670288, + "step": 5449 + }, + { + "epoch": 0.7223326706428098, + "grad_norm": 1.2419615983963013, + "learning_rate": 4.320043494032414e-06, + "loss": 0.016, + "num_input_tokens_seen": 10672496, + "step": 5450 + }, + { + "epoch": 0.722465208747515, + "grad_norm": 0.5320871472358704, + "learning_rate": 4.3198054935003034e-06, + "loss": 0.0033, + "num_input_tokens_seen": 10673952, + "step": 5451 + }, + { + "epoch": 0.72259774685222, + "grad_norm": 10.658312797546387, + "learning_rate": 4.319567457881086e-06, + "loss": 0.3339, + "num_input_tokens_seen": 10676224, + "step": 5452 + }, + { + "epoch": 0.7227302849569252, + "grad_norm": 7.224648475646973, + "learning_rate": 4.3193293871793544e-06, + "loss": 0.2567, + "num_input_tokens_seen": 10678368, + "step": 5453 + }, + { + "epoch": 0.7228628230616302, + "grad_norm": 9.707650184631348, + "learning_rate": 4.319091281399695e-06, + "loss": 0.3174, + "num_input_tokens_seen": 10680320, + "step": 5454 + }, + { + "epoch": 0.7229953611663353, + "grad_norm": 11.136312484741211, + "learning_rate": 4.318853140546702e-06, + "loss": 0.4657, + "num_input_tokens_seen": 10682488, + "step": 5455 + }, + { + "epoch": 0.7231278992710404, + "grad_norm": 11.700010299682617, + "learning_rate": 4.3186149646249664e-06, + "loss": 0.2006, + "num_input_tokens_seen": 10684352, + "step": 5456 + }, + { + "epoch": 0.7232604373757455, + "grad_norm": 0.09427163749933243, + "learning_rate": 4.3183767536390795e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10685504, + "step": 5457 + }, + { + "epoch": 0.7233929754804507, + "grad_norm": 0.11732390522956848, + "learning_rate": 4.318138507593633e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10688448, + "step": 5458 + }, + { + "epoch": 0.7235255135851557, + "grad_norm": 8.149674415588379, + "learning_rate": 4.3179002264932234e-06, + "loss": 0.2207, + "num_input_tokens_seen": 10690416, + "step": 5459 + }, + { + "epoch": 0.7236580516898609, + "grad_norm": 1.1455308198928833, + "learning_rate": 4.317661910342442e-06, + "loss": 0.0076, + "num_input_tokens_seen": 10692392, + "step": 5460 + }, + { + "epoch": 0.7237905897945659, + "grad_norm": 8.14931869506836, + "learning_rate": 4.317423559145886e-06, + "loss": 0.2479, + "num_input_tokens_seen": 10693592, + "step": 5461 + }, + { + "epoch": 0.723923127899271, + "grad_norm": 12.34900951385498, + "learning_rate": 4.31718517290815e-06, + "loss": 0.3649, + "num_input_tokens_seen": 10695256, + "step": 5462 + }, + { + "epoch": 0.7240556660039762, + "grad_norm": 12.32076358795166, + "learning_rate": 4.31694675163383e-06, + "loss": 0.4123, + "num_input_tokens_seen": 10697216, + "step": 5463 + }, + { + "epoch": 0.7241882041086812, + "grad_norm": 4.103886127471924, + "learning_rate": 4.316708295327523e-06, + "loss": 0.0653, + "num_input_tokens_seen": 10698888, + "step": 5464 + }, + { + "epoch": 0.7243207422133864, + "grad_norm": 9.828661918640137, + "learning_rate": 4.316469803993826e-06, + "loss": 0.3418, + "num_input_tokens_seen": 10701624, + "step": 5465 + }, + { + "epoch": 0.7244532803180914, + "grad_norm": 16.441856384277344, + "learning_rate": 4.316231277637339e-06, + "loss": 0.4695, + "num_input_tokens_seen": 10703384, + "step": 5466 + }, + { + "epoch": 0.7245858184227966, + "grad_norm": 8.357653617858887, + "learning_rate": 4.31599271626266e-06, + "loss": 0.0804, + "num_input_tokens_seen": 10705000, + "step": 5467 + }, + { + "epoch": 0.7247183565275016, + "grad_norm": 8.830903053283691, + "learning_rate": 4.315754119874389e-06, + "loss": 0.0809, + "num_input_tokens_seen": 10706792, + "step": 5468 + }, + { + "epoch": 0.7248508946322068, + "grad_norm": 0.8405228853225708, + "learning_rate": 4.315515488477126e-06, + "loss": 0.0057, + "num_input_tokens_seen": 10708320, + "step": 5469 + }, + { + "epoch": 0.7249834327369119, + "grad_norm": 10.384105682373047, + "learning_rate": 4.315276822075471e-06, + "loss": 0.322, + "num_input_tokens_seen": 10710632, + "step": 5470 + }, + { + "epoch": 0.7251159708416169, + "grad_norm": 0.6235556602478027, + "learning_rate": 4.315038120674027e-06, + "loss": 0.0026, + "num_input_tokens_seen": 10712032, + "step": 5471 + }, + { + "epoch": 0.7252485089463221, + "grad_norm": 9.148031234741211, + "learning_rate": 4.314799384277396e-06, + "loss": 0.4222, + "num_input_tokens_seen": 10714000, + "step": 5472 + }, + { + "epoch": 0.7253810470510271, + "grad_norm": 0.5181266069412231, + "learning_rate": 4.314560612890181e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10715584, + "step": 5473 + }, + { + "epoch": 0.7255135851557323, + "grad_norm": 6.813755512237549, + "learning_rate": 4.314321806516985e-06, + "loss": 0.1563, + "num_input_tokens_seen": 10717368, + "step": 5474 + }, + { + "epoch": 0.7256461232604374, + "grad_norm": 14.17917537689209, + "learning_rate": 4.314082965162413e-06, + "loss": 0.4966, + "num_input_tokens_seen": 10719248, + "step": 5475 + }, + { + "epoch": 0.7257786613651425, + "grad_norm": 11.906841278076172, + "learning_rate": 4.3138440888310706e-06, + "loss": 0.5422, + "num_input_tokens_seen": 10721016, + "step": 5476 + }, + { + "epoch": 0.7259111994698476, + "grad_norm": 0.41764453053474426, + "learning_rate": 4.313605177527563e-06, + "loss": 0.0025, + "num_input_tokens_seen": 10722616, + "step": 5477 + }, + { + "epoch": 0.7260437375745527, + "grad_norm": 10.652955055236816, + "learning_rate": 4.313366231256495e-06, + "loss": 0.4911, + "num_input_tokens_seen": 10724472, + "step": 5478 + }, + { + "epoch": 0.7261762756792578, + "grad_norm": 0.15038461983203888, + "learning_rate": 4.313127250022477e-06, + "loss": 0.001, + "num_input_tokens_seen": 10725760, + "step": 5479 + }, + { + "epoch": 0.7263088137839628, + "grad_norm": 0.08290032297372818, + "learning_rate": 4.312888233830113e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10726848, + "step": 5480 + }, + { + "epoch": 0.726441351888668, + "grad_norm": 3.6962532997131348, + "learning_rate": 4.312649182684015e-06, + "loss": 0.0246, + "num_input_tokens_seen": 10728480, + "step": 5481 + }, + { + "epoch": 0.7265738899933731, + "grad_norm": 0.18984758853912354, + "learning_rate": 4.312410096588789e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10730368, + "step": 5482 + }, + { + "epoch": 0.7267064280980782, + "grad_norm": 12.223434448242188, + "learning_rate": 4.312170975549046e-06, + "loss": 0.366, + "num_input_tokens_seen": 10733160, + "step": 5483 + }, + { + "epoch": 0.7268389662027833, + "grad_norm": 0.16764910519123077, + "learning_rate": 4.311931819569397e-06, + "loss": 0.001, + "num_input_tokens_seen": 10734464, + "step": 5484 + }, + { + "epoch": 0.7269715043074884, + "grad_norm": 6.567307472229004, + "learning_rate": 4.311692628654453e-06, + "loss": 0.1461, + "num_input_tokens_seen": 10736328, + "step": 5485 + }, + { + "epoch": 0.7271040424121935, + "grad_norm": 7.938125133514404, + "learning_rate": 4.311453402808824e-06, + "loss": 0.3783, + "num_input_tokens_seen": 10738520, + "step": 5486 + }, + { + "epoch": 0.7272365805168987, + "grad_norm": 1.6471339464187622, + "learning_rate": 4.311214142037125e-06, + "loss": 0.007, + "num_input_tokens_seen": 10740168, + "step": 5487 + }, + { + "epoch": 0.7273691186216037, + "grad_norm": 3.9337992668151855, + "learning_rate": 4.310974846343967e-06, + "loss": 0.1043, + "num_input_tokens_seen": 10741152, + "step": 5488 + }, + { + "epoch": 0.7275016567263088, + "grad_norm": 0.09851621836423874, + "learning_rate": 4.3107355157339645e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10742736, + "step": 5489 + }, + { + "epoch": 0.7276341948310139, + "grad_norm": 10.458983421325684, + "learning_rate": 4.310496150211732e-06, + "loss": 0.2792, + "num_input_tokens_seen": 10744808, + "step": 5490 + }, + { + "epoch": 0.727766732935719, + "grad_norm": 14.809197425842285, + "learning_rate": 4.310256749781886e-06, + "loss": 0.5231, + "num_input_tokens_seen": 10747224, + "step": 5491 + }, + { + "epoch": 0.7278992710404241, + "grad_norm": 5.7847771644592285, + "learning_rate": 4.31001731444904e-06, + "loss": 0.0889, + "num_input_tokens_seen": 10749000, + "step": 5492 + }, + { + "epoch": 0.7280318091451292, + "grad_norm": 3.9566891193389893, + "learning_rate": 4.3097778442178115e-06, + "loss": 0.1133, + "num_input_tokens_seen": 10751232, + "step": 5493 + }, + { + "epoch": 0.7281643472498344, + "grad_norm": 9.527785301208496, + "learning_rate": 4.309538339092818e-06, + "loss": 0.1712, + "num_input_tokens_seen": 10752752, + "step": 5494 + }, + { + "epoch": 0.7282968853545394, + "grad_norm": 8.892221450805664, + "learning_rate": 4.3092987990786775e-06, + "loss": 0.3489, + "num_input_tokens_seen": 10754824, + "step": 5495 + }, + { + "epoch": 0.7284294234592446, + "grad_norm": 4.816215991973877, + "learning_rate": 4.309059224180007e-06, + "loss": 0.0811, + "num_input_tokens_seen": 10756528, + "step": 5496 + }, + { + "epoch": 0.7285619615639496, + "grad_norm": 5.372101306915283, + "learning_rate": 4.308819614401427e-06, + "loss": 0.0996, + "num_input_tokens_seen": 10757568, + "step": 5497 + }, + { + "epoch": 0.7286944996686547, + "grad_norm": 10.995583534240723, + "learning_rate": 4.308579969747558e-06, + "loss": 0.2673, + "num_input_tokens_seen": 10760072, + "step": 5498 + }, + { + "epoch": 0.7288270377733599, + "grad_norm": 18.099035263061523, + "learning_rate": 4.308340290223018e-06, + "loss": 0.6095, + "num_input_tokens_seen": 10763760, + "step": 5499 + }, + { + "epoch": 0.7289595758780649, + "grad_norm": 3.5018908977508545, + "learning_rate": 4.3081005758324305e-06, + "loss": 0.058, + "num_input_tokens_seen": 10766232, + "step": 5500 + }, + { + "epoch": 0.7290921139827701, + "grad_norm": 3.944511890411377, + "learning_rate": 4.307860826580416e-06, + "loss": 0.0606, + "num_input_tokens_seen": 10768000, + "step": 5501 + }, + { + "epoch": 0.7292246520874751, + "grad_norm": 5.916755676269531, + "learning_rate": 4.307621042471597e-06, + "loss": 0.1859, + "num_input_tokens_seen": 10769648, + "step": 5502 + }, + { + "epoch": 0.7293571901921803, + "grad_norm": 0.6834207773208618, + "learning_rate": 4.307381223510598e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10771176, + "step": 5503 + }, + { + "epoch": 0.7294897282968854, + "grad_norm": 0.8466163873672485, + "learning_rate": 4.307141369702043e-06, + "loss": 0.0057, + "num_input_tokens_seen": 10772720, + "step": 5504 + }, + { + "epoch": 0.7296222664015904, + "grad_norm": 0.9664229154586792, + "learning_rate": 4.306901481050555e-06, + "loss": 0.0059, + "num_input_tokens_seen": 10774176, + "step": 5505 + }, + { + "epoch": 0.7297548045062956, + "grad_norm": 5.939652442932129, + "learning_rate": 4.3066615575607595e-06, + "loss": 0.0619, + "num_input_tokens_seen": 10775848, + "step": 5506 + }, + { + "epoch": 0.7298873426110006, + "grad_norm": 6.4808349609375, + "learning_rate": 4.306421599237284e-06, + "loss": 0.0418, + "num_input_tokens_seen": 10777576, + "step": 5507 + }, + { + "epoch": 0.7300198807157058, + "grad_norm": 8.337955474853516, + "learning_rate": 4.306181606084752e-06, + "loss": 0.5075, + "num_input_tokens_seen": 10779784, + "step": 5508 + }, + { + "epoch": 0.7301524188204108, + "grad_norm": 3.689265489578247, + "learning_rate": 4.305941578107795e-06, + "loss": 0.057, + "num_input_tokens_seen": 10781888, + "step": 5509 + }, + { + "epoch": 0.730284956925116, + "grad_norm": 0.28034961223602295, + "learning_rate": 4.305701515311037e-06, + "loss": 0.0019, + "num_input_tokens_seen": 10784144, + "step": 5510 + }, + { + "epoch": 0.7304174950298211, + "grad_norm": 12.424942970275879, + "learning_rate": 4.305461417699109e-06, + "loss": 0.6706, + "num_input_tokens_seen": 10786576, + "step": 5511 + }, + { + "epoch": 0.7305500331345262, + "grad_norm": 10.470807075500488, + "learning_rate": 4.3052212852766375e-06, + "loss": 0.1583, + "num_input_tokens_seen": 10788824, + "step": 5512 + }, + { + "epoch": 0.7306825712392313, + "grad_norm": 0.12171858549118042, + "learning_rate": 4.304981118048256e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10789936, + "step": 5513 + }, + { + "epoch": 0.7308151093439363, + "grad_norm": 23.789995193481445, + "learning_rate": 4.304740916018593e-06, + "loss": 0.4018, + "num_input_tokens_seen": 10791656, + "step": 5514 + }, + { + "epoch": 0.7309476474486415, + "grad_norm": 0.07042837888002396, + "learning_rate": 4.3045006791922795e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10793328, + "step": 5515 + }, + { + "epoch": 0.7310801855533466, + "grad_norm": 18.310781478881836, + "learning_rate": 4.304260407573949e-06, + "loss": 0.5433, + "num_input_tokens_seen": 10794792, + "step": 5516 + }, + { + "epoch": 0.7312127236580517, + "grad_norm": 9.13074779510498, + "learning_rate": 4.304020101168232e-06, + "loss": 0.2682, + "num_input_tokens_seen": 10796848, + "step": 5517 + }, + { + "epoch": 0.7313452617627568, + "grad_norm": 5.251986980438232, + "learning_rate": 4.303779759979764e-06, + "loss": 0.0808, + "num_input_tokens_seen": 10799248, + "step": 5518 + }, + { + "epoch": 0.7314777998674619, + "grad_norm": 16.71279525756836, + "learning_rate": 4.303539384013177e-06, + "loss": 0.5215, + "num_input_tokens_seen": 10800968, + "step": 5519 + }, + { + "epoch": 0.731610337972167, + "grad_norm": 11.054742813110352, + "learning_rate": 4.3032989732731075e-06, + "loss": 0.259, + "num_input_tokens_seen": 10802648, + "step": 5520 + }, + { + "epoch": 0.731742876076872, + "grad_norm": 0.18419474363327026, + "learning_rate": 4.303058527764189e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10804792, + "step": 5521 + }, + { + "epoch": 0.7318754141815772, + "grad_norm": 10.891854286193848, + "learning_rate": 4.3028180474910585e-06, + "loss": 0.437, + "num_input_tokens_seen": 10807800, + "step": 5522 + }, + { + "epoch": 0.7320079522862823, + "grad_norm": 5.592297077178955, + "learning_rate": 4.302577532458352e-06, + "loss": 0.1746, + "num_input_tokens_seen": 10809704, + "step": 5523 + }, + { + "epoch": 0.7321404903909874, + "grad_norm": 0.04535595700144768, + "learning_rate": 4.302336982670707e-06, + "loss": 0.0003, + "num_input_tokens_seen": 10811080, + "step": 5524 + }, + { + "epoch": 0.7322730284956925, + "grad_norm": 0.05149759724736214, + "learning_rate": 4.302096398132762e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10812104, + "step": 5525 + }, + { + "epoch": 0.7324055666003976, + "grad_norm": 11.92459487915039, + "learning_rate": 4.301855778849155e-06, + "loss": 0.4089, + "num_input_tokens_seen": 10813880, + "step": 5526 + }, + { + "epoch": 0.7325381047051027, + "grad_norm": 0.3102714419364929, + "learning_rate": 4.301615124824526e-06, + "loss": 0.0022, + "num_input_tokens_seen": 10816560, + "step": 5527 + }, + { + "epoch": 0.7326706428098079, + "grad_norm": 0.07011289894580841, + "learning_rate": 4.301374436063515e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10817888, + "step": 5528 + }, + { + "epoch": 0.7328031809145129, + "grad_norm": 8.574570655822754, + "learning_rate": 4.301133712570761e-06, + "loss": 0.2513, + "num_input_tokens_seen": 10819448, + "step": 5529 + }, + { + "epoch": 0.7329357190192181, + "grad_norm": 0.12541843950748444, + "learning_rate": 4.300892954350907e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10820912, + "step": 5530 + }, + { + "epoch": 0.7330682571239231, + "grad_norm": 1.4550225734710693, + "learning_rate": 4.300652161408594e-06, + "loss": 0.0099, + "num_input_tokens_seen": 10822064, + "step": 5531 + }, + { + "epoch": 0.7332007952286282, + "grad_norm": 5.956141948699951, + "learning_rate": 4.300411333748465e-06, + "loss": 0.1749, + "num_input_tokens_seen": 10823568, + "step": 5532 + }, + { + "epoch": 0.7333333333333333, + "grad_norm": 3.8698384761810303, + "learning_rate": 4.3001704713751645e-06, + "loss": 0.1231, + "num_input_tokens_seen": 10825160, + "step": 5533 + }, + { + "epoch": 0.7334658714380384, + "grad_norm": 4.995274066925049, + "learning_rate": 4.299929574293335e-06, + "loss": 0.0581, + "num_input_tokens_seen": 10826904, + "step": 5534 + }, + { + "epoch": 0.7335984095427436, + "grad_norm": 7.504029750823975, + "learning_rate": 4.2996886425076215e-06, + "loss": 0.223, + "num_input_tokens_seen": 10828736, + "step": 5535 + }, + { + "epoch": 0.7337309476474486, + "grad_norm": 15.170551300048828, + "learning_rate": 4.29944767602267e-06, + "loss": 0.4741, + "num_input_tokens_seen": 10830176, + "step": 5536 + }, + { + "epoch": 0.7338634857521538, + "grad_norm": 6.661860942840576, + "learning_rate": 4.299206674843125e-06, + "loss": 0.1722, + "num_input_tokens_seen": 10831864, + "step": 5537 + }, + { + "epoch": 0.7339960238568588, + "grad_norm": 18.007686614990234, + "learning_rate": 4.298965638973635e-06, + "loss": 0.2577, + "num_input_tokens_seen": 10833856, + "step": 5538 + }, + { + "epoch": 0.734128561961564, + "grad_norm": 0.1619449257850647, + "learning_rate": 4.298724568418845e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10835640, + "step": 5539 + }, + { + "epoch": 0.7342611000662691, + "grad_norm": 6.918808937072754, + "learning_rate": 4.298483463183406e-06, + "loss": 0.258, + "num_input_tokens_seen": 10837328, + "step": 5540 + }, + { + "epoch": 0.7343936381709741, + "grad_norm": 9.625131607055664, + "learning_rate": 4.298242323271964e-06, + "loss": 0.2912, + "num_input_tokens_seen": 10838688, + "step": 5541 + }, + { + "epoch": 0.7345261762756793, + "grad_norm": 6.90231466293335, + "learning_rate": 4.29800114868917e-06, + "loss": 0.2205, + "num_input_tokens_seen": 10840536, + "step": 5542 + }, + { + "epoch": 0.7346587143803843, + "grad_norm": 9.644344329833984, + "learning_rate": 4.297759939439673e-06, + "loss": 0.2371, + "num_input_tokens_seen": 10842616, + "step": 5543 + }, + { + "epoch": 0.7347912524850895, + "grad_norm": 16.313232421875, + "learning_rate": 4.297518695528125e-06, + "loss": 0.4175, + "num_input_tokens_seen": 10844800, + "step": 5544 + }, + { + "epoch": 0.7349237905897945, + "grad_norm": 0.6032420992851257, + "learning_rate": 4.297277416959176e-06, + "loss": 0.0045, + "num_input_tokens_seen": 10846192, + "step": 5545 + }, + { + "epoch": 0.7350563286944997, + "grad_norm": 13.998650550842285, + "learning_rate": 4.2970361037374784e-06, + "loss": 0.2887, + "num_input_tokens_seen": 10847832, + "step": 5546 + }, + { + "epoch": 0.7351888667992048, + "grad_norm": 7.126074314117432, + "learning_rate": 4.296794755867685e-06, + "loss": 0.3418, + "num_input_tokens_seen": 10850720, + "step": 5547 + }, + { + "epoch": 0.7353214049039098, + "grad_norm": 5.029463768005371, + "learning_rate": 4.296553373354449e-06, + "loss": 0.1063, + "num_input_tokens_seen": 10852408, + "step": 5548 + }, + { + "epoch": 0.735453943008615, + "grad_norm": 1.4527138471603394, + "learning_rate": 4.296311956202426e-06, + "loss": 0.0243, + "num_input_tokens_seen": 10853960, + "step": 5549 + }, + { + "epoch": 0.73558648111332, + "grad_norm": 0.5472029447555542, + "learning_rate": 4.2960705044162675e-06, + "loss": 0.004, + "num_input_tokens_seen": 10856032, + "step": 5550 + }, + { + "epoch": 0.7357190192180252, + "grad_norm": 11.215896606445312, + "learning_rate": 4.2958290180006315e-06, + "loss": 0.296, + "num_input_tokens_seen": 10857640, + "step": 5551 + }, + { + "epoch": 0.7358515573227303, + "grad_norm": 3.4041786193847656, + "learning_rate": 4.295587496960173e-06, + "loss": 0.0657, + "num_input_tokens_seen": 10860624, + "step": 5552 + }, + { + "epoch": 0.7359840954274354, + "grad_norm": 4.3968586921691895, + "learning_rate": 4.295345941299549e-06, + "loss": 0.1082, + "num_input_tokens_seen": 10863712, + "step": 5553 + }, + { + "epoch": 0.7361166335321405, + "grad_norm": 1.3515654802322388, + "learning_rate": 4.295104351023417e-06, + "loss": 0.0103, + "num_input_tokens_seen": 10865024, + "step": 5554 + }, + { + "epoch": 0.7362491716368456, + "grad_norm": 7.054819583892822, + "learning_rate": 4.294862726136434e-06, + "loss": 0.1831, + "num_input_tokens_seen": 10866976, + "step": 5555 + }, + { + "epoch": 0.7363817097415507, + "grad_norm": 14.793862342834473, + "learning_rate": 4.29462106664326e-06, + "loss": 0.6049, + "num_input_tokens_seen": 10869472, + "step": 5556 + }, + { + "epoch": 0.7365142478462559, + "grad_norm": 9.630166053771973, + "learning_rate": 4.294379372548553e-06, + "loss": 0.1955, + "num_input_tokens_seen": 10872008, + "step": 5557 + }, + { + "epoch": 0.7366467859509609, + "grad_norm": 7.67263126373291, + "learning_rate": 4.294137643856974e-06, + "loss": 0.1745, + "num_input_tokens_seen": 10873608, + "step": 5558 + }, + { + "epoch": 0.736779324055666, + "grad_norm": 2.2542288303375244, + "learning_rate": 4.293895880573184e-06, + "loss": 0.0168, + "num_input_tokens_seen": 10875616, + "step": 5559 + }, + { + "epoch": 0.7369118621603711, + "grad_norm": 16.079044342041016, + "learning_rate": 4.293654082701843e-06, + "loss": 0.6604, + "num_input_tokens_seen": 10878384, + "step": 5560 + }, + { + "epoch": 0.7370444002650762, + "grad_norm": 9.172947883605957, + "learning_rate": 4.293412250247615e-06, + "loss": 0.239, + "num_input_tokens_seen": 10880568, + "step": 5561 + }, + { + "epoch": 0.7371769383697813, + "grad_norm": 6.037843227386475, + "learning_rate": 4.293170383215161e-06, + "loss": 0.1334, + "num_input_tokens_seen": 10882728, + "step": 5562 + }, + { + "epoch": 0.7373094764744864, + "grad_norm": 2.670527219772339, + "learning_rate": 4.292928481609146e-06, + "loss": 0.0729, + "num_input_tokens_seen": 10884168, + "step": 5563 + }, + { + "epoch": 0.7374420145791916, + "grad_norm": 5.2588114738464355, + "learning_rate": 4.292686545434232e-06, + "loss": 0.1216, + "num_input_tokens_seen": 10887440, + "step": 5564 + }, + { + "epoch": 0.7375745526838966, + "grad_norm": 1.534140706062317, + "learning_rate": 4.292444574695085e-06, + "loss": 0.0366, + "num_input_tokens_seen": 10888960, + "step": 5565 + }, + { + "epoch": 0.7377070907886017, + "grad_norm": 3.937309741973877, + "learning_rate": 4.2922025693963696e-06, + "loss": 0.0731, + "num_input_tokens_seen": 10890856, + "step": 5566 + }, + { + "epoch": 0.7378396288933068, + "grad_norm": 10.178291320800781, + "learning_rate": 4.291960529542753e-06, + "loss": 0.3296, + "num_input_tokens_seen": 10892952, + "step": 5567 + }, + { + "epoch": 0.7379721669980119, + "grad_norm": 9.69021224975586, + "learning_rate": 4.2917184551389e-06, + "loss": 0.4357, + "num_input_tokens_seen": 10895096, + "step": 5568 + }, + { + "epoch": 0.7381047051027171, + "grad_norm": 1.2098838090896606, + "learning_rate": 4.29147634618948e-06, + "loss": 0.0093, + "num_input_tokens_seen": 10896480, + "step": 5569 + }, + { + "epoch": 0.7382372432074221, + "grad_norm": 7.711188316345215, + "learning_rate": 4.29123420269916e-06, + "loss": 0.119, + "num_input_tokens_seen": 10899552, + "step": 5570 + }, + { + "epoch": 0.7383697813121273, + "grad_norm": 1.3528118133544922, + "learning_rate": 4.29099202467261e-06, + "loss": 0.0098, + "num_input_tokens_seen": 10901168, + "step": 5571 + }, + { + "epoch": 0.7385023194168323, + "grad_norm": 0.6277579069137573, + "learning_rate": 4.290749812114497e-06, + "loss": 0.0046, + "num_input_tokens_seen": 10902688, + "step": 5572 + }, + { + "epoch": 0.7386348575215375, + "grad_norm": 1.0253241062164307, + "learning_rate": 4.290507565029493e-06, + "loss": 0.0175, + "num_input_tokens_seen": 10904144, + "step": 5573 + }, + { + "epoch": 0.7387673956262425, + "grad_norm": 8.246904373168945, + "learning_rate": 4.290265283422267e-06, + "loss": 0.2873, + "num_input_tokens_seen": 10905616, + "step": 5574 + }, + { + "epoch": 0.7388999337309476, + "grad_norm": 4.6777729988098145, + "learning_rate": 4.290022967297491e-06, + "loss": 0.0829, + "num_input_tokens_seen": 10907160, + "step": 5575 + }, + { + "epoch": 0.7390324718356528, + "grad_norm": 7.547438621520996, + "learning_rate": 4.289780616659839e-06, + "loss": 0.089, + "num_input_tokens_seen": 10909120, + "step": 5576 + }, + { + "epoch": 0.7391650099403578, + "grad_norm": 16.122739791870117, + "learning_rate": 4.28953823151398e-06, + "loss": 0.6826, + "num_input_tokens_seen": 10911240, + "step": 5577 + }, + { + "epoch": 0.739297548045063, + "grad_norm": 9.46178913116455, + "learning_rate": 4.289295811864591e-06, + "loss": 0.2104, + "num_input_tokens_seen": 10913336, + "step": 5578 + }, + { + "epoch": 0.739430086149768, + "grad_norm": 6.104067325592041, + "learning_rate": 4.289053357716343e-06, + "loss": 0.2484, + "num_input_tokens_seen": 10915528, + "step": 5579 + }, + { + "epoch": 0.7395626242544732, + "grad_norm": 3.712414264678955, + "learning_rate": 4.288810869073914e-06, + "loss": 0.0274, + "num_input_tokens_seen": 10917528, + "step": 5580 + }, + { + "epoch": 0.7396951623591783, + "grad_norm": 6.806366443634033, + "learning_rate": 4.288568345941976e-06, + "loss": 0.0935, + "num_input_tokens_seen": 10919544, + "step": 5581 + }, + { + "epoch": 0.7398277004638834, + "grad_norm": 7.807260990142822, + "learning_rate": 4.2883257883252065e-06, + "loss": 0.1926, + "num_input_tokens_seen": 10921456, + "step": 5582 + }, + { + "epoch": 0.7399602385685885, + "grad_norm": 9.196476936340332, + "learning_rate": 4.288083196228281e-06, + "loss": 0.5939, + "num_input_tokens_seen": 10924424, + "step": 5583 + }, + { + "epoch": 0.7400927766732935, + "grad_norm": 3.339165210723877, + "learning_rate": 4.28784056965588e-06, + "loss": 0.0678, + "num_input_tokens_seen": 10925936, + "step": 5584 + }, + { + "epoch": 0.7402253147779987, + "grad_norm": 5.34340763092041, + "learning_rate": 4.287597908612678e-06, + "loss": 0.2142, + "num_input_tokens_seen": 10927816, + "step": 5585 + }, + { + "epoch": 0.7403578528827037, + "grad_norm": 10.882530212402344, + "learning_rate": 4.287355213103356e-06, + "loss": 0.3709, + "num_input_tokens_seen": 10929312, + "step": 5586 + }, + { + "epoch": 0.7404903909874089, + "grad_norm": 10.847646713256836, + "learning_rate": 4.2871124831325925e-06, + "loss": 0.5355, + "num_input_tokens_seen": 10930744, + "step": 5587 + }, + { + "epoch": 0.740622929092114, + "grad_norm": 8.853724479675293, + "learning_rate": 4.286869718705067e-06, + "loss": 0.3776, + "num_input_tokens_seen": 10932624, + "step": 5588 + }, + { + "epoch": 0.7407554671968191, + "grad_norm": 5.423361778259277, + "learning_rate": 4.28662691982546e-06, + "loss": 0.1039, + "num_input_tokens_seen": 10935464, + "step": 5589 + }, + { + "epoch": 0.7408880053015242, + "grad_norm": 9.560091018676758, + "learning_rate": 4.286384086498455e-06, + "loss": 0.2509, + "num_input_tokens_seen": 10937664, + "step": 5590 + }, + { + "epoch": 0.7410205434062292, + "grad_norm": 5.965892314910889, + "learning_rate": 4.286141218728732e-06, + "loss": 0.0945, + "num_input_tokens_seen": 10940104, + "step": 5591 + }, + { + "epoch": 0.7411530815109344, + "grad_norm": 0.16219490766525269, + "learning_rate": 4.285898316520974e-06, + "loss": 0.0011, + "num_input_tokens_seen": 10943152, + "step": 5592 + }, + { + "epoch": 0.7412856196156395, + "grad_norm": 3.0228981971740723, + "learning_rate": 4.285655379879864e-06, + "loss": 0.0504, + "num_input_tokens_seen": 10944808, + "step": 5593 + }, + { + "epoch": 0.7414181577203446, + "grad_norm": 6.613373279571533, + "learning_rate": 4.285412408810086e-06, + "loss": 0.112, + "num_input_tokens_seen": 10947032, + "step": 5594 + }, + { + "epoch": 0.7415506958250497, + "grad_norm": 5.082480430603027, + "learning_rate": 4.285169403316326e-06, + "loss": 0.1049, + "num_input_tokens_seen": 10949960, + "step": 5595 + }, + { + "epoch": 0.7416832339297548, + "grad_norm": 12.144387245178223, + "learning_rate": 4.284926363403268e-06, + "loss": 0.4337, + "num_input_tokens_seen": 10951400, + "step": 5596 + }, + { + "epoch": 0.7418157720344599, + "grad_norm": 7.6896586418151855, + "learning_rate": 4.284683289075598e-06, + "loss": 0.1994, + "num_input_tokens_seen": 10952928, + "step": 5597 + }, + { + "epoch": 0.741948310139165, + "grad_norm": 0.21499766409397125, + "learning_rate": 4.284440180338004e-06, + "loss": 0.0015, + "num_input_tokens_seen": 10954896, + "step": 5598 + }, + { + "epoch": 0.7420808482438701, + "grad_norm": 6.082207202911377, + "learning_rate": 4.284197037195171e-06, + "loss": 0.076, + "num_input_tokens_seen": 10957776, + "step": 5599 + }, + { + "epoch": 0.7422133863485753, + "grad_norm": 6.072389602661133, + "learning_rate": 4.28395385965179e-06, + "loss": 0.2148, + "num_input_tokens_seen": 10960280, + "step": 5600 + }, + { + "epoch": 0.7423459244532803, + "grad_norm": 15.996254920959473, + "learning_rate": 4.2837106477125465e-06, + "loss": 0.3645, + "num_input_tokens_seen": 10962328, + "step": 5601 + }, + { + "epoch": 0.7424784625579854, + "grad_norm": 11.350447654724121, + "learning_rate": 4.283467401382132e-06, + "loss": 0.3724, + "num_input_tokens_seen": 10964664, + "step": 5602 + }, + { + "epoch": 0.7426110006626905, + "grad_norm": 5.432244777679443, + "learning_rate": 4.2832241206652344e-06, + "loss": 0.0578, + "num_input_tokens_seen": 10967264, + "step": 5603 + }, + { + "epoch": 0.7427435387673956, + "grad_norm": 18.156660079956055, + "learning_rate": 4.2829808055665465e-06, + "loss": 0.6547, + "num_input_tokens_seen": 10969536, + "step": 5604 + }, + { + "epoch": 0.7428760768721008, + "grad_norm": 11.976000785827637, + "learning_rate": 4.282737456090759e-06, + "loss": 0.3157, + "num_input_tokens_seen": 10971584, + "step": 5605 + }, + { + "epoch": 0.7430086149768058, + "grad_norm": 6.209428787231445, + "learning_rate": 4.282494072242563e-06, + "loss": 0.0704, + "num_input_tokens_seen": 10973040, + "step": 5606 + }, + { + "epoch": 0.743141153081511, + "grad_norm": 4.18744421005249, + "learning_rate": 4.2822506540266515e-06, + "loss": 0.1342, + "num_input_tokens_seen": 10975288, + "step": 5607 + }, + { + "epoch": 0.743273691186216, + "grad_norm": 7.878844738006592, + "learning_rate": 4.282007201447718e-06, + "loss": 0.1245, + "num_input_tokens_seen": 10977248, + "step": 5608 + }, + { + "epoch": 0.7434062292909212, + "grad_norm": 1.692920207977295, + "learning_rate": 4.2817637145104565e-06, + "loss": 0.0291, + "num_input_tokens_seen": 10978888, + "step": 5609 + }, + { + "epoch": 0.7435387673956262, + "grad_norm": 2.3419227600097656, + "learning_rate": 4.281520193219561e-06, + "loss": 0.0203, + "num_input_tokens_seen": 10980592, + "step": 5610 + }, + { + "epoch": 0.7436713055003313, + "grad_norm": 1.2332572937011719, + "learning_rate": 4.281276637579728e-06, + "loss": 0.0087, + "num_input_tokens_seen": 10981920, + "step": 5611 + }, + { + "epoch": 0.7438038436050365, + "grad_norm": 5.501136302947998, + "learning_rate": 4.281033047595652e-06, + "loss": 0.0963, + "num_input_tokens_seen": 10984040, + "step": 5612 + }, + { + "epoch": 0.7439363817097415, + "grad_norm": 13.99736499786377, + "learning_rate": 4.28078942327203e-06, + "loss": 0.4102, + "num_input_tokens_seen": 10987416, + "step": 5613 + }, + { + "epoch": 0.7440689198144467, + "grad_norm": 24.510679244995117, + "learning_rate": 4.28054576461356e-06, + "loss": 0.7798, + "num_input_tokens_seen": 10990320, + "step": 5614 + }, + { + "epoch": 0.7442014579191517, + "grad_norm": 6.149999141693115, + "learning_rate": 4.280302071624939e-06, + "loss": 0.0897, + "num_input_tokens_seen": 10993664, + "step": 5615 + }, + { + "epoch": 0.7443339960238569, + "grad_norm": 8.941412925720215, + "learning_rate": 4.280058344310865e-06, + "loss": 0.1064, + "num_input_tokens_seen": 10995120, + "step": 5616 + }, + { + "epoch": 0.744466534128562, + "grad_norm": 11.968453407287598, + "learning_rate": 4.279814582676039e-06, + "loss": 0.4572, + "num_input_tokens_seen": 10996752, + "step": 5617 + }, + { + "epoch": 0.744599072233267, + "grad_norm": 9.384695053100586, + "learning_rate": 4.27957078672516e-06, + "loss": 0.2039, + "num_input_tokens_seen": 10999120, + "step": 5618 + }, + { + "epoch": 0.7447316103379722, + "grad_norm": 13.153914451599121, + "learning_rate": 4.279326956462928e-06, + "loss": 0.332, + "num_input_tokens_seen": 11000760, + "step": 5619 + }, + { + "epoch": 0.7448641484426772, + "grad_norm": 11.911666870117188, + "learning_rate": 4.279083091894046e-06, + "loss": 0.3316, + "num_input_tokens_seen": 11002224, + "step": 5620 + }, + { + "epoch": 0.7449966865473824, + "grad_norm": 1.1861519813537598, + "learning_rate": 4.278839193023214e-06, + "loss": 0.0086, + "num_input_tokens_seen": 11003656, + "step": 5621 + }, + { + "epoch": 0.7451292246520875, + "grad_norm": 4.774340629577637, + "learning_rate": 4.278595259855135e-06, + "loss": 0.0263, + "num_input_tokens_seen": 11004912, + "step": 5622 + }, + { + "epoch": 0.7452617627567926, + "grad_norm": 12.020133972167969, + "learning_rate": 4.278351292394513e-06, + "loss": 0.2986, + "num_input_tokens_seen": 11007104, + "step": 5623 + }, + { + "epoch": 0.7453943008614977, + "grad_norm": 0.41112396121025085, + "learning_rate": 4.27810729064605e-06, + "loss": 0.0029, + "num_input_tokens_seen": 11008808, + "step": 5624 + }, + { + "epoch": 0.7455268389662028, + "grad_norm": 6.758029937744141, + "learning_rate": 4.277863254614453e-06, + "loss": 0.0705, + "num_input_tokens_seen": 11011824, + "step": 5625 + }, + { + "epoch": 0.7456593770709079, + "grad_norm": 0.6719967126846313, + "learning_rate": 4.277619184304426e-06, + "loss": 0.0043, + "num_input_tokens_seen": 11014936, + "step": 5626 + }, + { + "epoch": 0.7457919151756129, + "grad_norm": 0.3601485788822174, + "learning_rate": 4.277375079720674e-06, + "loss": 0.0025, + "num_input_tokens_seen": 11016688, + "step": 5627 + }, + { + "epoch": 0.7459244532803181, + "grad_norm": 6.074212551116943, + "learning_rate": 4.277130940867905e-06, + "loss": 0.1615, + "num_input_tokens_seen": 11017800, + "step": 5628 + }, + { + "epoch": 0.7460569913850232, + "grad_norm": 13.346771240234375, + "learning_rate": 4.276886767750825e-06, + "loss": 0.34, + "num_input_tokens_seen": 11019760, + "step": 5629 + }, + { + "epoch": 0.7461895294897283, + "grad_norm": 16.044174194335938, + "learning_rate": 4.276642560374142e-06, + "loss": 0.3147, + "num_input_tokens_seen": 11021624, + "step": 5630 + }, + { + "epoch": 0.7463220675944334, + "grad_norm": 1.467759132385254, + "learning_rate": 4.276398318742565e-06, + "loss": 0.0513, + "num_input_tokens_seen": 11023552, + "step": 5631 + }, + { + "epoch": 0.7464546056991385, + "grad_norm": 0.23978865146636963, + "learning_rate": 4.276154042860804e-06, + "loss": 0.0017, + "num_input_tokens_seen": 11025520, + "step": 5632 + }, + { + "epoch": 0.7465871438038436, + "grad_norm": 14.448883056640625, + "learning_rate": 4.275909732733566e-06, + "loss": 0.4519, + "num_input_tokens_seen": 11026784, + "step": 5633 + }, + { + "epoch": 0.7467196819085488, + "grad_norm": 0.048455916345119476, + "learning_rate": 4.275665388365565e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11027992, + "step": 5634 + }, + { + "epoch": 0.7468522200132538, + "grad_norm": 3.768547534942627, + "learning_rate": 4.27542100976151e-06, + "loss": 0.0426, + "num_input_tokens_seen": 11030160, + "step": 5635 + }, + { + "epoch": 0.746984758117959, + "grad_norm": 12.255239486694336, + "learning_rate": 4.275176596926112e-06, + "loss": 0.1494, + "num_input_tokens_seen": 11031408, + "step": 5636 + }, + { + "epoch": 0.747117296222664, + "grad_norm": 4.9672441482543945, + "learning_rate": 4.274932149864085e-06, + "loss": 0.0938, + "num_input_tokens_seen": 11033560, + "step": 5637 + }, + { + "epoch": 0.7472498343273691, + "grad_norm": 10.4606294631958, + "learning_rate": 4.274687668580142e-06, + "loss": 0.3691, + "num_input_tokens_seen": 11035520, + "step": 5638 + }, + { + "epoch": 0.7473823724320742, + "grad_norm": 5.626713752746582, + "learning_rate": 4.274443153078996e-06, + "loss": 0.05, + "num_input_tokens_seen": 11037704, + "step": 5639 + }, + { + "epoch": 0.7475149105367793, + "grad_norm": 10.198901176452637, + "learning_rate": 4.274198603365362e-06, + "loss": 0.1726, + "num_input_tokens_seen": 11039368, + "step": 5640 + }, + { + "epoch": 0.7476474486414845, + "grad_norm": 1.4593884944915771, + "learning_rate": 4.273954019443956e-06, + "loss": 0.0145, + "num_input_tokens_seen": 11041352, + "step": 5641 + }, + { + "epoch": 0.7477799867461895, + "grad_norm": 22.100982666015625, + "learning_rate": 4.273709401319492e-06, + "loss": 0.3743, + "num_input_tokens_seen": 11043328, + "step": 5642 + }, + { + "epoch": 0.7479125248508947, + "grad_norm": 9.474600791931152, + "learning_rate": 4.273464748996687e-06, + "loss": 0.3399, + "num_input_tokens_seen": 11046040, + "step": 5643 + }, + { + "epoch": 0.7480450629555997, + "grad_norm": 11.160884857177734, + "learning_rate": 4.2732200624802585e-06, + "loss": 0.1969, + "num_input_tokens_seen": 11047440, + "step": 5644 + }, + { + "epoch": 0.7481776010603048, + "grad_norm": 13.449312210083008, + "learning_rate": 4.272975341774923e-06, + "loss": 0.3297, + "num_input_tokens_seen": 11049072, + "step": 5645 + }, + { + "epoch": 0.74831013916501, + "grad_norm": 0.09367889910936356, + "learning_rate": 4.272730586885401e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11051528, + "step": 5646 + }, + { + "epoch": 0.748442677269715, + "grad_norm": 11.46632194519043, + "learning_rate": 4.27248579781641e-06, + "loss": 0.4357, + "num_input_tokens_seen": 11053168, + "step": 5647 + }, + { + "epoch": 0.7485752153744202, + "grad_norm": 3.4057676792144775, + "learning_rate": 4.27224097457267e-06, + "loss": 0.1147, + "num_input_tokens_seen": 11055288, + "step": 5648 + }, + { + "epoch": 0.7487077534791252, + "grad_norm": 3.912752866744995, + "learning_rate": 4.271996117158901e-06, + "loss": 0.0206, + "num_input_tokens_seen": 11057128, + "step": 5649 + }, + { + "epoch": 0.7488402915838304, + "grad_norm": 0.3252025842666626, + "learning_rate": 4.271751225579825e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11058624, + "step": 5650 + }, + { + "epoch": 0.7489728296885354, + "grad_norm": 9.784480094909668, + "learning_rate": 4.2715062998401624e-06, + "loss": 0.1798, + "num_input_tokens_seen": 11060184, + "step": 5651 + }, + { + "epoch": 0.7491053677932406, + "grad_norm": 3.8719005584716797, + "learning_rate": 4.271261339944637e-06, + "loss": 0.1088, + "num_input_tokens_seen": 11061800, + "step": 5652 + }, + { + "epoch": 0.7492379058979457, + "grad_norm": 10.998685836791992, + "learning_rate": 4.271016345897971e-06, + "loss": 0.1749, + "num_input_tokens_seen": 11063408, + "step": 5653 + }, + { + "epoch": 0.7493704440026507, + "grad_norm": 11.26396656036377, + "learning_rate": 4.270771317704887e-06, + "loss": 0.206, + "num_input_tokens_seen": 11065224, + "step": 5654 + }, + { + "epoch": 0.7495029821073559, + "grad_norm": 20.15559196472168, + "learning_rate": 4.270526255370112e-06, + "loss": 0.4393, + "num_input_tokens_seen": 11066448, + "step": 5655 + }, + { + "epoch": 0.7496355202120609, + "grad_norm": 19.359214782714844, + "learning_rate": 4.270281158898368e-06, + "loss": 0.3042, + "num_input_tokens_seen": 11068384, + "step": 5656 + }, + { + "epoch": 0.7497680583167661, + "grad_norm": 9.346695899963379, + "learning_rate": 4.270036028294382e-06, + "loss": 0.3392, + "num_input_tokens_seen": 11069896, + "step": 5657 + }, + { + "epoch": 0.7499005964214712, + "grad_norm": 0.2790091931819916, + "learning_rate": 4.269790863562882e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11071400, + "step": 5658 + }, + { + "epoch": 0.7500331345261763, + "grad_norm": 14.131875991821289, + "learning_rate": 4.269545664708591e-06, + "loss": 0.5372, + "num_input_tokens_seen": 11072872, + "step": 5659 + }, + { + "epoch": 0.7501656726308814, + "grad_norm": 12.163456916809082, + "learning_rate": 4.2693004317362405e-06, + "loss": 0.1782, + "num_input_tokens_seen": 11074304, + "step": 5660 + }, + { + "epoch": 0.7502982107355864, + "grad_norm": 16.802536010742188, + "learning_rate": 4.269055164650556e-06, + "loss": 0.3635, + "num_input_tokens_seen": 11076160, + "step": 5661 + }, + { + "epoch": 0.7504307488402916, + "grad_norm": 3.50714373588562, + "learning_rate": 4.268809863456268e-06, + "loss": 0.0422, + "num_input_tokens_seen": 11078104, + "step": 5662 + }, + { + "epoch": 0.7505632869449966, + "grad_norm": 0.8152724504470825, + "learning_rate": 4.268564528158106e-06, + "loss": 0.0047, + "num_input_tokens_seen": 11079704, + "step": 5663 + }, + { + "epoch": 0.7506958250497018, + "grad_norm": 0.6605602502822876, + "learning_rate": 4.268319158760799e-06, + "loss": 0.0034, + "num_input_tokens_seen": 11081584, + "step": 5664 + }, + { + "epoch": 0.7508283631544069, + "grad_norm": 10.469990730285645, + "learning_rate": 4.26807375526908e-06, + "loss": 0.2902, + "num_input_tokens_seen": 11083392, + "step": 5665 + }, + { + "epoch": 0.750960901259112, + "grad_norm": 10.737537384033203, + "learning_rate": 4.267828317687677e-06, + "loss": 0.1021, + "num_input_tokens_seen": 11084656, + "step": 5666 + }, + { + "epoch": 0.7510934393638171, + "grad_norm": 13.463081359863281, + "learning_rate": 4.267582846021327e-06, + "loss": 0.2783, + "num_input_tokens_seen": 11086616, + "step": 5667 + }, + { + "epoch": 0.7512259774685222, + "grad_norm": 20.12310028076172, + "learning_rate": 4.267337340274759e-06, + "loss": 0.3446, + "num_input_tokens_seen": 11088696, + "step": 5668 + }, + { + "epoch": 0.7513585155732273, + "grad_norm": 10.932811737060547, + "learning_rate": 4.267091800452708e-06, + "loss": 0.3052, + "num_input_tokens_seen": 11090192, + "step": 5669 + }, + { + "epoch": 0.7514910536779325, + "grad_norm": 7.991088390350342, + "learning_rate": 4.266846226559908e-06, + "loss": 0.0304, + "num_input_tokens_seen": 11091640, + "step": 5670 + }, + { + "epoch": 0.7516235917826375, + "grad_norm": 13.237998962402344, + "learning_rate": 4.266600618601095e-06, + "loss": 0.3882, + "num_input_tokens_seen": 11094352, + "step": 5671 + }, + { + "epoch": 0.7517561298873426, + "grad_norm": 6.926783084869385, + "learning_rate": 4.266354976581002e-06, + "loss": 0.1678, + "num_input_tokens_seen": 11095632, + "step": 5672 + }, + { + "epoch": 0.7518886679920477, + "grad_norm": 11.170830726623535, + "learning_rate": 4.266109300504367e-06, + "loss": 0.2158, + "num_input_tokens_seen": 11097576, + "step": 5673 + }, + { + "epoch": 0.7520212060967528, + "grad_norm": 17.36977195739746, + "learning_rate": 4.265863590375926e-06, + "loss": 0.278, + "num_input_tokens_seen": 11099360, + "step": 5674 + }, + { + "epoch": 0.752153744201458, + "grad_norm": 12.258142471313477, + "learning_rate": 4.2656178462004165e-06, + "loss": 0.2109, + "num_input_tokens_seen": 11101256, + "step": 5675 + }, + { + "epoch": 0.752286282306163, + "grad_norm": 7.624269008636475, + "learning_rate": 4.265372067982577e-06, + "loss": 0.0828, + "num_input_tokens_seen": 11102656, + "step": 5676 + }, + { + "epoch": 0.7524188204108682, + "grad_norm": 10.854073524475098, + "learning_rate": 4.2651262557271465e-06, + "loss": 0.3755, + "num_input_tokens_seen": 11105160, + "step": 5677 + }, + { + "epoch": 0.7525513585155732, + "grad_norm": 0.296252578496933, + "learning_rate": 4.264880409438864e-06, + "loss": 0.002, + "num_input_tokens_seen": 11107112, + "step": 5678 + }, + { + "epoch": 0.7526838966202783, + "grad_norm": 8.36817741394043, + "learning_rate": 4.26463452912247e-06, + "loss": 0.223, + "num_input_tokens_seen": 11108840, + "step": 5679 + }, + { + "epoch": 0.7528164347249834, + "grad_norm": 5.196551322937012, + "learning_rate": 4.264388614782705e-06, + "loss": 0.1884, + "num_input_tokens_seen": 11110992, + "step": 5680 + }, + { + "epoch": 0.7529489728296885, + "grad_norm": 0.18713270127773285, + "learning_rate": 4.264142666424309e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11113712, + "step": 5681 + }, + { + "epoch": 0.7530815109343937, + "grad_norm": 0.5625441074371338, + "learning_rate": 4.263896684052027e-06, + "loss": 0.0032, + "num_input_tokens_seen": 11116032, + "step": 5682 + }, + { + "epoch": 0.7532140490390987, + "grad_norm": 17.395601272583008, + "learning_rate": 4.263650667670599e-06, + "loss": 0.2589, + "num_input_tokens_seen": 11117776, + "step": 5683 + }, + { + "epoch": 0.7533465871438039, + "grad_norm": 95.3443374633789, + "learning_rate": 4.263404617284771e-06, + "loss": 0.685, + "num_input_tokens_seen": 11119696, + "step": 5684 + }, + { + "epoch": 0.7534791252485089, + "grad_norm": 7.4920454025268555, + "learning_rate": 4.263158532899284e-06, + "loss": 0.1321, + "num_input_tokens_seen": 11120904, + "step": 5685 + }, + { + "epoch": 0.7536116633532141, + "grad_norm": 8.150219917297363, + "learning_rate": 4.2629124145188846e-06, + "loss": 0.4258, + "num_input_tokens_seen": 11123392, + "step": 5686 + }, + { + "epoch": 0.7537442014579192, + "grad_norm": 14.679032325744629, + "learning_rate": 4.262666262148317e-06, + "loss": 0.4803, + "num_input_tokens_seen": 11125096, + "step": 5687 + }, + { + "epoch": 0.7538767395626242, + "grad_norm": 6.052586555480957, + "learning_rate": 4.262420075792328e-06, + "loss": 0.2023, + "num_input_tokens_seen": 11126904, + "step": 5688 + }, + { + "epoch": 0.7540092776673294, + "grad_norm": 2.7921276092529297, + "learning_rate": 4.262173855455665e-06, + "loss": 0.0174, + "num_input_tokens_seen": 11129232, + "step": 5689 + }, + { + "epoch": 0.7541418157720344, + "grad_norm": 11.46022891998291, + "learning_rate": 4.2619276011430735e-06, + "loss": 0.177, + "num_input_tokens_seen": 11130584, + "step": 5690 + }, + { + "epoch": 0.7542743538767396, + "grad_norm": 10.517122268676758, + "learning_rate": 4.261681312859303e-06, + "loss": 0.2271, + "num_input_tokens_seen": 11132832, + "step": 5691 + }, + { + "epoch": 0.7544068919814446, + "grad_norm": 12.965659141540527, + "learning_rate": 4.261434990609102e-06, + "loss": 0.3185, + "num_input_tokens_seen": 11134320, + "step": 5692 + }, + { + "epoch": 0.7545394300861498, + "grad_norm": 9.949737548828125, + "learning_rate": 4.261188634397218e-06, + "loss": 0.2886, + "num_input_tokens_seen": 11136016, + "step": 5693 + }, + { + "epoch": 0.7546719681908549, + "grad_norm": 0.2930799126625061, + "learning_rate": 4.260942244228403e-06, + "loss": 0.002, + "num_input_tokens_seen": 11138088, + "step": 5694 + }, + { + "epoch": 0.75480450629556, + "grad_norm": 0.10911756008863449, + "learning_rate": 4.2606958201074065e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11139832, + "step": 5695 + }, + { + "epoch": 0.7549370444002651, + "grad_norm": 6.850417613983154, + "learning_rate": 4.26044936203898e-06, + "loss": 0.1509, + "num_input_tokens_seen": 11141696, + "step": 5696 + }, + { + "epoch": 0.7550695825049701, + "grad_norm": 10.386096954345703, + "learning_rate": 4.260202870027875e-06, + "loss": 0.2916, + "num_input_tokens_seen": 11144208, + "step": 5697 + }, + { + "epoch": 0.7552021206096753, + "grad_norm": 6.587453842163086, + "learning_rate": 4.2599563440788434e-06, + "loss": 0.1517, + "num_input_tokens_seen": 11145672, + "step": 5698 + }, + { + "epoch": 0.7553346587143804, + "grad_norm": 0.27563661336898804, + "learning_rate": 4.259709784196641e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11147368, + "step": 5699 + }, + { + "epoch": 0.7554671968190855, + "grad_norm": 0.030336998403072357, + "learning_rate": 4.259463190386019e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11148776, + "step": 5700 + }, + { + "epoch": 0.7555997349237906, + "grad_norm": 7.526874542236328, + "learning_rate": 4.259216562651734e-06, + "loss": 0.1515, + "num_input_tokens_seen": 11150616, + "step": 5701 + }, + { + "epoch": 0.7557322730284957, + "grad_norm": 0.04693884402513504, + "learning_rate": 4.25896990099854e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11152736, + "step": 5702 + }, + { + "epoch": 0.7558648111332008, + "grad_norm": 11.271683692932129, + "learning_rate": 4.258723205431192e-06, + "loss": 0.4579, + "num_input_tokens_seen": 11155136, + "step": 5703 + }, + { + "epoch": 0.7559973492379058, + "grad_norm": 0.5262144207954407, + "learning_rate": 4.258476475954447e-06, + "loss": 0.0034, + "num_input_tokens_seen": 11157992, + "step": 5704 + }, + { + "epoch": 0.756129887342611, + "grad_norm": 4.162840843200684, + "learning_rate": 4.258229712573063e-06, + "loss": 0.0762, + "num_input_tokens_seen": 11159712, + "step": 5705 + }, + { + "epoch": 0.7562624254473161, + "grad_norm": 0.06144149601459503, + "learning_rate": 4.2579829152917975e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11162296, + "step": 5706 + }, + { + "epoch": 0.7563949635520212, + "grad_norm": 2.904346466064453, + "learning_rate": 4.257736084115408e-06, + "loss": 0.0655, + "num_input_tokens_seen": 11164272, + "step": 5707 + }, + { + "epoch": 0.7565275016567263, + "grad_norm": 8.711077690124512, + "learning_rate": 4.257489219048655e-06, + "loss": 0.109, + "num_input_tokens_seen": 11166160, + "step": 5708 + }, + { + "epoch": 0.7566600397614314, + "grad_norm": 4.689111232757568, + "learning_rate": 4.2572423200962965e-06, + "loss": 0.14, + "num_input_tokens_seen": 11167848, + "step": 5709 + }, + { + "epoch": 0.7567925778661365, + "grad_norm": 10.667964935302734, + "learning_rate": 4.256995387263095e-06, + "loss": 0.3981, + "num_input_tokens_seen": 11169672, + "step": 5710 + }, + { + "epoch": 0.7569251159708417, + "grad_norm": 5.06772518157959, + "learning_rate": 4.256748420553809e-06, + "loss": 0.1634, + "num_input_tokens_seen": 11170880, + "step": 5711 + }, + { + "epoch": 0.7570576540755467, + "grad_norm": 23.774381637573242, + "learning_rate": 4.256501419973203e-06, + "loss": 0.8916, + "num_input_tokens_seen": 11173784, + "step": 5712 + }, + { + "epoch": 0.7571901921802519, + "grad_norm": 10.791685104370117, + "learning_rate": 4.2562543855260365e-06, + "loss": 0.389, + "num_input_tokens_seen": 11175808, + "step": 5713 + }, + { + "epoch": 0.7573227302849569, + "grad_norm": 12.001212120056152, + "learning_rate": 4.256007317217075e-06, + "loss": 0.4446, + "num_input_tokens_seen": 11177704, + "step": 5714 + }, + { + "epoch": 0.757455268389662, + "grad_norm": 6.769618511199951, + "learning_rate": 4.2557602150510805e-06, + "loss": 0.1965, + "num_input_tokens_seen": 11179096, + "step": 5715 + }, + { + "epoch": 0.7575878064943671, + "grad_norm": 1.5752532482147217, + "learning_rate": 4.255513079032817e-06, + "loss": 0.0329, + "num_input_tokens_seen": 11180368, + "step": 5716 + }, + { + "epoch": 0.7577203445990722, + "grad_norm": 19.579715728759766, + "learning_rate": 4.2552659091670515e-06, + "loss": 0.8356, + "num_input_tokens_seen": 11182816, + "step": 5717 + }, + { + "epoch": 0.7578528827037774, + "grad_norm": 0.31605860590934753, + "learning_rate": 4.2550187054585475e-06, + "loss": 0.0022, + "num_input_tokens_seen": 11185040, + "step": 5718 + }, + { + "epoch": 0.7579854208084824, + "grad_norm": 0.7418410181999207, + "learning_rate": 4.254771467912072e-06, + "loss": 0.0053, + "num_input_tokens_seen": 11186296, + "step": 5719 + }, + { + "epoch": 0.7581179589131876, + "grad_norm": 3.4883127212524414, + "learning_rate": 4.254524196532393e-06, + "loss": 0.0703, + "num_input_tokens_seen": 11188504, + "step": 5720 + }, + { + "epoch": 0.7582504970178926, + "grad_norm": 0.44677528738975525, + "learning_rate": 4.254276891324277e-06, + "loss": 0.0028, + "num_input_tokens_seen": 11190544, + "step": 5721 + }, + { + "epoch": 0.7583830351225977, + "grad_norm": 7.910586833953857, + "learning_rate": 4.254029552292491e-06, + "loss": 0.1835, + "num_input_tokens_seen": 11192256, + "step": 5722 + }, + { + "epoch": 0.7585155732273029, + "grad_norm": 0.13156349956989288, + "learning_rate": 4.253782179441807e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11193736, + "step": 5723 + }, + { + "epoch": 0.7586481113320079, + "grad_norm": 0.3557851016521454, + "learning_rate": 4.253534772776991e-06, + "loss": 0.0026, + "num_input_tokens_seen": 11196472, + "step": 5724 + }, + { + "epoch": 0.7587806494367131, + "grad_norm": 0.40530019998550415, + "learning_rate": 4.253287332302817e-06, + "loss": 0.0029, + "num_input_tokens_seen": 11198272, + "step": 5725 + }, + { + "epoch": 0.7589131875414181, + "grad_norm": 0.18909013271331787, + "learning_rate": 4.253039858024052e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11201264, + "step": 5726 + }, + { + "epoch": 0.7590457256461233, + "grad_norm": 4.389664649963379, + "learning_rate": 4.2527923499454695e-06, + "loss": 0.0313, + "num_input_tokens_seen": 11202792, + "step": 5727 + }, + { + "epoch": 0.7591782637508283, + "grad_norm": 0.36746108531951904, + "learning_rate": 4.252544808071841e-06, + "loss": 0.0023, + "num_input_tokens_seen": 11203968, + "step": 5728 + }, + { + "epoch": 0.7593108018555335, + "grad_norm": 3.4134554862976074, + "learning_rate": 4.2522972324079404e-06, + "loss": 0.0798, + "num_input_tokens_seen": 11206224, + "step": 5729 + }, + { + "epoch": 0.7594433399602386, + "grad_norm": 16.001447677612305, + "learning_rate": 4.25204962295854e-06, + "loss": 0.4242, + "num_input_tokens_seen": 11208312, + "step": 5730 + }, + { + "epoch": 0.7595758780649436, + "grad_norm": 1.2767168283462524, + "learning_rate": 4.251801979728415e-06, + "loss": 0.0085, + "num_input_tokens_seen": 11209776, + "step": 5731 + }, + { + "epoch": 0.7597084161696488, + "grad_norm": 3.2513034343719482, + "learning_rate": 4.2515543027223375e-06, + "loss": 0.1984, + "num_input_tokens_seen": 11211376, + "step": 5732 + }, + { + "epoch": 0.7598409542743538, + "grad_norm": 0.1131301000714302, + "learning_rate": 4.251306591945086e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11213240, + "step": 5733 + }, + { + "epoch": 0.759973492379059, + "grad_norm": 2.8060240745544434, + "learning_rate": 4.2510588474014345e-06, + "loss": 0.034, + "num_input_tokens_seen": 11215328, + "step": 5734 + }, + { + "epoch": 0.7601060304837641, + "grad_norm": 10.863306999206543, + "learning_rate": 4.250811069096161e-06, + "loss": 0.245, + "num_input_tokens_seen": 11217816, + "step": 5735 + }, + { + "epoch": 0.7602385685884692, + "grad_norm": 2.7661736011505127, + "learning_rate": 4.250563257034043e-06, + "loss": 0.0474, + "num_input_tokens_seen": 11219320, + "step": 5736 + }, + { + "epoch": 0.7603711066931743, + "grad_norm": 16.974578857421875, + "learning_rate": 4.250315411219856e-06, + "loss": 0.6565, + "num_input_tokens_seen": 11221976, + "step": 5737 + }, + { + "epoch": 0.7605036447978794, + "grad_norm": 68.89404296875, + "learning_rate": 4.250067531658381e-06, + "loss": 0.593, + "num_input_tokens_seen": 11224280, + "step": 5738 + }, + { + "epoch": 0.7606361829025845, + "grad_norm": 8.063910484313965, + "learning_rate": 4.249819618354397e-06, + "loss": 0.2135, + "num_input_tokens_seen": 11225520, + "step": 5739 + }, + { + "epoch": 0.7607687210072896, + "grad_norm": 5.7894721031188965, + "learning_rate": 4.249571671312683e-06, + "loss": 0.1751, + "num_input_tokens_seen": 11227248, + "step": 5740 + }, + { + "epoch": 0.7609012591119947, + "grad_norm": 6.145232200622559, + "learning_rate": 4.249323690538021e-06, + "loss": 0.0193, + "num_input_tokens_seen": 11228504, + "step": 5741 + }, + { + "epoch": 0.7610337972166998, + "grad_norm": 25.760915756225586, + "learning_rate": 4.249075676035192e-06, + "loss": 0.631, + "num_input_tokens_seen": 11230136, + "step": 5742 + }, + { + "epoch": 0.7611663353214049, + "grad_norm": 10.716141700744629, + "learning_rate": 4.248827627808976e-06, + "loss": 0.2224, + "num_input_tokens_seen": 11231944, + "step": 5743 + }, + { + "epoch": 0.76129887342611, + "grad_norm": 3.7902352809906006, + "learning_rate": 4.2485795458641575e-06, + "loss": 0.0531, + "num_input_tokens_seen": 11233696, + "step": 5744 + }, + { + "epoch": 0.7614314115308151, + "grad_norm": 10.52564525604248, + "learning_rate": 4.248331430205519e-06, + "loss": 0.3176, + "num_input_tokens_seen": 11235800, + "step": 5745 + }, + { + "epoch": 0.7615639496355202, + "grad_norm": 0.18763208389282227, + "learning_rate": 4.248083280837845e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11237424, + "step": 5746 + }, + { + "epoch": 0.7616964877402254, + "grad_norm": 7.817233562469482, + "learning_rate": 4.2478350977659185e-06, + "loss": 0.3156, + "num_input_tokens_seen": 11239072, + "step": 5747 + }, + { + "epoch": 0.7618290258449304, + "grad_norm": 6.89839506149292, + "learning_rate": 4.2475868809945256e-06, + "loss": 0.0743, + "num_input_tokens_seen": 11241128, + "step": 5748 + }, + { + "epoch": 0.7619615639496355, + "grad_norm": 5.536786079406738, + "learning_rate": 4.2473386305284526e-06, + "loss": 0.1883, + "num_input_tokens_seen": 11242688, + "step": 5749 + }, + { + "epoch": 0.7620941020543406, + "grad_norm": 6.102610111236572, + "learning_rate": 4.247090346372484e-06, + "loss": 0.1958, + "num_input_tokens_seen": 11245200, + "step": 5750 + }, + { + "epoch": 0.7622266401590457, + "grad_norm": 11.152328491210938, + "learning_rate": 4.246842028531411e-06, + "loss": 0.3336, + "num_input_tokens_seen": 11247352, + "step": 5751 + }, + { + "epoch": 0.7623591782637509, + "grad_norm": 11.340971946716309, + "learning_rate": 4.246593677010016e-06, + "loss": 0.357, + "num_input_tokens_seen": 11248640, + "step": 5752 + }, + { + "epoch": 0.7624917163684559, + "grad_norm": 10.115334510803223, + "learning_rate": 4.246345291813091e-06, + "loss": 0.3296, + "num_input_tokens_seen": 11251040, + "step": 5753 + }, + { + "epoch": 0.7626242544731611, + "grad_norm": 8.057600021362305, + "learning_rate": 4.246096872945425e-06, + "loss": 0.1341, + "num_input_tokens_seen": 11253256, + "step": 5754 + }, + { + "epoch": 0.7627567925778661, + "grad_norm": 6.15314245223999, + "learning_rate": 4.2458484204118045e-06, + "loss": 0.0862, + "num_input_tokens_seen": 11254720, + "step": 5755 + }, + { + "epoch": 0.7628893306825713, + "grad_norm": 0.5579625368118286, + "learning_rate": 4.245599934217024e-06, + "loss": 0.0036, + "num_input_tokens_seen": 11256616, + "step": 5756 + }, + { + "epoch": 0.7630218687872763, + "grad_norm": 2.6828835010528564, + "learning_rate": 4.245351414365871e-06, + "loss": 0.0532, + "num_input_tokens_seen": 11258128, + "step": 5757 + }, + { + "epoch": 0.7631544068919814, + "grad_norm": 5.420414924621582, + "learning_rate": 4.245102860863139e-06, + "loss": 0.0965, + "num_input_tokens_seen": 11259568, + "step": 5758 + }, + { + "epoch": 0.7632869449966866, + "grad_norm": 6.338709354400635, + "learning_rate": 4.244854273713621e-06, + "loss": 0.1135, + "num_input_tokens_seen": 11261024, + "step": 5759 + }, + { + "epoch": 0.7634194831013916, + "grad_norm": 8.973888397216797, + "learning_rate": 4.244605652922108e-06, + "loss": 0.3457, + "num_input_tokens_seen": 11263328, + "step": 5760 + }, + { + "epoch": 0.7635520212060968, + "grad_norm": 1.4278415441513062, + "learning_rate": 4.2443569984933955e-06, + "loss": 0.0091, + "num_input_tokens_seen": 11265048, + "step": 5761 + }, + { + "epoch": 0.7636845593108018, + "grad_norm": 4.837559223175049, + "learning_rate": 4.244108310432275e-06, + "loss": 0.131, + "num_input_tokens_seen": 11267448, + "step": 5762 + }, + { + "epoch": 0.763817097415507, + "grad_norm": 1.7924344539642334, + "learning_rate": 4.2438595887435455e-06, + "loss": 0.0108, + "num_input_tokens_seen": 11269192, + "step": 5763 + }, + { + "epoch": 0.7639496355202121, + "grad_norm": 20.689882278442383, + "learning_rate": 4.243610833431998e-06, + "loss": 0.5443, + "num_input_tokens_seen": 11271352, + "step": 5764 + }, + { + "epoch": 0.7640821736249171, + "grad_norm": 10.855278015136719, + "learning_rate": 4.243362044502432e-06, + "loss": 0.3385, + "num_input_tokens_seen": 11274176, + "step": 5765 + }, + { + "epoch": 0.7642147117296223, + "grad_norm": 16.532663345336914, + "learning_rate": 4.243113221959641e-06, + "loss": 0.5585, + "num_input_tokens_seen": 11276488, + "step": 5766 + }, + { + "epoch": 0.7643472498343273, + "grad_norm": 0.15407158434391022, + "learning_rate": 4.242864365808428e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11277992, + "step": 5767 + }, + { + "epoch": 0.7644797879390325, + "grad_norm": 16.419313430786133, + "learning_rate": 4.242615476053585e-06, + "loss": 0.4792, + "num_input_tokens_seen": 11279448, + "step": 5768 + }, + { + "epoch": 0.7646123260437375, + "grad_norm": 0.0714157372713089, + "learning_rate": 4.2423665526999135e-06, + "loss": 0.0005, + "num_input_tokens_seen": 11280896, + "step": 5769 + }, + { + "epoch": 0.7647448641484427, + "grad_norm": 2.8343448638916016, + "learning_rate": 4.242117595752214e-06, + "loss": 0.057, + "num_input_tokens_seen": 11282488, + "step": 5770 + }, + { + "epoch": 0.7648774022531478, + "grad_norm": 17.782989501953125, + "learning_rate": 4.241868605215285e-06, + "loss": 0.4962, + "num_input_tokens_seen": 11284400, + "step": 5771 + }, + { + "epoch": 0.7650099403578529, + "grad_norm": 0.12318360805511475, + "learning_rate": 4.2416195810939274e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11285848, + "step": 5772 + }, + { + "epoch": 0.765142478462558, + "grad_norm": 0.054391246289014816, + "learning_rate": 4.241370523392943e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11287568, + "step": 5773 + }, + { + "epoch": 0.765275016567263, + "grad_norm": 7.675429821014404, + "learning_rate": 4.241121432117134e-06, + "loss": 0.3058, + "num_input_tokens_seen": 11289568, + "step": 5774 + }, + { + "epoch": 0.7654075546719682, + "grad_norm": 0.055851031094789505, + "learning_rate": 4.240872307271303e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11290752, + "step": 5775 + }, + { + "epoch": 0.7655400927766733, + "grad_norm": 0.0902419164776802, + "learning_rate": 4.240623148860252e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11291984, + "step": 5776 + }, + { + "epoch": 0.7656726308813784, + "grad_norm": 13.362424850463867, + "learning_rate": 4.240373956888786e-06, + "loss": 0.4817, + "num_input_tokens_seen": 11293688, + "step": 5777 + }, + { + "epoch": 0.7658051689860835, + "grad_norm": 7.325118064880371, + "learning_rate": 4.24012473136171e-06, + "loss": 0.2205, + "num_input_tokens_seen": 11295616, + "step": 5778 + }, + { + "epoch": 0.7659377070907886, + "grad_norm": 8.576746940612793, + "learning_rate": 4.239875472283828e-06, + "loss": 0.3081, + "num_input_tokens_seen": 11297944, + "step": 5779 + }, + { + "epoch": 0.7660702451954937, + "grad_norm": 5.8745551109313965, + "learning_rate": 4.239626179659947e-06, + "loss": 0.1959, + "num_input_tokens_seen": 11300520, + "step": 5780 + }, + { + "epoch": 0.7662027833001988, + "grad_norm": 3.4584062099456787, + "learning_rate": 4.239376853494873e-06, + "loss": 0.0785, + "num_input_tokens_seen": 11302048, + "step": 5781 + }, + { + "epoch": 0.7663353214049039, + "grad_norm": 9.096794128417969, + "learning_rate": 4.2391274937934135e-06, + "loss": 0.2595, + "num_input_tokens_seen": 11304960, + "step": 5782 + }, + { + "epoch": 0.766467859509609, + "grad_norm": 3.385596752166748, + "learning_rate": 4.238878100560377e-06, + "loss": 0.0762, + "num_input_tokens_seen": 11306832, + "step": 5783 + }, + { + "epoch": 0.7666003976143141, + "grad_norm": 6.691192626953125, + "learning_rate": 4.2386286738005695e-06, + "loss": 0.108, + "num_input_tokens_seen": 11308416, + "step": 5784 + }, + { + "epoch": 0.7667329357190192, + "grad_norm": 6.726831912994385, + "learning_rate": 4.238379213518803e-06, + "loss": 0.1552, + "num_input_tokens_seen": 11310168, + "step": 5785 + }, + { + "epoch": 0.7668654738237243, + "grad_norm": 8.928049087524414, + "learning_rate": 4.238129719719885e-06, + "loss": 0.4044, + "num_input_tokens_seen": 11312600, + "step": 5786 + }, + { + "epoch": 0.7669980119284294, + "grad_norm": 1.7198240756988525, + "learning_rate": 4.237880192408628e-06, + "loss": 0.0395, + "num_input_tokens_seen": 11314504, + "step": 5787 + }, + { + "epoch": 0.7671305500331346, + "grad_norm": 5.724818706512451, + "learning_rate": 4.2376306315898404e-06, + "loss": 0.2125, + "num_input_tokens_seen": 11317064, + "step": 5788 + }, + { + "epoch": 0.7672630881378396, + "grad_norm": 2.7203867435455322, + "learning_rate": 4.237381037268337e-06, + "loss": 0.0425, + "num_input_tokens_seen": 11319800, + "step": 5789 + }, + { + "epoch": 0.7673956262425448, + "grad_norm": 4.671877861022949, + "learning_rate": 4.237131409448928e-06, + "loss": 0.0863, + "num_input_tokens_seen": 11322184, + "step": 5790 + }, + { + "epoch": 0.7675281643472498, + "grad_norm": 11.119823455810547, + "learning_rate": 4.236881748136428e-06, + "loss": 0.3863, + "num_input_tokens_seen": 11325104, + "step": 5791 + }, + { + "epoch": 0.767660702451955, + "grad_norm": 8.732832908630371, + "learning_rate": 4.236632053335649e-06, + "loss": 0.3502, + "num_input_tokens_seen": 11326784, + "step": 5792 + }, + { + "epoch": 0.7677932405566601, + "grad_norm": 20.620769500732422, + "learning_rate": 4.2363823250514055e-06, + "loss": 0.7042, + "num_input_tokens_seen": 11328608, + "step": 5793 + }, + { + "epoch": 0.7679257786613651, + "grad_norm": 6.200304985046387, + "learning_rate": 4.2361325632885134e-06, + "loss": 0.1491, + "num_input_tokens_seen": 11329720, + "step": 5794 + }, + { + "epoch": 0.7680583167660703, + "grad_norm": 0.26988041400909424, + "learning_rate": 4.235882768051788e-06, + "loss": 0.0019, + "num_input_tokens_seen": 11331848, + "step": 5795 + }, + { + "epoch": 0.7681908548707753, + "grad_norm": 0.5760315656661987, + "learning_rate": 4.235632939346044e-06, + "loss": 0.0043, + "num_input_tokens_seen": 11333280, + "step": 5796 + }, + { + "epoch": 0.7683233929754805, + "grad_norm": 2.4314656257629395, + "learning_rate": 4.2353830771761e-06, + "loss": 0.0265, + "num_input_tokens_seen": 11334816, + "step": 5797 + }, + { + "epoch": 0.7684559310801855, + "grad_norm": 10.259264945983887, + "learning_rate": 4.2351331815467745e-06, + "loss": 0.3365, + "num_input_tokens_seen": 11336928, + "step": 5798 + }, + { + "epoch": 0.7685884691848907, + "grad_norm": 16.81617546081543, + "learning_rate": 4.234883252462884e-06, + "loss": 0.6191, + "num_input_tokens_seen": 11338192, + "step": 5799 + }, + { + "epoch": 0.7687210072895958, + "grad_norm": 15.31674575805664, + "learning_rate": 4.234633289929246e-06, + "loss": 0.5258, + "num_input_tokens_seen": 11339936, + "step": 5800 + }, + { + "epoch": 0.7688535453943008, + "grad_norm": 8.937020301818848, + "learning_rate": 4.234383293950683e-06, + "loss": 0.1926, + "num_input_tokens_seen": 11341960, + "step": 5801 + }, + { + "epoch": 0.768986083499006, + "grad_norm": 0.5101362466812134, + "learning_rate": 4.234133264532012e-06, + "loss": 0.0037, + "num_input_tokens_seen": 11344112, + "step": 5802 + }, + { + "epoch": 0.769118621603711, + "grad_norm": 0.22446228563785553, + "learning_rate": 4.233883201678057e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11345184, + "step": 5803 + }, + { + "epoch": 0.7692511597084162, + "grad_norm": 0.22919607162475586, + "learning_rate": 4.233633105393637e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11348776, + "step": 5804 + }, + { + "epoch": 0.7693836978131213, + "grad_norm": 0.34706634283065796, + "learning_rate": 4.233382975683576e-06, + "loss": 0.0025, + "num_input_tokens_seen": 11350696, + "step": 5805 + }, + { + "epoch": 0.7695162359178264, + "grad_norm": 1.915558934211731, + "learning_rate": 4.2331328125526934e-06, + "loss": 0.0091, + "num_input_tokens_seen": 11352888, + "step": 5806 + }, + { + "epoch": 0.7696487740225315, + "grad_norm": 7.9133124351501465, + "learning_rate": 4.232882616005816e-06, + "loss": 0.1214, + "num_input_tokens_seen": 11354000, + "step": 5807 + }, + { + "epoch": 0.7697813121272365, + "grad_norm": 7.735172271728516, + "learning_rate": 4.232632386047766e-06, + "loss": 0.1685, + "num_input_tokens_seen": 11355696, + "step": 5808 + }, + { + "epoch": 0.7699138502319417, + "grad_norm": 0.5019923448562622, + "learning_rate": 4.232382122683367e-06, + "loss": 0.0035, + "num_input_tokens_seen": 11357928, + "step": 5809 + }, + { + "epoch": 0.7700463883366467, + "grad_norm": 25.216238021850586, + "learning_rate": 4.232131825917447e-06, + "loss": 0.8289, + "num_input_tokens_seen": 11360544, + "step": 5810 + }, + { + "epoch": 0.7701789264413519, + "grad_norm": 0.34986865520477295, + "learning_rate": 4.2318814957548304e-06, + "loss": 0.0024, + "num_input_tokens_seen": 11361616, + "step": 5811 + }, + { + "epoch": 0.770311464546057, + "grad_norm": 7.062240123748779, + "learning_rate": 4.231631132200344e-06, + "loss": 0.1439, + "num_input_tokens_seen": 11363616, + "step": 5812 + }, + { + "epoch": 0.7704440026507621, + "grad_norm": 6.503780364990234, + "learning_rate": 4.231380735258813e-06, + "loss": 0.2644, + "num_input_tokens_seen": 11365592, + "step": 5813 + }, + { + "epoch": 0.7705765407554672, + "grad_norm": 6.799583911895752, + "learning_rate": 4.231130304935069e-06, + "loss": 0.2983, + "num_input_tokens_seen": 11367328, + "step": 5814 + }, + { + "epoch": 0.7707090788601723, + "grad_norm": 9.331462860107422, + "learning_rate": 4.230879841233938e-06, + "loss": 0.1279, + "num_input_tokens_seen": 11368976, + "step": 5815 + }, + { + "epoch": 0.7708416169648774, + "grad_norm": 0.8686022162437439, + "learning_rate": 4.230629344160249e-06, + "loss": 0.0047, + "num_input_tokens_seen": 11370640, + "step": 5816 + }, + { + "epoch": 0.7709741550695826, + "grad_norm": 13.30678939819336, + "learning_rate": 4.230378813718833e-06, + "loss": 0.3561, + "num_input_tokens_seen": 11372640, + "step": 5817 + }, + { + "epoch": 0.7711066931742876, + "grad_norm": 0.05788769572973251, + "learning_rate": 4.230128249914519e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11373912, + "step": 5818 + }, + { + "epoch": 0.7712392312789927, + "grad_norm": 10.012808799743652, + "learning_rate": 4.2298776527521405e-06, + "loss": 0.3106, + "num_input_tokens_seen": 11375936, + "step": 5819 + }, + { + "epoch": 0.7713717693836978, + "grad_norm": 7.473123073577881, + "learning_rate": 4.229627022236526e-06, + "loss": 0.2177, + "num_input_tokens_seen": 11378088, + "step": 5820 + }, + { + "epoch": 0.7715043074884029, + "grad_norm": 7.057112693786621, + "learning_rate": 4.229376358372509e-06, + "loss": 0.2336, + "num_input_tokens_seen": 11381456, + "step": 5821 + }, + { + "epoch": 0.771636845593108, + "grad_norm": 5.974050045013428, + "learning_rate": 4.229125661164923e-06, + "loss": 0.103, + "num_input_tokens_seen": 11383832, + "step": 5822 + }, + { + "epoch": 0.7717693836978131, + "grad_norm": 15.61795711517334, + "learning_rate": 4.2288749306186015e-06, + "loss": 0.5149, + "num_input_tokens_seen": 11385368, + "step": 5823 + }, + { + "epoch": 0.7719019218025183, + "grad_norm": 9.622578620910645, + "learning_rate": 4.228624166738379e-06, + "loss": 0.3353, + "num_input_tokens_seen": 11387544, + "step": 5824 + }, + { + "epoch": 0.7720344599072233, + "grad_norm": 10.490093231201172, + "learning_rate": 4.228373369529089e-06, + "loss": 0.1436, + "num_input_tokens_seen": 11389496, + "step": 5825 + }, + { + "epoch": 0.7721669980119285, + "grad_norm": 0.08071985840797424, + "learning_rate": 4.22812253899557e-06, + "loss": 0.0005, + "num_input_tokens_seen": 11391080, + "step": 5826 + }, + { + "epoch": 0.7722995361166335, + "grad_norm": 23.108776092529297, + "learning_rate": 4.227871675142655e-06, + "loss": 0.316, + "num_input_tokens_seen": 11393320, + "step": 5827 + }, + { + "epoch": 0.7724320742213386, + "grad_norm": 13.226712226867676, + "learning_rate": 4.2276207779751825e-06, + "loss": 0.3802, + "num_input_tokens_seen": 11394968, + "step": 5828 + }, + { + "epoch": 0.7725646123260438, + "grad_norm": 9.378782272338867, + "learning_rate": 4.227369847497989e-06, + "loss": 0.1151, + "num_input_tokens_seen": 11395968, + "step": 5829 + }, + { + "epoch": 0.7726971504307488, + "grad_norm": 0.11491656303405762, + "learning_rate": 4.227118883715914e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11397296, + "step": 5830 + }, + { + "epoch": 0.772829688535454, + "grad_norm": 8.225726127624512, + "learning_rate": 4.226867886633796e-06, + "loss": 0.1548, + "num_input_tokens_seen": 11398480, + "step": 5831 + }, + { + "epoch": 0.772962226640159, + "grad_norm": 2.115953207015991, + "learning_rate": 4.226616856256473e-06, + "loss": 0.0319, + "num_input_tokens_seen": 11399752, + "step": 5832 + }, + { + "epoch": 0.7730947647448642, + "grad_norm": 13.04377555847168, + "learning_rate": 4.226365792588785e-06, + "loss": 0.6515, + "num_input_tokens_seen": 11401496, + "step": 5833 + }, + { + "epoch": 0.7732273028495692, + "grad_norm": 0.051223721355199814, + "learning_rate": 4.226114695635575e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11403016, + "step": 5834 + }, + { + "epoch": 0.7733598409542743, + "grad_norm": 3.2167584896087646, + "learning_rate": 4.225863565401681e-06, + "loss": 0.1053, + "num_input_tokens_seen": 11405424, + "step": 5835 + }, + { + "epoch": 0.7734923790589795, + "grad_norm": 0.976586103439331, + "learning_rate": 4.225612401891949e-06, + "loss": 0.0064, + "num_input_tokens_seen": 11407816, + "step": 5836 + }, + { + "epoch": 0.7736249171636845, + "grad_norm": 7.798348426818848, + "learning_rate": 4.225361205111218e-06, + "loss": 0.2249, + "num_input_tokens_seen": 11411080, + "step": 5837 + }, + { + "epoch": 0.7737574552683897, + "grad_norm": 6.437674045562744, + "learning_rate": 4.225109975064333e-06, + "loss": 0.1271, + "num_input_tokens_seen": 11412896, + "step": 5838 + }, + { + "epoch": 0.7738899933730947, + "grad_norm": 14.131633758544922, + "learning_rate": 4.224858711756138e-06, + "loss": 0.3775, + "num_input_tokens_seen": 11414928, + "step": 5839 + }, + { + "epoch": 0.7740225314777999, + "grad_norm": 7.073689937591553, + "learning_rate": 4.2246074151914765e-06, + "loss": 0.2157, + "num_input_tokens_seen": 11417576, + "step": 5840 + }, + { + "epoch": 0.774155069582505, + "grad_norm": 5.393301010131836, + "learning_rate": 4.224356085375195e-06, + "loss": 0.097, + "num_input_tokens_seen": 11419360, + "step": 5841 + }, + { + "epoch": 0.77428760768721, + "grad_norm": 9.1361722946167, + "learning_rate": 4.224104722312139e-06, + "loss": 0.2603, + "num_input_tokens_seen": 11421224, + "step": 5842 + }, + { + "epoch": 0.7744201457919152, + "grad_norm": 4.029488563537598, + "learning_rate": 4.223853326007154e-06, + "loss": 0.1309, + "num_input_tokens_seen": 11422952, + "step": 5843 + }, + { + "epoch": 0.7745526838966202, + "grad_norm": 9.863259315490723, + "learning_rate": 4.223601896465087e-06, + "loss": 0.3336, + "num_input_tokens_seen": 11424960, + "step": 5844 + }, + { + "epoch": 0.7746852220013254, + "grad_norm": 2.2270891666412354, + "learning_rate": 4.223350433690787e-06, + "loss": 0.0086, + "num_input_tokens_seen": 11426328, + "step": 5845 + }, + { + "epoch": 0.7748177601060304, + "grad_norm": 4.552037715911865, + "learning_rate": 4.223098937689102e-06, + "loss": 0.1021, + "num_input_tokens_seen": 11428016, + "step": 5846 + }, + { + "epoch": 0.7749502982107356, + "grad_norm": 3.9036269187927246, + "learning_rate": 4.22284740846488e-06, + "loss": 0.1306, + "num_input_tokens_seen": 11429576, + "step": 5847 + }, + { + "epoch": 0.7750828363154407, + "grad_norm": 1.1713247299194336, + "learning_rate": 4.222595846022972e-06, + "loss": 0.0066, + "num_input_tokens_seen": 11430832, + "step": 5848 + }, + { + "epoch": 0.7752153744201458, + "grad_norm": 0.15521301329135895, + "learning_rate": 4.222344250368228e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11432456, + "step": 5849 + }, + { + "epoch": 0.7753479125248509, + "grad_norm": 6.758549690246582, + "learning_rate": 4.222092621505498e-06, + "loss": 0.2083, + "num_input_tokens_seen": 11434616, + "step": 5850 + }, + { + "epoch": 0.775480450629556, + "grad_norm": 17.421295166015625, + "learning_rate": 4.221840959439634e-06, + "loss": 0.6084, + "num_input_tokens_seen": 11436048, + "step": 5851 + }, + { + "epoch": 0.7756129887342611, + "grad_norm": 11.438631057739258, + "learning_rate": 4.221589264175489e-06, + "loss": 0.3721, + "num_input_tokens_seen": 11438424, + "step": 5852 + }, + { + "epoch": 0.7757455268389662, + "grad_norm": 0.06550151854753494, + "learning_rate": 4.2213375357179155e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11439896, + "step": 5853 + }, + { + "epoch": 0.7758780649436713, + "grad_norm": 5.692852973937988, + "learning_rate": 4.221085774071767e-06, + "loss": 0.0998, + "num_input_tokens_seen": 11441744, + "step": 5854 + }, + { + "epoch": 0.7760106030483764, + "grad_norm": 13.590944290161133, + "learning_rate": 4.2208339792418965e-06, + "loss": 0.3326, + "num_input_tokens_seen": 11443328, + "step": 5855 + }, + { + "epoch": 0.7761431411530815, + "grad_norm": 14.802865982055664, + "learning_rate": 4.22058215123316e-06, + "loss": 0.4489, + "num_input_tokens_seen": 11444992, + "step": 5856 + }, + { + "epoch": 0.7762756792577866, + "grad_norm": 8.53990650177002, + "learning_rate": 4.220330290050414e-06, + "loss": 0.2612, + "num_input_tokens_seen": 11447440, + "step": 5857 + }, + { + "epoch": 0.7764082173624918, + "grad_norm": 5.915536880493164, + "learning_rate": 4.220078395698512e-06, + "loss": 0.0971, + "num_input_tokens_seen": 11448792, + "step": 5858 + }, + { + "epoch": 0.7765407554671968, + "grad_norm": 5.354061126708984, + "learning_rate": 4.219826468182312e-06, + "loss": 0.1051, + "num_input_tokens_seen": 11450800, + "step": 5859 + }, + { + "epoch": 0.776673293571902, + "grad_norm": 8.225664138793945, + "learning_rate": 4.2195745075066716e-06, + "loss": 0.3631, + "num_input_tokens_seen": 11453040, + "step": 5860 + }, + { + "epoch": 0.776805831676607, + "grad_norm": 7.352323532104492, + "learning_rate": 4.219322513676448e-06, + "loss": 0.2308, + "num_input_tokens_seen": 11454624, + "step": 5861 + }, + { + "epoch": 0.7769383697813121, + "grad_norm": 0.18368928134441376, + "learning_rate": 4.219070486696501e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11455992, + "step": 5862 + }, + { + "epoch": 0.7770709078860172, + "grad_norm": 8.736626625061035, + "learning_rate": 4.218818426571688e-06, + "loss": 0.2097, + "num_input_tokens_seen": 11458496, + "step": 5863 + }, + { + "epoch": 0.7772034459907223, + "grad_norm": 7.095582485198975, + "learning_rate": 4.21856633330687e-06, + "loss": 0.1423, + "num_input_tokens_seen": 11460952, + "step": 5864 + }, + { + "epoch": 0.7773359840954275, + "grad_norm": 0.24318623542785645, + "learning_rate": 4.218314206906908e-06, + "loss": 0.0017, + "num_input_tokens_seen": 11462832, + "step": 5865 + }, + { + "epoch": 0.7774685222001325, + "grad_norm": 7.682394504547119, + "learning_rate": 4.218062047376663e-06, + "loss": 0.1031, + "num_input_tokens_seen": 11464304, + "step": 5866 + }, + { + "epoch": 0.7776010603048377, + "grad_norm": 6.468847751617432, + "learning_rate": 4.217809854720996e-06, + "loss": 0.1476, + "num_input_tokens_seen": 11465528, + "step": 5867 + }, + { + "epoch": 0.7777335984095427, + "grad_norm": 6.538835048675537, + "learning_rate": 4.2175576289447705e-06, + "loss": 0.1962, + "num_input_tokens_seen": 11467512, + "step": 5868 + }, + { + "epoch": 0.7778661365142479, + "grad_norm": 0.4626077711582184, + "learning_rate": 4.217305370052848e-06, + "loss": 0.0035, + "num_input_tokens_seen": 11470640, + "step": 5869 + }, + { + "epoch": 0.777998674618953, + "grad_norm": 0.42355719208717346, + "learning_rate": 4.217053078050094e-06, + "loss": 0.003, + "num_input_tokens_seen": 11471720, + "step": 5870 + }, + { + "epoch": 0.778131212723658, + "grad_norm": 0.2068232297897339, + "learning_rate": 4.216800752941372e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11473392, + "step": 5871 + }, + { + "epoch": 0.7782637508283632, + "grad_norm": 6.194050312042236, + "learning_rate": 4.216548394731548e-06, + "loss": 0.0637, + "num_input_tokens_seen": 11475136, + "step": 5872 + }, + { + "epoch": 0.7783962889330682, + "grad_norm": 6.686072826385498, + "learning_rate": 4.216296003425486e-06, + "loss": 0.1335, + "num_input_tokens_seen": 11478072, + "step": 5873 + }, + { + "epoch": 0.7785288270377734, + "grad_norm": 0.1913270205259323, + "learning_rate": 4.216043579028053e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11479656, + "step": 5874 + }, + { + "epoch": 0.7786613651424784, + "grad_norm": 7.532687664031982, + "learning_rate": 4.215791121544115e-06, + "loss": 0.0685, + "num_input_tokens_seen": 11482440, + "step": 5875 + }, + { + "epoch": 0.7787939032471836, + "grad_norm": 12.778433799743652, + "learning_rate": 4.215538630978542e-06, + "loss": 0.358, + "num_input_tokens_seen": 11484424, + "step": 5876 + }, + { + "epoch": 0.7789264413518887, + "grad_norm": 0.11313376575708389, + "learning_rate": 4.2152861073362e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11485688, + "step": 5877 + }, + { + "epoch": 0.7790589794565937, + "grad_norm": 12.902118682861328, + "learning_rate": 4.215033550621959e-06, + "loss": 0.2716, + "num_input_tokens_seen": 11487792, + "step": 5878 + }, + { + "epoch": 0.7791915175612989, + "grad_norm": 8.817619323730469, + "learning_rate": 4.214780960840687e-06, + "loss": 0.1683, + "num_input_tokens_seen": 11489808, + "step": 5879 + }, + { + "epoch": 0.7793240556660039, + "grad_norm": 0.8432909846305847, + "learning_rate": 4.214528337997257e-06, + "loss": 0.0042, + "num_input_tokens_seen": 11491056, + "step": 5880 + }, + { + "epoch": 0.7794565937707091, + "grad_norm": 4.995293617248535, + "learning_rate": 4.214275682096536e-06, + "loss": 0.0623, + "num_input_tokens_seen": 11492392, + "step": 5881 + }, + { + "epoch": 0.7795891318754142, + "grad_norm": 5.417535781860352, + "learning_rate": 4.214022993143397e-06, + "loss": 0.1524, + "num_input_tokens_seen": 11493848, + "step": 5882 + }, + { + "epoch": 0.7797216699801193, + "grad_norm": 9.096508979797363, + "learning_rate": 4.2137702711427145e-06, + "loss": 0.2998, + "num_input_tokens_seen": 11496544, + "step": 5883 + }, + { + "epoch": 0.7798542080848244, + "grad_norm": 5.889286518096924, + "learning_rate": 4.213517516099357e-06, + "loss": 0.1171, + "num_input_tokens_seen": 11498584, + "step": 5884 + }, + { + "epoch": 0.7799867461895295, + "grad_norm": 0.04048706963658333, + "learning_rate": 4.2132647280182e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11500720, + "step": 5885 + }, + { + "epoch": 0.7801192842942346, + "grad_norm": 0.0369567796587944, + "learning_rate": 4.213011906904118e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11502392, + "step": 5886 + }, + { + "epoch": 0.7802518223989396, + "grad_norm": 7.6913557052612305, + "learning_rate": 4.212759052761983e-06, + "loss": 0.1934, + "num_input_tokens_seen": 11503720, + "step": 5887 + }, + { + "epoch": 0.7803843605036448, + "grad_norm": 14.853998184204102, + "learning_rate": 4.212506165596674e-06, + "loss": 0.147, + "num_input_tokens_seen": 11505592, + "step": 5888 + }, + { + "epoch": 0.7805168986083499, + "grad_norm": 1.0737090110778809, + "learning_rate": 4.212253245413063e-06, + "loss": 0.0056, + "num_input_tokens_seen": 11507272, + "step": 5889 + }, + { + "epoch": 0.780649436713055, + "grad_norm": 19.34444808959961, + "learning_rate": 4.212000292216028e-06, + "loss": 0.5448, + "num_input_tokens_seen": 11509952, + "step": 5890 + }, + { + "epoch": 0.7807819748177601, + "grad_norm": 0.04693669080734253, + "learning_rate": 4.211747306010448e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11511456, + "step": 5891 + }, + { + "epoch": 0.7809145129224652, + "grad_norm": 0.016634413972496986, + "learning_rate": 4.211494286801198e-06, + "loss": 0.0001, + "num_input_tokens_seen": 11513096, + "step": 5892 + }, + { + "epoch": 0.7810470510271703, + "grad_norm": 7.608966827392578, + "learning_rate": 4.211241234593158e-06, + "loss": 0.2946, + "num_input_tokens_seen": 11514792, + "step": 5893 + }, + { + "epoch": 0.7811795891318755, + "grad_norm": 2.7981040477752686, + "learning_rate": 4.2109881493912065e-06, + "loss": 0.0349, + "num_input_tokens_seen": 11516728, + "step": 5894 + }, + { + "epoch": 0.7813121272365805, + "grad_norm": 7.430641174316406, + "learning_rate": 4.210735031200222e-06, + "loss": 0.1378, + "num_input_tokens_seen": 11518640, + "step": 5895 + }, + { + "epoch": 0.7814446653412856, + "grad_norm": 8.32115650177002, + "learning_rate": 4.2104818800250875e-06, + "loss": 0.4298, + "num_input_tokens_seen": 11520104, + "step": 5896 + }, + { + "epoch": 0.7815772034459907, + "grad_norm": 0.0429580956697464, + "learning_rate": 4.210228695870681e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11521496, + "step": 5897 + }, + { + "epoch": 0.7817097415506958, + "grad_norm": 9.142416954040527, + "learning_rate": 4.209975478741886e-06, + "loss": 0.1891, + "num_input_tokens_seen": 11523920, + "step": 5898 + }, + { + "epoch": 0.7818422796554009, + "grad_norm": 9.95163631439209, + "learning_rate": 4.209722228643584e-06, + "loss": 0.3569, + "num_input_tokens_seen": 11527264, + "step": 5899 + }, + { + "epoch": 0.781974817760106, + "grad_norm": 9.261152267456055, + "learning_rate": 4.2094689455806584e-06, + "loss": 0.2835, + "num_input_tokens_seen": 11529040, + "step": 5900 + }, + { + "epoch": 0.7821073558648112, + "grad_norm": 0.5602549910545349, + "learning_rate": 4.209215629557992e-06, + "loss": 0.003, + "num_input_tokens_seen": 11531296, + "step": 5901 + }, + { + "epoch": 0.7822398939695162, + "grad_norm": 7.8317694664001465, + "learning_rate": 4.2089622805804685e-06, + "loss": 0.2295, + "num_input_tokens_seen": 11533128, + "step": 5902 + }, + { + "epoch": 0.7823724320742214, + "grad_norm": 0.6189653873443604, + "learning_rate": 4.208708898652974e-06, + "loss": 0.0032, + "num_input_tokens_seen": 11535688, + "step": 5903 + }, + { + "epoch": 0.7825049701789264, + "grad_norm": 5.0478081703186035, + "learning_rate": 4.2084554837803935e-06, + "loss": 0.0653, + "num_input_tokens_seen": 11537968, + "step": 5904 + }, + { + "epoch": 0.7826375082836315, + "grad_norm": 0.23618066310882568, + "learning_rate": 4.208202035967612e-06, + "loss": 0.0015, + "num_input_tokens_seen": 11539328, + "step": 5905 + }, + { + "epoch": 0.7827700463883367, + "grad_norm": 7.0716423988342285, + "learning_rate": 4.207948555219516e-06, + "loss": 0.1866, + "num_input_tokens_seen": 11541632, + "step": 5906 + }, + { + "epoch": 0.7829025844930417, + "grad_norm": 11.420003890991211, + "learning_rate": 4.207695041540995e-06, + "loss": 0.2858, + "num_input_tokens_seen": 11543456, + "step": 5907 + }, + { + "epoch": 0.7830351225977469, + "grad_norm": 0.08125365525484085, + "learning_rate": 4.207441494936936e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11545272, + "step": 5908 + }, + { + "epoch": 0.7831676607024519, + "grad_norm": 0.5230322480201721, + "learning_rate": 4.207187915412226e-06, + "loss": 0.0033, + "num_input_tokens_seen": 11547088, + "step": 5909 + }, + { + "epoch": 0.7833001988071571, + "grad_norm": 0.35598552227020264, + "learning_rate": 4.206934302971755e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11548872, + "step": 5910 + }, + { + "epoch": 0.7834327369118622, + "grad_norm": 0.1132628321647644, + "learning_rate": 4.206680657620413e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11550752, + "step": 5911 + }, + { + "epoch": 0.7835652750165673, + "grad_norm": 6.93179988861084, + "learning_rate": 4.2064269793630915e-06, + "loss": 0.2319, + "num_input_tokens_seen": 11553712, + "step": 5912 + }, + { + "epoch": 0.7836978131212724, + "grad_norm": 10.415398597717285, + "learning_rate": 4.206173268204679e-06, + "loss": 0.3234, + "num_input_tokens_seen": 11556152, + "step": 5913 + }, + { + "epoch": 0.7838303512259774, + "grad_norm": 6.431523323059082, + "learning_rate": 4.205919524150071e-06, + "loss": 0.2563, + "num_input_tokens_seen": 11557928, + "step": 5914 + }, + { + "epoch": 0.7839628893306826, + "grad_norm": 4.781380653381348, + "learning_rate": 4.205665747204157e-06, + "loss": 0.1348, + "num_input_tokens_seen": 11559600, + "step": 5915 + }, + { + "epoch": 0.7840954274353876, + "grad_norm": 0.045080650597810745, + "learning_rate": 4.2054119373718305e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11560656, + "step": 5916 + }, + { + "epoch": 0.7842279655400928, + "grad_norm": 10.3811674118042, + "learning_rate": 4.205158094657985e-06, + "loss": 0.3751, + "num_input_tokens_seen": 11563064, + "step": 5917 + }, + { + "epoch": 0.7843605036447979, + "grad_norm": 8.004494667053223, + "learning_rate": 4.204904219067516e-06, + "loss": 0.078, + "num_input_tokens_seen": 11565648, + "step": 5918 + }, + { + "epoch": 0.784493041749503, + "grad_norm": 4.974582672119141, + "learning_rate": 4.204650310605317e-06, + "loss": 0.0873, + "num_input_tokens_seen": 11567392, + "step": 5919 + }, + { + "epoch": 0.7846255798542081, + "grad_norm": 7.225044250488281, + "learning_rate": 4.204396369276283e-06, + "loss": 0.069, + "num_input_tokens_seen": 11568848, + "step": 5920 + }, + { + "epoch": 0.7847581179589131, + "grad_norm": 5.176958084106445, + "learning_rate": 4.204142395085313e-06, + "loss": 0.0967, + "num_input_tokens_seen": 11571040, + "step": 5921 + }, + { + "epoch": 0.7848906560636183, + "grad_norm": 14.297098159790039, + "learning_rate": 4.203888388037301e-06, + "loss": 0.4266, + "num_input_tokens_seen": 11573144, + "step": 5922 + }, + { + "epoch": 0.7850231941683234, + "grad_norm": 9.08741283416748, + "learning_rate": 4.203634348137145e-06, + "loss": 0.108, + "num_input_tokens_seen": 11574576, + "step": 5923 + }, + { + "epoch": 0.7851557322730285, + "grad_norm": 2.4092931747436523, + "learning_rate": 4.203380275389744e-06, + "loss": 0.0309, + "num_input_tokens_seen": 11576472, + "step": 5924 + }, + { + "epoch": 0.7852882703777336, + "grad_norm": 5.999264240264893, + "learning_rate": 4.203126169799997e-06, + "loss": 0.1914, + "num_input_tokens_seen": 11577904, + "step": 5925 + }, + { + "epoch": 0.7854208084824387, + "grad_norm": 12.166259765625, + "learning_rate": 4.202872031372802e-06, + "loss": 0.2646, + "num_input_tokens_seen": 11580008, + "step": 5926 + }, + { + "epoch": 0.7855533465871438, + "grad_norm": 18.700843811035156, + "learning_rate": 4.202617860113059e-06, + "loss": 0.6551, + "num_input_tokens_seen": 11582712, + "step": 5927 + }, + { + "epoch": 0.7856858846918489, + "grad_norm": 0.1118735820055008, + "learning_rate": 4.2023636560256686e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11584072, + "step": 5928 + }, + { + "epoch": 0.785818422796554, + "grad_norm": 6.535750865936279, + "learning_rate": 4.202109419115534e-06, + "loss": 0.1895, + "num_input_tokens_seen": 11585872, + "step": 5929 + }, + { + "epoch": 0.7859509609012592, + "grad_norm": 6.2491350173950195, + "learning_rate": 4.201855149387555e-06, + "loss": 0.0853, + "num_input_tokens_seen": 11587592, + "step": 5930 + }, + { + "epoch": 0.7860834990059642, + "grad_norm": 0.4412160813808441, + "learning_rate": 4.2016008468466345e-06, + "loss": 0.0059, + "num_input_tokens_seen": 11589936, + "step": 5931 + }, + { + "epoch": 0.7862160371106693, + "grad_norm": 7.810582637786865, + "learning_rate": 4.201346511497676e-06, + "loss": 0.1806, + "num_input_tokens_seen": 11591968, + "step": 5932 + }, + { + "epoch": 0.7863485752153744, + "grad_norm": 8.169188499450684, + "learning_rate": 4.201092143345583e-06, + "loss": 0.2557, + "num_input_tokens_seen": 11593840, + "step": 5933 + }, + { + "epoch": 0.7864811133200795, + "grad_norm": 10.962566375732422, + "learning_rate": 4.200837742395259e-06, + "loss": 0.272, + "num_input_tokens_seen": 11596176, + "step": 5934 + }, + { + "epoch": 0.7866136514247847, + "grad_norm": 0.26985448598861694, + "learning_rate": 4.200583308651611e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11597792, + "step": 5935 + }, + { + "epoch": 0.7867461895294897, + "grad_norm": 3.7500975131988525, + "learning_rate": 4.200328842119543e-06, + "loss": 0.1299, + "num_input_tokens_seen": 11599760, + "step": 5936 + }, + { + "epoch": 0.7868787276341949, + "grad_norm": 3.26781964302063, + "learning_rate": 4.200074342803962e-06, + "loss": 0.0204, + "num_input_tokens_seen": 11601904, + "step": 5937 + }, + { + "epoch": 0.7870112657388999, + "grad_norm": 7.098124980926514, + "learning_rate": 4.199819810709776e-06, + "loss": 0.0863, + "num_input_tokens_seen": 11603272, + "step": 5938 + }, + { + "epoch": 0.787143803843605, + "grad_norm": 6.3188934326171875, + "learning_rate": 4.19956524584189e-06, + "loss": 0.1421, + "num_input_tokens_seen": 11606056, + "step": 5939 + }, + { + "epoch": 0.7872763419483101, + "grad_norm": 11.25432300567627, + "learning_rate": 4.199310648205215e-06, + "loss": 0.3491, + "num_input_tokens_seen": 11608056, + "step": 5940 + }, + { + "epoch": 0.7874088800530152, + "grad_norm": 7.903420925140381, + "learning_rate": 4.199056017804657e-06, + "loss": 0.144, + "num_input_tokens_seen": 11609552, + "step": 5941 + }, + { + "epoch": 0.7875414181577204, + "grad_norm": 3.3785767555236816, + "learning_rate": 4.198801354645128e-06, + "loss": 0.0542, + "num_input_tokens_seen": 11610920, + "step": 5942 + }, + { + "epoch": 0.7876739562624254, + "grad_norm": 0.2599114179611206, + "learning_rate": 4.198546658731536e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11612632, + "step": 5943 + }, + { + "epoch": 0.7878064943671306, + "grad_norm": 7.482265949249268, + "learning_rate": 4.198291930068793e-06, + "loss": 0.2419, + "num_input_tokens_seen": 11614072, + "step": 5944 + }, + { + "epoch": 0.7879390324718356, + "grad_norm": 8.974781036376953, + "learning_rate": 4.19803716866181e-06, + "loss": 0.3142, + "num_input_tokens_seen": 11616304, + "step": 5945 + }, + { + "epoch": 0.7880715705765408, + "grad_norm": 5.818236827850342, + "learning_rate": 4.1977823745155e-06, + "loss": 0.1383, + "num_input_tokens_seen": 11617528, + "step": 5946 + }, + { + "epoch": 0.7882041086812459, + "grad_norm": 0.21087734401226044, + "learning_rate": 4.1975275476347725e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11619008, + "step": 5947 + }, + { + "epoch": 0.788336646785951, + "grad_norm": 0.294229656457901, + "learning_rate": 4.197272688024544e-06, + "loss": 0.0021, + "num_input_tokens_seen": 11620968, + "step": 5948 + }, + { + "epoch": 0.7884691848906561, + "grad_norm": 0.12691304087638855, + "learning_rate": 4.197017795689727e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11623144, + "step": 5949 + }, + { + "epoch": 0.7886017229953611, + "grad_norm": 16.456361770629883, + "learning_rate": 4.196762870635236e-06, + "loss": 0.5651, + "num_input_tokens_seen": 11625296, + "step": 5950 + }, + { + "epoch": 0.7887342611000663, + "grad_norm": 0.14588159322738647, + "learning_rate": 4.196507912865987e-06, + "loss": 0.001, + "num_input_tokens_seen": 11627472, + "step": 5951 + }, + { + "epoch": 0.7888667992047713, + "grad_norm": 0.19442982971668243, + "learning_rate": 4.196252922386895e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11628864, + "step": 5952 + }, + { + "epoch": 0.7889993373094765, + "grad_norm": 7.9510111808776855, + "learning_rate": 4.195997899202876e-06, + "loss": 0.1619, + "num_input_tokens_seen": 11631072, + "step": 5953 + }, + { + "epoch": 0.7891318754141816, + "grad_norm": 0.11786588281393051, + "learning_rate": 4.195742843318848e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11632792, + "step": 5954 + }, + { + "epoch": 0.7892644135188867, + "grad_norm": 0.5430479645729065, + "learning_rate": 4.195487754739728e-06, + "loss": 0.0024, + "num_input_tokens_seen": 11634264, + "step": 5955 + }, + { + "epoch": 0.7893969516235918, + "grad_norm": 1.1728757619857788, + "learning_rate": 4.195232633470434e-06, + "loss": 0.0067, + "num_input_tokens_seen": 11636784, + "step": 5956 + }, + { + "epoch": 0.7895294897282968, + "grad_norm": 10.655708312988281, + "learning_rate": 4.194977479515885e-06, + "loss": 0.1973, + "num_input_tokens_seen": 11638376, + "step": 5957 + }, + { + "epoch": 0.789662027833002, + "grad_norm": 5.791609287261963, + "learning_rate": 4.194722292881001e-06, + "loss": 0.2065, + "num_input_tokens_seen": 11639720, + "step": 5958 + }, + { + "epoch": 0.7897945659377071, + "grad_norm": 9.388766288757324, + "learning_rate": 4.1944670735707026e-06, + "loss": 0.2796, + "num_input_tokens_seen": 11641360, + "step": 5959 + }, + { + "epoch": 0.7899271040424122, + "grad_norm": 11.944838523864746, + "learning_rate": 4.194211821589911e-06, + "loss": 0.3503, + "num_input_tokens_seen": 11643232, + "step": 5960 + }, + { + "epoch": 0.7900596421471173, + "grad_norm": 0.03752652183175087, + "learning_rate": 4.1939565369435455e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11644496, + "step": 5961 + }, + { + "epoch": 0.7901921802518224, + "grad_norm": 3.6657378673553467, + "learning_rate": 4.193701219636529e-06, + "loss": 0.0393, + "num_input_tokens_seen": 11646160, + "step": 5962 + }, + { + "epoch": 0.7903247183565275, + "grad_norm": 13.018482208251953, + "learning_rate": 4.193445869673786e-06, + "loss": 0.3122, + "num_input_tokens_seen": 11648040, + "step": 5963 + }, + { + "epoch": 0.7904572564612325, + "grad_norm": 5.167471885681152, + "learning_rate": 4.193190487060237e-06, + "loss": 0.1695, + "num_input_tokens_seen": 11650376, + "step": 5964 + }, + { + "epoch": 0.7905897945659377, + "grad_norm": 5.533400058746338, + "learning_rate": 4.192935071800808e-06, + "loss": 0.0835, + "num_input_tokens_seen": 11653016, + "step": 5965 + }, + { + "epoch": 0.7907223326706428, + "grad_norm": 8.305009841918945, + "learning_rate": 4.192679623900423e-06, + "loss": 0.2808, + "num_input_tokens_seen": 11655296, + "step": 5966 + }, + { + "epoch": 0.7908548707753479, + "grad_norm": 0.14705567061901093, + "learning_rate": 4.192424143364006e-06, + "loss": 0.001, + "num_input_tokens_seen": 11656800, + "step": 5967 + }, + { + "epoch": 0.790987408880053, + "grad_norm": 16.64096450805664, + "learning_rate": 4.192168630196486e-06, + "loss": 0.574, + "num_input_tokens_seen": 11659272, + "step": 5968 + }, + { + "epoch": 0.7911199469847581, + "grad_norm": 9.419206619262695, + "learning_rate": 4.191913084402785e-06, + "loss": 0.2834, + "num_input_tokens_seen": 11661064, + "step": 5969 + }, + { + "epoch": 0.7912524850894632, + "grad_norm": 9.220453262329102, + "learning_rate": 4.191657505987835e-06, + "loss": 0.2722, + "num_input_tokens_seen": 11662704, + "step": 5970 + }, + { + "epoch": 0.7913850231941684, + "grad_norm": 10.419841766357422, + "learning_rate": 4.19140189495656e-06, + "loss": 0.3539, + "num_input_tokens_seen": 11664888, + "step": 5971 + }, + { + "epoch": 0.7915175612988734, + "grad_norm": 10.984697341918945, + "learning_rate": 4.19114625131389e-06, + "loss": 0.2693, + "num_input_tokens_seen": 11666520, + "step": 5972 + }, + { + "epoch": 0.7916500994035786, + "grad_norm": 13.330792427062988, + "learning_rate": 4.190890575064753e-06, + "loss": 0.3326, + "num_input_tokens_seen": 11668480, + "step": 5973 + }, + { + "epoch": 0.7917826375082836, + "grad_norm": 9.116632461547852, + "learning_rate": 4.190634866214079e-06, + "loss": 0.1985, + "num_input_tokens_seen": 11670728, + "step": 5974 + }, + { + "epoch": 0.7919151756129887, + "grad_norm": 5.533251762390137, + "learning_rate": 4.190379124766799e-06, + "loss": 0.154, + "num_input_tokens_seen": 11672496, + "step": 5975 + }, + { + "epoch": 0.7920477137176939, + "grad_norm": 11.745291709899902, + "learning_rate": 4.190123350727844e-06, + "loss": 0.3073, + "num_input_tokens_seen": 11675104, + "step": 5976 + }, + { + "epoch": 0.7921802518223989, + "grad_norm": 5.7864670753479, + "learning_rate": 4.189867544102144e-06, + "loss": 0.1776, + "num_input_tokens_seen": 11678040, + "step": 5977 + }, + { + "epoch": 0.7923127899271041, + "grad_norm": 0.23212522268295288, + "learning_rate": 4.189611704894633e-06, + "loss": 0.0017, + "num_input_tokens_seen": 11679704, + "step": 5978 + }, + { + "epoch": 0.7924453280318091, + "grad_norm": 14.259075164794922, + "learning_rate": 4.189355833110242e-06, + "loss": 0.2693, + "num_input_tokens_seen": 11682896, + "step": 5979 + }, + { + "epoch": 0.7925778661365143, + "grad_norm": 0.15822458267211914, + "learning_rate": 4.189099928753904e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11683784, + "step": 5980 + }, + { + "epoch": 0.7927104042412193, + "grad_norm": 11.5624361038208, + "learning_rate": 4.188843991830556e-06, + "loss": 0.2294, + "num_input_tokens_seen": 11685336, + "step": 5981 + }, + { + "epoch": 0.7928429423459245, + "grad_norm": 3.4526143074035645, + "learning_rate": 4.1885880223451295e-06, + "loss": 0.0269, + "num_input_tokens_seen": 11687528, + "step": 5982 + }, + { + "epoch": 0.7929754804506296, + "grad_norm": 9.568391799926758, + "learning_rate": 4.188332020302561e-06, + "loss": 0.3418, + "num_input_tokens_seen": 11689592, + "step": 5983 + }, + { + "epoch": 0.7931080185553346, + "grad_norm": 10.51002311706543, + "learning_rate": 4.188075985707788e-06, + "loss": 0.256, + "num_input_tokens_seen": 11692544, + "step": 5984 + }, + { + "epoch": 0.7932405566600398, + "grad_norm": 0.6112151741981506, + "learning_rate": 4.187819918565744e-06, + "loss": 0.0044, + "num_input_tokens_seen": 11694136, + "step": 5985 + }, + { + "epoch": 0.7933730947647448, + "grad_norm": 1.2927066087722778, + "learning_rate": 4.187563818881368e-06, + "loss": 0.0092, + "num_input_tokens_seen": 11696384, + "step": 5986 + }, + { + "epoch": 0.79350563286945, + "grad_norm": 8.478625297546387, + "learning_rate": 4.187307686659597e-06, + "loss": 0.4016, + "num_input_tokens_seen": 11698424, + "step": 5987 + }, + { + "epoch": 0.7936381709741551, + "grad_norm": 15.124611854553223, + "learning_rate": 4.18705152190537e-06, + "loss": 0.7912, + "num_input_tokens_seen": 11700496, + "step": 5988 + }, + { + "epoch": 0.7937707090788602, + "grad_norm": 7.7354278564453125, + "learning_rate": 4.186795324623626e-06, + "loss": 0.2842, + "num_input_tokens_seen": 11702296, + "step": 5989 + }, + { + "epoch": 0.7939032471835653, + "grad_norm": 0.671261727809906, + "learning_rate": 4.186539094819305e-06, + "loss": 0.0046, + "num_input_tokens_seen": 11704096, + "step": 5990 + }, + { + "epoch": 0.7940357852882703, + "grad_norm": 0.2579774558544159, + "learning_rate": 4.186282832497346e-06, + "loss": 0.0019, + "num_input_tokens_seen": 11705848, + "step": 5991 + }, + { + "epoch": 0.7941683233929755, + "grad_norm": 2.8712058067321777, + "learning_rate": 4.186026537662691e-06, + "loss": 0.0806, + "num_input_tokens_seen": 11707656, + "step": 5992 + }, + { + "epoch": 0.7943008614976805, + "grad_norm": 7.225240230560303, + "learning_rate": 4.18577021032028e-06, + "loss": 0.2161, + "num_input_tokens_seen": 11709592, + "step": 5993 + }, + { + "epoch": 0.7944333996023857, + "grad_norm": 11.566388130187988, + "learning_rate": 4.1855138504750585e-06, + "loss": 0.3756, + "num_input_tokens_seen": 11711752, + "step": 5994 + }, + { + "epoch": 0.7945659377070908, + "grad_norm": 0.5353715419769287, + "learning_rate": 4.185257458131966e-06, + "loss": 0.0036, + "num_input_tokens_seen": 11713392, + "step": 5995 + }, + { + "epoch": 0.7946984758117959, + "grad_norm": 11.293478012084961, + "learning_rate": 4.185001033295947e-06, + "loss": 0.2453, + "num_input_tokens_seen": 11715112, + "step": 5996 + }, + { + "epoch": 0.794831013916501, + "grad_norm": 2.713548421859741, + "learning_rate": 4.184744575971946e-06, + "loss": 0.0405, + "num_input_tokens_seen": 11716896, + "step": 5997 + }, + { + "epoch": 0.794963552021206, + "grad_norm": 7.89310884475708, + "learning_rate": 4.184488086164908e-06, + "loss": 0.2823, + "num_input_tokens_seen": 11717976, + "step": 5998 + }, + { + "epoch": 0.7950960901259112, + "grad_norm": 10.849326133728027, + "learning_rate": 4.184231563879776e-06, + "loss": 0.4328, + "num_input_tokens_seen": 11719688, + "step": 5999 + }, + { + "epoch": 0.7952286282306164, + "grad_norm": 9.315733909606934, + "learning_rate": 4.1839750091215e-06, + "loss": 0.3607, + "num_input_tokens_seen": 11722424, + "step": 6000 + }, + { + "epoch": 0.7953611663353214, + "grad_norm": 0.05200628936290741, + "learning_rate": 4.183718421895021e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11723720, + "step": 6001 + }, + { + "epoch": 0.7954937044400265, + "grad_norm": 10.4094877243042, + "learning_rate": 4.183461802205291e-06, + "loss": 0.4179, + "num_input_tokens_seen": 11726080, + "step": 6002 + }, + { + "epoch": 0.7956262425447316, + "grad_norm": 8.708499908447266, + "learning_rate": 4.183205150057256e-06, + "loss": 0.2146, + "num_input_tokens_seen": 11727608, + "step": 6003 + }, + { + "epoch": 0.7957587806494367, + "grad_norm": 0.26600104570388794, + "learning_rate": 4.182948465455865e-06, + "loss": 0.002, + "num_input_tokens_seen": 11729632, + "step": 6004 + }, + { + "epoch": 0.7958913187541418, + "grad_norm": 10.767897605895996, + "learning_rate": 4.182691748406066e-06, + "loss": 0.3271, + "num_input_tokens_seen": 11731952, + "step": 6005 + }, + { + "epoch": 0.7960238568588469, + "grad_norm": 2.3896379470825195, + "learning_rate": 4.1824349989128085e-06, + "loss": 0.0207, + "num_input_tokens_seen": 11733296, + "step": 6006 + }, + { + "epoch": 0.7961563949635521, + "grad_norm": 7.232451438903809, + "learning_rate": 4.182178216981045e-06, + "loss": 0.1567, + "num_input_tokens_seen": 11735264, + "step": 6007 + }, + { + "epoch": 0.7962889330682571, + "grad_norm": 24.213106155395508, + "learning_rate": 4.181921402615724e-06, + "loss": 0.4406, + "num_input_tokens_seen": 11736664, + "step": 6008 + }, + { + "epoch": 0.7964214711729622, + "grad_norm": 4.51219367980957, + "learning_rate": 4.1816645558217985e-06, + "loss": 0.0431, + "num_input_tokens_seen": 11738528, + "step": 6009 + }, + { + "epoch": 0.7965540092776673, + "grad_norm": 0.7979826927185059, + "learning_rate": 4.1814076766042206e-06, + "loss": 0.0052, + "num_input_tokens_seen": 11740288, + "step": 6010 + }, + { + "epoch": 0.7966865473823724, + "grad_norm": 5.296796798706055, + "learning_rate": 4.181150764967941e-06, + "loss": 0.1208, + "num_input_tokens_seen": 11741992, + "step": 6011 + }, + { + "epoch": 0.7968190854870776, + "grad_norm": 13.511838912963867, + "learning_rate": 4.180893820917917e-06, + "loss": 0.5607, + "num_input_tokens_seen": 11743752, + "step": 6012 + }, + { + "epoch": 0.7969516235917826, + "grad_norm": 10.28458023071289, + "learning_rate": 4.1806368444591e-06, + "loss": 0.4532, + "num_input_tokens_seen": 11746048, + "step": 6013 + }, + { + "epoch": 0.7970841616964878, + "grad_norm": 14.196305274963379, + "learning_rate": 4.1803798355964455e-06, + "loss": 0.8276, + "num_input_tokens_seen": 11748408, + "step": 6014 + }, + { + "epoch": 0.7972166998011928, + "grad_norm": 2.3924953937530518, + "learning_rate": 4.180122794334908e-06, + "loss": 0.0522, + "num_input_tokens_seen": 11750032, + "step": 6015 + }, + { + "epoch": 0.797349237905898, + "grad_norm": 13.982836723327637, + "learning_rate": 4.179865720679444e-06, + "loss": 0.6101, + "num_input_tokens_seen": 11752256, + "step": 6016 + }, + { + "epoch": 0.797481776010603, + "grad_norm": 0.32092785835266113, + "learning_rate": 4.1796086146350095e-06, + "loss": 0.0024, + "num_input_tokens_seen": 11754744, + "step": 6017 + }, + { + "epoch": 0.7976143141153081, + "grad_norm": 0.15612871944904327, + "learning_rate": 4.179351476206563e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11755984, + "step": 6018 + }, + { + "epoch": 0.7977468522200133, + "grad_norm": 0.10572319477796555, + "learning_rate": 4.1790943053990604e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11757152, + "step": 6019 + }, + { + "epoch": 0.7978793903247183, + "grad_norm": 0.21356245875358582, + "learning_rate": 4.178837102217463e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11759664, + "step": 6020 + }, + { + "epoch": 0.7980119284294235, + "grad_norm": 2.1114044189453125, + "learning_rate": 4.178579866666727e-06, + "loss": 0.0146, + "num_input_tokens_seen": 11761760, + "step": 6021 + }, + { + "epoch": 0.7981444665341285, + "grad_norm": 11.381550788879395, + "learning_rate": 4.178322598751813e-06, + "loss": 0.2977, + "num_input_tokens_seen": 11764128, + "step": 6022 + }, + { + "epoch": 0.7982770046388337, + "grad_norm": 5.775282859802246, + "learning_rate": 4.1780652984776825e-06, + "loss": 0.1838, + "num_input_tokens_seen": 11766592, + "step": 6023 + }, + { + "epoch": 0.7984095427435388, + "grad_norm": 8.84891128540039, + "learning_rate": 4.1778079658492946e-06, + "loss": 0.2605, + "num_input_tokens_seen": 11769144, + "step": 6024 + }, + { + "epoch": 0.7985420808482439, + "grad_norm": 18.23410415649414, + "learning_rate": 4.177550600871611e-06, + "loss": 1.2102, + "num_input_tokens_seen": 11771776, + "step": 6025 + }, + { + "epoch": 0.798674618952949, + "grad_norm": 3.3001511096954346, + "learning_rate": 4.177293203549596e-06, + "loss": 0.0503, + "num_input_tokens_seen": 11773232, + "step": 6026 + }, + { + "epoch": 0.798807157057654, + "grad_norm": 13.878031730651855, + "learning_rate": 4.177035773888211e-06, + "loss": 0.224, + "num_input_tokens_seen": 11775200, + "step": 6027 + }, + { + "epoch": 0.7989396951623592, + "grad_norm": 4.134118556976318, + "learning_rate": 4.176778311892418e-06, + "loss": 0.067, + "num_input_tokens_seen": 11777096, + "step": 6028 + }, + { + "epoch": 0.7990722332670643, + "grad_norm": 12.027763366699219, + "learning_rate": 4.176520817567183e-06, + "loss": 0.5639, + "num_input_tokens_seen": 11778920, + "step": 6029 + }, + { + "epoch": 0.7992047713717694, + "grad_norm": 10.104657173156738, + "learning_rate": 4.17626329091747e-06, + "loss": 0.1619, + "num_input_tokens_seen": 11781112, + "step": 6030 + }, + { + "epoch": 0.7993373094764745, + "grad_norm": 7.181174278259277, + "learning_rate": 4.176005731948244e-06, + "loss": 0.18, + "num_input_tokens_seen": 11782560, + "step": 6031 + }, + { + "epoch": 0.7994698475811796, + "grad_norm": 0.1506657600402832, + "learning_rate": 4.175748140664472e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11784304, + "step": 6032 + }, + { + "epoch": 0.7996023856858847, + "grad_norm": 13.986159324645996, + "learning_rate": 4.17549051707112e-06, + "loss": 0.5356, + "num_input_tokens_seen": 11787104, + "step": 6033 + }, + { + "epoch": 0.7997349237905897, + "grad_norm": 0.12098951637744904, + "learning_rate": 4.175232861173154e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11788416, + "step": 6034 + }, + { + "epoch": 0.7998674618952949, + "grad_norm": 1.0018857717514038, + "learning_rate": 4.174975172975543e-06, + "loss": 0.0062, + "num_input_tokens_seen": 11790504, + "step": 6035 + }, + { + "epoch": 0.8, + "grad_norm": 5.0751166343688965, + "learning_rate": 4.174717452483255e-06, + "loss": 0.1208, + "num_input_tokens_seen": 11792568, + "step": 6036 + }, + { + "epoch": 0.8001325381047051, + "grad_norm": 0.24677395820617676, + "learning_rate": 4.17445969970126e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11793968, + "step": 6037 + }, + { + "epoch": 0.8002650762094102, + "grad_norm": 0.1527145504951477, + "learning_rate": 4.174201914634527e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11795792, + "step": 6038 + }, + { + "epoch": 0.8003976143141153, + "grad_norm": 4.625432014465332, + "learning_rate": 4.173944097288025e-06, + "loss": 0.0582, + "num_input_tokens_seen": 11798000, + "step": 6039 + }, + { + "epoch": 0.8005301524188204, + "grad_norm": 0.16194915771484375, + "learning_rate": 4.173686247666727e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11800864, + "step": 6040 + }, + { + "epoch": 0.8006626905235256, + "grad_norm": 8.614712715148926, + "learning_rate": 4.173428365775603e-06, + "loss": 0.2911, + "num_input_tokens_seen": 11803632, + "step": 6041 + }, + { + "epoch": 0.8007952286282306, + "grad_norm": 10.721465110778809, + "learning_rate": 4.1731704516196255e-06, + "loss": 0.1964, + "num_input_tokens_seen": 11805512, + "step": 6042 + }, + { + "epoch": 0.8009277667329358, + "grad_norm": 0.0991855040192604, + "learning_rate": 4.172912505203768e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11808568, + "step": 6043 + }, + { + "epoch": 0.8010603048376408, + "grad_norm": 1.4042294025421143, + "learning_rate": 4.172654526533003e-06, + "loss": 0.021, + "num_input_tokens_seen": 11810288, + "step": 6044 + }, + { + "epoch": 0.8011928429423459, + "grad_norm": 6.066646099090576, + "learning_rate": 4.172396515612305e-06, + "loss": 0.1738, + "num_input_tokens_seen": 11813128, + "step": 6045 + }, + { + "epoch": 0.801325381047051, + "grad_norm": 5.14725923538208, + "learning_rate": 4.172138472446648e-06, + "loss": 0.0769, + "num_input_tokens_seen": 11815720, + "step": 6046 + }, + { + "epoch": 0.8014579191517561, + "grad_norm": 0.03395279124379158, + "learning_rate": 4.171880397041008e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11817032, + "step": 6047 + }, + { + "epoch": 0.8015904572564613, + "grad_norm": 5.20062780380249, + "learning_rate": 4.17162228940036e-06, + "loss": 0.0677, + "num_input_tokens_seen": 11818776, + "step": 6048 + }, + { + "epoch": 0.8017229953611663, + "grad_norm": 9.515907287597656, + "learning_rate": 4.171364149529682e-06, + "loss": 0.4526, + "num_input_tokens_seen": 11820904, + "step": 6049 + }, + { + "epoch": 0.8018555334658715, + "grad_norm": 0.1978934109210968, + "learning_rate": 4.17110597743395e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11822576, + "step": 6050 + }, + { + "epoch": 0.8019880715705765, + "grad_norm": 10.959004402160645, + "learning_rate": 4.170847773118142e-06, + "loss": 0.3952, + "num_input_tokens_seen": 11824256, + "step": 6051 + }, + { + "epoch": 0.8021206096752816, + "grad_norm": 0.09633899480104446, + "learning_rate": 4.170589536587237e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11825624, + "step": 6052 + }, + { + "epoch": 0.8022531477799868, + "grad_norm": 6.93980073928833, + "learning_rate": 4.170331267846211e-06, + "loss": 0.1995, + "num_input_tokens_seen": 11828056, + "step": 6053 + }, + { + "epoch": 0.8023856858846918, + "grad_norm": 0.42530685663223267, + "learning_rate": 4.1700729669000476e-06, + "loss": 0.0031, + "num_input_tokens_seen": 11830552, + "step": 6054 + }, + { + "epoch": 0.802518223989397, + "grad_norm": 16.74164390563965, + "learning_rate": 4.169814633753724e-06, + "loss": 0.6686, + "num_input_tokens_seen": 11833272, + "step": 6055 + }, + { + "epoch": 0.802650762094102, + "grad_norm": 7.9354705810546875, + "learning_rate": 4.169556268412224e-06, + "loss": 0.2462, + "num_input_tokens_seen": 11835312, + "step": 6056 + }, + { + "epoch": 0.8027833001988072, + "grad_norm": 8.194220542907715, + "learning_rate": 4.169297870880526e-06, + "loss": 0.1838, + "num_input_tokens_seen": 11837744, + "step": 6057 + }, + { + "epoch": 0.8029158383035122, + "grad_norm": 16.372188568115234, + "learning_rate": 4.169039441163613e-06, + "loss": 0.2398, + "num_input_tokens_seen": 11840816, + "step": 6058 + }, + { + "epoch": 0.8030483764082174, + "grad_norm": 6.946459770202637, + "learning_rate": 4.168780979266469e-06, + "loss": 0.3026, + "num_input_tokens_seen": 11843280, + "step": 6059 + }, + { + "epoch": 0.8031809145129225, + "grad_norm": 6.503567218780518, + "learning_rate": 4.168522485194077e-06, + "loss": 0.1942, + "num_input_tokens_seen": 11844704, + "step": 6060 + }, + { + "epoch": 0.8033134526176275, + "grad_norm": 0.33634835481643677, + "learning_rate": 4.168263958951421e-06, + "loss": 0.0022, + "num_input_tokens_seen": 11846656, + "step": 6061 + }, + { + "epoch": 0.8034459907223327, + "grad_norm": 0.16518740355968475, + "learning_rate": 4.168005400543483e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11847512, + "step": 6062 + }, + { + "epoch": 0.8035785288270377, + "grad_norm": 5.616457939147949, + "learning_rate": 4.1677468099752515e-06, + "loss": 0.1044, + "num_input_tokens_seen": 11849664, + "step": 6063 + }, + { + "epoch": 0.8037110669317429, + "grad_norm": 12.65960693359375, + "learning_rate": 4.16748818725171e-06, + "loss": 0.2047, + "num_input_tokens_seen": 11852504, + "step": 6064 + }, + { + "epoch": 0.803843605036448, + "grad_norm": 12.545294761657715, + "learning_rate": 4.1672295323778475e-06, + "loss": 0.5445, + "num_input_tokens_seen": 11854752, + "step": 6065 + }, + { + "epoch": 0.8039761431411531, + "grad_norm": 0.33383458852767944, + "learning_rate": 4.166970845358648e-06, + "loss": 0.0022, + "num_input_tokens_seen": 11856280, + "step": 6066 + }, + { + "epoch": 0.8041086812458582, + "grad_norm": 5.8879241943359375, + "learning_rate": 4.1667121261991014e-06, + "loss": 0.1943, + "num_input_tokens_seen": 11858040, + "step": 6067 + }, + { + "epoch": 0.8042412193505633, + "grad_norm": 2.104642152786255, + "learning_rate": 4.1664533749041944e-06, + "loss": 0.0137, + "num_input_tokens_seen": 11860488, + "step": 6068 + }, + { + "epoch": 0.8043737574552684, + "grad_norm": 11.497167587280273, + "learning_rate": 4.166194591478918e-06, + "loss": 0.2467, + "num_input_tokens_seen": 11862416, + "step": 6069 + }, + { + "epoch": 0.8045062955599734, + "grad_norm": 0.09199334681034088, + "learning_rate": 4.165935775928259e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11863728, + "step": 6070 + }, + { + "epoch": 0.8046388336646786, + "grad_norm": 11.039759635925293, + "learning_rate": 4.16567692825721e-06, + "loss": 0.3187, + "num_input_tokens_seen": 11865600, + "step": 6071 + }, + { + "epoch": 0.8047713717693837, + "grad_norm": 14.361676216125488, + "learning_rate": 4.165418048470761e-06, + "loss": 0.6379, + "num_input_tokens_seen": 11867840, + "step": 6072 + }, + { + "epoch": 0.8049039098740888, + "grad_norm": 0.2640438675880432, + "learning_rate": 4.165159136573902e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11869312, + "step": 6073 + }, + { + "epoch": 0.8050364479787939, + "grad_norm": 7.360639572143555, + "learning_rate": 4.1649001925716265e-06, + "loss": 0.2877, + "num_input_tokens_seen": 11871640, + "step": 6074 + }, + { + "epoch": 0.805168986083499, + "grad_norm": 9.279560089111328, + "learning_rate": 4.164641216468927e-06, + "loss": 0.1389, + "num_input_tokens_seen": 11873400, + "step": 6075 + }, + { + "epoch": 0.8053015241882041, + "grad_norm": 0.19355402886867523, + "learning_rate": 4.164382208270797e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11875088, + "step": 6076 + }, + { + "epoch": 0.8054340622929093, + "grad_norm": 6.217125415802002, + "learning_rate": 4.164123167982228e-06, + "loss": 0.0669, + "num_input_tokens_seen": 11877048, + "step": 6077 + }, + { + "epoch": 0.8055666003976143, + "grad_norm": 0.10231254249811172, + "learning_rate": 4.163864095608218e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11878440, + "step": 6078 + }, + { + "epoch": 0.8056991385023194, + "grad_norm": 2.467869281768799, + "learning_rate": 4.16360499115376e-06, + "loss": 0.0254, + "num_input_tokens_seen": 11880456, + "step": 6079 + }, + { + "epoch": 0.8058316766070245, + "grad_norm": 1.3555772304534912, + "learning_rate": 4.16334585462385e-06, + "loss": 0.0084, + "num_input_tokens_seen": 11883360, + "step": 6080 + }, + { + "epoch": 0.8059642147117296, + "grad_norm": 0.061334118247032166, + "learning_rate": 4.163086686023484e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11884656, + "step": 6081 + }, + { + "epoch": 0.8060967528164347, + "grad_norm": 0.1840270757675171, + "learning_rate": 4.16282748535766e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11886208, + "step": 6082 + }, + { + "epoch": 0.8062292909211398, + "grad_norm": 7.886624336242676, + "learning_rate": 4.162568252631375e-06, + "loss": 0.25, + "num_input_tokens_seen": 11887816, + "step": 6083 + }, + { + "epoch": 0.806361829025845, + "grad_norm": 0.29648005962371826, + "learning_rate": 4.162308987849626e-06, + "loss": 0.0015, + "num_input_tokens_seen": 11890040, + "step": 6084 + }, + { + "epoch": 0.80649436713055, + "grad_norm": 4.816892147064209, + "learning_rate": 4.162049691017414e-06, + "loss": 0.117, + "num_input_tokens_seen": 11891992, + "step": 6085 + }, + { + "epoch": 0.8066269052352552, + "grad_norm": 13.150874137878418, + "learning_rate": 4.161790362139737e-06, + "loss": 0.3357, + "num_input_tokens_seen": 11893904, + "step": 6086 + }, + { + "epoch": 0.8067594433399602, + "grad_norm": 3.5175275802612305, + "learning_rate": 4.161531001221596e-06, + "loss": 0.0696, + "num_input_tokens_seen": 11895408, + "step": 6087 + }, + { + "epoch": 0.8068919814446653, + "grad_norm": 1.1539913415908813, + "learning_rate": 4.161271608267991e-06, + "loss": 0.0065, + "num_input_tokens_seen": 11896872, + "step": 6088 + }, + { + "epoch": 0.8070245195493705, + "grad_norm": 4.928594589233398, + "learning_rate": 4.161012183283922e-06, + "loss": 0.1082, + "num_input_tokens_seen": 11899640, + "step": 6089 + }, + { + "epoch": 0.8071570576540755, + "grad_norm": 5.266086101531982, + "learning_rate": 4.1607527262743945e-06, + "loss": 0.1278, + "num_input_tokens_seen": 11902232, + "step": 6090 + }, + { + "epoch": 0.8072895957587807, + "grad_norm": 13.122448921203613, + "learning_rate": 4.160493237244407e-06, + "loss": 0.5917, + "num_input_tokens_seen": 11905120, + "step": 6091 + }, + { + "epoch": 0.8074221338634857, + "grad_norm": 6.496933937072754, + "learning_rate": 4.160233716198965e-06, + "loss": 0.2639, + "num_input_tokens_seen": 11907368, + "step": 6092 + }, + { + "epoch": 0.8075546719681909, + "grad_norm": 8.79826545715332, + "learning_rate": 4.159974163143071e-06, + "loss": 0.203, + "num_input_tokens_seen": 11909240, + "step": 6093 + }, + { + "epoch": 0.807687210072896, + "grad_norm": 2.6826932430267334, + "learning_rate": 4.1597145780817305e-06, + "loss": 0.0179, + "num_input_tokens_seen": 11910624, + "step": 6094 + }, + { + "epoch": 0.807819748177601, + "grad_norm": 13.007667541503906, + "learning_rate": 4.159454961019948e-06, + "loss": 0.4548, + "num_input_tokens_seen": 11913536, + "step": 6095 + }, + { + "epoch": 0.8079522862823062, + "grad_norm": 0.010204214602708817, + "learning_rate": 4.159195311962729e-06, + "loss": 0.0001, + "num_input_tokens_seen": 11915048, + "step": 6096 + }, + { + "epoch": 0.8080848243870112, + "grad_norm": 2.3493385314941406, + "learning_rate": 4.158935630915079e-06, + "loss": 0.0396, + "num_input_tokens_seen": 11916928, + "step": 6097 + }, + { + "epoch": 0.8082173624917164, + "grad_norm": 0.04768723249435425, + "learning_rate": 4.158675917882007e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11919176, + "step": 6098 + }, + { + "epoch": 0.8083499005964214, + "grad_norm": 0.18017545342445374, + "learning_rate": 4.158416172868518e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11920520, + "step": 6099 + }, + { + "epoch": 0.8084824387011266, + "grad_norm": 6.926924228668213, + "learning_rate": 4.1581563958796214e-06, + "loss": 0.183, + "num_input_tokens_seen": 11922336, + "step": 6100 + }, + { + "epoch": 0.8086149768058317, + "grad_norm": 6.996441841125488, + "learning_rate": 4.157896586920326e-06, + "loss": 0.2006, + "num_input_tokens_seen": 11923912, + "step": 6101 + }, + { + "epoch": 0.8087475149105368, + "grad_norm": 0.028820473700761795, + "learning_rate": 4.15763674599564e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11926768, + "step": 6102 + }, + { + "epoch": 0.8088800530152419, + "grad_norm": 4.1112494468688965, + "learning_rate": 4.157376873110575e-06, + "loss": 0.1544, + "num_input_tokens_seen": 11928672, + "step": 6103 + }, + { + "epoch": 0.8090125911199469, + "grad_norm": 9.680543899536133, + "learning_rate": 4.157116968270139e-06, + "loss": 0.4302, + "num_input_tokens_seen": 11930680, + "step": 6104 + }, + { + "epoch": 0.8091451292246521, + "grad_norm": 0.05377503111958504, + "learning_rate": 4.156857031479346e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11932328, + "step": 6105 + }, + { + "epoch": 0.8092776673293572, + "grad_norm": 5.878805160522461, + "learning_rate": 4.156597062743206e-06, + "loss": 0.2099, + "num_input_tokens_seen": 11934520, + "step": 6106 + }, + { + "epoch": 0.8094102054340623, + "grad_norm": 9.819246292114258, + "learning_rate": 4.156337062066731e-06, + "loss": 0.196, + "num_input_tokens_seen": 11936528, + "step": 6107 + }, + { + "epoch": 0.8095427435387674, + "grad_norm": 13.29173469543457, + "learning_rate": 4.156077029454936e-06, + "loss": 0.6531, + "num_input_tokens_seen": 11939320, + "step": 6108 + }, + { + "epoch": 0.8096752816434725, + "grad_norm": 8.720046043395996, + "learning_rate": 4.155816964912833e-06, + "loss": 0.1242, + "num_input_tokens_seen": 11941464, + "step": 6109 + }, + { + "epoch": 0.8098078197481776, + "grad_norm": 7.567434787750244, + "learning_rate": 4.155556868445436e-06, + "loss": 0.3019, + "num_input_tokens_seen": 11944960, + "step": 6110 + }, + { + "epoch": 0.8099403578528827, + "grad_norm": 8.137965202331543, + "learning_rate": 4.155296740057761e-06, + "loss": 0.2041, + "num_input_tokens_seen": 11947040, + "step": 6111 + }, + { + "epoch": 0.8100728959575878, + "grad_norm": 5.043724536895752, + "learning_rate": 4.155036579754823e-06, + "loss": 0.1823, + "num_input_tokens_seen": 11949168, + "step": 6112 + }, + { + "epoch": 0.810205434062293, + "grad_norm": 0.033044882118701935, + "learning_rate": 4.154776387541638e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11950448, + "step": 6113 + }, + { + "epoch": 0.810337972166998, + "grad_norm": 14.120488166809082, + "learning_rate": 4.154516163423223e-06, + "loss": 0.6416, + "num_input_tokens_seen": 11952840, + "step": 6114 + }, + { + "epoch": 0.8104705102717031, + "grad_norm": 10.699670791625977, + "learning_rate": 4.154255907404594e-06, + "loss": 0.3801, + "num_input_tokens_seen": 11955528, + "step": 6115 + }, + { + "epoch": 0.8106030483764082, + "grad_norm": 6.677476406097412, + "learning_rate": 4.153995619490771e-06, + "loss": 0.1422, + "num_input_tokens_seen": 11958104, + "step": 6116 + }, + { + "epoch": 0.8107355864811133, + "grad_norm": 0.1786443442106247, + "learning_rate": 4.153735299686771e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11960128, + "step": 6117 + }, + { + "epoch": 0.8108681245858185, + "grad_norm": 0.21194416284561157, + "learning_rate": 4.153474947997613e-06, + "loss": 0.0015, + "num_input_tokens_seen": 11961648, + "step": 6118 + }, + { + "epoch": 0.8110006626905235, + "grad_norm": 0.0890662670135498, + "learning_rate": 4.1532145644283185e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11963808, + "step": 6119 + }, + { + "epoch": 0.8111332007952287, + "grad_norm": 5.785924434661865, + "learning_rate": 4.152954148983905e-06, + "loss": 0.1664, + "num_input_tokens_seen": 11966352, + "step": 6120 + }, + { + "epoch": 0.8112657388999337, + "grad_norm": 13.983939170837402, + "learning_rate": 4.1526937016693966e-06, + "loss": 0.5277, + "num_input_tokens_seen": 11967856, + "step": 6121 + }, + { + "epoch": 0.8113982770046388, + "grad_norm": 0.5992397665977478, + "learning_rate": 4.152433222489814e-06, + "loss": 0.0086, + "num_input_tokens_seen": 11969632, + "step": 6122 + }, + { + "epoch": 0.8115308151093439, + "grad_norm": 8.290929794311523, + "learning_rate": 4.152172711450177e-06, + "loss": 0.2758, + "num_input_tokens_seen": 11972592, + "step": 6123 + }, + { + "epoch": 0.811663353214049, + "grad_norm": 5.982214450836182, + "learning_rate": 4.151912168555512e-06, + "loss": 0.1672, + "num_input_tokens_seen": 11974464, + "step": 6124 + }, + { + "epoch": 0.8117958913187542, + "grad_norm": 9.645614624023438, + "learning_rate": 4.151651593810839e-06, + "loss": 0.1947, + "num_input_tokens_seen": 11976792, + "step": 6125 + }, + { + "epoch": 0.8119284294234592, + "grad_norm": 8.89342975616455, + "learning_rate": 4.151390987221186e-06, + "loss": 0.1046, + "num_input_tokens_seen": 11978360, + "step": 6126 + }, + { + "epoch": 0.8120609675281644, + "grad_norm": 11.050488471984863, + "learning_rate": 4.151130348791575e-06, + "loss": 0.1653, + "num_input_tokens_seen": 11979904, + "step": 6127 + }, + { + "epoch": 0.8121935056328694, + "grad_norm": 0.1010405495762825, + "learning_rate": 4.1508696785270305e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11981496, + "step": 6128 + }, + { + "epoch": 0.8123260437375746, + "grad_norm": 7.351529598236084, + "learning_rate": 4.150608976432581e-06, + "loss": 0.2574, + "num_input_tokens_seen": 11983512, + "step": 6129 + }, + { + "epoch": 0.8124585818422797, + "grad_norm": 14.337509155273438, + "learning_rate": 4.1503482425132505e-06, + "loss": 0.399, + "num_input_tokens_seen": 11984856, + "step": 6130 + }, + { + "epoch": 0.8125911199469847, + "grad_norm": 1.2829574346542358, + "learning_rate": 4.150087476774068e-06, + "loss": 0.0097, + "num_input_tokens_seen": 11986368, + "step": 6131 + }, + { + "epoch": 0.8127236580516899, + "grad_norm": 6.408889293670654, + "learning_rate": 4.149826679220061e-06, + "loss": 0.0725, + "num_input_tokens_seen": 11989712, + "step": 6132 + }, + { + "epoch": 0.8128561961563949, + "grad_norm": 13.214240074157715, + "learning_rate": 4.149565849856257e-06, + "loss": 0.644, + "num_input_tokens_seen": 11991832, + "step": 6133 + }, + { + "epoch": 0.8129887342611001, + "grad_norm": 11.497636795043945, + "learning_rate": 4.149304988687687e-06, + "loss": 0.5024, + "num_input_tokens_seen": 11994296, + "step": 6134 + }, + { + "epoch": 0.8131212723658051, + "grad_norm": 0.38540008664131165, + "learning_rate": 4.149044095719377e-06, + "loss": 0.0027, + "num_input_tokens_seen": 11995480, + "step": 6135 + }, + { + "epoch": 0.8132538104705103, + "grad_norm": 1.937770128250122, + "learning_rate": 4.14878317095636e-06, + "loss": 0.0332, + "num_input_tokens_seen": 11996904, + "step": 6136 + }, + { + "epoch": 0.8133863485752154, + "grad_norm": 21.665620803833008, + "learning_rate": 4.148522214403666e-06, + "loss": 0.923, + "num_input_tokens_seen": 11999968, + "step": 6137 + }, + { + "epoch": 0.8135188866799204, + "grad_norm": 14.573948860168457, + "learning_rate": 4.1482612260663255e-06, + "loss": 0.4182, + "num_input_tokens_seen": 12002184, + "step": 6138 + }, + { + "epoch": 0.8136514247846256, + "grad_norm": 0.11547131091356277, + "learning_rate": 4.148000205949373e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12003376, + "step": 6139 + }, + { + "epoch": 0.8137839628893306, + "grad_norm": 9.716676712036133, + "learning_rate": 4.147739154057839e-06, + "loss": 0.4965, + "num_input_tokens_seen": 12006416, + "step": 6140 + }, + { + "epoch": 0.8139165009940358, + "grad_norm": 0.15690559148788452, + "learning_rate": 4.147478070396758e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12007872, + "step": 6141 + }, + { + "epoch": 0.8140490390987409, + "grad_norm": 2.881154775619507, + "learning_rate": 4.147216954971162e-06, + "loss": 0.1374, + "num_input_tokens_seen": 12010432, + "step": 6142 + }, + { + "epoch": 0.814181577203446, + "grad_norm": 9.406018257141113, + "learning_rate": 4.146955807786087e-06, + "loss": 0.2384, + "num_input_tokens_seen": 12012256, + "step": 6143 + }, + { + "epoch": 0.8143141153081511, + "grad_norm": 7.63559627532959, + "learning_rate": 4.146694628846569e-06, + "loss": 0.3628, + "num_input_tokens_seen": 12014264, + "step": 6144 + }, + { + "epoch": 0.8144466534128562, + "grad_norm": 4.916349411010742, + "learning_rate": 4.146433418157642e-06, + "loss": 0.0664, + "num_input_tokens_seen": 12016056, + "step": 6145 + }, + { + "epoch": 0.8145791915175613, + "grad_norm": 0.33672434091567993, + "learning_rate": 4.1461721757243425e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12019368, + "step": 6146 + }, + { + "epoch": 0.8147117296222665, + "grad_norm": 13.336397171020508, + "learning_rate": 4.145910901551708e-06, + "loss": 0.2492, + "num_input_tokens_seen": 12021984, + "step": 6147 + }, + { + "epoch": 0.8148442677269715, + "grad_norm": 0.3371427059173584, + "learning_rate": 4.145649595644776e-06, + "loss": 0.0023, + "num_input_tokens_seen": 12023856, + "step": 6148 + }, + { + "epoch": 0.8149768058316766, + "grad_norm": 4.515292167663574, + "learning_rate": 4.145388258008584e-06, + "loss": 0.0275, + "num_input_tokens_seen": 12026448, + "step": 6149 + }, + { + "epoch": 0.8151093439363817, + "grad_norm": 0.22956888377666473, + "learning_rate": 4.145126888648172e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12027816, + "step": 6150 + }, + { + "epoch": 0.8152418820410868, + "grad_norm": 9.099516868591309, + "learning_rate": 4.144865487568578e-06, + "loss": 0.4176, + "num_input_tokens_seen": 12029328, + "step": 6151 + }, + { + "epoch": 0.8153744201457919, + "grad_norm": 5.425027847290039, + "learning_rate": 4.1446040547748435e-06, + "loss": 0.0546, + "num_input_tokens_seen": 12031128, + "step": 6152 + }, + { + "epoch": 0.815506958250497, + "grad_norm": 4.941423416137695, + "learning_rate": 4.144342590272008e-06, + "loss": 0.0538, + "num_input_tokens_seen": 12032576, + "step": 6153 + }, + { + "epoch": 0.8156394963552022, + "grad_norm": 8.356847763061523, + "learning_rate": 4.144081094065112e-06, + "loss": 0.154, + "num_input_tokens_seen": 12034648, + "step": 6154 + }, + { + "epoch": 0.8157720344599072, + "grad_norm": 6.338788986206055, + "learning_rate": 4.1438195661592e-06, + "loss": 0.319, + "num_input_tokens_seen": 12036168, + "step": 6155 + }, + { + "epoch": 0.8159045725646124, + "grad_norm": 9.516143798828125, + "learning_rate": 4.143558006559311e-06, + "loss": 0.1796, + "num_input_tokens_seen": 12039152, + "step": 6156 + }, + { + "epoch": 0.8160371106693174, + "grad_norm": 19.02674674987793, + "learning_rate": 4.1432964152704915e-06, + "loss": 0.7778, + "num_input_tokens_seen": 12041864, + "step": 6157 + }, + { + "epoch": 0.8161696487740225, + "grad_norm": 0.10304267704486847, + "learning_rate": 4.143034792297782e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12043800, + "step": 6158 + }, + { + "epoch": 0.8163021868787277, + "grad_norm": 2.870968818664551, + "learning_rate": 4.142773137646229e-06, + "loss": 0.0965, + "num_input_tokens_seen": 12045144, + "step": 6159 + }, + { + "epoch": 0.8164347249834327, + "grad_norm": 10.343827247619629, + "learning_rate": 4.142511451320876e-06, + "loss": 0.2154, + "num_input_tokens_seen": 12046568, + "step": 6160 + }, + { + "epoch": 0.8165672630881379, + "grad_norm": 10.063755989074707, + "learning_rate": 4.14224973332677e-06, + "loss": 0.3229, + "num_input_tokens_seen": 12048384, + "step": 6161 + }, + { + "epoch": 0.8166998011928429, + "grad_norm": 15.415332794189453, + "learning_rate": 4.141987983668956e-06, + "loss": 0.4824, + "num_input_tokens_seen": 12050080, + "step": 6162 + }, + { + "epoch": 0.8168323392975481, + "grad_norm": 6.238321781158447, + "learning_rate": 4.1417262023524805e-06, + "loss": 0.2326, + "num_input_tokens_seen": 12051912, + "step": 6163 + }, + { + "epoch": 0.8169648774022531, + "grad_norm": 7.972569942474365, + "learning_rate": 4.141464389382392e-06, + "loss": 0.1352, + "num_input_tokens_seen": 12053912, + "step": 6164 + }, + { + "epoch": 0.8170974155069582, + "grad_norm": 0.061879269778728485, + "learning_rate": 4.141202544763737e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12055336, + "step": 6165 + }, + { + "epoch": 0.8172299536116634, + "grad_norm": 0.14086776971817017, + "learning_rate": 4.140940668501565e-06, + "loss": 0.001, + "num_input_tokens_seen": 12057592, + "step": 6166 + }, + { + "epoch": 0.8173624917163684, + "grad_norm": 0.07263222336769104, + "learning_rate": 4.140678760600925e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12059168, + "step": 6167 + }, + { + "epoch": 0.8174950298210736, + "grad_norm": 10.398987770080566, + "learning_rate": 4.140416821066866e-06, + "loss": 0.3898, + "num_input_tokens_seen": 12061072, + "step": 6168 + }, + { + "epoch": 0.8176275679257786, + "grad_norm": 2.268773317337036, + "learning_rate": 4.140154849904439e-06, + "loss": 0.0175, + "num_input_tokens_seen": 12062640, + "step": 6169 + }, + { + "epoch": 0.8177601060304838, + "grad_norm": 13.757884979248047, + "learning_rate": 4.1398928471186955e-06, + "loss": 0.4122, + "num_input_tokens_seen": 12064776, + "step": 6170 + }, + { + "epoch": 0.8178926441351889, + "grad_norm": 0.17335061728954315, + "learning_rate": 4.139630812714687e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12066648, + "step": 6171 + }, + { + "epoch": 0.818025182239894, + "grad_norm": 0.4240673780441284, + "learning_rate": 4.139368746697464e-06, + "loss": 0.0029, + "num_input_tokens_seen": 12068488, + "step": 6172 + }, + { + "epoch": 0.8181577203445991, + "grad_norm": 0.35706931352615356, + "learning_rate": 4.139106649072082e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12069968, + "step": 6173 + }, + { + "epoch": 0.8182902584493041, + "grad_norm": 0.09763240069150925, + "learning_rate": 4.138844519843593e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12071504, + "step": 6174 + }, + { + "epoch": 0.8184227965540093, + "grad_norm": 8.46609878540039, + "learning_rate": 4.1385823590170505e-06, + "loss": 0.231, + "num_input_tokens_seen": 12072744, + "step": 6175 + }, + { + "epoch": 0.8185553346587143, + "grad_norm": 0.08261913061141968, + "learning_rate": 4.138320166597509e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12074736, + "step": 6176 + }, + { + "epoch": 0.8186878727634195, + "grad_norm": 12.54770565032959, + "learning_rate": 4.138057942590026e-06, + "loss": 0.2753, + "num_input_tokens_seen": 12077296, + "step": 6177 + }, + { + "epoch": 0.8188204108681246, + "grad_norm": 0.351381778717041, + "learning_rate": 4.137795686999655e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12079920, + "step": 6178 + }, + { + "epoch": 0.8189529489728297, + "grad_norm": 8.909554481506348, + "learning_rate": 4.137533399831453e-06, + "loss": 0.1311, + "num_input_tokens_seen": 12082016, + "step": 6179 + }, + { + "epoch": 0.8190854870775348, + "grad_norm": 10.467844009399414, + "learning_rate": 4.137271081090478e-06, + "loss": 0.3334, + "num_input_tokens_seen": 12084024, + "step": 6180 + }, + { + "epoch": 0.8192180251822399, + "grad_norm": 15.41341781616211, + "learning_rate": 4.1370087307817865e-06, + "loss": 0.4528, + "num_input_tokens_seen": 12086088, + "step": 6181 + }, + { + "epoch": 0.819350563286945, + "grad_norm": 4.557136058807373, + "learning_rate": 4.136746348910438e-06, + "loss": 0.058, + "num_input_tokens_seen": 12089128, + "step": 6182 + }, + { + "epoch": 0.8194831013916501, + "grad_norm": 13.68031120300293, + "learning_rate": 4.136483935481491e-06, + "loss": 0.2493, + "num_input_tokens_seen": 12091664, + "step": 6183 + }, + { + "epoch": 0.8196156394963552, + "grad_norm": 0.34771475195884705, + "learning_rate": 4.1362214905000045e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12093784, + "step": 6184 + }, + { + "epoch": 0.8197481776010603, + "grad_norm": 0.03295198827981949, + "learning_rate": 4.135959013971038e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12095192, + "step": 6185 + }, + { + "epoch": 0.8198807157057654, + "grad_norm": 7.492112636566162, + "learning_rate": 4.135696505899654e-06, + "loss": 0.2562, + "num_input_tokens_seen": 12097168, + "step": 6186 + }, + { + "epoch": 0.8200132538104705, + "grad_norm": 0.05433334782719612, + "learning_rate": 4.135433966290912e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12098400, + "step": 6187 + }, + { + "epoch": 0.8201457919151756, + "grad_norm": 5.8571882247924805, + "learning_rate": 4.135171395149876e-06, + "loss": 0.1314, + "num_input_tokens_seen": 12100392, + "step": 6188 + }, + { + "epoch": 0.8202783300198807, + "grad_norm": 2.2193994522094727, + "learning_rate": 4.134908792481607e-06, + "loss": 0.0486, + "num_input_tokens_seen": 12103456, + "step": 6189 + }, + { + "epoch": 0.8204108681245859, + "grad_norm": 0.10799624770879745, + "learning_rate": 4.1346461582911686e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12105256, + "step": 6190 + }, + { + "epoch": 0.8205434062292909, + "grad_norm": 8.882286071777344, + "learning_rate": 4.134383492583625e-06, + "loss": 0.4695, + "num_input_tokens_seen": 12107232, + "step": 6191 + }, + { + "epoch": 0.820675944333996, + "grad_norm": 0.07522015273571014, + "learning_rate": 4.13412079536404e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12108976, + "step": 6192 + }, + { + "epoch": 0.8208084824387011, + "grad_norm": 3.9227962493896484, + "learning_rate": 4.133858066637478e-06, + "loss": 0.1063, + "num_input_tokens_seen": 12111720, + "step": 6193 + }, + { + "epoch": 0.8209410205434062, + "grad_norm": 9.348179817199707, + "learning_rate": 4.133595306409006e-06, + "loss": 0.3153, + "num_input_tokens_seen": 12113416, + "step": 6194 + }, + { + "epoch": 0.8210735586481114, + "grad_norm": 2.6346051692962646, + "learning_rate": 4.133332514683689e-06, + "loss": 0.0197, + "num_input_tokens_seen": 12115136, + "step": 6195 + }, + { + "epoch": 0.8212060967528164, + "grad_norm": 0.04772911220788956, + "learning_rate": 4.1330696914665954e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12116416, + "step": 6196 + }, + { + "epoch": 0.8213386348575216, + "grad_norm": 3.1681723594665527, + "learning_rate": 4.132806836762791e-06, + "loss": 0.0919, + "num_input_tokens_seen": 12118000, + "step": 6197 + }, + { + "epoch": 0.8214711729622266, + "grad_norm": 12.629515647888184, + "learning_rate": 4.132543950577344e-06, + "loss": 0.2717, + "num_input_tokens_seen": 12119944, + "step": 6198 + }, + { + "epoch": 0.8216037110669318, + "grad_norm": 11.544231414794922, + "learning_rate": 4.132281032915324e-06, + "loss": 0.6901, + "num_input_tokens_seen": 12122712, + "step": 6199 + }, + { + "epoch": 0.8217362491716369, + "grad_norm": 9.117243766784668, + "learning_rate": 4.132018083781799e-06, + "loss": 0.2474, + "num_input_tokens_seen": 12124904, + "step": 6200 + }, + { + "epoch": 0.8218687872763419, + "grad_norm": 2.8727691173553467, + "learning_rate": 4.13175510318184e-06, + "loss": 0.0433, + "num_input_tokens_seen": 12126360, + "step": 6201 + }, + { + "epoch": 0.8220013253810471, + "grad_norm": 10.489371299743652, + "learning_rate": 4.131492091120517e-06, + "loss": 0.4187, + "num_input_tokens_seen": 12128312, + "step": 6202 + }, + { + "epoch": 0.8221338634857521, + "grad_norm": 5.456762790679932, + "learning_rate": 4.131229047602901e-06, + "loss": 0.165, + "num_input_tokens_seen": 12130192, + "step": 6203 + }, + { + "epoch": 0.8222664015904573, + "grad_norm": 0.09675624966621399, + "learning_rate": 4.130965972634063e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12132224, + "step": 6204 + }, + { + "epoch": 0.8223989396951623, + "grad_norm": 6.89369535446167, + "learning_rate": 4.130702866219076e-06, + "loss": 0.1046, + "num_input_tokens_seen": 12134528, + "step": 6205 + }, + { + "epoch": 0.8225314777998675, + "grad_norm": 5.970261096954346, + "learning_rate": 4.1304397283630125e-06, + "loss": 0.1615, + "num_input_tokens_seen": 12136392, + "step": 6206 + }, + { + "epoch": 0.8226640159045726, + "grad_norm": 4.487571716308594, + "learning_rate": 4.1301765590709475e-06, + "loss": 0.0366, + "num_input_tokens_seen": 12137752, + "step": 6207 + }, + { + "epoch": 0.8227965540092776, + "grad_norm": 2.5095205307006836, + "learning_rate": 4.129913358347952e-06, + "loss": 0.0435, + "num_input_tokens_seen": 12138920, + "step": 6208 + }, + { + "epoch": 0.8229290921139828, + "grad_norm": 5.72824239730835, + "learning_rate": 4.129650126199104e-06, + "loss": 0.2694, + "num_input_tokens_seen": 12141088, + "step": 6209 + }, + { + "epoch": 0.8230616302186878, + "grad_norm": 14.83043098449707, + "learning_rate": 4.129386862629477e-06, + "loss": 0.4705, + "num_input_tokens_seen": 12143632, + "step": 6210 + }, + { + "epoch": 0.823194168323393, + "grad_norm": 11.735869407653809, + "learning_rate": 4.129123567644148e-06, + "loss": 0.3842, + "num_input_tokens_seen": 12145664, + "step": 6211 + }, + { + "epoch": 0.8233267064280981, + "grad_norm": 6.481836795806885, + "learning_rate": 4.128860241248191e-06, + "loss": 0.1997, + "num_input_tokens_seen": 12147920, + "step": 6212 + }, + { + "epoch": 0.8234592445328032, + "grad_norm": 7.761951923370361, + "learning_rate": 4.128596883446686e-06, + "loss": 0.445, + "num_input_tokens_seen": 12150056, + "step": 6213 + }, + { + "epoch": 0.8235917826375083, + "grad_norm": 6.926527976989746, + "learning_rate": 4.128333494244709e-06, + "loss": 0.2015, + "num_input_tokens_seen": 12151896, + "step": 6214 + }, + { + "epoch": 0.8237243207422134, + "grad_norm": 10.51961612701416, + "learning_rate": 4.12807007364734e-06, + "loss": 0.4099, + "num_input_tokens_seen": 12153432, + "step": 6215 + }, + { + "epoch": 0.8238568588469185, + "grad_norm": 7.494429111480713, + "learning_rate": 4.127806621659656e-06, + "loss": 0.169, + "num_input_tokens_seen": 12155384, + "step": 6216 + }, + { + "epoch": 0.8239893969516235, + "grad_norm": 0.5483980774879456, + "learning_rate": 4.127543138286738e-06, + "loss": 0.0039, + "num_input_tokens_seen": 12157496, + "step": 6217 + }, + { + "epoch": 0.8241219350563287, + "grad_norm": 13.005352020263672, + "learning_rate": 4.127279623533664e-06, + "loss": 0.3503, + "num_input_tokens_seen": 12159496, + "step": 6218 + }, + { + "epoch": 0.8242544731610338, + "grad_norm": 8.437920570373535, + "learning_rate": 4.127016077405517e-06, + "loss": 0.2606, + "num_input_tokens_seen": 12161224, + "step": 6219 + }, + { + "epoch": 0.8243870112657389, + "grad_norm": 4.138315200805664, + "learning_rate": 4.126752499907378e-06, + "loss": 0.0276, + "num_input_tokens_seen": 12163248, + "step": 6220 + }, + { + "epoch": 0.824519549370444, + "grad_norm": 8.378972053527832, + "learning_rate": 4.126488891044329e-06, + "loss": 0.1636, + "num_input_tokens_seen": 12165200, + "step": 6221 + }, + { + "epoch": 0.8246520874751491, + "grad_norm": 1.0396136045455933, + "learning_rate": 4.126225250821451e-06, + "loss": 0.0078, + "num_input_tokens_seen": 12166784, + "step": 6222 + }, + { + "epoch": 0.8247846255798542, + "grad_norm": 5.494361400604248, + "learning_rate": 4.125961579243829e-06, + "loss": 0.1194, + "num_input_tokens_seen": 12169216, + "step": 6223 + }, + { + "epoch": 0.8249171636845594, + "grad_norm": 0.8125260472297668, + "learning_rate": 4.125697876316546e-06, + "loss": 0.0061, + "num_input_tokens_seen": 12171288, + "step": 6224 + }, + { + "epoch": 0.8250497017892644, + "grad_norm": 9.584872245788574, + "learning_rate": 4.125434142044687e-06, + "loss": 0.3961, + "num_input_tokens_seen": 12173496, + "step": 6225 + }, + { + "epoch": 0.8251822398939695, + "grad_norm": 11.020746231079102, + "learning_rate": 4.125170376433335e-06, + "loss": 0.2975, + "num_input_tokens_seen": 12175976, + "step": 6226 + }, + { + "epoch": 0.8253147779986746, + "grad_norm": 0.5590848326683044, + "learning_rate": 4.124906579487578e-06, + "loss": 0.004, + "num_input_tokens_seen": 12177616, + "step": 6227 + }, + { + "epoch": 0.8254473161033797, + "grad_norm": 3.3342487812042236, + "learning_rate": 4.124642751212501e-06, + "loss": 0.0244, + "num_input_tokens_seen": 12178920, + "step": 6228 + }, + { + "epoch": 0.8255798542080848, + "grad_norm": 5.280827045440674, + "learning_rate": 4.1243788916131905e-06, + "loss": 0.2066, + "num_input_tokens_seen": 12180184, + "step": 6229 + }, + { + "epoch": 0.8257123923127899, + "grad_norm": 0.30848872661590576, + "learning_rate": 4.124115000694735e-06, + "loss": 0.0023, + "num_input_tokens_seen": 12182208, + "step": 6230 + }, + { + "epoch": 0.8258449304174951, + "grad_norm": 5.568369388580322, + "learning_rate": 4.123851078462221e-06, + "loss": 0.0861, + "num_input_tokens_seen": 12184800, + "step": 6231 + }, + { + "epoch": 0.8259774685222001, + "grad_norm": 2.4100353717803955, + "learning_rate": 4.123587124920739e-06, + "loss": 0.0175, + "num_input_tokens_seen": 12187248, + "step": 6232 + }, + { + "epoch": 0.8261100066269053, + "grad_norm": 9.171369552612305, + "learning_rate": 4.123323140075377e-06, + "loss": 0.1491, + "num_input_tokens_seen": 12189368, + "step": 6233 + }, + { + "epoch": 0.8262425447316103, + "grad_norm": 0.213578462600708, + "learning_rate": 4.123059123931224e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12191008, + "step": 6234 + }, + { + "epoch": 0.8263750828363154, + "grad_norm": 5.748342037200928, + "learning_rate": 4.122795076493373e-06, + "loss": 0.2569, + "num_input_tokens_seen": 12193320, + "step": 6235 + }, + { + "epoch": 0.8265076209410206, + "grad_norm": 5.8942999839782715, + "learning_rate": 4.1225309977669125e-06, + "loss": 0.2039, + "num_input_tokens_seen": 12195136, + "step": 6236 + }, + { + "epoch": 0.8266401590457256, + "grad_norm": 3.219637155532837, + "learning_rate": 4.122266887756935e-06, + "loss": 0.0601, + "num_input_tokens_seen": 12196824, + "step": 6237 + }, + { + "epoch": 0.8267726971504308, + "grad_norm": 10.456040382385254, + "learning_rate": 4.122002746468532e-06, + "loss": 0.4008, + "num_input_tokens_seen": 12199280, + "step": 6238 + }, + { + "epoch": 0.8269052352551358, + "grad_norm": 4.665362358093262, + "learning_rate": 4.121738573906799e-06, + "loss": 0.1367, + "num_input_tokens_seen": 12201104, + "step": 6239 + }, + { + "epoch": 0.827037773359841, + "grad_norm": 0.05203327164053917, + "learning_rate": 4.121474370076825e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12203400, + "step": 6240 + }, + { + "epoch": 0.827170311464546, + "grad_norm": 13.856741905212402, + "learning_rate": 4.121210134983709e-06, + "loss": 0.3902, + "num_input_tokens_seen": 12205216, + "step": 6241 + }, + { + "epoch": 0.8273028495692512, + "grad_norm": 11.38778018951416, + "learning_rate": 4.120945868632542e-06, + "loss": 0.3487, + "num_input_tokens_seen": 12207368, + "step": 6242 + }, + { + "epoch": 0.8274353876739563, + "grad_norm": 12.541460037231445, + "learning_rate": 4.120681571028421e-06, + "loss": 0.4703, + "num_input_tokens_seen": 12209104, + "step": 6243 + }, + { + "epoch": 0.8275679257786613, + "grad_norm": 6.679209232330322, + "learning_rate": 4.12041724217644e-06, + "loss": 0.1269, + "num_input_tokens_seen": 12211080, + "step": 6244 + }, + { + "epoch": 0.8277004638833665, + "grad_norm": 8.423904418945312, + "learning_rate": 4.120152882081698e-06, + "loss": 0.2557, + "num_input_tokens_seen": 12212848, + "step": 6245 + }, + { + "epoch": 0.8278330019880715, + "grad_norm": 7.195593357086182, + "learning_rate": 4.119888490749291e-06, + "loss": 0.284, + "num_input_tokens_seen": 12214840, + "step": 6246 + }, + { + "epoch": 0.8279655400927767, + "grad_norm": 0.030502120032906532, + "learning_rate": 4.119624068184314e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12216216, + "step": 6247 + }, + { + "epoch": 0.8280980781974818, + "grad_norm": 5.737765789031982, + "learning_rate": 4.11935961439187e-06, + "loss": 0.0997, + "num_input_tokens_seen": 12218600, + "step": 6248 + }, + { + "epoch": 0.8282306163021869, + "grad_norm": 8.605488777160645, + "learning_rate": 4.1190951293770555e-06, + "loss": 0.1571, + "num_input_tokens_seen": 12220712, + "step": 6249 + }, + { + "epoch": 0.828363154406892, + "grad_norm": 13.504863739013672, + "learning_rate": 4.118830613144969e-06, + "loss": 0.385, + "num_input_tokens_seen": 12223048, + "step": 6250 + }, + { + "epoch": 0.828495692511597, + "grad_norm": 5.494770526885986, + "learning_rate": 4.118566065700712e-06, + "loss": 0.163, + "num_input_tokens_seen": 12225320, + "step": 6251 + }, + { + "epoch": 0.8286282306163022, + "grad_norm": 2.2683663368225098, + "learning_rate": 4.118301487049385e-06, + "loss": 0.0251, + "num_input_tokens_seen": 12228208, + "step": 6252 + }, + { + "epoch": 0.8287607687210072, + "grad_norm": 9.019432067871094, + "learning_rate": 4.118036877196087e-06, + "loss": 0.2643, + "num_input_tokens_seen": 12230168, + "step": 6253 + }, + { + "epoch": 0.8288933068257124, + "grad_norm": 13.964994430541992, + "learning_rate": 4.117772236145924e-06, + "loss": 0.4196, + "num_input_tokens_seen": 12233344, + "step": 6254 + }, + { + "epoch": 0.8290258449304175, + "grad_norm": 5.32543420791626, + "learning_rate": 4.1175075639039955e-06, + "loss": 0.1, + "num_input_tokens_seen": 12235376, + "step": 6255 + }, + { + "epoch": 0.8291583830351226, + "grad_norm": 0.0760633572936058, + "learning_rate": 4.117242860475405e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12236968, + "step": 6256 + }, + { + "epoch": 0.8292909211398277, + "grad_norm": 4.2061944007873535, + "learning_rate": 4.116978125865257e-06, + "loss": 0.0341, + "num_input_tokens_seen": 12238080, + "step": 6257 + }, + { + "epoch": 0.8294234592445328, + "grad_norm": 1.437563419342041, + "learning_rate": 4.116713360078655e-06, + "loss": 0.0099, + "num_input_tokens_seen": 12239736, + "step": 6258 + }, + { + "epoch": 0.8295559973492379, + "grad_norm": 3.3553242683410645, + "learning_rate": 4.116448563120703e-06, + "loss": 0.0942, + "num_input_tokens_seen": 12241320, + "step": 6259 + }, + { + "epoch": 0.829688535453943, + "grad_norm": 12.096250534057617, + "learning_rate": 4.11618373499651e-06, + "loss": 0.4797, + "num_input_tokens_seen": 12243536, + "step": 6260 + }, + { + "epoch": 0.8298210735586481, + "grad_norm": 0.10807611048221588, + "learning_rate": 4.115918875711177e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12245728, + "step": 6261 + }, + { + "epoch": 0.8299536116633532, + "grad_norm": 0.16108787059783936, + "learning_rate": 4.115653985269815e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12248584, + "step": 6262 + }, + { + "epoch": 0.8300861497680583, + "grad_norm": 0.08902917802333832, + "learning_rate": 4.115389063677529e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12250312, + "step": 6263 + }, + { + "epoch": 0.8302186878727634, + "grad_norm": 1.0257246494293213, + "learning_rate": 4.115124110939428e-06, + "loss": 0.0103, + "num_input_tokens_seen": 12252440, + "step": 6264 + }, + { + "epoch": 0.8303512259774686, + "grad_norm": 0.09052792936563492, + "learning_rate": 4.114859127060619e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12254128, + "step": 6265 + }, + { + "epoch": 0.8304837640821736, + "grad_norm": 0.10972768813371658, + "learning_rate": 4.114594112046213e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12256784, + "step": 6266 + }, + { + "epoch": 0.8306163021868788, + "grad_norm": 4.139855861663818, + "learning_rate": 4.114329065901318e-06, + "loss": 0.0647, + "num_input_tokens_seen": 12258640, + "step": 6267 + }, + { + "epoch": 0.8307488402915838, + "grad_norm": 10.520730018615723, + "learning_rate": 4.114063988631045e-06, + "loss": 0.3175, + "num_input_tokens_seen": 12260560, + "step": 6268 + }, + { + "epoch": 0.830881378396289, + "grad_norm": 12.92013168334961, + "learning_rate": 4.1137988802405045e-06, + "loss": 0.2762, + "num_input_tokens_seen": 12262840, + "step": 6269 + }, + { + "epoch": 0.831013916500994, + "grad_norm": 5.192386150360107, + "learning_rate": 4.113533740734808e-06, + "loss": 0.0964, + "num_input_tokens_seen": 12265520, + "step": 6270 + }, + { + "epoch": 0.8311464546056991, + "grad_norm": 0.05114308372139931, + "learning_rate": 4.113268570119069e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12267640, + "step": 6271 + }, + { + "epoch": 0.8312789927104043, + "grad_norm": 3.6195547580718994, + "learning_rate": 4.113003368398399e-06, + "loss": 0.1584, + "num_input_tokens_seen": 12269296, + "step": 6272 + }, + { + "epoch": 0.8314115308151093, + "grad_norm": 11.716181755065918, + "learning_rate": 4.112738135577911e-06, + "loss": 0.5088, + "num_input_tokens_seen": 12271536, + "step": 6273 + }, + { + "epoch": 0.8315440689198145, + "grad_norm": 6.594929218292236, + "learning_rate": 4.112472871662719e-06, + "loss": 0.104, + "num_input_tokens_seen": 12272928, + "step": 6274 + }, + { + "epoch": 0.8316766070245195, + "grad_norm": 11.424931526184082, + "learning_rate": 4.1122075766579385e-06, + "loss": 0.5056, + "num_input_tokens_seen": 12275312, + "step": 6275 + }, + { + "epoch": 0.8318091451292247, + "grad_norm": 7.557201385498047, + "learning_rate": 4.111942250568682e-06, + "loss": 0.2129, + "num_input_tokens_seen": 12277224, + "step": 6276 + }, + { + "epoch": 0.8319416832339298, + "grad_norm": 10.103591918945312, + "learning_rate": 4.111676893400069e-06, + "loss": 0.4211, + "num_input_tokens_seen": 12278760, + "step": 6277 + }, + { + "epoch": 0.8320742213386348, + "grad_norm": 3.9535558223724365, + "learning_rate": 4.111411505157211e-06, + "loss": 0.0977, + "num_input_tokens_seen": 12280744, + "step": 6278 + }, + { + "epoch": 0.83220675944334, + "grad_norm": 8.658276557922363, + "learning_rate": 4.111146085845229e-06, + "loss": 0.3607, + "num_input_tokens_seen": 12282880, + "step": 6279 + }, + { + "epoch": 0.832339297548045, + "grad_norm": 4.8431901931762695, + "learning_rate": 4.11088063546924e-06, + "loss": 0.0953, + "num_input_tokens_seen": 12284408, + "step": 6280 + }, + { + "epoch": 0.8324718356527502, + "grad_norm": 17.915311813354492, + "learning_rate": 4.11061515403436e-06, + "loss": 0.5008, + "num_input_tokens_seen": 12286720, + "step": 6281 + }, + { + "epoch": 0.8326043737574552, + "grad_norm": 10.253244400024414, + "learning_rate": 4.110349641545709e-06, + "loss": 0.3892, + "num_input_tokens_seen": 12288848, + "step": 6282 + }, + { + "epoch": 0.8327369118621604, + "grad_norm": 0.2947631776332855, + "learning_rate": 4.110084098008405e-06, + "loss": 0.0021, + "num_input_tokens_seen": 12290680, + "step": 6283 + }, + { + "epoch": 0.8328694499668655, + "grad_norm": 3.5136497020721436, + "learning_rate": 4.10981852342757e-06, + "loss": 0.0234, + "num_input_tokens_seen": 12292488, + "step": 6284 + }, + { + "epoch": 0.8330019880715706, + "grad_norm": 0.11030790209770203, + "learning_rate": 4.1095529178083225e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12293952, + "step": 6285 + }, + { + "epoch": 0.8331345261762757, + "grad_norm": 0.5135043859481812, + "learning_rate": 4.109287281155785e-06, + "loss": 0.0037, + "num_input_tokens_seen": 12295432, + "step": 6286 + }, + { + "epoch": 0.8332670642809807, + "grad_norm": 6.956450939178467, + "learning_rate": 4.109021613475078e-06, + "loss": 0.2062, + "num_input_tokens_seen": 12296872, + "step": 6287 + }, + { + "epoch": 0.8333996023856859, + "grad_norm": 0.48678722977638245, + "learning_rate": 4.1087559147713255e-06, + "loss": 0.0034, + "num_input_tokens_seen": 12298560, + "step": 6288 + }, + { + "epoch": 0.833532140490391, + "grad_norm": 11.695629119873047, + "learning_rate": 4.108490185049648e-06, + "loss": 0.2915, + "num_input_tokens_seen": 12300720, + "step": 6289 + }, + { + "epoch": 0.8336646785950961, + "grad_norm": 0.07623516768217087, + "learning_rate": 4.10822442431517e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12301816, + "step": 6290 + }, + { + "epoch": 0.8337972166998012, + "grad_norm": 2.603740930557251, + "learning_rate": 4.107958632573016e-06, + "loss": 0.0209, + "num_input_tokens_seen": 12303424, + "step": 6291 + }, + { + "epoch": 0.8339297548045063, + "grad_norm": 3.211172103881836, + "learning_rate": 4.10769280982831e-06, + "loss": 0.0507, + "num_input_tokens_seen": 12304992, + "step": 6292 + }, + { + "epoch": 0.8340622929092114, + "grad_norm": 5.811161518096924, + "learning_rate": 4.107426956086178e-06, + "loss": 0.2022, + "num_input_tokens_seen": 12307400, + "step": 6293 + }, + { + "epoch": 0.8341948310139164, + "grad_norm": 7.342547416687012, + "learning_rate": 4.107161071351745e-06, + "loss": 0.299, + "num_input_tokens_seen": 12310224, + "step": 6294 + }, + { + "epoch": 0.8343273691186216, + "grad_norm": 8.435735702514648, + "learning_rate": 4.106895155630138e-06, + "loss": 0.1423, + "num_input_tokens_seen": 12312480, + "step": 6295 + }, + { + "epoch": 0.8344599072233267, + "grad_norm": 0.1092458963394165, + "learning_rate": 4.1066292089264845e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12315384, + "step": 6296 + }, + { + "epoch": 0.8345924453280318, + "grad_norm": 5.305521488189697, + "learning_rate": 4.106363231245911e-06, + "loss": 0.0456, + "num_input_tokens_seen": 12317504, + "step": 6297 + }, + { + "epoch": 0.8347249834327369, + "grad_norm": 8.580910682678223, + "learning_rate": 4.1060972225935455e-06, + "loss": 0.155, + "num_input_tokens_seen": 12319744, + "step": 6298 + }, + { + "epoch": 0.834857521537442, + "grad_norm": 0.22852346301078796, + "learning_rate": 4.105831182974518e-06, + "loss": 0.0016, + "num_input_tokens_seen": 12321160, + "step": 6299 + }, + { + "epoch": 0.8349900596421471, + "grad_norm": 5.1165289878845215, + "learning_rate": 4.105565112393958e-06, + "loss": 0.1637, + "num_input_tokens_seen": 12323952, + "step": 6300 + }, + { + "epoch": 0.8351225977468523, + "grad_norm": 5.195356369018555, + "learning_rate": 4.105299010856995e-06, + "loss": 0.0787, + "num_input_tokens_seen": 12325240, + "step": 6301 + }, + { + "epoch": 0.8352551358515573, + "grad_norm": 3.7653090953826904, + "learning_rate": 4.105032878368759e-06, + "loss": 0.0738, + "num_input_tokens_seen": 12327568, + "step": 6302 + }, + { + "epoch": 0.8353876739562625, + "grad_norm": 0.12128431349992752, + "learning_rate": 4.104766714934383e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12329216, + "step": 6303 + }, + { + "epoch": 0.8355202120609675, + "grad_norm": 5.701632022857666, + "learning_rate": 4.1045005205589965e-06, + "loss": 0.1953, + "num_input_tokens_seen": 12331056, + "step": 6304 + }, + { + "epoch": 0.8356527501656726, + "grad_norm": 0.14814801514148712, + "learning_rate": 4.1042342952477334e-06, + "loss": 0.001, + "num_input_tokens_seen": 12334528, + "step": 6305 + }, + { + "epoch": 0.8357852882703777, + "grad_norm": 2.8101770877838135, + "learning_rate": 4.103968039005726e-06, + "loss": 0.0961, + "num_input_tokens_seen": 12336864, + "step": 6306 + }, + { + "epoch": 0.8359178263750828, + "grad_norm": 4.956212043762207, + "learning_rate": 4.103701751838108e-06, + "loss": 0.1834, + "num_input_tokens_seen": 12338688, + "step": 6307 + }, + { + "epoch": 0.836050364479788, + "grad_norm": 0.09347277134656906, + "learning_rate": 4.103435433750015e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12340000, + "step": 6308 + }, + { + "epoch": 0.836182902584493, + "grad_norm": 4.287031650543213, + "learning_rate": 4.10316908474658e-06, + "loss": 0.0396, + "num_input_tokens_seen": 12341976, + "step": 6309 + }, + { + "epoch": 0.8363154406891982, + "grad_norm": 11.563910484313965, + "learning_rate": 4.10290270483294e-06, + "loss": 0.3212, + "num_input_tokens_seen": 12344072, + "step": 6310 + }, + { + "epoch": 0.8364479787939032, + "grad_norm": 5.998438835144043, + "learning_rate": 4.1026362940142285e-06, + "loss": 0.1157, + "num_input_tokens_seen": 12346728, + "step": 6311 + }, + { + "epoch": 0.8365805168986084, + "grad_norm": 5.664106369018555, + "learning_rate": 4.102369852295584e-06, + "loss": 0.1563, + "num_input_tokens_seen": 12348424, + "step": 6312 + }, + { + "epoch": 0.8367130550033135, + "grad_norm": 11.986909866333008, + "learning_rate": 4.102103379682145e-06, + "loss": 0.2022, + "num_input_tokens_seen": 12350160, + "step": 6313 + }, + { + "epoch": 0.8368455931080185, + "grad_norm": 6.839475154876709, + "learning_rate": 4.1018368761790465e-06, + "loss": 0.1315, + "num_input_tokens_seen": 12351456, + "step": 6314 + }, + { + "epoch": 0.8369781312127237, + "grad_norm": 11.530745506286621, + "learning_rate": 4.1015703417914275e-06, + "loss": 0.2328, + "num_input_tokens_seen": 12353112, + "step": 6315 + }, + { + "epoch": 0.8371106693174287, + "grad_norm": 6.243917465209961, + "learning_rate": 4.101303776524428e-06, + "loss": 0.0768, + "num_input_tokens_seen": 12355976, + "step": 6316 + }, + { + "epoch": 0.8372432074221339, + "grad_norm": 0.14724506437778473, + "learning_rate": 4.101037180383187e-06, + "loss": 0.001, + "num_input_tokens_seen": 12357456, + "step": 6317 + }, + { + "epoch": 0.837375745526839, + "grad_norm": 0.04850737750530243, + "learning_rate": 4.100770553372844e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12359176, + "step": 6318 + }, + { + "epoch": 0.8375082836315441, + "grad_norm": 1.7291908264160156, + "learning_rate": 4.100503895498542e-06, + "loss": 0.0293, + "num_input_tokens_seen": 12360840, + "step": 6319 + }, + { + "epoch": 0.8376408217362492, + "grad_norm": 0.3062196373939514, + "learning_rate": 4.100237206765419e-06, + "loss": 0.0022, + "num_input_tokens_seen": 12362696, + "step": 6320 + }, + { + "epoch": 0.8377733598409542, + "grad_norm": 12.664523124694824, + "learning_rate": 4.09997048717862e-06, + "loss": 0.543, + "num_input_tokens_seen": 12363968, + "step": 6321 + }, + { + "epoch": 0.8379058979456594, + "grad_norm": 0.22374042868614197, + "learning_rate": 4.099703736743285e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12365408, + "step": 6322 + }, + { + "epoch": 0.8380384360503644, + "grad_norm": 0.6678643822669983, + "learning_rate": 4.099436955464559e-06, + "loss": 0.0142, + "num_input_tokens_seen": 12368328, + "step": 6323 + }, + { + "epoch": 0.8381709741550696, + "grad_norm": 5.0025858879089355, + "learning_rate": 4.099170143347585e-06, + "loss": 0.1092, + "num_input_tokens_seen": 12370520, + "step": 6324 + }, + { + "epoch": 0.8383035122597747, + "grad_norm": 7.469423770904541, + "learning_rate": 4.098903300397508e-06, + "loss": 0.0721, + "num_input_tokens_seen": 12372152, + "step": 6325 + }, + { + "epoch": 0.8384360503644798, + "grad_norm": 19.086153030395508, + "learning_rate": 4.0986364266194714e-06, + "loss": 0.2658, + "num_input_tokens_seen": 12373944, + "step": 6326 + }, + { + "epoch": 0.8385685884691849, + "grad_norm": 8.217903137207031, + "learning_rate": 4.098369522018623e-06, + "loss": 0.0947, + "num_input_tokens_seen": 12376040, + "step": 6327 + }, + { + "epoch": 0.83870112657389, + "grad_norm": 7.327276706695557, + "learning_rate": 4.098102586600106e-06, + "loss": 0.1314, + "num_input_tokens_seen": 12377768, + "step": 6328 + }, + { + "epoch": 0.8388336646785951, + "grad_norm": 6.97507381439209, + "learning_rate": 4.097835620369069e-06, + "loss": 0.1231, + "num_input_tokens_seen": 12379712, + "step": 6329 + }, + { + "epoch": 0.8389662027833003, + "grad_norm": 0.08070863783359528, + "learning_rate": 4.09756862333066e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12381432, + "step": 6330 + }, + { + "epoch": 0.8390987408880053, + "grad_norm": 10.349992752075195, + "learning_rate": 4.097301595490025e-06, + "loss": 0.1958, + "num_input_tokens_seen": 12382848, + "step": 6331 + }, + { + "epoch": 0.8392312789927104, + "grad_norm": 1.6803542375564575, + "learning_rate": 4.097034536852313e-06, + "loss": 0.017, + "num_input_tokens_seen": 12384072, + "step": 6332 + }, + { + "epoch": 0.8393638170974155, + "grad_norm": 8.359085083007812, + "learning_rate": 4.096767447422674e-06, + "loss": 0.2623, + "num_input_tokens_seen": 12386240, + "step": 6333 + }, + { + "epoch": 0.8394963552021206, + "grad_norm": 6.7387213706970215, + "learning_rate": 4.096500327206257e-06, + "loss": 0.0492, + "num_input_tokens_seen": 12388184, + "step": 6334 + }, + { + "epoch": 0.8396288933068257, + "grad_norm": 10.887840270996094, + "learning_rate": 4.0962331762082125e-06, + "loss": 0.3014, + "num_input_tokens_seen": 12390080, + "step": 6335 + }, + { + "epoch": 0.8397614314115308, + "grad_norm": 0.38680610060691833, + "learning_rate": 4.095965994433691e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12391488, + "step": 6336 + }, + { + "epoch": 0.839893969516236, + "grad_norm": 7.741716384887695, + "learning_rate": 4.095698781887844e-06, + "loss": 0.1921, + "num_input_tokens_seen": 12394640, + "step": 6337 + }, + { + "epoch": 0.840026507620941, + "grad_norm": 8.093084335327148, + "learning_rate": 4.095431538575824e-06, + "loss": 0.2131, + "num_input_tokens_seen": 12397216, + "step": 6338 + }, + { + "epoch": 0.8401590457256461, + "grad_norm": 0.13176777958869934, + "learning_rate": 4.095164264502783e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12398896, + "step": 6339 + }, + { + "epoch": 0.8402915838303512, + "grad_norm": 17.86504364013672, + "learning_rate": 4.094896959673874e-06, + "loss": 0.6013, + "num_input_tokens_seen": 12401120, + "step": 6340 + }, + { + "epoch": 0.8404241219350563, + "grad_norm": 6.097297668457031, + "learning_rate": 4.094629624094252e-06, + "loss": 0.2176, + "num_input_tokens_seen": 12402920, + "step": 6341 + }, + { + "epoch": 0.8405566600397615, + "grad_norm": 15.754793167114258, + "learning_rate": 4.094362257769071e-06, + "loss": 0.5255, + "num_input_tokens_seen": 12405088, + "step": 6342 + }, + { + "epoch": 0.8406891981444665, + "grad_norm": 5.362997531890869, + "learning_rate": 4.094094860703485e-06, + "loss": 0.1026, + "num_input_tokens_seen": 12406496, + "step": 6343 + }, + { + "epoch": 0.8408217362491717, + "grad_norm": 7.831585884094238, + "learning_rate": 4.093827432902652e-06, + "loss": 0.1421, + "num_input_tokens_seen": 12408384, + "step": 6344 + }, + { + "epoch": 0.8409542743538767, + "grad_norm": 4.709921360015869, + "learning_rate": 4.093559974371725e-06, + "loss": 0.0376, + "num_input_tokens_seen": 12410120, + "step": 6345 + }, + { + "epoch": 0.8410868124585819, + "grad_norm": 5.881486415863037, + "learning_rate": 4.093292485115863e-06, + "loss": 0.3001, + "num_input_tokens_seen": 12411776, + "step": 6346 + }, + { + "epoch": 0.8412193505632869, + "grad_norm": 10.681548118591309, + "learning_rate": 4.093024965140222e-06, + "loss": 0.1459, + "num_input_tokens_seen": 12413504, + "step": 6347 + }, + { + "epoch": 0.841351888667992, + "grad_norm": 16.900562286376953, + "learning_rate": 4.092757414449961e-06, + "loss": 0.4993, + "num_input_tokens_seen": 12415088, + "step": 6348 + }, + { + "epoch": 0.8414844267726972, + "grad_norm": 3.6904962062835693, + "learning_rate": 4.0924898330502384e-06, + "loss": 0.0745, + "num_input_tokens_seen": 12418152, + "step": 6349 + }, + { + "epoch": 0.8416169648774022, + "grad_norm": 4.910851955413818, + "learning_rate": 4.092222220946214e-06, + "loss": 0.0575, + "num_input_tokens_seen": 12420728, + "step": 6350 + }, + { + "epoch": 0.8417495029821074, + "grad_norm": 9.716824531555176, + "learning_rate": 4.091954578143045e-06, + "loss": 0.4016, + "num_input_tokens_seen": 12423104, + "step": 6351 + }, + { + "epoch": 0.8418820410868124, + "grad_norm": 7.391814708709717, + "learning_rate": 4.091686904645895e-06, + "loss": 0.3463, + "num_input_tokens_seen": 12425408, + "step": 6352 + }, + { + "epoch": 0.8420145791915176, + "grad_norm": 6.142772674560547, + "learning_rate": 4.091419200459923e-06, + "loss": 0.1157, + "num_input_tokens_seen": 12427376, + "step": 6353 + }, + { + "epoch": 0.8421471172962227, + "grad_norm": 4.738673686981201, + "learning_rate": 4.091151465590291e-06, + "loss": 0.0355, + "num_input_tokens_seen": 12429464, + "step": 6354 + }, + { + "epoch": 0.8422796554009278, + "grad_norm": 4.7116875648498535, + "learning_rate": 4.090883700042161e-06, + "loss": 0.091, + "num_input_tokens_seen": 12431000, + "step": 6355 + }, + { + "epoch": 0.8424121935056329, + "grad_norm": 8.040979385375977, + "learning_rate": 4.090615903820695e-06, + "loss": 0.1254, + "num_input_tokens_seen": 12433184, + "step": 6356 + }, + { + "epoch": 0.8425447316103379, + "grad_norm": 6.648922920227051, + "learning_rate": 4.0903480769310586e-06, + "loss": 0.2189, + "num_input_tokens_seen": 12434864, + "step": 6357 + }, + { + "epoch": 0.8426772697150431, + "grad_norm": 6.222167015075684, + "learning_rate": 4.090080219378413e-06, + "loss": 0.1567, + "num_input_tokens_seen": 12437576, + "step": 6358 + }, + { + "epoch": 0.8428098078197481, + "grad_norm": 0.3987060785293579, + "learning_rate": 4.0898123311679244e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12438880, + "step": 6359 + }, + { + "epoch": 0.8429423459244533, + "grad_norm": 22.511449813842773, + "learning_rate": 4.0895444123047575e-06, + "loss": 0.6172, + "num_input_tokens_seen": 12440880, + "step": 6360 + }, + { + "epoch": 0.8430748840291584, + "grad_norm": 0.560621440410614, + "learning_rate": 4.089276462794078e-06, + "loss": 0.004, + "num_input_tokens_seen": 12442280, + "step": 6361 + }, + { + "epoch": 0.8432074221338635, + "grad_norm": 4.715240478515625, + "learning_rate": 4.08900848264105e-06, + "loss": 0.0843, + "num_input_tokens_seen": 12444552, + "step": 6362 + }, + { + "epoch": 0.8433399602385686, + "grad_norm": 0.4060814678668976, + "learning_rate": 4.088740471850844e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12445872, + "step": 6363 + }, + { + "epoch": 0.8434724983432736, + "grad_norm": 10.1954345703125, + "learning_rate": 4.088472430428625e-06, + "loss": 0.2563, + "num_input_tokens_seen": 12447544, + "step": 6364 + }, + { + "epoch": 0.8436050364479788, + "grad_norm": 8.777548789978027, + "learning_rate": 4.088204358379561e-06, + "loss": 0.33, + "num_input_tokens_seen": 12449584, + "step": 6365 + }, + { + "epoch": 0.8437375745526839, + "grad_norm": 0.23675388097763062, + "learning_rate": 4.087936255708823e-06, + "loss": 0.0016, + "num_input_tokens_seen": 12450784, + "step": 6366 + }, + { + "epoch": 0.843870112657389, + "grad_norm": 0.4394167959690094, + "learning_rate": 4.087668122421578e-06, + "loss": 0.003, + "num_input_tokens_seen": 12451864, + "step": 6367 + }, + { + "epoch": 0.8440026507620941, + "grad_norm": 11.21150016784668, + "learning_rate": 4.087399958522996e-06, + "loss": 0.5494, + "num_input_tokens_seen": 12453736, + "step": 6368 + }, + { + "epoch": 0.8441351888667992, + "grad_norm": 5.191708087921143, + "learning_rate": 4.0871317640182475e-06, + "loss": 0.1093, + "num_input_tokens_seen": 12455128, + "step": 6369 + }, + { + "epoch": 0.8442677269715043, + "grad_norm": 1.7173802852630615, + "learning_rate": 4.086863538912505e-06, + "loss": 0.0474, + "num_input_tokens_seen": 12456664, + "step": 6370 + }, + { + "epoch": 0.8444002650762094, + "grad_norm": 10.677254676818848, + "learning_rate": 4.0865952832109365e-06, + "loss": 0.2191, + "num_input_tokens_seen": 12458480, + "step": 6371 + }, + { + "epoch": 0.8445328031809145, + "grad_norm": 3.9512228965759277, + "learning_rate": 4.0863269969187184e-06, + "loss": 0.1005, + "num_input_tokens_seen": 12460112, + "step": 6372 + }, + { + "epoch": 0.8446653412856197, + "grad_norm": 0.15595698356628418, + "learning_rate": 4.086058680041021e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12461208, + "step": 6373 + }, + { + "epoch": 0.8447978793903247, + "grad_norm": 15.256954193115234, + "learning_rate": 4.085790332583017e-06, + "loss": 0.4555, + "num_input_tokens_seen": 12463504, + "step": 6374 + }, + { + "epoch": 0.8449304174950298, + "grad_norm": 2.1838645935058594, + "learning_rate": 4.085521954549883e-06, + "loss": 0.0509, + "num_input_tokens_seen": 12465216, + "step": 6375 + }, + { + "epoch": 0.8450629555997349, + "grad_norm": 6.342325687408447, + "learning_rate": 4.085253545946791e-06, + "loss": 0.1477, + "num_input_tokens_seen": 12467056, + "step": 6376 + }, + { + "epoch": 0.84519549370444, + "grad_norm": 13.239951133728027, + "learning_rate": 4.084985106778916e-06, + "loss": 0.2052, + "num_input_tokens_seen": 12468456, + "step": 6377 + }, + { + "epoch": 0.8453280318091452, + "grad_norm": 0.18500353395938873, + "learning_rate": 4.084716637051437e-06, + "loss": 0.0013, + "num_input_tokens_seen": 12469712, + "step": 6378 + }, + { + "epoch": 0.8454605699138502, + "grad_norm": 11.335220336914062, + "learning_rate": 4.084448136769526e-06, + "loss": 0.4316, + "num_input_tokens_seen": 12472136, + "step": 6379 + }, + { + "epoch": 0.8455931080185554, + "grad_norm": 8.607227325439453, + "learning_rate": 4.084179605938363e-06, + "loss": 0.2958, + "num_input_tokens_seen": 12474144, + "step": 6380 + }, + { + "epoch": 0.8457256461232604, + "grad_norm": 12.615630149841309, + "learning_rate": 4.083911044563124e-06, + "loss": 0.3634, + "num_input_tokens_seen": 12476256, + "step": 6381 + }, + { + "epoch": 0.8458581842279655, + "grad_norm": 12.320110321044922, + "learning_rate": 4.083642452648987e-06, + "loss": 0.5625, + "num_input_tokens_seen": 12478512, + "step": 6382 + }, + { + "epoch": 0.8459907223326707, + "grad_norm": 14.719356536865234, + "learning_rate": 4.083373830201131e-06, + "loss": 0.4323, + "num_input_tokens_seen": 12480024, + "step": 6383 + }, + { + "epoch": 0.8461232604373757, + "grad_norm": 13.87115478515625, + "learning_rate": 4.083105177224737e-06, + "loss": 0.6382, + "num_input_tokens_seen": 12482072, + "step": 6384 + }, + { + "epoch": 0.8462557985420809, + "grad_norm": 9.822617530822754, + "learning_rate": 4.082836493724981e-06, + "loss": 0.1321, + "num_input_tokens_seen": 12484040, + "step": 6385 + }, + { + "epoch": 0.8463883366467859, + "grad_norm": 9.058950424194336, + "learning_rate": 4.082567779707046e-06, + "loss": 0.3669, + "num_input_tokens_seen": 12486720, + "step": 6386 + }, + { + "epoch": 0.8465208747514911, + "grad_norm": 0.40007105469703674, + "learning_rate": 4.082299035176112e-06, + "loss": 0.0026, + "num_input_tokens_seen": 12488408, + "step": 6387 + }, + { + "epoch": 0.8466534128561961, + "grad_norm": 4.104454040527344, + "learning_rate": 4.082030260137363e-06, + "loss": 0.0285, + "num_input_tokens_seen": 12490520, + "step": 6388 + }, + { + "epoch": 0.8467859509609013, + "grad_norm": 0.9374334216117859, + "learning_rate": 4.081761454595977e-06, + "loss": 0.0065, + "num_input_tokens_seen": 12492240, + "step": 6389 + }, + { + "epoch": 0.8469184890656064, + "grad_norm": 5.622342109680176, + "learning_rate": 4.08149261855714e-06, + "loss": 0.0694, + "num_input_tokens_seen": 12493920, + "step": 6390 + }, + { + "epoch": 0.8470510271703114, + "grad_norm": 0.704146683216095, + "learning_rate": 4.081223752026034e-06, + "loss": 0.0048, + "num_input_tokens_seen": 12495496, + "step": 6391 + }, + { + "epoch": 0.8471835652750166, + "grad_norm": 0.24329940974712372, + "learning_rate": 4.080954855007843e-06, + "loss": 0.0017, + "num_input_tokens_seen": 12497168, + "step": 6392 + }, + { + "epoch": 0.8473161033797216, + "grad_norm": 8.780317306518555, + "learning_rate": 4.080685927507752e-06, + "loss": 0.2158, + "num_input_tokens_seen": 12499088, + "step": 6393 + }, + { + "epoch": 0.8474486414844268, + "grad_norm": 11.403813362121582, + "learning_rate": 4.080416969530947e-06, + "loss": 0.2141, + "num_input_tokens_seen": 12501536, + "step": 6394 + }, + { + "epoch": 0.8475811795891319, + "grad_norm": 4.885720252990723, + "learning_rate": 4.0801479810826115e-06, + "loss": 0.1458, + "num_input_tokens_seen": 12502968, + "step": 6395 + }, + { + "epoch": 0.847713717693837, + "grad_norm": 6.20463752746582, + "learning_rate": 4.079878962167932e-06, + "loss": 0.2197, + "num_input_tokens_seen": 12505432, + "step": 6396 + }, + { + "epoch": 0.8478462557985421, + "grad_norm": 10.271278381347656, + "learning_rate": 4.079609912792097e-06, + "loss": 0.1384, + "num_input_tokens_seen": 12507392, + "step": 6397 + }, + { + "epoch": 0.8479787939032472, + "grad_norm": 10.539252281188965, + "learning_rate": 4.079340832960294e-06, + "loss": 0.3962, + "num_input_tokens_seen": 12509520, + "step": 6398 + }, + { + "epoch": 0.8481113320079523, + "grad_norm": 0.10395228862762451, + "learning_rate": 4.0790717226777095e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12511248, + "step": 6399 + }, + { + "epoch": 0.8482438701126573, + "grad_norm": 7.647186756134033, + "learning_rate": 4.078802581949532e-06, + "loss": 0.1773, + "num_input_tokens_seen": 12514072, + "step": 6400 + }, + { + "epoch": 0.8483764082173625, + "grad_norm": 4.427883625030518, + "learning_rate": 4.078533410780952e-06, + "loss": 0.1244, + "num_input_tokens_seen": 12516136, + "step": 6401 + }, + { + "epoch": 0.8485089463220676, + "grad_norm": 1.6196510791778564, + "learning_rate": 4.07826420917716e-06, + "loss": 0.0092, + "num_input_tokens_seen": 12517880, + "step": 6402 + }, + { + "epoch": 0.8486414844267727, + "grad_norm": 13.98119068145752, + "learning_rate": 4.077994977143345e-06, + "loss": 0.3131, + "num_input_tokens_seen": 12519768, + "step": 6403 + }, + { + "epoch": 0.8487740225314778, + "grad_norm": 5.882109642028809, + "learning_rate": 4.077725714684697e-06, + "loss": 0.2947, + "num_input_tokens_seen": 12522096, + "step": 6404 + }, + { + "epoch": 0.8489065606361829, + "grad_norm": 0.4843659996986389, + "learning_rate": 4.07745642180641e-06, + "loss": 0.003, + "num_input_tokens_seen": 12523376, + "step": 6405 + }, + { + "epoch": 0.849039098740888, + "grad_norm": 3.825468063354492, + "learning_rate": 4.077187098513674e-06, + "loss": 0.0677, + "num_input_tokens_seen": 12525264, + "step": 6406 + }, + { + "epoch": 0.8491716368455932, + "grad_norm": 6.060602188110352, + "learning_rate": 4.076917744811684e-06, + "loss": 0.0626, + "num_input_tokens_seen": 12527192, + "step": 6407 + }, + { + "epoch": 0.8493041749502982, + "grad_norm": 3.4359869956970215, + "learning_rate": 4.07664836070563e-06, + "loss": 0.1188, + "num_input_tokens_seen": 12528416, + "step": 6408 + }, + { + "epoch": 0.8494367130550033, + "grad_norm": 7.520660877227783, + "learning_rate": 4.07637894620071e-06, + "loss": 0.2944, + "num_input_tokens_seen": 12530440, + "step": 6409 + }, + { + "epoch": 0.8495692511597084, + "grad_norm": 8.104143142700195, + "learning_rate": 4.076109501302115e-06, + "loss": 0.1677, + "num_input_tokens_seen": 12532776, + "step": 6410 + }, + { + "epoch": 0.8497017892644135, + "grad_norm": 10.299175262451172, + "learning_rate": 4.075840026015042e-06, + "loss": 0.317, + "num_input_tokens_seen": 12534784, + "step": 6411 + }, + { + "epoch": 0.8498343273691186, + "grad_norm": 0.05123569816350937, + "learning_rate": 4.075570520344686e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12536840, + "step": 6412 + }, + { + "epoch": 0.8499668654738237, + "grad_norm": 0.03352626413106918, + "learning_rate": 4.075300984296244e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12538624, + "step": 6413 + }, + { + "epoch": 0.8500994035785289, + "grad_norm": 6.965059757232666, + "learning_rate": 4.075031417874912e-06, + "loss": 0.189, + "num_input_tokens_seen": 12540312, + "step": 6414 + }, + { + "epoch": 0.8502319416832339, + "grad_norm": 0.02496710605919361, + "learning_rate": 4.074761821085887e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12541680, + "step": 6415 + }, + { + "epoch": 0.850364479787939, + "grad_norm": 0.04955129697918892, + "learning_rate": 4.0744921939343685e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12543032, + "step": 6416 + }, + { + "epoch": 0.8504970178926441, + "grad_norm": 0.01132159773260355, + "learning_rate": 4.074222536425555e-06, + "loss": 0.0001, + "num_input_tokens_seen": 12544128, + "step": 6417 + }, + { + "epoch": 0.8506295559973492, + "grad_norm": 0.05694584921002388, + "learning_rate": 4.0739528485646435e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12545312, + "step": 6418 + }, + { + "epoch": 0.8507620941020544, + "grad_norm": 0.04980907216668129, + "learning_rate": 4.0736831303568356e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12547192, + "step": 6419 + }, + { + "epoch": 0.8508946322067594, + "grad_norm": 7.295020580291748, + "learning_rate": 4.073413381807332e-06, + "loss": 0.0695, + "num_input_tokens_seen": 12548720, + "step": 6420 + }, + { + "epoch": 0.8510271703114646, + "grad_norm": 0.0273525919765234, + "learning_rate": 4.0731436029213326e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12551576, + "step": 6421 + }, + { + "epoch": 0.8511597084161696, + "grad_norm": 0.09279648214578629, + "learning_rate": 4.07287379370404e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12552752, + "step": 6422 + }, + { + "epoch": 0.8512922465208748, + "grad_norm": 0.04769066348671913, + "learning_rate": 4.0726039541606545e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12554496, + "step": 6423 + }, + { + "epoch": 0.8514247846255798, + "grad_norm": 11.368703842163086, + "learning_rate": 4.07233408429638e-06, + "loss": 0.2633, + "num_input_tokens_seen": 12556616, + "step": 6424 + }, + { + "epoch": 0.851557322730285, + "grad_norm": 0.0345623642206192, + "learning_rate": 4.07206418411642e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12558336, + "step": 6425 + }, + { + "epoch": 0.8516898608349901, + "grad_norm": 0.046168696135282516, + "learning_rate": 4.071794253625978e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12559424, + "step": 6426 + }, + { + "epoch": 0.8518223989396951, + "grad_norm": 2.711806535720825, + "learning_rate": 4.071524292830259e-06, + "loss": 0.0732, + "num_input_tokens_seen": 12561656, + "step": 6427 + }, + { + "epoch": 0.8519549370444003, + "grad_norm": 2.3694021701812744, + "learning_rate": 4.071254301734466e-06, + "loss": 0.1042, + "num_input_tokens_seen": 12563560, + "step": 6428 + }, + { + "epoch": 0.8520874751491053, + "grad_norm": 17.226137161254883, + "learning_rate": 4.0709842803438075e-06, + "loss": 0.4848, + "num_input_tokens_seen": 12565064, + "step": 6429 + }, + { + "epoch": 0.8522200132538105, + "grad_norm": 15.364121437072754, + "learning_rate": 4.070714228663488e-06, + "loss": 0.6741, + "num_input_tokens_seen": 12567624, + "step": 6430 + }, + { + "epoch": 0.8523525513585156, + "grad_norm": 6.624318599700928, + "learning_rate": 4.070444146698713e-06, + "loss": 0.1217, + "num_input_tokens_seen": 12570056, + "step": 6431 + }, + { + "epoch": 0.8524850894632207, + "grad_norm": 0.11983751505613327, + "learning_rate": 4.070174034454693e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12572816, + "step": 6432 + }, + { + "epoch": 0.8526176275679258, + "grad_norm": 0.2514071762561798, + "learning_rate": 4.069903891936635e-06, + "loss": 0.0018, + "num_input_tokens_seen": 12574296, + "step": 6433 + }, + { + "epoch": 0.8527501656726308, + "grad_norm": 11.703482627868652, + "learning_rate": 4.069633719149746e-06, + "loss": 0.395, + "num_input_tokens_seen": 12576384, + "step": 6434 + }, + { + "epoch": 0.852882703777336, + "grad_norm": 10.800896644592285, + "learning_rate": 4.0693635160992364e-06, + "loss": 0.2239, + "num_input_tokens_seen": 12579680, + "step": 6435 + }, + { + "epoch": 0.8530152418820411, + "grad_norm": 7.269272327423096, + "learning_rate": 4.069093282790315e-06, + "loss": 0.1074, + "num_input_tokens_seen": 12582664, + "step": 6436 + }, + { + "epoch": 0.8531477799867462, + "grad_norm": 2.0887575149536133, + "learning_rate": 4.068823019228193e-06, + "loss": 0.0044, + "num_input_tokens_seen": 12584632, + "step": 6437 + }, + { + "epoch": 0.8532803180914513, + "grad_norm": 7.457073211669922, + "learning_rate": 4.068552725418081e-06, + "loss": 0.1785, + "num_input_tokens_seen": 12587704, + "step": 6438 + }, + { + "epoch": 0.8534128561961564, + "grad_norm": 0.1505986452102661, + "learning_rate": 4.06828240136519e-06, + "loss": 0.001, + "num_input_tokens_seen": 12589728, + "step": 6439 + }, + { + "epoch": 0.8535453943008615, + "grad_norm": 0.6749204993247986, + "learning_rate": 4.068012047074734e-06, + "loss": 0.0045, + "num_input_tokens_seen": 12591256, + "step": 6440 + }, + { + "epoch": 0.8536779324055666, + "grad_norm": 14.419768333435059, + "learning_rate": 4.067741662551922e-06, + "loss": 0.5766, + "num_input_tokens_seen": 12593728, + "step": 6441 + }, + { + "epoch": 0.8538104705102717, + "grad_norm": 0.5851397514343262, + "learning_rate": 4.067471247801971e-06, + "loss": 0.0033, + "num_input_tokens_seen": 12595872, + "step": 6442 + }, + { + "epoch": 0.8539430086149769, + "grad_norm": 0.1268688440322876, + "learning_rate": 4.067200802830091e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12598408, + "step": 6443 + }, + { + "epoch": 0.8540755467196819, + "grad_norm": 10.444578170776367, + "learning_rate": 4.066930327641499e-06, + "loss": 0.3122, + "num_input_tokens_seen": 12600592, + "step": 6444 + }, + { + "epoch": 0.854208084824387, + "grad_norm": 8.73383903503418, + "learning_rate": 4.06665982224141e-06, + "loss": 0.1723, + "num_input_tokens_seen": 12602832, + "step": 6445 + }, + { + "epoch": 0.8543406229290921, + "grad_norm": 6.050260066986084, + "learning_rate": 4.0663892866350384e-06, + "loss": 0.1812, + "num_input_tokens_seen": 12605264, + "step": 6446 + }, + { + "epoch": 0.8544731610337972, + "grad_norm": 11.662336349487305, + "learning_rate": 4.066118720827601e-06, + "loss": 0.4064, + "num_input_tokens_seen": 12607264, + "step": 6447 + }, + { + "epoch": 0.8546056991385024, + "grad_norm": 12.227848052978516, + "learning_rate": 4.0658481248243144e-06, + "loss": 0.1733, + "num_input_tokens_seen": 12609184, + "step": 6448 + }, + { + "epoch": 0.8547382372432074, + "grad_norm": 13.252177238464355, + "learning_rate": 4.065577498630395e-06, + "loss": 0.4484, + "num_input_tokens_seen": 12611472, + "step": 6449 + }, + { + "epoch": 0.8548707753479126, + "grad_norm": 4.079404830932617, + "learning_rate": 4.065306842251062e-06, + "loss": 0.1024, + "num_input_tokens_seen": 12613360, + "step": 6450 + }, + { + "epoch": 0.8550033134526176, + "grad_norm": 8.79055404663086, + "learning_rate": 4.065036155691533e-06, + "loss": 0.1455, + "num_input_tokens_seen": 12616840, + "step": 6451 + }, + { + "epoch": 0.8551358515573227, + "grad_norm": 7.854814052581787, + "learning_rate": 4.064765438957028e-06, + "loss": 0.279, + "num_input_tokens_seen": 12618656, + "step": 6452 + }, + { + "epoch": 0.8552683896620278, + "grad_norm": 5.607257843017578, + "learning_rate": 4.064494692052765e-06, + "loss": 0.0986, + "num_input_tokens_seen": 12620408, + "step": 6453 + }, + { + "epoch": 0.8554009277667329, + "grad_norm": 8.602025032043457, + "learning_rate": 4.064223914983964e-06, + "loss": 0.2128, + "num_input_tokens_seen": 12622432, + "step": 6454 + }, + { + "epoch": 0.8555334658714381, + "grad_norm": 4.314160346984863, + "learning_rate": 4.063953107755849e-06, + "loss": 0.1272, + "num_input_tokens_seen": 12625280, + "step": 6455 + }, + { + "epoch": 0.8556660039761431, + "grad_norm": 9.911271095275879, + "learning_rate": 4.063682270373638e-06, + "loss": 0.2331, + "num_input_tokens_seen": 12626776, + "step": 6456 + }, + { + "epoch": 0.8557985420808483, + "grad_norm": 0.09800702333450317, + "learning_rate": 4.063411402842554e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12628328, + "step": 6457 + }, + { + "epoch": 0.8559310801855533, + "grad_norm": 4.810177326202393, + "learning_rate": 4.063140505167821e-06, + "loss": 0.0376, + "num_input_tokens_seen": 12629976, + "step": 6458 + }, + { + "epoch": 0.8560636182902585, + "grad_norm": 0.2726171910762787, + "learning_rate": 4.062869577354659e-06, + "loss": 0.002, + "num_input_tokens_seen": 12631536, + "step": 6459 + }, + { + "epoch": 0.8561961563949636, + "grad_norm": 4.750391483306885, + "learning_rate": 4.0625986194082945e-06, + "loss": 0.1273, + "num_input_tokens_seen": 12634160, + "step": 6460 + }, + { + "epoch": 0.8563286944996686, + "grad_norm": 7.9185099601745605, + "learning_rate": 4.0623276313339495e-06, + "loss": 0.0541, + "num_input_tokens_seen": 12636464, + "step": 6461 + }, + { + "epoch": 0.8564612326043738, + "grad_norm": 9.986881256103516, + "learning_rate": 4.0620566131368505e-06, + "loss": 0.1961, + "num_input_tokens_seen": 12638560, + "step": 6462 + }, + { + "epoch": 0.8565937707090788, + "grad_norm": 1.0187216997146606, + "learning_rate": 4.061785564822223e-06, + "loss": 0.0069, + "num_input_tokens_seen": 12640128, + "step": 6463 + }, + { + "epoch": 0.856726308813784, + "grad_norm": 0.28980928659439087, + "learning_rate": 4.061514486395292e-06, + "loss": 0.0018, + "num_input_tokens_seen": 12641176, + "step": 6464 + }, + { + "epoch": 0.856858846918489, + "grad_norm": 8.278011322021484, + "learning_rate": 4.061243377861284e-06, + "loss": 0.2433, + "num_input_tokens_seen": 12643224, + "step": 6465 + }, + { + "epoch": 0.8569913850231942, + "grad_norm": 7.07049036026001, + "learning_rate": 4.060972239225427e-06, + "loss": 0.23, + "num_input_tokens_seen": 12644888, + "step": 6466 + }, + { + "epoch": 0.8571239231278993, + "grad_norm": 8.95526123046875, + "learning_rate": 4.060701070492948e-06, + "loss": 0.1723, + "num_input_tokens_seen": 12647176, + "step": 6467 + }, + { + "epoch": 0.8572564612326043, + "grad_norm": 0.29301607608795166, + "learning_rate": 4.060429871669076e-06, + "loss": 0.0022, + "num_input_tokens_seen": 12648496, + "step": 6468 + }, + { + "epoch": 0.8573889993373095, + "grad_norm": 3.719393253326416, + "learning_rate": 4.06015864275904e-06, + "loss": 0.0853, + "num_input_tokens_seen": 12649920, + "step": 6469 + }, + { + "epoch": 0.8575215374420145, + "grad_norm": 4.546351432800293, + "learning_rate": 4.059887383768069e-06, + "loss": 0.0337, + "num_input_tokens_seen": 12652496, + "step": 6470 + }, + { + "epoch": 0.8576540755467197, + "grad_norm": 1.1764014959335327, + "learning_rate": 4.059616094701393e-06, + "loss": 0.0085, + "num_input_tokens_seen": 12654904, + "step": 6471 + }, + { + "epoch": 0.8577866136514248, + "grad_norm": 4.649127960205078, + "learning_rate": 4.059344775564242e-06, + "loss": 0.0318, + "num_input_tokens_seen": 12656872, + "step": 6472 + }, + { + "epoch": 0.8579191517561299, + "grad_norm": 0.17177623510360718, + "learning_rate": 4.059073426361849e-06, + "loss": 0.0012, + "num_input_tokens_seen": 12658072, + "step": 6473 + }, + { + "epoch": 0.858051689860835, + "grad_norm": 9.098956108093262, + "learning_rate": 4.0588020470994445e-06, + "loss": 0.232, + "num_input_tokens_seen": 12659592, + "step": 6474 + }, + { + "epoch": 0.8581842279655401, + "grad_norm": 7.675487518310547, + "learning_rate": 4.058530637782261e-06, + "loss": 0.2912, + "num_input_tokens_seen": 12661704, + "step": 6475 + }, + { + "epoch": 0.8583167660702452, + "grad_norm": 2.139901876449585, + "learning_rate": 4.058259198415532e-06, + "loss": 0.0469, + "num_input_tokens_seen": 12663120, + "step": 6476 + }, + { + "epoch": 0.8584493041749502, + "grad_norm": 9.362669944763184, + "learning_rate": 4.05798772900449e-06, + "loss": 0.3866, + "num_input_tokens_seen": 12665144, + "step": 6477 + }, + { + "epoch": 0.8585818422796554, + "grad_norm": 3.7443442344665527, + "learning_rate": 4.05771622955437e-06, + "loss": 0.1089, + "num_input_tokens_seen": 12667128, + "step": 6478 + }, + { + "epoch": 0.8587143803843605, + "grad_norm": 4.867796897888184, + "learning_rate": 4.0574447000704065e-06, + "loss": 0.1172, + "num_input_tokens_seen": 12669664, + "step": 6479 + }, + { + "epoch": 0.8588469184890656, + "grad_norm": 0.2032112181186676, + "learning_rate": 4.057173140557835e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12672048, + "step": 6480 + }, + { + "epoch": 0.8589794565937707, + "grad_norm": 5.230216979980469, + "learning_rate": 4.056901551021891e-06, + "loss": 0.1137, + "num_input_tokens_seen": 12673984, + "step": 6481 + }, + { + "epoch": 0.8591119946984758, + "grad_norm": 0.036812663078308105, + "learning_rate": 4.056629931467811e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12675304, + "step": 6482 + }, + { + "epoch": 0.8592445328031809, + "grad_norm": 1.739944338798523, + "learning_rate": 4.056358281900832e-06, + "loss": 0.0721, + "num_input_tokens_seen": 12677376, + "step": 6483 + }, + { + "epoch": 0.8593770709078861, + "grad_norm": 0.04181818291544914, + "learning_rate": 4.056086602326191e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12678800, + "step": 6484 + }, + { + "epoch": 0.8595096090125911, + "grad_norm": 12.245060920715332, + "learning_rate": 4.055814892749128e-06, + "loss": 0.3995, + "num_input_tokens_seen": 12681800, + "step": 6485 + }, + { + "epoch": 0.8596421471172963, + "grad_norm": 0.06919483840465546, + "learning_rate": 4.05554315317488e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12683048, + "step": 6486 + }, + { + "epoch": 0.8597746852220013, + "grad_norm": 17.151813507080078, + "learning_rate": 4.055271383608688e-06, + "loss": 0.5882, + "num_input_tokens_seen": 12684584, + "step": 6487 + }, + { + "epoch": 0.8599072233267064, + "grad_norm": 10.6739501953125, + "learning_rate": 4.0549995840557885e-06, + "loss": 0.1714, + "num_input_tokens_seen": 12686656, + "step": 6488 + }, + { + "epoch": 0.8600397614314115, + "grad_norm": 0.037264417856931686, + "learning_rate": 4.054727754521427e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12687720, + "step": 6489 + }, + { + "epoch": 0.8601722995361166, + "grad_norm": 0.139362633228302, + "learning_rate": 4.05445589501084e-06, + "loss": 0.001, + "num_input_tokens_seen": 12689232, + "step": 6490 + }, + { + "epoch": 0.8603048376408218, + "grad_norm": 0.1307397335767746, + "learning_rate": 4.0541840055292715e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12690880, + "step": 6491 + }, + { + "epoch": 0.8604373757455268, + "grad_norm": 0.31428685784339905, + "learning_rate": 4.0539120860819626e-06, + "loss": 0.0019, + "num_input_tokens_seen": 12693840, + "step": 6492 + }, + { + "epoch": 0.860569913850232, + "grad_norm": 13.333715438842773, + "learning_rate": 4.053640136674157e-06, + "loss": 0.3747, + "num_input_tokens_seen": 12696232, + "step": 6493 + }, + { + "epoch": 0.860702451954937, + "grad_norm": 4.701325416564941, + "learning_rate": 4.053368157311099e-06, + "loss": 0.1121, + "num_input_tokens_seen": 12697472, + "step": 6494 + }, + { + "epoch": 0.8608349900596421, + "grad_norm": 0.10589364171028137, + "learning_rate": 4.05309614799803e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12699344, + "step": 6495 + }, + { + "epoch": 0.8609675281643473, + "grad_norm": 2.107407808303833, + "learning_rate": 4.052824108740195e-06, + "loss": 0.0385, + "num_input_tokens_seen": 12702536, + "step": 6496 + }, + { + "epoch": 0.8611000662690523, + "grad_norm": 4.547866344451904, + "learning_rate": 4.0525520395428415e-06, + "loss": 0.076, + "num_input_tokens_seen": 12704424, + "step": 6497 + }, + { + "epoch": 0.8612326043737575, + "grad_norm": 0.3751016855239868, + "learning_rate": 4.052279940411213e-06, + "loss": 0.0026, + "num_input_tokens_seen": 12706280, + "step": 6498 + }, + { + "epoch": 0.8613651424784625, + "grad_norm": 0.07610476762056351, + "learning_rate": 4.052007811350556e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12708240, + "step": 6499 + }, + { + "epoch": 0.8614976805831677, + "grad_norm": 5.920442581176758, + "learning_rate": 4.05173565236612e-06, + "loss": 0.099, + "num_input_tokens_seen": 12710712, + "step": 6500 + }, + { + "epoch": 0.8616302186878728, + "grad_norm": 9.506125450134277, + "learning_rate": 4.051463463463148e-06, + "loss": 0.4154, + "num_input_tokens_seen": 12712440, + "step": 6501 + }, + { + "epoch": 0.8617627567925779, + "grad_norm": 9.298277854919434, + "learning_rate": 4.05119124464689e-06, + "loss": 0.2139, + "num_input_tokens_seen": 12714832, + "step": 6502 + }, + { + "epoch": 0.861895294897283, + "grad_norm": 6.611032485961914, + "learning_rate": 4.050918995922595e-06, + "loss": 0.2162, + "num_input_tokens_seen": 12718096, + "step": 6503 + }, + { + "epoch": 0.862027833001988, + "grad_norm": 3.853005886077881, + "learning_rate": 4.050646717295513e-06, + "loss": 0.0573, + "num_input_tokens_seen": 12719696, + "step": 6504 + }, + { + "epoch": 0.8621603711066932, + "grad_norm": 3.595113515853882, + "learning_rate": 4.050374408770891e-06, + "loss": 0.0939, + "num_input_tokens_seen": 12721144, + "step": 6505 + }, + { + "epoch": 0.8622929092113982, + "grad_norm": 7.952568531036377, + "learning_rate": 4.0501020703539815e-06, + "loss": 0.2061, + "num_input_tokens_seen": 12723568, + "step": 6506 + }, + { + "epoch": 0.8624254473161034, + "grad_norm": 7.826427936553955, + "learning_rate": 4.049829702050035e-06, + "loss": 0.1264, + "num_input_tokens_seen": 12725624, + "step": 6507 + }, + { + "epoch": 0.8625579854208085, + "grad_norm": 0.2814560830593109, + "learning_rate": 4.049557303864302e-06, + "loss": 0.002, + "num_input_tokens_seen": 12727352, + "step": 6508 + }, + { + "epoch": 0.8626905235255136, + "grad_norm": 11.72397518157959, + "learning_rate": 4.049284875802035e-06, + "loss": 0.3034, + "num_input_tokens_seen": 12729104, + "step": 6509 + }, + { + "epoch": 0.8628230616302187, + "grad_norm": 0.7104626893997192, + "learning_rate": 4.0490124178684884e-06, + "loss": 0.0044, + "num_input_tokens_seen": 12730872, + "step": 6510 + }, + { + "epoch": 0.8629555997349238, + "grad_norm": 4.97479248046875, + "learning_rate": 4.0487399300689126e-06, + "loss": 0.2197, + "num_input_tokens_seen": 12732256, + "step": 6511 + }, + { + "epoch": 0.8630881378396289, + "grad_norm": 15.474020957946777, + "learning_rate": 4.048467412408562e-06, + "loss": 0.9528, + "num_input_tokens_seen": 12735112, + "step": 6512 + }, + { + "epoch": 0.863220675944334, + "grad_norm": 26.950557708740234, + "learning_rate": 4.048194864892693e-06, + "loss": 0.5948, + "num_input_tokens_seen": 12737416, + "step": 6513 + }, + { + "epoch": 0.8633532140490391, + "grad_norm": 8.233342170715332, + "learning_rate": 4.047922287526558e-06, + "loss": 0.1663, + "num_input_tokens_seen": 12739520, + "step": 6514 + }, + { + "epoch": 0.8634857521537442, + "grad_norm": 13.284516334533691, + "learning_rate": 4.047649680315413e-06, + "loss": 0.4027, + "num_input_tokens_seen": 12741696, + "step": 6515 + }, + { + "epoch": 0.8636182902584493, + "grad_norm": 10.333155632019043, + "learning_rate": 4.047377043264515e-06, + "loss": 0.3278, + "num_input_tokens_seen": 12743552, + "step": 6516 + }, + { + "epoch": 0.8637508283631544, + "grad_norm": 4.250310897827148, + "learning_rate": 4.0471043763791205e-06, + "loss": 0.1546, + "num_input_tokens_seen": 12745320, + "step": 6517 + }, + { + "epoch": 0.8638833664678595, + "grad_norm": 4.928708553314209, + "learning_rate": 4.046831679664486e-06, + "loss": 0.1713, + "num_input_tokens_seen": 12747840, + "step": 6518 + }, + { + "epoch": 0.8640159045725646, + "grad_norm": 0.2027350515127182, + "learning_rate": 4.04655895312587e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12749424, + "step": 6519 + }, + { + "epoch": 0.8641484426772698, + "grad_norm": 0.3864472806453705, + "learning_rate": 4.04628619676853e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12750680, + "step": 6520 + }, + { + "epoch": 0.8642809807819748, + "grad_norm": 10.349750518798828, + "learning_rate": 4.046013410597726e-06, + "loss": 0.2658, + "num_input_tokens_seen": 12752376, + "step": 6521 + }, + { + "epoch": 0.8644135188866799, + "grad_norm": 0.39593321084976196, + "learning_rate": 4.045740594618716e-06, + "loss": 0.0029, + "num_input_tokens_seen": 12754912, + "step": 6522 + }, + { + "epoch": 0.864546056991385, + "grad_norm": 10.701123237609863, + "learning_rate": 4.045467748836761e-06, + "loss": 0.4084, + "num_input_tokens_seen": 12757840, + "step": 6523 + }, + { + "epoch": 0.8646785950960901, + "grad_norm": 3.4486422538757324, + "learning_rate": 4.045194873257121e-06, + "loss": 0.1268, + "num_input_tokens_seen": 12759944, + "step": 6524 + }, + { + "epoch": 0.8648111332007953, + "grad_norm": 11.5785493850708, + "learning_rate": 4.04492196788506e-06, + "loss": 0.5669, + "num_input_tokens_seen": 12761624, + "step": 6525 + }, + { + "epoch": 0.8649436713055003, + "grad_norm": 10.358160972595215, + "learning_rate": 4.044649032725836e-06, + "loss": 0.2981, + "num_input_tokens_seen": 12764416, + "step": 6526 + }, + { + "epoch": 0.8650762094102055, + "grad_norm": 12.329428672790527, + "learning_rate": 4.044376067784714e-06, + "loss": 0.0831, + "num_input_tokens_seen": 12766080, + "step": 6527 + }, + { + "epoch": 0.8652087475149105, + "grad_norm": 16.004451751708984, + "learning_rate": 4.044103073066955e-06, + "loss": 0.3266, + "num_input_tokens_seen": 12768784, + "step": 6528 + }, + { + "epoch": 0.8653412856196157, + "grad_norm": 4.590848445892334, + "learning_rate": 4.043830048577825e-06, + "loss": 0.1047, + "num_input_tokens_seen": 12770656, + "step": 6529 + }, + { + "epoch": 0.8654738237243207, + "grad_norm": 8.477762222290039, + "learning_rate": 4.043556994322585e-06, + "loss": 0.2034, + "num_input_tokens_seen": 12772920, + "step": 6530 + }, + { + "epoch": 0.8656063618290258, + "grad_norm": 24.9257755279541, + "learning_rate": 4.0432839103065024e-06, + "loss": 0.515, + "num_input_tokens_seen": 12774904, + "step": 6531 + }, + { + "epoch": 0.865738899933731, + "grad_norm": 14.30213451385498, + "learning_rate": 4.043010796534841e-06, + "loss": 0.3784, + "num_input_tokens_seen": 12776832, + "step": 6532 + }, + { + "epoch": 0.865871438038436, + "grad_norm": 0.14427445828914642, + "learning_rate": 4.042737653012867e-06, + "loss": 0.001, + "num_input_tokens_seen": 12778128, + "step": 6533 + }, + { + "epoch": 0.8660039761431412, + "grad_norm": 0.7226604223251343, + "learning_rate": 4.042464479745847e-06, + "loss": 0.005, + "num_input_tokens_seen": 12780848, + "step": 6534 + }, + { + "epoch": 0.8661365142478462, + "grad_norm": 0.15553000569343567, + "learning_rate": 4.042191276739047e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12783256, + "step": 6535 + }, + { + "epoch": 0.8662690523525514, + "grad_norm": 7.058185577392578, + "learning_rate": 4.041918043997736e-06, + "loss": 0.2448, + "num_input_tokens_seen": 12785360, + "step": 6536 + }, + { + "epoch": 0.8664015904572565, + "grad_norm": 13.322836875915527, + "learning_rate": 4.041644781527181e-06, + "loss": 0.2507, + "num_input_tokens_seen": 12786912, + "step": 6537 + }, + { + "epoch": 0.8665341285619615, + "grad_norm": 0.24811577796936035, + "learning_rate": 4.041371489332652e-06, + "loss": 0.0017, + "num_input_tokens_seen": 12788608, + "step": 6538 + }, + { + "epoch": 0.8666666666666667, + "grad_norm": 13.515686988830566, + "learning_rate": 4.041098167419416e-06, + "loss": 0.3728, + "num_input_tokens_seen": 12790664, + "step": 6539 + }, + { + "epoch": 0.8667992047713717, + "grad_norm": 6.873810768127441, + "learning_rate": 4.040824815792744e-06, + "loss": 0.2274, + "num_input_tokens_seen": 12792784, + "step": 6540 + }, + { + "epoch": 0.8669317428760769, + "grad_norm": 0.2750130891799927, + "learning_rate": 4.040551434457907e-06, + "loss": 0.002, + "num_input_tokens_seen": 12795008, + "step": 6541 + }, + { + "epoch": 0.8670642809807819, + "grad_norm": 9.263015747070312, + "learning_rate": 4.040278023420176e-06, + "loss": 0.2562, + "num_input_tokens_seen": 12796984, + "step": 6542 + }, + { + "epoch": 0.8671968190854871, + "grad_norm": 7.518599510192871, + "learning_rate": 4.040004582684823e-06, + "loss": 0.1288, + "num_input_tokens_seen": 12799688, + "step": 6543 + }, + { + "epoch": 0.8673293571901922, + "grad_norm": 10.655508995056152, + "learning_rate": 4.039731112257118e-06, + "loss": 0.3279, + "num_input_tokens_seen": 12801584, + "step": 6544 + }, + { + "epoch": 0.8674618952948973, + "grad_norm": 0.12241854518651962, + "learning_rate": 4.0394576121423354e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12803864, + "step": 6545 + }, + { + "epoch": 0.8675944333996024, + "grad_norm": 0.6830618381500244, + "learning_rate": 4.039184082345748e-06, + "loss": 0.004, + "num_input_tokens_seen": 12805392, + "step": 6546 + }, + { + "epoch": 0.8677269715043074, + "grad_norm": 12.72492790222168, + "learning_rate": 4.03891052287263e-06, + "loss": 0.5019, + "num_input_tokens_seen": 12806848, + "step": 6547 + }, + { + "epoch": 0.8678595096090126, + "grad_norm": 4.830325126647949, + "learning_rate": 4.038636933728255e-06, + "loss": 0.1417, + "num_input_tokens_seen": 12809000, + "step": 6548 + }, + { + "epoch": 0.8679920477137177, + "grad_norm": 12.862296104431152, + "learning_rate": 4.038363314917898e-06, + "loss": 0.2919, + "num_input_tokens_seen": 12811560, + "step": 6549 + }, + { + "epoch": 0.8681245858184228, + "grad_norm": 8.4625825881958, + "learning_rate": 4.038089666446835e-06, + "loss": 0.2311, + "num_input_tokens_seen": 12813648, + "step": 6550 + }, + { + "epoch": 0.8682571239231279, + "grad_norm": 8.512572288513184, + "learning_rate": 4.037815988320343e-06, + "loss": 0.2296, + "num_input_tokens_seen": 12815544, + "step": 6551 + }, + { + "epoch": 0.868389662027833, + "grad_norm": 0.9187560677528381, + "learning_rate": 4.0375422805436985e-06, + "loss": 0.0063, + "num_input_tokens_seen": 12817136, + "step": 6552 + }, + { + "epoch": 0.8685222001325381, + "grad_norm": 0.10755084455013275, + "learning_rate": 4.037268543122176e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12820040, + "step": 6553 + }, + { + "epoch": 0.8686547382372433, + "grad_norm": 9.333830833435059, + "learning_rate": 4.036994776061058e-06, + "loss": 0.4326, + "num_input_tokens_seen": 12822800, + "step": 6554 + }, + { + "epoch": 0.8687872763419483, + "grad_norm": 6.232413291931152, + "learning_rate": 4.036720979365618e-06, + "loss": 0.1827, + "num_input_tokens_seen": 12824552, + "step": 6555 + }, + { + "epoch": 0.8689198144466534, + "grad_norm": 2.635136127471924, + "learning_rate": 4.036447153041139e-06, + "loss": 0.0235, + "num_input_tokens_seen": 12825960, + "step": 6556 + }, + { + "epoch": 0.8690523525513585, + "grad_norm": 0.15553709864616394, + "learning_rate": 4.036173297092898e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12827768, + "step": 6557 + }, + { + "epoch": 0.8691848906560636, + "grad_norm": 0.10950968414545059, + "learning_rate": 4.035899411526176e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12829232, + "step": 6558 + }, + { + "epoch": 0.8693174287607687, + "grad_norm": 12.491772651672363, + "learning_rate": 4.0356254963462545e-06, + "loss": 0.1866, + "num_input_tokens_seen": 12831400, + "step": 6559 + }, + { + "epoch": 0.8694499668654738, + "grad_norm": 0.16624446213245392, + "learning_rate": 4.035351551558414e-06, + "loss": 0.0012, + "num_input_tokens_seen": 12833024, + "step": 6560 + }, + { + "epoch": 0.869582504970179, + "grad_norm": 4.245083808898926, + "learning_rate": 4.035077577167936e-06, + "loss": 0.0732, + "num_input_tokens_seen": 12834984, + "step": 6561 + }, + { + "epoch": 0.869715043074884, + "grad_norm": 13.102285385131836, + "learning_rate": 4.034803573180104e-06, + "loss": 0.373, + "num_input_tokens_seen": 12836352, + "step": 6562 + }, + { + "epoch": 0.8698475811795892, + "grad_norm": 7.7806291580200195, + "learning_rate": 4.0345295396002e-06, + "loss": 0.1864, + "num_input_tokens_seen": 12837960, + "step": 6563 + }, + { + "epoch": 0.8699801192842942, + "grad_norm": 13.598511695861816, + "learning_rate": 4.0342554764335076e-06, + "loss": 0.2218, + "num_input_tokens_seen": 12840320, + "step": 6564 + }, + { + "epoch": 0.8701126573889993, + "grad_norm": 0.07740826904773712, + "learning_rate": 4.033981383685311e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12841784, + "step": 6565 + }, + { + "epoch": 0.8702451954937045, + "grad_norm": 5.360774517059326, + "learning_rate": 4.033707261360895e-06, + "loss": 0.2601, + "num_input_tokens_seen": 12843264, + "step": 6566 + }, + { + "epoch": 0.8703777335984095, + "grad_norm": 10.747112274169922, + "learning_rate": 4.033433109465545e-06, + "loss": 0.4169, + "num_input_tokens_seen": 12845360, + "step": 6567 + }, + { + "epoch": 0.8705102717031147, + "grad_norm": 5.404027462005615, + "learning_rate": 4.033158928004548e-06, + "loss": 0.1806, + "num_input_tokens_seen": 12847184, + "step": 6568 + }, + { + "epoch": 0.8706428098078197, + "grad_norm": 5.204071998596191, + "learning_rate": 4.032884716983188e-06, + "loss": 0.1198, + "num_input_tokens_seen": 12849880, + "step": 6569 + }, + { + "epoch": 0.8707753479125249, + "grad_norm": 9.670557022094727, + "learning_rate": 4.032610476406753e-06, + "loss": 0.3377, + "num_input_tokens_seen": 12852136, + "step": 6570 + }, + { + "epoch": 0.8709078860172299, + "grad_norm": 7.172330379486084, + "learning_rate": 4.032336206280532e-06, + "loss": 0.227, + "num_input_tokens_seen": 12853704, + "step": 6571 + }, + { + "epoch": 0.871040424121935, + "grad_norm": 5.541779041290283, + "learning_rate": 4.032061906609811e-06, + "loss": 0.2366, + "num_input_tokens_seen": 12855792, + "step": 6572 + }, + { + "epoch": 0.8711729622266402, + "grad_norm": 0.06213773787021637, + "learning_rate": 4.031787577399879e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12857336, + "step": 6573 + }, + { + "epoch": 0.8713055003313452, + "grad_norm": 3.156280755996704, + "learning_rate": 4.031513218656026e-06, + "loss": 0.1074, + "num_input_tokens_seen": 12859496, + "step": 6574 + }, + { + "epoch": 0.8714380384360504, + "grad_norm": 0.046763766556978226, + "learning_rate": 4.0312388303835425e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12861056, + "step": 6575 + }, + { + "epoch": 0.8715705765407554, + "grad_norm": 4.981733322143555, + "learning_rate": 4.030964412587717e-06, + "loss": 0.0966, + "num_input_tokens_seen": 12863544, + "step": 6576 + }, + { + "epoch": 0.8717031146454606, + "grad_norm": 10.443001747131348, + "learning_rate": 4.0306899652738425e-06, + "loss": 0.0955, + "num_input_tokens_seen": 12865536, + "step": 6577 + }, + { + "epoch": 0.8718356527501657, + "grad_norm": 0.08453378081321716, + "learning_rate": 4.030415488447209e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12867384, + "step": 6578 + }, + { + "epoch": 0.8719681908548708, + "grad_norm": 0.3494601845741272, + "learning_rate": 4.030140982113109e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12870032, + "step": 6579 + }, + { + "epoch": 0.8721007289595759, + "grad_norm": 1.848763346672058, + "learning_rate": 4.029866446276835e-06, + "loss": 0.0222, + "num_input_tokens_seen": 12872280, + "step": 6580 + }, + { + "epoch": 0.872233267064281, + "grad_norm": 6.874385833740234, + "learning_rate": 4.029591880943681e-06, + "loss": 0.2263, + "num_input_tokens_seen": 12874144, + "step": 6581 + }, + { + "epoch": 0.8723658051689861, + "grad_norm": 10.52022933959961, + "learning_rate": 4.02931728611894e-06, + "loss": 0.2186, + "num_input_tokens_seen": 12875472, + "step": 6582 + }, + { + "epoch": 0.8724983432736911, + "grad_norm": 0.05349539965391159, + "learning_rate": 4.029042661807907e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12876920, + "step": 6583 + }, + { + "epoch": 0.8726308813783963, + "grad_norm": 1.7303128242492676, + "learning_rate": 4.028768008015876e-06, + "loss": 0.0235, + "num_input_tokens_seen": 12878480, + "step": 6584 + }, + { + "epoch": 0.8727634194831014, + "grad_norm": 3.1480493545532227, + "learning_rate": 4.028493324748144e-06, + "loss": 0.0241, + "num_input_tokens_seen": 12879888, + "step": 6585 + }, + { + "epoch": 0.8728959575878065, + "grad_norm": 0.13807442784309387, + "learning_rate": 4.028218612010006e-06, + "loss": 0.001, + "num_input_tokens_seen": 12882544, + "step": 6586 + }, + { + "epoch": 0.8730284956925116, + "grad_norm": 4.553720474243164, + "learning_rate": 4.027943869806759e-06, + "loss": 0.1082, + "num_input_tokens_seen": 12884424, + "step": 6587 + }, + { + "epoch": 0.8731610337972167, + "grad_norm": 9.512887001037598, + "learning_rate": 4.027669098143699e-06, + "loss": 0.2467, + "num_input_tokens_seen": 12886200, + "step": 6588 + }, + { + "epoch": 0.8732935719019218, + "grad_norm": 5.4600114822387695, + "learning_rate": 4.027394297026126e-06, + "loss": 0.0931, + "num_input_tokens_seen": 12889040, + "step": 6589 + }, + { + "epoch": 0.873426110006627, + "grad_norm": 0.48244115710258484, + "learning_rate": 4.0271194664593375e-06, + "loss": 0.0033, + "num_input_tokens_seen": 12891152, + "step": 6590 + }, + { + "epoch": 0.873558648111332, + "grad_norm": 12.173998832702637, + "learning_rate": 4.026844606448632e-06, + "loss": 0.3115, + "num_input_tokens_seen": 12893264, + "step": 6591 + }, + { + "epoch": 0.8736911862160371, + "grad_norm": 3.688328742980957, + "learning_rate": 4.026569716999309e-06, + "loss": 0.0504, + "num_input_tokens_seen": 12894728, + "step": 6592 + }, + { + "epoch": 0.8738237243207422, + "grad_norm": 8.168661117553711, + "learning_rate": 4.0262947981166685e-06, + "loss": 0.1484, + "num_input_tokens_seen": 12896304, + "step": 6593 + }, + { + "epoch": 0.8739562624254473, + "grad_norm": 11.464158058166504, + "learning_rate": 4.026019849806011e-06, + "loss": 0.3719, + "num_input_tokens_seen": 12897872, + "step": 6594 + }, + { + "epoch": 0.8740888005301524, + "grad_norm": 11.796993255615234, + "learning_rate": 4.0257448720726386e-06, + "loss": 0.516, + "num_input_tokens_seen": 12899952, + "step": 6595 + }, + { + "epoch": 0.8742213386348575, + "grad_norm": 3.6393373012542725, + "learning_rate": 4.025469864921853e-06, + "loss": 0.181, + "num_input_tokens_seen": 12901696, + "step": 6596 + }, + { + "epoch": 0.8743538767395627, + "grad_norm": 0.2923526465892792, + "learning_rate": 4.025194828358955e-06, + "loss": 0.002, + "num_input_tokens_seen": 12903064, + "step": 6597 + }, + { + "epoch": 0.8744864148442677, + "grad_norm": 11.216588020324707, + "learning_rate": 4.024919762389249e-06, + "loss": 0.479, + "num_input_tokens_seen": 12905344, + "step": 6598 + }, + { + "epoch": 0.8746189529489728, + "grad_norm": 9.599145889282227, + "learning_rate": 4.024644667018038e-06, + "loss": 0.2199, + "num_input_tokens_seen": 12907096, + "step": 6599 + }, + { + "epoch": 0.8747514910536779, + "grad_norm": 0.379406213760376, + "learning_rate": 4.024369542250626e-06, + "loss": 0.0022, + "num_input_tokens_seen": 12908352, + "step": 6600 + }, + { + "epoch": 0.874884029158383, + "grad_norm": 10.412335395812988, + "learning_rate": 4.024094388092318e-06, + "loss": 0.4612, + "num_input_tokens_seen": 12910512, + "step": 6601 + }, + { + "epoch": 0.8750165672630882, + "grad_norm": 9.301907539367676, + "learning_rate": 4.023819204548418e-06, + "loss": 0.2108, + "num_input_tokens_seen": 12912184, + "step": 6602 + }, + { + "epoch": 0.8751491053677932, + "grad_norm": 0.5500617027282715, + "learning_rate": 4.023543991624233e-06, + "loss": 0.0019, + "num_input_tokens_seen": 12913640, + "step": 6603 + }, + { + "epoch": 0.8752816434724984, + "grad_norm": 0.10720466077327728, + "learning_rate": 4.0232687493250685e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12915248, + "step": 6604 + }, + { + "epoch": 0.8754141815772034, + "grad_norm": 2.823162078857422, + "learning_rate": 4.022993477656232e-06, + "loss": 0.0283, + "num_input_tokens_seen": 12917208, + "step": 6605 + }, + { + "epoch": 0.8755467196819086, + "grad_norm": 11.075665473937988, + "learning_rate": 4.02271817662303e-06, + "loss": 0.3902, + "num_input_tokens_seen": 12920000, + "step": 6606 + }, + { + "epoch": 0.8756792577866136, + "grad_norm": 0.06861568987369537, + "learning_rate": 4.022442846230772e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12921360, + "step": 6607 + }, + { + "epoch": 0.8758117958913187, + "grad_norm": 11.680721282958984, + "learning_rate": 4.022167486484766e-06, + "loss": 0.4556, + "num_input_tokens_seen": 12923136, + "step": 6608 + }, + { + "epoch": 0.8759443339960239, + "grad_norm": 7.1249823570251465, + "learning_rate": 4.0218920973903196e-06, + "loss": 0.3183, + "num_input_tokens_seen": 12925424, + "step": 6609 + }, + { + "epoch": 0.8760768721007289, + "grad_norm": 5.983315944671631, + "learning_rate": 4.021616678952744e-06, + "loss": 0.2933, + "num_input_tokens_seen": 12928032, + "step": 6610 + }, + { + "epoch": 0.8762094102054341, + "grad_norm": 14.065616607666016, + "learning_rate": 4.021341231177349e-06, + "loss": 0.5769, + "num_input_tokens_seen": 12930288, + "step": 6611 + }, + { + "epoch": 0.8763419483101391, + "grad_norm": 6.923241138458252, + "learning_rate": 4.021065754069446e-06, + "loss": 0.1123, + "num_input_tokens_seen": 12931904, + "step": 6612 + }, + { + "epoch": 0.8764744864148443, + "grad_norm": 0.06827846169471741, + "learning_rate": 4.020790247634345e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12934416, + "step": 6613 + }, + { + "epoch": 0.8766070245195494, + "grad_norm": 10.93906021118164, + "learning_rate": 4.0205147118773605e-06, + "loss": 0.3382, + "num_input_tokens_seen": 12935680, + "step": 6614 + }, + { + "epoch": 0.8767395626242545, + "grad_norm": 6.033178806304932, + "learning_rate": 4.0202391468038025e-06, + "loss": 0.2365, + "num_input_tokens_seen": 12937344, + "step": 6615 + }, + { + "epoch": 0.8768721007289596, + "grad_norm": 3.401136875152588, + "learning_rate": 4.019963552418984e-06, + "loss": 0.0862, + "num_input_tokens_seen": 12938712, + "step": 6616 + }, + { + "epoch": 0.8770046388336646, + "grad_norm": 6.614410400390625, + "learning_rate": 4.0196879287282206e-06, + "loss": 0.1149, + "num_input_tokens_seen": 12940768, + "step": 6617 + }, + { + "epoch": 0.8771371769383698, + "grad_norm": 5.3681254386901855, + "learning_rate": 4.019412275736826e-06, + "loss": 0.1667, + "num_input_tokens_seen": 12942848, + "step": 6618 + }, + { + "epoch": 0.8772697150430749, + "grad_norm": 0.15372075140476227, + "learning_rate": 4.0191365934501144e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12943992, + "step": 6619 + }, + { + "epoch": 0.87740225314778, + "grad_norm": 9.31204605102539, + "learning_rate": 4.018860881873401e-06, + "loss": 0.403, + "num_input_tokens_seen": 12946016, + "step": 6620 + }, + { + "epoch": 0.8775347912524851, + "grad_norm": 8.074703216552734, + "learning_rate": 4.018585141012002e-06, + "loss": 0.2962, + "num_input_tokens_seen": 12947144, + "step": 6621 + }, + { + "epoch": 0.8776673293571902, + "grad_norm": 6.778656959533691, + "learning_rate": 4.0183093708712336e-06, + "loss": 0.3136, + "num_input_tokens_seen": 12949592, + "step": 6622 + }, + { + "epoch": 0.8777998674618953, + "grad_norm": 8.215835571289062, + "learning_rate": 4.018033571456413e-06, + "loss": 0.2009, + "num_input_tokens_seen": 12951824, + "step": 6623 + }, + { + "epoch": 0.8779324055666003, + "grad_norm": 0.05925935506820679, + "learning_rate": 4.017757742772858e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12952912, + "step": 6624 + }, + { + "epoch": 0.8780649436713055, + "grad_norm": 7.9847307205200195, + "learning_rate": 4.017481884825887e-06, + "loss": 0.175, + "num_input_tokens_seen": 12954736, + "step": 6625 + }, + { + "epoch": 0.8781974817760106, + "grad_norm": 13.987960815429688, + "learning_rate": 4.017205997620818e-06, + "loss": 0.3576, + "num_input_tokens_seen": 12956136, + "step": 6626 + }, + { + "epoch": 0.8783300198807157, + "grad_norm": 11.616796493530273, + "learning_rate": 4.0169300811629715e-06, + "loss": 0.2846, + "num_input_tokens_seen": 12958144, + "step": 6627 + }, + { + "epoch": 0.8784625579854208, + "grad_norm": 8.661978721618652, + "learning_rate": 4.016654135457666e-06, + "loss": 0.1598, + "num_input_tokens_seen": 12960272, + "step": 6628 + }, + { + "epoch": 0.8785950960901259, + "grad_norm": 4.389837265014648, + "learning_rate": 4.016378160510223e-06, + "loss": 0.1042, + "num_input_tokens_seen": 12961864, + "step": 6629 + }, + { + "epoch": 0.878727634194831, + "grad_norm": 7.631089210510254, + "learning_rate": 4.016102156325961e-06, + "loss": 0.2595, + "num_input_tokens_seen": 12963896, + "step": 6630 + }, + { + "epoch": 0.8788601722995362, + "grad_norm": 0.6388699412345886, + "learning_rate": 4.015826122910206e-06, + "loss": 0.0047, + "num_input_tokens_seen": 12965648, + "step": 6631 + }, + { + "epoch": 0.8789927104042412, + "grad_norm": 7.036970138549805, + "learning_rate": 4.015550060268276e-06, + "loss": 0.1062, + "num_input_tokens_seen": 12967120, + "step": 6632 + }, + { + "epoch": 0.8791252485089464, + "grad_norm": 0.9120568037033081, + "learning_rate": 4.015273968405497e-06, + "loss": 0.0065, + "num_input_tokens_seen": 12969776, + "step": 6633 + }, + { + "epoch": 0.8792577866136514, + "grad_norm": 2.7749216556549072, + "learning_rate": 4.0149978473271885e-06, + "loss": 0.03, + "num_input_tokens_seen": 12972888, + "step": 6634 + }, + { + "epoch": 0.8793903247183565, + "grad_norm": 4.196609020233154, + "learning_rate": 4.014721697038678e-06, + "loss": 0.1137, + "num_input_tokens_seen": 12975280, + "step": 6635 + }, + { + "epoch": 0.8795228628230616, + "grad_norm": 0.3837064802646637, + "learning_rate": 4.0144455175452875e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12976952, + "step": 6636 + }, + { + "epoch": 0.8796554009277667, + "grad_norm": 5.483085632324219, + "learning_rate": 4.014169308852343e-06, + "loss": 0.1313, + "num_input_tokens_seen": 12978584, + "step": 6637 + }, + { + "epoch": 0.8797879390324719, + "grad_norm": 0.23507626354694366, + "learning_rate": 4.013893070965169e-06, + "loss": 0.0017, + "num_input_tokens_seen": 12979696, + "step": 6638 + }, + { + "epoch": 0.8799204771371769, + "grad_norm": 8.515172004699707, + "learning_rate": 4.013616803889093e-06, + "loss": 0.1387, + "num_input_tokens_seen": 12980888, + "step": 6639 + }, + { + "epoch": 0.8800530152418821, + "grad_norm": 1.915569543838501, + "learning_rate": 4.013340507629441e-06, + "loss": 0.0343, + "num_input_tokens_seen": 12982792, + "step": 6640 + }, + { + "epoch": 0.8801855533465871, + "grad_norm": 6.3353962898254395, + "learning_rate": 4.013064182191538e-06, + "loss": 0.1806, + "num_input_tokens_seen": 12984392, + "step": 6641 + }, + { + "epoch": 0.8803180914512923, + "grad_norm": 0.6934639811515808, + "learning_rate": 4.012787827580716e-06, + "loss": 0.0052, + "num_input_tokens_seen": 12986856, + "step": 6642 + }, + { + "epoch": 0.8804506295559974, + "grad_norm": 6.269089221954346, + "learning_rate": 4.0125114438023005e-06, + "loss": 0.06, + "num_input_tokens_seen": 12989112, + "step": 6643 + }, + { + "epoch": 0.8805831676607024, + "grad_norm": 1.2445381879806519, + "learning_rate": 4.012235030861621e-06, + "loss": 0.0276, + "num_input_tokens_seen": 12990464, + "step": 6644 + }, + { + "epoch": 0.8807157057654076, + "grad_norm": 15.877988815307617, + "learning_rate": 4.011958588764006e-06, + "loss": 0.2251, + "num_input_tokens_seen": 12991824, + "step": 6645 + }, + { + "epoch": 0.8808482438701126, + "grad_norm": 2.171858310699463, + "learning_rate": 4.011682117514787e-06, + "loss": 0.0285, + "num_input_tokens_seen": 12993880, + "step": 6646 + }, + { + "epoch": 0.8809807819748178, + "grad_norm": 1.752172827720642, + "learning_rate": 4.011405617119294e-06, + "loss": 0.011, + "num_input_tokens_seen": 12995216, + "step": 6647 + }, + { + "epoch": 0.8811133200795228, + "grad_norm": 10.062243461608887, + "learning_rate": 4.0111290875828575e-06, + "loss": 0.1441, + "num_input_tokens_seen": 12996736, + "step": 6648 + }, + { + "epoch": 0.881245858184228, + "grad_norm": 3.414544105529785, + "learning_rate": 4.01085252891081e-06, + "loss": 0.0154, + "num_input_tokens_seen": 12998872, + "step": 6649 + }, + { + "epoch": 0.8813783962889331, + "grad_norm": 11.534857749938965, + "learning_rate": 4.010575941108485e-06, + "loss": 0.5361, + "num_input_tokens_seen": 13001008, + "step": 6650 + }, + { + "epoch": 0.8815109343936381, + "grad_norm": 4.450883865356445, + "learning_rate": 4.010299324181212e-06, + "loss": 0.0311, + "num_input_tokens_seen": 13003184, + "step": 6651 + }, + { + "epoch": 0.8816434724983433, + "grad_norm": 14.355125427246094, + "learning_rate": 4.010022678134326e-06, + "loss": 0.6832, + "num_input_tokens_seen": 13005088, + "step": 6652 + }, + { + "epoch": 0.8817760106030483, + "grad_norm": 6.204155445098877, + "learning_rate": 4.009746002973162e-06, + "loss": 0.0783, + "num_input_tokens_seen": 13007872, + "step": 6653 + }, + { + "epoch": 0.8819085487077535, + "grad_norm": 0.11956506222486496, + "learning_rate": 4.009469298703052e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13009120, + "step": 6654 + }, + { + "epoch": 0.8820410868124586, + "grad_norm": 8.148037910461426, + "learning_rate": 4.0091925653293346e-06, + "loss": 0.2221, + "num_input_tokens_seen": 13012168, + "step": 6655 + }, + { + "epoch": 0.8821736249171637, + "grad_norm": 5.589107513427734, + "learning_rate": 4.0089158028573415e-06, + "loss": 0.2554, + "num_input_tokens_seen": 13015592, + "step": 6656 + }, + { + "epoch": 0.8823061630218688, + "grad_norm": 16.427452087402344, + "learning_rate": 4.008639011292412e-06, + "loss": 0.6696, + "num_input_tokens_seen": 13017512, + "step": 6657 + }, + { + "epoch": 0.8824387011265739, + "grad_norm": 7.600020885467529, + "learning_rate": 4.008362190639882e-06, + "loss": 0.122, + "num_input_tokens_seen": 13019256, + "step": 6658 + }, + { + "epoch": 0.882571239231279, + "grad_norm": 0.22167982161045074, + "learning_rate": 4.008085340905087e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13020336, + "step": 6659 + }, + { + "epoch": 0.882703777335984, + "grad_norm": 13.876978874206543, + "learning_rate": 4.007808462093368e-06, + "loss": 0.1771, + "num_input_tokens_seen": 13021976, + "step": 6660 + }, + { + "epoch": 0.8828363154406892, + "grad_norm": 0.05276597663760185, + "learning_rate": 4.00753155421006e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13023816, + "step": 6661 + }, + { + "epoch": 0.8829688535453943, + "grad_norm": 0.12885721027851105, + "learning_rate": 4.007254617260504e-06, + "loss": 0.001, + "num_input_tokens_seen": 13027176, + "step": 6662 + }, + { + "epoch": 0.8831013916500994, + "grad_norm": 10.068879127502441, + "learning_rate": 4.00697765125004e-06, + "loss": 0.2176, + "num_input_tokens_seen": 13028504, + "step": 6663 + }, + { + "epoch": 0.8832339297548045, + "grad_norm": 10.87276554107666, + "learning_rate": 4.006700656184007e-06, + "loss": 0.3801, + "num_input_tokens_seen": 13030840, + "step": 6664 + }, + { + "epoch": 0.8833664678595096, + "grad_norm": 6.351883411407471, + "learning_rate": 4.006423632067745e-06, + "loss": 0.0649, + "num_input_tokens_seen": 13033400, + "step": 6665 + }, + { + "epoch": 0.8834990059642147, + "grad_norm": 0.27046671509742737, + "learning_rate": 4.006146578906597e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13034912, + "step": 6666 + }, + { + "epoch": 0.8836315440689199, + "grad_norm": 4.643550872802734, + "learning_rate": 4.005869496705904e-06, + "loss": 0.1549, + "num_input_tokens_seen": 13038072, + "step": 6667 + }, + { + "epoch": 0.8837640821736249, + "grad_norm": 1.3105309009552002, + "learning_rate": 4.005592385471008e-06, + "loss": 0.0089, + "num_input_tokens_seen": 13040344, + "step": 6668 + }, + { + "epoch": 0.88389662027833, + "grad_norm": 8.70883846282959, + "learning_rate": 4.005315245207252e-06, + "loss": 0.1138, + "num_input_tokens_seen": 13042744, + "step": 6669 + }, + { + "epoch": 0.8840291583830351, + "grad_norm": 12.156509399414062, + "learning_rate": 4.00503807591998e-06, + "loss": 0.19, + "num_input_tokens_seen": 13045536, + "step": 6670 + }, + { + "epoch": 0.8841616964877402, + "grad_norm": 0.3896006941795349, + "learning_rate": 4.0047608776145356e-06, + "loss": 0.0028, + "num_input_tokens_seen": 13048128, + "step": 6671 + }, + { + "epoch": 0.8842942345924454, + "grad_norm": 10.521852493286133, + "learning_rate": 4.004483650296263e-06, + "loss": 0.3892, + "num_input_tokens_seen": 13049912, + "step": 6672 + }, + { + "epoch": 0.8844267726971504, + "grad_norm": 9.006622314453125, + "learning_rate": 4.004206393970508e-06, + "loss": 0.165, + "num_input_tokens_seen": 13051368, + "step": 6673 + }, + { + "epoch": 0.8845593108018556, + "grad_norm": 12.107438087463379, + "learning_rate": 4.003929108642616e-06, + "loss": 0.3605, + "num_input_tokens_seen": 13052912, + "step": 6674 + }, + { + "epoch": 0.8846918489065606, + "grad_norm": 7.598019599914551, + "learning_rate": 4.0036517943179335e-06, + "loss": 0.235, + "num_input_tokens_seen": 13055072, + "step": 6675 + }, + { + "epoch": 0.8848243870112658, + "grad_norm": 24.836118698120117, + "learning_rate": 4.003374451001806e-06, + "loss": 0.7976, + "num_input_tokens_seen": 13057560, + "step": 6676 + }, + { + "epoch": 0.8849569251159708, + "grad_norm": 7.8215765953063965, + "learning_rate": 4.003097078699584e-06, + "loss": 0.2053, + "num_input_tokens_seen": 13059128, + "step": 6677 + }, + { + "epoch": 0.8850894632206759, + "grad_norm": 11.228286743164062, + "learning_rate": 4.002819677416612e-06, + "loss": 0.4661, + "num_input_tokens_seen": 13060952, + "step": 6678 + }, + { + "epoch": 0.8852220013253811, + "grad_norm": 14.540953636169434, + "learning_rate": 4.00254224715824e-06, + "loss": 0.475, + "num_input_tokens_seen": 13062392, + "step": 6679 + }, + { + "epoch": 0.8853545394300861, + "grad_norm": 6.626898288726807, + "learning_rate": 4.002264787929816e-06, + "loss": 0.173, + "num_input_tokens_seen": 13064336, + "step": 6680 + }, + { + "epoch": 0.8854870775347913, + "grad_norm": 11.635744094848633, + "learning_rate": 4.001987299736692e-06, + "loss": 0.3065, + "num_input_tokens_seen": 13066504, + "step": 6681 + }, + { + "epoch": 0.8856196156394963, + "grad_norm": 10.648580551147461, + "learning_rate": 4.001709782584216e-06, + "loss": 0.3117, + "num_input_tokens_seen": 13068184, + "step": 6682 + }, + { + "epoch": 0.8857521537442015, + "grad_norm": 9.168694496154785, + "learning_rate": 4.00143223647774e-06, + "loss": 0.3817, + "num_input_tokens_seen": 13070440, + "step": 6683 + }, + { + "epoch": 0.8858846918489066, + "grad_norm": 11.912299156188965, + "learning_rate": 4.001154661422614e-06, + "loss": 0.502, + "num_input_tokens_seen": 13072424, + "step": 6684 + }, + { + "epoch": 0.8860172299536117, + "grad_norm": 8.324748039245605, + "learning_rate": 4.000877057424191e-06, + "loss": 0.1732, + "num_input_tokens_seen": 13073608, + "step": 6685 + }, + { + "epoch": 0.8861497680583168, + "grad_norm": 0.3402670621871948, + "learning_rate": 4.000599424487822e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13074744, + "step": 6686 + }, + { + "epoch": 0.8862823061630218, + "grad_norm": 8.010757446289062, + "learning_rate": 4.000321762618861e-06, + "loss": 0.271, + "num_input_tokens_seen": 13076984, + "step": 6687 + }, + { + "epoch": 0.886414844267727, + "grad_norm": 8.477370262145996, + "learning_rate": 4.000044071822663e-06, + "loss": 0.2347, + "num_input_tokens_seen": 13078232, + "step": 6688 + }, + { + "epoch": 0.886547382372432, + "grad_norm": 13.76172924041748, + "learning_rate": 3.999766352104581e-06, + "loss": 0.5181, + "num_input_tokens_seen": 13079808, + "step": 6689 + }, + { + "epoch": 0.8866799204771372, + "grad_norm": 11.809602737426758, + "learning_rate": 3.999488603469967e-06, + "loss": 0.4689, + "num_input_tokens_seen": 13083120, + "step": 6690 + }, + { + "epoch": 0.8868124585818423, + "grad_norm": 0.4083312749862671, + "learning_rate": 3.999210825924178e-06, + "loss": 0.0031, + "num_input_tokens_seen": 13085400, + "step": 6691 + }, + { + "epoch": 0.8869449966865474, + "grad_norm": 4.873818874359131, + "learning_rate": 3.998933019472572e-06, + "loss": 0.0835, + "num_input_tokens_seen": 13088216, + "step": 6692 + }, + { + "epoch": 0.8870775347912525, + "grad_norm": 3.6133882999420166, + "learning_rate": 3.998655184120501e-06, + "loss": 0.0868, + "num_input_tokens_seen": 13091176, + "step": 6693 + }, + { + "epoch": 0.8872100728959575, + "grad_norm": 0.3113093376159668, + "learning_rate": 3.998377319873326e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13093288, + "step": 6694 + }, + { + "epoch": 0.8873426110006627, + "grad_norm": 0.29036927223205566, + "learning_rate": 3.998099426736402e-06, + "loss": 0.0023, + "num_input_tokens_seen": 13094864, + "step": 6695 + }, + { + "epoch": 0.8874751491053678, + "grad_norm": 7.253854751586914, + "learning_rate": 3.997821504715087e-06, + "loss": 0.1559, + "num_input_tokens_seen": 13097560, + "step": 6696 + }, + { + "epoch": 0.8876076872100729, + "grad_norm": 3.300212860107422, + "learning_rate": 3.997543553814741e-06, + "loss": 0.0277, + "num_input_tokens_seen": 13099112, + "step": 6697 + }, + { + "epoch": 0.887740225314778, + "grad_norm": 9.389571189880371, + "learning_rate": 3.997265574040722e-06, + "loss": 0.1841, + "num_input_tokens_seen": 13101016, + "step": 6698 + }, + { + "epoch": 0.8878727634194831, + "grad_norm": 3.598320484161377, + "learning_rate": 3.996987565398391e-06, + "loss": 0.0691, + "num_input_tokens_seen": 13103208, + "step": 6699 + }, + { + "epoch": 0.8880053015241882, + "grad_norm": 2.46490216255188, + "learning_rate": 3.9967095278931045e-06, + "loss": 0.0178, + "num_input_tokens_seen": 13104664, + "step": 6700 + }, + { + "epoch": 0.8881378396288933, + "grad_norm": 0.32370656728744507, + "learning_rate": 3.996431461530227e-06, + "loss": 0.0025, + "num_input_tokens_seen": 13107584, + "step": 6701 + }, + { + "epoch": 0.8882703777335984, + "grad_norm": 0.3997730016708374, + "learning_rate": 3.996153366315119e-06, + "loss": 0.003, + "num_input_tokens_seen": 13108984, + "step": 6702 + }, + { + "epoch": 0.8884029158383036, + "grad_norm": 3.722670555114746, + "learning_rate": 3.995875242253141e-06, + "loss": 0.0491, + "num_input_tokens_seen": 13110576, + "step": 6703 + }, + { + "epoch": 0.8885354539430086, + "grad_norm": 8.67357063293457, + "learning_rate": 3.995597089349657e-06, + "loss": 0.2392, + "num_input_tokens_seen": 13112344, + "step": 6704 + }, + { + "epoch": 0.8886679920477137, + "grad_norm": 7.750943183898926, + "learning_rate": 3.9953189076100295e-06, + "loss": 0.173, + "num_input_tokens_seen": 13114192, + "step": 6705 + }, + { + "epoch": 0.8888005301524188, + "grad_norm": 8.844950675964355, + "learning_rate": 3.995040697039621e-06, + "loss": 0.2586, + "num_input_tokens_seen": 13115752, + "step": 6706 + }, + { + "epoch": 0.8889330682571239, + "grad_norm": 9.06618881225586, + "learning_rate": 3.9947624576437975e-06, + "loss": 0.1829, + "num_input_tokens_seen": 13117296, + "step": 6707 + }, + { + "epoch": 0.8890656063618291, + "grad_norm": 3.3334929943084717, + "learning_rate": 3.994484189427922e-06, + "loss": 0.0946, + "num_input_tokens_seen": 13119480, + "step": 6708 + }, + { + "epoch": 0.8891981444665341, + "grad_norm": 14.31494426727295, + "learning_rate": 3.9942058923973605e-06, + "loss": 0.552, + "num_input_tokens_seen": 13121840, + "step": 6709 + }, + { + "epoch": 0.8893306825712393, + "grad_norm": 10.512606620788574, + "learning_rate": 3.993927566557479e-06, + "loss": 0.3996, + "num_input_tokens_seen": 13123488, + "step": 6710 + }, + { + "epoch": 0.8894632206759443, + "grad_norm": 0.23473520576953888, + "learning_rate": 3.993649211913644e-06, + "loss": 0.0018, + "num_input_tokens_seen": 13125008, + "step": 6711 + }, + { + "epoch": 0.8895957587806494, + "grad_norm": 9.906105041503906, + "learning_rate": 3.99337082847122e-06, + "loss": 0.113, + "num_input_tokens_seen": 13126640, + "step": 6712 + }, + { + "epoch": 0.8897282968853545, + "grad_norm": 13.26136589050293, + "learning_rate": 3.993092416235577e-06, + "loss": 0.4776, + "num_input_tokens_seen": 13128528, + "step": 6713 + }, + { + "epoch": 0.8898608349900596, + "grad_norm": 12.092175483703613, + "learning_rate": 3.992813975212082e-06, + "loss": 0.4394, + "num_input_tokens_seen": 13130552, + "step": 6714 + }, + { + "epoch": 0.8899933730947648, + "grad_norm": 10.42903995513916, + "learning_rate": 3.992535505406105e-06, + "loss": 0.3662, + "num_input_tokens_seen": 13133088, + "step": 6715 + }, + { + "epoch": 0.8901259111994698, + "grad_norm": 0.21451830863952637, + "learning_rate": 3.992257006823013e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13134248, + "step": 6716 + }, + { + "epoch": 0.890258449304175, + "grad_norm": 0.27231305837631226, + "learning_rate": 3.991978479468176e-06, + "loss": 0.0021, + "num_input_tokens_seen": 13135600, + "step": 6717 + }, + { + "epoch": 0.89039098740888, + "grad_norm": 1.050702452659607, + "learning_rate": 3.991699923346964e-06, + "loss": 0.0078, + "num_input_tokens_seen": 13137056, + "step": 6718 + }, + { + "epoch": 0.8905235255135852, + "grad_norm": 0.4525830149650574, + "learning_rate": 3.99142133846475e-06, + "loss": 0.0036, + "num_input_tokens_seen": 13138888, + "step": 6719 + }, + { + "epoch": 0.8906560636182903, + "grad_norm": 11.103044509887695, + "learning_rate": 3.991142724826903e-06, + "loss": 0.2176, + "num_input_tokens_seen": 13141448, + "step": 6720 + }, + { + "epoch": 0.8907886017229953, + "grad_norm": 5.946866989135742, + "learning_rate": 3.990864082438795e-06, + "loss": 0.054, + "num_input_tokens_seen": 13143008, + "step": 6721 + }, + { + "epoch": 0.8909211398277005, + "grad_norm": 4.217400074005127, + "learning_rate": 3.9905854113058e-06, + "loss": 0.1149, + "num_input_tokens_seen": 13144896, + "step": 6722 + }, + { + "epoch": 0.8910536779324055, + "grad_norm": 9.32218074798584, + "learning_rate": 3.9903067114332896e-06, + "loss": 0.2036, + "num_input_tokens_seen": 13146960, + "step": 6723 + }, + { + "epoch": 0.8911862160371107, + "grad_norm": 3.407961368560791, + "learning_rate": 3.990027982826637e-06, + "loss": 0.0809, + "num_input_tokens_seen": 13149016, + "step": 6724 + }, + { + "epoch": 0.8913187541418157, + "grad_norm": 0.24109815061092377, + "learning_rate": 3.989749225491218e-06, + "loss": 0.0018, + "num_input_tokens_seen": 13150328, + "step": 6725 + }, + { + "epoch": 0.8914512922465209, + "grad_norm": 11.359609603881836, + "learning_rate": 3.989470439432406e-06, + "loss": 0.2062, + "num_input_tokens_seen": 13152232, + "step": 6726 + }, + { + "epoch": 0.891583830351226, + "grad_norm": 0.488369345664978, + "learning_rate": 3.989191624655576e-06, + "loss": 0.0038, + "num_input_tokens_seen": 13154184, + "step": 6727 + }, + { + "epoch": 0.891716368455931, + "grad_norm": 4.248936653137207, + "learning_rate": 3.9889127811661046e-06, + "loss": 0.152, + "num_input_tokens_seen": 13155400, + "step": 6728 + }, + { + "epoch": 0.8918489065606362, + "grad_norm": 4.701811790466309, + "learning_rate": 3.988633908969367e-06, + "loss": 0.1707, + "num_input_tokens_seen": 13157432, + "step": 6729 + }, + { + "epoch": 0.8919814446653412, + "grad_norm": 13.551857948303223, + "learning_rate": 3.988355008070742e-06, + "loss": 0.2606, + "num_input_tokens_seen": 13160128, + "step": 6730 + }, + { + "epoch": 0.8921139827700464, + "grad_norm": 6.618265151977539, + "learning_rate": 3.988076078475605e-06, + "loss": 0.1961, + "num_input_tokens_seen": 13161600, + "step": 6731 + }, + { + "epoch": 0.8922465208747515, + "grad_norm": 0.18092544376850128, + "learning_rate": 3.987797120189334e-06, + "loss": 0.0014, + "num_input_tokens_seen": 13163040, + "step": 6732 + }, + { + "epoch": 0.8923790589794566, + "grad_norm": 0.19574877619743347, + "learning_rate": 3.987518133217309e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13166640, + "step": 6733 + }, + { + "epoch": 0.8925115970841617, + "grad_norm": 8.873095512390137, + "learning_rate": 3.9872391175649075e-06, + "loss": 0.3073, + "num_input_tokens_seen": 13168536, + "step": 6734 + }, + { + "epoch": 0.8926441351888668, + "grad_norm": 0.14848877489566803, + "learning_rate": 3.98696007323751e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13170784, + "step": 6735 + }, + { + "epoch": 0.8927766732935719, + "grad_norm": 15.606375694274902, + "learning_rate": 3.986681000240496e-06, + "loss": 0.4647, + "num_input_tokens_seen": 13172720, + "step": 6736 + }, + { + "epoch": 0.8929092113982771, + "grad_norm": 6.107414722442627, + "learning_rate": 3.986401898579247e-06, + "loss": 0.0759, + "num_input_tokens_seen": 13174576, + "step": 6737 + }, + { + "epoch": 0.8930417495029821, + "grad_norm": 11.266855239868164, + "learning_rate": 3.986122768259145e-06, + "loss": 0.3227, + "num_input_tokens_seen": 13176928, + "step": 6738 + }, + { + "epoch": 0.8931742876076872, + "grad_norm": 0.15079239010810852, + "learning_rate": 3.9858436092855705e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13179088, + "step": 6739 + }, + { + "epoch": 0.8933068257123923, + "grad_norm": 5.368622779846191, + "learning_rate": 3.985564421663905e-06, + "loss": 0.1149, + "num_input_tokens_seen": 13181744, + "step": 6740 + }, + { + "epoch": 0.8934393638170974, + "grad_norm": 13.300801277160645, + "learning_rate": 3.985285205399534e-06, + "loss": 0.2036, + "num_input_tokens_seen": 13183760, + "step": 6741 + }, + { + "epoch": 0.8935719019218025, + "grad_norm": 0.9276784062385559, + "learning_rate": 3.985005960497839e-06, + "loss": 0.0215, + "num_input_tokens_seen": 13185584, + "step": 6742 + }, + { + "epoch": 0.8937044400265076, + "grad_norm": 0.07096778601408005, + "learning_rate": 3.9847266869642045e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13187488, + "step": 6743 + }, + { + "epoch": 0.8938369781312128, + "grad_norm": 0.07736282795667648, + "learning_rate": 3.984447384804014e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13188832, + "step": 6744 + }, + { + "epoch": 0.8939695162359178, + "grad_norm": 10.056239128112793, + "learning_rate": 3.984168054022656e-06, + "loss": 0.3127, + "num_input_tokens_seen": 13190704, + "step": 6745 + }, + { + "epoch": 0.894102054340623, + "grad_norm": 9.601117134094238, + "learning_rate": 3.983888694625513e-06, + "loss": 0.3174, + "num_input_tokens_seen": 13192784, + "step": 6746 + }, + { + "epoch": 0.894234592445328, + "grad_norm": 14.072978019714355, + "learning_rate": 3.983609306617972e-06, + "loss": 0.4327, + "num_input_tokens_seen": 13194176, + "step": 6747 + }, + { + "epoch": 0.8943671305500331, + "grad_norm": 5.683928489685059, + "learning_rate": 3.983329890005421e-06, + "loss": 0.1651, + "num_input_tokens_seen": 13195904, + "step": 6748 + }, + { + "epoch": 0.8944996686547383, + "grad_norm": 6.371161937713623, + "learning_rate": 3.983050444793246e-06, + "loss": 0.159, + "num_input_tokens_seen": 13197608, + "step": 6749 + }, + { + "epoch": 0.8946322067594433, + "grad_norm": 8.273656845092773, + "learning_rate": 3.9827709709868355e-06, + "loss": 0.2646, + "num_input_tokens_seen": 13199896, + "step": 6750 + }, + { + "epoch": 0.8947647448641485, + "grad_norm": 6.430032253265381, + "learning_rate": 3.9824914685915775e-06, + "loss": 0.1345, + "num_input_tokens_seen": 13202824, + "step": 6751 + }, + { + "epoch": 0.8948972829688535, + "grad_norm": 13.655915260314941, + "learning_rate": 3.982211937612861e-06, + "loss": 0.3215, + "num_input_tokens_seen": 13205168, + "step": 6752 + }, + { + "epoch": 0.8950298210735587, + "grad_norm": 10.387225151062012, + "learning_rate": 3.981932378056076e-06, + "loss": 0.2561, + "num_input_tokens_seen": 13206808, + "step": 6753 + }, + { + "epoch": 0.8951623591782637, + "grad_norm": 7.360228538513184, + "learning_rate": 3.9816527899266135e-06, + "loss": 0.265, + "num_input_tokens_seen": 13208960, + "step": 6754 + }, + { + "epoch": 0.8952948972829688, + "grad_norm": 7.233108997344971, + "learning_rate": 3.9813731732298616e-06, + "loss": 0.2099, + "num_input_tokens_seen": 13210776, + "step": 6755 + }, + { + "epoch": 0.895427435387674, + "grad_norm": 0.12063634395599365, + "learning_rate": 3.981093527971214e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13212160, + "step": 6756 + }, + { + "epoch": 0.895559973492379, + "grad_norm": 13.123514175415039, + "learning_rate": 3.9808138541560605e-06, + "loss": 0.2448, + "num_input_tokens_seen": 13214728, + "step": 6757 + }, + { + "epoch": 0.8956925115970842, + "grad_norm": 9.949551582336426, + "learning_rate": 3.980534151789794e-06, + "loss": 0.2294, + "num_input_tokens_seen": 13215928, + "step": 6758 + }, + { + "epoch": 0.8958250497017892, + "grad_norm": 0.17229443788528442, + "learning_rate": 3.980254420877809e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13217456, + "step": 6759 + }, + { + "epoch": 0.8959575878064944, + "grad_norm": 0.4262990951538086, + "learning_rate": 3.979974661425497e-06, + "loss": 0.0031, + "num_input_tokens_seen": 13219464, + "step": 6760 + }, + { + "epoch": 0.8960901259111995, + "grad_norm": 0.28240257501602173, + "learning_rate": 3.979694873438253e-06, + "loss": 0.0021, + "num_input_tokens_seen": 13221640, + "step": 6761 + }, + { + "epoch": 0.8962226640159046, + "grad_norm": 0.5996338129043579, + "learning_rate": 3.979415056921471e-06, + "loss": 0.0043, + "num_input_tokens_seen": 13223584, + "step": 6762 + }, + { + "epoch": 0.8963552021206097, + "grad_norm": 11.818794250488281, + "learning_rate": 3.979135211880545e-06, + "loss": 0.381, + "num_input_tokens_seen": 13225624, + "step": 6763 + }, + { + "epoch": 0.8964877402253147, + "grad_norm": 0.25988027453422546, + "learning_rate": 3.978855338320873e-06, + "loss": 0.002, + "num_input_tokens_seen": 13226936, + "step": 6764 + }, + { + "epoch": 0.8966202783300199, + "grad_norm": 1.5987876653671265, + "learning_rate": 3.978575436247849e-06, + "loss": 0.0238, + "num_input_tokens_seen": 13228432, + "step": 6765 + }, + { + "epoch": 0.8967528164347249, + "grad_norm": 4.49207067489624, + "learning_rate": 3.978295505666871e-06, + "loss": 0.165, + "num_input_tokens_seen": 13230624, + "step": 6766 + }, + { + "epoch": 0.8968853545394301, + "grad_norm": 6.721325874328613, + "learning_rate": 3.978015546583336e-06, + "loss": 0.1077, + "num_input_tokens_seen": 13232520, + "step": 6767 + }, + { + "epoch": 0.8970178926441352, + "grad_norm": 11.521770477294922, + "learning_rate": 3.977735559002641e-06, + "loss": 0.309, + "num_input_tokens_seen": 13234584, + "step": 6768 + }, + { + "epoch": 0.8971504307488403, + "grad_norm": 15.510161399841309, + "learning_rate": 3.977455542930186e-06, + "loss": 0.3792, + "num_input_tokens_seen": 13236152, + "step": 6769 + }, + { + "epoch": 0.8972829688535454, + "grad_norm": 0.4905068576335907, + "learning_rate": 3.977175498371368e-06, + "loss": 0.0035, + "num_input_tokens_seen": 13238232, + "step": 6770 + }, + { + "epoch": 0.8974155069582505, + "grad_norm": 7.077093124389648, + "learning_rate": 3.976895425331587e-06, + "loss": 0.1122, + "num_input_tokens_seen": 13240200, + "step": 6771 + }, + { + "epoch": 0.8975480450629556, + "grad_norm": 1.457783818244934, + "learning_rate": 3.976615323816244e-06, + "loss": 0.0095, + "num_input_tokens_seen": 13242040, + "step": 6772 + }, + { + "epoch": 0.8976805831676608, + "grad_norm": 6.866454601287842, + "learning_rate": 3.976335193830739e-06, + "loss": 0.1944, + "num_input_tokens_seen": 13244096, + "step": 6773 + }, + { + "epoch": 0.8978131212723658, + "grad_norm": 7.5314459800720215, + "learning_rate": 3.976055035380472e-06, + "loss": 0.2269, + "num_input_tokens_seen": 13245456, + "step": 6774 + }, + { + "epoch": 0.8979456593770709, + "grad_norm": 0.5146783590316772, + "learning_rate": 3.975774848470847e-06, + "loss": 0.0037, + "num_input_tokens_seen": 13246784, + "step": 6775 + }, + { + "epoch": 0.898078197481776, + "grad_norm": 13.591337203979492, + "learning_rate": 3.975494633107264e-06, + "loss": 0.4876, + "num_input_tokens_seen": 13249352, + "step": 6776 + }, + { + "epoch": 0.8982107355864811, + "grad_norm": 0.18662597239017487, + "learning_rate": 3.9752143892951275e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13250936, + "step": 6777 + }, + { + "epoch": 0.8983432736911862, + "grad_norm": 5.383232593536377, + "learning_rate": 3.974934117039838e-06, + "loss": 0.1278, + "num_input_tokens_seen": 13253216, + "step": 6778 + }, + { + "epoch": 0.8984758117958913, + "grad_norm": 0.0787423774600029, + "learning_rate": 3.974653816346804e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13254408, + "step": 6779 + }, + { + "epoch": 0.8986083499005965, + "grad_norm": 1.9264734983444214, + "learning_rate": 3.974373487221424e-06, + "loss": 0.0565, + "num_input_tokens_seen": 13256000, + "step": 6780 + }, + { + "epoch": 0.8987408880053015, + "grad_norm": 10.088286399841309, + "learning_rate": 3.974093129669109e-06, + "loss": 0.3258, + "num_input_tokens_seen": 13258168, + "step": 6781 + }, + { + "epoch": 0.8988734261100066, + "grad_norm": 13.328400611877441, + "learning_rate": 3.97381274369526e-06, + "loss": 0.3378, + "num_input_tokens_seen": 13260112, + "step": 6782 + }, + { + "epoch": 0.8990059642147117, + "grad_norm": 8.356839179992676, + "learning_rate": 3.973532329305284e-06, + "loss": 0.2847, + "num_input_tokens_seen": 13261568, + "step": 6783 + }, + { + "epoch": 0.8991385023194168, + "grad_norm": 1.082217812538147, + "learning_rate": 3.973251886504589e-06, + "loss": 0.0071, + "num_input_tokens_seen": 13263328, + "step": 6784 + }, + { + "epoch": 0.899271040424122, + "grad_norm": 9.59509563446045, + "learning_rate": 3.972971415298582e-06, + "loss": 0.2292, + "num_input_tokens_seen": 13264368, + "step": 6785 + }, + { + "epoch": 0.899403578528827, + "grad_norm": 0.48201510310173035, + "learning_rate": 3.972690915692668e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13266992, + "step": 6786 + }, + { + "epoch": 0.8995361166335322, + "grad_norm": 0.16856423020362854, + "learning_rate": 3.972410387692259e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13269528, + "step": 6787 + }, + { + "epoch": 0.8996686547382372, + "grad_norm": 11.04496955871582, + "learning_rate": 3.972129831302761e-06, + "loss": 0.4573, + "num_input_tokens_seen": 13271424, + "step": 6788 + }, + { + "epoch": 0.8998011928429424, + "grad_norm": 5.232909679412842, + "learning_rate": 3.9718492465295844e-06, + "loss": 0.0732, + "num_input_tokens_seen": 13273008, + "step": 6789 + }, + { + "epoch": 0.8999337309476475, + "grad_norm": 0.377306193113327, + "learning_rate": 3.971568633378139e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13274256, + "step": 6790 + }, + { + "epoch": 0.9000662690523525, + "grad_norm": 1.9984349012374878, + "learning_rate": 3.971287991853835e-06, + "loss": 0.0171, + "num_input_tokens_seen": 13275648, + "step": 6791 + }, + { + "epoch": 0.9001988071570577, + "grad_norm": 7.085953712463379, + "learning_rate": 3.971007321962084e-06, + "loss": 0.1151, + "num_input_tokens_seen": 13277576, + "step": 6792 + }, + { + "epoch": 0.9003313452617627, + "grad_norm": 11.624064445495605, + "learning_rate": 3.970726623708298e-06, + "loss": 0.5022, + "num_input_tokens_seen": 13279792, + "step": 6793 + }, + { + "epoch": 0.9004638833664679, + "grad_norm": 0.25804612040519714, + "learning_rate": 3.970445897097886e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13281320, + "step": 6794 + }, + { + "epoch": 0.9005964214711729, + "grad_norm": 3.893050193786621, + "learning_rate": 3.9701651421362636e-06, + "loss": 0.0833, + "num_input_tokens_seen": 13283232, + "step": 6795 + }, + { + "epoch": 0.9007289595758781, + "grad_norm": 5.530307292938232, + "learning_rate": 3.969884358828843e-06, + "loss": 0.1551, + "num_input_tokens_seen": 13285136, + "step": 6796 + }, + { + "epoch": 0.9008614976805832, + "grad_norm": 11.275203704833984, + "learning_rate": 3.9696035471810375e-06, + "loss": 0.3838, + "num_input_tokens_seen": 13287408, + "step": 6797 + }, + { + "epoch": 0.9009940357852882, + "grad_norm": 7.923050880432129, + "learning_rate": 3.969322707198263e-06, + "loss": 0.2763, + "num_input_tokens_seen": 13289064, + "step": 6798 + }, + { + "epoch": 0.9011265738899934, + "grad_norm": 0.04217950627207756, + "learning_rate": 3.969041838885932e-06, + "loss": 0.0003, + "num_input_tokens_seen": 13291064, + "step": 6799 + }, + { + "epoch": 0.9012591119946984, + "grad_norm": 10.22539234161377, + "learning_rate": 3.968760942249461e-06, + "loss": 0.2045, + "num_input_tokens_seen": 13293168, + "step": 6800 + }, + { + "epoch": 0.9013916500994036, + "grad_norm": 1.1670544147491455, + "learning_rate": 3.968480017294266e-06, + "loss": 0.0071, + "num_input_tokens_seen": 13295264, + "step": 6801 + }, + { + "epoch": 0.9015241882041087, + "grad_norm": 0.08044814318418503, + "learning_rate": 3.968199064025764e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13297120, + "step": 6802 + }, + { + "epoch": 0.9016567263088138, + "grad_norm": 10.395515441894531, + "learning_rate": 3.96791808244937e-06, + "loss": 0.3847, + "num_input_tokens_seen": 13299504, + "step": 6803 + }, + { + "epoch": 0.9017892644135189, + "grad_norm": 0.12965846061706543, + "learning_rate": 3.967637072570503e-06, + "loss": 0.0007, + "num_input_tokens_seen": 13300712, + "step": 6804 + }, + { + "epoch": 0.901921802518224, + "grad_norm": 10.181883811950684, + "learning_rate": 3.967356034394581e-06, + "loss": 0.1699, + "num_input_tokens_seen": 13302600, + "step": 6805 + }, + { + "epoch": 0.9020543406229291, + "grad_norm": 4.366451740264893, + "learning_rate": 3.9670749679270225e-06, + "loss": 0.0689, + "num_input_tokens_seen": 13304176, + "step": 6806 + }, + { + "epoch": 0.9021868787276341, + "grad_norm": 12.554516792297363, + "learning_rate": 3.966793873173246e-06, + "loss": 0.2085, + "num_input_tokens_seen": 13305696, + "step": 6807 + }, + { + "epoch": 0.9023194168323393, + "grad_norm": 0.027440842241048813, + "learning_rate": 3.966512750138673e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13307344, + "step": 6808 + }, + { + "epoch": 0.9024519549370444, + "grad_norm": 37.869083404541016, + "learning_rate": 3.966231598828721e-06, + "loss": 0.5207, + "num_input_tokens_seen": 13308968, + "step": 6809 + }, + { + "epoch": 0.9025844930417495, + "grad_norm": 13.978860855102539, + "learning_rate": 3.965950419248813e-06, + "loss": 0.4221, + "num_input_tokens_seen": 13310144, + "step": 6810 + }, + { + "epoch": 0.9027170311464546, + "grad_norm": 15.915724754333496, + "learning_rate": 3.9656692114043695e-06, + "loss": 0.6148, + "num_input_tokens_seen": 13312136, + "step": 6811 + }, + { + "epoch": 0.9028495692511597, + "grad_norm": 14.286364555358887, + "learning_rate": 3.965387975300812e-06, + "loss": 0.4406, + "num_input_tokens_seen": 13314528, + "step": 6812 + }, + { + "epoch": 0.9029821073558648, + "grad_norm": 6.257908344268799, + "learning_rate": 3.965106710943564e-06, + "loss": 0.2177, + "num_input_tokens_seen": 13316440, + "step": 6813 + }, + { + "epoch": 0.90311464546057, + "grad_norm": 0.10165877640247345, + "learning_rate": 3.964825418338048e-06, + "loss": 0.0007, + "num_input_tokens_seen": 13318552, + "step": 6814 + }, + { + "epoch": 0.903247183565275, + "grad_norm": 14.913152694702148, + "learning_rate": 3.964544097489687e-06, + "loss": 0.3458, + "num_input_tokens_seen": 13319680, + "step": 6815 + }, + { + "epoch": 0.9033797216699802, + "grad_norm": 0.5530948638916016, + "learning_rate": 3.964262748403905e-06, + "loss": 0.0041, + "num_input_tokens_seen": 13321632, + "step": 6816 + }, + { + "epoch": 0.9035122597746852, + "grad_norm": 6.750959396362305, + "learning_rate": 3.963981371086127e-06, + "loss": 0.2452, + "num_input_tokens_seen": 13323264, + "step": 6817 + }, + { + "epoch": 0.9036447978793903, + "grad_norm": 9.251420021057129, + "learning_rate": 3.96369996554178e-06, + "loss": 0.2868, + "num_input_tokens_seen": 13325216, + "step": 6818 + }, + { + "epoch": 0.9037773359840954, + "grad_norm": 15.157255172729492, + "learning_rate": 3.963418531776287e-06, + "loss": 0.4721, + "num_input_tokens_seen": 13327184, + "step": 6819 + }, + { + "epoch": 0.9039098740888005, + "grad_norm": 5.238453388214111, + "learning_rate": 3.963137069795074e-06, + "loss": 0.1627, + "num_input_tokens_seen": 13328816, + "step": 6820 + }, + { + "epoch": 0.9040424121935057, + "grad_norm": 7.305315017700195, + "learning_rate": 3.962855579603571e-06, + "loss": 0.088, + "num_input_tokens_seen": 13331336, + "step": 6821 + }, + { + "epoch": 0.9041749502982107, + "grad_norm": 10.264121055603027, + "learning_rate": 3.962574061207202e-06, + "loss": 0.3591, + "num_input_tokens_seen": 13333424, + "step": 6822 + }, + { + "epoch": 0.9043074884029159, + "grad_norm": 6.215490341186523, + "learning_rate": 3.962292514611396e-06, + "loss": 0.0509, + "num_input_tokens_seen": 13335336, + "step": 6823 + }, + { + "epoch": 0.9044400265076209, + "grad_norm": 0.1585277020931244, + "learning_rate": 3.962010939821582e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13336544, + "step": 6824 + }, + { + "epoch": 0.904572564612326, + "grad_norm": 9.907018661499023, + "learning_rate": 3.961729336843188e-06, + "loss": 0.3397, + "num_input_tokens_seen": 13338464, + "step": 6825 + }, + { + "epoch": 0.9047051027170312, + "grad_norm": 11.353303909301758, + "learning_rate": 3.961447705681644e-06, + "loss": 0.1889, + "num_input_tokens_seen": 13340464, + "step": 6826 + }, + { + "epoch": 0.9048376408217362, + "grad_norm": 2.151334285736084, + "learning_rate": 3.961166046342381e-06, + "loss": 0.0514, + "num_input_tokens_seen": 13342872, + "step": 6827 + }, + { + "epoch": 0.9049701789264414, + "grad_norm": 0.2887546122074127, + "learning_rate": 3.960884358830827e-06, + "loss": 0.0021, + "num_input_tokens_seen": 13344576, + "step": 6828 + }, + { + "epoch": 0.9051027170311464, + "grad_norm": 7.460299015045166, + "learning_rate": 3.960602643152416e-06, + "loss": 0.105, + "num_input_tokens_seen": 13346312, + "step": 6829 + }, + { + "epoch": 0.9052352551358516, + "grad_norm": 15.81497573852539, + "learning_rate": 3.960320899312578e-06, + "loss": 0.6401, + "num_input_tokens_seen": 13348784, + "step": 6830 + }, + { + "epoch": 0.9053677932405566, + "grad_norm": 0.3608487546443939, + "learning_rate": 3.960039127316746e-06, + "loss": 0.0028, + "num_input_tokens_seen": 13350256, + "step": 6831 + }, + { + "epoch": 0.9055003313452618, + "grad_norm": 8.746213912963867, + "learning_rate": 3.9597573271703515e-06, + "loss": 0.3341, + "num_input_tokens_seen": 13352056, + "step": 6832 + }, + { + "epoch": 0.9056328694499669, + "grad_norm": 1.0589901208877563, + "learning_rate": 3.9594754988788295e-06, + "loss": 0.008, + "num_input_tokens_seen": 13353848, + "step": 6833 + }, + { + "epoch": 0.9057654075546719, + "grad_norm": 0.43171942234039307, + "learning_rate": 3.959193642447613e-06, + "loss": 0.0032, + "num_input_tokens_seen": 13356168, + "step": 6834 + }, + { + "epoch": 0.9058979456593771, + "grad_norm": 6.129023551940918, + "learning_rate": 3.958911757882136e-06, + "loss": 0.0888, + "num_input_tokens_seen": 13358016, + "step": 6835 + }, + { + "epoch": 0.9060304837640821, + "grad_norm": 15.092604637145996, + "learning_rate": 3.958629845187835e-06, + "loss": 0.7162, + "num_input_tokens_seen": 13359400, + "step": 6836 + }, + { + "epoch": 0.9061630218687873, + "grad_norm": 18.96518898010254, + "learning_rate": 3.958347904370143e-06, + "loss": 0.5034, + "num_input_tokens_seen": 13361528, + "step": 6837 + }, + { + "epoch": 0.9062955599734924, + "grad_norm": 6.916331768035889, + "learning_rate": 3.9580659354344975e-06, + "loss": 0.3403, + "num_input_tokens_seen": 13363520, + "step": 6838 + }, + { + "epoch": 0.9064280980781975, + "grad_norm": 0.282146692276001, + "learning_rate": 3.9577839383863355e-06, + "loss": 0.002, + "num_input_tokens_seen": 13365520, + "step": 6839 + }, + { + "epoch": 0.9065606361829026, + "grad_norm": 1.6812944412231445, + "learning_rate": 3.957501913231093e-06, + "loss": 0.012, + "num_input_tokens_seen": 13367424, + "step": 6840 + }, + { + "epoch": 0.9066931742876077, + "grad_norm": 9.485698699951172, + "learning_rate": 3.957219859974208e-06, + "loss": 0.2512, + "num_input_tokens_seen": 13369344, + "step": 6841 + }, + { + "epoch": 0.9068257123923128, + "grad_norm": 14.154409408569336, + "learning_rate": 3.95693777862112e-06, + "loss": 0.6911, + "num_input_tokens_seen": 13372200, + "step": 6842 + }, + { + "epoch": 0.9069582504970178, + "grad_norm": 12.965131759643555, + "learning_rate": 3.956655669177265e-06, + "loss": 0.611, + "num_input_tokens_seen": 13374192, + "step": 6843 + }, + { + "epoch": 0.907090788601723, + "grad_norm": 0.11968349665403366, + "learning_rate": 3.956373531648084e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13376112, + "step": 6844 + }, + { + "epoch": 0.9072233267064281, + "grad_norm": 12.837465286254883, + "learning_rate": 3.956091366039018e-06, + "loss": 0.5493, + "num_input_tokens_seen": 13378632, + "step": 6845 + }, + { + "epoch": 0.9073558648111332, + "grad_norm": 6.205852508544922, + "learning_rate": 3.955809172355505e-06, + "loss": 0.1054, + "num_input_tokens_seen": 13382096, + "step": 6846 + }, + { + "epoch": 0.9074884029158383, + "grad_norm": 2.123368978500366, + "learning_rate": 3.955526950602987e-06, + "loss": 0.0392, + "num_input_tokens_seen": 13383552, + "step": 6847 + }, + { + "epoch": 0.9076209410205434, + "grad_norm": 0.06099429726600647, + "learning_rate": 3.955244700786904e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13385584, + "step": 6848 + }, + { + "epoch": 0.9077534791252485, + "grad_norm": 4.104151248931885, + "learning_rate": 3.954962422912701e-06, + "loss": 0.1152, + "num_input_tokens_seen": 13388920, + "step": 6849 + }, + { + "epoch": 0.9078860172299537, + "grad_norm": 3.530329704284668, + "learning_rate": 3.954680116985818e-06, + "loss": 0.0984, + "num_input_tokens_seen": 13391056, + "step": 6850 + }, + { + "epoch": 0.9080185553346587, + "grad_norm": 0.13000766932964325, + "learning_rate": 3.954397783011699e-06, + "loss": 0.001, + "num_input_tokens_seen": 13393544, + "step": 6851 + }, + { + "epoch": 0.9081510934393638, + "grad_norm": 14.69619369506836, + "learning_rate": 3.954115420995788e-06, + "loss": 0.2713, + "num_input_tokens_seen": 13395320, + "step": 6852 + }, + { + "epoch": 0.9082836315440689, + "grad_norm": 2.2810709476470947, + "learning_rate": 3.953833030943528e-06, + "loss": 0.0845, + "num_input_tokens_seen": 13397320, + "step": 6853 + }, + { + "epoch": 0.908416169648774, + "grad_norm": 16.55765724182129, + "learning_rate": 3.953550612860364e-06, + "loss": 0.461, + "num_input_tokens_seen": 13398824, + "step": 6854 + }, + { + "epoch": 0.9085487077534792, + "grad_norm": 8.590668678283691, + "learning_rate": 3.953268166751742e-06, + "loss": 0.1012, + "num_input_tokens_seen": 13401296, + "step": 6855 + }, + { + "epoch": 0.9086812458581842, + "grad_norm": 4.806265830993652, + "learning_rate": 3.952985692623106e-06, + "loss": 0.0903, + "num_input_tokens_seen": 13402968, + "step": 6856 + }, + { + "epoch": 0.9088137839628894, + "grad_norm": 20.488168716430664, + "learning_rate": 3.9527031904799045e-06, + "loss": 0.6054, + "num_input_tokens_seen": 13404984, + "step": 6857 + }, + { + "epoch": 0.9089463220675944, + "grad_norm": 0.251567542552948, + "learning_rate": 3.952420660327583e-06, + "loss": 0.0019, + "num_input_tokens_seen": 13406424, + "step": 6858 + }, + { + "epoch": 0.9090788601722996, + "grad_norm": 0.10690252482891083, + "learning_rate": 3.9521381021715896e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13409064, + "step": 6859 + }, + { + "epoch": 0.9092113982770046, + "grad_norm": 0.112008236348629, + "learning_rate": 3.951855516017371e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13410960, + "step": 6860 + }, + { + "epoch": 0.9093439363817097, + "grad_norm": 0.07194206863641739, + "learning_rate": 3.9515729018703774e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13411992, + "step": 6861 + }, + { + "epoch": 0.9094764744864149, + "grad_norm": 0.7300190329551697, + "learning_rate": 3.951290259736056e-06, + "loss": 0.0053, + "num_input_tokens_seen": 13414384, + "step": 6862 + }, + { + "epoch": 0.9096090125911199, + "grad_norm": 7.1128764152526855, + "learning_rate": 3.951007589619858e-06, + "loss": 0.1488, + "num_input_tokens_seen": 13417416, + "step": 6863 + }, + { + "epoch": 0.9097415506958251, + "grad_norm": 15.463702201843262, + "learning_rate": 3.950724891527232e-06, + "loss": 0.3597, + "num_input_tokens_seen": 13419376, + "step": 6864 + }, + { + "epoch": 0.9098740888005301, + "grad_norm": 1.5325649976730347, + "learning_rate": 3.95044216546363e-06, + "loss": 0.0094, + "num_input_tokens_seen": 13421984, + "step": 6865 + }, + { + "epoch": 0.9100066269052353, + "grad_norm": 2.666563034057617, + "learning_rate": 3.950159411434502e-06, + "loss": 0.1268, + "num_input_tokens_seen": 13423568, + "step": 6866 + }, + { + "epoch": 0.9101391650099404, + "grad_norm": 0.20841571688652039, + "learning_rate": 3.9498766294452995e-06, + "loss": 0.0014, + "num_input_tokens_seen": 13425472, + "step": 6867 + }, + { + "epoch": 0.9102717031146454, + "grad_norm": 11.133683204650879, + "learning_rate": 3.9495938195014765e-06, + "loss": 0.5669, + "num_input_tokens_seen": 13427712, + "step": 6868 + }, + { + "epoch": 0.9104042412193506, + "grad_norm": 6.95251989364624, + "learning_rate": 3.949310981608484e-06, + "loss": 0.1955, + "num_input_tokens_seen": 13430048, + "step": 6869 + }, + { + "epoch": 0.9105367793240556, + "grad_norm": 12.892457008361816, + "learning_rate": 3.949028115771776e-06, + "loss": 0.161, + "num_input_tokens_seen": 13431464, + "step": 6870 + }, + { + "epoch": 0.9106693174287608, + "grad_norm": 10.470257759094238, + "learning_rate": 3.948745221996806e-06, + "loss": 0.3872, + "num_input_tokens_seen": 13433720, + "step": 6871 + }, + { + "epoch": 0.9108018555334658, + "grad_norm": 0.09639782458543777, + "learning_rate": 3.948462300289029e-06, + "loss": 0.0007, + "num_input_tokens_seen": 13435560, + "step": 6872 + }, + { + "epoch": 0.910934393638171, + "grad_norm": 8.420403480529785, + "learning_rate": 3.9481793506539e-06, + "loss": 0.226, + "num_input_tokens_seen": 13437848, + "step": 6873 + }, + { + "epoch": 0.9110669317428761, + "grad_norm": 0.056494735181331635, + "learning_rate": 3.947896373096874e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13439136, + "step": 6874 + }, + { + "epoch": 0.9111994698475812, + "grad_norm": 10.696561813354492, + "learning_rate": 3.947613367623407e-06, + "loss": 0.1749, + "num_input_tokens_seen": 13440920, + "step": 6875 + }, + { + "epoch": 0.9113320079522863, + "grad_norm": 10.43608283996582, + "learning_rate": 3.947330334238955e-06, + "loss": 0.2885, + "num_input_tokens_seen": 13443768, + "step": 6876 + }, + { + "epoch": 0.9114645460569913, + "grad_norm": 3.8761146068573, + "learning_rate": 3.947047272948976e-06, + "loss": 0.1595, + "num_input_tokens_seen": 13445800, + "step": 6877 + }, + { + "epoch": 0.9115970841616965, + "grad_norm": 4.681922435760498, + "learning_rate": 3.946764183758927e-06, + "loss": 0.161, + "num_input_tokens_seen": 13447312, + "step": 6878 + }, + { + "epoch": 0.9117296222664016, + "grad_norm": 0.1888013631105423, + "learning_rate": 3.946481066674267e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13449192, + "step": 6879 + }, + { + "epoch": 0.9118621603711067, + "grad_norm": 12.019532203674316, + "learning_rate": 3.946197921700455e-06, + "loss": 0.1734, + "num_input_tokens_seen": 13451256, + "step": 6880 + }, + { + "epoch": 0.9119946984758118, + "grad_norm": 12.030641555786133, + "learning_rate": 3.945914748842948e-06, + "loss": 0.5239, + "num_input_tokens_seen": 13453288, + "step": 6881 + }, + { + "epoch": 0.9121272365805169, + "grad_norm": 20.368032455444336, + "learning_rate": 3.945631548107207e-06, + "loss": 0.5853, + "num_input_tokens_seen": 13455512, + "step": 6882 + }, + { + "epoch": 0.912259774685222, + "grad_norm": 10.199458122253418, + "learning_rate": 3.945348319498694e-06, + "loss": 0.1507, + "num_input_tokens_seen": 13457344, + "step": 6883 + }, + { + "epoch": 0.912392312789927, + "grad_norm": 5.051602840423584, + "learning_rate": 3.945065063022867e-06, + "loss": 0.0716, + "num_input_tokens_seen": 13459472, + "step": 6884 + }, + { + "epoch": 0.9125248508946322, + "grad_norm": 8.976778984069824, + "learning_rate": 3.944781778685189e-06, + "loss": 0.1547, + "num_input_tokens_seen": 13461280, + "step": 6885 + }, + { + "epoch": 0.9126573889993373, + "grad_norm": 1.6677252054214478, + "learning_rate": 3.944498466491122e-06, + "loss": 0.057, + "num_input_tokens_seen": 13462800, + "step": 6886 + }, + { + "epoch": 0.9127899271040424, + "grad_norm": 9.220848083496094, + "learning_rate": 3.9442151264461275e-06, + "loss": 0.1771, + "num_input_tokens_seen": 13464664, + "step": 6887 + }, + { + "epoch": 0.9129224652087475, + "grad_norm": 2.4703524112701416, + "learning_rate": 3.943931758555669e-06, + "loss": 0.032, + "num_input_tokens_seen": 13468016, + "step": 6888 + }, + { + "epoch": 0.9130550033134526, + "grad_norm": 0.13127319514751434, + "learning_rate": 3.9436483628252105e-06, + "loss": 0.001, + "num_input_tokens_seen": 13470072, + "step": 6889 + }, + { + "epoch": 0.9131875414181577, + "grad_norm": 6.142790794372559, + "learning_rate": 3.9433649392602155e-06, + "loss": 0.0951, + "num_input_tokens_seen": 13471848, + "step": 6890 + }, + { + "epoch": 0.9133200795228629, + "grad_norm": 0.3727642893791199, + "learning_rate": 3.9430814878661495e-06, + "loss": 0.0027, + "num_input_tokens_seen": 13473456, + "step": 6891 + }, + { + "epoch": 0.9134526176275679, + "grad_norm": 10.982667922973633, + "learning_rate": 3.942798008648475e-06, + "loss": 0.2959, + "num_input_tokens_seen": 13475152, + "step": 6892 + }, + { + "epoch": 0.9135851557322731, + "grad_norm": 5.460580825805664, + "learning_rate": 3.9425145016126606e-06, + "loss": 0.1934, + "num_input_tokens_seen": 13476824, + "step": 6893 + }, + { + "epoch": 0.9137176938369781, + "grad_norm": 12.394134521484375, + "learning_rate": 3.942230966764172e-06, + "loss": 0.4479, + "num_input_tokens_seen": 13479104, + "step": 6894 + }, + { + "epoch": 0.9138502319416832, + "grad_norm": 11.230950355529785, + "learning_rate": 3.941947404108475e-06, + "loss": 0.1138, + "num_input_tokens_seen": 13480784, + "step": 6895 + }, + { + "epoch": 0.9139827700463883, + "grad_norm": 0.35740038752555847, + "learning_rate": 3.941663813651038e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13482640, + "step": 6896 + }, + { + "epoch": 0.9141153081510934, + "grad_norm": 0.2584132254123688, + "learning_rate": 3.9413801953973266e-06, + "loss": 0.0019, + "num_input_tokens_seen": 13484592, + "step": 6897 + }, + { + "epoch": 0.9142478462557986, + "grad_norm": 0.9678654074668884, + "learning_rate": 3.941096549352812e-06, + "loss": 0.0057, + "num_input_tokens_seen": 13486248, + "step": 6898 + }, + { + "epoch": 0.9143803843605036, + "grad_norm": 10.76855182647705, + "learning_rate": 3.940812875522961e-06, + "loss": 0.2149, + "num_input_tokens_seen": 13488088, + "step": 6899 + }, + { + "epoch": 0.9145129224652088, + "grad_norm": 4.404655933380127, + "learning_rate": 3.9405291739132435e-06, + "loss": 0.0673, + "num_input_tokens_seen": 13489968, + "step": 6900 + }, + { + "epoch": 0.9146454605699138, + "grad_norm": 0.7537723183631897, + "learning_rate": 3.9402454445291306e-06, + "loss": 0.0051, + "num_input_tokens_seen": 13491792, + "step": 6901 + }, + { + "epoch": 0.914777998674619, + "grad_norm": 7.359374046325684, + "learning_rate": 3.939961687376091e-06, + "loss": 0.0968, + "num_input_tokens_seen": 13493552, + "step": 6902 + }, + { + "epoch": 0.9149105367793241, + "grad_norm": 0.1832287460565567, + "learning_rate": 3.939677902459598e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13495160, + "step": 6903 + }, + { + "epoch": 0.9150430748840291, + "grad_norm": 0.6329948902130127, + "learning_rate": 3.939394089785122e-06, + "loss": 0.0039, + "num_input_tokens_seen": 13496832, + "step": 6904 + }, + { + "epoch": 0.9151756129887343, + "grad_norm": 5.641445636749268, + "learning_rate": 3.9391102493581335e-06, + "loss": 0.0378, + "num_input_tokens_seen": 13499488, + "step": 6905 + }, + { + "epoch": 0.9153081510934393, + "grad_norm": 10.307908058166504, + "learning_rate": 3.938826381184107e-06, + "loss": 0.3068, + "num_input_tokens_seen": 13501912, + "step": 6906 + }, + { + "epoch": 0.9154406891981445, + "grad_norm": 12.66156005859375, + "learning_rate": 3.938542485268516e-06, + "loss": 0.342, + "num_input_tokens_seen": 13503888, + "step": 6907 + }, + { + "epoch": 0.9155732273028496, + "grad_norm": 3.969407320022583, + "learning_rate": 3.938258561616832e-06, + "loss": 0.1588, + "num_input_tokens_seen": 13506288, + "step": 6908 + }, + { + "epoch": 0.9157057654075547, + "grad_norm": 6.907105445861816, + "learning_rate": 3.937974610234533e-06, + "loss": 0.1965, + "num_input_tokens_seen": 13508448, + "step": 6909 + }, + { + "epoch": 0.9158383035122598, + "grad_norm": 0.08150976896286011, + "learning_rate": 3.93769063112709e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13510184, + "step": 6910 + }, + { + "epoch": 0.9159708416169648, + "grad_norm": 0.11603689938783646, + "learning_rate": 3.93740662429998e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13512536, + "step": 6911 + }, + { + "epoch": 0.91610337972167, + "grad_norm": 0.5147866010665894, + "learning_rate": 3.937122589758679e-06, + "loss": 0.006, + "num_input_tokens_seen": 13514928, + "step": 6912 + }, + { + "epoch": 0.916235917826375, + "grad_norm": 6.076064586639404, + "learning_rate": 3.936838527508662e-06, + "loss": 0.264, + "num_input_tokens_seen": 13516784, + "step": 6913 + }, + { + "epoch": 0.9163684559310802, + "grad_norm": 11.166181564331055, + "learning_rate": 3.9365544375554075e-06, + "loss": 0.2326, + "num_input_tokens_seen": 13519640, + "step": 6914 + }, + { + "epoch": 0.9165009940357853, + "grad_norm": 12.674071311950684, + "learning_rate": 3.936270319904393e-06, + "loss": 0.3049, + "num_input_tokens_seen": 13521488, + "step": 6915 + }, + { + "epoch": 0.9166335321404904, + "grad_norm": 0.14784374833106995, + "learning_rate": 3.935986174561096e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13523072, + "step": 6916 + }, + { + "epoch": 0.9167660702451955, + "grad_norm": 4.376709461212158, + "learning_rate": 3.935702001530994e-06, + "loss": 0.1143, + "num_input_tokens_seen": 13525624, + "step": 6917 + }, + { + "epoch": 0.9168986083499006, + "grad_norm": 0.15594542026519775, + "learning_rate": 3.935417800819568e-06, + "loss": 0.001, + "num_input_tokens_seen": 13527112, + "step": 6918 + }, + { + "epoch": 0.9170311464546057, + "grad_norm": 10.183873176574707, + "learning_rate": 3.935133572432296e-06, + "loss": 0.2673, + "num_input_tokens_seen": 13528296, + "step": 6919 + }, + { + "epoch": 0.9171636845593109, + "grad_norm": 8.469533920288086, + "learning_rate": 3.9348493163746585e-06, + "loss": 0.152, + "num_input_tokens_seen": 13529712, + "step": 6920 + }, + { + "epoch": 0.9172962226640159, + "grad_norm": 8.414627075195312, + "learning_rate": 3.934565032652136e-06, + "loss": 0.1055, + "num_input_tokens_seen": 13531408, + "step": 6921 + }, + { + "epoch": 0.917428760768721, + "grad_norm": 0.11790445446968079, + "learning_rate": 3.934280721270211e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13533120, + "step": 6922 + }, + { + "epoch": 0.9175612988734261, + "grad_norm": 0.12045390158891678, + "learning_rate": 3.933996382234364e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13534584, + "step": 6923 + }, + { + "epoch": 0.9176938369781312, + "grad_norm": 0.4059077203273773, + "learning_rate": 3.933712015550077e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13536184, + "step": 6924 + }, + { + "epoch": 0.9178263750828363, + "grad_norm": 0.11318500339984894, + "learning_rate": 3.933427621222834e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13538376, + "step": 6925 + }, + { + "epoch": 0.9179589131875414, + "grad_norm": 5.965323448181152, + "learning_rate": 3.9331431992581165e-06, + "loss": 0.1785, + "num_input_tokens_seen": 13539856, + "step": 6926 + }, + { + "epoch": 0.9180914512922466, + "grad_norm": 4.110706329345703, + "learning_rate": 3.93285874966141e-06, + "loss": 0.1119, + "num_input_tokens_seen": 13541640, + "step": 6927 + }, + { + "epoch": 0.9182239893969516, + "grad_norm": 8.155120849609375, + "learning_rate": 3.932574272438197e-06, + "loss": 0.2811, + "num_input_tokens_seen": 13543800, + "step": 6928 + }, + { + "epoch": 0.9183565275016567, + "grad_norm": 7.560337543487549, + "learning_rate": 3.932289767593966e-06, + "loss": 0.3122, + "num_input_tokens_seen": 13546032, + "step": 6929 + }, + { + "epoch": 0.9184890656063618, + "grad_norm": 10.150988578796387, + "learning_rate": 3.9320052351342e-06, + "loss": 0.1944, + "num_input_tokens_seen": 13548608, + "step": 6930 + }, + { + "epoch": 0.9186216037110669, + "grad_norm": 0.23262743651866913, + "learning_rate": 3.931720675064384e-06, + "loss": 0.0016, + "num_input_tokens_seen": 13550128, + "step": 6931 + }, + { + "epoch": 0.9187541418157721, + "grad_norm": 0.06611327826976776, + "learning_rate": 3.931436087390006e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13551856, + "step": 6932 + }, + { + "epoch": 0.9188866799204771, + "grad_norm": 5.257100582122803, + "learning_rate": 3.931151472116553e-06, + "loss": 0.0564, + "num_input_tokens_seen": 13553816, + "step": 6933 + }, + { + "epoch": 0.9190192180251823, + "grad_norm": 0.3416479825973511, + "learning_rate": 3.930866829249512e-06, + "loss": 0.0018, + "num_input_tokens_seen": 13555840, + "step": 6934 + }, + { + "epoch": 0.9191517561298873, + "grad_norm": 0.2147931158542633, + "learning_rate": 3.930582158794373e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13557608, + "step": 6935 + }, + { + "epoch": 0.9192842942345925, + "grad_norm": 3.223468542098999, + "learning_rate": 3.930297460756621e-06, + "loss": 0.0465, + "num_input_tokens_seen": 13559480, + "step": 6936 + }, + { + "epoch": 0.9194168323392975, + "grad_norm": 8.972900390625, + "learning_rate": 3.930012735141748e-06, + "loss": 0.2574, + "num_input_tokens_seen": 13561544, + "step": 6937 + }, + { + "epoch": 0.9195493704440026, + "grad_norm": 8.675262451171875, + "learning_rate": 3.929727981955243e-06, + "loss": 0.1748, + "num_input_tokens_seen": 13563528, + "step": 6938 + }, + { + "epoch": 0.9196819085487078, + "grad_norm": 16.675857543945312, + "learning_rate": 3.929443201202596e-06, + "loss": 0.5545, + "num_input_tokens_seen": 13565784, + "step": 6939 + }, + { + "epoch": 0.9198144466534128, + "grad_norm": 11.325575828552246, + "learning_rate": 3.9291583928892985e-06, + "loss": 0.2299, + "num_input_tokens_seen": 13567680, + "step": 6940 + }, + { + "epoch": 0.919946984758118, + "grad_norm": 17.588489532470703, + "learning_rate": 3.92887355702084e-06, + "loss": 0.4056, + "num_input_tokens_seen": 13570112, + "step": 6941 + }, + { + "epoch": 0.920079522862823, + "grad_norm": 9.731961250305176, + "learning_rate": 3.928588693602715e-06, + "loss": 0.2847, + "num_input_tokens_seen": 13572832, + "step": 6942 + }, + { + "epoch": 0.9202120609675282, + "grad_norm": 5.086437225341797, + "learning_rate": 3.928303802640414e-06, + "loss": 0.1085, + "num_input_tokens_seen": 13575472, + "step": 6943 + }, + { + "epoch": 0.9203445990722333, + "grad_norm": 0.1162663921713829, + "learning_rate": 3.92801888413943e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13577936, + "step": 6944 + }, + { + "epoch": 0.9204771371769384, + "grad_norm": 2.924497127532959, + "learning_rate": 3.927733938105257e-06, + "loss": 0.0496, + "num_input_tokens_seen": 13579352, + "step": 6945 + }, + { + "epoch": 0.9206096752816435, + "grad_norm": 5.916689872741699, + "learning_rate": 3.927448964543389e-06, + "loss": 0.2416, + "num_input_tokens_seen": 13581160, + "step": 6946 + }, + { + "epoch": 0.9207422133863485, + "grad_norm": 9.098535537719727, + "learning_rate": 3.92716396345932e-06, + "loss": 0.3417, + "num_input_tokens_seen": 13583592, + "step": 6947 + }, + { + "epoch": 0.9208747514910537, + "grad_norm": 11.006823539733887, + "learning_rate": 3.9268789348585455e-06, + "loss": 0.326, + "num_input_tokens_seen": 13585384, + "step": 6948 + }, + { + "epoch": 0.9210072895957587, + "grad_norm": 7.09971284866333, + "learning_rate": 3.9265938787465594e-06, + "loss": 0.1841, + "num_input_tokens_seen": 13587448, + "step": 6949 + }, + { + "epoch": 0.9211398277004639, + "grad_norm": 7.298976898193359, + "learning_rate": 3.926308795128861e-06, + "loss": 0.1785, + "num_input_tokens_seen": 13589576, + "step": 6950 + }, + { + "epoch": 0.921272365805169, + "grad_norm": 0.08833196759223938, + "learning_rate": 3.926023684010945e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13590944, + "step": 6951 + }, + { + "epoch": 0.9214049039098741, + "grad_norm": 0.13017013669013977, + "learning_rate": 3.925738545398307e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13593672, + "step": 6952 + }, + { + "epoch": 0.9215374420145792, + "grad_norm": 0.034440673887729645, + "learning_rate": 3.9254533792964475e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13595304, + "step": 6953 + }, + { + "epoch": 0.9216699801192842, + "grad_norm": 0.629877507686615, + "learning_rate": 3.9251681857108625e-06, + "loss": 0.0037, + "num_input_tokens_seen": 13597096, + "step": 6954 + }, + { + "epoch": 0.9218025182239894, + "grad_norm": 6.357543468475342, + "learning_rate": 3.924882964647053e-06, + "loss": 0.1189, + "num_input_tokens_seen": 13598896, + "step": 6955 + }, + { + "epoch": 0.9219350563286945, + "grad_norm": 9.728635787963867, + "learning_rate": 3.924597716110516e-06, + "loss": 0.2992, + "num_input_tokens_seen": 13600880, + "step": 6956 + }, + { + "epoch": 0.9220675944333996, + "grad_norm": 1.617615818977356, + "learning_rate": 3.9243124401067525e-06, + "loss": 0.0066, + "num_input_tokens_seen": 13603784, + "step": 6957 + }, + { + "epoch": 0.9222001325381047, + "grad_norm": 10.881089210510254, + "learning_rate": 3.924027136641263e-06, + "loss": 0.2172, + "num_input_tokens_seen": 13605120, + "step": 6958 + }, + { + "epoch": 0.9223326706428098, + "grad_norm": 0.1734408736228943, + "learning_rate": 3.923741805719547e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13607344, + "step": 6959 + }, + { + "epoch": 0.9224652087475149, + "grad_norm": 0.1797647774219513, + "learning_rate": 3.923456447347108e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13609496, + "step": 6960 + }, + { + "epoch": 0.9225977468522201, + "grad_norm": 15.159379959106445, + "learning_rate": 3.923171061529446e-06, + "loss": 0.3704, + "num_input_tokens_seen": 13611760, + "step": 6961 + }, + { + "epoch": 0.9227302849569251, + "grad_norm": 10.4498291015625, + "learning_rate": 3.922885648272064e-06, + "loss": 0.4682, + "num_input_tokens_seen": 13614248, + "step": 6962 + }, + { + "epoch": 0.9228628230616303, + "grad_norm": 7.802560806274414, + "learning_rate": 3.922600207580466e-06, + "loss": 0.337, + "num_input_tokens_seen": 13616576, + "step": 6963 + }, + { + "epoch": 0.9229953611663353, + "grad_norm": 7.963098049163818, + "learning_rate": 3.922314739460153e-06, + "loss": 0.1244, + "num_input_tokens_seen": 13619224, + "step": 6964 + }, + { + "epoch": 0.9231278992710404, + "grad_norm": 0.27201947569847107, + "learning_rate": 3.922029243916632e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13620696, + "step": 6965 + }, + { + "epoch": 0.9232604373757455, + "grad_norm": 3.4067540168762207, + "learning_rate": 3.921743720955405e-06, + "loss": 0.1671, + "num_input_tokens_seen": 13622952, + "step": 6966 + }, + { + "epoch": 0.9233929754804506, + "grad_norm": 0.026021990925073624, + "learning_rate": 3.9214581705819796e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13624272, + "step": 6967 + }, + { + "epoch": 0.9235255135851558, + "grad_norm": 0.09226591140031815, + "learning_rate": 3.921172592801859e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13626216, + "step": 6968 + }, + { + "epoch": 0.9236580516898608, + "grad_norm": 8.331116676330566, + "learning_rate": 3.920886987620551e-06, + "loss": 0.1847, + "num_input_tokens_seen": 13628296, + "step": 6969 + }, + { + "epoch": 0.923790589794566, + "grad_norm": 0.6970057487487793, + "learning_rate": 3.920601355043561e-06, + "loss": 0.0087, + "num_input_tokens_seen": 13630360, + "step": 6970 + }, + { + "epoch": 0.923923127899271, + "grad_norm": 10.433618545532227, + "learning_rate": 3.9203156950763976e-06, + "loss": 0.1811, + "num_input_tokens_seen": 13632560, + "step": 6971 + }, + { + "epoch": 0.9240556660039762, + "grad_norm": 8.163779258728027, + "learning_rate": 3.920030007724568e-06, + "loss": 0.0472, + "num_input_tokens_seen": 13634144, + "step": 6972 + }, + { + "epoch": 0.9241882041086813, + "grad_norm": 6.9013671875, + "learning_rate": 3.91974429299358e-06, + "loss": 0.1587, + "num_input_tokens_seen": 13636912, + "step": 6973 + }, + { + "epoch": 0.9243207422133863, + "grad_norm": 0.06709427386522293, + "learning_rate": 3.919458550888942e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13638904, + "step": 6974 + }, + { + "epoch": 0.9244532803180915, + "grad_norm": 0.08862776309251785, + "learning_rate": 3.919172781416164e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13641288, + "step": 6975 + }, + { + "epoch": 0.9245858184227965, + "grad_norm": 6.023418426513672, + "learning_rate": 3.918886984580756e-06, + "loss": 0.3011, + "num_input_tokens_seen": 13643320, + "step": 6976 + }, + { + "epoch": 0.9247183565275017, + "grad_norm": 9.24990463256836, + "learning_rate": 3.918601160388228e-06, + "loss": 0.092, + "num_input_tokens_seen": 13645392, + "step": 6977 + }, + { + "epoch": 0.9248508946322067, + "grad_norm": 13.778376579284668, + "learning_rate": 3.9183153088440915e-06, + "loss": 0.4526, + "num_input_tokens_seen": 13647064, + "step": 6978 + }, + { + "epoch": 0.9249834327369119, + "grad_norm": 7.930911540985107, + "learning_rate": 3.918029429953857e-06, + "loss": 0.4003, + "num_input_tokens_seen": 13648720, + "step": 6979 + }, + { + "epoch": 0.925115970841617, + "grad_norm": 0.056612592190504074, + "learning_rate": 3.917743523723037e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13650040, + "step": 6980 + }, + { + "epoch": 0.925248508946322, + "grad_norm": 8.551873207092285, + "learning_rate": 3.917457590157143e-06, + "loss": 0.3409, + "num_input_tokens_seen": 13651656, + "step": 6981 + }, + { + "epoch": 0.9253810470510272, + "grad_norm": 8.11879825592041, + "learning_rate": 3.91717162926169e-06, + "loss": 0.2561, + "num_input_tokens_seen": 13654056, + "step": 6982 + }, + { + "epoch": 0.9255135851557322, + "grad_norm": 2.4395313262939453, + "learning_rate": 3.916885641042189e-06, + "loss": 0.0089, + "num_input_tokens_seen": 13657416, + "step": 6983 + }, + { + "epoch": 0.9256461232604374, + "grad_norm": 11.213218688964844, + "learning_rate": 3.916599625504156e-06, + "loss": 0.4637, + "num_input_tokens_seen": 13659624, + "step": 6984 + }, + { + "epoch": 0.9257786613651425, + "grad_norm": 0.7120232582092285, + "learning_rate": 3.916313582653105e-06, + "loss": 0.0042, + "num_input_tokens_seen": 13661208, + "step": 6985 + }, + { + "epoch": 0.9259111994698476, + "grad_norm": 4.323545455932617, + "learning_rate": 3.916027512494551e-06, + "loss": 0.1995, + "num_input_tokens_seen": 13662568, + "step": 6986 + }, + { + "epoch": 0.9260437375745527, + "grad_norm": 6.108663558959961, + "learning_rate": 3.91574141503401e-06, + "loss": 0.2203, + "num_input_tokens_seen": 13664360, + "step": 6987 + }, + { + "epoch": 0.9261762756792578, + "grad_norm": 9.732032775878906, + "learning_rate": 3.915455290276998e-06, + "loss": 0.4196, + "num_input_tokens_seen": 13666680, + "step": 6988 + }, + { + "epoch": 0.9263088137839629, + "grad_norm": 9.950480461120605, + "learning_rate": 3.915169138229032e-06, + "loss": 0.3896, + "num_input_tokens_seen": 13668816, + "step": 6989 + }, + { + "epoch": 0.9264413518886679, + "grad_norm": 0.8857958316802979, + "learning_rate": 3.914882958895627e-06, + "loss": 0.0054, + "num_input_tokens_seen": 13670576, + "step": 6990 + }, + { + "epoch": 0.9265738899933731, + "grad_norm": 4.835536003112793, + "learning_rate": 3.914596752282303e-06, + "loss": 0.2181, + "num_input_tokens_seen": 13672656, + "step": 6991 + }, + { + "epoch": 0.9267064280980782, + "grad_norm": 0.2453504353761673, + "learning_rate": 3.914310518394579e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13674432, + "step": 6992 + }, + { + "epoch": 0.9268389662027833, + "grad_norm": 11.459491729736328, + "learning_rate": 3.914024257237972e-06, + "loss": 0.3185, + "num_input_tokens_seen": 13676408, + "step": 6993 + }, + { + "epoch": 0.9269715043074884, + "grad_norm": 2.2056283950805664, + "learning_rate": 3.913737968818001e-06, + "loss": 0.0123, + "num_input_tokens_seen": 13677792, + "step": 6994 + }, + { + "epoch": 0.9271040424121935, + "grad_norm": 4.765780925750732, + "learning_rate": 3.913451653140187e-06, + "loss": 0.1351, + "num_input_tokens_seen": 13680032, + "step": 6995 + }, + { + "epoch": 0.9272365805168986, + "grad_norm": 3.8953423500061035, + "learning_rate": 3.9131653102100504e-06, + "loss": 0.1622, + "num_input_tokens_seen": 13682776, + "step": 6996 + }, + { + "epoch": 0.9273691186216038, + "grad_norm": 7.251965045928955, + "learning_rate": 3.912878940033111e-06, + "loss": 0.168, + "num_input_tokens_seen": 13684512, + "step": 6997 + }, + { + "epoch": 0.9275016567263088, + "grad_norm": 9.148533821105957, + "learning_rate": 3.912592542614892e-06, + "loss": 0.1936, + "num_input_tokens_seen": 13686728, + "step": 6998 + }, + { + "epoch": 0.927634194831014, + "grad_norm": 0.0448852963745594, + "learning_rate": 3.912306117960914e-06, + "loss": 0.0003, + "num_input_tokens_seen": 13688800, + "step": 6999 + }, + { + "epoch": 0.927766732935719, + "grad_norm": 1.0870826244354248, + "learning_rate": 3.9120196660767e-06, + "loss": 0.0078, + "num_input_tokens_seen": 13690712, + "step": 7000 + }, + { + "epoch": 0.9278992710404241, + "grad_norm": 5.96731424331665, + "learning_rate": 3.911733186967772e-06, + "loss": 0.1266, + "num_input_tokens_seen": 13692216, + "step": 7001 + }, + { + "epoch": 0.9280318091451292, + "grad_norm": 7.900094985961914, + "learning_rate": 3.911446680639654e-06, + "loss": 0.4551, + "num_input_tokens_seen": 13694384, + "step": 7002 + }, + { + "epoch": 0.9281643472498343, + "grad_norm": 16.05607032775879, + "learning_rate": 3.911160147097871e-06, + "loss": 0.3751, + "num_input_tokens_seen": 13695944, + "step": 7003 + }, + { + "epoch": 0.9282968853545395, + "grad_norm": 8.916208267211914, + "learning_rate": 3.9108735863479465e-06, + "loss": 0.3866, + "num_input_tokens_seen": 13698784, + "step": 7004 + }, + { + "epoch": 0.9284294234592445, + "grad_norm": 12.39218521118164, + "learning_rate": 3.910586998395406e-06, + "loss": 0.5056, + "num_input_tokens_seen": 13700672, + "step": 7005 + }, + { + "epoch": 0.9285619615639497, + "grad_norm": 0.11652123928070068, + "learning_rate": 3.910300383245775e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13702056, + "step": 7006 + }, + { + "epoch": 0.9286944996686547, + "grad_norm": 3.1840665340423584, + "learning_rate": 3.9100137409045805e-06, + "loss": 0.0698, + "num_input_tokens_seen": 13703640, + "step": 7007 + }, + { + "epoch": 0.9288270377733598, + "grad_norm": 14.369851112365723, + "learning_rate": 3.909727071377347e-06, + "loss": 0.4635, + "num_input_tokens_seen": 13706096, + "step": 7008 + }, + { + "epoch": 0.928959575878065, + "grad_norm": 2.8131906986236572, + "learning_rate": 3.9094403746696045e-06, + "loss": 0.0565, + "num_input_tokens_seen": 13707768, + "step": 7009 + }, + { + "epoch": 0.92909211398277, + "grad_norm": 4.054993629455566, + "learning_rate": 3.909153650786878e-06, + "loss": 0.1131, + "num_input_tokens_seen": 13710184, + "step": 7010 + }, + { + "epoch": 0.9292246520874752, + "grad_norm": 7.398223876953125, + "learning_rate": 3.908866899734697e-06, + "loss": 0.2667, + "num_input_tokens_seen": 13712560, + "step": 7011 + }, + { + "epoch": 0.9293571901921802, + "grad_norm": 3.997837543487549, + "learning_rate": 3.908580121518591e-06, + "loss": 0.0315, + "num_input_tokens_seen": 13714456, + "step": 7012 + }, + { + "epoch": 0.9294897282968854, + "grad_norm": 4.207622051239014, + "learning_rate": 3.908293316144089e-06, + "loss": 0.0598, + "num_input_tokens_seen": 13716440, + "step": 7013 + }, + { + "epoch": 0.9296222664015904, + "grad_norm": 0.13573262095451355, + "learning_rate": 3.908006483616719e-06, + "loss": 0.001, + "num_input_tokens_seen": 13717680, + "step": 7014 + }, + { + "epoch": 0.9297548045062956, + "grad_norm": 0.1665526032447815, + "learning_rate": 3.907719623942014e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13718936, + "step": 7015 + }, + { + "epoch": 0.9298873426110007, + "grad_norm": 2.3353826999664307, + "learning_rate": 3.907432737125502e-06, + "loss": 0.0489, + "num_input_tokens_seen": 13720944, + "step": 7016 + }, + { + "epoch": 0.9300198807157057, + "grad_norm": 9.270376205444336, + "learning_rate": 3.907145823172717e-06, + "loss": 0.4772, + "num_input_tokens_seen": 13722992, + "step": 7017 + }, + { + "epoch": 0.9301524188204109, + "grad_norm": 6.651823997497559, + "learning_rate": 3.9068588820891896e-06, + "loss": 0.0963, + "num_input_tokens_seen": 13725520, + "step": 7018 + }, + { + "epoch": 0.9302849569251159, + "grad_norm": 4.772802829742432, + "learning_rate": 3.906571913880452e-06, + "loss": 0.1525, + "num_input_tokens_seen": 13727512, + "step": 7019 + }, + { + "epoch": 0.9304174950298211, + "grad_norm": 6.249307155609131, + "learning_rate": 3.9062849185520375e-06, + "loss": 0.0749, + "num_input_tokens_seen": 13729920, + "step": 7020 + }, + { + "epoch": 0.9305500331345262, + "grad_norm": 6.4778265953063965, + "learning_rate": 3.90599789610948e-06, + "loss": 0.205, + "num_input_tokens_seen": 13732936, + "step": 7021 + }, + { + "epoch": 0.9306825712392313, + "grad_norm": 7.849071025848389, + "learning_rate": 3.905710846558314e-06, + "loss": 0.111, + "num_input_tokens_seen": 13734232, + "step": 7022 + }, + { + "epoch": 0.9308151093439364, + "grad_norm": 6.195882797241211, + "learning_rate": 3.905423769904072e-06, + "loss": 0.1181, + "num_input_tokens_seen": 13736360, + "step": 7023 + }, + { + "epoch": 0.9309476474486414, + "grad_norm": 4.443562984466553, + "learning_rate": 3.90513666615229e-06, + "loss": 0.0656, + "num_input_tokens_seen": 13738496, + "step": 7024 + }, + { + "epoch": 0.9310801855533466, + "grad_norm": 0.2674237787723541, + "learning_rate": 3.904849535308504e-06, + "loss": 0.002, + "num_input_tokens_seen": 13739872, + "step": 7025 + }, + { + "epoch": 0.9312127236580517, + "grad_norm": 0.18563418090343475, + "learning_rate": 3.90456237737825e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13740984, + "step": 7026 + }, + { + "epoch": 0.9313452617627568, + "grad_norm": 0.4591938853263855, + "learning_rate": 3.904275192367064e-06, + "loss": 0.003, + "num_input_tokens_seen": 13743832, + "step": 7027 + }, + { + "epoch": 0.9314777998674619, + "grad_norm": 8.741841316223145, + "learning_rate": 3.903987980280483e-06, + "loss": 0.1743, + "num_input_tokens_seen": 13746368, + "step": 7028 + }, + { + "epoch": 0.931610337972167, + "grad_norm": 7.380860328674316, + "learning_rate": 3.903700741124047e-06, + "loss": 0.4407, + "num_input_tokens_seen": 13748800, + "step": 7029 + }, + { + "epoch": 0.9317428760768721, + "grad_norm": 4.252569198608398, + "learning_rate": 3.903413474903291e-06, + "loss": 0.1617, + "num_input_tokens_seen": 13750712, + "step": 7030 + }, + { + "epoch": 0.9318754141815772, + "grad_norm": 0.3303375542163849, + "learning_rate": 3.903126181623755e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13752424, + "step": 7031 + }, + { + "epoch": 0.9320079522862823, + "grad_norm": 0.12293339520692825, + "learning_rate": 3.902838861290979e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13753944, + "step": 7032 + }, + { + "epoch": 0.9321404903909875, + "grad_norm": 3.9423863887786865, + "learning_rate": 3.902551513910502e-06, + "loss": 0.1561, + "num_input_tokens_seen": 13755752, + "step": 7033 + }, + { + "epoch": 0.9322730284956925, + "grad_norm": 0.35025668144226074, + "learning_rate": 3.902264139487863e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13757216, + "step": 7034 + }, + { + "epoch": 0.9324055666003976, + "grad_norm": 12.962719917297363, + "learning_rate": 3.901976738028605e-06, + "loss": 0.2977, + "num_input_tokens_seen": 13759400, + "step": 7035 + }, + { + "epoch": 0.9325381047051027, + "grad_norm": 13.800041198730469, + "learning_rate": 3.9016893095382695e-06, + "loss": 0.3665, + "num_input_tokens_seen": 13760664, + "step": 7036 + }, + { + "epoch": 0.9326706428098078, + "grad_norm": 13.342743873596191, + "learning_rate": 3.901401854022395e-06, + "loss": 0.4706, + "num_input_tokens_seen": 13763200, + "step": 7037 + }, + { + "epoch": 0.932803180914513, + "grad_norm": 0.1290958970785141, + "learning_rate": 3.901114371486527e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13765248, + "step": 7038 + }, + { + "epoch": 0.932935719019218, + "grad_norm": 17.582426071166992, + "learning_rate": 3.900826861936207e-06, + "loss": 0.5555, + "num_input_tokens_seen": 13767536, + "step": 7039 + }, + { + "epoch": 0.9330682571239232, + "grad_norm": 1.9207929372787476, + "learning_rate": 3.900539325376978e-06, + "loss": 0.028, + "num_input_tokens_seen": 13768904, + "step": 7040 + }, + { + "epoch": 0.9332007952286282, + "grad_norm": 10.582015037536621, + "learning_rate": 3.900251761814386e-06, + "loss": 0.2379, + "num_input_tokens_seen": 13769976, + "step": 7041 + }, + { + "epoch": 0.9333333333333333, + "grad_norm": 5.8943376541137695, + "learning_rate": 3.899964171253974e-06, + "loss": 0.1111, + "num_input_tokens_seen": 13772440, + "step": 7042 + }, + { + "epoch": 0.9334658714380384, + "grad_norm": 15.492154121398926, + "learning_rate": 3.899676553701286e-06, + "loss": 0.397, + "num_input_tokens_seen": 13774080, + "step": 7043 + }, + { + "epoch": 0.9335984095427435, + "grad_norm": 0.21643370389938354, + "learning_rate": 3.8993889091618695e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13776240, + "step": 7044 + }, + { + "epoch": 0.9337309476474487, + "grad_norm": 13.893548011779785, + "learning_rate": 3.899101237641268e-06, + "loss": 0.4162, + "num_input_tokens_seen": 13777984, + "step": 7045 + }, + { + "epoch": 0.9338634857521537, + "grad_norm": 6.212873935699463, + "learning_rate": 3.898813539145031e-06, + "loss": 0.15, + "num_input_tokens_seen": 13779648, + "step": 7046 + }, + { + "epoch": 0.9339960238568589, + "grad_norm": 0.47066769003868103, + "learning_rate": 3.898525813678703e-06, + "loss": 0.0035, + "num_input_tokens_seen": 13781368, + "step": 7047 + }, + { + "epoch": 0.9341285619615639, + "grad_norm": 0.5407800078392029, + "learning_rate": 3.8982380612478335e-06, + "loss": 0.0039, + "num_input_tokens_seen": 13782520, + "step": 7048 + }, + { + "epoch": 0.9342611000662691, + "grad_norm": 0.5224636197090149, + "learning_rate": 3.897950281857969e-06, + "loss": 0.0035, + "num_input_tokens_seen": 13784160, + "step": 7049 + }, + { + "epoch": 0.9343936381709742, + "grad_norm": 0.786259651184082, + "learning_rate": 3.897662475514658e-06, + "loss": 0.0058, + "num_input_tokens_seen": 13785464, + "step": 7050 + }, + { + "epoch": 0.9345261762756792, + "grad_norm": 12.074559211730957, + "learning_rate": 3.897374642223452e-06, + "loss": 0.2928, + "num_input_tokens_seen": 13787080, + "step": 7051 + }, + { + "epoch": 0.9346587143803844, + "grad_norm": 7.477062225341797, + "learning_rate": 3.8970867819898975e-06, + "loss": 0.3001, + "num_input_tokens_seen": 13789264, + "step": 7052 + }, + { + "epoch": 0.9347912524850894, + "grad_norm": 6.711886405944824, + "learning_rate": 3.896798894819546e-06, + "loss": 0.053, + "num_input_tokens_seen": 13791128, + "step": 7053 + }, + { + "epoch": 0.9349237905897946, + "grad_norm": 13.31130599975586, + "learning_rate": 3.896510980717949e-06, + "loss": 0.3118, + "num_input_tokens_seen": 13793592, + "step": 7054 + }, + { + "epoch": 0.9350563286944996, + "grad_norm": 0.2863091230392456, + "learning_rate": 3.896223039690656e-06, + "loss": 0.002, + "num_input_tokens_seen": 13795264, + "step": 7055 + }, + { + "epoch": 0.9351888667992048, + "grad_norm": 0.13115935027599335, + "learning_rate": 3.89593507174322e-06, + "loss": 0.001, + "num_input_tokens_seen": 13797440, + "step": 7056 + }, + { + "epoch": 0.9353214049039099, + "grad_norm": 11.746980667114258, + "learning_rate": 3.895647076881193e-06, + "loss": 0.2542, + "num_input_tokens_seen": 13799016, + "step": 7057 + }, + { + "epoch": 0.935453943008615, + "grad_norm": 0.19306576251983643, + "learning_rate": 3.895359055110127e-06, + "loss": 0.0014, + "num_input_tokens_seen": 13800768, + "step": 7058 + }, + { + "epoch": 0.9355864811133201, + "grad_norm": 1.3046098947525024, + "learning_rate": 3.895071006435577e-06, + "loss": 0.0327, + "num_input_tokens_seen": 13801968, + "step": 7059 + }, + { + "epoch": 0.9357190192180251, + "grad_norm": 11.87197494506836, + "learning_rate": 3.8947829308630945e-06, + "loss": 0.3132, + "num_input_tokens_seen": 13804512, + "step": 7060 + }, + { + "epoch": 0.9358515573227303, + "grad_norm": 0.12728971242904663, + "learning_rate": 3.894494828398235e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13806104, + "step": 7061 + }, + { + "epoch": 0.9359840954274354, + "grad_norm": 12.821535110473633, + "learning_rate": 3.8942066990465535e-06, + "loss": 0.2944, + "num_input_tokens_seen": 13808272, + "step": 7062 + }, + { + "epoch": 0.9361166335321405, + "grad_norm": 0.188517227768898, + "learning_rate": 3.893918542813605e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13810824, + "step": 7063 + }, + { + "epoch": 0.9362491716368456, + "grad_norm": 18.274410247802734, + "learning_rate": 3.893630359704945e-06, + "loss": 0.5839, + "num_input_tokens_seen": 13813304, + "step": 7064 + }, + { + "epoch": 0.9363817097415507, + "grad_norm": 13.734169006347656, + "learning_rate": 3.89334214972613e-06, + "loss": 0.7593, + "num_input_tokens_seen": 13815264, + "step": 7065 + }, + { + "epoch": 0.9365142478462558, + "grad_norm": 1.042287826538086, + "learning_rate": 3.893053912882718e-06, + "loss": 0.0067, + "num_input_tokens_seen": 13817312, + "step": 7066 + }, + { + "epoch": 0.9366467859509608, + "grad_norm": 7.111483097076416, + "learning_rate": 3.892765649180265e-06, + "loss": 0.3247, + "num_input_tokens_seen": 13819280, + "step": 7067 + }, + { + "epoch": 0.936779324055666, + "grad_norm": 8.170369148254395, + "learning_rate": 3.89247735862433e-06, + "loss": 0.1589, + "num_input_tokens_seen": 13821488, + "step": 7068 + }, + { + "epoch": 0.9369118621603711, + "grad_norm": 10.619584083557129, + "learning_rate": 3.89218904122047e-06, + "loss": 0.2953, + "num_input_tokens_seen": 13823288, + "step": 7069 + }, + { + "epoch": 0.9370444002650762, + "grad_norm": 4.770723342895508, + "learning_rate": 3.891900696974245e-06, + "loss": 0.1214, + "num_input_tokens_seen": 13824808, + "step": 7070 + }, + { + "epoch": 0.9371769383697813, + "grad_norm": 18.4471435546875, + "learning_rate": 3.891612325891215e-06, + "loss": 0.8585, + "num_input_tokens_seen": 13828000, + "step": 7071 + }, + { + "epoch": 0.9373094764744864, + "grad_norm": 12.26531982421875, + "learning_rate": 3.89132392797694e-06, + "loss": 0.4587, + "num_input_tokens_seen": 13829896, + "step": 7072 + }, + { + "epoch": 0.9374420145791915, + "grad_norm": 0.14099828898906708, + "learning_rate": 3.891035503236978e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13833472, + "step": 7073 + }, + { + "epoch": 0.9375745526838967, + "grad_norm": 10.49266529083252, + "learning_rate": 3.890747051676893e-06, + "loss": 0.3579, + "num_input_tokens_seen": 13835488, + "step": 7074 + }, + { + "epoch": 0.9377070907886017, + "grad_norm": 7.94146728515625, + "learning_rate": 3.890458573302246e-06, + "loss": 0.2631, + "num_input_tokens_seen": 13837600, + "step": 7075 + }, + { + "epoch": 0.9378396288933069, + "grad_norm": 5.770942211151123, + "learning_rate": 3.890170068118597e-06, + "loss": 0.042, + "num_input_tokens_seen": 13840240, + "step": 7076 + }, + { + "epoch": 0.9379721669980119, + "grad_norm": 3.6708078384399414, + "learning_rate": 3.889881536131511e-06, + "loss": 0.0825, + "num_input_tokens_seen": 13843984, + "step": 7077 + }, + { + "epoch": 0.938104705102717, + "grad_norm": 2.489748477935791, + "learning_rate": 3.88959297734655e-06, + "loss": 0.0811, + "num_input_tokens_seen": 13845864, + "step": 7078 + }, + { + "epoch": 0.9382372432074222, + "grad_norm": 11.491775512695312, + "learning_rate": 3.8893043917692776e-06, + "loss": 0.3878, + "num_input_tokens_seen": 13848720, + "step": 7079 + }, + { + "epoch": 0.9383697813121272, + "grad_norm": 9.523656845092773, + "learning_rate": 3.889015779405259e-06, + "loss": 0.3115, + "num_input_tokens_seen": 13850968, + "step": 7080 + }, + { + "epoch": 0.9385023194168324, + "grad_norm": 8.847926139831543, + "learning_rate": 3.888727140260056e-06, + "loss": 0.2503, + "num_input_tokens_seen": 13852792, + "step": 7081 + }, + { + "epoch": 0.9386348575215374, + "grad_norm": 5.771275997161865, + "learning_rate": 3.888438474339237e-06, + "loss": 0.2388, + "num_input_tokens_seen": 13854864, + "step": 7082 + }, + { + "epoch": 0.9387673956262426, + "grad_norm": 13.877067565917969, + "learning_rate": 3.888149781648367e-06, + "loss": 0.358, + "num_input_tokens_seen": 13858016, + "step": 7083 + }, + { + "epoch": 0.9388999337309476, + "grad_norm": 16.063514709472656, + "learning_rate": 3.88786106219301e-06, + "loss": 0.5331, + "num_input_tokens_seen": 13859632, + "step": 7084 + }, + { + "epoch": 0.9390324718356527, + "grad_norm": 0.07563447207212448, + "learning_rate": 3.887572315978735e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13860856, + "step": 7085 + }, + { + "epoch": 0.9391650099403579, + "grad_norm": 0.11302629113197327, + "learning_rate": 3.887283543011109e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13863552, + "step": 7086 + }, + { + "epoch": 0.9392975480450629, + "grad_norm": 2.5225846767425537, + "learning_rate": 3.886994743295699e-06, + "loss": 0.0342, + "num_input_tokens_seen": 13867112, + "step": 7087 + }, + { + "epoch": 0.9394300861497681, + "grad_norm": 12.152167320251465, + "learning_rate": 3.8867059168380725e-06, + "loss": 0.4418, + "num_input_tokens_seen": 13869416, + "step": 7088 + }, + { + "epoch": 0.9395626242544731, + "grad_norm": 7.963101387023926, + "learning_rate": 3.8864170636438004e-06, + "loss": 0.1687, + "num_input_tokens_seen": 13871400, + "step": 7089 + }, + { + "epoch": 0.9396951623591783, + "grad_norm": 7.331704616546631, + "learning_rate": 3.88612818371845e-06, + "loss": 0.2273, + "num_input_tokens_seen": 13872920, + "step": 7090 + }, + { + "epoch": 0.9398277004638834, + "grad_norm": 14.124824523925781, + "learning_rate": 3.885839277067593e-06, + "loss": 0.4864, + "num_input_tokens_seen": 13874760, + "step": 7091 + }, + { + "epoch": 0.9399602385685885, + "grad_norm": 6.634252071380615, + "learning_rate": 3.885550343696799e-06, + "loss": 0.1185, + "num_input_tokens_seen": 13877496, + "step": 7092 + }, + { + "epoch": 0.9400927766732936, + "grad_norm": 0.1869451105594635, + "learning_rate": 3.8852613836116375e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13878856, + "step": 7093 + }, + { + "epoch": 0.9402253147779986, + "grad_norm": 8.83353328704834, + "learning_rate": 3.884972396817681e-06, + "loss": 0.1767, + "num_input_tokens_seen": 13880912, + "step": 7094 + }, + { + "epoch": 0.9403578528827038, + "grad_norm": 0.2119373083114624, + "learning_rate": 3.884683383320501e-06, + "loss": 0.0016, + "num_input_tokens_seen": 13882640, + "step": 7095 + }, + { + "epoch": 0.9404903909874088, + "grad_norm": 11.178598403930664, + "learning_rate": 3.884394343125671e-06, + "loss": 0.245, + "num_input_tokens_seen": 13885160, + "step": 7096 + }, + { + "epoch": 0.940622929092114, + "grad_norm": 10.791341781616211, + "learning_rate": 3.884105276238762e-06, + "loss": 0.2045, + "num_input_tokens_seen": 13887952, + "step": 7097 + }, + { + "epoch": 0.9407554671968191, + "grad_norm": 6.683265209197998, + "learning_rate": 3.88381618266535e-06, + "loss": 0.1451, + "num_input_tokens_seen": 13890352, + "step": 7098 + }, + { + "epoch": 0.9408880053015242, + "grad_norm": 11.57684326171875, + "learning_rate": 3.883527062411005e-06, + "loss": 0.2712, + "num_input_tokens_seen": 13892240, + "step": 7099 + }, + { + "epoch": 0.9410205434062293, + "grad_norm": 8.927364349365234, + "learning_rate": 3.883237915481306e-06, + "loss": 0.1335, + "num_input_tokens_seen": 13894328, + "step": 7100 + }, + { + "epoch": 0.9411530815109344, + "grad_norm": 0.3892424404621124, + "learning_rate": 3.882948741881824e-06, + "loss": 0.0029, + "num_input_tokens_seen": 13896472, + "step": 7101 + }, + { + "epoch": 0.9412856196156395, + "grad_norm": 7.853362083435059, + "learning_rate": 3.882659541618138e-06, + "loss": 0.1866, + "num_input_tokens_seen": 13898704, + "step": 7102 + }, + { + "epoch": 0.9414181577203447, + "grad_norm": 8.738165855407715, + "learning_rate": 3.8823703146958214e-06, + "loss": 0.3392, + "num_input_tokens_seen": 13900128, + "step": 7103 + }, + { + "epoch": 0.9415506958250497, + "grad_norm": 7.839698791503906, + "learning_rate": 3.882081061120451e-06, + "loss": 0.1573, + "num_input_tokens_seen": 13903448, + "step": 7104 + }, + { + "epoch": 0.9416832339297548, + "grad_norm": 0.2703794240951538, + "learning_rate": 3.881791780897604e-06, + "loss": 0.002, + "num_input_tokens_seen": 13905176, + "step": 7105 + }, + { + "epoch": 0.9418157720344599, + "grad_norm": 19.21526336669922, + "learning_rate": 3.88150247403286e-06, + "loss": 0.8292, + "num_input_tokens_seen": 13908224, + "step": 7106 + }, + { + "epoch": 0.941948310139165, + "grad_norm": 0.7847921848297119, + "learning_rate": 3.8812131405317936e-06, + "loss": 0.0057, + "num_input_tokens_seen": 13909400, + "step": 7107 + }, + { + "epoch": 0.9420808482438701, + "grad_norm": 17.949665069580078, + "learning_rate": 3.880923780399986e-06, + "loss": 0.8185, + "num_input_tokens_seen": 13911488, + "step": 7108 + }, + { + "epoch": 0.9422133863485752, + "grad_norm": 0.9618986248970032, + "learning_rate": 3.880634393643014e-06, + "loss": 0.0069, + "num_input_tokens_seen": 13913320, + "step": 7109 + }, + { + "epoch": 0.9423459244532804, + "grad_norm": 0.6985360383987427, + "learning_rate": 3.88034498026646e-06, + "loss": 0.0043, + "num_input_tokens_seen": 13916048, + "step": 7110 + }, + { + "epoch": 0.9424784625579854, + "grad_norm": 5.417811870574951, + "learning_rate": 3.880055540275902e-06, + "loss": 0.0629, + "num_input_tokens_seen": 13918696, + "step": 7111 + }, + { + "epoch": 0.9426110006626905, + "grad_norm": 0.7126796841621399, + "learning_rate": 3.8797660736769205e-06, + "loss": 0.005, + "num_input_tokens_seen": 13920704, + "step": 7112 + }, + { + "epoch": 0.9427435387673956, + "grad_norm": 10.946029663085938, + "learning_rate": 3.8794765804750974e-06, + "loss": 0.3829, + "num_input_tokens_seen": 13922800, + "step": 7113 + }, + { + "epoch": 0.9428760768721007, + "grad_norm": 0.6073399782180786, + "learning_rate": 3.879187060676015e-06, + "loss": 0.0042, + "num_input_tokens_seen": 13924992, + "step": 7114 + }, + { + "epoch": 0.9430086149768059, + "grad_norm": 6.484592437744141, + "learning_rate": 3.878897514285254e-06, + "loss": 0.083, + "num_input_tokens_seen": 13926256, + "step": 7115 + }, + { + "epoch": 0.9431411530815109, + "grad_norm": 6.664862155914307, + "learning_rate": 3.878607941308397e-06, + "loss": 0.1241, + "num_input_tokens_seen": 13928008, + "step": 7116 + }, + { + "epoch": 0.9432736911862161, + "grad_norm": 7.631915092468262, + "learning_rate": 3.878318341751029e-06, + "loss": 0.2026, + "num_input_tokens_seen": 13929680, + "step": 7117 + }, + { + "epoch": 0.9434062292909211, + "grad_norm": 8.696460723876953, + "learning_rate": 3.878028715618732e-06, + "loss": 0.066, + "num_input_tokens_seen": 13931512, + "step": 7118 + }, + { + "epoch": 0.9435387673956263, + "grad_norm": 0.03154376521706581, + "learning_rate": 3.877739062917091e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13932608, + "step": 7119 + }, + { + "epoch": 0.9436713055003313, + "grad_norm": 0.05518821254372597, + "learning_rate": 3.87744938365169e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13934160, + "step": 7120 + }, + { + "epoch": 0.9438038436050364, + "grad_norm": 0.021976392716169357, + "learning_rate": 3.8771596778281145e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13935528, + "step": 7121 + }, + { + "epoch": 0.9439363817097416, + "grad_norm": 11.469886779785156, + "learning_rate": 3.876869945451951e-06, + "loss": 0.4154, + "num_input_tokens_seen": 13937656, + "step": 7122 + }, + { + "epoch": 0.9440689198144466, + "grad_norm": 4.259563446044922, + "learning_rate": 3.876580186528784e-06, + "loss": 0.0524, + "num_input_tokens_seen": 13939592, + "step": 7123 + }, + { + "epoch": 0.9442014579191518, + "grad_norm": 8.293495178222656, + "learning_rate": 3.876290401064202e-06, + "loss": 0.2282, + "num_input_tokens_seen": 13941464, + "step": 7124 + }, + { + "epoch": 0.9443339960238568, + "grad_norm": 0.025867924094200134, + "learning_rate": 3.876000589063792e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13943432, + "step": 7125 + }, + { + "epoch": 0.944466534128562, + "grad_norm": 0.05256165564060211, + "learning_rate": 3.8757107505331414e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13945576, + "step": 7126 + }, + { + "epoch": 0.9445990722332671, + "grad_norm": 0.03770623728632927, + "learning_rate": 3.875420885477839e-06, + "loss": 0.0003, + "num_input_tokens_seen": 13947552, + "step": 7127 + }, + { + "epoch": 0.9447316103379721, + "grad_norm": 2.8745107650756836, + "learning_rate": 3.875130993903471e-06, + "loss": 0.024, + "num_input_tokens_seen": 13950752, + "step": 7128 + }, + { + "epoch": 0.9448641484426773, + "grad_norm": 9.824553489685059, + "learning_rate": 3.874841075815631e-06, + "loss": 0.2826, + "num_input_tokens_seen": 13952560, + "step": 7129 + }, + { + "epoch": 0.9449966865473823, + "grad_norm": 4.166808128356934, + "learning_rate": 3.874551131219905e-06, + "loss": 0.0944, + "num_input_tokens_seen": 13954272, + "step": 7130 + }, + { + "epoch": 0.9451292246520875, + "grad_norm": 21.765663146972656, + "learning_rate": 3.874261160121886e-06, + "loss": 0.9576, + "num_input_tokens_seen": 13956280, + "step": 7131 + }, + { + "epoch": 0.9452617627567925, + "grad_norm": 16.836719512939453, + "learning_rate": 3.873971162527163e-06, + "loss": 0.4611, + "num_input_tokens_seen": 13958232, + "step": 7132 + }, + { + "epoch": 0.9453943008614977, + "grad_norm": 2.8087234497070312, + "learning_rate": 3.8736811384413286e-06, + "loss": 0.0304, + "num_input_tokens_seen": 13959728, + "step": 7133 + }, + { + "epoch": 0.9455268389662028, + "grad_norm": 4.472196102142334, + "learning_rate": 3.873391087869974e-06, + "loss": 0.1159, + "num_input_tokens_seen": 13961888, + "step": 7134 + }, + { + "epoch": 0.9456593770709079, + "grad_norm": 0.1440078169107437, + "learning_rate": 3.873101010818692e-06, + "loss": 0.001, + "num_input_tokens_seen": 13963512, + "step": 7135 + }, + { + "epoch": 0.945791915175613, + "grad_norm": 8.4107666015625, + "learning_rate": 3.872810907293075e-06, + "loss": 0.1642, + "num_input_tokens_seen": 13965048, + "step": 7136 + }, + { + "epoch": 0.945924453280318, + "grad_norm": 12.829103469848633, + "learning_rate": 3.872520777298717e-06, + "loss": 0.4506, + "num_input_tokens_seen": 13966944, + "step": 7137 + }, + { + "epoch": 0.9460569913850232, + "grad_norm": 12.858433723449707, + "learning_rate": 3.872230620841211e-06, + "loss": 0.4554, + "num_input_tokens_seen": 13968688, + "step": 7138 + }, + { + "epoch": 0.9461895294897283, + "grad_norm": 8.229705810546875, + "learning_rate": 3.871940437926153e-06, + "loss": 0.2522, + "num_input_tokens_seen": 13970744, + "step": 7139 + }, + { + "epoch": 0.9463220675944334, + "grad_norm": 6.4407525062561035, + "learning_rate": 3.871650228559136e-06, + "loss": 0.0445, + "num_input_tokens_seen": 13972032, + "step": 7140 + }, + { + "epoch": 0.9464546056991385, + "grad_norm": 11.054377555847168, + "learning_rate": 3.871359992745756e-06, + "loss": 0.4757, + "num_input_tokens_seen": 13973992, + "step": 7141 + }, + { + "epoch": 0.9465871438038436, + "grad_norm": 0.0927763506770134, + "learning_rate": 3.87106973049161e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13974888, + "step": 7142 + }, + { + "epoch": 0.9467196819085487, + "grad_norm": 1.5007574558258057, + "learning_rate": 3.870779441802294e-06, + "loss": 0.0107, + "num_input_tokens_seen": 13976736, + "step": 7143 + }, + { + "epoch": 0.9468522200132539, + "grad_norm": 4.635882377624512, + "learning_rate": 3.870489126683404e-06, + "loss": 0.1144, + "num_input_tokens_seen": 13978448, + "step": 7144 + }, + { + "epoch": 0.9469847581179589, + "grad_norm": 2.254204511642456, + "learning_rate": 3.870198785140539e-06, + "loss": 0.0213, + "num_input_tokens_seen": 13980184, + "step": 7145 + }, + { + "epoch": 0.947117296222664, + "grad_norm": 0.20676346123218536, + "learning_rate": 3.869908417179295e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13982160, + "step": 7146 + }, + { + "epoch": 0.9472498343273691, + "grad_norm": 0.3083372116088867, + "learning_rate": 3.869618022805272e-06, + "loss": 0.0022, + "num_input_tokens_seen": 13984376, + "step": 7147 + }, + { + "epoch": 0.9473823724320742, + "grad_norm": 4.793144702911377, + "learning_rate": 3.86932760202407e-06, + "loss": 0.0702, + "num_input_tokens_seen": 13986304, + "step": 7148 + }, + { + "epoch": 0.9475149105367793, + "grad_norm": 9.222419738769531, + "learning_rate": 3.8690371548412854e-06, + "loss": 0.0848, + "num_input_tokens_seen": 13988200, + "step": 7149 + }, + { + "epoch": 0.9476474486414844, + "grad_norm": 5.728933334350586, + "learning_rate": 3.868746681262521e-06, + "loss": 0.0799, + "num_input_tokens_seen": 13989800, + "step": 7150 + }, + { + "epoch": 0.9477799867461896, + "grad_norm": 0.1714426875114441, + "learning_rate": 3.868456181293376e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13991240, + "step": 7151 + }, + { + "epoch": 0.9479125248508946, + "grad_norm": 10.58035945892334, + "learning_rate": 3.868165654939452e-06, + "loss": 0.3217, + "num_input_tokens_seen": 13992768, + "step": 7152 + }, + { + "epoch": 0.9480450629555998, + "grad_norm": 0.12699900567531586, + "learning_rate": 3.86787510220635e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13994456, + "step": 7153 + }, + { + "epoch": 0.9481776010603048, + "grad_norm": 0.034609898924827576, + "learning_rate": 3.867584523099673e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13995816, + "step": 7154 + }, + { + "epoch": 0.94831013916501, + "grad_norm": 0.3747157156467438, + "learning_rate": 3.867293917625022e-06, + "loss": 0.0041, + "num_input_tokens_seen": 13997728, + "step": 7155 + }, + { + "epoch": 0.9484426772697151, + "grad_norm": 7.815901279449463, + "learning_rate": 3.867003285788001e-06, + "loss": 0.173, + "num_input_tokens_seen": 13999840, + "step": 7156 + }, + { + "epoch": 0.9485752153744201, + "grad_norm": 0.10273309051990509, + "learning_rate": 3.866712627594215e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14001848, + "step": 7157 + }, + { + "epoch": 0.9487077534791253, + "grad_norm": 0.4167424738407135, + "learning_rate": 3.8664219430492664e-06, + "loss": 0.0031, + "num_input_tokens_seen": 14003488, + "step": 7158 + }, + { + "epoch": 0.9488402915838303, + "grad_norm": 8.23000431060791, + "learning_rate": 3.866131232158759e-06, + "loss": 0.3109, + "num_input_tokens_seen": 14005800, + "step": 7159 + }, + { + "epoch": 0.9489728296885355, + "grad_norm": 8.696732521057129, + "learning_rate": 3.8658404949283e-06, + "loss": 0.2418, + "num_input_tokens_seen": 14007760, + "step": 7160 + }, + { + "epoch": 0.9491053677932405, + "grad_norm": 15.127118110656738, + "learning_rate": 3.865549731363493e-06, + "loss": 0.5056, + "num_input_tokens_seen": 14009344, + "step": 7161 + }, + { + "epoch": 0.9492379058979457, + "grad_norm": 15.005428314208984, + "learning_rate": 3.865258941469946e-06, + "loss": 0.5758, + "num_input_tokens_seen": 14011248, + "step": 7162 + }, + { + "epoch": 0.9493704440026508, + "grad_norm": 5.8355607986450195, + "learning_rate": 3.864968125253264e-06, + "loss": 0.1534, + "num_input_tokens_seen": 14013160, + "step": 7163 + }, + { + "epoch": 0.9495029821073558, + "grad_norm": 10.387696266174316, + "learning_rate": 3.864677282719056e-06, + "loss": 0.1443, + "num_input_tokens_seen": 14015896, + "step": 7164 + }, + { + "epoch": 0.949635520212061, + "grad_norm": 5.56615686416626, + "learning_rate": 3.864386413872928e-06, + "loss": 0.1462, + "num_input_tokens_seen": 14017856, + "step": 7165 + }, + { + "epoch": 0.949768058316766, + "grad_norm": 8.612417221069336, + "learning_rate": 3.864095518720489e-06, + "loss": 0.1314, + "num_input_tokens_seen": 14019808, + "step": 7166 + }, + { + "epoch": 0.9499005964214712, + "grad_norm": 9.724380493164062, + "learning_rate": 3.863804597267346e-06, + "loss": 0.2438, + "num_input_tokens_seen": 14022152, + "step": 7167 + }, + { + "epoch": 0.9500331345261763, + "grad_norm": 10.189743041992188, + "learning_rate": 3.86351364951911e-06, + "loss": 0.1932, + "num_input_tokens_seen": 14024544, + "step": 7168 + }, + { + "epoch": 0.9501656726308814, + "grad_norm": 10.015031814575195, + "learning_rate": 3.863222675481392e-06, + "loss": 0.2819, + "num_input_tokens_seen": 14026368, + "step": 7169 + }, + { + "epoch": 0.9502982107355865, + "grad_norm": 0.025956453755497932, + "learning_rate": 3.862931675159798e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14027928, + "step": 7170 + }, + { + "epoch": 0.9504307488402916, + "grad_norm": 0.07927209883928299, + "learning_rate": 3.862640648559942e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14030056, + "step": 7171 + }, + { + "epoch": 0.9505632869449967, + "grad_norm": 0.06405702978372574, + "learning_rate": 3.862349595687435e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14031584, + "step": 7172 + }, + { + "epoch": 0.9506958250497017, + "grad_norm": 6.27801513671875, + "learning_rate": 3.862058516547888e-06, + "loss": 0.2297, + "num_input_tokens_seen": 14034512, + "step": 7173 + }, + { + "epoch": 0.9508283631544069, + "grad_norm": 6.723933696746826, + "learning_rate": 3.861767411146912e-06, + "loss": 0.1573, + "num_input_tokens_seen": 14037512, + "step": 7174 + }, + { + "epoch": 0.950960901259112, + "grad_norm": 10.136953353881836, + "learning_rate": 3.8614762794901215e-06, + "loss": 0.1258, + "num_input_tokens_seen": 14039568, + "step": 7175 + }, + { + "epoch": 0.9510934393638171, + "grad_norm": 4.971272945404053, + "learning_rate": 3.861185121583129e-06, + "loss": 0.1235, + "num_input_tokens_seen": 14041664, + "step": 7176 + }, + { + "epoch": 0.9512259774685222, + "grad_norm": 8.281096458435059, + "learning_rate": 3.860893937431548e-06, + "loss": 0.1439, + "num_input_tokens_seen": 14043328, + "step": 7177 + }, + { + "epoch": 0.9513585155732273, + "grad_norm": 7.257356643676758, + "learning_rate": 3.860602727040993e-06, + "loss": 0.3761, + "num_input_tokens_seen": 14045624, + "step": 7178 + }, + { + "epoch": 0.9514910536779324, + "grad_norm": 0.13173986971378326, + "learning_rate": 3.86031149041708e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14048256, + "step": 7179 + }, + { + "epoch": 0.9516235917826376, + "grad_norm": 10.339430809020996, + "learning_rate": 3.860020227565422e-06, + "loss": 0.2926, + "num_input_tokens_seen": 14050416, + "step": 7180 + }, + { + "epoch": 0.9517561298873426, + "grad_norm": 8.4072265625, + "learning_rate": 3.859728938491636e-06, + "loss": 0.2412, + "num_input_tokens_seen": 14051616, + "step": 7181 + }, + { + "epoch": 0.9518886679920477, + "grad_norm": 0.313981294631958, + "learning_rate": 3.859437623201338e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14055136, + "step": 7182 + }, + { + "epoch": 0.9520212060967528, + "grad_norm": 0.18514522910118103, + "learning_rate": 3.859146281700144e-06, + "loss": 0.0012, + "num_input_tokens_seen": 14056992, + "step": 7183 + }, + { + "epoch": 0.9521537442014579, + "grad_norm": 7.113615036010742, + "learning_rate": 3.858854913993674e-06, + "loss": 0.1219, + "num_input_tokens_seen": 14058632, + "step": 7184 + }, + { + "epoch": 0.952286282306163, + "grad_norm": 9.534204483032227, + "learning_rate": 3.858563520087542e-06, + "loss": 0.3481, + "num_input_tokens_seen": 14060832, + "step": 7185 + }, + { + "epoch": 0.9524188204108681, + "grad_norm": 3.2288169860839844, + "learning_rate": 3.858272099987369e-06, + "loss": 0.1545, + "num_input_tokens_seen": 14062560, + "step": 7186 + }, + { + "epoch": 0.9525513585155733, + "grad_norm": 4.816036224365234, + "learning_rate": 3.857980653698772e-06, + "loss": 0.1358, + "num_input_tokens_seen": 14064648, + "step": 7187 + }, + { + "epoch": 0.9526838966202783, + "grad_norm": 1.5882339477539062, + "learning_rate": 3.857689181227372e-06, + "loss": 0.0154, + "num_input_tokens_seen": 14067128, + "step": 7188 + }, + { + "epoch": 0.9528164347249835, + "grad_norm": 7.44096565246582, + "learning_rate": 3.857397682578788e-06, + "loss": 0.1958, + "num_input_tokens_seen": 14068568, + "step": 7189 + }, + { + "epoch": 0.9529489728296885, + "grad_norm": 11.390652656555176, + "learning_rate": 3.85710615775864e-06, + "loss": 0.1381, + "num_input_tokens_seen": 14070040, + "step": 7190 + }, + { + "epoch": 0.9530815109343936, + "grad_norm": 11.5276517868042, + "learning_rate": 3.856814606772549e-06, + "loss": 0.3754, + "num_input_tokens_seen": 14071792, + "step": 7191 + }, + { + "epoch": 0.9532140490390988, + "grad_norm": 7.8154120445251465, + "learning_rate": 3.856523029626137e-06, + "loss": 0.1743, + "num_input_tokens_seen": 14073584, + "step": 7192 + }, + { + "epoch": 0.9533465871438038, + "grad_norm": 5.855787754058838, + "learning_rate": 3.856231426325024e-06, + "loss": 0.0595, + "num_input_tokens_seen": 14076328, + "step": 7193 + }, + { + "epoch": 0.953479125248509, + "grad_norm": 14.576971054077148, + "learning_rate": 3.855939796874835e-06, + "loss": 0.3546, + "num_input_tokens_seen": 14078096, + "step": 7194 + }, + { + "epoch": 0.953611663353214, + "grad_norm": 8.141708374023438, + "learning_rate": 3.85564814128119e-06, + "loss": 0.3449, + "num_input_tokens_seen": 14080856, + "step": 7195 + }, + { + "epoch": 0.9537442014579192, + "grad_norm": 8.427746772766113, + "learning_rate": 3.855356459549714e-06, + "loss": 0.1124, + "num_input_tokens_seen": 14082824, + "step": 7196 + }, + { + "epoch": 0.9538767395626243, + "grad_norm": 5.8710198402404785, + "learning_rate": 3.855064751686031e-06, + "loss": 0.1003, + "num_input_tokens_seen": 14086392, + "step": 7197 + }, + { + "epoch": 0.9540092776673293, + "grad_norm": 2.7634494304656982, + "learning_rate": 3.8547730176957645e-06, + "loss": 0.0172, + "num_input_tokens_seen": 14089304, + "step": 7198 + }, + { + "epoch": 0.9541418157720345, + "grad_norm": 5.8507843017578125, + "learning_rate": 3.854481257584539e-06, + "loss": 0.0491, + "num_input_tokens_seen": 14091256, + "step": 7199 + }, + { + "epoch": 0.9542743538767395, + "grad_norm": 10.55928897857666, + "learning_rate": 3.854189471357981e-06, + "loss": 0.3291, + "num_input_tokens_seen": 14093640, + "step": 7200 + }, + { + "epoch": 0.9544068919814447, + "grad_norm": 4.255329608917236, + "learning_rate": 3.853897659021716e-06, + "loss": 0.0499, + "num_input_tokens_seen": 14095280, + "step": 7201 + }, + { + "epoch": 0.9545394300861497, + "grad_norm": 10.423710823059082, + "learning_rate": 3.85360582058137e-06, + "loss": 0.2372, + "num_input_tokens_seen": 14097216, + "step": 7202 + }, + { + "epoch": 0.9546719681908549, + "grad_norm": 0.06868020445108414, + "learning_rate": 3.85331395604257e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14098624, + "step": 7203 + }, + { + "epoch": 0.95480450629556, + "grad_norm": 18.400344848632812, + "learning_rate": 3.853022065410942e-06, + "loss": 0.5321, + "num_input_tokens_seen": 14099712, + "step": 7204 + }, + { + "epoch": 0.9549370444002651, + "grad_norm": 3.9094605445861816, + "learning_rate": 3.852730148692117e-06, + "loss": 0.0928, + "num_input_tokens_seen": 14101624, + "step": 7205 + }, + { + "epoch": 0.9550695825049702, + "grad_norm": 10.600262641906738, + "learning_rate": 3.85243820589172e-06, + "loss": 0.3238, + "num_input_tokens_seen": 14103128, + "step": 7206 + }, + { + "epoch": 0.9552021206096752, + "grad_norm": 13.700072288513184, + "learning_rate": 3.852146237015383e-06, + "loss": 0.6478, + "num_input_tokens_seen": 14105504, + "step": 7207 + }, + { + "epoch": 0.9553346587143804, + "grad_norm": 8.97553825378418, + "learning_rate": 3.851854242068732e-06, + "loss": 0.1567, + "num_input_tokens_seen": 14107408, + "step": 7208 + }, + { + "epoch": 0.9554671968190855, + "grad_norm": 4.607557773590088, + "learning_rate": 3.8515622210574e-06, + "loss": 0.098, + "num_input_tokens_seen": 14108704, + "step": 7209 + }, + { + "epoch": 0.9555997349237906, + "grad_norm": 0.11022916436195374, + "learning_rate": 3.851270173987015e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14111440, + "step": 7210 + }, + { + "epoch": 0.9557322730284957, + "grad_norm": 12.492790222167969, + "learning_rate": 3.850978100863209e-06, + "loss": 0.4499, + "num_input_tokens_seen": 14113368, + "step": 7211 + }, + { + "epoch": 0.9558648111332008, + "grad_norm": 0.06487315893173218, + "learning_rate": 3.850686001691615e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14115248, + "step": 7212 + }, + { + "epoch": 0.9559973492379059, + "grad_norm": 0.6930650472640991, + "learning_rate": 3.850393876477861e-06, + "loss": 0.0048, + "num_input_tokens_seen": 14117512, + "step": 7213 + }, + { + "epoch": 0.956129887342611, + "grad_norm": 1.9123904705047607, + "learning_rate": 3.850101725227582e-06, + "loss": 0.0731, + "num_input_tokens_seen": 14120128, + "step": 7214 + }, + { + "epoch": 0.9562624254473161, + "grad_norm": 8.278051376342773, + "learning_rate": 3.849809547946411e-06, + "loss": 0.2676, + "num_input_tokens_seen": 14121816, + "step": 7215 + }, + { + "epoch": 0.9563949635520212, + "grad_norm": 0.09896618872880936, + "learning_rate": 3.84951734463998e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14123920, + "step": 7216 + }, + { + "epoch": 0.9565275016567263, + "grad_norm": 13.187090873718262, + "learning_rate": 3.849225115313924e-06, + "loss": 0.171, + "num_input_tokens_seen": 14126104, + "step": 7217 + }, + { + "epoch": 0.9566600397614314, + "grad_norm": 12.555880546569824, + "learning_rate": 3.8489328599738765e-06, + "loss": 0.1654, + "num_input_tokens_seen": 14129184, + "step": 7218 + }, + { + "epoch": 0.9567925778661365, + "grad_norm": 6.290533542633057, + "learning_rate": 3.848640578625473e-06, + "loss": 0.1402, + "num_input_tokens_seen": 14130736, + "step": 7219 + }, + { + "epoch": 0.9569251159708416, + "grad_norm": 4.557801246643066, + "learning_rate": 3.848348271274349e-06, + "loss": 0.0534, + "num_input_tokens_seen": 14132032, + "step": 7220 + }, + { + "epoch": 0.9570576540755468, + "grad_norm": 8.2571439743042, + "learning_rate": 3.848055937926141e-06, + "loss": 0.1335, + "num_input_tokens_seen": 14133864, + "step": 7221 + }, + { + "epoch": 0.9571901921802518, + "grad_norm": 11.502821922302246, + "learning_rate": 3.8477635785864835e-06, + "loss": 0.2384, + "num_input_tokens_seen": 14135536, + "step": 7222 + }, + { + "epoch": 0.957322730284957, + "grad_norm": 2.774744987487793, + "learning_rate": 3.847471193261014e-06, + "loss": 0.0521, + "num_input_tokens_seen": 14138336, + "step": 7223 + }, + { + "epoch": 0.957455268389662, + "grad_norm": 9.686749458312988, + "learning_rate": 3.847178781955371e-06, + "loss": 0.4133, + "num_input_tokens_seen": 14139824, + "step": 7224 + }, + { + "epoch": 0.9575878064943671, + "grad_norm": 13.85748291015625, + "learning_rate": 3.846886344675193e-06, + "loss": 0.4314, + "num_input_tokens_seen": 14142256, + "step": 7225 + }, + { + "epoch": 0.9577203445990722, + "grad_norm": 0.21601247787475586, + "learning_rate": 3.846593881426114e-06, + "loss": 0.0015, + "num_input_tokens_seen": 14144232, + "step": 7226 + }, + { + "epoch": 0.9578528827037773, + "grad_norm": 4.852502346038818, + "learning_rate": 3.846301392213779e-06, + "loss": 0.0575, + "num_input_tokens_seen": 14145616, + "step": 7227 + }, + { + "epoch": 0.9579854208084825, + "grad_norm": 22.521774291992188, + "learning_rate": 3.846008877043823e-06, + "loss": 1.0353, + "num_input_tokens_seen": 14148632, + "step": 7228 + }, + { + "epoch": 0.9581179589131875, + "grad_norm": 4.47910737991333, + "learning_rate": 3.845716335921888e-06, + "loss": 0.0898, + "num_input_tokens_seen": 14150512, + "step": 7229 + }, + { + "epoch": 0.9582504970178927, + "grad_norm": 6.943549633026123, + "learning_rate": 3.845423768853612e-06, + "loss": 0.083, + "num_input_tokens_seen": 14151944, + "step": 7230 + }, + { + "epoch": 0.9583830351225977, + "grad_norm": 8.506834030151367, + "learning_rate": 3.845131175844639e-06, + "loss": 0.1692, + "num_input_tokens_seen": 14154272, + "step": 7231 + }, + { + "epoch": 0.9585155732273029, + "grad_norm": 12.816849708557129, + "learning_rate": 3.844838556900608e-06, + "loss": 0.6805, + "num_input_tokens_seen": 14156560, + "step": 7232 + }, + { + "epoch": 0.958648111332008, + "grad_norm": 0.6843388676643372, + "learning_rate": 3.844545912027163e-06, + "loss": 0.0053, + "num_input_tokens_seen": 14159176, + "step": 7233 + }, + { + "epoch": 0.958780649436713, + "grad_norm": 7.655886173248291, + "learning_rate": 3.844253241229945e-06, + "loss": 0.0878, + "num_input_tokens_seen": 14160856, + "step": 7234 + }, + { + "epoch": 0.9589131875414182, + "grad_norm": 3.3074445724487305, + "learning_rate": 3.843960544514597e-06, + "loss": 0.0677, + "num_input_tokens_seen": 14162048, + "step": 7235 + }, + { + "epoch": 0.9590457256461232, + "grad_norm": 16.33290672302246, + "learning_rate": 3.843667821886763e-06, + "loss": 0.2944, + "num_input_tokens_seen": 14163856, + "step": 7236 + }, + { + "epoch": 0.9591782637508284, + "grad_norm": 3.6990323066711426, + "learning_rate": 3.843375073352086e-06, + "loss": 0.0493, + "num_input_tokens_seen": 14165768, + "step": 7237 + }, + { + "epoch": 0.9593108018555334, + "grad_norm": 1.4711707830429077, + "learning_rate": 3.843082298916211e-06, + "loss": 0.0204, + "num_input_tokens_seen": 14167264, + "step": 7238 + }, + { + "epoch": 0.9594433399602386, + "grad_norm": 10.919734001159668, + "learning_rate": 3.842789498584781e-06, + "loss": 0.3468, + "num_input_tokens_seen": 14170096, + "step": 7239 + }, + { + "epoch": 0.9595758780649437, + "grad_norm": 7.053165912628174, + "learning_rate": 3.8424966723634464e-06, + "loss": 0.1099, + "num_input_tokens_seen": 14172832, + "step": 7240 + }, + { + "epoch": 0.9597084161696487, + "grad_norm": 0.6565023064613342, + "learning_rate": 3.842203820257847e-06, + "loss": 0.0051, + "num_input_tokens_seen": 14174088, + "step": 7241 + }, + { + "epoch": 0.9598409542743539, + "grad_norm": 3.8349311351776123, + "learning_rate": 3.841910942273634e-06, + "loss": 0.0972, + "num_input_tokens_seen": 14176016, + "step": 7242 + }, + { + "epoch": 0.9599734923790589, + "grad_norm": 4.940202713012695, + "learning_rate": 3.841618038416451e-06, + "loss": 0.1754, + "num_input_tokens_seen": 14177896, + "step": 7243 + }, + { + "epoch": 0.9601060304837641, + "grad_norm": 12.5956392288208, + "learning_rate": 3.841325108691946e-06, + "loss": 0.3572, + "num_input_tokens_seen": 14179768, + "step": 7244 + }, + { + "epoch": 0.9602385685884692, + "grad_norm": 11.306081771850586, + "learning_rate": 3.841032153105769e-06, + "loss": 0.5367, + "num_input_tokens_seen": 14181488, + "step": 7245 + }, + { + "epoch": 0.9603711066931743, + "grad_norm": 0.2793773114681244, + "learning_rate": 3.8407391716635675e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14185048, + "step": 7246 + }, + { + "epoch": 0.9605036447978794, + "grad_norm": 0.32963821291923523, + "learning_rate": 3.840446164370988e-06, + "loss": 0.0025, + "num_input_tokens_seen": 14186680, + "step": 7247 + }, + { + "epoch": 0.9606361829025845, + "grad_norm": 6.8996686935424805, + "learning_rate": 3.8401531312336824e-06, + "loss": 0.2861, + "num_input_tokens_seen": 14189016, + "step": 7248 + }, + { + "epoch": 0.9607687210072896, + "grad_norm": 9.540470123291016, + "learning_rate": 3.839860072257301e-06, + "loss": 0.2321, + "num_input_tokens_seen": 14190848, + "step": 7249 + }, + { + "epoch": 0.9609012591119946, + "grad_norm": 9.375992774963379, + "learning_rate": 3.839566987447492e-06, + "loss": 0.2517, + "num_input_tokens_seen": 14192976, + "step": 7250 + }, + { + "epoch": 0.9610337972166998, + "grad_norm": 8.381304740905762, + "learning_rate": 3.839273876809908e-06, + "loss": 0.2747, + "num_input_tokens_seen": 14194728, + "step": 7251 + }, + { + "epoch": 0.9611663353214049, + "grad_norm": 8.329108238220215, + "learning_rate": 3.838980740350199e-06, + "loss": 0.1923, + "num_input_tokens_seen": 14196600, + "step": 7252 + }, + { + "epoch": 0.96129887342611, + "grad_norm": 5.750219821929932, + "learning_rate": 3.838687578074018e-06, + "loss": 0.0035, + "num_input_tokens_seen": 14198056, + "step": 7253 + }, + { + "epoch": 0.9614314115308151, + "grad_norm": 8.22239875793457, + "learning_rate": 3.838394389987017e-06, + "loss": 0.4236, + "num_input_tokens_seen": 14200488, + "step": 7254 + }, + { + "epoch": 0.9615639496355202, + "grad_norm": 1.7130067348480225, + "learning_rate": 3.838101176094848e-06, + "loss": 0.0187, + "num_input_tokens_seen": 14202368, + "step": 7255 + }, + { + "epoch": 0.9616964877402253, + "grad_norm": 13.184988021850586, + "learning_rate": 3.837807936403166e-06, + "loss": 0.298, + "num_input_tokens_seen": 14203896, + "step": 7256 + }, + { + "epoch": 0.9618290258449305, + "grad_norm": 0.5100119709968567, + "learning_rate": 3.837514670917625e-06, + "loss": 0.0038, + "num_input_tokens_seen": 14207040, + "step": 7257 + }, + { + "epoch": 0.9619615639496355, + "grad_norm": 5.201852321624756, + "learning_rate": 3.837221379643877e-06, + "loss": 0.0513, + "num_input_tokens_seen": 14208760, + "step": 7258 + }, + { + "epoch": 0.9620941020543406, + "grad_norm": 19.078611373901367, + "learning_rate": 3.836928062587579e-06, + "loss": 0.5577, + "num_input_tokens_seen": 14210944, + "step": 7259 + }, + { + "epoch": 0.9622266401590457, + "grad_norm": 4.421248435974121, + "learning_rate": 3.836634719754385e-06, + "loss": 0.0999, + "num_input_tokens_seen": 14213888, + "step": 7260 + }, + { + "epoch": 0.9623591782637508, + "grad_norm": 9.753243446350098, + "learning_rate": 3.8363413511499526e-06, + "loss": 0.3155, + "num_input_tokens_seen": 14216320, + "step": 7261 + }, + { + "epoch": 0.962491716368456, + "grad_norm": 1.1519651412963867, + "learning_rate": 3.836047956779936e-06, + "loss": 0.0079, + "num_input_tokens_seen": 14217528, + "step": 7262 + }, + { + "epoch": 0.962624254473161, + "grad_norm": 3.0933010578155518, + "learning_rate": 3.835754536649994e-06, + "loss": 0.0248, + "num_input_tokens_seen": 14219264, + "step": 7263 + }, + { + "epoch": 0.9627567925778662, + "grad_norm": 10.4746675491333, + "learning_rate": 3.835461090765782e-06, + "loss": 0.2494, + "num_input_tokens_seen": 14222136, + "step": 7264 + }, + { + "epoch": 0.9628893306825712, + "grad_norm": 2.1459710597991943, + "learning_rate": 3.835167619132959e-06, + "loss": 0.0172, + "num_input_tokens_seen": 14224016, + "step": 7265 + }, + { + "epoch": 0.9630218687872764, + "grad_norm": 0.9849420189857483, + "learning_rate": 3.834874121757185e-06, + "loss": 0.0134, + "num_input_tokens_seen": 14225752, + "step": 7266 + }, + { + "epoch": 0.9631544068919814, + "grad_norm": 13.74028205871582, + "learning_rate": 3.834580598644115e-06, + "loss": 0.6818, + "num_input_tokens_seen": 14227816, + "step": 7267 + }, + { + "epoch": 0.9632869449966865, + "grad_norm": 4.893702030181885, + "learning_rate": 3.834287049799411e-06, + "loss": 0.1002, + "num_input_tokens_seen": 14229400, + "step": 7268 + }, + { + "epoch": 0.9634194831013917, + "grad_norm": 0.13729555904865265, + "learning_rate": 3.833993475228733e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14231136, + "step": 7269 + }, + { + "epoch": 0.9635520212060967, + "grad_norm": 0.38407355546951294, + "learning_rate": 3.83369987493774e-06, + "loss": 0.0028, + "num_input_tokens_seen": 14233112, + "step": 7270 + }, + { + "epoch": 0.9636845593108019, + "grad_norm": 9.019268989562988, + "learning_rate": 3.833406248932092e-06, + "loss": 0.0918, + "num_input_tokens_seen": 14234904, + "step": 7271 + }, + { + "epoch": 0.9638170974155069, + "grad_norm": 0.3099585175514221, + "learning_rate": 3.833112597217454e-06, + "loss": 0.0022, + "num_input_tokens_seen": 14237120, + "step": 7272 + }, + { + "epoch": 0.9639496355202121, + "grad_norm": 7.625340938568115, + "learning_rate": 3.8328189197994836e-06, + "loss": 0.171, + "num_input_tokens_seen": 14238608, + "step": 7273 + }, + { + "epoch": 0.9640821736249172, + "grad_norm": 0.03240329027175903, + "learning_rate": 3.832525216683845e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14240336, + "step": 7274 + }, + { + "epoch": 0.9642147117296223, + "grad_norm": 5.497343063354492, + "learning_rate": 3.832231487876202e-06, + "loss": 0.0941, + "num_input_tokens_seen": 14242344, + "step": 7275 + }, + { + "epoch": 0.9643472498343274, + "grad_norm": 20.15484046936035, + "learning_rate": 3.831937733382217e-06, + "loss": 0.813, + "num_input_tokens_seen": 14244464, + "step": 7276 + }, + { + "epoch": 0.9644797879390324, + "grad_norm": 0.08887320756912231, + "learning_rate": 3.831643953207553e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14246024, + "step": 7277 + }, + { + "epoch": 0.9646123260437376, + "grad_norm": 4.051753520965576, + "learning_rate": 3.831350147357875e-06, + "loss": 0.0361, + "num_input_tokens_seen": 14247792, + "step": 7278 + }, + { + "epoch": 0.9647448641484426, + "grad_norm": 18.706377029418945, + "learning_rate": 3.831056315838848e-06, + "loss": 0.7244, + "num_input_tokens_seen": 14250752, + "step": 7279 + }, + { + "epoch": 0.9648774022531478, + "grad_norm": 1.795831561088562, + "learning_rate": 3.830762458656136e-06, + "loss": 0.0446, + "num_input_tokens_seen": 14252912, + "step": 7280 + }, + { + "epoch": 0.9650099403578529, + "grad_norm": 9.70200252532959, + "learning_rate": 3.830468575815407e-06, + "loss": 0.1908, + "num_input_tokens_seen": 14255440, + "step": 7281 + }, + { + "epoch": 0.965142478462558, + "grad_norm": 7.659546852111816, + "learning_rate": 3.830174667322325e-06, + "loss": 0.2099, + "num_input_tokens_seen": 14257424, + "step": 7282 + }, + { + "epoch": 0.9652750165672631, + "grad_norm": 0.13579103350639343, + "learning_rate": 3.829880733182558e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14261152, + "step": 7283 + }, + { + "epoch": 0.9654075546719681, + "grad_norm": 0.3113535940647125, + "learning_rate": 3.829586773401774e-06, + "loss": 0.0018, + "num_input_tokens_seen": 14262448, + "step": 7284 + }, + { + "epoch": 0.9655400927766733, + "grad_norm": 0.17341098189353943, + "learning_rate": 3.829292787985639e-06, + "loss": 0.0013, + "num_input_tokens_seen": 14263712, + "step": 7285 + }, + { + "epoch": 0.9656726308813784, + "grad_norm": 0.08654141426086426, + "learning_rate": 3.828998776939822e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14267528, + "step": 7286 + }, + { + "epoch": 0.9658051689860835, + "grad_norm": 6.54250431060791, + "learning_rate": 3.828704740269992e-06, + "loss": 0.201, + "num_input_tokens_seen": 14269232, + "step": 7287 + }, + { + "epoch": 0.9659377070907886, + "grad_norm": 14.979636192321777, + "learning_rate": 3.828410677981817e-06, + "loss": 0.6083, + "num_input_tokens_seen": 14271720, + "step": 7288 + }, + { + "epoch": 0.9660702451954937, + "grad_norm": 1.4321199655532837, + "learning_rate": 3.828116590080969e-06, + "loss": 0.0367, + "num_input_tokens_seen": 14273512, + "step": 7289 + }, + { + "epoch": 0.9662027833001988, + "grad_norm": 8.749720573425293, + "learning_rate": 3.827822476573117e-06, + "loss": 0.259, + "num_input_tokens_seen": 14274920, + "step": 7290 + }, + { + "epoch": 0.9663353214049039, + "grad_norm": 2.8881542682647705, + "learning_rate": 3.82752833746393e-06, + "loss": 0.0504, + "num_input_tokens_seen": 14276464, + "step": 7291 + }, + { + "epoch": 0.966467859509609, + "grad_norm": 13.5059232711792, + "learning_rate": 3.827234172759082e-06, + "loss": 0.504, + "num_input_tokens_seen": 14278776, + "step": 7292 + }, + { + "epoch": 0.9666003976143142, + "grad_norm": 9.028846740722656, + "learning_rate": 3.826939982464244e-06, + "loss": 0.2612, + "num_input_tokens_seen": 14280712, + "step": 7293 + }, + { + "epoch": 0.9667329357190192, + "grad_norm": 0.21338699758052826, + "learning_rate": 3.8266457665850864e-06, + "loss": 0.0014, + "num_input_tokens_seen": 14283032, + "step": 7294 + }, + { + "epoch": 0.9668654738237243, + "grad_norm": 11.965989112854004, + "learning_rate": 3.826351525127285e-06, + "loss": 0.3068, + "num_input_tokens_seen": 14284904, + "step": 7295 + }, + { + "epoch": 0.9669980119284294, + "grad_norm": 13.963319778442383, + "learning_rate": 3.82605725809651e-06, + "loss": 0.3381, + "num_input_tokens_seen": 14286120, + "step": 7296 + }, + { + "epoch": 0.9671305500331345, + "grad_norm": 2.6831743717193604, + "learning_rate": 3.825762965498437e-06, + "loss": 0.0741, + "num_input_tokens_seen": 14288456, + "step": 7297 + }, + { + "epoch": 0.9672630881378397, + "grad_norm": 3.2664668560028076, + "learning_rate": 3.825468647338738e-06, + "loss": 0.059, + "num_input_tokens_seen": 14289768, + "step": 7298 + }, + { + "epoch": 0.9673956262425447, + "grad_norm": 20.401212692260742, + "learning_rate": 3.82517430362309e-06, + "loss": 0.969, + "num_input_tokens_seen": 14292456, + "step": 7299 + }, + { + "epoch": 0.9675281643472499, + "grad_norm": 8.999568939208984, + "learning_rate": 3.824879934357167e-06, + "loss": 0.3358, + "num_input_tokens_seen": 14294224, + "step": 7300 + }, + { + "epoch": 0.9676607024519549, + "grad_norm": 0.2338992953300476, + "learning_rate": 3.824585539546645e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14296176, + "step": 7301 + }, + { + "epoch": 0.96779324055666, + "grad_norm": 0.9378090500831604, + "learning_rate": 3.824291119197201e-06, + "loss": 0.0067, + "num_input_tokens_seen": 14299256, + "step": 7302 + }, + { + "epoch": 0.9679257786613651, + "grad_norm": 0.47262099385261536, + "learning_rate": 3.8239966733145095e-06, + "loss": 0.0036, + "num_input_tokens_seen": 14301448, + "step": 7303 + }, + { + "epoch": 0.9680583167660702, + "grad_norm": 10.97904109954834, + "learning_rate": 3.8237022019042485e-06, + "loss": 0.4317, + "num_input_tokens_seen": 14303768, + "step": 7304 + }, + { + "epoch": 0.9681908548707754, + "grad_norm": 1.4852527379989624, + "learning_rate": 3.823407704972096e-06, + "loss": 0.0154, + "num_input_tokens_seen": 14305928, + "step": 7305 + }, + { + "epoch": 0.9683233929754804, + "grad_norm": 0.32150766253471375, + "learning_rate": 3.823113182523731e-06, + "loss": 0.0024, + "num_input_tokens_seen": 14307208, + "step": 7306 + }, + { + "epoch": 0.9684559310801856, + "grad_norm": 9.616583824157715, + "learning_rate": 3.82281863456483e-06, + "loss": 0.1175, + "num_input_tokens_seen": 14309680, + "step": 7307 + }, + { + "epoch": 0.9685884691848906, + "grad_norm": 10.362848281860352, + "learning_rate": 3.822524061101074e-06, + "loss": 0.4577, + "num_input_tokens_seen": 14312024, + "step": 7308 + }, + { + "epoch": 0.9687210072895958, + "grad_norm": 1.3299497365951538, + "learning_rate": 3.822229462138141e-06, + "loss": 0.0094, + "num_input_tokens_seen": 14313528, + "step": 7309 + }, + { + "epoch": 0.9688535453943009, + "grad_norm": 8.247082710266113, + "learning_rate": 3.821934837681712e-06, + "loss": 0.1152, + "num_input_tokens_seen": 14316408, + "step": 7310 + }, + { + "epoch": 0.968986083499006, + "grad_norm": 7.721426010131836, + "learning_rate": 3.8216401877374686e-06, + "loss": 0.1984, + "num_input_tokens_seen": 14318088, + "step": 7311 + }, + { + "epoch": 0.9691186216037111, + "grad_norm": 6.574674129486084, + "learning_rate": 3.821345512311089e-06, + "loss": 0.1403, + "num_input_tokens_seen": 14320288, + "step": 7312 + }, + { + "epoch": 0.9692511597084161, + "grad_norm": 2.0483012199401855, + "learning_rate": 3.8210508114082564e-06, + "loss": 0.0127, + "num_input_tokens_seen": 14323296, + "step": 7313 + }, + { + "epoch": 0.9693836978131213, + "grad_norm": 0.5963882207870483, + "learning_rate": 3.8207560850346536e-06, + "loss": 0.0042, + "num_input_tokens_seen": 14324824, + "step": 7314 + }, + { + "epoch": 0.9695162359178264, + "grad_norm": 16.435224533081055, + "learning_rate": 3.820461333195961e-06, + "loss": 0.3771, + "num_input_tokens_seen": 14327104, + "step": 7315 + }, + { + "epoch": 0.9696487740225315, + "grad_norm": 18.30119514465332, + "learning_rate": 3.820166555897865e-06, + "loss": 0.1952, + "num_input_tokens_seen": 14328632, + "step": 7316 + }, + { + "epoch": 0.9697813121272366, + "grad_norm": 11.88756275177002, + "learning_rate": 3.819871753146046e-06, + "loss": 0.319, + "num_input_tokens_seen": 14330288, + "step": 7317 + }, + { + "epoch": 0.9699138502319417, + "grad_norm": 7.416049480438232, + "learning_rate": 3.819576924946189e-06, + "loss": 0.1598, + "num_input_tokens_seen": 14333008, + "step": 7318 + }, + { + "epoch": 0.9700463883366468, + "grad_norm": 0.39120858907699585, + "learning_rate": 3.819282071303979e-06, + "loss": 0.0029, + "num_input_tokens_seen": 14336304, + "step": 7319 + }, + { + "epoch": 0.9701789264413518, + "grad_norm": 0.31496647000312805, + "learning_rate": 3.8189871922251e-06, + "loss": 0.002, + "num_input_tokens_seen": 14337560, + "step": 7320 + }, + { + "epoch": 0.970311464546057, + "grad_norm": 2.6085495948791504, + "learning_rate": 3.818692287715238e-06, + "loss": 0.0207, + "num_input_tokens_seen": 14339392, + "step": 7321 + }, + { + "epoch": 0.9704440026507621, + "grad_norm": 10.654458045959473, + "learning_rate": 3.8183973577800794e-06, + "loss": 0.2895, + "num_input_tokens_seen": 14341536, + "step": 7322 + }, + { + "epoch": 0.9705765407554672, + "grad_norm": 3.848426580429077, + "learning_rate": 3.81810240242531e-06, + "loss": 0.0374, + "num_input_tokens_seen": 14343000, + "step": 7323 + }, + { + "epoch": 0.9707090788601723, + "grad_norm": 5.351003170013428, + "learning_rate": 3.817807421656617e-06, + "loss": 0.103, + "num_input_tokens_seen": 14345112, + "step": 7324 + }, + { + "epoch": 0.9708416169648774, + "grad_norm": 1.600977897644043, + "learning_rate": 3.817512415479688e-06, + "loss": 0.023, + "num_input_tokens_seen": 14347200, + "step": 7325 + }, + { + "epoch": 0.9709741550695825, + "grad_norm": 5.760276794433594, + "learning_rate": 3.81721738390021e-06, + "loss": 0.0969, + "num_input_tokens_seen": 14349280, + "step": 7326 + }, + { + "epoch": 0.9711066931742877, + "grad_norm": 3.164106607437134, + "learning_rate": 3.816922326923873e-06, + "loss": 0.1272, + "num_input_tokens_seen": 14350904, + "step": 7327 + }, + { + "epoch": 0.9712392312789927, + "grad_norm": 15.033295631408691, + "learning_rate": 3.8166272445563644e-06, + "loss": 0.4148, + "num_input_tokens_seen": 14352176, + "step": 7328 + }, + { + "epoch": 0.9713717693836978, + "grad_norm": 0.14832700788974762, + "learning_rate": 3.816332136803375e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14353672, + "step": 7329 + }, + { + "epoch": 0.9715043074884029, + "grad_norm": 9.556941986083984, + "learning_rate": 3.816037003670593e-06, + "loss": 0.2688, + "num_input_tokens_seen": 14355072, + "step": 7330 + }, + { + "epoch": 0.971636845593108, + "grad_norm": 0.10414943099021912, + "learning_rate": 3.815741845163711e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14357544, + "step": 7331 + }, + { + "epoch": 0.9717693836978131, + "grad_norm": 12.795763969421387, + "learning_rate": 3.815446661288417e-06, + "loss": 0.6128, + "num_input_tokens_seen": 14359688, + "step": 7332 + }, + { + "epoch": 0.9719019218025182, + "grad_norm": 3.1570181846618652, + "learning_rate": 3.815151452050404e-06, + "loss": 0.0254, + "num_input_tokens_seen": 14361560, + "step": 7333 + }, + { + "epoch": 0.9720344599072234, + "grad_norm": 0.056894175708293915, + "learning_rate": 3.814856217455365e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14363232, + "step": 7334 + }, + { + "epoch": 0.9721669980119284, + "grad_norm": 9.5023775100708, + "learning_rate": 3.81456095750899e-06, + "loss": 0.3386, + "num_input_tokens_seen": 14365400, + "step": 7335 + }, + { + "epoch": 0.9722995361166336, + "grad_norm": 25.07636070251465, + "learning_rate": 3.8142656722169735e-06, + "loss": 0.8565, + "num_input_tokens_seen": 14367488, + "step": 7336 + }, + { + "epoch": 0.9724320742213386, + "grad_norm": 14.887669563293457, + "learning_rate": 3.8139703615850077e-06, + "loss": 0.178, + "num_input_tokens_seen": 14370144, + "step": 7337 + }, + { + "epoch": 0.9725646123260437, + "grad_norm": 8.586089134216309, + "learning_rate": 3.813675025618787e-06, + "loss": 0.1007, + "num_input_tokens_seen": 14371416, + "step": 7338 + }, + { + "epoch": 0.9726971504307489, + "grad_norm": 9.457840919494629, + "learning_rate": 3.8133796643240055e-06, + "loss": 0.4164, + "num_input_tokens_seen": 14373264, + "step": 7339 + }, + { + "epoch": 0.9728296885354539, + "grad_norm": 0.08925791084766388, + "learning_rate": 3.813084277706358e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14375040, + "step": 7340 + }, + { + "epoch": 0.9729622266401591, + "grad_norm": 0.2219213843345642, + "learning_rate": 3.8127888657715406e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14376240, + "step": 7341 + }, + { + "epoch": 0.9730947647448641, + "grad_norm": 6.009913921356201, + "learning_rate": 3.812493428525247e-06, + "loss": 0.1745, + "num_input_tokens_seen": 14379432, + "step": 7342 + }, + { + "epoch": 0.9732273028495693, + "grad_norm": 0.638717770576477, + "learning_rate": 3.8121979659731755e-06, + "loss": 0.0087, + "num_input_tokens_seen": 14381576, + "step": 7343 + }, + { + "epoch": 0.9733598409542743, + "grad_norm": 4.583749771118164, + "learning_rate": 3.8119024781210213e-06, + "loss": 0.0977, + "num_input_tokens_seen": 14382816, + "step": 7344 + }, + { + "epoch": 0.9734923790589795, + "grad_norm": 19.053739547729492, + "learning_rate": 3.8116069649744825e-06, + "loss": 0.7657, + "num_input_tokens_seen": 14384528, + "step": 7345 + }, + { + "epoch": 0.9736249171636846, + "grad_norm": 6.605473518371582, + "learning_rate": 3.811311426539257e-06, + "loss": 0.1566, + "num_input_tokens_seen": 14385992, + "step": 7346 + }, + { + "epoch": 0.9737574552683896, + "grad_norm": 10.880682945251465, + "learning_rate": 3.8110158628210423e-06, + "loss": 0.2813, + "num_input_tokens_seen": 14388288, + "step": 7347 + }, + { + "epoch": 0.9738899933730948, + "grad_norm": 13.816142082214355, + "learning_rate": 3.8107202738255373e-06, + "loss": 0.4768, + "num_input_tokens_seen": 14390096, + "step": 7348 + }, + { + "epoch": 0.9740225314777998, + "grad_norm": 0.16052336990833282, + "learning_rate": 3.8104246595584414e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14392256, + "step": 7349 + }, + { + "epoch": 0.974155069582505, + "grad_norm": 8.141950607299805, + "learning_rate": 3.8101290200254537e-06, + "loss": 0.3301, + "num_input_tokens_seen": 14394096, + "step": 7350 + }, + { + "epoch": 0.9742876076872101, + "grad_norm": 11.874165534973145, + "learning_rate": 3.8098333552322745e-06, + "loss": 0.2818, + "num_input_tokens_seen": 14397256, + "step": 7351 + }, + { + "epoch": 0.9744201457919152, + "grad_norm": 11.379547119140625, + "learning_rate": 3.8095376651846056e-06, + "loss": 0.3927, + "num_input_tokens_seen": 14399320, + "step": 7352 + }, + { + "epoch": 0.9745526838966203, + "grad_norm": 14.268540382385254, + "learning_rate": 3.809241949888146e-06, + "loss": 0.2681, + "num_input_tokens_seen": 14401528, + "step": 7353 + }, + { + "epoch": 0.9746852220013253, + "grad_norm": 0.4084547758102417, + "learning_rate": 3.8089462093485993e-06, + "loss": 0.003, + "num_input_tokens_seen": 14403448, + "step": 7354 + }, + { + "epoch": 0.9748177601060305, + "grad_norm": 3.1902153491973877, + "learning_rate": 3.8086504435716663e-06, + "loss": 0.0764, + "num_input_tokens_seen": 14407032, + "step": 7355 + }, + { + "epoch": 0.9749502982107355, + "grad_norm": 10.686497688293457, + "learning_rate": 3.80835465256305e-06, + "loss": 0.1938, + "num_input_tokens_seen": 14408896, + "step": 7356 + }, + { + "epoch": 0.9750828363154407, + "grad_norm": 16.394956588745117, + "learning_rate": 3.8080588363284533e-06, + "loss": 0.3917, + "num_input_tokens_seen": 14410048, + "step": 7357 + }, + { + "epoch": 0.9752153744201458, + "grad_norm": 0.6045948266983032, + "learning_rate": 3.8077629948735794e-06, + "loss": 0.0044, + "num_input_tokens_seen": 14411240, + "step": 7358 + }, + { + "epoch": 0.9753479125248509, + "grad_norm": 0.27397164702415466, + "learning_rate": 3.807467128204133e-06, + "loss": 0.002, + "num_input_tokens_seen": 14413640, + "step": 7359 + }, + { + "epoch": 0.975480450629556, + "grad_norm": 9.47497272491455, + "learning_rate": 3.8071712363258197e-06, + "loss": 0.1423, + "num_input_tokens_seen": 14415736, + "step": 7360 + }, + { + "epoch": 0.975612988734261, + "grad_norm": 0.6445384621620178, + "learning_rate": 3.8068753192443418e-06, + "loss": 0.0046, + "num_input_tokens_seen": 14417352, + "step": 7361 + }, + { + "epoch": 0.9757455268389662, + "grad_norm": 6.003385066986084, + "learning_rate": 3.8065793769654056e-06, + "loss": 0.1527, + "num_input_tokens_seen": 14419464, + "step": 7362 + }, + { + "epoch": 0.9758780649436714, + "grad_norm": 3.898773670196533, + "learning_rate": 3.8062834094947186e-06, + "loss": 0.0358, + "num_input_tokens_seen": 14421560, + "step": 7363 + }, + { + "epoch": 0.9760106030483764, + "grad_norm": 9.3087158203125, + "learning_rate": 3.8059874168379872e-06, + "loss": 0.0821, + "num_input_tokens_seen": 14423608, + "step": 7364 + }, + { + "epoch": 0.9761431411530815, + "grad_norm": 3.380053758621216, + "learning_rate": 3.8056913990009157e-06, + "loss": 0.0241, + "num_input_tokens_seen": 14424616, + "step": 7365 + }, + { + "epoch": 0.9762756792577866, + "grad_norm": 6.693706512451172, + "learning_rate": 3.8053953559892144e-06, + "loss": 0.1914, + "num_input_tokens_seen": 14426456, + "step": 7366 + }, + { + "epoch": 0.9764082173624917, + "grad_norm": 1.5852546691894531, + "learning_rate": 3.80509928780859e-06, + "loss": 0.0514, + "num_input_tokens_seen": 14427904, + "step": 7367 + }, + { + "epoch": 0.9765407554671968, + "grad_norm": 9.312158584594727, + "learning_rate": 3.8048031944647512e-06, + "loss": 0.2358, + "num_input_tokens_seen": 14430248, + "step": 7368 + }, + { + "epoch": 0.9766732935719019, + "grad_norm": 8.545063972473145, + "learning_rate": 3.804507075963406e-06, + "loss": 0.2748, + "num_input_tokens_seen": 14432296, + "step": 7369 + }, + { + "epoch": 0.9768058316766071, + "grad_norm": 10.22640609741211, + "learning_rate": 3.804210932310265e-06, + "loss": 0.4429, + "num_input_tokens_seen": 14434248, + "step": 7370 + }, + { + "epoch": 0.9769383697813121, + "grad_norm": 4.385878086090088, + "learning_rate": 3.803914763511036e-06, + "loss": 0.0854, + "num_input_tokens_seen": 14436160, + "step": 7371 + }, + { + "epoch": 0.9770709078860172, + "grad_norm": 4.706075668334961, + "learning_rate": 3.803618569571433e-06, + "loss": 0.1361, + "num_input_tokens_seen": 14438272, + "step": 7372 + }, + { + "epoch": 0.9772034459907223, + "grad_norm": 9.773750305175781, + "learning_rate": 3.803322350497164e-06, + "loss": 0.3596, + "num_input_tokens_seen": 14440760, + "step": 7373 + }, + { + "epoch": 0.9773359840954274, + "grad_norm": 7.5464091300964355, + "learning_rate": 3.80302610629394e-06, + "loss": 0.307, + "num_input_tokens_seen": 14442640, + "step": 7374 + }, + { + "epoch": 0.9774685222001326, + "grad_norm": 7.880706310272217, + "learning_rate": 3.802729836967475e-06, + "loss": 0.2558, + "num_input_tokens_seen": 14444176, + "step": 7375 + }, + { + "epoch": 0.9776010603048376, + "grad_norm": 3.486879825592041, + "learning_rate": 3.802433542523479e-06, + "loss": 0.0876, + "num_input_tokens_seen": 14445800, + "step": 7376 + }, + { + "epoch": 0.9777335984095428, + "grad_norm": 2.1389243602752686, + "learning_rate": 3.8021372229676662e-06, + "loss": 0.0708, + "num_input_tokens_seen": 14447368, + "step": 7377 + }, + { + "epoch": 0.9778661365142478, + "grad_norm": 0.04939216747879982, + "learning_rate": 3.8018408783057497e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14449032, + "step": 7378 + }, + { + "epoch": 0.977998674618953, + "grad_norm": 6.989064693450928, + "learning_rate": 3.801544508543443e-06, + "loss": 0.1451, + "num_input_tokens_seen": 14450776, + "step": 7379 + }, + { + "epoch": 0.9781312127236581, + "grad_norm": 10.56523323059082, + "learning_rate": 3.8012481136864597e-06, + "loss": 0.281, + "num_input_tokens_seen": 14452696, + "step": 7380 + }, + { + "epoch": 0.9782637508283631, + "grad_norm": 4.1558918952941895, + "learning_rate": 3.8009516937405157e-06, + "loss": 0.0936, + "num_input_tokens_seen": 14454224, + "step": 7381 + }, + { + "epoch": 0.9783962889330683, + "grad_norm": 0.2487679421901703, + "learning_rate": 3.8006552487113253e-06, + "loss": 0.0017, + "num_input_tokens_seen": 14455928, + "step": 7382 + }, + { + "epoch": 0.9785288270377733, + "grad_norm": 0.08795146644115448, + "learning_rate": 3.8003587786046043e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14457408, + "step": 7383 + }, + { + "epoch": 0.9786613651424785, + "grad_norm": 0.3246552050113678, + "learning_rate": 3.8000622834260694e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14459144, + "step": 7384 + }, + { + "epoch": 0.9787939032471835, + "grad_norm": 0.20704562962055206, + "learning_rate": 3.7997657631814366e-06, + "loss": 0.0013, + "num_input_tokens_seen": 14462672, + "step": 7385 + }, + { + "epoch": 0.9789264413518887, + "grad_norm": 0.13691645860671997, + "learning_rate": 3.7994692178764227e-06, + "loss": 0.001, + "num_input_tokens_seen": 14464784, + "step": 7386 + }, + { + "epoch": 0.9790589794565938, + "grad_norm": 4.155706882476807, + "learning_rate": 3.7991726475167464e-06, + "loss": 0.0483, + "num_input_tokens_seen": 14466336, + "step": 7387 + }, + { + "epoch": 0.9791915175612989, + "grad_norm": 5.97236442565918, + "learning_rate": 3.798876052108125e-06, + "loss": 0.2341, + "num_input_tokens_seen": 14468024, + "step": 7388 + }, + { + "epoch": 0.979324055666004, + "grad_norm": 0.16712424159049988, + "learning_rate": 3.798579431656277e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14470160, + "step": 7389 + }, + { + "epoch": 0.979456593770709, + "grad_norm": 13.663261413574219, + "learning_rate": 3.7982827861669224e-06, + "loss": 0.3484, + "num_input_tokens_seen": 14471888, + "step": 7390 + }, + { + "epoch": 0.9795891318754142, + "grad_norm": 8.83521842956543, + "learning_rate": 3.7979861156457796e-06, + "loss": 0.2455, + "num_input_tokens_seen": 14474400, + "step": 7391 + }, + { + "epoch": 0.9797216699801193, + "grad_norm": 11.258716583251953, + "learning_rate": 3.797689420098569e-06, + "loss": 0.5067, + "num_input_tokens_seen": 14476784, + "step": 7392 + }, + { + "epoch": 0.9798542080848244, + "grad_norm": 0.3901125490665436, + "learning_rate": 3.797392699531012e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14479432, + "step": 7393 + }, + { + "epoch": 0.9799867461895295, + "grad_norm": 2.4827568531036377, + "learning_rate": 3.7970959539488277e-06, + "loss": 0.0177, + "num_input_tokens_seen": 14481024, + "step": 7394 + }, + { + "epoch": 0.9801192842942346, + "grad_norm": 0.08227360248565674, + "learning_rate": 3.7967991833577388e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14482840, + "step": 7395 + }, + { + "epoch": 0.9802518223989397, + "grad_norm": 1.063278079032898, + "learning_rate": 3.796502387763467e-06, + "loss": 0.0107, + "num_input_tokens_seen": 14484928, + "step": 7396 + }, + { + "epoch": 0.9803843605036447, + "grad_norm": 2.9758307933807373, + "learning_rate": 3.796205567171735e-06, + "loss": 0.0854, + "num_input_tokens_seen": 14486632, + "step": 7397 + }, + { + "epoch": 0.9805168986083499, + "grad_norm": 6.8062872886657715, + "learning_rate": 3.795908721588265e-06, + "loss": 0.1775, + "num_input_tokens_seen": 14489448, + "step": 7398 + }, + { + "epoch": 0.980649436713055, + "grad_norm": 0.5578870177268982, + "learning_rate": 3.7956118510187817e-06, + "loss": 0.0035, + "num_input_tokens_seen": 14491408, + "step": 7399 + }, + { + "epoch": 0.9807819748177601, + "grad_norm": 6.043049335479736, + "learning_rate": 3.7953149554690073e-06, + "loss": 0.1417, + "num_input_tokens_seen": 14493288, + "step": 7400 + }, + { + "epoch": 0.9809145129224652, + "grad_norm": 0.15173298120498657, + "learning_rate": 3.7950180349446675e-06, + "loss": 0.001, + "num_input_tokens_seen": 14495920, + "step": 7401 + }, + { + "epoch": 0.9810470510271703, + "grad_norm": 0.04913967102766037, + "learning_rate": 3.7947210894514864e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14497168, + "step": 7402 + }, + { + "epoch": 0.9811795891318754, + "grad_norm": 3.2894275188446045, + "learning_rate": 3.7944241189951892e-06, + "loss": 0.0861, + "num_input_tokens_seen": 14498952, + "step": 7403 + }, + { + "epoch": 0.9813121272365806, + "grad_norm": 7.083791255950928, + "learning_rate": 3.7941271235815026e-06, + "loss": 0.0963, + "num_input_tokens_seen": 14501000, + "step": 7404 + }, + { + "epoch": 0.9814446653412856, + "grad_norm": 0.01514469739049673, + "learning_rate": 3.793830103216152e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14501888, + "step": 7405 + }, + { + "epoch": 0.9815772034459908, + "grad_norm": 11.904065132141113, + "learning_rate": 3.7935330579048647e-06, + "loss": 0.3611, + "num_input_tokens_seen": 14504536, + "step": 7406 + }, + { + "epoch": 0.9817097415506958, + "grad_norm": 0.03228849917650223, + "learning_rate": 3.793235987653367e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14506696, + "step": 7407 + }, + { + "epoch": 0.9818422796554009, + "grad_norm": 6.021876335144043, + "learning_rate": 3.7929388924673875e-06, + "loss": 0.0158, + "num_input_tokens_seen": 14507912, + "step": 7408 + }, + { + "epoch": 0.981974817760106, + "grad_norm": 5.733320236206055, + "learning_rate": 3.7926417723526544e-06, + "loss": 0.2977, + "num_input_tokens_seen": 14509768, + "step": 7409 + }, + { + "epoch": 0.9821073558648111, + "grad_norm": 0.12485023587942123, + "learning_rate": 3.7923446273148962e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14511088, + "step": 7410 + }, + { + "epoch": 0.9822398939695163, + "grad_norm": 7.824032783508301, + "learning_rate": 3.792047457359842e-06, + "loss": 0.2407, + "num_input_tokens_seen": 14513640, + "step": 7411 + }, + { + "epoch": 0.9823724320742213, + "grad_norm": 20.340831756591797, + "learning_rate": 3.7917502624932214e-06, + "loss": 0.6636, + "num_input_tokens_seen": 14516440, + "step": 7412 + }, + { + "epoch": 0.9825049701789265, + "grad_norm": 19.05531120300293, + "learning_rate": 3.791453042720765e-06, + "loss": 0.6905, + "num_input_tokens_seen": 14518304, + "step": 7413 + }, + { + "epoch": 0.9826375082836315, + "grad_norm": 5.129209518432617, + "learning_rate": 3.7911557980482027e-06, + "loss": 0.0272, + "num_input_tokens_seen": 14520064, + "step": 7414 + }, + { + "epoch": 0.9827700463883366, + "grad_norm": 9.143016815185547, + "learning_rate": 3.790858528481266e-06, + "loss": 0.1812, + "num_input_tokens_seen": 14522064, + "step": 7415 + }, + { + "epoch": 0.9829025844930418, + "grad_norm": 7.742749214172363, + "learning_rate": 3.790561234025686e-06, + "loss": 0.2871, + "num_input_tokens_seen": 14523704, + "step": 7416 + }, + { + "epoch": 0.9830351225977468, + "grad_norm": 8.041770935058594, + "learning_rate": 3.7902639146871954e-06, + "loss": 0.1239, + "num_input_tokens_seen": 14525936, + "step": 7417 + }, + { + "epoch": 0.983167660702452, + "grad_norm": 0.13700397312641144, + "learning_rate": 3.7899665704715265e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14529752, + "step": 7418 + }, + { + "epoch": 0.983300198807157, + "grad_norm": 0.5118721127510071, + "learning_rate": 3.7896692013844122e-06, + "loss": 0.0034, + "num_input_tokens_seen": 14531792, + "step": 7419 + }, + { + "epoch": 0.9834327369118622, + "grad_norm": 12.241049766540527, + "learning_rate": 3.7893718074315853e-06, + "loss": 0.251, + "num_input_tokens_seen": 14533408, + "step": 7420 + }, + { + "epoch": 0.9835652750165672, + "grad_norm": 8.60028076171875, + "learning_rate": 3.789074388618782e-06, + "loss": 0.2729, + "num_input_tokens_seen": 14535224, + "step": 7421 + }, + { + "epoch": 0.9836978131212724, + "grad_norm": 0.05928985774517059, + "learning_rate": 3.788776944951734e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14536688, + "step": 7422 + }, + { + "epoch": 0.9838303512259775, + "grad_norm": 11.478135108947754, + "learning_rate": 3.788479476436178e-06, + "loss": 0.1768, + "num_input_tokens_seen": 14538744, + "step": 7423 + }, + { + "epoch": 0.9839628893306825, + "grad_norm": 6.083920001983643, + "learning_rate": 3.788181983077848e-06, + "loss": 0.1063, + "num_input_tokens_seen": 14540584, + "step": 7424 + }, + { + "epoch": 0.9840954274353877, + "grad_norm": 14.518895149230957, + "learning_rate": 3.7878844648824814e-06, + "loss": 0.4472, + "num_input_tokens_seen": 14542464, + "step": 7425 + }, + { + "epoch": 0.9842279655400927, + "grad_norm": 8.088200569152832, + "learning_rate": 3.7875869218558136e-06, + "loss": 0.3527, + "num_input_tokens_seen": 14544000, + "step": 7426 + }, + { + "epoch": 0.9843605036447979, + "grad_norm": 10.399395942687988, + "learning_rate": 3.7872893540035815e-06, + "loss": 0.2184, + "num_input_tokens_seen": 14546808, + "step": 7427 + }, + { + "epoch": 0.984493041749503, + "grad_norm": 0.08218420296907425, + "learning_rate": 3.7869917613315228e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14548744, + "step": 7428 + }, + { + "epoch": 0.9846255798542081, + "grad_norm": 0.10341787338256836, + "learning_rate": 3.7866941438453754e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14550472, + "step": 7429 + }, + { + "epoch": 0.9847581179589132, + "grad_norm": 0.025562381371855736, + "learning_rate": 3.786396501550877e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14551608, + "step": 7430 + }, + { + "epoch": 0.9848906560636183, + "grad_norm": 9.983819961547852, + "learning_rate": 3.7860988344537664e-06, + "loss": 0.2907, + "num_input_tokens_seen": 14553696, + "step": 7431 + }, + { + "epoch": 0.9850231941683234, + "grad_norm": 2.680049419403076, + "learning_rate": 3.7858011425597837e-06, + "loss": 0.0389, + "num_input_tokens_seen": 14555640, + "step": 7432 + }, + { + "epoch": 0.9851557322730286, + "grad_norm": 6.576312065124512, + "learning_rate": 3.785503425874667e-06, + "loss": 0.2179, + "num_input_tokens_seen": 14558208, + "step": 7433 + }, + { + "epoch": 0.9852882703777336, + "grad_norm": 0.42594072222709656, + "learning_rate": 3.785205684404158e-06, + "loss": 0.0024, + "num_input_tokens_seen": 14559512, + "step": 7434 + }, + { + "epoch": 0.9854208084824387, + "grad_norm": 5.457864284515381, + "learning_rate": 3.784907918153997e-06, + "loss": 0.1723, + "num_input_tokens_seen": 14561336, + "step": 7435 + }, + { + "epoch": 0.9855533465871438, + "grad_norm": 8.544934272766113, + "learning_rate": 3.784610127129924e-06, + "loss": 0.1595, + "num_input_tokens_seen": 14563224, + "step": 7436 + }, + { + "epoch": 0.9856858846918489, + "grad_norm": 4.888466835021973, + "learning_rate": 3.784312311337682e-06, + "loss": 0.0545, + "num_input_tokens_seen": 14565096, + "step": 7437 + }, + { + "epoch": 0.985818422796554, + "grad_norm": 0.1505114585161209, + "learning_rate": 3.784014470783014e-06, + "loss": 0.001, + "num_input_tokens_seen": 14567080, + "step": 7438 + }, + { + "epoch": 0.9859509609012591, + "grad_norm": 15.188621520996094, + "learning_rate": 3.783716605471659e-06, + "loss": 0.3375, + "num_input_tokens_seen": 14568688, + "step": 7439 + }, + { + "epoch": 0.9860834990059643, + "grad_norm": 6.947436332702637, + "learning_rate": 3.7834187154093637e-06, + "loss": 0.1894, + "num_input_tokens_seen": 14570584, + "step": 7440 + }, + { + "epoch": 0.9862160371106693, + "grad_norm": 0.024744799360632896, + "learning_rate": 3.7831208006018693e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14572592, + "step": 7441 + }, + { + "epoch": 0.9863485752153744, + "grad_norm": 0.05840403214097023, + "learning_rate": 3.782822861054921e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14574264, + "step": 7442 + }, + { + "epoch": 0.9864811133200795, + "grad_norm": 20.0048885345459, + "learning_rate": 3.7825248967742634e-06, + "loss": 0.5631, + "num_input_tokens_seen": 14575400, + "step": 7443 + }, + { + "epoch": 0.9866136514247846, + "grad_norm": 6.002795219421387, + "learning_rate": 3.782226907765641e-06, + "loss": 0.0682, + "num_input_tokens_seen": 14576472, + "step": 7444 + }, + { + "epoch": 0.9867461895294898, + "grad_norm": 7.828094005584717, + "learning_rate": 3.781928894034799e-06, + "loss": 0.2006, + "num_input_tokens_seen": 14577896, + "step": 7445 + }, + { + "epoch": 0.9868787276341948, + "grad_norm": 4.702576637268066, + "learning_rate": 3.781630855587483e-06, + "loss": 0.0451, + "num_input_tokens_seen": 14579408, + "step": 7446 + }, + { + "epoch": 0.9870112657389, + "grad_norm": 19.22153663635254, + "learning_rate": 3.7813327924294407e-06, + "loss": 0.5378, + "num_input_tokens_seen": 14581624, + "step": 7447 + }, + { + "epoch": 0.987143803843605, + "grad_norm": 8.9507474899292, + "learning_rate": 3.781034704566418e-06, + "loss": 0.1927, + "num_input_tokens_seen": 14584240, + "step": 7448 + }, + { + "epoch": 0.9872763419483102, + "grad_norm": 0.04042766988277435, + "learning_rate": 3.7807365920041626e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14585568, + "step": 7449 + }, + { + "epoch": 0.9874088800530152, + "grad_norm": 0.08263298869132996, + "learning_rate": 3.780438454748422e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14587136, + "step": 7450 + }, + { + "epoch": 0.9875414181577203, + "grad_norm": 10.530470848083496, + "learning_rate": 3.780140292804945e-06, + "loss": 0.3976, + "num_input_tokens_seen": 14588712, + "step": 7451 + }, + { + "epoch": 0.9876739562624255, + "grad_norm": 7.5321269035339355, + "learning_rate": 3.7798421061794794e-06, + "loss": 0.1258, + "num_input_tokens_seen": 14590736, + "step": 7452 + }, + { + "epoch": 0.9878064943671305, + "grad_norm": 5.495265960693359, + "learning_rate": 3.7795438948777758e-06, + "loss": 0.2552, + "num_input_tokens_seen": 14592536, + "step": 7453 + }, + { + "epoch": 0.9879390324718357, + "grad_norm": 0.05409146845340729, + "learning_rate": 3.779245658905582e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14594312, + "step": 7454 + }, + { + "epoch": 0.9880715705765407, + "grad_norm": 0.059843823313713074, + "learning_rate": 3.778947398268651e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14596576, + "step": 7455 + }, + { + "epoch": 0.9882041086812459, + "grad_norm": 13.64786148071289, + "learning_rate": 3.778649112972731e-06, + "loss": 0.5459, + "num_input_tokens_seen": 14598504, + "step": 7456 + }, + { + "epoch": 0.988336646785951, + "grad_norm": 7.324364185333252, + "learning_rate": 3.778350803023574e-06, + "loss": 0.1903, + "num_input_tokens_seen": 14600984, + "step": 7457 + }, + { + "epoch": 0.988469184890656, + "grad_norm": 10.663796424865723, + "learning_rate": 3.7780524684269315e-06, + "loss": 0.2283, + "num_input_tokens_seen": 14603144, + "step": 7458 + }, + { + "epoch": 0.9886017229953612, + "grad_norm": 0.2375771701335907, + "learning_rate": 3.7777541091885562e-06, + "loss": 0.0017, + "num_input_tokens_seen": 14605440, + "step": 7459 + }, + { + "epoch": 0.9887342611000662, + "grad_norm": 0.06719999015331268, + "learning_rate": 3.7774557253141997e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14606984, + "step": 7460 + }, + { + "epoch": 0.9888667992047714, + "grad_norm": 1.729261040687561, + "learning_rate": 3.7771573168096155e-06, + "loss": 0.0402, + "num_input_tokens_seen": 14608856, + "step": 7461 + }, + { + "epoch": 0.9889993373094764, + "grad_norm": 7.544516086578369, + "learning_rate": 3.7768588836805573e-06, + "loss": 0.1204, + "num_input_tokens_seen": 14610928, + "step": 7462 + }, + { + "epoch": 0.9891318754141816, + "grad_norm": 12.71238899230957, + "learning_rate": 3.7765604259327792e-06, + "loss": 0.2894, + "num_input_tokens_seen": 14612816, + "step": 7463 + }, + { + "epoch": 0.9892644135188867, + "grad_norm": 5.414800643920898, + "learning_rate": 3.7762619435720355e-06, + "loss": 0.2036, + "num_input_tokens_seen": 14614784, + "step": 7464 + }, + { + "epoch": 0.9893969516235918, + "grad_norm": 0.1273748278617859, + "learning_rate": 3.775963436604081e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14616256, + "step": 7465 + }, + { + "epoch": 0.9895294897282969, + "grad_norm": 11.797792434692383, + "learning_rate": 3.7756649050346705e-06, + "loss": 0.3017, + "num_input_tokens_seen": 14618832, + "step": 7466 + }, + { + "epoch": 0.989662027833002, + "grad_norm": 0.18892276287078857, + "learning_rate": 3.7753663488695613e-06, + "loss": 0.0012, + "num_input_tokens_seen": 14620072, + "step": 7467 + }, + { + "epoch": 0.9897945659377071, + "grad_norm": 4.78010368347168, + "learning_rate": 3.775067768114509e-06, + "loss": 0.1914, + "num_input_tokens_seen": 14622912, + "step": 7468 + }, + { + "epoch": 0.9899271040424122, + "grad_norm": 0.2012818455696106, + "learning_rate": 3.77476916277527e-06, + "loss": 0.0014, + "num_input_tokens_seen": 14624600, + "step": 7469 + }, + { + "epoch": 0.9900596421471173, + "grad_norm": 5.991137504577637, + "learning_rate": 3.774470532857603e-06, + "loss": 0.2401, + "num_input_tokens_seen": 14626392, + "step": 7470 + }, + { + "epoch": 0.9901921802518224, + "grad_norm": 0.36517441272735596, + "learning_rate": 3.7741718783672647e-06, + "loss": 0.0027, + "num_input_tokens_seen": 14629336, + "step": 7471 + }, + { + "epoch": 0.9903247183565275, + "grad_norm": 0.07761472463607788, + "learning_rate": 3.773873199310013e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14630952, + "step": 7472 + }, + { + "epoch": 0.9904572564612326, + "grad_norm": 9.61211109161377, + "learning_rate": 3.7735744956916076e-06, + "loss": 0.2465, + "num_input_tokens_seen": 14634272, + "step": 7473 + }, + { + "epoch": 0.9905897945659377, + "grad_norm": 5.017262935638428, + "learning_rate": 3.7732757675178076e-06, + "loss": 0.0618, + "num_input_tokens_seen": 14636160, + "step": 7474 + }, + { + "epoch": 0.9907223326706428, + "grad_norm": 0.28648558259010315, + "learning_rate": 3.7729770147943725e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14639392, + "step": 7475 + }, + { + "epoch": 0.990854870775348, + "grad_norm": 5.11911678314209, + "learning_rate": 3.772678237527062e-06, + "loss": 0.0593, + "num_input_tokens_seen": 14641456, + "step": 7476 + }, + { + "epoch": 0.990987408880053, + "grad_norm": 2.148871898651123, + "learning_rate": 3.772379435721637e-06, + "loss": 0.0628, + "num_input_tokens_seen": 14643472, + "step": 7477 + }, + { + "epoch": 0.9911199469847581, + "grad_norm": 6.179117679595947, + "learning_rate": 3.7720806093838585e-06, + "loss": 0.1541, + "num_input_tokens_seen": 14645392, + "step": 7478 + }, + { + "epoch": 0.9912524850894632, + "grad_norm": 2.1901626586914062, + "learning_rate": 3.771781758519489e-06, + "loss": 0.0166, + "num_input_tokens_seen": 14646696, + "step": 7479 + }, + { + "epoch": 0.9913850231941683, + "grad_norm": 17.649974822998047, + "learning_rate": 3.771482883134289e-06, + "loss": 0.4598, + "num_input_tokens_seen": 14648464, + "step": 7480 + }, + { + "epoch": 0.9915175612988735, + "grad_norm": 3.9150497913360596, + "learning_rate": 3.7711839832340225e-06, + "loss": 0.0746, + "num_input_tokens_seen": 14650584, + "step": 7481 + }, + { + "epoch": 0.9916500994035785, + "grad_norm": 0.09354069083929062, + "learning_rate": 3.7708850588244515e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14652304, + "step": 7482 + }, + { + "epoch": 0.9917826375082837, + "grad_norm": 0.11603660136461258, + "learning_rate": 3.7705861099113404e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14654304, + "step": 7483 + }, + { + "epoch": 0.9919151756129887, + "grad_norm": 0.11128681898117065, + "learning_rate": 3.770287136500452e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14655640, + "step": 7484 + }, + { + "epoch": 0.9920477137176938, + "grad_norm": 0.0486735925078392, + "learning_rate": 3.769988138597551e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14657024, + "step": 7485 + }, + { + "epoch": 0.9921802518223989, + "grad_norm": 15.03048038482666, + "learning_rate": 3.7696891162084036e-06, + "loss": 0.4605, + "num_input_tokens_seen": 14658672, + "step": 7486 + }, + { + "epoch": 0.992312789927104, + "grad_norm": 7.816737651824951, + "learning_rate": 3.769390069338773e-06, + "loss": 0.1599, + "num_input_tokens_seen": 14659920, + "step": 7487 + }, + { + "epoch": 0.9924453280318092, + "grad_norm": 0.13302229344844818, + "learning_rate": 3.7690909979944267e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14661344, + "step": 7488 + }, + { + "epoch": 0.9925778661365142, + "grad_norm": 7.35618782043457, + "learning_rate": 3.7687919021811302e-06, + "loss": 0.1565, + "num_input_tokens_seen": 14663872, + "step": 7489 + }, + { + "epoch": 0.9927104042412194, + "grad_norm": 8.849679946899414, + "learning_rate": 3.7684927819046515e-06, + "loss": 0.1941, + "num_input_tokens_seen": 14665288, + "step": 7490 + }, + { + "epoch": 0.9928429423459244, + "grad_norm": 6.646866798400879, + "learning_rate": 3.768193637170756e-06, + "loss": 0.2763, + "num_input_tokens_seen": 14667384, + "step": 7491 + }, + { + "epoch": 0.9929754804506296, + "grad_norm": 0.05182486027479172, + "learning_rate": 3.7678944679852127e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14668752, + "step": 7492 + }, + { + "epoch": 0.9931080185553347, + "grad_norm": 8.893109321594238, + "learning_rate": 3.7675952743537885e-06, + "loss": 0.2543, + "num_input_tokens_seen": 14670968, + "step": 7493 + }, + { + "epoch": 0.9932405566600397, + "grad_norm": 0.23408369719982147, + "learning_rate": 3.7672960562822543e-06, + "loss": 0.0014, + "num_input_tokens_seen": 14672560, + "step": 7494 + }, + { + "epoch": 0.9933730947647449, + "grad_norm": 2.355358362197876, + "learning_rate": 3.7669968137763767e-06, + "loss": 0.0284, + "num_input_tokens_seen": 14675672, + "step": 7495 + }, + { + "epoch": 0.9935056328694499, + "grad_norm": 0.159286230802536, + "learning_rate": 3.7666975468419263e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14677336, + "step": 7496 + }, + { + "epoch": 0.9936381709741551, + "grad_norm": 5.72774600982666, + "learning_rate": 3.7663982554846746e-06, + "loss": 0.1427, + "num_input_tokens_seen": 14680616, + "step": 7497 + }, + { + "epoch": 0.9937707090788602, + "grad_norm": 0.07825324684381485, + "learning_rate": 3.7660989397103903e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14681768, + "step": 7498 + }, + { + "epoch": 0.9939032471835653, + "grad_norm": 10.577095031738281, + "learning_rate": 3.7657995995248453e-06, + "loss": 0.3354, + "num_input_tokens_seen": 14683856, + "step": 7499 + }, + { + "epoch": 0.9940357852882704, + "grad_norm": 5.286223888397217, + "learning_rate": 3.7655002349338106e-06, + "loss": 0.2151, + "num_input_tokens_seen": 14686704, + "step": 7500 + }, + { + "epoch": 0.9941683233929755, + "grad_norm": 1.5178208351135254, + "learning_rate": 3.7652008459430576e-06, + "loss": 0.0082, + "num_input_tokens_seen": 14689808, + "step": 7501 + }, + { + "epoch": 0.9943008614976806, + "grad_norm": 8.504348754882812, + "learning_rate": 3.7649014325583597e-06, + "loss": 0.3122, + "num_input_tokens_seen": 14691472, + "step": 7502 + }, + { + "epoch": 0.9944333996023856, + "grad_norm": 3.3781087398529053, + "learning_rate": 3.7646019947854907e-06, + "loss": 0.0412, + "num_input_tokens_seen": 14693448, + "step": 7503 + }, + { + "epoch": 0.9945659377070908, + "grad_norm": 3.832814931869507, + "learning_rate": 3.7643025326302217e-06, + "loss": 0.042, + "num_input_tokens_seen": 14696440, + "step": 7504 + }, + { + "epoch": 0.9946984758117959, + "grad_norm": 7.151188373565674, + "learning_rate": 3.7640030460983284e-06, + "loss": 0.138, + "num_input_tokens_seen": 14697888, + "step": 7505 + }, + { + "epoch": 0.994831013916501, + "grad_norm": 0.24960653483867645, + "learning_rate": 3.763703535195584e-06, + "loss": 0.0017, + "num_input_tokens_seen": 14700832, + "step": 7506 + }, + { + "epoch": 0.9949635520212061, + "grad_norm": 13.948338508605957, + "learning_rate": 3.7634039999277633e-06, + "loss": 0.5592, + "num_input_tokens_seen": 14703040, + "step": 7507 + }, + { + "epoch": 0.9950960901259112, + "grad_norm": 2.88840651512146, + "learning_rate": 3.763104440300643e-06, + "loss": 0.0549, + "num_input_tokens_seen": 14704864, + "step": 7508 + }, + { + "epoch": 0.9952286282306163, + "grad_norm": 6.21791934967041, + "learning_rate": 3.7628048563199972e-06, + "loss": 0.1545, + "num_input_tokens_seen": 14707072, + "step": 7509 + }, + { + "epoch": 0.9953611663353215, + "grad_norm": 7.89548397064209, + "learning_rate": 3.762505247991601e-06, + "loss": 0.0699, + "num_input_tokens_seen": 14710048, + "step": 7510 + }, + { + "epoch": 0.9954937044400265, + "grad_norm": 4.993197917938232, + "learning_rate": 3.762205615321235e-06, + "loss": 0.0661, + "num_input_tokens_seen": 14712016, + "step": 7511 + }, + { + "epoch": 0.9956262425447316, + "grad_norm": 4.341444969177246, + "learning_rate": 3.7619059583146733e-06, + "loss": 0.0835, + "num_input_tokens_seen": 14714328, + "step": 7512 + }, + { + "epoch": 0.9957587806494367, + "grad_norm": 13.486825942993164, + "learning_rate": 3.761606276977694e-06, + "loss": 0.4369, + "num_input_tokens_seen": 14716664, + "step": 7513 + }, + { + "epoch": 0.9958913187541418, + "grad_norm": 7.296512126922607, + "learning_rate": 3.7613065713160747e-06, + "loss": 0.0684, + "num_input_tokens_seen": 14718216, + "step": 7514 + }, + { + "epoch": 0.9960238568588469, + "grad_norm": 0.5210379958152771, + "learning_rate": 3.7610068413355955e-06, + "loss": 0.0033, + "num_input_tokens_seen": 14719872, + "step": 7515 + }, + { + "epoch": 0.996156394963552, + "grad_norm": 11.074482917785645, + "learning_rate": 3.760707087042034e-06, + "loss": 0.32, + "num_input_tokens_seen": 14721784, + "step": 7516 + }, + { + "epoch": 0.9962889330682572, + "grad_norm": 10.787108421325684, + "learning_rate": 3.76040730844117e-06, + "loss": 0.3002, + "num_input_tokens_seen": 14723480, + "step": 7517 + }, + { + "epoch": 0.9964214711729622, + "grad_norm": 2.3107287883758545, + "learning_rate": 3.7601075055387848e-06, + "loss": 0.0382, + "num_input_tokens_seen": 14725608, + "step": 7518 + }, + { + "epoch": 0.9965540092776674, + "grad_norm": 0.15647807717323303, + "learning_rate": 3.7598076783406556e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14727472, + "step": 7519 + }, + { + "epoch": 0.9966865473823724, + "grad_norm": 15.560263633728027, + "learning_rate": 3.7595078268525666e-06, + "loss": 0.2044, + "num_input_tokens_seen": 14728920, + "step": 7520 + }, + { + "epoch": 0.9968190854870775, + "grad_norm": 1.11007559299469, + "learning_rate": 3.759207951080298e-06, + "loss": 0.0074, + "num_input_tokens_seen": 14730816, + "step": 7521 + }, + { + "epoch": 0.9969516235917827, + "grad_norm": 10.53654956817627, + "learning_rate": 3.7589080510296307e-06, + "loss": 0.2754, + "num_input_tokens_seen": 14732432, + "step": 7522 + }, + { + "epoch": 0.9970841616964877, + "grad_norm": 0.5345222353935242, + "learning_rate": 3.758608126706348e-06, + "loss": 0.0108, + "num_input_tokens_seen": 14733976, + "step": 7523 + }, + { + "epoch": 0.9972166998011929, + "grad_norm": 3.964815139770508, + "learning_rate": 3.7583081781162323e-06, + "loss": 0.0365, + "num_input_tokens_seen": 14735856, + "step": 7524 + }, + { + "epoch": 0.9973492379058979, + "grad_norm": 4.957132816314697, + "learning_rate": 3.758008205265067e-06, + "loss": 0.1353, + "num_input_tokens_seen": 14737896, + "step": 7525 + }, + { + "epoch": 0.9974817760106031, + "grad_norm": 16.13467788696289, + "learning_rate": 3.757708208158636e-06, + "loss": 0.5086, + "num_input_tokens_seen": 14741200, + "step": 7526 + }, + { + "epoch": 0.9976143141153081, + "grad_norm": 5.856666088104248, + "learning_rate": 3.7574081868027218e-06, + "loss": 0.1209, + "num_input_tokens_seen": 14743688, + "step": 7527 + }, + { + "epoch": 0.9977468522200132, + "grad_norm": 20.14527130126953, + "learning_rate": 3.7571081412031106e-06, + "loss": 0.5185, + "num_input_tokens_seen": 14745240, + "step": 7528 + }, + { + "epoch": 0.9978793903247184, + "grad_norm": 14.533098220825195, + "learning_rate": 3.756808071365588e-06, + "loss": 0.3847, + "num_input_tokens_seen": 14746448, + "step": 7529 + }, + { + "epoch": 0.9980119284294234, + "grad_norm": 9.56916618347168, + "learning_rate": 3.756507977295939e-06, + "loss": 0.2758, + "num_input_tokens_seen": 14748504, + "step": 7530 + }, + { + "epoch": 0.9981444665341286, + "grad_norm": 5.491872787475586, + "learning_rate": 3.7562078589999483e-06, + "loss": 0.1232, + "num_input_tokens_seen": 14750664, + "step": 7531 + }, + { + "epoch": 0.9982770046388336, + "grad_norm": 0.10833562910556793, + "learning_rate": 3.7559077164834046e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14752144, + "step": 7532 + }, + { + "epoch": 0.9984095427435388, + "grad_norm": 0.10356461256742477, + "learning_rate": 3.7556075497520927e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14754128, + "step": 7533 + }, + { + "epoch": 0.9985420808482439, + "grad_norm": 0.4142891466617584, + "learning_rate": 3.7553073588118015e-06, + "loss": 0.0023, + "num_input_tokens_seen": 14755640, + "step": 7534 + }, + { + "epoch": 0.998674618952949, + "grad_norm": 7.838845252990723, + "learning_rate": 3.755007143668319e-06, + "loss": 0.0988, + "num_input_tokens_seen": 14757840, + "step": 7535 + }, + { + "epoch": 0.9988071570576541, + "grad_norm": 10.540555000305176, + "learning_rate": 3.754706904327432e-06, + "loss": 0.1365, + "num_input_tokens_seen": 14759464, + "step": 7536 + }, + { + "epoch": 0.9989396951623591, + "grad_norm": 0.06858278810977936, + "learning_rate": 3.75440664079493e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14760736, + "step": 7537 + }, + { + "epoch": 0.9990722332670643, + "grad_norm": 0.12629128992557526, + "learning_rate": 3.7541063530766042e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14762792, + "step": 7538 + }, + { + "epoch": 0.9992047713717693, + "grad_norm": 12.637260437011719, + "learning_rate": 3.7538060411782417e-06, + "loss": 0.3821, + "num_input_tokens_seen": 14764696, + "step": 7539 + }, + { + "epoch": 0.9993373094764745, + "grad_norm": 6.717950344085693, + "learning_rate": 3.7535057051056335e-06, + "loss": 0.1089, + "num_input_tokens_seen": 14766944, + "step": 7540 + }, + { + "epoch": 0.9994698475811796, + "grad_norm": 14.358124732971191, + "learning_rate": 3.753205344864571e-06, + "loss": 0.506, + "num_input_tokens_seen": 14768648, + "step": 7541 + }, + { + "epoch": 0.9996023856858847, + "grad_norm": 3.183262825012207, + "learning_rate": 3.752904960460845e-06, + "loss": 0.0535, + "num_input_tokens_seen": 14770392, + "step": 7542 + }, + { + "epoch": 0.9997349237905898, + "grad_norm": 7.213214874267578, + "learning_rate": 3.7526045519002473e-06, + "loss": 0.1266, + "num_input_tokens_seen": 14772192, + "step": 7543 + }, + { + "epoch": 0.9998674618952949, + "grad_norm": 1.4316110610961914, + "learning_rate": 3.7523041191885697e-06, + "loss": 0.0092, + "num_input_tokens_seen": 14773760, + "step": 7544 + }, + { + "epoch": 1.0, + "grad_norm": 12.919032096862793, + "learning_rate": 3.7520036623316034e-06, + "loss": 0.2122, + "num_input_tokens_seen": 14775328, + "step": 7545 + }, + { + "epoch": 1.000132538104705, + "grad_norm": 9.438655853271484, + "learning_rate": 3.7517031813351447e-06, + "loss": 0.1873, + "num_input_tokens_seen": 14777576, + "step": 7546 + }, + { + "epoch": 1.0002650762094103, + "grad_norm": 0.2385670244693756, + "learning_rate": 3.751402676204984e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14779816, + "step": 7547 + }, + { + "epoch": 1.0003976143141153, + "grad_norm": 2.6697463989257812, + "learning_rate": 3.7511021469469167e-06, + "loss": 0.0116, + "num_input_tokens_seen": 14780760, + "step": 7548 + }, + { + "epoch": 1.0005301524188204, + "grad_norm": 13.829483985900879, + "learning_rate": 3.7508015935667365e-06, + "loss": 0.3487, + "num_input_tokens_seen": 14782984, + "step": 7549 + }, + { + "epoch": 1.0006626905235254, + "grad_norm": 1.0328798294067383, + "learning_rate": 3.750501016070239e-06, + "loss": 0.0099, + "num_input_tokens_seen": 14785544, + "step": 7550 + }, + { + "epoch": 1.0007952286282307, + "grad_norm": 14.574694633483887, + "learning_rate": 3.75020041446322e-06, + "loss": 0.5077, + "num_input_tokens_seen": 14788224, + "step": 7551 + }, + { + "epoch": 1.0009277667329357, + "grad_norm": 1.4466869831085205, + "learning_rate": 3.749899788751473e-06, + "loss": 0.0153, + "num_input_tokens_seen": 14789808, + "step": 7552 + }, + { + "epoch": 1.0010603048376407, + "grad_norm": 0.11413199454545975, + "learning_rate": 3.749599138940797e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14791200, + "step": 7553 + }, + { + "epoch": 1.001192842942346, + "grad_norm": 1.0611664056777954, + "learning_rate": 3.7492984650369866e-06, + "loss": 0.0109, + "num_input_tokens_seen": 14792824, + "step": 7554 + }, + { + "epoch": 1.001325381047051, + "grad_norm": 14.517199516296387, + "learning_rate": 3.7489977670458406e-06, + "loss": 0.2872, + "num_input_tokens_seen": 14796568, + "step": 7555 + }, + { + "epoch": 1.001457919151756, + "grad_norm": 9.657989501953125, + "learning_rate": 3.7486970449731562e-06, + "loss": 0.1389, + "num_input_tokens_seen": 14798464, + "step": 7556 + }, + { + "epoch": 1.0015904572564613, + "grad_norm": 5.662469863891602, + "learning_rate": 3.7483962988247313e-06, + "loss": 0.0898, + "num_input_tokens_seen": 14800520, + "step": 7557 + }, + { + "epoch": 1.0017229953611664, + "grad_norm": 5.8557586669921875, + "learning_rate": 3.748095528606364e-06, + "loss": 0.0581, + "num_input_tokens_seen": 14802096, + "step": 7558 + }, + { + "epoch": 1.0018555334658714, + "grad_norm": 7.384589672088623, + "learning_rate": 3.7477947343238543e-06, + "loss": 0.1085, + "num_input_tokens_seen": 14804744, + "step": 7559 + }, + { + "epoch": 1.0019880715705765, + "grad_norm": 2.18312668800354, + "learning_rate": 3.7474939159830014e-06, + "loss": 0.0379, + "num_input_tokens_seen": 14806072, + "step": 7560 + }, + { + "epoch": 1.0021206096752817, + "grad_norm": 5.052554130554199, + "learning_rate": 3.7471930735896045e-06, + "loss": 0.0745, + "num_input_tokens_seen": 14808480, + "step": 7561 + }, + { + "epoch": 1.0022531477799868, + "grad_norm": 5.2918381690979, + "learning_rate": 3.7468922071494656e-06, + "loss": 0.0824, + "num_input_tokens_seen": 14810424, + "step": 7562 + }, + { + "epoch": 1.0023856858846918, + "grad_norm": 3.529203414916992, + "learning_rate": 3.746591316668384e-06, + "loss": 0.0737, + "num_input_tokens_seen": 14812000, + "step": 7563 + }, + { + "epoch": 1.002518223989397, + "grad_norm": 6.5588812828063965, + "learning_rate": 3.746290402152163e-06, + "loss": 0.089, + "num_input_tokens_seen": 14814024, + "step": 7564 + }, + { + "epoch": 1.002650762094102, + "grad_norm": 0.3529358208179474, + "learning_rate": 3.7459894636066024e-06, + "loss": 0.0022, + "num_input_tokens_seen": 14816024, + "step": 7565 + }, + { + "epoch": 1.0027833001988071, + "grad_norm": 1.5878340005874634, + "learning_rate": 3.7456885010375054e-06, + "loss": 0.0127, + "num_input_tokens_seen": 14817784, + "step": 7566 + }, + { + "epoch": 1.0029158383035122, + "grad_norm": 9.358026504516602, + "learning_rate": 3.7453875144506745e-06, + "loss": 0.1492, + "num_input_tokens_seen": 14820120, + "step": 7567 + }, + { + "epoch": 1.0030483764082174, + "grad_norm": 0.022215483710169792, + "learning_rate": 3.7450865038519133e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14821744, + "step": 7568 + }, + { + "epoch": 1.0031809145129225, + "grad_norm": 9.642528533935547, + "learning_rate": 3.744785469247026e-06, + "loss": 0.1921, + "num_input_tokens_seen": 14823360, + "step": 7569 + }, + { + "epoch": 1.0033134526176275, + "grad_norm": 8.7027587890625, + "learning_rate": 3.744484410641816e-06, + "loss": 0.2407, + "num_input_tokens_seen": 14824888, + "step": 7570 + }, + { + "epoch": 1.0034459907223328, + "grad_norm": 6.996974468231201, + "learning_rate": 3.7441833280420875e-06, + "loss": 0.0911, + "num_input_tokens_seen": 14827016, + "step": 7571 + }, + { + "epoch": 1.0035785288270378, + "grad_norm": 1.7538390159606934, + "learning_rate": 3.7438822214536463e-06, + "loss": 0.0195, + "num_input_tokens_seen": 14828480, + "step": 7572 + }, + { + "epoch": 1.0037110669317428, + "grad_norm": 3.8951303958892822, + "learning_rate": 3.7435810908822977e-06, + "loss": 0.0134, + "num_input_tokens_seen": 14829848, + "step": 7573 + }, + { + "epoch": 1.0038436050364479, + "grad_norm": 10.267996788024902, + "learning_rate": 3.7432799363338477e-06, + "loss": 0.3677, + "num_input_tokens_seen": 14832168, + "step": 7574 + }, + { + "epoch": 1.0039761431411531, + "grad_norm": 3.218838930130005, + "learning_rate": 3.742978757814103e-06, + "loss": 0.0312, + "num_input_tokens_seen": 14833496, + "step": 7575 + }, + { + "epoch": 1.0041086812458582, + "grad_norm": 0.7289909720420837, + "learning_rate": 3.742677555328871e-06, + "loss": 0.0043, + "num_input_tokens_seen": 14834920, + "step": 7576 + }, + { + "epoch": 1.0042412193505632, + "grad_norm": 0.14638152718544006, + "learning_rate": 3.7423763288839577e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14836416, + "step": 7577 + }, + { + "epoch": 1.0043737574552685, + "grad_norm": 11.662501335144043, + "learning_rate": 3.7420750784851717e-06, + "loss": 0.536, + "num_input_tokens_seen": 14839496, + "step": 7578 + }, + { + "epoch": 1.0045062955599735, + "grad_norm": 9.965180397033691, + "learning_rate": 3.741773804138321e-06, + "loss": 0.1082, + "num_input_tokens_seen": 14842344, + "step": 7579 + }, + { + "epoch": 1.0046388336646785, + "grad_norm": 3.89701771736145, + "learning_rate": 3.7414725058492155e-06, + "loss": 0.0635, + "num_input_tokens_seen": 14843720, + "step": 7580 + }, + { + "epoch": 1.0047713717693838, + "grad_norm": 0.7009601593017578, + "learning_rate": 3.741171183623663e-06, + "loss": 0.003, + "num_input_tokens_seen": 14846696, + "step": 7581 + }, + { + "epoch": 1.0049039098740888, + "grad_norm": 11.044825553894043, + "learning_rate": 3.7408698374674747e-06, + "loss": 0.1879, + "num_input_tokens_seen": 14848504, + "step": 7582 + }, + { + "epoch": 1.0050364479787939, + "grad_norm": 5.662332534790039, + "learning_rate": 3.7405684673864595e-06, + "loss": 0.1149, + "num_input_tokens_seen": 14850600, + "step": 7583 + }, + { + "epoch": 1.005168986083499, + "grad_norm": 0.02677895873785019, + "learning_rate": 3.7402670733864278e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14851984, + "step": 7584 + }, + { + "epoch": 1.0053015241882042, + "grad_norm": 5.345312118530273, + "learning_rate": 3.7399656554731922e-06, + "loss": 0.0571, + "num_input_tokens_seen": 14854208, + "step": 7585 + }, + { + "epoch": 1.0054340622929092, + "grad_norm": 3.379507064819336, + "learning_rate": 3.7396642136525623e-06, + "loss": 0.0469, + "num_input_tokens_seen": 14856064, + "step": 7586 + }, + { + "epoch": 1.0055666003976143, + "grad_norm": 0.025146977975964546, + "learning_rate": 3.739362747930352e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14857968, + "step": 7587 + }, + { + "epoch": 1.0056991385023195, + "grad_norm": 3.455627918243408, + "learning_rate": 3.7390612583123732e-06, + "loss": 0.0807, + "num_input_tokens_seen": 14860152, + "step": 7588 + }, + { + "epoch": 1.0058316766070245, + "grad_norm": 6.212761402130127, + "learning_rate": 3.7387597448044375e-06, + "loss": 0.1035, + "num_input_tokens_seen": 14861960, + "step": 7589 + }, + { + "epoch": 1.0059642147117296, + "grad_norm": 7.009047031402588, + "learning_rate": 3.7384582074123598e-06, + "loss": 0.1578, + "num_input_tokens_seen": 14864536, + "step": 7590 + }, + { + "epoch": 1.0060967528164346, + "grad_norm": 1.261563777923584, + "learning_rate": 3.738156646141954e-06, + "loss": 0.0304, + "num_input_tokens_seen": 14866160, + "step": 7591 + }, + { + "epoch": 1.0062292909211399, + "grad_norm": 0.06088895723223686, + "learning_rate": 3.7378550609990333e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14868568, + "step": 7592 + }, + { + "epoch": 1.006361829025845, + "grad_norm": 9.468000411987305, + "learning_rate": 3.737553451989413e-06, + "loss": 0.0442, + "num_input_tokens_seen": 14869608, + "step": 7593 + }, + { + "epoch": 1.00649436713055, + "grad_norm": 3.9841530323028564, + "learning_rate": 3.737251819118909e-06, + "loss": 0.1112, + "num_input_tokens_seen": 14871552, + "step": 7594 + }, + { + "epoch": 1.0066269052352552, + "grad_norm": 0.03620518743991852, + "learning_rate": 3.7369501623933365e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14873264, + "step": 7595 + }, + { + "epoch": 1.0067594433399603, + "grad_norm": 0.036536525934934616, + "learning_rate": 3.7366484818185107e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14874568, + "step": 7596 + }, + { + "epoch": 1.0068919814446653, + "grad_norm": 6.898550510406494, + "learning_rate": 3.736346777400249e-06, + "loss": 0.1151, + "num_input_tokens_seen": 14876464, + "step": 7597 + }, + { + "epoch": 1.0070245195493703, + "grad_norm": 6.820957183837891, + "learning_rate": 3.73604504914437e-06, + "loss": 0.0808, + "num_input_tokens_seen": 14878056, + "step": 7598 + }, + { + "epoch": 1.0071570576540756, + "grad_norm": 0.1408001035451889, + "learning_rate": 3.7357432970566876e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14880176, + "step": 7599 + }, + { + "epoch": 1.0072895957587806, + "grad_norm": 0.4174724519252777, + "learning_rate": 3.735441521143024e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14882824, + "step": 7600 + }, + { + "epoch": 1.0074221338634857, + "grad_norm": 1.121027946472168, + "learning_rate": 3.7351397214091944e-06, + "loss": 0.0092, + "num_input_tokens_seen": 14884240, + "step": 7601 + }, + { + "epoch": 1.007554671968191, + "grad_norm": 8.860727310180664, + "learning_rate": 3.734837897861019e-06, + "loss": 0.1755, + "num_input_tokens_seen": 14885960, + "step": 7602 + }, + { + "epoch": 1.007687210072896, + "grad_norm": 2.6130781173706055, + "learning_rate": 3.734536050504317e-06, + "loss": 0.0841, + "num_input_tokens_seen": 14888584, + "step": 7603 + }, + { + "epoch": 1.007819748177601, + "grad_norm": 2.5570755004882812, + "learning_rate": 3.734234179344909e-06, + "loss": 0.0667, + "num_input_tokens_seen": 14890080, + "step": 7604 + }, + { + "epoch": 1.0079522862823063, + "grad_norm": 8.613471984863281, + "learning_rate": 3.733932284388614e-06, + "loss": 0.1941, + "num_input_tokens_seen": 14892016, + "step": 7605 + }, + { + "epoch": 1.0080848243870113, + "grad_norm": 9.126236915588379, + "learning_rate": 3.733630365641253e-06, + "loss": 0.1027, + "num_input_tokens_seen": 14894136, + "step": 7606 + }, + { + "epoch": 1.0082173624917163, + "grad_norm": 0.034967873245477676, + "learning_rate": 3.7333284231086483e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14895464, + "step": 7607 + }, + { + "epoch": 1.0083499005964214, + "grad_norm": 0.4401995539665222, + "learning_rate": 3.73302645679662e-06, + "loss": 0.0028, + "num_input_tokens_seen": 14898384, + "step": 7608 + }, + { + "epoch": 1.0084824387011266, + "grad_norm": 0.10709373652935028, + "learning_rate": 3.7327244667109917e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14899792, + "step": 7609 + }, + { + "epoch": 1.0086149768058317, + "grad_norm": 0.03993635252118111, + "learning_rate": 3.7324224528575846e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14902144, + "step": 7610 + }, + { + "epoch": 1.0087475149105367, + "grad_norm": 3.902662515640259, + "learning_rate": 3.732120415242223e-06, + "loss": 0.0492, + "num_input_tokens_seen": 14904176, + "step": 7611 + }, + { + "epoch": 1.008880053015242, + "grad_norm": 8.799952507019043, + "learning_rate": 3.731818353870729e-06, + "loss": 0.3616, + "num_input_tokens_seen": 14907000, + "step": 7612 + }, + { + "epoch": 1.009012591119947, + "grad_norm": 0.5898030996322632, + "learning_rate": 3.7315162687489282e-06, + "loss": 0.0031, + "num_input_tokens_seen": 14908736, + "step": 7613 + }, + { + "epoch": 1.009145129224652, + "grad_norm": 1.6499249935150146, + "learning_rate": 3.731214159882644e-06, + "loss": 0.0172, + "num_input_tokens_seen": 14910712, + "step": 7614 + }, + { + "epoch": 1.009277667329357, + "grad_norm": 3.692089557647705, + "learning_rate": 3.7309120272777013e-06, + "loss": 0.1076, + "num_input_tokens_seen": 14912768, + "step": 7615 + }, + { + "epoch": 1.0094102054340623, + "grad_norm": 17.565773010253906, + "learning_rate": 3.7306098709399253e-06, + "loss": 0.2443, + "num_input_tokens_seen": 14914528, + "step": 7616 + }, + { + "epoch": 1.0095427435387674, + "grad_norm": 9.190149307250977, + "learning_rate": 3.7303076908751416e-06, + "loss": 0.2021, + "num_input_tokens_seen": 14916256, + "step": 7617 + }, + { + "epoch": 1.0096752816434724, + "grad_norm": 8.503251075744629, + "learning_rate": 3.730005487089178e-06, + "loss": 0.135, + "num_input_tokens_seen": 14917784, + "step": 7618 + }, + { + "epoch": 1.0098078197481777, + "grad_norm": 0.6125144362449646, + "learning_rate": 3.72970325958786e-06, + "loss": 0.0059, + "num_input_tokens_seen": 14918992, + "step": 7619 + }, + { + "epoch": 1.0099403578528827, + "grad_norm": 0.01596934162080288, + "learning_rate": 3.7294010083770136e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14920360, + "step": 7620 + }, + { + "epoch": 1.0100728959575878, + "grad_norm": 3.808002233505249, + "learning_rate": 3.729098733462469e-06, + "loss": 0.1162, + "num_input_tokens_seen": 14922368, + "step": 7621 + }, + { + "epoch": 1.010205434062293, + "grad_norm": 3.6952250003814697, + "learning_rate": 3.728796434850052e-06, + "loss": 0.0635, + "num_input_tokens_seen": 14925104, + "step": 7622 + }, + { + "epoch": 1.010337972166998, + "grad_norm": 0.08713754266500473, + "learning_rate": 3.7284941125455928e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14927376, + "step": 7623 + }, + { + "epoch": 1.010470510271703, + "grad_norm": 0.09904371201992035, + "learning_rate": 3.7281917665549194e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14929336, + "step": 7624 + }, + { + "epoch": 1.0106030483764081, + "grad_norm": 9.295527458190918, + "learning_rate": 3.7278893968838607e-06, + "loss": 0.2358, + "num_input_tokens_seen": 14931888, + "step": 7625 + }, + { + "epoch": 1.0107355864811134, + "grad_norm": 14.037169456481934, + "learning_rate": 3.7275870035382476e-06, + "loss": 0.2825, + "num_input_tokens_seen": 14934144, + "step": 7626 + }, + { + "epoch": 1.0108681245858184, + "grad_norm": 8.949822425842285, + "learning_rate": 3.7272845865239116e-06, + "loss": 0.291, + "num_input_tokens_seen": 14936360, + "step": 7627 + }, + { + "epoch": 1.0110006626905235, + "grad_norm": 7.279786586761475, + "learning_rate": 3.7269821458466806e-06, + "loss": 0.1912, + "num_input_tokens_seen": 14938248, + "step": 7628 + }, + { + "epoch": 1.0111332007952287, + "grad_norm": 4.974860668182373, + "learning_rate": 3.7266796815123873e-06, + "loss": 0.1813, + "num_input_tokens_seen": 14941600, + "step": 7629 + }, + { + "epoch": 1.0112657388999338, + "grad_norm": 0.014519990421831608, + "learning_rate": 3.7263771935268644e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14943520, + "step": 7630 + }, + { + "epoch": 1.0113982770046388, + "grad_norm": 8.698603630065918, + "learning_rate": 3.7260746818959433e-06, + "loss": 0.2853, + "num_input_tokens_seen": 14945936, + "step": 7631 + }, + { + "epoch": 1.0115308151093438, + "grad_norm": 1.3413982391357422, + "learning_rate": 3.7257721466254554e-06, + "loss": 0.013, + "num_input_tokens_seen": 14947696, + "step": 7632 + }, + { + "epoch": 1.011663353214049, + "grad_norm": 6.3997955322265625, + "learning_rate": 3.7254695877212355e-06, + "loss": 0.1012, + "num_input_tokens_seen": 14949544, + "step": 7633 + }, + { + "epoch": 1.0117958913187541, + "grad_norm": 0.04592238366603851, + "learning_rate": 3.7251670051891166e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14951640, + "step": 7634 + }, + { + "epoch": 1.0119284294234592, + "grad_norm": 3.4023611545562744, + "learning_rate": 3.724864399034932e-06, + "loss": 0.043, + "num_input_tokens_seen": 14953720, + "step": 7635 + }, + { + "epoch": 1.0120609675281644, + "grad_norm": 5.359580993652344, + "learning_rate": 3.7245617692645174e-06, + "loss": 0.1993, + "num_input_tokens_seen": 14956408, + "step": 7636 + }, + { + "epoch": 1.0121935056328695, + "grad_norm": 6.454990863800049, + "learning_rate": 3.724259115883707e-06, + "loss": 0.0865, + "num_input_tokens_seen": 14958624, + "step": 7637 + }, + { + "epoch": 1.0123260437375745, + "grad_norm": 0.16809487342834473, + "learning_rate": 3.723956438898336e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14960304, + "step": 7638 + }, + { + "epoch": 1.0124585818422795, + "grad_norm": 0.3803405463695526, + "learning_rate": 3.7236537383142417e-06, + "loss": 0.0019, + "num_input_tokens_seen": 14962224, + "step": 7639 + }, + { + "epoch": 1.0125911199469848, + "grad_norm": 6.1069207191467285, + "learning_rate": 3.723351014137258e-06, + "loss": 0.1377, + "num_input_tokens_seen": 14965000, + "step": 7640 + }, + { + "epoch": 1.0127236580516898, + "grad_norm": 16.45765495300293, + "learning_rate": 3.723048266373223e-06, + "loss": 0.3874, + "num_input_tokens_seen": 14966552, + "step": 7641 + }, + { + "epoch": 1.0128561961563949, + "grad_norm": 0.059850260615348816, + "learning_rate": 3.722745495027974e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14969424, + "step": 7642 + }, + { + "epoch": 1.0129887342611001, + "grad_norm": 10.33269214630127, + "learning_rate": 3.7224427001073483e-06, + "loss": 0.1372, + "num_input_tokens_seen": 14971408, + "step": 7643 + }, + { + "epoch": 1.0131212723658052, + "grad_norm": 13.54920768737793, + "learning_rate": 3.722139881617184e-06, + "loss": 0.6083, + "num_input_tokens_seen": 14973544, + "step": 7644 + }, + { + "epoch": 1.0132538104705102, + "grad_norm": 0.17079365253448486, + "learning_rate": 3.7218370395633196e-06, + "loss": 0.001, + "num_input_tokens_seen": 14974904, + "step": 7645 + }, + { + "epoch": 1.0133863485752155, + "grad_norm": 5.43550968170166, + "learning_rate": 3.7215341739515937e-06, + "loss": 0.0836, + "num_input_tokens_seen": 14977312, + "step": 7646 + }, + { + "epoch": 1.0135188866799205, + "grad_norm": 2.850954055786133, + "learning_rate": 3.721231284787847e-06, + "loss": 0.0415, + "num_input_tokens_seen": 14979272, + "step": 7647 + }, + { + "epoch": 1.0136514247846256, + "grad_norm": 0.5837000012397766, + "learning_rate": 3.7209283720779175e-06, + "loss": 0.0037, + "num_input_tokens_seen": 14980456, + "step": 7648 + }, + { + "epoch": 1.0137839628893306, + "grad_norm": 3.5512311458587646, + "learning_rate": 3.7206254358276474e-06, + "loss": 0.0619, + "num_input_tokens_seen": 14982256, + "step": 7649 + }, + { + "epoch": 1.0139165009940359, + "grad_norm": 8.080368041992188, + "learning_rate": 3.7203224760428776e-06, + "loss": 0.1858, + "num_input_tokens_seen": 14985000, + "step": 7650 + }, + { + "epoch": 1.014049039098741, + "grad_norm": 7.836287975311279, + "learning_rate": 3.7200194927294473e-06, + "loss": 0.191, + "num_input_tokens_seen": 14987208, + "step": 7651 + }, + { + "epoch": 1.014181577203446, + "grad_norm": 1.292928695678711, + "learning_rate": 3.7197164858932e-06, + "loss": 0.0038, + "num_input_tokens_seen": 14988680, + "step": 7652 + }, + { + "epoch": 1.0143141153081512, + "grad_norm": 6.147712707519531, + "learning_rate": 3.719413455539978e-06, + "loss": 0.038, + "num_input_tokens_seen": 14990448, + "step": 7653 + }, + { + "epoch": 1.0144466534128562, + "grad_norm": 9.30418872833252, + "learning_rate": 3.719110401675623e-06, + "loss": 0.1737, + "num_input_tokens_seen": 14992576, + "step": 7654 + }, + { + "epoch": 1.0145791915175613, + "grad_norm": 0.08699267357587814, + "learning_rate": 3.718807324305978e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14995440, + "step": 7655 + }, + { + "epoch": 1.0147117296222663, + "grad_norm": 6.959599018096924, + "learning_rate": 3.718504223436887e-06, + "loss": 0.2037, + "num_input_tokens_seen": 14997952, + "step": 7656 + }, + { + "epoch": 1.0148442677269716, + "grad_norm": 9.382429122924805, + "learning_rate": 3.7182010990741947e-06, + "loss": 0.1251, + "num_input_tokens_seen": 15000616, + "step": 7657 + }, + { + "epoch": 1.0149768058316766, + "grad_norm": 4.614858150482178, + "learning_rate": 3.7178979512237445e-06, + "loss": 0.2036, + "num_input_tokens_seen": 15003704, + "step": 7658 + }, + { + "epoch": 1.0151093439363816, + "grad_norm": 7.221208095550537, + "learning_rate": 3.7175947798913815e-06, + "loss": 0.1139, + "num_input_tokens_seen": 15005088, + "step": 7659 + }, + { + "epoch": 1.015241882041087, + "grad_norm": 6.505541801452637, + "learning_rate": 3.7172915850829515e-06, + "loss": 0.1367, + "num_input_tokens_seen": 15007376, + "step": 7660 + }, + { + "epoch": 1.015374420145792, + "grad_norm": 0.024377090856432915, + "learning_rate": 3.716988366804299e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15009008, + "step": 7661 + }, + { + "epoch": 1.015506958250497, + "grad_norm": 8.376495361328125, + "learning_rate": 3.7166851250612723e-06, + "loss": 0.1139, + "num_input_tokens_seen": 15010672, + "step": 7662 + }, + { + "epoch": 1.015639496355202, + "grad_norm": 0.04851066693663597, + "learning_rate": 3.716381859859717e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15012160, + "step": 7663 + }, + { + "epoch": 1.0157720344599073, + "grad_norm": 10.797849655151367, + "learning_rate": 3.7160785712054794e-06, + "loss": 0.241, + "num_input_tokens_seen": 15014408, + "step": 7664 + }, + { + "epoch": 1.0159045725646123, + "grad_norm": 12.424819946289062, + "learning_rate": 3.7157752591044085e-06, + "loss": 0.1677, + "num_input_tokens_seen": 15016952, + "step": 7665 + }, + { + "epoch": 1.0160371106693173, + "grad_norm": 0.018478531390428543, + "learning_rate": 3.7154719235623525e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15018256, + "step": 7666 + }, + { + "epoch": 1.0161696487740226, + "grad_norm": 13.343843460083008, + "learning_rate": 3.715168564585158e-06, + "loss": 0.3948, + "num_input_tokens_seen": 15020200, + "step": 7667 + }, + { + "epoch": 1.0163021868787276, + "grad_norm": 7.778841018676758, + "learning_rate": 3.7148651821786764e-06, + "loss": 0.1581, + "num_input_tokens_seen": 15022000, + "step": 7668 + }, + { + "epoch": 1.0164347249834327, + "grad_norm": 3.345562696456909, + "learning_rate": 3.714561776348755e-06, + "loss": 0.0336, + "num_input_tokens_seen": 15023736, + "step": 7669 + }, + { + "epoch": 1.016567263088138, + "grad_norm": 4.784765243530273, + "learning_rate": 3.7142583471012454e-06, + "loss": 0.179, + "num_input_tokens_seen": 15025416, + "step": 7670 + }, + { + "epoch": 1.016699801192843, + "grad_norm": 0.06177437677979469, + "learning_rate": 3.7139548944419975e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15027592, + "step": 7671 + }, + { + "epoch": 1.016832339297548, + "grad_norm": 0.05669925734400749, + "learning_rate": 3.7136514183768613e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15029416, + "step": 7672 + }, + { + "epoch": 1.016964877402253, + "grad_norm": 7.42257833480835, + "learning_rate": 3.7133479189116883e-06, + "loss": 0.1978, + "num_input_tokens_seen": 15031736, + "step": 7673 + }, + { + "epoch": 1.0170974155069583, + "grad_norm": 6.421863555908203, + "learning_rate": 3.7130443960523305e-06, + "loss": 0.1002, + "num_input_tokens_seen": 15033784, + "step": 7674 + }, + { + "epoch": 1.0172299536116634, + "grad_norm": 18.70168113708496, + "learning_rate": 3.71274084980464e-06, + "loss": 0.5854, + "num_input_tokens_seen": 15035952, + "step": 7675 + }, + { + "epoch": 1.0173624917163684, + "grad_norm": 16.408714294433594, + "learning_rate": 3.7124372801744697e-06, + "loss": 0.7264, + "num_input_tokens_seen": 15037504, + "step": 7676 + }, + { + "epoch": 1.0174950298210736, + "grad_norm": 3.3047120571136475, + "learning_rate": 3.7121336871676718e-06, + "loss": 0.0718, + "num_input_tokens_seen": 15039064, + "step": 7677 + }, + { + "epoch": 1.0176275679257787, + "grad_norm": 6.032345294952393, + "learning_rate": 3.7118300707901e-06, + "loss": 0.107, + "num_input_tokens_seen": 15041832, + "step": 7678 + }, + { + "epoch": 1.0177601060304837, + "grad_norm": 5.13366174697876, + "learning_rate": 3.7115264310476086e-06, + "loss": 0.1306, + "num_input_tokens_seen": 15043584, + "step": 7679 + }, + { + "epoch": 1.0178926441351888, + "grad_norm": 0.06975368410348892, + "learning_rate": 3.711222767946052e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15045152, + "step": 7680 + }, + { + "epoch": 1.018025182239894, + "grad_norm": 0.1463736891746521, + "learning_rate": 3.710919081491285e-06, + "loss": 0.001, + "num_input_tokens_seen": 15047944, + "step": 7681 + }, + { + "epoch": 1.018157720344599, + "grad_norm": 0.37924399971961975, + "learning_rate": 3.7106153716891617e-06, + "loss": 0.0025, + "num_input_tokens_seen": 15050224, + "step": 7682 + }, + { + "epoch": 1.018290258449304, + "grad_norm": 3.9590206146240234, + "learning_rate": 3.71031163854554e-06, + "loss": 0.0555, + "num_input_tokens_seen": 15051944, + "step": 7683 + }, + { + "epoch": 1.0184227965540094, + "grad_norm": 5.259951591491699, + "learning_rate": 3.710007882066275e-06, + "loss": 0.0644, + "num_input_tokens_seen": 15053664, + "step": 7684 + }, + { + "epoch": 1.0185553346587144, + "grad_norm": 6.186981201171875, + "learning_rate": 3.7097041022572224e-06, + "loss": 0.0532, + "num_input_tokens_seen": 15054912, + "step": 7685 + }, + { + "epoch": 1.0186878727634194, + "grad_norm": 6.308382511138916, + "learning_rate": 3.709400299124241e-06, + "loss": 0.116, + "num_input_tokens_seen": 15056880, + "step": 7686 + }, + { + "epoch": 1.0188204108681247, + "grad_norm": 13.603167533874512, + "learning_rate": 3.709096472673187e-06, + "loss": 0.2289, + "num_input_tokens_seen": 15058520, + "step": 7687 + }, + { + "epoch": 1.0189529489728297, + "grad_norm": 2.428762197494507, + "learning_rate": 3.7087926229099193e-06, + "loss": 0.0225, + "num_input_tokens_seen": 15060288, + "step": 7688 + }, + { + "epoch": 1.0190854870775348, + "grad_norm": 0.05689212679862976, + "learning_rate": 3.7084887498402955e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15061784, + "step": 7689 + }, + { + "epoch": 1.0192180251822398, + "grad_norm": 0.060718584805727005, + "learning_rate": 3.708184853470175e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15062864, + "step": 7690 + }, + { + "epoch": 1.019350563286945, + "grad_norm": 0.5899678468704224, + "learning_rate": 3.7078809338054172e-06, + "loss": 0.0078, + "num_input_tokens_seen": 15065008, + "step": 7691 + }, + { + "epoch": 1.01948310139165, + "grad_norm": 4.334835529327393, + "learning_rate": 3.7075769908518814e-06, + "loss": 0.1255, + "num_input_tokens_seen": 15066560, + "step": 7692 + }, + { + "epoch": 1.0196156394963551, + "grad_norm": 9.271401405334473, + "learning_rate": 3.7072730246154288e-06, + "loss": 0.228, + "num_input_tokens_seen": 15068760, + "step": 7693 + }, + { + "epoch": 1.0197481776010604, + "grad_norm": 2.927886724472046, + "learning_rate": 3.7069690351019187e-06, + "loss": 0.0294, + "num_input_tokens_seen": 15070616, + "step": 7694 + }, + { + "epoch": 1.0198807157057654, + "grad_norm": 8.631467819213867, + "learning_rate": 3.7066650223172134e-06, + "loss": 0.118, + "num_input_tokens_seen": 15072304, + "step": 7695 + }, + { + "epoch": 1.0200132538104705, + "grad_norm": 1.3208357095718384, + "learning_rate": 3.7063609862671744e-06, + "loss": 0.0071, + "num_input_tokens_seen": 15073840, + "step": 7696 + }, + { + "epoch": 1.0201457919151755, + "grad_norm": 7.74658203125, + "learning_rate": 3.706056926957663e-06, + "loss": 0.2107, + "num_input_tokens_seen": 15075816, + "step": 7697 + }, + { + "epoch": 1.0202783300198808, + "grad_norm": 7.877039432525635, + "learning_rate": 3.705752844394542e-06, + "loss": 0.1971, + "num_input_tokens_seen": 15077488, + "step": 7698 + }, + { + "epoch": 1.0204108681245858, + "grad_norm": 9.886817932128906, + "learning_rate": 3.7054487385836736e-06, + "loss": 0.1633, + "num_input_tokens_seen": 15080376, + "step": 7699 + }, + { + "epoch": 1.0205434062292909, + "grad_norm": 13.04549503326416, + "learning_rate": 3.705144609530923e-06, + "loss": 0.3479, + "num_input_tokens_seen": 15082440, + "step": 7700 + }, + { + "epoch": 1.020675944333996, + "grad_norm": 5.335203170776367, + "learning_rate": 3.7048404572421525e-06, + "loss": 0.0918, + "num_input_tokens_seen": 15085184, + "step": 7701 + }, + { + "epoch": 1.0208084824387011, + "grad_norm": 12.4288969039917, + "learning_rate": 3.704536281723227e-06, + "loss": 0.6115, + "num_input_tokens_seen": 15088216, + "step": 7702 + }, + { + "epoch": 1.0209410205434062, + "grad_norm": 0.21038709580898285, + "learning_rate": 3.7042320829800105e-06, + "loss": 0.0012, + "num_input_tokens_seen": 15089560, + "step": 7703 + }, + { + "epoch": 1.0210735586481112, + "grad_norm": 0.1432301551103592, + "learning_rate": 3.703927861018369e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15091152, + "step": 7704 + }, + { + "epoch": 1.0212060967528165, + "grad_norm": 2.8473587036132812, + "learning_rate": 3.7036236158441685e-06, + "loss": 0.0501, + "num_input_tokens_seen": 15092440, + "step": 7705 + }, + { + "epoch": 1.0213386348575215, + "grad_norm": 8.373361587524414, + "learning_rate": 3.7033193474632734e-06, + "loss": 0.0601, + "num_input_tokens_seen": 15094104, + "step": 7706 + }, + { + "epoch": 1.0214711729622266, + "grad_norm": 3.8365566730499268, + "learning_rate": 3.7030150558815513e-06, + "loss": 0.0711, + "num_input_tokens_seen": 15095584, + "step": 7707 + }, + { + "epoch": 1.0216037110669318, + "grad_norm": 4.58162784576416, + "learning_rate": 3.7027107411048695e-06, + "loss": 0.0872, + "num_input_tokens_seen": 15097368, + "step": 7708 + }, + { + "epoch": 1.0217362491716369, + "grad_norm": 0.2154024988412857, + "learning_rate": 3.702406403139094e-06, + "loss": 0.0024, + "num_input_tokens_seen": 15099104, + "step": 7709 + }, + { + "epoch": 1.021868787276342, + "grad_norm": 4.24046516418457, + "learning_rate": 3.702102041990095e-06, + "loss": 0.0661, + "num_input_tokens_seen": 15100944, + "step": 7710 + }, + { + "epoch": 1.0220013253810472, + "grad_norm": 0.07628628611564636, + "learning_rate": 3.701797657663738e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15101944, + "step": 7711 + }, + { + "epoch": 1.0221338634857522, + "grad_norm": 0.9856442213058472, + "learning_rate": 3.7014932501658934e-06, + "loss": 0.0039, + "num_input_tokens_seen": 15104480, + "step": 7712 + }, + { + "epoch": 1.0222664015904572, + "grad_norm": 9.911195755004883, + "learning_rate": 3.7011888195024303e-06, + "loss": 0.1938, + "num_input_tokens_seen": 15106856, + "step": 7713 + }, + { + "epoch": 1.0223989396951623, + "grad_norm": 2.2839925289154053, + "learning_rate": 3.7008843656792183e-06, + "loss": 0.0186, + "num_input_tokens_seen": 15109144, + "step": 7714 + }, + { + "epoch": 1.0225314777998675, + "grad_norm": 10.681915283203125, + "learning_rate": 3.7005798887021273e-06, + "loss": 0.0804, + "num_input_tokens_seen": 15111920, + "step": 7715 + }, + { + "epoch": 1.0226640159045726, + "grad_norm": 2.6024203300476074, + "learning_rate": 3.7002753885770273e-06, + "loss": 0.0339, + "num_input_tokens_seen": 15113112, + "step": 7716 + }, + { + "epoch": 1.0227965540092776, + "grad_norm": 0.8200755715370178, + "learning_rate": 3.69997086530979e-06, + "loss": 0.0051, + "num_input_tokens_seen": 15114912, + "step": 7717 + }, + { + "epoch": 1.0229290921139829, + "grad_norm": 0.08860411494970322, + "learning_rate": 3.6996663189062858e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15117232, + "step": 7718 + }, + { + "epoch": 1.023061630218688, + "grad_norm": 3.6393609046936035, + "learning_rate": 3.699361749372389e-06, + "loss": 0.1231, + "num_input_tokens_seen": 15119984, + "step": 7719 + }, + { + "epoch": 1.023194168323393, + "grad_norm": 7.931157112121582, + "learning_rate": 3.6990571567139686e-06, + "loss": 0.0334, + "num_input_tokens_seen": 15121392, + "step": 7720 + }, + { + "epoch": 1.023326706428098, + "grad_norm": 0.013317984528839588, + "learning_rate": 3.6987525409369e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15123112, + "step": 7721 + }, + { + "epoch": 1.0234592445328032, + "grad_norm": 10.313695907592773, + "learning_rate": 3.698447902047056e-06, + "loss": 0.4243, + "num_input_tokens_seen": 15125008, + "step": 7722 + }, + { + "epoch": 1.0235917826375083, + "grad_norm": 5.078224182128906, + "learning_rate": 3.6981432400503086e-06, + "loss": 0.0544, + "num_input_tokens_seen": 15127064, + "step": 7723 + }, + { + "epoch": 1.0237243207422133, + "grad_norm": 0.01462921965867281, + "learning_rate": 3.697838554952533e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15129192, + "step": 7724 + }, + { + "epoch": 1.0238568588469186, + "grad_norm": 9.532901763916016, + "learning_rate": 3.6975338467596047e-06, + "loss": 0.2543, + "num_input_tokens_seen": 15131008, + "step": 7725 + }, + { + "epoch": 1.0239893969516236, + "grad_norm": 0.012940621003508568, + "learning_rate": 3.6972291154773964e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15133320, + "step": 7726 + }, + { + "epoch": 1.0241219350563286, + "grad_norm": 15.29073429107666, + "learning_rate": 3.696924361111786e-06, + "loss": 0.5838, + "num_input_tokens_seen": 15136488, + "step": 7727 + }, + { + "epoch": 1.024254473161034, + "grad_norm": 9.175992965698242, + "learning_rate": 3.696619583668648e-06, + "loss": 0.0709, + "num_input_tokens_seen": 15137744, + "step": 7728 + }, + { + "epoch": 1.024387011265739, + "grad_norm": 7.448381423950195, + "learning_rate": 3.696314783153858e-06, + "loss": 0.3783, + "num_input_tokens_seen": 15139760, + "step": 7729 + }, + { + "epoch": 1.024519549370444, + "grad_norm": 2.747375011444092, + "learning_rate": 3.6960099595732944e-06, + "loss": 0.0499, + "num_input_tokens_seen": 15141280, + "step": 7730 + }, + { + "epoch": 1.024652087475149, + "grad_norm": 11.375801086425781, + "learning_rate": 3.6957051129328335e-06, + "loss": 0.2844, + "num_input_tokens_seen": 15143064, + "step": 7731 + }, + { + "epoch": 1.0247846255798543, + "grad_norm": 0.008039495907723904, + "learning_rate": 3.6954002432383533e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15144376, + "step": 7732 + }, + { + "epoch": 1.0249171636845593, + "grad_norm": 9.363496780395508, + "learning_rate": 3.6950953504957322e-06, + "loss": 0.086, + "num_input_tokens_seen": 15146568, + "step": 7733 + }, + { + "epoch": 1.0250497017892644, + "grad_norm": 8.235267639160156, + "learning_rate": 3.694790434710848e-06, + "loss": 0.3043, + "num_input_tokens_seen": 15148344, + "step": 7734 + }, + { + "epoch": 1.0251822398939696, + "grad_norm": 0.05013801530003548, + "learning_rate": 3.6944854958895794e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15149472, + "step": 7735 + }, + { + "epoch": 1.0253147779986747, + "grad_norm": 7.490808963775635, + "learning_rate": 3.694180534037807e-06, + "loss": 0.143, + "num_input_tokens_seen": 15151000, + "step": 7736 + }, + { + "epoch": 1.0254473161033797, + "grad_norm": 0.0684259831905365, + "learning_rate": 3.69387554916141e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15152432, + "step": 7737 + }, + { + "epoch": 1.0255798542080847, + "grad_norm": 12.239639282226562, + "learning_rate": 3.693570541266268e-06, + "loss": 0.2533, + "num_input_tokens_seen": 15154344, + "step": 7738 + }, + { + "epoch": 1.02571239231279, + "grad_norm": 4.195292949676514, + "learning_rate": 3.693265510358263e-06, + "loss": 0.0807, + "num_input_tokens_seen": 15157328, + "step": 7739 + }, + { + "epoch": 1.025844930417495, + "grad_norm": 2.8659470081329346, + "learning_rate": 3.6929604564432762e-06, + "loss": 0.0649, + "num_input_tokens_seen": 15159600, + "step": 7740 + }, + { + "epoch": 1.0259774685222, + "grad_norm": 2.2537879943847656, + "learning_rate": 3.6926553795271885e-06, + "loss": 0.0229, + "num_input_tokens_seen": 15161312, + "step": 7741 + }, + { + "epoch": 1.0261100066269053, + "grad_norm": 6.324787616729736, + "learning_rate": 3.692350279615883e-06, + "loss": 0.1419, + "num_input_tokens_seen": 15163160, + "step": 7742 + }, + { + "epoch": 1.0262425447316104, + "grad_norm": 4.146732330322266, + "learning_rate": 3.6920451567152404e-06, + "loss": 0.0347, + "num_input_tokens_seen": 15165752, + "step": 7743 + }, + { + "epoch": 1.0263750828363154, + "grad_norm": 0.17877551913261414, + "learning_rate": 3.6917400108311454e-06, + "loss": 0.001, + "num_input_tokens_seen": 15167112, + "step": 7744 + }, + { + "epoch": 1.0265076209410204, + "grad_norm": 0.019409723579883575, + "learning_rate": 3.6914348419694813e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15168208, + "step": 7745 + }, + { + "epoch": 1.0266401590457257, + "grad_norm": 5.205817699432373, + "learning_rate": 3.691129650136131e-06, + "loss": 0.1737, + "num_input_tokens_seen": 15171120, + "step": 7746 + }, + { + "epoch": 1.0267726971504307, + "grad_norm": 0.011662323959171772, + "learning_rate": 3.6908244353369786e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15173704, + "step": 7747 + }, + { + "epoch": 1.0269052352551358, + "grad_norm": 5.509905815124512, + "learning_rate": 3.690519197577911e-06, + "loss": 0.0507, + "num_input_tokens_seen": 15175272, + "step": 7748 + }, + { + "epoch": 1.027037773359841, + "grad_norm": 0.01596641354262829, + "learning_rate": 3.690213936864811e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15177136, + "step": 7749 + }, + { + "epoch": 1.027170311464546, + "grad_norm": 7.253083229064941, + "learning_rate": 3.6899086532035657e-06, + "loss": 0.1838, + "num_input_tokens_seen": 15179008, + "step": 7750 + }, + { + "epoch": 1.027302849569251, + "grad_norm": 0.03541019186377525, + "learning_rate": 3.689603346600061e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15180776, + "step": 7751 + }, + { + "epoch": 1.0274353876739564, + "grad_norm": 4.202393054962158, + "learning_rate": 3.689298017060182e-06, + "loss": 0.0701, + "num_input_tokens_seen": 15182680, + "step": 7752 + }, + { + "epoch": 1.0275679257786614, + "grad_norm": 4.130717754364014, + "learning_rate": 3.6889926645898177e-06, + "loss": 0.0694, + "num_input_tokens_seen": 15183920, + "step": 7753 + }, + { + "epoch": 1.0277004638833664, + "grad_norm": 4.633484363555908, + "learning_rate": 3.6886872891948543e-06, + "loss": 0.0829, + "num_input_tokens_seen": 15185976, + "step": 7754 + }, + { + "epoch": 1.0278330019880715, + "grad_norm": 10.510533332824707, + "learning_rate": 3.6883818908811797e-06, + "loss": 0.2194, + "num_input_tokens_seen": 15187680, + "step": 7755 + }, + { + "epoch": 1.0279655400927767, + "grad_norm": 7.969301223754883, + "learning_rate": 3.6880764696546828e-06, + "loss": 0.296, + "num_input_tokens_seen": 15189456, + "step": 7756 + }, + { + "epoch": 1.0280980781974818, + "grad_norm": 7.980248928070068, + "learning_rate": 3.6877710255212517e-06, + "loss": 0.204, + "num_input_tokens_seen": 15191408, + "step": 7757 + }, + { + "epoch": 1.0282306163021868, + "grad_norm": 10.49356460571289, + "learning_rate": 3.6874655584867763e-06, + "loss": 0.1157, + "num_input_tokens_seen": 15192768, + "step": 7758 + }, + { + "epoch": 1.028363154406892, + "grad_norm": 0.010349218733608723, + "learning_rate": 3.6871600685571453e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15194488, + "step": 7759 + }, + { + "epoch": 1.0284956925115971, + "grad_norm": 11.422708511352539, + "learning_rate": 3.686854555738249e-06, + "loss": 0.2013, + "num_input_tokens_seen": 15196280, + "step": 7760 + }, + { + "epoch": 1.0286282306163022, + "grad_norm": 2.7241554260253906, + "learning_rate": 3.6865490200359787e-06, + "loss": 0.0293, + "num_input_tokens_seen": 15198216, + "step": 7761 + }, + { + "epoch": 1.0287607687210072, + "grad_norm": 2.9253151416778564, + "learning_rate": 3.6862434614562238e-06, + "loss": 0.033, + "num_input_tokens_seen": 15200072, + "step": 7762 + }, + { + "epoch": 1.0288933068257125, + "grad_norm": 10.132658958435059, + "learning_rate": 3.685937880004877e-06, + "loss": 0.336, + "num_input_tokens_seen": 15201848, + "step": 7763 + }, + { + "epoch": 1.0290258449304175, + "grad_norm": 9.825067520141602, + "learning_rate": 3.685632275687831e-06, + "loss": 0.2315, + "num_input_tokens_seen": 15204368, + "step": 7764 + }, + { + "epoch": 1.0291583830351225, + "grad_norm": 13.222792625427246, + "learning_rate": 3.685326648510975e-06, + "loss": 0.2946, + "num_input_tokens_seen": 15207088, + "step": 7765 + }, + { + "epoch": 1.0292909211398278, + "grad_norm": 9.702701568603516, + "learning_rate": 3.685020998480204e-06, + "loss": 0.1448, + "num_input_tokens_seen": 15209096, + "step": 7766 + }, + { + "epoch": 1.0294234592445328, + "grad_norm": 0.08773332089185715, + "learning_rate": 3.6847153256014112e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15210072, + "step": 7767 + }, + { + "epoch": 1.0295559973492379, + "grad_norm": 8.301722526550293, + "learning_rate": 3.6844096298804894e-06, + "loss": 0.1234, + "num_input_tokens_seen": 15211384, + "step": 7768 + }, + { + "epoch": 1.0296885354539431, + "grad_norm": 0.09840217232704163, + "learning_rate": 3.6841039113233327e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15214288, + "step": 7769 + }, + { + "epoch": 1.0298210735586482, + "grad_norm": 5.12624454498291, + "learning_rate": 3.683798169935836e-06, + "loss": 0.1075, + "num_input_tokens_seen": 15215968, + "step": 7770 + }, + { + "epoch": 1.0299536116633532, + "grad_norm": 3.5404484272003174, + "learning_rate": 3.6834924057238937e-06, + "loss": 0.0554, + "num_input_tokens_seen": 15219368, + "step": 7771 + }, + { + "epoch": 1.0300861497680582, + "grad_norm": 5.58198356628418, + "learning_rate": 3.6831866186934016e-06, + "loss": 0.1017, + "num_input_tokens_seen": 15222392, + "step": 7772 + }, + { + "epoch": 1.0302186878727635, + "grad_norm": 8.423585891723633, + "learning_rate": 3.682880808850255e-06, + "loss": 0.2263, + "num_input_tokens_seen": 15224584, + "step": 7773 + }, + { + "epoch": 1.0303512259774685, + "grad_norm": 0.8835532069206238, + "learning_rate": 3.6825749762003504e-06, + "loss": 0.0102, + "num_input_tokens_seen": 15227008, + "step": 7774 + }, + { + "epoch": 1.0304837640821736, + "grad_norm": 6.299657344818115, + "learning_rate": 3.682269120749584e-06, + "loss": 0.1994, + "num_input_tokens_seen": 15228592, + "step": 7775 + }, + { + "epoch": 1.0306163021868788, + "grad_norm": 2.78489351272583, + "learning_rate": 3.681963242503854e-06, + "loss": 0.0335, + "num_input_tokens_seen": 15232088, + "step": 7776 + }, + { + "epoch": 1.0307488402915839, + "grad_norm": 8.4452486038208, + "learning_rate": 3.681657341469057e-06, + "loss": 0.0832, + "num_input_tokens_seen": 15234320, + "step": 7777 + }, + { + "epoch": 1.030881378396289, + "grad_norm": 0.9621162414550781, + "learning_rate": 3.6813514176510916e-06, + "loss": 0.0058, + "num_input_tokens_seen": 15236512, + "step": 7778 + }, + { + "epoch": 1.031013916500994, + "grad_norm": 1.3048114776611328, + "learning_rate": 3.6810454710558558e-06, + "loss": 0.0088, + "num_input_tokens_seen": 15237928, + "step": 7779 + }, + { + "epoch": 1.0311464546056992, + "grad_norm": 9.818628311157227, + "learning_rate": 3.6807395016892487e-06, + "loss": 0.1096, + "num_input_tokens_seen": 15239952, + "step": 7780 + }, + { + "epoch": 1.0312789927104042, + "grad_norm": 10.57654094696045, + "learning_rate": 3.680433509557169e-06, + "loss": 0.4838, + "num_input_tokens_seen": 15242216, + "step": 7781 + }, + { + "epoch": 1.0314115308151093, + "grad_norm": 17.96974754333496, + "learning_rate": 3.680127494665517e-06, + "loss": 0.3304, + "num_input_tokens_seen": 15244312, + "step": 7782 + }, + { + "epoch": 1.0315440689198145, + "grad_norm": 6.091078281402588, + "learning_rate": 3.679821457020193e-06, + "loss": 0.1163, + "num_input_tokens_seen": 15246072, + "step": 7783 + }, + { + "epoch": 1.0316766070245196, + "grad_norm": 0.03685947507619858, + "learning_rate": 3.679515396627097e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15248552, + "step": 7784 + }, + { + "epoch": 1.0318091451292246, + "grad_norm": 11.809764862060547, + "learning_rate": 3.679209313492131e-06, + "loss": 0.1769, + "num_input_tokens_seen": 15250424, + "step": 7785 + }, + { + "epoch": 1.0319416832339297, + "grad_norm": 0.02438715659081936, + "learning_rate": 3.678903207621195e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15251592, + "step": 7786 + }, + { + "epoch": 1.032074221338635, + "grad_norm": 0.6539574265480042, + "learning_rate": 3.678597079020193e-06, + "loss": 0.0038, + "num_input_tokens_seen": 15253144, + "step": 7787 + }, + { + "epoch": 1.03220675944334, + "grad_norm": 1.7858794927597046, + "learning_rate": 3.678290927695026e-06, + "loss": 0.0072, + "num_input_tokens_seen": 15254848, + "step": 7788 + }, + { + "epoch": 1.032339297548045, + "grad_norm": 0.033668048679828644, + "learning_rate": 3.677984753651597e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15256112, + "step": 7789 + }, + { + "epoch": 1.0324718356527502, + "grad_norm": 0.06988954544067383, + "learning_rate": 3.677678556895809e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15258568, + "step": 7790 + }, + { + "epoch": 1.0326043737574553, + "grad_norm": 10.055173873901367, + "learning_rate": 3.6773723374335657e-06, + "loss": 0.1671, + "num_input_tokens_seen": 15260656, + "step": 7791 + }, + { + "epoch": 1.0327369118621603, + "grad_norm": 0.2110818773508072, + "learning_rate": 3.677066095270772e-06, + "loss": 0.0013, + "num_input_tokens_seen": 15262656, + "step": 7792 + }, + { + "epoch": 1.0328694499668654, + "grad_norm": 8.365522384643555, + "learning_rate": 3.6767598304133325e-06, + "loss": 0.156, + "num_input_tokens_seen": 15264384, + "step": 7793 + }, + { + "epoch": 1.0330019880715706, + "grad_norm": 0.04982191324234009, + "learning_rate": 3.67645354286715e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15265560, + "step": 7794 + }, + { + "epoch": 1.0331345261762757, + "grad_norm": 0.9988853931427002, + "learning_rate": 3.676147232638133e-06, + "loss": 0.0042, + "num_input_tokens_seen": 15267864, + "step": 7795 + }, + { + "epoch": 1.0332670642809807, + "grad_norm": 0.12236367911100388, + "learning_rate": 3.6758408997321853e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15269600, + "step": 7796 + }, + { + "epoch": 1.033399602385686, + "grad_norm": 4.066896438598633, + "learning_rate": 3.6755345441552143e-06, + "loss": 0.0933, + "num_input_tokens_seen": 15271624, + "step": 7797 + }, + { + "epoch": 1.033532140490391, + "grad_norm": 3.94903826713562, + "learning_rate": 3.675228165913127e-06, + "loss": 0.0766, + "num_input_tokens_seen": 15273952, + "step": 7798 + }, + { + "epoch": 1.033664678595096, + "grad_norm": 0.871780514717102, + "learning_rate": 3.6749217650118286e-06, + "loss": 0.004, + "num_input_tokens_seen": 15275392, + "step": 7799 + }, + { + "epoch": 1.0337972166998013, + "grad_norm": 9.41145133972168, + "learning_rate": 3.6746153414572284e-06, + "loss": 0.4313, + "num_input_tokens_seen": 15277896, + "step": 7800 + }, + { + "epoch": 1.0339297548045063, + "grad_norm": 0.09845166653394699, + "learning_rate": 3.674308895255234e-06, + "loss": 0.001, + "num_input_tokens_seen": 15280448, + "step": 7801 + }, + { + "epoch": 1.0340622929092114, + "grad_norm": 6.438985347747803, + "learning_rate": 3.6740024264117546e-06, + "loss": 0.143, + "num_input_tokens_seen": 15282208, + "step": 7802 + }, + { + "epoch": 1.0341948310139164, + "grad_norm": 6.802124977111816, + "learning_rate": 3.6736959349326984e-06, + "loss": 0.1381, + "num_input_tokens_seen": 15284080, + "step": 7803 + }, + { + "epoch": 1.0343273691186217, + "grad_norm": 0.004904947243630886, + "learning_rate": 3.673389420823974e-06, + "loss": 0.0, + "num_input_tokens_seen": 15285880, + "step": 7804 + }, + { + "epoch": 1.0344599072233267, + "grad_norm": 9.987713813781738, + "learning_rate": 3.6730828840914933e-06, + "loss": 0.1208, + "num_input_tokens_seen": 15288016, + "step": 7805 + }, + { + "epoch": 1.0345924453280317, + "grad_norm": 0.119804747402668, + "learning_rate": 3.672776324741164e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15289632, + "step": 7806 + }, + { + "epoch": 1.034724983432737, + "grad_norm": 0.015266526490449905, + "learning_rate": 3.672469742778899e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15291456, + "step": 7807 + }, + { + "epoch": 1.034857521537442, + "grad_norm": 8.613381385803223, + "learning_rate": 3.6721631382106093e-06, + "loss": 0.1196, + "num_input_tokens_seen": 15294416, + "step": 7808 + }, + { + "epoch": 1.034990059642147, + "grad_norm": 11.110567092895508, + "learning_rate": 3.6718565110422037e-06, + "loss": 0.158, + "num_input_tokens_seen": 15296200, + "step": 7809 + }, + { + "epoch": 1.0351225977468521, + "grad_norm": 1.3834730386734009, + "learning_rate": 3.6715498612795974e-06, + "loss": 0.008, + "num_input_tokens_seen": 15298520, + "step": 7810 + }, + { + "epoch": 1.0352551358515574, + "grad_norm": 17.030418395996094, + "learning_rate": 3.671243188928702e-06, + "loss": 0.6, + "num_input_tokens_seen": 15299952, + "step": 7811 + }, + { + "epoch": 1.0353876739562624, + "grad_norm": 0.0029156908858567476, + "learning_rate": 3.6709364939954285e-06, + "loss": 0.0, + "num_input_tokens_seen": 15301400, + "step": 7812 + }, + { + "epoch": 1.0355202120609674, + "grad_norm": 2.830509662628174, + "learning_rate": 3.670629776485693e-06, + "loss": 0.0253, + "num_input_tokens_seen": 15303720, + "step": 7813 + }, + { + "epoch": 1.0356527501656727, + "grad_norm": 0.003302226308733225, + "learning_rate": 3.6703230364054064e-06, + "loss": 0.0, + "num_input_tokens_seen": 15304896, + "step": 7814 + }, + { + "epoch": 1.0357852882703777, + "grad_norm": 10.746882438659668, + "learning_rate": 3.6700162737604857e-06, + "loss": 0.2075, + "num_input_tokens_seen": 15307064, + "step": 7815 + }, + { + "epoch": 1.0359178263750828, + "grad_norm": 0.01224896777421236, + "learning_rate": 3.6697094885568436e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15309152, + "step": 7816 + }, + { + "epoch": 1.036050364479788, + "grad_norm": 2.5384762287139893, + "learning_rate": 3.6694026808003953e-06, + "loss": 0.0243, + "num_input_tokens_seen": 15312968, + "step": 7817 + }, + { + "epoch": 1.036182902584493, + "grad_norm": 0.03204203024506569, + "learning_rate": 3.6690958504970564e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15315040, + "step": 7818 + }, + { + "epoch": 1.0363154406891981, + "grad_norm": 0.6126527190208435, + "learning_rate": 3.6687889976527436e-06, + "loss": 0.0032, + "num_input_tokens_seen": 15316440, + "step": 7819 + }, + { + "epoch": 1.0364479787939032, + "grad_norm": 6.791605472564697, + "learning_rate": 3.6684821222733725e-06, + "loss": 0.0475, + "num_input_tokens_seen": 15318064, + "step": 7820 + }, + { + "epoch": 1.0365805168986084, + "grad_norm": 3.4890735149383545, + "learning_rate": 3.66817522436486e-06, + "loss": 0.0567, + "num_input_tokens_seen": 15319768, + "step": 7821 + }, + { + "epoch": 1.0367130550033135, + "grad_norm": 3.435305118560791, + "learning_rate": 3.6678683039331232e-06, + "loss": 0.0113, + "num_input_tokens_seen": 15321064, + "step": 7822 + }, + { + "epoch": 1.0368455931080185, + "grad_norm": 8.242443084716797, + "learning_rate": 3.6675613609840798e-06, + "loss": 0.215, + "num_input_tokens_seen": 15323216, + "step": 7823 + }, + { + "epoch": 1.0369781312127238, + "grad_norm": 4.11225700378418, + "learning_rate": 3.667254395523648e-06, + "loss": 0.0711, + "num_input_tokens_seen": 15325264, + "step": 7824 + }, + { + "epoch": 1.0371106693174288, + "grad_norm": 0.001202165149152279, + "learning_rate": 3.666947407557746e-06, + "loss": 0.0, + "num_input_tokens_seen": 15327472, + "step": 7825 + }, + { + "epoch": 1.0372432074221338, + "grad_norm": 5.19279670715332, + "learning_rate": 3.6666403970922932e-06, + "loss": 0.0862, + "num_input_tokens_seen": 15329064, + "step": 7826 + }, + { + "epoch": 1.0373757455268389, + "grad_norm": 0.0024823781568557024, + "learning_rate": 3.6663333641332076e-06, + "loss": 0.0, + "num_input_tokens_seen": 15330800, + "step": 7827 + }, + { + "epoch": 1.0375082836315441, + "grad_norm": 8.199209213256836, + "learning_rate": 3.6660263086864116e-06, + "loss": 0.2951, + "num_input_tokens_seen": 15334256, + "step": 7828 + }, + { + "epoch": 1.0376408217362492, + "grad_norm": 0.0018876849208027124, + "learning_rate": 3.665719230757824e-06, + "loss": 0.0, + "num_input_tokens_seen": 15336272, + "step": 7829 + }, + { + "epoch": 1.0377733598409542, + "grad_norm": 0.004428075160831213, + "learning_rate": 3.665412130353364e-06, + "loss": 0.0, + "num_input_tokens_seen": 15337440, + "step": 7830 + }, + { + "epoch": 1.0379058979456595, + "grad_norm": 3.082026243209839, + "learning_rate": 3.6651050074789555e-06, + "loss": 0.0718, + "num_input_tokens_seen": 15339184, + "step": 7831 + }, + { + "epoch": 1.0380384360503645, + "grad_norm": 0.00799545831978321, + "learning_rate": 3.6647978621405182e-06, + "loss": 0.0, + "num_input_tokens_seen": 15340984, + "step": 7832 + }, + { + "epoch": 1.0381709741550695, + "grad_norm": 5.365766525268555, + "learning_rate": 3.6644906943439747e-06, + "loss": 0.087, + "num_input_tokens_seen": 15343872, + "step": 7833 + }, + { + "epoch": 1.0383035122597746, + "grad_norm": 0.0016862810589373112, + "learning_rate": 3.6641835040952475e-06, + "loss": 0.0, + "num_input_tokens_seen": 15345128, + "step": 7834 + }, + { + "epoch": 1.0384360503644798, + "grad_norm": 0.003183546243235469, + "learning_rate": 3.663876291400259e-06, + "loss": 0.0, + "num_input_tokens_seen": 15347280, + "step": 7835 + }, + { + "epoch": 1.0385685884691849, + "grad_norm": 7.209559440612793, + "learning_rate": 3.6635690562649324e-06, + "loss": 0.1444, + "num_input_tokens_seen": 15348744, + "step": 7836 + }, + { + "epoch": 1.03870112657389, + "grad_norm": 0.6442499160766602, + "learning_rate": 3.663261798695192e-06, + "loss": 0.0063, + "num_input_tokens_seen": 15350472, + "step": 7837 + }, + { + "epoch": 1.0388336646785952, + "grad_norm": 7.633230686187744, + "learning_rate": 3.662954518696961e-06, + "loss": 0.2288, + "num_input_tokens_seen": 15353112, + "step": 7838 + }, + { + "epoch": 1.0389662027833002, + "grad_norm": 1.9601349830627441, + "learning_rate": 3.662647216276165e-06, + "loss": 0.0773, + "num_input_tokens_seen": 15354608, + "step": 7839 + }, + { + "epoch": 1.0390987408880052, + "grad_norm": 9.072651863098145, + "learning_rate": 3.662339891438729e-06, + "loss": 0.3534, + "num_input_tokens_seen": 15356392, + "step": 7840 + }, + { + "epoch": 1.0392312789927105, + "grad_norm": 7.431890964508057, + "learning_rate": 3.662032544190578e-06, + "loss": 0.2346, + "num_input_tokens_seen": 15358288, + "step": 7841 + }, + { + "epoch": 1.0393638170974155, + "grad_norm": 3.3793728351593018, + "learning_rate": 3.6617251745376377e-06, + "loss": 0.0584, + "num_input_tokens_seen": 15360272, + "step": 7842 + }, + { + "epoch": 1.0394963552021206, + "grad_norm": 13.772272109985352, + "learning_rate": 3.6614177824858345e-06, + "loss": 0.0919, + "num_input_tokens_seen": 15361880, + "step": 7843 + }, + { + "epoch": 1.0396288933068256, + "grad_norm": 5.662418365478516, + "learning_rate": 3.6611103680410954e-06, + "loss": 0.0528, + "num_input_tokens_seen": 15363392, + "step": 7844 + }, + { + "epoch": 1.0397614314115309, + "grad_norm": 5.790665626525879, + "learning_rate": 3.660802931209346e-06, + "loss": 0.0721, + "num_input_tokens_seen": 15365448, + "step": 7845 + }, + { + "epoch": 1.039893969516236, + "grad_norm": 8.851383209228516, + "learning_rate": 3.6604954719965175e-06, + "loss": 0.1901, + "num_input_tokens_seen": 15367360, + "step": 7846 + }, + { + "epoch": 1.040026507620941, + "grad_norm": 5.972159385681152, + "learning_rate": 3.6601879904085345e-06, + "loss": 0.1497, + "num_input_tokens_seen": 15368920, + "step": 7847 + }, + { + "epoch": 1.0401590457256462, + "grad_norm": 15.191608428955078, + "learning_rate": 3.659880486451327e-06, + "loss": 0.3309, + "num_input_tokens_seen": 15370648, + "step": 7848 + }, + { + "epoch": 1.0402915838303513, + "grad_norm": 0.921578586101532, + "learning_rate": 3.659572960130824e-06, + "loss": 0.0046, + "num_input_tokens_seen": 15372416, + "step": 7849 + }, + { + "epoch": 1.0404241219350563, + "grad_norm": 0.9026769399642944, + "learning_rate": 3.6592654114529537e-06, + "loss": 0.0034, + "num_input_tokens_seen": 15373616, + "step": 7850 + }, + { + "epoch": 1.0405566600397613, + "grad_norm": 4.914867401123047, + "learning_rate": 3.6589578404236465e-06, + "loss": 0.0838, + "num_input_tokens_seen": 15376760, + "step": 7851 + }, + { + "epoch": 1.0406891981444666, + "grad_norm": 0.14350825548171997, + "learning_rate": 3.6586502470488326e-06, + "loss": 0.001, + "num_input_tokens_seen": 15377952, + "step": 7852 + }, + { + "epoch": 1.0408217362491716, + "grad_norm": 12.301382064819336, + "learning_rate": 3.6583426313344433e-06, + "loss": 0.2435, + "num_input_tokens_seen": 15379760, + "step": 7853 + }, + { + "epoch": 1.0409542743538767, + "grad_norm": 6.860457420349121, + "learning_rate": 3.6580349932864083e-06, + "loss": 0.1237, + "num_input_tokens_seen": 15382264, + "step": 7854 + }, + { + "epoch": 1.041086812458582, + "grad_norm": 7.114510536193848, + "learning_rate": 3.65772733291066e-06, + "loss": 0.1774, + "num_input_tokens_seen": 15384160, + "step": 7855 + }, + { + "epoch": 1.041219350563287, + "grad_norm": 0.31468909978866577, + "learning_rate": 3.65741965021313e-06, + "loss": 0.0023, + "num_input_tokens_seen": 15385504, + "step": 7856 + }, + { + "epoch": 1.041351888667992, + "grad_norm": 8.943973541259766, + "learning_rate": 3.6571119451997504e-06, + "loss": 0.1581, + "num_input_tokens_seen": 15387880, + "step": 7857 + }, + { + "epoch": 1.0414844267726973, + "grad_norm": 5.880111217498779, + "learning_rate": 3.6568042178764545e-06, + "loss": 0.0464, + "num_input_tokens_seen": 15389504, + "step": 7858 + }, + { + "epoch": 1.0416169648774023, + "grad_norm": 0.21621862053871155, + "learning_rate": 3.6564964682491754e-06, + "loss": 0.0016, + "num_input_tokens_seen": 15390768, + "step": 7859 + }, + { + "epoch": 1.0417495029821073, + "grad_norm": 0.818871259689331, + "learning_rate": 3.656188696323847e-06, + "loss": 0.0061, + "num_input_tokens_seen": 15392544, + "step": 7860 + }, + { + "epoch": 1.0418820410868124, + "grad_norm": 7.558903694152832, + "learning_rate": 3.655880902106402e-06, + "loss": 0.0393, + "num_input_tokens_seen": 15394504, + "step": 7861 + }, + { + "epoch": 1.0420145791915176, + "grad_norm": 19.59562873840332, + "learning_rate": 3.655573085602776e-06, + "loss": 0.4424, + "num_input_tokens_seen": 15396184, + "step": 7862 + }, + { + "epoch": 1.0421471172962227, + "grad_norm": 12.088844299316406, + "learning_rate": 3.6552652468189037e-06, + "loss": 0.1839, + "num_input_tokens_seen": 15397880, + "step": 7863 + }, + { + "epoch": 1.0422796554009277, + "grad_norm": 0.26387423276901245, + "learning_rate": 3.654957385760721e-06, + "loss": 0.0019, + "num_input_tokens_seen": 15400272, + "step": 7864 + }, + { + "epoch": 1.042412193505633, + "grad_norm": 6.885824680328369, + "learning_rate": 3.6546495024341627e-06, + "loss": 0.1756, + "num_input_tokens_seen": 15402864, + "step": 7865 + }, + { + "epoch": 1.042544731610338, + "grad_norm": 1.6332216262817383, + "learning_rate": 3.6543415968451657e-06, + "loss": 0.0112, + "num_input_tokens_seen": 15405584, + "step": 7866 + }, + { + "epoch": 1.042677269715043, + "grad_norm": 2.2447736263275146, + "learning_rate": 3.6540336689996664e-06, + "loss": 0.0528, + "num_input_tokens_seen": 15407544, + "step": 7867 + }, + { + "epoch": 1.042809807819748, + "grad_norm": 6.372786045074463, + "learning_rate": 3.6537257189036014e-06, + "loss": 0.0328, + "num_input_tokens_seen": 15410808, + "step": 7868 + }, + { + "epoch": 1.0429423459244533, + "grad_norm": 7.790759086608887, + "learning_rate": 3.653417746562909e-06, + "loss": 0.2551, + "num_input_tokens_seen": 15413544, + "step": 7869 + }, + { + "epoch": 1.0430748840291584, + "grad_norm": 11.951497077941895, + "learning_rate": 3.653109751983527e-06, + "loss": 0.2086, + "num_input_tokens_seen": 15415768, + "step": 7870 + }, + { + "epoch": 1.0432074221338634, + "grad_norm": 0.10513343662023544, + "learning_rate": 3.652801735171393e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15417112, + "step": 7871 + }, + { + "epoch": 1.0433399602385687, + "grad_norm": 10.91108226776123, + "learning_rate": 3.652493696132446e-06, + "loss": 0.1029, + "num_input_tokens_seen": 15418880, + "step": 7872 + }, + { + "epoch": 1.0434724983432737, + "grad_norm": 5.90530252456665, + "learning_rate": 3.6521856348726258e-06, + "loss": 0.1214, + "num_input_tokens_seen": 15420848, + "step": 7873 + }, + { + "epoch": 1.0436050364479788, + "grad_norm": 0.04488575458526611, + "learning_rate": 3.6518775513978714e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15422184, + "step": 7874 + }, + { + "epoch": 1.0437375745526838, + "grad_norm": 9.93698501586914, + "learning_rate": 3.6515694457141237e-06, + "loss": 0.2576, + "num_input_tokens_seen": 15425016, + "step": 7875 + }, + { + "epoch": 1.043870112657389, + "grad_norm": 12.571539878845215, + "learning_rate": 3.6512613178273228e-06, + "loss": 0.1986, + "num_input_tokens_seen": 15426264, + "step": 7876 + }, + { + "epoch": 1.044002650762094, + "grad_norm": 9.868276596069336, + "learning_rate": 3.650953167743409e-06, + "loss": 0.2965, + "num_input_tokens_seen": 15428344, + "step": 7877 + }, + { + "epoch": 1.0441351888667991, + "grad_norm": 11.722805976867676, + "learning_rate": 3.650644995468324e-06, + "loss": 0.2161, + "num_input_tokens_seen": 15431048, + "step": 7878 + }, + { + "epoch": 1.0442677269715044, + "grad_norm": 4.383892059326172, + "learning_rate": 3.6503368010080104e-06, + "loss": 0.1594, + "num_input_tokens_seen": 15432968, + "step": 7879 + }, + { + "epoch": 1.0444002650762094, + "grad_norm": 0.02683247998356819, + "learning_rate": 3.650028584368409e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15434104, + "step": 7880 + }, + { + "epoch": 1.0445328031809145, + "grad_norm": 0.06939803808927536, + "learning_rate": 3.6497203455554643e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15436528, + "step": 7881 + }, + { + "epoch": 1.0446653412856197, + "grad_norm": 6.24174690246582, + "learning_rate": 3.6494120845751167e-06, + "loss": 0.1593, + "num_input_tokens_seen": 15438312, + "step": 7882 + }, + { + "epoch": 1.0447978793903248, + "grad_norm": 0.052460283041000366, + "learning_rate": 3.649103801433312e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15439888, + "step": 7883 + }, + { + "epoch": 1.0449304174950298, + "grad_norm": 0.09696125239133835, + "learning_rate": 3.6487954961359927e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15443152, + "step": 7884 + }, + { + "epoch": 1.0450629555997348, + "grad_norm": 15.219600677490234, + "learning_rate": 3.6484871686891044e-06, + "loss": 0.2777, + "num_input_tokens_seen": 15446616, + "step": 7885 + }, + { + "epoch": 1.04519549370444, + "grad_norm": 0.45388805866241455, + "learning_rate": 3.648178819098591e-06, + "loss": 0.0017, + "num_input_tokens_seen": 15448936, + "step": 7886 + }, + { + "epoch": 1.0453280318091451, + "grad_norm": 0.14878511428833008, + "learning_rate": 3.6478704473703972e-06, + "loss": 0.0011, + "num_input_tokens_seen": 15451504, + "step": 7887 + }, + { + "epoch": 1.0454605699138502, + "grad_norm": 0.6884857416152954, + "learning_rate": 3.6475620535104707e-06, + "loss": 0.0067, + "num_input_tokens_seen": 15453616, + "step": 7888 + }, + { + "epoch": 1.0455931080185554, + "grad_norm": 0.5440292954444885, + "learning_rate": 3.6472536375247543e-06, + "loss": 0.0028, + "num_input_tokens_seen": 15456720, + "step": 7889 + }, + { + "epoch": 1.0457256461232605, + "grad_norm": 0.18380853533744812, + "learning_rate": 3.6469451994191974e-06, + "loss": 0.0013, + "num_input_tokens_seen": 15459184, + "step": 7890 + }, + { + "epoch": 1.0458581842279655, + "grad_norm": 7.74333381652832, + "learning_rate": 3.6466367391997464e-06, + "loss": 0.1093, + "num_input_tokens_seen": 15461648, + "step": 7891 + }, + { + "epoch": 1.0459907223326705, + "grad_norm": 10.005255699157715, + "learning_rate": 3.6463282568723467e-06, + "loss": 0.2064, + "num_input_tokens_seen": 15463312, + "step": 7892 + }, + { + "epoch": 1.0461232604373758, + "grad_norm": 0.027855021879076958, + "learning_rate": 3.6460197524429487e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15464528, + "step": 7893 + }, + { + "epoch": 1.0462557985420808, + "grad_norm": 11.140253067016602, + "learning_rate": 3.6457112259174985e-06, + "loss": 0.1429, + "num_input_tokens_seen": 15466120, + "step": 7894 + }, + { + "epoch": 1.0463883366467859, + "grad_norm": 3.5038602352142334, + "learning_rate": 3.6454026773019454e-06, + "loss": 0.1865, + "num_input_tokens_seen": 15468536, + "step": 7895 + }, + { + "epoch": 1.0465208747514911, + "grad_norm": 6.214282512664795, + "learning_rate": 3.6450941066022388e-06, + "loss": 0.1239, + "num_input_tokens_seen": 15470632, + "step": 7896 + }, + { + "epoch": 1.0466534128561962, + "grad_norm": 4.667426586151123, + "learning_rate": 3.6447855138243275e-06, + "loss": 0.0467, + "num_input_tokens_seen": 15472160, + "step": 7897 + }, + { + "epoch": 1.0467859509609012, + "grad_norm": 0.024939320981502533, + "learning_rate": 3.644476898974162e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15473328, + "step": 7898 + }, + { + "epoch": 1.0469184890656065, + "grad_norm": 0.029729114845395088, + "learning_rate": 3.6441682620576927e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15474688, + "step": 7899 + }, + { + "epoch": 1.0470510271703115, + "grad_norm": 13.749137878417969, + "learning_rate": 3.6438596030808697e-06, + "loss": 0.1394, + "num_input_tokens_seen": 15476872, + "step": 7900 + }, + { + "epoch": 1.0471835652750165, + "grad_norm": 1.9877148866653442, + "learning_rate": 3.6435509220496444e-06, + "loss": 0.0332, + "num_input_tokens_seen": 15478352, + "step": 7901 + }, + { + "epoch": 1.0473161033797216, + "grad_norm": 6.648719310760498, + "learning_rate": 3.643242218969968e-06, + "loss": 0.1306, + "num_input_tokens_seen": 15480536, + "step": 7902 + }, + { + "epoch": 1.0474486414844268, + "grad_norm": 0.04364347830414772, + "learning_rate": 3.6429334938477937e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15482752, + "step": 7903 + }, + { + "epoch": 1.0475811795891319, + "grad_norm": 2.9016292095184326, + "learning_rate": 3.642624746689073e-06, + "loss": 0.0098, + "num_input_tokens_seen": 15484616, + "step": 7904 + }, + { + "epoch": 1.047713717693837, + "grad_norm": 0.14206485450267792, + "learning_rate": 3.6423159774997584e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15486384, + "step": 7905 + }, + { + "epoch": 1.0478462557985422, + "grad_norm": 0.018472516909241676, + "learning_rate": 3.6420071862858046e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15487664, + "step": 7906 + }, + { + "epoch": 1.0479787939032472, + "grad_norm": 0.9390114545822144, + "learning_rate": 3.6416983730531637e-06, + "loss": 0.0098, + "num_input_tokens_seen": 15489664, + "step": 7907 + }, + { + "epoch": 1.0481113320079523, + "grad_norm": 13.47948169708252, + "learning_rate": 3.641389537807791e-06, + "loss": 0.4652, + "num_input_tokens_seen": 15491568, + "step": 7908 + }, + { + "epoch": 1.0482438701126573, + "grad_norm": 3.4799435138702393, + "learning_rate": 3.6410806805556405e-06, + "loss": 0.0971, + "num_input_tokens_seen": 15494032, + "step": 7909 + }, + { + "epoch": 1.0483764082173626, + "grad_norm": 3.107759952545166, + "learning_rate": 3.6407718013026665e-06, + "loss": 0.0565, + "num_input_tokens_seen": 15496840, + "step": 7910 + }, + { + "epoch": 1.0485089463220676, + "grad_norm": 9.912053108215332, + "learning_rate": 3.6404629000548266e-06, + "loss": 0.2486, + "num_input_tokens_seen": 15499192, + "step": 7911 + }, + { + "epoch": 1.0486414844267726, + "grad_norm": 0.04165896028280258, + "learning_rate": 3.640153976818074e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15501008, + "step": 7912 + }, + { + "epoch": 1.048774022531478, + "grad_norm": 0.024278365075588226, + "learning_rate": 3.6398450315983664e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15503136, + "step": 7913 + }, + { + "epoch": 1.048906560636183, + "grad_norm": 3.063241720199585, + "learning_rate": 3.639536064401661e-06, + "loss": 0.0209, + "num_input_tokens_seen": 15505256, + "step": 7914 + }, + { + "epoch": 1.049039098740888, + "grad_norm": 3.5645577907562256, + "learning_rate": 3.639227075233913e-06, + "loss": 0.0449, + "num_input_tokens_seen": 15507168, + "step": 7915 + }, + { + "epoch": 1.049171636845593, + "grad_norm": 0.09378673881292343, + "learning_rate": 3.638918064101082e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15509504, + "step": 7916 + }, + { + "epoch": 1.0493041749502983, + "grad_norm": 13.254733085632324, + "learning_rate": 3.6386090310091247e-06, + "loss": 0.3593, + "num_input_tokens_seen": 15512064, + "step": 7917 + }, + { + "epoch": 1.0494367130550033, + "grad_norm": 0.22730045020580292, + "learning_rate": 3.638299975964e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15514080, + "step": 7918 + }, + { + "epoch": 1.0495692511597083, + "grad_norm": 2.637681245803833, + "learning_rate": 3.637990898971666e-06, + "loss": 0.0719, + "num_input_tokens_seen": 15516128, + "step": 7919 + }, + { + "epoch": 1.0497017892644136, + "grad_norm": 5.010317802429199, + "learning_rate": 3.637681800038083e-06, + "loss": 0.0241, + "num_input_tokens_seen": 15517440, + "step": 7920 + }, + { + "epoch": 1.0498343273691186, + "grad_norm": 0.019499680027365685, + "learning_rate": 3.63737267916921e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15518696, + "step": 7921 + }, + { + "epoch": 1.0499668654738237, + "grad_norm": 9.007317543029785, + "learning_rate": 3.6370635363710074e-06, + "loss": 0.2072, + "num_input_tokens_seen": 15520376, + "step": 7922 + }, + { + "epoch": 1.050099403578529, + "grad_norm": 22.122814178466797, + "learning_rate": 3.636754371649434e-06, + "loss": 0.7119, + "num_input_tokens_seen": 15522744, + "step": 7923 + }, + { + "epoch": 1.050231941683234, + "grad_norm": 8.595895767211914, + "learning_rate": 3.636445185010453e-06, + "loss": 0.2309, + "num_input_tokens_seen": 15525096, + "step": 7924 + }, + { + "epoch": 1.050364479787939, + "grad_norm": 0.032340340316295624, + "learning_rate": 3.6361359764600256e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15527232, + "step": 7925 + }, + { + "epoch": 1.050497017892644, + "grad_norm": 4.753627777099609, + "learning_rate": 3.6358267460041117e-06, + "loss": 0.0327, + "num_input_tokens_seen": 15529024, + "step": 7926 + }, + { + "epoch": 1.0506295559973493, + "grad_norm": 0.07969135046005249, + "learning_rate": 3.6355174936486748e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15531984, + "step": 7927 + }, + { + "epoch": 1.0507620941020543, + "grad_norm": 5.616736888885498, + "learning_rate": 3.6352082193996774e-06, + "loss": 0.1005, + "num_input_tokens_seen": 15533624, + "step": 7928 + }, + { + "epoch": 1.0508946322067594, + "grad_norm": 6.749379634857178, + "learning_rate": 3.6348989232630826e-06, + "loss": 0.0987, + "num_input_tokens_seen": 15535848, + "step": 7929 + }, + { + "epoch": 1.0510271703114646, + "grad_norm": 4.371708393096924, + "learning_rate": 3.6345896052448533e-06, + "loss": 0.0512, + "num_input_tokens_seen": 15537336, + "step": 7930 + }, + { + "epoch": 1.0511597084161697, + "grad_norm": 8.944043159484863, + "learning_rate": 3.6342802653509537e-06, + "loss": 0.0922, + "num_input_tokens_seen": 15539216, + "step": 7931 + }, + { + "epoch": 1.0512922465208747, + "grad_norm": 1.5652776956558228, + "learning_rate": 3.633970903587348e-06, + "loss": 0.0117, + "num_input_tokens_seen": 15541216, + "step": 7932 + }, + { + "epoch": 1.0514247846255798, + "grad_norm": 9.27216911315918, + "learning_rate": 3.633661519960001e-06, + "loss": 0.3117, + "num_input_tokens_seen": 15543872, + "step": 7933 + }, + { + "epoch": 1.051557322730285, + "grad_norm": 0.022086873650550842, + "learning_rate": 3.6333521144748784e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15545624, + "step": 7934 + }, + { + "epoch": 1.05168986083499, + "grad_norm": 6.73577356338501, + "learning_rate": 3.6330426871379454e-06, + "loss": 0.1788, + "num_input_tokens_seen": 15548080, + "step": 7935 + }, + { + "epoch": 1.051822398939695, + "grad_norm": 10.533881187438965, + "learning_rate": 3.6327332379551666e-06, + "loss": 0.2538, + "num_input_tokens_seen": 15550280, + "step": 7936 + }, + { + "epoch": 1.0519549370444004, + "grad_norm": 3.3311026096343994, + "learning_rate": 3.63242376693251e-06, + "loss": 0.066, + "num_input_tokens_seen": 15551912, + "step": 7937 + }, + { + "epoch": 1.0520874751491054, + "grad_norm": 0.01083206757903099, + "learning_rate": 3.6321142740759423e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15553224, + "step": 7938 + }, + { + "epoch": 1.0522200132538104, + "grad_norm": 10.024352073669434, + "learning_rate": 3.6318047593914297e-06, + "loss": 0.2063, + "num_input_tokens_seen": 15554680, + "step": 7939 + }, + { + "epoch": 1.0523525513585157, + "grad_norm": 1.554442286491394, + "learning_rate": 3.6314952228849408e-06, + "loss": 0.0148, + "num_input_tokens_seen": 15556912, + "step": 7940 + }, + { + "epoch": 1.0524850894632207, + "grad_norm": 2.78432035446167, + "learning_rate": 3.631185664562444e-06, + "loss": 0.0139, + "num_input_tokens_seen": 15558504, + "step": 7941 + }, + { + "epoch": 1.0526176275679258, + "grad_norm": 0.620375394821167, + "learning_rate": 3.6308760844299064e-06, + "loss": 0.0096, + "num_input_tokens_seen": 15560200, + "step": 7942 + }, + { + "epoch": 1.0527501656726308, + "grad_norm": 8.954679489135742, + "learning_rate": 3.6305664824932986e-06, + "loss": 0.3197, + "num_input_tokens_seen": 15562128, + "step": 7943 + }, + { + "epoch": 1.052882703777336, + "grad_norm": 6.514616966247559, + "learning_rate": 3.6302568587585885e-06, + "loss": 0.1718, + "num_input_tokens_seen": 15564592, + "step": 7944 + }, + { + "epoch": 1.053015241882041, + "grad_norm": 7.087714195251465, + "learning_rate": 3.6299472132317463e-06, + "loss": 0.0663, + "num_input_tokens_seen": 15567000, + "step": 7945 + }, + { + "epoch": 1.0531477799867461, + "grad_norm": 6.69550895690918, + "learning_rate": 3.629637545918743e-06, + "loss": 0.168, + "num_input_tokens_seen": 15568576, + "step": 7946 + }, + { + "epoch": 1.0532803180914514, + "grad_norm": 0.9348760843276978, + "learning_rate": 3.629327856825548e-06, + "loss": 0.0059, + "num_input_tokens_seen": 15571728, + "step": 7947 + }, + { + "epoch": 1.0534128561961564, + "grad_norm": 0.5714061856269836, + "learning_rate": 3.629018145958133e-06, + "loss": 0.0047, + "num_input_tokens_seen": 15573088, + "step": 7948 + }, + { + "epoch": 1.0535453943008615, + "grad_norm": 12.479203224182129, + "learning_rate": 3.6287084133224693e-06, + "loss": 0.1991, + "num_input_tokens_seen": 15576712, + "step": 7949 + }, + { + "epoch": 1.0536779324055665, + "grad_norm": 6.5978312492370605, + "learning_rate": 3.6283986589245283e-06, + "loss": 0.0816, + "num_input_tokens_seen": 15578864, + "step": 7950 + }, + { + "epoch": 1.0538104705102718, + "grad_norm": 17.88849449157715, + "learning_rate": 3.628088882770283e-06, + "loss": 0.7151, + "num_input_tokens_seen": 15580856, + "step": 7951 + }, + { + "epoch": 1.0539430086149768, + "grad_norm": 0.022077850997447968, + "learning_rate": 3.6277790848657055e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15581872, + "step": 7952 + }, + { + "epoch": 1.0540755467196818, + "grad_norm": 0.027225205674767494, + "learning_rate": 3.6274692652167703e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15583632, + "step": 7953 + }, + { + "epoch": 1.054208084824387, + "grad_norm": 4.710811614990234, + "learning_rate": 3.627159423829449e-06, + "loss": 0.0953, + "num_input_tokens_seen": 15585832, + "step": 7954 + }, + { + "epoch": 1.0543406229290921, + "grad_norm": 0.7662599682807922, + "learning_rate": 3.6268495607097166e-06, + "loss": 0.006, + "num_input_tokens_seen": 15587240, + "step": 7955 + }, + { + "epoch": 1.0544731610337972, + "grad_norm": 0.5820773243904114, + "learning_rate": 3.6265396758635475e-06, + "loss": 0.0071, + "num_input_tokens_seen": 15588728, + "step": 7956 + }, + { + "epoch": 1.0546056991385022, + "grad_norm": 9.566177368164062, + "learning_rate": 3.6262297692969155e-06, + "loss": 0.0658, + "num_input_tokens_seen": 15590408, + "step": 7957 + }, + { + "epoch": 1.0547382372432075, + "grad_norm": 0.06261811405420303, + "learning_rate": 3.6259198410157973e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15592480, + "step": 7958 + }, + { + "epoch": 1.0548707753479125, + "grad_norm": 5.135053634643555, + "learning_rate": 3.625609891026168e-06, + "loss": 0.0409, + "num_input_tokens_seen": 15594088, + "step": 7959 + }, + { + "epoch": 1.0550033134526176, + "grad_norm": 9.567028045654297, + "learning_rate": 3.6252999193340034e-06, + "loss": 0.3779, + "num_input_tokens_seen": 15596904, + "step": 7960 + }, + { + "epoch": 1.0551358515573228, + "grad_norm": 3.100637197494507, + "learning_rate": 3.6249899259452797e-06, + "loss": 0.0555, + "num_input_tokens_seen": 15598208, + "step": 7961 + }, + { + "epoch": 1.0552683896620279, + "grad_norm": 5.322288990020752, + "learning_rate": 3.6246799108659743e-06, + "loss": 0.1527, + "num_input_tokens_seen": 15600064, + "step": 7962 + }, + { + "epoch": 1.0554009277667329, + "grad_norm": 9.8389253616333, + "learning_rate": 3.624369874102064e-06, + "loss": 0.2311, + "num_input_tokens_seen": 15602128, + "step": 7963 + }, + { + "epoch": 1.055533465871438, + "grad_norm": 10.773490905761719, + "learning_rate": 3.6240598156595276e-06, + "loss": 0.1671, + "num_input_tokens_seen": 15604200, + "step": 7964 + }, + { + "epoch": 1.0556660039761432, + "grad_norm": 1.9360040426254272, + "learning_rate": 3.6237497355443417e-06, + "loss": 0.0253, + "num_input_tokens_seen": 15605872, + "step": 7965 + }, + { + "epoch": 1.0557985420808482, + "grad_norm": 10.263525009155273, + "learning_rate": 3.623439633762486e-06, + "loss": 0.0645, + "num_input_tokens_seen": 15609072, + "step": 7966 + }, + { + "epoch": 1.0559310801855533, + "grad_norm": 8.068907737731934, + "learning_rate": 3.6231295103199394e-06, + "loss": 0.1277, + "num_input_tokens_seen": 15611088, + "step": 7967 + }, + { + "epoch": 1.0560636182902585, + "grad_norm": 3.7351903915405273, + "learning_rate": 3.6228193652226813e-06, + "loss": 0.0571, + "num_input_tokens_seen": 15612944, + "step": 7968 + }, + { + "epoch": 1.0561961563949636, + "grad_norm": 4.450117111206055, + "learning_rate": 3.6225091984766904e-06, + "loss": 0.071, + "num_input_tokens_seen": 15615088, + "step": 7969 + }, + { + "epoch": 1.0563286944996686, + "grad_norm": 2.517181396484375, + "learning_rate": 3.6221990100879477e-06, + "loss": 0.0363, + "num_input_tokens_seen": 15616944, + "step": 7970 + }, + { + "epoch": 1.0564612326043739, + "grad_norm": 6.846189975738525, + "learning_rate": 3.6218888000624353e-06, + "loss": 0.1158, + "num_input_tokens_seen": 15618920, + "step": 7971 + }, + { + "epoch": 1.056593770709079, + "grad_norm": 0.2078702747821808, + "learning_rate": 3.621578568406131e-06, + "loss": 0.0016, + "num_input_tokens_seen": 15621712, + "step": 7972 + }, + { + "epoch": 1.056726308813784, + "grad_norm": 0.3657509386539459, + "learning_rate": 3.6212683151250194e-06, + "loss": 0.0028, + "num_input_tokens_seen": 15623792, + "step": 7973 + }, + { + "epoch": 1.056858846918489, + "grad_norm": 6.588100433349609, + "learning_rate": 3.6209580402250816e-06, + "loss": 0.1765, + "num_input_tokens_seen": 15625336, + "step": 7974 + }, + { + "epoch": 1.0569913850231942, + "grad_norm": 0.3558519780635834, + "learning_rate": 3.6206477437122977e-06, + "loss": 0.0027, + "num_input_tokens_seen": 15626384, + "step": 7975 + }, + { + "epoch": 1.0571239231278993, + "grad_norm": 5.9306135177612305, + "learning_rate": 3.6203374255926537e-06, + "loss": 0.1036, + "num_input_tokens_seen": 15628432, + "step": 7976 + }, + { + "epoch": 1.0572564612326043, + "grad_norm": 13.191484451293945, + "learning_rate": 3.620027085872131e-06, + "loss": 0.287, + "num_input_tokens_seen": 15630152, + "step": 7977 + }, + { + "epoch": 1.0573889993373096, + "grad_norm": 0.3466063439846039, + "learning_rate": 3.6197167245567128e-06, + "loss": 0.0019, + "num_input_tokens_seen": 15632144, + "step": 7978 + }, + { + "epoch": 1.0575215374420146, + "grad_norm": 11.53245735168457, + "learning_rate": 3.6194063416523844e-06, + "loss": 0.324, + "num_input_tokens_seen": 15635000, + "step": 7979 + }, + { + "epoch": 1.0576540755467196, + "grad_norm": 11.756266593933105, + "learning_rate": 3.6190959371651293e-06, + "loss": 0.1556, + "num_input_tokens_seen": 15638216, + "step": 7980 + }, + { + "epoch": 1.0577866136514247, + "grad_norm": 3.1588351726531982, + "learning_rate": 3.6187855111009325e-06, + "loss": 0.0648, + "num_input_tokens_seen": 15641104, + "step": 7981 + }, + { + "epoch": 1.05791915175613, + "grad_norm": 6.496006488800049, + "learning_rate": 3.6184750634657796e-06, + "loss": 0.1822, + "num_input_tokens_seen": 15642960, + "step": 7982 + }, + { + "epoch": 1.058051689860835, + "grad_norm": 0.6988822817802429, + "learning_rate": 3.618164594265655e-06, + "loss": 0.0082, + "num_input_tokens_seen": 15645112, + "step": 7983 + }, + { + "epoch": 1.05818422796554, + "grad_norm": 6.729306221008301, + "learning_rate": 3.617854103506546e-06, + "loss": 0.1606, + "num_input_tokens_seen": 15646928, + "step": 7984 + }, + { + "epoch": 1.0583167660702453, + "grad_norm": 9.223274230957031, + "learning_rate": 3.6175435911944385e-06, + "loss": 0.1782, + "num_input_tokens_seen": 15648544, + "step": 7985 + }, + { + "epoch": 1.0584493041749503, + "grad_norm": 0.09302958101034164, + "learning_rate": 3.6172330573353203e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15649840, + "step": 7986 + }, + { + "epoch": 1.0585818422796553, + "grad_norm": 12.603796005249023, + "learning_rate": 3.616922501935177e-06, + "loss": 0.2568, + "num_input_tokens_seen": 15651320, + "step": 7987 + }, + { + "epoch": 1.0587143803843606, + "grad_norm": 6.875571250915527, + "learning_rate": 3.6166119249999985e-06, + "loss": 0.1152, + "num_input_tokens_seen": 15653488, + "step": 7988 + }, + { + "epoch": 1.0588469184890656, + "grad_norm": 7.396050930023193, + "learning_rate": 3.6163013265357716e-06, + "loss": 0.188, + "num_input_tokens_seen": 15655680, + "step": 7989 + }, + { + "epoch": 1.0589794565937707, + "grad_norm": 9.612442016601562, + "learning_rate": 3.615990706548484e-06, + "loss": 0.2561, + "num_input_tokens_seen": 15657928, + "step": 7990 + }, + { + "epoch": 1.0591119946984757, + "grad_norm": 3.7665109634399414, + "learning_rate": 3.6156800650441266e-06, + "loss": 0.0395, + "num_input_tokens_seen": 15659472, + "step": 7991 + }, + { + "epoch": 1.059244532803181, + "grad_norm": 5.557758808135986, + "learning_rate": 3.6153694020286876e-06, + "loss": 0.0386, + "num_input_tokens_seen": 15662088, + "step": 7992 + }, + { + "epoch": 1.059377070907886, + "grad_norm": 0.1930140107870102, + "learning_rate": 3.615058717508157e-06, + "loss": 0.0015, + "num_input_tokens_seen": 15663968, + "step": 7993 + }, + { + "epoch": 1.059509609012591, + "grad_norm": 1.4421720504760742, + "learning_rate": 3.6147480114885255e-06, + "loss": 0.0095, + "num_input_tokens_seen": 15665056, + "step": 7994 + }, + { + "epoch": 1.0596421471172963, + "grad_norm": 0.11434435844421387, + "learning_rate": 3.614437283975783e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15666216, + "step": 7995 + }, + { + "epoch": 1.0597746852220014, + "grad_norm": 5.47565221786499, + "learning_rate": 3.61412653497592e-06, + "loss": 0.164, + "num_input_tokens_seen": 15669144, + "step": 7996 + }, + { + "epoch": 1.0599072233267064, + "grad_norm": 9.914389610290527, + "learning_rate": 3.6138157644949307e-06, + "loss": 0.1557, + "num_input_tokens_seen": 15670800, + "step": 7997 + }, + { + "epoch": 1.0600397614314114, + "grad_norm": 12.099952697753906, + "learning_rate": 3.6135049725388036e-06, + "loss": 0.4654, + "num_input_tokens_seen": 15673584, + "step": 7998 + }, + { + "epoch": 1.0601722995361167, + "grad_norm": 0.09205961972475052, + "learning_rate": 3.613194159113533e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15674960, + "step": 7999 + }, + { + "epoch": 1.0603048376408217, + "grad_norm": 0.14178790152072906, + "learning_rate": 3.6128833242251115e-06, + "loss": 0.0011, + "num_input_tokens_seen": 15677320, + "step": 8000 + }, + { + "epoch": 1.0604373757455268, + "grad_norm": 0.8104797005653381, + "learning_rate": 3.612572467879531e-06, + "loss": 0.0056, + "num_input_tokens_seen": 15678816, + "step": 8001 + }, + { + "epoch": 1.060569913850232, + "grad_norm": 3.1845006942749023, + "learning_rate": 3.6122615900827855e-06, + "loss": 0.0399, + "num_input_tokens_seen": 15681680, + "step": 8002 + }, + { + "epoch": 1.060702451954937, + "grad_norm": 6.671764850616455, + "learning_rate": 3.61195069084087e-06, + "loss": 0.2277, + "num_input_tokens_seen": 15683248, + "step": 8003 + }, + { + "epoch": 1.060834990059642, + "grad_norm": 6.917355060577393, + "learning_rate": 3.611639770159778e-06, + "loss": 0.1731, + "num_input_tokens_seen": 15685192, + "step": 8004 + }, + { + "epoch": 1.0609675281643471, + "grad_norm": 5.837344646453857, + "learning_rate": 3.611328828045504e-06, + "loss": 0.0849, + "num_input_tokens_seen": 15686936, + "step": 8005 + }, + { + "epoch": 1.0611000662690524, + "grad_norm": 8.548568725585938, + "learning_rate": 3.6110178645040437e-06, + "loss": 0.3469, + "num_input_tokens_seen": 15689216, + "step": 8006 + }, + { + "epoch": 1.0612326043737574, + "grad_norm": 13.973820686340332, + "learning_rate": 3.6107068795413926e-06, + "loss": 0.1346, + "num_input_tokens_seen": 15690704, + "step": 8007 + }, + { + "epoch": 1.0613651424784625, + "grad_norm": 0.3159739077091217, + "learning_rate": 3.6103958731635468e-06, + "loss": 0.0024, + "num_input_tokens_seen": 15692776, + "step": 8008 + }, + { + "epoch": 1.0614976805831677, + "grad_norm": 3.2810280323028564, + "learning_rate": 3.6100848453765027e-06, + "loss": 0.0429, + "num_input_tokens_seen": 15694208, + "step": 8009 + }, + { + "epoch": 1.0616302186878728, + "grad_norm": 0.11063665896654129, + "learning_rate": 3.609773796186256e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15696032, + "step": 8010 + }, + { + "epoch": 1.0617627567925778, + "grad_norm": 10.046136856079102, + "learning_rate": 3.609462725598806e-06, + "loss": 0.1981, + "num_input_tokens_seen": 15698640, + "step": 8011 + }, + { + "epoch": 1.061895294897283, + "grad_norm": 9.504996299743652, + "learning_rate": 3.6091516336201483e-06, + "loss": 0.1076, + "num_input_tokens_seen": 15700184, + "step": 8012 + }, + { + "epoch": 1.062027833001988, + "grad_norm": 0.27269691228866577, + "learning_rate": 3.6088405202562826e-06, + "loss": 0.0021, + "num_input_tokens_seen": 15701592, + "step": 8013 + }, + { + "epoch": 1.0621603711066931, + "grad_norm": 1.5353727340698242, + "learning_rate": 3.6085293855132063e-06, + "loss": 0.0062, + "num_input_tokens_seen": 15703088, + "step": 8014 + }, + { + "epoch": 1.0622929092113982, + "grad_norm": 4.5996551513671875, + "learning_rate": 3.608218229396919e-06, + "loss": 0.1748, + "num_input_tokens_seen": 15704760, + "step": 8015 + }, + { + "epoch": 1.0624254473161034, + "grad_norm": 2.493993043899536, + "learning_rate": 3.6079070519134196e-06, + "loss": 0.0243, + "num_input_tokens_seen": 15706296, + "step": 8016 + }, + { + "epoch": 1.0625579854208085, + "grad_norm": 4.057400703430176, + "learning_rate": 3.6075958530687084e-06, + "loss": 0.0804, + "num_input_tokens_seen": 15707520, + "step": 8017 + }, + { + "epoch": 1.0626905235255135, + "grad_norm": 0.1196255311369896, + "learning_rate": 3.607284632868785e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15709912, + "step": 8018 + }, + { + "epoch": 1.0628230616302188, + "grad_norm": 0.3267013430595398, + "learning_rate": 3.6069733913196487e-06, + "loss": 0.0025, + "num_input_tokens_seen": 15712176, + "step": 8019 + }, + { + "epoch": 1.0629555997349238, + "grad_norm": 5.814580917358398, + "learning_rate": 3.606662128427303e-06, + "loss": 0.0282, + "num_input_tokens_seen": 15714912, + "step": 8020 + }, + { + "epoch": 1.0630881378396289, + "grad_norm": 0.09737732261419296, + "learning_rate": 3.6063508441977478e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15717888, + "step": 8021 + }, + { + "epoch": 1.063220675944334, + "grad_norm": 5.149318218231201, + "learning_rate": 3.6060395386369852e-06, + "loss": 0.1045, + "num_input_tokens_seen": 15720096, + "step": 8022 + }, + { + "epoch": 1.0633532140490392, + "grad_norm": 4.0814127922058105, + "learning_rate": 3.605728211751017e-06, + "loss": 0.0303, + "num_input_tokens_seen": 15722120, + "step": 8023 + }, + { + "epoch": 1.0634857521537442, + "grad_norm": 14.288308143615723, + "learning_rate": 3.6054168635458464e-06, + "loss": 0.3516, + "num_input_tokens_seen": 15724544, + "step": 8024 + }, + { + "epoch": 1.0636182902584492, + "grad_norm": 4.778275966644287, + "learning_rate": 3.6051054940274755e-06, + "loss": 0.094, + "num_input_tokens_seen": 15727016, + "step": 8025 + }, + { + "epoch": 1.0637508283631545, + "grad_norm": 0.04523913189768791, + "learning_rate": 3.604794103201909e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15728160, + "step": 8026 + }, + { + "epoch": 1.0638833664678595, + "grad_norm": 14.25879955291748, + "learning_rate": 3.6044826910751496e-06, + "loss": 0.1672, + "num_input_tokens_seen": 15730944, + "step": 8027 + }, + { + "epoch": 1.0640159045725646, + "grad_norm": 6.4809370040893555, + "learning_rate": 3.6041712576532017e-06, + "loss": 0.0662, + "num_input_tokens_seen": 15732320, + "step": 8028 + }, + { + "epoch": 1.0641484426772698, + "grad_norm": 0.08630184084177017, + "learning_rate": 3.603859802942071e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15735152, + "step": 8029 + }, + { + "epoch": 1.0642809807819749, + "grad_norm": 7.073913097381592, + "learning_rate": 3.6035483269477613e-06, + "loss": 0.1699, + "num_input_tokens_seen": 15737520, + "step": 8030 + }, + { + "epoch": 1.06441351888668, + "grad_norm": 0.057469792664051056, + "learning_rate": 3.603236829676279e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15738752, + "step": 8031 + }, + { + "epoch": 1.064546056991385, + "grad_norm": 12.062638282775879, + "learning_rate": 3.6029253111336286e-06, + "loss": 0.3565, + "num_input_tokens_seen": 15740856, + "step": 8032 + }, + { + "epoch": 1.0646785950960902, + "grad_norm": 2.599116325378418, + "learning_rate": 3.602613771325818e-06, + "loss": 0.0466, + "num_input_tokens_seen": 15742520, + "step": 8033 + }, + { + "epoch": 1.0648111332007952, + "grad_norm": 5.615490436553955, + "learning_rate": 3.602302210258853e-06, + "loss": 0.0597, + "num_input_tokens_seen": 15745592, + "step": 8034 + }, + { + "epoch": 1.0649436713055003, + "grad_norm": 1.8426272869110107, + "learning_rate": 3.601990627938741e-06, + "loss": 0.0367, + "num_input_tokens_seen": 15748440, + "step": 8035 + }, + { + "epoch": 1.0650762094102055, + "grad_norm": 0.04948681220412254, + "learning_rate": 3.6016790243714903e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15750080, + "step": 8036 + }, + { + "epoch": 1.0652087475149106, + "grad_norm": 9.407215118408203, + "learning_rate": 3.6013673995631066e-06, + "loss": 0.1188, + "num_input_tokens_seen": 15752208, + "step": 8037 + }, + { + "epoch": 1.0653412856196156, + "grad_norm": 7.872118949890137, + "learning_rate": 3.6010557535196005e-06, + "loss": 0.2509, + "num_input_tokens_seen": 15754288, + "step": 8038 + }, + { + "epoch": 1.0654738237243206, + "grad_norm": 6.255258083343506, + "learning_rate": 3.60074408624698e-06, + "loss": 0.2379, + "num_input_tokens_seen": 15755984, + "step": 8039 + }, + { + "epoch": 1.065606361829026, + "grad_norm": 12.880196571350098, + "learning_rate": 3.6004323977512534e-06, + "loss": 0.5036, + "num_input_tokens_seen": 15757888, + "step": 8040 + }, + { + "epoch": 1.065738899933731, + "grad_norm": 9.998342514038086, + "learning_rate": 3.600120688038432e-06, + "loss": 0.2828, + "num_input_tokens_seen": 15759824, + "step": 8041 + }, + { + "epoch": 1.065871438038436, + "grad_norm": 0.03212375566363335, + "learning_rate": 3.599808957114524e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15761160, + "step": 8042 + }, + { + "epoch": 1.0660039761431412, + "grad_norm": 4.342859745025635, + "learning_rate": 3.5994972049855402e-06, + "loss": 0.1486, + "num_input_tokens_seen": 15762816, + "step": 8043 + }, + { + "epoch": 1.0661365142478463, + "grad_norm": 0.11181376874446869, + "learning_rate": 3.599185431657493e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15764528, + "step": 8044 + }, + { + "epoch": 1.0662690523525513, + "grad_norm": 0.03542919456958771, + "learning_rate": 3.5988736371363917e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15765904, + "step": 8045 + }, + { + "epoch": 1.0664015904572564, + "grad_norm": 2.2654542922973633, + "learning_rate": 3.5985618214282493e-06, + "loss": 0.0318, + "num_input_tokens_seen": 15767144, + "step": 8046 + }, + { + "epoch": 1.0665341285619616, + "grad_norm": 0.371366411447525, + "learning_rate": 3.598249984539076e-06, + "loss": 0.0025, + "num_input_tokens_seen": 15768800, + "step": 8047 + }, + { + "epoch": 1.0666666666666667, + "grad_norm": 5.629929542541504, + "learning_rate": 3.5979381264748864e-06, + "loss": 0.1896, + "num_input_tokens_seen": 15770808, + "step": 8048 + }, + { + "epoch": 1.0667992047713717, + "grad_norm": 6.7023024559021, + "learning_rate": 3.5976262472416912e-06, + "loss": 0.1372, + "num_input_tokens_seen": 15773168, + "step": 8049 + }, + { + "epoch": 1.066931742876077, + "grad_norm": 8.313822746276855, + "learning_rate": 3.5973143468455053e-06, + "loss": 0.1465, + "num_input_tokens_seen": 15774792, + "step": 8050 + }, + { + "epoch": 1.067064280980782, + "grad_norm": 0.24633155763149261, + "learning_rate": 3.5970024252923422e-06, + "loss": 0.0018, + "num_input_tokens_seen": 15776912, + "step": 8051 + }, + { + "epoch": 1.067196819085487, + "grad_norm": 5.482618808746338, + "learning_rate": 3.5966904825882155e-06, + "loss": 0.1024, + "num_input_tokens_seen": 15778776, + "step": 8052 + }, + { + "epoch": 1.067329357190192, + "grad_norm": 0.06309965252876282, + "learning_rate": 3.5963785187391394e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15780512, + "step": 8053 + }, + { + "epoch": 1.0674618952948973, + "grad_norm": 0.19172799587249756, + "learning_rate": 3.596066533751129e-06, + "loss": 0.0014, + "num_input_tokens_seen": 15783416, + "step": 8054 + }, + { + "epoch": 1.0675944333996024, + "grad_norm": 5.725820541381836, + "learning_rate": 3.595754527630199e-06, + "loss": 0.0403, + "num_input_tokens_seen": 15785312, + "step": 8055 + }, + { + "epoch": 1.0677269715043074, + "grad_norm": 2.857809066772461, + "learning_rate": 3.595442500382367e-06, + "loss": 0.0958, + "num_input_tokens_seen": 15787576, + "step": 8056 + }, + { + "epoch": 1.0678595096090127, + "grad_norm": 6.153066158294678, + "learning_rate": 3.5951304520136474e-06, + "loss": 0.1129, + "num_input_tokens_seen": 15789272, + "step": 8057 + }, + { + "epoch": 1.0679920477137177, + "grad_norm": 0.520875096321106, + "learning_rate": 3.5948183825300574e-06, + "loss": 0.0034, + "num_input_tokens_seen": 15791832, + "step": 8058 + }, + { + "epoch": 1.0681245858184227, + "grad_norm": 9.945199966430664, + "learning_rate": 3.594506291937614e-06, + "loss": 0.1561, + "num_input_tokens_seen": 15793528, + "step": 8059 + }, + { + "epoch": 1.068257123923128, + "grad_norm": 10.815088272094727, + "learning_rate": 3.5941941802423335e-06, + "loss": 0.4284, + "num_input_tokens_seen": 15796104, + "step": 8060 + }, + { + "epoch": 1.068389662027833, + "grad_norm": 0.019287072122097015, + "learning_rate": 3.5938820474502347e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15797096, + "step": 8061 + }, + { + "epoch": 1.068522200132538, + "grad_norm": 5.974384784698486, + "learning_rate": 3.5935698935673356e-06, + "loss": 0.1707, + "num_input_tokens_seen": 15799752, + "step": 8062 + }, + { + "epoch": 1.068654738237243, + "grad_norm": 6.245574951171875, + "learning_rate": 3.593257718599654e-06, + "loss": 0.0765, + "num_input_tokens_seen": 15801504, + "step": 8063 + }, + { + "epoch": 1.0687872763419484, + "grad_norm": 7.039210796356201, + "learning_rate": 3.59294552255321e-06, + "loss": 0.0959, + "num_input_tokens_seen": 15803280, + "step": 8064 + }, + { + "epoch": 1.0689198144466534, + "grad_norm": 5.357276916503906, + "learning_rate": 3.5926333054340224e-06, + "loss": 0.0538, + "num_input_tokens_seen": 15805576, + "step": 8065 + }, + { + "epoch": 1.0690523525513584, + "grad_norm": 0.06459338217973709, + "learning_rate": 3.59232106724811e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15807264, + "step": 8066 + }, + { + "epoch": 1.0691848906560637, + "grad_norm": 4.824656009674072, + "learning_rate": 3.592008808001495e-06, + "loss": 0.0854, + "num_input_tokens_seen": 15809000, + "step": 8067 + }, + { + "epoch": 1.0693174287607687, + "grad_norm": 12.060391426086426, + "learning_rate": 3.591696527700196e-06, + "loss": 0.2814, + "num_input_tokens_seen": 15810720, + "step": 8068 + }, + { + "epoch": 1.0694499668654738, + "grad_norm": 11.24808406829834, + "learning_rate": 3.5913842263502348e-06, + "loss": 0.0572, + "num_input_tokens_seen": 15812408, + "step": 8069 + }, + { + "epoch": 1.069582504970179, + "grad_norm": 8.627835273742676, + "learning_rate": 3.591071903957633e-06, + "loss": 0.1992, + "num_input_tokens_seen": 15814984, + "step": 8070 + }, + { + "epoch": 1.069715043074884, + "grad_norm": 4.567038536071777, + "learning_rate": 3.5907595605284124e-06, + "loss": 0.1277, + "num_input_tokens_seen": 15816320, + "step": 8071 + }, + { + "epoch": 1.0698475811795891, + "grad_norm": 10.388762474060059, + "learning_rate": 3.590447196068595e-06, + "loss": 0.1898, + "num_input_tokens_seen": 15818032, + "step": 8072 + }, + { + "epoch": 1.0699801192842942, + "grad_norm": 2.58420467376709, + "learning_rate": 3.590134810584203e-06, + "loss": 0.0339, + "num_input_tokens_seen": 15819904, + "step": 8073 + }, + { + "epoch": 1.0701126573889994, + "grad_norm": 0.4488075077533722, + "learning_rate": 3.58982240408126e-06, + "loss": 0.0014, + "num_input_tokens_seen": 15821576, + "step": 8074 + }, + { + "epoch": 1.0702451954937044, + "grad_norm": 10.076026916503906, + "learning_rate": 3.589509976565789e-06, + "loss": 0.1657, + "num_input_tokens_seen": 15823296, + "step": 8075 + }, + { + "epoch": 1.0703777335984095, + "grad_norm": 4.311559200286865, + "learning_rate": 3.5891975280438147e-06, + "loss": 0.1262, + "num_input_tokens_seen": 15824808, + "step": 8076 + }, + { + "epoch": 1.0705102717031147, + "grad_norm": 8.541370391845703, + "learning_rate": 3.588885058521361e-06, + "loss": 0.1557, + "num_input_tokens_seen": 15826528, + "step": 8077 + }, + { + "epoch": 1.0706428098078198, + "grad_norm": 10.6084566116333, + "learning_rate": 3.588572568004451e-06, + "loss": 0.187, + "num_input_tokens_seen": 15828160, + "step": 8078 + }, + { + "epoch": 1.0707753479125248, + "grad_norm": 3.0699830055236816, + "learning_rate": 3.588260056499111e-06, + "loss": 0.0206, + "num_input_tokens_seen": 15829976, + "step": 8079 + }, + { + "epoch": 1.0709078860172299, + "grad_norm": 22.24512481689453, + "learning_rate": 3.5879475240113676e-06, + "loss": 0.597, + "num_input_tokens_seen": 15832080, + "step": 8080 + }, + { + "epoch": 1.0710404241219351, + "grad_norm": 8.170434951782227, + "learning_rate": 3.5876349705472445e-06, + "loss": 0.1425, + "num_input_tokens_seen": 15833768, + "step": 8081 + }, + { + "epoch": 1.0711729622266402, + "grad_norm": 0.05929776653647423, + "learning_rate": 3.5873223961127683e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15835664, + "step": 8082 + }, + { + "epoch": 1.0713055003313452, + "grad_norm": 6.4934892654418945, + "learning_rate": 3.5870098007139676e-06, + "loss": 0.2244, + "num_input_tokens_seen": 15837720, + "step": 8083 + }, + { + "epoch": 1.0714380384360505, + "grad_norm": 4.574771881103516, + "learning_rate": 3.5866971843568667e-06, + "loss": 0.1167, + "num_input_tokens_seen": 15839528, + "step": 8084 + }, + { + "epoch": 1.0715705765407555, + "grad_norm": 19.111574172973633, + "learning_rate": 3.586384547047495e-06, + "loss": 0.6393, + "num_input_tokens_seen": 15842224, + "step": 8085 + }, + { + "epoch": 1.0717031146454605, + "grad_norm": 9.524335861206055, + "learning_rate": 3.58607188879188e-06, + "loss": 0.2351, + "num_input_tokens_seen": 15843904, + "step": 8086 + }, + { + "epoch": 1.0718356527501656, + "grad_norm": 7.590734481811523, + "learning_rate": 3.5857592095960492e-06, + "loss": 0.1356, + "num_input_tokens_seen": 15845536, + "step": 8087 + }, + { + "epoch": 1.0719681908548708, + "grad_norm": 2.6261420249938965, + "learning_rate": 3.5854465094660325e-06, + "loss": 0.0414, + "num_input_tokens_seen": 15848136, + "step": 8088 + }, + { + "epoch": 1.0721007289595759, + "grad_norm": 0.08045609295368195, + "learning_rate": 3.5851337884078573e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15850160, + "step": 8089 + }, + { + "epoch": 1.072233267064281, + "grad_norm": 0.09503606706857681, + "learning_rate": 3.5848210464275546e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15852576, + "step": 8090 + }, + { + "epoch": 1.0723658051689862, + "grad_norm": 5.456388473510742, + "learning_rate": 3.584508283531154e-06, + "loss": 0.0669, + "num_input_tokens_seen": 15854080, + "step": 8091 + }, + { + "epoch": 1.0724983432736912, + "grad_norm": 0.08958735316991806, + "learning_rate": 3.584195499724686e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15856544, + "step": 8092 + }, + { + "epoch": 1.0726308813783962, + "grad_norm": 7.314899921417236, + "learning_rate": 3.58388269501418e-06, + "loss": 0.1473, + "num_input_tokens_seen": 15858896, + "step": 8093 + }, + { + "epoch": 1.0727634194831013, + "grad_norm": 4.568482398986816, + "learning_rate": 3.5835698694056675e-06, + "loss": 0.0727, + "num_input_tokens_seen": 15861568, + "step": 8094 + }, + { + "epoch": 1.0728959575878065, + "grad_norm": 6.254690647125244, + "learning_rate": 3.583257022905181e-06, + "loss": 0.1294, + "num_input_tokens_seen": 15863192, + "step": 8095 + }, + { + "epoch": 1.0730284956925116, + "grad_norm": 7.0536112785339355, + "learning_rate": 3.582944155518752e-06, + "loss": 0.0943, + "num_input_tokens_seen": 15864968, + "step": 8096 + }, + { + "epoch": 1.0731610337972166, + "grad_norm": 10.413454055786133, + "learning_rate": 3.5826312672524123e-06, + "loss": 0.22, + "num_input_tokens_seen": 15867200, + "step": 8097 + }, + { + "epoch": 1.0732935719019219, + "grad_norm": 6.400625228881836, + "learning_rate": 3.582318358112195e-06, + "loss": 0.1419, + "num_input_tokens_seen": 15869024, + "step": 8098 + }, + { + "epoch": 1.073426110006627, + "grad_norm": 9.621027946472168, + "learning_rate": 3.582005428104133e-06, + "loss": 0.084, + "num_input_tokens_seen": 15871512, + "step": 8099 + }, + { + "epoch": 1.073558648111332, + "grad_norm": 5.116708755493164, + "learning_rate": 3.5816924772342597e-06, + "loss": 0.0327, + "num_input_tokens_seen": 15873256, + "step": 8100 + }, + { + "epoch": 1.0736911862160372, + "grad_norm": 0.0987025648355484, + "learning_rate": 3.5813795055086105e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15875008, + "step": 8101 + }, + { + "epoch": 1.0738237243207422, + "grad_norm": 4.944706439971924, + "learning_rate": 3.581066512933217e-06, + "loss": 0.0325, + "num_input_tokens_seen": 15877008, + "step": 8102 + }, + { + "epoch": 1.0739562624254473, + "grad_norm": 5.2322678565979, + "learning_rate": 3.5807534995141156e-06, + "loss": 0.0574, + "num_input_tokens_seen": 15878952, + "step": 8103 + }, + { + "epoch": 1.0740888005301523, + "grad_norm": 8.959538459777832, + "learning_rate": 3.580440465257341e-06, + "loss": 0.1042, + "num_input_tokens_seen": 15881408, + "step": 8104 + }, + { + "epoch": 1.0742213386348576, + "grad_norm": 1.8725056648254395, + "learning_rate": 3.5801274101689292e-06, + "loss": 0.0081, + "num_input_tokens_seen": 15883824, + "step": 8105 + }, + { + "epoch": 1.0743538767395626, + "grad_norm": 2.592747449874878, + "learning_rate": 3.5798143342549164e-06, + "loss": 0.0238, + "num_input_tokens_seen": 15885720, + "step": 8106 + }, + { + "epoch": 1.0744864148442677, + "grad_norm": 6.40894889831543, + "learning_rate": 3.5795012375213373e-06, + "loss": 0.1735, + "num_input_tokens_seen": 15888392, + "step": 8107 + }, + { + "epoch": 1.074618952948973, + "grad_norm": 0.06675010919570923, + "learning_rate": 3.5791881199742295e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15890144, + "step": 8108 + }, + { + "epoch": 1.074751491053678, + "grad_norm": 5.444103240966797, + "learning_rate": 3.5788749816196316e-06, + "loss": 0.1699, + "num_input_tokens_seen": 15892288, + "step": 8109 + }, + { + "epoch": 1.074884029158383, + "grad_norm": 11.893511772155762, + "learning_rate": 3.5785618224635787e-06, + "loss": 0.0667, + "num_input_tokens_seen": 15893912, + "step": 8110 + }, + { + "epoch": 1.0750165672630883, + "grad_norm": 8.7160005569458, + "learning_rate": 3.5782486425121097e-06, + "loss": 0.1929, + "num_input_tokens_seen": 15896080, + "step": 8111 + }, + { + "epoch": 1.0751491053677933, + "grad_norm": 8.394972801208496, + "learning_rate": 3.5779354417712635e-06, + "loss": 0.1596, + "num_input_tokens_seen": 15898248, + "step": 8112 + }, + { + "epoch": 1.0752816434724983, + "grad_norm": 1.3126581907272339, + "learning_rate": 3.5776222202470782e-06, + "loss": 0.0032, + "num_input_tokens_seen": 15901040, + "step": 8113 + }, + { + "epoch": 1.0754141815772034, + "grad_norm": 7.538087368011475, + "learning_rate": 3.577308977945593e-06, + "loss": 0.1423, + "num_input_tokens_seen": 15903304, + "step": 8114 + }, + { + "epoch": 1.0755467196819086, + "grad_norm": 0.28379806876182556, + "learning_rate": 3.576995714872848e-06, + "loss": 0.0039, + "num_input_tokens_seen": 15905280, + "step": 8115 + }, + { + "epoch": 1.0756792577866137, + "grad_norm": 0.036194901913404465, + "learning_rate": 3.5766824310348824e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15906592, + "step": 8116 + }, + { + "epoch": 1.0758117958913187, + "grad_norm": 9.973142623901367, + "learning_rate": 3.576369126437736e-06, + "loss": 0.1383, + "num_input_tokens_seen": 15908592, + "step": 8117 + }, + { + "epoch": 1.075944333996024, + "grad_norm": 0.06339427083730698, + "learning_rate": 3.5760558010874515e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15910848, + "step": 8118 + }, + { + "epoch": 1.076076872100729, + "grad_norm": 13.152695655822754, + "learning_rate": 3.5757424549900684e-06, + "loss": 0.4119, + "num_input_tokens_seen": 15912784, + "step": 8119 + }, + { + "epoch": 1.076209410205434, + "grad_norm": 1.4193695783615112, + "learning_rate": 3.575429088151628e-06, + "loss": 0.0279, + "num_input_tokens_seen": 15914432, + "step": 8120 + }, + { + "epoch": 1.076341948310139, + "grad_norm": 7.375639915466309, + "learning_rate": 3.5751157005781733e-06, + "loss": 0.0785, + "num_input_tokens_seen": 15917184, + "step": 8121 + }, + { + "epoch": 1.0764744864148443, + "grad_norm": 10.823859214782715, + "learning_rate": 3.5748022922757464e-06, + "loss": 0.4937, + "num_input_tokens_seen": 15919072, + "step": 8122 + }, + { + "epoch": 1.0766070245195494, + "grad_norm": 1.9543877840042114, + "learning_rate": 3.5744888632503895e-06, + "loss": 0.0392, + "num_input_tokens_seen": 15920616, + "step": 8123 + }, + { + "epoch": 1.0767395626242544, + "grad_norm": 5.766176223754883, + "learning_rate": 3.574175413508146e-06, + "loss": 0.1383, + "num_input_tokens_seen": 15922632, + "step": 8124 + }, + { + "epoch": 1.0768721007289597, + "grad_norm": 3.0857796669006348, + "learning_rate": 3.5738619430550604e-06, + "loss": 0.0551, + "num_input_tokens_seen": 15925224, + "step": 8125 + }, + { + "epoch": 1.0770046388336647, + "grad_norm": 0.8152457475662231, + "learning_rate": 3.5735484518971746e-06, + "loss": 0.0141, + "num_input_tokens_seen": 15927176, + "step": 8126 + }, + { + "epoch": 1.0771371769383697, + "grad_norm": 2.7200238704681396, + "learning_rate": 3.5732349400405352e-06, + "loss": 0.0507, + "num_input_tokens_seen": 15929656, + "step": 8127 + }, + { + "epoch": 1.0772697150430748, + "grad_norm": 5.794968128204346, + "learning_rate": 3.572921407491185e-06, + "loss": 0.1987, + "num_input_tokens_seen": 15931800, + "step": 8128 + }, + { + "epoch": 1.07740225314778, + "grad_norm": 7.812846660614014, + "learning_rate": 3.5726078542551697e-06, + "loss": 0.1798, + "num_input_tokens_seen": 15934648, + "step": 8129 + }, + { + "epoch": 1.077534791252485, + "grad_norm": 6.983575820922852, + "learning_rate": 3.572294280338535e-06, + "loss": 0.2329, + "num_input_tokens_seen": 15936544, + "step": 8130 + }, + { + "epoch": 1.0776673293571901, + "grad_norm": 7.1914753913879395, + "learning_rate": 3.571980685747328e-06, + "loss": 0.1489, + "num_input_tokens_seen": 15938160, + "step": 8131 + }, + { + "epoch": 1.0777998674618954, + "grad_norm": 1.1720621585845947, + "learning_rate": 3.571667070487592e-06, + "loss": 0.0187, + "num_input_tokens_seen": 15940000, + "step": 8132 + }, + { + "epoch": 1.0779324055666004, + "grad_norm": 7.3055195808410645, + "learning_rate": 3.5713534345653768e-06, + "loss": 0.1616, + "num_input_tokens_seen": 15941856, + "step": 8133 + }, + { + "epoch": 1.0780649436713055, + "grad_norm": 1.5841007232666016, + "learning_rate": 3.5710397779867286e-06, + "loss": 0.0049, + "num_input_tokens_seen": 15943352, + "step": 8134 + }, + { + "epoch": 1.0781974817760105, + "grad_norm": 4.9820942878723145, + "learning_rate": 3.570726100757693e-06, + "loss": 0.1462, + "num_input_tokens_seen": 15945064, + "step": 8135 + }, + { + "epoch": 1.0783300198807158, + "grad_norm": 8.949235916137695, + "learning_rate": 3.570412402884321e-06, + "loss": 0.2062, + "num_input_tokens_seen": 15946616, + "step": 8136 + }, + { + "epoch": 1.0784625579854208, + "grad_norm": 0.11764899641275406, + "learning_rate": 3.570098684372659e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15947768, + "step": 8137 + }, + { + "epoch": 1.0785950960901258, + "grad_norm": 11.29038143157959, + "learning_rate": 3.5697849452287565e-06, + "loss": 0.3404, + "num_input_tokens_seen": 15950504, + "step": 8138 + }, + { + "epoch": 1.078727634194831, + "grad_norm": 11.140201568603516, + "learning_rate": 3.5694711854586623e-06, + "loss": 0.2069, + "num_input_tokens_seen": 15952096, + "step": 8139 + }, + { + "epoch": 1.0788601722995361, + "grad_norm": 0.0532853864133358, + "learning_rate": 3.569157405068425e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15953768, + "step": 8140 + }, + { + "epoch": 1.0789927104042412, + "grad_norm": 0.04913414269685745, + "learning_rate": 3.5688436040640956e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15955416, + "step": 8141 + }, + { + "epoch": 1.0791252485089464, + "grad_norm": 6.232329368591309, + "learning_rate": 3.5685297824517253e-06, + "loss": 0.0786, + "num_input_tokens_seen": 15957624, + "step": 8142 + }, + { + "epoch": 1.0792577866136515, + "grad_norm": 2.941006660461426, + "learning_rate": 3.568215940237362e-06, + "loss": 0.057, + "num_input_tokens_seen": 15959456, + "step": 8143 + }, + { + "epoch": 1.0793903247183565, + "grad_norm": 0.049006737768650055, + "learning_rate": 3.567902077427059e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15960432, + "step": 8144 + }, + { + "epoch": 1.0795228628230615, + "grad_norm": 6.584778308868408, + "learning_rate": 3.567588194026868e-06, + "loss": 0.0863, + "num_input_tokens_seen": 15962376, + "step": 8145 + }, + { + "epoch": 1.0796554009277668, + "grad_norm": 3.96089768409729, + "learning_rate": 3.5672742900428394e-06, + "loss": 0.0207, + "num_input_tokens_seen": 15964544, + "step": 8146 + }, + { + "epoch": 1.0797879390324718, + "grad_norm": 10.333329200744629, + "learning_rate": 3.5669603654810262e-06, + "loss": 0.2505, + "num_input_tokens_seen": 15966904, + "step": 8147 + }, + { + "epoch": 1.0799204771371769, + "grad_norm": 4.460213661193848, + "learning_rate": 3.5666464203474814e-06, + "loss": 0.0738, + "num_input_tokens_seen": 15968640, + "step": 8148 + }, + { + "epoch": 1.0800530152418821, + "grad_norm": 8.36618709564209, + "learning_rate": 3.5663324546482574e-06, + "loss": 0.2368, + "num_input_tokens_seen": 15971320, + "step": 8149 + }, + { + "epoch": 1.0801855533465872, + "grad_norm": 4.934171676635742, + "learning_rate": 3.5660184683894085e-06, + "loss": 0.0418, + "num_input_tokens_seen": 15973416, + "step": 8150 + }, + { + "epoch": 1.0803180914512922, + "grad_norm": 10.742892265319824, + "learning_rate": 3.5657044615769874e-06, + "loss": 0.2656, + "num_input_tokens_seen": 15975560, + "step": 8151 + }, + { + "epoch": 1.0804506295559975, + "grad_norm": 0.1110231950879097, + "learning_rate": 3.5653904342170497e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15976832, + "step": 8152 + }, + { + "epoch": 1.0805831676607025, + "grad_norm": 0.21634437143802643, + "learning_rate": 3.5650763863156503e-06, + "loss": 0.0014, + "num_input_tokens_seen": 15978912, + "step": 8153 + }, + { + "epoch": 1.0807157057654075, + "grad_norm": 4.954441547393799, + "learning_rate": 3.564762317878842e-06, + "loss": 0.0684, + "num_input_tokens_seen": 15980856, + "step": 8154 + }, + { + "epoch": 1.0808482438701126, + "grad_norm": 2.1595606803894043, + "learning_rate": 3.564448228912682e-06, + "loss": 0.0185, + "num_input_tokens_seen": 15982376, + "step": 8155 + }, + { + "epoch": 1.0809807819748178, + "grad_norm": 3.8298614025115967, + "learning_rate": 3.564134119423226e-06, + "loss": 0.0246, + "num_input_tokens_seen": 15984160, + "step": 8156 + }, + { + "epoch": 1.0811133200795229, + "grad_norm": 6.214467525482178, + "learning_rate": 3.56381998941653e-06, + "loss": 0.1867, + "num_input_tokens_seen": 15986176, + "step": 8157 + }, + { + "epoch": 1.081245858184228, + "grad_norm": 9.021778106689453, + "learning_rate": 3.5635058388986508e-06, + "loss": 0.04, + "num_input_tokens_seen": 15987672, + "step": 8158 + }, + { + "epoch": 1.0813783962889332, + "grad_norm": 11.224575996398926, + "learning_rate": 3.5631916678756453e-06, + "loss": 0.135, + "num_input_tokens_seen": 15990824, + "step": 8159 + }, + { + "epoch": 1.0815109343936382, + "grad_norm": 0.042119693011045456, + "learning_rate": 3.5628774763535713e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15992128, + "step": 8160 + }, + { + "epoch": 1.0816434724983433, + "grad_norm": 0.1152798980474472, + "learning_rate": 3.5625632643384855e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15993888, + "step": 8161 + }, + { + "epoch": 1.0817760106030483, + "grad_norm": 5.699147701263428, + "learning_rate": 3.5622490318364476e-06, + "loss": 0.145, + "num_input_tokens_seen": 15996088, + "step": 8162 + }, + { + "epoch": 1.0819085487077535, + "grad_norm": 8.137140274047852, + "learning_rate": 3.561934778853515e-06, + "loss": 0.1752, + "num_input_tokens_seen": 15997904, + "step": 8163 + }, + { + "epoch": 1.0820410868124586, + "grad_norm": 0.05584509298205376, + "learning_rate": 3.5616205053957474e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15999824, + "step": 8164 + }, + { + "epoch": 1.0821736249171636, + "grad_norm": 0.4254057705402374, + "learning_rate": 3.561306211469205e-06, + "loss": 0.0025, + "num_input_tokens_seen": 16002496, + "step": 8165 + }, + { + "epoch": 1.0823061630218689, + "grad_norm": 0.2343982309103012, + "learning_rate": 3.5609918970799464e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16004448, + "step": 8166 + }, + { + "epoch": 1.082438701126574, + "grad_norm": 4.10145378112793, + "learning_rate": 3.5606775622340307e-06, + "loss": 0.0292, + "num_input_tokens_seen": 16006984, + "step": 8167 + }, + { + "epoch": 1.082571239231279, + "grad_norm": 0.07509990781545639, + "learning_rate": 3.5603632069375215e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16008464, + "step": 8168 + }, + { + "epoch": 1.082703777335984, + "grad_norm": 15.488178253173828, + "learning_rate": 3.5600488311964778e-06, + "loss": 0.38, + "num_input_tokens_seen": 16010672, + "step": 8169 + }, + { + "epoch": 1.0828363154406893, + "grad_norm": 0.6473097801208496, + "learning_rate": 3.5597344350169606e-06, + "loss": 0.0061, + "num_input_tokens_seen": 16012088, + "step": 8170 + }, + { + "epoch": 1.0829688535453943, + "grad_norm": 9.896974563598633, + "learning_rate": 3.559420018405033e-06, + "loss": 0.2312, + "num_input_tokens_seen": 16015128, + "step": 8171 + }, + { + "epoch": 1.0831013916500993, + "grad_norm": 11.054922103881836, + "learning_rate": 3.559105581366756e-06, + "loss": 0.2444, + "num_input_tokens_seen": 16017160, + "step": 8172 + }, + { + "epoch": 1.0832339297548046, + "grad_norm": 1.8386130332946777, + "learning_rate": 3.5587911239081936e-06, + "loss": 0.0254, + "num_input_tokens_seen": 16018464, + "step": 8173 + }, + { + "epoch": 1.0833664678595096, + "grad_norm": 0.040409430861473083, + "learning_rate": 3.5584766460354073e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16019544, + "step": 8174 + }, + { + "epoch": 1.0834990059642147, + "grad_norm": 5.590936183929443, + "learning_rate": 3.558162147754462e-06, + "loss": 0.2231, + "num_input_tokens_seen": 16022496, + "step": 8175 + }, + { + "epoch": 1.0836315440689197, + "grad_norm": 0.08457775413990021, + "learning_rate": 3.557847629071419e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16023560, + "step": 8176 + }, + { + "epoch": 1.083764082173625, + "grad_norm": 6.011713981628418, + "learning_rate": 3.5575330899923456e-06, + "loss": 0.1792, + "num_input_tokens_seen": 16024904, + "step": 8177 + }, + { + "epoch": 1.08389662027833, + "grad_norm": 0.1273772418498993, + "learning_rate": 3.557218530523304e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16026408, + "step": 8178 + }, + { + "epoch": 1.084029158383035, + "grad_norm": 0.2513926923274994, + "learning_rate": 3.5569039506703583e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16027736, + "step": 8179 + }, + { + "epoch": 1.0841616964877403, + "grad_norm": 2.227747917175293, + "learning_rate": 3.5565893504395776e-06, + "loss": 0.017, + "num_input_tokens_seen": 16029384, + "step": 8180 + }, + { + "epoch": 1.0842942345924453, + "grad_norm": 11.231149673461914, + "learning_rate": 3.5562747298370247e-06, + "loss": 0.0915, + "num_input_tokens_seen": 16031272, + "step": 8181 + }, + { + "epoch": 1.0844267726971504, + "grad_norm": 5.937643051147461, + "learning_rate": 3.5559600888687653e-06, + "loss": 0.1258, + "num_input_tokens_seen": 16032912, + "step": 8182 + }, + { + "epoch": 1.0845593108018556, + "grad_norm": 6.154516220092773, + "learning_rate": 3.5556454275408683e-06, + "loss": 0.096, + "num_input_tokens_seen": 16035176, + "step": 8183 + }, + { + "epoch": 1.0846918489065607, + "grad_norm": 0.14566108584403992, + "learning_rate": 3.5553307458593985e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16036544, + "step": 8184 + }, + { + "epoch": 1.0848243870112657, + "grad_norm": 3.7918355464935303, + "learning_rate": 3.555016043830423e-06, + "loss": 0.116, + "num_input_tokens_seen": 16038952, + "step": 8185 + }, + { + "epoch": 1.0849569251159707, + "grad_norm": 0.853606104850769, + "learning_rate": 3.554701321460012e-06, + "loss": 0.0053, + "num_input_tokens_seen": 16040448, + "step": 8186 + }, + { + "epoch": 1.085089463220676, + "grad_norm": 1.653964877128601, + "learning_rate": 3.5543865787542308e-06, + "loss": 0.0193, + "num_input_tokens_seen": 16042320, + "step": 8187 + }, + { + "epoch": 1.085222001325381, + "grad_norm": 15.24460220336914, + "learning_rate": 3.554071815719149e-06, + "loss": 0.1534, + "num_input_tokens_seen": 16044096, + "step": 8188 + }, + { + "epoch": 1.085354539430086, + "grad_norm": 5.259398460388184, + "learning_rate": 3.553757032360836e-06, + "loss": 0.0402, + "num_input_tokens_seen": 16046064, + "step": 8189 + }, + { + "epoch": 1.0854870775347913, + "grad_norm": 0.33785828948020935, + "learning_rate": 3.55344222868536e-06, + "loss": 0.0024, + "num_input_tokens_seen": 16047432, + "step": 8190 + }, + { + "epoch": 1.0856196156394964, + "grad_norm": 0.049030616879463196, + "learning_rate": 3.553127404698792e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16048880, + "step": 8191 + }, + { + "epoch": 1.0857521537442014, + "grad_norm": 0.11163589358329773, + "learning_rate": 3.5528125604072e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16051056, + "step": 8192 + }, + { + "epoch": 1.0858846918489065, + "grad_norm": 0.04698791354894638, + "learning_rate": 3.5524976958166563e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16052200, + "step": 8193 + }, + { + "epoch": 1.0860172299536117, + "grad_norm": 2.4435131549835205, + "learning_rate": 3.55218281093323e-06, + "loss": 0.0255, + "num_input_tokens_seen": 16053704, + "step": 8194 + }, + { + "epoch": 1.0861497680583168, + "grad_norm": 1.1539897918701172, + "learning_rate": 3.551867905762994e-06, + "loss": 0.0136, + "num_input_tokens_seen": 16055592, + "step": 8195 + }, + { + "epoch": 1.0862823061630218, + "grad_norm": 10.937845230102539, + "learning_rate": 3.5515529803120195e-06, + "loss": 0.0967, + "num_input_tokens_seen": 16057584, + "step": 8196 + }, + { + "epoch": 1.086414844267727, + "grad_norm": 0.058928750455379486, + "learning_rate": 3.5512380345863773e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16059104, + "step": 8197 + }, + { + "epoch": 1.086547382372432, + "grad_norm": 2.5197365283966064, + "learning_rate": 3.550923068592141e-06, + "loss": 0.0428, + "num_input_tokens_seen": 16060224, + "step": 8198 + }, + { + "epoch": 1.0866799204771371, + "grad_norm": 8.676409721374512, + "learning_rate": 3.5506080823353834e-06, + "loss": 0.1122, + "num_input_tokens_seen": 16061776, + "step": 8199 + }, + { + "epoch": 1.0868124585818424, + "grad_norm": 0.09996600449085236, + "learning_rate": 3.5502930758221756e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16062992, + "step": 8200 + }, + { + "epoch": 1.0869449966865474, + "grad_norm": 0.052888184785842896, + "learning_rate": 3.5499780490585946e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16064352, + "step": 8201 + }, + { + "epoch": 1.0870775347912525, + "grad_norm": 1.610395073890686, + "learning_rate": 3.549663002050711e-06, + "loss": 0.0141, + "num_input_tokens_seen": 16066832, + "step": 8202 + }, + { + "epoch": 1.0872100728959575, + "grad_norm": 4.254324913024902, + "learning_rate": 3.5493479348046013e-06, + "loss": 0.1132, + "num_input_tokens_seen": 16068752, + "step": 8203 + }, + { + "epoch": 1.0873426110006628, + "grad_norm": 8.843944549560547, + "learning_rate": 3.54903284732634e-06, + "loss": 0.2142, + "num_input_tokens_seen": 16070552, + "step": 8204 + }, + { + "epoch": 1.0874751491053678, + "grad_norm": 18.701635360717773, + "learning_rate": 3.5487177396220005e-06, + "loss": 0.4981, + "num_input_tokens_seen": 16073208, + "step": 8205 + }, + { + "epoch": 1.0876076872100728, + "grad_norm": 5.607776165008545, + "learning_rate": 3.5484026116976604e-06, + "loss": 0.0783, + "num_input_tokens_seen": 16074728, + "step": 8206 + }, + { + "epoch": 1.087740225314778, + "grad_norm": 3.237525463104248, + "learning_rate": 3.548087463559395e-06, + "loss": 0.0489, + "num_input_tokens_seen": 16076472, + "step": 8207 + }, + { + "epoch": 1.0878727634194831, + "grad_norm": 9.666227340698242, + "learning_rate": 3.5477722952132792e-06, + "loss": 0.25, + "num_input_tokens_seen": 16078312, + "step": 8208 + }, + { + "epoch": 1.0880053015241882, + "grad_norm": 0.1694585084915161, + "learning_rate": 3.5474571066653914e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16079808, + "step": 8209 + }, + { + "epoch": 1.0881378396288932, + "grad_norm": 0.09490477293729782, + "learning_rate": 3.547141897921808e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16081360, + "step": 8210 + }, + { + "epoch": 1.0882703777335985, + "grad_norm": 6.817934036254883, + "learning_rate": 3.546826668988606e-06, + "loss": 0.0327, + "num_input_tokens_seen": 16083088, + "step": 8211 + }, + { + "epoch": 1.0884029158383035, + "grad_norm": 0.13362659513950348, + "learning_rate": 3.546511419871864e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16085696, + "step": 8212 + }, + { + "epoch": 1.0885354539430085, + "grad_norm": 11.052128791809082, + "learning_rate": 3.5461961505776598e-06, + "loss": 0.3462, + "num_input_tokens_seen": 16087800, + "step": 8213 + }, + { + "epoch": 1.0886679920477138, + "grad_norm": 8.090506553649902, + "learning_rate": 3.5458808611120715e-06, + "loss": 0.1688, + "num_input_tokens_seen": 16089960, + "step": 8214 + }, + { + "epoch": 1.0888005301524188, + "grad_norm": 0.11798691004514694, + "learning_rate": 3.54556555148118e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16092680, + "step": 8215 + }, + { + "epoch": 1.0889330682571239, + "grad_norm": 5.873249530792236, + "learning_rate": 3.5452502216910623e-06, + "loss": 0.0934, + "num_input_tokens_seen": 16094648, + "step": 8216 + }, + { + "epoch": 1.089065606361829, + "grad_norm": 0.47509628534317017, + "learning_rate": 3.5449348717477993e-06, + "loss": 0.0033, + "num_input_tokens_seen": 16096064, + "step": 8217 + }, + { + "epoch": 1.0891981444665342, + "grad_norm": 10.27983570098877, + "learning_rate": 3.5446195016574714e-06, + "loss": 0.2465, + "num_input_tokens_seen": 16099016, + "step": 8218 + }, + { + "epoch": 1.0893306825712392, + "grad_norm": 0.7238097786903381, + "learning_rate": 3.544304111426159e-06, + "loss": 0.005, + "num_input_tokens_seen": 16101480, + "step": 8219 + }, + { + "epoch": 1.0894632206759443, + "grad_norm": 0.3214225471019745, + "learning_rate": 3.5439887010599427e-06, + "loss": 0.0022, + "num_input_tokens_seen": 16103272, + "step": 8220 + }, + { + "epoch": 1.0895957587806495, + "grad_norm": 7.985569477081299, + "learning_rate": 3.543673270564904e-06, + "loss": 0.0627, + "num_input_tokens_seen": 16104576, + "step": 8221 + }, + { + "epoch": 1.0897282968853546, + "grad_norm": 4.76102876663208, + "learning_rate": 3.5433578199471254e-06, + "loss": 0.1557, + "num_input_tokens_seen": 16106936, + "step": 8222 + }, + { + "epoch": 1.0898608349900596, + "grad_norm": 2.316457509994507, + "learning_rate": 3.543042349212687e-06, + "loss": 0.0096, + "num_input_tokens_seen": 16108120, + "step": 8223 + }, + { + "epoch": 1.0899933730947646, + "grad_norm": 6.312108516693115, + "learning_rate": 3.542726858367673e-06, + "loss": 0.0819, + "num_input_tokens_seen": 16109664, + "step": 8224 + }, + { + "epoch": 1.0901259111994699, + "grad_norm": 1.4967623949050903, + "learning_rate": 3.5424113474181665e-06, + "loss": 0.0174, + "num_input_tokens_seen": 16111752, + "step": 8225 + }, + { + "epoch": 1.090258449304175, + "grad_norm": 0.6069185733795166, + "learning_rate": 3.542095816370249e-06, + "loss": 0.0035, + "num_input_tokens_seen": 16113936, + "step": 8226 + }, + { + "epoch": 1.09039098740888, + "grad_norm": 5.663053035736084, + "learning_rate": 3.541780265230006e-06, + "loss": 0.1568, + "num_input_tokens_seen": 16116304, + "step": 8227 + }, + { + "epoch": 1.0905235255135852, + "grad_norm": 1.1117454767227173, + "learning_rate": 3.5414646940035206e-06, + "loss": 0.0093, + "num_input_tokens_seen": 16117656, + "step": 8228 + }, + { + "epoch": 1.0906560636182903, + "grad_norm": 11.32906436920166, + "learning_rate": 3.5411491026968768e-06, + "loss": 0.521, + "num_input_tokens_seen": 16121344, + "step": 8229 + }, + { + "epoch": 1.0907886017229953, + "grad_norm": 1.6885398626327515, + "learning_rate": 3.540833491316161e-06, + "loss": 0.0139, + "num_input_tokens_seen": 16123056, + "step": 8230 + }, + { + "epoch": 1.0909211398277006, + "grad_norm": 0.07304983586072922, + "learning_rate": 3.5405178598674574e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16125568, + "step": 8231 + }, + { + "epoch": 1.0910536779324056, + "grad_norm": 8.944059371948242, + "learning_rate": 3.540202208356851e-06, + "loss": 0.1175, + "num_input_tokens_seen": 16127856, + "step": 8232 + }, + { + "epoch": 1.0911862160371106, + "grad_norm": 0.015177439898252487, + "learning_rate": 3.5398865367904288e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16128880, + "step": 8233 + }, + { + "epoch": 1.0913187541418157, + "grad_norm": 0.01764591410756111, + "learning_rate": 3.539570845174277e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16130376, + "step": 8234 + }, + { + "epoch": 1.091451292246521, + "grad_norm": 1.2147263288497925, + "learning_rate": 3.5392551335144822e-06, + "loss": 0.0076, + "num_input_tokens_seen": 16132784, + "step": 8235 + }, + { + "epoch": 1.091583830351226, + "grad_norm": 6.77931022644043, + "learning_rate": 3.5389394018171308e-06, + "loss": 0.1096, + "num_input_tokens_seen": 16134688, + "step": 8236 + }, + { + "epoch": 1.091716368455931, + "grad_norm": 0.014793340116739273, + "learning_rate": 3.538623650088312e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16135752, + "step": 8237 + }, + { + "epoch": 1.0918489065606363, + "grad_norm": 2.4918525218963623, + "learning_rate": 3.5383078783341118e-06, + "loss": 0.051, + "num_input_tokens_seen": 16138432, + "step": 8238 + }, + { + "epoch": 1.0919814446653413, + "grad_norm": 4.628347396850586, + "learning_rate": 3.53799208656062e-06, + "loss": 0.0759, + "num_input_tokens_seen": 16140408, + "step": 8239 + }, + { + "epoch": 1.0921139827700463, + "grad_norm": 0.2055290788412094, + "learning_rate": 3.5376762747739244e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16141896, + "step": 8240 + }, + { + "epoch": 1.0922465208747516, + "grad_norm": 9.050737380981445, + "learning_rate": 3.5373604429801146e-06, + "loss": 0.1521, + "num_input_tokens_seen": 16144272, + "step": 8241 + }, + { + "epoch": 1.0923790589794566, + "grad_norm": 0.31272488832473755, + "learning_rate": 3.537044591185279e-06, + "loss": 0.001, + "num_input_tokens_seen": 16145920, + "step": 8242 + }, + { + "epoch": 1.0925115970841617, + "grad_norm": 4.944389820098877, + "learning_rate": 3.536728719395509e-06, + "loss": 0.1488, + "num_input_tokens_seen": 16147392, + "step": 8243 + }, + { + "epoch": 1.0926441351888667, + "grad_norm": 0.00924631766974926, + "learning_rate": 3.5364128276168943e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16149376, + "step": 8244 + }, + { + "epoch": 1.092776673293572, + "grad_norm": 7.475938320159912, + "learning_rate": 3.5360969158555247e-06, + "loss": 0.1904, + "num_input_tokens_seen": 16151280, + "step": 8245 + }, + { + "epoch": 1.092909211398277, + "grad_norm": 0.08372288942337036, + "learning_rate": 3.535780984117493e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16153240, + "step": 8246 + }, + { + "epoch": 1.093041749502982, + "grad_norm": 0.40021905303001404, + "learning_rate": 3.5354650324088874e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16155856, + "step": 8247 + }, + { + "epoch": 1.0931742876076873, + "grad_norm": 0.009994975291192532, + "learning_rate": 3.535149060735803e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16158192, + "step": 8248 + }, + { + "epoch": 1.0933068257123923, + "grad_norm": 6.496945381164551, + "learning_rate": 3.5348330691043303e-06, + "loss": 0.1516, + "num_input_tokens_seen": 16159760, + "step": 8249 + }, + { + "epoch": 1.0934393638170974, + "grad_norm": 0.004689021036028862, + "learning_rate": 3.5345170575205616e-06, + "loss": 0.0, + "num_input_tokens_seen": 16160992, + "step": 8250 + }, + { + "epoch": 1.0935719019218024, + "grad_norm": 0.012878828682005405, + "learning_rate": 3.5342010259905913e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16162680, + "step": 8251 + }, + { + "epoch": 1.0937044400265077, + "grad_norm": 0.017912013456225395, + "learning_rate": 3.5338849745205116e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16164376, + "step": 8252 + }, + { + "epoch": 1.0938369781312127, + "grad_norm": 0.024705074727535248, + "learning_rate": 3.5335689031164157e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16165576, + "step": 8253 + }, + { + "epoch": 1.0939695162359178, + "grad_norm": 8.418940544128418, + "learning_rate": 3.533252811784399e-06, + "loss": 0.0689, + "num_input_tokens_seen": 16167008, + "step": 8254 + }, + { + "epoch": 1.094102054340623, + "grad_norm": 2.623546838760376, + "learning_rate": 3.532936700530555e-06, + "loss": 0.0169, + "num_input_tokens_seen": 16168376, + "step": 8255 + }, + { + "epoch": 1.094234592445328, + "grad_norm": 12.64990520477295, + "learning_rate": 3.532620569360979e-06, + "loss": 0.3545, + "num_input_tokens_seen": 16169728, + "step": 8256 + }, + { + "epoch": 1.094367130550033, + "grad_norm": 0.006974699441343546, + "learning_rate": 3.5323044182817657e-06, + "loss": 0.0, + "num_input_tokens_seen": 16171224, + "step": 8257 + }, + { + "epoch": 1.0944996686547381, + "grad_norm": 0.28953295946121216, + "learning_rate": 3.531988247299011e-06, + "loss": 0.0019, + "num_input_tokens_seen": 16173008, + "step": 8258 + }, + { + "epoch": 1.0946322067594434, + "grad_norm": 0.00885310210287571, + "learning_rate": 3.531672056418811e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16175528, + "step": 8259 + }, + { + "epoch": 1.0947647448641484, + "grad_norm": 15.129582405090332, + "learning_rate": 3.5313558456472623e-06, + "loss": 0.0934, + "num_input_tokens_seen": 16177704, + "step": 8260 + }, + { + "epoch": 1.0948972829688535, + "grad_norm": 16.722957611083984, + "learning_rate": 3.531039614990462e-06, + "loss": 0.4819, + "num_input_tokens_seen": 16180488, + "step": 8261 + }, + { + "epoch": 1.0950298210735587, + "grad_norm": 0.0044142683036625385, + "learning_rate": 3.530723364454505e-06, + "loss": 0.0, + "num_input_tokens_seen": 16181728, + "step": 8262 + }, + { + "epoch": 1.0951623591782638, + "grad_norm": 4.102495193481445, + "learning_rate": 3.5304070940454922e-06, + "loss": 0.1115, + "num_input_tokens_seen": 16183368, + "step": 8263 + }, + { + "epoch": 1.0952948972829688, + "grad_norm": 9.280797004699707, + "learning_rate": 3.5300908037695193e-06, + "loss": 0.0819, + "num_input_tokens_seen": 16186592, + "step": 8264 + }, + { + "epoch": 1.0954274353876738, + "grad_norm": 15.228312492370605, + "learning_rate": 3.5297744936326842e-06, + "loss": 0.1209, + "num_input_tokens_seen": 16188424, + "step": 8265 + }, + { + "epoch": 1.095559973492379, + "grad_norm": 0.009741786867380142, + "learning_rate": 3.5294581636410873e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16189904, + "step": 8266 + }, + { + "epoch": 1.0956925115970841, + "grad_norm": 3.496364116668701, + "learning_rate": 3.5291418138008266e-06, + "loss": 0.1001, + "num_input_tokens_seen": 16191440, + "step": 8267 + }, + { + "epoch": 1.0958250497017892, + "grad_norm": 8.591773986816406, + "learning_rate": 3.5288254441180014e-06, + "loss": 0.2504, + "num_input_tokens_seen": 16194280, + "step": 8268 + }, + { + "epoch": 1.0959575878064944, + "grad_norm": 0.195570170879364, + "learning_rate": 3.528509054598713e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16196424, + "step": 8269 + }, + { + "epoch": 1.0960901259111995, + "grad_norm": 0.03169688209891319, + "learning_rate": 3.5281926452490593e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16198816, + "step": 8270 + }, + { + "epoch": 1.0962226640159045, + "grad_norm": 0.022248223423957825, + "learning_rate": 3.5278762160751427e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16200040, + "step": 8271 + }, + { + "epoch": 1.0963552021206098, + "grad_norm": 0.07524771243333817, + "learning_rate": 3.5275597670830636e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16201832, + "step": 8272 + }, + { + "epoch": 1.0964877402253148, + "grad_norm": 28.33182716369629, + "learning_rate": 3.527243298278923e-06, + "loss": 0.0846, + "num_input_tokens_seen": 16204240, + "step": 8273 + }, + { + "epoch": 1.0966202783300198, + "grad_norm": 2.217759132385254, + "learning_rate": 3.526926809668823e-06, + "loss": 0.0236, + "num_input_tokens_seen": 16206720, + "step": 8274 + }, + { + "epoch": 1.0967528164347249, + "grad_norm": 11.358010292053223, + "learning_rate": 3.526610301258866e-06, + "loss": 0.3215, + "num_input_tokens_seen": 16208760, + "step": 8275 + }, + { + "epoch": 1.0968853545394301, + "grad_norm": 0.03283505514264107, + "learning_rate": 3.526293773055154e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16211024, + "step": 8276 + }, + { + "epoch": 1.0970178926441352, + "grad_norm": 0.012253843247890472, + "learning_rate": 3.5259772250637897e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16212528, + "step": 8277 + }, + { + "epoch": 1.0971504307488402, + "grad_norm": 0.20125627517700195, + "learning_rate": 3.525660657290877e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16213928, + "step": 8278 + }, + { + "epoch": 1.0972829688535455, + "grad_norm": 0.13756966590881348, + "learning_rate": 3.5253440697425197e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16216928, + "step": 8279 + }, + { + "epoch": 1.0974155069582505, + "grad_norm": 8.94886302947998, + "learning_rate": 3.5250274624248205e-06, + "loss": 0.2819, + "num_input_tokens_seen": 16219200, + "step": 8280 + }, + { + "epoch": 1.0975480450629556, + "grad_norm": 18.615583419799805, + "learning_rate": 3.524710835343885e-06, + "loss": 0.1888, + "num_input_tokens_seen": 16221584, + "step": 8281 + }, + { + "epoch": 1.0976805831676608, + "grad_norm": 3.2483725547790527, + "learning_rate": 3.5243941885058173e-06, + "loss": 0.052, + "num_input_tokens_seen": 16223296, + "step": 8282 + }, + { + "epoch": 1.0978131212723659, + "grad_norm": 5.578486919403076, + "learning_rate": 3.5240775219167234e-06, + "loss": 0.1013, + "num_input_tokens_seen": 16224968, + "step": 8283 + }, + { + "epoch": 1.097945659377071, + "grad_norm": 0.1545022428035736, + "learning_rate": 3.523760835582709e-06, + "loss": 0.001, + "num_input_tokens_seen": 16226456, + "step": 8284 + }, + { + "epoch": 1.098078197481776, + "grad_norm": 3.727581739425659, + "learning_rate": 3.5234441295098786e-06, + "loss": 0.0175, + "num_input_tokens_seen": 16227736, + "step": 8285 + }, + { + "epoch": 1.0982107355864812, + "grad_norm": 15.797917366027832, + "learning_rate": 3.5231274037043394e-06, + "loss": 0.1476, + "num_input_tokens_seen": 16229800, + "step": 8286 + }, + { + "epoch": 1.0983432736911862, + "grad_norm": 1.437326192855835, + "learning_rate": 3.5228106581721987e-06, + "loss": 0.022, + "num_input_tokens_seen": 16231696, + "step": 8287 + }, + { + "epoch": 1.0984758117958913, + "grad_norm": 0.46936115622520447, + "learning_rate": 3.5224938929195623e-06, + "loss": 0.0041, + "num_input_tokens_seen": 16234256, + "step": 8288 + }, + { + "epoch": 1.0986083499005965, + "grad_norm": 6.105960845947266, + "learning_rate": 3.5221771079525385e-06, + "loss": 0.1333, + "num_input_tokens_seen": 16236560, + "step": 8289 + }, + { + "epoch": 1.0987408880053016, + "grad_norm": 5.267346382141113, + "learning_rate": 3.5218603032772354e-06, + "loss": 0.1177, + "num_input_tokens_seen": 16238912, + "step": 8290 + }, + { + "epoch": 1.0988734261100066, + "grad_norm": 9.997039794921875, + "learning_rate": 3.52154347889976e-06, + "loss": 0.1596, + "num_input_tokens_seen": 16241088, + "step": 8291 + }, + { + "epoch": 1.0990059642147116, + "grad_norm": 0.09027338027954102, + "learning_rate": 3.5212266348262215e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16242912, + "step": 8292 + }, + { + "epoch": 1.099138502319417, + "grad_norm": 11.439615249633789, + "learning_rate": 3.5209097710627287e-06, + "loss": 0.2605, + "num_input_tokens_seen": 16245328, + "step": 8293 + }, + { + "epoch": 1.099271040424122, + "grad_norm": 10.554126739501953, + "learning_rate": 3.520592887615392e-06, + "loss": 0.2899, + "num_input_tokens_seen": 16247576, + "step": 8294 + }, + { + "epoch": 1.099403578528827, + "grad_norm": 18.85726547241211, + "learning_rate": 3.52027598449032e-06, + "loss": 0.3745, + "num_input_tokens_seen": 16249160, + "step": 8295 + }, + { + "epoch": 1.0995361166335322, + "grad_norm": 0.021806567907333374, + "learning_rate": 3.5199590616936236e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16251048, + "step": 8296 + }, + { + "epoch": 1.0996686547382373, + "grad_norm": 1.52481210231781, + "learning_rate": 3.519642119231412e-06, + "loss": 0.014, + "num_input_tokens_seen": 16252856, + "step": 8297 + }, + { + "epoch": 1.0998011928429423, + "grad_norm": 0.029399951919913292, + "learning_rate": 3.519325157109798e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16255128, + "step": 8298 + }, + { + "epoch": 1.0999337309476473, + "grad_norm": 4.998563766479492, + "learning_rate": 3.5190081753348908e-06, + "loss": 0.0931, + "num_input_tokens_seen": 16258136, + "step": 8299 + }, + { + "epoch": 1.1000662690523526, + "grad_norm": 0.5044589042663574, + "learning_rate": 3.5186911739128037e-06, + "loss": 0.0028, + "num_input_tokens_seen": 16260800, + "step": 8300 + }, + { + "epoch": 1.1001988071570576, + "grad_norm": 0.060424428433179855, + "learning_rate": 3.518374152849647e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16263352, + "step": 8301 + }, + { + "epoch": 1.1003313452617627, + "grad_norm": 6.916269302368164, + "learning_rate": 3.5180571121515356e-06, + "loss": 0.1468, + "num_input_tokens_seen": 16265600, + "step": 8302 + }, + { + "epoch": 1.100463883366468, + "grad_norm": 5.286959648132324, + "learning_rate": 3.5177400518245797e-06, + "loss": 0.0845, + "num_input_tokens_seen": 16267112, + "step": 8303 + }, + { + "epoch": 1.100596421471173, + "grad_norm": 19.800045013427734, + "learning_rate": 3.5174229718748935e-06, + "loss": 0.6038, + "num_input_tokens_seen": 16269600, + "step": 8304 + }, + { + "epoch": 1.100728959575878, + "grad_norm": 8.920562744140625, + "learning_rate": 3.5171058723085918e-06, + "loss": 0.1026, + "num_input_tokens_seen": 16272136, + "step": 8305 + }, + { + "epoch": 1.100861497680583, + "grad_norm": 0.0033870558254420757, + "learning_rate": 3.5167887531317857e-06, + "loss": 0.0, + "num_input_tokens_seen": 16273960, + "step": 8306 + }, + { + "epoch": 1.1009940357852883, + "grad_norm": 2.870105504989624, + "learning_rate": 3.516471614350592e-06, + "loss": 0.0398, + "num_input_tokens_seen": 16275360, + "step": 8307 + }, + { + "epoch": 1.1011265738899934, + "grad_norm": 9.500845909118652, + "learning_rate": 3.5161544559711237e-06, + "loss": 0.3368, + "num_input_tokens_seen": 16277048, + "step": 8308 + }, + { + "epoch": 1.1012591119946984, + "grad_norm": 15.229972839355469, + "learning_rate": 3.515837277999496e-06, + "loss": 0.2557, + "num_input_tokens_seen": 16279056, + "step": 8309 + }, + { + "epoch": 1.1013916500994037, + "grad_norm": 8.924276351928711, + "learning_rate": 3.5155200804418256e-06, + "loss": 0.1926, + "num_input_tokens_seen": 16281328, + "step": 8310 + }, + { + "epoch": 1.1015241882041087, + "grad_norm": 0.02541017159819603, + "learning_rate": 3.5152028633042277e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16282888, + "step": 8311 + }, + { + "epoch": 1.1016567263088137, + "grad_norm": 0.27714741230010986, + "learning_rate": 3.5148856265928174e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16285416, + "step": 8312 + }, + { + "epoch": 1.101789264413519, + "grad_norm": 7.060849189758301, + "learning_rate": 3.5145683703137122e-06, + "loss": 0.1501, + "num_input_tokens_seen": 16286672, + "step": 8313 + }, + { + "epoch": 1.101921802518224, + "grad_norm": 5.63136100769043, + "learning_rate": 3.5142510944730296e-06, + "loss": 0.0717, + "num_input_tokens_seen": 16289168, + "step": 8314 + }, + { + "epoch": 1.102054340622929, + "grad_norm": 5.149138450622559, + "learning_rate": 3.513933799076886e-06, + "loss": 0.0589, + "num_input_tokens_seen": 16290784, + "step": 8315 + }, + { + "epoch": 1.102186878727634, + "grad_norm": 1.0878469944000244, + "learning_rate": 3.513616484131399e-06, + "loss": 0.0071, + "num_input_tokens_seen": 16292960, + "step": 8316 + }, + { + "epoch": 1.1023194168323394, + "grad_norm": 9.899919509887695, + "learning_rate": 3.513299149642687e-06, + "loss": 0.1153, + "num_input_tokens_seen": 16295424, + "step": 8317 + }, + { + "epoch": 1.1024519549370444, + "grad_norm": 1.6255052089691162, + "learning_rate": 3.512981795616868e-06, + "loss": 0.0148, + "num_input_tokens_seen": 16297008, + "step": 8318 + }, + { + "epoch": 1.1025844930417494, + "grad_norm": 10.011774063110352, + "learning_rate": 3.5126644220600616e-06, + "loss": 0.0705, + "num_input_tokens_seen": 16298104, + "step": 8319 + }, + { + "epoch": 1.1027170311464547, + "grad_norm": 4.621273040771484, + "learning_rate": 3.5123470289783867e-06, + "loss": 0.0452, + "num_input_tokens_seen": 16299624, + "step": 8320 + }, + { + "epoch": 1.1028495692511597, + "grad_norm": 18.461647033691406, + "learning_rate": 3.512029616377963e-06, + "loss": 0.4036, + "num_input_tokens_seen": 16301496, + "step": 8321 + }, + { + "epoch": 1.1029821073558648, + "grad_norm": 6.921319007873535, + "learning_rate": 3.5117121842649095e-06, + "loss": 0.1659, + "num_input_tokens_seen": 16304088, + "step": 8322 + }, + { + "epoch": 1.10311464546057, + "grad_norm": 0.08320663124322891, + "learning_rate": 3.5113947326453475e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16305952, + "step": 8323 + }, + { + "epoch": 1.103247183565275, + "grad_norm": 14.583900451660156, + "learning_rate": 3.511077261525397e-06, + "loss": 0.2031, + "num_input_tokens_seen": 16307952, + "step": 8324 + }, + { + "epoch": 1.10337972166998, + "grad_norm": 0.207341268658638, + "learning_rate": 3.510759770911179e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16309304, + "step": 8325 + }, + { + "epoch": 1.1035122597746851, + "grad_norm": 0.32227155566215515, + "learning_rate": 3.5104422608088164e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16310800, + "step": 8326 + }, + { + "epoch": 1.1036447978793904, + "grad_norm": 0.743057131767273, + "learning_rate": 3.5101247312244287e-06, + "loss": 0.007, + "num_input_tokens_seen": 16312696, + "step": 8327 + }, + { + "epoch": 1.1037773359840954, + "grad_norm": 0.021749364212155342, + "learning_rate": 3.50980718216414e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16315160, + "step": 8328 + }, + { + "epoch": 1.1039098740888005, + "grad_norm": 2.9811768531799316, + "learning_rate": 3.5094896136340727e-06, + "loss": 0.0657, + "num_input_tokens_seen": 16317296, + "step": 8329 + }, + { + "epoch": 1.1040424121935057, + "grad_norm": 0.0035204675514250994, + "learning_rate": 3.5091720256403483e-06, + "loss": 0.0, + "num_input_tokens_seen": 16318656, + "step": 8330 + }, + { + "epoch": 1.1041749502982108, + "grad_norm": 0.16462518274784088, + "learning_rate": 3.5088544181890917e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16321576, + "step": 8331 + }, + { + "epoch": 1.1043074884029158, + "grad_norm": 5.607799530029297, + "learning_rate": 3.5085367912864256e-06, + "loss": 0.1057, + "num_input_tokens_seen": 16322672, + "step": 8332 + }, + { + "epoch": 1.1044400265076209, + "grad_norm": 4.60710334777832, + "learning_rate": 3.5082191449384745e-06, + "loss": 0.0245, + "num_input_tokens_seen": 16324320, + "step": 8333 + }, + { + "epoch": 1.1045725646123261, + "grad_norm": 16.800397872924805, + "learning_rate": 3.5079014791513634e-06, + "loss": 0.3846, + "num_input_tokens_seen": 16326240, + "step": 8334 + }, + { + "epoch": 1.1047051027170312, + "grad_norm": 2.139453887939453, + "learning_rate": 3.5075837939312154e-06, + "loss": 0.0331, + "num_input_tokens_seen": 16327888, + "step": 8335 + }, + { + "epoch": 1.1048376408217362, + "grad_norm": 5.235513687133789, + "learning_rate": 3.507266089284157e-06, + "loss": 0.0461, + "num_input_tokens_seen": 16329272, + "step": 8336 + }, + { + "epoch": 1.1049701789264414, + "grad_norm": 0.15007513761520386, + "learning_rate": 3.506948365216314e-06, + "loss": 0.001, + "num_input_tokens_seen": 16330672, + "step": 8337 + }, + { + "epoch": 1.1051027170311465, + "grad_norm": 11.270011901855469, + "learning_rate": 3.5066306217338114e-06, + "loss": 0.2029, + "num_input_tokens_seen": 16332976, + "step": 8338 + }, + { + "epoch": 1.1052352551358515, + "grad_norm": 0.0049406662583351135, + "learning_rate": 3.5063128588427762e-06, + "loss": 0.0, + "num_input_tokens_seen": 16334224, + "step": 8339 + }, + { + "epoch": 1.1053677932405566, + "grad_norm": 6.272645473480225, + "learning_rate": 3.5059950765493346e-06, + "loss": 0.1344, + "num_input_tokens_seen": 16336168, + "step": 8340 + }, + { + "epoch": 1.1055003313452618, + "grad_norm": 9.624823570251465, + "learning_rate": 3.5056772748596145e-06, + "loss": 0.1995, + "num_input_tokens_seen": 16338184, + "step": 8341 + }, + { + "epoch": 1.1056328694499669, + "grad_norm": 7.304860591888428, + "learning_rate": 3.505359453779742e-06, + "loss": 0.1469, + "num_input_tokens_seen": 16340192, + "step": 8342 + }, + { + "epoch": 1.105765407554672, + "grad_norm": 6.836062431335449, + "learning_rate": 3.505041613315846e-06, + "loss": 0.2079, + "num_input_tokens_seen": 16342712, + "step": 8343 + }, + { + "epoch": 1.1058979456593772, + "grad_norm": 0.004496525973081589, + "learning_rate": 3.5047237534740553e-06, + "loss": 0.0, + "num_input_tokens_seen": 16344104, + "step": 8344 + }, + { + "epoch": 1.1060304837640822, + "grad_norm": 4.775545597076416, + "learning_rate": 3.504405874260496e-06, + "loss": 0.0775, + "num_input_tokens_seen": 16346784, + "step": 8345 + }, + { + "epoch": 1.1061630218687872, + "grad_norm": 8.949226379394531, + "learning_rate": 3.5040879756812997e-06, + "loss": 0.2499, + "num_input_tokens_seen": 16348592, + "step": 8346 + }, + { + "epoch": 1.1062955599734923, + "grad_norm": 12.20987319946289, + "learning_rate": 3.5037700577425937e-06, + "loss": 0.1819, + "num_input_tokens_seen": 16351496, + "step": 8347 + }, + { + "epoch": 1.1064280980781975, + "grad_norm": 0.34519150853157043, + "learning_rate": 3.5034521204505084e-06, + "loss": 0.0024, + "num_input_tokens_seen": 16353664, + "step": 8348 + }, + { + "epoch": 1.1065606361829026, + "grad_norm": 1.483240008354187, + "learning_rate": 3.503134163811175e-06, + "loss": 0.0094, + "num_input_tokens_seen": 16355272, + "step": 8349 + }, + { + "epoch": 1.1066931742876076, + "grad_norm": 0.5485265851020813, + "learning_rate": 3.502816187830722e-06, + "loss": 0.0034, + "num_input_tokens_seen": 16357672, + "step": 8350 + }, + { + "epoch": 1.1068257123923129, + "grad_norm": 5.789738178253174, + "learning_rate": 3.502498192515281e-06, + "loss": 0.1501, + "num_input_tokens_seen": 16359016, + "step": 8351 + }, + { + "epoch": 1.106958250497018, + "grad_norm": 0.06561057269573212, + "learning_rate": 3.502180177870984e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16361152, + "step": 8352 + }, + { + "epoch": 1.107090788601723, + "grad_norm": 3.2476675510406494, + "learning_rate": 3.501862143903962e-06, + "loss": 0.0371, + "num_input_tokens_seen": 16363120, + "step": 8353 + }, + { + "epoch": 1.1072233267064282, + "grad_norm": 11.596503257751465, + "learning_rate": 3.5015440906203457e-06, + "loss": 0.3629, + "num_input_tokens_seen": 16365480, + "step": 8354 + }, + { + "epoch": 1.1073558648111332, + "grad_norm": 3.6839776039123535, + "learning_rate": 3.5012260180262692e-06, + "loss": 0.0832, + "num_input_tokens_seen": 16367968, + "step": 8355 + }, + { + "epoch": 1.1074884029158383, + "grad_norm": 6.694451332092285, + "learning_rate": 3.500907926127864e-06, + "loss": 0.094, + "num_input_tokens_seen": 16369512, + "step": 8356 + }, + { + "epoch": 1.1076209410205433, + "grad_norm": 12.352378845214844, + "learning_rate": 3.5005898149312633e-06, + "loss": 0.3779, + "num_input_tokens_seen": 16371720, + "step": 8357 + }, + { + "epoch": 1.1077534791252486, + "grad_norm": 7.384657859802246, + "learning_rate": 3.500271684442601e-06, + "loss": 0.2277, + "num_input_tokens_seen": 16373440, + "step": 8358 + }, + { + "epoch": 1.1078860172299536, + "grad_norm": 7.060083389282227, + "learning_rate": 3.499953534668011e-06, + "loss": 0.1622, + "num_input_tokens_seen": 16375272, + "step": 8359 + }, + { + "epoch": 1.1080185553346587, + "grad_norm": 1.209827184677124, + "learning_rate": 3.499635365613626e-06, + "loss": 0.0053, + "num_input_tokens_seen": 16377576, + "step": 8360 + }, + { + "epoch": 1.108151093439364, + "grad_norm": 0.09285591542720795, + "learning_rate": 3.4993171772855823e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16378976, + "step": 8361 + }, + { + "epoch": 1.108283631544069, + "grad_norm": 9.731882095336914, + "learning_rate": 3.498998969690013e-06, + "loss": 0.1288, + "num_input_tokens_seen": 16380992, + "step": 8362 + }, + { + "epoch": 1.108416169648774, + "grad_norm": 6.474432945251465, + "learning_rate": 3.4986807428330555e-06, + "loss": 0.1106, + "num_input_tokens_seen": 16383352, + "step": 8363 + }, + { + "epoch": 1.108548707753479, + "grad_norm": 10.774589538574219, + "learning_rate": 3.4983624967208443e-06, + "loss": 0.3102, + "num_input_tokens_seen": 16385448, + "step": 8364 + }, + { + "epoch": 1.1086812458581843, + "grad_norm": 0.07440017908811569, + "learning_rate": 3.4980442313595153e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16386824, + "step": 8365 + }, + { + "epoch": 1.1088137839628893, + "grad_norm": 9.913625717163086, + "learning_rate": 3.4977259467552043e-06, + "loss": 0.1835, + "num_input_tokens_seen": 16388952, + "step": 8366 + }, + { + "epoch": 1.1089463220675944, + "grad_norm": 2.193392276763916, + "learning_rate": 3.4974076429140495e-06, + "loss": 0.0163, + "num_input_tokens_seen": 16390384, + "step": 8367 + }, + { + "epoch": 1.1090788601722996, + "grad_norm": 19.282543182373047, + "learning_rate": 3.4970893198421873e-06, + "loss": 0.328, + "num_input_tokens_seen": 16392240, + "step": 8368 + }, + { + "epoch": 1.1092113982770047, + "grad_norm": 4.310641765594482, + "learning_rate": 3.496770977545755e-06, + "loss": 0.0382, + "num_input_tokens_seen": 16394080, + "step": 8369 + }, + { + "epoch": 1.1093439363817097, + "grad_norm": 0.09109468758106232, + "learning_rate": 3.496452616030891e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16395736, + "step": 8370 + }, + { + "epoch": 1.109476474486415, + "grad_norm": 0.07450588792562485, + "learning_rate": 3.496134235303732e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16397280, + "step": 8371 + }, + { + "epoch": 1.10960901259112, + "grad_norm": 8.375280380249023, + "learning_rate": 3.4958158353704185e-06, + "loss": 0.3642, + "num_input_tokens_seen": 16399672, + "step": 8372 + }, + { + "epoch": 1.109741550695825, + "grad_norm": 2.1880531311035156, + "learning_rate": 3.4954974162370894e-06, + "loss": 0.0186, + "num_input_tokens_seen": 16401672, + "step": 8373 + }, + { + "epoch": 1.10987408880053, + "grad_norm": 3.5415656566619873, + "learning_rate": 3.4951789779098814e-06, + "loss": 0.1101, + "num_input_tokens_seen": 16403656, + "step": 8374 + }, + { + "epoch": 1.1100066269052353, + "grad_norm": 15.858475685119629, + "learning_rate": 3.494860520394938e-06, + "loss": 0.2527, + "num_input_tokens_seen": 16405872, + "step": 8375 + }, + { + "epoch": 1.1101391650099404, + "grad_norm": 5.520722389221191, + "learning_rate": 3.4945420436983968e-06, + "loss": 0.1629, + "num_input_tokens_seen": 16408704, + "step": 8376 + }, + { + "epoch": 1.1102717031146454, + "grad_norm": 1.4546762704849243, + "learning_rate": 3.4942235478263987e-06, + "loss": 0.0084, + "num_input_tokens_seen": 16410472, + "step": 8377 + }, + { + "epoch": 1.1104042412193507, + "grad_norm": 0.5183747410774231, + "learning_rate": 3.493905032785085e-06, + "loss": 0.0053, + "num_input_tokens_seen": 16411496, + "step": 8378 + }, + { + "epoch": 1.1105367793240557, + "grad_norm": 7.558457374572754, + "learning_rate": 3.493586498580597e-06, + "loss": 0.2219, + "num_input_tokens_seen": 16413272, + "step": 8379 + }, + { + "epoch": 1.1106693174287607, + "grad_norm": 10.105422973632812, + "learning_rate": 3.493267945219075e-06, + "loss": 0.2057, + "num_input_tokens_seen": 16415680, + "step": 8380 + }, + { + "epoch": 1.1108018555334658, + "grad_norm": 0.1435491442680359, + "learning_rate": 3.4929493727066622e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16416840, + "step": 8381 + }, + { + "epoch": 1.110934393638171, + "grad_norm": 5.828749179840088, + "learning_rate": 3.4926307810495e-06, + "loss": 0.1092, + "num_input_tokens_seen": 16419192, + "step": 8382 + }, + { + "epoch": 1.111066931742876, + "grad_norm": 3.2960901260375977, + "learning_rate": 3.492312170253732e-06, + "loss": 0.0371, + "num_input_tokens_seen": 16421608, + "step": 8383 + }, + { + "epoch": 1.1111994698475811, + "grad_norm": 4.1906023025512695, + "learning_rate": 3.4919935403255013e-06, + "loss": 0.0399, + "num_input_tokens_seen": 16423664, + "step": 8384 + }, + { + "epoch": 1.1113320079522864, + "grad_norm": 16.101318359375, + "learning_rate": 3.4916748912709506e-06, + "loss": 0.3938, + "num_input_tokens_seen": 16425440, + "step": 8385 + }, + { + "epoch": 1.1114645460569914, + "grad_norm": 0.15895967185497284, + "learning_rate": 3.4913562230962232e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16427064, + "step": 8386 + }, + { + "epoch": 1.1115970841616964, + "grad_norm": 0.4451965093612671, + "learning_rate": 3.4910375358074642e-06, + "loss": 0.0033, + "num_input_tokens_seen": 16429416, + "step": 8387 + }, + { + "epoch": 1.1117296222664015, + "grad_norm": 0.11195900291204453, + "learning_rate": 3.4907188294108185e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16430648, + "step": 8388 + }, + { + "epoch": 1.1118621603711067, + "grad_norm": 11.73038387298584, + "learning_rate": 3.490400103912429e-06, + "loss": 0.3006, + "num_input_tokens_seen": 16432744, + "step": 8389 + }, + { + "epoch": 1.1119946984758118, + "grad_norm": 0.1679728627204895, + "learning_rate": 3.4900813593184434e-06, + "loss": 0.0013, + "num_input_tokens_seen": 16433880, + "step": 8390 + }, + { + "epoch": 1.1121272365805168, + "grad_norm": 13.385002136230469, + "learning_rate": 3.489762595635006e-06, + "loss": 0.1437, + "num_input_tokens_seen": 16435864, + "step": 8391 + }, + { + "epoch": 1.112259774685222, + "grad_norm": 0.6505146026611328, + "learning_rate": 3.4894438128682622e-06, + "loss": 0.0047, + "num_input_tokens_seen": 16438080, + "step": 8392 + }, + { + "epoch": 1.1123923127899271, + "grad_norm": 7.733471870422363, + "learning_rate": 3.48912501102436e-06, + "loss": 0.1729, + "num_input_tokens_seen": 16440112, + "step": 8393 + }, + { + "epoch": 1.1125248508946322, + "grad_norm": 0.2137671262025833, + "learning_rate": 3.488806190109445e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16442024, + "step": 8394 + }, + { + "epoch": 1.1126573889993372, + "grad_norm": 3.7220957279205322, + "learning_rate": 3.4884873501296644e-06, + "loss": 0.0829, + "num_input_tokens_seen": 16443760, + "step": 8395 + }, + { + "epoch": 1.1127899271040425, + "grad_norm": 2.425835371017456, + "learning_rate": 3.4881684910911662e-06, + "loss": 0.0315, + "num_input_tokens_seen": 16446440, + "step": 8396 + }, + { + "epoch": 1.1129224652087475, + "grad_norm": 0.22856350243091583, + "learning_rate": 3.487849613000097e-06, + "loss": 0.0017, + "num_input_tokens_seen": 16448448, + "step": 8397 + }, + { + "epoch": 1.1130550033134525, + "grad_norm": 8.065740585327148, + "learning_rate": 3.487530715862606e-06, + "loss": 0.1184, + "num_input_tokens_seen": 16450760, + "step": 8398 + }, + { + "epoch": 1.1131875414181578, + "grad_norm": 1.304933786392212, + "learning_rate": 3.487211799684842e-06, + "loss": 0.0088, + "num_input_tokens_seen": 16452184, + "step": 8399 + }, + { + "epoch": 1.1133200795228628, + "grad_norm": 3.2624142169952393, + "learning_rate": 3.4868928644729527e-06, + "loss": 0.0841, + "num_input_tokens_seen": 16455432, + "step": 8400 + }, + { + "epoch": 1.1134526176275679, + "grad_norm": 11.970552444458008, + "learning_rate": 3.486573910233089e-06, + "loss": 0.227, + "num_input_tokens_seen": 16457344, + "step": 8401 + }, + { + "epoch": 1.1135851557322731, + "grad_norm": 0.14939334988594055, + "learning_rate": 3.486254936971399e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16459216, + "step": 8402 + }, + { + "epoch": 1.1137176938369782, + "grad_norm": 5.5158796310424805, + "learning_rate": 3.4859359446940337e-06, + "loss": 0.1117, + "num_input_tokens_seen": 16461344, + "step": 8403 + }, + { + "epoch": 1.1138502319416832, + "grad_norm": 0.07000122219324112, + "learning_rate": 3.4856169334071434e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16462992, + "step": 8404 + }, + { + "epoch": 1.1139827700463882, + "grad_norm": 7.405033111572266, + "learning_rate": 3.4852979031168787e-06, + "loss": 0.0946, + "num_input_tokens_seen": 16464712, + "step": 8405 + }, + { + "epoch": 1.1141153081510935, + "grad_norm": 0.14460404217243195, + "learning_rate": 3.4849788538293905e-06, + "loss": 0.001, + "num_input_tokens_seen": 16466264, + "step": 8406 + }, + { + "epoch": 1.1142478462557985, + "grad_norm": 11.341758728027344, + "learning_rate": 3.48465978555083e-06, + "loss": 0.3165, + "num_input_tokens_seen": 16468648, + "step": 8407 + }, + { + "epoch": 1.1143803843605036, + "grad_norm": 7.661235809326172, + "learning_rate": 3.4843406982873507e-06, + "loss": 0.2533, + "num_input_tokens_seen": 16470936, + "step": 8408 + }, + { + "epoch": 1.1145129224652088, + "grad_norm": 6.7464189529418945, + "learning_rate": 3.4840215920451032e-06, + "loss": 0.041, + "num_input_tokens_seen": 16472816, + "step": 8409 + }, + { + "epoch": 1.1146454605699139, + "grad_norm": 0.5663466453552246, + "learning_rate": 3.48370246683024e-06, + "loss": 0.0045, + "num_input_tokens_seen": 16474992, + "step": 8410 + }, + { + "epoch": 1.114777998674619, + "grad_norm": 10.365991592407227, + "learning_rate": 3.483383322648915e-06, + "loss": 0.3239, + "num_input_tokens_seen": 16476632, + "step": 8411 + }, + { + "epoch": 1.1149105367793242, + "grad_norm": 0.10152385383844376, + "learning_rate": 3.483064159507281e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16477992, + "step": 8412 + }, + { + "epoch": 1.1150430748840292, + "grad_norm": 0.3106798231601715, + "learning_rate": 3.4827449774114917e-06, + "loss": 0.0023, + "num_input_tokens_seen": 16481088, + "step": 8413 + }, + { + "epoch": 1.1151756129887342, + "grad_norm": 0.7371013760566711, + "learning_rate": 3.4824257763677023e-06, + "loss": 0.0041, + "num_input_tokens_seen": 16482568, + "step": 8414 + }, + { + "epoch": 1.1153081510934393, + "grad_norm": 1.9163726568222046, + "learning_rate": 3.4821065563820654e-06, + "loss": 0.0082, + "num_input_tokens_seen": 16484248, + "step": 8415 + }, + { + "epoch": 1.1154406891981445, + "grad_norm": 9.128623962402344, + "learning_rate": 3.4817873174607363e-06, + "loss": 0.2268, + "num_input_tokens_seen": 16486080, + "step": 8416 + }, + { + "epoch": 1.1155732273028496, + "grad_norm": 10.534138679504395, + "learning_rate": 3.4814680596098717e-06, + "loss": 0.3603, + "num_input_tokens_seen": 16487624, + "step": 8417 + }, + { + "epoch": 1.1157057654075546, + "grad_norm": 0.7412254214286804, + "learning_rate": 3.4811487828356244e-06, + "loss": 0.0055, + "num_input_tokens_seen": 16490632, + "step": 8418 + }, + { + "epoch": 1.1158383035122599, + "grad_norm": 0.31978484988212585, + "learning_rate": 3.4808294871441516e-06, + "loss": 0.0016, + "num_input_tokens_seen": 16492840, + "step": 8419 + }, + { + "epoch": 1.115970841616965, + "grad_norm": 10.115509986877441, + "learning_rate": 3.4805101725416102e-06, + "loss": 0.2746, + "num_input_tokens_seen": 16495344, + "step": 8420 + }, + { + "epoch": 1.11610337972167, + "grad_norm": 7.60206413269043, + "learning_rate": 3.480190839034157e-06, + "loss": 0.1715, + "num_input_tokens_seen": 16497464, + "step": 8421 + }, + { + "epoch": 1.116235917826375, + "grad_norm": 6.78001070022583, + "learning_rate": 3.479871486627947e-06, + "loss": 0.1248, + "num_input_tokens_seen": 16499688, + "step": 8422 + }, + { + "epoch": 1.1163684559310803, + "grad_norm": 9.612598419189453, + "learning_rate": 3.4795521153291394e-06, + "loss": 0.1158, + "num_input_tokens_seen": 16501600, + "step": 8423 + }, + { + "epoch": 1.1165009940357853, + "grad_norm": 11.636311531066895, + "learning_rate": 3.479232725143892e-06, + "loss": 0.2754, + "num_input_tokens_seen": 16503992, + "step": 8424 + }, + { + "epoch": 1.1166335321404903, + "grad_norm": 7.0306501388549805, + "learning_rate": 3.4789133160783606e-06, + "loss": 0.0267, + "num_input_tokens_seen": 16506560, + "step": 8425 + }, + { + "epoch": 1.1167660702451956, + "grad_norm": 1.5405538082122803, + "learning_rate": 3.478593888138706e-06, + "loss": 0.0265, + "num_input_tokens_seen": 16508432, + "step": 8426 + }, + { + "epoch": 1.1168986083499006, + "grad_norm": 11.093717575073242, + "learning_rate": 3.4782744413310854e-06, + "loss": 0.141, + "num_input_tokens_seen": 16510736, + "step": 8427 + }, + { + "epoch": 1.1170311464546057, + "grad_norm": 0.015495721250772476, + "learning_rate": 3.477954975661659e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16512256, + "step": 8428 + }, + { + "epoch": 1.1171636845593107, + "grad_norm": 1.2309634685516357, + "learning_rate": 3.4776354911365867e-06, + "loss": 0.0112, + "num_input_tokens_seen": 16513792, + "step": 8429 + }, + { + "epoch": 1.117296222664016, + "grad_norm": 7.763525485992432, + "learning_rate": 3.477315987762027e-06, + "loss": 0.1012, + "num_input_tokens_seen": 16516224, + "step": 8430 + }, + { + "epoch": 1.117428760768721, + "grad_norm": 0.026643717661499977, + "learning_rate": 3.4769964655441413e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16517376, + "step": 8431 + }, + { + "epoch": 1.117561298873426, + "grad_norm": 0.05065273493528366, + "learning_rate": 3.4766769244890898e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16518968, + "step": 8432 + }, + { + "epoch": 1.1176938369781313, + "grad_norm": 19.02833366394043, + "learning_rate": 3.476357364603033e-06, + "loss": 0.4334, + "num_input_tokens_seen": 16521504, + "step": 8433 + }, + { + "epoch": 1.1178263750828363, + "grad_norm": 7.889640808105469, + "learning_rate": 3.476037785892133e-06, + "loss": 0.2245, + "num_input_tokens_seen": 16523256, + "step": 8434 + }, + { + "epoch": 1.1179589131875414, + "grad_norm": 0.04523637145757675, + "learning_rate": 3.4757181883625512e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16524632, + "step": 8435 + }, + { + "epoch": 1.1180914512922464, + "grad_norm": 0.01622576080262661, + "learning_rate": 3.475398572020449e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16526072, + "step": 8436 + }, + { + "epoch": 1.1182239893969517, + "grad_norm": 6.051847457885742, + "learning_rate": 3.4750789368719893e-06, + "loss": 0.1571, + "num_input_tokens_seen": 16528520, + "step": 8437 + }, + { + "epoch": 1.1183565275016567, + "grad_norm": 9.460832595825195, + "learning_rate": 3.4747592829233367e-06, + "loss": 0.2143, + "num_input_tokens_seen": 16530384, + "step": 8438 + }, + { + "epoch": 1.1184890656063617, + "grad_norm": 12.428264617919922, + "learning_rate": 3.4744396101806506e-06, + "loss": 0.2346, + "num_input_tokens_seen": 16532504, + "step": 8439 + }, + { + "epoch": 1.118621603711067, + "grad_norm": 0.06932102143764496, + "learning_rate": 3.4741199186500977e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16534496, + "step": 8440 + }, + { + "epoch": 1.118754141815772, + "grad_norm": 7.941710472106934, + "learning_rate": 3.473800208337841e-06, + "loss": 0.1156, + "num_input_tokens_seen": 16536456, + "step": 8441 + }, + { + "epoch": 1.118886679920477, + "grad_norm": 5.026635646820068, + "learning_rate": 3.473480479250043e-06, + "loss": 0.0836, + "num_input_tokens_seen": 16538056, + "step": 8442 + }, + { + "epoch": 1.1190192180251823, + "grad_norm": 0.15467025339603424, + "learning_rate": 3.4731607313928717e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16540344, + "step": 8443 + }, + { + "epoch": 1.1191517561298874, + "grad_norm": 10.816108703613281, + "learning_rate": 3.4728409647724894e-06, + "loss": 0.1771, + "num_input_tokens_seen": 16542744, + "step": 8444 + }, + { + "epoch": 1.1192842942345924, + "grad_norm": 3.546783208847046, + "learning_rate": 3.472521179395062e-06, + "loss": 0.0435, + "num_input_tokens_seen": 16544448, + "step": 8445 + }, + { + "epoch": 1.1194168323392975, + "grad_norm": 7.411040782928467, + "learning_rate": 3.472201375266755e-06, + "loss": 0.1766, + "num_input_tokens_seen": 16546568, + "step": 8446 + }, + { + "epoch": 1.1195493704440027, + "grad_norm": 9.078460693359375, + "learning_rate": 3.4718815523937354e-06, + "loss": 0.2169, + "num_input_tokens_seen": 16548224, + "step": 8447 + }, + { + "epoch": 1.1196819085487077, + "grad_norm": 0.03959347680211067, + "learning_rate": 3.4715617107821686e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16549328, + "step": 8448 + }, + { + "epoch": 1.1198144466534128, + "grad_norm": 3.9412460327148438, + "learning_rate": 3.471241850438222e-06, + "loss": 0.1316, + "num_input_tokens_seen": 16551848, + "step": 8449 + }, + { + "epoch": 1.119946984758118, + "grad_norm": 0.05313378572463989, + "learning_rate": 3.470921971368063e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16553328, + "step": 8450 + }, + { + "epoch": 1.120079522862823, + "grad_norm": 4.744962215423584, + "learning_rate": 3.470602073577858e-06, + "loss": 0.0196, + "num_input_tokens_seen": 16554856, + "step": 8451 + }, + { + "epoch": 1.1202120609675281, + "grad_norm": 38.21556854248047, + "learning_rate": 3.4702821570737753e-06, + "loss": 0.4533, + "num_input_tokens_seen": 16557752, + "step": 8452 + }, + { + "epoch": 1.1203445990722334, + "grad_norm": 1.7391879558563232, + "learning_rate": 3.469962221861984e-06, + "loss": 0.0314, + "num_input_tokens_seen": 16559616, + "step": 8453 + }, + { + "epoch": 1.1204771371769384, + "grad_norm": 9.767043113708496, + "learning_rate": 3.469642267948651e-06, + "loss": 0.2575, + "num_input_tokens_seen": 16561680, + "step": 8454 + }, + { + "epoch": 1.1206096752816435, + "grad_norm": 13.81735897064209, + "learning_rate": 3.469322295339946e-06, + "loss": 0.5153, + "num_input_tokens_seen": 16564296, + "step": 8455 + }, + { + "epoch": 1.1207422133863485, + "grad_norm": 0.16171440482139587, + "learning_rate": 3.4690023040420396e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16565904, + "step": 8456 + }, + { + "epoch": 1.1208747514910538, + "grad_norm": 4.92385196685791, + "learning_rate": 3.4686822940610993e-06, + "loss": 0.028, + "num_input_tokens_seen": 16567712, + "step": 8457 + }, + { + "epoch": 1.1210072895957588, + "grad_norm": 2.7117927074432373, + "learning_rate": 3.468362265403297e-06, + "loss": 0.0174, + "num_input_tokens_seen": 16568744, + "step": 8458 + }, + { + "epoch": 1.1211398277004638, + "grad_norm": 6.28870153427124, + "learning_rate": 3.468042218074801e-06, + "loss": 0.1242, + "num_input_tokens_seen": 16571400, + "step": 8459 + }, + { + "epoch": 1.121272365805169, + "grad_norm": 7.26967716217041, + "learning_rate": 3.4677221520817837e-06, + "loss": 0.1595, + "num_input_tokens_seen": 16573488, + "step": 8460 + }, + { + "epoch": 1.1214049039098741, + "grad_norm": 3.3980298042297363, + "learning_rate": 3.4674020674304164e-06, + "loss": 0.0373, + "num_input_tokens_seen": 16575200, + "step": 8461 + }, + { + "epoch": 1.1215374420145792, + "grad_norm": 8.304523468017578, + "learning_rate": 3.4670819641268695e-06, + "loss": 0.2353, + "num_input_tokens_seen": 16576808, + "step": 8462 + }, + { + "epoch": 1.1216699801192842, + "grad_norm": 11.468254089355469, + "learning_rate": 3.4667618421773148e-06, + "loss": 0.1792, + "num_input_tokens_seen": 16578800, + "step": 8463 + }, + { + "epoch": 1.1218025182239895, + "grad_norm": 5.864408493041992, + "learning_rate": 3.4664417015879247e-06, + "loss": 0.0596, + "num_input_tokens_seen": 16580552, + "step": 8464 + }, + { + "epoch": 1.1219350563286945, + "grad_norm": 7.9062652587890625, + "learning_rate": 3.466121542364873e-06, + "loss": 0.1275, + "num_input_tokens_seen": 16582272, + "step": 8465 + }, + { + "epoch": 1.1220675944333995, + "grad_norm": 0.14119014143943787, + "learning_rate": 3.465801364514331e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16584472, + "step": 8466 + }, + { + "epoch": 1.1222001325381048, + "grad_norm": 0.13928206264972687, + "learning_rate": 3.4654811680424715e-06, + "loss": 0.001, + "num_input_tokens_seen": 16586424, + "step": 8467 + }, + { + "epoch": 1.1223326706428098, + "grad_norm": 0.2411433607339859, + "learning_rate": 3.46516095295547e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16588120, + "step": 8468 + }, + { + "epoch": 1.1224652087475149, + "grad_norm": 8.199978828430176, + "learning_rate": 3.464840719259499e-06, + "loss": 0.2624, + "num_input_tokens_seen": 16590160, + "step": 8469 + }, + { + "epoch": 1.12259774685222, + "grad_norm": 0.11893632262945175, + "learning_rate": 3.4645204669607335e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16591824, + "step": 8470 + }, + { + "epoch": 1.1227302849569252, + "grad_norm": 1.7515157461166382, + "learning_rate": 3.4642001960653483e-06, + "loss": 0.0191, + "num_input_tokens_seen": 16593296, + "step": 8471 + }, + { + "epoch": 1.1228628230616302, + "grad_norm": 9.317205429077148, + "learning_rate": 3.463879906579517e-06, + "loss": 0.1698, + "num_input_tokens_seen": 16595104, + "step": 8472 + }, + { + "epoch": 1.1229953611663352, + "grad_norm": 9.877138137817383, + "learning_rate": 3.463559598509418e-06, + "loss": 0.1405, + "num_input_tokens_seen": 16597616, + "step": 8473 + }, + { + "epoch": 1.1231278992710405, + "grad_norm": 0.1762053370475769, + "learning_rate": 3.463239271861224e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16599824, + "step": 8474 + }, + { + "epoch": 1.1232604373757455, + "grad_norm": 1.5470515489578247, + "learning_rate": 3.462918926641112e-06, + "loss": 0.0064, + "num_input_tokens_seen": 16601192, + "step": 8475 + }, + { + "epoch": 1.1233929754804506, + "grad_norm": 9.179183959960938, + "learning_rate": 3.46259856285526e-06, + "loss": 0.1462, + "num_input_tokens_seen": 16603152, + "step": 8476 + }, + { + "epoch": 1.1235255135851556, + "grad_norm": 13.946859359741211, + "learning_rate": 3.4622781805098426e-06, + "loss": 0.2277, + "num_input_tokens_seen": 16606088, + "step": 8477 + }, + { + "epoch": 1.1236580516898609, + "grad_norm": 1.3416038751602173, + "learning_rate": 3.461957779611039e-06, + "loss": 0.0091, + "num_input_tokens_seen": 16607552, + "step": 8478 + }, + { + "epoch": 1.123790589794566, + "grad_norm": 0.246473029255867, + "learning_rate": 3.4616373601650253e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16610656, + "step": 8479 + }, + { + "epoch": 1.123923127899271, + "grad_norm": 12.998847961425781, + "learning_rate": 3.46131692217798e-06, + "loss": 0.4176, + "num_input_tokens_seen": 16613584, + "step": 8480 + }, + { + "epoch": 1.1240556660039762, + "grad_norm": 2.1694047451019287, + "learning_rate": 3.4609964656560806e-06, + "loss": 0.0181, + "num_input_tokens_seen": 16615752, + "step": 8481 + }, + { + "epoch": 1.1241882041086813, + "grad_norm": 12.08128833770752, + "learning_rate": 3.460675990605507e-06, + "loss": 0.2262, + "num_input_tokens_seen": 16617664, + "step": 8482 + }, + { + "epoch": 1.1243207422133863, + "grad_norm": 5.935091972351074, + "learning_rate": 3.4603554970324377e-06, + "loss": 0.0608, + "num_input_tokens_seen": 16619856, + "step": 8483 + }, + { + "epoch": 1.1244532803180916, + "grad_norm": 7.788889408111572, + "learning_rate": 3.4600349849430515e-06, + "loss": 0.1488, + "num_input_tokens_seen": 16621576, + "step": 8484 + }, + { + "epoch": 1.1245858184227966, + "grad_norm": 46.85171890258789, + "learning_rate": 3.4597144543435284e-06, + "loss": 0.1006, + "num_input_tokens_seen": 16624168, + "step": 8485 + }, + { + "epoch": 1.1247183565275016, + "grad_norm": 0.018745025619864464, + "learning_rate": 3.4593939052400492e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16625232, + "step": 8486 + }, + { + "epoch": 1.1248508946322067, + "grad_norm": 1.3916137218475342, + "learning_rate": 3.459073337638793e-06, + "loss": 0.0052, + "num_input_tokens_seen": 16626776, + "step": 8487 + }, + { + "epoch": 1.124983432736912, + "grad_norm": 7.29010534286499, + "learning_rate": 3.458752751545941e-06, + "loss": 0.1705, + "num_input_tokens_seen": 16628424, + "step": 8488 + }, + { + "epoch": 1.125115970841617, + "grad_norm": 0.05532471090555191, + "learning_rate": 3.4584321469676756e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16630032, + "step": 8489 + }, + { + "epoch": 1.125248508946322, + "grad_norm": 12.74735164642334, + "learning_rate": 3.458111523910176e-06, + "loss": 0.2124, + "num_input_tokens_seen": 16632496, + "step": 8490 + }, + { + "epoch": 1.1253810470510273, + "grad_norm": 3.17748761177063, + "learning_rate": 3.4577908823796265e-06, + "loss": 0.0679, + "num_input_tokens_seen": 16634200, + "step": 8491 + }, + { + "epoch": 1.1255135851557323, + "grad_norm": 6.777058124542236, + "learning_rate": 3.4574702223822072e-06, + "loss": 0.169, + "num_input_tokens_seen": 16635744, + "step": 8492 + }, + { + "epoch": 1.1256461232604373, + "grad_norm": 0.5229358673095703, + "learning_rate": 3.4571495439241017e-06, + "loss": 0.0036, + "num_input_tokens_seen": 16637936, + "step": 8493 + }, + { + "epoch": 1.1257786613651426, + "grad_norm": 10.011480331420898, + "learning_rate": 3.456828847011493e-06, + "loss": 0.2385, + "num_input_tokens_seen": 16639416, + "step": 8494 + }, + { + "epoch": 1.1259111994698476, + "grad_norm": 8.405430793762207, + "learning_rate": 3.4565081316505635e-06, + "loss": 0.1069, + "num_input_tokens_seen": 16641040, + "step": 8495 + }, + { + "epoch": 1.1260437375745527, + "grad_norm": 0.043477486819028854, + "learning_rate": 3.4561873978474975e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16642240, + "step": 8496 + }, + { + "epoch": 1.1261762756792577, + "grad_norm": 4.222424507141113, + "learning_rate": 3.4558666456084795e-06, + "loss": 0.0398, + "num_input_tokens_seen": 16643896, + "step": 8497 + }, + { + "epoch": 1.126308813783963, + "grad_norm": 8.825814247131348, + "learning_rate": 3.4555458749396924e-06, + "loss": 0.2694, + "num_input_tokens_seen": 16645616, + "step": 8498 + }, + { + "epoch": 1.126441351888668, + "grad_norm": 0.27611249685287476, + "learning_rate": 3.455225085847322e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16647104, + "step": 8499 + }, + { + "epoch": 1.126573889993373, + "grad_norm": 0.23041993379592896, + "learning_rate": 3.454904278337553e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16650024, + "step": 8500 + }, + { + "epoch": 1.1267064280980783, + "grad_norm": 0.1716599315404892, + "learning_rate": 3.45458345241657e-06, + "loss": 0.001, + "num_input_tokens_seen": 16651968, + "step": 8501 + }, + { + "epoch": 1.1268389662027833, + "grad_norm": 0.12479785829782486, + "learning_rate": 3.45426260809056e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16654720, + "step": 8502 + }, + { + "epoch": 1.1269715043074884, + "grad_norm": 3.2692744731903076, + "learning_rate": 3.453941745365709e-06, + "loss": 0.0077, + "num_input_tokens_seen": 16656504, + "step": 8503 + }, + { + "epoch": 1.1271040424121934, + "grad_norm": 0.10245697945356369, + "learning_rate": 3.453620864248203e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16657880, + "step": 8504 + }, + { + "epoch": 1.1272365805168987, + "grad_norm": 9.530024528503418, + "learning_rate": 3.4532999647442285e-06, + "loss": 0.1167, + "num_input_tokens_seen": 16660800, + "step": 8505 + }, + { + "epoch": 1.1273691186216037, + "grad_norm": 9.497403144836426, + "learning_rate": 3.452979046859973e-06, + "loss": 0.2009, + "num_input_tokens_seen": 16663472, + "step": 8506 + }, + { + "epoch": 1.1275016567263088, + "grad_norm": 5.696786403656006, + "learning_rate": 3.4526581106016237e-06, + "loss": 0.0647, + "num_input_tokens_seen": 16665576, + "step": 8507 + }, + { + "epoch": 1.127634194831014, + "grad_norm": 0.03766528517007828, + "learning_rate": 3.452337155975369e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16667160, + "step": 8508 + }, + { + "epoch": 1.127766732935719, + "grad_norm": 1.616792917251587, + "learning_rate": 3.4520161829873975e-06, + "loss": 0.0358, + "num_input_tokens_seen": 16668728, + "step": 8509 + }, + { + "epoch": 1.127899271040424, + "grad_norm": 0.04752480983734131, + "learning_rate": 3.4516951916438974e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16671016, + "step": 8510 + }, + { + "epoch": 1.1280318091451291, + "grad_norm": 10.47054386138916, + "learning_rate": 3.4513741819510566e-06, + "loss": 0.2314, + "num_input_tokens_seen": 16672880, + "step": 8511 + }, + { + "epoch": 1.1281643472498344, + "grad_norm": 6.560187816619873, + "learning_rate": 3.451053153915066e-06, + "loss": 0.0726, + "num_input_tokens_seen": 16675912, + "step": 8512 + }, + { + "epoch": 1.1282968853545394, + "grad_norm": 13.351219177246094, + "learning_rate": 3.450732107542114e-06, + "loss": 0.2376, + "num_input_tokens_seen": 16677672, + "step": 8513 + }, + { + "epoch": 1.1284294234592445, + "grad_norm": 0.15342412889003754, + "learning_rate": 3.450411042838391e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16680328, + "step": 8514 + }, + { + "epoch": 1.1285619615639497, + "grad_norm": 8.456214904785156, + "learning_rate": 3.4500899598100882e-06, + "loss": 0.14, + "num_input_tokens_seen": 16682984, + "step": 8515 + }, + { + "epoch": 1.1286944996686548, + "grad_norm": 0.3954511880874634, + "learning_rate": 3.4497688584633955e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16685408, + "step": 8516 + }, + { + "epoch": 1.1288270377733598, + "grad_norm": 0.25022488832473755, + "learning_rate": 3.4494477388045035e-06, + "loss": 0.002, + "num_input_tokens_seen": 16686792, + "step": 8517 + }, + { + "epoch": 1.1289595758780648, + "grad_norm": 0.18703708052635193, + "learning_rate": 3.449126600839604e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16689128, + "step": 8518 + }, + { + "epoch": 1.12909211398277, + "grad_norm": 3.252548933029175, + "learning_rate": 3.4488054445748886e-06, + "loss": 0.1102, + "num_input_tokens_seen": 16690784, + "step": 8519 + }, + { + "epoch": 1.1292246520874751, + "grad_norm": 8.948058128356934, + "learning_rate": 3.4484842700165506e-06, + "loss": 0.2526, + "num_input_tokens_seen": 16692912, + "step": 8520 + }, + { + "epoch": 1.1293571901921802, + "grad_norm": 3.9407899379730225, + "learning_rate": 3.448163077170781e-06, + "loss": 0.0439, + "num_input_tokens_seen": 16694168, + "step": 8521 + }, + { + "epoch": 1.1294897282968854, + "grad_norm": 32.42314147949219, + "learning_rate": 3.447841866043773e-06, + "loss": 0.3299, + "num_input_tokens_seen": 16696544, + "step": 8522 + }, + { + "epoch": 1.1296222664015905, + "grad_norm": 3.7470414638519287, + "learning_rate": 3.44752063664172e-06, + "loss": 0.0594, + "num_input_tokens_seen": 16698656, + "step": 8523 + }, + { + "epoch": 1.1297548045062955, + "grad_norm": 0.2576407492160797, + "learning_rate": 3.4471993889708155e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16700544, + "step": 8524 + }, + { + "epoch": 1.1298873426110005, + "grad_norm": 0.04765302315354347, + "learning_rate": 3.4468781230372537e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16702096, + "step": 8525 + }, + { + "epoch": 1.1300198807157058, + "grad_norm": 2.5305490493774414, + "learning_rate": 3.4465568388472287e-06, + "loss": 0.0358, + "num_input_tokens_seen": 16704208, + "step": 8526 + }, + { + "epoch": 1.1301524188204108, + "grad_norm": 10.042616844177246, + "learning_rate": 3.4462355364069344e-06, + "loss": 0.248, + "num_input_tokens_seen": 16706976, + "step": 8527 + }, + { + "epoch": 1.1302849569251159, + "grad_norm": 3.648715019226074, + "learning_rate": 3.4459142157225656e-06, + "loss": 0.048, + "num_input_tokens_seen": 16708920, + "step": 8528 + }, + { + "epoch": 1.1304174950298211, + "grad_norm": 2.7969470024108887, + "learning_rate": 3.4455928768003187e-06, + "loss": 0.0433, + "num_input_tokens_seen": 16710816, + "step": 8529 + }, + { + "epoch": 1.1305500331345262, + "grad_norm": 8.435277938842773, + "learning_rate": 3.4452715196463895e-06, + "loss": 0.2165, + "num_input_tokens_seen": 16712688, + "step": 8530 + }, + { + "epoch": 1.1306825712392312, + "grad_norm": 4.815793037414551, + "learning_rate": 3.4449501442669725e-06, + "loss": 0.1311, + "num_input_tokens_seen": 16714792, + "step": 8531 + }, + { + "epoch": 1.1308151093439365, + "grad_norm": 0.04750956594944, + "learning_rate": 3.4446287506682644e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16716024, + "step": 8532 + }, + { + "epoch": 1.1309476474486415, + "grad_norm": 11.87228775024414, + "learning_rate": 3.4443073388564633e-06, + "loss": 0.1807, + "num_input_tokens_seen": 16718840, + "step": 8533 + }, + { + "epoch": 1.1310801855533466, + "grad_norm": 9.133766174316406, + "learning_rate": 3.443985908837765e-06, + "loss": 0.2608, + "num_input_tokens_seen": 16721040, + "step": 8534 + }, + { + "epoch": 1.1312127236580518, + "grad_norm": 3.89784836769104, + "learning_rate": 3.4436644606183667e-06, + "loss": 0.0405, + "num_input_tokens_seen": 16722976, + "step": 8535 + }, + { + "epoch": 1.1313452617627568, + "grad_norm": 0.05301361531019211, + "learning_rate": 3.443342994204467e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16724728, + "step": 8536 + }, + { + "epoch": 1.1314777998674619, + "grad_norm": 4.3112897872924805, + "learning_rate": 3.4430215096022636e-06, + "loss": 0.0473, + "num_input_tokens_seen": 16725984, + "step": 8537 + }, + { + "epoch": 1.131610337972167, + "grad_norm": 12.038641929626465, + "learning_rate": 3.442700006817955e-06, + "loss": 0.093, + "num_input_tokens_seen": 16728224, + "step": 8538 + }, + { + "epoch": 1.1317428760768722, + "grad_norm": 0.046350039541721344, + "learning_rate": 3.4423784858577403e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16729864, + "step": 8539 + }, + { + "epoch": 1.1318754141815772, + "grad_norm": 0.14071060717105865, + "learning_rate": 3.442056946727817e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16731040, + "step": 8540 + }, + { + "epoch": 1.1320079522862823, + "grad_norm": 12.13999080657959, + "learning_rate": 3.441735389434387e-06, + "loss": 0.1461, + "num_input_tokens_seen": 16733288, + "step": 8541 + }, + { + "epoch": 1.1321404903909875, + "grad_norm": 13.159934997558594, + "learning_rate": 3.4414138139836486e-06, + "loss": 0.1902, + "num_input_tokens_seen": 16735384, + "step": 8542 + }, + { + "epoch": 1.1322730284956926, + "grad_norm": 3.971379518508911, + "learning_rate": 3.441092220381802e-06, + "loss": 0.1109, + "num_input_tokens_seen": 16737888, + "step": 8543 + }, + { + "epoch": 1.1324055666003976, + "grad_norm": 6.648914337158203, + "learning_rate": 3.440770608635049e-06, + "loss": 0.1229, + "num_input_tokens_seen": 16739840, + "step": 8544 + }, + { + "epoch": 1.1325381047051026, + "grad_norm": 7.494126796722412, + "learning_rate": 3.440448978749589e-06, + "loss": 0.0438, + "num_input_tokens_seen": 16741576, + "step": 8545 + }, + { + "epoch": 1.132670642809808, + "grad_norm": 9.250385284423828, + "learning_rate": 3.440127330731624e-06, + "loss": 0.068, + "num_input_tokens_seen": 16743176, + "step": 8546 + }, + { + "epoch": 1.132803180914513, + "grad_norm": 0.14744509756565094, + "learning_rate": 3.439805664587356e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16744960, + "step": 8547 + }, + { + "epoch": 1.132935719019218, + "grad_norm": 0.18512561917304993, + "learning_rate": 3.439483980322986e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16747616, + "step": 8548 + }, + { + "epoch": 1.1330682571239232, + "grad_norm": 0.7280220985412598, + "learning_rate": 3.439162277944717e-06, + "loss": 0.0066, + "num_input_tokens_seen": 16749264, + "step": 8549 + }, + { + "epoch": 1.1332007952286283, + "grad_norm": 9.674351692199707, + "learning_rate": 3.4388405574587514e-06, + "loss": 0.0297, + "num_input_tokens_seen": 16751824, + "step": 8550 + }, + { + "epoch": 1.1333333333333333, + "grad_norm": 1.0557432174682617, + "learning_rate": 3.4385188188712925e-06, + "loss": 0.0431, + "num_input_tokens_seen": 16752856, + "step": 8551 + }, + { + "epoch": 1.1334658714380383, + "grad_norm": 0.1130351796746254, + "learning_rate": 3.4381970621885424e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16754504, + "step": 8552 + }, + { + "epoch": 1.1335984095427436, + "grad_norm": 27.402082443237305, + "learning_rate": 3.4378752874167063e-06, + "loss": 0.1206, + "num_input_tokens_seen": 16755752, + "step": 8553 + }, + { + "epoch": 1.1337309476474486, + "grad_norm": 0.10342779010534286, + "learning_rate": 3.4375534945619877e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16756888, + "step": 8554 + }, + { + "epoch": 1.1338634857521537, + "grad_norm": 7.233067512512207, + "learning_rate": 3.4372316836305903e-06, + "loss": 0.1272, + "num_input_tokens_seen": 16758592, + "step": 8555 + }, + { + "epoch": 1.133996023856859, + "grad_norm": 0.7266532778739929, + "learning_rate": 3.4369098546287204e-06, + "loss": 0.0036, + "num_input_tokens_seen": 16760264, + "step": 8556 + }, + { + "epoch": 1.134128561961564, + "grad_norm": 7.788826942443848, + "learning_rate": 3.436588007562581e-06, + "loss": 0.2243, + "num_input_tokens_seen": 16762048, + "step": 8557 + }, + { + "epoch": 1.134261100066269, + "grad_norm": 1.5146348476409912, + "learning_rate": 3.4362661424383796e-06, + "loss": 0.0169, + "num_input_tokens_seen": 16764680, + "step": 8558 + }, + { + "epoch": 1.134393638170974, + "grad_norm": 4.772076606750488, + "learning_rate": 3.4359442592623216e-06, + "loss": 0.0222, + "num_input_tokens_seen": 16766512, + "step": 8559 + }, + { + "epoch": 1.1345261762756793, + "grad_norm": 2.7049789428710938, + "learning_rate": 3.4356223580406116e-06, + "loss": 0.0284, + "num_input_tokens_seen": 16768720, + "step": 8560 + }, + { + "epoch": 1.1346587143803843, + "grad_norm": 0.32087281346321106, + "learning_rate": 3.4353004387794576e-06, + "loss": 0.0016, + "num_input_tokens_seen": 16770648, + "step": 8561 + }, + { + "epoch": 1.1347912524850894, + "grad_norm": 0.4021240472793579, + "learning_rate": 3.4349785014850657e-06, + "loss": 0.0038, + "num_input_tokens_seen": 16773168, + "step": 8562 + }, + { + "epoch": 1.1349237905897946, + "grad_norm": 12.813952445983887, + "learning_rate": 3.4346565461636434e-06, + "loss": 0.3589, + "num_input_tokens_seen": 16775128, + "step": 8563 + }, + { + "epoch": 1.1350563286944997, + "grad_norm": 3.23867130279541, + "learning_rate": 3.4343345728213974e-06, + "loss": 0.0269, + "num_input_tokens_seen": 16777664, + "step": 8564 + }, + { + "epoch": 1.1351888667992047, + "grad_norm": 10.377969741821289, + "learning_rate": 3.434012581464537e-06, + "loss": 0.3502, + "num_input_tokens_seen": 16781208, + "step": 8565 + }, + { + "epoch": 1.1353214049039098, + "grad_norm": 7.261528968811035, + "learning_rate": 3.4336905720992697e-06, + "loss": 0.128, + "num_input_tokens_seen": 16783448, + "step": 8566 + }, + { + "epoch": 1.135453943008615, + "grad_norm": 2.609156370162964, + "learning_rate": 3.4333685447318037e-06, + "loss": 0.085, + "num_input_tokens_seen": 16786232, + "step": 8567 + }, + { + "epoch": 1.13558648111332, + "grad_norm": 9.573345184326172, + "learning_rate": 3.4330464993683486e-06, + "loss": 0.2338, + "num_input_tokens_seen": 16788064, + "step": 8568 + }, + { + "epoch": 1.135719019218025, + "grad_norm": 0.07628241926431656, + "learning_rate": 3.4327244360151135e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16789536, + "step": 8569 + }, + { + "epoch": 1.1358515573227304, + "grad_norm": 6.021028518676758, + "learning_rate": 3.4324023546783068e-06, + "loss": 0.1291, + "num_input_tokens_seen": 16791576, + "step": 8570 + }, + { + "epoch": 1.1359840954274354, + "grad_norm": 13.60378646850586, + "learning_rate": 3.432080255364141e-06, + "loss": 0.1604, + "num_input_tokens_seen": 16794792, + "step": 8571 + }, + { + "epoch": 1.1361166335321404, + "grad_norm": 1.469277024269104, + "learning_rate": 3.4317581380788235e-06, + "loss": 0.0116, + "num_input_tokens_seen": 16796424, + "step": 8572 + }, + { + "epoch": 1.1362491716368457, + "grad_norm": 0.05658235028386116, + "learning_rate": 3.4314360028285666e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16798632, + "step": 8573 + }, + { + "epoch": 1.1363817097415507, + "grad_norm": 13.66796875, + "learning_rate": 3.4311138496195815e-06, + "loss": 0.5306, + "num_input_tokens_seen": 16800288, + "step": 8574 + }, + { + "epoch": 1.1365142478462558, + "grad_norm": 10.541521072387695, + "learning_rate": 3.4307916784580787e-06, + "loss": 0.2313, + "num_input_tokens_seen": 16802192, + "step": 8575 + }, + { + "epoch": 1.136646785950961, + "grad_norm": 3.4167089462280273, + "learning_rate": 3.43046948935027e-06, + "loss": 0.0074, + "num_input_tokens_seen": 16804920, + "step": 8576 + }, + { + "epoch": 1.136779324055666, + "grad_norm": 0.1870068907737732, + "learning_rate": 3.4301472823023685e-06, + "loss": 0.0013, + "num_input_tokens_seen": 16806616, + "step": 8577 + }, + { + "epoch": 1.136911862160371, + "grad_norm": 0.06414901465177536, + "learning_rate": 3.429825057320585e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16808272, + "step": 8578 + }, + { + "epoch": 1.1370444002650761, + "grad_norm": 9.337677001953125, + "learning_rate": 3.429502814411133e-06, + "loss": 0.1495, + "num_input_tokens_seen": 16810728, + "step": 8579 + }, + { + "epoch": 1.1371769383697814, + "grad_norm": 28.958005905151367, + "learning_rate": 3.429180553580226e-06, + "loss": 1.0032, + "num_input_tokens_seen": 16812272, + "step": 8580 + }, + { + "epoch": 1.1373094764744864, + "grad_norm": 0.24584613740444183, + "learning_rate": 3.4288582748340767e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16815112, + "step": 8581 + }, + { + "epoch": 1.1374420145791915, + "grad_norm": 0.05927819386124611, + "learning_rate": 3.4285359781788986e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16816600, + "step": 8582 + }, + { + "epoch": 1.1375745526838967, + "grad_norm": 12.961067199707031, + "learning_rate": 3.4282136636209067e-06, + "loss": 0.1441, + "num_input_tokens_seen": 16818760, + "step": 8583 + }, + { + "epoch": 1.1377070907886018, + "grad_norm": 5.697150230407715, + "learning_rate": 3.4278913311663143e-06, + "loss": 0.0394, + "num_input_tokens_seen": 16821048, + "step": 8584 + }, + { + "epoch": 1.1378396288933068, + "grad_norm": 0.09280016273260117, + "learning_rate": 3.427568980821338e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16823120, + "step": 8585 + }, + { + "epoch": 1.1379721669980118, + "grad_norm": 4.647305011749268, + "learning_rate": 3.427246612592191e-06, + "loss": 0.1233, + "num_input_tokens_seen": 16824600, + "step": 8586 + }, + { + "epoch": 1.138104705102717, + "grad_norm": 11.824877738952637, + "learning_rate": 3.42692422648509e-06, + "loss": 0.4268, + "num_input_tokens_seen": 16826944, + "step": 8587 + }, + { + "epoch": 1.1382372432074221, + "grad_norm": 8.499072074890137, + "learning_rate": 3.426601822506251e-06, + "loss": 0.0912, + "num_input_tokens_seen": 16828376, + "step": 8588 + }, + { + "epoch": 1.1383697813121272, + "grad_norm": 9.63304328918457, + "learning_rate": 3.426279400661889e-06, + "loss": 0.1826, + "num_input_tokens_seen": 16830352, + "step": 8589 + }, + { + "epoch": 1.1385023194168324, + "grad_norm": 0.0502646341919899, + "learning_rate": 3.425956960958221e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16831528, + "step": 8590 + }, + { + "epoch": 1.1386348575215375, + "grad_norm": 1.0173084735870361, + "learning_rate": 3.4256345034014637e-06, + "loss": 0.0115, + "num_input_tokens_seen": 16833528, + "step": 8591 + }, + { + "epoch": 1.1387673956262425, + "grad_norm": 7.693487644195557, + "learning_rate": 3.425312027997836e-06, + "loss": 0.0833, + "num_input_tokens_seen": 16835576, + "step": 8592 + }, + { + "epoch": 1.1388999337309476, + "grad_norm": 9.145318984985352, + "learning_rate": 3.424989534753553e-06, + "loss": 0.2436, + "num_input_tokens_seen": 16837720, + "step": 8593 + }, + { + "epoch": 1.1390324718356528, + "grad_norm": 4.3246026039123535, + "learning_rate": 3.4246670236748336e-06, + "loss": 0.0666, + "num_input_tokens_seen": 16839288, + "step": 8594 + }, + { + "epoch": 1.1391650099403579, + "grad_norm": 0.0994713082909584, + "learning_rate": 3.4243444947678966e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16841224, + "step": 8595 + }, + { + "epoch": 1.139297548045063, + "grad_norm": 9.752495765686035, + "learning_rate": 3.4240219480389603e-06, + "loss": 0.0352, + "num_input_tokens_seen": 16842736, + "step": 8596 + }, + { + "epoch": 1.1394300861497682, + "grad_norm": 0.5212600827217102, + "learning_rate": 3.4236993834942424e-06, + "loss": 0.0046, + "num_input_tokens_seen": 16844640, + "step": 8597 + }, + { + "epoch": 1.1395626242544732, + "grad_norm": 8.79934310913086, + "learning_rate": 3.423376801139964e-06, + "loss": 0.179, + "num_input_tokens_seen": 16846960, + "step": 8598 + }, + { + "epoch": 1.1396951623591782, + "grad_norm": 12.062625885009766, + "learning_rate": 3.4230542009823433e-06, + "loss": 0.4201, + "num_input_tokens_seen": 16849056, + "step": 8599 + }, + { + "epoch": 1.1398277004638833, + "grad_norm": 8.590723991394043, + "learning_rate": 3.4227315830276007e-06, + "loss": 0.1873, + "num_input_tokens_seen": 16851072, + "step": 8600 + }, + { + "epoch": 1.1399602385685885, + "grad_norm": 11.714760780334473, + "learning_rate": 3.4224089472819578e-06, + "loss": 0.3325, + "num_input_tokens_seen": 16852968, + "step": 8601 + }, + { + "epoch": 1.1400927766732936, + "grad_norm": 7.744892120361328, + "learning_rate": 3.4220862937516324e-06, + "loss": 0.0432, + "num_input_tokens_seen": 16854504, + "step": 8602 + }, + { + "epoch": 1.1402253147779986, + "grad_norm": 0.4743809103965759, + "learning_rate": 3.4217636224428487e-06, + "loss": 0.0047, + "num_input_tokens_seen": 16855760, + "step": 8603 + }, + { + "epoch": 1.1403578528827039, + "grad_norm": 0.1568261682987213, + "learning_rate": 3.4214409333618255e-06, + "loss": 0.001, + "num_input_tokens_seen": 16857648, + "step": 8604 + }, + { + "epoch": 1.140490390987409, + "grad_norm": 0.8237578272819519, + "learning_rate": 3.421118226514786e-06, + "loss": 0.007, + "num_input_tokens_seen": 16859656, + "step": 8605 + }, + { + "epoch": 1.140622929092114, + "grad_norm": 0.2042047083377838, + "learning_rate": 3.4207955019079516e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16861256, + "step": 8606 + }, + { + "epoch": 1.140755467196819, + "grad_norm": 5.378801345825195, + "learning_rate": 3.4204727595475438e-06, + "loss": 0.0157, + "num_input_tokens_seen": 16862968, + "step": 8607 + }, + { + "epoch": 1.1408880053015242, + "grad_norm": 2.959404945373535, + "learning_rate": 3.420149999439787e-06, + "loss": 0.0851, + "num_input_tokens_seen": 16864488, + "step": 8608 + }, + { + "epoch": 1.1410205434062293, + "grad_norm": 9.210344314575195, + "learning_rate": 3.4198272215909035e-06, + "loss": 0.1908, + "num_input_tokens_seen": 16866600, + "step": 8609 + }, + { + "epoch": 1.1411530815109343, + "grad_norm": 4.894270420074463, + "learning_rate": 3.4195044260071166e-06, + "loss": 0.0978, + "num_input_tokens_seen": 16868360, + "step": 8610 + }, + { + "epoch": 1.1412856196156396, + "grad_norm": 12.243182182312012, + "learning_rate": 3.419181612694649e-06, + "loss": 0.346, + "num_input_tokens_seen": 16870248, + "step": 8611 + }, + { + "epoch": 1.1414181577203446, + "grad_norm": 5.7628865242004395, + "learning_rate": 3.4188587816597267e-06, + "loss": 0.139, + "num_input_tokens_seen": 16872056, + "step": 8612 + }, + { + "epoch": 1.1415506958250496, + "grad_norm": 8.342791557312012, + "learning_rate": 3.4185359329085736e-06, + "loss": 0.1827, + "num_input_tokens_seen": 16874344, + "step": 8613 + }, + { + "epoch": 1.1416832339297547, + "grad_norm": 6.55029296875, + "learning_rate": 3.4182130664474133e-06, + "loss": 0.1378, + "num_input_tokens_seen": 16876920, + "step": 8614 + }, + { + "epoch": 1.14181577203446, + "grad_norm": 1.6190155744552612, + "learning_rate": 3.4178901822824716e-06, + "loss": 0.0117, + "num_input_tokens_seen": 16879016, + "step": 8615 + }, + { + "epoch": 1.141948310139165, + "grad_norm": 1.389581561088562, + "learning_rate": 3.417567280419975e-06, + "loss": 0.0095, + "num_input_tokens_seen": 16880992, + "step": 8616 + }, + { + "epoch": 1.14208084824387, + "grad_norm": 0.3550684154033661, + "learning_rate": 3.4172443608661467e-06, + "loss": 0.0026, + "num_input_tokens_seen": 16883216, + "step": 8617 + }, + { + "epoch": 1.1422133863485753, + "grad_norm": 2.869988203048706, + "learning_rate": 3.4169214236272158e-06, + "loss": 0.032, + "num_input_tokens_seen": 16884464, + "step": 8618 + }, + { + "epoch": 1.1423459244532803, + "grad_norm": 0.21294815838336945, + "learning_rate": 3.4165984687094066e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16886104, + "step": 8619 + }, + { + "epoch": 1.1424784625579854, + "grad_norm": 0.3610846996307373, + "learning_rate": 3.4162754961189457e-06, + "loss": 0.003, + "num_input_tokens_seen": 16888032, + "step": 8620 + }, + { + "epoch": 1.1426110006626906, + "grad_norm": 0.8468477129936218, + "learning_rate": 3.415952505862063e-06, + "loss": 0.0054, + "num_input_tokens_seen": 16890352, + "step": 8621 + }, + { + "epoch": 1.1427435387673957, + "grad_norm": 7.751956939697266, + "learning_rate": 3.4156294979449835e-06, + "loss": 0.0654, + "num_input_tokens_seen": 16892352, + "step": 8622 + }, + { + "epoch": 1.1428760768721007, + "grad_norm": 0.08117523789405823, + "learning_rate": 3.415306472373935e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16893360, + "step": 8623 + }, + { + "epoch": 1.143008614976806, + "grad_norm": 1.9368408918380737, + "learning_rate": 3.4149834291551466e-06, + "loss": 0.0329, + "num_input_tokens_seen": 16894880, + "step": 8624 + }, + { + "epoch": 1.143141153081511, + "grad_norm": 5.319334030151367, + "learning_rate": 3.4146603682948466e-06, + "loss": 0.0462, + "num_input_tokens_seen": 16896920, + "step": 8625 + }, + { + "epoch": 1.143273691186216, + "grad_norm": 3.5588929653167725, + "learning_rate": 3.4143372897992634e-06, + "loss": 0.0222, + "num_input_tokens_seen": 16898832, + "step": 8626 + }, + { + "epoch": 1.143406229290921, + "grad_norm": 2.9614055156707764, + "learning_rate": 3.414014193674627e-06, + "loss": 0.0553, + "num_input_tokens_seen": 16900728, + "step": 8627 + }, + { + "epoch": 1.1435387673956263, + "grad_norm": 7.509366035461426, + "learning_rate": 3.4136910799271656e-06, + "loss": 0.1376, + "num_input_tokens_seen": 16902536, + "step": 8628 + }, + { + "epoch": 1.1436713055003314, + "grad_norm": 0.03411921486258507, + "learning_rate": 3.41336794856311e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16903816, + "step": 8629 + }, + { + "epoch": 1.1438038436050364, + "grad_norm": 4.779444217681885, + "learning_rate": 3.4130447995886906e-06, + "loss": 0.1106, + "num_input_tokens_seen": 16907368, + "step": 8630 + }, + { + "epoch": 1.1439363817097417, + "grad_norm": 0.25097790360450745, + "learning_rate": 3.4127216330101377e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16909584, + "step": 8631 + }, + { + "epoch": 1.1440689198144467, + "grad_norm": 3.9529929161071777, + "learning_rate": 3.412398448833682e-06, + "loss": 0.0902, + "num_input_tokens_seen": 16911576, + "step": 8632 + }, + { + "epoch": 1.1442014579191517, + "grad_norm": 9.972177505493164, + "learning_rate": 3.4120752470655544e-06, + "loss": 0.3206, + "num_input_tokens_seen": 16913736, + "step": 8633 + }, + { + "epoch": 1.1443339960238568, + "grad_norm": 2.711470365524292, + "learning_rate": 3.4117520277119873e-06, + "loss": 0.0659, + "num_input_tokens_seen": 16916368, + "step": 8634 + }, + { + "epoch": 1.144466534128562, + "grad_norm": 2.3460464477539062, + "learning_rate": 3.4114287907792115e-06, + "loss": 0.0141, + "num_input_tokens_seen": 16917920, + "step": 8635 + }, + { + "epoch": 1.144599072233267, + "grad_norm": 0.07205978035926819, + "learning_rate": 3.4111055362734608e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16919792, + "step": 8636 + }, + { + "epoch": 1.144731610337972, + "grad_norm": 9.346211433410645, + "learning_rate": 3.410782264200966e-06, + "loss": 0.1025, + "num_input_tokens_seen": 16922320, + "step": 8637 + }, + { + "epoch": 1.1448641484426774, + "grad_norm": 24.722517013549805, + "learning_rate": 3.4104589745679604e-06, + "loss": 0.2614, + "num_input_tokens_seen": 16924920, + "step": 8638 + }, + { + "epoch": 1.1449966865473824, + "grad_norm": 1.5098464488983154, + "learning_rate": 3.4101356673806795e-06, + "loss": 0.0266, + "num_input_tokens_seen": 16926552, + "step": 8639 + }, + { + "epoch": 1.1451292246520874, + "grad_norm": 6.394235134124756, + "learning_rate": 3.409812342645353e-06, + "loss": 0.0603, + "num_input_tokens_seen": 16928760, + "step": 8640 + }, + { + "epoch": 1.1452617627567925, + "grad_norm": 7.629454612731934, + "learning_rate": 3.4094890003682184e-06, + "loss": 0.1967, + "num_input_tokens_seen": 16930536, + "step": 8641 + }, + { + "epoch": 1.1453943008614977, + "grad_norm": 12.822225570678711, + "learning_rate": 3.4091656405555085e-06, + "loss": 0.125, + "num_input_tokens_seen": 16931840, + "step": 8642 + }, + { + "epoch": 1.1455268389662028, + "grad_norm": 7.744934558868408, + "learning_rate": 3.4088422632134565e-06, + "loss": 0.0942, + "num_input_tokens_seen": 16933560, + "step": 8643 + }, + { + "epoch": 1.1456593770709078, + "grad_norm": 2.90161395072937, + "learning_rate": 3.4085188683482994e-06, + "loss": 0.0434, + "num_input_tokens_seen": 16936544, + "step": 8644 + }, + { + "epoch": 1.145791915175613, + "grad_norm": 0.41321036219596863, + "learning_rate": 3.4081954559662723e-06, + "loss": 0.0033, + "num_input_tokens_seen": 16938360, + "step": 8645 + }, + { + "epoch": 1.1459244532803181, + "grad_norm": 4.784876823425293, + "learning_rate": 3.4078720260736097e-06, + "loss": 0.0545, + "num_input_tokens_seen": 16939984, + "step": 8646 + }, + { + "epoch": 1.1460569913850231, + "grad_norm": 0.05184270441532135, + "learning_rate": 3.4075485786765483e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16941576, + "step": 8647 + }, + { + "epoch": 1.1461895294897282, + "grad_norm": 0.04907209426164627, + "learning_rate": 3.407225113781324e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16942856, + "step": 8648 + }, + { + "epoch": 1.1463220675944334, + "grad_norm": 10.976516723632812, + "learning_rate": 3.406901631394174e-06, + "loss": 0.1819, + "num_input_tokens_seen": 16944888, + "step": 8649 + }, + { + "epoch": 1.1464546056991385, + "grad_norm": 0.14874796569347382, + "learning_rate": 3.406578131521334e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16946184, + "step": 8650 + }, + { + "epoch": 1.1465871438038435, + "grad_norm": 3.850764751434326, + "learning_rate": 3.4062546141690434e-06, + "loss": 0.0665, + "num_input_tokens_seen": 16948024, + "step": 8651 + }, + { + "epoch": 1.1467196819085488, + "grad_norm": 9.90334415435791, + "learning_rate": 3.4059310793435376e-06, + "loss": 0.0879, + "num_input_tokens_seen": 16950304, + "step": 8652 + }, + { + "epoch": 1.1468522200132538, + "grad_norm": 9.862438201904297, + "learning_rate": 3.4056075270510565e-06, + "loss": 0.2046, + "num_input_tokens_seen": 16951704, + "step": 8653 + }, + { + "epoch": 1.1469847581179589, + "grad_norm": 1.0565545558929443, + "learning_rate": 3.405283957297837e-06, + "loss": 0.004, + "num_input_tokens_seen": 16953216, + "step": 8654 + }, + { + "epoch": 1.147117296222664, + "grad_norm": 6.22489070892334, + "learning_rate": 3.4049603700901184e-06, + "loss": 0.1233, + "num_input_tokens_seen": 16954928, + "step": 8655 + }, + { + "epoch": 1.1472498343273692, + "grad_norm": 5.998757362365723, + "learning_rate": 3.4046367654341394e-06, + "loss": 0.1288, + "num_input_tokens_seen": 16956992, + "step": 8656 + }, + { + "epoch": 1.1473823724320742, + "grad_norm": 4.141188621520996, + "learning_rate": 3.40431314333614e-06, + "loss": 0.0637, + "num_input_tokens_seen": 16959792, + "step": 8657 + }, + { + "epoch": 1.1475149105367792, + "grad_norm": 2.5851380825042725, + "learning_rate": 3.4039895038023592e-06, + "loss": 0.0225, + "num_input_tokens_seen": 16961448, + "step": 8658 + }, + { + "epoch": 1.1476474486414845, + "grad_norm": 0.15643319487571716, + "learning_rate": 3.4036658468390366e-06, + "loss": 0.001, + "num_input_tokens_seen": 16963488, + "step": 8659 + }, + { + "epoch": 1.1477799867461895, + "grad_norm": 0.035852137953042984, + "learning_rate": 3.403342172452414e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16964760, + "step": 8660 + }, + { + "epoch": 1.1479125248508946, + "grad_norm": 0.08998502045869827, + "learning_rate": 3.4030184806487302e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16966968, + "step": 8661 + }, + { + "epoch": 1.1480450629555998, + "grad_norm": 0.19321848452091217, + "learning_rate": 3.4026947714342275e-06, + "loss": 0.001, + "num_input_tokens_seen": 16968520, + "step": 8662 + }, + { + "epoch": 1.1481776010603049, + "grad_norm": 14.807652473449707, + "learning_rate": 3.402371044815147e-06, + "loss": 0.5693, + "num_input_tokens_seen": 16970704, + "step": 8663 + }, + { + "epoch": 1.14831013916501, + "grad_norm": 2.8694050312042236, + "learning_rate": 3.4020473007977295e-06, + "loss": 0.0128, + "num_input_tokens_seen": 16972008, + "step": 8664 + }, + { + "epoch": 1.1484426772697152, + "grad_norm": 0.16470128297805786, + "learning_rate": 3.401723539388219e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16973256, + "step": 8665 + }, + { + "epoch": 1.1485752153744202, + "grad_norm": 10.99104118347168, + "learning_rate": 3.4013997605928554e-06, + "loss": 0.2464, + "num_input_tokens_seen": 16976024, + "step": 8666 + }, + { + "epoch": 1.1487077534791252, + "grad_norm": 1.039171576499939, + "learning_rate": 3.4010759644178837e-06, + "loss": 0.0036, + "num_input_tokens_seen": 16977536, + "step": 8667 + }, + { + "epoch": 1.1488402915838303, + "grad_norm": 11.11103630065918, + "learning_rate": 3.400752150869545e-06, + "loss": 0.209, + "num_input_tokens_seen": 16979848, + "step": 8668 + }, + { + "epoch": 1.1489728296885355, + "grad_norm": 15.490960121154785, + "learning_rate": 3.400428319954084e-06, + "loss": 0.3856, + "num_input_tokens_seen": 16982056, + "step": 8669 + }, + { + "epoch": 1.1491053677932406, + "grad_norm": 6.847944736480713, + "learning_rate": 3.4001044716777433e-06, + "loss": 0.081, + "num_input_tokens_seen": 16984128, + "step": 8670 + }, + { + "epoch": 1.1492379058979456, + "grad_norm": 4.964559078216553, + "learning_rate": 3.3997806060467674e-06, + "loss": 0.0964, + "num_input_tokens_seen": 16986376, + "step": 8671 + }, + { + "epoch": 1.1493704440026509, + "grad_norm": 7.073760032653809, + "learning_rate": 3.3994567230674014e-06, + "loss": 0.2158, + "num_input_tokens_seen": 16988168, + "step": 8672 + }, + { + "epoch": 1.149502982107356, + "grad_norm": 7.601524829864502, + "learning_rate": 3.3991328227458888e-06, + "loss": 0.2519, + "num_input_tokens_seen": 16990656, + "step": 8673 + }, + { + "epoch": 1.149635520212061, + "grad_norm": 10.729582786560059, + "learning_rate": 3.3988089050884743e-06, + "loss": 0.2365, + "num_input_tokens_seen": 16992392, + "step": 8674 + }, + { + "epoch": 1.149768058316766, + "grad_norm": 0.0676494613289833, + "learning_rate": 3.3984849701014056e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16993816, + "step": 8675 + }, + { + "epoch": 1.1499005964214712, + "grad_norm": 3.9291961193084717, + "learning_rate": 3.3981610177909258e-06, + "loss": 0.1051, + "num_input_tokens_seen": 16995152, + "step": 8676 + }, + { + "epoch": 1.1500331345261763, + "grad_norm": 13.542081832885742, + "learning_rate": 3.397837048163282e-06, + "loss": 0.2971, + "num_input_tokens_seen": 16996304, + "step": 8677 + }, + { + "epoch": 1.1501656726308813, + "grad_norm": 14.670005798339844, + "learning_rate": 3.3975130612247207e-06, + "loss": 0.2928, + "num_input_tokens_seen": 16998200, + "step": 8678 + }, + { + "epoch": 1.1502982107355866, + "grad_norm": 15.614364624023438, + "learning_rate": 3.397189056981488e-06, + "loss": 0.3072, + "num_input_tokens_seen": 17001128, + "step": 8679 + }, + { + "epoch": 1.1504307488402916, + "grad_norm": 9.3743257522583, + "learning_rate": 3.3968650354398324e-06, + "loss": 0.291, + "num_input_tokens_seen": 17004160, + "step": 8680 + }, + { + "epoch": 1.1505632869449967, + "grad_norm": 7.353440761566162, + "learning_rate": 3.3965409966060005e-06, + "loss": 0.0589, + "num_input_tokens_seen": 17006208, + "step": 8681 + }, + { + "epoch": 1.1506958250497017, + "grad_norm": 3.036517381668091, + "learning_rate": 3.396216940486238e-06, + "loss": 0.074, + "num_input_tokens_seen": 17007928, + "step": 8682 + }, + { + "epoch": 1.150828363154407, + "grad_norm": 4.513935089111328, + "learning_rate": 3.395892867086795e-06, + "loss": 0.0803, + "num_input_tokens_seen": 17010984, + "step": 8683 + }, + { + "epoch": 1.150960901259112, + "grad_norm": 0.15509624779224396, + "learning_rate": 3.3955687764139212e-06, + "loss": 0.001, + "num_input_tokens_seen": 17012576, + "step": 8684 + }, + { + "epoch": 1.151093439363817, + "grad_norm": 9.42901611328125, + "learning_rate": 3.3952446684738615e-06, + "loss": 0.2047, + "num_input_tokens_seen": 17014296, + "step": 8685 + }, + { + "epoch": 1.1512259774685223, + "grad_norm": 8.755342483520508, + "learning_rate": 3.3949205432728682e-06, + "loss": 0.1312, + "num_input_tokens_seen": 17016056, + "step": 8686 + }, + { + "epoch": 1.1513585155732273, + "grad_norm": 7.112166881561279, + "learning_rate": 3.3945964008171883e-06, + "loss": 0.2424, + "num_input_tokens_seen": 17018624, + "step": 8687 + }, + { + "epoch": 1.1514910536779324, + "grad_norm": 2.068117141723633, + "learning_rate": 3.3942722411130737e-06, + "loss": 0.0248, + "num_input_tokens_seen": 17020176, + "step": 8688 + }, + { + "epoch": 1.1516235917826374, + "grad_norm": 13.561476707458496, + "learning_rate": 3.3939480641667733e-06, + "loss": 0.1434, + "num_input_tokens_seen": 17021880, + "step": 8689 + }, + { + "epoch": 1.1517561298873427, + "grad_norm": 0.6590791940689087, + "learning_rate": 3.393623869984537e-06, + "loss": 0.0043, + "num_input_tokens_seen": 17023504, + "step": 8690 + }, + { + "epoch": 1.1518886679920477, + "grad_norm": 1.3271563053131104, + "learning_rate": 3.3932996585726163e-06, + "loss": 0.0085, + "num_input_tokens_seen": 17026128, + "step": 8691 + }, + { + "epoch": 1.1520212060967527, + "grad_norm": 3.6453139781951904, + "learning_rate": 3.392975429937262e-06, + "loss": 0.0445, + "num_input_tokens_seen": 17027896, + "step": 8692 + }, + { + "epoch": 1.152153744201458, + "grad_norm": 2.0067014694213867, + "learning_rate": 3.3926511840847254e-06, + "loss": 0.024, + "num_input_tokens_seen": 17029832, + "step": 8693 + }, + { + "epoch": 1.152286282306163, + "grad_norm": 5.881217002868652, + "learning_rate": 3.392326921021258e-06, + "loss": 0.2421, + "num_input_tokens_seen": 17031512, + "step": 8694 + }, + { + "epoch": 1.152418820410868, + "grad_norm": 3.375748634338379, + "learning_rate": 3.3920026407531115e-06, + "loss": 0.0451, + "num_input_tokens_seen": 17033120, + "step": 8695 + }, + { + "epoch": 1.152551358515573, + "grad_norm": 5.98948860168457, + "learning_rate": 3.3916783432865398e-06, + "loss": 0.102, + "num_input_tokens_seen": 17034784, + "step": 8696 + }, + { + "epoch": 1.1526838966202784, + "grad_norm": 0.6252455711364746, + "learning_rate": 3.3913540286277937e-06, + "loss": 0.0046, + "num_input_tokens_seen": 17037424, + "step": 8697 + }, + { + "epoch": 1.1528164347249834, + "grad_norm": 1.4617334604263306, + "learning_rate": 3.391029696783127e-06, + "loss": 0.0105, + "num_input_tokens_seen": 17039472, + "step": 8698 + }, + { + "epoch": 1.1529489728296884, + "grad_norm": 6.784725666046143, + "learning_rate": 3.3907053477587937e-06, + "loss": 0.0522, + "num_input_tokens_seen": 17041544, + "step": 8699 + }, + { + "epoch": 1.1530815109343937, + "grad_norm": 0.046742189675569534, + "learning_rate": 3.3903809815610455e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17043040, + "step": 8700 + }, + { + "epoch": 1.1532140490390987, + "grad_norm": 5.8381500244140625, + "learning_rate": 3.3900565981961396e-06, + "loss": 0.0453, + "num_input_tokens_seen": 17044584, + "step": 8701 + }, + { + "epoch": 1.1533465871438038, + "grad_norm": 4.4542951583862305, + "learning_rate": 3.389732197670327e-06, + "loss": 0.0298, + "num_input_tokens_seen": 17046776, + "step": 8702 + }, + { + "epoch": 1.153479125248509, + "grad_norm": 7.867623805999756, + "learning_rate": 3.3894077799898644e-06, + "loss": 0.1661, + "num_input_tokens_seen": 17048648, + "step": 8703 + }, + { + "epoch": 1.153611663353214, + "grad_norm": 0.014720787294209003, + "learning_rate": 3.3890833451610065e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17049784, + "step": 8704 + }, + { + "epoch": 1.1537442014579191, + "grad_norm": 8.061545372009277, + "learning_rate": 3.388758893190008e-06, + "loss": 0.1444, + "num_input_tokens_seen": 17052280, + "step": 8705 + }, + { + "epoch": 1.1538767395626244, + "grad_norm": 11.435490608215332, + "learning_rate": 3.388434424083125e-06, + "loss": 0.3489, + "num_input_tokens_seen": 17054368, + "step": 8706 + }, + { + "epoch": 1.1540092776673294, + "grad_norm": 4.209782123565674, + "learning_rate": 3.388109937846614e-06, + "loss": 0.0387, + "num_input_tokens_seen": 17056072, + "step": 8707 + }, + { + "epoch": 1.1541418157720345, + "grad_norm": 1.5468027591705322, + "learning_rate": 3.3877854344867296e-06, + "loss": 0.008, + "num_input_tokens_seen": 17057560, + "step": 8708 + }, + { + "epoch": 1.1542743538767395, + "grad_norm": 4.870978832244873, + "learning_rate": 3.38746091400973e-06, + "loss": 0.0982, + "num_input_tokens_seen": 17060200, + "step": 8709 + }, + { + "epoch": 1.1544068919814447, + "grad_norm": 8.96373462677002, + "learning_rate": 3.3871363764218723e-06, + "loss": 0.213, + "num_input_tokens_seen": 17061968, + "step": 8710 + }, + { + "epoch": 1.1545394300861498, + "grad_norm": 9.577131271362305, + "learning_rate": 3.386811821729412e-06, + "loss": 0.4016, + "num_input_tokens_seen": 17064064, + "step": 8711 + }, + { + "epoch": 1.1546719681908548, + "grad_norm": 0.036699771881103516, + "learning_rate": 3.3864872499386094e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17066600, + "step": 8712 + }, + { + "epoch": 1.15480450629556, + "grad_norm": 0.19082653522491455, + "learning_rate": 3.3861626610557198e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17068344, + "step": 8713 + }, + { + "epoch": 1.1549370444002651, + "grad_norm": 0.11535575985908508, + "learning_rate": 3.385838055087004e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17069984, + "step": 8714 + }, + { + "epoch": 1.1550695825049702, + "grad_norm": 5.328784942626953, + "learning_rate": 3.3855134320387183e-06, + "loss": 0.1432, + "num_input_tokens_seen": 17072096, + "step": 8715 + }, + { + "epoch": 1.1552021206096752, + "grad_norm": 2.4692676067352295, + "learning_rate": 3.3851887919171235e-06, + "loss": 0.0618, + "num_input_tokens_seen": 17073520, + "step": 8716 + }, + { + "epoch": 1.1553346587143805, + "grad_norm": 0.3779284954071045, + "learning_rate": 3.3848641347284777e-06, + "loss": 0.002, + "num_input_tokens_seen": 17075048, + "step": 8717 + }, + { + "epoch": 1.1554671968190855, + "grad_norm": 6.258880615234375, + "learning_rate": 3.384539460479041e-06, + "loss": 0.1501, + "num_input_tokens_seen": 17077032, + "step": 8718 + }, + { + "epoch": 1.1555997349237905, + "grad_norm": 9.282422065734863, + "learning_rate": 3.384214769175074e-06, + "loss": 0.0658, + "num_input_tokens_seen": 17078232, + "step": 8719 + }, + { + "epoch": 1.1557322730284958, + "grad_norm": 7.147819519042969, + "learning_rate": 3.383890060822835e-06, + "loss": 0.0946, + "num_input_tokens_seen": 17080504, + "step": 8720 + }, + { + "epoch": 1.1558648111332008, + "grad_norm": 0.02076355367898941, + "learning_rate": 3.383565335428587e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17082704, + "step": 8721 + }, + { + "epoch": 1.1559973492379059, + "grad_norm": 1.0376105308532715, + "learning_rate": 3.3832405929985895e-06, + "loss": 0.0054, + "num_input_tokens_seen": 17084944, + "step": 8722 + }, + { + "epoch": 1.156129887342611, + "grad_norm": 0.7480855584144592, + "learning_rate": 3.382915833539104e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17087728, + "step": 8723 + }, + { + "epoch": 1.1562624254473162, + "grad_norm": 5.616735458374023, + "learning_rate": 3.3825910570563913e-06, + "loss": 0.1466, + "num_input_tokens_seen": 17089920, + "step": 8724 + }, + { + "epoch": 1.1563949635520212, + "grad_norm": 3.6636204719543457, + "learning_rate": 3.3822662635567157e-06, + "loss": 0.016, + "num_input_tokens_seen": 17091616, + "step": 8725 + }, + { + "epoch": 1.1565275016567262, + "grad_norm": 0.12443515658378601, + "learning_rate": 3.3819414530463366e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17093336, + "step": 8726 + }, + { + "epoch": 1.1566600397614315, + "grad_norm": 7.651934623718262, + "learning_rate": 3.381616625531518e-06, + "loss": 0.0351, + "num_input_tokens_seen": 17095576, + "step": 8727 + }, + { + "epoch": 1.1567925778661365, + "grad_norm": 1.422959327697754, + "learning_rate": 3.3812917810185236e-06, + "loss": 0.017, + "num_input_tokens_seen": 17097312, + "step": 8728 + }, + { + "epoch": 1.1569251159708416, + "grad_norm": 9.669575691223145, + "learning_rate": 3.380966919513614e-06, + "loss": 0.1732, + "num_input_tokens_seen": 17099424, + "step": 8729 + }, + { + "epoch": 1.1570576540755466, + "grad_norm": 0.3030741810798645, + "learning_rate": 3.380642041023056e-06, + "loss": 0.002, + "num_input_tokens_seen": 17101528, + "step": 8730 + }, + { + "epoch": 1.1571901921802519, + "grad_norm": 4.4121575355529785, + "learning_rate": 3.3803171455531116e-06, + "loss": 0.0713, + "num_input_tokens_seen": 17104272, + "step": 8731 + }, + { + "epoch": 1.157322730284957, + "grad_norm": 10.905190467834473, + "learning_rate": 3.3799922331100447e-06, + "loss": 0.2383, + "num_input_tokens_seen": 17106512, + "step": 8732 + }, + { + "epoch": 1.157455268389662, + "grad_norm": 6.185886383056641, + "learning_rate": 3.3796673037001215e-06, + "loss": 0.1465, + "num_input_tokens_seen": 17108264, + "step": 8733 + }, + { + "epoch": 1.1575878064943672, + "grad_norm": 1.5981717109680176, + "learning_rate": 3.3793423573296053e-06, + "loss": 0.0118, + "num_input_tokens_seen": 17110024, + "step": 8734 + }, + { + "epoch": 1.1577203445990722, + "grad_norm": 6.555273056030273, + "learning_rate": 3.3790173940047616e-06, + "loss": 0.1967, + "num_input_tokens_seen": 17111920, + "step": 8735 + }, + { + "epoch": 1.1578528827037773, + "grad_norm": 0.8882776498794556, + "learning_rate": 3.3786924137318562e-06, + "loss": 0.0076, + "num_input_tokens_seen": 17113904, + "step": 8736 + }, + { + "epoch": 1.1579854208084823, + "grad_norm": 2.360891103744507, + "learning_rate": 3.378367416517155e-06, + "loss": 0.0248, + "num_input_tokens_seen": 17115560, + "step": 8737 + }, + { + "epoch": 1.1581179589131876, + "grad_norm": 9.996360778808594, + "learning_rate": 3.3780424023669245e-06, + "loss": 0.317, + "num_input_tokens_seen": 17116888, + "step": 8738 + }, + { + "epoch": 1.1582504970178926, + "grad_norm": 7.274130344390869, + "learning_rate": 3.37771737128743e-06, + "loss": 0.2716, + "num_input_tokens_seen": 17119720, + "step": 8739 + }, + { + "epoch": 1.1583830351225977, + "grad_norm": 10.05730152130127, + "learning_rate": 3.37739232328494e-06, + "loss": 0.3369, + "num_input_tokens_seen": 17122016, + "step": 8740 + }, + { + "epoch": 1.158515573227303, + "grad_norm": 0.019153209403157234, + "learning_rate": 3.37706725836572e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17123168, + "step": 8741 + }, + { + "epoch": 1.158648111332008, + "grad_norm": 0.03187284618616104, + "learning_rate": 3.376742176536038e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17126472, + "step": 8742 + }, + { + "epoch": 1.158780649436713, + "grad_norm": 2.7827870845794678, + "learning_rate": 3.3764170778021626e-06, + "loss": 0.0272, + "num_input_tokens_seen": 17128152, + "step": 8743 + }, + { + "epoch": 1.158913187541418, + "grad_norm": 0.2974751889705658, + "learning_rate": 3.376091962170361e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17130776, + "step": 8744 + }, + { + "epoch": 1.1590457256461233, + "grad_norm": 1.2216901779174805, + "learning_rate": 3.375766829646902e-06, + "loss": 0.0081, + "num_input_tokens_seen": 17132488, + "step": 8745 + }, + { + "epoch": 1.1591782637508283, + "grad_norm": 15.379068374633789, + "learning_rate": 3.375441680238055e-06, + "loss": 0.5392, + "num_input_tokens_seen": 17135232, + "step": 8746 + }, + { + "epoch": 1.1593108018555336, + "grad_norm": 1.8882536888122559, + "learning_rate": 3.3751165139500874e-06, + "loss": 0.018, + "num_input_tokens_seen": 17136664, + "step": 8747 + }, + { + "epoch": 1.1594433399602386, + "grad_norm": 7.539924621582031, + "learning_rate": 3.3747913307892703e-06, + "loss": 0.1419, + "num_input_tokens_seen": 17138984, + "step": 8748 + }, + { + "epoch": 1.1595758780649437, + "grad_norm": 7.482346534729004, + "learning_rate": 3.3744661307618725e-06, + "loss": 0.1318, + "num_input_tokens_seen": 17140888, + "step": 8749 + }, + { + "epoch": 1.1597084161696487, + "grad_norm": 0.3391251862049103, + "learning_rate": 3.3741409138741644e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17142288, + "step": 8750 + }, + { + "epoch": 1.159840954274354, + "grad_norm": 9.31494426727295, + "learning_rate": 3.3738156801324174e-06, + "loss": 0.1202, + "num_input_tokens_seen": 17143912, + "step": 8751 + }, + { + "epoch": 1.159973492379059, + "grad_norm": 7.749035835266113, + "learning_rate": 3.3734904295429006e-06, + "loss": 0.2291, + "num_input_tokens_seen": 17145648, + "step": 8752 + }, + { + "epoch": 1.160106030483764, + "grad_norm": 5.612725257873535, + "learning_rate": 3.3731651621118856e-06, + "loss": 0.147, + "num_input_tokens_seen": 17146960, + "step": 8753 + }, + { + "epoch": 1.1602385685884693, + "grad_norm": 0.039717089384794235, + "learning_rate": 3.372839877845644e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17148472, + "step": 8754 + }, + { + "epoch": 1.1603711066931743, + "grad_norm": 9.674017906188965, + "learning_rate": 3.3725145767504473e-06, + "loss": 0.2206, + "num_input_tokens_seen": 17151040, + "step": 8755 + }, + { + "epoch": 1.1605036447978794, + "grad_norm": 9.146735191345215, + "learning_rate": 3.3721892588325676e-06, + "loss": 0.2608, + "num_input_tokens_seen": 17153680, + "step": 8756 + }, + { + "epoch": 1.1606361829025844, + "grad_norm": 0.1338479369878769, + "learning_rate": 3.3718639240982777e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17155232, + "step": 8757 + }, + { + "epoch": 1.1607687210072897, + "grad_norm": 6.3811259269714355, + "learning_rate": 3.37153857255385e-06, + "loss": 0.0622, + "num_input_tokens_seen": 17156664, + "step": 8758 + }, + { + "epoch": 1.1609012591119947, + "grad_norm": 0.7668942213058472, + "learning_rate": 3.3712132042055567e-06, + "loss": 0.0148, + "num_input_tokens_seen": 17158448, + "step": 8759 + }, + { + "epoch": 1.1610337972166997, + "grad_norm": 7.476630210876465, + "learning_rate": 3.3708878190596724e-06, + "loss": 0.0352, + "num_input_tokens_seen": 17159800, + "step": 8760 + }, + { + "epoch": 1.161166335321405, + "grad_norm": 1.237681269645691, + "learning_rate": 3.37056241712247e-06, + "loss": 0.0139, + "num_input_tokens_seen": 17162024, + "step": 8761 + }, + { + "epoch": 1.16129887342611, + "grad_norm": 0.022176114842295647, + "learning_rate": 3.3702369984002227e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17163368, + "step": 8762 + }, + { + "epoch": 1.161431411530815, + "grad_norm": 9.826338768005371, + "learning_rate": 3.3699115628992076e-06, + "loss": 0.205, + "num_input_tokens_seen": 17165672, + "step": 8763 + }, + { + "epoch": 1.1615639496355201, + "grad_norm": 10.378432273864746, + "learning_rate": 3.3695861106256966e-06, + "loss": 0.136, + "num_input_tokens_seen": 17167416, + "step": 8764 + }, + { + "epoch": 1.1616964877402254, + "grad_norm": 14.10642147064209, + "learning_rate": 3.369260641585964e-06, + "loss": 0.4722, + "num_input_tokens_seen": 17169800, + "step": 8765 + }, + { + "epoch": 1.1618290258449304, + "grad_norm": 13.667675018310547, + "learning_rate": 3.3689351557862886e-06, + "loss": 0.0734, + "num_input_tokens_seen": 17172424, + "step": 8766 + }, + { + "epoch": 1.1619615639496355, + "grad_norm": 3.496528387069702, + "learning_rate": 3.368609653232944e-06, + "loss": 0.0264, + "num_input_tokens_seen": 17173912, + "step": 8767 + }, + { + "epoch": 1.1620941020543407, + "grad_norm": 2.0171031951904297, + "learning_rate": 3.368284133932204e-06, + "loss": 0.0165, + "num_input_tokens_seen": 17175872, + "step": 8768 + }, + { + "epoch": 1.1622266401590458, + "grad_norm": 10.521379470825195, + "learning_rate": 3.3679585978903483e-06, + "loss": 0.1359, + "num_input_tokens_seen": 17178296, + "step": 8769 + }, + { + "epoch": 1.1623591782637508, + "grad_norm": 15.802945137023926, + "learning_rate": 3.367633045113652e-06, + "loss": 0.3126, + "num_input_tokens_seen": 17180440, + "step": 8770 + }, + { + "epoch": 1.1624917163684558, + "grad_norm": 13.81311321258545, + "learning_rate": 3.3673074756083916e-06, + "loss": 0.3181, + "num_input_tokens_seen": 17182888, + "step": 8771 + }, + { + "epoch": 1.162624254473161, + "grad_norm": 18.235857009887695, + "learning_rate": 3.366981889380846e-06, + "loss": 0.5816, + "num_input_tokens_seen": 17184704, + "step": 8772 + }, + { + "epoch": 1.1627567925778661, + "grad_norm": 1.5781246423721313, + "learning_rate": 3.3666562864372904e-06, + "loss": 0.0182, + "num_input_tokens_seen": 17186688, + "step": 8773 + }, + { + "epoch": 1.1628893306825712, + "grad_norm": 5.09915828704834, + "learning_rate": 3.3663306667840035e-06, + "loss": 0.0392, + "num_input_tokens_seen": 17188840, + "step": 8774 + }, + { + "epoch": 1.1630218687872764, + "grad_norm": 15.1967191696167, + "learning_rate": 3.366005030427264e-06, + "loss": 0.3, + "num_input_tokens_seen": 17191464, + "step": 8775 + }, + { + "epoch": 1.1631544068919815, + "grad_norm": 3.6834731101989746, + "learning_rate": 3.365679377373351e-06, + "loss": 0.023, + "num_input_tokens_seen": 17194064, + "step": 8776 + }, + { + "epoch": 1.1632869449966865, + "grad_norm": 4.609734058380127, + "learning_rate": 3.3653537076285407e-06, + "loss": 0.107, + "num_input_tokens_seen": 17195976, + "step": 8777 + }, + { + "epoch": 1.1634194831013915, + "grad_norm": 3.198232889175415, + "learning_rate": 3.365028021199115e-06, + "loss": 0.1231, + "num_input_tokens_seen": 17197968, + "step": 8778 + }, + { + "epoch": 1.1635520212060968, + "grad_norm": 0.03016057424247265, + "learning_rate": 3.3647023180913524e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17199224, + "step": 8779 + }, + { + "epoch": 1.1636845593108018, + "grad_norm": 11.049237251281738, + "learning_rate": 3.364376598311532e-06, + "loss": 0.0792, + "num_input_tokens_seen": 17200960, + "step": 8780 + }, + { + "epoch": 1.1638170974155069, + "grad_norm": 0.27476415038108826, + "learning_rate": 3.364050861865935e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17202816, + "step": 8781 + }, + { + "epoch": 1.1639496355202121, + "grad_norm": 0.16871066391468048, + "learning_rate": 3.3637251087608407e-06, + "loss": 0.001, + "num_input_tokens_seen": 17204056, + "step": 8782 + }, + { + "epoch": 1.1640821736249172, + "grad_norm": 0.01754230447113514, + "learning_rate": 3.363399339002531e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17205152, + "step": 8783 + }, + { + "epoch": 1.1642147117296222, + "grad_norm": 0.09081870317459106, + "learning_rate": 3.3630735525972864e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17207416, + "step": 8784 + }, + { + "epoch": 1.1643472498343272, + "grad_norm": 1.478420615196228, + "learning_rate": 3.3627477495513883e-06, + "loss": 0.0044, + "num_input_tokens_seen": 17208912, + "step": 8785 + }, + { + "epoch": 1.1644797879390325, + "grad_norm": 2.149013042449951, + "learning_rate": 3.362421929871118e-06, + "loss": 0.0108, + "num_input_tokens_seen": 17210200, + "step": 8786 + }, + { + "epoch": 1.1646123260437375, + "grad_norm": 1.4341086149215698, + "learning_rate": 3.362096093562758e-06, + "loss": 0.0344, + "num_input_tokens_seen": 17211704, + "step": 8787 + }, + { + "epoch": 1.1647448641484426, + "grad_norm": 11.264973640441895, + "learning_rate": 3.3617702406325915e-06, + "loss": 0.149, + "num_input_tokens_seen": 17214104, + "step": 8788 + }, + { + "epoch": 1.1648774022531478, + "grad_norm": 16.0450382232666, + "learning_rate": 3.3614443710868995e-06, + "loss": 0.3785, + "num_input_tokens_seen": 17216184, + "step": 8789 + }, + { + "epoch": 1.1650099403578529, + "grad_norm": 0.42266690731048584, + "learning_rate": 3.3611184849319654e-06, + "loss": 0.004, + "num_input_tokens_seen": 17218296, + "step": 8790 + }, + { + "epoch": 1.165142478462558, + "grad_norm": 0.05343859642744064, + "learning_rate": 3.3607925821740734e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17219816, + "step": 8791 + }, + { + "epoch": 1.1652750165672632, + "grad_norm": 31.450143814086914, + "learning_rate": 3.360466662819506e-06, + "loss": 0.4873, + "num_input_tokens_seen": 17222224, + "step": 8792 + }, + { + "epoch": 1.1654075546719682, + "grad_norm": 2.264739513397217, + "learning_rate": 3.3601407268745483e-06, + "loss": 0.0114, + "num_input_tokens_seen": 17223744, + "step": 8793 + }, + { + "epoch": 1.1655400927766733, + "grad_norm": 10.350147247314453, + "learning_rate": 3.3598147743454844e-06, + "loss": 0.2334, + "num_input_tokens_seen": 17226088, + "step": 8794 + }, + { + "epoch": 1.1656726308813785, + "grad_norm": 6.459985733032227, + "learning_rate": 3.3594888052385975e-06, + "loss": 0.1633, + "num_input_tokens_seen": 17227808, + "step": 8795 + }, + { + "epoch": 1.1658051689860836, + "grad_norm": 0.018837304785847664, + "learning_rate": 3.3591628195601737e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17229008, + "step": 8796 + }, + { + "epoch": 1.1659377070907886, + "grad_norm": 10.784920692443848, + "learning_rate": 3.3588368173164985e-06, + "loss": 0.1736, + "num_input_tokens_seen": 17230216, + "step": 8797 + }, + { + "epoch": 1.1660702451954936, + "grad_norm": 1.151878833770752, + "learning_rate": 3.358510798513857e-06, + "loss": 0.0108, + "num_input_tokens_seen": 17232856, + "step": 8798 + }, + { + "epoch": 1.1662027833001989, + "grad_norm": 2.6485376358032227, + "learning_rate": 3.358184763158535e-06, + "loss": 0.0494, + "num_input_tokens_seen": 17234728, + "step": 8799 + }, + { + "epoch": 1.166335321404904, + "grad_norm": 5.9347734451293945, + "learning_rate": 3.3578587112568186e-06, + "loss": 0.0848, + "num_input_tokens_seen": 17237536, + "step": 8800 + }, + { + "epoch": 1.166467859509609, + "grad_norm": 0.7881411910057068, + "learning_rate": 3.357532642814994e-06, + "loss": 0.0049, + "num_input_tokens_seen": 17239520, + "step": 8801 + }, + { + "epoch": 1.1666003976143142, + "grad_norm": 15.894207954406738, + "learning_rate": 3.3572065578393493e-06, + "loss": 0.1129, + "num_input_tokens_seen": 17241896, + "step": 8802 + }, + { + "epoch": 1.1667329357190193, + "grad_norm": 15.068872451782227, + "learning_rate": 3.3568804563361703e-06, + "loss": 0.366, + "num_input_tokens_seen": 17244616, + "step": 8803 + }, + { + "epoch": 1.1668654738237243, + "grad_norm": 3.778249979019165, + "learning_rate": 3.356554338311745e-06, + "loss": 0.1047, + "num_input_tokens_seen": 17246296, + "step": 8804 + }, + { + "epoch": 1.1669980119284293, + "grad_norm": 8.295060157775879, + "learning_rate": 3.3562282037723616e-06, + "loss": 0.3166, + "num_input_tokens_seen": 17248152, + "step": 8805 + }, + { + "epoch": 1.1671305500331346, + "grad_norm": 3.767232656478882, + "learning_rate": 3.355902052724307e-06, + "loss": 0.082, + "num_input_tokens_seen": 17250328, + "step": 8806 + }, + { + "epoch": 1.1672630881378396, + "grad_norm": 5.73391056060791, + "learning_rate": 3.3555758851738706e-06, + "loss": 0.0981, + "num_input_tokens_seen": 17253008, + "step": 8807 + }, + { + "epoch": 1.1673956262425447, + "grad_norm": 6.256034851074219, + "learning_rate": 3.355249701127341e-06, + "loss": 0.2291, + "num_input_tokens_seen": 17254648, + "step": 8808 + }, + { + "epoch": 1.16752816434725, + "grad_norm": 0.10122384130954742, + "learning_rate": 3.354923500591007e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17256784, + "step": 8809 + }, + { + "epoch": 1.167660702451955, + "grad_norm": 3.7205545902252197, + "learning_rate": 3.354597283571158e-06, + "loss": 0.1055, + "num_input_tokens_seen": 17258280, + "step": 8810 + }, + { + "epoch": 1.16779324055666, + "grad_norm": 0.05275749787688255, + "learning_rate": 3.354271050074085e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17260320, + "step": 8811 + }, + { + "epoch": 1.167925778661365, + "grad_norm": 11.595385551452637, + "learning_rate": 3.3539448001060753e-06, + "loss": 0.3486, + "num_input_tokens_seen": 17262832, + "step": 8812 + }, + { + "epoch": 1.1680583167660703, + "grad_norm": 11.180983543395996, + "learning_rate": 3.353618533673422e-06, + "loss": 0.0208, + "num_input_tokens_seen": 17265336, + "step": 8813 + }, + { + "epoch": 1.1681908548707753, + "grad_norm": 2.978334665298462, + "learning_rate": 3.3532922507824134e-06, + "loss": 0.0421, + "num_input_tokens_seen": 17267280, + "step": 8814 + }, + { + "epoch": 1.1683233929754804, + "grad_norm": 0.10361512750387192, + "learning_rate": 3.352965951439342e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17268768, + "step": 8815 + }, + { + "epoch": 1.1684559310801856, + "grad_norm": 9.087681770324707, + "learning_rate": 3.3526396356504986e-06, + "loss": 0.0943, + "num_input_tokens_seen": 17271512, + "step": 8816 + }, + { + "epoch": 1.1685884691848907, + "grad_norm": 0.09535300731658936, + "learning_rate": 3.352313303422175e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17273312, + "step": 8817 + }, + { + "epoch": 1.1687210072895957, + "grad_norm": 0.03143332898616791, + "learning_rate": 3.3519869547606624e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17274432, + "step": 8818 + }, + { + "epoch": 1.1688535453943008, + "grad_norm": 4.9378132820129395, + "learning_rate": 3.351660589672254e-06, + "loss": 0.0831, + "num_input_tokens_seen": 17276328, + "step": 8819 + }, + { + "epoch": 1.168986083499006, + "grad_norm": 0.1342911422252655, + "learning_rate": 3.3513342081632423e-06, + "loss": 0.001, + "num_input_tokens_seen": 17279056, + "step": 8820 + }, + { + "epoch": 1.169118621603711, + "grad_norm": 9.325128555297852, + "learning_rate": 3.351007810239919e-06, + "loss": 0.1162, + "num_input_tokens_seen": 17281984, + "step": 8821 + }, + { + "epoch": 1.169251159708416, + "grad_norm": 3.1699886322021484, + "learning_rate": 3.3506813959085783e-06, + "loss": 0.0185, + "num_input_tokens_seen": 17283576, + "step": 8822 + }, + { + "epoch": 1.1693836978131213, + "grad_norm": 0.08768800646066666, + "learning_rate": 3.3503549651755143e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17285328, + "step": 8823 + }, + { + "epoch": 1.1695162359178264, + "grad_norm": 0.173847958445549, + "learning_rate": 3.350028518047019e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17288296, + "step": 8824 + }, + { + "epoch": 1.1696487740225314, + "grad_norm": 5.677957534790039, + "learning_rate": 3.3497020545293875e-06, + "loss": 0.1246, + "num_input_tokens_seen": 17290112, + "step": 8825 + }, + { + "epoch": 1.1697813121272365, + "grad_norm": 9.095964431762695, + "learning_rate": 3.349375574628914e-06, + "loss": 0.2168, + "num_input_tokens_seen": 17291688, + "step": 8826 + }, + { + "epoch": 1.1699138502319417, + "grad_norm": 6.570424556732178, + "learning_rate": 3.3490490783518935e-06, + "loss": 0.0264, + "num_input_tokens_seen": 17293312, + "step": 8827 + }, + { + "epoch": 1.1700463883366468, + "grad_norm": 0.30812981724739075, + "learning_rate": 3.348722565704622e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17294536, + "step": 8828 + }, + { + "epoch": 1.1701789264413518, + "grad_norm": 0.6817254424095154, + "learning_rate": 3.348396036693393e-06, + "loss": 0.0065, + "num_input_tokens_seen": 17295944, + "step": 8829 + }, + { + "epoch": 1.170311464546057, + "grad_norm": 5.960328578948975, + "learning_rate": 3.348069491324503e-06, + "loss": 0.2425, + "num_input_tokens_seen": 17298048, + "step": 8830 + }, + { + "epoch": 1.170444002650762, + "grad_norm": 0.05711880698800087, + "learning_rate": 3.347742929604249e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17300904, + "step": 8831 + }, + { + "epoch": 1.1705765407554671, + "grad_norm": 11.044378280639648, + "learning_rate": 3.3474163515389256e-06, + "loss": 0.2476, + "num_input_tokens_seen": 17302864, + "step": 8832 + }, + { + "epoch": 1.1707090788601724, + "grad_norm": 0.027814380824565887, + "learning_rate": 3.347089757134831e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17304152, + "step": 8833 + }, + { + "epoch": 1.1708416169648774, + "grad_norm": 2.0247271060943604, + "learning_rate": 3.3467631463982616e-06, + "loss": 0.0129, + "num_input_tokens_seen": 17305984, + "step": 8834 + }, + { + "epoch": 1.1709741550695825, + "grad_norm": 7.8655571937561035, + "learning_rate": 3.3464365193355143e-06, + "loss": 0.0829, + "num_input_tokens_seen": 17307552, + "step": 8835 + }, + { + "epoch": 1.1711066931742877, + "grad_norm": 5.011282444000244, + "learning_rate": 3.3461098759528866e-06, + "loss": 0.0491, + "num_input_tokens_seen": 17309024, + "step": 8836 + }, + { + "epoch": 1.1712392312789928, + "grad_norm": 0.04960355535149574, + "learning_rate": 3.3457832162566767e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17312032, + "step": 8837 + }, + { + "epoch": 1.1713717693836978, + "grad_norm": 0.019741661846637726, + "learning_rate": 3.3454565402531835e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17314304, + "step": 8838 + }, + { + "epoch": 1.1715043074884028, + "grad_norm": 0.04193928465247154, + "learning_rate": 3.3451298479487048e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17316408, + "step": 8839 + }, + { + "epoch": 1.171636845593108, + "grad_norm": 0.05488637834787369, + "learning_rate": 3.3448031393495394e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17318072, + "step": 8840 + }, + { + "epoch": 1.1717693836978131, + "grad_norm": 8.657123565673828, + "learning_rate": 3.344476414461987e-06, + "loss": 0.0978, + "num_input_tokens_seen": 17320640, + "step": 8841 + }, + { + "epoch": 1.1719019218025182, + "grad_norm": 10.635114669799805, + "learning_rate": 3.3441496732923475e-06, + "loss": 0.279, + "num_input_tokens_seen": 17322512, + "step": 8842 + }, + { + "epoch": 1.1720344599072234, + "grad_norm": 2.2050373554229736, + "learning_rate": 3.343822915846918e-06, + "loss": 0.0095, + "num_input_tokens_seen": 17325416, + "step": 8843 + }, + { + "epoch": 1.1721669980119285, + "grad_norm": 10.27675724029541, + "learning_rate": 3.343496142132002e-06, + "loss": 0.1018, + "num_input_tokens_seen": 17327056, + "step": 8844 + }, + { + "epoch": 1.1722995361166335, + "grad_norm": 0.08411324769258499, + "learning_rate": 3.3431693521538977e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17328424, + "step": 8845 + }, + { + "epoch": 1.1724320742213385, + "grad_norm": 4.106504440307617, + "learning_rate": 3.342842545918907e-06, + "loss": 0.0509, + "num_input_tokens_seen": 17330512, + "step": 8846 + }, + { + "epoch": 1.1725646123260438, + "grad_norm": 0.02667836658656597, + "learning_rate": 3.3425157234333316e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17332856, + "step": 8847 + }, + { + "epoch": 1.1726971504307488, + "grad_norm": 15.952197074890137, + "learning_rate": 3.34218888470347e-06, + "loss": 0.0825, + "num_input_tokens_seen": 17335680, + "step": 8848 + }, + { + "epoch": 1.1728296885354539, + "grad_norm": 0.30259251594543457, + "learning_rate": 3.341862029735627e-06, + "loss": 0.001, + "num_input_tokens_seen": 17337416, + "step": 8849 + }, + { + "epoch": 1.1729622266401591, + "grad_norm": 7.76979923248291, + "learning_rate": 3.3415351585361028e-06, + "loss": 0.0993, + "num_input_tokens_seen": 17339088, + "step": 8850 + }, + { + "epoch": 1.1730947647448642, + "grad_norm": 4.826986789703369, + "learning_rate": 3.3412082711112005e-06, + "loss": 0.1121, + "num_input_tokens_seen": 17340936, + "step": 8851 + }, + { + "epoch": 1.1732273028495692, + "grad_norm": 0.32022175192832947, + "learning_rate": 3.340881367467222e-06, + "loss": 0.0033, + "num_input_tokens_seen": 17343000, + "step": 8852 + }, + { + "epoch": 1.1733598409542743, + "grad_norm": 5.01305627822876, + "learning_rate": 3.3405544476104705e-06, + "loss": 0.0399, + "num_input_tokens_seen": 17344472, + "step": 8853 + }, + { + "epoch": 1.1734923790589795, + "grad_norm": 10.551304817199707, + "learning_rate": 3.34022751154725e-06, + "loss": 0.3568, + "num_input_tokens_seen": 17346072, + "step": 8854 + }, + { + "epoch": 1.1736249171636846, + "grad_norm": 3.7864937782287598, + "learning_rate": 3.3399005592838628e-06, + "loss": 0.0418, + "num_input_tokens_seen": 17349048, + "step": 8855 + }, + { + "epoch": 1.1737574552683896, + "grad_norm": 0.05981745198369026, + "learning_rate": 3.3395735908266143e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17350832, + "step": 8856 + }, + { + "epoch": 1.1738899933730949, + "grad_norm": 0.12674234807491302, + "learning_rate": 3.3392466061818067e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17352168, + "step": 8857 + }, + { + "epoch": 1.1740225314778, + "grad_norm": 0.0324234776198864, + "learning_rate": 3.338919605355746e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17354216, + "step": 8858 + }, + { + "epoch": 1.174155069582505, + "grad_norm": 10.12738037109375, + "learning_rate": 3.3385925883547373e-06, + "loss": 0.4872, + "num_input_tokens_seen": 17357776, + "step": 8859 + }, + { + "epoch": 1.17428760768721, + "grad_norm": 6.50280237197876, + "learning_rate": 3.338265555185084e-06, + "loss": 0.1522, + "num_input_tokens_seen": 17359816, + "step": 8860 + }, + { + "epoch": 1.1744201457919152, + "grad_norm": 6.599811553955078, + "learning_rate": 3.3379385058530923e-06, + "loss": 0.1842, + "num_input_tokens_seen": 17362576, + "step": 8861 + }, + { + "epoch": 1.1745526838966203, + "grad_norm": 4.615855693817139, + "learning_rate": 3.3376114403650683e-06, + "loss": 0.1078, + "num_input_tokens_seen": 17364960, + "step": 8862 + }, + { + "epoch": 1.1746852220013253, + "grad_norm": 16.18260383605957, + "learning_rate": 3.3372843587273184e-06, + "loss": 0.5028, + "num_input_tokens_seen": 17366992, + "step": 8863 + }, + { + "epoch": 1.1748177601060306, + "grad_norm": 1.8142237663269043, + "learning_rate": 3.336957260946149e-06, + "loss": 0.013, + "num_input_tokens_seen": 17368584, + "step": 8864 + }, + { + "epoch": 1.1749502982107356, + "grad_norm": 1.0917799472808838, + "learning_rate": 3.336630147027865e-06, + "loss": 0.0151, + "num_input_tokens_seen": 17371344, + "step": 8865 + }, + { + "epoch": 1.1750828363154406, + "grad_norm": 0.1811767965555191, + "learning_rate": 3.3363030169787754e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17372640, + "step": 8866 + }, + { + "epoch": 1.1752153744201457, + "grad_norm": 3.082073450088501, + "learning_rate": 3.3359758708051864e-06, + "loss": 0.018, + "num_input_tokens_seen": 17374080, + "step": 8867 + }, + { + "epoch": 1.175347912524851, + "grad_norm": 8.657854080200195, + "learning_rate": 3.335648708513406e-06, + "loss": 0.2723, + "num_input_tokens_seen": 17376576, + "step": 8868 + }, + { + "epoch": 1.175480450629556, + "grad_norm": 0.4310837388038635, + "learning_rate": 3.335321530109741e-06, + "loss": 0.0015, + "num_input_tokens_seen": 17378976, + "step": 8869 + }, + { + "epoch": 1.175612988734261, + "grad_norm": 7.137519836425781, + "learning_rate": 3.334994335600503e-06, + "loss": 0.1222, + "num_input_tokens_seen": 17381272, + "step": 8870 + }, + { + "epoch": 1.1757455268389663, + "grad_norm": 9.532232284545898, + "learning_rate": 3.334667124991996e-06, + "loss": 0.1163, + "num_input_tokens_seen": 17384048, + "step": 8871 + }, + { + "epoch": 1.1758780649436713, + "grad_norm": 0.07253357023000717, + "learning_rate": 3.3343398982905315e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17386832, + "step": 8872 + }, + { + "epoch": 1.1760106030483763, + "grad_norm": 0.41350844502449036, + "learning_rate": 3.334012655502419e-06, + "loss": 0.0046, + "num_input_tokens_seen": 17388352, + "step": 8873 + }, + { + "epoch": 1.1761431411530816, + "grad_norm": 0.04887591674923897, + "learning_rate": 3.333685396633967e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17389504, + "step": 8874 + }, + { + "epoch": 1.1762756792577866, + "grad_norm": 0.40415316820144653, + "learning_rate": 3.3333581216914844e-06, + "loss": 0.0023, + "num_input_tokens_seen": 17391528, + "step": 8875 + }, + { + "epoch": 1.1764082173624917, + "grad_norm": 0.25336959958076477, + "learning_rate": 3.333030830681283e-06, + "loss": 0.0018, + "num_input_tokens_seen": 17393816, + "step": 8876 + }, + { + "epoch": 1.176540755467197, + "grad_norm": 0.041031885892152786, + "learning_rate": 3.3327035236096723e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17394800, + "step": 8877 + }, + { + "epoch": 1.176673293571902, + "grad_norm": 0.12305854260921478, + "learning_rate": 3.3323762004829635e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17395968, + "step": 8878 + }, + { + "epoch": 1.176805831676607, + "grad_norm": 5.9266357421875, + "learning_rate": 3.332048861307467e-06, + "loss": 0.1003, + "num_input_tokens_seen": 17398104, + "step": 8879 + }, + { + "epoch": 1.176938369781312, + "grad_norm": 0.023426292464137077, + "learning_rate": 3.3317215060894946e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17399640, + "step": 8880 + }, + { + "epoch": 1.1770709078860173, + "grad_norm": 6.088700771331787, + "learning_rate": 3.3313941348353575e-06, + "loss": 0.1498, + "num_input_tokens_seen": 17401912, + "step": 8881 + }, + { + "epoch": 1.1772034459907224, + "grad_norm": 6.036590576171875, + "learning_rate": 3.3310667475513684e-06, + "loss": 0.0984, + "num_input_tokens_seen": 17404048, + "step": 8882 + }, + { + "epoch": 1.1773359840954274, + "grad_norm": 11.896187782287598, + "learning_rate": 3.330739344243839e-06, + "loss": 0.0712, + "num_input_tokens_seen": 17406168, + "step": 8883 + }, + { + "epoch": 1.1774685222001327, + "grad_norm": 14.426502227783203, + "learning_rate": 3.330411924919082e-06, + "loss": 0.3913, + "num_input_tokens_seen": 17407968, + "step": 8884 + }, + { + "epoch": 1.1776010603048377, + "grad_norm": 4.15945291519165, + "learning_rate": 3.33008448958341e-06, + "loss": 0.0832, + "num_input_tokens_seen": 17409488, + "step": 8885 + }, + { + "epoch": 1.1777335984095427, + "grad_norm": 4.968869209289551, + "learning_rate": 3.3297570382431367e-06, + "loss": 0.1024, + "num_input_tokens_seen": 17411248, + "step": 8886 + }, + { + "epoch": 1.1778661365142478, + "grad_norm": 6.137375354766846, + "learning_rate": 3.329429570904575e-06, + "loss": 0.1137, + "num_input_tokens_seen": 17414112, + "step": 8887 + }, + { + "epoch": 1.177998674618953, + "grad_norm": 0.15902596712112427, + "learning_rate": 3.3291020875740394e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17415952, + "step": 8888 + }, + { + "epoch": 1.178131212723658, + "grad_norm": 3.0795891284942627, + "learning_rate": 3.3287745882578427e-06, + "loss": 0.0955, + "num_input_tokens_seen": 17417864, + "step": 8889 + }, + { + "epoch": 1.178263750828363, + "grad_norm": 3.824113130569458, + "learning_rate": 3.328447072962301e-06, + "loss": 0.0154, + "num_input_tokens_seen": 17420168, + "step": 8890 + }, + { + "epoch": 1.1783962889330684, + "grad_norm": 7.940334796905518, + "learning_rate": 3.328119541693728e-06, + "loss": 0.1104, + "num_input_tokens_seen": 17421704, + "step": 8891 + }, + { + "epoch": 1.1785288270377734, + "grad_norm": 11.775419235229492, + "learning_rate": 3.327791994458438e-06, + "loss": 0.2967, + "num_input_tokens_seen": 17424280, + "step": 8892 + }, + { + "epoch": 1.1786613651424784, + "grad_norm": 0.05949070677161217, + "learning_rate": 3.327464431262749e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17425848, + "step": 8893 + }, + { + "epoch": 1.1787939032471835, + "grad_norm": 10.573440551757812, + "learning_rate": 3.3271368521129736e-06, + "loss": 0.2735, + "num_input_tokens_seen": 17427880, + "step": 8894 + }, + { + "epoch": 1.1789264413518887, + "grad_norm": 9.537389755249023, + "learning_rate": 3.3268092570154296e-06, + "loss": 0.0932, + "num_input_tokens_seen": 17429624, + "step": 8895 + }, + { + "epoch": 1.1790589794565938, + "grad_norm": 3.9666707515716553, + "learning_rate": 3.3264816459764334e-06, + "loss": 0.0489, + "num_input_tokens_seen": 17430864, + "step": 8896 + }, + { + "epoch": 1.1791915175612988, + "grad_norm": 7.0137553215026855, + "learning_rate": 3.3261540190023e-06, + "loss": 0.0712, + "num_input_tokens_seen": 17433168, + "step": 8897 + }, + { + "epoch": 1.179324055666004, + "grad_norm": 5.60612154006958, + "learning_rate": 3.325826376099347e-06, + "loss": 0.047, + "num_input_tokens_seen": 17434920, + "step": 8898 + }, + { + "epoch": 1.179456593770709, + "grad_norm": 16.52873420715332, + "learning_rate": 3.325498717273893e-06, + "loss": 0.3325, + "num_input_tokens_seen": 17437592, + "step": 8899 + }, + { + "epoch": 1.1795891318754141, + "grad_norm": 11.053872108459473, + "learning_rate": 3.3251710425322524e-06, + "loss": 0.4957, + "num_input_tokens_seen": 17439800, + "step": 8900 + }, + { + "epoch": 1.1797216699801192, + "grad_norm": 11.831011772155762, + "learning_rate": 3.324843351880746e-06, + "loss": 0.2683, + "num_input_tokens_seen": 17442432, + "step": 8901 + }, + { + "epoch": 1.1798542080848244, + "grad_norm": 5.917088031768799, + "learning_rate": 3.3245156453256905e-06, + "loss": 0.0753, + "num_input_tokens_seen": 17443880, + "step": 8902 + }, + { + "epoch": 1.1799867461895295, + "grad_norm": 0.07549116015434265, + "learning_rate": 3.324187922873405e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17445840, + "step": 8903 + }, + { + "epoch": 1.1801192842942345, + "grad_norm": 0.0452670156955719, + "learning_rate": 3.3238601845302075e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17448104, + "step": 8904 + }, + { + "epoch": 1.1802518223989398, + "grad_norm": 0.22549304366111755, + "learning_rate": 3.3235324303024167e-06, + "loss": 0.0024, + "num_input_tokens_seen": 17450056, + "step": 8905 + }, + { + "epoch": 1.1803843605036448, + "grad_norm": 0.2072581946849823, + "learning_rate": 3.3232046601963534e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17451632, + "step": 8906 + }, + { + "epoch": 1.1805168986083499, + "grad_norm": 5.191887855529785, + "learning_rate": 3.322876874218335e-06, + "loss": 0.0398, + "num_input_tokens_seen": 17453624, + "step": 8907 + }, + { + "epoch": 1.180649436713055, + "grad_norm": 15.796998023986816, + "learning_rate": 3.3225490723746847e-06, + "loss": 0.5041, + "num_input_tokens_seen": 17456552, + "step": 8908 + }, + { + "epoch": 1.1807819748177601, + "grad_norm": 10.588598251342773, + "learning_rate": 3.3222212546717204e-06, + "loss": 0.4351, + "num_input_tokens_seen": 17458408, + "step": 8909 + }, + { + "epoch": 1.1809145129224652, + "grad_norm": 0.0450008325278759, + "learning_rate": 3.3218934211157615e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17461544, + "step": 8910 + }, + { + "epoch": 1.1810470510271702, + "grad_norm": 0.08888935297727585, + "learning_rate": 3.321565571713132e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17463152, + "step": 8911 + }, + { + "epoch": 1.1811795891318755, + "grad_norm": 5.804290771484375, + "learning_rate": 3.321237706470152e-06, + "loss": 0.0827, + "num_input_tokens_seen": 17464728, + "step": 8912 + }, + { + "epoch": 1.1813121272365805, + "grad_norm": 9.533463478088379, + "learning_rate": 3.3209098253931404e-06, + "loss": 0.2408, + "num_input_tokens_seen": 17467024, + "step": 8913 + }, + { + "epoch": 1.1814446653412856, + "grad_norm": 0.9059574604034424, + "learning_rate": 3.3205819284884226e-06, + "loss": 0.0125, + "num_input_tokens_seen": 17468592, + "step": 8914 + }, + { + "epoch": 1.1815772034459906, + "grad_norm": 5.516317367553711, + "learning_rate": 3.3202540157623186e-06, + "loss": 0.1311, + "num_input_tokens_seen": 17470440, + "step": 8915 + }, + { + "epoch": 1.1817097415506959, + "grad_norm": 0.050684865564107895, + "learning_rate": 3.3199260872211515e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17473056, + "step": 8916 + }, + { + "epoch": 1.181842279655401, + "grad_norm": 2.446044445037842, + "learning_rate": 3.319598142871244e-06, + "loss": 0.0691, + "num_input_tokens_seen": 17475448, + "step": 8917 + }, + { + "epoch": 1.181974817760106, + "grad_norm": 0.014913138933479786, + "learning_rate": 3.319270182718918e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17476592, + "step": 8918 + }, + { + "epoch": 1.1821073558648112, + "grad_norm": 10.886700630187988, + "learning_rate": 3.3189422067704985e-06, + "loss": 0.2426, + "num_input_tokens_seen": 17478104, + "step": 8919 + }, + { + "epoch": 1.1822398939695162, + "grad_norm": 12.689355850219727, + "learning_rate": 3.3186142150323083e-06, + "loss": 0.3231, + "num_input_tokens_seen": 17479472, + "step": 8920 + }, + { + "epoch": 1.1823724320742213, + "grad_norm": 9.062192916870117, + "learning_rate": 3.3182862075106708e-06, + "loss": 0.1892, + "num_input_tokens_seen": 17481520, + "step": 8921 + }, + { + "epoch": 1.1825049701789265, + "grad_norm": 3.434389591217041, + "learning_rate": 3.3179581842119113e-06, + "loss": 0.0506, + "num_input_tokens_seen": 17483160, + "step": 8922 + }, + { + "epoch": 1.1826375082836316, + "grad_norm": 3.0705623626708984, + "learning_rate": 3.317630145142353e-06, + "loss": 0.0422, + "num_input_tokens_seen": 17485024, + "step": 8923 + }, + { + "epoch": 1.1827700463883366, + "grad_norm": 0.038525160402059555, + "learning_rate": 3.3173020903083227e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17487056, + "step": 8924 + }, + { + "epoch": 1.1829025844930419, + "grad_norm": 5.803386211395264, + "learning_rate": 3.3169740197161427e-06, + "loss": 0.1272, + "num_input_tokens_seen": 17489888, + "step": 8925 + }, + { + "epoch": 1.183035122597747, + "grad_norm": 7.382401466369629, + "learning_rate": 3.3166459333721408e-06, + "loss": 0.2465, + "num_input_tokens_seen": 17491296, + "step": 8926 + }, + { + "epoch": 1.183167660702452, + "grad_norm": 6.785992622375488, + "learning_rate": 3.3163178312826417e-06, + "loss": 0.1687, + "num_input_tokens_seen": 17493992, + "step": 8927 + }, + { + "epoch": 1.183300198807157, + "grad_norm": 0.04319420084357262, + "learning_rate": 3.315989713453972e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17495848, + "step": 8928 + }, + { + "epoch": 1.1834327369118622, + "grad_norm": 10.298629760742188, + "learning_rate": 3.3156615798924576e-06, + "loss": 0.2509, + "num_input_tokens_seen": 17498544, + "step": 8929 + }, + { + "epoch": 1.1835652750165673, + "grad_norm": 5.441462516784668, + "learning_rate": 3.315333430604425e-06, + "loss": 0.1466, + "num_input_tokens_seen": 17501072, + "step": 8930 + }, + { + "epoch": 1.1836978131212723, + "grad_norm": 0.0792512595653534, + "learning_rate": 3.315005265596202e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17502888, + "step": 8931 + }, + { + "epoch": 1.1838303512259776, + "grad_norm": 10.404994010925293, + "learning_rate": 3.314677084874115e-06, + "loss": 0.163, + "num_input_tokens_seen": 17504656, + "step": 8932 + }, + { + "epoch": 1.1839628893306826, + "grad_norm": 12.821009635925293, + "learning_rate": 3.314348888444491e-06, + "loss": 0.2046, + "num_input_tokens_seen": 17506536, + "step": 8933 + }, + { + "epoch": 1.1840954274353876, + "grad_norm": 5.730447769165039, + "learning_rate": 3.3140206763136597e-06, + "loss": 0.0515, + "num_input_tokens_seen": 17507912, + "step": 8934 + }, + { + "epoch": 1.1842279655400927, + "grad_norm": 3.5229740142822266, + "learning_rate": 3.313692448487948e-06, + "loss": 0.0161, + "num_input_tokens_seen": 17509968, + "step": 8935 + }, + { + "epoch": 1.184360503644798, + "grad_norm": 3.23940110206604, + "learning_rate": 3.3133642049736835e-06, + "loss": 0.0809, + "num_input_tokens_seen": 17512592, + "step": 8936 + }, + { + "epoch": 1.184493041749503, + "grad_norm": 4.539789199829102, + "learning_rate": 3.313035945777197e-06, + "loss": 0.1271, + "num_input_tokens_seen": 17514776, + "step": 8937 + }, + { + "epoch": 1.184625579854208, + "grad_norm": 5.83056640625, + "learning_rate": 3.312707670904816e-06, + "loss": 0.1138, + "num_input_tokens_seen": 17517440, + "step": 8938 + }, + { + "epoch": 1.1847581179589133, + "grad_norm": 7.625308036804199, + "learning_rate": 3.312379380362872e-06, + "loss": 0.2632, + "num_input_tokens_seen": 17519176, + "step": 8939 + }, + { + "epoch": 1.1848906560636183, + "grad_norm": 8.107145309448242, + "learning_rate": 3.3120510741576915e-06, + "loss": 0.0861, + "num_input_tokens_seen": 17521256, + "step": 8940 + }, + { + "epoch": 1.1850231941683234, + "grad_norm": 5.104151248931885, + "learning_rate": 3.3117227522956064e-06, + "loss": 0.1521, + "num_input_tokens_seen": 17522736, + "step": 8941 + }, + { + "epoch": 1.1851557322730284, + "grad_norm": 0.7377922534942627, + "learning_rate": 3.3113944147829465e-06, + "loss": 0.01, + "num_input_tokens_seen": 17524968, + "step": 8942 + }, + { + "epoch": 1.1852882703777337, + "grad_norm": 13.687117576599121, + "learning_rate": 3.3110660616260433e-06, + "loss": 0.2918, + "num_input_tokens_seen": 17526744, + "step": 8943 + }, + { + "epoch": 1.1854208084824387, + "grad_norm": 3.5081520080566406, + "learning_rate": 3.3107376928312263e-06, + "loss": 0.0506, + "num_input_tokens_seen": 17528856, + "step": 8944 + }, + { + "epoch": 1.1855533465871437, + "grad_norm": 0.7712841629981995, + "learning_rate": 3.310409308404827e-06, + "loss": 0.0054, + "num_input_tokens_seen": 17530576, + "step": 8945 + }, + { + "epoch": 1.185685884691849, + "grad_norm": 0.2213091105222702, + "learning_rate": 3.3100809083531777e-06, + "loss": 0.0016, + "num_input_tokens_seen": 17532448, + "step": 8946 + }, + { + "epoch": 1.185818422796554, + "grad_norm": 4.120362758636475, + "learning_rate": 3.3097524926826095e-06, + "loss": 0.0328, + "num_input_tokens_seen": 17535016, + "step": 8947 + }, + { + "epoch": 1.185950960901259, + "grad_norm": 3.156841278076172, + "learning_rate": 3.3094240613994548e-06, + "loss": 0.0521, + "num_input_tokens_seen": 17537448, + "step": 8948 + }, + { + "epoch": 1.186083499005964, + "grad_norm": 0.6524286866188049, + "learning_rate": 3.3090956145100457e-06, + "loss": 0.0068, + "num_input_tokens_seen": 17538616, + "step": 8949 + }, + { + "epoch": 1.1862160371106694, + "grad_norm": 0.1091860681772232, + "learning_rate": 3.3087671520207153e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17540080, + "step": 8950 + }, + { + "epoch": 1.1863485752153744, + "grad_norm": 0.5010088086128235, + "learning_rate": 3.3084386739377954e-06, + "loss": 0.0046, + "num_input_tokens_seen": 17541696, + "step": 8951 + }, + { + "epoch": 1.1864811133200794, + "grad_norm": 0.1223435252904892, + "learning_rate": 3.3081101802676207e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17543224, + "step": 8952 + }, + { + "epoch": 1.1866136514247847, + "grad_norm": 0.1239573135972023, + "learning_rate": 3.3077816710165244e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17544544, + "step": 8953 + }, + { + "epoch": 1.1867461895294897, + "grad_norm": 0.04506201297044754, + "learning_rate": 3.3074531461908392e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17546208, + "step": 8954 + }, + { + "epoch": 1.1868787276341948, + "grad_norm": 7.987022876739502, + "learning_rate": 3.307124605796902e-06, + "loss": 0.1541, + "num_input_tokens_seen": 17547984, + "step": 8955 + }, + { + "epoch": 1.1870112657388998, + "grad_norm": 4.274661540985107, + "learning_rate": 3.3067960498410446e-06, + "loss": 0.0573, + "num_input_tokens_seen": 17550576, + "step": 8956 + }, + { + "epoch": 1.187143803843605, + "grad_norm": 7.053033828735352, + "learning_rate": 3.3064674783296025e-06, + "loss": 0.1211, + "num_input_tokens_seen": 17552424, + "step": 8957 + }, + { + "epoch": 1.18727634194831, + "grad_norm": 11.39521598815918, + "learning_rate": 3.306138891268912e-06, + "loss": 0.1456, + "num_input_tokens_seen": 17554576, + "step": 8958 + }, + { + "epoch": 1.1874088800530151, + "grad_norm": 4.583521366119385, + "learning_rate": 3.3058102886653065e-06, + "loss": 0.0686, + "num_input_tokens_seen": 17556816, + "step": 8959 + }, + { + "epoch": 1.1875414181577204, + "grad_norm": 0.13757112622261047, + "learning_rate": 3.3054816705251237e-06, + "loss": 0.001, + "num_input_tokens_seen": 17558776, + "step": 8960 + }, + { + "epoch": 1.1876739562624254, + "grad_norm": 8.311262130737305, + "learning_rate": 3.305153036854698e-06, + "loss": 0.1432, + "num_input_tokens_seen": 17560280, + "step": 8961 + }, + { + "epoch": 1.1878064943671305, + "grad_norm": 7.239976406097412, + "learning_rate": 3.3048243876603665e-06, + "loss": 0.186, + "num_input_tokens_seen": 17563192, + "step": 8962 + }, + { + "epoch": 1.1879390324718357, + "grad_norm": 7.996603965759277, + "learning_rate": 3.3044957229484654e-06, + "loss": 0.0561, + "num_input_tokens_seen": 17565912, + "step": 8963 + }, + { + "epoch": 1.1880715705765408, + "grad_norm": 9.780413627624512, + "learning_rate": 3.3041670427253314e-06, + "loss": 0.0855, + "num_input_tokens_seen": 17567664, + "step": 8964 + }, + { + "epoch": 1.1882041086812458, + "grad_norm": 2.266666889190674, + "learning_rate": 3.3038383469973034e-06, + "loss": 0.0257, + "num_input_tokens_seen": 17569464, + "step": 8965 + }, + { + "epoch": 1.188336646785951, + "grad_norm": 0.07029636949300766, + "learning_rate": 3.3035096357707163e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17571040, + "step": 8966 + }, + { + "epoch": 1.1884691848906561, + "grad_norm": 5.848216533660889, + "learning_rate": 3.3031809090519097e-06, + "loss": 0.1223, + "num_input_tokens_seen": 17573928, + "step": 8967 + }, + { + "epoch": 1.1886017229953612, + "grad_norm": 5.0672607421875, + "learning_rate": 3.3028521668472215e-06, + "loss": 0.0934, + "num_input_tokens_seen": 17576328, + "step": 8968 + }, + { + "epoch": 1.1887342611000662, + "grad_norm": 0.12875960767269135, + "learning_rate": 3.302523409162989e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17578080, + "step": 8969 + }, + { + "epoch": 1.1888667992047715, + "grad_norm": 5.097253799438477, + "learning_rate": 3.3021946360055505e-06, + "loss": 0.1417, + "num_input_tokens_seen": 17579896, + "step": 8970 + }, + { + "epoch": 1.1889993373094765, + "grad_norm": 3.7811038494110107, + "learning_rate": 3.3018658473812482e-06, + "loss": 0.0347, + "num_input_tokens_seen": 17581976, + "step": 8971 + }, + { + "epoch": 1.1891318754141815, + "grad_norm": 4.580356597900391, + "learning_rate": 3.3015370432964174e-06, + "loss": 0.2121, + "num_input_tokens_seen": 17583864, + "step": 8972 + }, + { + "epoch": 1.1892644135188868, + "grad_norm": 7.334189414978027, + "learning_rate": 3.3012082237574e-06, + "loss": 0.2186, + "num_input_tokens_seen": 17585600, + "step": 8973 + }, + { + "epoch": 1.1893969516235918, + "grad_norm": 6.757203578948975, + "learning_rate": 3.300879388770536e-06, + "loss": 0.0448, + "num_input_tokens_seen": 17587744, + "step": 8974 + }, + { + "epoch": 1.1895294897282969, + "grad_norm": 9.832472801208496, + "learning_rate": 3.3005505383421638e-06, + "loss": 0.2743, + "num_input_tokens_seen": 17589872, + "step": 8975 + }, + { + "epoch": 1.189662027833002, + "grad_norm": 0.3736446499824524, + "learning_rate": 3.3002216724786257e-06, + "loss": 0.0025, + "num_input_tokens_seen": 17591536, + "step": 8976 + }, + { + "epoch": 1.1897945659377072, + "grad_norm": 13.027419090270996, + "learning_rate": 3.2998927911862614e-06, + "loss": 0.1662, + "num_input_tokens_seen": 17593056, + "step": 8977 + }, + { + "epoch": 1.1899271040424122, + "grad_norm": 0.26161283254623413, + "learning_rate": 3.2995638944714126e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17594824, + "step": 8978 + }, + { + "epoch": 1.1900596421471172, + "grad_norm": 0.8130900263786316, + "learning_rate": 3.29923498234042e-06, + "loss": 0.0053, + "num_input_tokens_seen": 17597312, + "step": 8979 + }, + { + "epoch": 1.1901921802518225, + "grad_norm": 2.9022505283355713, + "learning_rate": 3.2989060547996254e-06, + "loss": 0.0152, + "num_input_tokens_seen": 17599880, + "step": 8980 + }, + { + "epoch": 1.1903247183565275, + "grad_norm": 4.475684642791748, + "learning_rate": 3.2985771118553713e-06, + "loss": 0.0408, + "num_input_tokens_seen": 17601632, + "step": 8981 + }, + { + "epoch": 1.1904572564612326, + "grad_norm": 10.67611026763916, + "learning_rate": 3.298248153514e-06, + "loss": 0.1873, + "num_input_tokens_seen": 17604240, + "step": 8982 + }, + { + "epoch": 1.1905897945659376, + "grad_norm": 8.216914176940918, + "learning_rate": 3.2979191797818525e-06, + "loss": 0.2709, + "num_input_tokens_seen": 17606472, + "step": 8983 + }, + { + "epoch": 1.1907223326706429, + "grad_norm": 6.191561698913574, + "learning_rate": 3.2975901906652734e-06, + "loss": 0.071, + "num_input_tokens_seen": 17608080, + "step": 8984 + }, + { + "epoch": 1.190854870775348, + "grad_norm": 0.023402512073516846, + "learning_rate": 3.297261186170605e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17609248, + "step": 8985 + }, + { + "epoch": 1.190987408880053, + "grad_norm": 2.9093871116638184, + "learning_rate": 3.296932166304192e-06, + "loss": 0.0505, + "num_input_tokens_seen": 17611336, + "step": 8986 + }, + { + "epoch": 1.1911199469847582, + "grad_norm": 4.128095626831055, + "learning_rate": 3.2966031310723755e-06, + "loss": 0.0721, + "num_input_tokens_seen": 17613320, + "step": 8987 + }, + { + "epoch": 1.1912524850894632, + "grad_norm": 9.696879386901855, + "learning_rate": 3.296274080481502e-06, + "loss": 0.1604, + "num_input_tokens_seen": 17615312, + "step": 8988 + }, + { + "epoch": 1.1913850231941683, + "grad_norm": 16.401153564453125, + "learning_rate": 3.2959450145379147e-06, + "loss": 0.5523, + "num_input_tokens_seen": 17618800, + "step": 8989 + }, + { + "epoch": 1.1915175612988733, + "grad_norm": 12.310830116271973, + "learning_rate": 3.2956159332479574e-06, + "loss": 0.1986, + "num_input_tokens_seen": 17620864, + "step": 8990 + }, + { + "epoch": 1.1916500994035786, + "grad_norm": 1.4701000452041626, + "learning_rate": 3.295286836617978e-06, + "loss": 0.0098, + "num_input_tokens_seen": 17623656, + "step": 8991 + }, + { + "epoch": 1.1917826375082836, + "grad_norm": 0.0612865649163723, + "learning_rate": 3.2949577246543183e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17625256, + "step": 8992 + }, + { + "epoch": 1.1919151756129887, + "grad_norm": 12.265141487121582, + "learning_rate": 3.294628597363326e-06, + "loss": 0.1129, + "num_input_tokens_seen": 17627856, + "step": 8993 + }, + { + "epoch": 1.192047713717694, + "grad_norm": 12.065597534179688, + "learning_rate": 3.2942994547513456e-06, + "loss": 0.1572, + "num_input_tokens_seen": 17629656, + "step": 8994 + }, + { + "epoch": 1.192180251822399, + "grad_norm": 17.106163024902344, + "learning_rate": 3.2939702968247238e-06, + "loss": 0.4284, + "num_input_tokens_seen": 17631256, + "step": 8995 + }, + { + "epoch": 1.192312789927104, + "grad_norm": 7.499751567840576, + "learning_rate": 3.2936411235898067e-06, + "loss": 0.0815, + "num_input_tokens_seen": 17632888, + "step": 8996 + }, + { + "epoch": 1.192445328031809, + "grad_norm": 5.12352991104126, + "learning_rate": 3.2933119350529426e-06, + "loss": 0.0923, + "num_input_tokens_seen": 17634832, + "step": 8997 + }, + { + "epoch": 1.1925778661365143, + "grad_norm": 6.49252986907959, + "learning_rate": 3.292982731220476e-06, + "loss": 0.0536, + "num_input_tokens_seen": 17637480, + "step": 8998 + }, + { + "epoch": 1.1927104042412193, + "grad_norm": 8.960293769836426, + "learning_rate": 3.2926535120987558e-06, + "loss": 0.1325, + "num_input_tokens_seen": 17639104, + "step": 8999 + }, + { + "epoch": 1.1928429423459244, + "grad_norm": 0.037488870322704315, + "learning_rate": 3.2923242776941288e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17640736, + "step": 9000 + }, + { + "epoch": 1.1929754804506296, + "grad_norm": 7.179965019226074, + "learning_rate": 3.2919950280129433e-06, + "loss": 0.1689, + "num_input_tokens_seen": 17643488, + "step": 9001 + }, + { + "epoch": 1.1931080185553347, + "grad_norm": 4.196895122528076, + "learning_rate": 3.291665763061547e-06, + "loss": 0.0837, + "num_input_tokens_seen": 17645608, + "step": 9002 + }, + { + "epoch": 1.1932405566600397, + "grad_norm": 5.421475887298584, + "learning_rate": 3.291336482846288e-06, + "loss": 0.1259, + "num_input_tokens_seen": 17647704, + "step": 9003 + }, + { + "epoch": 1.193373094764745, + "grad_norm": 7.672059059143066, + "learning_rate": 3.2910071873735172e-06, + "loss": 0.3219, + "num_input_tokens_seen": 17649664, + "step": 9004 + }, + { + "epoch": 1.19350563286945, + "grad_norm": 5.5291948318481445, + "learning_rate": 3.2906778766495806e-06, + "loss": 0.0851, + "num_input_tokens_seen": 17651896, + "step": 9005 + }, + { + "epoch": 1.193638170974155, + "grad_norm": 10.174932479858398, + "learning_rate": 3.2903485506808296e-06, + "loss": 0.1148, + "num_input_tokens_seen": 17653072, + "step": 9006 + }, + { + "epoch": 1.1937707090788603, + "grad_norm": 0.3604847490787506, + "learning_rate": 3.2900192094736138e-06, + "loss": 0.0031, + "num_input_tokens_seen": 17654368, + "step": 9007 + }, + { + "epoch": 1.1939032471835653, + "grad_norm": 10.02323055267334, + "learning_rate": 3.2896898530342823e-06, + "loss": 0.2756, + "num_input_tokens_seen": 17656320, + "step": 9008 + }, + { + "epoch": 1.1940357852882704, + "grad_norm": 0.30341312289237976, + "learning_rate": 3.289360481369186e-06, + "loss": 0.0022, + "num_input_tokens_seen": 17658056, + "step": 9009 + }, + { + "epoch": 1.1941683233929754, + "grad_norm": 4.6171369552612305, + "learning_rate": 3.289031094484675e-06, + "loss": 0.0931, + "num_input_tokens_seen": 17659696, + "step": 9010 + }, + { + "epoch": 1.1943008614976807, + "grad_norm": 0.09706432372331619, + "learning_rate": 3.2887016923870997e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17661672, + "step": 9011 + }, + { + "epoch": 1.1944333996023857, + "grad_norm": 1.645926833152771, + "learning_rate": 3.2883722750828123e-06, + "loss": 0.0135, + "num_input_tokens_seen": 17663312, + "step": 9012 + }, + { + "epoch": 1.1945659377070907, + "grad_norm": 0.04872516915202141, + "learning_rate": 3.288042842578163e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17664896, + "step": 9013 + }, + { + "epoch": 1.194698475811796, + "grad_norm": 5.716052055358887, + "learning_rate": 3.2877133948795035e-06, + "loss": 0.2099, + "num_input_tokens_seen": 17666336, + "step": 9014 + }, + { + "epoch": 1.194831013916501, + "grad_norm": 4.82434606552124, + "learning_rate": 3.2873839319931875e-06, + "loss": 0.091, + "num_input_tokens_seen": 17668248, + "step": 9015 + }, + { + "epoch": 1.194963552021206, + "grad_norm": 4.683647155761719, + "learning_rate": 3.287054453925566e-06, + "loss": 0.0381, + "num_input_tokens_seen": 17669448, + "step": 9016 + }, + { + "epoch": 1.1950960901259111, + "grad_norm": 8.186884880065918, + "learning_rate": 3.2867249606829908e-06, + "loss": 0.169, + "num_input_tokens_seen": 17670992, + "step": 9017 + }, + { + "epoch": 1.1952286282306164, + "grad_norm": 0.03388563543558121, + "learning_rate": 3.286395452271817e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17672632, + "step": 9018 + }, + { + "epoch": 1.1953611663353214, + "grad_norm": 16.840633392333984, + "learning_rate": 3.2860659286983954e-06, + "loss": 0.5339, + "num_input_tokens_seen": 17675920, + "step": 9019 + }, + { + "epoch": 1.1954937044400265, + "grad_norm": 5.57549524307251, + "learning_rate": 3.28573638996908e-06, + "loss": 0.1376, + "num_input_tokens_seen": 17677736, + "step": 9020 + }, + { + "epoch": 1.1956262425447317, + "grad_norm": 0.05066152289509773, + "learning_rate": 3.2854068360902257e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17681104, + "step": 9021 + }, + { + "epoch": 1.1957587806494367, + "grad_norm": 7.6431884765625, + "learning_rate": 3.2850772670681856e-06, + "loss": 0.1038, + "num_input_tokens_seen": 17683144, + "step": 9022 + }, + { + "epoch": 1.1958913187541418, + "grad_norm": 6.904979705810547, + "learning_rate": 3.2847476829093145e-06, + "loss": 0.0702, + "num_input_tokens_seen": 17684984, + "step": 9023 + }, + { + "epoch": 1.1960238568588468, + "grad_norm": 3.5132839679718018, + "learning_rate": 3.284418083619966e-06, + "loss": 0.0155, + "num_input_tokens_seen": 17686376, + "step": 9024 + }, + { + "epoch": 1.196156394963552, + "grad_norm": 0.14713510870933533, + "learning_rate": 3.284088469206496e-06, + "loss": 0.0018, + "num_input_tokens_seen": 17687480, + "step": 9025 + }, + { + "epoch": 1.1962889330682571, + "grad_norm": 3.8775322437286377, + "learning_rate": 3.2837588396752603e-06, + "loss": 0.0194, + "num_input_tokens_seen": 17689552, + "step": 9026 + }, + { + "epoch": 1.1964214711729622, + "grad_norm": 7.628950595855713, + "learning_rate": 3.2834291950326124e-06, + "loss": 0.1294, + "num_input_tokens_seen": 17692072, + "step": 9027 + }, + { + "epoch": 1.1965540092776674, + "grad_norm": 0.08033449202775955, + "learning_rate": 3.2830995352849093e-06, + "loss": 0.001, + "num_input_tokens_seen": 17693856, + "step": 9028 + }, + { + "epoch": 1.1966865473823725, + "grad_norm": 7.240048885345459, + "learning_rate": 3.2827698604385073e-06, + "loss": 0.224, + "num_input_tokens_seen": 17695360, + "step": 9029 + }, + { + "epoch": 1.1968190854870775, + "grad_norm": 9.042844772338867, + "learning_rate": 3.282440170499762e-06, + "loss": 0.1262, + "num_input_tokens_seen": 17696696, + "step": 9030 + }, + { + "epoch": 1.1969516235917825, + "grad_norm": 9.930558204650879, + "learning_rate": 3.282110465475031e-06, + "loss": 0.3018, + "num_input_tokens_seen": 17698800, + "step": 9031 + }, + { + "epoch": 1.1970841616964878, + "grad_norm": 5.182363510131836, + "learning_rate": 3.2817807453706697e-06, + "loss": 0.0559, + "num_input_tokens_seen": 17701168, + "step": 9032 + }, + { + "epoch": 1.1972166998011928, + "grad_norm": 6.812538146972656, + "learning_rate": 3.2814510101930373e-06, + "loss": 0.1047, + "num_input_tokens_seen": 17703496, + "step": 9033 + }, + { + "epoch": 1.1973492379058979, + "grad_norm": 0.19804666936397552, + "learning_rate": 3.2811212599484892e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17705792, + "step": 9034 + }, + { + "epoch": 1.1974817760106031, + "grad_norm": 0.279073029756546, + "learning_rate": 3.2807914946433857e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17707704, + "step": 9035 + }, + { + "epoch": 1.1976143141153082, + "grad_norm": 0.7152688503265381, + "learning_rate": 3.2804617142840834e-06, + "loss": 0.007, + "num_input_tokens_seen": 17709504, + "step": 9036 + }, + { + "epoch": 1.1977468522200132, + "grad_norm": 0.12465457618236542, + "learning_rate": 3.2801319188769392e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17710728, + "step": 9037 + }, + { + "epoch": 1.1978793903247182, + "grad_norm": 5.552314758300781, + "learning_rate": 3.279802108428315e-06, + "loss": 0.0662, + "num_input_tokens_seen": 17712688, + "step": 9038 + }, + { + "epoch": 1.1980119284294235, + "grad_norm": 3.6004574298858643, + "learning_rate": 3.279472282944568e-06, + "loss": 0.0351, + "num_input_tokens_seen": 17714632, + "step": 9039 + }, + { + "epoch": 1.1981444665341285, + "grad_norm": 0.7143848538398743, + "learning_rate": 3.2791424424320568e-06, + "loss": 0.0051, + "num_input_tokens_seen": 17716360, + "step": 9040 + }, + { + "epoch": 1.1982770046388336, + "grad_norm": 0.11256122589111328, + "learning_rate": 3.2788125868971434e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17717808, + "step": 9041 + }, + { + "epoch": 1.1984095427435388, + "grad_norm": 3.1990604400634766, + "learning_rate": 3.278482716346184e-06, + "loss": 0.0394, + "num_input_tokens_seen": 17720432, + "step": 9042 + }, + { + "epoch": 1.1985420808482439, + "grad_norm": 5.13429069519043, + "learning_rate": 3.278152830785542e-06, + "loss": 0.1068, + "num_input_tokens_seen": 17722160, + "step": 9043 + }, + { + "epoch": 1.198674618952949, + "grad_norm": 0.10997794568538666, + "learning_rate": 3.2778229302215768e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17723800, + "step": 9044 + }, + { + "epoch": 1.1988071570576542, + "grad_norm": 2.9213993549346924, + "learning_rate": 3.2774930146606487e-06, + "loss": 0.028, + "num_input_tokens_seen": 17725656, + "step": 9045 + }, + { + "epoch": 1.1989396951623592, + "grad_norm": 0.1360163390636444, + "learning_rate": 3.2771630841091182e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17729240, + "step": 9046 + }, + { + "epoch": 1.1990722332670642, + "grad_norm": 10.870383262634277, + "learning_rate": 3.2768331385733475e-06, + "loss": 0.2757, + "num_input_tokens_seen": 17731104, + "step": 9047 + }, + { + "epoch": 1.1992047713717695, + "grad_norm": 1.0196704864501953, + "learning_rate": 3.276503178059699e-06, + "loss": 0.0093, + "num_input_tokens_seen": 17733072, + "step": 9048 + }, + { + "epoch": 1.1993373094764745, + "grad_norm": 6.064451694488525, + "learning_rate": 3.2761732025745328e-06, + "loss": 0.198, + "num_input_tokens_seen": 17734784, + "step": 9049 + }, + { + "epoch": 1.1994698475811796, + "grad_norm": 6.145493507385254, + "learning_rate": 3.2758432121242115e-06, + "loss": 0.1355, + "num_input_tokens_seen": 17737320, + "step": 9050 + }, + { + "epoch": 1.1996023856858846, + "grad_norm": 10.204673767089844, + "learning_rate": 3.2755132067150987e-06, + "loss": 0.1281, + "num_input_tokens_seen": 17739680, + "step": 9051 + }, + { + "epoch": 1.1997349237905899, + "grad_norm": 4.3429365158081055, + "learning_rate": 3.2751831863535556e-06, + "loss": 0.0799, + "num_input_tokens_seen": 17741168, + "step": 9052 + }, + { + "epoch": 1.199867461895295, + "grad_norm": 0.06358958780765533, + "learning_rate": 3.274853151045946e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17742344, + "step": 9053 + }, + { + "epoch": 1.2, + "grad_norm": 0.05594007298350334, + "learning_rate": 3.274523100798634e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17744840, + "step": 9054 + }, + { + "epoch": 1.2001325381047052, + "grad_norm": 0.9304759502410889, + "learning_rate": 3.2741930356179806e-06, + "loss": 0.002, + "num_input_tokens_seen": 17746592, + "step": 9055 + }, + { + "epoch": 1.2002650762094103, + "grad_norm": 5.205002784729004, + "learning_rate": 3.273862955510353e-06, + "loss": 0.0965, + "num_input_tokens_seen": 17747792, + "step": 9056 + }, + { + "epoch": 1.2003976143141153, + "grad_norm": 1.2414475679397583, + "learning_rate": 3.2735328604821132e-06, + "loss": 0.0082, + "num_input_tokens_seen": 17749272, + "step": 9057 + }, + { + "epoch": 1.2005301524188203, + "grad_norm": 12.819445610046387, + "learning_rate": 3.273202750539625e-06, + "loss": 0.2514, + "num_input_tokens_seen": 17751280, + "step": 9058 + }, + { + "epoch": 1.2006626905235256, + "grad_norm": 0.3836911618709564, + "learning_rate": 3.2728726256892563e-06, + "loss": 0.002, + "num_input_tokens_seen": 17752736, + "step": 9059 + }, + { + "epoch": 1.2007952286282306, + "grad_norm": 7.996298789978027, + "learning_rate": 3.272542485937369e-06, + "loss": 0.1837, + "num_input_tokens_seen": 17754400, + "step": 9060 + }, + { + "epoch": 1.2009277667329357, + "grad_norm": 5.354411602020264, + "learning_rate": 3.2722123312903296e-06, + "loss": 0.1867, + "num_input_tokens_seen": 17756120, + "step": 9061 + }, + { + "epoch": 1.201060304837641, + "grad_norm": 0.02621486596763134, + "learning_rate": 3.2718821617545047e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17757152, + "step": 9062 + }, + { + "epoch": 1.201192842942346, + "grad_norm": 3.123389959335327, + "learning_rate": 3.271551977336258e-06, + "loss": 0.0952, + "num_input_tokens_seen": 17758448, + "step": 9063 + }, + { + "epoch": 1.201325381047051, + "grad_norm": 4.6133880615234375, + "learning_rate": 3.2712217780419575e-06, + "loss": 0.0581, + "num_input_tokens_seen": 17760232, + "step": 9064 + }, + { + "epoch": 1.201457919151756, + "grad_norm": 2.612525463104248, + "learning_rate": 3.2708915638779694e-06, + "loss": 0.0239, + "num_input_tokens_seen": 17761992, + "step": 9065 + }, + { + "epoch": 1.2015904572564613, + "grad_norm": 4.150389671325684, + "learning_rate": 3.2705613348506597e-06, + "loss": 0.0844, + "num_input_tokens_seen": 17764400, + "step": 9066 + }, + { + "epoch": 1.2017229953611663, + "grad_norm": 0.6718852519989014, + "learning_rate": 3.270231090966396e-06, + "loss": 0.0032, + "num_input_tokens_seen": 17767248, + "step": 9067 + }, + { + "epoch": 1.2018555334658714, + "grad_norm": 1.9013322591781616, + "learning_rate": 3.2699008322315456e-06, + "loss": 0.0094, + "num_input_tokens_seen": 17768936, + "step": 9068 + }, + { + "epoch": 1.2019880715705766, + "grad_norm": 0.08963616192340851, + "learning_rate": 3.2695705586524764e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17770288, + "step": 9069 + }, + { + "epoch": 1.2021206096752817, + "grad_norm": 9.684527397155762, + "learning_rate": 3.2692402702355554e-06, + "loss": 0.1807, + "num_input_tokens_seen": 17772736, + "step": 9070 + }, + { + "epoch": 1.2022531477799867, + "grad_norm": 11.210332870483398, + "learning_rate": 3.268909966987151e-06, + "loss": 0.3761, + "num_input_tokens_seen": 17774464, + "step": 9071 + }, + { + "epoch": 1.2023856858846917, + "grad_norm": 0.33393895626068115, + "learning_rate": 3.2685796489136324e-06, + "loss": 0.0022, + "num_input_tokens_seen": 17776136, + "step": 9072 + }, + { + "epoch": 1.202518223989397, + "grad_norm": 6.568004608154297, + "learning_rate": 3.268249316021368e-06, + "loss": 0.1201, + "num_input_tokens_seen": 17778136, + "step": 9073 + }, + { + "epoch": 1.202650762094102, + "grad_norm": 0.0875641405582428, + "learning_rate": 3.2679189683167267e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17779536, + "step": 9074 + }, + { + "epoch": 1.202783300198807, + "grad_norm": 5.369405746459961, + "learning_rate": 3.267588605806078e-06, + "loss": 0.0314, + "num_input_tokens_seen": 17781408, + "step": 9075 + }, + { + "epoch": 1.2029158383035123, + "grad_norm": 8.198540687561035, + "learning_rate": 3.267258228495791e-06, + "loss": 0.1699, + "num_input_tokens_seen": 17783072, + "step": 9076 + }, + { + "epoch": 1.2030483764082174, + "grad_norm": 2.685887098312378, + "learning_rate": 3.266927836392237e-06, + "loss": 0.023, + "num_input_tokens_seen": 17784840, + "step": 9077 + }, + { + "epoch": 1.2031809145129224, + "grad_norm": 0.10177570581436157, + "learning_rate": 3.2665974295017845e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17787088, + "step": 9078 + }, + { + "epoch": 1.2033134526176275, + "grad_norm": 4.595022201538086, + "learning_rate": 3.266267007830805e-06, + "loss": 0.0801, + "num_input_tokens_seen": 17788616, + "step": 9079 + }, + { + "epoch": 1.2034459907223327, + "grad_norm": 13.191292762756348, + "learning_rate": 3.2659365713856695e-06, + "loss": 0.2605, + "num_input_tokens_seen": 17791240, + "step": 9080 + }, + { + "epoch": 1.2035785288270378, + "grad_norm": 0.11333123594522476, + "learning_rate": 3.265606120172747e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17794688, + "step": 9081 + }, + { + "epoch": 1.2037110669317428, + "grad_norm": 4.5614848136901855, + "learning_rate": 3.2652756541984114e-06, + "loss": 0.0577, + "num_input_tokens_seen": 17796664, + "step": 9082 + }, + { + "epoch": 1.203843605036448, + "grad_norm": 8.041604995727539, + "learning_rate": 3.2649451734690336e-06, + "loss": 0.2329, + "num_input_tokens_seen": 17798968, + "step": 9083 + }, + { + "epoch": 1.203976143141153, + "grad_norm": 0.04253728687763214, + "learning_rate": 3.2646146779909843e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17800368, + "step": 9084 + }, + { + "epoch": 1.2041086812458581, + "grad_norm": 11.104769706726074, + "learning_rate": 3.264284167770637e-06, + "loss": 0.1891, + "num_input_tokens_seen": 17801976, + "step": 9085 + }, + { + "epoch": 1.2042412193505632, + "grad_norm": 2.4175796508789062, + "learning_rate": 3.263953642814363e-06, + "loss": 0.0796, + "num_input_tokens_seen": 17803432, + "step": 9086 + }, + { + "epoch": 1.2043737574552684, + "grad_norm": 0.16529804468154907, + "learning_rate": 3.2636231031285364e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17804968, + "step": 9087 + }, + { + "epoch": 1.2045062955599735, + "grad_norm": 0.6849271655082703, + "learning_rate": 3.2632925487195297e-06, + "loss": 0.004, + "num_input_tokens_seen": 17806272, + "step": 9088 + }, + { + "epoch": 1.2046388336646785, + "grad_norm": 12.577308654785156, + "learning_rate": 3.262961979593716e-06, + "loss": 0.2467, + "num_input_tokens_seen": 17807776, + "step": 9089 + }, + { + "epoch": 1.2047713717693838, + "grad_norm": 0.7359256744384766, + "learning_rate": 3.2626313957574685e-06, + "loss": 0.0051, + "num_input_tokens_seen": 17809488, + "step": 9090 + }, + { + "epoch": 1.2049039098740888, + "grad_norm": 7.815922260284424, + "learning_rate": 3.262300797217162e-06, + "loss": 0.1023, + "num_input_tokens_seen": 17811160, + "step": 9091 + }, + { + "epoch": 1.2050364479787938, + "grad_norm": 12.068278312683105, + "learning_rate": 3.2619701839791707e-06, + "loss": 0.1517, + "num_input_tokens_seen": 17813096, + "step": 9092 + }, + { + "epoch": 1.205168986083499, + "grad_norm": 0.09156709164381027, + "learning_rate": 3.2616395560498675e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17815408, + "step": 9093 + }, + { + "epoch": 1.2053015241882041, + "grad_norm": 16.273731231689453, + "learning_rate": 3.261308913435629e-06, + "loss": 0.4094, + "num_input_tokens_seen": 17818096, + "step": 9094 + }, + { + "epoch": 1.2054340622929092, + "grad_norm": 2.3563897609710693, + "learning_rate": 3.2609782561428293e-06, + "loss": 0.0266, + "num_input_tokens_seen": 17819792, + "step": 9095 + }, + { + "epoch": 1.2055666003976144, + "grad_norm": 5.291491985321045, + "learning_rate": 3.260647584177844e-06, + "loss": 0.0359, + "num_input_tokens_seen": 17821184, + "step": 9096 + }, + { + "epoch": 1.2056991385023195, + "grad_norm": 3.2442591190338135, + "learning_rate": 3.260316897547048e-06, + "loss": 0.0523, + "num_input_tokens_seen": 17823208, + "step": 9097 + }, + { + "epoch": 1.2058316766070245, + "grad_norm": 9.191383361816406, + "learning_rate": 3.2599861962568187e-06, + "loss": 0.0982, + "num_input_tokens_seen": 17825672, + "step": 9098 + }, + { + "epoch": 1.2059642147117295, + "grad_norm": 0.047080304473638535, + "learning_rate": 3.2596554803135294e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17827248, + "step": 9099 + }, + { + "epoch": 1.2060967528164348, + "grad_norm": 9.187613487243652, + "learning_rate": 3.2593247497235603e-06, + "loss": 0.1071, + "num_input_tokens_seen": 17829632, + "step": 9100 + }, + { + "epoch": 1.2062292909211398, + "grad_norm": 4.77036190032959, + "learning_rate": 3.2589940044932856e-06, + "loss": 0.1297, + "num_input_tokens_seen": 17831104, + "step": 9101 + }, + { + "epoch": 1.2063618290258449, + "grad_norm": 0.4092884361743927, + "learning_rate": 3.2586632446290824e-06, + "loss": 0.0018, + "num_input_tokens_seen": 17832520, + "step": 9102 + }, + { + "epoch": 1.2064943671305501, + "grad_norm": 0.14627094566822052, + "learning_rate": 3.258332470137329e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17834296, + "step": 9103 + }, + { + "epoch": 1.2066269052352552, + "grad_norm": 10.010648727416992, + "learning_rate": 3.258001681024402e-06, + "loss": 0.237, + "num_input_tokens_seen": 17836360, + "step": 9104 + }, + { + "epoch": 1.2067594433399602, + "grad_norm": 5.303126335144043, + "learning_rate": 3.25767087729668e-06, + "loss": 0.042, + "num_input_tokens_seen": 17837808, + "step": 9105 + }, + { + "epoch": 1.2068919814446653, + "grad_norm": 0.16575190424919128, + "learning_rate": 3.257340058960541e-06, + "loss": 0.0011, + "num_input_tokens_seen": 17839848, + "step": 9106 + }, + { + "epoch": 1.2070245195493705, + "grad_norm": 0.10358315706253052, + "learning_rate": 3.257009226022363e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17841320, + "step": 9107 + }, + { + "epoch": 1.2071570576540755, + "grad_norm": 11.738689422607422, + "learning_rate": 3.2566783784885248e-06, + "loss": 0.2074, + "num_input_tokens_seen": 17843128, + "step": 9108 + }, + { + "epoch": 1.2072895957587806, + "grad_norm": 7.097743511199951, + "learning_rate": 3.256347516365405e-06, + "loss": 0.1716, + "num_input_tokens_seen": 17845136, + "step": 9109 + }, + { + "epoch": 1.2074221338634858, + "grad_norm": 1.5800695419311523, + "learning_rate": 3.256016639659384e-06, + "loss": 0.0137, + "num_input_tokens_seen": 17847464, + "step": 9110 + }, + { + "epoch": 1.2075546719681909, + "grad_norm": 3.827202320098877, + "learning_rate": 3.2556857483768407e-06, + "loss": 0.0334, + "num_input_tokens_seen": 17848656, + "step": 9111 + }, + { + "epoch": 1.207687210072896, + "grad_norm": 0.06750406324863434, + "learning_rate": 3.2553548425241542e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17850016, + "step": 9112 + }, + { + "epoch": 1.207819748177601, + "grad_norm": 13.304123878479004, + "learning_rate": 3.255023922107706e-06, + "loss": 0.3205, + "num_input_tokens_seen": 17852712, + "step": 9113 + }, + { + "epoch": 1.2079522862823062, + "grad_norm": 10.418885231018066, + "learning_rate": 3.254692987133875e-06, + "loss": 0.1812, + "num_input_tokens_seen": 17854584, + "step": 9114 + }, + { + "epoch": 1.2080848243870113, + "grad_norm": 8.750944137573242, + "learning_rate": 3.254362037609043e-06, + "loss": 0.1287, + "num_input_tokens_seen": 17855984, + "step": 9115 + }, + { + "epoch": 1.2082173624917163, + "grad_norm": 0.18187783658504486, + "learning_rate": 3.254031073539591e-06, + "loss": 0.0013, + "num_input_tokens_seen": 17857952, + "step": 9116 + }, + { + "epoch": 1.2083499005964216, + "grad_norm": 4.154590606689453, + "learning_rate": 3.253700094931898e-06, + "loss": 0.0357, + "num_input_tokens_seen": 17859240, + "step": 9117 + }, + { + "epoch": 1.2084824387011266, + "grad_norm": 7.514345645904541, + "learning_rate": 3.2533691017923486e-06, + "loss": 0.2115, + "num_input_tokens_seen": 17861104, + "step": 9118 + }, + { + "epoch": 1.2086149768058316, + "grad_norm": 11.65219497680664, + "learning_rate": 3.2530380941273234e-06, + "loss": 0.2162, + "num_input_tokens_seen": 17862760, + "step": 9119 + }, + { + "epoch": 1.2087475149105367, + "grad_norm": 10.27974796295166, + "learning_rate": 3.252707071943203e-06, + "loss": 0.1028, + "num_input_tokens_seen": 17865272, + "step": 9120 + }, + { + "epoch": 1.208880053015242, + "grad_norm": 10.581058502197266, + "learning_rate": 3.2523760352463722e-06, + "loss": 0.1422, + "num_input_tokens_seen": 17867624, + "step": 9121 + }, + { + "epoch": 1.209012591119947, + "grad_norm": 5.052036762237549, + "learning_rate": 3.2520449840432123e-06, + "loss": 0.0524, + "num_input_tokens_seen": 17869272, + "step": 9122 + }, + { + "epoch": 1.209145129224652, + "grad_norm": 9.949357986450195, + "learning_rate": 3.2517139183401058e-06, + "loss": 0.2596, + "num_input_tokens_seen": 17871256, + "step": 9123 + }, + { + "epoch": 1.2092776673293573, + "grad_norm": 0.14825275540351868, + "learning_rate": 3.2513828381434367e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17872840, + "step": 9124 + }, + { + "epoch": 1.2094102054340623, + "grad_norm": 0.0769953653216362, + "learning_rate": 3.251051743459588e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17874736, + "step": 9125 + }, + { + "epoch": 1.2095427435387673, + "grad_norm": 5.3438401222229, + "learning_rate": 3.2507206342949434e-06, + "loss": 0.0853, + "num_input_tokens_seen": 17877424, + "step": 9126 + }, + { + "epoch": 1.2096752816434724, + "grad_norm": 2.3395495414733887, + "learning_rate": 3.2503895106558874e-06, + "loss": 0.0505, + "num_input_tokens_seen": 17879200, + "step": 9127 + }, + { + "epoch": 1.2098078197481776, + "grad_norm": 14.266555786132812, + "learning_rate": 3.2500583725488034e-06, + "loss": 0.2809, + "num_input_tokens_seen": 17880888, + "step": 9128 + }, + { + "epoch": 1.2099403578528827, + "grad_norm": 13.303766250610352, + "learning_rate": 3.2497272199800766e-06, + "loss": 0.4695, + "num_input_tokens_seen": 17883760, + "step": 9129 + }, + { + "epoch": 1.2100728959575877, + "grad_norm": 2.8186981678009033, + "learning_rate": 3.2493960529560925e-06, + "loss": 0.0267, + "num_input_tokens_seen": 17885624, + "step": 9130 + }, + { + "epoch": 1.210205434062293, + "grad_norm": 3.4796862602233887, + "learning_rate": 3.249064871483235e-06, + "loss": 0.0457, + "num_input_tokens_seen": 17887592, + "step": 9131 + }, + { + "epoch": 1.210337972166998, + "grad_norm": 4.06358003616333, + "learning_rate": 3.2487336755678905e-06, + "loss": 0.0551, + "num_input_tokens_seen": 17889600, + "step": 9132 + }, + { + "epoch": 1.210470510271703, + "grad_norm": 0.035727713257074356, + "learning_rate": 3.2484024652164436e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17891656, + "step": 9133 + }, + { + "epoch": 1.2106030483764083, + "grad_norm": 7.055615425109863, + "learning_rate": 3.2480712404352815e-06, + "loss": 0.1159, + "num_input_tokens_seen": 17893344, + "step": 9134 + }, + { + "epoch": 1.2107355864811133, + "grad_norm": 5.3411736488342285, + "learning_rate": 3.2477400012307885e-06, + "loss": 0.0823, + "num_input_tokens_seen": 17894912, + "step": 9135 + }, + { + "epoch": 1.2108681245858184, + "grad_norm": 0.3413936495780945, + "learning_rate": 3.247408747609354e-06, + "loss": 0.0035, + "num_input_tokens_seen": 17897056, + "step": 9136 + }, + { + "epoch": 1.2110006626905236, + "grad_norm": 18.52158546447754, + "learning_rate": 3.247077479577363e-06, + "loss": 0.143, + "num_input_tokens_seen": 17899200, + "step": 9137 + }, + { + "epoch": 1.2111332007952287, + "grad_norm": 3.46530818939209, + "learning_rate": 3.2467461971412016e-06, + "loss": 0.0351, + "num_input_tokens_seen": 17901040, + "step": 9138 + }, + { + "epoch": 1.2112657388999337, + "grad_norm": 0.16881491243839264, + "learning_rate": 3.2464149003072597e-06, + "loss": 0.001, + "num_input_tokens_seen": 17902632, + "step": 9139 + }, + { + "epoch": 1.2113982770046388, + "grad_norm": 5.722073554992676, + "learning_rate": 3.246083589081923e-06, + "loss": 0.0456, + "num_input_tokens_seen": 17905208, + "step": 9140 + }, + { + "epoch": 1.211530815109344, + "grad_norm": 4.076426982879639, + "learning_rate": 3.2457522634715797e-06, + "loss": 0.0407, + "num_input_tokens_seen": 17906880, + "step": 9141 + }, + { + "epoch": 1.211663353214049, + "grad_norm": 0.6941167712211609, + "learning_rate": 3.2454209234826195e-06, + "loss": 0.0032, + "num_input_tokens_seen": 17908256, + "step": 9142 + }, + { + "epoch": 1.211795891318754, + "grad_norm": 10.72095775604248, + "learning_rate": 3.2450895691214283e-06, + "loss": 0.2082, + "num_input_tokens_seen": 17910224, + "step": 9143 + }, + { + "epoch": 1.2119284294234594, + "grad_norm": 0.7398728132247925, + "learning_rate": 3.2447582003943966e-06, + "loss": 0.009, + "num_input_tokens_seen": 17911912, + "step": 9144 + }, + { + "epoch": 1.2120609675281644, + "grad_norm": 2.5592658519744873, + "learning_rate": 3.2444268173079143e-06, + "loss": 0.0275, + "num_input_tokens_seen": 17914024, + "step": 9145 + }, + { + "epoch": 1.2121935056328694, + "grad_norm": 0.03525635600090027, + "learning_rate": 3.2440954198683676e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17916064, + "step": 9146 + }, + { + "epoch": 1.2123260437375745, + "grad_norm": 6.539280891418457, + "learning_rate": 3.2437640080821487e-06, + "loss": 0.1487, + "num_input_tokens_seen": 17918920, + "step": 9147 + }, + { + "epoch": 1.2124585818422797, + "grad_norm": 0.02743186056613922, + "learning_rate": 3.243432581955646e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17920616, + "step": 9148 + }, + { + "epoch": 1.2125911199469848, + "grad_norm": 28.531972885131836, + "learning_rate": 3.2431011414952514e-06, + "loss": 0.2476, + "num_input_tokens_seen": 17922696, + "step": 9149 + }, + { + "epoch": 1.2127236580516898, + "grad_norm": 4.468481063842773, + "learning_rate": 3.2427696867073534e-06, + "loss": 0.0675, + "num_input_tokens_seen": 17924424, + "step": 9150 + }, + { + "epoch": 1.212856196156395, + "grad_norm": 0.10224050283432007, + "learning_rate": 3.2424382175983433e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17926432, + "step": 9151 + }, + { + "epoch": 1.2129887342611, + "grad_norm": 1.6860630512237549, + "learning_rate": 3.242106734174612e-06, + "loss": 0.014, + "num_input_tokens_seen": 17928288, + "step": 9152 + }, + { + "epoch": 1.2131212723658051, + "grad_norm": 13.53470230102539, + "learning_rate": 3.2417752364425514e-06, + "loss": 0.053, + "num_input_tokens_seen": 17930448, + "step": 9153 + }, + { + "epoch": 1.2132538104705102, + "grad_norm": 11.0657377243042, + "learning_rate": 3.241443724408553e-06, + "loss": 0.2652, + "num_input_tokens_seen": 17932048, + "step": 9154 + }, + { + "epoch": 1.2133863485752154, + "grad_norm": 0.10713815689086914, + "learning_rate": 3.241112198079007e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17934696, + "step": 9155 + }, + { + "epoch": 1.2135188866799205, + "grad_norm": 4.125648021697998, + "learning_rate": 3.240780657460307e-06, + "loss": 0.0298, + "num_input_tokens_seen": 17936576, + "step": 9156 + }, + { + "epoch": 1.2136514247846255, + "grad_norm": 1.5447955131530762, + "learning_rate": 3.240449102558845e-06, + "loss": 0.0173, + "num_input_tokens_seen": 17938536, + "step": 9157 + }, + { + "epoch": 1.2137839628893308, + "grad_norm": 4.081322193145752, + "learning_rate": 3.2401175333810137e-06, + "loss": 0.0755, + "num_input_tokens_seen": 17940168, + "step": 9158 + }, + { + "epoch": 1.2139165009940358, + "grad_norm": 8.045662879943848, + "learning_rate": 3.239785949933205e-06, + "loss": 0.1928, + "num_input_tokens_seen": 17942256, + "step": 9159 + }, + { + "epoch": 1.2140490390987408, + "grad_norm": 9.230433464050293, + "learning_rate": 3.2394543522218143e-06, + "loss": 0.1386, + "num_input_tokens_seen": 17944184, + "step": 9160 + }, + { + "epoch": 1.2141815772034459, + "grad_norm": 10.852619171142578, + "learning_rate": 3.2391227402532323e-06, + "loss": 0.426, + "num_input_tokens_seen": 17945784, + "step": 9161 + }, + { + "epoch": 1.2143141153081511, + "grad_norm": 0.04514923319220543, + "learning_rate": 3.238791114033854e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17947624, + "step": 9162 + }, + { + "epoch": 1.2144466534128562, + "grad_norm": 0.19006283581256866, + "learning_rate": 3.238459473570074e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17949032, + "step": 9163 + }, + { + "epoch": 1.2145791915175612, + "grad_norm": 0.015030396170914173, + "learning_rate": 3.2381278188682853e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17950424, + "step": 9164 + }, + { + "epoch": 1.2147117296222665, + "grad_norm": 6.36232328414917, + "learning_rate": 3.237796149934883e-06, + "loss": 0.1403, + "num_input_tokens_seen": 17952384, + "step": 9165 + }, + { + "epoch": 1.2148442677269715, + "grad_norm": 2.568963050842285, + "learning_rate": 3.237464466776262e-06, + "loss": 0.0836, + "num_input_tokens_seen": 17954280, + "step": 9166 + }, + { + "epoch": 1.2149768058316766, + "grad_norm": 7.111922740936279, + "learning_rate": 3.237132769398818e-06, + "loss": 0.1639, + "num_input_tokens_seen": 17956120, + "step": 9167 + }, + { + "epoch": 1.2151093439363816, + "grad_norm": 9.37205696105957, + "learning_rate": 3.2368010578089453e-06, + "loss": 0.1038, + "num_input_tokens_seen": 17957584, + "step": 9168 + }, + { + "epoch": 1.2152418820410869, + "grad_norm": 1.1963266134262085, + "learning_rate": 3.23646933201304e-06, + "loss": 0.0235, + "num_input_tokens_seen": 17959640, + "step": 9169 + }, + { + "epoch": 1.215374420145792, + "grad_norm": 6.404896259307861, + "learning_rate": 3.2361375920174974e-06, + "loss": 0.1163, + "num_input_tokens_seen": 17961616, + "step": 9170 + }, + { + "epoch": 1.215506958250497, + "grad_norm": 3.5480639934539795, + "learning_rate": 3.235805837828715e-06, + "loss": 0.0754, + "num_input_tokens_seen": 17963392, + "step": 9171 + }, + { + "epoch": 1.2156394963552022, + "grad_norm": 15.129243850708008, + "learning_rate": 3.2354740694530886e-06, + "loss": 0.4384, + "num_input_tokens_seen": 17965648, + "step": 9172 + }, + { + "epoch": 1.2157720344599072, + "grad_norm": 8.131954193115234, + "learning_rate": 3.235142286897014e-06, + "loss": 0.3006, + "num_input_tokens_seen": 17967328, + "step": 9173 + }, + { + "epoch": 1.2159045725646123, + "grad_norm": 0.08159670978784561, + "learning_rate": 3.2348104901668884e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17969248, + "step": 9174 + }, + { + "epoch": 1.2160371106693175, + "grad_norm": 0.46669483184814453, + "learning_rate": 3.234478679269111e-06, + "loss": 0.0043, + "num_input_tokens_seen": 17971392, + "step": 9175 + }, + { + "epoch": 1.2161696487740226, + "grad_norm": 0.024687767028808594, + "learning_rate": 3.2341468542100773e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17972960, + "step": 9176 + }, + { + "epoch": 1.2163021868787276, + "grad_norm": 5.344636917114258, + "learning_rate": 3.2338150149961856e-06, + "loss": 0.1337, + "num_input_tokens_seen": 17975432, + "step": 9177 + }, + { + "epoch": 1.2164347249834329, + "grad_norm": 1.641262412071228, + "learning_rate": 3.2334831616338346e-06, + "loss": 0.0121, + "num_input_tokens_seen": 17978824, + "step": 9178 + }, + { + "epoch": 1.216567263088138, + "grad_norm": 9.067586898803711, + "learning_rate": 3.233151294129422e-06, + "loss": 0.1388, + "num_input_tokens_seen": 17981536, + "step": 9179 + }, + { + "epoch": 1.216699801192843, + "grad_norm": 8.68569278717041, + "learning_rate": 3.2328194124893465e-06, + "loss": 0.2926, + "num_input_tokens_seen": 17984024, + "step": 9180 + }, + { + "epoch": 1.216832339297548, + "grad_norm": 0.09665299206972122, + "learning_rate": 3.232487516720008e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17985704, + "step": 9181 + }, + { + "epoch": 1.2169648774022532, + "grad_norm": 8.126981735229492, + "learning_rate": 3.232155606827804e-06, + "loss": 0.1961, + "num_input_tokens_seen": 17987368, + "step": 9182 + }, + { + "epoch": 1.2170974155069583, + "grad_norm": 9.479541778564453, + "learning_rate": 3.2318236828191353e-06, + "loss": 0.367, + "num_input_tokens_seen": 17989272, + "step": 9183 + }, + { + "epoch": 1.2172299536116633, + "grad_norm": 8.423776626586914, + "learning_rate": 3.2314917447004014e-06, + "loss": 0.2195, + "num_input_tokens_seen": 17991160, + "step": 9184 + }, + { + "epoch": 1.2173624917163686, + "grad_norm": 3.2139229774475098, + "learning_rate": 3.231159792478e-06, + "loss": 0.0367, + "num_input_tokens_seen": 17992848, + "step": 9185 + }, + { + "epoch": 1.2174950298210736, + "grad_norm": 4.176015853881836, + "learning_rate": 3.230827826158336e-06, + "loss": 0.0506, + "num_input_tokens_seen": 17994520, + "step": 9186 + }, + { + "epoch": 1.2176275679257786, + "grad_norm": 9.809189796447754, + "learning_rate": 3.2304958457478063e-06, + "loss": 0.0787, + "num_input_tokens_seen": 17995808, + "step": 9187 + }, + { + "epoch": 1.2177601060304837, + "grad_norm": 0.12853042781352997, + "learning_rate": 3.230163851252812e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17998128, + "step": 9188 + }, + { + "epoch": 1.217892644135189, + "grad_norm": 13.686176300048828, + "learning_rate": 3.2298318426797563e-06, + "loss": 0.3382, + "num_input_tokens_seen": 18000232, + "step": 9189 + }, + { + "epoch": 1.218025182239894, + "grad_norm": 9.637618064880371, + "learning_rate": 3.2294998200350387e-06, + "loss": 0.1385, + "num_input_tokens_seen": 18002024, + "step": 9190 + }, + { + "epoch": 1.218157720344599, + "grad_norm": 0.7034379839897156, + "learning_rate": 3.2291677833250612e-06, + "loss": 0.0066, + "num_input_tokens_seen": 18003224, + "step": 9191 + }, + { + "epoch": 1.2182902584493043, + "grad_norm": 3.8842196464538574, + "learning_rate": 3.2288357325562253e-06, + "loss": 0.1317, + "num_input_tokens_seen": 18005904, + "step": 9192 + }, + { + "epoch": 1.2184227965540093, + "grad_norm": 2.9960498809814453, + "learning_rate": 3.2285036677349344e-06, + "loss": 0.0441, + "num_input_tokens_seen": 18007600, + "step": 9193 + }, + { + "epoch": 1.2185553346587144, + "grad_norm": 3.8884594440460205, + "learning_rate": 3.22817158886759e-06, + "loss": 0.0321, + "num_input_tokens_seen": 18009344, + "step": 9194 + }, + { + "epoch": 1.2186878727634194, + "grad_norm": 1.028959035873413, + "learning_rate": 3.227839495960595e-06, + "loss": 0.0076, + "num_input_tokens_seen": 18011184, + "step": 9195 + }, + { + "epoch": 1.2188204108681246, + "grad_norm": 10.512124061584473, + "learning_rate": 3.227507389020353e-06, + "loss": 0.388, + "num_input_tokens_seen": 18012888, + "step": 9196 + }, + { + "epoch": 1.2189529489728297, + "grad_norm": 6.777951240539551, + "learning_rate": 3.227175268053266e-06, + "loss": 0.2184, + "num_input_tokens_seen": 18014328, + "step": 9197 + }, + { + "epoch": 1.2190854870775347, + "grad_norm": 6.231356620788574, + "learning_rate": 3.226843133065738e-06, + "loss": 0.1529, + "num_input_tokens_seen": 18016704, + "step": 9198 + }, + { + "epoch": 1.21921802518224, + "grad_norm": 0.8585266470909119, + "learning_rate": 3.2265109840641733e-06, + "loss": 0.0101, + "num_input_tokens_seen": 18019336, + "step": 9199 + }, + { + "epoch": 1.219350563286945, + "grad_norm": 9.952191352844238, + "learning_rate": 3.226178821054975e-06, + "loss": 0.205, + "num_input_tokens_seen": 18020832, + "step": 9200 + }, + { + "epoch": 1.21948310139165, + "grad_norm": 0.07330610603094101, + "learning_rate": 3.225846644044549e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18021960, + "step": 9201 + }, + { + "epoch": 1.219615639496355, + "grad_norm": 3.2237322330474854, + "learning_rate": 3.225514453039299e-06, + "loss": 0.0638, + "num_input_tokens_seen": 18023512, + "step": 9202 + }, + { + "epoch": 1.2197481776010604, + "grad_norm": 3.106146812438965, + "learning_rate": 3.2251822480456284e-06, + "loss": 0.042, + "num_input_tokens_seen": 18025576, + "step": 9203 + }, + { + "epoch": 1.2198807157057654, + "grad_norm": 0.47439780831336975, + "learning_rate": 3.224850029069946e-06, + "loss": 0.0034, + "num_input_tokens_seen": 18027512, + "step": 9204 + }, + { + "epoch": 1.2200132538104704, + "grad_norm": 7.108116626739502, + "learning_rate": 3.2245177961186536e-06, + "loss": 0.0661, + "num_input_tokens_seen": 18029704, + "step": 9205 + }, + { + "epoch": 1.2201457919151757, + "grad_norm": 1.56760835647583, + "learning_rate": 3.224185549198158e-06, + "loss": 0.011, + "num_input_tokens_seen": 18033088, + "step": 9206 + }, + { + "epoch": 1.2202783300198807, + "grad_norm": 7.924262523651123, + "learning_rate": 3.2238532883148664e-06, + "loss": 0.1684, + "num_input_tokens_seen": 18035576, + "step": 9207 + }, + { + "epoch": 1.2204108681245858, + "grad_norm": 6.61377477645874, + "learning_rate": 3.2235210134751834e-06, + "loss": 0.2069, + "num_input_tokens_seen": 18037528, + "step": 9208 + }, + { + "epoch": 1.2205434062292908, + "grad_norm": 4.029158592224121, + "learning_rate": 3.2231887246855157e-06, + "loss": 0.1011, + "num_input_tokens_seen": 18038840, + "step": 9209 + }, + { + "epoch": 1.220675944333996, + "grad_norm": 0.368107408285141, + "learning_rate": 3.222856421952271e-06, + "loss": 0.0025, + "num_input_tokens_seen": 18041328, + "step": 9210 + }, + { + "epoch": 1.220808482438701, + "grad_norm": 7.702954292297363, + "learning_rate": 3.2225241052818567e-06, + "loss": 0.2969, + "num_input_tokens_seen": 18043392, + "step": 9211 + }, + { + "epoch": 1.2209410205434061, + "grad_norm": 4.439028263092041, + "learning_rate": 3.222191774680678e-06, + "loss": 0.1701, + "num_input_tokens_seen": 18045096, + "step": 9212 + }, + { + "epoch": 1.2210735586481114, + "grad_norm": 0.5507677793502808, + "learning_rate": 3.2218594301551443e-06, + "loss": 0.0025, + "num_input_tokens_seen": 18047848, + "step": 9213 + }, + { + "epoch": 1.2212060967528164, + "grad_norm": 8.306917190551758, + "learning_rate": 3.2215270717116627e-06, + "loss": 0.074, + "num_input_tokens_seen": 18049896, + "step": 9214 + }, + { + "epoch": 1.2213386348575215, + "grad_norm": 1.734559416770935, + "learning_rate": 3.2211946993566412e-06, + "loss": 0.0106, + "num_input_tokens_seen": 18052208, + "step": 9215 + }, + { + "epoch": 1.2214711729622267, + "grad_norm": 0.2658510208129883, + "learning_rate": 3.220862313096488e-06, + "loss": 0.0016, + "num_input_tokens_seen": 18053712, + "step": 9216 + }, + { + "epoch": 1.2216037110669318, + "grad_norm": 11.191339492797852, + "learning_rate": 3.220529912937612e-06, + "loss": 0.3079, + "num_input_tokens_seen": 18056488, + "step": 9217 + }, + { + "epoch": 1.2217362491716368, + "grad_norm": 0.03186461701989174, + "learning_rate": 3.220197498886423e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18058448, + "step": 9218 + }, + { + "epoch": 1.221868787276342, + "grad_norm": 10.536408424377441, + "learning_rate": 3.2198650709493295e-06, + "loss": 0.3974, + "num_input_tokens_seen": 18060384, + "step": 9219 + }, + { + "epoch": 1.222001325381047, + "grad_norm": 5.595023155212402, + "learning_rate": 3.21953262913274e-06, + "loss": 0.1325, + "num_input_tokens_seen": 18062744, + "step": 9220 + }, + { + "epoch": 1.2221338634857521, + "grad_norm": 10.682698249816895, + "learning_rate": 3.2192001734430657e-06, + "loss": 0.2467, + "num_input_tokens_seen": 18064976, + "step": 9221 + }, + { + "epoch": 1.2222664015904572, + "grad_norm": 5.00292444229126, + "learning_rate": 3.218867703886716e-06, + "loss": 0.1113, + "num_input_tokens_seen": 18067664, + "step": 9222 + }, + { + "epoch": 1.2223989396951624, + "grad_norm": 10.59686279296875, + "learning_rate": 3.2185352204701004e-06, + "loss": 0.1072, + "num_input_tokens_seen": 18070024, + "step": 9223 + }, + { + "epoch": 1.2225314777998675, + "grad_norm": 0.017353275790810585, + "learning_rate": 3.2182027231996306e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18071880, + "step": 9224 + }, + { + "epoch": 1.2226640159045725, + "grad_norm": 0.01517693605273962, + "learning_rate": 3.2178702120817167e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18073464, + "step": 9225 + }, + { + "epoch": 1.2227965540092778, + "grad_norm": 7.755061626434326, + "learning_rate": 3.21753768712277e-06, + "loss": 0.1229, + "num_input_tokens_seen": 18075376, + "step": 9226 + }, + { + "epoch": 1.2229290921139828, + "grad_norm": 7.077408790588379, + "learning_rate": 3.217205148329201e-06, + "loss": 0.2471, + "num_input_tokens_seen": 18077792, + "step": 9227 + }, + { + "epoch": 1.2230616302186879, + "grad_norm": 1.7125215530395508, + "learning_rate": 3.216872595707423e-06, + "loss": 0.0076, + "num_input_tokens_seen": 18079064, + "step": 9228 + }, + { + "epoch": 1.223194168323393, + "grad_norm": 0.08020414412021637, + "learning_rate": 3.216540029263846e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18081280, + "step": 9229 + }, + { + "epoch": 1.2233267064280982, + "grad_norm": 14.944341659545898, + "learning_rate": 3.216207449004883e-06, + "loss": 0.3158, + "num_input_tokens_seen": 18083480, + "step": 9230 + }, + { + "epoch": 1.2234592445328032, + "grad_norm": 0.013583719730377197, + "learning_rate": 3.215874854936947e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18085264, + "step": 9231 + }, + { + "epoch": 1.2235917826375082, + "grad_norm": 0.02987409569323063, + "learning_rate": 3.215542247066449e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18086680, + "step": 9232 + }, + { + "epoch": 1.2237243207422135, + "grad_norm": 7.907426834106445, + "learning_rate": 3.215209625399803e-06, + "loss": 0.0413, + "num_input_tokens_seen": 18088712, + "step": 9233 + }, + { + "epoch": 1.2238568588469185, + "grad_norm": 0.00683439290151, + "learning_rate": 3.2148769899434225e-06, + "loss": 0.0, + "num_input_tokens_seen": 18090744, + "step": 9234 + }, + { + "epoch": 1.2239893969516236, + "grad_norm": 0.0033382922410964966, + "learning_rate": 3.2145443407037203e-06, + "loss": 0.0, + "num_input_tokens_seen": 18091776, + "step": 9235 + }, + { + "epoch": 1.2241219350563286, + "grad_norm": 0.10739707946777344, + "learning_rate": 3.21421167768711e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18092792, + "step": 9236 + }, + { + "epoch": 1.2242544731610339, + "grad_norm": 11.95257568359375, + "learning_rate": 3.2138790009000063e-06, + "loss": 0.2878, + "num_input_tokens_seen": 18095688, + "step": 9237 + }, + { + "epoch": 1.224387011265739, + "grad_norm": 6.569685935974121, + "learning_rate": 3.213546310348823e-06, + "loss": 0.1772, + "num_input_tokens_seen": 18097280, + "step": 9238 + }, + { + "epoch": 1.224519549370444, + "grad_norm": 5.394773960113525, + "learning_rate": 3.2132136060399736e-06, + "loss": 0.0375, + "num_input_tokens_seen": 18099680, + "step": 9239 + }, + { + "epoch": 1.2246520874751492, + "grad_norm": 0.006969102658331394, + "learning_rate": 3.2128808879798752e-06, + "loss": 0.0, + "num_input_tokens_seen": 18101384, + "step": 9240 + }, + { + "epoch": 1.2247846255798542, + "grad_norm": 10.540257453918457, + "learning_rate": 3.2125481561749406e-06, + "loss": 0.2018, + "num_input_tokens_seen": 18103432, + "step": 9241 + }, + { + "epoch": 1.2249171636845593, + "grad_norm": 3.446161985397339, + "learning_rate": 3.212215410631586e-06, + "loss": 0.0998, + "num_input_tokens_seen": 18105160, + "step": 9242 + }, + { + "epoch": 1.2250497017892643, + "grad_norm": 10.671965599060059, + "learning_rate": 3.2118826513562277e-06, + "loss": 0.1067, + "num_input_tokens_seen": 18106536, + "step": 9243 + }, + { + "epoch": 1.2251822398939696, + "grad_norm": 18.58019256591797, + "learning_rate": 3.21154987835528e-06, + "loss": 0.2939, + "num_input_tokens_seen": 18108000, + "step": 9244 + }, + { + "epoch": 1.2253147779986746, + "grad_norm": 0.014874340035021305, + "learning_rate": 3.2112170916351605e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18109728, + "step": 9245 + }, + { + "epoch": 1.2254473161033796, + "grad_norm": 11.958312034606934, + "learning_rate": 3.210884291202285e-06, + "loss": 0.3032, + "num_input_tokens_seen": 18113040, + "step": 9246 + }, + { + "epoch": 1.225579854208085, + "grad_norm": 0.1405659317970276, + "learning_rate": 3.210551477063068e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18114824, + "step": 9247 + }, + { + "epoch": 1.22571239231279, + "grad_norm": 9.155230522155762, + "learning_rate": 3.21021864922393e-06, + "loss": 0.1568, + "num_input_tokens_seen": 18116848, + "step": 9248 + }, + { + "epoch": 1.225844930417495, + "grad_norm": 0.054299380630254745, + "learning_rate": 3.2098858076912863e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18118448, + "step": 9249 + }, + { + "epoch": 1.2259774685222, + "grad_norm": 18.31075668334961, + "learning_rate": 3.209552952471554e-06, + "loss": 0.4385, + "num_input_tokens_seen": 18120664, + "step": 9250 + }, + { + "epoch": 1.2261100066269053, + "grad_norm": 0.02250790223479271, + "learning_rate": 3.2092200835711524e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18123304, + "step": 9251 + }, + { + "epoch": 1.2262425447316103, + "grad_norm": 3.341330051422119, + "learning_rate": 3.208887200996497e-06, + "loss": 0.0334, + "num_input_tokens_seen": 18124584, + "step": 9252 + }, + { + "epoch": 1.2263750828363154, + "grad_norm": 8.040726661682129, + "learning_rate": 3.208554304754008e-06, + "loss": 0.2825, + "num_input_tokens_seen": 18127264, + "step": 9253 + }, + { + "epoch": 1.2265076209410206, + "grad_norm": 6.532689094543457, + "learning_rate": 3.2082213948501034e-06, + "loss": 0.1198, + "num_input_tokens_seen": 18130200, + "step": 9254 + }, + { + "epoch": 1.2266401590457257, + "grad_norm": 6.583267688751221, + "learning_rate": 3.207888471291202e-06, + "loss": 0.1209, + "num_input_tokens_seen": 18131704, + "step": 9255 + }, + { + "epoch": 1.2267726971504307, + "grad_norm": 19.91008758544922, + "learning_rate": 3.207555534083722e-06, + "loss": 0.6711, + "num_input_tokens_seen": 18134240, + "step": 9256 + }, + { + "epoch": 1.2269052352551357, + "grad_norm": 8.736006736755371, + "learning_rate": 3.2072225832340825e-06, + "loss": 0.1148, + "num_input_tokens_seen": 18135424, + "step": 9257 + }, + { + "epoch": 1.227037773359841, + "grad_norm": 2.818773031234741, + "learning_rate": 3.2068896187487047e-06, + "loss": 0.0305, + "num_input_tokens_seen": 18138280, + "step": 9258 + }, + { + "epoch": 1.227170311464546, + "grad_norm": 3.318325996398926, + "learning_rate": 3.2065566406340065e-06, + "loss": 0.1294, + "num_input_tokens_seen": 18139952, + "step": 9259 + }, + { + "epoch": 1.227302849569251, + "grad_norm": 10.270318984985352, + "learning_rate": 3.206223648896409e-06, + "loss": 0.1332, + "num_input_tokens_seen": 18142248, + "step": 9260 + }, + { + "epoch": 1.2274353876739563, + "grad_norm": 8.633078575134277, + "learning_rate": 3.2058906435423337e-06, + "loss": 0.1485, + "num_input_tokens_seen": 18145128, + "step": 9261 + }, + { + "epoch": 1.2275679257786614, + "grad_norm": 7.300957202911377, + "learning_rate": 3.205557624578198e-06, + "loss": 0.1416, + "num_input_tokens_seen": 18147048, + "step": 9262 + }, + { + "epoch": 1.2277004638833664, + "grad_norm": 6.557152271270752, + "learning_rate": 3.205224592010426e-06, + "loss": 0.08, + "num_input_tokens_seen": 18148928, + "step": 9263 + }, + { + "epoch": 1.2278330019880717, + "grad_norm": 25.99142837524414, + "learning_rate": 3.2048915458454373e-06, + "loss": 0.4206, + "num_input_tokens_seen": 18152368, + "step": 9264 + }, + { + "epoch": 1.2279655400927767, + "grad_norm": 6.490729331970215, + "learning_rate": 3.204558486089652e-06, + "loss": 0.0975, + "num_input_tokens_seen": 18154384, + "step": 9265 + }, + { + "epoch": 1.2280980781974817, + "grad_norm": 8.948105812072754, + "learning_rate": 3.204225412749494e-06, + "loss": 0.2656, + "num_input_tokens_seen": 18156256, + "step": 9266 + }, + { + "epoch": 1.228230616302187, + "grad_norm": 0.017085418105125427, + "learning_rate": 3.2038923258313844e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18157768, + "step": 9267 + }, + { + "epoch": 1.228363154406892, + "grad_norm": 0.03549474850296974, + "learning_rate": 3.2035592253417447e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18159008, + "step": 9268 + }, + { + "epoch": 1.228495692511597, + "grad_norm": 7.160843849182129, + "learning_rate": 3.2032261112869977e-06, + "loss": 0.1787, + "num_input_tokens_seen": 18161280, + "step": 9269 + }, + { + "epoch": 1.228628230616302, + "grad_norm": 2.5544095039367676, + "learning_rate": 3.202892983673567e-06, + "loss": 0.0452, + "num_input_tokens_seen": 18162536, + "step": 9270 + }, + { + "epoch": 1.2287607687210074, + "grad_norm": 8.32440185546875, + "learning_rate": 3.2025598425078736e-06, + "loss": 0.1916, + "num_input_tokens_seen": 18164736, + "step": 9271 + }, + { + "epoch": 1.2288933068257124, + "grad_norm": 2.2942121028900146, + "learning_rate": 3.2022266877963426e-06, + "loss": 0.0203, + "num_input_tokens_seen": 18166296, + "step": 9272 + }, + { + "epoch": 1.2290258449304174, + "grad_norm": 7.356770992279053, + "learning_rate": 3.201893519545396e-06, + "loss": 0.1383, + "num_input_tokens_seen": 18167736, + "step": 9273 + }, + { + "epoch": 1.2291583830351227, + "grad_norm": 0.17508713901042938, + "learning_rate": 3.201560337761458e-06, + "loss": 0.0016, + "num_input_tokens_seen": 18168968, + "step": 9274 + }, + { + "epoch": 1.2292909211398277, + "grad_norm": 0.05699050799012184, + "learning_rate": 3.2012271424509527e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18170672, + "step": 9275 + }, + { + "epoch": 1.2294234592445328, + "grad_norm": 10.298219680786133, + "learning_rate": 3.2008939336203056e-06, + "loss": 0.3584, + "num_input_tokens_seen": 18173144, + "step": 9276 + }, + { + "epoch": 1.2295559973492378, + "grad_norm": 10.176429748535156, + "learning_rate": 3.2005607112759386e-06, + "loss": 0.2976, + "num_input_tokens_seen": 18175464, + "step": 9277 + }, + { + "epoch": 1.229688535453943, + "grad_norm": 6.7923583984375, + "learning_rate": 3.200227475424278e-06, + "loss": 0.0554, + "num_input_tokens_seen": 18177248, + "step": 9278 + }, + { + "epoch": 1.2298210735586481, + "grad_norm": 1.3180171251296997, + "learning_rate": 3.1998942260717493e-06, + "loss": 0.0023, + "num_input_tokens_seen": 18178392, + "step": 9279 + }, + { + "epoch": 1.2299536116633532, + "grad_norm": 7.796667098999023, + "learning_rate": 3.199560963224776e-06, + "loss": 0.1244, + "num_input_tokens_seen": 18180192, + "step": 9280 + }, + { + "epoch": 1.2300861497680584, + "grad_norm": 10.44566535949707, + "learning_rate": 3.1992276868897853e-06, + "loss": 0.1516, + "num_input_tokens_seen": 18181816, + "step": 9281 + }, + { + "epoch": 1.2302186878727635, + "grad_norm": 6.60996150970459, + "learning_rate": 3.1988943970732034e-06, + "loss": 0.1289, + "num_input_tokens_seen": 18184512, + "step": 9282 + }, + { + "epoch": 1.2303512259774685, + "grad_norm": 3.5900001525878906, + "learning_rate": 3.198561093781454e-06, + "loss": 0.0823, + "num_input_tokens_seen": 18186552, + "step": 9283 + }, + { + "epoch": 1.2304837640821735, + "grad_norm": 8.369278907775879, + "learning_rate": 3.1982277770209653e-06, + "loss": 0.1048, + "num_input_tokens_seen": 18188688, + "step": 9284 + }, + { + "epoch": 1.2306163021868788, + "grad_norm": 9.693196296691895, + "learning_rate": 3.1978944467981633e-06, + "loss": 0.1269, + "num_input_tokens_seen": 18191160, + "step": 9285 + }, + { + "epoch": 1.2307488402915838, + "grad_norm": 7.41039514541626, + "learning_rate": 3.197561103119474e-06, + "loss": 0.159, + "num_input_tokens_seen": 18193096, + "step": 9286 + }, + { + "epoch": 1.2308813783962889, + "grad_norm": 0.32638660073280334, + "learning_rate": 3.197227745991327e-06, + "loss": 0.0033, + "num_input_tokens_seen": 18195136, + "step": 9287 + }, + { + "epoch": 1.2310139165009941, + "grad_norm": 0.03574603423476219, + "learning_rate": 3.1968943754201477e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18197544, + "step": 9288 + }, + { + "epoch": 1.2311464546056992, + "grad_norm": 0.028221873566508293, + "learning_rate": 3.1965609914123637e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18199432, + "step": 9289 + }, + { + "epoch": 1.2312789927104042, + "grad_norm": 6.937863349914551, + "learning_rate": 3.1962275939744034e-06, + "loss": 0.045, + "num_input_tokens_seen": 18201160, + "step": 9290 + }, + { + "epoch": 1.2314115308151092, + "grad_norm": 17.245624542236328, + "learning_rate": 3.1958941831126943e-06, + "loss": 0.1696, + "num_input_tokens_seen": 18202592, + "step": 9291 + }, + { + "epoch": 1.2315440689198145, + "grad_norm": 0.7239933609962463, + "learning_rate": 3.1955607588336656e-06, + "loss": 0.0049, + "num_input_tokens_seen": 18204200, + "step": 9292 + }, + { + "epoch": 1.2316766070245195, + "grad_norm": 0.004897387698292732, + "learning_rate": 3.1952273211437455e-06, + "loss": 0.0, + "num_input_tokens_seen": 18205600, + "step": 9293 + }, + { + "epoch": 1.2318091451292246, + "grad_norm": 0.011759313754737377, + "learning_rate": 3.1948938700493635e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18207016, + "step": 9294 + }, + { + "epoch": 1.2319416832339298, + "grad_norm": 11.25745964050293, + "learning_rate": 3.1945604055569484e-06, + "loss": 0.2258, + "num_input_tokens_seen": 18209048, + "step": 9295 + }, + { + "epoch": 1.2320742213386349, + "grad_norm": 6.83518123626709, + "learning_rate": 3.1942269276729294e-06, + "loss": 0.1694, + "num_input_tokens_seen": 18210920, + "step": 9296 + }, + { + "epoch": 1.23220675944334, + "grad_norm": 0.055272430181503296, + "learning_rate": 3.1938934364037357e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18213040, + "step": 9297 + }, + { + "epoch": 1.232339297548045, + "grad_norm": 1.4829679727554321, + "learning_rate": 3.1935599317557984e-06, + "loss": 0.0077, + "num_input_tokens_seen": 18214296, + "step": 9298 + }, + { + "epoch": 1.2324718356527502, + "grad_norm": 10.800658226013184, + "learning_rate": 3.1932264137355475e-06, + "loss": 0.2396, + "num_input_tokens_seen": 18216352, + "step": 9299 + }, + { + "epoch": 1.2326043737574552, + "grad_norm": 12.229174613952637, + "learning_rate": 3.1928928823494123e-06, + "loss": 0.2611, + "num_input_tokens_seen": 18218464, + "step": 9300 + }, + { + "epoch": 1.2327369118621603, + "grad_norm": 4.178027153015137, + "learning_rate": 3.1925593376038243e-06, + "loss": 0.0543, + "num_input_tokens_seen": 18220640, + "step": 9301 + }, + { + "epoch": 1.2328694499668655, + "grad_norm": 12.953418731689453, + "learning_rate": 3.1922257795052155e-06, + "loss": 0.5702, + "num_input_tokens_seen": 18223064, + "step": 9302 + }, + { + "epoch": 1.2330019880715706, + "grad_norm": 0.02145867608487606, + "learning_rate": 3.1918922080600152e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18225232, + "step": 9303 + }, + { + "epoch": 1.2331345261762756, + "grad_norm": 3.8966023921966553, + "learning_rate": 3.191558623274656e-06, + "loss": 0.0544, + "num_input_tokens_seen": 18226960, + "step": 9304 + }, + { + "epoch": 1.2332670642809809, + "grad_norm": 4.835464000701904, + "learning_rate": 3.19122502515557e-06, + "loss": 0.1506, + "num_input_tokens_seen": 18229376, + "step": 9305 + }, + { + "epoch": 1.233399602385686, + "grad_norm": 8.787933349609375, + "learning_rate": 3.190891413709188e-06, + "loss": 0.1053, + "num_input_tokens_seen": 18231352, + "step": 9306 + }, + { + "epoch": 1.233532140490391, + "grad_norm": 7.555550575256348, + "learning_rate": 3.1905577889419428e-06, + "loss": 0.142, + "num_input_tokens_seen": 18233088, + "step": 9307 + }, + { + "epoch": 1.2336646785950962, + "grad_norm": 6.24015998840332, + "learning_rate": 3.1902241508602675e-06, + "loss": 0.1152, + "num_input_tokens_seen": 18235336, + "step": 9308 + }, + { + "epoch": 1.2337972166998012, + "grad_norm": 9.500175476074219, + "learning_rate": 3.1898904994705942e-06, + "loss": 0.179, + "num_input_tokens_seen": 18237712, + "step": 9309 + }, + { + "epoch": 1.2339297548045063, + "grad_norm": 8.311349868774414, + "learning_rate": 3.1895568347793565e-06, + "loss": 0.171, + "num_input_tokens_seen": 18239608, + "step": 9310 + }, + { + "epoch": 1.2340622929092113, + "grad_norm": 0.027424868196249008, + "learning_rate": 3.189223156792987e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18241536, + "step": 9311 + }, + { + "epoch": 1.2341948310139166, + "grad_norm": 5.580315113067627, + "learning_rate": 3.188889465517919e-06, + "loss": 0.1465, + "num_input_tokens_seen": 18242952, + "step": 9312 + }, + { + "epoch": 1.2343273691186216, + "grad_norm": 5.297321319580078, + "learning_rate": 3.188555760960588e-06, + "loss": 0.2009, + "num_input_tokens_seen": 18245160, + "step": 9313 + }, + { + "epoch": 1.2344599072233267, + "grad_norm": 0.6485732197761536, + "learning_rate": 3.188222043127426e-06, + "loss": 0.0038, + "num_input_tokens_seen": 18247808, + "step": 9314 + }, + { + "epoch": 1.234592445328032, + "grad_norm": 4.620710849761963, + "learning_rate": 3.187888312024869e-06, + "loss": 0.1192, + "num_input_tokens_seen": 18250432, + "step": 9315 + }, + { + "epoch": 1.234724983432737, + "grad_norm": 0.052157919853925705, + "learning_rate": 3.1875545676593506e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18252344, + "step": 9316 + }, + { + "epoch": 1.234857521537442, + "grad_norm": 6.928371906280518, + "learning_rate": 3.187220810037306e-06, + "loss": 0.0552, + "num_input_tokens_seen": 18254288, + "step": 9317 + }, + { + "epoch": 1.234990059642147, + "grad_norm": 5.52483606338501, + "learning_rate": 3.186887039165169e-06, + "loss": 0.1268, + "num_input_tokens_seen": 18256880, + "step": 9318 + }, + { + "epoch": 1.2351225977468523, + "grad_norm": 11.089993476867676, + "learning_rate": 3.1865532550493766e-06, + "loss": 0.1547, + "num_input_tokens_seen": 18259400, + "step": 9319 + }, + { + "epoch": 1.2352551358515573, + "grad_norm": 14.036687850952148, + "learning_rate": 3.1862194576963647e-06, + "loss": 0.1868, + "num_input_tokens_seen": 18261624, + "step": 9320 + }, + { + "epoch": 1.2353876739562624, + "grad_norm": 11.554037094116211, + "learning_rate": 3.1858856471125673e-06, + "loss": 0.1097, + "num_input_tokens_seen": 18262704, + "step": 9321 + }, + { + "epoch": 1.2355202120609676, + "grad_norm": 5.136627197265625, + "learning_rate": 3.1855518233044214e-06, + "loss": 0.1061, + "num_input_tokens_seen": 18264424, + "step": 9322 + }, + { + "epoch": 1.2356527501656727, + "grad_norm": 9.465648651123047, + "learning_rate": 3.185217986278364e-06, + "loss": 0.1846, + "num_input_tokens_seen": 18266560, + "step": 9323 + }, + { + "epoch": 1.2357852882703777, + "grad_norm": 5.932622909545898, + "learning_rate": 3.18488413604083e-06, + "loss": 0.2484, + "num_input_tokens_seen": 18269352, + "step": 9324 + }, + { + "epoch": 1.2359178263750827, + "grad_norm": 0.005948694888502359, + "learning_rate": 3.184550272598259e-06, + "loss": 0.0, + "num_input_tokens_seen": 18270928, + "step": 9325 + }, + { + "epoch": 1.236050364479788, + "grad_norm": 9.615486145019531, + "learning_rate": 3.184216395957086e-06, + "loss": 0.0273, + "num_input_tokens_seen": 18272544, + "step": 9326 + }, + { + "epoch": 1.236182902584493, + "grad_norm": 7.075868606567383, + "learning_rate": 3.1838825061237477e-06, + "loss": 0.1495, + "num_input_tokens_seen": 18274600, + "step": 9327 + }, + { + "epoch": 1.236315440689198, + "grad_norm": 6.406460285186768, + "learning_rate": 3.1835486031046843e-06, + "loss": 0.0908, + "num_input_tokens_seen": 18276136, + "step": 9328 + }, + { + "epoch": 1.2364479787939033, + "grad_norm": 1.0897564888000488, + "learning_rate": 3.183214686906332e-06, + "loss": 0.0054, + "num_input_tokens_seen": 18278904, + "step": 9329 + }, + { + "epoch": 1.2365805168986084, + "grad_norm": 4.777773380279541, + "learning_rate": 3.1828807575351283e-06, + "loss": 0.0993, + "num_input_tokens_seen": 18281392, + "step": 9330 + }, + { + "epoch": 1.2367130550033134, + "grad_norm": 0.19937686622142792, + "learning_rate": 3.1825468149975137e-06, + "loss": 0.0017, + "num_input_tokens_seen": 18283104, + "step": 9331 + }, + { + "epoch": 1.2368455931080184, + "grad_norm": 6.602205753326416, + "learning_rate": 3.1822128592999246e-06, + "loss": 0.1102, + "num_input_tokens_seen": 18285312, + "step": 9332 + }, + { + "epoch": 1.2369781312127237, + "grad_norm": 3.541440725326538, + "learning_rate": 3.181878890448802e-06, + "loss": 0.024, + "num_input_tokens_seen": 18286960, + "step": 9333 + }, + { + "epoch": 1.2371106693174287, + "grad_norm": 0.04583694413304329, + "learning_rate": 3.181544908450583e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18288136, + "step": 9334 + }, + { + "epoch": 1.2372432074221338, + "grad_norm": 0.014077777974307537, + "learning_rate": 3.1812109133117088e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18290440, + "step": 9335 + }, + { + "epoch": 1.237375745526839, + "grad_norm": 19.751127243041992, + "learning_rate": 3.1808769050386174e-06, + "loss": 0.4317, + "num_input_tokens_seen": 18292008, + "step": 9336 + }, + { + "epoch": 1.237508283631544, + "grad_norm": 10.469135284423828, + "learning_rate": 3.18054288363775e-06, + "loss": 0.2902, + "num_input_tokens_seen": 18294024, + "step": 9337 + }, + { + "epoch": 1.2376408217362491, + "grad_norm": 3.93719220161438, + "learning_rate": 3.180208849115547e-06, + "loss": 0.0448, + "num_input_tokens_seen": 18295720, + "step": 9338 + }, + { + "epoch": 1.2377733598409542, + "grad_norm": 0.4953845739364624, + "learning_rate": 3.1798748014784468e-06, + "loss": 0.0062, + "num_input_tokens_seen": 18296904, + "step": 9339 + }, + { + "epoch": 1.2379058979456594, + "grad_norm": 32.3203010559082, + "learning_rate": 3.179540740732892e-06, + "loss": 0.1986, + "num_input_tokens_seen": 18298840, + "step": 9340 + }, + { + "epoch": 1.2380384360503645, + "grad_norm": 0.007707961369305849, + "learning_rate": 3.1792066668853237e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18300688, + "step": 9341 + }, + { + "epoch": 1.2381709741550695, + "grad_norm": 6.5232625007629395, + "learning_rate": 3.1788725799421818e-06, + "loss": 0.1998, + "num_input_tokens_seen": 18302648, + "step": 9342 + }, + { + "epoch": 1.2383035122597748, + "grad_norm": 0.10024408996105194, + "learning_rate": 3.1785384799099074e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18304368, + "step": 9343 + }, + { + "epoch": 1.2384360503644798, + "grad_norm": 5.403772354125977, + "learning_rate": 3.178204366794944e-06, + "loss": 0.0782, + "num_input_tokens_seen": 18306296, + "step": 9344 + }, + { + "epoch": 1.2385685884691848, + "grad_norm": 0.09861955791711807, + "learning_rate": 3.1778702406037313e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18307552, + "step": 9345 + }, + { + "epoch": 1.23870112657389, + "grad_norm": 5.897062301635742, + "learning_rate": 3.1775361013427142e-06, + "loss": 0.0536, + "num_input_tokens_seen": 18309632, + "step": 9346 + }, + { + "epoch": 1.2388336646785951, + "grad_norm": 12.025014877319336, + "learning_rate": 3.1772019490183336e-06, + "loss": 0.1004, + "num_input_tokens_seen": 18312280, + "step": 9347 + }, + { + "epoch": 1.2389662027833002, + "grad_norm": 8.678224563598633, + "learning_rate": 3.1768677836370308e-06, + "loss": 0.2125, + "num_input_tokens_seen": 18314064, + "step": 9348 + }, + { + "epoch": 1.2390987408880054, + "grad_norm": 11.939963340759277, + "learning_rate": 3.1765336052052516e-06, + "loss": 0.2322, + "num_input_tokens_seen": 18316344, + "step": 9349 + }, + { + "epoch": 1.2392312789927105, + "grad_norm": 0.01730145886540413, + "learning_rate": 3.1761994137294373e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18318152, + "step": 9350 + }, + { + "epoch": 1.2393638170974155, + "grad_norm": 8.85667896270752, + "learning_rate": 3.1758652092160314e-06, + "loss": 0.2596, + "num_input_tokens_seen": 18319272, + "step": 9351 + }, + { + "epoch": 1.2394963552021205, + "grad_norm": 0.1291411817073822, + "learning_rate": 3.175530991671479e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18321448, + "step": 9352 + }, + { + "epoch": 1.2396288933068258, + "grad_norm": 13.346277236938477, + "learning_rate": 3.175196761102222e-06, + "loss": 0.3455, + "num_input_tokens_seen": 18323872, + "step": 9353 + }, + { + "epoch": 1.2397614314115308, + "grad_norm": 2.7845067977905273, + "learning_rate": 3.1748625175147065e-06, + "loss": 0.0579, + "num_input_tokens_seen": 18325576, + "step": 9354 + }, + { + "epoch": 1.2398939695162359, + "grad_norm": 6.650882720947266, + "learning_rate": 3.1745282609153757e-06, + "loss": 0.1294, + "num_input_tokens_seen": 18327616, + "step": 9355 + }, + { + "epoch": 1.2400265076209411, + "grad_norm": 9.113703727722168, + "learning_rate": 3.1741939913106747e-06, + "loss": 0.1603, + "num_input_tokens_seen": 18330280, + "step": 9356 + }, + { + "epoch": 1.2401590457256462, + "grad_norm": 2.501316547393799, + "learning_rate": 3.173859708707048e-06, + "loss": 0.0282, + "num_input_tokens_seen": 18333336, + "step": 9357 + }, + { + "epoch": 1.2402915838303512, + "grad_norm": 7.7092695236206055, + "learning_rate": 3.1735254131109418e-06, + "loss": 0.1834, + "num_input_tokens_seen": 18335096, + "step": 9358 + }, + { + "epoch": 1.2404241219350562, + "grad_norm": 0.028295818716287613, + "learning_rate": 3.1731911045288013e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18337616, + "step": 9359 + }, + { + "epoch": 1.2405566600397615, + "grad_norm": 5.227165699005127, + "learning_rate": 3.172856782967071e-06, + "loss": 0.1034, + "num_input_tokens_seen": 18339560, + "step": 9360 + }, + { + "epoch": 1.2406891981444665, + "grad_norm": 1.2620757818222046, + "learning_rate": 3.172522448432198e-06, + "loss": 0.0085, + "num_input_tokens_seen": 18341832, + "step": 9361 + }, + { + "epoch": 1.2408217362491716, + "grad_norm": 0.07901065051555634, + "learning_rate": 3.1721881009306287e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18344000, + "step": 9362 + }, + { + "epoch": 1.2409542743538768, + "grad_norm": 6.6687912940979, + "learning_rate": 3.1718537404688086e-06, + "loss": 0.2197, + "num_input_tokens_seen": 18346152, + "step": 9363 + }, + { + "epoch": 1.2410868124585819, + "grad_norm": 13.124435424804688, + "learning_rate": 3.1715193670531853e-06, + "loss": 0.1347, + "num_input_tokens_seen": 18348032, + "step": 9364 + }, + { + "epoch": 1.241219350563287, + "grad_norm": 0.04227553308010101, + "learning_rate": 3.171184980690205e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18350216, + "step": 9365 + }, + { + "epoch": 1.241351888667992, + "grad_norm": 6.170018196105957, + "learning_rate": 3.1708505813863154e-06, + "loss": 0.194, + "num_input_tokens_seen": 18352312, + "step": 9366 + }, + { + "epoch": 1.2414844267726972, + "grad_norm": 0.025294190272688866, + "learning_rate": 3.170516169147964e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18353696, + "step": 9367 + }, + { + "epoch": 1.2416169648774023, + "grad_norm": 10.759210586547852, + "learning_rate": 3.1701817439815986e-06, + "loss": 0.2687, + "num_input_tokens_seen": 18355856, + "step": 9368 + }, + { + "epoch": 1.2417495029821073, + "grad_norm": 0.02228090912103653, + "learning_rate": 3.1698473058936656e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18357272, + "step": 9369 + }, + { + "epoch": 1.2418820410868125, + "grad_norm": 0.02004374749958515, + "learning_rate": 3.1695128548906163e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18359304, + "step": 9370 + }, + { + "epoch": 1.2420145791915176, + "grad_norm": 3.675518274307251, + "learning_rate": 3.1691783909788955e-06, + "loss": 0.0349, + "num_input_tokens_seen": 18360808, + "step": 9371 + }, + { + "epoch": 1.2421471172962226, + "grad_norm": 11.972142219543457, + "learning_rate": 3.168843914164954e-06, + "loss": 0.3635, + "num_input_tokens_seen": 18362808, + "step": 9372 + }, + { + "epoch": 1.2422796554009277, + "grad_norm": 13.614036560058594, + "learning_rate": 3.168509424455242e-06, + "loss": 0.3149, + "num_input_tokens_seen": 18365552, + "step": 9373 + }, + { + "epoch": 1.242412193505633, + "grad_norm": 0.016464266926050186, + "learning_rate": 3.168174921856205e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18366896, + "step": 9374 + }, + { + "epoch": 1.242544731610338, + "grad_norm": 1.4928807020187378, + "learning_rate": 3.1678404063742956e-06, + "loss": 0.0086, + "num_input_tokens_seen": 18368176, + "step": 9375 + }, + { + "epoch": 1.242677269715043, + "grad_norm": 0.2840084135532379, + "learning_rate": 3.1675058780159624e-06, + "loss": 0.0018, + "num_input_tokens_seen": 18371768, + "step": 9376 + }, + { + "epoch": 1.2428098078197483, + "grad_norm": 8.258296012878418, + "learning_rate": 3.167171336787655e-06, + "loss": 0.1305, + "num_input_tokens_seen": 18373680, + "step": 9377 + }, + { + "epoch": 1.2429423459244533, + "grad_norm": 3.565471649169922, + "learning_rate": 3.1668367826958246e-06, + "loss": 0.1101, + "num_input_tokens_seen": 18375096, + "step": 9378 + }, + { + "epoch": 1.2430748840291583, + "grad_norm": 8.388815879821777, + "learning_rate": 3.1665022157469206e-06, + "loss": 0.1278, + "num_input_tokens_seen": 18377984, + "step": 9379 + }, + { + "epoch": 1.2432074221338634, + "grad_norm": 2.3532800674438477, + "learning_rate": 3.1661676359473935e-06, + "loss": 0.0615, + "num_input_tokens_seen": 18379584, + "step": 9380 + }, + { + "epoch": 1.2433399602385686, + "grad_norm": 2.3064815998077393, + "learning_rate": 3.1658330433036956e-06, + "loss": 0.0683, + "num_input_tokens_seen": 18381568, + "step": 9381 + }, + { + "epoch": 1.2434724983432737, + "grad_norm": 0.034538425505161285, + "learning_rate": 3.1654984378222773e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18384024, + "step": 9382 + }, + { + "epoch": 1.2436050364479787, + "grad_norm": 5.336788177490234, + "learning_rate": 3.16516381950959e-06, + "loss": 0.0974, + "num_input_tokens_seen": 18385720, + "step": 9383 + }, + { + "epoch": 1.243737574552684, + "grad_norm": 5.130247116088867, + "learning_rate": 3.164829188372085e-06, + "loss": 0.089, + "num_input_tokens_seen": 18387928, + "step": 9384 + }, + { + "epoch": 1.243870112657389, + "grad_norm": 6.359325885772705, + "learning_rate": 3.1644945444162155e-06, + "loss": 0.1341, + "num_input_tokens_seen": 18390176, + "step": 9385 + }, + { + "epoch": 1.244002650762094, + "grad_norm": 3.77101469039917, + "learning_rate": 3.164159887648432e-06, + "loss": 0.087, + "num_input_tokens_seen": 18392424, + "step": 9386 + }, + { + "epoch": 1.244135188866799, + "grad_norm": 14.491848945617676, + "learning_rate": 3.1638252180751876e-06, + "loss": 0.0051, + "num_input_tokens_seen": 18394208, + "step": 9387 + }, + { + "epoch": 1.2442677269715043, + "grad_norm": 0.027656245976686478, + "learning_rate": 3.1634905357029356e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18396320, + "step": 9388 + }, + { + "epoch": 1.2444002650762094, + "grad_norm": 0.053529489785432816, + "learning_rate": 3.163155840538128e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18398192, + "step": 9389 + }, + { + "epoch": 1.2445328031809146, + "grad_norm": 4.0329790115356445, + "learning_rate": 3.1628211325872183e-06, + "loss": 0.0413, + "num_input_tokens_seen": 18399872, + "step": 9390 + }, + { + "epoch": 1.2446653412856197, + "grad_norm": 0.021568113937973976, + "learning_rate": 3.16248641185666e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18401296, + "step": 9391 + }, + { + "epoch": 1.2447978793903247, + "grad_norm": 9.324602127075195, + "learning_rate": 3.162151678352906e-06, + "loss": 0.1673, + "num_input_tokens_seen": 18403544, + "step": 9392 + }, + { + "epoch": 1.2449304174950298, + "grad_norm": 7.7093634605407715, + "learning_rate": 3.161816932082412e-06, + "loss": 0.126, + "num_input_tokens_seen": 18405728, + "step": 9393 + }, + { + "epoch": 1.245062955599735, + "grad_norm": 10.101548194885254, + "learning_rate": 3.1614821730516298e-06, + "loss": 0.2218, + "num_input_tokens_seen": 18407680, + "step": 9394 + }, + { + "epoch": 1.24519549370444, + "grad_norm": 7.607382297515869, + "learning_rate": 3.1611474012670157e-06, + "loss": 0.1541, + "num_input_tokens_seen": 18409904, + "step": 9395 + }, + { + "epoch": 1.245328031809145, + "grad_norm": 9.067893028259277, + "learning_rate": 3.1608126167350238e-06, + "loss": 0.2329, + "num_input_tokens_seen": 18412576, + "step": 9396 + }, + { + "epoch": 1.2454605699138503, + "grad_norm": 0.01961863599717617, + "learning_rate": 3.1604778194621087e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18415336, + "step": 9397 + }, + { + "epoch": 1.2455931080185554, + "grad_norm": 0.037139642983675, + "learning_rate": 3.1601430094547246e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18417024, + "step": 9398 + }, + { + "epoch": 1.2457256461232604, + "grad_norm": 1.0354135036468506, + "learning_rate": 3.1598081867193297e-06, + "loss": 0.0247, + "num_input_tokens_seen": 18419296, + "step": 9399 + }, + { + "epoch": 1.2458581842279655, + "grad_norm": 12.495909690856934, + "learning_rate": 3.1594733512623765e-06, + "loss": 0.3334, + "num_input_tokens_seen": 18422208, + "step": 9400 + }, + { + "epoch": 1.2459907223326707, + "grad_norm": 8.827960014343262, + "learning_rate": 3.159138503090322e-06, + "loss": 0.2592, + "num_input_tokens_seen": 18423776, + "step": 9401 + }, + { + "epoch": 1.2461232604373758, + "grad_norm": 0.052393652498722076, + "learning_rate": 3.1588036422096225e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18425552, + "step": 9402 + }, + { + "epoch": 1.2462557985420808, + "grad_norm": 8.29236888885498, + "learning_rate": 3.158468768626735e-06, + "loss": 0.2568, + "num_input_tokens_seen": 18427648, + "step": 9403 + }, + { + "epoch": 1.246388336646786, + "grad_norm": 3.726759672164917, + "learning_rate": 3.158133882348115e-06, + "loss": 0.0938, + "num_input_tokens_seen": 18429936, + "step": 9404 + }, + { + "epoch": 1.246520874751491, + "grad_norm": 6.531547546386719, + "learning_rate": 3.15779898338022e-06, + "loss": 0.0882, + "num_input_tokens_seen": 18431680, + "step": 9405 + }, + { + "epoch": 1.2466534128561961, + "grad_norm": 2.9095585346221924, + "learning_rate": 3.1574640717295068e-06, + "loss": 0.053, + "num_input_tokens_seen": 18432864, + "step": 9406 + }, + { + "epoch": 1.2467859509609012, + "grad_norm": 10.680782318115234, + "learning_rate": 3.1571291474024315e-06, + "loss": 0.3253, + "num_input_tokens_seen": 18434712, + "step": 9407 + }, + { + "epoch": 1.2469184890656064, + "grad_norm": 12.099526405334473, + "learning_rate": 3.1567942104054543e-06, + "loss": 0.2051, + "num_input_tokens_seen": 18436728, + "step": 9408 + }, + { + "epoch": 1.2470510271703115, + "grad_norm": 6.636758327484131, + "learning_rate": 3.1564592607450318e-06, + "loss": 0.1144, + "num_input_tokens_seen": 18437872, + "step": 9409 + }, + { + "epoch": 1.2471835652750165, + "grad_norm": 6.598060131072998, + "learning_rate": 3.1561242984276203e-06, + "loss": 0.0421, + "num_input_tokens_seen": 18439480, + "step": 9410 + }, + { + "epoch": 1.2473161033797218, + "grad_norm": 14.159141540527344, + "learning_rate": 3.155789323459681e-06, + "loss": 0.3629, + "num_input_tokens_seen": 18441008, + "step": 9411 + }, + { + "epoch": 1.2474486414844268, + "grad_norm": 0.2686271071434021, + "learning_rate": 3.1554543358476713e-06, + "loss": 0.0013, + "num_input_tokens_seen": 18442568, + "step": 9412 + }, + { + "epoch": 1.2475811795891318, + "grad_norm": 0.9424227476119995, + "learning_rate": 3.1551193355980485e-06, + "loss": 0.0113, + "num_input_tokens_seen": 18444480, + "step": 9413 + }, + { + "epoch": 1.2477137176938369, + "grad_norm": 16.265222549438477, + "learning_rate": 3.1547843227172742e-06, + "loss": 0.4469, + "num_input_tokens_seen": 18446832, + "step": 9414 + }, + { + "epoch": 1.2478462557985421, + "grad_norm": 5.499216079711914, + "learning_rate": 3.154449297211806e-06, + "loss": 0.0324, + "num_input_tokens_seen": 18448416, + "step": 9415 + }, + { + "epoch": 1.2479787939032472, + "grad_norm": 0.10832680761814117, + "learning_rate": 3.1541142590881035e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18449832, + "step": 9416 + }, + { + "epoch": 1.2481113320079522, + "grad_norm": 2.778978109359741, + "learning_rate": 3.153779208352628e-06, + "loss": 0.032, + "num_input_tokens_seen": 18452256, + "step": 9417 + }, + { + "epoch": 1.2482438701126575, + "grad_norm": 9.094318389892578, + "learning_rate": 3.1534441450118374e-06, + "loss": 0.2523, + "num_input_tokens_seen": 18454080, + "step": 9418 + }, + { + "epoch": 1.2483764082173625, + "grad_norm": 6.72135591506958, + "learning_rate": 3.1531090690721927e-06, + "loss": 0.0791, + "num_input_tokens_seen": 18455928, + "step": 9419 + }, + { + "epoch": 1.2485089463220675, + "grad_norm": 9.36076545715332, + "learning_rate": 3.1527739805401548e-06, + "loss": 0.2046, + "num_input_tokens_seen": 18458376, + "step": 9420 + }, + { + "epoch": 1.2486414844267726, + "grad_norm": 4.62542200088501, + "learning_rate": 3.152438879422185e-06, + "loss": 0.108, + "num_input_tokens_seen": 18459936, + "step": 9421 + }, + { + "epoch": 1.2487740225314778, + "grad_norm": 0.1427992582321167, + "learning_rate": 3.152103765724743e-06, + "loss": 0.0009, + "num_input_tokens_seen": 18462016, + "step": 9422 + }, + { + "epoch": 1.2489065606361829, + "grad_norm": 4.885402679443359, + "learning_rate": 3.15176863945429e-06, + "loss": 0.0882, + "num_input_tokens_seen": 18463904, + "step": 9423 + }, + { + "epoch": 1.249039098740888, + "grad_norm": 0.07357434183359146, + "learning_rate": 3.1514335006172892e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18466440, + "step": 9424 + }, + { + "epoch": 1.2491716368455932, + "grad_norm": 3.786656141281128, + "learning_rate": 3.1510983492202e-06, + "loss": 0.0386, + "num_input_tokens_seen": 18468152, + "step": 9425 + }, + { + "epoch": 1.2493041749502982, + "grad_norm": 0.38764688372612, + "learning_rate": 3.1507631852694854e-06, + "loss": 0.0026, + "num_input_tokens_seen": 18470480, + "step": 9426 + }, + { + "epoch": 1.2494367130550033, + "grad_norm": 0.549560546875, + "learning_rate": 3.150428008771609e-06, + "loss": 0.0077, + "num_input_tokens_seen": 18472208, + "step": 9427 + }, + { + "epoch": 1.2495692511597083, + "grad_norm": 0.6289083361625671, + "learning_rate": 3.15009281973303e-06, + "loss": 0.0035, + "num_input_tokens_seen": 18473744, + "step": 9428 + }, + { + "epoch": 1.2497017892644136, + "grad_norm": 0.17262619733810425, + "learning_rate": 3.1497576181602143e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18476088, + "step": 9429 + }, + { + "epoch": 1.2498343273691186, + "grad_norm": 1.0129958391189575, + "learning_rate": 3.149422404059623e-06, + "loss": 0.0166, + "num_input_tokens_seen": 18478120, + "step": 9430 + }, + { + "epoch": 1.2499668654738236, + "grad_norm": 0.05448863282799721, + "learning_rate": 3.1490871774377195e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18480344, + "step": 9431 + }, + { + "epoch": 1.250099403578529, + "grad_norm": 6.407369613647461, + "learning_rate": 3.148751938300968e-06, + "loss": 0.0635, + "num_input_tokens_seen": 18483032, + "step": 9432 + }, + { + "epoch": 1.250231941683234, + "grad_norm": 10.402389526367188, + "learning_rate": 3.1484166866558313e-06, + "loss": 0.2615, + "num_input_tokens_seen": 18484976, + "step": 9433 + }, + { + "epoch": 1.250364479787939, + "grad_norm": 5.193000316619873, + "learning_rate": 3.1480814225087734e-06, + "loss": 0.1604, + "num_input_tokens_seen": 18486912, + "step": 9434 + }, + { + "epoch": 1.250497017892644, + "grad_norm": 0.06429009884595871, + "learning_rate": 3.1477461458662597e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18488512, + "step": 9435 + }, + { + "epoch": 1.2506295559973493, + "grad_norm": 11.41175651550293, + "learning_rate": 3.1474108567347517e-06, + "loss": 0.1243, + "num_input_tokens_seen": 18490920, + "step": 9436 + }, + { + "epoch": 1.2507620941020543, + "grad_norm": 8.308806419372559, + "learning_rate": 3.1470755551207164e-06, + "loss": 0.1525, + "num_input_tokens_seen": 18492896, + "step": 9437 + }, + { + "epoch": 1.2508946322067596, + "grad_norm": 0.0789283812046051, + "learning_rate": 3.146740241030618e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18495440, + "step": 9438 + }, + { + "epoch": 1.2510271703114646, + "grad_norm": 8.656133651733398, + "learning_rate": 3.1464049144709223e-06, + "loss": 0.1156, + "num_input_tokens_seen": 18497656, + "step": 9439 + }, + { + "epoch": 1.2511597084161696, + "grad_norm": 4.3566718101501465, + "learning_rate": 3.1460695754480937e-06, + "loss": 0.0455, + "num_input_tokens_seen": 18499240, + "step": 9440 + }, + { + "epoch": 1.2512922465208747, + "grad_norm": 9.78972339630127, + "learning_rate": 3.1457342239685974e-06, + "loss": 0.1711, + "num_input_tokens_seen": 18500920, + "step": 9441 + }, + { + "epoch": 1.25142478462558, + "grad_norm": 0.33329737186431885, + "learning_rate": 3.1453988600388997e-06, + "loss": 0.0016, + "num_input_tokens_seen": 18502384, + "step": 9442 + }, + { + "epoch": 1.251557322730285, + "grad_norm": 8.892279624938965, + "learning_rate": 3.1450634836654676e-06, + "loss": 0.0965, + "num_input_tokens_seen": 18503920, + "step": 9443 + }, + { + "epoch": 1.25168986083499, + "grad_norm": 2.3811089992523193, + "learning_rate": 3.144728094854766e-06, + "loss": 0.0466, + "num_input_tokens_seen": 18505416, + "step": 9444 + }, + { + "epoch": 1.2518223989396953, + "grad_norm": 0.09232152253389359, + "learning_rate": 3.144392693613262e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18507912, + "step": 9445 + }, + { + "epoch": 1.2519549370444003, + "grad_norm": 0.42596831917762756, + "learning_rate": 3.144057279947422e-06, + "loss": 0.0051, + "num_input_tokens_seen": 18509976, + "step": 9446 + }, + { + "epoch": 1.2520874751491053, + "grad_norm": 4.679616928100586, + "learning_rate": 3.1437218538637136e-06, + "loss": 0.0622, + "num_input_tokens_seen": 18512392, + "step": 9447 + }, + { + "epoch": 1.2522200132538104, + "grad_norm": 9.054844856262207, + "learning_rate": 3.143386415368604e-06, + "loss": 0.0962, + "num_input_tokens_seen": 18514040, + "step": 9448 + }, + { + "epoch": 1.2523525513585156, + "grad_norm": 3.491696357727051, + "learning_rate": 3.1430509644685604e-06, + "loss": 0.1033, + "num_input_tokens_seen": 18515760, + "step": 9449 + }, + { + "epoch": 1.2524850894632207, + "grad_norm": 0.15452627837657928, + "learning_rate": 3.1427155011700506e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18517384, + "step": 9450 + }, + { + "epoch": 1.2526176275679257, + "grad_norm": 12.096922874450684, + "learning_rate": 3.1423800254795422e-06, + "loss": 0.3494, + "num_input_tokens_seen": 18519848, + "step": 9451 + }, + { + "epoch": 1.252750165672631, + "grad_norm": 7.669510841369629, + "learning_rate": 3.1420445374035043e-06, + "loss": 0.3238, + "num_input_tokens_seen": 18522272, + "step": 9452 + }, + { + "epoch": 1.252882703777336, + "grad_norm": 6.504327297210693, + "learning_rate": 3.1417090369484042e-06, + "loss": 0.0619, + "num_input_tokens_seen": 18523968, + "step": 9453 + }, + { + "epoch": 1.253015241882041, + "grad_norm": 5.50931453704834, + "learning_rate": 3.1413735241207117e-06, + "loss": 0.1576, + "num_input_tokens_seen": 18525456, + "step": 9454 + }, + { + "epoch": 1.253147779986746, + "grad_norm": 2.3638157844543457, + "learning_rate": 3.1410379989268947e-06, + "loss": 0.0292, + "num_input_tokens_seen": 18527608, + "step": 9455 + }, + { + "epoch": 1.2532803180914514, + "grad_norm": 7.7129807472229, + "learning_rate": 3.140702461373424e-06, + "loss": 0.07, + "num_input_tokens_seen": 18529088, + "step": 9456 + }, + { + "epoch": 1.2534128561961564, + "grad_norm": 0.2745905816555023, + "learning_rate": 3.1403669114667655e-06, + "loss": 0.002, + "num_input_tokens_seen": 18531976, + "step": 9457 + }, + { + "epoch": 1.2535453943008614, + "grad_norm": 5.1964030265808105, + "learning_rate": 3.140031349213393e-06, + "loss": 0.0712, + "num_input_tokens_seen": 18534056, + "step": 9458 + }, + { + "epoch": 1.2536779324055667, + "grad_norm": 0.15483932197093964, + "learning_rate": 3.1396957746197743e-06, + "loss": 0.001, + "num_input_tokens_seen": 18535168, + "step": 9459 + }, + { + "epoch": 1.2538104705102717, + "grad_norm": 13.136423110961914, + "learning_rate": 3.1393601876923796e-06, + "loss": 0.1342, + "num_input_tokens_seen": 18536752, + "step": 9460 + }, + { + "epoch": 1.2539430086149768, + "grad_norm": 9.722463607788086, + "learning_rate": 3.1390245884376795e-06, + "loss": 0.134, + "num_input_tokens_seen": 18538720, + "step": 9461 + }, + { + "epoch": 1.2540755467196818, + "grad_norm": 0.6463195085525513, + "learning_rate": 3.1386889768621444e-06, + "loss": 0.0044, + "num_input_tokens_seen": 18540616, + "step": 9462 + }, + { + "epoch": 1.254208084824387, + "grad_norm": 4.802942752838135, + "learning_rate": 3.1383533529722452e-06, + "loss": 0.1939, + "num_input_tokens_seen": 18542688, + "step": 9463 + }, + { + "epoch": 1.254340622929092, + "grad_norm": 5.149003505706787, + "learning_rate": 3.138017716774453e-06, + "loss": 0.169, + "num_input_tokens_seen": 18544008, + "step": 9464 + }, + { + "epoch": 1.2544731610337971, + "grad_norm": 11.130813598632812, + "learning_rate": 3.1376820682752398e-06, + "loss": 0.1901, + "num_input_tokens_seen": 18545544, + "step": 9465 + }, + { + "epoch": 1.2546056991385024, + "grad_norm": 0.5692558288574219, + "learning_rate": 3.1373464074810757e-06, + "loss": 0.004, + "num_input_tokens_seen": 18547888, + "step": 9466 + }, + { + "epoch": 1.2547382372432074, + "grad_norm": 8.315135955810547, + "learning_rate": 3.1370107343984324e-06, + "loss": 0.3071, + "num_input_tokens_seen": 18550448, + "step": 9467 + }, + { + "epoch": 1.2548707753479125, + "grad_norm": 1.7729310989379883, + "learning_rate": 3.136675049033784e-06, + "loss": 0.0201, + "num_input_tokens_seen": 18551744, + "step": 9468 + }, + { + "epoch": 1.2550033134526175, + "grad_norm": 0.9985671043395996, + "learning_rate": 3.1363393513936006e-06, + "loss": 0.0099, + "num_input_tokens_seen": 18553328, + "step": 9469 + }, + { + "epoch": 1.2551358515573228, + "grad_norm": 0.1492919623851776, + "learning_rate": 3.136003641484356e-06, + "loss": 0.001, + "num_input_tokens_seen": 18554640, + "step": 9470 + }, + { + "epoch": 1.2552683896620278, + "grad_norm": 0.3378029465675354, + "learning_rate": 3.1356679193125226e-06, + "loss": 0.0024, + "num_input_tokens_seen": 18556344, + "step": 9471 + }, + { + "epoch": 1.255400927766733, + "grad_norm": 0.16051307320594788, + "learning_rate": 3.135332184884572e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18557960, + "step": 9472 + }, + { + "epoch": 1.255533465871438, + "grad_norm": 4.7512288093566895, + "learning_rate": 3.1349964382069798e-06, + "loss": 0.0827, + "num_input_tokens_seen": 18559768, + "step": 9473 + }, + { + "epoch": 1.2556660039761431, + "grad_norm": 0.15483461320400238, + "learning_rate": 3.1346606792862184e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18561192, + "step": 9474 + }, + { + "epoch": 1.2557985420808482, + "grad_norm": 0.08765651285648346, + "learning_rate": 3.1343249081287604e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18564008, + "step": 9475 + }, + { + "epoch": 1.2559310801855532, + "grad_norm": 7.49232816696167, + "learning_rate": 3.133989124741081e-06, + "loss": 0.1776, + "num_input_tokens_seen": 18566016, + "step": 9476 + }, + { + "epoch": 1.2560636182902585, + "grad_norm": 6.845271110534668, + "learning_rate": 3.1336533291296534e-06, + "loss": 0.157, + "num_input_tokens_seen": 18567680, + "step": 9477 + }, + { + "epoch": 1.2561961563949635, + "grad_norm": 12.176644325256348, + "learning_rate": 3.133317521300953e-06, + "loss": 0.3223, + "num_input_tokens_seen": 18569832, + "step": 9478 + }, + { + "epoch": 1.2563286944996688, + "grad_norm": 2.2846949100494385, + "learning_rate": 3.1329817012614544e-06, + "loss": 0.008, + "num_input_tokens_seen": 18571328, + "step": 9479 + }, + { + "epoch": 1.2564612326043738, + "grad_norm": 6.750478267669678, + "learning_rate": 3.1326458690176307e-06, + "loss": 0.1171, + "num_input_tokens_seen": 18573064, + "step": 9480 + }, + { + "epoch": 1.2565937707090788, + "grad_norm": 3.2539079189300537, + "learning_rate": 3.132310024575959e-06, + "loss": 0.079, + "num_input_tokens_seen": 18574552, + "step": 9481 + }, + { + "epoch": 1.2567263088137839, + "grad_norm": 1.7233370542526245, + "learning_rate": 3.1319741679429135e-06, + "loss": 0.0174, + "num_input_tokens_seen": 18575824, + "step": 9482 + }, + { + "epoch": 1.2568588469184891, + "grad_norm": 8.986180305480957, + "learning_rate": 3.1316382991249707e-06, + "loss": 0.1727, + "num_input_tokens_seen": 18578440, + "step": 9483 + }, + { + "epoch": 1.2569913850231942, + "grad_norm": 7.015954971313477, + "learning_rate": 3.131302418128605e-06, + "loss": 0.1063, + "num_input_tokens_seen": 18579568, + "step": 9484 + }, + { + "epoch": 1.2571239231278992, + "grad_norm": 0.16736604273319244, + "learning_rate": 3.1309665249602934e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18580976, + "step": 9485 + }, + { + "epoch": 1.2572564612326045, + "grad_norm": 13.920928001403809, + "learning_rate": 3.1306306196265125e-06, + "loss": 0.3723, + "num_input_tokens_seen": 18582792, + "step": 9486 + }, + { + "epoch": 1.2573889993373095, + "grad_norm": 0.45890504121780396, + "learning_rate": 3.130294702133737e-06, + "loss": 0.0029, + "num_input_tokens_seen": 18584504, + "step": 9487 + }, + { + "epoch": 1.2575215374420146, + "grad_norm": 0.0401802696287632, + "learning_rate": 3.1299587724884454e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18585824, + "step": 9488 + }, + { + "epoch": 1.2576540755467196, + "grad_norm": 8.223142623901367, + "learning_rate": 3.1296228306971146e-06, + "loss": 0.107, + "num_input_tokens_seen": 18587416, + "step": 9489 + }, + { + "epoch": 1.2577866136514249, + "grad_norm": 10.77361011505127, + "learning_rate": 3.1292868767662197e-06, + "loss": 0.204, + "num_input_tokens_seen": 18589000, + "step": 9490 + }, + { + "epoch": 1.25791915175613, + "grad_norm": 7.1792826652526855, + "learning_rate": 3.1289509107022416e-06, + "loss": 0.2093, + "num_input_tokens_seen": 18590664, + "step": 9491 + }, + { + "epoch": 1.258051689860835, + "grad_norm": 11.447093963623047, + "learning_rate": 3.1286149325116553e-06, + "loss": 0.0759, + "num_input_tokens_seen": 18592952, + "step": 9492 + }, + { + "epoch": 1.2581842279655402, + "grad_norm": 13.41461181640625, + "learning_rate": 3.128278942200939e-06, + "loss": 0.3191, + "num_input_tokens_seen": 18594432, + "step": 9493 + }, + { + "epoch": 1.2583167660702452, + "grad_norm": 7.305506229400635, + "learning_rate": 3.127942939776572e-06, + "loss": 0.0567, + "num_input_tokens_seen": 18596576, + "step": 9494 + }, + { + "epoch": 1.2584493041749503, + "grad_norm": 0.07337658107280731, + "learning_rate": 3.1276069252450313e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18598376, + "step": 9495 + }, + { + "epoch": 1.2585818422796553, + "grad_norm": 5.728024005889893, + "learning_rate": 3.1272708986127964e-06, + "loss": 0.1101, + "num_input_tokens_seen": 18600424, + "step": 9496 + }, + { + "epoch": 1.2587143803843606, + "grad_norm": 11.810660362243652, + "learning_rate": 3.1269348598863463e-06, + "loss": 0.3545, + "num_input_tokens_seen": 18602688, + "step": 9497 + }, + { + "epoch": 1.2588469184890656, + "grad_norm": 0.04677664488554001, + "learning_rate": 3.126598809072159e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18604552, + "step": 9498 + }, + { + "epoch": 1.2589794565937706, + "grad_norm": 7.689836502075195, + "learning_rate": 3.126262746176714e-06, + "loss": 0.1539, + "num_input_tokens_seen": 18607288, + "step": 9499 + }, + { + "epoch": 1.259111994698476, + "grad_norm": 3.314669609069824, + "learning_rate": 3.125926671206493e-06, + "loss": 0.0591, + "num_input_tokens_seen": 18608728, + "step": 9500 + }, + { + "epoch": 1.259244532803181, + "grad_norm": 0.008816717192530632, + "learning_rate": 3.1255905841679725e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18610136, + "step": 9501 + }, + { + "epoch": 1.259377070907886, + "grad_norm": 2.8269801139831543, + "learning_rate": 3.125254485067634e-06, + "loss": 0.0636, + "num_input_tokens_seen": 18613064, + "step": 9502 + }, + { + "epoch": 1.259509609012591, + "grad_norm": 7.846867084503174, + "learning_rate": 3.1249183739119576e-06, + "loss": 0.1682, + "num_input_tokens_seen": 18614816, + "step": 9503 + }, + { + "epoch": 1.2596421471172963, + "grad_norm": 0.03581458330154419, + "learning_rate": 3.124582250707424e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18616200, + "step": 9504 + }, + { + "epoch": 1.2597746852220013, + "grad_norm": 8.068528175354004, + "learning_rate": 3.1242461154605142e-06, + "loss": 0.2604, + "num_input_tokens_seen": 18618560, + "step": 9505 + }, + { + "epoch": 1.2599072233267063, + "grad_norm": 7.452920913696289, + "learning_rate": 3.123909968177708e-06, + "loss": 0.1024, + "num_input_tokens_seen": 18620112, + "step": 9506 + }, + { + "epoch": 1.2600397614314116, + "grad_norm": 6.352168560028076, + "learning_rate": 3.1235738088654876e-06, + "loss": 0.203, + "num_input_tokens_seen": 18622216, + "step": 9507 + }, + { + "epoch": 1.2601722995361166, + "grad_norm": 0.038655441254377365, + "learning_rate": 3.1232376375303337e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18623784, + "step": 9508 + }, + { + "epoch": 1.2603048376408217, + "grad_norm": 0.1970355063676834, + "learning_rate": 3.1229014541787284e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18625528, + "step": 9509 + }, + { + "epoch": 1.2604373757455267, + "grad_norm": 9.269770622253418, + "learning_rate": 3.1225652588171534e-06, + "loss": 0.2189, + "num_input_tokens_seen": 18627320, + "step": 9510 + }, + { + "epoch": 1.260569913850232, + "grad_norm": 1.2548916339874268, + "learning_rate": 3.1222290514520903e-06, + "loss": 0.007, + "num_input_tokens_seen": 18629080, + "step": 9511 + }, + { + "epoch": 1.260702451954937, + "grad_norm": 4.4019694328308105, + "learning_rate": 3.1218928320900226e-06, + "loss": 0.0762, + "num_input_tokens_seen": 18630480, + "step": 9512 + }, + { + "epoch": 1.2608349900596423, + "grad_norm": 1.8467514514923096, + "learning_rate": 3.1215566007374316e-06, + "loss": 0.0132, + "num_input_tokens_seen": 18632144, + "step": 9513 + }, + { + "epoch": 1.2609675281643473, + "grad_norm": 5.521622657775879, + "learning_rate": 3.1212203574008002e-06, + "loss": 0.0693, + "num_input_tokens_seen": 18634304, + "step": 9514 + }, + { + "epoch": 1.2611000662690524, + "grad_norm": 10.560824394226074, + "learning_rate": 3.120884102086613e-06, + "loss": 0.1431, + "num_input_tokens_seen": 18636296, + "step": 9515 + }, + { + "epoch": 1.2612326043737574, + "grad_norm": 12.83585262298584, + "learning_rate": 3.120547834801351e-06, + "loss": 0.2935, + "num_input_tokens_seen": 18638936, + "step": 9516 + }, + { + "epoch": 1.2613651424784624, + "grad_norm": 9.468527793884277, + "learning_rate": 3.1202115555514984e-06, + "loss": 0.1141, + "num_input_tokens_seen": 18640664, + "step": 9517 + }, + { + "epoch": 1.2614976805831677, + "grad_norm": 13.555997848510742, + "learning_rate": 3.1198752643435405e-06, + "loss": 0.2374, + "num_input_tokens_seen": 18642712, + "step": 9518 + }, + { + "epoch": 1.2616302186878727, + "grad_norm": 0.10782702267169952, + "learning_rate": 3.1195389611839583e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18644000, + "step": 9519 + }, + { + "epoch": 1.261762756792578, + "grad_norm": 0.2904266119003296, + "learning_rate": 3.119202646079238e-06, + "loss": 0.0018, + "num_input_tokens_seen": 18645680, + "step": 9520 + }, + { + "epoch": 1.261895294897283, + "grad_norm": 1.20993173122406, + "learning_rate": 3.1188663190358636e-06, + "loss": 0.0087, + "num_input_tokens_seen": 18647904, + "step": 9521 + }, + { + "epoch": 1.262027833001988, + "grad_norm": 15.421807289123535, + "learning_rate": 3.1185299800603195e-06, + "loss": 0.2938, + "num_input_tokens_seen": 18649472, + "step": 9522 + }, + { + "epoch": 1.262160371106693, + "grad_norm": 6.484807014465332, + "learning_rate": 3.1181936291590916e-06, + "loss": 0.1156, + "num_input_tokens_seen": 18651536, + "step": 9523 + }, + { + "epoch": 1.2622929092113981, + "grad_norm": 0.25301843881607056, + "learning_rate": 3.117857266338663e-06, + "loss": 0.0029, + "num_input_tokens_seen": 18652664, + "step": 9524 + }, + { + "epoch": 1.2624254473161034, + "grad_norm": 0.5421400666236877, + "learning_rate": 3.11752089160552e-06, + "loss": 0.0037, + "num_input_tokens_seen": 18654280, + "step": 9525 + }, + { + "epoch": 1.2625579854208084, + "grad_norm": 4.363363265991211, + "learning_rate": 3.117184504966149e-06, + "loss": 0.0774, + "num_input_tokens_seen": 18655696, + "step": 9526 + }, + { + "epoch": 1.2626905235255137, + "grad_norm": 0.01573200523853302, + "learning_rate": 3.1168481064270344e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18657320, + "step": 9527 + }, + { + "epoch": 1.2628230616302187, + "grad_norm": 3.245358467102051, + "learning_rate": 3.116511695994663e-06, + "loss": 0.0272, + "num_input_tokens_seen": 18659048, + "step": 9528 + }, + { + "epoch": 1.2629555997349238, + "grad_norm": 4.839794158935547, + "learning_rate": 3.116175273675521e-06, + "loss": 0.1093, + "num_input_tokens_seen": 18660408, + "step": 9529 + }, + { + "epoch": 1.2630881378396288, + "grad_norm": 2.515503168106079, + "learning_rate": 3.1158388394760946e-06, + "loss": 0.0256, + "num_input_tokens_seen": 18661792, + "step": 9530 + }, + { + "epoch": 1.263220675944334, + "grad_norm": 10.010395050048828, + "learning_rate": 3.11550239340287e-06, + "loss": 0.1196, + "num_input_tokens_seen": 18664184, + "step": 9531 + }, + { + "epoch": 1.263353214049039, + "grad_norm": 16.384199142456055, + "learning_rate": 3.1151659354623348e-06, + "loss": 0.2016, + "num_input_tokens_seen": 18666112, + "step": 9532 + }, + { + "epoch": 1.2634857521537441, + "grad_norm": 15.091303825378418, + "learning_rate": 3.114829465660977e-06, + "loss": 0.2366, + "num_input_tokens_seen": 18668592, + "step": 9533 + }, + { + "epoch": 1.2636182902584494, + "grad_norm": 0.546700119972229, + "learning_rate": 3.1144929840052816e-06, + "loss": 0.0022, + "num_input_tokens_seen": 18670608, + "step": 9534 + }, + { + "epoch": 1.2637508283631544, + "grad_norm": 10.77407455444336, + "learning_rate": 3.114156490501738e-06, + "loss": 0.2383, + "num_input_tokens_seen": 18673248, + "step": 9535 + }, + { + "epoch": 1.2638833664678595, + "grad_norm": 7.434164524078369, + "learning_rate": 3.113819985156834e-06, + "loss": 0.2916, + "num_input_tokens_seen": 18676008, + "step": 9536 + }, + { + "epoch": 1.2640159045725645, + "grad_norm": 14.079195022583008, + "learning_rate": 3.113483467977056e-06, + "loss": 0.2363, + "num_input_tokens_seen": 18677664, + "step": 9537 + }, + { + "epoch": 1.2641484426772698, + "grad_norm": 1.8467170000076294, + "learning_rate": 3.1131469389688953e-06, + "loss": 0.0096, + "num_input_tokens_seen": 18680304, + "step": 9538 + }, + { + "epoch": 1.2642809807819748, + "grad_norm": 7.341131687164307, + "learning_rate": 3.112810398138837e-06, + "loss": 0.1654, + "num_input_tokens_seen": 18681984, + "step": 9539 + }, + { + "epoch": 1.2644135188866799, + "grad_norm": 14.365467071533203, + "learning_rate": 3.1124738454933723e-06, + "loss": 0.6037, + "num_input_tokens_seen": 18683976, + "step": 9540 + }, + { + "epoch": 1.2645460569913851, + "grad_norm": 5.505293369293213, + "learning_rate": 3.112137281038989e-06, + "loss": 0.0492, + "num_input_tokens_seen": 18685232, + "step": 9541 + }, + { + "epoch": 1.2646785950960902, + "grad_norm": 0.0494539849460125, + "learning_rate": 3.111800704782177e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18687168, + "step": 9542 + }, + { + "epoch": 1.2648111332007952, + "grad_norm": 0.21555307507514954, + "learning_rate": 3.111464116729425e-06, + "loss": 0.0026, + "num_input_tokens_seen": 18689048, + "step": 9543 + }, + { + "epoch": 1.2649436713055002, + "grad_norm": 0.05539043992757797, + "learning_rate": 3.1111275168872234e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18690912, + "step": 9544 + }, + { + "epoch": 1.2650762094102055, + "grad_norm": 8.146784782409668, + "learning_rate": 3.1107909052620617e-06, + "loss": 0.1219, + "num_input_tokens_seen": 18693328, + "step": 9545 + }, + { + "epoch": 1.2652087475149105, + "grad_norm": 7.495118618011475, + "learning_rate": 3.1104542818604294e-06, + "loss": 0.2423, + "num_input_tokens_seen": 18695008, + "step": 9546 + }, + { + "epoch": 1.2653412856196156, + "grad_norm": 3.8518741130828857, + "learning_rate": 3.1101176466888177e-06, + "loss": 0.053, + "num_input_tokens_seen": 18697560, + "step": 9547 + }, + { + "epoch": 1.2654738237243208, + "grad_norm": 4.492794036865234, + "learning_rate": 3.1097809997537175e-06, + "loss": 0.1521, + "num_input_tokens_seen": 18699352, + "step": 9548 + }, + { + "epoch": 1.2656063618290259, + "grad_norm": 4.953414440155029, + "learning_rate": 3.1094443410616183e-06, + "loss": 0.061, + "num_input_tokens_seen": 18701736, + "step": 9549 + }, + { + "epoch": 1.265738899933731, + "grad_norm": 10.90267276763916, + "learning_rate": 3.1091076706190114e-06, + "loss": 0.3236, + "num_input_tokens_seen": 18704688, + "step": 9550 + }, + { + "epoch": 1.265871438038436, + "grad_norm": 8.966817855834961, + "learning_rate": 3.1087709884323896e-06, + "loss": 0.1224, + "num_input_tokens_seen": 18706512, + "step": 9551 + }, + { + "epoch": 1.2660039761431412, + "grad_norm": 1.2514560222625732, + "learning_rate": 3.108434294508242e-06, + "loss": 0.0141, + "num_input_tokens_seen": 18707928, + "step": 9552 + }, + { + "epoch": 1.2661365142478462, + "grad_norm": 1.3735851049423218, + "learning_rate": 3.1080975888530618e-06, + "loss": 0.0153, + "num_input_tokens_seen": 18709784, + "step": 9553 + }, + { + "epoch": 1.2662690523525515, + "grad_norm": 6.200412273406982, + "learning_rate": 3.1077608714733417e-06, + "loss": 0.1075, + "num_input_tokens_seen": 18712104, + "step": 9554 + }, + { + "epoch": 1.2664015904572565, + "grad_norm": 4.373355865478516, + "learning_rate": 3.107424142375571e-06, + "loss": 0.0557, + "num_input_tokens_seen": 18714056, + "step": 9555 + }, + { + "epoch": 1.2665341285619616, + "grad_norm": 0.972809910774231, + "learning_rate": 3.1070874015662443e-06, + "loss": 0.0047, + "num_input_tokens_seen": 18716824, + "step": 9556 + }, + { + "epoch": 1.2666666666666666, + "grad_norm": 4.625906944274902, + "learning_rate": 3.1067506490518546e-06, + "loss": 0.0343, + "num_input_tokens_seen": 18719264, + "step": 9557 + }, + { + "epoch": 1.2667992047713716, + "grad_norm": 4.805831432342529, + "learning_rate": 3.1064138848388925e-06, + "loss": 0.0519, + "num_input_tokens_seen": 18721984, + "step": 9558 + }, + { + "epoch": 1.266931742876077, + "grad_norm": 7.70939302444458, + "learning_rate": 3.106077108933853e-06, + "loss": 0.1364, + "num_input_tokens_seen": 18725352, + "step": 9559 + }, + { + "epoch": 1.267064280980782, + "grad_norm": 0.014057337306439877, + "learning_rate": 3.105740321343229e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18727040, + "step": 9560 + }, + { + "epoch": 1.2671968190854872, + "grad_norm": 0.13010846078395844, + "learning_rate": 3.105403522073513e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18729440, + "step": 9561 + }, + { + "epoch": 1.2673293571901922, + "grad_norm": 10.101225852966309, + "learning_rate": 3.1050667111312005e-06, + "loss": 0.2033, + "num_input_tokens_seen": 18731560, + "step": 9562 + }, + { + "epoch": 1.2674618952948973, + "grad_norm": 4.382718086242676, + "learning_rate": 3.1047298885227833e-06, + "loss": 0.0261, + "num_input_tokens_seen": 18733080, + "step": 9563 + }, + { + "epoch": 1.2675944333996023, + "grad_norm": 0.7799378037452698, + "learning_rate": 3.1043930542547573e-06, + "loss": 0.0064, + "num_input_tokens_seen": 18735448, + "step": 9564 + }, + { + "epoch": 1.2677269715043074, + "grad_norm": 1.7454496622085571, + "learning_rate": 3.104056208333616e-06, + "loss": 0.0208, + "num_input_tokens_seen": 18737096, + "step": 9565 + }, + { + "epoch": 1.2678595096090126, + "grad_norm": 6.805015563964844, + "learning_rate": 3.1037193507658547e-06, + "loss": 0.1759, + "num_input_tokens_seen": 18738800, + "step": 9566 + }, + { + "epoch": 1.2679920477137177, + "grad_norm": 0.14510655403137207, + "learning_rate": 3.1033824815579674e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18741728, + "step": 9567 + }, + { + "epoch": 1.268124585818423, + "grad_norm": 6.825650691986084, + "learning_rate": 3.1030456007164493e-06, + "loss": 0.1444, + "num_input_tokens_seen": 18743480, + "step": 9568 + }, + { + "epoch": 1.268257123923128, + "grad_norm": 8.057954788208008, + "learning_rate": 3.1027087082477967e-06, + "loss": 0.0707, + "num_input_tokens_seen": 18745136, + "step": 9569 + }, + { + "epoch": 1.268389662027833, + "grad_norm": 0.07268264889717102, + "learning_rate": 3.1023718041585044e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18747800, + "step": 9570 + }, + { + "epoch": 1.268522200132538, + "grad_norm": 9.976461410522461, + "learning_rate": 3.1020348884550676e-06, + "loss": 0.0964, + "num_input_tokens_seen": 18749728, + "step": 9571 + }, + { + "epoch": 1.2686547382372433, + "grad_norm": 2.2272660732269287, + "learning_rate": 3.1016979611439833e-06, + "loss": 0.0233, + "num_input_tokens_seen": 18751648, + "step": 9572 + }, + { + "epoch": 1.2687872763419483, + "grad_norm": 15.046384811401367, + "learning_rate": 3.101361022231747e-06, + "loss": 0.4865, + "num_input_tokens_seen": 18754176, + "step": 9573 + }, + { + "epoch": 1.2689198144466534, + "grad_norm": 0.020708920434117317, + "learning_rate": 3.101024071724855e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18755688, + "step": 9574 + }, + { + "epoch": 1.2690523525513586, + "grad_norm": 14.709152221679688, + "learning_rate": 3.1006871096298054e-06, + "loss": 0.2334, + "num_input_tokens_seen": 18758088, + "step": 9575 + }, + { + "epoch": 1.2691848906560637, + "grad_norm": 2.9605281352996826, + "learning_rate": 3.1003501359530925e-06, + "loss": 0.0966, + "num_input_tokens_seen": 18760608, + "step": 9576 + }, + { + "epoch": 1.2693174287607687, + "grad_norm": 6.462142467498779, + "learning_rate": 3.100013150701216e-06, + "loss": 0.1449, + "num_input_tokens_seen": 18762728, + "step": 9577 + }, + { + "epoch": 1.2694499668654737, + "grad_norm": 0.048527903854846954, + "learning_rate": 3.0996761538806715e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18765560, + "step": 9578 + }, + { + "epoch": 1.269582504970179, + "grad_norm": 2.6319034099578857, + "learning_rate": 3.0993391454979573e-06, + "loss": 0.0055, + "num_input_tokens_seen": 18767392, + "step": 9579 + }, + { + "epoch": 1.269715043074884, + "grad_norm": 0.589040994644165, + "learning_rate": 3.099002125559571e-06, + "loss": 0.0027, + "num_input_tokens_seen": 18770080, + "step": 9580 + }, + { + "epoch": 1.269847581179589, + "grad_norm": 1.468569040298462, + "learning_rate": 3.09866509407201e-06, + "loss": 0.025, + "num_input_tokens_seen": 18771584, + "step": 9581 + }, + { + "epoch": 1.2699801192842943, + "grad_norm": 9.574628829956055, + "learning_rate": 3.098328051041773e-06, + "loss": 0.0561, + "num_input_tokens_seen": 18773672, + "step": 9582 + }, + { + "epoch": 1.2701126573889994, + "grad_norm": 9.829450607299805, + "learning_rate": 3.0979909964753585e-06, + "loss": 0.2955, + "num_input_tokens_seen": 18775504, + "step": 9583 + }, + { + "epoch": 1.2702451954937044, + "grad_norm": 0.05495566502213478, + "learning_rate": 3.0976539303792653e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18778176, + "step": 9584 + }, + { + "epoch": 1.2703777335984094, + "grad_norm": 14.334283828735352, + "learning_rate": 3.0973168527599915e-06, + "loss": 0.5355, + "num_input_tokens_seen": 18779736, + "step": 9585 + }, + { + "epoch": 1.2705102717031147, + "grad_norm": 12.509750366210938, + "learning_rate": 3.0969797636240373e-06, + "loss": 0.2096, + "num_input_tokens_seen": 18780936, + "step": 9586 + }, + { + "epoch": 1.2706428098078197, + "grad_norm": 2.2883243560791016, + "learning_rate": 3.0966426629779013e-06, + "loss": 0.018, + "num_input_tokens_seen": 18783576, + "step": 9587 + }, + { + "epoch": 1.2707753479125248, + "grad_norm": 0.03417337313294411, + "learning_rate": 3.096305550828083e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18784840, + "step": 9588 + }, + { + "epoch": 1.27090788601723, + "grad_norm": 8.606836318969727, + "learning_rate": 3.0959684271810825e-06, + "loss": 0.2122, + "num_input_tokens_seen": 18786584, + "step": 9589 + }, + { + "epoch": 1.271040424121935, + "grad_norm": 0.030336497351527214, + "learning_rate": 3.095631292043399e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18788088, + "step": 9590 + }, + { + "epoch": 1.2711729622266401, + "grad_norm": 10.598922729492188, + "learning_rate": 3.0952941454215336e-06, + "loss": 0.1836, + "num_input_tokens_seen": 18789960, + "step": 9591 + }, + { + "epoch": 1.2713055003313452, + "grad_norm": 7.983222007751465, + "learning_rate": 3.094956987321987e-06, + "loss": 0.1773, + "num_input_tokens_seen": 18791784, + "step": 9592 + }, + { + "epoch": 1.2714380384360504, + "grad_norm": 9.11338996887207, + "learning_rate": 3.0946198177512587e-06, + "loss": 0.2313, + "num_input_tokens_seen": 18794024, + "step": 9593 + }, + { + "epoch": 1.2715705765407554, + "grad_norm": 9.565092086791992, + "learning_rate": 3.0942826367158503e-06, + "loss": 0.215, + "num_input_tokens_seen": 18795552, + "step": 9594 + }, + { + "epoch": 1.2717031146454607, + "grad_norm": 2.4294536113739014, + "learning_rate": 3.0939454442222625e-06, + "loss": 0.0495, + "num_input_tokens_seen": 18797208, + "step": 9595 + }, + { + "epoch": 1.2718356527501657, + "grad_norm": 18.182601928710938, + "learning_rate": 3.093608240276997e-06, + "loss": 0.4393, + "num_input_tokens_seen": 18799544, + "step": 9596 + }, + { + "epoch": 1.2719681908548708, + "grad_norm": 9.620306968688965, + "learning_rate": 3.093271024886555e-06, + "loss": 0.134, + "num_input_tokens_seen": 18800816, + "step": 9597 + }, + { + "epoch": 1.2721007289595758, + "grad_norm": 4.487289905548096, + "learning_rate": 3.0929337980574386e-06, + "loss": 0.0895, + "num_input_tokens_seen": 18802712, + "step": 9598 + }, + { + "epoch": 1.2722332670642809, + "grad_norm": 10.956438064575195, + "learning_rate": 3.0925965597961493e-06, + "loss": 0.2121, + "num_input_tokens_seen": 18805312, + "step": 9599 + }, + { + "epoch": 1.2723658051689861, + "grad_norm": 3.5175516605377197, + "learning_rate": 3.092259310109189e-06, + "loss": 0.0314, + "num_input_tokens_seen": 18807120, + "step": 9600 + }, + { + "epoch": 1.2724983432736912, + "grad_norm": 2.5592570304870605, + "learning_rate": 3.0919220490030614e-06, + "loss": 0.0427, + "num_input_tokens_seen": 18809288, + "step": 9601 + }, + { + "epoch": 1.2726308813783964, + "grad_norm": 8.165724754333496, + "learning_rate": 3.091584776484268e-06, + "loss": 0.2291, + "num_input_tokens_seen": 18811040, + "step": 9602 + }, + { + "epoch": 1.2727634194831015, + "grad_norm": 0.14805783331394196, + "learning_rate": 3.0912474925593124e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18813920, + "step": 9603 + }, + { + "epoch": 1.2728959575878065, + "grad_norm": 12.349943161010742, + "learning_rate": 3.0909101972346967e-06, + "loss": 0.1134, + "num_input_tokens_seen": 18815280, + "step": 9604 + }, + { + "epoch": 1.2730284956925115, + "grad_norm": 9.280753135681152, + "learning_rate": 3.0905728905169245e-06, + "loss": 0.1114, + "num_input_tokens_seen": 18816960, + "step": 9605 + }, + { + "epoch": 1.2731610337972166, + "grad_norm": 1.9063833951950073, + "learning_rate": 3.0902355724125003e-06, + "loss": 0.0383, + "num_input_tokens_seen": 18818592, + "step": 9606 + }, + { + "epoch": 1.2732935719019218, + "grad_norm": 7.783565521240234, + "learning_rate": 3.0898982429279267e-06, + "loss": 0.1839, + "num_input_tokens_seen": 18820576, + "step": 9607 + }, + { + "epoch": 1.2734261100066269, + "grad_norm": 0.11132501810789108, + "learning_rate": 3.089560902069708e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18823120, + "step": 9608 + }, + { + "epoch": 1.2735586481113321, + "grad_norm": 0.48439648747444153, + "learning_rate": 3.0892235498443485e-06, + "loss": 0.0098, + "num_input_tokens_seen": 18824616, + "step": 9609 + }, + { + "epoch": 1.2736911862160372, + "grad_norm": 0.922950267791748, + "learning_rate": 3.088886186258353e-06, + "loss": 0.0082, + "num_input_tokens_seen": 18827056, + "step": 9610 + }, + { + "epoch": 1.2738237243207422, + "grad_norm": 0.3289572596549988, + "learning_rate": 3.088548811318225e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18828640, + "step": 9611 + }, + { + "epoch": 1.2739562624254472, + "grad_norm": 9.76451587677002, + "learning_rate": 3.08821142503047e-06, + "loss": 0.2686, + "num_input_tokens_seen": 18831232, + "step": 9612 + }, + { + "epoch": 1.2740888005301525, + "grad_norm": 1.7446781396865845, + "learning_rate": 3.087874027401593e-06, + "loss": 0.0135, + "num_input_tokens_seen": 18833096, + "step": 9613 + }, + { + "epoch": 1.2742213386348575, + "grad_norm": 13.916878700256348, + "learning_rate": 3.0875366184380996e-06, + "loss": 0.1872, + "num_input_tokens_seen": 18834976, + "step": 9614 + }, + { + "epoch": 1.2743538767395626, + "grad_norm": 10.917094230651855, + "learning_rate": 3.0871991981464936e-06, + "loss": 0.1023, + "num_input_tokens_seen": 18837184, + "step": 9615 + }, + { + "epoch": 1.2744864148442678, + "grad_norm": 5.964156627655029, + "learning_rate": 3.0868617665332835e-06, + "loss": 0.092, + "num_input_tokens_seen": 18839152, + "step": 9616 + }, + { + "epoch": 1.2746189529489729, + "grad_norm": 0.44540196657180786, + "learning_rate": 3.0865243236049724e-06, + "loss": 0.0031, + "num_input_tokens_seen": 18841496, + "step": 9617 + }, + { + "epoch": 1.274751491053678, + "grad_norm": 2.5499613285064697, + "learning_rate": 3.0861868693680687e-06, + "loss": 0.0277, + "num_input_tokens_seen": 18843344, + "step": 9618 + }, + { + "epoch": 1.274884029158383, + "grad_norm": 8.558600425720215, + "learning_rate": 3.0858494038290775e-06, + "loss": 0.0896, + "num_input_tokens_seen": 18845368, + "step": 9619 + }, + { + "epoch": 1.2750165672630882, + "grad_norm": 7.310911655426025, + "learning_rate": 3.085511926994505e-06, + "loss": 0.0744, + "num_input_tokens_seen": 18846952, + "step": 9620 + }, + { + "epoch": 1.2751491053677932, + "grad_norm": 5.543603420257568, + "learning_rate": 3.0851744388708595e-06, + "loss": 0.236, + "num_input_tokens_seen": 18849016, + "step": 9621 + }, + { + "epoch": 1.2752816434724983, + "grad_norm": 1.869657278060913, + "learning_rate": 3.0848369394646466e-06, + "loss": 0.0282, + "num_input_tokens_seen": 18850952, + "step": 9622 + }, + { + "epoch": 1.2754141815772035, + "grad_norm": 12.220597267150879, + "learning_rate": 3.0844994287823737e-06, + "loss": 0.4002, + "num_input_tokens_seen": 18853304, + "step": 9623 + }, + { + "epoch": 1.2755467196819086, + "grad_norm": 7.594727993011475, + "learning_rate": 3.0841619068305494e-06, + "loss": 0.1406, + "num_input_tokens_seen": 18854800, + "step": 9624 + }, + { + "epoch": 1.2756792577866136, + "grad_norm": 0.8061110377311707, + "learning_rate": 3.0838243736156805e-06, + "loss": 0.0048, + "num_input_tokens_seen": 18856584, + "step": 9625 + }, + { + "epoch": 1.2758117958913187, + "grad_norm": 0.11500990390777588, + "learning_rate": 3.0834868291442745e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18857720, + "step": 9626 + }, + { + "epoch": 1.275944333996024, + "grad_norm": 0.19176723062992096, + "learning_rate": 3.08314927342284e-06, + "loss": 0.0019, + "num_input_tokens_seen": 18859656, + "step": 9627 + }, + { + "epoch": 1.276076872100729, + "grad_norm": 0.2339429408311844, + "learning_rate": 3.0828117064578855e-06, + "loss": 0.0014, + "num_input_tokens_seen": 18861072, + "step": 9628 + }, + { + "epoch": 1.276209410205434, + "grad_norm": 47.69477844238281, + "learning_rate": 3.082474128255919e-06, + "loss": 0.2067, + "num_input_tokens_seen": 18863760, + "step": 9629 + }, + { + "epoch": 1.2763419483101393, + "grad_norm": 5.988940715789795, + "learning_rate": 3.0821365388234493e-06, + "loss": 0.0724, + "num_input_tokens_seen": 18865048, + "step": 9630 + }, + { + "epoch": 1.2764744864148443, + "grad_norm": 24.3988094329834, + "learning_rate": 3.0817989381669862e-06, + "loss": 0.0355, + "num_input_tokens_seen": 18866728, + "step": 9631 + }, + { + "epoch": 1.2766070245195493, + "grad_norm": 17.62729835510254, + "learning_rate": 3.081461326293037e-06, + "loss": 0.3655, + "num_input_tokens_seen": 18868808, + "step": 9632 + }, + { + "epoch": 1.2767395626242544, + "grad_norm": 2.246546983718872, + "learning_rate": 3.081123703208113e-06, + "loss": 0.0814, + "num_input_tokens_seen": 18870704, + "step": 9633 + }, + { + "epoch": 1.2768721007289596, + "grad_norm": 5.094381332397461, + "learning_rate": 3.0807860689187234e-06, + "loss": 0.053, + "num_input_tokens_seen": 18872320, + "step": 9634 + }, + { + "epoch": 1.2770046388336647, + "grad_norm": 15.825763702392578, + "learning_rate": 3.080448423431377e-06, + "loss": 0.3018, + "num_input_tokens_seen": 18873968, + "step": 9635 + }, + { + "epoch": 1.2771371769383697, + "grad_norm": 13.416014671325684, + "learning_rate": 3.0801107667525852e-06, + "loss": 0.1532, + "num_input_tokens_seen": 18875904, + "step": 9636 + }, + { + "epoch": 1.277269715043075, + "grad_norm": 10.295441627502441, + "learning_rate": 3.079773098888858e-06, + "loss": 0.2415, + "num_input_tokens_seen": 18877488, + "step": 9637 + }, + { + "epoch": 1.27740225314778, + "grad_norm": 10.214176177978516, + "learning_rate": 3.0794354198467042e-06, + "loss": 0.1805, + "num_input_tokens_seen": 18879208, + "step": 9638 + }, + { + "epoch": 1.277534791252485, + "grad_norm": 7.119900703430176, + "learning_rate": 3.079097729632637e-06, + "loss": 0.1439, + "num_input_tokens_seen": 18881232, + "step": 9639 + }, + { + "epoch": 1.27766732935719, + "grad_norm": 3.8956868648529053, + "learning_rate": 3.0787600282531654e-06, + "loss": 0.1306, + "num_input_tokens_seen": 18883240, + "step": 9640 + }, + { + "epoch": 1.2777998674618953, + "grad_norm": 0.06579560786485672, + "learning_rate": 3.078422315714801e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18884744, + "step": 9641 + }, + { + "epoch": 1.2779324055666004, + "grad_norm": 10.839669227600098, + "learning_rate": 3.0780845920240564e-06, + "loss": 0.0438, + "num_input_tokens_seen": 18885856, + "step": 9642 + }, + { + "epoch": 1.2780649436713056, + "grad_norm": 9.453757286071777, + "learning_rate": 3.077746857187441e-06, + "loss": 0.2159, + "num_input_tokens_seen": 18887952, + "step": 9643 + }, + { + "epoch": 1.2781974817760107, + "grad_norm": 0.9112799763679504, + "learning_rate": 3.0774091112114678e-06, + "loss": 0.0061, + "num_input_tokens_seen": 18891152, + "step": 9644 + }, + { + "epoch": 1.2783300198807157, + "grad_norm": 6.867603778839111, + "learning_rate": 3.077071354102649e-06, + "loss": 0.0365, + "num_input_tokens_seen": 18892440, + "step": 9645 + }, + { + "epoch": 1.2784625579854207, + "grad_norm": 17.317108154296875, + "learning_rate": 3.0767335858674963e-06, + "loss": 0.2027, + "num_input_tokens_seen": 18894160, + "step": 9646 + }, + { + "epoch": 1.2785950960901258, + "grad_norm": 9.53577709197998, + "learning_rate": 3.076395806512522e-06, + "loss": 0.0504, + "num_input_tokens_seen": 18896944, + "step": 9647 + }, + { + "epoch": 1.278727634194831, + "grad_norm": 0.11195813119411469, + "learning_rate": 3.0760580160442387e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18898280, + "step": 9648 + }, + { + "epoch": 1.278860172299536, + "grad_norm": 6.44428825378418, + "learning_rate": 3.07572021446916e-06, + "loss": 0.028, + "num_input_tokens_seen": 18899912, + "step": 9649 + }, + { + "epoch": 1.2789927104042413, + "grad_norm": 11.092840194702148, + "learning_rate": 3.0753824017937984e-06, + "loss": 0.4394, + "num_input_tokens_seen": 18902328, + "step": 9650 + }, + { + "epoch": 1.2791252485089464, + "grad_norm": 6.483431339263916, + "learning_rate": 3.0750445780246664e-06, + "loss": 0.0824, + "num_input_tokens_seen": 18904040, + "step": 9651 + }, + { + "epoch": 1.2792577866136514, + "grad_norm": 11.363965034484863, + "learning_rate": 3.074706743168279e-06, + "loss": 0.2859, + "num_input_tokens_seen": 18906032, + "step": 9652 + }, + { + "epoch": 1.2793903247183565, + "grad_norm": 4.041637897491455, + "learning_rate": 3.074368897231148e-06, + "loss": 0.0186, + "num_input_tokens_seen": 18908048, + "step": 9653 + }, + { + "epoch": 1.2795228628230617, + "grad_norm": 5.013463973999023, + "learning_rate": 3.07403104021979e-06, + "loss": 0.0966, + "num_input_tokens_seen": 18910224, + "step": 9654 + }, + { + "epoch": 1.2796554009277668, + "grad_norm": 7.778846740722656, + "learning_rate": 3.0736931721407164e-06, + "loss": 0.0704, + "num_input_tokens_seen": 18911608, + "step": 9655 + }, + { + "epoch": 1.2797879390324718, + "grad_norm": 11.31035327911377, + "learning_rate": 3.073355293000443e-06, + "loss": 0.1528, + "num_input_tokens_seen": 18913808, + "step": 9656 + }, + { + "epoch": 1.279920477137177, + "grad_norm": 5.761524200439453, + "learning_rate": 3.073017402805485e-06, + "loss": 0.217, + "num_input_tokens_seen": 18915048, + "step": 9657 + }, + { + "epoch": 1.280053015241882, + "grad_norm": 13.522019386291504, + "learning_rate": 3.0726795015623544e-06, + "loss": 0.0805, + "num_input_tokens_seen": 18916408, + "step": 9658 + }, + { + "epoch": 1.2801855533465871, + "grad_norm": 0.06115204840898514, + "learning_rate": 3.0723415892775687e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18917928, + "step": 9659 + }, + { + "epoch": 1.2803180914512922, + "grad_norm": 7.510279178619385, + "learning_rate": 3.0720036659576428e-06, + "loss": 0.2667, + "num_input_tokens_seen": 18919816, + "step": 9660 + }, + { + "epoch": 1.2804506295559974, + "grad_norm": 3.488945484161377, + "learning_rate": 3.0716657316090913e-06, + "loss": 0.0189, + "num_input_tokens_seen": 18922064, + "step": 9661 + }, + { + "epoch": 1.2805831676607025, + "grad_norm": 7.147156715393066, + "learning_rate": 3.07132778623843e-06, + "loss": 0.219, + "num_input_tokens_seen": 18924496, + "step": 9662 + }, + { + "epoch": 1.2807157057654075, + "grad_norm": 0.39212489128112793, + "learning_rate": 3.070989829852175e-06, + "loss": 0.0022, + "num_input_tokens_seen": 18926592, + "step": 9663 + }, + { + "epoch": 1.2808482438701128, + "grad_norm": 0.3600044846534729, + "learning_rate": 3.0706518624568423e-06, + "loss": 0.0024, + "num_input_tokens_seen": 18928384, + "step": 9664 + }, + { + "epoch": 1.2809807819748178, + "grad_norm": 3.4699389934539795, + "learning_rate": 3.0703138840589476e-06, + "loss": 0.0615, + "num_input_tokens_seen": 18929736, + "step": 9665 + }, + { + "epoch": 1.2811133200795228, + "grad_norm": 1.422703742980957, + "learning_rate": 3.0699758946650075e-06, + "loss": 0.0283, + "num_input_tokens_seen": 18931824, + "step": 9666 + }, + { + "epoch": 1.2812458581842279, + "grad_norm": 9.015321731567383, + "learning_rate": 3.0696378942815396e-06, + "loss": 0.2072, + "num_input_tokens_seen": 18934072, + "step": 9667 + }, + { + "epoch": 1.2813783962889331, + "grad_norm": 1.2301030158996582, + "learning_rate": 3.06929988291506e-06, + "loss": 0.0071, + "num_input_tokens_seen": 18936136, + "step": 9668 + }, + { + "epoch": 1.2815109343936382, + "grad_norm": 2.421050548553467, + "learning_rate": 3.068961860572086e-06, + "loss": 0.1029, + "num_input_tokens_seen": 18937984, + "step": 9669 + }, + { + "epoch": 1.2816434724983432, + "grad_norm": 3.3356924057006836, + "learning_rate": 3.0686238272591343e-06, + "loss": 0.103, + "num_input_tokens_seen": 18939936, + "step": 9670 + }, + { + "epoch": 1.2817760106030485, + "grad_norm": 0.303770512342453, + "learning_rate": 3.068285782982724e-06, + "loss": 0.0032, + "num_input_tokens_seen": 18942640, + "step": 9671 + }, + { + "epoch": 1.2819085487077535, + "grad_norm": 0.05068698897957802, + "learning_rate": 3.067947727749371e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18944192, + "step": 9672 + }, + { + "epoch": 1.2820410868124585, + "grad_norm": 1.897047996520996, + "learning_rate": 3.067609661565594e-06, + "loss": 0.014, + "num_input_tokens_seen": 18946448, + "step": 9673 + }, + { + "epoch": 1.2821736249171636, + "grad_norm": 4.392913341522217, + "learning_rate": 3.067271584437911e-06, + "loss": 0.0879, + "num_input_tokens_seen": 18949112, + "step": 9674 + }, + { + "epoch": 1.2823061630218688, + "grad_norm": 11.281965255737305, + "learning_rate": 3.066933496372841e-06, + "loss": 0.1542, + "num_input_tokens_seen": 18951128, + "step": 9675 + }, + { + "epoch": 1.2824387011265739, + "grad_norm": 8.32690715789795, + "learning_rate": 3.0665953973769014e-06, + "loss": 0.1778, + "num_input_tokens_seen": 18953696, + "step": 9676 + }, + { + "epoch": 1.282571239231279, + "grad_norm": 0.17295058071613312, + "learning_rate": 3.066257287456612e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18955752, + "step": 9677 + }, + { + "epoch": 1.2827037773359842, + "grad_norm": 5.499164581298828, + "learning_rate": 3.0659191666184925e-06, + "loss": 0.1118, + "num_input_tokens_seen": 18957744, + "step": 9678 + }, + { + "epoch": 1.2828363154406892, + "grad_norm": 9.637052536010742, + "learning_rate": 3.0655810348690596e-06, + "loss": 0.1749, + "num_input_tokens_seen": 18959680, + "step": 9679 + }, + { + "epoch": 1.2829688535453942, + "grad_norm": 1.190090298652649, + "learning_rate": 3.0652428922148347e-06, + "loss": 0.0044, + "num_input_tokens_seen": 18961704, + "step": 9680 + }, + { + "epoch": 1.2831013916500993, + "grad_norm": 4.269988059997559, + "learning_rate": 3.064904738662337e-06, + "loss": 0.0298, + "num_input_tokens_seen": 18963216, + "step": 9681 + }, + { + "epoch": 1.2832339297548045, + "grad_norm": 14.536900520324707, + "learning_rate": 3.064566574218085e-06, + "loss": 0.2741, + "num_input_tokens_seen": 18965160, + "step": 9682 + }, + { + "epoch": 1.2833664678595096, + "grad_norm": 1.055992603302002, + "learning_rate": 3.0642283988886016e-06, + "loss": 0.0087, + "num_input_tokens_seen": 18966792, + "step": 9683 + }, + { + "epoch": 1.2834990059642148, + "grad_norm": 1.5844638347625732, + "learning_rate": 3.0638902126804055e-06, + "loss": 0.005, + "num_input_tokens_seen": 18968696, + "step": 9684 + }, + { + "epoch": 1.2836315440689199, + "grad_norm": 14.28619384765625, + "learning_rate": 3.063552015600016e-06, + "loss": 0.2204, + "num_input_tokens_seen": 18972160, + "step": 9685 + }, + { + "epoch": 1.283764082173625, + "grad_norm": 5.226593017578125, + "learning_rate": 3.063213807653956e-06, + "loss": 0.0535, + "num_input_tokens_seen": 18974488, + "step": 9686 + }, + { + "epoch": 1.28389662027833, + "grad_norm": 0.11245589703321457, + "learning_rate": 3.0628755888487443e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18975800, + "step": 9687 + }, + { + "epoch": 1.284029158383035, + "grad_norm": 0.37782302498817444, + "learning_rate": 3.062537359190903e-06, + "loss": 0.0022, + "num_input_tokens_seen": 18976928, + "step": 9688 + }, + { + "epoch": 1.2841616964877403, + "grad_norm": 0.10434232652187347, + "learning_rate": 3.062199118686954e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18978832, + "step": 9689 + }, + { + "epoch": 1.2842942345924453, + "grad_norm": 0.05019907280802727, + "learning_rate": 3.0618608673434175e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18980024, + "step": 9690 + }, + { + "epoch": 1.2844267726971506, + "grad_norm": 6.764538288116455, + "learning_rate": 3.0615226051668163e-06, + "loss": 0.054, + "num_input_tokens_seen": 18981576, + "step": 9691 + }, + { + "epoch": 1.2845593108018556, + "grad_norm": 1.1425418853759766, + "learning_rate": 3.0611843321636713e-06, + "loss": 0.0084, + "num_input_tokens_seen": 18983880, + "step": 9692 + }, + { + "epoch": 1.2846918489065606, + "grad_norm": 9.006121635437012, + "learning_rate": 3.060846048340506e-06, + "loss": 0.1607, + "num_input_tokens_seen": 18985688, + "step": 9693 + }, + { + "epoch": 1.2848243870112657, + "grad_norm": 15.304471969604492, + "learning_rate": 3.0605077537038414e-06, + "loss": 0.3334, + "num_input_tokens_seen": 18987224, + "step": 9694 + }, + { + "epoch": 1.2849569251159707, + "grad_norm": 0.15343420207500458, + "learning_rate": 3.0601694482602005e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18989016, + "step": 9695 + }, + { + "epoch": 1.285089463220676, + "grad_norm": 0.07735420763492584, + "learning_rate": 3.0598311320161074e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18991920, + "step": 9696 + }, + { + "epoch": 1.285222001325381, + "grad_norm": 0.11463579535484314, + "learning_rate": 3.059492804978082e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18993224, + "step": 9697 + }, + { + "epoch": 1.2853545394300863, + "grad_norm": 2.7782106399536133, + "learning_rate": 3.0591544671526506e-06, + "loss": 0.0543, + "num_input_tokens_seen": 18995952, + "step": 9698 + }, + { + "epoch": 1.2854870775347913, + "grad_norm": 24.03133201599121, + "learning_rate": 3.058816118546336e-06, + "loss": 0.0932, + "num_input_tokens_seen": 18997688, + "step": 9699 + }, + { + "epoch": 1.2856196156394963, + "grad_norm": 4.620479583740234, + "learning_rate": 3.0584777591656597e-06, + "loss": 0.1028, + "num_input_tokens_seen": 18999640, + "step": 9700 + }, + { + "epoch": 1.2857521537442014, + "grad_norm": 1.369361400604248, + "learning_rate": 3.0581393890171474e-06, + "loss": 0.0095, + "num_input_tokens_seen": 19001096, + "step": 9701 + }, + { + "epoch": 1.2858846918489066, + "grad_norm": 0.0573832243680954, + "learning_rate": 3.0578010081073233e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19002376, + "step": 9702 + }, + { + "epoch": 1.2860172299536117, + "grad_norm": 0.1977907419204712, + "learning_rate": 3.0574626164427097e-06, + "loss": 0.0013, + "num_input_tokens_seen": 19004408, + "step": 9703 + }, + { + "epoch": 1.2861497680583167, + "grad_norm": 0.1418311893939972, + "learning_rate": 3.057124214029833e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19006584, + "step": 9704 + }, + { + "epoch": 1.286282306163022, + "grad_norm": 8.344600677490234, + "learning_rate": 3.056785800875217e-06, + "loss": 0.2985, + "num_input_tokens_seen": 19008944, + "step": 9705 + }, + { + "epoch": 1.286414844267727, + "grad_norm": 9.698260307312012, + "learning_rate": 3.0564473769853864e-06, + "loss": 0.1165, + "num_input_tokens_seen": 19010496, + "step": 9706 + }, + { + "epoch": 1.286547382372432, + "grad_norm": 0.5961040258407593, + "learning_rate": 3.0561089423668672e-06, + "loss": 0.0058, + "num_input_tokens_seen": 19012824, + "step": 9707 + }, + { + "epoch": 1.286679920477137, + "grad_norm": 0.0620257668197155, + "learning_rate": 3.0557704970261835e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19014912, + "step": 9708 + }, + { + "epoch": 1.2868124585818423, + "grad_norm": 6.489939212799072, + "learning_rate": 3.0554320409698614e-06, + "loss": 0.125, + "num_input_tokens_seen": 19017424, + "step": 9709 + }, + { + "epoch": 1.2869449966865474, + "grad_norm": 3.703885078430176, + "learning_rate": 3.055093574204426e-06, + "loss": 0.0591, + "num_input_tokens_seen": 19018928, + "step": 9710 + }, + { + "epoch": 1.2870775347912524, + "grad_norm": 8.148422241210938, + "learning_rate": 3.0547550967364042e-06, + "loss": 0.2213, + "num_input_tokens_seen": 19021288, + "step": 9711 + }, + { + "epoch": 1.2872100728959577, + "grad_norm": 5.139490604400635, + "learning_rate": 3.0544166085723207e-06, + "loss": 0.0953, + "num_input_tokens_seen": 19023688, + "step": 9712 + }, + { + "epoch": 1.2873426110006627, + "grad_norm": 7.265867233276367, + "learning_rate": 3.0540781097187026e-06, + "loss": 0.0757, + "num_input_tokens_seen": 19025512, + "step": 9713 + }, + { + "epoch": 1.2874751491053678, + "grad_norm": 6.572906970977783, + "learning_rate": 3.0537396001820767e-06, + "loss": 0.086, + "num_input_tokens_seen": 19027488, + "step": 9714 + }, + { + "epoch": 1.2876076872100728, + "grad_norm": 3.4964687824249268, + "learning_rate": 3.0534010799689693e-06, + "loss": 0.0346, + "num_input_tokens_seen": 19029256, + "step": 9715 + }, + { + "epoch": 1.287740225314778, + "grad_norm": 8.579503059387207, + "learning_rate": 3.0530625490859074e-06, + "loss": 0.1003, + "num_input_tokens_seen": 19030960, + "step": 9716 + }, + { + "epoch": 1.287872763419483, + "grad_norm": 11.344704627990723, + "learning_rate": 3.0527240075394176e-06, + "loss": 0.3999, + "num_input_tokens_seen": 19033696, + "step": 9717 + }, + { + "epoch": 1.2880053015241881, + "grad_norm": 2.4015750885009766, + "learning_rate": 3.0523854553360273e-06, + "loss": 0.0192, + "num_input_tokens_seen": 19036592, + "step": 9718 + }, + { + "epoch": 1.2881378396288934, + "grad_norm": 0.16041046380996704, + "learning_rate": 3.0520468924822654e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19039136, + "step": 9719 + }, + { + "epoch": 1.2882703777335984, + "grad_norm": 10.441962242126465, + "learning_rate": 3.0517083189846574e-06, + "loss": 0.3448, + "num_input_tokens_seen": 19041216, + "step": 9720 + }, + { + "epoch": 1.2884029158383035, + "grad_norm": 6.029481410980225, + "learning_rate": 3.0513697348497327e-06, + "loss": 0.1117, + "num_input_tokens_seen": 19043088, + "step": 9721 + }, + { + "epoch": 1.2885354539430085, + "grad_norm": 5.383876800537109, + "learning_rate": 3.05103114008402e-06, + "loss": 0.2055, + "num_input_tokens_seen": 19045800, + "step": 9722 + }, + { + "epoch": 1.2886679920477138, + "grad_norm": 2.778184652328491, + "learning_rate": 3.050692534694046e-06, + "loss": 0.0404, + "num_input_tokens_seen": 19048640, + "step": 9723 + }, + { + "epoch": 1.2888005301524188, + "grad_norm": 4.202306747436523, + "learning_rate": 3.0503539186863406e-06, + "loss": 0.0215, + "num_input_tokens_seen": 19049832, + "step": 9724 + }, + { + "epoch": 1.288933068257124, + "grad_norm": 0.6517506241798401, + "learning_rate": 3.050015292067432e-06, + "loss": 0.0041, + "num_input_tokens_seen": 19052056, + "step": 9725 + }, + { + "epoch": 1.289065606361829, + "grad_norm": 5.3916497230529785, + "learning_rate": 3.0496766548438485e-06, + "loss": 0.098, + "num_input_tokens_seen": 19053472, + "step": 9726 + }, + { + "epoch": 1.2891981444665341, + "grad_norm": 11.986101150512695, + "learning_rate": 3.04933800702212e-06, + "loss": 0.2834, + "num_input_tokens_seen": 19055784, + "step": 9727 + }, + { + "epoch": 1.2893306825712392, + "grad_norm": 11.522847175598145, + "learning_rate": 3.0489993486087767e-06, + "loss": 0.3434, + "num_input_tokens_seen": 19058800, + "step": 9728 + }, + { + "epoch": 1.2894632206759442, + "grad_norm": 0.9851899147033691, + "learning_rate": 3.0486606796103464e-06, + "loss": 0.004, + "num_input_tokens_seen": 19060760, + "step": 9729 + }, + { + "epoch": 1.2895957587806495, + "grad_norm": 16.994403839111328, + "learning_rate": 3.048322000033359e-06, + "loss": 0.4069, + "num_input_tokens_seen": 19063320, + "step": 9730 + }, + { + "epoch": 1.2897282968853545, + "grad_norm": 8.685630798339844, + "learning_rate": 3.047983309884346e-06, + "loss": 0.3634, + "num_input_tokens_seen": 19066168, + "step": 9731 + }, + { + "epoch": 1.2898608349900598, + "grad_norm": 6.574770450592041, + "learning_rate": 3.0476446091698362e-06, + "loss": 0.1284, + "num_input_tokens_seen": 19068872, + "step": 9732 + }, + { + "epoch": 1.2899933730947648, + "grad_norm": 8.515045166015625, + "learning_rate": 3.0473058978963617e-06, + "loss": 0.0441, + "num_input_tokens_seen": 19070184, + "step": 9733 + }, + { + "epoch": 1.2901259111994698, + "grad_norm": 0.9776235818862915, + "learning_rate": 3.0469671760704513e-06, + "loss": 0.0093, + "num_input_tokens_seen": 19072912, + "step": 9734 + }, + { + "epoch": 1.2902584493041749, + "grad_norm": 0.057561054825782776, + "learning_rate": 3.046628443698636e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19075448, + "step": 9735 + }, + { + "epoch": 1.29039098740888, + "grad_norm": 1.3620918989181519, + "learning_rate": 3.0462897007874474e-06, + "loss": 0.004, + "num_input_tokens_seen": 19077144, + "step": 9736 + }, + { + "epoch": 1.2905235255135852, + "grad_norm": 0.027444053441286087, + "learning_rate": 3.045950947343417e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19078768, + "step": 9737 + }, + { + "epoch": 1.2906560636182902, + "grad_norm": 0.15424036979675293, + "learning_rate": 3.045612183373075e-06, + "loss": 0.0012, + "num_input_tokens_seen": 19080176, + "step": 9738 + }, + { + "epoch": 1.2907886017229955, + "grad_norm": 1.8967140913009644, + "learning_rate": 3.0452734088829543e-06, + "loss": 0.0221, + "num_input_tokens_seen": 19082416, + "step": 9739 + }, + { + "epoch": 1.2909211398277005, + "grad_norm": 0.4022458791732788, + "learning_rate": 3.0449346238795863e-06, + "loss": 0.001, + "num_input_tokens_seen": 19084432, + "step": 9740 + }, + { + "epoch": 1.2910536779324056, + "grad_norm": 9.513527870178223, + "learning_rate": 3.044595828369502e-06, + "loss": 0.2238, + "num_input_tokens_seen": 19086632, + "step": 9741 + }, + { + "epoch": 1.2911862160371106, + "grad_norm": 0.009346122853457928, + "learning_rate": 3.044257022359235e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19088568, + "step": 9742 + }, + { + "epoch": 1.2913187541418158, + "grad_norm": 8.654743194580078, + "learning_rate": 3.0439182058553174e-06, + "loss": 0.1487, + "num_input_tokens_seen": 19090016, + "step": 9743 + }, + { + "epoch": 1.2914512922465209, + "grad_norm": 0.032451413571834564, + "learning_rate": 3.043579378864281e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19091512, + "step": 9744 + }, + { + "epoch": 1.291583830351226, + "grad_norm": 0.6726590991020203, + "learning_rate": 3.043240541392659e-06, + "loss": 0.0038, + "num_input_tokens_seen": 19092704, + "step": 9745 + }, + { + "epoch": 1.2917163684559312, + "grad_norm": 9.572498321533203, + "learning_rate": 3.042901693446985e-06, + "loss": 0.2451, + "num_input_tokens_seen": 19094112, + "step": 9746 + }, + { + "epoch": 1.2918489065606362, + "grad_norm": 1.6226102113723755, + "learning_rate": 3.042562835033791e-06, + "loss": 0.0285, + "num_input_tokens_seen": 19095568, + "step": 9747 + }, + { + "epoch": 1.2919814446653413, + "grad_norm": 0.0014707483351230621, + "learning_rate": 3.0422239661596125e-06, + "loss": 0.0, + "num_input_tokens_seen": 19096880, + "step": 9748 + }, + { + "epoch": 1.2921139827700463, + "grad_norm": 5.7448410987854, + "learning_rate": 3.041885086830981e-06, + "loss": 0.0808, + "num_input_tokens_seen": 19099416, + "step": 9749 + }, + { + "epoch": 1.2922465208747516, + "grad_norm": 0.007264920510351658, + "learning_rate": 3.041546197054432e-06, + "loss": 0.0, + "num_input_tokens_seen": 19101208, + "step": 9750 + }, + { + "epoch": 1.2923790589794566, + "grad_norm": 8.610037803649902, + "learning_rate": 3.041207296836498e-06, + "loss": 0.1357, + "num_input_tokens_seen": 19102752, + "step": 9751 + }, + { + "epoch": 1.2925115970841616, + "grad_norm": 0.007513558492064476, + "learning_rate": 3.0408683861837145e-06, + "loss": 0.0, + "num_input_tokens_seen": 19104248, + "step": 9752 + }, + { + "epoch": 1.292644135188867, + "grad_norm": 6.709893703460693, + "learning_rate": 3.040529465102615e-06, + "loss": 0.1889, + "num_input_tokens_seen": 19106992, + "step": 9753 + }, + { + "epoch": 1.292776673293572, + "grad_norm": 3.686472177505493, + "learning_rate": 3.0401905335997345e-06, + "loss": 0.0405, + "num_input_tokens_seen": 19109024, + "step": 9754 + }, + { + "epoch": 1.292909211398277, + "grad_norm": 6.466920375823975, + "learning_rate": 3.0398515916816084e-06, + "loss": 0.1192, + "num_input_tokens_seen": 19110824, + "step": 9755 + }, + { + "epoch": 1.293041749502982, + "grad_norm": 0.8524161577224731, + "learning_rate": 3.03951263935477e-06, + "loss": 0.0075, + "num_input_tokens_seen": 19112392, + "step": 9756 + }, + { + "epoch": 1.2931742876076873, + "grad_norm": 7.447122573852539, + "learning_rate": 3.039173676625757e-06, + "loss": 0.1172, + "num_input_tokens_seen": 19114104, + "step": 9757 + }, + { + "epoch": 1.2933068257123923, + "grad_norm": 0.43963733315467834, + "learning_rate": 3.0388347035011032e-06, + "loss": 0.0033, + "num_input_tokens_seen": 19115864, + "step": 9758 + }, + { + "epoch": 1.2934393638170973, + "grad_norm": 11.866196632385254, + "learning_rate": 3.0384957199873444e-06, + "loss": 0.4718, + "num_input_tokens_seen": 19118376, + "step": 9759 + }, + { + "epoch": 1.2935719019218026, + "grad_norm": 8.702754974365234, + "learning_rate": 3.0381567260910166e-06, + "loss": 0.1476, + "num_input_tokens_seen": 19120184, + "step": 9760 + }, + { + "epoch": 1.2937044400265076, + "grad_norm": 0.42992159724235535, + "learning_rate": 3.0378177218186563e-06, + "loss": 0.0016, + "num_input_tokens_seen": 19122200, + "step": 9761 + }, + { + "epoch": 1.2938369781312127, + "grad_norm": 0.4262789487838745, + "learning_rate": 3.037478707176798e-06, + "loss": 0.0051, + "num_input_tokens_seen": 19124112, + "step": 9762 + }, + { + "epoch": 1.2939695162359177, + "grad_norm": 5.587210655212402, + "learning_rate": 3.037139682171981e-06, + "loss": 0.0763, + "num_input_tokens_seen": 19125496, + "step": 9763 + }, + { + "epoch": 1.294102054340623, + "grad_norm": 0.03021675907075405, + "learning_rate": 3.0368006468107404e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19127088, + "step": 9764 + }, + { + "epoch": 1.294234592445328, + "grad_norm": 0.5387074947357178, + "learning_rate": 3.036461601099612e-06, + "loss": 0.0043, + "num_input_tokens_seen": 19128800, + "step": 9765 + }, + { + "epoch": 1.294367130550033, + "grad_norm": 6.314044952392578, + "learning_rate": 3.036122545045134e-06, + "loss": 0.0503, + "num_input_tokens_seen": 19130304, + "step": 9766 + }, + { + "epoch": 1.2944996686547383, + "grad_norm": 0.009839704260230064, + "learning_rate": 3.0357834786538436e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19132304, + "step": 9767 + }, + { + "epoch": 1.2946322067594433, + "grad_norm": 5.681088924407959, + "learning_rate": 3.035444401932278e-06, + "loss": 0.0668, + "num_input_tokens_seen": 19134952, + "step": 9768 + }, + { + "epoch": 1.2947647448641484, + "grad_norm": 8.596113204956055, + "learning_rate": 3.0351053148869756e-06, + "loss": 0.3042, + "num_input_tokens_seen": 19137120, + "step": 9769 + }, + { + "epoch": 1.2948972829688534, + "grad_norm": 5.423805236816406, + "learning_rate": 3.034766217524473e-06, + "loss": 0.0459, + "num_input_tokens_seen": 19139752, + "step": 9770 + }, + { + "epoch": 1.2950298210735587, + "grad_norm": 0.07241814583539963, + "learning_rate": 3.034427109851309e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19141200, + "step": 9771 + }, + { + "epoch": 1.2951623591782637, + "grad_norm": 6.751254081726074, + "learning_rate": 3.034087991874022e-06, + "loss": 0.0858, + "num_input_tokens_seen": 19142808, + "step": 9772 + }, + { + "epoch": 1.295294897282969, + "grad_norm": 0.022137442603707314, + "learning_rate": 3.033748863599149e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19144640, + "step": 9773 + }, + { + "epoch": 1.295427435387674, + "grad_norm": 4.193861961364746, + "learning_rate": 3.0334097250332304e-06, + "loss": 0.0648, + "num_input_tokens_seen": 19145880, + "step": 9774 + }, + { + "epoch": 1.295559973492379, + "grad_norm": 1.506089210510254, + "learning_rate": 3.0330705761828043e-06, + "loss": 0.015, + "num_input_tokens_seen": 19147416, + "step": 9775 + }, + { + "epoch": 1.295692511597084, + "grad_norm": 6.302011489868164, + "learning_rate": 3.0327314170544097e-06, + "loss": 0.1528, + "num_input_tokens_seen": 19149248, + "step": 9776 + }, + { + "epoch": 1.2958250497017891, + "grad_norm": 4.4645891189575195, + "learning_rate": 3.0323922476545857e-06, + "loss": 0.0173, + "num_input_tokens_seen": 19151176, + "step": 9777 + }, + { + "epoch": 1.2959575878064944, + "grad_norm": 4.286782741546631, + "learning_rate": 3.0320530679898726e-06, + "loss": 0.0584, + "num_input_tokens_seen": 19152776, + "step": 9778 + }, + { + "epoch": 1.2960901259111994, + "grad_norm": 0.015966463834047318, + "learning_rate": 3.0317138780668087e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19154480, + "step": 9779 + }, + { + "epoch": 1.2962226640159047, + "grad_norm": 0.7465761303901672, + "learning_rate": 3.031374677891934e-06, + "loss": 0.0067, + "num_input_tokens_seen": 19156432, + "step": 9780 + }, + { + "epoch": 1.2963552021206097, + "grad_norm": 0.001739933155477047, + "learning_rate": 3.0310354674717896e-06, + "loss": 0.0, + "num_input_tokens_seen": 19157576, + "step": 9781 + }, + { + "epoch": 1.2964877402253148, + "grad_norm": 8.151362419128418, + "learning_rate": 3.0306962468129155e-06, + "loss": 0.1103, + "num_input_tokens_seen": 19159896, + "step": 9782 + }, + { + "epoch": 1.2966202783300198, + "grad_norm": 2.6362977027893066, + "learning_rate": 3.0303570159218504e-06, + "loss": 0.0096, + "num_input_tokens_seen": 19161176, + "step": 9783 + }, + { + "epoch": 1.296752816434725, + "grad_norm": 6.76418399810791, + "learning_rate": 3.0300177748051375e-06, + "loss": 0.0477, + "num_input_tokens_seen": 19163296, + "step": 9784 + }, + { + "epoch": 1.29688535453943, + "grad_norm": 10.04101848602295, + "learning_rate": 3.029678523469315e-06, + "loss": 0.0837, + "num_input_tokens_seen": 19165160, + "step": 9785 + }, + { + "epoch": 1.2970178926441351, + "grad_norm": 5.181935787200928, + "learning_rate": 3.0293392619209255e-06, + "loss": 0.1267, + "num_input_tokens_seen": 19166928, + "step": 9786 + }, + { + "epoch": 1.2971504307488404, + "grad_norm": 5.8313517570495605, + "learning_rate": 3.028999990166511e-06, + "loss": 0.1437, + "num_input_tokens_seen": 19169112, + "step": 9787 + }, + { + "epoch": 1.2972829688535454, + "grad_norm": 1.919809103012085, + "learning_rate": 3.02866070821261e-06, + "loss": 0.0592, + "num_input_tokens_seen": 19170792, + "step": 9788 + }, + { + "epoch": 1.2974155069582505, + "grad_norm": 0.005080838687717915, + "learning_rate": 3.0283214160657667e-06, + "loss": 0.0, + "num_input_tokens_seen": 19172944, + "step": 9789 + }, + { + "epoch": 1.2975480450629555, + "grad_norm": 0.003783055581152439, + "learning_rate": 3.027982113732522e-06, + "loss": 0.0, + "num_input_tokens_seen": 19174096, + "step": 9790 + }, + { + "epoch": 1.2976805831676608, + "grad_norm": 0.07809297740459442, + "learning_rate": 3.027642801219418e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19176376, + "step": 9791 + }, + { + "epoch": 1.2978131212723658, + "grad_norm": 10.713796615600586, + "learning_rate": 3.027303478532997e-06, + "loss": 0.2463, + "num_input_tokens_seen": 19177704, + "step": 9792 + }, + { + "epoch": 1.2979456593770708, + "grad_norm": 12.298617362976074, + "learning_rate": 3.0269641456798005e-06, + "loss": 0.2499, + "num_input_tokens_seen": 19179160, + "step": 9793 + }, + { + "epoch": 1.298078197481776, + "grad_norm": 5.390293121337891, + "learning_rate": 3.0266248026663726e-06, + "loss": 0.024, + "num_input_tokens_seen": 19181440, + "step": 9794 + }, + { + "epoch": 1.2982107355864811, + "grad_norm": 0.0240275077521801, + "learning_rate": 3.0262854494992545e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19183184, + "step": 9795 + }, + { + "epoch": 1.2983432736911862, + "grad_norm": 1.6278728246688843, + "learning_rate": 3.0259460861849897e-06, + "loss": 0.0143, + "num_input_tokens_seen": 19184512, + "step": 9796 + }, + { + "epoch": 1.2984758117958912, + "grad_norm": 0.0202358178794384, + "learning_rate": 3.0256067127301226e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19185992, + "step": 9797 + }, + { + "epoch": 1.2986083499005965, + "grad_norm": 19.848304748535156, + "learning_rate": 3.0252673291411945e-06, + "loss": 0.6341, + "num_input_tokens_seen": 19188224, + "step": 9798 + }, + { + "epoch": 1.2987408880053015, + "grad_norm": 8.365300178527832, + "learning_rate": 3.0249279354247496e-06, + "loss": 0.2167, + "num_input_tokens_seen": 19190544, + "step": 9799 + }, + { + "epoch": 1.2988734261100066, + "grad_norm": 9.824725151062012, + "learning_rate": 3.0245885315873325e-06, + "loss": 0.1355, + "num_input_tokens_seen": 19192104, + "step": 9800 + }, + { + "epoch": 1.2990059642147118, + "grad_norm": 0.034354858100414276, + "learning_rate": 3.0242491176354864e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19194248, + "step": 9801 + }, + { + "epoch": 1.2991385023194169, + "grad_norm": 9.92458438873291, + "learning_rate": 3.0239096935757565e-06, + "loss": 0.3343, + "num_input_tokens_seen": 19196240, + "step": 9802 + }, + { + "epoch": 1.299271040424122, + "grad_norm": 14.954906463623047, + "learning_rate": 3.0235702594146853e-06, + "loss": 0.3673, + "num_input_tokens_seen": 19198504, + "step": 9803 + }, + { + "epoch": 1.299403578528827, + "grad_norm": 14.225966453552246, + "learning_rate": 3.0232308151588193e-06, + "loss": 0.1318, + "num_input_tokens_seen": 19200576, + "step": 9804 + }, + { + "epoch": 1.2995361166335322, + "grad_norm": 1.6429986953735352, + "learning_rate": 3.0228913608147016e-06, + "loss": 0.0237, + "num_input_tokens_seen": 19202320, + "step": 9805 + }, + { + "epoch": 1.2996686547382372, + "grad_norm": 9.938350677490234, + "learning_rate": 3.022551896388878e-06, + "loss": 0.142, + "num_input_tokens_seen": 19204224, + "step": 9806 + }, + { + "epoch": 1.2998011928429423, + "grad_norm": 2.1648783683776855, + "learning_rate": 3.022212421887893e-06, + "loss": 0.0405, + "num_input_tokens_seen": 19205920, + "step": 9807 + }, + { + "epoch": 1.2999337309476475, + "grad_norm": 6.9877848625183105, + "learning_rate": 3.0218729373182928e-06, + "loss": 0.0493, + "num_input_tokens_seen": 19207520, + "step": 9808 + }, + { + "epoch": 1.3000662690523526, + "grad_norm": 3.8207414150238037, + "learning_rate": 3.0215334426866216e-06, + "loss": 0.0627, + "num_input_tokens_seen": 19210160, + "step": 9809 + }, + { + "epoch": 1.3001988071570576, + "grad_norm": 4.377755641937256, + "learning_rate": 3.021193937999426e-06, + "loss": 0.081, + "num_input_tokens_seen": 19212376, + "step": 9810 + }, + { + "epoch": 1.3003313452617626, + "grad_norm": 1.4650959968566895, + "learning_rate": 3.020854423263252e-06, + "loss": 0.0067, + "num_input_tokens_seen": 19213720, + "step": 9811 + }, + { + "epoch": 1.300463883366468, + "grad_norm": 0.027493711560964584, + "learning_rate": 3.020514898484645e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19215000, + "step": 9812 + }, + { + "epoch": 1.300596421471173, + "grad_norm": 5.769961357116699, + "learning_rate": 3.0201753636701526e-06, + "loss": 0.1003, + "num_input_tokens_seen": 19217016, + "step": 9813 + }, + { + "epoch": 1.3007289595758782, + "grad_norm": 0.008449739776551723, + "learning_rate": 3.019835818826319e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19218176, + "step": 9814 + }, + { + "epoch": 1.3008614976805832, + "grad_norm": 17.199377059936523, + "learning_rate": 3.019496263959693e-06, + "loss": 0.4646, + "num_input_tokens_seen": 19220096, + "step": 9815 + }, + { + "epoch": 1.3009940357852883, + "grad_norm": 2.3080921173095703, + "learning_rate": 3.0191566990768208e-06, + "loss": 0.0057, + "num_input_tokens_seen": 19221472, + "step": 9816 + }, + { + "epoch": 1.3011265738899933, + "grad_norm": 11.911713600158691, + "learning_rate": 3.018817124184249e-06, + "loss": 0.3617, + "num_input_tokens_seen": 19223864, + "step": 9817 + }, + { + "epoch": 1.3012591119946983, + "grad_norm": 0.09361158311367035, + "learning_rate": 3.018477539288525e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19226104, + "step": 9818 + }, + { + "epoch": 1.3013916500994036, + "grad_norm": 6.93593692779541, + "learning_rate": 3.0181379443961966e-06, + "loss": 0.265, + "num_input_tokens_seen": 19227640, + "step": 9819 + }, + { + "epoch": 1.3015241882041086, + "grad_norm": 17.24040412902832, + "learning_rate": 3.017798339513811e-06, + "loss": 0.4593, + "num_input_tokens_seen": 19229544, + "step": 9820 + }, + { + "epoch": 1.301656726308814, + "grad_norm": 9.467525482177734, + "learning_rate": 3.0174587246479164e-06, + "loss": 0.09, + "num_input_tokens_seen": 19232400, + "step": 9821 + }, + { + "epoch": 1.301789264413519, + "grad_norm": 5.386353969573975, + "learning_rate": 3.01711909980506e-06, + "loss": 0.0509, + "num_input_tokens_seen": 19234456, + "step": 9822 + }, + { + "epoch": 1.301921802518224, + "grad_norm": 6.4422502517700195, + "learning_rate": 3.016779464991792e-06, + "loss": 0.034, + "num_input_tokens_seen": 19236600, + "step": 9823 + }, + { + "epoch": 1.302054340622929, + "grad_norm": 4.175759315490723, + "learning_rate": 3.016439820214658e-06, + "loss": 0.0688, + "num_input_tokens_seen": 19238312, + "step": 9824 + }, + { + "epoch": 1.302186878727634, + "grad_norm": 7.012655258178711, + "learning_rate": 3.016100165480209e-06, + "loss": 0.1636, + "num_input_tokens_seen": 19239888, + "step": 9825 + }, + { + "epoch": 1.3023194168323393, + "grad_norm": 5.514277458190918, + "learning_rate": 3.0157605007949924e-06, + "loss": 0.1272, + "num_input_tokens_seen": 19241992, + "step": 9826 + }, + { + "epoch": 1.3024519549370444, + "grad_norm": 0.4687544107437134, + "learning_rate": 3.015420826165557e-06, + "loss": 0.003, + "num_input_tokens_seen": 19244456, + "step": 9827 + }, + { + "epoch": 1.3025844930417496, + "grad_norm": 0.036308739334344864, + "learning_rate": 3.015081141598453e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19245712, + "step": 9828 + }, + { + "epoch": 1.3027170311464547, + "grad_norm": 2.2799830436706543, + "learning_rate": 3.01474144710023e-06, + "loss": 0.0127, + "num_input_tokens_seen": 19247600, + "step": 9829 + }, + { + "epoch": 1.3028495692511597, + "grad_norm": 9.877415657043457, + "learning_rate": 3.0144017426774354e-06, + "loss": 0.1175, + "num_input_tokens_seen": 19249248, + "step": 9830 + }, + { + "epoch": 1.3029821073558647, + "grad_norm": 7.919954299926758, + "learning_rate": 3.014062028336621e-06, + "loss": 0.1845, + "num_input_tokens_seen": 19251224, + "step": 9831 + }, + { + "epoch": 1.30311464546057, + "grad_norm": 0.11104398220777512, + "learning_rate": 3.013722304084336e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19252952, + "step": 9832 + }, + { + "epoch": 1.303247183565275, + "grad_norm": 9.88637638092041, + "learning_rate": 3.013382569927131e-06, + "loss": 0.1996, + "num_input_tokens_seen": 19255336, + "step": 9833 + }, + { + "epoch": 1.30337972166998, + "grad_norm": 0.5427951812744141, + "learning_rate": 3.0130428258715554e-06, + "loss": 0.0029, + "num_input_tokens_seen": 19257272, + "step": 9834 + }, + { + "epoch": 1.3035122597746853, + "grad_norm": 5.192131042480469, + "learning_rate": 3.01270307192416e-06, + "loss": 0.0446, + "num_input_tokens_seen": 19258992, + "step": 9835 + }, + { + "epoch": 1.3036447978793904, + "grad_norm": 1.0832217931747437, + "learning_rate": 3.012363308091496e-06, + "loss": 0.013, + "num_input_tokens_seen": 19261192, + "step": 9836 + }, + { + "epoch": 1.3037773359840954, + "grad_norm": 6.979450225830078, + "learning_rate": 3.0120235343801134e-06, + "loss": 0.1944, + "num_input_tokens_seen": 19263304, + "step": 9837 + }, + { + "epoch": 1.3039098740888004, + "grad_norm": 10.192964553833008, + "learning_rate": 3.011683750796565e-06, + "loss": 0.0874, + "num_input_tokens_seen": 19265384, + "step": 9838 + }, + { + "epoch": 1.3040424121935057, + "grad_norm": 5.590973854064941, + "learning_rate": 3.0113439573474e-06, + "loss": 0.0855, + "num_input_tokens_seen": 19266952, + "step": 9839 + }, + { + "epoch": 1.3041749502982107, + "grad_norm": 0.09927178174257278, + "learning_rate": 3.011004154039171e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19268936, + "step": 9840 + }, + { + "epoch": 1.3043074884029158, + "grad_norm": 0.2859851121902466, + "learning_rate": 3.0106643408784296e-06, + "loss": 0.0019, + "num_input_tokens_seen": 19270376, + "step": 9841 + }, + { + "epoch": 1.304440026507621, + "grad_norm": 0.03660707548260689, + "learning_rate": 3.010324517871727e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19272264, + "step": 9842 + }, + { + "epoch": 1.304572564612326, + "grad_norm": 5.459381103515625, + "learning_rate": 3.0099846850256158e-06, + "loss": 0.1462, + "num_input_tokens_seen": 19273776, + "step": 9843 + }, + { + "epoch": 1.304705102717031, + "grad_norm": 3.6920478343963623, + "learning_rate": 3.0096448423466484e-06, + "loss": 0.0593, + "num_input_tokens_seen": 19275632, + "step": 9844 + }, + { + "epoch": 1.3048376408217361, + "grad_norm": 6.117527484893799, + "learning_rate": 3.0093049898413764e-06, + "loss": 0.133, + "num_input_tokens_seen": 19277744, + "step": 9845 + }, + { + "epoch": 1.3049701789264414, + "grad_norm": 9.444272994995117, + "learning_rate": 3.0089651275163527e-06, + "loss": 0.2615, + "num_input_tokens_seen": 19280008, + "step": 9846 + }, + { + "epoch": 1.3051027170311464, + "grad_norm": 0.09730510413646698, + "learning_rate": 3.008625255378131e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19283968, + "step": 9847 + }, + { + "epoch": 1.3052352551358515, + "grad_norm": 2.9203476905822754, + "learning_rate": 3.0082853734332623e-06, + "loss": 0.0292, + "num_input_tokens_seen": 19285960, + "step": 9848 + }, + { + "epoch": 1.3053677932405567, + "grad_norm": 8.503900527954102, + "learning_rate": 3.007945481688302e-06, + "loss": 0.0424, + "num_input_tokens_seen": 19287664, + "step": 9849 + }, + { + "epoch": 1.3055003313452618, + "grad_norm": 0.029379185289144516, + "learning_rate": 3.007605580149802e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19288784, + "step": 9850 + }, + { + "epoch": 1.3056328694499668, + "grad_norm": 0.14543849229812622, + "learning_rate": 3.0072656688243163e-06, + "loss": 0.001, + "num_input_tokens_seen": 19290376, + "step": 9851 + }, + { + "epoch": 1.3057654075546719, + "grad_norm": 10.279061317443848, + "learning_rate": 3.006925747718399e-06, + "loss": 0.2745, + "num_input_tokens_seen": 19292744, + "step": 9852 + }, + { + "epoch": 1.3058979456593771, + "grad_norm": 0.08319159597158432, + "learning_rate": 3.0065858168386024e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19294872, + "step": 9853 + }, + { + "epoch": 1.3060304837640822, + "grad_norm": 0.12819544970989227, + "learning_rate": 3.0062458761914825e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19296960, + "step": 9854 + }, + { + "epoch": 1.3061630218687874, + "grad_norm": 11.408480644226074, + "learning_rate": 3.0059059257835932e-06, + "loss": 0.1457, + "num_input_tokens_seen": 19299432, + "step": 9855 + }, + { + "epoch": 1.3062955599734924, + "grad_norm": 0.02459358051419258, + "learning_rate": 3.005565965621488e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19301840, + "step": 9856 + }, + { + "epoch": 1.3064280980781975, + "grad_norm": 1.7044261693954468, + "learning_rate": 3.0052259957117224e-06, + "loss": 0.0068, + "num_input_tokens_seen": 19303912, + "step": 9857 + }, + { + "epoch": 1.3065606361829025, + "grad_norm": 1.4778809547424316, + "learning_rate": 3.004886016060851e-06, + "loss": 0.0051, + "num_input_tokens_seen": 19306296, + "step": 9858 + }, + { + "epoch": 1.3066931742876076, + "grad_norm": 0.26052358746528625, + "learning_rate": 3.0045460266754297e-06, + "loss": 0.0018, + "num_input_tokens_seen": 19308760, + "step": 9859 + }, + { + "epoch": 1.3068257123923128, + "grad_norm": 1.9929078817367554, + "learning_rate": 3.004206027562012e-06, + "loss": 0.0193, + "num_input_tokens_seen": 19310160, + "step": 9860 + }, + { + "epoch": 1.3069582504970179, + "grad_norm": 11.843964576721191, + "learning_rate": 3.0038660187271544e-06, + "loss": 0.194, + "num_input_tokens_seen": 19312264, + "step": 9861 + }, + { + "epoch": 1.3070907886017231, + "grad_norm": 4.158558368682861, + "learning_rate": 3.003526000177413e-06, + "loss": 0.1654, + "num_input_tokens_seen": 19313984, + "step": 9862 + }, + { + "epoch": 1.3072233267064282, + "grad_norm": 8.47726821899414, + "learning_rate": 3.003185971919342e-06, + "loss": 0.0835, + "num_input_tokens_seen": 19316104, + "step": 9863 + }, + { + "epoch": 1.3073558648111332, + "grad_norm": 2.9485225677490234, + "learning_rate": 3.002845933959499e-06, + "loss": 0.0382, + "num_input_tokens_seen": 19318456, + "step": 9864 + }, + { + "epoch": 1.3074884029158382, + "grad_norm": 6.460711479187012, + "learning_rate": 3.0025058863044393e-06, + "loss": 0.1015, + "num_input_tokens_seen": 19320120, + "step": 9865 + }, + { + "epoch": 1.3076209410205433, + "grad_norm": 0.013843146152794361, + "learning_rate": 3.002165828960719e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19321560, + "step": 9866 + }, + { + "epoch": 1.3077534791252485, + "grad_norm": 0.05526039004325867, + "learning_rate": 3.001825761934896e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19323168, + "step": 9867 + }, + { + "epoch": 1.3078860172299536, + "grad_norm": 12.874618530273438, + "learning_rate": 3.0014856852335257e-06, + "loss": 0.295, + "num_input_tokens_seen": 19324872, + "step": 9868 + }, + { + "epoch": 1.3080185553346588, + "grad_norm": 6.637728214263916, + "learning_rate": 3.0011455988631655e-06, + "loss": 0.1222, + "num_input_tokens_seen": 19326584, + "step": 9869 + }, + { + "epoch": 1.3081510934393639, + "grad_norm": 8.515054702758789, + "learning_rate": 3.000805502830373e-06, + "loss": 0.2351, + "num_input_tokens_seen": 19327912, + "step": 9870 + }, + { + "epoch": 1.308283631544069, + "grad_norm": 1.5021626949310303, + "learning_rate": 3.0004653971417036e-06, + "loss": 0.0204, + "num_input_tokens_seen": 19330776, + "step": 9871 + }, + { + "epoch": 1.308416169648774, + "grad_norm": 4.543746471405029, + "learning_rate": 3.000125281803717e-06, + "loss": 0.0919, + "num_input_tokens_seen": 19332592, + "step": 9872 + }, + { + "epoch": 1.3085487077534792, + "grad_norm": 0.030060553923249245, + "learning_rate": 2.9997851568229696e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19334168, + "step": 9873 + }, + { + "epoch": 1.3086812458581842, + "grad_norm": 0.027817172929644585, + "learning_rate": 2.9994450222060197e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19335672, + "step": 9874 + }, + { + "epoch": 1.3088137839628893, + "grad_norm": 7.033565998077393, + "learning_rate": 2.999104877959425e-06, + "loss": 0.0675, + "num_input_tokens_seen": 19338176, + "step": 9875 + }, + { + "epoch": 1.3089463220675945, + "grad_norm": 9.003929138183594, + "learning_rate": 2.998764724089744e-06, + "loss": 0.0813, + "num_input_tokens_seen": 19340744, + "step": 9876 + }, + { + "epoch": 1.3090788601722996, + "grad_norm": 6.206470966339111, + "learning_rate": 2.9984245606035356e-06, + "loss": 0.1508, + "num_input_tokens_seen": 19342720, + "step": 9877 + }, + { + "epoch": 1.3092113982770046, + "grad_norm": 12.467761993408203, + "learning_rate": 2.9980843875073574e-06, + "loss": 0.5515, + "num_input_tokens_seen": 19344968, + "step": 9878 + }, + { + "epoch": 1.3093439363817096, + "grad_norm": 1.3949103355407715, + "learning_rate": 2.9977442048077683e-06, + "loss": 0.0243, + "num_input_tokens_seen": 19346704, + "step": 9879 + }, + { + "epoch": 1.309476474486415, + "grad_norm": 3.690950393676758, + "learning_rate": 2.997404012511328e-06, + "loss": 0.0703, + "num_input_tokens_seen": 19349408, + "step": 9880 + }, + { + "epoch": 1.30960901259112, + "grad_norm": 0.09674520045518875, + "learning_rate": 2.9970638106245948e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19351288, + "step": 9881 + }, + { + "epoch": 1.309741550695825, + "grad_norm": 0.07682705670595169, + "learning_rate": 2.996723599154129e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19352824, + "step": 9882 + }, + { + "epoch": 1.3098740888005302, + "grad_norm": 5.513399124145508, + "learning_rate": 2.996383378106489e-06, + "loss": 0.0777, + "num_input_tokens_seen": 19354712, + "step": 9883 + }, + { + "epoch": 1.3100066269052353, + "grad_norm": 1.9033175706863403, + "learning_rate": 2.996043147488235e-06, + "loss": 0.0151, + "num_input_tokens_seen": 19356320, + "step": 9884 + }, + { + "epoch": 1.3101391650099403, + "grad_norm": 3.78482985496521, + "learning_rate": 2.9957029073059276e-06, + "loss": 0.0409, + "num_input_tokens_seen": 19357976, + "step": 9885 + }, + { + "epoch": 1.3102717031146454, + "grad_norm": 3.719390392303467, + "learning_rate": 2.9953626575661256e-06, + "loss": 0.0718, + "num_input_tokens_seen": 19359320, + "step": 9886 + }, + { + "epoch": 1.3104042412193506, + "grad_norm": 0.04501882568001747, + "learning_rate": 2.99502239827539e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19360400, + "step": 9887 + }, + { + "epoch": 1.3105367793240557, + "grad_norm": 0.3203045427799225, + "learning_rate": 2.994682129440281e-06, + "loss": 0.0022, + "num_input_tokens_seen": 19362040, + "step": 9888 + }, + { + "epoch": 1.3106693174287607, + "grad_norm": 11.09875774383545, + "learning_rate": 2.9943418510673596e-06, + "loss": 0.0881, + "num_input_tokens_seen": 19363776, + "step": 9889 + }, + { + "epoch": 1.310801855533466, + "grad_norm": 6.155569076538086, + "learning_rate": 2.994001563163186e-06, + "loss": 0.1444, + "num_input_tokens_seen": 19366320, + "step": 9890 + }, + { + "epoch": 1.310934393638171, + "grad_norm": 10.54354476928711, + "learning_rate": 2.993661265734322e-06, + "loss": 0.2677, + "num_input_tokens_seen": 19369352, + "step": 9891 + }, + { + "epoch": 1.311066931742876, + "grad_norm": 0.06393119692802429, + "learning_rate": 2.9933209587873262e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19371144, + "step": 9892 + }, + { + "epoch": 1.311199469847581, + "grad_norm": 5.1202497482299805, + "learning_rate": 2.9929806423287642e-06, + "loss": 0.0561, + "num_input_tokens_seen": 19373000, + "step": 9893 + }, + { + "epoch": 1.3113320079522863, + "grad_norm": 6.305868148803711, + "learning_rate": 2.9926403163651945e-06, + "loss": 0.088, + "num_input_tokens_seen": 19375560, + "step": 9894 + }, + { + "epoch": 1.3114645460569914, + "grad_norm": 1.9412078857421875, + "learning_rate": 2.9922999809031794e-06, + "loss": 0.0058, + "num_input_tokens_seen": 19377480, + "step": 9895 + }, + { + "epoch": 1.3115970841616966, + "grad_norm": 0.5885036587715149, + "learning_rate": 2.991959635949282e-06, + "loss": 0.003, + "num_input_tokens_seen": 19378896, + "step": 9896 + }, + { + "epoch": 1.3117296222664017, + "grad_norm": 1.7329483032226562, + "learning_rate": 2.9916192815100627e-06, + "loss": 0.0129, + "num_input_tokens_seen": 19380840, + "step": 9897 + }, + { + "epoch": 1.3118621603711067, + "grad_norm": 4.214051723480225, + "learning_rate": 2.991278917592084e-06, + "loss": 0.0342, + "num_input_tokens_seen": 19382736, + "step": 9898 + }, + { + "epoch": 1.3119946984758117, + "grad_norm": 5.996362686157227, + "learning_rate": 2.9909385442019103e-06, + "loss": 0.0285, + "num_input_tokens_seen": 19384088, + "step": 9899 + }, + { + "epoch": 1.3121272365805168, + "grad_norm": 0.09559997916221619, + "learning_rate": 2.990598161346102e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19385512, + "step": 9900 + }, + { + "epoch": 1.312259774685222, + "grad_norm": 11.439251899719238, + "learning_rate": 2.9902577690312225e-06, + "loss": 0.1754, + "num_input_tokens_seen": 19387464, + "step": 9901 + }, + { + "epoch": 1.312392312789927, + "grad_norm": 2.9319746494293213, + "learning_rate": 2.989917367263835e-06, + "loss": 0.0303, + "num_input_tokens_seen": 19388720, + "step": 9902 + }, + { + "epoch": 1.3125248508946323, + "grad_norm": 0.18789204955101013, + "learning_rate": 2.9895769560505035e-06, + "loss": 0.001, + "num_input_tokens_seen": 19390000, + "step": 9903 + }, + { + "epoch": 1.3126573889993374, + "grad_norm": 0.12220821529626846, + "learning_rate": 2.9892365353977897e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19392088, + "step": 9904 + }, + { + "epoch": 1.3127899271040424, + "grad_norm": 0.9044216275215149, + "learning_rate": 2.988896105312258e-06, + "loss": 0.0071, + "num_input_tokens_seen": 19393688, + "step": 9905 + }, + { + "epoch": 1.3129224652087474, + "grad_norm": 0.021063951775431633, + "learning_rate": 2.988555665800473e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19395160, + "step": 9906 + }, + { + "epoch": 1.3130550033134525, + "grad_norm": 3.0281379222869873, + "learning_rate": 2.988215216868996e-06, + "loss": 0.0902, + "num_input_tokens_seen": 19397376, + "step": 9907 + }, + { + "epoch": 1.3131875414181577, + "grad_norm": 9.167708396911621, + "learning_rate": 2.9878747585243946e-06, + "loss": 0.1647, + "num_input_tokens_seen": 19399832, + "step": 9908 + }, + { + "epoch": 1.3133200795228628, + "grad_norm": 13.564544677734375, + "learning_rate": 2.987534290773231e-06, + "loss": 0.3183, + "num_input_tokens_seen": 19402544, + "step": 9909 + }, + { + "epoch": 1.313452617627568, + "grad_norm": 7.019082546234131, + "learning_rate": 2.9871938136220685e-06, + "loss": 0.0335, + "num_input_tokens_seen": 19404488, + "step": 9910 + }, + { + "epoch": 1.313585155732273, + "grad_norm": 5.595988750457764, + "learning_rate": 2.9868533270774746e-06, + "loss": 0.058, + "num_input_tokens_seen": 19406480, + "step": 9911 + }, + { + "epoch": 1.3137176938369781, + "grad_norm": 4.800780773162842, + "learning_rate": 2.986512831146012e-06, + "loss": 0.065, + "num_input_tokens_seen": 19408312, + "step": 9912 + }, + { + "epoch": 1.3138502319416832, + "grad_norm": 14.699591636657715, + "learning_rate": 2.9861723258342467e-06, + "loss": 0.2819, + "num_input_tokens_seen": 19410192, + "step": 9913 + }, + { + "epoch": 1.3139827700463884, + "grad_norm": 1.0004544258117676, + "learning_rate": 2.985831811148744e-06, + "loss": 0.0099, + "num_input_tokens_seen": 19411896, + "step": 9914 + }, + { + "epoch": 1.3141153081510935, + "grad_norm": 0.03511684015393257, + "learning_rate": 2.985491287096068e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19413936, + "step": 9915 + }, + { + "epoch": 1.3142478462557985, + "grad_norm": 12.71423625946045, + "learning_rate": 2.985150753682785e-06, + "loss": 0.3427, + "num_input_tokens_seen": 19415792, + "step": 9916 + }, + { + "epoch": 1.3143803843605038, + "grad_norm": 7.258702278137207, + "learning_rate": 2.984810210915462e-06, + "loss": 0.1446, + "num_input_tokens_seen": 19418208, + "step": 9917 + }, + { + "epoch": 1.3145129224652088, + "grad_norm": 0.0269358828663826, + "learning_rate": 2.9844696588006628e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19419544, + "step": 9918 + }, + { + "epoch": 1.3146454605699138, + "grad_norm": 6.48532772064209, + "learning_rate": 2.9841290973449537e-06, + "loss": 0.1476, + "num_input_tokens_seen": 19421184, + "step": 9919 + }, + { + "epoch": 1.3147779986746189, + "grad_norm": 0.021829042583703995, + "learning_rate": 2.9837885265549025e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19422496, + "step": 9920 + }, + { + "epoch": 1.3149105367793241, + "grad_norm": 0.016613634303212166, + "learning_rate": 2.9834479464370747e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19423944, + "step": 9921 + }, + { + "epoch": 1.3150430748840292, + "grad_norm": 0.11919800937175751, + "learning_rate": 2.9831073569980368e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19425616, + "step": 9922 + }, + { + "epoch": 1.3151756129887342, + "grad_norm": 0.034875400364398956, + "learning_rate": 2.982766758244356e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19426784, + "step": 9923 + }, + { + "epoch": 1.3153081510934395, + "grad_norm": 7.285836219787598, + "learning_rate": 2.982426150182599e-06, + "loss": 0.1458, + "num_input_tokens_seen": 19428256, + "step": 9924 + }, + { + "epoch": 1.3154406891981445, + "grad_norm": 1.549041748046875, + "learning_rate": 2.9820855328193327e-06, + "loss": 0.0093, + "num_input_tokens_seen": 19429824, + "step": 9925 + }, + { + "epoch": 1.3155732273028495, + "grad_norm": 0.04375510290265083, + "learning_rate": 2.9817449061611254e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19431720, + "step": 9926 + }, + { + "epoch": 1.3157057654075546, + "grad_norm": 11.506336212158203, + "learning_rate": 2.9814042702145437e-06, + "loss": 0.2946, + "num_input_tokens_seen": 19434008, + "step": 9927 + }, + { + "epoch": 1.3158383035122598, + "grad_norm": 15.159743309020996, + "learning_rate": 2.9810636249861546e-06, + "loss": 0.5215, + "num_input_tokens_seen": 19436192, + "step": 9928 + }, + { + "epoch": 1.3159708416169649, + "grad_norm": 2.542710065841675, + "learning_rate": 2.980722970482528e-06, + "loss": 0.0068, + "num_input_tokens_seen": 19438424, + "step": 9929 + }, + { + "epoch": 1.31610337972167, + "grad_norm": 8.891913414001465, + "learning_rate": 2.9803823067102306e-06, + "loss": 0.2336, + "num_input_tokens_seen": 19441464, + "step": 9930 + }, + { + "epoch": 1.3162359178263752, + "grad_norm": 0.11982476711273193, + "learning_rate": 2.980041633675831e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19443784, + "step": 9931 + }, + { + "epoch": 1.3163684559310802, + "grad_norm": 1.6848747730255127, + "learning_rate": 2.979700951385898e-06, + "loss": 0.0147, + "num_input_tokens_seen": 19445264, + "step": 9932 + }, + { + "epoch": 1.3165009940357852, + "grad_norm": 6.685860633850098, + "learning_rate": 2.979360259846999e-06, + "loss": 0.1324, + "num_input_tokens_seen": 19446952, + "step": 9933 + }, + { + "epoch": 1.3166335321404903, + "grad_norm": 0.07136420905590057, + "learning_rate": 2.9790195590657036e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19449432, + "step": 9934 + }, + { + "epoch": 1.3167660702451955, + "grad_norm": 5.44427490234375, + "learning_rate": 2.9786788490485814e-06, + "loss": 0.0791, + "num_input_tokens_seen": 19452088, + "step": 9935 + }, + { + "epoch": 1.3168986083499006, + "grad_norm": 6.908329010009766, + "learning_rate": 2.9783381298021996e-06, + "loss": 0.1786, + "num_input_tokens_seen": 19454096, + "step": 9936 + }, + { + "epoch": 1.3170311464546056, + "grad_norm": 0.05879872292280197, + "learning_rate": 2.977997401333129e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19456008, + "step": 9937 + }, + { + "epoch": 1.3171636845593109, + "grad_norm": 0.12926550209522247, + "learning_rate": 2.9776566636479395e-06, + "loss": 0.0009, + "num_input_tokens_seen": 19457896, + "step": 9938 + }, + { + "epoch": 1.317296222664016, + "grad_norm": 0.025347793474793434, + "learning_rate": 2.9773159167531995e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19459328, + "step": 9939 + }, + { + "epoch": 1.317428760768721, + "grad_norm": 1.2416092157363892, + "learning_rate": 2.976975160655479e-06, + "loss": 0.0073, + "num_input_tokens_seen": 19461448, + "step": 9940 + }, + { + "epoch": 1.317561298873426, + "grad_norm": 0.1330566257238388, + "learning_rate": 2.9766343953613484e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19462632, + "step": 9941 + }, + { + "epoch": 1.3176938369781312, + "grad_norm": 0.4423275589942932, + "learning_rate": 2.976293620877379e-06, + "loss": 0.0036, + "num_input_tokens_seen": 19464312, + "step": 9942 + }, + { + "epoch": 1.3178263750828363, + "grad_norm": 6.362712383270264, + "learning_rate": 2.9759528372101386e-06, + "loss": 0.1667, + "num_input_tokens_seen": 19467368, + "step": 9943 + }, + { + "epoch": 1.3179589131875415, + "grad_norm": 7.883072376251221, + "learning_rate": 2.9756120443661995e-06, + "loss": 0.0455, + "num_input_tokens_seen": 19470088, + "step": 9944 + }, + { + "epoch": 1.3180914512922466, + "grad_norm": 3.5510778427124023, + "learning_rate": 2.9752712423521326e-06, + "loss": 0.0126, + "num_input_tokens_seen": 19471680, + "step": 9945 + }, + { + "epoch": 1.3182239893969516, + "grad_norm": 11.454949378967285, + "learning_rate": 2.9749304311745075e-06, + "loss": 0.1412, + "num_input_tokens_seen": 19473248, + "step": 9946 + }, + { + "epoch": 1.3183565275016567, + "grad_norm": 1.6351819038391113, + "learning_rate": 2.9745896108398968e-06, + "loss": 0.0112, + "num_input_tokens_seen": 19474752, + "step": 9947 + }, + { + "epoch": 1.3184890656063617, + "grad_norm": 0.4207864999771118, + "learning_rate": 2.974248781354871e-06, + "loss": 0.001, + "num_input_tokens_seen": 19476016, + "step": 9948 + }, + { + "epoch": 1.318621603711067, + "grad_norm": 0.05926761403679848, + "learning_rate": 2.973907942726001e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19478592, + "step": 9949 + }, + { + "epoch": 1.318754141815772, + "grad_norm": 6.461844444274902, + "learning_rate": 2.9735670949598595e-06, + "loss": 0.0684, + "num_input_tokens_seen": 19480720, + "step": 9950 + }, + { + "epoch": 1.3188866799204773, + "grad_norm": 8.41862964630127, + "learning_rate": 2.9732262380630174e-06, + "loss": 0.2072, + "num_input_tokens_seen": 19482536, + "step": 9951 + }, + { + "epoch": 1.3190192180251823, + "grad_norm": 11.489011764526367, + "learning_rate": 2.9728853720420465e-06, + "loss": 0.1057, + "num_input_tokens_seen": 19484672, + "step": 9952 + }, + { + "epoch": 1.3191517561298873, + "grad_norm": 6.331583499908447, + "learning_rate": 2.97254449690352e-06, + "loss": 0.0323, + "num_input_tokens_seen": 19486408, + "step": 9953 + }, + { + "epoch": 1.3192842942345924, + "grad_norm": 2.09333872795105, + "learning_rate": 2.9722036126540095e-06, + "loss": 0.0801, + "num_input_tokens_seen": 19488224, + "step": 9954 + }, + { + "epoch": 1.3194168323392976, + "grad_norm": 0.019762258976697922, + "learning_rate": 2.971862719300087e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19490584, + "step": 9955 + }, + { + "epoch": 1.3195493704440027, + "grad_norm": 5.01272439956665, + "learning_rate": 2.9715218168483274e-06, + "loss": 0.066, + "num_input_tokens_seen": 19492744, + "step": 9956 + }, + { + "epoch": 1.3196819085487077, + "grad_norm": 1.7981114387512207, + "learning_rate": 2.9711809053052996e-06, + "loss": 0.0276, + "num_input_tokens_seen": 19494400, + "step": 9957 + }, + { + "epoch": 1.319814446653413, + "grad_norm": 2.380805015563965, + "learning_rate": 2.9708399846775804e-06, + "loss": 0.0113, + "num_input_tokens_seen": 19496576, + "step": 9958 + }, + { + "epoch": 1.319946984758118, + "grad_norm": 0.10329004377126694, + "learning_rate": 2.970499054971741e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19499144, + "step": 9959 + }, + { + "epoch": 1.320079522862823, + "grad_norm": 9.753327369689941, + "learning_rate": 2.9701581161943556e-06, + "loss": 0.0705, + "num_input_tokens_seen": 19501400, + "step": 9960 + }, + { + "epoch": 1.320212060967528, + "grad_norm": 7.294651508331299, + "learning_rate": 2.969817168351997e-06, + "loss": 0.1248, + "num_input_tokens_seen": 19503392, + "step": 9961 + }, + { + "epoch": 1.3203445990722333, + "grad_norm": 0.029961518943309784, + "learning_rate": 2.9694762114512398e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19504720, + "step": 9962 + }, + { + "epoch": 1.3204771371769384, + "grad_norm": 9.028806686401367, + "learning_rate": 2.9691352454986567e-06, + "loss": 0.052, + "num_input_tokens_seen": 19506528, + "step": 9963 + }, + { + "epoch": 1.3206096752816434, + "grad_norm": 5.4462175369262695, + "learning_rate": 2.9687942705008227e-06, + "loss": 0.059, + "num_input_tokens_seen": 19509032, + "step": 9964 + }, + { + "epoch": 1.3207422133863487, + "grad_norm": 1.9304429292678833, + "learning_rate": 2.9684532864643123e-06, + "loss": 0.0123, + "num_input_tokens_seen": 19510368, + "step": 9965 + }, + { + "epoch": 1.3208747514910537, + "grad_norm": 25.729135513305664, + "learning_rate": 2.9681122933956987e-06, + "loss": 0.6048, + "num_input_tokens_seen": 19512232, + "step": 9966 + }, + { + "epoch": 1.3210072895957587, + "grad_norm": 9.176871299743652, + "learning_rate": 2.967771291301557e-06, + "loss": 0.171, + "num_input_tokens_seen": 19514072, + "step": 9967 + }, + { + "epoch": 1.3211398277004638, + "grad_norm": 0.008625632151961327, + "learning_rate": 2.9674302801884626e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19515440, + "step": 9968 + }, + { + "epoch": 1.321272365805169, + "grad_norm": 8.296027183532715, + "learning_rate": 2.9670892600629895e-06, + "loss": 0.203, + "num_input_tokens_seen": 19516960, + "step": 9969 + }, + { + "epoch": 1.321404903909874, + "grad_norm": 0.052140120416879654, + "learning_rate": 2.9667482309317135e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19519280, + "step": 9970 + }, + { + "epoch": 1.3215374420145791, + "grad_norm": 0.05078285187482834, + "learning_rate": 2.96640719280121e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19521144, + "step": 9971 + }, + { + "epoch": 1.3216699801192844, + "grad_norm": 5.552460193634033, + "learning_rate": 2.966066145678053e-06, + "loss": 0.1435, + "num_input_tokens_seen": 19524608, + "step": 9972 + }, + { + "epoch": 1.3218025182239894, + "grad_norm": 6.086935043334961, + "learning_rate": 2.9657250895688204e-06, + "loss": 0.2532, + "num_input_tokens_seen": 19526312, + "step": 9973 + }, + { + "epoch": 1.3219350563286945, + "grad_norm": 0.019320817664265633, + "learning_rate": 2.9653840244800865e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19527504, + "step": 9974 + }, + { + "epoch": 1.3220675944333995, + "grad_norm": 0.07383199781179428, + "learning_rate": 2.9650429504184264e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19528744, + "step": 9975 + }, + { + "epoch": 1.3222001325381048, + "grad_norm": 6.378537178039551, + "learning_rate": 2.964701867390419e-06, + "loss": 0.1783, + "num_input_tokens_seen": 19531016, + "step": 9976 + }, + { + "epoch": 1.3223326706428098, + "grad_norm": 5.286518573760986, + "learning_rate": 2.964360775402638e-06, + "loss": 0.0663, + "num_input_tokens_seen": 19533568, + "step": 9977 + }, + { + "epoch": 1.3224652087475148, + "grad_norm": 0.11155138164758682, + "learning_rate": 2.9640196744616612e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19535016, + "step": 9978 + }, + { + "epoch": 1.32259774685222, + "grad_norm": 0.047535307705402374, + "learning_rate": 2.963678564574065e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19536744, + "step": 9979 + }, + { + "epoch": 1.3227302849569251, + "grad_norm": 3.061805248260498, + "learning_rate": 2.9633374457464265e-06, + "loss": 0.0196, + "num_input_tokens_seen": 19538512, + "step": 9980 + }, + { + "epoch": 1.3228628230616302, + "grad_norm": 6.893800258636475, + "learning_rate": 2.9629963179853216e-06, + "loss": 0.2231, + "num_input_tokens_seen": 19540352, + "step": 9981 + }, + { + "epoch": 1.3229953611663352, + "grad_norm": 8.546428680419922, + "learning_rate": 2.962655181297329e-06, + "loss": 0.2148, + "num_input_tokens_seen": 19542488, + "step": 9982 + }, + { + "epoch": 1.3231278992710405, + "grad_norm": 8.707723617553711, + "learning_rate": 2.9623140356890255e-06, + "loss": 0.1585, + "num_input_tokens_seen": 19544824, + "step": 9983 + }, + { + "epoch": 1.3232604373757455, + "grad_norm": 6.410830020904541, + "learning_rate": 2.961972881166988e-06, + "loss": 0.0704, + "num_input_tokens_seen": 19546696, + "step": 9984 + }, + { + "epoch": 1.3233929754804508, + "grad_norm": 9.56839370727539, + "learning_rate": 2.9616317177377944e-06, + "loss": 0.1832, + "num_input_tokens_seen": 19548200, + "step": 9985 + }, + { + "epoch": 1.3235255135851558, + "grad_norm": 2.904906988143921, + "learning_rate": 2.9612905454080232e-06, + "loss": 0.0503, + "num_input_tokens_seen": 19551312, + "step": 9986 + }, + { + "epoch": 1.3236580516898608, + "grad_norm": 3.848745346069336, + "learning_rate": 2.9609493641842523e-06, + "loss": 0.0151, + "num_input_tokens_seen": 19554264, + "step": 9987 + }, + { + "epoch": 1.3237905897945659, + "grad_norm": 1.7232786417007446, + "learning_rate": 2.960608174073059e-06, + "loss": 0.0114, + "num_input_tokens_seen": 19555504, + "step": 9988 + }, + { + "epoch": 1.323923127899271, + "grad_norm": 2.6616146564483643, + "learning_rate": 2.960266975081023e-06, + "loss": 0.0107, + "num_input_tokens_seen": 19556912, + "step": 9989 + }, + { + "epoch": 1.3240556660039762, + "grad_norm": 8.854670524597168, + "learning_rate": 2.9599257672147214e-06, + "loss": 0.1191, + "num_input_tokens_seen": 19558672, + "step": 9990 + }, + { + "epoch": 1.3241882041086812, + "grad_norm": 5.425792217254639, + "learning_rate": 2.9595845504807345e-06, + "loss": 0.0423, + "num_input_tokens_seen": 19561672, + "step": 9991 + }, + { + "epoch": 1.3243207422133865, + "grad_norm": 7.549142837524414, + "learning_rate": 2.9592433248856407e-06, + "loss": 0.1785, + "num_input_tokens_seen": 19563048, + "step": 9992 + }, + { + "epoch": 1.3244532803180915, + "grad_norm": 1.9474326372146606, + "learning_rate": 2.9589020904360177e-06, + "loss": 0.0072, + "num_input_tokens_seen": 19565184, + "step": 9993 + }, + { + "epoch": 1.3245858184227965, + "grad_norm": 3.898163318634033, + "learning_rate": 2.9585608471384466e-06, + "loss": 0.0404, + "num_input_tokens_seen": 19567120, + "step": 9994 + }, + { + "epoch": 1.3247183565275016, + "grad_norm": 0.66218501329422, + "learning_rate": 2.9582195949995057e-06, + "loss": 0.0046, + "num_input_tokens_seen": 19568544, + "step": 9995 + }, + { + "epoch": 1.3248508946322066, + "grad_norm": 4.629344463348389, + "learning_rate": 2.9578783340257744e-06, + "loss": 0.0794, + "num_input_tokens_seen": 19570368, + "step": 9996 + }, + { + "epoch": 1.3249834327369119, + "grad_norm": 2.912808656692505, + "learning_rate": 2.9575370642238342e-06, + "loss": 0.0565, + "num_input_tokens_seen": 19572608, + "step": 9997 + }, + { + "epoch": 1.325115970841617, + "grad_norm": 4.5502824783325195, + "learning_rate": 2.957195785600263e-06, + "loss": 0.1112, + "num_input_tokens_seen": 19575184, + "step": 9998 + }, + { + "epoch": 1.3252485089463222, + "grad_norm": 13.879768371582031, + "learning_rate": 2.9568544981616413e-06, + "loss": 0.2624, + "num_input_tokens_seen": 19577400, + "step": 9999 + }, + { + "epoch": 1.3253810470510272, + "grad_norm": 4.059289932250977, + "learning_rate": 2.9565132019145503e-06, + "loss": 0.0468, + "num_input_tokens_seen": 19579072, + "step": 10000 + }, + { + "epoch": 1.3255135851557323, + "grad_norm": 8.60438060760498, + "learning_rate": 2.95617189686557e-06, + "loss": 0.1337, + "num_input_tokens_seen": 19580984, + "step": 10001 + }, + { + "epoch": 1.3256461232604373, + "grad_norm": 6.7872724533081055, + "learning_rate": 2.9558305830212802e-06, + "loss": 0.0645, + "num_input_tokens_seen": 19582288, + "step": 10002 + }, + { + "epoch": 1.3257786613651426, + "grad_norm": 1.1699812412261963, + "learning_rate": 2.9554892603882625e-06, + "loss": 0.0045, + "num_input_tokens_seen": 19583800, + "step": 10003 + }, + { + "epoch": 1.3259111994698476, + "grad_norm": 0.13351790606975555, + "learning_rate": 2.955147928973098e-06, + "loss": 0.0009, + "num_input_tokens_seen": 19585488, + "step": 10004 + }, + { + "epoch": 1.3260437375745526, + "grad_norm": 0.215609610080719, + "learning_rate": 2.9548065887823673e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19588976, + "step": 10005 + }, + { + "epoch": 1.3261762756792579, + "grad_norm": 3.2422540187835693, + "learning_rate": 2.9544652398226516e-06, + "loss": 0.0325, + "num_input_tokens_seen": 19590616, + "step": 10006 + }, + { + "epoch": 1.326308813783963, + "grad_norm": 12.906964302062988, + "learning_rate": 2.9541238821005325e-06, + "loss": 0.1524, + "num_input_tokens_seen": 19593336, + "step": 10007 + }, + { + "epoch": 1.326441351888668, + "grad_norm": 0.3269090950489044, + "learning_rate": 2.9537825156225914e-06, + "loss": 0.0022, + "num_input_tokens_seen": 19595352, + "step": 10008 + }, + { + "epoch": 1.326573889993373, + "grad_norm": 13.211973190307617, + "learning_rate": 2.953441140395411e-06, + "loss": 0.2347, + "num_input_tokens_seen": 19597824, + "step": 10009 + }, + { + "epoch": 1.3267064280980783, + "grad_norm": 4.517259120941162, + "learning_rate": 2.9530997564255728e-06, + "loss": 0.1121, + "num_input_tokens_seen": 19599496, + "step": 10010 + }, + { + "epoch": 1.3268389662027833, + "grad_norm": 1.8769259452819824, + "learning_rate": 2.9527583637196576e-06, + "loss": 0.0478, + "num_input_tokens_seen": 19601192, + "step": 10011 + }, + { + "epoch": 1.3269715043074883, + "grad_norm": 0.07857752591371536, + "learning_rate": 2.9524169622842497e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19602712, + "step": 10012 + }, + { + "epoch": 1.3271040424121936, + "grad_norm": 1.4949793815612793, + "learning_rate": 2.9520755521259304e-06, + "loss": 0.0131, + "num_input_tokens_seen": 19604032, + "step": 10013 + }, + { + "epoch": 1.3272365805168986, + "grad_norm": 0.6585063934326172, + "learning_rate": 2.9517341332512826e-06, + "loss": 0.0052, + "num_input_tokens_seen": 19605480, + "step": 10014 + }, + { + "epoch": 1.3273691186216037, + "grad_norm": 23.149818420410156, + "learning_rate": 2.9513927056668897e-06, + "loss": 0.038, + "num_input_tokens_seen": 19606848, + "step": 10015 + }, + { + "epoch": 1.3275016567263087, + "grad_norm": 3.8701798915863037, + "learning_rate": 2.9510512693793333e-06, + "loss": 0.1129, + "num_input_tokens_seen": 19608456, + "step": 10016 + }, + { + "epoch": 1.327634194831014, + "grad_norm": 0.030370693653821945, + "learning_rate": 2.9507098243951972e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19609640, + "step": 10017 + }, + { + "epoch": 1.327766732935719, + "grad_norm": 4.822741508483887, + "learning_rate": 2.950368370721065e-06, + "loss": 0.1762, + "num_input_tokens_seen": 19612680, + "step": 10018 + }, + { + "epoch": 1.327899271040424, + "grad_norm": 6.039475440979004, + "learning_rate": 2.9500269083635198e-06, + "loss": 0.084, + "num_input_tokens_seen": 19614168, + "step": 10019 + }, + { + "epoch": 1.3280318091451293, + "grad_norm": 16.466712951660156, + "learning_rate": 2.949685437329145e-06, + "loss": 0.2928, + "num_input_tokens_seen": 19616664, + "step": 10020 + }, + { + "epoch": 1.3281643472498343, + "grad_norm": 10.803589820861816, + "learning_rate": 2.9493439576245254e-06, + "loss": 0.3449, + "num_input_tokens_seen": 19618904, + "step": 10021 + }, + { + "epoch": 1.3282968853545394, + "grad_norm": 0.15575425326824188, + "learning_rate": 2.949002469256245e-06, + "loss": 0.001, + "num_input_tokens_seen": 19621232, + "step": 10022 + }, + { + "epoch": 1.3284294234592444, + "grad_norm": 0.31767404079437256, + "learning_rate": 2.9486609722308856e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19623088, + "step": 10023 + }, + { + "epoch": 1.3285619615639497, + "grad_norm": 13.803759574890137, + "learning_rate": 2.9483194665550335e-06, + "loss": 0.2117, + "num_input_tokens_seen": 19624720, + "step": 10024 + }, + { + "epoch": 1.3286944996686547, + "grad_norm": 0.6023021340370178, + "learning_rate": 2.947977952235273e-06, + "loss": 0.0027, + "num_input_tokens_seen": 19626184, + "step": 10025 + }, + { + "epoch": 1.32882703777336, + "grad_norm": 7.839282989501953, + "learning_rate": 2.9476364292781888e-06, + "loss": 0.2793, + "num_input_tokens_seen": 19628048, + "step": 10026 + }, + { + "epoch": 1.328959575878065, + "grad_norm": 4.595125675201416, + "learning_rate": 2.947294897690366e-06, + "loss": 0.0944, + "num_input_tokens_seen": 19630448, + "step": 10027 + }, + { + "epoch": 1.32909211398277, + "grad_norm": 5.367440700531006, + "learning_rate": 2.9469533574783877e-06, + "loss": 0.0545, + "num_input_tokens_seen": 19632424, + "step": 10028 + }, + { + "epoch": 1.329224652087475, + "grad_norm": 0.023499052971601486, + "learning_rate": 2.946611808648841e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19634000, + "step": 10029 + }, + { + "epoch": 1.3293571901921801, + "grad_norm": 2.7969186305999756, + "learning_rate": 2.9462702512083106e-06, + "loss": 0.0154, + "num_input_tokens_seen": 19635832, + "step": 10030 + }, + { + "epoch": 1.3294897282968854, + "grad_norm": 8.23483657836914, + "learning_rate": 2.945928685163382e-06, + "loss": 0.3252, + "num_input_tokens_seen": 19637472, + "step": 10031 + }, + { + "epoch": 1.3296222664015904, + "grad_norm": 0.21697549521923065, + "learning_rate": 2.94558711052064e-06, + "loss": 0.0011, + "num_input_tokens_seen": 19639920, + "step": 10032 + }, + { + "epoch": 1.3297548045062957, + "grad_norm": 7.126245021820068, + "learning_rate": 2.945245527286672e-06, + "loss": 0.1254, + "num_input_tokens_seen": 19641840, + "step": 10033 + }, + { + "epoch": 1.3298873426110007, + "grad_norm": 0.010683054104447365, + "learning_rate": 2.944903935468063e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19642976, + "step": 10034 + }, + { + "epoch": 1.3300198807157058, + "grad_norm": 11.981829643249512, + "learning_rate": 2.9445623350713985e-06, + "loss": 0.3104, + "num_input_tokens_seen": 19645552, + "step": 10035 + }, + { + "epoch": 1.3301524188204108, + "grad_norm": 3.877479314804077, + "learning_rate": 2.944220726103266e-06, + "loss": 0.0681, + "num_input_tokens_seen": 19648080, + "step": 10036 + }, + { + "epoch": 1.3302849569251158, + "grad_norm": 0.010967373847961426, + "learning_rate": 2.9438791085702513e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19649352, + "step": 10037 + }, + { + "epoch": 1.330417495029821, + "grad_norm": 19.11020278930664, + "learning_rate": 2.9435374824789413e-06, + "loss": 0.4749, + "num_input_tokens_seen": 19651456, + "step": 10038 + }, + { + "epoch": 1.3305500331345261, + "grad_norm": 0.005261686630547047, + "learning_rate": 2.9431958478359223e-06, + "loss": 0.0, + "num_input_tokens_seen": 19652432, + "step": 10039 + }, + { + "epoch": 1.3306825712392314, + "grad_norm": 6.606871128082275, + "learning_rate": 2.942854204647782e-06, + "loss": 0.0718, + "num_input_tokens_seen": 19654728, + "step": 10040 + }, + { + "epoch": 1.3308151093439364, + "grad_norm": 1.32657790184021, + "learning_rate": 2.9425125529211072e-06, + "loss": 0.0251, + "num_input_tokens_seen": 19657288, + "step": 10041 + }, + { + "epoch": 1.3309476474486415, + "grad_norm": 0.0718064159154892, + "learning_rate": 2.9421708926624846e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19659704, + "step": 10042 + }, + { + "epoch": 1.3310801855533465, + "grad_norm": 0.0737922340631485, + "learning_rate": 2.9418292238785025e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19661416, + "step": 10043 + }, + { + "epoch": 1.3312127236580518, + "grad_norm": 0.05091865360736847, + "learning_rate": 2.9414875465757487e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19663768, + "step": 10044 + }, + { + "epoch": 1.3313452617627568, + "grad_norm": 10.098896026611328, + "learning_rate": 2.9411458607608097e-06, + "loss": 0.1686, + "num_input_tokens_seen": 19665296, + "step": 10045 + }, + { + "epoch": 1.3314777998674618, + "grad_norm": 0.037031542509794235, + "learning_rate": 2.940804166440274e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19666520, + "step": 10046 + }, + { + "epoch": 1.331610337972167, + "grad_norm": 5.026845932006836, + "learning_rate": 2.9404624636207302e-06, + "loss": 0.0582, + "num_input_tokens_seen": 19668176, + "step": 10047 + }, + { + "epoch": 1.3317428760768721, + "grad_norm": 6.104671001434326, + "learning_rate": 2.9401207523087667e-06, + "loss": 0.1335, + "num_input_tokens_seen": 19670512, + "step": 10048 + }, + { + "epoch": 1.3318754141815772, + "grad_norm": 5.615001678466797, + "learning_rate": 2.9397790325109705e-06, + "loss": 0.0249, + "num_input_tokens_seen": 19672744, + "step": 10049 + }, + { + "epoch": 1.3320079522862822, + "grad_norm": 5.745657920837402, + "learning_rate": 2.939437304233932e-06, + "loss": 0.0731, + "num_input_tokens_seen": 19674976, + "step": 10050 + }, + { + "epoch": 1.3321404903909875, + "grad_norm": 0.6104015707969666, + "learning_rate": 2.9390955674842386e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19677152, + "step": 10051 + }, + { + "epoch": 1.3322730284956925, + "grad_norm": 0.02321402169764042, + "learning_rate": 2.93875382226848e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19679856, + "step": 10052 + }, + { + "epoch": 1.3324055666003976, + "grad_norm": 2.957949638366699, + "learning_rate": 2.9384120685932448e-06, + "loss": 0.0299, + "num_input_tokens_seen": 19681232, + "step": 10053 + }, + { + "epoch": 1.3325381047051028, + "grad_norm": 9.981496810913086, + "learning_rate": 2.9380703064651227e-06, + "loss": 0.1688, + "num_input_tokens_seen": 19683352, + "step": 10054 + }, + { + "epoch": 1.3326706428098078, + "grad_norm": 10.203073501586914, + "learning_rate": 2.9377285358907027e-06, + "loss": 0.3986, + "num_input_tokens_seen": 19684952, + "step": 10055 + }, + { + "epoch": 1.3328031809145129, + "grad_norm": 0.004375721327960491, + "learning_rate": 2.9373867568765748e-06, + "loss": 0.0, + "num_input_tokens_seen": 19686272, + "step": 10056 + }, + { + "epoch": 1.332935719019218, + "grad_norm": 1.7350661754608154, + "learning_rate": 2.937044969429329e-06, + "loss": 0.019, + "num_input_tokens_seen": 19688888, + "step": 10057 + }, + { + "epoch": 1.3330682571239232, + "grad_norm": 0.1596454530954361, + "learning_rate": 2.936703173555553e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19691320, + "step": 10058 + }, + { + "epoch": 1.3332007952286282, + "grad_norm": 9.800030708312988, + "learning_rate": 2.9363613692618402e-06, + "loss": 0.116, + "num_input_tokens_seen": 19693000, + "step": 10059 + }, + { + "epoch": 1.3333333333333333, + "grad_norm": 11.671333312988281, + "learning_rate": 2.9360195565547783e-06, + "loss": 0.3986, + "num_input_tokens_seen": 19695560, + "step": 10060 + }, + { + "epoch": 1.3334658714380385, + "grad_norm": 8.852104187011719, + "learning_rate": 2.935677735440959e-06, + "loss": 0.2575, + "num_input_tokens_seen": 19697088, + "step": 10061 + }, + { + "epoch": 1.3335984095427436, + "grad_norm": 7.2411909103393555, + "learning_rate": 2.9353359059269727e-06, + "loss": 0.152, + "num_input_tokens_seen": 19699480, + "step": 10062 + }, + { + "epoch": 1.3337309476474486, + "grad_norm": 8.616983413696289, + "learning_rate": 2.934994068019409e-06, + "loss": 0.1954, + "num_input_tokens_seen": 19701256, + "step": 10063 + }, + { + "epoch": 1.3338634857521536, + "grad_norm": 3.4285824298858643, + "learning_rate": 2.9346522217248597e-06, + "loss": 0.0588, + "num_input_tokens_seen": 19703384, + "step": 10064 + }, + { + "epoch": 1.333996023856859, + "grad_norm": 9.62035846710205, + "learning_rate": 2.9343103670499157e-06, + "loss": 0.0674, + "num_input_tokens_seen": 19705128, + "step": 10065 + }, + { + "epoch": 1.334128561961564, + "grad_norm": 0.5120173692703247, + "learning_rate": 2.9339685040011688e-06, + "loss": 0.004, + "num_input_tokens_seen": 19707016, + "step": 10066 + }, + { + "epoch": 1.3342611000662692, + "grad_norm": 0.04398007690906525, + "learning_rate": 2.9336266325852093e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19708488, + "step": 10067 + }, + { + "epoch": 1.3343936381709742, + "grad_norm": 6.221183776855469, + "learning_rate": 2.9332847528086294e-06, + "loss": 0.0852, + "num_input_tokens_seen": 19710408, + "step": 10068 + }, + { + "epoch": 1.3345261762756793, + "grad_norm": 4.612703323364258, + "learning_rate": 2.9329428646780206e-06, + "loss": 0.1367, + "num_input_tokens_seen": 19712712, + "step": 10069 + }, + { + "epoch": 1.3346587143803843, + "grad_norm": 1.6482594013214111, + "learning_rate": 2.9326009681999745e-06, + "loss": 0.0205, + "num_input_tokens_seen": 19714440, + "step": 10070 + }, + { + "epoch": 1.3347912524850893, + "grad_norm": 11.199882507324219, + "learning_rate": 2.932259063381083e-06, + "loss": 0.3282, + "num_input_tokens_seen": 19717528, + "step": 10071 + }, + { + "epoch": 1.3349237905897946, + "grad_norm": 0.02905864641070366, + "learning_rate": 2.931917150227939e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19719768, + "step": 10072 + }, + { + "epoch": 1.3350563286944996, + "grad_norm": 0.11134571582078934, + "learning_rate": 2.931575228747134e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19721448, + "step": 10073 + }, + { + "epoch": 1.335188866799205, + "grad_norm": 8.956958770751953, + "learning_rate": 2.9312332989452615e-06, + "loss": 0.2012, + "num_input_tokens_seen": 19723656, + "step": 10074 + }, + { + "epoch": 1.33532140490391, + "grad_norm": 3.762080430984497, + "learning_rate": 2.930891360828913e-06, + "loss": 0.0362, + "num_input_tokens_seen": 19725224, + "step": 10075 + }, + { + "epoch": 1.335453943008615, + "grad_norm": 6.9835591316223145, + "learning_rate": 2.930549414404682e-06, + "loss": 0.1084, + "num_input_tokens_seen": 19726848, + "step": 10076 + }, + { + "epoch": 1.33558648111332, + "grad_norm": 5.485349178314209, + "learning_rate": 2.930207459679161e-06, + "loss": 0.0829, + "num_input_tokens_seen": 19729104, + "step": 10077 + }, + { + "epoch": 1.335719019218025, + "grad_norm": 0.029335543513298035, + "learning_rate": 2.929865496658944e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19731088, + "step": 10078 + }, + { + "epoch": 1.3358515573227303, + "grad_norm": 10.912320137023926, + "learning_rate": 2.929523525350623e-06, + "loss": 0.2798, + "num_input_tokens_seen": 19732920, + "step": 10079 + }, + { + "epoch": 1.3359840954274353, + "grad_norm": 4.1649699211120605, + "learning_rate": 2.9291815457607933e-06, + "loss": 0.0912, + "num_input_tokens_seen": 19734616, + "step": 10080 + }, + { + "epoch": 1.3361166335321406, + "grad_norm": 1.1570743322372437, + "learning_rate": 2.928839557896046e-06, + "loss": 0.0159, + "num_input_tokens_seen": 19736520, + "step": 10081 + }, + { + "epoch": 1.3362491716368456, + "grad_norm": 0.035161860287189484, + "learning_rate": 2.9284975617629763e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19738176, + "step": 10082 + }, + { + "epoch": 1.3363817097415507, + "grad_norm": 0.44542983174324036, + "learning_rate": 2.928155557368178e-06, + "loss": 0.0038, + "num_input_tokens_seen": 19740224, + "step": 10083 + }, + { + "epoch": 1.3365142478462557, + "grad_norm": 0.43377885222435, + "learning_rate": 2.927813544718246e-06, + "loss": 0.0016, + "num_input_tokens_seen": 19743000, + "step": 10084 + }, + { + "epoch": 1.336646785950961, + "grad_norm": 5.311315059661865, + "learning_rate": 2.9274715238197734e-06, + "loss": 0.0391, + "num_input_tokens_seen": 19744536, + "step": 10085 + }, + { + "epoch": 1.336779324055666, + "grad_norm": 8.02383041381836, + "learning_rate": 2.9271294946793542e-06, + "loss": 0.1608, + "num_input_tokens_seen": 19745496, + "step": 10086 + }, + { + "epoch": 1.336911862160371, + "grad_norm": 0.14343765377998352, + "learning_rate": 2.926787457303585e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19747128, + "step": 10087 + }, + { + "epoch": 1.3370444002650763, + "grad_norm": 13.380282402038574, + "learning_rate": 2.926445411699058e-06, + "loss": 0.1181, + "num_input_tokens_seen": 19748472, + "step": 10088 + }, + { + "epoch": 1.3371769383697814, + "grad_norm": 0.01169082336127758, + "learning_rate": 2.92610335787237e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19751384, + "step": 10089 + }, + { + "epoch": 1.3373094764744864, + "grad_norm": 10.448746681213379, + "learning_rate": 2.9257612958301146e-06, + "loss": 0.2239, + "num_input_tokens_seen": 19755344, + "step": 10090 + }, + { + "epoch": 1.3374420145791914, + "grad_norm": 4.047427177429199, + "learning_rate": 2.925419225578888e-06, + "loss": 0.0438, + "num_input_tokens_seen": 19757376, + "step": 10091 + }, + { + "epoch": 1.3375745526838967, + "grad_norm": 7.419445037841797, + "learning_rate": 2.9250771471252854e-06, + "loss": 0.1977, + "num_input_tokens_seen": 19759832, + "step": 10092 + }, + { + "epoch": 1.3377070907886017, + "grad_norm": 0.05178523808717728, + "learning_rate": 2.924735060475902e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19760968, + "step": 10093 + }, + { + "epoch": 1.3378396288933068, + "grad_norm": 9.346990585327148, + "learning_rate": 2.924392965637334e-06, + "loss": 0.0569, + "num_input_tokens_seen": 19763960, + "step": 10094 + }, + { + "epoch": 1.337972166998012, + "grad_norm": 8.95223617553711, + "learning_rate": 2.9240508626161766e-06, + "loss": 0.3841, + "num_input_tokens_seen": 19765456, + "step": 10095 + }, + { + "epoch": 1.338104705102717, + "grad_norm": 19.677982330322266, + "learning_rate": 2.923708751419026e-06, + "loss": 0.1088, + "num_input_tokens_seen": 19768480, + "step": 10096 + }, + { + "epoch": 1.338237243207422, + "grad_norm": 0.1691170036792755, + "learning_rate": 2.923366632052478e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19770968, + "step": 10097 + }, + { + "epoch": 1.3383697813121271, + "grad_norm": 13.489299774169922, + "learning_rate": 2.9230245045231303e-06, + "loss": 0.3041, + "num_input_tokens_seen": 19773904, + "step": 10098 + }, + { + "epoch": 1.3385023194168324, + "grad_norm": 8.371328353881836, + "learning_rate": 2.922682368837577e-06, + "loss": 0.2247, + "num_input_tokens_seen": 19775392, + "step": 10099 + }, + { + "epoch": 1.3386348575215374, + "grad_norm": 0.026870815083384514, + "learning_rate": 2.922340225002417e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19777424, + "step": 10100 + }, + { + "epoch": 1.3387673956262425, + "grad_norm": 0.27529075741767883, + "learning_rate": 2.9219980730242457e-06, + "loss": 0.0013, + "num_input_tokens_seen": 19779296, + "step": 10101 + }, + { + "epoch": 1.3388999337309477, + "grad_norm": 0.11955448985099792, + "learning_rate": 2.92165591290966e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19780984, + "step": 10102 + }, + { + "epoch": 1.3390324718356528, + "grad_norm": 4.565912246704102, + "learning_rate": 2.9213137446652586e-06, + "loss": 0.0809, + "num_input_tokens_seen": 19783016, + "step": 10103 + }, + { + "epoch": 1.3391650099403578, + "grad_norm": 8.942695617675781, + "learning_rate": 2.920971568297637e-06, + "loss": 0.2034, + "num_input_tokens_seen": 19785504, + "step": 10104 + }, + { + "epoch": 1.3392975480450628, + "grad_norm": 4.521328926086426, + "learning_rate": 2.9206293838133926e-06, + "loss": 0.1611, + "num_input_tokens_seen": 19787608, + "step": 10105 + }, + { + "epoch": 1.339430086149768, + "grad_norm": 0.9563708901405334, + "learning_rate": 2.9202871912191245e-06, + "loss": 0.0162, + "num_input_tokens_seen": 19789584, + "step": 10106 + }, + { + "epoch": 1.3395626242544731, + "grad_norm": 13.546354293823242, + "learning_rate": 2.919944990521429e-06, + "loss": 0.3334, + "num_input_tokens_seen": 19791968, + "step": 10107 + }, + { + "epoch": 1.3396951623591782, + "grad_norm": 10.50308609008789, + "learning_rate": 2.9196027817269036e-06, + "loss": 0.3293, + "num_input_tokens_seen": 19794312, + "step": 10108 + }, + { + "epoch": 1.3398277004638834, + "grad_norm": 1.4749419689178467, + "learning_rate": 2.919260564842148e-06, + "loss": 0.0178, + "num_input_tokens_seen": 19796200, + "step": 10109 + }, + { + "epoch": 1.3399602385685885, + "grad_norm": 8.910107612609863, + "learning_rate": 2.9189183398737592e-06, + "loss": 0.2659, + "num_input_tokens_seen": 19799032, + "step": 10110 + }, + { + "epoch": 1.3400927766732935, + "grad_norm": 0.08865901827812195, + "learning_rate": 2.918576106828336e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19800600, + "step": 10111 + }, + { + "epoch": 1.3402253147779986, + "grad_norm": 0.0036424901336431503, + "learning_rate": 2.9182338657124765e-06, + "loss": 0.0, + "num_input_tokens_seen": 19801768, + "step": 10112 + }, + { + "epoch": 1.3403578528827038, + "grad_norm": 5.268975257873535, + "learning_rate": 2.9178916165327796e-06, + "loss": 0.1854, + "num_input_tokens_seen": 19803720, + "step": 10113 + }, + { + "epoch": 1.3404903909874089, + "grad_norm": 4.819614410400391, + "learning_rate": 2.917549359295844e-06, + "loss": 0.1283, + "num_input_tokens_seen": 19805696, + "step": 10114 + }, + { + "epoch": 1.3406229290921141, + "grad_norm": 13.397098541259766, + "learning_rate": 2.9172070940082686e-06, + "loss": 0.3197, + "num_input_tokens_seen": 19807600, + "step": 10115 + }, + { + "epoch": 1.3407554671968192, + "grad_norm": 8.238554954528809, + "learning_rate": 2.916864820676653e-06, + "loss": 0.1971, + "num_input_tokens_seen": 19809272, + "step": 10116 + }, + { + "epoch": 1.3408880053015242, + "grad_norm": 0.016477268189191818, + "learning_rate": 2.916522539307595e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19810328, + "step": 10117 + }, + { + "epoch": 1.3410205434062292, + "grad_norm": 0.04328158497810364, + "learning_rate": 2.916180249907696e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19813096, + "step": 10118 + }, + { + "epoch": 1.3411530815109343, + "grad_norm": 7.495695114135742, + "learning_rate": 2.9158379524835556e-06, + "loss": 0.0877, + "num_input_tokens_seen": 19815608, + "step": 10119 + }, + { + "epoch": 1.3412856196156395, + "grad_norm": 3.471045732498169, + "learning_rate": 2.9154956470417704e-06, + "loss": 0.0265, + "num_input_tokens_seen": 19817336, + "step": 10120 + }, + { + "epoch": 1.3414181577203446, + "grad_norm": 0.19808629155158997, + "learning_rate": 2.9151533335889446e-06, + "loss": 0.0029, + "num_input_tokens_seen": 19819824, + "step": 10121 + }, + { + "epoch": 1.3415506958250498, + "grad_norm": 0.04542338475584984, + "learning_rate": 2.9148110121316752e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19822256, + "step": 10122 + }, + { + "epoch": 1.3416832339297549, + "grad_norm": 1.081764817237854, + "learning_rate": 2.914468682676563e-06, + "loss": 0.0061, + "num_input_tokens_seen": 19823960, + "step": 10123 + }, + { + "epoch": 1.34181577203446, + "grad_norm": 7.454776763916016, + "learning_rate": 2.9141263452302095e-06, + "loss": 0.1221, + "num_input_tokens_seen": 19825472, + "step": 10124 + }, + { + "epoch": 1.341948310139165, + "grad_norm": 12.951793670654297, + "learning_rate": 2.9137839997992133e-06, + "loss": 0.1706, + "num_input_tokens_seen": 19827232, + "step": 10125 + }, + { + "epoch": 1.3420808482438702, + "grad_norm": 0.0587170273065567, + "learning_rate": 2.9134416463901773e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19828720, + "step": 10126 + }, + { + "epoch": 1.3422133863485752, + "grad_norm": 0.05062089115381241, + "learning_rate": 2.9130992850097006e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19830448, + "step": 10127 + }, + { + "epoch": 1.3423459244532803, + "grad_norm": 0.9958415627479553, + "learning_rate": 2.9127569156643842e-06, + "loss": 0.0046, + "num_input_tokens_seen": 19831520, + "step": 10128 + }, + { + "epoch": 1.3424784625579855, + "grad_norm": 11.671673774719238, + "learning_rate": 2.9124145383608304e-06, + "loss": 0.2535, + "num_input_tokens_seen": 19833704, + "step": 10129 + }, + { + "epoch": 1.3426110006626906, + "grad_norm": 0.027266185730695724, + "learning_rate": 2.9120721531056395e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19835176, + "step": 10130 + }, + { + "epoch": 1.3427435387673956, + "grad_norm": 2.540097236633301, + "learning_rate": 2.9117297599054135e-06, + "loss": 0.0375, + "num_input_tokens_seen": 19837504, + "step": 10131 + }, + { + "epoch": 1.3428760768721006, + "grad_norm": 12.47049331665039, + "learning_rate": 2.911387358766753e-06, + "loss": 0.1394, + "num_input_tokens_seen": 19838960, + "step": 10132 + }, + { + "epoch": 1.343008614976806, + "grad_norm": 3.064147710800171, + "learning_rate": 2.911044949696261e-06, + "loss": 0.0131, + "num_input_tokens_seen": 19840536, + "step": 10133 + }, + { + "epoch": 1.343141153081511, + "grad_norm": 2.4661829471588135, + "learning_rate": 2.910702532700539e-06, + "loss": 0.0064, + "num_input_tokens_seen": 19843376, + "step": 10134 + }, + { + "epoch": 1.343273691186216, + "grad_norm": 0.021428564563393593, + "learning_rate": 2.9103601077861875e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19844784, + "step": 10135 + }, + { + "epoch": 1.3434062292909212, + "grad_norm": 1.7033615112304688, + "learning_rate": 2.910017674959812e-06, + "loss": 0.0123, + "num_input_tokens_seen": 19846440, + "step": 10136 + }, + { + "epoch": 1.3435387673956263, + "grad_norm": 5.182422637939453, + "learning_rate": 2.909675234228012e-06, + "loss": 0.0891, + "num_input_tokens_seen": 19848280, + "step": 10137 + }, + { + "epoch": 1.3436713055003313, + "grad_norm": 1.9017574787139893, + "learning_rate": 2.9093327855973904e-06, + "loss": 0.0117, + "num_input_tokens_seen": 19849760, + "step": 10138 + }, + { + "epoch": 1.3438038436050364, + "grad_norm": 7.488884925842285, + "learning_rate": 2.9089903290745507e-06, + "loss": 0.1768, + "num_input_tokens_seen": 19851240, + "step": 10139 + }, + { + "epoch": 1.3439363817097416, + "grad_norm": 0.7020218968391418, + "learning_rate": 2.9086478646660952e-06, + "loss": 0.0043, + "num_input_tokens_seen": 19853360, + "step": 10140 + }, + { + "epoch": 1.3440689198144466, + "grad_norm": 12.125798225402832, + "learning_rate": 2.908305392378627e-06, + "loss": 0.2483, + "num_input_tokens_seen": 19855520, + "step": 10141 + }, + { + "epoch": 1.3442014579191517, + "grad_norm": 3.5772783756256104, + "learning_rate": 2.9079629122187497e-06, + "loss": 0.031, + "num_input_tokens_seen": 19858712, + "step": 10142 + }, + { + "epoch": 1.344333996023857, + "grad_norm": 0.4007512331008911, + "learning_rate": 2.9076204241930654e-06, + "loss": 0.0053, + "num_input_tokens_seen": 19860320, + "step": 10143 + }, + { + "epoch": 1.344466534128562, + "grad_norm": 0.014961271546781063, + "learning_rate": 2.907277928308178e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19861792, + "step": 10144 + }, + { + "epoch": 1.344599072233267, + "grad_norm": 13.702409744262695, + "learning_rate": 2.906935424570692e-06, + "loss": 0.2687, + "num_input_tokens_seen": 19864440, + "step": 10145 + }, + { + "epoch": 1.344731610337972, + "grad_norm": 0.8807671070098877, + "learning_rate": 2.9065929129872097e-06, + "loss": 0.0076, + "num_input_tokens_seen": 19865968, + "step": 10146 + }, + { + "epoch": 1.3448641484426773, + "grad_norm": 8.62695598602295, + "learning_rate": 2.906250393564335e-06, + "loss": 0.1194, + "num_input_tokens_seen": 19867800, + "step": 10147 + }, + { + "epoch": 1.3449966865473824, + "grad_norm": 3.3124172687530518, + "learning_rate": 2.905907866308673e-06, + "loss": 0.0274, + "num_input_tokens_seen": 19869744, + "step": 10148 + }, + { + "epoch": 1.3451292246520874, + "grad_norm": 7.892882823944092, + "learning_rate": 2.9055653312268277e-06, + "loss": 0.1785, + "num_input_tokens_seen": 19871680, + "step": 10149 + }, + { + "epoch": 1.3452617627567927, + "grad_norm": 11.916269302368164, + "learning_rate": 2.9052227883254023e-06, + "loss": 0.2335, + "num_input_tokens_seen": 19873496, + "step": 10150 + }, + { + "epoch": 1.3453943008614977, + "grad_norm": 0.008640076033771038, + "learning_rate": 2.9048802376110023e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19876096, + "step": 10151 + }, + { + "epoch": 1.3455268389662027, + "grad_norm": 0.02837945520877838, + "learning_rate": 2.9045376790902326e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19878008, + "step": 10152 + }, + { + "epoch": 1.3456593770709078, + "grad_norm": 6.174884796142578, + "learning_rate": 2.904195112769696e-06, + "loss": 0.0219, + "num_input_tokens_seen": 19879440, + "step": 10153 + }, + { + "epoch": 1.345791915175613, + "grad_norm": 0.005460857413709164, + "learning_rate": 2.903852538656e-06, + "loss": 0.0, + "num_input_tokens_seen": 19880672, + "step": 10154 + }, + { + "epoch": 1.345924453280318, + "grad_norm": 9.355748176574707, + "learning_rate": 2.9035099567557477e-06, + "loss": 0.2427, + "num_input_tokens_seen": 19883192, + "step": 10155 + }, + { + "epoch": 1.3460569913850233, + "grad_norm": 8.21791934967041, + "learning_rate": 2.9031673670755455e-06, + "loss": 0.1599, + "num_input_tokens_seen": 19884784, + "step": 10156 + }, + { + "epoch": 1.3461895294897284, + "grad_norm": 2.5992867946624756, + "learning_rate": 2.902824769621999e-06, + "loss": 0.0696, + "num_input_tokens_seen": 19886672, + "step": 10157 + }, + { + "epoch": 1.3463220675944334, + "grad_norm": 10.464076042175293, + "learning_rate": 2.902482164401712e-06, + "loss": 0.2608, + "num_input_tokens_seen": 19887984, + "step": 10158 + }, + { + "epoch": 1.3464546056991384, + "grad_norm": 8.851065635681152, + "learning_rate": 2.9021395514212915e-06, + "loss": 0.217, + "num_input_tokens_seen": 19889952, + "step": 10159 + }, + { + "epoch": 1.3465871438038435, + "grad_norm": 10.956007957458496, + "learning_rate": 2.9017969306873435e-06, + "loss": 0.266, + "num_input_tokens_seen": 19892328, + "step": 10160 + }, + { + "epoch": 1.3467196819085487, + "grad_norm": 0.3187258541584015, + "learning_rate": 2.901454302206473e-06, + "loss": 0.0026, + "num_input_tokens_seen": 19893864, + "step": 10161 + }, + { + "epoch": 1.3468522200132538, + "grad_norm": 0.06205557659268379, + "learning_rate": 2.901111665985286e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19895432, + "step": 10162 + }, + { + "epoch": 1.346984758117959, + "grad_norm": 0.0053013465367257595, + "learning_rate": 2.9007690220303906e-06, + "loss": 0.0, + "num_input_tokens_seen": 19897064, + "step": 10163 + }, + { + "epoch": 1.347117296222664, + "grad_norm": 0.017224103212356567, + "learning_rate": 2.9004263703483914e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19899688, + "step": 10164 + }, + { + "epoch": 1.3472498343273691, + "grad_norm": 2.4016005992889404, + "learning_rate": 2.9000837109458952e-06, + "loss": 0.0334, + "num_input_tokens_seen": 19901032, + "step": 10165 + }, + { + "epoch": 1.3473823724320741, + "grad_norm": 0.02619960345327854, + "learning_rate": 2.8997410438295094e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19902904, + "step": 10166 + }, + { + "epoch": 1.3475149105367792, + "grad_norm": 18.34744644165039, + "learning_rate": 2.8993983690058408e-06, + "loss": 0.4916, + "num_input_tokens_seen": 19905312, + "step": 10167 + }, + { + "epoch": 1.3476474486414844, + "grad_norm": 8.735126495361328, + "learning_rate": 2.8990556864814958e-06, + "loss": 0.2607, + "num_input_tokens_seen": 19907000, + "step": 10168 + }, + { + "epoch": 1.3477799867461895, + "grad_norm": 9.965794563293457, + "learning_rate": 2.8987129962630817e-06, + "loss": 0.2581, + "num_input_tokens_seen": 19909032, + "step": 10169 + }, + { + "epoch": 1.3479125248508947, + "grad_norm": 3.9884376525878906, + "learning_rate": 2.8983702983572058e-06, + "loss": 0.102, + "num_input_tokens_seen": 19910672, + "step": 10170 + }, + { + "epoch": 1.3480450629555998, + "grad_norm": 5.314563274383545, + "learning_rate": 2.8980275927704766e-06, + "loss": 0.0869, + "num_input_tokens_seen": 19912664, + "step": 10171 + }, + { + "epoch": 1.3481776010603048, + "grad_norm": 6.50699520111084, + "learning_rate": 2.8976848795095e-06, + "loss": 0.0239, + "num_input_tokens_seen": 19914544, + "step": 10172 + }, + { + "epoch": 1.3483101391650099, + "grad_norm": 4.813033103942871, + "learning_rate": 2.8973421585808846e-06, + "loss": 0.1234, + "num_input_tokens_seen": 19916416, + "step": 10173 + }, + { + "epoch": 1.3484426772697151, + "grad_norm": 0.07860854268074036, + "learning_rate": 2.8969994299912385e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19917584, + "step": 10174 + }, + { + "epoch": 1.3485752153744202, + "grad_norm": 4.865730285644531, + "learning_rate": 2.8966566937471704e-06, + "loss": 0.0942, + "num_input_tokens_seen": 19920096, + "step": 10175 + }, + { + "epoch": 1.3487077534791252, + "grad_norm": 6.186446666717529, + "learning_rate": 2.8963139498552862e-06, + "loss": 0.0228, + "num_input_tokens_seen": 19921736, + "step": 10176 + }, + { + "epoch": 1.3488402915838305, + "grad_norm": 0.04173063859343529, + "learning_rate": 2.895971198322196e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19924080, + "step": 10177 + }, + { + "epoch": 1.3489728296885355, + "grad_norm": 12.86430835723877, + "learning_rate": 2.8956284391545088e-06, + "loss": 0.1685, + "num_input_tokens_seen": 19925776, + "step": 10178 + }, + { + "epoch": 1.3491053677932405, + "grad_norm": 0.038513023406267166, + "learning_rate": 2.8952856723588313e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19928400, + "step": 10179 + }, + { + "epoch": 1.3492379058979456, + "grad_norm": 8.598003387451172, + "learning_rate": 2.8949428979417737e-06, + "loss": 0.2563, + "num_input_tokens_seen": 19930488, + "step": 10180 + }, + { + "epoch": 1.3493704440026508, + "grad_norm": 3.0397284030914307, + "learning_rate": 2.8946001159099454e-06, + "loss": 0.0348, + "num_input_tokens_seen": 19933040, + "step": 10181 + }, + { + "epoch": 1.3495029821073559, + "grad_norm": 8.168566703796387, + "learning_rate": 2.8942573262699523e-06, + "loss": 0.1854, + "num_input_tokens_seen": 19935176, + "step": 10182 + }, + { + "epoch": 1.349635520212061, + "grad_norm": 4.828032493591309, + "learning_rate": 2.8939145290284082e-06, + "loss": 0.0502, + "num_input_tokens_seen": 19936488, + "step": 10183 + }, + { + "epoch": 1.3497680583167662, + "grad_norm": 0.024451255798339844, + "learning_rate": 2.89357172419192e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19939440, + "step": 10184 + }, + { + "epoch": 1.3499005964214712, + "grad_norm": 0.03356282785534859, + "learning_rate": 2.8932289117670964e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19941448, + "step": 10185 + }, + { + "epoch": 1.3500331345261762, + "grad_norm": 14.649279594421387, + "learning_rate": 2.892886091760549e-06, + "loss": 0.1989, + "num_input_tokens_seen": 19943488, + "step": 10186 + }, + { + "epoch": 1.3501656726308813, + "grad_norm": 7.300917625427246, + "learning_rate": 2.8925432641788862e-06, + "loss": 0.1145, + "num_input_tokens_seen": 19945520, + "step": 10187 + }, + { + "epoch": 1.3502982107355865, + "grad_norm": 3.558278799057007, + "learning_rate": 2.892200429028719e-06, + "loss": 0.0836, + "num_input_tokens_seen": 19947064, + "step": 10188 + }, + { + "epoch": 1.3504307488402916, + "grad_norm": 0.13311751186847687, + "learning_rate": 2.8918575863166572e-06, + "loss": 0.0012, + "num_input_tokens_seen": 19949792, + "step": 10189 + }, + { + "epoch": 1.3505632869449966, + "grad_norm": 4.461389064788818, + "learning_rate": 2.8915147360493095e-06, + "loss": 0.1042, + "num_input_tokens_seen": 19951968, + "step": 10190 + }, + { + "epoch": 1.3506958250497019, + "grad_norm": 6.293132781982422, + "learning_rate": 2.8911718782332888e-06, + "loss": 0.0531, + "num_input_tokens_seen": 19953856, + "step": 10191 + }, + { + "epoch": 1.350828363154407, + "grad_norm": 2.249549388885498, + "learning_rate": 2.8908290128752037e-06, + "loss": 0.0292, + "num_input_tokens_seen": 19955664, + "step": 10192 + }, + { + "epoch": 1.350960901259112, + "grad_norm": 14.243449211120605, + "learning_rate": 2.8904861399816658e-06, + "loss": 0.1987, + "num_input_tokens_seen": 19957880, + "step": 10193 + }, + { + "epoch": 1.351093439363817, + "grad_norm": 5.069923400878906, + "learning_rate": 2.890143259559286e-06, + "loss": 0.0888, + "num_input_tokens_seen": 19960136, + "step": 10194 + }, + { + "epoch": 1.3512259774685222, + "grad_norm": 1.965651273727417, + "learning_rate": 2.8898003716146745e-06, + "loss": 0.0148, + "num_input_tokens_seen": 19962976, + "step": 10195 + }, + { + "epoch": 1.3513585155732273, + "grad_norm": 24.33405113220215, + "learning_rate": 2.8894574761544437e-06, + "loss": 0.1173, + "num_input_tokens_seen": 19965880, + "step": 10196 + }, + { + "epoch": 1.3514910536779325, + "grad_norm": 9.608214378356934, + "learning_rate": 2.889114573185203e-06, + "loss": 0.1648, + "num_input_tokens_seen": 19969280, + "step": 10197 + }, + { + "epoch": 1.3516235917826376, + "grad_norm": 0.01072927750647068, + "learning_rate": 2.888771662713566e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19970960, + "step": 10198 + }, + { + "epoch": 1.3517561298873426, + "grad_norm": 5.591780662536621, + "learning_rate": 2.8884287447461427e-06, + "loss": 0.1571, + "num_input_tokens_seen": 19972808, + "step": 10199 + }, + { + "epoch": 1.3518886679920477, + "grad_norm": 5.871712684631348, + "learning_rate": 2.888085819289545e-06, + "loss": 0.0367, + "num_input_tokens_seen": 19974648, + "step": 10200 + }, + { + "epoch": 1.3520212060967527, + "grad_norm": 5.371670722961426, + "learning_rate": 2.887742886350385e-06, + "loss": 0.0086, + "num_input_tokens_seen": 19976400, + "step": 10201 + }, + { + "epoch": 1.352153744201458, + "grad_norm": 0.9329508543014526, + "learning_rate": 2.8873999459352758e-06, + "loss": 0.008, + "num_input_tokens_seen": 19978400, + "step": 10202 + }, + { + "epoch": 1.352286282306163, + "grad_norm": 9.446467399597168, + "learning_rate": 2.8870569980508266e-06, + "loss": 0.2293, + "num_input_tokens_seen": 19980968, + "step": 10203 + }, + { + "epoch": 1.3524188204108682, + "grad_norm": 7.590339660644531, + "learning_rate": 2.886714042703653e-06, + "loss": 0.2046, + "num_input_tokens_seen": 19983472, + "step": 10204 + }, + { + "epoch": 1.3525513585155733, + "grad_norm": 4.051093101501465, + "learning_rate": 2.8863710799003645e-06, + "loss": 0.0643, + "num_input_tokens_seen": 19985208, + "step": 10205 + }, + { + "epoch": 1.3526838966202783, + "grad_norm": 0.039376918226480484, + "learning_rate": 2.8860281096475764e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19987256, + "step": 10206 + }, + { + "epoch": 1.3528164347249834, + "grad_norm": 12.279695510864258, + "learning_rate": 2.885685131951899e-06, + "loss": 0.4457, + "num_input_tokens_seen": 19989392, + "step": 10207 + }, + { + "epoch": 1.3529489728296884, + "grad_norm": 7.10658597946167, + "learning_rate": 2.8853421468199465e-06, + "loss": 0.0961, + "num_input_tokens_seen": 19991152, + "step": 10208 + }, + { + "epoch": 1.3530815109343937, + "grad_norm": 8.920280456542969, + "learning_rate": 2.8849991542583315e-06, + "loss": 0.2092, + "num_input_tokens_seen": 19992928, + "step": 10209 + }, + { + "epoch": 1.3532140490390987, + "grad_norm": 0.9285838603973389, + "learning_rate": 2.884656154273667e-06, + "loss": 0.0043, + "num_input_tokens_seen": 19994984, + "step": 10210 + }, + { + "epoch": 1.353346587143804, + "grad_norm": 8.971582412719727, + "learning_rate": 2.8843131468725677e-06, + "loss": 0.0741, + "num_input_tokens_seen": 19997408, + "step": 10211 + }, + { + "epoch": 1.353479125248509, + "grad_norm": 5.864439487457275, + "learning_rate": 2.883970132061645e-06, + "loss": 0.1143, + "num_input_tokens_seen": 20000552, + "step": 10212 + }, + { + "epoch": 1.353611663353214, + "grad_norm": 0.030447054654359818, + "learning_rate": 2.8836271098475126e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20003408, + "step": 10213 + }, + { + "epoch": 1.353744201457919, + "grad_norm": 3.24778151512146, + "learning_rate": 2.883284080236786e-06, + "loss": 0.0248, + "num_input_tokens_seen": 20006560, + "step": 10214 + }, + { + "epoch": 1.3538767395626243, + "grad_norm": 0.009181424044072628, + "learning_rate": 2.8829410432360773e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20007880, + "step": 10215 + }, + { + "epoch": 1.3540092776673294, + "grad_norm": 0.016043713316321373, + "learning_rate": 2.8825979988520007e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20009760, + "step": 10216 + }, + { + "epoch": 1.3541418157720344, + "grad_norm": 8.518325805664062, + "learning_rate": 2.882254947091172e-06, + "loss": 0.1072, + "num_input_tokens_seen": 20011560, + "step": 10217 + }, + { + "epoch": 1.3542743538767397, + "grad_norm": 5.284838676452637, + "learning_rate": 2.881911887960203e-06, + "loss": 0.0611, + "num_input_tokens_seen": 20013088, + "step": 10218 + }, + { + "epoch": 1.3544068919814447, + "grad_norm": 4.867649078369141, + "learning_rate": 2.88156882146571e-06, + "loss": 0.1284, + "num_input_tokens_seen": 20014920, + "step": 10219 + }, + { + "epoch": 1.3545394300861497, + "grad_norm": 13.477498054504395, + "learning_rate": 2.8812257476143064e-06, + "loss": 0.4959, + "num_input_tokens_seen": 20017280, + "step": 10220 + }, + { + "epoch": 1.3546719681908548, + "grad_norm": 10.210515975952148, + "learning_rate": 2.8808826664126078e-06, + "loss": 0.1693, + "num_input_tokens_seen": 20019120, + "step": 10221 + }, + { + "epoch": 1.35480450629556, + "grad_norm": 2.6398537158966064, + "learning_rate": 2.8805395778672284e-06, + "loss": 0.0227, + "num_input_tokens_seen": 20021016, + "step": 10222 + }, + { + "epoch": 1.354937044400265, + "grad_norm": 3.121579885482788, + "learning_rate": 2.880196481984784e-06, + "loss": 0.0243, + "num_input_tokens_seen": 20022512, + "step": 10223 + }, + { + "epoch": 1.3550695825049701, + "grad_norm": 3.8359482288360596, + "learning_rate": 2.879853378771888e-06, + "loss": 0.045, + "num_input_tokens_seen": 20024920, + "step": 10224 + }, + { + "epoch": 1.3552021206096754, + "grad_norm": 6.265467166900635, + "learning_rate": 2.8795102682351585e-06, + "loss": 0.2113, + "num_input_tokens_seen": 20027256, + "step": 10225 + }, + { + "epoch": 1.3553346587143804, + "grad_norm": 4.263208866119385, + "learning_rate": 2.8791671503812076e-06, + "loss": 0.0941, + "num_input_tokens_seen": 20029512, + "step": 10226 + }, + { + "epoch": 1.3554671968190855, + "grad_norm": 0.9884427785873413, + "learning_rate": 2.878824025216653e-06, + "loss": 0.008, + "num_input_tokens_seen": 20031040, + "step": 10227 + }, + { + "epoch": 1.3555997349237905, + "grad_norm": 1.610509991645813, + "learning_rate": 2.87848089274811e-06, + "loss": 0.0131, + "num_input_tokens_seen": 20032464, + "step": 10228 + }, + { + "epoch": 1.3557322730284957, + "grad_norm": 14.54312801361084, + "learning_rate": 2.878137752982194e-06, + "loss": 0.4424, + "num_input_tokens_seen": 20034872, + "step": 10229 + }, + { + "epoch": 1.3558648111332008, + "grad_norm": 5.1244049072265625, + "learning_rate": 2.877794605925521e-06, + "loss": 0.1085, + "num_input_tokens_seen": 20036952, + "step": 10230 + }, + { + "epoch": 1.3559973492379058, + "grad_norm": 14.133984565734863, + "learning_rate": 2.8774514515847087e-06, + "loss": 0.3746, + "num_input_tokens_seen": 20039408, + "step": 10231 + }, + { + "epoch": 1.356129887342611, + "grad_norm": 0.022026080638170242, + "learning_rate": 2.877108289966371e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20042696, + "step": 10232 + }, + { + "epoch": 1.3562624254473161, + "grad_norm": 0.014277014881372452, + "learning_rate": 2.8767651210771255e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20044264, + "step": 10233 + }, + { + "epoch": 1.3563949635520212, + "grad_norm": 12.550745010375977, + "learning_rate": 2.876421944923588e-06, + "loss": 0.2026, + "num_input_tokens_seen": 20046000, + "step": 10234 + }, + { + "epoch": 1.3565275016567262, + "grad_norm": 0.06669106334447861, + "learning_rate": 2.8760787615123764e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20048168, + "step": 10235 + }, + { + "epoch": 1.3566600397614315, + "grad_norm": 6.550791263580322, + "learning_rate": 2.8757355708501067e-06, + "loss": 0.099, + "num_input_tokens_seen": 20050192, + "step": 10236 + }, + { + "epoch": 1.3567925778661365, + "grad_norm": 4.426619529724121, + "learning_rate": 2.8753923729433964e-06, + "loss": 0.1262, + "num_input_tokens_seen": 20051984, + "step": 10237 + }, + { + "epoch": 1.3569251159708418, + "grad_norm": 10.63064193725586, + "learning_rate": 2.875049167798861e-06, + "loss": 0.2175, + "num_input_tokens_seen": 20054096, + "step": 10238 + }, + { + "epoch": 1.3570576540755468, + "grad_norm": 13.080416679382324, + "learning_rate": 2.87470595542312e-06, + "loss": 0.3272, + "num_input_tokens_seen": 20056288, + "step": 10239 + }, + { + "epoch": 1.3571901921802518, + "grad_norm": 0.38462960720062256, + "learning_rate": 2.874362735822789e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20058112, + "step": 10240 + }, + { + "epoch": 1.3573227302849569, + "grad_norm": 0.2194252461194992, + "learning_rate": 2.874019509004487e-06, + "loss": 0.0012, + "num_input_tokens_seen": 20059712, + "step": 10241 + }, + { + "epoch": 1.357455268389662, + "grad_norm": 4.273165225982666, + "learning_rate": 2.8736762749748305e-06, + "loss": 0.085, + "num_input_tokens_seen": 20061400, + "step": 10242 + }, + { + "epoch": 1.3575878064943672, + "grad_norm": 0.3740423023700714, + "learning_rate": 2.8733330337404376e-06, + "loss": 0.0017, + "num_input_tokens_seen": 20063776, + "step": 10243 + }, + { + "epoch": 1.3577203445990722, + "grad_norm": 1.5675824880599976, + "learning_rate": 2.8729897853079257e-06, + "loss": 0.016, + "num_input_tokens_seen": 20065576, + "step": 10244 + }, + { + "epoch": 1.3578528827037775, + "grad_norm": 6.7635016441345215, + "learning_rate": 2.872646529683914e-06, + "loss": 0.1116, + "num_input_tokens_seen": 20067072, + "step": 10245 + }, + { + "epoch": 1.3579854208084825, + "grad_norm": 4.161694049835205, + "learning_rate": 2.8723032668750204e-06, + "loss": 0.0461, + "num_input_tokens_seen": 20068392, + "step": 10246 + }, + { + "epoch": 1.3581179589131875, + "grad_norm": 0.04506103694438934, + "learning_rate": 2.871959996887862e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20069672, + "step": 10247 + }, + { + "epoch": 1.3582504970178926, + "grad_norm": 4.090624809265137, + "learning_rate": 2.871616719729059e-06, + "loss": 0.0897, + "num_input_tokens_seen": 20071552, + "step": 10248 + }, + { + "epoch": 1.3583830351225976, + "grad_norm": 4.394562721252441, + "learning_rate": 2.8712734354052293e-06, + "loss": 0.0511, + "num_input_tokens_seen": 20073520, + "step": 10249 + }, + { + "epoch": 1.3585155732273029, + "grad_norm": 5.162529468536377, + "learning_rate": 2.8709301439229916e-06, + "loss": 0.0462, + "num_input_tokens_seen": 20075128, + "step": 10250 + }, + { + "epoch": 1.358648111332008, + "grad_norm": 2.5445590019226074, + "learning_rate": 2.8705868452889646e-06, + "loss": 0.085, + "num_input_tokens_seen": 20076856, + "step": 10251 + }, + { + "epoch": 1.3587806494367132, + "grad_norm": 3.473867654800415, + "learning_rate": 2.870243539509768e-06, + "loss": 0.0978, + "num_input_tokens_seen": 20078312, + "step": 10252 + }, + { + "epoch": 1.3589131875414182, + "grad_norm": 11.80223274230957, + "learning_rate": 2.8699002265920193e-06, + "loss": 0.2638, + "num_input_tokens_seen": 20080264, + "step": 10253 + }, + { + "epoch": 1.3590457256461232, + "grad_norm": 0.14455585181713104, + "learning_rate": 2.86955690654234e-06, + "loss": 0.001, + "num_input_tokens_seen": 20081824, + "step": 10254 + }, + { + "epoch": 1.3591782637508283, + "grad_norm": 0.05246931314468384, + "learning_rate": 2.869213579367349e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20083376, + "step": 10255 + }, + { + "epoch": 1.3593108018555335, + "grad_norm": 1.6229512691497803, + "learning_rate": 2.868870245073665e-06, + "loss": 0.0123, + "num_input_tokens_seen": 20084744, + "step": 10256 + }, + { + "epoch": 1.3594433399602386, + "grad_norm": 7.217762470245361, + "learning_rate": 2.868526903667908e-06, + "loss": 0.1523, + "num_input_tokens_seen": 20086712, + "step": 10257 + }, + { + "epoch": 1.3595758780649436, + "grad_norm": 3.4183149337768555, + "learning_rate": 2.868183555156699e-06, + "loss": 0.0325, + "num_input_tokens_seen": 20088192, + "step": 10258 + }, + { + "epoch": 1.3597084161696489, + "grad_norm": 11.224275588989258, + "learning_rate": 2.867840199546656e-06, + "loss": 0.1021, + "num_input_tokens_seen": 20090112, + "step": 10259 + }, + { + "epoch": 1.359840954274354, + "grad_norm": 5.306778907775879, + "learning_rate": 2.8674968368444004e-06, + "loss": 0.132, + "num_input_tokens_seen": 20091904, + "step": 10260 + }, + { + "epoch": 1.359973492379059, + "grad_norm": 2.3273115158081055, + "learning_rate": 2.867153467056553e-06, + "loss": 0.0155, + "num_input_tokens_seen": 20093648, + "step": 10261 + }, + { + "epoch": 1.360106030483764, + "grad_norm": 5.035145282745361, + "learning_rate": 2.866810090189732e-06, + "loss": 0.1099, + "num_input_tokens_seen": 20095864, + "step": 10262 + }, + { + "epoch": 1.3602385685884693, + "grad_norm": 6.717398166656494, + "learning_rate": 2.866466706250561e-06, + "loss": 0.1171, + "num_input_tokens_seen": 20098552, + "step": 10263 + }, + { + "epoch": 1.3603711066931743, + "grad_norm": 5.512709140777588, + "learning_rate": 2.8661233152456586e-06, + "loss": 0.0603, + "num_input_tokens_seen": 20100304, + "step": 10264 + }, + { + "epoch": 1.3605036447978793, + "grad_norm": 0.025621457025408745, + "learning_rate": 2.8657799171816454e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20101304, + "step": 10265 + }, + { + "epoch": 1.3606361829025846, + "grad_norm": 2.1676132678985596, + "learning_rate": 2.865436512065144e-06, + "loss": 0.0379, + "num_input_tokens_seen": 20103344, + "step": 10266 + }, + { + "epoch": 1.3607687210072896, + "grad_norm": 0.12138326466083527, + "learning_rate": 2.8650930999027736e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20104968, + "step": 10267 + }, + { + "epoch": 1.3609012591119947, + "grad_norm": 6.712257385253906, + "learning_rate": 2.864749680701157e-06, + "loss": 0.1843, + "num_input_tokens_seen": 20106112, + "step": 10268 + }, + { + "epoch": 1.3610337972166997, + "grad_norm": 4.170565128326416, + "learning_rate": 2.8644062544669147e-06, + "loss": 0.0701, + "num_input_tokens_seen": 20107552, + "step": 10269 + }, + { + "epoch": 1.361166335321405, + "grad_norm": 10.114723205566406, + "learning_rate": 2.864062821206669e-06, + "loss": 0.3739, + "num_input_tokens_seen": 20109184, + "step": 10270 + }, + { + "epoch": 1.36129887342611, + "grad_norm": 12.09151840209961, + "learning_rate": 2.86371938092704e-06, + "loss": 0.2708, + "num_input_tokens_seen": 20112032, + "step": 10271 + }, + { + "epoch": 1.361431411530815, + "grad_norm": 7.512026786804199, + "learning_rate": 2.8633759336346515e-06, + "loss": 0.1339, + "num_input_tokens_seen": 20115056, + "step": 10272 + }, + { + "epoch": 1.3615639496355203, + "grad_norm": 6.696202278137207, + "learning_rate": 2.8630324793361236e-06, + "loss": 0.1857, + "num_input_tokens_seen": 20117688, + "step": 10273 + }, + { + "epoch": 1.3616964877402253, + "grad_norm": 7.93437385559082, + "learning_rate": 2.862689018038079e-06, + "loss": 0.1602, + "num_input_tokens_seen": 20119112, + "step": 10274 + }, + { + "epoch": 1.3618290258449304, + "grad_norm": 0.15057912468910217, + "learning_rate": 2.86234554974714e-06, + "loss": 0.0022, + "num_input_tokens_seen": 20120848, + "step": 10275 + }, + { + "epoch": 1.3619615639496354, + "grad_norm": 0.11671590059995651, + "learning_rate": 2.8620020744699296e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20122192, + "step": 10276 + }, + { + "epoch": 1.3620941020543407, + "grad_norm": 1.5508573055267334, + "learning_rate": 2.8616585922130684e-06, + "loss": 0.0122, + "num_input_tokens_seen": 20123816, + "step": 10277 + }, + { + "epoch": 1.3622266401590457, + "grad_norm": 2.985682964324951, + "learning_rate": 2.8613151029831803e-06, + "loss": 0.0183, + "num_input_tokens_seen": 20125768, + "step": 10278 + }, + { + "epoch": 1.3623591782637507, + "grad_norm": 0.6363770365715027, + "learning_rate": 2.860971606786888e-06, + "loss": 0.0041, + "num_input_tokens_seen": 20127816, + "step": 10279 + }, + { + "epoch": 1.362491716368456, + "grad_norm": 2.284545660018921, + "learning_rate": 2.8606281036308136e-06, + "loss": 0.0328, + "num_input_tokens_seen": 20128968, + "step": 10280 + }, + { + "epoch": 1.362624254473161, + "grad_norm": 4.79076623916626, + "learning_rate": 2.860284593521581e-06, + "loss": 0.0576, + "num_input_tokens_seen": 20130584, + "step": 10281 + }, + { + "epoch": 1.362756792577866, + "grad_norm": 0.6736502647399902, + "learning_rate": 2.8599410764658138e-06, + "loss": 0.0042, + "num_input_tokens_seen": 20131984, + "step": 10282 + }, + { + "epoch": 1.3628893306825711, + "grad_norm": 1.1504400968551636, + "learning_rate": 2.8595975524701326e-06, + "loss": 0.0077, + "num_input_tokens_seen": 20133944, + "step": 10283 + }, + { + "epoch": 1.3630218687872764, + "grad_norm": 0.2669570744037628, + "learning_rate": 2.8592540215411637e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20135000, + "step": 10284 + }, + { + "epoch": 1.3631544068919814, + "grad_norm": 3.761084794998169, + "learning_rate": 2.85891048368553e-06, + "loss": 0.0168, + "num_input_tokens_seen": 20138040, + "step": 10285 + }, + { + "epoch": 1.3632869449966867, + "grad_norm": 5.310940742492676, + "learning_rate": 2.8585669389098525e-06, + "loss": 0.0231, + "num_input_tokens_seen": 20140312, + "step": 10286 + }, + { + "epoch": 1.3634194831013917, + "grad_norm": 22.121137619018555, + "learning_rate": 2.858223387220758e-06, + "loss": 0.1966, + "num_input_tokens_seen": 20141520, + "step": 10287 + }, + { + "epoch": 1.3635520212060968, + "grad_norm": 0.9412453174591064, + "learning_rate": 2.85787982862487e-06, + "loss": 0.0053, + "num_input_tokens_seen": 20143240, + "step": 10288 + }, + { + "epoch": 1.3636845593108018, + "grad_norm": 16.68670082092285, + "learning_rate": 2.857536263128812e-06, + "loss": 0.402, + "num_input_tokens_seen": 20145456, + "step": 10289 + }, + { + "epoch": 1.3638170974155068, + "grad_norm": 9.812102317810059, + "learning_rate": 2.8571926907392077e-06, + "loss": 0.1274, + "num_input_tokens_seen": 20147752, + "step": 10290 + }, + { + "epoch": 1.363949635520212, + "grad_norm": 1.9744746685028076, + "learning_rate": 2.856849111462682e-06, + "loss": 0.0121, + "num_input_tokens_seen": 20149424, + "step": 10291 + }, + { + "epoch": 1.3640821736249171, + "grad_norm": 7.101957321166992, + "learning_rate": 2.8565055253058595e-06, + "loss": 0.1704, + "num_input_tokens_seen": 20151376, + "step": 10292 + }, + { + "epoch": 1.3642147117296224, + "grad_norm": 10.328837394714355, + "learning_rate": 2.8561619322753635e-06, + "loss": 0.151, + "num_input_tokens_seen": 20153816, + "step": 10293 + }, + { + "epoch": 1.3643472498343274, + "grad_norm": 8.471162796020508, + "learning_rate": 2.855818332377821e-06, + "loss": 0.0582, + "num_input_tokens_seen": 20155968, + "step": 10294 + }, + { + "epoch": 1.3644797879390325, + "grad_norm": 5.953080177307129, + "learning_rate": 2.8554747256198555e-06, + "loss": 0.0525, + "num_input_tokens_seen": 20157768, + "step": 10295 + }, + { + "epoch": 1.3646123260437375, + "grad_norm": 0.03656305745244026, + "learning_rate": 2.8551311120080915e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20159520, + "step": 10296 + }, + { + "epoch": 1.3647448641484428, + "grad_norm": 0.029501622542738914, + "learning_rate": 2.8547874915491554e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20160872, + "step": 10297 + }, + { + "epoch": 1.3648774022531478, + "grad_norm": 0.943374752998352, + "learning_rate": 2.85444386424967e-06, + "loss": 0.0054, + "num_input_tokens_seen": 20162976, + "step": 10298 + }, + { + "epoch": 1.3650099403578528, + "grad_norm": 2.241506576538086, + "learning_rate": 2.8541002301162647e-06, + "loss": 0.0201, + "num_input_tokens_seen": 20164552, + "step": 10299 + }, + { + "epoch": 1.365142478462558, + "grad_norm": 12.566509246826172, + "learning_rate": 2.8537565891555615e-06, + "loss": 0.414, + "num_input_tokens_seen": 20166928, + "step": 10300 + }, + { + "epoch": 1.3652750165672631, + "grad_norm": 8.582292556762695, + "learning_rate": 2.853412941374187e-06, + "loss": 0.1756, + "num_input_tokens_seen": 20168936, + "step": 10301 + }, + { + "epoch": 1.3654075546719682, + "grad_norm": 2.428239107131958, + "learning_rate": 2.853069286778768e-06, + "loss": 0.0069, + "num_input_tokens_seen": 20171320, + "step": 10302 + }, + { + "epoch": 1.3655400927766732, + "grad_norm": 15.82681941986084, + "learning_rate": 2.8527256253759284e-06, + "loss": 0.3676, + "num_input_tokens_seen": 20173088, + "step": 10303 + }, + { + "epoch": 1.3656726308813785, + "grad_norm": 0.0718628391623497, + "learning_rate": 2.852381957172296e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20176328, + "step": 10304 + }, + { + "epoch": 1.3658051689860835, + "grad_norm": 5.051784515380859, + "learning_rate": 2.852038282174497e-06, + "loss": 0.0263, + "num_input_tokens_seen": 20178168, + "step": 10305 + }, + { + "epoch": 1.3659377070907885, + "grad_norm": 0.08920305222272873, + "learning_rate": 2.8516946003891566e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20180504, + "step": 10306 + }, + { + "epoch": 1.3660702451954938, + "grad_norm": 8.767950057983398, + "learning_rate": 2.851350911822901e-06, + "loss": 0.2199, + "num_input_tokens_seen": 20182944, + "step": 10307 + }, + { + "epoch": 1.3662027833001988, + "grad_norm": 2.9058895111083984, + "learning_rate": 2.851007216482359e-06, + "loss": 0.0114, + "num_input_tokens_seen": 20185000, + "step": 10308 + }, + { + "epoch": 1.3663353214049039, + "grad_norm": 6.984080791473389, + "learning_rate": 2.850663514374154e-06, + "loss": 0.1136, + "num_input_tokens_seen": 20186944, + "step": 10309 + }, + { + "epoch": 1.366467859509609, + "grad_norm": 9.4683256149292, + "learning_rate": 2.8503198055049153e-06, + "loss": 0.104, + "num_input_tokens_seen": 20188608, + "step": 10310 + }, + { + "epoch": 1.3666003976143142, + "grad_norm": 10.349664688110352, + "learning_rate": 2.849976089881269e-06, + "loss": 0.1551, + "num_input_tokens_seen": 20190016, + "step": 10311 + }, + { + "epoch": 1.3667329357190192, + "grad_norm": 1.6757444143295288, + "learning_rate": 2.8496323675098427e-06, + "loss": 0.0103, + "num_input_tokens_seen": 20191664, + "step": 10312 + }, + { + "epoch": 1.3668654738237243, + "grad_norm": 0.00777265802025795, + "learning_rate": 2.8492886383972623e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20192840, + "step": 10313 + }, + { + "epoch": 1.3669980119284295, + "grad_norm": 6.374345779418945, + "learning_rate": 2.8489449025501564e-06, + "loss": 0.1638, + "num_input_tokens_seen": 20194288, + "step": 10314 + }, + { + "epoch": 1.3671305500331346, + "grad_norm": 0.0755545124411583, + "learning_rate": 2.8486011599751516e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20195888, + "step": 10315 + }, + { + "epoch": 1.3672630881378396, + "grad_norm": 0.42357337474823, + "learning_rate": 2.848257410678877e-06, + "loss": 0.0038, + "num_input_tokens_seen": 20197672, + "step": 10316 + }, + { + "epoch": 1.3673956262425446, + "grad_norm": 6.133724689483643, + "learning_rate": 2.847913654667959e-06, + "loss": 0.0958, + "num_input_tokens_seen": 20199616, + "step": 10317 + }, + { + "epoch": 1.3675281643472499, + "grad_norm": 8.292734146118164, + "learning_rate": 2.8475698919490252e-06, + "loss": 0.1518, + "num_input_tokens_seen": 20202296, + "step": 10318 + }, + { + "epoch": 1.367660702451955, + "grad_norm": 3.567265272140503, + "learning_rate": 2.847226122528704e-06, + "loss": 0.0831, + "num_input_tokens_seen": 20204152, + "step": 10319 + }, + { + "epoch": 1.36779324055666, + "grad_norm": 3.355271339416504, + "learning_rate": 2.8468823464136247e-06, + "loss": 0.1029, + "num_input_tokens_seen": 20205176, + "step": 10320 + }, + { + "epoch": 1.3679257786613652, + "grad_norm": 0.9234265685081482, + "learning_rate": 2.846538563610413e-06, + "loss": 0.004, + "num_input_tokens_seen": 20206832, + "step": 10321 + }, + { + "epoch": 1.3680583167660703, + "grad_norm": 0.3051629066467285, + "learning_rate": 2.8461947741256995e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20208704, + "step": 10322 + }, + { + "epoch": 1.3681908548707753, + "grad_norm": 14.910869598388672, + "learning_rate": 2.8458509779661127e-06, + "loss": 0.2117, + "num_input_tokens_seen": 20210728, + "step": 10323 + }, + { + "epoch": 1.3683233929754803, + "grad_norm": 8.039057731628418, + "learning_rate": 2.845507175138279e-06, + "loss": 0.2379, + "num_input_tokens_seen": 20213392, + "step": 10324 + }, + { + "epoch": 1.3684559310801856, + "grad_norm": 0.037988003343343735, + "learning_rate": 2.8451633656488292e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20215456, + "step": 10325 + }, + { + "epoch": 1.3685884691848906, + "grad_norm": 7.742657661437988, + "learning_rate": 2.8448195495043924e-06, + "loss": 0.102, + "num_input_tokens_seen": 20217792, + "step": 10326 + }, + { + "epoch": 1.368721007289596, + "grad_norm": 4.368834972381592, + "learning_rate": 2.844475726711595e-06, + "loss": 0.0826, + "num_input_tokens_seen": 20219568, + "step": 10327 + }, + { + "epoch": 1.368853545394301, + "grad_norm": 7.590453624725342, + "learning_rate": 2.844131897277069e-06, + "loss": 0.1541, + "num_input_tokens_seen": 20221040, + "step": 10328 + }, + { + "epoch": 1.368986083499006, + "grad_norm": 3.8208529949188232, + "learning_rate": 2.843788061207444e-06, + "loss": 0.0478, + "num_input_tokens_seen": 20222896, + "step": 10329 + }, + { + "epoch": 1.369118621603711, + "grad_norm": 0.543812096118927, + "learning_rate": 2.8434442185093453e-06, + "loss": 0.0039, + "num_input_tokens_seen": 20224576, + "step": 10330 + }, + { + "epoch": 1.369251159708416, + "grad_norm": 3.001206874847412, + "learning_rate": 2.843100369189407e-06, + "loss": 0.0813, + "num_input_tokens_seen": 20226528, + "step": 10331 + }, + { + "epoch": 1.3693836978131213, + "grad_norm": 0.16421914100646973, + "learning_rate": 2.8427565132542562e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20228864, + "step": 10332 + }, + { + "epoch": 1.3695162359178263, + "grad_norm": 8.166908264160156, + "learning_rate": 2.842412650710523e-06, + "loss": 0.1447, + "num_input_tokens_seen": 20230992, + "step": 10333 + }, + { + "epoch": 1.3696487740225316, + "grad_norm": 5.81083345413208, + "learning_rate": 2.842068781564839e-06, + "loss": 0.2562, + "num_input_tokens_seen": 20233384, + "step": 10334 + }, + { + "epoch": 1.3697813121272366, + "grad_norm": 0.9662743210792542, + "learning_rate": 2.841724905823832e-06, + "loss": 0.0092, + "num_input_tokens_seen": 20235328, + "step": 10335 + }, + { + "epoch": 1.3699138502319417, + "grad_norm": 17.670150756835938, + "learning_rate": 2.841381023494133e-06, + "loss": 0.4182, + "num_input_tokens_seen": 20236992, + "step": 10336 + }, + { + "epoch": 1.3700463883366467, + "grad_norm": 0.040695711970329285, + "learning_rate": 2.8410371345823722e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20238904, + "step": 10337 + }, + { + "epoch": 1.3701789264413518, + "grad_norm": 0.2721966803073883, + "learning_rate": 2.8406932390951814e-06, + "loss": 0.0014, + "num_input_tokens_seen": 20240208, + "step": 10338 + }, + { + "epoch": 1.370311464546057, + "grad_norm": 18.994857788085938, + "learning_rate": 2.8403493370391887e-06, + "loss": 0.3366, + "num_input_tokens_seen": 20242352, + "step": 10339 + }, + { + "epoch": 1.370444002650762, + "grad_norm": 0.026472801342606544, + "learning_rate": 2.840005428421026e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20243912, + "step": 10340 + }, + { + "epoch": 1.3705765407554673, + "grad_norm": 0.19931645691394806, + "learning_rate": 2.839661513247325e-06, + "loss": 0.0011, + "num_input_tokens_seen": 20245736, + "step": 10341 + }, + { + "epoch": 1.3707090788601723, + "grad_norm": 0.023659413680434227, + "learning_rate": 2.839317591524715e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20247456, + "step": 10342 + }, + { + "epoch": 1.3708416169648774, + "grad_norm": 6.474206447601318, + "learning_rate": 2.8389736632598275e-06, + "loss": 0.1612, + "num_input_tokens_seen": 20249440, + "step": 10343 + }, + { + "epoch": 1.3709741550695824, + "grad_norm": 0.013446916826069355, + "learning_rate": 2.8386297284592944e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20250824, + "step": 10344 + }, + { + "epoch": 1.3711066931742877, + "grad_norm": 14.753133773803711, + "learning_rate": 2.8382857871297458e-06, + "loss": 0.2521, + "num_input_tokens_seen": 20252976, + "step": 10345 + }, + { + "epoch": 1.3712392312789927, + "grad_norm": 4.31685733795166, + "learning_rate": 2.837941839277815e-06, + "loss": 0.0875, + "num_input_tokens_seen": 20254864, + "step": 10346 + }, + { + "epoch": 1.3713717693836978, + "grad_norm": 5.400439262390137, + "learning_rate": 2.8375978849101328e-06, + "loss": 0.1157, + "num_input_tokens_seen": 20256376, + "step": 10347 + }, + { + "epoch": 1.371504307488403, + "grad_norm": 7.819105625152588, + "learning_rate": 2.8372539240333287e-06, + "loss": 0.2554, + "num_input_tokens_seen": 20258000, + "step": 10348 + }, + { + "epoch": 1.371636845593108, + "grad_norm": 11.385879516601562, + "learning_rate": 2.836909956654037e-06, + "loss": 0.2496, + "num_input_tokens_seen": 20259896, + "step": 10349 + }, + { + "epoch": 1.371769383697813, + "grad_norm": 0.12775881588459015, + "learning_rate": 2.8365659827788893e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20262352, + "step": 10350 + }, + { + "epoch": 1.3719019218025181, + "grad_norm": 8.935964584350586, + "learning_rate": 2.8362220024145164e-06, + "loss": 0.1398, + "num_input_tokens_seen": 20264624, + "step": 10351 + }, + { + "epoch": 1.3720344599072234, + "grad_norm": 14.91470718383789, + "learning_rate": 2.8358780155675525e-06, + "loss": 0.3691, + "num_input_tokens_seen": 20266120, + "step": 10352 + }, + { + "epoch": 1.3721669980119284, + "grad_norm": 3.048900604248047, + "learning_rate": 2.835534022244628e-06, + "loss": 0.0316, + "num_input_tokens_seen": 20267808, + "step": 10353 + }, + { + "epoch": 1.3722995361166335, + "grad_norm": 0.12697701156139374, + "learning_rate": 2.8351900224523766e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20269184, + "step": 10354 + }, + { + "epoch": 1.3724320742213387, + "grad_norm": 0.09627808630466461, + "learning_rate": 2.8348460161974294e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20271632, + "step": 10355 + }, + { + "epoch": 1.3725646123260438, + "grad_norm": 3.2159152030944824, + "learning_rate": 2.8345020034864213e-06, + "loss": 0.0407, + "num_input_tokens_seen": 20273248, + "step": 10356 + }, + { + "epoch": 1.3726971504307488, + "grad_norm": 1.2430331707000732, + "learning_rate": 2.834157984325983e-06, + "loss": 0.0038, + "num_input_tokens_seen": 20274544, + "step": 10357 + }, + { + "epoch": 1.3728296885354538, + "grad_norm": 8.720396995544434, + "learning_rate": 2.833813958722748e-06, + "loss": 0.1205, + "num_input_tokens_seen": 20276720, + "step": 10358 + }, + { + "epoch": 1.372962226640159, + "grad_norm": 9.535908699035645, + "learning_rate": 2.83346992668335e-06, + "loss": 0.2483, + "num_input_tokens_seen": 20279160, + "step": 10359 + }, + { + "epoch": 1.3730947647448641, + "grad_norm": 11.56834888458252, + "learning_rate": 2.833125888214422e-06, + "loss": 0.1703, + "num_input_tokens_seen": 20281112, + "step": 10360 + }, + { + "epoch": 1.3732273028495692, + "grad_norm": 7.1938982009887695, + "learning_rate": 2.832781843322597e-06, + "loss": 0.0781, + "num_input_tokens_seen": 20283200, + "step": 10361 + }, + { + "epoch": 1.3733598409542744, + "grad_norm": 8.007373809814453, + "learning_rate": 2.8324377920145085e-06, + "loss": 0.25, + "num_input_tokens_seen": 20285104, + "step": 10362 + }, + { + "epoch": 1.3734923790589795, + "grad_norm": 20.793052673339844, + "learning_rate": 2.8320937342967892e-06, + "loss": 0.6114, + "num_input_tokens_seen": 20287552, + "step": 10363 + }, + { + "epoch": 1.3736249171636845, + "grad_norm": 8.44959831237793, + "learning_rate": 2.8317496701760743e-06, + "loss": 0.1284, + "num_input_tokens_seen": 20289304, + "step": 10364 + }, + { + "epoch": 1.3737574552683895, + "grad_norm": 6.841488838195801, + "learning_rate": 2.8314055996589973e-06, + "loss": 0.0395, + "num_input_tokens_seen": 20291360, + "step": 10365 + }, + { + "epoch": 1.3738899933730948, + "grad_norm": 5.396323204040527, + "learning_rate": 2.831061522752191e-06, + "loss": 0.1209, + "num_input_tokens_seen": 20293432, + "step": 10366 + }, + { + "epoch": 1.3740225314777998, + "grad_norm": 5.499234676361084, + "learning_rate": 2.8307174394622904e-06, + "loss": 0.0999, + "num_input_tokens_seen": 20295392, + "step": 10367 + }, + { + "epoch": 1.374155069582505, + "grad_norm": 0.12524831295013428, + "learning_rate": 2.8303733497959296e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20297832, + "step": 10368 + }, + { + "epoch": 1.3742876076872101, + "grad_norm": 1.9644845724105835, + "learning_rate": 2.8300292537597417e-06, + "loss": 0.0161, + "num_input_tokens_seen": 20300736, + "step": 10369 + }, + { + "epoch": 1.3744201457919152, + "grad_norm": 0.7431864738464355, + "learning_rate": 2.8296851513603636e-06, + "loss": 0.0017, + "num_input_tokens_seen": 20302400, + "step": 10370 + }, + { + "epoch": 1.3745526838966202, + "grad_norm": 0.12795034050941467, + "learning_rate": 2.8293410426044276e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20305808, + "step": 10371 + }, + { + "epoch": 1.3746852220013253, + "grad_norm": 10.205643653869629, + "learning_rate": 2.828996927498569e-06, + "loss": 0.1156, + "num_input_tokens_seen": 20307616, + "step": 10372 + }, + { + "epoch": 1.3748177601060305, + "grad_norm": 10.105992317199707, + "learning_rate": 2.8286528060494233e-06, + "loss": 0.2117, + "num_input_tokens_seen": 20309696, + "step": 10373 + }, + { + "epoch": 1.3749502982107356, + "grad_norm": 2.8062946796417236, + "learning_rate": 2.828308678263624e-06, + "loss": 0.0946, + "num_input_tokens_seen": 20313200, + "step": 10374 + }, + { + "epoch": 1.3750828363154408, + "grad_norm": 3.965085029602051, + "learning_rate": 2.8279645441478072e-06, + "loss": 0.0568, + "num_input_tokens_seen": 20315184, + "step": 10375 + }, + { + "epoch": 1.3752153744201459, + "grad_norm": 4.602263450622559, + "learning_rate": 2.8276204037086073e-06, + "loss": 0.065, + "num_input_tokens_seen": 20317344, + "step": 10376 + }, + { + "epoch": 1.375347912524851, + "grad_norm": 8.008227348327637, + "learning_rate": 2.827276256952661e-06, + "loss": 0.2021, + "num_input_tokens_seen": 20318992, + "step": 10377 + }, + { + "epoch": 1.375480450629556, + "grad_norm": 11.01041316986084, + "learning_rate": 2.826932103886602e-06, + "loss": 0.3012, + "num_input_tokens_seen": 20321840, + "step": 10378 + }, + { + "epoch": 1.375612988734261, + "grad_norm": 6.367805004119873, + "learning_rate": 2.8265879445170662e-06, + "loss": 0.1274, + "num_input_tokens_seen": 20324056, + "step": 10379 + }, + { + "epoch": 1.3757455268389662, + "grad_norm": 2.3177542686462402, + "learning_rate": 2.8262437788506904e-06, + "loss": 0.006, + "num_input_tokens_seen": 20326784, + "step": 10380 + }, + { + "epoch": 1.3758780649436713, + "grad_norm": 0.3130215108394623, + "learning_rate": 2.8258996068941085e-06, + "loss": 0.002, + "num_input_tokens_seen": 20328448, + "step": 10381 + }, + { + "epoch": 1.3760106030483765, + "grad_norm": 4.384000301361084, + "learning_rate": 2.8255554286539583e-06, + "loss": 0.0388, + "num_input_tokens_seen": 20330384, + "step": 10382 + }, + { + "epoch": 1.3761431411530816, + "grad_norm": 12.097065925598145, + "learning_rate": 2.8252112441368744e-06, + "loss": 0.2576, + "num_input_tokens_seen": 20331960, + "step": 10383 + }, + { + "epoch": 1.3762756792577866, + "grad_norm": 10.108831405639648, + "learning_rate": 2.824867053349493e-06, + "loss": 0.285, + "num_input_tokens_seen": 20334048, + "step": 10384 + }, + { + "epoch": 1.3764082173624916, + "grad_norm": 0.09586158394813538, + "learning_rate": 2.8245228562984518e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20336216, + "step": 10385 + }, + { + "epoch": 1.376540755467197, + "grad_norm": 8.426509857177734, + "learning_rate": 2.8241786529903853e-06, + "loss": 0.2734, + "num_input_tokens_seen": 20338056, + "step": 10386 + }, + { + "epoch": 1.376673293571902, + "grad_norm": 12.111716270446777, + "learning_rate": 2.8238344434319306e-06, + "loss": 0.1966, + "num_input_tokens_seen": 20339960, + "step": 10387 + }, + { + "epoch": 1.376805831676607, + "grad_norm": 9.422719955444336, + "learning_rate": 2.823490227629725e-06, + "loss": 0.056, + "num_input_tokens_seen": 20341808, + "step": 10388 + }, + { + "epoch": 1.3769383697813122, + "grad_norm": 0.0920829102396965, + "learning_rate": 2.823146005590404e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20343848, + "step": 10389 + }, + { + "epoch": 1.3770709078860173, + "grad_norm": 12.219758033752441, + "learning_rate": 2.8228017773206052e-06, + "loss": 0.1352, + "num_input_tokens_seen": 20345472, + "step": 10390 + }, + { + "epoch": 1.3772034459907223, + "grad_norm": 6.981125354766846, + "learning_rate": 2.8224575428269663e-06, + "loss": 0.1797, + "num_input_tokens_seen": 20347760, + "step": 10391 + }, + { + "epoch": 1.3773359840954273, + "grad_norm": 2.835998296737671, + "learning_rate": 2.8221133021161225e-06, + "loss": 0.0303, + "num_input_tokens_seen": 20350008, + "step": 10392 + }, + { + "epoch": 1.3774685222001326, + "grad_norm": 0.34046420454978943, + "learning_rate": 2.821769055194712e-06, + "loss": 0.0026, + "num_input_tokens_seen": 20351576, + "step": 10393 + }, + { + "epoch": 1.3776010603048376, + "grad_norm": 0.14385081827640533, + "learning_rate": 2.8214248020693726e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20352944, + "step": 10394 + }, + { + "epoch": 1.3777335984095427, + "grad_norm": 1.46402108669281, + "learning_rate": 2.8210805427467408e-06, + "loss": 0.0086, + "num_input_tokens_seen": 20355936, + "step": 10395 + }, + { + "epoch": 1.377866136514248, + "grad_norm": 9.110713005065918, + "learning_rate": 2.820736277233455e-06, + "loss": 0.1026, + "num_input_tokens_seen": 20357960, + "step": 10396 + }, + { + "epoch": 1.377998674618953, + "grad_norm": 0.09277038276195526, + "learning_rate": 2.8203920055361526e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20361016, + "step": 10397 + }, + { + "epoch": 1.378131212723658, + "grad_norm": 15.511788368225098, + "learning_rate": 2.8200477276614714e-06, + "loss": 0.1336, + "num_input_tokens_seen": 20362536, + "step": 10398 + }, + { + "epoch": 1.378263750828363, + "grad_norm": 9.558394432067871, + "learning_rate": 2.8197034436160494e-06, + "loss": 0.169, + "num_input_tokens_seen": 20364296, + "step": 10399 + }, + { + "epoch": 1.3783962889330683, + "grad_norm": 0.20659379661083221, + "learning_rate": 2.8193591534065233e-06, + "loss": 0.0015, + "num_input_tokens_seen": 20365600, + "step": 10400 + }, + { + "epoch": 1.3785288270377734, + "grad_norm": 0.09778586775064468, + "learning_rate": 2.819014857039533e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20367480, + "step": 10401 + }, + { + "epoch": 1.3786613651424784, + "grad_norm": 0.20377711951732635, + "learning_rate": 2.8186705545217163e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20369072, + "step": 10402 + }, + { + "epoch": 1.3787939032471836, + "grad_norm": 0.22968515753746033, + "learning_rate": 2.818326245859712e-06, + "loss": 0.0011, + "num_input_tokens_seen": 20370496, + "step": 10403 + }, + { + "epoch": 1.3789264413518887, + "grad_norm": 1.510170578956604, + "learning_rate": 2.8179819310601573e-06, + "loss": 0.0086, + "num_input_tokens_seen": 20372352, + "step": 10404 + }, + { + "epoch": 1.3790589794565937, + "grad_norm": 0.6657647490501404, + "learning_rate": 2.817637610129692e-06, + "loss": 0.0036, + "num_input_tokens_seen": 20374136, + "step": 10405 + }, + { + "epoch": 1.3791915175612988, + "grad_norm": 0.04369795322418213, + "learning_rate": 2.8172932830749548e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20375720, + "step": 10406 + }, + { + "epoch": 1.379324055666004, + "grad_norm": 5.477841854095459, + "learning_rate": 2.816948949902583e-06, + "loss": 0.0801, + "num_input_tokens_seen": 20378448, + "step": 10407 + }, + { + "epoch": 1.379456593770709, + "grad_norm": 3.954936981201172, + "learning_rate": 2.8166046106192178e-06, + "loss": 0.066, + "num_input_tokens_seen": 20380944, + "step": 10408 + }, + { + "epoch": 1.379589131875414, + "grad_norm": 0.27908411622047424, + "learning_rate": 2.816260265231498e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20382280, + "step": 10409 + }, + { + "epoch": 1.3797216699801194, + "grad_norm": 0.03562706336379051, + "learning_rate": 2.8159159137460603e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20384168, + "step": 10410 + }, + { + "epoch": 1.3798542080848244, + "grad_norm": 0.389545202255249, + "learning_rate": 2.8155715561695467e-06, + "loss": 0.0013, + "num_input_tokens_seen": 20386056, + "step": 10411 + }, + { + "epoch": 1.3799867461895294, + "grad_norm": 8.96086597442627, + "learning_rate": 2.815227192508596e-06, + "loss": 0.2516, + "num_input_tokens_seen": 20388384, + "step": 10412 + }, + { + "epoch": 1.3801192842942345, + "grad_norm": 0.7904037237167358, + "learning_rate": 2.814882822769847e-06, + "loss": 0.0034, + "num_input_tokens_seen": 20389656, + "step": 10413 + }, + { + "epoch": 1.3802518223989397, + "grad_norm": 0.011315170675516129, + "learning_rate": 2.8145384469599406e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20390872, + "step": 10414 + }, + { + "epoch": 1.3803843605036448, + "grad_norm": 5.591720104217529, + "learning_rate": 2.814194065085516e-06, + "loss": 0.0385, + "num_input_tokens_seen": 20392072, + "step": 10415 + }, + { + "epoch": 1.38051689860835, + "grad_norm": 12.15715217590332, + "learning_rate": 2.8138496771532128e-06, + "loss": 0.2143, + "num_input_tokens_seen": 20393672, + "step": 10416 + }, + { + "epoch": 1.380649436713055, + "grad_norm": 9.443870544433594, + "learning_rate": 2.8135052831696713e-06, + "loss": 0.2079, + "num_input_tokens_seen": 20396280, + "step": 10417 + }, + { + "epoch": 1.38078197481776, + "grad_norm": 13.527814865112305, + "learning_rate": 2.8131608831415313e-06, + "loss": 0.1683, + "num_input_tokens_seen": 20398216, + "step": 10418 + }, + { + "epoch": 1.3809145129224651, + "grad_norm": 0.0022506157401949167, + "learning_rate": 2.812816477075434e-06, + "loss": 0.0, + "num_input_tokens_seen": 20399544, + "step": 10419 + }, + { + "epoch": 1.3810470510271702, + "grad_norm": 8.63974666595459, + "learning_rate": 2.8124720649780186e-06, + "loss": 0.1409, + "num_input_tokens_seen": 20401168, + "step": 10420 + }, + { + "epoch": 1.3811795891318754, + "grad_norm": 0.01717144250869751, + "learning_rate": 2.812127646855927e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20404264, + "step": 10421 + }, + { + "epoch": 1.3813121272365805, + "grad_norm": 1.1958845853805542, + "learning_rate": 2.8117832227157986e-06, + "loss": 0.0058, + "num_input_tokens_seen": 20407736, + "step": 10422 + }, + { + "epoch": 1.3814446653412857, + "grad_norm": 8.497928619384766, + "learning_rate": 2.8114387925642743e-06, + "loss": 0.1717, + "num_input_tokens_seen": 20409248, + "step": 10423 + }, + { + "epoch": 1.3815772034459908, + "grad_norm": 5.585585594177246, + "learning_rate": 2.8110943564079962e-06, + "loss": 0.0402, + "num_input_tokens_seen": 20410664, + "step": 10424 + }, + { + "epoch": 1.3817097415506958, + "grad_norm": 0.012229116633534431, + "learning_rate": 2.8107499142536026e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20412856, + "step": 10425 + }, + { + "epoch": 1.3818422796554009, + "grad_norm": 0.10501024127006531, + "learning_rate": 2.810405466107738e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20414360, + "step": 10426 + }, + { + "epoch": 1.3819748177601061, + "grad_norm": 5.115072250366211, + "learning_rate": 2.8100610119770416e-06, + "loss": 0.129, + "num_input_tokens_seen": 20416760, + "step": 10427 + }, + { + "epoch": 1.3821073558648111, + "grad_norm": 9.215903282165527, + "learning_rate": 2.8097165518681537e-06, + "loss": 0.218, + "num_input_tokens_seen": 20419256, + "step": 10428 + }, + { + "epoch": 1.3822398939695162, + "grad_norm": 4.782633304595947, + "learning_rate": 2.809372085787718e-06, + "loss": 0.1543, + "num_input_tokens_seen": 20421064, + "step": 10429 + }, + { + "epoch": 1.3823724320742214, + "grad_norm": 9.270026206970215, + "learning_rate": 2.8090276137423755e-06, + "loss": 0.1809, + "num_input_tokens_seen": 20423096, + "step": 10430 + }, + { + "epoch": 1.3825049701789265, + "grad_norm": 5.7914814949035645, + "learning_rate": 2.8086831357387667e-06, + "loss": 0.1416, + "num_input_tokens_seen": 20425040, + "step": 10431 + }, + { + "epoch": 1.3826375082836315, + "grad_norm": 6.540102958679199, + "learning_rate": 2.8083386517835343e-06, + "loss": 0.1587, + "num_input_tokens_seen": 20426864, + "step": 10432 + }, + { + "epoch": 1.3827700463883366, + "grad_norm": 0.007017153315246105, + "learning_rate": 2.80799416188332e-06, + "loss": 0.0, + "num_input_tokens_seen": 20428544, + "step": 10433 + }, + { + "epoch": 1.3829025844930418, + "grad_norm": 7.678238868713379, + "learning_rate": 2.8076496660447657e-06, + "loss": 0.2836, + "num_input_tokens_seen": 20430744, + "step": 10434 + }, + { + "epoch": 1.3830351225977469, + "grad_norm": 0.005133752711117268, + "learning_rate": 2.8073051642745144e-06, + "loss": 0.0, + "num_input_tokens_seen": 20431816, + "step": 10435 + }, + { + "epoch": 1.383167660702452, + "grad_norm": 0.03415863215923309, + "learning_rate": 2.806960656579206e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20433424, + "step": 10436 + }, + { + "epoch": 1.3833001988071572, + "grad_norm": 16.254480361938477, + "learning_rate": 2.8066161429654853e-06, + "loss": 0.3303, + "num_input_tokens_seen": 20435128, + "step": 10437 + }, + { + "epoch": 1.3834327369118622, + "grad_norm": 0.008742360398173332, + "learning_rate": 2.806271623439993e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20436848, + "step": 10438 + }, + { + "epoch": 1.3835652750165672, + "grad_norm": 11.590932846069336, + "learning_rate": 2.805927098009374e-06, + "loss": 0.2539, + "num_input_tokens_seen": 20439192, + "step": 10439 + }, + { + "epoch": 1.3836978131212723, + "grad_norm": 0.02244654670357704, + "learning_rate": 2.805582566680269e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20440776, + "step": 10440 + }, + { + "epoch": 1.3838303512259775, + "grad_norm": 0.022556914016604424, + "learning_rate": 2.8052380294593206e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20442616, + "step": 10441 + }, + { + "epoch": 1.3839628893306826, + "grad_norm": 7.46207857131958, + "learning_rate": 2.804893486353173e-06, + "loss": 0.1687, + "num_input_tokens_seen": 20444816, + "step": 10442 + }, + { + "epoch": 1.3840954274353876, + "grad_norm": 8.115246772766113, + "learning_rate": 2.8045489373684686e-06, + "loss": 0.0756, + "num_input_tokens_seen": 20446824, + "step": 10443 + }, + { + "epoch": 1.3842279655400929, + "grad_norm": 0.02196202613413334, + "learning_rate": 2.8042043825118504e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20448632, + "step": 10444 + }, + { + "epoch": 1.384360503644798, + "grad_norm": 4.157558917999268, + "learning_rate": 2.8038598217899614e-06, + "loss": 0.1407, + "num_input_tokens_seen": 20451736, + "step": 10445 + }, + { + "epoch": 1.384493041749503, + "grad_norm": 8.752606391906738, + "learning_rate": 2.8035152552094457e-06, + "loss": 0.1446, + "num_input_tokens_seen": 20453752, + "step": 10446 + }, + { + "epoch": 1.384625579854208, + "grad_norm": 0.03144088760018349, + "learning_rate": 2.803170682776947e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20455720, + "step": 10447 + }, + { + "epoch": 1.3847581179589132, + "grad_norm": 4.156338691711426, + "learning_rate": 2.8028261044991086e-06, + "loss": 0.0466, + "num_input_tokens_seen": 20458520, + "step": 10448 + }, + { + "epoch": 1.3848906560636183, + "grad_norm": 5.109591960906982, + "learning_rate": 2.802481520382573e-06, + "loss": 0.1273, + "num_input_tokens_seen": 20460616, + "step": 10449 + }, + { + "epoch": 1.3850231941683233, + "grad_norm": 0.029196010902523994, + "learning_rate": 2.8021369304339864e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20462608, + "step": 10450 + }, + { + "epoch": 1.3851557322730286, + "grad_norm": 4.7668023109436035, + "learning_rate": 2.8017923346599902e-06, + "loss": 0.0866, + "num_input_tokens_seen": 20463952, + "step": 10451 + }, + { + "epoch": 1.3852882703777336, + "grad_norm": 0.7397273182868958, + "learning_rate": 2.8014477330672297e-06, + "loss": 0.0049, + "num_input_tokens_seen": 20466176, + "step": 10452 + }, + { + "epoch": 1.3854208084824386, + "grad_norm": 4.5694756507873535, + "learning_rate": 2.8011031256623492e-06, + "loss": 0.0425, + "num_input_tokens_seen": 20468616, + "step": 10453 + }, + { + "epoch": 1.3855533465871437, + "grad_norm": 0.07951880246400833, + "learning_rate": 2.8007585124519927e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20470224, + "step": 10454 + }, + { + "epoch": 1.385685884691849, + "grad_norm": 10.578248023986816, + "learning_rate": 2.8004138934428045e-06, + "loss": 0.1397, + "num_input_tokens_seen": 20472488, + "step": 10455 + }, + { + "epoch": 1.385818422796554, + "grad_norm": 9.208282470703125, + "learning_rate": 2.800069268641429e-06, + "loss": 0.2332, + "num_input_tokens_seen": 20474680, + "step": 10456 + }, + { + "epoch": 1.3859509609012592, + "grad_norm": 8.394522666931152, + "learning_rate": 2.799724638054512e-06, + "loss": 0.1886, + "num_input_tokens_seen": 20476384, + "step": 10457 + }, + { + "epoch": 1.3860834990059643, + "grad_norm": 4.234194278717041, + "learning_rate": 2.799380001688696e-06, + "loss": 0.0752, + "num_input_tokens_seen": 20477648, + "step": 10458 + }, + { + "epoch": 1.3862160371106693, + "grad_norm": 7.70643424987793, + "learning_rate": 2.799035359550627e-06, + "loss": 0.1917, + "num_input_tokens_seen": 20479520, + "step": 10459 + }, + { + "epoch": 1.3863485752153744, + "grad_norm": 9.970481872558594, + "learning_rate": 2.79869071164695e-06, + "loss": 0.1534, + "num_input_tokens_seen": 20481296, + "step": 10460 + }, + { + "epoch": 1.3864811133200794, + "grad_norm": 2.355271577835083, + "learning_rate": 2.798346057984311e-06, + "loss": 0.029, + "num_input_tokens_seen": 20482648, + "step": 10461 + }, + { + "epoch": 1.3866136514247847, + "grad_norm": 5.343208312988281, + "learning_rate": 2.798001398569354e-06, + "loss": 0.0774, + "num_input_tokens_seen": 20483984, + "step": 10462 + }, + { + "epoch": 1.3867461895294897, + "grad_norm": 0.054289281368255615, + "learning_rate": 2.7976567334087234e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20485336, + "step": 10463 + }, + { + "epoch": 1.386878727634195, + "grad_norm": 0.11812238395214081, + "learning_rate": 2.7973120625090666e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20487312, + "step": 10464 + }, + { + "epoch": 1.3870112657389, + "grad_norm": 7.9044718742370605, + "learning_rate": 2.796967385877028e-06, + "loss": 0.0839, + "num_input_tokens_seen": 20489240, + "step": 10465 + }, + { + "epoch": 1.387143803843605, + "grad_norm": 6.656596660614014, + "learning_rate": 2.7966227035192536e-06, + "loss": 0.0596, + "num_input_tokens_seen": 20491072, + "step": 10466 + }, + { + "epoch": 1.38727634194831, + "grad_norm": 0.5502724647521973, + "learning_rate": 2.796278015442388e-06, + "loss": 0.0059, + "num_input_tokens_seen": 20492880, + "step": 10467 + }, + { + "epoch": 1.387408880053015, + "grad_norm": 0.517119288444519, + "learning_rate": 2.7959333216530788e-06, + "loss": 0.0063, + "num_input_tokens_seen": 20495496, + "step": 10468 + }, + { + "epoch": 1.3875414181577204, + "grad_norm": 11.155953407287598, + "learning_rate": 2.7955886221579704e-06, + "loss": 0.1368, + "num_input_tokens_seen": 20497496, + "step": 10469 + }, + { + "epoch": 1.3876739562624254, + "grad_norm": 0.07422763854265213, + "learning_rate": 2.795243916963709e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20499408, + "step": 10470 + }, + { + "epoch": 1.3878064943671307, + "grad_norm": 3.8631277084350586, + "learning_rate": 2.7948992060769424e-06, + "loss": 0.0833, + "num_input_tokens_seen": 20500672, + "step": 10471 + }, + { + "epoch": 1.3879390324718357, + "grad_norm": 0.2156079262495041, + "learning_rate": 2.7945544895043144e-06, + "loss": 0.0016, + "num_input_tokens_seen": 20502424, + "step": 10472 + }, + { + "epoch": 1.3880715705765407, + "grad_norm": 1.184791088104248, + "learning_rate": 2.7942097672524737e-06, + "loss": 0.0092, + "num_input_tokens_seen": 20504144, + "step": 10473 + }, + { + "epoch": 1.3882041086812458, + "grad_norm": 0.7888578772544861, + "learning_rate": 2.793865039328066e-06, + "loss": 0.0058, + "num_input_tokens_seen": 20505968, + "step": 10474 + }, + { + "epoch": 1.388336646785951, + "grad_norm": 10.811427116394043, + "learning_rate": 2.793520305737736e-06, + "loss": 0.3473, + "num_input_tokens_seen": 20507728, + "step": 10475 + }, + { + "epoch": 1.388469184890656, + "grad_norm": 9.360350608825684, + "learning_rate": 2.793175566488133e-06, + "loss": 0.3323, + "num_input_tokens_seen": 20509704, + "step": 10476 + }, + { + "epoch": 1.388601722995361, + "grad_norm": 6.565247535705566, + "learning_rate": 2.792830821585903e-06, + "loss": 0.0904, + "num_input_tokens_seen": 20511784, + "step": 10477 + }, + { + "epoch": 1.3887342611000664, + "grad_norm": 5.025900840759277, + "learning_rate": 2.792486071037692e-06, + "loss": 0.1034, + "num_input_tokens_seen": 20513776, + "step": 10478 + }, + { + "epoch": 1.3888667992047714, + "grad_norm": 0.09110893309116364, + "learning_rate": 2.7921413148501484e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20515240, + "step": 10479 + }, + { + "epoch": 1.3889993373094764, + "grad_norm": 5.7710185050964355, + "learning_rate": 2.791796553029919e-06, + "loss": 0.0141, + "num_input_tokens_seen": 20516824, + "step": 10480 + }, + { + "epoch": 1.3891318754141815, + "grad_norm": 6.486245155334473, + "learning_rate": 2.79145178558365e-06, + "loss": 0.1815, + "num_input_tokens_seen": 20518760, + "step": 10481 + }, + { + "epoch": 1.3892644135188867, + "grad_norm": 0.3129856586456299, + "learning_rate": 2.7911070125179897e-06, + "loss": 0.0018, + "num_input_tokens_seen": 20520832, + "step": 10482 + }, + { + "epoch": 1.3893969516235918, + "grad_norm": 3.4867331981658936, + "learning_rate": 2.7907622338395864e-06, + "loss": 0.048, + "num_input_tokens_seen": 20522248, + "step": 10483 + }, + { + "epoch": 1.3895294897282968, + "grad_norm": 1.8596006631851196, + "learning_rate": 2.790417449555085e-06, + "loss": 0.0099, + "num_input_tokens_seen": 20524208, + "step": 10484 + }, + { + "epoch": 1.389662027833002, + "grad_norm": 10.76799488067627, + "learning_rate": 2.7900726596711358e-06, + "loss": 0.2336, + "num_input_tokens_seen": 20526584, + "step": 10485 + }, + { + "epoch": 1.3897945659377071, + "grad_norm": 0.5786974430084229, + "learning_rate": 2.789727864194386e-06, + "loss": 0.003, + "num_input_tokens_seen": 20529440, + "step": 10486 + }, + { + "epoch": 1.3899271040424122, + "grad_norm": 10.499486923217773, + "learning_rate": 2.7893830631314824e-06, + "loss": 0.1422, + "num_input_tokens_seen": 20531344, + "step": 10487 + }, + { + "epoch": 1.3900596421471172, + "grad_norm": 0.1186819076538086, + "learning_rate": 2.789038256489073e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20532800, + "step": 10488 + }, + { + "epoch": 1.3901921802518225, + "grad_norm": 9.143051147460938, + "learning_rate": 2.7886934442738085e-06, + "loss": 0.2226, + "num_input_tokens_seen": 20534520, + "step": 10489 + }, + { + "epoch": 1.3903247183565275, + "grad_norm": 8.500914573669434, + "learning_rate": 2.7883486264923333e-06, + "loss": 0.1719, + "num_input_tokens_seen": 20536328, + "step": 10490 + }, + { + "epoch": 1.3904572564612325, + "grad_norm": 6.91124963760376, + "learning_rate": 2.788003803151299e-06, + "loss": 0.1649, + "num_input_tokens_seen": 20538480, + "step": 10491 + }, + { + "epoch": 1.3905897945659378, + "grad_norm": 0.7869444489479065, + "learning_rate": 2.7876589742573524e-06, + "loss": 0.0064, + "num_input_tokens_seen": 20540096, + "step": 10492 + }, + { + "epoch": 1.3907223326706428, + "grad_norm": 0.2748253047466278, + "learning_rate": 2.7873141398171417e-06, + "loss": 0.0023, + "num_input_tokens_seen": 20542960, + "step": 10493 + }, + { + "epoch": 1.3908548707753479, + "grad_norm": 4.588486194610596, + "learning_rate": 2.786969299837317e-06, + "loss": 0.079, + "num_input_tokens_seen": 20544544, + "step": 10494 + }, + { + "epoch": 1.390987408880053, + "grad_norm": 6.643099784851074, + "learning_rate": 2.786624454324526e-06, + "loss": 0.1162, + "num_input_tokens_seen": 20546856, + "step": 10495 + }, + { + "epoch": 1.3911199469847582, + "grad_norm": 7.182328224182129, + "learning_rate": 2.786279603285417e-06, + "loss": 0.0329, + "num_input_tokens_seen": 20548808, + "step": 10496 + }, + { + "epoch": 1.3912524850894632, + "grad_norm": 4.121879577636719, + "learning_rate": 2.7859347467266407e-06, + "loss": 0.1052, + "num_input_tokens_seen": 20551336, + "step": 10497 + }, + { + "epoch": 1.3913850231941685, + "grad_norm": 4.8759965896606445, + "learning_rate": 2.785589884654845e-06, + "loss": 0.046, + "num_input_tokens_seen": 20553096, + "step": 10498 + }, + { + "epoch": 1.3915175612988735, + "grad_norm": 7.739864349365234, + "learning_rate": 2.785245017076679e-06, + "loss": 0.0229, + "num_input_tokens_seen": 20554416, + "step": 10499 + }, + { + "epoch": 1.3916500994035785, + "grad_norm": 0.04690643027424812, + "learning_rate": 2.7849001439987933e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20556528, + "step": 10500 + }, + { + "epoch": 1.3917826375082836, + "grad_norm": 6.401378154754639, + "learning_rate": 2.7845552654278353e-06, + "loss": 0.1222, + "num_input_tokens_seen": 20558768, + "step": 10501 + }, + { + "epoch": 1.3919151756129886, + "grad_norm": 0.7200358510017395, + "learning_rate": 2.784210381370455e-06, + "loss": 0.0036, + "num_input_tokens_seen": 20560480, + "step": 10502 + }, + { + "epoch": 1.3920477137176939, + "grad_norm": 2.336420774459839, + "learning_rate": 2.7838654918333034e-06, + "loss": 0.0394, + "num_input_tokens_seen": 20561880, + "step": 10503 + }, + { + "epoch": 1.392180251822399, + "grad_norm": 1.5883830785751343, + "learning_rate": 2.7835205968230296e-06, + "loss": 0.0096, + "num_input_tokens_seen": 20563448, + "step": 10504 + }, + { + "epoch": 1.3923127899271042, + "grad_norm": 30.041460037231445, + "learning_rate": 2.7831756963462825e-06, + "loss": 0.3351, + "num_input_tokens_seen": 20564832, + "step": 10505 + }, + { + "epoch": 1.3924453280318092, + "grad_norm": 12.721914291381836, + "learning_rate": 2.7828307904097123e-06, + "loss": 0.2572, + "num_input_tokens_seen": 20566608, + "step": 10506 + }, + { + "epoch": 1.3925778661365142, + "grad_norm": 11.767704963684082, + "learning_rate": 2.78248587901997e-06, + "loss": 0.0743, + "num_input_tokens_seen": 20569624, + "step": 10507 + }, + { + "epoch": 1.3927104042412193, + "grad_norm": 8.095712661743164, + "learning_rate": 2.7821409621837042e-06, + "loss": 0.1937, + "num_input_tokens_seen": 20572648, + "step": 10508 + }, + { + "epoch": 1.3928429423459243, + "grad_norm": 2.4632644653320312, + "learning_rate": 2.7817960399075673e-06, + "loss": 0.0098, + "num_input_tokens_seen": 20574104, + "step": 10509 + }, + { + "epoch": 1.3929754804506296, + "grad_norm": 6.075214862823486, + "learning_rate": 2.781451112198208e-06, + "loss": 0.0718, + "num_input_tokens_seen": 20575552, + "step": 10510 + }, + { + "epoch": 1.3931080185553346, + "grad_norm": 13.98482894897461, + "learning_rate": 2.7811061790622756e-06, + "loss": 0.174, + "num_input_tokens_seen": 20577688, + "step": 10511 + }, + { + "epoch": 1.3932405566600399, + "grad_norm": 9.87360954284668, + "learning_rate": 2.7807612405064238e-06, + "loss": 0.0571, + "num_input_tokens_seen": 20579544, + "step": 10512 + }, + { + "epoch": 1.393373094764745, + "grad_norm": 2.584228038787842, + "learning_rate": 2.780416296537301e-06, + "loss": 0.0258, + "num_input_tokens_seen": 20581544, + "step": 10513 + }, + { + "epoch": 1.39350563286945, + "grad_norm": 6.481777191162109, + "learning_rate": 2.7800713471615586e-06, + "loss": 0.108, + "num_input_tokens_seen": 20583328, + "step": 10514 + }, + { + "epoch": 1.393638170974155, + "grad_norm": 7.916453838348389, + "learning_rate": 2.779726392385848e-06, + "loss": 0.0877, + "num_input_tokens_seen": 20584696, + "step": 10515 + }, + { + "epoch": 1.3937707090788602, + "grad_norm": 7.973959445953369, + "learning_rate": 2.779381432216819e-06, + "loss": 0.0954, + "num_input_tokens_seen": 20586120, + "step": 10516 + }, + { + "epoch": 1.3939032471835653, + "grad_norm": 0.8193455338478088, + "learning_rate": 2.779036466661123e-06, + "loss": 0.0076, + "num_input_tokens_seen": 20587992, + "step": 10517 + }, + { + "epoch": 1.3940357852882703, + "grad_norm": 13.569361686706543, + "learning_rate": 2.7786914957254116e-06, + "loss": 0.1825, + "num_input_tokens_seen": 20590184, + "step": 10518 + }, + { + "epoch": 1.3941683233929756, + "grad_norm": 17.50252914428711, + "learning_rate": 2.778346519416336e-06, + "loss": 0.4022, + "num_input_tokens_seen": 20592592, + "step": 10519 + }, + { + "epoch": 1.3943008614976806, + "grad_norm": 2.511194944381714, + "learning_rate": 2.7780015377405477e-06, + "loss": 0.0108, + "num_input_tokens_seen": 20594016, + "step": 10520 + }, + { + "epoch": 1.3944333996023857, + "grad_norm": 6.79447078704834, + "learning_rate": 2.7776565507046978e-06, + "loss": 0.1039, + "num_input_tokens_seen": 20595808, + "step": 10521 + }, + { + "epoch": 1.3945659377070907, + "grad_norm": 0.4829334616661072, + "learning_rate": 2.777311558315438e-06, + "loss": 0.0024, + "num_input_tokens_seen": 20598008, + "step": 10522 + }, + { + "epoch": 1.394698475811796, + "grad_norm": 1.4145292043685913, + "learning_rate": 2.7769665605794206e-06, + "loss": 0.0056, + "num_input_tokens_seen": 20599320, + "step": 10523 + }, + { + "epoch": 1.394831013916501, + "grad_norm": 6.7324395179748535, + "learning_rate": 2.7766215575032955e-06, + "loss": 0.1325, + "num_input_tokens_seen": 20600720, + "step": 10524 + }, + { + "epoch": 1.394963552021206, + "grad_norm": 3.594271659851074, + "learning_rate": 2.776276549093717e-06, + "loss": 0.0296, + "num_input_tokens_seen": 20602968, + "step": 10525 + }, + { + "epoch": 1.3950960901259113, + "grad_norm": 9.122613906860352, + "learning_rate": 2.775931535357336e-06, + "loss": 0.0354, + "num_input_tokens_seen": 20605104, + "step": 10526 + }, + { + "epoch": 1.3952286282306163, + "grad_norm": 3.760298252105713, + "learning_rate": 2.7755865163008046e-06, + "loss": 0.0616, + "num_input_tokens_seen": 20607424, + "step": 10527 + }, + { + "epoch": 1.3953611663353214, + "grad_norm": 13.919990539550781, + "learning_rate": 2.775241491930775e-06, + "loss": 0.1657, + "num_input_tokens_seen": 20608648, + "step": 10528 + }, + { + "epoch": 1.3954937044400264, + "grad_norm": 10.288064002990723, + "learning_rate": 2.774896462253899e-06, + "loss": 0.2808, + "num_input_tokens_seen": 20610736, + "step": 10529 + }, + { + "epoch": 1.3956262425447317, + "grad_norm": 1.5678014755249023, + "learning_rate": 2.7745514272768304e-06, + "loss": 0.0191, + "num_input_tokens_seen": 20612624, + "step": 10530 + }, + { + "epoch": 1.3957587806494367, + "grad_norm": 5.624784469604492, + "learning_rate": 2.7742063870062202e-06, + "loss": 0.1369, + "num_input_tokens_seen": 20615112, + "step": 10531 + }, + { + "epoch": 1.3958913187541417, + "grad_norm": 17.48431968688965, + "learning_rate": 2.773861341448722e-06, + "loss": 0.3428, + "num_input_tokens_seen": 20618176, + "step": 10532 + }, + { + "epoch": 1.396023856858847, + "grad_norm": 8.184895515441895, + "learning_rate": 2.773516290610989e-06, + "loss": 0.2259, + "num_input_tokens_seen": 20620304, + "step": 10533 + }, + { + "epoch": 1.396156394963552, + "grad_norm": 1.2629934549331665, + "learning_rate": 2.773171234499672e-06, + "loss": 0.0091, + "num_input_tokens_seen": 20621928, + "step": 10534 + }, + { + "epoch": 1.396288933068257, + "grad_norm": 10.707488059997559, + "learning_rate": 2.772826173121425e-06, + "loss": 0.2222, + "num_input_tokens_seen": 20623352, + "step": 10535 + }, + { + "epoch": 1.3964214711729621, + "grad_norm": 9.687740325927734, + "learning_rate": 2.772481106482902e-06, + "loss": 0.4304, + "num_input_tokens_seen": 20626040, + "step": 10536 + }, + { + "epoch": 1.3965540092776674, + "grad_norm": 8.113819122314453, + "learning_rate": 2.7721360345907557e-06, + "loss": 0.2208, + "num_input_tokens_seen": 20628600, + "step": 10537 + }, + { + "epoch": 1.3966865473823724, + "grad_norm": 10.707056045532227, + "learning_rate": 2.7717909574516375e-06, + "loss": 0.2607, + "num_input_tokens_seen": 20630376, + "step": 10538 + }, + { + "epoch": 1.3968190854870777, + "grad_norm": 1.6803975105285645, + "learning_rate": 2.7714458750722027e-06, + "loss": 0.0053, + "num_input_tokens_seen": 20631704, + "step": 10539 + }, + { + "epoch": 1.3969516235917827, + "grad_norm": 6.36403751373291, + "learning_rate": 2.7711007874591046e-06, + "loss": 0.0282, + "num_input_tokens_seen": 20633672, + "step": 10540 + }, + { + "epoch": 1.3970841616964877, + "grad_norm": 0.1906656175851822, + "learning_rate": 2.7707556946189962e-06, + "loss": 0.0013, + "num_input_tokens_seen": 20635192, + "step": 10541 + }, + { + "epoch": 1.3972166998011928, + "grad_norm": 0.12651477754116058, + "learning_rate": 2.770410596558531e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20636976, + "step": 10542 + }, + { + "epoch": 1.3973492379058978, + "grad_norm": 1.0268782377243042, + "learning_rate": 2.770065493284363e-06, + "loss": 0.007, + "num_input_tokens_seen": 20638600, + "step": 10543 + }, + { + "epoch": 1.397481776010603, + "grad_norm": 6.950503826141357, + "learning_rate": 2.7697203848031462e-06, + "loss": 0.0767, + "num_input_tokens_seen": 20640504, + "step": 10544 + }, + { + "epoch": 1.3976143141153081, + "grad_norm": 6.949264049530029, + "learning_rate": 2.7693752711215343e-06, + "loss": 0.1284, + "num_input_tokens_seen": 20642680, + "step": 10545 + }, + { + "epoch": 1.3977468522200134, + "grad_norm": 16.17197608947754, + "learning_rate": 2.769030152246181e-06, + "loss": 0.3429, + "num_input_tokens_seen": 20644952, + "step": 10546 + }, + { + "epoch": 1.3978793903247184, + "grad_norm": 15.016852378845215, + "learning_rate": 2.7686850281837407e-06, + "loss": 0.3566, + "num_input_tokens_seen": 20647016, + "step": 10547 + }, + { + "epoch": 1.3980119284294235, + "grad_norm": 0.28729212284088135, + "learning_rate": 2.7683398989408684e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20648752, + "step": 10548 + }, + { + "epoch": 1.3981444665341285, + "grad_norm": 12.260937690734863, + "learning_rate": 2.7679947645242173e-06, + "loss": 0.0382, + "num_input_tokens_seen": 20649800, + "step": 10549 + }, + { + "epoch": 1.3982770046388335, + "grad_norm": 3.0606260299682617, + "learning_rate": 2.7676496249404416e-06, + "loss": 0.0239, + "num_input_tokens_seen": 20652256, + "step": 10550 + }, + { + "epoch": 1.3984095427435388, + "grad_norm": 0.4068226218223572, + "learning_rate": 2.7673044801961977e-06, + "loss": 0.0024, + "num_input_tokens_seen": 20654480, + "step": 10551 + }, + { + "epoch": 1.3985420808482438, + "grad_norm": 8.831425666809082, + "learning_rate": 2.766959330298138e-06, + "loss": 0.2934, + "num_input_tokens_seen": 20656032, + "step": 10552 + }, + { + "epoch": 1.398674618952949, + "grad_norm": 10.669981956481934, + "learning_rate": 2.7666141752529187e-06, + "loss": 0.171, + "num_input_tokens_seen": 20657976, + "step": 10553 + }, + { + "epoch": 1.3988071570576541, + "grad_norm": 0.029108744114637375, + "learning_rate": 2.7662690150671943e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20659352, + "step": 10554 + }, + { + "epoch": 1.3989396951623592, + "grad_norm": 3.287593364715576, + "learning_rate": 2.7659238497476193e-06, + "loss": 0.0324, + "num_input_tokens_seen": 20660736, + "step": 10555 + }, + { + "epoch": 1.3990722332670642, + "grad_norm": 3.797125816345215, + "learning_rate": 2.7655786793008493e-06, + "loss": 0.0046, + "num_input_tokens_seen": 20662104, + "step": 10556 + }, + { + "epoch": 1.3992047713717695, + "grad_norm": 6.064399242401123, + "learning_rate": 2.7652335037335397e-06, + "loss": 0.0347, + "num_input_tokens_seen": 20663112, + "step": 10557 + }, + { + "epoch": 1.3993373094764745, + "grad_norm": 4.344359874725342, + "learning_rate": 2.7648883230523438e-06, + "loss": 0.0197, + "num_input_tokens_seen": 20664680, + "step": 10558 + }, + { + "epoch": 1.3994698475811795, + "grad_norm": 0.10848988592624664, + "learning_rate": 2.764543137263919e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20666048, + "step": 10559 + }, + { + "epoch": 1.3996023856858848, + "grad_norm": 4.652587890625, + "learning_rate": 2.76419794637492e-06, + "loss": 0.08, + "num_input_tokens_seen": 20667968, + "step": 10560 + }, + { + "epoch": 1.3997349237905898, + "grad_norm": 7.251633644104004, + "learning_rate": 2.763852750392002e-06, + "loss": 0.1393, + "num_input_tokens_seen": 20670672, + "step": 10561 + }, + { + "epoch": 1.3998674618952949, + "grad_norm": 8.513386726379395, + "learning_rate": 2.763507549321822e-06, + "loss": 0.2209, + "num_input_tokens_seen": 20673000, + "step": 10562 + }, + { + "epoch": 1.4, + "grad_norm": 7.966372966766357, + "learning_rate": 2.7631623431710337e-06, + "loss": 0.0758, + "num_input_tokens_seen": 20674840, + "step": 10563 + }, + { + "epoch": 1.4001325381047052, + "grad_norm": 1.2695943117141724, + "learning_rate": 2.7628171319462942e-06, + "loss": 0.0035, + "num_input_tokens_seen": 20676640, + "step": 10564 + }, + { + "epoch": 1.4002650762094102, + "grad_norm": 13.614012718200684, + "learning_rate": 2.762471915654259e-06, + "loss": 0.3232, + "num_input_tokens_seen": 20678640, + "step": 10565 + }, + { + "epoch": 1.4003976143141152, + "grad_norm": 2.442643165588379, + "learning_rate": 2.7621266943015846e-06, + "loss": 0.0585, + "num_input_tokens_seen": 20679928, + "step": 10566 + }, + { + "epoch": 1.4005301524188205, + "grad_norm": 0.011214971542358398, + "learning_rate": 2.761781467894926e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20681112, + "step": 10567 + }, + { + "epoch": 1.4006626905235255, + "grad_norm": 10.345452308654785, + "learning_rate": 2.7614362364409405e-06, + "loss": 0.1659, + "num_input_tokens_seen": 20683088, + "step": 10568 + }, + { + "epoch": 1.4007952286282306, + "grad_norm": 9.527271270751953, + "learning_rate": 2.7610909999462842e-06, + "loss": 0.0851, + "num_input_tokens_seen": 20684592, + "step": 10569 + }, + { + "epoch": 1.4009277667329356, + "grad_norm": 5.224287509918213, + "learning_rate": 2.760745758417612e-06, + "loss": 0.1301, + "num_input_tokens_seen": 20686648, + "step": 10570 + }, + { + "epoch": 1.4010603048376409, + "grad_norm": 4.609777927398682, + "learning_rate": 2.7604005118615834e-06, + "loss": 0.1214, + "num_input_tokens_seen": 20689512, + "step": 10571 + }, + { + "epoch": 1.401192842942346, + "grad_norm": 6.513919830322266, + "learning_rate": 2.760055260284853e-06, + "loss": 0.1348, + "num_input_tokens_seen": 20691216, + "step": 10572 + }, + { + "epoch": 1.401325381047051, + "grad_norm": 4.91895866394043, + "learning_rate": 2.7597100036940766e-06, + "loss": 0.0944, + "num_input_tokens_seen": 20692928, + "step": 10573 + }, + { + "epoch": 1.4014579191517562, + "grad_norm": 5.612612724304199, + "learning_rate": 2.7593647420959134e-06, + "loss": 0.142, + "num_input_tokens_seen": 20695984, + "step": 10574 + }, + { + "epoch": 1.4015904572564613, + "grad_norm": 0.018909305334091187, + "learning_rate": 2.759019475497019e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20697936, + "step": 10575 + }, + { + "epoch": 1.4017229953611663, + "grad_norm": 11.03704833984375, + "learning_rate": 2.7586742039040493e-06, + "loss": 0.2918, + "num_input_tokens_seen": 20699544, + "step": 10576 + }, + { + "epoch": 1.4018555334658713, + "grad_norm": 9.435297012329102, + "learning_rate": 2.7583289273236635e-06, + "loss": 0.1865, + "num_input_tokens_seen": 20700912, + "step": 10577 + }, + { + "epoch": 1.4019880715705766, + "grad_norm": 1.4211225509643555, + "learning_rate": 2.7579836457625177e-06, + "loss": 0.0161, + "num_input_tokens_seen": 20703360, + "step": 10578 + }, + { + "epoch": 1.4021206096752816, + "grad_norm": 5.037970542907715, + "learning_rate": 2.7576383592272687e-06, + "loss": 0.1302, + "num_input_tokens_seen": 20705104, + "step": 10579 + }, + { + "epoch": 1.4022531477799867, + "grad_norm": 0.01099399197846651, + "learning_rate": 2.757293067724575e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20706584, + "step": 10580 + }, + { + "epoch": 1.402385685884692, + "grad_norm": 4.613814830780029, + "learning_rate": 2.7569477712610932e-06, + "loss": 0.0216, + "num_input_tokens_seen": 20708496, + "step": 10581 + }, + { + "epoch": 1.402518223989397, + "grad_norm": 0.16234523057937622, + "learning_rate": 2.7566024698434813e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20710048, + "step": 10582 + }, + { + "epoch": 1.402650762094102, + "grad_norm": 1.3125298023223877, + "learning_rate": 2.7562571634783965e-06, + "loss": 0.0073, + "num_input_tokens_seen": 20712176, + "step": 10583 + }, + { + "epoch": 1.402783300198807, + "grad_norm": 4.0816144943237305, + "learning_rate": 2.755911852172497e-06, + "loss": 0.0514, + "num_input_tokens_seen": 20714112, + "step": 10584 + }, + { + "epoch": 1.4029158383035123, + "grad_norm": 4.365691184997559, + "learning_rate": 2.7555665359324403e-06, + "loss": 0.1042, + "num_input_tokens_seen": 20716224, + "step": 10585 + }, + { + "epoch": 1.4030483764082173, + "grad_norm": 0.07552376389503479, + "learning_rate": 2.7552212147648843e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20718408, + "step": 10586 + }, + { + "epoch": 1.4031809145129226, + "grad_norm": 0.15295080840587616, + "learning_rate": 2.7548758886764874e-06, + "loss": 0.0011, + "num_input_tokens_seen": 20721728, + "step": 10587 + }, + { + "epoch": 1.4033134526176276, + "grad_norm": 5.798828601837158, + "learning_rate": 2.7545305576739077e-06, + "loss": 0.0239, + "num_input_tokens_seen": 20723128, + "step": 10588 + }, + { + "epoch": 1.4034459907223327, + "grad_norm": 1.074324369430542, + "learning_rate": 2.7541852217638034e-06, + "loss": 0.015, + "num_input_tokens_seen": 20725136, + "step": 10589 + }, + { + "epoch": 1.4035785288270377, + "grad_norm": 0.09571792185306549, + "learning_rate": 2.7538398809528316e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20726968, + "step": 10590 + }, + { + "epoch": 1.4037110669317427, + "grad_norm": 8.460127830505371, + "learning_rate": 2.7534945352476527e-06, + "loss": 0.1832, + "num_input_tokens_seen": 20729624, + "step": 10591 + }, + { + "epoch": 1.403843605036448, + "grad_norm": 4.628119945526123, + "learning_rate": 2.7531491846549247e-06, + "loss": 0.0475, + "num_input_tokens_seen": 20731768, + "step": 10592 + }, + { + "epoch": 1.403976143141153, + "grad_norm": 7.634605407714844, + "learning_rate": 2.752803829181305e-06, + "loss": 0.1954, + "num_input_tokens_seen": 20733736, + "step": 10593 + }, + { + "epoch": 1.4041086812458583, + "grad_norm": 0.11401008069515228, + "learning_rate": 2.7524584688334525e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20735000, + "step": 10594 + }, + { + "epoch": 1.4042412193505633, + "grad_norm": 10.275894165039062, + "learning_rate": 2.7521131036180284e-06, + "loss": 0.3567, + "num_input_tokens_seen": 20736984, + "step": 10595 + }, + { + "epoch": 1.4043737574552684, + "grad_norm": 7.303134918212891, + "learning_rate": 2.751767733541688e-06, + "loss": 0.2757, + "num_input_tokens_seen": 20739640, + "step": 10596 + }, + { + "epoch": 1.4045062955599734, + "grad_norm": 0.04334006831049919, + "learning_rate": 2.751422358611093e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20741392, + "step": 10597 + }, + { + "epoch": 1.4046388336646787, + "grad_norm": 9.306764602661133, + "learning_rate": 2.751076978832902e-06, + "loss": 0.1802, + "num_input_tokens_seen": 20743048, + "step": 10598 + }, + { + "epoch": 1.4047713717693837, + "grad_norm": 0.04407084360718727, + "learning_rate": 2.750731594213772e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20744768, + "step": 10599 + }, + { + "epoch": 1.4049039098740888, + "grad_norm": 0.009371750988066196, + "learning_rate": 2.750386204760365e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20746088, + "step": 10600 + }, + { + "epoch": 1.405036447978794, + "grad_norm": 0.025039702653884888, + "learning_rate": 2.7500408104793393e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20747648, + "step": 10601 + }, + { + "epoch": 1.405168986083499, + "grad_norm": 45.71411895751953, + "learning_rate": 2.7496954113773533e-06, + "loss": 0.1113, + "num_input_tokens_seen": 20749200, + "step": 10602 + }, + { + "epoch": 1.405301524188204, + "grad_norm": 8.057454109191895, + "learning_rate": 2.749350007461068e-06, + "loss": 0.187, + "num_input_tokens_seen": 20751184, + "step": 10603 + }, + { + "epoch": 1.4054340622929091, + "grad_norm": 7.636471271514893, + "learning_rate": 2.749004598737143e-06, + "loss": 0.1274, + "num_input_tokens_seen": 20753680, + "step": 10604 + }, + { + "epoch": 1.4055666003976144, + "grad_norm": 7.203907012939453, + "learning_rate": 2.748659185212237e-06, + "loss": 0.1101, + "num_input_tokens_seen": 20755776, + "step": 10605 + }, + { + "epoch": 1.4056991385023194, + "grad_norm": 9.805910110473633, + "learning_rate": 2.748313766893011e-06, + "loss": 0.2876, + "num_input_tokens_seen": 20758088, + "step": 10606 + }, + { + "epoch": 1.4058316766070245, + "grad_norm": 0.05939975008368492, + "learning_rate": 2.747968343786124e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20759776, + "step": 10607 + }, + { + "epoch": 1.4059642147117297, + "grad_norm": 0.27053332328796387, + "learning_rate": 2.747622915898235e-06, + "loss": 0.002, + "num_input_tokens_seen": 20762680, + "step": 10608 + }, + { + "epoch": 1.4060967528164348, + "grad_norm": 5.980823993682861, + "learning_rate": 2.747277483236007e-06, + "loss": 0.0673, + "num_input_tokens_seen": 20764136, + "step": 10609 + }, + { + "epoch": 1.4062292909211398, + "grad_norm": 4.109341621398926, + "learning_rate": 2.7469320458060984e-06, + "loss": 0.0294, + "num_input_tokens_seen": 20765760, + "step": 10610 + }, + { + "epoch": 1.4063618290258448, + "grad_norm": 0.18717600405216217, + "learning_rate": 2.746586603615169e-06, + "loss": 0.0012, + "num_input_tokens_seen": 20767256, + "step": 10611 + }, + { + "epoch": 1.40649436713055, + "grad_norm": 0.011210133321583271, + "learning_rate": 2.74624115666988e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20768464, + "step": 10612 + }, + { + "epoch": 1.4066269052352551, + "grad_norm": 4.336481094360352, + "learning_rate": 2.745895704976892e-06, + "loss": 0.0216, + "num_input_tokens_seen": 20769944, + "step": 10613 + }, + { + "epoch": 1.4067594433399602, + "grad_norm": 5.574187755584717, + "learning_rate": 2.7455502485428647e-06, + "loss": 0.0474, + "num_input_tokens_seen": 20771416, + "step": 10614 + }, + { + "epoch": 1.4068919814446654, + "grad_norm": 5.246311187744141, + "learning_rate": 2.745204787374459e-06, + "loss": 0.0999, + "num_input_tokens_seen": 20772992, + "step": 10615 + }, + { + "epoch": 1.4070245195493705, + "grad_norm": 1.4681001901626587, + "learning_rate": 2.744859321478337e-06, + "loss": 0.0098, + "num_input_tokens_seen": 20774808, + "step": 10616 + }, + { + "epoch": 1.4071570576540755, + "grad_norm": 0.920194685459137, + "learning_rate": 2.744513850861156e-06, + "loss": 0.004, + "num_input_tokens_seen": 20775976, + "step": 10617 + }, + { + "epoch": 1.4072895957587805, + "grad_norm": 8.181239128112793, + "learning_rate": 2.7441683755295816e-06, + "loss": 0.0963, + "num_input_tokens_seen": 20777952, + "step": 10618 + }, + { + "epoch": 1.4074221338634858, + "grad_norm": 0.21132461726665497, + "learning_rate": 2.7438228954902724e-06, + "loss": 0.0013, + "num_input_tokens_seen": 20779576, + "step": 10619 + }, + { + "epoch": 1.4075546719681908, + "grad_norm": 0.06734517216682434, + "learning_rate": 2.743477410749888e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20780864, + "step": 10620 + }, + { + "epoch": 1.4076872100728959, + "grad_norm": 9.145798683166504, + "learning_rate": 2.7431319213150926e-06, + "loss": 0.2204, + "num_input_tokens_seen": 20783208, + "step": 10621 + }, + { + "epoch": 1.4078197481776011, + "grad_norm": 0.5492861270904541, + "learning_rate": 2.7427864271925452e-06, + "loss": 0.0057, + "num_input_tokens_seen": 20784536, + "step": 10622 + }, + { + "epoch": 1.4079522862823062, + "grad_norm": 0.02927401289343834, + "learning_rate": 2.742440928388908e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20786176, + "step": 10623 + }, + { + "epoch": 1.4080848243870112, + "grad_norm": 11.943614959716797, + "learning_rate": 2.742095424910843e-06, + "loss": 0.203, + "num_input_tokens_seen": 20788032, + "step": 10624 + }, + { + "epoch": 1.4082173624917163, + "grad_norm": 8.293085098266602, + "learning_rate": 2.7417499167650107e-06, + "loss": 0.2296, + "num_input_tokens_seen": 20789728, + "step": 10625 + }, + { + "epoch": 1.4083499005964215, + "grad_norm": 6.553684234619141, + "learning_rate": 2.7414044039580736e-06, + "loss": 0.1605, + "num_input_tokens_seen": 20792384, + "step": 10626 + }, + { + "epoch": 1.4084824387011265, + "grad_norm": 7.885653495788574, + "learning_rate": 2.7410588864966925e-06, + "loss": 0.1703, + "num_input_tokens_seen": 20794384, + "step": 10627 + }, + { + "epoch": 1.4086149768058318, + "grad_norm": 3.4076781272888184, + "learning_rate": 2.7407133643875303e-06, + "loss": 0.0581, + "num_input_tokens_seen": 20796440, + "step": 10628 + }, + { + "epoch": 1.4087475149105368, + "grad_norm": 0.09203991293907166, + "learning_rate": 2.7403678376372485e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20798840, + "step": 10629 + }, + { + "epoch": 1.4088800530152419, + "grad_norm": 0.08978790789842606, + "learning_rate": 2.7400223062525084e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20801616, + "step": 10630 + }, + { + "epoch": 1.409012591119947, + "grad_norm": 6.554531574249268, + "learning_rate": 2.739676770239973e-06, + "loss": 0.1438, + "num_input_tokens_seen": 20803384, + "step": 10631 + }, + { + "epoch": 1.409145129224652, + "grad_norm": 6.797333717346191, + "learning_rate": 2.739331229606304e-06, + "loss": 0.1107, + "num_input_tokens_seen": 20805088, + "step": 10632 + }, + { + "epoch": 1.4092776673293572, + "grad_norm": 4.143064498901367, + "learning_rate": 2.7389856843581638e-06, + "loss": 0.0162, + "num_input_tokens_seen": 20806880, + "step": 10633 + }, + { + "epoch": 1.4094102054340623, + "grad_norm": 7.512301445007324, + "learning_rate": 2.738640134502215e-06, + "loss": 0.1972, + "num_input_tokens_seen": 20809072, + "step": 10634 + }, + { + "epoch": 1.4095427435387675, + "grad_norm": 0.07993736863136292, + "learning_rate": 2.738294580045119e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20811048, + "step": 10635 + }, + { + "epoch": 1.4096752816434726, + "grad_norm": 0.6963827013969421, + "learning_rate": 2.73794902099354e-06, + "loss": 0.0046, + "num_input_tokens_seen": 20813232, + "step": 10636 + }, + { + "epoch": 1.4098078197481776, + "grad_norm": 8.478193283081055, + "learning_rate": 2.73760345735414e-06, + "loss": 0.128, + "num_input_tokens_seen": 20815248, + "step": 10637 + }, + { + "epoch": 1.4099403578528826, + "grad_norm": 5.135081768035889, + "learning_rate": 2.73725788913358e-06, + "loss": 0.1353, + "num_input_tokens_seen": 20816984, + "step": 10638 + }, + { + "epoch": 1.4100728959575877, + "grad_norm": 1.0555853843688965, + "learning_rate": 2.7369123163385254e-06, + "loss": 0.0062, + "num_input_tokens_seen": 20819040, + "step": 10639 + }, + { + "epoch": 1.410205434062293, + "grad_norm": 9.966594696044922, + "learning_rate": 2.736566738975637e-06, + "loss": 0.2144, + "num_input_tokens_seen": 20821128, + "step": 10640 + }, + { + "epoch": 1.410337972166998, + "grad_norm": 0.64225172996521, + "learning_rate": 2.7362211570515794e-06, + "loss": 0.0121, + "num_input_tokens_seen": 20823216, + "step": 10641 + }, + { + "epoch": 1.4104705102717032, + "grad_norm": 2.339709758758545, + "learning_rate": 2.735875570573015e-06, + "loss": 0.0201, + "num_input_tokens_seen": 20824944, + "step": 10642 + }, + { + "epoch": 1.4106030483764083, + "grad_norm": 8.702493667602539, + "learning_rate": 2.7355299795466068e-06, + "loss": 0.0893, + "num_input_tokens_seen": 20826512, + "step": 10643 + }, + { + "epoch": 1.4107355864811133, + "grad_norm": 9.747122764587402, + "learning_rate": 2.7351843839790175e-06, + "loss": 0.3861, + "num_input_tokens_seen": 20829056, + "step": 10644 + }, + { + "epoch": 1.4108681245858183, + "grad_norm": 4.787661075592041, + "learning_rate": 2.734838783876912e-06, + "loss": 0.024, + "num_input_tokens_seen": 20830936, + "step": 10645 + }, + { + "epoch": 1.4110006626905236, + "grad_norm": 6.043982028961182, + "learning_rate": 2.734493179246952e-06, + "loss": 0.0842, + "num_input_tokens_seen": 20833352, + "step": 10646 + }, + { + "epoch": 1.4111332007952286, + "grad_norm": 2.3153305053710938, + "learning_rate": 2.734147570095802e-06, + "loss": 0.02, + "num_input_tokens_seen": 20835096, + "step": 10647 + }, + { + "epoch": 1.4112657388999337, + "grad_norm": 1.2299238443374634, + "learning_rate": 2.733801956430125e-06, + "loss": 0.0096, + "num_input_tokens_seen": 20837320, + "step": 10648 + }, + { + "epoch": 1.411398277004639, + "grad_norm": 7.338959693908691, + "learning_rate": 2.7334563382565853e-06, + "loss": 0.2465, + "num_input_tokens_seen": 20840976, + "step": 10649 + }, + { + "epoch": 1.411530815109344, + "grad_norm": 0.06455773115158081, + "learning_rate": 2.7331107155818466e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20842544, + "step": 10650 + }, + { + "epoch": 1.411663353214049, + "grad_norm": 7.122287273406982, + "learning_rate": 2.732765088412572e-06, + "loss": 0.0774, + "num_input_tokens_seen": 20844024, + "step": 10651 + }, + { + "epoch": 1.411795891318754, + "grad_norm": 7.4047160148620605, + "learning_rate": 2.7324194567554265e-06, + "loss": 0.0433, + "num_input_tokens_seen": 20845856, + "step": 10652 + }, + { + "epoch": 1.4119284294234593, + "grad_norm": 4.618725299835205, + "learning_rate": 2.7320738206170724e-06, + "loss": 0.0791, + "num_input_tokens_seen": 20848064, + "step": 10653 + }, + { + "epoch": 1.4120609675281643, + "grad_norm": 7.90389347076416, + "learning_rate": 2.7317281800041756e-06, + "loss": 0.174, + "num_input_tokens_seen": 20850640, + "step": 10654 + }, + { + "epoch": 1.4121935056328694, + "grad_norm": 2.023629903793335, + "learning_rate": 2.7313825349234004e-06, + "loss": 0.0281, + "num_input_tokens_seen": 20852344, + "step": 10655 + }, + { + "epoch": 1.4123260437375746, + "grad_norm": 1.1122645139694214, + "learning_rate": 2.731036885381409e-06, + "loss": 0.0071, + "num_input_tokens_seen": 20854744, + "step": 10656 + }, + { + "epoch": 1.4124585818422797, + "grad_norm": 2.542592763900757, + "learning_rate": 2.7306912313848677e-06, + "loss": 0.0335, + "num_input_tokens_seen": 20855888, + "step": 10657 + }, + { + "epoch": 1.4125911199469847, + "grad_norm": 5.379162788391113, + "learning_rate": 2.7303455729404404e-06, + "loss": 0.1568, + "num_input_tokens_seen": 20857608, + "step": 10658 + }, + { + "epoch": 1.4127236580516898, + "grad_norm": 3.359867572784424, + "learning_rate": 2.729999910054791e-06, + "loss": 0.0878, + "num_input_tokens_seen": 20859744, + "step": 10659 + }, + { + "epoch": 1.412856196156395, + "grad_norm": 15.724868774414062, + "learning_rate": 2.7296542427345856e-06, + "loss": 0.1215, + "num_input_tokens_seen": 20862104, + "step": 10660 + }, + { + "epoch": 1.4129887342611, + "grad_norm": 0.07450693100690842, + "learning_rate": 2.7293085709864874e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20863864, + "step": 10661 + }, + { + "epoch": 1.413121272365805, + "grad_norm": 8.932411193847656, + "learning_rate": 2.7289628948171614e-06, + "loss": 0.0893, + "num_input_tokens_seen": 20866272, + "step": 10662 + }, + { + "epoch": 1.4132538104705104, + "grad_norm": 9.074971199035645, + "learning_rate": 2.728617214233274e-06, + "loss": 0.1708, + "num_input_tokens_seen": 20868080, + "step": 10663 + }, + { + "epoch": 1.4133863485752154, + "grad_norm": 1.7560399770736694, + "learning_rate": 2.728271529241488e-06, + "loss": 0.0037, + "num_input_tokens_seen": 20869928, + "step": 10664 + }, + { + "epoch": 1.4135188866799204, + "grad_norm": 4.777466773986816, + "learning_rate": 2.72792583984847e-06, + "loss": 0.1645, + "num_input_tokens_seen": 20871736, + "step": 10665 + }, + { + "epoch": 1.4136514247846255, + "grad_norm": 5.210172653198242, + "learning_rate": 2.7275801460608836e-06, + "loss": 0.0716, + "num_input_tokens_seen": 20873344, + "step": 10666 + }, + { + "epoch": 1.4137839628893307, + "grad_norm": 13.746232032775879, + "learning_rate": 2.7272344478853964e-06, + "loss": 0.2772, + "num_input_tokens_seen": 20875680, + "step": 10667 + }, + { + "epoch": 1.4139165009940358, + "grad_norm": 10.221718788146973, + "learning_rate": 2.7268887453286715e-06, + "loss": 0.2391, + "num_input_tokens_seen": 20877576, + "step": 10668 + }, + { + "epoch": 1.414049039098741, + "grad_norm": 0.03659462928771973, + "learning_rate": 2.7265430383973746e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20879208, + "step": 10669 + }, + { + "epoch": 1.414181577203446, + "grad_norm": 0.028182020410895348, + "learning_rate": 2.726197327098172e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20880944, + "step": 10670 + }, + { + "epoch": 1.414314115308151, + "grad_norm": 0.773452877998352, + "learning_rate": 2.725851611437729e-06, + "loss": 0.0089, + "num_input_tokens_seen": 20882000, + "step": 10671 + }, + { + "epoch": 1.4144466534128561, + "grad_norm": 9.345169067382812, + "learning_rate": 2.7255058914227112e-06, + "loss": 0.1693, + "num_input_tokens_seen": 20884056, + "step": 10672 + }, + { + "epoch": 1.4145791915175612, + "grad_norm": 7.091841697692871, + "learning_rate": 2.7251601670597842e-06, + "loss": 0.122, + "num_input_tokens_seen": 20887232, + "step": 10673 + }, + { + "epoch": 1.4147117296222664, + "grad_norm": 7.1334123611450195, + "learning_rate": 2.7248144383556135e-06, + "loss": 0.2165, + "num_input_tokens_seen": 20889360, + "step": 10674 + }, + { + "epoch": 1.4148442677269715, + "grad_norm": 0.22957558929920197, + "learning_rate": 2.724468705316866e-06, + "loss": 0.0012, + "num_input_tokens_seen": 20890920, + "step": 10675 + }, + { + "epoch": 1.4149768058316767, + "grad_norm": 9.437118530273438, + "learning_rate": 2.724122967950207e-06, + "loss": 0.242, + "num_input_tokens_seen": 20892672, + "step": 10676 + }, + { + "epoch": 1.4151093439363818, + "grad_norm": 0.013177376240491867, + "learning_rate": 2.723777226262302e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20894232, + "step": 10677 + }, + { + "epoch": 1.4152418820410868, + "grad_norm": 3.774428367614746, + "learning_rate": 2.7234314802598184e-06, + "loss": 0.0439, + "num_input_tokens_seen": 20895816, + "step": 10678 + }, + { + "epoch": 1.4153744201457918, + "grad_norm": 20.24034881591797, + "learning_rate": 2.7230857299494206e-06, + "loss": 0.6097, + "num_input_tokens_seen": 20898528, + "step": 10679 + }, + { + "epoch": 1.4155069582504969, + "grad_norm": 5.048086166381836, + "learning_rate": 2.722739975337777e-06, + "loss": 0.122, + "num_input_tokens_seen": 20900808, + "step": 10680 + }, + { + "epoch": 1.4156394963552021, + "grad_norm": 12.051342010498047, + "learning_rate": 2.7223942164315533e-06, + "loss": 0.3031, + "num_input_tokens_seen": 20902848, + "step": 10681 + }, + { + "epoch": 1.4157720344599072, + "grad_norm": 0.1069600060582161, + "learning_rate": 2.7220484532374147e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20904960, + "step": 10682 + }, + { + "epoch": 1.4159045725646124, + "grad_norm": 0.026960812509059906, + "learning_rate": 2.721702685762029e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20906688, + "step": 10683 + }, + { + "epoch": 1.4160371106693175, + "grad_norm": 13.062935829162598, + "learning_rate": 2.7213569140120627e-06, + "loss": 0.1239, + "num_input_tokens_seen": 20909120, + "step": 10684 + }, + { + "epoch": 1.4161696487740225, + "grad_norm": 13.373900413513184, + "learning_rate": 2.7210111379941824e-06, + "loss": 0.2291, + "num_input_tokens_seen": 20910688, + "step": 10685 + }, + { + "epoch": 1.4163021868787276, + "grad_norm": 6.7151947021484375, + "learning_rate": 2.720665357715055e-06, + "loss": 0.2858, + "num_input_tokens_seen": 20912928, + "step": 10686 + }, + { + "epoch": 1.4164347249834328, + "grad_norm": 0.6810829043388367, + "learning_rate": 2.720319573181347e-06, + "loss": 0.0059, + "num_input_tokens_seen": 20914120, + "step": 10687 + }, + { + "epoch": 1.4165672630881379, + "grad_norm": 0.5847558975219727, + "learning_rate": 2.7199737843997254e-06, + "loss": 0.0023, + "num_input_tokens_seen": 20916328, + "step": 10688 + }, + { + "epoch": 1.416699801192843, + "grad_norm": 0.0157274529337883, + "learning_rate": 2.7196279913768587e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20917672, + "step": 10689 + }, + { + "epoch": 1.4168323392975481, + "grad_norm": 15.493023872375488, + "learning_rate": 2.7192821941194113e-06, + "loss": 0.4019, + "num_input_tokens_seen": 20919904, + "step": 10690 + }, + { + "epoch": 1.4169648774022532, + "grad_norm": 0.033382903784513474, + "learning_rate": 2.7189363926340527e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20922384, + "step": 10691 + }, + { + "epoch": 1.4170974155069582, + "grad_norm": 0.03856700658798218, + "learning_rate": 2.7185905869274495e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20923768, + "step": 10692 + }, + { + "epoch": 1.4172299536116633, + "grad_norm": 9.818392753601074, + "learning_rate": 2.718244777006269e-06, + "loss": 0.4454, + "num_input_tokens_seen": 20926576, + "step": 10693 + }, + { + "epoch": 1.4173624917163685, + "grad_norm": 5.062514305114746, + "learning_rate": 2.7178989628771785e-06, + "loss": 0.1346, + "num_input_tokens_seen": 20928280, + "step": 10694 + }, + { + "epoch": 1.4174950298210736, + "grad_norm": 10.080476760864258, + "learning_rate": 2.7175531445468456e-06, + "loss": 0.2572, + "num_input_tokens_seen": 20930136, + "step": 10695 + }, + { + "epoch": 1.4176275679257786, + "grad_norm": 0.0313757061958313, + "learning_rate": 2.7172073220219382e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20931696, + "step": 10696 + }, + { + "epoch": 1.4177601060304839, + "grad_norm": 2.7627387046813965, + "learning_rate": 2.7168614953091225e-06, + "loss": 0.0133, + "num_input_tokens_seen": 20934456, + "step": 10697 + }, + { + "epoch": 1.417892644135189, + "grad_norm": 11.445853233337402, + "learning_rate": 2.7165156644150692e-06, + "loss": 0.2616, + "num_input_tokens_seen": 20937128, + "step": 10698 + }, + { + "epoch": 1.418025182239894, + "grad_norm": 8.642108917236328, + "learning_rate": 2.7161698293464446e-06, + "loss": 0.106, + "num_input_tokens_seen": 20939064, + "step": 10699 + }, + { + "epoch": 1.418157720344599, + "grad_norm": 0.07817390561103821, + "learning_rate": 2.7158239901099155e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20940432, + "step": 10700 + }, + { + "epoch": 1.4182902584493042, + "grad_norm": 1.8011860847473145, + "learning_rate": 2.7154781467121516e-06, + "loss": 0.0422, + "num_input_tokens_seen": 20941888, + "step": 10701 + }, + { + "epoch": 1.4184227965540093, + "grad_norm": 0.05256745591759682, + "learning_rate": 2.7151322991598207e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20944184, + "step": 10702 + }, + { + "epoch": 1.4185553346587143, + "grad_norm": 4.226961612701416, + "learning_rate": 2.71478644745959e-06, + "loss": 0.1165, + "num_input_tokens_seen": 20945600, + "step": 10703 + }, + { + "epoch": 1.4186878727634196, + "grad_norm": 6.054051876068115, + "learning_rate": 2.714440591618129e-06, + "loss": 0.1086, + "num_input_tokens_seen": 20947544, + "step": 10704 + }, + { + "epoch": 1.4188204108681246, + "grad_norm": 3.5379059314727783, + "learning_rate": 2.7140947316421044e-06, + "loss": 0.0605, + "num_input_tokens_seen": 20949728, + "step": 10705 + }, + { + "epoch": 1.4189529489728296, + "grad_norm": 0.04323343187570572, + "learning_rate": 2.7137488675381864e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20951080, + "step": 10706 + }, + { + "epoch": 1.4190854870775347, + "grad_norm": 0.19374366104602814, + "learning_rate": 2.7134029993130427e-06, + "loss": 0.0014, + "num_input_tokens_seen": 20952472, + "step": 10707 + }, + { + "epoch": 1.41921802518224, + "grad_norm": 9.088922500610352, + "learning_rate": 2.713057126973342e-06, + "loss": 0.2748, + "num_input_tokens_seen": 20954216, + "step": 10708 + }, + { + "epoch": 1.419350563286945, + "grad_norm": 19.48166847229004, + "learning_rate": 2.712711250525753e-06, + "loss": 0.3357, + "num_input_tokens_seen": 20956368, + "step": 10709 + }, + { + "epoch": 1.4194831013916502, + "grad_norm": 5.546043395996094, + "learning_rate": 2.7123653699769438e-06, + "loss": 0.1073, + "num_input_tokens_seen": 20958104, + "step": 10710 + }, + { + "epoch": 1.4196156394963553, + "grad_norm": 0.09428960084915161, + "learning_rate": 2.7120194853335848e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20960904, + "step": 10711 + }, + { + "epoch": 1.4197481776010603, + "grad_norm": 17.581602096557617, + "learning_rate": 2.7116735966023435e-06, + "loss": 0.0708, + "num_input_tokens_seen": 20962376, + "step": 10712 + }, + { + "epoch": 1.4198807157057654, + "grad_norm": 7.995454788208008, + "learning_rate": 2.7113277037898883e-06, + "loss": 0.1375, + "num_input_tokens_seen": 20965408, + "step": 10713 + }, + { + "epoch": 1.4200132538104704, + "grad_norm": 3.8892593383789062, + "learning_rate": 2.7109818069028904e-06, + "loss": 0.1005, + "num_input_tokens_seen": 20968760, + "step": 10714 + }, + { + "epoch": 1.4201457919151756, + "grad_norm": 4.330591201782227, + "learning_rate": 2.710635905948017e-06, + "loss": 0.1271, + "num_input_tokens_seen": 20970616, + "step": 10715 + }, + { + "epoch": 1.4202783300198807, + "grad_norm": 6.15462589263916, + "learning_rate": 2.710290000931938e-06, + "loss": 0.1639, + "num_input_tokens_seen": 20972784, + "step": 10716 + }, + { + "epoch": 1.420410868124586, + "grad_norm": 1.6662498712539673, + "learning_rate": 2.7099440918613233e-06, + "loss": 0.0186, + "num_input_tokens_seen": 20974376, + "step": 10717 + }, + { + "epoch": 1.420543406229291, + "grad_norm": 4.802343368530273, + "learning_rate": 2.7095981787428405e-06, + "loss": 0.0682, + "num_input_tokens_seen": 20976344, + "step": 10718 + }, + { + "epoch": 1.420675944333996, + "grad_norm": 14.069927215576172, + "learning_rate": 2.709252261583162e-06, + "loss": 0.3954, + "num_input_tokens_seen": 20978152, + "step": 10719 + }, + { + "epoch": 1.420808482438701, + "grad_norm": 0.21985822916030884, + "learning_rate": 2.7089063403889547e-06, + "loss": 0.0016, + "num_input_tokens_seen": 20979976, + "step": 10720 + }, + { + "epoch": 1.420941020543406, + "grad_norm": 10.50622844696045, + "learning_rate": 2.7085604151668882e-06, + "loss": 0.2087, + "num_input_tokens_seen": 20982496, + "step": 10721 + }, + { + "epoch": 1.4210735586481114, + "grad_norm": 11.014713287353516, + "learning_rate": 2.708214485923634e-06, + "loss": 0.3833, + "num_input_tokens_seen": 20984784, + "step": 10722 + }, + { + "epoch": 1.4212060967528164, + "grad_norm": 0.06483417004346848, + "learning_rate": 2.7078685526658604e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20986064, + "step": 10723 + }, + { + "epoch": 1.4213386348575217, + "grad_norm": 2.469977855682373, + "learning_rate": 2.7075226154002378e-06, + "loss": 0.0225, + "num_input_tokens_seen": 20989232, + "step": 10724 + }, + { + "epoch": 1.4214711729622267, + "grad_norm": 8.448700904846191, + "learning_rate": 2.7071766741334365e-06, + "loss": 0.1814, + "num_input_tokens_seen": 20992456, + "step": 10725 + }, + { + "epoch": 1.4216037110669317, + "grad_norm": 0.23664437234401703, + "learning_rate": 2.706830728872125e-06, + "loss": 0.0016, + "num_input_tokens_seen": 20993848, + "step": 10726 + }, + { + "epoch": 1.4217362491716368, + "grad_norm": 5.103252410888672, + "learning_rate": 2.7064847796229756e-06, + "loss": 0.05, + "num_input_tokens_seen": 20996960, + "step": 10727 + }, + { + "epoch": 1.421868787276342, + "grad_norm": 13.323234558105469, + "learning_rate": 2.706138826392656e-06, + "loss": 0.2098, + "num_input_tokens_seen": 20999008, + "step": 10728 + }, + { + "epoch": 1.422001325381047, + "grad_norm": 7.097051620483398, + "learning_rate": 2.7057928691878387e-06, + "loss": 0.2471, + "num_input_tokens_seen": 21000824, + "step": 10729 + }, + { + "epoch": 1.422133863485752, + "grad_norm": 0.07095486670732498, + "learning_rate": 2.7054469080151923e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21002216, + "step": 10730 + }, + { + "epoch": 1.4222664015904574, + "grad_norm": 7.510002613067627, + "learning_rate": 2.7051009428813873e-06, + "loss": 0.2944, + "num_input_tokens_seen": 21004144, + "step": 10731 + }, + { + "epoch": 1.4223989396951624, + "grad_norm": 0.1955568790435791, + "learning_rate": 2.704754973793096e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21005544, + "step": 10732 + }, + { + "epoch": 1.4225314777998674, + "grad_norm": 2.6343190670013428, + "learning_rate": 2.704409000756987e-06, + "loss": 0.0198, + "num_input_tokens_seen": 21007368, + "step": 10733 + }, + { + "epoch": 1.4226640159045725, + "grad_norm": 4.825110912322998, + "learning_rate": 2.7040630237797306e-06, + "loss": 0.0478, + "num_input_tokens_seen": 21009352, + "step": 10734 + }, + { + "epoch": 1.4227965540092777, + "grad_norm": 0.5988158583641052, + "learning_rate": 2.7037170428679985e-06, + "loss": 0.0043, + "num_input_tokens_seen": 21011072, + "step": 10735 + }, + { + "epoch": 1.4229290921139828, + "grad_norm": 7.015699863433838, + "learning_rate": 2.7033710580284617e-06, + "loss": 0.0269, + "num_input_tokens_seen": 21013352, + "step": 10736 + }, + { + "epoch": 1.4230616302186878, + "grad_norm": 11.575616836547852, + "learning_rate": 2.703025069267791e-06, + "loss": 0.2996, + "num_input_tokens_seen": 21016008, + "step": 10737 + }, + { + "epoch": 1.423194168323393, + "grad_norm": 0.09432853758335114, + "learning_rate": 2.7026790765926566e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21017272, + "step": 10738 + }, + { + "epoch": 1.423326706428098, + "grad_norm": 6.571661472320557, + "learning_rate": 2.7023330800097295e-06, + "loss": 0.2169, + "num_input_tokens_seen": 21019392, + "step": 10739 + }, + { + "epoch": 1.4234592445328031, + "grad_norm": 8.83761215209961, + "learning_rate": 2.7019870795256813e-06, + "loss": 0.051, + "num_input_tokens_seen": 21021800, + "step": 10740 + }, + { + "epoch": 1.4235917826375082, + "grad_norm": 0.5460322499275208, + "learning_rate": 2.7016410751471827e-06, + "loss": 0.005, + "num_input_tokens_seen": 21023520, + "step": 10741 + }, + { + "epoch": 1.4237243207422134, + "grad_norm": 10.693652153015137, + "learning_rate": 2.7012950668809053e-06, + "loss": 0.1056, + "num_input_tokens_seen": 21024552, + "step": 10742 + }, + { + "epoch": 1.4238568588469185, + "grad_norm": 7.407985210418701, + "learning_rate": 2.7009490547335205e-06, + "loss": 0.0789, + "num_input_tokens_seen": 21026504, + "step": 10743 + }, + { + "epoch": 1.4239893969516235, + "grad_norm": 3.5396578311920166, + "learning_rate": 2.700603038711699e-06, + "loss": 0.0498, + "num_input_tokens_seen": 21028192, + "step": 10744 + }, + { + "epoch": 1.4241219350563288, + "grad_norm": 6.02685022354126, + "learning_rate": 2.7002570188221115e-06, + "loss": 0.0896, + "num_input_tokens_seen": 21030496, + "step": 10745 + }, + { + "epoch": 1.4242544731610338, + "grad_norm": 13.647383689880371, + "learning_rate": 2.699910995071432e-06, + "loss": 0.3442, + "num_input_tokens_seen": 21032368, + "step": 10746 + }, + { + "epoch": 1.4243870112657389, + "grad_norm": 5.454916000366211, + "learning_rate": 2.6995649674663298e-06, + "loss": 0.0846, + "num_input_tokens_seen": 21034920, + "step": 10747 + }, + { + "epoch": 1.424519549370444, + "grad_norm": 6.790247917175293, + "learning_rate": 2.6992189360134776e-06, + "loss": 0.1502, + "num_input_tokens_seen": 21037448, + "step": 10748 + }, + { + "epoch": 1.4246520874751492, + "grad_norm": 2.1342883110046387, + "learning_rate": 2.6988729007195465e-06, + "loss": 0.0252, + "num_input_tokens_seen": 21039400, + "step": 10749 + }, + { + "epoch": 1.4247846255798542, + "grad_norm": 8.948573112487793, + "learning_rate": 2.6985268615912087e-06, + "loss": 0.1485, + "num_input_tokens_seen": 21040976, + "step": 10750 + }, + { + "epoch": 1.4249171636845592, + "grad_norm": 0.0212973952293396, + "learning_rate": 2.6981808186351366e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21042184, + "step": 10751 + }, + { + "epoch": 1.4250497017892645, + "grad_norm": 8.74812126159668, + "learning_rate": 2.697834771858001e-06, + "loss": 0.1209, + "num_input_tokens_seen": 21043952, + "step": 10752 + }, + { + "epoch": 1.4251822398939695, + "grad_norm": 8.053406715393066, + "learning_rate": 2.6974887212664754e-06, + "loss": 0.1652, + "num_input_tokens_seen": 21045896, + "step": 10753 + }, + { + "epoch": 1.4253147779986746, + "grad_norm": 0.5992239713668823, + "learning_rate": 2.69714266686723e-06, + "loss": 0.0063, + "num_input_tokens_seen": 21047760, + "step": 10754 + }, + { + "epoch": 1.4254473161033796, + "grad_norm": 16.952857971191406, + "learning_rate": 2.696796608666939e-06, + "loss": 0.2909, + "num_input_tokens_seen": 21050096, + "step": 10755 + }, + { + "epoch": 1.4255798542080849, + "grad_norm": 0.08713732659816742, + "learning_rate": 2.696450546672273e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21052536, + "step": 10756 + }, + { + "epoch": 1.42571239231279, + "grad_norm": 0.031629063189029694, + "learning_rate": 2.6961044808899043e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21054904, + "step": 10757 + }, + { + "epoch": 1.4258449304174952, + "grad_norm": 0.3914913237094879, + "learning_rate": 2.695758411326507e-06, + "loss": 0.0023, + "num_input_tokens_seen": 21056216, + "step": 10758 + }, + { + "epoch": 1.4259774685222002, + "grad_norm": 11.714195251464844, + "learning_rate": 2.695412337988752e-06, + "loss": 0.3401, + "num_input_tokens_seen": 21058448, + "step": 10759 + }, + { + "epoch": 1.4261100066269052, + "grad_norm": 1.5228157043457031, + "learning_rate": 2.695066260883313e-06, + "loss": 0.0202, + "num_input_tokens_seen": 21060784, + "step": 10760 + }, + { + "epoch": 1.4262425447316103, + "grad_norm": 6.81503438949585, + "learning_rate": 2.6947201800168616e-06, + "loss": 0.0941, + "num_input_tokens_seen": 21062848, + "step": 10761 + }, + { + "epoch": 1.4263750828363153, + "grad_norm": 2.946133852005005, + "learning_rate": 2.6943740953960694e-06, + "loss": 0.0448, + "num_input_tokens_seen": 21065120, + "step": 10762 + }, + { + "epoch": 1.4265076209410206, + "grad_norm": 8.323074340820312, + "learning_rate": 2.694028007027612e-06, + "loss": 0.2973, + "num_input_tokens_seen": 21067592, + "step": 10763 + }, + { + "epoch": 1.4266401590457256, + "grad_norm": 0.021862177178263664, + "learning_rate": 2.693681914918161e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21069480, + "step": 10764 + }, + { + "epoch": 1.4267726971504309, + "grad_norm": 6.99967098236084, + "learning_rate": 2.693335819074388e-06, + "loss": 0.1365, + "num_input_tokens_seen": 21071304, + "step": 10765 + }, + { + "epoch": 1.426905235255136, + "grad_norm": 10.257532119750977, + "learning_rate": 2.692989719502968e-06, + "loss": 0.2691, + "num_input_tokens_seen": 21073104, + "step": 10766 + }, + { + "epoch": 1.427037773359841, + "grad_norm": 4.620853900909424, + "learning_rate": 2.6926436162105725e-06, + "loss": 0.0462, + "num_input_tokens_seen": 21074448, + "step": 10767 + }, + { + "epoch": 1.427170311464546, + "grad_norm": 2.277707099914551, + "learning_rate": 2.692297509203875e-06, + "loss": 0.0173, + "num_input_tokens_seen": 21075952, + "step": 10768 + }, + { + "epoch": 1.4273028495692512, + "grad_norm": 7.918296813964844, + "learning_rate": 2.6919513984895494e-06, + "loss": 0.2352, + "num_input_tokens_seen": 21078216, + "step": 10769 + }, + { + "epoch": 1.4274353876739563, + "grad_norm": 5.6482062339782715, + "learning_rate": 2.6916052840742686e-06, + "loss": 0.0275, + "num_input_tokens_seen": 21080512, + "step": 10770 + }, + { + "epoch": 1.4275679257786613, + "grad_norm": 7.644151210784912, + "learning_rate": 2.691259165964705e-06, + "loss": 0.2771, + "num_input_tokens_seen": 21082248, + "step": 10771 + }, + { + "epoch": 1.4277004638833666, + "grad_norm": 3.9690589904785156, + "learning_rate": 2.6909130441675336e-06, + "loss": 0.0608, + "num_input_tokens_seen": 21084360, + "step": 10772 + }, + { + "epoch": 1.4278330019880716, + "grad_norm": 0.04588577151298523, + "learning_rate": 2.690566918689426e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21085720, + "step": 10773 + }, + { + "epoch": 1.4279655400927767, + "grad_norm": 0.09488814324140549, + "learning_rate": 2.690220789537057e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21086808, + "step": 10774 + }, + { + "epoch": 1.4280980781974817, + "grad_norm": 5.080634117126465, + "learning_rate": 2.6898746567171e-06, + "loss": 0.0617, + "num_input_tokens_seen": 21089792, + "step": 10775 + }, + { + "epoch": 1.428230616302187, + "grad_norm": 4.373073577880859, + "learning_rate": 2.6895285202362294e-06, + "loss": 0.0812, + "num_input_tokens_seen": 21091920, + "step": 10776 + }, + { + "epoch": 1.428363154406892, + "grad_norm": 0.016191670671105385, + "learning_rate": 2.6891823801011176e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21093072, + "step": 10777 + }, + { + "epoch": 1.428495692511597, + "grad_norm": 7.616604328155518, + "learning_rate": 2.6888362363184384e-06, + "loss": 0.0806, + "num_input_tokens_seen": 21095512, + "step": 10778 + }, + { + "epoch": 1.4286282306163023, + "grad_norm": 4.610668182373047, + "learning_rate": 2.6884900888948672e-06, + "loss": 0.1204, + "num_input_tokens_seen": 21097480, + "step": 10779 + }, + { + "epoch": 1.4287607687210073, + "grad_norm": 0.036202505230903625, + "learning_rate": 2.6881439378370763e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21098696, + "step": 10780 + }, + { + "epoch": 1.4288933068257124, + "grad_norm": 2.6236343383789062, + "learning_rate": 2.687797783151741e-06, + "loss": 0.0369, + "num_input_tokens_seen": 21101352, + "step": 10781 + }, + { + "epoch": 1.4290258449304174, + "grad_norm": 1.6541774272918701, + "learning_rate": 2.6874516248455358e-06, + "loss": 0.0156, + "num_input_tokens_seen": 21104160, + "step": 10782 + }, + { + "epoch": 1.4291583830351227, + "grad_norm": 0.02200099267065525, + "learning_rate": 2.687105462925132e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21106520, + "step": 10783 + }, + { + "epoch": 1.4292909211398277, + "grad_norm": 0.012917269952595234, + "learning_rate": 2.6867592973972075e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21107504, + "step": 10784 + }, + { + "epoch": 1.4294234592445327, + "grad_norm": 3.4966816902160645, + "learning_rate": 2.6864131282684336e-06, + "loss": 0.0466, + "num_input_tokens_seen": 21109256, + "step": 10785 + }, + { + "epoch": 1.429555997349238, + "grad_norm": 1.1626818180084229, + "learning_rate": 2.6860669555454868e-06, + "loss": 0.011, + "num_input_tokens_seen": 21112192, + "step": 10786 + }, + { + "epoch": 1.429688535453943, + "grad_norm": 9.177265167236328, + "learning_rate": 2.6857207792350403e-06, + "loss": 0.1326, + "num_input_tokens_seen": 21113808, + "step": 10787 + }, + { + "epoch": 1.429821073558648, + "grad_norm": 8.129093170166016, + "learning_rate": 2.685374599343769e-06, + "loss": 0.2534, + "num_input_tokens_seen": 21115792, + "step": 10788 + }, + { + "epoch": 1.429953611663353, + "grad_norm": 7.252820014953613, + "learning_rate": 2.685028415878348e-06, + "loss": 0.1092, + "num_input_tokens_seen": 21117616, + "step": 10789 + }, + { + "epoch": 1.4300861497680584, + "grad_norm": 4.159541130065918, + "learning_rate": 2.6846822288454518e-06, + "loss": 0.0175, + "num_input_tokens_seen": 21119264, + "step": 10790 + }, + { + "epoch": 1.4302186878727634, + "grad_norm": 18.92696189880371, + "learning_rate": 2.6843360382517542e-06, + "loss": 0.2849, + "num_input_tokens_seen": 21121248, + "step": 10791 + }, + { + "epoch": 1.4303512259774684, + "grad_norm": 6.462379455566406, + "learning_rate": 2.68398984410393e-06, + "loss": 0.1016, + "num_input_tokens_seen": 21123776, + "step": 10792 + }, + { + "epoch": 1.4304837640821737, + "grad_norm": 7.214189052581787, + "learning_rate": 2.683643646408656e-06, + "loss": 0.14, + "num_input_tokens_seen": 21126072, + "step": 10793 + }, + { + "epoch": 1.4306163021868787, + "grad_norm": 0.04476047307252884, + "learning_rate": 2.683297445172605e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21127528, + "step": 10794 + }, + { + "epoch": 1.4307488402915838, + "grad_norm": 1.2396240234375, + "learning_rate": 2.6829512404024526e-06, + "loss": 0.0095, + "num_input_tokens_seen": 21129328, + "step": 10795 + }, + { + "epoch": 1.4308813783962888, + "grad_norm": 0.012335745617747307, + "learning_rate": 2.6826050321048745e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21130856, + "step": 10796 + }, + { + "epoch": 1.431013916500994, + "grad_norm": 12.724159240722656, + "learning_rate": 2.6822588202865464e-06, + "loss": 0.2843, + "num_input_tokens_seen": 21132576, + "step": 10797 + }, + { + "epoch": 1.4311464546056991, + "grad_norm": 7.841065883636475, + "learning_rate": 2.6819126049541404e-06, + "loss": 0.1608, + "num_input_tokens_seen": 21134776, + "step": 10798 + }, + { + "epoch": 1.4312789927104044, + "grad_norm": 13.757062911987305, + "learning_rate": 2.6815663861143356e-06, + "loss": 0.3978, + "num_input_tokens_seen": 21136440, + "step": 10799 + }, + { + "epoch": 1.4314115308151094, + "grad_norm": 17.46832275390625, + "learning_rate": 2.681220163773805e-06, + "loss": 0.674, + "num_input_tokens_seen": 21139616, + "step": 10800 + }, + { + "epoch": 1.4315440689198144, + "grad_norm": 0.028478533029556274, + "learning_rate": 2.680873937939224e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21141000, + "step": 10801 + }, + { + "epoch": 1.4316766070245195, + "grad_norm": 7.294116973876953, + "learning_rate": 2.68052770861727e-06, + "loss": 0.1726, + "num_input_tokens_seen": 21143024, + "step": 10802 + }, + { + "epoch": 1.4318091451292245, + "grad_norm": 6.928138256072998, + "learning_rate": 2.680181475814616e-06, + "loss": 0.1766, + "num_input_tokens_seen": 21144880, + "step": 10803 + }, + { + "epoch": 1.4319416832339298, + "grad_norm": 1.035500168800354, + "learning_rate": 2.6798352395379394e-06, + "loss": 0.0061, + "num_input_tokens_seen": 21147032, + "step": 10804 + }, + { + "epoch": 1.4320742213386348, + "grad_norm": 0.03243763744831085, + "learning_rate": 2.679488999793916e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21148904, + "step": 10805 + }, + { + "epoch": 1.43220675944334, + "grad_norm": 8.883461952209473, + "learning_rate": 2.67914275658922e-06, + "loss": 0.1167, + "num_input_tokens_seen": 21150504, + "step": 10806 + }, + { + "epoch": 1.4323392975480451, + "grad_norm": 4.02717924118042, + "learning_rate": 2.678796509930528e-06, + "loss": 0.0706, + "num_input_tokens_seen": 21152000, + "step": 10807 + }, + { + "epoch": 1.4324718356527502, + "grad_norm": 0.05344383046030998, + "learning_rate": 2.6784502598245166e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21153840, + "step": 10808 + }, + { + "epoch": 1.4326043737574552, + "grad_norm": 1.95729398727417, + "learning_rate": 2.678104006277861e-06, + "loss": 0.0165, + "num_input_tokens_seen": 21155664, + "step": 10809 + }, + { + "epoch": 1.4327369118621602, + "grad_norm": 4.9740309715271, + "learning_rate": 2.677757749297236e-06, + "loss": 0.0505, + "num_input_tokens_seen": 21157600, + "step": 10810 + }, + { + "epoch": 1.4328694499668655, + "grad_norm": 3.5419251918792725, + "learning_rate": 2.67741148888932e-06, + "loss": 0.0594, + "num_input_tokens_seen": 21159448, + "step": 10811 + }, + { + "epoch": 1.4330019880715705, + "grad_norm": 0.08372638374567032, + "learning_rate": 2.6770652250607887e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21161296, + "step": 10812 + }, + { + "epoch": 1.4331345261762758, + "grad_norm": 1.6004853248596191, + "learning_rate": 2.6767189578183166e-06, + "loss": 0.0072, + "num_input_tokens_seen": 21162760, + "step": 10813 + }, + { + "epoch": 1.4332670642809808, + "grad_norm": 7.510328769683838, + "learning_rate": 2.676372687168581e-06, + "loss": 0.1518, + "num_input_tokens_seen": 21164640, + "step": 10814 + }, + { + "epoch": 1.4333996023856859, + "grad_norm": 0.872948169708252, + "learning_rate": 2.676026413118259e-06, + "loss": 0.006, + "num_input_tokens_seen": 21167400, + "step": 10815 + }, + { + "epoch": 1.433532140490391, + "grad_norm": 6.372611045837402, + "learning_rate": 2.675680135674027e-06, + "loss": 0.138, + "num_input_tokens_seen": 21169608, + "step": 10816 + }, + { + "epoch": 1.4336646785950962, + "grad_norm": 0.12144671380519867, + "learning_rate": 2.6753338548425596e-06, + "loss": 0.0009, + "num_input_tokens_seen": 21172496, + "step": 10817 + }, + { + "epoch": 1.4337972166998012, + "grad_norm": 0.8862242698669434, + "learning_rate": 2.674987570630535e-06, + "loss": 0.0043, + "num_input_tokens_seen": 21174272, + "step": 10818 + }, + { + "epoch": 1.4339297548045062, + "grad_norm": 8.42066478729248, + "learning_rate": 2.674641283044629e-06, + "loss": 0.0537, + "num_input_tokens_seen": 21175952, + "step": 10819 + }, + { + "epoch": 1.4340622929092115, + "grad_norm": 3.451714038848877, + "learning_rate": 2.674294992091519e-06, + "loss": 0.0249, + "num_input_tokens_seen": 21177584, + "step": 10820 + }, + { + "epoch": 1.4341948310139165, + "grad_norm": 16.580110549926758, + "learning_rate": 2.673948697777881e-06, + "loss": 0.2487, + "num_input_tokens_seen": 21179592, + "step": 10821 + }, + { + "epoch": 1.4343273691186216, + "grad_norm": 12.697294235229492, + "learning_rate": 2.673602400110392e-06, + "loss": 0.3123, + "num_input_tokens_seen": 21181880, + "step": 10822 + }, + { + "epoch": 1.4344599072233266, + "grad_norm": 11.573830604553223, + "learning_rate": 2.6732560990957295e-06, + "loss": 0.2114, + "num_input_tokens_seen": 21184000, + "step": 10823 + }, + { + "epoch": 1.4345924453280319, + "grad_norm": 6.1512250900268555, + "learning_rate": 2.67290979474057e-06, + "loss": 0.085, + "num_input_tokens_seen": 21186744, + "step": 10824 + }, + { + "epoch": 1.434724983432737, + "grad_norm": 6.671546459197998, + "learning_rate": 2.6725634870515892e-06, + "loss": 0.1158, + "num_input_tokens_seen": 21188272, + "step": 10825 + }, + { + "epoch": 1.434857521537442, + "grad_norm": 6.947902679443359, + "learning_rate": 2.6722171760354666e-06, + "loss": 0.1654, + "num_input_tokens_seen": 21190016, + "step": 10826 + }, + { + "epoch": 1.4349900596421472, + "grad_norm": 10.70562744140625, + "learning_rate": 2.6718708616988774e-06, + "loss": 0.1895, + "num_input_tokens_seen": 21192192, + "step": 10827 + }, + { + "epoch": 1.4351225977468522, + "grad_norm": 5.385256290435791, + "learning_rate": 2.6715245440484993e-06, + "loss": 0.068, + "num_input_tokens_seen": 21193728, + "step": 10828 + }, + { + "epoch": 1.4352551358515573, + "grad_norm": 0.04405488446354866, + "learning_rate": 2.67117822309101e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21195648, + "step": 10829 + }, + { + "epoch": 1.4353876739562623, + "grad_norm": 0.03205659240484238, + "learning_rate": 2.6708318988330855e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21197464, + "step": 10830 + }, + { + "epoch": 1.4355202120609676, + "grad_norm": 14.518558502197266, + "learning_rate": 2.670485571281406e-06, + "loss": 0.2543, + "num_input_tokens_seen": 21199568, + "step": 10831 + }, + { + "epoch": 1.4356527501656726, + "grad_norm": 0.09428905695676804, + "learning_rate": 2.6701392404426456e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21200952, + "step": 10832 + }, + { + "epoch": 1.4357852882703777, + "grad_norm": 9.231392860412598, + "learning_rate": 2.6697929063234833e-06, + "loss": 0.3062, + "num_input_tokens_seen": 21202528, + "step": 10833 + }, + { + "epoch": 1.435917826375083, + "grad_norm": 4.179986476898193, + "learning_rate": 2.6694465689305976e-06, + "loss": 0.0403, + "num_input_tokens_seen": 21204472, + "step": 10834 + }, + { + "epoch": 1.436050364479788, + "grad_norm": 12.07902717590332, + "learning_rate": 2.6691002282706647e-06, + "loss": 0.2788, + "num_input_tokens_seen": 21207408, + "step": 10835 + }, + { + "epoch": 1.436182902584493, + "grad_norm": 8.348955154418945, + "learning_rate": 2.6687538843503622e-06, + "loss": 0.2033, + "num_input_tokens_seen": 21209488, + "step": 10836 + }, + { + "epoch": 1.436315440689198, + "grad_norm": 0.08609013259410858, + "learning_rate": 2.668407537176369e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21211672, + "step": 10837 + }, + { + "epoch": 1.4364479787939033, + "grad_norm": 4.086520195007324, + "learning_rate": 2.6680611867553623e-06, + "loss": 0.0973, + "num_input_tokens_seen": 21214256, + "step": 10838 + }, + { + "epoch": 1.4365805168986083, + "grad_norm": 1.847739577293396, + "learning_rate": 2.66771483309402e-06, + "loss": 0.0153, + "num_input_tokens_seen": 21215864, + "step": 10839 + }, + { + "epoch": 1.4367130550033136, + "grad_norm": 13.70706844329834, + "learning_rate": 2.6673684761990194e-06, + "loss": 0.115, + "num_input_tokens_seen": 21217704, + "step": 10840 + }, + { + "epoch": 1.4368455931080186, + "grad_norm": 0.029677601531147957, + "learning_rate": 2.6670221160770404e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21220272, + "step": 10841 + }, + { + "epoch": 1.4369781312127237, + "grad_norm": 4.11194372177124, + "learning_rate": 2.6666757527347582e-06, + "loss": 0.0307, + "num_input_tokens_seen": 21221440, + "step": 10842 + }, + { + "epoch": 1.4371106693174287, + "grad_norm": 0.0691581666469574, + "learning_rate": 2.6663293861788534e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21222496, + "step": 10843 + }, + { + "epoch": 1.4372432074221337, + "grad_norm": 7.387668609619141, + "learning_rate": 2.665983016416004e-06, + "loss": 0.1529, + "num_input_tokens_seen": 21225360, + "step": 10844 + }, + { + "epoch": 1.437375745526839, + "grad_norm": 0.18080316483974457, + "learning_rate": 2.6656366434528856e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21227840, + "step": 10845 + }, + { + "epoch": 1.437508283631544, + "grad_norm": 5.551860809326172, + "learning_rate": 2.66529026729618e-06, + "loss": 0.0473, + "num_input_tokens_seen": 21229480, + "step": 10846 + }, + { + "epoch": 1.4376408217362493, + "grad_norm": 0.3541734516620636, + "learning_rate": 2.664943887952564e-06, + "loss": 0.0035, + "num_input_tokens_seen": 21230520, + "step": 10847 + }, + { + "epoch": 1.4377733598409543, + "grad_norm": 0.04205181077122688, + "learning_rate": 2.6645975054287147e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21232144, + "step": 10848 + }, + { + "epoch": 1.4379058979456594, + "grad_norm": 0.7722583413124084, + "learning_rate": 2.6642511197313133e-06, + "loss": 0.0051, + "num_input_tokens_seen": 21234744, + "step": 10849 + }, + { + "epoch": 1.4380384360503644, + "grad_norm": 0.3419129550457001, + "learning_rate": 2.663904730867036e-06, + "loss": 0.0032, + "num_input_tokens_seen": 21236128, + "step": 10850 + }, + { + "epoch": 1.4381709741550694, + "grad_norm": 7.903298377990723, + "learning_rate": 2.6635583388425632e-06, + "loss": 0.1407, + "num_input_tokens_seen": 21238600, + "step": 10851 + }, + { + "epoch": 1.4383035122597747, + "grad_norm": 1.1632781028747559, + "learning_rate": 2.663211943664573e-06, + "loss": 0.0074, + "num_input_tokens_seen": 21240104, + "step": 10852 + }, + { + "epoch": 1.4384360503644797, + "grad_norm": 0.1822330355644226, + "learning_rate": 2.6628655453397434e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21241712, + "step": 10853 + }, + { + "epoch": 1.438568588469185, + "grad_norm": 6.655280590057373, + "learning_rate": 2.6625191438747534e-06, + "loss": 0.1056, + "num_input_tokens_seen": 21243016, + "step": 10854 + }, + { + "epoch": 1.43870112657389, + "grad_norm": 0.21163149178028107, + "learning_rate": 2.6621727392762827e-06, + "loss": 0.0015, + "num_input_tokens_seen": 21244776, + "step": 10855 + }, + { + "epoch": 1.438833664678595, + "grad_norm": 7.408387184143066, + "learning_rate": 2.66182633155101e-06, + "loss": 0.1293, + "num_input_tokens_seen": 21246560, + "step": 10856 + }, + { + "epoch": 1.4389662027833001, + "grad_norm": 3.002204179763794, + "learning_rate": 2.6614799207056134e-06, + "loss": 0.0817, + "num_input_tokens_seen": 21248992, + "step": 10857 + }, + { + "epoch": 1.4390987408880054, + "grad_norm": 0.11059904843568802, + "learning_rate": 2.6611335067467726e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21250768, + "step": 10858 + }, + { + "epoch": 1.4392312789927104, + "grad_norm": 10.025544166564941, + "learning_rate": 2.660787089681167e-06, + "loss": 0.0919, + "num_input_tokens_seen": 21253208, + "step": 10859 + }, + { + "epoch": 1.4393638170974155, + "grad_norm": 1.1724212169647217, + "learning_rate": 2.660440669515475e-06, + "loss": 0.0095, + "num_input_tokens_seen": 21256096, + "step": 10860 + }, + { + "epoch": 1.4394963552021207, + "grad_norm": 3.212331533432007, + "learning_rate": 2.660094246256376e-06, + "loss": 0.059, + "num_input_tokens_seen": 21257560, + "step": 10861 + }, + { + "epoch": 1.4396288933068258, + "grad_norm": 0.04032079875469208, + "learning_rate": 2.6597478199105507e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21258816, + "step": 10862 + }, + { + "epoch": 1.4397614314115308, + "grad_norm": 7.889703750610352, + "learning_rate": 2.6594013904846753e-06, + "loss": 0.2138, + "num_input_tokens_seen": 21260544, + "step": 10863 + }, + { + "epoch": 1.4398939695162358, + "grad_norm": 1.3625165224075317, + "learning_rate": 2.659054957985433e-06, + "loss": 0.014, + "num_input_tokens_seen": 21262776, + "step": 10864 + }, + { + "epoch": 1.440026507620941, + "grad_norm": 2.79219651222229, + "learning_rate": 2.658708522419501e-06, + "loss": 0.0253, + "num_input_tokens_seen": 21264744, + "step": 10865 + }, + { + "epoch": 1.4401590457256461, + "grad_norm": 2.9032938480377197, + "learning_rate": 2.658362083793558e-06, + "loss": 0.0077, + "num_input_tokens_seen": 21266288, + "step": 10866 + }, + { + "epoch": 1.4402915838303512, + "grad_norm": 16.138391494750977, + "learning_rate": 2.658015642114286e-06, + "loss": 0.484, + "num_input_tokens_seen": 21268632, + "step": 10867 + }, + { + "epoch": 1.4404241219350564, + "grad_norm": 1.767700433731079, + "learning_rate": 2.657669197388363e-06, + "loss": 0.0201, + "num_input_tokens_seen": 21270600, + "step": 10868 + }, + { + "epoch": 1.4405566600397615, + "grad_norm": 0.4708884060382843, + "learning_rate": 2.6573227496224686e-06, + "loss": 0.0098, + "num_input_tokens_seen": 21272960, + "step": 10869 + }, + { + "epoch": 1.4406891981444665, + "grad_norm": 7.196113109588623, + "learning_rate": 2.6569762988232838e-06, + "loss": 0.0698, + "num_input_tokens_seen": 21275088, + "step": 10870 + }, + { + "epoch": 1.4408217362491715, + "grad_norm": 12.136961936950684, + "learning_rate": 2.6566298449974875e-06, + "loss": 0.1915, + "num_input_tokens_seen": 21277680, + "step": 10871 + }, + { + "epoch": 1.4409542743538768, + "grad_norm": 2.3023693561553955, + "learning_rate": 2.6562833881517597e-06, + "loss": 0.0114, + "num_input_tokens_seen": 21279496, + "step": 10872 + }, + { + "epoch": 1.4410868124585818, + "grad_norm": 8.550653457641602, + "learning_rate": 2.6559369282927803e-06, + "loss": 0.1449, + "num_input_tokens_seen": 21281480, + "step": 10873 + }, + { + "epoch": 1.4412193505632869, + "grad_norm": 8.463733673095703, + "learning_rate": 2.655590465427229e-06, + "loss": 0.0361, + "num_input_tokens_seen": 21283024, + "step": 10874 + }, + { + "epoch": 1.4413518886679921, + "grad_norm": 8.72244930267334, + "learning_rate": 2.6552439995617866e-06, + "loss": 0.1854, + "num_input_tokens_seen": 21285192, + "step": 10875 + }, + { + "epoch": 1.4414844267726972, + "grad_norm": 10.276098251342773, + "learning_rate": 2.6548975307031326e-06, + "loss": 0.164, + "num_input_tokens_seen": 21287384, + "step": 10876 + }, + { + "epoch": 1.4416169648774022, + "grad_norm": 0.015046215616166592, + "learning_rate": 2.6545510588579483e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21288768, + "step": 10877 + }, + { + "epoch": 1.4417495029821072, + "grad_norm": 11.002762794494629, + "learning_rate": 2.6542045840329115e-06, + "loss": 0.1451, + "num_input_tokens_seen": 21290872, + "step": 10878 + }, + { + "epoch": 1.4418820410868125, + "grad_norm": 2.009108781814575, + "learning_rate": 2.6538581062347048e-06, + "loss": 0.0195, + "num_input_tokens_seen": 21292808, + "step": 10879 + }, + { + "epoch": 1.4420145791915175, + "grad_norm": 7.2593183517456055, + "learning_rate": 2.653511625470008e-06, + "loss": 0.2822, + "num_input_tokens_seen": 21294736, + "step": 10880 + }, + { + "epoch": 1.4421471172962228, + "grad_norm": 0.1216149851679802, + "learning_rate": 2.6531651417454995e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21297488, + "step": 10881 + }, + { + "epoch": 1.4422796554009278, + "grad_norm": 6.1806793212890625, + "learning_rate": 2.6528186550678633e-06, + "loss": 0.153, + "num_input_tokens_seen": 21301048, + "step": 10882 + }, + { + "epoch": 1.4424121935056329, + "grad_norm": 4.283254623413086, + "learning_rate": 2.652472165443777e-06, + "loss": 0.1848, + "num_input_tokens_seen": 21303304, + "step": 10883 + }, + { + "epoch": 1.442544731610338, + "grad_norm": 6.099390983581543, + "learning_rate": 2.6521256728799223e-06, + "loss": 0.085, + "num_input_tokens_seen": 21305336, + "step": 10884 + }, + { + "epoch": 1.442677269715043, + "grad_norm": 8.291504859924316, + "learning_rate": 2.65177917738298e-06, + "loss": 0.1675, + "num_input_tokens_seen": 21307608, + "step": 10885 + }, + { + "epoch": 1.4428098078197482, + "grad_norm": 3.575012683868408, + "learning_rate": 2.65143267895963e-06, + "loss": 0.1128, + "num_input_tokens_seen": 21309664, + "step": 10886 + }, + { + "epoch": 1.4429423459244533, + "grad_norm": 10.08403491973877, + "learning_rate": 2.6510861776165536e-06, + "loss": 0.1998, + "num_input_tokens_seen": 21311856, + "step": 10887 + }, + { + "epoch": 1.4430748840291585, + "grad_norm": 6.192297458648682, + "learning_rate": 2.6507396733604317e-06, + "loss": 0.1451, + "num_input_tokens_seen": 21314000, + "step": 10888 + }, + { + "epoch": 1.4432074221338635, + "grad_norm": 0.017191238701343536, + "learning_rate": 2.650393166197945e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21315072, + "step": 10889 + }, + { + "epoch": 1.4433399602385686, + "grad_norm": 0.02423868142068386, + "learning_rate": 2.6500466561357733e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21317256, + "step": 10890 + }, + { + "epoch": 1.4434724983432736, + "grad_norm": 2.660085439682007, + "learning_rate": 2.6497001431806e-06, + "loss": 0.0149, + "num_input_tokens_seen": 21318440, + "step": 10891 + }, + { + "epoch": 1.4436050364479787, + "grad_norm": 6.089280128479004, + "learning_rate": 2.649353627339104e-06, + "loss": 0.1332, + "num_input_tokens_seen": 21320512, + "step": 10892 + }, + { + "epoch": 1.443737574552684, + "grad_norm": 7.312432765960693, + "learning_rate": 2.6490071086179668e-06, + "loss": 0.1663, + "num_input_tokens_seen": 21322416, + "step": 10893 + }, + { + "epoch": 1.443870112657389, + "grad_norm": 5.278479099273682, + "learning_rate": 2.6486605870238702e-06, + "loss": 0.0486, + "num_input_tokens_seen": 21325104, + "step": 10894 + }, + { + "epoch": 1.4440026507620942, + "grad_norm": 0.106948122382164, + "learning_rate": 2.6483140625634947e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21327072, + "step": 10895 + }, + { + "epoch": 1.4441351888667993, + "grad_norm": 5.404239654541016, + "learning_rate": 2.647967535243522e-06, + "loss": 0.1117, + "num_input_tokens_seen": 21329296, + "step": 10896 + }, + { + "epoch": 1.4442677269715043, + "grad_norm": 9.389456748962402, + "learning_rate": 2.6476210050706325e-06, + "loss": 0.1636, + "num_input_tokens_seen": 21331344, + "step": 10897 + }, + { + "epoch": 1.4444002650762093, + "grad_norm": 1.4074392318725586, + "learning_rate": 2.6472744720515087e-06, + "loss": 0.0071, + "num_input_tokens_seen": 21333712, + "step": 10898 + }, + { + "epoch": 1.4445328031809146, + "grad_norm": 0.042017802596092224, + "learning_rate": 2.6469279361928314e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21334840, + "step": 10899 + }, + { + "epoch": 1.4446653412856196, + "grad_norm": 0.08807942271232605, + "learning_rate": 2.646581397501282e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21337976, + "step": 10900 + }, + { + "epoch": 1.4447978793903247, + "grad_norm": 5.1953277587890625, + "learning_rate": 2.646234855983542e-06, + "loss": 0.0893, + "num_input_tokens_seen": 21339112, + "step": 10901 + }, + { + "epoch": 1.44493041749503, + "grad_norm": 8.31412124633789, + "learning_rate": 2.6458883116462938e-06, + "loss": 0.23, + "num_input_tokens_seen": 21341432, + "step": 10902 + }, + { + "epoch": 1.445062955599735, + "grad_norm": 0.4157674312591553, + "learning_rate": 2.645541764496218e-06, + "loss": 0.0039, + "num_input_tokens_seen": 21343064, + "step": 10903 + }, + { + "epoch": 1.44519549370444, + "grad_norm": 8.908576011657715, + "learning_rate": 2.645195214539996e-06, + "loss": 0.1281, + "num_input_tokens_seen": 21344728, + "step": 10904 + }, + { + "epoch": 1.445328031809145, + "grad_norm": 0.04328708350658417, + "learning_rate": 2.6448486617843105e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21346664, + "step": 10905 + }, + { + "epoch": 1.4454605699138503, + "grad_norm": 9.455588340759277, + "learning_rate": 2.6445021062358433e-06, + "loss": 0.3237, + "num_input_tokens_seen": 21348392, + "step": 10906 + }, + { + "epoch": 1.4455931080185553, + "grad_norm": 0.19983354210853577, + "learning_rate": 2.6441555479012755e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21350120, + "step": 10907 + }, + { + "epoch": 1.4457256461232604, + "grad_norm": 0.3083600699901581, + "learning_rate": 2.643808986787289e-06, + "loss": 0.0017, + "num_input_tokens_seen": 21352104, + "step": 10908 + }, + { + "epoch": 1.4458581842279656, + "grad_norm": 0.11944610625505447, + "learning_rate": 2.6434624229005663e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21354288, + "step": 10909 + }, + { + "epoch": 1.4459907223326707, + "grad_norm": 13.957178115844727, + "learning_rate": 2.643115856247789e-06, + "loss": 0.32, + "num_input_tokens_seen": 21356264, + "step": 10910 + }, + { + "epoch": 1.4461232604373757, + "grad_norm": 5.9540629386901855, + "learning_rate": 2.642769286835639e-06, + "loss": 0.1435, + "num_input_tokens_seen": 21358072, + "step": 10911 + }, + { + "epoch": 1.4462557985420808, + "grad_norm": 9.122639656066895, + "learning_rate": 2.642422714670799e-06, + "loss": 0.2269, + "num_input_tokens_seen": 21360208, + "step": 10912 + }, + { + "epoch": 1.446388336646786, + "grad_norm": 1.7268279790878296, + "learning_rate": 2.6420761397599504e-06, + "loss": 0.0259, + "num_input_tokens_seen": 21361904, + "step": 10913 + }, + { + "epoch": 1.446520874751491, + "grad_norm": 3.9890286922454834, + "learning_rate": 2.6417295621097767e-06, + "loss": 0.0265, + "num_input_tokens_seen": 21364192, + "step": 10914 + }, + { + "epoch": 1.446653412856196, + "grad_norm": 8.87393856048584, + "learning_rate": 2.6413829817269586e-06, + "loss": 0.2262, + "num_input_tokens_seen": 21365792, + "step": 10915 + }, + { + "epoch": 1.4467859509609013, + "grad_norm": 8.883562088012695, + "learning_rate": 2.6410363986181794e-06, + "loss": 0.2228, + "num_input_tokens_seen": 21368344, + "step": 10916 + }, + { + "epoch": 1.4469184890656064, + "grad_norm": 0.031127553433179855, + "learning_rate": 2.640689812790121e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21370232, + "step": 10917 + }, + { + "epoch": 1.4470510271703114, + "grad_norm": 1.267810583114624, + "learning_rate": 2.640343224249466e-06, + "loss": 0.0103, + "num_input_tokens_seen": 21371648, + "step": 10918 + }, + { + "epoch": 1.4471835652750165, + "grad_norm": 0.07533013820648193, + "learning_rate": 2.6399966330028965e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21372912, + "step": 10919 + }, + { + "epoch": 1.4473161033797217, + "grad_norm": 12.462226867675781, + "learning_rate": 2.6396500390570956e-06, + "loss": 0.31, + "num_input_tokens_seen": 21375280, + "step": 10920 + }, + { + "epoch": 1.4474486414844268, + "grad_norm": 3.2640459537506104, + "learning_rate": 2.639303442418746e-06, + "loss": 0.0949, + "num_input_tokens_seen": 21378144, + "step": 10921 + }, + { + "epoch": 1.4475811795891318, + "grad_norm": 0.05585382133722305, + "learning_rate": 2.6389568430945288e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21379272, + "step": 10922 + }, + { + "epoch": 1.447713717693837, + "grad_norm": 5.33964729309082, + "learning_rate": 2.6386102410911287e-06, + "loss": 0.1004, + "num_input_tokens_seen": 21380984, + "step": 10923 + }, + { + "epoch": 1.447846255798542, + "grad_norm": 10.410721778869629, + "learning_rate": 2.6382636364152274e-06, + "loss": 0.1765, + "num_input_tokens_seen": 21383400, + "step": 10924 + }, + { + "epoch": 1.4479787939032471, + "grad_norm": 4.276920795440674, + "learning_rate": 2.6379170290735072e-06, + "loss": 0.0848, + "num_input_tokens_seen": 21385544, + "step": 10925 + }, + { + "epoch": 1.4481113320079522, + "grad_norm": 6.234306812286377, + "learning_rate": 2.6375704190726525e-06, + "loss": 0.1099, + "num_input_tokens_seen": 21387352, + "step": 10926 + }, + { + "epoch": 1.4482438701126574, + "grad_norm": 20.285568237304688, + "learning_rate": 2.637223806419345e-06, + "loss": 0.3372, + "num_input_tokens_seen": 21388528, + "step": 10927 + }, + { + "epoch": 1.4483764082173625, + "grad_norm": 8.563652992248535, + "learning_rate": 2.6368771911202673e-06, + "loss": 0.2984, + "num_input_tokens_seen": 21390344, + "step": 10928 + }, + { + "epoch": 1.4485089463220677, + "grad_norm": 0.03882817551493645, + "learning_rate": 2.6365305731821035e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21391824, + "step": 10929 + }, + { + "epoch": 1.4486414844267728, + "grad_norm": 4.560957908630371, + "learning_rate": 2.6361839526115363e-06, + "loss": 0.0641, + "num_input_tokens_seen": 21393432, + "step": 10930 + }, + { + "epoch": 1.4487740225314778, + "grad_norm": 0.08066105842590332, + "learning_rate": 2.6358373294152473e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21394872, + "step": 10931 + }, + { + "epoch": 1.4489065606361828, + "grad_norm": 10.6721830368042, + "learning_rate": 2.6354907035999224e-06, + "loss": 0.1093, + "num_input_tokens_seen": 21396696, + "step": 10932 + }, + { + "epoch": 1.4490390987408879, + "grad_norm": 0.06653618812561035, + "learning_rate": 2.6351440751722423e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21397936, + "step": 10933 + }, + { + "epoch": 1.4491716368455931, + "grad_norm": 0.024140650406479836, + "learning_rate": 2.634797444138891e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21399584, + "step": 10934 + }, + { + "epoch": 1.4493041749502982, + "grad_norm": 5.0089569091796875, + "learning_rate": 2.6344508105065532e-06, + "loss": 0.1128, + "num_input_tokens_seen": 21401192, + "step": 10935 + }, + { + "epoch": 1.4494367130550034, + "grad_norm": 6.013140678405762, + "learning_rate": 2.6341041742819095e-06, + "loss": 0.0845, + "num_input_tokens_seen": 21403056, + "step": 10936 + }, + { + "epoch": 1.4495692511597085, + "grad_norm": 0.23236481845378876, + "learning_rate": 2.6337575354716456e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21405504, + "step": 10937 + }, + { + "epoch": 1.4497017892644135, + "grad_norm": 4.379516124725342, + "learning_rate": 2.633410894082444e-06, + "loss": 0.1337, + "num_input_tokens_seen": 21407592, + "step": 10938 + }, + { + "epoch": 1.4498343273691185, + "grad_norm": 8.200029373168945, + "learning_rate": 2.6330642501209884e-06, + "loss": 0.1795, + "num_input_tokens_seen": 21410032, + "step": 10939 + }, + { + "epoch": 1.4499668654738238, + "grad_norm": 3.719460964202881, + "learning_rate": 2.632717603593962e-06, + "loss": 0.0454, + "num_input_tokens_seen": 21411608, + "step": 10940 + }, + { + "epoch": 1.4500994035785288, + "grad_norm": 8.499351501464844, + "learning_rate": 2.632370954508049e-06, + "loss": 0.092, + "num_input_tokens_seen": 21413704, + "step": 10941 + }, + { + "epoch": 1.4502319416832339, + "grad_norm": 0.04778960347175598, + "learning_rate": 2.632024302869933e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21416464, + "step": 10942 + }, + { + "epoch": 1.4503644797879391, + "grad_norm": 11.142475128173828, + "learning_rate": 2.6316776486862965e-06, + "loss": 0.0975, + "num_input_tokens_seen": 21418176, + "step": 10943 + }, + { + "epoch": 1.4504970178926442, + "grad_norm": 1.1982251405715942, + "learning_rate": 2.631330991963825e-06, + "loss": 0.0111, + "num_input_tokens_seen": 21419832, + "step": 10944 + }, + { + "epoch": 1.4506295559973492, + "grad_norm": 1.6619386672973633, + "learning_rate": 2.630984332709201e-06, + "loss": 0.0182, + "num_input_tokens_seen": 21421408, + "step": 10945 + }, + { + "epoch": 1.4507620941020543, + "grad_norm": 0.17957210540771484, + "learning_rate": 2.6306376709291082e-06, + "loss": 0.001, + "num_input_tokens_seen": 21424392, + "step": 10946 + }, + { + "epoch": 1.4508946322067595, + "grad_norm": 8.476288795471191, + "learning_rate": 2.6302910066302317e-06, + "loss": 0.3443, + "num_input_tokens_seen": 21426824, + "step": 10947 + }, + { + "epoch": 1.4510271703114646, + "grad_norm": 5.011803150177002, + "learning_rate": 2.629944339819254e-06, + "loss": 0.1052, + "num_input_tokens_seen": 21428608, + "step": 10948 + }, + { + "epoch": 1.4511597084161696, + "grad_norm": 1.140215516090393, + "learning_rate": 2.62959767050286e-06, + "loss": 0.0087, + "num_input_tokens_seen": 21430088, + "step": 10949 + }, + { + "epoch": 1.4512922465208749, + "grad_norm": 8.578670501708984, + "learning_rate": 2.6292509986877347e-06, + "loss": 0.2103, + "num_input_tokens_seen": 21432376, + "step": 10950 + }, + { + "epoch": 1.45142478462558, + "grad_norm": 6.808307647705078, + "learning_rate": 2.6289043243805596e-06, + "loss": 0.1431, + "num_input_tokens_seen": 21435048, + "step": 10951 + }, + { + "epoch": 1.451557322730285, + "grad_norm": 5.706945896148682, + "learning_rate": 2.6285576475880203e-06, + "loss": 0.1198, + "num_input_tokens_seen": 21437360, + "step": 10952 + }, + { + "epoch": 1.45168986083499, + "grad_norm": 5.379715919494629, + "learning_rate": 2.628210968316802e-06, + "loss": 0.1032, + "num_input_tokens_seen": 21439088, + "step": 10953 + }, + { + "epoch": 1.4518223989396952, + "grad_norm": 3.1793594360351562, + "learning_rate": 2.6278642865735867e-06, + "loss": 0.0103, + "num_input_tokens_seen": 21441184, + "step": 10954 + }, + { + "epoch": 1.4519549370444003, + "grad_norm": 13.018506050109863, + "learning_rate": 2.6275176023650593e-06, + "loss": 0.2009, + "num_input_tokens_seen": 21443160, + "step": 10955 + }, + { + "epoch": 1.4520874751491053, + "grad_norm": 0.05415809899568558, + "learning_rate": 2.6271709156979052e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21445000, + "step": 10956 + }, + { + "epoch": 1.4522200132538106, + "grad_norm": 6.648740768432617, + "learning_rate": 2.6268242265788085e-06, + "loss": 0.1467, + "num_input_tokens_seen": 21446680, + "step": 10957 + }, + { + "epoch": 1.4523525513585156, + "grad_norm": 6.552952289581299, + "learning_rate": 2.6264775350144526e-06, + "loss": 0.1582, + "num_input_tokens_seen": 21449968, + "step": 10958 + }, + { + "epoch": 1.4524850894632206, + "grad_norm": 6.78386116027832, + "learning_rate": 2.6261308410115227e-06, + "loss": 0.1823, + "num_input_tokens_seen": 21453136, + "step": 10959 + }, + { + "epoch": 1.4526176275679257, + "grad_norm": 0.8264293074607849, + "learning_rate": 2.6257841445767036e-06, + "loss": 0.0053, + "num_input_tokens_seen": 21455712, + "step": 10960 + }, + { + "epoch": 1.452750165672631, + "grad_norm": 0.06400512903928757, + "learning_rate": 2.6254374457166793e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21458552, + "step": 10961 + }, + { + "epoch": 1.452882703777336, + "grad_norm": 0.1834973841905594, + "learning_rate": 2.625090744438134e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21460224, + "step": 10962 + }, + { + "epoch": 1.453015241882041, + "grad_norm": 0.7387140393257141, + "learning_rate": 2.624744040747753e-06, + "loss": 0.0128, + "num_input_tokens_seen": 21462352, + "step": 10963 + }, + { + "epoch": 1.4531477799867463, + "grad_norm": 0.041847970336675644, + "learning_rate": 2.624397334652221e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21464464, + "step": 10964 + }, + { + "epoch": 1.4532803180914513, + "grad_norm": 6.78325080871582, + "learning_rate": 2.6240506261582235e-06, + "loss": 0.0922, + "num_input_tokens_seen": 21466784, + "step": 10965 + }, + { + "epoch": 1.4534128561961563, + "grad_norm": 10.543416023254395, + "learning_rate": 2.623703915272443e-06, + "loss": 0.2573, + "num_input_tokens_seen": 21470120, + "step": 10966 + }, + { + "epoch": 1.4535453943008614, + "grad_norm": 0.02953626587986946, + "learning_rate": 2.623357202001566e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21473312, + "step": 10967 + }, + { + "epoch": 1.4536779324055666, + "grad_norm": 8.097883224487305, + "learning_rate": 2.6230104863522775e-06, + "loss": 0.1904, + "num_input_tokens_seen": 21475128, + "step": 10968 + }, + { + "epoch": 1.4538104705102717, + "grad_norm": 0.0263700932264328, + "learning_rate": 2.6226637683312616e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21476744, + "step": 10969 + }, + { + "epoch": 1.453943008614977, + "grad_norm": 7.196662902832031, + "learning_rate": 2.622317047945203e-06, + "loss": 0.2292, + "num_input_tokens_seen": 21479912, + "step": 10970 + }, + { + "epoch": 1.454075546719682, + "grad_norm": 2.936291456222534, + "learning_rate": 2.621970325200789e-06, + "loss": 0.0644, + "num_input_tokens_seen": 21482000, + "step": 10971 + }, + { + "epoch": 1.454208084824387, + "grad_norm": 4.8482842445373535, + "learning_rate": 2.621623600104702e-06, + "loss": 0.1083, + "num_input_tokens_seen": 21483960, + "step": 10972 + }, + { + "epoch": 1.454340622929092, + "grad_norm": 0.035413652658462524, + "learning_rate": 2.621276872663627e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21486232, + "step": 10973 + }, + { + "epoch": 1.454473161033797, + "grad_norm": 1.3260926008224487, + "learning_rate": 2.620930142884252e-06, + "loss": 0.0115, + "num_input_tokens_seen": 21488536, + "step": 10974 + }, + { + "epoch": 1.4546056991385024, + "grad_norm": 0.007139185909181833, + "learning_rate": 2.620583410773259e-06, + "loss": 0.0, + "num_input_tokens_seen": 21489960, + "step": 10975 + }, + { + "epoch": 1.4547382372432074, + "grad_norm": 0.006348004564642906, + "learning_rate": 2.620236676337336e-06, + "loss": 0.0, + "num_input_tokens_seen": 21491312, + "step": 10976 + }, + { + "epoch": 1.4548707753479126, + "grad_norm": 5.154878616333008, + "learning_rate": 2.6198899395831662e-06, + "loss": 0.1182, + "num_input_tokens_seen": 21493376, + "step": 10977 + }, + { + "epoch": 1.4550033134526177, + "grad_norm": 10.80441951751709, + "learning_rate": 2.6195432005174356e-06, + "loss": 0.3572, + "num_input_tokens_seen": 21495960, + "step": 10978 + }, + { + "epoch": 1.4551358515573227, + "grad_norm": 0.10277149081230164, + "learning_rate": 2.61919645914683e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21497752, + "step": 10979 + }, + { + "epoch": 1.4552683896620278, + "grad_norm": 13.517969131469727, + "learning_rate": 2.618849715478034e-06, + "loss": 0.2683, + "num_input_tokens_seen": 21499216, + "step": 10980 + }, + { + "epoch": 1.4554009277667328, + "grad_norm": 3.810706853866577, + "learning_rate": 2.6185029695177337e-06, + "loss": 0.1581, + "num_input_tokens_seen": 21501224, + "step": 10981 + }, + { + "epoch": 1.455533465871438, + "grad_norm": 0.02137044630944729, + "learning_rate": 2.6181562212726143e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21502640, + "step": 10982 + }, + { + "epoch": 1.455666003976143, + "grad_norm": 7.698780059814453, + "learning_rate": 2.6178094707493616e-06, + "loss": 0.1243, + "num_input_tokens_seen": 21503704, + "step": 10983 + }, + { + "epoch": 1.4557985420808484, + "grad_norm": 3.8445756435394287, + "learning_rate": 2.6174627179546613e-06, + "loss": 0.0652, + "num_input_tokens_seen": 21505080, + "step": 10984 + }, + { + "epoch": 1.4559310801855534, + "grad_norm": 13.640947341918945, + "learning_rate": 2.617115962895198e-06, + "loss": 0.156, + "num_input_tokens_seen": 21506432, + "step": 10985 + }, + { + "epoch": 1.4560636182902584, + "grad_norm": 3.8770592212677, + "learning_rate": 2.6167692055776596e-06, + "loss": 0.1563, + "num_input_tokens_seen": 21508448, + "step": 10986 + }, + { + "epoch": 1.4561961563949635, + "grad_norm": 0.33174797892570496, + "learning_rate": 2.616422446008729e-06, + "loss": 0.0018, + "num_input_tokens_seen": 21510672, + "step": 10987 + }, + { + "epoch": 1.4563286944996687, + "grad_norm": 7.495532035827637, + "learning_rate": 2.6160756841950934e-06, + "loss": 0.1136, + "num_input_tokens_seen": 21512680, + "step": 10988 + }, + { + "epoch": 1.4564612326043738, + "grad_norm": 4.138807773590088, + "learning_rate": 2.615728920143439e-06, + "loss": 0.0477, + "num_input_tokens_seen": 21514432, + "step": 10989 + }, + { + "epoch": 1.4565937707090788, + "grad_norm": 0.24531511962413788, + "learning_rate": 2.6153821538604507e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21517680, + "step": 10990 + }, + { + "epoch": 1.456726308813784, + "grad_norm": 0.2585221230983734, + "learning_rate": 2.6150353853528154e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21519136, + "step": 10991 + }, + { + "epoch": 1.456858846918489, + "grad_norm": 3.002260208129883, + "learning_rate": 2.6146886146272187e-06, + "loss": 0.0561, + "num_input_tokens_seen": 21520584, + "step": 10992 + }, + { + "epoch": 1.4569913850231941, + "grad_norm": 5.412962913513184, + "learning_rate": 2.6143418416903456e-06, + "loss": 0.0672, + "num_input_tokens_seen": 21523176, + "step": 10993 + }, + { + "epoch": 1.4571239231278992, + "grad_norm": 9.048022270202637, + "learning_rate": 2.6139950665488833e-06, + "loss": 0.2233, + "num_input_tokens_seen": 21524968, + "step": 10994 + }, + { + "epoch": 1.4572564612326044, + "grad_norm": 0.10742446035146713, + "learning_rate": 2.613648289209517e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21527304, + "step": 10995 + }, + { + "epoch": 1.4573889993373095, + "grad_norm": 0.040093861520290375, + "learning_rate": 2.6133015096789336e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21529776, + "step": 10996 + }, + { + "epoch": 1.4575215374420145, + "grad_norm": 5.786831378936768, + "learning_rate": 2.6129547279638197e-06, + "loss": 0.1479, + "num_input_tokens_seen": 21532376, + "step": 10997 + }, + { + "epoch": 1.4576540755467198, + "grad_norm": 19.81473731994629, + "learning_rate": 2.61260794407086e-06, + "loss": 0.1038, + "num_input_tokens_seen": 21534592, + "step": 10998 + }, + { + "epoch": 1.4577866136514248, + "grad_norm": 0.03994022682309151, + "learning_rate": 2.6122611580067414e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21535992, + "step": 10999 + }, + { + "epoch": 1.4579191517561298, + "grad_norm": 9.363077163696289, + "learning_rate": 2.61191436977815e-06, + "loss": 0.3072, + "num_input_tokens_seen": 21537944, + "step": 11000 + }, + { + "epoch": 1.4580516898608349, + "grad_norm": 17.945985794067383, + "learning_rate": 2.6115675793917734e-06, + "loss": 0.2591, + "num_input_tokens_seen": 21540072, + "step": 11001 + }, + { + "epoch": 1.4581842279655401, + "grad_norm": 2.4495420455932617, + "learning_rate": 2.611220786854296e-06, + "loss": 0.0327, + "num_input_tokens_seen": 21542440, + "step": 11002 + }, + { + "epoch": 1.4583167660702452, + "grad_norm": 5.7916998863220215, + "learning_rate": 2.610873992172405e-06, + "loss": 0.0779, + "num_input_tokens_seen": 21544808, + "step": 11003 + }, + { + "epoch": 1.4584493041749502, + "grad_norm": 3.049166440963745, + "learning_rate": 2.610527195352788e-06, + "loss": 0.019, + "num_input_tokens_seen": 21547384, + "step": 11004 + }, + { + "epoch": 1.4585818422796555, + "grad_norm": 9.886913299560547, + "learning_rate": 2.6101803964021294e-06, + "loss": 0.2062, + "num_input_tokens_seen": 21549832, + "step": 11005 + }, + { + "epoch": 1.4587143803843605, + "grad_norm": 5.452359676361084, + "learning_rate": 2.609833595327117e-06, + "loss": 0.1347, + "num_input_tokens_seen": 21551896, + "step": 11006 + }, + { + "epoch": 1.4588469184890656, + "grad_norm": 0.06725816428661346, + "learning_rate": 2.6094867921344374e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21554200, + "step": 11007 + }, + { + "epoch": 1.4589794565937706, + "grad_norm": 3.4270777702331543, + "learning_rate": 2.609139986830776e-06, + "loss": 0.0074, + "num_input_tokens_seen": 21555832, + "step": 11008 + }, + { + "epoch": 1.4591119946984759, + "grad_norm": 0.05174370855093002, + "learning_rate": 2.6087931794228217e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21557160, + "step": 11009 + }, + { + "epoch": 1.459244532803181, + "grad_norm": 4.266785621643066, + "learning_rate": 2.6084463699172594e-06, + "loss": 0.0611, + "num_input_tokens_seen": 21558904, + "step": 11010 + }, + { + "epoch": 1.4593770709078862, + "grad_norm": 7.021951675415039, + "learning_rate": 2.608099558320775e-06, + "loss": 0.1487, + "num_input_tokens_seen": 21560736, + "step": 11011 + }, + { + "epoch": 1.4595096090125912, + "grad_norm": 11.409744262695312, + "learning_rate": 2.6077527446400587e-06, + "loss": 0.4967, + "num_input_tokens_seen": 21563880, + "step": 11012 + }, + { + "epoch": 1.4596421471172962, + "grad_norm": 0.5445393919944763, + "learning_rate": 2.6074059288817936e-06, + "loss": 0.005, + "num_input_tokens_seen": 21565136, + "step": 11013 + }, + { + "epoch": 1.4597746852220013, + "grad_norm": 0.10181518644094467, + "learning_rate": 2.607059111052668e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21567688, + "step": 11014 + }, + { + "epoch": 1.4599072233267063, + "grad_norm": 10.874519348144531, + "learning_rate": 2.6067122911593703e-06, + "loss": 0.1048, + "num_input_tokens_seen": 21569704, + "step": 11015 + }, + { + "epoch": 1.4600397614314116, + "grad_norm": 0.13061000406742096, + "learning_rate": 2.606365469208585e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21571176, + "step": 11016 + }, + { + "epoch": 1.4601722995361166, + "grad_norm": 8.87643051147461, + "learning_rate": 2.6060186452069995e-06, + "loss": 0.058, + "num_input_tokens_seen": 21572696, + "step": 11017 + }, + { + "epoch": 1.4603048376408219, + "grad_norm": 0.19947637617588043, + "learning_rate": 2.605671819161303e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21574928, + "step": 11018 + }, + { + "epoch": 1.460437375745527, + "grad_norm": 9.756861686706543, + "learning_rate": 2.60532499107818e-06, + "loss": 0.141, + "num_input_tokens_seen": 21576592, + "step": 11019 + }, + { + "epoch": 1.460569913850232, + "grad_norm": 5.723066806793213, + "learning_rate": 2.6049781609643182e-06, + "loss": 0.1272, + "num_input_tokens_seen": 21579080, + "step": 11020 + }, + { + "epoch": 1.460702451954937, + "grad_norm": 0.43191543221473694, + "learning_rate": 2.6046313288264053e-06, + "loss": 0.0026, + "num_input_tokens_seen": 21581032, + "step": 11021 + }, + { + "epoch": 1.460834990059642, + "grad_norm": 6.983368873596191, + "learning_rate": 2.604284494671129e-06, + "loss": 0.1808, + "num_input_tokens_seen": 21583152, + "step": 11022 + }, + { + "epoch": 1.4609675281643473, + "grad_norm": 5.39556360244751, + "learning_rate": 2.6039376585051745e-06, + "loss": 0.1061, + "num_input_tokens_seen": 21585592, + "step": 11023 + }, + { + "epoch": 1.4611000662690523, + "grad_norm": 7.101685523986816, + "learning_rate": 2.6035908203352308e-06, + "loss": 0.2581, + "num_input_tokens_seen": 21588008, + "step": 11024 + }, + { + "epoch": 1.4612326043737576, + "grad_norm": 0.06250391900539398, + "learning_rate": 2.603243980167984e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21589448, + "step": 11025 + }, + { + "epoch": 1.4613651424784626, + "grad_norm": 9.151115417480469, + "learning_rate": 2.6028971380101226e-06, + "loss": 0.1574, + "num_input_tokens_seen": 21590704, + "step": 11026 + }, + { + "epoch": 1.4614976805831676, + "grad_norm": 10.341407775878906, + "learning_rate": 2.602550293868333e-06, + "loss": 0.1468, + "num_input_tokens_seen": 21592808, + "step": 11027 + }, + { + "epoch": 1.4616302186878727, + "grad_norm": 7.832805633544922, + "learning_rate": 2.6022034477493037e-06, + "loss": 0.1732, + "num_input_tokens_seen": 21595000, + "step": 11028 + }, + { + "epoch": 1.461762756792578, + "grad_norm": 10.837166786193848, + "learning_rate": 2.601856599659721e-06, + "loss": 0.1066, + "num_input_tokens_seen": 21596848, + "step": 11029 + }, + { + "epoch": 1.461895294897283, + "grad_norm": 6.255279541015625, + "learning_rate": 2.601509749606273e-06, + "loss": 0.0909, + "num_input_tokens_seen": 21598400, + "step": 11030 + }, + { + "epoch": 1.462027833001988, + "grad_norm": 0.10824492573738098, + "learning_rate": 2.6011628975956473e-06, + "loss": 0.001, + "num_input_tokens_seen": 21599584, + "step": 11031 + }, + { + "epoch": 1.4621603711066933, + "grad_norm": 4.105659484863281, + "learning_rate": 2.60081604363453e-06, + "loss": 0.0464, + "num_input_tokens_seen": 21601432, + "step": 11032 + }, + { + "epoch": 1.4622929092113983, + "grad_norm": 4.549729824066162, + "learning_rate": 2.6004691877296114e-06, + "loss": 0.0939, + "num_input_tokens_seen": 21603600, + "step": 11033 + }, + { + "epoch": 1.4624254473161034, + "grad_norm": 4.451516151428223, + "learning_rate": 2.600122329887576e-06, + "loss": 0.0936, + "num_input_tokens_seen": 21605520, + "step": 11034 + }, + { + "epoch": 1.4625579854208084, + "grad_norm": 10.242341041564941, + "learning_rate": 2.599775470115114e-06, + "loss": 0.3185, + "num_input_tokens_seen": 21607168, + "step": 11035 + }, + { + "epoch": 1.4626905235255137, + "grad_norm": 14.894968032836914, + "learning_rate": 2.599428608418912e-06, + "loss": 0.4668, + "num_input_tokens_seen": 21608560, + "step": 11036 + }, + { + "epoch": 1.4628230616302187, + "grad_norm": 7.097993850708008, + "learning_rate": 2.5990817448056576e-06, + "loss": 0.1258, + "num_input_tokens_seen": 21611120, + "step": 11037 + }, + { + "epoch": 1.4629555997349237, + "grad_norm": 11.64086627960205, + "learning_rate": 2.598734879282039e-06, + "loss": 0.2424, + "num_input_tokens_seen": 21612976, + "step": 11038 + }, + { + "epoch": 1.463088137839629, + "grad_norm": 0.029997162520885468, + "learning_rate": 2.5983880118547433e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21614288, + "step": 11039 + }, + { + "epoch": 1.463220675944334, + "grad_norm": 2.3856747150421143, + "learning_rate": 2.5980411425304585e-06, + "loss": 0.0362, + "num_input_tokens_seen": 21616240, + "step": 11040 + }, + { + "epoch": 1.463353214049039, + "grad_norm": 0.273572713136673, + "learning_rate": 2.5976942713158745e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21617416, + "step": 11041 + }, + { + "epoch": 1.463485752153744, + "grad_norm": 3.9511852264404297, + "learning_rate": 2.597347398217676e-06, + "loss": 0.0162, + "num_input_tokens_seen": 21619408, + "step": 11042 + }, + { + "epoch": 1.4636182902584494, + "grad_norm": 3.52996826171875, + "learning_rate": 2.597000523242553e-06, + "loss": 0.0414, + "num_input_tokens_seen": 21621824, + "step": 11043 + }, + { + "epoch": 1.4637508283631544, + "grad_norm": 7.73145055770874, + "learning_rate": 2.5966536463971935e-06, + "loss": 0.1554, + "num_input_tokens_seen": 21623480, + "step": 11044 + }, + { + "epoch": 1.4638833664678594, + "grad_norm": 6.404489040374756, + "learning_rate": 2.5963067676882847e-06, + "loss": 0.1023, + "num_input_tokens_seen": 21625000, + "step": 11045 + }, + { + "epoch": 1.4640159045725647, + "grad_norm": 10.446934700012207, + "learning_rate": 2.595959887122515e-06, + "loss": 0.1, + "num_input_tokens_seen": 21627528, + "step": 11046 + }, + { + "epoch": 1.4641484426772697, + "grad_norm": 6.792369365692139, + "learning_rate": 2.595613004706572e-06, + "loss": 0.1165, + "num_input_tokens_seen": 21629600, + "step": 11047 + }, + { + "epoch": 1.4642809807819748, + "grad_norm": 15.01921558380127, + "learning_rate": 2.595266120447145e-06, + "loss": 0.3895, + "num_input_tokens_seen": 21631320, + "step": 11048 + }, + { + "epoch": 1.4644135188866798, + "grad_norm": 0.09403236955404282, + "learning_rate": 2.594919234350921e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21632928, + "step": 11049 + }, + { + "epoch": 1.464546056991385, + "grad_norm": 11.55078125, + "learning_rate": 2.5945723464245888e-06, + "loss": 0.2409, + "num_input_tokens_seen": 21635184, + "step": 11050 + }, + { + "epoch": 1.46467859509609, + "grad_norm": 3.041452169418335, + "learning_rate": 2.594225456674837e-06, + "loss": 0.0378, + "num_input_tokens_seen": 21636920, + "step": 11051 + }, + { + "epoch": 1.4648111332007951, + "grad_norm": 4.928841590881348, + "learning_rate": 2.5938785651083524e-06, + "loss": 0.1688, + "num_input_tokens_seen": 21638568, + "step": 11052 + }, + { + "epoch": 1.4649436713055004, + "grad_norm": 9.234848976135254, + "learning_rate": 2.5935316717318246e-06, + "loss": 0.0434, + "num_input_tokens_seen": 21640032, + "step": 11053 + }, + { + "epoch": 1.4650762094102054, + "grad_norm": 0.16447634994983673, + "learning_rate": 2.593184776551943e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21642496, + "step": 11054 + }, + { + "epoch": 1.4652087475149105, + "grad_norm": 0.13132554292678833, + "learning_rate": 2.5928378795753927e-06, + "loss": 0.001, + "num_input_tokens_seen": 21644368, + "step": 11055 + }, + { + "epoch": 1.4653412856196155, + "grad_norm": 7.2734785079956055, + "learning_rate": 2.592490980808865e-06, + "loss": 0.1554, + "num_input_tokens_seen": 21646200, + "step": 11056 + }, + { + "epoch": 1.4654738237243208, + "grad_norm": 5.767739295959473, + "learning_rate": 2.5921440802590476e-06, + "loss": 0.1359, + "num_input_tokens_seen": 21648080, + "step": 11057 + }, + { + "epoch": 1.4656063618290258, + "grad_norm": 0.20113810896873474, + "learning_rate": 2.591797177932628e-06, + "loss": 0.0015, + "num_input_tokens_seen": 21649760, + "step": 11058 + }, + { + "epoch": 1.465738899933731, + "grad_norm": 0.38479676842689514, + "learning_rate": 2.5914502738362964e-06, + "loss": 0.0038, + "num_input_tokens_seen": 21651056, + "step": 11059 + }, + { + "epoch": 1.4658714380384361, + "grad_norm": 0.834749162197113, + "learning_rate": 2.5911033679767396e-06, + "loss": 0.0062, + "num_input_tokens_seen": 21653416, + "step": 11060 + }, + { + "epoch": 1.4660039761431412, + "grad_norm": 8.273273468017578, + "learning_rate": 2.590756460360647e-06, + "loss": 0.1301, + "num_input_tokens_seen": 21654792, + "step": 11061 + }, + { + "epoch": 1.4661365142478462, + "grad_norm": 7.856949329376221, + "learning_rate": 2.590409550994708e-06, + "loss": 0.2194, + "num_input_tokens_seen": 21656320, + "step": 11062 + }, + { + "epoch": 1.4662690523525512, + "grad_norm": 13.234530448913574, + "learning_rate": 2.59006263988561e-06, + "loss": 0.2757, + "num_input_tokens_seen": 21659568, + "step": 11063 + }, + { + "epoch": 1.4664015904572565, + "grad_norm": 0.28951647877693176, + "learning_rate": 2.5897157270400417e-06, + "loss": 0.002, + "num_input_tokens_seen": 21660672, + "step": 11064 + }, + { + "epoch": 1.4665341285619615, + "grad_norm": 4.913437366485596, + "learning_rate": 2.5893688124646934e-06, + "loss": 0.1141, + "num_input_tokens_seen": 21662856, + "step": 11065 + }, + { + "epoch": 1.4666666666666668, + "grad_norm": 2.5340819358825684, + "learning_rate": 2.589021896166252e-06, + "loss": 0.0253, + "num_input_tokens_seen": 21664480, + "step": 11066 + }, + { + "epoch": 1.4667992047713718, + "grad_norm": 2.1130244731903076, + "learning_rate": 2.5886749781514075e-06, + "loss": 0.0385, + "num_input_tokens_seen": 21665928, + "step": 11067 + }, + { + "epoch": 1.4669317428760769, + "grad_norm": 4.872178554534912, + "learning_rate": 2.5883280584268476e-06, + "loss": 0.0828, + "num_input_tokens_seen": 21667912, + "step": 11068 + }, + { + "epoch": 1.467064280980782, + "grad_norm": 0.040651287883520126, + "learning_rate": 2.5879811369992624e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21669392, + "step": 11069 + }, + { + "epoch": 1.4671968190854872, + "grad_norm": 7.2859787940979, + "learning_rate": 2.5876342138753394e-06, + "loss": 0.0592, + "num_input_tokens_seen": 21671608, + "step": 11070 + }, + { + "epoch": 1.4673293571901922, + "grad_norm": 9.997447967529297, + "learning_rate": 2.5872872890617696e-06, + "loss": 0.3044, + "num_input_tokens_seen": 21673408, + "step": 11071 + }, + { + "epoch": 1.4674618952948972, + "grad_norm": 8.22560977935791, + "learning_rate": 2.58694036256524e-06, + "loss": 0.2734, + "num_input_tokens_seen": 21676120, + "step": 11072 + }, + { + "epoch": 1.4675944333996025, + "grad_norm": 9.969096183776855, + "learning_rate": 2.5865934343924393e-06, + "loss": 0.2661, + "num_input_tokens_seen": 21678320, + "step": 11073 + }, + { + "epoch": 1.4677269715043075, + "grad_norm": 0.2750203311443329, + "learning_rate": 2.586246504550059e-06, + "loss": 0.0018, + "num_input_tokens_seen": 21680688, + "step": 11074 + }, + { + "epoch": 1.4678595096090126, + "grad_norm": 0.04734223335981369, + "learning_rate": 2.585899573044786e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21682008, + "step": 11075 + }, + { + "epoch": 1.4679920477137176, + "grad_norm": 0.20386825501918793, + "learning_rate": 2.5855526398833094e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21685120, + "step": 11076 + }, + { + "epoch": 1.4681245858184229, + "grad_norm": 10.253085136413574, + "learning_rate": 2.5852057050723193e-06, + "loss": 0.1797, + "num_input_tokens_seen": 21687352, + "step": 11077 + }, + { + "epoch": 1.468257123923128, + "grad_norm": 2.6124250888824463, + "learning_rate": 2.5848587686185047e-06, + "loss": 0.0141, + "num_input_tokens_seen": 21688568, + "step": 11078 + }, + { + "epoch": 1.468389662027833, + "grad_norm": 4.995578765869141, + "learning_rate": 2.584511830528554e-06, + "loss": 0.0516, + "num_input_tokens_seen": 21690696, + "step": 11079 + }, + { + "epoch": 1.4685222001325382, + "grad_norm": 0.03132272884249687, + "learning_rate": 2.584164890809157e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21691560, + "step": 11080 + }, + { + "epoch": 1.4686547382372432, + "grad_norm": 0.11116857826709747, + "learning_rate": 2.5838179494670035e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21692944, + "step": 11081 + }, + { + "epoch": 1.4687872763419483, + "grad_norm": 7.7167816162109375, + "learning_rate": 2.583471006508781e-06, + "loss": 0.1324, + "num_input_tokens_seen": 21694856, + "step": 11082 + }, + { + "epoch": 1.4689198144466533, + "grad_norm": 0.6264228820800781, + "learning_rate": 2.583124061941181e-06, + "loss": 0.0029, + "num_input_tokens_seen": 21696648, + "step": 11083 + }, + { + "epoch": 1.4690523525513586, + "grad_norm": 11.472622871398926, + "learning_rate": 2.582777115770891e-06, + "loss": 0.1836, + "num_input_tokens_seen": 21698904, + "step": 11084 + }, + { + "epoch": 1.4691848906560636, + "grad_norm": 0.14224688708782196, + "learning_rate": 2.5824301680046017e-06, + "loss": 0.001, + "num_input_tokens_seen": 21700808, + "step": 11085 + }, + { + "epoch": 1.4693174287607687, + "grad_norm": 5.589762210845947, + "learning_rate": 2.582083218649001e-06, + "loss": 0.2335, + "num_input_tokens_seen": 21702936, + "step": 11086 + }, + { + "epoch": 1.469449966865474, + "grad_norm": 4.799900054931641, + "learning_rate": 2.5817362677107807e-06, + "loss": 0.0955, + "num_input_tokens_seen": 21705152, + "step": 11087 + }, + { + "epoch": 1.469582504970179, + "grad_norm": 7.143099308013916, + "learning_rate": 2.5813893151966275e-06, + "loss": 0.1625, + "num_input_tokens_seen": 21707544, + "step": 11088 + }, + { + "epoch": 1.469715043074884, + "grad_norm": 6.8088059425354, + "learning_rate": 2.581042361113232e-06, + "loss": 0.0654, + "num_input_tokens_seen": 21709632, + "step": 11089 + }, + { + "epoch": 1.469847581179589, + "grad_norm": 5.073712348937988, + "learning_rate": 2.580695405467285e-06, + "loss": 0.0977, + "num_input_tokens_seen": 21711960, + "step": 11090 + }, + { + "epoch": 1.4699801192842943, + "grad_norm": 7.132404804229736, + "learning_rate": 2.5803484482654733e-06, + "loss": 0.143, + "num_input_tokens_seen": 21713728, + "step": 11091 + }, + { + "epoch": 1.4701126573889993, + "grad_norm": 1.1447491645812988, + "learning_rate": 2.58000148951449e-06, + "loss": 0.0072, + "num_input_tokens_seen": 21715184, + "step": 11092 + }, + { + "epoch": 1.4702451954937044, + "grad_norm": 8.833479881286621, + "learning_rate": 2.579654529221021e-06, + "loss": 0.2726, + "num_input_tokens_seen": 21717832, + "step": 11093 + }, + { + "epoch": 1.4703777335984096, + "grad_norm": 6.5997467041015625, + "learning_rate": 2.5793075673917587e-06, + "loss": 0.152, + "num_input_tokens_seen": 21719592, + "step": 11094 + }, + { + "epoch": 1.4705102717031147, + "grad_norm": 0.02729985862970352, + "learning_rate": 2.578960604033392e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21721024, + "step": 11095 + }, + { + "epoch": 1.4706428098078197, + "grad_norm": 10.959158897399902, + "learning_rate": 2.57861363915261e-06, + "loss": 0.0868, + "num_input_tokens_seen": 21722576, + "step": 11096 + }, + { + "epoch": 1.4707753479125247, + "grad_norm": 4.057428359985352, + "learning_rate": 2.578266672756103e-06, + "loss": 0.0664, + "num_input_tokens_seen": 21724560, + "step": 11097 + }, + { + "epoch": 1.47090788601723, + "grad_norm": 10.816934585571289, + "learning_rate": 2.5779197048505607e-06, + "loss": 0.2868, + "num_input_tokens_seen": 21727144, + "step": 11098 + }, + { + "epoch": 1.471040424121935, + "grad_norm": 3.0672852993011475, + "learning_rate": 2.577572735442672e-06, + "loss": 0.0357, + "num_input_tokens_seen": 21729112, + "step": 11099 + }, + { + "epoch": 1.4711729622266403, + "grad_norm": 14.973370552062988, + "learning_rate": 2.577225764539128e-06, + "loss": 0.2588, + "num_input_tokens_seen": 21730840, + "step": 11100 + }, + { + "epoch": 1.4713055003313453, + "grad_norm": 1.2575414180755615, + "learning_rate": 2.576878792146618e-06, + "loss": 0.0113, + "num_input_tokens_seen": 21733104, + "step": 11101 + }, + { + "epoch": 1.4714380384360504, + "grad_norm": 5.518712043762207, + "learning_rate": 2.5765318182718318e-06, + "loss": 0.0243, + "num_input_tokens_seen": 21735680, + "step": 11102 + }, + { + "epoch": 1.4715705765407554, + "grad_norm": 0.049268919974565506, + "learning_rate": 2.576184842921459e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21736896, + "step": 11103 + }, + { + "epoch": 1.4717031146454604, + "grad_norm": 12.287383079528809, + "learning_rate": 2.5758378661021898e-06, + "loss": 0.3671, + "num_input_tokens_seen": 21738984, + "step": 11104 + }, + { + "epoch": 1.4718356527501657, + "grad_norm": 12.141632080078125, + "learning_rate": 2.5754908878207146e-06, + "loss": 0.1644, + "num_input_tokens_seen": 21741056, + "step": 11105 + }, + { + "epoch": 1.4719681908548707, + "grad_norm": 12.063698768615723, + "learning_rate": 2.575143908083723e-06, + "loss": 0.3979, + "num_input_tokens_seen": 21743712, + "step": 11106 + }, + { + "epoch": 1.472100728959576, + "grad_norm": 12.591207504272461, + "learning_rate": 2.574796926897905e-06, + "loss": 0.234, + "num_input_tokens_seen": 21745768, + "step": 11107 + }, + { + "epoch": 1.472233267064281, + "grad_norm": 0.1670842468738556, + "learning_rate": 2.5744499442699504e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21747744, + "step": 11108 + }, + { + "epoch": 1.472365805168986, + "grad_norm": 0.1941344439983368, + "learning_rate": 2.5741029602065496e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21749472, + "step": 11109 + }, + { + "epoch": 1.4724983432736911, + "grad_norm": 0.5653542876243591, + "learning_rate": 2.5737559747143935e-06, + "loss": 0.0024, + "num_input_tokens_seen": 21751424, + "step": 11110 + }, + { + "epoch": 1.4726308813783962, + "grad_norm": 0.11951368302106857, + "learning_rate": 2.5734089878001707e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21753200, + "step": 11111 + }, + { + "epoch": 1.4727634194831014, + "grad_norm": 3.1244583129882812, + "learning_rate": 2.573061999470571e-06, + "loss": 0.0452, + "num_input_tokens_seen": 21755344, + "step": 11112 + }, + { + "epoch": 1.4728959575878064, + "grad_norm": 3.4613451957702637, + "learning_rate": 2.572715009732287e-06, + "loss": 0.1063, + "num_input_tokens_seen": 21757176, + "step": 11113 + }, + { + "epoch": 1.4730284956925117, + "grad_norm": 2.556030750274658, + "learning_rate": 2.572368018592007e-06, + "loss": 0.0118, + "num_input_tokens_seen": 21758920, + "step": 11114 + }, + { + "epoch": 1.4731610337972167, + "grad_norm": 3.470649480819702, + "learning_rate": 2.5720210260564216e-06, + "loss": 0.0358, + "num_input_tokens_seen": 21760160, + "step": 11115 + }, + { + "epoch": 1.4732935719019218, + "grad_norm": 5.224481582641602, + "learning_rate": 2.5716740321322215e-06, + "loss": 0.0781, + "num_input_tokens_seen": 21761760, + "step": 11116 + }, + { + "epoch": 1.4734261100066268, + "grad_norm": 0.05140223726630211, + "learning_rate": 2.5713270368260956e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21763616, + "step": 11117 + }, + { + "epoch": 1.473558648111332, + "grad_norm": 9.445391654968262, + "learning_rate": 2.570980040144736e-06, + "loss": 0.1684, + "num_input_tokens_seen": 21766016, + "step": 11118 + }, + { + "epoch": 1.4736911862160371, + "grad_norm": 0.0800311416387558, + "learning_rate": 2.5706330420948323e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21767200, + "step": 11119 + }, + { + "epoch": 1.4738237243207422, + "grad_norm": 4.082507133483887, + "learning_rate": 2.570286042683074e-06, + "loss": 0.0379, + "num_input_tokens_seen": 21768896, + "step": 11120 + }, + { + "epoch": 1.4739562624254474, + "grad_norm": 0.03419762849807739, + "learning_rate": 2.5699390419161528e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21770736, + "step": 11121 + }, + { + "epoch": 1.4740888005301525, + "grad_norm": 8.612048149108887, + "learning_rate": 2.569592039800759e-06, + "loss": 0.228, + "num_input_tokens_seen": 21772824, + "step": 11122 + }, + { + "epoch": 1.4742213386348575, + "grad_norm": 11.682594299316406, + "learning_rate": 2.569245036343582e-06, + "loss": 0.2107, + "num_input_tokens_seen": 21774632, + "step": 11123 + }, + { + "epoch": 1.4743538767395625, + "grad_norm": 7.543234348297119, + "learning_rate": 2.568898031551314e-06, + "loss": 0.1641, + "num_input_tokens_seen": 21777016, + "step": 11124 + }, + { + "epoch": 1.4744864148442678, + "grad_norm": 2.7014565467834473, + "learning_rate": 2.5685510254306434e-06, + "loss": 0.014, + "num_input_tokens_seen": 21778432, + "step": 11125 + }, + { + "epoch": 1.4746189529489728, + "grad_norm": 0.6720866560935974, + "learning_rate": 2.5682040179882625e-06, + "loss": 0.0043, + "num_input_tokens_seen": 21780440, + "step": 11126 + }, + { + "epoch": 1.4747514910536779, + "grad_norm": 6.520196437835693, + "learning_rate": 2.5678570092308603e-06, + "loss": 0.1699, + "num_input_tokens_seen": 21783360, + "step": 11127 + }, + { + "epoch": 1.4748840291583831, + "grad_norm": 5.362974166870117, + "learning_rate": 2.5675099991651286e-06, + "loss": 0.1027, + "num_input_tokens_seen": 21784616, + "step": 11128 + }, + { + "epoch": 1.4750165672630882, + "grad_norm": 0.012301245704293251, + "learning_rate": 2.567162987797757e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21785704, + "step": 11129 + }, + { + "epoch": 1.4751491053677932, + "grad_norm": 10.43653392791748, + "learning_rate": 2.566815975135437e-06, + "loss": 0.2249, + "num_input_tokens_seen": 21787664, + "step": 11130 + }, + { + "epoch": 1.4752816434724982, + "grad_norm": 0.44780564308166504, + "learning_rate": 2.5664689611848597e-06, + "loss": 0.0027, + "num_input_tokens_seen": 21789176, + "step": 11131 + }, + { + "epoch": 1.4754141815772035, + "grad_norm": 6.9935832023620605, + "learning_rate": 2.566121945952714e-06, + "loss": 0.1843, + "num_input_tokens_seen": 21792752, + "step": 11132 + }, + { + "epoch": 1.4755467196819085, + "grad_norm": 0.13129478693008423, + "learning_rate": 2.565774929445692e-06, + "loss": 0.0009, + "num_input_tokens_seen": 21794720, + "step": 11133 + }, + { + "epoch": 1.4756792577866136, + "grad_norm": 0.14713329076766968, + "learning_rate": 2.565427911670484e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21797096, + "step": 11134 + }, + { + "epoch": 1.4758117958913188, + "grad_norm": 1.356232762336731, + "learning_rate": 2.56508089263378e-06, + "loss": 0.0069, + "num_input_tokens_seen": 21798552, + "step": 11135 + }, + { + "epoch": 1.4759443339960239, + "grad_norm": 9.22382926940918, + "learning_rate": 2.5647338723422723e-06, + "loss": 0.1656, + "num_input_tokens_seen": 21800568, + "step": 11136 + }, + { + "epoch": 1.476076872100729, + "grad_norm": 5.675853729248047, + "learning_rate": 2.564386850802651e-06, + "loss": 0.1563, + "num_input_tokens_seen": 21802432, + "step": 11137 + }, + { + "epoch": 1.476209410205434, + "grad_norm": 5.752342700958252, + "learning_rate": 2.564039828021606e-06, + "loss": 0.0472, + "num_input_tokens_seen": 21804080, + "step": 11138 + }, + { + "epoch": 1.4763419483101392, + "grad_norm": 3.5545132160186768, + "learning_rate": 2.5636928040058296e-06, + "loss": 0.1123, + "num_input_tokens_seen": 21806904, + "step": 11139 + }, + { + "epoch": 1.4764744864148442, + "grad_norm": 6.1984758377075195, + "learning_rate": 2.5633457787620115e-06, + "loss": 0.1285, + "num_input_tokens_seen": 21809176, + "step": 11140 + }, + { + "epoch": 1.4766070245195495, + "grad_norm": 6.578401565551758, + "learning_rate": 2.5629987522968435e-06, + "loss": 0.1361, + "num_input_tokens_seen": 21810968, + "step": 11141 + }, + { + "epoch": 1.4767395626242545, + "grad_norm": 2.6197304725646973, + "learning_rate": 2.5626517246170163e-06, + "loss": 0.0744, + "num_input_tokens_seen": 21812416, + "step": 11142 + }, + { + "epoch": 1.4768721007289596, + "grad_norm": 0.10279325395822525, + "learning_rate": 2.56230469572922e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21813776, + "step": 11143 + }, + { + "epoch": 1.4770046388336646, + "grad_norm": 8.896048545837402, + "learning_rate": 2.5619576656401463e-06, + "loss": 0.3092, + "num_input_tokens_seen": 21816064, + "step": 11144 + }, + { + "epoch": 1.4771371769383697, + "grad_norm": 0.13208064436912537, + "learning_rate": 2.5616106343564865e-06, + "loss": 0.001, + "num_input_tokens_seen": 21817640, + "step": 11145 + }, + { + "epoch": 1.477269715043075, + "grad_norm": 0.09150807559490204, + "learning_rate": 2.561263601884931e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21819048, + "step": 11146 + }, + { + "epoch": 1.47740225314778, + "grad_norm": 0.23883140087127686, + "learning_rate": 2.5609165682321708e-06, + "loss": 0.0016, + "num_input_tokens_seen": 21820272, + "step": 11147 + }, + { + "epoch": 1.4775347912524852, + "grad_norm": 6.0577473640441895, + "learning_rate": 2.560569533404897e-06, + "loss": 0.1454, + "num_input_tokens_seen": 21822176, + "step": 11148 + }, + { + "epoch": 1.4776673293571903, + "grad_norm": 0.26165109872817993, + "learning_rate": 2.5602224974098016e-06, + "loss": 0.0015, + "num_input_tokens_seen": 21824400, + "step": 11149 + }, + { + "epoch": 1.4777998674618953, + "grad_norm": 7.366633415222168, + "learning_rate": 2.5598754602535743e-06, + "loss": 0.2068, + "num_input_tokens_seen": 21826720, + "step": 11150 + }, + { + "epoch": 1.4779324055666003, + "grad_norm": 5.239055633544922, + "learning_rate": 2.5595284219429064e-06, + "loss": 0.158, + "num_input_tokens_seen": 21828936, + "step": 11151 + }, + { + "epoch": 1.4780649436713054, + "grad_norm": 1.0452977418899536, + "learning_rate": 2.55918138248449e-06, + "loss": 0.0056, + "num_input_tokens_seen": 21831400, + "step": 11152 + }, + { + "epoch": 1.4781974817760106, + "grad_norm": 2.629706382751465, + "learning_rate": 2.5588343418850155e-06, + "loss": 0.1017, + "num_input_tokens_seen": 21833592, + "step": 11153 + }, + { + "epoch": 1.4783300198807157, + "grad_norm": 0.04483118653297424, + "learning_rate": 2.5584873001511745e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21834976, + "step": 11154 + }, + { + "epoch": 1.478462557985421, + "grad_norm": 0.04260517284274101, + "learning_rate": 2.5581402572896585e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21836864, + "step": 11155 + }, + { + "epoch": 1.478595096090126, + "grad_norm": 2.183316946029663, + "learning_rate": 2.557793213307157e-06, + "loss": 0.0291, + "num_input_tokens_seen": 21838624, + "step": 11156 + }, + { + "epoch": 1.478727634194831, + "grad_norm": 14.253841400146484, + "learning_rate": 2.5574461682103636e-06, + "loss": 0.2388, + "num_input_tokens_seen": 21840312, + "step": 11157 + }, + { + "epoch": 1.478860172299536, + "grad_norm": 5.777599334716797, + "learning_rate": 2.557099122005968e-06, + "loss": 0.0843, + "num_input_tokens_seen": 21843056, + "step": 11158 + }, + { + "epoch": 1.4789927104042413, + "grad_norm": 0.06728745996952057, + "learning_rate": 2.5567520747006612e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21844288, + "step": 11159 + }, + { + "epoch": 1.4791252485089463, + "grad_norm": 0.8680945038795471, + "learning_rate": 2.556405026301137e-06, + "loss": 0.0076, + "num_input_tokens_seen": 21846712, + "step": 11160 + }, + { + "epoch": 1.4792577866136514, + "grad_norm": 6.212240219116211, + "learning_rate": 2.5560579768140838e-06, + "loss": 0.1338, + "num_input_tokens_seen": 21848608, + "step": 11161 + }, + { + "epoch": 1.4793903247183566, + "grad_norm": 5.905635833740234, + "learning_rate": 2.555710926246194e-06, + "loss": 0.0404, + "num_input_tokens_seen": 21850848, + "step": 11162 + }, + { + "epoch": 1.4795228628230617, + "grad_norm": 5.782008171081543, + "learning_rate": 2.55536387460416e-06, + "loss": 0.067, + "num_input_tokens_seen": 21852408, + "step": 11163 + }, + { + "epoch": 1.4796554009277667, + "grad_norm": 0.08158911764621735, + "learning_rate": 2.5550168218946714e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21853816, + "step": 11164 + }, + { + "epoch": 1.4797879390324717, + "grad_norm": 0.04930699244141579, + "learning_rate": 2.554669768124421e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21856400, + "step": 11165 + }, + { + "epoch": 1.479920477137177, + "grad_norm": 11.54738998413086, + "learning_rate": 2.554322713300099e-06, + "loss": 0.1988, + "num_input_tokens_seen": 21858440, + "step": 11166 + }, + { + "epoch": 1.480053015241882, + "grad_norm": 13.03319263458252, + "learning_rate": 2.5539756574283985e-06, + "loss": 0.3302, + "num_input_tokens_seen": 21860776, + "step": 11167 + }, + { + "epoch": 1.480185553346587, + "grad_norm": 6.881104469299316, + "learning_rate": 2.55362860051601e-06, + "loss": 0.1164, + "num_input_tokens_seen": 21862776, + "step": 11168 + }, + { + "epoch": 1.4803180914512923, + "grad_norm": 8.74828815460205, + "learning_rate": 2.5532815425696245e-06, + "loss": 0.1805, + "num_input_tokens_seen": 21864552, + "step": 11169 + }, + { + "epoch": 1.4804506295559974, + "grad_norm": 4.866464614868164, + "learning_rate": 2.552934483595935e-06, + "loss": 0.1057, + "num_input_tokens_seen": 21867120, + "step": 11170 + }, + { + "epoch": 1.4805831676607024, + "grad_norm": 0.12263792008161545, + "learning_rate": 2.5525874236016307e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21868400, + "step": 11171 + }, + { + "epoch": 1.4807157057654075, + "grad_norm": 0.25782310962677, + "learning_rate": 2.5522403625934063e-06, + "loss": 0.0019, + "num_input_tokens_seen": 21870776, + "step": 11172 + }, + { + "epoch": 1.4808482438701127, + "grad_norm": 0.02431444823741913, + "learning_rate": 2.5518933005779504e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21872440, + "step": 11173 + }, + { + "epoch": 1.4809807819748178, + "grad_norm": 5.497162818908691, + "learning_rate": 2.5515462375619563e-06, + "loss": 0.0649, + "num_input_tokens_seen": 21874600, + "step": 11174 + }, + { + "epoch": 1.4811133200795228, + "grad_norm": 4.860320091247559, + "learning_rate": 2.5511991735521157e-06, + "loss": 0.0184, + "num_input_tokens_seen": 21875800, + "step": 11175 + }, + { + "epoch": 1.481245858184228, + "grad_norm": 9.03791332244873, + "learning_rate": 2.550852108555119e-06, + "loss": 0.1615, + "num_input_tokens_seen": 21877776, + "step": 11176 + }, + { + "epoch": 1.481378396288933, + "grad_norm": 1.5148662328720093, + "learning_rate": 2.550505042577659e-06, + "loss": 0.0253, + "num_input_tokens_seen": 21878968, + "step": 11177 + }, + { + "epoch": 1.4815109343936381, + "grad_norm": 0.45201557874679565, + "learning_rate": 2.5501579756264273e-06, + "loss": 0.0016, + "num_input_tokens_seen": 21881048, + "step": 11178 + }, + { + "epoch": 1.4816434724983432, + "grad_norm": 1.0872268676757812, + "learning_rate": 2.549810907708114e-06, + "loss": 0.0096, + "num_input_tokens_seen": 21883864, + "step": 11179 + }, + { + "epoch": 1.4817760106030484, + "grad_norm": 0.534960150718689, + "learning_rate": 2.5494638388294128e-06, + "loss": 0.004, + "num_input_tokens_seen": 21885648, + "step": 11180 + }, + { + "epoch": 1.4819085487077535, + "grad_norm": 2.264981985092163, + "learning_rate": 2.5491167689970147e-06, + "loss": 0.0186, + "num_input_tokens_seen": 21887752, + "step": 11181 + }, + { + "epoch": 1.4820410868124587, + "grad_norm": 4.386968612670898, + "learning_rate": 2.5487696982176113e-06, + "loss": 0.0152, + "num_input_tokens_seen": 21889368, + "step": 11182 + }, + { + "epoch": 1.4821736249171638, + "grad_norm": 6.181941986083984, + "learning_rate": 2.5484226264978946e-06, + "loss": 0.0861, + "num_input_tokens_seen": 21890744, + "step": 11183 + }, + { + "epoch": 1.4823061630218688, + "grad_norm": 7.733394622802734, + "learning_rate": 2.5480755538445557e-06, + "loss": 0.0939, + "num_input_tokens_seen": 21892368, + "step": 11184 + }, + { + "epoch": 1.4824387011265738, + "grad_norm": 0.04716675356030464, + "learning_rate": 2.547728480264287e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21894520, + "step": 11185 + }, + { + "epoch": 1.4825712392312789, + "grad_norm": 6.8333563804626465, + "learning_rate": 2.547381405763781e-06, + "loss": 0.0525, + "num_input_tokens_seen": 21896056, + "step": 11186 + }, + { + "epoch": 1.4827037773359841, + "grad_norm": 3.5846142768859863, + "learning_rate": 2.5470343303497286e-06, + "loss": 0.058, + "num_input_tokens_seen": 21898688, + "step": 11187 + }, + { + "epoch": 1.4828363154406892, + "grad_norm": 0.02812708541750908, + "learning_rate": 2.546687254028822e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21900088, + "step": 11188 + }, + { + "epoch": 1.4829688535453944, + "grad_norm": 16.55612564086914, + "learning_rate": 2.5463401768077528e-06, + "loss": 0.3377, + "num_input_tokens_seen": 21901880, + "step": 11189 + }, + { + "epoch": 1.4831013916500995, + "grad_norm": 6.110386848449707, + "learning_rate": 2.5459930986932126e-06, + "loss": 0.0955, + "num_input_tokens_seen": 21903960, + "step": 11190 + }, + { + "epoch": 1.4832339297548045, + "grad_norm": 7.810425281524658, + "learning_rate": 2.5456460196918938e-06, + "loss": 0.145, + "num_input_tokens_seen": 21906384, + "step": 11191 + }, + { + "epoch": 1.4833664678595095, + "grad_norm": 4.55702018737793, + "learning_rate": 2.545298939810488e-06, + "loss": 0.0796, + "num_input_tokens_seen": 21908472, + "step": 11192 + }, + { + "epoch": 1.4834990059642146, + "grad_norm": 15.048956871032715, + "learning_rate": 2.5449518590556888e-06, + "loss": 0.3339, + "num_input_tokens_seen": 21910632, + "step": 11193 + }, + { + "epoch": 1.4836315440689198, + "grad_norm": 1.0949821472167969, + "learning_rate": 2.5446047774341853e-06, + "loss": 0.007, + "num_input_tokens_seen": 21912552, + "step": 11194 + }, + { + "epoch": 1.4837640821736249, + "grad_norm": 3.7838027477264404, + "learning_rate": 2.5442576949526715e-06, + "loss": 0.1036, + "num_input_tokens_seen": 21914480, + "step": 11195 + }, + { + "epoch": 1.4838966202783301, + "grad_norm": 8.974052429199219, + "learning_rate": 2.5439106116178393e-06, + "loss": 0.0848, + "num_input_tokens_seen": 21915944, + "step": 11196 + }, + { + "epoch": 1.4840291583830352, + "grad_norm": 8.462437629699707, + "learning_rate": 2.543563527436379e-06, + "loss": 0.1722, + "num_input_tokens_seen": 21917752, + "step": 11197 + }, + { + "epoch": 1.4841616964877402, + "grad_norm": 10.801608085632324, + "learning_rate": 2.5432164424149845e-06, + "loss": 0.2548, + "num_input_tokens_seen": 21919552, + "step": 11198 + }, + { + "epoch": 1.4842942345924452, + "grad_norm": 0.5651176571846008, + "learning_rate": 2.5428693565603475e-06, + "loss": 0.0053, + "num_input_tokens_seen": 21921720, + "step": 11199 + }, + { + "epoch": 1.4844267726971505, + "grad_norm": 8.296182632446289, + "learning_rate": 2.5425222698791592e-06, + "loss": 0.117, + "num_input_tokens_seen": 21923784, + "step": 11200 + }, + { + "epoch": 1.4845593108018555, + "grad_norm": 0.13115756213665009, + "learning_rate": 2.5421751823781125e-06, + "loss": 0.001, + "num_input_tokens_seen": 21927096, + "step": 11201 + }, + { + "epoch": 1.4846918489065606, + "grad_norm": 6.350335597991943, + "learning_rate": 2.5418280940638993e-06, + "loss": 0.0399, + "num_input_tokens_seen": 21928608, + "step": 11202 + }, + { + "epoch": 1.4848243870112658, + "grad_norm": 6.139593601226807, + "learning_rate": 2.541481004943211e-06, + "loss": 0.2025, + "num_input_tokens_seen": 21930472, + "step": 11203 + }, + { + "epoch": 1.4849569251159709, + "grad_norm": 6.233639240264893, + "learning_rate": 2.541133915022741e-06, + "loss": 0.1612, + "num_input_tokens_seen": 21932496, + "step": 11204 + }, + { + "epoch": 1.485089463220676, + "grad_norm": 10.467829704284668, + "learning_rate": 2.54078682430918e-06, + "loss": 0.1516, + "num_input_tokens_seen": 21934832, + "step": 11205 + }, + { + "epoch": 1.485222001325381, + "grad_norm": 0.09774071723222733, + "learning_rate": 2.5404397328092214e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21936296, + "step": 11206 + }, + { + "epoch": 1.4853545394300862, + "grad_norm": 0.5842940211296082, + "learning_rate": 2.5400926405295574e-06, + "loss": 0.003, + "num_input_tokens_seen": 21938528, + "step": 11207 + }, + { + "epoch": 1.4854870775347913, + "grad_norm": 13.543889999389648, + "learning_rate": 2.5397455474768784e-06, + "loss": 0.1856, + "num_input_tokens_seen": 21941208, + "step": 11208 + }, + { + "epoch": 1.4856196156394963, + "grad_norm": 4.807651996612549, + "learning_rate": 2.539398453657878e-06, + "loss": 0.0981, + "num_input_tokens_seen": 21943056, + "step": 11209 + }, + { + "epoch": 1.4857521537442016, + "grad_norm": 0.08717454224824905, + "learning_rate": 2.5390513590792486e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21945888, + "step": 11210 + }, + { + "epoch": 1.4858846918489066, + "grad_norm": 0.8177707195281982, + "learning_rate": 2.5387042637476826e-06, + "loss": 0.0057, + "num_input_tokens_seen": 21947136, + "step": 11211 + }, + { + "epoch": 1.4860172299536116, + "grad_norm": 0.14777931571006775, + "learning_rate": 2.5383571676698708e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21949320, + "step": 11212 + }, + { + "epoch": 1.4861497680583167, + "grad_norm": 3.502070903778076, + "learning_rate": 2.538010070852507e-06, + "loss": 0.0596, + "num_input_tokens_seen": 21951000, + "step": 11213 + }, + { + "epoch": 1.486282306163022, + "grad_norm": 4.961649417877197, + "learning_rate": 2.537662973302283e-06, + "loss": 0.0815, + "num_input_tokens_seen": 21953120, + "step": 11214 + }, + { + "epoch": 1.486414844267727, + "grad_norm": 10.793278694152832, + "learning_rate": 2.53731587502589e-06, + "loss": 0.1703, + "num_input_tokens_seen": 21955160, + "step": 11215 + }, + { + "epoch": 1.486547382372432, + "grad_norm": 7.7959065437316895, + "learning_rate": 2.5369687760300216e-06, + "loss": 0.2909, + "num_input_tokens_seen": 21956848, + "step": 11216 + }, + { + "epoch": 1.4866799204771373, + "grad_norm": 4.264549732208252, + "learning_rate": 2.53662167632137e-06, + "loss": 0.0563, + "num_input_tokens_seen": 21958560, + "step": 11217 + }, + { + "epoch": 1.4868124585818423, + "grad_norm": 3.288600206375122, + "learning_rate": 2.5362745759066263e-06, + "loss": 0.0234, + "num_input_tokens_seen": 21960376, + "step": 11218 + }, + { + "epoch": 1.4869449966865473, + "grad_norm": 14.401220321655273, + "learning_rate": 2.535927474792485e-06, + "loss": 0.2336, + "num_input_tokens_seen": 21962360, + "step": 11219 + }, + { + "epoch": 1.4870775347912524, + "grad_norm": 4.68358850479126, + "learning_rate": 2.535580372985637e-06, + "loss": 0.0825, + "num_input_tokens_seen": 21963888, + "step": 11220 + }, + { + "epoch": 1.4872100728959576, + "grad_norm": 0.11901406943798065, + "learning_rate": 2.535233270492774e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21965424, + "step": 11221 + }, + { + "epoch": 1.4873426110006627, + "grad_norm": 7.619617938995361, + "learning_rate": 2.53488616732059e-06, + "loss": 0.2111, + "num_input_tokens_seen": 21966888, + "step": 11222 + }, + { + "epoch": 1.4874751491053677, + "grad_norm": 4.48398494720459, + "learning_rate": 2.5345390634757763e-06, + "loss": 0.0881, + "num_input_tokens_seen": 21968504, + "step": 11223 + }, + { + "epoch": 1.487607687210073, + "grad_norm": 9.354607582092285, + "learning_rate": 2.5341919589650256e-06, + "loss": 0.235, + "num_input_tokens_seen": 21970744, + "step": 11224 + }, + { + "epoch": 1.487740225314778, + "grad_norm": 5.516051292419434, + "learning_rate": 2.5338448537950304e-06, + "loss": 0.0601, + "num_input_tokens_seen": 21972840, + "step": 11225 + }, + { + "epoch": 1.487872763419483, + "grad_norm": 4.914371967315674, + "learning_rate": 2.533497747972483e-06, + "loss": 0.025, + "num_input_tokens_seen": 21973768, + "step": 11226 + }, + { + "epoch": 1.488005301524188, + "grad_norm": 0.1430598646402359, + "learning_rate": 2.533150641504076e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21976832, + "step": 11227 + }, + { + "epoch": 1.4881378396288933, + "grad_norm": 1.527557611465454, + "learning_rate": 2.5328035343965012e-06, + "loss": 0.0232, + "num_input_tokens_seen": 21978224, + "step": 11228 + }, + { + "epoch": 1.4882703777335984, + "grad_norm": 7.597232341766357, + "learning_rate": 2.5324564266564527e-06, + "loss": 0.1311, + "num_input_tokens_seen": 21980176, + "step": 11229 + }, + { + "epoch": 1.4884029158383036, + "grad_norm": 12.762622833251953, + "learning_rate": 2.5321093182906217e-06, + "loss": 0.1823, + "num_input_tokens_seen": 21983904, + "step": 11230 + }, + { + "epoch": 1.4885354539430087, + "grad_norm": 0.03356817364692688, + "learning_rate": 2.5317622093057e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21985240, + "step": 11231 + }, + { + "epoch": 1.4886679920477137, + "grad_norm": 11.758745193481445, + "learning_rate": 2.531415099708382e-06, + "loss": 0.0957, + "num_input_tokens_seen": 21987504, + "step": 11232 + }, + { + "epoch": 1.4888005301524188, + "grad_norm": 7.603974342346191, + "learning_rate": 2.5310679895053585e-06, + "loss": 0.0304, + "num_input_tokens_seen": 21989088, + "step": 11233 + }, + { + "epoch": 1.4889330682571238, + "grad_norm": 14.615354537963867, + "learning_rate": 2.530720878703323e-06, + "loss": 0.4464, + "num_input_tokens_seen": 21991032, + "step": 11234 + }, + { + "epoch": 1.489065606361829, + "grad_norm": 3.262742757797241, + "learning_rate": 2.5303737673089686e-06, + "loss": 0.0468, + "num_input_tokens_seen": 21993072, + "step": 11235 + }, + { + "epoch": 1.489198144466534, + "grad_norm": 5.871703147888184, + "learning_rate": 2.530026655328985e-06, + "loss": 0.1643, + "num_input_tokens_seen": 21994792, + "step": 11236 + }, + { + "epoch": 1.4893306825712394, + "grad_norm": 0.1343318372964859, + "learning_rate": 2.529679542770069e-06, + "loss": 0.001, + "num_input_tokens_seen": 21996856, + "step": 11237 + }, + { + "epoch": 1.4894632206759444, + "grad_norm": 2.609346628189087, + "learning_rate": 2.529332429638909e-06, + "loss": 0.0388, + "num_input_tokens_seen": 21999624, + "step": 11238 + }, + { + "epoch": 1.4895957587806494, + "grad_norm": 2.5073983669281006, + "learning_rate": 2.5289853159422005e-06, + "loss": 0.0495, + "num_input_tokens_seen": 22002560, + "step": 11239 + }, + { + "epoch": 1.4897282968853545, + "grad_norm": 0.22896023094654083, + "learning_rate": 2.5286382016866356e-06, + "loss": 0.0015, + "num_input_tokens_seen": 22004808, + "step": 11240 + }, + { + "epoch": 1.4898608349900597, + "grad_norm": 2.1829471588134766, + "learning_rate": 2.5282910868789056e-06, + "loss": 0.0235, + "num_input_tokens_seen": 22006728, + "step": 11241 + }, + { + "epoch": 1.4899933730947648, + "grad_norm": 3.60050106048584, + "learning_rate": 2.5279439715257037e-06, + "loss": 0.0379, + "num_input_tokens_seen": 22008480, + "step": 11242 + }, + { + "epoch": 1.4901259111994698, + "grad_norm": 6.7282023429870605, + "learning_rate": 2.5275968556337237e-06, + "loss": 0.0827, + "num_input_tokens_seen": 22011032, + "step": 11243 + }, + { + "epoch": 1.490258449304175, + "grad_norm": 2.6511669158935547, + "learning_rate": 2.5272497392096566e-06, + "loss": 0.0363, + "num_input_tokens_seen": 22012536, + "step": 11244 + }, + { + "epoch": 1.49039098740888, + "grad_norm": 0.2613256871700287, + "learning_rate": 2.526902622260196e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22015072, + "step": 11245 + }, + { + "epoch": 1.4905235255135851, + "grad_norm": 0.10562022775411606, + "learning_rate": 2.5265555047920347e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22016744, + "step": 11246 + }, + { + "epoch": 1.4906560636182902, + "grad_norm": 0.04290936142206192, + "learning_rate": 2.5262083868118643e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22018624, + "step": 11247 + }, + { + "epoch": 1.4907886017229954, + "grad_norm": 6.47480583190918, + "learning_rate": 2.5258612683263782e-06, + "loss": 0.0377, + "num_input_tokens_seen": 22020256, + "step": 11248 + }, + { + "epoch": 1.4909211398277005, + "grad_norm": 2.856600284576416, + "learning_rate": 2.5255141493422684e-06, + "loss": 0.0397, + "num_input_tokens_seen": 22023384, + "step": 11249 + }, + { + "epoch": 1.4910536779324055, + "grad_norm": 0.0670863464474678, + "learning_rate": 2.525167029866229e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22025376, + "step": 11250 + }, + { + "epoch": 1.4911862160371108, + "grad_norm": 24.312685012817383, + "learning_rate": 2.5248199099049527e-06, + "loss": 0.4785, + "num_input_tokens_seen": 22028736, + "step": 11251 + }, + { + "epoch": 1.4913187541418158, + "grad_norm": 7.973196983337402, + "learning_rate": 2.52447278946513e-06, + "loss": 0.2607, + "num_input_tokens_seen": 22031008, + "step": 11252 + }, + { + "epoch": 1.4914512922465208, + "grad_norm": 0.0632823035120964, + "learning_rate": 2.5241256685534556e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22033024, + "step": 11253 + }, + { + "epoch": 1.4915838303512259, + "grad_norm": 2.3455021381378174, + "learning_rate": 2.5237785471766213e-06, + "loss": 0.0234, + "num_input_tokens_seen": 22034880, + "step": 11254 + }, + { + "epoch": 1.4917163684559311, + "grad_norm": 6.446322917938232, + "learning_rate": 2.523431425341321e-06, + "loss": 0.1945, + "num_input_tokens_seen": 22036944, + "step": 11255 + }, + { + "epoch": 1.4918489065606362, + "grad_norm": 7.368457317352295, + "learning_rate": 2.5230843030542456e-06, + "loss": 0.1715, + "num_input_tokens_seen": 22039776, + "step": 11256 + }, + { + "epoch": 1.4919814446653412, + "grad_norm": 0.030115073546767235, + "learning_rate": 2.5227371803220896e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22041120, + "step": 11257 + }, + { + "epoch": 1.4921139827700465, + "grad_norm": 0.5102638602256775, + "learning_rate": 2.5223900571515452e-06, + "loss": 0.0043, + "num_input_tokens_seen": 22042616, + "step": 11258 + }, + { + "epoch": 1.4922465208747515, + "grad_norm": 7.951561450958252, + "learning_rate": 2.5220429335493046e-06, + "loss": 0.1131, + "num_input_tokens_seen": 22044288, + "step": 11259 + }, + { + "epoch": 1.4923790589794566, + "grad_norm": 9.365495681762695, + "learning_rate": 2.521695809522061e-06, + "loss": 0.1356, + "num_input_tokens_seen": 22045936, + "step": 11260 + }, + { + "epoch": 1.4925115970841616, + "grad_norm": 3.4460318088531494, + "learning_rate": 2.5213486850765085e-06, + "loss": 0.0487, + "num_input_tokens_seen": 22047864, + "step": 11261 + }, + { + "epoch": 1.4926441351888668, + "grad_norm": 3.424572467803955, + "learning_rate": 2.5210015602193373e-06, + "loss": 0.0704, + "num_input_tokens_seen": 22049240, + "step": 11262 + }, + { + "epoch": 1.4927766732935719, + "grad_norm": 4.318841457366943, + "learning_rate": 2.5206544349572416e-06, + "loss": 0.0785, + "num_input_tokens_seen": 22050688, + "step": 11263 + }, + { + "epoch": 1.492909211398277, + "grad_norm": 13.93221664428711, + "learning_rate": 2.520307309296915e-06, + "loss": 0.2348, + "num_input_tokens_seen": 22053128, + "step": 11264 + }, + { + "epoch": 1.4930417495029822, + "grad_norm": 7.366179466247559, + "learning_rate": 2.519960183245048e-06, + "loss": 0.0477, + "num_input_tokens_seen": 22055872, + "step": 11265 + }, + { + "epoch": 1.4931742876076872, + "grad_norm": 6.625668525695801, + "learning_rate": 2.519613056808336e-06, + "loss": 0.1607, + "num_input_tokens_seen": 22057984, + "step": 11266 + }, + { + "epoch": 1.4933068257123923, + "grad_norm": 10.712101936340332, + "learning_rate": 2.5192659299934703e-06, + "loss": 0.0988, + "num_input_tokens_seen": 22059464, + "step": 11267 + }, + { + "epoch": 1.4934393638170973, + "grad_norm": 16.251506805419922, + "learning_rate": 2.5189188028071444e-06, + "loss": 0.2147, + "num_input_tokens_seen": 22062080, + "step": 11268 + }, + { + "epoch": 1.4935719019218026, + "grad_norm": 5.481698036193848, + "learning_rate": 2.5185716752560515e-06, + "loss": 0.0641, + "num_input_tokens_seen": 22065144, + "step": 11269 + }, + { + "epoch": 1.4937044400265076, + "grad_norm": 19.051408767700195, + "learning_rate": 2.518224547346883e-06, + "loss": 0.6381, + "num_input_tokens_seen": 22067528, + "step": 11270 + }, + { + "epoch": 1.4938369781312129, + "grad_norm": 5.339697360992432, + "learning_rate": 2.5178774190863326e-06, + "loss": 0.134, + "num_input_tokens_seen": 22070088, + "step": 11271 + }, + { + "epoch": 1.493969516235918, + "grad_norm": 0.02127126231789589, + "learning_rate": 2.517530290481093e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22072176, + "step": 11272 + }, + { + "epoch": 1.494102054340623, + "grad_norm": 5.8056416511535645, + "learning_rate": 2.5171831615378587e-06, + "loss": 0.1708, + "num_input_tokens_seen": 22075088, + "step": 11273 + }, + { + "epoch": 1.494234592445328, + "grad_norm": 3.2386772632598877, + "learning_rate": 2.51683603226332e-06, + "loss": 0.0211, + "num_input_tokens_seen": 22076632, + "step": 11274 + }, + { + "epoch": 1.494367130550033, + "grad_norm": 0.04409939795732498, + "learning_rate": 2.5164889026641714e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22078208, + "step": 11275 + }, + { + "epoch": 1.4944996686547383, + "grad_norm": 7.009223937988281, + "learning_rate": 2.5161417727471053e-06, + "loss": 0.1532, + "num_input_tokens_seen": 22079960, + "step": 11276 + }, + { + "epoch": 1.4946322067594433, + "grad_norm": 0.036608558148145676, + "learning_rate": 2.5157946425188153e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22081944, + "step": 11277 + }, + { + "epoch": 1.4947647448641486, + "grad_norm": 1.2869271039962769, + "learning_rate": 2.5154475119859927e-06, + "loss": 0.0116, + "num_input_tokens_seen": 22083152, + "step": 11278 + }, + { + "epoch": 1.4948972829688536, + "grad_norm": 0.39250287413597107, + "learning_rate": 2.515100381155332e-06, + "loss": 0.0037, + "num_input_tokens_seen": 22084600, + "step": 11279 + }, + { + "epoch": 1.4950298210735586, + "grad_norm": 17.673362731933594, + "learning_rate": 2.514753250033525e-06, + "loss": 0.1486, + "num_input_tokens_seen": 22087552, + "step": 11280 + }, + { + "epoch": 1.4951623591782637, + "grad_norm": 4.3808441162109375, + "learning_rate": 2.5144061186272656e-06, + "loss": 0.0296, + "num_input_tokens_seen": 22088840, + "step": 11281 + }, + { + "epoch": 1.4952948972829687, + "grad_norm": 0.08708979189395905, + "learning_rate": 2.514058986943247e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22091560, + "step": 11282 + }, + { + "epoch": 1.495427435387674, + "grad_norm": 5.112151622772217, + "learning_rate": 2.5137118549881594e-06, + "loss": 0.1537, + "num_input_tokens_seen": 22093336, + "step": 11283 + }, + { + "epoch": 1.495559973492379, + "grad_norm": 0.03771781921386719, + "learning_rate": 2.5133647227687e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22094512, + "step": 11284 + }, + { + "epoch": 1.4956925115970843, + "grad_norm": 0.16863234341144562, + "learning_rate": 2.513017590291558e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22097056, + "step": 11285 + }, + { + "epoch": 1.4958250497017893, + "grad_norm": 6.053509712219238, + "learning_rate": 2.512670457563428e-06, + "loss": 0.1273, + "num_input_tokens_seen": 22099080, + "step": 11286 + }, + { + "epoch": 1.4959575878064943, + "grad_norm": 0.22670598328113556, + "learning_rate": 2.512323324591004e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22100424, + "step": 11287 + }, + { + "epoch": 1.4960901259111994, + "grad_norm": 11.104025840759277, + "learning_rate": 2.511976191380977e-06, + "loss": 0.2368, + "num_input_tokens_seen": 22102352, + "step": 11288 + }, + { + "epoch": 1.4962226640159046, + "grad_norm": 3.6719870567321777, + "learning_rate": 2.5116290579400406e-06, + "loss": 0.0383, + "num_input_tokens_seen": 22104312, + "step": 11289 + }, + { + "epoch": 1.4963552021206097, + "grad_norm": 0.06800150871276855, + "learning_rate": 2.5112819242748885e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22107704, + "step": 11290 + }, + { + "epoch": 1.4964877402253147, + "grad_norm": 8.735757827758789, + "learning_rate": 2.510934790392213e-06, + "loss": 0.2587, + "num_input_tokens_seen": 22109520, + "step": 11291 + }, + { + "epoch": 1.49662027833002, + "grad_norm": 9.229066848754883, + "learning_rate": 2.5105876562987064e-06, + "loss": 0.147, + "num_input_tokens_seen": 22111552, + "step": 11292 + }, + { + "epoch": 1.496752816434725, + "grad_norm": 1.3582638502120972, + "learning_rate": 2.510240522001063e-06, + "loss": 0.0128, + "num_input_tokens_seen": 22113072, + "step": 11293 + }, + { + "epoch": 1.49688535453943, + "grad_norm": 4.1831889152526855, + "learning_rate": 2.5098933875059757e-06, + "loss": 0.0381, + "num_input_tokens_seen": 22114664, + "step": 11294 + }, + { + "epoch": 1.497017892644135, + "grad_norm": 11.545395851135254, + "learning_rate": 2.5095462528201366e-06, + "loss": 0.1321, + "num_input_tokens_seen": 22117368, + "step": 11295 + }, + { + "epoch": 1.4971504307488404, + "grad_norm": 0.4734537601470947, + "learning_rate": 2.509199117950239e-06, + "loss": 0.0032, + "num_input_tokens_seen": 22119296, + "step": 11296 + }, + { + "epoch": 1.4972829688535454, + "grad_norm": 5.652725696563721, + "learning_rate": 2.508851982902977e-06, + "loss": 0.0973, + "num_input_tokens_seen": 22120976, + "step": 11297 + }, + { + "epoch": 1.4974155069582504, + "grad_norm": 7.9530744552612305, + "learning_rate": 2.508504847685041e-06, + "loss": 0.0364, + "num_input_tokens_seen": 22122320, + "step": 11298 + }, + { + "epoch": 1.4975480450629557, + "grad_norm": 5.118899345397949, + "learning_rate": 2.508157712303127e-06, + "loss": 0.2109, + "num_input_tokens_seen": 22124688, + "step": 11299 + }, + { + "epoch": 1.4976805831676607, + "grad_norm": 14.509099960327148, + "learning_rate": 2.5078105767639265e-06, + "loss": 0.388, + "num_input_tokens_seen": 22127072, + "step": 11300 + }, + { + "epoch": 1.4978131212723658, + "grad_norm": 12.065324783325195, + "learning_rate": 2.5074634410741323e-06, + "loss": 0.2531, + "num_input_tokens_seen": 22128688, + "step": 11301 + }, + { + "epoch": 1.4979456593770708, + "grad_norm": 6.663219928741455, + "learning_rate": 2.5071163052404378e-06, + "loss": 0.0614, + "num_input_tokens_seen": 22130416, + "step": 11302 + }, + { + "epoch": 1.498078197481776, + "grad_norm": 9.804076194763184, + "learning_rate": 2.5067691692695366e-06, + "loss": 0.221, + "num_input_tokens_seen": 22132512, + "step": 11303 + }, + { + "epoch": 1.498210735586481, + "grad_norm": 1.0664399862289429, + "learning_rate": 2.5064220331681204e-06, + "loss": 0.0051, + "num_input_tokens_seen": 22134480, + "step": 11304 + }, + { + "epoch": 1.4983432736911861, + "grad_norm": 0.10796388983726501, + "learning_rate": 2.506074896942884e-06, + "loss": 0.001, + "num_input_tokens_seen": 22136768, + "step": 11305 + }, + { + "epoch": 1.4984758117958914, + "grad_norm": 10.3233003616333, + "learning_rate": 2.5057277606005187e-06, + "loss": 0.2936, + "num_input_tokens_seen": 22139416, + "step": 11306 + }, + { + "epoch": 1.4986083499005964, + "grad_norm": 9.231203079223633, + "learning_rate": 2.505380624147718e-06, + "loss": 0.1681, + "num_input_tokens_seen": 22142064, + "step": 11307 + }, + { + "epoch": 1.4987408880053015, + "grad_norm": 12.606380462646484, + "learning_rate": 2.505033487591176e-06, + "loss": 0.3864, + "num_input_tokens_seen": 22144416, + "step": 11308 + }, + { + "epoch": 1.4988734261100065, + "grad_norm": 7.775861740112305, + "learning_rate": 2.504686350937584e-06, + "loss": 0.1466, + "num_input_tokens_seen": 22146768, + "step": 11309 + }, + { + "epoch": 1.4990059642147118, + "grad_norm": 7.8473005294799805, + "learning_rate": 2.5043392141936364e-06, + "loss": 0.0993, + "num_input_tokens_seen": 22148760, + "step": 11310 + }, + { + "epoch": 1.4991385023194168, + "grad_norm": 6.642422676086426, + "learning_rate": 2.5039920773660254e-06, + "loss": 0.0623, + "num_input_tokens_seen": 22150768, + "step": 11311 + }, + { + "epoch": 1.499271040424122, + "grad_norm": 1.4296715259552002, + "learning_rate": 2.503644940461445e-06, + "loss": 0.0065, + "num_input_tokens_seen": 22153208, + "step": 11312 + }, + { + "epoch": 1.499403578528827, + "grad_norm": 0.5597422122955322, + "learning_rate": 2.503297803486587e-06, + "loss": 0.0048, + "num_input_tokens_seen": 22155432, + "step": 11313 + }, + { + "epoch": 1.4995361166335321, + "grad_norm": 0.233292818069458, + "learning_rate": 2.502950666448145e-06, + "loss": 0.0016, + "num_input_tokens_seen": 22157696, + "step": 11314 + }, + { + "epoch": 1.4996686547382372, + "grad_norm": 0.19976887106895447, + "learning_rate": 2.502603529352813e-06, + "loss": 0.0013, + "num_input_tokens_seen": 22159360, + "step": 11315 + }, + { + "epoch": 1.4998011928429422, + "grad_norm": 4.656866550445557, + "learning_rate": 2.5022563922072825e-06, + "loss": 0.1073, + "num_input_tokens_seen": 22161176, + "step": 11316 + }, + { + "epoch": 1.4999337309476475, + "grad_norm": 12.248750686645508, + "learning_rate": 2.5019092550182467e-06, + "loss": 0.1918, + "num_input_tokens_seen": 22163416, + "step": 11317 + }, + { + "epoch": 1.5000662690523525, + "grad_norm": 23.958274841308594, + "learning_rate": 2.5015621177923998e-06, + "loss": 0.5868, + "num_input_tokens_seen": 22165064, + "step": 11318 + }, + { + "epoch": 1.5001988071570578, + "grad_norm": 16.156267166137695, + "learning_rate": 2.501214980536434e-06, + "loss": 0.4877, + "num_input_tokens_seen": 22167104, + "step": 11319 + }, + { + "epoch": 1.5003313452617628, + "grad_norm": 6.773266315460205, + "learning_rate": 2.500867843257043e-06, + "loss": 0.1135, + "num_input_tokens_seen": 22170016, + "step": 11320 + }, + { + "epoch": 1.5004638833664679, + "grad_norm": 8.740592956542969, + "learning_rate": 2.5005207059609187e-06, + "loss": 0.1243, + "num_input_tokens_seen": 22171416, + "step": 11321 + }, + { + "epoch": 1.500596421471173, + "grad_norm": 9.475445747375488, + "learning_rate": 2.5001735686547553e-06, + "loss": 0.0828, + "num_input_tokens_seen": 22173496, + "step": 11322 + }, + { + "epoch": 1.500728959575878, + "grad_norm": 0.007296200376003981, + "learning_rate": 2.499826431345245e-06, + "loss": 0.0, + "num_input_tokens_seen": 22174976, + "step": 11323 + }, + { + "epoch": 1.5008614976805832, + "grad_norm": 0.19035208225250244, + "learning_rate": 2.4994792940390817e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22176624, + "step": 11324 + }, + { + "epoch": 1.5009940357852882, + "grad_norm": 6.67063570022583, + "learning_rate": 2.4991321567429577e-06, + "loss": 0.0483, + "num_input_tokens_seen": 22178128, + "step": 11325 + }, + { + "epoch": 1.5011265738899935, + "grad_norm": 4.840065002441406, + "learning_rate": 2.498785019463567e-06, + "loss": 0.1344, + "num_input_tokens_seen": 22180536, + "step": 11326 + }, + { + "epoch": 1.5012591119946985, + "grad_norm": 3.436634063720703, + "learning_rate": 2.498437882207601e-06, + "loss": 0.0638, + "num_input_tokens_seen": 22182216, + "step": 11327 + }, + { + "epoch": 1.5013916500994036, + "grad_norm": 0.12780870497226715, + "learning_rate": 2.4980907449817533e-06, + "loss": 0.0008, + "num_input_tokens_seen": 22184384, + "step": 11328 + }, + { + "epoch": 1.5015241882041086, + "grad_norm": 4.5274858474731445, + "learning_rate": 2.4977436077927184e-06, + "loss": 0.1023, + "num_input_tokens_seen": 22186648, + "step": 11329 + }, + { + "epoch": 1.5016567263088136, + "grad_norm": 4.441134452819824, + "learning_rate": 2.497396470647188e-06, + "loss": 0.0203, + "num_input_tokens_seen": 22188384, + "step": 11330 + }, + { + "epoch": 1.501789264413519, + "grad_norm": 17.046367645263672, + "learning_rate": 2.497049333551856e-06, + "loss": 0.5917, + "num_input_tokens_seen": 22190168, + "step": 11331 + }, + { + "epoch": 1.501921802518224, + "grad_norm": 6.989553928375244, + "learning_rate": 2.4967021965134143e-06, + "loss": 0.1428, + "num_input_tokens_seen": 22191912, + "step": 11332 + }, + { + "epoch": 1.5020543406229292, + "grad_norm": 1.971257209777832, + "learning_rate": 2.496355059538556e-06, + "loss": 0.0107, + "num_input_tokens_seen": 22194072, + "step": 11333 + }, + { + "epoch": 1.5021868787276342, + "grad_norm": 0.024518702179193497, + "learning_rate": 2.496007922633975e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22195328, + "step": 11334 + }, + { + "epoch": 1.5023194168323393, + "grad_norm": 4.5171427726745605, + "learning_rate": 2.495660785806365e-06, + "loss": 0.1023, + "num_input_tokens_seen": 22197688, + "step": 11335 + }, + { + "epoch": 1.5024519549370443, + "grad_norm": 0.1347322165966034, + "learning_rate": 2.4953136490624165e-06, + "loss": 0.001, + "num_input_tokens_seen": 22199952, + "step": 11336 + }, + { + "epoch": 1.5025844930417493, + "grad_norm": 0.06904023885726929, + "learning_rate": 2.4949665124088254e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22201776, + "step": 11337 + }, + { + "epoch": 1.5027170311464546, + "grad_norm": 6.8512864112854, + "learning_rate": 2.494619375852283e-06, + "loss": 0.1023, + "num_input_tokens_seen": 22204408, + "step": 11338 + }, + { + "epoch": 1.5028495692511599, + "grad_norm": 12.186630249023438, + "learning_rate": 2.494272239399482e-06, + "loss": 0.3112, + "num_input_tokens_seen": 22206568, + "step": 11339 + }, + { + "epoch": 1.502982107355865, + "grad_norm": 5.696072101593018, + "learning_rate": 2.4939251030571168e-06, + "loss": 0.1162, + "num_input_tokens_seen": 22209192, + "step": 11340 + }, + { + "epoch": 1.50311464546057, + "grad_norm": 9.824942588806152, + "learning_rate": 2.49357796683188e-06, + "loss": 0.1622, + "num_input_tokens_seen": 22210696, + "step": 11341 + }, + { + "epoch": 1.503247183565275, + "grad_norm": 11.528942108154297, + "learning_rate": 2.493230830730464e-06, + "loss": 0.3344, + "num_input_tokens_seen": 22212600, + "step": 11342 + }, + { + "epoch": 1.50337972166998, + "grad_norm": 11.75717544555664, + "learning_rate": 2.492883694759563e-06, + "loss": 0.059, + "num_input_tokens_seen": 22214792, + "step": 11343 + }, + { + "epoch": 1.503512259774685, + "grad_norm": 0.1370205283164978, + "learning_rate": 2.492536558925868e-06, + "loss": 0.001, + "num_input_tokens_seen": 22216464, + "step": 11344 + }, + { + "epoch": 1.5036447978793903, + "grad_norm": 12.367904663085938, + "learning_rate": 2.492189423236074e-06, + "loss": 0.2596, + "num_input_tokens_seen": 22218528, + "step": 11345 + }, + { + "epoch": 1.5037773359840956, + "grad_norm": 9.471757888793945, + "learning_rate": 2.4918422876968737e-06, + "loss": 0.1572, + "num_input_tokens_seen": 22220056, + "step": 11346 + }, + { + "epoch": 1.5039098740888006, + "grad_norm": 9.884944915771484, + "learning_rate": 2.49149515231496e-06, + "loss": 0.3949, + "num_input_tokens_seen": 22222008, + "step": 11347 + }, + { + "epoch": 1.5040424121935057, + "grad_norm": 0.5098044872283936, + "learning_rate": 2.4911480170970244e-06, + "loss": 0.0031, + "num_input_tokens_seen": 22224440, + "step": 11348 + }, + { + "epoch": 1.5041749502982107, + "grad_norm": 5.8175048828125, + "learning_rate": 2.490800882049761e-06, + "loss": 0.0695, + "num_input_tokens_seen": 22226640, + "step": 11349 + }, + { + "epoch": 1.5043074884029157, + "grad_norm": 1.5691171884536743, + "learning_rate": 2.4904537471798642e-06, + "loss": 0.0155, + "num_input_tokens_seen": 22228184, + "step": 11350 + }, + { + "epoch": 1.504440026507621, + "grad_norm": 4.199514389038086, + "learning_rate": 2.490106612494025e-06, + "loss": 0.0582, + "num_input_tokens_seen": 22230208, + "step": 11351 + }, + { + "epoch": 1.504572564612326, + "grad_norm": 0.05354466661810875, + "learning_rate": 2.489759477998938e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22232216, + "step": 11352 + }, + { + "epoch": 1.5047051027170313, + "grad_norm": 11.919499397277832, + "learning_rate": 2.489412343701295e-06, + "loss": 0.1582, + "num_input_tokens_seen": 22235016, + "step": 11353 + }, + { + "epoch": 1.5048376408217363, + "grad_norm": 8.071243286132812, + "learning_rate": 2.489065209607788e-06, + "loss": 0.1582, + "num_input_tokens_seen": 22237776, + "step": 11354 + }, + { + "epoch": 1.5049701789264414, + "grad_norm": 11.218445777893066, + "learning_rate": 2.4887180757251123e-06, + "loss": 0.1551, + "num_input_tokens_seen": 22239856, + "step": 11355 + }, + { + "epoch": 1.5051027170311464, + "grad_norm": 12.45864486694336, + "learning_rate": 2.48837094205996e-06, + "loss": 0.3021, + "num_input_tokens_seen": 22242200, + "step": 11356 + }, + { + "epoch": 1.5052352551358514, + "grad_norm": 0.0641266256570816, + "learning_rate": 2.488023808619024e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22243768, + "step": 11357 + }, + { + "epoch": 1.5053677932405567, + "grad_norm": 5.266931056976318, + "learning_rate": 2.487676675408997e-06, + "loss": 0.1245, + "num_input_tokens_seen": 22245696, + "step": 11358 + }, + { + "epoch": 1.5055003313452617, + "grad_norm": 5.88974666595459, + "learning_rate": 2.487329542436572e-06, + "loss": 0.0891, + "num_input_tokens_seen": 22247288, + "step": 11359 + }, + { + "epoch": 1.505632869449967, + "grad_norm": 1.401282787322998, + "learning_rate": 2.4869824097084424e-06, + "loss": 0.0098, + "num_input_tokens_seen": 22249200, + "step": 11360 + }, + { + "epoch": 1.505765407554672, + "grad_norm": 16.31235694885254, + "learning_rate": 2.486635277231301e-06, + "loss": 0.1813, + "num_input_tokens_seen": 22251648, + "step": 11361 + }, + { + "epoch": 1.505897945659377, + "grad_norm": 6.742690086364746, + "learning_rate": 2.486288145011841e-06, + "loss": 0.11, + "num_input_tokens_seen": 22254248, + "step": 11362 + }, + { + "epoch": 1.506030483764082, + "grad_norm": 5.9086689949035645, + "learning_rate": 2.485941013056755e-06, + "loss": 0.0669, + "num_input_tokens_seen": 22256360, + "step": 11363 + }, + { + "epoch": 1.5061630218687871, + "grad_norm": 10.00708293914795, + "learning_rate": 2.4855938813727344e-06, + "loss": 0.2642, + "num_input_tokens_seen": 22258288, + "step": 11364 + }, + { + "epoch": 1.5062955599734924, + "grad_norm": 4.125768184661865, + "learning_rate": 2.485246749966475e-06, + "loss": 0.0427, + "num_input_tokens_seen": 22260032, + "step": 11365 + }, + { + "epoch": 1.5064280980781974, + "grad_norm": 3.1132164001464844, + "learning_rate": 2.4848996188446687e-06, + "loss": 0.0146, + "num_input_tokens_seen": 22262440, + "step": 11366 + }, + { + "epoch": 1.5065606361829027, + "grad_norm": 5.616835594177246, + "learning_rate": 2.484552488014008e-06, + "loss": 0.1172, + "num_input_tokens_seen": 22264552, + "step": 11367 + }, + { + "epoch": 1.5066931742876077, + "grad_norm": 2.5037827491760254, + "learning_rate": 2.4842053574811864e-06, + "loss": 0.042, + "num_input_tokens_seen": 22266056, + "step": 11368 + }, + { + "epoch": 1.5068257123923128, + "grad_norm": 5.691380023956299, + "learning_rate": 2.4838582272528955e-06, + "loss": 0.0329, + "num_input_tokens_seen": 22268304, + "step": 11369 + }, + { + "epoch": 1.5069582504970178, + "grad_norm": 12.696510314941406, + "learning_rate": 2.4835110973358286e-06, + "loss": 0.2086, + "num_input_tokens_seen": 22269872, + "step": 11370 + }, + { + "epoch": 1.5070907886017229, + "grad_norm": 0.20764188468456268, + "learning_rate": 2.4831639677366807e-06, + "loss": 0.0013, + "num_input_tokens_seen": 22271280, + "step": 11371 + }, + { + "epoch": 1.5072233267064281, + "grad_norm": 0.033183302730321884, + "learning_rate": 2.482816838462142e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22272664, + "step": 11372 + }, + { + "epoch": 1.5073558648111332, + "grad_norm": 5.8083977699279785, + "learning_rate": 2.4824697095189073e-06, + "loss": 0.1131, + "num_input_tokens_seen": 22274440, + "step": 11373 + }, + { + "epoch": 1.5074884029158384, + "grad_norm": 0.038225311785936356, + "learning_rate": 2.4821225809136683e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22276864, + "step": 11374 + }, + { + "epoch": 1.5076209410205434, + "grad_norm": 10.296028137207031, + "learning_rate": 2.4817754526531175e-06, + "loss": 0.1572, + "num_input_tokens_seen": 22279728, + "step": 11375 + }, + { + "epoch": 1.5077534791252485, + "grad_norm": 7.478351593017578, + "learning_rate": 2.4814283247439494e-06, + "loss": 0.201, + "num_input_tokens_seen": 22281496, + "step": 11376 + }, + { + "epoch": 1.5078860172299535, + "grad_norm": 3.580753803253174, + "learning_rate": 2.4810811971928564e-06, + "loss": 0.0797, + "num_input_tokens_seen": 22283240, + "step": 11377 + }, + { + "epoch": 1.5080185553346586, + "grad_norm": 17.45608901977539, + "learning_rate": 2.48073407000653e-06, + "loss": 0.3048, + "num_input_tokens_seen": 22285456, + "step": 11378 + }, + { + "epoch": 1.5081510934393638, + "grad_norm": 8.84461784362793, + "learning_rate": 2.480386943191665e-06, + "loss": 0.1207, + "num_input_tokens_seen": 22287304, + "step": 11379 + }, + { + "epoch": 1.508283631544069, + "grad_norm": 1.9499233961105347, + "learning_rate": 2.4800398167549524e-06, + "loss": 0.0237, + "num_input_tokens_seen": 22289664, + "step": 11380 + }, + { + "epoch": 1.5084161696487741, + "grad_norm": 11.147247314453125, + "learning_rate": 2.479692690703086e-06, + "loss": 0.1485, + "num_input_tokens_seen": 22291472, + "step": 11381 + }, + { + "epoch": 1.5085487077534792, + "grad_norm": 0.19540995359420776, + "learning_rate": 2.479345565042759e-06, + "loss": 0.0014, + "num_input_tokens_seen": 22292472, + "step": 11382 + }, + { + "epoch": 1.5086812458581842, + "grad_norm": 6.15656042098999, + "learning_rate": 2.4789984397806635e-06, + "loss": 0.1339, + "num_input_tokens_seen": 22294344, + "step": 11383 + }, + { + "epoch": 1.5088137839628892, + "grad_norm": 0.4155294597148895, + "learning_rate": 2.4786513149234932e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22296048, + "step": 11384 + }, + { + "epoch": 1.5089463220675943, + "grad_norm": 0.4467773139476776, + "learning_rate": 2.4783041904779386e-06, + "loss": 0.0024, + "num_input_tokens_seen": 22297952, + "step": 11385 + }, + { + "epoch": 1.5090788601722995, + "grad_norm": 0.2392825037240982, + "learning_rate": 2.477957066450696e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22299976, + "step": 11386 + }, + { + "epoch": 1.5092113982770048, + "grad_norm": 0.013642658479511738, + "learning_rate": 2.4776099428484556e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22301280, + "step": 11387 + }, + { + "epoch": 1.5093439363817098, + "grad_norm": 6.525798797607422, + "learning_rate": 2.4772628196779113e-06, + "loss": 0.1094, + "num_input_tokens_seen": 22302816, + "step": 11388 + }, + { + "epoch": 1.5094764744864149, + "grad_norm": 9.64405345916748, + "learning_rate": 2.4769156969457548e-06, + "loss": 0.1949, + "num_input_tokens_seen": 22305040, + "step": 11389 + }, + { + "epoch": 1.50960901259112, + "grad_norm": 0.1423177272081375, + "learning_rate": 2.4765685746586794e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22306472, + "step": 11390 + }, + { + "epoch": 1.509741550695825, + "grad_norm": 13.29039192199707, + "learning_rate": 2.4762214528233787e-06, + "loss": 0.2779, + "num_input_tokens_seen": 22309280, + "step": 11391 + }, + { + "epoch": 1.5098740888005302, + "grad_norm": 4.106523036956787, + "learning_rate": 2.4758743314465452e-06, + "loss": 0.0998, + "num_input_tokens_seen": 22310832, + "step": 11392 + }, + { + "epoch": 1.5100066269052352, + "grad_norm": 2.65285062789917, + "learning_rate": 2.475527210534871e-06, + "loss": 0.0604, + "num_input_tokens_seen": 22312120, + "step": 11393 + }, + { + "epoch": 1.5101391650099405, + "grad_norm": 0.539609968662262, + "learning_rate": 2.475180090095049e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22313296, + "step": 11394 + }, + { + "epoch": 1.5102717031146455, + "grad_norm": 0.15880119800567627, + "learning_rate": 2.4748329701337715e-06, + "loss": 0.001, + "num_input_tokens_seen": 22315272, + "step": 11395 + }, + { + "epoch": 1.5104042412193506, + "grad_norm": 5.109264850616455, + "learning_rate": 2.474485850657731e-06, + "loss": 0.0904, + "num_input_tokens_seen": 22317048, + "step": 11396 + }, + { + "epoch": 1.5105367793240556, + "grad_norm": 5.510128021240234, + "learning_rate": 2.4741387316736226e-06, + "loss": 0.1304, + "num_input_tokens_seen": 22318432, + "step": 11397 + }, + { + "epoch": 1.5106693174287606, + "grad_norm": 11.299368858337402, + "learning_rate": 2.4737916131881365e-06, + "loss": 0.1552, + "num_input_tokens_seen": 22320624, + "step": 11398 + }, + { + "epoch": 1.510801855533466, + "grad_norm": 6.239479064941406, + "learning_rate": 2.4734444952079665e-06, + "loss": 0.0913, + "num_input_tokens_seen": 22322336, + "step": 11399 + }, + { + "epoch": 1.510934393638171, + "grad_norm": 8.359880447387695, + "learning_rate": 2.473097377739805e-06, + "loss": 0.1226, + "num_input_tokens_seen": 22324336, + "step": 11400 + }, + { + "epoch": 1.5110669317428762, + "grad_norm": 0.19654779136180878, + "learning_rate": 2.472750260790344e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22326736, + "step": 11401 + }, + { + "epoch": 1.5111994698475812, + "grad_norm": 0.013369173742830753, + "learning_rate": 2.4724031443662767e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22328184, + "step": 11402 + }, + { + "epoch": 1.5113320079522863, + "grad_norm": 1.897829294204712, + "learning_rate": 2.4720560284742967e-06, + "loss": 0.023, + "num_input_tokens_seen": 22329968, + "step": 11403 + }, + { + "epoch": 1.5114645460569913, + "grad_norm": 0.008718353696167469, + "learning_rate": 2.4717089131210952e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22331864, + "step": 11404 + }, + { + "epoch": 1.5115970841616964, + "grad_norm": 12.930502891540527, + "learning_rate": 2.471361798313366e-06, + "loss": 0.1683, + "num_input_tokens_seen": 22333784, + "step": 11405 + }, + { + "epoch": 1.5117296222664016, + "grad_norm": 5.951053619384766, + "learning_rate": 2.4710146840578e-06, + "loss": 0.0765, + "num_input_tokens_seen": 22336264, + "step": 11406 + }, + { + "epoch": 1.5118621603711067, + "grad_norm": 3.437422513961792, + "learning_rate": 2.470667570361091e-06, + "loss": 0.0255, + "num_input_tokens_seen": 22339152, + "step": 11407 + }, + { + "epoch": 1.511994698475812, + "grad_norm": 0.0223418939858675, + "learning_rate": 2.470320457229932e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22341608, + "step": 11408 + }, + { + "epoch": 1.512127236580517, + "grad_norm": 0.13284729421138763, + "learning_rate": 2.4699733446710156e-06, + "loss": 0.001, + "num_input_tokens_seen": 22343456, + "step": 11409 + }, + { + "epoch": 1.512259774685222, + "grad_norm": 0.01674438640475273, + "learning_rate": 2.469626232691033e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22345160, + "step": 11410 + }, + { + "epoch": 1.512392312789927, + "grad_norm": 13.227300643920898, + "learning_rate": 2.4692791212966773e-06, + "loss": 0.5566, + "num_input_tokens_seen": 22347152, + "step": 11411 + }, + { + "epoch": 1.512524850894632, + "grad_norm": 3.151787281036377, + "learning_rate": 2.468932010494642e-06, + "loss": 0.0134, + "num_input_tokens_seen": 22348592, + "step": 11412 + }, + { + "epoch": 1.5126573889993373, + "grad_norm": 1.0811048746109009, + "learning_rate": 2.4685849002916184e-06, + "loss": 0.0103, + "num_input_tokens_seen": 22350464, + "step": 11413 + }, + { + "epoch": 1.5127899271040424, + "grad_norm": 8.103339195251465, + "learning_rate": 2.4682377906943006e-06, + "loss": 0.1068, + "num_input_tokens_seen": 22352208, + "step": 11414 + }, + { + "epoch": 1.5129224652087476, + "grad_norm": 6.376973628997803, + "learning_rate": 2.4678906817093796e-06, + "loss": 0.1227, + "num_input_tokens_seen": 22355856, + "step": 11415 + }, + { + "epoch": 1.5130550033134527, + "grad_norm": 6.41684627532959, + "learning_rate": 2.4675435733435477e-06, + "loss": 0.1571, + "num_input_tokens_seen": 22357024, + "step": 11416 + }, + { + "epoch": 1.5131875414181577, + "grad_norm": 0.519968569278717, + "learning_rate": 2.4671964656034988e-06, + "loss": 0.0054, + "num_input_tokens_seen": 22358864, + "step": 11417 + }, + { + "epoch": 1.5133200795228627, + "grad_norm": 3.497556209564209, + "learning_rate": 2.4668493584959246e-06, + "loss": 0.0234, + "num_input_tokens_seen": 22360144, + "step": 11418 + }, + { + "epoch": 1.5134526176275678, + "grad_norm": 7.769497871398926, + "learning_rate": 2.4665022520275177e-06, + "loss": 0.1806, + "num_input_tokens_seen": 22362144, + "step": 11419 + }, + { + "epoch": 1.513585155732273, + "grad_norm": 0.045171912759542465, + "learning_rate": 2.466155146204971e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22364552, + "step": 11420 + }, + { + "epoch": 1.5137176938369783, + "grad_norm": 0.009083000011742115, + "learning_rate": 2.465808041034975e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22366112, + "step": 11421 + }, + { + "epoch": 1.5138502319416833, + "grad_norm": 9.206603050231934, + "learning_rate": 2.4654609365242246e-06, + "loss": 0.1156, + "num_input_tokens_seen": 22367856, + "step": 11422 + }, + { + "epoch": 1.5139827700463884, + "grad_norm": 0.048868078738451004, + "learning_rate": 2.4651138326794107e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22370488, + "step": 11423 + }, + { + "epoch": 1.5141153081510934, + "grad_norm": 0.015876734629273415, + "learning_rate": 2.464766729507227e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22371896, + "step": 11424 + }, + { + "epoch": 1.5142478462557984, + "grad_norm": 3.494384765625, + "learning_rate": 2.464419627014364e-06, + "loss": 0.0091, + "num_input_tokens_seen": 22372992, + "step": 11425 + }, + { + "epoch": 1.5143803843605035, + "grad_norm": 13.920032501220703, + "learning_rate": 2.4640725252075163e-06, + "loss": 0.1951, + "num_input_tokens_seen": 22375128, + "step": 11426 + }, + { + "epoch": 1.5145129224652087, + "grad_norm": 6.217750072479248, + "learning_rate": 2.4637254240933737e-06, + "loss": 0.0553, + "num_input_tokens_seen": 22376912, + "step": 11427 + }, + { + "epoch": 1.514645460569914, + "grad_norm": 9.408684730529785, + "learning_rate": 2.4633783236786303e-06, + "loss": 0.1186, + "num_input_tokens_seen": 22378952, + "step": 11428 + }, + { + "epoch": 1.514777998674619, + "grad_norm": 4.269500255584717, + "learning_rate": 2.4630312239699788e-06, + "loss": 0.0627, + "num_input_tokens_seen": 22381456, + "step": 11429 + }, + { + "epoch": 1.514910536779324, + "grad_norm": 13.82970142364502, + "learning_rate": 2.462684124974111e-06, + "loss": 0.1542, + "num_input_tokens_seen": 22383128, + "step": 11430 + }, + { + "epoch": 1.5150430748840291, + "grad_norm": 8.828168869018555, + "learning_rate": 2.4623370266977184e-06, + "loss": 0.1288, + "num_input_tokens_seen": 22384832, + "step": 11431 + }, + { + "epoch": 1.5151756129887342, + "grad_norm": 16.929853439331055, + "learning_rate": 2.461989929147493e-06, + "loss": 0.3295, + "num_input_tokens_seen": 22386704, + "step": 11432 + }, + { + "epoch": 1.5153081510934394, + "grad_norm": 5.446898460388184, + "learning_rate": 2.4616428323301296e-06, + "loss": 0.1645, + "num_input_tokens_seen": 22388280, + "step": 11433 + }, + { + "epoch": 1.5154406891981445, + "grad_norm": 3.7495453357696533, + "learning_rate": 2.461295736252318e-06, + "loss": 0.0459, + "num_input_tokens_seen": 22389760, + "step": 11434 + }, + { + "epoch": 1.5155732273028497, + "grad_norm": 0.29297253489494324, + "learning_rate": 2.4609486409207518e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22391232, + "step": 11435 + }, + { + "epoch": 1.5157057654075548, + "grad_norm": 0.07760973274707794, + "learning_rate": 2.4606015463421222e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22393704, + "step": 11436 + }, + { + "epoch": 1.5158383035122598, + "grad_norm": 0.3208957314491272, + "learning_rate": 2.4602544525231215e-06, + "loss": 0.003, + "num_input_tokens_seen": 22394752, + "step": 11437 + }, + { + "epoch": 1.5159708416169648, + "grad_norm": 0.01919209584593773, + "learning_rate": 2.459907359470444e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22396840, + "step": 11438 + }, + { + "epoch": 1.5161033797216699, + "grad_norm": 6.300719738006592, + "learning_rate": 2.4595602671907795e-06, + "loss": 0.0483, + "num_input_tokens_seen": 22398016, + "step": 11439 + }, + { + "epoch": 1.5162359178263751, + "grad_norm": 4.877910614013672, + "learning_rate": 2.4592131756908203e-06, + "loss": 0.0982, + "num_input_tokens_seen": 22399688, + "step": 11440 + }, + { + "epoch": 1.5163684559310802, + "grad_norm": 9.544331550598145, + "learning_rate": 2.4588660849772605e-06, + "loss": 0.1411, + "num_input_tokens_seen": 22401344, + "step": 11441 + }, + { + "epoch": 1.5165009940357854, + "grad_norm": 1.895017147064209, + "learning_rate": 2.4585189950567896e-06, + "loss": 0.0436, + "num_input_tokens_seen": 22403640, + "step": 11442 + }, + { + "epoch": 1.5166335321404905, + "grad_norm": 8.639747619628906, + "learning_rate": 2.4581719059361015e-06, + "loss": 0.1444, + "num_input_tokens_seen": 22404688, + "step": 11443 + }, + { + "epoch": 1.5167660702451955, + "grad_norm": 1.1425280570983887, + "learning_rate": 2.4578248176218883e-06, + "loss": 0.0084, + "num_input_tokens_seen": 22406688, + "step": 11444 + }, + { + "epoch": 1.5168986083499005, + "grad_norm": 6.7906174659729, + "learning_rate": 2.457477730120842e-06, + "loss": 0.0381, + "num_input_tokens_seen": 22408248, + "step": 11445 + }, + { + "epoch": 1.5170311464546056, + "grad_norm": 9.517753601074219, + "learning_rate": 2.4571306434396538e-06, + "loss": 0.2562, + "num_input_tokens_seen": 22410584, + "step": 11446 + }, + { + "epoch": 1.5171636845593108, + "grad_norm": 0.013001424260437489, + "learning_rate": 2.4567835575850155e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22411752, + "step": 11447 + }, + { + "epoch": 1.5172962226640159, + "grad_norm": 10.140884399414062, + "learning_rate": 2.4564364725636213e-06, + "loss": 0.1911, + "num_input_tokens_seen": 22414616, + "step": 11448 + }, + { + "epoch": 1.5174287607687211, + "grad_norm": 1.1815012693405151, + "learning_rate": 2.4560893883821615e-06, + "loss": 0.01, + "num_input_tokens_seen": 22415856, + "step": 11449 + }, + { + "epoch": 1.5175612988734262, + "grad_norm": 1.2157396078109741, + "learning_rate": 2.4557423050473293e-06, + "loss": 0.0248, + "num_input_tokens_seen": 22417336, + "step": 11450 + }, + { + "epoch": 1.5176938369781312, + "grad_norm": 7.1166510581970215, + "learning_rate": 2.4553952225658155e-06, + "loss": 0.1643, + "num_input_tokens_seen": 22418880, + "step": 11451 + }, + { + "epoch": 1.5178263750828362, + "grad_norm": 1.477338433265686, + "learning_rate": 2.455048140944313e-06, + "loss": 0.0216, + "num_input_tokens_seen": 22421344, + "step": 11452 + }, + { + "epoch": 1.5179589131875413, + "grad_norm": 4.89297342300415, + "learning_rate": 2.4547010601895118e-06, + "loss": 0.1136, + "num_input_tokens_seen": 22423656, + "step": 11453 + }, + { + "epoch": 1.5180914512922465, + "grad_norm": 7.648576736450195, + "learning_rate": 2.4543539803081066e-06, + "loss": 0.1621, + "num_input_tokens_seen": 22425856, + "step": 11454 + }, + { + "epoch": 1.5182239893969516, + "grad_norm": 7.1625590324401855, + "learning_rate": 2.454006901306788e-06, + "loss": 0.1007, + "num_input_tokens_seen": 22427728, + "step": 11455 + }, + { + "epoch": 1.5183565275016568, + "grad_norm": 11.234631538391113, + "learning_rate": 2.453659823192249e-06, + "loss": 0.1801, + "num_input_tokens_seen": 22429960, + "step": 11456 + }, + { + "epoch": 1.5184890656063619, + "grad_norm": 4.8884053230285645, + "learning_rate": 2.453312745971179e-06, + "loss": 0.0665, + "num_input_tokens_seen": 22432608, + "step": 11457 + }, + { + "epoch": 1.518621603711067, + "grad_norm": 0.7603376507759094, + "learning_rate": 2.4529656696502714e-06, + "loss": 0.0031, + "num_input_tokens_seen": 22433648, + "step": 11458 + }, + { + "epoch": 1.518754141815772, + "grad_norm": 13.671935081481934, + "learning_rate": 2.452618594236219e-06, + "loss": 0.268, + "num_input_tokens_seen": 22435272, + "step": 11459 + }, + { + "epoch": 1.518886679920477, + "grad_norm": 20.833864212036133, + "learning_rate": 2.4522715197357137e-06, + "loss": 0.5292, + "num_input_tokens_seen": 22437528, + "step": 11460 + }, + { + "epoch": 1.5190192180251822, + "grad_norm": 7.143860816955566, + "learning_rate": 2.451924446155445e-06, + "loss": 0.047, + "num_input_tokens_seen": 22439872, + "step": 11461 + }, + { + "epoch": 1.5191517561298873, + "grad_norm": 12.772725105285645, + "learning_rate": 2.451577373502107e-06, + "loss": 0.3187, + "num_input_tokens_seen": 22441984, + "step": 11462 + }, + { + "epoch": 1.5192842942345925, + "grad_norm": 5.707908630371094, + "learning_rate": 2.4512303017823896e-06, + "loss": 0.0575, + "num_input_tokens_seen": 22443760, + "step": 11463 + }, + { + "epoch": 1.5194168323392976, + "grad_norm": 11.056180953979492, + "learning_rate": 2.4508832310029857e-06, + "loss": 0.294, + "num_input_tokens_seen": 22446008, + "step": 11464 + }, + { + "epoch": 1.5195493704440026, + "grad_norm": 6.699303150177002, + "learning_rate": 2.450536161170588e-06, + "loss": 0.1604, + "num_input_tokens_seen": 22448352, + "step": 11465 + }, + { + "epoch": 1.5196819085487077, + "grad_norm": 0.10472378879785538, + "learning_rate": 2.450189092291887e-06, + "loss": 0.0007, + "num_input_tokens_seen": 22451504, + "step": 11466 + }, + { + "epoch": 1.5198144466534127, + "grad_norm": 0.6150741577148438, + "learning_rate": 2.4498420243735744e-06, + "loss": 0.0011, + "num_input_tokens_seen": 22453656, + "step": 11467 + }, + { + "epoch": 1.519946984758118, + "grad_norm": 0.3481442928314209, + "learning_rate": 2.4494949574223415e-06, + "loss": 0.0025, + "num_input_tokens_seen": 22454768, + "step": 11468 + }, + { + "epoch": 1.5200795228628232, + "grad_norm": 7.7076029777526855, + "learning_rate": 2.4491478914448818e-06, + "loss": 0.1037, + "num_input_tokens_seen": 22456544, + "step": 11469 + }, + { + "epoch": 1.5202120609675283, + "grad_norm": 3.316929578781128, + "learning_rate": 2.4488008264478848e-06, + "loss": 0.0368, + "num_input_tokens_seen": 22458456, + "step": 11470 + }, + { + "epoch": 1.5203445990722333, + "grad_norm": 0.1612437516450882, + "learning_rate": 2.4484537624380445e-06, + "loss": 0.001, + "num_input_tokens_seen": 22459920, + "step": 11471 + }, + { + "epoch": 1.5204771371769383, + "grad_norm": 3.084296464920044, + "learning_rate": 2.44810669942205e-06, + "loss": 0.0345, + "num_input_tokens_seen": 22463040, + "step": 11472 + }, + { + "epoch": 1.5206096752816434, + "grad_norm": 3.710674524307251, + "learning_rate": 2.447759637406594e-06, + "loss": 0.0274, + "num_input_tokens_seen": 22464744, + "step": 11473 + }, + { + "epoch": 1.5207422133863486, + "grad_norm": 18.078521728515625, + "learning_rate": 2.4474125763983693e-06, + "loss": 0.4338, + "num_input_tokens_seen": 22466776, + "step": 11474 + }, + { + "epoch": 1.5208747514910537, + "grad_norm": 7.830974102020264, + "learning_rate": 2.4470655164040657e-06, + "loss": 0.1839, + "num_input_tokens_seen": 22470352, + "step": 11475 + }, + { + "epoch": 1.521007289595759, + "grad_norm": 1.2614049911499023, + "learning_rate": 2.4467184574303763e-06, + "loss": 0.016, + "num_input_tokens_seen": 22471632, + "step": 11476 + }, + { + "epoch": 1.521139827700464, + "grad_norm": 7.095685005187988, + "learning_rate": 2.4463713994839913e-06, + "loss": 0.1117, + "num_input_tokens_seen": 22474816, + "step": 11477 + }, + { + "epoch": 1.521272365805169, + "grad_norm": 20.29723358154297, + "learning_rate": 2.446024342571602e-06, + "loss": 0.2885, + "num_input_tokens_seen": 22476416, + "step": 11478 + }, + { + "epoch": 1.521404903909874, + "grad_norm": 0.24325886368751526, + "learning_rate": 2.445677286699901e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22477736, + "step": 11479 + }, + { + "epoch": 1.521537442014579, + "grad_norm": 0.00675522955134511, + "learning_rate": 2.44533023187558e-06, + "loss": 0.0, + "num_input_tokens_seen": 22479208, + "step": 11480 + }, + { + "epoch": 1.5216699801192843, + "grad_norm": 7.187641143798828, + "learning_rate": 2.4449831781053295e-06, + "loss": 0.1026, + "num_input_tokens_seen": 22481136, + "step": 11481 + }, + { + "epoch": 1.5218025182239894, + "grad_norm": 2.886211395263672, + "learning_rate": 2.4446361253958413e-06, + "loss": 0.0116, + "num_input_tokens_seen": 22482368, + "step": 11482 + }, + { + "epoch": 1.5219350563286946, + "grad_norm": 12.720470428466797, + "learning_rate": 2.4442890737538073e-06, + "loss": 0.14, + "num_input_tokens_seen": 22484624, + "step": 11483 + }, + { + "epoch": 1.5220675944333997, + "grad_norm": 8.339862823486328, + "learning_rate": 2.443942023185917e-06, + "loss": 0.1009, + "num_input_tokens_seen": 22487608, + "step": 11484 + }, + { + "epoch": 1.5222001325381047, + "grad_norm": 6.182653427124023, + "learning_rate": 2.443594973698864e-06, + "loss": 0.1349, + "num_input_tokens_seen": 22489672, + "step": 11485 + }, + { + "epoch": 1.5223326706428097, + "grad_norm": 24.37546730041504, + "learning_rate": 2.443247925299339e-06, + "loss": 0.0853, + "num_input_tokens_seen": 22491096, + "step": 11486 + }, + { + "epoch": 1.5224652087475148, + "grad_norm": 7.647595405578613, + "learning_rate": 2.442900877994033e-06, + "loss": 0.1444, + "num_input_tokens_seen": 22493976, + "step": 11487 + }, + { + "epoch": 1.52259774685222, + "grad_norm": 10.800320625305176, + "learning_rate": 2.4425538317896376e-06, + "loss": 0.2408, + "num_input_tokens_seen": 22495824, + "step": 11488 + }, + { + "epoch": 1.522730284956925, + "grad_norm": 13.868978500366211, + "learning_rate": 2.4422067866928432e-06, + "loss": 0.1649, + "num_input_tokens_seen": 22497616, + "step": 11489 + }, + { + "epoch": 1.5228628230616303, + "grad_norm": 8.312049865722656, + "learning_rate": 2.4418597427103423e-06, + "loss": 0.1875, + "num_input_tokens_seen": 22499592, + "step": 11490 + }, + { + "epoch": 1.5229953611663354, + "grad_norm": 0.05519895628094673, + "learning_rate": 2.441512699848826e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22501064, + "step": 11491 + }, + { + "epoch": 1.5231278992710404, + "grad_norm": 3.442178249359131, + "learning_rate": 2.4411656581149853e-06, + "loss": 0.0179, + "num_input_tokens_seen": 22502928, + "step": 11492 + }, + { + "epoch": 1.5232604373757455, + "grad_norm": 8.075897216796875, + "learning_rate": 2.4408186175155107e-06, + "loss": 0.1547, + "num_input_tokens_seen": 22505056, + "step": 11493 + }, + { + "epoch": 1.5233929754804505, + "grad_norm": 1.9534374475479126, + "learning_rate": 2.4404715780570936e-06, + "loss": 0.0163, + "num_input_tokens_seen": 22506888, + "step": 11494 + }, + { + "epoch": 1.5235255135851558, + "grad_norm": 0.00805640872567892, + "learning_rate": 2.440124539746427e-06, + "loss": 0.0, + "num_input_tokens_seen": 22508080, + "step": 11495 + }, + { + "epoch": 1.5236580516898608, + "grad_norm": 5.63231897354126, + "learning_rate": 2.4397775025901993e-06, + "loss": 0.1749, + "num_input_tokens_seen": 22510232, + "step": 11496 + }, + { + "epoch": 1.523790589794566, + "grad_norm": 0.18145166337490082, + "learning_rate": 2.439430466595104e-06, + "loss": 0.0011, + "num_input_tokens_seen": 22512424, + "step": 11497 + }, + { + "epoch": 1.523923127899271, + "grad_norm": 13.174072265625, + "learning_rate": 2.4390834317678305e-06, + "loss": 0.252, + "num_input_tokens_seen": 22514968, + "step": 11498 + }, + { + "epoch": 1.5240556660039761, + "grad_norm": 7.739680767059326, + "learning_rate": 2.4387363981150696e-06, + "loss": 0.2095, + "num_input_tokens_seen": 22516968, + "step": 11499 + }, + { + "epoch": 1.5241882041086812, + "grad_norm": 10.621193885803223, + "learning_rate": 2.438389365643514e-06, + "loss": 0.3333, + "num_input_tokens_seen": 22518920, + "step": 11500 + }, + { + "epoch": 1.5243207422133862, + "grad_norm": 6.683601379394531, + "learning_rate": 2.4380423343598546e-06, + "loss": 0.1188, + "num_input_tokens_seen": 22520880, + "step": 11501 + }, + { + "epoch": 1.5244532803180915, + "grad_norm": 1.6892681121826172, + "learning_rate": 2.4376953042707806e-06, + "loss": 0.009, + "num_input_tokens_seen": 22522424, + "step": 11502 + }, + { + "epoch": 1.5245858184227965, + "grad_norm": 0.021394947543740273, + "learning_rate": 2.437348275382985e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22524504, + "step": 11503 + }, + { + "epoch": 1.5247183565275018, + "grad_norm": 0.08736203610897064, + "learning_rate": 2.437001247703157e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22525984, + "step": 11504 + }, + { + "epoch": 1.5248508946322068, + "grad_norm": 0.8170214295387268, + "learning_rate": 2.4366542212379885e-06, + "loss": 0.0089, + "num_input_tokens_seen": 22527560, + "step": 11505 + }, + { + "epoch": 1.5249834327369118, + "grad_norm": 7.6855645179748535, + "learning_rate": 2.4363071959941713e-06, + "loss": 0.1148, + "num_input_tokens_seen": 22528704, + "step": 11506 + }, + { + "epoch": 1.5251159708416169, + "grad_norm": 0.0020029114093631506, + "learning_rate": 2.4359601719783947e-06, + "loss": 0.0, + "num_input_tokens_seen": 22529704, + "step": 11507 + }, + { + "epoch": 1.525248508946322, + "grad_norm": 0.7428519129753113, + "learning_rate": 2.43561314919735e-06, + "loss": 0.006, + "num_input_tokens_seen": 22530992, + "step": 11508 + }, + { + "epoch": 1.5253810470510272, + "grad_norm": 5.047426223754883, + "learning_rate": 2.435266127657729e-06, + "loss": 0.1471, + "num_input_tokens_seen": 22532592, + "step": 11509 + }, + { + "epoch": 1.5255135851557324, + "grad_norm": 7.155620098114014, + "learning_rate": 2.4349191073662203e-06, + "loss": 0.1497, + "num_input_tokens_seen": 22535048, + "step": 11510 + }, + { + "epoch": 1.5256461232604375, + "grad_norm": 0.2275935411453247, + "learning_rate": 2.434572088329517e-06, + "loss": 0.0019, + "num_input_tokens_seen": 22536592, + "step": 11511 + }, + { + "epoch": 1.5257786613651425, + "grad_norm": 0.33775341510772705, + "learning_rate": 2.434225070554309e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22538424, + "step": 11512 + }, + { + "epoch": 1.5259111994698475, + "grad_norm": 12.338313102722168, + "learning_rate": 2.4338780540472872e-06, + "loss": 0.2175, + "num_input_tokens_seen": 22540288, + "step": 11513 + }, + { + "epoch": 1.5260437375745526, + "grad_norm": 3.4022042751312256, + "learning_rate": 2.4335310388151415e-06, + "loss": 0.0835, + "num_input_tokens_seen": 22542672, + "step": 11514 + }, + { + "epoch": 1.5261762756792576, + "grad_norm": 11.534870147705078, + "learning_rate": 2.433184024864563e-06, + "loss": 0.2833, + "num_input_tokens_seen": 22545552, + "step": 11515 + }, + { + "epoch": 1.5263088137839629, + "grad_norm": 0.021259797737002373, + "learning_rate": 2.4328370122022433e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22546752, + "step": 11516 + }, + { + "epoch": 1.5264413518886681, + "grad_norm": 11.607074737548828, + "learning_rate": 2.432490000834872e-06, + "loss": 0.2568, + "num_input_tokens_seen": 22549136, + "step": 11517 + }, + { + "epoch": 1.5265738899933732, + "grad_norm": 0.23991453647613525, + "learning_rate": 2.432142990769141e-06, + "loss": 0.0008, + "num_input_tokens_seen": 22550568, + "step": 11518 + }, + { + "epoch": 1.5267064280980782, + "grad_norm": 9.1854887008667, + "learning_rate": 2.431795982011739e-06, + "loss": 0.0972, + "num_input_tokens_seen": 22552448, + "step": 11519 + }, + { + "epoch": 1.5268389662027833, + "grad_norm": 5.432278156280518, + "learning_rate": 2.4314489745693566e-06, + "loss": 0.0454, + "num_input_tokens_seen": 22554016, + "step": 11520 + }, + { + "epoch": 1.5269715043074883, + "grad_norm": 7.507198333740234, + "learning_rate": 2.431101968448687e-06, + "loss": 0.0777, + "num_input_tokens_seen": 22555104, + "step": 11521 + }, + { + "epoch": 1.5271040424121936, + "grad_norm": 5.396219730377197, + "learning_rate": 2.4307549636564186e-06, + "loss": 0.0728, + "num_input_tokens_seen": 22557552, + "step": 11522 + }, + { + "epoch": 1.5272365805168986, + "grad_norm": 8.457440376281738, + "learning_rate": 2.4304079601992418e-06, + "loss": 0.2236, + "num_input_tokens_seen": 22559624, + "step": 11523 + }, + { + "epoch": 1.5273691186216038, + "grad_norm": 13.04212474822998, + "learning_rate": 2.430060958083848e-06, + "loss": 0.2716, + "num_input_tokens_seen": 22561504, + "step": 11524 + }, + { + "epoch": 1.5275016567263089, + "grad_norm": 3.1242918968200684, + "learning_rate": 2.429713957316926e-06, + "loss": 0.0547, + "num_input_tokens_seen": 22563264, + "step": 11525 + }, + { + "epoch": 1.527634194831014, + "grad_norm": 16.329011917114258, + "learning_rate": 2.4293669579051685e-06, + "loss": 0.2914, + "num_input_tokens_seen": 22565200, + "step": 11526 + }, + { + "epoch": 1.527766732935719, + "grad_norm": 8.383599281311035, + "learning_rate": 2.429019959855265e-06, + "loss": 0.0876, + "num_input_tokens_seen": 22567472, + "step": 11527 + }, + { + "epoch": 1.527899271040424, + "grad_norm": 4.4311323165893555, + "learning_rate": 2.428672963173905e-06, + "loss": 0.0401, + "num_input_tokens_seen": 22569312, + "step": 11528 + }, + { + "epoch": 1.5280318091451293, + "grad_norm": 5.711136817932129, + "learning_rate": 2.42832596786778e-06, + "loss": 0.1183, + "num_input_tokens_seen": 22572480, + "step": 11529 + }, + { + "epoch": 1.5281643472498343, + "grad_norm": 0.024878622964024544, + "learning_rate": 2.4279789739435788e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22574360, + "step": 11530 + }, + { + "epoch": 1.5282968853545396, + "grad_norm": 0.07630543410778046, + "learning_rate": 2.427631981407994e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22575928, + "step": 11531 + }, + { + "epoch": 1.5284294234592446, + "grad_norm": 0.13784672319889069, + "learning_rate": 2.4272849902677132e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22577856, + "step": 11532 + }, + { + "epoch": 1.5285619615639496, + "grad_norm": 8.90227222442627, + "learning_rate": 2.4269380005294293e-06, + "loss": 0.1216, + "num_input_tokens_seen": 22579280, + "step": 11533 + }, + { + "epoch": 1.5286944996686547, + "grad_norm": 12.536809921264648, + "learning_rate": 2.42659101219983e-06, + "loss": 0.2887, + "num_input_tokens_seen": 22581808, + "step": 11534 + }, + { + "epoch": 1.5288270377733597, + "grad_norm": 5.591627597808838, + "learning_rate": 2.426244025285607e-06, + "loss": 0.1447, + "num_input_tokens_seen": 22583568, + "step": 11535 + }, + { + "epoch": 1.528959575878065, + "grad_norm": 5.494261741638184, + "learning_rate": 2.4258970397934504e-06, + "loss": 0.0464, + "num_input_tokens_seen": 22585456, + "step": 11536 + }, + { + "epoch": 1.52909211398277, + "grad_norm": 5.630473613739014, + "learning_rate": 2.42555005573005e-06, + "loss": 0.1614, + "num_input_tokens_seen": 22587216, + "step": 11537 + }, + { + "epoch": 1.5292246520874753, + "grad_norm": 2.4623281955718994, + "learning_rate": 2.4252030731020955e-06, + "loss": 0.0236, + "num_input_tokens_seen": 22588800, + "step": 11538 + }, + { + "epoch": 1.5293571901921803, + "grad_norm": 0.1985958367586136, + "learning_rate": 2.424856091916278e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22591200, + "step": 11539 + }, + { + "epoch": 1.5294897282968853, + "grad_norm": 0.015358200296759605, + "learning_rate": 2.4245091121792862e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22592600, + "step": 11540 + }, + { + "epoch": 1.5296222664015904, + "grad_norm": 7.7459259033203125, + "learning_rate": 2.4241621338978102e-06, + "loss": 0.1888, + "num_input_tokens_seen": 22595448, + "step": 11541 + }, + { + "epoch": 1.5297548045062954, + "grad_norm": 0.007106230594217777, + "learning_rate": 2.4238151570785418e-06, + "loss": 0.0, + "num_input_tokens_seen": 22596456, + "step": 11542 + }, + { + "epoch": 1.5298873426110007, + "grad_norm": 0.021753041073679924, + "learning_rate": 2.423468181728169e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22598816, + "step": 11543 + }, + { + "epoch": 1.5300198807157057, + "grad_norm": 0.044503118842840195, + "learning_rate": 2.4231212078533833e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22600976, + "step": 11544 + }, + { + "epoch": 1.530152418820411, + "grad_norm": 0.06732330471277237, + "learning_rate": 2.4227742354608737e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22602488, + "step": 11545 + }, + { + "epoch": 1.530284956925116, + "grad_norm": 12.244284629821777, + "learning_rate": 2.4224272645573287e-06, + "loss": 0.4139, + "num_input_tokens_seen": 22605520, + "step": 11546 + }, + { + "epoch": 1.530417495029821, + "grad_norm": 8.19758129119873, + "learning_rate": 2.42208029514944e-06, + "loss": 0.0717, + "num_input_tokens_seen": 22607176, + "step": 11547 + }, + { + "epoch": 1.530550033134526, + "grad_norm": 1.9976475238800049, + "learning_rate": 2.421733327243898e-06, + "loss": 0.0157, + "num_input_tokens_seen": 22609984, + "step": 11548 + }, + { + "epoch": 1.5306825712392311, + "grad_norm": 4.700127601623535, + "learning_rate": 2.4213863608473907e-06, + "loss": 0.0689, + "num_input_tokens_seen": 22611800, + "step": 11549 + }, + { + "epoch": 1.5308151093439364, + "grad_norm": 0.09441649168729782, + "learning_rate": 2.421039395966609e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22613608, + "step": 11550 + }, + { + "epoch": 1.5309476474486416, + "grad_norm": 6.115640640258789, + "learning_rate": 2.4206924326082417e-06, + "loss": 0.0963, + "num_input_tokens_seen": 22615088, + "step": 11551 + }, + { + "epoch": 1.5310801855533467, + "grad_norm": 0.23396918177604675, + "learning_rate": 2.4203454707789793e-06, + "loss": 0.0017, + "num_input_tokens_seen": 22616496, + "step": 11552 + }, + { + "epoch": 1.5312127236580517, + "grad_norm": 5.720498085021973, + "learning_rate": 2.4199985104855113e-06, + "loss": 0.1663, + "num_input_tokens_seen": 22619448, + "step": 11553 + }, + { + "epoch": 1.5313452617627568, + "grad_norm": 0.01905905455350876, + "learning_rate": 2.4196515517345275e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22621200, + "step": 11554 + }, + { + "epoch": 1.5314777998674618, + "grad_norm": 11.752032279968262, + "learning_rate": 2.4193045945327166e-06, + "loss": 0.2048, + "num_input_tokens_seen": 22623416, + "step": 11555 + }, + { + "epoch": 1.5316103379721668, + "grad_norm": 3.8344991207122803, + "learning_rate": 2.418957638886768e-06, + "loss": 0.0344, + "num_input_tokens_seen": 22625224, + "step": 11556 + }, + { + "epoch": 1.531742876076872, + "grad_norm": 0.011460091918706894, + "learning_rate": 2.4186106848033737e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22627272, + "step": 11557 + }, + { + "epoch": 1.5318754141815774, + "grad_norm": 2.23699951171875, + "learning_rate": 2.4182637322892206e-06, + "loss": 0.0361, + "num_input_tokens_seen": 22629200, + "step": 11558 + }, + { + "epoch": 1.5320079522862824, + "grad_norm": 10.898748397827148, + "learning_rate": 2.4179167813509994e-06, + "loss": 0.1935, + "num_input_tokens_seen": 22631784, + "step": 11559 + }, + { + "epoch": 1.5321404903909874, + "grad_norm": 1.1473876237869263, + "learning_rate": 2.4175698319954e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22633456, + "step": 11560 + }, + { + "epoch": 1.5322730284956925, + "grad_norm": 3.6401376724243164, + "learning_rate": 2.4172228842291096e-06, + "loss": 0.0767, + "num_input_tokens_seen": 22635888, + "step": 11561 + }, + { + "epoch": 1.5324055666003975, + "grad_norm": 6.430000305175781, + "learning_rate": 2.4168759380588195e-06, + "loss": 0.0624, + "num_input_tokens_seen": 22637480, + "step": 11562 + }, + { + "epoch": 1.5325381047051028, + "grad_norm": 0.029940148815512657, + "learning_rate": 2.4165289934912195e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22639968, + "step": 11563 + }, + { + "epoch": 1.5326706428098078, + "grad_norm": 0.03596257418394089, + "learning_rate": 2.4161820505329973e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22641952, + "step": 11564 + }, + { + "epoch": 1.532803180914513, + "grad_norm": 12.339677810668945, + "learning_rate": 2.4158351091908437e-06, + "loss": 0.3235, + "num_input_tokens_seen": 22643944, + "step": 11565 + }, + { + "epoch": 1.532935719019218, + "grad_norm": 0.09271947294473648, + "learning_rate": 2.415488169471447e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22645680, + "step": 11566 + }, + { + "epoch": 1.5330682571239231, + "grad_norm": 0.058309148997068405, + "learning_rate": 2.415141231381496e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22646880, + "step": 11567 + }, + { + "epoch": 1.5332007952286282, + "grad_norm": 8.9210205078125, + "learning_rate": 2.414794294927681e-06, + "loss": 0.0469, + "num_input_tokens_seen": 22648576, + "step": 11568 + }, + { + "epoch": 1.5333333333333332, + "grad_norm": 9.173518180847168, + "learning_rate": 2.4144473601166915e-06, + "loss": 0.2022, + "num_input_tokens_seen": 22650688, + "step": 11569 + }, + { + "epoch": 1.5334658714380385, + "grad_norm": 2.9558844566345215, + "learning_rate": 2.414100426955215e-06, + "loss": 0.0529, + "num_input_tokens_seen": 22652552, + "step": 11570 + }, + { + "epoch": 1.5335984095427435, + "grad_norm": 3.058595895767212, + "learning_rate": 2.4137534954499427e-06, + "loss": 0.0297, + "num_input_tokens_seen": 22654136, + "step": 11571 + }, + { + "epoch": 1.5337309476474488, + "grad_norm": 32.69734191894531, + "learning_rate": 2.4134065656075607e-06, + "loss": 0.414, + "num_input_tokens_seen": 22655656, + "step": 11572 + }, + { + "epoch": 1.5338634857521538, + "grad_norm": 0.014726991765201092, + "learning_rate": 2.4130596374347607e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22657776, + "step": 11573 + }, + { + "epoch": 1.5339960238568588, + "grad_norm": 6.930245876312256, + "learning_rate": 2.4127127109382317e-06, + "loss": 0.1745, + "num_input_tokens_seen": 22659576, + "step": 11574 + }, + { + "epoch": 1.5341285619615639, + "grad_norm": 0.002220445079728961, + "learning_rate": 2.4123657861246614e-06, + "loss": 0.0, + "num_input_tokens_seen": 22660840, + "step": 11575 + }, + { + "epoch": 1.534261100066269, + "grad_norm": 9.52695369720459, + "learning_rate": 2.4120188630007385e-06, + "loss": 0.1791, + "num_input_tokens_seen": 22662512, + "step": 11576 + }, + { + "epoch": 1.5343936381709742, + "grad_norm": 5.009772300720215, + "learning_rate": 2.4116719415731524e-06, + "loss": 0.1079, + "num_input_tokens_seen": 22664344, + "step": 11577 + }, + { + "epoch": 1.5345261762756792, + "grad_norm": 8.084025382995605, + "learning_rate": 2.4113250218485933e-06, + "loss": 0.1634, + "num_input_tokens_seen": 22666312, + "step": 11578 + }, + { + "epoch": 1.5346587143803845, + "grad_norm": 11.554540634155273, + "learning_rate": 2.4109781038337487e-06, + "loss": 0.1441, + "num_input_tokens_seen": 22668240, + "step": 11579 + }, + { + "epoch": 1.5347912524850895, + "grad_norm": 9.741320610046387, + "learning_rate": 2.4106311875353075e-06, + "loss": 0.1973, + "num_input_tokens_seen": 22670096, + "step": 11580 + }, + { + "epoch": 1.5349237905897946, + "grad_norm": 9.415050506591797, + "learning_rate": 2.4102842729599587e-06, + "loss": 0.144, + "num_input_tokens_seen": 22671520, + "step": 11581 + }, + { + "epoch": 1.5350563286944996, + "grad_norm": 8.422316551208496, + "learning_rate": 2.40993736011439e-06, + "loss": 0.0912, + "num_input_tokens_seen": 22673424, + "step": 11582 + }, + { + "epoch": 1.5351888667992046, + "grad_norm": 9.129530906677246, + "learning_rate": 2.409590449005293e-06, + "loss": 0.0701, + "num_input_tokens_seen": 22675176, + "step": 11583 + }, + { + "epoch": 1.53532140490391, + "grad_norm": 13.418356895446777, + "learning_rate": 2.4092435396393534e-06, + "loss": 0.2364, + "num_input_tokens_seen": 22676664, + "step": 11584 + }, + { + "epoch": 1.535453943008615, + "grad_norm": 2.6037704944610596, + "learning_rate": 2.4088966320232608e-06, + "loss": 0.0426, + "num_input_tokens_seen": 22678632, + "step": 11585 + }, + { + "epoch": 1.5355864811133202, + "grad_norm": 16.049972534179688, + "learning_rate": 2.408549726163705e-06, + "loss": 0.253, + "num_input_tokens_seen": 22680784, + "step": 11586 + }, + { + "epoch": 1.5357190192180252, + "grad_norm": 0.08646835386753082, + "learning_rate": 2.408202822067372e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22682856, + "step": 11587 + }, + { + "epoch": 1.5358515573227303, + "grad_norm": 5.785270690917969, + "learning_rate": 2.407855919740953e-06, + "loss": 0.1299, + "num_input_tokens_seen": 22684280, + "step": 11588 + }, + { + "epoch": 1.5359840954274353, + "grad_norm": 3.449090003967285, + "learning_rate": 2.4075090191911356e-06, + "loss": 0.0347, + "num_input_tokens_seen": 22685984, + "step": 11589 + }, + { + "epoch": 1.5361166335321403, + "grad_norm": 0.15381969511508942, + "learning_rate": 2.407162120424608e-06, + "loss": 0.0007, + "num_input_tokens_seen": 22687712, + "step": 11590 + }, + { + "epoch": 1.5362491716368456, + "grad_norm": 5.978672504425049, + "learning_rate": 2.4068152234480587e-06, + "loss": 0.1444, + "num_input_tokens_seen": 22689744, + "step": 11591 + }, + { + "epoch": 1.5363817097415509, + "grad_norm": 0.07744533568620682, + "learning_rate": 2.406468328268175e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22691632, + "step": 11592 + }, + { + "epoch": 1.536514247846256, + "grad_norm": 2.2990314960479736, + "learning_rate": 2.406121434891648e-06, + "loss": 0.0851, + "num_input_tokens_seen": 22693552, + "step": 11593 + }, + { + "epoch": 1.536646785950961, + "grad_norm": 7.156403064727783, + "learning_rate": 2.4057745433251637e-06, + "loss": 0.2251, + "num_input_tokens_seen": 22695720, + "step": 11594 + }, + { + "epoch": 1.536779324055666, + "grad_norm": 2.482516288757324, + "learning_rate": 2.405427653575412e-06, + "loss": 0.052, + "num_input_tokens_seen": 22697368, + "step": 11595 + }, + { + "epoch": 1.536911862160371, + "grad_norm": 14.224454879760742, + "learning_rate": 2.4050807656490797e-06, + "loss": 0.1454, + "num_input_tokens_seen": 22699456, + "step": 11596 + }, + { + "epoch": 1.537044400265076, + "grad_norm": 4.463079452514648, + "learning_rate": 2.4047338795528565e-06, + "loss": 0.0806, + "num_input_tokens_seen": 22702504, + "step": 11597 + }, + { + "epoch": 1.5371769383697813, + "grad_norm": 0.7017115950584412, + "learning_rate": 2.404386995293428e-06, + "loss": 0.0035, + "num_input_tokens_seen": 22703976, + "step": 11598 + }, + { + "epoch": 1.5373094764744866, + "grad_norm": 0.037335388362407684, + "learning_rate": 2.404040112877486e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22705288, + "step": 11599 + }, + { + "epoch": 1.5374420145791916, + "grad_norm": 0.09657034277915955, + "learning_rate": 2.403693232311716e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22707416, + "step": 11600 + }, + { + "epoch": 1.5375745526838966, + "grad_norm": 1.8468842506408691, + "learning_rate": 2.4033463536028078e-06, + "loss": 0.0076, + "num_input_tokens_seen": 22709400, + "step": 11601 + }, + { + "epoch": 1.5377070907886017, + "grad_norm": 11.107010841369629, + "learning_rate": 2.4029994767574473e-06, + "loss": 0.2856, + "num_input_tokens_seen": 22711712, + "step": 11602 + }, + { + "epoch": 1.5378396288933067, + "grad_norm": 0.019703494384884834, + "learning_rate": 2.402652601782324e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22714296, + "step": 11603 + }, + { + "epoch": 1.537972166998012, + "grad_norm": 4.242217540740967, + "learning_rate": 2.4023057286841264e-06, + "loss": 0.0143, + "num_input_tokens_seen": 22716440, + "step": 11604 + }, + { + "epoch": 1.538104705102717, + "grad_norm": 0.0658925473690033, + "learning_rate": 2.401958857469542e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22717744, + "step": 11605 + }, + { + "epoch": 1.5382372432074223, + "grad_norm": 4.9633893966674805, + "learning_rate": 2.4016119881452576e-06, + "loss": 0.035, + "num_input_tokens_seen": 22719968, + "step": 11606 + }, + { + "epoch": 1.5383697813121273, + "grad_norm": 7.452939033508301, + "learning_rate": 2.401265120717963e-06, + "loss": 0.1678, + "num_input_tokens_seen": 22721384, + "step": 11607 + }, + { + "epoch": 1.5385023194168324, + "grad_norm": 1.522218108177185, + "learning_rate": 2.4009182551943432e-06, + "loss": 0.0062, + "num_input_tokens_seen": 22723912, + "step": 11608 + }, + { + "epoch": 1.5386348575215374, + "grad_norm": 0.11837451905012131, + "learning_rate": 2.4005713915810888e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22725808, + "step": 11609 + }, + { + "epoch": 1.5387673956262424, + "grad_norm": 6.951574325561523, + "learning_rate": 2.400224529884887e-06, + "loss": 0.2079, + "num_input_tokens_seen": 22727592, + "step": 11610 + }, + { + "epoch": 1.5388999337309477, + "grad_norm": 0.06466217339038849, + "learning_rate": 2.3998776701124243e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22730048, + "step": 11611 + }, + { + "epoch": 1.5390324718356527, + "grad_norm": 17.191783905029297, + "learning_rate": 2.39953081227039e-06, + "loss": 0.1756, + "num_input_tokens_seen": 22732816, + "step": 11612 + }, + { + "epoch": 1.539165009940358, + "grad_norm": 0.0008452195324935019, + "learning_rate": 2.3991839563654702e-06, + "loss": 0.0, + "num_input_tokens_seen": 22734176, + "step": 11613 + }, + { + "epoch": 1.539297548045063, + "grad_norm": 9.631402015686035, + "learning_rate": 2.398837102404354e-06, + "loss": 0.1509, + "num_input_tokens_seen": 22736464, + "step": 11614 + }, + { + "epoch": 1.539430086149768, + "grad_norm": 0.023336652666330338, + "learning_rate": 2.3984902503937276e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22738288, + "step": 11615 + }, + { + "epoch": 1.539562624254473, + "grad_norm": 1.3398380279541016, + "learning_rate": 2.3981434003402797e-06, + "loss": 0.0112, + "num_input_tokens_seen": 22739800, + "step": 11616 + }, + { + "epoch": 1.5396951623591781, + "grad_norm": 8.471689224243164, + "learning_rate": 2.3977965522506967e-06, + "loss": 0.2433, + "num_input_tokens_seen": 22741392, + "step": 11617 + }, + { + "epoch": 1.5398277004638834, + "grad_norm": 0.0248655304312706, + "learning_rate": 2.3974497061316664e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22743144, + "step": 11618 + }, + { + "epoch": 1.5399602385685884, + "grad_norm": 8.336241722106934, + "learning_rate": 2.397102861989878e-06, + "loss": 0.1343, + "num_input_tokens_seen": 22744688, + "step": 11619 + }, + { + "epoch": 1.5400927766732937, + "grad_norm": 4.331550121307373, + "learning_rate": 2.396756019832016e-06, + "loss": 0.0218, + "num_input_tokens_seen": 22746504, + "step": 11620 + }, + { + "epoch": 1.5402253147779987, + "grad_norm": 5.52543306350708, + "learning_rate": 2.3964091796647705e-06, + "loss": 0.1194, + "num_input_tokens_seen": 22748088, + "step": 11621 + }, + { + "epoch": 1.5403578528827038, + "grad_norm": 3.9056236743927, + "learning_rate": 2.396062341494827e-06, + "loss": 0.0882, + "num_input_tokens_seen": 22749832, + "step": 11622 + }, + { + "epoch": 1.5404903909874088, + "grad_norm": 5.999610424041748, + "learning_rate": 2.3957155053288724e-06, + "loss": 0.0817, + "num_input_tokens_seen": 22751384, + "step": 11623 + }, + { + "epoch": 1.5406229290921138, + "grad_norm": 4.145784854888916, + "learning_rate": 2.395368671173595e-06, + "loss": 0.0633, + "num_input_tokens_seen": 22753808, + "step": 11624 + }, + { + "epoch": 1.540755467196819, + "grad_norm": 5.507304668426514, + "learning_rate": 2.3950218390356826e-06, + "loss": 0.0597, + "num_input_tokens_seen": 22756864, + "step": 11625 + }, + { + "epoch": 1.5408880053015241, + "grad_norm": 5.125180721282959, + "learning_rate": 2.394675008921821e-06, + "loss": 0.1665, + "num_input_tokens_seen": 22759200, + "step": 11626 + }, + { + "epoch": 1.5410205434062294, + "grad_norm": 0.09268554300069809, + "learning_rate": 2.3943281808386984e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22760480, + "step": 11627 + }, + { + "epoch": 1.5411530815109344, + "grad_norm": 0.01375078596174717, + "learning_rate": 2.3939813547930013e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22763176, + "step": 11628 + }, + { + "epoch": 1.5412856196156395, + "grad_norm": 3.6710283756256104, + "learning_rate": 2.393634530791416e-06, + "loss": 0.0536, + "num_input_tokens_seen": 22765472, + "step": 11629 + }, + { + "epoch": 1.5414181577203445, + "grad_norm": 0.0025124638341367245, + "learning_rate": 2.3932877088406306e-06, + "loss": 0.0, + "num_input_tokens_seen": 22766672, + "step": 11630 + }, + { + "epoch": 1.5415506958250496, + "grad_norm": 5.217998504638672, + "learning_rate": 2.3929408889473323e-06, + "loss": 0.1543, + "num_input_tokens_seen": 22768872, + "step": 11631 + }, + { + "epoch": 1.5416832339297548, + "grad_norm": 0.700996994972229, + "learning_rate": 2.3925940711182072e-06, + "loss": 0.0029, + "num_input_tokens_seen": 22771880, + "step": 11632 + }, + { + "epoch": 1.5418157720344599, + "grad_norm": 0.022334029898047447, + "learning_rate": 2.392247255359943e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22773624, + "step": 11633 + }, + { + "epoch": 1.5419483101391651, + "grad_norm": 8.716713905334473, + "learning_rate": 2.391900441679225e-06, + "loss": 0.2371, + "num_input_tokens_seen": 22775720, + "step": 11634 + }, + { + "epoch": 1.5420808482438702, + "grad_norm": 13.455893516540527, + "learning_rate": 2.3915536300827414e-06, + "loss": 0.261, + "num_input_tokens_seen": 22777528, + "step": 11635 + }, + { + "epoch": 1.5422133863485752, + "grad_norm": 1.5254008769989014, + "learning_rate": 2.3912068205771795e-06, + "loss": 0.0425, + "num_input_tokens_seen": 22779312, + "step": 11636 + }, + { + "epoch": 1.5423459244532802, + "grad_norm": 10.9517822265625, + "learning_rate": 2.390860013169225e-06, + "loss": 0.1086, + "num_input_tokens_seen": 22780848, + "step": 11637 + }, + { + "epoch": 1.5424784625579853, + "grad_norm": 5.070095062255859, + "learning_rate": 2.390513207865564e-06, + "loss": 0.1246, + "num_input_tokens_seen": 22782624, + "step": 11638 + }, + { + "epoch": 1.5426110006626905, + "grad_norm": 4.699265480041504, + "learning_rate": 2.390166404672883e-06, + "loss": 0.05, + "num_input_tokens_seen": 22784496, + "step": 11639 + }, + { + "epoch": 1.5427435387673958, + "grad_norm": 0.004969986155629158, + "learning_rate": 2.3898196035978715e-06, + "loss": 0.0, + "num_input_tokens_seen": 22786216, + "step": 11640 + }, + { + "epoch": 1.5428760768721008, + "grad_norm": 6.936388969421387, + "learning_rate": 2.389472804647213e-06, + "loss": 0.319, + "num_input_tokens_seen": 22788304, + "step": 11641 + }, + { + "epoch": 1.5430086149768059, + "grad_norm": 5.080018043518066, + "learning_rate": 2.3891260078275954e-06, + "loss": 0.0752, + "num_input_tokens_seen": 22791120, + "step": 11642 + }, + { + "epoch": 1.543141153081511, + "grad_norm": 6.296807765960693, + "learning_rate": 2.388779213145705e-06, + "loss": 0.0812, + "num_input_tokens_seen": 22792584, + "step": 11643 + }, + { + "epoch": 1.543273691186216, + "grad_norm": 2.7061445713043213, + "learning_rate": 2.3884324206082274e-06, + "loss": 0.0492, + "num_input_tokens_seen": 22794072, + "step": 11644 + }, + { + "epoch": 1.5434062292909212, + "grad_norm": 0.013041294179856777, + "learning_rate": 2.38808563022185e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22795408, + "step": 11645 + }, + { + "epoch": 1.5435387673956262, + "grad_norm": 12.966225624084473, + "learning_rate": 2.3877388419932594e-06, + "loss": 0.1733, + "num_input_tokens_seen": 22797192, + "step": 11646 + }, + { + "epoch": 1.5436713055003315, + "grad_norm": 0.03698479384183884, + "learning_rate": 2.387392055929141e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22798240, + "step": 11647 + }, + { + "epoch": 1.5438038436050365, + "grad_norm": 0.4972839653491974, + "learning_rate": 2.3870452720361815e-06, + "loss": 0.0038, + "num_input_tokens_seen": 22799960, + "step": 11648 + }, + { + "epoch": 1.5439363817097416, + "grad_norm": 0.0447104349732399, + "learning_rate": 2.3866984903210663e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22801488, + "step": 11649 + }, + { + "epoch": 1.5440689198144466, + "grad_norm": 1.4432384967803955, + "learning_rate": 2.386351710790483e-06, + "loss": 0.0136, + "num_input_tokens_seen": 22803632, + "step": 11650 + }, + { + "epoch": 1.5442014579191516, + "grad_norm": 1.0031282901763916, + "learning_rate": 2.386004933451117e-06, + "loss": 0.0083, + "num_input_tokens_seen": 22805000, + "step": 11651 + }, + { + "epoch": 1.544333996023857, + "grad_norm": 9.571556091308594, + "learning_rate": 2.3856581583096557e-06, + "loss": 0.2114, + "num_input_tokens_seen": 22807920, + "step": 11652 + }, + { + "epoch": 1.544466534128562, + "grad_norm": 6.322209358215332, + "learning_rate": 2.3853113853727825e-06, + "loss": 0.1103, + "num_input_tokens_seen": 22809584, + "step": 11653 + }, + { + "epoch": 1.5445990722332672, + "grad_norm": 7.201266288757324, + "learning_rate": 2.384964614647186e-06, + "loss": 0.158, + "num_input_tokens_seen": 22811496, + "step": 11654 + }, + { + "epoch": 1.5447316103379722, + "grad_norm": 8.91861629486084, + "learning_rate": 2.3846178461395497e-06, + "loss": 0.2733, + "num_input_tokens_seen": 22813648, + "step": 11655 + }, + { + "epoch": 1.5448641484426773, + "grad_norm": 7.845762729644775, + "learning_rate": 2.3842710798565616e-06, + "loss": 0.2225, + "num_input_tokens_seen": 22815704, + "step": 11656 + }, + { + "epoch": 1.5449966865473823, + "grad_norm": 0.5984724760055542, + "learning_rate": 2.3839243158049074e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22817936, + "step": 11657 + }, + { + "epoch": 1.5451292246520874, + "grad_norm": 0.3342927098274231, + "learning_rate": 2.3835775539912726e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22819808, + "step": 11658 + }, + { + "epoch": 1.5452617627567926, + "grad_norm": 8.167765617370605, + "learning_rate": 2.383230794422342e-06, + "loss": 0.2535, + "num_input_tokens_seen": 22821808, + "step": 11659 + }, + { + "epoch": 1.5453943008614976, + "grad_norm": 7.889893531799316, + "learning_rate": 2.3828840371048022e-06, + "loss": 0.0531, + "num_input_tokens_seen": 22823440, + "step": 11660 + }, + { + "epoch": 1.545526838966203, + "grad_norm": 2.6872446537017822, + "learning_rate": 2.3825372820453395e-06, + "loss": 0.0295, + "num_input_tokens_seen": 22824768, + "step": 11661 + }, + { + "epoch": 1.545659377070908, + "grad_norm": 3.2457728385925293, + "learning_rate": 2.382190529250639e-06, + "loss": 0.0355, + "num_input_tokens_seen": 22826880, + "step": 11662 + }, + { + "epoch": 1.545791915175613, + "grad_norm": 4.213348388671875, + "learning_rate": 2.381843778727386e-06, + "loss": 0.0469, + "num_input_tokens_seen": 22828952, + "step": 11663 + }, + { + "epoch": 1.545924453280318, + "grad_norm": 0.07602731138467789, + "learning_rate": 2.3814970304822667e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22831840, + "step": 11664 + }, + { + "epoch": 1.546056991385023, + "grad_norm": 6.952153205871582, + "learning_rate": 2.3811502845219657e-06, + "loss": 0.0725, + "num_input_tokens_seen": 22833960, + "step": 11665 + }, + { + "epoch": 1.5461895294897283, + "grad_norm": 6.129274845123291, + "learning_rate": 2.3808035408531704e-06, + "loss": 0.2096, + "num_input_tokens_seen": 22836168, + "step": 11666 + }, + { + "epoch": 1.5463220675944334, + "grad_norm": 0.009145737625658512, + "learning_rate": 2.380456799482565e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22837872, + "step": 11667 + }, + { + "epoch": 1.5464546056991386, + "grad_norm": 3.4855196475982666, + "learning_rate": 2.3801100604168346e-06, + "loss": 0.0832, + "num_input_tokens_seen": 22839872, + "step": 11668 + }, + { + "epoch": 1.5465871438038437, + "grad_norm": 7.353240966796875, + "learning_rate": 2.3797633236626653e-06, + "loss": 0.0907, + "num_input_tokens_seen": 22841376, + "step": 11669 + }, + { + "epoch": 1.5467196819085487, + "grad_norm": 6.336739540100098, + "learning_rate": 2.379416589226741e-06, + "loss": 0.091, + "num_input_tokens_seen": 22843968, + "step": 11670 + }, + { + "epoch": 1.5468522200132537, + "grad_norm": 7.328383445739746, + "learning_rate": 2.379069857115749e-06, + "loss": 0.1129, + "num_input_tokens_seen": 22845600, + "step": 11671 + }, + { + "epoch": 1.5469847581179588, + "grad_norm": 4.484687328338623, + "learning_rate": 2.3787231273363732e-06, + "loss": 0.0332, + "num_input_tokens_seen": 22848136, + "step": 11672 + }, + { + "epoch": 1.547117296222664, + "grad_norm": 2.0273196697235107, + "learning_rate": 2.378376399895299e-06, + "loss": 0.0088, + "num_input_tokens_seen": 22850448, + "step": 11673 + }, + { + "epoch": 1.547249834327369, + "grad_norm": 0.05740797147154808, + "learning_rate": 2.3780296747992122e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22852600, + "step": 11674 + }, + { + "epoch": 1.5473823724320743, + "grad_norm": 9.62387752532959, + "learning_rate": 2.377682952054797e-06, + "loss": 0.1257, + "num_input_tokens_seen": 22854600, + "step": 11675 + }, + { + "epoch": 1.5475149105367794, + "grad_norm": 6.483031272888184, + "learning_rate": 2.377336231668739e-06, + "loss": 0.2746, + "num_input_tokens_seen": 22856336, + "step": 11676 + }, + { + "epoch": 1.5476474486414844, + "grad_norm": 2.4936413764953613, + "learning_rate": 2.3769895136477234e-06, + "loss": 0.0467, + "num_input_tokens_seen": 22858080, + "step": 11677 + }, + { + "epoch": 1.5477799867461894, + "grad_norm": 0.14681215584278107, + "learning_rate": 2.3766427979984345e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22860856, + "step": 11678 + }, + { + "epoch": 1.5479125248508945, + "grad_norm": 7.2523016929626465, + "learning_rate": 2.376296084727558e-06, + "loss": 0.2218, + "num_input_tokens_seen": 22862856, + "step": 11679 + }, + { + "epoch": 1.5480450629555997, + "grad_norm": 9.062152862548828, + "learning_rate": 2.375949373841777e-06, + "loss": 0.2012, + "num_input_tokens_seen": 22865264, + "step": 11680 + }, + { + "epoch": 1.548177601060305, + "grad_norm": 8.32116985321045, + "learning_rate": 2.375602665347779e-06, + "loss": 0.0319, + "num_input_tokens_seen": 22866816, + "step": 11681 + }, + { + "epoch": 1.54831013916501, + "grad_norm": 16.30388641357422, + "learning_rate": 2.3752559592522476e-06, + "loss": 0.4519, + "num_input_tokens_seen": 22869192, + "step": 11682 + }, + { + "epoch": 1.548442677269715, + "grad_norm": 15.974126815795898, + "learning_rate": 2.3749092555618663e-06, + "loss": 0.2502, + "num_input_tokens_seen": 22870864, + "step": 11683 + }, + { + "epoch": 1.54857521537442, + "grad_norm": 0.12354584038257599, + "learning_rate": 2.374562554283322e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22872176, + "step": 11684 + }, + { + "epoch": 1.5487077534791251, + "grad_norm": 0.011220953427255154, + "learning_rate": 2.374215855423297e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22875008, + "step": 11685 + }, + { + "epoch": 1.5488402915838302, + "grad_norm": 0.06803762167692184, + "learning_rate": 2.3738691589884773e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22876488, + "step": 11686 + }, + { + "epoch": 1.5489728296885354, + "grad_norm": 1.0669276714324951, + "learning_rate": 2.373522464985548e-06, + "loss": 0.0117, + "num_input_tokens_seen": 22878344, + "step": 11687 + }, + { + "epoch": 1.5491053677932407, + "grad_norm": 0.011777970008552074, + "learning_rate": 2.3731757734211923e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22880008, + "step": 11688 + }, + { + "epoch": 1.5492379058979457, + "grad_norm": 0.03759561479091644, + "learning_rate": 2.3728290843020956e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22881480, + "step": 11689 + }, + { + "epoch": 1.5493704440026508, + "grad_norm": 7.132319450378418, + "learning_rate": 2.3724823976349415e-06, + "loss": 0.1799, + "num_input_tokens_seen": 22884288, + "step": 11690 + }, + { + "epoch": 1.5495029821073558, + "grad_norm": 12.136001586914062, + "learning_rate": 2.3721357134264146e-06, + "loss": 0.0529, + "num_input_tokens_seen": 22885648, + "step": 11691 + }, + { + "epoch": 1.5496355202120609, + "grad_norm": 2.5058939456939697, + "learning_rate": 2.371789031683199e-06, + "loss": 0.0238, + "num_input_tokens_seen": 22887920, + "step": 11692 + }, + { + "epoch": 1.5497680583167661, + "grad_norm": 9.547260284423828, + "learning_rate": 2.3714423524119805e-06, + "loss": 0.3117, + "num_input_tokens_seen": 22890464, + "step": 11693 + }, + { + "epoch": 1.5499005964214712, + "grad_norm": 9.446438789367676, + "learning_rate": 2.3710956756194413e-06, + "loss": 0.2493, + "num_input_tokens_seen": 22892624, + "step": 11694 + }, + { + "epoch": 1.5500331345261764, + "grad_norm": 3.51804780960083, + "learning_rate": 2.370749001312267e-06, + "loss": 0.0665, + "num_input_tokens_seen": 22893944, + "step": 11695 + }, + { + "epoch": 1.5501656726308815, + "grad_norm": 12.27486801147461, + "learning_rate": 2.37040232949714e-06, + "loss": 0.2455, + "num_input_tokens_seen": 22896416, + "step": 11696 + }, + { + "epoch": 1.5502982107355865, + "grad_norm": 0.02395310066640377, + "learning_rate": 2.3700556601807463e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22898392, + "step": 11697 + }, + { + "epoch": 1.5504307488402915, + "grad_norm": 0.013616015203297138, + "learning_rate": 2.369708993369769e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22899992, + "step": 11698 + }, + { + "epoch": 1.5505632869449966, + "grad_norm": 9.419471740722656, + "learning_rate": 2.3693623290708926e-06, + "loss": 0.1168, + "num_input_tokens_seen": 22901832, + "step": 11699 + }, + { + "epoch": 1.5506958250497018, + "grad_norm": 3.9283926486968994, + "learning_rate": 2.3690156672908003e-06, + "loss": 0.0413, + "num_input_tokens_seen": 22903344, + "step": 11700 + }, + { + "epoch": 1.5508283631544069, + "grad_norm": 6.461010932922363, + "learning_rate": 2.368669008036175e-06, + "loss": 0.1308, + "num_input_tokens_seen": 22905000, + "step": 11701 + }, + { + "epoch": 1.5509609012591121, + "grad_norm": 8.997200965881348, + "learning_rate": 2.368322351313704e-06, + "loss": 0.2779, + "num_input_tokens_seen": 22907016, + "step": 11702 + }, + { + "epoch": 1.5510934393638172, + "grad_norm": 5.607660293579102, + "learning_rate": 2.3679756971300673e-06, + "loss": 0.0737, + "num_input_tokens_seen": 22909264, + "step": 11703 + }, + { + "epoch": 1.5512259774685222, + "grad_norm": 1.3159074783325195, + "learning_rate": 2.3676290454919515e-06, + "loss": 0.0063, + "num_input_tokens_seen": 22911088, + "step": 11704 + }, + { + "epoch": 1.5513585155732272, + "grad_norm": 6.545577049255371, + "learning_rate": 2.3672823964060387e-06, + "loss": 0.1858, + "num_input_tokens_seen": 22913120, + "step": 11705 + }, + { + "epoch": 1.5514910536779323, + "grad_norm": 11.555002212524414, + "learning_rate": 2.366935749879012e-06, + "loss": 0.2645, + "num_input_tokens_seen": 22914472, + "step": 11706 + }, + { + "epoch": 1.5516235917826375, + "grad_norm": 4.435707092285156, + "learning_rate": 2.366589105917556e-06, + "loss": 0.0619, + "num_input_tokens_seen": 22915984, + "step": 11707 + }, + { + "epoch": 1.5517561298873426, + "grad_norm": 10.366458892822266, + "learning_rate": 2.366242464528355e-06, + "loss": 0.2164, + "num_input_tokens_seen": 22918848, + "step": 11708 + }, + { + "epoch": 1.5518886679920478, + "grad_norm": 6.799312591552734, + "learning_rate": 2.365895825718091e-06, + "loss": 0.1911, + "num_input_tokens_seen": 22921504, + "step": 11709 + }, + { + "epoch": 1.5520212060967529, + "grad_norm": 16.173952102661133, + "learning_rate": 2.3655491894934484e-06, + "loss": 0.0655, + "num_input_tokens_seen": 22923520, + "step": 11710 + }, + { + "epoch": 1.552153744201458, + "grad_norm": 5.98959493637085, + "learning_rate": 2.3652025558611097e-06, + "loss": 0.0686, + "num_input_tokens_seen": 22925544, + "step": 11711 + }, + { + "epoch": 1.552286282306163, + "grad_norm": 0.2014966607093811, + "learning_rate": 2.3648559248277585e-06, + "loss": 0.002, + "num_input_tokens_seen": 22927336, + "step": 11712 + }, + { + "epoch": 1.552418820410868, + "grad_norm": 6.154041290283203, + "learning_rate": 2.3645092964000785e-06, + "loss": 0.0415, + "num_input_tokens_seen": 22929864, + "step": 11713 + }, + { + "epoch": 1.5525513585155732, + "grad_norm": 5.471816539764404, + "learning_rate": 2.3641626705847535e-06, + "loss": 0.1061, + "num_input_tokens_seen": 22931864, + "step": 11714 + }, + { + "epoch": 1.5526838966202783, + "grad_norm": 6.523082733154297, + "learning_rate": 2.363816047388465e-06, + "loss": 0.0851, + "num_input_tokens_seen": 22933944, + "step": 11715 + }, + { + "epoch": 1.5528164347249835, + "grad_norm": 2.2643446922302246, + "learning_rate": 2.3634694268178977e-06, + "loss": 0.0338, + "num_input_tokens_seen": 22936000, + "step": 11716 + }, + { + "epoch": 1.5529489728296886, + "grad_norm": 6.2633442878723145, + "learning_rate": 2.3631228088797327e-06, + "loss": 0.1522, + "num_input_tokens_seen": 22937520, + "step": 11717 + }, + { + "epoch": 1.5530815109343936, + "grad_norm": 0.15778692066669464, + "learning_rate": 2.3627761935806555e-06, + "loss": 0.0011, + "num_input_tokens_seen": 22938600, + "step": 11718 + }, + { + "epoch": 1.5532140490390987, + "grad_norm": 7.601447105407715, + "learning_rate": 2.362429580927348e-06, + "loss": 0.2649, + "num_input_tokens_seen": 22941072, + "step": 11719 + }, + { + "epoch": 1.5533465871438037, + "grad_norm": 0.777221143245697, + "learning_rate": 2.362082970926493e-06, + "loss": 0.0036, + "num_input_tokens_seen": 22943856, + "step": 11720 + }, + { + "epoch": 1.553479125248509, + "grad_norm": 3.7049474716186523, + "learning_rate": 2.361736363584774e-06, + "loss": 0.0368, + "num_input_tokens_seen": 22945808, + "step": 11721 + }, + { + "epoch": 1.5536116633532142, + "grad_norm": 10.061142921447754, + "learning_rate": 2.3613897589088717e-06, + "loss": 0.2484, + "num_input_tokens_seen": 22947736, + "step": 11722 + }, + { + "epoch": 1.5537442014579192, + "grad_norm": 12.228292465209961, + "learning_rate": 2.3610431569054716e-06, + "loss": 0.2504, + "num_input_tokens_seen": 22950312, + "step": 11723 + }, + { + "epoch": 1.5538767395626243, + "grad_norm": 0.1607706993818283, + "learning_rate": 2.360696557581255e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22951976, + "step": 11724 + }, + { + "epoch": 1.5540092776673293, + "grad_norm": 3.754638910293579, + "learning_rate": 2.3603499609429053e-06, + "loss": 0.0489, + "num_input_tokens_seen": 22954912, + "step": 11725 + }, + { + "epoch": 1.5541418157720344, + "grad_norm": 4.418231964111328, + "learning_rate": 2.3600033669971043e-06, + "loss": 0.0515, + "num_input_tokens_seen": 22957496, + "step": 11726 + }, + { + "epoch": 1.5542743538767394, + "grad_norm": 3.307616710662842, + "learning_rate": 2.3596567757505343e-06, + "loss": 0.0322, + "num_input_tokens_seen": 22960120, + "step": 11727 + }, + { + "epoch": 1.5544068919814447, + "grad_norm": 10.511303901672363, + "learning_rate": 2.3593101872098797e-06, + "loss": 0.164, + "num_input_tokens_seen": 22962712, + "step": 11728 + }, + { + "epoch": 1.55453943008615, + "grad_norm": 6.065456390380859, + "learning_rate": 2.3589636013818215e-06, + "loss": 0.1166, + "num_input_tokens_seen": 22964624, + "step": 11729 + }, + { + "epoch": 1.554671968190855, + "grad_norm": 6.678621292114258, + "learning_rate": 2.3586170182730418e-06, + "loss": 0.1637, + "num_input_tokens_seen": 22966064, + "step": 11730 + }, + { + "epoch": 1.55480450629556, + "grad_norm": 5.360035419464111, + "learning_rate": 2.358270437890224e-06, + "loss": 0.078, + "num_input_tokens_seen": 22969080, + "step": 11731 + }, + { + "epoch": 1.554937044400265, + "grad_norm": 4.380037307739258, + "learning_rate": 2.3579238602400496e-06, + "loss": 0.1009, + "num_input_tokens_seen": 22971424, + "step": 11732 + }, + { + "epoch": 1.55506958250497, + "grad_norm": 0.137910395860672, + "learning_rate": 2.3575772853292012e-06, + "loss": 0.0007, + "num_input_tokens_seen": 22973416, + "step": 11733 + }, + { + "epoch": 1.5552021206096753, + "grad_norm": 1.6743347644805908, + "learning_rate": 2.3572307131643616e-06, + "loss": 0.0195, + "num_input_tokens_seen": 22975144, + "step": 11734 + }, + { + "epoch": 1.5553346587143804, + "grad_norm": 3.458446979522705, + "learning_rate": 2.3568841437522123e-06, + "loss": 0.0882, + "num_input_tokens_seen": 22976768, + "step": 11735 + }, + { + "epoch": 1.5554671968190856, + "grad_norm": 20.108211517333984, + "learning_rate": 2.356537577099435e-06, + "loss": 0.454, + "num_input_tokens_seen": 22978304, + "step": 11736 + }, + { + "epoch": 1.5555997349237907, + "grad_norm": 10.755016326904297, + "learning_rate": 2.3561910132127115e-06, + "loss": 0.2422, + "num_input_tokens_seen": 22980656, + "step": 11737 + }, + { + "epoch": 1.5557322730284957, + "grad_norm": 0.616950273513794, + "learning_rate": 2.3558444520987254e-06, + "loss": 0.0069, + "num_input_tokens_seen": 22982896, + "step": 11738 + }, + { + "epoch": 1.5558648111332007, + "grad_norm": 5.336042404174805, + "learning_rate": 2.355497893764157e-06, + "loss": 0.1459, + "num_input_tokens_seen": 22985216, + "step": 11739 + }, + { + "epoch": 1.5559973492379058, + "grad_norm": 0.046280067414045334, + "learning_rate": 2.35515133821569e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22986872, + "step": 11740 + }, + { + "epoch": 1.556129887342611, + "grad_norm": 8.701187133789062, + "learning_rate": 2.3548047854600043e-06, + "loss": 0.1642, + "num_input_tokens_seen": 22988816, + "step": 11741 + }, + { + "epoch": 1.556262425447316, + "grad_norm": 0.2147613912820816, + "learning_rate": 2.3544582355037833e-06, + "loss": 0.0016, + "num_input_tokens_seen": 22992088, + "step": 11742 + }, + { + "epoch": 1.5563949635520213, + "grad_norm": 10.167132377624512, + "learning_rate": 2.3541116883537066e-06, + "loss": 0.1277, + "num_input_tokens_seen": 22994840, + "step": 11743 + }, + { + "epoch": 1.5565275016567264, + "grad_norm": 11.632242202758789, + "learning_rate": 2.3537651440164587e-06, + "loss": 0.3117, + "num_input_tokens_seen": 22997552, + "step": 11744 + }, + { + "epoch": 1.5566600397614314, + "grad_norm": 0.7559077143669128, + "learning_rate": 2.3534186024987183e-06, + "loss": 0.005, + "num_input_tokens_seen": 22999352, + "step": 11745 + }, + { + "epoch": 1.5567925778661365, + "grad_norm": 0.6411713361740112, + "learning_rate": 2.35307206380717e-06, + "loss": 0.0069, + "num_input_tokens_seen": 23001104, + "step": 11746 + }, + { + "epoch": 1.5569251159708415, + "grad_norm": 4.030973434448242, + "learning_rate": 2.352725527948492e-06, + "loss": 0.068, + "num_input_tokens_seen": 23002368, + "step": 11747 + }, + { + "epoch": 1.5570576540755467, + "grad_norm": 2.213083267211914, + "learning_rate": 2.3523789949293675e-06, + "loss": 0.0326, + "num_input_tokens_seen": 23004112, + "step": 11748 + }, + { + "epoch": 1.5571901921802518, + "grad_norm": 2.434950828552246, + "learning_rate": 2.352032464756479e-06, + "loss": 0.0184, + "num_input_tokens_seen": 23006128, + "step": 11749 + }, + { + "epoch": 1.557322730284957, + "grad_norm": 9.92917537689209, + "learning_rate": 2.3516859374365066e-06, + "loss": 0.1264, + "num_input_tokens_seen": 23007864, + "step": 11750 + }, + { + "epoch": 1.557455268389662, + "grad_norm": 2.113671064376831, + "learning_rate": 2.3513394129761306e-06, + "loss": 0.0384, + "num_input_tokens_seen": 23009960, + "step": 11751 + }, + { + "epoch": 1.5575878064943671, + "grad_norm": 6.396363735198975, + "learning_rate": 2.3509928913820345e-06, + "loss": 0.1262, + "num_input_tokens_seen": 23011576, + "step": 11752 + }, + { + "epoch": 1.5577203445990722, + "grad_norm": 7.60141658782959, + "learning_rate": 2.3506463726608967e-06, + "loss": 0.198, + "num_input_tokens_seen": 23013320, + "step": 11753 + }, + { + "epoch": 1.5578528827037772, + "grad_norm": 10.095383644104004, + "learning_rate": 2.3502998568194003e-06, + "loss": 0.3141, + "num_input_tokens_seen": 23015608, + "step": 11754 + }, + { + "epoch": 1.5579854208084825, + "grad_norm": 0.28539103269577026, + "learning_rate": 2.349953343864227e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23017864, + "step": 11755 + }, + { + "epoch": 1.5581179589131875, + "grad_norm": 0.18585848808288574, + "learning_rate": 2.349606833802056e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23019232, + "step": 11756 + }, + { + "epoch": 1.5582504970178928, + "grad_norm": 0.05250381678342819, + "learning_rate": 2.3492603266395696e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23020424, + "step": 11757 + }, + { + "epoch": 1.5583830351225978, + "grad_norm": 4.3008928298950195, + "learning_rate": 2.3489138223834463e-06, + "loss": 0.0319, + "num_input_tokens_seen": 23021936, + "step": 11758 + }, + { + "epoch": 1.5585155732273028, + "grad_norm": 0.09873567521572113, + "learning_rate": 2.348567321040371e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23023320, + "step": 11759 + }, + { + "epoch": 1.5586481113320079, + "grad_norm": 7.6662445068359375, + "learning_rate": 2.348220822617021e-06, + "loss": 0.1673, + "num_input_tokens_seen": 23025536, + "step": 11760 + }, + { + "epoch": 1.558780649436713, + "grad_norm": 0.0330217070877552, + "learning_rate": 2.347874327120079e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23026952, + "step": 11761 + }, + { + "epoch": 1.5589131875414182, + "grad_norm": 6.7171478271484375, + "learning_rate": 2.347527834556224e-06, + "loss": 0.1008, + "num_input_tokens_seen": 23029464, + "step": 11762 + }, + { + "epoch": 1.5590457256461234, + "grad_norm": 8.293986320495605, + "learning_rate": 2.347181344932137e-06, + "loss": 0.0812, + "num_input_tokens_seen": 23031480, + "step": 11763 + }, + { + "epoch": 1.5591782637508285, + "grad_norm": 0.10536544024944305, + "learning_rate": 2.3468348582545005e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23032760, + "step": 11764 + }, + { + "epoch": 1.5593108018555335, + "grad_norm": 2.951874256134033, + "learning_rate": 2.346488374529993e-06, + "loss": 0.0353, + "num_input_tokens_seen": 23034832, + "step": 11765 + }, + { + "epoch": 1.5594433399602385, + "grad_norm": 11.947152137756348, + "learning_rate": 2.346141893765296e-06, + "loss": 0.1959, + "num_input_tokens_seen": 23036456, + "step": 11766 + }, + { + "epoch": 1.5595758780649436, + "grad_norm": 0.2531041204929352, + "learning_rate": 2.3457954159670897e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23037856, + "step": 11767 + }, + { + "epoch": 1.5597084161696486, + "grad_norm": 3.4456894397735596, + "learning_rate": 2.3454489411420534e-06, + "loss": 0.041, + "num_input_tokens_seen": 23039472, + "step": 11768 + }, + { + "epoch": 1.5598409542743539, + "grad_norm": 3.3264551162719727, + "learning_rate": 2.3451024692968674e-06, + "loss": 0.071, + "num_input_tokens_seen": 23042496, + "step": 11769 + }, + { + "epoch": 1.5599734923790591, + "grad_norm": 3.6480424404144287, + "learning_rate": 2.344756000438214e-06, + "loss": 0.0252, + "num_input_tokens_seen": 23045176, + "step": 11770 + }, + { + "epoch": 1.5601060304837642, + "grad_norm": 0.1852840632200241, + "learning_rate": 2.3444095345727713e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23046528, + "step": 11771 + }, + { + "epoch": 1.5602385685884692, + "grad_norm": 6.85092306137085, + "learning_rate": 2.344063071707221e-06, + "loss": 0.1052, + "num_input_tokens_seen": 23048792, + "step": 11772 + }, + { + "epoch": 1.5603711066931742, + "grad_norm": 0.10513570159673691, + "learning_rate": 2.343716611848242e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23050896, + "step": 11773 + }, + { + "epoch": 1.5605036447978793, + "grad_norm": 4.905401229858398, + "learning_rate": 2.3433701550025133e-06, + "loss": 0.0328, + "num_input_tokens_seen": 23053088, + "step": 11774 + }, + { + "epoch": 1.5606361829025845, + "grad_norm": 4.9157023429870605, + "learning_rate": 2.3430237011767166e-06, + "loss": 0.064, + "num_input_tokens_seen": 23054568, + "step": 11775 + }, + { + "epoch": 1.5607687210072896, + "grad_norm": 1.8303897380828857, + "learning_rate": 2.3426772503775318e-06, + "loss": 0.0093, + "num_input_tokens_seen": 23056368, + "step": 11776 + }, + { + "epoch": 1.5609012591119948, + "grad_norm": 7.003386497497559, + "learning_rate": 2.342330802611638e-06, + "loss": 0.2108, + "num_input_tokens_seen": 23059064, + "step": 11777 + }, + { + "epoch": 1.5610337972166999, + "grad_norm": 4.772353172302246, + "learning_rate": 2.3419843578857153e-06, + "loss": 0.0504, + "num_input_tokens_seen": 23062176, + "step": 11778 + }, + { + "epoch": 1.561166335321405, + "grad_norm": 0.053890857845544815, + "learning_rate": 2.3416379162064423e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23063912, + "step": 11779 + }, + { + "epoch": 1.56129887342611, + "grad_norm": 7.776603698730469, + "learning_rate": 2.3412914775805e-06, + "loss": 0.0501, + "num_input_tokens_seen": 23065352, + "step": 11780 + }, + { + "epoch": 1.561431411530815, + "grad_norm": 0.02211894653737545, + "learning_rate": 2.340945042014568e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23066768, + "step": 11781 + }, + { + "epoch": 1.5615639496355203, + "grad_norm": 7.118942737579346, + "learning_rate": 2.340598609515325e-06, + "loss": 0.141, + "num_input_tokens_seen": 23069176, + "step": 11782 + }, + { + "epoch": 1.5616964877402253, + "grad_norm": 3.627549886703491, + "learning_rate": 2.3402521800894505e-06, + "loss": 0.0252, + "num_input_tokens_seen": 23071648, + "step": 11783 + }, + { + "epoch": 1.5618290258449306, + "grad_norm": 11.284818649291992, + "learning_rate": 2.3399057537436236e-06, + "loss": 0.3394, + "num_input_tokens_seen": 23075664, + "step": 11784 + }, + { + "epoch": 1.5619615639496356, + "grad_norm": 0.9425681233406067, + "learning_rate": 2.3395593304845254e-06, + "loss": 0.0258, + "num_input_tokens_seen": 23078376, + "step": 11785 + }, + { + "epoch": 1.5620941020543406, + "grad_norm": 5.32555627822876, + "learning_rate": 2.3392129103188334e-06, + "loss": 0.0825, + "num_input_tokens_seen": 23081232, + "step": 11786 + }, + { + "epoch": 1.5622266401590457, + "grad_norm": 9.754157066345215, + "learning_rate": 2.338866493253228e-06, + "loss": 0.1463, + "num_input_tokens_seen": 23083656, + "step": 11787 + }, + { + "epoch": 1.5623591782637507, + "grad_norm": 10.609440803527832, + "learning_rate": 2.338520079294388e-06, + "loss": 0.1795, + "num_input_tokens_seen": 23086552, + "step": 11788 + }, + { + "epoch": 1.562491716368456, + "grad_norm": 0.018197791650891304, + "learning_rate": 2.3381736684489907e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23088304, + "step": 11789 + }, + { + "epoch": 1.562624254473161, + "grad_norm": 0.07660821080207825, + "learning_rate": 2.3378272607237177e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23089392, + "step": 11790 + }, + { + "epoch": 1.5627567925778663, + "grad_norm": 10.474480628967285, + "learning_rate": 2.337480856125247e-06, + "loss": 0.0642, + "num_input_tokens_seen": 23091824, + "step": 11791 + }, + { + "epoch": 1.5628893306825713, + "grad_norm": 0.08091287314891815, + "learning_rate": 2.3371344546602574e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23093144, + "step": 11792 + }, + { + "epoch": 1.5630218687872763, + "grad_norm": 6.021177291870117, + "learning_rate": 2.3367880563354285e-06, + "loss": 0.083, + "num_input_tokens_seen": 23095520, + "step": 11793 + }, + { + "epoch": 1.5631544068919814, + "grad_norm": 0.04064526408910751, + "learning_rate": 2.336441661157437e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23097264, + "step": 11794 + }, + { + "epoch": 1.5632869449966864, + "grad_norm": 0.4156019985675812, + "learning_rate": 2.336095269132964e-06, + "loss": 0.003, + "num_input_tokens_seen": 23099136, + "step": 11795 + }, + { + "epoch": 1.5634194831013917, + "grad_norm": 3.1713433265686035, + "learning_rate": 2.335748880268687e-06, + "loss": 0.0576, + "num_input_tokens_seen": 23101040, + "step": 11796 + }, + { + "epoch": 1.5635520212060967, + "grad_norm": 2.0922791957855225, + "learning_rate": 2.335402494571286e-06, + "loss": 0.0174, + "num_input_tokens_seen": 23102712, + "step": 11797 + }, + { + "epoch": 1.563684559310802, + "grad_norm": 7.8315019607543945, + "learning_rate": 2.3350561120474376e-06, + "loss": 0.1846, + "num_input_tokens_seen": 23105128, + "step": 11798 + }, + { + "epoch": 1.563817097415507, + "grad_norm": 5.811864852905273, + "learning_rate": 2.3347097327038217e-06, + "loss": 0.1285, + "num_input_tokens_seen": 23107112, + "step": 11799 + }, + { + "epoch": 1.563949635520212, + "grad_norm": 4.618442535400391, + "learning_rate": 2.3343633565471148e-06, + "loss": 0.0811, + "num_input_tokens_seen": 23108696, + "step": 11800 + }, + { + "epoch": 1.564082173624917, + "grad_norm": 4.920743942260742, + "learning_rate": 2.334016983583997e-06, + "loss": 0.0592, + "num_input_tokens_seen": 23110576, + "step": 11801 + }, + { + "epoch": 1.5642147117296221, + "grad_norm": 9.9241943359375, + "learning_rate": 2.3336706138211474e-06, + "loss": 0.1294, + "num_input_tokens_seen": 23113712, + "step": 11802 + }, + { + "epoch": 1.5643472498343274, + "grad_norm": 5.606466293334961, + "learning_rate": 2.333324247265243e-06, + "loss": 0.2304, + "num_input_tokens_seen": 23116328, + "step": 11803 + }, + { + "epoch": 1.5644797879390324, + "grad_norm": 2.9157915115356445, + "learning_rate": 2.3329778839229613e-06, + "loss": 0.038, + "num_input_tokens_seen": 23118600, + "step": 11804 + }, + { + "epoch": 1.5646123260437377, + "grad_norm": 0.08944808691740036, + "learning_rate": 2.3326315238009806e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23120120, + "step": 11805 + }, + { + "epoch": 1.5647448641484427, + "grad_norm": 1.166289210319519, + "learning_rate": 2.332285166905981e-06, + "loss": 0.0097, + "num_input_tokens_seen": 23122632, + "step": 11806 + }, + { + "epoch": 1.5648774022531478, + "grad_norm": 0.024734152480959892, + "learning_rate": 2.331938813244638e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23123880, + "step": 11807 + }, + { + "epoch": 1.5650099403578528, + "grad_norm": 9.396806716918945, + "learning_rate": 2.3315924628236318e-06, + "loss": 0.2541, + "num_input_tokens_seen": 23126272, + "step": 11808 + }, + { + "epoch": 1.5651424784625578, + "grad_norm": 0.024552958086133003, + "learning_rate": 2.331246115649638e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23127720, + "step": 11809 + }, + { + "epoch": 1.565275016567263, + "grad_norm": 6.480804443359375, + "learning_rate": 2.3308997717293357e-06, + "loss": 0.1237, + "num_input_tokens_seen": 23129544, + "step": 11810 + }, + { + "epoch": 1.5654075546719683, + "grad_norm": 4.319464683532715, + "learning_rate": 2.3305534310694033e-06, + "loss": 0.1092, + "num_input_tokens_seen": 23131088, + "step": 11811 + }, + { + "epoch": 1.5655400927766734, + "grad_norm": 0.13295838236808777, + "learning_rate": 2.330207093676517e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23132952, + "step": 11812 + }, + { + "epoch": 1.5656726308813784, + "grad_norm": 10.54491138458252, + "learning_rate": 2.3298607595573553e-06, + "loss": 0.0984, + "num_input_tokens_seen": 23134888, + "step": 11813 + }, + { + "epoch": 1.5658051689860835, + "grad_norm": 5.460895538330078, + "learning_rate": 2.3295144287185954e-06, + "loss": 0.0517, + "num_input_tokens_seen": 23137176, + "step": 11814 + }, + { + "epoch": 1.5659377070907885, + "grad_norm": 13.162677764892578, + "learning_rate": 2.329168101166914e-06, + "loss": 0.2229, + "num_input_tokens_seen": 23139800, + "step": 11815 + }, + { + "epoch": 1.5660702451954938, + "grad_norm": 3.8460566997528076, + "learning_rate": 2.3288217769089903e-06, + "loss": 0.0299, + "num_input_tokens_seen": 23141800, + "step": 11816 + }, + { + "epoch": 1.5662027833001988, + "grad_norm": 16.859697341918945, + "learning_rate": 2.3284754559515016e-06, + "loss": 0.46, + "num_input_tokens_seen": 23143304, + "step": 11817 + }, + { + "epoch": 1.566335321404904, + "grad_norm": 16.181333541870117, + "learning_rate": 2.3281291383011234e-06, + "loss": 0.8357, + "num_input_tokens_seen": 23146352, + "step": 11818 + }, + { + "epoch": 1.566467859509609, + "grad_norm": 1.2226130962371826, + "learning_rate": 2.3277828239645347e-06, + "loss": 0.0158, + "num_input_tokens_seen": 23148448, + "step": 11819 + }, + { + "epoch": 1.5666003976143141, + "grad_norm": 0.32900407910346985, + "learning_rate": 2.3274365129484108e-06, + "loss": 0.0021, + "num_input_tokens_seen": 23150240, + "step": 11820 + }, + { + "epoch": 1.5667329357190192, + "grad_norm": 0.9531776309013367, + "learning_rate": 2.3270902052594314e-06, + "loss": 0.0069, + "num_input_tokens_seen": 23153152, + "step": 11821 + }, + { + "epoch": 1.5668654738237242, + "grad_norm": 3.535245180130005, + "learning_rate": 2.3267439009042713e-06, + "loss": 0.0572, + "num_input_tokens_seen": 23154768, + "step": 11822 + }, + { + "epoch": 1.5669980119284295, + "grad_norm": 2.0109262466430664, + "learning_rate": 2.326397599889609e-06, + "loss": 0.0359, + "num_input_tokens_seen": 23156440, + "step": 11823 + }, + { + "epoch": 1.5671305500331345, + "grad_norm": 7.079641342163086, + "learning_rate": 2.32605130222212e-06, + "loss": 0.1706, + "num_input_tokens_seen": 23158144, + "step": 11824 + }, + { + "epoch": 1.5672630881378398, + "grad_norm": 2.586860418319702, + "learning_rate": 2.3257050079084823e-06, + "loss": 0.0291, + "num_input_tokens_seen": 23159648, + "step": 11825 + }, + { + "epoch": 1.5673956262425448, + "grad_norm": 12.001721382141113, + "learning_rate": 2.3253587169553714e-06, + "loss": 0.1553, + "num_input_tokens_seen": 23162024, + "step": 11826 + }, + { + "epoch": 1.5675281643472498, + "grad_norm": 1.3586593866348267, + "learning_rate": 2.325012429369466e-06, + "loss": 0.0082, + "num_input_tokens_seen": 23164080, + "step": 11827 + }, + { + "epoch": 1.5676607024519549, + "grad_norm": 0.04144002124667168, + "learning_rate": 2.3246661451574413e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23165704, + "step": 11828 + }, + { + "epoch": 1.56779324055666, + "grad_norm": 0.028851399198174477, + "learning_rate": 2.3243198643259747e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23167256, + "step": 11829 + }, + { + "epoch": 1.5679257786613652, + "grad_norm": 0.06583758443593979, + "learning_rate": 2.3239735868817416e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23168824, + "step": 11830 + }, + { + "epoch": 1.5680583167660702, + "grad_norm": 22.437429428100586, + "learning_rate": 2.3236273128314184e-06, + "loss": 0.3746, + "num_input_tokens_seen": 23170304, + "step": 11831 + }, + { + "epoch": 1.5681908548707755, + "grad_norm": 6.973607540130615, + "learning_rate": 2.323281042181684e-06, + "loss": 0.0543, + "num_input_tokens_seen": 23171728, + "step": 11832 + }, + { + "epoch": 1.5683233929754805, + "grad_norm": 3.017742156982422, + "learning_rate": 2.322934774939212e-06, + "loss": 0.0108, + "num_input_tokens_seen": 23173360, + "step": 11833 + }, + { + "epoch": 1.5684559310801856, + "grad_norm": 9.6630859375, + "learning_rate": 2.3225885111106805e-06, + "loss": 0.1628, + "num_input_tokens_seen": 23175224, + "step": 11834 + }, + { + "epoch": 1.5685884691848906, + "grad_norm": 11.627849578857422, + "learning_rate": 2.322242250702765e-06, + "loss": 0.1733, + "num_input_tokens_seen": 23176816, + "step": 11835 + }, + { + "epoch": 1.5687210072895956, + "grad_norm": 12.374133110046387, + "learning_rate": 2.3218959937221404e-06, + "loss": 0.1513, + "num_input_tokens_seen": 23178216, + "step": 11836 + }, + { + "epoch": 1.5688535453943009, + "grad_norm": 3.9707603454589844, + "learning_rate": 2.321549740175484e-06, + "loss": 0.0925, + "num_input_tokens_seen": 23180048, + "step": 11837 + }, + { + "epoch": 1.568986083499006, + "grad_norm": 5.106534481048584, + "learning_rate": 2.321203490069473e-06, + "loss": 0.0237, + "num_input_tokens_seen": 23181632, + "step": 11838 + }, + { + "epoch": 1.5691186216037112, + "grad_norm": 0.05615193024277687, + "learning_rate": 2.320857243410781e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23183192, + "step": 11839 + }, + { + "epoch": 1.5692511597084162, + "grad_norm": 5.115355491638184, + "learning_rate": 2.3205110002060854e-06, + "loss": 0.0855, + "num_input_tokens_seen": 23185440, + "step": 11840 + }, + { + "epoch": 1.5693836978131213, + "grad_norm": 2.50343918800354, + "learning_rate": 2.3201647604620606e-06, + "loss": 0.029, + "num_input_tokens_seen": 23187936, + "step": 11841 + }, + { + "epoch": 1.5695162359178263, + "grad_norm": 2.482462167739868, + "learning_rate": 2.3198185241853842e-06, + "loss": 0.0381, + "num_input_tokens_seen": 23189600, + "step": 11842 + }, + { + "epoch": 1.5696487740225313, + "grad_norm": 0.015036329627037048, + "learning_rate": 2.319472291382731e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23191032, + "step": 11843 + }, + { + "epoch": 1.5697813121272366, + "grad_norm": 0.009527535177767277, + "learning_rate": 2.3191260620607766e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23192520, + "step": 11844 + }, + { + "epoch": 1.5699138502319416, + "grad_norm": 6.501735687255859, + "learning_rate": 2.3187798362261958e-06, + "loss": 0.0412, + "num_input_tokens_seen": 23194288, + "step": 11845 + }, + { + "epoch": 1.570046388336647, + "grad_norm": 3.4656929969787598, + "learning_rate": 2.318433613885665e-06, + "loss": 0.0522, + "num_input_tokens_seen": 23195936, + "step": 11846 + }, + { + "epoch": 1.570178926441352, + "grad_norm": 13.463749885559082, + "learning_rate": 2.31808739504586e-06, + "loss": 0.4768, + "num_input_tokens_seen": 23197880, + "step": 11847 + }, + { + "epoch": 1.570311464546057, + "grad_norm": 0.23207640647888184, + "learning_rate": 2.317741179713455e-06, + "loss": 0.0029, + "num_input_tokens_seen": 23200016, + "step": 11848 + }, + { + "epoch": 1.570444002650762, + "grad_norm": 10.478626251220703, + "learning_rate": 2.317394967895126e-06, + "loss": 0.2562, + "num_input_tokens_seen": 23201928, + "step": 11849 + }, + { + "epoch": 1.570576540755467, + "grad_norm": 0.2518407702445984, + "learning_rate": 2.3170487595975482e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23203104, + "step": 11850 + }, + { + "epoch": 1.5707090788601723, + "grad_norm": 0.5737168192863464, + "learning_rate": 2.3167025548273957e-06, + "loss": 0.004, + "num_input_tokens_seen": 23205216, + "step": 11851 + }, + { + "epoch": 1.5708416169648776, + "grad_norm": 4.06577205657959, + "learning_rate": 2.3163563535913445e-06, + "loss": 0.0625, + "num_input_tokens_seen": 23206864, + "step": 11852 + }, + { + "epoch": 1.5709741550695826, + "grad_norm": 6.196745872497559, + "learning_rate": 2.3160101558960703e-06, + "loss": 0.1276, + "num_input_tokens_seen": 23209072, + "step": 11853 + }, + { + "epoch": 1.5711066931742876, + "grad_norm": 15.247641563415527, + "learning_rate": 2.3156639617482466e-06, + "loss": 0.3407, + "num_input_tokens_seen": 23210736, + "step": 11854 + }, + { + "epoch": 1.5712392312789927, + "grad_norm": 16.242324829101562, + "learning_rate": 2.3153177711545495e-06, + "loss": 0.2255, + "num_input_tokens_seen": 23213032, + "step": 11855 + }, + { + "epoch": 1.5713717693836977, + "grad_norm": 4.422913551330566, + "learning_rate": 2.314971584121653e-06, + "loss": 0.0427, + "num_input_tokens_seen": 23214640, + "step": 11856 + }, + { + "epoch": 1.5715043074884028, + "grad_norm": 0.023176299408078194, + "learning_rate": 2.3146254006562312e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23217176, + "step": 11857 + }, + { + "epoch": 1.571636845593108, + "grad_norm": 0.024347057566046715, + "learning_rate": 2.31427922076496e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23219208, + "step": 11858 + }, + { + "epoch": 1.5717693836978133, + "grad_norm": 0.03210686892271042, + "learning_rate": 2.3139330444545145e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23221456, + "step": 11859 + }, + { + "epoch": 1.5719019218025183, + "grad_norm": 4.715926647186279, + "learning_rate": 2.313586871731567e-06, + "loss": 0.0836, + "num_input_tokens_seen": 23223744, + "step": 11860 + }, + { + "epoch": 1.5720344599072233, + "grad_norm": 7.625388145446777, + "learning_rate": 2.313240702602794e-06, + "loss": 0.0757, + "num_input_tokens_seen": 23225168, + "step": 11861 + }, + { + "epoch": 1.5721669980119284, + "grad_norm": 7.96759033203125, + "learning_rate": 2.3128945370748683e-06, + "loss": 0.2099, + "num_input_tokens_seen": 23226952, + "step": 11862 + }, + { + "epoch": 1.5722995361166334, + "grad_norm": 0.012869305908679962, + "learning_rate": 2.3125483751544655e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23229128, + "step": 11863 + }, + { + "epoch": 1.5724320742213387, + "grad_norm": 0.007695955224335194, + "learning_rate": 2.3122022168482595e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23230752, + "step": 11864 + }, + { + "epoch": 1.5725646123260437, + "grad_norm": 0.04273669049143791, + "learning_rate": 2.311856062162924e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23233672, + "step": 11865 + }, + { + "epoch": 1.572697150430749, + "grad_norm": 5.344576835632324, + "learning_rate": 2.3115099111051336e-06, + "loss": 0.0859, + "num_input_tokens_seen": 23235552, + "step": 11866 + }, + { + "epoch": 1.572829688535454, + "grad_norm": 0.005217389203608036, + "learning_rate": 2.3111637636815616e-06, + "loss": 0.0, + "num_input_tokens_seen": 23237144, + "step": 11867 + }, + { + "epoch": 1.572962226640159, + "grad_norm": 6.825217247009277, + "learning_rate": 2.3108176198988833e-06, + "loss": 0.1558, + "num_input_tokens_seen": 23238616, + "step": 11868 + }, + { + "epoch": 1.573094764744864, + "grad_norm": 0.038383398205041885, + "learning_rate": 2.3104714797637714e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23241080, + "step": 11869 + }, + { + "epoch": 1.5732273028495691, + "grad_norm": 6.217370510101318, + "learning_rate": 2.310125343282901e-06, + "loss": 0.0794, + "num_input_tokens_seen": 23242888, + "step": 11870 + }, + { + "epoch": 1.5733598409542744, + "grad_norm": 9.227302551269531, + "learning_rate": 2.3097792104629434e-06, + "loss": 0.1598, + "num_input_tokens_seen": 23244496, + "step": 11871 + }, + { + "epoch": 1.5734923790589794, + "grad_norm": 0.029518185183405876, + "learning_rate": 2.3094330813105743e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23246536, + "step": 11872 + }, + { + "epoch": 1.5736249171636847, + "grad_norm": 2.307223320007324, + "learning_rate": 2.3090869558324676e-06, + "loss": 0.0317, + "num_input_tokens_seen": 23249048, + "step": 11873 + }, + { + "epoch": 1.5737574552683897, + "grad_norm": 8.633649826049805, + "learning_rate": 2.308740834035296e-06, + "loss": 0.0822, + "num_input_tokens_seen": 23251624, + "step": 11874 + }, + { + "epoch": 1.5738899933730948, + "grad_norm": 9.78980827331543, + "learning_rate": 2.3083947159257327e-06, + "loss": 0.0592, + "num_input_tokens_seen": 23253776, + "step": 11875 + }, + { + "epoch": 1.5740225314777998, + "grad_norm": 10.400908470153809, + "learning_rate": 2.308048601510452e-06, + "loss": 0.1832, + "num_input_tokens_seen": 23255784, + "step": 11876 + }, + { + "epoch": 1.5741550695825048, + "grad_norm": 15.188549041748047, + "learning_rate": 2.3077024907961253e-06, + "loss": 0.194, + "num_input_tokens_seen": 23258112, + "step": 11877 + }, + { + "epoch": 1.57428760768721, + "grad_norm": 4.213099002838135, + "learning_rate": 2.307356383789428e-06, + "loss": 0.1282, + "num_input_tokens_seen": 23259896, + "step": 11878 + }, + { + "epoch": 1.5744201457919151, + "grad_norm": 7.259431838989258, + "learning_rate": 2.3070102804970327e-06, + "loss": 0.1013, + "num_input_tokens_seen": 23262048, + "step": 11879 + }, + { + "epoch": 1.5745526838966204, + "grad_norm": 0.03413210064172745, + "learning_rate": 2.306664180925613e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23263776, + "step": 11880 + }, + { + "epoch": 1.5746852220013254, + "grad_norm": 14.316970825195312, + "learning_rate": 2.30631808508184e-06, + "loss": 0.4378, + "num_input_tokens_seen": 23266048, + "step": 11881 + }, + { + "epoch": 1.5748177601060305, + "grad_norm": 0.009788365103304386, + "learning_rate": 2.305971992972389e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23268608, + "step": 11882 + }, + { + "epoch": 1.5749502982107355, + "grad_norm": 0.08582916110754013, + "learning_rate": 2.3056259046039306e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23270232, + "step": 11883 + }, + { + "epoch": 1.5750828363154405, + "grad_norm": 0.04013047739863396, + "learning_rate": 2.3052798199831396e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23272088, + "step": 11884 + }, + { + "epoch": 1.5752153744201458, + "grad_norm": 0.03055867925286293, + "learning_rate": 2.3049337391166884e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23273680, + "step": 11885 + }, + { + "epoch": 1.5753479125248508, + "grad_norm": 0.029550379142165184, + "learning_rate": 2.3045876620112484e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23274616, + "step": 11886 + }, + { + "epoch": 1.575480450629556, + "grad_norm": 7.734893321990967, + "learning_rate": 2.304241588673494e-06, + "loss": 0.0682, + "num_input_tokens_seen": 23277368, + "step": 11887 + }, + { + "epoch": 1.5756129887342611, + "grad_norm": 0.3007345199584961, + "learning_rate": 2.3038955191100957e-06, + "loss": 0.002, + "num_input_tokens_seen": 23279808, + "step": 11888 + }, + { + "epoch": 1.5757455268389662, + "grad_norm": 5.712344169616699, + "learning_rate": 2.3035494533277282e-06, + "loss": 0.0297, + "num_input_tokens_seen": 23281280, + "step": 11889 + }, + { + "epoch": 1.5758780649436712, + "grad_norm": 11.294878959655762, + "learning_rate": 2.3032033913330618e-06, + "loss": 0.1981, + "num_input_tokens_seen": 23283136, + "step": 11890 + }, + { + "epoch": 1.5760106030483763, + "grad_norm": 0.029315093532204628, + "learning_rate": 2.302857333132771e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23285472, + "step": 11891 + }, + { + "epoch": 1.5761431411530815, + "grad_norm": 6.328197479248047, + "learning_rate": 2.302511278733526e-06, + "loss": 0.132, + "num_input_tokens_seen": 23288016, + "step": 11892 + }, + { + "epoch": 1.5762756792577868, + "grad_norm": 4.279500961303711, + "learning_rate": 2.3021652281419985e-06, + "loss": 0.0727, + "num_input_tokens_seen": 23289624, + "step": 11893 + }, + { + "epoch": 1.5764082173624918, + "grad_norm": 11.489892959594727, + "learning_rate": 2.301819181364864e-06, + "loss": 0.2265, + "num_input_tokens_seen": 23291864, + "step": 11894 + }, + { + "epoch": 1.5765407554671969, + "grad_norm": 4.643187046051025, + "learning_rate": 2.3014731384087917e-06, + "loss": 0.1017, + "num_input_tokens_seen": 23293312, + "step": 11895 + }, + { + "epoch": 1.576673293571902, + "grad_norm": 0.060901664197444916, + "learning_rate": 2.3011270992804543e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23294728, + "step": 11896 + }, + { + "epoch": 1.576805831676607, + "grad_norm": 12.484745025634766, + "learning_rate": 2.3007810639865237e-06, + "loss": 0.3547, + "num_input_tokens_seen": 23296408, + "step": 11897 + }, + { + "epoch": 1.576938369781312, + "grad_norm": 2.3672783374786377, + "learning_rate": 2.3004350325336706e-06, + "loss": 0.0221, + "num_input_tokens_seen": 23298872, + "step": 11898 + }, + { + "epoch": 1.5770709078860172, + "grad_norm": 0.263560950756073, + "learning_rate": 2.300089004928569e-06, + "loss": 0.0016, + "num_input_tokens_seen": 23300688, + "step": 11899 + }, + { + "epoch": 1.5772034459907225, + "grad_norm": 7.4764790534973145, + "learning_rate": 2.299742981177889e-06, + "loss": 0.1596, + "num_input_tokens_seen": 23302776, + "step": 11900 + }, + { + "epoch": 1.5773359840954275, + "grad_norm": 2.0159964561462402, + "learning_rate": 2.2993969612883023e-06, + "loss": 0.0307, + "num_input_tokens_seen": 23306056, + "step": 11901 + }, + { + "epoch": 1.5774685222001326, + "grad_norm": 5.1496477127075195, + "learning_rate": 2.2990509452664808e-06, + "loss": 0.1122, + "num_input_tokens_seen": 23308840, + "step": 11902 + }, + { + "epoch": 1.5776010603048376, + "grad_norm": 3.5109922885894775, + "learning_rate": 2.2987049331190946e-06, + "loss": 0.033, + "num_input_tokens_seen": 23310072, + "step": 11903 + }, + { + "epoch": 1.5777335984095426, + "grad_norm": 0.06520876288414001, + "learning_rate": 2.2983589248528177e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23312200, + "step": 11904 + }, + { + "epoch": 1.577866136514248, + "grad_norm": 4.272860527038574, + "learning_rate": 2.298012920474319e-06, + "loss": 0.0258, + "num_input_tokens_seen": 23314728, + "step": 11905 + }, + { + "epoch": 1.577998674618953, + "grad_norm": 2.5731828212738037, + "learning_rate": 2.2976669199902713e-06, + "loss": 0.051, + "num_input_tokens_seen": 23316632, + "step": 11906 + }, + { + "epoch": 1.5781312127236582, + "grad_norm": 0.07348982244729996, + "learning_rate": 2.297320923407344e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23318664, + "step": 11907 + }, + { + "epoch": 1.5782637508283632, + "grad_norm": 8.55766487121582, + "learning_rate": 2.296974930732209e-06, + "loss": 0.1826, + "num_input_tokens_seen": 23320432, + "step": 11908 + }, + { + "epoch": 1.5783962889330683, + "grad_norm": 0.46611157059669495, + "learning_rate": 2.2966289419715383e-06, + "loss": 0.003, + "num_input_tokens_seen": 23321632, + "step": 11909 + }, + { + "epoch": 1.5785288270377733, + "grad_norm": 1.407111406326294, + "learning_rate": 2.296282957132002e-06, + "loss": 0.0157, + "num_input_tokens_seen": 23323432, + "step": 11910 + }, + { + "epoch": 1.5786613651424783, + "grad_norm": 4.4142680168151855, + "learning_rate": 2.2959369762202703e-06, + "loss": 0.101, + "num_input_tokens_seen": 23325624, + "step": 11911 + }, + { + "epoch": 1.5787939032471836, + "grad_norm": 0.7156218886375427, + "learning_rate": 2.2955909992430148e-06, + "loss": 0.0066, + "num_input_tokens_seen": 23326840, + "step": 11912 + }, + { + "epoch": 1.5789264413518886, + "grad_norm": 0.02910565212368965, + "learning_rate": 2.2952450262069053e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23328248, + "step": 11913 + }, + { + "epoch": 1.579058979456594, + "grad_norm": 2.8141586780548096, + "learning_rate": 2.2948990571186127e-06, + "loss": 0.0342, + "num_input_tokens_seen": 23330136, + "step": 11914 + }, + { + "epoch": 1.579191517561299, + "grad_norm": 0.015408039093017578, + "learning_rate": 2.2945530919848086e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23331512, + "step": 11915 + }, + { + "epoch": 1.579324055666004, + "grad_norm": 6.919739246368408, + "learning_rate": 2.294207130812162e-06, + "loss": 0.0963, + "num_input_tokens_seen": 23334824, + "step": 11916 + }, + { + "epoch": 1.579456593770709, + "grad_norm": 0.03383958712220192, + "learning_rate": 2.2938611736073445e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23336248, + "step": 11917 + }, + { + "epoch": 1.579589131875414, + "grad_norm": 8.613393783569336, + "learning_rate": 2.293515220377026e-06, + "loss": 0.2771, + "num_input_tokens_seen": 23338864, + "step": 11918 + }, + { + "epoch": 1.5797216699801193, + "grad_norm": 5.089381694793701, + "learning_rate": 2.2931692711278752e-06, + "loss": 0.0641, + "num_input_tokens_seen": 23341280, + "step": 11919 + }, + { + "epoch": 1.5798542080848244, + "grad_norm": 10.700448036193848, + "learning_rate": 2.292823325866564e-06, + "loss": 0.2213, + "num_input_tokens_seen": 23343136, + "step": 11920 + }, + { + "epoch": 1.5799867461895296, + "grad_norm": 4.684841632843018, + "learning_rate": 2.292477384599763e-06, + "loss": 0.1901, + "num_input_tokens_seen": 23344624, + "step": 11921 + }, + { + "epoch": 1.5801192842942346, + "grad_norm": 9.807380676269531, + "learning_rate": 2.2921314473341404e-06, + "loss": 0.2262, + "num_input_tokens_seen": 23346320, + "step": 11922 + }, + { + "epoch": 1.5802518223989397, + "grad_norm": 6.636413097381592, + "learning_rate": 2.291785514076367e-06, + "loss": 0.1269, + "num_input_tokens_seen": 23348272, + "step": 11923 + }, + { + "epoch": 1.5803843605036447, + "grad_norm": 9.999238967895508, + "learning_rate": 2.291439584833112e-06, + "loss": 0.0324, + "num_input_tokens_seen": 23349816, + "step": 11924 + }, + { + "epoch": 1.5805168986083498, + "grad_norm": 1.6644606590270996, + "learning_rate": 2.291093659611046e-06, + "loss": 0.0148, + "num_input_tokens_seen": 23351240, + "step": 11925 + }, + { + "epoch": 1.580649436713055, + "grad_norm": 5.8127264976501465, + "learning_rate": 2.290747738416839e-06, + "loss": 0.0809, + "num_input_tokens_seen": 23352664, + "step": 11926 + }, + { + "epoch": 1.58078197481776, + "grad_norm": 0.04623502865433693, + "learning_rate": 2.29040182125716e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23354616, + "step": 11927 + }, + { + "epoch": 1.5809145129224653, + "grad_norm": 10.933884620666504, + "learning_rate": 2.290055908138678e-06, + "loss": 0.2594, + "num_input_tokens_seen": 23356488, + "step": 11928 + }, + { + "epoch": 1.5810470510271704, + "grad_norm": 0.3446574807167053, + "learning_rate": 2.2897099990680623e-06, + "loss": 0.003, + "num_input_tokens_seen": 23357832, + "step": 11929 + }, + { + "epoch": 1.5811795891318754, + "grad_norm": 0.4280853569507599, + "learning_rate": 2.2893640940519837e-06, + "loss": 0.003, + "num_input_tokens_seen": 23360488, + "step": 11930 + }, + { + "epoch": 1.5813121272365804, + "grad_norm": 4.509779930114746, + "learning_rate": 2.2890181930971105e-06, + "loss": 0.1045, + "num_input_tokens_seen": 23362224, + "step": 11931 + }, + { + "epoch": 1.5814446653412855, + "grad_norm": 3.114455223083496, + "learning_rate": 2.2886722962101125e-06, + "loss": 0.0419, + "num_input_tokens_seen": 23364000, + "step": 11932 + }, + { + "epoch": 1.5815772034459907, + "grad_norm": 6.655788421630859, + "learning_rate": 2.288326403397658e-06, + "loss": 0.0708, + "num_input_tokens_seen": 23367056, + "step": 11933 + }, + { + "epoch": 1.581709741550696, + "grad_norm": 6.719675064086914, + "learning_rate": 2.287980514666416e-06, + "loss": 0.0933, + "num_input_tokens_seen": 23369784, + "step": 11934 + }, + { + "epoch": 1.581842279655401, + "grad_norm": 6.188154220581055, + "learning_rate": 2.287634630023056e-06, + "loss": 0.1374, + "num_input_tokens_seen": 23372280, + "step": 11935 + }, + { + "epoch": 1.581974817760106, + "grad_norm": 2.4546737670898438, + "learning_rate": 2.287288749474248e-06, + "loss": 0.0707, + "num_input_tokens_seen": 23373552, + "step": 11936 + }, + { + "epoch": 1.582107355864811, + "grad_norm": 12.997584342956543, + "learning_rate": 2.2869428730266583e-06, + "loss": 0.3838, + "num_input_tokens_seen": 23375656, + "step": 11937 + }, + { + "epoch": 1.5822398939695161, + "grad_norm": 3.504216194152832, + "learning_rate": 2.286597000686958e-06, + "loss": 0.1107, + "num_input_tokens_seen": 23377528, + "step": 11938 + }, + { + "epoch": 1.5823724320742212, + "grad_norm": 18.248077392578125, + "learning_rate": 2.2862511324618144e-06, + "loss": 0.4098, + "num_input_tokens_seen": 23378912, + "step": 11939 + }, + { + "epoch": 1.5825049701789264, + "grad_norm": 5.755631923675537, + "learning_rate": 2.285905268357896e-06, + "loss": 0.0519, + "num_input_tokens_seen": 23380480, + "step": 11940 + }, + { + "epoch": 1.5826375082836317, + "grad_norm": 0.0422113761305809, + "learning_rate": 2.285559408381872e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23381960, + "step": 11941 + }, + { + "epoch": 1.5827700463883367, + "grad_norm": 2.829979658126831, + "learning_rate": 2.285213552540411e-06, + "loss": 0.0265, + "num_input_tokens_seen": 23383888, + "step": 11942 + }, + { + "epoch": 1.5829025844930418, + "grad_norm": 0.0245696771889925, + "learning_rate": 2.2848677008401805e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23386416, + "step": 11943 + }, + { + "epoch": 1.5830351225977468, + "grad_norm": 8.891592979431152, + "learning_rate": 2.2845218532878496e-06, + "loss": 0.2918, + "num_input_tokens_seen": 23388488, + "step": 11944 + }, + { + "epoch": 1.5831676607024519, + "grad_norm": 4.753551483154297, + "learning_rate": 2.284176009890085e-06, + "loss": 0.2055, + "num_input_tokens_seen": 23390168, + "step": 11945 + }, + { + "epoch": 1.583300198807157, + "grad_norm": 0.036085184663534164, + "learning_rate": 2.283830170653556e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23391936, + "step": 11946 + }, + { + "epoch": 1.5834327369118621, + "grad_norm": 2.4430947303771973, + "learning_rate": 2.283484335584931e-06, + "loss": 0.0421, + "num_input_tokens_seen": 23393616, + "step": 11947 + }, + { + "epoch": 1.5835652750165674, + "grad_norm": 9.587576866149902, + "learning_rate": 2.283138504690878e-06, + "loss": 0.1652, + "num_input_tokens_seen": 23395664, + "step": 11948 + }, + { + "epoch": 1.5836978131212724, + "grad_norm": 0.09076646715402603, + "learning_rate": 2.282792677978063e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23397112, + "step": 11949 + }, + { + "epoch": 1.5838303512259775, + "grad_norm": 0.10874997824430466, + "learning_rate": 2.2824468554531548e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23398328, + "step": 11950 + }, + { + "epoch": 1.5839628893306825, + "grad_norm": 0.1414063274860382, + "learning_rate": 2.2821010371228223e-06, + "loss": 0.0009, + "num_input_tokens_seen": 23399776, + "step": 11951 + }, + { + "epoch": 1.5840954274353876, + "grad_norm": 2.4859063625335693, + "learning_rate": 2.2817552229937317e-06, + "loss": 0.0924, + "num_input_tokens_seen": 23401448, + "step": 11952 + }, + { + "epoch": 1.5842279655400928, + "grad_norm": 8.461024284362793, + "learning_rate": 2.2814094130725514e-06, + "loss": 0.1256, + "num_input_tokens_seen": 23403288, + "step": 11953 + }, + { + "epoch": 1.5843605036447979, + "grad_norm": 3.601931095123291, + "learning_rate": 2.2810636073659477e-06, + "loss": 0.0498, + "num_input_tokens_seen": 23406640, + "step": 11954 + }, + { + "epoch": 1.5844930417495031, + "grad_norm": 6.00985050201416, + "learning_rate": 2.2807178058805883e-06, + "loss": 0.0765, + "num_input_tokens_seen": 23407760, + "step": 11955 + }, + { + "epoch": 1.5846255798542082, + "grad_norm": 2.741731882095337, + "learning_rate": 2.280372008623142e-06, + "loss": 0.0149, + "num_input_tokens_seen": 23409248, + "step": 11956 + }, + { + "epoch": 1.5847581179589132, + "grad_norm": 0.04992765188217163, + "learning_rate": 2.280026215600275e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23410656, + "step": 11957 + }, + { + "epoch": 1.5848906560636182, + "grad_norm": 11.561676025390625, + "learning_rate": 2.279680426818654e-06, + "loss": 0.1557, + "num_input_tokens_seen": 23412480, + "step": 11958 + }, + { + "epoch": 1.5850231941683233, + "grad_norm": 0.11860350519418716, + "learning_rate": 2.279334642284946e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23414208, + "step": 11959 + }, + { + "epoch": 1.5851557322730285, + "grad_norm": 0.17873084545135498, + "learning_rate": 2.278988862005818e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23416488, + "step": 11960 + }, + { + "epoch": 1.5852882703777336, + "grad_norm": 3.4755923748016357, + "learning_rate": 2.2786430859879377e-06, + "loss": 0.055, + "num_input_tokens_seen": 23417872, + "step": 11961 + }, + { + "epoch": 1.5854208084824388, + "grad_norm": 16.926040649414062, + "learning_rate": 2.278297314237972e-06, + "loss": 0.2674, + "num_input_tokens_seen": 23419176, + "step": 11962 + }, + { + "epoch": 1.5855533465871439, + "grad_norm": 0.7425496578216553, + "learning_rate": 2.277951546762586e-06, + "loss": 0.0077, + "num_input_tokens_seen": 23421984, + "step": 11963 + }, + { + "epoch": 1.585685884691849, + "grad_norm": 7.739573955535889, + "learning_rate": 2.2776057835684484e-06, + "loss": 0.2317, + "num_input_tokens_seen": 23424104, + "step": 11964 + }, + { + "epoch": 1.585818422796554, + "grad_norm": 0.1579480618238449, + "learning_rate": 2.2772600246622235e-06, + "loss": 0.0011, + "num_input_tokens_seen": 23427024, + "step": 11965 + }, + { + "epoch": 1.585950960901259, + "grad_norm": 6.025252819061279, + "learning_rate": 2.2769142700505798e-06, + "loss": 0.1281, + "num_input_tokens_seen": 23428712, + "step": 11966 + }, + { + "epoch": 1.5860834990059642, + "grad_norm": 3.7656054496765137, + "learning_rate": 2.2765685197401825e-06, + "loss": 0.0312, + "num_input_tokens_seen": 23431160, + "step": 11967 + }, + { + "epoch": 1.5862160371106693, + "grad_norm": 0.3239903151988983, + "learning_rate": 2.2762227737376986e-06, + "loss": 0.0023, + "num_input_tokens_seen": 23432720, + "step": 11968 + }, + { + "epoch": 1.5863485752153745, + "grad_norm": 6.767882823944092, + "learning_rate": 2.275877032049794e-06, + "loss": 0.1052, + "num_input_tokens_seen": 23435072, + "step": 11969 + }, + { + "epoch": 1.5864811133200796, + "grad_norm": 13.696349143981934, + "learning_rate": 2.275531294683135e-06, + "loss": 0.3848, + "num_input_tokens_seen": 23437320, + "step": 11970 + }, + { + "epoch": 1.5866136514247846, + "grad_norm": 0.4737248718738556, + "learning_rate": 2.2751855616443865e-06, + "loss": 0.004, + "num_input_tokens_seen": 23438672, + "step": 11971 + }, + { + "epoch": 1.5867461895294896, + "grad_norm": 1.248619556427002, + "learning_rate": 2.2748398329402166e-06, + "loss": 0.0078, + "num_input_tokens_seen": 23440456, + "step": 11972 + }, + { + "epoch": 1.5868787276341947, + "grad_norm": 2.4747486114501953, + "learning_rate": 2.274494108577289e-06, + "loss": 0.0157, + "num_input_tokens_seen": 23442312, + "step": 11973 + }, + { + "epoch": 1.5870112657389, + "grad_norm": 3.581362009048462, + "learning_rate": 2.274148388562272e-06, + "loss": 0.0611, + "num_input_tokens_seen": 23444000, + "step": 11974 + }, + { + "epoch": 1.587143803843605, + "grad_norm": 0.11212000250816345, + "learning_rate": 2.2738026729018285e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23446304, + "step": 11975 + }, + { + "epoch": 1.5872763419483102, + "grad_norm": 2.074960708618164, + "learning_rate": 2.2734569616026254e-06, + "loss": 0.0198, + "num_input_tokens_seen": 23448416, + "step": 11976 + }, + { + "epoch": 1.5874088800530153, + "grad_norm": 2.1159725189208984, + "learning_rate": 2.2731112546713298e-06, + "loss": 0.0308, + "num_input_tokens_seen": 23450048, + "step": 11977 + }, + { + "epoch": 1.5875414181577203, + "grad_norm": 7.115092754364014, + "learning_rate": 2.272765552114605e-06, + "loss": 0.1194, + "num_input_tokens_seen": 23452120, + "step": 11978 + }, + { + "epoch": 1.5876739562624254, + "grad_norm": 6.320615291595459, + "learning_rate": 2.2724198539391172e-06, + "loss": 0.1532, + "num_input_tokens_seen": 23453704, + "step": 11979 + }, + { + "epoch": 1.5878064943671304, + "grad_norm": 2.811638116836548, + "learning_rate": 2.2720741601515318e-06, + "loss": 0.0388, + "num_input_tokens_seen": 23455464, + "step": 11980 + }, + { + "epoch": 1.5879390324718357, + "grad_norm": 6.016495227813721, + "learning_rate": 2.271728470758513e-06, + "loss": 0.0564, + "num_input_tokens_seen": 23457648, + "step": 11981 + }, + { + "epoch": 1.588071570576541, + "grad_norm": 1.3111093044281006, + "learning_rate": 2.2713827857667267e-06, + "loss": 0.0237, + "num_input_tokens_seen": 23458960, + "step": 11982 + }, + { + "epoch": 1.588204108681246, + "grad_norm": 0.14139525592327118, + "learning_rate": 2.271037105182839e-06, + "loss": 0.001, + "num_input_tokens_seen": 23461624, + "step": 11983 + }, + { + "epoch": 1.588336646785951, + "grad_norm": 5.6465349197387695, + "learning_rate": 2.270691429013513e-06, + "loss": 0.0891, + "num_input_tokens_seen": 23463280, + "step": 11984 + }, + { + "epoch": 1.588469184890656, + "grad_norm": 12.565289497375488, + "learning_rate": 2.2703457572654156e-06, + "loss": 0.4484, + "num_input_tokens_seen": 23466072, + "step": 11985 + }, + { + "epoch": 1.588601722995361, + "grad_norm": 4.7015252113342285, + "learning_rate": 2.2700000899452092e-06, + "loss": 0.0434, + "num_input_tokens_seen": 23468232, + "step": 11986 + }, + { + "epoch": 1.588734261100066, + "grad_norm": 13.96502685546875, + "learning_rate": 2.2696544270595604e-06, + "loss": 0.2317, + "num_input_tokens_seen": 23470192, + "step": 11987 + }, + { + "epoch": 1.5888667992047714, + "grad_norm": 3.691803455352783, + "learning_rate": 2.2693087686151328e-06, + "loss": 0.0803, + "num_input_tokens_seen": 23472304, + "step": 11988 + }, + { + "epoch": 1.5889993373094766, + "grad_norm": 0.108022540807724, + "learning_rate": 2.268963114618592e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23473744, + "step": 11989 + }, + { + "epoch": 1.5891318754141817, + "grad_norm": 5.816701889038086, + "learning_rate": 2.268617465076601e-06, + "loss": 0.0995, + "num_input_tokens_seen": 23475424, + "step": 11990 + }, + { + "epoch": 1.5892644135188867, + "grad_norm": 2.1570260524749756, + "learning_rate": 2.2682718199958243e-06, + "loss": 0.058, + "num_input_tokens_seen": 23478064, + "step": 11991 + }, + { + "epoch": 1.5893969516235917, + "grad_norm": 0.9933966398239136, + "learning_rate": 2.267926179382928e-06, + "loss": 0.0086, + "num_input_tokens_seen": 23479568, + "step": 11992 + }, + { + "epoch": 1.5895294897282968, + "grad_norm": 14.166241645812988, + "learning_rate": 2.2675805432445743e-06, + "loss": 0.2075, + "num_input_tokens_seen": 23481696, + "step": 11993 + }, + { + "epoch": 1.589662027833002, + "grad_norm": 16.522523880004883, + "learning_rate": 2.267234911587429e-06, + "loss": 0.4768, + "num_input_tokens_seen": 23484376, + "step": 11994 + }, + { + "epoch": 1.589794565937707, + "grad_norm": 0.32498085498809814, + "learning_rate": 2.266889284418155e-06, + "loss": 0.0023, + "num_input_tokens_seen": 23486512, + "step": 11995 + }, + { + "epoch": 1.5899271040424123, + "grad_norm": 0.043517787009477615, + "learning_rate": 2.266543661743416e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23488208, + "step": 11996 + }, + { + "epoch": 1.5900596421471174, + "grad_norm": 3.0836009979248047, + "learning_rate": 2.266198043569875e-06, + "loss": 0.013, + "num_input_tokens_seen": 23489824, + "step": 11997 + }, + { + "epoch": 1.5901921802518224, + "grad_norm": 0.045807354152202606, + "learning_rate": 2.265852429904199e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23491776, + "step": 11998 + }, + { + "epoch": 1.5903247183565274, + "grad_norm": 8.787790298461914, + "learning_rate": 2.2655068207530486e-06, + "loss": 0.1947, + "num_input_tokens_seen": 23494568, + "step": 11999 + }, + { + "epoch": 1.5904572564612325, + "grad_norm": 12.732240676879883, + "learning_rate": 2.2651612161230894e-06, + "loss": 0.178, + "num_input_tokens_seen": 23497144, + "step": 12000 + }, + { + "epoch": 1.5905897945659377, + "grad_norm": 6.9903340339660645, + "learning_rate": 2.2648156160209838e-06, + "loss": 0.0812, + "num_input_tokens_seen": 23499120, + "step": 12001 + }, + { + "epoch": 1.5907223326706428, + "grad_norm": 10.034601211547852, + "learning_rate": 2.2644700204533945e-06, + "loss": 0.192, + "num_input_tokens_seen": 23501688, + "step": 12002 + }, + { + "epoch": 1.590854870775348, + "grad_norm": 0.11681302636861801, + "learning_rate": 2.2641244294269855e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23503840, + "step": 12003 + }, + { + "epoch": 1.590987408880053, + "grad_norm": 4.4627909660339355, + "learning_rate": 2.2637788429484215e-06, + "loss": 0.068, + "num_input_tokens_seen": 23506216, + "step": 12004 + }, + { + "epoch": 1.5911199469847581, + "grad_norm": 5.976934432983398, + "learning_rate": 2.2634332610243633e-06, + "loss": 0.1195, + "num_input_tokens_seen": 23508312, + "step": 12005 + }, + { + "epoch": 1.5912524850894632, + "grad_norm": 0.0939573273062706, + "learning_rate": 2.263087683661476e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23510160, + "step": 12006 + }, + { + "epoch": 1.5913850231941682, + "grad_norm": 0.2906567454338074, + "learning_rate": 2.2627421108664203e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23512960, + "step": 12007 + }, + { + "epoch": 1.5915175612988735, + "grad_norm": 6.636651039123535, + "learning_rate": 2.262396542645861e-06, + "loss": 0.1029, + "num_input_tokens_seen": 23515040, + "step": 12008 + }, + { + "epoch": 1.5916500994035785, + "grad_norm": 4.221116542816162, + "learning_rate": 2.262050979006461e-06, + "loss": 0.0411, + "num_input_tokens_seen": 23517824, + "step": 12009 + }, + { + "epoch": 1.5917826375082837, + "grad_norm": 0.06319459527730942, + "learning_rate": 2.261705419954882e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23520768, + "step": 12010 + }, + { + "epoch": 1.5919151756129888, + "grad_norm": 0.10651376098394394, + "learning_rate": 2.261359865497786e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23523056, + "step": 12011 + }, + { + "epoch": 1.5920477137176938, + "grad_norm": 0.1507127285003662, + "learning_rate": 2.2610143156418367e-06, + "loss": 0.0009, + "num_input_tokens_seen": 23524640, + "step": 12012 + }, + { + "epoch": 1.5921802518223989, + "grad_norm": 10.325170516967773, + "learning_rate": 2.2606687703936965e-06, + "loss": 0.2528, + "num_input_tokens_seen": 23527560, + "step": 12013 + }, + { + "epoch": 1.592312789927104, + "grad_norm": 9.946887016296387, + "learning_rate": 2.2603232297600275e-06, + "loss": 0.1841, + "num_input_tokens_seen": 23529936, + "step": 12014 + }, + { + "epoch": 1.5924453280318092, + "grad_norm": 5.147143840789795, + "learning_rate": 2.259977693747493e-06, + "loss": 0.1389, + "num_input_tokens_seen": 23531896, + "step": 12015 + }, + { + "epoch": 1.5925778661365142, + "grad_norm": 1.8185546398162842, + "learning_rate": 2.259632162362753e-06, + "loss": 0.0165, + "num_input_tokens_seen": 23533496, + "step": 12016 + }, + { + "epoch": 1.5927104042412195, + "grad_norm": 2.1618411540985107, + "learning_rate": 2.25928663561247e-06, + "loss": 0.0456, + "num_input_tokens_seen": 23534992, + "step": 12017 + }, + { + "epoch": 1.5928429423459245, + "grad_norm": 11.428789138793945, + "learning_rate": 2.2589411135033074e-06, + "loss": 0.1621, + "num_input_tokens_seen": 23536712, + "step": 12018 + }, + { + "epoch": 1.5929754804506295, + "grad_norm": 0.06381946057081223, + "learning_rate": 2.2585955960419273e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23538400, + "step": 12019 + }, + { + "epoch": 1.5931080185553346, + "grad_norm": 7.035248279571533, + "learning_rate": 2.2582500832349897e-06, + "loss": 0.171, + "num_input_tokens_seen": 23540568, + "step": 12020 + }, + { + "epoch": 1.5932405566600396, + "grad_norm": 10.3733491897583, + "learning_rate": 2.257904575089158e-06, + "loss": 0.2688, + "num_input_tokens_seen": 23542640, + "step": 12021 + }, + { + "epoch": 1.5933730947647449, + "grad_norm": 4.812440872192383, + "learning_rate": 2.2575590716110924e-06, + "loss": 0.0202, + "num_input_tokens_seen": 23545248, + "step": 12022 + }, + { + "epoch": 1.5935056328694501, + "grad_norm": 4.870852947235107, + "learning_rate": 2.257213572807455e-06, + "loss": 0.0537, + "num_input_tokens_seen": 23547008, + "step": 12023 + }, + { + "epoch": 1.5936381709741552, + "grad_norm": 3.8645684719085693, + "learning_rate": 2.2568680786849083e-06, + "loss": 0.0597, + "num_input_tokens_seen": 23548656, + "step": 12024 + }, + { + "epoch": 1.5937707090788602, + "grad_norm": 0.41583776473999023, + "learning_rate": 2.2565225892501127e-06, + "loss": 0.0028, + "num_input_tokens_seen": 23549888, + "step": 12025 + }, + { + "epoch": 1.5939032471835652, + "grad_norm": 0.04926043003797531, + "learning_rate": 2.2561771045097292e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23551088, + "step": 12026 + }, + { + "epoch": 1.5940357852882703, + "grad_norm": 0.017140159383416176, + "learning_rate": 2.2558316244704197e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23552280, + "step": 12027 + }, + { + "epoch": 1.5941683233929753, + "grad_norm": 6.090574264526367, + "learning_rate": 2.2554861491388434e-06, + "loss": 0.0491, + "num_input_tokens_seen": 23555104, + "step": 12028 + }, + { + "epoch": 1.5943008614976806, + "grad_norm": 0.07023546099662781, + "learning_rate": 2.255140678521664e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23556480, + "step": 12029 + }, + { + "epoch": 1.5944333996023858, + "grad_norm": 9.635007858276367, + "learning_rate": 2.2547952126255414e-06, + "loss": 0.1734, + "num_input_tokens_seen": 23558264, + "step": 12030 + }, + { + "epoch": 1.5945659377070909, + "grad_norm": 0.06144785135984421, + "learning_rate": 2.254449751457136e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23560264, + "step": 12031 + }, + { + "epoch": 1.594698475811796, + "grad_norm": 7.15757417678833, + "learning_rate": 2.2541042950231093e-06, + "loss": 0.142, + "num_input_tokens_seen": 23563328, + "step": 12032 + }, + { + "epoch": 1.594831013916501, + "grad_norm": 11.77768611907959, + "learning_rate": 2.2537588433301203e-06, + "loss": 0.1332, + "num_input_tokens_seen": 23565016, + "step": 12033 + }, + { + "epoch": 1.594963552021206, + "grad_norm": 7.994359016418457, + "learning_rate": 2.2534133963848314e-06, + "loss": 0.1303, + "num_input_tokens_seen": 23566696, + "step": 12034 + }, + { + "epoch": 1.5950960901259112, + "grad_norm": 2.325803279876709, + "learning_rate": 2.2530679541939024e-06, + "loss": 0.0321, + "num_input_tokens_seen": 23568384, + "step": 12035 + }, + { + "epoch": 1.5952286282306163, + "grad_norm": 3.0436060428619385, + "learning_rate": 2.2527225167639936e-06, + "loss": 0.0304, + "num_input_tokens_seen": 23570288, + "step": 12036 + }, + { + "epoch": 1.5953611663353215, + "grad_norm": 0.03247248753905296, + "learning_rate": 2.252377084101765e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23571648, + "step": 12037 + }, + { + "epoch": 1.5954937044400266, + "grad_norm": 4.5432448387146, + "learning_rate": 2.2520316562138765e-06, + "loss": 0.0422, + "num_input_tokens_seen": 23574200, + "step": 12038 + }, + { + "epoch": 1.5956262425447316, + "grad_norm": 4.093209266662598, + "learning_rate": 2.25168623310699e-06, + "loss": 0.1059, + "num_input_tokens_seen": 23576048, + "step": 12039 + }, + { + "epoch": 1.5957587806494367, + "grad_norm": 11.41279125213623, + "learning_rate": 2.251340814787764e-06, + "loss": 0.2318, + "num_input_tokens_seen": 23578136, + "step": 12040 + }, + { + "epoch": 1.5958913187541417, + "grad_norm": 9.939678192138672, + "learning_rate": 2.250995401262858e-06, + "loss": 0.3404, + "num_input_tokens_seen": 23579720, + "step": 12041 + }, + { + "epoch": 1.596023856858847, + "grad_norm": 19.935405731201172, + "learning_rate": 2.250649992538933e-06, + "loss": 0.1322, + "num_input_tokens_seen": 23581400, + "step": 12042 + }, + { + "epoch": 1.596156394963552, + "grad_norm": 3.9748375415802, + "learning_rate": 2.250304588622647e-06, + "loss": 0.0503, + "num_input_tokens_seen": 23583840, + "step": 12043 + }, + { + "epoch": 1.5962889330682573, + "grad_norm": 9.957401275634766, + "learning_rate": 2.2499591895206616e-06, + "loss": 0.0559, + "num_input_tokens_seen": 23585616, + "step": 12044 + }, + { + "epoch": 1.5964214711729623, + "grad_norm": 3.113889694213867, + "learning_rate": 2.249613795239636e-06, + "loss": 0.0319, + "num_input_tokens_seen": 23589016, + "step": 12045 + }, + { + "epoch": 1.5965540092776673, + "grad_norm": 8.364652633666992, + "learning_rate": 2.2492684057862285e-06, + "loss": 0.1706, + "num_input_tokens_seen": 23590984, + "step": 12046 + }, + { + "epoch": 1.5966865473823724, + "grad_norm": 13.393416404724121, + "learning_rate": 2.2489230211671e-06, + "loss": 0.1564, + "num_input_tokens_seen": 23592888, + "step": 12047 + }, + { + "epoch": 1.5968190854870774, + "grad_norm": 2.425830602645874, + "learning_rate": 2.248577641388907e-06, + "loss": 0.0155, + "num_input_tokens_seen": 23594240, + "step": 12048 + }, + { + "epoch": 1.5969516235917827, + "grad_norm": 9.745949745178223, + "learning_rate": 2.2482322664583125e-06, + "loss": 0.1156, + "num_input_tokens_seen": 23596344, + "step": 12049 + }, + { + "epoch": 1.5970841616964877, + "grad_norm": 0.1863100528717041, + "learning_rate": 2.2478868963819725e-06, + "loss": 0.0011, + "num_input_tokens_seen": 23597784, + "step": 12050 + }, + { + "epoch": 1.597216699801193, + "grad_norm": 5.555985450744629, + "learning_rate": 2.247541531166548e-06, + "loss": 0.0306, + "num_input_tokens_seen": 23599744, + "step": 12051 + }, + { + "epoch": 1.597349237905898, + "grad_norm": 7.286861419677734, + "learning_rate": 2.247196170818696e-06, + "loss": 0.0855, + "num_input_tokens_seen": 23601440, + "step": 12052 + }, + { + "epoch": 1.597481776010603, + "grad_norm": 0.03255829960107803, + "learning_rate": 2.246850815345077e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23603024, + "step": 12053 + }, + { + "epoch": 1.597614314115308, + "grad_norm": 10.03581428527832, + "learning_rate": 2.2465054647523477e-06, + "loss": 0.2557, + "num_input_tokens_seen": 23605136, + "step": 12054 + }, + { + "epoch": 1.5977468522200131, + "grad_norm": 12.676031112670898, + "learning_rate": 2.2461601190471688e-06, + "loss": 0.225, + "num_input_tokens_seen": 23608496, + "step": 12055 + }, + { + "epoch": 1.5978793903247184, + "grad_norm": 5.926129341125488, + "learning_rate": 2.245814778236198e-06, + "loss": 0.0662, + "num_input_tokens_seen": 23611240, + "step": 12056 + }, + { + "epoch": 1.5980119284294234, + "grad_norm": 4.3048810958862305, + "learning_rate": 2.2454694423260935e-06, + "loss": 0.0966, + "num_input_tokens_seen": 23614336, + "step": 12057 + }, + { + "epoch": 1.5981444665341287, + "grad_norm": 0.2580191195011139, + "learning_rate": 2.2451241113235134e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23616680, + "step": 12058 + }, + { + "epoch": 1.5982770046388337, + "grad_norm": 10.080615043640137, + "learning_rate": 2.244778785235116e-06, + "loss": 0.1924, + "num_input_tokens_seen": 23619168, + "step": 12059 + }, + { + "epoch": 1.5984095427435387, + "grad_norm": 2.785395622253418, + "learning_rate": 2.2444334640675605e-06, + "loss": 0.0168, + "num_input_tokens_seen": 23620712, + "step": 12060 + }, + { + "epoch": 1.5985420808482438, + "grad_norm": 13.239164352416992, + "learning_rate": 2.2440881478275035e-06, + "loss": 0.4522, + "num_input_tokens_seen": 23622944, + "step": 12061 + }, + { + "epoch": 1.5986746189529488, + "grad_norm": 5.530117034912109, + "learning_rate": 2.2437428365216048e-06, + "loss": 0.0441, + "num_input_tokens_seen": 23624376, + "step": 12062 + }, + { + "epoch": 1.598807157057654, + "grad_norm": 2.131474018096924, + "learning_rate": 2.2433975301565204e-06, + "loss": 0.0513, + "num_input_tokens_seen": 23626312, + "step": 12063 + }, + { + "epoch": 1.5989396951623593, + "grad_norm": 4.599630832672119, + "learning_rate": 2.243052228738907e-06, + "loss": 0.0557, + "num_input_tokens_seen": 23628120, + "step": 12064 + }, + { + "epoch": 1.5990722332670644, + "grad_norm": 1.8975003957748413, + "learning_rate": 2.2427069322754253e-06, + "loss": 0.0291, + "num_input_tokens_seen": 23630120, + "step": 12065 + }, + { + "epoch": 1.5992047713717694, + "grad_norm": 1.3744724988937378, + "learning_rate": 2.2423616407727317e-06, + "loss": 0.0262, + "num_input_tokens_seen": 23631912, + "step": 12066 + }, + { + "epoch": 1.5993373094764745, + "grad_norm": 1.3285212516784668, + "learning_rate": 2.242016354237483e-06, + "loss": 0.0086, + "num_input_tokens_seen": 23633504, + "step": 12067 + }, + { + "epoch": 1.5994698475811795, + "grad_norm": 0.34640151262283325, + "learning_rate": 2.2416710726763373e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23634936, + "step": 12068 + }, + { + "epoch": 1.5996023856858845, + "grad_norm": 6.452073574066162, + "learning_rate": 2.241325796095951e-06, + "loss": 0.1873, + "num_input_tokens_seen": 23637376, + "step": 12069 + }, + { + "epoch": 1.5997349237905898, + "grad_norm": 2.916264533996582, + "learning_rate": 2.2409805245029816e-06, + "loss": 0.0114, + "num_input_tokens_seen": 23638984, + "step": 12070 + }, + { + "epoch": 1.599867461895295, + "grad_norm": 16.574281692504883, + "learning_rate": 2.240635257904087e-06, + "loss": 0.2884, + "num_input_tokens_seen": 23641584, + "step": 12071 + }, + { + "epoch": 1.6, + "grad_norm": 0.5606725811958313, + "learning_rate": 2.2402899963059243e-06, + "loss": 0.0095, + "num_input_tokens_seen": 23643232, + "step": 12072 + }, + { + "epoch": 1.6001325381047051, + "grad_norm": 4.341292381286621, + "learning_rate": 2.2399447397151483e-06, + "loss": 0.0386, + "num_input_tokens_seen": 23644632, + "step": 12073 + }, + { + "epoch": 1.6002650762094102, + "grad_norm": 2.5793914794921875, + "learning_rate": 2.2395994881384166e-06, + "loss": 0.045, + "num_input_tokens_seen": 23646016, + "step": 12074 + }, + { + "epoch": 1.6003976143141152, + "grad_norm": 1.784447431564331, + "learning_rate": 2.239254241582388e-06, + "loss": 0.0264, + "num_input_tokens_seen": 23648408, + "step": 12075 + }, + { + "epoch": 1.6005301524188205, + "grad_norm": 11.753952026367188, + "learning_rate": 2.2389090000537166e-06, + "loss": 0.1769, + "num_input_tokens_seen": 23650296, + "step": 12076 + }, + { + "epoch": 1.6006626905235255, + "grad_norm": 3.830230236053467, + "learning_rate": 2.2385637635590604e-06, + "loss": 0.1603, + "num_input_tokens_seen": 23651904, + "step": 12077 + }, + { + "epoch": 1.6007952286282308, + "grad_norm": 16.25090980529785, + "learning_rate": 2.238218532105075e-06, + "loss": 0.2608, + "num_input_tokens_seen": 23654064, + "step": 12078 + }, + { + "epoch": 1.6009277667329358, + "grad_norm": 0.06424489617347717, + "learning_rate": 2.2378733056984166e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23656296, + "step": 12079 + }, + { + "epoch": 1.6010603048376408, + "grad_norm": 18.754308700561523, + "learning_rate": 2.2375280843457415e-06, + "loss": 0.2702, + "num_input_tokens_seen": 23658752, + "step": 12080 + }, + { + "epoch": 1.6011928429423459, + "grad_norm": 0.4402199685573578, + "learning_rate": 2.2371828680537066e-06, + "loss": 0.0019, + "num_input_tokens_seen": 23660688, + "step": 12081 + }, + { + "epoch": 1.601325381047051, + "grad_norm": 2.9767754077911377, + "learning_rate": 2.2368376568289667e-06, + "loss": 0.038, + "num_input_tokens_seen": 23662664, + "step": 12082 + }, + { + "epoch": 1.6014579191517562, + "grad_norm": 3.2979800701141357, + "learning_rate": 2.2364924506781795e-06, + "loss": 0.0462, + "num_input_tokens_seen": 23663872, + "step": 12083 + }, + { + "epoch": 1.6015904572564612, + "grad_norm": 0.8572508692741394, + "learning_rate": 2.2361472496079984e-06, + "loss": 0.0084, + "num_input_tokens_seen": 23665096, + "step": 12084 + }, + { + "epoch": 1.6017229953611665, + "grad_norm": 0.3461538553237915, + "learning_rate": 2.2358020536250802e-06, + "loss": 0.0021, + "num_input_tokens_seen": 23666456, + "step": 12085 + }, + { + "epoch": 1.6018555334658715, + "grad_norm": 0.012356928549706936, + "learning_rate": 2.2354568627360814e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23667640, + "step": 12086 + }, + { + "epoch": 1.6019880715705765, + "grad_norm": 0.007093160878866911, + "learning_rate": 2.235111676947657e-06, + "loss": 0.0, + "num_input_tokens_seen": 23669040, + "step": 12087 + }, + { + "epoch": 1.6021206096752816, + "grad_norm": 11.110785484313965, + "learning_rate": 2.2347664962664615e-06, + "loss": 0.168, + "num_input_tokens_seen": 23672136, + "step": 12088 + }, + { + "epoch": 1.6022531477799866, + "grad_norm": 4.414505958557129, + "learning_rate": 2.234421320699152e-06, + "loss": 0.0555, + "num_input_tokens_seen": 23674040, + "step": 12089 + }, + { + "epoch": 1.6023856858846919, + "grad_norm": 14.67821979522705, + "learning_rate": 2.234076150252381e-06, + "loss": 0.3394, + "num_input_tokens_seen": 23675800, + "step": 12090 + }, + { + "epoch": 1.602518223989397, + "grad_norm": 9.597174644470215, + "learning_rate": 2.233730984932806e-06, + "loss": 0.2338, + "num_input_tokens_seen": 23677872, + "step": 12091 + }, + { + "epoch": 1.6026507620941022, + "grad_norm": 10.621548652648926, + "learning_rate": 2.2333858247470817e-06, + "loss": 0.0426, + "num_input_tokens_seen": 23679944, + "step": 12092 + }, + { + "epoch": 1.6027833001988072, + "grad_norm": 8.552433013916016, + "learning_rate": 2.233040669701863e-06, + "loss": 0.2142, + "num_input_tokens_seen": 23682248, + "step": 12093 + }, + { + "epoch": 1.6029158383035123, + "grad_norm": 17.8165225982666, + "learning_rate": 2.2326955198038035e-06, + "loss": 0.1476, + "num_input_tokens_seen": 23684192, + "step": 12094 + }, + { + "epoch": 1.6030483764082173, + "grad_norm": 3.8980014324188232, + "learning_rate": 2.2323503750595584e-06, + "loss": 0.069, + "num_input_tokens_seen": 23685968, + "step": 12095 + }, + { + "epoch": 1.6031809145129223, + "grad_norm": 4.095605850219727, + "learning_rate": 2.232005235475784e-06, + "loss": 0.0695, + "num_input_tokens_seen": 23688008, + "step": 12096 + }, + { + "epoch": 1.6033134526176276, + "grad_norm": 0.07420234382152557, + "learning_rate": 2.2316601010591324e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23689200, + "step": 12097 + }, + { + "epoch": 1.6034459907223326, + "grad_norm": 17.663143157958984, + "learning_rate": 2.23131497181626e-06, + "loss": 0.4008, + "num_input_tokens_seen": 23691528, + "step": 12098 + }, + { + "epoch": 1.6035785288270379, + "grad_norm": 5.747623443603516, + "learning_rate": 2.23096984775382e-06, + "loss": 0.1598, + "num_input_tokens_seen": 23693224, + "step": 12099 + }, + { + "epoch": 1.603711066931743, + "grad_norm": 0.09166564792394638, + "learning_rate": 2.230624728878466e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23694736, + "step": 12100 + }, + { + "epoch": 1.603843605036448, + "grad_norm": 5.317575454711914, + "learning_rate": 2.230279615196854e-06, + "loss": 0.1417, + "num_input_tokens_seen": 23696600, + "step": 12101 + }, + { + "epoch": 1.603976143141153, + "grad_norm": 4.6134538650512695, + "learning_rate": 2.229934506715638e-06, + "loss": 0.0453, + "num_input_tokens_seen": 23698768, + "step": 12102 + }, + { + "epoch": 1.604108681245858, + "grad_norm": 10.47490119934082, + "learning_rate": 2.2295894034414698e-06, + "loss": 0.2076, + "num_input_tokens_seen": 23701032, + "step": 12103 + }, + { + "epoch": 1.6042412193505633, + "grad_norm": 0.7334733009338379, + "learning_rate": 2.229244305381005e-06, + "loss": 0.0076, + "num_input_tokens_seen": 23702520, + "step": 12104 + }, + { + "epoch": 1.6043737574552683, + "grad_norm": 7.444337844848633, + "learning_rate": 2.228899212540896e-06, + "loss": 0.2234, + "num_input_tokens_seen": 23704664, + "step": 12105 + }, + { + "epoch": 1.6045062955599736, + "grad_norm": 0.06223238632082939, + "learning_rate": 2.2285541249277973e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23706016, + "step": 12106 + }, + { + "epoch": 1.6046388336646786, + "grad_norm": 12.7566556930542, + "learning_rate": 2.228209042548363e-06, + "loss": 0.2054, + "num_input_tokens_seen": 23708592, + "step": 12107 + }, + { + "epoch": 1.6047713717693837, + "grad_norm": 0.07718707621097565, + "learning_rate": 2.2278639654092456e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23710488, + "step": 12108 + }, + { + "epoch": 1.6049039098740887, + "grad_norm": 4.496670722961426, + "learning_rate": 2.227518893517099e-06, + "loss": 0.1394, + "num_input_tokens_seen": 23712448, + "step": 12109 + }, + { + "epoch": 1.6050364479787937, + "grad_norm": 12.513678550720215, + "learning_rate": 2.227173826878575e-06, + "loss": 0.1975, + "num_input_tokens_seen": 23714136, + "step": 12110 + }, + { + "epoch": 1.605168986083499, + "grad_norm": 12.951325416564941, + "learning_rate": 2.226828765500329e-06, + "loss": 0.3007, + "num_input_tokens_seen": 23716624, + "step": 12111 + }, + { + "epoch": 1.6053015241882043, + "grad_norm": 7.823023796081543, + "learning_rate": 2.226483709389012e-06, + "loss": 0.0918, + "num_input_tokens_seen": 23718376, + "step": 12112 + }, + { + "epoch": 1.6054340622929093, + "grad_norm": 6.269279479980469, + "learning_rate": 2.2261386585512787e-06, + "loss": 0.135, + "num_input_tokens_seen": 23720416, + "step": 12113 + }, + { + "epoch": 1.6055666003976143, + "grad_norm": 8.583213806152344, + "learning_rate": 2.2257936129937806e-06, + "loss": 0.2076, + "num_input_tokens_seen": 23723056, + "step": 12114 + }, + { + "epoch": 1.6056991385023194, + "grad_norm": 5.151157379150391, + "learning_rate": 2.225448572723171e-06, + "loss": 0.1087, + "num_input_tokens_seen": 23724376, + "step": 12115 + }, + { + "epoch": 1.6058316766070244, + "grad_norm": 4.307162761688232, + "learning_rate": 2.2251035377461015e-06, + "loss": 0.041, + "num_input_tokens_seen": 23725952, + "step": 12116 + }, + { + "epoch": 1.6059642147117297, + "grad_norm": 3.728837251663208, + "learning_rate": 2.224758508069226e-06, + "loss": 0.0468, + "num_input_tokens_seen": 23727456, + "step": 12117 + }, + { + "epoch": 1.6060967528164347, + "grad_norm": 0.5464895367622375, + "learning_rate": 2.224413483699196e-06, + "loss": 0.0043, + "num_input_tokens_seen": 23729256, + "step": 12118 + }, + { + "epoch": 1.60622929092114, + "grad_norm": 4.899016857147217, + "learning_rate": 2.224068464642665e-06, + "loss": 0.0786, + "num_input_tokens_seen": 23732024, + "step": 12119 + }, + { + "epoch": 1.606361829025845, + "grad_norm": 14.704739570617676, + "learning_rate": 2.223723450906284e-06, + "loss": 0.6352, + "num_input_tokens_seen": 23735016, + "step": 12120 + }, + { + "epoch": 1.60649436713055, + "grad_norm": 9.16898250579834, + "learning_rate": 2.2233784424967045e-06, + "loss": 0.2791, + "num_input_tokens_seen": 23736784, + "step": 12121 + }, + { + "epoch": 1.606626905235255, + "grad_norm": 2.2359039783477783, + "learning_rate": 2.2230334394205807e-06, + "loss": 0.0458, + "num_input_tokens_seen": 23738264, + "step": 12122 + }, + { + "epoch": 1.6067594433399601, + "grad_norm": 0.3673429787158966, + "learning_rate": 2.2226884416845625e-06, + "loss": 0.0048, + "num_input_tokens_seen": 23739744, + "step": 12123 + }, + { + "epoch": 1.6068919814446654, + "grad_norm": 7.755154609680176, + "learning_rate": 2.222343449295303e-06, + "loss": 0.1323, + "num_input_tokens_seen": 23742312, + "step": 12124 + }, + { + "epoch": 1.6070245195493704, + "grad_norm": 6.227529048919678, + "learning_rate": 2.2219984622594536e-06, + "loss": 0.1242, + "num_input_tokens_seen": 23744384, + "step": 12125 + }, + { + "epoch": 1.6071570576540757, + "grad_norm": 0.8258019089698792, + "learning_rate": 2.2216534805836642e-06, + "loss": 0.004, + "num_input_tokens_seen": 23747992, + "step": 12126 + }, + { + "epoch": 1.6072895957587807, + "grad_norm": 12.757667541503906, + "learning_rate": 2.2213085042745888e-06, + "loss": 0.2904, + "num_input_tokens_seen": 23750440, + "step": 12127 + }, + { + "epoch": 1.6074221338634858, + "grad_norm": 11.85292911529541, + "learning_rate": 2.2209635333388777e-06, + "loss": 0.202, + "num_input_tokens_seen": 23752408, + "step": 12128 + }, + { + "epoch": 1.6075546719681908, + "grad_norm": 0.10564951598644257, + "learning_rate": 2.220618567783182e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23753760, + "step": 12129 + }, + { + "epoch": 1.6076872100728958, + "grad_norm": 7.963826656341553, + "learning_rate": 2.2202736076141533e-06, + "loss": 0.1918, + "num_input_tokens_seen": 23755616, + "step": 12130 + }, + { + "epoch": 1.607819748177601, + "grad_norm": 4.999587059020996, + "learning_rate": 2.2199286528384414e-06, + "loss": 0.0739, + "num_input_tokens_seen": 23757544, + "step": 12131 + }, + { + "epoch": 1.6079522862823061, + "grad_norm": 7.816965579986572, + "learning_rate": 2.2195837034626995e-06, + "loss": 0.1504, + "num_input_tokens_seen": 23759440, + "step": 12132 + }, + { + "epoch": 1.6080848243870114, + "grad_norm": 8.595309257507324, + "learning_rate": 2.219238759493577e-06, + "loss": 0.14, + "num_input_tokens_seen": 23761608, + "step": 12133 + }, + { + "epoch": 1.6082173624917164, + "grad_norm": 6.3340535163879395, + "learning_rate": 2.218893820937725e-06, + "loss": 0.0514, + "num_input_tokens_seen": 23763184, + "step": 12134 + }, + { + "epoch": 1.6083499005964215, + "grad_norm": 0.1750938892364502, + "learning_rate": 2.2185488878017934e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23765240, + "step": 12135 + }, + { + "epoch": 1.6084824387011265, + "grad_norm": 1.368272304534912, + "learning_rate": 2.218203960092433e-06, + "loss": 0.0114, + "num_input_tokens_seen": 23766736, + "step": 12136 + }, + { + "epoch": 1.6086149768058315, + "grad_norm": 0.23667441308498383, + "learning_rate": 2.2178590378162957e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23768176, + "step": 12137 + }, + { + "epoch": 1.6087475149105368, + "grad_norm": 1.089863896369934, + "learning_rate": 2.2175141209800306e-06, + "loss": 0.0076, + "num_input_tokens_seen": 23770864, + "step": 12138 + }, + { + "epoch": 1.6088800530152418, + "grad_norm": 4.311971664428711, + "learning_rate": 2.2171692095902885e-06, + "loss": 0.0177, + "num_input_tokens_seen": 23772016, + "step": 12139 + }, + { + "epoch": 1.609012591119947, + "grad_norm": 2.144955635070801, + "learning_rate": 2.216824303653719e-06, + "loss": 0.0117, + "num_input_tokens_seen": 23773832, + "step": 12140 + }, + { + "epoch": 1.6091451292246521, + "grad_norm": 0.579552173614502, + "learning_rate": 2.2164794031769717e-06, + "loss": 0.004, + "num_input_tokens_seen": 23775696, + "step": 12141 + }, + { + "epoch": 1.6092776673293572, + "grad_norm": 7.876455307006836, + "learning_rate": 2.216134508166697e-06, + "loss": 0.191, + "num_input_tokens_seen": 23777464, + "step": 12142 + }, + { + "epoch": 1.6094102054340622, + "grad_norm": 1.7364652156829834, + "learning_rate": 2.2157896186295452e-06, + "loss": 0.0105, + "num_input_tokens_seen": 23779600, + "step": 12143 + }, + { + "epoch": 1.6095427435387673, + "grad_norm": 2.3677937984466553, + "learning_rate": 2.2154447345721655e-06, + "loss": 0.0159, + "num_input_tokens_seen": 23780688, + "step": 12144 + }, + { + "epoch": 1.6096752816434725, + "grad_norm": 8.735386848449707, + "learning_rate": 2.2150998560012084e-06, + "loss": 0.0724, + "num_input_tokens_seen": 23782728, + "step": 12145 + }, + { + "epoch": 1.6098078197481775, + "grad_norm": 0.06201193109154701, + "learning_rate": 2.214754982923322e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23784336, + "step": 12146 + }, + { + "epoch": 1.6099403578528828, + "grad_norm": 8.60351276397705, + "learning_rate": 2.2144101153451556e-06, + "loss": 0.154, + "num_input_tokens_seen": 23786096, + "step": 12147 + }, + { + "epoch": 1.6100728959575878, + "grad_norm": 12.183140754699707, + "learning_rate": 2.2140652532733597e-06, + "loss": 0.1779, + "num_input_tokens_seen": 23787728, + "step": 12148 + }, + { + "epoch": 1.6102054340622929, + "grad_norm": 0.7764325141906738, + "learning_rate": 2.2137203967145836e-06, + "loss": 0.0133, + "num_input_tokens_seen": 23789120, + "step": 12149 + }, + { + "epoch": 1.610337972166998, + "grad_norm": 0.46567386388778687, + "learning_rate": 2.2133755456754753e-06, + "loss": 0.0022, + "num_input_tokens_seen": 23790624, + "step": 12150 + }, + { + "epoch": 1.610470510271703, + "grad_norm": 0.22973310947418213, + "learning_rate": 2.2130307001626843e-06, + "loss": 0.0016, + "num_input_tokens_seen": 23792976, + "step": 12151 + }, + { + "epoch": 1.6106030483764082, + "grad_norm": 5.251440048217773, + "learning_rate": 2.2126858601828587e-06, + "loss": 0.0812, + "num_input_tokens_seen": 23795824, + "step": 12152 + }, + { + "epoch": 1.6107355864811135, + "grad_norm": 0.01834111474454403, + "learning_rate": 2.2123410257426485e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23797272, + "step": 12153 + }, + { + "epoch": 1.6108681245858185, + "grad_norm": 2.3947370052337646, + "learning_rate": 2.211996196848702e-06, + "loss": 0.0113, + "num_input_tokens_seen": 23799352, + "step": 12154 + }, + { + "epoch": 1.6110006626905236, + "grad_norm": 12.605746269226074, + "learning_rate": 2.2116513735076675e-06, + "loss": 0.2007, + "num_input_tokens_seen": 23801032, + "step": 12155 + }, + { + "epoch": 1.6111332007952286, + "grad_norm": 0.2836482524871826, + "learning_rate": 2.211306555726193e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23803352, + "step": 12156 + }, + { + "epoch": 1.6112657388999336, + "grad_norm": 11.056133270263672, + "learning_rate": 2.210961743510927e-06, + "loss": 0.2395, + "num_input_tokens_seen": 23805064, + "step": 12157 + }, + { + "epoch": 1.6113982770046387, + "grad_norm": 4.949639320373535, + "learning_rate": 2.210616936868519e-06, + "loss": 0.0773, + "num_input_tokens_seen": 23806920, + "step": 12158 + }, + { + "epoch": 1.611530815109344, + "grad_norm": 1.883800745010376, + "learning_rate": 2.2102721358056152e-06, + "loss": 0.021, + "num_input_tokens_seen": 23808608, + "step": 12159 + }, + { + "epoch": 1.6116633532140492, + "grad_norm": 23.483491897583008, + "learning_rate": 2.209927340328865e-06, + "loss": 0.496, + "num_input_tokens_seen": 23810704, + "step": 12160 + }, + { + "epoch": 1.6117958913187542, + "grad_norm": 8.260041236877441, + "learning_rate": 2.2095825504449155e-06, + "loss": 0.1199, + "num_input_tokens_seen": 23812280, + "step": 12161 + }, + { + "epoch": 1.6119284294234593, + "grad_norm": 8.29055118560791, + "learning_rate": 2.209237766160414e-06, + "loss": 0.2075, + "num_input_tokens_seen": 23814520, + "step": 12162 + }, + { + "epoch": 1.6120609675281643, + "grad_norm": 5.005826950073242, + "learning_rate": 2.2088929874820103e-06, + "loss": 0.1284, + "num_input_tokens_seen": 23818256, + "step": 12163 + }, + { + "epoch": 1.6121935056328693, + "grad_norm": 1.2379045486450195, + "learning_rate": 2.2085482144163505e-06, + "loss": 0.0143, + "num_input_tokens_seen": 23820704, + "step": 12164 + }, + { + "epoch": 1.6123260437375746, + "grad_norm": 7.655517578125, + "learning_rate": 2.2082034469700817e-06, + "loss": 0.0894, + "num_input_tokens_seen": 23822448, + "step": 12165 + }, + { + "epoch": 1.6124585818422796, + "grad_norm": 7.961968421936035, + "learning_rate": 2.2078586851498524e-06, + "loss": 0.1259, + "num_input_tokens_seen": 23824072, + "step": 12166 + }, + { + "epoch": 1.612591119946985, + "grad_norm": 6.188247203826904, + "learning_rate": 2.207513928962308e-06, + "loss": 0.1398, + "num_input_tokens_seen": 23825456, + "step": 12167 + }, + { + "epoch": 1.61272365805169, + "grad_norm": 9.647710800170898, + "learning_rate": 2.2071691784140975e-06, + "loss": 0.1544, + "num_input_tokens_seen": 23828104, + "step": 12168 + }, + { + "epoch": 1.612856196156395, + "grad_norm": 0.005271644797176123, + "learning_rate": 2.2068244335118673e-06, + "loss": 0.0, + "num_input_tokens_seen": 23829312, + "step": 12169 + }, + { + "epoch": 1.6129887342611, + "grad_norm": 1.428570032119751, + "learning_rate": 2.206479694262265e-06, + "loss": 0.0133, + "num_input_tokens_seen": 23831008, + "step": 12170 + }, + { + "epoch": 1.613121272365805, + "grad_norm": 0.07478219270706177, + "learning_rate": 2.2061349606719357e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23832640, + "step": 12171 + }, + { + "epoch": 1.6132538104705103, + "grad_norm": 2.7547760009765625, + "learning_rate": 2.2057902327475276e-06, + "loss": 0.0397, + "num_input_tokens_seen": 23834736, + "step": 12172 + }, + { + "epoch": 1.6133863485752153, + "grad_norm": 0.0428653322160244, + "learning_rate": 2.2054455104956856e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23836536, + "step": 12173 + }, + { + "epoch": 1.6135188866799206, + "grad_norm": 8.600788116455078, + "learning_rate": 2.2051007939230585e-06, + "loss": 0.1556, + "num_input_tokens_seen": 23838424, + "step": 12174 + }, + { + "epoch": 1.6136514247846256, + "grad_norm": 11.870600700378418, + "learning_rate": 2.2047560830362916e-06, + "loss": 0.3106, + "num_input_tokens_seen": 23840848, + "step": 12175 + }, + { + "epoch": 1.6137839628893307, + "grad_norm": 0.012344558723270893, + "learning_rate": 2.2044113778420305e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23843888, + "step": 12176 + }, + { + "epoch": 1.6139165009940357, + "grad_norm": 7.462380886077881, + "learning_rate": 2.2040666783469225e-06, + "loss": 0.1157, + "num_input_tokens_seen": 23846312, + "step": 12177 + }, + { + "epoch": 1.6140490390987408, + "grad_norm": 0.04515473544597626, + "learning_rate": 2.2037219845576123e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23849448, + "step": 12178 + }, + { + "epoch": 1.614181577203446, + "grad_norm": 3.505774974822998, + "learning_rate": 2.2033772964807477e-06, + "loss": 0.0557, + "num_input_tokens_seen": 23851440, + "step": 12179 + }, + { + "epoch": 1.614314115308151, + "grad_norm": 7.5861711502075195, + "learning_rate": 2.2030326141229725e-06, + "loss": 0.1633, + "num_input_tokens_seen": 23853912, + "step": 12180 + }, + { + "epoch": 1.6144466534128563, + "grad_norm": 0.038526929914951324, + "learning_rate": 2.2026879374909342e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23856944, + "step": 12181 + }, + { + "epoch": 1.6145791915175614, + "grad_norm": 0.11298848688602448, + "learning_rate": 2.202343266591277e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23858536, + "step": 12182 + }, + { + "epoch": 1.6147117296222664, + "grad_norm": 0.09078644961118698, + "learning_rate": 2.201998601430646e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23860280, + "step": 12183 + }, + { + "epoch": 1.6148442677269714, + "grad_norm": 0.14313864707946777, + "learning_rate": 2.201653942015689e-06, + "loss": 0.001, + "num_input_tokens_seen": 23862208, + "step": 12184 + }, + { + "epoch": 1.6149768058316765, + "grad_norm": 13.206945419311523, + "learning_rate": 2.2013092883530503e-06, + "loss": 0.2508, + "num_input_tokens_seen": 23864280, + "step": 12185 + }, + { + "epoch": 1.6151093439363817, + "grad_norm": 5.092008590698242, + "learning_rate": 2.2009646404493737e-06, + "loss": 0.0381, + "num_input_tokens_seen": 23865992, + "step": 12186 + }, + { + "epoch": 1.6152418820410868, + "grad_norm": 13.013864517211914, + "learning_rate": 2.2006199983113054e-06, + "loss": 0.267, + "num_input_tokens_seen": 23868304, + "step": 12187 + }, + { + "epoch": 1.615374420145792, + "grad_norm": 1.087438702583313, + "learning_rate": 2.2002753619454893e-06, + "loss": 0.0054, + "num_input_tokens_seen": 23869952, + "step": 12188 + }, + { + "epoch": 1.615506958250497, + "grad_norm": 4.52363395690918, + "learning_rate": 2.199930731358571e-06, + "loss": 0.0875, + "num_input_tokens_seen": 23871216, + "step": 12189 + }, + { + "epoch": 1.615639496355202, + "grad_norm": 6.581776142120361, + "learning_rate": 2.1995861065571964e-06, + "loss": 0.1426, + "num_input_tokens_seen": 23873200, + "step": 12190 + }, + { + "epoch": 1.6157720344599071, + "grad_norm": 3.655064344406128, + "learning_rate": 2.199241487548008e-06, + "loss": 0.0807, + "num_input_tokens_seen": 23874560, + "step": 12191 + }, + { + "epoch": 1.6159045725646122, + "grad_norm": 6.6377058029174805, + "learning_rate": 2.198896874337652e-06, + "loss": 0.0805, + "num_input_tokens_seen": 23876304, + "step": 12192 + }, + { + "epoch": 1.6160371106693174, + "grad_norm": 4.464651584625244, + "learning_rate": 2.1985522669327708e-06, + "loss": 0.0484, + "num_input_tokens_seen": 23878376, + "step": 12193 + }, + { + "epoch": 1.6161696487740227, + "grad_norm": 0.11952562630176544, + "learning_rate": 2.198207665340011e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23880416, + "step": 12194 + }, + { + "epoch": 1.6163021868787277, + "grad_norm": 0.012678629718720913, + "learning_rate": 2.197863069566015e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23881880, + "step": 12195 + }, + { + "epoch": 1.6164347249834328, + "grad_norm": 0.019663801416754723, + "learning_rate": 2.1975184796174277e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23883832, + "step": 12196 + }, + { + "epoch": 1.6165672630881378, + "grad_norm": 0.15596778690814972, + "learning_rate": 2.1971738955008923e-06, + "loss": 0.001, + "num_input_tokens_seen": 23885752, + "step": 12197 + }, + { + "epoch": 1.6166998011928428, + "grad_norm": 2.5241644382476807, + "learning_rate": 2.196829317223054e-06, + "loss": 0.0342, + "num_input_tokens_seen": 23887816, + "step": 12198 + }, + { + "epoch": 1.6168323392975479, + "grad_norm": 0.008277878165245056, + "learning_rate": 2.1964847447905543e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23889464, + "step": 12199 + }, + { + "epoch": 1.6169648774022531, + "grad_norm": 9.978988647460938, + "learning_rate": 2.196140178210039e-06, + "loss": 0.435, + "num_input_tokens_seen": 23892296, + "step": 12200 + }, + { + "epoch": 1.6170974155069584, + "grad_norm": 6.714853286743164, + "learning_rate": 2.1957956174881505e-06, + "loss": 0.1172, + "num_input_tokens_seen": 23894832, + "step": 12201 + }, + { + "epoch": 1.6172299536116634, + "grad_norm": 3.233020544052124, + "learning_rate": 2.1954510626315326e-06, + "loss": 0.0581, + "num_input_tokens_seen": 23897072, + "step": 12202 + }, + { + "epoch": 1.6173624917163685, + "grad_norm": 8.565999984741211, + "learning_rate": 2.195106513646828e-06, + "loss": 0.2356, + "num_input_tokens_seen": 23899080, + "step": 12203 + }, + { + "epoch": 1.6174950298210735, + "grad_norm": 6.642402648925781, + "learning_rate": 2.19476197054068e-06, + "loss": 0.1647, + "num_input_tokens_seen": 23900624, + "step": 12204 + }, + { + "epoch": 1.6176275679257786, + "grad_norm": 13.953596115112305, + "learning_rate": 2.194417433319732e-06, + "loss": 0.1595, + "num_input_tokens_seen": 23902296, + "step": 12205 + }, + { + "epoch": 1.6177601060304838, + "grad_norm": 5.78306245803833, + "learning_rate": 2.1940729019906268e-06, + "loss": 0.1342, + "num_input_tokens_seen": 23904304, + "step": 12206 + }, + { + "epoch": 1.6178926441351889, + "grad_norm": 2.6341352462768555, + "learning_rate": 2.1937283765600072e-06, + "loss": 0.0213, + "num_input_tokens_seen": 23905712, + "step": 12207 + }, + { + "epoch": 1.618025182239894, + "grad_norm": 5.214654922485352, + "learning_rate": 2.193383857034516e-06, + "loss": 0.1133, + "num_input_tokens_seen": 23907856, + "step": 12208 + }, + { + "epoch": 1.6181577203445991, + "grad_norm": 0.029744593426585197, + "learning_rate": 2.1930393434207946e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23909912, + "step": 12209 + }, + { + "epoch": 1.6182902584493042, + "grad_norm": 1.8159228563308716, + "learning_rate": 2.192694835725487e-06, + "loss": 0.0248, + "num_input_tokens_seen": 23911816, + "step": 12210 + }, + { + "epoch": 1.6184227965540092, + "grad_norm": 6.53033447265625, + "learning_rate": 2.192350333955235e-06, + "loss": 0.1269, + "num_input_tokens_seen": 23913992, + "step": 12211 + }, + { + "epoch": 1.6185553346587143, + "grad_norm": 4.488076210021973, + "learning_rate": 2.192005838116681e-06, + "loss": 0.0463, + "num_input_tokens_seen": 23915584, + "step": 12212 + }, + { + "epoch": 1.6186878727634195, + "grad_norm": 5.838597297668457, + "learning_rate": 2.1916613482164666e-06, + "loss": 0.1021, + "num_input_tokens_seen": 23917528, + "step": 12213 + }, + { + "epoch": 1.6188204108681246, + "grad_norm": 0.02485070936381817, + "learning_rate": 2.1913168642612337e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23919232, + "step": 12214 + }, + { + "epoch": 1.6189529489728298, + "grad_norm": 17.391239166259766, + "learning_rate": 2.190972386257625e-06, + "loss": 0.3862, + "num_input_tokens_seen": 23920912, + "step": 12215 + }, + { + "epoch": 1.6190854870775349, + "grad_norm": 7.286650657653809, + "learning_rate": 2.190627914212282e-06, + "loss": 0.1807, + "num_input_tokens_seen": 23922552, + "step": 12216 + }, + { + "epoch": 1.61921802518224, + "grad_norm": 6.92227029800415, + "learning_rate": 2.1902834481318467e-06, + "loss": 0.2654, + "num_input_tokens_seen": 23924512, + "step": 12217 + }, + { + "epoch": 1.619350563286945, + "grad_norm": 0.24118860065937042, + "learning_rate": 2.18993898802296e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23926144, + "step": 12218 + }, + { + "epoch": 1.61948310139165, + "grad_norm": 12.126229286193848, + "learning_rate": 2.189594533892262e-06, + "loss": 0.2976, + "num_input_tokens_seen": 23929144, + "step": 12219 + }, + { + "epoch": 1.6196156394963552, + "grad_norm": 0.032377004623413086, + "learning_rate": 2.1892500857463974e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23930672, + "step": 12220 + }, + { + "epoch": 1.6197481776010603, + "grad_norm": 8.433162689208984, + "learning_rate": 2.1889056435920046e-06, + "loss": 0.1365, + "num_input_tokens_seen": 23932264, + "step": 12221 + }, + { + "epoch": 1.6198807157057655, + "grad_norm": 0.03534359484910965, + "learning_rate": 2.188561207435726e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23934336, + "step": 12222 + }, + { + "epoch": 1.6200132538104706, + "grad_norm": 3.8081541061401367, + "learning_rate": 2.1882167772842027e-06, + "loss": 0.0628, + "num_input_tokens_seen": 23936576, + "step": 12223 + }, + { + "epoch": 1.6201457919151756, + "grad_norm": 1.4687366485595703, + "learning_rate": 2.1878723531440738e-06, + "loss": 0.0074, + "num_input_tokens_seen": 23938280, + "step": 12224 + }, + { + "epoch": 1.6202783300198806, + "grad_norm": 8.705544471740723, + "learning_rate": 2.187527935021982e-06, + "loss": 0.1004, + "num_input_tokens_seen": 23940592, + "step": 12225 + }, + { + "epoch": 1.6204108681245857, + "grad_norm": 0.34899553656578064, + "learning_rate": 2.187183522924567e-06, + "loss": 0.0037, + "num_input_tokens_seen": 23941984, + "step": 12226 + }, + { + "epoch": 1.620543406229291, + "grad_norm": 3.563113212585449, + "learning_rate": 2.186839116858469e-06, + "loss": 0.0335, + "num_input_tokens_seen": 23943344, + "step": 12227 + }, + { + "epoch": 1.620675944333996, + "grad_norm": 5.219413757324219, + "learning_rate": 2.18649471683033e-06, + "loss": 0.0732, + "num_input_tokens_seen": 23945536, + "step": 12228 + }, + { + "epoch": 1.6208084824387012, + "grad_norm": 10.912976264953613, + "learning_rate": 2.1861503228467885e-06, + "loss": 0.2006, + "num_input_tokens_seen": 23947432, + "step": 12229 + }, + { + "epoch": 1.6209410205434063, + "grad_norm": 3.9802210330963135, + "learning_rate": 2.1858059349144843e-06, + "loss": 0.0851, + "num_input_tokens_seen": 23948736, + "step": 12230 + }, + { + "epoch": 1.6210735586481113, + "grad_norm": 14.880814552307129, + "learning_rate": 2.18546155304006e-06, + "loss": 0.3055, + "num_input_tokens_seen": 23952544, + "step": 12231 + }, + { + "epoch": 1.6212060967528164, + "grad_norm": 0.0526886023581028, + "learning_rate": 2.1851171772301537e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23954512, + "step": 12232 + }, + { + "epoch": 1.6213386348575214, + "grad_norm": 5.47169828414917, + "learning_rate": 2.184772807491405e-06, + "loss": 0.1453, + "num_input_tokens_seen": 23956168, + "step": 12233 + }, + { + "epoch": 1.6214711729622266, + "grad_norm": 2.564249277114868, + "learning_rate": 2.184428443830454e-06, + "loss": 0.0151, + "num_input_tokens_seen": 23957664, + "step": 12234 + }, + { + "epoch": 1.621603711066932, + "grad_norm": 7.02336311340332, + "learning_rate": 2.18408408625394e-06, + "loss": 0.1008, + "num_input_tokens_seen": 23959528, + "step": 12235 + }, + { + "epoch": 1.621736249171637, + "grad_norm": 8.289192199707031, + "learning_rate": 2.183739734768503e-06, + "loss": 0.1961, + "num_input_tokens_seen": 23961576, + "step": 12236 + }, + { + "epoch": 1.621868787276342, + "grad_norm": 0.15752029418945312, + "learning_rate": 2.1833953893807826e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23963936, + "step": 12237 + }, + { + "epoch": 1.622001325381047, + "grad_norm": 0.18260298669338226, + "learning_rate": 2.1830510500974177e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23965464, + "step": 12238 + }, + { + "epoch": 1.622133863485752, + "grad_norm": 0.16990914940834045, + "learning_rate": 2.1827067169250465e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23967896, + "step": 12239 + }, + { + "epoch": 1.622266401590457, + "grad_norm": 0.07923067361116409, + "learning_rate": 2.182362389870308e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23970672, + "step": 12240 + }, + { + "epoch": 1.6223989396951624, + "grad_norm": 1.2383215427398682, + "learning_rate": 2.182018068939843e-06, + "loss": 0.0141, + "num_input_tokens_seen": 23972768, + "step": 12241 + }, + { + "epoch": 1.6225314777998676, + "grad_norm": 0.6879251599311829, + "learning_rate": 2.1816737541402887e-06, + "loss": 0.0085, + "num_input_tokens_seen": 23974632, + "step": 12242 + }, + { + "epoch": 1.6226640159045727, + "grad_norm": 4.832513809204102, + "learning_rate": 2.181329445478284e-06, + "loss": 0.0117, + "num_input_tokens_seen": 23977688, + "step": 12243 + }, + { + "epoch": 1.6227965540092777, + "grad_norm": 13.807974815368652, + "learning_rate": 2.1809851429604672e-06, + "loss": 0.3925, + "num_input_tokens_seen": 23980712, + "step": 12244 + }, + { + "epoch": 1.6229290921139827, + "grad_norm": 30.697736740112305, + "learning_rate": 2.1806408465934763e-06, + "loss": 0.2709, + "num_input_tokens_seen": 23983464, + "step": 12245 + }, + { + "epoch": 1.6230616302186878, + "grad_norm": 0.31796765327453613, + "learning_rate": 2.1802965563839515e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23985040, + "step": 12246 + }, + { + "epoch": 1.623194168323393, + "grad_norm": 10.966869354248047, + "learning_rate": 2.17995227233853e-06, + "loss": 0.0759, + "num_input_tokens_seen": 23987336, + "step": 12247 + }, + { + "epoch": 1.623326706428098, + "grad_norm": 0.09356506168842316, + "learning_rate": 2.179607994463848e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23988584, + "step": 12248 + }, + { + "epoch": 1.6234592445328033, + "grad_norm": 10.212505340576172, + "learning_rate": 2.1792637227665457e-06, + "loss": 0.1459, + "num_input_tokens_seen": 23990616, + "step": 12249 + }, + { + "epoch": 1.6235917826375084, + "grad_norm": 7.387820243835449, + "learning_rate": 2.1789194572532592e-06, + "loss": 0.134, + "num_input_tokens_seen": 23992304, + "step": 12250 + }, + { + "epoch": 1.6237243207422134, + "grad_norm": 8.541766166687012, + "learning_rate": 2.178575197930628e-06, + "loss": 0.1404, + "num_input_tokens_seen": 23994072, + "step": 12251 + }, + { + "epoch": 1.6238568588469184, + "grad_norm": 7.629110813140869, + "learning_rate": 2.1782309448052884e-06, + "loss": 0.0681, + "num_input_tokens_seen": 23995712, + "step": 12252 + }, + { + "epoch": 1.6239893969516235, + "grad_norm": 1.5686620473861694, + "learning_rate": 2.1778866978838783e-06, + "loss": 0.0146, + "num_input_tokens_seen": 23997192, + "step": 12253 + }, + { + "epoch": 1.6241219350563287, + "grad_norm": 0.3828531503677368, + "learning_rate": 2.1775424571730354e-06, + "loss": 0.0025, + "num_input_tokens_seen": 23998744, + "step": 12254 + }, + { + "epoch": 1.6242544731610338, + "grad_norm": 0.7175197005271912, + "learning_rate": 2.177198222679396e-06, + "loss": 0.0054, + "num_input_tokens_seen": 24000152, + "step": 12255 + }, + { + "epoch": 1.624387011265739, + "grad_norm": 20.51130485534668, + "learning_rate": 2.176853994409597e-06, + "loss": 0.3362, + "num_input_tokens_seen": 24002440, + "step": 12256 + }, + { + "epoch": 1.624519549370444, + "grad_norm": 6.283359527587891, + "learning_rate": 2.176509772370276e-06, + "loss": 0.1029, + "num_input_tokens_seen": 24003672, + "step": 12257 + }, + { + "epoch": 1.624652087475149, + "grad_norm": 1.2910292148590088, + "learning_rate": 2.17616555656807e-06, + "loss": 0.0061, + "num_input_tokens_seen": 24005912, + "step": 12258 + }, + { + "epoch": 1.6247846255798541, + "grad_norm": 0.6718969345092773, + "learning_rate": 2.1758213470096155e-06, + "loss": 0.0058, + "num_input_tokens_seen": 24007584, + "step": 12259 + }, + { + "epoch": 1.6249171636845592, + "grad_norm": 2.3538734912872314, + "learning_rate": 2.1754771437015495e-06, + "loss": 0.0287, + "num_input_tokens_seen": 24010000, + "step": 12260 + }, + { + "epoch": 1.6250497017892644, + "grad_norm": 0.49122312664985657, + "learning_rate": 2.175132946650507e-06, + "loss": 0.0034, + "num_input_tokens_seen": 24011528, + "step": 12261 + }, + { + "epoch": 1.6251822398939695, + "grad_norm": 0.05257052555680275, + "learning_rate": 2.1747887558631265e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24013600, + "step": 12262 + }, + { + "epoch": 1.6253147779986747, + "grad_norm": 26.45469856262207, + "learning_rate": 2.174444571346042e-06, + "loss": 0.6719, + "num_input_tokens_seen": 24015488, + "step": 12263 + }, + { + "epoch": 1.6254473161033798, + "grad_norm": 0.13446345925331116, + "learning_rate": 2.174100393105892e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24017144, + "step": 12264 + }, + { + "epoch": 1.6255798542080848, + "grad_norm": 3.2098097801208496, + "learning_rate": 2.1737562211493105e-06, + "loss": 0.0454, + "num_input_tokens_seen": 24018296, + "step": 12265 + }, + { + "epoch": 1.6257123923127899, + "grad_norm": 6.359274387359619, + "learning_rate": 2.1734120554829337e-06, + "loss": 0.1989, + "num_input_tokens_seen": 24020728, + "step": 12266 + }, + { + "epoch": 1.625844930417495, + "grad_norm": 2.8993024826049805, + "learning_rate": 2.1730678961133987e-06, + "loss": 0.0459, + "num_input_tokens_seen": 24023336, + "step": 12267 + }, + { + "epoch": 1.6259774685222002, + "grad_norm": 5.659909248352051, + "learning_rate": 2.1727237430473396e-06, + "loss": 0.1446, + "num_input_tokens_seen": 24025200, + "step": 12268 + }, + { + "epoch": 1.6261100066269052, + "grad_norm": 0.09075940400362015, + "learning_rate": 2.172379596291393e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24027120, + "step": 12269 + }, + { + "epoch": 1.6262425447316105, + "grad_norm": 0.17071126401424408, + "learning_rate": 2.172035455852194e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24030344, + "step": 12270 + }, + { + "epoch": 1.6263750828363155, + "grad_norm": 5.186660289764404, + "learning_rate": 2.1716913217363766e-06, + "loss": 0.1196, + "num_input_tokens_seen": 24032856, + "step": 12271 + }, + { + "epoch": 1.6265076209410205, + "grad_norm": 5.331362247467041, + "learning_rate": 2.1713471939505775e-06, + "loss": 0.1713, + "num_input_tokens_seen": 24036096, + "step": 12272 + }, + { + "epoch": 1.6266401590457256, + "grad_norm": 7.923537731170654, + "learning_rate": 2.171003072501432e-06, + "loss": 0.1377, + "num_input_tokens_seen": 24038560, + "step": 12273 + }, + { + "epoch": 1.6267726971504306, + "grad_norm": 12.071828842163086, + "learning_rate": 2.170658957395573e-06, + "loss": 0.2007, + "num_input_tokens_seen": 24040656, + "step": 12274 + }, + { + "epoch": 1.6269052352551359, + "grad_norm": 0.035343680530786514, + "learning_rate": 2.1703148486396376e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24042904, + "step": 12275 + }, + { + "epoch": 1.627037773359841, + "grad_norm": 9.473772048950195, + "learning_rate": 2.169970746240258e-06, + "loss": 0.3479, + "num_input_tokens_seen": 24045128, + "step": 12276 + }, + { + "epoch": 1.6271703114645462, + "grad_norm": 4.2103118896484375, + "learning_rate": 2.1696266502040713e-06, + "loss": 0.0547, + "num_input_tokens_seen": 24048080, + "step": 12277 + }, + { + "epoch": 1.6273028495692512, + "grad_norm": 19.06356430053711, + "learning_rate": 2.16928256053771e-06, + "loss": 0.3067, + "num_input_tokens_seen": 24049984, + "step": 12278 + }, + { + "epoch": 1.6274353876739562, + "grad_norm": 0.35626089572906494, + "learning_rate": 2.16893847724781e-06, + "loss": 0.0043, + "num_input_tokens_seen": 24051648, + "step": 12279 + }, + { + "epoch": 1.6275679257786613, + "grad_norm": 7.960979461669922, + "learning_rate": 2.1685944003410035e-06, + "loss": 0.044, + "num_input_tokens_seen": 24054592, + "step": 12280 + }, + { + "epoch": 1.6277004638833663, + "grad_norm": 0.07624118775129318, + "learning_rate": 2.1682503298239257e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24056368, + "step": 12281 + }, + { + "epoch": 1.6278330019880716, + "grad_norm": 5.082423686981201, + "learning_rate": 2.167906265703211e-06, + "loss": 0.115, + "num_input_tokens_seen": 24059120, + "step": 12282 + }, + { + "epoch": 1.6279655400927768, + "grad_norm": 28.495990753173828, + "learning_rate": 2.1675622079854924e-06, + "loss": 0.5803, + "num_input_tokens_seen": 24062024, + "step": 12283 + }, + { + "epoch": 1.6280980781974819, + "grad_norm": 0.144692525267601, + "learning_rate": 2.167218156677404e-06, + "loss": 0.001, + "num_input_tokens_seen": 24063656, + "step": 12284 + }, + { + "epoch": 1.628230616302187, + "grad_norm": 1.1071245670318604, + "learning_rate": 2.166874111785579e-06, + "loss": 0.012, + "num_input_tokens_seen": 24065440, + "step": 12285 + }, + { + "epoch": 1.628363154406892, + "grad_norm": 0.02892206981778145, + "learning_rate": 2.1665300733166506e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24066680, + "step": 12286 + }, + { + "epoch": 1.628495692511597, + "grad_norm": 4.876189708709717, + "learning_rate": 2.166186041277252e-06, + "loss": 0.0769, + "num_input_tokens_seen": 24068312, + "step": 12287 + }, + { + "epoch": 1.6286282306163022, + "grad_norm": 7.852471828460693, + "learning_rate": 2.1658420156740177e-06, + "loss": 0.0848, + "num_input_tokens_seen": 24069776, + "step": 12288 + }, + { + "epoch": 1.6287607687210073, + "grad_norm": 0.21920527517795563, + "learning_rate": 2.1654979965135796e-06, + "loss": 0.0016, + "num_input_tokens_seen": 24071464, + "step": 12289 + }, + { + "epoch": 1.6288933068257125, + "grad_norm": 3.705523729324341, + "learning_rate": 2.165153983802571e-06, + "loss": 0.0533, + "num_input_tokens_seen": 24073136, + "step": 12290 + }, + { + "epoch": 1.6290258449304176, + "grad_norm": 5.551515102386475, + "learning_rate": 2.164809977547625e-06, + "loss": 0.2117, + "num_input_tokens_seen": 24074856, + "step": 12291 + }, + { + "epoch": 1.6291583830351226, + "grad_norm": 0.3352087140083313, + "learning_rate": 2.1644659777553725e-06, + "loss": 0.0019, + "num_input_tokens_seen": 24076616, + "step": 12292 + }, + { + "epoch": 1.6292909211398277, + "grad_norm": 5.349156856536865, + "learning_rate": 2.164121984432448e-06, + "loss": 0.1621, + "num_input_tokens_seen": 24078456, + "step": 12293 + }, + { + "epoch": 1.6294234592445327, + "grad_norm": 4.887638092041016, + "learning_rate": 2.163777997585484e-06, + "loss": 0.0452, + "num_input_tokens_seen": 24079584, + "step": 12294 + }, + { + "epoch": 1.629555997349238, + "grad_norm": 0.23635423183441162, + "learning_rate": 2.1634340172211115e-06, + "loss": 0.0017, + "num_input_tokens_seen": 24082256, + "step": 12295 + }, + { + "epoch": 1.629688535453943, + "grad_norm": 0.4234890043735504, + "learning_rate": 2.163090043345964e-06, + "loss": 0.0031, + "num_input_tokens_seen": 24084120, + "step": 12296 + }, + { + "epoch": 1.6298210735586482, + "grad_norm": 6.71112585067749, + "learning_rate": 2.1627460759666717e-06, + "loss": 0.1783, + "num_input_tokens_seen": 24086096, + "step": 12297 + }, + { + "epoch": 1.6299536116633533, + "grad_norm": 6.354191780090332, + "learning_rate": 2.1624021150898685e-06, + "loss": 0.1464, + "num_input_tokens_seen": 24088352, + "step": 12298 + }, + { + "epoch": 1.6300861497680583, + "grad_norm": 1.6057822704315186, + "learning_rate": 2.1620581607221857e-06, + "loss": 0.0617, + "num_input_tokens_seen": 24090280, + "step": 12299 + }, + { + "epoch": 1.6302186878727634, + "grad_norm": 3.694124460220337, + "learning_rate": 2.1617142128702547e-06, + "loss": 0.0817, + "num_input_tokens_seen": 24091992, + "step": 12300 + }, + { + "epoch": 1.6303512259774684, + "grad_norm": 5.845182418823242, + "learning_rate": 2.1613702715407065e-06, + "loss": 0.1298, + "num_input_tokens_seen": 24093856, + "step": 12301 + }, + { + "epoch": 1.6304837640821737, + "grad_norm": 2.443789482116699, + "learning_rate": 2.1610263367401725e-06, + "loss": 0.0239, + "num_input_tokens_seen": 24095496, + "step": 12302 + }, + { + "epoch": 1.6306163021868787, + "grad_norm": 1.5129685401916504, + "learning_rate": 2.160682408475286e-06, + "loss": 0.0175, + "num_input_tokens_seen": 24098032, + "step": 12303 + }, + { + "epoch": 1.630748840291584, + "grad_norm": 5.6132402420043945, + "learning_rate": 2.160338486752676e-06, + "loss": 0.0853, + "num_input_tokens_seen": 24100136, + "step": 12304 + }, + { + "epoch": 1.630881378396289, + "grad_norm": 7.386194229125977, + "learning_rate": 2.1599945715789745e-06, + "loss": 0.1064, + "num_input_tokens_seen": 24101976, + "step": 12305 + }, + { + "epoch": 1.631013916500994, + "grad_norm": 8.79554271697998, + "learning_rate": 2.159650662960812e-06, + "loss": 0.1146, + "num_input_tokens_seen": 24103120, + "step": 12306 + }, + { + "epoch": 1.631146454605699, + "grad_norm": 19.793752670288086, + "learning_rate": 2.159306760904819e-06, + "loss": 0.3015, + "num_input_tokens_seen": 24106056, + "step": 12307 + }, + { + "epoch": 1.631278992710404, + "grad_norm": 6.045555114746094, + "learning_rate": 2.1589628654176278e-06, + "loss": 0.2428, + "num_input_tokens_seen": 24109176, + "step": 12308 + }, + { + "epoch": 1.6314115308151094, + "grad_norm": 0.826233446598053, + "learning_rate": 2.1586189765058677e-06, + "loss": 0.0059, + "num_input_tokens_seen": 24111840, + "step": 12309 + }, + { + "epoch": 1.6315440689198144, + "grad_norm": 0.13360217213630676, + "learning_rate": 2.1582750941761687e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24113088, + "step": 12310 + }, + { + "epoch": 1.6316766070245197, + "grad_norm": 11.775442123413086, + "learning_rate": 2.1579312184351624e-06, + "loss": 0.2375, + "num_input_tokens_seen": 24114848, + "step": 12311 + }, + { + "epoch": 1.6318091451292247, + "grad_norm": 1.3531239032745361, + "learning_rate": 2.1575873492894774e-06, + "loss": 0.0175, + "num_input_tokens_seen": 24116712, + "step": 12312 + }, + { + "epoch": 1.6319416832339297, + "grad_norm": 5.879791259765625, + "learning_rate": 2.157243486745744e-06, + "loss": 0.0745, + "num_input_tokens_seen": 24118568, + "step": 12313 + }, + { + "epoch": 1.6320742213386348, + "grad_norm": 7.022495746612549, + "learning_rate": 2.1568996308105938e-06, + "loss": 0.1986, + "num_input_tokens_seen": 24120176, + "step": 12314 + }, + { + "epoch": 1.6322067594433398, + "grad_norm": 8.20421314239502, + "learning_rate": 2.156555781490655e-06, + "loss": 0.0805, + "num_input_tokens_seen": 24122256, + "step": 12315 + }, + { + "epoch": 1.632339297548045, + "grad_norm": 9.54566478729248, + "learning_rate": 2.156211938792558e-06, + "loss": 0.1411, + "num_input_tokens_seen": 24124856, + "step": 12316 + }, + { + "epoch": 1.6324718356527501, + "grad_norm": 0.2227516621351242, + "learning_rate": 2.1558681027229317e-06, + "loss": 0.0013, + "num_input_tokens_seen": 24126744, + "step": 12317 + }, + { + "epoch": 1.6326043737574554, + "grad_norm": 7.287049293518066, + "learning_rate": 2.155524273288405e-06, + "loss": 0.1283, + "num_input_tokens_seen": 24129032, + "step": 12318 + }, + { + "epoch": 1.6327369118621604, + "grad_norm": 5.9384846687316895, + "learning_rate": 2.1551804504956085e-06, + "loss": 0.1684, + "num_input_tokens_seen": 24130664, + "step": 12319 + }, + { + "epoch": 1.6328694499668654, + "grad_norm": 7.376380920410156, + "learning_rate": 2.1548366343511716e-06, + "loss": 0.1757, + "num_input_tokens_seen": 24133184, + "step": 12320 + }, + { + "epoch": 1.6330019880715705, + "grad_norm": 0.1165706068277359, + "learning_rate": 2.1544928248617214e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24134936, + "step": 12321 + }, + { + "epoch": 1.6331345261762755, + "grad_norm": 13.439699172973633, + "learning_rate": 2.154149022033889e-06, + "loss": 0.1369, + "num_input_tokens_seen": 24136848, + "step": 12322 + }, + { + "epoch": 1.6332670642809808, + "grad_norm": 8.839691162109375, + "learning_rate": 2.1538052258743005e-06, + "loss": 0.0795, + "num_input_tokens_seen": 24138272, + "step": 12323 + }, + { + "epoch": 1.633399602385686, + "grad_norm": 1.825400710105896, + "learning_rate": 2.1534614363895874e-06, + "loss": 0.0183, + "num_input_tokens_seen": 24140224, + "step": 12324 + }, + { + "epoch": 1.633532140490391, + "grad_norm": 6.865872383117676, + "learning_rate": 2.153117653586376e-06, + "loss": 0.1034, + "num_input_tokens_seen": 24142640, + "step": 12325 + }, + { + "epoch": 1.6336646785950961, + "grad_norm": 8.83198070526123, + "learning_rate": 2.1527738774712967e-06, + "loss": 0.1994, + "num_input_tokens_seen": 24144344, + "step": 12326 + }, + { + "epoch": 1.6337972166998012, + "grad_norm": 6.99372673034668, + "learning_rate": 2.1524301080509756e-06, + "loss": 0.0293, + "num_input_tokens_seen": 24145384, + "step": 12327 + }, + { + "epoch": 1.6339297548045062, + "grad_norm": 0.6056116223335266, + "learning_rate": 2.152086345332041e-06, + "loss": 0.0033, + "num_input_tokens_seen": 24146600, + "step": 12328 + }, + { + "epoch": 1.6340622929092112, + "grad_norm": 11.416797637939453, + "learning_rate": 2.1517425893211236e-06, + "loss": 0.22, + "num_input_tokens_seen": 24148160, + "step": 12329 + }, + { + "epoch": 1.6341948310139165, + "grad_norm": 11.116165161132812, + "learning_rate": 2.151398840024849e-06, + "loss": 0.1517, + "num_input_tokens_seen": 24149648, + "step": 12330 + }, + { + "epoch": 1.6343273691186218, + "grad_norm": 3.3952934741973877, + "learning_rate": 2.151055097449844e-06, + "loss": 0.0441, + "num_input_tokens_seen": 24151504, + "step": 12331 + }, + { + "epoch": 1.6344599072233268, + "grad_norm": 7.657194137573242, + "learning_rate": 2.150711361602739e-06, + "loss": 0.198, + "num_input_tokens_seen": 24154040, + "step": 12332 + }, + { + "epoch": 1.6345924453280318, + "grad_norm": 1.5254442691802979, + "learning_rate": 2.150367632490158e-06, + "loss": 0.026, + "num_input_tokens_seen": 24155176, + "step": 12333 + }, + { + "epoch": 1.6347249834327369, + "grad_norm": 0.15173156559467316, + "learning_rate": 2.1500239101187314e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24157424, + "step": 12334 + }, + { + "epoch": 1.634857521537442, + "grad_norm": 2.3594679832458496, + "learning_rate": 2.1496801944950855e-06, + "loss": 0.0433, + "num_input_tokens_seen": 24158968, + "step": 12335 + }, + { + "epoch": 1.6349900596421472, + "grad_norm": 2.927417039871216, + "learning_rate": 2.149336485625847e-06, + "loss": 0.0718, + "num_input_tokens_seen": 24160424, + "step": 12336 + }, + { + "epoch": 1.6351225977468522, + "grad_norm": 3.9697771072387695, + "learning_rate": 2.148992783517643e-06, + "loss": 0.0557, + "num_input_tokens_seen": 24162232, + "step": 12337 + }, + { + "epoch": 1.6352551358515575, + "grad_norm": 0.4772087037563324, + "learning_rate": 2.148649088177099e-06, + "loss": 0.003, + "num_input_tokens_seen": 24163720, + "step": 12338 + }, + { + "epoch": 1.6353876739562625, + "grad_norm": 2.2256126403808594, + "learning_rate": 2.148305399610844e-06, + "loss": 0.0521, + "num_input_tokens_seen": 24165072, + "step": 12339 + }, + { + "epoch": 1.6355202120609675, + "grad_norm": 6.883285045623779, + "learning_rate": 2.147961717825504e-06, + "loss": 0.1028, + "num_input_tokens_seen": 24167072, + "step": 12340 + }, + { + "epoch": 1.6356527501656726, + "grad_norm": 7.347526550292969, + "learning_rate": 2.1476180428277045e-06, + "loss": 0.0364, + "num_input_tokens_seen": 24168664, + "step": 12341 + }, + { + "epoch": 1.6357852882703776, + "grad_norm": 19.199338912963867, + "learning_rate": 2.147274374624072e-06, + "loss": 0.3157, + "num_input_tokens_seen": 24170224, + "step": 12342 + }, + { + "epoch": 1.6359178263750829, + "grad_norm": 0.31988224387168884, + "learning_rate": 2.1469307132212336e-06, + "loss": 0.0012, + "num_input_tokens_seen": 24171352, + "step": 12343 + }, + { + "epoch": 1.636050364479788, + "grad_norm": 12.273748397827148, + "learning_rate": 2.1465870586258135e-06, + "loss": 0.1871, + "num_input_tokens_seen": 24173720, + "step": 12344 + }, + { + "epoch": 1.6361829025844932, + "grad_norm": 0.056358467787504196, + "learning_rate": 2.1462434108444398e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24175416, + "step": 12345 + }, + { + "epoch": 1.6363154406891982, + "grad_norm": 9.270435333251953, + "learning_rate": 2.1458997698837366e-06, + "loss": 0.1235, + "num_input_tokens_seen": 24178592, + "step": 12346 + }, + { + "epoch": 1.6364479787939032, + "grad_norm": 0.17531076073646545, + "learning_rate": 2.1455561357503302e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24180328, + "step": 12347 + }, + { + "epoch": 1.6365805168986083, + "grad_norm": 4.468027114868164, + "learning_rate": 2.145212508450846e-06, + "loss": 0.041, + "num_input_tokens_seen": 24182408, + "step": 12348 + }, + { + "epoch": 1.6367130550033133, + "grad_norm": 3.5951788425445557, + "learning_rate": 2.144868887991909e-06, + "loss": 0.0793, + "num_input_tokens_seen": 24185992, + "step": 12349 + }, + { + "epoch": 1.6368455931080186, + "grad_norm": 3.487384557723999, + "learning_rate": 2.1445252743801454e-06, + "loss": 0.0386, + "num_input_tokens_seen": 24188120, + "step": 12350 + }, + { + "epoch": 1.6369781312127236, + "grad_norm": 4.123757839202881, + "learning_rate": 2.1441816676221794e-06, + "loss": 0.096, + "num_input_tokens_seen": 24190144, + "step": 12351 + }, + { + "epoch": 1.6371106693174289, + "grad_norm": 11.132966995239258, + "learning_rate": 2.143838067724637e-06, + "loss": 0.1793, + "num_input_tokens_seen": 24192624, + "step": 12352 + }, + { + "epoch": 1.637243207422134, + "grad_norm": 14.434907913208008, + "learning_rate": 2.143494474694142e-06, + "loss": 0.1034, + "num_input_tokens_seen": 24194280, + "step": 12353 + }, + { + "epoch": 1.637375745526839, + "grad_norm": 0.43844863772392273, + "learning_rate": 2.1431508885373185e-06, + "loss": 0.0047, + "num_input_tokens_seen": 24195656, + "step": 12354 + }, + { + "epoch": 1.637508283631544, + "grad_norm": 12.554174423217773, + "learning_rate": 2.1428073092607928e-06, + "loss": 0.0724, + "num_input_tokens_seen": 24197384, + "step": 12355 + }, + { + "epoch": 1.637640821736249, + "grad_norm": 0.11264834553003311, + "learning_rate": 2.142463736871189e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24199296, + "step": 12356 + }, + { + "epoch": 1.6377733598409543, + "grad_norm": 9.005589485168457, + "learning_rate": 2.1421201713751308e-06, + "loss": 0.13, + "num_input_tokens_seen": 24201184, + "step": 12357 + }, + { + "epoch": 1.6379058979456593, + "grad_norm": 0.09476404637098312, + "learning_rate": 2.1417766127792426e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24203032, + "step": 12358 + }, + { + "epoch": 1.6380384360503646, + "grad_norm": 12.026439666748047, + "learning_rate": 2.141433061090148e-06, + "loss": 0.0946, + "num_input_tokens_seen": 24204848, + "step": 12359 + }, + { + "epoch": 1.6381709741550696, + "grad_norm": 0.17411094903945923, + "learning_rate": 2.1410895163144714e-06, + "loss": 0.001, + "num_input_tokens_seen": 24207568, + "step": 12360 + }, + { + "epoch": 1.6383035122597747, + "grad_norm": 0.8784928917884827, + "learning_rate": 2.1407459784588367e-06, + "loss": 0.0096, + "num_input_tokens_seen": 24209088, + "step": 12361 + }, + { + "epoch": 1.6384360503644797, + "grad_norm": 13.599257469177246, + "learning_rate": 2.140402447529868e-06, + "loss": 0.117, + "num_input_tokens_seen": 24210904, + "step": 12362 + }, + { + "epoch": 1.6385685884691847, + "grad_norm": 5.713837623596191, + "learning_rate": 2.1400589235341875e-06, + "loss": 0.1008, + "num_input_tokens_seen": 24213800, + "step": 12363 + }, + { + "epoch": 1.63870112657389, + "grad_norm": 8.293967247009277, + "learning_rate": 2.139715406478419e-06, + "loss": 0.1466, + "num_input_tokens_seen": 24216280, + "step": 12364 + }, + { + "epoch": 1.6388336646785953, + "grad_norm": 9.258401870727539, + "learning_rate": 2.139371896369187e-06, + "loss": 0.1177, + "num_input_tokens_seen": 24218056, + "step": 12365 + }, + { + "epoch": 1.6389662027833003, + "grad_norm": 2.244084358215332, + "learning_rate": 2.1390283932131124e-06, + "loss": 0.022, + "num_input_tokens_seen": 24220208, + "step": 12366 + }, + { + "epoch": 1.6390987408880053, + "grad_norm": 7.87792444229126, + "learning_rate": 2.1386848970168205e-06, + "loss": 0.2475, + "num_input_tokens_seen": 24222096, + "step": 12367 + }, + { + "epoch": 1.6392312789927104, + "grad_norm": 12.761465072631836, + "learning_rate": 2.138341407786933e-06, + "loss": 0.2378, + "num_input_tokens_seen": 24224024, + "step": 12368 + }, + { + "epoch": 1.6393638170974154, + "grad_norm": 0.7186816334724426, + "learning_rate": 2.137997925530072e-06, + "loss": 0.0051, + "num_input_tokens_seen": 24226008, + "step": 12369 + }, + { + "epoch": 1.6394963552021204, + "grad_norm": 10.363210678100586, + "learning_rate": 2.13765445025286e-06, + "loss": 0.038, + "num_input_tokens_seen": 24227600, + "step": 12370 + }, + { + "epoch": 1.6396288933068257, + "grad_norm": 0.03165941312909126, + "learning_rate": 2.1373109819619217e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24228672, + "step": 12371 + }, + { + "epoch": 1.639761431411531, + "grad_norm": 6.504363536834717, + "learning_rate": 2.1369675206638773e-06, + "loss": 0.1623, + "num_input_tokens_seen": 24230032, + "step": 12372 + }, + { + "epoch": 1.639893969516236, + "grad_norm": 4.499556064605713, + "learning_rate": 2.1366240663653497e-06, + "loss": 0.0421, + "num_input_tokens_seen": 24232336, + "step": 12373 + }, + { + "epoch": 1.640026507620941, + "grad_norm": 6.130017280578613, + "learning_rate": 2.1362806190729603e-06, + "loss": 0.1673, + "num_input_tokens_seen": 24234024, + "step": 12374 + }, + { + "epoch": 1.640159045725646, + "grad_norm": 3.9800562858581543, + "learning_rate": 2.135937178793331e-06, + "loss": 0.0951, + "num_input_tokens_seen": 24235544, + "step": 12375 + }, + { + "epoch": 1.6402915838303511, + "grad_norm": 7.193431854248047, + "learning_rate": 2.1355937455330857e-06, + "loss": 0.1139, + "num_input_tokens_seen": 24237016, + "step": 12376 + }, + { + "epoch": 1.6404241219350564, + "grad_norm": 3.3577399253845215, + "learning_rate": 2.135250319298844e-06, + "loss": 0.0187, + "num_input_tokens_seen": 24239136, + "step": 12377 + }, + { + "epoch": 1.6405566600397614, + "grad_norm": 6.343914031982422, + "learning_rate": 2.134906900097227e-06, + "loss": 0.0498, + "num_input_tokens_seen": 24240192, + "step": 12378 + }, + { + "epoch": 1.6406891981444667, + "grad_norm": 9.846000671386719, + "learning_rate": 2.134563487934857e-06, + "loss": 0.1887, + "num_input_tokens_seen": 24243296, + "step": 12379 + }, + { + "epoch": 1.6408217362491717, + "grad_norm": 5.912119388580322, + "learning_rate": 2.134220082818355e-06, + "loss": 0.1, + "num_input_tokens_seen": 24245424, + "step": 12380 + }, + { + "epoch": 1.6409542743538768, + "grad_norm": 4.190807342529297, + "learning_rate": 2.133876684754342e-06, + "loss": 0.0566, + "num_input_tokens_seen": 24247392, + "step": 12381 + }, + { + "epoch": 1.6410868124585818, + "grad_norm": 9.9558687210083, + "learning_rate": 2.13353329374944e-06, + "loss": 0.1784, + "num_input_tokens_seen": 24249280, + "step": 12382 + }, + { + "epoch": 1.6412193505632868, + "grad_norm": 0.3515898287296295, + "learning_rate": 2.1331899098102686e-06, + "loss": 0.002, + "num_input_tokens_seen": 24251104, + "step": 12383 + }, + { + "epoch": 1.641351888667992, + "grad_norm": 0.014256564900279045, + "learning_rate": 2.1328465329434485e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24252408, + "step": 12384 + }, + { + "epoch": 1.6414844267726971, + "grad_norm": 0.18012477457523346, + "learning_rate": 2.1325031631555996e-06, + "loss": 0.0013, + "num_input_tokens_seen": 24254224, + "step": 12385 + }, + { + "epoch": 1.6416169648774024, + "grad_norm": 5.629945278167725, + "learning_rate": 2.1321598004533443e-06, + "loss": 0.0802, + "num_input_tokens_seen": 24255800, + "step": 12386 + }, + { + "epoch": 1.6417495029821074, + "grad_norm": 9.999616622924805, + "learning_rate": 2.1318164448433018e-06, + "loss": 0.3465, + "num_input_tokens_seen": 24257672, + "step": 12387 + }, + { + "epoch": 1.6418820410868125, + "grad_norm": 0.18788279592990875, + "learning_rate": 2.1314730963320925e-06, + "loss": 0.001, + "num_input_tokens_seen": 24259552, + "step": 12388 + }, + { + "epoch": 1.6420145791915175, + "grad_norm": 6.357253551483154, + "learning_rate": 2.1311297549263355e-06, + "loss": 0.0528, + "num_input_tokens_seen": 24261224, + "step": 12389 + }, + { + "epoch": 1.6421471172962225, + "grad_norm": 3.5071821212768555, + "learning_rate": 2.130786420632651e-06, + "loss": 0.0188, + "num_input_tokens_seen": 24263192, + "step": 12390 + }, + { + "epoch": 1.6422796554009278, + "grad_norm": 7.720834255218506, + "learning_rate": 2.13044309345766e-06, + "loss": 0.1576, + "num_input_tokens_seen": 24264952, + "step": 12391 + }, + { + "epoch": 1.6424121935056328, + "grad_norm": 6.238147258758545, + "learning_rate": 2.130099773407981e-06, + "loss": 0.1239, + "num_input_tokens_seen": 24267832, + "step": 12392 + }, + { + "epoch": 1.642544731610338, + "grad_norm": 0.023673150688409805, + "learning_rate": 2.1297564604902334e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24269312, + "step": 12393 + }, + { + "epoch": 1.6426772697150431, + "grad_norm": 0.4990113079547882, + "learning_rate": 2.1294131547110363e-06, + "loss": 0.0038, + "num_input_tokens_seen": 24271072, + "step": 12394 + }, + { + "epoch": 1.6428098078197482, + "grad_norm": 0.03196888044476509, + "learning_rate": 2.129069856077009e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24272472, + "step": 12395 + }, + { + "epoch": 1.6429423459244532, + "grad_norm": 8.538680076599121, + "learning_rate": 2.1287265645947707e-06, + "loss": 0.1396, + "num_input_tokens_seen": 24274544, + "step": 12396 + }, + { + "epoch": 1.6430748840291582, + "grad_norm": 7.695530414581299, + "learning_rate": 2.1283832802709414e-06, + "loss": 0.1951, + "num_input_tokens_seen": 24276512, + "step": 12397 + }, + { + "epoch": 1.6432074221338635, + "grad_norm": 1.4054946899414062, + "learning_rate": 2.128040003112139e-06, + "loss": 0.0108, + "num_input_tokens_seen": 24278720, + "step": 12398 + }, + { + "epoch": 1.6433399602385685, + "grad_norm": 14.260143280029297, + "learning_rate": 2.127696733124981e-06, + "loss": 0.3091, + "num_input_tokens_seen": 24280632, + "step": 12399 + }, + { + "epoch": 1.6434724983432738, + "grad_norm": 7.628549575805664, + "learning_rate": 2.1273534703160874e-06, + "loss": 0.1414, + "num_input_tokens_seen": 24281744, + "step": 12400 + }, + { + "epoch": 1.6436050364479788, + "grad_norm": 8.776350975036621, + "learning_rate": 2.1270102146920747e-06, + "loss": 0.1993, + "num_input_tokens_seen": 24284008, + "step": 12401 + }, + { + "epoch": 1.6437375745526839, + "grad_norm": 1.8708082437515259, + "learning_rate": 2.1266669662595632e-06, + "loss": 0.0248, + "num_input_tokens_seen": 24286040, + "step": 12402 + }, + { + "epoch": 1.643870112657389, + "grad_norm": 0.015483245253562927, + "learning_rate": 2.1263237250251707e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24287288, + "step": 12403 + }, + { + "epoch": 1.644002650762094, + "grad_norm": 5.133495330810547, + "learning_rate": 2.125980490995514e-06, + "loss": 0.0806, + "num_input_tokens_seen": 24288968, + "step": 12404 + }, + { + "epoch": 1.6441351888667992, + "grad_norm": 11.187590599060059, + "learning_rate": 2.1256372641772117e-06, + "loss": 0.277, + "num_input_tokens_seen": 24290904, + "step": 12405 + }, + { + "epoch": 1.6442677269715045, + "grad_norm": 2.577056407928467, + "learning_rate": 2.1252940445768805e-06, + "loss": 0.0568, + "num_input_tokens_seen": 24292912, + "step": 12406 + }, + { + "epoch": 1.6444002650762095, + "grad_norm": 8.951775550842285, + "learning_rate": 2.1249508322011393e-06, + "loss": 0.1215, + "num_input_tokens_seen": 24295152, + "step": 12407 + }, + { + "epoch": 1.6445328031809145, + "grad_norm": 0.013995311222970486, + "learning_rate": 2.1246076270566044e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24296504, + "step": 12408 + }, + { + "epoch": 1.6446653412856196, + "grad_norm": 3.754473924636841, + "learning_rate": 2.124264429149894e-06, + "loss": 0.0154, + "num_input_tokens_seen": 24298432, + "step": 12409 + }, + { + "epoch": 1.6447978793903246, + "grad_norm": 6.1042304039001465, + "learning_rate": 2.1239212384876244e-06, + "loss": 0.1446, + "num_input_tokens_seen": 24300640, + "step": 12410 + }, + { + "epoch": 1.6449304174950297, + "grad_norm": 0.02652362734079361, + "learning_rate": 2.1235780550764117e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24301912, + "step": 12411 + }, + { + "epoch": 1.645062955599735, + "grad_norm": 7.00295877456665, + "learning_rate": 2.123234878922875e-06, + "loss": 0.0957, + "num_input_tokens_seen": 24303784, + "step": 12412 + }, + { + "epoch": 1.6451954937044402, + "grad_norm": 14.329706192016602, + "learning_rate": 2.1228917100336296e-06, + "loss": 0.2623, + "num_input_tokens_seen": 24306552, + "step": 12413 + }, + { + "epoch": 1.6453280318091452, + "grad_norm": 0.5431999564170837, + "learning_rate": 2.1225485484152926e-06, + "loss": 0.0037, + "num_input_tokens_seen": 24309288, + "step": 12414 + }, + { + "epoch": 1.6454605699138503, + "grad_norm": 9.130784034729004, + "learning_rate": 2.1222053940744797e-06, + "loss": 0.0707, + "num_input_tokens_seen": 24311272, + "step": 12415 + }, + { + "epoch": 1.6455931080185553, + "grad_norm": 2.556790351867676, + "learning_rate": 2.1218622470178062e-06, + "loss": 0.0313, + "num_input_tokens_seen": 24313504, + "step": 12416 + }, + { + "epoch": 1.6457256461232603, + "grad_norm": 3.167233467102051, + "learning_rate": 2.1215191072518905e-06, + "loss": 0.0328, + "num_input_tokens_seen": 24315040, + "step": 12417 + }, + { + "epoch": 1.6458581842279656, + "grad_norm": 0.04148625209927559, + "learning_rate": 2.1211759747833475e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24316048, + "step": 12418 + }, + { + "epoch": 1.6459907223326706, + "grad_norm": 0.01683766581118107, + "learning_rate": 2.120832849618793e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24318232, + "step": 12419 + }, + { + "epoch": 1.646123260437376, + "grad_norm": 0.610998809337616, + "learning_rate": 2.120489731764843e-06, + "loss": 0.006, + "num_input_tokens_seen": 24320088, + "step": 12420 + }, + { + "epoch": 1.646255798542081, + "grad_norm": 3.4160635471343994, + "learning_rate": 2.1201466212281118e-06, + "loss": 0.0355, + "num_input_tokens_seen": 24322248, + "step": 12421 + }, + { + "epoch": 1.646388336646786, + "grad_norm": 8.202816009521484, + "learning_rate": 2.1198035180152172e-06, + "loss": 0.0805, + "num_input_tokens_seen": 24325024, + "step": 12422 + }, + { + "epoch": 1.646520874751491, + "grad_norm": 0.5978389382362366, + "learning_rate": 2.119460422132772e-06, + "loss": 0.0022, + "num_input_tokens_seen": 24327160, + "step": 12423 + }, + { + "epoch": 1.646653412856196, + "grad_norm": 0.4971310794353485, + "learning_rate": 2.119117333587393e-06, + "loss": 0.004, + "num_input_tokens_seen": 24328616, + "step": 12424 + }, + { + "epoch": 1.6467859509609013, + "grad_norm": 3.668064594268799, + "learning_rate": 2.118774252385694e-06, + "loss": 0.0109, + "num_input_tokens_seen": 24329984, + "step": 12425 + }, + { + "epoch": 1.6469184890656063, + "grad_norm": 2.643575429916382, + "learning_rate": 2.1184311785342916e-06, + "loss": 0.0419, + "num_input_tokens_seen": 24331664, + "step": 12426 + }, + { + "epoch": 1.6470510271703116, + "grad_norm": 3.39406418800354, + "learning_rate": 2.118088112039797e-06, + "loss": 0.1277, + "num_input_tokens_seen": 24333272, + "step": 12427 + }, + { + "epoch": 1.6471835652750166, + "grad_norm": 10.239912033081055, + "learning_rate": 2.1177450529088287e-06, + "loss": 0.2437, + "num_input_tokens_seen": 24334920, + "step": 12428 + }, + { + "epoch": 1.6473161033797217, + "grad_norm": 9.564484596252441, + "learning_rate": 2.1174020011479997e-06, + "loss": 0.148, + "num_input_tokens_seen": 24336496, + "step": 12429 + }, + { + "epoch": 1.6474486414844267, + "grad_norm": 6.252840995788574, + "learning_rate": 2.117058956763924e-06, + "loss": 0.1123, + "num_input_tokens_seen": 24339248, + "step": 12430 + }, + { + "epoch": 1.6475811795891318, + "grad_norm": 1.5266553163528442, + "learning_rate": 2.1167159197632155e-06, + "loss": 0.0113, + "num_input_tokens_seen": 24341096, + "step": 12431 + }, + { + "epoch": 1.647713717693837, + "grad_norm": 5.005025863647461, + "learning_rate": 2.1163728901524874e-06, + "loss": 0.0592, + "num_input_tokens_seen": 24343352, + "step": 12432 + }, + { + "epoch": 1.647846255798542, + "grad_norm": 9.23836612701416, + "learning_rate": 2.116029867938356e-06, + "loss": 0.2653, + "num_input_tokens_seen": 24345248, + "step": 12433 + }, + { + "epoch": 1.6479787939032473, + "grad_norm": 5.859608173370361, + "learning_rate": 2.115686853127433e-06, + "loss": 0.1058, + "num_input_tokens_seen": 24347312, + "step": 12434 + }, + { + "epoch": 1.6481113320079523, + "grad_norm": 0.11150187253952026, + "learning_rate": 2.1153438457263333e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24348384, + "step": 12435 + }, + { + "epoch": 1.6482438701126574, + "grad_norm": 8.661711692810059, + "learning_rate": 2.1150008457416697e-06, + "loss": 0.1311, + "num_input_tokens_seen": 24350000, + "step": 12436 + }, + { + "epoch": 1.6483764082173624, + "grad_norm": 0.07138270884752274, + "learning_rate": 2.114657853180054e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24351528, + "step": 12437 + }, + { + "epoch": 1.6485089463220675, + "grad_norm": 0.5834004878997803, + "learning_rate": 2.1143148680481013e-06, + "loss": 0.0037, + "num_input_tokens_seen": 24353728, + "step": 12438 + }, + { + "epoch": 1.6486414844267727, + "grad_norm": 11.578585624694824, + "learning_rate": 2.113971890352425e-06, + "loss": 0.3861, + "num_input_tokens_seen": 24356208, + "step": 12439 + }, + { + "epoch": 1.6487740225314778, + "grad_norm": 0.024569083005189896, + "learning_rate": 2.113628920099636e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24357792, + "step": 12440 + }, + { + "epoch": 1.648906560636183, + "grad_norm": 5.5889434814453125, + "learning_rate": 2.1132859572963484e-06, + "loss": 0.1011, + "num_input_tokens_seen": 24360120, + "step": 12441 + }, + { + "epoch": 1.649039098740888, + "grad_norm": 0.046275217086076736, + "learning_rate": 2.1129430019491734e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24362144, + "step": 12442 + }, + { + "epoch": 1.649171636845593, + "grad_norm": 2.100266695022583, + "learning_rate": 2.112600054064725e-06, + "loss": 0.0423, + "num_input_tokens_seen": 24364320, + "step": 12443 + }, + { + "epoch": 1.6493041749502981, + "grad_norm": 0.007969129830598831, + "learning_rate": 2.1122571136496152e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24365472, + "step": 12444 + }, + { + "epoch": 1.6494367130550032, + "grad_norm": 4.371706008911133, + "learning_rate": 2.111914180710456e-06, + "loss": 0.066, + "num_input_tokens_seen": 24367608, + "step": 12445 + }, + { + "epoch": 1.6495692511597084, + "grad_norm": 0.03658229857683182, + "learning_rate": 2.111571255253858e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24369040, + "step": 12446 + }, + { + "epoch": 1.6497017892644135, + "grad_norm": 13.418811798095703, + "learning_rate": 2.1112283372864343e-06, + "loss": 0.2112, + "num_input_tokens_seen": 24370424, + "step": 12447 + }, + { + "epoch": 1.6498343273691187, + "grad_norm": 3.0554769039154053, + "learning_rate": 2.1108854268147973e-06, + "loss": 0.0312, + "num_input_tokens_seen": 24372360, + "step": 12448 + }, + { + "epoch": 1.6499668654738238, + "grad_norm": 12.054802894592285, + "learning_rate": 2.1105425238455567e-06, + "loss": 0.3503, + "num_input_tokens_seen": 24374264, + "step": 12449 + }, + { + "epoch": 1.6500994035785288, + "grad_norm": 0.2724110782146454, + "learning_rate": 2.110199628385326e-06, + "loss": 0.0019, + "num_input_tokens_seen": 24376688, + "step": 12450 + }, + { + "epoch": 1.6502319416832338, + "grad_norm": 0.466886043548584, + "learning_rate": 2.1098567404407147e-06, + "loss": 0.0065, + "num_input_tokens_seen": 24378304, + "step": 12451 + }, + { + "epoch": 1.6503644797879389, + "grad_norm": 6.198694705963135, + "learning_rate": 2.1095138600183346e-06, + "loss": 0.1658, + "num_input_tokens_seen": 24380472, + "step": 12452 + }, + { + "epoch": 1.6504970178926441, + "grad_norm": 0.0294928140938282, + "learning_rate": 2.1091709871247967e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24381864, + "step": 12453 + }, + { + "epoch": 1.6506295559973494, + "grad_norm": 0.3923022150993347, + "learning_rate": 2.108828121766712e-06, + "loss": 0.0041, + "num_input_tokens_seen": 24384968, + "step": 12454 + }, + { + "epoch": 1.6507620941020544, + "grad_norm": 11.616300582885742, + "learning_rate": 2.108485263950691e-06, + "loss": 0.2926, + "num_input_tokens_seen": 24387480, + "step": 12455 + }, + { + "epoch": 1.6508946322067595, + "grad_norm": 1.1328603029251099, + "learning_rate": 2.1081424136833445e-06, + "loss": 0.0121, + "num_input_tokens_seen": 24389936, + "step": 12456 + }, + { + "epoch": 1.6510271703114645, + "grad_norm": 0.061572685837745667, + "learning_rate": 2.107799570971282e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24391624, + "step": 12457 + }, + { + "epoch": 1.6511597084161695, + "grad_norm": 0.021700914949178696, + "learning_rate": 2.1074567358211138e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24393856, + "step": 12458 + }, + { + "epoch": 1.6512922465208748, + "grad_norm": 0.034048426896333694, + "learning_rate": 2.1071139082394513e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24395576, + "step": 12459 + }, + { + "epoch": 1.6514247846255798, + "grad_norm": 3.639286994934082, + "learning_rate": 2.1067710882329045e-06, + "loss": 0.0542, + "num_input_tokens_seen": 24398848, + "step": 12460 + }, + { + "epoch": 1.651557322730285, + "grad_norm": 7.196837902069092, + "learning_rate": 2.1064282758080813e-06, + "loss": 0.1072, + "num_input_tokens_seen": 24399832, + "step": 12461 + }, + { + "epoch": 1.6516898608349901, + "grad_norm": 9.317455291748047, + "learning_rate": 2.1060854709715926e-06, + "loss": 0.2076, + "num_input_tokens_seen": 24401656, + "step": 12462 + }, + { + "epoch": 1.6518223989396952, + "grad_norm": 5.6045966148376465, + "learning_rate": 2.1057426737300472e-06, + "loss": 0.1836, + "num_input_tokens_seen": 24403688, + "step": 12463 + }, + { + "epoch": 1.6519549370444002, + "grad_norm": 5.364067077636719, + "learning_rate": 2.105399884090056e-06, + "loss": 0.1557, + "num_input_tokens_seen": 24405744, + "step": 12464 + }, + { + "epoch": 1.6520874751491053, + "grad_norm": 0.03390101343393326, + "learning_rate": 2.1050571020582267e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24407672, + "step": 12465 + }, + { + "epoch": 1.6522200132538105, + "grad_norm": 0.23934955894947052, + "learning_rate": 2.1047143276411696e-06, + "loss": 0.002, + "num_input_tokens_seen": 24410664, + "step": 12466 + }, + { + "epoch": 1.6523525513585156, + "grad_norm": 13.47858715057373, + "learning_rate": 2.1043715608454925e-06, + "loss": 0.3914, + "num_input_tokens_seen": 24412504, + "step": 12467 + }, + { + "epoch": 1.6524850894632208, + "grad_norm": 9.070810317993164, + "learning_rate": 2.104028801677804e-06, + "loss": 0.1937, + "num_input_tokens_seen": 24414632, + "step": 12468 + }, + { + "epoch": 1.6526176275679259, + "grad_norm": 0.33887800574302673, + "learning_rate": 2.1036860501447146e-06, + "loss": 0.0024, + "num_input_tokens_seen": 24416144, + "step": 12469 + }, + { + "epoch": 1.6527501656726309, + "grad_norm": 6.521589279174805, + "learning_rate": 2.103343306252831e-06, + "loss": 0.196, + "num_input_tokens_seen": 24419328, + "step": 12470 + }, + { + "epoch": 1.652882703777336, + "grad_norm": 9.708377838134766, + "learning_rate": 2.1030005700087623e-06, + "loss": 0.251, + "num_input_tokens_seen": 24421480, + "step": 12471 + }, + { + "epoch": 1.653015241882041, + "grad_norm": 0.0695500299334526, + "learning_rate": 2.1026578414191158e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24423504, + "step": 12472 + }, + { + "epoch": 1.6531477799867462, + "grad_norm": 0.27429261803627014, + "learning_rate": 2.1023151204905002e-06, + "loss": 0.0015, + "num_input_tokens_seen": 24425160, + "step": 12473 + }, + { + "epoch": 1.6532803180914513, + "grad_norm": 0.379561185836792, + "learning_rate": 2.1019724072295242e-06, + "loss": 0.0019, + "num_input_tokens_seen": 24427488, + "step": 12474 + }, + { + "epoch": 1.6534128561961565, + "grad_norm": 6.344111919403076, + "learning_rate": 2.101629701642795e-06, + "loss": 0.2113, + "num_input_tokens_seen": 24429328, + "step": 12475 + }, + { + "epoch": 1.6535453943008616, + "grad_norm": 5.661983966827393, + "learning_rate": 2.101287003736919e-06, + "loss": 0.2362, + "num_input_tokens_seen": 24431808, + "step": 12476 + }, + { + "epoch": 1.6536779324055666, + "grad_norm": 0.030649060383439064, + "learning_rate": 2.1009443135185055e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24433264, + "step": 12477 + }, + { + "epoch": 1.6538104705102716, + "grad_norm": 1.733249306678772, + "learning_rate": 2.10060163099416e-06, + "loss": 0.0183, + "num_input_tokens_seen": 24434544, + "step": 12478 + }, + { + "epoch": 1.6539430086149767, + "grad_norm": 14.427350044250488, + "learning_rate": 2.100258956170491e-06, + "loss": 0.2573, + "num_input_tokens_seen": 24436464, + "step": 12479 + }, + { + "epoch": 1.654075546719682, + "grad_norm": 4.297144889831543, + "learning_rate": 2.099916289054105e-06, + "loss": 0.0402, + "num_input_tokens_seen": 24439568, + "step": 12480 + }, + { + "epoch": 1.654208084824387, + "grad_norm": 7.878595352172852, + "learning_rate": 2.0995736296516095e-06, + "loss": 0.1424, + "num_input_tokens_seen": 24441384, + "step": 12481 + }, + { + "epoch": 1.6543406229290922, + "grad_norm": 5.498253345489502, + "learning_rate": 2.0992309779696107e-06, + "loss": 0.0533, + "num_input_tokens_seen": 24443880, + "step": 12482 + }, + { + "epoch": 1.6544731610337973, + "grad_norm": 0.5326500535011292, + "learning_rate": 2.0988883340147153e-06, + "loss": 0.005, + "num_input_tokens_seen": 24445688, + "step": 12483 + }, + { + "epoch": 1.6546056991385023, + "grad_norm": 13.26146125793457, + "learning_rate": 2.098545697793528e-06, + "loss": 0.1083, + "num_input_tokens_seen": 24447616, + "step": 12484 + }, + { + "epoch": 1.6547382372432073, + "grad_norm": 8.662447929382324, + "learning_rate": 2.0982030693126573e-06, + "loss": 0.1542, + "num_input_tokens_seen": 24450336, + "step": 12485 + }, + { + "epoch": 1.6548707753479124, + "grad_norm": 0.15563297271728516, + "learning_rate": 2.0978604485787094e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24453336, + "step": 12486 + }, + { + "epoch": 1.6550033134526176, + "grad_norm": 0.02556902915239334, + "learning_rate": 2.097517835598289e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24454760, + "step": 12487 + }, + { + "epoch": 1.6551358515573227, + "grad_norm": 3.9374892711639404, + "learning_rate": 2.0971752303780026e-06, + "loss": 0.1021, + "num_input_tokens_seen": 24456824, + "step": 12488 + }, + { + "epoch": 1.655268389662028, + "grad_norm": 0.982703447341919, + "learning_rate": 2.0968326329244545e-06, + "loss": 0.0086, + "num_input_tokens_seen": 24458912, + "step": 12489 + }, + { + "epoch": 1.655400927766733, + "grad_norm": 15.71157455444336, + "learning_rate": 2.0964900432442527e-06, + "loss": 0.2874, + "num_input_tokens_seen": 24461336, + "step": 12490 + }, + { + "epoch": 1.655533465871438, + "grad_norm": 5.574721336364746, + "learning_rate": 2.0961474613440007e-06, + "loss": 0.0692, + "num_input_tokens_seen": 24463768, + "step": 12491 + }, + { + "epoch": 1.655666003976143, + "grad_norm": 9.55152416229248, + "learning_rate": 2.0958048872303044e-06, + "loss": 0.2041, + "num_input_tokens_seen": 24465600, + "step": 12492 + }, + { + "epoch": 1.655798542080848, + "grad_norm": 13.484582901000977, + "learning_rate": 2.0954623209097687e-06, + "loss": 0.3454, + "num_input_tokens_seen": 24467320, + "step": 12493 + }, + { + "epoch": 1.6559310801855534, + "grad_norm": 3.6844241619110107, + "learning_rate": 2.0951197623889977e-06, + "loss": 0.0194, + "num_input_tokens_seen": 24469040, + "step": 12494 + }, + { + "epoch": 1.6560636182902586, + "grad_norm": 3.451279878616333, + "learning_rate": 2.094777211674598e-06, + "loss": 0.0445, + "num_input_tokens_seen": 24470736, + "step": 12495 + }, + { + "epoch": 1.6561961563949636, + "grad_norm": 7.777037620544434, + "learning_rate": 2.0944346687731727e-06, + "loss": 0.1592, + "num_input_tokens_seen": 24472576, + "step": 12496 + }, + { + "epoch": 1.6563286944996687, + "grad_norm": 3.831416368484497, + "learning_rate": 2.0940921336913277e-06, + "loss": 0.0395, + "num_input_tokens_seen": 24474160, + "step": 12497 + }, + { + "epoch": 1.6564612326043737, + "grad_norm": 6.333034992218018, + "learning_rate": 2.093749606435666e-06, + "loss": 0.1267, + "num_input_tokens_seen": 24475992, + "step": 12498 + }, + { + "epoch": 1.6565937707090788, + "grad_norm": 3.566476345062256, + "learning_rate": 2.093407087012791e-06, + "loss": 0.037, + "num_input_tokens_seen": 24478568, + "step": 12499 + }, + { + "epoch": 1.6567263088137838, + "grad_norm": 4.482105255126953, + "learning_rate": 2.0930645754293088e-06, + "loss": 0.0437, + "num_input_tokens_seen": 24479792, + "step": 12500 + }, + { + "epoch": 1.656858846918489, + "grad_norm": 6.188427448272705, + "learning_rate": 2.0927220716918226e-06, + "loss": 0.1452, + "num_input_tokens_seen": 24482504, + "step": 12501 + }, + { + "epoch": 1.6569913850231943, + "grad_norm": 6.203248500823975, + "learning_rate": 2.0923795758069355e-06, + "loss": 0.1297, + "num_input_tokens_seen": 24485144, + "step": 12502 + }, + { + "epoch": 1.6571239231278994, + "grad_norm": 14.572771072387695, + "learning_rate": 2.0920370877812515e-06, + "loss": 0.1299, + "num_input_tokens_seen": 24487360, + "step": 12503 + }, + { + "epoch": 1.6572564612326044, + "grad_norm": 0.023911679163575172, + "learning_rate": 2.091694607621373e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24489056, + "step": 12504 + }, + { + "epoch": 1.6573889993373094, + "grad_norm": 0.04058672860264778, + "learning_rate": 2.0913521353339047e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24490472, + "step": 12505 + }, + { + "epoch": 1.6575215374420145, + "grad_norm": 0.7940712571144104, + "learning_rate": 2.0910096709254497e-06, + "loss": 0.0047, + "num_input_tokens_seen": 24492440, + "step": 12506 + }, + { + "epoch": 1.6576540755467197, + "grad_norm": 0.32566484808921814, + "learning_rate": 2.0906672144026105e-06, + "loss": 0.0034, + "num_input_tokens_seen": 24493528, + "step": 12507 + }, + { + "epoch": 1.6577866136514248, + "grad_norm": 4.789429664611816, + "learning_rate": 2.0903247657719893e-06, + "loss": 0.0864, + "num_input_tokens_seen": 24495000, + "step": 12508 + }, + { + "epoch": 1.65791915175613, + "grad_norm": 14.886362075805664, + "learning_rate": 2.0899823250401884e-06, + "loss": 0.1383, + "num_input_tokens_seen": 24496552, + "step": 12509 + }, + { + "epoch": 1.658051689860835, + "grad_norm": 2.8449811935424805, + "learning_rate": 2.0896398922138124e-06, + "loss": 0.0455, + "num_input_tokens_seen": 24498448, + "step": 12510 + }, + { + "epoch": 1.65818422796554, + "grad_norm": 5.603843688964844, + "learning_rate": 2.0892974672994616e-06, + "loss": 0.1309, + "num_input_tokens_seen": 24500344, + "step": 12511 + }, + { + "epoch": 1.6583167660702451, + "grad_norm": 0.040200524032115936, + "learning_rate": 2.0889550503037397e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24502240, + "step": 12512 + }, + { + "epoch": 1.6584493041749502, + "grad_norm": 1.5589414834976196, + "learning_rate": 2.088612641233248e-06, + "loss": 0.047, + "num_input_tokens_seen": 24504016, + "step": 12513 + }, + { + "epoch": 1.6585818422796554, + "grad_norm": 0.021897558122873306, + "learning_rate": 2.0882702400945878e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24505520, + "step": 12514 + }, + { + "epoch": 1.6587143803843605, + "grad_norm": 0.0349416583776474, + "learning_rate": 2.087927846894361e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24507280, + "step": 12515 + }, + { + "epoch": 1.6588469184890657, + "grad_norm": 11.089234352111816, + "learning_rate": 2.0875854616391704e-06, + "loss": 0.1081, + "num_input_tokens_seen": 24509048, + "step": 12516 + }, + { + "epoch": 1.6589794565937708, + "grad_norm": 0.02502138912677765, + "learning_rate": 2.087243084335616e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24510776, + "step": 12517 + }, + { + "epoch": 1.6591119946984758, + "grad_norm": 7.318490982055664, + "learning_rate": 2.086900714990301e-06, + "loss": 0.0372, + "num_input_tokens_seen": 24513248, + "step": 12518 + }, + { + "epoch": 1.6592445328031808, + "grad_norm": 0.06691213697195053, + "learning_rate": 2.086558353609824e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24515896, + "step": 12519 + }, + { + "epoch": 1.6593770709078859, + "grad_norm": 9.124857902526855, + "learning_rate": 2.0862160002007862e-06, + "loss": 0.1411, + "num_input_tokens_seen": 24517760, + "step": 12520 + }, + { + "epoch": 1.6595096090125911, + "grad_norm": 8.442754745483398, + "learning_rate": 2.0858736547697913e-06, + "loss": 0.1265, + "num_input_tokens_seen": 24521072, + "step": 12521 + }, + { + "epoch": 1.6596421471172962, + "grad_norm": 12.957094192504883, + "learning_rate": 2.0855313173234376e-06, + "loss": 0.2824, + "num_input_tokens_seen": 24523272, + "step": 12522 + }, + { + "epoch": 1.6597746852220014, + "grad_norm": 11.337525367736816, + "learning_rate": 2.0851889878683256e-06, + "loss": 0.0921, + "num_input_tokens_seen": 24524976, + "step": 12523 + }, + { + "epoch": 1.6599072233267065, + "grad_norm": 0.05655369162559509, + "learning_rate": 2.0848466664110566e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24526736, + "step": 12524 + }, + { + "epoch": 1.6600397614314115, + "grad_norm": 4.300192356109619, + "learning_rate": 2.084504352958229e-06, + "loss": 0.0735, + "num_input_tokens_seen": 24528568, + "step": 12525 + }, + { + "epoch": 1.6601722995361166, + "grad_norm": 8.011896133422852, + "learning_rate": 2.0841620475164453e-06, + "loss": 0.1172, + "num_input_tokens_seen": 24530832, + "step": 12526 + }, + { + "epoch": 1.6603048376408216, + "grad_norm": 0.05731885880231857, + "learning_rate": 2.0838197500923043e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24532168, + "step": 12527 + }, + { + "epoch": 1.6604373757455269, + "grad_norm": 7.204423904418945, + "learning_rate": 2.0834774606924054e-06, + "loss": 0.1312, + "num_input_tokens_seen": 24533784, + "step": 12528 + }, + { + "epoch": 1.660569913850232, + "grad_norm": 6.379366397857666, + "learning_rate": 2.0831351793233483e-06, + "loss": 0.0559, + "num_input_tokens_seen": 24536096, + "step": 12529 + }, + { + "epoch": 1.6607024519549372, + "grad_norm": 12.552786827087402, + "learning_rate": 2.0827929059917314e-06, + "loss": 0.2615, + "num_input_tokens_seen": 24537944, + "step": 12530 + }, + { + "epoch": 1.6608349900596422, + "grad_norm": 1.3013322353363037, + "learning_rate": 2.0824506407041568e-06, + "loss": 0.0131, + "num_input_tokens_seen": 24540208, + "step": 12531 + }, + { + "epoch": 1.6609675281643472, + "grad_norm": 0.026617733761668205, + "learning_rate": 2.082108383467221e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24542360, + "step": 12532 + }, + { + "epoch": 1.6611000662690523, + "grad_norm": 6.615713119506836, + "learning_rate": 2.0817661342875244e-06, + "loss": 0.0683, + "num_input_tokens_seen": 24543928, + "step": 12533 + }, + { + "epoch": 1.6612326043737573, + "grad_norm": 5.202270030975342, + "learning_rate": 2.081423893171665e-06, + "loss": 0.125, + "num_input_tokens_seen": 24546296, + "step": 12534 + }, + { + "epoch": 1.6613651424784626, + "grad_norm": 12.771049499511719, + "learning_rate": 2.0810816601262408e-06, + "loss": 0.2113, + "num_input_tokens_seen": 24548584, + "step": 12535 + }, + { + "epoch": 1.6614976805831678, + "grad_norm": 0.14189909398555756, + "learning_rate": 2.0807394351578525e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24550576, + "step": 12536 + }, + { + "epoch": 1.6616302186878729, + "grad_norm": 8.984435081481934, + "learning_rate": 2.080397218273097e-06, + "loss": 0.2845, + "num_input_tokens_seen": 24552728, + "step": 12537 + }, + { + "epoch": 1.661762756792578, + "grad_norm": 1.418674111366272, + "learning_rate": 2.080055009478572e-06, + "loss": 0.0086, + "num_input_tokens_seen": 24555464, + "step": 12538 + }, + { + "epoch": 1.661895294897283, + "grad_norm": 0.7918649315834045, + "learning_rate": 2.0797128087808768e-06, + "loss": 0.0131, + "num_input_tokens_seen": 24558280, + "step": 12539 + }, + { + "epoch": 1.662027833001988, + "grad_norm": 7.088196277618408, + "learning_rate": 2.079370616186608e-06, + "loss": 0.1107, + "num_input_tokens_seen": 24560496, + "step": 12540 + }, + { + "epoch": 1.662160371106693, + "grad_norm": 7.949176788330078, + "learning_rate": 2.0790284317023633e-06, + "loss": 0.1897, + "num_input_tokens_seen": 24561984, + "step": 12541 + }, + { + "epoch": 1.6622929092113983, + "grad_norm": 19.827503204345703, + "learning_rate": 2.078686255334742e-06, + "loss": 0.5639, + "num_input_tokens_seen": 24563904, + "step": 12542 + }, + { + "epoch": 1.6624254473161035, + "grad_norm": 3.3346900939941406, + "learning_rate": 2.0783440870903403e-06, + "loss": 0.0613, + "num_input_tokens_seen": 24565848, + "step": 12543 + }, + { + "epoch": 1.6625579854208086, + "grad_norm": 8.350682258605957, + "learning_rate": 2.078001926975755e-06, + "loss": 0.0744, + "num_input_tokens_seen": 24567112, + "step": 12544 + }, + { + "epoch": 1.6626905235255136, + "grad_norm": 1.1854501962661743, + "learning_rate": 2.077659774997584e-06, + "loss": 0.0057, + "num_input_tokens_seen": 24568488, + "step": 12545 + }, + { + "epoch": 1.6628230616302186, + "grad_norm": 0.12997469305992126, + "learning_rate": 2.0773176311624233e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24570408, + "step": 12546 + }, + { + "epoch": 1.6629555997349237, + "grad_norm": 8.987651824951172, + "learning_rate": 2.0769754954768706e-06, + "loss": 0.1976, + "num_input_tokens_seen": 24572680, + "step": 12547 + }, + { + "epoch": 1.663088137839629, + "grad_norm": 5.774478912353516, + "learning_rate": 2.0766333679475226e-06, + "loss": 0.024, + "num_input_tokens_seen": 24575288, + "step": 12548 + }, + { + "epoch": 1.663220675944334, + "grad_norm": 0.04823017120361328, + "learning_rate": 2.076291248580975e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24577456, + "step": 12549 + }, + { + "epoch": 1.6633532140490392, + "grad_norm": 3.733994245529175, + "learning_rate": 2.0759491373838247e-06, + "loss": 0.0266, + "num_input_tokens_seen": 24578800, + "step": 12550 + }, + { + "epoch": 1.6634857521537443, + "grad_norm": 0.06245024874806404, + "learning_rate": 2.0756070343626665e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24580608, + "step": 12551 + }, + { + "epoch": 1.6636182902584493, + "grad_norm": 11.032949447631836, + "learning_rate": 2.0752649395240985e-06, + "loss": 0.1617, + "num_input_tokens_seen": 24582216, + "step": 12552 + }, + { + "epoch": 1.6637508283631544, + "grad_norm": 3.4304184913635254, + "learning_rate": 2.0749228528747154e-06, + "loss": 0.0241, + "num_input_tokens_seen": 24584760, + "step": 12553 + }, + { + "epoch": 1.6638833664678594, + "grad_norm": 0.5522821545600891, + "learning_rate": 2.074580774421113e-06, + "loss": 0.0051, + "num_input_tokens_seen": 24586368, + "step": 12554 + }, + { + "epoch": 1.6640159045725647, + "grad_norm": 0.01259677391499281, + "learning_rate": 2.074238704169886e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24587832, + "step": 12555 + }, + { + "epoch": 1.6641484426772697, + "grad_norm": 23.19214630126953, + "learning_rate": 2.0738966421276306e-06, + "loss": 0.5154, + "num_input_tokens_seen": 24589768, + "step": 12556 + }, + { + "epoch": 1.664280980781975, + "grad_norm": 1.189054250717163, + "learning_rate": 2.0735545883009427e-06, + "loss": 0.0122, + "num_input_tokens_seen": 24591176, + "step": 12557 + }, + { + "epoch": 1.66441351888668, + "grad_norm": 6.5798211097717285, + "learning_rate": 2.073212542696416e-06, + "loss": 0.0512, + "num_input_tokens_seen": 24593472, + "step": 12558 + }, + { + "epoch": 1.664546056991385, + "grad_norm": 0.012018929235637188, + "learning_rate": 2.0728705053206466e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24595120, + "step": 12559 + }, + { + "epoch": 1.66467859509609, + "grad_norm": 25.996784210205078, + "learning_rate": 2.072528476180228e-06, + "loss": 0.4534, + "num_input_tokens_seen": 24597960, + "step": 12560 + }, + { + "epoch": 1.664811133200795, + "grad_norm": 14.749024391174316, + "learning_rate": 2.072186455281755e-06, + "loss": 0.218, + "num_input_tokens_seen": 24600592, + "step": 12561 + }, + { + "epoch": 1.6649436713055004, + "grad_norm": 2.8969414234161377, + "learning_rate": 2.071844442631822e-06, + "loss": 0.0393, + "num_input_tokens_seen": 24602592, + "step": 12562 + }, + { + "epoch": 1.6650762094102054, + "grad_norm": 0.9519136548042297, + "learning_rate": 2.0715024382370245e-06, + "loss": 0.0234, + "num_input_tokens_seen": 24604848, + "step": 12563 + }, + { + "epoch": 1.6652087475149107, + "grad_norm": 1.2902613878250122, + "learning_rate": 2.071160442103955e-06, + "loss": 0.0074, + "num_input_tokens_seen": 24606280, + "step": 12564 + }, + { + "epoch": 1.6653412856196157, + "grad_norm": 1.1296002864837646, + "learning_rate": 2.0708184542392084e-06, + "loss": 0.0114, + "num_input_tokens_seen": 24607472, + "step": 12565 + }, + { + "epoch": 1.6654738237243207, + "grad_norm": 2.483086347579956, + "learning_rate": 2.0704764746493773e-06, + "loss": 0.0488, + "num_input_tokens_seen": 24608736, + "step": 12566 + }, + { + "epoch": 1.6656063618290258, + "grad_norm": 11.920053482055664, + "learning_rate": 2.0701345033410568e-06, + "loss": 0.2988, + "num_input_tokens_seen": 24610232, + "step": 12567 + }, + { + "epoch": 1.6657388999337308, + "grad_norm": 0.0851629227399826, + "learning_rate": 2.0697925403208393e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24612040, + "step": 12568 + }, + { + "epoch": 1.665871438038436, + "grad_norm": 4.684647560119629, + "learning_rate": 2.069450585595319e-06, + "loss": 0.0512, + "num_input_tokens_seen": 24614440, + "step": 12569 + }, + { + "epoch": 1.666003976143141, + "grad_norm": 1.0345211029052734, + "learning_rate": 2.069108639171088e-06, + "loss": 0.0064, + "num_input_tokens_seen": 24617192, + "step": 12570 + }, + { + "epoch": 1.6661365142478464, + "grad_norm": 4.9417314529418945, + "learning_rate": 2.0687667010547397e-06, + "loss": 0.1322, + "num_input_tokens_seen": 24618912, + "step": 12571 + }, + { + "epoch": 1.6662690523525514, + "grad_norm": 3.0760343074798584, + "learning_rate": 2.068424771252866e-06, + "loss": 0.0074, + "num_input_tokens_seen": 24621560, + "step": 12572 + }, + { + "epoch": 1.6664015904572564, + "grad_norm": 7.992963790893555, + "learning_rate": 2.0680828497720613e-06, + "loss": 0.2593, + "num_input_tokens_seen": 24623512, + "step": 12573 + }, + { + "epoch": 1.6665341285619615, + "grad_norm": 5.043349266052246, + "learning_rate": 2.0677409366189176e-06, + "loss": 0.0558, + "num_input_tokens_seen": 24624992, + "step": 12574 + }, + { + "epoch": 1.6666666666666665, + "grad_norm": 5.909275054931641, + "learning_rate": 2.067399031800027e-06, + "loss": 0.024, + "num_input_tokens_seen": 24627416, + "step": 12575 + }, + { + "epoch": 1.6667992047713718, + "grad_norm": 6.859180450439453, + "learning_rate": 2.0670571353219806e-06, + "loss": 0.1828, + "num_input_tokens_seen": 24629552, + "step": 12576 + }, + { + "epoch": 1.666931742876077, + "grad_norm": 2.6421396732330322, + "learning_rate": 2.066715247191371e-06, + "loss": 0.0644, + "num_input_tokens_seen": 24631256, + "step": 12577 + }, + { + "epoch": 1.667064280980782, + "grad_norm": 1.6464276313781738, + "learning_rate": 2.066373367414791e-06, + "loss": 0.037, + "num_input_tokens_seen": 24633136, + "step": 12578 + }, + { + "epoch": 1.6671968190854871, + "grad_norm": 13.033422470092773, + "learning_rate": 2.0660314959988316e-06, + "loss": 0.1588, + "num_input_tokens_seen": 24635048, + "step": 12579 + }, + { + "epoch": 1.6673293571901922, + "grad_norm": 7.838176727294922, + "learning_rate": 2.065689632950085e-06, + "loss": 0.219, + "num_input_tokens_seen": 24637056, + "step": 12580 + }, + { + "epoch": 1.6674618952948972, + "grad_norm": 0.04336291551589966, + "learning_rate": 2.0653477782751415e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24638640, + "step": 12581 + }, + { + "epoch": 1.6675944333996022, + "grad_norm": 5.1652655601501465, + "learning_rate": 2.065005931980592e-06, + "loss": 0.0847, + "num_input_tokens_seen": 24640464, + "step": 12582 + }, + { + "epoch": 1.6677269715043075, + "grad_norm": 6.65416955947876, + "learning_rate": 2.0646640940730285e-06, + "loss": 0.1027, + "num_input_tokens_seen": 24643320, + "step": 12583 + }, + { + "epoch": 1.6678595096090127, + "grad_norm": 6.0637006759643555, + "learning_rate": 2.064322264559042e-06, + "loss": 0.1455, + "num_input_tokens_seen": 24646224, + "step": 12584 + }, + { + "epoch": 1.6679920477137178, + "grad_norm": 7.643784046173096, + "learning_rate": 2.0639804434452225e-06, + "loss": 0.1238, + "num_input_tokens_seen": 24648456, + "step": 12585 + }, + { + "epoch": 1.6681245858184228, + "grad_norm": 2.7666585445404053, + "learning_rate": 2.063638630738161e-06, + "loss": 0.0637, + "num_input_tokens_seen": 24650008, + "step": 12586 + }, + { + "epoch": 1.6682571239231279, + "grad_norm": 0.07302656024694443, + "learning_rate": 2.063296826444447e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24652016, + "step": 12587 + }, + { + "epoch": 1.668389662027833, + "grad_norm": 4.4107985496521, + "learning_rate": 2.062955030570672e-06, + "loss": 0.0767, + "num_input_tokens_seen": 24653568, + "step": 12588 + }, + { + "epoch": 1.6685222001325382, + "grad_norm": 7.478450298309326, + "learning_rate": 2.0626132431234256e-06, + "loss": 0.0888, + "num_input_tokens_seen": 24655688, + "step": 12589 + }, + { + "epoch": 1.6686547382372432, + "grad_norm": 3.4438467025756836, + "learning_rate": 2.0622714641092986e-06, + "loss": 0.0563, + "num_input_tokens_seen": 24657224, + "step": 12590 + }, + { + "epoch": 1.6687872763419485, + "grad_norm": 12.547554969787598, + "learning_rate": 2.061929693534878e-06, + "loss": 0.245, + "num_input_tokens_seen": 24659200, + "step": 12591 + }, + { + "epoch": 1.6689198144466535, + "grad_norm": 11.405672073364258, + "learning_rate": 2.0615879314067556e-06, + "loss": 0.2422, + "num_input_tokens_seen": 24662256, + "step": 12592 + }, + { + "epoch": 1.6690523525513585, + "grad_norm": 8.424065589904785, + "learning_rate": 2.0612461777315205e-06, + "loss": 0.2784, + "num_input_tokens_seen": 24664896, + "step": 12593 + }, + { + "epoch": 1.6691848906560636, + "grad_norm": 5.941987991333008, + "learning_rate": 2.0609044325157618e-06, + "loss": 0.0543, + "num_input_tokens_seen": 24667176, + "step": 12594 + }, + { + "epoch": 1.6693174287607686, + "grad_norm": 11.535968780517578, + "learning_rate": 2.060562695766069e-06, + "loss": 0.2176, + "num_input_tokens_seen": 24669816, + "step": 12595 + }, + { + "epoch": 1.6694499668654739, + "grad_norm": 1.825566291809082, + "learning_rate": 2.06022096748903e-06, + "loss": 0.0226, + "num_input_tokens_seen": 24671392, + "step": 12596 + }, + { + "epoch": 1.669582504970179, + "grad_norm": 0.07434290647506714, + "learning_rate": 2.059879247691235e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24673224, + "step": 12597 + }, + { + "epoch": 1.6697150430748842, + "grad_norm": 10.774996757507324, + "learning_rate": 2.05953753637927e-06, + "loss": 0.0836, + "num_input_tokens_seen": 24675440, + "step": 12598 + }, + { + "epoch": 1.6698475811795892, + "grad_norm": 0.09268884360790253, + "learning_rate": 2.0591958335597267e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24676808, + "step": 12599 + }, + { + "epoch": 1.6699801192842942, + "grad_norm": 15.444400787353516, + "learning_rate": 2.058854139239191e-06, + "loss": 0.5013, + "num_input_tokens_seen": 24679704, + "step": 12600 + }, + { + "epoch": 1.6701126573889993, + "grad_norm": 8.134020805358887, + "learning_rate": 2.058512453424253e-06, + "loss": 0.1696, + "num_input_tokens_seen": 24681776, + "step": 12601 + }, + { + "epoch": 1.6702451954937043, + "grad_norm": 0.23860086500644684, + "learning_rate": 2.0581707761214983e-06, + "loss": 0.0016, + "num_input_tokens_seen": 24684072, + "step": 12602 + }, + { + "epoch": 1.6703777335984096, + "grad_norm": 0.11969126760959625, + "learning_rate": 2.0578291073375154e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24687512, + "step": 12603 + }, + { + "epoch": 1.6705102717031146, + "grad_norm": 6.728306293487549, + "learning_rate": 2.0574874470788936e-06, + "loss": 0.097, + "num_input_tokens_seen": 24688808, + "step": 12604 + }, + { + "epoch": 1.6706428098078199, + "grad_norm": 8.078740119934082, + "learning_rate": 2.057145795352219e-06, + "loss": 0.1575, + "num_input_tokens_seen": 24691184, + "step": 12605 + }, + { + "epoch": 1.670775347912525, + "grad_norm": 4.105355262756348, + "learning_rate": 2.0568041521640785e-06, + "loss": 0.0585, + "num_input_tokens_seen": 24692968, + "step": 12606 + }, + { + "epoch": 1.67090788601723, + "grad_norm": 0.03174453601241112, + "learning_rate": 2.05646251752106e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24694040, + "step": 12607 + }, + { + "epoch": 1.671040424121935, + "grad_norm": 2.968130350112915, + "learning_rate": 2.056120891429749e-06, + "loss": 0.0826, + "num_input_tokens_seen": 24697192, + "step": 12608 + }, + { + "epoch": 1.67117296222664, + "grad_norm": 9.39665699005127, + "learning_rate": 2.0557792738967343e-06, + "loss": 0.2193, + "num_input_tokens_seen": 24699000, + "step": 12609 + }, + { + "epoch": 1.6713055003313453, + "grad_norm": 1.4442487955093384, + "learning_rate": 2.0554376649286023e-06, + "loss": 0.0072, + "num_input_tokens_seen": 24701464, + "step": 12610 + }, + { + "epoch": 1.6714380384360503, + "grad_norm": 0.024023912847042084, + "learning_rate": 2.0550960645319377e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24702696, + "step": 12611 + }, + { + "epoch": 1.6715705765407556, + "grad_norm": 6.288366317749023, + "learning_rate": 2.054754472713329e-06, + "loss": 0.133, + "num_input_tokens_seen": 24704576, + "step": 12612 + }, + { + "epoch": 1.6717031146454606, + "grad_norm": 0.5846000909805298, + "learning_rate": 2.05441288947936e-06, + "loss": 0.0059, + "num_input_tokens_seen": 24706032, + "step": 12613 + }, + { + "epoch": 1.6718356527501657, + "grad_norm": 0.11612889915704727, + "learning_rate": 2.0540713148366185e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24707640, + "step": 12614 + }, + { + "epoch": 1.6719681908548707, + "grad_norm": 5.25131368637085, + "learning_rate": 2.0537297487916898e-06, + "loss": 0.1101, + "num_input_tokens_seen": 24710624, + "step": 12615 + }, + { + "epoch": 1.6721007289595757, + "grad_norm": 0.0853138193488121, + "learning_rate": 2.0533881913511597e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24712256, + "step": 12616 + }, + { + "epoch": 1.672233267064281, + "grad_norm": 0.12376310676336288, + "learning_rate": 2.0530466425216127e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24713880, + "step": 12617 + }, + { + "epoch": 1.672365805168986, + "grad_norm": 7.602744102478027, + "learning_rate": 2.0527051023096345e-06, + "loss": 0.129, + "num_input_tokens_seen": 24715856, + "step": 12618 + }, + { + "epoch": 1.6724983432736913, + "grad_norm": 1.3021348714828491, + "learning_rate": 2.0523635707218116e-06, + "loss": 0.0116, + "num_input_tokens_seen": 24717552, + "step": 12619 + }, + { + "epoch": 1.6726308813783963, + "grad_norm": 7.130713939666748, + "learning_rate": 2.0520220477647272e-06, + "loss": 0.2238, + "num_input_tokens_seen": 24719904, + "step": 12620 + }, + { + "epoch": 1.6727634194831014, + "grad_norm": 0.33442631363868713, + "learning_rate": 2.051680533444967e-06, + "loss": 0.0023, + "num_input_tokens_seen": 24722032, + "step": 12621 + }, + { + "epoch": 1.6728959575878064, + "grad_norm": 9.061714172363281, + "learning_rate": 2.0513390277691156e-06, + "loss": 0.1026, + "num_input_tokens_seen": 24724336, + "step": 12622 + }, + { + "epoch": 1.6730284956925114, + "grad_norm": 6.094336032867432, + "learning_rate": 2.0509975307437564e-06, + "loss": 0.1265, + "num_input_tokens_seen": 24725856, + "step": 12623 + }, + { + "epoch": 1.6731610337972167, + "grad_norm": 0.11674538999795914, + "learning_rate": 2.050656042375475e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24727832, + "step": 12624 + }, + { + "epoch": 1.673293571901922, + "grad_norm": 0.40906742215156555, + "learning_rate": 2.0503145626708554e-06, + "loss": 0.0041, + "num_input_tokens_seen": 24729560, + "step": 12625 + }, + { + "epoch": 1.673426110006627, + "grad_norm": 1.3542370796203613, + "learning_rate": 2.0499730916364806e-06, + "loss": 0.0046, + "num_input_tokens_seen": 24731616, + "step": 12626 + }, + { + "epoch": 1.673558648111332, + "grad_norm": 8.894756317138672, + "learning_rate": 2.049631629278936e-06, + "loss": 0.0362, + "num_input_tokens_seen": 24733104, + "step": 12627 + }, + { + "epoch": 1.673691186216037, + "grad_norm": 0.17146232724189758, + "learning_rate": 2.049290175604804e-06, + "loss": 0.0012, + "num_input_tokens_seen": 24735264, + "step": 12628 + }, + { + "epoch": 1.6738237243207421, + "grad_norm": 3.6801795959472656, + "learning_rate": 2.0489487306206676e-06, + "loss": 0.0224, + "num_input_tokens_seen": 24736672, + "step": 12629 + }, + { + "epoch": 1.6739562624254472, + "grad_norm": 11.28310775756836, + "learning_rate": 2.048607294333111e-06, + "loss": 0.1242, + "num_input_tokens_seen": 24737696, + "step": 12630 + }, + { + "epoch": 1.6740888005301524, + "grad_norm": 13.773236274719238, + "learning_rate": 2.0482658667487183e-06, + "loss": 0.227, + "num_input_tokens_seen": 24739472, + "step": 12631 + }, + { + "epoch": 1.6742213386348577, + "grad_norm": 0.10588119179010391, + "learning_rate": 2.04792444787407e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24741400, + "step": 12632 + }, + { + "epoch": 1.6743538767395627, + "grad_norm": 0.23910683393478394, + "learning_rate": 2.047583037715751e-06, + "loss": 0.0012, + "num_input_tokens_seen": 24743104, + "step": 12633 + }, + { + "epoch": 1.6744864148442677, + "grad_norm": 0.7921948432922363, + "learning_rate": 2.047241636280343e-06, + "loss": 0.0059, + "num_input_tokens_seen": 24744648, + "step": 12634 + }, + { + "epoch": 1.6746189529489728, + "grad_norm": 7.8460845947265625, + "learning_rate": 2.0469002435744285e-06, + "loss": 0.2081, + "num_input_tokens_seen": 24746320, + "step": 12635 + }, + { + "epoch": 1.6747514910536778, + "grad_norm": 2.4047162532806396, + "learning_rate": 2.0465588596045896e-06, + "loss": 0.0723, + "num_input_tokens_seen": 24748048, + "step": 12636 + }, + { + "epoch": 1.674884029158383, + "grad_norm": 12.07406234741211, + "learning_rate": 2.0462174843774094e-06, + "loss": 0.1636, + "num_input_tokens_seen": 24750512, + "step": 12637 + }, + { + "epoch": 1.6750165672630881, + "grad_norm": 10.994248390197754, + "learning_rate": 2.0458761178994684e-06, + "loss": 0.248, + "num_input_tokens_seen": 24752584, + "step": 12638 + }, + { + "epoch": 1.6751491053677934, + "grad_norm": 4.051455974578857, + "learning_rate": 2.045534760177349e-06, + "loss": 0.036, + "num_input_tokens_seen": 24754664, + "step": 12639 + }, + { + "epoch": 1.6752816434724984, + "grad_norm": 7.72996187210083, + "learning_rate": 2.0451934112176335e-06, + "loss": 0.0352, + "num_input_tokens_seen": 24756048, + "step": 12640 + }, + { + "epoch": 1.6754141815772035, + "grad_norm": 4.4396162033081055, + "learning_rate": 2.0448520710269026e-06, + "loss": 0.0854, + "num_input_tokens_seen": 24758408, + "step": 12641 + }, + { + "epoch": 1.6755467196819085, + "grad_norm": 0.05243891850113869, + "learning_rate": 2.0445107396117384e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24759536, + "step": 12642 + }, + { + "epoch": 1.6756792577866135, + "grad_norm": 0.19418716430664062, + "learning_rate": 2.044169416978721e-06, + "loss": 0.002, + "num_input_tokens_seen": 24761176, + "step": 12643 + }, + { + "epoch": 1.6758117958913188, + "grad_norm": 12.619674682617188, + "learning_rate": 2.043828103134431e-06, + "loss": 0.1568, + "num_input_tokens_seen": 24763120, + "step": 12644 + }, + { + "epoch": 1.6759443339960238, + "grad_norm": 5.470091342926025, + "learning_rate": 2.04348679808545e-06, + "loss": 0.176, + "num_input_tokens_seen": 24765272, + "step": 12645 + }, + { + "epoch": 1.676076872100729, + "grad_norm": 4.8347625732421875, + "learning_rate": 2.0431455018383595e-06, + "loss": 0.0637, + "num_input_tokens_seen": 24767480, + "step": 12646 + }, + { + "epoch": 1.6762094102054341, + "grad_norm": 1.0146862268447876, + "learning_rate": 2.0428042143997377e-06, + "loss": 0.0056, + "num_input_tokens_seen": 24769416, + "step": 12647 + }, + { + "epoch": 1.6763419483101392, + "grad_norm": 9.917863845825195, + "learning_rate": 2.042462935776167e-06, + "loss": 0.1069, + "num_input_tokens_seen": 24771648, + "step": 12648 + }, + { + "epoch": 1.6764744864148442, + "grad_norm": 14.398921012878418, + "learning_rate": 2.0421216659742256e-06, + "loss": 0.302, + "num_input_tokens_seen": 24774280, + "step": 12649 + }, + { + "epoch": 1.6766070245195492, + "grad_norm": 6.200052261352539, + "learning_rate": 2.0417804050004947e-06, + "loss": 0.1898, + "num_input_tokens_seen": 24775496, + "step": 12650 + }, + { + "epoch": 1.6767395626242545, + "grad_norm": 7.860629558563232, + "learning_rate": 2.0414391528615543e-06, + "loss": 0.2151, + "num_input_tokens_seen": 24778792, + "step": 12651 + }, + { + "epoch": 1.6768721007289595, + "grad_norm": 7.348298072814941, + "learning_rate": 2.041097909563983e-06, + "loss": 0.2003, + "num_input_tokens_seen": 24780336, + "step": 12652 + }, + { + "epoch": 1.6770046388336648, + "grad_norm": 6.182065486907959, + "learning_rate": 2.0407566751143605e-06, + "loss": 0.1058, + "num_input_tokens_seen": 24782248, + "step": 12653 + }, + { + "epoch": 1.6771371769383698, + "grad_norm": 9.230423927307129, + "learning_rate": 2.040415449519266e-06, + "loss": 0.2193, + "num_input_tokens_seen": 24784976, + "step": 12654 + }, + { + "epoch": 1.6772697150430749, + "grad_norm": 10.573271751403809, + "learning_rate": 2.0400742327852786e-06, + "loss": 0.2268, + "num_input_tokens_seen": 24786848, + "step": 12655 + }, + { + "epoch": 1.67740225314778, + "grad_norm": 0.05317999795079231, + "learning_rate": 2.0397330249189775e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24788128, + "step": 12656 + }, + { + "epoch": 1.677534791252485, + "grad_norm": 0.0943717360496521, + "learning_rate": 2.0393918259269414e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24789576, + "step": 12657 + }, + { + "epoch": 1.6776673293571902, + "grad_norm": 8.628497123718262, + "learning_rate": 2.0390506358157493e-06, + "loss": 0.179, + "num_input_tokens_seen": 24791392, + "step": 12658 + }, + { + "epoch": 1.6777998674618952, + "grad_norm": 0.0932103767991066, + "learning_rate": 2.0387094545919776e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24792968, + "step": 12659 + }, + { + "epoch": 1.6779324055666005, + "grad_norm": 10.09632396697998, + "learning_rate": 2.038368282262206e-06, + "loss": 0.0968, + "num_input_tokens_seen": 24794808, + "step": 12660 + }, + { + "epoch": 1.6780649436713055, + "grad_norm": 0.18293797969818115, + "learning_rate": 2.038027118833013e-06, + "loss": 0.0015, + "num_input_tokens_seen": 24796576, + "step": 12661 + }, + { + "epoch": 1.6781974817760106, + "grad_norm": 7.20873498916626, + "learning_rate": 2.0376859643109753e-06, + "loss": 0.2357, + "num_input_tokens_seen": 24798824, + "step": 12662 + }, + { + "epoch": 1.6783300198807156, + "grad_norm": 12.587116241455078, + "learning_rate": 2.0373448187026715e-06, + "loss": 0.1908, + "num_input_tokens_seen": 24799904, + "step": 12663 + }, + { + "epoch": 1.6784625579854207, + "grad_norm": 25.987010955810547, + "learning_rate": 2.037003682014679e-06, + "loss": 0.3322, + "num_input_tokens_seen": 24801768, + "step": 12664 + }, + { + "epoch": 1.678595096090126, + "grad_norm": 0.5166041851043701, + "learning_rate": 2.0366625542535735e-06, + "loss": 0.0031, + "num_input_tokens_seen": 24804696, + "step": 12665 + }, + { + "epoch": 1.6787276341948312, + "grad_norm": 3.3394079208374023, + "learning_rate": 2.0363214354259354e-06, + "loss": 0.0173, + "num_input_tokens_seen": 24805936, + "step": 12666 + }, + { + "epoch": 1.6788601722995362, + "grad_norm": 10.402264595031738, + "learning_rate": 2.0359803255383396e-06, + "loss": 0.0936, + "num_input_tokens_seen": 24808680, + "step": 12667 + }, + { + "epoch": 1.6789927104042413, + "grad_norm": 6.29779577255249, + "learning_rate": 2.035639224597363e-06, + "loss": 0.1491, + "num_input_tokens_seen": 24811680, + "step": 12668 + }, + { + "epoch": 1.6791252485089463, + "grad_norm": 2.9204511642456055, + "learning_rate": 2.0352981326095823e-06, + "loss": 0.0298, + "num_input_tokens_seen": 24813120, + "step": 12669 + }, + { + "epoch": 1.6792577866136513, + "grad_norm": 12.059741020202637, + "learning_rate": 2.0349570495815736e-06, + "loss": 0.2849, + "num_input_tokens_seen": 24816352, + "step": 12670 + }, + { + "epoch": 1.6793903247183564, + "grad_norm": 1.0880364179611206, + "learning_rate": 2.034615975519914e-06, + "loss": 0.0121, + "num_input_tokens_seen": 24818080, + "step": 12671 + }, + { + "epoch": 1.6795228628230616, + "grad_norm": 1.585404396057129, + "learning_rate": 2.0342749104311804e-06, + "loss": 0.0342, + "num_input_tokens_seen": 24821160, + "step": 12672 + }, + { + "epoch": 1.6796554009277669, + "grad_norm": 6.887788772583008, + "learning_rate": 2.033933854321948e-06, + "loss": 0.1198, + "num_input_tokens_seen": 24822936, + "step": 12673 + }, + { + "epoch": 1.679787939032472, + "grad_norm": 11.674654006958008, + "learning_rate": 2.033592807198791e-06, + "loss": 0.4288, + "num_input_tokens_seen": 24825024, + "step": 12674 + }, + { + "epoch": 1.679920477137177, + "grad_norm": 6.087829113006592, + "learning_rate": 2.0332517690682865e-06, + "loss": 0.1138, + "num_input_tokens_seen": 24826968, + "step": 12675 + }, + { + "epoch": 1.680053015241882, + "grad_norm": 3.6697022914886475, + "learning_rate": 2.032910739937011e-06, + "loss": 0.0201, + "num_input_tokens_seen": 24829520, + "step": 12676 + }, + { + "epoch": 1.680185553346587, + "grad_norm": 2.865846633911133, + "learning_rate": 2.032569719811538e-06, + "loss": 0.0543, + "num_input_tokens_seen": 24831992, + "step": 12677 + }, + { + "epoch": 1.6803180914512923, + "grad_norm": 0.08668113499879837, + "learning_rate": 2.0322287086984436e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24834152, + "step": 12678 + }, + { + "epoch": 1.6804506295559973, + "grad_norm": 10.407691955566406, + "learning_rate": 2.031887706604302e-06, + "loss": 0.2593, + "num_input_tokens_seen": 24836208, + "step": 12679 + }, + { + "epoch": 1.6805831676607026, + "grad_norm": 0.05890491232275963, + "learning_rate": 2.031546713535688e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24837576, + "step": 12680 + }, + { + "epoch": 1.6807157057654076, + "grad_norm": 5.605384826660156, + "learning_rate": 2.0312057294991778e-06, + "loss": 0.1024, + "num_input_tokens_seen": 24839760, + "step": 12681 + }, + { + "epoch": 1.6808482438701127, + "grad_norm": 4.910287857055664, + "learning_rate": 2.030864754501344e-06, + "loss": 0.0709, + "num_input_tokens_seen": 24843024, + "step": 12682 + }, + { + "epoch": 1.6809807819748177, + "grad_norm": 1.3881008625030518, + "learning_rate": 2.030523788548761e-06, + "loss": 0.0096, + "num_input_tokens_seen": 24844656, + "step": 12683 + }, + { + "epoch": 1.6811133200795227, + "grad_norm": 8.331984519958496, + "learning_rate": 2.0301828316480036e-06, + "loss": 0.1406, + "num_input_tokens_seen": 24846488, + "step": 12684 + }, + { + "epoch": 1.681245858184228, + "grad_norm": 5.891432762145996, + "learning_rate": 2.0298418838056452e-06, + "loss": 0.1264, + "num_input_tokens_seen": 24848440, + "step": 12685 + }, + { + "epoch": 1.681378396288933, + "grad_norm": 2.178873300552368, + "learning_rate": 2.029500945028259e-06, + "loss": 0.0273, + "num_input_tokens_seen": 24849888, + "step": 12686 + }, + { + "epoch": 1.6815109343936383, + "grad_norm": 0.48465508222579956, + "learning_rate": 2.02916001532242e-06, + "loss": 0.005, + "num_input_tokens_seen": 24851544, + "step": 12687 + }, + { + "epoch": 1.6816434724983433, + "grad_norm": 7.637752056121826, + "learning_rate": 2.0288190946947012e-06, + "loss": 0.1835, + "num_input_tokens_seen": 24853408, + "step": 12688 + }, + { + "epoch": 1.6817760106030484, + "grad_norm": 1.3939573764801025, + "learning_rate": 2.0284781831516743e-06, + "loss": 0.0137, + "num_input_tokens_seen": 24854888, + "step": 12689 + }, + { + "epoch": 1.6819085487077534, + "grad_norm": 0.11237908899784088, + "learning_rate": 2.0281372806999137e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24858272, + "step": 12690 + }, + { + "epoch": 1.6820410868124585, + "grad_norm": 7.96834135055542, + "learning_rate": 2.0277963873459914e-06, + "loss": 0.1319, + "num_input_tokens_seen": 24859968, + "step": 12691 + }, + { + "epoch": 1.6821736249171637, + "grad_norm": 11.280967712402344, + "learning_rate": 2.0274555030964806e-06, + "loss": 0.2455, + "num_input_tokens_seen": 24862744, + "step": 12692 + }, + { + "epoch": 1.6823061630218688, + "grad_norm": 0.0485367625951767, + "learning_rate": 2.0271146279579543e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24864488, + "step": 12693 + }, + { + "epoch": 1.682438701126574, + "grad_norm": 3.847808599472046, + "learning_rate": 2.026773761936984e-06, + "loss": 0.1016, + "num_input_tokens_seen": 24866352, + "step": 12694 + }, + { + "epoch": 1.682571239231279, + "grad_norm": 8.230746269226074, + "learning_rate": 2.0264329050401418e-06, + "loss": 0.1649, + "num_input_tokens_seen": 24869104, + "step": 12695 + }, + { + "epoch": 1.682703777335984, + "grad_norm": 5.045008182525635, + "learning_rate": 2.0260920572739993e-06, + "loss": 0.1183, + "num_input_tokens_seen": 24870480, + "step": 12696 + }, + { + "epoch": 1.6828363154406891, + "grad_norm": 0.29245442152023315, + "learning_rate": 2.02575121864513e-06, + "loss": 0.0043, + "num_input_tokens_seen": 24872616, + "step": 12697 + }, + { + "epoch": 1.6829688535453942, + "grad_norm": 0.054146938025951385, + "learning_rate": 2.0254103891601036e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24873976, + "step": 12698 + }, + { + "epoch": 1.6831013916500994, + "grad_norm": 9.22727108001709, + "learning_rate": 2.0250695688254934e-06, + "loss": 0.0659, + "num_input_tokens_seen": 24875840, + "step": 12699 + }, + { + "epoch": 1.6832339297548045, + "grad_norm": 0.22524474561214447, + "learning_rate": 2.0247287576478683e-06, + "loss": 0.0013, + "num_input_tokens_seen": 24877320, + "step": 12700 + }, + { + "epoch": 1.6833664678595097, + "grad_norm": 0.08207983523607254, + "learning_rate": 2.0243879556338e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24878896, + "step": 12701 + }, + { + "epoch": 1.6834990059642148, + "grad_norm": 5.4703168869018555, + "learning_rate": 2.024047162789862e-06, + "loss": 0.0766, + "num_input_tokens_seen": 24880528, + "step": 12702 + }, + { + "epoch": 1.6836315440689198, + "grad_norm": 8.023066520690918, + "learning_rate": 2.0237063791226217e-06, + "loss": 0.1244, + "num_input_tokens_seen": 24882472, + "step": 12703 + }, + { + "epoch": 1.6837640821736248, + "grad_norm": 2.407456159591675, + "learning_rate": 2.023365604638652e-06, + "loss": 0.0376, + "num_input_tokens_seen": 24884096, + "step": 12704 + }, + { + "epoch": 1.6838966202783299, + "grad_norm": 1.9698694944381714, + "learning_rate": 2.023024839344522e-06, + "loss": 0.0196, + "num_input_tokens_seen": 24885824, + "step": 12705 + }, + { + "epoch": 1.6840291583830351, + "grad_norm": 5.459560394287109, + "learning_rate": 2.0226840832468014e-06, + "loss": 0.1011, + "num_input_tokens_seen": 24887808, + "step": 12706 + }, + { + "epoch": 1.6841616964877404, + "grad_norm": 3.264509439468384, + "learning_rate": 2.022343336352061e-06, + "loss": 0.0386, + "num_input_tokens_seen": 24889064, + "step": 12707 + }, + { + "epoch": 1.6842942345924454, + "grad_norm": 0.021246932446956635, + "learning_rate": 2.0220025986668713e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24890360, + "step": 12708 + }, + { + "epoch": 1.6844267726971505, + "grad_norm": 6.121258735656738, + "learning_rate": 2.021661870197801e-06, + "loss": 0.1554, + "num_input_tokens_seen": 24892232, + "step": 12709 + }, + { + "epoch": 1.6845593108018555, + "grad_norm": 4.035791397094727, + "learning_rate": 2.02132115095142e-06, + "loss": 0.054, + "num_input_tokens_seen": 24893920, + "step": 12710 + }, + { + "epoch": 1.6846918489065605, + "grad_norm": 4.949850082397461, + "learning_rate": 2.0209804409342964e-06, + "loss": 0.0149, + "num_input_tokens_seen": 24895816, + "step": 12711 + }, + { + "epoch": 1.6848243870112656, + "grad_norm": 6.144629955291748, + "learning_rate": 2.0206397401530016e-06, + "loss": 0.1339, + "num_input_tokens_seen": 24897624, + "step": 12712 + }, + { + "epoch": 1.6849569251159708, + "grad_norm": 4.713603973388672, + "learning_rate": 2.0202990486141026e-06, + "loss": 0.0992, + "num_input_tokens_seen": 24899544, + "step": 12713 + }, + { + "epoch": 1.685089463220676, + "grad_norm": 6.870382308959961, + "learning_rate": 2.0199583663241698e-06, + "loss": 0.0739, + "num_input_tokens_seen": 24901504, + "step": 12714 + }, + { + "epoch": 1.6852220013253811, + "grad_norm": 0.4158709943294525, + "learning_rate": 2.0196176932897698e-06, + "loss": 0.0031, + "num_input_tokens_seen": 24902992, + "step": 12715 + }, + { + "epoch": 1.6853545394300862, + "grad_norm": 5.164585113525391, + "learning_rate": 2.019277029517473e-06, + "loss": 0.1671, + "num_input_tokens_seen": 24905624, + "step": 12716 + }, + { + "epoch": 1.6854870775347912, + "grad_norm": 1.1197683811187744, + "learning_rate": 2.0189363750138454e-06, + "loss": 0.0088, + "num_input_tokens_seen": 24908240, + "step": 12717 + }, + { + "epoch": 1.6856196156394962, + "grad_norm": 0.9294412136077881, + "learning_rate": 2.0185957297854567e-06, + "loss": 0.0085, + "num_input_tokens_seen": 24910008, + "step": 12718 + }, + { + "epoch": 1.6857521537442015, + "grad_norm": 11.905794143676758, + "learning_rate": 2.0182550938388754e-06, + "loss": 0.1512, + "num_input_tokens_seen": 24912256, + "step": 12719 + }, + { + "epoch": 1.6858846918489065, + "grad_norm": 3.980170249938965, + "learning_rate": 2.017914467180668e-06, + "loss": 0.063, + "num_input_tokens_seen": 24913640, + "step": 12720 + }, + { + "epoch": 1.6860172299536118, + "grad_norm": 10.411599159240723, + "learning_rate": 2.0175738498174023e-06, + "loss": 0.254, + "num_input_tokens_seen": 24915432, + "step": 12721 + }, + { + "epoch": 1.6861497680583168, + "grad_norm": 3.59291672706604, + "learning_rate": 2.017233241755644e-06, + "loss": 0.0616, + "num_input_tokens_seen": 24918016, + "step": 12722 + }, + { + "epoch": 1.6862823061630219, + "grad_norm": 4.218505382537842, + "learning_rate": 2.0168926430019636e-06, + "loss": 0.0696, + "num_input_tokens_seen": 24920576, + "step": 12723 + }, + { + "epoch": 1.686414844267727, + "grad_norm": 5.425989151000977, + "learning_rate": 2.0165520535629257e-06, + "loss": 0.0682, + "num_input_tokens_seen": 24922336, + "step": 12724 + }, + { + "epoch": 1.686547382372432, + "grad_norm": 5.614704132080078, + "learning_rate": 2.0162114734450983e-06, + "loss": 0.0871, + "num_input_tokens_seen": 24923568, + "step": 12725 + }, + { + "epoch": 1.6866799204771372, + "grad_norm": 5.545320510864258, + "learning_rate": 2.015870902655047e-06, + "loss": 0.034, + "num_input_tokens_seen": 24924760, + "step": 12726 + }, + { + "epoch": 1.6868124585818423, + "grad_norm": 17.401098251342773, + "learning_rate": 2.015530341199338e-06, + "loss": 0.3591, + "num_input_tokens_seen": 24926576, + "step": 12727 + }, + { + "epoch": 1.6869449966865475, + "grad_norm": 4.952393531799316, + "learning_rate": 2.015189789084539e-06, + "loss": 0.0959, + "num_input_tokens_seen": 24929000, + "step": 12728 + }, + { + "epoch": 1.6870775347912526, + "grad_norm": 0.03356529772281647, + "learning_rate": 2.014849246317216e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24930520, + "step": 12729 + }, + { + "epoch": 1.6872100728959576, + "grad_norm": 11.710488319396973, + "learning_rate": 2.014508712903933e-06, + "loss": 0.2033, + "num_input_tokens_seen": 24932792, + "step": 12730 + }, + { + "epoch": 1.6873426110006626, + "grad_norm": 6.032309532165527, + "learning_rate": 2.0141681888512575e-06, + "loss": 0.0901, + "num_input_tokens_seen": 24934104, + "step": 12731 + }, + { + "epoch": 1.6874751491053677, + "grad_norm": 0.9769488573074341, + "learning_rate": 2.0138276741657537e-06, + "loss": 0.005, + "num_input_tokens_seen": 24935912, + "step": 12732 + }, + { + "epoch": 1.687607687210073, + "grad_norm": 0.061998847872018814, + "learning_rate": 2.0134871688539883e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24937304, + "step": 12733 + }, + { + "epoch": 1.687740225314778, + "grad_norm": 9.756516456604004, + "learning_rate": 2.013146672922526e-06, + "loss": 0.0748, + "num_input_tokens_seen": 24940384, + "step": 12734 + }, + { + "epoch": 1.6878727634194832, + "grad_norm": 0.14450809359550476, + "learning_rate": 2.0128061863779324e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24942872, + "step": 12735 + }, + { + "epoch": 1.6880053015241883, + "grad_norm": 9.100576400756836, + "learning_rate": 2.012465709226771e-06, + "loss": 0.1034, + "num_input_tokens_seen": 24944784, + "step": 12736 + }, + { + "epoch": 1.6881378396288933, + "grad_norm": 7.0501909255981445, + "learning_rate": 2.0121252414756058e-06, + "loss": 0.0641, + "num_input_tokens_seen": 24946848, + "step": 12737 + }, + { + "epoch": 1.6882703777335983, + "grad_norm": 11.855430603027344, + "learning_rate": 2.011784783131004e-06, + "loss": 0.394, + "num_input_tokens_seen": 24949040, + "step": 12738 + }, + { + "epoch": 1.6884029158383034, + "grad_norm": 3.8623764514923096, + "learning_rate": 2.0114443341995284e-06, + "loss": 0.0164, + "num_input_tokens_seen": 24951240, + "step": 12739 + }, + { + "epoch": 1.6885354539430086, + "grad_norm": 0.20355388522148132, + "learning_rate": 2.011103894687743e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24952456, + "step": 12740 + }, + { + "epoch": 1.6886679920477137, + "grad_norm": 0.05739414691925049, + "learning_rate": 2.010763464602211e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24955200, + "step": 12741 + }, + { + "epoch": 1.688800530152419, + "grad_norm": 0.08536305278539658, + "learning_rate": 2.0104230439494978e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24957136, + "step": 12742 + }, + { + "epoch": 1.688933068257124, + "grad_norm": 11.392602920532227, + "learning_rate": 2.010082632736165e-06, + "loss": 0.1258, + "num_input_tokens_seen": 24959848, + "step": 12743 + }, + { + "epoch": 1.689065606361829, + "grad_norm": 1.4476748704910278, + "learning_rate": 2.009742230968778e-06, + "loss": 0.0296, + "num_input_tokens_seen": 24961144, + "step": 12744 + }, + { + "epoch": 1.689198144466534, + "grad_norm": 5.229588985443115, + "learning_rate": 2.0094018386538987e-06, + "loss": 0.2428, + "num_input_tokens_seen": 24963456, + "step": 12745 + }, + { + "epoch": 1.689330682571239, + "grad_norm": 5.4506001472473145, + "learning_rate": 2.009061455798091e-06, + "loss": 0.1177, + "num_input_tokens_seen": 24965672, + "step": 12746 + }, + { + "epoch": 1.6894632206759443, + "grad_norm": 7.401181221008301, + "learning_rate": 2.008721082407916e-06, + "loss": 0.155, + "num_input_tokens_seen": 24967712, + "step": 12747 + }, + { + "epoch": 1.6895957587806494, + "grad_norm": 4.8652143478393555, + "learning_rate": 2.0083807184899372e-06, + "loss": 0.0251, + "num_input_tokens_seen": 24970328, + "step": 12748 + }, + { + "epoch": 1.6897282968853546, + "grad_norm": 1.2546063661575317, + "learning_rate": 2.0080403640507186e-06, + "loss": 0.0084, + "num_input_tokens_seen": 24971488, + "step": 12749 + }, + { + "epoch": 1.6898608349900597, + "grad_norm": 7.0598273277282715, + "learning_rate": 2.007700019096821e-06, + "loss": 0.0904, + "num_input_tokens_seen": 24973528, + "step": 12750 + }, + { + "epoch": 1.6899933730947647, + "grad_norm": 0.2379119098186493, + "learning_rate": 2.0073596836348063e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24975168, + "step": 12751 + }, + { + "epoch": 1.6901259111994698, + "grad_norm": 7.3022589683532715, + "learning_rate": 2.007019357671237e-06, + "loss": 0.1053, + "num_input_tokens_seen": 24976704, + "step": 12752 + }, + { + "epoch": 1.6902584493041748, + "grad_norm": 11.376944541931152, + "learning_rate": 2.0066790412126733e-06, + "loss": 0.3253, + "num_input_tokens_seen": 24978536, + "step": 12753 + }, + { + "epoch": 1.69039098740888, + "grad_norm": 0.017835965380072594, + "learning_rate": 2.0063387342656794e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24979792, + "step": 12754 + }, + { + "epoch": 1.6905235255135853, + "grad_norm": 8.806415557861328, + "learning_rate": 2.005998436836815e-06, + "loss": 0.1652, + "num_input_tokens_seen": 24981584, + "step": 12755 + }, + { + "epoch": 1.6906560636182904, + "grad_norm": 9.737452507019043, + "learning_rate": 2.0056581489326412e-06, + "loss": 0.4253, + "num_input_tokens_seen": 24983016, + "step": 12756 + }, + { + "epoch": 1.6907886017229954, + "grad_norm": 4.309791564941406, + "learning_rate": 2.00531787055972e-06, + "loss": 0.072, + "num_input_tokens_seen": 24985824, + "step": 12757 + }, + { + "epoch": 1.6909211398277004, + "grad_norm": 1.5981711149215698, + "learning_rate": 2.0049776017246102e-06, + "loss": 0.018, + "num_input_tokens_seen": 24988160, + "step": 12758 + }, + { + "epoch": 1.6910536779324055, + "grad_norm": 14.912550926208496, + "learning_rate": 2.004637342433875e-06, + "loss": 0.2624, + "num_input_tokens_seen": 24990312, + "step": 12759 + }, + { + "epoch": 1.6911862160371107, + "grad_norm": 9.21568775177002, + "learning_rate": 2.004297092694073e-06, + "loss": 0.2297, + "num_input_tokens_seen": 24992688, + "step": 12760 + }, + { + "epoch": 1.6913187541418158, + "grad_norm": 0.053895000368356705, + "learning_rate": 2.0039568525117654e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24994648, + "step": 12761 + }, + { + "epoch": 1.691451292246521, + "grad_norm": 0.08793166279792786, + "learning_rate": 2.003616621893512e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24996784, + "step": 12762 + }, + { + "epoch": 1.691583830351226, + "grad_norm": 1.3851509094238281, + "learning_rate": 2.003276400845871e-06, + "loss": 0.0131, + "num_input_tokens_seen": 24998768, + "step": 12763 + }, + { + "epoch": 1.691716368455931, + "grad_norm": 6.7313432693481445, + "learning_rate": 2.0029361893754056e-06, + "loss": 0.1055, + "num_input_tokens_seen": 25000112, + "step": 12764 + }, + { + "epoch": 1.6918489065606361, + "grad_norm": 2.242631435394287, + "learning_rate": 2.002595987488673e-06, + "loss": 0.044, + "num_input_tokens_seen": 25001736, + "step": 12765 + }, + { + "epoch": 1.6919814446653412, + "grad_norm": 6.956461429595947, + "learning_rate": 2.0022557951922326e-06, + "loss": 0.099, + "num_input_tokens_seen": 25003088, + "step": 12766 + }, + { + "epoch": 1.6921139827700464, + "grad_norm": 0.08241207897663116, + "learning_rate": 2.001915612492644e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25005336, + "step": 12767 + }, + { + "epoch": 1.6922465208747515, + "grad_norm": 0.11226195842027664, + "learning_rate": 2.001575439396465e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25007080, + "step": 12768 + }, + { + "epoch": 1.6923790589794567, + "grad_norm": 7.938633441925049, + "learning_rate": 2.001235275910256e-06, + "loss": 0.2111, + "num_input_tokens_seen": 25009464, + "step": 12769 + }, + { + "epoch": 1.6925115970841618, + "grad_norm": 4.200077056884766, + "learning_rate": 2.0008951220405755e-06, + "loss": 0.0538, + "num_input_tokens_seen": 25011432, + "step": 12770 + }, + { + "epoch": 1.6926441351888668, + "grad_norm": 10.83367919921875, + "learning_rate": 2.0005549777939807e-06, + "loss": 0.1743, + "num_input_tokens_seen": 25013352, + "step": 12771 + }, + { + "epoch": 1.6927766732935718, + "grad_norm": 7.722321510314941, + "learning_rate": 2.0002148431770317e-06, + "loss": 0.0706, + "num_input_tokens_seen": 25015480, + "step": 12772 + }, + { + "epoch": 1.6929092113982769, + "grad_norm": 2.502812147140503, + "learning_rate": 1.9998747181962847e-06, + "loss": 0.0104, + "num_input_tokens_seen": 25017264, + "step": 12773 + }, + { + "epoch": 1.6930417495029821, + "grad_norm": 7.739894390106201, + "learning_rate": 1.9995346028582972e-06, + "loss": 0.1983, + "num_input_tokens_seen": 25019384, + "step": 12774 + }, + { + "epoch": 1.6931742876076872, + "grad_norm": 7.775674343109131, + "learning_rate": 1.999194497169628e-06, + "loss": 0.1409, + "num_input_tokens_seen": 25021288, + "step": 12775 + }, + { + "epoch": 1.6933068257123924, + "grad_norm": 0.46742701530456543, + "learning_rate": 1.9988544011368353e-06, + "loss": 0.0029, + "num_input_tokens_seen": 25023040, + "step": 12776 + }, + { + "epoch": 1.6934393638170975, + "grad_norm": 0.05308287590742111, + "learning_rate": 1.9985143147664747e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25024832, + "step": 12777 + }, + { + "epoch": 1.6935719019218025, + "grad_norm": 1.8296760320663452, + "learning_rate": 1.998174238065105e-06, + "loss": 0.0253, + "num_input_tokens_seen": 25027320, + "step": 12778 + }, + { + "epoch": 1.6937044400265076, + "grad_norm": 2.3903703689575195, + "learning_rate": 1.997834171039281e-06, + "loss": 0.0252, + "num_input_tokens_seen": 25030016, + "step": 12779 + }, + { + "epoch": 1.6938369781312126, + "grad_norm": 5.6096882820129395, + "learning_rate": 1.9974941136955615e-06, + "loss": 0.0784, + "num_input_tokens_seen": 25031920, + "step": 12780 + }, + { + "epoch": 1.6939695162359178, + "grad_norm": 0.030021576210856438, + "learning_rate": 1.9971540660405015e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25033440, + "step": 12781 + }, + { + "epoch": 1.6941020543406229, + "grad_norm": 14.06274127960205, + "learning_rate": 1.9968140280806584e-06, + "loss": 0.0861, + "num_input_tokens_seen": 25034912, + "step": 12782 + }, + { + "epoch": 1.6942345924453281, + "grad_norm": 1.1634327173233032, + "learning_rate": 1.996473999822588e-06, + "loss": 0.0056, + "num_input_tokens_seen": 25036416, + "step": 12783 + }, + { + "epoch": 1.6943671305500332, + "grad_norm": 5.7439656257629395, + "learning_rate": 1.9961339812728456e-06, + "loss": 0.1512, + "num_input_tokens_seen": 25038952, + "step": 12784 + }, + { + "epoch": 1.6944996686547382, + "grad_norm": 4.169588088989258, + "learning_rate": 1.9957939724379886e-06, + "loss": 0.1342, + "num_input_tokens_seen": 25040208, + "step": 12785 + }, + { + "epoch": 1.6946322067594433, + "grad_norm": 3.202334403991699, + "learning_rate": 1.9954539733245707e-06, + "loss": 0.0534, + "num_input_tokens_seen": 25041784, + "step": 12786 + }, + { + "epoch": 1.6947647448641483, + "grad_norm": 0.019546814262866974, + "learning_rate": 1.9951139839391497e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25042800, + "step": 12787 + }, + { + "epoch": 1.6948972829688536, + "grad_norm": 1.1785850524902344, + "learning_rate": 1.9947740042882784e-06, + "loss": 0.0104, + "num_input_tokens_seen": 25046264, + "step": 12788 + }, + { + "epoch": 1.6950298210735586, + "grad_norm": 14.328036308288574, + "learning_rate": 1.9944340343785123e-06, + "loss": 0.2653, + "num_input_tokens_seen": 25049488, + "step": 12789 + }, + { + "epoch": 1.6951623591782639, + "grad_norm": 3.213524103164673, + "learning_rate": 1.994094074216407e-06, + "loss": 0.0259, + "num_input_tokens_seen": 25051672, + "step": 12790 + }, + { + "epoch": 1.695294897282969, + "grad_norm": 6.974457263946533, + "learning_rate": 1.993754123808518e-06, + "loss": 0.1932, + "num_input_tokens_seen": 25053832, + "step": 12791 + }, + { + "epoch": 1.695427435387674, + "grad_norm": 6.188643932342529, + "learning_rate": 1.993414183161398e-06, + "loss": 0.0151, + "num_input_tokens_seen": 25055656, + "step": 12792 + }, + { + "epoch": 1.695559973492379, + "grad_norm": 0.16637730598449707, + "learning_rate": 1.9930742522816027e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25057560, + "step": 12793 + }, + { + "epoch": 1.695692511597084, + "grad_norm": 1.8586370944976807, + "learning_rate": 1.992734331175684e-06, + "loss": 0.0094, + "num_input_tokens_seen": 25059288, + "step": 12794 + }, + { + "epoch": 1.6958250497017893, + "grad_norm": 4.737232208251953, + "learning_rate": 1.9923944198501983e-06, + "loss": 0.1042, + "num_input_tokens_seen": 25061760, + "step": 12795 + }, + { + "epoch": 1.6959575878064945, + "grad_norm": 4.856111526489258, + "learning_rate": 1.9920545183116983e-06, + "loss": 0.0417, + "num_input_tokens_seen": 25063048, + "step": 12796 + }, + { + "epoch": 1.6960901259111996, + "grad_norm": 11.59985065460205, + "learning_rate": 1.9917146265667386e-06, + "loss": 0.3648, + "num_input_tokens_seen": 25065752, + "step": 12797 + }, + { + "epoch": 1.6962226640159046, + "grad_norm": 0.09558551013469696, + "learning_rate": 1.99137474462187e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25066936, + "step": 12798 + }, + { + "epoch": 1.6963552021206096, + "grad_norm": 0.672170877456665, + "learning_rate": 1.9910348724836486e-06, + "loss": 0.0025, + "num_input_tokens_seen": 25069536, + "step": 12799 + }, + { + "epoch": 1.6964877402253147, + "grad_norm": 6.387729644775391, + "learning_rate": 1.990695010158624e-06, + "loss": 0.0369, + "num_input_tokens_seen": 25071112, + "step": 12800 + }, + { + "epoch": 1.6966202783300197, + "grad_norm": 5.8466410636901855, + "learning_rate": 1.9903551576533524e-06, + "loss": 0.1702, + "num_input_tokens_seen": 25073608, + "step": 12801 + }, + { + "epoch": 1.696752816434725, + "grad_norm": 6.5278000831604, + "learning_rate": 1.990015314974385e-06, + "loss": 0.129, + "num_input_tokens_seen": 25076048, + "step": 12802 + }, + { + "epoch": 1.6968853545394302, + "grad_norm": 3.4784560203552246, + "learning_rate": 1.9896754821282742e-06, + "loss": 0.0971, + "num_input_tokens_seen": 25077384, + "step": 12803 + }, + { + "epoch": 1.6970178926441353, + "grad_norm": 2.5664899349212646, + "learning_rate": 1.9893356591215717e-06, + "loss": 0.0146, + "num_input_tokens_seen": 25079072, + "step": 12804 + }, + { + "epoch": 1.6971504307488403, + "grad_norm": 8.223052978515625, + "learning_rate": 1.9889958459608293e-06, + "loss": 0.2813, + "num_input_tokens_seen": 25080936, + "step": 12805 + }, + { + "epoch": 1.6972829688535453, + "grad_norm": 5.118310451507568, + "learning_rate": 1.9886560426526005e-06, + "loss": 0.1041, + "num_input_tokens_seen": 25083088, + "step": 12806 + }, + { + "epoch": 1.6974155069582504, + "grad_norm": 5.681372165679932, + "learning_rate": 1.9883162492034358e-06, + "loss": 0.102, + "num_input_tokens_seen": 25084576, + "step": 12807 + }, + { + "epoch": 1.6975480450629556, + "grad_norm": 0.0850224569439888, + "learning_rate": 1.987976465619887e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25086408, + "step": 12808 + }, + { + "epoch": 1.6976805831676607, + "grad_norm": 2.82230281829834, + "learning_rate": 1.9876366919085047e-06, + "loss": 0.0387, + "num_input_tokens_seen": 25088248, + "step": 12809 + }, + { + "epoch": 1.697813121272366, + "grad_norm": 8.225298881530762, + "learning_rate": 1.98729692807584e-06, + "loss": 0.2317, + "num_input_tokens_seen": 25090704, + "step": 12810 + }, + { + "epoch": 1.697945659377071, + "grad_norm": 6.414100646972656, + "learning_rate": 1.986957174128445e-06, + "loss": 0.0926, + "num_input_tokens_seen": 25093136, + "step": 12811 + }, + { + "epoch": 1.698078197481776, + "grad_norm": 11.341705322265625, + "learning_rate": 1.9866174300728703e-06, + "loss": 0.176, + "num_input_tokens_seen": 25094864, + "step": 12812 + }, + { + "epoch": 1.698210735586481, + "grad_norm": 0.06421298533678055, + "learning_rate": 1.9862776959156647e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25096928, + "step": 12813 + }, + { + "epoch": 1.698343273691186, + "grad_norm": 0.14488598704338074, + "learning_rate": 1.9859379716633802e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25098656, + "step": 12814 + }, + { + "epoch": 1.6984758117958914, + "grad_norm": 0.122245192527771, + "learning_rate": 1.985598257322565e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25101192, + "step": 12815 + }, + { + "epoch": 1.6986083499005964, + "grad_norm": 0.08149103820323944, + "learning_rate": 1.9852585528997708e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25102432, + "step": 12816 + }, + { + "epoch": 1.6987408880053017, + "grad_norm": 0.32439738512039185, + "learning_rate": 1.9849188584015472e-06, + "loss": 0.002, + "num_input_tokens_seen": 25104568, + "step": 12817 + }, + { + "epoch": 1.6988734261100067, + "grad_norm": 7.605825901031494, + "learning_rate": 1.9845791738344437e-06, + "loss": 0.1147, + "num_input_tokens_seen": 25107384, + "step": 12818 + }, + { + "epoch": 1.6990059642147117, + "grad_norm": 18.420122146606445, + "learning_rate": 1.9842394992050085e-06, + "loss": 0.3156, + "num_input_tokens_seen": 25108872, + "step": 12819 + }, + { + "epoch": 1.6991385023194168, + "grad_norm": 0.06565165519714355, + "learning_rate": 1.9838998345197913e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25110680, + "step": 12820 + }, + { + "epoch": 1.6992710404241218, + "grad_norm": 4.081592559814453, + "learning_rate": 1.9835601797853423e-06, + "loss": 0.1525, + "num_input_tokens_seen": 25112800, + "step": 12821 + }, + { + "epoch": 1.699403578528827, + "grad_norm": 7.03947639465332, + "learning_rate": 1.9832205350082086e-06, + "loss": 0.0638, + "num_input_tokens_seen": 25114688, + "step": 12822 + }, + { + "epoch": 1.699536116633532, + "grad_norm": 0.05665195733308792, + "learning_rate": 1.9828809001949403e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25116784, + "step": 12823 + }, + { + "epoch": 1.6996686547382374, + "grad_norm": 7.985161781311035, + "learning_rate": 1.982541275352084e-06, + "loss": 0.1382, + "num_input_tokens_seen": 25119056, + "step": 12824 + }, + { + "epoch": 1.6998011928429424, + "grad_norm": 2.7630252838134766, + "learning_rate": 1.982201660486189e-06, + "loss": 0.054, + "num_input_tokens_seen": 25120984, + "step": 12825 + }, + { + "epoch": 1.6999337309476474, + "grad_norm": 6.4977240562438965, + "learning_rate": 1.9818620556038038e-06, + "loss": 0.1314, + "num_input_tokens_seen": 25123136, + "step": 12826 + }, + { + "epoch": 1.7000662690523525, + "grad_norm": 5.230261325836182, + "learning_rate": 1.9815224607114756e-06, + "loss": 0.1442, + "num_input_tokens_seen": 25125728, + "step": 12827 + }, + { + "epoch": 1.7001988071570575, + "grad_norm": 3.487452268600464, + "learning_rate": 1.9811828758157516e-06, + "loss": 0.0159, + "num_input_tokens_seen": 25127704, + "step": 12828 + }, + { + "epoch": 1.7003313452617628, + "grad_norm": 0.13720905780792236, + "learning_rate": 1.9808433009231805e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25130696, + "step": 12829 + }, + { + "epoch": 1.7004638833664678, + "grad_norm": 12.22507381439209, + "learning_rate": 1.9805037360403077e-06, + "loss": 0.2611, + "num_input_tokens_seen": 25133464, + "step": 12830 + }, + { + "epoch": 1.700596421471173, + "grad_norm": 6.1097822189331055, + "learning_rate": 1.9801641811736812e-06, + "loss": 0.0701, + "num_input_tokens_seen": 25135320, + "step": 12831 + }, + { + "epoch": 1.700728959575878, + "grad_norm": 14.340020179748535, + "learning_rate": 1.9798246363298483e-06, + "loss": 0.3184, + "num_input_tokens_seen": 25137288, + "step": 12832 + }, + { + "epoch": 1.7008614976805831, + "grad_norm": 2.389646530151367, + "learning_rate": 1.979485101515356e-06, + "loss": 0.0079, + "num_input_tokens_seen": 25139168, + "step": 12833 + }, + { + "epoch": 1.7009940357852882, + "grad_norm": 7.921056747436523, + "learning_rate": 1.979145576736749e-06, + "loss": 0.174, + "num_input_tokens_seen": 25141184, + "step": 12834 + }, + { + "epoch": 1.7011265738899932, + "grad_norm": 5.061671257019043, + "learning_rate": 1.9788060620005753e-06, + "loss": 0.0873, + "num_input_tokens_seen": 25143912, + "step": 12835 + }, + { + "epoch": 1.7012591119946985, + "grad_norm": 0.09500450640916824, + "learning_rate": 1.9784665573133792e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25145664, + "step": 12836 + }, + { + "epoch": 1.7013916500994037, + "grad_norm": 0.07005027681589127, + "learning_rate": 1.978127062681708e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25147416, + "step": 12837 + }, + { + "epoch": 1.7015241882041088, + "grad_norm": 5.714458465576172, + "learning_rate": 1.977787578112108e-06, + "loss": 0.1814, + "num_input_tokens_seen": 25149664, + "step": 12838 + }, + { + "epoch": 1.7016567263088138, + "grad_norm": 0.32779788970947266, + "learning_rate": 1.977448103611123e-06, + "loss": 0.002, + "num_input_tokens_seen": 25151080, + "step": 12839 + }, + { + "epoch": 1.7017892644135189, + "grad_norm": 3.521857738494873, + "learning_rate": 1.9771086391852997e-06, + "loss": 0.142, + "num_input_tokens_seen": 25153248, + "step": 12840 + }, + { + "epoch": 1.701921802518224, + "grad_norm": 2.8645503520965576, + "learning_rate": 1.976769184841181e-06, + "loss": 0.0404, + "num_input_tokens_seen": 25155544, + "step": 12841 + }, + { + "epoch": 1.702054340622929, + "grad_norm": 8.962677001953125, + "learning_rate": 1.976429740585315e-06, + "loss": 0.326, + "num_input_tokens_seen": 25158640, + "step": 12842 + }, + { + "epoch": 1.7021868787276342, + "grad_norm": 7.273736000061035, + "learning_rate": 1.9760903064242443e-06, + "loss": 0.1915, + "num_input_tokens_seen": 25160368, + "step": 12843 + }, + { + "epoch": 1.7023194168323394, + "grad_norm": 10.350948333740234, + "learning_rate": 1.975750882364514e-06, + "loss": 0.1862, + "num_input_tokens_seen": 25162264, + "step": 12844 + }, + { + "epoch": 1.7024519549370445, + "grad_norm": 4.000223159790039, + "learning_rate": 1.975411468412668e-06, + "loss": 0.0811, + "num_input_tokens_seen": 25164552, + "step": 12845 + }, + { + "epoch": 1.7025844930417495, + "grad_norm": 0.11374349892139435, + "learning_rate": 1.9750720645752504e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25166344, + "step": 12846 + }, + { + "epoch": 1.7027170311464546, + "grad_norm": 3.1200685501098633, + "learning_rate": 1.9747326708588068e-06, + "loss": 0.031, + "num_input_tokens_seen": 25169040, + "step": 12847 + }, + { + "epoch": 1.7028495692511596, + "grad_norm": 0.2940390408039093, + "learning_rate": 1.9743932872698782e-06, + "loss": 0.0029, + "num_input_tokens_seen": 25170896, + "step": 12848 + }, + { + "epoch": 1.7029821073558649, + "grad_norm": 6.407944202423096, + "learning_rate": 1.974053913815011e-06, + "loss": 0.0864, + "num_input_tokens_seen": 25173216, + "step": 12849 + }, + { + "epoch": 1.70311464546057, + "grad_norm": 0.043770596385002136, + "learning_rate": 1.973714550500747e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25174736, + "step": 12850 + }, + { + "epoch": 1.7032471835652752, + "grad_norm": 4.929108142852783, + "learning_rate": 1.9733751973336286e-06, + "loss": 0.2188, + "num_input_tokens_seen": 25176568, + "step": 12851 + }, + { + "epoch": 1.7033797216699802, + "grad_norm": 0.05548323318362236, + "learning_rate": 1.9730358543202e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25177736, + "step": 12852 + }, + { + "epoch": 1.7035122597746852, + "grad_norm": 7.9768147468566895, + "learning_rate": 1.972696521467004e-06, + "loss": 0.088, + "num_input_tokens_seen": 25179480, + "step": 12853 + }, + { + "epoch": 1.7036447978793903, + "grad_norm": 7.188138484954834, + "learning_rate": 1.9723571987805827e-06, + "loss": 0.1615, + "num_input_tokens_seen": 25180896, + "step": 12854 + }, + { + "epoch": 1.7037773359840953, + "grad_norm": 0.2759703993797302, + "learning_rate": 1.972017886267479e-06, + "loss": 0.0015, + "num_input_tokens_seen": 25183240, + "step": 12855 + }, + { + "epoch": 1.7039098740888006, + "grad_norm": 4.041205883026123, + "learning_rate": 1.9716785839342346e-06, + "loss": 0.0559, + "num_input_tokens_seen": 25185760, + "step": 12856 + }, + { + "epoch": 1.7040424121935056, + "grad_norm": 2.1722493171691895, + "learning_rate": 1.9713392917873904e-06, + "loss": 0.0279, + "num_input_tokens_seen": 25188016, + "step": 12857 + }, + { + "epoch": 1.7041749502982109, + "grad_norm": 3.214900255203247, + "learning_rate": 1.9710000098334904e-06, + "loss": 0.0429, + "num_input_tokens_seen": 25189560, + "step": 12858 + }, + { + "epoch": 1.704307488402916, + "grad_norm": 4.12236213684082, + "learning_rate": 1.9706607380790753e-06, + "loss": 0.015, + "num_input_tokens_seen": 25191360, + "step": 12859 + }, + { + "epoch": 1.704440026507621, + "grad_norm": 4.766012191772461, + "learning_rate": 1.9703214765306856e-06, + "loss": 0.0578, + "num_input_tokens_seen": 25192976, + "step": 12860 + }, + { + "epoch": 1.704572564612326, + "grad_norm": 4.3406782150268555, + "learning_rate": 1.969982225194864e-06, + "loss": 0.044, + "num_input_tokens_seen": 25195176, + "step": 12861 + }, + { + "epoch": 1.704705102717031, + "grad_norm": 2.634781837463379, + "learning_rate": 1.96964298407815e-06, + "loss": 0.0144, + "num_input_tokens_seen": 25196568, + "step": 12862 + }, + { + "epoch": 1.7048376408217363, + "grad_norm": 3.550370454788208, + "learning_rate": 1.969303753187085e-06, + "loss": 0.0241, + "num_input_tokens_seen": 25197896, + "step": 12863 + }, + { + "epoch": 1.7049701789264413, + "grad_norm": 0.29504385590553284, + "learning_rate": 1.968964532528211e-06, + "loss": 0.0021, + "num_input_tokens_seen": 25199928, + "step": 12864 + }, + { + "epoch": 1.7051027170311466, + "grad_norm": 7.524374485015869, + "learning_rate": 1.968625322108067e-06, + "loss": 0.1624, + "num_input_tokens_seen": 25202344, + "step": 12865 + }, + { + "epoch": 1.7052352551358516, + "grad_norm": 1.0269582271575928, + "learning_rate": 1.968286121933192e-06, + "loss": 0.0111, + "num_input_tokens_seen": 25203776, + "step": 12866 + }, + { + "epoch": 1.7053677932405567, + "grad_norm": 2.7155814170837402, + "learning_rate": 1.967946932010128e-06, + "loss": 0.0263, + "num_input_tokens_seen": 25205744, + "step": 12867 + }, + { + "epoch": 1.7055003313452617, + "grad_norm": 0.11605389416217804, + "learning_rate": 1.9676077523454147e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25207528, + "step": 12868 + }, + { + "epoch": 1.7056328694499667, + "grad_norm": 4.656682014465332, + "learning_rate": 1.9672685829455907e-06, + "loss": 0.0593, + "num_input_tokens_seen": 25209328, + "step": 12869 + }, + { + "epoch": 1.705765407554672, + "grad_norm": 8.918543815612793, + "learning_rate": 1.9669294238171965e-06, + "loss": 0.321, + "num_input_tokens_seen": 25211432, + "step": 12870 + }, + { + "epoch": 1.705897945659377, + "grad_norm": 6.532780170440674, + "learning_rate": 1.966590274966771e-06, + "loss": 0.1576, + "num_input_tokens_seen": 25212968, + "step": 12871 + }, + { + "epoch": 1.7060304837640823, + "grad_norm": 7.527016639709473, + "learning_rate": 1.9662511364008515e-06, + "loss": 0.1332, + "num_input_tokens_seen": 25215680, + "step": 12872 + }, + { + "epoch": 1.7061630218687873, + "grad_norm": 10.352439880371094, + "learning_rate": 1.965912008125979e-06, + "loss": 0.1764, + "num_input_tokens_seen": 25216768, + "step": 12873 + }, + { + "epoch": 1.7062955599734924, + "grad_norm": 8.730112075805664, + "learning_rate": 1.965572890148692e-06, + "loss": 0.2169, + "num_input_tokens_seen": 25218848, + "step": 12874 + }, + { + "epoch": 1.7064280980781974, + "grad_norm": 0.13366344571113586, + "learning_rate": 1.965233782475528e-06, + "loss": 0.001, + "num_input_tokens_seen": 25220408, + "step": 12875 + }, + { + "epoch": 1.7065606361829024, + "grad_norm": 3.3352928161621094, + "learning_rate": 1.9648946851130257e-06, + "loss": 0.0754, + "num_input_tokens_seen": 25223032, + "step": 12876 + }, + { + "epoch": 1.7066931742876077, + "grad_norm": 3.0042777061462402, + "learning_rate": 1.9645555980677223e-06, + "loss": 0.0265, + "num_input_tokens_seen": 25225336, + "step": 12877 + }, + { + "epoch": 1.706825712392313, + "grad_norm": 2.6346731185913086, + "learning_rate": 1.964216521346157e-06, + "loss": 0.0167, + "num_input_tokens_seen": 25227080, + "step": 12878 + }, + { + "epoch": 1.706958250497018, + "grad_norm": 0.4826218783855438, + "learning_rate": 1.9638774549548667e-06, + "loss": 0.0024, + "num_input_tokens_seen": 25228352, + "step": 12879 + }, + { + "epoch": 1.707090788601723, + "grad_norm": 12.289925575256348, + "learning_rate": 1.9635383989003893e-06, + "loss": 0.1238, + "num_input_tokens_seen": 25229624, + "step": 12880 + }, + { + "epoch": 1.707223326706428, + "grad_norm": 1.0928581953048706, + "learning_rate": 1.963199353189261e-06, + "loss": 0.0053, + "num_input_tokens_seen": 25231536, + "step": 12881 + }, + { + "epoch": 1.707355864811133, + "grad_norm": 6.0725531578063965, + "learning_rate": 1.9628603178280194e-06, + "loss": 0.0763, + "num_input_tokens_seen": 25233512, + "step": 12882 + }, + { + "epoch": 1.7074884029158381, + "grad_norm": 0.18519461154937744, + "learning_rate": 1.9625212928232017e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25235264, + "step": 12883 + }, + { + "epoch": 1.7076209410205434, + "grad_norm": 0.1186414584517479, + "learning_rate": 1.962182278181344e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25236376, + "step": 12884 + }, + { + "epoch": 1.7077534791252487, + "grad_norm": 0.196207195520401, + "learning_rate": 1.9618432739089843e-06, + "loss": 0.0022, + "num_input_tokens_seen": 25238568, + "step": 12885 + }, + { + "epoch": 1.7078860172299537, + "grad_norm": 8.262133598327637, + "learning_rate": 1.961504280012657e-06, + "loss": 0.1467, + "num_input_tokens_seen": 25240464, + "step": 12886 + }, + { + "epoch": 1.7080185553346587, + "grad_norm": 9.807334899902344, + "learning_rate": 1.961165296498898e-06, + "loss": 0.0695, + "num_input_tokens_seen": 25242432, + "step": 12887 + }, + { + "epoch": 1.7081510934393638, + "grad_norm": 4.123963832855225, + "learning_rate": 1.9608263233742435e-06, + "loss": 0.1098, + "num_input_tokens_seen": 25244704, + "step": 12888 + }, + { + "epoch": 1.7082836315440688, + "grad_norm": 1.6036781072616577, + "learning_rate": 1.9604873606452303e-06, + "loss": 0.018, + "num_input_tokens_seen": 25246352, + "step": 12889 + }, + { + "epoch": 1.708416169648774, + "grad_norm": 8.156929969787598, + "learning_rate": 1.9601484083183924e-06, + "loss": 0.1065, + "num_input_tokens_seen": 25248592, + "step": 12890 + }, + { + "epoch": 1.7085487077534791, + "grad_norm": 0.09577160328626633, + "learning_rate": 1.9598094664002664e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25250888, + "step": 12891 + }, + { + "epoch": 1.7086812458581844, + "grad_norm": 9.051547050476074, + "learning_rate": 1.9594705348973858e-06, + "loss": 0.211, + "num_input_tokens_seen": 25252800, + "step": 12892 + }, + { + "epoch": 1.7088137839628894, + "grad_norm": 1.5764238834381104, + "learning_rate": 1.959131613816286e-06, + "loss": 0.0167, + "num_input_tokens_seen": 25254112, + "step": 12893 + }, + { + "epoch": 1.7089463220675944, + "grad_norm": 21.03456687927246, + "learning_rate": 1.9587927031635024e-06, + "loss": 0.7037, + "num_input_tokens_seen": 25256128, + "step": 12894 + }, + { + "epoch": 1.7090788601722995, + "grad_norm": 13.756447792053223, + "learning_rate": 1.958453802945569e-06, + "loss": 0.2294, + "num_input_tokens_seen": 25257848, + "step": 12895 + }, + { + "epoch": 1.7092113982770045, + "grad_norm": 7.335909843444824, + "learning_rate": 1.9581149131690192e-06, + "loss": 0.1319, + "num_input_tokens_seen": 25259888, + "step": 12896 + }, + { + "epoch": 1.7093439363817098, + "grad_norm": 14.74302864074707, + "learning_rate": 1.9577760338403887e-06, + "loss": 0.2358, + "num_input_tokens_seen": 25262352, + "step": 12897 + }, + { + "epoch": 1.7094764744864148, + "grad_norm": 11.128101348876953, + "learning_rate": 1.957437164966209e-06, + "loss": 0.0626, + "num_input_tokens_seen": 25264176, + "step": 12898 + }, + { + "epoch": 1.70960901259112, + "grad_norm": 3.5048234462738037, + "learning_rate": 1.9570983065530154e-06, + "loss": 0.048, + "num_input_tokens_seen": 25265752, + "step": 12899 + }, + { + "epoch": 1.7097415506958251, + "grad_norm": 3.2065393924713135, + "learning_rate": 1.956759458607342e-06, + "loss": 0.0916, + "num_input_tokens_seen": 25267608, + "step": 12900 + }, + { + "epoch": 1.7098740888005302, + "grad_norm": 11.249932289123535, + "learning_rate": 1.9564206211357203e-06, + "loss": 0.133, + "num_input_tokens_seen": 25269584, + "step": 12901 + }, + { + "epoch": 1.7100066269052352, + "grad_norm": 3.8407392501831055, + "learning_rate": 1.9560817941446843e-06, + "loss": 0.05, + "num_input_tokens_seen": 25271288, + "step": 12902 + }, + { + "epoch": 1.7101391650099402, + "grad_norm": 1.8990479707717896, + "learning_rate": 1.9557429776407653e-06, + "loss": 0.0228, + "num_input_tokens_seen": 25272728, + "step": 12903 + }, + { + "epoch": 1.7102717031146455, + "grad_norm": 3.9293930530548096, + "learning_rate": 1.9554041716304987e-06, + "loss": 0.1042, + "num_input_tokens_seen": 25275072, + "step": 12904 + }, + { + "epoch": 1.7104042412193505, + "grad_norm": 11.22649097442627, + "learning_rate": 1.9550653761204145e-06, + "loss": 0.2575, + "num_input_tokens_seen": 25277120, + "step": 12905 + }, + { + "epoch": 1.7105367793240558, + "grad_norm": 0.17238593101501465, + "learning_rate": 1.9547265911170465e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25279400, + "step": 12906 + }, + { + "epoch": 1.7106693174287608, + "grad_norm": 0.1866070181131363, + "learning_rate": 1.9543878166269252e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25280752, + "step": 12907 + }, + { + "epoch": 1.7108018555334659, + "grad_norm": 6.779706954956055, + "learning_rate": 1.954049052656583e-06, + "loss": 0.0431, + "num_input_tokens_seen": 25282480, + "step": 12908 + }, + { + "epoch": 1.710934393638171, + "grad_norm": 7.632396697998047, + "learning_rate": 1.953710299212553e-06, + "loss": 0.0676, + "num_input_tokens_seen": 25284840, + "step": 12909 + }, + { + "epoch": 1.711066931742876, + "grad_norm": 0.09920109063386917, + "learning_rate": 1.9533715563013645e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25286504, + "step": 12910 + }, + { + "epoch": 1.7111994698475812, + "grad_norm": 0.17513515055179596, + "learning_rate": 1.9530328239295496e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25288984, + "step": 12911 + }, + { + "epoch": 1.7113320079522862, + "grad_norm": 0.07903392612934113, + "learning_rate": 1.9526941021036395e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25291656, + "step": 12912 + }, + { + "epoch": 1.7114645460569915, + "grad_norm": 0.1345091015100479, + "learning_rate": 1.952355390830164e-06, + "loss": 0.001, + "num_input_tokens_seen": 25293104, + "step": 12913 + }, + { + "epoch": 1.7115970841616965, + "grad_norm": 11.88608169555664, + "learning_rate": 1.952016690115654e-06, + "loss": 0.1905, + "num_input_tokens_seen": 25294808, + "step": 12914 + }, + { + "epoch": 1.7117296222664016, + "grad_norm": 0.10170052945613861, + "learning_rate": 1.9516779999666414e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25296280, + "step": 12915 + }, + { + "epoch": 1.7118621603711066, + "grad_norm": 0.13856835663318634, + "learning_rate": 1.951339320389655e-06, + "loss": 0.001, + "num_input_tokens_seen": 25297952, + "step": 12916 + }, + { + "epoch": 1.7119946984758116, + "grad_norm": 8.13261890411377, + "learning_rate": 1.9510006513912246e-06, + "loss": 0.0702, + "num_input_tokens_seen": 25299320, + "step": 12917 + }, + { + "epoch": 1.712127236580517, + "grad_norm": 0.2003929316997528, + "learning_rate": 1.9506619929778813e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25301040, + "step": 12918 + }, + { + "epoch": 1.712259774685222, + "grad_norm": 0.603008508682251, + "learning_rate": 1.950323345156152e-06, + "loss": 0.0047, + "num_input_tokens_seen": 25302504, + "step": 12919 + }, + { + "epoch": 1.7123923127899272, + "grad_norm": 0.052780456840991974, + "learning_rate": 1.9499847079325685e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25303744, + "step": 12920 + }, + { + "epoch": 1.7125248508946322, + "grad_norm": 10.793846130371094, + "learning_rate": 1.9496460813136602e-06, + "loss": 0.2512, + "num_input_tokens_seen": 25306144, + "step": 12921 + }, + { + "epoch": 1.7126573889993373, + "grad_norm": 5.912188529968262, + "learning_rate": 1.9493074653059542e-06, + "loss": 0.232, + "num_input_tokens_seen": 25307864, + "step": 12922 + }, + { + "epoch": 1.7127899271040423, + "grad_norm": 0.06489851325750351, + "learning_rate": 1.9489688599159807e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25310784, + "step": 12923 + }, + { + "epoch": 1.7129224652087474, + "grad_norm": 5.481436252593994, + "learning_rate": 1.948630265150267e-06, + "loss": 0.134, + "num_input_tokens_seen": 25312800, + "step": 12924 + }, + { + "epoch": 1.7130550033134526, + "grad_norm": 4.623965740203857, + "learning_rate": 1.948291681015343e-06, + "loss": 0.1298, + "num_input_tokens_seen": 25314040, + "step": 12925 + }, + { + "epoch": 1.7131875414181579, + "grad_norm": 9.266488075256348, + "learning_rate": 1.9479531075177354e-06, + "loss": 0.1475, + "num_input_tokens_seen": 25315728, + "step": 12926 + }, + { + "epoch": 1.713320079522863, + "grad_norm": 0.7103762030601501, + "learning_rate": 1.947614544663973e-06, + "loss": 0.0046, + "num_input_tokens_seen": 25317664, + "step": 12927 + }, + { + "epoch": 1.713452617627568, + "grad_norm": 7.603853225708008, + "learning_rate": 1.947275992460583e-06, + "loss": 0.1927, + "num_input_tokens_seen": 25319960, + "step": 12928 + }, + { + "epoch": 1.713585155732273, + "grad_norm": 3.0583081245422363, + "learning_rate": 1.946937450914093e-06, + "loss": 0.0187, + "num_input_tokens_seen": 25322976, + "step": 12929 + }, + { + "epoch": 1.713717693836978, + "grad_norm": 0.05097518861293793, + "learning_rate": 1.9465989200310315e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25324032, + "step": 12930 + }, + { + "epoch": 1.7138502319416833, + "grad_norm": 2.333779811859131, + "learning_rate": 1.9462603998179237e-06, + "loss": 0.0128, + "num_input_tokens_seen": 25326072, + "step": 12931 + }, + { + "epoch": 1.7139827700463883, + "grad_norm": 6.8236823081970215, + "learning_rate": 1.945921890281298e-06, + "loss": 0.1774, + "num_input_tokens_seen": 25327728, + "step": 12932 + }, + { + "epoch": 1.7141153081510936, + "grad_norm": 1.0247021913528442, + "learning_rate": 1.9455833914276805e-06, + "loss": 0.027, + "num_input_tokens_seen": 25329344, + "step": 12933 + }, + { + "epoch": 1.7142478462557986, + "grad_norm": 0.08461688458919525, + "learning_rate": 1.9452449032635966e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25332464, + "step": 12934 + }, + { + "epoch": 1.7143803843605037, + "grad_norm": 12.286478042602539, + "learning_rate": 1.9449064257955745e-06, + "loss": 0.131, + "num_input_tokens_seen": 25334256, + "step": 12935 + }, + { + "epoch": 1.7145129224652087, + "grad_norm": 0.03181973844766617, + "learning_rate": 1.9445679590301395e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25336192, + "step": 12936 + }, + { + "epoch": 1.7146454605699137, + "grad_norm": 9.853219032287598, + "learning_rate": 1.944229502973817e-06, + "loss": 0.2565, + "num_input_tokens_seen": 25338688, + "step": 12937 + }, + { + "epoch": 1.714777998674619, + "grad_norm": 1.6905488967895508, + "learning_rate": 1.9438910576331336e-06, + "loss": 0.0157, + "num_input_tokens_seen": 25340520, + "step": 12938 + }, + { + "epoch": 1.714910536779324, + "grad_norm": 1.551859974861145, + "learning_rate": 1.9435526230146135e-06, + "loss": 0.0169, + "num_input_tokens_seen": 25342424, + "step": 12939 + }, + { + "epoch": 1.7150430748840293, + "grad_norm": 0.029570886865258217, + "learning_rate": 1.9432141991247834e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25344520, + "step": 12940 + }, + { + "epoch": 1.7151756129887343, + "grad_norm": 0.024803733453154564, + "learning_rate": 1.9428757859701676e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25346280, + "step": 12941 + }, + { + "epoch": 1.7153081510934394, + "grad_norm": 4.9073805809021, + "learning_rate": 1.942537383557291e-06, + "loss": 0.0585, + "num_input_tokens_seen": 25348296, + "step": 12942 + }, + { + "epoch": 1.7154406891981444, + "grad_norm": 6.587100505828857, + "learning_rate": 1.9421989918926783e-06, + "loss": 0.0598, + "num_input_tokens_seen": 25350136, + "step": 12943 + }, + { + "epoch": 1.7155732273028494, + "grad_norm": 4.08974027633667, + "learning_rate": 1.9418606109828535e-06, + "loss": 0.1186, + "num_input_tokens_seen": 25351440, + "step": 12944 + }, + { + "epoch": 1.7157057654075547, + "grad_norm": 3.507312297821045, + "learning_rate": 1.9415222408343408e-06, + "loss": 0.0448, + "num_input_tokens_seen": 25352808, + "step": 12945 + }, + { + "epoch": 1.7158383035122597, + "grad_norm": 8.362565994262695, + "learning_rate": 1.941183881453665e-06, + "loss": 0.0936, + "num_input_tokens_seen": 25354960, + "step": 12946 + }, + { + "epoch": 1.715970841616965, + "grad_norm": 7.943873405456543, + "learning_rate": 1.94084553284735e-06, + "loss": 0.1312, + "num_input_tokens_seen": 25357448, + "step": 12947 + }, + { + "epoch": 1.71610337972167, + "grad_norm": 0.4840361773967743, + "learning_rate": 1.9405071950219185e-06, + "loss": 0.0065, + "num_input_tokens_seen": 25360488, + "step": 12948 + }, + { + "epoch": 1.716235917826375, + "grad_norm": 3.952924966812134, + "learning_rate": 1.940168867983894e-06, + "loss": 0.0325, + "num_input_tokens_seen": 25362192, + "step": 12949 + }, + { + "epoch": 1.7163684559310801, + "grad_norm": 9.478523254394531, + "learning_rate": 1.9398305517397994e-06, + "loss": 0.2605, + "num_input_tokens_seen": 25364152, + "step": 12950 + }, + { + "epoch": 1.7165009940357852, + "grad_norm": 0.018006248399615288, + "learning_rate": 1.9394922462961594e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25365736, + "step": 12951 + }, + { + "epoch": 1.7166335321404904, + "grad_norm": 1.2977339029312134, + "learning_rate": 1.9391539516594947e-06, + "loss": 0.0181, + "num_input_tokens_seen": 25367152, + "step": 12952 + }, + { + "epoch": 1.7167660702451955, + "grad_norm": 9.765443801879883, + "learning_rate": 1.9388156678363296e-06, + "loss": 0.161, + "num_input_tokens_seen": 25369000, + "step": 12953 + }, + { + "epoch": 1.7168986083499007, + "grad_norm": 0.019091330468654633, + "learning_rate": 1.938477394833185e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25371936, + "step": 12954 + }, + { + "epoch": 1.7170311464546058, + "grad_norm": 8.533186912536621, + "learning_rate": 1.9381391326565825e-06, + "loss": 0.3349, + "num_input_tokens_seen": 25374328, + "step": 12955 + }, + { + "epoch": 1.7171636845593108, + "grad_norm": 0.030274169519543648, + "learning_rate": 1.9378008813130465e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25376424, + "step": 12956 + }, + { + "epoch": 1.7172962226640158, + "grad_norm": 3.8452515602111816, + "learning_rate": 1.937462640809098e-06, + "loss": 0.0324, + "num_input_tokens_seen": 25379008, + "step": 12957 + }, + { + "epoch": 1.7174287607687209, + "grad_norm": 7.430222511291504, + "learning_rate": 1.9371244111512566e-06, + "loss": 0.227, + "num_input_tokens_seen": 25381856, + "step": 12958 + }, + { + "epoch": 1.7175612988734261, + "grad_norm": 0.11693737655878067, + "learning_rate": 1.9367861923460457e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25383960, + "step": 12959 + }, + { + "epoch": 1.7176938369781312, + "grad_norm": 0.7076490521430969, + "learning_rate": 1.9364479843999844e-06, + "loss": 0.0059, + "num_input_tokens_seen": 25385720, + "step": 12960 + }, + { + "epoch": 1.7178263750828364, + "grad_norm": 0.05456510931253433, + "learning_rate": 1.936109787319595e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25388368, + "step": 12961 + }, + { + "epoch": 1.7179589131875415, + "grad_norm": 0.04048958420753479, + "learning_rate": 1.9357716011113988e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25391392, + "step": 12962 + }, + { + "epoch": 1.7180914512922465, + "grad_norm": 0.015053503215312958, + "learning_rate": 1.9354334257819153e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25393552, + "step": 12963 + }, + { + "epoch": 1.7182239893969515, + "grad_norm": 0.02331184223294258, + "learning_rate": 1.935095261337664e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25394992, + "step": 12964 + }, + { + "epoch": 1.7183565275016566, + "grad_norm": 0.024966707453131676, + "learning_rate": 1.9347571077851657e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25398240, + "step": 12965 + }, + { + "epoch": 1.7184890656063618, + "grad_norm": 9.616430282592773, + "learning_rate": 1.9344189651309413e-06, + "loss": 0.1576, + "num_input_tokens_seen": 25400192, + "step": 12966 + }, + { + "epoch": 1.718621603711067, + "grad_norm": 0.6272745132446289, + "learning_rate": 1.934080833381509e-06, + "loss": 0.0117, + "num_input_tokens_seen": 25402176, + "step": 12967 + }, + { + "epoch": 1.7187541418157721, + "grad_norm": 2.9754433631896973, + "learning_rate": 1.9337427125433887e-06, + "loss": 0.0474, + "num_input_tokens_seen": 25404024, + "step": 12968 + }, + { + "epoch": 1.7188866799204772, + "grad_norm": 6.730123519897461, + "learning_rate": 1.933404602623099e-06, + "loss": 0.1755, + "num_input_tokens_seen": 25406656, + "step": 12969 + }, + { + "epoch": 1.7190192180251822, + "grad_norm": 4.9462995529174805, + "learning_rate": 1.9330665036271605e-06, + "loss": 0.0971, + "num_input_tokens_seen": 25408440, + "step": 12970 + }, + { + "epoch": 1.7191517561298872, + "grad_norm": 3.910475492477417, + "learning_rate": 1.9327284155620894e-06, + "loss": 0.0285, + "num_input_tokens_seen": 25410128, + "step": 12971 + }, + { + "epoch": 1.7192842942345923, + "grad_norm": 4.765516757965088, + "learning_rate": 1.932390338434407e-06, + "loss": 0.1699, + "num_input_tokens_seen": 25412120, + "step": 12972 + }, + { + "epoch": 1.7194168323392975, + "grad_norm": 0.9485150575637817, + "learning_rate": 1.93205227225063e-06, + "loss": 0.0073, + "num_input_tokens_seen": 25413696, + "step": 12973 + }, + { + "epoch": 1.7195493704440028, + "grad_norm": 14.877690315246582, + "learning_rate": 1.9317142170172772e-06, + "loss": 0.1385, + "num_input_tokens_seen": 25415472, + "step": 12974 + }, + { + "epoch": 1.7196819085487078, + "grad_norm": 0.026858855038881302, + "learning_rate": 1.9313761727408665e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25417296, + "step": 12975 + }, + { + "epoch": 1.7198144466534129, + "grad_norm": 0.018342316150665283, + "learning_rate": 1.9310381394279145e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25419584, + "step": 12976 + }, + { + "epoch": 1.719946984758118, + "grad_norm": 8.671225547790527, + "learning_rate": 1.9307001170849404e-06, + "loss": 0.1557, + "num_input_tokens_seen": 25421784, + "step": 12977 + }, + { + "epoch": 1.720079522862823, + "grad_norm": 0.030548563227057457, + "learning_rate": 1.9303621057184612e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25423136, + "step": 12978 + }, + { + "epoch": 1.7202120609675282, + "grad_norm": 0.48374390602111816, + "learning_rate": 1.930024105334993e-06, + "loss": 0.0035, + "num_input_tokens_seen": 25424832, + "step": 12979 + }, + { + "epoch": 1.7203445990722332, + "grad_norm": 0.04003541171550751, + "learning_rate": 1.9296861159410537e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25427464, + "step": 12980 + }, + { + "epoch": 1.7204771371769385, + "grad_norm": 0.11772596836090088, + "learning_rate": 1.9293481375431585e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25430272, + "step": 12981 + }, + { + "epoch": 1.7206096752816435, + "grad_norm": 0.01597120612859726, + "learning_rate": 1.9290101701478254e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25431464, + "step": 12982 + }, + { + "epoch": 1.7207422133863486, + "grad_norm": 6.537518501281738, + "learning_rate": 1.928672213761571e-06, + "loss": 0.0543, + "num_input_tokens_seen": 25433232, + "step": 12983 + }, + { + "epoch": 1.7208747514910536, + "grad_norm": 0.38836613297462463, + "learning_rate": 1.928334268390909e-06, + "loss": 0.0023, + "num_input_tokens_seen": 25435816, + "step": 12984 + }, + { + "epoch": 1.7210072895957587, + "grad_norm": 0.6606959700584412, + "learning_rate": 1.927996334042358e-06, + "loss": 0.0032, + "num_input_tokens_seen": 25437248, + "step": 12985 + }, + { + "epoch": 1.721139827700464, + "grad_norm": 0.01738104596734047, + "learning_rate": 1.927658410722431e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25439360, + "step": 12986 + }, + { + "epoch": 1.721272365805169, + "grad_norm": 7.767855167388916, + "learning_rate": 1.927320498437646e-06, + "loss": 0.1018, + "num_input_tokens_seen": 25441456, + "step": 12987 + }, + { + "epoch": 1.7214049039098742, + "grad_norm": 7.30949592590332, + "learning_rate": 1.9269825971945163e-06, + "loss": 0.0966, + "num_input_tokens_seen": 25444120, + "step": 12988 + }, + { + "epoch": 1.7215374420145793, + "grad_norm": 0.005745692178606987, + "learning_rate": 1.9266447069995574e-06, + "loss": 0.0, + "num_input_tokens_seen": 25445192, + "step": 12989 + }, + { + "epoch": 1.7216699801192843, + "grad_norm": 5.081228256225586, + "learning_rate": 1.926306827859284e-06, + "loss": 0.0333, + "num_input_tokens_seen": 25446992, + "step": 12990 + }, + { + "epoch": 1.7218025182239893, + "grad_norm": 9.082262992858887, + "learning_rate": 1.92596895978021e-06, + "loss": 0.2526, + "num_input_tokens_seen": 25450152, + "step": 12991 + }, + { + "epoch": 1.7219350563286944, + "grad_norm": 3.9443247318267822, + "learning_rate": 1.9256311027688516e-06, + "loss": 0.0712, + "num_input_tokens_seen": 25452712, + "step": 12992 + }, + { + "epoch": 1.7220675944333996, + "grad_norm": 1.3829736709594727, + "learning_rate": 1.9252932568317217e-06, + "loss": 0.0096, + "num_input_tokens_seen": 25454152, + "step": 12993 + }, + { + "epoch": 1.7222001325381047, + "grad_norm": 8.036885261535645, + "learning_rate": 1.924955421975334e-06, + "loss": 0.1776, + "num_input_tokens_seen": 25457376, + "step": 12994 + }, + { + "epoch": 1.72233267064281, + "grad_norm": 0.4590553343296051, + "learning_rate": 1.9246175982062032e-06, + "loss": 0.0038, + "num_input_tokens_seen": 25458912, + "step": 12995 + }, + { + "epoch": 1.722465208747515, + "grad_norm": 9.813371658325195, + "learning_rate": 1.924279785530841e-06, + "loss": 0.2084, + "num_input_tokens_seen": 25460872, + "step": 12996 + }, + { + "epoch": 1.72259774685222, + "grad_norm": 3.721602439880371, + "learning_rate": 1.9239419839557618e-06, + "loss": 0.024, + "num_input_tokens_seen": 25462848, + "step": 12997 + }, + { + "epoch": 1.722730284956925, + "grad_norm": 8.09642505645752, + "learning_rate": 1.923604193487479e-06, + "loss": 0.1626, + "num_input_tokens_seen": 25465584, + "step": 12998 + }, + { + "epoch": 1.72286282306163, + "grad_norm": 3.3792200088500977, + "learning_rate": 1.9232664141325045e-06, + "loss": 0.072, + "num_input_tokens_seen": 25467256, + "step": 12999 + }, + { + "epoch": 1.7229953611663353, + "grad_norm": 6.518139362335205, + "learning_rate": 1.922928645897352e-06, + "loss": 0.0907, + "num_input_tokens_seen": 25469816, + "step": 13000 + }, + { + "epoch": 1.7231278992710404, + "grad_norm": 5.251297473907471, + "learning_rate": 1.9225908887885335e-06, + "loss": 0.0391, + "num_input_tokens_seen": 25471760, + "step": 13001 + }, + { + "epoch": 1.7232604373757456, + "grad_norm": 0.06077706441283226, + "learning_rate": 1.9222531428125594e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25473336, + "step": 13002 + }, + { + "epoch": 1.7233929754804507, + "grad_norm": 0.9986122846603394, + "learning_rate": 1.9219154079759444e-06, + "loss": 0.0044, + "num_input_tokens_seen": 25475424, + "step": 13003 + }, + { + "epoch": 1.7235255135851557, + "grad_norm": 10.366222381591797, + "learning_rate": 1.9215776842851997e-06, + "loss": 0.1737, + "num_input_tokens_seen": 25477024, + "step": 13004 + }, + { + "epoch": 1.7236580516898607, + "grad_norm": 9.17481803894043, + "learning_rate": 1.921239971746835e-06, + "loss": 0.0655, + "num_input_tokens_seen": 25478544, + "step": 13005 + }, + { + "epoch": 1.7237905897945658, + "grad_norm": 0.4798559546470642, + "learning_rate": 1.920902270367364e-06, + "loss": 0.0036, + "num_input_tokens_seen": 25480784, + "step": 13006 + }, + { + "epoch": 1.723923127899271, + "grad_norm": 0.03695900738239288, + "learning_rate": 1.920564580153296e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25482432, + "step": 13007 + }, + { + "epoch": 1.7240556660039763, + "grad_norm": 9.76543140411377, + "learning_rate": 1.9202269011111425e-06, + "loss": 0.1283, + "num_input_tokens_seen": 25483712, + "step": 13008 + }, + { + "epoch": 1.7241882041086813, + "grad_norm": 11.855833053588867, + "learning_rate": 1.919889233247415e-06, + "loss": 0.2655, + "num_input_tokens_seen": 25485432, + "step": 13009 + }, + { + "epoch": 1.7243207422133864, + "grad_norm": 16.928966522216797, + "learning_rate": 1.9195515765686237e-06, + "loss": 0.4454, + "num_input_tokens_seen": 25487728, + "step": 13010 + }, + { + "epoch": 1.7244532803180914, + "grad_norm": 0.03161786124110222, + "learning_rate": 1.9192139310812775e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25489504, + "step": 13011 + }, + { + "epoch": 1.7245858184227965, + "grad_norm": 0.618473470211029, + "learning_rate": 1.9188762967918872e-06, + "loss": 0.003, + "num_input_tokens_seen": 25491968, + "step": 13012 + }, + { + "epoch": 1.7247183565275015, + "grad_norm": 0.17127221822738647, + "learning_rate": 1.9185386737069633e-06, + "loss": 0.0011, + "num_input_tokens_seen": 25493896, + "step": 13013 + }, + { + "epoch": 1.7248508946322068, + "grad_norm": 0.016987809911370277, + "learning_rate": 1.918201061833015e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25496536, + "step": 13014 + }, + { + "epoch": 1.724983432736912, + "grad_norm": 14.260407447814941, + "learning_rate": 1.917863461176552e-06, + "loss": 0.043, + "num_input_tokens_seen": 25497984, + "step": 13015 + }, + { + "epoch": 1.725115970841617, + "grad_norm": 0.014989822171628475, + "learning_rate": 1.9175258717440827e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25499792, + "step": 13016 + }, + { + "epoch": 1.725248508946322, + "grad_norm": 9.37473201751709, + "learning_rate": 1.9171882935421153e-06, + "loss": 0.2087, + "num_input_tokens_seen": 25501992, + "step": 13017 + }, + { + "epoch": 1.7253810470510271, + "grad_norm": 0.022801384329795837, + "learning_rate": 1.9168507265771606e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25503832, + "step": 13018 + }, + { + "epoch": 1.7255135851557322, + "grad_norm": 0.021364616230130196, + "learning_rate": 1.9165131708557264e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25506160, + "step": 13019 + }, + { + "epoch": 1.7256461232604374, + "grad_norm": 0.31378209590911865, + "learning_rate": 1.9161756263843203e-06, + "loss": 0.0014, + "num_input_tokens_seen": 25507712, + "step": 13020 + }, + { + "epoch": 1.7257786613651425, + "grad_norm": 12.725200653076172, + "learning_rate": 1.9158380931694514e-06, + "loss": 0.3018, + "num_input_tokens_seen": 25509632, + "step": 13021 + }, + { + "epoch": 1.7259111994698477, + "grad_norm": 0.026845267042517662, + "learning_rate": 1.9155005712176262e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25511456, + "step": 13022 + }, + { + "epoch": 1.7260437375745528, + "grad_norm": 3.088853359222412, + "learning_rate": 1.9151630605353538e-06, + "loss": 0.1026, + "num_input_tokens_seen": 25512904, + "step": 13023 + }, + { + "epoch": 1.7261762756792578, + "grad_norm": 9.048897743225098, + "learning_rate": 1.9148255611291413e-06, + "loss": 0.1868, + "num_input_tokens_seen": 25514712, + "step": 13024 + }, + { + "epoch": 1.7263088137839628, + "grad_norm": 7.238923072814941, + "learning_rate": 1.914488073005496e-06, + "loss": 0.1861, + "num_input_tokens_seen": 25516072, + "step": 13025 + }, + { + "epoch": 1.7264413518886679, + "grad_norm": 2.513960599899292, + "learning_rate": 1.914150596170924e-06, + "loss": 0.0105, + "num_input_tokens_seen": 25518640, + "step": 13026 + }, + { + "epoch": 1.7265738899933731, + "grad_norm": 0.04520354047417641, + "learning_rate": 1.9138131306319325e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25520896, + "step": 13027 + }, + { + "epoch": 1.7267064280980782, + "grad_norm": 14.103716850280762, + "learning_rate": 1.913475676395028e-06, + "loss": 0.2667, + "num_input_tokens_seen": 25522992, + "step": 13028 + }, + { + "epoch": 1.7268389662027834, + "grad_norm": 5.991722106933594, + "learning_rate": 1.9131382334667173e-06, + "loss": 0.1617, + "num_input_tokens_seen": 25525256, + "step": 13029 + }, + { + "epoch": 1.7269715043074885, + "grad_norm": 0.05218103900551796, + "learning_rate": 1.912800801853507e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25527344, + "step": 13030 + }, + { + "epoch": 1.7271040424121935, + "grad_norm": 0.04634048789739609, + "learning_rate": 1.912463381561902e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25529976, + "step": 13031 + }, + { + "epoch": 1.7272365805168985, + "grad_norm": 0.06538394838571548, + "learning_rate": 1.912125972598408e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25531576, + "step": 13032 + }, + { + "epoch": 1.7273691186216036, + "grad_norm": 8.11008071899414, + "learning_rate": 1.9117885749695303e-06, + "loss": 0.1277, + "num_input_tokens_seen": 25533056, + "step": 13033 + }, + { + "epoch": 1.7275016567263088, + "grad_norm": 9.15585994720459, + "learning_rate": 1.9114511886817753e-06, + "loss": 0.254, + "num_input_tokens_seen": 25535160, + "step": 13034 + }, + { + "epoch": 1.7276341948310139, + "grad_norm": 0.22886191308498383, + "learning_rate": 1.9111138137416475e-06, + "loss": 0.001, + "num_input_tokens_seen": 25536888, + "step": 13035 + }, + { + "epoch": 1.7277667329357191, + "grad_norm": 0.2796797752380371, + "learning_rate": 1.910776450155652e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25538800, + "step": 13036 + }, + { + "epoch": 1.7278992710404242, + "grad_norm": 0.021284453570842743, + "learning_rate": 1.9104390979302923e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25539872, + "step": 13037 + }, + { + "epoch": 1.7280318091451292, + "grad_norm": 17.202625274658203, + "learning_rate": 1.9101017570720732e-06, + "loss": 0.3886, + "num_input_tokens_seen": 25541976, + "step": 13038 + }, + { + "epoch": 1.7281643472498343, + "grad_norm": 0.31213247776031494, + "learning_rate": 1.9097644275875e-06, + "loss": 0.0025, + "num_input_tokens_seen": 25543576, + "step": 13039 + }, + { + "epoch": 1.7282968853545393, + "grad_norm": 18.33671760559082, + "learning_rate": 1.909427109483076e-06, + "loss": 0.4609, + "num_input_tokens_seen": 25545360, + "step": 13040 + }, + { + "epoch": 1.7284294234592446, + "grad_norm": 0.07300771772861481, + "learning_rate": 1.909089802765304e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25546664, + "step": 13041 + }, + { + "epoch": 1.7285619615639496, + "grad_norm": 0.02774183265864849, + "learning_rate": 1.908752507440689e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25547992, + "step": 13042 + }, + { + "epoch": 1.7286944996686548, + "grad_norm": 0.18687549233436584, + "learning_rate": 1.9084152235157326e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25549680, + "step": 13043 + }, + { + "epoch": 1.7288270377733599, + "grad_norm": 13.019149780273438, + "learning_rate": 1.908077950996939e-06, + "loss": 0.1361, + "num_input_tokens_seen": 25552496, + "step": 13044 + }, + { + "epoch": 1.728959575878065, + "grad_norm": 8.08028793334961, + "learning_rate": 1.9077406898908115e-06, + "loss": 0.1816, + "num_input_tokens_seen": 25554640, + "step": 13045 + }, + { + "epoch": 1.72909211398277, + "grad_norm": 4.3986382484436035, + "learning_rate": 1.9074034402038515e-06, + "loss": 0.1204, + "num_input_tokens_seen": 25556280, + "step": 13046 + }, + { + "epoch": 1.729224652087475, + "grad_norm": 8.971397399902344, + "learning_rate": 1.9070662019425626e-06, + "loss": 0.1495, + "num_input_tokens_seen": 25558752, + "step": 13047 + }, + { + "epoch": 1.7293571901921803, + "grad_norm": 4.190964698791504, + "learning_rate": 1.9067289751134455e-06, + "loss": 0.1532, + "num_input_tokens_seen": 25560128, + "step": 13048 + }, + { + "epoch": 1.7294897282968855, + "grad_norm": 12.704618453979492, + "learning_rate": 1.9063917597230035e-06, + "loss": 0.241, + "num_input_tokens_seen": 25562424, + "step": 13049 + }, + { + "epoch": 1.7296222664015906, + "grad_norm": 4.931826591491699, + "learning_rate": 1.9060545557777379e-06, + "loss": 0.07, + "num_input_tokens_seen": 25564824, + "step": 13050 + }, + { + "epoch": 1.7297548045062956, + "grad_norm": 6.741169452667236, + "learning_rate": 1.9057173632841508e-06, + "loss": 0.1122, + "num_input_tokens_seen": 25566456, + "step": 13051 + }, + { + "epoch": 1.7298873426110006, + "grad_norm": 0.03542790561914444, + "learning_rate": 1.905380182248742e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25568600, + "step": 13052 + }, + { + "epoch": 1.7300198807157057, + "grad_norm": 5.197339057922363, + "learning_rate": 1.9050430126780132e-06, + "loss": 0.0363, + "num_input_tokens_seen": 25569840, + "step": 13053 + }, + { + "epoch": 1.7301524188204107, + "grad_norm": 8.976947784423828, + "learning_rate": 1.9047058545784663e-06, + "loss": 0.2729, + "num_input_tokens_seen": 25571432, + "step": 13054 + }, + { + "epoch": 1.730284956925116, + "grad_norm": 0.047798532992601395, + "learning_rate": 1.9043687079566015e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25572864, + "step": 13055 + }, + { + "epoch": 1.7304174950298212, + "grad_norm": 0.2912397086620331, + "learning_rate": 1.9040315728189185e-06, + "loss": 0.0033, + "num_input_tokens_seen": 25574144, + "step": 13056 + }, + { + "epoch": 1.7305500331345263, + "grad_norm": 0.4822416305541992, + "learning_rate": 1.903694449171918e-06, + "loss": 0.0033, + "num_input_tokens_seen": 25575784, + "step": 13057 + }, + { + "epoch": 1.7306825712392313, + "grad_norm": 8.978565216064453, + "learning_rate": 1.9033573370220997e-06, + "loss": 0.2154, + "num_input_tokens_seen": 25578200, + "step": 13058 + }, + { + "epoch": 1.7308151093439363, + "grad_norm": 0.6280280947685242, + "learning_rate": 1.9030202363759632e-06, + "loss": 0.0025, + "num_input_tokens_seen": 25579872, + "step": 13059 + }, + { + "epoch": 1.7309476474486414, + "grad_norm": 5.788191795349121, + "learning_rate": 1.9026831472400089e-06, + "loss": 0.0508, + "num_input_tokens_seen": 25581328, + "step": 13060 + }, + { + "epoch": 1.7310801855533466, + "grad_norm": 14.122097969055176, + "learning_rate": 1.9023460696207355e-06, + "loss": 0.21, + "num_input_tokens_seen": 25583104, + "step": 13061 + }, + { + "epoch": 1.7312127236580517, + "grad_norm": 0.884870707988739, + "learning_rate": 1.9020090035246424e-06, + "loss": 0.0068, + "num_input_tokens_seen": 25585088, + "step": 13062 + }, + { + "epoch": 1.731345261762757, + "grad_norm": 6.882485866546631, + "learning_rate": 1.9016719489582285e-06, + "loss": 0.1528, + "num_input_tokens_seen": 25587280, + "step": 13063 + }, + { + "epoch": 1.731477799867462, + "grad_norm": 6.080814361572266, + "learning_rate": 1.9013349059279909e-06, + "loss": 0.1395, + "num_input_tokens_seen": 25589328, + "step": 13064 + }, + { + "epoch": 1.731610337972167, + "grad_norm": 7.457761764526367, + "learning_rate": 1.90099787444043e-06, + "loss": 0.0887, + "num_input_tokens_seen": 25591040, + "step": 13065 + }, + { + "epoch": 1.731742876076872, + "grad_norm": 1.1022241115570068, + "learning_rate": 1.9006608545020438e-06, + "loss": 0.0104, + "num_input_tokens_seen": 25593216, + "step": 13066 + }, + { + "epoch": 1.731875414181577, + "grad_norm": 9.114222526550293, + "learning_rate": 1.9003238461193293e-06, + "loss": 0.3008, + "num_input_tokens_seen": 25595280, + "step": 13067 + }, + { + "epoch": 1.7320079522862823, + "grad_norm": 0.07977958768606186, + "learning_rate": 1.8999868492987852e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25597384, + "step": 13068 + }, + { + "epoch": 1.7321404903909874, + "grad_norm": 0.48369911313056946, + "learning_rate": 1.8996498640469074e-06, + "loss": 0.0036, + "num_input_tokens_seen": 25598432, + "step": 13069 + }, + { + "epoch": 1.7322730284956926, + "grad_norm": 6.657774448394775, + "learning_rate": 1.8993128903701957e-06, + "loss": 0.0726, + "num_input_tokens_seen": 25600096, + "step": 13070 + }, + { + "epoch": 1.7324055666003977, + "grad_norm": 0.02275262027978897, + "learning_rate": 1.8989759282751452e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25601984, + "step": 13071 + }, + { + "epoch": 1.7325381047051027, + "grad_norm": 5.385279655456543, + "learning_rate": 1.898638977768254e-06, + "loss": 0.0622, + "num_input_tokens_seen": 25604472, + "step": 13072 + }, + { + "epoch": 1.7326706428098078, + "grad_norm": 6.461187362670898, + "learning_rate": 1.8983020388560175e-06, + "loss": 0.0841, + "num_input_tokens_seen": 25606424, + "step": 13073 + }, + { + "epoch": 1.7328031809145128, + "grad_norm": 3.1076791286468506, + "learning_rate": 1.8979651115449323e-06, + "loss": 0.0977, + "num_input_tokens_seen": 25608568, + "step": 13074 + }, + { + "epoch": 1.732935719019218, + "grad_norm": 0.034549444913864136, + "learning_rate": 1.8976281958414963e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25610496, + "step": 13075 + }, + { + "epoch": 1.733068257123923, + "grad_norm": 0.6905530691146851, + "learning_rate": 1.8972912917522035e-06, + "loss": 0.0066, + "num_input_tokens_seen": 25614288, + "step": 13076 + }, + { + "epoch": 1.7332007952286284, + "grad_norm": 7.6261796951293945, + "learning_rate": 1.8969543992835513e-06, + "loss": 0.2133, + "num_input_tokens_seen": 25615848, + "step": 13077 + }, + { + "epoch": 1.7333333333333334, + "grad_norm": 4.502918243408203, + "learning_rate": 1.8966175184420339e-06, + "loss": 0.1162, + "num_input_tokens_seen": 25617600, + "step": 13078 + }, + { + "epoch": 1.7334658714380384, + "grad_norm": 0.9794042110443115, + "learning_rate": 1.896280649234146e-06, + "loss": 0.0097, + "num_input_tokens_seen": 25619568, + "step": 13079 + }, + { + "epoch": 1.7335984095427435, + "grad_norm": 10.694192886352539, + "learning_rate": 1.8959437916663842e-06, + "loss": 0.2792, + "num_input_tokens_seen": 25621488, + "step": 13080 + }, + { + "epoch": 1.7337309476474485, + "grad_norm": 14.452932357788086, + "learning_rate": 1.8956069457452435e-06, + "loss": 0.2473, + "num_input_tokens_seen": 25623264, + "step": 13081 + }, + { + "epoch": 1.7338634857521538, + "grad_norm": 3.105473279953003, + "learning_rate": 1.895270111477217e-06, + "loss": 0.0947, + "num_input_tokens_seen": 25625224, + "step": 13082 + }, + { + "epoch": 1.7339960238568588, + "grad_norm": 2.924893617630005, + "learning_rate": 1.894933288868801e-06, + "loss": 0.0447, + "num_input_tokens_seen": 25628176, + "step": 13083 + }, + { + "epoch": 1.734128561961564, + "grad_norm": 0.10207723826169968, + "learning_rate": 1.8945964779264875e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25629584, + "step": 13084 + }, + { + "epoch": 1.734261100066269, + "grad_norm": 2.798213481903076, + "learning_rate": 1.8942596786567718e-06, + "loss": 0.0541, + "num_input_tokens_seen": 25631152, + "step": 13085 + }, + { + "epoch": 1.7343936381709741, + "grad_norm": 11.149018287658691, + "learning_rate": 1.8939228910661475e-06, + "loss": 0.3583, + "num_input_tokens_seen": 25633720, + "step": 13086 + }, + { + "epoch": 1.7345261762756792, + "grad_norm": 8.458293914794922, + "learning_rate": 1.8935861151611085e-06, + "loss": 0.1327, + "num_input_tokens_seen": 25635400, + "step": 13087 + }, + { + "epoch": 1.7346587143803842, + "grad_norm": 4.468495845794678, + "learning_rate": 1.8932493509481467e-06, + "loss": 0.0839, + "num_input_tokens_seen": 25637768, + "step": 13088 + }, + { + "epoch": 1.7347912524850895, + "grad_norm": 7.832223892211914, + "learning_rate": 1.8929125984337568e-06, + "loss": 0.0785, + "num_input_tokens_seen": 25639840, + "step": 13089 + }, + { + "epoch": 1.7349237905897945, + "grad_norm": 0.06582982838153839, + "learning_rate": 1.8925758576244296e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25641128, + "step": 13090 + }, + { + "epoch": 1.7350563286944998, + "grad_norm": 3.918466567993164, + "learning_rate": 1.8922391285266594e-06, + "loss": 0.1126, + "num_input_tokens_seen": 25643216, + "step": 13091 + }, + { + "epoch": 1.7351888667992048, + "grad_norm": 8.050939559936523, + "learning_rate": 1.8919024111469386e-06, + "loss": 0.1419, + "num_input_tokens_seen": 25646328, + "step": 13092 + }, + { + "epoch": 1.7353214049039098, + "grad_norm": 1.9532281160354614, + "learning_rate": 1.8915657054917592e-06, + "loss": 0.0326, + "num_input_tokens_seen": 25647792, + "step": 13093 + }, + { + "epoch": 1.7354539430086149, + "grad_norm": 17.39086151123047, + "learning_rate": 1.891229011567612e-06, + "loss": 0.4299, + "num_input_tokens_seen": 25650672, + "step": 13094 + }, + { + "epoch": 1.73558648111332, + "grad_norm": 11.847719192504883, + "learning_rate": 1.8908923293809886e-06, + "loss": 0.3618, + "num_input_tokens_seen": 25652352, + "step": 13095 + }, + { + "epoch": 1.7357190192180252, + "grad_norm": 1.2087526321411133, + "learning_rate": 1.8905556589383825e-06, + "loss": 0.0447, + "num_input_tokens_seen": 25654112, + "step": 13096 + }, + { + "epoch": 1.7358515573227304, + "grad_norm": 18.694190979003906, + "learning_rate": 1.8902190002462833e-06, + "loss": 0.3111, + "num_input_tokens_seen": 25655784, + "step": 13097 + }, + { + "epoch": 1.7359840954274355, + "grad_norm": 6.14501428604126, + "learning_rate": 1.889882353311183e-06, + "loss": 0.1424, + "num_input_tokens_seen": 25657400, + "step": 13098 + }, + { + "epoch": 1.7361166335321405, + "grad_norm": 1.7411673069000244, + "learning_rate": 1.889545718139571e-06, + "loss": 0.0089, + "num_input_tokens_seen": 25658872, + "step": 13099 + }, + { + "epoch": 1.7362491716368456, + "grad_norm": 0.4039137363433838, + "learning_rate": 1.8892090947379385e-06, + "loss": 0.0019, + "num_input_tokens_seen": 25660040, + "step": 13100 + }, + { + "epoch": 1.7363817097415506, + "grad_norm": 0.22721141576766968, + "learning_rate": 1.888872483112777e-06, + "loss": 0.0024, + "num_input_tokens_seen": 25661816, + "step": 13101 + }, + { + "epoch": 1.7365142478462559, + "grad_norm": 27.439496994018555, + "learning_rate": 1.8885358832705756e-06, + "loss": 0.3079, + "num_input_tokens_seen": 25663632, + "step": 13102 + }, + { + "epoch": 1.736646785950961, + "grad_norm": 10.742377281188965, + "learning_rate": 1.8881992952178235e-06, + "loss": 0.3334, + "num_input_tokens_seen": 25665832, + "step": 13103 + }, + { + "epoch": 1.7367793240556662, + "grad_norm": 6.057638645172119, + "learning_rate": 1.8878627189610118e-06, + "loss": 0.0926, + "num_input_tokens_seen": 25667472, + "step": 13104 + }, + { + "epoch": 1.7369118621603712, + "grad_norm": 1.8793964385986328, + "learning_rate": 1.8875261545066281e-06, + "loss": 0.014, + "num_input_tokens_seen": 25668928, + "step": 13105 + }, + { + "epoch": 1.7370444002650762, + "grad_norm": 8.9644136428833, + "learning_rate": 1.887189601861163e-06, + "loss": 0.126, + "num_input_tokens_seen": 25670928, + "step": 13106 + }, + { + "epoch": 1.7371769383697813, + "grad_norm": 4.533306121826172, + "learning_rate": 1.886853061031106e-06, + "loss": 0.1174, + "num_input_tokens_seen": 25673216, + "step": 13107 + }, + { + "epoch": 1.7373094764744863, + "grad_norm": 7.831053256988525, + "learning_rate": 1.8865165320229445e-06, + "loss": 0.0471, + "num_input_tokens_seen": 25674904, + "step": 13108 + }, + { + "epoch": 1.7374420145791916, + "grad_norm": 6.345348358154297, + "learning_rate": 1.8861800148431675e-06, + "loss": 0.0609, + "num_input_tokens_seen": 25676400, + "step": 13109 + }, + { + "epoch": 1.7375745526838966, + "grad_norm": 9.677519798278809, + "learning_rate": 1.8858435094982624e-06, + "loss": 0.1029, + "num_input_tokens_seen": 25678256, + "step": 13110 + }, + { + "epoch": 1.7377070907886019, + "grad_norm": 2.7851407527923584, + "learning_rate": 1.8855070159947192e-06, + "loss": 0.0266, + "num_input_tokens_seen": 25680216, + "step": 13111 + }, + { + "epoch": 1.737839628893307, + "grad_norm": 3.6120333671569824, + "learning_rate": 1.8851705343390241e-06, + "loss": 0.0361, + "num_input_tokens_seen": 25682280, + "step": 13112 + }, + { + "epoch": 1.737972166998012, + "grad_norm": 0.8822866678237915, + "learning_rate": 1.8848340645376659e-06, + "loss": 0.0057, + "num_input_tokens_seen": 25683912, + "step": 13113 + }, + { + "epoch": 1.738104705102717, + "grad_norm": 12.27357006072998, + "learning_rate": 1.8844976065971306e-06, + "loss": 0.1819, + "num_input_tokens_seen": 25685528, + "step": 13114 + }, + { + "epoch": 1.738237243207422, + "grad_norm": 0.29308661818504333, + "learning_rate": 1.8841611605239068e-06, + "loss": 0.0021, + "num_input_tokens_seen": 25687584, + "step": 13115 + }, + { + "epoch": 1.7383697813121273, + "grad_norm": 0.20190446078777313, + "learning_rate": 1.8838247263244797e-06, + "loss": 0.0014, + "num_input_tokens_seen": 25689856, + "step": 13116 + }, + { + "epoch": 1.7385023194168323, + "grad_norm": 0.26959624886512756, + "learning_rate": 1.8834883040053376e-06, + "loss": 0.002, + "num_input_tokens_seen": 25691384, + "step": 13117 + }, + { + "epoch": 1.7386348575215376, + "grad_norm": 0.5388979911804199, + "learning_rate": 1.8831518935729658e-06, + "loss": 0.0038, + "num_input_tokens_seen": 25693080, + "step": 13118 + }, + { + "epoch": 1.7387673956262426, + "grad_norm": 13.03867244720459, + "learning_rate": 1.882815495033852e-06, + "loss": 0.3087, + "num_input_tokens_seen": 25696168, + "step": 13119 + }, + { + "epoch": 1.7388999337309476, + "grad_norm": 3.3906145095825195, + "learning_rate": 1.8824791083944804e-06, + "loss": 0.0434, + "num_input_tokens_seen": 25698120, + "step": 13120 + }, + { + "epoch": 1.7390324718356527, + "grad_norm": 0.5830864310264587, + "learning_rate": 1.8821427336613373e-06, + "loss": 0.004, + "num_input_tokens_seen": 25700224, + "step": 13121 + }, + { + "epoch": 1.7391650099403577, + "grad_norm": 7.49354362487793, + "learning_rate": 1.8818063708409093e-06, + "loss": 0.1101, + "num_input_tokens_seen": 25701640, + "step": 13122 + }, + { + "epoch": 1.739297548045063, + "grad_norm": 16.447891235351562, + "learning_rate": 1.8814700199396813e-06, + "loss": 0.305, + "num_input_tokens_seen": 25703376, + "step": 13123 + }, + { + "epoch": 1.739430086149768, + "grad_norm": 1.42312753200531, + "learning_rate": 1.881133680964137e-06, + "loss": 0.0097, + "num_input_tokens_seen": 25705088, + "step": 13124 + }, + { + "epoch": 1.7395626242544733, + "grad_norm": 7.820713520050049, + "learning_rate": 1.880797353920763e-06, + "loss": 0.1402, + "num_input_tokens_seen": 25707064, + "step": 13125 + }, + { + "epoch": 1.7396951623591783, + "grad_norm": 3.5970516204833984, + "learning_rate": 1.8804610388160425e-06, + "loss": 0.0959, + "num_input_tokens_seen": 25709032, + "step": 13126 + }, + { + "epoch": 1.7398277004638834, + "grad_norm": 0.07361502200365067, + "learning_rate": 1.8801247356564605e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25710504, + "step": 13127 + }, + { + "epoch": 1.7399602385685884, + "grad_norm": 0.124573715031147, + "learning_rate": 1.879788444448502e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25713072, + "step": 13128 + }, + { + "epoch": 1.7400927766732934, + "grad_norm": 2.5478551387786865, + "learning_rate": 1.8794521651986497e-06, + "loss": 0.0204, + "num_input_tokens_seen": 25715048, + "step": 13129 + }, + { + "epoch": 1.7402253147779987, + "grad_norm": 0.17135240137577057, + "learning_rate": 1.8791158979133883e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25716656, + "step": 13130 + }, + { + "epoch": 1.7403578528827037, + "grad_norm": 9.008345603942871, + "learning_rate": 1.8787796425991998e-06, + "loss": 0.2389, + "num_input_tokens_seen": 25719440, + "step": 13131 + }, + { + "epoch": 1.740490390987409, + "grad_norm": 4.280391216278076, + "learning_rate": 1.8784433992625689e-06, + "loss": 0.0587, + "num_input_tokens_seen": 25722336, + "step": 13132 + }, + { + "epoch": 1.740622929092114, + "grad_norm": 7.120774745941162, + "learning_rate": 1.878107167909978e-06, + "loss": 0.1713, + "num_input_tokens_seen": 25723928, + "step": 13133 + }, + { + "epoch": 1.740755467196819, + "grad_norm": 5.924616813659668, + "learning_rate": 1.8777709485479102e-06, + "loss": 0.056, + "num_input_tokens_seen": 25725840, + "step": 13134 + }, + { + "epoch": 1.740888005301524, + "grad_norm": 5.2308430671691895, + "learning_rate": 1.8774347411828472e-06, + "loss": 0.077, + "num_input_tokens_seen": 25728808, + "step": 13135 + }, + { + "epoch": 1.7410205434062291, + "grad_norm": 0.045758865773677826, + "learning_rate": 1.8770985458212714e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25730144, + "step": 13136 + }, + { + "epoch": 1.7411530815109344, + "grad_norm": 15.992263793945312, + "learning_rate": 1.8767623624696669e-06, + "loss": 0.2872, + "num_input_tokens_seen": 25732384, + "step": 13137 + }, + { + "epoch": 1.7412856196156397, + "grad_norm": 12.600237846374512, + "learning_rate": 1.8764261911345128e-06, + "loss": 0.2052, + "num_input_tokens_seen": 25734296, + "step": 13138 + }, + { + "epoch": 1.7414181577203447, + "grad_norm": 6.148332118988037, + "learning_rate": 1.8760900318222927e-06, + "loss": 0.1472, + "num_input_tokens_seen": 25736088, + "step": 13139 + }, + { + "epoch": 1.7415506958250497, + "grad_norm": 0.052879493683576584, + "learning_rate": 1.875753884539487e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25737416, + "step": 13140 + }, + { + "epoch": 1.7416832339297548, + "grad_norm": 10.572572708129883, + "learning_rate": 1.8754177492925762e-06, + "loss": 0.2063, + "num_input_tokens_seen": 25739088, + "step": 13141 + }, + { + "epoch": 1.7418157720344598, + "grad_norm": 0.04633089900016785, + "learning_rate": 1.8750816260880428e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25740352, + "step": 13142 + }, + { + "epoch": 1.7419483101391648, + "grad_norm": 8.72778606414795, + "learning_rate": 1.874745514932367e-06, + "loss": 0.2329, + "num_input_tokens_seen": 25742000, + "step": 13143 + }, + { + "epoch": 1.74208084824387, + "grad_norm": 5.052142143249512, + "learning_rate": 1.8744094158320286e-06, + "loss": 0.0846, + "num_input_tokens_seen": 25743904, + "step": 13144 + }, + { + "epoch": 1.7422133863485754, + "grad_norm": 5.877135276794434, + "learning_rate": 1.8740733287935087e-06, + "loss": 0.1993, + "num_input_tokens_seen": 25745936, + "step": 13145 + }, + { + "epoch": 1.7423459244532804, + "grad_norm": 0.03169787675142288, + "learning_rate": 1.8737372538232867e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25747952, + "step": 13146 + }, + { + "epoch": 1.7424784625579854, + "grad_norm": 6.226495265960693, + "learning_rate": 1.8734011909278416e-06, + "loss": 0.0393, + "num_input_tokens_seen": 25749992, + "step": 13147 + }, + { + "epoch": 1.7426110006626905, + "grad_norm": 0.28707942366600037, + "learning_rate": 1.8730651401136545e-06, + "loss": 0.0018, + "num_input_tokens_seen": 25751616, + "step": 13148 + }, + { + "epoch": 1.7427435387673955, + "grad_norm": 16.98242950439453, + "learning_rate": 1.8727291013872043e-06, + "loss": 0.3908, + "num_input_tokens_seen": 25753624, + "step": 13149 + }, + { + "epoch": 1.7428760768721008, + "grad_norm": 23.877166748046875, + "learning_rate": 1.872393074754969e-06, + "loss": 0.1701, + "num_input_tokens_seen": 25755880, + "step": 13150 + }, + { + "epoch": 1.7430086149768058, + "grad_norm": 12.88788890838623, + "learning_rate": 1.8720570602234292e-06, + "loss": 0.3201, + "num_input_tokens_seen": 25758312, + "step": 13151 + }, + { + "epoch": 1.743141153081511, + "grad_norm": 0.09495490789413452, + "learning_rate": 1.8717210577990613e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25760040, + "step": 13152 + }, + { + "epoch": 1.7432736911862161, + "grad_norm": 0.08636965602636337, + "learning_rate": 1.871385067488345e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25761632, + "step": 13153 + }, + { + "epoch": 1.7434062292909212, + "grad_norm": 5.337892532348633, + "learning_rate": 1.871049089297759e-06, + "loss": 0.044, + "num_input_tokens_seen": 25763864, + "step": 13154 + }, + { + "epoch": 1.7435387673956262, + "grad_norm": 0.041656509041786194, + "learning_rate": 1.8707131232337805e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25765960, + "step": 13155 + }, + { + "epoch": 1.7436713055003312, + "grad_norm": 0.0716482549905777, + "learning_rate": 1.8703771693028867e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25767184, + "step": 13156 + }, + { + "epoch": 1.7438038436050365, + "grad_norm": 3.553178071975708, + "learning_rate": 1.8700412275115548e-06, + "loss": 0.0665, + "num_input_tokens_seen": 25768808, + "step": 13157 + }, + { + "epoch": 1.7439363817097415, + "grad_norm": 0.07221023738384247, + "learning_rate": 1.8697052978662637e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25769976, + "step": 13158 + }, + { + "epoch": 1.7440689198144468, + "grad_norm": 4.6998515129089355, + "learning_rate": 1.8693693803734885e-06, + "loss": 0.0673, + "num_input_tokens_seen": 25772496, + "step": 13159 + }, + { + "epoch": 1.7442014579191518, + "grad_norm": 4.6739044189453125, + "learning_rate": 1.8690334750397076e-06, + "loss": 0.1554, + "num_input_tokens_seen": 25775072, + "step": 13160 + }, + { + "epoch": 1.7443339960238569, + "grad_norm": 0.10845929384231567, + "learning_rate": 1.8686975818713966e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25777240, + "step": 13161 + }, + { + "epoch": 1.744466534128562, + "grad_norm": 0.8639370799064636, + "learning_rate": 1.86836170087503e-06, + "loss": 0.0073, + "num_input_tokens_seen": 25778984, + "step": 13162 + }, + { + "epoch": 1.744599072233267, + "grad_norm": 13.141666412353516, + "learning_rate": 1.8680258320570865e-06, + "loss": 0.3134, + "num_input_tokens_seen": 25781232, + "step": 13163 + }, + { + "epoch": 1.7447316103379722, + "grad_norm": 4.9684062004089355, + "learning_rate": 1.867689975424042e-06, + "loss": 0.0418, + "num_input_tokens_seen": 25782568, + "step": 13164 + }, + { + "epoch": 1.7448641484426772, + "grad_norm": 7.025899887084961, + "learning_rate": 1.8673541309823695e-06, + "loss": 0.1701, + "num_input_tokens_seen": 25784304, + "step": 13165 + }, + { + "epoch": 1.7449966865473825, + "grad_norm": 12.610382080078125, + "learning_rate": 1.867018298738547e-06, + "loss": 0.2313, + "num_input_tokens_seen": 25786864, + "step": 13166 + }, + { + "epoch": 1.7451292246520875, + "grad_norm": 15.220202445983887, + "learning_rate": 1.8666824786990472e-06, + "loss": 0.6231, + "num_input_tokens_seen": 25789456, + "step": 13167 + }, + { + "epoch": 1.7452617627567926, + "grad_norm": 0.42006996273994446, + "learning_rate": 1.8663466708703464e-06, + "loss": 0.0034, + "num_input_tokens_seen": 25790816, + "step": 13168 + }, + { + "epoch": 1.7453943008614976, + "grad_norm": 0.023408928886055946, + "learning_rate": 1.8660108752589195e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25792344, + "step": 13169 + }, + { + "epoch": 1.7455268389662026, + "grad_norm": 7.248992443084717, + "learning_rate": 1.8656750918712407e-06, + "loss": 0.1105, + "num_input_tokens_seen": 25794048, + "step": 13170 + }, + { + "epoch": 1.745659377070908, + "grad_norm": 12.495877265930176, + "learning_rate": 1.8653393207137827e-06, + "loss": 0.3723, + "num_input_tokens_seen": 25796568, + "step": 13171 + }, + { + "epoch": 1.745791915175613, + "grad_norm": 0.10930247604846954, + "learning_rate": 1.8650035617930213e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25799536, + "step": 13172 + }, + { + "epoch": 1.7459244532803182, + "grad_norm": 1.6016252040863037, + "learning_rate": 1.8646678151154279e-06, + "loss": 0.0056, + "num_input_tokens_seen": 25801736, + "step": 13173 + }, + { + "epoch": 1.7460569913850232, + "grad_norm": 1.1544947624206543, + "learning_rate": 1.8643320806874782e-06, + "loss": 0.0204, + "num_input_tokens_seen": 25802848, + "step": 13174 + }, + { + "epoch": 1.7461895294897283, + "grad_norm": 5.832897663116455, + "learning_rate": 1.8639963585156448e-06, + "loss": 0.0876, + "num_input_tokens_seen": 25804440, + "step": 13175 + }, + { + "epoch": 1.7463220675944333, + "grad_norm": 5.867482662200928, + "learning_rate": 1.8636606486064004e-06, + "loss": 0.0873, + "num_input_tokens_seen": 25806144, + "step": 13176 + }, + { + "epoch": 1.7464546056991384, + "grad_norm": 12.540392875671387, + "learning_rate": 1.8633249509662171e-06, + "loss": 0.28, + "num_input_tokens_seen": 25808000, + "step": 13177 + }, + { + "epoch": 1.7465871438038436, + "grad_norm": 2.272188425064087, + "learning_rate": 1.8629892656015674e-06, + "loss": 0.0169, + "num_input_tokens_seen": 25810016, + "step": 13178 + }, + { + "epoch": 1.7467196819085489, + "grad_norm": 6.704890251159668, + "learning_rate": 1.8626535925189254e-06, + "loss": 0.0627, + "num_input_tokens_seen": 25812464, + "step": 13179 + }, + { + "epoch": 1.746852220013254, + "grad_norm": 4.896420001983643, + "learning_rate": 1.8623179317247613e-06, + "loss": 0.1029, + "num_input_tokens_seen": 25814416, + "step": 13180 + }, + { + "epoch": 1.746984758117959, + "grad_norm": 6.29615592956543, + "learning_rate": 1.861982283225548e-06, + "loss": 0.1936, + "num_input_tokens_seen": 25817056, + "step": 13181 + }, + { + "epoch": 1.747117296222664, + "grad_norm": 0.054206494241952896, + "learning_rate": 1.8616466470277556e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25818648, + "step": 13182 + }, + { + "epoch": 1.747249834327369, + "grad_norm": 0.7271104454994202, + "learning_rate": 1.8613110231378556e-06, + "loss": 0.0051, + "num_input_tokens_seen": 25820040, + "step": 13183 + }, + { + "epoch": 1.747382372432074, + "grad_norm": 0.153843954205513, + "learning_rate": 1.860975411562321e-06, + "loss": 0.001, + "num_input_tokens_seen": 25821496, + "step": 13184 + }, + { + "epoch": 1.7475149105367793, + "grad_norm": 3.7120132446289062, + "learning_rate": 1.8606398123076214e-06, + "loss": 0.0163, + "num_input_tokens_seen": 25823304, + "step": 13185 + }, + { + "epoch": 1.7476474486414846, + "grad_norm": 0.08009041100740433, + "learning_rate": 1.8603042253802265e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25824448, + "step": 13186 + }, + { + "epoch": 1.7477799867461896, + "grad_norm": 4.458845138549805, + "learning_rate": 1.859968650786608e-06, + "loss": 0.1101, + "num_input_tokens_seen": 25826256, + "step": 13187 + }, + { + "epoch": 1.7479125248508947, + "grad_norm": 23.582969665527344, + "learning_rate": 1.8596330885332343e-06, + "loss": 0.1904, + "num_input_tokens_seen": 25828232, + "step": 13188 + }, + { + "epoch": 1.7480450629555997, + "grad_norm": 0.07295103371143341, + "learning_rate": 1.859297538626577e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25829760, + "step": 13189 + }, + { + "epoch": 1.7481776010603047, + "grad_norm": 1.8930844068527222, + "learning_rate": 1.858962001073106e-06, + "loss": 0.0168, + "num_input_tokens_seen": 25831504, + "step": 13190 + }, + { + "epoch": 1.74831013916501, + "grad_norm": 0.02087903395295143, + "learning_rate": 1.8586264758792891e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25832832, + "step": 13191 + }, + { + "epoch": 1.748442677269715, + "grad_norm": 5.503264427185059, + "learning_rate": 1.8582909630515966e-06, + "loss": 0.0901, + "num_input_tokens_seen": 25834648, + "step": 13192 + }, + { + "epoch": 1.7485752153744203, + "grad_norm": 7.643683433532715, + "learning_rate": 1.8579554625964963e-06, + "loss": 0.1621, + "num_input_tokens_seen": 25836880, + "step": 13193 + }, + { + "epoch": 1.7487077534791253, + "grad_norm": 0.032397691160440445, + "learning_rate": 1.8576199745204584e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25839256, + "step": 13194 + }, + { + "epoch": 1.7488402915838304, + "grad_norm": 10.693230628967285, + "learning_rate": 1.8572844988299499e-06, + "loss": 0.0633, + "num_input_tokens_seen": 25841176, + "step": 13195 + }, + { + "epoch": 1.7489728296885354, + "grad_norm": 0.033294517546892166, + "learning_rate": 1.8569490355314406e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25842200, + "step": 13196 + }, + { + "epoch": 1.7491053677932404, + "grad_norm": 2.4439501762390137, + "learning_rate": 1.8566135846313964e-06, + "loss": 0.0182, + "num_input_tokens_seen": 25845208, + "step": 13197 + }, + { + "epoch": 1.7492379058979457, + "grad_norm": 4.2268171310424805, + "learning_rate": 1.8562781461362862e-06, + "loss": 0.0883, + "num_input_tokens_seen": 25847032, + "step": 13198 + }, + { + "epoch": 1.7493704440026507, + "grad_norm": 5.963039875030518, + "learning_rate": 1.8559427200525781e-06, + "loss": 0.0587, + "num_input_tokens_seen": 25849032, + "step": 13199 + }, + { + "epoch": 1.749502982107356, + "grad_norm": 4.655706405639648, + "learning_rate": 1.855607306386739e-06, + "loss": 0.0348, + "num_input_tokens_seen": 25851224, + "step": 13200 + }, + { + "epoch": 1.749635520212061, + "grad_norm": 1.0831652879714966, + "learning_rate": 1.8552719051452351e-06, + "loss": 0.0093, + "num_input_tokens_seen": 25854504, + "step": 13201 + }, + { + "epoch": 1.749768058316766, + "grad_norm": 2.2987921237945557, + "learning_rate": 1.8549365163345337e-06, + "loss": 0.0074, + "num_input_tokens_seen": 25856656, + "step": 13202 + }, + { + "epoch": 1.749900596421471, + "grad_norm": 4.251829624176025, + "learning_rate": 1.8546011399611008e-06, + "loss": 0.0359, + "num_input_tokens_seen": 25859024, + "step": 13203 + }, + { + "epoch": 1.7500331345261761, + "grad_norm": 0.08689743280410767, + "learning_rate": 1.854265776031403e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25860296, + "step": 13204 + }, + { + "epoch": 1.7501656726308814, + "grad_norm": 0.07350675761699677, + "learning_rate": 1.8539304245519074e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25861688, + "step": 13205 + }, + { + "epoch": 1.7502982107355864, + "grad_norm": 8.132402420043945, + "learning_rate": 1.8535950855290782e-06, + "loss": 0.117, + "num_input_tokens_seen": 25864864, + "step": 13206 + }, + { + "epoch": 1.7504307488402917, + "grad_norm": 15.59964656829834, + "learning_rate": 1.8532597589693824e-06, + "loss": 0.2806, + "num_input_tokens_seen": 25866456, + "step": 13207 + }, + { + "epoch": 1.7505632869449967, + "grad_norm": 5.976990222930908, + "learning_rate": 1.8529244448792846e-06, + "loss": 0.0977, + "num_input_tokens_seen": 25868176, + "step": 13208 + }, + { + "epoch": 1.7506958250497018, + "grad_norm": 0.10554125905036926, + "learning_rate": 1.8525891432652487e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25871160, + "step": 13209 + }, + { + "epoch": 1.7508283631544068, + "grad_norm": 0.3990043103694916, + "learning_rate": 1.8522538541337416e-06, + "loss": 0.0039, + "num_input_tokens_seen": 25872864, + "step": 13210 + }, + { + "epoch": 1.7509609012591119, + "grad_norm": 3.1750261783599854, + "learning_rate": 1.8519185774912274e-06, + "loss": 0.0184, + "num_input_tokens_seen": 25874800, + "step": 13211 + }, + { + "epoch": 1.7510934393638171, + "grad_norm": 2.0271036624908447, + "learning_rate": 1.8515833133441693e-06, + "loss": 0.0138, + "num_input_tokens_seen": 25877088, + "step": 13212 + }, + { + "epoch": 1.7512259774685222, + "grad_norm": 3.635862350463867, + "learning_rate": 1.8512480616990331e-06, + "loss": 0.0726, + "num_input_tokens_seen": 25878552, + "step": 13213 + }, + { + "epoch": 1.7513585155732274, + "grad_norm": 6.329824447631836, + "learning_rate": 1.8509128225622809e-06, + "loss": 0.0854, + "num_input_tokens_seen": 25880456, + "step": 13214 + }, + { + "epoch": 1.7514910536779325, + "grad_norm": 0.08290381729602814, + "learning_rate": 1.850577595940378e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25881848, + "step": 13215 + }, + { + "epoch": 1.7516235917826375, + "grad_norm": 4.596584796905518, + "learning_rate": 1.8502423818397866e-06, + "loss": 0.0818, + "num_input_tokens_seen": 25883976, + "step": 13216 + }, + { + "epoch": 1.7517561298873425, + "grad_norm": 0.05735500901937485, + "learning_rate": 1.849907180266971e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25885832, + "step": 13217 + }, + { + "epoch": 1.7518886679920476, + "grad_norm": 7.78150749206543, + "learning_rate": 1.8495719912283927e-06, + "loss": 0.1335, + "num_input_tokens_seen": 25887232, + "step": 13218 + }, + { + "epoch": 1.7520212060967528, + "grad_norm": 3.030229330062866, + "learning_rate": 1.8492368147305146e-06, + "loss": 0.0542, + "num_input_tokens_seen": 25888656, + "step": 13219 + }, + { + "epoch": 1.752153744201458, + "grad_norm": 10.420186042785645, + "learning_rate": 1.8489016507798008e-06, + "loss": 0.1322, + "num_input_tokens_seen": 25890904, + "step": 13220 + }, + { + "epoch": 1.7522862823061631, + "grad_norm": 5.942259311676025, + "learning_rate": 1.8485664993827118e-06, + "loss": 0.0843, + "num_input_tokens_seen": 25892224, + "step": 13221 + }, + { + "epoch": 1.7524188204108682, + "grad_norm": 5.46798038482666, + "learning_rate": 1.848231360545711e-06, + "loss": 0.0505, + "num_input_tokens_seen": 25893960, + "step": 13222 + }, + { + "epoch": 1.7525513585155732, + "grad_norm": 14.25269889831543, + "learning_rate": 1.8478962342752584e-06, + "loss": 0.2394, + "num_input_tokens_seen": 25896312, + "step": 13223 + }, + { + "epoch": 1.7526838966202782, + "grad_norm": 0.0497421957552433, + "learning_rate": 1.8475611205778157e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25898016, + "step": 13224 + }, + { + "epoch": 1.7528164347249833, + "grad_norm": 0.10333182662725449, + "learning_rate": 1.8472260194598452e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25899432, + "step": 13225 + }, + { + "epoch": 1.7529489728296885, + "grad_norm": 18.27739715576172, + "learning_rate": 1.8468909309278077e-06, + "loss": 0.4308, + "num_input_tokens_seen": 25901824, + "step": 13226 + }, + { + "epoch": 1.7530815109343938, + "grad_norm": 4.959158420562744, + "learning_rate": 1.8465558549881634e-06, + "loss": 0.0749, + "num_input_tokens_seen": 25903376, + "step": 13227 + }, + { + "epoch": 1.7532140490390988, + "grad_norm": 8.135969161987305, + "learning_rate": 1.8462207916473734e-06, + "loss": 0.0701, + "num_input_tokens_seen": 25905720, + "step": 13228 + }, + { + "epoch": 1.7533465871438039, + "grad_norm": 10.232457160949707, + "learning_rate": 1.845885740911897e-06, + "loss": 0.1634, + "num_input_tokens_seen": 25908840, + "step": 13229 + }, + { + "epoch": 1.753479125248509, + "grad_norm": 3.797595739364624, + "learning_rate": 1.8455507027881947e-06, + "loss": 0.0386, + "num_input_tokens_seen": 25911160, + "step": 13230 + }, + { + "epoch": 1.753611663353214, + "grad_norm": 0.034186821430921555, + "learning_rate": 1.8452156772827262e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25912192, + "step": 13231 + }, + { + "epoch": 1.7537442014579192, + "grad_norm": 0.04699575528502464, + "learning_rate": 1.8448806644019521e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25913832, + "step": 13232 + }, + { + "epoch": 1.7538767395626242, + "grad_norm": 0.11514517664909363, + "learning_rate": 1.8445456641523301e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25915744, + "step": 13233 + }, + { + "epoch": 1.7540092776673295, + "grad_norm": 8.83983325958252, + "learning_rate": 1.84421067654032e-06, + "loss": 0.1713, + "num_input_tokens_seen": 25917528, + "step": 13234 + }, + { + "epoch": 1.7541418157720345, + "grad_norm": 0.04224582016468048, + "learning_rate": 1.8438757015723799e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25918664, + "step": 13235 + }, + { + "epoch": 1.7542743538767396, + "grad_norm": 5.819526195526123, + "learning_rate": 1.8435407392549693e-06, + "loss": 0.1828, + "num_input_tokens_seen": 25920456, + "step": 13236 + }, + { + "epoch": 1.7544068919814446, + "grad_norm": 0.0651773065328598, + "learning_rate": 1.8432057895945465e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25922968, + "step": 13237 + }, + { + "epoch": 1.7545394300861497, + "grad_norm": 7.067255020141602, + "learning_rate": 1.8428708525975691e-06, + "loss": 0.2533, + "num_input_tokens_seen": 25924688, + "step": 13238 + }, + { + "epoch": 1.754671968190855, + "grad_norm": 17.50310516357422, + "learning_rate": 1.8425359282704947e-06, + "loss": 0.5267, + "num_input_tokens_seen": 25926256, + "step": 13239 + }, + { + "epoch": 1.75480450629556, + "grad_norm": 0.031550925225019455, + "learning_rate": 1.8422010166197808e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25927696, + "step": 13240 + }, + { + "epoch": 1.7549370444002652, + "grad_norm": 0.14289146661758423, + "learning_rate": 1.8418661176518856e-06, + "loss": 0.001, + "num_input_tokens_seen": 25929728, + "step": 13241 + }, + { + "epoch": 1.7550695825049702, + "grad_norm": 5.97039794921875, + "learning_rate": 1.8415312313732654e-06, + "loss": 0.0255, + "num_input_tokens_seen": 25931208, + "step": 13242 + }, + { + "epoch": 1.7552021206096753, + "grad_norm": 11.62657642364502, + "learning_rate": 1.841196357790378e-06, + "loss": 0.3737, + "num_input_tokens_seen": 25933816, + "step": 13243 + }, + { + "epoch": 1.7553346587143803, + "grad_norm": 5.982364177703857, + "learning_rate": 1.8408614969096786e-06, + "loss": 0.1064, + "num_input_tokens_seen": 25935712, + "step": 13244 + }, + { + "epoch": 1.7554671968190854, + "grad_norm": 1.9968152046203613, + "learning_rate": 1.840526648737624e-06, + "loss": 0.0057, + "num_input_tokens_seen": 25937248, + "step": 13245 + }, + { + "epoch": 1.7555997349237906, + "grad_norm": 13.09157943725586, + "learning_rate": 1.8401918132806712e-06, + "loss": 0.1437, + "num_input_tokens_seen": 25940280, + "step": 13246 + }, + { + "epoch": 1.7557322730284957, + "grad_norm": 7.104730129241943, + "learning_rate": 1.8398569905452758e-06, + "loss": 0.1337, + "num_input_tokens_seen": 25942664, + "step": 13247 + }, + { + "epoch": 1.755864811133201, + "grad_norm": 6.378207206726074, + "learning_rate": 1.839522180537892e-06, + "loss": 0.1762, + "num_input_tokens_seen": 25945864, + "step": 13248 + }, + { + "epoch": 1.755997349237906, + "grad_norm": 0.8392379879951477, + "learning_rate": 1.839187383264977e-06, + "loss": 0.0068, + "num_input_tokens_seen": 25947384, + "step": 13249 + }, + { + "epoch": 1.756129887342611, + "grad_norm": 3.1426799297332764, + "learning_rate": 1.838852598732984e-06, + "loss": 0.0446, + "num_input_tokens_seen": 25948784, + "step": 13250 + }, + { + "epoch": 1.756262425447316, + "grad_norm": 9.247245788574219, + "learning_rate": 1.83851782694837e-06, + "loss": 0.1077, + "num_input_tokens_seen": 25950808, + "step": 13251 + }, + { + "epoch": 1.756394963552021, + "grad_norm": 3.5976529121398926, + "learning_rate": 1.8381830679175888e-06, + "loss": 0.08, + "num_input_tokens_seen": 25952800, + "step": 13252 + }, + { + "epoch": 1.7565275016567263, + "grad_norm": 9.186699867248535, + "learning_rate": 1.8378483216470947e-06, + "loss": 0.1164, + "num_input_tokens_seen": 25954840, + "step": 13253 + }, + { + "epoch": 1.7566600397614314, + "grad_norm": 1.1243354082107544, + "learning_rate": 1.837513588143341e-06, + "loss": 0.0089, + "num_input_tokens_seen": 25957080, + "step": 13254 + }, + { + "epoch": 1.7567925778661366, + "grad_norm": 3.6414906978607178, + "learning_rate": 1.837178867412782e-06, + "loss": 0.1142, + "num_input_tokens_seen": 25959032, + "step": 13255 + }, + { + "epoch": 1.7569251159708417, + "grad_norm": 8.727334022521973, + "learning_rate": 1.8368441594618728e-06, + "loss": 0.1718, + "num_input_tokens_seen": 25961208, + "step": 13256 + }, + { + "epoch": 1.7570576540755467, + "grad_norm": 10.041175842285156, + "learning_rate": 1.836509464297065e-06, + "loss": 0.3581, + "num_input_tokens_seen": 25963264, + "step": 13257 + }, + { + "epoch": 1.7571901921802517, + "grad_norm": 6.096699237823486, + "learning_rate": 1.8361747819248132e-06, + "loss": 0.1799, + "num_input_tokens_seen": 25964760, + "step": 13258 + }, + { + "epoch": 1.7573227302849568, + "grad_norm": 10.178114891052246, + "learning_rate": 1.8358401123515687e-06, + "loss": 0.1833, + "num_input_tokens_seen": 25966856, + "step": 13259 + }, + { + "epoch": 1.757455268389662, + "grad_norm": 8.405535697937012, + "learning_rate": 1.835505455583786e-06, + "loss": 0.2639, + "num_input_tokens_seen": 25969736, + "step": 13260 + }, + { + "epoch": 1.757587806494367, + "grad_norm": 0.2606665790081024, + "learning_rate": 1.835170811627915e-06, + "loss": 0.0017, + "num_input_tokens_seen": 25971208, + "step": 13261 + }, + { + "epoch": 1.7577203445990723, + "grad_norm": 11.175729751586914, + "learning_rate": 1.8348361804904108e-06, + "loss": 0.1123, + "num_input_tokens_seen": 25972960, + "step": 13262 + }, + { + "epoch": 1.7578528827037774, + "grad_norm": 3.448608636856079, + "learning_rate": 1.8345015621777229e-06, + "loss": 0.1087, + "num_input_tokens_seen": 25974592, + "step": 13263 + }, + { + "epoch": 1.7579854208084824, + "grad_norm": 11.325621604919434, + "learning_rate": 1.8341669566963049e-06, + "loss": 0.358, + "num_input_tokens_seen": 25976800, + "step": 13264 + }, + { + "epoch": 1.7581179589131875, + "grad_norm": 2.2079126834869385, + "learning_rate": 1.8338323640526067e-06, + "loss": 0.0143, + "num_input_tokens_seen": 25978360, + "step": 13265 + }, + { + "epoch": 1.7582504970178925, + "grad_norm": 0.7914609313011169, + "learning_rate": 1.8334977842530796e-06, + "loss": 0.0049, + "num_input_tokens_seen": 25980064, + "step": 13266 + }, + { + "epoch": 1.7583830351225977, + "grad_norm": 6.6813530921936035, + "learning_rate": 1.833163217304176e-06, + "loss": 0.0539, + "num_input_tokens_seen": 25981752, + "step": 13267 + }, + { + "epoch": 1.758515573227303, + "grad_norm": 1.5735331773757935, + "learning_rate": 1.8328286632123456e-06, + "loss": 0.0162, + "num_input_tokens_seen": 25983608, + "step": 13268 + }, + { + "epoch": 1.758648111332008, + "grad_norm": 10.642547607421875, + "learning_rate": 1.8324941219840386e-06, + "loss": 0.0702, + "num_input_tokens_seen": 25985752, + "step": 13269 + }, + { + "epoch": 1.758780649436713, + "grad_norm": 0.03585246950387955, + "learning_rate": 1.8321595936257056e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25987496, + "step": 13270 + }, + { + "epoch": 1.7589131875414181, + "grad_norm": 4.550493240356445, + "learning_rate": 1.8318250781437954e-06, + "loss": 0.0845, + "num_input_tokens_seen": 25989600, + "step": 13271 + }, + { + "epoch": 1.7590457256461232, + "grad_norm": 0.033398739993572235, + "learning_rate": 1.8314905755447593e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25991584, + "step": 13272 + }, + { + "epoch": 1.7591782637508282, + "grad_norm": 0.43674394488334656, + "learning_rate": 1.8311560858350464e-06, + "loss": 0.0031, + "num_input_tokens_seen": 25994128, + "step": 13273 + }, + { + "epoch": 1.7593108018555335, + "grad_norm": 3.791036367416382, + "learning_rate": 1.8308216090211051e-06, + "loss": 0.0377, + "num_input_tokens_seen": 25996496, + "step": 13274 + }, + { + "epoch": 1.7594433399602387, + "grad_norm": 2.650909185409546, + "learning_rate": 1.8304871451093854e-06, + "loss": 0.0178, + "num_input_tokens_seen": 25999168, + "step": 13275 + }, + { + "epoch": 1.7595758780649438, + "grad_norm": 9.707881927490234, + "learning_rate": 1.8301526941063342e-06, + "loss": 0.2642, + "num_input_tokens_seen": 26001224, + "step": 13276 + }, + { + "epoch": 1.7597084161696488, + "grad_norm": 4.185418128967285, + "learning_rate": 1.8298182560184024e-06, + "loss": 0.0634, + "num_input_tokens_seen": 26002856, + "step": 13277 + }, + { + "epoch": 1.7598409542743538, + "grad_norm": 0.6371215581893921, + "learning_rate": 1.8294838308520364e-06, + "loss": 0.0051, + "num_input_tokens_seen": 26004864, + "step": 13278 + }, + { + "epoch": 1.7599734923790589, + "grad_norm": 0.11040137708187103, + "learning_rate": 1.8291494186136854e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26007696, + "step": 13279 + }, + { + "epoch": 1.7601060304837641, + "grad_norm": 5.452227592468262, + "learning_rate": 1.8288150193097957e-06, + "loss": 0.0456, + "num_input_tokens_seen": 26009728, + "step": 13280 + }, + { + "epoch": 1.7602385685884692, + "grad_norm": 0.08406528830528259, + "learning_rate": 1.8284806329468147e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26011696, + "step": 13281 + }, + { + "epoch": 1.7603711066931744, + "grad_norm": 9.989354133605957, + "learning_rate": 1.8281462595311916e-06, + "loss": 0.2924, + "num_input_tokens_seen": 26014136, + "step": 13282 + }, + { + "epoch": 1.7605036447978795, + "grad_norm": 3.976863145828247, + "learning_rate": 1.8278118990693715e-06, + "loss": 0.133, + "num_input_tokens_seen": 26016520, + "step": 13283 + }, + { + "epoch": 1.7606361829025845, + "grad_norm": 6.685466766357422, + "learning_rate": 1.8274775515678025e-06, + "loss": 0.1611, + "num_input_tokens_seen": 26018384, + "step": 13284 + }, + { + "epoch": 1.7607687210072895, + "grad_norm": 7.333414077758789, + "learning_rate": 1.8271432170329301e-06, + "loss": 0.1233, + "num_input_tokens_seen": 26020448, + "step": 13285 + }, + { + "epoch": 1.7609012591119946, + "grad_norm": 0.15389417111873627, + "learning_rate": 1.8268088954712002e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26021984, + "step": 13286 + }, + { + "epoch": 1.7610337972166998, + "grad_norm": 0.13992318511009216, + "learning_rate": 1.8264745868890588e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26024240, + "step": 13287 + }, + { + "epoch": 1.7611663353214049, + "grad_norm": 6.342142105102539, + "learning_rate": 1.8261402912929526e-06, + "loss": 0.0304, + "num_input_tokens_seen": 26025840, + "step": 13288 + }, + { + "epoch": 1.7612988734261101, + "grad_norm": 4.117879390716553, + "learning_rate": 1.8258060086893264e-06, + "loss": 0.0647, + "num_input_tokens_seen": 26028048, + "step": 13289 + }, + { + "epoch": 1.7614314115308152, + "grad_norm": 13.412225723266602, + "learning_rate": 1.8254717390846256e-06, + "loss": 0.1972, + "num_input_tokens_seen": 26029712, + "step": 13290 + }, + { + "epoch": 1.7615639496355202, + "grad_norm": 0.11279463022947311, + "learning_rate": 1.8251374824852952e-06, + "loss": 0.0014, + "num_input_tokens_seen": 26031128, + "step": 13291 + }, + { + "epoch": 1.7616964877402252, + "grad_norm": 6.854719161987305, + "learning_rate": 1.8248032388977789e-06, + "loss": 0.0356, + "num_input_tokens_seen": 26032952, + "step": 13292 + }, + { + "epoch": 1.7618290258449303, + "grad_norm": 7.266012668609619, + "learning_rate": 1.8244690083285222e-06, + "loss": 0.1225, + "num_input_tokens_seen": 26035016, + "step": 13293 + }, + { + "epoch": 1.7619615639496355, + "grad_norm": 3.237112045288086, + "learning_rate": 1.8241347907839693e-06, + "loss": 0.0533, + "num_input_tokens_seen": 26037192, + "step": 13294 + }, + { + "epoch": 1.7620941020543406, + "grad_norm": 0.10018216073513031, + "learning_rate": 1.8238005862705637e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26038728, + "step": 13295 + }, + { + "epoch": 1.7622266401590458, + "grad_norm": 0.10982474684715271, + "learning_rate": 1.8234663947947495e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26040496, + "step": 13296 + }, + { + "epoch": 1.7623591782637509, + "grad_norm": 6.79662561416626, + "learning_rate": 1.8231322163629694e-06, + "loss": 0.1501, + "num_input_tokens_seen": 26042608, + "step": 13297 + }, + { + "epoch": 1.762491716368456, + "grad_norm": 0.019663462415337563, + "learning_rate": 1.8227980509816672e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26043832, + "step": 13298 + }, + { + "epoch": 1.762624254473161, + "grad_norm": 4.207809925079346, + "learning_rate": 1.8224638986572866e-06, + "loss": 0.0248, + "num_input_tokens_seen": 26046776, + "step": 13299 + }, + { + "epoch": 1.762756792577866, + "grad_norm": 6.082076549530029, + "learning_rate": 1.8221297593962693e-06, + "loss": 0.0332, + "num_input_tokens_seen": 26048992, + "step": 13300 + }, + { + "epoch": 1.7628893306825713, + "grad_norm": 5.609279632568359, + "learning_rate": 1.8217956332050574e-06, + "loss": 0.0613, + "num_input_tokens_seen": 26050976, + "step": 13301 + }, + { + "epoch": 1.7630218687872763, + "grad_norm": 0.029026927426457405, + "learning_rate": 1.8214615200900928e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26052616, + "step": 13302 + }, + { + "epoch": 1.7631544068919816, + "grad_norm": 8.886504173278809, + "learning_rate": 1.8211274200578195e-06, + "loss": 0.164, + "num_input_tokens_seen": 26054576, + "step": 13303 + }, + { + "epoch": 1.7632869449966866, + "grad_norm": 5.733160972595215, + "learning_rate": 1.820793333114677e-06, + "loss": 0.0919, + "num_input_tokens_seen": 26057008, + "step": 13304 + }, + { + "epoch": 1.7634194831013916, + "grad_norm": 3.641957998275757, + "learning_rate": 1.8204592592671086e-06, + "loss": 0.0445, + "num_input_tokens_seen": 26058720, + "step": 13305 + }, + { + "epoch": 1.7635520212060967, + "grad_norm": 12.187167167663574, + "learning_rate": 1.8201251985215543e-06, + "loss": 0.3685, + "num_input_tokens_seen": 26060536, + "step": 13306 + }, + { + "epoch": 1.7636845593108017, + "grad_norm": 2.0413999557495117, + "learning_rate": 1.819791150884454e-06, + "loss": 0.0231, + "num_input_tokens_seen": 26062424, + "step": 13307 + }, + { + "epoch": 1.763817097415507, + "grad_norm": 0.06175190210342407, + "learning_rate": 1.8194571163622501e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26064480, + "step": 13308 + }, + { + "epoch": 1.7639496355202122, + "grad_norm": 9.745804786682129, + "learning_rate": 1.819123094961383e-06, + "loss": 0.2713, + "num_input_tokens_seen": 26066920, + "step": 13309 + }, + { + "epoch": 1.7640821736249173, + "grad_norm": 5.513734340667725, + "learning_rate": 1.818789086688292e-06, + "loss": 0.0445, + "num_input_tokens_seen": 26069264, + "step": 13310 + }, + { + "epoch": 1.7642147117296223, + "grad_norm": 9.865388870239258, + "learning_rate": 1.8184550915494178e-06, + "loss": 0.1193, + "num_input_tokens_seen": 26072400, + "step": 13311 + }, + { + "epoch": 1.7643472498343273, + "grad_norm": 0.043767258524894714, + "learning_rate": 1.8181211095511987e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26073728, + "step": 13312 + }, + { + "epoch": 1.7644797879390324, + "grad_norm": 7.026047706604004, + "learning_rate": 1.8177871407000752e-06, + "loss": 0.1611, + "num_input_tokens_seen": 26075376, + "step": 13313 + }, + { + "epoch": 1.7646123260437374, + "grad_norm": 6.628903865814209, + "learning_rate": 1.8174531850024872e-06, + "loss": 0.1508, + "num_input_tokens_seen": 26077440, + "step": 13314 + }, + { + "epoch": 1.7647448641484427, + "grad_norm": 8.901960372924805, + "learning_rate": 1.8171192424648723e-06, + "loss": 0.1671, + "num_input_tokens_seen": 26078960, + "step": 13315 + }, + { + "epoch": 1.764877402253148, + "grad_norm": 4.426534652709961, + "learning_rate": 1.816785313093669e-06, + "loss": 0.129, + "num_input_tokens_seen": 26080512, + "step": 13316 + }, + { + "epoch": 1.765009940357853, + "grad_norm": 4.744714736938477, + "learning_rate": 1.8164513968953168e-06, + "loss": 0.0673, + "num_input_tokens_seen": 26081912, + "step": 13317 + }, + { + "epoch": 1.765142478462558, + "grad_norm": 8.981192588806152, + "learning_rate": 1.816117493876252e-06, + "loss": 0.2466, + "num_input_tokens_seen": 26084656, + "step": 13318 + }, + { + "epoch": 1.765275016567263, + "grad_norm": 0.03272116929292679, + "learning_rate": 1.8157836040429148e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26085960, + "step": 13319 + }, + { + "epoch": 1.765407554671968, + "grad_norm": 1.422000527381897, + "learning_rate": 1.8154497274017419e-06, + "loss": 0.0131, + "num_input_tokens_seen": 26088224, + "step": 13320 + }, + { + "epoch": 1.7655400927766733, + "grad_norm": 2.6446731090545654, + "learning_rate": 1.8151158639591704e-06, + "loss": 0.0217, + "num_input_tokens_seen": 26090296, + "step": 13321 + }, + { + "epoch": 1.7656726308813784, + "grad_norm": 0.13455215096473694, + "learning_rate": 1.8147820137216372e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26092144, + "step": 13322 + }, + { + "epoch": 1.7658051689860836, + "grad_norm": 0.1676560491323471, + "learning_rate": 1.8144481766955786e-06, + "loss": 0.0011, + "num_input_tokens_seen": 26094824, + "step": 13323 + }, + { + "epoch": 1.7659377070907887, + "grad_norm": 0.08842529356479645, + "learning_rate": 1.8141143528874333e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26096760, + "step": 13324 + }, + { + "epoch": 1.7660702451954937, + "grad_norm": 0.8473754525184631, + "learning_rate": 1.8137805423036362e-06, + "loss": 0.0069, + "num_input_tokens_seen": 26098376, + "step": 13325 + }, + { + "epoch": 1.7662027833001988, + "grad_norm": 9.894218444824219, + "learning_rate": 1.8134467449506238e-06, + "loss": 0.1822, + "num_input_tokens_seen": 26100976, + "step": 13326 + }, + { + "epoch": 1.7663353214049038, + "grad_norm": 2.4969701766967773, + "learning_rate": 1.8131129608348313e-06, + "loss": 0.0435, + "num_input_tokens_seen": 26103296, + "step": 13327 + }, + { + "epoch": 1.766467859509609, + "grad_norm": 12.712018966674805, + "learning_rate": 1.8127791899626945e-06, + "loss": 0.0785, + "num_input_tokens_seen": 26105696, + "step": 13328 + }, + { + "epoch": 1.766600397614314, + "grad_norm": 6.921119213104248, + "learning_rate": 1.8124454323406498e-06, + "loss": 0.2801, + "num_input_tokens_seen": 26107520, + "step": 13329 + }, + { + "epoch": 1.7667329357190193, + "grad_norm": 0.08384755253791809, + "learning_rate": 1.8121116879751318e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26109392, + "step": 13330 + }, + { + "epoch": 1.7668654738237244, + "grad_norm": 8.647369384765625, + "learning_rate": 1.8117779568725744e-06, + "loss": 0.1132, + "num_input_tokens_seen": 26111032, + "step": 13331 + }, + { + "epoch": 1.7669980119284294, + "grad_norm": 7.249828815460205, + "learning_rate": 1.8114442390394133e-06, + "loss": 0.102, + "num_input_tokens_seen": 26112808, + "step": 13332 + }, + { + "epoch": 1.7671305500331345, + "grad_norm": 11.361310958862305, + "learning_rate": 1.811110534482081e-06, + "loss": 0.2261, + "num_input_tokens_seen": 26114904, + "step": 13333 + }, + { + "epoch": 1.7672630881378395, + "grad_norm": 6.145482540130615, + "learning_rate": 1.8107768432070132e-06, + "loss": 0.1693, + "num_input_tokens_seen": 26117480, + "step": 13334 + }, + { + "epoch": 1.7673956262425448, + "grad_norm": 0.0804702639579773, + "learning_rate": 1.8104431652206445e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26119056, + "step": 13335 + }, + { + "epoch": 1.7675281643472498, + "grad_norm": 5.249117851257324, + "learning_rate": 1.8101095005294062e-06, + "loss": 0.1283, + "num_input_tokens_seen": 26121800, + "step": 13336 + }, + { + "epoch": 1.767660702451955, + "grad_norm": 10.45899772644043, + "learning_rate": 1.8097758491397333e-06, + "loss": 0.0526, + "num_input_tokens_seen": 26123496, + "step": 13337 + }, + { + "epoch": 1.76779324055666, + "grad_norm": 4.932031631469727, + "learning_rate": 1.8094422110580572e-06, + "loss": 0.0606, + "num_input_tokens_seen": 26125240, + "step": 13338 + }, + { + "epoch": 1.7679257786613651, + "grad_norm": 23.031370162963867, + "learning_rate": 1.8091085862908129e-06, + "loss": 0.5152, + "num_input_tokens_seen": 26127216, + "step": 13339 + }, + { + "epoch": 1.7680583167660702, + "grad_norm": 14.864603996276855, + "learning_rate": 1.808774974844431e-06, + "loss": 0.147, + "num_input_tokens_seen": 26128664, + "step": 13340 + }, + { + "epoch": 1.7681908548707752, + "grad_norm": 0.20994803309440613, + "learning_rate": 1.808441376725345e-06, + "loss": 0.0014, + "num_input_tokens_seen": 26131368, + "step": 13341 + }, + { + "epoch": 1.7683233929754805, + "grad_norm": 7.267364978790283, + "learning_rate": 1.8081077919399856e-06, + "loss": 0.1685, + "num_input_tokens_seen": 26132968, + "step": 13342 + }, + { + "epoch": 1.7684559310801855, + "grad_norm": 6.2768025398254395, + "learning_rate": 1.807774220494786e-06, + "loss": 0.1362, + "num_input_tokens_seen": 26135368, + "step": 13343 + }, + { + "epoch": 1.7685884691848908, + "grad_norm": 0.21776196360588074, + "learning_rate": 1.807440662396176e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26136968, + "step": 13344 + }, + { + "epoch": 1.7687210072895958, + "grad_norm": 13.371339797973633, + "learning_rate": 1.8071071176505885e-06, + "loss": 0.2396, + "num_input_tokens_seen": 26139048, + "step": 13345 + }, + { + "epoch": 1.7688535453943008, + "grad_norm": 0.07095903903245926, + "learning_rate": 1.8067735862644538e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26140208, + "step": 13346 + }, + { + "epoch": 1.7689860834990059, + "grad_norm": 2.3926947116851807, + "learning_rate": 1.8064400682442026e-06, + "loss": 0.0162, + "num_input_tokens_seen": 26141832, + "step": 13347 + }, + { + "epoch": 1.769118621603711, + "grad_norm": 11.18416976928711, + "learning_rate": 1.806106563596265e-06, + "loss": 0.1153, + "num_input_tokens_seen": 26144008, + "step": 13348 + }, + { + "epoch": 1.7692511597084162, + "grad_norm": 0.2509409487247467, + "learning_rate": 1.805773072327071e-06, + "loss": 0.0023, + "num_input_tokens_seen": 26145536, + "step": 13349 + }, + { + "epoch": 1.7693836978131214, + "grad_norm": 0.05051880329847336, + "learning_rate": 1.8054395944430522e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26147216, + "step": 13350 + }, + { + "epoch": 1.7695162359178265, + "grad_norm": 11.642457008361816, + "learning_rate": 1.8051061299506367e-06, + "loss": 0.1048, + "num_input_tokens_seen": 26148696, + "step": 13351 + }, + { + "epoch": 1.7696487740225315, + "grad_norm": 5.685125350952148, + "learning_rate": 1.8047726788562547e-06, + "loss": 0.1111, + "num_input_tokens_seen": 26150272, + "step": 13352 + }, + { + "epoch": 1.7697813121272365, + "grad_norm": 0.08838338404893875, + "learning_rate": 1.8044392411663352e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26152208, + "step": 13353 + }, + { + "epoch": 1.7699138502319416, + "grad_norm": 10.367325782775879, + "learning_rate": 1.804105816887306e-06, + "loss": 0.159, + "num_input_tokens_seen": 26153952, + "step": 13354 + }, + { + "epoch": 1.7700463883366466, + "grad_norm": 9.181132316589355, + "learning_rate": 1.8037724060255974e-06, + "loss": 0.2002, + "num_input_tokens_seen": 26156168, + "step": 13355 + }, + { + "epoch": 1.7701789264413519, + "grad_norm": 0.7446281909942627, + "learning_rate": 1.8034390085876374e-06, + "loss": 0.0051, + "num_input_tokens_seen": 26158112, + "step": 13356 + }, + { + "epoch": 1.7703114645460571, + "grad_norm": 3.625669240951538, + "learning_rate": 1.8031056245798534e-06, + "loss": 0.0501, + "num_input_tokens_seen": 26159800, + "step": 13357 + }, + { + "epoch": 1.7704440026507622, + "grad_norm": 6.587719440460205, + "learning_rate": 1.802772254008674e-06, + "loss": 0.1169, + "num_input_tokens_seen": 26162200, + "step": 13358 + }, + { + "epoch": 1.7705765407554672, + "grad_norm": 8.141780853271484, + "learning_rate": 1.8024388968805256e-06, + "loss": 0.2387, + "num_input_tokens_seen": 26164584, + "step": 13359 + }, + { + "epoch": 1.7707090788601723, + "grad_norm": 0.7558437585830688, + "learning_rate": 1.8021055532018378e-06, + "loss": 0.0027, + "num_input_tokens_seen": 26165920, + "step": 13360 + }, + { + "epoch": 1.7708416169648773, + "grad_norm": 7.009064674377441, + "learning_rate": 1.8017722229790357e-06, + "loss": 0.0551, + "num_input_tokens_seen": 26168640, + "step": 13361 + }, + { + "epoch": 1.7709741550695826, + "grad_norm": 11.312932968139648, + "learning_rate": 1.8014389062185471e-06, + "loss": 0.2057, + "num_input_tokens_seen": 26170904, + "step": 13362 + }, + { + "epoch": 1.7711066931742876, + "grad_norm": 8.712352752685547, + "learning_rate": 1.8011056029267982e-06, + "loss": 0.1786, + "num_input_tokens_seen": 26173232, + "step": 13363 + }, + { + "epoch": 1.7712392312789929, + "grad_norm": 1.4643484354019165, + "learning_rate": 1.8007723131102145e-06, + "loss": 0.0031, + "num_input_tokens_seen": 26175232, + "step": 13364 + }, + { + "epoch": 1.771371769383698, + "grad_norm": 5.197396278381348, + "learning_rate": 1.8004390367752246e-06, + "loss": 0.1762, + "num_input_tokens_seen": 26176536, + "step": 13365 + }, + { + "epoch": 1.771504307488403, + "grad_norm": 5.54130220413208, + "learning_rate": 1.8001057739282516e-06, + "loss": 0.0538, + "num_input_tokens_seen": 26177944, + "step": 13366 + }, + { + "epoch": 1.771636845593108, + "grad_norm": 2.771286725997925, + "learning_rate": 1.7997725245757228e-06, + "loss": 0.0386, + "num_input_tokens_seen": 26180376, + "step": 13367 + }, + { + "epoch": 1.771769383697813, + "grad_norm": 2.1708176136016846, + "learning_rate": 1.7994392887240627e-06, + "loss": 0.0346, + "num_input_tokens_seen": 26182280, + "step": 13368 + }, + { + "epoch": 1.7719019218025183, + "grad_norm": 8.870991706848145, + "learning_rate": 1.7991060663796955e-06, + "loss": 0.1807, + "num_input_tokens_seen": 26184008, + "step": 13369 + }, + { + "epoch": 1.7720344599072233, + "grad_norm": 0.03824019432067871, + "learning_rate": 1.7987728575490473e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26185960, + "step": 13370 + }, + { + "epoch": 1.7721669980119286, + "grad_norm": 0.05623386800289154, + "learning_rate": 1.7984396622385428e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26187536, + "step": 13371 + }, + { + "epoch": 1.7722995361166336, + "grad_norm": 3.9962210655212402, + "learning_rate": 1.7981064804546051e-06, + "loss": 0.0338, + "num_input_tokens_seen": 26188712, + "step": 13372 + }, + { + "epoch": 1.7724320742213386, + "grad_norm": 1.25719153881073, + "learning_rate": 1.7977733122036588e-06, + "loss": 0.022, + "num_input_tokens_seen": 26191064, + "step": 13373 + }, + { + "epoch": 1.7725646123260437, + "grad_norm": 3.2366583347320557, + "learning_rate": 1.797440157492128e-06, + "loss": 0.0264, + "num_input_tokens_seen": 26193072, + "step": 13374 + }, + { + "epoch": 1.7726971504307487, + "grad_norm": 0.09606379270553589, + "learning_rate": 1.7971070163264342e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26194640, + "step": 13375 + }, + { + "epoch": 1.772829688535454, + "grad_norm": 0.278709352016449, + "learning_rate": 1.7967738887130027e-06, + "loss": 0.0021, + "num_input_tokens_seen": 26196248, + "step": 13376 + }, + { + "epoch": 1.772962226640159, + "grad_norm": 16.020023345947266, + "learning_rate": 1.7964407746582564e-06, + "loss": 0.3367, + "num_input_tokens_seen": 26198400, + "step": 13377 + }, + { + "epoch": 1.7730947647448643, + "grad_norm": 17.73349952697754, + "learning_rate": 1.7961076741686167e-06, + "loss": 0.328, + "num_input_tokens_seen": 26200416, + "step": 13378 + }, + { + "epoch": 1.7732273028495693, + "grad_norm": 9.19074821472168, + "learning_rate": 1.7957745872505073e-06, + "loss": 0.1946, + "num_input_tokens_seen": 26201848, + "step": 13379 + }, + { + "epoch": 1.7733598409542743, + "grad_norm": 6.2438645362854, + "learning_rate": 1.7954415139103482e-06, + "loss": 0.1587, + "num_input_tokens_seen": 26204504, + "step": 13380 + }, + { + "epoch": 1.7734923790589794, + "grad_norm": 0.054031115025281906, + "learning_rate": 1.7951084541545635e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26206032, + "step": 13381 + }, + { + "epoch": 1.7736249171636844, + "grad_norm": 5.091292858123779, + "learning_rate": 1.7947754079895746e-06, + "loss": 0.0649, + "num_input_tokens_seen": 26208136, + "step": 13382 + }, + { + "epoch": 1.7737574552683897, + "grad_norm": 2.5021262168884277, + "learning_rate": 1.7944423754218027e-06, + "loss": 0.0196, + "num_input_tokens_seen": 26209288, + "step": 13383 + }, + { + "epoch": 1.7738899933730947, + "grad_norm": 3.8201444149017334, + "learning_rate": 1.7941093564576675e-06, + "loss": 0.1095, + "num_input_tokens_seen": 26211056, + "step": 13384 + }, + { + "epoch": 1.7740225314778, + "grad_norm": 8.680951118469238, + "learning_rate": 1.7937763511035904e-06, + "loss": 0.2078, + "num_input_tokens_seen": 26213440, + "step": 13385 + }, + { + "epoch": 1.774155069582505, + "grad_norm": 5.585438251495361, + "learning_rate": 1.793443359365994e-06, + "loss": 0.0488, + "num_input_tokens_seen": 26214968, + "step": 13386 + }, + { + "epoch": 1.77428760768721, + "grad_norm": 4.130827903747559, + "learning_rate": 1.7931103812512961e-06, + "loss": 0.0409, + "num_input_tokens_seen": 26217280, + "step": 13387 + }, + { + "epoch": 1.774420145791915, + "grad_norm": 0.0676233321428299, + "learning_rate": 1.7927774167659184e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26219144, + "step": 13388 + }, + { + "epoch": 1.7745526838966201, + "grad_norm": 2.69486927986145, + "learning_rate": 1.7924444659162794e-06, + "loss": 0.0381, + "num_input_tokens_seen": 26220576, + "step": 13389 + }, + { + "epoch": 1.7746852220013254, + "grad_norm": 0.058274440467357635, + "learning_rate": 1.7921115287087987e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26221680, + "step": 13390 + }, + { + "epoch": 1.7748177601060304, + "grad_norm": 1.6165335178375244, + "learning_rate": 1.791778605149897e-06, + "loss": 0.0197, + "num_input_tokens_seen": 26223264, + "step": 13391 + }, + { + "epoch": 1.7749502982107357, + "grad_norm": 0.11474625021219254, + "learning_rate": 1.7914456952459925e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26224720, + "step": 13392 + }, + { + "epoch": 1.7750828363154407, + "grad_norm": 10.287863731384277, + "learning_rate": 1.7911127990035032e-06, + "loss": 0.2253, + "num_input_tokens_seen": 26227888, + "step": 13393 + }, + { + "epoch": 1.7752153744201458, + "grad_norm": 0.13895466923713684, + "learning_rate": 1.7907799164288488e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26229400, + "step": 13394 + }, + { + "epoch": 1.7753479125248508, + "grad_norm": 13.10749340057373, + "learning_rate": 1.7904470475284458e-06, + "loss": 0.0616, + "num_input_tokens_seen": 26231744, + "step": 13395 + }, + { + "epoch": 1.7754804506295558, + "grad_norm": 1.2784216403961182, + "learning_rate": 1.790114192308714e-06, + "loss": 0.0084, + "num_input_tokens_seen": 26233288, + "step": 13396 + }, + { + "epoch": 1.775612988734261, + "grad_norm": 7.149410247802734, + "learning_rate": 1.7897813507760703e-06, + "loss": 0.1859, + "num_input_tokens_seen": 26235072, + "step": 13397 + }, + { + "epoch": 1.7757455268389664, + "grad_norm": 2.749980926513672, + "learning_rate": 1.7894485229369324e-06, + "loss": 0.0439, + "num_input_tokens_seen": 26237280, + "step": 13398 + }, + { + "epoch": 1.7758780649436714, + "grad_norm": 14.785832405090332, + "learning_rate": 1.7891157087977167e-06, + "loss": 0.1956, + "num_input_tokens_seen": 26239000, + "step": 13399 + }, + { + "epoch": 1.7760106030483764, + "grad_norm": 6.9281768798828125, + "learning_rate": 1.7887829083648412e-06, + "loss": 0.1365, + "num_input_tokens_seen": 26240544, + "step": 13400 + }, + { + "epoch": 1.7761431411530815, + "grad_norm": 4.815896034240723, + "learning_rate": 1.7884501216447203e-06, + "loss": 0.0491, + "num_input_tokens_seen": 26242096, + "step": 13401 + }, + { + "epoch": 1.7762756792577865, + "grad_norm": 0.03162899985909462, + "learning_rate": 1.7881173486437727e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26243392, + "step": 13402 + }, + { + "epoch": 1.7764082173624918, + "grad_norm": 0.020663641393184662, + "learning_rate": 1.7877845893684142e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26245264, + "step": 13403 + }, + { + "epoch": 1.7765407554671968, + "grad_norm": 0.09768334776163101, + "learning_rate": 1.7874518438250598e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26246472, + "step": 13404 + }, + { + "epoch": 1.776673293571902, + "grad_norm": 5.173131465911865, + "learning_rate": 1.7871191120201258e-06, + "loss": 0.2027, + "num_input_tokens_seen": 26248504, + "step": 13405 + }, + { + "epoch": 1.776805831676607, + "grad_norm": 5.359694957733154, + "learning_rate": 1.7867863939600264e-06, + "loss": 0.116, + "num_input_tokens_seen": 26250160, + "step": 13406 + }, + { + "epoch": 1.7769383697813121, + "grad_norm": 12.673229217529297, + "learning_rate": 1.786453689651178e-06, + "loss": 0.1645, + "num_input_tokens_seen": 26252048, + "step": 13407 + }, + { + "epoch": 1.7770709078860172, + "grad_norm": 1.9817533493041992, + "learning_rate": 1.7861209990999945e-06, + "loss": 0.0183, + "num_input_tokens_seen": 26254136, + "step": 13408 + }, + { + "epoch": 1.7772034459907222, + "grad_norm": 4.115328311920166, + "learning_rate": 1.7857883223128907e-06, + "loss": 0.0867, + "num_input_tokens_seen": 26256184, + "step": 13409 + }, + { + "epoch": 1.7773359840954275, + "grad_norm": 2.607085943222046, + "learning_rate": 1.7854556592962808e-06, + "loss": 0.009, + "num_input_tokens_seen": 26258104, + "step": 13410 + }, + { + "epoch": 1.7774685222001325, + "grad_norm": 4.658054351806641, + "learning_rate": 1.7851230100565775e-06, + "loss": 0.0533, + "num_input_tokens_seen": 26260872, + "step": 13411 + }, + { + "epoch": 1.7776010603048378, + "grad_norm": 0.08323761075735092, + "learning_rate": 1.7847903746001975e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26263280, + "step": 13412 + }, + { + "epoch": 1.7777335984095428, + "grad_norm": 0.019861726090312004, + "learning_rate": 1.7844577529335522e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26265576, + "step": 13413 + }, + { + "epoch": 1.7778661365142479, + "grad_norm": 15.19128704071045, + "learning_rate": 1.7841251450630542e-06, + "loss": 0.3136, + "num_input_tokens_seen": 26267568, + "step": 13414 + }, + { + "epoch": 1.777998674618953, + "grad_norm": 6.320358753204346, + "learning_rate": 1.783792550995118e-06, + "loss": 0.1024, + "num_input_tokens_seen": 26269344, + "step": 13415 + }, + { + "epoch": 1.778131212723658, + "grad_norm": 6.339293956756592, + "learning_rate": 1.7834599707361546e-06, + "loss": 0.1564, + "num_input_tokens_seen": 26271072, + "step": 13416 + }, + { + "epoch": 1.7782637508283632, + "grad_norm": 0.14896027743816376, + "learning_rate": 1.783127404292578e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26272920, + "step": 13417 + }, + { + "epoch": 1.7783962889330682, + "grad_norm": 9.629888534545898, + "learning_rate": 1.7827948516707997e-06, + "loss": 0.3419, + "num_input_tokens_seen": 26275072, + "step": 13418 + }, + { + "epoch": 1.7785288270377735, + "grad_norm": 8.338888168334961, + "learning_rate": 1.782462312877231e-06, + "loss": 0.1074, + "num_input_tokens_seen": 26276800, + "step": 13419 + }, + { + "epoch": 1.7786613651424785, + "grad_norm": 7.826952934265137, + "learning_rate": 1.7821297879182845e-06, + "loss": 0.1438, + "num_input_tokens_seen": 26279448, + "step": 13420 + }, + { + "epoch": 1.7787939032471836, + "grad_norm": 0.3374713957309723, + "learning_rate": 1.7817972768003696e-06, + "loss": 0.0019, + "num_input_tokens_seen": 26281344, + "step": 13421 + }, + { + "epoch": 1.7789264413518886, + "grad_norm": 2.3968751430511475, + "learning_rate": 1.7814647795299e-06, + "loss": 0.0132, + "num_input_tokens_seen": 26283264, + "step": 13422 + }, + { + "epoch": 1.7790589794565936, + "grad_norm": 3.1393566131591797, + "learning_rate": 1.7811322961132848e-06, + "loss": 0.0354, + "num_input_tokens_seen": 26285936, + "step": 13423 + }, + { + "epoch": 1.779191517561299, + "grad_norm": 10.10363483428955, + "learning_rate": 1.780799826556935e-06, + "loss": 0.3335, + "num_input_tokens_seen": 26288504, + "step": 13424 + }, + { + "epoch": 1.779324055666004, + "grad_norm": 5.010140895843506, + "learning_rate": 1.7804673708672605e-06, + "loss": 0.197, + "num_input_tokens_seen": 26291208, + "step": 13425 + }, + { + "epoch": 1.7794565937707092, + "grad_norm": 1.3880749940872192, + "learning_rate": 1.7801349290506707e-06, + "loss": 0.0411, + "num_input_tokens_seen": 26293248, + "step": 13426 + }, + { + "epoch": 1.7795891318754142, + "grad_norm": 10.586915016174316, + "learning_rate": 1.7798025011135771e-06, + "loss": 0.1511, + "num_input_tokens_seen": 26295120, + "step": 13427 + }, + { + "epoch": 1.7797216699801193, + "grad_norm": 9.952249526977539, + "learning_rate": 1.7794700870623883e-06, + "loss": 0.293, + "num_input_tokens_seen": 26297024, + "step": 13428 + }, + { + "epoch": 1.7798542080848243, + "grad_norm": 6.022063732147217, + "learning_rate": 1.7791376869035126e-06, + "loss": 0.051, + "num_input_tokens_seen": 26299584, + "step": 13429 + }, + { + "epoch": 1.7799867461895293, + "grad_norm": 0.047561485320329666, + "learning_rate": 1.7788053006433603e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26301144, + "step": 13430 + }, + { + "epoch": 1.7801192842942346, + "grad_norm": 9.478787422180176, + "learning_rate": 1.7784729282883387e-06, + "loss": 0.1083, + "num_input_tokens_seen": 26303168, + "step": 13431 + }, + { + "epoch": 1.7802518223989396, + "grad_norm": 9.005231857299805, + "learning_rate": 1.7781405698448561e-06, + "loss": 0.0965, + "num_input_tokens_seen": 26304840, + "step": 13432 + }, + { + "epoch": 1.780384360503645, + "grad_norm": 6.288226127624512, + "learning_rate": 1.7778082253193228e-06, + "loss": 0.065, + "num_input_tokens_seen": 26306496, + "step": 13433 + }, + { + "epoch": 1.78051689860835, + "grad_norm": 6.611120223999023, + "learning_rate": 1.7774758947181441e-06, + "loss": 0.1703, + "num_input_tokens_seen": 26308640, + "step": 13434 + }, + { + "epoch": 1.780649436713055, + "grad_norm": 5.324704647064209, + "learning_rate": 1.7771435780477295e-06, + "loss": 0.097, + "num_input_tokens_seen": 26310256, + "step": 13435 + }, + { + "epoch": 1.78078197481776, + "grad_norm": 14.94013786315918, + "learning_rate": 1.7768112753144851e-06, + "loss": 0.3921, + "num_input_tokens_seen": 26314352, + "step": 13436 + }, + { + "epoch": 1.780914512922465, + "grad_norm": 6.602219581604004, + "learning_rate": 1.7764789865248172e-06, + "loss": 0.1216, + "num_input_tokens_seen": 26316408, + "step": 13437 + }, + { + "epoch": 1.7810470510271703, + "grad_norm": 11.934491157531738, + "learning_rate": 1.7761467116851344e-06, + "loss": 0.1263, + "num_input_tokens_seen": 26317904, + "step": 13438 + }, + { + "epoch": 1.7811795891318756, + "grad_norm": 0.04531030356884003, + "learning_rate": 1.7758144508018426e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26319080, + "step": 13439 + }, + { + "epoch": 1.7813121272365806, + "grad_norm": 0.6069450974464417, + "learning_rate": 1.7754822038813474e-06, + "loss": 0.0092, + "num_input_tokens_seen": 26320784, + "step": 13440 + }, + { + "epoch": 1.7814446653412856, + "grad_norm": 0.36157214641571045, + "learning_rate": 1.7751499709300557e-06, + "loss": 0.003, + "num_input_tokens_seen": 26323464, + "step": 13441 + }, + { + "epoch": 1.7815772034459907, + "grad_norm": 0.5376377105712891, + "learning_rate": 1.7748177519543713e-06, + "loss": 0.0048, + "num_input_tokens_seen": 26324952, + "step": 13442 + }, + { + "epoch": 1.7817097415506957, + "grad_norm": 0.12397444248199463, + "learning_rate": 1.7744855469607016e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26326344, + "step": 13443 + }, + { + "epoch": 1.7818422796554008, + "grad_norm": 5.922483444213867, + "learning_rate": 1.7741533559554517e-06, + "loss": 0.1018, + "num_input_tokens_seen": 26328088, + "step": 13444 + }, + { + "epoch": 1.781974817760106, + "grad_norm": 1.7656452655792236, + "learning_rate": 1.7738211789450256e-06, + "loss": 0.0189, + "num_input_tokens_seen": 26329424, + "step": 13445 + }, + { + "epoch": 1.7821073558648113, + "grad_norm": 8.005962371826172, + "learning_rate": 1.7734890159358275e-06, + "loss": 0.2931, + "num_input_tokens_seen": 26331264, + "step": 13446 + }, + { + "epoch": 1.7822398939695163, + "grad_norm": 13.92824935913086, + "learning_rate": 1.7731568669342626e-06, + "loss": 0.1386, + "num_input_tokens_seen": 26333056, + "step": 13447 + }, + { + "epoch": 1.7823724320742214, + "grad_norm": 13.277717590332031, + "learning_rate": 1.772824731946735e-06, + "loss": 0.4788, + "num_input_tokens_seen": 26335320, + "step": 13448 + }, + { + "epoch": 1.7825049701789264, + "grad_norm": 0.05376683548092842, + "learning_rate": 1.772492610979648e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26336736, + "step": 13449 + }, + { + "epoch": 1.7826375082836314, + "grad_norm": 2.0635359287261963, + "learning_rate": 1.7721605040394057e-06, + "loss": 0.041, + "num_input_tokens_seen": 26338536, + "step": 13450 + }, + { + "epoch": 1.7827700463883367, + "grad_norm": 7.3322954177856445, + "learning_rate": 1.7718284111324111e-06, + "loss": 0.0747, + "num_input_tokens_seen": 26340760, + "step": 13451 + }, + { + "epoch": 1.7829025844930417, + "grad_norm": 4.662420749664307, + "learning_rate": 1.771496332265066e-06, + "loss": 0.1281, + "num_input_tokens_seen": 26343128, + "step": 13452 + }, + { + "epoch": 1.783035122597747, + "grad_norm": 15.219648361206055, + "learning_rate": 1.7711642674437745e-06, + "loss": 0.2469, + "num_input_tokens_seen": 26345048, + "step": 13453 + }, + { + "epoch": 1.783167660702452, + "grad_norm": 0.1409814953804016, + "learning_rate": 1.7708322166749398e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26347120, + "step": 13454 + }, + { + "epoch": 1.783300198807157, + "grad_norm": 3.001920700073242, + "learning_rate": 1.7705001799649621e-06, + "loss": 0.0281, + "num_input_tokens_seen": 26348784, + "step": 13455 + }, + { + "epoch": 1.783432736911862, + "grad_norm": 7.071722030639648, + "learning_rate": 1.7701681573202447e-06, + "loss": 0.2493, + "num_input_tokens_seen": 26351200, + "step": 13456 + }, + { + "epoch": 1.7835652750165671, + "grad_norm": 0.050525981932878494, + "learning_rate": 1.7698361487471883e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26352632, + "step": 13457 + }, + { + "epoch": 1.7836978131212724, + "grad_norm": 2.120507001876831, + "learning_rate": 1.769504154252194e-06, + "loss": 0.011, + "num_input_tokens_seen": 26354232, + "step": 13458 + }, + { + "epoch": 1.7838303512259774, + "grad_norm": 9.166775703430176, + "learning_rate": 1.7691721738416648e-06, + "loss": 0.1264, + "num_input_tokens_seen": 26356088, + "step": 13459 + }, + { + "epoch": 1.7839628893306827, + "grad_norm": 0.021382562816143036, + "learning_rate": 1.7688402075220001e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26357616, + "step": 13460 + }, + { + "epoch": 1.7840954274353877, + "grad_norm": 2.573509454727173, + "learning_rate": 1.7685082552996003e-06, + "loss": 0.0812, + "num_input_tokens_seen": 26359840, + "step": 13461 + }, + { + "epoch": 1.7842279655400928, + "grad_norm": 0.966750979423523, + "learning_rate": 1.7681763171808661e-06, + "loss": 0.0089, + "num_input_tokens_seen": 26361320, + "step": 13462 + }, + { + "epoch": 1.7843605036447978, + "grad_norm": 6.177943229675293, + "learning_rate": 1.7678443931721967e-06, + "loss": 0.0357, + "num_input_tokens_seen": 26363328, + "step": 13463 + }, + { + "epoch": 1.7844930417495029, + "grad_norm": 2.3456945419311523, + "learning_rate": 1.7675124832799928e-06, + "loss": 0.0145, + "num_input_tokens_seen": 26364944, + "step": 13464 + }, + { + "epoch": 1.784625579854208, + "grad_norm": 5.720907688140869, + "learning_rate": 1.7671805875106541e-06, + "loss": 0.0675, + "num_input_tokens_seen": 26367280, + "step": 13465 + }, + { + "epoch": 1.7847581179589131, + "grad_norm": 11.857833862304688, + "learning_rate": 1.7668487058705791e-06, + "loss": 0.1665, + "num_input_tokens_seen": 26369504, + "step": 13466 + }, + { + "epoch": 1.7848906560636184, + "grad_norm": 2.4518649578094482, + "learning_rate": 1.7665168383661662e-06, + "loss": 0.021, + "num_input_tokens_seen": 26370704, + "step": 13467 + }, + { + "epoch": 1.7850231941683234, + "grad_norm": 10.11327075958252, + "learning_rate": 1.7661849850038146e-06, + "loss": 0.1587, + "num_input_tokens_seen": 26373680, + "step": 13468 + }, + { + "epoch": 1.7851557322730285, + "grad_norm": 3.9352738857269287, + "learning_rate": 1.7658531457899235e-06, + "loss": 0.0232, + "num_input_tokens_seen": 26375024, + "step": 13469 + }, + { + "epoch": 1.7852882703777335, + "grad_norm": 6.68298864364624, + "learning_rate": 1.7655213207308896e-06, + "loss": 0.1716, + "num_input_tokens_seen": 26377064, + "step": 13470 + }, + { + "epoch": 1.7854208084824386, + "grad_norm": 0.03484855964779854, + "learning_rate": 1.765189509833112e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26379728, + "step": 13471 + }, + { + "epoch": 1.7855533465871438, + "grad_norm": 10.722467422485352, + "learning_rate": 1.764857713102987e-06, + "loss": 0.3023, + "num_input_tokens_seen": 26381392, + "step": 13472 + }, + { + "epoch": 1.7856858846918489, + "grad_norm": 14.940919876098633, + "learning_rate": 1.764525930546912e-06, + "loss": 0.4127, + "num_input_tokens_seen": 26383632, + "step": 13473 + }, + { + "epoch": 1.7858184227965541, + "grad_norm": 6.522045135498047, + "learning_rate": 1.7641941621712855e-06, + "loss": 0.1384, + "num_input_tokens_seen": 26386040, + "step": 13474 + }, + { + "epoch": 1.7859509609012592, + "grad_norm": 0.385433554649353, + "learning_rate": 1.7638624079825028e-06, + "loss": 0.0017, + "num_input_tokens_seen": 26387192, + "step": 13475 + }, + { + "epoch": 1.7860834990059642, + "grad_norm": 0.13633976876735687, + "learning_rate": 1.7635306679869608e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26388840, + "step": 13476 + }, + { + "epoch": 1.7862160371106692, + "grad_norm": 14.278340339660645, + "learning_rate": 1.7631989421910556e-06, + "loss": 0.3722, + "num_input_tokens_seen": 26390304, + "step": 13477 + }, + { + "epoch": 1.7863485752153743, + "grad_norm": 0.1277688592672348, + "learning_rate": 1.7628672306011823e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26392192, + "step": 13478 + }, + { + "epoch": 1.7864811133200795, + "grad_norm": 6.736323356628418, + "learning_rate": 1.7625355332237375e-06, + "loss": 0.0655, + "num_input_tokens_seen": 26394368, + "step": 13479 + }, + { + "epoch": 1.7866136514247848, + "grad_norm": 0.057496052235364914, + "learning_rate": 1.7622038500651174e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26395656, + "step": 13480 + }, + { + "epoch": 1.7867461895294898, + "grad_norm": 6.027022838592529, + "learning_rate": 1.7618721811317151e-06, + "loss": 0.1119, + "num_input_tokens_seen": 26397816, + "step": 13481 + }, + { + "epoch": 1.7868787276341949, + "grad_norm": 0.9153688549995422, + "learning_rate": 1.7615405264299273e-06, + "loss": 0.0085, + "num_input_tokens_seen": 26400648, + "step": 13482 + }, + { + "epoch": 1.7870112657389, + "grad_norm": 9.573477745056152, + "learning_rate": 1.761208885966146e-06, + "loss": 0.1165, + "num_input_tokens_seen": 26402616, + "step": 13483 + }, + { + "epoch": 1.787143803843605, + "grad_norm": 0.09726032614707947, + "learning_rate": 1.7608772597467685e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26405488, + "step": 13484 + }, + { + "epoch": 1.78727634194831, + "grad_norm": 8.382540702819824, + "learning_rate": 1.7605456477781868e-06, + "loss": 0.0468, + "num_input_tokens_seen": 26406856, + "step": 13485 + }, + { + "epoch": 1.7874088800530152, + "grad_norm": 9.463828086853027, + "learning_rate": 1.7602140500667956e-06, + "loss": 0.1541, + "num_input_tokens_seen": 26408696, + "step": 13486 + }, + { + "epoch": 1.7875414181577205, + "grad_norm": 5.387556076049805, + "learning_rate": 1.7598824666189873e-06, + "loss": 0.0759, + "num_input_tokens_seen": 26410920, + "step": 13487 + }, + { + "epoch": 1.7876739562624255, + "grad_norm": 5.628362655639648, + "learning_rate": 1.759550897441156e-06, + "loss": 0.0813, + "num_input_tokens_seen": 26412512, + "step": 13488 + }, + { + "epoch": 1.7878064943671306, + "grad_norm": 0.048675842583179474, + "learning_rate": 1.759219342539693e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26414216, + "step": 13489 + }, + { + "epoch": 1.7879390324718356, + "grad_norm": 18.880474090576172, + "learning_rate": 1.7588878019209937e-06, + "loss": 0.3935, + "num_input_tokens_seen": 26416240, + "step": 13490 + }, + { + "epoch": 1.7880715705765406, + "grad_norm": 7.306013107299805, + "learning_rate": 1.7585562755914483e-06, + "loss": 0.1431, + "num_input_tokens_seen": 26418304, + "step": 13491 + }, + { + "epoch": 1.788204108681246, + "grad_norm": 0.01743192970752716, + "learning_rate": 1.7582247635574496e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26419608, + "step": 13492 + }, + { + "epoch": 1.788336646785951, + "grad_norm": 4.326083660125732, + "learning_rate": 1.7578932658253887e-06, + "loss": 0.0285, + "num_input_tokens_seen": 26421672, + "step": 13493 + }, + { + "epoch": 1.7884691848906562, + "grad_norm": 6.223625183105469, + "learning_rate": 1.7575617824016573e-06, + "loss": 0.1041, + "num_input_tokens_seen": 26423560, + "step": 13494 + }, + { + "epoch": 1.7886017229953612, + "grad_norm": 3.8484771251678467, + "learning_rate": 1.7572303132926478e-06, + "loss": 0.0275, + "num_input_tokens_seen": 26425144, + "step": 13495 + }, + { + "epoch": 1.7887342611000663, + "grad_norm": 2.3663957118988037, + "learning_rate": 1.7568988585047494e-06, + "loss": 0.041, + "num_input_tokens_seen": 26426984, + "step": 13496 + }, + { + "epoch": 1.7888667992047713, + "grad_norm": 9.78691291809082, + "learning_rate": 1.756567418044355e-06, + "loss": 0.1365, + "num_input_tokens_seen": 26429088, + "step": 13497 + }, + { + "epoch": 1.7889993373094764, + "grad_norm": 7.348280906677246, + "learning_rate": 1.756235991917853e-06, + "loss": 0.0833, + "num_input_tokens_seen": 26432088, + "step": 13498 + }, + { + "epoch": 1.7891318754141816, + "grad_norm": 0.9052292108535767, + "learning_rate": 1.7559045801316332e-06, + "loss": 0.004, + "num_input_tokens_seen": 26433784, + "step": 13499 + }, + { + "epoch": 1.7892644135188867, + "grad_norm": 5.542092800140381, + "learning_rate": 1.7555731826920868e-06, + "loss": 0.0684, + "num_input_tokens_seen": 26435824, + "step": 13500 + }, + { + "epoch": 1.789396951623592, + "grad_norm": 4.9773054122924805, + "learning_rate": 1.7552417996056036e-06, + "loss": 0.103, + "num_input_tokens_seen": 26437856, + "step": 13501 + }, + { + "epoch": 1.789529489728297, + "grad_norm": 4.7303853034973145, + "learning_rate": 1.7549104308785719e-06, + "loss": 0.0561, + "num_input_tokens_seen": 26439624, + "step": 13502 + }, + { + "epoch": 1.789662027833002, + "grad_norm": 16.13039779663086, + "learning_rate": 1.754579076517382e-06, + "loss": 0.3716, + "num_input_tokens_seen": 26441712, + "step": 13503 + }, + { + "epoch": 1.789794565937707, + "grad_norm": 9.999297142028809, + "learning_rate": 1.7542477365284203e-06, + "loss": 0.2693, + "num_input_tokens_seen": 26444336, + "step": 13504 + }, + { + "epoch": 1.789927104042412, + "grad_norm": 5.910900115966797, + "learning_rate": 1.753916410918078e-06, + "loss": 0.1271, + "num_input_tokens_seen": 26446168, + "step": 13505 + }, + { + "epoch": 1.7900596421471173, + "grad_norm": 3.7617299556732178, + "learning_rate": 1.753585099692741e-06, + "loss": 0.0268, + "num_input_tokens_seen": 26448120, + "step": 13506 + }, + { + "epoch": 1.7901921802518224, + "grad_norm": 6.987460136413574, + "learning_rate": 1.753253802858799e-06, + "loss": 0.1695, + "num_input_tokens_seen": 26449784, + "step": 13507 + }, + { + "epoch": 1.7903247183565276, + "grad_norm": 10.058489799499512, + "learning_rate": 1.752922520422638e-06, + "loss": 0.1045, + "num_input_tokens_seen": 26451184, + "step": 13508 + }, + { + "epoch": 1.7904572564612327, + "grad_norm": 5.993460178375244, + "learning_rate": 1.7525912523906463e-06, + "loss": 0.0867, + "num_input_tokens_seen": 26453200, + "step": 13509 + }, + { + "epoch": 1.7905897945659377, + "grad_norm": 0.06365442276000977, + "learning_rate": 1.7522599987692113e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26455272, + "step": 13510 + }, + { + "epoch": 1.7907223326706427, + "grad_norm": 3.2359840869903564, + "learning_rate": 1.7519287595647191e-06, + "loss": 0.0837, + "num_input_tokens_seen": 26458008, + "step": 13511 + }, + { + "epoch": 1.7908548707753478, + "grad_norm": 0.769130527973175, + "learning_rate": 1.7515975347835574e-06, + "loss": 0.0083, + "num_input_tokens_seen": 26459280, + "step": 13512 + }, + { + "epoch": 1.790987408880053, + "grad_norm": 0.13804055750370026, + "learning_rate": 1.751266324432111e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26461704, + "step": 13513 + }, + { + "epoch": 1.791119946984758, + "grad_norm": 0.006949859205633402, + "learning_rate": 1.750935128516766e-06, + "loss": 0.0, + "num_input_tokens_seen": 26463096, + "step": 13514 + }, + { + "epoch": 1.7912524850894633, + "grad_norm": 3.3558826446533203, + "learning_rate": 1.750603947043908e-06, + "loss": 0.0282, + "num_input_tokens_seen": 26464760, + "step": 13515 + }, + { + "epoch": 1.7913850231941684, + "grad_norm": 3.903610944747925, + "learning_rate": 1.7502727800199236e-06, + "loss": 0.0898, + "num_input_tokens_seen": 26466440, + "step": 13516 + }, + { + "epoch": 1.7915175612988734, + "grad_norm": 19.085941314697266, + "learning_rate": 1.7499416274511972e-06, + "loss": 0.294, + "num_input_tokens_seen": 26468912, + "step": 13517 + }, + { + "epoch": 1.7916500994035784, + "grad_norm": 8.417341232299805, + "learning_rate": 1.749610489344114e-06, + "loss": 0.1095, + "num_input_tokens_seen": 26470760, + "step": 13518 + }, + { + "epoch": 1.7917826375082835, + "grad_norm": 4.599940299987793, + "learning_rate": 1.749279365705058e-06, + "loss": 0.0586, + "num_input_tokens_seen": 26473040, + "step": 13519 + }, + { + "epoch": 1.7919151756129887, + "grad_norm": 11.888713836669922, + "learning_rate": 1.7489482565404132e-06, + "loss": 0.0688, + "num_input_tokens_seen": 26475120, + "step": 13520 + }, + { + "epoch": 1.792047713717694, + "grad_norm": 6.165769577026367, + "learning_rate": 1.748617161856564e-06, + "loss": 0.1128, + "num_input_tokens_seen": 26477328, + "step": 13521 + }, + { + "epoch": 1.792180251822399, + "grad_norm": 5.052001953125, + "learning_rate": 1.748286081659895e-06, + "loss": 0.1703, + "num_input_tokens_seen": 26479664, + "step": 13522 + }, + { + "epoch": 1.792312789927104, + "grad_norm": 0.01829586736857891, + "learning_rate": 1.7479550159567887e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26481896, + "step": 13523 + }, + { + "epoch": 1.7924453280318091, + "grad_norm": 14.04226303100586, + "learning_rate": 1.7476239647536288e-06, + "loss": 0.2669, + "num_input_tokens_seen": 26483984, + "step": 13524 + }, + { + "epoch": 1.7925778661365142, + "grad_norm": 5.46922492980957, + "learning_rate": 1.747292928056797e-06, + "loss": 0.0745, + "num_input_tokens_seen": 26486808, + "step": 13525 + }, + { + "epoch": 1.7927104042412192, + "grad_norm": 2.4571304321289062, + "learning_rate": 1.7469619058726772e-06, + "loss": 0.0448, + "num_input_tokens_seen": 26488192, + "step": 13526 + }, + { + "epoch": 1.7928429423459245, + "grad_norm": 8.714128494262695, + "learning_rate": 1.7466308982076518e-06, + "loss": 0.11, + "num_input_tokens_seen": 26489440, + "step": 13527 + }, + { + "epoch": 1.7929754804506297, + "grad_norm": 10.794597625732422, + "learning_rate": 1.7462999050681026e-06, + "loss": 0.1668, + "num_input_tokens_seen": 26491104, + "step": 13528 + }, + { + "epoch": 1.7931080185553347, + "grad_norm": 5.617539405822754, + "learning_rate": 1.7459689264604107e-06, + "loss": 0.2166, + "num_input_tokens_seen": 26493376, + "step": 13529 + }, + { + "epoch": 1.7932405566600398, + "grad_norm": 1.0309244394302368, + "learning_rate": 1.7456379623909575e-06, + "loss": 0.0116, + "num_input_tokens_seen": 26495320, + "step": 13530 + }, + { + "epoch": 1.7933730947647448, + "grad_norm": 0.028823330998420715, + "learning_rate": 1.7453070128661256e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26496744, + "step": 13531 + }, + { + "epoch": 1.7935056328694499, + "grad_norm": 4.579731464385986, + "learning_rate": 1.7449760778922947e-06, + "loss": 0.0972, + "num_input_tokens_seen": 26499152, + "step": 13532 + }, + { + "epoch": 1.7936381709741551, + "grad_norm": 7.258098602294922, + "learning_rate": 1.7446451574758466e-06, + "loss": 0.1696, + "num_input_tokens_seen": 26500872, + "step": 13533 + }, + { + "epoch": 1.7937707090788602, + "grad_norm": 8.057473182678223, + "learning_rate": 1.7443142516231603e-06, + "loss": 0.083, + "num_input_tokens_seen": 26502896, + "step": 13534 + }, + { + "epoch": 1.7939032471835654, + "grad_norm": 0.05750260874629021, + "learning_rate": 1.7439833603406158e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26504624, + "step": 13535 + }, + { + "epoch": 1.7940357852882705, + "grad_norm": 10.32970905303955, + "learning_rate": 1.7436524836345952e-06, + "loss": 0.1633, + "num_input_tokens_seen": 26506696, + "step": 13536 + }, + { + "epoch": 1.7941683233929755, + "grad_norm": 0.13353323936462402, + "learning_rate": 1.7433216215114763e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26508144, + "step": 13537 + }, + { + "epoch": 1.7943008614976805, + "grad_norm": 0.14368011057376862, + "learning_rate": 1.742990773977638e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26509864, + "step": 13538 + }, + { + "epoch": 1.7944333996023856, + "grad_norm": 4.054242134094238, + "learning_rate": 1.7426599410394602e-06, + "loss": 0.0812, + "num_input_tokens_seen": 26511192, + "step": 13539 + }, + { + "epoch": 1.7945659377070908, + "grad_norm": 1.5258116722106934, + "learning_rate": 1.74232912270332e-06, + "loss": 0.0156, + "num_input_tokens_seen": 26512832, + "step": 13540 + }, + { + "epoch": 1.7946984758117959, + "grad_norm": 4.265691757202148, + "learning_rate": 1.741998318975598e-06, + "loss": 0.0349, + "num_input_tokens_seen": 26514280, + "step": 13541 + }, + { + "epoch": 1.7948310139165011, + "grad_norm": 0.618071436882019, + "learning_rate": 1.7416675298626718e-06, + "loss": 0.0063, + "num_input_tokens_seen": 26516008, + "step": 13542 + }, + { + "epoch": 1.7949635520212062, + "grad_norm": 3.9547102451324463, + "learning_rate": 1.7413367553709185e-06, + "loss": 0.0895, + "num_input_tokens_seen": 26517992, + "step": 13543 + }, + { + "epoch": 1.7950960901259112, + "grad_norm": 2.9521284103393555, + "learning_rate": 1.7410059955067154e-06, + "loss": 0.0578, + "num_input_tokens_seen": 26520208, + "step": 13544 + }, + { + "epoch": 1.7952286282306162, + "grad_norm": 1.614125370979309, + "learning_rate": 1.740675250276441e-06, + "loss": 0.0085, + "num_input_tokens_seen": 26522472, + "step": 13545 + }, + { + "epoch": 1.7953611663353213, + "grad_norm": 0.09426449984312057, + "learning_rate": 1.7403445196864703e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26524544, + "step": 13546 + }, + { + "epoch": 1.7954937044400265, + "grad_norm": 0.11491863429546356, + "learning_rate": 1.7400138037431823e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26526264, + "step": 13547 + }, + { + "epoch": 1.7956262425447316, + "grad_norm": 2.086135149002075, + "learning_rate": 1.7396831024529525e-06, + "loss": 0.0179, + "num_input_tokens_seen": 26528608, + "step": 13548 + }, + { + "epoch": 1.7957587806494368, + "grad_norm": 5.821713924407959, + "learning_rate": 1.739352415822157e-06, + "loss": 0.1035, + "num_input_tokens_seen": 26531048, + "step": 13549 + }, + { + "epoch": 1.7958913187541419, + "grad_norm": 6.0157790184021, + "learning_rate": 1.7390217438571715e-06, + "loss": 0.0893, + "num_input_tokens_seen": 26533936, + "step": 13550 + }, + { + "epoch": 1.796023856858847, + "grad_norm": 4.216887950897217, + "learning_rate": 1.7386910865643713e-06, + "loss": 0.0398, + "num_input_tokens_seen": 26537224, + "step": 13551 + }, + { + "epoch": 1.796156394963552, + "grad_norm": 7.900070667266846, + "learning_rate": 1.7383604439501329e-06, + "loss": 0.1789, + "num_input_tokens_seen": 26538696, + "step": 13552 + }, + { + "epoch": 1.796288933068257, + "grad_norm": 11.829741477966309, + "learning_rate": 1.7380298160208303e-06, + "loss": 0.2307, + "num_input_tokens_seen": 26541264, + "step": 13553 + }, + { + "epoch": 1.7964214711729622, + "grad_norm": 0.060499157756567, + "learning_rate": 1.7376992027828388e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26543296, + "step": 13554 + }, + { + "epoch": 1.7965540092776673, + "grad_norm": 0.09370407462120056, + "learning_rate": 1.737368604242532e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26544448, + "step": 13555 + }, + { + "epoch": 1.7966865473823725, + "grad_norm": 8.654318809509277, + "learning_rate": 1.7370380204062841e-06, + "loss": 0.0912, + "num_input_tokens_seen": 26546640, + "step": 13556 + }, + { + "epoch": 1.7968190854870776, + "grad_norm": 2.1261088848114014, + "learning_rate": 1.7367074512804707e-06, + "loss": 0.0168, + "num_input_tokens_seen": 26548192, + "step": 13557 + }, + { + "epoch": 1.7969516235917826, + "grad_norm": 10.142276763916016, + "learning_rate": 1.7363768968714642e-06, + "loss": 0.1837, + "num_input_tokens_seen": 26550632, + "step": 13558 + }, + { + "epoch": 1.7970841616964877, + "grad_norm": 0.11329805105924606, + "learning_rate": 1.7360463571856373e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26552040, + "step": 13559 + }, + { + "epoch": 1.7972166998011927, + "grad_norm": 7.3871073722839355, + "learning_rate": 1.7357158322293645e-06, + "loss": 0.0909, + "num_input_tokens_seen": 26554096, + "step": 13560 + }, + { + "epoch": 1.797349237905898, + "grad_norm": 0.03587912768125534, + "learning_rate": 1.735385322009016e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26555496, + "step": 13561 + }, + { + "epoch": 1.797481776010603, + "grad_norm": 13.763813972473145, + "learning_rate": 1.7350548265309672e-06, + "loss": 0.33, + "num_input_tokens_seen": 26557528, + "step": 13562 + }, + { + "epoch": 1.7976143141153083, + "grad_norm": 0.15195626020431519, + "learning_rate": 1.7347243458015892e-06, + "loss": 0.001, + "num_input_tokens_seen": 26558928, + "step": 13563 + }, + { + "epoch": 1.7977468522200133, + "grad_norm": 8.007662773132324, + "learning_rate": 1.7343938798272532e-06, + "loss": 0.2904, + "num_input_tokens_seen": 26561016, + "step": 13564 + }, + { + "epoch": 1.7978793903247183, + "grad_norm": 9.498983383178711, + "learning_rate": 1.734063428614332e-06, + "loss": 0.2363, + "num_input_tokens_seen": 26562632, + "step": 13565 + }, + { + "epoch": 1.7980119284294234, + "grad_norm": 1.003184199333191, + "learning_rate": 1.7337329921691953e-06, + "loss": 0.0166, + "num_input_tokens_seen": 26564696, + "step": 13566 + }, + { + "epoch": 1.7981444665341284, + "grad_norm": 2.855196952819824, + "learning_rate": 1.733402570498216e-06, + "loss": 0.0562, + "num_input_tokens_seen": 26567088, + "step": 13567 + }, + { + "epoch": 1.7982770046388337, + "grad_norm": 4.377383232116699, + "learning_rate": 1.7330721636077636e-06, + "loss": 0.0543, + "num_input_tokens_seen": 26569288, + "step": 13568 + }, + { + "epoch": 1.798409542743539, + "grad_norm": 0.5915123820304871, + "learning_rate": 1.7327417715042094e-06, + "loss": 0.0036, + "num_input_tokens_seen": 26571312, + "step": 13569 + }, + { + "epoch": 1.798542080848244, + "grad_norm": 0.7797229886054993, + "learning_rate": 1.7324113941939226e-06, + "loss": 0.0042, + "num_input_tokens_seen": 26573120, + "step": 13570 + }, + { + "epoch": 1.798674618952949, + "grad_norm": 2.479902982711792, + "learning_rate": 1.7320810316832742e-06, + "loss": 0.0248, + "num_input_tokens_seen": 26574344, + "step": 13571 + }, + { + "epoch": 1.798807157057654, + "grad_norm": 16.192241668701172, + "learning_rate": 1.7317506839786325e-06, + "loss": 0.2575, + "num_input_tokens_seen": 26575472, + "step": 13572 + }, + { + "epoch": 1.798939695162359, + "grad_norm": 4.9803876876831055, + "learning_rate": 1.7314203510863684e-06, + "loss": 0.076, + "num_input_tokens_seen": 26577832, + "step": 13573 + }, + { + "epoch": 1.7990722332670643, + "grad_norm": 3.7477424144744873, + "learning_rate": 1.7310900330128497e-06, + "loss": 0.0598, + "num_input_tokens_seen": 26580248, + "step": 13574 + }, + { + "epoch": 1.7992047713717694, + "grad_norm": 3.946439743041992, + "learning_rate": 1.730759729764446e-06, + "loss": 0.0485, + "num_input_tokens_seen": 26582192, + "step": 13575 + }, + { + "epoch": 1.7993373094764746, + "grad_norm": 7.128304481506348, + "learning_rate": 1.7304294413475249e-06, + "loss": 0.1106, + "num_input_tokens_seen": 26584632, + "step": 13576 + }, + { + "epoch": 1.7994698475811797, + "grad_norm": 8.386787414550781, + "learning_rate": 1.7300991677684548e-06, + "loss": 0.3167, + "num_input_tokens_seen": 26586568, + "step": 13577 + }, + { + "epoch": 1.7996023856858847, + "grad_norm": 10.198125839233398, + "learning_rate": 1.7297689090336045e-06, + "loss": 0.313, + "num_input_tokens_seen": 26588128, + "step": 13578 + }, + { + "epoch": 1.7997349237905897, + "grad_norm": 3.5055384635925293, + "learning_rate": 1.7294386651493405e-06, + "loss": 0.0592, + "num_input_tokens_seen": 26590480, + "step": 13579 + }, + { + "epoch": 1.7998674618952948, + "grad_norm": 1.3968749046325684, + "learning_rate": 1.7291084361220318e-06, + "loss": 0.0158, + "num_input_tokens_seen": 26592504, + "step": 13580 + }, + { + "epoch": 1.8, + "grad_norm": 11.910711288452148, + "learning_rate": 1.7287782219580436e-06, + "loss": 0.2836, + "num_input_tokens_seen": 26594864, + "step": 13581 + }, + { + "epoch": 1.800132538104705, + "grad_norm": 6.525597095489502, + "learning_rate": 1.7284480226637424e-06, + "loss": 0.094, + "num_input_tokens_seen": 26596816, + "step": 13582 + }, + { + "epoch": 1.8002650762094103, + "grad_norm": 0.04156789928674698, + "learning_rate": 1.7281178382454961e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26598440, + "step": 13583 + }, + { + "epoch": 1.8003976143141154, + "grad_norm": 0.04346594214439392, + "learning_rate": 1.7277876687096708e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26600104, + "step": 13584 + }, + { + "epoch": 1.8005301524188204, + "grad_norm": 0.19566258788108826, + "learning_rate": 1.7274575140626318e-06, + "loss": 0.002, + "num_input_tokens_seen": 26601488, + "step": 13585 + }, + { + "epoch": 1.8006626905235255, + "grad_norm": 5.085778713226318, + "learning_rate": 1.7271273743107452e-06, + "loss": 0.1162, + "num_input_tokens_seen": 26604400, + "step": 13586 + }, + { + "epoch": 1.8007952286282305, + "grad_norm": 0.1026371568441391, + "learning_rate": 1.726797249460375e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26605960, + "step": 13587 + }, + { + "epoch": 1.8009277667329358, + "grad_norm": 7.790092945098877, + "learning_rate": 1.7264671395178878e-06, + "loss": 0.174, + "num_input_tokens_seen": 26608232, + "step": 13588 + }, + { + "epoch": 1.8010603048376408, + "grad_norm": 5.643495559692383, + "learning_rate": 1.726137044489648e-06, + "loss": 0.0995, + "num_input_tokens_seen": 26609656, + "step": 13589 + }, + { + "epoch": 1.801192842942346, + "grad_norm": 0.09065470099449158, + "learning_rate": 1.7258069643820202e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26611408, + "step": 13590 + }, + { + "epoch": 1.801325381047051, + "grad_norm": 0.048655908554792404, + "learning_rate": 1.7254768992013677e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26612792, + "step": 13591 + }, + { + "epoch": 1.8014579191517561, + "grad_norm": 7.888485431671143, + "learning_rate": 1.725146848954054e-06, + "loss": 0.1185, + "num_input_tokens_seen": 26615728, + "step": 13592 + }, + { + "epoch": 1.8015904572564612, + "grad_norm": 3.8968069553375244, + "learning_rate": 1.7248168136464448e-06, + "loss": 0.0351, + "num_input_tokens_seen": 26617360, + "step": 13593 + }, + { + "epoch": 1.8017229953611662, + "grad_norm": 2.9872806072235107, + "learning_rate": 1.7244867932849019e-06, + "loss": 0.039, + "num_input_tokens_seen": 26619392, + "step": 13594 + }, + { + "epoch": 1.8018555334658715, + "grad_norm": 12.942712783813477, + "learning_rate": 1.7241567878757889e-06, + "loss": 0.2252, + "num_input_tokens_seen": 26621448, + "step": 13595 + }, + { + "epoch": 1.8019880715705765, + "grad_norm": 9.66864013671875, + "learning_rate": 1.7238267974254685e-06, + "loss": 0.0616, + "num_input_tokens_seen": 26623072, + "step": 13596 + }, + { + "epoch": 1.8021206096752818, + "grad_norm": 10.495954513549805, + "learning_rate": 1.7234968219403013e-06, + "loss": 0.0878, + "num_input_tokens_seen": 26624984, + "step": 13597 + }, + { + "epoch": 1.8022531477799868, + "grad_norm": 10.488879203796387, + "learning_rate": 1.7231668614266522e-06, + "loss": 0.22, + "num_input_tokens_seen": 26627216, + "step": 13598 + }, + { + "epoch": 1.8023856858846918, + "grad_norm": 7.993254661560059, + "learning_rate": 1.7228369158908822e-06, + "loss": 0.1477, + "num_input_tokens_seen": 26629384, + "step": 13599 + }, + { + "epoch": 1.8025182239893969, + "grad_norm": 0.19708530604839325, + "learning_rate": 1.7225069853393522e-06, + "loss": 0.0013, + "num_input_tokens_seen": 26631320, + "step": 13600 + }, + { + "epoch": 1.802650762094102, + "grad_norm": 4.13322639465332, + "learning_rate": 1.7221770697784243e-06, + "loss": 0.0199, + "num_input_tokens_seen": 26633664, + "step": 13601 + }, + { + "epoch": 1.8027833001988072, + "grad_norm": 8.290809631347656, + "learning_rate": 1.7218471692144587e-06, + "loss": 0.0152, + "num_input_tokens_seen": 26634968, + "step": 13602 + }, + { + "epoch": 1.8029158383035122, + "grad_norm": 0.03503880277276039, + "learning_rate": 1.7215172836538157e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26637880, + "step": 13603 + }, + { + "epoch": 1.8030483764082175, + "grad_norm": 0.2906630337238312, + "learning_rate": 1.7211874131028577e-06, + "loss": 0.0018, + "num_input_tokens_seen": 26639416, + "step": 13604 + }, + { + "epoch": 1.8031809145129225, + "grad_norm": 6.96110200881958, + "learning_rate": 1.7208575575679436e-06, + "loss": 0.1194, + "num_input_tokens_seen": 26642928, + "step": 13605 + }, + { + "epoch": 1.8033134526176275, + "grad_norm": 0.18759137392044067, + "learning_rate": 1.720527717055433e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26644112, + "step": 13606 + }, + { + "epoch": 1.8034459907223326, + "grad_norm": 4.520011901855469, + "learning_rate": 1.720197891571686e-06, + "loss": 0.0268, + "num_input_tokens_seen": 26645568, + "step": 13607 + }, + { + "epoch": 1.8035785288270376, + "grad_norm": 1.9104048013687134, + "learning_rate": 1.719868081123061e-06, + "loss": 0.0266, + "num_input_tokens_seen": 26647664, + "step": 13608 + }, + { + "epoch": 1.8037110669317429, + "grad_norm": 2.5512845516204834, + "learning_rate": 1.7195382857159176e-06, + "loss": 0.0091, + "num_input_tokens_seen": 26649456, + "step": 13609 + }, + { + "epoch": 1.8038436050364481, + "grad_norm": 5.563266754150391, + "learning_rate": 1.719208505356615e-06, + "loss": 0.0554, + "num_input_tokens_seen": 26650968, + "step": 13610 + }, + { + "epoch": 1.8039761431411532, + "grad_norm": 6.9681782722473145, + "learning_rate": 1.7188787400515114e-06, + "loss": 0.2038, + "num_input_tokens_seen": 26653208, + "step": 13611 + }, + { + "epoch": 1.8041086812458582, + "grad_norm": 0.06808216124773026, + "learning_rate": 1.7185489898069641e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26654600, + "step": 13612 + }, + { + "epoch": 1.8042412193505633, + "grad_norm": 6.808321952819824, + "learning_rate": 1.7182192546293303e-06, + "loss": 0.1034, + "num_input_tokens_seen": 26656608, + "step": 13613 + }, + { + "epoch": 1.8043737574552683, + "grad_norm": 6.002277851104736, + "learning_rate": 1.71788953452497e-06, + "loss": 0.0643, + "num_input_tokens_seen": 26658680, + "step": 13614 + }, + { + "epoch": 1.8045062955599733, + "grad_norm": 0.5653548240661621, + "learning_rate": 1.7175598295002385e-06, + "loss": 0.0049, + "num_input_tokens_seen": 26660064, + "step": 13615 + }, + { + "epoch": 1.8046388336646786, + "grad_norm": 10.631072998046875, + "learning_rate": 1.7172301395614937e-06, + "loss": 0.2928, + "num_input_tokens_seen": 26662008, + "step": 13616 + }, + { + "epoch": 1.8047713717693838, + "grad_norm": 6.783126354217529, + "learning_rate": 1.7169004647150913e-06, + "loss": 0.0919, + "num_input_tokens_seen": 26663448, + "step": 13617 + }, + { + "epoch": 1.8049039098740889, + "grad_norm": 0.16702903807163239, + "learning_rate": 1.7165708049673878e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26664744, + "step": 13618 + }, + { + "epoch": 1.805036447978794, + "grad_norm": 11.521212577819824, + "learning_rate": 1.7162411603247404e-06, + "loss": 0.2545, + "num_input_tokens_seen": 26666416, + "step": 13619 + }, + { + "epoch": 1.805168986083499, + "grad_norm": 3.0798070430755615, + "learning_rate": 1.7159115307935043e-06, + "loss": 0.0195, + "num_input_tokens_seen": 26668064, + "step": 13620 + }, + { + "epoch": 1.805301524188204, + "grad_norm": 15.158918380737305, + "learning_rate": 1.7155819163800344e-06, + "loss": 0.5022, + "num_input_tokens_seen": 26670824, + "step": 13621 + }, + { + "epoch": 1.8054340622929093, + "grad_norm": 3.5827548503875732, + "learning_rate": 1.7152523170906866e-06, + "loss": 0.0277, + "num_input_tokens_seen": 26672688, + "step": 13622 + }, + { + "epoch": 1.8055666003976143, + "grad_norm": 6.0312724113464355, + "learning_rate": 1.7149227329318146e-06, + "loss": 0.1122, + "num_input_tokens_seen": 26674328, + "step": 13623 + }, + { + "epoch": 1.8056991385023196, + "grad_norm": 14.950557708740234, + "learning_rate": 1.7145931639097743e-06, + "loss": 0.0874, + "num_input_tokens_seen": 26676328, + "step": 13624 + }, + { + "epoch": 1.8058316766070246, + "grad_norm": 0.04970107600092888, + "learning_rate": 1.71426361003092e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26677920, + "step": 13625 + }, + { + "epoch": 1.8059642147117296, + "grad_norm": 0.009666800498962402, + "learning_rate": 1.7139340713016054e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26679504, + "step": 13626 + }, + { + "epoch": 1.8060967528164347, + "grad_norm": 0.17921720445156097, + "learning_rate": 1.7136045477281843e-06, + "loss": 0.001, + "num_input_tokens_seen": 26681328, + "step": 13627 + }, + { + "epoch": 1.8062292909211397, + "grad_norm": 14.232503890991211, + "learning_rate": 1.71327503931701e-06, + "loss": 0.21, + "num_input_tokens_seen": 26682720, + "step": 13628 + }, + { + "epoch": 1.806361829025845, + "grad_norm": 5.11373233795166, + "learning_rate": 1.712945546074435e-06, + "loss": 0.128, + "num_input_tokens_seen": 26684456, + "step": 13629 + }, + { + "epoch": 1.80649436713055, + "grad_norm": 10.042037010192871, + "learning_rate": 1.7126160680068127e-06, + "loss": 0.2852, + "num_input_tokens_seen": 26686768, + "step": 13630 + }, + { + "epoch": 1.8066269052352553, + "grad_norm": 0.00946376658976078, + "learning_rate": 1.7122866051204967e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26688088, + "step": 13631 + }, + { + "epoch": 1.8067594433399603, + "grad_norm": 2.2493419647216797, + "learning_rate": 1.711957157421838e-06, + "loss": 0.0352, + "num_input_tokens_seen": 26689744, + "step": 13632 + }, + { + "epoch": 1.8068919814446653, + "grad_norm": 9.617035865783691, + "learning_rate": 1.7116277249171891e-06, + "loss": 0.0983, + "num_input_tokens_seen": 26691496, + "step": 13633 + }, + { + "epoch": 1.8070245195493704, + "grad_norm": 0.009915320202708244, + "learning_rate": 1.711298307612901e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26692680, + "step": 13634 + }, + { + "epoch": 1.8071570576540754, + "grad_norm": 0.6328532695770264, + "learning_rate": 1.7109689055153261e-06, + "loss": 0.0042, + "num_input_tokens_seen": 26693848, + "step": 13635 + }, + { + "epoch": 1.8072895957587807, + "grad_norm": 5.911764621734619, + "learning_rate": 1.7106395186308146e-06, + "loss": 0.0704, + "num_input_tokens_seen": 26697232, + "step": 13636 + }, + { + "epoch": 1.8074221338634857, + "grad_norm": 0.10018294304609299, + "learning_rate": 1.7103101469657185e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26699112, + "step": 13637 + }, + { + "epoch": 1.807554671968191, + "grad_norm": 5.8439812660217285, + "learning_rate": 1.709980790526387e-06, + "loss": 0.0521, + "num_input_tokens_seen": 26700936, + "step": 13638 + }, + { + "epoch": 1.807687210072896, + "grad_norm": 0.07201984524726868, + "learning_rate": 1.7096514493191701e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26702760, + "step": 13639 + }, + { + "epoch": 1.807819748177601, + "grad_norm": 0.28943994641304016, + "learning_rate": 1.7093221233504198e-06, + "loss": 0.0012, + "num_input_tokens_seen": 26704312, + "step": 13640 + }, + { + "epoch": 1.807952286282306, + "grad_norm": 11.068626403808594, + "learning_rate": 1.7089928126264838e-06, + "loss": 0.1829, + "num_input_tokens_seen": 26706344, + "step": 13641 + }, + { + "epoch": 1.8080848243870111, + "grad_norm": 9.36474609375, + "learning_rate": 1.7086635171537125e-06, + "loss": 0.1136, + "num_input_tokens_seen": 26708640, + "step": 13642 + }, + { + "epoch": 1.8082173624917164, + "grad_norm": 5.960879325866699, + "learning_rate": 1.7083342369384548e-06, + "loss": 0.0941, + "num_input_tokens_seen": 26710696, + "step": 13643 + }, + { + "epoch": 1.8083499005964214, + "grad_norm": 5.929085731506348, + "learning_rate": 1.7080049719870578e-06, + "loss": 0.0572, + "num_input_tokens_seen": 26713216, + "step": 13644 + }, + { + "epoch": 1.8084824387011267, + "grad_norm": 11.264347076416016, + "learning_rate": 1.707675722305872e-06, + "loss": 0.3341, + "num_input_tokens_seen": 26715296, + "step": 13645 + }, + { + "epoch": 1.8086149768058317, + "grad_norm": 0.9554985761642456, + "learning_rate": 1.7073464879012453e-06, + "loss": 0.0138, + "num_input_tokens_seen": 26718112, + "step": 13646 + }, + { + "epoch": 1.8087475149105368, + "grad_norm": 7.452111721038818, + "learning_rate": 1.7070172687795245e-06, + "loss": 0.2013, + "num_input_tokens_seen": 26720048, + "step": 13647 + }, + { + "epoch": 1.8088800530152418, + "grad_norm": 12.128656387329102, + "learning_rate": 1.7066880649470584e-06, + "loss": 0.2462, + "num_input_tokens_seen": 26722552, + "step": 13648 + }, + { + "epoch": 1.8090125911199468, + "grad_norm": 0.11128123104572296, + "learning_rate": 1.7063588764101928e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26724080, + "step": 13649 + }, + { + "epoch": 1.809145129224652, + "grad_norm": 0.059791263192892075, + "learning_rate": 1.7060297031752764e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26726616, + "step": 13650 + }, + { + "epoch": 1.8092776673293574, + "grad_norm": 1.3709524869918823, + "learning_rate": 1.705700545248655e-06, + "loss": 0.0138, + "num_input_tokens_seen": 26728320, + "step": 13651 + }, + { + "epoch": 1.8094102054340624, + "grad_norm": 0.5233966708183289, + "learning_rate": 1.7053714026366753e-06, + "loss": 0.0016, + "num_input_tokens_seen": 26731032, + "step": 13652 + }, + { + "epoch": 1.8095427435387674, + "grad_norm": 4.8162407875061035, + "learning_rate": 1.7050422753456825e-06, + "loss": 0.0477, + "num_input_tokens_seen": 26732992, + "step": 13653 + }, + { + "epoch": 1.8096752816434725, + "grad_norm": 7.267902374267578, + "learning_rate": 1.7047131633820224e-06, + "loss": 0.1934, + "num_input_tokens_seen": 26735048, + "step": 13654 + }, + { + "epoch": 1.8098078197481775, + "grad_norm": 2.571226119995117, + "learning_rate": 1.7043840667520422e-06, + "loss": 0.0513, + "num_input_tokens_seen": 26736256, + "step": 13655 + }, + { + "epoch": 1.8099403578528825, + "grad_norm": 2.307441473007202, + "learning_rate": 1.704054985462086e-06, + "loss": 0.033, + "num_input_tokens_seen": 26737936, + "step": 13656 + }, + { + "epoch": 1.8100728959575878, + "grad_norm": 4.7839484214782715, + "learning_rate": 1.7037259195184991e-06, + "loss": 0.0635, + "num_input_tokens_seen": 26740024, + "step": 13657 + }, + { + "epoch": 1.810205434062293, + "grad_norm": 19.164243698120117, + "learning_rate": 1.7033968689276255e-06, + "loss": 0.1451, + "num_input_tokens_seen": 26741552, + "step": 13658 + }, + { + "epoch": 1.810337972166998, + "grad_norm": 0.010858150199055672, + "learning_rate": 1.7030678336958096e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26742904, + "step": 13659 + }, + { + "epoch": 1.8104705102717031, + "grad_norm": 0.1636306196451187, + "learning_rate": 1.7027388138293949e-06, + "loss": 0.001, + "num_input_tokens_seen": 26745016, + "step": 13660 + }, + { + "epoch": 1.8106030483764082, + "grad_norm": 5.617348670959473, + "learning_rate": 1.7024098093347268e-06, + "loss": 0.0648, + "num_input_tokens_seen": 26747032, + "step": 13661 + }, + { + "epoch": 1.8107355864811132, + "grad_norm": 0.15999209880828857, + "learning_rate": 1.7020808202181477e-06, + "loss": 0.0011, + "num_input_tokens_seen": 26748912, + "step": 13662 + }, + { + "epoch": 1.8108681245858185, + "grad_norm": 0.053092870861291885, + "learning_rate": 1.701751846486001e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26751184, + "step": 13663 + }, + { + "epoch": 1.8110006626905235, + "grad_norm": 9.189582824707031, + "learning_rate": 1.7014228881446298e-06, + "loss": 0.065, + "num_input_tokens_seen": 26753176, + "step": 13664 + }, + { + "epoch": 1.8111332007952288, + "grad_norm": 0.009918643161654472, + "learning_rate": 1.701093945200375e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26754864, + "step": 13665 + }, + { + "epoch": 1.8112657388999338, + "grad_norm": 8.936410903930664, + "learning_rate": 1.7007650176595805e-06, + "loss": 0.1359, + "num_input_tokens_seen": 26756920, + "step": 13666 + }, + { + "epoch": 1.8113982770046388, + "grad_norm": 0.03011741116642952, + "learning_rate": 1.7004361055285884e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26758456, + "step": 13667 + }, + { + "epoch": 1.8115308151093439, + "grad_norm": 10.357450485229492, + "learning_rate": 1.7001072088137394e-06, + "loss": 0.0476, + "num_input_tokens_seen": 26759872, + "step": 13668 + }, + { + "epoch": 1.811663353214049, + "grad_norm": 0.13559092581272125, + "learning_rate": 1.6997783275213753e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26762368, + "step": 13669 + }, + { + "epoch": 1.8117958913187542, + "grad_norm": 0.04285366088151932, + "learning_rate": 1.6994494616578364e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26763496, + "step": 13670 + }, + { + "epoch": 1.8119284294234592, + "grad_norm": 9.891592979431152, + "learning_rate": 1.6991206112294645e-06, + "loss": 0.1344, + "num_input_tokens_seen": 26765280, + "step": 13671 + }, + { + "epoch": 1.8120609675281645, + "grad_norm": 10.47362995147705, + "learning_rate": 1.6987917762426004e-06, + "loss": 0.3321, + "num_input_tokens_seen": 26767248, + "step": 13672 + }, + { + "epoch": 1.8121935056328695, + "grad_norm": 8.145865440368652, + "learning_rate": 1.6984629567035837e-06, + "loss": 0.0749, + "num_input_tokens_seen": 26769912, + "step": 13673 + }, + { + "epoch": 1.8123260437375746, + "grad_norm": 0.024657173082232475, + "learning_rate": 1.6981341526187534e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26771528, + "step": 13674 + }, + { + "epoch": 1.8124585818422796, + "grad_norm": 1.251681923866272, + "learning_rate": 1.6978053639944492e-06, + "loss": 0.0104, + "num_input_tokens_seen": 26773696, + "step": 13675 + }, + { + "epoch": 1.8125911199469846, + "grad_norm": 0.3379829525947571, + "learning_rate": 1.6974765908370122e-06, + "loss": 0.0024, + "num_input_tokens_seen": 26774888, + "step": 13676 + }, + { + "epoch": 1.81272365805169, + "grad_norm": 10.027912139892578, + "learning_rate": 1.6971478331527795e-06, + "loss": 0.224, + "num_input_tokens_seen": 26777000, + "step": 13677 + }, + { + "epoch": 1.812856196156395, + "grad_norm": 0.03354233130812645, + "learning_rate": 1.6968190909480914e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26778480, + "step": 13678 + }, + { + "epoch": 1.8129887342611002, + "grad_norm": 0.06725697219371796, + "learning_rate": 1.6964903642292844e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26780264, + "step": 13679 + }, + { + "epoch": 1.8131212723658052, + "grad_norm": 8.696191787719727, + "learning_rate": 1.696161653002697e-06, + "loss": 0.0966, + "num_input_tokens_seen": 26782072, + "step": 13680 + }, + { + "epoch": 1.8132538104705103, + "grad_norm": 7.6293230056762695, + "learning_rate": 1.6958329572746684e-06, + "loss": 0.2191, + "num_input_tokens_seen": 26783656, + "step": 13681 + }, + { + "epoch": 1.8133863485752153, + "grad_norm": 10.231730461120605, + "learning_rate": 1.6955042770515355e-06, + "loss": 0.0424, + "num_input_tokens_seen": 26786080, + "step": 13682 + }, + { + "epoch": 1.8135188866799203, + "grad_norm": 4.857458591461182, + "learning_rate": 1.6951756123396343e-06, + "loss": 0.0611, + "num_input_tokens_seen": 26787528, + "step": 13683 + }, + { + "epoch": 1.8136514247846256, + "grad_norm": 4.548752784729004, + "learning_rate": 1.6948469631453028e-06, + "loss": 0.0782, + "num_input_tokens_seen": 26789128, + "step": 13684 + }, + { + "epoch": 1.8137839628893306, + "grad_norm": 3.4163079261779785, + "learning_rate": 1.6945183294748769e-06, + "loss": 0.0294, + "num_input_tokens_seen": 26791208, + "step": 13685 + }, + { + "epoch": 1.813916500994036, + "grad_norm": 9.968764305114746, + "learning_rate": 1.6941897113346933e-06, + "loss": 0.1163, + "num_input_tokens_seen": 26793928, + "step": 13686 + }, + { + "epoch": 1.814049039098741, + "grad_norm": 2.150343179702759, + "learning_rate": 1.693861108731089e-06, + "loss": 0.0146, + "num_input_tokens_seen": 26796392, + "step": 13687 + }, + { + "epoch": 1.814181577203446, + "grad_norm": 1.8683606386184692, + "learning_rate": 1.6935325216703983e-06, + "loss": 0.0198, + "num_input_tokens_seen": 26798760, + "step": 13688 + }, + { + "epoch": 1.814314115308151, + "grad_norm": 3.1207141876220703, + "learning_rate": 1.6932039501589564e-06, + "loss": 0.0068, + "num_input_tokens_seen": 26800560, + "step": 13689 + }, + { + "epoch": 1.814446653412856, + "grad_norm": 1.9343913793563843, + "learning_rate": 1.6928753942030995e-06, + "loss": 0.0057, + "num_input_tokens_seen": 26801992, + "step": 13690 + }, + { + "epoch": 1.8145791915175613, + "grad_norm": 0.008053869009017944, + "learning_rate": 1.6925468538091605e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26803168, + "step": 13691 + }, + { + "epoch": 1.8147117296222666, + "grad_norm": 10.861091613769531, + "learning_rate": 1.6922183289834763e-06, + "loss": 0.119, + "num_input_tokens_seen": 26805744, + "step": 13692 + }, + { + "epoch": 1.8148442677269716, + "grad_norm": 0.044451646506786346, + "learning_rate": 1.6918898197323801e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26807080, + "step": 13693 + }, + { + "epoch": 1.8149768058316766, + "grad_norm": 6.328668117523193, + "learning_rate": 1.6915613260622052e-06, + "loss": 0.1501, + "num_input_tokens_seen": 26808856, + "step": 13694 + }, + { + "epoch": 1.8151093439363817, + "grad_norm": 0.015891091898083687, + "learning_rate": 1.6912328479792862e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26810664, + "step": 13695 + }, + { + "epoch": 1.8152418820410867, + "grad_norm": 5.2263407707214355, + "learning_rate": 1.6909043854899549e-06, + "loss": 0.2133, + "num_input_tokens_seen": 26812336, + "step": 13696 + }, + { + "epoch": 1.8153744201457918, + "grad_norm": 0.04794013872742653, + "learning_rate": 1.690575938600546e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26814384, + "step": 13697 + }, + { + "epoch": 1.815506958250497, + "grad_norm": 0.009285589680075645, + "learning_rate": 1.6902475073173907e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26816448, + "step": 13698 + }, + { + "epoch": 1.8156394963552023, + "grad_norm": 3.815653085708618, + "learning_rate": 1.689919091646823e-06, + "loss": 0.0531, + "num_input_tokens_seen": 26818128, + "step": 13699 + }, + { + "epoch": 1.8157720344599073, + "grad_norm": 0.13947026431560516, + "learning_rate": 1.6895906915951735e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26819392, + "step": 13700 + }, + { + "epoch": 1.8159045725646124, + "grad_norm": 3.3179209232330322, + "learning_rate": 1.689262307168774e-06, + "loss": 0.0241, + "num_input_tokens_seen": 26820648, + "step": 13701 + }, + { + "epoch": 1.8160371106693174, + "grad_norm": 3.806905746459961, + "learning_rate": 1.6889339383739575e-06, + "loss": 0.0397, + "num_input_tokens_seen": 26822816, + "step": 13702 + }, + { + "epoch": 1.8161696487740224, + "grad_norm": 13.256583213806152, + "learning_rate": 1.6886055852170542e-06, + "loss": 0.168, + "num_input_tokens_seen": 26824760, + "step": 13703 + }, + { + "epoch": 1.8163021868787277, + "grad_norm": 7.474447250366211, + "learning_rate": 1.6882772477043947e-06, + "loss": 0.0962, + "num_input_tokens_seen": 26825984, + "step": 13704 + }, + { + "epoch": 1.8164347249834327, + "grad_norm": 0.0040419134311378, + "learning_rate": 1.6879489258423098e-06, + "loss": 0.0, + "num_input_tokens_seen": 26827184, + "step": 13705 + }, + { + "epoch": 1.816567263088138, + "grad_norm": 7.081380367279053, + "learning_rate": 1.6876206196371292e-06, + "loss": 0.1079, + "num_input_tokens_seen": 26829016, + "step": 13706 + }, + { + "epoch": 1.816699801192843, + "grad_norm": 0.09496753662824631, + "learning_rate": 1.6872923290951838e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26830672, + "step": 13707 + }, + { + "epoch": 1.816832339297548, + "grad_norm": 0.4694381058216095, + "learning_rate": 1.6869640542228035e-06, + "loss": 0.0037, + "num_input_tokens_seen": 26832448, + "step": 13708 + }, + { + "epoch": 1.816964877402253, + "grad_norm": 7.322230815887451, + "learning_rate": 1.686635795026317e-06, + "loss": 0.171, + "num_input_tokens_seen": 26834768, + "step": 13709 + }, + { + "epoch": 1.8170974155069581, + "grad_norm": 0.045652344822883606, + "learning_rate": 1.6863075515120537e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26836552, + "step": 13710 + }, + { + "epoch": 1.8172299536116634, + "grad_norm": 4.509487152099609, + "learning_rate": 1.685979323686341e-06, + "loss": 0.0526, + "num_input_tokens_seen": 26838272, + "step": 13711 + }, + { + "epoch": 1.8173624917163684, + "grad_norm": 9.306081771850586, + "learning_rate": 1.6856511115555094e-06, + "loss": 0.2782, + "num_input_tokens_seen": 26840216, + "step": 13712 + }, + { + "epoch": 1.8174950298210737, + "grad_norm": 0.01784774661064148, + "learning_rate": 1.685322915125886e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26841656, + "step": 13713 + }, + { + "epoch": 1.8176275679257787, + "grad_norm": 1.1983287334442139, + "learning_rate": 1.6849947344037992e-06, + "loss": 0.0116, + "num_input_tokens_seen": 26844424, + "step": 13714 + }, + { + "epoch": 1.8177601060304838, + "grad_norm": 6.389251232147217, + "learning_rate": 1.6846665693955755e-06, + "loss": 0.1549, + "num_input_tokens_seen": 26846376, + "step": 13715 + }, + { + "epoch": 1.8178926441351888, + "grad_norm": 0.005492255557328463, + "learning_rate": 1.6843384201075435e-06, + "loss": 0.0, + "num_input_tokens_seen": 26847488, + "step": 13716 + }, + { + "epoch": 1.8180251822398938, + "grad_norm": 0.051206156611442566, + "learning_rate": 1.6840102865460283e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26849768, + "step": 13717 + }, + { + "epoch": 1.818157720344599, + "grad_norm": 4.382839679718018, + "learning_rate": 1.6836821687173587e-06, + "loss": 0.0479, + "num_input_tokens_seen": 26852280, + "step": 13718 + }, + { + "epoch": 1.8182902584493041, + "grad_norm": 9.08458423614502, + "learning_rate": 1.6833540666278597e-06, + "loss": 0.1701, + "num_input_tokens_seen": 26854712, + "step": 13719 + }, + { + "epoch": 1.8184227965540094, + "grad_norm": 0.05404914170503616, + "learning_rate": 1.6830259802838583e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26857440, + "step": 13720 + }, + { + "epoch": 1.8185553346587144, + "grad_norm": 6.850743293762207, + "learning_rate": 1.682697909691679e-06, + "loss": 0.1703, + "num_input_tokens_seen": 26859160, + "step": 13721 + }, + { + "epoch": 1.8186878727634195, + "grad_norm": 5.739080429077148, + "learning_rate": 1.6823698548576472e-06, + "loss": 0.0481, + "num_input_tokens_seen": 26860976, + "step": 13722 + }, + { + "epoch": 1.8188204108681245, + "grad_norm": 0.010712482035160065, + "learning_rate": 1.6820418157880897e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26862392, + "step": 13723 + }, + { + "epoch": 1.8189529489728296, + "grad_norm": 12.20919132232666, + "learning_rate": 1.6817137924893294e-06, + "loss": 0.1654, + "num_input_tokens_seen": 26864872, + "step": 13724 + }, + { + "epoch": 1.8190854870775348, + "grad_norm": 0.7742608785629272, + "learning_rate": 1.6813857849676928e-06, + "loss": 0.0062, + "num_input_tokens_seen": 26866232, + "step": 13725 + }, + { + "epoch": 1.8192180251822399, + "grad_norm": 0.014639589935541153, + "learning_rate": 1.6810577932295027e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26868664, + "step": 13726 + }, + { + "epoch": 1.819350563286945, + "grad_norm": 6.568999767303467, + "learning_rate": 1.6807298172810823e-06, + "loss": 0.1415, + "num_input_tokens_seen": 26870320, + "step": 13727 + }, + { + "epoch": 1.8194831013916501, + "grad_norm": 4.937580585479736, + "learning_rate": 1.6804018571287567e-06, + "loss": 0.1147, + "num_input_tokens_seen": 26872040, + "step": 13728 + }, + { + "epoch": 1.8196156394963552, + "grad_norm": 4.05419921875, + "learning_rate": 1.6800739127788496e-06, + "loss": 0.0751, + "num_input_tokens_seen": 26873576, + "step": 13729 + }, + { + "epoch": 1.8197481776010602, + "grad_norm": 0.010826563462615013, + "learning_rate": 1.6797459842376822e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26875024, + "step": 13730 + }, + { + "epoch": 1.8198807157057653, + "grad_norm": 13.572599411010742, + "learning_rate": 1.6794180715115789e-06, + "loss": 0.2934, + "num_input_tokens_seen": 26876344, + "step": 13731 + }, + { + "epoch": 1.8200132538104705, + "grad_norm": 0.021069012582302094, + "learning_rate": 1.6790901746068596e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26878216, + "step": 13732 + }, + { + "epoch": 1.8201457919151756, + "grad_norm": 3.3978617191314697, + "learning_rate": 1.6787622935298492e-06, + "loss": 0.0416, + "num_input_tokens_seen": 26881376, + "step": 13733 + }, + { + "epoch": 1.8202783300198808, + "grad_norm": 8.631749153137207, + "learning_rate": 1.6784344282868687e-06, + "loss": 0.1326, + "num_input_tokens_seen": 26883344, + "step": 13734 + }, + { + "epoch": 1.8204108681245859, + "grad_norm": 12.571732521057129, + "learning_rate": 1.6781065788842389e-06, + "loss": 0.3232, + "num_input_tokens_seen": 26885592, + "step": 13735 + }, + { + "epoch": 1.820543406229291, + "grad_norm": 0.009790387004613876, + "learning_rate": 1.6777787453282809e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26887328, + "step": 13736 + }, + { + "epoch": 1.820675944333996, + "grad_norm": 0.017618641257286072, + "learning_rate": 1.6774509276253153e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26888496, + "step": 13737 + }, + { + "epoch": 1.820808482438701, + "grad_norm": 6.8649492263793945, + "learning_rate": 1.6771231257816644e-06, + "loss": 0.1033, + "num_input_tokens_seen": 26890752, + "step": 13738 + }, + { + "epoch": 1.8209410205434062, + "grad_norm": 11.55799674987793, + "learning_rate": 1.6767953398036472e-06, + "loss": 0.2336, + "num_input_tokens_seen": 26892608, + "step": 13739 + }, + { + "epoch": 1.8210735586481115, + "grad_norm": 0.009338089264929295, + "learning_rate": 1.6764675696975839e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26893728, + "step": 13740 + }, + { + "epoch": 1.8212060967528165, + "grad_norm": 3.628601551055908, + "learning_rate": 1.676139815469794e-06, + "loss": 0.0603, + "num_input_tokens_seen": 26895360, + "step": 13741 + }, + { + "epoch": 1.8213386348575216, + "grad_norm": 0.8932361602783203, + "learning_rate": 1.6758120771265956e-06, + "loss": 0.0059, + "num_input_tokens_seen": 26896688, + "step": 13742 + }, + { + "epoch": 1.8214711729622266, + "grad_norm": 2.2833235263824463, + "learning_rate": 1.6754843546743097e-06, + "loss": 0.012, + "num_input_tokens_seen": 26897864, + "step": 13743 + }, + { + "epoch": 1.8216037110669316, + "grad_norm": 0.19593948125839233, + "learning_rate": 1.6751566481192546e-06, + "loss": 0.0011, + "num_input_tokens_seen": 26899728, + "step": 13744 + }, + { + "epoch": 1.821736249171637, + "grad_norm": 9.055383682250977, + "learning_rate": 1.6748289574677478e-06, + "loss": 0.1494, + "num_input_tokens_seen": 26901688, + "step": 13745 + }, + { + "epoch": 1.821868787276342, + "grad_norm": 0.0995856523513794, + "learning_rate": 1.6745012827261086e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26903544, + "step": 13746 + }, + { + "epoch": 1.8220013253810472, + "grad_norm": 0.008811777457594872, + "learning_rate": 1.6741736239006537e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26904848, + "step": 13747 + }, + { + "epoch": 1.8221338634857522, + "grad_norm": 6.910976886749268, + "learning_rate": 1.6738459809977003e-06, + "loss": 0.1535, + "num_input_tokens_seen": 26907536, + "step": 13748 + }, + { + "epoch": 1.8222664015904573, + "grad_norm": 7.716386795043945, + "learning_rate": 1.6735183540235679e-06, + "loss": 0.1874, + "num_input_tokens_seen": 26909880, + "step": 13749 + }, + { + "epoch": 1.8223989396951623, + "grad_norm": 1.5253716707229614, + "learning_rate": 1.6731907429845712e-06, + "loss": 0.0262, + "num_input_tokens_seen": 26912184, + "step": 13750 + }, + { + "epoch": 1.8225314777998673, + "grad_norm": 2.856844663619995, + "learning_rate": 1.6728631478870268e-06, + "loss": 0.0343, + "num_input_tokens_seen": 26914560, + "step": 13751 + }, + { + "epoch": 1.8226640159045726, + "grad_norm": 2.0767605304718018, + "learning_rate": 1.6725355687372523e-06, + "loss": 0.0837, + "num_input_tokens_seen": 26915920, + "step": 13752 + }, + { + "epoch": 1.8227965540092776, + "grad_norm": 0.07072246819734573, + "learning_rate": 1.6722080055415617e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26917720, + "step": 13753 + }, + { + "epoch": 1.822929092113983, + "grad_norm": 2.274055004119873, + "learning_rate": 1.6718804583062726e-06, + "loss": 0.0202, + "num_input_tokens_seen": 26920904, + "step": 13754 + }, + { + "epoch": 1.823061630218688, + "grad_norm": 9.156266212463379, + "learning_rate": 1.6715529270377002e-06, + "loss": 0.1091, + "num_input_tokens_seen": 26923824, + "step": 13755 + }, + { + "epoch": 1.823194168323393, + "grad_norm": 0.47864511609077454, + "learning_rate": 1.6712254117421584e-06, + "loss": 0.0034, + "num_input_tokens_seen": 26925224, + "step": 13756 + }, + { + "epoch": 1.823326706428098, + "grad_norm": 9.103716850280762, + "learning_rate": 1.6708979124259623e-06, + "loss": 0.2924, + "num_input_tokens_seen": 26927512, + "step": 13757 + }, + { + "epoch": 1.823459244532803, + "grad_norm": 0.0825406014919281, + "learning_rate": 1.6705704290954256e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26929104, + "step": 13758 + }, + { + "epoch": 1.8235917826375083, + "grad_norm": 0.38563787937164307, + "learning_rate": 1.6702429617568642e-06, + "loss": 0.0023, + "num_input_tokens_seen": 26931560, + "step": 13759 + }, + { + "epoch": 1.8237243207422134, + "grad_norm": 11.694995880126953, + "learning_rate": 1.6699155104165903e-06, + "loss": 0.3276, + "num_input_tokens_seen": 26934328, + "step": 13760 + }, + { + "epoch": 1.8238568588469186, + "grad_norm": 0.1280740350484848, + "learning_rate": 1.669588075080919e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26936952, + "step": 13761 + }, + { + "epoch": 1.8239893969516237, + "grad_norm": 11.53473949432373, + "learning_rate": 1.6692606557561617e-06, + "loss": 0.2586, + "num_input_tokens_seen": 26938784, + "step": 13762 + }, + { + "epoch": 1.8241219350563287, + "grad_norm": 0.010729270987212658, + "learning_rate": 1.6689332524486316e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26939944, + "step": 13763 + }, + { + "epoch": 1.8242544731610337, + "grad_norm": 1.6182721853256226, + "learning_rate": 1.6686058651646424e-06, + "loss": 0.035, + "num_input_tokens_seen": 26941680, + "step": 13764 + }, + { + "epoch": 1.8243870112657388, + "grad_norm": 15.488408088684082, + "learning_rate": 1.6682784939105062e-06, + "loss": 0.3258, + "num_input_tokens_seen": 26944840, + "step": 13765 + }, + { + "epoch": 1.824519549370444, + "grad_norm": 8.061427116394043, + "learning_rate": 1.6679511386925337e-06, + "loss": 0.0239, + "num_input_tokens_seen": 26946376, + "step": 13766 + }, + { + "epoch": 1.824652087475149, + "grad_norm": 3.0624942779541016, + "learning_rate": 1.6676237995170378e-06, + "loss": 0.036, + "num_input_tokens_seen": 26947840, + "step": 13767 + }, + { + "epoch": 1.8247846255798543, + "grad_norm": 0.7073823809623718, + "learning_rate": 1.6672964763903283e-06, + "loss": 0.0034, + "num_input_tokens_seen": 26949824, + "step": 13768 + }, + { + "epoch": 1.8249171636845594, + "grad_norm": 1.0578587055206299, + "learning_rate": 1.6669691693187173e-06, + "loss": 0.0062, + "num_input_tokens_seen": 26951168, + "step": 13769 + }, + { + "epoch": 1.8250497017892644, + "grad_norm": 10.005724906921387, + "learning_rate": 1.6666418783085164e-06, + "loss": 0.1139, + "num_input_tokens_seen": 26953392, + "step": 13770 + }, + { + "epoch": 1.8251822398939694, + "grad_norm": 0.40264299511909485, + "learning_rate": 1.6663146033660342e-06, + "loss": 0.0027, + "num_input_tokens_seen": 26954656, + "step": 13771 + }, + { + "epoch": 1.8253147779986745, + "grad_norm": 3.569605588912964, + "learning_rate": 1.6659873444975822e-06, + "loss": 0.0326, + "num_input_tokens_seen": 26956848, + "step": 13772 + }, + { + "epoch": 1.8254473161033797, + "grad_norm": 14.310128211975098, + "learning_rate": 1.6656601017094695e-06, + "loss": 0.6194, + "num_input_tokens_seen": 26959960, + "step": 13773 + }, + { + "epoch": 1.8255798542080848, + "grad_norm": 2.8636529445648193, + "learning_rate": 1.6653328750080044e-06, + "loss": 0.0351, + "num_input_tokens_seen": 26961912, + "step": 13774 + }, + { + "epoch": 1.82571239231279, + "grad_norm": 0.026560654863715172, + "learning_rate": 1.6650056643994984e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26963896, + "step": 13775 + }, + { + "epoch": 1.825844930417495, + "grad_norm": 0.09332794696092606, + "learning_rate": 1.664678469890259e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26965544, + "step": 13776 + }, + { + "epoch": 1.8259774685222, + "grad_norm": 6.64898157119751, + "learning_rate": 1.664351291486595e-06, + "loss": 0.2414, + "num_input_tokens_seen": 26968288, + "step": 13777 + }, + { + "epoch": 1.8261100066269051, + "grad_norm": 10.039253234863281, + "learning_rate": 1.6640241291948149e-06, + "loss": 0.1969, + "num_input_tokens_seen": 26970664, + "step": 13778 + }, + { + "epoch": 1.8262425447316102, + "grad_norm": 0.018191635608673096, + "learning_rate": 1.6636969830212252e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26973448, + "step": 13779 + }, + { + "epoch": 1.8263750828363154, + "grad_norm": 7.044430732727051, + "learning_rate": 1.6633698529721356e-06, + "loss": 0.186, + "num_input_tokens_seen": 26975616, + "step": 13780 + }, + { + "epoch": 1.8265076209410207, + "grad_norm": 0.45687752962112427, + "learning_rate": 1.663042739053852e-06, + "loss": 0.0018, + "num_input_tokens_seen": 26978536, + "step": 13781 + }, + { + "epoch": 1.8266401590457257, + "grad_norm": 0.25599250197410583, + "learning_rate": 1.6627156412726822e-06, + "loss": 0.0017, + "num_input_tokens_seen": 26980416, + "step": 13782 + }, + { + "epoch": 1.8267726971504308, + "grad_norm": 0.06131959706544876, + "learning_rate": 1.6623885596349322e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26983392, + "step": 13783 + }, + { + "epoch": 1.8269052352551358, + "grad_norm": 1.2535897493362427, + "learning_rate": 1.6620614941469077e-06, + "loss": 0.0107, + "num_input_tokens_seen": 26985216, + "step": 13784 + }, + { + "epoch": 1.8270377733598409, + "grad_norm": 12.878814697265625, + "learning_rate": 1.661734444814917e-06, + "loss": 0.3665, + "num_input_tokens_seen": 26987192, + "step": 13785 + }, + { + "epoch": 1.827170311464546, + "grad_norm": 0.008703788742423058, + "learning_rate": 1.661407411645264e-06, + "loss": 0.0, + "num_input_tokens_seen": 26989336, + "step": 13786 + }, + { + "epoch": 1.8273028495692512, + "grad_norm": 0.16823241114616394, + "learning_rate": 1.6610803946442546e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26990960, + "step": 13787 + }, + { + "epoch": 1.8274353876739564, + "grad_norm": 1.7259310483932495, + "learning_rate": 1.6607533938181947e-06, + "loss": 0.0045, + "num_input_tokens_seen": 26992416, + "step": 13788 + }, + { + "epoch": 1.8275679257786615, + "grad_norm": 5.079961776733398, + "learning_rate": 1.6604264091733868e-06, + "loss": 0.1147, + "num_input_tokens_seen": 26995592, + "step": 13789 + }, + { + "epoch": 1.8277004638833665, + "grad_norm": 13.560264587402344, + "learning_rate": 1.6600994407161374e-06, + "loss": 0.3034, + "num_input_tokens_seen": 26998032, + "step": 13790 + }, + { + "epoch": 1.8278330019880715, + "grad_norm": 13.923527717590332, + "learning_rate": 1.659772488452751e-06, + "loss": 0.1741, + "num_input_tokens_seen": 27000152, + "step": 13791 + }, + { + "epoch": 1.8279655400927766, + "grad_norm": 5.546554088592529, + "learning_rate": 1.6594455523895297e-06, + "loss": 0.0912, + "num_input_tokens_seen": 27001560, + "step": 13792 + }, + { + "epoch": 1.8280980781974818, + "grad_norm": 0.16090849041938782, + "learning_rate": 1.659118632532779e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27004304, + "step": 13793 + }, + { + "epoch": 1.8282306163021869, + "grad_norm": 7.135461807250977, + "learning_rate": 1.6587917288888e-06, + "loss": 0.1001, + "num_input_tokens_seen": 27005992, + "step": 13794 + }, + { + "epoch": 1.8283631544068921, + "grad_norm": 12.784433364868164, + "learning_rate": 1.6584648414638978e-06, + "loss": 0.3311, + "num_input_tokens_seen": 27007816, + "step": 13795 + }, + { + "epoch": 1.8284956925115972, + "grad_norm": 8.874312400817871, + "learning_rate": 1.6581379702643735e-06, + "loss": 0.2221, + "num_input_tokens_seen": 27009736, + "step": 13796 + }, + { + "epoch": 1.8286282306163022, + "grad_norm": 3.3028244972229004, + "learning_rate": 1.6578111152965304e-06, + "loss": 0.0928, + "num_input_tokens_seen": 27011040, + "step": 13797 + }, + { + "epoch": 1.8287607687210072, + "grad_norm": 0.1971087008714676, + "learning_rate": 1.6574842765666696e-06, + "loss": 0.0017, + "num_input_tokens_seen": 27012776, + "step": 13798 + }, + { + "epoch": 1.8288933068257123, + "grad_norm": 11.006721496582031, + "learning_rate": 1.6571574540810924e-06, + "loss": 0.143, + "num_input_tokens_seen": 27015296, + "step": 13799 + }, + { + "epoch": 1.8290258449304175, + "grad_norm": 13.00698184967041, + "learning_rate": 1.6568306478461021e-06, + "loss": 0.3248, + "num_input_tokens_seen": 27017784, + "step": 13800 + }, + { + "epoch": 1.8291583830351226, + "grad_norm": 0.019007472321391106, + "learning_rate": 1.6565038578679981e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27019336, + "step": 13801 + }, + { + "epoch": 1.8292909211398278, + "grad_norm": 10.42569637298584, + "learning_rate": 1.6561770841530822e-06, + "loss": 0.225, + "num_input_tokens_seen": 27021536, + "step": 13802 + }, + { + "epoch": 1.8294234592445329, + "grad_norm": 0.6118856072425842, + "learning_rate": 1.6558503267076542e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27023296, + "step": 13803 + }, + { + "epoch": 1.829555997349238, + "grad_norm": 9.374180793762207, + "learning_rate": 1.6555235855380137e-06, + "loss": 0.1746, + "num_input_tokens_seen": 27025944, + "step": 13804 + }, + { + "epoch": 1.829688535453943, + "grad_norm": 0.3436411917209625, + "learning_rate": 1.6551968606504604e-06, + "loss": 0.0019, + "num_input_tokens_seen": 27028376, + "step": 13805 + }, + { + "epoch": 1.829821073558648, + "grad_norm": 3.397745132446289, + "learning_rate": 1.6548701520512954e-06, + "loss": 0.0346, + "num_input_tokens_seen": 27029856, + "step": 13806 + }, + { + "epoch": 1.8299536116633532, + "grad_norm": 5.769129753112793, + "learning_rate": 1.6545434597468169e-06, + "loss": 0.076, + "num_input_tokens_seen": 27031688, + "step": 13807 + }, + { + "epoch": 1.8300861497680583, + "grad_norm": 5.274041175842285, + "learning_rate": 1.6542167837433237e-06, + "loss": 0.1264, + "num_input_tokens_seen": 27033400, + "step": 13808 + }, + { + "epoch": 1.8302186878727635, + "grad_norm": 2.8539609909057617, + "learning_rate": 1.6538901240471146e-06, + "loss": 0.0187, + "num_input_tokens_seen": 27035072, + "step": 13809 + }, + { + "epoch": 1.8303512259774686, + "grad_norm": 6.022241115570068, + "learning_rate": 1.6535634806644868e-06, + "loss": 0.171, + "num_input_tokens_seen": 27037248, + "step": 13810 + }, + { + "epoch": 1.8304837640821736, + "grad_norm": 5.588782787322998, + "learning_rate": 1.6532368536017393e-06, + "loss": 0.0299, + "num_input_tokens_seen": 27040104, + "step": 13811 + }, + { + "epoch": 1.8306163021868787, + "grad_norm": 11.182650566101074, + "learning_rate": 1.65291024286517e-06, + "loss": 0.3177, + "num_input_tokens_seen": 27042304, + "step": 13812 + }, + { + "epoch": 1.8307488402915837, + "grad_norm": 2.9568207263946533, + "learning_rate": 1.652583648461075e-06, + "loss": 0.0317, + "num_input_tokens_seen": 27044256, + "step": 13813 + }, + { + "epoch": 1.830881378396289, + "grad_norm": 7.3278117179870605, + "learning_rate": 1.6522570703957524e-06, + "loss": 0.1726, + "num_input_tokens_seen": 27046656, + "step": 13814 + }, + { + "epoch": 1.831013916500994, + "grad_norm": 6.596843719482422, + "learning_rate": 1.6519305086754973e-06, + "loss": 0.0889, + "num_input_tokens_seen": 27048896, + "step": 13815 + }, + { + "epoch": 1.8311464546056992, + "grad_norm": 1.1608270406723022, + "learning_rate": 1.6516039633066072e-06, + "loss": 0.0064, + "num_input_tokens_seen": 27050328, + "step": 13816 + }, + { + "epoch": 1.8312789927104043, + "grad_norm": 0.11678385734558105, + "learning_rate": 1.651277434295379e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27052944, + "step": 13817 + }, + { + "epoch": 1.8314115308151093, + "grad_norm": 1.559276819229126, + "learning_rate": 1.6509509216481074e-06, + "loss": 0.0065, + "num_input_tokens_seen": 27054648, + "step": 13818 + }, + { + "epoch": 1.8315440689198144, + "grad_norm": 14.69687557220459, + "learning_rate": 1.6506244253710867e-06, + "loss": 0.2799, + "num_input_tokens_seen": 27056528, + "step": 13819 + }, + { + "epoch": 1.8316766070245194, + "grad_norm": 8.848258972167969, + "learning_rate": 1.6502979454706132e-06, + "loss": 0.1513, + "num_input_tokens_seen": 27058360, + "step": 13820 + }, + { + "epoch": 1.8318091451292247, + "grad_norm": 0.059766095131635666, + "learning_rate": 1.6499714819529822e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27061080, + "step": 13821 + }, + { + "epoch": 1.83194168323393, + "grad_norm": 5.284430027008057, + "learning_rate": 1.6496450348244866e-06, + "loss": 0.1444, + "num_input_tokens_seen": 27063464, + "step": 13822 + }, + { + "epoch": 1.832074221338635, + "grad_norm": 0.013883347623050213, + "learning_rate": 1.6493186040914221e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27065136, + "step": 13823 + }, + { + "epoch": 1.83220675944334, + "grad_norm": 0.011097117327153683, + "learning_rate": 1.6489921897600814e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27066456, + "step": 13824 + }, + { + "epoch": 1.832339297548045, + "grad_norm": 3.7872228622436523, + "learning_rate": 1.6486657918367577e-06, + "loss": 0.0279, + "num_input_tokens_seen": 27067928, + "step": 13825 + }, + { + "epoch": 1.83247183565275, + "grad_norm": 2.3467352390289307, + "learning_rate": 1.648339410327746e-06, + "loss": 0.0238, + "num_input_tokens_seen": 27069232, + "step": 13826 + }, + { + "epoch": 1.832604373757455, + "grad_norm": 6.7321014404296875, + "learning_rate": 1.6480130452393378e-06, + "loss": 0.0255, + "num_input_tokens_seen": 27070784, + "step": 13827 + }, + { + "epoch": 1.8327369118621604, + "grad_norm": 1.1521660089492798, + "learning_rate": 1.6476866965778255e-06, + "loss": 0.0061, + "num_input_tokens_seen": 27072480, + "step": 13828 + }, + { + "epoch": 1.8328694499668656, + "grad_norm": 7.264502048492432, + "learning_rate": 1.6473603643495022e-06, + "loss": 0.0687, + "num_input_tokens_seen": 27074232, + "step": 13829 + }, + { + "epoch": 1.8330019880715707, + "grad_norm": 0.0028025333303958178, + "learning_rate": 1.6470340485606589e-06, + "loss": 0.0, + "num_input_tokens_seen": 27075144, + "step": 13830 + }, + { + "epoch": 1.8331345261762757, + "grad_norm": 9.593247413635254, + "learning_rate": 1.6467077492175868e-06, + "loss": 0.2325, + "num_input_tokens_seen": 27077752, + "step": 13831 + }, + { + "epoch": 1.8332670642809807, + "grad_norm": 4.072556018829346, + "learning_rate": 1.646381466326579e-06, + "loss": 0.0884, + "num_input_tokens_seen": 27079960, + "step": 13832 + }, + { + "epoch": 1.8333996023856858, + "grad_norm": 4.867427825927734, + "learning_rate": 1.6460551998939256e-06, + "loss": 0.0427, + "num_input_tokens_seen": 27083048, + "step": 13833 + }, + { + "epoch": 1.833532140490391, + "grad_norm": 5.690303325653076, + "learning_rate": 1.6457289499259163e-06, + "loss": 0.206, + "num_input_tokens_seen": 27085240, + "step": 13834 + }, + { + "epoch": 1.833664678595096, + "grad_norm": 0.08800266683101654, + "learning_rate": 1.6454027164288427e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27086888, + "step": 13835 + }, + { + "epoch": 1.8337972166998013, + "grad_norm": 11.869974136352539, + "learning_rate": 1.6450764994089936e-06, + "loss": 0.2796, + "num_input_tokens_seen": 27089128, + "step": 13836 + }, + { + "epoch": 1.8339297548045064, + "grad_norm": 2.932394027709961, + "learning_rate": 1.6447502988726593e-06, + "loss": 0.0314, + "num_input_tokens_seen": 27091160, + "step": 13837 + }, + { + "epoch": 1.8340622929092114, + "grad_norm": 0.0045118173584342, + "learning_rate": 1.6444241148261304e-06, + "loss": 0.0, + "num_input_tokens_seen": 27092552, + "step": 13838 + }, + { + "epoch": 1.8341948310139164, + "grad_norm": 9.20363712310791, + "learning_rate": 1.6440979472756937e-06, + "loss": 0.1359, + "num_input_tokens_seen": 27095384, + "step": 13839 + }, + { + "epoch": 1.8343273691186215, + "grad_norm": 6.207511901855469, + "learning_rate": 1.6437717962276401e-06, + "loss": 0.144, + "num_input_tokens_seen": 27097704, + "step": 13840 + }, + { + "epoch": 1.8344599072233267, + "grad_norm": 0.47158950567245483, + "learning_rate": 1.6434456616882555e-06, + "loss": 0.0027, + "num_input_tokens_seen": 27100760, + "step": 13841 + }, + { + "epoch": 1.8345924453280318, + "grad_norm": 3.188619375228882, + "learning_rate": 1.6431195436638306e-06, + "loss": 0.0398, + "num_input_tokens_seen": 27102584, + "step": 13842 + }, + { + "epoch": 1.834724983432737, + "grad_norm": 8.77248477935791, + "learning_rate": 1.6427934421606518e-06, + "loss": 0.1688, + "num_input_tokens_seen": 27104424, + "step": 13843 + }, + { + "epoch": 1.834857521537442, + "grad_norm": 0.036850396543741226, + "learning_rate": 1.642467357185007e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27105824, + "step": 13844 + }, + { + "epoch": 1.8349900596421471, + "grad_norm": 4.096722602844238, + "learning_rate": 1.6421412887431827e-06, + "loss": 0.0875, + "num_input_tokens_seen": 27107904, + "step": 13845 + }, + { + "epoch": 1.8351225977468522, + "grad_norm": 1.0746254920959473, + "learning_rate": 1.6418152368414653e-06, + "loss": 0.0095, + "num_input_tokens_seen": 27109304, + "step": 13846 + }, + { + "epoch": 1.8352551358515572, + "grad_norm": 3.4912657737731934, + "learning_rate": 1.6414892014861435e-06, + "loss": 0.0568, + "num_input_tokens_seen": 27111008, + "step": 13847 + }, + { + "epoch": 1.8353876739562625, + "grad_norm": 0.034731313586235046, + "learning_rate": 1.6411631826835023e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27112296, + "step": 13848 + }, + { + "epoch": 1.8355202120609675, + "grad_norm": 0.11095807701349258, + "learning_rate": 1.6408371804398265e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27114776, + "step": 13849 + }, + { + "epoch": 1.8356527501656728, + "grad_norm": 0.028012752532958984, + "learning_rate": 1.6405111947614036e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27116176, + "step": 13850 + }, + { + "epoch": 1.8357852882703778, + "grad_norm": 0.01476307399570942, + "learning_rate": 1.6401852256545164e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27117632, + "step": 13851 + }, + { + "epoch": 1.8359178263750828, + "grad_norm": 5.5086870193481445, + "learning_rate": 1.639859273125452e-06, + "loss": 0.151, + "num_input_tokens_seen": 27121088, + "step": 13852 + }, + { + "epoch": 1.8360503644797879, + "grad_norm": 0.03542112931609154, + "learning_rate": 1.6395333371804945e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27122480, + "step": 13853 + }, + { + "epoch": 1.836182902584493, + "grad_norm": 8.717010498046875, + "learning_rate": 1.6392074178259275e-06, + "loss": 0.2459, + "num_input_tokens_seen": 27124240, + "step": 13854 + }, + { + "epoch": 1.8363154406891982, + "grad_norm": 2.0424365997314453, + "learning_rate": 1.6388815150680354e-06, + "loss": 0.0335, + "num_input_tokens_seen": 27125632, + "step": 13855 + }, + { + "epoch": 1.8364479787939032, + "grad_norm": 8.256789207458496, + "learning_rate": 1.6385556289131011e-06, + "loss": 0.0681, + "num_input_tokens_seen": 27127088, + "step": 13856 + }, + { + "epoch": 1.8365805168986085, + "grad_norm": 0.03946193307638168, + "learning_rate": 1.6382297593674095e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27129312, + "step": 13857 + }, + { + "epoch": 1.8367130550033135, + "grad_norm": 0.06909149140119553, + "learning_rate": 1.637903906437242e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27131520, + "step": 13858 + }, + { + "epoch": 1.8368455931080185, + "grad_norm": 5.448919773101807, + "learning_rate": 1.637578070128883e-06, + "loss": 0.0683, + "num_input_tokens_seen": 27132952, + "step": 13859 + }, + { + "epoch": 1.8369781312127236, + "grad_norm": 5.2275896072387695, + "learning_rate": 1.6372522504486128e-06, + "loss": 0.1855, + "num_input_tokens_seen": 27134560, + "step": 13860 + }, + { + "epoch": 1.8371106693174286, + "grad_norm": 0.21436308324337006, + "learning_rate": 1.6369264474027147e-06, + "loss": 0.002, + "num_input_tokens_seen": 27136256, + "step": 13861 + }, + { + "epoch": 1.8372432074221339, + "grad_norm": 8.917954444885254, + "learning_rate": 1.6366006609974694e-06, + "loss": 0.1654, + "num_input_tokens_seen": 27138432, + "step": 13862 + }, + { + "epoch": 1.8373757455268391, + "grad_norm": 0.016078729182481766, + "learning_rate": 1.63627489123916e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27139904, + "step": 13863 + }, + { + "epoch": 1.8375082836315442, + "grad_norm": 0.3419841527938843, + "learning_rate": 1.6359491381340659e-06, + "loss": 0.002, + "num_input_tokens_seen": 27141424, + "step": 13864 + }, + { + "epoch": 1.8376408217362492, + "grad_norm": 18.228151321411133, + "learning_rate": 1.635623401688469e-06, + "loss": 0.4718, + "num_input_tokens_seen": 27143824, + "step": 13865 + }, + { + "epoch": 1.8377733598409542, + "grad_norm": 0.36260828375816345, + "learning_rate": 1.6352976819086487e-06, + "loss": 0.0024, + "num_input_tokens_seen": 27146424, + "step": 13866 + }, + { + "epoch": 1.8379058979456593, + "grad_norm": 7.668232440948486, + "learning_rate": 1.634971978800885e-06, + "loss": 0.1208, + "num_input_tokens_seen": 27148760, + "step": 13867 + }, + { + "epoch": 1.8380384360503643, + "grad_norm": 8.884526252746582, + "learning_rate": 1.6346462923714595e-06, + "loss": 0.1417, + "num_input_tokens_seen": 27150520, + "step": 13868 + }, + { + "epoch": 1.8381709741550696, + "grad_norm": 0.27711406350135803, + "learning_rate": 1.63432062262665e-06, + "loss": 0.0022, + "num_input_tokens_seen": 27151784, + "step": 13869 + }, + { + "epoch": 1.8383035122597748, + "grad_norm": 1.8439300060272217, + "learning_rate": 1.6339949695727366e-06, + "loss": 0.0177, + "num_input_tokens_seen": 27154184, + "step": 13870 + }, + { + "epoch": 1.8384360503644799, + "grad_norm": 10.513206481933594, + "learning_rate": 1.6336693332159976e-06, + "loss": 0.262, + "num_input_tokens_seen": 27156032, + "step": 13871 + }, + { + "epoch": 1.838568588469185, + "grad_norm": 6.80433464050293, + "learning_rate": 1.6333437135627106e-06, + "loss": 0.1038, + "num_input_tokens_seen": 27157584, + "step": 13872 + }, + { + "epoch": 1.83870112657389, + "grad_norm": 3.8492870330810547, + "learning_rate": 1.633018110619155e-06, + "loss": 0.0385, + "num_input_tokens_seen": 27159904, + "step": 13873 + }, + { + "epoch": 1.838833664678595, + "grad_norm": 1.2773135900497437, + "learning_rate": 1.6326925243916086e-06, + "loss": 0.0114, + "num_input_tokens_seen": 27162224, + "step": 13874 + }, + { + "epoch": 1.8389662027833003, + "grad_norm": 4.104182720184326, + "learning_rate": 1.6323669548863486e-06, + "loss": 0.0776, + "num_input_tokens_seen": 27163848, + "step": 13875 + }, + { + "epoch": 1.8390987408880053, + "grad_norm": 4.230804920196533, + "learning_rate": 1.6320414021096525e-06, + "loss": 0.0323, + "num_input_tokens_seen": 27165672, + "step": 13876 + }, + { + "epoch": 1.8392312789927105, + "grad_norm": 7.107476711273193, + "learning_rate": 1.6317158660677962e-06, + "loss": 0.104, + "num_input_tokens_seen": 27167248, + "step": 13877 + }, + { + "epoch": 1.8393638170974156, + "grad_norm": 0.048487525433301926, + "learning_rate": 1.6313903467670572e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27168760, + "step": 13878 + }, + { + "epoch": 1.8394963552021206, + "grad_norm": 6.286853313446045, + "learning_rate": 1.6310648442137122e-06, + "loss": 0.0352, + "num_input_tokens_seen": 27170928, + "step": 13879 + }, + { + "epoch": 1.8396288933068257, + "grad_norm": 0.051462478935718536, + "learning_rate": 1.6307393584140362e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27172368, + "step": 13880 + }, + { + "epoch": 1.8397614314115307, + "grad_norm": 1.7079052925109863, + "learning_rate": 1.6304138893743049e-06, + "loss": 0.0109, + "num_input_tokens_seen": 27174272, + "step": 13881 + }, + { + "epoch": 1.839893969516236, + "grad_norm": 3.1776630878448486, + "learning_rate": 1.630088437100793e-06, + "loss": 0.0732, + "num_input_tokens_seen": 27175648, + "step": 13882 + }, + { + "epoch": 1.840026507620941, + "grad_norm": 1.640306830406189, + "learning_rate": 1.6297630015997772e-06, + "loss": 0.0073, + "num_input_tokens_seen": 27177552, + "step": 13883 + }, + { + "epoch": 1.8401590457256463, + "grad_norm": 5.89121150970459, + "learning_rate": 1.6294375828775306e-06, + "loss": 0.1325, + "num_input_tokens_seen": 27179584, + "step": 13884 + }, + { + "epoch": 1.8402915838303513, + "grad_norm": 0.9397594928741455, + "learning_rate": 1.6291121809403287e-06, + "loss": 0.008, + "num_input_tokens_seen": 27181080, + "step": 13885 + }, + { + "epoch": 1.8404241219350563, + "grad_norm": 12.027832984924316, + "learning_rate": 1.6287867957944443e-06, + "loss": 0.1802, + "num_input_tokens_seen": 27183104, + "step": 13886 + }, + { + "epoch": 1.8405566600397614, + "grad_norm": 0.012186788953840733, + "learning_rate": 1.6284614274461514e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27184432, + "step": 13887 + }, + { + "epoch": 1.8406891981444664, + "grad_norm": 5.671597003936768, + "learning_rate": 1.6281360759017225e-06, + "loss": 0.0672, + "num_input_tokens_seen": 27186416, + "step": 13888 + }, + { + "epoch": 1.8408217362491717, + "grad_norm": 4.935153961181641, + "learning_rate": 1.6278107411674326e-06, + "loss": 0.0794, + "num_input_tokens_seen": 27188088, + "step": 13889 + }, + { + "epoch": 1.8409542743538767, + "grad_norm": 0.025124434381723404, + "learning_rate": 1.6274854232495533e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27189216, + "step": 13890 + }, + { + "epoch": 1.841086812458582, + "grad_norm": 0.014137721620500088, + "learning_rate": 1.627160122154357e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27190336, + "step": 13891 + }, + { + "epoch": 1.841219350563287, + "grad_norm": 8.36864185333252, + "learning_rate": 1.6268348378881154e-06, + "loss": 0.1229, + "num_input_tokens_seen": 27192560, + "step": 13892 + }, + { + "epoch": 1.841351888667992, + "grad_norm": 2.253206729888916, + "learning_rate": 1.6265095704570998e-06, + "loss": 0.0254, + "num_input_tokens_seen": 27194656, + "step": 13893 + }, + { + "epoch": 1.841484426772697, + "grad_norm": 0.022708438336849213, + "learning_rate": 1.6261843198675834e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27196712, + "step": 13894 + }, + { + "epoch": 1.8416169648774021, + "grad_norm": 15.598467826843262, + "learning_rate": 1.625859086125836e-06, + "loss": 0.4337, + "num_input_tokens_seen": 27198640, + "step": 13895 + }, + { + "epoch": 1.8417495029821074, + "grad_norm": 3.3812882900238037, + "learning_rate": 1.6255338692381281e-06, + "loss": 0.0298, + "num_input_tokens_seen": 27201216, + "step": 13896 + }, + { + "epoch": 1.8418820410868124, + "grad_norm": 0.04800642654299736, + "learning_rate": 1.6252086692107311e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27202672, + "step": 13897 + }, + { + "epoch": 1.8420145791915177, + "grad_norm": 6.243416786193848, + "learning_rate": 1.624883486049913e-06, + "loss": 0.0231, + "num_input_tokens_seen": 27205240, + "step": 13898 + }, + { + "epoch": 1.8421471172962227, + "grad_norm": 5.604911804199219, + "learning_rate": 1.6245583197619457e-06, + "loss": 0.1072, + "num_input_tokens_seen": 27207776, + "step": 13899 + }, + { + "epoch": 1.8422796554009278, + "grad_norm": 11.394950866699219, + "learning_rate": 1.6242331703530987e-06, + "loss": 0.266, + "num_input_tokens_seen": 27210536, + "step": 13900 + }, + { + "epoch": 1.8424121935056328, + "grad_norm": 0.3222777545452118, + "learning_rate": 1.62390803782964e-06, + "loss": 0.0018, + "num_input_tokens_seen": 27212432, + "step": 13901 + }, + { + "epoch": 1.8425447316103378, + "grad_norm": 0.02999718300998211, + "learning_rate": 1.6235829221978384e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27215920, + "step": 13902 + }, + { + "epoch": 1.842677269715043, + "grad_norm": 0.12040308117866516, + "learning_rate": 1.623257823463962e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27217680, + "step": 13903 + }, + { + "epoch": 1.8428098078197481, + "grad_norm": 12.774290084838867, + "learning_rate": 1.6229327416342807e-06, + "loss": 0.2924, + "num_input_tokens_seen": 27220720, + "step": 13904 + }, + { + "epoch": 1.8429423459244534, + "grad_norm": 0.04908725991845131, + "learning_rate": 1.6226076767150606e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27222592, + "step": 13905 + }, + { + "epoch": 1.8430748840291584, + "grad_norm": 0.043988581746816635, + "learning_rate": 1.6222826287125703e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27224520, + "step": 13906 + }, + { + "epoch": 1.8432074221338635, + "grad_norm": 3.9521000385284424, + "learning_rate": 1.6219575976330761e-06, + "loss": 0.125, + "num_input_tokens_seen": 27226824, + "step": 13907 + }, + { + "epoch": 1.8433399602385685, + "grad_norm": 0.17472125589847565, + "learning_rate": 1.6216325834828448e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27228456, + "step": 13908 + }, + { + "epoch": 1.8434724983432735, + "grad_norm": 8.633052825927734, + "learning_rate": 1.6213075862681438e-06, + "loss": 0.1033, + "num_input_tokens_seen": 27230704, + "step": 13909 + }, + { + "epoch": 1.8436050364479788, + "grad_norm": 0.26491162180900574, + "learning_rate": 1.6209826059952389e-06, + "loss": 0.0014, + "num_input_tokens_seen": 27232040, + "step": 13910 + }, + { + "epoch": 1.843737574552684, + "grad_norm": 5.425374984741211, + "learning_rate": 1.6206576426703955e-06, + "loss": 0.1877, + "num_input_tokens_seen": 27234424, + "step": 13911 + }, + { + "epoch": 1.843870112657389, + "grad_norm": 0.01962396875023842, + "learning_rate": 1.6203326962998795e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27236416, + "step": 13912 + }, + { + "epoch": 1.8440026507620941, + "grad_norm": 3.920288324356079, + "learning_rate": 1.620007766889955e-06, + "loss": 0.0815, + "num_input_tokens_seen": 27238360, + "step": 13913 + }, + { + "epoch": 1.8441351888667992, + "grad_norm": 0.009308967739343643, + "learning_rate": 1.6196828544468884e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27239960, + "step": 13914 + }, + { + "epoch": 1.8442677269715042, + "grad_norm": 4.488587856292725, + "learning_rate": 1.6193579589769442e-06, + "loss": 0.0794, + "num_input_tokens_seen": 27241488, + "step": 13915 + }, + { + "epoch": 1.8444002650762092, + "grad_norm": 0.12009155750274658, + "learning_rate": 1.6190330804863862e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27242688, + "step": 13916 + }, + { + "epoch": 1.8445328031809145, + "grad_norm": 6.791052341461182, + "learning_rate": 1.6187082189814776e-06, + "loss": 0.0646, + "num_input_tokens_seen": 27244456, + "step": 13917 + }, + { + "epoch": 1.8446653412856198, + "grad_norm": 0.3420785963535309, + "learning_rate": 1.618383374468483e-06, + "loss": 0.0017, + "num_input_tokens_seen": 27247152, + "step": 13918 + }, + { + "epoch": 1.8447978793903248, + "grad_norm": 7.968814849853516, + "learning_rate": 1.6180585469536642e-06, + "loss": 0.1689, + "num_input_tokens_seen": 27248880, + "step": 13919 + }, + { + "epoch": 1.8449304174950298, + "grad_norm": 12.798491477966309, + "learning_rate": 1.6177337364432856e-06, + "loss": 0.1882, + "num_input_tokens_seen": 27251168, + "step": 13920 + }, + { + "epoch": 1.8450629555997349, + "grad_norm": 0.011770655401051044, + "learning_rate": 1.617408942943609e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27252512, + "step": 13921 + }, + { + "epoch": 1.84519549370444, + "grad_norm": 8.078296661376953, + "learning_rate": 1.6170841664608972e-06, + "loss": 0.0919, + "num_input_tokens_seen": 27254704, + "step": 13922 + }, + { + "epoch": 1.8453280318091452, + "grad_norm": 10.796738624572754, + "learning_rate": 1.616759407001412e-06, + "loss": 0.1064, + "num_input_tokens_seen": 27256600, + "step": 13923 + }, + { + "epoch": 1.8454605699138502, + "grad_norm": 5.751252174377441, + "learning_rate": 1.6164346645714136e-06, + "loss": 0.0367, + "num_input_tokens_seen": 27258288, + "step": 13924 + }, + { + "epoch": 1.8455931080185555, + "grad_norm": 7.025866985321045, + "learning_rate": 1.6161099391771657e-06, + "loss": 0.1076, + "num_input_tokens_seen": 27260544, + "step": 13925 + }, + { + "epoch": 1.8457256461232605, + "grad_norm": 0.058026351034641266, + "learning_rate": 1.615785230824927e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27262656, + "step": 13926 + }, + { + "epoch": 1.8458581842279655, + "grad_norm": 9.957240104675293, + "learning_rate": 1.61546053952096e-06, + "loss": 0.1794, + "num_input_tokens_seen": 27265104, + "step": 13927 + }, + { + "epoch": 1.8459907223326706, + "grad_norm": 0.019311200827360153, + "learning_rate": 1.6151358652715232e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27266552, + "step": 13928 + }, + { + "epoch": 1.8461232604373756, + "grad_norm": 5.569981098175049, + "learning_rate": 1.6148112080828769e-06, + "loss": 0.1175, + "num_input_tokens_seen": 27267888, + "step": 13929 + }, + { + "epoch": 1.8462557985420809, + "grad_norm": 13.44492244720459, + "learning_rate": 1.614486567961282e-06, + "loss": 0.3523, + "num_input_tokens_seen": 27270104, + "step": 13930 + }, + { + "epoch": 1.846388336646786, + "grad_norm": 0.009062015451490879, + "learning_rate": 1.6141619449129967e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27272192, + "step": 13931 + }, + { + "epoch": 1.8465208747514912, + "grad_norm": 6.686935901641846, + "learning_rate": 1.6138373389442808e-06, + "loss": 0.1667, + "num_input_tokens_seen": 27274240, + "step": 13932 + }, + { + "epoch": 1.8466534128561962, + "grad_norm": 10.427565574645996, + "learning_rate": 1.6135127500613923e-06, + "loss": 0.2066, + "num_input_tokens_seen": 27275936, + "step": 13933 + }, + { + "epoch": 1.8467859509609013, + "grad_norm": 0.014309673570096493, + "learning_rate": 1.6131881782705882e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27277224, + "step": 13934 + }, + { + "epoch": 1.8469184890656063, + "grad_norm": 1.2452702522277832, + "learning_rate": 1.6128636235781287e-06, + "loss": 0.0141, + "num_input_tokens_seen": 27279720, + "step": 13935 + }, + { + "epoch": 1.8470510271703113, + "grad_norm": 7.199913024902344, + "learning_rate": 1.6125390859902707e-06, + "loss": 0.045, + "num_input_tokens_seen": 27281352, + "step": 13936 + }, + { + "epoch": 1.8471835652750166, + "grad_norm": 4.5833024978637695, + "learning_rate": 1.6122145655132708e-06, + "loss": 0.0523, + "num_input_tokens_seen": 27283384, + "step": 13937 + }, + { + "epoch": 1.8473161033797216, + "grad_norm": 0.027738282456994057, + "learning_rate": 1.6118900621533876e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27284768, + "step": 13938 + }, + { + "epoch": 1.847448641484427, + "grad_norm": 8.264155387878418, + "learning_rate": 1.6115655759168752e-06, + "loss": 0.1847, + "num_input_tokens_seen": 27286624, + "step": 13939 + }, + { + "epoch": 1.847581179589132, + "grad_norm": 0.049756504595279694, + "learning_rate": 1.6112411068099926e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27288376, + "step": 13940 + }, + { + "epoch": 1.847713717693837, + "grad_norm": 4.072049140930176, + "learning_rate": 1.6109166548389944e-06, + "loss": 0.0824, + "num_input_tokens_seen": 27290784, + "step": 13941 + }, + { + "epoch": 1.847846255798542, + "grad_norm": 0.01436234824359417, + "learning_rate": 1.6105922200101363e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27292512, + "step": 13942 + }, + { + "epoch": 1.847978793903247, + "grad_norm": 9.681053161621094, + "learning_rate": 1.6102678023296736e-06, + "loss": 0.0317, + "num_input_tokens_seen": 27294440, + "step": 13943 + }, + { + "epoch": 1.8481113320079523, + "grad_norm": 6.828869819641113, + "learning_rate": 1.6099434018038618e-06, + "loss": 0.1161, + "num_input_tokens_seen": 27296840, + "step": 13944 + }, + { + "epoch": 1.8482438701126573, + "grad_norm": 0.17491109669208527, + "learning_rate": 1.6096190184389543e-06, + "loss": 0.0012, + "num_input_tokens_seen": 27298392, + "step": 13945 + }, + { + "epoch": 1.8483764082173626, + "grad_norm": 0.04074319452047348, + "learning_rate": 1.6092946522412067e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27299800, + "step": 13946 + }, + { + "epoch": 1.8485089463220676, + "grad_norm": 1.0000303983688354, + "learning_rate": 1.6089703032168736e-06, + "loss": 0.008, + "num_input_tokens_seen": 27301680, + "step": 13947 + }, + { + "epoch": 1.8486414844267727, + "grad_norm": 5.7232489585876465, + "learning_rate": 1.6086459713722074e-06, + "loss": 0.052, + "num_input_tokens_seen": 27303464, + "step": 13948 + }, + { + "epoch": 1.8487740225314777, + "grad_norm": 0.5723093152046204, + "learning_rate": 1.6083216567134613e-06, + "loss": 0.0028, + "num_input_tokens_seen": 27305280, + "step": 13949 + }, + { + "epoch": 1.8489065606361827, + "grad_norm": 7.835122108459473, + "learning_rate": 1.6079973592468885e-06, + "loss": 0.3004, + "num_input_tokens_seen": 27307936, + "step": 13950 + }, + { + "epoch": 1.849039098740888, + "grad_norm": 6.931849479675293, + "learning_rate": 1.6076730789787432e-06, + "loss": 0.053, + "num_input_tokens_seen": 27309952, + "step": 13951 + }, + { + "epoch": 1.8491716368455933, + "grad_norm": 6.869166374206543, + "learning_rate": 1.6073488159152756e-06, + "loss": 0.1109, + "num_input_tokens_seen": 27311904, + "step": 13952 + }, + { + "epoch": 1.8493041749502983, + "grad_norm": 1.4577000141143799, + "learning_rate": 1.607024570062739e-06, + "loss": 0.0096, + "num_input_tokens_seen": 27313232, + "step": 13953 + }, + { + "epoch": 1.8494367130550033, + "grad_norm": 0.00696646748110652, + "learning_rate": 1.6067003414273852e-06, + "loss": 0.0, + "num_input_tokens_seen": 27314680, + "step": 13954 + }, + { + "epoch": 1.8495692511597084, + "grad_norm": 6.642423152923584, + "learning_rate": 1.6063761300154637e-06, + "loss": 0.0996, + "num_input_tokens_seen": 27316664, + "step": 13955 + }, + { + "epoch": 1.8497017892644134, + "grad_norm": 0.1272624433040619, + "learning_rate": 1.6060519358332274e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27318480, + "step": 13956 + }, + { + "epoch": 1.8498343273691185, + "grad_norm": 0.01872388646006584, + "learning_rate": 1.6057277588869272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27319840, + "step": 13957 + }, + { + "epoch": 1.8499668654738237, + "grad_norm": 13.574581146240234, + "learning_rate": 1.605403599182812e-06, + "loss": 0.2887, + "num_input_tokens_seen": 27321576, + "step": 13958 + }, + { + "epoch": 1.850099403578529, + "grad_norm": 10.073512077331543, + "learning_rate": 1.6050794567271332e-06, + "loss": 0.1268, + "num_input_tokens_seen": 27323912, + "step": 13959 + }, + { + "epoch": 1.850231941683234, + "grad_norm": 7.7751784324646, + "learning_rate": 1.6047553315261389e-06, + "loss": 0.1739, + "num_input_tokens_seen": 27326104, + "step": 13960 + }, + { + "epoch": 1.850364479787939, + "grad_norm": 0.280917763710022, + "learning_rate": 1.6044312235860798e-06, + "loss": 0.0029, + "num_input_tokens_seen": 27328960, + "step": 13961 + }, + { + "epoch": 1.850497017892644, + "grad_norm": 0.022387413308024406, + "learning_rate": 1.6041071329132051e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27330936, + "step": 13962 + }, + { + "epoch": 1.8506295559973491, + "grad_norm": 7.828739643096924, + "learning_rate": 1.603783059513763e-06, + "loss": 0.186, + "num_input_tokens_seen": 27332472, + "step": 13963 + }, + { + "epoch": 1.8507620941020544, + "grad_norm": 11.340049743652344, + "learning_rate": 1.6034590033940012e-06, + "loss": 0.3185, + "num_input_tokens_seen": 27334648, + "step": 13964 + }, + { + "epoch": 1.8508946322067594, + "grad_norm": 0.044904373586177826, + "learning_rate": 1.6031349645601676e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27338744, + "step": 13965 + }, + { + "epoch": 1.8510271703114647, + "grad_norm": 3.734807014465332, + "learning_rate": 1.6028109430185118e-06, + "loss": 0.1173, + "num_input_tokens_seen": 27340216, + "step": 13966 + }, + { + "epoch": 1.8511597084161697, + "grad_norm": 8.725793838500977, + "learning_rate": 1.6024869387752795e-06, + "loss": 0.2331, + "num_input_tokens_seen": 27342480, + "step": 13967 + }, + { + "epoch": 1.8512922465208748, + "grad_norm": 0.06117292121052742, + "learning_rate": 1.6021629518367187e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27343904, + "step": 13968 + }, + { + "epoch": 1.8514247846255798, + "grad_norm": 0.13022427260875702, + "learning_rate": 1.6018389822090749e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27345912, + "step": 13969 + }, + { + "epoch": 1.8515573227302848, + "grad_norm": 1.2696954011917114, + "learning_rate": 1.6015150298985955e-06, + "loss": 0.0085, + "num_input_tokens_seen": 27347576, + "step": 13970 + }, + { + "epoch": 1.85168986083499, + "grad_norm": 3.114445209503174, + "learning_rate": 1.6011910949115255e-06, + "loss": 0.0297, + "num_input_tokens_seen": 27349512, + "step": 13971 + }, + { + "epoch": 1.8518223989396951, + "grad_norm": 1.1157437562942505, + "learning_rate": 1.6008671772541123e-06, + "loss": 0.008, + "num_input_tokens_seen": 27351552, + "step": 13972 + }, + { + "epoch": 1.8519549370444004, + "grad_norm": 7.569608211517334, + "learning_rate": 1.6005432769325996e-06, + "loss": 0.2241, + "num_input_tokens_seen": 27354200, + "step": 13973 + }, + { + "epoch": 1.8520874751491054, + "grad_norm": 4.073066234588623, + "learning_rate": 1.6002193939532334e-06, + "loss": 0.0974, + "num_input_tokens_seen": 27355872, + "step": 13974 + }, + { + "epoch": 1.8522200132538105, + "grad_norm": 15.10389518737793, + "learning_rate": 1.5998955283222575e-06, + "loss": 0.3372, + "num_input_tokens_seen": 27358112, + "step": 13975 + }, + { + "epoch": 1.8523525513585155, + "grad_norm": 0.165694460272789, + "learning_rate": 1.5995716800459165e-06, + "loss": 0.0017, + "num_input_tokens_seen": 27360560, + "step": 13976 + }, + { + "epoch": 1.8524850894632205, + "grad_norm": 0.12496459484100342, + "learning_rate": 1.5992478491304553e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27362000, + "step": 13977 + }, + { + "epoch": 1.8526176275679258, + "grad_norm": 14.195602416992188, + "learning_rate": 1.5989240355821174e-06, + "loss": 0.2502, + "num_input_tokens_seen": 27363720, + "step": 13978 + }, + { + "epoch": 1.8527501656726308, + "grad_norm": 7.37322473526001, + "learning_rate": 1.5986002394071448e-06, + "loss": 0.1504, + "num_input_tokens_seen": 27366216, + "step": 13979 + }, + { + "epoch": 1.852882703777336, + "grad_norm": 0.9753274321556091, + "learning_rate": 1.5982764606117824e-06, + "loss": 0.0058, + "num_input_tokens_seen": 27369520, + "step": 13980 + }, + { + "epoch": 1.8530152418820411, + "grad_norm": 0.024563701823353767, + "learning_rate": 1.5979526992022704e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27370848, + "step": 13981 + }, + { + "epoch": 1.8531477799867462, + "grad_norm": 6.1171159744262695, + "learning_rate": 1.5976289551848534e-06, + "loss": 0.1848, + "num_input_tokens_seen": 27373552, + "step": 13982 + }, + { + "epoch": 1.8532803180914512, + "grad_norm": 0.3338046967983246, + "learning_rate": 1.5973052285657732e-06, + "loss": 0.0022, + "num_input_tokens_seen": 27375648, + "step": 13983 + }, + { + "epoch": 1.8534128561961563, + "grad_norm": 0.04239899292588234, + "learning_rate": 1.5969815193512706e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27378784, + "step": 13984 + }, + { + "epoch": 1.8535453943008615, + "grad_norm": 6.776947021484375, + "learning_rate": 1.5966578275475874e-06, + "loss": 0.1346, + "num_input_tokens_seen": 27380392, + "step": 13985 + }, + { + "epoch": 1.8536779324055666, + "grad_norm": 4.0636982917785645, + "learning_rate": 1.5963341531609636e-06, + "loss": 0.0526, + "num_input_tokens_seen": 27382176, + "step": 13986 + }, + { + "epoch": 1.8538104705102718, + "grad_norm": 9.393250465393066, + "learning_rate": 1.5960104961976416e-06, + "loss": 0.131, + "num_input_tokens_seen": 27384184, + "step": 13987 + }, + { + "epoch": 1.8539430086149769, + "grad_norm": 9.086524963378906, + "learning_rate": 1.5956868566638606e-06, + "loss": 0.1133, + "num_input_tokens_seen": 27387496, + "step": 13988 + }, + { + "epoch": 1.8540755467196819, + "grad_norm": 0.10945142805576324, + "learning_rate": 1.5953632345658613e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27389392, + "step": 13989 + }, + { + "epoch": 1.854208084824387, + "grad_norm": 0.21892905235290527, + "learning_rate": 1.5950396299098824e-06, + "loss": 0.0022, + "num_input_tokens_seen": 27391104, + "step": 13990 + }, + { + "epoch": 1.854340622929092, + "grad_norm": 4.318899631500244, + "learning_rate": 1.594716042702163e-06, + "loss": 0.1062, + "num_input_tokens_seen": 27393056, + "step": 13991 + }, + { + "epoch": 1.8544731610337972, + "grad_norm": 8.38369369506836, + "learning_rate": 1.594392472948944e-06, + "loss": 0.1179, + "num_input_tokens_seen": 27394632, + "step": 13992 + }, + { + "epoch": 1.8546056991385025, + "grad_norm": 2.521267890930176, + "learning_rate": 1.594068920656463e-06, + "loss": 0.0247, + "num_input_tokens_seen": 27396520, + "step": 13993 + }, + { + "epoch": 1.8547382372432075, + "grad_norm": 9.66817569732666, + "learning_rate": 1.5937453858309576e-06, + "loss": 0.0745, + "num_input_tokens_seen": 27398440, + "step": 13994 + }, + { + "epoch": 1.8548707753479126, + "grad_norm": 0.025035610422492027, + "learning_rate": 1.5934218684786668e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27400864, + "step": 13995 + }, + { + "epoch": 1.8550033134526176, + "grad_norm": 7.201386451721191, + "learning_rate": 1.5930983686058268e-06, + "loss": 0.0854, + "num_input_tokens_seen": 27402648, + "step": 13996 + }, + { + "epoch": 1.8551358515573226, + "grad_norm": 3.18255615234375, + "learning_rate": 1.5927748862186766e-06, + "loss": 0.0411, + "num_input_tokens_seen": 27404400, + "step": 13997 + }, + { + "epoch": 1.8552683896620277, + "grad_norm": 3.538731336593628, + "learning_rate": 1.5924514213234527e-06, + "loss": 0.0599, + "num_input_tokens_seen": 27406736, + "step": 13998 + }, + { + "epoch": 1.855400927766733, + "grad_norm": 4.173019886016846, + "learning_rate": 1.5921279739263912e-06, + "loss": 0.1204, + "num_input_tokens_seen": 27408944, + "step": 13999 + }, + { + "epoch": 1.8555334658714382, + "grad_norm": 7.232189655303955, + "learning_rate": 1.5918045440337288e-06, + "loss": 0.0291, + "num_input_tokens_seen": 27410552, + "step": 14000 + }, + { + "epoch": 1.8556660039761432, + "grad_norm": 2.672259569168091, + "learning_rate": 1.5914811316517014e-06, + "loss": 0.0254, + "num_input_tokens_seen": 27412000, + "step": 14001 + }, + { + "epoch": 1.8557985420808483, + "grad_norm": 9.737458229064941, + "learning_rate": 1.591157736786544e-06, + "loss": 0.1322, + "num_input_tokens_seen": 27413680, + "step": 14002 + }, + { + "epoch": 1.8559310801855533, + "grad_norm": 10.601056098937988, + "learning_rate": 1.5908343594444925e-06, + "loss": 0.2236, + "num_input_tokens_seen": 27415424, + "step": 14003 + }, + { + "epoch": 1.8560636182902583, + "grad_norm": 4.919938087463379, + "learning_rate": 1.5905109996317824e-06, + "loss": 0.1042, + "num_input_tokens_seen": 27417976, + "step": 14004 + }, + { + "epoch": 1.8561961563949636, + "grad_norm": 7.361004829406738, + "learning_rate": 1.590187657354647e-06, + "loss": 0.1729, + "num_input_tokens_seen": 27420120, + "step": 14005 + }, + { + "epoch": 1.8563286944996686, + "grad_norm": 5.509590148925781, + "learning_rate": 1.589864332619322e-06, + "loss": 0.133, + "num_input_tokens_seen": 27422488, + "step": 14006 + }, + { + "epoch": 1.856461232604374, + "grad_norm": 9.648595809936523, + "learning_rate": 1.5895410254320392e-06, + "loss": 0.1818, + "num_input_tokens_seen": 27425128, + "step": 14007 + }, + { + "epoch": 1.856593770709079, + "grad_norm": 7.623651027679443, + "learning_rate": 1.5892177357990346e-06, + "loss": 0.1737, + "num_input_tokens_seen": 27427800, + "step": 14008 + }, + { + "epoch": 1.856726308813784, + "grad_norm": 11.454166412353516, + "learning_rate": 1.5888944637265403e-06, + "loss": 0.245, + "num_input_tokens_seen": 27429896, + "step": 14009 + }, + { + "epoch": 1.856858846918489, + "grad_norm": 0.018681271001696587, + "learning_rate": 1.588571209220789e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27431144, + "step": 14010 + }, + { + "epoch": 1.856991385023194, + "grad_norm": 5.7312774658203125, + "learning_rate": 1.5882479722880137e-06, + "loss": 0.1725, + "num_input_tokens_seen": 27433432, + "step": 14011 + }, + { + "epoch": 1.8571239231278993, + "grad_norm": 8.795912742614746, + "learning_rate": 1.5879247529344458e-06, + "loss": 0.2056, + "num_input_tokens_seen": 27435512, + "step": 14012 + }, + { + "epoch": 1.8572564612326043, + "grad_norm": 4.559013843536377, + "learning_rate": 1.5876015511663188e-06, + "loss": 0.0343, + "num_input_tokens_seen": 27437560, + "step": 14013 + }, + { + "epoch": 1.8573889993373096, + "grad_norm": 2.495793342590332, + "learning_rate": 1.5872783669898627e-06, + "loss": 0.0298, + "num_input_tokens_seen": 27440328, + "step": 14014 + }, + { + "epoch": 1.8575215374420146, + "grad_norm": 8.94723892211914, + "learning_rate": 1.58695520041131e-06, + "loss": 0.1245, + "num_input_tokens_seen": 27442192, + "step": 14015 + }, + { + "epoch": 1.8576540755467197, + "grad_norm": 6.600645065307617, + "learning_rate": 1.586632051436891e-06, + "loss": 0.1558, + "num_input_tokens_seen": 27444648, + "step": 14016 + }, + { + "epoch": 1.8577866136514247, + "grad_norm": 0.3052669167518616, + "learning_rate": 1.5863089200728348e-06, + "loss": 0.0021, + "num_input_tokens_seen": 27446096, + "step": 14017 + }, + { + "epoch": 1.8579191517561298, + "grad_norm": 0.01038262527436018, + "learning_rate": 1.585985806325374e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27447840, + "step": 14018 + }, + { + "epoch": 1.858051689860835, + "grad_norm": 0.07914943993091583, + "learning_rate": 1.5856627102007377e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27449352, + "step": 14019 + }, + { + "epoch": 1.85818422796554, + "grad_norm": 4.2371110916137695, + "learning_rate": 1.5853396317051545e-06, + "loss": 0.0667, + "num_input_tokens_seen": 27451104, + "step": 14020 + }, + { + "epoch": 1.8583167660702453, + "grad_norm": 3.034331798553467, + "learning_rate": 1.5850165708448544e-06, + "loss": 0.058, + "num_input_tokens_seen": 27453960, + "step": 14021 + }, + { + "epoch": 1.8584493041749504, + "grad_norm": 7.8173909187316895, + "learning_rate": 1.5846935276260655e-06, + "loss": 0.1548, + "num_input_tokens_seen": 27456320, + "step": 14022 + }, + { + "epoch": 1.8585818422796554, + "grad_norm": 0.024954702705144882, + "learning_rate": 1.584370502055017e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27458512, + "step": 14023 + }, + { + "epoch": 1.8587143803843604, + "grad_norm": 0.014869432896375656, + "learning_rate": 1.5840474941379377e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27460192, + "step": 14024 + }, + { + "epoch": 1.8588469184890655, + "grad_norm": 1.6893668174743652, + "learning_rate": 1.5837245038810545e-06, + "loss": 0.0391, + "num_input_tokens_seen": 27461488, + "step": 14025 + }, + { + "epoch": 1.8589794565937707, + "grad_norm": 19.471981048583984, + "learning_rate": 1.5834015312905942e-06, + "loss": 0.1645, + "num_input_tokens_seen": 27463680, + "step": 14026 + }, + { + "epoch": 1.8591119946984758, + "grad_norm": 3.3017728328704834, + "learning_rate": 1.5830785763727846e-06, + "loss": 0.0314, + "num_input_tokens_seen": 27466160, + "step": 14027 + }, + { + "epoch": 1.859244532803181, + "grad_norm": 4.193112373352051, + "learning_rate": 1.5827556391338533e-06, + "loss": 0.0901, + "num_input_tokens_seen": 27467984, + "step": 14028 + }, + { + "epoch": 1.859377070907886, + "grad_norm": 7.224668502807617, + "learning_rate": 1.5824327195800258e-06, + "loss": 0.0945, + "num_input_tokens_seen": 27470184, + "step": 14029 + }, + { + "epoch": 1.859509609012591, + "grad_norm": 9.425884246826172, + "learning_rate": 1.5821098177175286e-06, + "loss": 0.0956, + "num_input_tokens_seen": 27472040, + "step": 14030 + }, + { + "epoch": 1.8596421471172961, + "grad_norm": 0.13361337780952454, + "learning_rate": 1.5817869335525875e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27473744, + "step": 14031 + }, + { + "epoch": 1.8597746852220012, + "grad_norm": 0.06496568769216537, + "learning_rate": 1.5814640670914277e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27475400, + "step": 14032 + }, + { + "epoch": 1.8599072233267064, + "grad_norm": 1.2887072563171387, + "learning_rate": 1.5811412183402733e-06, + "loss": 0.0142, + "num_input_tokens_seen": 27477552, + "step": 14033 + }, + { + "epoch": 1.8600397614314115, + "grad_norm": 13.932268142700195, + "learning_rate": 1.5808183873053512e-06, + "loss": 0.1555, + "num_input_tokens_seen": 27479376, + "step": 14034 + }, + { + "epoch": 1.8601722995361167, + "grad_norm": 0.6396550536155701, + "learning_rate": 1.5804955739928845e-06, + "loss": 0.0031, + "num_input_tokens_seen": 27481344, + "step": 14035 + }, + { + "epoch": 1.8603048376408218, + "grad_norm": 0.10826234519481659, + "learning_rate": 1.5801727784090975e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27483784, + "step": 14036 + }, + { + "epoch": 1.8604373757455268, + "grad_norm": 15.175018310546875, + "learning_rate": 1.5798500005602138e-06, + "loss": 0.1715, + "num_input_tokens_seen": 27486864, + "step": 14037 + }, + { + "epoch": 1.8605699138502318, + "grad_norm": 7.901054859161377, + "learning_rate": 1.5795272404524562e-06, + "loss": 0.1474, + "num_input_tokens_seen": 27488392, + "step": 14038 + }, + { + "epoch": 1.8607024519549369, + "grad_norm": 7.47947883605957, + "learning_rate": 1.5792044980920495e-06, + "loss": 0.2055, + "num_input_tokens_seen": 27490576, + "step": 14039 + }, + { + "epoch": 1.8608349900596421, + "grad_norm": 6.945105075836182, + "learning_rate": 1.5788817734852153e-06, + "loss": 0.076, + "num_input_tokens_seen": 27492160, + "step": 14040 + }, + { + "epoch": 1.8609675281643474, + "grad_norm": 0.22695119678974152, + "learning_rate": 1.5785590666381751e-06, + "loss": 0.0016, + "num_input_tokens_seen": 27493832, + "step": 14041 + }, + { + "epoch": 1.8611000662690524, + "grad_norm": 10.272282600402832, + "learning_rate": 1.5782363775571528e-06, + "loss": 0.1275, + "num_input_tokens_seen": 27495520, + "step": 14042 + }, + { + "epoch": 1.8612326043737575, + "grad_norm": 18.20184326171875, + "learning_rate": 1.5779137062483673e-06, + "loss": 0.121, + "num_input_tokens_seen": 27497152, + "step": 14043 + }, + { + "epoch": 1.8613651424784625, + "grad_norm": 0.03172851726412773, + "learning_rate": 1.5775910527180426e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27498416, + "step": 14044 + }, + { + "epoch": 1.8614976805831676, + "grad_norm": 0.014296247623860836, + "learning_rate": 1.5772684169723994e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27500552, + "step": 14045 + }, + { + "epoch": 1.8616302186878728, + "grad_norm": 1.530669927597046, + "learning_rate": 1.5769457990176578e-06, + "loss": 0.0152, + "num_input_tokens_seen": 27502200, + "step": 14046 + }, + { + "epoch": 1.8617627567925779, + "grad_norm": 13.09257984161377, + "learning_rate": 1.5766231988600372e-06, + "loss": 0.3608, + "num_input_tokens_seen": 27504616, + "step": 14047 + }, + { + "epoch": 1.8618952948972831, + "grad_norm": 5.582982063293457, + "learning_rate": 1.5763006165057576e-06, + "loss": 0.0573, + "num_input_tokens_seen": 27507344, + "step": 14048 + }, + { + "epoch": 1.8620278330019882, + "grad_norm": 0.08706431835889816, + "learning_rate": 1.5759780519610408e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27509656, + "step": 14049 + }, + { + "epoch": 1.8621603711066932, + "grad_norm": 7.549373149871826, + "learning_rate": 1.5756555052321038e-06, + "loss": 0.1238, + "num_input_tokens_seen": 27511616, + "step": 14050 + }, + { + "epoch": 1.8622929092113982, + "grad_norm": 0.08817126601934433, + "learning_rate": 1.575332976325167e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27513216, + "step": 14051 + }, + { + "epoch": 1.8624254473161033, + "grad_norm": 4.608008861541748, + "learning_rate": 1.5750104652464475e-06, + "loss": 0.0692, + "num_input_tokens_seen": 27515032, + "step": 14052 + }, + { + "epoch": 1.8625579854208085, + "grad_norm": 0.2380451112985611, + "learning_rate": 1.5746879720021643e-06, + "loss": 0.002, + "num_input_tokens_seen": 27516744, + "step": 14053 + }, + { + "epoch": 1.8626905235255136, + "grad_norm": 0.027397483587265015, + "learning_rate": 1.574365496598536e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27518568, + "step": 14054 + }, + { + "epoch": 1.8628230616302188, + "grad_norm": 0.028521781787276268, + "learning_rate": 1.57404303904178e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27519960, + "step": 14055 + }, + { + "epoch": 1.8629555997349239, + "grad_norm": 10.670886039733887, + "learning_rate": 1.573720599338112e-06, + "loss": 0.1222, + "num_input_tokens_seen": 27521696, + "step": 14056 + }, + { + "epoch": 1.863088137839629, + "grad_norm": 13.77548599243164, + "learning_rate": 1.5733981774937504e-06, + "loss": 0.3294, + "num_input_tokens_seen": 27524016, + "step": 14057 + }, + { + "epoch": 1.863220675944334, + "grad_norm": 0.04214996099472046, + "learning_rate": 1.5730757735149108e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27526088, + "step": 14058 + }, + { + "epoch": 1.863353214049039, + "grad_norm": 0.023070091381669044, + "learning_rate": 1.572753387407809e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27527896, + "step": 14059 + }, + { + "epoch": 1.8634857521537442, + "grad_norm": 4.00438928604126, + "learning_rate": 1.572431019178663e-06, + "loss": 0.0983, + "num_input_tokens_seen": 27529944, + "step": 14060 + }, + { + "epoch": 1.8636182902584493, + "grad_norm": 9.056439399719238, + "learning_rate": 1.5721086688336865e-06, + "loss": 0.1958, + "num_input_tokens_seen": 27531616, + "step": 14061 + }, + { + "epoch": 1.8637508283631545, + "grad_norm": 0.13469092547893524, + "learning_rate": 1.5717863363790944e-06, + "loss": 0.0012, + "num_input_tokens_seen": 27533216, + "step": 14062 + }, + { + "epoch": 1.8638833664678596, + "grad_norm": 6.646396160125732, + "learning_rate": 1.571464021821103e-06, + "loss": 0.1111, + "num_input_tokens_seen": 27535040, + "step": 14063 + }, + { + "epoch": 1.8640159045725646, + "grad_norm": 12.421241760253906, + "learning_rate": 1.5711417251659244e-06, + "loss": 0.2117, + "num_input_tokens_seen": 27537416, + "step": 14064 + }, + { + "epoch": 1.8641484426772696, + "grad_norm": 10.393312454223633, + "learning_rate": 1.5708194464197746e-06, + "loss": 0.1951, + "num_input_tokens_seen": 27538888, + "step": 14065 + }, + { + "epoch": 1.8642809807819747, + "grad_norm": 0.6602757573127747, + "learning_rate": 1.5704971855888678e-06, + "loss": 0.0036, + "num_input_tokens_seen": 27541072, + "step": 14066 + }, + { + "epoch": 1.86441351888668, + "grad_norm": 2.201115846633911, + "learning_rate": 1.5701749426794155e-06, + "loss": 0.0082, + "num_input_tokens_seen": 27542296, + "step": 14067 + }, + { + "epoch": 1.864546056991385, + "grad_norm": 8.992050170898438, + "learning_rate": 1.5698527176976327e-06, + "loss": 0.0599, + "num_input_tokens_seen": 27545088, + "step": 14068 + }, + { + "epoch": 1.8646785950960902, + "grad_norm": 0.030985083431005478, + "learning_rate": 1.5695305106497299e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27547440, + "step": 14069 + }, + { + "epoch": 1.8648111332007953, + "grad_norm": 0.2746868133544922, + "learning_rate": 1.5692083215419219e-06, + "loss": 0.0018, + "num_input_tokens_seen": 27548440, + "step": 14070 + }, + { + "epoch": 1.8649436713055003, + "grad_norm": 6.842190265655518, + "learning_rate": 1.5688861503804193e-06, + "loss": 0.1316, + "num_input_tokens_seen": 27551152, + "step": 14071 + }, + { + "epoch": 1.8650762094102054, + "grad_norm": 0.06427037715911865, + "learning_rate": 1.5685639971714342e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27552376, + "step": 14072 + }, + { + "epoch": 1.8652087475149104, + "grad_norm": 0.01843716762959957, + "learning_rate": 1.5682418619211773e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27553976, + "step": 14073 + }, + { + "epoch": 1.8653412856196157, + "grad_norm": 0.5826998949050903, + "learning_rate": 1.5679197446358597e-06, + "loss": 0.0033, + "num_input_tokens_seen": 27555176, + "step": 14074 + }, + { + "epoch": 1.8654738237243207, + "grad_norm": 4.751593112945557, + "learning_rate": 1.5675976453216934e-06, + "loss": 0.024, + "num_input_tokens_seen": 27557160, + "step": 14075 + }, + { + "epoch": 1.865606361829026, + "grad_norm": 6.868110179901123, + "learning_rate": 1.5672755639848875e-06, + "loss": 0.0942, + "num_input_tokens_seen": 27559640, + "step": 14076 + }, + { + "epoch": 1.865738899933731, + "grad_norm": 13.622636795043945, + "learning_rate": 1.5669535006316522e-06, + "loss": 0.1881, + "num_input_tokens_seen": 27562296, + "step": 14077 + }, + { + "epoch": 1.865871438038436, + "grad_norm": 5.738794326782227, + "learning_rate": 1.5666314552681971e-06, + "loss": 0.1445, + "num_input_tokens_seen": 27564360, + "step": 14078 + }, + { + "epoch": 1.866003976143141, + "grad_norm": 0.025654606521129608, + "learning_rate": 1.5663094279007307e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27566120, + "step": 14079 + }, + { + "epoch": 1.866136514247846, + "grad_norm": 1.25222647190094, + "learning_rate": 1.5659874185354635e-06, + "loss": 0.0031, + "num_input_tokens_seen": 27567736, + "step": 14080 + }, + { + "epoch": 1.8662690523525514, + "grad_norm": 10.99868392944336, + "learning_rate": 1.5656654271786032e-06, + "loss": 0.2584, + "num_input_tokens_seen": 27570424, + "step": 14081 + }, + { + "epoch": 1.8664015904572566, + "grad_norm": 18.30653190612793, + "learning_rate": 1.5653434538363576e-06, + "loss": 0.4025, + "num_input_tokens_seen": 27572344, + "step": 14082 + }, + { + "epoch": 1.8665341285619617, + "grad_norm": 0.05185495689511299, + "learning_rate": 1.5650214985149354e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27574608, + "step": 14083 + }, + { + "epoch": 1.8666666666666667, + "grad_norm": 10.017414093017578, + "learning_rate": 1.5646995612205428e-06, + "loss": 0.2672, + "num_input_tokens_seen": 27576512, + "step": 14084 + }, + { + "epoch": 1.8667992047713717, + "grad_norm": 5.13302755355835, + "learning_rate": 1.5643776419593892e-06, + "loss": 0.1458, + "num_input_tokens_seen": 27579064, + "step": 14085 + }, + { + "epoch": 1.8669317428760768, + "grad_norm": 2.797567367553711, + "learning_rate": 1.5640557407376795e-06, + "loss": 0.0275, + "num_input_tokens_seen": 27580768, + "step": 14086 + }, + { + "epoch": 1.8670642809807818, + "grad_norm": 5.849459171295166, + "learning_rate": 1.563733857561621e-06, + "loss": 0.2215, + "num_input_tokens_seen": 27582680, + "step": 14087 + }, + { + "epoch": 1.867196819085487, + "grad_norm": 5.6513752937316895, + "learning_rate": 1.563411992437419e-06, + "loss": 0.1996, + "num_input_tokens_seen": 27584880, + "step": 14088 + }, + { + "epoch": 1.8673293571901923, + "grad_norm": 6.223866939544678, + "learning_rate": 1.563090145371281e-06, + "loss": 0.0866, + "num_input_tokens_seen": 27586944, + "step": 14089 + }, + { + "epoch": 1.8674618952948974, + "grad_norm": 0.02455967105925083, + "learning_rate": 1.5627683163694099e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27588392, + "step": 14090 + }, + { + "epoch": 1.8675944333996024, + "grad_norm": 9.010183334350586, + "learning_rate": 1.5624465054380127e-06, + "loss": 0.1063, + "num_input_tokens_seen": 27589840, + "step": 14091 + }, + { + "epoch": 1.8677269715043074, + "grad_norm": 14.108307838439941, + "learning_rate": 1.5621247125832945e-06, + "loss": 0.1836, + "num_input_tokens_seen": 27590992, + "step": 14092 + }, + { + "epoch": 1.8678595096090125, + "grad_norm": 2.7079474925994873, + "learning_rate": 1.5618029378114586e-06, + "loss": 0.0192, + "num_input_tokens_seen": 27592352, + "step": 14093 + }, + { + "epoch": 1.8679920477137177, + "grad_norm": 7.940439701080322, + "learning_rate": 1.561481181128709e-06, + "loss": 0.0523, + "num_input_tokens_seen": 27594800, + "step": 14094 + }, + { + "epoch": 1.8681245858184228, + "grad_norm": 2.4309580326080322, + "learning_rate": 1.561159442541249e-06, + "loss": 0.0276, + "num_input_tokens_seen": 27596448, + "step": 14095 + }, + { + "epoch": 1.868257123923128, + "grad_norm": 0.06321682035923004, + "learning_rate": 1.5608377220552833e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27597680, + "step": 14096 + }, + { + "epoch": 1.868389662027833, + "grad_norm": 14.411108016967773, + "learning_rate": 1.560516019677014e-06, + "loss": 0.198, + "num_input_tokens_seen": 27599624, + "step": 14097 + }, + { + "epoch": 1.8685222001325381, + "grad_norm": 7.884324550628662, + "learning_rate": 1.5601943354126448e-06, + "loss": 0.2242, + "num_input_tokens_seen": 27602272, + "step": 14098 + }, + { + "epoch": 1.8686547382372432, + "grad_norm": 0.11647869646549225, + "learning_rate": 1.5598726692683768e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27603960, + "step": 14099 + }, + { + "epoch": 1.8687872763419482, + "grad_norm": 4.44553279876709, + "learning_rate": 1.5595510212504117e-06, + "loss": 0.0141, + "num_input_tokens_seen": 27606096, + "step": 14100 + }, + { + "epoch": 1.8689198144466534, + "grad_norm": 7.342031002044678, + "learning_rate": 1.5592293913649518e-06, + "loss": 0.1585, + "num_input_tokens_seen": 27608552, + "step": 14101 + }, + { + "epoch": 1.8690523525513585, + "grad_norm": 8.569260597229004, + "learning_rate": 1.5589077796181987e-06, + "loss": 0.0692, + "num_input_tokens_seen": 27609752, + "step": 14102 + }, + { + "epoch": 1.8691848906560637, + "grad_norm": 8.670154571533203, + "learning_rate": 1.5585861860163527e-06, + "loss": 0.3442, + "num_input_tokens_seen": 27612616, + "step": 14103 + }, + { + "epoch": 1.8693174287607688, + "grad_norm": 0.08332082629203796, + "learning_rate": 1.5582646105656144e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27614520, + "step": 14104 + }, + { + "epoch": 1.8694499668654738, + "grad_norm": 7.1704421043396, + "learning_rate": 1.5579430532721834e-06, + "loss": 0.1656, + "num_input_tokens_seen": 27616672, + "step": 14105 + }, + { + "epoch": 1.8695825049701789, + "grad_norm": 6.13423490524292, + "learning_rate": 1.5576215141422607e-06, + "loss": 0.1529, + "num_input_tokens_seen": 27618888, + "step": 14106 + }, + { + "epoch": 1.869715043074884, + "grad_norm": 0.7433794140815735, + "learning_rate": 1.557299993182046e-06, + "loss": 0.0065, + "num_input_tokens_seen": 27620320, + "step": 14107 + }, + { + "epoch": 1.8698475811795892, + "grad_norm": 5.6730637550354, + "learning_rate": 1.5569784903977374e-06, + "loss": 0.0713, + "num_input_tokens_seen": 27622528, + "step": 14108 + }, + { + "epoch": 1.8699801192842942, + "grad_norm": 9.642454147338867, + "learning_rate": 1.5566570057955338e-06, + "loss": 0.1931, + "num_input_tokens_seen": 27624272, + "step": 14109 + }, + { + "epoch": 1.8701126573889995, + "grad_norm": 8.89737606048584, + "learning_rate": 1.5563355393816331e-06, + "loss": 0.0978, + "num_input_tokens_seen": 27625856, + "step": 14110 + }, + { + "epoch": 1.8702451954937045, + "grad_norm": 3.121096134185791, + "learning_rate": 1.5560140911622356e-06, + "loss": 0.0478, + "num_input_tokens_seen": 27628000, + "step": 14111 + }, + { + "epoch": 1.8703777335984095, + "grad_norm": 5.902791500091553, + "learning_rate": 1.555692661143537e-06, + "loss": 0.076, + "num_input_tokens_seen": 27630312, + "step": 14112 + }, + { + "epoch": 1.8705102717031146, + "grad_norm": 0.08562323451042175, + "learning_rate": 1.555371249331736e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27632248, + "step": 14113 + }, + { + "epoch": 1.8706428098078196, + "grad_norm": 0.014794080518186092, + "learning_rate": 1.5550498557330285e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27633880, + "step": 14114 + }, + { + "epoch": 1.8707753479125249, + "grad_norm": 4.893691539764404, + "learning_rate": 1.554728480353612e-06, + "loss": 0.0827, + "num_input_tokens_seen": 27636152, + "step": 14115 + }, + { + "epoch": 1.87090788601723, + "grad_norm": 0.2623775899410248, + "learning_rate": 1.5544071231996817e-06, + "loss": 0.0014, + "num_input_tokens_seen": 27637648, + "step": 14116 + }, + { + "epoch": 1.8710404241219352, + "grad_norm": 16.594982147216797, + "learning_rate": 1.5540857842774348e-06, + "loss": 0.127, + "num_input_tokens_seen": 27639688, + "step": 14117 + }, + { + "epoch": 1.8711729622266402, + "grad_norm": 0.02024855650961399, + "learning_rate": 1.5537644635930666e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27641480, + "step": 14118 + }, + { + "epoch": 1.8713055003313452, + "grad_norm": 0.43249231576919556, + "learning_rate": 1.5534431611527728e-06, + "loss": 0.0029, + "num_input_tokens_seen": 27642728, + "step": 14119 + }, + { + "epoch": 1.8714380384360503, + "grad_norm": 0.016199866309762, + "learning_rate": 1.5531218769627471e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27643880, + "step": 14120 + }, + { + "epoch": 1.8715705765407553, + "grad_norm": 6.5732269287109375, + "learning_rate": 1.5528006110291843e-06, + "loss": 0.1685, + "num_input_tokens_seen": 27645680, + "step": 14121 + }, + { + "epoch": 1.8717031146454606, + "grad_norm": 5.988508701324463, + "learning_rate": 1.5524793633582803e-06, + "loss": 0.0793, + "num_input_tokens_seen": 27647824, + "step": 14122 + }, + { + "epoch": 1.8718356527501658, + "grad_norm": 0.005703015718609095, + "learning_rate": 1.552158133956228e-06, + "loss": 0.0, + "num_input_tokens_seen": 27649104, + "step": 14123 + }, + { + "epoch": 1.8719681908548709, + "grad_norm": 3.762333869934082, + "learning_rate": 1.55183692282922e-06, + "loss": 0.0514, + "num_input_tokens_seen": 27651296, + "step": 14124 + }, + { + "epoch": 1.872100728959576, + "grad_norm": 2.4711837768554688, + "learning_rate": 1.551515729983451e-06, + "loss": 0.0518, + "num_input_tokens_seen": 27652752, + "step": 14125 + }, + { + "epoch": 1.872233267064281, + "grad_norm": 0.010249309241771698, + "learning_rate": 1.5511945554251118e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27654984, + "step": 14126 + }, + { + "epoch": 1.872365805168986, + "grad_norm": 0.12878605723381042, + "learning_rate": 1.5508733991603963e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27657000, + "step": 14127 + }, + { + "epoch": 1.872498343273691, + "grad_norm": 8.662306785583496, + "learning_rate": 1.5505522611954977e-06, + "loss": 0.0594, + "num_input_tokens_seen": 27658360, + "step": 14128 + }, + { + "epoch": 1.8726308813783963, + "grad_norm": 0.018929364159703255, + "learning_rate": 1.5502311415366055e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27659688, + "step": 14129 + }, + { + "epoch": 1.8727634194831015, + "grad_norm": 9.33077335357666, + "learning_rate": 1.5499100401899128e-06, + "loss": 0.2064, + "num_input_tokens_seen": 27662104, + "step": 14130 + }, + { + "epoch": 1.8728959575878066, + "grad_norm": 0.01811094768345356, + "learning_rate": 1.5495889571616088e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27664192, + "step": 14131 + }, + { + "epoch": 1.8730284956925116, + "grad_norm": 0.36984556913375854, + "learning_rate": 1.5492678924578862e-06, + "loss": 0.0014, + "num_input_tokens_seen": 27665664, + "step": 14132 + }, + { + "epoch": 1.8731610337972167, + "grad_norm": 7.323185443878174, + "learning_rate": 1.5489468460849343e-06, + "loss": 0.2072, + "num_input_tokens_seen": 27667776, + "step": 14133 + }, + { + "epoch": 1.8732935719019217, + "grad_norm": 5.878580093383789, + "learning_rate": 1.5486258180489438e-06, + "loss": 0.1306, + "num_input_tokens_seen": 27670016, + "step": 14134 + }, + { + "epoch": 1.873426110006627, + "grad_norm": 15.401344299316406, + "learning_rate": 1.5483048083561036e-06, + "loss": 0.3602, + "num_input_tokens_seen": 27672016, + "step": 14135 + }, + { + "epoch": 1.873558648111332, + "grad_norm": 3.4676899909973145, + "learning_rate": 1.547983817012602e-06, + "loss": 0.04, + "num_input_tokens_seen": 27674544, + "step": 14136 + }, + { + "epoch": 1.8736911862160373, + "grad_norm": 0.5248491168022156, + "learning_rate": 1.547662844024631e-06, + "loss": 0.0035, + "num_input_tokens_seen": 27676320, + "step": 14137 + }, + { + "epoch": 1.8738237243207423, + "grad_norm": 11.228452682495117, + "learning_rate": 1.547341889398377e-06, + "loss": 0.235, + "num_input_tokens_seen": 27678528, + "step": 14138 + }, + { + "epoch": 1.8739562624254473, + "grad_norm": 0.4221613109111786, + "learning_rate": 1.547020953140028e-06, + "loss": 0.0025, + "num_input_tokens_seen": 27680944, + "step": 14139 + }, + { + "epoch": 1.8740888005301524, + "grad_norm": 0.4591045677661896, + "learning_rate": 1.5467000352557728e-06, + "loss": 0.0027, + "num_input_tokens_seen": 27683312, + "step": 14140 + }, + { + "epoch": 1.8742213386348574, + "grad_norm": 0.1005808413028717, + "learning_rate": 1.546379135751798e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27685488, + "step": 14141 + }, + { + "epoch": 1.8743538767395627, + "grad_norm": 3.4582455158233643, + "learning_rate": 1.5460582546342914e-06, + "loss": 0.0943, + "num_input_tokens_seen": 27687320, + "step": 14142 + }, + { + "epoch": 1.8744864148442677, + "grad_norm": 2.817018508911133, + "learning_rate": 1.5457373919094403e-06, + "loss": 0.0743, + "num_input_tokens_seen": 27689304, + "step": 14143 + }, + { + "epoch": 1.874618952948973, + "grad_norm": 7.5096659660339355, + "learning_rate": 1.5454165475834304e-06, + "loss": 0.2677, + "num_input_tokens_seen": 27690992, + "step": 14144 + }, + { + "epoch": 1.874751491053678, + "grad_norm": 0.29318150877952576, + "learning_rate": 1.5450957216624485e-06, + "loss": 0.002, + "num_input_tokens_seen": 27693664, + "step": 14145 + }, + { + "epoch": 1.874884029158383, + "grad_norm": 3.20991849899292, + "learning_rate": 1.5447749141526797e-06, + "loss": 0.0355, + "num_input_tokens_seen": 27695512, + "step": 14146 + }, + { + "epoch": 1.875016567263088, + "grad_norm": 8.455756187438965, + "learning_rate": 1.5444541250603085e-06, + "loss": 0.1597, + "num_input_tokens_seen": 27697240, + "step": 14147 + }, + { + "epoch": 1.8751491053677931, + "grad_norm": 0.04607174172997475, + "learning_rate": 1.5441333543915213e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27699272, + "step": 14148 + }, + { + "epoch": 1.8752816434724984, + "grad_norm": 0.011877795681357384, + "learning_rate": 1.543812602152503e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27701264, + "step": 14149 + }, + { + "epoch": 1.8754141815772034, + "grad_norm": 0.01679817959666252, + "learning_rate": 1.5434918683494372e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27704680, + "step": 14150 + }, + { + "epoch": 1.8755467196819087, + "grad_norm": 11.755133628845215, + "learning_rate": 1.5431711529885083e-06, + "loss": 0.1482, + "num_input_tokens_seen": 27707016, + "step": 14151 + }, + { + "epoch": 1.8756792577866137, + "grad_norm": 0.7682393789291382, + "learning_rate": 1.5428504560758985e-06, + "loss": 0.0065, + "num_input_tokens_seen": 27709136, + "step": 14152 + }, + { + "epoch": 1.8758117958913187, + "grad_norm": 4.193154335021973, + "learning_rate": 1.5425297776177934e-06, + "loss": 0.0505, + "num_input_tokens_seen": 27711376, + "step": 14153 + }, + { + "epoch": 1.8759443339960238, + "grad_norm": 3.6658122539520264, + "learning_rate": 1.542209117620374e-06, + "loss": 0.1059, + "num_input_tokens_seen": 27712952, + "step": 14154 + }, + { + "epoch": 1.8760768721007288, + "grad_norm": 4.236730575561523, + "learning_rate": 1.5418884760898246e-06, + "loss": 0.0584, + "num_input_tokens_seen": 27714352, + "step": 14155 + }, + { + "epoch": 1.876209410205434, + "grad_norm": 0.13003882765769958, + "learning_rate": 1.5415678530323253e-06, + "loss": 0.0013, + "num_input_tokens_seen": 27716488, + "step": 14156 + }, + { + "epoch": 1.8763419483101391, + "grad_norm": 4.575048923492432, + "learning_rate": 1.5412472484540586e-06, + "loss": 0.1099, + "num_input_tokens_seen": 27718232, + "step": 14157 + }, + { + "epoch": 1.8764744864148444, + "grad_norm": 0.09059682488441467, + "learning_rate": 1.5409266623612075e-06, + "loss": 0.001, + "num_input_tokens_seen": 27719440, + "step": 14158 + }, + { + "epoch": 1.8766070245195494, + "grad_norm": 2.265956401824951, + "learning_rate": 1.5406060947599516e-06, + "loss": 0.0315, + "num_input_tokens_seen": 27721368, + "step": 14159 + }, + { + "epoch": 1.8767395626242545, + "grad_norm": 3.48268985748291, + "learning_rate": 1.5402855456564724e-06, + "loss": 0.0369, + "num_input_tokens_seen": 27723808, + "step": 14160 + }, + { + "epoch": 1.8768721007289595, + "grad_norm": 8.093901634216309, + "learning_rate": 1.5399650150569497e-06, + "loss": 0.134, + "num_input_tokens_seen": 27726160, + "step": 14161 + }, + { + "epoch": 1.8770046388336645, + "grad_norm": 0.06780815124511719, + "learning_rate": 1.5396445029675633e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27727704, + "step": 14162 + }, + { + "epoch": 1.8771371769383698, + "grad_norm": 0.02056991308927536, + "learning_rate": 1.5393240093944933e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27729304, + "step": 14163 + }, + { + "epoch": 1.877269715043075, + "grad_norm": 0.01351380255073309, + "learning_rate": 1.5390035343439203e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27730728, + "step": 14164 + }, + { + "epoch": 1.87740225314778, + "grad_norm": 0.03180774301290512, + "learning_rate": 1.5386830778220212e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27732752, + "step": 14165 + }, + { + "epoch": 1.8775347912524851, + "grad_norm": 0.5520296692848206, + "learning_rate": 1.538362639834976e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27734064, + "step": 14166 + }, + { + "epoch": 1.8776673293571902, + "grad_norm": 3.5574514865875244, + "learning_rate": 1.5380422203889617e-06, + "loss": 0.0891, + "num_input_tokens_seen": 27737048, + "step": 14167 + }, + { + "epoch": 1.8777998674618952, + "grad_norm": 6.2398858070373535, + "learning_rate": 1.5377218194901572e-06, + "loss": 0.1338, + "num_input_tokens_seen": 27739168, + "step": 14168 + }, + { + "epoch": 1.8779324055666002, + "grad_norm": 6.654844760894775, + "learning_rate": 1.5374014371447407e-06, + "loss": 0.1584, + "num_input_tokens_seen": 27741224, + "step": 14169 + }, + { + "epoch": 1.8780649436713055, + "grad_norm": 0.8270488977432251, + "learning_rate": 1.5370810733588886e-06, + "loss": 0.0056, + "num_input_tokens_seen": 27742832, + "step": 14170 + }, + { + "epoch": 1.8781974817760108, + "grad_norm": 3.3100860118865967, + "learning_rate": 1.536760728138777e-06, + "loss": 0.0175, + "num_input_tokens_seen": 27744520, + "step": 14171 + }, + { + "epoch": 1.8783300198807158, + "grad_norm": 3.5916621685028076, + "learning_rate": 1.5364404014905826e-06, + "loss": 0.0373, + "num_input_tokens_seen": 27746240, + "step": 14172 + }, + { + "epoch": 1.8784625579854208, + "grad_norm": 11.471362113952637, + "learning_rate": 1.5361200934204828e-06, + "loss": 0.3222, + "num_input_tokens_seen": 27749224, + "step": 14173 + }, + { + "epoch": 1.8785950960901259, + "grad_norm": 13.595063209533691, + "learning_rate": 1.5357998039346522e-06, + "loss": 0.2773, + "num_input_tokens_seen": 27751168, + "step": 14174 + }, + { + "epoch": 1.878727634194831, + "grad_norm": 8.046184539794922, + "learning_rate": 1.5354795330392671e-06, + "loss": 0.2175, + "num_input_tokens_seen": 27752904, + "step": 14175 + }, + { + "epoch": 1.8788601722995362, + "grad_norm": 20.819852828979492, + "learning_rate": 1.5351592807405019e-06, + "loss": 0.4446, + "num_input_tokens_seen": 27754832, + "step": 14176 + }, + { + "epoch": 1.8789927104042412, + "grad_norm": 13.947122573852539, + "learning_rate": 1.5348390470445313e-06, + "loss": 0.2745, + "num_input_tokens_seen": 27757136, + "step": 14177 + }, + { + "epoch": 1.8791252485089465, + "grad_norm": 7.672341823577881, + "learning_rate": 1.534518831957529e-06, + "loss": 0.1065, + "num_input_tokens_seen": 27758952, + "step": 14178 + }, + { + "epoch": 1.8792577866136515, + "grad_norm": 0.04887288808822632, + "learning_rate": 1.5341986354856704e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27760208, + "step": 14179 + }, + { + "epoch": 1.8793903247183565, + "grad_norm": 14.544113159179688, + "learning_rate": 1.5338784576351279e-06, + "loss": 0.2286, + "num_input_tokens_seen": 27761952, + "step": 14180 + }, + { + "epoch": 1.8795228628230616, + "grad_norm": 7.330190658569336, + "learning_rate": 1.5335582984120755e-06, + "loss": 0.2086, + "num_input_tokens_seen": 27764008, + "step": 14181 + }, + { + "epoch": 1.8796554009277666, + "grad_norm": 5.348171234130859, + "learning_rate": 1.5332381578226856e-06, + "loss": 0.1372, + "num_input_tokens_seen": 27766392, + "step": 14182 + }, + { + "epoch": 1.8797879390324719, + "grad_norm": 2.904508113861084, + "learning_rate": 1.5329180358731307e-06, + "loss": 0.036, + "num_input_tokens_seen": 27767544, + "step": 14183 + }, + { + "epoch": 1.879920477137177, + "grad_norm": 1.784377098083496, + "learning_rate": 1.532597932569584e-06, + "loss": 0.0108, + "num_input_tokens_seen": 27769288, + "step": 14184 + }, + { + "epoch": 1.8800530152418822, + "grad_norm": 7.41031551361084, + "learning_rate": 1.5322778479182165e-06, + "loss": 0.2059, + "num_input_tokens_seen": 27771568, + "step": 14185 + }, + { + "epoch": 1.8801855533465872, + "grad_norm": 6.613982200622559, + "learning_rate": 1.5319577819251994e-06, + "loss": 0.0737, + "num_input_tokens_seen": 27773672, + "step": 14186 + }, + { + "epoch": 1.8803180914512923, + "grad_norm": 8.324676513671875, + "learning_rate": 1.5316377345967044e-06, + "loss": 0.2048, + "num_input_tokens_seen": 27775744, + "step": 14187 + }, + { + "epoch": 1.8804506295559973, + "grad_norm": 0.004979959223419428, + "learning_rate": 1.531317705938901e-06, + "loss": 0.0, + "num_input_tokens_seen": 27777024, + "step": 14188 + }, + { + "epoch": 1.8805831676607023, + "grad_norm": 4.630685329437256, + "learning_rate": 1.5309976959579608e-06, + "loss": 0.0372, + "num_input_tokens_seen": 27778352, + "step": 14189 + }, + { + "epoch": 1.8807157057654076, + "grad_norm": 0.2787049412727356, + "learning_rate": 1.530677704660054e-06, + "loss": 0.0016, + "num_input_tokens_seen": 27780600, + "step": 14190 + }, + { + "epoch": 1.8808482438701126, + "grad_norm": 6.769437313079834, + "learning_rate": 1.5303577320513503e-06, + "loss": 0.128, + "num_input_tokens_seen": 27782112, + "step": 14191 + }, + { + "epoch": 1.8809807819748179, + "grad_norm": 6.621524333953857, + "learning_rate": 1.5300377781380174e-06, + "loss": 0.0603, + "num_input_tokens_seen": 27783912, + "step": 14192 + }, + { + "epoch": 1.881113320079523, + "grad_norm": 3.9912326335906982, + "learning_rate": 1.5297178429262249e-06, + "loss": 0.056, + "num_input_tokens_seen": 27785288, + "step": 14193 + }, + { + "epoch": 1.881245858184228, + "grad_norm": 8.607402801513672, + "learning_rate": 1.5293979264221428e-06, + "loss": 0.2546, + "num_input_tokens_seen": 27787424, + "step": 14194 + }, + { + "epoch": 1.881378396288933, + "grad_norm": 2.973525047302246, + "learning_rate": 1.5290780286319378e-06, + "loss": 0.0305, + "num_input_tokens_seen": 27788792, + "step": 14195 + }, + { + "epoch": 1.881510934393638, + "grad_norm": 1.6846907138824463, + "learning_rate": 1.5287581495617787e-06, + "loss": 0.0144, + "num_input_tokens_seen": 27791840, + "step": 14196 + }, + { + "epoch": 1.8816434724983433, + "grad_norm": 0.5597503781318665, + "learning_rate": 1.5284382892178318e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27792976, + "step": 14197 + }, + { + "epoch": 1.8817760106030483, + "grad_norm": 14.210325241088867, + "learning_rate": 1.5281184476062646e-06, + "loss": 0.4343, + "num_input_tokens_seen": 27794680, + "step": 14198 + }, + { + "epoch": 1.8819085487077536, + "grad_norm": 3.1090426445007324, + "learning_rate": 1.5277986247332452e-06, + "loss": 0.0166, + "num_input_tokens_seen": 27795664, + "step": 14199 + }, + { + "epoch": 1.8820410868124586, + "grad_norm": 7.3814167976379395, + "learning_rate": 1.527478820604939e-06, + "loss": 0.0908, + "num_input_tokens_seen": 27797904, + "step": 14200 + }, + { + "epoch": 1.8821736249171637, + "grad_norm": 4.604297161102295, + "learning_rate": 1.5271590352275115e-06, + "loss": 0.079, + "num_input_tokens_seen": 27800208, + "step": 14201 + }, + { + "epoch": 1.8823061630218687, + "grad_norm": 0.49099692702293396, + "learning_rate": 1.5268392686071294e-06, + "loss": 0.0035, + "num_input_tokens_seen": 27802016, + "step": 14202 + }, + { + "epoch": 1.8824387011265737, + "grad_norm": 6.846774101257324, + "learning_rate": 1.5265195207499572e-06, + "loss": 0.2203, + "num_input_tokens_seen": 27803824, + "step": 14203 + }, + { + "epoch": 1.882571239231279, + "grad_norm": 12.261384963989258, + "learning_rate": 1.5261997916621596e-06, + "loss": 0.2852, + "num_input_tokens_seen": 27805592, + "step": 14204 + }, + { + "epoch": 1.882703777335984, + "grad_norm": 0.028447190299630165, + "learning_rate": 1.5258800813499029e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27807104, + "step": 14205 + }, + { + "epoch": 1.8828363154406893, + "grad_norm": 4.67616605758667, + "learning_rate": 1.52556038981935e-06, + "loss": 0.0867, + "num_input_tokens_seen": 27809288, + "step": 14206 + }, + { + "epoch": 1.8829688535453943, + "grad_norm": 12.975214004516602, + "learning_rate": 1.5252407170766648e-06, + "loss": 0.3973, + "num_input_tokens_seen": 27811560, + "step": 14207 + }, + { + "epoch": 1.8831013916500994, + "grad_norm": 11.32382869720459, + "learning_rate": 1.5249210631280115e-06, + "loss": 0.1903, + "num_input_tokens_seen": 27813304, + "step": 14208 + }, + { + "epoch": 1.8832339297548044, + "grad_norm": 11.548720359802246, + "learning_rate": 1.5246014279795514e-06, + "loss": 0.1593, + "num_input_tokens_seen": 27815688, + "step": 14209 + }, + { + "epoch": 1.8833664678595095, + "grad_norm": 7.484272003173828, + "learning_rate": 1.5242818116374496e-06, + "loss": 0.1952, + "num_input_tokens_seen": 27817856, + "step": 14210 + }, + { + "epoch": 1.8834990059642147, + "grad_norm": 4.7804975509643555, + "learning_rate": 1.523962214107868e-06, + "loss": 0.1388, + "num_input_tokens_seen": 27819472, + "step": 14211 + }, + { + "epoch": 1.88363154406892, + "grad_norm": 6.387711524963379, + "learning_rate": 1.5236426353969674e-06, + "loss": 0.11, + "num_input_tokens_seen": 27821720, + "step": 14212 + }, + { + "epoch": 1.883764082173625, + "grad_norm": 0.024781053885817528, + "learning_rate": 1.5233230755109113e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27823816, + "step": 14213 + }, + { + "epoch": 1.88389662027833, + "grad_norm": 3.994509220123291, + "learning_rate": 1.5230035344558591e-06, + "loss": 0.0941, + "num_input_tokens_seen": 27826544, + "step": 14214 + }, + { + "epoch": 1.884029158383035, + "grad_norm": 0.47853708267211914, + "learning_rate": 1.5226840122379733e-06, + "loss": 0.0039, + "num_input_tokens_seen": 27827976, + "step": 14215 + }, + { + "epoch": 1.8841616964877401, + "grad_norm": 0.031244471669197083, + "learning_rate": 1.5223645088634137e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27829864, + "step": 14216 + }, + { + "epoch": 1.8842942345924454, + "grad_norm": 5.578570365905762, + "learning_rate": 1.5220450243383414e-06, + "loss": 0.2205, + "num_input_tokens_seen": 27831688, + "step": 14217 + }, + { + "epoch": 1.8844267726971504, + "grad_norm": 0.08892669528722763, + "learning_rate": 1.521725558668915e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27833240, + "step": 14218 + }, + { + "epoch": 1.8845593108018557, + "grad_norm": 0.7252469062805176, + "learning_rate": 1.5214061118612944e-06, + "loss": 0.0078, + "num_input_tokens_seen": 27835168, + "step": 14219 + }, + { + "epoch": 1.8846918489065607, + "grad_norm": 8.59192180633545, + "learning_rate": 1.5210866839216398e-06, + "loss": 0.1983, + "num_input_tokens_seen": 27837544, + "step": 14220 + }, + { + "epoch": 1.8848243870112658, + "grad_norm": 0.0762672871351242, + "learning_rate": 1.5207672748561091e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27840384, + "step": 14221 + }, + { + "epoch": 1.8849569251159708, + "grad_norm": 0.011521776206791401, + "learning_rate": 1.5204478846708613e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27842280, + "step": 14222 + }, + { + "epoch": 1.8850894632206758, + "grad_norm": 10.749360084533691, + "learning_rate": 1.520128513372054e-06, + "loss": 0.1443, + "num_input_tokens_seen": 27844736, + "step": 14223 + }, + { + "epoch": 1.885222001325381, + "grad_norm": 9.174150466918945, + "learning_rate": 1.519809160965844e-06, + "loss": 0.1424, + "num_input_tokens_seen": 27845864, + "step": 14224 + }, + { + "epoch": 1.8853545394300861, + "grad_norm": 8.902331352233887, + "learning_rate": 1.5194898274583897e-06, + "loss": 0.225, + "num_input_tokens_seen": 27848304, + "step": 14225 + }, + { + "epoch": 1.8854870775347914, + "grad_norm": 0.05295057222247124, + "learning_rate": 1.5191705128558486e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27850288, + "step": 14226 + }, + { + "epoch": 1.8856196156394964, + "grad_norm": 5.496303558349609, + "learning_rate": 1.5188512171643766e-06, + "loss": 0.1148, + "num_input_tokens_seen": 27853224, + "step": 14227 + }, + { + "epoch": 1.8857521537442015, + "grad_norm": 5.95568323135376, + "learning_rate": 1.51853194039013e-06, + "loss": 0.0913, + "num_input_tokens_seen": 27854952, + "step": 14228 + }, + { + "epoch": 1.8858846918489065, + "grad_norm": 8.58351993560791, + "learning_rate": 1.5182126825392637e-06, + "loss": 0.0292, + "num_input_tokens_seen": 27856480, + "step": 14229 + }, + { + "epoch": 1.8860172299536115, + "grad_norm": 0.4832451045513153, + "learning_rate": 1.5178934436179355e-06, + "loss": 0.003, + "num_input_tokens_seen": 27859520, + "step": 14230 + }, + { + "epoch": 1.8861497680583168, + "grad_norm": 12.110719680786133, + "learning_rate": 1.5175742236322983e-06, + "loss": 0.2945, + "num_input_tokens_seen": 27861232, + "step": 14231 + }, + { + "epoch": 1.8862823061630218, + "grad_norm": 0.042423758655786514, + "learning_rate": 1.5172550225885085e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27862368, + "step": 14232 + }, + { + "epoch": 1.886414844267727, + "grad_norm": 13.581439018249512, + "learning_rate": 1.5169358404927195e-06, + "loss": 0.165, + "num_input_tokens_seen": 27864432, + "step": 14233 + }, + { + "epoch": 1.8865473823724321, + "grad_norm": 8.45539379119873, + "learning_rate": 1.5166166773510859e-06, + "loss": 0.2729, + "num_input_tokens_seen": 27867288, + "step": 14234 + }, + { + "epoch": 1.8866799204771372, + "grad_norm": 5.302933692932129, + "learning_rate": 1.5162975331697605e-06, + "loss": 0.0498, + "num_input_tokens_seen": 27869392, + "step": 14235 + }, + { + "epoch": 1.8868124585818422, + "grad_norm": 0.05805386230349541, + "learning_rate": 1.5159784079548976e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27872304, + "step": 14236 + }, + { + "epoch": 1.8869449966865472, + "grad_norm": 16.82742691040039, + "learning_rate": 1.5156593017126503e-06, + "loss": 0.3361, + "num_input_tokens_seen": 27874224, + "step": 14237 + }, + { + "epoch": 1.8870775347912525, + "grad_norm": 4.378699779510498, + "learning_rate": 1.5153402144491709e-06, + "loss": 0.1523, + "num_input_tokens_seen": 27876304, + "step": 14238 + }, + { + "epoch": 1.8872100728959575, + "grad_norm": 8.531929969787598, + "learning_rate": 1.5150211461706104e-06, + "loss": 0.1984, + "num_input_tokens_seen": 27878312, + "step": 14239 + }, + { + "epoch": 1.8873426110006628, + "grad_norm": 5.728397369384766, + "learning_rate": 1.5147020968831217e-06, + "loss": 0.1479, + "num_input_tokens_seen": 27880432, + "step": 14240 + }, + { + "epoch": 1.8874751491053678, + "grad_norm": 0.06679793447256088, + "learning_rate": 1.5143830665928572e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27882560, + "step": 14241 + }, + { + "epoch": 1.8876076872100729, + "grad_norm": 7.64691162109375, + "learning_rate": 1.5140640553059665e-06, + "loss": 0.1823, + "num_input_tokens_seen": 27884456, + "step": 14242 + }, + { + "epoch": 1.887740225314778, + "grad_norm": 6.689384460449219, + "learning_rate": 1.5137450630286017e-06, + "loss": 0.0674, + "num_input_tokens_seen": 27886184, + "step": 14243 + }, + { + "epoch": 1.887872763419483, + "grad_norm": 5.318139553070068, + "learning_rate": 1.5134260897669124e-06, + "loss": 0.2196, + "num_input_tokens_seen": 27888120, + "step": 14244 + }, + { + "epoch": 1.8880053015241882, + "grad_norm": 6.747684001922607, + "learning_rate": 1.5131071355270477e-06, + "loss": 0.0582, + "num_input_tokens_seen": 27889992, + "step": 14245 + }, + { + "epoch": 1.8881378396288933, + "grad_norm": 7.919478893280029, + "learning_rate": 1.5127882003151586e-06, + "loss": 0.0899, + "num_input_tokens_seen": 27891440, + "step": 14246 + }, + { + "epoch": 1.8882703777335985, + "grad_norm": 1.8978681564331055, + "learning_rate": 1.5124692841373946e-06, + "loss": 0.0181, + "num_input_tokens_seen": 27893120, + "step": 14247 + }, + { + "epoch": 1.8884029158383036, + "grad_norm": 10.8031587600708, + "learning_rate": 1.5121503869999039e-06, + "loss": 0.1444, + "num_input_tokens_seen": 27895096, + "step": 14248 + }, + { + "epoch": 1.8885354539430086, + "grad_norm": 0.20030514895915985, + "learning_rate": 1.5118315089088352e-06, + "loss": 0.0013, + "num_input_tokens_seen": 27896880, + "step": 14249 + }, + { + "epoch": 1.8886679920477136, + "grad_norm": 5.710576057434082, + "learning_rate": 1.5115126498703358e-06, + "loss": 0.1196, + "num_input_tokens_seen": 27898664, + "step": 14250 + }, + { + "epoch": 1.8888005301524187, + "grad_norm": 1.7244715690612793, + "learning_rate": 1.5111938098905551e-06, + "loss": 0.0282, + "num_input_tokens_seen": 27900248, + "step": 14251 + }, + { + "epoch": 1.888933068257124, + "grad_norm": 8.273646354675293, + "learning_rate": 1.5108749889756402e-06, + "loss": 0.2399, + "num_input_tokens_seen": 27902208, + "step": 14252 + }, + { + "epoch": 1.8890656063618292, + "grad_norm": 0.2664487361907959, + "learning_rate": 1.5105561871317382e-06, + "loss": 0.0012, + "num_input_tokens_seen": 27903720, + "step": 14253 + }, + { + "epoch": 1.8891981444665342, + "grad_norm": 0.879421055316925, + "learning_rate": 1.5102374043649949e-06, + "loss": 0.008, + "num_input_tokens_seen": 27905344, + "step": 14254 + }, + { + "epoch": 1.8893306825712393, + "grad_norm": 3.511857748031616, + "learning_rate": 1.5099186406815566e-06, + "loss": 0.107, + "num_input_tokens_seen": 27907000, + "step": 14255 + }, + { + "epoch": 1.8894632206759443, + "grad_norm": 13.081283569335938, + "learning_rate": 1.509599896087571e-06, + "loss": 0.2253, + "num_input_tokens_seen": 27909448, + "step": 14256 + }, + { + "epoch": 1.8895957587806493, + "grad_norm": 2.9708056449890137, + "learning_rate": 1.5092811705891821e-06, + "loss": 0.0578, + "num_input_tokens_seen": 27911520, + "step": 14257 + }, + { + "epoch": 1.8897282968853544, + "grad_norm": 7.5729570388793945, + "learning_rate": 1.5089624641925364e-06, + "loss": 0.1322, + "num_input_tokens_seen": 27913576, + "step": 14258 + }, + { + "epoch": 1.8898608349900596, + "grad_norm": 5.853022575378418, + "learning_rate": 1.5086437769037774e-06, + "loss": 0.0632, + "num_input_tokens_seen": 27915648, + "step": 14259 + }, + { + "epoch": 1.889993373094765, + "grad_norm": 4.938845157623291, + "learning_rate": 1.5083251087290506e-06, + "loss": 0.1517, + "num_input_tokens_seen": 27917456, + "step": 14260 + }, + { + "epoch": 1.89012591119947, + "grad_norm": 9.295892715454102, + "learning_rate": 1.5080064596744991e-06, + "loss": 0.1141, + "num_input_tokens_seen": 27919840, + "step": 14261 + }, + { + "epoch": 1.890258449304175, + "grad_norm": 0.05260400101542473, + "learning_rate": 1.5076878297462682e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27921872, + "step": 14262 + }, + { + "epoch": 1.89039098740888, + "grad_norm": 6.452965259552002, + "learning_rate": 1.5073692189505002e-06, + "loss": 0.0754, + "num_input_tokens_seen": 27923656, + "step": 14263 + }, + { + "epoch": 1.890523525513585, + "grad_norm": 9.336358070373535, + "learning_rate": 1.5070506272933388e-06, + "loss": 0.132, + "num_input_tokens_seen": 27925384, + "step": 14264 + }, + { + "epoch": 1.8906560636182903, + "grad_norm": 12.07724666595459, + "learning_rate": 1.5067320547809262e-06, + "loss": 0.1299, + "num_input_tokens_seen": 27927048, + "step": 14265 + }, + { + "epoch": 1.8907886017229953, + "grad_norm": 4.5465497970581055, + "learning_rate": 1.5064135014194038e-06, + "loss": 0.0925, + "num_input_tokens_seen": 27929672, + "step": 14266 + }, + { + "epoch": 1.8909211398277006, + "grad_norm": 0.21656224131584167, + "learning_rate": 1.5060949672149155e-06, + "loss": 0.0016, + "num_input_tokens_seen": 27931512, + "step": 14267 + }, + { + "epoch": 1.8910536779324056, + "grad_norm": 3.129467010498047, + "learning_rate": 1.5057764521736023e-06, + "loss": 0.0421, + "num_input_tokens_seen": 27933240, + "step": 14268 + }, + { + "epoch": 1.8911862160371107, + "grad_norm": 0.29531675577163696, + "learning_rate": 1.5054579563016043e-06, + "loss": 0.002, + "num_input_tokens_seen": 27935240, + "step": 14269 + }, + { + "epoch": 1.8913187541418157, + "grad_norm": 2.3875887393951416, + "learning_rate": 1.5051394796050633e-06, + "loss": 0.0639, + "num_input_tokens_seen": 27936672, + "step": 14270 + }, + { + "epoch": 1.8914512922465208, + "grad_norm": 2.8848841190338135, + "learning_rate": 1.5048210220901188e-06, + "loss": 0.0573, + "num_input_tokens_seen": 27938768, + "step": 14271 + }, + { + "epoch": 1.891583830351226, + "grad_norm": 1.1078637838363647, + "learning_rate": 1.5045025837629119e-06, + "loss": 0.0176, + "num_input_tokens_seen": 27940488, + "step": 14272 + }, + { + "epoch": 1.891716368455931, + "grad_norm": 5.7457804679870605, + "learning_rate": 1.5041841646295823e-06, + "loss": 0.083, + "num_input_tokens_seen": 27943296, + "step": 14273 + }, + { + "epoch": 1.8918489065606363, + "grad_norm": 3.2154109477996826, + "learning_rate": 1.5038657646962685e-06, + "loss": 0.046, + "num_input_tokens_seen": 27945424, + "step": 14274 + }, + { + "epoch": 1.8919814446653413, + "grad_norm": 0.18191538751125336, + "learning_rate": 1.5035473839691106e-06, + "loss": 0.0013, + "num_input_tokens_seen": 27946792, + "step": 14275 + }, + { + "epoch": 1.8921139827700464, + "grad_norm": 6.376058578491211, + "learning_rate": 1.5032290224542457e-06, + "loss": 0.1323, + "num_input_tokens_seen": 27948536, + "step": 14276 + }, + { + "epoch": 1.8922465208747514, + "grad_norm": 1.948290467262268, + "learning_rate": 1.5029106801578137e-06, + "loss": 0.0232, + "num_input_tokens_seen": 27951112, + "step": 14277 + }, + { + "epoch": 1.8923790589794565, + "grad_norm": 2.884453296661377, + "learning_rate": 1.5025923570859507e-06, + "loss": 0.0565, + "num_input_tokens_seen": 27953256, + "step": 14278 + }, + { + "epoch": 1.8925115970841617, + "grad_norm": 4.846578598022461, + "learning_rate": 1.5022740532447963e-06, + "loss": 0.0617, + "num_input_tokens_seen": 27955088, + "step": 14279 + }, + { + "epoch": 1.8926441351888668, + "grad_norm": 8.830873489379883, + "learning_rate": 1.5019557686404857e-06, + "loss": 0.1141, + "num_input_tokens_seen": 27957256, + "step": 14280 + }, + { + "epoch": 1.892776673293572, + "grad_norm": 11.722908020019531, + "learning_rate": 1.5016375032791557e-06, + "loss": 0.2234, + "num_input_tokens_seen": 27959528, + "step": 14281 + }, + { + "epoch": 1.892909211398277, + "grad_norm": 2.970183849334717, + "learning_rate": 1.5013192571669447e-06, + "loss": 0.0451, + "num_input_tokens_seen": 27961360, + "step": 14282 + }, + { + "epoch": 1.893041749502982, + "grad_norm": 0.02193407341837883, + "learning_rate": 1.5010010303099872e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27962528, + "step": 14283 + }, + { + "epoch": 1.8931742876076871, + "grad_norm": 8.791484832763672, + "learning_rate": 1.5006828227144188e-06, + "loss": 0.1738, + "num_input_tokens_seen": 27964928, + "step": 14284 + }, + { + "epoch": 1.8933068257123922, + "grad_norm": 10.523104667663574, + "learning_rate": 1.500364634386375e-06, + "loss": 0.2605, + "num_input_tokens_seen": 27967328, + "step": 14285 + }, + { + "epoch": 1.8934393638170974, + "grad_norm": 7.065920352935791, + "learning_rate": 1.5000464653319898e-06, + "loss": 0.084, + "num_input_tokens_seen": 27970240, + "step": 14286 + }, + { + "epoch": 1.8935719019218025, + "grad_norm": 0.354267954826355, + "learning_rate": 1.4997283155573995e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27972456, + "step": 14287 + }, + { + "epoch": 1.8937044400265077, + "grad_norm": 7.797153949737549, + "learning_rate": 1.4994101850687373e-06, + "loss": 0.1817, + "num_input_tokens_seen": 27974952, + "step": 14288 + }, + { + "epoch": 1.8938369781312128, + "grad_norm": 1.6423008441925049, + "learning_rate": 1.4990920738721366e-06, + "loss": 0.0185, + "num_input_tokens_seen": 27976568, + "step": 14289 + }, + { + "epoch": 1.8939695162359178, + "grad_norm": 5.955856800079346, + "learning_rate": 1.4987739819737318e-06, + "loss": 0.0578, + "num_input_tokens_seen": 27978704, + "step": 14290 + }, + { + "epoch": 1.8941020543406228, + "grad_norm": 1.1075438261032104, + "learning_rate": 1.4984559093796556e-06, + "loss": 0.0055, + "num_input_tokens_seen": 27980928, + "step": 14291 + }, + { + "epoch": 1.8942345924453279, + "grad_norm": 6.061550140380859, + "learning_rate": 1.4981378560960391e-06, + "loss": 0.2094, + "num_input_tokens_seen": 27982896, + "step": 14292 + }, + { + "epoch": 1.8943671305500331, + "grad_norm": 0.028597114607691765, + "learning_rate": 1.4978198221290162e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27984288, + "step": 14293 + }, + { + "epoch": 1.8944996686547384, + "grad_norm": 0.02162368781864643, + "learning_rate": 1.4975018074847192e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27985624, + "step": 14294 + }, + { + "epoch": 1.8946322067594434, + "grad_norm": 7.240030288696289, + "learning_rate": 1.4971838121692787e-06, + "loss": 0.0964, + "num_input_tokens_seen": 27987408, + "step": 14295 + }, + { + "epoch": 1.8947647448641485, + "grad_norm": 3.035247802734375, + "learning_rate": 1.4968658361888263e-06, + "loss": 0.0395, + "num_input_tokens_seen": 27988832, + "step": 14296 + }, + { + "epoch": 1.8948972829688535, + "grad_norm": 0.40507200360298157, + "learning_rate": 1.4965478795494918e-06, + "loss": 0.0033, + "num_input_tokens_seen": 27990640, + "step": 14297 + }, + { + "epoch": 1.8950298210735586, + "grad_norm": 0.08990246802568436, + "learning_rate": 1.4962299422574073e-06, + "loss": 0.0011, + "num_input_tokens_seen": 27992480, + "step": 14298 + }, + { + "epoch": 1.8951623591782636, + "grad_norm": 5.55600643157959, + "learning_rate": 1.4959120243187014e-06, + "loss": 0.1198, + "num_input_tokens_seen": 27994440, + "step": 14299 + }, + { + "epoch": 1.8952948972829688, + "grad_norm": 0.4813433289527893, + "learning_rate": 1.4955941257395052e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27995992, + "step": 14300 + }, + { + "epoch": 1.895427435387674, + "grad_norm": 7.863996505737305, + "learning_rate": 1.4952762465259462e-06, + "loss": 0.2081, + "num_input_tokens_seen": 27998032, + "step": 14301 + }, + { + "epoch": 1.8955599734923791, + "grad_norm": 6.6828460693359375, + "learning_rate": 1.494958386684154e-06, + "loss": 0.1, + "num_input_tokens_seen": 27999768, + "step": 14302 + }, + { + "epoch": 1.8956925115970842, + "grad_norm": 0.056097324937582016, + "learning_rate": 1.4946405462202584e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28001960, + "step": 14303 + }, + { + "epoch": 1.8958250497017892, + "grad_norm": 2.3371753692626953, + "learning_rate": 1.4943227251403864e-06, + "loss": 0.0228, + "num_input_tokens_seen": 28003872, + "step": 14304 + }, + { + "epoch": 1.8959575878064943, + "grad_norm": 9.442514419555664, + "learning_rate": 1.494004923450666e-06, + "loss": 0.0682, + "num_input_tokens_seen": 28006552, + "step": 14305 + }, + { + "epoch": 1.8960901259111995, + "grad_norm": 0.09930270910263062, + "learning_rate": 1.4936871411572252e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28008416, + "step": 14306 + }, + { + "epoch": 1.8962226640159046, + "grad_norm": 5.885056495666504, + "learning_rate": 1.493369378266189e-06, + "loss": 0.1503, + "num_input_tokens_seen": 28010272, + "step": 14307 + }, + { + "epoch": 1.8963552021206098, + "grad_norm": 8.787714958190918, + "learning_rate": 1.4930516347836866e-06, + "loss": 0.0635, + "num_input_tokens_seen": 28012504, + "step": 14308 + }, + { + "epoch": 1.8964877402253149, + "grad_norm": 0.06251006573438644, + "learning_rate": 1.4927339107158437e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28013752, + "step": 14309 + }, + { + "epoch": 1.89662027833002, + "grad_norm": 13.839811325073242, + "learning_rate": 1.4924162060687852e-06, + "loss": 0.1318, + "num_input_tokens_seen": 28015640, + "step": 14310 + }, + { + "epoch": 1.896752816434725, + "grad_norm": 8.636619567871094, + "learning_rate": 1.4920985208486383e-06, + "loss": 0.2112, + "num_input_tokens_seen": 28017792, + "step": 14311 + }, + { + "epoch": 1.89688535453943, + "grad_norm": 0.3030971586704254, + "learning_rate": 1.4917808550615259e-06, + "loss": 0.002, + "num_input_tokens_seen": 28019632, + "step": 14312 + }, + { + "epoch": 1.8970178926441352, + "grad_norm": 7.821743488311768, + "learning_rate": 1.4914632087135746e-06, + "loss": 0.1602, + "num_input_tokens_seen": 28021112, + "step": 14313 + }, + { + "epoch": 1.8971504307488403, + "grad_norm": 4.045699596405029, + "learning_rate": 1.4911455818109088e-06, + "loss": 0.0127, + "num_input_tokens_seen": 28023192, + "step": 14314 + }, + { + "epoch": 1.8972829688535455, + "grad_norm": 0.016956863924860954, + "learning_rate": 1.4908279743596528e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28024776, + "step": 14315 + }, + { + "epoch": 1.8974155069582506, + "grad_norm": 12.531383514404297, + "learning_rate": 1.4905103863659283e-06, + "loss": 0.2924, + "num_input_tokens_seen": 28026712, + "step": 14316 + }, + { + "epoch": 1.8975480450629556, + "grad_norm": 0.20813694596290588, + "learning_rate": 1.490192817835861e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28028040, + "step": 14317 + }, + { + "epoch": 1.8976805831676606, + "grad_norm": 0.11262309551239014, + "learning_rate": 1.489875268775572e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28029880, + "step": 14318 + }, + { + "epoch": 1.8978131212723657, + "grad_norm": 14.015881538391113, + "learning_rate": 1.4895577391911845e-06, + "loss": 0.2578, + "num_input_tokens_seen": 28031792, + "step": 14319 + }, + { + "epoch": 1.897945659377071, + "grad_norm": 6.26746940612793, + "learning_rate": 1.4892402290888216e-06, + "loss": 0.1009, + "num_input_tokens_seen": 28033560, + "step": 14320 + }, + { + "epoch": 1.898078197481776, + "grad_norm": 2.322051525115967, + "learning_rate": 1.4889227384746046e-06, + "loss": 0.0801, + "num_input_tokens_seen": 28035584, + "step": 14321 + }, + { + "epoch": 1.8982107355864812, + "grad_norm": 17.970823287963867, + "learning_rate": 1.4886052673546541e-06, + "loss": 0.7695, + "num_input_tokens_seen": 28038384, + "step": 14322 + }, + { + "epoch": 1.8983432736911863, + "grad_norm": 11.251123428344727, + "learning_rate": 1.4882878157350911e-06, + "loss": 0.2448, + "num_input_tokens_seen": 28041272, + "step": 14323 + }, + { + "epoch": 1.8984758117958913, + "grad_norm": 5.492765426635742, + "learning_rate": 1.4879703836220384e-06, + "loss": 0.1414, + "num_input_tokens_seen": 28043456, + "step": 14324 + }, + { + "epoch": 1.8986083499005963, + "grad_norm": 2.0926756858825684, + "learning_rate": 1.4876529710216137e-06, + "loss": 0.032, + "num_input_tokens_seen": 28045240, + "step": 14325 + }, + { + "epoch": 1.8987408880053014, + "grad_norm": 8.932882308959961, + "learning_rate": 1.487335577939939e-06, + "loss": 0.1369, + "num_input_tokens_seen": 28047104, + "step": 14326 + }, + { + "epoch": 1.8988734261100066, + "grad_norm": 0.20662327110767365, + "learning_rate": 1.4870182043831324e-06, + "loss": 0.0012, + "num_input_tokens_seen": 28048776, + "step": 14327 + }, + { + "epoch": 1.8990059642147117, + "grad_norm": 7.576310634613037, + "learning_rate": 1.4867008503573132e-06, + "loss": 0.1316, + "num_input_tokens_seen": 28050712, + "step": 14328 + }, + { + "epoch": 1.899138502319417, + "grad_norm": 0.0881069079041481, + "learning_rate": 1.4863835158686017e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28052496, + "step": 14329 + }, + { + "epoch": 1.899271040424122, + "grad_norm": 0.13089138269424438, + "learning_rate": 1.486066200923115e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28055888, + "step": 14330 + }, + { + "epoch": 1.899403578528827, + "grad_norm": 0.008391792885959148, + "learning_rate": 1.485748905526971e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28057192, + "step": 14331 + }, + { + "epoch": 1.899536116633532, + "grad_norm": 0.11081094294786453, + "learning_rate": 1.4854316296862886e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28059696, + "step": 14332 + }, + { + "epoch": 1.899668654738237, + "grad_norm": 12.982908248901367, + "learning_rate": 1.485114373407183e-06, + "loss": 0.2887, + "num_input_tokens_seen": 28061152, + "step": 14333 + }, + { + "epoch": 1.8998011928429424, + "grad_norm": 10.592294692993164, + "learning_rate": 1.4847971366957731e-06, + "loss": 0.137, + "num_input_tokens_seen": 28063424, + "step": 14334 + }, + { + "epoch": 1.8999337309476476, + "grad_norm": 13.612466812133789, + "learning_rate": 1.4844799195581748e-06, + "loss": 0.229, + "num_input_tokens_seen": 28066184, + "step": 14335 + }, + { + "epoch": 1.9000662690523527, + "grad_norm": 6.599224090576172, + "learning_rate": 1.484162722000505e-06, + "loss": 0.0817, + "num_input_tokens_seen": 28067912, + "step": 14336 + }, + { + "epoch": 1.9001988071570577, + "grad_norm": 7.283559322357178, + "learning_rate": 1.4838455440288776e-06, + "loss": 0.0855, + "num_input_tokens_seen": 28070736, + "step": 14337 + }, + { + "epoch": 1.9003313452617627, + "grad_norm": 3.0039098262786865, + "learning_rate": 1.4835283856494087e-06, + "loss": 0.0327, + "num_input_tokens_seen": 28072152, + "step": 14338 + }, + { + "epoch": 1.9004638833664678, + "grad_norm": 0.7411717176437378, + "learning_rate": 1.483211246868215e-06, + "loss": 0.0047, + "num_input_tokens_seen": 28074344, + "step": 14339 + }, + { + "epoch": 1.9005964214711728, + "grad_norm": 0.8947293162345886, + "learning_rate": 1.4828941276914095e-06, + "loss": 0.0052, + "num_input_tokens_seen": 28075616, + "step": 14340 + }, + { + "epoch": 1.900728959575878, + "grad_norm": 0.17384140193462372, + "learning_rate": 1.4825770281251067e-06, + "loss": 0.0012, + "num_input_tokens_seen": 28077608, + "step": 14341 + }, + { + "epoch": 1.9008614976805833, + "grad_norm": 2.4023985862731934, + "learning_rate": 1.4822599481754207e-06, + "loss": 0.043, + "num_input_tokens_seen": 28079160, + "step": 14342 + }, + { + "epoch": 1.9009940357852884, + "grad_norm": 0.0192425400018692, + "learning_rate": 1.4819428878484646e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28080592, + "step": 14343 + }, + { + "epoch": 1.9011265738899934, + "grad_norm": 6.405759811401367, + "learning_rate": 1.4816258471503528e-06, + "loss": 0.178, + "num_input_tokens_seen": 28082840, + "step": 14344 + }, + { + "epoch": 1.9012591119946984, + "grad_norm": 7.292095184326172, + "learning_rate": 1.4813088260871971e-06, + "loss": 0.2574, + "num_input_tokens_seen": 28085552, + "step": 14345 + }, + { + "epoch": 1.9013916500994035, + "grad_norm": 0.047887712717056274, + "learning_rate": 1.4809918246651094e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28087632, + "step": 14346 + }, + { + "epoch": 1.9015241882041087, + "grad_norm": 1.4407761096954346, + "learning_rate": 1.4806748428902031e-06, + "loss": 0.007, + "num_input_tokens_seen": 28089304, + "step": 14347 + }, + { + "epoch": 1.9016567263088138, + "grad_norm": 8.873480796813965, + "learning_rate": 1.4803578807685887e-06, + "loss": 0.1905, + "num_input_tokens_seen": 28091848, + "step": 14348 + }, + { + "epoch": 1.901789264413519, + "grad_norm": 6.293337345123291, + "learning_rate": 1.4800409383063768e-06, + "loss": 0.0805, + "num_input_tokens_seen": 28093408, + "step": 14349 + }, + { + "epoch": 1.901921802518224, + "grad_norm": 10.04287052154541, + "learning_rate": 1.4797240155096804e-06, + "loss": 0.1499, + "num_input_tokens_seen": 28095336, + "step": 14350 + }, + { + "epoch": 1.902054340622929, + "grad_norm": 9.148497581481934, + "learning_rate": 1.4794071123846088e-06, + "loss": 0.2759, + "num_input_tokens_seen": 28097592, + "step": 14351 + }, + { + "epoch": 1.9021868787276341, + "grad_norm": 4.605007648468018, + "learning_rate": 1.4790902289372717e-06, + "loss": 0.0422, + "num_input_tokens_seen": 28099000, + "step": 14352 + }, + { + "epoch": 1.9023194168323392, + "grad_norm": 2.3926753997802734, + "learning_rate": 1.4787733651737798e-06, + "loss": 0.0389, + "num_input_tokens_seen": 28100640, + "step": 14353 + }, + { + "epoch": 1.9024519549370444, + "grad_norm": 4.708327770233154, + "learning_rate": 1.4784565211002411e-06, + "loss": 0.1527, + "num_input_tokens_seen": 28102488, + "step": 14354 + }, + { + "epoch": 1.9025844930417495, + "grad_norm": 5.654538631439209, + "learning_rate": 1.4781396967227657e-06, + "loss": 0.0778, + "num_input_tokens_seen": 28104552, + "step": 14355 + }, + { + "epoch": 1.9027170311464547, + "grad_norm": 3.59625244140625, + "learning_rate": 1.477822892047462e-06, + "loss": 0.0229, + "num_input_tokens_seen": 28105848, + "step": 14356 + }, + { + "epoch": 1.9028495692511598, + "grad_norm": 11.639248847961426, + "learning_rate": 1.4775061070804381e-06, + "loss": 0.2296, + "num_input_tokens_seen": 28107576, + "step": 14357 + }, + { + "epoch": 1.9029821073558648, + "grad_norm": 0.9375972151756287, + "learning_rate": 1.4771893418278021e-06, + "loss": 0.0052, + "num_input_tokens_seen": 28109224, + "step": 14358 + }, + { + "epoch": 1.9031146454605699, + "grad_norm": 7.5576934814453125, + "learning_rate": 1.4768725962956604e-06, + "loss": 0.1128, + "num_input_tokens_seen": 28111720, + "step": 14359 + }, + { + "epoch": 1.903247183565275, + "grad_norm": 0.03962313383817673, + "learning_rate": 1.4765558704901216e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28113136, + "step": 14360 + }, + { + "epoch": 1.9033797216699802, + "grad_norm": 12.488739013671875, + "learning_rate": 1.476239164417292e-06, + "loss": 0.3789, + "num_input_tokens_seen": 28115472, + "step": 14361 + }, + { + "epoch": 1.9035122597746852, + "grad_norm": 10.276759147644043, + "learning_rate": 1.475922478083277e-06, + "loss": 0.1178, + "num_input_tokens_seen": 28117432, + "step": 14362 + }, + { + "epoch": 1.9036447978793904, + "grad_norm": 5.166616916656494, + "learning_rate": 1.4756058114941829e-06, + "loss": 0.1, + "num_input_tokens_seen": 28119168, + "step": 14363 + }, + { + "epoch": 1.9037773359840955, + "grad_norm": 8.708499908447266, + "learning_rate": 1.475289164656115e-06, + "loss": 0.11, + "num_input_tokens_seen": 28121496, + "step": 14364 + }, + { + "epoch": 1.9039098740888005, + "grad_norm": 2.347527265548706, + "learning_rate": 1.47497253757518e-06, + "loss": 0.0266, + "num_input_tokens_seen": 28123840, + "step": 14365 + }, + { + "epoch": 1.9040424121935056, + "grad_norm": 3.3438308238983154, + "learning_rate": 1.4746559302574813e-06, + "loss": 0.0506, + "num_input_tokens_seen": 28125752, + "step": 14366 + }, + { + "epoch": 1.9041749502982106, + "grad_norm": 0.06118813902139664, + "learning_rate": 1.4743393427091241e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28127592, + "step": 14367 + }, + { + "epoch": 1.9043074884029159, + "grad_norm": 5.182222366333008, + "learning_rate": 1.4740227749362116e-06, + "loss": 0.0208, + "num_input_tokens_seen": 28129648, + "step": 14368 + }, + { + "epoch": 1.904440026507621, + "grad_norm": 0.24628907442092896, + "learning_rate": 1.4737062269448467e-06, + "loss": 0.0029, + "num_input_tokens_seen": 28131216, + "step": 14369 + }, + { + "epoch": 1.9045725646123262, + "grad_norm": 0.0353533960878849, + "learning_rate": 1.4733896987411344e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28133968, + "step": 14370 + }, + { + "epoch": 1.9047051027170312, + "grad_norm": 15.884420394897461, + "learning_rate": 1.4730731903311777e-06, + "loss": 0.2577, + "num_input_tokens_seen": 28135648, + "step": 14371 + }, + { + "epoch": 1.9048376408217362, + "grad_norm": 2.725804090499878, + "learning_rate": 1.4727567017210775e-06, + "loss": 0.0388, + "num_input_tokens_seen": 28137824, + "step": 14372 + }, + { + "epoch": 1.9049701789264413, + "grad_norm": 0.030706198886036873, + "learning_rate": 1.4724402329169374e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28139976, + "step": 14373 + }, + { + "epoch": 1.9051027170311463, + "grad_norm": 3.243273973464966, + "learning_rate": 1.4721237839248586e-06, + "loss": 0.0252, + "num_input_tokens_seen": 28141480, + "step": 14374 + }, + { + "epoch": 1.9052352551358516, + "grad_norm": 5.909368515014648, + "learning_rate": 1.471807354750941e-06, + "loss": 0.1111, + "num_input_tokens_seen": 28143864, + "step": 14375 + }, + { + "epoch": 1.9053677932405566, + "grad_norm": 0.021473951637744904, + "learning_rate": 1.4714909454012877e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28145512, + "step": 14376 + }, + { + "epoch": 1.9055003313452619, + "grad_norm": 13.313080787658691, + "learning_rate": 1.471174555881999e-06, + "loss": 0.1762, + "num_input_tokens_seen": 28147960, + "step": 14377 + }, + { + "epoch": 1.905632869449967, + "grad_norm": 0.03659152612090111, + "learning_rate": 1.4708581861991738e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28149416, + "step": 14378 + }, + { + "epoch": 1.905765407554672, + "grad_norm": 0.6014538407325745, + "learning_rate": 1.4705418363589136e-06, + "loss": 0.0063, + "num_input_tokens_seen": 28151248, + "step": 14379 + }, + { + "epoch": 1.905897945659377, + "grad_norm": 7.331469535827637, + "learning_rate": 1.470225506367316e-06, + "loss": 0.1582, + "num_input_tokens_seen": 28152584, + "step": 14380 + }, + { + "epoch": 1.906030483764082, + "grad_norm": 6.527358531951904, + "learning_rate": 1.4699091962304813e-06, + "loss": 0.0996, + "num_input_tokens_seen": 28154832, + "step": 14381 + }, + { + "epoch": 1.9061630218687873, + "grad_norm": 4.263115406036377, + "learning_rate": 1.4695929059545084e-06, + "loss": 0.0608, + "num_input_tokens_seen": 28156968, + "step": 14382 + }, + { + "epoch": 1.9062955599734925, + "grad_norm": 0.8157362937927246, + "learning_rate": 1.4692766355454953e-06, + "loss": 0.0062, + "num_input_tokens_seen": 28158504, + "step": 14383 + }, + { + "epoch": 1.9064280980781976, + "grad_norm": 7.034056186676025, + "learning_rate": 1.468960385009539e-06, + "loss": 0.081, + "num_input_tokens_seen": 28160304, + "step": 14384 + }, + { + "epoch": 1.9065606361829026, + "grad_norm": 4.196228981018066, + "learning_rate": 1.4686441543527374e-06, + "loss": 0.0594, + "num_input_tokens_seen": 28161808, + "step": 14385 + }, + { + "epoch": 1.9066931742876077, + "grad_norm": 7.431917190551758, + "learning_rate": 1.4683279435811891e-06, + "loss": 0.1528, + "num_input_tokens_seen": 28164776, + "step": 14386 + }, + { + "epoch": 1.9068257123923127, + "grad_norm": 0.017847903072834015, + "learning_rate": 1.4680117527009893e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28167688, + "step": 14387 + }, + { + "epoch": 1.9069582504970177, + "grad_norm": 14.12850570678711, + "learning_rate": 1.4676955817182353e-06, + "loss": 0.1797, + "num_input_tokens_seen": 28169632, + "step": 14388 + }, + { + "epoch": 1.907090788601723, + "grad_norm": 0.0770014226436615, + "learning_rate": 1.4673794306390227e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28171432, + "step": 14389 + }, + { + "epoch": 1.9072233267064282, + "grad_norm": 1.719918131828308, + "learning_rate": 1.4670632994694456e-06, + "loss": 0.0173, + "num_input_tokens_seen": 28174176, + "step": 14390 + }, + { + "epoch": 1.9073558648111333, + "grad_norm": 11.846678733825684, + "learning_rate": 1.4667471882156014e-06, + "loss": 0.3294, + "num_input_tokens_seen": 28176272, + "step": 14391 + }, + { + "epoch": 1.9074884029158383, + "grad_norm": 16.303253173828125, + "learning_rate": 1.466431096883585e-06, + "loss": 0.3537, + "num_input_tokens_seen": 28178376, + "step": 14392 + }, + { + "epoch": 1.9076209410205434, + "grad_norm": 13.694519996643066, + "learning_rate": 1.4661150254794893e-06, + "loss": 0.3723, + "num_input_tokens_seen": 28180328, + "step": 14393 + }, + { + "epoch": 1.9077534791252484, + "grad_norm": 1.6928051710128784, + "learning_rate": 1.4657989740094098e-06, + "loss": 0.0158, + "num_input_tokens_seen": 28183784, + "step": 14394 + }, + { + "epoch": 1.9078860172299537, + "grad_norm": 3.777658700942993, + "learning_rate": 1.4654829424794382e-06, + "loss": 0.0392, + "num_input_tokens_seen": 28185912, + "step": 14395 + }, + { + "epoch": 1.9080185553346587, + "grad_norm": 7.629262447357178, + "learning_rate": 1.46516693089567e-06, + "loss": 0.1371, + "num_input_tokens_seen": 28188032, + "step": 14396 + }, + { + "epoch": 1.908151093439364, + "grad_norm": 0.03158547356724739, + "learning_rate": 1.4648509392641978e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28189152, + "step": 14397 + }, + { + "epoch": 1.908283631544069, + "grad_norm": 8.083187103271484, + "learning_rate": 1.4645349675911134e-06, + "loss": 0.177, + "num_input_tokens_seen": 28191096, + "step": 14398 + }, + { + "epoch": 1.908416169648774, + "grad_norm": 8.413670539855957, + "learning_rate": 1.4642190158825087e-06, + "loss": 0.113, + "num_input_tokens_seen": 28192832, + "step": 14399 + }, + { + "epoch": 1.908548707753479, + "grad_norm": 2.553278684616089, + "learning_rate": 1.4639030841444755e-06, + "loss": 0.0124, + "num_input_tokens_seen": 28194032, + "step": 14400 + }, + { + "epoch": 1.908681245858184, + "grad_norm": 3.7777161598205566, + "learning_rate": 1.4635871723831063e-06, + "loss": 0.0247, + "num_input_tokens_seen": 28196496, + "step": 14401 + }, + { + "epoch": 1.9088137839628894, + "grad_norm": 7.240584850311279, + "learning_rate": 1.4632712806044912e-06, + "loss": 0.2198, + "num_input_tokens_seen": 28199000, + "step": 14402 + }, + { + "epoch": 1.9089463220675944, + "grad_norm": 4.616669178009033, + "learning_rate": 1.4629554088147216e-06, + "loss": 0.0736, + "num_input_tokens_seen": 28201512, + "step": 14403 + }, + { + "epoch": 1.9090788601722997, + "grad_norm": 0.03577223792672157, + "learning_rate": 1.462639557019887e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28203448, + "step": 14404 + }, + { + "epoch": 1.9092113982770047, + "grad_norm": 0.5985246300697327, + "learning_rate": 1.4623237252260768e-06, + "loss": 0.0045, + "num_input_tokens_seen": 28205032, + "step": 14405 + }, + { + "epoch": 1.9093439363817097, + "grad_norm": 1.786458134651184, + "learning_rate": 1.4620079134393805e-06, + "loss": 0.0104, + "num_input_tokens_seen": 28207592, + "step": 14406 + }, + { + "epoch": 1.9094764744864148, + "grad_norm": 9.66949462890625, + "learning_rate": 1.4616921216658888e-06, + "loss": 0.0831, + "num_input_tokens_seen": 28209416, + "step": 14407 + }, + { + "epoch": 1.9096090125911198, + "grad_norm": 3.496964931488037, + "learning_rate": 1.461376349911689e-06, + "loss": 0.1269, + "num_input_tokens_seen": 28211272, + "step": 14408 + }, + { + "epoch": 1.909741550695825, + "grad_norm": 7.710900783538818, + "learning_rate": 1.4610605981828698e-06, + "loss": 0.0361, + "num_input_tokens_seen": 28212904, + "step": 14409 + }, + { + "epoch": 1.9098740888005301, + "grad_norm": 10.75462532043457, + "learning_rate": 1.460744866485519e-06, + "loss": 0.1921, + "num_input_tokens_seen": 28214664, + "step": 14410 + }, + { + "epoch": 1.9100066269052354, + "grad_norm": 4.333770275115967, + "learning_rate": 1.4604291548257232e-06, + "loss": 0.0662, + "num_input_tokens_seen": 28216712, + "step": 14411 + }, + { + "epoch": 1.9101391650099404, + "grad_norm": 0.3493688702583313, + "learning_rate": 1.4601134632095714e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28218592, + "step": 14412 + }, + { + "epoch": 1.9102717031146454, + "grad_norm": 7.69537353515625, + "learning_rate": 1.4597977916431495e-06, + "loss": 0.2792, + "num_input_tokens_seen": 28220784, + "step": 14413 + }, + { + "epoch": 1.9104042412193505, + "grad_norm": 0.009506812319159508, + "learning_rate": 1.4594821401325435e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28222192, + "step": 14414 + }, + { + "epoch": 1.9105367793240555, + "grad_norm": 0.018124233931303024, + "learning_rate": 1.45916650868384e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28223536, + "step": 14415 + }, + { + "epoch": 1.9106693174287608, + "grad_norm": 8.8605375289917, + "learning_rate": 1.4588508973031232e-06, + "loss": 0.1683, + "num_input_tokens_seen": 28225344, + "step": 14416 + }, + { + "epoch": 1.9108018555334658, + "grad_norm": 0.038766033947467804, + "learning_rate": 1.4585353059964802e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28228392, + "step": 14417 + }, + { + "epoch": 1.910934393638171, + "grad_norm": 3.79392409324646, + "learning_rate": 1.4582197347699945e-06, + "loss": 0.0555, + "num_input_tokens_seen": 28230320, + "step": 14418 + }, + { + "epoch": 1.9110669317428761, + "grad_norm": 0.014220799319446087, + "learning_rate": 1.4579041836297513e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28232240, + "step": 14419 + }, + { + "epoch": 1.9111994698475812, + "grad_norm": 0.041857972741127014, + "learning_rate": 1.457588652581835e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28234104, + "step": 14420 + }, + { + "epoch": 1.9113320079522862, + "grad_norm": 4.487502574920654, + "learning_rate": 1.4572731416323271e-06, + "loss": 0.0583, + "num_input_tokens_seen": 28235904, + "step": 14421 + }, + { + "epoch": 1.9114645460569912, + "grad_norm": 6.965250015258789, + "learning_rate": 1.4569576507873136e-06, + "loss": 0.1566, + "num_input_tokens_seen": 28237464, + "step": 14422 + }, + { + "epoch": 1.9115970841616965, + "grad_norm": 2.7727701663970947, + "learning_rate": 1.4566421800528763e-06, + "loss": 0.0352, + "num_input_tokens_seen": 28239080, + "step": 14423 + }, + { + "epoch": 1.9117296222664018, + "grad_norm": 2.2861809730529785, + "learning_rate": 1.4563267294350963e-06, + "loss": 0.0076, + "num_input_tokens_seen": 28240456, + "step": 14424 + }, + { + "epoch": 1.9118621603711068, + "grad_norm": 4.952845096588135, + "learning_rate": 1.456011298940058e-06, + "loss": 0.1238, + "num_input_tokens_seen": 28242544, + "step": 14425 + }, + { + "epoch": 1.9119946984758118, + "grad_norm": 0.06084465608000755, + "learning_rate": 1.455695888573841e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28243800, + "step": 14426 + }, + { + "epoch": 1.9121272365805169, + "grad_norm": 0.1038113608956337, + "learning_rate": 1.455380498342529e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28245056, + "step": 14427 + }, + { + "epoch": 1.912259774685222, + "grad_norm": 0.410986065864563, + "learning_rate": 1.4550651282522013e-06, + "loss": 0.0026, + "num_input_tokens_seen": 28247008, + "step": 14428 + }, + { + "epoch": 1.912392312789927, + "grad_norm": 4.654015064239502, + "learning_rate": 1.454749778308939e-06, + "loss": 0.0305, + "num_input_tokens_seen": 28249144, + "step": 14429 + }, + { + "epoch": 1.9125248508946322, + "grad_norm": 0.7885858416557312, + "learning_rate": 1.454434448518821e-06, + "loss": 0.004, + "num_input_tokens_seen": 28250840, + "step": 14430 + }, + { + "epoch": 1.9126573889993375, + "grad_norm": 0.9576358795166016, + "learning_rate": 1.454119138887929e-06, + "loss": 0.0113, + "num_input_tokens_seen": 28252736, + "step": 14431 + }, + { + "epoch": 1.9127899271040425, + "grad_norm": 0.18812473118305206, + "learning_rate": 1.4538038494223406e-06, + "loss": 0.0013, + "num_input_tokens_seen": 28254168, + "step": 14432 + }, + { + "epoch": 1.9129224652087475, + "grad_norm": 2.846705913543701, + "learning_rate": 1.4534885801281368e-06, + "loss": 0.0578, + "num_input_tokens_seen": 28255824, + "step": 14433 + }, + { + "epoch": 1.9130550033134526, + "grad_norm": 0.4817339777946472, + "learning_rate": 1.453173331011395e-06, + "loss": 0.0035, + "num_input_tokens_seen": 28257200, + "step": 14434 + }, + { + "epoch": 1.9131875414181576, + "grad_norm": 15.955060005187988, + "learning_rate": 1.4528581020781934e-06, + "loss": 0.3218, + "num_input_tokens_seen": 28258792, + "step": 14435 + }, + { + "epoch": 1.9133200795228629, + "grad_norm": 0.01600560173392296, + "learning_rate": 1.4525428933346095e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28261008, + "step": 14436 + }, + { + "epoch": 1.913452617627568, + "grad_norm": 0.1418578028678894, + "learning_rate": 1.4522277047867208e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28262264, + "step": 14437 + }, + { + "epoch": 1.9135851557322732, + "grad_norm": 0.00897623784840107, + "learning_rate": 1.451912536440606e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28263784, + "step": 14438 + }, + { + "epoch": 1.9137176938369782, + "grad_norm": 8.139069557189941, + "learning_rate": 1.4515973883023404e-06, + "loss": 0.198, + "num_input_tokens_seen": 28265240, + "step": 14439 + }, + { + "epoch": 1.9138502319416832, + "grad_norm": 13.951101303100586, + "learning_rate": 1.4512822603780003e-06, + "loss": 0.2427, + "num_input_tokens_seen": 28266936, + "step": 14440 + }, + { + "epoch": 1.9139827700463883, + "grad_norm": 5.647830486297607, + "learning_rate": 1.4509671526736608e-06, + "loss": 0.0571, + "num_input_tokens_seen": 28268864, + "step": 14441 + }, + { + "epoch": 1.9141153081510933, + "grad_norm": 2.023261308670044, + "learning_rate": 1.4506520651953984e-06, + "loss": 0.0148, + "num_input_tokens_seen": 28270984, + "step": 14442 + }, + { + "epoch": 1.9142478462557986, + "grad_norm": 0.047415055334568024, + "learning_rate": 1.450336997949289e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28272856, + "step": 14443 + }, + { + "epoch": 1.9143803843605036, + "grad_norm": 6.8397440910339355, + "learning_rate": 1.4500219509414065e-06, + "loss": 0.148, + "num_input_tokens_seen": 28274344, + "step": 14444 + }, + { + "epoch": 1.9145129224652089, + "grad_norm": 5.173931121826172, + "learning_rate": 1.449706924177825e-06, + "loss": 0.1555, + "num_input_tokens_seen": 28277216, + "step": 14445 + }, + { + "epoch": 1.914645460569914, + "grad_norm": 4.43999719619751, + "learning_rate": 1.4493919176646187e-06, + "loss": 0.0803, + "num_input_tokens_seen": 28279592, + "step": 14446 + }, + { + "epoch": 1.914777998674619, + "grad_norm": 0.019125768914818764, + "learning_rate": 1.4490769314078596e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28281408, + "step": 14447 + }, + { + "epoch": 1.914910536779324, + "grad_norm": 0.1252020001411438, + "learning_rate": 1.4487619654136225e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28282864, + "step": 14448 + }, + { + "epoch": 1.915043074884029, + "grad_norm": 12.181060791015625, + "learning_rate": 1.4484470196879813e-06, + "loss": 0.181, + "num_input_tokens_seen": 28284616, + "step": 14449 + }, + { + "epoch": 1.9151756129887343, + "grad_norm": 1.028161644935608, + "learning_rate": 1.4481320942370065e-06, + "loss": 0.0237, + "num_input_tokens_seen": 28286152, + "step": 14450 + }, + { + "epoch": 1.9153081510934393, + "grad_norm": 0.042308032512664795, + "learning_rate": 1.4478171890667709e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28287936, + "step": 14451 + }, + { + "epoch": 1.9154406891981446, + "grad_norm": 4.946495532989502, + "learning_rate": 1.4475023041833445e-06, + "loss": 0.0608, + "num_input_tokens_seen": 28290448, + "step": 14452 + }, + { + "epoch": 1.9155732273028496, + "grad_norm": 7.273913383483887, + "learning_rate": 1.447187439592801e-06, + "loss": 0.0919, + "num_input_tokens_seen": 28292752, + "step": 14453 + }, + { + "epoch": 1.9157057654075547, + "grad_norm": 12.199535369873047, + "learning_rate": 1.4468725953012086e-06, + "loss": 0.263, + "num_input_tokens_seen": 28295144, + "step": 14454 + }, + { + "epoch": 1.9158383035122597, + "grad_norm": 0.02083752676844597, + "learning_rate": 1.4465577713146404e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28296528, + "step": 14455 + }, + { + "epoch": 1.9159708416169647, + "grad_norm": 5.584634304046631, + "learning_rate": 1.4462429676391648e-06, + "loss": 0.1056, + "num_input_tokens_seen": 28297968, + "step": 14456 + }, + { + "epoch": 1.91610337972167, + "grad_norm": 9.967475891113281, + "learning_rate": 1.4459281842808509e-06, + "loss": 0.168, + "num_input_tokens_seen": 28299520, + "step": 14457 + }, + { + "epoch": 1.916235917826375, + "grad_norm": 6.392851829528809, + "learning_rate": 1.44561342124577e-06, + "loss": 0.0691, + "num_input_tokens_seen": 28301536, + "step": 14458 + }, + { + "epoch": 1.9163684559310803, + "grad_norm": 0.0661567896604538, + "learning_rate": 1.4452986785399895e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28303600, + "step": 14459 + }, + { + "epoch": 1.9165009940357853, + "grad_norm": 0.017987767234444618, + "learning_rate": 1.4449839561695772e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28305760, + "step": 14460 + }, + { + "epoch": 1.9166335321404904, + "grad_norm": 2.0596981048583984, + "learning_rate": 1.4446692541406026e-06, + "loss": 0.0193, + "num_input_tokens_seen": 28307536, + "step": 14461 + }, + { + "epoch": 1.9167660702451954, + "grad_norm": 4.042823314666748, + "learning_rate": 1.4443545724591334e-06, + "loss": 0.1048, + "num_input_tokens_seen": 28310744, + "step": 14462 + }, + { + "epoch": 1.9168986083499004, + "grad_norm": 0.46401628851890564, + "learning_rate": 1.444039911131235e-06, + "loss": 0.0026, + "num_input_tokens_seen": 28313048, + "step": 14463 + }, + { + "epoch": 1.9170311464546057, + "grad_norm": 6.0290021896362305, + "learning_rate": 1.4437252701629768e-06, + "loss": 0.1615, + "num_input_tokens_seen": 28314656, + "step": 14464 + }, + { + "epoch": 1.917163684559311, + "grad_norm": 13.83427906036377, + "learning_rate": 1.4434106495604228e-06, + "loss": 0.1866, + "num_input_tokens_seen": 28317160, + "step": 14465 + }, + { + "epoch": 1.917296222664016, + "grad_norm": 0.4276355803012848, + "learning_rate": 1.4430960493296415e-06, + "loss": 0.002, + "num_input_tokens_seen": 28318520, + "step": 14466 + }, + { + "epoch": 1.917428760768721, + "grad_norm": 8.597620964050293, + "learning_rate": 1.4427814694766972e-06, + "loss": 0.1137, + "num_input_tokens_seen": 28320352, + "step": 14467 + }, + { + "epoch": 1.917561298873426, + "grad_norm": 0.1282566487789154, + "learning_rate": 1.4424669100076548e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28321768, + "step": 14468 + }, + { + "epoch": 1.9176938369781311, + "grad_norm": 0.11541794240474701, + "learning_rate": 1.4421523709285812e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28323864, + "step": 14469 + }, + { + "epoch": 1.9178263750828362, + "grad_norm": 0.02432304620742798, + "learning_rate": 1.4418378522455396e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28325320, + "step": 14470 + }, + { + "epoch": 1.9179589131875414, + "grad_norm": 0.05120117962360382, + "learning_rate": 1.4415233539645929e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28326944, + "step": 14471 + }, + { + "epoch": 1.9180914512922467, + "grad_norm": 7.1296000480651855, + "learning_rate": 1.441208876091807e-06, + "loss": 0.204, + "num_input_tokens_seen": 28329280, + "step": 14472 + }, + { + "epoch": 1.9182239893969517, + "grad_norm": 0.5529530048370361, + "learning_rate": 1.4408944186332434e-06, + "loss": 0.0035, + "num_input_tokens_seen": 28330808, + "step": 14473 + }, + { + "epoch": 1.9183565275016567, + "grad_norm": 15.381190299987793, + "learning_rate": 1.4405799815949675e-06, + "loss": 0.0981, + "num_input_tokens_seen": 28333024, + "step": 14474 + }, + { + "epoch": 1.9184890656063618, + "grad_norm": 0.797319233417511, + "learning_rate": 1.4402655649830402e-06, + "loss": 0.0064, + "num_input_tokens_seen": 28334656, + "step": 14475 + }, + { + "epoch": 1.9186216037110668, + "grad_norm": 0.040282685309648514, + "learning_rate": 1.439951168803524e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28336960, + "step": 14476 + }, + { + "epoch": 1.918754141815772, + "grad_norm": 5.1428375244140625, + "learning_rate": 1.4396367930624794e-06, + "loss": 0.0402, + "num_input_tokens_seen": 28338560, + "step": 14477 + }, + { + "epoch": 1.9188866799204771, + "grad_norm": 0.1068536713719368, + "learning_rate": 1.4393224377659686e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28340040, + "step": 14478 + }, + { + "epoch": 1.9190192180251824, + "grad_norm": 11.043889999389648, + "learning_rate": 1.4390081029200542e-06, + "loss": 0.1553, + "num_input_tokens_seen": 28341696, + "step": 14479 + }, + { + "epoch": 1.9191517561298874, + "grad_norm": 8.010275840759277, + "learning_rate": 1.4386937885307957e-06, + "loss": 0.106, + "num_input_tokens_seen": 28343592, + "step": 14480 + }, + { + "epoch": 1.9192842942345925, + "grad_norm": 6.7649688720703125, + "learning_rate": 1.4383794946042532e-06, + "loss": 0.0336, + "num_input_tokens_seen": 28345120, + "step": 14481 + }, + { + "epoch": 1.9194168323392975, + "grad_norm": 4.509862899780273, + "learning_rate": 1.4380652211464863e-06, + "loss": 0.0782, + "num_input_tokens_seen": 28347256, + "step": 14482 + }, + { + "epoch": 1.9195493704440025, + "grad_norm": 0.003938871435821056, + "learning_rate": 1.4377509681635532e-06, + "loss": 0.0, + "num_input_tokens_seen": 28348584, + "step": 14483 + }, + { + "epoch": 1.9196819085487078, + "grad_norm": 7.963360786437988, + "learning_rate": 1.4374367356615147e-06, + "loss": 0.1787, + "num_input_tokens_seen": 28352040, + "step": 14484 + }, + { + "epoch": 1.9198144466534128, + "grad_norm": 16.060741424560547, + "learning_rate": 1.4371225236464298e-06, + "loss": 0.1265, + "num_input_tokens_seen": 28353848, + "step": 14485 + }, + { + "epoch": 1.919946984758118, + "grad_norm": 5.6197829246521, + "learning_rate": 1.4368083321243556e-06, + "loss": 0.0287, + "num_input_tokens_seen": 28355648, + "step": 14486 + }, + { + "epoch": 1.9200795228628231, + "grad_norm": 18.31355094909668, + "learning_rate": 1.4364941611013505e-06, + "loss": 0.4455, + "num_input_tokens_seen": 28357760, + "step": 14487 + }, + { + "epoch": 1.9202120609675282, + "grad_norm": 10.761831283569336, + "learning_rate": 1.4361800105834717e-06, + "loss": 0.3233, + "num_input_tokens_seen": 28359992, + "step": 14488 + }, + { + "epoch": 1.9203445990722332, + "grad_norm": 0.015185891650617123, + "learning_rate": 1.435865880576775e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28361888, + "step": 14489 + }, + { + "epoch": 1.9204771371769382, + "grad_norm": 13.749794006347656, + "learning_rate": 1.4355517710873184e-06, + "loss": 0.2082, + "num_input_tokens_seen": 28363392, + "step": 14490 + }, + { + "epoch": 1.9206096752816435, + "grad_norm": 0.10136348009109497, + "learning_rate": 1.4352376821211589e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28366384, + "step": 14491 + }, + { + "epoch": 1.9207422133863485, + "grad_norm": 1.2167774438858032, + "learning_rate": 1.4349236136843514e-06, + "loss": 0.0148, + "num_input_tokens_seen": 28369472, + "step": 14492 + }, + { + "epoch": 1.9208747514910538, + "grad_norm": 6.388339996337891, + "learning_rate": 1.4346095657829512e-06, + "loss": 0.1352, + "num_input_tokens_seen": 28372040, + "step": 14493 + }, + { + "epoch": 1.9210072895957588, + "grad_norm": 11.298988342285156, + "learning_rate": 1.4342955384230128e-06, + "loss": 0.1768, + "num_input_tokens_seen": 28374000, + "step": 14494 + }, + { + "epoch": 1.9211398277004639, + "grad_norm": 13.300827980041504, + "learning_rate": 1.4339815316105915e-06, + "loss": 0.0622, + "num_input_tokens_seen": 28375688, + "step": 14495 + }, + { + "epoch": 1.921272365805169, + "grad_norm": 0.8824145197868347, + "learning_rate": 1.433667545351743e-06, + "loss": 0.0082, + "num_input_tokens_seen": 28377128, + "step": 14496 + }, + { + "epoch": 1.921404903909874, + "grad_norm": 5.568937301635742, + "learning_rate": 1.4333535796525194e-06, + "loss": 0.1287, + "num_input_tokens_seen": 28379520, + "step": 14497 + }, + { + "epoch": 1.9215374420145792, + "grad_norm": 4.481696128845215, + "learning_rate": 1.433039634518975e-06, + "loss": 0.193, + "num_input_tokens_seen": 28381736, + "step": 14498 + }, + { + "epoch": 1.9216699801192842, + "grad_norm": 3.872025966644287, + "learning_rate": 1.4327257099571613e-06, + "loss": 0.0855, + "num_input_tokens_seen": 28383640, + "step": 14499 + }, + { + "epoch": 1.9218025182239895, + "grad_norm": 0.012724610045552254, + "learning_rate": 1.4324118059731333e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28385472, + "step": 14500 + }, + { + "epoch": 1.9219350563286945, + "grad_norm": 0.017046354711055756, + "learning_rate": 1.4320979225729408e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28386776, + "step": 14501 + }, + { + "epoch": 1.9220675944333996, + "grad_norm": 15.89002513885498, + "learning_rate": 1.4317840597626387e-06, + "loss": 0.2919, + "num_input_tokens_seen": 28389416, + "step": 14502 + }, + { + "epoch": 1.9222001325381046, + "grad_norm": 12.773972511291504, + "learning_rate": 1.4314702175482764e-06, + "loss": 0.3049, + "num_input_tokens_seen": 28392144, + "step": 14503 + }, + { + "epoch": 1.9223326706428097, + "grad_norm": 6.142188549041748, + "learning_rate": 1.4311563959359043e-06, + "loss": 0.1264, + "num_input_tokens_seen": 28393408, + "step": 14504 + }, + { + "epoch": 1.922465208747515, + "grad_norm": 0.16367526352405548, + "learning_rate": 1.4308425949315758e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28395808, + "step": 14505 + }, + { + "epoch": 1.9225977468522202, + "grad_norm": 10.55117416381836, + "learning_rate": 1.4305288145413392e-06, + "loss": 0.2586, + "num_input_tokens_seen": 28398720, + "step": 14506 + }, + { + "epoch": 1.9227302849569252, + "grad_norm": 0.3092440366744995, + "learning_rate": 1.430215054771244e-06, + "loss": 0.0021, + "num_input_tokens_seen": 28401272, + "step": 14507 + }, + { + "epoch": 1.9228628230616303, + "grad_norm": 3.0988776683807373, + "learning_rate": 1.4299013156273415e-06, + "loss": 0.0202, + "num_input_tokens_seen": 28402992, + "step": 14508 + }, + { + "epoch": 1.9229953611663353, + "grad_norm": 12.431899070739746, + "learning_rate": 1.429587597115679e-06, + "loss": 0.2637, + "num_input_tokens_seen": 28404952, + "step": 14509 + }, + { + "epoch": 1.9231278992710403, + "grad_norm": 6.113668918609619, + "learning_rate": 1.4292738992423066e-06, + "loss": 0.065, + "num_input_tokens_seen": 28406928, + "step": 14510 + }, + { + "epoch": 1.9232604373757454, + "grad_norm": 8.003411293029785, + "learning_rate": 1.4289602220132725e-06, + "loss": 0.1521, + "num_input_tokens_seen": 28409048, + "step": 14511 + }, + { + "epoch": 1.9233929754804506, + "grad_norm": 0.47147056460380554, + "learning_rate": 1.4286465654346243e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28411096, + "step": 14512 + }, + { + "epoch": 1.9235255135851559, + "grad_norm": 1.3238030672073364, + "learning_rate": 1.4283329295124082e-06, + "loss": 0.0102, + "num_input_tokens_seen": 28412552, + "step": 14513 + }, + { + "epoch": 1.923658051689861, + "grad_norm": 0.018518054857850075, + "learning_rate": 1.4280193142526728e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28413448, + "step": 14514 + }, + { + "epoch": 1.923790589794566, + "grad_norm": 8.533416748046875, + "learning_rate": 1.4277057196614652e-06, + "loss": 0.0843, + "num_input_tokens_seen": 28415400, + "step": 14515 + }, + { + "epoch": 1.923923127899271, + "grad_norm": 5.133886814117432, + "learning_rate": 1.4273921457448309e-06, + "loss": 0.0702, + "num_input_tokens_seen": 28417248, + "step": 14516 + }, + { + "epoch": 1.924055666003976, + "grad_norm": 9.422061920166016, + "learning_rate": 1.4270785925088166e-06, + "loss": 0.1534, + "num_input_tokens_seen": 28419720, + "step": 14517 + }, + { + "epoch": 1.9241882041086813, + "grad_norm": 0.08589878678321838, + "learning_rate": 1.4267650599594656e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28421624, + "step": 14518 + }, + { + "epoch": 1.9243207422133863, + "grad_norm": 12.224078178405762, + "learning_rate": 1.426451548102826e-06, + "loss": 0.3511, + "num_input_tokens_seen": 28424400, + "step": 14519 + }, + { + "epoch": 1.9244532803180916, + "grad_norm": 2.035879373550415, + "learning_rate": 1.4261380569449402e-06, + "loss": 0.0303, + "num_input_tokens_seen": 28426280, + "step": 14520 + }, + { + "epoch": 1.9245858184227966, + "grad_norm": 5.446162223815918, + "learning_rate": 1.425824586491854e-06, + "loss": 0.1369, + "num_input_tokens_seen": 28428648, + "step": 14521 + }, + { + "epoch": 1.9247183565275017, + "grad_norm": 6.415218353271484, + "learning_rate": 1.4255111367496111e-06, + "loss": 0.0557, + "num_input_tokens_seen": 28430432, + "step": 14522 + }, + { + "epoch": 1.9248508946322067, + "grad_norm": 2.677095413208008, + "learning_rate": 1.4251977077242549e-06, + "loss": 0.03, + "num_input_tokens_seen": 28433368, + "step": 14523 + }, + { + "epoch": 1.9249834327369117, + "grad_norm": 0.11434061080217361, + "learning_rate": 1.424884299421827e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28435096, + "step": 14524 + }, + { + "epoch": 1.925115970841617, + "grad_norm": 6.683300971984863, + "learning_rate": 1.424570911848372e-06, + "loss": 0.0791, + "num_input_tokens_seen": 28436568, + "step": 14525 + }, + { + "epoch": 1.925248508946322, + "grad_norm": 0.058350272476673126, + "learning_rate": 1.4242575450099324e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28437888, + "step": 14526 + }, + { + "epoch": 1.9253810470510273, + "grad_norm": 1.7590957880020142, + "learning_rate": 1.4239441989125497e-06, + "loss": 0.0119, + "num_input_tokens_seen": 28439328, + "step": 14527 + }, + { + "epoch": 1.9255135851557323, + "grad_norm": 0.2827964425086975, + "learning_rate": 1.4236308735622648e-06, + "loss": 0.0014, + "num_input_tokens_seen": 28440480, + "step": 14528 + }, + { + "epoch": 1.9256461232604374, + "grad_norm": 0.735896646976471, + "learning_rate": 1.4233175689651193e-06, + "loss": 0.0034, + "num_input_tokens_seen": 28441984, + "step": 14529 + }, + { + "epoch": 1.9257786613651424, + "grad_norm": 8.681852340698242, + "learning_rate": 1.4230042851271531e-06, + "loss": 0.2294, + "num_input_tokens_seen": 28444504, + "step": 14530 + }, + { + "epoch": 1.9259111994698475, + "grad_norm": 0.06583154201507568, + "learning_rate": 1.422691022054407e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28446456, + "step": 14531 + }, + { + "epoch": 1.9260437375745527, + "grad_norm": 10.106581687927246, + "learning_rate": 1.422377779752922e-06, + "loss": 0.417, + "num_input_tokens_seen": 28449344, + "step": 14532 + }, + { + "epoch": 1.9261762756792578, + "grad_norm": 4.655391216278076, + "learning_rate": 1.4220645582287373e-06, + "loss": 0.0279, + "num_input_tokens_seen": 28452056, + "step": 14533 + }, + { + "epoch": 1.926308813783963, + "grad_norm": 7.4563727378845215, + "learning_rate": 1.4217513574878913e-06, + "loss": 0.2362, + "num_input_tokens_seen": 28453816, + "step": 14534 + }, + { + "epoch": 1.926441351888668, + "grad_norm": 6.052512168884277, + "learning_rate": 1.4214381775364223e-06, + "loss": 0.0793, + "num_input_tokens_seen": 28456120, + "step": 14535 + }, + { + "epoch": 1.926573889993373, + "grad_norm": 0.5566394329071045, + "learning_rate": 1.4211250183803698e-06, + "loss": 0.0042, + "num_input_tokens_seen": 28458064, + "step": 14536 + }, + { + "epoch": 1.9267064280980781, + "grad_norm": 8.530388832092285, + "learning_rate": 1.4208118800257703e-06, + "loss": 0.129, + "num_input_tokens_seen": 28461024, + "step": 14537 + }, + { + "epoch": 1.9268389662027832, + "grad_norm": 7.138511657714844, + "learning_rate": 1.4204987624786634e-06, + "loss": 0.1371, + "num_input_tokens_seen": 28462256, + "step": 14538 + }, + { + "epoch": 1.9269715043074884, + "grad_norm": 2.7308220863342285, + "learning_rate": 1.4201856657450853e-06, + "loss": 0.0509, + "num_input_tokens_seen": 28464200, + "step": 14539 + }, + { + "epoch": 1.9271040424121935, + "grad_norm": 11.084391593933105, + "learning_rate": 1.4198725898310712e-06, + "loss": 0.0417, + "num_input_tokens_seen": 28465608, + "step": 14540 + }, + { + "epoch": 1.9272365805168987, + "grad_norm": 6.178929328918457, + "learning_rate": 1.4195595347426593e-06, + "loss": 0.1377, + "num_input_tokens_seen": 28467528, + "step": 14541 + }, + { + "epoch": 1.9273691186216038, + "grad_norm": 8.426530838012695, + "learning_rate": 1.4192465004858856e-06, + "loss": 0.1989, + "num_input_tokens_seen": 28469400, + "step": 14542 + }, + { + "epoch": 1.9275016567263088, + "grad_norm": 0.036309584975242615, + "learning_rate": 1.4189334870667836e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28471080, + "step": 14543 + }, + { + "epoch": 1.9276341948310138, + "grad_norm": 6.903929233551025, + "learning_rate": 1.4186204944913912e-06, + "loss": 0.2244, + "num_input_tokens_seen": 28472616, + "step": 14544 + }, + { + "epoch": 1.9277667329357189, + "grad_norm": 0.0949307307600975, + "learning_rate": 1.418307522765741e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28475080, + "step": 14545 + }, + { + "epoch": 1.9278992710404241, + "grad_norm": 8.07598876953125, + "learning_rate": 1.4179945718958677e-06, + "loss": 0.2139, + "num_input_tokens_seen": 28477320, + "step": 14546 + }, + { + "epoch": 1.9280318091451292, + "grad_norm": 2.8299310207366943, + "learning_rate": 1.417681641887806e-06, + "loss": 0.0325, + "num_input_tokens_seen": 28478616, + "step": 14547 + }, + { + "epoch": 1.9281643472498344, + "grad_norm": 4.273895263671875, + "learning_rate": 1.417368732747588e-06, + "loss": 0.0073, + "num_input_tokens_seen": 28480344, + "step": 14548 + }, + { + "epoch": 1.9282968853545395, + "grad_norm": 8.862760543823242, + "learning_rate": 1.4170558444812488e-06, + "loss": 0.288, + "num_input_tokens_seen": 28483040, + "step": 14549 + }, + { + "epoch": 1.9284294234592445, + "grad_norm": 10.843574523925781, + "learning_rate": 1.41674297709482e-06, + "loss": 0.308, + "num_input_tokens_seen": 28484592, + "step": 14550 + }, + { + "epoch": 1.9285619615639495, + "grad_norm": 2.0836310386657715, + "learning_rate": 1.4164301305943327e-06, + "loss": 0.0151, + "num_input_tokens_seen": 28486000, + "step": 14551 + }, + { + "epoch": 1.9286944996686546, + "grad_norm": 6.719988822937012, + "learning_rate": 1.4161173049858212e-06, + "loss": 0.1317, + "num_input_tokens_seen": 28488416, + "step": 14552 + }, + { + "epoch": 1.9288270377733598, + "grad_norm": 0.10176331549882889, + "learning_rate": 1.4158045002753156e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28490080, + "step": 14553 + }, + { + "epoch": 1.928959575878065, + "grad_norm": 0.10741537809371948, + "learning_rate": 1.4154917164688464e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28491152, + "step": 14554 + }, + { + "epoch": 1.9290921139827701, + "grad_norm": 7.245759963989258, + "learning_rate": 1.4151789535724458e-06, + "loss": 0.1009, + "num_input_tokens_seen": 28493680, + "step": 14555 + }, + { + "epoch": 1.9292246520874752, + "grad_norm": 2.1338467597961426, + "learning_rate": 1.4148662115921425e-06, + "loss": 0.0261, + "num_input_tokens_seen": 28495600, + "step": 14556 + }, + { + "epoch": 1.9293571901921802, + "grad_norm": 5.444281578063965, + "learning_rate": 1.4145534905339683e-06, + "loss": 0.0332, + "num_input_tokens_seen": 28498256, + "step": 14557 + }, + { + "epoch": 1.9294897282968853, + "grad_norm": 0.01628575660288334, + "learning_rate": 1.4142407904039516e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28499712, + "step": 14558 + }, + { + "epoch": 1.9296222664015903, + "grad_norm": 0.2893092632293701, + "learning_rate": 1.4139281112081216e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28501712, + "step": 14559 + }, + { + "epoch": 1.9297548045062956, + "grad_norm": 3.414501190185547, + "learning_rate": 1.4136154529525053e-06, + "loss": 0.0326, + "num_input_tokens_seen": 28503560, + "step": 14560 + }, + { + "epoch": 1.9298873426110008, + "grad_norm": 3.0467071533203125, + "learning_rate": 1.4133028156431333e-06, + "loss": 0.0195, + "num_input_tokens_seen": 28506384, + "step": 14561 + }, + { + "epoch": 1.9300198807157058, + "grad_norm": 2.362006902694702, + "learning_rate": 1.4129901992860335e-06, + "loss": 0.0192, + "num_input_tokens_seen": 28507744, + "step": 14562 + }, + { + "epoch": 1.9301524188204109, + "grad_norm": 2.259338855743408, + "learning_rate": 1.4126776038872319e-06, + "loss": 0.0253, + "num_input_tokens_seen": 28509584, + "step": 14563 + }, + { + "epoch": 1.930284956925116, + "grad_norm": 0.021720731630921364, + "learning_rate": 1.4123650294527568e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28511840, + "step": 14564 + }, + { + "epoch": 1.930417495029821, + "grad_norm": 0.5089496970176697, + "learning_rate": 1.4120524759886343e-06, + "loss": 0.0024, + "num_input_tokens_seen": 28513416, + "step": 14565 + }, + { + "epoch": 1.9305500331345262, + "grad_norm": 6.575616836547852, + "learning_rate": 1.4117399435008895e-06, + "loss": 0.1721, + "num_input_tokens_seen": 28515256, + "step": 14566 + }, + { + "epoch": 1.9306825712392313, + "grad_norm": 13.048566818237305, + "learning_rate": 1.411427431995549e-06, + "loss": 0.3847, + "num_input_tokens_seen": 28517632, + "step": 14567 + }, + { + "epoch": 1.9308151093439365, + "grad_norm": 3.2150468826293945, + "learning_rate": 1.4111149414786401e-06, + "loss": 0.0263, + "num_input_tokens_seen": 28519672, + "step": 14568 + }, + { + "epoch": 1.9309476474486416, + "grad_norm": 4.492439270019531, + "learning_rate": 1.4108024719561857e-06, + "loss": 0.0916, + "num_input_tokens_seen": 28521608, + "step": 14569 + }, + { + "epoch": 1.9310801855533466, + "grad_norm": 12.285988807678223, + "learning_rate": 1.4104900234342118e-06, + "loss": 0.1564, + "num_input_tokens_seen": 28523072, + "step": 14570 + }, + { + "epoch": 1.9312127236580516, + "grad_norm": 0.035410039126873016, + "learning_rate": 1.4101775959187402e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28525472, + "step": 14571 + }, + { + "epoch": 1.9313452617627567, + "grad_norm": 0.3409900963306427, + "learning_rate": 1.4098651894157967e-06, + "loss": 0.0023, + "num_input_tokens_seen": 28527584, + "step": 14572 + }, + { + "epoch": 1.931477799867462, + "grad_norm": 2.896045684814453, + "learning_rate": 1.4095528039314055e-06, + "loss": 0.0978, + "num_input_tokens_seen": 28529592, + "step": 14573 + }, + { + "epoch": 1.931610337972167, + "grad_norm": 6.497830867767334, + "learning_rate": 1.4092404394715884e-06, + "loss": 0.1189, + "num_input_tokens_seen": 28531528, + "step": 14574 + }, + { + "epoch": 1.9317428760768722, + "grad_norm": 12.242908477783203, + "learning_rate": 1.408928096042368e-06, + "loss": 0.2839, + "num_input_tokens_seen": 28533696, + "step": 14575 + }, + { + "epoch": 1.9318754141815773, + "grad_norm": 9.6052885055542, + "learning_rate": 1.4086157736497667e-06, + "loss": 0.183, + "num_input_tokens_seen": 28536056, + "step": 14576 + }, + { + "epoch": 1.9320079522862823, + "grad_norm": 5.231362342834473, + "learning_rate": 1.4083034722998052e-06, + "loss": 0.1055, + "num_input_tokens_seen": 28537856, + "step": 14577 + }, + { + "epoch": 1.9321404903909873, + "grad_norm": 1.3147205114364624, + "learning_rate": 1.4079911919985055e-06, + "loss": 0.0289, + "num_input_tokens_seen": 28539440, + "step": 14578 + }, + { + "epoch": 1.9322730284956924, + "grad_norm": 0.8507856130599976, + "learning_rate": 1.4076789327518903e-06, + "loss": 0.0049, + "num_input_tokens_seen": 28541352, + "step": 14579 + }, + { + "epoch": 1.9324055666003976, + "grad_norm": 0.0316254086792469, + "learning_rate": 1.407366694565979e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28543128, + "step": 14580 + }, + { + "epoch": 1.9325381047051027, + "grad_norm": 11.630775451660156, + "learning_rate": 1.4070544774467914e-06, + "loss": 0.2546, + "num_input_tokens_seen": 28545184, + "step": 14581 + }, + { + "epoch": 1.932670642809808, + "grad_norm": 7.414968490600586, + "learning_rate": 1.4067422814003463e-06, + "loss": 0.1368, + "num_input_tokens_seen": 28547024, + "step": 14582 + }, + { + "epoch": 1.932803180914513, + "grad_norm": 5.031907081604004, + "learning_rate": 1.4064301064326654e-06, + "loss": 0.0291, + "num_input_tokens_seen": 28548816, + "step": 14583 + }, + { + "epoch": 1.932935719019218, + "grad_norm": 1.428748607635498, + "learning_rate": 1.4061179525497653e-06, + "loss": 0.0119, + "num_input_tokens_seen": 28550096, + "step": 14584 + }, + { + "epoch": 1.933068257123923, + "grad_norm": 0.13369989395141602, + "learning_rate": 1.4058058197576671e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28552456, + "step": 14585 + }, + { + "epoch": 1.933200795228628, + "grad_norm": 6.122941493988037, + "learning_rate": 1.4054937080623871e-06, + "loss": 0.1364, + "num_input_tokens_seen": 28553968, + "step": 14586 + }, + { + "epoch": 1.9333333333333333, + "grad_norm": 0.22955013811588287, + "learning_rate": 1.4051816174699428e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28556112, + "step": 14587 + }, + { + "epoch": 1.9334658714380384, + "grad_norm": 1.2341172695159912, + "learning_rate": 1.404869547986353e-06, + "loss": 0.0216, + "num_input_tokens_seen": 28558024, + "step": 14588 + }, + { + "epoch": 1.9335984095427436, + "grad_norm": 0.12363634258508682, + "learning_rate": 1.404557499617634e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28560184, + "step": 14589 + }, + { + "epoch": 1.9337309476474487, + "grad_norm": 5.505316734313965, + "learning_rate": 1.4042454723698006e-06, + "loss": 0.0758, + "num_input_tokens_seen": 28562176, + "step": 14590 + }, + { + "epoch": 1.9338634857521537, + "grad_norm": 7.320895671844482, + "learning_rate": 1.403933466248872e-06, + "loss": 0.0663, + "num_input_tokens_seen": 28564672, + "step": 14591 + }, + { + "epoch": 1.9339960238568588, + "grad_norm": 2.202357053756714, + "learning_rate": 1.4036214812608613e-06, + "loss": 0.0212, + "num_input_tokens_seen": 28566352, + "step": 14592 + }, + { + "epoch": 1.9341285619615638, + "grad_norm": 7.182968616485596, + "learning_rate": 1.4033095174117856e-06, + "loss": 0.2428, + "num_input_tokens_seen": 28568816, + "step": 14593 + }, + { + "epoch": 1.934261100066269, + "grad_norm": 0.03679567575454712, + "learning_rate": 1.4029975747076588e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28570288, + "step": 14594 + }, + { + "epoch": 1.9343936381709743, + "grad_norm": 0.23885899782180786, + "learning_rate": 1.4026856531544957e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28571896, + "step": 14595 + }, + { + "epoch": 1.9345261762756794, + "grad_norm": 4.883234977722168, + "learning_rate": 1.4023737527583092e-06, + "loss": 0.1274, + "num_input_tokens_seen": 28574656, + "step": 14596 + }, + { + "epoch": 1.9346587143803844, + "grad_norm": 0.20378774404525757, + "learning_rate": 1.402061873525114e-06, + "loss": 0.001, + "num_input_tokens_seen": 28576904, + "step": 14597 + }, + { + "epoch": 1.9347912524850894, + "grad_norm": 6.817506313323975, + "learning_rate": 1.4017500154609243e-06, + "loss": 0.1862, + "num_input_tokens_seen": 28579128, + "step": 14598 + }, + { + "epoch": 1.9349237905897945, + "grad_norm": 0.020190421491861343, + "learning_rate": 1.4014381785717517e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28580552, + "step": 14599 + }, + { + "epoch": 1.9350563286944995, + "grad_norm": 7.722602367401123, + "learning_rate": 1.401126362863609e-06, + "loss": 0.0682, + "num_input_tokens_seen": 28582944, + "step": 14600 + }, + { + "epoch": 1.9351888667992048, + "grad_norm": 2.3326830863952637, + "learning_rate": 1.4008145683425072e-06, + "loss": 0.0194, + "num_input_tokens_seen": 28584680, + "step": 14601 + }, + { + "epoch": 1.93532140490391, + "grad_norm": 0.14842797815799713, + "learning_rate": 1.40050279501446e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28586224, + "step": 14602 + }, + { + "epoch": 1.935453943008615, + "grad_norm": 9.247849464416504, + "learning_rate": 1.4001910428854762e-06, + "loss": 0.038, + "num_input_tokens_seen": 28587928, + "step": 14603 + }, + { + "epoch": 1.93558648111332, + "grad_norm": 3.5706992149353027, + "learning_rate": 1.399879311961569e-06, + "loss": 0.0604, + "num_input_tokens_seen": 28590128, + "step": 14604 + }, + { + "epoch": 1.9357190192180251, + "grad_norm": 0.06635161489248276, + "learning_rate": 1.3995676022487472e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28591568, + "step": 14605 + }, + { + "epoch": 1.9358515573227302, + "grad_norm": 6.257473945617676, + "learning_rate": 1.3992559137530215e-06, + "loss": 0.1042, + "num_input_tokens_seen": 28592904, + "step": 14606 + }, + { + "epoch": 1.9359840954274354, + "grad_norm": 10.173773765563965, + "learning_rate": 1.3989442464804e-06, + "loss": 0.0915, + "num_input_tokens_seen": 28595128, + "step": 14607 + }, + { + "epoch": 1.9361166335321405, + "grad_norm": 6.5874786376953125, + "learning_rate": 1.3986326004368934e-06, + "loss": 0.096, + "num_input_tokens_seen": 28596920, + "step": 14608 + }, + { + "epoch": 1.9362491716368457, + "grad_norm": 0.01202325988560915, + "learning_rate": 1.3983209756285105e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28598648, + "step": 14609 + }, + { + "epoch": 1.9363817097415508, + "grad_norm": 7.9543986320495605, + "learning_rate": 1.3980093720612592e-06, + "loss": 0.1664, + "num_input_tokens_seen": 28601216, + "step": 14610 + }, + { + "epoch": 1.9365142478462558, + "grad_norm": 14.929435729980469, + "learning_rate": 1.3976977897411478e-06, + "loss": 0.1642, + "num_input_tokens_seen": 28603568, + "step": 14611 + }, + { + "epoch": 1.9366467859509608, + "grad_norm": 0.027997706085443497, + "learning_rate": 1.3973862286741836e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28605384, + "step": 14612 + }, + { + "epoch": 1.9367793240556659, + "grad_norm": 0.03364469110965729, + "learning_rate": 1.3970746888663722e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28607496, + "step": 14613 + }, + { + "epoch": 1.9369118621603711, + "grad_norm": 0.009779251180589199, + "learning_rate": 1.3967631703237217e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28609008, + "step": 14614 + }, + { + "epoch": 1.9370444002650762, + "grad_norm": 6.381690502166748, + "learning_rate": 1.3964516730522393e-06, + "loss": 0.1407, + "num_input_tokens_seen": 28611136, + "step": 14615 + }, + { + "epoch": 1.9371769383697814, + "grad_norm": 0.03693179041147232, + "learning_rate": 1.39614019705793e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28612552, + "step": 14616 + }, + { + "epoch": 1.9373094764744865, + "grad_norm": 2.7750744819641113, + "learning_rate": 1.3958287423467991e-06, + "loss": 0.0243, + "num_input_tokens_seen": 28614976, + "step": 14617 + }, + { + "epoch": 1.9374420145791915, + "grad_norm": 0.13844090700149536, + "learning_rate": 1.395517308924851e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28616448, + "step": 14618 + }, + { + "epoch": 1.9375745526838966, + "grad_norm": 9.090386390686035, + "learning_rate": 1.3952058967980922e-06, + "loss": 0.1497, + "num_input_tokens_seen": 28618648, + "step": 14619 + }, + { + "epoch": 1.9377070907886016, + "grad_norm": 0.8743656277656555, + "learning_rate": 1.3948945059725247e-06, + "loss": 0.0044, + "num_input_tokens_seen": 28621160, + "step": 14620 + }, + { + "epoch": 1.9378396288933069, + "grad_norm": 5.282532691955566, + "learning_rate": 1.3945831364541545e-06, + "loss": 0.118, + "num_input_tokens_seen": 28623200, + "step": 14621 + }, + { + "epoch": 1.937972166998012, + "grad_norm": 0.013399886898696423, + "learning_rate": 1.3942717882489841e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28624480, + "step": 14622 + }, + { + "epoch": 1.9381047051027172, + "grad_norm": 4.835678577423096, + "learning_rate": 1.3939604613630154e-06, + "loss": 0.1337, + "num_input_tokens_seen": 28626880, + "step": 14623 + }, + { + "epoch": 1.9382372432074222, + "grad_norm": 0.15624113380908966, + "learning_rate": 1.393649155802253e-06, + "loss": 0.0011, + "num_input_tokens_seen": 28628120, + "step": 14624 + }, + { + "epoch": 1.9383697813121272, + "grad_norm": 5.864776134490967, + "learning_rate": 1.3933378715726969e-06, + "loss": 0.1204, + "num_input_tokens_seen": 28630312, + "step": 14625 + }, + { + "epoch": 1.9385023194168323, + "grad_norm": 8.581633567810059, + "learning_rate": 1.3930266086803513e-06, + "loss": 0.1206, + "num_input_tokens_seen": 28632528, + "step": 14626 + }, + { + "epoch": 1.9386348575215373, + "grad_norm": 11.165970802307129, + "learning_rate": 1.3927153671312166e-06, + "loss": 0.0718, + "num_input_tokens_seen": 28634224, + "step": 14627 + }, + { + "epoch": 1.9387673956262426, + "grad_norm": 4.139102458953857, + "learning_rate": 1.3924041469312922e-06, + "loss": 0.0701, + "num_input_tokens_seen": 28635904, + "step": 14628 + }, + { + "epoch": 1.9388999337309476, + "grad_norm": 12.607486724853516, + "learning_rate": 1.3920929480865808e-06, + "loss": 0.1329, + "num_input_tokens_seen": 28637448, + "step": 14629 + }, + { + "epoch": 1.9390324718356529, + "grad_norm": 0.06494516879320145, + "learning_rate": 1.3917817706030816e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28639344, + "step": 14630 + }, + { + "epoch": 1.939165009940358, + "grad_norm": 6.403761863708496, + "learning_rate": 1.391470614486794e-06, + "loss": 0.1125, + "num_input_tokens_seen": 28641000, + "step": 14631 + }, + { + "epoch": 1.939297548045063, + "grad_norm": 5.491398334503174, + "learning_rate": 1.3911594797437184e-06, + "loss": 0.156, + "num_input_tokens_seen": 28643280, + "step": 14632 + }, + { + "epoch": 1.939430086149768, + "grad_norm": 13.304581642150879, + "learning_rate": 1.3908483663798528e-06, + "loss": 0.205, + "num_input_tokens_seen": 28645368, + "step": 14633 + }, + { + "epoch": 1.939562624254473, + "grad_norm": 0.6657033562660217, + "learning_rate": 1.3905372744011946e-06, + "loss": 0.0064, + "num_input_tokens_seen": 28646632, + "step": 14634 + }, + { + "epoch": 1.9396951623591783, + "grad_norm": 12.469066619873047, + "learning_rate": 1.3902262038137449e-06, + "loss": 0.2113, + "num_input_tokens_seen": 28649280, + "step": 14635 + }, + { + "epoch": 1.9398277004638835, + "grad_norm": 9.4768705368042, + "learning_rate": 1.389915154623499e-06, + "loss": 0.1522, + "num_input_tokens_seen": 28650688, + "step": 14636 + }, + { + "epoch": 1.9399602385685886, + "grad_norm": 0.017998971045017242, + "learning_rate": 1.3896041268364539e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28652944, + "step": 14637 + }, + { + "epoch": 1.9400927766732936, + "grad_norm": 4.276162147521973, + "learning_rate": 1.389293120458608e-06, + "loss": 0.0487, + "num_input_tokens_seen": 28654792, + "step": 14638 + }, + { + "epoch": 1.9402253147779986, + "grad_norm": 0.05417890101671219, + "learning_rate": 1.3889821354959565e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28657328, + "step": 14639 + }, + { + "epoch": 1.9403578528827037, + "grad_norm": 0.012029226869344711, + "learning_rate": 1.3886711719544965e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28658552, + "step": 14640 + }, + { + "epoch": 1.9404903909874087, + "grad_norm": 6.007042407989502, + "learning_rate": 1.3883602298402232e-06, + "loss": 0.1798, + "num_input_tokens_seen": 28661368, + "step": 14641 + }, + { + "epoch": 1.940622929092114, + "grad_norm": 3.0820279121398926, + "learning_rate": 1.3880493091591314e-06, + "loss": 0.0209, + "num_input_tokens_seen": 28663264, + "step": 14642 + }, + { + "epoch": 1.9407554671968192, + "grad_norm": 0.015500135719776154, + "learning_rate": 1.3877384099172147e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28664552, + "step": 14643 + }, + { + "epoch": 1.9408880053015243, + "grad_norm": 0.01828496716916561, + "learning_rate": 1.3874275321204694e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28666448, + "step": 14644 + }, + { + "epoch": 1.9410205434062293, + "grad_norm": 2.442807674407959, + "learning_rate": 1.3871166757748893e-06, + "loss": 0.05, + "num_input_tokens_seen": 28668632, + "step": 14645 + }, + { + "epoch": 1.9411530815109344, + "grad_norm": 0.013095048256218433, + "learning_rate": 1.3868058408864676e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28670520, + "step": 14646 + }, + { + "epoch": 1.9412856196156394, + "grad_norm": 4.288139820098877, + "learning_rate": 1.3864950274611974e-06, + "loss": 0.1245, + "num_input_tokens_seen": 28672664, + "step": 14647 + }, + { + "epoch": 1.9414181577203447, + "grad_norm": 4.198489665985107, + "learning_rate": 1.3861842355050712e-06, + "loss": 0.0641, + "num_input_tokens_seen": 28674776, + "step": 14648 + }, + { + "epoch": 1.9415506958250497, + "grad_norm": 5.618628978729248, + "learning_rate": 1.3858734650240802e-06, + "loss": 0.1448, + "num_input_tokens_seen": 28677080, + "step": 14649 + }, + { + "epoch": 1.941683233929755, + "grad_norm": 0.05193592235445976, + "learning_rate": 1.3855627160242175e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28679472, + "step": 14650 + }, + { + "epoch": 1.94181577203446, + "grad_norm": 7.951456069946289, + "learning_rate": 1.3852519885114751e-06, + "loss": 0.2437, + "num_input_tokens_seen": 28682320, + "step": 14651 + }, + { + "epoch": 1.941948310139165, + "grad_norm": 0.0734550878405571, + "learning_rate": 1.3849412824918438e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28684384, + "step": 14652 + }, + { + "epoch": 1.94208084824387, + "grad_norm": 7.789407730102539, + "learning_rate": 1.3846305979713136e-06, + "loss": 0.1154, + "num_input_tokens_seen": 28685984, + "step": 14653 + }, + { + "epoch": 1.942213386348575, + "grad_norm": 2.748812437057495, + "learning_rate": 1.3843199349558738e-06, + "loss": 0.057, + "num_input_tokens_seen": 28688784, + "step": 14654 + }, + { + "epoch": 1.9423459244532804, + "grad_norm": 8.302749633789062, + "learning_rate": 1.384009293451516e-06, + "loss": 0.23, + "num_input_tokens_seen": 28691192, + "step": 14655 + }, + { + "epoch": 1.9424784625579854, + "grad_norm": 0.023133253678679466, + "learning_rate": 1.3836986734642295e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28692840, + "step": 14656 + }, + { + "epoch": 1.9426110006626907, + "grad_norm": 9.725693702697754, + "learning_rate": 1.3833880750000023e-06, + "loss": 0.2032, + "num_input_tokens_seen": 28695208, + "step": 14657 + }, + { + "epoch": 1.9427435387673957, + "grad_norm": 0.8284279704093933, + "learning_rate": 1.3830774980648237e-06, + "loss": 0.011, + "num_input_tokens_seen": 28696320, + "step": 14658 + }, + { + "epoch": 1.9428760768721007, + "grad_norm": 9.413773536682129, + "learning_rate": 1.3827669426646812e-06, + "loss": 0.1615, + "num_input_tokens_seen": 28698312, + "step": 14659 + }, + { + "epoch": 1.9430086149768058, + "grad_norm": 9.086424827575684, + "learning_rate": 1.382456408805562e-06, + "loss": 0.0592, + "num_input_tokens_seen": 28701128, + "step": 14660 + }, + { + "epoch": 1.9431411530815108, + "grad_norm": 3.0442428588867188, + "learning_rate": 1.3821458964934542e-06, + "loss": 0.0153, + "num_input_tokens_seen": 28703192, + "step": 14661 + }, + { + "epoch": 1.943273691186216, + "grad_norm": 7.821380615234375, + "learning_rate": 1.3818354057343459e-06, + "loss": 0.2679, + "num_input_tokens_seen": 28705632, + "step": 14662 + }, + { + "epoch": 1.943406229290921, + "grad_norm": 5.3158793449401855, + "learning_rate": 1.381524936534222e-06, + "loss": 0.0335, + "num_input_tokens_seen": 28707256, + "step": 14663 + }, + { + "epoch": 1.9435387673956264, + "grad_norm": 8.956122398376465, + "learning_rate": 1.381214488899069e-06, + "loss": 0.1111, + "num_input_tokens_seen": 28709672, + "step": 14664 + }, + { + "epoch": 1.9436713055003314, + "grad_norm": 0.029865404590964317, + "learning_rate": 1.3809040628348714e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28710904, + "step": 14665 + }, + { + "epoch": 1.9438038436050364, + "grad_norm": 0.052165061235427856, + "learning_rate": 1.3805936583476164e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28713232, + "step": 14666 + }, + { + "epoch": 1.9439363817097415, + "grad_norm": 8.316707611083984, + "learning_rate": 1.380283275443287e-06, + "loss": 0.2502, + "num_input_tokens_seen": 28715352, + "step": 14667 + }, + { + "epoch": 1.9440689198144465, + "grad_norm": 0.02401457354426384, + "learning_rate": 1.3799729141278701e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28717496, + "step": 14668 + }, + { + "epoch": 1.9442014579191518, + "grad_norm": 11.197239875793457, + "learning_rate": 1.3796625744073471e-06, + "loss": 0.1392, + "num_input_tokens_seen": 28719832, + "step": 14669 + }, + { + "epoch": 1.9443339960238568, + "grad_norm": 2.6308822631835938, + "learning_rate": 1.379352256287702e-06, + "loss": 0.0333, + "num_input_tokens_seen": 28721440, + "step": 14670 + }, + { + "epoch": 1.944466534128562, + "grad_norm": 0.01773657090961933, + "learning_rate": 1.3790419597749198e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28722944, + "step": 14671 + }, + { + "epoch": 1.9445990722332671, + "grad_norm": 2.6789276599884033, + "learning_rate": 1.3787316848749816e-06, + "loss": 0.0292, + "num_input_tokens_seen": 28724200, + "step": 14672 + }, + { + "epoch": 1.9447316103379721, + "grad_norm": 4.435582160949707, + "learning_rate": 1.3784214315938691e-06, + "loss": 0.0155, + "num_input_tokens_seen": 28726272, + "step": 14673 + }, + { + "epoch": 1.9448641484426772, + "grad_norm": 3.9609580039978027, + "learning_rate": 1.3781111999375662e-06, + "loss": 0.0947, + "num_input_tokens_seen": 28728752, + "step": 14674 + }, + { + "epoch": 1.9449966865473822, + "grad_norm": 7.49310827255249, + "learning_rate": 1.377800989912052e-06, + "loss": 0.0435, + "num_input_tokens_seen": 28730496, + "step": 14675 + }, + { + "epoch": 1.9451292246520875, + "grad_norm": 0.042895857244729996, + "learning_rate": 1.3774908015233102e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28732424, + "step": 14676 + }, + { + "epoch": 1.9452617627567925, + "grad_norm": 1.0791136026382446, + "learning_rate": 1.37718063477732e-06, + "loss": 0.0039, + "num_input_tokens_seen": 28734376, + "step": 14677 + }, + { + "epoch": 1.9453943008614978, + "grad_norm": 9.463659286499023, + "learning_rate": 1.3768704896800608e-06, + "loss": 0.1, + "num_input_tokens_seen": 28736528, + "step": 14678 + }, + { + "epoch": 1.9455268389662028, + "grad_norm": 0.14655163884162903, + "learning_rate": 1.3765603662375143e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28738208, + "step": 14679 + }, + { + "epoch": 1.9456593770709079, + "grad_norm": 7.303836345672607, + "learning_rate": 1.376250264455658e-06, + "loss": 0.1555, + "num_input_tokens_seen": 28740544, + "step": 14680 + }, + { + "epoch": 1.945791915175613, + "grad_norm": 0.0055287862196564674, + "learning_rate": 1.3759401843404728e-06, + "loss": 0.0, + "num_input_tokens_seen": 28741696, + "step": 14681 + }, + { + "epoch": 1.945924453280318, + "grad_norm": 0.026806052774190903, + "learning_rate": 1.3756301258979366e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28743088, + "step": 14682 + }, + { + "epoch": 1.9460569913850232, + "grad_norm": 2.64050030708313, + "learning_rate": 1.3753200891340268e-06, + "loss": 0.0314, + "num_input_tokens_seen": 28744848, + "step": 14683 + }, + { + "epoch": 1.9461895294897285, + "grad_norm": 9.417302131652832, + "learning_rate": 1.375010074054721e-06, + "loss": 0.0711, + "num_input_tokens_seen": 28746840, + "step": 14684 + }, + { + "epoch": 1.9463220675944335, + "grad_norm": 0.08746056258678436, + "learning_rate": 1.3747000806659966e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28748728, + "step": 14685 + }, + { + "epoch": 1.9464546056991385, + "grad_norm": 4.36961555480957, + "learning_rate": 1.3743901089738321e-06, + "loss": 0.0159, + "num_input_tokens_seen": 28750760, + "step": 14686 + }, + { + "epoch": 1.9465871438038436, + "grad_norm": 6.71688985824585, + "learning_rate": 1.3740801589842029e-06, + "loss": 0.2345, + "num_input_tokens_seen": 28752752, + "step": 14687 + }, + { + "epoch": 1.9467196819085486, + "grad_norm": 0.05255643650889397, + "learning_rate": 1.373770230703085e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28755400, + "step": 14688 + }, + { + "epoch": 1.9468522200132539, + "grad_norm": 0.06645620614290237, + "learning_rate": 1.3734603241364542e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28758176, + "step": 14689 + }, + { + "epoch": 1.946984758117959, + "grad_norm": 6.391659259796143, + "learning_rate": 1.3731504392902838e-06, + "loss": 0.212, + "num_input_tokens_seen": 28760712, + "step": 14690 + }, + { + "epoch": 1.9471172962226642, + "grad_norm": 4.438530445098877, + "learning_rate": 1.372840576170551e-06, + "loss": 0.1191, + "num_input_tokens_seen": 28762472, + "step": 14691 + }, + { + "epoch": 1.9472498343273692, + "grad_norm": 4.386795997619629, + "learning_rate": 1.37253073478323e-06, + "loss": 0.0904, + "num_input_tokens_seen": 28764632, + "step": 14692 + }, + { + "epoch": 1.9473823724320742, + "grad_norm": 18.760112762451172, + "learning_rate": 1.3722209151342947e-06, + "loss": 0.2118, + "num_input_tokens_seen": 28766648, + "step": 14693 + }, + { + "epoch": 1.9475149105367793, + "grad_norm": 4.268288612365723, + "learning_rate": 1.3719111172297178e-06, + "loss": 0.112, + "num_input_tokens_seen": 28768864, + "step": 14694 + }, + { + "epoch": 1.9476474486414843, + "grad_norm": 18.963247299194336, + "learning_rate": 1.371601341075473e-06, + "loss": 0.1057, + "num_input_tokens_seen": 28770656, + "step": 14695 + }, + { + "epoch": 1.9477799867461896, + "grad_norm": 19.655405044555664, + "learning_rate": 1.3712915866775318e-06, + "loss": 0.1838, + "num_input_tokens_seen": 28772496, + "step": 14696 + }, + { + "epoch": 1.9479125248508946, + "grad_norm": 2.468867063522339, + "learning_rate": 1.3709818540418673e-06, + "loss": 0.0346, + "num_input_tokens_seen": 28774016, + "step": 14697 + }, + { + "epoch": 1.9480450629555999, + "grad_norm": 0.01792384870350361, + "learning_rate": 1.3706721431744527e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28775704, + "step": 14698 + }, + { + "epoch": 1.948177601060305, + "grad_norm": 13.417511940002441, + "learning_rate": 1.3703624540812582e-06, + "loss": 0.1681, + "num_input_tokens_seen": 28777936, + "step": 14699 + }, + { + "epoch": 1.94831013916501, + "grad_norm": 0.07239798456430435, + "learning_rate": 1.3700527867682547e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28779744, + "step": 14700 + }, + { + "epoch": 1.948442677269715, + "grad_norm": 0.047060493379831314, + "learning_rate": 1.3697431412414123e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28781784, + "step": 14701 + }, + { + "epoch": 1.94857521537442, + "grad_norm": 5.032929420471191, + "learning_rate": 1.3694335175067024e-06, + "loss": 0.0318, + "num_input_tokens_seen": 28783944, + "step": 14702 + }, + { + "epoch": 1.9487077534791253, + "grad_norm": 13.099404335021973, + "learning_rate": 1.3691239155700936e-06, + "loss": 0.5596, + "num_input_tokens_seen": 28786248, + "step": 14703 + }, + { + "epoch": 1.9488402915838303, + "grad_norm": 0.6062484979629517, + "learning_rate": 1.3688143354375568e-06, + "loss": 0.0024, + "num_input_tokens_seen": 28787976, + "step": 14704 + }, + { + "epoch": 1.9489728296885356, + "grad_norm": 11.420902252197266, + "learning_rate": 1.36850477711506e-06, + "loss": 0.3039, + "num_input_tokens_seen": 28790520, + "step": 14705 + }, + { + "epoch": 1.9491053677932406, + "grad_norm": 3.5838351249694824, + "learning_rate": 1.3681952406085707e-06, + "loss": 0.044, + "num_input_tokens_seen": 28792464, + "step": 14706 + }, + { + "epoch": 1.9492379058979457, + "grad_norm": 0.1063372939825058, + "learning_rate": 1.3678857259240588e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28795000, + "step": 14707 + }, + { + "epoch": 1.9493704440026507, + "grad_norm": 13.210976600646973, + "learning_rate": 1.3675762330674902e-06, + "loss": 0.243, + "num_input_tokens_seen": 28796944, + "step": 14708 + }, + { + "epoch": 1.9495029821073557, + "grad_norm": 0.0642801821231842, + "learning_rate": 1.3672667620448338e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28798032, + "step": 14709 + }, + { + "epoch": 1.949635520212061, + "grad_norm": 4.017451763153076, + "learning_rate": 1.366957312862056e-06, + "loss": 0.0535, + "num_input_tokens_seen": 28800880, + "step": 14710 + }, + { + "epoch": 1.949768058316766, + "grad_norm": 0.038332462310791016, + "learning_rate": 1.366647885525122e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28803424, + "step": 14711 + }, + { + "epoch": 1.9499005964214713, + "grad_norm": 0.19714200496673584, + "learning_rate": 1.3663384800399992e-06, + "loss": 0.001, + "num_input_tokens_seen": 28806088, + "step": 14712 + }, + { + "epoch": 1.9500331345261763, + "grad_norm": 2.0855164527893066, + "learning_rate": 1.3660290964126527e-06, + "loss": 0.0348, + "num_input_tokens_seen": 28808120, + "step": 14713 + }, + { + "epoch": 1.9501656726308814, + "grad_norm": 6.318480491638184, + "learning_rate": 1.3657197346490463e-06, + "loss": 0.1104, + "num_input_tokens_seen": 28810040, + "step": 14714 + }, + { + "epoch": 1.9502982107355864, + "grad_norm": 0.8638790249824524, + "learning_rate": 1.3654103947551473e-06, + "loss": 0.0056, + "num_input_tokens_seen": 28811488, + "step": 14715 + }, + { + "epoch": 1.9504307488402914, + "grad_norm": 0.014980366453528404, + "learning_rate": 1.3651010767369178e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28813856, + "step": 14716 + }, + { + "epoch": 1.9505632869449967, + "grad_norm": 7.972902297973633, + "learning_rate": 1.364791780600323e-06, + "loss": 0.2391, + "num_input_tokens_seen": 28815328, + "step": 14717 + }, + { + "epoch": 1.9506958250497017, + "grad_norm": 1.5050245523452759, + "learning_rate": 1.3644825063513259e-06, + "loss": 0.0154, + "num_input_tokens_seen": 28817680, + "step": 14718 + }, + { + "epoch": 1.950828363154407, + "grad_norm": 7.361939907073975, + "learning_rate": 1.3641732539958895e-06, + "loss": 0.1417, + "num_input_tokens_seen": 28821288, + "step": 14719 + }, + { + "epoch": 1.950960901259112, + "grad_norm": 7.258730888366699, + "learning_rate": 1.3638640235399753e-06, + "loss": 0.1803, + "num_input_tokens_seen": 28822944, + "step": 14720 + }, + { + "epoch": 1.951093439363817, + "grad_norm": 11.681361198425293, + "learning_rate": 1.3635548149895475e-06, + "loss": 0.1543, + "num_input_tokens_seen": 28825040, + "step": 14721 + }, + { + "epoch": 1.951225977468522, + "grad_norm": 11.65433406829834, + "learning_rate": 1.3632456283505658e-06, + "loss": 0.0755, + "num_input_tokens_seen": 28826760, + "step": 14722 + }, + { + "epoch": 1.9513585155732271, + "grad_norm": 11.703380584716797, + "learning_rate": 1.3629364636289939e-06, + "loss": 0.3211, + "num_input_tokens_seen": 28828416, + "step": 14723 + }, + { + "epoch": 1.9514910536779324, + "grad_norm": 7.617846965789795, + "learning_rate": 1.3626273208307912e-06, + "loss": 0.1217, + "num_input_tokens_seen": 28830176, + "step": 14724 + }, + { + "epoch": 1.9516235917826377, + "grad_norm": 0.021498100832104683, + "learning_rate": 1.3623181999619185e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28831640, + "step": 14725 + }, + { + "epoch": 1.9517561298873427, + "grad_norm": 0.011297020129859447, + "learning_rate": 1.3620091010283342e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28832944, + "step": 14726 + }, + { + "epoch": 1.9518886679920477, + "grad_norm": 0.020409978926181793, + "learning_rate": 1.361700024036e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28834448, + "step": 14727 + }, + { + "epoch": 1.9520212060967528, + "grad_norm": 12.548238754272461, + "learning_rate": 1.3613909689908755e-06, + "loss": 0.1465, + "num_input_tokens_seen": 28836440, + "step": 14728 + }, + { + "epoch": 1.9521537442014578, + "grad_norm": 3.1456000804901123, + "learning_rate": 1.3610819358989186e-06, + "loss": 0.0533, + "num_input_tokens_seen": 28838608, + "step": 14729 + }, + { + "epoch": 1.9522862823061629, + "grad_norm": 8.6223783493042, + "learning_rate": 1.3607729247660877e-06, + "loss": 0.0548, + "num_input_tokens_seen": 28839856, + "step": 14730 + }, + { + "epoch": 1.9524188204108681, + "grad_norm": 5.883285999298096, + "learning_rate": 1.3604639355983395e-06, + "loss": 0.0986, + "num_input_tokens_seen": 28841472, + "step": 14731 + }, + { + "epoch": 1.9525513585155734, + "grad_norm": 3.47570538520813, + "learning_rate": 1.3601549684016332e-06, + "loss": 0.0196, + "num_input_tokens_seen": 28842608, + "step": 14732 + }, + { + "epoch": 1.9526838966202784, + "grad_norm": 0.17962372303009033, + "learning_rate": 1.359846023181926e-06, + "loss": 0.0013, + "num_input_tokens_seen": 28845312, + "step": 14733 + }, + { + "epoch": 1.9528164347249835, + "grad_norm": 9.276968955993652, + "learning_rate": 1.3595370999451745e-06, + "loss": 0.0722, + "num_input_tokens_seen": 28847736, + "step": 14734 + }, + { + "epoch": 1.9529489728296885, + "grad_norm": 6.3852219581604, + "learning_rate": 1.3592281986973343e-06, + "loss": 0.1305, + "num_input_tokens_seen": 28849720, + "step": 14735 + }, + { + "epoch": 1.9530815109343935, + "grad_norm": 1.415165662765503, + "learning_rate": 1.3589193194443612e-06, + "loss": 0.0125, + "num_input_tokens_seen": 28851184, + "step": 14736 + }, + { + "epoch": 1.9532140490390988, + "grad_norm": 3.0497210025787354, + "learning_rate": 1.35861046219221e-06, + "loss": 0.0207, + "num_input_tokens_seen": 28852312, + "step": 14737 + }, + { + "epoch": 1.9533465871438038, + "grad_norm": 5.9520087242126465, + "learning_rate": 1.3583016269468362e-06, + "loss": 0.0929, + "num_input_tokens_seen": 28854000, + "step": 14738 + }, + { + "epoch": 1.953479125248509, + "grad_norm": 0.1340920776128769, + "learning_rate": 1.3579928137141962e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28856472, + "step": 14739 + }, + { + "epoch": 1.9536116633532141, + "grad_norm": 2.7222604751586914, + "learning_rate": 1.357684022500242e-06, + "loss": 0.0634, + "num_input_tokens_seen": 28858360, + "step": 14740 + }, + { + "epoch": 1.9537442014579192, + "grad_norm": 13.631305694580078, + "learning_rate": 1.3573752533109283e-06, + "loss": 0.2023, + "num_input_tokens_seen": 28860544, + "step": 14741 + }, + { + "epoch": 1.9538767395626242, + "grad_norm": 0.012690866366028786, + "learning_rate": 1.3570665061522067e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28862008, + "step": 14742 + }, + { + "epoch": 1.9540092776673292, + "grad_norm": 1.4957959651947021, + "learning_rate": 1.3567577810300325e-06, + "loss": 0.0172, + "num_input_tokens_seen": 28863200, + "step": 14743 + }, + { + "epoch": 1.9541418157720345, + "grad_norm": 5.015166282653809, + "learning_rate": 1.3564490779503558e-06, + "loss": 0.1212, + "num_input_tokens_seen": 28864504, + "step": 14744 + }, + { + "epoch": 1.9542743538767395, + "grad_norm": 9.7816801071167, + "learning_rate": 1.3561403969191311e-06, + "loss": 0.1368, + "num_input_tokens_seen": 28866632, + "step": 14745 + }, + { + "epoch": 1.9544068919814448, + "grad_norm": 14.755289077758789, + "learning_rate": 1.3558317379423083e-06, + "loss": 0.0704, + "num_input_tokens_seen": 28868200, + "step": 14746 + }, + { + "epoch": 1.9545394300861498, + "grad_norm": 0.02982102334499359, + "learning_rate": 1.355523101025839e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28870272, + "step": 14747 + }, + { + "epoch": 1.9546719681908549, + "grad_norm": 0.2428574562072754, + "learning_rate": 1.355214486175673e-06, + "loss": 0.0014, + "num_input_tokens_seen": 28871696, + "step": 14748 + }, + { + "epoch": 1.95480450629556, + "grad_norm": 6.164900302886963, + "learning_rate": 1.3549058933977625e-06, + "loss": 0.2072, + "num_input_tokens_seen": 28873736, + "step": 14749 + }, + { + "epoch": 1.954937044400265, + "grad_norm": 5.2071075439453125, + "learning_rate": 1.3545973226980553e-06, + "loss": 0.0374, + "num_input_tokens_seen": 28875728, + "step": 14750 + }, + { + "epoch": 1.9550695825049702, + "grad_norm": 0.033458635210990906, + "learning_rate": 1.3542887740825025e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28877208, + "step": 14751 + }, + { + "epoch": 1.9552021206096752, + "grad_norm": 7.464413642883301, + "learning_rate": 1.353980247557053e-06, + "loss": 0.1056, + "num_input_tokens_seen": 28878968, + "step": 14752 + }, + { + "epoch": 1.9553346587143805, + "grad_norm": 0.07793564349412918, + "learning_rate": 1.3536717431276535e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28880576, + "step": 14753 + }, + { + "epoch": 1.9554671968190855, + "grad_norm": 8.440590858459473, + "learning_rate": 1.353363260800255e-06, + "loss": 0.1812, + "num_input_tokens_seen": 28882184, + "step": 14754 + }, + { + "epoch": 1.9555997349237906, + "grad_norm": 6.732773780822754, + "learning_rate": 1.3530548005808026e-06, + "loss": 0.0935, + "num_input_tokens_seen": 28883616, + "step": 14755 + }, + { + "epoch": 1.9557322730284956, + "grad_norm": 18.820287704467773, + "learning_rate": 1.352746362475246e-06, + "loss": 0.3558, + "num_input_tokens_seen": 28886080, + "step": 14756 + }, + { + "epoch": 1.9558648111332007, + "grad_norm": 5.306849002838135, + "learning_rate": 1.352437946489531e-06, + "loss": 0.118, + "num_input_tokens_seen": 28887760, + "step": 14757 + }, + { + "epoch": 1.955997349237906, + "grad_norm": 3.3443362712860107, + "learning_rate": 1.352129552629603e-06, + "loss": 0.0818, + "num_input_tokens_seen": 28889480, + "step": 14758 + }, + { + "epoch": 1.956129887342611, + "grad_norm": 3.163560628890991, + "learning_rate": 1.3518211809014098e-06, + "loss": 0.0115, + "num_input_tokens_seen": 28892896, + "step": 14759 + }, + { + "epoch": 1.9562624254473162, + "grad_norm": 2.148686408996582, + "learning_rate": 1.3515128313108966e-06, + "loss": 0.0085, + "num_input_tokens_seen": 28895552, + "step": 14760 + }, + { + "epoch": 1.9563949635520212, + "grad_norm": 1.6802475452423096, + "learning_rate": 1.3512045038640075e-06, + "loss": 0.0133, + "num_input_tokens_seen": 28897432, + "step": 14761 + }, + { + "epoch": 1.9565275016567263, + "grad_norm": 5.437595844268799, + "learning_rate": 1.350896198566689e-06, + "loss": 0.0432, + "num_input_tokens_seen": 28899544, + "step": 14762 + }, + { + "epoch": 1.9566600397614313, + "grad_norm": 2.3035781383514404, + "learning_rate": 1.3505879154248835e-06, + "loss": 0.0299, + "num_input_tokens_seen": 28900832, + "step": 14763 + }, + { + "epoch": 1.9567925778661364, + "grad_norm": 7.638674259185791, + "learning_rate": 1.3502796544445368e-06, + "loss": 0.1946, + "num_input_tokens_seen": 28902944, + "step": 14764 + }, + { + "epoch": 1.9569251159708416, + "grad_norm": 7.515084743499756, + "learning_rate": 1.3499714156315916e-06, + "loss": 0.1615, + "num_input_tokens_seen": 28904680, + "step": 14765 + }, + { + "epoch": 1.9570576540755469, + "grad_norm": 0.0420452281832695, + "learning_rate": 1.3496631989919907e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28906528, + "step": 14766 + }, + { + "epoch": 1.957190192180252, + "grad_norm": 8.105485916137695, + "learning_rate": 1.3493550045316762e-06, + "loss": 0.1913, + "num_input_tokens_seen": 28908128, + "step": 14767 + }, + { + "epoch": 1.957322730284957, + "grad_norm": 8.300603866577148, + "learning_rate": 1.3490468322565908e-06, + "loss": 0.2639, + "num_input_tokens_seen": 28910664, + "step": 14768 + }, + { + "epoch": 1.957455268389662, + "grad_norm": 2.736945390701294, + "learning_rate": 1.3487386821726774e-06, + "loss": 0.0196, + "num_input_tokens_seen": 28912144, + "step": 14769 + }, + { + "epoch": 1.957587806494367, + "grad_norm": 3.5149857997894287, + "learning_rate": 1.3484305542858768e-06, + "loss": 0.0309, + "num_input_tokens_seen": 28913920, + "step": 14770 + }, + { + "epoch": 1.957720344599072, + "grad_norm": 7.921489715576172, + "learning_rate": 1.348122448602129e-06, + "loss": 0.0791, + "num_input_tokens_seen": 28915960, + "step": 14771 + }, + { + "epoch": 1.9578528827037773, + "grad_norm": 0.1012229174375534, + "learning_rate": 1.3478143651273757e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28917984, + "step": 14772 + }, + { + "epoch": 1.9579854208084826, + "grad_norm": 0.15451732277870178, + "learning_rate": 1.3475063038675546e-06, + "loss": 0.001, + "num_input_tokens_seen": 28921048, + "step": 14773 + }, + { + "epoch": 1.9581179589131876, + "grad_norm": 0.0649258941411972, + "learning_rate": 1.3471982648286075e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28922800, + "step": 14774 + }, + { + "epoch": 1.9582504970178927, + "grad_norm": 0.14012020826339722, + "learning_rate": 1.346890248016474e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28924640, + "step": 14775 + }, + { + "epoch": 1.9583830351225977, + "grad_norm": 0.11704191565513611, + "learning_rate": 1.3465822534370921e-06, + "loss": 0.002, + "num_input_tokens_seen": 28925744, + "step": 14776 + }, + { + "epoch": 1.9585155732273027, + "grad_norm": 4.9457292556762695, + "learning_rate": 1.3462742810963997e-06, + "loss": 0.062, + "num_input_tokens_seen": 28927888, + "step": 14777 + }, + { + "epoch": 1.958648111332008, + "grad_norm": 0.006525153294205666, + "learning_rate": 1.345966331000335e-06, + "loss": 0.0, + "num_input_tokens_seen": 28929232, + "step": 14778 + }, + { + "epoch": 1.958780649436713, + "grad_norm": 9.499655723571777, + "learning_rate": 1.3456584031548354e-06, + "loss": 0.1507, + "num_input_tokens_seen": 28931536, + "step": 14779 + }, + { + "epoch": 1.9589131875414183, + "grad_norm": 1.9727414846420288, + "learning_rate": 1.3453504975658375e-06, + "loss": 0.0067, + "num_input_tokens_seen": 28932968, + "step": 14780 + }, + { + "epoch": 1.9590457256461233, + "grad_norm": 5.839777946472168, + "learning_rate": 1.3450426142392796e-06, + "loss": 0.0223, + "num_input_tokens_seen": 28935296, + "step": 14781 + }, + { + "epoch": 1.9591782637508284, + "grad_norm": 0.09975003451108932, + "learning_rate": 1.3447347531810967e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28938112, + "step": 14782 + }, + { + "epoch": 1.9593108018555334, + "grad_norm": 5.660719871520996, + "learning_rate": 1.344426914397225e-06, + "loss": 0.1118, + "num_input_tokens_seen": 28940288, + "step": 14783 + }, + { + "epoch": 1.9594433399602385, + "grad_norm": 0.7562618255615234, + "learning_rate": 1.3441190978935987e-06, + "loss": 0.0064, + "num_input_tokens_seen": 28941848, + "step": 14784 + }, + { + "epoch": 1.9595758780649437, + "grad_norm": 5.044239521026611, + "learning_rate": 1.3438113036761536e-06, + "loss": 0.0834, + "num_input_tokens_seen": 28943928, + "step": 14785 + }, + { + "epoch": 1.9597084161696487, + "grad_norm": 5.52391242980957, + "learning_rate": 1.343503531750825e-06, + "loss": 0.0968, + "num_input_tokens_seen": 28945944, + "step": 14786 + }, + { + "epoch": 1.959840954274354, + "grad_norm": 0.2941533923149109, + "learning_rate": 1.3431957821235457e-06, + "loss": 0.0012, + "num_input_tokens_seen": 28948536, + "step": 14787 + }, + { + "epoch": 1.959973492379059, + "grad_norm": 16.821487426757812, + "learning_rate": 1.3428880548002504e-06, + "loss": 0.3574, + "num_input_tokens_seen": 28950568, + "step": 14788 + }, + { + "epoch": 1.960106030483764, + "grad_norm": 17.752267837524414, + "learning_rate": 1.3425803497868706e-06, + "loss": 0.2871, + "num_input_tokens_seen": 28953712, + "step": 14789 + }, + { + "epoch": 1.9602385685884691, + "grad_norm": 12.329522132873535, + "learning_rate": 1.342272667089341e-06, + "loss": 0.3062, + "num_input_tokens_seen": 28956760, + "step": 14790 + }, + { + "epoch": 1.9603711066931742, + "grad_norm": 3.807431697845459, + "learning_rate": 1.341965006713592e-06, + "loss": 0.0854, + "num_input_tokens_seen": 28958576, + "step": 14791 + }, + { + "epoch": 1.9605036447978794, + "grad_norm": 9.05179500579834, + "learning_rate": 1.3416573686655576e-06, + "loss": 0.2176, + "num_input_tokens_seen": 28959904, + "step": 14792 + }, + { + "epoch": 1.9606361829025845, + "grad_norm": 7.315910339355469, + "learning_rate": 1.3413497529511683e-06, + "loss": 0.0312, + "num_input_tokens_seen": 28960888, + "step": 14793 + }, + { + "epoch": 1.9607687210072897, + "grad_norm": 11.204451560974121, + "learning_rate": 1.341042159576354e-06, + "loss": 0.2346, + "num_input_tokens_seen": 28962776, + "step": 14794 + }, + { + "epoch": 1.9609012591119948, + "grad_norm": 0.03700202703475952, + "learning_rate": 1.3407345885470472e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28964880, + "step": 14795 + }, + { + "epoch": 1.9610337972166998, + "grad_norm": 9.792357444763184, + "learning_rate": 1.3404270398691774e-06, + "loss": 0.1411, + "num_input_tokens_seen": 28966656, + "step": 14796 + }, + { + "epoch": 1.9611663353214048, + "grad_norm": 0.025123370811343193, + "learning_rate": 1.3401195135486733e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28968184, + "step": 14797 + }, + { + "epoch": 1.9612988734261099, + "grad_norm": 19.056276321411133, + "learning_rate": 1.3398120095914663e-06, + "loss": 0.3234, + "num_input_tokens_seen": 28969728, + "step": 14798 + }, + { + "epoch": 1.9614314115308151, + "grad_norm": 6.127427101135254, + "learning_rate": 1.339504528003483e-06, + "loss": 0.0672, + "num_input_tokens_seen": 28972272, + "step": 14799 + }, + { + "epoch": 1.9615639496355202, + "grad_norm": 3.6329784393310547, + "learning_rate": 1.3391970687906536e-06, + "loss": 0.0301, + "num_input_tokens_seen": 28974416, + "step": 14800 + }, + { + "epoch": 1.9616964877402254, + "grad_norm": 13.48880386352539, + "learning_rate": 1.3388896319589059e-06, + "loss": 0.3449, + "num_input_tokens_seen": 28976384, + "step": 14801 + }, + { + "epoch": 1.9618290258449305, + "grad_norm": 2.9296669960021973, + "learning_rate": 1.3385822175141672e-06, + "loss": 0.0217, + "num_input_tokens_seen": 28978552, + "step": 14802 + }, + { + "epoch": 1.9619615639496355, + "grad_norm": 11.347014427185059, + "learning_rate": 1.3382748254623633e-06, + "loss": 0.2705, + "num_input_tokens_seen": 28980192, + "step": 14803 + }, + { + "epoch": 1.9620941020543405, + "grad_norm": 15.219050407409668, + "learning_rate": 1.3379674558094233e-06, + "loss": 0.2193, + "num_input_tokens_seen": 28982120, + "step": 14804 + }, + { + "epoch": 1.9622266401590456, + "grad_norm": 0.1350218802690506, + "learning_rate": 1.3376601085612712e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28984304, + "step": 14805 + }, + { + "epoch": 1.9623591782637508, + "grad_norm": 7.657247543334961, + "learning_rate": 1.3373527837238354e-06, + "loss": 0.0721, + "num_input_tokens_seen": 28985760, + "step": 14806 + }, + { + "epoch": 1.962491716368456, + "grad_norm": 1.1194578409194946, + "learning_rate": 1.3370454813030398e-06, + "loss": 0.0041, + "num_input_tokens_seen": 28987376, + "step": 14807 + }, + { + "epoch": 1.9626242544731611, + "grad_norm": 9.307700157165527, + "learning_rate": 1.3367382013048086e-06, + "loss": 0.3009, + "num_input_tokens_seen": 28989408, + "step": 14808 + }, + { + "epoch": 1.9627567925778662, + "grad_norm": 1.810801386833191, + "learning_rate": 1.3364309437350687e-06, + "loss": 0.0038, + "num_input_tokens_seen": 28990928, + "step": 14809 + }, + { + "epoch": 1.9628893306825712, + "grad_norm": 9.638711929321289, + "learning_rate": 1.3361237085997413e-06, + "loss": 0.0461, + "num_input_tokens_seen": 28993784, + "step": 14810 + }, + { + "epoch": 1.9630218687872762, + "grad_norm": 8.024345397949219, + "learning_rate": 1.3358164959047532e-06, + "loss": 0.2054, + "num_input_tokens_seen": 28996848, + "step": 14811 + }, + { + "epoch": 1.9631544068919813, + "grad_norm": 7.8461432456970215, + "learning_rate": 1.3355093056560261e-06, + "loss": 0.228, + "num_input_tokens_seen": 28998736, + "step": 14812 + }, + { + "epoch": 1.9632869449966865, + "grad_norm": 4.576639175415039, + "learning_rate": 1.3352021378594828e-06, + "loss": 0.0702, + "num_input_tokens_seen": 29001328, + "step": 14813 + }, + { + "epoch": 1.9634194831013918, + "grad_norm": 7.119454860687256, + "learning_rate": 1.334894992521045e-06, + "loss": 0.1664, + "num_input_tokens_seen": 29003232, + "step": 14814 + }, + { + "epoch": 1.9635520212060968, + "grad_norm": 11.186477661132812, + "learning_rate": 1.3345878696466352e-06, + "loss": 0.2555, + "num_input_tokens_seen": 29006120, + "step": 14815 + }, + { + "epoch": 1.9636845593108019, + "grad_norm": 0.7726321220397949, + "learning_rate": 1.3342807692421766e-06, + "loss": 0.0082, + "num_input_tokens_seen": 29008304, + "step": 14816 + }, + { + "epoch": 1.963817097415507, + "grad_norm": 0.3907501697540283, + "learning_rate": 1.333973691313589e-06, + "loss": 0.0019, + "num_input_tokens_seen": 29010816, + "step": 14817 + }, + { + "epoch": 1.963949635520212, + "grad_norm": 0.6814530491828918, + "learning_rate": 1.3336666358667928e-06, + "loss": 0.003, + "num_input_tokens_seen": 29012416, + "step": 14818 + }, + { + "epoch": 1.9640821736249172, + "grad_norm": 4.373108386993408, + "learning_rate": 1.3333596029077085e-06, + "loss": 0.0409, + "num_input_tokens_seen": 29013872, + "step": 14819 + }, + { + "epoch": 1.9642147117296223, + "grad_norm": 13.989361763000488, + "learning_rate": 1.333052592442255e-06, + "loss": 0.2727, + "num_input_tokens_seen": 29015744, + "step": 14820 + }, + { + "epoch": 1.9643472498343275, + "grad_norm": 10.115144729614258, + "learning_rate": 1.3327456044763525e-06, + "loss": 0.1478, + "num_input_tokens_seen": 29017968, + "step": 14821 + }, + { + "epoch": 1.9644797879390326, + "grad_norm": 3.979059934616089, + "learning_rate": 1.3324386390159209e-06, + "loss": 0.0426, + "num_input_tokens_seen": 29019912, + "step": 14822 + }, + { + "epoch": 1.9646123260437376, + "grad_norm": 1.4778681993484497, + "learning_rate": 1.3321316960668778e-06, + "loss": 0.0071, + "num_input_tokens_seen": 29021576, + "step": 14823 + }, + { + "epoch": 1.9647448641484426, + "grad_norm": 0.6960933208465576, + "learning_rate": 1.3318247756351414e-06, + "loss": 0.0095, + "num_input_tokens_seen": 29025288, + "step": 14824 + }, + { + "epoch": 1.9648774022531477, + "grad_norm": 3.7301688194274902, + "learning_rate": 1.331517877726628e-06, + "loss": 0.032, + "num_input_tokens_seen": 29027112, + "step": 14825 + }, + { + "epoch": 1.965009940357853, + "grad_norm": 10.736807823181152, + "learning_rate": 1.3312110023472572e-06, + "loss": 0.2991, + "num_input_tokens_seen": 29029048, + "step": 14826 + }, + { + "epoch": 1.965142478462558, + "grad_norm": 12.247562408447266, + "learning_rate": 1.3309041495029435e-06, + "loss": 0.1796, + "num_input_tokens_seen": 29031320, + "step": 14827 + }, + { + "epoch": 1.9652750165672632, + "grad_norm": 7.985411643981934, + "learning_rate": 1.3305973191996051e-06, + "loss": 0.0956, + "num_input_tokens_seen": 29033432, + "step": 14828 + }, + { + "epoch": 1.9654075546719683, + "grad_norm": 6.477376461029053, + "learning_rate": 1.3302905114431575e-06, + "loss": 0.1322, + "num_input_tokens_seen": 29034968, + "step": 14829 + }, + { + "epoch": 1.9655400927766733, + "grad_norm": 6.349009037017822, + "learning_rate": 1.3299837262395149e-06, + "loss": 0.1587, + "num_input_tokens_seen": 29037440, + "step": 14830 + }, + { + "epoch": 1.9656726308813783, + "grad_norm": 2.4001638889312744, + "learning_rate": 1.3296769635945938e-06, + "loss": 0.0535, + "num_input_tokens_seen": 29038912, + "step": 14831 + }, + { + "epoch": 1.9658051689860834, + "grad_norm": 0.303119421005249, + "learning_rate": 1.3293702235143085e-06, + "loss": 0.0032, + "num_input_tokens_seen": 29040984, + "step": 14832 + }, + { + "epoch": 1.9659377070907886, + "grad_norm": 9.171063423156738, + "learning_rate": 1.3290635060045715e-06, + "loss": 0.188, + "num_input_tokens_seen": 29043144, + "step": 14833 + }, + { + "epoch": 1.9660702451954937, + "grad_norm": 7.708461284637451, + "learning_rate": 1.3287568110712992e-06, + "loss": 0.0982, + "num_input_tokens_seen": 29044872, + "step": 14834 + }, + { + "epoch": 1.966202783300199, + "grad_norm": 0.05881329998373985, + "learning_rate": 1.3284501387204035e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29046184, + "step": 14835 + }, + { + "epoch": 1.966335321404904, + "grad_norm": 8.188450813293457, + "learning_rate": 1.3281434889577965e-06, + "loss": 0.0541, + "num_input_tokens_seen": 29047728, + "step": 14836 + }, + { + "epoch": 1.966467859509609, + "grad_norm": 3.0618462562561035, + "learning_rate": 1.3278368617893921e-06, + "loss": 0.0167, + "num_input_tokens_seen": 29050424, + "step": 14837 + }, + { + "epoch": 1.966600397614314, + "grad_norm": 7.491856575012207, + "learning_rate": 1.3275302572211008e-06, + "loss": 0.2012, + "num_input_tokens_seen": 29053792, + "step": 14838 + }, + { + "epoch": 1.966732935719019, + "grad_norm": 4.789963722229004, + "learning_rate": 1.327223675258836e-06, + "loss": 0.0283, + "num_input_tokens_seen": 29055400, + "step": 14839 + }, + { + "epoch": 1.9668654738237243, + "grad_norm": 6.070686340332031, + "learning_rate": 1.326917115908508e-06, + "loss": 0.1422, + "num_input_tokens_seen": 29057416, + "step": 14840 + }, + { + "epoch": 1.9669980119284294, + "grad_norm": 7.813318252563477, + "learning_rate": 1.3266105791760258e-06, + "loss": 0.105, + "num_input_tokens_seen": 29059456, + "step": 14841 + }, + { + "epoch": 1.9671305500331346, + "grad_norm": 9.205842018127441, + "learning_rate": 1.3263040650673026e-06, + "loss": 0.1905, + "num_input_tokens_seen": 29061224, + "step": 14842 + }, + { + "epoch": 1.9672630881378397, + "grad_norm": 0.06410596519708633, + "learning_rate": 1.3259975735882462e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29063216, + "step": 14843 + }, + { + "epoch": 1.9673956262425447, + "grad_norm": 0.04958916828036308, + "learning_rate": 1.3256911047447662e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29065608, + "step": 14844 + }, + { + "epoch": 1.9675281643472498, + "grad_norm": 1.9039580821990967, + "learning_rate": 1.3253846585427724e-06, + "loss": 0.0269, + "num_input_tokens_seen": 29068024, + "step": 14845 + }, + { + "epoch": 1.9676607024519548, + "grad_norm": 7.274997711181641, + "learning_rate": 1.3250782349881716e-06, + "loss": 0.103, + "num_input_tokens_seen": 29070232, + "step": 14846 + }, + { + "epoch": 1.96779324055666, + "grad_norm": 0.006930314935743809, + "learning_rate": 1.3247718340868744e-06, + "loss": 0.0, + "num_input_tokens_seen": 29071296, + "step": 14847 + }, + { + "epoch": 1.967925778661365, + "grad_norm": 5.472148418426514, + "learning_rate": 1.3244654558447863e-06, + "loss": 0.054, + "num_input_tokens_seen": 29073296, + "step": 14848 + }, + { + "epoch": 1.9680583167660703, + "grad_norm": 8.862009048461914, + "learning_rate": 1.3241591002678155e-06, + "loss": 0.2247, + "num_input_tokens_seen": 29075688, + "step": 14849 + }, + { + "epoch": 1.9681908548707754, + "grad_norm": 0.2510817050933838, + "learning_rate": 1.3238527673618675e-06, + "loss": 0.0015, + "num_input_tokens_seen": 29077016, + "step": 14850 + }, + { + "epoch": 1.9683233929754804, + "grad_norm": 10.646903991699219, + "learning_rate": 1.3235464571328497e-06, + "loss": 0.1412, + "num_input_tokens_seen": 29078744, + "step": 14851 + }, + { + "epoch": 1.9684559310801855, + "grad_norm": 12.21786880493164, + "learning_rate": 1.3232401695866686e-06, + "loss": 0.1384, + "num_input_tokens_seen": 29081712, + "step": 14852 + }, + { + "epoch": 1.9685884691848905, + "grad_norm": 3.819003105163574, + "learning_rate": 1.322933904729229e-06, + "loss": 0.0447, + "num_input_tokens_seen": 29084032, + "step": 14853 + }, + { + "epoch": 1.9687210072895958, + "grad_norm": 4.5528717041015625, + "learning_rate": 1.3226276625664353e-06, + "loss": 0.089, + "num_input_tokens_seen": 29085648, + "step": 14854 + }, + { + "epoch": 1.968853545394301, + "grad_norm": 5.275665760040283, + "learning_rate": 1.3223214431041929e-06, + "loss": 0.0181, + "num_input_tokens_seen": 29087120, + "step": 14855 + }, + { + "epoch": 1.968986083499006, + "grad_norm": 10.391576766967773, + "learning_rate": 1.3220152463484042e-06, + "loss": 0.1076, + "num_input_tokens_seen": 29088736, + "step": 14856 + }, + { + "epoch": 1.969118621603711, + "grad_norm": 0.052978191524744034, + "learning_rate": 1.3217090723049745e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29091064, + "step": 14857 + }, + { + "epoch": 1.9692511597084161, + "grad_norm": 3.019630193710327, + "learning_rate": 1.3214029209798074e-06, + "loss": 0.0401, + "num_input_tokens_seen": 29093032, + "step": 14858 + }, + { + "epoch": 1.9693836978131212, + "grad_norm": 2.8398525714874268, + "learning_rate": 1.3210967923788054e-06, + "loss": 0.0994, + "num_input_tokens_seen": 29094688, + "step": 14859 + }, + { + "epoch": 1.9695162359178264, + "grad_norm": 15.511089324951172, + "learning_rate": 1.3207906865078704e-06, + "loss": 0.2524, + "num_input_tokens_seen": 29096784, + "step": 14860 + }, + { + "epoch": 1.9696487740225315, + "grad_norm": 0.3232240676879883, + "learning_rate": 1.3204846033729036e-06, + "loss": 0.0024, + "num_input_tokens_seen": 29098552, + "step": 14861 + }, + { + "epoch": 1.9697813121272367, + "grad_norm": 6.295639514923096, + "learning_rate": 1.320178542979807e-06, + "loss": 0.0469, + "num_input_tokens_seen": 29101168, + "step": 14862 + }, + { + "epoch": 1.9699138502319418, + "grad_norm": 4.049402713775635, + "learning_rate": 1.3198725053344833e-06, + "loss": 0.0713, + "num_input_tokens_seen": 29103640, + "step": 14863 + }, + { + "epoch": 1.9700463883366468, + "grad_norm": 8.442045211791992, + "learning_rate": 1.3195664904428318e-06, + "loss": 0.0896, + "num_input_tokens_seen": 29104888, + "step": 14864 + }, + { + "epoch": 1.9701789264413518, + "grad_norm": 6.76145076751709, + "learning_rate": 1.3192604983107525e-06, + "loss": 0.1174, + "num_input_tokens_seen": 29106536, + "step": 14865 + }, + { + "epoch": 1.9703114645460569, + "grad_norm": 0.0621190145611763, + "learning_rate": 1.3189545289441457e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29108056, + "step": 14866 + }, + { + "epoch": 1.9704440026507621, + "grad_norm": 0.18670029938220978, + "learning_rate": 1.318648582348909e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29109832, + "step": 14867 + }, + { + "epoch": 1.9705765407554672, + "grad_norm": 9.867266654968262, + "learning_rate": 1.3183426585309428e-06, + "loss": 0.1914, + "num_input_tokens_seen": 29111520, + "step": 14868 + }, + { + "epoch": 1.9707090788601724, + "grad_norm": 3.6712915897369385, + "learning_rate": 1.3180367574961461e-06, + "loss": 0.0461, + "num_input_tokens_seen": 29113688, + "step": 14869 + }, + { + "epoch": 1.9708416169648775, + "grad_norm": 8.011804580688477, + "learning_rate": 1.3177308792504164e-06, + "loss": 0.1234, + "num_input_tokens_seen": 29116272, + "step": 14870 + }, + { + "epoch": 1.9709741550695825, + "grad_norm": 9.179527282714844, + "learning_rate": 1.3174250237996509e-06, + "loss": 0.3132, + "num_input_tokens_seen": 29118408, + "step": 14871 + }, + { + "epoch": 1.9711066931742875, + "grad_norm": 12.198481559753418, + "learning_rate": 1.3171191911497456e-06, + "loss": 0.3657, + "num_input_tokens_seen": 29120560, + "step": 14872 + }, + { + "epoch": 1.9712392312789926, + "grad_norm": 7.397515296936035, + "learning_rate": 1.3168133813065994e-06, + "loss": 0.1178, + "num_input_tokens_seen": 29122136, + "step": 14873 + }, + { + "epoch": 1.9713717693836978, + "grad_norm": 6.7663254737854, + "learning_rate": 1.3165075942761065e-06, + "loss": 0.1387, + "num_input_tokens_seen": 29124096, + "step": 14874 + }, + { + "epoch": 1.9715043074884029, + "grad_norm": 7.305816650390625, + "learning_rate": 1.3162018300641647e-06, + "loss": 0.162, + "num_input_tokens_seen": 29126896, + "step": 14875 + }, + { + "epoch": 1.9716368455931081, + "grad_norm": 0.1084723025560379, + "learning_rate": 1.3158960886766681e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29129072, + "step": 14876 + }, + { + "epoch": 1.9717693836978132, + "grad_norm": 0.490786075592041, + "learning_rate": 1.3155903701195108e-06, + "loss": 0.0028, + "num_input_tokens_seen": 29130328, + "step": 14877 + }, + { + "epoch": 1.9719019218025182, + "grad_norm": 0.09074121713638306, + "learning_rate": 1.3152846743985892e-06, + "loss": 0.0006, + "num_input_tokens_seen": 29132168, + "step": 14878 + }, + { + "epoch": 1.9720344599072233, + "grad_norm": 4.867978096008301, + "learning_rate": 1.3149790015197967e-06, + "loss": 0.118, + "num_input_tokens_seen": 29134792, + "step": 14879 + }, + { + "epoch": 1.9721669980119283, + "grad_norm": 0.21490608155727386, + "learning_rate": 1.3146733514890252e-06, + "loss": 0.0015, + "num_input_tokens_seen": 29136160, + "step": 14880 + }, + { + "epoch": 1.9722995361166336, + "grad_norm": 1.7828940153121948, + "learning_rate": 1.3143677243121705e-06, + "loss": 0.0064, + "num_input_tokens_seen": 29138280, + "step": 14881 + }, + { + "epoch": 1.9724320742213386, + "grad_norm": 0.07908859103918076, + "learning_rate": 1.3140621199951226e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29139656, + "step": 14882 + }, + { + "epoch": 1.9725646123260439, + "grad_norm": 9.952167510986328, + "learning_rate": 1.3137565385437764e-06, + "loss": 0.2031, + "num_input_tokens_seen": 29141464, + "step": 14883 + }, + { + "epoch": 1.972697150430749, + "grad_norm": 0.9749848246574402, + "learning_rate": 1.3134509799640223e-06, + "loss": 0.0089, + "num_input_tokens_seen": 29143280, + "step": 14884 + }, + { + "epoch": 1.972829688535454, + "grad_norm": 0.8748016357421875, + "learning_rate": 1.3131454442617523e-06, + "loss": 0.0075, + "num_input_tokens_seen": 29144672, + "step": 14885 + }, + { + "epoch": 1.972962226640159, + "grad_norm": 0.11748529970645905, + "learning_rate": 1.3128399314428556e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29147152, + "step": 14886 + }, + { + "epoch": 1.973094764744864, + "grad_norm": 3.612283706665039, + "learning_rate": 1.312534441513224e-06, + "loss": 0.049, + "num_input_tokens_seen": 29149008, + "step": 14887 + }, + { + "epoch": 1.9732273028495693, + "grad_norm": 0.13075599074363708, + "learning_rate": 1.3122289744787487e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29152248, + "step": 14888 + }, + { + "epoch": 1.9733598409542743, + "grad_norm": 10.999829292297363, + "learning_rate": 1.311923530345318e-06, + "loss": 0.1947, + "num_input_tokens_seen": 29153776, + "step": 14889 + }, + { + "epoch": 1.9734923790589796, + "grad_norm": 5.921285152435303, + "learning_rate": 1.3116181091188212e-06, + "loss": 0.1024, + "num_input_tokens_seen": 29155592, + "step": 14890 + }, + { + "epoch": 1.9736249171636846, + "grad_norm": 6.906350612640381, + "learning_rate": 1.3113127108051463e-06, + "loss": 0.1521, + "num_input_tokens_seen": 29157848, + "step": 14891 + }, + { + "epoch": 1.9737574552683896, + "grad_norm": 4.8795037269592285, + "learning_rate": 1.3110073354101832e-06, + "loss": 0.111, + "num_input_tokens_seen": 29159712, + "step": 14892 + }, + { + "epoch": 1.9738899933730947, + "grad_norm": 13.084979057312012, + "learning_rate": 1.3107019829398182e-06, + "loss": 0.2393, + "num_input_tokens_seen": 29161472, + "step": 14893 + }, + { + "epoch": 1.9740225314777997, + "grad_norm": 6.58968448638916, + "learning_rate": 1.3103966533999402e-06, + "loss": 0.0351, + "num_input_tokens_seen": 29162904, + "step": 14894 + }, + { + "epoch": 1.974155069582505, + "grad_norm": 2.4697012901306152, + "learning_rate": 1.3100913467964351e-06, + "loss": 0.0163, + "num_input_tokens_seen": 29164904, + "step": 14895 + }, + { + "epoch": 1.9742876076872102, + "grad_norm": 1.950269341468811, + "learning_rate": 1.30978606313519e-06, + "loss": 0.0211, + "num_input_tokens_seen": 29166832, + "step": 14896 + }, + { + "epoch": 1.9744201457919153, + "grad_norm": 0.040524259209632874, + "learning_rate": 1.3094808024220898e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29168232, + "step": 14897 + }, + { + "epoch": 1.9745526838966203, + "grad_norm": 3.985295057296753, + "learning_rate": 1.3091755646630212e-06, + "loss": 0.0162, + "num_input_tokens_seen": 29171008, + "step": 14898 + }, + { + "epoch": 1.9746852220013253, + "grad_norm": 3.2362852096557617, + "learning_rate": 1.3088703498638696e-06, + "loss": 0.0734, + "num_input_tokens_seen": 29172720, + "step": 14899 + }, + { + "epoch": 1.9748177601060304, + "grad_norm": 5.5034894943237305, + "learning_rate": 1.3085651580305197e-06, + "loss": 0.0695, + "num_input_tokens_seen": 29173792, + "step": 14900 + }, + { + "epoch": 1.9749502982107354, + "grad_norm": 1.1807979345321655, + "learning_rate": 1.3082599891688559e-06, + "loss": 0.0089, + "num_input_tokens_seen": 29174992, + "step": 14901 + }, + { + "epoch": 1.9750828363154407, + "grad_norm": 7.608094692230225, + "learning_rate": 1.307954843284761e-06, + "loss": 0.1127, + "num_input_tokens_seen": 29177336, + "step": 14902 + }, + { + "epoch": 1.975215374420146, + "grad_norm": 0.7388755679130554, + "learning_rate": 1.3076497203841181e-06, + "loss": 0.004, + "num_input_tokens_seen": 29179072, + "step": 14903 + }, + { + "epoch": 1.975347912524851, + "grad_norm": 0.21701079607009888, + "learning_rate": 1.3073446204728115e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29180800, + "step": 14904 + }, + { + "epoch": 1.975480450629556, + "grad_norm": 17.94910430908203, + "learning_rate": 1.3070395435567244e-06, + "loss": 0.1879, + "num_input_tokens_seen": 29183088, + "step": 14905 + }, + { + "epoch": 1.975612988734261, + "grad_norm": 11.324033737182617, + "learning_rate": 1.3067344896417378e-06, + "loss": 0.1777, + "num_input_tokens_seen": 29185368, + "step": 14906 + }, + { + "epoch": 1.975745526838966, + "grad_norm": 8.709357261657715, + "learning_rate": 1.3064294587337332e-06, + "loss": 0.1871, + "num_input_tokens_seen": 29187272, + "step": 14907 + }, + { + "epoch": 1.9758780649436714, + "grad_norm": 7.662909984588623, + "learning_rate": 1.3061244508385913e-06, + "loss": 0.1256, + "num_input_tokens_seen": 29189696, + "step": 14908 + }, + { + "epoch": 1.9760106030483764, + "grad_norm": 6.987009048461914, + "learning_rate": 1.3058194659621943e-06, + "loss": 0.0594, + "num_input_tokens_seen": 29190872, + "step": 14909 + }, + { + "epoch": 1.9761431411530817, + "grad_norm": 0.11000020802021027, + "learning_rate": 1.305514504110421e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29192568, + "step": 14910 + }, + { + "epoch": 1.9762756792577867, + "grad_norm": 2.610076427459717, + "learning_rate": 1.3052095652891534e-06, + "loss": 0.0745, + "num_input_tokens_seen": 29194888, + "step": 14911 + }, + { + "epoch": 1.9764082173624917, + "grad_norm": 6.124466419219971, + "learning_rate": 1.3049046495042692e-06, + "loss": 0.1152, + "num_input_tokens_seen": 29196760, + "step": 14912 + }, + { + "epoch": 1.9765407554671968, + "grad_norm": 5.125068664550781, + "learning_rate": 1.3045997567616469e-06, + "loss": 0.1195, + "num_input_tokens_seen": 29198416, + "step": 14913 + }, + { + "epoch": 1.9766732935719018, + "grad_norm": 4.630000591278076, + "learning_rate": 1.304294887067167e-06, + "loss": 0.0866, + "num_input_tokens_seen": 29200840, + "step": 14914 + }, + { + "epoch": 1.976805831676607, + "grad_norm": 3.579505681991577, + "learning_rate": 1.3039900404267056e-06, + "loss": 0.089, + "num_input_tokens_seen": 29202832, + "step": 14915 + }, + { + "epoch": 1.976938369781312, + "grad_norm": 5.4929938316345215, + "learning_rate": 1.3036852168461421e-06, + "loss": 0.0656, + "num_input_tokens_seen": 29205192, + "step": 14916 + }, + { + "epoch": 1.9770709078860174, + "grad_norm": 1.0215038061141968, + "learning_rate": 1.3033804163313531e-06, + "loss": 0.0107, + "num_input_tokens_seen": 29206824, + "step": 14917 + }, + { + "epoch": 1.9772034459907224, + "grad_norm": 0.11023305356502533, + "learning_rate": 1.3030756388882155e-06, + "loss": 0.0006, + "num_input_tokens_seen": 29208696, + "step": 14918 + }, + { + "epoch": 1.9773359840954274, + "grad_norm": 12.214183807373047, + "learning_rate": 1.302770884522604e-06, + "loss": 0.1962, + "num_input_tokens_seen": 29210240, + "step": 14919 + }, + { + "epoch": 1.9774685222001325, + "grad_norm": 3.282313346862793, + "learning_rate": 1.3024661532403966e-06, + "loss": 0.0581, + "num_input_tokens_seen": 29211904, + "step": 14920 + }, + { + "epoch": 1.9776010603048375, + "grad_norm": 11.025667190551758, + "learning_rate": 1.3021614450474667e-06, + "loss": 0.0229, + "num_input_tokens_seen": 29213560, + "step": 14921 + }, + { + "epoch": 1.9777335984095428, + "grad_norm": 5.648624420166016, + "learning_rate": 1.301856759949692e-06, + "loss": 0.0601, + "num_input_tokens_seen": 29215976, + "step": 14922 + }, + { + "epoch": 1.9778661365142478, + "grad_norm": 2.7478837966918945, + "learning_rate": 1.3015520979529452e-06, + "loss": 0.0413, + "num_input_tokens_seen": 29218344, + "step": 14923 + }, + { + "epoch": 1.977998674618953, + "grad_norm": 0.031490396708250046, + "learning_rate": 1.3012474590631e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29219864, + "step": 14924 + }, + { + "epoch": 1.978131212723658, + "grad_norm": 0.01297858078032732, + "learning_rate": 1.3009428432860316e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29220920, + "step": 14925 + }, + { + "epoch": 1.9782637508283631, + "grad_norm": 5.139960289001465, + "learning_rate": 1.3006382506276124e-06, + "loss": 0.0232, + "num_input_tokens_seen": 29222472, + "step": 14926 + }, + { + "epoch": 1.9783962889330682, + "grad_norm": 2.93013858795166, + "learning_rate": 1.300333681093714e-06, + "loss": 0.0579, + "num_input_tokens_seen": 29224632, + "step": 14927 + }, + { + "epoch": 1.9785288270377732, + "grad_norm": 12.069201469421387, + "learning_rate": 1.300029134690211e-06, + "loss": 0.1486, + "num_input_tokens_seen": 29227104, + "step": 14928 + }, + { + "epoch": 1.9786613651424785, + "grad_norm": 0.27290380001068115, + "learning_rate": 1.2997246114229734e-06, + "loss": 0.0019, + "num_input_tokens_seen": 29228960, + "step": 14929 + }, + { + "epoch": 1.9787939032471835, + "grad_norm": 0.05895405262708664, + "learning_rate": 1.2994201112978738e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29230672, + "step": 14930 + }, + { + "epoch": 1.9789264413518888, + "grad_norm": 11.887923240661621, + "learning_rate": 1.2991156343207828e-06, + "loss": 0.1428, + "num_input_tokens_seen": 29231792, + "step": 14931 + }, + { + "epoch": 1.9790589794565938, + "grad_norm": 2.5906054973602295, + "learning_rate": 1.298811180497571e-06, + "loss": 0.04, + "num_input_tokens_seen": 29234272, + "step": 14932 + }, + { + "epoch": 1.9791915175612989, + "grad_norm": 1.6383649110794067, + "learning_rate": 1.298506749834107e-06, + "loss": 0.0149, + "num_input_tokens_seen": 29236328, + "step": 14933 + }, + { + "epoch": 1.979324055666004, + "grad_norm": 5.924740314483643, + "learning_rate": 1.2982023423362623e-06, + "loss": 0.0668, + "num_input_tokens_seen": 29237912, + "step": 14934 + }, + { + "epoch": 1.979456593770709, + "grad_norm": 9.834704399108887, + "learning_rate": 1.2978979580099057e-06, + "loss": 0.1525, + "num_input_tokens_seen": 29239856, + "step": 14935 + }, + { + "epoch": 1.9795891318754142, + "grad_norm": 0.2781409025192261, + "learning_rate": 1.2975935968609062e-06, + "loss": 0.002, + "num_input_tokens_seen": 29242096, + "step": 14936 + }, + { + "epoch": 1.9797216699801194, + "grad_norm": 6.552262306213379, + "learning_rate": 1.297289258895132e-06, + "loss": 0.1053, + "num_input_tokens_seen": 29244288, + "step": 14937 + }, + { + "epoch": 1.9798542080848245, + "grad_norm": 6.329280376434326, + "learning_rate": 1.2969849441184502e-06, + "loss": 0.0869, + "num_input_tokens_seen": 29245704, + "step": 14938 + }, + { + "epoch": 1.9799867461895295, + "grad_norm": 0.014991187490522861, + "learning_rate": 1.2966806525367272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29247408, + "step": 14939 + }, + { + "epoch": 1.9801192842942346, + "grad_norm": 0.03031809628009796, + "learning_rate": 1.296376384155832e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29249080, + "step": 14940 + }, + { + "epoch": 1.9802518223989396, + "grad_norm": 0.1248452365398407, + "learning_rate": 1.296072138981631e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29251096, + "step": 14941 + }, + { + "epoch": 1.9803843605036446, + "grad_norm": 6.064358711242676, + "learning_rate": 1.29576791701999e-06, + "loss": 0.0806, + "num_input_tokens_seen": 29253056, + "step": 14942 + }, + { + "epoch": 1.98051689860835, + "grad_norm": 1.6882566213607788, + "learning_rate": 1.2954637182767744e-06, + "loss": 0.0132, + "num_input_tokens_seen": 29254328, + "step": 14943 + }, + { + "epoch": 1.9806494367130552, + "grad_norm": 2.212655544281006, + "learning_rate": 1.295159542757848e-06, + "loss": 0.0274, + "num_input_tokens_seen": 29256456, + "step": 14944 + }, + { + "epoch": 1.9807819748177602, + "grad_norm": 15.62509536743164, + "learning_rate": 1.294855390469077e-06, + "loss": 0.2974, + "num_input_tokens_seen": 29258448, + "step": 14945 + }, + { + "epoch": 1.9809145129224652, + "grad_norm": 9.234081268310547, + "learning_rate": 1.2945512614163264e-06, + "loss": 0.2232, + "num_input_tokens_seen": 29260472, + "step": 14946 + }, + { + "epoch": 1.9810470510271703, + "grad_norm": 0.1798482984304428, + "learning_rate": 1.2942471556054592e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29262472, + "step": 14947 + }, + { + "epoch": 1.9811795891318753, + "grad_norm": 0.27187666296958923, + "learning_rate": 1.2939430730423384e-06, + "loss": 0.0018, + "num_input_tokens_seen": 29263880, + "step": 14948 + }, + { + "epoch": 1.9813121272365806, + "grad_norm": 3.7519893646240234, + "learning_rate": 1.2936390137328272e-06, + "loss": 0.0446, + "num_input_tokens_seen": 29265784, + "step": 14949 + }, + { + "epoch": 1.9814446653412856, + "grad_norm": 8.041322708129883, + "learning_rate": 1.293334977682787e-06, + "loss": 0.0829, + "num_input_tokens_seen": 29267456, + "step": 14950 + }, + { + "epoch": 1.9815772034459909, + "grad_norm": 8.203190803527832, + "learning_rate": 1.293030964898081e-06, + "loss": 0.1435, + "num_input_tokens_seen": 29269440, + "step": 14951 + }, + { + "epoch": 1.981709741550696, + "grad_norm": 1.8591647148132324, + "learning_rate": 1.2927269753845716e-06, + "loss": 0.0345, + "num_input_tokens_seen": 29271752, + "step": 14952 + }, + { + "epoch": 1.981842279655401, + "grad_norm": 4.607569217681885, + "learning_rate": 1.292423009148119e-06, + "loss": 0.0684, + "num_input_tokens_seen": 29273344, + "step": 14953 + }, + { + "epoch": 1.981974817760106, + "grad_norm": 11.287821769714355, + "learning_rate": 1.292119066194584e-06, + "loss": 0.2822, + "num_input_tokens_seen": 29276672, + "step": 14954 + }, + { + "epoch": 1.982107355864811, + "grad_norm": 1.4310781955718994, + "learning_rate": 1.2918151465298256e-06, + "loss": 0.0052, + "num_input_tokens_seen": 29278536, + "step": 14955 + }, + { + "epoch": 1.9822398939695163, + "grad_norm": 5.801882743835449, + "learning_rate": 1.2915112501597055e-06, + "loss": 0.0541, + "num_input_tokens_seen": 29280320, + "step": 14956 + }, + { + "epoch": 1.9823724320742213, + "grad_norm": 3.4595510959625244, + "learning_rate": 1.2912073770900813e-06, + "loss": 0.0695, + "num_input_tokens_seen": 29284408, + "step": 14957 + }, + { + "epoch": 1.9825049701789266, + "grad_norm": 0.13448534905910492, + "learning_rate": 1.2909035273268137e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29286696, + "step": 14958 + }, + { + "epoch": 1.9826375082836316, + "grad_norm": 3.0875461101531982, + "learning_rate": 1.2905997008757604e-06, + "loss": 0.0182, + "num_input_tokens_seen": 29290048, + "step": 14959 + }, + { + "epoch": 1.9827700463883366, + "grad_norm": 11.961390495300293, + "learning_rate": 1.2902958977427776e-06, + "loss": 0.1786, + "num_input_tokens_seen": 29291840, + "step": 14960 + }, + { + "epoch": 1.9829025844930417, + "grad_norm": 1.6517081260681152, + "learning_rate": 1.289992117933726e-06, + "loss": 0.0101, + "num_input_tokens_seen": 29293864, + "step": 14961 + }, + { + "epoch": 1.9830351225977467, + "grad_norm": 6.134220600128174, + "learning_rate": 1.2896883614544609e-06, + "loss": 0.0632, + "num_input_tokens_seen": 29296264, + "step": 14962 + }, + { + "epoch": 1.983167660702452, + "grad_norm": 10.05469799041748, + "learning_rate": 1.2893846283108385e-06, + "loss": 0.2714, + "num_input_tokens_seen": 29298672, + "step": 14963 + }, + { + "epoch": 1.983300198807157, + "grad_norm": 0.03645828366279602, + "learning_rate": 1.289080918508716e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29300440, + "step": 14964 + }, + { + "epoch": 1.9834327369118623, + "grad_norm": 0.010693750344216824, + "learning_rate": 1.2887772320539482e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29301776, + "step": 14965 + }, + { + "epoch": 1.9835652750165673, + "grad_norm": 12.394100189208984, + "learning_rate": 1.2884735689523919e-06, + "loss": 0.1351, + "num_input_tokens_seen": 29304024, + "step": 14966 + }, + { + "epoch": 1.9836978131212724, + "grad_norm": 4.284935474395752, + "learning_rate": 1.288169929209901e-06, + "loss": 0.0238, + "num_input_tokens_seen": 29305296, + "step": 14967 + }, + { + "epoch": 1.9838303512259774, + "grad_norm": 1.1791915893554688, + "learning_rate": 1.2878663128323288e-06, + "loss": 0.0041, + "num_input_tokens_seen": 29307056, + "step": 14968 + }, + { + "epoch": 1.9839628893306824, + "grad_norm": 6.600908279418945, + "learning_rate": 1.2875627198255314e-06, + "loss": 0.0933, + "num_input_tokens_seen": 29309096, + "step": 14969 + }, + { + "epoch": 1.9840954274353877, + "grad_norm": 3.78352427482605, + "learning_rate": 1.2872591501953599e-06, + "loss": 0.0663, + "num_input_tokens_seen": 29311128, + "step": 14970 + }, + { + "epoch": 1.9842279655400927, + "grad_norm": 9.576079368591309, + "learning_rate": 1.28695560394767e-06, + "loss": 0.1543, + "num_input_tokens_seen": 29313704, + "step": 14971 + }, + { + "epoch": 1.984360503644798, + "grad_norm": 13.428544044494629, + "learning_rate": 1.2866520810883123e-06, + "loss": 0.2213, + "num_input_tokens_seen": 29315752, + "step": 14972 + }, + { + "epoch": 1.984493041749503, + "grad_norm": 9.78488826751709, + "learning_rate": 1.28634858162314e-06, + "loss": 0.1732, + "num_input_tokens_seen": 29317384, + "step": 14973 + }, + { + "epoch": 1.984625579854208, + "grad_norm": 0.15593236684799194, + "learning_rate": 1.2860451055580032e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29319288, + "step": 14974 + }, + { + "epoch": 1.984758117958913, + "grad_norm": 8.514893531799316, + "learning_rate": 1.285741652898755e-06, + "loss": 0.147, + "num_input_tokens_seen": 29321472, + "step": 14975 + }, + { + "epoch": 1.9848906560636181, + "grad_norm": 0.022653639316558838, + "learning_rate": 1.2854382236512447e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29323360, + "step": 14976 + }, + { + "epoch": 1.9850231941683234, + "grad_norm": 13.34898853302002, + "learning_rate": 1.2851348178213244e-06, + "loss": 0.3377, + "num_input_tokens_seen": 29325512, + "step": 14977 + }, + { + "epoch": 1.9851557322730287, + "grad_norm": 2.5087296962738037, + "learning_rate": 1.2848314354148428e-06, + "loss": 0.048, + "num_input_tokens_seen": 29327640, + "step": 14978 + }, + { + "epoch": 1.9852882703777337, + "grad_norm": 12.470858573913574, + "learning_rate": 1.2845280764376494e-06, + "loss": 0.1751, + "num_input_tokens_seen": 29329704, + "step": 14979 + }, + { + "epoch": 1.9854208084824387, + "grad_norm": 9.162280082702637, + "learning_rate": 1.2842247408955922e-06, + "loss": 0.1787, + "num_input_tokens_seen": 29332008, + "step": 14980 + }, + { + "epoch": 1.9855533465871438, + "grad_norm": 0.6234849691390991, + "learning_rate": 1.2839214287945206e-06, + "loss": 0.0087, + "num_input_tokens_seen": 29335288, + "step": 14981 + }, + { + "epoch": 1.9856858846918488, + "grad_norm": 6.43628454208374, + "learning_rate": 1.283618140140284e-06, + "loss": 0.0763, + "num_input_tokens_seen": 29336896, + "step": 14982 + }, + { + "epoch": 1.9858184227965539, + "grad_norm": 0.008916890248656273, + "learning_rate": 1.2833148749387287e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29338760, + "step": 14983 + }, + { + "epoch": 1.985950960901259, + "grad_norm": 0.018107829615473747, + "learning_rate": 1.2830116331957019e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29340080, + "step": 14984 + }, + { + "epoch": 1.9860834990059644, + "grad_norm": 12.252679824829102, + "learning_rate": 1.2827084149170504e-06, + "loss": 0.2424, + "num_input_tokens_seen": 29342512, + "step": 14985 + }, + { + "epoch": 1.9862160371106694, + "grad_norm": 5.954042434692383, + "learning_rate": 1.2824052201086194e-06, + "loss": 0.0339, + "num_input_tokens_seen": 29343576, + "step": 14986 + }, + { + "epoch": 1.9863485752153744, + "grad_norm": 8.77004337310791, + "learning_rate": 1.282102048776256e-06, + "loss": 0.3532, + "num_input_tokens_seen": 29346144, + "step": 14987 + }, + { + "epoch": 1.9864811133200795, + "grad_norm": 0.08105558902025223, + "learning_rate": 1.281798900925806e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29347616, + "step": 14988 + }, + { + "epoch": 1.9866136514247845, + "grad_norm": 1.0167502164840698, + "learning_rate": 1.2814957765631133e-06, + "loss": 0.0113, + "num_input_tokens_seen": 29350208, + "step": 14989 + }, + { + "epoch": 1.9867461895294898, + "grad_norm": 1.1385411024093628, + "learning_rate": 1.281192675694023e-06, + "loss": 0.0074, + "num_input_tokens_seen": 29351832, + "step": 14990 + }, + { + "epoch": 1.9868787276341948, + "grad_norm": 0.15233564376831055, + "learning_rate": 1.2808895983243777e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29353456, + "step": 14991 + }, + { + "epoch": 1.9870112657389, + "grad_norm": 21.02981948852539, + "learning_rate": 1.280586544460023e-06, + "loss": 0.1437, + "num_input_tokens_seen": 29355392, + "step": 14992 + }, + { + "epoch": 1.9871438038436051, + "grad_norm": 0.1611795574426651, + "learning_rate": 1.2802835141067998e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29357824, + "step": 14993 + }, + { + "epoch": 1.9872763419483102, + "grad_norm": 7.989131450653076, + "learning_rate": 1.2799805072705528e-06, + "loss": 0.1645, + "num_input_tokens_seen": 29359688, + "step": 14994 + }, + { + "epoch": 1.9874088800530152, + "grad_norm": 5.402070045471191, + "learning_rate": 1.2796775239571238e-06, + "loss": 0.1805, + "num_input_tokens_seen": 29361864, + "step": 14995 + }, + { + "epoch": 1.9875414181577202, + "grad_norm": 4.802786827087402, + "learning_rate": 1.2793745641723526e-06, + "loss": 0.0348, + "num_input_tokens_seen": 29363776, + "step": 14996 + }, + { + "epoch": 1.9876739562624255, + "grad_norm": 6.909824371337891, + "learning_rate": 1.279071627922083e-06, + "loss": 0.0937, + "num_input_tokens_seen": 29366240, + "step": 14997 + }, + { + "epoch": 1.9878064943671305, + "grad_norm": 0.03242842108011246, + "learning_rate": 1.2787687152121536e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29368624, + "step": 14998 + }, + { + "epoch": 1.9879390324718358, + "grad_norm": 9.624953269958496, + "learning_rate": 1.2784658260484067e-06, + "loss": 0.1457, + "num_input_tokens_seen": 29370592, + "step": 14999 + }, + { + "epoch": 1.9880715705765408, + "grad_norm": 9.715973854064941, + "learning_rate": 1.278162960436682e-06, + "loss": 0.3169, + "num_input_tokens_seen": 29373352, + "step": 15000 + }, + { + "epoch": 1.9882041086812459, + "grad_norm": 8.819573402404785, + "learning_rate": 1.2778601183828166e-06, + "loss": 0.0317, + "num_input_tokens_seen": 29375288, + "step": 15001 + }, + { + "epoch": 1.988336646785951, + "grad_norm": 0.09542513638734818, + "learning_rate": 1.2775572998926525e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29378192, + "step": 15002 + }, + { + "epoch": 1.988469184890656, + "grad_norm": 5.76531457901001, + "learning_rate": 1.277254504972027e-06, + "loss": 0.061, + "num_input_tokens_seen": 29379672, + "step": 15003 + }, + { + "epoch": 1.9886017229953612, + "grad_norm": 6.633455753326416, + "learning_rate": 1.276951733626777e-06, + "loss": 0.0427, + "num_input_tokens_seen": 29380944, + "step": 15004 + }, + { + "epoch": 1.9887342611000662, + "grad_norm": 0.007879002019762993, + "learning_rate": 1.2766489858627423e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29382496, + "step": 15005 + }, + { + "epoch": 1.9888667992047715, + "grad_norm": 4.493411064147949, + "learning_rate": 1.2763462616857595e-06, + "loss": 0.0926, + "num_input_tokens_seen": 29385048, + "step": 15006 + }, + { + "epoch": 1.9889993373094765, + "grad_norm": 0.019767822697758675, + "learning_rate": 1.2760435611016635e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29386640, + "step": 15007 + }, + { + "epoch": 1.9891318754141816, + "grad_norm": 8.19939136505127, + "learning_rate": 1.2757408841162932e-06, + "loss": 0.1468, + "num_input_tokens_seen": 29388456, + "step": 15008 + }, + { + "epoch": 1.9892644135188866, + "grad_norm": 2.3931753635406494, + "learning_rate": 1.2754382307354834e-06, + "loss": 0.028, + "num_input_tokens_seen": 29391184, + "step": 15009 + }, + { + "epoch": 1.9893969516235916, + "grad_norm": 0.019784769043326378, + "learning_rate": 1.275135600965068e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29392904, + "step": 15010 + }, + { + "epoch": 1.989529489728297, + "grad_norm": 0.04237458482384682, + "learning_rate": 1.2748329948108844e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29394976, + "step": 15011 + }, + { + "epoch": 1.989662027833002, + "grad_norm": 10.403319358825684, + "learning_rate": 1.274530412278765e-06, + "loss": 0.0748, + "num_input_tokens_seen": 29397088, + "step": 15012 + }, + { + "epoch": 1.9897945659377072, + "grad_norm": 3.1516165733337402, + "learning_rate": 1.274227853374545e-06, + "loss": 0.0216, + "num_input_tokens_seen": 29399208, + "step": 15013 + }, + { + "epoch": 1.9899271040424122, + "grad_norm": 0.20235677063465118, + "learning_rate": 1.2739253181040584e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29401288, + "step": 15014 + }, + { + "epoch": 1.9900596421471173, + "grad_norm": 9.354519844055176, + "learning_rate": 1.273622806473137e-06, + "loss": 0.1541, + "num_input_tokens_seen": 29403640, + "step": 15015 + }, + { + "epoch": 1.9901921802518223, + "grad_norm": 9.492431640625, + "learning_rate": 1.2733203184876131e-06, + "loss": 0.2732, + "num_input_tokens_seen": 29405320, + "step": 15016 + }, + { + "epoch": 1.9903247183565274, + "grad_norm": 0.05043940991163254, + "learning_rate": 1.2730178541533194e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29408200, + "step": 15017 + }, + { + "epoch": 1.9904572564612326, + "grad_norm": 12.103384017944336, + "learning_rate": 1.2727154134760895e-06, + "loss": 0.2796, + "num_input_tokens_seen": 29410792, + "step": 15018 + }, + { + "epoch": 1.9905897945659377, + "grad_norm": 0.019128022715449333, + "learning_rate": 1.2724129964617526e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29412104, + "step": 15019 + }, + { + "epoch": 1.990722332670643, + "grad_norm": 10.11974811553955, + "learning_rate": 1.2721106031161402e-06, + "loss": 0.1888, + "num_input_tokens_seen": 29413384, + "step": 15020 + }, + { + "epoch": 1.990854870775348, + "grad_norm": 5.954976558685303, + "learning_rate": 1.2718082334450815e-06, + "loss": 0.0819, + "num_input_tokens_seen": 29415640, + "step": 15021 + }, + { + "epoch": 1.990987408880053, + "grad_norm": 0.015992214903235435, + "learning_rate": 1.2715058874544072e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29417184, + "step": 15022 + }, + { + "epoch": 1.991119946984758, + "grad_norm": 0.13484159111976624, + "learning_rate": 1.271203565149948e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29418928, + "step": 15023 + }, + { + "epoch": 1.991252485089463, + "grad_norm": 5.495573043823242, + "learning_rate": 1.2709012665375317e-06, + "loss": 0.1355, + "num_input_tokens_seen": 29421456, + "step": 15024 + }, + { + "epoch": 1.9913850231941683, + "grad_norm": 0.017603913322091103, + "learning_rate": 1.2705989916229868e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29423592, + "step": 15025 + }, + { + "epoch": 1.9915175612988736, + "grad_norm": 0.016949553042650223, + "learning_rate": 1.2702967404121416e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29424832, + "step": 15026 + }, + { + "epoch": 1.9916500994035786, + "grad_norm": 0.02186252363026142, + "learning_rate": 1.2699945129108227e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29426384, + "step": 15027 + }, + { + "epoch": 1.9917826375082837, + "grad_norm": 10.439915657043457, + "learning_rate": 1.2696923091248578e-06, + "loss": 0.2374, + "num_input_tokens_seen": 29429032, + "step": 15028 + }, + { + "epoch": 1.9919151756129887, + "grad_norm": 2.7696712017059326, + "learning_rate": 1.2693901290600751e-06, + "loss": 0.0247, + "num_input_tokens_seen": 29430120, + "step": 15029 + }, + { + "epoch": 1.9920477137176937, + "grad_norm": 0.057111505419015884, + "learning_rate": 1.2690879727223e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29431440, + "step": 15030 + }, + { + "epoch": 1.9921802518223988, + "grad_norm": 11.524256706237793, + "learning_rate": 1.2687858401173576e-06, + "loss": 0.1556, + "num_input_tokens_seen": 29434448, + "step": 15031 + }, + { + "epoch": 1.992312789927104, + "grad_norm": 0.019454503431916237, + "learning_rate": 1.2684837312510735e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29437064, + "step": 15032 + }, + { + "epoch": 1.9924453280318093, + "grad_norm": 0.01588483527302742, + "learning_rate": 1.2681816461292715e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29438856, + "step": 15033 + }, + { + "epoch": 1.9925778661365143, + "grad_norm": 3.3085122108459473, + "learning_rate": 1.2678795847577773e-06, + "loss": 0.0475, + "num_input_tokens_seen": 29440328, + "step": 15034 + }, + { + "epoch": 1.9927104042412194, + "grad_norm": 6.721047401428223, + "learning_rate": 1.267577547142416e-06, + "loss": 0.1052, + "num_input_tokens_seen": 29441952, + "step": 15035 + }, + { + "epoch": 1.9928429423459244, + "grad_norm": 1.3945090770721436, + "learning_rate": 1.2672755332890098e-06, + "loss": 0.0092, + "num_input_tokens_seen": 29444152, + "step": 15036 + }, + { + "epoch": 1.9929754804506294, + "grad_norm": 4.494974136352539, + "learning_rate": 1.266973543203381e-06, + "loss": 0.0672, + "num_input_tokens_seen": 29446344, + "step": 15037 + }, + { + "epoch": 1.9931080185553347, + "grad_norm": 0.1965724527835846, + "learning_rate": 1.2666715768913526e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29448096, + "step": 15038 + }, + { + "epoch": 1.9932405566600397, + "grad_norm": 8.084900856018066, + "learning_rate": 1.266369634358748e-06, + "loss": 0.0702, + "num_input_tokens_seen": 29450032, + "step": 15039 + }, + { + "epoch": 1.993373094764745, + "grad_norm": 4.564589023590088, + "learning_rate": 1.2660677156113866e-06, + "loss": 0.0435, + "num_input_tokens_seen": 29452160, + "step": 15040 + }, + { + "epoch": 1.99350563286945, + "grad_norm": 0.008167847990989685, + "learning_rate": 1.2657658206550922e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29454440, + "step": 15041 + }, + { + "epoch": 1.993638170974155, + "grad_norm": 8.761433601379395, + "learning_rate": 1.2654639494956839e-06, + "loss": 0.1451, + "num_input_tokens_seen": 29457368, + "step": 15042 + }, + { + "epoch": 1.9937707090788601, + "grad_norm": 0.22472958266735077, + "learning_rate": 1.2651621021389815e-06, + "loss": 0.0021, + "num_input_tokens_seen": 29459496, + "step": 15043 + }, + { + "epoch": 1.9939032471835652, + "grad_norm": 5.541337013244629, + "learning_rate": 1.2648602785908066e-06, + "loss": 0.032, + "num_input_tokens_seen": 29461240, + "step": 15044 + }, + { + "epoch": 1.9940357852882704, + "grad_norm": 9.68825912475586, + "learning_rate": 1.2645584788569766e-06, + "loss": 0.1136, + "num_input_tokens_seen": 29463320, + "step": 15045 + }, + { + "epoch": 1.9941683233929755, + "grad_norm": 12.671784400939941, + "learning_rate": 1.2642567029433122e-06, + "loss": 0.294, + "num_input_tokens_seen": 29465024, + "step": 15046 + }, + { + "epoch": 1.9943008614976807, + "grad_norm": 7.378289222717285, + "learning_rate": 1.2639549508556315e-06, + "loss": 0.1446, + "num_input_tokens_seen": 29467136, + "step": 15047 + }, + { + "epoch": 1.9944333996023857, + "grad_norm": 13.606983184814453, + "learning_rate": 1.2636532225997508e-06, + "loss": 0.2464, + "num_input_tokens_seen": 29470032, + "step": 15048 + }, + { + "epoch": 1.9945659377070908, + "grad_norm": 11.810920715332031, + "learning_rate": 1.2633515181814899e-06, + "loss": 0.3046, + "num_input_tokens_seen": 29471640, + "step": 15049 + }, + { + "epoch": 1.9946984758117958, + "grad_norm": 0.07023024559020996, + "learning_rate": 1.2630498376066648e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29472784, + "step": 15050 + }, + { + "epoch": 1.9948310139165009, + "grad_norm": 4.564071178436279, + "learning_rate": 1.2627481808810916e-06, + "loss": 0.085, + "num_input_tokens_seen": 29475096, + "step": 15051 + }, + { + "epoch": 1.9949635520212061, + "grad_norm": 14.904413223266602, + "learning_rate": 1.2624465480105873e-06, + "loss": 0.1335, + "num_input_tokens_seen": 29477208, + "step": 15052 + }, + { + "epoch": 1.9950960901259112, + "grad_norm": 1.5181065797805786, + "learning_rate": 1.2621449390009665e-06, + "loss": 0.0058, + "num_input_tokens_seen": 29479152, + "step": 15053 + }, + { + "epoch": 1.9952286282306164, + "grad_norm": 3.748671531677246, + "learning_rate": 1.2618433538580467e-06, + "loss": 0.0141, + "num_input_tokens_seen": 29481648, + "step": 15054 + }, + { + "epoch": 1.9953611663353215, + "grad_norm": 8.37869930267334, + "learning_rate": 1.2615417925876404e-06, + "loss": 0.0841, + "num_input_tokens_seen": 29484088, + "step": 15055 + }, + { + "epoch": 1.9954937044400265, + "grad_norm": 12.78702163696289, + "learning_rate": 1.2612402551955635e-06, + "loss": 0.3809, + "num_input_tokens_seen": 29487416, + "step": 15056 + }, + { + "epoch": 1.9956262425447315, + "grad_norm": 5.244921684265137, + "learning_rate": 1.2609387416876278e-06, + "loss": 0.0544, + "num_input_tokens_seen": 29489216, + "step": 15057 + }, + { + "epoch": 1.9957587806494366, + "grad_norm": 0.020142938941717148, + "learning_rate": 1.260637252069648e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29490456, + "step": 15058 + }, + { + "epoch": 1.9958913187541418, + "grad_norm": 0.10015234351158142, + "learning_rate": 1.2603357863474377e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29491752, + "step": 15059 + }, + { + "epoch": 1.9960238568588469, + "grad_norm": 0.058342497795820236, + "learning_rate": 1.2600343445268088e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29493824, + "step": 15060 + }, + { + "epoch": 1.9961563949635521, + "grad_norm": 11.053287506103516, + "learning_rate": 1.2597329266135733e-06, + "loss": 0.2014, + "num_input_tokens_seen": 29495696, + "step": 15061 + }, + { + "epoch": 1.9962889330682572, + "grad_norm": 0.010415097698569298, + "learning_rate": 1.259431532613542e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29497568, + "step": 15062 + }, + { + "epoch": 1.9964214711729622, + "grad_norm": 9.868606567382812, + "learning_rate": 1.2591301625325263e-06, + "loss": 0.0954, + "num_input_tokens_seen": 29499272, + "step": 15063 + }, + { + "epoch": 1.9965540092776672, + "grad_norm": 1.5083472728729248, + "learning_rate": 1.2588288163763368e-06, + "loss": 0.0048, + "num_input_tokens_seen": 29500944, + "step": 15064 + }, + { + "epoch": 1.9966865473823723, + "grad_norm": 0.022500133141875267, + "learning_rate": 1.2585274941507849e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29503232, + "step": 15065 + }, + { + "epoch": 1.9968190854870775, + "grad_norm": 5.153323173522949, + "learning_rate": 1.2582261958616793e-06, + "loss": 0.0779, + "num_input_tokens_seen": 29506240, + "step": 15066 + }, + { + "epoch": 1.9969516235917828, + "grad_norm": 8.314993858337402, + "learning_rate": 1.2579249215148295e-06, + "loss": 0.1002, + "num_input_tokens_seen": 29508104, + "step": 15067 + }, + { + "epoch": 1.9970841616964878, + "grad_norm": 0.017672164365649223, + "learning_rate": 1.257623671116044e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29510288, + "step": 15068 + }, + { + "epoch": 1.9972166998011929, + "grad_norm": 7.050225734710693, + "learning_rate": 1.2573224446711302e-06, + "loss": 0.0436, + "num_input_tokens_seen": 29511936, + "step": 15069 + }, + { + "epoch": 1.997349237905898, + "grad_norm": 0.0177437886595726, + "learning_rate": 1.2570212421858968e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29514080, + "step": 15070 + }, + { + "epoch": 1.997481776010603, + "grad_norm": 7.996880531311035, + "learning_rate": 1.2567200636661525e-06, + "loss": 0.1354, + "num_input_tokens_seen": 29515600, + "step": 15071 + }, + { + "epoch": 1.997614314115308, + "grad_norm": 1.1732653379440308, + "learning_rate": 1.256418909117703e-06, + "loss": 0.0033, + "num_input_tokens_seen": 29517688, + "step": 15072 + }, + { + "epoch": 1.9977468522200132, + "grad_norm": 2.853372573852539, + "learning_rate": 1.2561177785463551e-06, + "loss": 0.1032, + "num_input_tokens_seen": 29519392, + "step": 15073 + }, + { + "epoch": 1.9978793903247185, + "grad_norm": 0.03616528958082199, + "learning_rate": 1.2558166719579135e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29520968, + "step": 15074 + }, + { + "epoch": 1.9980119284294235, + "grad_norm": 12.990983963012695, + "learning_rate": 1.2555155893581844e-06, + "loss": 0.101, + "num_input_tokens_seen": 29522328, + "step": 15075 + }, + { + "epoch": 1.9981444665341286, + "grad_norm": 8.177651405334473, + "learning_rate": 1.2552145307529744e-06, + "loss": 0.0778, + "num_input_tokens_seen": 29523648, + "step": 15076 + }, + { + "epoch": 1.9982770046388336, + "grad_norm": 9.80813980102539, + "learning_rate": 1.2549134961480869e-06, + "loss": 0.1563, + "num_input_tokens_seen": 29525496, + "step": 15077 + }, + { + "epoch": 1.9984095427435387, + "grad_norm": 5.188504219055176, + "learning_rate": 1.2546124855493264e-06, + "loss": 0.0124, + "num_input_tokens_seen": 29527768, + "step": 15078 + }, + { + "epoch": 1.998542080848244, + "grad_norm": 9.325885772705078, + "learning_rate": 1.2543114989624952e-06, + "loss": 0.1933, + "num_input_tokens_seen": 29530048, + "step": 15079 + }, + { + "epoch": 1.998674618952949, + "grad_norm": 0.05279998108744621, + "learning_rate": 1.2540105363933986e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29533176, + "step": 15080 + }, + { + "epoch": 1.9988071570576542, + "grad_norm": 0.13106754422187805, + "learning_rate": 1.2537095978478376e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29534296, + "step": 15081 + }, + { + "epoch": 1.9989396951623593, + "grad_norm": 9.442612648010254, + "learning_rate": 1.2534086833316161e-06, + "loss": 0.1579, + "num_input_tokens_seen": 29536736, + "step": 15082 + }, + { + "epoch": 1.9990722332670643, + "grad_norm": 7.0040202140808105, + "learning_rate": 1.2531077928505352e-06, + "loss": 0.1403, + "num_input_tokens_seen": 29538600, + "step": 15083 + }, + { + "epoch": 1.9992047713717693, + "grad_norm": 6.355255603790283, + "learning_rate": 1.2528069264103953e-06, + "loss": 0.0355, + "num_input_tokens_seen": 29540384, + "step": 15084 + }, + { + "epoch": 1.9993373094764744, + "grad_norm": 0.04498272016644478, + "learning_rate": 1.2525060840169994e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29542256, + "step": 15085 + }, + { + "epoch": 1.9994698475811796, + "grad_norm": 3.21889066696167, + "learning_rate": 1.2522052656761468e-06, + "loss": 0.0246, + "num_input_tokens_seen": 29544240, + "step": 15086 + }, + { + "epoch": 1.9996023856858847, + "grad_norm": 0.15578404068946838, + "learning_rate": 1.2519044713936362e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29545400, + "step": 15087 + }, + { + "epoch": 1.99973492379059, + "grad_norm": 0.052895065397024155, + "learning_rate": 1.2516037011752697e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29547640, + "step": 15088 + }, + { + "epoch": 1.999867461895295, + "grad_norm": 0.007841318845748901, + "learning_rate": 1.2513029550268448e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29549512, + "step": 15089 + }, + { + "epoch": 2.0, + "grad_norm": 0.009754818864166737, + "learning_rate": 1.2510022329541595e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29550656, + "step": 15090 + }, + { + "epoch": 2.000132538104705, + "grad_norm": 5.919904708862305, + "learning_rate": 1.2507015349630138e-06, + "loss": 0.1083, + "num_input_tokens_seen": 29552936, + "step": 15091 + }, + { + "epoch": 2.00026507620941, + "grad_norm": 4.115756511688232, + "learning_rate": 1.2504008610592044e-06, + "loss": 0.0574, + "num_input_tokens_seen": 29554888, + "step": 15092 + }, + { + "epoch": 2.000397614314115, + "grad_norm": 0.02611556090414524, + "learning_rate": 1.2501002112485272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29556392, + "step": 15093 + }, + { + "epoch": 2.0005301524188206, + "grad_norm": 1.6775933504104614, + "learning_rate": 1.2497995855367815e-06, + "loss": 0.0267, + "num_input_tokens_seen": 29558520, + "step": 15094 + }, + { + "epoch": 2.0006626905235256, + "grad_norm": 6.486643314361572, + "learning_rate": 1.249498983929761e-06, + "loss": 0.0855, + "num_input_tokens_seen": 29561528, + "step": 15095 + }, + { + "epoch": 2.0007952286282307, + "grad_norm": 20.230329513549805, + "learning_rate": 1.2491984064332641e-06, + "loss": 0.342, + "num_input_tokens_seen": 29564856, + "step": 15096 + }, + { + "epoch": 2.0009277667329357, + "grad_norm": 3.673888683319092, + "learning_rate": 1.2488978530530846e-06, + "loss": 0.0249, + "num_input_tokens_seen": 29566744, + "step": 15097 + }, + { + "epoch": 2.0010603048376407, + "grad_norm": 0.041721418499946594, + "learning_rate": 1.2485973237950166e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29569040, + "step": 15098 + }, + { + "epoch": 2.001192842942346, + "grad_norm": 4.339807510375977, + "learning_rate": 1.2482968186648564e-06, + "loss": 0.0357, + "num_input_tokens_seen": 29570504, + "step": 15099 + }, + { + "epoch": 2.001325381047051, + "grad_norm": 0.12106949090957642, + "learning_rate": 1.2479963376683961e-06, + "loss": 0.0016, + "num_input_tokens_seen": 29572128, + "step": 15100 + }, + { + "epoch": 2.0014579191517563, + "grad_norm": 0.1160544604063034, + "learning_rate": 1.2476958808114311e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29573536, + "step": 15101 + }, + { + "epoch": 2.0015904572564613, + "grad_norm": 6.40834379196167, + "learning_rate": 1.2473954480997535e-06, + "loss": 0.0735, + "num_input_tokens_seen": 29575272, + "step": 15102 + }, + { + "epoch": 2.0017229953611664, + "grad_norm": 3.791527271270752, + "learning_rate": 1.247095039539156e-06, + "loss": 0.0761, + "num_input_tokens_seen": 29577560, + "step": 15103 + }, + { + "epoch": 2.0018555334658714, + "grad_norm": 7.423145771026611, + "learning_rate": 1.2467946551354292e-06, + "loss": 0.0704, + "num_input_tokens_seen": 29579320, + "step": 15104 + }, + { + "epoch": 2.0019880715705765, + "grad_norm": 0.035152118653059006, + "learning_rate": 1.2464942948943659e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29581824, + "step": 15105 + }, + { + "epoch": 2.0021206096752815, + "grad_norm": 3.599280834197998, + "learning_rate": 1.2461939588217587e-06, + "loss": 0.0434, + "num_input_tokens_seen": 29584464, + "step": 15106 + }, + { + "epoch": 2.0022531477799865, + "grad_norm": 0.05427742376923561, + "learning_rate": 1.2458936469233964e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29586088, + "step": 15107 + }, + { + "epoch": 2.002385685884692, + "grad_norm": 12.067769050598145, + "learning_rate": 1.2455933592050704e-06, + "loss": 0.0512, + "num_input_tokens_seen": 29587672, + "step": 15108 + }, + { + "epoch": 2.002518223989397, + "grad_norm": 0.18524309992790222, + "learning_rate": 1.2452930956725692e-06, + "loss": 0.0016, + "num_input_tokens_seen": 29589080, + "step": 15109 + }, + { + "epoch": 2.002650762094102, + "grad_norm": 0.008161114528775215, + "learning_rate": 1.244992856331682e-06, + "loss": 0.0, + "num_input_tokens_seen": 29590432, + "step": 15110 + }, + { + "epoch": 2.002783300198807, + "grad_norm": 0.12214435636997223, + "learning_rate": 1.2446926411881984e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29592240, + "step": 15111 + }, + { + "epoch": 2.002915838303512, + "grad_norm": 6.472517967224121, + "learning_rate": 1.2443924502479077e-06, + "loss": 0.1308, + "num_input_tokens_seen": 29594880, + "step": 15112 + }, + { + "epoch": 2.003048376408217, + "grad_norm": 0.4883570671081543, + "learning_rate": 1.2440922835165964e-06, + "loss": 0.0046, + "num_input_tokens_seen": 29596896, + "step": 15113 + }, + { + "epoch": 2.0031809145129227, + "grad_norm": 3.0127828121185303, + "learning_rate": 1.2437921410000525e-06, + "loss": 0.0507, + "num_input_tokens_seen": 29599512, + "step": 15114 + }, + { + "epoch": 2.0033134526176277, + "grad_norm": 9.517441749572754, + "learning_rate": 1.2434920227040617e-06, + "loss": 0.1389, + "num_input_tokens_seen": 29601368, + "step": 15115 + }, + { + "epoch": 2.0034459907223328, + "grad_norm": 2.953688144683838, + "learning_rate": 1.2431919286344126e-06, + "loss": 0.0378, + "num_input_tokens_seen": 29602944, + "step": 15116 + }, + { + "epoch": 2.003578528827038, + "grad_norm": 0.25521379709243774, + "learning_rate": 1.2428918587968891e-06, + "loss": 0.0021, + "num_input_tokens_seen": 29604312, + "step": 15117 + }, + { + "epoch": 2.003711066931743, + "grad_norm": 7.0436015129089355, + "learning_rate": 1.2425918131972789e-06, + "loss": 0.0587, + "num_input_tokens_seen": 29605992, + "step": 15118 + }, + { + "epoch": 2.003843605036448, + "grad_norm": 0.0047504594549536705, + "learning_rate": 1.2422917918413658e-06, + "loss": 0.0, + "num_input_tokens_seen": 29607248, + "step": 15119 + }, + { + "epoch": 2.003976143141153, + "grad_norm": 0.08487773686647415, + "learning_rate": 1.2419917947349347e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29608984, + "step": 15120 + }, + { + "epoch": 2.0041086812458584, + "grad_norm": 1.627276062965393, + "learning_rate": 1.2416918218837683e-06, + "loss": 0.012, + "num_input_tokens_seen": 29611736, + "step": 15121 + }, + { + "epoch": 2.0042412193505634, + "grad_norm": 5.123021125793457, + "learning_rate": 1.2413918732936531e-06, + "loss": 0.1271, + "num_input_tokens_seen": 29613368, + "step": 15122 + }, + { + "epoch": 2.0043737574552685, + "grad_norm": 2.0752036571502686, + "learning_rate": 1.24109194897037e-06, + "loss": 0.0386, + "num_input_tokens_seen": 29615496, + "step": 15123 + }, + { + "epoch": 2.0045062955599735, + "grad_norm": 5.433506011962891, + "learning_rate": 1.240792048919703e-06, + "loss": 0.0739, + "num_input_tokens_seen": 29617728, + "step": 15124 + }, + { + "epoch": 2.0046388336646785, + "grad_norm": 0.01832788623869419, + "learning_rate": 1.2404921731474345e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29621160, + "step": 15125 + }, + { + "epoch": 2.0047713717693836, + "grad_norm": 0.01260112039744854, + "learning_rate": 1.2401923216593444e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29623032, + "step": 15126 + }, + { + "epoch": 2.0049039098740886, + "grad_norm": 0.840470552444458, + "learning_rate": 1.2398924944612167e-06, + "loss": 0.011, + "num_input_tokens_seen": 29624856, + "step": 15127 + }, + { + "epoch": 2.005036447978794, + "grad_norm": 0.4741806089878082, + "learning_rate": 1.23959269155883e-06, + "loss": 0.003, + "num_input_tokens_seen": 29626432, + "step": 15128 + }, + { + "epoch": 2.005168986083499, + "grad_norm": 10.055848121643066, + "learning_rate": 1.2392929129579668e-06, + "loss": 0.086, + "num_input_tokens_seen": 29629224, + "step": 15129 + }, + { + "epoch": 2.005301524188204, + "grad_norm": 5.045922756195068, + "learning_rate": 1.2389931586644055e-06, + "loss": 0.0784, + "num_input_tokens_seen": 29631120, + "step": 15130 + }, + { + "epoch": 2.005434062292909, + "grad_norm": 0.01161034032702446, + "learning_rate": 1.2386934286839255e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29632512, + "step": 15131 + }, + { + "epoch": 2.0055666003976143, + "grad_norm": 0.11529643088579178, + "learning_rate": 1.238393723022307e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29634728, + "step": 15132 + }, + { + "epoch": 2.0056991385023193, + "grad_norm": 4.420339107513428, + "learning_rate": 1.2380940416853281e-06, + "loss": 0.0503, + "num_input_tokens_seen": 29636776, + "step": 15133 + }, + { + "epoch": 2.0058316766070243, + "grad_norm": 0.012172609567642212, + "learning_rate": 1.2377943846787654e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29639592, + "step": 15134 + }, + { + "epoch": 2.00596421471173, + "grad_norm": 1.3013160228729248, + "learning_rate": 1.237494752008399e-06, + "loss": 0.0107, + "num_input_tokens_seen": 29641176, + "step": 15135 + }, + { + "epoch": 2.006096752816435, + "grad_norm": 0.016934173181653023, + "learning_rate": 1.2371951436800036e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29642672, + "step": 15136 + }, + { + "epoch": 2.00622929092114, + "grad_norm": 13.0425386428833, + "learning_rate": 1.2368955596993579e-06, + "loss": 0.215, + "num_input_tokens_seen": 29644856, + "step": 15137 + }, + { + "epoch": 2.006361829025845, + "grad_norm": 0.5551536679267883, + "learning_rate": 1.2365960000722373e-06, + "loss": 0.003, + "num_input_tokens_seen": 29648072, + "step": 15138 + }, + { + "epoch": 2.00649436713055, + "grad_norm": 0.7830763459205627, + "learning_rate": 1.2362964648044172e-06, + "loss": 0.0058, + "num_input_tokens_seen": 29649560, + "step": 15139 + }, + { + "epoch": 2.006626905235255, + "grad_norm": 3.7863247394561768, + "learning_rate": 1.2359969539016723e-06, + "loss": 0.0881, + "num_input_tokens_seen": 29651840, + "step": 15140 + }, + { + "epoch": 2.00675944333996, + "grad_norm": 0.06023525074124336, + "learning_rate": 1.235697467369778e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29653584, + "step": 15141 + }, + { + "epoch": 2.0068919814446655, + "grad_norm": 0.13295461237430573, + "learning_rate": 1.2353980052145097e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29654976, + "step": 15142 + }, + { + "epoch": 2.0070245195493706, + "grad_norm": 5.31843900680542, + "learning_rate": 1.2350985674416405e-06, + "loss": 0.0438, + "num_input_tokens_seen": 29657848, + "step": 15143 + }, + { + "epoch": 2.0071570576540756, + "grad_norm": 1.993880033493042, + "learning_rate": 1.2347991540569432e-06, + "loss": 0.0147, + "num_input_tokens_seen": 29659848, + "step": 15144 + }, + { + "epoch": 2.0072895957587806, + "grad_norm": 5.006574630737305, + "learning_rate": 1.234499765066191e-06, + "loss": 0.0817, + "num_input_tokens_seen": 29661752, + "step": 15145 + }, + { + "epoch": 2.0074221338634857, + "grad_norm": 0.037379782646894455, + "learning_rate": 1.2342004004751556e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29663624, + "step": 15146 + }, + { + "epoch": 2.0075546719681907, + "grad_norm": 11.495149612426758, + "learning_rate": 1.2339010602896099e-06, + "loss": 0.2195, + "num_input_tokens_seen": 29665784, + "step": 15147 + }, + { + "epoch": 2.0076872100728957, + "grad_norm": 0.45331811904907227, + "learning_rate": 1.2336017445153259e-06, + "loss": 0.004, + "num_input_tokens_seen": 29667904, + "step": 15148 + }, + { + "epoch": 2.0078197481776012, + "grad_norm": 0.0663229376077652, + "learning_rate": 1.2333024531580737e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29669104, + "step": 15149 + }, + { + "epoch": 2.0079522862823063, + "grad_norm": 0.05696311593055725, + "learning_rate": 1.2330031862236243e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29671192, + "step": 15150 + }, + { + "epoch": 2.0080848243870113, + "grad_norm": 4.318670749664307, + "learning_rate": 1.2327039437177466e-06, + "loss": 0.084, + "num_input_tokens_seen": 29673240, + "step": 15151 + }, + { + "epoch": 2.0082173624917163, + "grad_norm": 6.141419887542725, + "learning_rate": 1.232404725646211e-06, + "loss": 0.1721, + "num_input_tokens_seen": 29676536, + "step": 15152 + }, + { + "epoch": 2.0083499005964214, + "grad_norm": 7.464241027832031, + "learning_rate": 1.232105532014788e-06, + "loss": 0.1398, + "num_input_tokens_seen": 29679320, + "step": 15153 + }, + { + "epoch": 2.0084824387011264, + "grad_norm": 6.127373218536377, + "learning_rate": 1.2318063628292446e-06, + "loss": 0.1356, + "num_input_tokens_seen": 29681480, + "step": 15154 + }, + { + "epoch": 2.008614976805832, + "grad_norm": 1.2671122550964355, + "learning_rate": 1.2315072180953498e-06, + "loss": 0.005, + "num_input_tokens_seen": 29682904, + "step": 15155 + }, + { + "epoch": 2.008747514910537, + "grad_norm": 2.4507052898406982, + "learning_rate": 1.2312080978188706e-06, + "loss": 0.0517, + "num_input_tokens_seen": 29684504, + "step": 15156 + }, + { + "epoch": 2.008880053015242, + "grad_norm": 6.647762775421143, + "learning_rate": 1.2309090020055737e-06, + "loss": 0.1557, + "num_input_tokens_seen": 29686880, + "step": 15157 + }, + { + "epoch": 2.009012591119947, + "grad_norm": 2.059262275695801, + "learning_rate": 1.2306099306612269e-06, + "loss": 0.0223, + "num_input_tokens_seen": 29688896, + "step": 15158 + }, + { + "epoch": 2.009145129224652, + "grad_norm": 9.299222946166992, + "learning_rate": 1.230310883791597e-06, + "loss": 0.0602, + "num_input_tokens_seen": 29690840, + "step": 15159 + }, + { + "epoch": 2.009277667329357, + "grad_norm": 0.022173378616571426, + "learning_rate": 1.2300118614024495e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29692296, + "step": 15160 + }, + { + "epoch": 2.009410205434062, + "grad_norm": 1.4448367357254028, + "learning_rate": 1.2297128634995491e-06, + "loss": 0.0052, + "num_input_tokens_seen": 29695232, + "step": 15161 + }, + { + "epoch": 2.0095427435387676, + "grad_norm": 0.004576769657433033, + "learning_rate": 1.2294138900886604e-06, + "loss": 0.0, + "num_input_tokens_seen": 29696816, + "step": 15162 + }, + { + "epoch": 2.0096752816434726, + "grad_norm": 0.49271130561828613, + "learning_rate": 1.2291149411755494e-06, + "loss": 0.0027, + "num_input_tokens_seen": 29698840, + "step": 15163 + }, + { + "epoch": 2.0098078197481777, + "grad_norm": 2.2824604511260986, + "learning_rate": 1.2288160167659777e-06, + "loss": 0.0253, + "num_input_tokens_seen": 29701192, + "step": 15164 + }, + { + "epoch": 2.0099403578528827, + "grad_norm": 0.44211632013320923, + "learning_rate": 1.2285171168657115e-06, + "loss": 0.0034, + "num_input_tokens_seen": 29703864, + "step": 15165 + }, + { + "epoch": 2.0100728959575878, + "grad_norm": 0.0071510993875563145, + "learning_rate": 1.2282182414805122e-06, + "loss": 0.0, + "num_input_tokens_seen": 29705888, + "step": 15166 + }, + { + "epoch": 2.010205434062293, + "grad_norm": 0.02814430743455887, + "learning_rate": 1.2279193906161419e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29707912, + "step": 15167 + }, + { + "epoch": 2.010337972166998, + "grad_norm": 1.4974178075790405, + "learning_rate": 1.227620564278364e-06, + "loss": 0.0208, + "num_input_tokens_seen": 29709648, + "step": 15168 + }, + { + "epoch": 2.0104705102717033, + "grad_norm": 3.9743356704711914, + "learning_rate": 1.2273217624729394e-06, + "loss": 0.0344, + "num_input_tokens_seen": 29711232, + "step": 15169 + }, + { + "epoch": 2.0106030483764084, + "grad_norm": 0.022412829101085663, + "learning_rate": 1.2270229852056282e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29712976, + "step": 15170 + }, + { + "epoch": 2.0107355864811134, + "grad_norm": 0.027235014364123344, + "learning_rate": 1.2267242324821933e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29714584, + "step": 15171 + }, + { + "epoch": 2.0108681245858184, + "grad_norm": 5.773441314697266, + "learning_rate": 1.2264255043083922e-06, + "loss": 0.0932, + "num_input_tokens_seen": 29716632, + "step": 15172 + }, + { + "epoch": 2.0110006626905235, + "grad_norm": 3.4036712646484375, + "learning_rate": 1.2261268006899871e-06, + "loss": 0.0605, + "num_input_tokens_seen": 29719256, + "step": 15173 + }, + { + "epoch": 2.0111332007952285, + "grad_norm": 6.906212329864502, + "learning_rate": 1.2258281216327362e-06, + "loss": 0.0501, + "num_input_tokens_seen": 29721216, + "step": 15174 + }, + { + "epoch": 2.0112657388999335, + "grad_norm": 0.5139371156692505, + "learning_rate": 1.2255294671423981e-06, + "loss": 0.0034, + "num_input_tokens_seen": 29722312, + "step": 15175 + }, + { + "epoch": 2.011398277004639, + "grad_norm": 7.2212324142456055, + "learning_rate": 1.2252308372247302e-06, + "loss": 0.1799, + "num_input_tokens_seen": 29724480, + "step": 15176 + }, + { + "epoch": 2.011530815109344, + "grad_norm": 0.012958239763975143, + "learning_rate": 1.2249322318854917e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29725984, + "step": 15177 + }, + { + "epoch": 2.011663353214049, + "grad_norm": 0.0588473379611969, + "learning_rate": 1.2246336511304387e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29727384, + "step": 15178 + }, + { + "epoch": 2.011795891318754, + "grad_norm": 4.8784332275390625, + "learning_rate": 1.22433509496533e-06, + "loss": 0.083, + "num_input_tokens_seen": 29729664, + "step": 15179 + }, + { + "epoch": 2.011928429423459, + "grad_norm": 1.375204086303711, + "learning_rate": 1.2240365633959204e-06, + "loss": 0.0118, + "num_input_tokens_seen": 29731392, + "step": 15180 + }, + { + "epoch": 2.012060967528164, + "grad_norm": 4.534610748291016, + "learning_rate": 1.2237380564279653e-06, + "loss": 0.0186, + "num_input_tokens_seen": 29733168, + "step": 15181 + }, + { + "epoch": 2.0121935056328693, + "grad_norm": 3.7775685787200928, + "learning_rate": 1.2234395740672214e-06, + "loss": 0.0965, + "num_input_tokens_seen": 29735376, + "step": 15182 + }, + { + "epoch": 2.0123260437375747, + "grad_norm": 0.049699317663908005, + "learning_rate": 1.2231411163194427e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29736832, + "step": 15183 + }, + { + "epoch": 2.0124585818422798, + "grad_norm": 0.007601501420140266, + "learning_rate": 1.222842683190385e-06, + "loss": 0.0, + "num_input_tokens_seen": 29738048, + "step": 15184 + }, + { + "epoch": 2.012591119946985, + "grad_norm": 0.006033395882695913, + "learning_rate": 1.2225442746858013e-06, + "loss": 0.0, + "num_input_tokens_seen": 29740464, + "step": 15185 + }, + { + "epoch": 2.01272365805169, + "grad_norm": 0.007894371636211872, + "learning_rate": 1.2222458908114454e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29741992, + "step": 15186 + }, + { + "epoch": 2.012856196156395, + "grad_norm": 5.792721271514893, + "learning_rate": 1.221947531573069e-06, + "loss": 0.0975, + "num_input_tokens_seen": 29743776, + "step": 15187 + }, + { + "epoch": 2.0129887342611, + "grad_norm": 0.027021728456020355, + "learning_rate": 1.2216491969764264e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29746424, + "step": 15188 + }, + { + "epoch": 2.013121272365805, + "grad_norm": 2.9402287006378174, + "learning_rate": 1.2213508870272697e-06, + "loss": 0.0246, + "num_input_tokens_seen": 29747968, + "step": 15189 + }, + { + "epoch": 2.0132538104705104, + "grad_norm": 0.02559376321732998, + "learning_rate": 1.22105260173135e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29749696, + "step": 15190 + }, + { + "epoch": 2.0133863485752155, + "grad_norm": 8.399367332458496, + "learning_rate": 1.2207543410944187e-06, + "loss": 0.0762, + "num_input_tokens_seen": 29752280, + "step": 15191 + }, + { + "epoch": 2.0135188866799205, + "grad_norm": 0.15359823405742645, + "learning_rate": 1.2204561051222257e-06, + "loss": 0.0016, + "num_input_tokens_seen": 29754736, + "step": 15192 + }, + { + "epoch": 2.0136514247846256, + "grad_norm": 0.07110943645238876, + "learning_rate": 1.2201578938205213e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29756904, + "step": 15193 + }, + { + "epoch": 2.0137839628893306, + "grad_norm": 2.5328383445739746, + "learning_rate": 1.2198597071950554e-06, + "loss": 0.0143, + "num_input_tokens_seen": 29758304, + "step": 15194 + }, + { + "epoch": 2.0139165009940356, + "grad_norm": 0.02865474298596382, + "learning_rate": 1.2195615452515786e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29759600, + "step": 15195 + }, + { + "epoch": 2.0140490390987407, + "grad_norm": 4.0343828201293945, + "learning_rate": 1.2192634079958383e-06, + "loss": 0.0431, + "num_input_tokens_seen": 29762208, + "step": 15196 + }, + { + "epoch": 2.014181577203446, + "grad_norm": 0.005436458624899387, + "learning_rate": 1.2189652954335831e-06, + "loss": 0.0, + "num_input_tokens_seen": 29764696, + "step": 15197 + }, + { + "epoch": 2.014314115308151, + "grad_norm": 6.861377716064453, + "learning_rate": 1.2186672075705597e-06, + "loss": 0.1206, + "num_input_tokens_seen": 29767304, + "step": 15198 + }, + { + "epoch": 2.0144466534128562, + "grad_norm": 0.002730043139308691, + "learning_rate": 1.2183691444125175e-06, + "loss": 0.0, + "num_input_tokens_seen": 29768368, + "step": 15199 + }, + { + "epoch": 2.0145791915175613, + "grad_norm": 2.558640480041504, + "learning_rate": 1.2180711059652014e-06, + "loss": 0.0122, + "num_input_tokens_seen": 29770232, + "step": 15200 + }, + { + "epoch": 2.0147117296222663, + "grad_norm": 7.908247470855713, + "learning_rate": 1.2177730922343596e-06, + "loss": 0.0613, + "num_input_tokens_seen": 29772016, + "step": 15201 + }, + { + "epoch": 2.0148442677269713, + "grad_norm": 4.929527759552002, + "learning_rate": 1.2174751032257377e-06, + "loss": 0.1274, + "num_input_tokens_seen": 29773888, + "step": 15202 + }, + { + "epoch": 2.014976805831677, + "grad_norm": 0.01971244625747204, + "learning_rate": 1.217177138945079e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29776472, + "step": 15203 + }, + { + "epoch": 2.015109343936382, + "grad_norm": 0.012376708909869194, + "learning_rate": 1.216879199398131e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29778960, + "step": 15204 + }, + { + "epoch": 2.015241882041087, + "grad_norm": 3.049663543701172, + "learning_rate": 1.2165812845906367e-06, + "loss": 0.0538, + "num_input_tokens_seen": 29780928, + "step": 15205 + }, + { + "epoch": 2.015374420145792, + "grad_norm": 2.2577626705169678, + "learning_rate": 1.2162833945283413e-06, + "loss": 0.0196, + "num_input_tokens_seen": 29783616, + "step": 15206 + }, + { + "epoch": 2.015506958250497, + "grad_norm": 0.9467397928237915, + "learning_rate": 1.2159855292169876e-06, + "loss": 0.0059, + "num_input_tokens_seen": 29785344, + "step": 15207 + }, + { + "epoch": 2.015639496355202, + "grad_norm": 0.0121595598757267, + "learning_rate": 1.2156876886623187e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29786688, + "step": 15208 + }, + { + "epoch": 2.015772034459907, + "grad_norm": 4.222128868103027, + "learning_rate": 1.215389872870076e-06, + "loss": 0.0808, + "num_input_tokens_seen": 29788960, + "step": 15209 + }, + { + "epoch": 2.0159045725646125, + "grad_norm": 0.03825254738330841, + "learning_rate": 1.215092081846004e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29790944, + "step": 15210 + }, + { + "epoch": 2.0160371106693176, + "grad_norm": 5.104211330413818, + "learning_rate": 1.2147943155958422e-06, + "loss": 0.1107, + "num_input_tokens_seen": 29792952, + "step": 15211 + }, + { + "epoch": 2.0161696487740226, + "grad_norm": 0.14616405963897705, + "learning_rate": 1.2144965741253334e-06, + "loss": 0.0013, + "num_input_tokens_seen": 29794592, + "step": 15212 + }, + { + "epoch": 2.0163021868787276, + "grad_norm": 7.3096418380737305, + "learning_rate": 1.2141988574402176e-06, + "loss": 0.2027, + "num_input_tokens_seen": 29796712, + "step": 15213 + }, + { + "epoch": 2.0164347249834327, + "grad_norm": 0.05767657235264778, + "learning_rate": 1.2139011655462338e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29798760, + "step": 15214 + }, + { + "epoch": 2.0165672630881377, + "grad_norm": 0.0084043825045228, + "learning_rate": 1.2136034984491239e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29800232, + "step": 15215 + }, + { + "epoch": 2.0166998011928428, + "grad_norm": 1.687228798866272, + "learning_rate": 1.2133058561546256e-06, + "loss": 0.0072, + "num_input_tokens_seen": 29802072, + "step": 15216 + }, + { + "epoch": 2.0168323392975482, + "grad_norm": 5.91296911239624, + "learning_rate": 1.2130082386684774e-06, + "loss": 0.0874, + "num_input_tokens_seen": 29804128, + "step": 15217 + }, + { + "epoch": 2.0169648774022533, + "grad_norm": 1.568162202835083, + "learning_rate": 1.212710645996419e-06, + "loss": 0.0155, + "num_input_tokens_seen": 29806688, + "step": 15218 + }, + { + "epoch": 2.0170974155069583, + "grad_norm": 0.6029535531997681, + "learning_rate": 1.2124130781441866e-06, + "loss": 0.0062, + "num_input_tokens_seen": 29807960, + "step": 15219 + }, + { + "epoch": 2.0172299536116634, + "grad_norm": 0.06386114656925201, + "learning_rate": 1.2121155351175192e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29809432, + "step": 15220 + }, + { + "epoch": 2.0173624917163684, + "grad_norm": 1.3042752742767334, + "learning_rate": 1.2118180169221528e-06, + "loss": 0.0114, + "num_input_tokens_seen": 29810968, + "step": 15221 + }, + { + "epoch": 2.0174950298210734, + "grad_norm": 0.684651792049408, + "learning_rate": 1.2115205235638236e-06, + "loss": 0.0041, + "num_input_tokens_seen": 29813104, + "step": 15222 + }, + { + "epoch": 2.0176275679257785, + "grad_norm": 0.15129369497299194, + "learning_rate": 1.2112230550482667e-06, + "loss": 0.0012, + "num_input_tokens_seen": 29815968, + "step": 15223 + }, + { + "epoch": 2.017760106030484, + "grad_norm": 4.362415790557861, + "learning_rate": 1.2109256113812184e-06, + "loss": 0.1207, + "num_input_tokens_seen": 29818456, + "step": 15224 + }, + { + "epoch": 2.017892644135189, + "grad_norm": 0.029975976794958115, + "learning_rate": 1.2106281925684143e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29821184, + "step": 15225 + }, + { + "epoch": 2.018025182239894, + "grad_norm": 0.04778642579913139, + "learning_rate": 1.2103307986155886e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29822928, + "step": 15226 + }, + { + "epoch": 2.018157720344599, + "grad_norm": 8.91598129272461, + "learning_rate": 1.2100334295284743e-06, + "loss": 0.1414, + "num_input_tokens_seen": 29824496, + "step": 15227 + }, + { + "epoch": 2.018290258449304, + "grad_norm": 3.7696890830993652, + "learning_rate": 1.2097360853128056e-06, + "loss": 0.0197, + "num_input_tokens_seen": 29826248, + "step": 15228 + }, + { + "epoch": 2.018422796554009, + "grad_norm": 1.7981632947921753, + "learning_rate": 1.2094387659743146e-06, + "loss": 0.0167, + "num_input_tokens_seen": 29827568, + "step": 15229 + }, + { + "epoch": 2.018555334658714, + "grad_norm": 0.0281238816678524, + "learning_rate": 1.2091414715187342e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29829200, + "step": 15230 + }, + { + "epoch": 2.0186878727634197, + "grad_norm": 7.779087066650391, + "learning_rate": 1.208844201951798e-06, + "loss": 0.0916, + "num_input_tokens_seen": 29831248, + "step": 15231 + }, + { + "epoch": 2.0188204108681247, + "grad_norm": 0.7851071953773499, + "learning_rate": 1.2085469572792358e-06, + "loss": 0.0051, + "num_input_tokens_seen": 29833504, + "step": 15232 + }, + { + "epoch": 2.0189529489728297, + "grad_norm": 3.720806837081909, + "learning_rate": 1.2082497375067794e-06, + "loss": 0.0078, + "num_input_tokens_seen": 29835680, + "step": 15233 + }, + { + "epoch": 2.0190854870775348, + "grad_norm": 9.002038955688477, + "learning_rate": 1.2079525426401584e-06, + "loss": 0.0302, + "num_input_tokens_seen": 29837360, + "step": 15234 + }, + { + "epoch": 2.01921802518224, + "grad_norm": 0.008532645180821419, + "learning_rate": 1.2076553726851037e-06, + "loss": 0.0, + "num_input_tokens_seen": 29838520, + "step": 15235 + }, + { + "epoch": 2.019350563286945, + "grad_norm": 1.1136425733566284, + "learning_rate": 1.2073582276473458e-06, + "loss": 0.0268, + "num_input_tokens_seen": 29840016, + "step": 15236 + }, + { + "epoch": 2.01948310139165, + "grad_norm": 0.3532464802265167, + "learning_rate": 1.207061107532613e-06, + "loss": 0.003, + "num_input_tokens_seen": 29842464, + "step": 15237 + }, + { + "epoch": 2.0196156394963554, + "grad_norm": 0.44632378220558167, + "learning_rate": 1.206764012346634e-06, + "loss": 0.001, + "num_input_tokens_seen": 29843464, + "step": 15238 + }, + { + "epoch": 2.0197481776010604, + "grad_norm": 0.03249475359916687, + "learning_rate": 1.2064669420951372e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29844944, + "step": 15239 + }, + { + "epoch": 2.0198807157057654, + "grad_norm": 0.2376423329114914, + "learning_rate": 1.206169896783849e-06, + "loss": 0.0012, + "num_input_tokens_seen": 29846344, + "step": 15240 + }, + { + "epoch": 2.0200132538104705, + "grad_norm": 6.868544101715088, + "learning_rate": 1.2058728764184976e-06, + "loss": 0.0905, + "num_input_tokens_seen": 29848288, + "step": 15241 + }, + { + "epoch": 2.0201457919151755, + "grad_norm": 1.6024513244628906, + "learning_rate": 1.2055758810048112e-06, + "loss": 0.0185, + "num_input_tokens_seen": 29850584, + "step": 15242 + }, + { + "epoch": 2.0202783300198806, + "grad_norm": 21.54218292236328, + "learning_rate": 1.2052789105485147e-06, + "loss": 0.1268, + "num_input_tokens_seen": 29852320, + "step": 15243 + }, + { + "epoch": 2.020410868124586, + "grad_norm": 7.852740287780762, + "learning_rate": 1.2049819650553337e-06, + "loss": 0.1137, + "num_input_tokens_seen": 29854552, + "step": 15244 + }, + { + "epoch": 2.020543406229291, + "grad_norm": 0.07821565121412277, + "learning_rate": 1.2046850445309931e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29856416, + "step": 15245 + }, + { + "epoch": 2.020675944333996, + "grad_norm": 0.07747553288936615, + "learning_rate": 1.2043881489812195e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29857760, + "step": 15246 + }, + { + "epoch": 2.020808482438701, + "grad_norm": 7.670420169830322, + "learning_rate": 1.204091278411735e-06, + "loss": 0.1363, + "num_input_tokens_seen": 29859568, + "step": 15247 + }, + { + "epoch": 2.020941020543406, + "grad_norm": 1.9448819160461426, + "learning_rate": 1.2037944328282658e-06, + "loss": 0.0176, + "num_input_tokens_seen": 29862856, + "step": 15248 + }, + { + "epoch": 2.0210735586481112, + "grad_norm": 4.692911624908447, + "learning_rate": 1.2034976122365342e-06, + "loss": 0.0864, + "num_input_tokens_seen": 29864464, + "step": 15249 + }, + { + "epoch": 2.0212060967528163, + "grad_norm": 2.484718084335327, + "learning_rate": 1.2032008166422619e-06, + "loss": 0.0264, + "num_input_tokens_seen": 29866120, + "step": 15250 + }, + { + "epoch": 2.0213386348575217, + "grad_norm": 0.4270928204059601, + "learning_rate": 1.202904046051173e-06, + "loss": 0.0013, + "num_input_tokens_seen": 29868520, + "step": 15251 + }, + { + "epoch": 2.021471172962227, + "grad_norm": 0.013615209609270096, + "learning_rate": 1.2026073004689898e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29870120, + "step": 15252 + }, + { + "epoch": 2.021603711066932, + "grad_norm": 0.7138726711273193, + "learning_rate": 1.2023105799014312e-06, + "loss": 0.0064, + "num_input_tokens_seen": 29872192, + "step": 15253 + }, + { + "epoch": 2.021736249171637, + "grad_norm": 0.44421058893203735, + "learning_rate": 1.2020138843542212e-06, + "loss": 0.0031, + "num_input_tokens_seen": 29874232, + "step": 15254 + }, + { + "epoch": 2.021868787276342, + "grad_norm": 2.6380679607391357, + "learning_rate": 1.201717213833078e-06, + "loss": 0.0705, + "num_input_tokens_seen": 29876648, + "step": 15255 + }, + { + "epoch": 2.022001325381047, + "grad_norm": 1.0653774738311768, + "learning_rate": 1.2014205683437233e-06, + "loss": 0.0068, + "num_input_tokens_seen": 29878928, + "step": 15256 + }, + { + "epoch": 2.022133863485752, + "grad_norm": 0.010241253301501274, + "learning_rate": 1.201123947891876e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29880376, + "step": 15257 + }, + { + "epoch": 2.0222664015904575, + "grad_norm": 0.19768106937408447, + "learning_rate": 1.200827352483254e-06, + "loss": 0.001, + "num_input_tokens_seen": 29882480, + "step": 15258 + }, + { + "epoch": 2.0223989396951625, + "grad_norm": 4.946951389312744, + "learning_rate": 1.200530782123578e-06, + "loss": 0.0185, + "num_input_tokens_seen": 29885456, + "step": 15259 + }, + { + "epoch": 2.0225314777998675, + "grad_norm": 0.0911523774266243, + "learning_rate": 1.2002342368185638e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29887768, + "step": 15260 + }, + { + "epoch": 2.0226640159045726, + "grad_norm": 2.6283979415893555, + "learning_rate": 1.1999377165739313e-06, + "loss": 0.0332, + "num_input_tokens_seen": 29890248, + "step": 15261 + }, + { + "epoch": 2.0227965540092776, + "grad_norm": 0.0077752284705638885, + "learning_rate": 1.1996412213953965e-06, + "loss": 0.0, + "num_input_tokens_seen": 29893032, + "step": 15262 + }, + { + "epoch": 2.0229290921139826, + "grad_norm": 7.464926719665527, + "learning_rate": 1.1993447512886762e-06, + "loss": 0.106, + "num_input_tokens_seen": 29895488, + "step": 15263 + }, + { + "epoch": 2.0230616302186877, + "grad_norm": 1.0570793151855469, + "learning_rate": 1.199048306259485e-06, + "loss": 0.0046, + "num_input_tokens_seen": 29897672, + "step": 15264 + }, + { + "epoch": 2.023194168323393, + "grad_norm": 7.703364372253418, + "learning_rate": 1.1987518863135411e-06, + "loss": 0.1396, + "num_input_tokens_seen": 29899144, + "step": 15265 + }, + { + "epoch": 2.023326706428098, + "grad_norm": 7.377545356750488, + "learning_rate": 1.1984554914565574e-06, + "loss": 0.0811, + "num_input_tokens_seen": 29901024, + "step": 15266 + }, + { + "epoch": 2.0234592445328032, + "grad_norm": 2.522902488708496, + "learning_rate": 1.198159121694251e-06, + "loss": 0.0191, + "num_input_tokens_seen": 29902280, + "step": 15267 + }, + { + "epoch": 2.0235917826375083, + "grad_norm": 0.2588520050048828, + "learning_rate": 1.1978627770323346e-06, + "loss": 0.0017, + "num_input_tokens_seen": 29904928, + "step": 15268 + }, + { + "epoch": 2.0237243207422133, + "grad_norm": 3.2792465686798096, + "learning_rate": 1.1975664574765223e-06, + "loss": 0.0315, + "num_input_tokens_seen": 29906792, + "step": 15269 + }, + { + "epoch": 2.0238568588469183, + "grad_norm": 2.2357795238494873, + "learning_rate": 1.1972701630325259e-06, + "loss": 0.0241, + "num_input_tokens_seen": 29908608, + "step": 15270 + }, + { + "epoch": 2.0239893969516234, + "grad_norm": 4.498013019561768, + "learning_rate": 1.19697389370606e-06, + "loss": 0.0515, + "num_input_tokens_seen": 29910512, + "step": 15271 + }, + { + "epoch": 2.024121935056329, + "grad_norm": 0.0038268158677965403, + "learning_rate": 1.1966776495028367e-06, + "loss": 0.0, + "num_input_tokens_seen": 29911696, + "step": 15272 + }, + { + "epoch": 2.024254473161034, + "grad_norm": 0.4202002286911011, + "learning_rate": 1.1963814304285678e-06, + "loss": 0.0013, + "num_input_tokens_seen": 29913736, + "step": 15273 + }, + { + "epoch": 2.024387011265739, + "grad_norm": 0.04044542461633682, + "learning_rate": 1.196085236488964e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29914976, + "step": 15274 + }, + { + "epoch": 2.024519549370444, + "grad_norm": 41.17549514770508, + "learning_rate": 1.195789067689737e-06, + "loss": 0.1119, + "num_input_tokens_seen": 29916816, + "step": 15275 + }, + { + "epoch": 2.024652087475149, + "grad_norm": 0.0474514402449131, + "learning_rate": 1.1954929240365948e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29918648, + "step": 15276 + }, + { + "epoch": 2.024784625579854, + "grad_norm": 4.464804172515869, + "learning_rate": 1.1951968055352492e-06, + "loss": 0.0194, + "num_input_tokens_seen": 29920696, + "step": 15277 + }, + { + "epoch": 2.024917163684559, + "grad_norm": 1.248387336730957, + "learning_rate": 1.1949007121914104e-06, + "loss": 0.0072, + "num_input_tokens_seen": 29922424, + "step": 15278 + }, + { + "epoch": 2.0250497017892646, + "grad_norm": 0.38243377208709717, + "learning_rate": 1.1946046440107862e-06, + "loss": 0.0018, + "num_input_tokens_seen": 29924016, + "step": 15279 + }, + { + "epoch": 2.0251822398939696, + "grad_norm": 0.020485827699303627, + "learning_rate": 1.194308600999085e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29925976, + "step": 15280 + }, + { + "epoch": 2.0253147779986747, + "grad_norm": 5.347994327545166, + "learning_rate": 1.1940125831620136e-06, + "loss": 0.0599, + "num_input_tokens_seen": 29928000, + "step": 15281 + }, + { + "epoch": 2.0254473161033797, + "grad_norm": 5.370848655700684, + "learning_rate": 1.1937165905052816e-06, + "loss": 0.0452, + "num_input_tokens_seen": 29929752, + "step": 15282 + }, + { + "epoch": 2.0255798542080847, + "grad_norm": 1.3163117170333862, + "learning_rate": 1.1934206230345941e-06, + "loss": 0.0034, + "num_input_tokens_seen": 29932064, + "step": 15283 + }, + { + "epoch": 2.0257123923127898, + "grad_norm": 23.513174057006836, + "learning_rate": 1.193124680755659e-06, + "loss": 0.0903, + "num_input_tokens_seen": 29933504, + "step": 15284 + }, + { + "epoch": 2.0258449304174952, + "grad_norm": 6.303351879119873, + "learning_rate": 1.192828763674182e-06, + "loss": 0.1034, + "num_input_tokens_seen": 29935928, + "step": 15285 + }, + { + "epoch": 2.0259774685222003, + "grad_norm": 0.9886231422424316, + "learning_rate": 1.192532871795867e-06, + "loss": 0.0022, + "num_input_tokens_seen": 29937720, + "step": 15286 + }, + { + "epoch": 2.0261100066269053, + "grad_norm": 0.08166089653968811, + "learning_rate": 1.1922370051264212e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29939936, + "step": 15287 + }, + { + "epoch": 2.0262425447316104, + "grad_norm": 0.05150807648897171, + "learning_rate": 1.1919411636715473e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29941608, + "step": 15288 + }, + { + "epoch": 2.0263750828363154, + "grad_norm": 0.008243517950177193, + "learning_rate": 1.1916453474369509e-06, + "loss": 0.0, + "num_input_tokens_seen": 29942688, + "step": 15289 + }, + { + "epoch": 2.0265076209410204, + "grad_norm": 2.652451515197754, + "learning_rate": 1.1913495564283347e-06, + "loss": 0.0262, + "num_input_tokens_seen": 29945032, + "step": 15290 + }, + { + "epoch": 2.0266401590457255, + "grad_norm": 0.046244293451309204, + "learning_rate": 1.1910537906514022e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29947072, + "step": 15291 + }, + { + "epoch": 2.026772697150431, + "grad_norm": 0.011096510104835033, + "learning_rate": 1.1907580501118543e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29948936, + "step": 15292 + }, + { + "epoch": 2.026905235255136, + "grad_norm": 0.0010619750246405602, + "learning_rate": 1.1904623348153957e-06, + "loss": 0.0, + "num_input_tokens_seen": 29950152, + "step": 15293 + }, + { + "epoch": 2.027037773359841, + "grad_norm": 7.358760356903076, + "learning_rate": 1.1901666447677254e-06, + "loss": 0.0592, + "num_input_tokens_seen": 29952048, + "step": 15294 + }, + { + "epoch": 2.027170311464546, + "grad_norm": 8.173836708068848, + "learning_rate": 1.1898709799745469e-06, + "loss": 0.1449, + "num_input_tokens_seen": 29954272, + "step": 15295 + }, + { + "epoch": 2.027302849569251, + "grad_norm": 3.8574378490448, + "learning_rate": 1.1895753404415597e-06, + "loss": 0.0348, + "num_input_tokens_seen": 29956792, + "step": 15296 + }, + { + "epoch": 2.027435387673956, + "grad_norm": 2.9293763637542725, + "learning_rate": 1.189279726174463e-06, + "loss": 0.0246, + "num_input_tokens_seen": 29958752, + "step": 15297 + }, + { + "epoch": 2.027567925778661, + "grad_norm": 0.022476427257061005, + "learning_rate": 1.1889841371789585e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29960248, + "step": 15298 + }, + { + "epoch": 2.0277004638833667, + "grad_norm": 8.384184837341309, + "learning_rate": 1.1886885734607439e-06, + "loss": 0.1421, + "num_input_tokens_seen": 29962328, + "step": 15299 + }, + { + "epoch": 2.0278330019880717, + "grad_norm": 7.027342796325684, + "learning_rate": 1.1883930350255177e-06, + "loss": 0.2152, + "num_input_tokens_seen": 29963808, + "step": 15300 + }, + { + "epoch": 2.0279655400927767, + "grad_norm": 4.785160541534424, + "learning_rate": 1.1880975218789795e-06, + "loss": 0.1047, + "num_input_tokens_seen": 29965368, + "step": 15301 + }, + { + "epoch": 2.028098078197482, + "grad_norm": 0.04877548664808273, + "learning_rate": 1.1878020340268247e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29966448, + "step": 15302 + }, + { + "epoch": 2.028230616302187, + "grad_norm": 3.3449134826660156, + "learning_rate": 1.1875065714747534e-06, + "loss": 0.0544, + "num_input_tokens_seen": 29968504, + "step": 15303 + }, + { + "epoch": 2.028363154406892, + "grad_norm": 0.007268261164426804, + "learning_rate": 1.1872111342284607e-06, + "loss": 0.0, + "num_input_tokens_seen": 29970248, + "step": 15304 + }, + { + "epoch": 2.028495692511597, + "grad_norm": 2.8656768798828125, + "learning_rate": 1.186915722293643e-06, + "loss": 0.045, + "num_input_tokens_seen": 29971792, + "step": 15305 + }, + { + "epoch": 2.0286282306163024, + "grad_norm": 2.714986801147461, + "learning_rate": 1.1866203356759951e-06, + "loss": 0.0388, + "num_input_tokens_seen": 29973912, + "step": 15306 + }, + { + "epoch": 2.0287607687210074, + "grad_norm": 3.7185399532318115, + "learning_rate": 1.186324974381213e-06, + "loss": 0.0388, + "num_input_tokens_seen": 29976600, + "step": 15307 + }, + { + "epoch": 2.0288933068257125, + "grad_norm": 3.9431533813476562, + "learning_rate": 1.1860296384149927e-06, + "loss": 0.0192, + "num_input_tokens_seen": 29978608, + "step": 15308 + }, + { + "epoch": 2.0290258449304175, + "grad_norm": 8.5753173828125, + "learning_rate": 1.1857343277830274e-06, + "loss": 0.1883, + "num_input_tokens_seen": 29980800, + "step": 15309 + }, + { + "epoch": 2.0291583830351225, + "grad_norm": 15.502911567687988, + "learning_rate": 1.1854390424910109e-06, + "loss": 0.0947, + "num_input_tokens_seen": 29982400, + "step": 15310 + }, + { + "epoch": 2.0292909211398276, + "grad_norm": 6.202790260314941, + "learning_rate": 1.1851437825446357e-06, + "loss": 0.108, + "num_input_tokens_seen": 29984176, + "step": 15311 + }, + { + "epoch": 2.0294234592445326, + "grad_norm": 1.4931821823120117, + "learning_rate": 1.1848485479495952e-06, + "loss": 0.0043, + "num_input_tokens_seen": 29985728, + "step": 15312 + }, + { + "epoch": 2.029555997349238, + "grad_norm": 6.15144157409668, + "learning_rate": 1.1845533387115833e-06, + "loss": 0.0126, + "num_input_tokens_seen": 29987344, + "step": 15313 + }, + { + "epoch": 2.029688535453943, + "grad_norm": 19.61886215209961, + "learning_rate": 1.1842581548362903e-06, + "loss": 0.065, + "num_input_tokens_seen": 29989896, + "step": 15314 + }, + { + "epoch": 2.029821073558648, + "grad_norm": 0.01945546269416809, + "learning_rate": 1.1839629963294078e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29991496, + "step": 15315 + }, + { + "epoch": 2.029953611663353, + "grad_norm": 11.86999225616455, + "learning_rate": 1.1836678631966264e-06, + "loss": 0.2258, + "num_input_tokens_seen": 29993552, + "step": 15316 + }, + { + "epoch": 2.0300861497680582, + "grad_norm": 0.04611857980489731, + "learning_rate": 1.1833727554436362e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29995008, + "step": 15317 + }, + { + "epoch": 2.0302186878727633, + "grad_norm": 0.006616382859647274, + "learning_rate": 1.183077673076127e-06, + "loss": 0.0, + "num_input_tokens_seen": 29996512, + "step": 15318 + }, + { + "epoch": 2.0303512259774683, + "grad_norm": 10.329608917236328, + "learning_rate": 1.1827826160997902e-06, + "loss": 0.1922, + "num_input_tokens_seen": 29998448, + "step": 15319 + }, + { + "epoch": 2.030483764082174, + "grad_norm": 3.6575441360473633, + "learning_rate": 1.1824875845203128e-06, + "loss": 0.0373, + "num_input_tokens_seen": 30000648, + "step": 15320 + }, + { + "epoch": 2.030616302186879, + "grad_norm": 4.689066410064697, + "learning_rate": 1.182192578343384e-06, + "loss": 0.0727, + "num_input_tokens_seen": 30002952, + "step": 15321 + }, + { + "epoch": 2.030748840291584, + "grad_norm": 0.13371823728084564, + "learning_rate": 1.1818975975746912e-06, + "loss": 0.0006, + "num_input_tokens_seen": 30005776, + "step": 15322 + }, + { + "epoch": 2.030881378396289, + "grad_norm": 0.005644764751195908, + "learning_rate": 1.1816026422199214e-06, + "loss": 0.0, + "num_input_tokens_seen": 30007320, + "step": 15323 + }, + { + "epoch": 2.031013916500994, + "grad_norm": 2.0594704151153564, + "learning_rate": 1.1813077122847621e-06, + "loss": 0.0107, + "num_input_tokens_seen": 30009336, + "step": 15324 + }, + { + "epoch": 2.031146454605699, + "grad_norm": 0.21792414784431458, + "learning_rate": 1.1810128077749007e-06, + "loss": 0.0015, + "num_input_tokens_seen": 30012256, + "step": 15325 + }, + { + "epoch": 2.031278992710404, + "grad_norm": 2.6742823123931885, + "learning_rate": 1.1807179286960222e-06, + "loss": 0.014, + "num_input_tokens_seen": 30014024, + "step": 15326 + }, + { + "epoch": 2.0314115308151095, + "grad_norm": 3.1119117736816406, + "learning_rate": 1.1804230750538123e-06, + "loss": 0.0187, + "num_input_tokens_seen": 30015544, + "step": 15327 + }, + { + "epoch": 2.0315440689198145, + "grad_norm": 0.002943409839645028, + "learning_rate": 1.1801282468539546e-06, + "loss": 0.0, + "num_input_tokens_seen": 30016928, + "step": 15328 + }, + { + "epoch": 2.0316766070245196, + "grad_norm": 7.745203971862793, + "learning_rate": 1.1798334441021362e-06, + "loss": 0.0868, + "num_input_tokens_seen": 30019240, + "step": 15329 + }, + { + "epoch": 2.0318091451292246, + "grad_norm": 6.1142168045043945, + "learning_rate": 1.1795386668040384e-06, + "loss": 0.0452, + "num_input_tokens_seen": 30021848, + "step": 15330 + }, + { + "epoch": 2.0319416832339297, + "grad_norm": 11.032805442810059, + "learning_rate": 1.1792439149653473e-06, + "loss": 0.1326, + "num_input_tokens_seen": 30023656, + "step": 15331 + }, + { + "epoch": 2.0320742213386347, + "grad_norm": 0.008492165245115757, + "learning_rate": 1.1789491885917446e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30025192, + "step": 15332 + }, + { + "epoch": 2.03220675944334, + "grad_norm": 11.665322303771973, + "learning_rate": 1.178654487688912e-06, + "loss": 0.1104, + "num_input_tokens_seen": 30027864, + "step": 15333 + }, + { + "epoch": 2.032339297548045, + "grad_norm": 0.021263157948851585, + "learning_rate": 1.1783598122625331e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30029488, + "step": 15334 + }, + { + "epoch": 2.0324718356527502, + "grad_norm": 0.06934729218482971, + "learning_rate": 1.178065162318289e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30031128, + "step": 15335 + }, + { + "epoch": 2.0326043737574553, + "grad_norm": 3.3151307106018066, + "learning_rate": 1.1777705378618596e-06, + "loss": 0.0805, + "num_input_tokens_seen": 30033104, + "step": 15336 + }, + { + "epoch": 2.0327369118621603, + "grad_norm": 0.015553489327430725, + "learning_rate": 1.1774759388989272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30034344, + "step": 15337 + }, + { + "epoch": 2.0328694499668654, + "grad_norm": 1.8725436925888062, + "learning_rate": 1.17718136543517e-06, + "loss": 0.0257, + "num_input_tokens_seen": 30035944, + "step": 15338 + }, + { + "epoch": 2.0330019880715704, + "grad_norm": 5.809375286102295, + "learning_rate": 1.17688681747627e-06, + "loss": 0.1169, + "num_input_tokens_seen": 30038672, + "step": 15339 + }, + { + "epoch": 2.033134526176276, + "grad_norm": 0.1271497756242752, + "learning_rate": 1.1765922950279044e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30040784, + "step": 15340 + }, + { + "epoch": 2.033267064280981, + "grad_norm": 2.8759517669677734, + "learning_rate": 1.1762977980957515e-06, + "loss": 0.0239, + "num_input_tokens_seen": 30043168, + "step": 15341 + }, + { + "epoch": 2.033399602385686, + "grad_norm": 0.804709255695343, + "learning_rate": 1.1760033266854915e-06, + "loss": 0.0053, + "num_input_tokens_seen": 30044808, + "step": 15342 + }, + { + "epoch": 2.033532140490391, + "grad_norm": 0.05708109959959984, + "learning_rate": 1.1757088808027997e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30046544, + "step": 15343 + }, + { + "epoch": 2.033664678595096, + "grad_norm": 0.03585457056760788, + "learning_rate": 1.1754144604533553e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30048896, + "step": 15344 + }, + { + "epoch": 2.033797216699801, + "grad_norm": 0.022247979417443275, + "learning_rate": 1.1751200656428334e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30050048, + "step": 15345 + }, + { + "epoch": 2.033929754804506, + "grad_norm": 5.2681732177734375, + "learning_rate": 1.1748256963769108e-06, + "loss": 0.0535, + "num_input_tokens_seen": 30051568, + "step": 15346 + }, + { + "epoch": 2.0340622929092116, + "grad_norm": 0.027139918878674507, + "learning_rate": 1.1745313526612623e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30052864, + "step": 15347 + }, + { + "epoch": 2.0341948310139166, + "grad_norm": 0.004139519762247801, + "learning_rate": 1.1742370345015644e-06, + "loss": 0.0, + "num_input_tokens_seen": 30054848, + "step": 15348 + }, + { + "epoch": 2.0343273691186217, + "grad_norm": 18.6748104095459, + "learning_rate": 1.1739427419034905e-06, + "loss": 0.2886, + "num_input_tokens_seen": 30055912, + "step": 15349 + }, + { + "epoch": 2.0344599072233267, + "grad_norm": 1.8263636827468872, + "learning_rate": 1.1736484748727158e-06, + "loss": 0.0225, + "num_input_tokens_seen": 30059152, + "step": 15350 + }, + { + "epoch": 2.0345924453280317, + "grad_norm": 5.624429702758789, + "learning_rate": 1.173354233414914e-06, + "loss": 0.0521, + "num_input_tokens_seen": 30061048, + "step": 15351 + }, + { + "epoch": 2.0347249834327368, + "grad_norm": 6.0545454025268555, + "learning_rate": 1.1730600175357574e-06, + "loss": 0.0436, + "num_input_tokens_seen": 30062432, + "step": 15352 + }, + { + "epoch": 2.034857521537442, + "grad_norm": 12.210949897766113, + "learning_rate": 1.1727658272409182e-06, + "loss": 0.0577, + "num_input_tokens_seen": 30064376, + "step": 15353 + }, + { + "epoch": 2.0349900596421473, + "grad_norm": 2.5179665088653564, + "learning_rate": 1.1724716625360693e-06, + "loss": 0.0192, + "num_input_tokens_seen": 30066808, + "step": 15354 + }, + { + "epoch": 2.0351225977468523, + "grad_norm": 0.8342695832252502, + "learning_rate": 1.172177523426884e-06, + "loss": 0.0075, + "num_input_tokens_seen": 30068480, + "step": 15355 + }, + { + "epoch": 2.0352551358515574, + "grad_norm": 3.4192352294921875, + "learning_rate": 1.1718834099190316e-06, + "loss": 0.0401, + "num_input_tokens_seen": 30070832, + "step": 15356 + }, + { + "epoch": 2.0353876739562624, + "grad_norm": 0.4294804036617279, + "learning_rate": 1.1715893220181834e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30073520, + "step": 15357 + }, + { + "epoch": 2.0355202120609674, + "grad_norm": 4.821839809417725, + "learning_rate": 1.1712952597300096e-06, + "loss": 0.0843, + "num_input_tokens_seen": 30075176, + "step": 15358 + }, + { + "epoch": 2.0356527501656725, + "grad_norm": 4.818764686584473, + "learning_rate": 1.171001223060179e-06, + "loss": 0.2097, + "num_input_tokens_seen": 30077112, + "step": 15359 + }, + { + "epoch": 2.0357852882703775, + "grad_norm": 4.719126224517822, + "learning_rate": 1.1707072120143614e-06, + "loss": 0.0727, + "num_input_tokens_seen": 30079016, + "step": 15360 + }, + { + "epoch": 2.035917826375083, + "grad_norm": 0.1781775951385498, + "learning_rate": 1.1704132265982267e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30082448, + "step": 15361 + }, + { + "epoch": 2.036050364479788, + "grad_norm": 0.010710245929658413, + "learning_rate": 1.1701192668174425e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30084792, + "step": 15362 + }, + { + "epoch": 2.036182902584493, + "grad_norm": 7.136807441711426, + "learning_rate": 1.169825332677676e-06, + "loss": 0.0495, + "num_input_tokens_seen": 30087312, + "step": 15363 + }, + { + "epoch": 2.036315440689198, + "grad_norm": 2.6020267009735107, + "learning_rate": 1.1695314241845937e-06, + "loss": 0.1133, + "num_input_tokens_seen": 30089120, + "step": 15364 + }, + { + "epoch": 2.036447978793903, + "grad_norm": 0.005258308723568916, + "learning_rate": 1.1692375413438637e-06, + "loss": 0.0, + "num_input_tokens_seen": 30090448, + "step": 15365 + }, + { + "epoch": 2.036580516898608, + "grad_norm": 13.674539566040039, + "learning_rate": 1.168943684161153e-06, + "loss": 0.3189, + "num_input_tokens_seen": 30092168, + "step": 15366 + }, + { + "epoch": 2.0367130550033137, + "grad_norm": 0.2764515280723572, + "learning_rate": 1.1686498526421258e-06, + "loss": 0.0014, + "num_input_tokens_seen": 30094032, + "step": 15367 + }, + { + "epoch": 2.0368455931080187, + "grad_norm": 5.22561502456665, + "learning_rate": 1.1683560467924482e-06, + "loss": 0.0812, + "num_input_tokens_seen": 30096536, + "step": 15368 + }, + { + "epoch": 2.0369781312127238, + "grad_norm": 4.668165683746338, + "learning_rate": 1.1680622666177837e-06, + "loss": 0.0279, + "num_input_tokens_seen": 30098408, + "step": 15369 + }, + { + "epoch": 2.037110669317429, + "grad_norm": 1.4709421396255493, + "learning_rate": 1.1677685121237985e-06, + "loss": 0.004, + "num_input_tokens_seen": 30100256, + "step": 15370 + }, + { + "epoch": 2.037243207422134, + "grad_norm": 5.9648942947387695, + "learning_rate": 1.1674747833161546e-06, + "loss": 0.0613, + "num_input_tokens_seen": 30102192, + "step": 15371 + }, + { + "epoch": 2.037375745526839, + "grad_norm": 0.2224637269973755, + "learning_rate": 1.1671810802005168e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30103496, + "step": 15372 + }, + { + "epoch": 2.037508283631544, + "grad_norm": 0.009925957769155502, + "learning_rate": 1.1668874027825475e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30104880, + "step": 15373 + }, + { + "epoch": 2.0376408217362494, + "grad_norm": 0.4790247082710266, + "learning_rate": 1.1665937510679076e-06, + "loss": 0.0039, + "num_input_tokens_seen": 30106464, + "step": 15374 + }, + { + "epoch": 2.0377733598409544, + "grad_norm": 0.19355347752571106, + "learning_rate": 1.1663001250622612e-06, + "loss": 0.0007, + "num_input_tokens_seen": 30107752, + "step": 15375 + }, + { + "epoch": 2.0379058979456595, + "grad_norm": 0.020875394344329834, + "learning_rate": 1.1660065247712685e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30109184, + "step": 15376 + }, + { + "epoch": 2.0380384360503645, + "grad_norm": 5.725100994110107, + "learning_rate": 1.165712950200589e-06, + "loss": 0.0322, + "num_input_tokens_seen": 30111824, + "step": 15377 + }, + { + "epoch": 2.0381709741550695, + "grad_norm": 2.8452649116516113, + "learning_rate": 1.1654194013558856e-06, + "loss": 0.0155, + "num_input_tokens_seen": 30113328, + "step": 15378 + }, + { + "epoch": 2.0383035122597746, + "grad_norm": 2.3905649185180664, + "learning_rate": 1.1651258782428165e-06, + "loss": 0.0407, + "num_input_tokens_seen": 30115192, + "step": 15379 + }, + { + "epoch": 2.0384360503644796, + "grad_norm": 8.178534507751465, + "learning_rate": 1.1648323808670405e-06, + "loss": 0.0886, + "num_input_tokens_seen": 30117032, + "step": 15380 + }, + { + "epoch": 2.038568588469185, + "grad_norm": 1.2329213619232178, + "learning_rate": 1.1645389092342186e-06, + "loss": 0.0078, + "num_input_tokens_seen": 30118664, + "step": 15381 + }, + { + "epoch": 2.03870112657389, + "grad_norm": 2.0993881225585938, + "learning_rate": 1.1642454633500074e-06, + "loss": 0.0167, + "num_input_tokens_seen": 30120672, + "step": 15382 + }, + { + "epoch": 2.038833664678595, + "grad_norm": 6.3968071937561035, + "learning_rate": 1.1639520432200642e-06, + "loss": 0.0933, + "num_input_tokens_seen": 30123200, + "step": 15383 + }, + { + "epoch": 2.0389662027833, + "grad_norm": 0.024023214355111122, + "learning_rate": 1.1636586488500485e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30124688, + "step": 15384 + }, + { + "epoch": 2.0390987408880052, + "grad_norm": 3.002664804458618, + "learning_rate": 1.163365280245615e-06, + "loss": 0.0438, + "num_input_tokens_seen": 30126192, + "step": 15385 + }, + { + "epoch": 2.0392312789927103, + "grad_norm": 6.3573503494262695, + "learning_rate": 1.1630719374124217e-06, + "loss": 0.0181, + "num_input_tokens_seen": 30127984, + "step": 15386 + }, + { + "epoch": 2.0393638170974153, + "grad_norm": 11.962425231933594, + "learning_rate": 1.1627786203561238e-06, + "loss": 0.2718, + "num_input_tokens_seen": 30129600, + "step": 15387 + }, + { + "epoch": 2.039496355202121, + "grad_norm": 0.06466907262802124, + "learning_rate": 1.1624853290823756e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30132280, + "step": 15388 + }, + { + "epoch": 2.039628893306826, + "grad_norm": 0.05370205640792847, + "learning_rate": 1.1621920635968342e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30133528, + "step": 15389 + }, + { + "epoch": 2.039761431411531, + "grad_norm": 2.077615976333618, + "learning_rate": 1.1618988239051516e-06, + "loss": 0.0109, + "num_input_tokens_seen": 30135600, + "step": 15390 + }, + { + "epoch": 2.039893969516236, + "grad_norm": 0.1612795740365982, + "learning_rate": 1.1616056100129836e-06, + "loss": 0.0017, + "num_input_tokens_seen": 30137016, + "step": 15391 + }, + { + "epoch": 2.040026507620941, + "grad_norm": 2.0692880153656006, + "learning_rate": 1.161312421925983e-06, + "loss": 0.0117, + "num_input_tokens_seen": 30138352, + "step": 15392 + }, + { + "epoch": 2.040159045725646, + "grad_norm": 1.9984077215194702, + "learning_rate": 1.161019259649802e-06, + "loss": 0.0212, + "num_input_tokens_seen": 30140160, + "step": 15393 + }, + { + "epoch": 2.040291583830351, + "grad_norm": 8.414917945861816, + "learning_rate": 1.160726123190093e-06, + "loss": 0.1568, + "num_input_tokens_seen": 30142336, + "step": 15394 + }, + { + "epoch": 2.0404241219350565, + "grad_norm": 0.40815141797065735, + "learning_rate": 1.160433012552508e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30144568, + "step": 15395 + }, + { + "epoch": 2.0405566600397615, + "grad_norm": 1.9453282356262207, + "learning_rate": 1.1601399277426995e-06, + "loss": 0.0163, + "num_input_tokens_seen": 30146416, + "step": 15396 + }, + { + "epoch": 2.0406891981444666, + "grad_norm": 1.9006175994873047, + "learning_rate": 1.1598468687663176e-06, + "loss": 0.0121, + "num_input_tokens_seen": 30148232, + "step": 15397 + }, + { + "epoch": 2.0408217362491716, + "grad_norm": 0.01095342356711626, + "learning_rate": 1.1595538356290126e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30149208, + "step": 15398 + }, + { + "epoch": 2.0409542743538767, + "grad_norm": 0.33900848031044006, + "learning_rate": 1.1592608283364343e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30152288, + "step": 15399 + }, + { + "epoch": 2.0410868124585817, + "grad_norm": 0.035532236099243164, + "learning_rate": 1.1589678468942314e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30154544, + "step": 15400 + }, + { + "epoch": 2.0412193505632867, + "grad_norm": 22.57343292236328, + "learning_rate": 1.1586748913080535e-06, + "loss": 0.2515, + "num_input_tokens_seen": 30157216, + "step": 15401 + }, + { + "epoch": 2.041351888667992, + "grad_norm": 0.033173151314258575, + "learning_rate": 1.15838196158355e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30159656, + "step": 15402 + }, + { + "epoch": 2.0414844267726973, + "grad_norm": 4.623154163360596, + "learning_rate": 1.1580890577263676e-06, + "loss": 0.0924, + "num_input_tokens_seen": 30161840, + "step": 15403 + }, + { + "epoch": 2.0416169648774023, + "grad_norm": 0.023964587599039078, + "learning_rate": 1.157796179742154e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30163008, + "step": 15404 + }, + { + "epoch": 2.0417495029821073, + "grad_norm": 2.778046131134033, + "learning_rate": 1.157503327636556e-06, + "loss": 0.0333, + "num_input_tokens_seen": 30164592, + "step": 15405 + }, + { + "epoch": 2.0418820410868124, + "grad_norm": 5.143064022064209, + "learning_rate": 1.1572105014152191e-06, + "loss": 0.0285, + "num_input_tokens_seen": 30166896, + "step": 15406 + }, + { + "epoch": 2.0420145791915174, + "grad_norm": 4.412442684173584, + "learning_rate": 1.1569177010837898e-06, + "loss": 0.0589, + "num_input_tokens_seen": 30169000, + "step": 15407 + }, + { + "epoch": 2.0421471172962224, + "grad_norm": 0.06809312850236893, + "learning_rate": 1.156624926647915e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30171584, + "step": 15408 + }, + { + "epoch": 2.042279655400928, + "grad_norm": 1.3891651630401611, + "learning_rate": 1.1563321781132382e-06, + "loss": 0.01, + "num_input_tokens_seen": 30173872, + "step": 15409 + }, + { + "epoch": 2.042412193505633, + "grad_norm": 3.154660940170288, + "learning_rate": 1.156039455485404e-06, + "loss": 0.0681, + "num_input_tokens_seen": 30175920, + "step": 15410 + }, + { + "epoch": 2.042544731610338, + "grad_norm": 0.14920218288898468, + "learning_rate": 1.1557467587700554e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30177496, + "step": 15411 + }, + { + "epoch": 2.042677269715043, + "grad_norm": 0.16647225618362427, + "learning_rate": 1.1554540879728377e-06, + "loss": 0.001, + "num_input_tokens_seen": 30179216, + "step": 15412 + }, + { + "epoch": 2.042809807819748, + "grad_norm": 8.918163299560547, + "learning_rate": 1.1551614430993915e-06, + "loss": 0.0918, + "num_input_tokens_seen": 30181696, + "step": 15413 + }, + { + "epoch": 2.042942345924453, + "grad_norm": 0.14532943069934845, + "learning_rate": 1.1548688241553617e-06, + "loss": 0.0006, + "num_input_tokens_seen": 30183464, + "step": 15414 + }, + { + "epoch": 2.0430748840291586, + "grad_norm": 2.7827036380767822, + "learning_rate": 1.1545762311463887e-06, + "loss": 0.0224, + "num_input_tokens_seen": 30185928, + "step": 15415 + }, + { + "epoch": 2.0432074221338636, + "grad_norm": 9.949211120605469, + "learning_rate": 1.1542836640781133e-06, + "loss": 0.1479, + "num_input_tokens_seen": 30187944, + "step": 15416 + }, + { + "epoch": 2.0433399602385687, + "grad_norm": 0.08917324244976044, + "learning_rate": 1.1539911229561779e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30189712, + "step": 15417 + }, + { + "epoch": 2.0434724983432737, + "grad_norm": 10.60329532623291, + "learning_rate": 1.1536986077862217e-06, + "loss": 0.0888, + "num_input_tokens_seen": 30191384, + "step": 15418 + }, + { + "epoch": 2.0436050364479788, + "grad_norm": 1.9410332441329956, + "learning_rate": 1.1534061185738856e-06, + "loss": 0.0221, + "num_input_tokens_seen": 30193528, + "step": 15419 + }, + { + "epoch": 2.043737574552684, + "grad_norm": 3.2017059326171875, + "learning_rate": 1.1531136553248087e-06, + "loss": 0.0387, + "num_input_tokens_seen": 30196168, + "step": 15420 + }, + { + "epoch": 2.043870112657389, + "grad_norm": 9.080785751342773, + "learning_rate": 1.1528212180446288e-06, + "loss": 0.0347, + "num_input_tokens_seen": 30198264, + "step": 15421 + }, + { + "epoch": 2.0440026507620943, + "grad_norm": 2.7377426624298096, + "learning_rate": 1.1525288067389861e-06, + "loss": 0.0615, + "num_input_tokens_seen": 30199400, + "step": 15422 + }, + { + "epoch": 2.0441351888667993, + "grad_norm": 0.007506837602704763, + "learning_rate": 1.1522364214135175e-06, + "loss": 0.0, + "num_input_tokens_seen": 30200568, + "step": 15423 + }, + { + "epoch": 2.0442677269715044, + "grad_norm": 0.007028147578239441, + "learning_rate": 1.1519440620738597e-06, + "loss": 0.0, + "num_input_tokens_seen": 30201848, + "step": 15424 + }, + { + "epoch": 2.0444002650762094, + "grad_norm": 2.7612202167510986, + "learning_rate": 1.1516517287256512e-06, + "loss": 0.0168, + "num_input_tokens_seen": 30204040, + "step": 15425 + }, + { + "epoch": 2.0445328031809145, + "grad_norm": 0.12472488731145859, + "learning_rate": 1.1513594213745266e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30205464, + "step": 15426 + }, + { + "epoch": 2.0446653412856195, + "grad_norm": 0.03016464225947857, + "learning_rate": 1.1510671400261237e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30207496, + "step": 15427 + }, + { + "epoch": 2.0447978793903245, + "grad_norm": 5.654534816741943, + "learning_rate": 1.150774884686077e-06, + "loss": 0.0939, + "num_input_tokens_seen": 30209024, + "step": 15428 + }, + { + "epoch": 2.04493041749503, + "grad_norm": 2.3443603515625, + "learning_rate": 1.1504826553600209e-06, + "loss": 0.0158, + "num_input_tokens_seen": 30211512, + "step": 15429 + }, + { + "epoch": 2.045062955599735, + "grad_norm": 6.268019199371338, + "learning_rate": 1.1501904520535898e-06, + "loss": 0.0263, + "num_input_tokens_seen": 30213200, + "step": 15430 + }, + { + "epoch": 2.04519549370444, + "grad_norm": 0.08043542504310608, + "learning_rate": 1.1498982747724177e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30215480, + "step": 15431 + }, + { + "epoch": 2.045328031809145, + "grad_norm": 0.059432096779346466, + "learning_rate": 1.1496061235221393e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30217360, + "step": 15432 + }, + { + "epoch": 2.04546056991385, + "grad_norm": 0.03536738455295563, + "learning_rate": 1.1493139983083862e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30218544, + "step": 15433 + }, + { + "epoch": 2.045593108018555, + "grad_norm": 4.008764743804932, + "learning_rate": 1.149021899136791e-06, + "loss": 0.0735, + "num_input_tokens_seen": 30220376, + "step": 15434 + }, + { + "epoch": 2.0457256461232602, + "grad_norm": 0.033605098724365234, + "learning_rate": 1.148729826012986e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30222848, + "step": 15435 + }, + { + "epoch": 2.0458581842279657, + "grad_norm": 0.011303989216685295, + "learning_rate": 1.1484377789426006e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30224120, + "step": 15436 + }, + { + "epoch": 2.0459907223326708, + "grad_norm": 0.6575780510902405, + "learning_rate": 1.1481457579312678e-06, + "loss": 0.0018, + "num_input_tokens_seen": 30226472, + "step": 15437 + }, + { + "epoch": 2.046123260437376, + "grad_norm": 0.8789747953414917, + "learning_rate": 1.1478537629846182e-06, + "loss": 0.0047, + "num_input_tokens_seen": 30227880, + "step": 15438 + }, + { + "epoch": 2.046255798542081, + "grad_norm": 7.1446919441223145, + "learning_rate": 1.1475617941082806e-06, + "loss": 0.1004, + "num_input_tokens_seen": 30229840, + "step": 15439 + }, + { + "epoch": 2.046388336646786, + "grad_norm": 0.6669303178787231, + "learning_rate": 1.1472698513078848e-06, + "loss": 0.0028, + "num_input_tokens_seen": 30231168, + "step": 15440 + }, + { + "epoch": 2.046520874751491, + "grad_norm": 0.5729780197143555, + "learning_rate": 1.1469779345890583e-06, + "loss": 0.0028, + "num_input_tokens_seen": 30233496, + "step": 15441 + }, + { + "epoch": 2.046653412856196, + "grad_norm": 0.06405214220285416, + "learning_rate": 1.1466860439574306e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30234848, + "step": 15442 + }, + { + "epoch": 2.0467859509609014, + "grad_norm": 6.955703258514404, + "learning_rate": 1.146394179418631e-06, + "loss": 0.0564, + "num_input_tokens_seen": 30236880, + "step": 15443 + }, + { + "epoch": 2.0469184890656065, + "grad_norm": 5.256700038909912, + "learning_rate": 1.146102340978285e-06, + "loss": 0.1062, + "num_input_tokens_seen": 30238968, + "step": 15444 + }, + { + "epoch": 2.0470510271703115, + "grad_norm": 16.536304473876953, + "learning_rate": 1.1458105286420202e-06, + "loss": 0.186, + "num_input_tokens_seen": 30240384, + "step": 15445 + }, + { + "epoch": 2.0471835652750165, + "grad_norm": 3.872830867767334, + "learning_rate": 1.1455187424154621e-06, + "loss": 0.0179, + "num_input_tokens_seen": 30242088, + "step": 15446 + }, + { + "epoch": 2.0473161033797216, + "grad_norm": 0.3322814106941223, + "learning_rate": 1.1452269823042363e-06, + "loss": 0.0021, + "num_input_tokens_seen": 30243600, + "step": 15447 + }, + { + "epoch": 2.0474486414844266, + "grad_norm": 0.013216373510658741, + "learning_rate": 1.1449352483139693e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30246392, + "step": 15448 + }, + { + "epoch": 2.0475811795891317, + "grad_norm": 0.015294334851205349, + "learning_rate": 1.144643540450286e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30247912, + "step": 15449 + }, + { + "epoch": 2.047713717693837, + "grad_norm": 0.11774849146604538, + "learning_rate": 1.1443518587188104e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30250704, + "step": 15450 + }, + { + "epoch": 2.047846255798542, + "grad_norm": 0.2029794603586197, + "learning_rate": 1.1440602031251662e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30252040, + "step": 15451 + }, + { + "epoch": 2.047978793903247, + "grad_norm": 4.941562175750732, + "learning_rate": 1.143768573674976e-06, + "loss": 0.0869, + "num_input_tokens_seen": 30253912, + "step": 15452 + }, + { + "epoch": 2.0481113320079523, + "grad_norm": 0.008615760132670403, + "learning_rate": 1.143476970373864e-06, + "loss": 0.0, + "num_input_tokens_seen": 30255840, + "step": 15453 + }, + { + "epoch": 2.0482438701126573, + "grad_norm": 0.020869944244623184, + "learning_rate": 1.1431853932274508e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30257608, + "step": 15454 + }, + { + "epoch": 2.0483764082173623, + "grad_norm": 3.7428441047668457, + "learning_rate": 1.1428938422413606e-06, + "loss": 0.0487, + "num_input_tokens_seen": 30259896, + "step": 15455 + }, + { + "epoch": 2.048508946322068, + "grad_norm": 1.587575078010559, + "learning_rate": 1.1426023174212129e-06, + "loss": 0.0066, + "num_input_tokens_seen": 30261880, + "step": 15456 + }, + { + "epoch": 2.048641484426773, + "grad_norm": 0.0302698016166687, + "learning_rate": 1.1423108187726282e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30263880, + "step": 15457 + }, + { + "epoch": 2.048774022531478, + "grad_norm": 2.4072816371917725, + "learning_rate": 1.1420193463012283e-06, + "loss": 0.0148, + "num_input_tokens_seen": 30265400, + "step": 15458 + }, + { + "epoch": 2.048906560636183, + "grad_norm": 1.6232753992080688, + "learning_rate": 1.1417279000126322e-06, + "loss": 0.0291, + "num_input_tokens_seen": 30266712, + "step": 15459 + }, + { + "epoch": 2.049039098740888, + "grad_norm": 0.09677279740571976, + "learning_rate": 1.1414364799124583e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30268440, + "step": 15460 + }, + { + "epoch": 2.049171636845593, + "grad_norm": 5.05303955078125, + "learning_rate": 1.1411450860063276e-06, + "loss": 0.1457, + "num_input_tokens_seen": 30271320, + "step": 15461 + }, + { + "epoch": 2.049304174950298, + "grad_norm": 2.8378937244415283, + "learning_rate": 1.1408537182998566e-06, + "loss": 0.0142, + "num_input_tokens_seen": 30272864, + "step": 15462 + }, + { + "epoch": 2.0494367130550035, + "grad_norm": 0.013245287351310253, + "learning_rate": 1.140562376798663e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30274024, + "step": 15463 + }, + { + "epoch": 2.0495692511597086, + "grad_norm": 13.191045761108398, + "learning_rate": 1.140271061508365e-06, + "loss": 0.2502, + "num_input_tokens_seen": 30276216, + "step": 15464 + }, + { + "epoch": 2.0497017892644136, + "grad_norm": 0.01051954086869955, + "learning_rate": 1.1399797724345796e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30278240, + "step": 15465 + }, + { + "epoch": 2.0498343273691186, + "grad_norm": 4.330178260803223, + "learning_rate": 1.139688509582921e-06, + "loss": 0.0488, + "num_input_tokens_seen": 30280528, + "step": 15466 + }, + { + "epoch": 2.0499668654738237, + "grad_norm": 7.327389717102051, + "learning_rate": 1.1393972729590074e-06, + "loss": 0.114, + "num_input_tokens_seen": 30282336, + "step": 15467 + }, + { + "epoch": 2.0500994035785287, + "grad_norm": 0.01825900934636593, + "learning_rate": 1.1391060625684525e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30284048, + "step": 15468 + }, + { + "epoch": 2.0502319416832337, + "grad_norm": 0.23606400191783905, + "learning_rate": 1.1388148784168721e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30286488, + "step": 15469 + }, + { + "epoch": 2.0503644797879392, + "grad_norm": 4.142344951629639, + "learning_rate": 1.1385237205098798e-06, + "loss": 0.0571, + "num_input_tokens_seen": 30289064, + "step": 15470 + }, + { + "epoch": 2.0504970178926443, + "grad_norm": 4.883716106414795, + "learning_rate": 1.1382325888530888e-06, + "loss": 0.0405, + "num_input_tokens_seen": 30291088, + "step": 15471 + }, + { + "epoch": 2.0506295559973493, + "grad_norm": 0.017013655975461006, + "learning_rate": 1.1379414834521135e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30293072, + "step": 15472 + }, + { + "epoch": 2.0507620941020543, + "grad_norm": 8.204032897949219, + "learning_rate": 1.1376504043125653e-06, + "loss": 0.0763, + "num_input_tokens_seen": 30294864, + "step": 15473 + }, + { + "epoch": 2.0508946322067594, + "grad_norm": 0.7804144620895386, + "learning_rate": 1.137359351440058e-06, + "loss": 0.0048, + "num_input_tokens_seen": 30296696, + "step": 15474 + }, + { + "epoch": 2.0510271703114644, + "grad_norm": 7.004912376403809, + "learning_rate": 1.1370683248402022e-06, + "loss": 0.0242, + "num_input_tokens_seen": 30298160, + "step": 15475 + }, + { + "epoch": 2.0511597084161695, + "grad_norm": 5.126420974731445, + "learning_rate": 1.1367773245186099e-06, + "loss": 0.0514, + "num_input_tokens_seen": 30299824, + "step": 15476 + }, + { + "epoch": 2.051292246520875, + "grad_norm": 0.9875059723854065, + "learning_rate": 1.13648635048089e-06, + "loss": 0.0079, + "num_input_tokens_seen": 30301712, + "step": 15477 + }, + { + "epoch": 2.05142478462558, + "grad_norm": 4.170960426330566, + "learning_rate": 1.136195402732654e-06, + "loss": 0.0148, + "num_input_tokens_seen": 30303296, + "step": 15478 + }, + { + "epoch": 2.051557322730285, + "grad_norm": 6.785438060760498, + "learning_rate": 1.135904481279512e-06, + "loss": 0.0868, + "num_input_tokens_seen": 30306048, + "step": 15479 + }, + { + "epoch": 2.05168986083499, + "grad_norm": 0.008930460549890995, + "learning_rate": 1.135613586127073e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30307528, + "step": 15480 + }, + { + "epoch": 2.051822398939695, + "grad_norm": 0.007853156886994839, + "learning_rate": 1.1353227172809453e-06, + "loss": 0.0, + "num_input_tokens_seen": 30308824, + "step": 15481 + }, + { + "epoch": 2.0519549370444, + "grad_norm": 0.020774422213435173, + "learning_rate": 1.135031874746737e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30310824, + "step": 15482 + }, + { + "epoch": 2.052087475149105, + "grad_norm": 5.407145023345947, + "learning_rate": 1.1347410585300548e-06, + "loss": 0.1288, + "num_input_tokens_seen": 30312184, + "step": 15483 + }, + { + "epoch": 2.0522200132538106, + "grad_norm": 12.113182067871094, + "learning_rate": 1.1344502686365068e-06, + "loss": 0.4789, + "num_input_tokens_seen": 30315592, + "step": 15484 + }, + { + "epoch": 2.0523525513585157, + "grad_norm": 0.30816036462783813, + "learning_rate": 1.1341595050717007e-06, + "loss": 0.0025, + "num_input_tokens_seen": 30317504, + "step": 15485 + }, + { + "epoch": 2.0524850894632207, + "grad_norm": 0.20900918543338776, + "learning_rate": 1.1338687678412415e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30319048, + "step": 15486 + }, + { + "epoch": 2.0526176275679258, + "grad_norm": 2.184577226638794, + "learning_rate": 1.133578056950735e-06, + "loss": 0.0158, + "num_input_tokens_seen": 30321536, + "step": 15487 + }, + { + "epoch": 2.052750165672631, + "grad_norm": 11.88760757446289, + "learning_rate": 1.1332873724057855e-06, + "loss": 0.2146, + "num_input_tokens_seen": 30324288, + "step": 15488 + }, + { + "epoch": 2.052882703777336, + "grad_norm": 2.711827516555786, + "learning_rate": 1.1329967142119987e-06, + "loss": 0.0231, + "num_input_tokens_seen": 30326168, + "step": 15489 + }, + { + "epoch": 2.053015241882041, + "grad_norm": 0.0417311005294323, + "learning_rate": 1.1327060823749781e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30328504, + "step": 15490 + }, + { + "epoch": 2.0531477799867464, + "grad_norm": 0.04743383079767227, + "learning_rate": 1.1324154769003278e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30331040, + "step": 15491 + }, + { + "epoch": 2.0532803180914514, + "grad_norm": 7.717831134796143, + "learning_rate": 1.1321248977936507e-06, + "loss": 0.1109, + "num_input_tokens_seen": 30333448, + "step": 15492 + }, + { + "epoch": 2.0534128561961564, + "grad_norm": 5.353625297546387, + "learning_rate": 1.1318343450605494e-06, + "loss": 0.0681, + "num_input_tokens_seen": 30335584, + "step": 15493 + }, + { + "epoch": 2.0535453943008615, + "grad_norm": 0.005502821411937475, + "learning_rate": 1.1315438187066248e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30337128, + "step": 15494 + }, + { + "epoch": 2.0536779324055665, + "grad_norm": 0.4938804805278778, + "learning_rate": 1.1312533187374791e-06, + "loss": 0.0019, + "num_input_tokens_seen": 30339712, + "step": 15495 + }, + { + "epoch": 2.0538104705102715, + "grad_norm": 0.006141394376754761, + "learning_rate": 1.1309628451587148e-06, + "loss": 0.0, + "num_input_tokens_seen": 30340648, + "step": 15496 + }, + { + "epoch": 2.0539430086149766, + "grad_norm": 0.20575563609600067, + "learning_rate": 1.1306723979759312e-06, + "loss": 0.001, + "num_input_tokens_seen": 30342432, + "step": 15497 + }, + { + "epoch": 2.054075546719682, + "grad_norm": 5.541965484619141, + "learning_rate": 1.1303819771947286e-06, + "loss": 0.1498, + "num_input_tokens_seen": 30344944, + "step": 15498 + }, + { + "epoch": 2.054208084824387, + "grad_norm": 2.4689931869506836, + "learning_rate": 1.1300915828207054e-06, + "loss": 0.0327, + "num_input_tokens_seen": 30346720, + "step": 15499 + }, + { + "epoch": 2.054340622929092, + "grad_norm": 0.0040749190375208855, + "learning_rate": 1.1298012148594622e-06, + "loss": 0.0, + "num_input_tokens_seen": 30347888, + "step": 15500 + }, + { + "epoch": 2.054473161033797, + "grad_norm": 0.02767675742506981, + "learning_rate": 1.1295108733165962e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30349184, + "step": 15501 + }, + { + "epoch": 2.054605699138502, + "grad_norm": 11.09276294708252, + "learning_rate": 1.129220558197707e-06, + "loss": 0.1451, + "num_input_tokens_seen": 30351272, + "step": 15502 + }, + { + "epoch": 2.0547382372432073, + "grad_norm": 11.46237850189209, + "learning_rate": 1.128930269508391e-06, + "loss": 0.1995, + "num_input_tokens_seen": 30353744, + "step": 15503 + }, + { + "epoch": 2.0548707753479127, + "grad_norm": 6.3047194480896, + "learning_rate": 1.1286400072542442e-06, + "loss": 0.02, + "num_input_tokens_seen": 30355888, + "step": 15504 + }, + { + "epoch": 2.0550033134526178, + "grad_norm": 0.3586597442626953, + "learning_rate": 1.128349771440865e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30358368, + "step": 15505 + }, + { + "epoch": 2.055135851557323, + "grad_norm": 1.7006893157958984, + "learning_rate": 1.1280595620738485e-06, + "loss": 0.0076, + "num_input_tokens_seen": 30360104, + "step": 15506 + }, + { + "epoch": 2.055268389662028, + "grad_norm": 0.008015359751880169, + "learning_rate": 1.1277693791587893e-06, + "loss": 0.0, + "num_input_tokens_seen": 30361744, + "step": 15507 + }, + { + "epoch": 2.055400927766733, + "grad_norm": 5.141878604888916, + "learning_rate": 1.127479222701284e-06, + "loss": 0.0734, + "num_input_tokens_seen": 30363432, + "step": 15508 + }, + { + "epoch": 2.055533465871438, + "grad_norm": 6.357543468475342, + "learning_rate": 1.127189092706925e-06, + "loss": 0.0214, + "num_input_tokens_seen": 30364920, + "step": 15509 + }, + { + "epoch": 2.055666003976143, + "grad_norm": 0.00899139791727066, + "learning_rate": 1.1268989891813085e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30366640, + "step": 15510 + }, + { + "epoch": 2.0557985420808484, + "grad_norm": 3.8238232135772705, + "learning_rate": 1.1266089121300266e-06, + "loss": 0.0286, + "num_input_tokens_seen": 30368456, + "step": 15511 + }, + { + "epoch": 2.0559310801855535, + "grad_norm": 3.2958567142486572, + "learning_rate": 1.1263188615586727e-06, + "loss": 0.048, + "num_input_tokens_seen": 30369848, + "step": 15512 + }, + { + "epoch": 2.0560636182902585, + "grad_norm": 4.718137741088867, + "learning_rate": 1.1260288374728375e-06, + "loss": 0.0691, + "num_input_tokens_seen": 30372616, + "step": 15513 + }, + { + "epoch": 2.0561961563949636, + "grad_norm": 3.1013102531433105, + "learning_rate": 1.125738839878114e-06, + "loss": 0.0253, + "num_input_tokens_seen": 30374704, + "step": 15514 + }, + { + "epoch": 2.0563286944996686, + "grad_norm": 0.003794013289734721, + "learning_rate": 1.1254488687800952e-06, + "loss": 0.0, + "num_input_tokens_seen": 30376192, + "step": 15515 + }, + { + "epoch": 2.0564612326043736, + "grad_norm": 30.242639541625977, + "learning_rate": 1.1251589241843702e-06, + "loss": 0.0751, + "num_input_tokens_seen": 30377376, + "step": 15516 + }, + { + "epoch": 2.0565937707090787, + "grad_norm": 0.0033865952864289284, + "learning_rate": 1.1248690060965294e-06, + "loss": 0.0, + "num_input_tokens_seen": 30378576, + "step": 15517 + }, + { + "epoch": 2.056726308813784, + "grad_norm": 0.4592157304286957, + "learning_rate": 1.1245791145221632e-06, + "loss": 0.0031, + "num_input_tokens_seen": 30380880, + "step": 15518 + }, + { + "epoch": 2.056858846918489, + "grad_norm": 0.007732014171779156, + "learning_rate": 1.1242892494668592e-06, + "loss": 0.0, + "num_input_tokens_seen": 30382664, + "step": 15519 + }, + { + "epoch": 2.0569913850231942, + "grad_norm": 1.5622478723526, + "learning_rate": 1.1239994109362079e-06, + "loss": 0.0083, + "num_input_tokens_seen": 30384704, + "step": 15520 + }, + { + "epoch": 2.0571239231278993, + "grad_norm": 7.317628383636475, + "learning_rate": 1.123709598935798e-06, + "loss": 0.0685, + "num_input_tokens_seen": 30387576, + "step": 15521 + }, + { + "epoch": 2.0572564612326043, + "grad_norm": 4.161335468292236, + "learning_rate": 1.1234198134712162e-06, + "loss": 0.0629, + "num_input_tokens_seen": 30389448, + "step": 15522 + }, + { + "epoch": 2.0573889993373093, + "grad_norm": 9.382643699645996, + "learning_rate": 1.1231300545480505e-06, + "loss": 0.0559, + "num_input_tokens_seen": 30391792, + "step": 15523 + }, + { + "epoch": 2.0575215374420144, + "grad_norm": 5.019509315490723, + "learning_rate": 1.122840322171886e-06, + "loss": 0.0602, + "num_input_tokens_seen": 30393288, + "step": 15524 + }, + { + "epoch": 2.05765407554672, + "grad_norm": 0.18929769098758698, + "learning_rate": 1.1225506163483102e-06, + "loss": 0.0014, + "num_input_tokens_seen": 30394712, + "step": 15525 + }, + { + "epoch": 2.057786613651425, + "grad_norm": 10.043717384338379, + "learning_rate": 1.1222609370829096e-06, + "loss": 0.091, + "num_input_tokens_seen": 30397232, + "step": 15526 + }, + { + "epoch": 2.05791915175613, + "grad_norm": 8.963563919067383, + "learning_rate": 1.1219712843812688e-06, + "loss": 0.17, + "num_input_tokens_seen": 30399200, + "step": 15527 + }, + { + "epoch": 2.058051689860835, + "grad_norm": 0.6126041412353516, + "learning_rate": 1.1216816582489724e-06, + "loss": 0.0059, + "num_input_tokens_seen": 30401032, + "step": 15528 + }, + { + "epoch": 2.05818422796554, + "grad_norm": 0.0023997880052775145, + "learning_rate": 1.121392058691604e-06, + "loss": 0.0, + "num_input_tokens_seen": 30402640, + "step": 15529 + }, + { + "epoch": 2.058316766070245, + "grad_norm": 6.047012805938721, + "learning_rate": 1.1211024857147473e-06, + "loss": 0.1444, + "num_input_tokens_seen": 30404832, + "step": 15530 + }, + { + "epoch": 2.05844930417495, + "grad_norm": 4.93029260635376, + "learning_rate": 1.1208129393239856e-06, + "loss": 0.0412, + "num_input_tokens_seen": 30406320, + "step": 15531 + }, + { + "epoch": 2.0585818422796556, + "grad_norm": 6.695636749267578, + "learning_rate": 1.120523419524903e-06, + "loss": 0.1009, + "num_input_tokens_seen": 30408704, + "step": 15532 + }, + { + "epoch": 2.0587143803843606, + "grad_norm": 2.5120351314544678, + "learning_rate": 1.1202339263230805e-06, + "loss": 0.0102, + "num_input_tokens_seen": 30410976, + "step": 15533 + }, + { + "epoch": 2.0588469184890656, + "grad_norm": 0.014119965955615044, + "learning_rate": 1.1199444597240998e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30412760, + "step": 15534 + }, + { + "epoch": 2.0589794565937707, + "grad_norm": 2.5599968433380127, + "learning_rate": 1.119655019733541e-06, + "loss": 0.04, + "num_input_tokens_seen": 30414296, + "step": 15535 + }, + { + "epoch": 2.0591119946984757, + "grad_norm": 4.034679889678955, + "learning_rate": 1.1193656063569863e-06, + "loss": 0.069, + "num_input_tokens_seen": 30416200, + "step": 15536 + }, + { + "epoch": 2.0592445328031808, + "grad_norm": 4.223156929016113, + "learning_rate": 1.1190762196000147e-06, + "loss": 0.0233, + "num_input_tokens_seen": 30418624, + "step": 15537 + }, + { + "epoch": 2.0593770709078862, + "grad_norm": 0.1604103446006775, + "learning_rate": 1.1187868594682068e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30420280, + "step": 15538 + }, + { + "epoch": 2.0595096090125913, + "grad_norm": 0.03562053292989731, + "learning_rate": 1.1184975259671414e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30422072, + "step": 15539 + }, + { + "epoch": 2.0596421471172963, + "grad_norm": 8.290109634399414, + "learning_rate": 1.1182082191023955e-06, + "loss": 0.028, + "num_input_tokens_seen": 30424096, + "step": 15540 + }, + { + "epoch": 2.0597746852220014, + "grad_norm": 1.834067702293396, + "learning_rate": 1.1179189388795495e-06, + "loss": 0.0529, + "num_input_tokens_seen": 30426288, + "step": 15541 + }, + { + "epoch": 2.0599072233267064, + "grad_norm": 0.09055990725755692, + "learning_rate": 1.1176296853041798e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30428312, + "step": 15542 + }, + { + "epoch": 2.0600397614314114, + "grad_norm": 0.26919493079185486, + "learning_rate": 1.1173404583818625e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30430160, + "step": 15543 + }, + { + "epoch": 2.0601722995361165, + "grad_norm": 22.029064178466797, + "learning_rate": 1.1170512581181758e-06, + "loss": 0.0489, + "num_input_tokens_seen": 30432776, + "step": 15544 + }, + { + "epoch": 2.060304837640822, + "grad_norm": 5.290366172790527, + "learning_rate": 1.1167620845186941e-06, + "loss": 0.0781, + "num_input_tokens_seen": 30435080, + "step": 15545 + }, + { + "epoch": 2.060437375745527, + "grad_norm": 2.166100263595581, + "learning_rate": 1.1164729375889945e-06, + "loss": 0.0091, + "num_input_tokens_seen": 30436928, + "step": 15546 + }, + { + "epoch": 2.060569913850232, + "grad_norm": 0.04409104958176613, + "learning_rate": 1.1161838173346516e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30438928, + "step": 15547 + }, + { + "epoch": 2.060702451954937, + "grad_norm": 2.7763524055480957, + "learning_rate": 1.1158947237612378e-06, + "loss": 0.0603, + "num_input_tokens_seen": 30441016, + "step": 15548 + }, + { + "epoch": 2.060834990059642, + "grad_norm": 0.26584023237228394, + "learning_rate": 1.1156056568743298e-06, + "loss": 0.0006, + "num_input_tokens_seen": 30442504, + "step": 15549 + }, + { + "epoch": 2.060967528164347, + "grad_norm": 0.04696989804506302, + "learning_rate": 1.1153166166794996e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30445112, + "step": 15550 + }, + { + "epoch": 2.061100066269052, + "grad_norm": 0.21734485030174255, + "learning_rate": 1.1150276031823194e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30446656, + "step": 15551 + }, + { + "epoch": 2.0612326043737577, + "grad_norm": 0.039966125041246414, + "learning_rate": 1.1147386163883633e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30449464, + "step": 15552 + }, + { + "epoch": 2.0613651424784627, + "grad_norm": 0.12212853878736496, + "learning_rate": 1.1144496563032026e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30451464, + "step": 15553 + }, + { + "epoch": 2.0614976805831677, + "grad_norm": 0.15539419651031494, + "learning_rate": 1.1141607229324072e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30453408, + "step": 15554 + }, + { + "epoch": 2.0616302186878728, + "grad_norm": 1.5211808681488037, + "learning_rate": 1.11387181628155e-06, + "loss": 0.0093, + "num_input_tokens_seen": 30454696, + "step": 15555 + }, + { + "epoch": 2.061762756792578, + "grad_norm": 0.7057515382766724, + "learning_rate": 1.1135829363561998e-06, + "loss": 0.0082, + "num_input_tokens_seen": 30457304, + "step": 15556 + }, + { + "epoch": 2.061895294897283, + "grad_norm": 0.09861530363559723, + "learning_rate": 1.1132940831619277e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30459696, + "step": 15557 + }, + { + "epoch": 2.062027833001988, + "grad_norm": 1.4271506071090698, + "learning_rate": 1.1130052567043024e-06, + "loss": 0.0305, + "num_input_tokens_seen": 30462216, + "step": 15558 + }, + { + "epoch": 2.0621603711066934, + "grad_norm": 3.823723554611206, + "learning_rate": 1.1127164569888923e-06, + "loss": 0.0536, + "num_input_tokens_seen": 30464016, + "step": 15559 + }, + { + "epoch": 2.0622929092113984, + "grad_norm": 0.010620694607496262, + "learning_rate": 1.1124276840212654e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30465360, + "step": 15560 + }, + { + "epoch": 2.0624254473161034, + "grad_norm": 0.34943994879722595, + "learning_rate": 1.11213893780699e-06, + "loss": 0.0021, + "num_input_tokens_seen": 30468168, + "step": 15561 + }, + { + "epoch": 2.0625579854208085, + "grad_norm": 0.05902186036109924, + "learning_rate": 1.1118502183516338e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30469416, + "step": 15562 + }, + { + "epoch": 2.0626905235255135, + "grad_norm": 6.210346221923828, + "learning_rate": 1.1115615256607634e-06, + "loss": 0.0733, + "num_input_tokens_seen": 30471592, + "step": 15563 + }, + { + "epoch": 2.0628230616302186, + "grad_norm": 1.0637727975845337, + "learning_rate": 1.1112728597399447e-06, + "loss": 0.0133, + "num_input_tokens_seen": 30473728, + "step": 15564 + }, + { + "epoch": 2.0629555997349236, + "grad_norm": 5.535642147064209, + "learning_rate": 1.1109842205947429e-06, + "loss": 0.0697, + "num_input_tokens_seen": 30476608, + "step": 15565 + }, + { + "epoch": 2.063088137839629, + "grad_norm": 7.507172584533691, + "learning_rate": 1.110695608230723e-06, + "loss": 0.0352, + "num_input_tokens_seen": 30479048, + "step": 15566 + }, + { + "epoch": 2.063220675944334, + "grad_norm": 12.416289329528809, + "learning_rate": 1.1104070226534502e-06, + "loss": 0.0238, + "num_input_tokens_seen": 30482240, + "step": 15567 + }, + { + "epoch": 2.063353214049039, + "grad_norm": 4.581946849822998, + "learning_rate": 1.1101184638684895e-06, + "loss": 0.1026, + "num_input_tokens_seen": 30484552, + "step": 15568 + }, + { + "epoch": 2.063485752153744, + "grad_norm": 3.624699354171753, + "learning_rate": 1.1098299318814034e-06, + "loss": 0.0426, + "num_input_tokens_seen": 30487320, + "step": 15569 + }, + { + "epoch": 2.0636182902584492, + "grad_norm": 0.01999441161751747, + "learning_rate": 1.1095414266977555e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30488840, + "step": 15570 + }, + { + "epoch": 2.0637508283631543, + "grad_norm": 0.0074171340093016624, + "learning_rate": 1.1092529483231072e-06, + "loss": 0.0, + "num_input_tokens_seen": 30490904, + "step": 15571 + }, + { + "epoch": 2.0638833664678593, + "grad_norm": 0.4564054310321808, + "learning_rate": 1.1089644967630222e-06, + "loss": 0.0018, + "num_input_tokens_seen": 30493416, + "step": 15572 + }, + { + "epoch": 2.064015904572565, + "grad_norm": 3.3340210914611816, + "learning_rate": 1.1086760720230608e-06, + "loss": 0.0284, + "num_input_tokens_seen": 30495224, + "step": 15573 + }, + { + "epoch": 2.06414844267727, + "grad_norm": 4.7557573318481445, + "learning_rate": 1.108387674108785e-06, + "loss": 0.0622, + "num_input_tokens_seen": 30497176, + "step": 15574 + }, + { + "epoch": 2.064280980781975, + "grad_norm": 3.7444674968719482, + "learning_rate": 1.1080993030257552e-06, + "loss": 0.0214, + "num_input_tokens_seen": 30499200, + "step": 15575 + }, + { + "epoch": 2.06441351888668, + "grad_norm": 0.49361658096313477, + "learning_rate": 1.1078109587795311e-06, + "loss": 0.0016, + "num_input_tokens_seen": 30501944, + "step": 15576 + }, + { + "epoch": 2.064546056991385, + "grad_norm": 0.2739591896533966, + "learning_rate": 1.107522641375671e-06, + "loss": 0.0014, + "num_input_tokens_seen": 30504800, + "step": 15577 + }, + { + "epoch": 2.06467859509609, + "grad_norm": 3.0551302433013916, + "learning_rate": 1.107234350819735e-06, + "loss": 0.0338, + "num_input_tokens_seen": 30506624, + "step": 15578 + }, + { + "epoch": 2.064811133200795, + "grad_norm": 0.0026384168304502964, + "learning_rate": 1.1069460871172824e-06, + "loss": 0.0, + "num_input_tokens_seen": 30508160, + "step": 15579 + }, + { + "epoch": 2.0649436713055005, + "grad_norm": 8.979805946350098, + "learning_rate": 1.1066578502738704e-06, + "loss": 0.0652, + "num_input_tokens_seen": 30510032, + "step": 15580 + }, + { + "epoch": 2.0650762094102055, + "grad_norm": 0.24447518587112427, + "learning_rate": 1.1063696402950564e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30511552, + "step": 15581 + }, + { + "epoch": 2.0652087475149106, + "grad_norm": 0.006602340843528509, + "learning_rate": 1.106081457186396e-06, + "loss": 0.0, + "num_input_tokens_seen": 30513392, + "step": 15582 + }, + { + "epoch": 2.0653412856196156, + "grad_norm": 0.08674134314060211, + "learning_rate": 1.1057933009534477e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30515072, + "step": 15583 + }, + { + "epoch": 2.0654738237243206, + "grad_norm": 4.394766807556152, + "learning_rate": 1.1055051716017653e-06, + "loss": 0.039, + "num_input_tokens_seen": 30516920, + "step": 15584 + }, + { + "epoch": 2.0656063618290257, + "grad_norm": 0.7011305093765259, + "learning_rate": 1.1052170691369064e-06, + "loss": 0.003, + "num_input_tokens_seen": 30518464, + "step": 15585 + }, + { + "epoch": 2.0657388999337307, + "grad_norm": 2.0482728481292725, + "learning_rate": 1.1049289935644245e-06, + "loss": 0.0063, + "num_input_tokens_seen": 30520368, + "step": 15586 + }, + { + "epoch": 2.065871438038436, + "grad_norm": 0.005785080138593912, + "learning_rate": 1.1046409448898732e-06, + "loss": 0.0, + "num_input_tokens_seen": 30521688, + "step": 15587 + }, + { + "epoch": 2.0660039761431412, + "grad_norm": 1.315003752708435, + "learning_rate": 1.104352923118808e-06, + "loss": 0.0059, + "num_input_tokens_seen": 30523168, + "step": 15588 + }, + { + "epoch": 2.0661365142478463, + "grad_norm": 8.820904731750488, + "learning_rate": 1.1040649282567812e-06, + "loss": 0.0734, + "num_input_tokens_seen": 30524560, + "step": 15589 + }, + { + "epoch": 2.0662690523525513, + "grad_norm": 4.032207012176514, + "learning_rate": 1.1037769603093445e-06, + "loss": 0.0164, + "num_input_tokens_seen": 30526568, + "step": 15590 + }, + { + "epoch": 2.0664015904572564, + "grad_norm": 0.007713421247899532, + "learning_rate": 1.1034890192820522e-06, + "loss": 0.0, + "num_input_tokens_seen": 30528984, + "step": 15591 + }, + { + "epoch": 2.0665341285619614, + "grad_norm": 0.1903281807899475, + "learning_rate": 1.1032011051804542e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30531552, + "step": 15592 + }, + { + "epoch": 2.066666666666667, + "grad_norm": 1.278005599975586, + "learning_rate": 1.1029132180101031e-06, + "loss": 0.0074, + "num_input_tokens_seen": 30533880, + "step": 15593 + }, + { + "epoch": 2.066799204771372, + "grad_norm": 2.003617525100708, + "learning_rate": 1.1026253577765494e-06, + "loss": 0.016, + "num_input_tokens_seen": 30536072, + "step": 15594 + }, + { + "epoch": 2.066931742876077, + "grad_norm": 11.7857666015625, + "learning_rate": 1.1023375244853427e-06, + "loss": 0.2563, + "num_input_tokens_seen": 30538456, + "step": 15595 + }, + { + "epoch": 2.067064280980782, + "grad_norm": 17.706703186035156, + "learning_rate": 1.1020497181420317e-06, + "loss": 0.1293, + "num_input_tokens_seen": 30540712, + "step": 15596 + }, + { + "epoch": 2.067196819085487, + "grad_norm": 5.082114219665527, + "learning_rate": 1.1017619387521667e-06, + "loss": 0.028, + "num_input_tokens_seen": 30542912, + "step": 15597 + }, + { + "epoch": 2.067329357190192, + "grad_norm": 3.0628409385681152, + "learning_rate": 1.1014741863212969e-06, + "loss": 0.0083, + "num_input_tokens_seen": 30544888, + "step": 15598 + }, + { + "epoch": 2.067461895294897, + "grad_norm": 0.015810780227184296, + "learning_rate": 1.1011864608549694e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30546912, + "step": 15599 + }, + { + "epoch": 2.0675944333996026, + "grad_norm": 0.07897867262363434, + "learning_rate": 1.1008987623587323e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30548136, + "step": 15600 + }, + { + "epoch": 2.0677269715043076, + "grad_norm": 7.408140659332275, + "learning_rate": 1.100611090838131e-06, + "loss": 0.0762, + "num_input_tokens_seen": 30549832, + "step": 15601 + }, + { + "epoch": 2.0678595096090127, + "grad_norm": 0.05522603169083595, + "learning_rate": 1.1003234462987134e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30552488, + "step": 15602 + }, + { + "epoch": 2.0679920477137177, + "grad_norm": 2.586780071258545, + "learning_rate": 1.1000358287460264e-06, + "loss": 0.0204, + "num_input_tokens_seen": 30554136, + "step": 15603 + }, + { + "epoch": 2.0681245858184227, + "grad_norm": 7.495153903961182, + "learning_rate": 1.0997482381856142e-06, + "loss": 0.0526, + "num_input_tokens_seen": 30555520, + "step": 15604 + }, + { + "epoch": 2.0682571239231278, + "grad_norm": 3.767066478729248, + "learning_rate": 1.0994606746230218e-06, + "loss": 0.0153, + "num_input_tokens_seen": 30557344, + "step": 15605 + }, + { + "epoch": 2.068389662027833, + "grad_norm": 0.003917413763701916, + "learning_rate": 1.099173138063794e-06, + "loss": 0.0, + "num_input_tokens_seen": 30560048, + "step": 15606 + }, + { + "epoch": 2.0685222001325383, + "grad_norm": 10.267508506774902, + "learning_rate": 1.0988856285134738e-06, + "loss": 0.0995, + "num_input_tokens_seen": 30562744, + "step": 15607 + }, + { + "epoch": 2.0686547382372433, + "grad_norm": 5.591651439666748, + "learning_rate": 1.0985981459776049e-06, + "loss": 0.0298, + "num_input_tokens_seen": 30563864, + "step": 15608 + }, + { + "epoch": 2.0687872763419484, + "grad_norm": 0.0009399955742992461, + "learning_rate": 1.0983106904617316e-06, + "loss": 0.0, + "num_input_tokens_seen": 30565544, + "step": 15609 + }, + { + "epoch": 2.0689198144466534, + "grad_norm": 3.633188247680664, + "learning_rate": 1.098023261971395e-06, + "loss": 0.0162, + "num_input_tokens_seen": 30566696, + "step": 15610 + }, + { + "epoch": 2.0690523525513584, + "grad_norm": 4.150951385498047, + "learning_rate": 1.0977358605121375e-06, + "loss": 0.0442, + "num_input_tokens_seen": 30568888, + "step": 15611 + }, + { + "epoch": 2.0691848906560635, + "grad_norm": 3.9707016944885254, + "learning_rate": 1.0974484860894996e-06, + "loss": 0.0364, + "num_input_tokens_seen": 30570688, + "step": 15612 + }, + { + "epoch": 2.0693174287607685, + "grad_norm": 10.351153373718262, + "learning_rate": 1.0971611387090213e-06, + "loss": 0.174, + "num_input_tokens_seen": 30573416, + "step": 15613 + }, + { + "epoch": 2.069449966865474, + "grad_norm": 0.05251673609018326, + "learning_rate": 1.0968738183762446e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30575064, + "step": 15614 + }, + { + "epoch": 2.069582504970179, + "grad_norm": 0.006597693543881178, + "learning_rate": 1.0965865250967093e-06, + "loss": 0.0, + "num_input_tokens_seen": 30576736, + "step": 15615 + }, + { + "epoch": 2.069715043074884, + "grad_norm": 0.0020662625320255756, + "learning_rate": 1.0962992588759539e-06, + "loss": 0.0, + "num_input_tokens_seen": 30578488, + "step": 15616 + }, + { + "epoch": 2.069847581179589, + "grad_norm": 11.229107856750488, + "learning_rate": 1.0960120197195173e-06, + "loss": 0.0317, + "num_input_tokens_seen": 30580072, + "step": 15617 + }, + { + "epoch": 2.069980119284294, + "grad_norm": 0.003116697771474719, + "learning_rate": 1.0957248076329365e-06, + "loss": 0.0, + "num_input_tokens_seen": 30581568, + "step": 15618 + }, + { + "epoch": 2.070112657388999, + "grad_norm": 6.35180139541626, + "learning_rate": 1.0954376226217512e-06, + "loss": 0.0588, + "num_input_tokens_seen": 30583744, + "step": 15619 + }, + { + "epoch": 2.0702451954937042, + "grad_norm": 8.3189697265625, + "learning_rate": 1.0951504646914965e-06, + "loss": 0.0829, + "num_input_tokens_seen": 30585736, + "step": 15620 + }, + { + "epoch": 2.0703777335984097, + "grad_norm": 0.0018414610531181097, + "learning_rate": 1.0948633338477108e-06, + "loss": 0.0, + "num_input_tokens_seen": 30587112, + "step": 15621 + }, + { + "epoch": 2.0705102717031147, + "grad_norm": 2.02024245262146, + "learning_rate": 1.0945762300959295e-06, + "loss": 0.0086, + "num_input_tokens_seen": 30588616, + "step": 15622 + }, + { + "epoch": 2.07064280980782, + "grad_norm": 1.6707075834274292, + "learning_rate": 1.0942891534416872e-06, + "loss": 0.0138, + "num_input_tokens_seen": 30590376, + "step": 15623 + }, + { + "epoch": 2.070775347912525, + "grad_norm": 8.425698280334473, + "learning_rate": 1.0940021038905204e-06, + "loss": 0.0832, + "num_input_tokens_seen": 30592304, + "step": 15624 + }, + { + "epoch": 2.07090788601723, + "grad_norm": 1.5428061485290527, + "learning_rate": 1.0937150814479633e-06, + "loss": 0.0109, + "num_input_tokens_seen": 30594056, + "step": 15625 + }, + { + "epoch": 2.071040424121935, + "grad_norm": 0.11055504530668259, + "learning_rate": 1.0934280861195483e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30596888, + "step": 15626 + }, + { + "epoch": 2.0711729622266404, + "grad_norm": 8.346808433532715, + "learning_rate": 1.0931411179108115e-06, + "loss": 0.0952, + "num_input_tokens_seen": 30598880, + "step": 15627 + }, + { + "epoch": 2.0713055003313454, + "grad_norm": 15.91106128692627, + "learning_rate": 1.0928541768272833e-06, + "loss": 0.2532, + "num_input_tokens_seen": 30601056, + "step": 15628 + }, + { + "epoch": 2.0714380384360505, + "grad_norm": 0.3768092095851898, + "learning_rate": 1.0925672628744986e-06, + "loss": 0.0016, + "num_input_tokens_seen": 30602640, + "step": 15629 + }, + { + "epoch": 2.0715705765407555, + "grad_norm": 6.7477192878723145, + "learning_rate": 1.0922803760579875e-06, + "loss": 0.116, + "num_input_tokens_seen": 30604736, + "step": 15630 + }, + { + "epoch": 2.0717031146454605, + "grad_norm": 3.7975878715515137, + "learning_rate": 1.0919935163832812e-06, + "loss": 0.0343, + "num_input_tokens_seen": 30607064, + "step": 15631 + }, + { + "epoch": 2.0718356527501656, + "grad_norm": 0.006137949414551258, + "learning_rate": 1.091706683855912e-06, + "loss": 0.0, + "num_input_tokens_seen": 30609384, + "step": 15632 + }, + { + "epoch": 2.0719681908548706, + "grad_norm": 5.424675464630127, + "learning_rate": 1.0914198784814098e-06, + "loss": 0.0522, + "num_input_tokens_seen": 30611400, + "step": 15633 + }, + { + "epoch": 2.072100728959576, + "grad_norm": 0.001382120419293642, + "learning_rate": 1.0911331002653028e-06, + "loss": 0.0, + "num_input_tokens_seen": 30613456, + "step": 15634 + }, + { + "epoch": 2.072233267064281, + "grad_norm": 11.579028129577637, + "learning_rate": 1.0908463492131227e-06, + "loss": 0.1353, + "num_input_tokens_seen": 30615264, + "step": 15635 + }, + { + "epoch": 2.072365805168986, + "grad_norm": 0.1011621356010437, + "learning_rate": 1.0905596253303968e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30617640, + "step": 15636 + }, + { + "epoch": 2.072498343273691, + "grad_norm": 0.0009561904589645565, + "learning_rate": 1.0902729286226533e-06, + "loss": 0.0, + "num_input_tokens_seen": 30619496, + "step": 15637 + }, + { + "epoch": 2.0726308813783962, + "grad_norm": 6.552178382873535, + "learning_rate": 1.0899862590954208e-06, + "loss": 0.0836, + "num_input_tokens_seen": 30621368, + "step": 15638 + }, + { + "epoch": 2.0727634194831013, + "grad_norm": 10.103249549865723, + "learning_rate": 1.0896996167542248e-06, + "loss": 0.0541, + "num_input_tokens_seen": 30623288, + "step": 15639 + }, + { + "epoch": 2.0728959575878063, + "grad_norm": 0.0059693981893360615, + "learning_rate": 1.0894130016045945e-06, + "loss": 0.0, + "num_input_tokens_seen": 30624696, + "step": 15640 + }, + { + "epoch": 2.073028495692512, + "grad_norm": 0.0026253091637045145, + "learning_rate": 1.0891264136520543e-06, + "loss": 0.0, + "num_input_tokens_seen": 30626360, + "step": 15641 + }, + { + "epoch": 2.073161033797217, + "grad_norm": 0.027038373053073883, + "learning_rate": 1.0888398529021305e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30628784, + "step": 15642 + }, + { + "epoch": 2.073293571901922, + "grad_norm": 4.406414985656738, + "learning_rate": 1.0885533193603465e-06, + "loss": 0.0233, + "num_input_tokens_seen": 30630728, + "step": 15643 + }, + { + "epoch": 2.073426110006627, + "grad_norm": 10.237838745117188, + "learning_rate": 1.0882668130322286e-06, + "loss": 0.0855, + "num_input_tokens_seen": 30633304, + "step": 15644 + }, + { + "epoch": 2.073558648111332, + "grad_norm": 0.11725832521915436, + "learning_rate": 1.0879803339233012e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30634888, + "step": 15645 + }, + { + "epoch": 2.073691186216037, + "grad_norm": 0.007014408241957426, + "learning_rate": 1.087693882039087e-06, + "loss": 0.0, + "num_input_tokens_seen": 30636456, + "step": 15646 + }, + { + "epoch": 2.073823724320742, + "grad_norm": 3.143859624862671, + "learning_rate": 1.087407457385109e-06, + "loss": 0.0237, + "num_input_tokens_seen": 30638368, + "step": 15647 + }, + { + "epoch": 2.0739562624254475, + "grad_norm": 0.0034100699704140425, + "learning_rate": 1.08712105996689e-06, + "loss": 0.0, + "num_input_tokens_seen": 30640248, + "step": 15648 + }, + { + "epoch": 2.0740888005301525, + "grad_norm": 0.0039882175624370575, + "learning_rate": 1.0868346897899504e-06, + "loss": 0.0, + "num_input_tokens_seen": 30641344, + "step": 15649 + }, + { + "epoch": 2.0742213386348576, + "grad_norm": 1.9186447858810425, + "learning_rate": 1.0865483468598131e-06, + "loss": 0.0037, + "num_input_tokens_seen": 30642760, + "step": 15650 + }, + { + "epoch": 2.0743538767395626, + "grad_norm": 7.453917026519775, + "learning_rate": 1.0862620311819995e-06, + "loss": 0.1281, + "num_input_tokens_seen": 30645128, + "step": 15651 + }, + { + "epoch": 2.0744864148442677, + "grad_norm": 0.030806077644228935, + "learning_rate": 1.0859757427620293e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30647232, + "step": 15652 + }, + { + "epoch": 2.0746189529489727, + "grad_norm": 1.731955647468567, + "learning_rate": 1.0856894816054226e-06, + "loss": 0.0041, + "num_input_tokens_seen": 30648952, + "step": 15653 + }, + { + "epoch": 2.0747514910536777, + "grad_norm": 0.0033239470794796944, + "learning_rate": 1.085403247717697e-06, + "loss": 0.0, + "num_input_tokens_seen": 30650640, + "step": 15654 + }, + { + "epoch": 2.074884029158383, + "grad_norm": 3.5409607887268066, + "learning_rate": 1.085117041104373e-06, + "loss": 0.0253, + "num_input_tokens_seen": 30652376, + "step": 15655 + }, + { + "epoch": 2.0750165672630883, + "grad_norm": 0.012350587174296379, + "learning_rate": 1.0848308617709692e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30653896, + "step": 15656 + }, + { + "epoch": 2.0751491053677933, + "grad_norm": 15.54128360748291, + "learning_rate": 1.0845447097230028e-06, + "loss": 0.1714, + "num_input_tokens_seen": 30656072, + "step": 15657 + }, + { + "epoch": 2.0752816434724983, + "grad_norm": 5.086503505706787, + "learning_rate": 1.0842585849659907e-06, + "loss": 0.0153, + "num_input_tokens_seen": 30658000, + "step": 15658 + }, + { + "epoch": 2.0754141815772034, + "grad_norm": 3.505248785018921, + "learning_rate": 1.0839724875054489e-06, + "loss": 0.0341, + "num_input_tokens_seen": 30660904, + "step": 15659 + }, + { + "epoch": 2.0755467196819084, + "grad_norm": 0.0017466357676312327, + "learning_rate": 1.0836864173468952e-06, + "loss": 0.0, + "num_input_tokens_seen": 30662008, + "step": 15660 + }, + { + "epoch": 2.0756792577866134, + "grad_norm": 8.56963062286377, + "learning_rate": 1.0834003744958437e-06, + "loss": 0.0618, + "num_input_tokens_seen": 30664192, + "step": 15661 + }, + { + "epoch": 2.075811795891319, + "grad_norm": 4.824145317077637, + "learning_rate": 1.0831143589578114e-06, + "loss": 0.0246, + "num_input_tokens_seen": 30666016, + "step": 15662 + }, + { + "epoch": 2.075944333996024, + "grad_norm": 2.6475234031677246, + "learning_rate": 1.0828283707383114e-06, + "loss": 0.0212, + "num_input_tokens_seen": 30668576, + "step": 15663 + }, + { + "epoch": 2.076076872100729, + "grad_norm": 0.005755844060331583, + "learning_rate": 1.0825424098428584e-06, + "loss": 0.0, + "num_input_tokens_seen": 30669928, + "step": 15664 + }, + { + "epoch": 2.076209410205434, + "grad_norm": 0.6506161689758301, + "learning_rate": 1.0822564762769642e-06, + "loss": 0.003, + "num_input_tokens_seen": 30671304, + "step": 15665 + }, + { + "epoch": 2.076341948310139, + "grad_norm": 6.855581283569336, + "learning_rate": 1.0819705700461444e-06, + "loss": 0.1124, + "num_input_tokens_seen": 30674312, + "step": 15666 + }, + { + "epoch": 2.076474486414844, + "grad_norm": 0.0036196091677993536, + "learning_rate": 1.0816846911559093e-06, + "loss": 0.0, + "num_input_tokens_seen": 30675928, + "step": 15667 + }, + { + "epoch": 2.076607024519549, + "grad_norm": 6.430718421936035, + "learning_rate": 1.0813988396117726e-06, + "loss": 0.0972, + "num_input_tokens_seen": 30678384, + "step": 15668 + }, + { + "epoch": 2.0767395626242546, + "grad_norm": 0.9290914535522461, + "learning_rate": 1.0811130154192449e-06, + "loss": 0.0041, + "num_input_tokens_seen": 30679816, + "step": 15669 + }, + { + "epoch": 2.0768721007289597, + "grad_norm": 0.01108595822006464, + "learning_rate": 1.0808272185838365e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30682344, + "step": 15670 + }, + { + "epoch": 2.0770046388336647, + "grad_norm": 0.23477958142757416, + "learning_rate": 1.080541449111059e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30683728, + "step": 15671 + }, + { + "epoch": 2.0771371769383697, + "grad_norm": 0.3388933539390564, + "learning_rate": 1.0802557070064216e-06, + "loss": 0.0017, + "num_input_tokens_seen": 30685456, + "step": 15672 + }, + { + "epoch": 2.077269715043075, + "grad_norm": 0.6729179620742798, + "learning_rate": 1.0799699922754325e-06, + "loss": 0.0061, + "num_input_tokens_seen": 30687184, + "step": 15673 + }, + { + "epoch": 2.07740225314778, + "grad_norm": 3.9146993160247803, + "learning_rate": 1.0796843049236029e-06, + "loss": 0.0381, + "num_input_tokens_seen": 30689368, + "step": 15674 + }, + { + "epoch": 2.0775347912524853, + "grad_norm": 1.718767762184143, + "learning_rate": 1.0793986449564386e-06, + "loss": 0.0074, + "num_input_tokens_seen": 30692136, + "step": 15675 + }, + { + "epoch": 2.0776673293571903, + "grad_norm": 0.03927424177527428, + "learning_rate": 1.0791130123794493e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30693712, + "step": 15676 + }, + { + "epoch": 2.0777998674618954, + "grad_norm": 10.546500205993652, + "learning_rate": 1.0788274071981417e-06, + "loss": 0.1615, + "num_input_tokens_seen": 30696520, + "step": 15677 + }, + { + "epoch": 2.0779324055666004, + "grad_norm": 4.845993995666504, + "learning_rate": 1.0785418294180217e-06, + "loss": 0.0101, + "num_input_tokens_seen": 30698120, + "step": 15678 + }, + { + "epoch": 2.0780649436713055, + "grad_norm": 0.7104319930076599, + "learning_rate": 1.0782562790445952e-06, + "loss": 0.003, + "num_input_tokens_seen": 30700216, + "step": 15679 + }, + { + "epoch": 2.0781974817760105, + "grad_norm": 0.008045575581490993, + "learning_rate": 1.0779707560833683e-06, + "loss": 0.0, + "num_input_tokens_seen": 30702304, + "step": 15680 + }, + { + "epoch": 2.0783300198807155, + "grad_norm": 1.4252724647521973, + "learning_rate": 1.077685260539847e-06, + "loss": 0.0125, + "num_input_tokens_seen": 30704840, + "step": 15681 + }, + { + "epoch": 2.078462557985421, + "grad_norm": 0.8729941844940186, + "learning_rate": 1.0773997924195354e-06, + "loss": 0.0107, + "num_input_tokens_seen": 30706792, + "step": 15682 + }, + { + "epoch": 2.078595096090126, + "grad_norm": 0.23830415308475494, + "learning_rate": 1.077114351727937e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30709048, + "step": 15683 + }, + { + "epoch": 2.078727634194831, + "grad_norm": 0.021350722759962082, + "learning_rate": 1.0768289384705547e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30710952, + "step": 15684 + }, + { + "epoch": 2.078860172299536, + "grad_norm": 6.688378810882568, + "learning_rate": 1.0765435526528921e-06, + "loss": 0.0804, + "num_input_tokens_seen": 30713296, + "step": 15685 + }, + { + "epoch": 2.078992710404241, + "grad_norm": 0.025096315890550613, + "learning_rate": 1.0762581942804528e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30715184, + "step": 15686 + }, + { + "epoch": 2.079125248508946, + "grad_norm": 0.0030500064603984356, + "learning_rate": 1.0759728633587376e-06, + "loss": 0.0, + "num_input_tokens_seen": 30717624, + "step": 15687 + }, + { + "epoch": 2.0792577866136512, + "grad_norm": 0.0016398221487179399, + "learning_rate": 1.0756875598932483e-06, + "loss": 0.0, + "num_input_tokens_seen": 30719416, + "step": 15688 + }, + { + "epoch": 2.0793903247183567, + "grad_norm": 0.026959480717778206, + "learning_rate": 1.075402283889485e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30720976, + "step": 15689 + }, + { + "epoch": 2.0795228628230618, + "grad_norm": 8.587615966796875, + "learning_rate": 1.075117035352948e-06, + "loss": 0.144, + "num_input_tokens_seen": 30722408, + "step": 15690 + }, + { + "epoch": 2.079655400927767, + "grad_norm": 26.740758895874023, + "learning_rate": 1.0748318142891373e-06, + "loss": 0.2816, + "num_input_tokens_seen": 30724808, + "step": 15691 + }, + { + "epoch": 2.079787939032472, + "grad_norm": 12.042533874511719, + "learning_rate": 1.0745466207035532e-06, + "loss": 0.1271, + "num_input_tokens_seen": 30727648, + "step": 15692 + }, + { + "epoch": 2.079920477137177, + "grad_norm": 0.0011338124750182033, + "learning_rate": 1.0742614546016938e-06, + "loss": 0.0, + "num_input_tokens_seen": 30729016, + "step": 15693 + }, + { + "epoch": 2.080053015241882, + "grad_norm": 9.849433898925781, + "learning_rate": 1.073976315989057e-06, + "loss": 0.2909, + "num_input_tokens_seen": 30731112, + "step": 15694 + }, + { + "epoch": 2.080185553346587, + "grad_norm": 0.049355655908584595, + "learning_rate": 1.0736912048711406e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30732456, + "step": 15695 + }, + { + "epoch": 2.0803180914512924, + "grad_norm": 0.24109269678592682, + "learning_rate": 1.073406121253441e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30734696, + "step": 15696 + }, + { + "epoch": 2.0804506295559975, + "grad_norm": 5.256565570831299, + "learning_rate": 1.0731210651414554e-06, + "loss": 0.0737, + "num_input_tokens_seen": 30736760, + "step": 15697 + }, + { + "epoch": 2.0805831676607025, + "grad_norm": 3.112889528274536, + "learning_rate": 1.072836036540681e-06, + "loss": 0.0072, + "num_input_tokens_seen": 30738496, + "step": 15698 + }, + { + "epoch": 2.0807157057654075, + "grad_norm": 0.0024426295422017574, + "learning_rate": 1.072551035456612e-06, + "loss": 0.0, + "num_input_tokens_seen": 30739992, + "step": 15699 + }, + { + "epoch": 2.0808482438701126, + "grad_norm": 0.4003775715827942, + "learning_rate": 1.072266061894744e-06, + "loss": 0.003, + "num_input_tokens_seen": 30741296, + "step": 15700 + }, + { + "epoch": 2.0809807819748176, + "grad_norm": 0.0005502295680344105, + "learning_rate": 1.0719811158605705e-06, + "loss": 0.0, + "num_input_tokens_seen": 30742888, + "step": 15701 + }, + { + "epoch": 2.0811133200795227, + "grad_norm": 27.595748901367188, + "learning_rate": 1.0716961973595872e-06, + "loss": 0.3875, + "num_input_tokens_seen": 30745384, + "step": 15702 + }, + { + "epoch": 2.081245858184228, + "grad_norm": 0.013666347600519657, + "learning_rate": 1.0714113063972855e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30747200, + "step": 15703 + }, + { + "epoch": 2.081378396288933, + "grad_norm": 9.846649169921875, + "learning_rate": 1.0711264429791603e-06, + "loss": 0.1984, + "num_input_tokens_seen": 30749872, + "step": 15704 + }, + { + "epoch": 2.081510934393638, + "grad_norm": 0.540513277053833, + "learning_rate": 1.070841607110703e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30752200, + "step": 15705 + }, + { + "epoch": 2.0816434724983433, + "grad_norm": 0.006293957587331533, + "learning_rate": 1.0705567987974044e-06, + "loss": 0.0, + "num_input_tokens_seen": 30754784, + "step": 15706 + }, + { + "epoch": 2.0817760106030483, + "grad_norm": 8.046182632446289, + "learning_rate": 1.070272018044758e-06, + "loss": 0.0724, + "num_input_tokens_seen": 30756776, + "step": 15707 + }, + { + "epoch": 2.0819085487077533, + "grad_norm": 5.029483795166016, + "learning_rate": 1.0699872648582524e-06, + "loss": 0.0823, + "num_input_tokens_seen": 30758872, + "step": 15708 + }, + { + "epoch": 2.082041086812459, + "grad_norm": 7.679155349731445, + "learning_rate": 1.0697025392433796e-06, + "loss": 0.2164, + "num_input_tokens_seen": 30761368, + "step": 15709 + }, + { + "epoch": 2.082173624917164, + "grad_norm": 0.005175208672881126, + "learning_rate": 1.0694178412056286e-06, + "loss": 0.0, + "num_input_tokens_seen": 30763600, + "step": 15710 + }, + { + "epoch": 2.082306163021869, + "grad_norm": 5.752948760986328, + "learning_rate": 1.0691331707504876e-06, + "loss": 0.1721, + "num_input_tokens_seen": 30766288, + "step": 15711 + }, + { + "epoch": 2.082438701126574, + "grad_norm": 0.7267287969589233, + "learning_rate": 1.0688485278834473e-06, + "loss": 0.0034, + "num_input_tokens_seen": 30768656, + "step": 15712 + }, + { + "epoch": 2.082571239231279, + "grad_norm": 0.00043109190301038325, + "learning_rate": 1.0685639126099946e-06, + "loss": 0.0, + "num_input_tokens_seen": 30770320, + "step": 15713 + }, + { + "epoch": 2.082703777335984, + "grad_norm": 0.012856950983405113, + "learning_rate": 1.068279324935616e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30771712, + "step": 15714 + }, + { + "epoch": 2.082836315440689, + "grad_norm": 0.01941719278693199, + "learning_rate": 1.067994764865801e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30774136, + "step": 15715 + }, + { + "epoch": 2.0829688535453945, + "grad_norm": 8.578277587890625, + "learning_rate": 1.0677102324060337e-06, + "loss": 0.0513, + "num_input_tokens_seen": 30776848, + "step": 15716 + }, + { + "epoch": 2.0831013916500996, + "grad_norm": 0.0035853462759405375, + "learning_rate": 1.0674257275618022e-06, + "loss": 0.0, + "num_input_tokens_seen": 30778608, + "step": 15717 + }, + { + "epoch": 2.0832339297548046, + "grad_norm": 1.1351906061172485, + "learning_rate": 1.0671412503385909e-06, + "loss": 0.0083, + "num_input_tokens_seen": 30780360, + "step": 15718 + }, + { + "epoch": 2.0833664678595096, + "grad_norm": 0.0022894712164998055, + "learning_rate": 1.0668568007418847e-06, + "loss": 0.0, + "num_input_tokens_seen": 30782232, + "step": 15719 + }, + { + "epoch": 2.0834990059642147, + "grad_norm": 17.818450927734375, + "learning_rate": 1.0665723787771674e-06, + "loss": 0.0557, + "num_input_tokens_seen": 30784704, + "step": 15720 + }, + { + "epoch": 2.0836315440689197, + "grad_norm": 0.0014743497595191002, + "learning_rate": 1.066287984449924e-06, + "loss": 0.0, + "num_input_tokens_seen": 30786176, + "step": 15721 + }, + { + "epoch": 2.0837640821736247, + "grad_norm": 0.0021800766699016094, + "learning_rate": 1.0660036177656368e-06, + "loss": 0.0, + "num_input_tokens_seen": 30788672, + "step": 15722 + }, + { + "epoch": 2.0838966202783302, + "grad_norm": 0.005285558290779591, + "learning_rate": 1.0657192787297899e-06, + "loss": 0.0, + "num_input_tokens_seen": 30790512, + "step": 15723 + }, + { + "epoch": 2.0840291583830353, + "grad_norm": 7.095405101776123, + "learning_rate": 1.0654349673478647e-06, + "loss": 0.0623, + "num_input_tokens_seen": 30793192, + "step": 15724 + }, + { + "epoch": 2.0841616964877403, + "grad_norm": 12.228784561157227, + "learning_rate": 1.0651506836253432e-06, + "loss": 0.0968, + "num_input_tokens_seen": 30795608, + "step": 15725 + }, + { + "epoch": 2.0842942345924453, + "grad_norm": 7.088786602020264, + "learning_rate": 1.064866427567705e-06, + "loss": 0.0733, + "num_input_tokens_seen": 30797592, + "step": 15726 + }, + { + "epoch": 2.0844267726971504, + "grad_norm": 1.7811346054077148, + "learning_rate": 1.0645821991804325e-06, + "loss": 0.0037, + "num_input_tokens_seen": 30799416, + "step": 15727 + }, + { + "epoch": 2.0845593108018554, + "grad_norm": 0.026214804500341415, + "learning_rate": 1.0642979984690062e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30800784, + "step": 15728 + }, + { + "epoch": 2.0846918489065605, + "grad_norm": 0.023870134726166725, + "learning_rate": 1.0640138254389051e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30803352, + "step": 15729 + }, + { + "epoch": 2.084824387011266, + "grad_norm": 8.722799301147461, + "learning_rate": 1.063729680095608e-06, + "loss": 0.0493, + "num_input_tokens_seen": 30805408, + "step": 15730 + }, + { + "epoch": 2.084956925115971, + "grad_norm": 13.073636054992676, + "learning_rate": 1.0634455624445927e-06, + "loss": 0.1758, + "num_input_tokens_seen": 30807136, + "step": 15731 + }, + { + "epoch": 2.085089463220676, + "grad_norm": 3.7375450134277344, + "learning_rate": 1.0631614724913387e-06, + "loss": 0.0738, + "num_input_tokens_seen": 30808688, + "step": 15732 + }, + { + "epoch": 2.085222001325381, + "grad_norm": 2.272077798843384, + "learning_rate": 1.062877410241322e-06, + "loss": 0.0223, + "num_input_tokens_seen": 30810712, + "step": 15733 + }, + { + "epoch": 2.085354539430086, + "grad_norm": 4.507503509521484, + "learning_rate": 1.0625933757000209e-06, + "loss": 0.0783, + "num_input_tokens_seen": 30813480, + "step": 15734 + }, + { + "epoch": 2.085487077534791, + "grad_norm": 6.6946702003479, + "learning_rate": 1.0623093688729114e-06, + "loss": 0.0495, + "num_input_tokens_seen": 30815104, + "step": 15735 + }, + { + "epoch": 2.085619615639496, + "grad_norm": 10.333877563476562, + "learning_rate": 1.062025389765469e-06, + "loss": 0.1036, + "num_input_tokens_seen": 30816592, + "step": 15736 + }, + { + "epoch": 2.0857521537442016, + "grad_norm": 0.027525320649147034, + "learning_rate": 1.0617414383831682e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30818584, + "step": 15737 + }, + { + "epoch": 2.0858846918489067, + "grad_norm": 0.006066696718335152, + "learning_rate": 1.0614575147314845e-06, + "loss": 0.0, + "num_input_tokens_seen": 30820576, + "step": 15738 + }, + { + "epoch": 2.0860172299536117, + "grad_norm": 0.0009308741427958012, + "learning_rate": 1.0611736188158934e-06, + "loss": 0.0, + "num_input_tokens_seen": 30821864, + "step": 15739 + }, + { + "epoch": 2.0861497680583168, + "grad_norm": 0.46596428751945496, + "learning_rate": 1.0608897506418676e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30823344, + "step": 15740 + }, + { + "epoch": 2.086282306163022, + "grad_norm": 0.00742074241861701, + "learning_rate": 1.0606059102148799e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30825264, + "step": 15741 + }, + { + "epoch": 2.086414844267727, + "grad_norm": 0.006214355118572712, + "learning_rate": 1.0603220975404024e-06, + "loss": 0.0, + "num_input_tokens_seen": 30827480, + "step": 15742 + }, + { + "epoch": 2.086547382372432, + "grad_norm": 0.006490678060799837, + "learning_rate": 1.060038312623909e-06, + "loss": 0.0, + "num_input_tokens_seen": 30829008, + "step": 15743 + }, + { + "epoch": 2.0866799204771374, + "grad_norm": 1.5100146532058716, + "learning_rate": 1.0597545554708696e-06, + "loss": 0.0117, + "num_input_tokens_seen": 30830976, + "step": 15744 + }, + { + "epoch": 2.0868124585818424, + "grad_norm": 3.784529447555542, + "learning_rate": 1.0594708260867567e-06, + "loss": 0.0677, + "num_input_tokens_seen": 30832760, + "step": 15745 + }, + { + "epoch": 2.0869449966865474, + "grad_norm": 0.9434930682182312, + "learning_rate": 1.05918712447704e-06, + "loss": 0.014, + "num_input_tokens_seen": 30834480, + "step": 15746 + }, + { + "epoch": 2.0870775347912525, + "grad_norm": 0.37713301181793213, + "learning_rate": 1.0589034506471888e-06, + "loss": 0.0017, + "num_input_tokens_seen": 30835880, + "step": 15747 + }, + { + "epoch": 2.0872100728959575, + "grad_norm": 4.0520477294921875, + "learning_rate": 1.0586198046026739e-06, + "loss": 0.0194, + "num_input_tokens_seen": 30838720, + "step": 15748 + }, + { + "epoch": 2.0873426110006625, + "grad_norm": 0.01979968696832657, + "learning_rate": 1.0583361863489637e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30841552, + "step": 15749 + }, + { + "epoch": 2.0874751491053676, + "grad_norm": 5.28080940246582, + "learning_rate": 1.0580525958915252e-06, + "loss": 0.0282, + "num_input_tokens_seen": 30843368, + "step": 15750 + }, + { + "epoch": 2.087607687210073, + "grad_norm": 0.10151394456624985, + "learning_rate": 1.0577690332358284e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30845472, + "step": 15751 + }, + { + "epoch": 2.087740225314778, + "grad_norm": 7.579641342163086, + "learning_rate": 1.0574854983873399e-06, + "loss": 0.0678, + "num_input_tokens_seen": 30846880, + "step": 15752 + }, + { + "epoch": 2.087872763419483, + "grad_norm": 2.807560682296753, + "learning_rate": 1.057201991351525e-06, + "loss": 0.0331, + "num_input_tokens_seen": 30848208, + "step": 15753 + }, + { + "epoch": 2.088005301524188, + "grad_norm": 0.01925724372267723, + "learning_rate": 1.0569185121338518e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30849456, + "step": 15754 + }, + { + "epoch": 2.088137839628893, + "grad_norm": 0.04092009738087654, + "learning_rate": 1.0566350607397855e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30851448, + "step": 15755 + }, + { + "epoch": 2.0882703777335982, + "grad_norm": 0.0008798489579930902, + "learning_rate": 1.0563516371747899e-06, + "loss": 0.0, + "num_input_tokens_seen": 30852776, + "step": 15756 + }, + { + "epoch": 2.0884029158383033, + "grad_norm": 4.096704483032227, + "learning_rate": 1.0560682414443315e-06, + "loss": 0.0821, + "num_input_tokens_seen": 30854656, + "step": 15757 + }, + { + "epoch": 2.0885354539430088, + "grad_norm": 5.232241153717041, + "learning_rate": 1.055784873553873e-06, + "loss": 0.0692, + "num_input_tokens_seen": 30857176, + "step": 15758 + }, + { + "epoch": 2.088667992047714, + "grad_norm": 0.0029214764945209026, + "learning_rate": 1.0555015335088786e-06, + "loss": 0.0, + "num_input_tokens_seen": 30858496, + "step": 15759 + }, + { + "epoch": 2.088800530152419, + "grad_norm": 0.010639924556016922, + "learning_rate": 1.0552182213148119e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30861792, + "step": 15760 + }, + { + "epoch": 2.088933068257124, + "grad_norm": 0.005878801457583904, + "learning_rate": 1.0549349369771333e-06, + "loss": 0.0, + "num_input_tokens_seen": 30863576, + "step": 15761 + }, + { + "epoch": 2.089065606361829, + "grad_norm": 0.4838116765022278, + "learning_rate": 1.0546516805013068e-06, + "loss": 0.0034, + "num_input_tokens_seen": 30865000, + "step": 15762 + }, + { + "epoch": 2.089198144466534, + "grad_norm": 4.713444232940674, + "learning_rate": 1.0543684518927924e-06, + "loss": 0.0361, + "num_input_tokens_seen": 30866720, + "step": 15763 + }, + { + "epoch": 2.0893306825712394, + "grad_norm": 1.145693302154541, + "learning_rate": 1.0540852511570524e-06, + "loss": 0.0094, + "num_input_tokens_seen": 30868248, + "step": 15764 + }, + { + "epoch": 2.0894632206759445, + "grad_norm": 0.01238220650702715, + "learning_rate": 1.053802078299546e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30869544, + "step": 15765 + }, + { + "epoch": 2.0895957587806495, + "grad_norm": 10.222021102905273, + "learning_rate": 1.0535189333257334e-06, + "loss": 0.1139, + "num_input_tokens_seen": 30872752, + "step": 15766 + }, + { + "epoch": 2.0897282968853546, + "grad_norm": 8.535482406616211, + "learning_rate": 1.0532358162410728e-06, + "loss": 0.0782, + "num_input_tokens_seen": 30874544, + "step": 15767 + }, + { + "epoch": 2.0898608349900596, + "grad_norm": 0.03400085121393204, + "learning_rate": 1.0529527270510236e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30875968, + "step": 15768 + }, + { + "epoch": 2.0899933730947646, + "grad_norm": 0.1607217788696289, + "learning_rate": 1.0526696657610452e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30877944, + "step": 15769 + }, + { + "epoch": 2.0901259111994697, + "grad_norm": 4.264970779418945, + "learning_rate": 1.0523866323765939e-06, + "loss": 0.0465, + "num_input_tokens_seen": 30879688, + "step": 15770 + }, + { + "epoch": 2.090258449304175, + "grad_norm": 0.02093798853456974, + "learning_rate": 1.0521036269031272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30881104, + "step": 15771 + }, + { + "epoch": 2.09039098740888, + "grad_norm": 0.010911175981163979, + "learning_rate": 1.0518206493461011e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30882808, + "step": 15772 + }, + { + "epoch": 2.0905235255135852, + "grad_norm": 0.8723084926605225, + "learning_rate": 1.0515376997109714e-06, + "loss": 0.0039, + "num_input_tokens_seen": 30885168, + "step": 15773 + }, + { + "epoch": 2.0906560636182903, + "grad_norm": 0.6231458783149719, + "learning_rate": 1.0512547780031936e-06, + "loss": 0.0034, + "num_input_tokens_seen": 30886416, + "step": 15774 + }, + { + "epoch": 2.0907886017229953, + "grad_norm": 1.060481309890747, + "learning_rate": 1.0509718842282244e-06, + "loss": 0.0116, + "num_input_tokens_seen": 30888296, + "step": 15775 + }, + { + "epoch": 2.0909211398277003, + "grad_norm": 0.2933771312236786, + "learning_rate": 1.050689018391517e-06, + "loss": 0.0019, + "num_input_tokens_seen": 30889768, + "step": 15776 + }, + { + "epoch": 2.0910536779324054, + "grad_norm": 0.39020004868507385, + "learning_rate": 1.050406180498525e-06, + "loss": 0.003, + "num_input_tokens_seen": 30892304, + "step": 15777 + }, + { + "epoch": 2.091186216037111, + "grad_norm": 0.008754143491387367, + "learning_rate": 1.0501233705547017e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30893848, + "step": 15778 + }, + { + "epoch": 2.091318754141816, + "grad_norm": 3.399904489517212, + "learning_rate": 1.049840588565499e-06, + "loss": 0.0442, + "num_input_tokens_seen": 30895400, + "step": 15779 + }, + { + "epoch": 2.091451292246521, + "grad_norm": 9.70892333984375, + "learning_rate": 1.0495578345363707e-06, + "loss": 0.1642, + "num_input_tokens_seen": 30896888, + "step": 15780 + }, + { + "epoch": 2.091583830351226, + "grad_norm": 0.03751688078045845, + "learning_rate": 1.0492751084727684e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30898304, + "step": 15781 + }, + { + "epoch": 2.091716368455931, + "grad_norm": 0.0934995487332344, + "learning_rate": 1.0489924103801433e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30900344, + "step": 15782 + }, + { + "epoch": 2.091848906560636, + "grad_norm": 2.26963210105896, + "learning_rate": 1.0487097402639452e-06, + "loss": 0.0145, + "num_input_tokens_seen": 30903096, + "step": 15783 + }, + { + "epoch": 2.091981444665341, + "grad_norm": 2.6690514087677, + "learning_rate": 1.0484270981296236e-06, + "loss": 0.021, + "num_input_tokens_seen": 30904928, + "step": 15784 + }, + { + "epoch": 2.0921139827700466, + "grad_norm": 0.009096693247556686, + "learning_rate": 1.0481444839826288e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30906928, + "step": 15785 + }, + { + "epoch": 2.0922465208747516, + "grad_norm": 0.009975298307836056, + "learning_rate": 1.047861897828411e-06, + "loss": 0.0, + "num_input_tokens_seen": 30908728, + "step": 15786 + }, + { + "epoch": 2.0923790589794566, + "grad_norm": 0.12505173683166504, + "learning_rate": 1.0475793396724176e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30911792, + "step": 15787 + }, + { + "epoch": 2.0925115970841617, + "grad_norm": 0.007718898355960846, + "learning_rate": 1.0472968095200967e-06, + "loss": 0.0, + "num_input_tokens_seen": 30913344, + "step": 15788 + }, + { + "epoch": 2.0926441351888667, + "grad_norm": 0.005531830247491598, + "learning_rate": 1.0470143073768943e-06, + "loss": 0.0, + "num_input_tokens_seen": 30915392, + "step": 15789 + }, + { + "epoch": 2.0927766732935718, + "grad_norm": 1.8126064538955688, + "learning_rate": 1.0467318332482593e-06, + "loss": 0.0171, + "num_input_tokens_seen": 30917344, + "step": 15790 + }, + { + "epoch": 2.092909211398277, + "grad_norm": 2.6063647270202637, + "learning_rate": 1.0464493871396363e-06, + "loss": 0.019, + "num_input_tokens_seen": 30919432, + "step": 15791 + }, + { + "epoch": 2.0930417495029823, + "grad_norm": 15.73050594329834, + "learning_rate": 1.0461669690564727e-06, + "loss": 0.0927, + "num_input_tokens_seen": 30922680, + "step": 15792 + }, + { + "epoch": 2.0931742876076873, + "grad_norm": 0.19147707521915436, + "learning_rate": 1.045884579004213e-06, + "loss": 0.0007, + "num_input_tokens_seen": 30924400, + "step": 15793 + }, + { + "epoch": 2.0933068257123923, + "grad_norm": 0.904897153377533, + "learning_rate": 1.0456022169883009e-06, + "loss": 0.0036, + "num_input_tokens_seen": 30926376, + "step": 15794 + }, + { + "epoch": 2.0934393638170974, + "grad_norm": 1.8791215419769287, + "learning_rate": 1.0453198830141823e-06, + "loss": 0.0051, + "num_input_tokens_seen": 30928608, + "step": 15795 + }, + { + "epoch": 2.0935719019218024, + "grad_norm": 8.004446029663086, + "learning_rate": 1.0450375770872997e-06, + "loss": 0.2814, + "num_input_tokens_seen": 30930464, + "step": 15796 + }, + { + "epoch": 2.0937044400265075, + "grad_norm": 0.0018178971949964762, + "learning_rate": 1.0447552992130956e-06, + "loss": 0.0, + "num_input_tokens_seen": 30931936, + "step": 15797 + }, + { + "epoch": 2.093836978131213, + "grad_norm": 2.8168511390686035, + "learning_rate": 1.044473049397014e-06, + "loss": 0.0341, + "num_input_tokens_seen": 30934056, + "step": 15798 + }, + { + "epoch": 2.093969516235918, + "grad_norm": 0.004515695385634899, + "learning_rate": 1.0441908276444953e-06, + "loss": 0.0, + "num_input_tokens_seen": 30937272, + "step": 15799 + }, + { + "epoch": 2.094102054340623, + "grad_norm": 3.269775867462158, + "learning_rate": 1.0439086339609828e-06, + "loss": 0.0326, + "num_input_tokens_seen": 30939704, + "step": 15800 + }, + { + "epoch": 2.094234592445328, + "grad_norm": 0.002671262715011835, + "learning_rate": 1.0436264683519163e-06, + "loss": 0.0, + "num_input_tokens_seen": 30941200, + "step": 15801 + }, + { + "epoch": 2.094367130550033, + "grad_norm": 2.299652576446533, + "learning_rate": 1.043344330822736e-06, + "loss": 0.0179, + "num_input_tokens_seen": 30943296, + "step": 15802 + }, + { + "epoch": 2.094499668654738, + "grad_norm": 0.0012987097725272179, + "learning_rate": 1.043062221378881e-06, + "loss": 0.0, + "num_input_tokens_seen": 30944720, + "step": 15803 + }, + { + "epoch": 2.094632206759443, + "grad_norm": 8.830548286437988, + "learning_rate": 1.0427801400257917e-06, + "loss": 0.0977, + "num_input_tokens_seen": 30947608, + "step": 15804 + }, + { + "epoch": 2.0947647448641487, + "grad_norm": 10.112425804138184, + "learning_rate": 1.042498086768907e-06, + "loss": 0.142, + "num_input_tokens_seen": 30949600, + "step": 15805 + }, + { + "epoch": 2.0948972829688537, + "grad_norm": 0.003482073312625289, + "learning_rate": 1.0422160616136653e-06, + "loss": 0.0, + "num_input_tokens_seen": 30951128, + "step": 15806 + }, + { + "epoch": 2.0950298210735587, + "grad_norm": 0.055163461714982986, + "learning_rate": 1.0419340645655032e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30952920, + "step": 15807 + }, + { + "epoch": 2.0951623591782638, + "grad_norm": 5.391628742218018, + "learning_rate": 1.0416520956298585e-06, + "loss": 0.1044, + "num_input_tokens_seen": 30954656, + "step": 15808 + }, + { + "epoch": 2.095294897282969, + "grad_norm": 0.007142943330109119, + "learning_rate": 1.0413701548121664e-06, + "loss": 0.0, + "num_input_tokens_seen": 30956592, + "step": 15809 + }, + { + "epoch": 2.095427435387674, + "grad_norm": 4.809557914733887, + "learning_rate": 1.041088242117864e-06, + "loss": 0.0855, + "num_input_tokens_seen": 30959008, + "step": 15810 + }, + { + "epoch": 2.095559973492379, + "grad_norm": 5.410335063934326, + "learning_rate": 1.0408063575523874e-06, + "loss": 0.0861, + "num_input_tokens_seen": 30961624, + "step": 15811 + }, + { + "epoch": 2.0956925115970844, + "grad_norm": 0.03331515192985535, + "learning_rate": 1.040524501121171e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30964056, + "step": 15812 + }, + { + "epoch": 2.0958250497017894, + "grad_norm": 0.6891270875930786, + "learning_rate": 1.0402426728296495e-06, + "loss": 0.0035, + "num_input_tokens_seen": 30966128, + "step": 15813 + }, + { + "epoch": 2.0959575878064944, + "grad_norm": 5.943944931030273, + "learning_rate": 1.039960872683255e-06, + "loss": 0.035, + "num_input_tokens_seen": 30967760, + "step": 15814 + }, + { + "epoch": 2.0960901259111995, + "grad_norm": 1.827434778213501, + "learning_rate": 1.0396791006874218e-06, + "loss": 0.0212, + "num_input_tokens_seen": 30970392, + "step": 15815 + }, + { + "epoch": 2.0962226640159045, + "grad_norm": 10.489002227783203, + "learning_rate": 1.0393973568475843e-06, + "loss": 0.0826, + "num_input_tokens_seen": 30971784, + "step": 15816 + }, + { + "epoch": 2.0963552021206096, + "grad_norm": 0.013517944142222404, + "learning_rate": 1.0391156411691733e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30973392, + "step": 15817 + }, + { + "epoch": 2.0964877402253146, + "grad_norm": 8.6538667678833, + "learning_rate": 1.0388339536576206e-06, + "loss": 0.1636, + "num_input_tokens_seen": 30975472, + "step": 15818 + }, + { + "epoch": 2.09662027833002, + "grad_norm": 8.85480785369873, + "learning_rate": 1.0385522943183572e-06, + "loss": 0.1616, + "num_input_tokens_seen": 30977696, + "step": 15819 + }, + { + "epoch": 2.096752816434725, + "grad_norm": 0.04853692278265953, + "learning_rate": 1.038270663156813e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30980488, + "step": 15820 + }, + { + "epoch": 2.09688535453943, + "grad_norm": 0.42406994104385376, + "learning_rate": 1.0379890601784184e-06, + "loss": 0.0031, + "num_input_tokens_seen": 30982168, + "step": 15821 + }, + { + "epoch": 2.097017892644135, + "grad_norm": 8.757364273071289, + "learning_rate": 1.0377074853886045e-06, + "loss": 0.202, + "num_input_tokens_seen": 30984176, + "step": 15822 + }, + { + "epoch": 2.09715043074884, + "grad_norm": 0.6955289840698242, + "learning_rate": 1.0374259387927992e-06, + "loss": 0.0037, + "num_input_tokens_seen": 30985968, + "step": 15823 + }, + { + "epoch": 2.0972829688535453, + "grad_norm": 4.125407695770264, + "learning_rate": 1.0371444203964307e-06, + "loss": 0.0324, + "num_input_tokens_seen": 30987344, + "step": 15824 + }, + { + "epoch": 2.0974155069582503, + "grad_norm": 1.7335323095321655, + "learning_rate": 1.036862930204926e-06, + "loss": 0.0097, + "num_input_tokens_seen": 30990208, + "step": 15825 + }, + { + "epoch": 2.097548045062956, + "grad_norm": 0.03396067023277283, + "learning_rate": 1.0365814682237142e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30992280, + "step": 15826 + }, + { + "epoch": 2.097680583167661, + "grad_norm": 0.005177884362637997, + "learning_rate": 1.0363000344582205e-06, + "loss": 0.0, + "num_input_tokens_seen": 30993784, + "step": 15827 + }, + { + "epoch": 2.097813121272366, + "grad_norm": 7.927840709686279, + "learning_rate": 1.0360186289138727e-06, + "loss": 0.1362, + "num_input_tokens_seen": 30995592, + "step": 15828 + }, + { + "epoch": 2.097945659377071, + "grad_norm": 6.203861236572266, + "learning_rate": 1.0357372515960956e-06, + "loss": 0.057, + "num_input_tokens_seen": 30997440, + "step": 15829 + }, + { + "epoch": 2.098078197481776, + "grad_norm": 0.4799310266971588, + "learning_rate": 1.0354559025103136e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30999304, + "step": 15830 + }, + { + "epoch": 2.098210735586481, + "grad_norm": 6.7321906089782715, + "learning_rate": 1.035174581661953e-06, + "loss": 0.0681, + "num_input_tokens_seen": 31001368, + "step": 15831 + }, + { + "epoch": 2.098343273691186, + "grad_norm": 0.24848414957523346, + "learning_rate": 1.0348932890564373e-06, + "loss": 0.0013, + "num_input_tokens_seen": 31002600, + "step": 15832 + }, + { + "epoch": 2.0984758117958915, + "grad_norm": 6.72873067855835, + "learning_rate": 1.0346120246991884e-06, + "loss": 0.0252, + "num_input_tokens_seen": 31004312, + "step": 15833 + }, + { + "epoch": 2.0986083499005965, + "grad_norm": 0.00857654120773077, + "learning_rate": 1.0343307885956315e-06, + "loss": 0.0, + "num_input_tokens_seen": 31005856, + "step": 15834 + }, + { + "epoch": 2.0987408880053016, + "grad_norm": 8.274728775024414, + "learning_rate": 1.0340495807511882e-06, + "loss": 0.2256, + "num_input_tokens_seen": 31007416, + "step": 15835 + }, + { + "epoch": 2.0988734261100066, + "grad_norm": 0.3416224420070648, + "learning_rate": 1.0337684011712796e-06, + "loss": 0.0009, + "num_input_tokens_seen": 31009888, + "step": 15836 + }, + { + "epoch": 2.0990059642147116, + "grad_norm": 0.013166550546884537, + "learning_rate": 1.0334872498613285e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31011936, + "step": 15837 + }, + { + "epoch": 2.0991385023194167, + "grad_norm": 5.158039093017578, + "learning_rate": 1.033206126826754e-06, + "loss": 0.0488, + "num_input_tokens_seen": 31013952, + "step": 15838 + }, + { + "epoch": 2.0992710404241217, + "grad_norm": 14.018601417541504, + "learning_rate": 1.032925032072978e-06, + "loss": 0.1567, + "num_input_tokens_seen": 31015928, + "step": 15839 + }, + { + "epoch": 2.099403578528827, + "grad_norm": 0.015515340492129326, + "learning_rate": 1.03264396560542e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31017544, + "step": 15840 + }, + { + "epoch": 2.0995361166335322, + "grad_norm": 11.384153366088867, + "learning_rate": 1.032362927429497e-06, + "loss": 0.0522, + "num_input_tokens_seen": 31018744, + "step": 15841 + }, + { + "epoch": 2.0996686547382373, + "grad_norm": 0.00803851056843996, + "learning_rate": 1.0320819175506305e-06, + "loss": 0.0, + "num_input_tokens_seen": 31020168, + "step": 15842 + }, + { + "epoch": 2.0998011928429423, + "grad_norm": 1.1091930866241455, + "learning_rate": 1.0318009359742373e-06, + "loss": 0.0043, + "num_input_tokens_seen": 31021616, + "step": 15843 + }, + { + "epoch": 2.0999337309476473, + "grad_norm": 3.204047918319702, + "learning_rate": 1.031519982705734e-06, + "loss": 0.0057, + "num_input_tokens_seen": 31023720, + "step": 15844 + }, + { + "epoch": 2.1000662690523524, + "grad_norm": 1.6260164976119995, + "learning_rate": 1.0312390577505393e-06, + "loss": 0.0068, + "num_input_tokens_seen": 31025744, + "step": 15845 + }, + { + "epoch": 2.100198807157058, + "grad_norm": 3.710658550262451, + "learning_rate": 1.0309581611140681e-06, + "loss": 0.0631, + "num_input_tokens_seen": 31027752, + "step": 15846 + }, + { + "epoch": 2.100331345261763, + "grad_norm": 8.605237007141113, + "learning_rate": 1.0306772928017378e-06, + "loss": 0.1073, + "num_input_tokens_seen": 31030376, + "step": 15847 + }, + { + "epoch": 2.100463883366468, + "grad_norm": 3.5550413131713867, + "learning_rate": 1.0303964528189629e-06, + "loss": 0.0655, + "num_input_tokens_seen": 31033416, + "step": 15848 + }, + { + "epoch": 2.100596421471173, + "grad_norm": 0.021615002304315567, + "learning_rate": 1.0301156411711582e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31035224, + "step": 15849 + }, + { + "epoch": 2.100728959575878, + "grad_norm": 0.008738775737583637, + "learning_rate": 1.029834857863737e-06, + "loss": 0.0, + "num_input_tokens_seen": 31036480, + "step": 15850 + }, + { + "epoch": 2.100861497680583, + "grad_norm": 0.017540819942951202, + "learning_rate": 1.0295541029021142e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31037800, + "step": 15851 + }, + { + "epoch": 2.100994035785288, + "grad_norm": 1.212479829788208, + "learning_rate": 1.0292733762917033e-06, + "loss": 0.0077, + "num_input_tokens_seen": 31039352, + "step": 15852 + }, + { + "epoch": 2.1011265738899936, + "grad_norm": 2.112584114074707, + "learning_rate": 1.0289926780379165e-06, + "loss": 0.0166, + "num_input_tokens_seen": 31041736, + "step": 15853 + }, + { + "epoch": 2.1012591119946986, + "grad_norm": 0.16184380650520325, + "learning_rate": 1.0287120081461654e-06, + "loss": 0.0017, + "num_input_tokens_seen": 31043096, + "step": 15854 + }, + { + "epoch": 2.1013916500994037, + "grad_norm": 0.008505909703671932, + "learning_rate": 1.028431366621862e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31044904, + "step": 15855 + }, + { + "epoch": 2.1015241882041087, + "grad_norm": 1.3323477506637573, + "learning_rate": 1.0281507534704164e-06, + "loss": 0.0119, + "num_input_tokens_seen": 31046952, + "step": 15856 + }, + { + "epoch": 2.1016567263088137, + "grad_norm": 2.7004241943359375, + "learning_rate": 1.0278701686972391e-06, + "loss": 0.0187, + "num_input_tokens_seen": 31048984, + "step": 15857 + }, + { + "epoch": 2.1017892644135188, + "grad_norm": 0.1896669864654541, + "learning_rate": 1.0275896123077416e-06, + "loss": 0.0005, + "num_input_tokens_seen": 31050856, + "step": 15858 + }, + { + "epoch": 2.101921802518224, + "grad_norm": 9.643930435180664, + "learning_rate": 1.0273090843073324e-06, + "loss": 0.195, + "num_input_tokens_seen": 31053096, + "step": 15859 + }, + { + "epoch": 2.1020543406229293, + "grad_norm": 2.5604121685028076, + "learning_rate": 1.02702858470142e-06, + "loss": 0.0164, + "num_input_tokens_seen": 31054928, + "step": 15860 + }, + { + "epoch": 2.1021868787276343, + "grad_norm": 0.011899290606379509, + "learning_rate": 1.0267481134954113e-06, + "loss": 0.0, + "num_input_tokens_seen": 31056072, + "step": 15861 + }, + { + "epoch": 2.1023194168323394, + "grad_norm": 2.410548448562622, + "learning_rate": 1.0264676706947166e-06, + "loss": 0.0429, + "num_input_tokens_seen": 31057920, + "step": 15862 + }, + { + "epoch": 2.1024519549370444, + "grad_norm": 0.5909061431884766, + "learning_rate": 1.0261872563047406e-06, + "loss": 0.0039, + "num_input_tokens_seen": 31059768, + "step": 15863 + }, + { + "epoch": 2.1025844930417494, + "grad_norm": 5.635152339935303, + "learning_rate": 1.0259068703308923e-06, + "loss": 0.039, + "num_input_tokens_seen": 31061800, + "step": 15864 + }, + { + "epoch": 2.1027170311464545, + "grad_norm": 12.06176471710205, + "learning_rate": 1.0256265127785762e-06, + "loss": 0.1931, + "num_input_tokens_seen": 31064000, + "step": 15865 + }, + { + "epoch": 2.1028495692511595, + "grad_norm": 1.787699580192566, + "learning_rate": 1.025346183653198e-06, + "loss": 0.008, + "num_input_tokens_seen": 31065752, + "step": 15866 + }, + { + "epoch": 2.102982107355865, + "grad_norm": 0.023606708273291588, + "learning_rate": 1.0250658829601617e-06, + "loss": 0.0002, + "num_input_tokens_seen": 31067616, + "step": 15867 + }, + { + "epoch": 2.10311464546057, + "grad_norm": 12.96444034576416, + "learning_rate": 1.024785610704873e-06, + "loss": 0.1763, + "num_input_tokens_seen": 31069712, + "step": 15868 + }, + { + "epoch": 2.103247183565275, + "grad_norm": 9.074623107910156, + "learning_rate": 1.0245053668927362e-06, + "loss": 0.1813, + "num_input_tokens_seen": 31072392, + "step": 15869 + }, + { + "epoch": 2.10337972166998, + "grad_norm": 0.41853076219558716, + "learning_rate": 1.0242251515291537e-06, + "loss": 0.0022, + "num_input_tokens_seen": 31073896, + "step": 15870 + }, + { + "epoch": 2.103512259774685, + "grad_norm": 0.07969501614570618, + "learning_rate": 1.0239449646195285e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31076264, + "step": 15871 + }, + { + "epoch": 2.10364479787939, + "grad_norm": 8.31026554107666, + "learning_rate": 1.0236648061692616e-06, + "loss": 0.1045, + "num_input_tokens_seen": 31077656, + "step": 15872 + }, + { + "epoch": 2.103777335984095, + "grad_norm": 8.121954917907715, + "learning_rate": 1.0233846761837567e-06, + "loss": 0.0953, + "num_input_tokens_seen": 31079920, + "step": 15873 + }, + { + "epoch": 2.1039098740888007, + "grad_norm": 0.7636157274246216, + "learning_rate": 1.0231045746684133e-06, + "loss": 0.0024, + "num_input_tokens_seen": 31082640, + "step": 15874 + }, + { + "epoch": 2.1040424121935057, + "grad_norm": 10.376847267150879, + "learning_rate": 1.0228245016286331e-06, + "loss": 0.113, + "num_input_tokens_seen": 31085368, + "step": 15875 + }, + { + "epoch": 2.1041749502982108, + "grad_norm": 2.506401777267456, + "learning_rate": 1.0225444570698156e-06, + "loss": 0.0224, + "num_input_tokens_seen": 31087456, + "step": 15876 + }, + { + "epoch": 2.104307488402916, + "grad_norm": 9.249018669128418, + "learning_rate": 1.0222644409973596e-06, + "loss": 0.0401, + "num_input_tokens_seen": 31089272, + "step": 15877 + }, + { + "epoch": 2.104440026507621, + "grad_norm": 4.882899761199951, + "learning_rate": 1.021984453416665e-06, + "loss": 0.0245, + "num_input_tokens_seen": 31091184, + "step": 15878 + }, + { + "epoch": 2.104572564612326, + "grad_norm": 6.868321418762207, + "learning_rate": 1.0217044943331301e-06, + "loss": 0.0598, + "num_input_tokens_seen": 31093072, + "step": 15879 + }, + { + "epoch": 2.1047051027170314, + "grad_norm": 2.662890672683716, + "learning_rate": 1.0214245637521514e-06, + "loss": 0.0146, + "num_input_tokens_seen": 31094528, + "step": 15880 + }, + { + "epoch": 2.1048376408217364, + "grad_norm": 2.5376861095428467, + "learning_rate": 1.0211446616791281e-06, + "loss": 0.0185, + "num_input_tokens_seen": 31097088, + "step": 15881 + }, + { + "epoch": 2.1049701789264414, + "grad_norm": 0.005738845095038414, + "learning_rate": 1.020864788119455e-06, + "loss": 0.0, + "num_input_tokens_seen": 31098992, + "step": 15882 + }, + { + "epoch": 2.1051027170311465, + "grad_norm": 0.010538849979639053, + "learning_rate": 1.02058494307853e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31101856, + "step": 15883 + }, + { + "epoch": 2.1052352551358515, + "grad_norm": 0.040175389498472214, + "learning_rate": 1.020305126561748e-06, + "loss": 0.0002, + "num_input_tokens_seen": 31104856, + "step": 15884 + }, + { + "epoch": 2.1053677932405566, + "grad_norm": 0.065611831843853, + "learning_rate": 1.020025338574504e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31106136, + "step": 15885 + }, + { + "epoch": 2.1055003313452616, + "grad_norm": 0.049114301800727844, + "learning_rate": 1.0197455791221913e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31108328, + "step": 15886 + }, + { + "epoch": 2.105632869449967, + "grad_norm": 3.7536838054656982, + "learning_rate": 1.0194658482102051e-06, + "loss": 0.0462, + "num_input_tokens_seen": 31110456, + "step": 15887 + }, + { + "epoch": 2.105765407554672, + "grad_norm": 7.078662872314453, + "learning_rate": 1.0191861458439397e-06, + "loss": 0.1159, + "num_input_tokens_seen": 31112360, + "step": 15888 + }, + { + "epoch": 2.105897945659377, + "grad_norm": 1.5046520233154297, + "learning_rate": 1.0189064720287871e-06, + "loss": 0.0147, + "num_input_tokens_seen": 31114248, + "step": 15889 + }, + { + "epoch": 2.106030483764082, + "grad_norm": 0.04844164475798607, + "learning_rate": 1.0186268267701393e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31115720, + "step": 15890 + }, + { + "epoch": 2.1061630218687872, + "grad_norm": 3.4674792289733887, + "learning_rate": 1.0183472100733874e-06, + "loss": 0.0072, + "num_input_tokens_seen": 31117232, + "step": 15891 + }, + { + "epoch": 2.1062955599734923, + "grad_norm": 5.048121929168701, + "learning_rate": 1.0180676219439242e-06, + "loss": 0.0588, + "num_input_tokens_seen": 31119160, + "step": 15892 + }, + { + "epoch": 2.1064280980781973, + "grad_norm": 0.27222344279289246, + "learning_rate": 1.0177880623871389e-06, + "loss": 0.002, + "num_input_tokens_seen": 31120824, + "step": 15893 + }, + { + "epoch": 2.106560636182903, + "grad_norm": 9.71750259399414, + "learning_rate": 1.017508531408423e-06, + "loss": 0.1307, + "num_input_tokens_seen": 31122784, + "step": 15894 + }, + { + "epoch": 2.106693174287608, + "grad_norm": 0.01615164987742901, + "learning_rate": 1.0172290290131654e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31124168, + "step": 15895 + }, + { + "epoch": 2.106825712392313, + "grad_norm": 12.569095611572266, + "learning_rate": 1.0169495552067549e-06, + "loss": 0.1598, + "num_input_tokens_seen": 31126464, + "step": 15896 + }, + { + "epoch": 2.106958250497018, + "grad_norm": 0.011246584355831146, + "learning_rate": 1.0166701099945793e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31127872, + "step": 15897 + }, + { + "epoch": 2.107090788601723, + "grad_norm": 0.0025829714722931385, + "learning_rate": 1.0163906933820275e-06, + "loss": 0.0, + "num_input_tokens_seen": 31129064, + "step": 15898 + }, + { + "epoch": 2.107223326706428, + "grad_norm": 0.15759709477424622, + "learning_rate": 1.0161113053744872e-06, + "loss": 0.0005, + "num_input_tokens_seen": 31130464, + "step": 15899 + }, + { + "epoch": 2.107355864811133, + "grad_norm": 0.044281162321567535, + "learning_rate": 1.0158319459773448e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31132808, + "step": 15900 + }, + { + "epoch": 2.1074884029158385, + "grad_norm": 6.325697422027588, + "learning_rate": 1.015552615195986e-06, + "loss": 0.1642, + "num_input_tokens_seen": 31134688, + "step": 15901 + }, + { + "epoch": 2.1076209410205435, + "grad_norm": 0.09797005355358124, + "learning_rate": 1.0152733130357972e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31136432, + "step": 15902 + }, + { + "epoch": 2.1077534791252486, + "grad_norm": 0.2263217568397522, + "learning_rate": 1.0149940395021623e-06, + "loss": 0.0011, + "num_input_tokens_seen": 31138456, + "step": 15903 + }, + { + "epoch": 2.1078860172299536, + "grad_norm": 5.082943916320801, + "learning_rate": 1.0147147946004666e-06, + "loss": 0.0426, + "num_input_tokens_seen": 31140576, + "step": 15904 + }, + { + "epoch": 2.1080185553346587, + "grad_norm": 0.004184241872280836, + "learning_rate": 1.0144355783360953e-06, + "loss": 0.0, + "num_input_tokens_seen": 31142120, + "step": 15905 + }, + { + "epoch": 2.1081510934393637, + "grad_norm": 0.0060673123225569725, + "learning_rate": 1.0141563907144307e-06, + "loss": 0.0, + "num_input_tokens_seen": 31143664, + "step": 15906 + }, + { + "epoch": 2.1082836315440687, + "grad_norm": 7.490222930908203, + "learning_rate": 1.0138772317408563e-06, + "loss": 0.0756, + "num_input_tokens_seen": 31145864, + "step": 15907 + }, + { + "epoch": 2.108416169648774, + "grad_norm": 7.861691951751709, + "learning_rate": 1.013598101420753e-06, + "loss": 0.1636, + "num_input_tokens_seen": 31148160, + "step": 15908 + }, + { + "epoch": 2.1085487077534792, + "grad_norm": 5.4685750007629395, + "learning_rate": 1.0133189997595045e-06, + "loss": 0.0634, + "num_input_tokens_seen": 31149776, + "step": 15909 + }, + { + "epoch": 2.1086812458581843, + "grad_norm": 8.065530776977539, + "learning_rate": 1.0130399267624905e-06, + "loss": 0.0376, + "num_input_tokens_seen": 31151288, + "step": 15910 + }, + { + "epoch": 2.1088137839628893, + "grad_norm": 6.5656890869140625, + "learning_rate": 1.0127608824350936e-06, + "loss": 0.0458, + "num_input_tokens_seen": 31153056, + "step": 15911 + }, + { + "epoch": 2.1089463220675944, + "grad_norm": 10.338579177856445, + "learning_rate": 1.0124818667826924e-06, + "loss": 0.1058, + "num_input_tokens_seen": 31155616, + "step": 15912 + }, + { + "epoch": 2.1090788601722994, + "grad_norm": 0.01501214038580656, + "learning_rate": 1.0122028798106664e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31157160, + "step": 15913 + }, + { + "epoch": 2.1092113982770044, + "grad_norm": 0.12210843712091446, + "learning_rate": 1.0119239215243963e-06, + "loss": 0.0008, + "num_input_tokens_seen": 31158744, + "step": 15914 + }, + { + "epoch": 2.10934393638171, + "grad_norm": 2.61883544921875, + "learning_rate": 1.0116449919292593e-06, + "loss": 0.0112, + "num_input_tokens_seen": 31161656, + "step": 15915 + }, + { + "epoch": 2.109476474486415, + "grad_norm": 0.305880606174469, + "learning_rate": 1.0113660910306328e-06, + "loss": 0.0013, + "num_input_tokens_seen": 31163680, + "step": 15916 + }, + { + "epoch": 2.10960901259112, + "grad_norm": 3.902306079864502, + "learning_rate": 1.011087218833896e-06, + "loss": 0.0667, + "num_input_tokens_seen": 31165960, + "step": 15917 + }, + { + "epoch": 2.109741550695825, + "grad_norm": 0.007223166991025209, + "learning_rate": 1.0108083753444236e-06, + "loss": 0.0, + "num_input_tokens_seen": 31167888, + "step": 15918 + }, + { + "epoch": 2.10987408880053, + "grad_norm": 3.985076904296875, + "learning_rate": 1.0105295605675944e-06, + "loss": 0.055, + "num_input_tokens_seen": 31169528, + "step": 15919 + }, + { + "epoch": 2.110006626905235, + "grad_norm": 0.010819315910339355, + "learning_rate": 1.0102507745087824e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31171032, + "step": 15920 + }, + { + "epoch": 2.11013916500994, + "grad_norm": 0.2970164120197296, + "learning_rate": 1.0099720171733625e-06, + "loss": 0.0014, + "num_input_tokens_seen": 31173288, + "step": 15921 + }, + { + "epoch": 2.1102717031146456, + "grad_norm": 1.3870792388916016, + "learning_rate": 1.009693288566711e-06, + "loss": 0.0072, + "num_input_tokens_seen": 31175504, + "step": 15922 + }, + { + "epoch": 2.1104042412193507, + "grad_norm": 3.8207406997680664, + "learning_rate": 1.0094145886942009e-06, + "loss": 0.0414, + "num_input_tokens_seen": 31177416, + "step": 15923 + }, + { + "epoch": 2.1105367793240557, + "grad_norm": 0.01220555417239666, + "learning_rate": 1.0091359175612048e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31178704, + "step": 15924 + }, + { + "epoch": 2.1106693174287607, + "grad_norm": 5.103734970092773, + "learning_rate": 1.0088572751730979e-06, + "loss": 0.1156, + "num_input_tokens_seen": 31180560, + "step": 15925 + }, + { + "epoch": 2.1108018555334658, + "grad_norm": 2.618957042694092, + "learning_rate": 1.008578661535251e-06, + "loss": 0.0129, + "num_input_tokens_seen": 31182320, + "step": 15926 + }, + { + "epoch": 2.110934393638171, + "grad_norm": 0.3424279987812042, + "learning_rate": 1.008300076653036e-06, + "loss": 0.0017, + "num_input_tokens_seen": 31184304, + "step": 15927 + }, + { + "epoch": 2.111066931742876, + "grad_norm": 4.514231204986572, + "learning_rate": 1.0080215205318254e-06, + "loss": 0.0777, + "num_input_tokens_seen": 31187208, + "step": 15928 + }, + { + "epoch": 2.1111994698475813, + "grad_norm": 15.18362045288086, + "learning_rate": 1.0077429931769879e-06, + "loss": 0.0963, + "num_input_tokens_seen": 31188136, + "step": 15929 + }, + { + "epoch": 2.1113320079522864, + "grad_norm": 0.2735540270805359, + "learning_rate": 1.0074644945938961e-06, + "loss": 0.0008, + "num_input_tokens_seen": 31189872, + "step": 15930 + }, + { + "epoch": 2.1114645460569914, + "grad_norm": 4.074028968811035, + "learning_rate": 1.0071860247879183e-06, + "loss": 0.1265, + "num_input_tokens_seen": 31191560, + "step": 15931 + }, + { + "epoch": 2.1115970841616964, + "grad_norm": 8.576210975646973, + "learning_rate": 1.0069075837644239e-06, + "loss": 0.1008, + "num_input_tokens_seen": 31193600, + "step": 15932 + }, + { + "epoch": 2.1117296222664015, + "grad_norm": 5.452406406402588, + "learning_rate": 1.0066291715287805e-06, + "loss": 0.0579, + "num_input_tokens_seen": 31196304, + "step": 15933 + }, + { + "epoch": 2.1118621603711065, + "grad_norm": 0.02765427902340889, + "learning_rate": 1.006350788086357e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31198392, + "step": 15934 + }, + { + "epoch": 2.111994698475812, + "grad_norm": 8.22218132019043, + "learning_rate": 1.0060724334425212e-06, + "loss": 0.0574, + "num_input_tokens_seen": 31200320, + "step": 15935 + }, + { + "epoch": 2.112127236580517, + "grad_norm": 1.6232014894485474, + "learning_rate": 1.0057941076026399e-06, + "loss": 0.009, + "num_input_tokens_seen": 31203344, + "step": 15936 + }, + { + "epoch": 2.112259774685222, + "grad_norm": 0.7143456935882568, + "learning_rate": 1.0055158105720785e-06, + "loss": 0.004, + "num_input_tokens_seen": 31205064, + "step": 15937 + }, + { + "epoch": 2.112392312789927, + "grad_norm": 2.280484199523926, + "learning_rate": 1.0052375423562038e-06, + "loss": 0.0142, + "num_input_tokens_seen": 31207080, + "step": 15938 + }, + { + "epoch": 2.112524850894632, + "grad_norm": 0.03964947536587715, + "learning_rate": 1.0049593029603794e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31208808, + "step": 15939 + }, + { + "epoch": 2.112657388999337, + "grad_norm": 0.06965214759111404, + "learning_rate": 1.0046810923899707e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31210128, + "step": 15940 + }, + { + "epoch": 2.1127899271040422, + "grad_norm": 1.1292997598648071, + "learning_rate": 1.0044029106503437e-06, + "loss": 0.0075, + "num_input_tokens_seen": 31212664, + "step": 15941 + }, + { + "epoch": 2.1129224652087477, + "grad_norm": 3.159147262573242, + "learning_rate": 1.0041247577468596e-06, + "loss": 0.0537, + "num_input_tokens_seen": 31215080, + "step": 15942 + }, + { + "epoch": 2.1130550033134528, + "grad_norm": 7.49318790435791, + "learning_rate": 1.0038466336848826e-06, + "loss": 0.1755, + "num_input_tokens_seen": 31217272, + "step": 15943 + }, + { + "epoch": 2.113187541418158, + "grad_norm": 0.04262695461511612, + "learning_rate": 1.0035685384697736e-06, + "loss": 0.0002, + "num_input_tokens_seen": 31218632, + "step": 15944 + }, + { + "epoch": 2.113320079522863, + "grad_norm": 5.605983734130859, + "learning_rate": 1.0032904721068953e-06, + "loss": 0.0864, + "num_input_tokens_seen": 31220264, + "step": 15945 + }, + { + "epoch": 2.113452617627568, + "grad_norm": 3.892982006072998, + "learning_rate": 1.0030124346016104e-06, + "loss": 0.023, + "num_input_tokens_seen": 31223744, + "step": 15946 + }, + { + "epoch": 2.113585155732273, + "grad_norm": 0.2520269751548767, + "learning_rate": 1.0027344259592786e-06, + "loss": 0.0009, + "num_input_tokens_seen": 31225840, + "step": 15947 + }, + { + "epoch": 2.113717693836978, + "grad_norm": 3.2943215370178223, + "learning_rate": 1.0024564461852598e-06, + "loss": 0.0315, + "num_input_tokens_seen": 31227520, + "step": 15948 + }, + { + "epoch": 2.1138502319416834, + "grad_norm": 10.864590644836426, + "learning_rate": 1.0021784952849137e-06, + "loss": 0.155, + "num_input_tokens_seen": 31228864, + "step": 15949 + }, + { + "epoch": 2.1139827700463885, + "grad_norm": 1.5398967266082764, + "learning_rate": 1.0019005732635987e-06, + "loss": 0.0094, + "num_input_tokens_seen": 31230448, + "step": 15950 + }, + { + "epoch": 2.1141153081510935, + "grad_norm": 12.04830551147461, + "learning_rate": 1.0016226801266744e-06, + "loss": 0.2083, + "num_input_tokens_seen": 31233456, + "step": 15951 + }, + { + "epoch": 2.1142478462557985, + "grad_norm": 0.008589185774326324, + "learning_rate": 1.001344815879499e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31234648, + "step": 15952 + }, + { + "epoch": 2.1143803843605036, + "grad_norm": 1.2209203243255615, + "learning_rate": 1.0010669805274295e-06, + "loss": 0.0027, + "num_input_tokens_seen": 31236400, + "step": 15953 + }, + { + "epoch": 2.1145129224652086, + "grad_norm": 0.07187455892562866, + "learning_rate": 1.0007891740758227e-06, + "loss": 0.0005, + "num_input_tokens_seen": 31238224, + "step": 15954 + }, + { + "epoch": 2.1146454605699136, + "grad_norm": 0.7243847250938416, + "learning_rate": 1.0005113965300343e-06, + "loss": 0.0043, + "num_input_tokens_seen": 31240200, + "step": 15955 + }, + { + "epoch": 2.114777998674619, + "grad_norm": 0.3958112895488739, + "learning_rate": 1.0002336478954211e-06, + "loss": 0.0009, + "num_input_tokens_seen": 31242016, + "step": 15956 + }, + { + "epoch": 2.114910536779324, + "grad_norm": 1.3609455823898315, + "learning_rate": 9.99955928177337e-07, + "loss": 0.0191, + "num_input_tokens_seen": 31244464, + "step": 15957 + }, + { + "epoch": 2.115043074884029, + "grad_norm": 2.805771827697754, + "learning_rate": 9.996782373811384e-07, + "loss": 0.0157, + "num_input_tokens_seen": 31246024, + "step": 15958 + }, + { + "epoch": 2.1151756129887342, + "grad_norm": 1.5725172758102417, + "learning_rate": 9.994005755121784e-07, + "loss": 0.0156, + "num_input_tokens_seen": 31247872, + "step": 15959 + }, + { + "epoch": 2.1153081510934393, + "grad_norm": 0.12252626568078995, + "learning_rate": 9.991229425758095e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31249864, + "step": 15960 + }, + { + "epoch": 2.1154406891981443, + "grad_norm": 0.005042593460530043, + "learning_rate": 9.988453385773866e-07, + "loss": 0.0, + "num_input_tokens_seen": 31251632, + "step": 15961 + }, + { + "epoch": 2.1155732273028494, + "grad_norm": 0.13577313721179962, + "learning_rate": 9.985677635222612e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31254840, + "step": 15962 + }, + { + "epoch": 2.115705765407555, + "grad_norm": 1.2255592346191406, + "learning_rate": 9.982902174157844e-07, + "loss": 0.0101, + "num_input_tokens_seen": 31256480, + "step": 15963 + }, + { + "epoch": 2.11583830351226, + "grad_norm": 3.4641661643981934, + "learning_rate": 9.980127002633088e-07, + "loss": 0.0094, + "num_input_tokens_seen": 31258584, + "step": 15964 + }, + { + "epoch": 2.115970841616965, + "grad_norm": 1.2744196653366089, + "learning_rate": 9.97735212070184e-07, + "loss": 0.007, + "num_input_tokens_seen": 31261520, + "step": 15965 + }, + { + "epoch": 2.11610337972167, + "grad_norm": 8.298657417297363, + "learning_rate": 9.974577528417613e-07, + "loss": 0.081, + "num_input_tokens_seen": 31263224, + "step": 15966 + }, + { + "epoch": 2.116235917826375, + "grad_norm": 5.913610458374023, + "learning_rate": 9.971803225833894e-07, + "loss": 0.1112, + "num_input_tokens_seen": 31266648, + "step": 15967 + }, + { + "epoch": 2.11636845593108, + "grad_norm": 0.01634967513382435, + "learning_rate": 9.96902921300418e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31269184, + "step": 15968 + }, + { + "epoch": 2.1165009940357855, + "grad_norm": 5.69858455657959, + "learning_rate": 9.966255489981943e-07, + "loss": 0.1304, + "num_input_tokens_seen": 31270872, + "step": 15969 + }, + { + "epoch": 2.1166335321404905, + "grad_norm": 8.893097877502441, + "learning_rate": 9.963482056820669e-07, + "loss": 0.1104, + "num_input_tokens_seen": 31273080, + "step": 15970 + }, + { + "epoch": 2.1167660702451956, + "grad_norm": 3.0060222148895264, + "learning_rate": 9.960708913573846e-07, + "loss": 0.0116, + "num_input_tokens_seen": 31274496, + "step": 15971 + }, + { + "epoch": 2.1168986083499006, + "grad_norm": 3.0118281841278076, + "learning_rate": 9.957936060294928e-07, + "loss": 0.0218, + "num_input_tokens_seen": 31276672, + "step": 15972 + }, + { + "epoch": 2.1170311464546057, + "grad_norm": 3.4252753257751465, + "learning_rate": 9.955163497037382e-07, + "loss": 0.0354, + "num_input_tokens_seen": 31278472, + "step": 15973 + }, + { + "epoch": 2.1171636845593107, + "grad_norm": 4.892392158508301, + "learning_rate": 9.952391223854653e-07, + "loss": 0.0609, + "num_input_tokens_seen": 31280056, + "step": 15974 + }, + { + "epoch": 2.1172962226640157, + "grad_norm": 21.116289138793945, + "learning_rate": 9.949619240800198e-07, + "loss": 0.1467, + "num_input_tokens_seen": 31281928, + "step": 15975 + }, + { + "epoch": 2.117428760768721, + "grad_norm": 0.01190525945276022, + "learning_rate": 9.94684754792748e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31283376, + "step": 15976 + }, + { + "epoch": 2.1175612988734263, + "grad_norm": 3.9007999897003174, + "learning_rate": 9.944076145289925e-07, + "loss": 0.0598, + "num_input_tokens_seen": 31285232, + "step": 15977 + }, + { + "epoch": 2.1176938369781313, + "grad_norm": 0.11487153172492981, + "learning_rate": 9.941305032940968e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31286440, + "step": 15978 + }, + { + "epoch": 2.1178263750828363, + "grad_norm": 0.6625118851661682, + "learning_rate": 9.938534210934038e-07, + "loss": 0.0047, + "num_input_tokens_seen": 31287760, + "step": 15979 + }, + { + "epoch": 2.1179589131875414, + "grad_norm": 18.259695053100586, + "learning_rate": 9.935763679322553e-07, + "loss": 0.2927, + "num_input_tokens_seen": 31289680, + "step": 15980 + }, + { + "epoch": 2.1180914512922464, + "grad_norm": 18.65428924560547, + "learning_rate": 9.932993438159931e-07, + "loss": 0.0817, + "num_input_tokens_seen": 31291560, + "step": 15981 + }, + { + "epoch": 2.1182239893969514, + "grad_norm": 1.9163814783096313, + "learning_rate": 9.930223487499605e-07, + "loss": 0.0079, + "num_input_tokens_seen": 31293960, + "step": 15982 + }, + { + "epoch": 2.118356527501657, + "grad_norm": 2.2967591285705566, + "learning_rate": 9.92745382739496e-07, + "loss": 0.0155, + "num_input_tokens_seen": 31296736, + "step": 15983 + }, + { + "epoch": 2.118489065606362, + "grad_norm": 0.02329343557357788, + "learning_rate": 9.924684457899408e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31298504, + "step": 15984 + }, + { + "epoch": 2.118621603711067, + "grad_norm": 0.04614463821053505, + "learning_rate": 9.92191537906634e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31300224, + "step": 15985 + }, + { + "epoch": 2.118754141815772, + "grad_norm": 3.9793007373809814, + "learning_rate": 9.919146590949133e-07, + "loss": 0.0707, + "num_input_tokens_seen": 31301880, + "step": 15986 + }, + { + "epoch": 2.118886679920477, + "grad_norm": 0.554431140422821, + "learning_rate": 9.916378093601184e-07, + "loss": 0.0022, + "num_input_tokens_seen": 31303712, + "step": 15987 + }, + { + "epoch": 2.119019218025182, + "grad_norm": 5.004972457885742, + "learning_rate": 9.913609887075881e-07, + "loss": 0.1117, + "num_input_tokens_seen": 31306464, + "step": 15988 + }, + { + "epoch": 2.119151756129887, + "grad_norm": 12.363912582397461, + "learning_rate": 9.910841971426589e-07, + "loss": 0.2642, + "num_input_tokens_seen": 31309136, + "step": 15989 + }, + { + "epoch": 2.1192842942345926, + "grad_norm": 2.2543981075286865, + "learning_rate": 9.90807434670667e-07, + "loss": 0.0288, + "num_input_tokens_seen": 31311288, + "step": 15990 + }, + { + "epoch": 2.1194168323392977, + "grad_norm": 2.8324477672576904, + "learning_rate": 9.905307012969481e-07, + "loss": 0.0156, + "num_input_tokens_seen": 31313904, + "step": 15991 + }, + { + "epoch": 2.1195493704440027, + "grad_norm": 0.549984335899353, + "learning_rate": 9.902539970268393e-07, + "loss": 0.0048, + "num_input_tokens_seen": 31315568, + "step": 15992 + }, + { + "epoch": 2.1196819085487077, + "grad_norm": 0.00872162077575922, + "learning_rate": 9.899773218656745e-07, + "loss": 0.0, + "num_input_tokens_seen": 31317144, + "step": 15993 + }, + { + "epoch": 2.119814446653413, + "grad_norm": 7.813802242279053, + "learning_rate": 9.89700675818789e-07, + "loss": 0.1264, + "num_input_tokens_seen": 31318880, + "step": 15994 + }, + { + "epoch": 2.119946984758118, + "grad_norm": 2.485776662826538, + "learning_rate": 9.894240588915168e-07, + "loss": 0.033, + "num_input_tokens_seen": 31320832, + "step": 15995 + }, + { + "epoch": 2.120079522862823, + "grad_norm": 0.8729603886604309, + "learning_rate": 9.8914747108919e-07, + "loss": 0.0046, + "num_input_tokens_seen": 31322296, + "step": 15996 + }, + { + "epoch": 2.1202120609675283, + "grad_norm": 1.4836153984069824, + "learning_rate": 9.888709124171429e-07, + "loss": 0.0095, + "num_input_tokens_seen": 31324000, + "step": 15997 + }, + { + "epoch": 2.1203445990722334, + "grad_norm": 0.16681288182735443, + "learning_rate": 9.885943828807062e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31325640, + "step": 15998 + }, + { + "epoch": 2.1204771371769384, + "grad_norm": 7.054441452026367, + "learning_rate": 9.883178824852133e-07, + "loss": 0.0537, + "num_input_tokens_seen": 31326896, + "step": 15999 + }, + { + "epoch": 2.1206096752816435, + "grad_norm": 4.794320583343506, + "learning_rate": 9.880414112359945e-07, + "loss": 0.0548, + "num_input_tokens_seen": 31328744, + "step": 16000 + }, + { + "epoch": 2.1207422133863485, + "grad_norm": 0.05177433416247368, + "learning_rate": 9.877649691383797e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31330512, + "step": 16001 + }, + { + "epoch": 2.1208747514910535, + "grad_norm": 1.4180458784103394, + "learning_rate": 9.874885561977e-07, + "loss": 0.0101, + "num_input_tokens_seen": 31333200, + "step": 16002 + }, + { + "epoch": 2.1210072895957586, + "grad_norm": 0.0033680996857583523, + "learning_rate": 9.872121724192849e-07, + "loss": 0.0, + "num_input_tokens_seen": 31334888, + "step": 16003 + }, + { + "epoch": 2.121139827700464, + "grad_norm": 3.0794763565063477, + "learning_rate": 9.869358178084614e-07, + "loss": 0.0148, + "num_input_tokens_seen": 31336512, + "step": 16004 + }, + { + "epoch": 2.121272365805169, + "grad_norm": 0.07193078100681305, + "learning_rate": 9.866594923705602e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31339328, + "step": 16005 + }, + { + "epoch": 2.121404903909874, + "grad_norm": 0.027965696528553963, + "learning_rate": 9.86383196110908e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31341512, + "step": 16006 + }, + { + "epoch": 2.121537442014579, + "grad_norm": 6.011144638061523, + "learning_rate": 9.861069290348313e-07, + "loss": 0.0635, + "num_input_tokens_seen": 31342960, + "step": 16007 + }, + { + "epoch": 2.121669980119284, + "grad_norm": 9.07699966430664, + "learning_rate": 9.858306911476577e-07, + "loss": 0.1208, + "num_input_tokens_seen": 31346008, + "step": 16008 + }, + { + "epoch": 2.1218025182239892, + "grad_norm": 17.39802360534668, + "learning_rate": 9.855544824547133e-07, + "loss": 0.1293, + "num_input_tokens_seen": 31348080, + "step": 16009 + }, + { + "epoch": 2.1219350563286943, + "grad_norm": 5.495151519775391, + "learning_rate": 9.852783029613224e-07, + "loss": 0.0322, + "num_input_tokens_seen": 31350000, + "step": 16010 + }, + { + "epoch": 2.1220675944333998, + "grad_norm": 3.1166462898254395, + "learning_rate": 9.850021526728119e-07, + "loss": 0.0201, + "num_input_tokens_seen": 31351936, + "step": 16011 + }, + { + "epoch": 2.122200132538105, + "grad_norm": 0.42338091135025024, + "learning_rate": 9.847260315945038e-07, + "loss": 0.0023, + "num_input_tokens_seen": 31355128, + "step": 16012 + }, + { + "epoch": 2.12233267064281, + "grad_norm": 0.005450528580695391, + "learning_rate": 9.844499397317239e-07, + "loss": 0.0, + "num_input_tokens_seen": 31356600, + "step": 16013 + }, + { + "epoch": 2.122465208747515, + "grad_norm": 5.787471771240234, + "learning_rate": 9.841738770897948e-07, + "loss": 0.0883, + "num_input_tokens_seen": 31358824, + "step": 16014 + }, + { + "epoch": 2.12259774685222, + "grad_norm": 10.324423789978027, + "learning_rate": 9.838978436740393e-07, + "loss": 0.1273, + "num_input_tokens_seen": 31361000, + "step": 16015 + }, + { + "epoch": 2.122730284956925, + "grad_norm": 0.052438125014305115, + "learning_rate": 9.83621839489778e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31362840, + "step": 16016 + }, + { + "epoch": 2.1228628230616304, + "grad_norm": 0.0914560854434967, + "learning_rate": 9.833458645423341e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31364752, + "step": 16017 + }, + { + "epoch": 2.1229953611663355, + "grad_norm": 11.242875099182129, + "learning_rate": 9.830699188370292e-07, + "loss": 0.1178, + "num_input_tokens_seen": 31366752, + "step": 16018 + }, + { + "epoch": 2.1231278992710405, + "grad_norm": 0.5296412706375122, + "learning_rate": 9.827940023791823e-07, + "loss": 0.0024, + "num_input_tokens_seen": 31369016, + "step": 16019 + }, + { + "epoch": 2.1232604373757455, + "grad_norm": 4.376650810241699, + "learning_rate": 9.825181151741138e-07, + "loss": 0.02, + "num_input_tokens_seen": 31372000, + "step": 16020 + }, + { + "epoch": 2.1233929754804506, + "grad_norm": 0.0015726073179394007, + "learning_rate": 9.822422572271422e-07, + "loss": 0.0, + "num_input_tokens_seen": 31373640, + "step": 16021 + }, + { + "epoch": 2.1235255135851556, + "grad_norm": 1.7273216247558594, + "learning_rate": 9.81966428543588e-07, + "loss": 0.0129, + "num_input_tokens_seen": 31375480, + "step": 16022 + }, + { + "epoch": 2.1236580516898607, + "grad_norm": 0.04559807851910591, + "learning_rate": 9.81690629128767e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31376720, + "step": 16023 + }, + { + "epoch": 2.123790589794566, + "grad_norm": 4.228126525878906, + "learning_rate": 9.81414858987999e-07, + "loss": 0.0361, + "num_input_tokens_seen": 31378512, + "step": 16024 + }, + { + "epoch": 2.123923127899271, + "grad_norm": 0.025753268972039223, + "learning_rate": 9.811391181266003e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31381368, + "step": 16025 + }, + { + "epoch": 2.124055666003976, + "grad_norm": 7.938784122467041, + "learning_rate": 9.80863406549887e-07, + "loss": 0.1007, + "num_input_tokens_seen": 31383648, + "step": 16026 + }, + { + "epoch": 2.1241882041086813, + "grad_norm": 0.003898393828421831, + "learning_rate": 9.805877242631745e-07, + "loss": 0.0, + "num_input_tokens_seen": 31386144, + "step": 16027 + }, + { + "epoch": 2.1243207422133863, + "grad_norm": 0.2597859799861908, + "learning_rate": 9.80312071271779e-07, + "loss": 0.0013, + "num_input_tokens_seen": 31388736, + "step": 16028 + }, + { + "epoch": 2.1244532803180913, + "grad_norm": 0.004055833909660578, + "learning_rate": 9.800364475810158e-07, + "loss": 0.0, + "num_input_tokens_seen": 31391560, + "step": 16029 + }, + { + "epoch": 2.1245858184227964, + "grad_norm": 0.02276485599577427, + "learning_rate": 9.797608531961986e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31392736, + "step": 16030 + }, + { + "epoch": 2.124718356527502, + "grad_norm": 0.012399180792272091, + "learning_rate": 9.79485288122641e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31394608, + "step": 16031 + }, + { + "epoch": 2.124850894632207, + "grad_norm": 1.0706788301467896, + "learning_rate": 9.79209752365655e-07, + "loss": 0.0049, + "num_input_tokens_seen": 31396424, + "step": 16032 + }, + { + "epoch": 2.124983432736912, + "grad_norm": 15.55600643157959, + "learning_rate": 9.789342459305547e-07, + "loss": 0.0434, + "num_input_tokens_seen": 31398288, + "step": 16033 + }, + { + "epoch": 2.125115970841617, + "grad_norm": 0.31384390592575073, + "learning_rate": 9.786587688226509e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31400048, + "step": 16034 + }, + { + "epoch": 2.125248508946322, + "grad_norm": 2.1488723754882812, + "learning_rate": 9.783833210472566e-07, + "loss": 0.0171, + "num_input_tokens_seen": 31402672, + "step": 16035 + }, + { + "epoch": 2.125381047051027, + "grad_norm": 1.6600793600082397, + "learning_rate": 9.781079026096813e-07, + "loss": 0.0088, + "num_input_tokens_seen": 31406328, + "step": 16036 + }, + { + "epoch": 2.125513585155732, + "grad_norm": 9.093141555786133, + "learning_rate": 9.778325135152356e-07, + "loss": 0.0366, + "num_input_tokens_seen": 31408984, + "step": 16037 + }, + { + "epoch": 2.1256461232604376, + "grad_norm": 7.948393821716309, + "learning_rate": 9.775571537692282e-07, + "loss": 0.0802, + "num_input_tokens_seen": 31410848, + "step": 16038 + }, + { + "epoch": 2.1257786613651426, + "grad_norm": 0.02403217926621437, + "learning_rate": 9.7728182337697e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31412928, + "step": 16039 + }, + { + "epoch": 2.1259111994698476, + "grad_norm": 5.993346214294434, + "learning_rate": 9.77006522343768e-07, + "loss": 0.0818, + "num_input_tokens_seen": 31414568, + "step": 16040 + }, + { + "epoch": 2.1260437375745527, + "grad_norm": 0.8455209136009216, + "learning_rate": 9.76731250674932e-07, + "loss": 0.0045, + "num_input_tokens_seen": 31416680, + "step": 16041 + }, + { + "epoch": 2.1261762756792577, + "grad_norm": 3.664370059967041, + "learning_rate": 9.76456008375768e-07, + "loss": 0.0114, + "num_input_tokens_seen": 31418768, + "step": 16042 + }, + { + "epoch": 2.1263088137839627, + "grad_norm": 2.9327104091644287, + "learning_rate": 9.761807954515822e-07, + "loss": 0.0336, + "num_input_tokens_seen": 31421104, + "step": 16043 + }, + { + "epoch": 2.126441351888668, + "grad_norm": 1.1890151500701904, + "learning_rate": 9.759056119076828e-07, + "loss": 0.0064, + "num_input_tokens_seen": 31422896, + "step": 16044 + }, + { + "epoch": 2.1265738899933733, + "grad_norm": 9.620471000671387, + "learning_rate": 9.75630457749375e-07, + "loss": 0.0794, + "num_input_tokens_seen": 31423800, + "step": 16045 + }, + { + "epoch": 2.1267064280980783, + "grad_norm": 0.2077944129705429, + "learning_rate": 9.753553329819625e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31425248, + "step": 16046 + }, + { + "epoch": 2.1268389662027833, + "grad_norm": 2.230100154876709, + "learning_rate": 9.750802376107518e-07, + "loss": 0.0072, + "num_input_tokens_seen": 31426896, + "step": 16047 + }, + { + "epoch": 2.1269715043074884, + "grad_norm": 0.0026732729747891426, + "learning_rate": 9.748051716410453e-07, + "loss": 0.0, + "num_input_tokens_seen": 31428568, + "step": 16048 + }, + { + "epoch": 2.1271040424121934, + "grad_norm": 16.94239616394043, + "learning_rate": 9.74530135078148e-07, + "loss": 0.2333, + "num_input_tokens_seen": 31430664, + "step": 16049 + }, + { + "epoch": 2.1272365805168985, + "grad_norm": 5.136758327484131, + "learning_rate": 9.742551279273625e-07, + "loss": 0.1026, + "num_input_tokens_seen": 31433024, + "step": 16050 + }, + { + "epoch": 2.127369118621604, + "grad_norm": 0.01774507761001587, + "learning_rate": 9.73980150193989e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31434856, + "step": 16051 + }, + { + "epoch": 2.127501656726309, + "grad_norm": 8.356134414672852, + "learning_rate": 9.737052018833326e-07, + "loss": 0.1812, + "num_input_tokens_seen": 31437320, + "step": 16052 + }, + { + "epoch": 2.127634194831014, + "grad_norm": 7.8876800537109375, + "learning_rate": 9.734302830006917e-07, + "loss": 0.1496, + "num_input_tokens_seen": 31439160, + "step": 16053 + }, + { + "epoch": 2.127766732935719, + "grad_norm": 0.06373758614063263, + "learning_rate": 9.731553935513688e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31440584, + "step": 16054 + }, + { + "epoch": 2.127899271040424, + "grad_norm": 0.20476488769054413, + "learning_rate": 9.728805335406635e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31442464, + "step": 16055 + }, + { + "epoch": 2.128031809145129, + "grad_norm": 0.143484428524971, + "learning_rate": 9.726057029738748e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31444384, + "step": 16056 + }, + { + "epoch": 2.128164347249834, + "grad_norm": 0.20091512799263, + "learning_rate": 9.72330901856301e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31446272, + "step": 16057 + }, + { + "epoch": 2.1282968853545396, + "grad_norm": 0.10682906955480576, + "learning_rate": 9.720561301932413e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31448248, + "step": 16058 + }, + { + "epoch": 2.1284294234592447, + "grad_norm": 5.417721748352051, + "learning_rate": 9.717813879899946e-07, + "loss": 0.0129, + "num_input_tokens_seen": 31450112, + "step": 16059 + }, + { + "epoch": 2.1285619615639497, + "grad_norm": 9.350624084472656, + "learning_rate": 9.715066752518567e-07, + "loss": 0.029, + "num_input_tokens_seen": 31452304, + "step": 16060 + }, + { + "epoch": 2.1286944996686548, + "grad_norm": 10.480183601379395, + "learning_rate": 9.712319919841246e-07, + "loss": 0.0676, + "num_input_tokens_seen": 31454384, + "step": 16061 + }, + { + "epoch": 2.12882703777336, + "grad_norm": 0.050779614597558975, + "learning_rate": 9.709573381920945e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31455936, + "step": 16062 + }, + { + "epoch": 2.128959575878065, + "grad_norm": 0.06771764904260635, + "learning_rate": 9.706827138810608e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31458576, + "step": 16063 + }, + { + "epoch": 2.12909211398277, + "grad_norm": 0.0005205015768297017, + "learning_rate": 9.704081190563192e-07, + "loss": 0.0, + "num_input_tokens_seen": 31459744, + "step": 16064 + }, + { + "epoch": 2.1292246520874754, + "grad_norm": 8.332296371459961, + "learning_rate": 9.701335537231655e-07, + "loss": 0.155, + "num_input_tokens_seen": 31461928, + "step": 16065 + }, + { + "epoch": 2.1293571901921804, + "grad_norm": 0.04889029264450073, + "learning_rate": 9.698590178868919e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31463544, + "step": 16066 + }, + { + "epoch": 2.1294897282968854, + "grad_norm": 7.734241008758545, + "learning_rate": 9.695845115527924e-07, + "loss": 0.0321, + "num_input_tokens_seen": 31466328, + "step": 16067 + }, + { + "epoch": 2.1296222664015905, + "grad_norm": 0.019083110615611076, + "learning_rate": 9.693100347261592e-07, + "loss": 0.0, + "num_input_tokens_seen": 31467624, + "step": 16068 + }, + { + "epoch": 2.1297548045062955, + "grad_norm": 0.463288813829422, + "learning_rate": 9.690355874122833e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31469360, + "step": 16069 + }, + { + "epoch": 2.1298873426110005, + "grad_norm": 2.1234171390533447, + "learning_rate": 9.687611696164579e-07, + "loss": 0.0048, + "num_input_tokens_seen": 31471312, + "step": 16070 + }, + { + "epoch": 2.1300198807157056, + "grad_norm": 2.0269062519073486, + "learning_rate": 9.68486781343974e-07, + "loss": 0.0138, + "num_input_tokens_seen": 31473232, + "step": 16071 + }, + { + "epoch": 2.130152418820411, + "grad_norm": 0.0676170065999031, + "learning_rate": 9.682124226001216e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31475432, + "step": 16072 + }, + { + "epoch": 2.130284956925116, + "grad_norm": 0.0007454505539499223, + "learning_rate": 9.679380933901905e-07, + "loss": 0.0, + "num_input_tokens_seen": 31476696, + "step": 16073 + }, + { + "epoch": 2.130417495029821, + "grad_norm": 10.975934982299805, + "learning_rate": 9.67663793719469e-07, + "loss": 0.3094, + "num_input_tokens_seen": 31479936, + "step": 16074 + }, + { + "epoch": 2.130550033134526, + "grad_norm": 5.366577625274658, + "learning_rate": 9.673895235932465e-07, + "loss": 0.0135, + "num_input_tokens_seen": 31481816, + "step": 16075 + }, + { + "epoch": 2.130682571239231, + "grad_norm": 0.029743866994976997, + "learning_rate": 9.671152830168124e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31483224, + "step": 16076 + }, + { + "epoch": 2.1308151093439363, + "grad_norm": 0.019760040566325188, + "learning_rate": 9.66841071995453e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31485992, + "step": 16077 + }, + { + "epoch": 2.1309476474486413, + "grad_norm": 4.939930438995361, + "learning_rate": 9.665668905344555e-07, + "loss": 0.0324, + "num_input_tokens_seen": 31487416, + "step": 16078 + }, + { + "epoch": 2.1310801855533468, + "grad_norm": 8.268176078796387, + "learning_rate": 9.662927386391053e-07, + "loss": 0.2331, + "num_input_tokens_seen": 31490056, + "step": 16079 + }, + { + "epoch": 2.131212723658052, + "grad_norm": 4.270195960998535, + "learning_rate": 9.660186163146898e-07, + "loss": 0.0779, + "num_input_tokens_seen": 31493184, + "step": 16080 + }, + { + "epoch": 2.131345261762757, + "grad_norm": 2.958547592163086, + "learning_rate": 9.65744523566493e-07, + "loss": 0.0077, + "num_input_tokens_seen": 31494936, + "step": 16081 + }, + { + "epoch": 2.131477799867462, + "grad_norm": 0.027521083131432533, + "learning_rate": 9.654704603998011e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31497288, + "step": 16082 + }, + { + "epoch": 2.131610337972167, + "grad_norm": 0.007150406017899513, + "learning_rate": 9.65196426819897e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31499520, + "step": 16083 + }, + { + "epoch": 2.131742876076872, + "grad_norm": 0.10605286061763763, + "learning_rate": 9.64922422832064e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31501992, + "step": 16084 + }, + { + "epoch": 2.131875414181577, + "grad_norm": 0.02458733692765236, + "learning_rate": 9.646484484415867e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31504480, + "step": 16085 + }, + { + "epoch": 2.1320079522862825, + "grad_norm": 0.4717639088630676, + "learning_rate": 9.643745036537461e-07, + "loss": 0.0014, + "num_input_tokens_seen": 31506680, + "step": 16086 + }, + { + "epoch": 2.1321404903909875, + "grad_norm": 5.20466947555542, + "learning_rate": 9.64100588473824e-07, + "loss": 0.0596, + "num_input_tokens_seen": 31508600, + "step": 16087 + }, + { + "epoch": 2.1322730284956926, + "grad_norm": 2.5027499198913574, + "learning_rate": 9.638267029071027e-07, + "loss": 0.0214, + "num_input_tokens_seen": 31510616, + "step": 16088 + }, + { + "epoch": 2.1324055666003976, + "grad_norm": 2.1486763954162598, + "learning_rate": 9.635528469588614e-07, + "loss": 0.0115, + "num_input_tokens_seen": 31512112, + "step": 16089 + }, + { + "epoch": 2.1325381047051026, + "grad_norm": 2.9380295276641846, + "learning_rate": 9.632790206343822e-07, + "loss": 0.0243, + "num_input_tokens_seen": 31513848, + "step": 16090 + }, + { + "epoch": 2.1326706428098077, + "grad_norm": 0.004848671145737171, + "learning_rate": 9.630052239389438e-07, + "loss": 0.0, + "num_input_tokens_seen": 31515720, + "step": 16091 + }, + { + "epoch": 2.1328031809145127, + "grad_norm": 2.190732955932617, + "learning_rate": 9.627314568778246e-07, + "loss": 0.0184, + "num_input_tokens_seen": 31517528, + "step": 16092 + }, + { + "epoch": 2.132935719019218, + "grad_norm": 3.7082090377807617, + "learning_rate": 9.62457719456303e-07, + "loss": 0.017, + "num_input_tokens_seen": 31520472, + "step": 16093 + }, + { + "epoch": 2.1330682571239232, + "grad_norm": 0.31992393732070923, + "learning_rate": 9.621840116796577e-07, + "loss": 0.0021, + "num_input_tokens_seen": 31522328, + "step": 16094 + }, + { + "epoch": 2.1332007952286283, + "grad_norm": 16.42392349243164, + "learning_rate": 9.619103335531646e-07, + "loss": 0.1801, + "num_input_tokens_seen": 31524352, + "step": 16095 + }, + { + "epoch": 2.1333333333333333, + "grad_norm": 0.23243871331214905, + "learning_rate": 9.616366850821025e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31526336, + "step": 16096 + }, + { + "epoch": 2.1334658714380383, + "grad_norm": 5.045673847198486, + "learning_rate": 9.613630662717463e-07, + "loss": 0.0154, + "num_input_tokens_seen": 31528144, + "step": 16097 + }, + { + "epoch": 2.1335984095427434, + "grad_norm": 0.18616047501564026, + "learning_rate": 9.610894771273716e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31529640, + "step": 16098 + }, + { + "epoch": 2.1337309476474484, + "grad_norm": 2.5941483974456787, + "learning_rate": 9.608159176542525e-07, + "loss": 0.0059, + "num_input_tokens_seen": 31531184, + "step": 16099 + }, + { + "epoch": 2.133863485752154, + "grad_norm": 3.2780237197875977, + "learning_rate": 9.605423878576646e-07, + "loss": 0.0554, + "num_input_tokens_seen": 31533720, + "step": 16100 + }, + { + "epoch": 2.133996023856859, + "grad_norm": 0.0056445179507136345, + "learning_rate": 9.602688877428822e-07, + "loss": 0.0, + "num_input_tokens_seen": 31535168, + "step": 16101 + }, + { + "epoch": 2.134128561961564, + "grad_norm": 11.270421028137207, + "learning_rate": 9.59995417315178e-07, + "loss": 0.1496, + "num_input_tokens_seen": 31537376, + "step": 16102 + }, + { + "epoch": 2.134261100066269, + "grad_norm": 3.9139246940612793, + "learning_rate": 9.597219765798241e-07, + "loss": 0.0455, + "num_input_tokens_seen": 31539704, + "step": 16103 + }, + { + "epoch": 2.134393638170974, + "grad_norm": 4.7583746910095215, + "learning_rate": 9.594485655420926e-07, + "loss": 0.0339, + "num_input_tokens_seen": 31541552, + "step": 16104 + }, + { + "epoch": 2.134526176275679, + "grad_norm": 8.119093894958496, + "learning_rate": 9.591751842072552e-07, + "loss": 0.069, + "num_input_tokens_seen": 31543048, + "step": 16105 + }, + { + "epoch": 2.134658714380384, + "grad_norm": 0.2847495377063751, + "learning_rate": 9.589018325805842e-07, + "loss": 0.001, + "num_input_tokens_seen": 31544696, + "step": 16106 + }, + { + "epoch": 2.1347912524850896, + "grad_norm": 0.023146186023950577, + "learning_rate": 9.586285106673492e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31545984, + "step": 16107 + }, + { + "epoch": 2.1349237905897946, + "grad_norm": 0.024002045392990112, + "learning_rate": 9.5835521847282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31547232, + "step": 16108 + }, + { + "epoch": 2.1350563286944997, + "grad_norm": 0.11687221378087997, + "learning_rate": 9.580819560022654e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31548888, + "step": 16109 + }, + { + "epoch": 2.1351888667992047, + "grad_norm": 0.19441835582256317, + "learning_rate": 9.578087232609536e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31550224, + "step": 16110 + }, + { + "epoch": 2.1353214049039098, + "grad_norm": 1.8425302505493164, + "learning_rate": 9.575355202541533e-07, + "loss": 0.0129, + "num_input_tokens_seen": 31552104, + "step": 16111 + }, + { + "epoch": 2.135453943008615, + "grad_norm": 0.005997309461236, + "learning_rate": 9.572623469871336e-07, + "loss": 0.0, + "num_input_tokens_seen": 31553696, + "step": 16112 + }, + { + "epoch": 2.1355864811133203, + "grad_norm": 0.42871078848838806, + "learning_rate": 9.569892034651598e-07, + "loss": 0.002, + "num_input_tokens_seen": 31555336, + "step": 16113 + }, + { + "epoch": 2.1357190192180253, + "grad_norm": 0.8083357214927673, + "learning_rate": 9.567160896934988e-07, + "loss": 0.0017, + "num_input_tokens_seen": 31557016, + "step": 16114 + }, + { + "epoch": 2.1358515573227304, + "grad_norm": 0.09059926122426987, + "learning_rate": 9.564430056774151e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31558904, + "step": 16115 + }, + { + "epoch": 2.1359840954274354, + "grad_norm": 0.07792149484157562, + "learning_rate": 9.561699514221763e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31560864, + "step": 16116 + }, + { + "epoch": 2.1361166335321404, + "grad_norm": 1.5018413066864014, + "learning_rate": 9.558969269330448e-07, + "loss": 0.0065, + "num_input_tokens_seen": 31563040, + "step": 16117 + }, + { + "epoch": 2.1362491716368455, + "grad_norm": 1.0631963014602661, + "learning_rate": 9.556239322152866e-07, + "loss": 0.0048, + "num_input_tokens_seen": 31564928, + "step": 16118 + }, + { + "epoch": 2.1363817097415505, + "grad_norm": 4.5471625328063965, + "learning_rate": 9.553509672741646e-07, + "loss": 0.1125, + "num_input_tokens_seen": 31567320, + "step": 16119 + }, + { + "epoch": 2.136514247846256, + "grad_norm": 0.09209774434566498, + "learning_rate": 9.550780321149414e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31568448, + "step": 16120 + }, + { + "epoch": 2.136646785950961, + "grad_norm": 1.036643147468567, + "learning_rate": 9.548051267428787e-07, + "loss": 0.0063, + "num_input_tokens_seen": 31570088, + "step": 16121 + }, + { + "epoch": 2.136779324055666, + "grad_norm": 0.916536808013916, + "learning_rate": 9.545322511632401e-07, + "loss": 0.0044, + "num_input_tokens_seen": 31572064, + "step": 16122 + }, + { + "epoch": 2.136911862160371, + "grad_norm": 4.551767349243164, + "learning_rate": 9.542594053812848e-07, + "loss": 0.0298, + "num_input_tokens_seen": 31573320, + "step": 16123 + }, + { + "epoch": 2.137044400265076, + "grad_norm": 7.391839027404785, + "learning_rate": 9.539865894022755e-07, + "loss": 0.0669, + "num_input_tokens_seen": 31575096, + "step": 16124 + }, + { + "epoch": 2.137176938369781, + "grad_norm": 0.07263413816690445, + "learning_rate": 9.537138032314713e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31576344, + "step": 16125 + }, + { + "epoch": 2.137309476474486, + "grad_norm": 25.39282989501953, + "learning_rate": 9.534410468741309e-07, + "loss": 0.2838, + "num_input_tokens_seen": 31578712, + "step": 16126 + }, + { + "epoch": 2.1374420145791917, + "grad_norm": 0.557320773601532, + "learning_rate": 9.531683203355146e-07, + "loss": 0.0024, + "num_input_tokens_seen": 31580344, + "step": 16127 + }, + { + "epoch": 2.1375745526838967, + "grad_norm": 0.2329101413488388, + "learning_rate": 9.528956236208797e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31581864, + "step": 16128 + }, + { + "epoch": 2.1377070907886018, + "grad_norm": 6.1121087074279785, + "learning_rate": 9.52622956735485e-07, + "loss": 0.0442, + "num_input_tokens_seen": 31583704, + "step": 16129 + }, + { + "epoch": 2.137839628893307, + "grad_norm": 0.03288009390234947, + "learning_rate": 9.523503196845873e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31585480, + "step": 16130 + }, + { + "epoch": 2.137972166998012, + "grad_norm": 7.6009368896484375, + "learning_rate": 9.520777124734423e-07, + "loss": 0.0741, + "num_input_tokens_seen": 31587488, + "step": 16131 + }, + { + "epoch": 2.138104705102717, + "grad_norm": 0.21550118923187256, + "learning_rate": 9.518051351073079e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31589280, + "step": 16132 + }, + { + "epoch": 2.1382372432074224, + "grad_norm": 0.002960493788123131, + "learning_rate": 9.515325875914383e-07, + "loss": 0.0, + "num_input_tokens_seen": 31591024, + "step": 16133 + }, + { + "epoch": 2.1383697813121274, + "grad_norm": 0.2940198481082916, + "learning_rate": 9.512600699310878e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31592736, + "step": 16134 + }, + { + "epoch": 2.1385023194168324, + "grad_norm": 8.266256332397461, + "learning_rate": 9.509875821315126e-07, + "loss": 0.1394, + "num_input_tokens_seen": 31594472, + "step": 16135 + }, + { + "epoch": 2.1386348575215375, + "grad_norm": 0.0049509345553815365, + "learning_rate": 9.507151241979643e-07, + "loss": 0.0, + "num_input_tokens_seen": 31596128, + "step": 16136 + }, + { + "epoch": 2.1387673956262425, + "grad_norm": 0.012205123901367188, + "learning_rate": 9.504426961356983e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31598272, + "step": 16137 + }, + { + "epoch": 2.1388999337309476, + "grad_norm": 3.4081907272338867, + "learning_rate": 9.501702979499658e-07, + "loss": 0.0113, + "num_input_tokens_seen": 31599664, + "step": 16138 + }, + { + "epoch": 2.1390324718356526, + "grad_norm": 0.01042995322495699, + "learning_rate": 9.498979296460195e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31602992, + "step": 16139 + }, + { + "epoch": 2.139165009940358, + "grad_norm": 0.04743897169828415, + "learning_rate": 9.496255912291095e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31605688, + "step": 16140 + }, + { + "epoch": 2.139297548045063, + "grad_norm": 0.01022800151258707, + "learning_rate": 9.493532827044874e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31607216, + "step": 16141 + }, + { + "epoch": 2.139430086149768, + "grad_norm": 0.012211198918521404, + "learning_rate": 9.490810040774048e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31609624, + "step": 16142 + }, + { + "epoch": 2.139562624254473, + "grad_norm": 0.0026489999145269394, + "learning_rate": 9.488087553531103e-07, + "loss": 0.0, + "num_input_tokens_seen": 31611952, + "step": 16143 + }, + { + "epoch": 2.1396951623591782, + "grad_norm": 9.145845413208008, + "learning_rate": 9.485365365368532e-07, + "loss": 0.0543, + "num_input_tokens_seen": 31614104, + "step": 16144 + }, + { + "epoch": 2.1398277004638833, + "grad_norm": 0.007660697679966688, + "learning_rate": 9.482643476338821e-07, + "loss": 0.0, + "num_input_tokens_seen": 31615896, + "step": 16145 + }, + { + "epoch": 2.1399602385685883, + "grad_norm": 9.002161979675293, + "learning_rate": 9.479921886494437e-07, + "loss": 0.144, + "num_input_tokens_seen": 31617768, + "step": 16146 + }, + { + "epoch": 2.140092776673294, + "grad_norm": 0.4844762086868286, + "learning_rate": 9.477200595887868e-07, + "loss": 0.0024, + "num_input_tokens_seen": 31619504, + "step": 16147 + }, + { + "epoch": 2.140225314777999, + "grad_norm": 0.017951352521777153, + "learning_rate": 9.474479604571588e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31621960, + "step": 16148 + }, + { + "epoch": 2.140357852882704, + "grad_norm": 0.007865986786782742, + "learning_rate": 9.47175891259805e-07, + "loss": 0.0, + "num_input_tokens_seen": 31623280, + "step": 16149 + }, + { + "epoch": 2.140490390987409, + "grad_norm": 0.0025304299779236317, + "learning_rate": 9.469038520019716e-07, + "loss": 0.0, + "num_input_tokens_seen": 31624776, + "step": 16150 + }, + { + "epoch": 2.140622929092114, + "grad_norm": 4.182048320770264, + "learning_rate": 9.466318426889032e-07, + "loss": 0.0633, + "num_input_tokens_seen": 31626616, + "step": 16151 + }, + { + "epoch": 2.140755467196819, + "grad_norm": 1.7968076467514038, + "learning_rate": 9.463598633258437e-07, + "loss": 0.009, + "num_input_tokens_seen": 31629864, + "step": 16152 + }, + { + "epoch": 2.140888005301524, + "grad_norm": 0.07165373116731644, + "learning_rate": 9.460879139180376e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31631792, + "step": 16153 + }, + { + "epoch": 2.1410205434062295, + "grad_norm": 8.528525352478027, + "learning_rate": 9.458159944707296e-07, + "loss": 0.1164, + "num_input_tokens_seen": 31633744, + "step": 16154 + }, + { + "epoch": 2.1411530815109345, + "grad_norm": 12.273754119873047, + "learning_rate": 9.455441049891612e-07, + "loss": 0.0443, + "num_input_tokens_seen": 31635440, + "step": 16155 + }, + { + "epoch": 2.1412856196156396, + "grad_norm": 0.01286132913082838, + "learning_rate": 9.452722454785749e-07, + "loss": 0.0, + "num_input_tokens_seen": 31637784, + "step": 16156 + }, + { + "epoch": 2.1414181577203446, + "grad_norm": 0.09625675529241562, + "learning_rate": 9.450004159442114e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31639752, + "step": 16157 + }, + { + "epoch": 2.1415506958250496, + "grad_norm": 0.0034940026234835386, + "learning_rate": 9.447286163913128e-07, + "loss": 0.0, + "num_input_tokens_seen": 31641744, + "step": 16158 + }, + { + "epoch": 2.1416832339297547, + "grad_norm": 1.0387438535690308, + "learning_rate": 9.4445684682512e-07, + "loss": 0.0025, + "num_input_tokens_seen": 31643552, + "step": 16159 + }, + { + "epoch": 2.1418157720344597, + "grad_norm": 0.13720466196537018, + "learning_rate": 9.441851072508726e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31645824, + "step": 16160 + }, + { + "epoch": 2.141948310139165, + "grad_norm": 7.158527851104736, + "learning_rate": 9.439133976738094e-07, + "loss": 0.0594, + "num_input_tokens_seen": 31647216, + "step": 16161 + }, + { + "epoch": 2.1420808482438702, + "grad_norm": 3.2074477672576904, + "learning_rate": 9.436417180991686e-07, + "loss": 0.0703, + "num_input_tokens_seen": 31648936, + "step": 16162 + }, + { + "epoch": 2.1422133863485753, + "grad_norm": 0.04987587034702301, + "learning_rate": 9.4337006853219e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31651040, + "step": 16163 + }, + { + "epoch": 2.1423459244532803, + "grad_norm": 0.001366147887893021, + "learning_rate": 9.430984489781095e-07, + "loss": 0.0, + "num_input_tokens_seen": 31653640, + "step": 16164 + }, + { + "epoch": 2.1424784625579854, + "grad_norm": 8.50261402130127, + "learning_rate": 9.428268594421658e-07, + "loss": 0.1152, + "num_input_tokens_seen": 31655560, + "step": 16165 + }, + { + "epoch": 2.1426110006626904, + "grad_norm": 0.003825852647423744, + "learning_rate": 9.425552999295945e-07, + "loss": 0.0, + "num_input_tokens_seen": 31657472, + "step": 16166 + }, + { + "epoch": 2.1427435387673954, + "grad_norm": 12.706666946411133, + "learning_rate": 9.422837704456306e-07, + "loss": 0.1536, + "num_input_tokens_seen": 31659328, + "step": 16167 + }, + { + "epoch": 2.142876076872101, + "grad_norm": 10.95345401763916, + "learning_rate": 9.420122709955109e-07, + "loss": 0.1022, + "num_input_tokens_seen": 31661112, + "step": 16168 + }, + { + "epoch": 2.143008614976806, + "grad_norm": 0.2134910523891449, + "learning_rate": 9.417408015844695e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31662688, + "step": 16169 + }, + { + "epoch": 2.143141153081511, + "grad_norm": 0.00654176389798522, + "learning_rate": 9.414693622177398e-07, + "loss": 0.0, + "num_input_tokens_seen": 31664840, + "step": 16170 + }, + { + "epoch": 2.143273691186216, + "grad_norm": 0.009351802058517933, + "learning_rate": 9.411979529005566e-07, + "loss": 0.0, + "num_input_tokens_seen": 31666400, + "step": 16171 + }, + { + "epoch": 2.143406229290921, + "grad_norm": 8.891071319580078, + "learning_rate": 9.409265736381515e-07, + "loss": 0.1067, + "num_input_tokens_seen": 31667960, + "step": 16172 + }, + { + "epoch": 2.143538767395626, + "grad_norm": 9.3027925491333, + "learning_rate": 9.406552244357584e-07, + "loss": 0.1951, + "num_input_tokens_seen": 31670512, + "step": 16173 + }, + { + "epoch": 2.143671305500331, + "grad_norm": 11.335594177246094, + "learning_rate": 9.403839052986083e-07, + "loss": 0.0715, + "num_input_tokens_seen": 31673912, + "step": 16174 + }, + { + "epoch": 2.1438038436050366, + "grad_norm": 0.0008645054185763001, + "learning_rate": 9.401126162319324e-07, + "loss": 0.0, + "num_input_tokens_seen": 31675224, + "step": 16175 + }, + { + "epoch": 2.1439363817097417, + "grad_norm": 0.1555292159318924, + "learning_rate": 9.398413572409606e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31676928, + "step": 16176 + }, + { + "epoch": 2.1440689198144467, + "grad_norm": 0.08556928485631943, + "learning_rate": 9.395701283309245e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31679056, + "step": 16177 + }, + { + "epoch": 2.1442014579191517, + "grad_norm": 0.001294081099331379, + "learning_rate": 9.39298929507052e-07, + "loss": 0.0, + "num_input_tokens_seen": 31680600, + "step": 16178 + }, + { + "epoch": 2.1443339960238568, + "grad_norm": 6.066516876220703, + "learning_rate": 9.390277607745738e-07, + "loss": 0.051, + "num_input_tokens_seen": 31682176, + "step": 16179 + }, + { + "epoch": 2.144466534128562, + "grad_norm": 0.6687232851982117, + "learning_rate": 9.38756622138717e-07, + "loss": 0.0039, + "num_input_tokens_seen": 31684032, + "step": 16180 + }, + { + "epoch": 2.144599072233267, + "grad_norm": 2.428736448287964, + "learning_rate": 9.384855136047088e-07, + "loss": 0.0211, + "num_input_tokens_seen": 31686432, + "step": 16181 + }, + { + "epoch": 2.1447316103379723, + "grad_norm": 3.453789234161377, + "learning_rate": 9.382144351777781e-07, + "loss": 0.0191, + "num_input_tokens_seen": 31688400, + "step": 16182 + }, + { + "epoch": 2.1448641484426774, + "grad_norm": 5.131911277770996, + "learning_rate": 9.379433868631493e-07, + "loss": 0.0699, + "num_input_tokens_seen": 31690552, + "step": 16183 + }, + { + "epoch": 2.1449966865473824, + "grad_norm": 0.19395923614501953, + "learning_rate": 9.376723686660508e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31691560, + "step": 16184 + }, + { + "epoch": 2.1451292246520874, + "grad_norm": 2.869584560394287, + "learning_rate": 9.374013805917068e-07, + "loss": 0.0236, + "num_input_tokens_seen": 31693864, + "step": 16185 + }, + { + "epoch": 2.1452617627567925, + "grad_norm": 0.021380914375185966, + "learning_rate": 9.37130422645342e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31695288, + "step": 16186 + }, + { + "epoch": 2.1453943008614975, + "grad_norm": 0.022113464772701263, + "learning_rate": 9.368594948321802e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31696592, + "step": 16187 + }, + { + "epoch": 2.1455268389662026, + "grad_norm": 0.000471513340016827, + "learning_rate": 9.365885971574456e-07, + "loss": 0.0, + "num_input_tokens_seen": 31698200, + "step": 16188 + }, + { + "epoch": 2.145659377070908, + "grad_norm": 2.6180081367492676, + "learning_rate": 9.36317729626362e-07, + "loss": 0.0118, + "num_input_tokens_seen": 31699976, + "step": 16189 + }, + { + "epoch": 2.145791915175613, + "grad_norm": 0.01344381459057331, + "learning_rate": 9.360468922441518e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31703056, + "step": 16190 + }, + { + "epoch": 2.145924453280318, + "grad_norm": 6.0160722732543945, + "learning_rate": 9.357760850160361e-07, + "loss": 0.0688, + "num_input_tokens_seen": 31705304, + "step": 16191 + }, + { + "epoch": 2.146056991385023, + "grad_norm": 0.00019644621352199465, + "learning_rate": 9.355053079472365e-07, + "loss": 0.0, + "num_input_tokens_seen": 31706328, + "step": 16192 + }, + { + "epoch": 2.146189529489728, + "grad_norm": 4.057782173156738, + "learning_rate": 9.352345610429733e-07, + "loss": 0.0427, + "num_input_tokens_seen": 31708208, + "step": 16193 + }, + { + "epoch": 2.1463220675944332, + "grad_norm": 9.826642990112305, + "learning_rate": 9.349638443084669e-07, + "loss": 0.133, + "num_input_tokens_seen": 31710168, + "step": 16194 + }, + { + "epoch": 2.1464546056991387, + "grad_norm": 0.0009362462442368269, + "learning_rate": 9.346931577489383e-07, + "loss": 0.0, + "num_input_tokens_seen": 31711272, + "step": 16195 + }, + { + "epoch": 2.1465871438038437, + "grad_norm": 0.16852040588855743, + "learning_rate": 9.344225013696054e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31713656, + "step": 16196 + }, + { + "epoch": 2.146719681908549, + "grad_norm": 0.003864973085001111, + "learning_rate": 9.341518751756867e-07, + "loss": 0.0, + "num_input_tokens_seen": 31715360, + "step": 16197 + }, + { + "epoch": 2.146852220013254, + "grad_norm": 0.02112683095037937, + "learning_rate": 9.338812791723995e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31717800, + "step": 16198 + }, + { + "epoch": 2.146984758117959, + "grad_norm": 0.005130508448928595, + "learning_rate": 9.336107133649622e-07, + "loss": 0.0, + "num_input_tokens_seen": 31720088, + "step": 16199 + }, + { + "epoch": 2.147117296222664, + "grad_norm": 2.187309741973877, + "learning_rate": 9.333401777585902e-07, + "loss": 0.0057, + "num_input_tokens_seen": 31724184, + "step": 16200 + }, + { + "epoch": 2.147249834327369, + "grad_norm": 0.09846512228250504, + "learning_rate": 9.330696723585012e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31726112, + "step": 16201 + }, + { + "epoch": 2.1473823724320744, + "grad_norm": 2.1234724521636963, + "learning_rate": 9.327991971699097e-07, + "loss": 0.0204, + "num_input_tokens_seen": 31728040, + "step": 16202 + }, + { + "epoch": 2.1475149105367795, + "grad_norm": 3.657836437225342, + "learning_rate": 9.325287521980303e-07, + "loss": 0.0352, + "num_input_tokens_seen": 31729840, + "step": 16203 + }, + { + "epoch": 2.1476474486414845, + "grad_norm": 0.13401801884174347, + "learning_rate": 9.322583374480784e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31731120, + "step": 16204 + }, + { + "epoch": 2.1477799867461895, + "grad_norm": 0.01660325564444065, + "learning_rate": 9.319879529252676e-07, + "loss": 0.0, + "num_input_tokens_seen": 31732256, + "step": 16205 + }, + { + "epoch": 2.1479125248508946, + "grad_norm": 0.04423169046640396, + "learning_rate": 9.317175986348098e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31733656, + "step": 16206 + }, + { + "epoch": 2.1480450629555996, + "grad_norm": 1.9051802158355713, + "learning_rate": 9.314472745819194e-07, + "loss": 0.0105, + "num_input_tokens_seen": 31734736, + "step": 16207 + }, + { + "epoch": 2.1481776010603046, + "grad_norm": 0.26849591732025146, + "learning_rate": 9.311769807718076e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31735888, + "step": 16208 + }, + { + "epoch": 2.14831013916501, + "grad_norm": 0.002372746355831623, + "learning_rate": 9.309067172096853e-07, + "loss": 0.0, + "num_input_tokens_seen": 31737800, + "step": 16209 + }, + { + "epoch": 2.148442677269715, + "grad_norm": 13.417776107788086, + "learning_rate": 9.306364839007645e-07, + "loss": 0.16, + "num_input_tokens_seen": 31739504, + "step": 16210 + }, + { + "epoch": 2.14857521537442, + "grad_norm": 4.874273300170898, + "learning_rate": 9.303662808502542e-07, + "loss": 0.0115, + "num_input_tokens_seen": 31741464, + "step": 16211 + }, + { + "epoch": 2.1487077534791252, + "grad_norm": 9.336577415466309, + "learning_rate": 9.300961080633659e-07, + "loss": 0.056, + "num_input_tokens_seen": 31743016, + "step": 16212 + }, + { + "epoch": 2.1488402915838303, + "grad_norm": 0.1485712081193924, + "learning_rate": 9.298259655453074e-07, + "loss": 0.0011, + "num_input_tokens_seen": 31745192, + "step": 16213 + }, + { + "epoch": 2.1489728296885353, + "grad_norm": 1.395764946937561, + "learning_rate": 9.295558533012867e-07, + "loss": 0.0223, + "num_input_tokens_seen": 31747440, + "step": 16214 + }, + { + "epoch": 2.1491053677932404, + "grad_norm": 0.10491873323917389, + "learning_rate": 9.292857713365134e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31749304, + "step": 16215 + }, + { + "epoch": 2.149237905897946, + "grad_norm": 1.2465040683746338, + "learning_rate": 9.290157196561939e-07, + "loss": 0.0081, + "num_input_tokens_seen": 31751832, + "step": 16216 + }, + { + "epoch": 2.149370444002651, + "grad_norm": 0.0006115460419096053, + "learning_rate": 9.287456982655343e-07, + "loss": 0.0, + "num_input_tokens_seen": 31753424, + "step": 16217 + }, + { + "epoch": 2.149502982107356, + "grad_norm": 11.82949447631836, + "learning_rate": 9.284757071697426e-07, + "loss": 0.0768, + "num_input_tokens_seen": 31755656, + "step": 16218 + }, + { + "epoch": 2.149635520212061, + "grad_norm": 5.837401390075684, + "learning_rate": 9.282057463740224e-07, + "loss": 0.0344, + "num_input_tokens_seen": 31757504, + "step": 16219 + }, + { + "epoch": 2.149768058316766, + "grad_norm": 0.28341424465179443, + "learning_rate": 9.279358158835808e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31759040, + "step": 16220 + }, + { + "epoch": 2.149900596421471, + "grad_norm": 11.043609619140625, + "learning_rate": 9.276659157036208e-07, + "loss": 0.1107, + "num_input_tokens_seen": 31761504, + "step": 16221 + }, + { + "epoch": 2.1500331345261765, + "grad_norm": 2.8094217777252197, + "learning_rate": 9.273960458393469e-07, + "loss": 0.0186, + "num_input_tokens_seen": 31763600, + "step": 16222 + }, + { + "epoch": 2.1501656726308815, + "grad_norm": 19.75331687927246, + "learning_rate": 9.271262062959613e-07, + "loss": 0.1066, + "num_input_tokens_seen": 31766008, + "step": 16223 + }, + { + "epoch": 2.1502982107355866, + "grad_norm": 4.31569766998291, + "learning_rate": 9.268563970786673e-07, + "loss": 0.0426, + "num_input_tokens_seen": 31767904, + "step": 16224 + }, + { + "epoch": 2.1504307488402916, + "grad_norm": 11.932907104492188, + "learning_rate": 9.265866181926683e-07, + "loss": 0.1437, + "num_input_tokens_seen": 31770104, + "step": 16225 + }, + { + "epoch": 2.1505632869449967, + "grad_norm": 13.723921775817871, + "learning_rate": 9.263168696431646e-07, + "loss": 0.2389, + "num_input_tokens_seen": 31772200, + "step": 16226 + }, + { + "epoch": 2.1506958250497017, + "grad_norm": 0.01985761523246765, + "learning_rate": 9.260471514353575e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31774056, + "step": 16227 + }, + { + "epoch": 2.1508283631544067, + "grad_norm": 6.340223789215088, + "learning_rate": 9.257774635744468e-07, + "loss": 0.0343, + "num_input_tokens_seen": 31775864, + "step": 16228 + }, + { + "epoch": 2.150960901259112, + "grad_norm": 0.005917272996157408, + "learning_rate": 9.255078060656319e-07, + "loss": 0.0, + "num_input_tokens_seen": 31777704, + "step": 16229 + }, + { + "epoch": 2.1510934393638173, + "grad_norm": 1.6982152462005615, + "learning_rate": 9.252381789141126e-07, + "loss": 0.012, + "num_input_tokens_seen": 31780568, + "step": 16230 + }, + { + "epoch": 2.1512259774685223, + "grad_norm": 0.007099973503500223, + "learning_rate": 9.249685821250887e-07, + "loss": 0.0, + "num_input_tokens_seen": 31782160, + "step": 16231 + }, + { + "epoch": 2.1513585155732273, + "grad_norm": 4.672240734100342, + "learning_rate": 9.246990157037569e-07, + "loss": 0.039, + "num_input_tokens_seen": 31784696, + "step": 16232 + }, + { + "epoch": 2.1514910536779324, + "grad_norm": 0.9148737788200378, + "learning_rate": 9.24429479655315e-07, + "loss": 0.0036, + "num_input_tokens_seen": 31786296, + "step": 16233 + }, + { + "epoch": 2.1516235917826374, + "grad_norm": 6.01843786239624, + "learning_rate": 9.241599739849585e-07, + "loss": 0.0548, + "num_input_tokens_seen": 31788592, + "step": 16234 + }, + { + "epoch": 2.1517561298873424, + "grad_norm": 7.280119895935059, + "learning_rate": 9.23890498697885e-07, + "loss": 0.2176, + "num_input_tokens_seen": 31790984, + "step": 16235 + }, + { + "epoch": 2.151888667992048, + "grad_norm": 0.0006190254935063422, + "learning_rate": 9.23621053799291e-07, + "loss": 0.0, + "num_input_tokens_seen": 31792400, + "step": 16236 + }, + { + "epoch": 2.152021206096753, + "grad_norm": 0.054704733192920685, + "learning_rate": 9.233516392943703e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31794048, + "step": 16237 + }, + { + "epoch": 2.152153744201458, + "grad_norm": 0.028584782034158707, + "learning_rate": 9.230822551883179e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31796120, + "step": 16238 + }, + { + "epoch": 2.152286282306163, + "grad_norm": 0.0022372419480234385, + "learning_rate": 9.228129014863271e-07, + "loss": 0.0, + "num_input_tokens_seen": 31797432, + "step": 16239 + }, + { + "epoch": 2.152418820410868, + "grad_norm": 7.567423343658447, + "learning_rate": 9.225435781935909e-07, + "loss": 0.1204, + "num_input_tokens_seen": 31799864, + "step": 16240 + }, + { + "epoch": 2.152551358515573, + "grad_norm": 0.0038301527965813875, + "learning_rate": 9.22274285315303e-07, + "loss": 0.0, + "num_input_tokens_seen": 31801048, + "step": 16241 + }, + { + "epoch": 2.152683896620278, + "grad_norm": 3.1408138275146484, + "learning_rate": 9.22005022856656e-07, + "loss": 0.0355, + "num_input_tokens_seen": 31803160, + "step": 16242 + }, + { + "epoch": 2.1528164347249836, + "grad_norm": 2.440631866455078, + "learning_rate": 9.217357908228409e-07, + "loss": 0.0166, + "num_input_tokens_seen": 31805464, + "step": 16243 + }, + { + "epoch": 2.1529489728296887, + "grad_norm": 11.36818790435791, + "learning_rate": 9.214665892190484e-07, + "loss": 0.1031, + "num_input_tokens_seen": 31807144, + "step": 16244 + }, + { + "epoch": 2.1530815109343937, + "grad_norm": 8.45652961730957, + "learning_rate": 9.211974180504679e-07, + "loss": 0.0603, + "num_input_tokens_seen": 31809568, + "step": 16245 + }, + { + "epoch": 2.1532140490390987, + "grad_norm": 0.635740339756012, + "learning_rate": 9.209282773222916e-07, + "loss": 0.0047, + "num_input_tokens_seen": 31811128, + "step": 16246 + }, + { + "epoch": 2.153346587143804, + "grad_norm": 3.3793442249298096, + "learning_rate": 9.206591670397064e-07, + "loss": 0.0206, + "num_input_tokens_seen": 31812496, + "step": 16247 + }, + { + "epoch": 2.153479125248509, + "grad_norm": 20.20541763305664, + "learning_rate": 9.20390087207903e-07, + "loss": 0.3728, + "num_input_tokens_seen": 31814680, + "step": 16248 + }, + { + "epoch": 2.153611663353214, + "grad_norm": 1.4733071327209473, + "learning_rate": 9.201210378320683e-07, + "loss": 0.0057, + "num_input_tokens_seen": 31816064, + "step": 16249 + }, + { + "epoch": 2.1537442014579193, + "grad_norm": 13.205214500427246, + "learning_rate": 9.19852018917389e-07, + "loss": 0.0845, + "num_input_tokens_seen": 31818832, + "step": 16250 + }, + { + "epoch": 2.1538767395626244, + "grad_norm": 4.623105525970459, + "learning_rate": 9.195830304690539e-07, + "loss": 0.0465, + "num_input_tokens_seen": 31820320, + "step": 16251 + }, + { + "epoch": 2.1540092776673294, + "grad_norm": 0.00034794409293681383, + "learning_rate": 9.193140724922481e-07, + "loss": 0.0, + "num_input_tokens_seen": 31821624, + "step": 16252 + }, + { + "epoch": 2.1541418157720345, + "grad_norm": 0.00833373237401247, + "learning_rate": 9.190451449921567e-07, + "loss": 0.0, + "num_input_tokens_seen": 31823232, + "step": 16253 + }, + { + "epoch": 2.1542743538767395, + "grad_norm": 0.908818244934082, + "learning_rate": 9.187762479739665e-07, + "loss": 0.0029, + "num_input_tokens_seen": 31824936, + "step": 16254 + }, + { + "epoch": 2.1544068919814445, + "grad_norm": 13.074993133544922, + "learning_rate": 9.185073814428599e-07, + "loss": 0.0965, + "num_input_tokens_seen": 31826928, + "step": 16255 + }, + { + "epoch": 2.1545394300861496, + "grad_norm": 1.2655054330825806, + "learning_rate": 9.18238545404023e-07, + "loss": 0.0096, + "num_input_tokens_seen": 31829144, + "step": 16256 + }, + { + "epoch": 2.154671968190855, + "grad_norm": 0.42516398429870605, + "learning_rate": 9.179697398626383e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31831304, + "step": 16257 + }, + { + "epoch": 2.15480450629556, + "grad_norm": 0.005742785520851612, + "learning_rate": 9.177009648238882e-07, + "loss": 0.0, + "num_input_tokens_seen": 31832680, + "step": 16258 + }, + { + "epoch": 2.154937044400265, + "grad_norm": 5.27374267578125, + "learning_rate": 9.174322202929542e-07, + "loss": 0.0438, + "num_input_tokens_seen": 31835200, + "step": 16259 + }, + { + "epoch": 2.15506958250497, + "grad_norm": 0.4690706431865692, + "learning_rate": 9.171635062750189e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31837488, + "step": 16260 + }, + { + "epoch": 2.155202120609675, + "grad_norm": 2.084514856338501, + "learning_rate": 9.168948227752639e-07, + "loss": 0.009, + "num_input_tokens_seen": 31839624, + "step": 16261 + }, + { + "epoch": 2.1553346587143802, + "grad_norm": 0.22302556037902832, + "learning_rate": 9.166261697988687e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31841016, + "step": 16262 + }, + { + "epoch": 2.1554671968190853, + "grad_norm": 0.0037711237091571093, + "learning_rate": 9.163575473510136e-07, + "loss": 0.0, + "num_input_tokens_seen": 31842840, + "step": 16263 + }, + { + "epoch": 2.1555997349237908, + "grad_norm": 21.521520614624023, + "learning_rate": 9.160889554368766e-07, + "loss": 0.1458, + "num_input_tokens_seen": 31844912, + "step": 16264 + }, + { + "epoch": 2.155732273028496, + "grad_norm": 10.142009735107422, + "learning_rate": 9.158203940616378e-07, + "loss": 0.0926, + "num_input_tokens_seen": 31846984, + "step": 16265 + }, + { + "epoch": 2.155864811133201, + "grad_norm": 0.055978547781705856, + "learning_rate": 9.155518632304738e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31849272, + "step": 16266 + }, + { + "epoch": 2.155997349237906, + "grad_norm": 0.02795438840985298, + "learning_rate": 9.152833629485641e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31851536, + "step": 16267 + }, + { + "epoch": 2.156129887342611, + "grad_norm": 0.01588273234665394, + "learning_rate": 9.150148932210842e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31852920, + "step": 16268 + }, + { + "epoch": 2.156262425447316, + "grad_norm": 0.002919077407568693, + "learning_rate": 9.147464540532108e-07, + "loss": 0.0, + "num_input_tokens_seen": 31854528, + "step": 16269 + }, + { + "epoch": 2.156394963552021, + "grad_norm": 15.744500160217285, + "learning_rate": 9.144780454501181e-07, + "loss": 0.021, + "num_input_tokens_seen": 31857072, + "step": 16270 + }, + { + "epoch": 2.1565275016567265, + "grad_norm": 0.1647627055644989, + "learning_rate": 9.142096674169829e-07, + "loss": 0.001, + "num_input_tokens_seen": 31858992, + "step": 16271 + }, + { + "epoch": 2.1566600397614315, + "grad_norm": 3.7383735179901123, + "learning_rate": 9.1394131995898e-07, + "loss": 0.0498, + "num_input_tokens_seen": 31861304, + "step": 16272 + }, + { + "epoch": 2.1567925778661365, + "grad_norm": 0.02968645468354225, + "learning_rate": 9.136730030812827e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31863736, + "step": 16273 + }, + { + "epoch": 2.1569251159708416, + "grad_norm": 6.896124839782715, + "learning_rate": 9.134047167890639e-07, + "loss": 0.0399, + "num_input_tokens_seen": 31865544, + "step": 16274 + }, + { + "epoch": 2.1570576540755466, + "grad_norm": 0.00278258603066206, + "learning_rate": 9.131364610874971e-07, + "loss": 0.0, + "num_input_tokens_seen": 31867304, + "step": 16275 + }, + { + "epoch": 2.1571901921802517, + "grad_norm": 0.0015640315832570195, + "learning_rate": 9.128682359817532e-07, + "loss": 0.0, + "num_input_tokens_seen": 31869168, + "step": 16276 + }, + { + "epoch": 2.1573227302849567, + "grad_norm": 2.173910140991211, + "learning_rate": 9.126000414770042e-07, + "loss": 0.0099, + "num_input_tokens_seen": 31871640, + "step": 16277 + }, + { + "epoch": 2.157455268389662, + "grad_norm": 0.7526139616966248, + "learning_rate": 9.123318775784227e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31873528, + "step": 16278 + }, + { + "epoch": 2.157587806494367, + "grad_norm": 8.941062927246094, + "learning_rate": 9.120637442911779e-07, + "loss": 0.121, + "num_input_tokens_seen": 31875728, + "step": 16279 + }, + { + "epoch": 2.1577203445990722, + "grad_norm": 0.17758284509181976, + "learning_rate": 9.117956416204393e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31877872, + "step": 16280 + }, + { + "epoch": 2.1578528827037773, + "grad_norm": 0.0022955616004765034, + "learning_rate": 9.115275695713757e-07, + "loss": 0.0, + "num_input_tokens_seen": 31879272, + "step": 16281 + }, + { + "epoch": 2.1579854208084823, + "grad_norm": 0.0018755816854536533, + "learning_rate": 9.112595281491571e-07, + "loss": 0.0, + "num_input_tokens_seen": 31881072, + "step": 16282 + }, + { + "epoch": 2.1581179589131874, + "grad_norm": 9.561823844909668, + "learning_rate": 9.109915173589501e-07, + "loss": 0.061, + "num_input_tokens_seen": 31883496, + "step": 16283 + }, + { + "epoch": 2.158250497017893, + "grad_norm": 1.0439566373825073, + "learning_rate": 9.107235372059236e-07, + "loss": 0.002, + "num_input_tokens_seen": 31886032, + "step": 16284 + }, + { + "epoch": 2.158383035122598, + "grad_norm": 1.5033072233200073, + "learning_rate": 9.10455587695244e-07, + "loss": 0.014, + "num_input_tokens_seen": 31888432, + "step": 16285 + }, + { + "epoch": 2.158515573227303, + "grad_norm": 0.009445133619010448, + "learning_rate": 9.10187668832076e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31890104, + "step": 16286 + }, + { + "epoch": 2.158648111332008, + "grad_norm": 6.966722011566162, + "learning_rate": 9.099197806215875e-07, + "loss": 0.1207, + "num_input_tokens_seen": 31893096, + "step": 16287 + }, + { + "epoch": 2.158780649436713, + "grad_norm": 6.857524871826172, + "learning_rate": 9.096519230689418e-07, + "loss": 0.0516, + "num_input_tokens_seen": 31895480, + "step": 16288 + }, + { + "epoch": 2.158913187541418, + "grad_norm": 0.0023178448900580406, + "learning_rate": 9.093840961793048e-07, + "loss": 0.0, + "num_input_tokens_seen": 31896976, + "step": 16289 + }, + { + "epoch": 2.159045725646123, + "grad_norm": 15.556846618652344, + "learning_rate": 9.091162999578398e-07, + "loss": 0.0339, + "num_input_tokens_seen": 31898712, + "step": 16290 + }, + { + "epoch": 2.1591782637508286, + "grad_norm": 5.336599349975586, + "learning_rate": 9.088485344097095e-07, + "loss": 0.1755, + "num_input_tokens_seen": 31901136, + "step": 16291 + }, + { + "epoch": 2.1593108018555336, + "grad_norm": 10.42993450164795, + "learning_rate": 9.085807995400775e-07, + "loss": 0.134, + "num_input_tokens_seen": 31903784, + "step": 16292 + }, + { + "epoch": 2.1594433399602386, + "grad_norm": 15.401012420654297, + "learning_rate": 9.083130953541058e-07, + "loss": 0.2098, + "num_input_tokens_seen": 31905600, + "step": 16293 + }, + { + "epoch": 2.1595758780649437, + "grad_norm": 5.290477275848389, + "learning_rate": 9.080454218569548e-07, + "loss": 0.034, + "num_input_tokens_seen": 31907768, + "step": 16294 + }, + { + "epoch": 2.1597084161696487, + "grad_norm": 0.0001051467697834596, + "learning_rate": 9.077777790537873e-07, + "loss": 0.0, + "num_input_tokens_seen": 31908672, + "step": 16295 + }, + { + "epoch": 2.1598409542743537, + "grad_norm": 6.950831413269043, + "learning_rate": 9.075101669497624e-07, + "loss": 0.0871, + "num_input_tokens_seen": 31911128, + "step": 16296 + }, + { + "epoch": 2.159973492379059, + "grad_norm": 0.002090666675940156, + "learning_rate": 9.072425855500394e-07, + "loss": 0.0, + "num_input_tokens_seen": 31912776, + "step": 16297 + }, + { + "epoch": 2.1601060304837643, + "grad_norm": 0.03462889418005943, + "learning_rate": 9.069750348597789e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31915280, + "step": 16298 + }, + { + "epoch": 2.1602385685884693, + "grad_norm": 5.907403945922852, + "learning_rate": 9.067075148841387e-07, + "loss": 0.037, + "num_input_tokens_seen": 31917376, + "step": 16299 + }, + { + "epoch": 2.1603711066931743, + "grad_norm": 0.0038726096972823143, + "learning_rate": 9.064400256282757e-07, + "loss": 0.0, + "num_input_tokens_seen": 31919512, + "step": 16300 + }, + { + "epoch": 2.1605036447978794, + "grad_norm": 6.817558765411377, + "learning_rate": 9.061725670973495e-07, + "loss": 0.0686, + "num_input_tokens_seen": 31921544, + "step": 16301 + }, + { + "epoch": 2.1606361829025844, + "grad_norm": 0.0014543962897732854, + "learning_rate": 9.059051392965149e-07, + "loss": 0.0, + "num_input_tokens_seen": 31922904, + "step": 16302 + }, + { + "epoch": 2.1607687210072895, + "grad_norm": 0.020216206088662148, + "learning_rate": 9.056377422309295e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31924352, + "step": 16303 + }, + { + "epoch": 2.160901259111995, + "grad_norm": 0.029913511127233505, + "learning_rate": 9.053703759057486e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31926120, + "step": 16304 + }, + { + "epoch": 2.1610337972167, + "grad_norm": 0.002127459505572915, + "learning_rate": 9.051030403261268e-07, + "loss": 0.0, + "num_input_tokens_seen": 31927632, + "step": 16305 + }, + { + "epoch": 2.161166335321405, + "grad_norm": 0.481268048286438, + "learning_rate": 9.048357354972179e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31929504, + "step": 16306 + }, + { + "epoch": 2.16129887342611, + "grad_norm": 1.5549007654190063, + "learning_rate": 9.045684614241762e-07, + "loss": 0.0152, + "num_input_tokens_seen": 31931032, + "step": 16307 + }, + { + "epoch": 2.161431411530815, + "grad_norm": 11.882316589355469, + "learning_rate": 9.043012181121563e-07, + "loss": 0.1671, + "num_input_tokens_seen": 31933400, + "step": 16308 + }, + { + "epoch": 2.16156394963552, + "grad_norm": 0.005381524097174406, + "learning_rate": 9.040340055663097e-07, + "loss": 0.0, + "num_input_tokens_seen": 31934976, + "step": 16309 + }, + { + "epoch": 2.161696487740225, + "grad_norm": 21.94584083557129, + "learning_rate": 9.037668237917885e-07, + "loss": 0.1753, + "num_input_tokens_seen": 31936584, + "step": 16310 + }, + { + "epoch": 2.1618290258449306, + "grad_norm": 12.660004615783691, + "learning_rate": 9.03499672793744e-07, + "loss": 0.1887, + "num_input_tokens_seen": 31938328, + "step": 16311 + }, + { + "epoch": 2.1619615639496357, + "grad_norm": 9.35374641418457, + "learning_rate": 9.032325525773263e-07, + "loss": 0.1923, + "num_input_tokens_seen": 31941208, + "step": 16312 + }, + { + "epoch": 2.1620941020543407, + "grad_norm": 0.05568844452500343, + "learning_rate": 9.029654631476867e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31942760, + "step": 16313 + }, + { + "epoch": 2.1622266401590458, + "grad_norm": 2.158252239227295, + "learning_rate": 9.026984045099754e-07, + "loss": 0.0132, + "num_input_tokens_seen": 31944504, + "step": 16314 + }, + { + "epoch": 2.162359178263751, + "grad_norm": 4.426802158355713, + "learning_rate": 9.02431376669341e-07, + "loss": 0.049, + "num_input_tokens_seen": 31946232, + "step": 16315 + }, + { + "epoch": 2.162491716368456, + "grad_norm": 0.012634278275072575, + "learning_rate": 9.021643796309315e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31947648, + "step": 16316 + }, + { + "epoch": 2.162624254473161, + "grad_norm": 0.016432592645287514, + "learning_rate": 9.018974133998945e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31949688, + "step": 16317 + }, + { + "epoch": 2.1627567925778663, + "grad_norm": 11.417874336242676, + "learning_rate": 9.016304779813776e-07, + "loss": 0.1375, + "num_input_tokens_seen": 31952120, + "step": 16318 + }, + { + "epoch": 2.1628893306825714, + "grad_norm": 4.407896041870117, + "learning_rate": 9.013635733805287e-07, + "loss": 0.04, + "num_input_tokens_seen": 31954096, + "step": 16319 + }, + { + "epoch": 2.1630218687872764, + "grad_norm": 0.015102413482964039, + "learning_rate": 9.010966996024928e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31955704, + "step": 16320 + }, + { + "epoch": 2.1631544068919815, + "grad_norm": 2.9844865798950195, + "learning_rate": 9.008298566524157e-07, + "loss": 0.0215, + "num_input_tokens_seen": 31957776, + "step": 16321 + }, + { + "epoch": 2.1632869449966865, + "grad_norm": 3.856421947479248, + "learning_rate": 9.005630445354421e-07, + "loss": 0.0098, + "num_input_tokens_seen": 31959696, + "step": 16322 + }, + { + "epoch": 2.1634194831013915, + "grad_norm": 4.188047885894775, + "learning_rate": 9.002962632567159e-07, + "loss": 0.0515, + "num_input_tokens_seen": 31961584, + "step": 16323 + }, + { + "epoch": 2.1635520212060966, + "grad_norm": 12.772509574890137, + "learning_rate": 9.00029512821381e-07, + "loss": 0.213, + "num_input_tokens_seen": 31963224, + "step": 16324 + }, + { + "epoch": 2.163684559310802, + "grad_norm": 5.330288887023926, + "learning_rate": 8.997627932345815e-07, + "loss": 0.0212, + "num_input_tokens_seen": 31965448, + "step": 16325 + }, + { + "epoch": 2.163817097415507, + "grad_norm": 1.5916491746902466, + "learning_rate": 8.994961045014597e-07, + "loss": 0.0035, + "num_input_tokens_seen": 31967560, + "step": 16326 + }, + { + "epoch": 2.163949635520212, + "grad_norm": 3.6776208877563477, + "learning_rate": 8.992294466271567e-07, + "loss": 0.0205, + "num_input_tokens_seen": 31969520, + "step": 16327 + }, + { + "epoch": 2.164082173624917, + "grad_norm": 0.0019953283481299877, + "learning_rate": 8.989628196168137e-07, + "loss": 0.0, + "num_input_tokens_seen": 31971832, + "step": 16328 + }, + { + "epoch": 2.164214711729622, + "grad_norm": 7.119016170501709, + "learning_rate": 8.98696223475573e-07, + "loss": 0.1252, + "num_input_tokens_seen": 31974008, + "step": 16329 + }, + { + "epoch": 2.1643472498343272, + "grad_norm": 0.41225719451904297, + "learning_rate": 8.984296582085727e-07, + "loss": 0.0019, + "num_input_tokens_seen": 31976488, + "step": 16330 + }, + { + "epoch": 2.1644797879390323, + "grad_norm": 0.029439054429531097, + "learning_rate": 8.981631238209546e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31977584, + "step": 16331 + }, + { + "epoch": 2.1646123260437378, + "grad_norm": 1.5935410261154175, + "learning_rate": 8.978966203178562e-07, + "loss": 0.0069, + "num_input_tokens_seen": 31980568, + "step": 16332 + }, + { + "epoch": 2.164744864148443, + "grad_norm": 2.0579516887664795, + "learning_rate": 8.976301477044156e-07, + "loss": 0.0139, + "num_input_tokens_seen": 31982512, + "step": 16333 + }, + { + "epoch": 2.164877402253148, + "grad_norm": 0.0004243080038577318, + "learning_rate": 8.973637059857718e-07, + "loss": 0.0, + "num_input_tokens_seen": 31983808, + "step": 16334 + }, + { + "epoch": 2.165009940357853, + "grad_norm": 0.023278528824448586, + "learning_rate": 8.970972951670615e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31986056, + "step": 16335 + }, + { + "epoch": 2.165142478462558, + "grad_norm": 0.03380856662988663, + "learning_rate": 8.968309152534202e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31987320, + "step": 16336 + }, + { + "epoch": 2.165275016567263, + "grad_norm": 0.03233925253152847, + "learning_rate": 8.965645662499858e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31989424, + "step": 16337 + }, + { + "epoch": 2.165407554671968, + "grad_norm": 6.156039237976074, + "learning_rate": 8.962982481618917e-07, + "loss": 0.0337, + "num_input_tokens_seen": 31991760, + "step": 16338 + }, + { + "epoch": 2.1655400927766735, + "grad_norm": 0.1429811418056488, + "learning_rate": 8.960319609942747e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31993368, + "step": 16339 + }, + { + "epoch": 2.1656726308813785, + "grad_norm": 6.612421989440918, + "learning_rate": 8.95765704752268e-07, + "loss": 0.0419, + "num_input_tokens_seen": 31994936, + "step": 16340 + }, + { + "epoch": 2.1658051689860836, + "grad_norm": 14.760262489318848, + "learning_rate": 8.954994794410044e-07, + "loss": 0.1268, + "num_input_tokens_seen": 31997000, + "step": 16341 + }, + { + "epoch": 2.1659377070907886, + "grad_norm": 5.923161029815674, + "learning_rate": 8.952332850656184e-07, + "loss": 0.0384, + "num_input_tokens_seen": 31999112, + "step": 16342 + }, + { + "epoch": 2.1660702451954936, + "grad_norm": 1.843796730041504, + "learning_rate": 8.949671216312411e-07, + "loss": 0.0161, + "num_input_tokens_seen": 32000936, + "step": 16343 + }, + { + "epoch": 2.1662027833001987, + "grad_norm": 0.029117045924067497, + "learning_rate": 8.947009891430056e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32002680, + "step": 16344 + }, + { + "epoch": 2.1663353214049037, + "grad_norm": 0.0009290559682995081, + "learning_rate": 8.944348876060426e-07, + "loss": 0.0, + "num_input_tokens_seen": 32003992, + "step": 16345 + }, + { + "epoch": 2.166467859509609, + "grad_norm": 12.250194549560547, + "learning_rate": 8.941688170254826e-07, + "loss": 0.2548, + "num_input_tokens_seen": 32006504, + "step": 16346 + }, + { + "epoch": 2.166600397614314, + "grad_norm": 0.05723026394844055, + "learning_rate": 8.939027774064546e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32007704, + "step": 16347 + }, + { + "epoch": 2.1667329357190193, + "grad_norm": 5.852693557739258, + "learning_rate": 8.936367687540893e-07, + "loss": 0.0433, + "num_input_tokens_seen": 32009424, + "step": 16348 + }, + { + "epoch": 2.1668654738237243, + "grad_norm": 7.560417175292969, + "learning_rate": 8.933707910735159e-07, + "loss": 0.1496, + "num_input_tokens_seen": 32011336, + "step": 16349 + }, + { + "epoch": 2.1669980119284293, + "grad_norm": 0.049138542264699936, + "learning_rate": 8.93104844369862e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32013048, + "step": 16350 + }, + { + "epoch": 2.1671305500331344, + "grad_norm": 0.06259223073720932, + "learning_rate": 8.928389286482555e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32014336, + "step": 16351 + }, + { + "epoch": 2.1672630881378394, + "grad_norm": 0.0021550392266362906, + "learning_rate": 8.925730439138231e-07, + "loss": 0.0, + "num_input_tokens_seen": 32015744, + "step": 16352 + }, + { + "epoch": 2.167395626242545, + "grad_norm": 1.1689785718917847, + "learning_rate": 8.923071901716903e-07, + "loss": 0.0093, + "num_input_tokens_seen": 32017672, + "step": 16353 + }, + { + "epoch": 2.16752816434725, + "grad_norm": 1.061637043952942, + "learning_rate": 8.92041367426984e-07, + "loss": 0.0057, + "num_input_tokens_seen": 32019680, + "step": 16354 + }, + { + "epoch": 2.167660702451955, + "grad_norm": 0.0325373113155365, + "learning_rate": 8.917755756848304e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32021520, + "step": 16355 + }, + { + "epoch": 2.16779324055666, + "grad_norm": 0.025693921372294426, + "learning_rate": 8.915098149503528e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32023792, + "step": 16356 + }, + { + "epoch": 2.167925778661365, + "grad_norm": 0.03290697559714317, + "learning_rate": 8.912440852286761e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32025896, + "step": 16357 + }, + { + "epoch": 2.16805831676607, + "grad_norm": 12.221582412719727, + "learning_rate": 8.90978386524923e-07, + "loss": 0.1534, + "num_input_tokens_seen": 32028048, + "step": 16358 + }, + { + "epoch": 2.168190854870775, + "grad_norm": 9.645878791809082, + "learning_rate": 8.907127188442158e-07, + "loss": 0.1706, + "num_input_tokens_seen": 32029840, + "step": 16359 + }, + { + "epoch": 2.1683233929754806, + "grad_norm": 0.11162801086902618, + "learning_rate": 8.904470821916775e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32033240, + "step": 16360 + }, + { + "epoch": 2.1684559310801856, + "grad_norm": 0.0052468422800302505, + "learning_rate": 8.901814765724307e-07, + "loss": 0.0, + "num_input_tokens_seen": 32035536, + "step": 16361 + }, + { + "epoch": 2.1685884691848907, + "grad_norm": 1.023766040802002, + "learning_rate": 8.899159019915957e-07, + "loss": 0.0048, + "num_input_tokens_seen": 32037288, + "step": 16362 + }, + { + "epoch": 2.1687210072895957, + "grad_norm": 2.839874029159546, + "learning_rate": 8.896503584542926e-07, + "loss": 0.0263, + "num_input_tokens_seen": 32039344, + "step": 16363 + }, + { + "epoch": 2.1688535453943008, + "grad_norm": 3.3941948413848877, + "learning_rate": 8.893848459656409e-07, + "loss": 0.0192, + "num_input_tokens_seen": 32040592, + "step": 16364 + }, + { + "epoch": 2.168986083499006, + "grad_norm": 9.822312355041504, + "learning_rate": 8.891193645307614e-07, + "loss": 0.1876, + "num_input_tokens_seen": 32043248, + "step": 16365 + }, + { + "epoch": 2.1691186216037113, + "grad_norm": 4.423951148986816, + "learning_rate": 8.888539141547709e-07, + "loss": 0.0195, + "num_input_tokens_seen": 32045520, + "step": 16366 + }, + { + "epoch": 2.1692511597084163, + "grad_norm": 0.8300106525421143, + "learning_rate": 8.885884948427892e-07, + "loss": 0.0025, + "num_input_tokens_seen": 32046968, + "step": 16367 + }, + { + "epoch": 2.1693836978131213, + "grad_norm": 4.133303165435791, + "learning_rate": 8.883231065999329e-07, + "loss": 0.0396, + "num_input_tokens_seen": 32049584, + "step": 16368 + }, + { + "epoch": 2.1695162359178264, + "grad_norm": 2.550511121749878, + "learning_rate": 8.88057749431318e-07, + "loss": 0.0129, + "num_input_tokens_seen": 32052280, + "step": 16369 + }, + { + "epoch": 2.1696487740225314, + "grad_norm": 0.015759941190481186, + "learning_rate": 8.877924233420629e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32054144, + "step": 16370 + }, + { + "epoch": 2.1697813121272365, + "grad_norm": 7.0325212478637695, + "learning_rate": 8.87527128337281e-07, + "loss": 0.0467, + "num_input_tokens_seen": 32056360, + "step": 16371 + }, + { + "epoch": 2.1699138502319415, + "grad_norm": 0.008993811905384064, + "learning_rate": 8.872618644220895e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32058656, + "step": 16372 + }, + { + "epoch": 2.170046388336647, + "grad_norm": 0.009372849948704243, + "learning_rate": 8.869966316016015e-07, + "loss": 0.0, + "num_input_tokens_seen": 32060056, + "step": 16373 + }, + { + "epoch": 2.170178926441352, + "grad_norm": 9.357629776000977, + "learning_rate": 8.867314298809307e-07, + "loss": 0.0731, + "num_input_tokens_seen": 32062008, + "step": 16374 + }, + { + "epoch": 2.170311464546057, + "grad_norm": 0.0015723721589893103, + "learning_rate": 8.864662592651915e-07, + "loss": 0.0, + "num_input_tokens_seen": 32063568, + "step": 16375 + }, + { + "epoch": 2.170444002650762, + "grad_norm": 6.99209451675415, + "learning_rate": 8.86201119759496e-07, + "loss": 0.0972, + "num_input_tokens_seen": 32065272, + "step": 16376 + }, + { + "epoch": 2.170576540755467, + "grad_norm": 2.6327908039093018, + "learning_rate": 8.859360113689555e-07, + "loss": 0.0238, + "num_input_tokens_seen": 32067056, + "step": 16377 + }, + { + "epoch": 2.170709078860172, + "grad_norm": 0.40840256214141846, + "learning_rate": 8.85670934098683e-07, + "loss": 0.0027, + "num_input_tokens_seen": 32069440, + "step": 16378 + }, + { + "epoch": 2.170841616964877, + "grad_norm": 8.189689636230469, + "learning_rate": 8.854058879537883e-07, + "loss": 0.1326, + "num_input_tokens_seen": 32071336, + "step": 16379 + }, + { + "epoch": 2.1709741550695827, + "grad_norm": 0.0016157937934622169, + "learning_rate": 8.851408729393812e-07, + "loss": 0.0, + "num_input_tokens_seen": 32072680, + "step": 16380 + }, + { + "epoch": 2.1711066931742877, + "grad_norm": 0.0027830060571432114, + "learning_rate": 8.848758890605732e-07, + "loss": 0.0, + "num_input_tokens_seen": 32073808, + "step": 16381 + }, + { + "epoch": 2.1712392312789928, + "grad_norm": 8.20941162109375, + "learning_rate": 8.846109363224719e-07, + "loss": 0.0528, + "num_input_tokens_seen": 32075672, + "step": 16382 + }, + { + "epoch": 2.171371769383698, + "grad_norm": 11.36362361907959, + "learning_rate": 8.843460147301855e-07, + "loss": 0.2182, + "num_input_tokens_seen": 32078504, + "step": 16383 + }, + { + "epoch": 2.171504307488403, + "grad_norm": 12.60506820678711, + "learning_rate": 8.840811242888234e-07, + "loss": 0.1181, + "num_input_tokens_seen": 32080232, + "step": 16384 + }, + { + "epoch": 2.171636845593108, + "grad_norm": 0.005351016763597727, + "learning_rate": 8.838162650034912e-07, + "loss": 0.0, + "num_input_tokens_seen": 32081528, + "step": 16385 + }, + { + "epoch": 2.171769383697813, + "grad_norm": 0.03924409672617912, + "learning_rate": 8.835514368792972e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32082912, + "step": 16386 + }, + { + "epoch": 2.1719019218025184, + "grad_norm": 0.007604679558426142, + "learning_rate": 8.832866399213463e-07, + "loss": 0.0, + "num_input_tokens_seen": 32084208, + "step": 16387 + }, + { + "epoch": 2.1720344599072234, + "grad_norm": 0.004771833308041096, + "learning_rate": 8.830218741347446e-07, + "loss": 0.0, + "num_input_tokens_seen": 32085776, + "step": 16388 + }, + { + "epoch": 2.1721669980119285, + "grad_norm": 8.157522201538086, + "learning_rate": 8.827571395245957e-07, + "loss": 0.1436, + "num_input_tokens_seen": 32088256, + "step": 16389 + }, + { + "epoch": 2.1722995361166335, + "grad_norm": 0.0032732984982430935, + "learning_rate": 8.824924360960049e-07, + "loss": 0.0, + "num_input_tokens_seen": 32089280, + "step": 16390 + }, + { + "epoch": 2.1724320742213385, + "grad_norm": 2.30367374420166, + "learning_rate": 8.822277638540766e-07, + "loss": 0.0134, + "num_input_tokens_seen": 32091872, + "step": 16391 + }, + { + "epoch": 2.1725646123260436, + "grad_norm": 2.602233648300171, + "learning_rate": 8.81963122803913e-07, + "loss": 0.01, + "num_input_tokens_seen": 32093488, + "step": 16392 + }, + { + "epoch": 2.172697150430749, + "grad_norm": 0.10372641682624817, + "learning_rate": 8.816985129506167e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32095336, + "step": 16393 + }, + { + "epoch": 2.172829688535454, + "grad_norm": 0.8153428435325623, + "learning_rate": 8.814339342992886e-07, + "loss": 0.0028, + "num_input_tokens_seen": 32096808, + "step": 16394 + }, + { + "epoch": 2.172962226640159, + "grad_norm": 0.026446107774972916, + "learning_rate": 8.811693868550309e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32098168, + "step": 16395 + }, + { + "epoch": 2.173094764744864, + "grad_norm": 0.0017325254157185555, + "learning_rate": 8.809048706229451e-07, + "loss": 0.0, + "num_input_tokens_seen": 32099296, + "step": 16396 + }, + { + "epoch": 2.173227302849569, + "grad_norm": 2.445796012878418, + "learning_rate": 8.806403856081302e-07, + "loss": 0.0075, + "num_input_tokens_seen": 32101200, + "step": 16397 + }, + { + "epoch": 2.1733598409542743, + "grad_norm": 0.000621061073616147, + "learning_rate": 8.803759318156857e-07, + "loss": 0.0, + "num_input_tokens_seen": 32103104, + "step": 16398 + }, + { + "epoch": 2.1734923790589793, + "grad_norm": 12.472467422485352, + "learning_rate": 8.801115092507109e-07, + "loss": 0.0221, + "num_input_tokens_seen": 32104904, + "step": 16399 + }, + { + "epoch": 2.1736249171636848, + "grad_norm": 0.02417619526386261, + "learning_rate": 8.798471179183027e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32106984, + "step": 16400 + }, + { + "epoch": 2.17375745526839, + "grad_norm": 0.0045822300016880035, + "learning_rate": 8.795827578235597e-07, + "loss": 0.0, + "num_input_tokens_seen": 32109672, + "step": 16401 + }, + { + "epoch": 2.173889993373095, + "grad_norm": 6.171019554138184, + "learning_rate": 8.793184289715797e-07, + "loss": 0.0263, + "num_input_tokens_seen": 32111304, + "step": 16402 + }, + { + "epoch": 2.1740225314778, + "grad_norm": 4.854536056518555, + "learning_rate": 8.790541313674586e-07, + "loss": 0.0605, + "num_input_tokens_seen": 32113288, + "step": 16403 + }, + { + "epoch": 2.174155069582505, + "grad_norm": 7.49040412902832, + "learning_rate": 8.787898650162921e-07, + "loss": 0.0583, + "num_input_tokens_seen": 32115152, + "step": 16404 + }, + { + "epoch": 2.17428760768721, + "grad_norm": 28.883913040161133, + "learning_rate": 8.785256299231745e-07, + "loss": 0.1415, + "num_input_tokens_seen": 32117824, + "step": 16405 + }, + { + "epoch": 2.174420145791915, + "grad_norm": 0.005794128403067589, + "learning_rate": 8.782614260932024e-07, + "loss": 0.0, + "num_input_tokens_seen": 32119520, + "step": 16406 + }, + { + "epoch": 2.1745526838966205, + "grad_norm": 0.000828034186270088, + "learning_rate": 8.779972535314676e-07, + "loss": 0.0, + "num_input_tokens_seen": 32120832, + "step": 16407 + }, + { + "epoch": 2.1746852220013255, + "grad_norm": 0.02971603535115719, + "learning_rate": 8.777331122430658e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32122680, + "step": 16408 + }, + { + "epoch": 2.1748177601060306, + "grad_norm": 0.3095114231109619, + "learning_rate": 8.774690022330887e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32124488, + "step": 16409 + }, + { + "epoch": 2.1749502982107356, + "grad_norm": 0.0004727187333628535, + "learning_rate": 8.772049235066285e-07, + "loss": 0.0, + "num_input_tokens_seen": 32125944, + "step": 16410 + }, + { + "epoch": 2.1750828363154406, + "grad_norm": 9.651729583740234, + "learning_rate": 8.769408760687762e-07, + "loss": 0.0438, + "num_input_tokens_seen": 32128248, + "step": 16411 + }, + { + "epoch": 2.1752153744201457, + "grad_norm": 6.555649280548096, + "learning_rate": 8.766768599246242e-07, + "loss": 0.1173, + "num_input_tokens_seen": 32130064, + "step": 16412 + }, + { + "epoch": 2.1753479125248507, + "grad_norm": 5.126222133636475, + "learning_rate": 8.764128750792614e-07, + "loss": 0.0537, + "num_input_tokens_seen": 32132144, + "step": 16413 + }, + { + "epoch": 2.175480450629556, + "grad_norm": 0.00010566495620878413, + "learning_rate": 8.761489215377794e-07, + "loss": 0.0, + "num_input_tokens_seen": 32133336, + "step": 16414 + }, + { + "epoch": 2.1756129887342612, + "grad_norm": 0.0008844821713864803, + "learning_rate": 8.758849993052662e-07, + "loss": 0.0, + "num_input_tokens_seen": 32134744, + "step": 16415 + }, + { + "epoch": 2.1757455268389663, + "grad_norm": 7.598770618438721, + "learning_rate": 8.756211083868099e-07, + "loss": 0.1315, + "num_input_tokens_seen": 32136376, + "step": 16416 + }, + { + "epoch": 2.1758780649436713, + "grad_norm": 1.847217082977295, + "learning_rate": 8.753572487875e-07, + "loss": 0.0246, + "num_input_tokens_seen": 32138960, + "step": 16417 + }, + { + "epoch": 2.1760106030483763, + "grad_norm": 4.659603595733643, + "learning_rate": 8.750934205124226e-07, + "loss": 0.0441, + "num_input_tokens_seen": 32140568, + "step": 16418 + }, + { + "epoch": 2.1761431411530814, + "grad_norm": 3.483297348022461, + "learning_rate": 8.748296235666653e-07, + "loss": 0.0112, + "num_input_tokens_seen": 32142280, + "step": 16419 + }, + { + "epoch": 2.1762756792577864, + "grad_norm": 0.6684598326683044, + "learning_rate": 8.745658579553146e-07, + "loss": 0.0035, + "num_input_tokens_seen": 32145432, + "step": 16420 + }, + { + "epoch": 2.176408217362492, + "grad_norm": 0.006277100648730993, + "learning_rate": 8.743021236834543e-07, + "loss": 0.0, + "num_input_tokens_seen": 32146944, + "step": 16421 + }, + { + "epoch": 2.176540755467197, + "grad_norm": 10.952794075012207, + "learning_rate": 8.740384207561715e-07, + "loss": 0.1437, + "num_input_tokens_seen": 32149264, + "step": 16422 + }, + { + "epoch": 2.176673293571902, + "grad_norm": 0.21170520782470703, + "learning_rate": 8.737747491785495e-07, + "loss": 0.0016, + "num_input_tokens_seen": 32151928, + "step": 16423 + }, + { + "epoch": 2.176805831676607, + "grad_norm": 4.580447196960449, + "learning_rate": 8.735111089556716e-07, + "loss": 0.0668, + "num_input_tokens_seen": 32154184, + "step": 16424 + }, + { + "epoch": 2.176938369781312, + "grad_norm": 0.015064590610563755, + "learning_rate": 8.732475000926222e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32156408, + "step": 16425 + }, + { + "epoch": 2.177070907886017, + "grad_norm": 0.00421043811365962, + "learning_rate": 8.729839225944825e-07, + "loss": 0.0, + "num_input_tokens_seen": 32157944, + "step": 16426 + }, + { + "epoch": 2.177203445990722, + "grad_norm": 6.991897106170654, + "learning_rate": 8.727203764663361e-07, + "loss": 0.1093, + "num_input_tokens_seen": 32159584, + "step": 16427 + }, + { + "epoch": 2.1773359840954276, + "grad_norm": 7.092871189117432, + "learning_rate": 8.724568617132634e-07, + "loss": 0.0364, + "num_input_tokens_seen": 32162008, + "step": 16428 + }, + { + "epoch": 2.1774685222001327, + "grad_norm": 0.14041098952293396, + "learning_rate": 8.721933783403453e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32163584, + "step": 16429 + }, + { + "epoch": 2.1776010603048377, + "grad_norm": 1.4582666158676147, + "learning_rate": 8.719299263526607e-07, + "loss": 0.011, + "num_input_tokens_seen": 32165488, + "step": 16430 + }, + { + "epoch": 2.1777335984095427, + "grad_norm": 0.014736780896782875, + "learning_rate": 8.716665057552903e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32167400, + "step": 16431 + }, + { + "epoch": 2.1778661365142478, + "grad_norm": 0.014151995070278645, + "learning_rate": 8.71403116553314e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32168904, + "step": 16432 + }, + { + "epoch": 2.177998674618953, + "grad_norm": 31.933948516845703, + "learning_rate": 8.711397587518092e-07, + "loss": 0.1483, + "num_input_tokens_seen": 32171248, + "step": 16433 + }, + { + "epoch": 2.178131212723658, + "grad_norm": 10.695718765258789, + "learning_rate": 8.708764323558533e-07, + "loss": 0.1239, + "num_input_tokens_seen": 32173288, + "step": 16434 + }, + { + "epoch": 2.1782637508283633, + "grad_norm": 0.054913926869630814, + "learning_rate": 8.70613137370524e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32175416, + "step": 16435 + }, + { + "epoch": 2.1783962889330684, + "grad_norm": 0.011469722725450993, + "learning_rate": 8.703498738008965e-07, + "loss": 0.0, + "num_input_tokens_seen": 32176960, + "step": 16436 + }, + { + "epoch": 2.1785288270377734, + "grad_norm": 3.1874213218688965, + "learning_rate": 8.700866416520473e-07, + "loss": 0.0561, + "num_input_tokens_seen": 32179128, + "step": 16437 + }, + { + "epoch": 2.1786613651424784, + "grad_norm": 0.2929127812385559, + "learning_rate": 8.698234409290535e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32181264, + "step": 16438 + }, + { + "epoch": 2.1787939032471835, + "grad_norm": 0.13607093691825867, + "learning_rate": 8.69560271636988e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32182888, + "step": 16439 + }, + { + "epoch": 2.1789264413518885, + "grad_norm": 10.752280235290527, + "learning_rate": 8.692971337809253e-07, + "loss": 0.1905, + "num_input_tokens_seen": 32184776, + "step": 16440 + }, + { + "epoch": 2.1790589794565935, + "grad_norm": 0.25187352299690247, + "learning_rate": 8.690340273659387e-07, + "loss": 0.0019, + "num_input_tokens_seen": 32186816, + "step": 16441 + }, + { + "epoch": 2.179191517561299, + "grad_norm": 0.00032210929202847183, + "learning_rate": 8.687709523971005e-07, + "loss": 0.0, + "num_input_tokens_seen": 32188776, + "step": 16442 + }, + { + "epoch": 2.179324055666004, + "grad_norm": 0.8406180143356323, + "learning_rate": 8.685079088794838e-07, + "loss": 0.0064, + "num_input_tokens_seen": 32190864, + "step": 16443 + }, + { + "epoch": 2.179456593770709, + "grad_norm": 1.4805094003677368, + "learning_rate": 8.682448968181606e-07, + "loss": 0.0067, + "num_input_tokens_seen": 32193240, + "step": 16444 + }, + { + "epoch": 2.179589131875414, + "grad_norm": 4.409290313720703, + "learning_rate": 8.679819162182019e-07, + "loss": 0.0389, + "num_input_tokens_seen": 32195128, + "step": 16445 + }, + { + "epoch": 2.179721669980119, + "grad_norm": 10.170660972595215, + "learning_rate": 8.677189670846775e-07, + "loss": 0.1347, + "num_input_tokens_seen": 32196936, + "step": 16446 + }, + { + "epoch": 2.179854208084824, + "grad_norm": 0.0032179669942706823, + "learning_rate": 8.674560494226566e-07, + "loss": 0.0, + "num_input_tokens_seen": 32199496, + "step": 16447 + }, + { + "epoch": 2.1799867461895293, + "grad_norm": 0.002872919663786888, + "learning_rate": 8.671931632372094e-07, + "loss": 0.0, + "num_input_tokens_seen": 32201520, + "step": 16448 + }, + { + "epoch": 2.1801192842942347, + "grad_norm": 16.09385871887207, + "learning_rate": 8.669303085334052e-07, + "loss": 0.0794, + "num_input_tokens_seen": 32203240, + "step": 16449 + }, + { + "epoch": 2.1802518223989398, + "grad_norm": 0.00070221844362095, + "learning_rate": 8.666674853163112e-07, + "loss": 0.0, + "num_input_tokens_seen": 32204696, + "step": 16450 + }, + { + "epoch": 2.180384360503645, + "grad_norm": 0.7485249638557434, + "learning_rate": 8.664046935909951e-07, + "loss": 0.0079, + "num_input_tokens_seen": 32206840, + "step": 16451 + }, + { + "epoch": 2.18051689860835, + "grad_norm": 0.018234029412269592, + "learning_rate": 8.661419333625223e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32208752, + "step": 16452 + }, + { + "epoch": 2.180649436713055, + "grad_norm": 0.006148578133434057, + "learning_rate": 8.658792046359612e-07, + "loss": 0.0, + "num_input_tokens_seen": 32210688, + "step": 16453 + }, + { + "epoch": 2.18078197481776, + "grad_norm": 0.008509054780006409, + "learning_rate": 8.656165074163755e-07, + "loss": 0.0, + "num_input_tokens_seen": 32213352, + "step": 16454 + }, + { + "epoch": 2.1809145129224654, + "grad_norm": 0.5992113351821899, + "learning_rate": 8.65353841708832e-07, + "loss": 0.0029, + "num_input_tokens_seen": 32216352, + "step": 16455 + }, + { + "epoch": 2.1810470510271704, + "grad_norm": 4.760822772979736, + "learning_rate": 8.650912075183938e-07, + "loss": 0.0668, + "num_input_tokens_seen": 32217840, + "step": 16456 + }, + { + "epoch": 2.1811795891318755, + "grad_norm": 5.125214576721191, + "learning_rate": 8.648286048501245e-07, + "loss": 0.0355, + "num_input_tokens_seen": 32219240, + "step": 16457 + }, + { + "epoch": 2.1813121272365805, + "grad_norm": 0.00920234713703394, + "learning_rate": 8.645660337090883e-07, + "loss": 0.0, + "num_input_tokens_seen": 32221272, + "step": 16458 + }, + { + "epoch": 2.1814446653412856, + "grad_norm": 4.813745498657227, + "learning_rate": 8.643034941003473e-07, + "loss": 0.0245, + "num_input_tokens_seen": 32223256, + "step": 16459 + }, + { + "epoch": 2.1815772034459906, + "grad_norm": 2.919987916946411, + "learning_rate": 8.640409860289625e-07, + "loss": 0.0132, + "num_input_tokens_seen": 32225296, + "step": 16460 + }, + { + "epoch": 2.1817097415506956, + "grad_norm": 0.3796074092388153, + "learning_rate": 8.63778509499997e-07, + "loss": 0.0021, + "num_input_tokens_seen": 32227656, + "step": 16461 + }, + { + "epoch": 2.181842279655401, + "grad_norm": 0.007414957042783499, + "learning_rate": 8.635160645185095e-07, + "loss": 0.0, + "num_input_tokens_seen": 32229696, + "step": 16462 + }, + { + "epoch": 2.181974817760106, + "grad_norm": 9.742204666137695, + "learning_rate": 8.632536510895623e-07, + "loss": 0.0411, + "num_input_tokens_seen": 32231600, + "step": 16463 + }, + { + "epoch": 2.182107355864811, + "grad_norm": 0.11146488785743713, + "learning_rate": 8.629912692182138e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32233768, + "step": 16464 + }, + { + "epoch": 2.1822398939695162, + "grad_norm": 9.099875450134277, + "learning_rate": 8.627289189095231e-07, + "loss": 0.0349, + "num_input_tokens_seen": 32235808, + "step": 16465 + }, + { + "epoch": 2.1823724320742213, + "grad_norm": 3.2788429260253906, + "learning_rate": 8.624666001685472e-07, + "loss": 0.0173, + "num_input_tokens_seen": 32237232, + "step": 16466 + }, + { + "epoch": 2.1825049701789263, + "grad_norm": 9.758905410766602, + "learning_rate": 8.62204313000346e-07, + "loss": 0.2092, + "num_input_tokens_seen": 32239024, + "step": 16467 + }, + { + "epoch": 2.1826375082836313, + "grad_norm": 0.002124861115589738, + "learning_rate": 8.619420574099746e-07, + "loss": 0.0, + "num_input_tokens_seen": 32240352, + "step": 16468 + }, + { + "epoch": 2.182770046388337, + "grad_norm": 11.174568176269531, + "learning_rate": 8.616798334024912e-07, + "loss": 0.0916, + "num_input_tokens_seen": 32242624, + "step": 16469 + }, + { + "epoch": 2.182902584493042, + "grad_norm": 2.3794476985931396, + "learning_rate": 8.614176409829509e-07, + "loss": 0.0285, + "num_input_tokens_seen": 32244880, + "step": 16470 + }, + { + "epoch": 2.183035122597747, + "grad_norm": 12.936930656433105, + "learning_rate": 8.611554801564079e-07, + "loss": 0.1134, + "num_input_tokens_seen": 32246784, + "step": 16471 + }, + { + "epoch": 2.183167660702452, + "grad_norm": 4.877511978149414, + "learning_rate": 8.608933509279188e-07, + "loss": 0.0481, + "num_input_tokens_seen": 32249168, + "step": 16472 + }, + { + "epoch": 2.183300198807157, + "grad_norm": 5.332021236419678, + "learning_rate": 8.606312533025358e-07, + "loss": 0.0173, + "num_input_tokens_seen": 32251776, + "step": 16473 + }, + { + "epoch": 2.183432736911862, + "grad_norm": 0.06053527072072029, + "learning_rate": 8.603691872853137e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32254008, + "step": 16474 + }, + { + "epoch": 2.1835652750165675, + "grad_norm": 6.473111152648926, + "learning_rate": 8.601071528813051e-07, + "loss": 0.0711, + "num_input_tokens_seen": 32255752, + "step": 16475 + }, + { + "epoch": 2.1836978131212725, + "grad_norm": 0.3763246536254883, + "learning_rate": 8.598451500955618e-07, + "loss": 0.0015, + "num_input_tokens_seen": 32257264, + "step": 16476 + }, + { + "epoch": 2.1838303512259776, + "grad_norm": 11.567811012268066, + "learning_rate": 8.59583178933135e-07, + "loss": 0.0955, + "num_input_tokens_seen": 32259352, + "step": 16477 + }, + { + "epoch": 2.1839628893306826, + "grad_norm": 0.2376769632101059, + "learning_rate": 8.593212393990757e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32261312, + "step": 16478 + }, + { + "epoch": 2.1840954274353876, + "grad_norm": 1.1171437501907349, + "learning_rate": 8.590593314984358e-07, + "loss": 0.0068, + "num_input_tokens_seen": 32264008, + "step": 16479 + }, + { + "epoch": 2.1842279655400927, + "grad_norm": 3.2087719440460205, + "learning_rate": 8.587974552362641e-07, + "loss": 0.0166, + "num_input_tokens_seen": 32265616, + "step": 16480 + }, + { + "epoch": 2.1843605036447977, + "grad_norm": 0.0557829886674881, + "learning_rate": 8.585356106176093e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32266856, + "step": 16481 + }, + { + "epoch": 2.184493041749503, + "grad_norm": 0.45588070154190063, + "learning_rate": 8.582737976475205e-07, + "loss": 0.0015, + "num_input_tokens_seen": 32268440, + "step": 16482 + }, + { + "epoch": 2.1846255798542082, + "grad_norm": 8.27389144897461, + "learning_rate": 8.580120163310449e-07, + "loss": 0.1307, + "num_input_tokens_seen": 32270936, + "step": 16483 + }, + { + "epoch": 2.1847581179589133, + "grad_norm": 0.00022269890177994967, + "learning_rate": 8.577502666732301e-07, + "loss": 0.0, + "num_input_tokens_seen": 32272136, + "step": 16484 + }, + { + "epoch": 2.1848906560636183, + "grad_norm": 0.062458913773298264, + "learning_rate": 8.57488548679124e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32274168, + "step": 16485 + }, + { + "epoch": 2.1850231941683234, + "grad_norm": 1.0263233184814453, + "learning_rate": 8.572268623537719e-07, + "loss": 0.004, + "num_input_tokens_seen": 32275984, + "step": 16486 + }, + { + "epoch": 2.1851557322730284, + "grad_norm": 9.072057723999023, + "learning_rate": 8.569652077022189e-07, + "loss": 0.1722, + "num_input_tokens_seen": 32278328, + "step": 16487 + }, + { + "epoch": 2.1852882703777334, + "grad_norm": 4.590048313140869, + "learning_rate": 8.567035847295096e-07, + "loss": 0.0146, + "num_input_tokens_seen": 32280760, + "step": 16488 + }, + { + "epoch": 2.185420808482439, + "grad_norm": 5.983201503753662, + "learning_rate": 8.564419934406895e-07, + "loss": 0.0707, + "num_input_tokens_seen": 32282480, + "step": 16489 + }, + { + "epoch": 2.185553346587144, + "grad_norm": 0.006004919297993183, + "learning_rate": 8.561804338408008e-07, + "loss": 0.0, + "num_input_tokens_seen": 32284248, + "step": 16490 + }, + { + "epoch": 2.185685884691849, + "grad_norm": 0.013163235038518906, + "learning_rate": 8.559189059348883e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32285648, + "step": 16491 + }, + { + "epoch": 2.185818422796554, + "grad_norm": 0.0029043289832770824, + "learning_rate": 8.556574097279933e-07, + "loss": 0.0, + "num_input_tokens_seen": 32287144, + "step": 16492 + }, + { + "epoch": 2.185950960901259, + "grad_norm": 11.34067153930664, + "learning_rate": 8.553959452251579e-07, + "loss": 0.0773, + "num_input_tokens_seen": 32288296, + "step": 16493 + }, + { + "epoch": 2.186083499005964, + "grad_norm": 4.677226543426514, + "learning_rate": 8.551345124314225e-07, + "loss": 0.1079, + "num_input_tokens_seen": 32290272, + "step": 16494 + }, + { + "epoch": 2.186216037110669, + "grad_norm": 2.2177865505218506, + "learning_rate": 8.548731113518292e-07, + "loss": 0.0089, + "num_input_tokens_seen": 32292848, + "step": 16495 + }, + { + "epoch": 2.1863485752153746, + "grad_norm": 0.01839907467365265, + "learning_rate": 8.546117419914162e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32294272, + "step": 16496 + }, + { + "epoch": 2.1864811133200797, + "grad_norm": 9.268694877624512, + "learning_rate": 8.543504043552251e-07, + "loss": 0.072, + "num_input_tokens_seen": 32296432, + "step": 16497 + }, + { + "epoch": 2.1866136514247847, + "grad_norm": 0.09686466306447983, + "learning_rate": 8.540890984482933e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32298352, + "step": 16498 + }, + { + "epoch": 2.1867461895294897, + "grad_norm": 4.109129428863525, + "learning_rate": 8.538278242756581e-07, + "loss": 0.0428, + "num_input_tokens_seen": 32300280, + "step": 16499 + }, + { + "epoch": 2.1868787276341948, + "grad_norm": 0.01647254452109337, + "learning_rate": 8.535665818423591e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32303048, + "step": 16500 + }, + { + "epoch": 2.1870112657389, + "grad_norm": 0.8939768671989441, + "learning_rate": 8.533053711534314e-07, + "loss": 0.0059, + "num_input_tokens_seen": 32304792, + "step": 16501 + }, + { + "epoch": 2.187143803843605, + "grad_norm": 0.7834133505821228, + "learning_rate": 8.530441922139132e-07, + "loss": 0.0049, + "num_input_tokens_seen": 32306704, + "step": 16502 + }, + { + "epoch": 2.1872763419483103, + "grad_norm": 0.9840855002403259, + "learning_rate": 8.527830450288387e-07, + "loss": 0.0031, + "num_input_tokens_seen": 32308656, + "step": 16503 + }, + { + "epoch": 2.1874088800530154, + "grad_norm": 0.002331552328541875, + "learning_rate": 8.52521929603243e-07, + "loss": 0.0, + "num_input_tokens_seen": 32310176, + "step": 16504 + }, + { + "epoch": 2.1875414181577204, + "grad_norm": 0.054897282272577286, + "learning_rate": 8.522608459421617e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32311280, + "step": 16505 + }, + { + "epoch": 2.1876739562624254, + "grad_norm": 0.0017160241259261966, + "learning_rate": 8.519997940506281e-07, + "loss": 0.0, + "num_input_tokens_seen": 32312800, + "step": 16506 + }, + { + "epoch": 2.1878064943671305, + "grad_norm": 6.117879867553711, + "learning_rate": 8.517387739336743e-07, + "loss": 0.151, + "num_input_tokens_seen": 32314872, + "step": 16507 + }, + { + "epoch": 2.1879390324718355, + "grad_norm": 6.077617645263672, + "learning_rate": 8.514777855963349e-07, + "loss": 0.037, + "num_input_tokens_seen": 32316736, + "step": 16508 + }, + { + "epoch": 2.1880715705765406, + "grad_norm": 0.6500634551048279, + "learning_rate": 8.512168290436404e-07, + "loss": 0.0018, + "num_input_tokens_seen": 32318048, + "step": 16509 + }, + { + "epoch": 2.188204108681246, + "grad_norm": 0.3877097964286804, + "learning_rate": 8.509559042806237e-07, + "loss": 0.0014, + "num_input_tokens_seen": 32319984, + "step": 16510 + }, + { + "epoch": 2.188336646785951, + "grad_norm": 4.627021312713623, + "learning_rate": 8.506950113123147e-07, + "loss": 0.0462, + "num_input_tokens_seen": 32321976, + "step": 16511 + }, + { + "epoch": 2.188469184890656, + "grad_norm": 0.014595831744372845, + "learning_rate": 8.504341501437435e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32323768, + "step": 16512 + }, + { + "epoch": 2.188601722995361, + "grad_norm": 1.4934358596801758, + "learning_rate": 8.501733207799393e-07, + "loss": 0.0055, + "num_input_tokens_seen": 32326672, + "step": 16513 + }, + { + "epoch": 2.188734261100066, + "grad_norm": 0.03707326203584671, + "learning_rate": 8.499125232259318e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32328864, + "step": 16514 + }, + { + "epoch": 2.1888667992047712, + "grad_norm": 7.298274993896484, + "learning_rate": 8.496517574867496e-07, + "loss": 0.0906, + "num_input_tokens_seen": 32330664, + "step": 16515 + }, + { + "epoch": 2.1889993373094763, + "grad_norm": 6.642621040344238, + "learning_rate": 8.493910235674202e-07, + "loss": 0.0201, + "num_input_tokens_seen": 32332488, + "step": 16516 + }, + { + "epoch": 2.1891318754141817, + "grad_norm": 4.521309852600098, + "learning_rate": 8.491303214729704e-07, + "loss": 0.0748, + "num_input_tokens_seen": 32334168, + "step": 16517 + }, + { + "epoch": 2.189264413518887, + "grad_norm": 4.338212490081787, + "learning_rate": 8.488696512084271e-07, + "loss": 0.0217, + "num_input_tokens_seen": 32335400, + "step": 16518 + }, + { + "epoch": 2.189396951623592, + "grad_norm": 0.009581783786416054, + "learning_rate": 8.486090127788152e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32337752, + "step": 16519 + }, + { + "epoch": 2.189529489728297, + "grad_norm": 0.30978938937187195, + "learning_rate": 8.483484061891606e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32339376, + "step": 16520 + }, + { + "epoch": 2.189662027833002, + "grad_norm": 5.421680450439453, + "learning_rate": 8.48087831444489e-07, + "loss": 0.1188, + "num_input_tokens_seen": 32341144, + "step": 16521 + }, + { + "epoch": 2.189794565937707, + "grad_norm": 0.004379692953079939, + "learning_rate": 8.478272885498237e-07, + "loss": 0.0, + "num_input_tokens_seen": 32342976, + "step": 16522 + }, + { + "epoch": 2.189927104042412, + "grad_norm": 7.226802349090576, + "learning_rate": 8.475667775101881e-07, + "loss": 0.0322, + "num_input_tokens_seen": 32344952, + "step": 16523 + }, + { + "epoch": 2.1900596421471175, + "grad_norm": 4.630097389221191, + "learning_rate": 8.47306298330604e-07, + "loss": 0.0721, + "num_input_tokens_seen": 32346784, + "step": 16524 + }, + { + "epoch": 2.1901921802518225, + "grad_norm": 0.0009398441179655492, + "learning_rate": 8.470458510160945e-07, + "loss": 0.0, + "num_input_tokens_seen": 32347896, + "step": 16525 + }, + { + "epoch": 2.1903247183565275, + "grad_norm": 12.004461288452148, + "learning_rate": 8.467854355716823e-07, + "loss": 0.0944, + "num_input_tokens_seen": 32350472, + "step": 16526 + }, + { + "epoch": 2.1904572564612326, + "grad_norm": 3.0960607528686523, + "learning_rate": 8.465250520023874e-07, + "loss": 0.0292, + "num_input_tokens_seen": 32352168, + "step": 16527 + }, + { + "epoch": 2.1905897945659376, + "grad_norm": 0.22534780204296112, + "learning_rate": 8.462647003132301e-07, + "loss": 0.0017, + "num_input_tokens_seen": 32355112, + "step": 16528 + }, + { + "epoch": 2.1907223326706426, + "grad_norm": 0.004439543467015028, + "learning_rate": 8.460043805092305e-07, + "loss": 0.0, + "num_input_tokens_seen": 32356496, + "step": 16529 + }, + { + "epoch": 2.1908548707753477, + "grad_norm": 0.5017176270484924, + "learning_rate": 8.457440925954063e-07, + "loss": 0.0021, + "num_input_tokens_seen": 32358320, + "step": 16530 + }, + { + "epoch": 2.190987408880053, + "grad_norm": 0.25894895195961, + "learning_rate": 8.454838365767773e-07, + "loss": 0.0015, + "num_input_tokens_seen": 32360008, + "step": 16531 + }, + { + "epoch": 2.191119946984758, + "grad_norm": 2.5129244327545166, + "learning_rate": 8.452236124583624e-07, + "loss": 0.0112, + "num_input_tokens_seen": 32361728, + "step": 16532 + }, + { + "epoch": 2.1912524850894632, + "grad_norm": 0.026141416281461716, + "learning_rate": 8.449634202451775e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32364472, + "step": 16533 + }, + { + "epoch": 2.1913850231941683, + "grad_norm": 19.51425552368164, + "learning_rate": 8.447032599422398e-07, + "loss": 0.0969, + "num_input_tokens_seen": 32367040, + "step": 16534 + }, + { + "epoch": 2.1915175612988733, + "grad_norm": 2.536156415939331, + "learning_rate": 8.444431315545642e-07, + "loss": 0.0434, + "num_input_tokens_seen": 32369136, + "step": 16535 + }, + { + "epoch": 2.1916500994035784, + "grad_norm": 22.4178466796875, + "learning_rate": 8.441830350871679e-07, + "loss": 0.2222, + "num_input_tokens_seen": 32371248, + "step": 16536 + }, + { + "epoch": 2.191782637508284, + "grad_norm": 0.6694629192352295, + "learning_rate": 8.439229705450644e-07, + "loss": 0.0033, + "num_input_tokens_seen": 32372928, + "step": 16537 + }, + { + "epoch": 2.191915175612989, + "grad_norm": 4.045031547546387, + "learning_rate": 8.436629379332693e-07, + "loss": 0.1143, + "num_input_tokens_seen": 32374416, + "step": 16538 + }, + { + "epoch": 2.192047713717694, + "grad_norm": 13.851426124572754, + "learning_rate": 8.434029372567953e-07, + "loss": 0.1598, + "num_input_tokens_seen": 32376856, + "step": 16539 + }, + { + "epoch": 2.192180251822399, + "grad_norm": 3.52768874168396, + "learning_rate": 8.431429685206547e-07, + "loss": 0.0589, + "num_input_tokens_seen": 32379648, + "step": 16540 + }, + { + "epoch": 2.192312789927104, + "grad_norm": 0.001265904982574284, + "learning_rate": 8.428830317298614e-07, + "loss": 0.0, + "num_input_tokens_seen": 32380928, + "step": 16541 + }, + { + "epoch": 2.192445328031809, + "grad_norm": 17.802461624145508, + "learning_rate": 8.426231268894266e-07, + "loss": 0.3686, + "num_input_tokens_seen": 32383712, + "step": 16542 + }, + { + "epoch": 2.192577866136514, + "grad_norm": 6.707571506500244, + "learning_rate": 8.423632540043603e-07, + "loss": 0.0644, + "num_input_tokens_seen": 32385624, + "step": 16543 + }, + { + "epoch": 2.1927104042412195, + "grad_norm": 1.2263346910476685, + "learning_rate": 8.421034130796748e-07, + "loss": 0.0016, + "num_input_tokens_seen": 32387808, + "step": 16544 + }, + { + "epoch": 2.1928429423459246, + "grad_norm": 0.021623998880386353, + "learning_rate": 8.418436041203787e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32390280, + "step": 16545 + }, + { + "epoch": 2.1929754804506296, + "grad_norm": 0.09988313168287277, + "learning_rate": 8.415838271314825e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32391824, + "step": 16546 + }, + { + "epoch": 2.1931080185553347, + "grad_norm": 0.05018071457743645, + "learning_rate": 8.413240821179941e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32393304, + "step": 16547 + }, + { + "epoch": 2.1932405566600397, + "grad_norm": 6.960991382598877, + "learning_rate": 8.410643690849215e-07, + "loss": 0.0847, + "num_input_tokens_seen": 32395504, + "step": 16548 + }, + { + "epoch": 2.1933730947647447, + "grad_norm": 0.014155656099319458, + "learning_rate": 8.408046880372717e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32397216, + "step": 16549 + }, + { + "epoch": 2.1935056328694498, + "grad_norm": 3.7262864112854004, + "learning_rate": 8.40545038980053e-07, + "loss": 0.0348, + "num_input_tokens_seen": 32399032, + "step": 16550 + }, + { + "epoch": 2.1936381709741553, + "grad_norm": 5.613471031188965, + "learning_rate": 8.402854219182699e-07, + "loss": 0.117, + "num_input_tokens_seen": 32400608, + "step": 16551 + }, + { + "epoch": 2.1937707090788603, + "grad_norm": 0.0005248048692010343, + "learning_rate": 8.400258368569297e-07, + "loss": 0.0, + "num_input_tokens_seen": 32401912, + "step": 16552 + }, + { + "epoch": 2.1939032471835653, + "grad_norm": 11.366371154785156, + "learning_rate": 8.397662838010365e-07, + "loss": 0.1462, + "num_input_tokens_seen": 32404024, + "step": 16553 + }, + { + "epoch": 2.1940357852882704, + "grad_norm": 14.923547744750977, + "learning_rate": 8.395067627555937e-07, + "loss": 0.136, + "num_input_tokens_seen": 32405784, + "step": 16554 + }, + { + "epoch": 2.1941683233929754, + "grad_norm": 8.638009071350098, + "learning_rate": 8.392472737256069e-07, + "loss": 0.1959, + "num_input_tokens_seen": 32407592, + "step": 16555 + }, + { + "epoch": 2.1943008614976804, + "grad_norm": 3.1502857208251953, + "learning_rate": 8.389878167160775e-07, + "loss": 0.0251, + "num_input_tokens_seen": 32410416, + "step": 16556 + }, + { + "epoch": 2.1944333996023855, + "grad_norm": 6.3921966552734375, + "learning_rate": 8.387283917320099e-07, + "loss": 0.0642, + "num_input_tokens_seen": 32412280, + "step": 16557 + }, + { + "epoch": 2.194565937707091, + "grad_norm": 4.556399345397949, + "learning_rate": 8.384689987784047e-07, + "loss": 0.0306, + "num_input_tokens_seen": 32414312, + "step": 16558 + }, + { + "epoch": 2.194698475811796, + "grad_norm": 0.0019420023309066892, + "learning_rate": 8.382096378602639e-07, + "loss": 0.0, + "num_input_tokens_seen": 32415872, + "step": 16559 + }, + { + "epoch": 2.194831013916501, + "grad_norm": 0.4089391529560089, + "learning_rate": 8.379503089825863e-07, + "loss": 0.0013, + "num_input_tokens_seen": 32417544, + "step": 16560 + }, + { + "epoch": 2.194963552021206, + "grad_norm": 0.0075423214584589005, + "learning_rate": 8.376910121503737e-07, + "loss": 0.0, + "num_input_tokens_seen": 32419272, + "step": 16561 + }, + { + "epoch": 2.195096090125911, + "grad_norm": 15.569775581359863, + "learning_rate": 8.374317473686259e-07, + "loss": 0.4376, + "num_input_tokens_seen": 32421000, + "step": 16562 + }, + { + "epoch": 2.195228628230616, + "grad_norm": 2.2102811336517334, + "learning_rate": 8.371725146423409e-07, + "loss": 0.0118, + "num_input_tokens_seen": 32422856, + "step": 16563 + }, + { + "epoch": 2.1953611663353216, + "grad_norm": 0.0014408637071028352, + "learning_rate": 8.369133139765171e-07, + "loss": 0.0, + "num_input_tokens_seen": 32424520, + "step": 16564 + }, + { + "epoch": 2.1954937044400267, + "grad_norm": 0.6970670819282532, + "learning_rate": 8.366541453761515e-07, + "loss": 0.0043, + "num_input_tokens_seen": 32426328, + "step": 16565 + }, + { + "epoch": 2.1956262425447317, + "grad_norm": 0.0062262252904474735, + "learning_rate": 8.363950088462411e-07, + "loss": 0.0, + "num_input_tokens_seen": 32428272, + "step": 16566 + }, + { + "epoch": 2.1957587806494367, + "grad_norm": 0.2609323263168335, + "learning_rate": 8.361359043917824e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32430400, + "step": 16567 + }, + { + "epoch": 2.195891318754142, + "grad_norm": 3.6146416664123535, + "learning_rate": 8.358768320177721e-07, + "loss": 0.0305, + "num_input_tokens_seen": 32432120, + "step": 16568 + }, + { + "epoch": 2.196023856858847, + "grad_norm": 0.02466299571096897, + "learning_rate": 8.356177917292044e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32434464, + "step": 16569 + }, + { + "epoch": 2.196156394963552, + "grad_norm": 4.014787197113037, + "learning_rate": 8.353587835310742e-07, + "loss": 0.1579, + "num_input_tokens_seen": 32436200, + "step": 16570 + }, + { + "epoch": 2.1962889330682573, + "grad_norm": 3.356247901916504, + "learning_rate": 8.350998074283739e-07, + "loss": 0.0287, + "num_input_tokens_seen": 32438448, + "step": 16571 + }, + { + "epoch": 2.1964214711729624, + "grad_norm": 1.1415212154388428, + "learning_rate": 8.348408634260988e-07, + "loss": 0.056, + "num_input_tokens_seen": 32439848, + "step": 16572 + }, + { + "epoch": 2.1965540092776674, + "grad_norm": 0.006085709203034639, + "learning_rate": 8.345819515292397e-07, + "loss": 0.0, + "num_input_tokens_seen": 32441440, + "step": 16573 + }, + { + "epoch": 2.1966865473823725, + "grad_norm": 0.005499835126101971, + "learning_rate": 8.343230717427906e-07, + "loss": 0.0, + "num_input_tokens_seen": 32443456, + "step": 16574 + }, + { + "epoch": 2.1968190854870775, + "grad_norm": 0.042069803923368454, + "learning_rate": 8.340642240717414e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32444768, + "step": 16575 + }, + { + "epoch": 2.1969516235917825, + "grad_norm": 0.10017409920692444, + "learning_rate": 8.338054085210826e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32446032, + "step": 16576 + }, + { + "epoch": 2.1970841616964876, + "grad_norm": 5.813887119293213, + "learning_rate": 8.335466250958058e-07, + "loss": 0.0932, + "num_input_tokens_seen": 32448032, + "step": 16577 + }, + { + "epoch": 2.197216699801193, + "grad_norm": 0.003848862834274769, + "learning_rate": 8.332878738008987e-07, + "loss": 0.0, + "num_input_tokens_seen": 32449888, + "step": 16578 + }, + { + "epoch": 2.197349237905898, + "grad_norm": 7.274786472320557, + "learning_rate": 8.330291546413522e-07, + "loss": 0.1682, + "num_input_tokens_seen": 32451952, + "step": 16579 + }, + { + "epoch": 2.197481776010603, + "grad_norm": 0.03515326976776123, + "learning_rate": 8.327704676221534e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32453320, + "step": 16580 + }, + { + "epoch": 2.197614314115308, + "grad_norm": 1.4648410081863403, + "learning_rate": 8.325118127482903e-07, + "loss": 0.0101, + "num_input_tokens_seen": 32455504, + "step": 16581 + }, + { + "epoch": 2.197746852220013, + "grad_norm": 0.4241339862346649, + "learning_rate": 8.322531900247491e-07, + "loss": 0.0018, + "num_input_tokens_seen": 32457264, + "step": 16582 + }, + { + "epoch": 2.1978793903247182, + "grad_norm": 0.006087826564908028, + "learning_rate": 8.319945994565173e-07, + "loss": 0.0, + "num_input_tokens_seen": 32458400, + "step": 16583 + }, + { + "epoch": 2.1980119284294233, + "grad_norm": 4.9124579429626465, + "learning_rate": 8.3173604104858e-07, + "loss": 0.0198, + "num_input_tokens_seen": 32460224, + "step": 16584 + }, + { + "epoch": 2.1981444665341288, + "grad_norm": 0.5875461101531982, + "learning_rate": 8.314775148059231e-07, + "loss": 0.003, + "num_input_tokens_seen": 32461784, + "step": 16585 + }, + { + "epoch": 2.198277004638834, + "grad_norm": 0.9466050267219543, + "learning_rate": 8.312190207335311e-07, + "loss": 0.0109, + "num_input_tokens_seen": 32463432, + "step": 16586 + }, + { + "epoch": 2.198409542743539, + "grad_norm": 0.1075681522488594, + "learning_rate": 8.309605588363867e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32465416, + "step": 16587 + }, + { + "epoch": 2.198542080848244, + "grad_norm": 0.742644190788269, + "learning_rate": 8.30702129119475e-07, + "loss": 0.002, + "num_input_tokens_seen": 32467280, + "step": 16588 + }, + { + "epoch": 2.198674618952949, + "grad_norm": 0.026090240105986595, + "learning_rate": 8.304437315877775e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32469152, + "step": 16589 + }, + { + "epoch": 2.198807157057654, + "grad_norm": 2.9998509883880615, + "learning_rate": 8.301853662462761e-07, + "loss": 0.0238, + "num_input_tokens_seen": 32470744, + "step": 16590 + }, + { + "epoch": 2.198939695162359, + "grad_norm": 2.4081480503082275, + "learning_rate": 8.299270330999537e-07, + "loss": 0.0113, + "num_input_tokens_seen": 32472704, + "step": 16591 + }, + { + "epoch": 2.1990722332670645, + "grad_norm": 9.72903060913086, + "learning_rate": 8.296687321537892e-07, + "loss": 0.1357, + "num_input_tokens_seen": 32474560, + "step": 16592 + }, + { + "epoch": 2.1992047713717695, + "grad_norm": 19.19078826904297, + "learning_rate": 8.294104634127648e-07, + "loss": 0.2384, + "num_input_tokens_seen": 32476024, + "step": 16593 + }, + { + "epoch": 2.1993373094764745, + "grad_norm": 3.7494773864746094, + "learning_rate": 8.291522268818592e-07, + "loss": 0.0314, + "num_input_tokens_seen": 32478448, + "step": 16594 + }, + { + "epoch": 2.1994698475811796, + "grad_norm": 0.023266751319169998, + "learning_rate": 8.288940225660511e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32479872, + "step": 16595 + }, + { + "epoch": 2.1996023856858846, + "grad_norm": 7.55430269241333, + "learning_rate": 8.286358504703185e-07, + "loss": 0.054, + "num_input_tokens_seen": 32481576, + "step": 16596 + }, + { + "epoch": 2.1997349237905897, + "grad_norm": 4.618304252624512, + "learning_rate": 8.283777105996393e-07, + "loss": 0.0751, + "num_input_tokens_seen": 32484224, + "step": 16597 + }, + { + "epoch": 2.1998674618952947, + "grad_norm": 4.229299545288086, + "learning_rate": 8.281196029589922e-07, + "loss": 0.0499, + "num_input_tokens_seen": 32486936, + "step": 16598 + }, + { + "epoch": 2.2, + "grad_norm": 7.89039421081543, + "learning_rate": 8.278615275533525e-07, + "loss": 0.0353, + "num_input_tokens_seen": 32488552, + "step": 16599 + }, + { + "epoch": 2.200132538104705, + "grad_norm": 0.11992044746875763, + "learning_rate": 8.276034843876963e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32490840, + "step": 16600 + }, + { + "epoch": 2.2002650762094103, + "grad_norm": 0.6093519926071167, + "learning_rate": 8.273454734669984e-07, + "loss": 0.0024, + "num_input_tokens_seen": 32492768, + "step": 16601 + }, + { + "epoch": 2.2003976143141153, + "grad_norm": 9.697235107421875, + "learning_rate": 8.270874947962326e-07, + "loss": 0.0194, + "num_input_tokens_seen": 32494560, + "step": 16602 + }, + { + "epoch": 2.2005301524188203, + "grad_norm": 6.168498992919922, + "learning_rate": 8.268295483803745e-07, + "loss": 0.0408, + "num_input_tokens_seen": 32496280, + "step": 16603 + }, + { + "epoch": 2.2006626905235254, + "grad_norm": 0.09125087410211563, + "learning_rate": 8.265716342243973e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32497696, + "step": 16604 + }, + { + "epoch": 2.2007952286282304, + "grad_norm": 0.1364143341779709, + "learning_rate": 8.263137523332737e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32499456, + "step": 16605 + }, + { + "epoch": 2.200927766732936, + "grad_norm": 0.16730304062366486, + "learning_rate": 8.260559027119758e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32501152, + "step": 16606 + }, + { + "epoch": 2.201060304837641, + "grad_norm": 0.7307750582695007, + "learning_rate": 8.257980853654737e-07, + "loss": 0.005, + "num_input_tokens_seen": 32503192, + "step": 16607 + }, + { + "epoch": 2.201192842942346, + "grad_norm": 4.9991278648376465, + "learning_rate": 8.255403002987397e-07, + "loss": 0.0624, + "num_input_tokens_seen": 32504960, + "step": 16608 + }, + { + "epoch": 2.201325381047051, + "grad_norm": 1.3817178010940552, + "learning_rate": 8.252825475167445e-07, + "loss": 0.0081, + "num_input_tokens_seen": 32506576, + "step": 16609 + }, + { + "epoch": 2.201457919151756, + "grad_norm": 6.537020683288574, + "learning_rate": 8.250248270244571e-07, + "loss": 0.0729, + "num_input_tokens_seen": 32508504, + "step": 16610 + }, + { + "epoch": 2.201590457256461, + "grad_norm": 0.4114634394645691, + "learning_rate": 8.247671388268466e-07, + "loss": 0.0025, + "num_input_tokens_seen": 32510600, + "step": 16611 + }, + { + "epoch": 2.201722995361166, + "grad_norm": 0.014505065977573395, + "learning_rate": 8.245094829288816e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32511728, + "step": 16612 + }, + { + "epoch": 2.2018555334658716, + "grad_norm": 4.720791339874268, + "learning_rate": 8.242518593355287e-07, + "loss": 0.0358, + "num_input_tokens_seen": 32513384, + "step": 16613 + }, + { + "epoch": 2.2019880715705766, + "grad_norm": 0.02104461006820202, + "learning_rate": 8.239942680517557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32514920, + "step": 16614 + }, + { + "epoch": 2.2021206096752817, + "grad_norm": 5.362493991851807, + "learning_rate": 8.237367090825305e-07, + "loss": 0.0328, + "num_input_tokens_seen": 32516760, + "step": 16615 + }, + { + "epoch": 2.2022531477799867, + "grad_norm": 4.5430588722229, + "learning_rate": 8.234791824328179e-07, + "loss": 0.0263, + "num_input_tokens_seen": 32518536, + "step": 16616 + }, + { + "epoch": 2.2023856858846917, + "grad_norm": 0.19859392940998077, + "learning_rate": 8.232216881075833e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32520016, + "step": 16617 + }, + { + "epoch": 2.202518223989397, + "grad_norm": 9.521278381347656, + "learning_rate": 8.229642261117904e-07, + "loss": 0.082, + "num_input_tokens_seen": 32522224, + "step": 16618 + }, + { + "epoch": 2.202650762094102, + "grad_norm": 0.004801636096090078, + "learning_rate": 8.227067964504049e-07, + "loss": 0.0, + "num_input_tokens_seen": 32524912, + "step": 16619 + }, + { + "epoch": 2.2027833001988073, + "grad_norm": 0.005690832156687975, + "learning_rate": 8.224493991283886e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32528456, + "step": 16620 + }, + { + "epoch": 2.2029158383035123, + "grad_norm": 7.751559734344482, + "learning_rate": 8.221920341507062e-07, + "loss": 0.0428, + "num_input_tokens_seen": 32530576, + "step": 16621 + }, + { + "epoch": 2.2030483764082174, + "grad_norm": 6.102159023284912, + "learning_rate": 8.219347015223186e-07, + "loss": 0.1543, + "num_input_tokens_seen": 32532640, + "step": 16622 + }, + { + "epoch": 2.2031809145129224, + "grad_norm": 8.567307472229004, + "learning_rate": 8.216774012481871e-07, + "loss": 0.1467, + "num_input_tokens_seen": 32534216, + "step": 16623 + }, + { + "epoch": 2.2033134526176275, + "grad_norm": 0.2641359865665436, + "learning_rate": 8.214201333332735e-07, + "loss": 0.001, + "num_input_tokens_seen": 32536472, + "step": 16624 + }, + { + "epoch": 2.2034459907223325, + "grad_norm": 3.0709033012390137, + "learning_rate": 8.211628977825381e-07, + "loss": 0.0175, + "num_input_tokens_seen": 32538728, + "step": 16625 + }, + { + "epoch": 2.203578528827038, + "grad_norm": 1.872612476348877, + "learning_rate": 8.209056946009394e-07, + "loss": 0.01, + "num_input_tokens_seen": 32541896, + "step": 16626 + }, + { + "epoch": 2.203711066931743, + "grad_norm": 7.065799236297607, + "learning_rate": 8.206485237934378e-07, + "loss": 0.1257, + "num_input_tokens_seen": 32543664, + "step": 16627 + }, + { + "epoch": 2.203843605036448, + "grad_norm": 39.87990188598633, + "learning_rate": 8.203913853649906e-07, + "loss": 0.2339, + "num_input_tokens_seen": 32545744, + "step": 16628 + }, + { + "epoch": 2.203976143141153, + "grad_norm": 0.061339370906353, + "learning_rate": 8.201342793205569e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32547568, + "step": 16629 + }, + { + "epoch": 2.204108681245858, + "grad_norm": 2.6804893016815186, + "learning_rate": 8.198772056650933e-07, + "loss": 0.0112, + "num_input_tokens_seen": 32549776, + "step": 16630 + }, + { + "epoch": 2.204241219350563, + "grad_norm": 1.8356661796569824, + "learning_rate": 8.196201644035551e-07, + "loss": 0.0081, + "num_input_tokens_seen": 32552144, + "step": 16631 + }, + { + "epoch": 2.204373757455268, + "grad_norm": 5.348264217376709, + "learning_rate": 8.193631555409004e-07, + "loss": 0.017, + "num_input_tokens_seen": 32554296, + "step": 16632 + }, + { + "epoch": 2.2045062955599737, + "grad_norm": 0.0521753765642643, + "learning_rate": 8.191061790820829e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32555704, + "step": 16633 + }, + { + "epoch": 2.2046388336646787, + "grad_norm": 5.644750118255615, + "learning_rate": 8.188492350320582e-07, + "loss": 0.0312, + "num_input_tokens_seen": 32558272, + "step": 16634 + }, + { + "epoch": 2.2047713717693838, + "grad_norm": 0.15384791791439056, + "learning_rate": 8.185923233957802e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32561136, + "step": 16635 + }, + { + "epoch": 2.204903909874089, + "grad_norm": 1.3080133199691772, + "learning_rate": 8.183354441782024e-07, + "loss": 0.0111, + "num_input_tokens_seen": 32564160, + "step": 16636 + }, + { + "epoch": 2.205036447978794, + "grad_norm": 13.994810104370117, + "learning_rate": 8.180785973842761e-07, + "loss": 0.2095, + "num_input_tokens_seen": 32566080, + "step": 16637 + }, + { + "epoch": 2.205168986083499, + "grad_norm": 0.05276124179363251, + "learning_rate": 8.178217830189558e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32568168, + "step": 16638 + }, + { + "epoch": 2.205301524188204, + "grad_norm": 2.325650453567505, + "learning_rate": 8.175650010871914e-07, + "loss": 0.0243, + "num_input_tokens_seen": 32570304, + "step": 16639 + }, + { + "epoch": 2.2054340622929094, + "grad_norm": 7.423624515533447, + "learning_rate": 8.173082515939348e-07, + "loss": 0.0249, + "num_input_tokens_seen": 32571744, + "step": 16640 + }, + { + "epoch": 2.2055666003976144, + "grad_norm": 1.45160973072052, + "learning_rate": 8.170515345441362e-07, + "loss": 0.011, + "num_input_tokens_seen": 32574384, + "step": 16641 + }, + { + "epoch": 2.2056991385023195, + "grad_norm": 4.078460216522217, + "learning_rate": 8.16794849942745e-07, + "loss": 0.0393, + "num_input_tokens_seen": 32576632, + "step": 16642 + }, + { + "epoch": 2.2058316766070245, + "grad_norm": 8.769227981567383, + "learning_rate": 8.165381977947093e-07, + "loss": 0.0647, + "num_input_tokens_seen": 32579056, + "step": 16643 + }, + { + "epoch": 2.2059642147117295, + "grad_norm": 10.753658294677734, + "learning_rate": 8.162815781049787e-07, + "loss": 0.0603, + "num_input_tokens_seen": 32581168, + "step": 16644 + }, + { + "epoch": 2.2060967528164346, + "grad_norm": 1.511300802230835, + "learning_rate": 8.160249908785017e-07, + "loss": 0.0058, + "num_input_tokens_seen": 32582640, + "step": 16645 + }, + { + "epoch": 2.20622929092114, + "grad_norm": 2.334587335586548, + "learning_rate": 8.157684361202242e-07, + "loss": 0.0021, + "num_input_tokens_seen": 32584368, + "step": 16646 + }, + { + "epoch": 2.206361829025845, + "grad_norm": 0.17476649582386017, + "learning_rate": 8.155119138350937e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32585976, + "step": 16647 + }, + { + "epoch": 2.20649436713055, + "grad_norm": 0.07024337351322174, + "learning_rate": 8.152554240280552e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32587624, + "step": 16648 + }, + { + "epoch": 2.206626905235255, + "grad_norm": 11.482390403747559, + "learning_rate": 8.149989667040537e-07, + "loss": 0.1987, + "num_input_tokens_seen": 32590440, + "step": 16649 + }, + { + "epoch": 2.20675944333996, + "grad_norm": 6.394782066345215, + "learning_rate": 8.147425418680343e-07, + "loss": 0.1144, + "num_input_tokens_seen": 32592160, + "step": 16650 + }, + { + "epoch": 2.2068919814446653, + "grad_norm": 0.014118979685008526, + "learning_rate": 8.144861495249424e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32593752, + "step": 16651 + }, + { + "epoch": 2.2070245195493703, + "grad_norm": 0.0030741780065000057, + "learning_rate": 8.142297896797203e-07, + "loss": 0.0, + "num_input_tokens_seen": 32594712, + "step": 16652 + }, + { + "epoch": 2.2071570576540758, + "grad_norm": 1.702795386314392, + "learning_rate": 8.139734623373105e-07, + "loss": 0.0133, + "num_input_tokens_seen": 32596552, + "step": 16653 + }, + { + "epoch": 2.207289595758781, + "grad_norm": 0.07550080865621567, + "learning_rate": 8.137171675026548e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32599304, + "step": 16654 + }, + { + "epoch": 2.207422133863486, + "grad_norm": 0.027994675561785698, + "learning_rate": 8.134609051806964e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32601208, + "step": 16655 + }, + { + "epoch": 2.207554671968191, + "grad_norm": 6.728792667388916, + "learning_rate": 8.132046753763742e-07, + "loss": 0.0448, + "num_input_tokens_seen": 32603712, + "step": 16656 + }, + { + "epoch": 2.207687210072896, + "grad_norm": 0.005654821638017893, + "learning_rate": 8.129484780946304e-07, + "loss": 0.0, + "num_input_tokens_seen": 32604976, + "step": 16657 + }, + { + "epoch": 2.207819748177601, + "grad_norm": 7.937885761260986, + "learning_rate": 8.126923133404038e-07, + "loss": 0.0474, + "num_input_tokens_seen": 32606568, + "step": 16658 + }, + { + "epoch": 2.207952286282306, + "grad_norm": 0.036151982843875885, + "learning_rate": 8.124361811186327e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32609280, + "step": 16659 + }, + { + "epoch": 2.2080848243870115, + "grad_norm": 0.022098803892731667, + "learning_rate": 8.12180081434257e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32610808, + "step": 16660 + }, + { + "epoch": 2.2082173624917165, + "grad_norm": 0.08687372505664825, + "learning_rate": 8.119240142922127e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32613120, + "step": 16661 + }, + { + "epoch": 2.2083499005964216, + "grad_norm": 0.07096479833126068, + "learning_rate": 8.116679796974389e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32615904, + "step": 16662 + }, + { + "epoch": 2.2084824387011266, + "grad_norm": 1.863954782485962, + "learning_rate": 8.114119776548713e-07, + "loss": 0.0535, + "num_input_tokens_seen": 32617392, + "step": 16663 + }, + { + "epoch": 2.2086149768058316, + "grad_norm": 1.3302783966064453, + "learning_rate": 8.111560081694456e-07, + "loss": 0.0041, + "num_input_tokens_seen": 32618928, + "step": 16664 + }, + { + "epoch": 2.2087475149105367, + "grad_norm": 0.08653838187456131, + "learning_rate": 8.109000712460963e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32620528, + "step": 16665 + }, + { + "epoch": 2.2088800530152417, + "grad_norm": 2.831339120864868, + "learning_rate": 8.106441668897597e-07, + "loss": 0.0101, + "num_input_tokens_seen": 32622336, + "step": 16666 + }, + { + "epoch": 2.209012591119947, + "grad_norm": 0.018863758072257042, + "learning_rate": 8.103882951053679e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32624384, + "step": 16667 + }, + { + "epoch": 2.2091451292246522, + "grad_norm": 1.2936036586761475, + "learning_rate": 8.101324558978566e-07, + "loss": 0.01, + "num_input_tokens_seen": 32626240, + "step": 16668 + }, + { + "epoch": 2.2092776673293573, + "grad_norm": 3.5421905517578125, + "learning_rate": 8.098766492721572e-07, + "loss": 0.0242, + "num_input_tokens_seen": 32628296, + "step": 16669 + }, + { + "epoch": 2.2094102054340623, + "grad_norm": 2.020473003387451, + "learning_rate": 8.096208752332007e-07, + "loss": 0.0088, + "num_input_tokens_seen": 32629944, + "step": 16670 + }, + { + "epoch": 2.2095427435387673, + "grad_norm": 1.850967526435852, + "learning_rate": 8.093651337859213e-07, + "loss": 0.0043, + "num_input_tokens_seen": 32632552, + "step": 16671 + }, + { + "epoch": 2.2096752816434724, + "grad_norm": 0.899761974811554, + "learning_rate": 8.091094249352483e-07, + "loss": 0.003, + "num_input_tokens_seen": 32633896, + "step": 16672 + }, + { + "epoch": 2.2098078197481774, + "grad_norm": 0.008522593416273594, + "learning_rate": 8.088537486861109e-07, + "loss": 0.0, + "num_input_tokens_seen": 32635216, + "step": 16673 + }, + { + "epoch": 2.209940357852883, + "grad_norm": 2.7074930667877197, + "learning_rate": 8.08598105043441e-07, + "loss": 0.015, + "num_input_tokens_seen": 32636744, + "step": 16674 + }, + { + "epoch": 2.210072895957588, + "grad_norm": 0.05558546632528305, + "learning_rate": 8.083424940121657e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32638208, + "step": 16675 + }, + { + "epoch": 2.210205434062293, + "grad_norm": 5.4678473472595215, + "learning_rate": 8.080869155972149e-07, + "loss": 0.0389, + "num_input_tokens_seen": 32640824, + "step": 16676 + }, + { + "epoch": 2.210337972166998, + "grad_norm": 1.7655972242355347, + "learning_rate": 8.078313698035154e-07, + "loss": 0.008, + "num_input_tokens_seen": 32642824, + "step": 16677 + }, + { + "epoch": 2.210470510271703, + "grad_norm": 12.888080596923828, + "learning_rate": 8.075758566359946e-07, + "loss": 0.2428, + "num_input_tokens_seen": 32644768, + "step": 16678 + }, + { + "epoch": 2.210603048376408, + "grad_norm": 0.07891834527254105, + "learning_rate": 8.073203760995779e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32647160, + "step": 16679 + }, + { + "epoch": 2.210735586481113, + "grad_norm": 0.09008906036615372, + "learning_rate": 8.070649281991921e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32649656, + "step": 16680 + }, + { + "epoch": 2.2108681245858186, + "grad_norm": 0.0008526545134373009, + "learning_rate": 8.068095129397635e-07, + "loss": 0.0, + "num_input_tokens_seen": 32650712, + "step": 16681 + }, + { + "epoch": 2.2110006626905236, + "grad_norm": 3.7387852668762207, + "learning_rate": 8.06554130326215e-07, + "loss": 0.0449, + "num_input_tokens_seen": 32652728, + "step": 16682 + }, + { + "epoch": 2.2111332007952287, + "grad_norm": 1.3489062786102295, + "learning_rate": 8.062987803634717e-07, + "loss": 0.0107, + "num_input_tokens_seen": 32655664, + "step": 16683 + }, + { + "epoch": 2.2112657388999337, + "grad_norm": 0.04860488697886467, + "learning_rate": 8.060434630564551e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32657376, + "step": 16684 + }, + { + "epoch": 2.2113982770046388, + "grad_norm": 0.004314373712986708, + "learning_rate": 8.057881784100893e-07, + "loss": 0.0, + "num_input_tokens_seen": 32658584, + "step": 16685 + }, + { + "epoch": 2.211530815109344, + "grad_norm": 0.15226362645626068, + "learning_rate": 8.055329264292971e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32661000, + "step": 16686 + }, + { + "epoch": 2.211663353214049, + "grad_norm": 0.039376676082611084, + "learning_rate": 8.052777071189988e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32662072, + "step": 16687 + }, + { + "epoch": 2.2117958913187543, + "grad_norm": 8.777050971984863, + "learning_rate": 8.050225204841155e-07, + "loss": 0.0442, + "num_input_tokens_seen": 32664272, + "step": 16688 + }, + { + "epoch": 2.2119284294234594, + "grad_norm": 0.025790821760892868, + "learning_rate": 8.047673665295674e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32665920, + "step": 16689 + }, + { + "epoch": 2.2120609675281644, + "grad_norm": 3.2006733417510986, + "learning_rate": 8.045122452602733e-07, + "loss": 0.0223, + "num_input_tokens_seen": 32668416, + "step": 16690 + }, + { + "epoch": 2.2121935056328694, + "grad_norm": 0.013851161114871502, + "learning_rate": 8.042571566811524e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32670808, + "step": 16691 + }, + { + "epoch": 2.2123260437375745, + "grad_norm": 8.55340576171875, + "learning_rate": 8.040021007971243e-07, + "loss": 0.1795, + "num_input_tokens_seen": 32673360, + "step": 16692 + }, + { + "epoch": 2.2124585818422795, + "grad_norm": 5.639500617980957, + "learning_rate": 8.03747077613106e-07, + "loss": 0.0623, + "num_input_tokens_seen": 32675440, + "step": 16693 + }, + { + "epoch": 2.2125911199469845, + "grad_norm": 2.0292844772338867, + "learning_rate": 8.034920871340137e-07, + "loss": 0.0284, + "num_input_tokens_seen": 32677120, + "step": 16694 + }, + { + "epoch": 2.21272365805169, + "grad_norm": 3.819126844406128, + "learning_rate": 8.032371293647648e-07, + "loss": 0.0502, + "num_input_tokens_seen": 32679992, + "step": 16695 + }, + { + "epoch": 2.212856196156395, + "grad_norm": 10.78261661529541, + "learning_rate": 8.029822043102736e-07, + "loss": 0.2112, + "num_input_tokens_seen": 32682128, + "step": 16696 + }, + { + "epoch": 2.2129887342611, + "grad_norm": 8.088414192199707, + "learning_rate": 8.027273119754561e-07, + "loss": 0.1415, + "num_input_tokens_seen": 32684480, + "step": 16697 + }, + { + "epoch": 2.213121272365805, + "grad_norm": 0.008392506279051304, + "learning_rate": 8.024724523652278e-07, + "loss": 0.0, + "num_input_tokens_seen": 32686376, + "step": 16698 + }, + { + "epoch": 2.21325381047051, + "grad_norm": 1.8394683599472046, + "learning_rate": 8.022176254845018e-07, + "loss": 0.0032, + "num_input_tokens_seen": 32688608, + "step": 16699 + }, + { + "epoch": 2.213386348575215, + "grad_norm": 0.01865784451365471, + "learning_rate": 8.019628313381911e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32690232, + "step": 16700 + }, + { + "epoch": 2.2135188866799203, + "grad_norm": 11.831122398376465, + "learning_rate": 8.017080699312074e-07, + "loss": 0.1272, + "num_input_tokens_seen": 32692264, + "step": 16701 + }, + { + "epoch": 2.2136514247846257, + "grad_norm": 33.87800979614258, + "learning_rate": 8.01453341268465e-07, + "loss": 0.1935, + "num_input_tokens_seen": 32694768, + "step": 16702 + }, + { + "epoch": 2.2137839628893308, + "grad_norm": 5.259215831756592, + "learning_rate": 8.011986453548728e-07, + "loss": 0.0492, + "num_input_tokens_seen": 32697744, + "step": 16703 + }, + { + "epoch": 2.213916500994036, + "grad_norm": 4.190415382385254, + "learning_rate": 8.009439821953435e-07, + "loss": 0.03, + "num_input_tokens_seen": 32699416, + "step": 16704 + }, + { + "epoch": 2.214049039098741, + "grad_norm": 0.271725594997406, + "learning_rate": 8.006893517947864e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32700832, + "step": 16705 + }, + { + "epoch": 2.214181577203446, + "grad_norm": 6.647470474243164, + "learning_rate": 8.004347541581101e-07, + "loss": 0.1416, + "num_input_tokens_seen": 32702416, + "step": 16706 + }, + { + "epoch": 2.214314115308151, + "grad_norm": 0.08262130618095398, + "learning_rate": 8.00180189290225e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32703392, + "step": 16707 + }, + { + "epoch": 2.2144466534128564, + "grad_norm": 2.116563081741333, + "learning_rate": 7.999256571960384e-07, + "loss": 0.0254, + "num_input_tokens_seen": 32706056, + "step": 16708 + }, + { + "epoch": 2.2145791915175614, + "grad_norm": 4.042857646942139, + "learning_rate": 7.996711578804572e-07, + "loss": 0.0558, + "num_input_tokens_seen": 32707720, + "step": 16709 + }, + { + "epoch": 2.2147117296222665, + "grad_norm": 9.864252090454102, + "learning_rate": 7.9941669134839e-07, + "loss": 0.1283, + "num_input_tokens_seen": 32709656, + "step": 16710 + }, + { + "epoch": 2.2148442677269715, + "grad_norm": 0.07578421384096146, + "learning_rate": 7.991622576047414e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32712440, + "step": 16711 + }, + { + "epoch": 2.2149768058316766, + "grad_norm": 14.956700325012207, + "learning_rate": 7.989078566544184e-07, + "loss": 0.1698, + "num_input_tokens_seen": 32714304, + "step": 16712 + }, + { + "epoch": 2.2151093439363816, + "grad_norm": 0.04846203327178955, + "learning_rate": 7.986534885023256e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32715920, + "step": 16713 + }, + { + "epoch": 2.2152418820410866, + "grad_norm": 0.521878719329834, + "learning_rate": 7.983991531533664e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32717800, + "step": 16714 + }, + { + "epoch": 2.215374420145792, + "grad_norm": 8.667522430419922, + "learning_rate": 7.981448506124462e-07, + "loss": 0.088, + "num_input_tokens_seen": 32719520, + "step": 16715 + }, + { + "epoch": 2.215506958250497, + "grad_norm": 2.6611430644989014, + "learning_rate": 7.978905808844664e-07, + "loss": 0.0219, + "num_input_tokens_seen": 32721576, + "step": 16716 + }, + { + "epoch": 2.215639496355202, + "grad_norm": 0.46542611718177795, + "learning_rate": 7.976363439743312e-07, + "loss": 0.0011, + "num_input_tokens_seen": 32723552, + "step": 16717 + }, + { + "epoch": 2.2157720344599072, + "grad_norm": 0.14953237771987915, + "learning_rate": 7.97382139886942e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32724960, + "step": 16718 + }, + { + "epoch": 2.2159045725646123, + "grad_norm": 1.4781609773635864, + "learning_rate": 7.971279686271996e-07, + "loss": 0.0059, + "num_input_tokens_seen": 32727200, + "step": 16719 + }, + { + "epoch": 2.2160371106693173, + "grad_norm": 0.09826435148715973, + "learning_rate": 7.968738302000037e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32730008, + "step": 16720 + }, + { + "epoch": 2.2161696487740223, + "grad_norm": 0.0050934781320393085, + "learning_rate": 7.966197246102564e-07, + "loss": 0.0, + "num_input_tokens_seen": 32731416, + "step": 16721 + }, + { + "epoch": 2.216302186878728, + "grad_norm": 1.038631558418274, + "learning_rate": 7.963656518628548e-07, + "loss": 0.0045, + "num_input_tokens_seen": 32733712, + "step": 16722 + }, + { + "epoch": 2.216434724983433, + "grad_norm": 0.0030344754923135042, + "learning_rate": 7.961116119626996e-07, + "loss": 0.0, + "num_input_tokens_seen": 32734952, + "step": 16723 + }, + { + "epoch": 2.216567263088138, + "grad_norm": 5.364160060882568, + "learning_rate": 7.958576049146882e-07, + "loss": 0.0527, + "num_input_tokens_seen": 32738368, + "step": 16724 + }, + { + "epoch": 2.216699801192843, + "grad_norm": 6.421642303466797, + "learning_rate": 7.956036307237175e-07, + "loss": 0.0665, + "num_input_tokens_seen": 32741408, + "step": 16725 + }, + { + "epoch": 2.216832339297548, + "grad_norm": 3.126265287399292, + "learning_rate": 7.953496893946841e-07, + "loss": 0.018, + "num_input_tokens_seen": 32743104, + "step": 16726 + }, + { + "epoch": 2.216964877402253, + "grad_norm": 6.314855575561523, + "learning_rate": 7.950957809324844e-07, + "loss": 0.0542, + "num_input_tokens_seen": 32744432, + "step": 16727 + }, + { + "epoch": 2.217097415506958, + "grad_norm": 0.0030501838773489, + "learning_rate": 7.94841905342015e-07, + "loss": 0.0, + "num_input_tokens_seen": 32745808, + "step": 16728 + }, + { + "epoch": 2.2172299536116635, + "grad_norm": 1.86149001121521, + "learning_rate": 7.945880626281702e-07, + "loss": 0.0068, + "num_input_tokens_seen": 32747824, + "step": 16729 + }, + { + "epoch": 2.2173624917163686, + "grad_norm": 0.003636228386312723, + "learning_rate": 7.943342527958439e-07, + "loss": 0.0, + "num_input_tokens_seen": 32749104, + "step": 16730 + }, + { + "epoch": 2.2174950298210736, + "grad_norm": 0.0030643995851278305, + "learning_rate": 7.940804758499302e-07, + "loss": 0.0, + "num_input_tokens_seen": 32750304, + "step": 16731 + }, + { + "epoch": 2.2176275679257786, + "grad_norm": 0.007272868882864714, + "learning_rate": 7.938267317953205e-07, + "loss": 0.0, + "num_input_tokens_seen": 32753040, + "step": 16732 + }, + { + "epoch": 2.2177601060304837, + "grad_norm": 0.0020478698424994946, + "learning_rate": 7.935730206369088e-07, + "loss": 0.0, + "num_input_tokens_seen": 32755064, + "step": 16733 + }, + { + "epoch": 2.2178926441351887, + "grad_norm": 0.010774509981274605, + "learning_rate": 7.933193423795871e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32756472, + "step": 16734 + }, + { + "epoch": 2.218025182239894, + "grad_norm": 0.019999122247099876, + "learning_rate": 7.930656970282457e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32758520, + "step": 16735 + }, + { + "epoch": 2.2181577203445992, + "grad_norm": 5.0175018310546875, + "learning_rate": 7.928120845877754e-07, + "loss": 0.0405, + "num_input_tokens_seen": 32760848, + "step": 16736 + }, + { + "epoch": 2.2182902584493043, + "grad_norm": 0.40085798501968384, + "learning_rate": 7.925585050630652e-07, + "loss": 0.0017, + "num_input_tokens_seen": 32762192, + "step": 16737 + }, + { + "epoch": 2.2184227965540093, + "grad_norm": 1.258528232574463, + "learning_rate": 7.923049584590048e-07, + "loss": 0.0028, + "num_input_tokens_seen": 32764536, + "step": 16738 + }, + { + "epoch": 2.2185553346587144, + "grad_norm": 0.00344264879822731, + "learning_rate": 7.920514447804836e-07, + "loss": 0.0, + "num_input_tokens_seen": 32765776, + "step": 16739 + }, + { + "epoch": 2.2186878727634194, + "grad_norm": 0.1471462845802307, + "learning_rate": 7.917979640323889e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32767744, + "step": 16740 + }, + { + "epoch": 2.2188204108681244, + "grad_norm": 16.883075714111328, + "learning_rate": 7.915445162196078e-07, + "loss": 0.0807, + "num_input_tokens_seen": 32770552, + "step": 16741 + }, + { + "epoch": 2.21895294897283, + "grad_norm": 0.003178149461746216, + "learning_rate": 7.912911013470262e-07, + "loss": 0.0, + "num_input_tokens_seen": 32772016, + "step": 16742 + }, + { + "epoch": 2.219085487077535, + "grad_norm": 0.009037372656166553, + "learning_rate": 7.910377194195318e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32774032, + "step": 16743 + }, + { + "epoch": 2.21921802518224, + "grad_norm": 7.590287208557129, + "learning_rate": 7.907843704420082e-07, + "loss": 0.1487, + "num_input_tokens_seen": 32776160, + "step": 16744 + }, + { + "epoch": 2.219350563286945, + "grad_norm": 16.331134796142578, + "learning_rate": 7.905310544193421e-07, + "loss": 0.1996, + "num_input_tokens_seen": 32779040, + "step": 16745 + }, + { + "epoch": 2.21948310139165, + "grad_norm": 3.98402738571167, + "learning_rate": 7.902777713564163e-07, + "loss": 0.0271, + "num_input_tokens_seen": 32780704, + "step": 16746 + }, + { + "epoch": 2.219615639496355, + "grad_norm": 2.928151845932007, + "learning_rate": 7.90024521258114e-07, + "loss": 0.0434, + "num_input_tokens_seen": 32783016, + "step": 16747 + }, + { + "epoch": 2.21974817760106, + "grad_norm": 2.808687686920166, + "learning_rate": 7.897713041293192e-07, + "loss": 0.0301, + "num_input_tokens_seen": 32784904, + "step": 16748 + }, + { + "epoch": 2.2198807157057656, + "grad_norm": 8.514762878417969, + "learning_rate": 7.895181199749135e-07, + "loss": 0.1574, + "num_input_tokens_seen": 32786824, + "step": 16749 + }, + { + "epoch": 2.2200132538104707, + "grad_norm": 8.368415832519531, + "learning_rate": 7.892649687997778e-07, + "loss": 0.2039, + "num_input_tokens_seen": 32788912, + "step": 16750 + }, + { + "epoch": 2.2201457919151757, + "grad_norm": 0.14122797548770905, + "learning_rate": 7.890118506087946e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32790280, + "step": 16751 + }, + { + "epoch": 2.2202783300198807, + "grad_norm": 0.20348365604877472, + "learning_rate": 7.887587654068429e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32792608, + "step": 16752 + }, + { + "epoch": 2.2204108681245858, + "grad_norm": 0.0017029353184625506, + "learning_rate": 7.885057131988022e-07, + "loss": 0.0, + "num_input_tokens_seen": 32794576, + "step": 16753 + }, + { + "epoch": 2.220543406229291, + "grad_norm": 13.156296730041504, + "learning_rate": 7.882526939895527e-07, + "loss": 0.0717, + "num_input_tokens_seen": 32797072, + "step": 16754 + }, + { + "epoch": 2.220675944333996, + "grad_norm": 0.002089474583044648, + "learning_rate": 7.879997077839721e-07, + "loss": 0.0, + "num_input_tokens_seen": 32799328, + "step": 16755 + }, + { + "epoch": 2.2208084824387013, + "grad_norm": 0.0729425773024559, + "learning_rate": 7.877467545869375e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32800976, + "step": 16756 + }, + { + "epoch": 2.2209410205434064, + "grad_norm": 19.320341110229492, + "learning_rate": 7.874938344033275e-07, + "loss": 0.0668, + "num_input_tokens_seen": 32802664, + "step": 16757 + }, + { + "epoch": 2.2210735586481114, + "grad_norm": 0.7069845795631409, + "learning_rate": 7.872409472380168e-07, + "loss": 0.0024, + "num_input_tokens_seen": 32804888, + "step": 16758 + }, + { + "epoch": 2.2212060967528164, + "grad_norm": 13.998156547546387, + "learning_rate": 7.869880930958831e-07, + "loss": 0.1536, + "num_input_tokens_seen": 32806976, + "step": 16759 + }, + { + "epoch": 2.2213386348575215, + "grad_norm": 11.881112098693848, + "learning_rate": 7.867352719818008e-07, + "loss": 0.1128, + "num_input_tokens_seen": 32808640, + "step": 16760 + }, + { + "epoch": 2.2214711729622265, + "grad_norm": 0.02552521601319313, + "learning_rate": 7.864824839006436e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32810936, + "step": 16761 + }, + { + "epoch": 2.2216037110669316, + "grad_norm": 6.907048225402832, + "learning_rate": 7.862297288572867e-07, + "loss": 0.0552, + "num_input_tokens_seen": 32812712, + "step": 16762 + }, + { + "epoch": 2.221736249171637, + "grad_norm": 0.07258374243974686, + "learning_rate": 7.859770068566025e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32813872, + "step": 16763 + }, + { + "epoch": 2.221868787276342, + "grad_norm": 1.089223027229309, + "learning_rate": 7.857243179034646e-07, + "loss": 0.0089, + "num_input_tokens_seen": 32816008, + "step": 16764 + }, + { + "epoch": 2.222001325381047, + "grad_norm": 0.012824106961488724, + "learning_rate": 7.854716620027444e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32817448, + "step": 16765 + }, + { + "epoch": 2.222133863485752, + "grad_norm": 2.4600746631622314, + "learning_rate": 7.852190391593137e-07, + "loss": 0.0088, + "num_input_tokens_seen": 32819360, + "step": 16766 + }, + { + "epoch": 2.222266401590457, + "grad_norm": 11.200146675109863, + "learning_rate": 7.849664493780418e-07, + "loss": 0.0731, + "num_input_tokens_seen": 32821344, + "step": 16767 + }, + { + "epoch": 2.2223989396951622, + "grad_norm": 8.935330390930176, + "learning_rate": 7.847138926638001e-07, + "loss": 0.0448, + "num_input_tokens_seen": 32823088, + "step": 16768 + }, + { + "epoch": 2.2225314777998673, + "grad_norm": 9.436653137207031, + "learning_rate": 7.844613690214583e-07, + "loss": 0.183, + "num_input_tokens_seen": 32825512, + "step": 16769 + }, + { + "epoch": 2.2226640159045727, + "grad_norm": 2.1117258071899414, + "learning_rate": 7.842088784558852e-07, + "loss": 0.0187, + "num_input_tokens_seen": 32826872, + "step": 16770 + }, + { + "epoch": 2.222796554009278, + "grad_norm": 0.6298040747642517, + "learning_rate": 7.839564209719483e-07, + "loss": 0.0062, + "num_input_tokens_seen": 32828456, + "step": 16771 + }, + { + "epoch": 2.222929092113983, + "grad_norm": 0.007674476597458124, + "learning_rate": 7.837039965745156e-07, + "loss": 0.0, + "num_input_tokens_seen": 32830192, + "step": 16772 + }, + { + "epoch": 2.223061630218688, + "grad_norm": 2.7154605388641357, + "learning_rate": 7.834516052684529e-07, + "loss": 0.0183, + "num_input_tokens_seen": 32831744, + "step": 16773 + }, + { + "epoch": 2.223194168323393, + "grad_norm": 7.294100284576416, + "learning_rate": 7.831992470586278e-07, + "loss": 0.062, + "num_input_tokens_seen": 32833944, + "step": 16774 + }, + { + "epoch": 2.223326706428098, + "grad_norm": 0.8680421710014343, + "learning_rate": 7.829469219499062e-07, + "loss": 0.0032, + "num_input_tokens_seen": 32835720, + "step": 16775 + }, + { + "epoch": 2.223459244532803, + "grad_norm": 4.07961368560791, + "learning_rate": 7.826946299471522e-07, + "loss": 0.0232, + "num_input_tokens_seen": 32837632, + "step": 16776 + }, + { + "epoch": 2.2235917826375085, + "grad_norm": 2.9624900817871094, + "learning_rate": 7.824423710552307e-07, + "loss": 0.024, + "num_input_tokens_seen": 32840040, + "step": 16777 + }, + { + "epoch": 2.2237243207422135, + "grad_norm": 0.04612875357270241, + "learning_rate": 7.821901452790042e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32842168, + "step": 16778 + }, + { + "epoch": 2.2238568588469185, + "grad_norm": 0.7843812108039856, + "learning_rate": 7.819379526233378e-07, + "loss": 0.0022, + "num_input_tokens_seen": 32844008, + "step": 16779 + }, + { + "epoch": 2.2239893969516236, + "grad_norm": 8.857994079589844, + "learning_rate": 7.816857930930921e-07, + "loss": 0.1771, + "num_input_tokens_seen": 32847000, + "step": 16780 + }, + { + "epoch": 2.2241219350563286, + "grad_norm": 0.023332104086875916, + "learning_rate": 7.814336666931302e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32848480, + "step": 16781 + }, + { + "epoch": 2.2242544731610336, + "grad_norm": 0.018700242042541504, + "learning_rate": 7.811815734283132e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32851512, + "step": 16782 + }, + { + "epoch": 2.2243870112657387, + "grad_norm": 0.07183434814214706, + "learning_rate": 7.809295133035008e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32852688, + "step": 16783 + }, + { + "epoch": 2.224519549370444, + "grad_norm": 0.02249935269355774, + "learning_rate": 7.806774863235528e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32854968, + "step": 16784 + }, + { + "epoch": 2.224652087475149, + "grad_norm": 12.225175857543945, + "learning_rate": 7.804254924933297e-07, + "loss": 0.0679, + "num_input_tokens_seen": 32857048, + "step": 16785 + }, + { + "epoch": 2.2247846255798542, + "grad_norm": 9.280887603759766, + "learning_rate": 7.801735318176884e-07, + "loss": 0.068, + "num_input_tokens_seen": 32860120, + "step": 16786 + }, + { + "epoch": 2.2249171636845593, + "grad_norm": 1.8865400552749634, + "learning_rate": 7.79921604301489e-07, + "loss": 0.0093, + "num_input_tokens_seen": 32861808, + "step": 16787 + }, + { + "epoch": 2.2250497017892643, + "grad_norm": 4.242854118347168, + "learning_rate": 7.796697099495873e-07, + "loss": 0.0217, + "num_input_tokens_seen": 32864368, + "step": 16788 + }, + { + "epoch": 2.2251822398939693, + "grad_norm": 2.5046091079711914, + "learning_rate": 7.794178487668399e-07, + "loss": 0.028, + "num_input_tokens_seen": 32866704, + "step": 16789 + }, + { + "epoch": 2.2253147779986744, + "grad_norm": 0.00515584135428071, + "learning_rate": 7.79166020758104e-07, + "loss": 0.0, + "num_input_tokens_seen": 32867920, + "step": 16790 + }, + { + "epoch": 2.22544731610338, + "grad_norm": 1.6025937795639038, + "learning_rate": 7.789142259282337e-07, + "loss": 0.0085, + "num_input_tokens_seen": 32870016, + "step": 16791 + }, + { + "epoch": 2.225579854208085, + "grad_norm": 10.482933044433594, + "learning_rate": 7.78662464282085e-07, + "loss": 0.0865, + "num_input_tokens_seen": 32872256, + "step": 16792 + }, + { + "epoch": 2.22571239231279, + "grad_norm": 0.24362346529960632, + "learning_rate": 7.784107358245116e-07, + "loss": 0.001, + "num_input_tokens_seen": 32874080, + "step": 16793 + }, + { + "epoch": 2.225844930417495, + "grad_norm": 4.1341376304626465, + "learning_rate": 7.781590405603662e-07, + "loss": 0.0325, + "num_input_tokens_seen": 32876624, + "step": 16794 + }, + { + "epoch": 2.2259774685222, + "grad_norm": 0.031135013327002525, + "learning_rate": 7.779073784945029e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32878480, + "step": 16795 + }, + { + "epoch": 2.226110006626905, + "grad_norm": 0.22645603120326996, + "learning_rate": 7.776557496317736e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32880408, + "step": 16796 + }, + { + "epoch": 2.2262425447316105, + "grad_norm": 0.4474324584007263, + "learning_rate": 7.774041539770286e-07, + "loss": 0.0023, + "num_input_tokens_seen": 32882112, + "step": 16797 + }, + { + "epoch": 2.2263750828363156, + "grad_norm": 0.04452750086784363, + "learning_rate": 7.771525915351208e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32883992, + "step": 16798 + }, + { + "epoch": 2.2265076209410206, + "grad_norm": 0.023510918021202087, + "learning_rate": 7.769010623108985e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32885952, + "step": 16799 + }, + { + "epoch": 2.2266401590457257, + "grad_norm": 8.683014869689941, + "learning_rate": 7.766495663092135e-07, + "loss": 0.0579, + "num_input_tokens_seen": 32888128, + "step": 16800 + }, + { + "epoch": 2.2267726971504307, + "grad_norm": 0.09306829422712326, + "learning_rate": 7.763981035349139e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32890128, + "step": 16801 + }, + { + "epoch": 2.2269052352551357, + "grad_norm": 5.03671932220459, + "learning_rate": 7.761466739928477e-07, + "loss": 0.0541, + "num_input_tokens_seen": 32892408, + "step": 16802 + }, + { + "epoch": 2.2270377733598408, + "grad_norm": 8.420702934265137, + "learning_rate": 7.75895277687862e-07, + "loss": 0.099, + "num_input_tokens_seen": 32894032, + "step": 16803 + }, + { + "epoch": 2.2271703114645462, + "grad_norm": 0.0015115085989236832, + "learning_rate": 7.756439146248048e-07, + "loss": 0.0, + "num_input_tokens_seen": 32896496, + "step": 16804 + }, + { + "epoch": 2.2273028495692513, + "grad_norm": 5.855273723602295, + "learning_rate": 7.753925848085233e-07, + "loss": 0.1367, + "num_input_tokens_seen": 32898304, + "step": 16805 + }, + { + "epoch": 2.2274353876739563, + "grad_norm": 5.21196985244751, + "learning_rate": 7.751412882438624e-07, + "loss": 0.0346, + "num_input_tokens_seen": 32899920, + "step": 16806 + }, + { + "epoch": 2.2275679257786614, + "grad_norm": 5.572089195251465, + "learning_rate": 7.748900249356678e-07, + "loss": 0.0711, + "num_input_tokens_seen": 32902280, + "step": 16807 + }, + { + "epoch": 2.2277004638833664, + "grad_norm": 1.6589252948760986, + "learning_rate": 7.746387948887832e-07, + "loss": 0.0224, + "num_input_tokens_seen": 32904160, + "step": 16808 + }, + { + "epoch": 2.2278330019880714, + "grad_norm": 8.232868194580078, + "learning_rate": 7.743875981080523e-07, + "loss": 0.1095, + "num_input_tokens_seen": 32905992, + "step": 16809 + }, + { + "epoch": 2.2279655400927765, + "grad_norm": 0.2717493772506714, + "learning_rate": 7.741364345983188e-07, + "loss": 0.0012, + "num_input_tokens_seen": 32907888, + "step": 16810 + }, + { + "epoch": 2.228098078197482, + "grad_norm": 0.007738631684333086, + "learning_rate": 7.738853043644263e-07, + "loss": 0.0, + "num_input_tokens_seen": 32909512, + "step": 16811 + }, + { + "epoch": 2.228230616302187, + "grad_norm": 1.4256256818771362, + "learning_rate": 7.736342074112161e-07, + "loss": 0.0081, + "num_input_tokens_seen": 32911976, + "step": 16812 + }, + { + "epoch": 2.228363154406892, + "grad_norm": 0.02294052019715309, + "learning_rate": 7.73383143743529e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32913472, + "step": 16813 + }, + { + "epoch": 2.228495692511597, + "grad_norm": 9.606719017028809, + "learning_rate": 7.731321133662054e-07, + "loss": 0.0895, + "num_input_tokens_seen": 32916200, + "step": 16814 + }, + { + "epoch": 2.228628230616302, + "grad_norm": 9.122140884399414, + "learning_rate": 7.72881116284086e-07, + "loss": 0.1038, + "num_input_tokens_seen": 32917632, + "step": 16815 + }, + { + "epoch": 2.228760768721007, + "grad_norm": 11.978522300720215, + "learning_rate": 7.726301525020108e-07, + "loss": 0.1113, + "num_input_tokens_seen": 32919336, + "step": 16816 + }, + { + "epoch": 2.2288933068257126, + "grad_norm": 16.88580894470215, + "learning_rate": 7.72379222024818e-07, + "loss": 0.0639, + "num_input_tokens_seen": 32921392, + "step": 16817 + }, + { + "epoch": 2.2290258449304177, + "grad_norm": 0.0026927597355097532, + "learning_rate": 7.721283248573458e-07, + "loss": 0.0, + "num_input_tokens_seen": 32922456, + "step": 16818 + }, + { + "epoch": 2.2291583830351227, + "grad_norm": 3.9795942306518555, + "learning_rate": 7.718774610044313e-07, + "loss": 0.0689, + "num_input_tokens_seen": 32924256, + "step": 16819 + }, + { + "epoch": 2.2292909211398277, + "grad_norm": 0.08937589079141617, + "learning_rate": 7.716266304709108e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32925872, + "step": 16820 + }, + { + "epoch": 2.229423459244533, + "grad_norm": 0.9465895891189575, + "learning_rate": 7.713758332616211e-07, + "loss": 0.0065, + "num_input_tokens_seen": 32927648, + "step": 16821 + }, + { + "epoch": 2.229555997349238, + "grad_norm": 0.005049168597906828, + "learning_rate": 7.711250693813987e-07, + "loss": 0.0, + "num_input_tokens_seen": 32929048, + "step": 16822 + }, + { + "epoch": 2.229688535453943, + "grad_norm": 7.678413391113281, + "learning_rate": 7.708743388350776e-07, + "loss": 0.1044, + "num_input_tokens_seen": 32931952, + "step": 16823 + }, + { + "epoch": 2.2298210735586483, + "grad_norm": 0.03244945779442787, + "learning_rate": 7.706236416274924e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32933168, + "step": 16824 + }, + { + "epoch": 2.2299536116633534, + "grad_norm": 5.87950325012207, + "learning_rate": 7.703729777634752e-07, + "loss": 0.0991, + "num_input_tokens_seen": 32935240, + "step": 16825 + }, + { + "epoch": 2.2300861497680584, + "grad_norm": 4.280216217041016, + "learning_rate": 7.701223472478614e-07, + "loss": 0.0765, + "num_input_tokens_seen": 32937104, + "step": 16826 + }, + { + "epoch": 2.2302186878727635, + "grad_norm": 4.3898468017578125, + "learning_rate": 7.69871750085481e-07, + "loss": 0.0287, + "num_input_tokens_seen": 32939512, + "step": 16827 + }, + { + "epoch": 2.2303512259774685, + "grad_norm": 0.023879118263721466, + "learning_rate": 7.696211862811678e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32942248, + "step": 16828 + }, + { + "epoch": 2.2304837640821735, + "grad_norm": 0.22583164274692535, + "learning_rate": 7.693706558397518e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32944688, + "step": 16829 + }, + { + "epoch": 2.2306163021868786, + "grad_norm": 6.575562477111816, + "learning_rate": 7.691201587660627e-07, + "loss": 0.0557, + "num_input_tokens_seen": 32946912, + "step": 16830 + }, + { + "epoch": 2.230748840291584, + "grad_norm": 1.9189794063568115, + "learning_rate": 7.688696950649316e-07, + "loss": 0.0181, + "num_input_tokens_seen": 32949096, + "step": 16831 + }, + { + "epoch": 2.230881378396289, + "grad_norm": 0.0566316582262516, + "learning_rate": 7.686192647411872e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32950768, + "step": 16832 + }, + { + "epoch": 2.231013916500994, + "grad_norm": 0.004090065136551857, + "learning_rate": 7.68368867799657e-07, + "loss": 0.0, + "num_input_tokens_seen": 32952216, + "step": 16833 + }, + { + "epoch": 2.231146454605699, + "grad_norm": 0.05288415029644966, + "learning_rate": 7.681185042451705e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32953680, + "step": 16834 + }, + { + "epoch": 2.231278992710404, + "grad_norm": 12.346076965332031, + "learning_rate": 7.67868174082553e-07, + "loss": 0.2145, + "num_input_tokens_seen": 32955704, + "step": 16835 + }, + { + "epoch": 2.2314115308151092, + "grad_norm": 2.4233548641204834, + "learning_rate": 7.676178773166329e-07, + "loss": 0.0339, + "num_input_tokens_seen": 32957976, + "step": 16836 + }, + { + "epoch": 2.2315440689198143, + "grad_norm": 2.8592193126678467, + "learning_rate": 7.673676139522354e-07, + "loss": 0.0298, + "num_input_tokens_seen": 32960248, + "step": 16837 + }, + { + "epoch": 2.2316766070245198, + "grad_norm": 9.551393508911133, + "learning_rate": 7.671173839941853e-07, + "loss": 0.1521, + "num_input_tokens_seen": 32962496, + "step": 16838 + }, + { + "epoch": 2.231809145129225, + "grad_norm": 1.5247143507003784, + "learning_rate": 7.668671874473069e-07, + "loss": 0.0058, + "num_input_tokens_seen": 32964224, + "step": 16839 + }, + { + "epoch": 2.23194168323393, + "grad_norm": 0.003496789839118719, + "learning_rate": 7.666170243164256e-07, + "loss": 0.0, + "num_input_tokens_seen": 32965472, + "step": 16840 + }, + { + "epoch": 2.232074221338635, + "grad_norm": 0.012420128099620342, + "learning_rate": 7.663668946063629e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32967160, + "step": 16841 + }, + { + "epoch": 2.23220675944334, + "grad_norm": 1.791758418083191, + "learning_rate": 7.661167983219434e-07, + "loss": 0.0036, + "num_input_tokens_seen": 32968752, + "step": 16842 + }, + { + "epoch": 2.232339297548045, + "grad_norm": 0.036408431828022, + "learning_rate": 7.65866735467988e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32970248, + "step": 16843 + }, + { + "epoch": 2.23247183565275, + "grad_norm": 0.41861966252326965, + "learning_rate": 7.656167060493177e-07, + "loss": 0.0014, + "num_input_tokens_seen": 32971504, + "step": 16844 + }, + { + "epoch": 2.2326043737574555, + "grad_norm": 6.684903144836426, + "learning_rate": 7.653667100707543e-07, + "loss": 0.0581, + "num_input_tokens_seen": 32973264, + "step": 16845 + }, + { + "epoch": 2.2327369118621605, + "grad_norm": 0.05923507362604141, + "learning_rate": 7.651167475371169e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32975264, + "step": 16846 + }, + { + "epoch": 2.2328694499668655, + "grad_norm": 7.135880470275879, + "learning_rate": 7.648668184532259e-07, + "loss": 0.1775, + "num_input_tokens_seen": 32977424, + "step": 16847 + }, + { + "epoch": 2.2330019880715706, + "grad_norm": 0.12432753294706345, + "learning_rate": 7.646169228239001e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32978816, + "step": 16848 + }, + { + "epoch": 2.2331345261762756, + "grad_norm": 5.3253278732299805, + "learning_rate": 7.643670606539569e-07, + "loss": 0.0423, + "num_input_tokens_seen": 32980712, + "step": 16849 + }, + { + "epoch": 2.2332670642809807, + "grad_norm": 12.118880271911621, + "learning_rate": 7.641172319482132e-07, + "loss": 0.0448, + "num_input_tokens_seen": 32982552, + "step": 16850 + }, + { + "epoch": 2.2333996023856857, + "grad_norm": 7.602474212646484, + "learning_rate": 7.638674367114871e-07, + "loss": 0.0754, + "num_input_tokens_seen": 32983872, + "step": 16851 + }, + { + "epoch": 2.233532140490391, + "grad_norm": 8.997574806213379, + "learning_rate": 7.636176749485952e-07, + "loss": 0.0346, + "num_input_tokens_seen": 32986112, + "step": 16852 + }, + { + "epoch": 2.233664678595096, + "grad_norm": 3.0022573471069336, + "learning_rate": 7.633679466643523e-07, + "loss": 0.0302, + "num_input_tokens_seen": 32988736, + "step": 16853 + }, + { + "epoch": 2.2337972166998012, + "grad_norm": 0.2232588678598404, + "learning_rate": 7.631182518635736e-07, + "loss": 0.001, + "num_input_tokens_seen": 32990432, + "step": 16854 + }, + { + "epoch": 2.2339297548045063, + "grad_norm": 6.605444431304932, + "learning_rate": 7.62868590551073e-07, + "loss": 0.0114, + "num_input_tokens_seen": 32992056, + "step": 16855 + }, + { + "epoch": 2.2340622929092113, + "grad_norm": 3.551065683364868, + "learning_rate": 7.626189627316635e-07, + "loss": 0.0208, + "num_input_tokens_seen": 32994072, + "step": 16856 + }, + { + "epoch": 2.2341948310139164, + "grad_norm": 0.006108480971306562, + "learning_rate": 7.623693684101593e-07, + "loss": 0.0, + "num_input_tokens_seen": 32996192, + "step": 16857 + }, + { + "epoch": 2.2343273691186214, + "grad_norm": 6.323681831359863, + "learning_rate": 7.62119807591373e-07, + "loss": 0.0387, + "num_input_tokens_seen": 32998896, + "step": 16858 + }, + { + "epoch": 2.234459907223327, + "grad_norm": 0.006001184228807688, + "learning_rate": 7.618702802801158e-07, + "loss": 0.0, + "num_input_tokens_seen": 33000384, + "step": 16859 + }, + { + "epoch": 2.234592445328032, + "grad_norm": 0.016904622316360474, + "learning_rate": 7.616207864811986e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33002672, + "step": 16860 + }, + { + "epoch": 2.234724983432737, + "grad_norm": 0.011634291149675846, + "learning_rate": 7.61371326199431e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33005736, + "step": 16861 + }, + { + "epoch": 2.234857521537442, + "grad_norm": 0.1562369465827942, + "learning_rate": 7.611218994396246e-07, + "loss": 0.0009, + "num_input_tokens_seen": 33008200, + "step": 16862 + }, + { + "epoch": 2.234990059642147, + "grad_norm": 6.2754974365234375, + "learning_rate": 7.608725062065867e-07, + "loss": 0.0866, + "num_input_tokens_seen": 33010296, + "step": 16863 + }, + { + "epoch": 2.235122597746852, + "grad_norm": 4.577400207519531, + "learning_rate": 7.606231465051275e-07, + "loss": 0.0477, + "num_input_tokens_seen": 33012424, + "step": 16864 + }, + { + "epoch": 2.235255135851557, + "grad_norm": 8.511613845825195, + "learning_rate": 7.60373820340054e-07, + "loss": 0.019, + "num_input_tokens_seen": 33014248, + "step": 16865 + }, + { + "epoch": 2.2353876739562626, + "grad_norm": 0.03635704889893532, + "learning_rate": 7.601245277161731e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33016752, + "step": 16866 + }, + { + "epoch": 2.2355202120609676, + "grad_norm": 0.031176378950476646, + "learning_rate": 7.59875268638291e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33018336, + "step": 16867 + }, + { + "epoch": 2.2356527501656727, + "grad_norm": 1.4374096393585205, + "learning_rate": 7.596260431112143e-07, + "loss": 0.0057, + "num_input_tokens_seen": 33019848, + "step": 16868 + }, + { + "epoch": 2.2357852882703777, + "grad_norm": 0.0037554167211055756, + "learning_rate": 7.593768511397487e-07, + "loss": 0.0, + "num_input_tokens_seen": 33021632, + "step": 16869 + }, + { + "epoch": 2.2359178263750827, + "grad_norm": 1.0293668508529663, + "learning_rate": 7.591276927286984e-07, + "loss": 0.0035, + "num_input_tokens_seen": 33023120, + "step": 16870 + }, + { + "epoch": 2.2360503644797878, + "grad_norm": 16.602781295776367, + "learning_rate": 7.588785678828669e-07, + "loss": 0.1243, + "num_input_tokens_seen": 33025768, + "step": 16871 + }, + { + "epoch": 2.236182902584493, + "grad_norm": 5.745857238769531, + "learning_rate": 7.586294766070571e-07, + "loss": 0.0997, + "num_input_tokens_seen": 33027528, + "step": 16872 + }, + { + "epoch": 2.2363154406891983, + "grad_norm": 12.850393295288086, + "learning_rate": 7.583804189060729e-07, + "loss": 0.1092, + "num_input_tokens_seen": 33029304, + "step": 16873 + }, + { + "epoch": 2.2364479787939033, + "grad_norm": 0.005411691032350063, + "learning_rate": 7.581313947847152e-07, + "loss": 0.0, + "num_input_tokens_seen": 33030968, + "step": 16874 + }, + { + "epoch": 2.2365805168986084, + "grad_norm": 16.323911666870117, + "learning_rate": 7.578824042477865e-07, + "loss": 0.1628, + "num_input_tokens_seen": 33033288, + "step": 16875 + }, + { + "epoch": 2.2367130550033134, + "grad_norm": 4.657427787780762, + "learning_rate": 7.576334473000868e-07, + "loss": 0.039, + "num_input_tokens_seen": 33036128, + "step": 16876 + }, + { + "epoch": 2.2368455931080184, + "grad_norm": 0.03632344678044319, + "learning_rate": 7.573845239464156e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33038088, + "step": 16877 + }, + { + "epoch": 2.2369781312127235, + "grad_norm": 4.514306545257568, + "learning_rate": 7.571356341915737e-07, + "loss": 0.0317, + "num_input_tokens_seen": 33039920, + "step": 16878 + }, + { + "epoch": 2.237110669317429, + "grad_norm": 0.035691998898983, + "learning_rate": 7.568867780403591e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33042304, + "step": 16879 + }, + { + "epoch": 2.237243207422134, + "grad_norm": 0.023275118321180344, + "learning_rate": 7.566379554975692e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33044136, + "step": 16880 + }, + { + "epoch": 2.237375745526839, + "grad_norm": 0.015332008711993694, + "learning_rate": 7.563891665680029e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33045944, + "step": 16881 + }, + { + "epoch": 2.237508283631544, + "grad_norm": 0.03269106149673462, + "learning_rate": 7.561404112564555e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33047960, + "step": 16882 + }, + { + "epoch": 2.237640821736249, + "grad_norm": 10.386913299560547, + "learning_rate": 7.558916895677249e-07, + "loss": 0.1604, + "num_input_tokens_seen": 33050280, + "step": 16883 + }, + { + "epoch": 2.237773359840954, + "grad_norm": 0.0517621673643589, + "learning_rate": 7.556430015066055e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33052088, + "step": 16884 + }, + { + "epoch": 2.237905897945659, + "grad_norm": 0.02438417449593544, + "learning_rate": 7.553943470778927e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33054248, + "step": 16885 + }, + { + "epoch": 2.2380384360503647, + "grad_norm": 1.4206547737121582, + "learning_rate": 7.551457262863792e-07, + "loss": 0.0036, + "num_input_tokens_seen": 33056528, + "step": 16886 + }, + { + "epoch": 2.2381709741550697, + "grad_norm": 0.03010665439069271, + "learning_rate": 7.548971391368604e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33057968, + "step": 16887 + }, + { + "epoch": 2.2383035122597748, + "grad_norm": 8.699987411499023, + "learning_rate": 7.54648585634129e-07, + "loss": 0.0633, + "num_input_tokens_seen": 33060152, + "step": 16888 + }, + { + "epoch": 2.23843605036448, + "grad_norm": 0.5269138216972351, + "learning_rate": 7.544000657829773e-07, + "loss": 0.0013, + "num_input_tokens_seen": 33062752, + "step": 16889 + }, + { + "epoch": 2.238568588469185, + "grad_norm": 11.476886749267578, + "learning_rate": 7.541515795881962e-07, + "loss": 0.0702, + "num_input_tokens_seen": 33064720, + "step": 16890 + }, + { + "epoch": 2.23870112657389, + "grad_norm": 0.032786667346954346, + "learning_rate": 7.539031270545771e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33066504, + "step": 16891 + }, + { + "epoch": 2.238833664678595, + "grad_norm": 6.707982063293457, + "learning_rate": 7.536547081869097e-07, + "loss": 0.0603, + "num_input_tokens_seen": 33068576, + "step": 16892 + }, + { + "epoch": 2.2389662027833004, + "grad_norm": 6.941318035125732, + "learning_rate": 7.534063229899841e-07, + "loss": 0.0964, + "num_input_tokens_seen": 33070272, + "step": 16893 + }, + { + "epoch": 2.2390987408880054, + "grad_norm": 0.03787539154291153, + "learning_rate": 7.531579714685902e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33072072, + "step": 16894 + }, + { + "epoch": 2.2392312789927105, + "grad_norm": 0.012064690701663494, + "learning_rate": 7.52909653627516e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33073680, + "step": 16895 + }, + { + "epoch": 2.2393638170974155, + "grad_norm": 7.186579704284668, + "learning_rate": 7.526613694715487e-07, + "loss": 0.1506, + "num_input_tokens_seen": 33075944, + "step": 16896 + }, + { + "epoch": 2.2394963552021205, + "grad_norm": 5.0201005935668945, + "learning_rate": 7.524131190054748e-07, + "loss": 0.1431, + "num_input_tokens_seen": 33077960, + "step": 16897 + }, + { + "epoch": 2.2396288933068256, + "grad_norm": 0.024932969361543655, + "learning_rate": 7.521649022340816e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33079896, + "step": 16898 + }, + { + "epoch": 2.2397614314115306, + "grad_norm": 6.946509838104248, + "learning_rate": 7.519167191621557e-07, + "loss": 0.1276, + "num_input_tokens_seen": 33081808, + "step": 16899 + }, + { + "epoch": 2.239893969516236, + "grad_norm": 5.004718780517578, + "learning_rate": 7.516685697944815e-07, + "loss": 0.0327, + "num_input_tokens_seen": 33083904, + "step": 16900 + }, + { + "epoch": 2.240026507620941, + "grad_norm": 0.18041519820690155, + "learning_rate": 7.514204541358433e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33085488, + "step": 16901 + }, + { + "epoch": 2.240159045725646, + "grad_norm": 9.388216972351074, + "learning_rate": 7.511723721910249e-07, + "loss": 0.1134, + "num_input_tokens_seen": 33088224, + "step": 16902 + }, + { + "epoch": 2.240291583830351, + "grad_norm": 20.20255470275879, + "learning_rate": 7.50924323964809e-07, + "loss": 0.0625, + "num_input_tokens_seen": 33090024, + "step": 16903 + }, + { + "epoch": 2.2404241219350562, + "grad_norm": 3.309440851211548, + "learning_rate": 7.506763094619788e-07, + "loss": 0.0896, + "num_input_tokens_seen": 33091528, + "step": 16904 + }, + { + "epoch": 2.2405566600397613, + "grad_norm": 0.022734861820936203, + "learning_rate": 7.504283286873168e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33094696, + "step": 16905 + }, + { + "epoch": 2.2406891981444668, + "grad_norm": 0.40271276235580444, + "learning_rate": 7.501803816456036e-07, + "loss": 0.0025, + "num_input_tokens_seen": 33096208, + "step": 16906 + }, + { + "epoch": 2.240821736249172, + "grad_norm": 2.050246238708496, + "learning_rate": 7.499324683416198e-07, + "loss": 0.0304, + "num_input_tokens_seen": 33098976, + "step": 16907 + }, + { + "epoch": 2.240954274353877, + "grad_norm": 4.149683475494385, + "learning_rate": 7.496845887801447e-07, + "loss": 0.0381, + "num_input_tokens_seen": 33100744, + "step": 16908 + }, + { + "epoch": 2.241086812458582, + "grad_norm": 2.672752618789673, + "learning_rate": 7.494367429659588e-07, + "loss": 0.0177, + "num_input_tokens_seen": 33103808, + "step": 16909 + }, + { + "epoch": 2.241219350563287, + "grad_norm": 0.034271519631147385, + "learning_rate": 7.491889309038391e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33105776, + "step": 16910 + }, + { + "epoch": 2.241351888667992, + "grad_norm": 3.9220025539398193, + "learning_rate": 7.48941152598566e-07, + "loss": 0.0483, + "num_input_tokens_seen": 33107360, + "step": 16911 + }, + { + "epoch": 2.241484426772697, + "grad_norm": 1.9702450037002563, + "learning_rate": 7.486934080549152e-07, + "loss": 0.0052, + "num_input_tokens_seen": 33109944, + "step": 16912 + }, + { + "epoch": 2.2416169648774025, + "grad_norm": 0.05215461179614067, + "learning_rate": 7.484456972776627e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33111712, + "step": 16913 + }, + { + "epoch": 2.2417495029821075, + "grad_norm": 1.3901699781417847, + "learning_rate": 7.481980202715866e-07, + "loss": 0.021, + "num_input_tokens_seen": 33113120, + "step": 16914 + }, + { + "epoch": 2.2418820410868125, + "grad_norm": 3.4148108959198, + "learning_rate": 7.479503770414608e-07, + "loss": 0.0168, + "num_input_tokens_seen": 33114328, + "step": 16915 + }, + { + "epoch": 2.2420145791915176, + "grad_norm": 6.229007244110107, + "learning_rate": 7.477027675920601e-07, + "loss": 0.0885, + "num_input_tokens_seen": 33116640, + "step": 16916 + }, + { + "epoch": 2.2421471172962226, + "grad_norm": 0.06428591907024384, + "learning_rate": 7.474551919281591e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33118752, + "step": 16917 + }, + { + "epoch": 2.2422796554009277, + "grad_norm": 0.08684971183538437, + "learning_rate": 7.472076500545305e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33120712, + "step": 16918 + }, + { + "epoch": 2.2424121935056327, + "grad_norm": 0.01004707906395197, + "learning_rate": 7.469601419759487e-07, + "loss": 0.0, + "num_input_tokens_seen": 33121736, + "step": 16919 + }, + { + "epoch": 2.242544731610338, + "grad_norm": 1.1019450426101685, + "learning_rate": 7.467126676971844e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33123832, + "step": 16920 + }, + { + "epoch": 2.242677269715043, + "grad_norm": 6.03755521774292, + "learning_rate": 7.464652272230086e-07, + "loss": 0.051, + "num_input_tokens_seen": 33125720, + "step": 16921 + }, + { + "epoch": 2.2428098078197483, + "grad_norm": 0.15352152287960052, + "learning_rate": 7.462178205581938e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33126824, + "step": 16922 + }, + { + "epoch": 2.2429423459244533, + "grad_norm": 0.057611990720033646, + "learning_rate": 7.459704477075091e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33128256, + "step": 16923 + }, + { + "epoch": 2.2430748840291583, + "grad_norm": 0.0035571185871958733, + "learning_rate": 7.457231086757238e-07, + "loss": 0.0, + "num_input_tokens_seen": 33129632, + "step": 16924 + }, + { + "epoch": 2.2432074221338634, + "grad_norm": 8.817341804504395, + "learning_rate": 7.454758034676077e-07, + "loss": 0.1276, + "num_input_tokens_seen": 33131984, + "step": 16925 + }, + { + "epoch": 2.2433399602385684, + "grad_norm": 0.9332042336463928, + "learning_rate": 7.452285320879285e-07, + "loss": 0.0072, + "num_input_tokens_seen": 33133360, + "step": 16926 + }, + { + "epoch": 2.243472498343274, + "grad_norm": 0.01454442273825407, + "learning_rate": 7.449812945414531e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33135912, + "step": 16927 + }, + { + "epoch": 2.243605036447979, + "grad_norm": 2.380324125289917, + "learning_rate": 7.447340908329498e-07, + "loss": 0.005, + "num_input_tokens_seen": 33137376, + "step": 16928 + }, + { + "epoch": 2.243737574552684, + "grad_norm": 2.013598680496216, + "learning_rate": 7.444869209671832e-07, + "loss": 0.0081, + "num_input_tokens_seen": 33139472, + "step": 16929 + }, + { + "epoch": 2.243870112657389, + "grad_norm": 2.8410463333129883, + "learning_rate": 7.442397849489208e-07, + "loss": 0.0195, + "num_input_tokens_seen": 33141328, + "step": 16930 + }, + { + "epoch": 2.244002650762094, + "grad_norm": 6.372222423553467, + "learning_rate": 7.439926827829263e-07, + "loss": 0.0395, + "num_input_tokens_seen": 33143000, + "step": 16931 + }, + { + "epoch": 2.244135188866799, + "grad_norm": 3.541367769241333, + "learning_rate": 7.437456144739646e-07, + "loss": 0.0338, + "num_input_tokens_seen": 33145592, + "step": 16932 + }, + { + "epoch": 2.244267726971504, + "grad_norm": 11.826542854309082, + "learning_rate": 7.434985800267982e-07, + "loss": 0.3244, + "num_input_tokens_seen": 33148368, + "step": 16933 + }, + { + "epoch": 2.2444002650762096, + "grad_norm": 0.0016426644288003445, + "learning_rate": 7.432515794461909e-07, + "loss": 0.0, + "num_input_tokens_seen": 33149584, + "step": 16934 + }, + { + "epoch": 2.2445328031809146, + "grad_norm": 0.05555108189582825, + "learning_rate": 7.430046127369056e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33151136, + "step": 16935 + }, + { + "epoch": 2.2446653412856197, + "grad_norm": 33.76434326171875, + "learning_rate": 7.427576799037037e-07, + "loss": 0.0903, + "num_input_tokens_seen": 33153080, + "step": 16936 + }, + { + "epoch": 2.2447978793903247, + "grad_norm": 3.8862385749816895, + "learning_rate": 7.42510780951346e-07, + "loss": 0.0602, + "num_input_tokens_seen": 33154752, + "step": 16937 + }, + { + "epoch": 2.2449304174950298, + "grad_norm": 3.9612860679626465, + "learning_rate": 7.422639158845929e-07, + "loss": 0.0391, + "num_input_tokens_seen": 33157032, + "step": 16938 + }, + { + "epoch": 2.245062955599735, + "grad_norm": 5.586040496826172, + "learning_rate": 7.420170847082031e-07, + "loss": 0.0569, + "num_input_tokens_seen": 33159320, + "step": 16939 + }, + { + "epoch": 2.24519549370444, + "grad_norm": 7.117069244384766, + "learning_rate": 7.417702874269369e-07, + "loss": 0.0452, + "num_input_tokens_seen": 33161272, + "step": 16940 + }, + { + "epoch": 2.2453280318091453, + "grad_norm": 4.0987348556518555, + "learning_rate": 7.415235240455531e-07, + "loss": 0.0441, + "num_input_tokens_seen": 33163008, + "step": 16941 + }, + { + "epoch": 2.2454605699138503, + "grad_norm": 0.15577000379562378, + "learning_rate": 7.41276794568809e-07, + "loss": 0.0008, + "num_input_tokens_seen": 33165608, + "step": 16942 + }, + { + "epoch": 2.2455931080185554, + "grad_norm": 8.19677734375, + "learning_rate": 7.410300990014616e-07, + "loss": 0.0833, + "num_input_tokens_seen": 33167264, + "step": 16943 + }, + { + "epoch": 2.2457256461232604, + "grad_norm": 6.9497456550598145, + "learning_rate": 7.407834373482667e-07, + "loss": 0.1176, + "num_input_tokens_seen": 33169496, + "step": 16944 + }, + { + "epoch": 2.2458581842279655, + "grad_norm": 13.79938793182373, + "learning_rate": 7.405368096139812e-07, + "loss": 0.0209, + "num_input_tokens_seen": 33171328, + "step": 16945 + }, + { + "epoch": 2.2459907223326705, + "grad_norm": 0.0009604765800759196, + "learning_rate": 7.402902158033593e-07, + "loss": 0.0, + "num_input_tokens_seen": 33172608, + "step": 16946 + }, + { + "epoch": 2.2461232604373755, + "grad_norm": 5.148166179656982, + "learning_rate": 7.400436559211566e-07, + "loss": 0.0145, + "num_input_tokens_seen": 33174096, + "step": 16947 + }, + { + "epoch": 2.246255798542081, + "grad_norm": 10.47939395904541, + "learning_rate": 7.397971299721262e-07, + "loss": 0.2954, + "num_input_tokens_seen": 33176136, + "step": 16948 + }, + { + "epoch": 2.246388336646786, + "grad_norm": 0.39862412214279175, + "learning_rate": 7.39550637961021e-07, + "loss": 0.0017, + "num_input_tokens_seen": 33178616, + "step": 16949 + }, + { + "epoch": 2.246520874751491, + "grad_norm": 0.8816923499107361, + "learning_rate": 7.393041798925946e-07, + "loss": 0.0042, + "num_input_tokens_seen": 33180512, + "step": 16950 + }, + { + "epoch": 2.246653412856196, + "grad_norm": 5.178239345550537, + "learning_rate": 7.390577557715975e-07, + "loss": 0.0181, + "num_input_tokens_seen": 33182776, + "step": 16951 + }, + { + "epoch": 2.246785950960901, + "grad_norm": 0.4570491313934326, + "learning_rate": 7.388113656027824e-07, + "loss": 0.0015, + "num_input_tokens_seen": 33184552, + "step": 16952 + }, + { + "epoch": 2.246918489065606, + "grad_norm": 0.24592724442481995, + "learning_rate": 7.385650093908992e-07, + "loss": 0.0008, + "num_input_tokens_seen": 33186048, + "step": 16953 + }, + { + "epoch": 2.2470510271703112, + "grad_norm": 0.02860875241458416, + "learning_rate": 7.383186871406978e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33187976, + "step": 16954 + }, + { + "epoch": 2.2471835652750167, + "grad_norm": 5.490097522735596, + "learning_rate": 7.380723988569266e-07, + "loss": 0.0519, + "num_input_tokens_seen": 33189960, + "step": 16955 + }, + { + "epoch": 2.2473161033797218, + "grad_norm": 0.05248027667403221, + "learning_rate": 7.378261445443358e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33191816, + "step": 16956 + }, + { + "epoch": 2.247448641484427, + "grad_norm": 6.085441589355469, + "learning_rate": 7.375799242076717e-07, + "loss": 0.1032, + "num_input_tokens_seen": 33193520, + "step": 16957 + }, + { + "epoch": 2.247581179589132, + "grad_norm": 1.8667737245559692, + "learning_rate": 7.373337378516835e-07, + "loss": 0.0072, + "num_input_tokens_seen": 33195192, + "step": 16958 + }, + { + "epoch": 2.247713717693837, + "grad_norm": 0.11567371338605881, + "learning_rate": 7.370875854811169e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33196400, + "step": 16959 + }, + { + "epoch": 2.247846255798542, + "grad_norm": 0.025613414123654366, + "learning_rate": 7.368414671007168e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33199000, + "step": 16960 + }, + { + "epoch": 2.247978793903247, + "grad_norm": 9.597737312316895, + "learning_rate": 7.365953827152303e-07, + "loss": 0.0675, + "num_input_tokens_seen": 33200792, + "step": 16961 + }, + { + "epoch": 2.2481113320079524, + "grad_norm": 2.251826047897339, + "learning_rate": 7.363493323294015e-07, + "loss": 0.0272, + "num_input_tokens_seen": 33202880, + "step": 16962 + }, + { + "epoch": 2.2482438701126575, + "grad_norm": 13.39017391204834, + "learning_rate": 7.361033159479735e-07, + "loss": 0.2389, + "num_input_tokens_seen": 33206120, + "step": 16963 + }, + { + "epoch": 2.2483764082173625, + "grad_norm": 0.005103795789182186, + "learning_rate": 7.358573335756911e-07, + "loss": 0.0, + "num_input_tokens_seen": 33207640, + "step": 16964 + }, + { + "epoch": 2.2485089463220675, + "grad_norm": 0.002359428210183978, + "learning_rate": 7.356113852172955e-07, + "loss": 0.0, + "num_input_tokens_seen": 33209136, + "step": 16965 + }, + { + "epoch": 2.2486414844267726, + "grad_norm": 2.287686586380005, + "learning_rate": 7.353654708775307e-07, + "loss": 0.014, + "num_input_tokens_seen": 33211088, + "step": 16966 + }, + { + "epoch": 2.2487740225314776, + "grad_norm": 0.009008623659610748, + "learning_rate": 7.351195905611366e-07, + "loss": 0.0, + "num_input_tokens_seen": 33213160, + "step": 16967 + }, + { + "epoch": 2.248906560636183, + "grad_norm": 2.3068599700927734, + "learning_rate": 7.348737442728543e-07, + "loss": 0.0258, + "num_input_tokens_seen": 33215664, + "step": 16968 + }, + { + "epoch": 2.249039098740888, + "grad_norm": 0.019841045141220093, + "learning_rate": 7.346279320174235e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33218024, + "step": 16969 + }, + { + "epoch": 2.249171636845593, + "grad_norm": 10.485225677490234, + "learning_rate": 7.343821537995838e-07, + "loss": 0.035, + "num_input_tokens_seen": 33220160, + "step": 16970 + }, + { + "epoch": 2.249304174950298, + "grad_norm": 3.2425382137298584, + "learning_rate": 7.34136409624075e-07, + "loss": 0.0347, + "num_input_tokens_seen": 33222120, + "step": 16971 + }, + { + "epoch": 2.2494367130550033, + "grad_norm": 1.1141399145126343, + "learning_rate": 7.338906994956344e-07, + "loss": 0.008, + "num_input_tokens_seen": 33224224, + "step": 16972 + }, + { + "epoch": 2.2495692511597083, + "grad_norm": 8.122712135314941, + "learning_rate": 7.336450234189996e-07, + "loss": 0.0266, + "num_input_tokens_seen": 33225584, + "step": 16973 + }, + { + "epoch": 2.2497017892644133, + "grad_norm": 0.0022021664772182703, + "learning_rate": 7.333993813989063e-07, + "loss": 0.0, + "num_input_tokens_seen": 33227344, + "step": 16974 + }, + { + "epoch": 2.249834327369119, + "grad_norm": 0.004999179393053055, + "learning_rate": 7.331537734400918e-07, + "loss": 0.0, + "num_input_tokens_seen": 33229120, + "step": 16975 + }, + { + "epoch": 2.249966865473824, + "grad_norm": 5.185283184051514, + "learning_rate": 7.329081995472922e-07, + "loss": 0.0417, + "num_input_tokens_seen": 33231208, + "step": 16976 + }, + { + "epoch": 2.250099403578529, + "grad_norm": 0.05826427787542343, + "learning_rate": 7.326626597252415e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33233224, + "step": 16977 + }, + { + "epoch": 2.250231941683234, + "grad_norm": 1.199054479598999, + "learning_rate": 7.32417153978674e-07, + "loss": 0.0137, + "num_input_tokens_seen": 33234856, + "step": 16978 + }, + { + "epoch": 2.250364479787939, + "grad_norm": 0.12127724289894104, + "learning_rate": 7.321716823123232e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33236680, + "step": 16979 + }, + { + "epoch": 2.250497017892644, + "grad_norm": 0.14179617166519165, + "learning_rate": 7.319262447309211e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33237960, + "step": 16980 + }, + { + "epoch": 2.2506295559973495, + "grad_norm": 1.946344017982483, + "learning_rate": 7.316808412392007e-07, + "loss": 0.0224, + "num_input_tokens_seen": 33240376, + "step": 16981 + }, + { + "epoch": 2.2507620941020545, + "grad_norm": 0.01241837628185749, + "learning_rate": 7.314354718418946e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33241496, + "step": 16982 + }, + { + "epoch": 2.2508946322067596, + "grad_norm": 0.029551241546869278, + "learning_rate": 7.311901365437324e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33243336, + "step": 16983 + }, + { + "epoch": 2.2510271703114646, + "grad_norm": 0.0013921392383053899, + "learning_rate": 7.309448353494447e-07, + "loss": 0.0, + "num_input_tokens_seen": 33245632, + "step": 16984 + }, + { + "epoch": 2.2511597084161696, + "grad_norm": 0.009858516976237297, + "learning_rate": 7.30699568263761e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33247704, + "step": 16985 + }, + { + "epoch": 2.2512922465208747, + "grad_norm": 4.5557026863098145, + "learning_rate": 7.304543352914093e-07, + "loss": 0.0337, + "num_input_tokens_seen": 33249880, + "step": 16986 + }, + { + "epoch": 2.2514247846255797, + "grad_norm": 0.007679368369281292, + "learning_rate": 7.302091364371189e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33251720, + "step": 16987 + }, + { + "epoch": 2.251557322730285, + "grad_norm": 0.5825331211090088, + "learning_rate": 7.299639717056181e-07, + "loss": 0.0017, + "num_input_tokens_seen": 33254000, + "step": 16988 + }, + { + "epoch": 2.2516898608349902, + "grad_norm": 0.21338331699371338, + "learning_rate": 7.297188411016329e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33255880, + "step": 16989 + }, + { + "epoch": 2.2518223989396953, + "grad_norm": 0.024999016895890236, + "learning_rate": 7.294737446298897e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33257496, + "step": 16990 + }, + { + "epoch": 2.2519549370444003, + "grad_norm": 8.251734733581543, + "learning_rate": 7.292286822951134e-07, + "loss": 0.0932, + "num_input_tokens_seen": 33260696, + "step": 16991 + }, + { + "epoch": 2.2520874751491053, + "grad_norm": 0.07410049438476562, + "learning_rate": 7.289836541020303e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33262080, + "step": 16992 + }, + { + "epoch": 2.2522200132538104, + "grad_norm": 6.856213092803955, + "learning_rate": 7.287386600553636e-07, + "loss": 0.1598, + "num_input_tokens_seen": 33263912, + "step": 16993 + }, + { + "epoch": 2.2523525513585154, + "grad_norm": 4.953722953796387, + "learning_rate": 7.28493700159838e-07, + "loss": 0.0426, + "num_input_tokens_seen": 33265872, + "step": 16994 + }, + { + "epoch": 2.252485089463221, + "grad_norm": 8.043919563293457, + "learning_rate": 7.282487744201761e-07, + "loss": 0.2656, + "num_input_tokens_seen": 33268296, + "step": 16995 + }, + { + "epoch": 2.252617627567926, + "grad_norm": 0.09154964983463287, + "learning_rate": 7.280038828410993e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33270864, + "step": 16996 + }, + { + "epoch": 2.252750165672631, + "grad_norm": 7.528890609741211, + "learning_rate": 7.277590254273309e-07, + "loss": 0.057, + "num_input_tokens_seen": 33272744, + "step": 16997 + }, + { + "epoch": 2.252882703777336, + "grad_norm": 0.8290294408798218, + "learning_rate": 7.27514202183591e-07, + "loss": 0.0013, + "num_input_tokens_seen": 33275888, + "step": 16998 + }, + { + "epoch": 2.253015241882041, + "grad_norm": 9.201217651367188, + "learning_rate": 7.272694131145993e-07, + "loss": 0.097, + "num_input_tokens_seen": 33278096, + "step": 16999 + }, + { + "epoch": 2.253147779986746, + "grad_norm": 3.091181755065918, + "learning_rate": 7.27024658225077e-07, + "loss": 0.0207, + "num_input_tokens_seen": 33279976, + "step": 17000 + }, + { + "epoch": 2.253280318091451, + "grad_norm": 12.717276573181152, + "learning_rate": 7.267799375197418e-07, + "loss": 0.0488, + "num_input_tokens_seen": 33282160, + "step": 17001 + }, + { + "epoch": 2.2534128561961566, + "grad_norm": 6.23261022567749, + "learning_rate": 7.265352510033133e-07, + "loss": 0.0907, + "num_input_tokens_seen": 33284280, + "step": 17002 + }, + { + "epoch": 2.2535453943008616, + "grad_norm": 0.938535213470459, + "learning_rate": 7.262905986805088e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33285744, + "step": 17003 + }, + { + "epoch": 2.2536779324055667, + "grad_norm": 6.548614501953125, + "learning_rate": 7.26045980556044e-07, + "loss": 0.1454, + "num_input_tokens_seen": 33287680, + "step": 17004 + }, + { + "epoch": 2.2538104705102717, + "grad_norm": 0.0010226767044514418, + "learning_rate": 7.258013966346378e-07, + "loss": 0.0, + "num_input_tokens_seen": 33288992, + "step": 17005 + }, + { + "epoch": 2.2539430086149768, + "grad_norm": 18.0094051361084, + "learning_rate": 7.255568469210033e-07, + "loss": 0.1424, + "num_input_tokens_seen": 33291112, + "step": 17006 + }, + { + "epoch": 2.254075546719682, + "grad_norm": 0.029837286099791527, + "learning_rate": 7.253123314198582e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33292688, + "step": 17007 + }, + { + "epoch": 2.254208084824387, + "grad_norm": 0.45921260118484497, + "learning_rate": 7.250678501359154e-07, + "loss": 0.0015, + "num_input_tokens_seen": 33294184, + "step": 17008 + }, + { + "epoch": 2.2543406229290923, + "grad_norm": 0.15770047903060913, + "learning_rate": 7.248234030738888e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33295864, + "step": 17009 + }, + { + "epoch": 2.2544731610337974, + "grad_norm": 0.04620315134525299, + "learning_rate": 7.245789902384908e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33297752, + "step": 17010 + }, + { + "epoch": 2.2546056991385024, + "grad_norm": 0.03155709058046341, + "learning_rate": 7.243346116344357e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33299992, + "step": 17011 + }, + { + "epoch": 2.2547382372432074, + "grad_norm": 0.09925250709056854, + "learning_rate": 7.240902672664335e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33302624, + "step": 17012 + }, + { + "epoch": 2.2548707753479125, + "grad_norm": 7.438824653625488, + "learning_rate": 7.238459571391967e-07, + "loss": 0.0215, + "num_input_tokens_seen": 33304592, + "step": 17013 + }, + { + "epoch": 2.2550033134526175, + "grad_norm": 11.135329246520996, + "learning_rate": 7.236016812574353e-07, + "loss": 0.145, + "num_input_tokens_seen": 33306424, + "step": 17014 + }, + { + "epoch": 2.2551358515573225, + "grad_norm": 8.121220588684082, + "learning_rate": 7.233574396258589e-07, + "loss": 0.0753, + "num_input_tokens_seen": 33308296, + "step": 17015 + }, + { + "epoch": 2.255268389662028, + "grad_norm": 8.018284797668457, + "learning_rate": 7.231132322491758e-07, + "loss": 0.142, + "num_input_tokens_seen": 33310360, + "step": 17016 + }, + { + "epoch": 2.255400927766733, + "grad_norm": 6.242404937744141, + "learning_rate": 7.228690591320955e-07, + "loss": 0.054, + "num_input_tokens_seen": 33313120, + "step": 17017 + }, + { + "epoch": 2.255533465871438, + "grad_norm": 0.0052351271733641624, + "learning_rate": 7.226249202793264e-07, + "loss": 0.0, + "num_input_tokens_seen": 33314784, + "step": 17018 + }, + { + "epoch": 2.255666003976143, + "grad_norm": 5.323879718780518, + "learning_rate": 7.223808156955752e-07, + "loss": 0.0839, + "num_input_tokens_seen": 33316912, + "step": 17019 + }, + { + "epoch": 2.255798542080848, + "grad_norm": 0.013013062067329884, + "learning_rate": 7.221367453855479e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33318312, + "step": 17020 + }, + { + "epoch": 2.255931080185553, + "grad_norm": 0.5815606713294983, + "learning_rate": 7.21892709353951e-07, + "loss": 0.0028, + "num_input_tokens_seen": 33320152, + "step": 17021 + }, + { + "epoch": 2.2560636182902583, + "grad_norm": 12.585061073303223, + "learning_rate": 7.216487076054881e-07, + "loss": 0.0501, + "num_input_tokens_seen": 33321984, + "step": 17022 + }, + { + "epoch": 2.2561961563949637, + "grad_norm": 9.091734886169434, + "learning_rate": 7.214047401448654e-07, + "loss": 0.0925, + "num_input_tokens_seen": 33324048, + "step": 17023 + }, + { + "epoch": 2.2563286944996688, + "grad_norm": 0.014654953964054585, + "learning_rate": 7.211608069767867e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33326504, + "step": 17024 + }, + { + "epoch": 2.256461232604374, + "grad_norm": 11.473068237304688, + "learning_rate": 7.20916908105955e-07, + "loss": 0.0729, + "num_input_tokens_seen": 33329408, + "step": 17025 + }, + { + "epoch": 2.256593770709079, + "grad_norm": 9.856328010559082, + "learning_rate": 7.206730435370727e-07, + "loss": 0.3116, + "num_input_tokens_seen": 33332712, + "step": 17026 + }, + { + "epoch": 2.256726308813784, + "grad_norm": 3.275170087814331, + "learning_rate": 7.204292132748406e-07, + "loss": 0.028, + "num_input_tokens_seen": 33335248, + "step": 17027 + }, + { + "epoch": 2.256858846918489, + "grad_norm": 13.823945045471191, + "learning_rate": 7.201854173239611e-07, + "loss": 0.0794, + "num_input_tokens_seen": 33337632, + "step": 17028 + }, + { + "epoch": 2.256991385023194, + "grad_norm": 0.018344588577747345, + "learning_rate": 7.199416556891353e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33339544, + "step": 17029 + }, + { + "epoch": 2.2571239231278994, + "grad_norm": 0.004460104275494814, + "learning_rate": 7.196979283750625e-07, + "loss": 0.0, + "num_input_tokens_seen": 33340872, + "step": 17030 + }, + { + "epoch": 2.2572564612326045, + "grad_norm": 0.0099294139072299, + "learning_rate": 7.194542353864417e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33342704, + "step": 17031 + }, + { + "epoch": 2.2573889993373095, + "grad_norm": 10.825511932373047, + "learning_rate": 7.192105767279709e-07, + "loss": 0.0708, + "num_input_tokens_seen": 33345512, + "step": 17032 + }, + { + "epoch": 2.2575215374420146, + "grad_norm": 2.3327972888946533, + "learning_rate": 7.189669524043491e-07, + "loss": 0.0107, + "num_input_tokens_seen": 33347488, + "step": 17033 + }, + { + "epoch": 2.2576540755467196, + "grad_norm": 0.012312586419284344, + "learning_rate": 7.187233624202727e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33349240, + "step": 17034 + }, + { + "epoch": 2.2577866136514246, + "grad_norm": 4.407036781311035, + "learning_rate": 7.184798067804394e-07, + "loss": 0.0186, + "num_input_tokens_seen": 33351416, + "step": 17035 + }, + { + "epoch": 2.2579191517561297, + "grad_norm": 4.566205024719238, + "learning_rate": 7.182362854895445e-07, + "loss": 0.0494, + "num_input_tokens_seen": 33353592, + "step": 17036 + }, + { + "epoch": 2.258051689860835, + "grad_norm": 0.45175901055336, + "learning_rate": 7.17992798552283e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33355712, + "step": 17037 + }, + { + "epoch": 2.25818422796554, + "grad_norm": 9.643722534179688, + "learning_rate": 7.177493459733493e-07, + "loss": 0.0615, + "num_input_tokens_seen": 33357592, + "step": 17038 + }, + { + "epoch": 2.2583167660702452, + "grad_norm": 2.7171199321746826, + "learning_rate": 7.175059277574381e-07, + "loss": 0.013, + "num_input_tokens_seen": 33359768, + "step": 17039 + }, + { + "epoch": 2.2584493041749503, + "grad_norm": 0.007482321932911873, + "learning_rate": 7.172625439092414e-07, + "loss": 0.0, + "num_input_tokens_seen": 33361080, + "step": 17040 + }, + { + "epoch": 2.2585818422796553, + "grad_norm": 3.1417672634124756, + "learning_rate": 7.17019194433454e-07, + "loss": 0.0192, + "num_input_tokens_seen": 33362912, + "step": 17041 + }, + { + "epoch": 2.2587143803843603, + "grad_norm": 1.260101556777954, + "learning_rate": 7.167758793347662e-07, + "loss": 0.007, + "num_input_tokens_seen": 33364456, + "step": 17042 + }, + { + "epoch": 2.2588469184890654, + "grad_norm": 0.04365816339850426, + "learning_rate": 7.16532598617869e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33365776, + "step": 17043 + }, + { + "epoch": 2.258979456593771, + "grad_norm": 2.846550226211548, + "learning_rate": 7.162893522874542e-07, + "loss": 0.0374, + "num_input_tokens_seen": 33367800, + "step": 17044 + }, + { + "epoch": 2.259111994698476, + "grad_norm": 10.436948776245117, + "learning_rate": 7.160461403482116e-07, + "loss": 0.0774, + "num_input_tokens_seen": 33369648, + "step": 17045 + }, + { + "epoch": 2.259244532803181, + "grad_norm": 1.1857064962387085, + "learning_rate": 7.15802962804829e-07, + "loss": 0.0059, + "num_input_tokens_seen": 33371712, + "step": 17046 + }, + { + "epoch": 2.259377070907886, + "grad_norm": 4.265346527099609, + "learning_rate": 7.15559819661997e-07, + "loss": 0.0406, + "num_input_tokens_seen": 33373840, + "step": 17047 + }, + { + "epoch": 2.259509609012591, + "grad_norm": 2.5166361331939697, + "learning_rate": 7.153167109244019e-07, + "loss": 0.0032, + "num_input_tokens_seen": 33375624, + "step": 17048 + }, + { + "epoch": 2.259642147117296, + "grad_norm": 16.485225677490234, + "learning_rate": 7.150736365967326e-07, + "loss": 0.1606, + "num_input_tokens_seen": 33377456, + "step": 17049 + }, + { + "epoch": 2.259774685222001, + "grad_norm": 0.01974525861442089, + "learning_rate": 7.14830596683675e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33379136, + "step": 17050 + }, + { + "epoch": 2.2599072233267066, + "grad_norm": 3.940603494644165, + "learning_rate": 7.145875911899142e-07, + "loss": 0.046, + "num_input_tokens_seen": 33381288, + "step": 17051 + }, + { + "epoch": 2.2600397614314116, + "grad_norm": 4.029561519622803, + "learning_rate": 7.143446201201371e-07, + "loss": 0.0675, + "num_input_tokens_seen": 33383160, + "step": 17052 + }, + { + "epoch": 2.2601722995361166, + "grad_norm": 3.8174209594726562, + "learning_rate": 7.141016834790268e-07, + "loss": 0.0511, + "num_input_tokens_seen": 33385000, + "step": 17053 + }, + { + "epoch": 2.2603048376408217, + "grad_norm": 7.234439373016357, + "learning_rate": 7.138587812712688e-07, + "loss": 0.0859, + "num_input_tokens_seen": 33386880, + "step": 17054 + }, + { + "epoch": 2.2604373757455267, + "grad_norm": 0.0020689249504357576, + "learning_rate": 7.136159135015458e-07, + "loss": 0.0, + "num_input_tokens_seen": 33388736, + "step": 17055 + }, + { + "epoch": 2.2605699138502318, + "grad_norm": 17.782318115234375, + "learning_rate": 7.133730801745403e-07, + "loss": 0.1428, + "num_input_tokens_seen": 33390496, + "step": 17056 + }, + { + "epoch": 2.260702451954937, + "grad_norm": 0.0010639396496117115, + "learning_rate": 7.131302812949336e-07, + "loss": 0.0, + "num_input_tokens_seen": 33392032, + "step": 17057 + }, + { + "epoch": 2.2608349900596423, + "grad_norm": 2.871506690979004, + "learning_rate": 7.128875168674076e-07, + "loss": 0.0456, + "num_input_tokens_seen": 33393448, + "step": 17058 + }, + { + "epoch": 2.2609675281643473, + "grad_norm": 8.979290962219238, + "learning_rate": 7.126447868966441e-07, + "loss": 0.1293, + "num_input_tokens_seen": 33395736, + "step": 17059 + }, + { + "epoch": 2.2611000662690524, + "grad_norm": 1.359527587890625, + "learning_rate": 7.124020913873222e-07, + "loss": 0.0124, + "num_input_tokens_seen": 33397952, + "step": 17060 + }, + { + "epoch": 2.2612326043737574, + "grad_norm": 1.771660327911377, + "learning_rate": 7.121594303441209e-07, + "loss": 0.0221, + "num_input_tokens_seen": 33399672, + "step": 17061 + }, + { + "epoch": 2.2613651424784624, + "grad_norm": 1.9435672760009766, + "learning_rate": 7.119168037717194e-07, + "loss": 0.0082, + "num_input_tokens_seen": 33402112, + "step": 17062 + }, + { + "epoch": 2.2614976805831675, + "grad_norm": 11.306968688964844, + "learning_rate": 7.116742116747946e-07, + "loss": 0.0698, + "num_input_tokens_seen": 33404152, + "step": 17063 + }, + { + "epoch": 2.261630218687873, + "grad_norm": 0.4223754107952118, + "learning_rate": 7.114316540580249e-07, + "loss": 0.0026, + "num_input_tokens_seen": 33406424, + "step": 17064 + }, + { + "epoch": 2.261762756792578, + "grad_norm": 0.0034249506425112486, + "learning_rate": 7.111891309260874e-07, + "loss": 0.0, + "num_input_tokens_seen": 33408680, + "step": 17065 + }, + { + "epoch": 2.261895294897283, + "grad_norm": 6.980777740478516, + "learning_rate": 7.109466422836572e-07, + "loss": 0.0219, + "num_input_tokens_seen": 33410392, + "step": 17066 + }, + { + "epoch": 2.262027833001988, + "grad_norm": 10.331180572509766, + "learning_rate": 7.107041881354105e-07, + "loss": 0.058, + "num_input_tokens_seen": 33412096, + "step": 17067 + }, + { + "epoch": 2.262160371106693, + "grad_norm": 5.07744026184082, + "learning_rate": 7.10461768486021e-07, + "loss": 0.0718, + "num_input_tokens_seen": 33413712, + "step": 17068 + }, + { + "epoch": 2.262292909211398, + "grad_norm": 1.858208417892456, + "learning_rate": 7.102193833401624e-07, + "loss": 0.0205, + "num_input_tokens_seen": 33415520, + "step": 17069 + }, + { + "epoch": 2.2624254473161036, + "grad_norm": 0.005696216598153114, + "learning_rate": 7.099770327025091e-07, + "loss": 0.0, + "num_input_tokens_seen": 33417472, + "step": 17070 + }, + { + "epoch": 2.2625579854208087, + "grad_norm": 0.42151540517807007, + "learning_rate": 7.097347165777337e-07, + "loss": 0.0019, + "num_input_tokens_seen": 33419488, + "step": 17071 + }, + { + "epoch": 2.2626905235255137, + "grad_norm": 0.011717605404555798, + "learning_rate": 7.094924349705085e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33421376, + "step": 17072 + }, + { + "epoch": 2.2628230616302187, + "grad_norm": 1.4437997341156006, + "learning_rate": 7.092501878855043e-07, + "loss": 0.0146, + "num_input_tokens_seen": 33424000, + "step": 17073 + }, + { + "epoch": 2.2629555997349238, + "grad_norm": 8.156682014465332, + "learning_rate": 7.09007975327391e-07, + "loss": 0.0659, + "num_input_tokens_seen": 33425504, + "step": 17074 + }, + { + "epoch": 2.263088137839629, + "grad_norm": 0.010174905881285667, + "learning_rate": 7.087657973008402e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33428224, + "step": 17075 + }, + { + "epoch": 2.263220675944334, + "grad_norm": 0.017349964007735252, + "learning_rate": 7.085236538105197e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33430328, + "step": 17076 + }, + { + "epoch": 2.2633532140490393, + "grad_norm": 2.326019048690796, + "learning_rate": 7.082815448611e-07, + "loss": 0.0141, + "num_input_tokens_seen": 33432640, + "step": 17077 + }, + { + "epoch": 2.2634857521537444, + "grad_norm": 1.7204554080963135, + "learning_rate": 7.080394704572483e-07, + "loss": 0.0089, + "num_input_tokens_seen": 33434496, + "step": 17078 + }, + { + "epoch": 2.2636182902584494, + "grad_norm": 13.064606666564941, + "learning_rate": 7.077974306036306e-07, + "loss": 0.2042, + "num_input_tokens_seen": 33436744, + "step": 17079 + }, + { + "epoch": 2.2637508283631544, + "grad_norm": 7.238364219665527, + "learning_rate": 7.075554253049158e-07, + "loss": 0.1136, + "num_input_tokens_seen": 33438784, + "step": 17080 + }, + { + "epoch": 2.2638833664678595, + "grad_norm": 0.0011723835486918688, + "learning_rate": 7.073134545657681e-07, + "loss": 0.0, + "num_input_tokens_seen": 33440016, + "step": 17081 + }, + { + "epoch": 2.2640159045725645, + "grad_norm": 2.58549165725708, + "learning_rate": 7.070715183908547e-07, + "loss": 0.026, + "num_input_tokens_seen": 33442192, + "step": 17082 + }, + { + "epoch": 2.2641484426772696, + "grad_norm": 0.0011719600297510624, + "learning_rate": 7.06829616784839e-07, + "loss": 0.0, + "num_input_tokens_seen": 33443864, + "step": 17083 + }, + { + "epoch": 2.264280980781975, + "grad_norm": 6.057003498077393, + "learning_rate": 7.065877497523848e-07, + "loss": 0.0824, + "num_input_tokens_seen": 33446200, + "step": 17084 + }, + { + "epoch": 2.26441351888668, + "grad_norm": 0.07533871382474899, + "learning_rate": 7.063459172981568e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33448704, + "step": 17085 + }, + { + "epoch": 2.264546056991385, + "grad_norm": 0.6643083095550537, + "learning_rate": 7.061041194268167e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33449952, + "step": 17086 + }, + { + "epoch": 2.26467859509609, + "grad_norm": 0.0022547622211277485, + "learning_rate": 7.058623561430261e-07, + "loss": 0.0, + "num_input_tokens_seen": 33451216, + "step": 17087 + }, + { + "epoch": 2.264811133200795, + "grad_norm": 0.006819826550781727, + "learning_rate": 7.056206274514476e-07, + "loss": 0.0, + "num_input_tokens_seen": 33452800, + "step": 17088 + }, + { + "epoch": 2.2649436713055002, + "grad_norm": 0.6193521022796631, + "learning_rate": 7.053789333567407e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33454936, + "step": 17089 + }, + { + "epoch": 2.2650762094102053, + "grad_norm": 0.03560137003660202, + "learning_rate": 7.051372738635667e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33456544, + "step": 17090 + }, + { + "epoch": 2.2652087475149107, + "grad_norm": 0.6458995938301086, + "learning_rate": 7.048956489765843e-07, + "loss": 0.0032, + "num_input_tokens_seen": 33458240, + "step": 17091 + }, + { + "epoch": 2.265341285619616, + "grad_norm": 0.011510340496897697, + "learning_rate": 7.046540587004522e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33460168, + "step": 17092 + }, + { + "epoch": 2.265473823724321, + "grad_norm": 5.781800746917725, + "learning_rate": 7.044125030398274e-07, + "loss": 0.0751, + "num_input_tokens_seen": 33462416, + "step": 17093 + }, + { + "epoch": 2.265606361829026, + "grad_norm": 0.3827444314956665, + "learning_rate": 7.041709819993692e-07, + "loss": 0.0021, + "num_input_tokens_seen": 33463584, + "step": 17094 + }, + { + "epoch": 2.265738899933731, + "grad_norm": 0.0319744311273098, + "learning_rate": 7.039294955837325e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33465960, + "step": 17095 + }, + { + "epoch": 2.265871438038436, + "grad_norm": 0.05853966251015663, + "learning_rate": 7.036880437975749e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33467160, + "step": 17096 + }, + { + "epoch": 2.266003976143141, + "grad_norm": 0.000984572572633624, + "learning_rate": 7.034466266455512e-07, + "loss": 0.0, + "num_input_tokens_seen": 33468736, + "step": 17097 + }, + { + "epoch": 2.2661365142478465, + "grad_norm": 3.6588613986968994, + "learning_rate": 7.032052441323159e-07, + "loss": 0.0682, + "num_input_tokens_seen": 33470264, + "step": 17098 + }, + { + "epoch": 2.2662690523525515, + "grad_norm": 0.00226827641017735, + "learning_rate": 7.029638962625221e-07, + "loss": 0.0, + "num_input_tokens_seen": 33472176, + "step": 17099 + }, + { + "epoch": 2.2664015904572565, + "grad_norm": 0.03111991472542286, + "learning_rate": 7.027225830408244e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33473952, + "step": 17100 + }, + { + "epoch": 2.2665341285619616, + "grad_norm": 0.0010720975697040558, + "learning_rate": 7.024813044718756e-07, + "loss": 0.0, + "num_input_tokens_seen": 33475240, + "step": 17101 + }, + { + "epoch": 2.2666666666666666, + "grad_norm": 0.12969861924648285, + "learning_rate": 7.022400605603274e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33476960, + "step": 17102 + }, + { + "epoch": 2.2667992047713716, + "grad_norm": 2.939267635345459, + "learning_rate": 7.019988513108311e-07, + "loss": 0.0157, + "num_input_tokens_seen": 33478912, + "step": 17103 + }, + { + "epoch": 2.2669317428760767, + "grad_norm": 0.008926770649850368, + "learning_rate": 7.017576767280366e-07, + "loss": 0.0, + "num_input_tokens_seen": 33479808, + "step": 17104 + }, + { + "epoch": 2.267064280980782, + "grad_norm": 17.49217987060547, + "learning_rate": 7.015165368165943e-07, + "loss": 0.0523, + "num_input_tokens_seen": 33481952, + "step": 17105 + }, + { + "epoch": 2.267196819085487, + "grad_norm": 5.248671054840088, + "learning_rate": 7.012754315811551e-07, + "loss": 0.0309, + "num_input_tokens_seen": 33483568, + "step": 17106 + }, + { + "epoch": 2.2673293571901922, + "grad_norm": 5.2360029220581055, + "learning_rate": 7.010343610263662e-07, + "loss": 0.0074, + "num_input_tokens_seen": 33485488, + "step": 17107 + }, + { + "epoch": 2.2674618952948973, + "grad_norm": 0.1071607917547226, + "learning_rate": 7.007933251568761e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33487736, + "step": 17108 + }, + { + "epoch": 2.2675944333996023, + "grad_norm": 6.894968509674072, + "learning_rate": 7.005523239773318e-07, + "loss": 0.0496, + "num_input_tokens_seen": 33489752, + "step": 17109 + }, + { + "epoch": 2.2677269715043074, + "grad_norm": 5.43184232711792, + "learning_rate": 7.003113574923792e-07, + "loss": 0.0903, + "num_input_tokens_seen": 33492048, + "step": 17110 + }, + { + "epoch": 2.2678595096090124, + "grad_norm": 18.994386672973633, + "learning_rate": 7.000704257066651e-07, + "loss": 0.3573, + "num_input_tokens_seen": 33495816, + "step": 17111 + }, + { + "epoch": 2.267992047713718, + "grad_norm": 0.03943656384944916, + "learning_rate": 6.998295286248358e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33497576, + "step": 17112 + }, + { + "epoch": 2.268124585818423, + "grad_norm": 8.894815444946289, + "learning_rate": 6.99588666251535e-07, + "loss": 0.0445, + "num_input_tokens_seen": 33500624, + "step": 17113 + }, + { + "epoch": 2.268257123923128, + "grad_norm": 8.034154891967773, + "learning_rate": 6.993478385914068e-07, + "loss": 0.163, + "num_input_tokens_seen": 33503448, + "step": 17114 + }, + { + "epoch": 2.268389662027833, + "grad_norm": 1.729291319847107, + "learning_rate": 6.991070456490937e-07, + "loss": 0.0033, + "num_input_tokens_seen": 33505568, + "step": 17115 + }, + { + "epoch": 2.268522200132538, + "grad_norm": 0.0003514259587973356, + "learning_rate": 6.988662874292399e-07, + "loss": 0.0, + "num_input_tokens_seen": 33506880, + "step": 17116 + }, + { + "epoch": 2.268654738237243, + "grad_norm": 0.053705185651779175, + "learning_rate": 6.986255639364858e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33508824, + "step": 17117 + }, + { + "epoch": 2.268787276341948, + "grad_norm": 0.02403806895017624, + "learning_rate": 6.983848751754743e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33511352, + "step": 17118 + }, + { + "epoch": 2.2689198144466536, + "grad_norm": 7.016064643859863, + "learning_rate": 6.981442211508455e-07, + "loss": 0.0171, + "num_input_tokens_seen": 33512760, + "step": 17119 + }, + { + "epoch": 2.2690523525513586, + "grad_norm": 0.0016484780935570598, + "learning_rate": 6.97903601867238e-07, + "loss": 0.0, + "num_input_tokens_seen": 33514008, + "step": 17120 + }, + { + "epoch": 2.2691848906560637, + "grad_norm": 0.0005891553009860218, + "learning_rate": 6.976630173292934e-07, + "loss": 0.0, + "num_input_tokens_seen": 33515640, + "step": 17121 + }, + { + "epoch": 2.2693174287607687, + "grad_norm": 0.0027264917735010386, + "learning_rate": 6.974224675416492e-07, + "loss": 0.0, + "num_input_tokens_seen": 33516984, + "step": 17122 + }, + { + "epoch": 2.2694499668654737, + "grad_norm": 58.46063995361328, + "learning_rate": 6.971819525089424e-07, + "loss": 0.2015, + "num_input_tokens_seen": 33518608, + "step": 17123 + }, + { + "epoch": 2.2695825049701788, + "grad_norm": 0.3263755738735199, + "learning_rate": 6.96941472235812e-07, + "loss": 0.001, + "num_input_tokens_seen": 33520104, + "step": 17124 + }, + { + "epoch": 2.269715043074884, + "grad_norm": 1.459546446800232, + "learning_rate": 6.96701026726894e-07, + "loss": 0.0166, + "num_input_tokens_seen": 33522696, + "step": 17125 + }, + { + "epoch": 2.2698475811795893, + "grad_norm": 0.0055835675448179245, + "learning_rate": 6.964606159868231e-07, + "loss": 0.0, + "num_input_tokens_seen": 33523824, + "step": 17126 + }, + { + "epoch": 2.2699801192842943, + "grad_norm": 1.5316977500915527, + "learning_rate": 6.962202400202369e-07, + "loss": 0.006, + "num_input_tokens_seen": 33525976, + "step": 17127 + }, + { + "epoch": 2.2701126573889994, + "grad_norm": 2.9116830825805664, + "learning_rate": 6.959798988317687e-07, + "loss": 0.0997, + "num_input_tokens_seen": 33527600, + "step": 17128 + }, + { + "epoch": 2.2702451954937044, + "grad_norm": 0.001662257476709783, + "learning_rate": 6.957395924260519e-07, + "loss": 0.0, + "num_input_tokens_seen": 33528968, + "step": 17129 + }, + { + "epoch": 2.2703777335984094, + "grad_norm": 13.415013313293457, + "learning_rate": 6.954993208077212e-07, + "loss": 0.2684, + "num_input_tokens_seen": 33531096, + "step": 17130 + }, + { + "epoch": 2.2705102717031145, + "grad_norm": 6.666678428649902, + "learning_rate": 6.952590839814075e-07, + "loss": 0.0295, + "num_input_tokens_seen": 33533008, + "step": 17131 + }, + { + "epoch": 2.2706428098078195, + "grad_norm": 1.479818344116211, + "learning_rate": 6.950188819517448e-07, + "loss": 0.0036, + "num_input_tokens_seen": 33534416, + "step": 17132 + }, + { + "epoch": 2.270775347912525, + "grad_norm": 1.9704241752624512, + "learning_rate": 6.947787147233628e-07, + "loss": 0.0255, + "num_input_tokens_seen": 33535944, + "step": 17133 + }, + { + "epoch": 2.27090788601723, + "grad_norm": 10.994791030883789, + "learning_rate": 6.945385823008921e-07, + "loss": 0.1061, + "num_input_tokens_seen": 33538416, + "step": 17134 + }, + { + "epoch": 2.271040424121935, + "grad_norm": 0.4942953288555145, + "learning_rate": 6.942984846889639e-07, + "loss": 0.0011, + "num_input_tokens_seen": 33540640, + "step": 17135 + }, + { + "epoch": 2.27117296222664, + "grad_norm": 0.0034859045408666134, + "learning_rate": 6.940584218922055e-07, + "loss": 0.0, + "num_input_tokens_seen": 33541816, + "step": 17136 + }, + { + "epoch": 2.271305500331345, + "grad_norm": 3.9905009269714355, + "learning_rate": 6.938183939152476e-07, + "loss": 0.0579, + "num_input_tokens_seen": 33543344, + "step": 17137 + }, + { + "epoch": 2.27143803843605, + "grad_norm": 1.971089243888855, + "learning_rate": 6.93578400762717e-07, + "loss": 0.0386, + "num_input_tokens_seen": 33544736, + "step": 17138 + }, + { + "epoch": 2.2715705765407552, + "grad_norm": 0.011892507784068584, + "learning_rate": 6.933384424392411e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33546296, + "step": 17139 + }, + { + "epoch": 2.2717031146454607, + "grad_norm": 2.8978114128112793, + "learning_rate": 6.930985189494455e-07, + "loss": 0.0252, + "num_input_tokens_seen": 33548160, + "step": 17140 + }, + { + "epoch": 2.2718356527501657, + "grad_norm": 0.026118934154510498, + "learning_rate": 6.92858630297957e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33551112, + "step": 17141 + }, + { + "epoch": 2.271968190854871, + "grad_norm": 0.013567560352385044, + "learning_rate": 6.926187764894015e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33552872, + "step": 17142 + }, + { + "epoch": 2.272100728959576, + "grad_norm": 0.000865636277012527, + "learning_rate": 6.923789575284032e-07, + "loss": 0.0, + "num_input_tokens_seen": 33554248, + "step": 17143 + }, + { + "epoch": 2.272233267064281, + "grad_norm": 0.06431833654642105, + "learning_rate": 6.921391734195851e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33556152, + "step": 17144 + }, + { + "epoch": 2.272365805168986, + "grad_norm": 0.014610175043344498, + "learning_rate": 6.918994241675711e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33557872, + "step": 17145 + }, + { + "epoch": 2.2724983432736914, + "grad_norm": 9.243873596191406, + "learning_rate": 6.916597097769828e-07, + "loss": 0.0831, + "num_input_tokens_seen": 33560256, + "step": 17146 + }, + { + "epoch": 2.2726308813783964, + "grad_norm": 1.0632901191711426, + "learning_rate": 6.914200302524429e-07, + "loss": 0.0071, + "num_input_tokens_seen": 33562720, + "step": 17147 + }, + { + "epoch": 2.2727634194831015, + "grad_norm": 0.8729991912841797, + "learning_rate": 6.911803855985732e-07, + "loss": 0.0057, + "num_input_tokens_seen": 33564608, + "step": 17148 + }, + { + "epoch": 2.2728959575878065, + "grad_norm": 4.214803218841553, + "learning_rate": 6.909407758199935e-07, + "loss": 0.0334, + "num_input_tokens_seen": 33566472, + "step": 17149 + }, + { + "epoch": 2.2730284956925115, + "grad_norm": 7.322861671447754, + "learning_rate": 6.907012009213238e-07, + "loss": 0.0863, + "num_input_tokens_seen": 33568248, + "step": 17150 + }, + { + "epoch": 2.2731610337972166, + "grad_norm": 12.07220458984375, + "learning_rate": 6.904616609071829e-07, + "loss": 0.2201, + "num_input_tokens_seen": 33570320, + "step": 17151 + }, + { + "epoch": 2.273293571901922, + "grad_norm": 0.015552198514342308, + "learning_rate": 6.90222155782189e-07, + "loss": 0.0, + "num_input_tokens_seen": 33571584, + "step": 17152 + }, + { + "epoch": 2.273426110006627, + "grad_norm": 0.09032328426837921, + "learning_rate": 6.8998268555096e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33573392, + "step": 17153 + }, + { + "epoch": 2.273558648111332, + "grad_norm": 1.9093289375305176, + "learning_rate": 6.897432502181145e-07, + "loss": 0.012, + "num_input_tokens_seen": 33575624, + "step": 17154 + }, + { + "epoch": 2.273691186216037, + "grad_norm": 0.001122051733545959, + "learning_rate": 6.89503849788268e-07, + "loss": 0.0, + "num_input_tokens_seen": 33577144, + "step": 17155 + }, + { + "epoch": 2.273823724320742, + "grad_norm": 3.0209832191467285, + "learning_rate": 6.892644842660362e-07, + "loss": 0.0154, + "num_input_tokens_seen": 33579280, + "step": 17156 + }, + { + "epoch": 2.2739562624254472, + "grad_norm": 0.7257760167121887, + "learning_rate": 6.890251536560335e-07, + "loss": 0.0045, + "num_input_tokens_seen": 33581336, + "step": 17157 + }, + { + "epoch": 2.2740888005301523, + "grad_norm": 0.005764069501310587, + "learning_rate": 6.887858579628753e-07, + "loss": 0.0, + "num_input_tokens_seen": 33582808, + "step": 17158 + }, + { + "epoch": 2.2742213386348578, + "grad_norm": 0.5104198455810547, + "learning_rate": 6.885465971911762e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33584280, + "step": 17159 + }, + { + "epoch": 2.274353876739563, + "grad_norm": 0.007316774222999811, + "learning_rate": 6.883073713455479e-07, + "loss": 0.0, + "num_input_tokens_seen": 33585656, + "step": 17160 + }, + { + "epoch": 2.274486414844268, + "grad_norm": 0.9329511523246765, + "learning_rate": 6.880681804306036e-07, + "loss": 0.0074, + "num_input_tokens_seen": 33588024, + "step": 17161 + }, + { + "epoch": 2.274618952948973, + "grad_norm": 0.043191444128751755, + "learning_rate": 6.878290244509539e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33589800, + "step": 17162 + }, + { + "epoch": 2.274751491053678, + "grad_norm": 0.42962002754211426, + "learning_rate": 6.875899034112115e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33592000, + "step": 17163 + }, + { + "epoch": 2.274884029158383, + "grad_norm": 5.053799152374268, + "learning_rate": 6.873508173159857e-07, + "loss": 0.0627, + "num_input_tokens_seen": 33594208, + "step": 17164 + }, + { + "epoch": 2.275016567263088, + "grad_norm": 0.026130879297852516, + "learning_rate": 6.87111766169887e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33596808, + "step": 17165 + }, + { + "epoch": 2.2751491053677935, + "grad_norm": 7.647356033325195, + "learning_rate": 6.868727499775241e-07, + "loss": 0.1306, + "num_input_tokens_seen": 33598840, + "step": 17166 + }, + { + "epoch": 2.2752816434724985, + "grad_norm": 0.06074904650449753, + "learning_rate": 6.866337687435046e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33600424, + "step": 17167 + }, + { + "epoch": 2.2754141815772035, + "grad_norm": 1.1922178268432617, + "learning_rate": 6.863948224724379e-07, + "loss": 0.0041, + "num_input_tokens_seen": 33602592, + "step": 17168 + }, + { + "epoch": 2.2755467196819086, + "grad_norm": 0.1906481385231018, + "learning_rate": 6.861559111689303e-07, + "loss": 0.0012, + "num_input_tokens_seen": 33604336, + "step": 17169 + }, + { + "epoch": 2.2756792577866136, + "grad_norm": 0.006680391263216734, + "learning_rate": 6.859170348375871e-07, + "loss": 0.0, + "num_input_tokens_seen": 33605840, + "step": 17170 + }, + { + "epoch": 2.2758117958913187, + "grad_norm": 7.8207106590271, + "learning_rate": 6.856781934830156e-07, + "loss": 0.0804, + "num_input_tokens_seen": 33608032, + "step": 17171 + }, + { + "epoch": 2.2759443339960237, + "grad_norm": 8.933942794799805, + "learning_rate": 6.854393871098195e-07, + "loss": 0.1089, + "num_input_tokens_seen": 33611552, + "step": 17172 + }, + { + "epoch": 2.276076872100729, + "grad_norm": 13.739423751831055, + "learning_rate": 6.852006157226046e-07, + "loss": 0.158, + "num_input_tokens_seen": 33614256, + "step": 17173 + }, + { + "epoch": 2.276209410205434, + "grad_norm": 0.02363816648721695, + "learning_rate": 6.849618793259737e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33616656, + "step": 17174 + }, + { + "epoch": 2.2763419483101393, + "grad_norm": 0.738784670829773, + "learning_rate": 6.8472317792453e-07, + "loss": 0.0029, + "num_input_tokens_seen": 33618368, + "step": 17175 + }, + { + "epoch": 2.2764744864148443, + "grad_norm": 0.012709178030490875, + "learning_rate": 6.844845115228751e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33620192, + "step": 17176 + }, + { + "epoch": 2.2766070245195493, + "grad_norm": 3.3790881633758545, + "learning_rate": 6.84245880125611e-07, + "loss": 0.0358, + "num_input_tokens_seen": 33623224, + "step": 17177 + }, + { + "epoch": 2.2767395626242544, + "grad_norm": 10.765379905700684, + "learning_rate": 6.840072837373398e-07, + "loss": 0.1547, + "num_input_tokens_seen": 33625000, + "step": 17178 + }, + { + "epoch": 2.2768721007289594, + "grad_norm": 0.6045952439308167, + "learning_rate": 6.837687223626612e-07, + "loss": 0.0013, + "num_input_tokens_seen": 33627496, + "step": 17179 + }, + { + "epoch": 2.277004638833665, + "grad_norm": 0.2937418818473816, + "learning_rate": 6.835301960061744e-07, + "loss": 0.0012, + "num_input_tokens_seen": 33629232, + "step": 17180 + }, + { + "epoch": 2.27713717693837, + "grad_norm": 0.7388772964477539, + "learning_rate": 6.832917046724785e-07, + "loss": 0.0018, + "num_input_tokens_seen": 33631200, + "step": 17181 + }, + { + "epoch": 2.277269715043075, + "grad_norm": 2.528766632080078, + "learning_rate": 6.830532483661712e-07, + "loss": 0.0408, + "num_input_tokens_seen": 33633344, + "step": 17182 + }, + { + "epoch": 2.27740225314778, + "grad_norm": 0.02051347680389881, + "learning_rate": 6.828148270918505e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33636488, + "step": 17183 + }, + { + "epoch": 2.277534791252485, + "grad_norm": 0.04230494797229767, + "learning_rate": 6.825764408541144e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33638464, + "step": 17184 + }, + { + "epoch": 2.27766732935719, + "grad_norm": 4.3038787841796875, + "learning_rate": 6.823380896575585e-07, + "loss": 0.0577, + "num_input_tokens_seen": 33640176, + "step": 17185 + }, + { + "epoch": 2.277799867461895, + "grad_norm": 2.9065003395080566, + "learning_rate": 6.820997735067777e-07, + "loss": 0.0167, + "num_input_tokens_seen": 33642520, + "step": 17186 + }, + { + "epoch": 2.2779324055666006, + "grad_norm": 3.8384220600128174, + "learning_rate": 6.818614924063671e-07, + "loss": 0.031, + "num_input_tokens_seen": 33644568, + "step": 17187 + }, + { + "epoch": 2.2780649436713056, + "grad_norm": 0.02768145315349102, + "learning_rate": 6.81623246360921e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33646560, + "step": 17188 + }, + { + "epoch": 2.2781974817760107, + "grad_norm": 0.3521237075328827, + "learning_rate": 6.813850353750337e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33648456, + "step": 17189 + }, + { + "epoch": 2.2783300198807157, + "grad_norm": 0.8258435130119324, + "learning_rate": 6.811468594532977e-07, + "loss": 0.0027, + "num_input_tokens_seen": 33650088, + "step": 17190 + }, + { + "epoch": 2.2784625579854207, + "grad_norm": 4.314850330352783, + "learning_rate": 6.809087186003053e-07, + "loss": 0.0406, + "num_input_tokens_seen": 33653144, + "step": 17191 + }, + { + "epoch": 2.278595096090126, + "grad_norm": 22.659772872924805, + "learning_rate": 6.806706128206473e-07, + "loss": 0.3002, + "num_input_tokens_seen": 33654744, + "step": 17192 + }, + { + "epoch": 2.278727634194831, + "grad_norm": 23.597919464111328, + "learning_rate": 6.804325421189145e-07, + "loss": 0.0992, + "num_input_tokens_seen": 33657344, + "step": 17193 + }, + { + "epoch": 2.2788601722995363, + "grad_norm": 17.917827606201172, + "learning_rate": 6.801945064996973e-07, + "loss": 0.1021, + "num_input_tokens_seen": 33658688, + "step": 17194 + }, + { + "epoch": 2.2789927104042413, + "grad_norm": 12.376590728759766, + "learning_rate": 6.799565059675864e-07, + "loss": 0.0142, + "num_input_tokens_seen": 33661416, + "step": 17195 + }, + { + "epoch": 2.2791252485089464, + "grad_norm": 7.23751974105835, + "learning_rate": 6.797185405271694e-07, + "loss": 0.0291, + "num_input_tokens_seen": 33663792, + "step": 17196 + }, + { + "epoch": 2.2792577866136514, + "grad_norm": 0.008207432925701141, + "learning_rate": 6.794806101830348e-07, + "loss": 0.0, + "num_input_tokens_seen": 33665336, + "step": 17197 + }, + { + "epoch": 2.2793903247183565, + "grad_norm": 6.429232597351074, + "learning_rate": 6.792427149397693e-07, + "loss": 0.0436, + "num_input_tokens_seen": 33667752, + "step": 17198 + }, + { + "epoch": 2.2795228628230615, + "grad_norm": 4.00638484954834, + "learning_rate": 6.790048548019612e-07, + "loss": 0.0528, + "num_input_tokens_seen": 33669544, + "step": 17199 + }, + { + "epoch": 2.2796554009277665, + "grad_norm": 4.34742546081543, + "learning_rate": 6.787670297741947e-07, + "loss": 0.0536, + "num_input_tokens_seen": 33671752, + "step": 17200 + }, + { + "epoch": 2.279787939032472, + "grad_norm": 20.829042434692383, + "learning_rate": 6.785292398610571e-07, + "loss": 0.3345, + "num_input_tokens_seen": 33674176, + "step": 17201 + }, + { + "epoch": 2.279920477137177, + "grad_norm": 20.358360290527344, + "learning_rate": 6.782914850671324e-07, + "loss": 0.1129, + "num_input_tokens_seen": 33676080, + "step": 17202 + }, + { + "epoch": 2.280053015241882, + "grad_norm": 0.4165240526199341, + "learning_rate": 6.780537653970037e-07, + "loss": 0.002, + "num_input_tokens_seen": 33678136, + "step": 17203 + }, + { + "epoch": 2.280185553346587, + "grad_norm": 0.361018568277359, + "learning_rate": 6.778160808552561e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33679800, + "step": 17204 + }, + { + "epoch": 2.280318091451292, + "grad_norm": 6.846236705780029, + "learning_rate": 6.775784314464717e-07, + "loss": 0.0458, + "num_input_tokens_seen": 33681648, + "step": 17205 + }, + { + "epoch": 2.280450629555997, + "grad_norm": 0.1197298914194107, + "learning_rate": 6.773408171752316e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33683120, + "step": 17206 + }, + { + "epoch": 2.2805831676607022, + "grad_norm": 6.323878765106201, + "learning_rate": 6.771032380461184e-07, + "loss": 0.0177, + "num_input_tokens_seen": 33684512, + "step": 17207 + }, + { + "epoch": 2.2807157057654077, + "grad_norm": 8.152327537536621, + "learning_rate": 6.768656940637125e-07, + "loss": 0.1193, + "num_input_tokens_seen": 33686056, + "step": 17208 + }, + { + "epoch": 2.2808482438701128, + "grad_norm": 0.11660125106573105, + "learning_rate": 6.766281852325932e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33687872, + "step": 17209 + }, + { + "epoch": 2.280980781974818, + "grad_norm": 0.023254210129380226, + "learning_rate": 6.763907115573407e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33690192, + "step": 17210 + }, + { + "epoch": 2.281113320079523, + "grad_norm": 3.624354124069214, + "learning_rate": 6.761532730425327e-07, + "loss": 0.0317, + "num_input_tokens_seen": 33692256, + "step": 17211 + }, + { + "epoch": 2.281245858184228, + "grad_norm": 0.04643579199910164, + "learning_rate": 6.759158696927487e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33693376, + "step": 17212 + }, + { + "epoch": 2.281378396288933, + "grad_norm": 0.2431427389383316, + "learning_rate": 6.756785015125649e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33694912, + "step": 17213 + }, + { + "epoch": 2.281510934393638, + "grad_norm": 0.32663822174072266, + "learning_rate": 6.754411685065576e-07, + "loss": 0.0012, + "num_input_tokens_seen": 33696032, + "step": 17214 + }, + { + "epoch": 2.2816434724983434, + "grad_norm": 0.010221016593277454, + "learning_rate": 6.752038706793041e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33697520, + "step": 17215 + }, + { + "epoch": 2.2817760106030485, + "grad_norm": 5.816827774047852, + "learning_rate": 6.749666080353787e-07, + "loss": 0.1025, + "num_input_tokens_seen": 33700296, + "step": 17216 + }, + { + "epoch": 2.2819085487077535, + "grad_norm": 0.02846689522266388, + "learning_rate": 6.747293805793553e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33702616, + "step": 17217 + }, + { + "epoch": 2.2820410868124585, + "grad_norm": 9.767670631408691, + "learning_rate": 6.744921883158092e-07, + "loss": 0.0314, + "num_input_tokens_seen": 33704072, + "step": 17218 + }, + { + "epoch": 2.2821736249171636, + "grad_norm": 7.06099271774292, + "learning_rate": 6.742550312493126e-07, + "loss": 0.119, + "num_input_tokens_seen": 33705896, + "step": 17219 + }, + { + "epoch": 2.2823061630218686, + "grad_norm": 2.4810256958007812, + "learning_rate": 6.740179093844393e-07, + "loss": 0.0113, + "num_input_tokens_seen": 33707768, + "step": 17220 + }, + { + "epoch": 2.2824387011265737, + "grad_norm": 5.996617794036865, + "learning_rate": 6.737808227257603e-07, + "loss": 0.0398, + "num_input_tokens_seen": 33709248, + "step": 17221 + }, + { + "epoch": 2.282571239231279, + "grad_norm": 0.001515745185315609, + "learning_rate": 6.735437712778467e-07, + "loss": 0.0, + "num_input_tokens_seen": 33711072, + "step": 17222 + }, + { + "epoch": 2.282703777335984, + "grad_norm": 27.77338981628418, + "learning_rate": 6.733067550452687e-07, + "loss": 0.0613, + "num_input_tokens_seen": 33713432, + "step": 17223 + }, + { + "epoch": 2.282836315440689, + "grad_norm": 0.020663917064666748, + "learning_rate": 6.730697740325965e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33715088, + "step": 17224 + }, + { + "epoch": 2.2829688535453942, + "grad_norm": 0.8269073963165283, + "learning_rate": 6.728328282444003e-07, + "loss": 0.0031, + "num_input_tokens_seen": 33717072, + "step": 17225 + }, + { + "epoch": 2.2831013916500993, + "grad_norm": 0.0026791368145495653, + "learning_rate": 6.725959176852476e-07, + "loss": 0.0, + "num_input_tokens_seen": 33718352, + "step": 17226 + }, + { + "epoch": 2.2832339297548043, + "grad_norm": 0.3679599463939667, + "learning_rate": 6.723590423597062e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33720272, + "step": 17227 + }, + { + "epoch": 2.2833664678595094, + "grad_norm": 42.52999496459961, + "learning_rate": 6.721222022723431e-07, + "loss": 0.1488, + "num_input_tokens_seen": 33722280, + "step": 17228 + }, + { + "epoch": 2.283499005964215, + "grad_norm": 1.9862474203109741, + "learning_rate": 6.718853974277245e-07, + "loss": 0.0049, + "num_input_tokens_seen": 33724184, + "step": 17229 + }, + { + "epoch": 2.28363154406892, + "grad_norm": 0.30755671858787537, + "learning_rate": 6.716486278304165e-07, + "loss": 0.0009, + "num_input_tokens_seen": 33726280, + "step": 17230 + }, + { + "epoch": 2.283764082173625, + "grad_norm": 15.270941734313965, + "learning_rate": 6.71411893484985e-07, + "loss": 0.1066, + "num_input_tokens_seen": 33728560, + "step": 17231 + }, + { + "epoch": 2.28389662027833, + "grad_norm": 4.877659797668457, + "learning_rate": 6.711751943959938e-07, + "loss": 0.0396, + "num_input_tokens_seen": 33730176, + "step": 17232 + }, + { + "epoch": 2.284029158383035, + "grad_norm": 4.986163139343262, + "learning_rate": 6.709385305680063e-07, + "loss": 0.0268, + "num_input_tokens_seen": 33731800, + "step": 17233 + }, + { + "epoch": 2.28416169648774, + "grad_norm": 0.004596749786287546, + "learning_rate": 6.707019020055849e-07, + "loss": 0.0, + "num_input_tokens_seen": 33733056, + "step": 17234 + }, + { + "epoch": 2.2842942345924455, + "grad_norm": 0.005441832821816206, + "learning_rate": 6.704653087132937e-07, + "loss": 0.0, + "num_input_tokens_seen": 33734616, + "step": 17235 + }, + { + "epoch": 2.2844267726971506, + "grad_norm": 0.09138097614049911, + "learning_rate": 6.702287506956928e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33736160, + "step": 17236 + }, + { + "epoch": 2.2845593108018556, + "grad_norm": 2.222072124481201, + "learning_rate": 6.699922279573445e-07, + "loss": 0.012, + "num_input_tokens_seen": 33738232, + "step": 17237 + }, + { + "epoch": 2.2846918489065606, + "grad_norm": 8.131004333496094, + "learning_rate": 6.697557405028085e-07, + "loss": 0.0893, + "num_input_tokens_seen": 33740632, + "step": 17238 + }, + { + "epoch": 2.2848243870112657, + "grad_norm": 0.1675586998462677, + "learning_rate": 6.695192883366447e-07, + "loss": 0.0009, + "num_input_tokens_seen": 33742424, + "step": 17239 + }, + { + "epoch": 2.2849569251159707, + "grad_norm": 0.0021445814054459333, + "learning_rate": 6.692828714634109e-07, + "loss": 0.0, + "num_input_tokens_seen": 33744584, + "step": 17240 + }, + { + "epoch": 2.285089463220676, + "grad_norm": 3.928619384765625, + "learning_rate": 6.690464898876661e-07, + "loss": 0.0279, + "num_input_tokens_seen": 33746568, + "step": 17241 + }, + { + "epoch": 2.2852220013253812, + "grad_norm": 1.7057392597198486, + "learning_rate": 6.688101436139691e-07, + "loss": 0.0092, + "num_input_tokens_seen": 33748416, + "step": 17242 + }, + { + "epoch": 2.2853545394300863, + "grad_norm": 4.884451389312744, + "learning_rate": 6.685738326468754e-07, + "loss": 0.063, + "num_input_tokens_seen": 33750016, + "step": 17243 + }, + { + "epoch": 2.2854870775347913, + "grad_norm": 2.580627679824829, + "learning_rate": 6.68337556990942e-07, + "loss": 0.0143, + "num_input_tokens_seen": 33752336, + "step": 17244 + }, + { + "epoch": 2.2856196156394963, + "grad_norm": 7.145664215087891, + "learning_rate": 6.681013166507233e-07, + "loss": 0.0333, + "num_input_tokens_seen": 33755384, + "step": 17245 + }, + { + "epoch": 2.2857521537442014, + "grad_norm": 0.000903077598195523, + "learning_rate": 6.678651116307758e-07, + "loss": 0.0, + "num_input_tokens_seen": 33756728, + "step": 17246 + }, + { + "epoch": 2.2858846918489064, + "grad_norm": 0.4160853922367096, + "learning_rate": 6.676289419356521e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33758520, + "step": 17247 + }, + { + "epoch": 2.286017229953612, + "grad_norm": 13.208892822265625, + "learning_rate": 6.673928075699071e-07, + "loss": 0.0622, + "num_input_tokens_seen": 33760368, + "step": 17248 + }, + { + "epoch": 2.286149768058317, + "grad_norm": 0.06685098260641098, + "learning_rate": 6.671567085380932e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33762208, + "step": 17249 + }, + { + "epoch": 2.286282306163022, + "grad_norm": 10.69072151184082, + "learning_rate": 6.669206448447613e-07, + "loss": 0.0501, + "num_input_tokens_seen": 33764400, + "step": 17250 + }, + { + "epoch": 2.286414844267727, + "grad_norm": 1.2607381343841553, + "learning_rate": 6.666846164944649e-07, + "loss": 0.0026, + "num_input_tokens_seen": 33765888, + "step": 17251 + }, + { + "epoch": 2.286547382372432, + "grad_norm": 4.747951507568359, + "learning_rate": 6.664486234917538e-07, + "loss": 0.0309, + "num_input_tokens_seen": 33767912, + "step": 17252 + }, + { + "epoch": 2.286679920477137, + "grad_norm": 0.2989721894264221, + "learning_rate": 6.662126658411775e-07, + "loss": 0.0011, + "num_input_tokens_seen": 33769776, + "step": 17253 + }, + { + "epoch": 2.286812458581842, + "grad_norm": 0.012381265871226788, + "learning_rate": 6.659767435472866e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33772736, + "step": 17254 + }, + { + "epoch": 2.2869449966865476, + "grad_norm": 4.098250865936279, + "learning_rate": 6.657408566146289e-07, + "loss": 0.0235, + "num_input_tokens_seen": 33774912, + "step": 17255 + }, + { + "epoch": 2.2870775347912526, + "grad_norm": 0.8500166535377502, + "learning_rate": 6.655050050477535e-07, + "loss": 0.0052, + "num_input_tokens_seen": 33776888, + "step": 17256 + }, + { + "epoch": 2.2872100728959577, + "grad_norm": 1.0955398082733154, + "learning_rate": 6.65269188851207e-07, + "loss": 0.0048, + "num_input_tokens_seen": 33778176, + "step": 17257 + }, + { + "epoch": 2.2873426110006627, + "grad_norm": 8.449195861816406, + "learning_rate": 6.650334080295365e-07, + "loss": 0.052, + "num_input_tokens_seen": 33780144, + "step": 17258 + }, + { + "epoch": 2.2874751491053678, + "grad_norm": 6.545801162719727, + "learning_rate": 6.647976625872868e-07, + "loss": 0.0737, + "num_input_tokens_seen": 33781968, + "step": 17259 + }, + { + "epoch": 2.287607687210073, + "grad_norm": 6.022459506988525, + "learning_rate": 6.645619525290043e-07, + "loss": 0.0971, + "num_input_tokens_seen": 33783496, + "step": 17260 + }, + { + "epoch": 2.287740225314778, + "grad_norm": 0.01692957989871502, + "learning_rate": 6.643262778592341e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33785808, + "step": 17261 + }, + { + "epoch": 2.2878727634194833, + "grad_norm": 0.012556714937090874, + "learning_rate": 6.6409063858252e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33787776, + "step": 17262 + }, + { + "epoch": 2.2880053015241884, + "grad_norm": 11.481949806213379, + "learning_rate": 6.638550347034045e-07, + "loss": 0.0821, + "num_input_tokens_seen": 33789488, + "step": 17263 + }, + { + "epoch": 2.2881378396288934, + "grad_norm": 0.008078769780695438, + "learning_rate": 6.636194662264303e-07, + "loss": 0.0, + "num_input_tokens_seen": 33790504, + "step": 17264 + }, + { + "epoch": 2.2882703777335984, + "grad_norm": 14.337054252624512, + "learning_rate": 6.633839331561392e-07, + "loss": 0.1183, + "num_input_tokens_seen": 33793288, + "step": 17265 + }, + { + "epoch": 2.2884029158383035, + "grad_norm": 9.385490417480469, + "learning_rate": 6.631484354970741e-07, + "loss": 0.0376, + "num_input_tokens_seen": 33796216, + "step": 17266 + }, + { + "epoch": 2.2885354539430085, + "grad_norm": 8.287616729736328, + "learning_rate": 6.629129732537739e-07, + "loss": 0.0705, + "num_input_tokens_seen": 33798200, + "step": 17267 + }, + { + "epoch": 2.2886679920477135, + "grad_norm": 6.220067977905273, + "learning_rate": 6.626775464307791e-07, + "loss": 0.087, + "num_input_tokens_seen": 33800256, + "step": 17268 + }, + { + "epoch": 2.288800530152419, + "grad_norm": 8.855901718139648, + "learning_rate": 6.62442155032629e-07, + "loss": 0.0838, + "num_input_tokens_seen": 33802768, + "step": 17269 + }, + { + "epoch": 2.288933068257124, + "grad_norm": 0.005684299394488335, + "learning_rate": 6.622067990638605e-07, + "loss": 0.0, + "num_input_tokens_seen": 33804776, + "step": 17270 + }, + { + "epoch": 2.289065606361829, + "grad_norm": 5.73058557510376, + "learning_rate": 6.619714785290132e-07, + "loss": 0.0335, + "num_input_tokens_seen": 33806040, + "step": 17271 + }, + { + "epoch": 2.289198144466534, + "grad_norm": 0.6521172523498535, + "learning_rate": 6.617361934326244e-07, + "loss": 0.0017, + "num_input_tokens_seen": 33808376, + "step": 17272 + }, + { + "epoch": 2.289330682571239, + "grad_norm": 1.0816845893859863, + "learning_rate": 6.615009437792299e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33810080, + "step": 17273 + }, + { + "epoch": 2.289463220675944, + "grad_norm": 5.530097961425781, + "learning_rate": 6.612657295733657e-07, + "loss": 0.0157, + "num_input_tokens_seen": 33811880, + "step": 17274 + }, + { + "epoch": 2.2895957587806492, + "grad_norm": 0.012489169836044312, + "learning_rate": 6.610305508195666e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33813536, + "step": 17275 + }, + { + "epoch": 2.2897282968853547, + "grad_norm": 0.06914237886667252, + "learning_rate": 6.607954075223663e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33816128, + "step": 17276 + }, + { + "epoch": 2.2898608349900598, + "grad_norm": 0.00520706083625555, + "learning_rate": 6.605602996862992e-07, + "loss": 0.0, + "num_input_tokens_seen": 33818088, + "step": 17277 + }, + { + "epoch": 2.289993373094765, + "grad_norm": 1.816707968711853, + "learning_rate": 6.603252273158994e-07, + "loss": 0.0163, + "num_input_tokens_seen": 33820080, + "step": 17278 + }, + { + "epoch": 2.29012591119947, + "grad_norm": 14.06533432006836, + "learning_rate": 6.600901904156984e-07, + "loss": 0.1308, + "num_input_tokens_seen": 33822288, + "step": 17279 + }, + { + "epoch": 2.290258449304175, + "grad_norm": 0.6660693287849426, + "learning_rate": 6.59855188990228e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33824472, + "step": 17280 + }, + { + "epoch": 2.29039098740888, + "grad_norm": 4.842857360839844, + "learning_rate": 6.59620223044018e-07, + "loss": 0.0346, + "num_input_tokens_seen": 33827584, + "step": 17281 + }, + { + "epoch": 2.290523525513585, + "grad_norm": 0.002522021532058716, + "learning_rate": 6.593852925816005e-07, + "loss": 0.0, + "num_input_tokens_seen": 33830136, + "step": 17282 + }, + { + "epoch": 2.2906560636182904, + "grad_norm": 14.116924285888672, + "learning_rate": 6.591503976075034e-07, + "loss": 0.0853, + "num_input_tokens_seen": 33831800, + "step": 17283 + }, + { + "epoch": 2.2907886017229955, + "grad_norm": 0.1627703607082367, + "learning_rate": 6.589155381262577e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33834160, + "step": 17284 + }, + { + "epoch": 2.2909211398277005, + "grad_norm": 4.929999828338623, + "learning_rate": 6.586807141423903e-07, + "loss": 0.0165, + "num_input_tokens_seen": 33835960, + "step": 17285 + }, + { + "epoch": 2.2910536779324056, + "grad_norm": 2.613187074661255, + "learning_rate": 6.584459256604281e-07, + "loss": 0.0136, + "num_input_tokens_seen": 33837936, + "step": 17286 + }, + { + "epoch": 2.2911862160371106, + "grad_norm": 8.95068359375, + "learning_rate": 6.582111726849e-07, + "loss": 0.0701, + "num_input_tokens_seen": 33841376, + "step": 17287 + }, + { + "epoch": 2.2913187541418156, + "grad_norm": 0.3064829409122467, + "learning_rate": 6.579764552203308e-07, + "loss": 0.0021, + "num_input_tokens_seen": 33843752, + "step": 17288 + }, + { + "epoch": 2.2914512922465207, + "grad_norm": 4.905959129333496, + "learning_rate": 6.577417732712458e-07, + "loss": 0.0363, + "num_input_tokens_seen": 33845680, + "step": 17289 + }, + { + "epoch": 2.291583830351226, + "grad_norm": 56.3450813293457, + "learning_rate": 6.575071268421706e-07, + "loss": 0.2672, + "num_input_tokens_seen": 33847416, + "step": 17290 + }, + { + "epoch": 2.291716368455931, + "grad_norm": 0.002270760713145137, + "learning_rate": 6.572725159376286e-07, + "loss": 0.0, + "num_input_tokens_seen": 33848968, + "step": 17291 + }, + { + "epoch": 2.2918489065606362, + "grad_norm": 0.5188500881195068, + "learning_rate": 6.570379405621446e-07, + "loss": 0.005, + "num_input_tokens_seen": 33850560, + "step": 17292 + }, + { + "epoch": 2.2919814446653413, + "grad_norm": 7.926735877990723, + "learning_rate": 6.568034007202403e-07, + "loss": 0.0786, + "num_input_tokens_seen": 33853016, + "step": 17293 + }, + { + "epoch": 2.2921139827700463, + "grad_norm": 0.5771359205245972, + "learning_rate": 6.565688964164374e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33855240, + "step": 17294 + }, + { + "epoch": 2.2922465208747513, + "grad_norm": 0.03052263706922531, + "learning_rate": 6.563344276552586e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33856840, + "step": 17295 + }, + { + "epoch": 2.2923790589794564, + "grad_norm": 0.004999891854822636, + "learning_rate": 6.560999944412238e-07, + "loss": 0.0, + "num_input_tokens_seen": 33858272, + "step": 17296 + }, + { + "epoch": 2.292511597084162, + "grad_norm": 0.029456255957484245, + "learning_rate": 6.558655967788524e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33860792, + "step": 17297 + }, + { + "epoch": 2.292644135188867, + "grad_norm": 0.009995020925998688, + "learning_rate": 6.556312346726654e-07, + "loss": 0.0, + "num_input_tokens_seen": 33862336, + "step": 17298 + }, + { + "epoch": 2.292776673293572, + "grad_norm": 11.427156448364258, + "learning_rate": 6.553969081271805e-07, + "loss": 0.0707, + "num_input_tokens_seen": 33863992, + "step": 17299 + }, + { + "epoch": 2.292909211398277, + "grad_norm": 0.0020285286009311676, + "learning_rate": 6.55162617146915e-07, + "loss": 0.0, + "num_input_tokens_seen": 33865800, + "step": 17300 + }, + { + "epoch": 2.293041749502982, + "grad_norm": 4.617921352386475, + "learning_rate": 6.549283617363875e-07, + "loss": 0.1224, + "num_input_tokens_seen": 33869032, + "step": 17301 + }, + { + "epoch": 2.293174287607687, + "grad_norm": 8.810025215148926, + "learning_rate": 6.546941419001135e-07, + "loss": 0.0938, + "num_input_tokens_seen": 33871104, + "step": 17302 + }, + { + "epoch": 2.293306825712392, + "grad_norm": 6.478766918182373, + "learning_rate": 6.5445995764261e-07, + "loss": 0.0204, + "num_input_tokens_seen": 33873448, + "step": 17303 + }, + { + "epoch": 2.2934393638170976, + "grad_norm": 3.5151381492614746, + "learning_rate": 6.54225808968392e-07, + "loss": 0.0097, + "num_input_tokens_seen": 33876304, + "step": 17304 + }, + { + "epoch": 2.2935719019218026, + "grad_norm": 0.003657284192740917, + "learning_rate": 6.539916958819733e-07, + "loss": 0.0, + "num_input_tokens_seen": 33877808, + "step": 17305 + }, + { + "epoch": 2.2937044400265076, + "grad_norm": 0.00358693883754313, + "learning_rate": 6.53757618387868e-07, + "loss": 0.0, + "num_input_tokens_seen": 33879408, + "step": 17306 + }, + { + "epoch": 2.2938369781312127, + "grad_norm": 12.573284149169922, + "learning_rate": 6.535235764905889e-07, + "loss": 0.2451, + "num_input_tokens_seen": 33881760, + "step": 17307 + }, + { + "epoch": 2.2939695162359177, + "grad_norm": 2.56776762008667, + "learning_rate": 6.532895701946504e-07, + "loss": 0.0287, + "num_input_tokens_seen": 33883376, + "step": 17308 + }, + { + "epoch": 2.2941020543406228, + "grad_norm": 0.7532691955566406, + "learning_rate": 6.530555995045626e-07, + "loss": 0.0051, + "num_input_tokens_seen": 33884928, + "step": 17309 + }, + { + "epoch": 2.294234592445328, + "grad_norm": 4.874903202056885, + "learning_rate": 6.528216644248369e-07, + "loss": 0.0968, + "num_input_tokens_seen": 33886616, + "step": 17310 + }, + { + "epoch": 2.2943671305500333, + "grad_norm": 3.833845615386963, + "learning_rate": 6.52587764959984e-07, + "loss": 0.0647, + "num_input_tokens_seen": 33889248, + "step": 17311 + }, + { + "epoch": 2.2944996686547383, + "grad_norm": 4.895381927490234, + "learning_rate": 6.523539011145128e-07, + "loss": 0.0362, + "num_input_tokens_seen": 33891480, + "step": 17312 + }, + { + "epoch": 2.2946322067594433, + "grad_norm": 4.5541672706604, + "learning_rate": 6.521200728929328e-07, + "loss": 0.0175, + "num_input_tokens_seen": 33893144, + "step": 17313 + }, + { + "epoch": 2.2947647448641484, + "grad_norm": 3.6391258239746094, + "learning_rate": 6.518862802997534e-07, + "loss": 0.0135, + "num_input_tokens_seen": 33895376, + "step": 17314 + }, + { + "epoch": 2.2948972829688534, + "grad_norm": 3.257713794708252, + "learning_rate": 6.516525233394816e-07, + "loss": 0.0188, + "num_input_tokens_seen": 33896896, + "step": 17315 + }, + { + "epoch": 2.2950298210735585, + "grad_norm": 0.002250396180897951, + "learning_rate": 6.51418802016624e-07, + "loss": 0.0, + "num_input_tokens_seen": 33898976, + "step": 17316 + }, + { + "epoch": 2.295162359178264, + "grad_norm": 3.0367236137390137, + "learning_rate": 6.511851163356867e-07, + "loss": 0.0201, + "num_input_tokens_seen": 33901416, + "step": 17317 + }, + { + "epoch": 2.295294897282969, + "grad_norm": 0.1726343184709549, + "learning_rate": 6.509514663011757e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33902760, + "step": 17318 + }, + { + "epoch": 2.295427435387674, + "grad_norm": 0.002547759795561433, + "learning_rate": 6.507178519175966e-07, + "loss": 0.0, + "num_input_tokens_seen": 33905008, + "step": 17319 + }, + { + "epoch": 2.295559973492379, + "grad_norm": 0.0041004871018230915, + "learning_rate": 6.504842731894531e-07, + "loss": 0.0, + "num_input_tokens_seen": 33906432, + "step": 17320 + }, + { + "epoch": 2.295692511597084, + "grad_norm": 0.0021888678893446922, + "learning_rate": 6.502507301212488e-07, + "loss": 0.0, + "num_input_tokens_seen": 33908648, + "step": 17321 + }, + { + "epoch": 2.295825049701789, + "grad_norm": 2.3207578659057617, + "learning_rate": 6.500172227174859e-07, + "loss": 0.0167, + "num_input_tokens_seen": 33910496, + "step": 17322 + }, + { + "epoch": 2.2959575878064946, + "grad_norm": 14.416236877441406, + "learning_rate": 6.497837509826676e-07, + "loss": 0.1378, + "num_input_tokens_seen": 33912680, + "step": 17323 + }, + { + "epoch": 2.2960901259111997, + "grad_norm": 4.982019424438477, + "learning_rate": 6.495503149212945e-07, + "loss": 0.0722, + "num_input_tokens_seen": 33915152, + "step": 17324 + }, + { + "epoch": 2.2962226640159047, + "grad_norm": 3.0305893421173096, + "learning_rate": 6.493169145378686e-07, + "loss": 0.0164, + "num_input_tokens_seen": 33917536, + "step": 17325 + }, + { + "epoch": 2.2963552021206097, + "grad_norm": 2.0287387371063232, + "learning_rate": 6.490835498368892e-07, + "loss": 0.0164, + "num_input_tokens_seen": 33918984, + "step": 17326 + }, + { + "epoch": 2.2964877402253148, + "grad_norm": 1.8714946508407593, + "learning_rate": 6.488502208228559e-07, + "loss": 0.0056, + "num_input_tokens_seen": 33920328, + "step": 17327 + }, + { + "epoch": 2.29662027833002, + "grad_norm": 3.10929012298584, + "learning_rate": 6.486169275002669e-07, + "loss": 0.0195, + "num_input_tokens_seen": 33921904, + "step": 17328 + }, + { + "epoch": 2.296752816434725, + "grad_norm": 2.7655887603759766, + "learning_rate": 6.483836698736213e-07, + "loss": 0.023, + "num_input_tokens_seen": 33924048, + "step": 17329 + }, + { + "epoch": 2.2968853545394303, + "grad_norm": 0.03369118273258209, + "learning_rate": 6.481504479474148e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33926016, + "step": 17330 + }, + { + "epoch": 2.2970178926441354, + "grad_norm": 1.4533121585845947, + "learning_rate": 6.479172617261464e-07, + "loss": 0.0045, + "num_input_tokens_seen": 33927696, + "step": 17331 + }, + { + "epoch": 2.2971504307488404, + "grad_norm": 8.492051124572754, + "learning_rate": 6.476841112143106e-07, + "loss": 0.0806, + "num_input_tokens_seen": 33929656, + "step": 17332 + }, + { + "epoch": 2.2972829688535454, + "grad_norm": 0.09242302924394608, + "learning_rate": 6.474509964164025e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33932552, + "step": 17333 + }, + { + "epoch": 2.2974155069582505, + "grad_norm": 9.955517768859863, + "learning_rate": 6.472179173369178e-07, + "loss": 0.2098, + "num_input_tokens_seen": 33934816, + "step": 17334 + }, + { + "epoch": 2.2975480450629555, + "grad_norm": 4.512258529663086, + "learning_rate": 6.469848739803497e-07, + "loss": 0.0335, + "num_input_tokens_seen": 33937048, + "step": 17335 + }, + { + "epoch": 2.2976805831676606, + "grad_norm": 0.002681705402210355, + "learning_rate": 6.46751866351191e-07, + "loss": 0.0, + "num_input_tokens_seen": 33938520, + "step": 17336 + }, + { + "epoch": 2.297813121272366, + "grad_norm": 0.028903024271130562, + "learning_rate": 6.465188944539356e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33941328, + "step": 17337 + }, + { + "epoch": 2.297945659377071, + "grad_norm": 0.04518900811672211, + "learning_rate": 6.462859582930736e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33943960, + "step": 17338 + }, + { + "epoch": 2.298078197481776, + "grad_norm": 14.531993865966797, + "learning_rate": 6.460530578730981e-07, + "loss": 0.1869, + "num_input_tokens_seen": 33946264, + "step": 17339 + }, + { + "epoch": 2.298210735586481, + "grad_norm": 1.4146671295166016, + "learning_rate": 6.458201931984984e-07, + "loss": 0.0069, + "num_input_tokens_seen": 33948304, + "step": 17340 + }, + { + "epoch": 2.298343273691186, + "grad_norm": 8.857565879821777, + "learning_rate": 6.455873642737645e-07, + "loss": 0.0814, + "num_input_tokens_seen": 33950536, + "step": 17341 + }, + { + "epoch": 2.298475811795891, + "grad_norm": 4.4139204025268555, + "learning_rate": 6.453545711033849e-07, + "loss": 0.0592, + "num_input_tokens_seen": 33952336, + "step": 17342 + }, + { + "epoch": 2.2986083499005963, + "grad_norm": 0.003098440356552601, + "learning_rate": 6.451218136918486e-07, + "loss": 0.0, + "num_input_tokens_seen": 33954080, + "step": 17343 + }, + { + "epoch": 2.2987408880053017, + "grad_norm": 0.04723961278796196, + "learning_rate": 6.44889092043644e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33956408, + "step": 17344 + }, + { + "epoch": 2.298873426110007, + "grad_norm": 0.01167050376534462, + "learning_rate": 6.446564061632576e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33958672, + "step": 17345 + }, + { + "epoch": 2.299005964214712, + "grad_norm": 4.171689033508301, + "learning_rate": 6.444237560551758e-07, + "loss": 0.0231, + "num_input_tokens_seen": 33960352, + "step": 17346 + }, + { + "epoch": 2.299138502319417, + "grad_norm": 11.312682151794434, + "learning_rate": 6.44191141723883e-07, + "loss": 0.1031, + "num_input_tokens_seen": 33962328, + "step": 17347 + }, + { + "epoch": 2.299271040424122, + "grad_norm": 4.8951311111450195, + "learning_rate": 6.439585631738654e-07, + "loss": 0.0783, + "num_input_tokens_seen": 33964296, + "step": 17348 + }, + { + "epoch": 2.299403578528827, + "grad_norm": 0.0019012545235455036, + "learning_rate": 6.43726020409608e-07, + "loss": 0.0, + "num_input_tokens_seen": 33966328, + "step": 17349 + }, + { + "epoch": 2.299536116633532, + "grad_norm": 10.843986511230469, + "learning_rate": 6.434935134355932e-07, + "loss": 0.0733, + "num_input_tokens_seen": 33968160, + "step": 17350 + }, + { + "epoch": 2.2996686547382374, + "grad_norm": 0.03430134057998657, + "learning_rate": 6.432610422563043e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33970848, + "step": 17351 + }, + { + "epoch": 2.2998011928429425, + "grad_norm": 0.8317570686340332, + "learning_rate": 6.430286068762234e-07, + "loss": 0.004, + "num_input_tokens_seen": 33972328, + "step": 17352 + }, + { + "epoch": 2.2999337309476475, + "grad_norm": 0.0016466263914480805, + "learning_rate": 6.427962072998315e-07, + "loss": 0.0, + "num_input_tokens_seen": 33973720, + "step": 17353 + }, + { + "epoch": 2.3000662690523526, + "grad_norm": 0.003895401954650879, + "learning_rate": 6.425638435316098e-07, + "loss": 0.0, + "num_input_tokens_seen": 33975072, + "step": 17354 + }, + { + "epoch": 2.3001988071570576, + "grad_norm": 0.8389959335327148, + "learning_rate": 6.423315155760393e-07, + "loss": 0.0026, + "num_input_tokens_seen": 33976880, + "step": 17355 + }, + { + "epoch": 2.3003313452617626, + "grad_norm": 0.15988609194755554, + "learning_rate": 6.420992234375986e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33978424, + "step": 17356 + }, + { + "epoch": 2.3004638833664677, + "grad_norm": 0.3522300124168396, + "learning_rate": 6.418669671207666e-07, + "loss": 0.0018, + "num_input_tokens_seen": 33980192, + "step": 17357 + }, + { + "epoch": 2.300596421471173, + "grad_norm": 2.64011905528605e-05, + "learning_rate": 6.416347466300216e-07, + "loss": 0.0, + "num_input_tokens_seen": 33981056, + "step": 17358 + }, + { + "epoch": 2.300728959575878, + "grad_norm": 0.010874209925532341, + "learning_rate": 6.414025619698397e-07, + "loss": 0.0, + "num_input_tokens_seen": 33982080, + "step": 17359 + }, + { + "epoch": 2.3008614976805832, + "grad_norm": 52.74601745605469, + "learning_rate": 6.411704131446986e-07, + "loss": 0.7225, + "num_input_tokens_seen": 33984096, + "step": 17360 + }, + { + "epoch": 2.3009940357852883, + "grad_norm": 0.0023135209921747446, + "learning_rate": 6.409383001590752e-07, + "loss": 0.0, + "num_input_tokens_seen": 33985400, + "step": 17361 + }, + { + "epoch": 2.3011265738899933, + "grad_norm": 5.6897196769714355, + "learning_rate": 6.407062230174438e-07, + "loss": 0.0224, + "num_input_tokens_seen": 33986784, + "step": 17362 + }, + { + "epoch": 2.3012591119946983, + "grad_norm": 6.37033224105835, + "learning_rate": 6.40474181724279e-07, + "loss": 0.0405, + "num_input_tokens_seen": 33989128, + "step": 17363 + }, + { + "epoch": 2.3013916500994034, + "grad_norm": 5.6761579513549805, + "learning_rate": 6.402421762840541e-07, + "loss": 0.0201, + "num_input_tokens_seen": 33991496, + "step": 17364 + }, + { + "epoch": 2.301524188204109, + "grad_norm": 3.370162010192871, + "learning_rate": 6.400102067012437e-07, + "loss": 0.0334, + "num_input_tokens_seen": 33993168, + "step": 17365 + }, + { + "epoch": 2.301656726308814, + "grad_norm": 3.429090976715088, + "learning_rate": 6.397782729803189e-07, + "loss": 0.0384, + "num_input_tokens_seen": 33995208, + "step": 17366 + }, + { + "epoch": 2.301789264413519, + "grad_norm": 0.014693419449031353, + "learning_rate": 6.39546375125753e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33996824, + "step": 17367 + }, + { + "epoch": 2.301921802518224, + "grad_norm": 4.771506309509277, + "learning_rate": 6.393145131420167e-07, + "loss": 0.0355, + "num_input_tokens_seen": 33998208, + "step": 17368 + }, + { + "epoch": 2.302054340622929, + "grad_norm": 4.365818500518799, + "learning_rate": 6.390826870335793e-07, + "loss": 0.0469, + "num_input_tokens_seen": 34000552, + "step": 17369 + }, + { + "epoch": 2.302186878727634, + "grad_norm": 0.0018083525355905294, + "learning_rate": 6.388508968049123e-07, + "loss": 0.0, + "num_input_tokens_seen": 34002112, + "step": 17370 + }, + { + "epoch": 2.302319416832339, + "grad_norm": 9.06754207611084, + "learning_rate": 6.386191424604832e-07, + "loss": 0.1127, + "num_input_tokens_seen": 34003632, + "step": 17371 + }, + { + "epoch": 2.3024519549370446, + "grad_norm": 0.02337239868938923, + "learning_rate": 6.383874240047616e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34005224, + "step": 17372 + }, + { + "epoch": 2.3025844930417496, + "grad_norm": 6.863280296325684, + "learning_rate": 6.381557414422151e-07, + "loss": 0.073, + "num_input_tokens_seen": 34007104, + "step": 17373 + }, + { + "epoch": 2.3027170311464547, + "grad_norm": 2.428260326385498, + "learning_rate": 6.379240947773093e-07, + "loss": 0.026, + "num_input_tokens_seen": 34008888, + "step": 17374 + }, + { + "epoch": 2.3028495692511597, + "grad_norm": 6.709317684173584, + "learning_rate": 6.376924840145126e-07, + "loss": 0.0415, + "num_input_tokens_seen": 34010552, + "step": 17375 + }, + { + "epoch": 2.3029821073558647, + "grad_norm": 0.001654457300901413, + "learning_rate": 6.374609091582892e-07, + "loss": 0.0, + "num_input_tokens_seen": 34011992, + "step": 17376 + }, + { + "epoch": 2.3031146454605698, + "grad_norm": 8.586210250854492, + "learning_rate": 6.372293702131038e-07, + "loss": 0.2208, + "num_input_tokens_seen": 34014768, + "step": 17377 + }, + { + "epoch": 2.303247183565275, + "grad_norm": 0.009012611582875252, + "learning_rate": 6.36997867183422e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34017744, + "step": 17378 + }, + { + "epoch": 2.3033797216699803, + "grad_norm": 7.295900821685791, + "learning_rate": 6.367664000737056e-07, + "loss": 0.0199, + "num_input_tokens_seen": 34020088, + "step": 17379 + }, + { + "epoch": 2.3035122597746853, + "grad_norm": 4.810347557067871, + "learning_rate": 6.365349688884193e-07, + "loss": 0.0312, + "num_input_tokens_seen": 34022312, + "step": 17380 + }, + { + "epoch": 2.3036447978793904, + "grad_norm": 10.125640869140625, + "learning_rate": 6.363035736320244e-07, + "loss": 0.2754, + "num_input_tokens_seen": 34023816, + "step": 17381 + }, + { + "epoch": 2.3037773359840954, + "grad_norm": 25.63713836669922, + "learning_rate": 6.360722143089823e-07, + "loss": 0.2223, + "num_input_tokens_seen": 34026080, + "step": 17382 + }, + { + "epoch": 2.3039098740888004, + "grad_norm": 8.104232788085938, + "learning_rate": 6.358408909237529e-07, + "loss": 0.0653, + "num_input_tokens_seen": 34028392, + "step": 17383 + }, + { + "epoch": 2.3040424121935055, + "grad_norm": 0.022738385945558548, + "learning_rate": 6.356096034807979e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34029440, + "step": 17384 + }, + { + "epoch": 2.3041749502982105, + "grad_norm": 5.936624050140381, + "learning_rate": 6.353783519845752e-07, + "loss": 0.0462, + "num_input_tokens_seen": 34031408, + "step": 17385 + }, + { + "epoch": 2.304307488402916, + "grad_norm": 4.948999404907227, + "learning_rate": 6.351471364395448e-07, + "loss": 0.0506, + "num_input_tokens_seen": 34034312, + "step": 17386 + }, + { + "epoch": 2.304440026507621, + "grad_norm": 5.173861026763916, + "learning_rate": 6.349159568501642e-07, + "loss": 0.0325, + "num_input_tokens_seen": 34036928, + "step": 17387 + }, + { + "epoch": 2.304572564612326, + "grad_norm": 0.008088823407888412, + "learning_rate": 6.346848132208907e-07, + "loss": 0.0, + "num_input_tokens_seen": 34039264, + "step": 17388 + }, + { + "epoch": 2.304705102717031, + "grad_norm": 0.00701061962172389, + "learning_rate": 6.344537055561801e-07, + "loss": 0.0, + "num_input_tokens_seen": 34041416, + "step": 17389 + }, + { + "epoch": 2.304837640821736, + "grad_norm": 6.62491512298584, + "learning_rate": 6.34222633860489e-07, + "loss": 0.0709, + "num_input_tokens_seen": 34043184, + "step": 17390 + }, + { + "epoch": 2.304970178926441, + "grad_norm": 8.353791236877441, + "learning_rate": 6.339915981382733e-07, + "loss": 0.0487, + "num_input_tokens_seen": 34045520, + "step": 17391 + }, + { + "epoch": 2.305102717031146, + "grad_norm": 0.5801758170127869, + "learning_rate": 6.337605983939868e-07, + "loss": 0.002, + "num_input_tokens_seen": 34047208, + "step": 17392 + }, + { + "epoch": 2.3052352551358517, + "grad_norm": 0.09612268209457397, + "learning_rate": 6.335296346320835e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34048992, + "step": 17393 + }, + { + "epoch": 2.3053677932405567, + "grad_norm": 4.952916622161865, + "learning_rate": 6.33298706857016e-07, + "loss": 0.0265, + "num_input_tokens_seen": 34051096, + "step": 17394 + }, + { + "epoch": 2.3055003313452618, + "grad_norm": 2.593785285949707, + "learning_rate": 6.330678150732375e-07, + "loss": 0.0081, + "num_input_tokens_seen": 34053120, + "step": 17395 + }, + { + "epoch": 2.305632869449967, + "grad_norm": 0.009736204519867897, + "learning_rate": 6.328369592851991e-07, + "loss": 0.0, + "num_input_tokens_seen": 34055416, + "step": 17396 + }, + { + "epoch": 2.305765407554672, + "grad_norm": 1.550420880317688, + "learning_rate": 6.326061394973526e-07, + "loss": 0.0034, + "num_input_tokens_seen": 34057256, + "step": 17397 + }, + { + "epoch": 2.305897945659377, + "grad_norm": 9.012833595275879, + "learning_rate": 6.323753557141482e-07, + "loss": 0.0569, + "num_input_tokens_seen": 34058736, + "step": 17398 + }, + { + "epoch": 2.306030483764082, + "grad_norm": 0.5295625925064087, + "learning_rate": 6.321446079400353e-07, + "loss": 0.0015, + "num_input_tokens_seen": 34060792, + "step": 17399 + }, + { + "epoch": 2.3061630218687874, + "grad_norm": 0.010379916988313198, + "learning_rate": 6.319138961794622e-07, + "loss": 0.0, + "num_input_tokens_seen": 34062224, + "step": 17400 + }, + { + "epoch": 2.3062955599734924, + "grad_norm": 0.6112679243087769, + "learning_rate": 6.316832204368778e-07, + "loss": 0.0052, + "num_input_tokens_seen": 34063704, + "step": 17401 + }, + { + "epoch": 2.3064280980781975, + "grad_norm": 0.11307967454195023, + "learning_rate": 6.314525807167307e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34065944, + "step": 17402 + }, + { + "epoch": 2.3065606361829025, + "grad_norm": 27.54071044921875, + "learning_rate": 6.312219770234668e-07, + "loss": 0.24, + "num_input_tokens_seen": 34068440, + "step": 17403 + }, + { + "epoch": 2.3066931742876076, + "grad_norm": 0.0004808777302969247, + "learning_rate": 6.309914093615324e-07, + "loss": 0.0, + "num_input_tokens_seen": 34069632, + "step": 17404 + }, + { + "epoch": 2.3068257123923126, + "grad_norm": 1.9486286640167236, + "learning_rate": 6.307608777353721e-07, + "loss": 0.0122, + "num_input_tokens_seen": 34071432, + "step": 17405 + }, + { + "epoch": 2.306958250497018, + "grad_norm": 3.151869535446167, + "learning_rate": 6.305303821494327e-07, + "loss": 0.0369, + "num_input_tokens_seen": 34073680, + "step": 17406 + }, + { + "epoch": 2.307090788601723, + "grad_norm": 0.1785130351781845, + "learning_rate": 6.302999226081563e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34075440, + "step": 17407 + }, + { + "epoch": 2.307223326706428, + "grad_norm": 0.012536933645606041, + "learning_rate": 6.300694991159878e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34076752, + "step": 17408 + }, + { + "epoch": 2.307355864811133, + "grad_norm": 1.7249717712402344, + "learning_rate": 6.298391116773695e-07, + "loss": 0.0086, + "num_input_tokens_seen": 34078056, + "step": 17409 + }, + { + "epoch": 2.3074884029158382, + "grad_norm": 0.023449795320630074, + "learning_rate": 6.296087602967433e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34080032, + "step": 17410 + }, + { + "epoch": 2.3076209410205433, + "grad_norm": 0.009539180435240269, + "learning_rate": 6.293784449785497e-07, + "loss": 0.0, + "num_input_tokens_seen": 34081704, + "step": 17411 + }, + { + "epoch": 2.3077534791252488, + "grad_norm": 9.424128532409668, + "learning_rate": 6.291481657272311e-07, + "loss": 0.0805, + "num_input_tokens_seen": 34083408, + "step": 17412 + }, + { + "epoch": 2.307886017229954, + "grad_norm": 0.021270060911774635, + "learning_rate": 6.289179225472256e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34085712, + "step": 17413 + }, + { + "epoch": 2.308018555334659, + "grad_norm": 0.05455867946147919, + "learning_rate": 6.286877154429741e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34087864, + "step": 17414 + }, + { + "epoch": 2.308151093439364, + "grad_norm": 3.456040620803833, + "learning_rate": 6.284575444189142e-07, + "loss": 0.0066, + "num_input_tokens_seen": 34090424, + "step": 17415 + }, + { + "epoch": 2.308283631544069, + "grad_norm": 5.385505676269531, + "learning_rate": 6.282274094794835e-07, + "loss": 0.0408, + "num_input_tokens_seen": 34092952, + "step": 17416 + }, + { + "epoch": 2.308416169648774, + "grad_norm": 0.07475034892559052, + "learning_rate": 6.279973106291204e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34094800, + "step": 17417 + }, + { + "epoch": 2.308548707753479, + "grad_norm": 0.001812883885577321, + "learning_rate": 6.277672478722605e-07, + "loss": 0.0, + "num_input_tokens_seen": 34096464, + "step": 17418 + }, + { + "epoch": 2.3086812458581845, + "grad_norm": 0.48870426416397095, + "learning_rate": 6.275372212133387e-07, + "loss": 0.0021, + "num_input_tokens_seen": 34097952, + "step": 17419 + }, + { + "epoch": 2.3088137839628895, + "grad_norm": 9.149806022644043, + "learning_rate": 6.273072306567921e-07, + "loss": 0.0641, + "num_input_tokens_seen": 34100152, + "step": 17420 + }, + { + "epoch": 2.3089463220675945, + "grad_norm": 15.399107933044434, + "learning_rate": 6.270772762070529e-07, + "loss": 0.426, + "num_input_tokens_seen": 34102056, + "step": 17421 + }, + { + "epoch": 2.3090788601722996, + "grad_norm": 0.0061037675477564335, + "learning_rate": 6.268473578685569e-07, + "loss": 0.0, + "num_input_tokens_seen": 34103656, + "step": 17422 + }, + { + "epoch": 2.3092113982770046, + "grad_norm": 5.362113952636719, + "learning_rate": 6.266174756457358e-07, + "loss": 0.0199, + "num_input_tokens_seen": 34105312, + "step": 17423 + }, + { + "epoch": 2.3093439363817096, + "grad_norm": 0.015905849635601044, + "learning_rate": 6.263876295430216e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34108112, + "step": 17424 + }, + { + "epoch": 2.3094764744864147, + "grad_norm": 0.21974192559719086, + "learning_rate": 6.261578195648471e-07, + "loss": 0.0008, + "num_input_tokens_seen": 34110136, + "step": 17425 + }, + { + "epoch": 2.30960901259112, + "grad_norm": 7.264702320098877, + "learning_rate": 6.259280457156419e-07, + "loss": 0.0346, + "num_input_tokens_seen": 34112896, + "step": 17426 + }, + { + "epoch": 2.309741550695825, + "grad_norm": 9.846139907836914, + "learning_rate": 6.256983079998375e-07, + "loss": 0.0257, + "num_input_tokens_seen": 34115064, + "step": 17427 + }, + { + "epoch": 2.3098740888005302, + "grad_norm": 8.1863431930542, + "learning_rate": 6.254686064218629e-07, + "loss": 0.0205, + "num_input_tokens_seen": 34116904, + "step": 17428 + }, + { + "epoch": 2.3100066269052353, + "grad_norm": 2.7293477058410645, + "learning_rate": 6.252389409861464e-07, + "loss": 0.0825, + "num_input_tokens_seen": 34119224, + "step": 17429 + }, + { + "epoch": 2.3101391650099403, + "grad_norm": 0.007741585373878479, + "learning_rate": 6.250093116971159e-07, + "loss": 0.0, + "num_input_tokens_seen": 34121072, + "step": 17430 + }, + { + "epoch": 2.3102717031146454, + "grad_norm": 13.848981857299805, + "learning_rate": 6.247797185591994e-07, + "loss": 0.1134, + "num_input_tokens_seen": 34122296, + "step": 17431 + }, + { + "epoch": 2.3104042412193504, + "grad_norm": 0.0018485405016690493, + "learning_rate": 6.245501615768243e-07, + "loss": 0.0, + "num_input_tokens_seen": 34124584, + "step": 17432 + }, + { + "epoch": 2.310536779324056, + "grad_norm": 0.0035898378118872643, + "learning_rate": 6.243206407544158e-07, + "loss": 0.0, + "num_input_tokens_seen": 34126312, + "step": 17433 + }, + { + "epoch": 2.310669317428761, + "grad_norm": 0.7700881958007812, + "learning_rate": 6.240911560963994e-07, + "loss": 0.0014, + "num_input_tokens_seen": 34128536, + "step": 17434 + }, + { + "epoch": 2.310801855533466, + "grad_norm": 0.039068803191185, + "learning_rate": 6.238617076071998e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34130360, + "step": 17435 + }, + { + "epoch": 2.310934393638171, + "grad_norm": 9.645856857299805, + "learning_rate": 6.236322952912397e-07, + "loss": 0.1447, + "num_input_tokens_seen": 34132576, + "step": 17436 + }, + { + "epoch": 2.311066931742876, + "grad_norm": 0.009736839681863785, + "learning_rate": 6.234029191529437e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34134328, + "step": 17437 + }, + { + "epoch": 2.311199469847581, + "grad_norm": 0.0023013781756162643, + "learning_rate": 6.231735791967344e-07, + "loss": 0.0, + "num_input_tokens_seen": 34135768, + "step": 17438 + }, + { + "epoch": 2.311332007952286, + "grad_norm": 0.0032288292422890663, + "learning_rate": 6.229442754270334e-07, + "loss": 0.0, + "num_input_tokens_seen": 34137864, + "step": 17439 + }, + { + "epoch": 2.3114645460569916, + "grad_norm": 12.149410247802734, + "learning_rate": 6.227150078482619e-07, + "loss": 0.1378, + "num_input_tokens_seen": 34139944, + "step": 17440 + }, + { + "epoch": 2.3115970841616966, + "grad_norm": 0.38071051239967346, + "learning_rate": 6.224857764648399e-07, + "loss": 0.0023, + "num_input_tokens_seen": 34142256, + "step": 17441 + }, + { + "epoch": 2.3117296222664017, + "grad_norm": 0.6701205968856812, + "learning_rate": 6.222565812811865e-07, + "loss": 0.0021, + "num_input_tokens_seen": 34144328, + "step": 17442 + }, + { + "epoch": 2.3118621603711067, + "grad_norm": 0.0004493389278650284, + "learning_rate": 6.220274223017217e-07, + "loss": 0.0, + "num_input_tokens_seen": 34145800, + "step": 17443 + }, + { + "epoch": 2.3119946984758117, + "grad_norm": 0.0058547696098685265, + "learning_rate": 6.217982995308647e-07, + "loss": 0.0, + "num_input_tokens_seen": 34147584, + "step": 17444 + }, + { + "epoch": 2.3121272365805168, + "grad_norm": 6.524087905883789, + "learning_rate": 6.215692129730319e-07, + "loss": 0.0741, + "num_input_tokens_seen": 34149656, + "step": 17445 + }, + { + "epoch": 2.312259774685222, + "grad_norm": 0.07347678393125534, + "learning_rate": 6.213401626326407e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34151488, + "step": 17446 + }, + { + "epoch": 2.3123923127899273, + "grad_norm": 5.120787620544434, + "learning_rate": 6.211111485141064e-07, + "loss": 0.0344, + "num_input_tokens_seen": 34153144, + "step": 17447 + }, + { + "epoch": 2.3125248508946323, + "grad_norm": 5.737492561340332, + "learning_rate": 6.208821706218454e-07, + "loss": 0.0298, + "num_input_tokens_seen": 34154944, + "step": 17448 + }, + { + "epoch": 2.3126573889993374, + "grad_norm": 0.05463609844446182, + "learning_rate": 6.206532289602732e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34156928, + "step": 17449 + }, + { + "epoch": 2.3127899271040424, + "grad_norm": 7.841002464294434, + "learning_rate": 6.204243235338031e-07, + "loss": 0.2214, + "num_input_tokens_seen": 34158720, + "step": 17450 + }, + { + "epoch": 2.3129224652087474, + "grad_norm": 7.806709289550781, + "learning_rate": 6.201954543468489e-07, + "loss": 0.1132, + "num_input_tokens_seen": 34161208, + "step": 17451 + }, + { + "epoch": 2.3130550033134525, + "grad_norm": 6.092062473297119, + "learning_rate": 6.199666214038221e-07, + "loss": 0.061, + "num_input_tokens_seen": 34163440, + "step": 17452 + }, + { + "epoch": 2.3131875414181575, + "grad_norm": 12.838902473449707, + "learning_rate": 6.197378247091371e-07, + "loss": 0.219, + "num_input_tokens_seen": 34165624, + "step": 17453 + }, + { + "epoch": 2.313320079522863, + "grad_norm": 8.640066146850586, + "learning_rate": 6.195090642672028e-07, + "loss": 0.1452, + "num_input_tokens_seen": 34168928, + "step": 17454 + }, + { + "epoch": 2.313452617627568, + "grad_norm": 1.8319815397262573, + "learning_rate": 6.192803400824319e-07, + "loss": 0.0304, + "num_input_tokens_seen": 34170888, + "step": 17455 + }, + { + "epoch": 2.313585155732273, + "grad_norm": 15.635564804077148, + "learning_rate": 6.190516521592333e-07, + "loss": 0.2442, + "num_input_tokens_seen": 34173792, + "step": 17456 + }, + { + "epoch": 2.313717693836978, + "grad_norm": 0.3475709557533264, + "learning_rate": 6.18823000502016e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34175000, + "step": 17457 + }, + { + "epoch": 2.313850231941683, + "grad_norm": 10.969120025634766, + "learning_rate": 6.185943851151896e-07, + "loss": 0.077, + "num_input_tokens_seen": 34176984, + "step": 17458 + }, + { + "epoch": 2.313982770046388, + "grad_norm": 9.706406593322754, + "learning_rate": 6.183658060031614e-07, + "loss": 0.0662, + "num_input_tokens_seen": 34179128, + "step": 17459 + }, + { + "epoch": 2.3141153081510932, + "grad_norm": 7.153923511505127, + "learning_rate": 6.181372631703375e-07, + "loss": 0.0451, + "num_input_tokens_seen": 34181608, + "step": 17460 + }, + { + "epoch": 2.3142478462557987, + "grad_norm": 12.300728797912598, + "learning_rate": 6.179087566211264e-07, + "loss": 0.0482, + "num_input_tokens_seen": 34183088, + "step": 17461 + }, + { + "epoch": 2.3143803843605038, + "grad_norm": 6.0571722984313965, + "learning_rate": 6.176802863599321e-07, + "loss": 0.0868, + "num_input_tokens_seen": 34184704, + "step": 17462 + }, + { + "epoch": 2.314512922465209, + "grad_norm": 5.647861480712891, + "learning_rate": 6.174518523911613e-07, + "loss": 0.034, + "num_input_tokens_seen": 34186272, + "step": 17463 + }, + { + "epoch": 2.314645460569914, + "grad_norm": 8.814887046813965, + "learning_rate": 6.172234547192174e-07, + "loss": 0.0987, + "num_input_tokens_seen": 34187792, + "step": 17464 + }, + { + "epoch": 2.314777998674619, + "grad_norm": 1.4750927686691284, + "learning_rate": 6.169950933485042e-07, + "loss": 0.0103, + "num_input_tokens_seen": 34190128, + "step": 17465 + }, + { + "epoch": 2.314910536779324, + "grad_norm": 0.6887134909629822, + "learning_rate": 6.167667682834236e-07, + "loss": 0.0019, + "num_input_tokens_seen": 34192536, + "step": 17466 + }, + { + "epoch": 2.315043074884029, + "grad_norm": 2.6638736724853516, + "learning_rate": 6.165384795283799e-07, + "loss": 0.0078, + "num_input_tokens_seen": 34194648, + "step": 17467 + }, + { + "epoch": 2.3151756129887344, + "grad_norm": 13.005650520324707, + "learning_rate": 6.16310227087773e-07, + "loss": 0.2692, + "num_input_tokens_seen": 34196904, + "step": 17468 + }, + { + "epoch": 2.3153081510934395, + "grad_norm": 11.053622245788574, + "learning_rate": 6.160820109660048e-07, + "loss": 0.1966, + "num_input_tokens_seen": 34199080, + "step": 17469 + }, + { + "epoch": 2.3154406891981445, + "grad_norm": 9.409247398376465, + "learning_rate": 6.158538311674753e-07, + "loss": 0.0866, + "num_input_tokens_seen": 34200928, + "step": 17470 + }, + { + "epoch": 2.3155732273028495, + "grad_norm": 2.0592150688171387, + "learning_rate": 6.156256876965838e-07, + "loss": 0.0075, + "num_input_tokens_seen": 34204216, + "step": 17471 + }, + { + "epoch": 2.3157057654075546, + "grad_norm": 13.114396095275879, + "learning_rate": 6.153975805577281e-07, + "loss": 0.2038, + "num_input_tokens_seen": 34205888, + "step": 17472 + }, + { + "epoch": 2.3158383035122596, + "grad_norm": 0.004014753736555576, + "learning_rate": 6.151695097553073e-07, + "loss": 0.0, + "num_input_tokens_seen": 34207552, + "step": 17473 + }, + { + "epoch": 2.3159708416169646, + "grad_norm": 5.944278240203857, + "learning_rate": 6.149414752937191e-07, + "loss": 0.0299, + "num_input_tokens_seen": 34209816, + "step": 17474 + }, + { + "epoch": 2.31610337972167, + "grad_norm": 0.00847630389034748, + "learning_rate": 6.1471347717736e-07, + "loss": 0.0, + "num_input_tokens_seen": 34211296, + "step": 17475 + }, + { + "epoch": 2.316235917826375, + "grad_norm": 7.452869892120361, + "learning_rate": 6.144855154106256e-07, + "loss": 0.1066, + "num_input_tokens_seen": 34213184, + "step": 17476 + }, + { + "epoch": 2.31636845593108, + "grad_norm": 6.115650177001953, + "learning_rate": 6.142575899979103e-07, + "loss": 0.1479, + "num_input_tokens_seen": 34216040, + "step": 17477 + }, + { + "epoch": 2.3165009940357852, + "grad_norm": 0.02240338735282421, + "learning_rate": 6.140297009436097e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34218040, + "step": 17478 + }, + { + "epoch": 2.3166335321404903, + "grad_norm": 8.943943977355957, + "learning_rate": 6.138018482521183e-07, + "loss": 0.0322, + "num_input_tokens_seen": 34219688, + "step": 17479 + }, + { + "epoch": 2.3167660702451953, + "grad_norm": 0.027780799195170403, + "learning_rate": 6.135740319278285e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34221992, + "step": 17480 + }, + { + "epoch": 2.3168986083499004, + "grad_norm": 7.907403469085693, + "learning_rate": 6.133462519751327e-07, + "loss": 0.0222, + "num_input_tokens_seen": 34223448, + "step": 17481 + }, + { + "epoch": 2.317031146454606, + "grad_norm": 0.031955257058143616, + "learning_rate": 6.131185083984226e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34226208, + "step": 17482 + }, + { + "epoch": 2.317163684559311, + "grad_norm": 0.004978460725396872, + "learning_rate": 6.128908012020887e-07, + "loss": 0.0, + "num_input_tokens_seen": 34227936, + "step": 17483 + }, + { + "epoch": 2.317296222664016, + "grad_norm": 0.023532742634415627, + "learning_rate": 6.12663130390522e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34230144, + "step": 17484 + }, + { + "epoch": 2.317428760768721, + "grad_norm": 5.205182075500488, + "learning_rate": 6.124354959681131e-07, + "loss": 0.093, + "num_input_tokens_seen": 34231816, + "step": 17485 + }, + { + "epoch": 2.317561298873426, + "grad_norm": 0.02311347983777523, + "learning_rate": 6.122078979392498e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34233904, + "step": 17486 + }, + { + "epoch": 2.317693836978131, + "grad_norm": 0.003053916385397315, + "learning_rate": 6.119803363083205e-07, + "loss": 0.0, + "num_input_tokens_seen": 34236184, + "step": 17487 + }, + { + "epoch": 2.317826375082836, + "grad_norm": 5.242100238800049, + "learning_rate": 6.117528110797122e-07, + "loss": 0.0513, + "num_input_tokens_seen": 34238384, + "step": 17488 + }, + { + "epoch": 2.3179589131875415, + "grad_norm": 1.8733874559402466, + "learning_rate": 6.11525322257813e-07, + "loss": 0.0075, + "num_input_tokens_seen": 34241056, + "step": 17489 + }, + { + "epoch": 2.3180914512922466, + "grad_norm": 11.557846069335938, + "learning_rate": 6.112978698470073e-07, + "loss": 0.1964, + "num_input_tokens_seen": 34243896, + "step": 17490 + }, + { + "epoch": 2.3182239893969516, + "grad_norm": 0.04524039849638939, + "learning_rate": 6.110704538516829e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34245288, + "step": 17491 + }, + { + "epoch": 2.3183565275016567, + "grad_norm": 2.667144536972046, + "learning_rate": 6.108430742762231e-07, + "loss": 0.0251, + "num_input_tokens_seen": 34246584, + "step": 17492 + }, + { + "epoch": 2.3184890656063617, + "grad_norm": 5.066293239593506, + "learning_rate": 6.106157311250111e-07, + "loss": 0.0443, + "num_input_tokens_seen": 34248840, + "step": 17493 + }, + { + "epoch": 2.318621603711067, + "grad_norm": 6.315952301025391, + "learning_rate": 6.103884244024322e-07, + "loss": 0.0969, + "num_input_tokens_seen": 34250496, + "step": 17494 + }, + { + "epoch": 2.318754141815772, + "grad_norm": 0.030659189447760582, + "learning_rate": 6.10161154112868e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34252152, + "step": 17495 + }, + { + "epoch": 2.3188866799204773, + "grad_norm": 6.6434645652771, + "learning_rate": 6.099339202606997e-07, + "loss": 0.0696, + "num_input_tokens_seen": 34254248, + "step": 17496 + }, + { + "epoch": 2.3190192180251823, + "grad_norm": 5.905621528625488, + "learning_rate": 6.097067228503101e-07, + "loss": 0.0397, + "num_input_tokens_seen": 34256592, + "step": 17497 + }, + { + "epoch": 2.3191517561298873, + "grad_norm": 0.005513168405741453, + "learning_rate": 6.094795618860789e-07, + "loss": 0.0, + "num_input_tokens_seen": 34258024, + "step": 17498 + }, + { + "epoch": 2.3192842942345924, + "grad_norm": 0.559405505657196, + "learning_rate": 6.092524373723852e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34260064, + "step": 17499 + }, + { + "epoch": 2.3194168323392974, + "grad_norm": 6.910223007202148, + "learning_rate": 6.090253493136098e-07, + "loss": 0.0494, + "num_input_tokens_seen": 34261832, + "step": 17500 + }, + { + "epoch": 2.319549370444003, + "grad_norm": 6.656306266784668, + "learning_rate": 6.087982977141293e-07, + "loss": 0.0762, + "num_input_tokens_seen": 34263784, + "step": 17501 + }, + { + "epoch": 2.319681908548708, + "grad_norm": 0.011607710272073746, + "learning_rate": 6.08571282578323e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34266144, + "step": 17502 + }, + { + "epoch": 2.319814446653413, + "grad_norm": 0.09195312112569809, + "learning_rate": 6.083443039105671e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34267784, + "step": 17503 + }, + { + "epoch": 2.319946984758118, + "grad_norm": 0.049151066690683365, + "learning_rate": 6.081173617152375e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34269048, + "step": 17504 + }, + { + "epoch": 2.320079522862823, + "grad_norm": 1.0855520963668823, + "learning_rate": 6.078904559967108e-07, + "loss": 0.0037, + "num_input_tokens_seen": 34271224, + "step": 17505 + }, + { + "epoch": 2.320212060967528, + "grad_norm": 0.02064576745033264, + "learning_rate": 6.076635867593616e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34272872, + "step": 17506 + }, + { + "epoch": 2.320344599072233, + "grad_norm": 0.24677470326423645, + "learning_rate": 6.074367540075632e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34274416, + "step": 17507 + }, + { + "epoch": 2.3204771371769386, + "grad_norm": 0.006489635445177555, + "learning_rate": 6.072099577456902e-07, + "loss": 0.0, + "num_input_tokens_seen": 34277424, + "step": 17508 + }, + { + "epoch": 2.3206096752816436, + "grad_norm": 0.04955438897013664, + "learning_rate": 6.069831979781146e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34278896, + "step": 17509 + }, + { + "epoch": 2.3207422133863487, + "grad_norm": 0.3823723793029785, + "learning_rate": 6.067564747092095e-07, + "loss": 0.001, + "num_input_tokens_seen": 34281480, + "step": 17510 + }, + { + "epoch": 2.3208747514910537, + "grad_norm": 0.013615868985652924, + "learning_rate": 6.065297879433458e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34283104, + "step": 17511 + }, + { + "epoch": 2.3210072895957587, + "grad_norm": 9.324460983276367, + "learning_rate": 6.063031376848938e-07, + "loss": 0.0176, + "num_input_tokens_seen": 34284752, + "step": 17512 + }, + { + "epoch": 2.321139827700464, + "grad_norm": 0.017228689044713974, + "learning_rate": 6.06076523938223e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34287584, + "step": 17513 + }, + { + "epoch": 2.321272365805169, + "grad_norm": 3.7913687229156494, + "learning_rate": 6.058499467077033e-07, + "loss": 0.0407, + "num_input_tokens_seen": 34289824, + "step": 17514 + }, + { + "epoch": 2.3214049039098743, + "grad_norm": 0.0031578068155795336, + "learning_rate": 6.056234059977043e-07, + "loss": 0.0, + "num_input_tokens_seen": 34291168, + "step": 17515 + }, + { + "epoch": 2.3215374420145793, + "grad_norm": 0.03165988251566887, + "learning_rate": 6.053969018125927e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34293304, + "step": 17516 + }, + { + "epoch": 2.3216699801192844, + "grad_norm": 7.365094184875488, + "learning_rate": 6.051704341567358e-07, + "loss": 0.0518, + "num_input_tokens_seen": 34295616, + "step": 17517 + }, + { + "epoch": 2.3218025182239894, + "grad_norm": 0.009375381283462048, + "learning_rate": 6.049440030345003e-07, + "loss": 0.0, + "num_input_tokens_seen": 34298152, + "step": 17518 + }, + { + "epoch": 2.3219350563286945, + "grad_norm": 8.492448806762695, + "learning_rate": 6.04717608450251e-07, + "loss": 0.0381, + "num_input_tokens_seen": 34299664, + "step": 17519 + }, + { + "epoch": 2.3220675944333995, + "grad_norm": 0.08540981262922287, + "learning_rate": 6.044912504083536e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34301096, + "step": 17520 + }, + { + "epoch": 2.3222001325381045, + "grad_norm": 2.470785140991211, + "learning_rate": 6.042649289131733e-07, + "loss": 0.0222, + "num_input_tokens_seen": 34303216, + "step": 17521 + }, + { + "epoch": 2.32233267064281, + "grad_norm": 1.3713630437850952, + "learning_rate": 6.040386439690729e-07, + "loss": 0.0145, + "num_input_tokens_seen": 34304960, + "step": 17522 + }, + { + "epoch": 2.322465208747515, + "grad_norm": 1.4415295124053955, + "learning_rate": 6.038123955804154e-07, + "loss": 0.0022, + "num_input_tokens_seen": 34306656, + "step": 17523 + }, + { + "epoch": 2.32259774685222, + "grad_norm": 0.616477370262146, + "learning_rate": 6.035861837515633e-07, + "loss": 0.0016, + "num_input_tokens_seen": 34308576, + "step": 17524 + }, + { + "epoch": 2.322730284956925, + "grad_norm": 20.2178897857666, + "learning_rate": 6.033600084868768e-07, + "loss": 0.2979, + "num_input_tokens_seen": 34310992, + "step": 17525 + }, + { + "epoch": 2.32286282306163, + "grad_norm": 19.339744567871094, + "learning_rate": 6.03133869790718e-07, + "loss": 0.0704, + "num_input_tokens_seen": 34313544, + "step": 17526 + }, + { + "epoch": 2.322995361166335, + "grad_norm": 0.0014028099831193686, + "learning_rate": 6.029077676674472e-07, + "loss": 0.0, + "num_input_tokens_seen": 34316032, + "step": 17527 + }, + { + "epoch": 2.3231278992710402, + "grad_norm": 4.5301833152771, + "learning_rate": 6.026817021214237e-07, + "loss": 0.0536, + "num_input_tokens_seen": 34318136, + "step": 17528 + }, + { + "epoch": 2.3232604373757457, + "grad_norm": 6.068673133850098, + "learning_rate": 6.024556731570056e-07, + "loss": 0.1258, + "num_input_tokens_seen": 34320352, + "step": 17529 + }, + { + "epoch": 2.3233929754804508, + "grad_norm": 14.968864440917969, + "learning_rate": 6.022296807785508e-07, + "loss": 0.2476, + "num_input_tokens_seen": 34322648, + "step": 17530 + }, + { + "epoch": 2.323525513585156, + "grad_norm": 0.001745099201798439, + "learning_rate": 6.020037249904164e-07, + "loss": 0.0, + "num_input_tokens_seen": 34324120, + "step": 17531 + }, + { + "epoch": 2.323658051689861, + "grad_norm": 8.776473045349121, + "learning_rate": 6.017778057969609e-07, + "loss": 0.0319, + "num_input_tokens_seen": 34326000, + "step": 17532 + }, + { + "epoch": 2.323790589794566, + "grad_norm": 0.08864894509315491, + "learning_rate": 6.015519232025386e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34327576, + "step": 17533 + }, + { + "epoch": 2.323923127899271, + "grad_norm": 0.003666086122393608, + "learning_rate": 6.013260772115046e-07, + "loss": 0.0, + "num_input_tokens_seen": 34328952, + "step": 17534 + }, + { + "epoch": 2.324055666003976, + "grad_norm": 0.023752545937895775, + "learning_rate": 6.011002678282132e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34332288, + "step": 17535 + }, + { + "epoch": 2.3241882041086814, + "grad_norm": 8.306499481201172, + "learning_rate": 6.008744950570191e-07, + "loss": 0.1092, + "num_input_tokens_seen": 34334576, + "step": 17536 + }, + { + "epoch": 2.3243207422133865, + "grad_norm": 8.844409942626953, + "learning_rate": 6.006487589022744e-07, + "loss": 0.0365, + "num_input_tokens_seen": 34335944, + "step": 17537 + }, + { + "epoch": 2.3244532803180915, + "grad_norm": 0.24395331740379333, + "learning_rate": 6.004230593683327e-07, + "loss": 0.0014, + "num_input_tokens_seen": 34338768, + "step": 17538 + }, + { + "epoch": 2.3245858184227965, + "grad_norm": 0.002414434216916561, + "learning_rate": 6.001973964595448e-07, + "loss": 0.0, + "num_input_tokens_seen": 34339976, + "step": 17539 + }, + { + "epoch": 2.3247183565275016, + "grad_norm": 0.125911682844162, + "learning_rate": 5.99971770180261e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34342448, + "step": 17540 + }, + { + "epoch": 2.3248508946322066, + "grad_norm": 6.829288959503174, + "learning_rate": 5.997461805348329e-07, + "loss": 0.1215, + "num_input_tokens_seen": 34344600, + "step": 17541 + }, + { + "epoch": 2.3249834327369117, + "grad_norm": 5.314018249511719, + "learning_rate": 5.995206275276091e-07, + "loss": 0.0511, + "num_input_tokens_seen": 34346912, + "step": 17542 + }, + { + "epoch": 2.325115970841617, + "grad_norm": 1.6567069292068481, + "learning_rate": 5.992951111629383e-07, + "loss": 0.0018, + "num_input_tokens_seen": 34349424, + "step": 17543 + }, + { + "epoch": 2.325248508946322, + "grad_norm": 0.2776012718677521, + "learning_rate": 5.990696314451697e-07, + "loss": 0.0019, + "num_input_tokens_seen": 34352312, + "step": 17544 + }, + { + "epoch": 2.325381047051027, + "grad_norm": 0.9171609878540039, + "learning_rate": 5.988441883786491e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34354080, + "step": 17545 + }, + { + "epoch": 2.3255135851557323, + "grad_norm": 1.4970611333847046, + "learning_rate": 5.98618781967725e-07, + "loss": 0.0071, + "num_input_tokens_seen": 34355952, + "step": 17546 + }, + { + "epoch": 2.3256461232604373, + "grad_norm": 0.01866193301975727, + "learning_rate": 5.983934122167423e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34357944, + "step": 17547 + }, + { + "epoch": 2.3257786613651423, + "grad_norm": 3.1532461643218994, + "learning_rate": 5.981680791300465e-07, + "loss": 0.0095, + "num_input_tokens_seen": 34359232, + "step": 17548 + }, + { + "epoch": 2.3259111994698474, + "grad_norm": 6.691530704498291, + "learning_rate": 5.979427827119816e-07, + "loss": 0.0979, + "num_input_tokens_seen": 34361424, + "step": 17549 + }, + { + "epoch": 2.326043737574553, + "grad_norm": 0.0038891262374818325, + "learning_rate": 5.977175229668919e-07, + "loss": 0.0, + "num_input_tokens_seen": 34363136, + "step": 17550 + }, + { + "epoch": 2.326176275679258, + "grad_norm": 0.061748627573251724, + "learning_rate": 5.974922998991211e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34364912, + "step": 17551 + }, + { + "epoch": 2.326308813783963, + "grad_norm": 0.21538491547107697, + "learning_rate": 5.972671135130118e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34367016, + "step": 17552 + }, + { + "epoch": 2.326441351888668, + "grad_norm": 0.022838467732071877, + "learning_rate": 5.970419638129046e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34368632, + "step": 17553 + }, + { + "epoch": 2.326573889993373, + "grad_norm": 5.000819206237793, + "learning_rate": 5.968168508031407e-07, + "loss": 0.0393, + "num_input_tokens_seen": 34370168, + "step": 17554 + }, + { + "epoch": 2.326706428098078, + "grad_norm": 3.834779739379883, + "learning_rate": 5.965917744880617e-07, + "loss": 0.0788, + "num_input_tokens_seen": 34372136, + "step": 17555 + }, + { + "epoch": 2.326838966202783, + "grad_norm": 0.0011536399833858013, + "learning_rate": 5.963667348720053e-07, + "loss": 0.0, + "num_input_tokens_seen": 34374408, + "step": 17556 + }, + { + "epoch": 2.3269715043074886, + "grad_norm": 0.04256986454129219, + "learning_rate": 5.961417319593126e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34376312, + "step": 17557 + }, + { + "epoch": 2.3271040424121936, + "grad_norm": 0.032977521419525146, + "learning_rate": 5.959167657543206e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34378272, + "step": 17558 + }, + { + "epoch": 2.3272365805168986, + "grad_norm": 0.0018362957052886486, + "learning_rate": 5.956918362613667e-07, + "loss": 0.0, + "num_input_tokens_seen": 34379568, + "step": 17559 + }, + { + "epoch": 2.3273691186216037, + "grad_norm": 0.31921473145484924, + "learning_rate": 5.954669434847873e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34381752, + "step": 17560 + }, + { + "epoch": 2.3275016567263087, + "grad_norm": 1.303246259689331, + "learning_rate": 5.952420874289192e-07, + "loss": 0.0108, + "num_input_tokens_seen": 34383656, + "step": 17561 + }, + { + "epoch": 2.3276341948310137, + "grad_norm": 4.99975061416626, + "learning_rate": 5.950172680980984e-07, + "loss": 0.035, + "num_input_tokens_seen": 34386096, + "step": 17562 + }, + { + "epoch": 2.327766732935719, + "grad_norm": 0.11590797454118729, + "learning_rate": 5.947924854966589e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34388016, + "step": 17563 + }, + { + "epoch": 2.3278992710404243, + "grad_norm": 0.016185129061341286, + "learning_rate": 5.945677396289345e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34390080, + "step": 17564 + }, + { + "epoch": 2.3280318091451293, + "grad_norm": 8.13571834564209, + "learning_rate": 5.943430304992584e-07, + "loss": 0.0579, + "num_input_tokens_seen": 34392320, + "step": 17565 + }, + { + "epoch": 2.3281643472498343, + "grad_norm": 0.0026644368190318346, + "learning_rate": 5.941183581119628e-07, + "loss": 0.0, + "num_input_tokens_seen": 34393632, + "step": 17566 + }, + { + "epoch": 2.3282968853545394, + "grad_norm": 0.5635635852813721, + "learning_rate": 5.9389372247138e-07, + "loss": 0.0046, + "num_input_tokens_seen": 34395712, + "step": 17567 + }, + { + "epoch": 2.3284294234592444, + "grad_norm": 0.028154077008366585, + "learning_rate": 5.93669123581842e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34397280, + "step": 17568 + }, + { + "epoch": 2.3285619615639495, + "grad_norm": 0.045411452651023865, + "learning_rate": 5.934445614476783e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34400192, + "step": 17569 + }, + { + "epoch": 2.3286944996686545, + "grad_norm": 0.38398876786231995, + "learning_rate": 5.93220036073219e-07, + "loss": 0.0018, + "num_input_tokens_seen": 34402632, + "step": 17570 + }, + { + "epoch": 2.32882703777336, + "grad_norm": 0.02424808032810688, + "learning_rate": 5.929955474627918e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34404312, + "step": 17571 + }, + { + "epoch": 2.328959575878065, + "grad_norm": 0.024519380182027817, + "learning_rate": 5.92771095620727e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34406496, + "step": 17572 + }, + { + "epoch": 2.32909211398277, + "grad_norm": 2.9812142848968506, + "learning_rate": 5.925466805513502e-07, + "loss": 0.0093, + "num_input_tokens_seen": 34408376, + "step": 17573 + }, + { + "epoch": 2.329224652087475, + "grad_norm": 0.002150762127712369, + "learning_rate": 5.9232230225899e-07, + "loss": 0.0, + "num_input_tokens_seen": 34409896, + "step": 17574 + }, + { + "epoch": 2.32935719019218, + "grad_norm": 0.24683372676372528, + "learning_rate": 5.920979607479722e-07, + "loss": 0.0013, + "num_input_tokens_seen": 34411864, + "step": 17575 + }, + { + "epoch": 2.329489728296885, + "grad_norm": 0.06616546958684921, + "learning_rate": 5.918736560226207e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34413440, + "step": 17576 + }, + { + "epoch": 2.3296222664015906, + "grad_norm": 0.39153680205345154, + "learning_rate": 5.916493880872626e-07, + "loss": 0.0008, + "num_input_tokens_seen": 34414840, + "step": 17577 + }, + { + "epoch": 2.3297548045062957, + "grad_norm": 2.3274972438812256, + "learning_rate": 5.914251569462203e-07, + "loss": 0.0064, + "num_input_tokens_seen": 34416264, + "step": 17578 + }, + { + "epoch": 2.3298873426110007, + "grad_norm": 0.011358942836523056, + "learning_rate": 5.912009626038173e-07, + "loss": 0.0, + "num_input_tokens_seen": 34417808, + "step": 17579 + }, + { + "epoch": 2.3300198807157058, + "grad_norm": 1.6097493171691895, + "learning_rate": 5.909768050643774e-07, + "loss": 0.0071, + "num_input_tokens_seen": 34419184, + "step": 17580 + }, + { + "epoch": 2.330152418820411, + "grad_norm": 0.07590187340974808, + "learning_rate": 5.907526843322215e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34421040, + "step": 17581 + }, + { + "epoch": 2.330284956925116, + "grad_norm": 1.1785894632339478, + "learning_rate": 5.905286004116701e-07, + "loss": 0.011, + "num_input_tokens_seen": 34423184, + "step": 17582 + }, + { + "epoch": 2.3304174950298213, + "grad_norm": 0.01239937637001276, + "learning_rate": 5.903045533070453e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34425616, + "step": 17583 + }, + { + "epoch": 2.3305500331345264, + "grad_norm": 4.729865074157715, + "learning_rate": 5.900805430226659e-07, + "loss": 0.0315, + "num_input_tokens_seen": 34427488, + "step": 17584 + }, + { + "epoch": 2.3306825712392314, + "grad_norm": 8.750303268432617, + "learning_rate": 5.898565695628513e-07, + "loss": 0.1421, + "num_input_tokens_seen": 34429720, + "step": 17585 + }, + { + "epoch": 2.3308151093439364, + "grad_norm": 2.342752456665039, + "learning_rate": 5.896326329319202e-07, + "loss": 0.0149, + "num_input_tokens_seen": 34431872, + "step": 17586 + }, + { + "epoch": 2.3309476474486415, + "grad_norm": 0.30999332666397095, + "learning_rate": 5.894087331341888e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34433552, + "step": 17587 + }, + { + "epoch": 2.3310801855533465, + "grad_norm": 0.008141516707837582, + "learning_rate": 5.891848701739761e-07, + "loss": 0.0, + "num_input_tokens_seen": 34435480, + "step": 17588 + }, + { + "epoch": 2.3312127236580515, + "grad_norm": 0.00680879782885313, + "learning_rate": 5.88961044055597e-07, + "loss": 0.0, + "num_input_tokens_seen": 34438048, + "step": 17589 + }, + { + "epoch": 2.331345261762757, + "grad_norm": 2.4601306915283203, + "learning_rate": 5.88737254783367e-07, + "loss": 0.009, + "num_input_tokens_seen": 34439640, + "step": 17590 + }, + { + "epoch": 2.331477799867462, + "grad_norm": 15.724160194396973, + "learning_rate": 5.885135023616018e-07, + "loss": 0.2631, + "num_input_tokens_seen": 34441520, + "step": 17591 + }, + { + "epoch": 2.331610337972167, + "grad_norm": 0.8926312923431396, + "learning_rate": 5.882897867946142e-07, + "loss": 0.0032, + "num_input_tokens_seen": 34443424, + "step": 17592 + }, + { + "epoch": 2.331742876076872, + "grad_norm": 0.7517162561416626, + "learning_rate": 5.880661080867189e-07, + "loss": 0.002, + "num_input_tokens_seen": 34445096, + "step": 17593 + }, + { + "epoch": 2.331875414181577, + "grad_norm": 6.381129741668701, + "learning_rate": 5.87842466242228e-07, + "loss": 0.198, + "num_input_tokens_seen": 34448240, + "step": 17594 + }, + { + "epoch": 2.332007952286282, + "grad_norm": 0.0035911162849515676, + "learning_rate": 5.876188612654535e-07, + "loss": 0.0, + "num_input_tokens_seen": 34450992, + "step": 17595 + }, + { + "epoch": 2.3321404903909873, + "grad_norm": 0.4697306454181671, + "learning_rate": 5.87395293160706e-07, + "loss": 0.0012, + "num_input_tokens_seen": 34452304, + "step": 17596 + }, + { + "epoch": 2.3322730284956927, + "grad_norm": 8.574317932128906, + "learning_rate": 5.87171761932297e-07, + "loss": 0.0329, + "num_input_tokens_seen": 34454016, + "step": 17597 + }, + { + "epoch": 2.3324055666003978, + "grad_norm": 9.321894645690918, + "learning_rate": 5.869482675845362e-07, + "loss": 0.0835, + "num_input_tokens_seen": 34455512, + "step": 17598 + }, + { + "epoch": 2.332538104705103, + "grad_norm": 4.100316047668457, + "learning_rate": 5.86724810121733e-07, + "loss": 0.0285, + "num_input_tokens_seen": 34457192, + "step": 17599 + }, + { + "epoch": 2.332670642809808, + "grad_norm": 0.007517335936427116, + "learning_rate": 5.865013895481949e-07, + "loss": 0.0, + "num_input_tokens_seen": 34459344, + "step": 17600 + }, + { + "epoch": 2.332803180914513, + "grad_norm": 0.024029167369008064, + "learning_rate": 5.862780058682304e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34461416, + "step": 17601 + }, + { + "epoch": 2.332935719019218, + "grad_norm": 1.6193987131118774, + "learning_rate": 5.860546590861454e-07, + "loss": 0.0059, + "num_input_tokens_seen": 34464192, + "step": 17602 + }, + { + "epoch": 2.333068257123923, + "grad_norm": 0.6515053510665894, + "learning_rate": 5.85831349206247e-07, + "loss": 0.003, + "num_input_tokens_seen": 34466248, + "step": 17603 + }, + { + "epoch": 2.3332007952286284, + "grad_norm": 2.240462303161621, + "learning_rate": 5.856080762328411e-07, + "loss": 0.0097, + "num_input_tokens_seen": 34468264, + "step": 17604 + }, + { + "epoch": 2.3333333333333335, + "grad_norm": 0.0017234095139428973, + "learning_rate": 5.853848401702326e-07, + "loss": 0.0, + "num_input_tokens_seen": 34469696, + "step": 17605 + }, + { + "epoch": 2.3334658714380385, + "grad_norm": 13.389839172363281, + "learning_rate": 5.851616410227248e-07, + "loss": 0.074, + "num_input_tokens_seen": 34471480, + "step": 17606 + }, + { + "epoch": 2.3335984095427436, + "grad_norm": 7.411147117614746, + "learning_rate": 5.84938478794621e-07, + "loss": 0.1003, + "num_input_tokens_seen": 34474000, + "step": 17607 + }, + { + "epoch": 2.3337309476474486, + "grad_norm": 3.7476766109466553, + "learning_rate": 5.847153534902244e-07, + "loss": 0.0121, + "num_input_tokens_seen": 34476152, + "step": 17608 + }, + { + "epoch": 2.3338634857521536, + "grad_norm": 8.368447303771973, + "learning_rate": 5.844922651138379e-07, + "loss": 0.0476, + "num_input_tokens_seen": 34477408, + "step": 17609 + }, + { + "epoch": 2.3339960238568587, + "grad_norm": 0.0031103440560400486, + "learning_rate": 5.84269213669762e-07, + "loss": 0.0, + "num_input_tokens_seen": 34479064, + "step": 17610 + }, + { + "epoch": 2.334128561961564, + "grad_norm": 1.5398308038711548, + "learning_rate": 5.840461991622973e-07, + "loss": 0.0027, + "num_input_tokens_seen": 34480920, + "step": 17611 + }, + { + "epoch": 2.334261100066269, + "grad_norm": 1.2834726572036743, + "learning_rate": 5.838232215957435e-07, + "loss": 0.0048, + "num_input_tokens_seen": 34482728, + "step": 17612 + }, + { + "epoch": 2.3343936381709742, + "grad_norm": 11.526973724365234, + "learning_rate": 5.83600280974399e-07, + "loss": 0.1979, + "num_input_tokens_seen": 34485888, + "step": 17613 + }, + { + "epoch": 2.3345261762756793, + "grad_norm": 0.0016845462378114462, + "learning_rate": 5.833773773025637e-07, + "loss": 0.0, + "num_input_tokens_seen": 34487272, + "step": 17614 + }, + { + "epoch": 2.3346587143803843, + "grad_norm": 1.169955849647522, + "learning_rate": 5.831545105845348e-07, + "loss": 0.0036, + "num_input_tokens_seen": 34489872, + "step": 17615 + }, + { + "epoch": 2.3347912524850893, + "grad_norm": 0.0023731132969260216, + "learning_rate": 5.829316808246097e-07, + "loss": 0.0, + "num_input_tokens_seen": 34491024, + "step": 17616 + }, + { + "epoch": 2.3349237905897944, + "grad_norm": 0.0006979045574553311, + "learning_rate": 5.827088880270843e-07, + "loss": 0.0, + "num_input_tokens_seen": 34492744, + "step": 17617 + }, + { + "epoch": 2.3350563286945, + "grad_norm": 30.849979400634766, + "learning_rate": 5.824861321962533e-07, + "loss": 0.1466, + "num_input_tokens_seen": 34494392, + "step": 17618 + }, + { + "epoch": 2.335188866799205, + "grad_norm": 0.17767080664634705, + "learning_rate": 5.822634133364133e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34495960, + "step": 17619 + }, + { + "epoch": 2.33532140490391, + "grad_norm": 1.834625244140625, + "learning_rate": 5.82040731451857e-07, + "loss": 0.0034, + "num_input_tokens_seen": 34498224, + "step": 17620 + }, + { + "epoch": 2.335453943008615, + "grad_norm": 0.0036174836568534374, + "learning_rate": 5.818180865468792e-07, + "loss": 0.0, + "num_input_tokens_seen": 34501312, + "step": 17621 + }, + { + "epoch": 2.33558648111332, + "grad_norm": 1.0485659837722778, + "learning_rate": 5.815954786257721e-07, + "loss": 0.0067, + "num_input_tokens_seen": 34503248, + "step": 17622 + }, + { + "epoch": 2.335719019218025, + "grad_norm": 11.614334106445312, + "learning_rate": 5.813729076928268e-07, + "loss": 0.2444, + "num_input_tokens_seen": 34505016, + "step": 17623 + }, + { + "epoch": 2.33585155732273, + "grad_norm": 0.011938834562897682, + "learning_rate": 5.811503737523361e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34506968, + "step": 17624 + }, + { + "epoch": 2.3359840954274356, + "grad_norm": 0.06251510977745056, + "learning_rate": 5.809278768085902e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34508808, + "step": 17625 + }, + { + "epoch": 2.3361166335321406, + "grad_norm": 0.004024461843073368, + "learning_rate": 5.807054168658777e-07, + "loss": 0.0, + "num_input_tokens_seen": 34510120, + "step": 17626 + }, + { + "epoch": 2.3362491716368456, + "grad_norm": 0.038239527493715286, + "learning_rate": 5.804829939284898e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34512520, + "step": 17627 + }, + { + "epoch": 2.3363817097415507, + "grad_norm": 0.5902060270309448, + "learning_rate": 5.802606080007131e-07, + "loss": 0.0031, + "num_input_tokens_seen": 34515128, + "step": 17628 + }, + { + "epoch": 2.3365142478462557, + "grad_norm": 6.013433456420898, + "learning_rate": 5.80038259086837e-07, + "loss": 0.0362, + "num_input_tokens_seen": 34516472, + "step": 17629 + }, + { + "epoch": 2.3366467859509608, + "grad_norm": 0.7240469455718994, + "learning_rate": 5.798159471911477e-07, + "loss": 0.0019, + "num_input_tokens_seen": 34519112, + "step": 17630 + }, + { + "epoch": 2.336779324055666, + "grad_norm": 10.085693359375, + "learning_rate": 5.795936723179315e-07, + "loss": 0.0955, + "num_input_tokens_seen": 34521000, + "step": 17631 + }, + { + "epoch": 2.3369118621603713, + "grad_norm": 0.003768005408346653, + "learning_rate": 5.793714344714735e-07, + "loss": 0.0, + "num_input_tokens_seen": 34523176, + "step": 17632 + }, + { + "epoch": 2.3370444002650763, + "grad_norm": 0.0018901200965046883, + "learning_rate": 5.791492336560595e-07, + "loss": 0.0, + "num_input_tokens_seen": 34525432, + "step": 17633 + }, + { + "epoch": 2.3371769383697814, + "grad_norm": 0.00073260284261778, + "learning_rate": 5.789270698759739e-07, + "loss": 0.0, + "num_input_tokens_seen": 34526752, + "step": 17634 + }, + { + "epoch": 2.3373094764744864, + "grad_norm": 0.0010563539108261466, + "learning_rate": 5.787049431354996e-07, + "loss": 0.0, + "num_input_tokens_seen": 34528248, + "step": 17635 + }, + { + "epoch": 2.3374420145791914, + "grad_norm": 4.916848182678223, + "learning_rate": 5.784828534389195e-07, + "loss": 0.0468, + "num_input_tokens_seen": 34529840, + "step": 17636 + }, + { + "epoch": 2.3375745526838965, + "grad_norm": 6.7946014404296875, + "learning_rate": 5.782608007905147e-07, + "loss": 0.0493, + "num_input_tokens_seen": 34532160, + "step": 17637 + }, + { + "epoch": 2.3377070907886015, + "grad_norm": 0.02789085917174816, + "learning_rate": 5.780387851945684e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34534480, + "step": 17638 + }, + { + "epoch": 2.337839628893307, + "grad_norm": 0.0032948346342891455, + "learning_rate": 5.778168066553594e-07, + "loss": 0.0, + "num_input_tokens_seen": 34536216, + "step": 17639 + }, + { + "epoch": 2.337972166998012, + "grad_norm": 6.148429870605469, + "learning_rate": 5.77594865177169e-07, + "loss": 0.0682, + "num_input_tokens_seen": 34537800, + "step": 17640 + }, + { + "epoch": 2.338104705102717, + "grad_norm": 1.0397987365722656, + "learning_rate": 5.773729607642758e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34538984, + "step": 17641 + }, + { + "epoch": 2.338237243207422, + "grad_norm": 0.0028499579057097435, + "learning_rate": 5.771510934209584e-07, + "loss": 0.0, + "num_input_tokens_seen": 34541104, + "step": 17642 + }, + { + "epoch": 2.338369781312127, + "grad_norm": 7.302776336669922, + "learning_rate": 5.769292631514936e-07, + "loss": 0.0455, + "num_input_tokens_seen": 34543216, + "step": 17643 + }, + { + "epoch": 2.338502319416832, + "grad_norm": 0.0008341590291820467, + "learning_rate": 5.767074699601594e-07, + "loss": 0.0, + "num_input_tokens_seen": 34544688, + "step": 17644 + }, + { + "epoch": 2.338634857521537, + "grad_norm": 13.567420959472656, + "learning_rate": 5.764857138512328e-07, + "loss": 0.111, + "num_input_tokens_seen": 34546616, + "step": 17645 + }, + { + "epoch": 2.3387673956262427, + "grad_norm": 0.006198303308337927, + "learning_rate": 5.762639948289883e-07, + "loss": 0.0, + "num_input_tokens_seen": 34548192, + "step": 17646 + }, + { + "epoch": 2.3388999337309477, + "grad_norm": 0.005080592352896929, + "learning_rate": 5.760423128977013e-07, + "loss": 0.0, + "num_input_tokens_seen": 34549656, + "step": 17647 + }, + { + "epoch": 2.3390324718356528, + "grad_norm": 0.016734832897782326, + "learning_rate": 5.758206680616458e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34551456, + "step": 17648 + }, + { + "epoch": 2.339165009940358, + "grad_norm": 0.006007571239024401, + "learning_rate": 5.755990603250943e-07, + "loss": 0.0, + "num_input_tokens_seen": 34552504, + "step": 17649 + }, + { + "epoch": 2.339297548045063, + "grad_norm": 0.012889403849840164, + "learning_rate": 5.753774896923206e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34554592, + "step": 17650 + }, + { + "epoch": 2.339430086149768, + "grad_norm": 20.680400848388672, + "learning_rate": 5.751559561675973e-07, + "loss": 0.2099, + "num_input_tokens_seen": 34557712, + "step": 17651 + }, + { + "epoch": 2.339562624254473, + "grad_norm": 2.7195699214935303, + "learning_rate": 5.749344597551954e-07, + "loss": 0.0184, + "num_input_tokens_seen": 34560080, + "step": 17652 + }, + { + "epoch": 2.3396951623591784, + "grad_norm": 8.803916931152344, + "learning_rate": 5.747130004593848e-07, + "loss": 0.0801, + "num_input_tokens_seen": 34562064, + "step": 17653 + }, + { + "epoch": 2.3398277004638834, + "grad_norm": 0.022728994488716125, + "learning_rate": 5.744915782844352e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34563544, + "step": 17654 + }, + { + "epoch": 2.3399602385685885, + "grad_norm": 0.7523548603057861, + "learning_rate": 5.742701932346167e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34565216, + "step": 17655 + }, + { + "epoch": 2.3400927766732935, + "grad_norm": 0.005428750533610582, + "learning_rate": 5.740488453141971e-07, + "loss": 0.0, + "num_input_tokens_seen": 34566696, + "step": 17656 + }, + { + "epoch": 2.3402253147779986, + "grad_norm": 0.010625329799950123, + "learning_rate": 5.738275345274447e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34569632, + "step": 17657 + }, + { + "epoch": 2.3403578528827036, + "grad_norm": 1.113126516342163, + "learning_rate": 5.736062608786267e-07, + "loss": 0.0026, + "num_input_tokens_seen": 34572264, + "step": 17658 + }, + { + "epoch": 2.3404903909874086, + "grad_norm": 1.1560052633285522, + "learning_rate": 5.73385024372008e-07, + "loss": 0.0083, + "num_input_tokens_seen": 34574368, + "step": 17659 + }, + { + "epoch": 2.340622929092114, + "grad_norm": 0.0013780479785054922, + "learning_rate": 5.731638250118556e-07, + "loss": 0.0, + "num_input_tokens_seen": 34575560, + "step": 17660 + }, + { + "epoch": 2.340755467196819, + "grad_norm": 10.694581985473633, + "learning_rate": 5.729426628024334e-07, + "loss": 0.1475, + "num_input_tokens_seen": 34577296, + "step": 17661 + }, + { + "epoch": 2.340888005301524, + "grad_norm": 0.01612936146557331, + "learning_rate": 5.727215377480069e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34578832, + "step": 17662 + }, + { + "epoch": 2.3410205434062292, + "grad_norm": 8.009583473205566, + "learning_rate": 5.725004498528386e-07, + "loss": 0.0343, + "num_input_tokens_seen": 34580296, + "step": 17663 + }, + { + "epoch": 2.3411530815109343, + "grad_norm": 6.21445369720459, + "learning_rate": 5.722793991211905e-07, + "loss": 0.1695, + "num_input_tokens_seen": 34582832, + "step": 17664 + }, + { + "epoch": 2.3412856196156397, + "grad_norm": 0.005807481240481138, + "learning_rate": 5.720583855573264e-07, + "loss": 0.0, + "num_input_tokens_seen": 34584568, + "step": 17665 + }, + { + "epoch": 2.341418157720345, + "grad_norm": 4.9380693435668945, + "learning_rate": 5.718374091655066e-07, + "loss": 0.0559, + "num_input_tokens_seen": 34586744, + "step": 17666 + }, + { + "epoch": 2.34155069582505, + "grad_norm": 0.3747180998325348, + "learning_rate": 5.716164699499907e-07, + "loss": 0.0029, + "num_input_tokens_seen": 34588336, + "step": 17667 + }, + { + "epoch": 2.341683233929755, + "grad_norm": 0.00281967269256711, + "learning_rate": 5.713955679150406e-07, + "loss": 0.0, + "num_input_tokens_seen": 34590536, + "step": 17668 + }, + { + "epoch": 2.34181577203446, + "grad_norm": 0.02476070448756218, + "learning_rate": 5.711747030649146e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34592808, + "step": 17669 + }, + { + "epoch": 2.341948310139165, + "grad_norm": 0.07425132393836975, + "learning_rate": 5.709538754038699e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34594592, + "step": 17670 + }, + { + "epoch": 2.34208084824387, + "grad_norm": 0.524229109287262, + "learning_rate": 5.707330849361662e-07, + "loss": 0.0024, + "num_input_tokens_seen": 34596144, + "step": 17671 + }, + { + "epoch": 2.3422133863485755, + "grad_norm": 0.003684363095089793, + "learning_rate": 5.705123316660593e-07, + "loss": 0.0, + "num_input_tokens_seen": 34597640, + "step": 17672 + }, + { + "epoch": 2.3423459244532805, + "grad_norm": 11.933063507080078, + "learning_rate": 5.702916155978053e-07, + "loss": 0.264, + "num_input_tokens_seen": 34599504, + "step": 17673 + }, + { + "epoch": 2.3424784625579855, + "grad_norm": 0.027486419305205345, + "learning_rate": 5.700709367356605e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34601696, + "step": 17674 + }, + { + "epoch": 2.3426110006626906, + "grad_norm": 15.83261489868164, + "learning_rate": 5.698502950838791e-07, + "loss": 0.1737, + "num_input_tokens_seen": 34603864, + "step": 17675 + }, + { + "epoch": 2.3427435387673956, + "grad_norm": 0.036929138004779816, + "learning_rate": 5.69629690646716e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34606560, + "step": 17676 + }, + { + "epoch": 2.3428760768721006, + "grad_norm": 0.30800551176071167, + "learning_rate": 5.694091234284244e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34607928, + "step": 17677 + }, + { + "epoch": 2.3430086149768057, + "grad_norm": 0.014617717824876308, + "learning_rate": 5.691885934332566e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34609344, + "step": 17678 + }, + { + "epoch": 2.343141153081511, + "grad_norm": 2.2037384510040283, + "learning_rate": 5.68968100665464e-07, + "loss": 0.014, + "num_input_tokens_seen": 34611312, + "step": 17679 + }, + { + "epoch": 2.343273691186216, + "grad_norm": 0.6311166882514954, + "learning_rate": 5.687476451292989e-07, + "loss": 0.0024, + "num_input_tokens_seen": 34613488, + "step": 17680 + }, + { + "epoch": 2.3434062292909212, + "grad_norm": 8.508742332458496, + "learning_rate": 5.685272268290118e-07, + "loss": 0.082, + "num_input_tokens_seen": 34615712, + "step": 17681 + }, + { + "epoch": 2.3435387673956263, + "grad_norm": 13.103141784667969, + "learning_rate": 5.683068457688523e-07, + "loss": 0.2137, + "num_input_tokens_seen": 34617984, + "step": 17682 + }, + { + "epoch": 2.3436713055003313, + "grad_norm": 6.899737358093262, + "learning_rate": 5.680865019530696e-07, + "loss": 0.1721, + "num_input_tokens_seen": 34621272, + "step": 17683 + }, + { + "epoch": 2.3438038436050364, + "grad_norm": 3.798013925552368, + "learning_rate": 5.678661953859119e-07, + "loss": 0.0305, + "num_input_tokens_seen": 34622768, + "step": 17684 + }, + { + "epoch": 2.3439363817097414, + "grad_norm": 1.620809555053711, + "learning_rate": 5.676459260716258e-07, + "loss": 0.004, + "num_input_tokens_seen": 34624488, + "step": 17685 + }, + { + "epoch": 2.344068919814447, + "grad_norm": 0.008004768751561642, + "learning_rate": 5.674256940144596e-07, + "loss": 0.0, + "num_input_tokens_seen": 34626440, + "step": 17686 + }, + { + "epoch": 2.344201457919152, + "grad_norm": 10.122072219848633, + "learning_rate": 5.672054992186598e-07, + "loss": 0.2048, + "num_input_tokens_seen": 34628592, + "step": 17687 + }, + { + "epoch": 2.344333996023857, + "grad_norm": 0.0034033653791993856, + "learning_rate": 5.669853416884716e-07, + "loss": 0.0, + "num_input_tokens_seen": 34630704, + "step": 17688 + }, + { + "epoch": 2.344466534128562, + "grad_norm": 0.010396234691143036, + "learning_rate": 5.667652214281394e-07, + "loss": 0.0, + "num_input_tokens_seen": 34632304, + "step": 17689 + }, + { + "epoch": 2.344599072233267, + "grad_norm": 8.901415824890137, + "learning_rate": 5.665451384419066e-07, + "loss": 0.0744, + "num_input_tokens_seen": 34634696, + "step": 17690 + }, + { + "epoch": 2.344731610337972, + "grad_norm": 3.1280500888824463, + "learning_rate": 5.663250927340175e-07, + "loss": 0.0252, + "num_input_tokens_seen": 34637976, + "step": 17691 + }, + { + "epoch": 2.344864148442677, + "grad_norm": 0.04859183728694916, + "learning_rate": 5.661050843087151e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34639560, + "step": 17692 + }, + { + "epoch": 2.3449966865473826, + "grad_norm": 0.6622272729873657, + "learning_rate": 5.658851131702409e-07, + "loss": 0.0018, + "num_input_tokens_seen": 34641272, + "step": 17693 + }, + { + "epoch": 2.3451292246520876, + "grad_norm": 6.628150463104248, + "learning_rate": 5.65665179322836e-07, + "loss": 0.086, + "num_input_tokens_seen": 34643360, + "step": 17694 + }, + { + "epoch": 2.3452617627567927, + "grad_norm": 4.334777355194092, + "learning_rate": 5.654452827707408e-07, + "loss": 0.0795, + "num_input_tokens_seen": 34645640, + "step": 17695 + }, + { + "epoch": 2.3453943008614977, + "grad_norm": 3.512651205062866, + "learning_rate": 5.652254235181944e-07, + "loss": 0.0051, + "num_input_tokens_seen": 34647968, + "step": 17696 + }, + { + "epoch": 2.3455268389662027, + "grad_norm": 0.21486470103263855, + "learning_rate": 5.650056015694369e-07, + "loss": 0.001, + "num_input_tokens_seen": 34649840, + "step": 17697 + }, + { + "epoch": 2.3456593770709078, + "grad_norm": 5.920050144195557, + "learning_rate": 5.647858169287065e-07, + "loss": 0.1063, + "num_input_tokens_seen": 34651032, + "step": 17698 + }, + { + "epoch": 2.345791915175613, + "grad_norm": 0.037337467074394226, + "learning_rate": 5.645660696002411e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34654096, + "step": 17699 + }, + { + "epoch": 2.3459244532803183, + "grad_norm": 14.79647445678711, + "learning_rate": 5.643463595882767e-07, + "loss": 0.1011, + "num_input_tokens_seen": 34655648, + "step": 17700 + }, + { + "epoch": 2.3460569913850233, + "grad_norm": 2.6657516956329346, + "learning_rate": 5.641266868970493e-07, + "loss": 0.0029, + "num_input_tokens_seen": 34656776, + "step": 17701 + }, + { + "epoch": 2.3461895294897284, + "grad_norm": 0.3144253194332123, + "learning_rate": 5.639070515307954e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34659248, + "step": 17702 + }, + { + "epoch": 2.3463220675944334, + "grad_norm": 6.668276786804199, + "learning_rate": 5.636874534937486e-07, + "loss": 0.0904, + "num_input_tokens_seen": 34660952, + "step": 17703 + }, + { + "epoch": 2.3464546056991384, + "grad_norm": 12.12117862701416, + "learning_rate": 5.634678927901441e-07, + "loss": 0.048, + "num_input_tokens_seen": 34662824, + "step": 17704 + }, + { + "epoch": 2.3465871438038435, + "grad_norm": 0.19158318638801575, + "learning_rate": 5.632483694242147e-07, + "loss": 0.0013, + "num_input_tokens_seen": 34665488, + "step": 17705 + }, + { + "epoch": 2.3467196819085485, + "grad_norm": 7.196081638336182, + "learning_rate": 5.63028883400192e-07, + "loss": 0.0294, + "num_input_tokens_seen": 34668152, + "step": 17706 + }, + { + "epoch": 2.346852220013254, + "grad_norm": 2.298901081085205, + "learning_rate": 5.628094347223095e-07, + "loss": 0.0155, + "num_input_tokens_seen": 34670272, + "step": 17707 + }, + { + "epoch": 2.346984758117959, + "grad_norm": 1.7421051263809204, + "learning_rate": 5.625900233947975e-07, + "loss": 0.0077, + "num_input_tokens_seen": 34672408, + "step": 17708 + }, + { + "epoch": 2.347117296222664, + "grad_norm": 0.01892952248454094, + "learning_rate": 5.623706494218856e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34674040, + "step": 17709 + }, + { + "epoch": 2.347249834327369, + "grad_norm": 0.3770451843738556, + "learning_rate": 5.621513128078051e-07, + "loss": 0.0009, + "num_input_tokens_seen": 34675488, + "step": 17710 + }, + { + "epoch": 2.347382372432074, + "grad_norm": 5.000911235809326, + "learning_rate": 5.619320135567832e-07, + "loss": 0.0468, + "num_input_tokens_seen": 34676968, + "step": 17711 + }, + { + "epoch": 2.347514910536779, + "grad_norm": 0.031268663704395294, + "learning_rate": 5.6171275167305e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34678864, + "step": 17712 + }, + { + "epoch": 2.3476474486414842, + "grad_norm": 0.04435854032635689, + "learning_rate": 5.614935271608321e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34680768, + "step": 17713 + }, + { + "epoch": 2.3477799867461897, + "grad_norm": 5.804210662841797, + "learning_rate": 5.612743400243556e-07, + "loss": 0.0381, + "num_input_tokens_seen": 34682792, + "step": 17714 + }, + { + "epoch": 2.3479125248508947, + "grad_norm": 0.022592786699533463, + "learning_rate": 5.610551902678479e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34684464, + "step": 17715 + }, + { + "epoch": 2.3480450629556, + "grad_norm": 0.5734321475028992, + "learning_rate": 5.608360778955332e-07, + "loss": 0.0037, + "num_input_tokens_seen": 34686480, + "step": 17716 + }, + { + "epoch": 2.348177601060305, + "grad_norm": 0.5023155808448792, + "learning_rate": 5.606170029116372e-07, + "loss": 0.0025, + "num_input_tokens_seen": 34689600, + "step": 17717 + }, + { + "epoch": 2.34831013916501, + "grad_norm": 0.013136826455593109, + "learning_rate": 5.603979653203833e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34692392, + "step": 17718 + }, + { + "epoch": 2.348442677269715, + "grad_norm": 0.43581584095954895, + "learning_rate": 5.601789651259948e-07, + "loss": 0.0021, + "num_input_tokens_seen": 34695192, + "step": 17719 + }, + { + "epoch": 2.34857521537442, + "grad_norm": 0.006335685029625893, + "learning_rate": 5.599600023326935e-07, + "loss": 0.0, + "num_input_tokens_seen": 34696936, + "step": 17720 + }, + { + "epoch": 2.3487077534791254, + "grad_norm": 0.07462137937545776, + "learning_rate": 5.597410769447015e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34698768, + "step": 17721 + }, + { + "epoch": 2.3488402915838305, + "grad_norm": 7.639307022094727, + "learning_rate": 5.595221889662408e-07, + "loss": 0.0667, + "num_input_tokens_seen": 34700992, + "step": 17722 + }, + { + "epoch": 2.3489728296885355, + "grad_norm": 0.016179468482732773, + "learning_rate": 5.593033384015309e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34702368, + "step": 17723 + }, + { + "epoch": 2.3491053677932405, + "grad_norm": 7.36820650100708, + "learning_rate": 5.590845252547914e-07, + "loss": 0.0405, + "num_input_tokens_seen": 34704528, + "step": 17724 + }, + { + "epoch": 2.3492379058979456, + "grad_norm": 5.769047737121582, + "learning_rate": 5.588657495302413e-07, + "loss": 0.0515, + "num_input_tokens_seen": 34706688, + "step": 17725 + }, + { + "epoch": 2.3493704440026506, + "grad_norm": 14.09211254119873, + "learning_rate": 5.586470112320979e-07, + "loss": 0.2951, + "num_input_tokens_seen": 34708408, + "step": 17726 + }, + { + "epoch": 2.3495029821073556, + "grad_norm": 0.00042978691635653377, + "learning_rate": 5.584283103645796e-07, + "loss": 0.0, + "num_input_tokens_seen": 34709968, + "step": 17727 + }, + { + "epoch": 2.349635520212061, + "grad_norm": 2.0365657806396484, + "learning_rate": 5.582096469319037e-07, + "loss": 0.0227, + "num_input_tokens_seen": 34711760, + "step": 17728 + }, + { + "epoch": 2.349768058316766, + "grad_norm": 2.229172945022583, + "learning_rate": 5.579910209382849e-07, + "loss": 0.0134, + "num_input_tokens_seen": 34714864, + "step": 17729 + }, + { + "epoch": 2.349900596421471, + "grad_norm": 0.028426343575119972, + "learning_rate": 5.577724323879394e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34717008, + "step": 17730 + }, + { + "epoch": 2.3500331345261762, + "grad_norm": 0.0038648161571472883, + "learning_rate": 5.575538812850812e-07, + "loss": 0.0, + "num_input_tokens_seen": 34718416, + "step": 17731 + }, + { + "epoch": 2.3501656726308813, + "grad_norm": 0.08603201806545258, + "learning_rate": 5.573353676339233e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34720600, + "step": 17732 + }, + { + "epoch": 2.3502982107355863, + "grad_norm": 0.3695821166038513, + "learning_rate": 5.571168914386796e-07, + "loss": 0.0015, + "num_input_tokens_seen": 34722144, + "step": 17733 + }, + { + "epoch": 2.3504307488402914, + "grad_norm": 7.192691802978516, + "learning_rate": 5.568984527035634e-07, + "loss": 0.0442, + "num_input_tokens_seen": 34723952, + "step": 17734 + }, + { + "epoch": 2.350563286944997, + "grad_norm": 3.2021846771240234, + "learning_rate": 5.566800514327858e-07, + "loss": 0.0188, + "num_input_tokens_seen": 34725880, + "step": 17735 + }, + { + "epoch": 2.350695825049702, + "grad_norm": 0.20106668770313263, + "learning_rate": 5.56461687630557e-07, + "loss": 0.0013, + "num_input_tokens_seen": 34728776, + "step": 17736 + }, + { + "epoch": 2.350828363154407, + "grad_norm": 4.721794128417969, + "learning_rate": 5.562433613010873e-07, + "loss": 0.0585, + "num_input_tokens_seen": 34732240, + "step": 17737 + }, + { + "epoch": 2.350960901259112, + "grad_norm": 6.336400985717773, + "learning_rate": 5.560250724485869e-07, + "loss": 0.2205, + "num_input_tokens_seen": 34733816, + "step": 17738 + }, + { + "epoch": 2.351093439363817, + "grad_norm": 0.14346235990524292, + "learning_rate": 5.558068210772635e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34735024, + "step": 17739 + }, + { + "epoch": 2.351225977468522, + "grad_norm": 13.50838565826416, + "learning_rate": 5.555886071913269e-07, + "loss": 0.0865, + "num_input_tokens_seen": 34736608, + "step": 17740 + }, + { + "epoch": 2.351358515573227, + "grad_norm": 1.2651335000991821, + "learning_rate": 5.553704307949828e-07, + "loss": 0.005, + "num_input_tokens_seen": 34738744, + "step": 17741 + }, + { + "epoch": 2.3514910536779325, + "grad_norm": 12.157574653625488, + "learning_rate": 5.551522918924379e-07, + "loss": 0.1472, + "num_input_tokens_seen": 34740784, + "step": 17742 + }, + { + "epoch": 2.3516235917826376, + "grad_norm": 0.006949228700250387, + "learning_rate": 5.549341904878994e-07, + "loss": 0.0, + "num_input_tokens_seen": 34742096, + "step": 17743 + }, + { + "epoch": 2.3517561298873426, + "grad_norm": 0.06277748942375183, + "learning_rate": 5.547161265855705e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34743528, + "step": 17744 + }, + { + "epoch": 2.3518886679920477, + "grad_norm": 4.195850849151611, + "learning_rate": 5.544981001896577e-07, + "loss": 0.0313, + "num_input_tokens_seen": 34745024, + "step": 17745 + }, + { + "epoch": 2.3520212060967527, + "grad_norm": 0.015423735603690147, + "learning_rate": 5.542801113043633e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34746928, + "step": 17746 + }, + { + "epoch": 2.3521537442014577, + "grad_norm": 0.009266690351068974, + "learning_rate": 5.540621599338902e-07, + "loss": 0.0, + "num_input_tokens_seen": 34748920, + "step": 17747 + }, + { + "epoch": 2.352286282306163, + "grad_norm": 0.4075634479522705, + "learning_rate": 5.538442460824417e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34750248, + "step": 17748 + }, + { + "epoch": 2.3524188204108682, + "grad_norm": 0.6627886295318604, + "learning_rate": 5.536263697542185e-07, + "loss": 0.0029, + "num_input_tokens_seen": 34752216, + "step": 17749 + }, + { + "epoch": 2.3525513585155733, + "grad_norm": 0.010573110543191433, + "learning_rate": 5.534085309534212e-07, + "loss": 0.0, + "num_input_tokens_seen": 34753800, + "step": 17750 + }, + { + "epoch": 2.3526838966202783, + "grad_norm": 0.007072928361594677, + "learning_rate": 5.531907296842509e-07, + "loss": 0.0, + "num_input_tokens_seen": 34756456, + "step": 17751 + }, + { + "epoch": 2.3528164347249834, + "grad_norm": 4.514529228210449, + "learning_rate": 5.529729659509059e-07, + "loss": 0.005, + "num_input_tokens_seen": 34759208, + "step": 17752 + }, + { + "epoch": 2.3529489728296884, + "grad_norm": 0.06037493422627449, + "learning_rate": 5.527552397575858e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34760880, + "step": 17753 + }, + { + "epoch": 2.353081510934394, + "grad_norm": 5.566935062408447, + "learning_rate": 5.525375511084879e-07, + "loss": 0.0514, + "num_input_tokens_seen": 34762376, + "step": 17754 + }, + { + "epoch": 2.353214049039099, + "grad_norm": 0.19817079603672028, + "learning_rate": 5.523199000078097e-07, + "loss": 0.0016, + "num_input_tokens_seen": 34764224, + "step": 17755 + }, + { + "epoch": 2.353346587143804, + "grad_norm": 0.2292715162038803, + "learning_rate": 5.521022864597466e-07, + "loss": 0.0009, + "num_input_tokens_seen": 34766176, + "step": 17756 + }, + { + "epoch": 2.353479125248509, + "grad_norm": 0.10731744021177292, + "learning_rate": 5.51884710468496e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34768736, + "step": 17757 + }, + { + "epoch": 2.353611663353214, + "grad_norm": 0.15225407481193542, + "learning_rate": 5.516671720382513e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34770984, + "step": 17758 + }, + { + "epoch": 2.353744201457919, + "grad_norm": 0.021273259073495865, + "learning_rate": 5.514496711732084e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34773880, + "step": 17759 + }, + { + "epoch": 2.353876739562624, + "grad_norm": 11.22998332977295, + "learning_rate": 5.512322078775603e-07, + "loss": 0.0522, + "num_input_tokens_seen": 34775472, + "step": 17760 + }, + { + "epoch": 2.3540092776673296, + "grad_norm": 0.0019208334852010012, + "learning_rate": 5.510147821554992e-07, + "loss": 0.0, + "num_input_tokens_seen": 34776936, + "step": 17761 + }, + { + "epoch": 2.3541418157720346, + "grad_norm": 9.687651634216309, + "learning_rate": 5.507973940112171e-07, + "loss": 0.0306, + "num_input_tokens_seen": 34778568, + "step": 17762 + }, + { + "epoch": 2.3542743538767397, + "grad_norm": 0.006687212735414505, + "learning_rate": 5.505800434489062e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34779968, + "step": 17763 + }, + { + "epoch": 2.3544068919814447, + "grad_norm": 0.004950502887368202, + "learning_rate": 5.503627304727574e-07, + "loss": 0.0, + "num_input_tokens_seen": 34781096, + "step": 17764 + }, + { + "epoch": 2.3545394300861497, + "grad_norm": 0.000394042901461944, + "learning_rate": 5.501454550869601e-07, + "loss": 0.0, + "num_input_tokens_seen": 34782696, + "step": 17765 + }, + { + "epoch": 2.354671968190855, + "grad_norm": 0.005813139490783215, + "learning_rate": 5.499282172957035e-07, + "loss": 0.0, + "num_input_tokens_seen": 34784456, + "step": 17766 + }, + { + "epoch": 2.35480450629556, + "grad_norm": 0.003222453873604536, + "learning_rate": 5.497110171031755e-07, + "loss": 0.0, + "num_input_tokens_seen": 34786464, + "step": 17767 + }, + { + "epoch": 2.3549370444002653, + "grad_norm": 3.797583818435669, + "learning_rate": 5.494938545135645e-07, + "loss": 0.0179, + "num_input_tokens_seen": 34788392, + "step": 17768 + }, + { + "epoch": 2.3550695825049703, + "grad_norm": 12.619410514831543, + "learning_rate": 5.492767295310584e-07, + "loss": 0.1586, + "num_input_tokens_seen": 34790208, + "step": 17769 + }, + { + "epoch": 2.3552021206096754, + "grad_norm": 1.6835739612579346, + "learning_rate": 5.490596421598426e-07, + "loss": 0.0082, + "num_input_tokens_seen": 34792184, + "step": 17770 + }, + { + "epoch": 2.3553346587143804, + "grad_norm": 0.0028643279802054167, + "learning_rate": 5.488425924041027e-07, + "loss": 0.0, + "num_input_tokens_seen": 34793376, + "step": 17771 + }, + { + "epoch": 2.3554671968190855, + "grad_norm": 0.024906128644943237, + "learning_rate": 5.486255802680237e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34796184, + "step": 17772 + }, + { + "epoch": 2.3555997349237905, + "grad_norm": 0.06921370327472687, + "learning_rate": 5.484086057557892e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34797928, + "step": 17773 + }, + { + "epoch": 2.3557322730284955, + "grad_norm": 4.544421672821045, + "learning_rate": 5.48191668871583e-07, + "loss": 0.0481, + "num_input_tokens_seen": 34801088, + "step": 17774 + }, + { + "epoch": 2.355864811133201, + "grad_norm": 8.340815544128418, + "learning_rate": 5.479747696195887e-07, + "loss": 0.0668, + "num_input_tokens_seen": 34803200, + "step": 17775 + }, + { + "epoch": 2.355997349237906, + "grad_norm": 15.619290351867676, + "learning_rate": 5.477579080039872e-07, + "loss": 0.1167, + "num_input_tokens_seen": 34805032, + "step": 17776 + }, + { + "epoch": 2.356129887342611, + "grad_norm": 0.011956840753555298, + "learning_rate": 5.475410840289603e-07, + "loss": 0.0, + "num_input_tokens_seen": 34806768, + "step": 17777 + }, + { + "epoch": 2.356262425447316, + "grad_norm": 5.885092258453369, + "learning_rate": 5.473242976986873e-07, + "loss": 0.0278, + "num_input_tokens_seen": 34808912, + "step": 17778 + }, + { + "epoch": 2.356394963552021, + "grad_norm": 8.172468185424805, + "learning_rate": 5.471075490173497e-07, + "loss": 0.1538, + "num_input_tokens_seen": 34811248, + "step": 17779 + }, + { + "epoch": 2.356527501656726, + "grad_norm": 0.0726267471909523, + "learning_rate": 5.46890837989125e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34813176, + "step": 17780 + }, + { + "epoch": 2.3566600397614312, + "grad_norm": 3.2818403244018555, + "learning_rate": 5.466741646181931e-07, + "loss": 0.0112, + "num_input_tokens_seen": 34814648, + "step": 17781 + }, + { + "epoch": 2.3567925778661367, + "grad_norm": 2.5179409980773926, + "learning_rate": 5.464575289087309e-07, + "loss": 0.025, + "num_input_tokens_seen": 34816784, + "step": 17782 + }, + { + "epoch": 2.3569251159708418, + "grad_norm": 0.38421401381492615, + "learning_rate": 5.462409308649153e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34819160, + "step": 17783 + }, + { + "epoch": 2.357057654075547, + "grad_norm": 1.3034144639968872, + "learning_rate": 5.460243704909216e-07, + "loss": 0.0037, + "num_input_tokens_seen": 34820752, + "step": 17784 + }, + { + "epoch": 2.357190192180252, + "grad_norm": 0.011089128442108631, + "learning_rate": 5.458078477909265e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34823032, + "step": 17785 + }, + { + "epoch": 2.357322730284957, + "grad_norm": 2.9588115215301514, + "learning_rate": 5.455913627691037e-07, + "loss": 0.0127, + "num_input_tokens_seen": 34824352, + "step": 17786 + }, + { + "epoch": 2.357455268389662, + "grad_norm": 0.6513294577598572, + "learning_rate": 5.453749154296284e-07, + "loss": 0.0033, + "num_input_tokens_seen": 34826720, + "step": 17787 + }, + { + "epoch": 2.357587806494367, + "grad_norm": 0.0477660708129406, + "learning_rate": 5.451585057766731e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34828336, + "step": 17788 + }, + { + "epoch": 2.3577203445990724, + "grad_norm": 0.04405251145362854, + "learning_rate": 5.449421338144098e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34829632, + "step": 17789 + }, + { + "epoch": 2.3578528827037775, + "grad_norm": 0.622642993927002, + "learning_rate": 5.447257995470115e-07, + "loss": 0.0045, + "num_input_tokens_seen": 34831280, + "step": 17790 + }, + { + "epoch": 2.3579854208084825, + "grad_norm": 14.460265159606934, + "learning_rate": 5.445095029786482e-07, + "loss": 0.0946, + "num_input_tokens_seen": 34833664, + "step": 17791 + }, + { + "epoch": 2.3581179589131875, + "grad_norm": 16.176565170288086, + "learning_rate": 5.44293244113491e-07, + "loss": 0.2562, + "num_input_tokens_seen": 34836032, + "step": 17792 + }, + { + "epoch": 2.3582504970178926, + "grad_norm": 0.8949641585350037, + "learning_rate": 5.440770229557096e-07, + "loss": 0.0033, + "num_input_tokens_seen": 34838848, + "step": 17793 + }, + { + "epoch": 2.3583830351225976, + "grad_norm": 2.097344160079956, + "learning_rate": 5.438608395094716e-07, + "loss": 0.0127, + "num_input_tokens_seen": 34841240, + "step": 17794 + }, + { + "epoch": 2.3585155732273027, + "grad_norm": 3.823345422744751, + "learning_rate": 5.43644693778947e-07, + "loss": 0.0848, + "num_input_tokens_seen": 34842928, + "step": 17795 + }, + { + "epoch": 2.358648111332008, + "grad_norm": 9.817488670349121, + "learning_rate": 5.43428585768302e-07, + "loss": 0.1675, + "num_input_tokens_seen": 34844552, + "step": 17796 + }, + { + "epoch": 2.358780649436713, + "grad_norm": 0.4838305115699768, + "learning_rate": 5.432125154817031e-07, + "loss": 0.0014, + "num_input_tokens_seen": 34846448, + "step": 17797 + }, + { + "epoch": 2.358913187541418, + "grad_norm": 0.0014672423712909222, + "learning_rate": 5.429964829233176e-07, + "loss": 0.0, + "num_input_tokens_seen": 34847816, + "step": 17798 + }, + { + "epoch": 2.3590457256461232, + "grad_norm": 12.609827995300293, + "learning_rate": 5.427804880973092e-07, + "loss": 0.0998, + "num_input_tokens_seen": 34849824, + "step": 17799 + }, + { + "epoch": 2.3591782637508283, + "grad_norm": 0.11343824863433838, + "learning_rate": 5.425645310078437e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34851760, + "step": 17800 + }, + { + "epoch": 2.3593108018555333, + "grad_norm": 0.000761420582421124, + "learning_rate": 5.423486116590848e-07, + "loss": 0.0, + "num_input_tokens_seen": 34853312, + "step": 17801 + }, + { + "epoch": 2.3594433399602384, + "grad_norm": 0.0037159365601837635, + "learning_rate": 5.421327300551949e-07, + "loss": 0.0, + "num_input_tokens_seen": 34854920, + "step": 17802 + }, + { + "epoch": 2.359575878064944, + "grad_norm": 0.044683124870061874, + "learning_rate": 5.41916886200336e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34857776, + "step": 17803 + }, + { + "epoch": 2.359708416169649, + "grad_norm": 8.224814414978027, + "learning_rate": 5.417010800986703e-07, + "loss": 0.0627, + "num_input_tokens_seen": 34859904, + "step": 17804 + }, + { + "epoch": 2.359840954274354, + "grad_norm": 0.014492901042103767, + "learning_rate": 5.414853117543595e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34861488, + "step": 17805 + }, + { + "epoch": 2.359973492379059, + "grad_norm": 0.03416812792420387, + "learning_rate": 5.412695811715629e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34863568, + "step": 17806 + }, + { + "epoch": 2.360106030483764, + "grad_norm": 0.07887546718120575, + "learning_rate": 5.410538883544403e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34865272, + "step": 17807 + }, + { + "epoch": 2.360238568588469, + "grad_norm": 3.5303268432617188, + "learning_rate": 5.408382333071499e-07, + "loss": 0.0109, + "num_input_tokens_seen": 34867280, + "step": 17808 + }, + { + "epoch": 2.360371106693174, + "grad_norm": 2.625739812850952, + "learning_rate": 5.406226160338493e-07, + "loss": 0.0112, + "num_input_tokens_seen": 34868576, + "step": 17809 + }, + { + "epoch": 2.3605036447978796, + "grad_norm": 0.021193284541368484, + "learning_rate": 5.404070365386965e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34870904, + "step": 17810 + }, + { + "epoch": 2.3606361829025846, + "grad_norm": 13.384984016418457, + "learning_rate": 5.401914948258482e-07, + "loss": 0.4126, + "num_input_tokens_seen": 34872520, + "step": 17811 + }, + { + "epoch": 2.3607687210072896, + "grad_norm": 6.515951156616211, + "learning_rate": 5.399759908994603e-07, + "loss": 0.0546, + "num_input_tokens_seen": 34874272, + "step": 17812 + }, + { + "epoch": 2.3609012591119947, + "grad_norm": 0.02144785411655903, + "learning_rate": 5.397605247636872e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34876208, + "step": 17813 + }, + { + "epoch": 2.3610337972166997, + "grad_norm": 2.452218770980835, + "learning_rate": 5.395450964226836e-07, + "loss": 0.0139, + "num_input_tokens_seen": 34877984, + "step": 17814 + }, + { + "epoch": 2.3611663353214047, + "grad_norm": 0.08504106849431992, + "learning_rate": 5.393297058806022e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34879712, + "step": 17815 + }, + { + "epoch": 2.36129887342611, + "grad_norm": 4.739107608795166, + "learning_rate": 5.391143531415968e-07, + "loss": 0.0423, + "num_input_tokens_seen": 34881640, + "step": 17816 + }, + { + "epoch": 2.3614314115308153, + "grad_norm": 0.00333572831004858, + "learning_rate": 5.3889903820982e-07, + "loss": 0.0, + "num_input_tokens_seen": 34883232, + "step": 17817 + }, + { + "epoch": 2.3615639496355203, + "grad_norm": 3.4142680168151855, + "learning_rate": 5.386837610894227e-07, + "loss": 0.0266, + "num_input_tokens_seen": 34884760, + "step": 17818 + }, + { + "epoch": 2.3616964877402253, + "grad_norm": 0.03513708338141441, + "learning_rate": 5.384685217845553e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34886192, + "step": 17819 + }, + { + "epoch": 2.3618290258449304, + "grad_norm": 0.0014698661398142576, + "learning_rate": 5.382533202993676e-07, + "loss": 0.0, + "num_input_tokens_seen": 34887560, + "step": 17820 + }, + { + "epoch": 2.3619615639496354, + "grad_norm": 8.751652717590332, + "learning_rate": 5.380381566380091e-07, + "loss": 0.1137, + "num_input_tokens_seen": 34889320, + "step": 17821 + }, + { + "epoch": 2.3620941020543404, + "grad_norm": 1.3840405941009521, + "learning_rate": 5.378230308046292e-07, + "loss": 0.0124, + "num_input_tokens_seen": 34891104, + "step": 17822 + }, + { + "epoch": 2.3622266401590455, + "grad_norm": 0.005729067139327526, + "learning_rate": 5.376079428033748e-07, + "loss": 0.0, + "num_input_tokens_seen": 34892544, + "step": 17823 + }, + { + "epoch": 2.362359178263751, + "grad_norm": 0.006435960065573454, + "learning_rate": 5.373928926383931e-07, + "loss": 0.0, + "num_input_tokens_seen": 34894008, + "step": 17824 + }, + { + "epoch": 2.362491716368456, + "grad_norm": 0.02071291208267212, + "learning_rate": 5.371778803138298e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34895968, + "step": 17825 + }, + { + "epoch": 2.362624254473161, + "grad_norm": 0.08949607610702515, + "learning_rate": 5.369629058338316e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34897824, + "step": 17826 + }, + { + "epoch": 2.362756792577866, + "grad_norm": 4.069151401519775, + "learning_rate": 5.367479692025421e-07, + "loss": 0.0125, + "num_input_tokens_seen": 34899360, + "step": 17827 + }, + { + "epoch": 2.362889330682571, + "grad_norm": 0.1709366738796234, + "learning_rate": 5.365330704241067e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34900800, + "step": 17828 + }, + { + "epoch": 2.363021868787276, + "grad_norm": 3.698108673095703, + "learning_rate": 5.363182095026684e-07, + "loss": 0.1146, + "num_input_tokens_seen": 34901960, + "step": 17829 + }, + { + "epoch": 2.363154406891981, + "grad_norm": 0.12536188960075378, + "learning_rate": 5.361033864423689e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34903920, + "step": 17830 + }, + { + "epoch": 2.3632869449966867, + "grad_norm": 9.294626235961914, + "learning_rate": 5.358886012473519e-07, + "loss": 0.0983, + "num_input_tokens_seen": 34906024, + "step": 17831 + }, + { + "epoch": 2.3634194831013917, + "grad_norm": 7.790512561798096, + "learning_rate": 5.356738539217574e-07, + "loss": 0.1184, + "num_input_tokens_seen": 34908192, + "step": 17832 + }, + { + "epoch": 2.3635520212060968, + "grad_norm": 0.006251086946576834, + "learning_rate": 5.354591444697254e-07, + "loss": 0.0, + "num_input_tokens_seen": 34909984, + "step": 17833 + }, + { + "epoch": 2.363684559310802, + "grad_norm": 0.01941339485347271, + "learning_rate": 5.352444728953971e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34912024, + "step": 17834 + }, + { + "epoch": 2.363817097415507, + "grad_norm": 0.14774712920188904, + "learning_rate": 5.350298392029102e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34914168, + "step": 17835 + }, + { + "epoch": 2.363949635520212, + "grad_norm": 0.02007228322327137, + "learning_rate": 5.348152433964041e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34916856, + "step": 17836 + }, + { + "epoch": 2.3640821736249173, + "grad_norm": 0.005125201307237148, + "learning_rate": 5.346006854800157e-07, + "loss": 0.0, + "num_input_tokens_seen": 34918304, + "step": 17837 + }, + { + "epoch": 2.3642147117296224, + "grad_norm": 0.0013130478328093886, + "learning_rate": 5.343861654578822e-07, + "loss": 0.0, + "num_input_tokens_seen": 34919984, + "step": 17838 + }, + { + "epoch": 2.3643472498343274, + "grad_norm": 0.05215870589017868, + "learning_rate": 5.341716833341387e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34922064, + "step": 17839 + }, + { + "epoch": 2.3644797879390325, + "grad_norm": 0.010648339055478573, + "learning_rate": 5.339572391129219e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34924240, + "step": 17840 + }, + { + "epoch": 2.3646123260437375, + "grad_norm": 8.304643630981445, + "learning_rate": 5.337428327983651e-07, + "loss": 0.0448, + "num_input_tokens_seen": 34927104, + "step": 17841 + }, + { + "epoch": 2.3647448641484425, + "grad_norm": 4.449934482574463, + "learning_rate": 5.335284643946037e-07, + "loss": 0.0302, + "num_input_tokens_seen": 34929184, + "step": 17842 + }, + { + "epoch": 2.364877402253148, + "grad_norm": 4.5544047355651855, + "learning_rate": 5.333141339057701e-07, + "loss": 0.0668, + "num_input_tokens_seen": 34932024, + "step": 17843 + }, + { + "epoch": 2.365009940357853, + "grad_norm": 6.115437984466553, + "learning_rate": 5.330998413359961e-07, + "loss": 0.1089, + "num_input_tokens_seen": 34934024, + "step": 17844 + }, + { + "epoch": 2.365142478462558, + "grad_norm": 0.21305787563323975, + "learning_rate": 5.328855866894148e-07, + "loss": 0.0015, + "num_input_tokens_seen": 34938024, + "step": 17845 + }, + { + "epoch": 2.365275016567263, + "grad_norm": 0.1069553792476654, + "learning_rate": 5.326713699701558e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34940904, + "step": 17846 + }, + { + "epoch": 2.365407554671968, + "grad_norm": 0.09191861748695374, + "learning_rate": 5.324571911823503e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34942432, + "step": 17847 + }, + { + "epoch": 2.365540092776673, + "grad_norm": 0.0708169937133789, + "learning_rate": 5.322430503301279e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34944304, + "step": 17848 + }, + { + "epoch": 2.3656726308813782, + "grad_norm": 0.021539289504289627, + "learning_rate": 5.320289474176168e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34946368, + "step": 17849 + }, + { + "epoch": 2.3658051689860837, + "grad_norm": 10.883551597595215, + "learning_rate": 5.318148824489444e-07, + "loss": 0.2097, + "num_input_tokens_seen": 34948184, + "step": 17850 + }, + { + "epoch": 2.3659377070907888, + "grad_norm": 7.069830894470215, + "learning_rate": 5.31600855428239e-07, + "loss": 0.0622, + "num_input_tokens_seen": 34949784, + "step": 17851 + }, + { + "epoch": 2.366070245195494, + "grad_norm": 0.017010947689414024, + "learning_rate": 5.313868663596278e-07, + "loss": 0.0, + "num_input_tokens_seen": 34950880, + "step": 17852 + }, + { + "epoch": 2.366202783300199, + "grad_norm": 3.331115961074829, + "learning_rate": 5.311729152472359e-07, + "loss": 0.0341, + "num_input_tokens_seen": 34952992, + "step": 17853 + }, + { + "epoch": 2.366335321404904, + "grad_norm": 3.3038928508758545, + "learning_rate": 5.309590020951882e-07, + "loss": 0.0229, + "num_input_tokens_seen": 34954744, + "step": 17854 + }, + { + "epoch": 2.366467859509609, + "grad_norm": 13.353264808654785, + "learning_rate": 5.307451269076094e-07, + "loss": 0.096, + "num_input_tokens_seen": 34956920, + "step": 17855 + }, + { + "epoch": 2.366600397614314, + "grad_norm": 7.725100994110107, + "learning_rate": 5.305312896886225e-07, + "loss": 0.1217, + "num_input_tokens_seen": 34959288, + "step": 17856 + }, + { + "epoch": 2.3667329357190194, + "grad_norm": 7.400303840637207, + "learning_rate": 5.303174904423508e-07, + "loss": 0.0451, + "num_input_tokens_seen": 34961584, + "step": 17857 + }, + { + "epoch": 2.3668654738237245, + "grad_norm": 0.034982409328222275, + "learning_rate": 5.301037291729174e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34964136, + "step": 17858 + }, + { + "epoch": 2.3669980119284295, + "grad_norm": 17.188966751098633, + "learning_rate": 5.298900058844434e-07, + "loss": 0.3595, + "num_input_tokens_seen": 34966144, + "step": 17859 + }, + { + "epoch": 2.3671305500331346, + "grad_norm": 6.802550315856934, + "learning_rate": 5.29676320581049e-07, + "loss": 0.0478, + "num_input_tokens_seen": 34968408, + "step": 17860 + }, + { + "epoch": 2.3672630881378396, + "grad_norm": 0.0053653898648917675, + "learning_rate": 5.294626732668537e-07, + "loss": 0.0, + "num_input_tokens_seen": 34970144, + "step": 17861 + }, + { + "epoch": 2.3673956262425446, + "grad_norm": 0.41255563497543335, + "learning_rate": 5.29249063945978e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34971456, + "step": 17862 + }, + { + "epoch": 2.3675281643472497, + "grad_norm": 0.002705028047785163, + "learning_rate": 5.290354926225394e-07, + "loss": 0.0, + "num_input_tokens_seen": 34972904, + "step": 17863 + }, + { + "epoch": 2.367660702451955, + "grad_norm": 3.1188786029815674, + "learning_rate": 5.288219593006568e-07, + "loss": 0.0151, + "num_input_tokens_seen": 34975032, + "step": 17864 + }, + { + "epoch": 2.36779324055666, + "grad_norm": 5.2777886390686035, + "learning_rate": 5.286084639844466e-07, + "loss": 0.0507, + "num_input_tokens_seen": 34977496, + "step": 17865 + }, + { + "epoch": 2.367925778661365, + "grad_norm": 0.011733113788068295, + "learning_rate": 5.283950066780247e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34980208, + "step": 17866 + }, + { + "epoch": 2.3680583167660703, + "grad_norm": 0.05583785101771355, + "learning_rate": 5.281815873855079e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34981880, + "step": 17867 + }, + { + "epoch": 2.3681908548707753, + "grad_norm": 0.726688802242279, + "learning_rate": 5.279682061110103e-07, + "loss": 0.0054, + "num_input_tokens_seen": 34984176, + "step": 17868 + }, + { + "epoch": 2.3683233929754803, + "grad_norm": 14.965158462524414, + "learning_rate": 5.277548628586455e-07, + "loss": 0.1856, + "num_input_tokens_seen": 34986376, + "step": 17869 + }, + { + "epoch": 2.3684559310801854, + "grad_norm": 0.09659792482852936, + "learning_rate": 5.27541557632528e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34987456, + "step": 17870 + }, + { + "epoch": 2.368588469184891, + "grad_norm": 0.051037922501564026, + "learning_rate": 5.273282904367701e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34989776, + "step": 17871 + }, + { + "epoch": 2.368721007289596, + "grad_norm": 1.24022376537323, + "learning_rate": 5.27115061275483e-07, + "loss": 0.0086, + "num_input_tokens_seen": 34991440, + "step": 17872 + }, + { + "epoch": 2.368853545394301, + "grad_norm": 4.3537421226501465, + "learning_rate": 5.269018701527792e-07, + "loss": 0.0186, + "num_input_tokens_seen": 34993792, + "step": 17873 + }, + { + "epoch": 2.368986083499006, + "grad_norm": 0.8581714630126953, + "learning_rate": 5.26688717072768e-07, + "loss": 0.005, + "num_input_tokens_seen": 34995168, + "step": 17874 + }, + { + "epoch": 2.369118621603711, + "grad_norm": 0.7221105098724365, + "learning_rate": 5.2647560203956e-07, + "loss": 0.0028, + "num_input_tokens_seen": 34997720, + "step": 17875 + }, + { + "epoch": 2.369251159708416, + "grad_norm": 0.7373464703559875, + "learning_rate": 5.262625250572642e-07, + "loss": 0.0027, + "num_input_tokens_seen": 34999224, + "step": 17876 + }, + { + "epoch": 2.369383697813121, + "grad_norm": 1.2851636409759521, + "learning_rate": 5.260494861299875e-07, + "loss": 0.0076, + "num_input_tokens_seen": 35002000, + "step": 17877 + }, + { + "epoch": 2.3695162359178266, + "grad_norm": 0.0021371126640588045, + "learning_rate": 5.258364852618395e-07, + "loss": 0.0, + "num_input_tokens_seen": 35003248, + "step": 17878 + }, + { + "epoch": 2.3696487740225316, + "grad_norm": 0.009958760812878609, + "learning_rate": 5.256235224569259e-07, + "loss": 0.0, + "num_input_tokens_seen": 35004456, + "step": 17879 + }, + { + "epoch": 2.3697813121272366, + "grad_norm": 0.18617406487464905, + "learning_rate": 5.254105977193519e-07, + "loss": 0.0011, + "num_input_tokens_seen": 35005936, + "step": 17880 + }, + { + "epoch": 2.3699138502319417, + "grad_norm": 0.04857746139168739, + "learning_rate": 5.251977110532247e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35007568, + "step": 17881 + }, + { + "epoch": 2.3700463883366467, + "grad_norm": 0.02612837590277195, + "learning_rate": 5.249848624626472e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35008632, + "step": 17882 + }, + { + "epoch": 2.3701789264413518, + "grad_norm": 0.039052385836839676, + "learning_rate": 5.247720519517246e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35011656, + "step": 17883 + }, + { + "epoch": 2.370311464546057, + "grad_norm": 6.019850730895996, + "learning_rate": 5.245592795245597e-07, + "loss": 0.1, + "num_input_tokens_seen": 35013664, + "step": 17884 + }, + { + "epoch": 2.3704440026507623, + "grad_norm": 4.909743785858154, + "learning_rate": 5.243465451852548e-07, + "loss": 0.0281, + "num_input_tokens_seen": 35017024, + "step": 17885 + }, + { + "epoch": 2.3705765407554673, + "grad_norm": 1.2272380590438843, + "learning_rate": 5.241338489379102e-07, + "loss": 0.0013, + "num_input_tokens_seen": 35018928, + "step": 17886 + }, + { + "epoch": 2.3707090788601723, + "grad_norm": 10.323346138000488, + "learning_rate": 5.239211907866288e-07, + "loss": 0.0381, + "num_input_tokens_seen": 35021384, + "step": 17887 + }, + { + "epoch": 2.3708416169648774, + "grad_norm": 1.7019084692001343, + "learning_rate": 5.237085707355103e-07, + "loss": 0.0294, + "num_input_tokens_seen": 35023480, + "step": 17888 + }, + { + "epoch": 2.3709741550695824, + "grad_norm": 10.059270858764648, + "learning_rate": 5.23495988788654e-07, + "loss": 0.0693, + "num_input_tokens_seen": 35026272, + "step": 17889 + }, + { + "epoch": 2.3711066931742875, + "grad_norm": 11.62209415435791, + "learning_rate": 5.232834449501584e-07, + "loss": 0.2196, + "num_input_tokens_seen": 35029488, + "step": 17890 + }, + { + "epoch": 2.3712392312789925, + "grad_norm": 0.04964036867022514, + "learning_rate": 5.230709392241218e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35030808, + "step": 17891 + }, + { + "epoch": 2.371371769383698, + "grad_norm": 0.0075523448176681995, + "learning_rate": 5.228584716146407e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35032568, + "step": 17892 + }, + { + "epoch": 2.371504307488403, + "grad_norm": 5.44835090637207, + "learning_rate": 5.226460421258123e-07, + "loss": 0.0563, + "num_input_tokens_seen": 35034280, + "step": 17893 + }, + { + "epoch": 2.371636845593108, + "grad_norm": 9.484182357788086, + "learning_rate": 5.224336507617328e-07, + "loss": 0.0412, + "num_input_tokens_seen": 35035984, + "step": 17894 + }, + { + "epoch": 2.371769383697813, + "grad_norm": 0.0019039280014112592, + "learning_rate": 5.222212975264967e-07, + "loss": 0.0, + "num_input_tokens_seen": 35037384, + "step": 17895 + }, + { + "epoch": 2.371901921802518, + "grad_norm": 0.003801350947469473, + "learning_rate": 5.220089824241987e-07, + "loss": 0.0, + "num_input_tokens_seen": 35039080, + "step": 17896 + }, + { + "epoch": 2.372034459907223, + "grad_norm": 0.01347715687006712, + "learning_rate": 5.217967054589313e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35041720, + "step": 17897 + }, + { + "epoch": 2.372166998011928, + "grad_norm": 0.5990731716156006, + "learning_rate": 5.215844666347878e-07, + "loss": 0.0029, + "num_input_tokens_seen": 35044024, + "step": 17898 + }, + { + "epoch": 2.3722995361166337, + "grad_norm": 0.0016939198831096292, + "learning_rate": 5.213722659558615e-07, + "loss": 0.0, + "num_input_tokens_seen": 35045528, + "step": 17899 + }, + { + "epoch": 2.3724320742213387, + "grad_norm": 0.015038426034152508, + "learning_rate": 5.211601034262429e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35047216, + "step": 17900 + }, + { + "epoch": 2.3725646123260438, + "grad_norm": 0.00941755436360836, + "learning_rate": 5.209479790500227e-07, + "loss": 0.0, + "num_input_tokens_seen": 35048776, + "step": 17901 + }, + { + "epoch": 2.372697150430749, + "grad_norm": 0.4415956437587738, + "learning_rate": 5.207358928312905e-07, + "loss": 0.0031, + "num_input_tokens_seen": 35050856, + "step": 17902 + }, + { + "epoch": 2.372829688535454, + "grad_norm": 8.411741256713867, + "learning_rate": 5.205238447741354e-07, + "loss": 0.0919, + "num_input_tokens_seen": 35052512, + "step": 17903 + }, + { + "epoch": 2.372962226640159, + "grad_norm": 11.490489959716797, + "learning_rate": 5.203118348826461e-07, + "loss": 0.1827, + "num_input_tokens_seen": 35054720, + "step": 17904 + }, + { + "epoch": 2.373094764744864, + "grad_norm": 4.641931056976318, + "learning_rate": 5.200998631609108e-07, + "loss": 0.0327, + "num_input_tokens_seen": 35056288, + "step": 17905 + }, + { + "epoch": 2.3732273028495694, + "grad_norm": 0.0057508512400090694, + "learning_rate": 5.19887929613016e-07, + "loss": 0.0, + "num_input_tokens_seen": 35057760, + "step": 17906 + }, + { + "epoch": 2.3733598409542744, + "grad_norm": 0.0136649738997221, + "learning_rate": 5.196760342430479e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35059320, + "step": 17907 + }, + { + "epoch": 2.3734923790589795, + "grad_norm": 2.1688294410705566, + "learning_rate": 5.194641770550915e-07, + "loss": 0.0065, + "num_input_tokens_seen": 35061304, + "step": 17908 + }, + { + "epoch": 2.3736249171636845, + "grad_norm": 4.105848789215088, + "learning_rate": 5.192523580532327e-07, + "loss": 0.0157, + "num_input_tokens_seen": 35063072, + "step": 17909 + }, + { + "epoch": 2.3737574552683895, + "grad_norm": 2.588618278503418, + "learning_rate": 5.190405772415544e-07, + "loss": 0.0096, + "num_input_tokens_seen": 35065232, + "step": 17910 + }, + { + "epoch": 2.3738899933730946, + "grad_norm": 7.72862434387207, + "learning_rate": 5.188288346241408e-07, + "loss": 0.1321, + "num_input_tokens_seen": 35067312, + "step": 17911 + }, + { + "epoch": 2.3740225314777996, + "grad_norm": 3.853945255279541, + "learning_rate": 5.186171302050741e-07, + "loss": 0.0312, + "num_input_tokens_seen": 35069312, + "step": 17912 + }, + { + "epoch": 2.374155069582505, + "grad_norm": 0.037188608199357986, + "learning_rate": 5.18405463988435e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35070592, + "step": 17913 + }, + { + "epoch": 2.37428760768721, + "grad_norm": 0.12726527452468872, + "learning_rate": 5.181938359783068e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35073056, + "step": 17914 + }, + { + "epoch": 2.374420145791915, + "grad_norm": 1.373931884765625, + "learning_rate": 5.179822461787685e-07, + "loss": 0.0074, + "num_input_tokens_seen": 35074264, + "step": 17915 + }, + { + "epoch": 2.37455268389662, + "grad_norm": 0.5332595705986023, + "learning_rate": 5.177706945938988e-07, + "loss": 0.0023, + "num_input_tokens_seen": 35075912, + "step": 17916 + }, + { + "epoch": 2.3746852220013253, + "grad_norm": 0.020860079675912857, + "learning_rate": 5.175591812277786e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35078416, + "step": 17917 + }, + { + "epoch": 2.3748177601060303, + "grad_norm": 14.250446319580078, + "learning_rate": 5.17347706084484e-07, + "loss": 0.1237, + "num_input_tokens_seen": 35081096, + "step": 17918 + }, + { + "epoch": 2.3749502982107358, + "grad_norm": 0.016021398827433586, + "learning_rate": 5.171362691680943e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35082424, + "step": 17919 + }, + { + "epoch": 2.375082836315441, + "grad_norm": 5.326563835144043, + "learning_rate": 5.169248704826851e-07, + "loss": 0.0995, + "num_input_tokens_seen": 35084496, + "step": 17920 + }, + { + "epoch": 2.375215374420146, + "grad_norm": 4.2434282302856445, + "learning_rate": 5.167135100323326e-07, + "loss": 0.0501, + "num_input_tokens_seen": 35086184, + "step": 17921 + }, + { + "epoch": 2.375347912524851, + "grad_norm": 0.0033141958992928267, + "learning_rate": 5.165021878211112e-07, + "loss": 0.0, + "num_input_tokens_seen": 35088112, + "step": 17922 + }, + { + "epoch": 2.375480450629556, + "grad_norm": 12.980299949645996, + "learning_rate": 5.162909038530959e-07, + "loss": 0.0782, + "num_input_tokens_seen": 35089776, + "step": 17923 + }, + { + "epoch": 2.375612988734261, + "grad_norm": 0.0279797725379467, + "learning_rate": 5.16079658132361e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35091968, + "step": 17924 + }, + { + "epoch": 2.3757455268389664, + "grad_norm": 0.002451819134876132, + "learning_rate": 5.158684506629791e-07, + "loss": 0.0, + "num_input_tokens_seen": 35093752, + "step": 17925 + }, + { + "epoch": 2.3758780649436715, + "grad_norm": 4.416686534881592, + "learning_rate": 5.156572814490222e-07, + "loss": 0.0184, + "num_input_tokens_seen": 35095728, + "step": 17926 + }, + { + "epoch": 2.3760106030483765, + "grad_norm": 16.32256317138672, + "learning_rate": 5.15446150494561e-07, + "loss": 0.219, + "num_input_tokens_seen": 35098104, + "step": 17927 + }, + { + "epoch": 2.3761431411530816, + "grad_norm": 9.956915855407715, + "learning_rate": 5.15235057803668e-07, + "loss": 0.1266, + "num_input_tokens_seen": 35099584, + "step": 17928 + }, + { + "epoch": 2.3762756792577866, + "grad_norm": 0.011720165610313416, + "learning_rate": 5.150240033804116e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35100448, + "step": 17929 + }, + { + "epoch": 2.3764082173624916, + "grad_norm": 29.025320053100586, + "learning_rate": 5.148129872288624e-07, + "loss": 0.2877, + "num_input_tokens_seen": 35102896, + "step": 17930 + }, + { + "epoch": 2.3765407554671967, + "grad_norm": 4.745757579803467, + "learning_rate": 5.146020093530882e-07, + "loss": 0.068, + "num_input_tokens_seen": 35104752, + "step": 17931 + }, + { + "epoch": 2.376673293571902, + "grad_norm": 5.560002326965332, + "learning_rate": 5.143910697571571e-07, + "loss": 0.0428, + "num_input_tokens_seen": 35106720, + "step": 17932 + }, + { + "epoch": 2.376805831676607, + "grad_norm": 0.0006894422695040703, + "learning_rate": 5.141801684451353e-07, + "loss": 0.0, + "num_input_tokens_seen": 35108136, + "step": 17933 + }, + { + "epoch": 2.3769383697813122, + "grad_norm": 0.004063890781253576, + "learning_rate": 5.139693054210895e-07, + "loss": 0.0, + "num_input_tokens_seen": 35109344, + "step": 17934 + }, + { + "epoch": 2.3770709078860173, + "grad_norm": 2.4895477294921875, + "learning_rate": 5.137584806890866e-07, + "loss": 0.0061, + "num_input_tokens_seen": 35111176, + "step": 17935 + }, + { + "epoch": 2.3772034459907223, + "grad_norm": 0.04672565683722496, + "learning_rate": 5.135476942531903e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35113120, + "step": 17936 + }, + { + "epoch": 2.3773359840954273, + "grad_norm": 11.556010246276855, + "learning_rate": 5.133369461174647e-07, + "loss": 0.1202, + "num_input_tokens_seen": 35115736, + "step": 17937 + }, + { + "epoch": 2.3774685222001324, + "grad_norm": 1.7991528511047363, + "learning_rate": 5.131262362859738e-07, + "loss": 0.0392, + "num_input_tokens_seen": 35117408, + "step": 17938 + }, + { + "epoch": 2.377601060304838, + "grad_norm": 12.910868644714355, + "learning_rate": 5.129155647627787e-07, + "loss": 0.1214, + "num_input_tokens_seen": 35119496, + "step": 17939 + }, + { + "epoch": 2.377733598409543, + "grad_norm": 0.011820790357887745, + "learning_rate": 5.127049315519422e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35121976, + "step": 17940 + }, + { + "epoch": 2.377866136514248, + "grad_norm": 5.301743984222412, + "learning_rate": 5.124943366575263e-07, + "loss": 0.0559, + "num_input_tokens_seen": 35124528, + "step": 17941 + }, + { + "epoch": 2.377998674618953, + "grad_norm": 0.08360441029071808, + "learning_rate": 5.122837800835909e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35126296, + "step": 17942 + }, + { + "epoch": 2.378131212723658, + "grad_norm": 0.007838529534637928, + "learning_rate": 5.120732618341956e-07, + "loss": 0.0, + "num_input_tokens_seen": 35128448, + "step": 17943 + }, + { + "epoch": 2.378263750828363, + "grad_norm": 3.1454050540924072, + "learning_rate": 5.118627819133981e-07, + "loss": 0.0371, + "num_input_tokens_seen": 35130176, + "step": 17944 + }, + { + "epoch": 2.378396288933068, + "grad_norm": 0.10389475524425507, + "learning_rate": 5.116523403252588e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35132152, + "step": 17945 + }, + { + "epoch": 2.3785288270377736, + "grad_norm": 1.531826138496399, + "learning_rate": 5.11441937073833e-07, + "loss": 0.0071, + "num_input_tokens_seen": 35134392, + "step": 17946 + }, + { + "epoch": 2.3786613651424786, + "grad_norm": 9.040937423706055, + "learning_rate": 5.112315721631795e-07, + "loss": 0.0807, + "num_input_tokens_seen": 35136856, + "step": 17947 + }, + { + "epoch": 2.3787939032471836, + "grad_norm": 0.019851993769407272, + "learning_rate": 5.110212455973532e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35138552, + "step": 17948 + }, + { + "epoch": 2.3789264413518887, + "grad_norm": 2.7148897647857666, + "learning_rate": 5.108109573804085e-07, + "loss": 0.0255, + "num_input_tokens_seen": 35140792, + "step": 17949 + }, + { + "epoch": 2.3790589794565937, + "grad_norm": 0.0018293705070391297, + "learning_rate": 5.106007075164018e-07, + "loss": 0.0, + "num_input_tokens_seen": 35141992, + "step": 17950 + }, + { + "epoch": 2.3791915175612988, + "grad_norm": 10.630107879638672, + "learning_rate": 5.10390496009385e-07, + "loss": 0.1317, + "num_input_tokens_seen": 35144960, + "step": 17951 + }, + { + "epoch": 2.379324055666004, + "grad_norm": 0.5853550434112549, + "learning_rate": 5.101803228634127e-07, + "loss": 0.004, + "num_input_tokens_seen": 35146760, + "step": 17952 + }, + { + "epoch": 2.3794565937707093, + "grad_norm": 2.4751431941986084, + "learning_rate": 5.099701880825366e-07, + "loss": 0.0169, + "num_input_tokens_seen": 35148960, + "step": 17953 + }, + { + "epoch": 2.3795891318754143, + "grad_norm": 15.273058891296387, + "learning_rate": 5.097600916708081e-07, + "loss": 0.1693, + "num_input_tokens_seen": 35150912, + "step": 17954 + }, + { + "epoch": 2.3797216699801194, + "grad_norm": 0.010250061750411987, + "learning_rate": 5.095500336322772e-07, + "loss": 0.0, + "num_input_tokens_seen": 35152320, + "step": 17955 + }, + { + "epoch": 2.3798542080848244, + "grad_norm": 0.0028061058837920427, + "learning_rate": 5.093400139709956e-07, + "loss": 0.0, + "num_input_tokens_seen": 35154024, + "step": 17956 + }, + { + "epoch": 2.3799867461895294, + "grad_norm": 0.008211425505578518, + "learning_rate": 5.091300326910112e-07, + "loss": 0.0, + "num_input_tokens_seen": 35155424, + "step": 17957 + }, + { + "epoch": 2.3801192842942345, + "grad_norm": 6.763659954071045, + "learning_rate": 5.089200897963736e-07, + "loss": 0.054, + "num_input_tokens_seen": 35157520, + "step": 17958 + }, + { + "epoch": 2.3802518223989395, + "grad_norm": 0.00388971040956676, + "learning_rate": 5.087101852911305e-07, + "loss": 0.0, + "num_input_tokens_seen": 35159736, + "step": 17959 + }, + { + "epoch": 2.380384360503645, + "grad_norm": 0.019698435440659523, + "learning_rate": 5.085003191793281e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35162384, + "step": 17960 + }, + { + "epoch": 2.38051689860835, + "grad_norm": 8.145330429077148, + "learning_rate": 5.082904914650139e-07, + "loss": 0.0431, + "num_input_tokens_seen": 35164688, + "step": 17961 + }, + { + "epoch": 2.380649436713055, + "grad_norm": 27.213287353515625, + "learning_rate": 5.080807021522332e-07, + "loss": 0.317, + "num_input_tokens_seen": 35167208, + "step": 17962 + }, + { + "epoch": 2.38078197481776, + "grad_norm": 1.1561954021453857, + "learning_rate": 5.0787095124503e-07, + "loss": 0.0031, + "num_input_tokens_seen": 35168752, + "step": 17963 + }, + { + "epoch": 2.380914512922465, + "grad_norm": 5.090138912200928, + "learning_rate": 5.076612387474497e-07, + "loss": 0.0269, + "num_input_tokens_seen": 35170752, + "step": 17964 + }, + { + "epoch": 2.38104705102717, + "grad_norm": 7.058280944824219, + "learning_rate": 5.074515646635348e-07, + "loss": 0.169, + "num_input_tokens_seen": 35172608, + "step": 17965 + }, + { + "epoch": 2.381179589131875, + "grad_norm": 0.06047163903713226, + "learning_rate": 5.072419289973285e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35174192, + "step": 17966 + }, + { + "epoch": 2.3813121272365807, + "grad_norm": 9.287342071533203, + "learning_rate": 5.07032331752873e-07, + "loss": 0.057, + "num_input_tokens_seen": 35175912, + "step": 17967 + }, + { + "epoch": 2.3814446653412857, + "grad_norm": 0.004644722677767277, + "learning_rate": 5.068227729342087e-07, + "loss": 0.0, + "num_input_tokens_seen": 35177384, + "step": 17968 + }, + { + "epoch": 2.3815772034459908, + "grad_norm": 2.6040971279144287, + "learning_rate": 5.06613252545376e-07, + "loss": 0.0165, + "num_input_tokens_seen": 35179480, + "step": 17969 + }, + { + "epoch": 2.381709741550696, + "grad_norm": 0.4529944360256195, + "learning_rate": 5.064037705904145e-07, + "loss": 0.0014, + "num_input_tokens_seen": 35180792, + "step": 17970 + }, + { + "epoch": 2.381842279655401, + "grad_norm": 0.011084871366620064, + "learning_rate": 5.061943270733647e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35183032, + "step": 17971 + }, + { + "epoch": 2.381974817760106, + "grad_norm": 0.0010478443000465631, + "learning_rate": 5.059849219982637e-07, + "loss": 0.0, + "num_input_tokens_seen": 35184392, + "step": 17972 + }, + { + "epoch": 2.382107355864811, + "grad_norm": 0.01291678473353386, + "learning_rate": 5.057755553691488e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35186064, + "step": 17973 + }, + { + "epoch": 2.3822398939695164, + "grad_norm": 0.2940012216567993, + "learning_rate": 5.055662271900571e-07, + "loss": 0.0018, + "num_input_tokens_seen": 35188208, + "step": 17974 + }, + { + "epoch": 2.3823724320742214, + "grad_norm": 0.0004471022402867675, + "learning_rate": 5.053569374650239e-07, + "loss": 0.0, + "num_input_tokens_seen": 35189328, + "step": 17975 + }, + { + "epoch": 2.3825049701789265, + "grad_norm": 0.07502160221338272, + "learning_rate": 5.051476861980847e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35191320, + "step": 17976 + }, + { + "epoch": 2.3826375082836315, + "grad_norm": 2.128720283508301, + "learning_rate": 5.04938473393275e-07, + "loss": 0.0076, + "num_input_tokens_seen": 35193352, + "step": 17977 + }, + { + "epoch": 2.3827700463883366, + "grad_norm": 1.0366307497024536, + "learning_rate": 5.047292990546279e-07, + "loss": 0.0035, + "num_input_tokens_seen": 35195296, + "step": 17978 + }, + { + "epoch": 2.3829025844930416, + "grad_norm": 18.773576736450195, + "learning_rate": 5.045201631861762e-07, + "loss": 0.1827, + "num_input_tokens_seen": 35196928, + "step": 17979 + }, + { + "epoch": 2.3830351225977466, + "grad_norm": 0.2759280502796173, + "learning_rate": 5.04311065791952e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35198584, + "step": 17980 + }, + { + "epoch": 2.383167660702452, + "grad_norm": 0.12578228116035461, + "learning_rate": 5.041020068759872e-07, + "loss": 0.001, + "num_input_tokens_seen": 35200152, + "step": 17981 + }, + { + "epoch": 2.383300198807157, + "grad_norm": 5.767873287200928, + "learning_rate": 5.038929864423131e-07, + "loss": 0.0657, + "num_input_tokens_seen": 35201896, + "step": 17982 + }, + { + "epoch": 2.383432736911862, + "grad_norm": 1.2965185642242432, + "learning_rate": 5.036840044949593e-07, + "loss": 0.0065, + "num_input_tokens_seen": 35204400, + "step": 17983 + }, + { + "epoch": 2.3835652750165672, + "grad_norm": 0.08428892493247986, + "learning_rate": 5.034750610379552e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35205976, + "step": 17984 + }, + { + "epoch": 2.3836978131212723, + "grad_norm": 0.0033565452322363853, + "learning_rate": 5.03266156075329e-07, + "loss": 0.0, + "num_input_tokens_seen": 35207136, + "step": 17985 + }, + { + "epoch": 2.3838303512259773, + "grad_norm": 20.848039627075195, + "learning_rate": 5.030572896111083e-07, + "loss": 0.4158, + "num_input_tokens_seen": 35209056, + "step": 17986 + }, + { + "epoch": 2.3839628893306823, + "grad_norm": 0.0039758263155817986, + "learning_rate": 5.028484616493206e-07, + "loss": 0.0, + "num_input_tokens_seen": 35210576, + "step": 17987 + }, + { + "epoch": 2.384095427435388, + "grad_norm": 0.051597170531749725, + "learning_rate": 5.02639672193993e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35213472, + "step": 17988 + }, + { + "epoch": 2.384227965540093, + "grad_norm": 7.71702241897583, + "learning_rate": 5.024309212491507e-07, + "loss": 0.1154, + "num_input_tokens_seen": 35214656, + "step": 17989 + }, + { + "epoch": 2.384360503644798, + "grad_norm": 0.05339091643691063, + "learning_rate": 5.022222088188181e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35216120, + "step": 17990 + }, + { + "epoch": 2.384493041749503, + "grad_norm": 4.701279163360596, + "learning_rate": 5.020135349070188e-07, + "loss": 0.0208, + "num_input_tokens_seen": 35217824, + "step": 17991 + }, + { + "epoch": 2.384625579854208, + "grad_norm": 0.05870716646313667, + "learning_rate": 5.018048995177774e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35220152, + "step": 17992 + }, + { + "epoch": 2.384758117958913, + "grad_norm": 0.023498330265283585, + "learning_rate": 5.015963026551154e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35221680, + "step": 17993 + }, + { + "epoch": 2.384890656063618, + "grad_norm": 0.011212069541215897, + "learning_rate": 5.013877443230563e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35222912, + "step": 17994 + }, + { + "epoch": 2.3850231941683235, + "grad_norm": 4.699239253997803, + "learning_rate": 5.0117922452562e-07, + "loss": 0.0257, + "num_input_tokens_seen": 35224592, + "step": 17995 + }, + { + "epoch": 2.3851557322730286, + "grad_norm": 0.34986379742622375, + "learning_rate": 5.009707432668265e-07, + "loss": 0.0026, + "num_input_tokens_seen": 35227224, + "step": 17996 + }, + { + "epoch": 2.3852882703777336, + "grad_norm": 0.06769727170467377, + "learning_rate": 5.007623005506971e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35229136, + "step": 17997 + }, + { + "epoch": 2.3854208084824386, + "grad_norm": 0.008928444236516953, + "learning_rate": 5.005538963812493e-07, + "loss": 0.0, + "num_input_tokens_seen": 35230864, + "step": 17998 + }, + { + "epoch": 2.3855533465871437, + "grad_norm": 1.4347572326660156, + "learning_rate": 5.003455307625013e-07, + "loss": 0.0038, + "num_input_tokens_seen": 35232392, + "step": 17999 + }, + { + "epoch": 2.3856858846918487, + "grad_norm": 0.0009519436280243099, + "learning_rate": 5.001372036984717e-07, + "loss": 0.0, + "num_input_tokens_seen": 35233888, + "step": 18000 + }, + { + "epoch": 2.3858184227965538, + "grad_norm": 0.19126462936401367, + "learning_rate": 4.999289151931755e-07, + "loss": 0.0016, + "num_input_tokens_seen": 35235856, + "step": 18001 + }, + { + "epoch": 2.3859509609012592, + "grad_norm": 1.900070071220398, + "learning_rate": 4.997206652506303e-07, + "loss": 0.0222, + "num_input_tokens_seen": 35238312, + "step": 18002 + }, + { + "epoch": 2.3860834990059643, + "grad_norm": 0.0020103466231375933, + "learning_rate": 4.995124538748508e-07, + "loss": 0.0, + "num_input_tokens_seen": 35239352, + "step": 18003 + }, + { + "epoch": 2.3862160371106693, + "grad_norm": 3.927797317504883, + "learning_rate": 4.993042810698507e-07, + "loss": 0.0412, + "num_input_tokens_seen": 35241336, + "step": 18004 + }, + { + "epoch": 2.3863485752153744, + "grad_norm": 6.308338642120361, + "learning_rate": 4.990961468396446e-07, + "loss": 0.0379, + "num_input_tokens_seen": 35243040, + "step": 18005 + }, + { + "epoch": 2.3864811133200794, + "grad_norm": 0.0027931940276175737, + "learning_rate": 4.988880511882447e-07, + "loss": 0.0, + "num_input_tokens_seen": 35244544, + "step": 18006 + }, + { + "epoch": 2.3866136514247844, + "grad_norm": 0.0005692624254152179, + "learning_rate": 4.986799941196643e-07, + "loss": 0.0, + "num_input_tokens_seen": 35245904, + "step": 18007 + }, + { + "epoch": 2.38674618952949, + "grad_norm": 0.8246408700942993, + "learning_rate": 4.984719756379141e-07, + "loss": 0.0058, + "num_input_tokens_seen": 35247760, + "step": 18008 + }, + { + "epoch": 2.386878727634195, + "grad_norm": 4.985980033874512, + "learning_rate": 4.98263995747005e-07, + "loss": 0.1092, + "num_input_tokens_seen": 35250064, + "step": 18009 + }, + { + "epoch": 2.3870112657389, + "grad_norm": 8.307755470275879, + "learning_rate": 4.980560544509467e-07, + "loss": 0.0233, + "num_input_tokens_seen": 35251792, + "step": 18010 + }, + { + "epoch": 2.387143803843605, + "grad_norm": 2.374363899230957, + "learning_rate": 4.97848151753749e-07, + "loss": 0.0041, + "num_input_tokens_seen": 35253312, + "step": 18011 + }, + { + "epoch": 2.38727634194831, + "grad_norm": 0.2714846432209015, + "learning_rate": 4.976402876594196e-07, + "loss": 0.0025, + "num_input_tokens_seen": 35255408, + "step": 18012 + }, + { + "epoch": 2.387408880053015, + "grad_norm": 1.2457352876663208, + "learning_rate": 4.974324621719676e-07, + "loss": 0.0015, + "num_input_tokens_seen": 35256760, + "step": 18013 + }, + { + "epoch": 2.3875414181577206, + "grad_norm": 0.08192801475524902, + "learning_rate": 4.972246752953991e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35258120, + "step": 18014 + }, + { + "epoch": 2.3876739562624256, + "grad_norm": 7.829074382781982, + "learning_rate": 4.970169270337205e-07, + "loss": 0.1039, + "num_input_tokens_seen": 35260672, + "step": 18015 + }, + { + "epoch": 2.3878064943671307, + "grad_norm": 0.00040108885150402784, + "learning_rate": 4.968092173909367e-07, + "loss": 0.0, + "num_input_tokens_seen": 35261984, + "step": 18016 + }, + { + "epoch": 2.3879390324718357, + "grad_norm": 0.026104629039764404, + "learning_rate": 4.96601546371053e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35263496, + "step": 18017 + }, + { + "epoch": 2.3880715705765407, + "grad_norm": 1.5895689725875854, + "learning_rate": 4.963939139780743e-07, + "loss": 0.0134, + "num_input_tokens_seen": 35265152, + "step": 18018 + }, + { + "epoch": 2.3882041086812458, + "grad_norm": 0.054714106023311615, + "learning_rate": 4.961863202160033e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35267224, + "step": 18019 + }, + { + "epoch": 2.388336646785951, + "grad_norm": 0.39415812492370605, + "learning_rate": 4.959787650888423e-07, + "loss": 0.002, + "num_input_tokens_seen": 35268608, + "step": 18020 + }, + { + "epoch": 2.3884691848906563, + "grad_norm": 6.771104335784912, + "learning_rate": 4.957712486005933e-07, + "loss": 0.0345, + "num_input_tokens_seen": 35271072, + "step": 18021 + }, + { + "epoch": 2.3886017229953613, + "grad_norm": 0.0914878249168396, + "learning_rate": 4.955637707552565e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35274304, + "step": 18022 + }, + { + "epoch": 2.3887342611000664, + "grad_norm": 12.44843578338623, + "learning_rate": 4.95356331556833e-07, + "loss": 0.1105, + "num_input_tokens_seen": 35276080, + "step": 18023 + }, + { + "epoch": 2.3888667992047714, + "grad_norm": 0.018801383674144745, + "learning_rate": 4.951489310093229e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35278400, + "step": 18024 + }, + { + "epoch": 2.3889993373094764, + "grad_norm": 1.5168118476867676, + "learning_rate": 4.949415691167248e-07, + "loss": 0.0072, + "num_input_tokens_seen": 35281000, + "step": 18025 + }, + { + "epoch": 2.3891318754141815, + "grad_norm": 1.2630919218063354, + "learning_rate": 4.947342458830362e-07, + "loss": 0.0035, + "num_input_tokens_seen": 35283512, + "step": 18026 + }, + { + "epoch": 2.3892644135188865, + "grad_norm": 6.789336204528809, + "learning_rate": 4.945269613122541e-07, + "loss": 0.0633, + "num_input_tokens_seen": 35285888, + "step": 18027 + }, + { + "epoch": 2.389396951623592, + "grad_norm": 3.4781599044799805, + "learning_rate": 4.943197154083765e-07, + "loss": 0.0615, + "num_input_tokens_seen": 35287712, + "step": 18028 + }, + { + "epoch": 2.389529489728297, + "grad_norm": 3.359518527984619, + "learning_rate": 4.941125081753976e-07, + "loss": 0.0166, + "num_input_tokens_seen": 35289416, + "step": 18029 + }, + { + "epoch": 2.389662027833002, + "grad_norm": 0.02825923264026642, + "learning_rate": 4.93905339617314e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35291576, + "step": 18030 + }, + { + "epoch": 2.389794565937707, + "grad_norm": 0.02149035781621933, + "learning_rate": 4.936982097381193e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35293720, + "step": 18031 + }, + { + "epoch": 2.389927104042412, + "grad_norm": 1.1241884231567383, + "learning_rate": 4.934911185418067e-07, + "loss": 0.0117, + "num_input_tokens_seen": 35295640, + "step": 18032 + }, + { + "epoch": 2.390059642147117, + "grad_norm": 1.6864402294158936, + "learning_rate": 4.932840660323704e-07, + "loss": 0.0055, + "num_input_tokens_seen": 35298008, + "step": 18033 + }, + { + "epoch": 2.3901921802518222, + "grad_norm": 0.28321102261543274, + "learning_rate": 4.930770522138006e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35300616, + "step": 18034 + }, + { + "epoch": 2.3903247183565277, + "grad_norm": 2.5125503540039062, + "learning_rate": 4.928700770900907e-07, + "loss": 0.0148, + "num_input_tokens_seen": 35302488, + "step": 18035 + }, + { + "epoch": 2.3904572564612327, + "grad_norm": 0.0071412259712815285, + "learning_rate": 4.926631406652302e-07, + "loss": 0.0, + "num_input_tokens_seen": 35304448, + "step": 18036 + }, + { + "epoch": 2.390589794565938, + "grad_norm": 1.1198303699493408, + "learning_rate": 4.924562429432087e-07, + "loss": 0.002, + "num_input_tokens_seen": 35306392, + "step": 18037 + }, + { + "epoch": 2.390722332670643, + "grad_norm": 10.347325325012207, + "learning_rate": 4.922493839280162e-07, + "loss": 0.114, + "num_input_tokens_seen": 35308816, + "step": 18038 + }, + { + "epoch": 2.390854870775348, + "grad_norm": 5.873945236206055, + "learning_rate": 4.920425636236406e-07, + "loss": 0.0505, + "num_input_tokens_seen": 35311312, + "step": 18039 + }, + { + "epoch": 2.390987408880053, + "grad_norm": 14.954638481140137, + "learning_rate": 4.918357820340691e-07, + "loss": 0.08, + "num_input_tokens_seen": 35313320, + "step": 18040 + }, + { + "epoch": 2.391119946984758, + "grad_norm": 0.0013999970396980643, + "learning_rate": 4.916290391632897e-07, + "loss": 0.0, + "num_input_tokens_seen": 35314648, + "step": 18041 + }, + { + "epoch": 2.3912524850894634, + "grad_norm": 6.466757297515869, + "learning_rate": 4.914223350152878e-07, + "loss": 0.089, + "num_input_tokens_seen": 35316752, + "step": 18042 + }, + { + "epoch": 2.3913850231941685, + "grad_norm": 11.982085227966309, + "learning_rate": 4.912156695940484e-07, + "loss": 0.2459, + "num_input_tokens_seen": 35319048, + "step": 18043 + }, + { + "epoch": 2.3915175612988735, + "grad_norm": 8.030454635620117, + "learning_rate": 4.910090429035575e-07, + "loss": 0.0442, + "num_input_tokens_seen": 35321152, + "step": 18044 + }, + { + "epoch": 2.3916500994035785, + "grad_norm": 1.0896844863891602, + "learning_rate": 4.90802454947798e-07, + "loss": 0.006, + "num_input_tokens_seen": 35322944, + "step": 18045 + }, + { + "epoch": 2.3917826375082836, + "grad_norm": 0.01842232048511505, + "learning_rate": 4.905959057307525e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35325872, + "step": 18046 + }, + { + "epoch": 2.3919151756129886, + "grad_norm": 2.0054469108581543, + "learning_rate": 4.903893952564049e-07, + "loss": 0.0131, + "num_input_tokens_seen": 35328032, + "step": 18047 + }, + { + "epoch": 2.3920477137176936, + "grad_norm": 5.685820579528809, + "learning_rate": 4.901829235287356e-07, + "loss": 0.0998, + "num_input_tokens_seen": 35330712, + "step": 18048 + }, + { + "epoch": 2.392180251822399, + "grad_norm": 0.6882884502410889, + "learning_rate": 4.899764905517265e-07, + "loss": 0.0009, + "num_input_tokens_seen": 35332624, + "step": 18049 + }, + { + "epoch": 2.392312789927104, + "grad_norm": 0.051814790815114975, + "learning_rate": 4.897700963293572e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35334872, + "step": 18050 + }, + { + "epoch": 2.392445328031809, + "grad_norm": 0.00880675483494997, + "learning_rate": 4.895637408656075e-07, + "loss": 0.0, + "num_input_tokens_seen": 35338232, + "step": 18051 + }, + { + "epoch": 2.3925778661365142, + "grad_norm": 0.015536037273705006, + "learning_rate": 4.89357424164455e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35340032, + "step": 18052 + }, + { + "epoch": 2.3927104042412193, + "grad_norm": 6.628492832183838, + "learning_rate": 4.891511462298784e-07, + "loss": 0.0855, + "num_input_tokens_seen": 35342624, + "step": 18053 + }, + { + "epoch": 2.3928429423459243, + "grad_norm": 8.933393478393555, + "learning_rate": 4.889449070658558e-07, + "loss": 0.1109, + "num_input_tokens_seen": 35344496, + "step": 18054 + }, + { + "epoch": 2.3929754804506294, + "grad_norm": 0.040000446140766144, + "learning_rate": 4.887387066763625e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35346080, + "step": 18055 + }, + { + "epoch": 2.393108018555335, + "grad_norm": 0.0006348509923554957, + "learning_rate": 4.885325450653747e-07, + "loss": 0.0, + "num_input_tokens_seen": 35347320, + "step": 18056 + }, + { + "epoch": 2.39324055666004, + "grad_norm": 2.0450828075408936, + "learning_rate": 4.883264222368661e-07, + "loss": 0.0125, + "num_input_tokens_seen": 35349328, + "step": 18057 + }, + { + "epoch": 2.393373094764745, + "grad_norm": 2.423931837081909, + "learning_rate": 4.881203381948121e-07, + "loss": 0.0036, + "num_input_tokens_seen": 35351672, + "step": 18058 + }, + { + "epoch": 2.39350563286945, + "grad_norm": 7.251317501068115, + "learning_rate": 4.879142929431863e-07, + "loss": 0.0996, + "num_input_tokens_seen": 35353376, + "step": 18059 + }, + { + "epoch": 2.393638170974155, + "grad_norm": 0.002008693525567651, + "learning_rate": 4.877082864859611e-07, + "loss": 0.0, + "num_input_tokens_seen": 35354744, + "step": 18060 + }, + { + "epoch": 2.39377070907886, + "grad_norm": 0.0003734497295226902, + "learning_rate": 4.875023188271085e-07, + "loss": 0.0, + "num_input_tokens_seen": 35356232, + "step": 18061 + }, + { + "epoch": 2.393903247183565, + "grad_norm": 0.4390147626399994, + "learning_rate": 4.872963899705996e-07, + "loss": 0.0021, + "num_input_tokens_seen": 35358208, + "step": 18062 + }, + { + "epoch": 2.3940357852882705, + "grad_norm": 0.10972969979047775, + "learning_rate": 4.87090499920404e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35359712, + "step": 18063 + }, + { + "epoch": 2.3941683233929756, + "grad_norm": 0.0017021679086610675, + "learning_rate": 4.86884648680492e-07, + "loss": 0.0, + "num_input_tokens_seen": 35361240, + "step": 18064 + }, + { + "epoch": 2.3943008614976806, + "grad_norm": 0.0034408760257065296, + "learning_rate": 4.866788362548336e-07, + "loss": 0.0, + "num_input_tokens_seen": 35363384, + "step": 18065 + }, + { + "epoch": 2.3944333996023857, + "grad_norm": 6.084743499755859, + "learning_rate": 4.864730626473962e-07, + "loss": 0.0302, + "num_input_tokens_seen": 35365480, + "step": 18066 + }, + { + "epoch": 2.3945659377070907, + "grad_norm": 0.0009702668758109212, + "learning_rate": 4.862673278621472e-07, + "loss": 0.0, + "num_input_tokens_seen": 35366976, + "step": 18067 + }, + { + "epoch": 2.3946984758117957, + "grad_norm": 0.8273171782493591, + "learning_rate": 4.860616319030534e-07, + "loss": 0.0027, + "num_input_tokens_seen": 35368600, + "step": 18068 + }, + { + "epoch": 2.3948310139165008, + "grad_norm": 13.322151184082031, + "learning_rate": 4.858559747740798e-07, + "loss": 0.2269, + "num_input_tokens_seen": 35371112, + "step": 18069 + }, + { + "epoch": 2.3949635520212063, + "grad_norm": 0.0008569032070226967, + "learning_rate": 4.856503564791926e-07, + "loss": 0.0, + "num_input_tokens_seen": 35372480, + "step": 18070 + }, + { + "epoch": 2.3950960901259113, + "grad_norm": 10.47722339630127, + "learning_rate": 4.85444777022357e-07, + "loss": 0.1041, + "num_input_tokens_seen": 35374320, + "step": 18071 + }, + { + "epoch": 2.3952286282306163, + "grad_norm": 4.897650718688965, + "learning_rate": 4.852392364075357e-07, + "loss": 0.0603, + "num_input_tokens_seen": 35376208, + "step": 18072 + }, + { + "epoch": 2.3953611663353214, + "grad_norm": 0.1023603081703186, + "learning_rate": 4.850337346386916e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35377888, + "step": 18073 + }, + { + "epoch": 2.3954937044400264, + "grad_norm": 0.007483744993805885, + "learning_rate": 4.848282717197866e-07, + "loss": 0.0, + "num_input_tokens_seen": 35380432, + "step": 18074 + }, + { + "epoch": 2.3956262425447314, + "grad_norm": 15.703322410583496, + "learning_rate": 4.846228476547837e-07, + "loss": 0.213, + "num_input_tokens_seen": 35381888, + "step": 18075 + }, + { + "epoch": 2.3957587806494365, + "grad_norm": 0.016008207574486732, + "learning_rate": 4.844174624476417e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35383520, + "step": 18076 + }, + { + "epoch": 2.395891318754142, + "grad_norm": 0.029001623392105103, + "learning_rate": 4.842121161023222e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35384928, + "step": 18077 + }, + { + "epoch": 2.396023856858847, + "grad_norm": 0.0028256913647055626, + "learning_rate": 4.840068086227837e-07, + "loss": 0.0, + "num_input_tokens_seen": 35386688, + "step": 18078 + }, + { + "epoch": 2.396156394963552, + "grad_norm": 0.0021167208906263113, + "learning_rate": 4.838015400129842e-07, + "loss": 0.0, + "num_input_tokens_seen": 35387960, + "step": 18079 + }, + { + "epoch": 2.396288933068257, + "grad_norm": 0.008040952496230602, + "learning_rate": 4.835963102768823e-07, + "loss": 0.0, + "num_input_tokens_seen": 35389696, + "step": 18080 + }, + { + "epoch": 2.396421471172962, + "grad_norm": 5.167471408843994, + "learning_rate": 4.83391119418434e-07, + "loss": 0.0479, + "num_input_tokens_seen": 35391584, + "step": 18081 + }, + { + "epoch": 2.396554009277667, + "grad_norm": 0.015606870874762535, + "learning_rate": 4.83185967441597e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35393152, + "step": 18082 + }, + { + "epoch": 2.396686547382372, + "grad_norm": 0.0010417028097435832, + "learning_rate": 4.829808543503256e-07, + "loss": 0.0, + "num_input_tokens_seen": 35394720, + "step": 18083 + }, + { + "epoch": 2.3968190854870777, + "grad_norm": 12.353904724121094, + "learning_rate": 4.827757801485744e-07, + "loss": 0.3407, + "num_input_tokens_seen": 35396064, + "step": 18084 + }, + { + "epoch": 2.3969516235917827, + "grad_norm": 0.0026123649440705776, + "learning_rate": 4.825707448402983e-07, + "loss": 0.0, + "num_input_tokens_seen": 35397248, + "step": 18085 + }, + { + "epoch": 2.3970841616964877, + "grad_norm": 9.295557022094727, + "learning_rate": 4.8236574842945e-07, + "loss": 0.1123, + "num_input_tokens_seen": 35398992, + "step": 18086 + }, + { + "epoch": 2.397216699801193, + "grad_norm": 0.011044790036976337, + "learning_rate": 4.821607909199813e-07, + "loss": 0.0, + "num_input_tokens_seen": 35400512, + "step": 18087 + }, + { + "epoch": 2.397349237905898, + "grad_norm": 12.825777053833008, + "learning_rate": 4.819558723158452e-07, + "loss": 0.0981, + "num_input_tokens_seen": 35401960, + "step": 18088 + }, + { + "epoch": 2.397481776010603, + "grad_norm": 2.2096049785614014, + "learning_rate": 4.817509926209915e-07, + "loss": 0.0071, + "num_input_tokens_seen": 35404072, + "step": 18089 + }, + { + "epoch": 2.3976143141153083, + "grad_norm": 3.461277961730957, + "learning_rate": 4.815461518393713e-07, + "loss": 0.0305, + "num_input_tokens_seen": 35406176, + "step": 18090 + }, + { + "epoch": 2.3977468522200134, + "grad_norm": 0.8326310515403748, + "learning_rate": 4.813413499749342e-07, + "loss": 0.0053, + "num_input_tokens_seen": 35407744, + "step": 18091 + }, + { + "epoch": 2.3978793903247184, + "grad_norm": 0.1329413205385208, + "learning_rate": 4.811365870316281e-07, + "loss": 0.0008, + "num_input_tokens_seen": 35409624, + "step": 18092 + }, + { + "epoch": 2.3980119284294235, + "grad_norm": 0.04257022216916084, + "learning_rate": 4.809318630134011e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35411664, + "step": 18093 + }, + { + "epoch": 2.3981444665341285, + "grad_norm": 0.1821708083152771, + "learning_rate": 4.807271779242004e-07, + "loss": 0.0009, + "num_input_tokens_seen": 35414072, + "step": 18094 + }, + { + "epoch": 2.3982770046388335, + "grad_norm": 5.76358699798584, + "learning_rate": 4.805225317679735e-07, + "loss": 0.0339, + "num_input_tokens_seen": 35416488, + "step": 18095 + }, + { + "epoch": 2.398409542743539, + "grad_norm": 13.017148971557617, + "learning_rate": 4.803179245486653e-07, + "loss": 0.1863, + "num_input_tokens_seen": 35418200, + "step": 18096 + }, + { + "epoch": 2.398542080848244, + "grad_norm": 7.730273723602295, + "learning_rate": 4.801133562702207e-07, + "loss": 0.1846, + "num_input_tokens_seen": 35419816, + "step": 18097 + }, + { + "epoch": 2.398674618952949, + "grad_norm": 2.7729527950286865, + "learning_rate": 4.799088269365842e-07, + "loss": 0.0062, + "num_input_tokens_seen": 35421520, + "step": 18098 + }, + { + "epoch": 2.398807157057654, + "grad_norm": 1.5554373264312744, + "learning_rate": 4.797043365516985e-07, + "loss": 0.003, + "num_input_tokens_seen": 35423816, + "step": 18099 + }, + { + "epoch": 2.398939695162359, + "grad_norm": 0.007829305715858936, + "learning_rate": 4.794998851195067e-07, + "loss": 0.0, + "num_input_tokens_seen": 35426056, + "step": 18100 + }, + { + "epoch": 2.399072233267064, + "grad_norm": 0.003956565633416176, + "learning_rate": 4.792954726439516e-07, + "loss": 0.0, + "num_input_tokens_seen": 35427320, + "step": 18101 + }, + { + "epoch": 2.3992047713717692, + "grad_norm": 0.22089898586273193, + "learning_rate": 4.790910991289741e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35429160, + "step": 18102 + }, + { + "epoch": 2.3993373094764747, + "grad_norm": 0.002144523896276951, + "learning_rate": 4.788867645785142e-07, + "loss": 0.0, + "num_input_tokens_seen": 35430880, + "step": 18103 + }, + { + "epoch": 2.3994698475811798, + "grad_norm": 1.5161532163619995, + "learning_rate": 4.786824689965119e-07, + "loss": 0.0101, + "num_input_tokens_seen": 35434080, + "step": 18104 + }, + { + "epoch": 2.399602385685885, + "grad_norm": 3.8733556270599365, + "learning_rate": 4.784782123869053e-07, + "loss": 0.0914, + "num_input_tokens_seen": 35437784, + "step": 18105 + }, + { + "epoch": 2.39973492379059, + "grad_norm": 0.0008409291040152311, + "learning_rate": 4.782739947536333e-07, + "loss": 0.0, + "num_input_tokens_seen": 35439264, + "step": 18106 + }, + { + "epoch": 2.399867461895295, + "grad_norm": 12.212885856628418, + "learning_rate": 4.780698161006342e-07, + "loss": 0.3253, + "num_input_tokens_seen": 35440960, + "step": 18107 + }, + { + "epoch": 2.4, + "grad_norm": 0.002437872113659978, + "learning_rate": 4.778656764318438e-07, + "loss": 0.0, + "num_input_tokens_seen": 35442304, + "step": 18108 + }, + { + "epoch": 2.400132538104705, + "grad_norm": 4.9556779861450195, + "learning_rate": 4.776615757511979e-07, + "loss": 0.0659, + "num_input_tokens_seen": 35444136, + "step": 18109 + }, + { + "epoch": 2.4002650762094104, + "grad_norm": 0.32914668321609497, + "learning_rate": 4.774575140626317e-07, + "loss": 0.0023, + "num_input_tokens_seen": 35446416, + "step": 18110 + }, + { + "epoch": 2.4003976143141155, + "grad_norm": 0.006213827058672905, + "learning_rate": 4.772534913700796e-07, + "loss": 0.0, + "num_input_tokens_seen": 35449088, + "step": 18111 + }, + { + "epoch": 2.4005301524188205, + "grad_norm": 0.001021114643663168, + "learning_rate": 4.770495076774764e-07, + "loss": 0.0, + "num_input_tokens_seen": 35450408, + "step": 18112 + }, + { + "epoch": 2.4006626905235255, + "grad_norm": 0.0019876467995345592, + "learning_rate": 4.768455629887544e-07, + "loss": 0.0, + "num_input_tokens_seen": 35451696, + "step": 18113 + }, + { + "epoch": 2.4007952286282306, + "grad_norm": 9.154934883117676, + "learning_rate": 4.7664165730784554e-07, + "loss": 0.1141, + "num_input_tokens_seen": 35453632, + "step": 18114 + }, + { + "epoch": 2.4009277667329356, + "grad_norm": 12.785589218139648, + "learning_rate": 4.764377906386805e-07, + "loss": 0.3063, + "num_input_tokens_seen": 35456144, + "step": 18115 + }, + { + "epoch": 2.4010603048376407, + "grad_norm": 0.00505057442933321, + "learning_rate": 4.762339629851917e-07, + "loss": 0.0, + "num_input_tokens_seen": 35457600, + "step": 18116 + }, + { + "epoch": 2.401192842942346, + "grad_norm": 8.348502159118652, + "learning_rate": 4.7603017435130766e-07, + "loss": 0.0453, + "num_input_tokens_seen": 35459672, + "step": 18117 + }, + { + "epoch": 2.401325381047051, + "grad_norm": 18.144914627075195, + "learning_rate": 4.758264247409586e-07, + "loss": 0.1553, + "num_input_tokens_seen": 35461768, + "step": 18118 + }, + { + "epoch": 2.401457919151756, + "grad_norm": 0.031061789020895958, + "learning_rate": 4.756227141580727e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35463224, + "step": 18119 + }, + { + "epoch": 2.4015904572564613, + "grad_norm": 12.244922637939453, + "learning_rate": 4.754190426065766e-07, + "loss": 0.164, + "num_input_tokens_seen": 35465320, + "step": 18120 + }, + { + "epoch": 2.4017229953611663, + "grad_norm": 12.03762149810791, + "learning_rate": 4.7521541009039855e-07, + "loss": 0.1964, + "num_input_tokens_seen": 35467776, + "step": 18121 + }, + { + "epoch": 2.4018555334658713, + "grad_norm": 7.465327262878418, + "learning_rate": 4.7501181661346455e-07, + "loss": 0.126, + "num_input_tokens_seen": 35470080, + "step": 18122 + }, + { + "epoch": 2.4019880715705764, + "grad_norm": 0.03978775069117546, + "learning_rate": 4.748082621796987e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35471816, + "step": 18123 + }, + { + "epoch": 2.402120609675282, + "grad_norm": 7.178983688354492, + "learning_rate": 4.746047467930276e-07, + "loss": 0.0627, + "num_input_tokens_seen": 35474584, + "step": 18124 + }, + { + "epoch": 2.402253147779987, + "grad_norm": 8.820255279541016, + "learning_rate": 4.7440127045737414e-07, + "loss": 0.0103, + "num_input_tokens_seen": 35476768, + "step": 18125 + }, + { + "epoch": 2.402385685884692, + "grad_norm": 13.912646293640137, + "learning_rate": 4.7419783317666087e-07, + "loss": 0.0864, + "num_input_tokens_seen": 35479400, + "step": 18126 + }, + { + "epoch": 2.402518223989397, + "grad_norm": 0.029091836884617805, + "learning_rate": 4.7399443495481145e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35481680, + "step": 18127 + }, + { + "epoch": 2.402650762094102, + "grad_norm": 0.05253088101744652, + "learning_rate": 4.7379107579574726e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35483344, + "step": 18128 + }, + { + "epoch": 2.402783300198807, + "grad_norm": 5.921629905700684, + "learning_rate": 4.73587755703388e-07, + "loss": 0.0234, + "num_input_tokens_seen": 35485528, + "step": 18129 + }, + { + "epoch": 2.402915838303512, + "grad_norm": 0.014086742885410786, + "learning_rate": 4.733844746816557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35487296, + "step": 18130 + }, + { + "epoch": 2.4030483764082176, + "grad_norm": 2.082362651824951, + "learning_rate": 4.731812327344681e-07, + "loss": 0.0131, + "num_input_tokens_seen": 35490160, + "step": 18131 + }, + { + "epoch": 2.4031809145129226, + "grad_norm": 1.1473093032836914, + "learning_rate": 4.7297802986574495e-07, + "loss": 0.0091, + "num_input_tokens_seen": 35492288, + "step": 18132 + }, + { + "epoch": 2.4033134526176276, + "grad_norm": 0.01222185231745243, + "learning_rate": 4.7277486607940403e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35494320, + "step": 18133 + }, + { + "epoch": 2.4034459907223327, + "grad_norm": 0.04856293648481369, + "learning_rate": 4.725717413793615e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35496248, + "step": 18134 + }, + { + "epoch": 2.4035785288270377, + "grad_norm": 0.06495780497789383, + "learning_rate": 4.723686557695351e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35497768, + "step": 18135 + }, + { + "epoch": 2.4037110669317427, + "grad_norm": 6.831676483154297, + "learning_rate": 4.72165609253839e-07, + "loss": 0.0228, + "num_input_tokens_seen": 35499680, + "step": 18136 + }, + { + "epoch": 2.403843605036448, + "grad_norm": 6.890519142150879, + "learning_rate": 4.7196260183618977e-07, + "loss": 0.0651, + "num_input_tokens_seen": 35502072, + "step": 18137 + }, + { + "epoch": 2.4039761431411533, + "grad_norm": 6.579684257507324, + "learning_rate": 4.7175963352050045e-07, + "loss": 0.1259, + "num_input_tokens_seen": 35503976, + "step": 18138 + }, + { + "epoch": 2.4041086812458583, + "grad_norm": 8.526119232177734, + "learning_rate": 4.7155670431068473e-07, + "loss": 0.1591, + "num_input_tokens_seen": 35506256, + "step": 18139 + }, + { + "epoch": 2.4042412193505633, + "grad_norm": 7.475154399871826, + "learning_rate": 4.713538142106544e-07, + "loss": 0.0607, + "num_input_tokens_seen": 35508368, + "step": 18140 + }, + { + "epoch": 2.4043737574552684, + "grad_norm": 3.8581767082214355, + "learning_rate": 4.711509632243222e-07, + "loss": 0.0513, + "num_input_tokens_seen": 35510272, + "step": 18141 + }, + { + "epoch": 2.4045062955599734, + "grad_norm": 0.49727436900138855, + "learning_rate": 4.709481513555994e-07, + "loss": 0.002, + "num_input_tokens_seen": 35511800, + "step": 18142 + }, + { + "epoch": 2.4046388336646785, + "grad_norm": 4.463983058929443, + "learning_rate": 4.7074537860839626e-07, + "loss": 0.0226, + "num_input_tokens_seen": 35513488, + "step": 18143 + }, + { + "epoch": 2.4047713717693835, + "grad_norm": 0.013124100863933563, + "learning_rate": 4.705426449866221e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35515504, + "step": 18144 + }, + { + "epoch": 2.404903909874089, + "grad_norm": 0.008876031264662743, + "learning_rate": 4.703399504941858e-07, + "loss": 0.0, + "num_input_tokens_seen": 35517288, + "step": 18145 + }, + { + "epoch": 2.405036447978794, + "grad_norm": 4.817626953125, + "learning_rate": 4.7013729513499475e-07, + "loss": 0.028, + "num_input_tokens_seen": 35519216, + "step": 18146 + }, + { + "epoch": 2.405168986083499, + "grad_norm": 0.09164362400770187, + "learning_rate": 4.699346789129569e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35521224, + "step": 18147 + }, + { + "epoch": 2.405301524188204, + "grad_norm": 0.1068929135799408, + "learning_rate": 4.697321018319795e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35522696, + "step": 18148 + }, + { + "epoch": 2.405434062292909, + "grad_norm": 0.0580691322684288, + "learning_rate": 4.6952956389596795e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35524368, + "step": 18149 + }, + { + "epoch": 2.405566600397614, + "grad_norm": 0.045484162867069244, + "learning_rate": 4.693270651088272e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35527416, + "step": 18150 + }, + { + "epoch": 2.405699138502319, + "grad_norm": 6.020226955413818, + "learning_rate": 4.6912460547446083e-07, + "loss": 0.1113, + "num_input_tokens_seen": 35529304, + "step": 18151 + }, + { + "epoch": 2.4058316766070247, + "grad_norm": 12.10814094543457, + "learning_rate": 4.6892218499677374e-07, + "loss": 0.1609, + "num_input_tokens_seen": 35531280, + "step": 18152 + }, + { + "epoch": 2.4059642147117297, + "grad_norm": 0.019423136487603188, + "learning_rate": 4.6871980367966724e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35532672, + "step": 18153 + }, + { + "epoch": 2.4060967528164348, + "grad_norm": 0.3122580647468567, + "learning_rate": 4.685174615270452e-07, + "loss": 0.0009, + "num_input_tokens_seen": 35535104, + "step": 18154 + }, + { + "epoch": 2.40622929092114, + "grad_norm": 4.540923595428467, + "learning_rate": 4.683151585428078e-07, + "loss": 0.0501, + "num_input_tokens_seen": 35536912, + "step": 18155 + }, + { + "epoch": 2.406361829025845, + "grad_norm": 0.8943704962730408, + "learning_rate": 4.6811289473085554e-07, + "loss": 0.0072, + "num_input_tokens_seen": 35538816, + "step": 18156 + }, + { + "epoch": 2.40649436713055, + "grad_norm": 3.107003927230835, + "learning_rate": 4.679106700950881e-07, + "loss": 0.0107, + "num_input_tokens_seen": 35540688, + "step": 18157 + }, + { + "epoch": 2.406626905235255, + "grad_norm": 0.045324575155973434, + "learning_rate": 4.677084846394053e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35542872, + "step": 18158 + }, + { + "epoch": 2.4067594433399604, + "grad_norm": 9.803524017333984, + "learning_rate": 4.675063383677042e-07, + "loss": 0.116, + "num_input_tokens_seen": 35544576, + "step": 18159 + }, + { + "epoch": 2.4068919814446654, + "grad_norm": 3.5478901863098145, + "learning_rate": 4.673042312838838e-07, + "loss": 0.0256, + "num_input_tokens_seen": 35546848, + "step": 18160 + }, + { + "epoch": 2.4070245195493705, + "grad_norm": 5.151865005493164, + "learning_rate": 4.671021633918399e-07, + "loss": 0.0338, + "num_input_tokens_seen": 35548656, + "step": 18161 + }, + { + "epoch": 2.4071570576540755, + "grad_norm": 11.641858100891113, + "learning_rate": 4.6690013469546825e-07, + "loss": 0.0836, + "num_input_tokens_seen": 35550144, + "step": 18162 + }, + { + "epoch": 2.4072895957587805, + "grad_norm": 0.2483617663383484, + "learning_rate": 4.666981451986652e-07, + "loss": 0.0019, + "num_input_tokens_seen": 35552232, + "step": 18163 + }, + { + "epoch": 2.4074221338634856, + "grad_norm": 2.4867842197418213, + "learning_rate": 4.66496194905324e-07, + "loss": 0.0223, + "num_input_tokens_seen": 35553696, + "step": 18164 + }, + { + "epoch": 2.4075546719681906, + "grad_norm": 0.1135510578751564, + "learning_rate": 4.6629428381933963e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35554904, + "step": 18165 + }, + { + "epoch": 2.407687210072896, + "grad_norm": 2.1824302673339844, + "learning_rate": 4.660924119446045e-07, + "loss": 0.0078, + "num_input_tokens_seen": 35556752, + "step": 18166 + }, + { + "epoch": 2.407819748177601, + "grad_norm": 8.605531692504883, + "learning_rate": 4.658905792850099e-07, + "loss": 0.0802, + "num_input_tokens_seen": 35558224, + "step": 18167 + }, + { + "epoch": 2.407952286282306, + "grad_norm": 0.0029591170605272055, + "learning_rate": 4.656887858444492e-07, + "loss": 0.0, + "num_input_tokens_seen": 35559680, + "step": 18168 + }, + { + "epoch": 2.408084824387011, + "grad_norm": 20.020736694335938, + "learning_rate": 4.6548703162681174e-07, + "loss": 0.1175, + "num_input_tokens_seen": 35560680, + "step": 18169 + }, + { + "epoch": 2.4082173624917163, + "grad_norm": 0.012199283577501774, + "learning_rate": 4.652853166359875e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35562544, + "step": 18170 + }, + { + "epoch": 2.4083499005964213, + "grad_norm": 0.05306343734264374, + "learning_rate": 4.650836408758666e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35565168, + "step": 18171 + }, + { + "epoch": 2.4084824387011263, + "grad_norm": 2.9107887744903564, + "learning_rate": 4.648820043503363e-07, + "loss": 0.0169, + "num_input_tokens_seen": 35567296, + "step": 18172 + }, + { + "epoch": 2.408614976805832, + "grad_norm": 0.0007972423336468637, + "learning_rate": 4.6468040706328543e-07, + "loss": 0.0, + "num_input_tokens_seen": 35569464, + "step": 18173 + }, + { + "epoch": 2.408747514910537, + "grad_norm": 0.023977655917406082, + "learning_rate": 4.644788490186003e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35571880, + "step": 18174 + }, + { + "epoch": 2.408880053015242, + "grad_norm": 0.35315513610839844, + "learning_rate": 4.642773302201675e-07, + "loss": 0.0023, + "num_input_tokens_seen": 35573312, + "step": 18175 + }, + { + "epoch": 2.409012591119947, + "grad_norm": 0.27598655223846436, + "learning_rate": 4.640758506718715e-07, + "loss": 0.0015, + "num_input_tokens_seen": 35575416, + "step": 18176 + }, + { + "epoch": 2.409145129224652, + "grad_norm": 0.06557110697031021, + "learning_rate": 4.6387441037759743e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35576904, + "step": 18177 + }, + { + "epoch": 2.409277667329357, + "grad_norm": 0.02413679100573063, + "learning_rate": 4.6367300934123006e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35579200, + "step": 18178 + }, + { + "epoch": 2.4094102054340625, + "grad_norm": 0.004373766016215086, + "learning_rate": 4.6347164756665175e-07, + "loss": 0.0, + "num_input_tokens_seen": 35580864, + "step": 18179 + }, + { + "epoch": 2.4095427435387675, + "grad_norm": 3.9342076778411865, + "learning_rate": 4.6327032505774526e-07, + "loss": 0.0045, + "num_input_tokens_seen": 35582200, + "step": 18180 + }, + { + "epoch": 2.4096752816434726, + "grad_norm": 3.4398348331451416, + "learning_rate": 4.630690418183917e-07, + "loss": 0.0164, + "num_input_tokens_seen": 35584816, + "step": 18181 + }, + { + "epoch": 2.4098078197481776, + "grad_norm": 0.015541591681540012, + "learning_rate": 4.6286779785247176e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35587200, + "step": 18182 + }, + { + "epoch": 2.4099403578528826, + "grad_norm": 0.014683382585644722, + "learning_rate": 4.62666593163866e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35588848, + "step": 18183 + }, + { + "epoch": 2.4100728959575877, + "grad_norm": 4.659676551818848, + "learning_rate": 4.6246542775645444e-07, + "loss": 0.0771, + "num_input_tokens_seen": 35590664, + "step": 18184 + }, + { + "epoch": 2.410205434062293, + "grad_norm": 8.4768705368042, + "learning_rate": 4.6226430163411496e-07, + "loss": 0.119, + "num_input_tokens_seen": 35592512, + "step": 18185 + }, + { + "epoch": 2.410337972166998, + "grad_norm": 0.028431642800569534, + "learning_rate": 4.620632148007256e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35594600, + "step": 18186 + }, + { + "epoch": 2.4104705102717032, + "grad_norm": 6.089627742767334, + "learning_rate": 4.618621672601628e-07, + "loss": 0.0082, + "num_input_tokens_seen": 35596680, + "step": 18187 + }, + { + "epoch": 2.4106030483764083, + "grad_norm": 2.853551149368286, + "learning_rate": 4.6166115901630336e-07, + "loss": 0.0231, + "num_input_tokens_seen": 35598704, + "step": 18188 + }, + { + "epoch": 2.4107355864811133, + "grad_norm": 0.8654852509498596, + "learning_rate": 4.6146019007302367e-07, + "loss": 0.004, + "num_input_tokens_seen": 35599864, + "step": 18189 + }, + { + "epoch": 2.4108681245858183, + "grad_norm": 0.0009166355594061315, + "learning_rate": 4.6125926043419756e-07, + "loss": 0.0, + "num_input_tokens_seen": 35601096, + "step": 18190 + }, + { + "epoch": 2.4110006626905234, + "grad_norm": 0.09492700546979904, + "learning_rate": 4.610583701036997e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35602792, + "step": 18191 + }, + { + "epoch": 2.411133200795229, + "grad_norm": 6.42224645614624, + "learning_rate": 4.6085751908540285e-07, + "loss": 0.0875, + "num_input_tokens_seen": 35604480, + "step": 18192 + }, + { + "epoch": 2.411265738899934, + "grad_norm": 0.0027386806905269623, + "learning_rate": 4.6065670738317914e-07, + "loss": 0.0, + "num_input_tokens_seen": 35606080, + "step": 18193 + }, + { + "epoch": 2.411398277004639, + "grad_norm": 1.2168889045715332, + "learning_rate": 4.604559350009011e-07, + "loss": 0.0063, + "num_input_tokens_seen": 35607584, + "step": 18194 + }, + { + "epoch": 2.411530815109344, + "grad_norm": 0.04797476530075073, + "learning_rate": 4.602552019424403e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35609128, + "step": 18195 + }, + { + "epoch": 2.411663353214049, + "grad_norm": 2.40864896774292, + "learning_rate": 4.6005450821166616e-07, + "loss": 0.0067, + "num_input_tokens_seen": 35611552, + "step": 18196 + }, + { + "epoch": 2.411795891318754, + "grad_norm": 5.762424945831299, + "learning_rate": 4.598538538124486e-07, + "loss": 0.0573, + "num_input_tokens_seen": 35612904, + "step": 18197 + }, + { + "epoch": 2.411928429423459, + "grad_norm": 0.02459900453686714, + "learning_rate": 4.596532387486555e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35614440, + "step": 18198 + }, + { + "epoch": 2.4120609675281646, + "grad_norm": 7.797262668609619, + "learning_rate": 4.594526630241558e-07, + "loss": 0.0256, + "num_input_tokens_seen": 35616440, + "step": 18199 + }, + { + "epoch": 2.4121935056328696, + "grad_norm": 9.702192306518555, + "learning_rate": 4.592521266428163e-07, + "loss": 0.2826, + "num_input_tokens_seen": 35619856, + "step": 18200 + }, + { + "epoch": 2.4123260437375746, + "grad_norm": 0.0009254252654500306, + "learning_rate": 4.5905162960850403e-07, + "loss": 0.0, + "num_input_tokens_seen": 35621192, + "step": 18201 + }, + { + "epoch": 2.4124585818422797, + "grad_norm": 0.16143274307250977, + "learning_rate": 4.588511719250843e-07, + "loss": 0.0011, + "num_input_tokens_seen": 35624992, + "step": 18202 + }, + { + "epoch": 2.4125911199469847, + "grad_norm": 0.5152807235717773, + "learning_rate": 4.586507535964216e-07, + "loss": 0.0019, + "num_input_tokens_seen": 35627192, + "step": 18203 + }, + { + "epoch": 2.4127236580516898, + "grad_norm": 1.4740726947784424, + "learning_rate": 4.5845037462638104e-07, + "loss": 0.0102, + "num_input_tokens_seen": 35629392, + "step": 18204 + }, + { + "epoch": 2.412856196156395, + "grad_norm": 0.008987060748040676, + "learning_rate": 4.58250035018826e-07, + "loss": 0.0, + "num_input_tokens_seen": 35630704, + "step": 18205 + }, + { + "epoch": 2.4129887342611003, + "grad_norm": 13.788135528564453, + "learning_rate": 4.580497347776178e-07, + "loss": 0.0991, + "num_input_tokens_seen": 35632728, + "step": 18206 + }, + { + "epoch": 2.4131212723658053, + "grad_norm": 6.456593990325928, + "learning_rate": 4.5784947390662027e-07, + "loss": 0.0946, + "num_input_tokens_seen": 35634696, + "step": 18207 + }, + { + "epoch": 2.4132538104705104, + "grad_norm": 0.009794460609555244, + "learning_rate": 4.5764925240969285e-07, + "loss": 0.0, + "num_input_tokens_seen": 35636832, + "step": 18208 + }, + { + "epoch": 2.4133863485752154, + "grad_norm": 0.0008709046524018049, + "learning_rate": 4.574490702906978e-07, + "loss": 0.0, + "num_input_tokens_seen": 35638800, + "step": 18209 + }, + { + "epoch": 2.4135188866799204, + "grad_norm": 7.6576247215271, + "learning_rate": 4.5724892755349333e-07, + "loss": 0.0746, + "num_input_tokens_seen": 35640784, + "step": 18210 + }, + { + "epoch": 2.4136514247846255, + "grad_norm": 4.782994747161865, + "learning_rate": 4.570488242019391e-07, + "loss": 0.0712, + "num_input_tokens_seen": 35643632, + "step": 18211 + }, + { + "epoch": 2.4137839628893305, + "grad_norm": 1.3521519899368286, + "learning_rate": 4.5684876023989187e-07, + "loss": 0.0057, + "num_input_tokens_seen": 35645496, + "step": 18212 + }, + { + "epoch": 2.413916500994036, + "grad_norm": 4.821298122406006, + "learning_rate": 4.56648735671211e-07, + "loss": 0.0156, + "num_input_tokens_seen": 35647336, + "step": 18213 + }, + { + "epoch": 2.414049039098741, + "grad_norm": 4.241542339324951, + "learning_rate": 4.564487504997514e-07, + "loss": 0.0314, + "num_input_tokens_seen": 35649984, + "step": 18214 + }, + { + "epoch": 2.414181577203446, + "grad_norm": 8.686492919921875, + "learning_rate": 4.562488047293703e-07, + "loss": 0.1723, + "num_input_tokens_seen": 35651944, + "step": 18215 + }, + { + "epoch": 2.414314115308151, + "grad_norm": 1.873984456062317, + "learning_rate": 4.560488983639222e-07, + "loss": 0.0031, + "num_input_tokens_seen": 35653344, + "step": 18216 + }, + { + "epoch": 2.414446653412856, + "grad_norm": 0.006413490977138281, + "learning_rate": 4.5584903140726083e-07, + "loss": 0.0, + "num_input_tokens_seen": 35655216, + "step": 18217 + }, + { + "epoch": 2.414579191517561, + "grad_norm": 0.0023879469372332096, + "learning_rate": 4.5564920386324066e-07, + "loss": 0.0, + "num_input_tokens_seen": 35656392, + "step": 18218 + }, + { + "epoch": 2.414711729622266, + "grad_norm": 0.013316905125975609, + "learning_rate": 4.5544941573571393e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35657976, + "step": 18219 + }, + { + "epoch": 2.4148442677269717, + "grad_norm": 0.08912398666143417, + "learning_rate": 4.552496670285333e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35660544, + "step": 18220 + }, + { + "epoch": 2.4149768058316767, + "grad_norm": 4.048020839691162, + "learning_rate": 4.550499577455497e-07, + "loss": 0.0409, + "num_input_tokens_seen": 35661784, + "step": 18221 + }, + { + "epoch": 2.4151093439363818, + "grad_norm": 0.10014895349740982, + "learning_rate": 4.5485028789061386e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35664536, + "step": 18222 + }, + { + "epoch": 2.415241882041087, + "grad_norm": 2.833055019378662, + "learning_rate": 4.546506574675744e-07, + "loss": 0.0241, + "num_input_tokens_seen": 35667472, + "step": 18223 + }, + { + "epoch": 2.415374420145792, + "grad_norm": 10.043545722961426, + "learning_rate": 4.544510664802815e-07, + "loss": 0.2494, + "num_input_tokens_seen": 35669792, + "step": 18224 + }, + { + "epoch": 2.415506958250497, + "grad_norm": 0.24592944979667664, + "learning_rate": 4.5425151493258377e-07, + "loss": 0.0012, + "num_input_tokens_seen": 35672056, + "step": 18225 + }, + { + "epoch": 2.415639496355202, + "grad_norm": 8.025667190551758, + "learning_rate": 4.5405200282832795e-07, + "loss": 0.078, + "num_input_tokens_seen": 35673632, + "step": 18226 + }, + { + "epoch": 2.4157720344599074, + "grad_norm": 7.607851982116699, + "learning_rate": 4.5385253017136114e-07, + "loss": 0.0639, + "num_input_tokens_seen": 35675856, + "step": 18227 + }, + { + "epoch": 2.4159045725646124, + "grad_norm": 0.05425567552447319, + "learning_rate": 4.5365309696552925e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35677888, + "step": 18228 + }, + { + "epoch": 2.4160371106693175, + "grad_norm": 2.7542035579681396, + "learning_rate": 4.534537032146763e-07, + "loss": 0.0266, + "num_input_tokens_seen": 35681464, + "step": 18229 + }, + { + "epoch": 2.4161696487740225, + "grad_norm": 0.04528532922267914, + "learning_rate": 4.5325434892264817e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35682960, + "step": 18230 + }, + { + "epoch": 2.4163021868787276, + "grad_norm": 14.158076286315918, + "learning_rate": 4.530550340932885e-07, + "loss": 0.1303, + "num_input_tokens_seen": 35685704, + "step": 18231 + }, + { + "epoch": 2.4164347249834326, + "grad_norm": 5.1780171394348145, + "learning_rate": 4.5285575873044025e-07, + "loss": 0.0429, + "num_input_tokens_seen": 35687456, + "step": 18232 + }, + { + "epoch": 2.4165672630881376, + "grad_norm": 7.798304557800293, + "learning_rate": 4.5265652283794483e-07, + "loss": 0.0324, + "num_input_tokens_seen": 35689232, + "step": 18233 + }, + { + "epoch": 2.416699801192843, + "grad_norm": 0.0011623292230069637, + "learning_rate": 4.5245732641964384e-07, + "loss": 0.0, + "num_input_tokens_seen": 35690800, + "step": 18234 + }, + { + "epoch": 2.416832339297548, + "grad_norm": 0.032207831740379333, + "learning_rate": 4.5225816947937843e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35692952, + "step": 18235 + }, + { + "epoch": 2.416964877402253, + "grad_norm": 0.027162840589880943, + "learning_rate": 4.520590520209875e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35694680, + "step": 18236 + }, + { + "epoch": 2.4170974155069582, + "grad_norm": 11.363536834716797, + "learning_rate": 4.518599740483118e-07, + "loss": 0.0653, + "num_input_tokens_seen": 35696520, + "step": 18237 + }, + { + "epoch": 2.4172299536116633, + "grad_norm": 12.262215614318848, + "learning_rate": 4.516609355651885e-07, + "loss": 0.0791, + "num_input_tokens_seen": 35697928, + "step": 18238 + }, + { + "epoch": 2.4173624917163683, + "grad_norm": 6.310816764831543, + "learning_rate": 4.514619365754555e-07, + "loss": 0.1987, + "num_input_tokens_seen": 35699168, + "step": 18239 + }, + { + "epoch": 2.4174950298210733, + "grad_norm": 7.653509616851807, + "learning_rate": 4.512629770829488e-07, + "loss": 0.0981, + "num_input_tokens_seen": 35700944, + "step": 18240 + }, + { + "epoch": 2.417627567925779, + "grad_norm": 1.8968865871429443, + "learning_rate": 4.5106405709150536e-07, + "loss": 0.0182, + "num_input_tokens_seen": 35703224, + "step": 18241 + }, + { + "epoch": 2.417760106030484, + "grad_norm": 8.001379013061523, + "learning_rate": 4.5086517660496124e-07, + "loss": 0.0476, + "num_input_tokens_seen": 35705224, + "step": 18242 + }, + { + "epoch": 2.417892644135189, + "grad_norm": 6.293928146362305, + "learning_rate": 4.5066633562714986e-07, + "loss": 0.1107, + "num_input_tokens_seen": 35707064, + "step": 18243 + }, + { + "epoch": 2.418025182239894, + "grad_norm": 2.669416904449463, + "learning_rate": 4.504675341619055e-07, + "loss": 0.0261, + "num_input_tokens_seen": 35709544, + "step": 18244 + }, + { + "epoch": 2.418157720344599, + "grad_norm": 0.004193441942334175, + "learning_rate": 4.5026877221306025e-07, + "loss": 0.0, + "num_input_tokens_seen": 35712192, + "step": 18245 + }, + { + "epoch": 2.418290258449304, + "grad_norm": 0.31449371576309204, + "learning_rate": 4.500700497844476e-07, + "loss": 0.001, + "num_input_tokens_seen": 35714640, + "step": 18246 + }, + { + "epoch": 2.418422796554009, + "grad_norm": 0.7206229567527771, + "learning_rate": 4.4987136687989817e-07, + "loss": 0.0037, + "num_input_tokens_seen": 35716176, + "step": 18247 + }, + { + "epoch": 2.4185553346587145, + "grad_norm": 0.04445688799023628, + "learning_rate": 4.496727235032436e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35717808, + "step": 18248 + }, + { + "epoch": 2.4186878727634196, + "grad_norm": 7.169434547424316, + "learning_rate": 4.494741196583133e-07, + "loss": 0.0396, + "num_input_tokens_seen": 35719792, + "step": 18249 + }, + { + "epoch": 2.4188204108681246, + "grad_norm": 4.15717887878418, + "learning_rate": 4.4927555534893616e-07, + "loss": 0.0127, + "num_input_tokens_seen": 35722048, + "step": 18250 + }, + { + "epoch": 2.4189529489728296, + "grad_norm": 4.315068244934082, + "learning_rate": 4.490770305789413e-07, + "loss": 0.0691, + "num_input_tokens_seen": 35724544, + "step": 18251 + }, + { + "epoch": 2.4190854870775347, + "grad_norm": 10.593759536743164, + "learning_rate": 4.488785453521566e-07, + "loss": 0.1639, + "num_input_tokens_seen": 35726528, + "step": 18252 + }, + { + "epoch": 2.4192180251822397, + "grad_norm": 10.113214492797852, + "learning_rate": 4.486800996724075e-07, + "loss": 0.2198, + "num_input_tokens_seen": 35728560, + "step": 18253 + }, + { + "epoch": 2.4193505632869448, + "grad_norm": 0.004312264733016491, + "learning_rate": 4.484816935435221e-07, + "loss": 0.0, + "num_input_tokens_seen": 35729720, + "step": 18254 + }, + { + "epoch": 2.4194831013916502, + "grad_norm": 5.775733947753906, + "learning_rate": 4.4828332696932405e-07, + "loss": 0.0265, + "num_input_tokens_seen": 35731224, + "step": 18255 + }, + { + "epoch": 2.4196156394963553, + "grad_norm": 0.0003091749385930598, + "learning_rate": 4.480849999536396e-07, + "loss": 0.0, + "num_input_tokens_seen": 35732368, + "step": 18256 + }, + { + "epoch": 2.4197481776010603, + "grad_norm": 0.02270517870783806, + "learning_rate": 4.4788671250029197e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35733888, + "step": 18257 + }, + { + "epoch": 2.4198807157057654, + "grad_norm": 13.564950942993164, + "learning_rate": 4.476884646131044e-07, + "loss": 0.2249, + "num_input_tokens_seen": 35735584, + "step": 18258 + }, + { + "epoch": 2.4200132538104704, + "grad_norm": 1.9107574224472046, + "learning_rate": 4.47490256295898e-07, + "loss": 0.0089, + "num_input_tokens_seen": 35737224, + "step": 18259 + }, + { + "epoch": 2.4201457919151754, + "grad_norm": 0.5527098774909973, + "learning_rate": 4.472920875524958e-07, + "loss": 0.002, + "num_input_tokens_seen": 35739216, + "step": 18260 + }, + { + "epoch": 2.420278330019881, + "grad_norm": 0.0026816122699528933, + "learning_rate": 4.470939583867187e-07, + "loss": 0.0, + "num_input_tokens_seen": 35740584, + "step": 18261 + }, + { + "epoch": 2.420410868124586, + "grad_norm": 1.262227177619934, + "learning_rate": 4.468958688023861e-07, + "loss": 0.0054, + "num_input_tokens_seen": 35742336, + "step": 18262 + }, + { + "epoch": 2.420543406229291, + "grad_norm": 5.2343525886535645, + "learning_rate": 4.4669781880331776e-07, + "loss": 0.0578, + "num_input_tokens_seen": 35744856, + "step": 18263 + }, + { + "epoch": 2.420675944333996, + "grad_norm": 0.018396543338894844, + "learning_rate": 4.4649980839333195e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35747280, + "step": 18264 + }, + { + "epoch": 2.420808482438701, + "grad_norm": 10.031655311584473, + "learning_rate": 4.4630183757624595e-07, + "loss": 0.119, + "num_input_tokens_seen": 35749544, + "step": 18265 + }, + { + "epoch": 2.420941020543406, + "grad_norm": 0.7376269102096558, + "learning_rate": 4.4610390635587696e-07, + "loss": 0.0053, + "num_input_tokens_seen": 35751528, + "step": 18266 + }, + { + "epoch": 2.4210735586481116, + "grad_norm": 4.251041889190674, + "learning_rate": 4.459060147360425e-07, + "loss": 0.0281, + "num_input_tokens_seen": 35753528, + "step": 18267 + }, + { + "epoch": 2.4212060967528166, + "grad_norm": 0.01935018040239811, + "learning_rate": 4.45708162720557e-07, + "loss": 0.0, + "num_input_tokens_seen": 35754856, + "step": 18268 + }, + { + "epoch": 2.4213386348575217, + "grad_norm": 15.803794860839844, + "learning_rate": 4.455103503132352e-07, + "loss": 0.1105, + "num_input_tokens_seen": 35756904, + "step": 18269 + }, + { + "epoch": 2.4214711729622267, + "grad_norm": 0.007716186810284853, + "learning_rate": 4.453125775178907e-07, + "loss": 0.0, + "num_input_tokens_seen": 35759584, + "step": 18270 + }, + { + "epoch": 2.4216037110669317, + "grad_norm": 10.491011619567871, + "learning_rate": 4.4511484433833714e-07, + "loss": 0.0091, + "num_input_tokens_seen": 35761864, + "step": 18271 + }, + { + "epoch": 2.4217362491716368, + "grad_norm": 5.620283603668213, + "learning_rate": 4.449171507783875e-07, + "loss": 0.0522, + "num_input_tokens_seen": 35763880, + "step": 18272 + }, + { + "epoch": 2.421868787276342, + "grad_norm": 11.039116859436035, + "learning_rate": 4.447194968418531e-07, + "loss": 0.1958, + "num_input_tokens_seen": 35765944, + "step": 18273 + }, + { + "epoch": 2.4220013253810473, + "grad_norm": 5.693419456481934, + "learning_rate": 4.445218825325445e-07, + "loss": 0.0275, + "num_input_tokens_seen": 35767992, + "step": 18274 + }, + { + "epoch": 2.4221338634857523, + "grad_norm": 0.0010750835062935948, + "learning_rate": 4.443243078542722e-07, + "loss": 0.0, + "num_input_tokens_seen": 35769080, + "step": 18275 + }, + { + "epoch": 2.4222664015904574, + "grad_norm": 0.7256829142570496, + "learning_rate": 4.441267728108445e-07, + "loss": 0.0045, + "num_input_tokens_seen": 35770760, + "step": 18276 + }, + { + "epoch": 2.4223989396951624, + "grad_norm": 4.712086200714111, + "learning_rate": 4.4392927740607104e-07, + "loss": 0.0445, + "num_input_tokens_seen": 35772648, + "step": 18277 + }, + { + "epoch": 2.4225314777998674, + "grad_norm": 0.4947657883167267, + "learning_rate": 4.437318216437603e-07, + "loss": 0.0032, + "num_input_tokens_seen": 35775304, + "step": 18278 + }, + { + "epoch": 2.4226640159045725, + "grad_norm": 6.993027210235596, + "learning_rate": 4.4353440552771825e-07, + "loss": 0.0742, + "num_input_tokens_seen": 35777192, + "step": 18279 + }, + { + "epoch": 2.4227965540092775, + "grad_norm": 0.017004508525133133, + "learning_rate": 4.433370290617517e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35779096, + "step": 18280 + }, + { + "epoch": 2.422929092113983, + "grad_norm": 0.013942967168986797, + "learning_rate": 4.431396922496656e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35781000, + "step": 18281 + }, + { + "epoch": 2.423061630218688, + "grad_norm": 5.452723026275635, + "learning_rate": 4.429423950952655e-07, + "loss": 0.0702, + "num_input_tokens_seen": 35783872, + "step": 18282 + }, + { + "epoch": 2.423194168323393, + "grad_norm": 0.02666877768933773, + "learning_rate": 4.427451376023548e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35785016, + "step": 18283 + }, + { + "epoch": 2.423326706428098, + "grad_norm": 10.672096252441406, + "learning_rate": 4.4254791977473733e-07, + "loss": 0.1691, + "num_input_tokens_seen": 35787400, + "step": 18284 + }, + { + "epoch": 2.423459244532803, + "grad_norm": 4.464118957519531, + "learning_rate": 4.4235074161621565e-07, + "loss": 0.0414, + "num_input_tokens_seen": 35789800, + "step": 18285 + }, + { + "epoch": 2.423591782637508, + "grad_norm": 0.20853915810585022, + "learning_rate": 4.4215360313059037e-07, + "loss": 0.001, + "num_input_tokens_seen": 35791264, + "step": 18286 + }, + { + "epoch": 2.4237243207422132, + "grad_norm": 4.23888635635376, + "learning_rate": 4.4195650432166393e-07, + "loss": 0.0892, + "num_input_tokens_seen": 35792424, + "step": 18287 + }, + { + "epoch": 2.4238568588469187, + "grad_norm": 0.01026932429522276, + "learning_rate": 4.417594451932361e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35794080, + "step": 18288 + }, + { + "epoch": 2.4239893969516237, + "grad_norm": 9.736784934997559, + "learning_rate": 4.4156242574910524e-07, + "loss": 0.0544, + "num_input_tokens_seen": 35796904, + "step": 18289 + }, + { + "epoch": 2.424121935056329, + "grad_norm": 13.2636079788208, + "learning_rate": 4.4136544599307136e-07, + "loss": 0.1242, + "num_input_tokens_seen": 35798896, + "step": 18290 + }, + { + "epoch": 2.424254473161034, + "grad_norm": 20.14436149597168, + "learning_rate": 4.411685059289314e-07, + "loss": 0.2413, + "num_input_tokens_seen": 35800216, + "step": 18291 + }, + { + "epoch": 2.424387011265739, + "grad_norm": 3.798980236053467, + "learning_rate": 4.4097160556048346e-07, + "loss": 0.0328, + "num_input_tokens_seen": 35803096, + "step": 18292 + }, + { + "epoch": 2.424519549370444, + "grad_norm": 3.8704378604888916, + "learning_rate": 4.407747448915234e-07, + "loss": 0.0206, + "num_input_tokens_seen": 35804936, + "step": 18293 + }, + { + "epoch": 2.424652087475149, + "grad_norm": 2.4681756496429443, + "learning_rate": 4.405779239258465e-07, + "loss": 0.008, + "num_input_tokens_seen": 35806472, + "step": 18294 + }, + { + "epoch": 2.4247846255798544, + "grad_norm": 0.006476826965808868, + "learning_rate": 4.403811426672483e-07, + "loss": 0.0, + "num_input_tokens_seen": 35809216, + "step": 18295 + }, + { + "epoch": 2.4249171636845595, + "grad_norm": 1.637824535369873, + "learning_rate": 4.4018440111952195e-07, + "loss": 0.0072, + "num_input_tokens_seen": 35811184, + "step": 18296 + }, + { + "epoch": 2.4250497017892645, + "grad_norm": 15.572833061218262, + "learning_rate": 4.3998769928646186e-07, + "loss": 0.2156, + "num_input_tokens_seen": 35813072, + "step": 18297 + }, + { + "epoch": 2.4251822398939695, + "grad_norm": 8.276287078857422, + "learning_rate": 4.397910371718603e-07, + "loss": 0.1311, + "num_input_tokens_seen": 35815368, + "step": 18298 + }, + { + "epoch": 2.4253147779986746, + "grad_norm": 0.07721289247274399, + "learning_rate": 4.3959441477950865e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35816976, + "step": 18299 + }, + { + "epoch": 2.4254473161033796, + "grad_norm": 0.024493522942066193, + "learning_rate": 4.3939783211319754e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35818896, + "step": 18300 + }, + { + "epoch": 2.4255798542080846, + "grad_norm": 0.000995882204733789, + "learning_rate": 4.392012891767183e-07, + "loss": 0.0, + "num_input_tokens_seen": 35820344, + "step": 18301 + }, + { + "epoch": 2.42571239231279, + "grad_norm": 17.389694213867188, + "learning_rate": 4.3900478597385945e-07, + "loss": 0.1847, + "num_input_tokens_seen": 35822272, + "step": 18302 + }, + { + "epoch": 2.425844930417495, + "grad_norm": 0.07688923180103302, + "learning_rate": 4.3880832250841056e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35823608, + "step": 18303 + }, + { + "epoch": 2.4259774685222, + "grad_norm": 0.0225998405367136, + "learning_rate": 4.386118987841592e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35824928, + "step": 18304 + }, + { + "epoch": 2.4261100066269052, + "grad_norm": 5.627675533294678, + "learning_rate": 4.3841551480489243e-07, + "loss": 0.1071, + "num_input_tokens_seen": 35827832, + "step": 18305 + }, + { + "epoch": 2.4262425447316103, + "grad_norm": 2.758574962615967, + "learning_rate": 4.382191705743963e-07, + "loss": 0.0154, + "num_input_tokens_seen": 35831160, + "step": 18306 + }, + { + "epoch": 2.4263750828363153, + "grad_norm": 4.219793796539307, + "learning_rate": 4.3802286609645696e-07, + "loss": 0.0689, + "num_input_tokens_seen": 35833424, + "step": 18307 + }, + { + "epoch": 2.4265076209410203, + "grad_norm": 0.21684300899505615, + "learning_rate": 4.3782660137485973e-07, + "loss": 0.0008, + "num_input_tokens_seen": 35835248, + "step": 18308 + }, + { + "epoch": 2.426640159045726, + "grad_norm": 0.025491613894701004, + "learning_rate": 4.3763037641338826e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35837008, + "step": 18309 + }, + { + "epoch": 2.426772697150431, + "grad_norm": 0.019090726971626282, + "learning_rate": 4.374341912158259e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35839072, + "step": 18310 + }, + { + "epoch": 2.426905235255136, + "grad_norm": 0.0326387956738472, + "learning_rate": 4.372380457859551e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35840456, + "step": 18311 + }, + { + "epoch": 2.427037773359841, + "grad_norm": 3.0513579845428467, + "learning_rate": 4.370419401275572e-07, + "loss": 0.0232, + "num_input_tokens_seen": 35842312, + "step": 18312 + }, + { + "epoch": 2.427170311464546, + "grad_norm": 0.13179492950439453, + "learning_rate": 4.36845874244414e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35843760, + "step": 18313 + }, + { + "epoch": 2.427302849569251, + "grad_norm": 19.33431625366211, + "learning_rate": 4.3664984814030615e-07, + "loss": 0.1414, + "num_input_tokens_seen": 35846360, + "step": 18314 + }, + { + "epoch": 2.427435387673956, + "grad_norm": 3.8488097190856934, + "learning_rate": 4.3645386181901283e-07, + "loss": 0.0325, + "num_input_tokens_seen": 35848008, + "step": 18315 + }, + { + "epoch": 2.4275679257786615, + "grad_norm": 9.158230781555176, + "learning_rate": 4.3625791528431246e-07, + "loss": 0.099, + "num_input_tokens_seen": 35850312, + "step": 18316 + }, + { + "epoch": 2.4277004638833666, + "grad_norm": 15.860053062438965, + "learning_rate": 4.360620085399825e-07, + "loss": 0.2384, + "num_input_tokens_seen": 35852096, + "step": 18317 + }, + { + "epoch": 2.4278330019880716, + "grad_norm": 12.958687782287598, + "learning_rate": 4.358661415898016e-07, + "loss": 0.2383, + "num_input_tokens_seen": 35854416, + "step": 18318 + }, + { + "epoch": 2.4279655400927767, + "grad_norm": 0.011256652884185314, + "learning_rate": 4.356703144375449e-07, + "loss": 0.0, + "num_input_tokens_seen": 35855864, + "step": 18319 + }, + { + "epoch": 2.4280980781974817, + "grad_norm": 0.14236581325531006, + "learning_rate": 4.354745270869892e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35857712, + "step": 18320 + }, + { + "epoch": 2.4282306163021867, + "grad_norm": 3.0555832386016846, + "learning_rate": 4.352787795419089e-07, + "loss": 0.0206, + "num_input_tokens_seen": 35859368, + "step": 18321 + }, + { + "epoch": 2.4283631544068918, + "grad_norm": 0.11765335500240326, + "learning_rate": 4.350830718060775e-07, + "loss": 0.0008, + "num_input_tokens_seen": 35861432, + "step": 18322 + }, + { + "epoch": 2.4284956925115972, + "grad_norm": 8.695486068725586, + "learning_rate": 4.3488740388326955e-07, + "loss": 0.0476, + "num_input_tokens_seen": 35862912, + "step": 18323 + }, + { + "epoch": 2.4286282306163023, + "grad_norm": 0.036051925271749496, + "learning_rate": 4.3469177577725645e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35865032, + "step": 18324 + }, + { + "epoch": 2.4287607687210073, + "grad_norm": 3.1093356609344482, + "learning_rate": 4.3449618749181133e-07, + "loss": 0.0231, + "num_input_tokens_seen": 35866704, + "step": 18325 + }, + { + "epoch": 2.4288933068257124, + "grad_norm": 9.437972068786621, + "learning_rate": 4.3430063903070474e-07, + "loss": 0.2568, + "num_input_tokens_seen": 35869376, + "step": 18326 + }, + { + "epoch": 2.4290258449304174, + "grad_norm": 0.008098899386823177, + "learning_rate": 4.341051303977067e-07, + "loss": 0.0, + "num_input_tokens_seen": 35871048, + "step": 18327 + }, + { + "epoch": 2.4291583830351224, + "grad_norm": 9.822820663452148, + "learning_rate": 4.339096615965865e-07, + "loss": 0.0792, + "num_input_tokens_seen": 35872800, + "step": 18328 + }, + { + "epoch": 2.4292909211398275, + "grad_norm": 0.002726078499108553, + "learning_rate": 4.337142326311139e-07, + "loss": 0.0, + "num_input_tokens_seen": 35874592, + "step": 18329 + }, + { + "epoch": 2.429423459244533, + "grad_norm": 0.0192753616720438, + "learning_rate": 4.3351884350505554e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35876048, + "step": 18330 + }, + { + "epoch": 2.429555997349238, + "grad_norm": 1.172118067741394, + "learning_rate": 4.3332349422218033e-07, + "loss": 0.0048, + "num_input_tokens_seen": 35877632, + "step": 18331 + }, + { + "epoch": 2.429688535453943, + "grad_norm": 0.977995753288269, + "learning_rate": 4.3312818478625367e-07, + "loss": 0.0024, + "num_input_tokens_seen": 35879848, + "step": 18332 + }, + { + "epoch": 2.429821073558648, + "grad_norm": 0.13878194987773895, + "learning_rate": 4.3293291520104114e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35881480, + "step": 18333 + }, + { + "epoch": 2.429953611663353, + "grad_norm": 8.973982810974121, + "learning_rate": 4.327376854703086e-07, + "loss": 0.2234, + "num_input_tokens_seen": 35883560, + "step": 18334 + }, + { + "epoch": 2.430086149768058, + "grad_norm": 0.0032459511421620846, + "learning_rate": 4.325424955978194e-07, + "loss": 0.0, + "num_input_tokens_seen": 35885392, + "step": 18335 + }, + { + "epoch": 2.430218687872763, + "grad_norm": 0.0009680012008175254, + "learning_rate": 4.3234734558733644e-07, + "loss": 0.0, + "num_input_tokens_seen": 35886544, + "step": 18336 + }, + { + "epoch": 2.4303512259774687, + "grad_norm": 0.025460895150899887, + "learning_rate": 4.3215223544262387e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35888768, + "step": 18337 + }, + { + "epoch": 2.4304837640821737, + "grad_norm": 0.04833018407225609, + "learning_rate": 4.319571651674423e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35890696, + "step": 18338 + }, + { + "epoch": 2.4306163021868787, + "grad_norm": 9.924674034118652, + "learning_rate": 4.3176213476555347e-07, + "loss": 0.1204, + "num_input_tokens_seen": 35893008, + "step": 18339 + }, + { + "epoch": 2.430748840291584, + "grad_norm": 5.924070358276367, + "learning_rate": 4.3156714424071767e-07, + "loss": 0.0644, + "num_input_tokens_seen": 35894544, + "step": 18340 + }, + { + "epoch": 2.430881378396289, + "grad_norm": 0.02826007455587387, + "learning_rate": 4.313721935966944e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35896200, + "step": 18341 + }, + { + "epoch": 2.431013916500994, + "grad_norm": 3.287541389465332, + "learning_rate": 4.311772828372415e-07, + "loss": 0.0573, + "num_input_tokens_seen": 35898416, + "step": 18342 + }, + { + "epoch": 2.431146454605699, + "grad_norm": 5.100732803344727, + "learning_rate": 4.3098241196611797e-07, + "loss": 0.0261, + "num_input_tokens_seen": 35900336, + "step": 18343 + }, + { + "epoch": 2.4312789927104044, + "grad_norm": 12.204575538635254, + "learning_rate": 4.307875809870815e-07, + "loss": 0.2029, + "num_input_tokens_seen": 35903184, + "step": 18344 + }, + { + "epoch": 2.4314115308151094, + "grad_norm": 8.511176109313965, + "learning_rate": 4.305927899038878e-07, + "loss": 0.135, + "num_input_tokens_seen": 35905824, + "step": 18345 + }, + { + "epoch": 2.4315440689198144, + "grad_norm": 0.020928053185343742, + "learning_rate": 4.3039803872029275e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35908008, + "step": 18346 + }, + { + "epoch": 2.4316766070245195, + "grad_norm": 6.845074653625488, + "learning_rate": 4.302033274400505e-07, + "loss": 0.0719, + "num_input_tokens_seen": 35910456, + "step": 18347 + }, + { + "epoch": 2.4318091451292245, + "grad_norm": 10.301386833190918, + "learning_rate": 4.3000865606691615e-07, + "loss": 0.086, + "num_input_tokens_seen": 35912048, + "step": 18348 + }, + { + "epoch": 2.4319416832339296, + "grad_norm": 6.19709587097168, + "learning_rate": 4.2981402460464366e-07, + "loss": 0.1242, + "num_input_tokens_seen": 35914104, + "step": 18349 + }, + { + "epoch": 2.432074221338635, + "grad_norm": 0.03213613107800484, + "learning_rate": 4.2961943305698474e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35916600, + "step": 18350 + }, + { + "epoch": 2.43220675944334, + "grad_norm": 3.0651750564575195, + "learning_rate": 4.294248814276916e-07, + "loss": 0.0517, + "num_input_tokens_seen": 35919144, + "step": 18351 + }, + { + "epoch": 2.432339297548045, + "grad_norm": 0.013049193657934666, + "learning_rate": 4.2923036972051497e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35920440, + "step": 18352 + }, + { + "epoch": 2.43247183565275, + "grad_norm": 0.011416442692279816, + "learning_rate": 4.290358979392048e-07, + "loss": 0.0, + "num_input_tokens_seen": 35921760, + "step": 18353 + }, + { + "epoch": 2.432604373757455, + "grad_norm": 0.5775468349456787, + "learning_rate": 4.288414660875112e-07, + "loss": 0.0022, + "num_input_tokens_seen": 35923448, + "step": 18354 + }, + { + "epoch": 2.4327369118621602, + "grad_norm": 9.361068725585938, + "learning_rate": 4.2864707416918365e-07, + "loss": 0.1805, + "num_input_tokens_seen": 35925120, + "step": 18355 + }, + { + "epoch": 2.4328694499668657, + "grad_norm": 6.171670913696289, + "learning_rate": 4.2845272218796945e-07, + "loss": 0.0928, + "num_input_tokens_seen": 35926624, + "step": 18356 + }, + { + "epoch": 2.4330019880715708, + "grad_norm": 0.07428599148988724, + "learning_rate": 4.282584101476159e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35927768, + "step": 18357 + }, + { + "epoch": 2.433134526176276, + "grad_norm": 2.862386703491211, + "learning_rate": 4.280641380518691e-07, + "loss": 0.022, + "num_input_tokens_seen": 35929416, + "step": 18358 + }, + { + "epoch": 2.433267064280981, + "grad_norm": 0.2997550964355469, + "learning_rate": 4.278699059044747e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35931384, + "step": 18359 + }, + { + "epoch": 2.433399602385686, + "grad_norm": 9.919206619262695, + "learning_rate": 4.2767571370917806e-07, + "loss": 0.0693, + "num_input_tokens_seen": 35933312, + "step": 18360 + }, + { + "epoch": 2.433532140490391, + "grad_norm": 3.051115036010742, + "learning_rate": 4.2748156146972393e-07, + "loss": 0.008, + "num_input_tokens_seen": 35935224, + "step": 18361 + }, + { + "epoch": 2.433664678595096, + "grad_norm": 2.03763747215271, + "learning_rate": 4.272874491898549e-07, + "loss": 0.0096, + "num_input_tokens_seen": 35937176, + "step": 18362 + }, + { + "epoch": 2.4337972166998014, + "grad_norm": 4.422829627990723, + "learning_rate": 4.2709337687331374e-07, + "loss": 0.0251, + "num_input_tokens_seen": 35938624, + "step": 18363 + }, + { + "epoch": 2.4339297548045065, + "grad_norm": 1.6534972190856934, + "learning_rate": 4.2689934452384175e-07, + "loss": 0.0065, + "num_input_tokens_seen": 35940600, + "step": 18364 + }, + { + "epoch": 2.4340622929092115, + "grad_norm": 2.9853992462158203, + "learning_rate": 4.267053521451811e-07, + "loss": 0.0199, + "num_input_tokens_seen": 35942560, + "step": 18365 + }, + { + "epoch": 2.4341948310139165, + "grad_norm": 0.008861691690981388, + "learning_rate": 4.265113997410711e-07, + "loss": 0.0, + "num_input_tokens_seen": 35944304, + "step": 18366 + }, + { + "epoch": 2.4343273691186216, + "grad_norm": 0.00162942532915622, + "learning_rate": 4.263174873152523e-07, + "loss": 0.0, + "num_input_tokens_seen": 35945384, + "step": 18367 + }, + { + "epoch": 2.4344599072233266, + "grad_norm": 0.04876639321446419, + "learning_rate": 4.2612361487146285e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35946960, + "step": 18368 + }, + { + "epoch": 2.4345924453280317, + "grad_norm": 0.06672238558530807, + "learning_rate": 4.2592978241344007e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35949232, + "step": 18369 + }, + { + "epoch": 2.434724983432737, + "grad_norm": 11.845396041870117, + "learning_rate": 4.257359899449226e-07, + "loss": 0.1805, + "num_input_tokens_seen": 35950680, + "step": 18370 + }, + { + "epoch": 2.434857521537442, + "grad_norm": 0.010267109610140324, + "learning_rate": 4.2554223746964636e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35951856, + "step": 18371 + }, + { + "epoch": 2.434990059642147, + "grad_norm": 2.477538585662842, + "learning_rate": 4.253485249913461e-07, + "loss": 0.0191, + "num_input_tokens_seen": 35954240, + "step": 18372 + }, + { + "epoch": 2.4351225977468522, + "grad_norm": 0.8585048913955688, + "learning_rate": 4.251548525137583e-07, + "loss": 0.0021, + "num_input_tokens_seen": 35956248, + "step": 18373 + }, + { + "epoch": 2.4352551358515573, + "grad_norm": 0.0016985032707452774, + "learning_rate": 4.249612200406156e-07, + "loss": 0.0, + "num_input_tokens_seen": 35957800, + "step": 18374 + }, + { + "epoch": 2.4353876739562623, + "grad_norm": 2.598919153213501, + "learning_rate": 4.247676275756527e-07, + "loss": 0.027, + "num_input_tokens_seen": 35959568, + "step": 18375 + }, + { + "epoch": 2.4355202120609674, + "grad_norm": 6.376715183258057, + "learning_rate": 4.245740751226013e-07, + "loss": 0.0614, + "num_input_tokens_seen": 35962072, + "step": 18376 + }, + { + "epoch": 2.435652750165673, + "grad_norm": 6.837149620056152, + "learning_rate": 4.2438056268519324e-07, + "loss": 0.0519, + "num_input_tokens_seen": 35963872, + "step": 18377 + }, + { + "epoch": 2.435785288270378, + "grad_norm": 0.05405694991350174, + "learning_rate": 4.241870902671602e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35965192, + "step": 18378 + }, + { + "epoch": 2.435917826375083, + "grad_norm": 0.7467674016952515, + "learning_rate": 4.2399365787223176e-07, + "loss": 0.0052, + "num_input_tokens_seen": 35967488, + "step": 18379 + }, + { + "epoch": 2.436050364479788, + "grad_norm": 0.015552084892988205, + "learning_rate": 4.2380026550413816e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35970584, + "step": 18380 + }, + { + "epoch": 2.436182902584493, + "grad_norm": 0.6305965781211853, + "learning_rate": 4.236069131666076e-07, + "loss": 0.0039, + "num_input_tokens_seen": 35972416, + "step": 18381 + }, + { + "epoch": 2.436315440689198, + "grad_norm": 11.510557174682617, + "learning_rate": 4.2341360086336855e-07, + "loss": 0.0937, + "num_input_tokens_seen": 35974368, + "step": 18382 + }, + { + "epoch": 2.436447978793903, + "grad_norm": 1.6999883651733398, + "learning_rate": 4.2322032859814706e-07, + "loss": 0.0154, + "num_input_tokens_seen": 35976912, + "step": 18383 + }, + { + "epoch": 2.4365805168986086, + "grad_norm": 1.2743343114852905, + "learning_rate": 4.230270963746708e-07, + "loss": 0.0053, + "num_input_tokens_seen": 35978344, + "step": 18384 + }, + { + "epoch": 2.4367130550033136, + "grad_norm": 0.001416211947798729, + "learning_rate": 4.228339041966645e-07, + "loss": 0.0, + "num_input_tokens_seen": 35979640, + "step": 18385 + }, + { + "epoch": 2.4368455931080186, + "grad_norm": 4.7986884117126465, + "learning_rate": 4.226407520678541e-07, + "loss": 0.0395, + "num_input_tokens_seen": 35982032, + "step": 18386 + }, + { + "epoch": 2.4369781312127237, + "grad_norm": 6.503503322601318, + "learning_rate": 4.22447639991963e-07, + "loss": 0.0687, + "num_input_tokens_seen": 35984664, + "step": 18387 + }, + { + "epoch": 2.4371106693174287, + "grad_norm": 7.361541271209717, + "learning_rate": 4.222545679727147e-07, + "loss": 0.057, + "num_input_tokens_seen": 35987088, + "step": 18388 + }, + { + "epoch": 2.4372432074221337, + "grad_norm": 3.8410732746124268, + "learning_rate": 4.220615360138311e-07, + "loss": 0.0299, + "num_input_tokens_seen": 35989728, + "step": 18389 + }, + { + "epoch": 2.4373757455268388, + "grad_norm": 7.192863464355469, + "learning_rate": 4.2186854411903456e-07, + "loss": 0.1564, + "num_input_tokens_seen": 35991544, + "step": 18390 + }, + { + "epoch": 2.4375082836315443, + "grad_norm": 9.349955558776855, + "learning_rate": 4.216755922920468e-07, + "loss": 0.1583, + "num_input_tokens_seen": 35993776, + "step": 18391 + }, + { + "epoch": 2.4376408217362493, + "grad_norm": 7.483748912811279, + "learning_rate": 4.214826805365871e-07, + "loss": 0.1314, + "num_input_tokens_seen": 35995232, + "step": 18392 + }, + { + "epoch": 2.4377733598409543, + "grad_norm": 8.77556324005127, + "learning_rate": 4.212898088563755e-07, + "loss": 0.2755, + "num_input_tokens_seen": 35997256, + "step": 18393 + }, + { + "epoch": 2.4379058979456594, + "grad_norm": 0.030269550159573555, + "learning_rate": 4.210969772551304e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35999112, + "step": 18394 + }, + { + "epoch": 2.4380384360503644, + "grad_norm": 3.167874336242676, + "learning_rate": 4.2090418573656895e-07, + "loss": 0.0095, + "num_input_tokens_seen": 36000792, + "step": 18395 + }, + { + "epoch": 2.4381709741550694, + "grad_norm": 0.1536400020122528, + "learning_rate": 4.2071143430440943e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36002392, + "step": 18396 + }, + { + "epoch": 2.4383035122597745, + "grad_norm": 5.353066921234131, + "learning_rate": 4.2051872296236806e-07, + "loss": 0.0901, + "num_input_tokens_seen": 36004824, + "step": 18397 + }, + { + "epoch": 2.43843605036448, + "grad_norm": 0.0030064054299145937, + "learning_rate": 4.203260517141605e-07, + "loss": 0.0, + "num_input_tokens_seen": 36007048, + "step": 18398 + }, + { + "epoch": 2.438568588469185, + "grad_norm": 1.3286194801330566, + "learning_rate": 4.2013342056350133e-07, + "loss": 0.0103, + "num_input_tokens_seen": 36009632, + "step": 18399 + }, + { + "epoch": 2.43870112657389, + "grad_norm": 0.013480495661497116, + "learning_rate": 4.1994082951410414e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36010872, + "step": 18400 + }, + { + "epoch": 2.438833664678595, + "grad_norm": 0.032784976065158844, + "learning_rate": 4.197482785696827e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36012424, + "step": 18401 + }, + { + "epoch": 2.4389662027833, + "grad_norm": 0.007632888853549957, + "learning_rate": 4.1955576773394984e-07, + "loss": 0.0, + "num_input_tokens_seen": 36014024, + "step": 18402 + }, + { + "epoch": 2.439098740888005, + "grad_norm": 0.0037206937558948994, + "learning_rate": 4.1936329701061736e-07, + "loss": 0.0, + "num_input_tokens_seen": 36015680, + "step": 18403 + }, + { + "epoch": 2.43923127899271, + "grad_norm": 1.278149127960205, + "learning_rate": 4.191708664033958e-07, + "loss": 0.0039, + "num_input_tokens_seen": 36017408, + "step": 18404 + }, + { + "epoch": 2.4393638170974157, + "grad_norm": 14.313703536987305, + "learning_rate": 4.1897847591599454e-07, + "loss": 0.0999, + "num_input_tokens_seen": 36018712, + "step": 18405 + }, + { + "epoch": 2.4394963552021207, + "grad_norm": 0.04546213895082474, + "learning_rate": 4.18786125552125e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36020288, + "step": 18406 + }, + { + "epoch": 2.4396288933068258, + "grad_norm": 0.07428284734487534, + "learning_rate": 4.1859381531549363e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36021760, + "step": 18407 + }, + { + "epoch": 2.439761431411531, + "grad_norm": 5.490110397338867, + "learning_rate": 4.184015452098103e-07, + "loss": 0.0182, + "num_input_tokens_seen": 36024528, + "step": 18408 + }, + { + "epoch": 2.439893969516236, + "grad_norm": 4.9820427894592285, + "learning_rate": 4.1820931523878117e-07, + "loss": 0.0251, + "num_input_tokens_seen": 36026720, + "step": 18409 + }, + { + "epoch": 2.440026507620941, + "grad_norm": 15.380413055419922, + "learning_rate": 4.180171254061119e-07, + "loss": 0.1256, + "num_input_tokens_seen": 36029040, + "step": 18410 + }, + { + "epoch": 2.440159045725646, + "grad_norm": 3.798063039779663, + "learning_rate": 4.1782497571550923e-07, + "loss": 0.0145, + "num_input_tokens_seen": 36030840, + "step": 18411 + }, + { + "epoch": 2.4402915838303514, + "grad_norm": 1.2348486185073853, + "learning_rate": 4.1763286617067744e-07, + "loss": 0.0037, + "num_input_tokens_seen": 36033104, + "step": 18412 + }, + { + "epoch": 2.4404241219350564, + "grad_norm": 0.008932110853493214, + "learning_rate": 4.174407967753202e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36035816, + "step": 18413 + }, + { + "epoch": 2.4405566600397615, + "grad_norm": 0.05620727688074112, + "learning_rate": 4.172487675331416e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36038128, + "step": 18414 + }, + { + "epoch": 2.4406891981444665, + "grad_norm": 9.432465553283691, + "learning_rate": 4.1705677844784354e-07, + "loss": 0.1278, + "num_input_tokens_seen": 36039272, + "step": 18415 + }, + { + "epoch": 2.4408217362491715, + "grad_norm": 0.013605829328298569, + "learning_rate": 4.16864829523127e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36040352, + "step": 18416 + }, + { + "epoch": 2.4409542743538766, + "grad_norm": 0.07038331031799316, + "learning_rate": 4.1667292076269434e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36041976, + "step": 18417 + }, + { + "epoch": 2.4410868124585816, + "grad_norm": 2.9397194385528564, + "learning_rate": 4.1648105217024503e-07, + "loss": 0.0096, + "num_input_tokens_seen": 36043920, + "step": 18418 + }, + { + "epoch": 2.441219350563287, + "grad_norm": 0.051928140223026276, + "learning_rate": 4.1628922374947785e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36046032, + "step": 18419 + }, + { + "epoch": 2.441351888667992, + "grad_norm": 0.5381191968917847, + "learning_rate": 4.1609743550409227e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36048112, + "step": 18420 + }, + { + "epoch": 2.441484426772697, + "grad_norm": 0.03849567472934723, + "learning_rate": 4.159056874377854e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36049824, + "step": 18421 + }, + { + "epoch": 2.441616964877402, + "grad_norm": 5.573018550872803, + "learning_rate": 4.1571397955425505e-07, + "loss": 0.1024, + "num_input_tokens_seen": 36051600, + "step": 18422 + }, + { + "epoch": 2.4417495029821072, + "grad_norm": 0.04648677259683609, + "learning_rate": 4.1552231185719715e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36053512, + "step": 18423 + }, + { + "epoch": 2.4418820410868123, + "grad_norm": 1.9818496704101562, + "learning_rate": 4.153306843503063e-07, + "loss": 0.0134, + "num_input_tokens_seen": 36054912, + "step": 18424 + }, + { + "epoch": 2.4420145791915173, + "grad_norm": 4.1605987548828125, + "learning_rate": 4.15139097037279e-07, + "loss": 0.1069, + "num_input_tokens_seen": 36057312, + "step": 18425 + }, + { + "epoch": 2.442147117296223, + "grad_norm": 0.0053329914808273315, + "learning_rate": 4.1494754992180727e-07, + "loss": 0.0, + "num_input_tokens_seen": 36058920, + "step": 18426 + }, + { + "epoch": 2.442279655400928, + "grad_norm": 0.528232753276825, + "learning_rate": 4.1475604300758585e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36061048, + "step": 18427 + }, + { + "epoch": 2.442412193505633, + "grad_norm": 2.681910991668701, + "learning_rate": 4.1456457629830637e-07, + "loss": 0.0113, + "num_input_tokens_seen": 36062864, + "step": 18428 + }, + { + "epoch": 2.442544731610338, + "grad_norm": 3.688399314880371, + "learning_rate": 4.143731497976605e-07, + "loss": 0.0266, + "num_input_tokens_seen": 36065232, + "step": 18429 + }, + { + "epoch": 2.442677269715043, + "grad_norm": 3.1692559719085693, + "learning_rate": 4.141817635093387e-07, + "loss": 0.0199, + "num_input_tokens_seen": 36067208, + "step": 18430 + }, + { + "epoch": 2.442809807819748, + "grad_norm": 3.5751874446868896, + "learning_rate": 4.139904174370313e-07, + "loss": 0.0294, + "num_input_tokens_seen": 36069296, + "step": 18431 + }, + { + "epoch": 2.4429423459244535, + "grad_norm": 12.03130054473877, + "learning_rate": 4.1379911158442835e-07, + "loss": 0.0883, + "num_input_tokens_seen": 36071368, + "step": 18432 + }, + { + "epoch": 2.4430748840291585, + "grad_norm": 0.045436322689056396, + "learning_rate": 4.1360784595521756e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36072624, + "step": 18433 + }, + { + "epoch": 2.4432074221338635, + "grad_norm": 1.3194892406463623, + "learning_rate": 4.134166205530871e-07, + "loss": 0.0031, + "num_input_tokens_seen": 36075000, + "step": 18434 + }, + { + "epoch": 2.4433399602385686, + "grad_norm": 3.343655586242676, + "learning_rate": 4.132254353817236e-07, + "loss": 0.0219, + "num_input_tokens_seen": 36076864, + "step": 18435 + }, + { + "epoch": 2.4434724983432736, + "grad_norm": 4.3004150390625, + "learning_rate": 4.1303429044481256e-07, + "loss": 0.0406, + "num_input_tokens_seen": 36078952, + "step": 18436 + }, + { + "epoch": 2.4436050364479787, + "grad_norm": 28.068340301513672, + "learning_rate": 4.128431857460402e-07, + "loss": 0.1997, + "num_input_tokens_seen": 36080600, + "step": 18437 + }, + { + "epoch": 2.443737574552684, + "grad_norm": 0.027430184185504913, + "learning_rate": 4.126521212890916e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36082432, + "step": 18438 + }, + { + "epoch": 2.443870112657389, + "grad_norm": 4.455007553100586, + "learning_rate": 4.124610970776502e-07, + "loss": 0.0172, + "num_input_tokens_seen": 36084472, + "step": 18439 + }, + { + "epoch": 2.444002650762094, + "grad_norm": 0.14643605053424835, + "learning_rate": 4.122701131153989e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36085864, + "step": 18440 + }, + { + "epoch": 2.4441351888667993, + "grad_norm": 0.015648264437913895, + "learning_rate": 4.120791694060203e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36087848, + "step": 18441 + }, + { + "epoch": 2.4442677269715043, + "grad_norm": 2.361349582672119, + "learning_rate": 4.1188826595319473e-07, + "loss": 0.0167, + "num_input_tokens_seen": 36089888, + "step": 18442 + }, + { + "epoch": 2.4444002650762093, + "grad_norm": 0.0550403818488121, + "learning_rate": 4.116974027606041e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36091792, + "step": 18443 + }, + { + "epoch": 2.4445328031809144, + "grad_norm": 5.834690093994141, + "learning_rate": 4.115065798319287e-07, + "loss": 0.0391, + "num_input_tokens_seen": 36094872, + "step": 18444 + }, + { + "epoch": 2.44466534128562, + "grad_norm": 0.7376577854156494, + "learning_rate": 4.113157971708473e-07, + "loss": 0.0046, + "num_input_tokens_seen": 36096712, + "step": 18445 + }, + { + "epoch": 2.444797879390325, + "grad_norm": 0.0024754374753683805, + "learning_rate": 4.111250547810383e-07, + "loss": 0.0, + "num_input_tokens_seen": 36098256, + "step": 18446 + }, + { + "epoch": 2.44493041749503, + "grad_norm": 0.046855054795742035, + "learning_rate": 4.1093435266617855e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36100848, + "step": 18447 + }, + { + "epoch": 2.445062955599735, + "grad_norm": 0.004084752406924963, + "learning_rate": 4.107436908299464e-07, + "loss": 0.0, + "num_input_tokens_seen": 36102176, + "step": 18448 + }, + { + "epoch": 2.44519549370444, + "grad_norm": 0.012817305512726307, + "learning_rate": 4.1055306927601653e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36103680, + "step": 18449 + }, + { + "epoch": 2.445328031809145, + "grad_norm": 0.9219167232513428, + "learning_rate": 4.103624880080656e-07, + "loss": 0.0024, + "num_input_tokens_seen": 36105008, + "step": 18450 + }, + { + "epoch": 2.44546056991385, + "grad_norm": 4.6600775718688965, + "learning_rate": 4.1017194702976717e-07, + "loss": 0.0429, + "num_input_tokens_seen": 36106784, + "step": 18451 + }, + { + "epoch": 2.4455931080185556, + "grad_norm": 5.627447128295898, + "learning_rate": 4.0998144634479485e-07, + "loss": 0.0164, + "num_input_tokens_seen": 36108064, + "step": 18452 + }, + { + "epoch": 2.4457256461232606, + "grad_norm": 0.22064460813999176, + "learning_rate": 4.0979098595682276e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36109424, + "step": 18453 + }, + { + "epoch": 2.4458581842279656, + "grad_norm": 0.08552543073892593, + "learning_rate": 4.096005658695218e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36111376, + "step": 18454 + }, + { + "epoch": 2.4459907223326707, + "grad_norm": 0.5202300548553467, + "learning_rate": 4.094101860865646e-07, + "loss": 0.0022, + "num_input_tokens_seen": 36113824, + "step": 18455 + }, + { + "epoch": 2.4461232604373757, + "grad_norm": 3.65033221244812, + "learning_rate": 4.0921984661162124e-07, + "loss": 0.0453, + "num_input_tokens_seen": 36116832, + "step": 18456 + }, + { + "epoch": 2.4462557985420808, + "grad_norm": 6.604290962219238, + "learning_rate": 4.0902954744836106e-07, + "loss": 0.0529, + "num_input_tokens_seen": 36118752, + "step": 18457 + }, + { + "epoch": 2.446388336646786, + "grad_norm": 2.9772605895996094, + "learning_rate": 4.0883928860045415e-07, + "loss": 0.0176, + "num_input_tokens_seen": 36120136, + "step": 18458 + }, + { + "epoch": 2.4465208747514913, + "grad_norm": 0.6155550479888916, + "learning_rate": 4.086490700715687e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36122032, + "step": 18459 + }, + { + "epoch": 2.4466534128561963, + "grad_norm": 0.011906280182301998, + "learning_rate": 4.084588918653709e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36123840, + "step": 18460 + }, + { + "epoch": 2.4467859509609013, + "grad_norm": 0.12272311002016068, + "learning_rate": 4.082687539855293e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36125096, + "step": 18461 + }, + { + "epoch": 2.4469184890656064, + "grad_norm": 7.3983588218688965, + "learning_rate": 4.0807865643570865e-07, + "loss": 0.04, + "num_input_tokens_seen": 36126528, + "step": 18462 + }, + { + "epoch": 2.4470510271703114, + "grad_norm": 0.06703300774097443, + "learning_rate": 4.078885992195752e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36128520, + "step": 18463 + }, + { + "epoch": 2.4471835652750165, + "grad_norm": 0.002901841886341572, + "learning_rate": 4.0769858234079277e-07, + "loss": 0.0, + "num_input_tokens_seen": 36130000, + "step": 18464 + }, + { + "epoch": 2.4473161033797215, + "grad_norm": 0.014710960909724236, + "learning_rate": 4.0750860580302503e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36132728, + "step": 18465 + }, + { + "epoch": 2.447448641484427, + "grad_norm": 2.1773293018341064, + "learning_rate": 4.073186696099343e-07, + "loss": 0.011, + "num_input_tokens_seen": 36135328, + "step": 18466 + }, + { + "epoch": 2.447581179589132, + "grad_norm": 0.011082114651799202, + "learning_rate": 4.0712877376518327e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36136640, + "step": 18467 + }, + { + "epoch": 2.447713717693837, + "grad_norm": 11.57297420501709, + "learning_rate": 4.0693891827243397e-07, + "loss": 0.1207, + "num_input_tokens_seen": 36138264, + "step": 18468 + }, + { + "epoch": 2.447846255798542, + "grad_norm": 0.02986838109791279, + "learning_rate": 4.0674910313534627e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36139328, + "step": 18469 + }, + { + "epoch": 2.447978793903247, + "grad_norm": 10.477578163146973, + "learning_rate": 4.0655932835758e-07, + "loss": 0.0428, + "num_input_tokens_seen": 36141024, + "step": 18470 + }, + { + "epoch": 2.448111332007952, + "grad_norm": 0.09542964398860931, + "learning_rate": 4.063695939427939e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36142536, + "step": 18471 + }, + { + "epoch": 2.448243870112657, + "grad_norm": 0.2583884596824646, + "learning_rate": 4.061798998946459e-07, + "loss": 0.001, + "num_input_tokens_seen": 36144256, + "step": 18472 + }, + { + "epoch": 2.4483764082173627, + "grad_norm": 5.531585216522217, + "learning_rate": 4.059902462167939e-07, + "loss": 0.0302, + "num_input_tokens_seen": 36146480, + "step": 18473 + }, + { + "epoch": 2.4485089463220677, + "grad_norm": 0.6507936716079712, + "learning_rate": 4.0580063291289496e-07, + "loss": 0.0035, + "num_input_tokens_seen": 36149096, + "step": 18474 + }, + { + "epoch": 2.4486414844267728, + "grad_norm": 7.938992977142334, + "learning_rate": 4.056110599866045e-07, + "loss": 0.0444, + "num_input_tokens_seen": 36150848, + "step": 18475 + }, + { + "epoch": 2.448774022531478, + "grad_norm": 0.8242024183273315, + "learning_rate": 4.0542152744157794e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36152720, + "step": 18476 + }, + { + "epoch": 2.448906560636183, + "grad_norm": 1.5624604225158691, + "learning_rate": 4.052320352814684e-07, + "loss": 0.0091, + "num_input_tokens_seen": 36154584, + "step": 18477 + }, + { + "epoch": 2.449039098740888, + "grad_norm": 0.1616496741771698, + "learning_rate": 4.050425835099306e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36157448, + "step": 18478 + }, + { + "epoch": 2.449171636845593, + "grad_norm": 0.3109237253665924, + "learning_rate": 4.048531721306173e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36160808, + "step": 18479 + }, + { + "epoch": 2.4493041749502984, + "grad_norm": 10.860774040222168, + "learning_rate": 4.046638011471804e-07, + "loss": 0.3004, + "num_input_tokens_seen": 36163192, + "step": 18480 + }, + { + "epoch": 2.4494367130550034, + "grad_norm": 0.6216098666191101, + "learning_rate": 4.044744705632711e-07, + "loss": 0.0034, + "num_input_tokens_seen": 36165504, + "step": 18481 + }, + { + "epoch": 2.4495692511597085, + "grad_norm": 2.1604909896850586, + "learning_rate": 4.0428518038253926e-07, + "loss": 0.0049, + "num_input_tokens_seen": 36168392, + "step": 18482 + }, + { + "epoch": 2.4497017892644135, + "grad_norm": 0.08943673223257065, + "learning_rate": 4.040959306086345e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36169768, + "step": 18483 + }, + { + "epoch": 2.4498343273691185, + "grad_norm": 5.890272617340088, + "learning_rate": 4.0390672124520607e-07, + "loss": 0.041, + "num_input_tokens_seen": 36171624, + "step": 18484 + }, + { + "epoch": 2.4499668654738236, + "grad_norm": 8.719010353088379, + "learning_rate": 4.0371755229590273e-07, + "loss": 0.071, + "num_input_tokens_seen": 36173328, + "step": 18485 + }, + { + "epoch": 2.4500994035785286, + "grad_norm": 10.766963005065918, + "learning_rate": 4.0352842376437107e-07, + "loss": 0.0944, + "num_input_tokens_seen": 36175152, + "step": 18486 + }, + { + "epoch": 2.450231941683234, + "grad_norm": 1.6075553894042969, + "learning_rate": 4.0333933565425755e-07, + "loss": 0.0151, + "num_input_tokens_seen": 36176800, + "step": 18487 + }, + { + "epoch": 2.450364479787939, + "grad_norm": 12.83462905883789, + "learning_rate": 4.031502879692076e-07, + "loss": 0.0881, + "num_input_tokens_seen": 36178744, + "step": 18488 + }, + { + "epoch": 2.450497017892644, + "grad_norm": 0.001172952470369637, + "learning_rate": 4.029612807128674e-07, + "loss": 0.0, + "num_input_tokens_seen": 36180096, + "step": 18489 + }, + { + "epoch": 2.450629555997349, + "grad_norm": 10.649200439453125, + "learning_rate": 4.0277231388887947e-07, + "loss": 0.0157, + "num_input_tokens_seen": 36181808, + "step": 18490 + }, + { + "epoch": 2.4507620941020543, + "grad_norm": 0.35138416290283203, + "learning_rate": 4.0258338750088886e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36183304, + "step": 18491 + }, + { + "epoch": 2.4508946322067593, + "grad_norm": 0.0034369833301752806, + "learning_rate": 4.0239450155253766e-07, + "loss": 0.0, + "num_input_tokens_seen": 36185160, + "step": 18492 + }, + { + "epoch": 2.4510271703114643, + "grad_norm": 2.6676578521728516, + "learning_rate": 4.022056560474666e-07, + "loss": 0.0943, + "num_input_tokens_seen": 36187656, + "step": 18493 + }, + { + "epoch": 2.45115970841617, + "grad_norm": 0.39595407247543335, + "learning_rate": 4.0201685098931855e-07, + "loss": 0.002, + "num_input_tokens_seen": 36188832, + "step": 18494 + }, + { + "epoch": 2.451292246520875, + "grad_norm": 0.016962377354502678, + "learning_rate": 4.018280863817328e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36191904, + "step": 18495 + }, + { + "epoch": 2.45142478462558, + "grad_norm": 0.001013073604553938, + "learning_rate": 4.016393622283485e-07, + "loss": 0.0, + "num_input_tokens_seen": 36193192, + "step": 18496 + }, + { + "epoch": 2.451557322730285, + "grad_norm": 0.0008697627345100045, + "learning_rate": 4.014506785328054e-07, + "loss": 0.0, + "num_input_tokens_seen": 36195344, + "step": 18497 + }, + { + "epoch": 2.45168986083499, + "grad_norm": 0.18789683282375336, + "learning_rate": 4.012620352987409e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36197296, + "step": 18498 + }, + { + "epoch": 2.451822398939695, + "grad_norm": 0.027016781270503998, + "learning_rate": 4.0107343252979157e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36200280, + "step": 18499 + }, + { + "epoch": 2.4519549370444, + "grad_norm": 9.296707153320312, + "learning_rate": 4.0088487022959507e-07, + "loss": 0.1531, + "num_input_tokens_seen": 36202512, + "step": 18500 + }, + { + "epoch": 2.4520874751491055, + "grad_norm": 5.446923732757568, + "learning_rate": 4.0069634840178645e-07, + "loss": 0.102, + "num_input_tokens_seen": 36204840, + "step": 18501 + }, + { + "epoch": 2.4522200132538106, + "grad_norm": 0.012347945012152195, + "learning_rate": 4.0050786704999985e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36206552, + "step": 18502 + }, + { + "epoch": 2.4523525513585156, + "grad_norm": 1.0581101179122925, + "learning_rate": 4.0031942617787063e-07, + "loss": 0.006, + "num_input_tokens_seen": 36207728, + "step": 18503 + }, + { + "epoch": 2.4524850894632206, + "grad_norm": 6.921823024749756, + "learning_rate": 4.001310257890306e-07, + "loss": 0.0622, + "num_input_tokens_seen": 36209592, + "step": 18504 + }, + { + "epoch": 2.4526176275679257, + "grad_norm": 6.245072364807129, + "learning_rate": 3.999426658871136e-07, + "loss": 0.0174, + "num_input_tokens_seen": 36212592, + "step": 18505 + }, + { + "epoch": 2.4527501656726307, + "grad_norm": 1.3434382677078247, + "learning_rate": 3.9975434647575083e-07, + "loss": 0.0019, + "num_input_tokens_seen": 36213984, + "step": 18506 + }, + { + "epoch": 2.4528827037773357, + "grad_norm": 0.032076429575681686, + "learning_rate": 3.995660675585725e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36215760, + "step": 18507 + }, + { + "epoch": 2.4530152418820412, + "grad_norm": 6.930546283721924, + "learning_rate": 3.9937782913921e-07, + "loss": 0.0521, + "num_input_tokens_seen": 36217704, + "step": 18508 + }, + { + "epoch": 2.4531477799867463, + "grad_norm": 0.9492597579956055, + "learning_rate": 3.9918963122129175e-07, + "loss": 0.0017, + "num_input_tokens_seen": 36219568, + "step": 18509 + }, + { + "epoch": 2.4532803180914513, + "grad_norm": 0.0065710642375051975, + "learning_rate": 3.9900147380844716e-07, + "loss": 0.0, + "num_input_tokens_seen": 36220880, + "step": 18510 + }, + { + "epoch": 2.4534128561961563, + "grad_norm": 0.0010866832453757524, + "learning_rate": 3.9881335690430345e-07, + "loss": 0.0, + "num_input_tokens_seen": 36223008, + "step": 18511 + }, + { + "epoch": 2.4535453943008614, + "grad_norm": 0.23792217671871185, + "learning_rate": 3.9862528051248764e-07, + "loss": 0.0007, + "num_input_tokens_seen": 36224568, + "step": 18512 + }, + { + "epoch": 2.4536779324055664, + "grad_norm": 0.012285387143492699, + "learning_rate": 3.984372446366258e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36226752, + "step": 18513 + }, + { + "epoch": 2.4538104705102715, + "grad_norm": 8.636557579040527, + "learning_rate": 3.9824924928034333e-07, + "loss": 0.2031, + "num_input_tokens_seen": 36228432, + "step": 18514 + }, + { + "epoch": 2.453943008614977, + "grad_norm": 4.483791828155518, + "learning_rate": 3.9806129444726615e-07, + "loss": 0.0713, + "num_input_tokens_seen": 36231328, + "step": 18515 + }, + { + "epoch": 2.454075546719682, + "grad_norm": 0.38840046525001526, + "learning_rate": 3.978733801410173e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36233216, + "step": 18516 + }, + { + "epoch": 2.454208084824387, + "grad_norm": 0.705833911895752, + "learning_rate": 3.9768550636521966e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36234584, + "step": 18517 + }, + { + "epoch": 2.454340622929092, + "grad_norm": 0.3550834655761719, + "learning_rate": 3.9749767312349585e-07, + "loss": 0.0013, + "num_input_tokens_seen": 36236032, + "step": 18518 + }, + { + "epoch": 2.454473161033797, + "grad_norm": 0.39238330721855164, + "learning_rate": 3.9730988041946664e-07, + "loss": 0.001, + "num_input_tokens_seen": 36237704, + "step": 18519 + }, + { + "epoch": 2.454605699138502, + "grad_norm": 0.08152070641517639, + "learning_rate": 3.971221282567536e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36238952, + "step": 18520 + }, + { + "epoch": 2.4547382372432076, + "grad_norm": 9.114176750183105, + "learning_rate": 3.969344166389771e-07, + "loss": 0.0583, + "num_input_tokens_seen": 36240968, + "step": 18521 + }, + { + "epoch": 2.4548707753479126, + "grad_norm": 7.351638317108154, + "learning_rate": 3.96746745569756e-07, + "loss": 0.1613, + "num_input_tokens_seen": 36243296, + "step": 18522 + }, + { + "epoch": 2.4550033134526177, + "grad_norm": 13.040792465209961, + "learning_rate": 3.965591150527087e-07, + "loss": 0.1516, + "num_input_tokens_seen": 36245752, + "step": 18523 + }, + { + "epoch": 2.4551358515573227, + "grad_norm": 0.03130553662776947, + "learning_rate": 3.963715250914521e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36248136, + "step": 18524 + }, + { + "epoch": 2.4552683896620278, + "grad_norm": 5.817678928375244, + "learning_rate": 3.961839756896041e-07, + "loss": 0.053, + "num_input_tokens_seen": 36250272, + "step": 18525 + }, + { + "epoch": 2.455400927766733, + "grad_norm": 0.0018244199454784393, + "learning_rate": 3.9599646685078016e-07, + "loss": 0.0, + "num_input_tokens_seen": 36251736, + "step": 18526 + }, + { + "epoch": 2.4555334658714383, + "grad_norm": 7.069921970367432, + "learning_rate": 3.958089985785962e-07, + "loss": 0.0978, + "num_input_tokens_seen": 36253928, + "step": 18527 + }, + { + "epoch": 2.4556660039761433, + "grad_norm": 4.119227886199951, + "learning_rate": 3.956215708766664e-07, + "loss": 0.0153, + "num_input_tokens_seen": 36256224, + "step": 18528 + }, + { + "epoch": 2.4557985420808484, + "grad_norm": 2.882883071899414, + "learning_rate": 3.9543418374860446e-07, + "loss": 0.0704, + "num_input_tokens_seen": 36258816, + "step": 18529 + }, + { + "epoch": 2.4559310801855534, + "grad_norm": 0.0659695565700531, + "learning_rate": 3.9524683719802255e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36260704, + "step": 18530 + }, + { + "epoch": 2.4560636182902584, + "grad_norm": 0.052687473595142365, + "learning_rate": 3.950595312285338e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36262552, + "step": 18531 + }, + { + "epoch": 2.4561961563949635, + "grad_norm": 0.01680474914610386, + "learning_rate": 3.948722658437501e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36263848, + "step": 18532 + }, + { + "epoch": 2.4563286944996685, + "grad_norm": 14.849852561950684, + "learning_rate": 3.9468504104728107e-07, + "loss": 0.2957, + "num_input_tokens_seen": 36265472, + "step": 18533 + }, + { + "epoch": 2.456461232604374, + "grad_norm": 19.147478103637695, + "learning_rate": 3.944978568427371e-07, + "loss": 0.3487, + "num_input_tokens_seen": 36267112, + "step": 18534 + }, + { + "epoch": 2.456593770709079, + "grad_norm": 1.466558575630188, + "learning_rate": 3.9431071323372623e-07, + "loss": 0.004, + "num_input_tokens_seen": 36269504, + "step": 18535 + }, + { + "epoch": 2.456726308813784, + "grad_norm": 0.021101413294672966, + "learning_rate": 3.94123610223858e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36271240, + "step": 18536 + }, + { + "epoch": 2.456858846918489, + "grad_norm": 3.013065814971924, + "learning_rate": 3.9393654781673893e-07, + "loss": 0.0523, + "num_input_tokens_seen": 36273184, + "step": 18537 + }, + { + "epoch": 2.456991385023194, + "grad_norm": 0.25481125712394714, + "learning_rate": 3.9374952601597654e-07, + "loss": 0.0015, + "num_input_tokens_seen": 36275496, + "step": 18538 + }, + { + "epoch": 2.457123923127899, + "grad_norm": 0.0035919276997447014, + "learning_rate": 3.935625448251765e-07, + "loss": 0.0, + "num_input_tokens_seen": 36276984, + "step": 18539 + }, + { + "epoch": 2.457256461232604, + "grad_norm": 0.009860724210739136, + "learning_rate": 3.933756042479428e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36278680, + "step": 18540 + }, + { + "epoch": 2.4573889993373097, + "grad_norm": 4.453540802001953, + "learning_rate": 3.931887042878815e-07, + "loss": 0.011, + "num_input_tokens_seen": 36280336, + "step": 18541 + }, + { + "epoch": 2.4575215374420147, + "grad_norm": 1.2259290218353271, + "learning_rate": 3.930018449485956e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36282464, + "step": 18542 + }, + { + "epoch": 2.4576540755467198, + "grad_norm": 0.015249701216816902, + "learning_rate": 3.928150262336869e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36283752, + "step": 18543 + }, + { + "epoch": 2.457786613651425, + "grad_norm": 2.2574620246887207, + "learning_rate": 3.926282481467589e-07, + "loss": 0.022, + "num_input_tokens_seen": 36285480, + "step": 18544 + }, + { + "epoch": 2.45791915175613, + "grad_norm": 0.017547357827425003, + "learning_rate": 3.924415106914112e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36287912, + "step": 18545 + }, + { + "epoch": 2.458051689860835, + "grad_norm": 0.019435573369264603, + "learning_rate": 3.9225481387124594e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36289632, + "step": 18546 + }, + { + "epoch": 2.45818422796554, + "grad_norm": 1.5946136713027954, + "learning_rate": 3.920681576898619e-07, + "loss": 0.0062, + "num_input_tokens_seen": 36291336, + "step": 18547 + }, + { + "epoch": 2.4583167660702454, + "grad_norm": 0.0018522939644753933, + "learning_rate": 3.9188154215085786e-07, + "loss": 0.0, + "num_input_tokens_seen": 36292376, + "step": 18548 + }, + { + "epoch": 2.4584493041749504, + "grad_norm": 6.19691801071167, + "learning_rate": 3.916949672578316e-07, + "loss": 0.1191, + "num_input_tokens_seen": 36295440, + "step": 18549 + }, + { + "epoch": 2.4585818422796555, + "grad_norm": 0.012406140565872192, + "learning_rate": 3.9150843301438063e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36297232, + "step": 18550 + }, + { + "epoch": 2.4587143803843605, + "grad_norm": 0.20916685461997986, + "learning_rate": 3.9132193942410244e-07, + "loss": 0.0013, + "num_input_tokens_seen": 36299496, + "step": 18551 + }, + { + "epoch": 2.4588469184890656, + "grad_norm": 0.05357753857970238, + "learning_rate": 3.9113548649059167e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36301848, + "step": 18552 + }, + { + "epoch": 2.4589794565937706, + "grad_norm": 5.810751438140869, + "learning_rate": 3.9094907421744375e-07, + "loss": 0.0474, + "num_input_tokens_seen": 36303944, + "step": 18553 + }, + { + "epoch": 2.4591119946984756, + "grad_norm": 0.12448681145906448, + "learning_rate": 3.907627026082525e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36306536, + "step": 18554 + }, + { + "epoch": 2.459244532803181, + "grad_norm": 0.010513396002352238, + "learning_rate": 3.9057637166661113e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36307888, + "step": 18555 + }, + { + "epoch": 2.459377070907886, + "grad_norm": 11.488607406616211, + "learning_rate": 3.903900813961123e-07, + "loss": 0.0607, + "num_input_tokens_seen": 36309224, + "step": 18556 + }, + { + "epoch": 2.459509609012591, + "grad_norm": 7.867898941040039, + "learning_rate": 3.902038318003487e-07, + "loss": 0.0652, + "num_input_tokens_seen": 36310960, + "step": 18557 + }, + { + "epoch": 2.4596421471172962, + "grad_norm": 0.0015349120367318392, + "learning_rate": 3.9001762288291056e-07, + "loss": 0.0, + "num_input_tokens_seen": 36312072, + "step": 18558 + }, + { + "epoch": 2.4597746852220013, + "grad_norm": 2.8339264392852783, + "learning_rate": 3.898314546473883e-07, + "loss": 0.0121, + "num_input_tokens_seen": 36313712, + "step": 18559 + }, + { + "epoch": 2.4599072233267063, + "grad_norm": 5.4413042068481445, + "learning_rate": 3.8964532709737103e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36316000, + "step": 18560 + }, + { + "epoch": 2.4600397614314113, + "grad_norm": 5.859724998474121, + "learning_rate": 3.894592402364472e-07, + "loss": 0.0722, + "num_input_tokens_seen": 36318744, + "step": 18561 + }, + { + "epoch": 2.460172299536117, + "grad_norm": 0.0006884496542625129, + "learning_rate": 3.8927319406820625e-07, + "loss": 0.0, + "num_input_tokens_seen": 36320192, + "step": 18562 + }, + { + "epoch": 2.460304837640822, + "grad_norm": 8.242111206054688, + "learning_rate": 3.8908718859623413e-07, + "loss": 0.1392, + "num_input_tokens_seen": 36322384, + "step": 18563 + }, + { + "epoch": 2.460437375745527, + "grad_norm": 4.685074329376221, + "learning_rate": 3.8890122382411714e-07, + "loss": 0.0755, + "num_input_tokens_seen": 36324728, + "step": 18564 + }, + { + "epoch": 2.460569913850232, + "grad_norm": 0.04208492860198021, + "learning_rate": 3.8871529975544084e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36326528, + "step": 18565 + }, + { + "epoch": 2.460702451954937, + "grad_norm": 0.0041338251903653145, + "learning_rate": 3.885294163937897e-07, + "loss": 0.0, + "num_input_tokens_seen": 36327976, + "step": 18566 + }, + { + "epoch": 2.460834990059642, + "grad_norm": 20.510738372802734, + "learning_rate": 3.8834357374274793e-07, + "loss": 0.1064, + "num_input_tokens_seen": 36329216, + "step": 18567 + }, + { + "epoch": 2.460967528164347, + "grad_norm": 0.0022442529443651438, + "learning_rate": 3.881577718058993e-07, + "loss": 0.0, + "num_input_tokens_seen": 36330984, + "step": 18568 + }, + { + "epoch": 2.4611000662690525, + "grad_norm": 0.3472481071949005, + "learning_rate": 3.8797201058682595e-07, + "loss": 0.002, + "num_input_tokens_seen": 36333032, + "step": 18569 + }, + { + "epoch": 2.4612326043737576, + "grad_norm": 3.3336098194122314, + "learning_rate": 3.8778629008910913e-07, + "loss": 0.0084, + "num_input_tokens_seen": 36335824, + "step": 18570 + }, + { + "epoch": 2.4613651424784626, + "grad_norm": 1.921223521232605, + "learning_rate": 3.876006103163293e-07, + "loss": 0.0145, + "num_input_tokens_seen": 36337488, + "step": 18571 + }, + { + "epoch": 2.4614976805831676, + "grad_norm": 10.020763397216797, + "learning_rate": 3.8741497127206733e-07, + "loss": 0.2283, + "num_input_tokens_seen": 36339880, + "step": 18572 + }, + { + "epoch": 2.4616302186878727, + "grad_norm": 5.586206912994385, + "learning_rate": 3.8722937295990163e-07, + "loss": 0.0714, + "num_input_tokens_seen": 36341824, + "step": 18573 + }, + { + "epoch": 2.4617627567925777, + "grad_norm": 1.663621187210083, + "learning_rate": 3.870438153834119e-07, + "loss": 0.0161, + "num_input_tokens_seen": 36344568, + "step": 18574 + }, + { + "epoch": 2.4618952948972828, + "grad_norm": 0.010140071623027325, + "learning_rate": 3.86858298546175e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36346104, + "step": 18575 + }, + { + "epoch": 2.4620278330019882, + "grad_norm": 0.01147930882871151, + "learning_rate": 3.866728224517671e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36347664, + "step": 18576 + }, + { + "epoch": 2.4621603711066933, + "grad_norm": 0.15439902245998383, + "learning_rate": 3.8648738710376584e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36349464, + "step": 18577 + }, + { + "epoch": 2.4622929092113983, + "grad_norm": 0.0025804725009948015, + "learning_rate": 3.863019925057457e-07, + "loss": 0.0, + "num_input_tokens_seen": 36350840, + "step": 18578 + }, + { + "epoch": 2.4624254473161034, + "grad_norm": 0.08611530810594559, + "learning_rate": 3.861166386612808e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36353352, + "step": 18579 + }, + { + "epoch": 2.4625579854208084, + "grad_norm": 0.2755880355834961, + "learning_rate": 3.859313255739458e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36355088, + "step": 18580 + }, + { + "epoch": 2.4626905235255134, + "grad_norm": 0.07325536757707596, + "learning_rate": 3.8574605324731287e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36356488, + "step": 18581 + }, + { + "epoch": 2.4628230616302185, + "grad_norm": 0.8562663793563843, + "learning_rate": 3.855608216849552e-07, + "loss": 0.003, + "num_input_tokens_seen": 36357832, + "step": 18582 + }, + { + "epoch": 2.462955599734924, + "grad_norm": 0.017841368913650513, + "learning_rate": 3.8537563089044355e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36360312, + "step": 18583 + }, + { + "epoch": 2.463088137839629, + "grad_norm": 2.6896965503692627, + "learning_rate": 3.851904808673479e-07, + "loss": 0.0278, + "num_input_tokens_seen": 36362816, + "step": 18584 + }, + { + "epoch": 2.463220675944334, + "grad_norm": 0.028345245867967606, + "learning_rate": 3.8500537161923923e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36364936, + "step": 18585 + }, + { + "epoch": 2.463353214049039, + "grad_norm": 4.704026699066162, + "learning_rate": 3.848203031496861e-07, + "loss": 0.076, + "num_input_tokens_seen": 36367544, + "step": 18586 + }, + { + "epoch": 2.463485752153744, + "grad_norm": 8.027031898498535, + "learning_rate": 3.846352754622562e-07, + "loss": 0.1695, + "num_input_tokens_seen": 36369976, + "step": 18587 + }, + { + "epoch": 2.463618290258449, + "grad_norm": 0.032721854746341705, + "learning_rate": 3.844502885605181e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36371568, + "step": 18588 + }, + { + "epoch": 2.463750828363154, + "grad_norm": 5.697801113128662, + "learning_rate": 3.8426534244803774e-07, + "loss": 0.1086, + "num_input_tokens_seen": 36373536, + "step": 18589 + }, + { + "epoch": 2.4638833664678597, + "grad_norm": 14.564227104187012, + "learning_rate": 3.8408043712838074e-07, + "loss": 0.0802, + "num_input_tokens_seen": 36375112, + "step": 18590 + }, + { + "epoch": 2.4640159045725647, + "grad_norm": 0.040207985788583755, + "learning_rate": 3.83895572605113e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36376944, + "step": 18591 + }, + { + "epoch": 2.4641484426772697, + "grad_norm": 0.013511697761714458, + "learning_rate": 3.8371074888179814e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36378896, + "step": 18592 + }, + { + "epoch": 2.4642809807819748, + "grad_norm": 0.003365330398082733, + "learning_rate": 3.835259659620003e-07, + "loss": 0.0, + "num_input_tokens_seen": 36381528, + "step": 18593 + }, + { + "epoch": 2.46441351888668, + "grad_norm": 0.010893715545535088, + "learning_rate": 3.83341223849282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36383824, + "step": 18594 + }, + { + "epoch": 2.464546056991385, + "grad_norm": 6.247860431671143, + "learning_rate": 3.83156522547205e-07, + "loss": 0.0622, + "num_input_tokens_seen": 36385560, + "step": 18595 + }, + { + "epoch": 2.46467859509609, + "grad_norm": 0.0010095748584717512, + "learning_rate": 3.8297186205933034e-07, + "loss": 0.0, + "num_input_tokens_seen": 36387000, + "step": 18596 + }, + { + "epoch": 2.4648111332007954, + "grad_norm": 5.720786094665527, + "learning_rate": 3.827872423892184e-07, + "loss": 0.026, + "num_input_tokens_seen": 36389624, + "step": 18597 + }, + { + "epoch": 2.4649436713055004, + "grad_norm": 0.07707821577787399, + "learning_rate": 3.8260266354042954e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36391048, + "step": 18598 + }, + { + "epoch": 2.4650762094102054, + "grad_norm": 0.26295992732048035, + "learning_rate": 3.8241812551652215e-07, + "loss": 0.0014, + "num_input_tokens_seen": 36392616, + "step": 18599 + }, + { + "epoch": 2.4652087475149105, + "grad_norm": 0.02838672511279583, + "learning_rate": 3.8223362832105427e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36394232, + "step": 18600 + }, + { + "epoch": 2.4653412856196155, + "grad_norm": 7.368450164794922, + "learning_rate": 3.820491719575828e-07, + "loss": 0.07, + "num_input_tokens_seen": 36396928, + "step": 18601 + }, + { + "epoch": 2.4654738237243206, + "grad_norm": 0.8114721775054932, + "learning_rate": 3.8186475642966376e-07, + "loss": 0.0035, + "num_input_tokens_seen": 36398672, + "step": 18602 + }, + { + "epoch": 2.465606361829026, + "grad_norm": 0.0015176148153841496, + "learning_rate": 3.8168038174085373e-07, + "loss": 0.0, + "num_input_tokens_seen": 36399880, + "step": 18603 + }, + { + "epoch": 2.465738899933731, + "grad_norm": 8.708642959594727, + "learning_rate": 3.8149604789470775e-07, + "loss": 0.2358, + "num_input_tokens_seen": 36403016, + "step": 18604 + }, + { + "epoch": 2.465871438038436, + "grad_norm": 2.6724283695220947, + "learning_rate": 3.813117548947792e-07, + "loss": 0.0057, + "num_input_tokens_seen": 36404504, + "step": 18605 + }, + { + "epoch": 2.466003976143141, + "grad_norm": 6.241840839385986, + "learning_rate": 3.811275027446221e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36406024, + "step": 18606 + }, + { + "epoch": 2.466136514247846, + "grad_norm": 6.874896049499512, + "learning_rate": 3.8094329144778756e-07, + "loss": 0.0768, + "num_input_tokens_seen": 36407568, + "step": 18607 + }, + { + "epoch": 2.4662690523525512, + "grad_norm": 3.1563775539398193, + "learning_rate": 3.8075912100782877e-07, + "loss": 0.026, + "num_input_tokens_seen": 36409168, + "step": 18608 + }, + { + "epoch": 2.4664015904572567, + "grad_norm": 5.883502960205078, + "learning_rate": 3.805749914282955e-07, + "loss": 0.0669, + "num_input_tokens_seen": 36411416, + "step": 18609 + }, + { + "epoch": 2.4665341285619617, + "grad_norm": 0.36826008558273315, + "learning_rate": 3.803909027127395e-07, + "loss": 0.0023, + "num_input_tokens_seen": 36413112, + "step": 18610 + }, + { + "epoch": 2.466666666666667, + "grad_norm": 2.848257064819336, + "learning_rate": 3.8020685486470863e-07, + "loss": 0.0113, + "num_input_tokens_seen": 36416000, + "step": 18611 + }, + { + "epoch": 2.466799204771372, + "grad_norm": 3.7428433895111084, + "learning_rate": 3.800228478877524e-07, + "loss": 0.0316, + "num_input_tokens_seen": 36417912, + "step": 18612 + }, + { + "epoch": 2.466931742876077, + "grad_norm": 2.251021146774292, + "learning_rate": 3.7983888178541734e-07, + "loss": 0.0158, + "num_input_tokens_seen": 36419736, + "step": 18613 + }, + { + "epoch": 2.467064280980782, + "grad_norm": 6.864626407623291, + "learning_rate": 3.796549565612512e-07, + "loss": 0.0238, + "num_input_tokens_seen": 36422304, + "step": 18614 + }, + { + "epoch": 2.467196819085487, + "grad_norm": 8.772578239440918, + "learning_rate": 3.7947107221880107e-07, + "loss": 0.1593, + "num_input_tokens_seen": 36423960, + "step": 18615 + }, + { + "epoch": 2.4673293571901924, + "grad_norm": 10.461966514587402, + "learning_rate": 3.7928722876161143e-07, + "loss": 0.2263, + "num_input_tokens_seen": 36426192, + "step": 18616 + }, + { + "epoch": 2.4674618952948975, + "grad_norm": 21.60616683959961, + "learning_rate": 3.7910342619322694e-07, + "loss": 0.1168, + "num_input_tokens_seen": 36428144, + "step": 18617 + }, + { + "epoch": 2.4675944333996025, + "grad_norm": 0.8281954526901245, + "learning_rate": 3.7891966451719107e-07, + "loss": 0.0033, + "num_input_tokens_seen": 36430032, + "step": 18618 + }, + { + "epoch": 2.4677269715043075, + "grad_norm": 0.02571220137178898, + "learning_rate": 3.7873594373704775e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36431832, + "step": 18619 + }, + { + "epoch": 2.4678595096090126, + "grad_norm": 0.5457932949066162, + "learning_rate": 3.785522638563385e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36434232, + "step": 18620 + }, + { + "epoch": 2.4679920477137176, + "grad_norm": 2.104452610015869, + "learning_rate": 3.783686248786053e-07, + "loss": 0.0132, + "num_input_tokens_seen": 36436032, + "step": 18621 + }, + { + "epoch": 2.4681245858184226, + "grad_norm": 4.263936996459961, + "learning_rate": 3.7818502680738914e-07, + "loss": 0.0272, + "num_input_tokens_seen": 36437688, + "step": 18622 + }, + { + "epoch": 2.468257123923128, + "grad_norm": 2.0617122650146484, + "learning_rate": 3.7800146964622833e-07, + "loss": 0.0054, + "num_input_tokens_seen": 36440208, + "step": 18623 + }, + { + "epoch": 2.468389662027833, + "grad_norm": 11.768367767333984, + "learning_rate": 3.778179533986642e-07, + "loss": 0.0906, + "num_input_tokens_seen": 36441992, + "step": 18624 + }, + { + "epoch": 2.468522200132538, + "grad_norm": 0.14102783799171448, + "learning_rate": 3.7763447806823366e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36446072, + "step": 18625 + }, + { + "epoch": 2.4686547382372432, + "grad_norm": 0.0030637281015515327, + "learning_rate": 3.7745104365847384e-07, + "loss": 0.0, + "num_input_tokens_seen": 36448152, + "step": 18626 + }, + { + "epoch": 2.4687872763419483, + "grad_norm": 2.3659050464630127, + "learning_rate": 3.7726765017292277e-07, + "loss": 0.013, + "num_input_tokens_seen": 36450256, + "step": 18627 + }, + { + "epoch": 2.4689198144466533, + "grad_norm": 0.17747730016708374, + "learning_rate": 3.770842976151154e-07, + "loss": 0.0007, + "num_input_tokens_seen": 36452432, + "step": 18628 + }, + { + "epoch": 2.4690523525513584, + "grad_norm": 3.586778402328491, + "learning_rate": 3.769009859885878e-07, + "loss": 0.016, + "num_input_tokens_seen": 36454640, + "step": 18629 + }, + { + "epoch": 2.469184890656064, + "grad_norm": 0.044169340282678604, + "learning_rate": 3.7671771529687374e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36456752, + "step": 18630 + }, + { + "epoch": 2.469317428760769, + "grad_norm": 11.662440299987793, + "learning_rate": 3.765344855435071e-07, + "loss": 0.1469, + "num_input_tokens_seen": 36458600, + "step": 18631 + }, + { + "epoch": 2.469449966865474, + "grad_norm": 8.108439445495605, + "learning_rate": 3.7635129673201984e-07, + "loss": 0.0599, + "num_input_tokens_seen": 36460736, + "step": 18632 + }, + { + "epoch": 2.469582504970179, + "grad_norm": 28.31918716430664, + "learning_rate": 3.7616814886594467e-07, + "loss": 0.1525, + "num_input_tokens_seen": 36462344, + "step": 18633 + }, + { + "epoch": 2.469715043074884, + "grad_norm": 0.03383000195026398, + "learning_rate": 3.7598504194881315e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36464024, + "step": 18634 + }, + { + "epoch": 2.469847581179589, + "grad_norm": 9.165836334228516, + "learning_rate": 3.7580197598415523e-07, + "loss": 0.1452, + "num_input_tokens_seen": 36465176, + "step": 18635 + }, + { + "epoch": 2.469980119284294, + "grad_norm": 1.2978737354278564, + "learning_rate": 3.756189509755009e-07, + "loss": 0.0039, + "num_input_tokens_seen": 36466720, + "step": 18636 + }, + { + "epoch": 2.4701126573889995, + "grad_norm": 0.005410389043390751, + "learning_rate": 3.75435966926378e-07, + "loss": 0.0, + "num_input_tokens_seen": 36468304, + "step": 18637 + }, + { + "epoch": 2.4702451954937046, + "grad_norm": 3.268007516860962, + "learning_rate": 3.7525302384031543e-07, + "loss": 0.0105, + "num_input_tokens_seen": 36469944, + "step": 18638 + }, + { + "epoch": 2.4703777335984096, + "grad_norm": 0.024959152564406395, + "learning_rate": 3.7507012172084076e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36471800, + "step": 18639 + }, + { + "epoch": 2.4705102717031147, + "grad_norm": 4.738266944885254, + "learning_rate": 3.748872605714801e-07, + "loss": 0.0823, + "num_input_tokens_seen": 36473504, + "step": 18640 + }, + { + "epoch": 2.4706428098078197, + "grad_norm": 0.001865852507762611, + "learning_rate": 3.747044403957592e-07, + "loss": 0.0, + "num_input_tokens_seen": 36475024, + "step": 18641 + }, + { + "epoch": 2.4707753479125247, + "grad_norm": 8.800101280212402, + "learning_rate": 3.7452166119720275e-07, + "loss": 0.1303, + "num_input_tokens_seen": 36478192, + "step": 18642 + }, + { + "epoch": 2.4709078860172298, + "grad_norm": 5.0085768699646, + "learning_rate": 3.7433892297933453e-07, + "loss": 0.023, + "num_input_tokens_seen": 36480392, + "step": 18643 + }, + { + "epoch": 2.4710404241219353, + "grad_norm": 0.019891148433089256, + "learning_rate": 3.7415622574567823e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36482280, + "step": 18644 + }, + { + "epoch": 2.4711729622266403, + "grad_norm": 0.007515651639550924, + "learning_rate": 3.7397356949975704e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36483920, + "step": 18645 + }, + { + "epoch": 2.4713055003313453, + "grad_norm": 4.763917922973633, + "learning_rate": 3.737909542450918e-07, + "loss": 0.0339, + "num_input_tokens_seen": 36486152, + "step": 18646 + }, + { + "epoch": 2.4714380384360504, + "grad_norm": 0.5105686783790588, + "learning_rate": 3.7360837998520416e-07, + "loss": 0.0022, + "num_input_tokens_seen": 36487896, + "step": 18647 + }, + { + "epoch": 2.4715705765407554, + "grad_norm": 3.8065185546875, + "learning_rate": 3.734258467236138e-07, + "loss": 0.04, + "num_input_tokens_seen": 36489792, + "step": 18648 + }, + { + "epoch": 2.4717031146454604, + "grad_norm": 7.1392998695373535, + "learning_rate": 3.732433544638395e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36491608, + "step": 18649 + }, + { + "epoch": 2.4718356527501655, + "grad_norm": 0.06258106231689453, + "learning_rate": 3.7306090320940044e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36493480, + "step": 18650 + }, + { + "epoch": 2.471968190854871, + "grad_norm": 0.07136065512895584, + "learning_rate": 3.7287849296381515e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36495456, + "step": 18651 + }, + { + "epoch": 2.472100728959576, + "grad_norm": 0.003425769740715623, + "learning_rate": 3.726961237305998e-07, + "loss": 0.0, + "num_input_tokens_seen": 36497752, + "step": 18652 + }, + { + "epoch": 2.472233267064281, + "grad_norm": 5.968837738037109, + "learning_rate": 3.725137955132707e-07, + "loss": 0.0432, + "num_input_tokens_seen": 36500104, + "step": 18653 + }, + { + "epoch": 2.472365805168986, + "grad_norm": 0.0020306508522480726, + "learning_rate": 3.723315083153431e-07, + "loss": 0.0, + "num_input_tokens_seen": 36501600, + "step": 18654 + }, + { + "epoch": 2.472498343273691, + "grad_norm": 0.8280400037765503, + "learning_rate": 3.721492621403322e-07, + "loss": 0.0042, + "num_input_tokens_seen": 36504064, + "step": 18655 + }, + { + "epoch": 2.472630881378396, + "grad_norm": 4.275320529937744, + "learning_rate": 3.719670569917508e-07, + "loss": 0.0199, + "num_input_tokens_seen": 36505952, + "step": 18656 + }, + { + "epoch": 2.472763419483101, + "grad_norm": 1.9094735383987427, + "learning_rate": 3.7178489287311295e-07, + "loss": 0.0046, + "num_input_tokens_seen": 36508768, + "step": 18657 + }, + { + "epoch": 2.4728959575878067, + "grad_norm": 0.16728071868419647, + "learning_rate": 3.7160276978793096e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36510216, + "step": 18658 + }, + { + "epoch": 2.4730284956925117, + "grad_norm": 0.047469545155763626, + "learning_rate": 3.71420687739715e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36513248, + "step": 18659 + }, + { + "epoch": 2.4731610337972167, + "grad_norm": 0.0017732606502249837, + "learning_rate": 3.712386467319776e-07, + "loss": 0.0, + "num_input_tokens_seen": 36514752, + "step": 18660 + }, + { + "epoch": 2.473293571901922, + "grad_norm": 4.72714376449585, + "learning_rate": 3.710566467682272e-07, + "loss": 0.0208, + "num_input_tokens_seen": 36516696, + "step": 18661 + }, + { + "epoch": 2.473426110006627, + "grad_norm": 24.258129119873047, + "learning_rate": 3.708746878519731e-07, + "loss": 0.2875, + "num_input_tokens_seen": 36518168, + "step": 18662 + }, + { + "epoch": 2.473558648111332, + "grad_norm": 0.8548184633255005, + "learning_rate": 3.706927699867241e-07, + "loss": 0.0034, + "num_input_tokens_seen": 36519624, + "step": 18663 + }, + { + "epoch": 2.473691186216037, + "grad_norm": 0.6532331705093384, + "learning_rate": 3.705108931759871e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36521544, + "step": 18664 + }, + { + "epoch": 2.4738237243207424, + "grad_norm": 0.7739023566246033, + "learning_rate": 3.703290574232696e-07, + "loss": 0.003, + "num_input_tokens_seen": 36523568, + "step": 18665 + }, + { + "epoch": 2.4739562624254474, + "grad_norm": 4.31135368347168, + "learning_rate": 3.7014726273207706e-07, + "loss": 0.0579, + "num_input_tokens_seen": 36526032, + "step": 18666 + }, + { + "epoch": 2.4740888005301525, + "grad_norm": 0.013768148608505726, + "learning_rate": 3.69965509105914e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36527312, + "step": 18667 + }, + { + "epoch": 2.4742213386348575, + "grad_norm": 1.9507547616958618, + "learning_rate": 3.697837965482859e-07, + "loss": 0.015, + "num_input_tokens_seen": 36528832, + "step": 18668 + }, + { + "epoch": 2.4743538767395625, + "grad_norm": 6.322918891906738, + "learning_rate": 3.696021250626958e-07, + "loss": 0.065, + "num_input_tokens_seen": 36530616, + "step": 18669 + }, + { + "epoch": 2.4744864148442676, + "grad_norm": 7.7717742919921875, + "learning_rate": 3.6942049465264585e-07, + "loss": 0.0878, + "num_input_tokens_seen": 36532472, + "step": 18670 + }, + { + "epoch": 2.4746189529489726, + "grad_norm": 1.8606345653533936, + "learning_rate": 3.6923890532163915e-07, + "loss": 0.0053, + "num_input_tokens_seen": 36534336, + "step": 18671 + }, + { + "epoch": 2.474751491053678, + "grad_norm": 4.085430145263672, + "learning_rate": 3.690573570731765e-07, + "loss": 0.0201, + "num_input_tokens_seen": 36536672, + "step": 18672 + }, + { + "epoch": 2.474884029158383, + "grad_norm": 6.766450881958008, + "learning_rate": 3.6887584991075723e-07, + "loss": 0.0645, + "num_input_tokens_seen": 36539088, + "step": 18673 + }, + { + "epoch": 2.475016567263088, + "grad_norm": 0.13217997550964355, + "learning_rate": 3.686943838378823e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36541056, + "step": 18674 + }, + { + "epoch": 2.475149105367793, + "grad_norm": 8.302579879760742, + "learning_rate": 3.6851295885804966e-07, + "loss": 0.0475, + "num_input_tokens_seen": 36543840, + "step": 18675 + }, + { + "epoch": 2.4752816434724982, + "grad_norm": 8.71478271484375, + "learning_rate": 3.683315749747579e-07, + "loss": 0.0768, + "num_input_tokens_seen": 36546128, + "step": 18676 + }, + { + "epoch": 2.4754141815772033, + "grad_norm": 0.040390629321336746, + "learning_rate": 3.6815023219150427e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36547640, + "step": 18677 + }, + { + "epoch": 2.4755467196819083, + "grad_norm": 1.09035062789917, + "learning_rate": 3.679689305117845e-07, + "loss": 0.005, + "num_input_tokens_seen": 36549896, + "step": 18678 + }, + { + "epoch": 2.475679257786614, + "grad_norm": 0.0018565859645605087, + "learning_rate": 3.677876699390942e-07, + "loss": 0.0, + "num_input_tokens_seen": 36551808, + "step": 18679 + }, + { + "epoch": 2.475811795891319, + "grad_norm": 6.177809238433838, + "learning_rate": 3.6760645047692834e-07, + "loss": 0.021, + "num_input_tokens_seen": 36553616, + "step": 18680 + }, + { + "epoch": 2.475944333996024, + "grad_norm": 8.347784042358398, + "learning_rate": 3.674252721287819e-07, + "loss": 0.0753, + "num_input_tokens_seen": 36555704, + "step": 18681 + }, + { + "epoch": 2.476076872100729, + "grad_norm": 0.8276697993278503, + "learning_rate": 3.672441348981476e-07, + "loss": 0.0018, + "num_input_tokens_seen": 36557544, + "step": 18682 + }, + { + "epoch": 2.476209410205434, + "grad_norm": 5.259163856506348, + "learning_rate": 3.670630387885174e-07, + "loss": 0.0656, + "num_input_tokens_seen": 36559696, + "step": 18683 + }, + { + "epoch": 2.476341948310139, + "grad_norm": 3.6759846210479736, + "learning_rate": 3.6688198380338323e-07, + "loss": 0.1345, + "num_input_tokens_seen": 36561288, + "step": 18684 + }, + { + "epoch": 2.476474486414844, + "grad_norm": 4.614109516143799, + "learning_rate": 3.667009699462357e-07, + "loss": 0.0182, + "num_input_tokens_seen": 36563024, + "step": 18685 + }, + { + "epoch": 2.4766070245195495, + "grad_norm": 0.4406585991382599, + "learning_rate": 3.665199972205649e-07, + "loss": 0.0026, + "num_input_tokens_seen": 36565264, + "step": 18686 + }, + { + "epoch": 2.4767395626242545, + "grad_norm": 0.03262486308813095, + "learning_rate": 3.66339065629861e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36566656, + "step": 18687 + }, + { + "epoch": 2.4768721007289596, + "grad_norm": 7.582146644592285, + "learning_rate": 3.6615817517761194e-07, + "loss": 0.1146, + "num_input_tokens_seen": 36569128, + "step": 18688 + }, + { + "epoch": 2.4770046388336646, + "grad_norm": 3.941302537918091, + "learning_rate": 3.6597732586730523e-07, + "loss": 0.0289, + "num_input_tokens_seen": 36571104, + "step": 18689 + }, + { + "epoch": 2.4771371769383697, + "grad_norm": 0.0013158038491383195, + "learning_rate": 3.6579651770242724e-07, + "loss": 0.0, + "num_input_tokens_seen": 36573192, + "step": 18690 + }, + { + "epoch": 2.4772697150430747, + "grad_norm": 0.001474212622269988, + "learning_rate": 3.6561575068646467e-07, + "loss": 0.0, + "num_input_tokens_seen": 36574432, + "step": 18691 + }, + { + "epoch": 2.47740225314778, + "grad_norm": 15.631548881530762, + "learning_rate": 3.6543502482290354e-07, + "loss": 0.0682, + "num_input_tokens_seen": 36576440, + "step": 18692 + }, + { + "epoch": 2.477534791252485, + "grad_norm": 0.014167402870953083, + "learning_rate": 3.652543401152278e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36578328, + "step": 18693 + }, + { + "epoch": 2.4776673293571903, + "grad_norm": 4.524556636810303, + "learning_rate": 3.6507369656692104e-07, + "loss": 0.0408, + "num_input_tokens_seen": 36580320, + "step": 18694 + }, + { + "epoch": 2.4777998674618953, + "grad_norm": 3.2678520679473877, + "learning_rate": 3.6489309418146546e-07, + "loss": 0.0125, + "num_input_tokens_seen": 36582504, + "step": 18695 + }, + { + "epoch": 2.4779324055666003, + "grad_norm": 0.03931229189038277, + "learning_rate": 3.6471253296234464e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36584416, + "step": 18696 + }, + { + "epoch": 2.4780649436713054, + "grad_norm": 4.788264274597168, + "learning_rate": 3.645320129130386e-07, + "loss": 0.0992, + "num_input_tokens_seen": 36587544, + "step": 18697 + }, + { + "epoch": 2.478197481776011, + "grad_norm": 0.9232210516929626, + "learning_rate": 3.643515340370293e-07, + "loss": 0.0044, + "num_input_tokens_seen": 36589184, + "step": 18698 + }, + { + "epoch": 2.478330019880716, + "grad_norm": 7.604608535766602, + "learning_rate": 3.6417109633779564e-07, + "loss": 0.1169, + "num_input_tokens_seen": 36591768, + "step": 18699 + }, + { + "epoch": 2.478462557985421, + "grad_norm": 9.31635570526123, + "learning_rate": 3.639906998188167e-07, + "loss": 0.1002, + "num_input_tokens_seen": 36593832, + "step": 18700 + }, + { + "epoch": 2.478595096090126, + "grad_norm": 6.626319885253906, + "learning_rate": 3.6381034448356974e-07, + "loss": 0.0567, + "num_input_tokens_seen": 36596096, + "step": 18701 + }, + { + "epoch": 2.478727634194831, + "grad_norm": 6.331774711608887, + "learning_rate": 3.636300303355339e-07, + "loss": 0.1068, + "num_input_tokens_seen": 36597832, + "step": 18702 + }, + { + "epoch": 2.478860172299536, + "grad_norm": 0.019286390393972397, + "learning_rate": 3.6344975737818423e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36599816, + "step": 18703 + }, + { + "epoch": 2.478992710404241, + "grad_norm": 0.4375932514667511, + "learning_rate": 3.632695256149979e-07, + "loss": 0.001, + "num_input_tokens_seen": 36602376, + "step": 18704 + }, + { + "epoch": 2.4791252485089466, + "grad_norm": 10.119908332824707, + "learning_rate": 3.630893350494491e-07, + "loss": 0.0209, + "num_input_tokens_seen": 36605496, + "step": 18705 + }, + { + "epoch": 2.4792577866136516, + "grad_norm": 0.007768499664962292, + "learning_rate": 3.6290918568501145e-07, + "loss": 0.0, + "num_input_tokens_seen": 36606824, + "step": 18706 + }, + { + "epoch": 2.4793903247183566, + "grad_norm": 3.785700559616089, + "learning_rate": 3.6272907752515964e-07, + "loss": 0.0212, + "num_input_tokens_seen": 36609344, + "step": 18707 + }, + { + "epoch": 2.4795228628230617, + "grad_norm": 0.279410183429718, + "learning_rate": 3.625490105733653e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36610656, + "step": 18708 + }, + { + "epoch": 2.4796554009277667, + "grad_norm": 0.046907536685466766, + "learning_rate": 3.6236898483310053e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36612152, + "step": 18709 + }, + { + "epoch": 2.4797879390324717, + "grad_norm": 12.53381633758545, + "learning_rate": 3.6218900030783683e-07, + "loss": 0.0743, + "num_input_tokens_seen": 36614120, + "step": 18710 + }, + { + "epoch": 2.479920477137177, + "grad_norm": 3.6469523906707764, + "learning_rate": 3.6200905700104314e-07, + "loss": 0.0093, + "num_input_tokens_seen": 36617576, + "step": 18711 + }, + { + "epoch": 2.4800530152418823, + "grad_norm": 0.046498291194438934, + "learning_rate": 3.6182915491619065e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36619224, + "step": 18712 + }, + { + "epoch": 2.4801855533465873, + "grad_norm": 0.0005093045765534043, + "learning_rate": 3.61649294056747e-07, + "loss": 0.0, + "num_input_tokens_seen": 36620800, + "step": 18713 + }, + { + "epoch": 2.4803180914512923, + "grad_norm": 3.954202175140381, + "learning_rate": 3.6146947442618015e-07, + "loss": 0.0523, + "num_input_tokens_seen": 36622168, + "step": 18714 + }, + { + "epoch": 2.4804506295559974, + "grad_norm": 9.797955513000488, + "learning_rate": 3.612896960279566e-07, + "loss": 0.0539, + "num_input_tokens_seen": 36624200, + "step": 18715 + }, + { + "epoch": 2.4805831676607024, + "grad_norm": 0.003079358022660017, + "learning_rate": 3.6110995886554283e-07, + "loss": 0.0, + "num_input_tokens_seen": 36626352, + "step": 18716 + }, + { + "epoch": 2.4807157057654075, + "grad_norm": 3.5536882877349854, + "learning_rate": 3.609302629424055e-07, + "loss": 0.041, + "num_input_tokens_seen": 36628224, + "step": 18717 + }, + { + "epoch": 2.4808482438701125, + "grad_norm": 0.0454619862139225, + "learning_rate": 3.6075060826200823e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36631472, + "step": 18718 + }, + { + "epoch": 2.480980781974818, + "grad_norm": 6.280172824859619, + "learning_rate": 3.605709948278152e-07, + "loss": 0.1026, + "num_input_tokens_seen": 36633048, + "step": 18719 + }, + { + "epoch": 2.481113320079523, + "grad_norm": 3.46936297416687, + "learning_rate": 3.6039142264328863e-07, + "loss": 0.0161, + "num_input_tokens_seen": 36634752, + "step": 18720 + }, + { + "epoch": 2.481245858184228, + "grad_norm": 0.0014698642771691084, + "learning_rate": 3.6021189171189133e-07, + "loss": 0.0, + "num_input_tokens_seen": 36635760, + "step": 18721 + }, + { + "epoch": 2.481378396288933, + "grad_norm": 7.820882320404053, + "learning_rate": 3.600324020370857e-07, + "loss": 0.0591, + "num_input_tokens_seen": 36637720, + "step": 18722 + }, + { + "epoch": 2.481510934393638, + "grad_norm": 2.352278470993042, + "learning_rate": 3.598529536223316e-07, + "loss": 0.0374, + "num_input_tokens_seen": 36639440, + "step": 18723 + }, + { + "epoch": 2.481643472498343, + "grad_norm": 1.7555536031723022, + "learning_rate": 3.5967354647108875e-07, + "loss": 0.0045, + "num_input_tokens_seen": 36641040, + "step": 18724 + }, + { + "epoch": 2.481776010603048, + "grad_norm": 1.144910454750061, + "learning_rate": 3.594941805868168e-07, + "loss": 0.0059, + "num_input_tokens_seen": 36642944, + "step": 18725 + }, + { + "epoch": 2.4819085487077537, + "grad_norm": 10.142992973327637, + "learning_rate": 3.593148559729728e-07, + "loss": 0.1221, + "num_input_tokens_seen": 36645096, + "step": 18726 + }, + { + "epoch": 2.4820410868124587, + "grad_norm": 3.3010411262512207, + "learning_rate": 3.5913557263301536e-07, + "loss": 0.0031, + "num_input_tokens_seen": 36647144, + "step": 18727 + }, + { + "epoch": 2.4821736249171638, + "grad_norm": 3.5845608711242676, + "learning_rate": 3.5895633057040163e-07, + "loss": 0.0074, + "num_input_tokens_seen": 36648704, + "step": 18728 + }, + { + "epoch": 2.482306163021869, + "grad_norm": 1.3885129690170288, + "learning_rate": 3.587771297885867e-07, + "loss": 0.0082, + "num_input_tokens_seen": 36650696, + "step": 18729 + }, + { + "epoch": 2.482438701126574, + "grad_norm": 2.4023869037628174, + "learning_rate": 3.585979702910261e-07, + "loss": 0.0124, + "num_input_tokens_seen": 36653528, + "step": 18730 + }, + { + "epoch": 2.482571239231279, + "grad_norm": 0.0190268587321043, + "learning_rate": 3.584188520811738e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36657168, + "step": 18731 + }, + { + "epoch": 2.482703777335984, + "grad_norm": 0.004037338308990002, + "learning_rate": 3.5823977516248277e-07, + "loss": 0.0, + "num_input_tokens_seen": 36659600, + "step": 18732 + }, + { + "epoch": 2.4828363154406894, + "grad_norm": 0.008879962377250195, + "learning_rate": 3.5806073953840643e-07, + "loss": 0.0, + "num_input_tokens_seen": 36662272, + "step": 18733 + }, + { + "epoch": 2.4829688535453944, + "grad_norm": 8.757277488708496, + "learning_rate": 3.5788174521239727e-07, + "loss": 0.2213, + "num_input_tokens_seen": 36663952, + "step": 18734 + }, + { + "epoch": 2.4831013916500995, + "grad_norm": 0.027300016954541206, + "learning_rate": 3.577027921879059e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36666472, + "step": 18735 + }, + { + "epoch": 2.4832339297548045, + "grad_norm": 0.3722897171974182, + "learning_rate": 3.5752388046838225e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36667872, + "step": 18736 + }, + { + "epoch": 2.4833664678595095, + "grad_norm": 7.305905342102051, + "learning_rate": 3.573450100572759e-07, + "loss": 0.0729, + "num_input_tokens_seen": 36670896, + "step": 18737 + }, + { + "epoch": 2.4834990059642146, + "grad_norm": 0.17900992929935455, + "learning_rate": 3.5716618095803654e-07, + "loss": 0.001, + "num_input_tokens_seen": 36673104, + "step": 18738 + }, + { + "epoch": 2.4836315440689196, + "grad_norm": 0.029045643284916878, + "learning_rate": 3.569873931741108e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36674896, + "step": 18739 + }, + { + "epoch": 2.483764082173625, + "grad_norm": 1.4598139524459839, + "learning_rate": 3.568086467089471e-07, + "loss": 0.0114, + "num_input_tokens_seen": 36677144, + "step": 18740 + }, + { + "epoch": 2.48389662027833, + "grad_norm": 1.2496943473815918, + "learning_rate": 3.566299415659913e-07, + "loss": 0.0026, + "num_input_tokens_seen": 36678672, + "step": 18741 + }, + { + "epoch": 2.484029158383035, + "grad_norm": 10.979873657226562, + "learning_rate": 3.564512777486881e-07, + "loss": 0.0962, + "num_input_tokens_seen": 36680784, + "step": 18742 + }, + { + "epoch": 2.48416169648774, + "grad_norm": 0.30730950832366943, + "learning_rate": 3.562726552604839e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36682432, + "step": 18743 + }, + { + "epoch": 2.4842942345924452, + "grad_norm": 18.25986671447754, + "learning_rate": 3.5609407410482103e-07, + "loss": 0.0487, + "num_input_tokens_seen": 36684272, + "step": 18744 + }, + { + "epoch": 2.4844267726971503, + "grad_norm": 1.9328157901763916, + "learning_rate": 3.5591553428514393e-07, + "loss": 0.0043, + "num_input_tokens_seen": 36686232, + "step": 18745 + }, + { + "epoch": 2.4845593108018553, + "grad_norm": 0.07898975163698196, + "learning_rate": 3.557370358048945e-07, + "loss": 0.0007, + "num_input_tokens_seen": 36689208, + "step": 18746 + }, + { + "epoch": 2.484691848906561, + "grad_norm": 0.24928021430969238, + "learning_rate": 3.5555857866751365e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36692160, + "step": 18747 + }, + { + "epoch": 2.484824387011266, + "grad_norm": 19.410900115966797, + "learning_rate": 3.553801628764433e-07, + "loss": 0.3261, + "num_input_tokens_seen": 36694992, + "step": 18748 + }, + { + "epoch": 2.484956925115971, + "grad_norm": 0.05703128129243851, + "learning_rate": 3.5520178843512303e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36697280, + "step": 18749 + }, + { + "epoch": 2.485089463220676, + "grad_norm": 0.06111735850572586, + "learning_rate": 3.550234553469914e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36698976, + "step": 18750 + }, + { + "epoch": 2.485222001325381, + "grad_norm": 0.0015816851519048214, + "learning_rate": 3.5484516361548787e-07, + "loss": 0.0, + "num_input_tokens_seen": 36700176, + "step": 18751 + }, + { + "epoch": 2.485354539430086, + "grad_norm": 17.781381607055664, + "learning_rate": 3.546669132440486e-07, + "loss": 0.1251, + "num_input_tokens_seen": 36702032, + "step": 18752 + }, + { + "epoch": 2.485487077534791, + "grad_norm": 5.4291486740112305, + "learning_rate": 3.5448870423611197e-07, + "loss": 0.0746, + "num_input_tokens_seen": 36704320, + "step": 18753 + }, + { + "epoch": 2.4856196156394965, + "grad_norm": 1.171979308128357, + "learning_rate": 3.5431053659511327e-07, + "loss": 0.008, + "num_input_tokens_seen": 36706648, + "step": 18754 + }, + { + "epoch": 2.4857521537442016, + "grad_norm": 0.03141823038458824, + "learning_rate": 3.541324103244878e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36707816, + "step": 18755 + }, + { + "epoch": 2.4858846918489066, + "grad_norm": 0.00999024510383606, + "learning_rate": 3.5395432542766893e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36709768, + "step": 18756 + }, + { + "epoch": 2.4860172299536116, + "grad_norm": 22.54648208618164, + "learning_rate": 3.53776281908092e-07, + "loss": 0.0932, + "num_input_tokens_seen": 36711208, + "step": 18757 + }, + { + "epoch": 2.4861497680583167, + "grad_norm": 0.007172875106334686, + "learning_rate": 3.5359827976918807e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36712744, + "step": 18758 + }, + { + "epoch": 2.4862823061630217, + "grad_norm": 6.4906415939331055, + "learning_rate": 3.5342031901439087e-07, + "loss": 0.0776, + "num_input_tokens_seen": 36715664, + "step": 18759 + }, + { + "epoch": 2.4864148442677267, + "grad_norm": 0.026268085464835167, + "learning_rate": 3.532423996471307e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36718848, + "step": 18760 + }, + { + "epoch": 2.4865473823724322, + "grad_norm": 10.058436393737793, + "learning_rate": 3.530645216708381e-07, + "loss": 0.1365, + "num_input_tokens_seen": 36721272, + "step": 18761 + }, + { + "epoch": 2.4866799204771373, + "grad_norm": 3.5997114181518555, + "learning_rate": 3.5288668508894203e-07, + "loss": 0.0196, + "num_input_tokens_seen": 36723568, + "step": 18762 + }, + { + "epoch": 2.4868124585818423, + "grad_norm": 5.4899797439575195, + "learning_rate": 3.5270888990487167e-07, + "loss": 0.0488, + "num_input_tokens_seen": 36726104, + "step": 18763 + }, + { + "epoch": 2.4869449966865473, + "grad_norm": 0.05004940554499626, + "learning_rate": 3.5253113612205595e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36728240, + "step": 18764 + }, + { + "epoch": 2.4870775347912524, + "grad_norm": 0.09019999951124191, + "learning_rate": 3.523534237439216e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36731072, + "step": 18765 + }, + { + "epoch": 2.4872100728959574, + "grad_norm": 2.283766984939575, + "learning_rate": 3.5217575277389474e-07, + "loss": 0.0606, + "num_input_tokens_seen": 36734040, + "step": 18766 + }, + { + "epoch": 2.4873426110006625, + "grad_norm": 2.919184684753418, + "learning_rate": 3.519981232154004e-07, + "loss": 0.0152, + "num_input_tokens_seen": 36736088, + "step": 18767 + }, + { + "epoch": 2.487475149105368, + "grad_norm": 1.461369514465332, + "learning_rate": 3.518205350718645e-07, + "loss": 0.0094, + "num_input_tokens_seen": 36737736, + "step": 18768 + }, + { + "epoch": 2.487607687210073, + "grad_norm": 0.05060702934861183, + "learning_rate": 3.516429883467104e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36739496, + "step": 18769 + }, + { + "epoch": 2.487740225314778, + "grad_norm": 5.8037004470825195, + "learning_rate": 3.51465483043362e-07, + "loss": 0.025, + "num_input_tokens_seen": 36741120, + "step": 18770 + }, + { + "epoch": 2.487872763419483, + "grad_norm": 5.818715572357178, + "learning_rate": 3.5128801916524123e-07, + "loss": 0.0746, + "num_input_tokens_seen": 36743888, + "step": 18771 + }, + { + "epoch": 2.488005301524188, + "grad_norm": 0.043172262609004974, + "learning_rate": 3.5111059671576964e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36745448, + "step": 18772 + }, + { + "epoch": 2.488137839628893, + "grad_norm": 5.840713977813721, + "learning_rate": 3.5093321569836776e-07, + "loss": 0.114, + "num_input_tokens_seen": 36747528, + "step": 18773 + }, + { + "epoch": 2.488270377733598, + "grad_norm": 0.13453559577465057, + "learning_rate": 3.507558761164562e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36748832, + "step": 18774 + }, + { + "epoch": 2.4884029158383036, + "grad_norm": 1.9982856512069702, + "learning_rate": 3.505785779734544e-07, + "loss": 0.007, + "num_input_tokens_seen": 36750544, + "step": 18775 + }, + { + "epoch": 2.4885354539430087, + "grad_norm": 0.016761427745223045, + "learning_rate": 3.5040132127278054e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36752064, + "step": 18776 + }, + { + "epoch": 2.4886679920477137, + "grad_norm": 0.32652461528778076, + "learning_rate": 3.5022410601785184e-07, + "loss": 0.001, + "num_input_tokens_seen": 36753928, + "step": 18777 + }, + { + "epoch": 2.4888005301524188, + "grad_norm": 0.7855021953582764, + "learning_rate": 3.5004693221208527e-07, + "loss": 0.0155, + "num_input_tokens_seen": 36756792, + "step": 18778 + }, + { + "epoch": 2.488933068257124, + "grad_norm": 0.022242972627282143, + "learning_rate": 3.4986979985889735e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36758656, + "step": 18779 + }, + { + "epoch": 2.4890656063618293, + "grad_norm": 3.048884630203247, + "learning_rate": 3.496927089617025e-07, + "loss": 0.0207, + "num_input_tokens_seen": 36761224, + "step": 18780 + }, + { + "epoch": 2.4891981444665343, + "grad_norm": 0.005539495497941971, + "learning_rate": 3.495156595239163e-07, + "loss": 0.0, + "num_input_tokens_seen": 36762448, + "step": 18781 + }, + { + "epoch": 2.4893306825712394, + "grad_norm": 0.008072884753346443, + "learning_rate": 3.4933865154895163e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36764176, + "step": 18782 + }, + { + "epoch": 2.4894632206759444, + "grad_norm": 4.643518447875977, + "learning_rate": 3.4916168504022073e-07, + "loss": 0.0816, + "num_input_tokens_seen": 36765904, + "step": 18783 + }, + { + "epoch": 2.4895957587806494, + "grad_norm": 7.051122665405273, + "learning_rate": 3.4898476000113704e-07, + "loss": 0.0417, + "num_input_tokens_seen": 36768200, + "step": 18784 + }, + { + "epoch": 2.4897282968853545, + "grad_norm": 5.871222496032715, + "learning_rate": 3.4880787643511107e-07, + "loss": 0.0408, + "num_input_tokens_seen": 36769920, + "step": 18785 + }, + { + "epoch": 2.4898608349900595, + "grad_norm": 0.01995050720870495, + "learning_rate": 3.486310343455526e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36771152, + "step": 18786 + }, + { + "epoch": 2.489993373094765, + "grad_norm": 5.006399631500244, + "learning_rate": 3.4845423373587287e-07, + "loss": 0.0469, + "num_input_tokens_seen": 36773144, + "step": 18787 + }, + { + "epoch": 2.49012591119947, + "grad_norm": 0.0025954325683414936, + "learning_rate": 3.482774746094794e-07, + "loss": 0.0, + "num_input_tokens_seen": 36775072, + "step": 18788 + }, + { + "epoch": 2.490258449304175, + "grad_norm": 10.669304847717285, + "learning_rate": 3.481007569697803e-07, + "loss": 0.0812, + "num_input_tokens_seen": 36777128, + "step": 18789 + }, + { + "epoch": 2.49039098740888, + "grad_norm": 0.029443757608532906, + "learning_rate": 3.4792408082018336e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36778744, + "step": 18790 + }, + { + "epoch": 2.490523525513585, + "grad_norm": 0.03344215825200081, + "learning_rate": 3.477474461640951e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36780520, + "step": 18791 + }, + { + "epoch": 2.49065606361829, + "grad_norm": 0.032965466380119324, + "learning_rate": 3.4757085300492016e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36781896, + "step": 18792 + }, + { + "epoch": 2.490788601722995, + "grad_norm": 0.0040173460729420185, + "learning_rate": 3.4739430134606455e-07, + "loss": 0.0, + "num_input_tokens_seen": 36783720, + "step": 18793 + }, + { + "epoch": 2.4909211398277007, + "grad_norm": 0.001309259096160531, + "learning_rate": 3.4721779119093133e-07, + "loss": 0.0, + "num_input_tokens_seen": 36785392, + "step": 18794 + }, + { + "epoch": 2.4910536779324057, + "grad_norm": 0.36717554926872253, + "learning_rate": 3.4704132254292503e-07, + "loss": 0.0025, + "num_input_tokens_seen": 36787064, + "step": 18795 + }, + { + "epoch": 2.4911862160371108, + "grad_norm": 5.448441982269287, + "learning_rate": 3.468648954054468e-07, + "loss": 0.0139, + "num_input_tokens_seen": 36788808, + "step": 18796 + }, + { + "epoch": 2.491318754141816, + "grad_norm": 0.44331854581832886, + "learning_rate": 3.466885097818987e-07, + "loss": 0.0019, + "num_input_tokens_seen": 36790104, + "step": 18797 + }, + { + "epoch": 2.491451292246521, + "grad_norm": 8.136528968811035, + "learning_rate": 3.4651216567568174e-07, + "loss": 0.0569, + "num_input_tokens_seen": 36793560, + "step": 18798 + }, + { + "epoch": 2.491583830351226, + "grad_norm": 1.0523157119750977, + "learning_rate": 3.4633586309019555e-07, + "loss": 0.0017, + "num_input_tokens_seen": 36794840, + "step": 18799 + }, + { + "epoch": 2.491716368455931, + "grad_norm": 0.006942837964743376, + "learning_rate": 3.461596020288402e-07, + "loss": 0.0, + "num_input_tokens_seen": 36796552, + "step": 18800 + }, + { + "epoch": 2.4918489065606364, + "grad_norm": 0.05755011737346649, + "learning_rate": 3.4598338249501343e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36798264, + "step": 18801 + }, + { + "epoch": 2.4919814446653414, + "grad_norm": 0.008022606372833252, + "learning_rate": 3.458072044921132e-07, + "loss": 0.0, + "num_input_tokens_seen": 36800528, + "step": 18802 + }, + { + "epoch": 2.4921139827700465, + "grad_norm": 11.006196975708008, + "learning_rate": 3.4563106802353557e-07, + "loss": 0.1532, + "num_input_tokens_seen": 36802488, + "step": 18803 + }, + { + "epoch": 2.4922465208747515, + "grad_norm": 0.010539903305470943, + "learning_rate": 3.4545497309267705e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36803480, + "step": 18804 + }, + { + "epoch": 2.4923790589794566, + "grad_norm": 0.006182404700666666, + "learning_rate": 3.4527891970293356e-07, + "loss": 0.0, + "num_input_tokens_seen": 36804576, + "step": 18805 + }, + { + "epoch": 2.4925115970841616, + "grad_norm": 8.655243873596191, + "learning_rate": 3.4510290785769894e-07, + "loss": 0.0877, + "num_input_tokens_seen": 36806648, + "step": 18806 + }, + { + "epoch": 2.4926441351888666, + "grad_norm": 0.002805377123877406, + "learning_rate": 3.44926937560367e-07, + "loss": 0.0, + "num_input_tokens_seen": 36808416, + "step": 18807 + }, + { + "epoch": 2.492776673293572, + "grad_norm": 0.0010355893755331635, + "learning_rate": 3.447510088143305e-07, + "loss": 0.0, + "num_input_tokens_seen": 36809592, + "step": 18808 + }, + { + "epoch": 2.492909211398277, + "grad_norm": 3.04388165473938, + "learning_rate": 3.445751216229806e-07, + "loss": 0.0164, + "num_input_tokens_seen": 36811328, + "step": 18809 + }, + { + "epoch": 2.493041749502982, + "grad_norm": 0.25169745087623596, + "learning_rate": 3.443992759897094e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36812816, + "step": 18810 + }, + { + "epoch": 2.4931742876076872, + "grad_norm": 5.490306854248047, + "learning_rate": 3.4422347191790773e-07, + "loss": 0.0293, + "num_input_tokens_seen": 36815176, + "step": 18811 + }, + { + "epoch": 2.4933068257123923, + "grad_norm": 0.026315122842788696, + "learning_rate": 3.4404770941096484e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36817016, + "step": 18812 + }, + { + "epoch": 2.4934393638170973, + "grad_norm": 0.003766394918784499, + "learning_rate": 3.4387198847226913e-07, + "loss": 0.0, + "num_input_tokens_seen": 36818464, + "step": 18813 + }, + { + "epoch": 2.4935719019218023, + "grad_norm": 5.842089653015137, + "learning_rate": 3.436963091052092e-07, + "loss": 0.0533, + "num_input_tokens_seen": 36820360, + "step": 18814 + }, + { + "epoch": 2.493704440026508, + "grad_norm": 0.220312237739563, + "learning_rate": 3.435206713131714e-07, + "loss": 0.0017, + "num_input_tokens_seen": 36822632, + "step": 18815 + }, + { + "epoch": 2.493836978131213, + "grad_norm": 0.06877513974905014, + "learning_rate": 3.433450750995426e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36823712, + "step": 18816 + }, + { + "epoch": 2.493969516235918, + "grad_norm": 14.457984924316406, + "learning_rate": 3.4316952046770933e-07, + "loss": 0.1503, + "num_input_tokens_seen": 36826048, + "step": 18817 + }, + { + "epoch": 2.494102054340623, + "grad_norm": 0.01403570082038641, + "learning_rate": 3.4299400742105553e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36828288, + "step": 18818 + }, + { + "epoch": 2.494234592445328, + "grad_norm": 3.67305588722229, + "learning_rate": 3.4281853596296516e-07, + "loss": 0.0304, + "num_input_tokens_seen": 36829888, + "step": 18819 + }, + { + "epoch": 2.494367130550033, + "grad_norm": 2.767547130584717, + "learning_rate": 3.4264310609682105e-07, + "loss": 0.0106, + "num_input_tokens_seen": 36831680, + "step": 18820 + }, + { + "epoch": 2.494499668654738, + "grad_norm": 18.199670791625977, + "learning_rate": 3.4246771782600636e-07, + "loss": 0.0944, + "num_input_tokens_seen": 36833872, + "step": 18821 + }, + { + "epoch": 2.4946322067594435, + "grad_norm": 0.021108925342559814, + "learning_rate": 3.422923711539028e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36836088, + "step": 18822 + }, + { + "epoch": 2.4947647448641486, + "grad_norm": 0.003045568708330393, + "learning_rate": 3.42117066083891e-07, + "loss": 0.0, + "num_input_tokens_seen": 36837384, + "step": 18823 + }, + { + "epoch": 2.4948972829688536, + "grad_norm": 2.9254539012908936, + "learning_rate": 3.419418026193508e-07, + "loss": 0.0091, + "num_input_tokens_seen": 36840648, + "step": 18824 + }, + { + "epoch": 2.4950298210735586, + "grad_norm": 9.042760848999023, + "learning_rate": 3.417665807636608e-07, + "loss": 0.1737, + "num_input_tokens_seen": 36842200, + "step": 18825 + }, + { + "epoch": 2.4951623591782637, + "grad_norm": 2.5750064849853516, + "learning_rate": 3.415914005202006e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36844376, + "step": 18826 + }, + { + "epoch": 2.4952948972829687, + "grad_norm": 11.376178741455078, + "learning_rate": 3.4141626189234665e-07, + "loss": 0.0333, + "num_input_tokens_seen": 36846504, + "step": 18827 + }, + { + "epoch": 2.4954274353876738, + "grad_norm": 9.08418083190918, + "learning_rate": 3.412411648834768e-07, + "loss": 0.1164, + "num_input_tokens_seen": 36848616, + "step": 18828 + }, + { + "epoch": 2.4955599734923792, + "grad_norm": 0.030434440821409225, + "learning_rate": 3.4106610949696666e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36850224, + "step": 18829 + }, + { + "epoch": 2.4956925115970843, + "grad_norm": 0.007946821860969067, + "learning_rate": 3.408910957361908e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36851488, + "step": 18830 + }, + { + "epoch": 2.4958250497017893, + "grad_norm": 0.0014632802922278643, + "learning_rate": 3.407161236045245e-07, + "loss": 0.0, + "num_input_tokens_seen": 36852720, + "step": 18831 + }, + { + "epoch": 2.4959575878064943, + "grad_norm": 9.387550354003906, + "learning_rate": 3.405411931053409e-07, + "loss": 0.0508, + "num_input_tokens_seen": 36854920, + "step": 18832 + }, + { + "epoch": 2.4960901259111994, + "grad_norm": 6.4261474609375, + "learning_rate": 3.4036630424201246e-07, + "loss": 0.0529, + "num_input_tokens_seen": 36856448, + "step": 18833 + }, + { + "epoch": 2.4962226640159044, + "grad_norm": 14.683920860290527, + "learning_rate": 3.4019145701791186e-07, + "loss": 0.049, + "num_input_tokens_seen": 36858048, + "step": 18834 + }, + { + "epoch": 2.4963552021206095, + "grad_norm": 10.79285717010498, + "learning_rate": 3.400166514364095e-07, + "loss": 0.1052, + "num_input_tokens_seen": 36861432, + "step": 18835 + }, + { + "epoch": 2.496487740225315, + "grad_norm": 0.09410117566585541, + "learning_rate": 3.3984188750087686e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36863280, + "step": 18836 + }, + { + "epoch": 2.49662027833002, + "grad_norm": 14.954526901245117, + "learning_rate": 3.396671652146827e-07, + "loss": 0.4126, + "num_input_tokens_seen": 36864784, + "step": 18837 + }, + { + "epoch": 2.496752816434725, + "grad_norm": 4.765635013580322, + "learning_rate": 3.394924845811959e-07, + "loss": 0.0287, + "num_input_tokens_seen": 36868056, + "step": 18838 + }, + { + "epoch": 2.49688535453943, + "grad_norm": 0.38782310485839844, + "learning_rate": 3.3931784560378405e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36869664, + "step": 18839 + }, + { + "epoch": 2.497017892644135, + "grad_norm": 5.310091018676758, + "learning_rate": 3.391432482858148e-07, + "loss": 0.1737, + "num_input_tokens_seen": 36872256, + "step": 18840 + }, + { + "epoch": 2.49715043074884, + "grad_norm": 10.568957328796387, + "learning_rate": 3.389686926306548e-07, + "loss": 0.1863, + "num_input_tokens_seen": 36874584, + "step": 18841 + }, + { + "epoch": 2.497282968853545, + "grad_norm": 0.9207376837730408, + "learning_rate": 3.387941786416693e-07, + "loss": 0.0044, + "num_input_tokens_seen": 36876992, + "step": 18842 + }, + { + "epoch": 2.4974155069582507, + "grad_norm": 0.5306827425956726, + "learning_rate": 3.386197063222227e-07, + "loss": 0.0034, + "num_input_tokens_seen": 36880272, + "step": 18843 + }, + { + "epoch": 2.4975480450629557, + "grad_norm": 12.747725486755371, + "learning_rate": 3.3844527567567953e-07, + "loss": 0.289, + "num_input_tokens_seen": 36882120, + "step": 18844 + }, + { + "epoch": 2.4976805831676607, + "grad_norm": 14.568350791931152, + "learning_rate": 3.3827088670540217e-07, + "loss": 0.3602, + "num_input_tokens_seen": 36884232, + "step": 18845 + }, + { + "epoch": 2.4978131212723658, + "grad_norm": 0.28530025482177734, + "learning_rate": 3.380965394147531e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36886544, + "step": 18846 + }, + { + "epoch": 2.497945659377071, + "grad_norm": 5.931352615356445, + "learning_rate": 3.3792223380709476e-07, + "loss": 0.033, + "num_input_tokens_seen": 36889152, + "step": 18847 + }, + { + "epoch": 2.498078197481776, + "grad_norm": 5.934521198272705, + "learning_rate": 3.3774796988578747e-07, + "loss": 0.0848, + "num_input_tokens_seen": 36891440, + "step": 18848 + }, + { + "epoch": 2.498210735586481, + "grad_norm": 4.612947940826416, + "learning_rate": 3.37573747654191e-07, + "loss": 0.0602, + "num_input_tokens_seen": 36892960, + "step": 18849 + }, + { + "epoch": 2.4983432736911864, + "grad_norm": 0.02554892562329769, + "learning_rate": 3.373995671156638e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36894352, + "step": 18850 + }, + { + "epoch": 2.4984758117958914, + "grad_norm": 1.5647541284561157, + "learning_rate": 3.3722542827356485e-07, + "loss": 0.0126, + "num_input_tokens_seen": 36897216, + "step": 18851 + }, + { + "epoch": 2.4986083499005964, + "grad_norm": 5.874993324279785, + "learning_rate": 3.3705133113125207e-07, + "loss": 0.0533, + "num_input_tokens_seen": 36898960, + "step": 18852 + }, + { + "epoch": 2.4987408880053015, + "grad_norm": 0.021260902285575867, + "learning_rate": 3.3687727569208214e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36900696, + "step": 18853 + }, + { + "epoch": 2.4988734261100065, + "grad_norm": 7.199407577514648, + "learning_rate": 3.3670326195941015e-07, + "loss": 0.0571, + "num_input_tokens_seen": 36902208, + "step": 18854 + }, + { + "epoch": 2.4990059642147116, + "grad_norm": 1.9947681427001953, + "learning_rate": 3.365292899365921e-07, + "loss": 0.0022, + "num_input_tokens_seen": 36903480, + "step": 18855 + }, + { + "epoch": 2.4991385023194166, + "grad_norm": 0.012593426741659641, + "learning_rate": 3.3635535962698086e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36905696, + "step": 18856 + }, + { + "epoch": 2.499271040424122, + "grad_norm": 0.2400263100862503, + "learning_rate": 3.3618147103393116e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36907832, + "step": 18857 + }, + { + "epoch": 2.499403578528827, + "grad_norm": 0.024175256490707397, + "learning_rate": 3.36007624160796e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36909944, + "step": 18858 + }, + { + "epoch": 2.499536116633532, + "grad_norm": 0.02062061056494713, + "learning_rate": 3.358338190109267e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36911248, + "step": 18859 + }, + { + "epoch": 2.499668654738237, + "grad_norm": 5.3736252784729, + "learning_rate": 3.3566005558767433e-07, + "loss": 0.051, + "num_input_tokens_seen": 36913296, + "step": 18860 + }, + { + "epoch": 2.499801192842942, + "grad_norm": 0.0045803021639585495, + "learning_rate": 3.354863338943887e-07, + "loss": 0.0, + "num_input_tokens_seen": 36914952, + "step": 18861 + }, + { + "epoch": 2.4999337309476473, + "grad_norm": 14.366836547851562, + "learning_rate": 3.353126539344201e-07, + "loss": 0.2001, + "num_input_tokens_seen": 36917136, + "step": 18862 + }, + { + "epoch": 2.5000662690523523, + "grad_norm": 0.017743512988090515, + "learning_rate": 3.3513901571111645e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36918592, + "step": 18863 + }, + { + "epoch": 2.500198807157058, + "grad_norm": 9.841443061828613, + "learning_rate": 3.3496541922782676e-07, + "loss": 0.283, + "num_input_tokens_seen": 36920776, + "step": 18864 + }, + { + "epoch": 2.500331345261763, + "grad_norm": 3.488628387451172, + "learning_rate": 3.3479186448789694e-07, + "loss": 0.1371, + "num_input_tokens_seen": 36923184, + "step": 18865 + }, + { + "epoch": 2.500463883366468, + "grad_norm": 0.21213752031326294, + "learning_rate": 3.3461835149467356e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36925400, + "step": 18866 + }, + { + "epoch": 2.500596421471173, + "grad_norm": 3.745331048965454, + "learning_rate": 3.3444488025150265e-07, + "loss": 0.0078, + "num_input_tokens_seen": 36926864, + "step": 18867 + }, + { + "epoch": 2.500728959575878, + "grad_norm": 11.848283767700195, + "learning_rate": 3.342714507617281e-07, + "loss": 0.1565, + "num_input_tokens_seen": 36929280, + "step": 18868 + }, + { + "epoch": 2.5008614976805834, + "grad_norm": 0.0011726762168109417, + "learning_rate": 3.3409806302869385e-07, + "loss": 0.0, + "num_input_tokens_seen": 36930592, + "step": 18869 + }, + { + "epoch": 2.500994035785288, + "grad_norm": 0.02145821414887905, + "learning_rate": 3.339247170557436e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36933128, + "step": 18870 + }, + { + "epoch": 2.5011265738899935, + "grad_norm": 0.0023923423141241074, + "learning_rate": 3.337514128462188e-07, + "loss": 0.0, + "num_input_tokens_seen": 36935896, + "step": 18871 + }, + { + "epoch": 2.5012591119946985, + "grad_norm": 5.935612201690674, + "learning_rate": 3.33578150403461e-07, + "loss": 0.0396, + "num_input_tokens_seen": 36937816, + "step": 18872 + }, + { + "epoch": 2.5013916500994036, + "grad_norm": 1.558914065361023, + "learning_rate": 3.3340492973081144e-07, + "loss": 0.0051, + "num_input_tokens_seen": 36939744, + "step": 18873 + }, + { + "epoch": 2.5015241882041086, + "grad_norm": 1.0587198734283447, + "learning_rate": 3.332317508316088e-07, + "loss": 0.0049, + "num_input_tokens_seen": 36941544, + "step": 18874 + }, + { + "epoch": 2.5016567263088136, + "grad_norm": 1.4513193368911743, + "learning_rate": 3.3305861370919347e-07, + "loss": 0.0058, + "num_input_tokens_seen": 36943024, + "step": 18875 + }, + { + "epoch": 2.501789264413519, + "grad_norm": 2.5282719135284424, + "learning_rate": 3.32885518366903e-07, + "loss": 0.0389, + "num_input_tokens_seen": 36944864, + "step": 18876 + }, + { + "epoch": 2.5019218025182237, + "grad_norm": 5.884391784667969, + "learning_rate": 3.32712464808074e-07, + "loss": 0.0463, + "num_input_tokens_seen": 36948232, + "step": 18877 + }, + { + "epoch": 2.502054340622929, + "grad_norm": 0.08367583155632019, + "learning_rate": 3.3253945303604455e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36950736, + "step": 18878 + }, + { + "epoch": 2.5021868787276342, + "grad_norm": 6.371726036071777, + "learning_rate": 3.3236648305414955e-07, + "loss": 0.081, + "num_input_tokens_seen": 36953824, + "step": 18879 + }, + { + "epoch": 2.5023194168323393, + "grad_norm": 0.0019569601863622665, + "learning_rate": 3.321935548657237e-07, + "loss": 0.0, + "num_input_tokens_seen": 36955888, + "step": 18880 + }, + { + "epoch": 2.5024519549370443, + "grad_norm": 11.512117385864258, + "learning_rate": 3.320206684741023e-07, + "loss": 0.0903, + "num_input_tokens_seen": 36957776, + "step": 18881 + }, + { + "epoch": 2.5025844930417493, + "grad_norm": 0.1372195929288864, + "learning_rate": 3.3184782388261727e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36959832, + "step": 18882 + }, + { + "epoch": 2.502717031146455, + "grad_norm": 5.810431003570557, + "learning_rate": 3.3167502109460236e-07, + "loss": 0.0653, + "num_input_tokens_seen": 36961672, + "step": 18883 + }, + { + "epoch": 2.50284956925116, + "grad_norm": 0.00299549987539649, + "learning_rate": 3.315022601133891e-07, + "loss": 0.0, + "num_input_tokens_seen": 36963160, + "step": 18884 + }, + { + "epoch": 2.502982107355865, + "grad_norm": 0.3385556638240814, + "learning_rate": 3.3132954094230813e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36964856, + "step": 18885 + }, + { + "epoch": 2.50311464546057, + "grad_norm": 2.9573817253112793, + "learning_rate": 3.311568635846893e-07, + "loss": 0.0083, + "num_input_tokens_seen": 36967984, + "step": 18886 + }, + { + "epoch": 2.503247183565275, + "grad_norm": 0.02622293308377266, + "learning_rate": 3.3098422804386217e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36970512, + "step": 18887 + }, + { + "epoch": 2.50337972166998, + "grad_norm": 0.4121561646461487, + "learning_rate": 3.30811634323156e-07, + "loss": 0.0015, + "num_input_tokens_seen": 36972368, + "step": 18888 + }, + { + "epoch": 2.503512259774685, + "grad_norm": 0.04656155779957771, + "learning_rate": 3.306390824258981e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36974080, + "step": 18889 + }, + { + "epoch": 2.5036447978793905, + "grad_norm": 0.22439758479595184, + "learning_rate": 3.304665723554151e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36976576, + "step": 18890 + }, + { + "epoch": 2.5037773359840956, + "grad_norm": 8.613420486450195, + "learning_rate": 3.302941041150334e-07, + "loss": 0.1072, + "num_input_tokens_seen": 36979096, + "step": 18891 + }, + { + "epoch": 2.5039098740888006, + "grad_norm": 10.852705001831055, + "learning_rate": 3.301216777080776e-07, + "loss": 0.129, + "num_input_tokens_seen": 36980840, + "step": 18892 + }, + { + "epoch": 2.5040424121935057, + "grad_norm": 0.00690833106637001, + "learning_rate": 3.299492931378728e-07, + "loss": 0.0, + "num_input_tokens_seen": 36982192, + "step": 18893 + }, + { + "epoch": 2.5041749502982107, + "grad_norm": 5.08875036239624, + "learning_rate": 3.297769504077433e-07, + "loss": 0.021, + "num_input_tokens_seen": 36984088, + "step": 18894 + }, + { + "epoch": 2.5043074884029157, + "grad_norm": 0.0623430572450161, + "learning_rate": 3.296046495210112e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36985680, + "step": 18895 + }, + { + "epoch": 2.5044400265076208, + "grad_norm": 0.8401451110839844, + "learning_rate": 3.294323904809987e-07, + "loss": 0.004, + "num_input_tokens_seen": 36987648, + "step": 18896 + }, + { + "epoch": 2.5045725646123262, + "grad_norm": 14.340987205505371, + "learning_rate": 3.2926017329102667e-07, + "loss": 0.1984, + "num_input_tokens_seen": 36989872, + "step": 18897 + }, + { + "epoch": 2.5047051027170313, + "grad_norm": 0.17604050040245056, + "learning_rate": 3.290879979544165e-07, + "loss": 0.001, + "num_input_tokens_seen": 36992544, + "step": 18898 + }, + { + "epoch": 2.5048376408217363, + "grad_norm": 1.127850890159607, + "learning_rate": 3.2891586447448693e-07, + "loss": 0.0039, + "num_input_tokens_seen": 36995336, + "step": 18899 + }, + { + "epoch": 2.5049701789264414, + "grad_norm": 0.2068016231060028, + "learning_rate": 3.287437728545578e-07, + "loss": 0.0015, + "num_input_tokens_seen": 36997536, + "step": 18900 + }, + { + "epoch": 2.5051027170311464, + "grad_norm": 1.2962006330490112, + "learning_rate": 3.2857172309794654e-07, + "loss": 0.0125, + "num_input_tokens_seen": 36999304, + "step": 18901 + }, + { + "epoch": 2.5052352551358514, + "grad_norm": 0.028670739382505417, + "learning_rate": 3.2839971520797044e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37000904, + "step": 18902 + }, + { + "epoch": 2.5053677932405565, + "grad_norm": 0.5956410765647888, + "learning_rate": 3.282277491879454e-07, + "loss": 0.0027, + "num_input_tokens_seen": 37002960, + "step": 18903 + }, + { + "epoch": 2.505500331345262, + "grad_norm": 0.03883851692080498, + "learning_rate": 3.280558250411875e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37004352, + "step": 18904 + }, + { + "epoch": 2.505632869449967, + "grad_norm": 15.943716049194336, + "learning_rate": 3.278839427710123e-07, + "loss": 0.2493, + "num_input_tokens_seen": 37006704, + "step": 18905 + }, + { + "epoch": 2.505765407554672, + "grad_norm": 6.611527442932129, + "learning_rate": 3.2771210238073307e-07, + "loss": 0.0648, + "num_input_tokens_seen": 37009120, + "step": 18906 + }, + { + "epoch": 2.505897945659377, + "grad_norm": 0.36734530329704285, + "learning_rate": 3.27540303873663e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37011304, + "step": 18907 + }, + { + "epoch": 2.506030483764082, + "grad_norm": 0.05755903571844101, + "learning_rate": 3.273685472531143e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37013656, + "step": 18908 + }, + { + "epoch": 2.506163021868787, + "grad_norm": 2.1778171062469482, + "learning_rate": 3.2719683252239927e-07, + "loss": 0.0186, + "num_input_tokens_seen": 37015496, + "step": 18909 + }, + { + "epoch": 2.506295559973492, + "grad_norm": 5.037810802459717, + "learning_rate": 3.2702515968482757e-07, + "loss": 0.0523, + "num_input_tokens_seen": 37017616, + "step": 18910 + }, + { + "epoch": 2.5064280980781977, + "grad_norm": 8.038813591003418, + "learning_rate": 3.268535287437105e-07, + "loss": 0.0674, + "num_input_tokens_seen": 37019520, + "step": 18911 + }, + { + "epoch": 2.5065606361829027, + "grad_norm": 0.12796185910701752, + "learning_rate": 3.2668193970235655e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37022648, + "step": 18912 + }, + { + "epoch": 2.5066931742876077, + "grad_norm": 0.004791236482560635, + "learning_rate": 3.265103925640736e-07, + "loss": 0.0, + "num_input_tokens_seen": 37023672, + "step": 18913 + }, + { + "epoch": 2.5068257123923128, + "grad_norm": 0.00309697724878788, + "learning_rate": 3.263388873321702e-07, + "loss": 0.0, + "num_input_tokens_seen": 37024816, + "step": 18914 + }, + { + "epoch": 2.506958250497018, + "grad_norm": 0.025032825767993927, + "learning_rate": 3.261674240099524e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37026848, + "step": 18915 + }, + { + "epoch": 2.507090788601723, + "grad_norm": 5.085031509399414, + "learning_rate": 3.259960026007261e-07, + "loss": 0.0806, + "num_input_tokens_seen": 37028904, + "step": 18916 + }, + { + "epoch": 2.507223326706428, + "grad_norm": 2.8521907329559326, + "learning_rate": 3.2582462310779715e-07, + "loss": 0.0233, + "num_input_tokens_seen": 37030584, + "step": 18917 + }, + { + "epoch": 2.5073558648111334, + "grad_norm": 0.29547789692878723, + "learning_rate": 3.256532855344685e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37032120, + "step": 18918 + }, + { + "epoch": 2.5074884029158384, + "grad_norm": 0.03684595227241516, + "learning_rate": 3.2548198988404526e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37033768, + "step": 18919 + }, + { + "epoch": 2.5076209410205434, + "grad_norm": 11.6662015914917, + "learning_rate": 3.253107361598296e-07, + "loss": 0.0687, + "num_input_tokens_seen": 37035912, + "step": 18920 + }, + { + "epoch": 2.5077534791252485, + "grad_norm": 0.011618968099355698, + "learning_rate": 3.2513952436512285e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37037872, + "step": 18921 + }, + { + "epoch": 2.5078860172299535, + "grad_norm": 0.005466192029416561, + "learning_rate": 3.249683545032259e-07, + "loss": 0.0, + "num_input_tokens_seen": 37039392, + "step": 18922 + }, + { + "epoch": 2.5080185553346586, + "grad_norm": 5.545663356781006, + "learning_rate": 3.247972265774396e-07, + "loss": 0.0275, + "num_input_tokens_seen": 37041064, + "step": 18923 + }, + { + "epoch": 2.5081510934393636, + "grad_norm": 2.71606707572937, + "learning_rate": 3.246261405910642e-07, + "loss": 0.0234, + "num_input_tokens_seen": 37042832, + "step": 18924 + }, + { + "epoch": 2.508283631544069, + "grad_norm": 0.01454972755163908, + "learning_rate": 3.244550965473972e-07, + "loss": 0.0, + "num_input_tokens_seen": 37044136, + "step": 18925 + }, + { + "epoch": 2.508416169648774, + "grad_norm": 8.307259559631348, + "learning_rate": 3.242840944497369e-07, + "loss": 0.0944, + "num_input_tokens_seen": 37045904, + "step": 18926 + }, + { + "epoch": 2.508548707753479, + "grad_norm": 7.576040267944336, + "learning_rate": 3.241131343013795e-07, + "loss": 0.0907, + "num_input_tokens_seen": 37047992, + "step": 18927 + }, + { + "epoch": 2.508681245858184, + "grad_norm": 0.03288733586668968, + "learning_rate": 3.239422161056227e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37049896, + "step": 18928 + }, + { + "epoch": 2.5088137839628892, + "grad_norm": 0.012413440272212029, + "learning_rate": 3.2377133986576046e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37052832, + "step": 18929 + }, + { + "epoch": 2.5089463220675943, + "grad_norm": 9.242318153381348, + "learning_rate": 3.236005055850888e-07, + "loss": 0.0069, + "num_input_tokens_seen": 37054136, + "step": 18930 + }, + { + "epoch": 2.5090788601722993, + "grad_norm": 0.0018430276541039348, + "learning_rate": 3.2342971326690066e-07, + "loss": 0.0, + "num_input_tokens_seen": 37056192, + "step": 18931 + }, + { + "epoch": 2.509211398277005, + "grad_norm": 1.339027762413025, + "learning_rate": 3.2325896291448916e-07, + "loss": 0.0072, + "num_input_tokens_seen": 37059624, + "step": 18932 + }, + { + "epoch": 2.50934393638171, + "grad_norm": 0.13388855755329132, + "learning_rate": 3.230882545311462e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37061056, + "step": 18933 + }, + { + "epoch": 2.509476474486415, + "grad_norm": 5.6394219398498535, + "learning_rate": 3.2291758812016324e-07, + "loss": 0.0199, + "num_input_tokens_seen": 37063232, + "step": 18934 + }, + { + "epoch": 2.50960901259112, + "grad_norm": 1.5580370426177979, + "learning_rate": 3.2274696368483153e-07, + "loss": 0.0082, + "num_input_tokens_seen": 37065056, + "step": 18935 + }, + { + "epoch": 2.509741550695825, + "grad_norm": 0.5308508276939392, + "learning_rate": 3.2257638122844047e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37066248, + "step": 18936 + }, + { + "epoch": 2.5098740888005304, + "grad_norm": 9.7587308883667, + "learning_rate": 3.2240584075427906e-07, + "loss": 0.1319, + "num_input_tokens_seen": 37067944, + "step": 18937 + }, + { + "epoch": 2.510006626905235, + "grad_norm": 2.983492374420166, + "learning_rate": 3.222353422656352e-07, + "loss": 0.033, + "num_input_tokens_seen": 37070336, + "step": 18938 + }, + { + "epoch": 2.5101391650099405, + "grad_norm": 0.0697803646326065, + "learning_rate": 3.220648857657957e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37073576, + "step": 18939 + }, + { + "epoch": 2.5102717031146455, + "grad_norm": 2.575366735458374, + "learning_rate": 3.218944712580477e-07, + "loss": 0.0472, + "num_input_tokens_seen": 37075336, + "step": 18940 + }, + { + "epoch": 2.5104042412193506, + "grad_norm": 2.5171701908111572, + "learning_rate": 3.217240987456774e-07, + "loss": 0.0208, + "num_input_tokens_seen": 37077768, + "step": 18941 + }, + { + "epoch": 2.5105367793240556, + "grad_norm": 2.3216018676757812, + "learning_rate": 3.215537682319694e-07, + "loss": 0.0105, + "num_input_tokens_seen": 37079808, + "step": 18942 + }, + { + "epoch": 2.5106693174287606, + "grad_norm": 0.13588246703147888, + "learning_rate": 3.213834797202073e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37081392, + "step": 18943 + }, + { + "epoch": 2.510801855533466, + "grad_norm": 1.2300422191619873, + "learning_rate": 3.212132332136744e-07, + "loss": 0.0053, + "num_input_tokens_seen": 37084744, + "step": 18944 + }, + { + "epoch": 2.5109343936381707, + "grad_norm": 0.013956381939351559, + "learning_rate": 3.210430287156538e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37087000, + "step": 18945 + }, + { + "epoch": 2.511066931742876, + "grad_norm": 10.498563766479492, + "learning_rate": 3.2087286622942635e-07, + "loss": 0.2096, + "num_input_tokens_seen": 37088944, + "step": 18946 + }, + { + "epoch": 2.5111994698475812, + "grad_norm": 3.5410022735595703, + "learning_rate": 3.207027457582737e-07, + "loss": 0.0193, + "num_input_tokens_seen": 37090384, + "step": 18947 + }, + { + "epoch": 2.5113320079522863, + "grad_norm": 2.39983868598938, + "learning_rate": 3.2053266730547567e-07, + "loss": 0.0064, + "num_input_tokens_seen": 37092520, + "step": 18948 + }, + { + "epoch": 2.5114645460569913, + "grad_norm": 1.04558527469635, + "learning_rate": 3.2036263087431075e-07, + "loss": 0.0026, + "num_input_tokens_seen": 37094840, + "step": 18949 + }, + { + "epoch": 2.5115970841616964, + "grad_norm": 3.031851053237915, + "learning_rate": 3.2019263646805854e-07, + "loss": 0.0379, + "num_input_tokens_seen": 37096768, + "step": 18950 + }, + { + "epoch": 2.511729622266402, + "grad_norm": 0.01281486451625824, + "learning_rate": 3.2002268408999616e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37098832, + "step": 18951 + }, + { + "epoch": 2.5118621603711064, + "grad_norm": 0.0042800335213541985, + "learning_rate": 3.198527737433996e-07, + "loss": 0.0, + "num_input_tokens_seen": 37100864, + "step": 18952 + }, + { + "epoch": 2.511994698475812, + "grad_norm": 0.024975012987852097, + "learning_rate": 3.1968290543154615e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37103272, + "step": 18953 + }, + { + "epoch": 2.512127236580517, + "grad_norm": 0.8042102456092834, + "learning_rate": 3.1951307915771e-07, + "loss": 0.002, + "num_input_tokens_seen": 37105488, + "step": 18954 + }, + { + "epoch": 2.512259774685222, + "grad_norm": 2.6198372840881348, + "learning_rate": 3.1934329492516627e-07, + "loss": 0.026, + "num_input_tokens_seen": 37108064, + "step": 18955 + }, + { + "epoch": 2.512392312789927, + "grad_norm": 8.025418281555176, + "learning_rate": 3.191735527371884e-07, + "loss": 0.0307, + "num_input_tokens_seen": 37110024, + "step": 18956 + }, + { + "epoch": 2.512524850894632, + "grad_norm": 2.5593149662017822, + "learning_rate": 3.190038525970482e-07, + "loss": 0.0223, + "num_input_tokens_seen": 37111336, + "step": 18957 + }, + { + "epoch": 2.5126573889993375, + "grad_norm": 0.11412045359611511, + "learning_rate": 3.1883419450801894e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37112720, + "step": 18958 + }, + { + "epoch": 2.512789927104042, + "grad_norm": 2.7619855403900146, + "learning_rate": 3.186645784733711e-07, + "loss": 0.0327, + "num_input_tokens_seen": 37114792, + "step": 18959 + }, + { + "epoch": 2.5129224652087476, + "grad_norm": 7.100040912628174, + "learning_rate": 3.184950044963744e-07, + "loss": 0.0873, + "num_input_tokens_seen": 37116680, + "step": 18960 + }, + { + "epoch": 2.5130550033134527, + "grad_norm": 0.03837904706597328, + "learning_rate": 3.183254725802995e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37120320, + "step": 18961 + }, + { + "epoch": 2.5131875414181577, + "grad_norm": 0.18688632547855377, + "learning_rate": 3.1815598272841474e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37122168, + "step": 18962 + }, + { + "epoch": 2.5133200795228627, + "grad_norm": 0.8362486958503723, + "learning_rate": 3.17986534943987e-07, + "loss": 0.0051, + "num_input_tokens_seen": 37124208, + "step": 18963 + }, + { + "epoch": 2.5134526176275678, + "grad_norm": 5.50975227355957, + "learning_rate": 3.178171292302848e-07, + "loss": 0.0942, + "num_input_tokens_seen": 37125448, + "step": 18964 + }, + { + "epoch": 2.5135851557322733, + "grad_norm": 5.371541500091553, + "learning_rate": 3.1764776559057327e-07, + "loss": 0.0314, + "num_input_tokens_seen": 37127552, + "step": 18965 + }, + { + "epoch": 2.5137176938369783, + "grad_norm": 12.527759552001953, + "learning_rate": 3.1747844402811893e-07, + "loss": 0.1917, + "num_input_tokens_seen": 37129608, + "step": 18966 + }, + { + "epoch": 2.5138502319416833, + "grad_norm": 1.2726984024047852, + "learning_rate": 3.1730916454618565e-07, + "loss": 0.0076, + "num_input_tokens_seen": 37133200, + "step": 18967 + }, + { + "epoch": 2.5139827700463884, + "grad_norm": 7.60409688949585, + "learning_rate": 3.171399271480377e-07, + "loss": 0.0725, + "num_input_tokens_seen": 37134960, + "step": 18968 + }, + { + "epoch": 2.5141153081510934, + "grad_norm": 0.5263475179672241, + "learning_rate": 3.1697073183693723e-07, + "loss": 0.0023, + "num_input_tokens_seen": 37136568, + "step": 18969 + }, + { + "epoch": 2.5142478462557984, + "grad_norm": 0.19430802762508392, + "learning_rate": 3.1680157861614684e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37138056, + "step": 18970 + }, + { + "epoch": 2.5143803843605035, + "grad_norm": 0.0027702138759195805, + "learning_rate": 3.1663246748892875e-07, + "loss": 0.0, + "num_input_tokens_seen": 37139960, + "step": 18971 + }, + { + "epoch": 2.514512922465209, + "grad_norm": 2.9984428882598877, + "learning_rate": 3.1646339845854304e-07, + "loss": 0.0076, + "num_input_tokens_seen": 37141264, + "step": 18972 + }, + { + "epoch": 2.514645460569914, + "grad_norm": 1.7659131288528442, + "learning_rate": 3.162943715282493e-07, + "loss": 0.0058, + "num_input_tokens_seen": 37142400, + "step": 18973 + }, + { + "epoch": 2.514777998674619, + "grad_norm": 2.246964693069458, + "learning_rate": 3.1612538670130644e-07, + "loss": 0.0168, + "num_input_tokens_seen": 37144296, + "step": 18974 + }, + { + "epoch": 2.514910536779324, + "grad_norm": 0.053303394466638565, + "learning_rate": 3.159564439809723e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37145768, + "step": 18975 + }, + { + "epoch": 2.515043074884029, + "grad_norm": 0.1905931681394577, + "learning_rate": 3.157875433705046e-07, + "loss": 0.0013, + "num_input_tokens_seen": 37147384, + "step": 18976 + }, + { + "epoch": 2.515175612988734, + "grad_norm": 4.551131725311279, + "learning_rate": 3.1561868487316016e-07, + "loss": 0.0447, + "num_input_tokens_seen": 37149872, + "step": 18977 + }, + { + "epoch": 2.515308151093439, + "grad_norm": 0.04451128467917442, + "learning_rate": 3.1544986849219473e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37151480, + "step": 18978 + }, + { + "epoch": 2.5154406891981447, + "grad_norm": 0.0039344895631074905, + "learning_rate": 3.1528109423086264e-07, + "loss": 0.0, + "num_input_tokens_seen": 37154368, + "step": 18979 + }, + { + "epoch": 2.5155732273028497, + "grad_norm": 0.3041742146015167, + "learning_rate": 3.151123620924179e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37156664, + "step": 18980 + }, + { + "epoch": 2.5157057654075548, + "grad_norm": 0.10289274156093597, + "learning_rate": 3.149436720801138e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37157912, + "step": 18981 + }, + { + "epoch": 2.51583830351226, + "grad_norm": 7.035677909851074, + "learning_rate": 3.147750241972039e-07, + "loss": 0.0733, + "num_input_tokens_seen": 37159664, + "step": 18982 + }, + { + "epoch": 2.515970841616965, + "grad_norm": 0.8407468795776367, + "learning_rate": 3.1460641844693885e-07, + "loss": 0.0055, + "num_input_tokens_seen": 37161640, + "step": 18983 + }, + { + "epoch": 2.51610337972167, + "grad_norm": 5.838760852813721, + "learning_rate": 3.1443785483256996e-07, + "loss": 0.0194, + "num_input_tokens_seen": 37164136, + "step": 18984 + }, + { + "epoch": 2.516235917826375, + "grad_norm": 10.091032981872559, + "learning_rate": 3.142693333573468e-07, + "loss": 0.1177, + "num_input_tokens_seen": 37166256, + "step": 18985 + }, + { + "epoch": 2.5163684559310804, + "grad_norm": 3.496364116668701, + "learning_rate": 3.141008540245183e-07, + "loss": 0.0086, + "num_input_tokens_seen": 37167584, + "step": 18986 + }, + { + "epoch": 2.5165009940357854, + "grad_norm": 0.020223980769515038, + "learning_rate": 3.1393241683733313e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37168968, + "step": 18987 + }, + { + "epoch": 2.5166335321404905, + "grad_norm": 1.2177257537841797, + "learning_rate": 3.1376402179903953e-07, + "loss": 0.0078, + "num_input_tokens_seen": 37170936, + "step": 18988 + }, + { + "epoch": 2.5167660702451955, + "grad_norm": 0.03331724926829338, + "learning_rate": 3.135956689128841e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37172232, + "step": 18989 + }, + { + "epoch": 2.5168986083499005, + "grad_norm": 0.02631368301808834, + "learning_rate": 3.134273581821123e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37174896, + "step": 18990 + }, + { + "epoch": 2.5170311464546056, + "grad_norm": 0.2929513156414032, + "learning_rate": 3.132590896099691e-07, + "loss": 0.0024, + "num_input_tokens_seen": 37176776, + "step": 18991 + }, + { + "epoch": 2.5171636845593106, + "grad_norm": 4.12161922454834, + "learning_rate": 3.1309086319969957e-07, + "loss": 0.0187, + "num_input_tokens_seen": 37178864, + "step": 18992 + }, + { + "epoch": 2.517296222664016, + "grad_norm": 6.546437740325928, + "learning_rate": 3.129226789545464e-07, + "loss": 0.0523, + "num_input_tokens_seen": 37180184, + "step": 18993 + }, + { + "epoch": 2.517428760768721, + "grad_norm": 0.19710469245910645, + "learning_rate": 3.127545368777532e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37182168, + "step": 18994 + }, + { + "epoch": 2.517561298873426, + "grad_norm": 4.459694862365723, + "learning_rate": 3.125864369725615e-07, + "loss": 0.0765, + "num_input_tokens_seen": 37183944, + "step": 18995 + }, + { + "epoch": 2.517693836978131, + "grad_norm": 10.04840087890625, + "learning_rate": 3.124183792422117e-07, + "loss": 0.0476, + "num_input_tokens_seen": 37186240, + "step": 18996 + }, + { + "epoch": 2.5178263750828362, + "grad_norm": 0.061082880944013596, + "learning_rate": 3.1225036368994545e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37187456, + "step": 18997 + }, + { + "epoch": 2.5179589131875413, + "grad_norm": 0.0019496860913932323, + "learning_rate": 3.1208239031900125e-07, + "loss": 0.0, + "num_input_tokens_seen": 37188664, + "step": 18998 + }, + { + "epoch": 2.5180914512922463, + "grad_norm": 0.0017281313193961978, + "learning_rate": 3.119144591326176e-07, + "loss": 0.0, + "num_input_tokens_seen": 37189520, + "step": 18999 + }, + { + "epoch": 2.518223989396952, + "grad_norm": 4.99782657623291, + "learning_rate": 3.1174657013403303e-07, + "loss": 0.1069, + "num_input_tokens_seen": 37192008, + "step": 19000 + }, + { + "epoch": 2.518356527501657, + "grad_norm": 0.030006704851984978, + "learning_rate": 3.1157872332648357e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37193336, + "step": 19001 + }, + { + "epoch": 2.518489065606362, + "grad_norm": 0.0035458526108413935, + "learning_rate": 3.1141091871320667e-07, + "loss": 0.0, + "num_input_tokens_seen": 37194888, + "step": 19002 + }, + { + "epoch": 2.518621603711067, + "grad_norm": 0.04300444573163986, + "learning_rate": 3.112431562974372e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37195872, + "step": 19003 + }, + { + "epoch": 2.518754141815772, + "grad_norm": 0.09322241693735123, + "learning_rate": 3.110754360824095e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37198440, + "step": 19004 + }, + { + "epoch": 2.518886679920477, + "grad_norm": 0.08047468215227127, + "learning_rate": 3.109077580713568e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37200200, + "step": 19005 + }, + { + "epoch": 2.519019218025182, + "grad_norm": 0.3719690442085266, + "learning_rate": 3.1074012226751297e-07, + "loss": 0.001, + "num_input_tokens_seen": 37202688, + "step": 19006 + }, + { + "epoch": 2.5191517561298875, + "grad_norm": 1.1955033540725708, + "learning_rate": 3.1057252867411013e-07, + "loss": 0.003, + "num_input_tokens_seen": 37205144, + "step": 19007 + }, + { + "epoch": 2.5192842942345925, + "grad_norm": 1.8531615734100342, + "learning_rate": 3.1040497729437955e-07, + "loss": 0.0086, + "num_input_tokens_seen": 37206536, + "step": 19008 + }, + { + "epoch": 2.5194168323392976, + "grad_norm": 0.028094176203012466, + "learning_rate": 3.102374681315515e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37209200, + "step": 19009 + }, + { + "epoch": 2.5195493704440026, + "grad_norm": 13.5997896194458, + "learning_rate": 3.1007000118885523e-07, + "loss": 0.1316, + "num_input_tokens_seen": 37212112, + "step": 19010 + }, + { + "epoch": 2.5196819085487077, + "grad_norm": 6.746583938598633, + "learning_rate": 3.0990257646951985e-07, + "loss": 0.0231, + "num_input_tokens_seen": 37215104, + "step": 19011 + }, + { + "epoch": 2.5198144466534127, + "grad_norm": 0.029580211266875267, + "learning_rate": 3.0973519397677425e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37217136, + "step": 19012 + }, + { + "epoch": 2.5199469847581177, + "grad_norm": 4.094579696655273, + "learning_rate": 3.0956785371384525e-07, + "loss": 0.1179, + "num_input_tokens_seen": 37218408, + "step": 19013 + }, + { + "epoch": 2.520079522862823, + "grad_norm": 8.75252914428711, + "learning_rate": 3.094005556839591e-07, + "loss": 0.1848, + "num_input_tokens_seen": 37220504, + "step": 19014 + }, + { + "epoch": 2.5202120609675283, + "grad_norm": 7.873892784118652, + "learning_rate": 3.092332998903416e-07, + "loss": 0.1052, + "num_input_tokens_seen": 37222256, + "step": 19015 + }, + { + "epoch": 2.5203445990722333, + "grad_norm": 0.0066873664036393166, + "learning_rate": 3.090660863362166e-07, + "loss": 0.0, + "num_input_tokens_seen": 37223744, + "step": 19016 + }, + { + "epoch": 2.5204771371769383, + "grad_norm": 1.5027353763580322, + "learning_rate": 3.0889891502480896e-07, + "loss": 0.0065, + "num_input_tokens_seen": 37226368, + "step": 19017 + }, + { + "epoch": 2.5206096752816434, + "grad_norm": 4.3736748695373535, + "learning_rate": 3.087317859593425e-07, + "loss": 0.0109, + "num_input_tokens_seen": 37228176, + "step": 19018 + }, + { + "epoch": 2.520742213386349, + "grad_norm": 10.199136734008789, + "learning_rate": 3.0856469914303883e-07, + "loss": 0.1101, + "num_input_tokens_seen": 37229752, + "step": 19019 + }, + { + "epoch": 2.5208747514910534, + "grad_norm": 7.644498825073242, + "learning_rate": 3.0839765457911954e-07, + "loss": 0.2549, + "num_input_tokens_seen": 37231832, + "step": 19020 + }, + { + "epoch": 2.521007289595759, + "grad_norm": 0.22376547753810883, + "learning_rate": 3.0823065227080536e-07, + "loss": 0.001, + "num_input_tokens_seen": 37234008, + "step": 19021 + }, + { + "epoch": 2.521139827700464, + "grad_norm": 0.013103737495839596, + "learning_rate": 3.0806369222131565e-07, + "loss": 0.0, + "num_input_tokens_seen": 37236320, + "step": 19022 + }, + { + "epoch": 2.521272365805169, + "grad_norm": 6.850834369659424, + "learning_rate": 3.078967744338701e-07, + "loss": 0.091, + "num_input_tokens_seen": 37238336, + "step": 19023 + }, + { + "epoch": 2.521404903909874, + "grad_norm": 2.564728260040283, + "learning_rate": 3.077298989116875e-07, + "loss": 0.0118, + "num_input_tokens_seen": 37240312, + "step": 19024 + }, + { + "epoch": 2.521537442014579, + "grad_norm": 0.01958959363400936, + "learning_rate": 3.0756306565798476e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37242992, + "step": 19025 + }, + { + "epoch": 2.5216699801192846, + "grad_norm": 8.58803939819336, + "learning_rate": 3.073962746759787e-07, + "loss": 0.102, + "num_input_tokens_seen": 37245400, + "step": 19026 + }, + { + "epoch": 2.521802518223989, + "grad_norm": 8.174155235290527, + "learning_rate": 3.0722952596888457e-07, + "loss": 0.2566, + "num_input_tokens_seen": 37247240, + "step": 19027 + }, + { + "epoch": 2.5219350563286946, + "grad_norm": 6.473876476287842, + "learning_rate": 3.0706281953991834e-07, + "loss": 0.1216, + "num_input_tokens_seen": 37249152, + "step": 19028 + }, + { + "epoch": 2.5220675944333997, + "grad_norm": 4.075709819793701, + "learning_rate": 3.0689615539229336e-07, + "loss": 0.0419, + "num_input_tokens_seen": 37250832, + "step": 19029 + }, + { + "epoch": 2.5222001325381047, + "grad_norm": 0.5353427529335022, + "learning_rate": 3.067295335292239e-07, + "loss": 0.0023, + "num_input_tokens_seen": 37251896, + "step": 19030 + }, + { + "epoch": 2.5223326706428097, + "grad_norm": 0.16234004497528076, + "learning_rate": 3.0656295395392224e-07, + "loss": 0.0013, + "num_input_tokens_seen": 37254816, + "step": 19031 + }, + { + "epoch": 2.522465208747515, + "grad_norm": 0.00024320707598235458, + "learning_rate": 3.063964166695993e-07, + "loss": 0.0, + "num_input_tokens_seen": 37255984, + "step": 19032 + }, + { + "epoch": 2.5225977468522203, + "grad_norm": 16.064165115356445, + "learning_rate": 3.062299216794673e-07, + "loss": 0.1522, + "num_input_tokens_seen": 37257672, + "step": 19033 + }, + { + "epoch": 2.522730284956925, + "grad_norm": 1.3186776638031006, + "learning_rate": 3.060634689867353e-07, + "loss": 0.0094, + "num_input_tokens_seen": 37259344, + "step": 19034 + }, + { + "epoch": 2.5228628230616303, + "grad_norm": 0.007920119911432266, + "learning_rate": 3.058970585946136e-07, + "loss": 0.0, + "num_input_tokens_seen": 37260624, + "step": 19035 + }, + { + "epoch": 2.5229953611663354, + "grad_norm": 0.0016489775152876973, + "learning_rate": 3.057306905063104e-07, + "loss": 0.0, + "num_input_tokens_seen": 37261832, + "step": 19036 + }, + { + "epoch": 2.5231278992710404, + "grad_norm": 11.083040237426758, + "learning_rate": 3.0556436472503256e-07, + "loss": 0.1377, + "num_input_tokens_seen": 37263360, + "step": 19037 + }, + { + "epoch": 2.5232604373757455, + "grad_norm": 10.893657684326172, + "learning_rate": 3.0539808125398807e-07, + "loss": 0.0726, + "num_input_tokens_seen": 37265392, + "step": 19038 + }, + { + "epoch": 2.5233929754804505, + "grad_norm": 0.5558332800865173, + "learning_rate": 3.0523184009638276e-07, + "loss": 0.0032, + "num_input_tokens_seen": 37267272, + "step": 19039 + }, + { + "epoch": 2.523525513585156, + "grad_norm": 10.004725456237793, + "learning_rate": 3.0506564125542123e-07, + "loss": 0.1095, + "num_input_tokens_seen": 37269272, + "step": 19040 + }, + { + "epoch": 2.5236580516898606, + "grad_norm": 0.005695379339158535, + "learning_rate": 3.048994847343087e-07, + "loss": 0.0, + "num_input_tokens_seen": 37271776, + "step": 19041 + }, + { + "epoch": 2.523790589794566, + "grad_norm": 9.489371299743652, + "learning_rate": 3.047333705362482e-07, + "loss": 0.0478, + "num_input_tokens_seen": 37274736, + "step": 19042 + }, + { + "epoch": 2.523923127899271, + "grad_norm": 7.947813987731934, + "learning_rate": 3.045672986644427e-07, + "loss": 0.0474, + "num_input_tokens_seen": 37276320, + "step": 19043 + }, + { + "epoch": 2.524055666003976, + "grad_norm": 5.883983612060547, + "learning_rate": 3.0440126912209434e-07, + "loss": 0.0437, + "num_input_tokens_seen": 37278552, + "step": 19044 + }, + { + "epoch": 2.524188204108681, + "grad_norm": 0.040536753833293915, + "learning_rate": 3.0423528191240447e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37280424, + "step": 19045 + }, + { + "epoch": 2.524320742213386, + "grad_norm": 0.7967009544372559, + "learning_rate": 3.040693370385725e-07, + "loss": 0.0035, + "num_input_tokens_seen": 37283800, + "step": 19046 + }, + { + "epoch": 2.5244532803180917, + "grad_norm": 10.937032699584961, + "learning_rate": 3.039034345037992e-07, + "loss": 0.1011, + "num_input_tokens_seen": 37285336, + "step": 19047 + }, + { + "epoch": 2.5245858184227963, + "grad_norm": 0.004720596130937338, + "learning_rate": 3.0373757431128194e-07, + "loss": 0.0, + "num_input_tokens_seen": 37288136, + "step": 19048 + }, + { + "epoch": 2.5247183565275018, + "grad_norm": 6.496044635772705, + "learning_rate": 3.0357175646422014e-07, + "loss": 0.0526, + "num_input_tokens_seen": 37290536, + "step": 19049 + }, + { + "epoch": 2.524850894632207, + "grad_norm": 2.2700207233428955, + "learning_rate": 3.034059809658099e-07, + "loss": 0.0123, + "num_input_tokens_seen": 37292592, + "step": 19050 + }, + { + "epoch": 2.524983432736912, + "grad_norm": 0.014312869869172573, + "learning_rate": 3.032402478192481e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37293920, + "step": 19051 + }, + { + "epoch": 2.525115970841617, + "grad_norm": 0.012016148306429386, + "learning_rate": 3.0307455702772883e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37295104, + "step": 19052 + }, + { + "epoch": 2.525248508946322, + "grad_norm": 0.0016730931820347905, + "learning_rate": 3.0290890859444784e-07, + "loss": 0.0, + "num_input_tokens_seen": 37296488, + "step": 19053 + }, + { + "epoch": 2.5253810470510274, + "grad_norm": 5.655860900878906, + "learning_rate": 3.0274330252259925e-07, + "loss": 0.0334, + "num_input_tokens_seen": 37298240, + "step": 19054 + }, + { + "epoch": 2.5255135851557324, + "grad_norm": 20.5645694732666, + "learning_rate": 3.0257773881537583e-07, + "loss": 0.1837, + "num_input_tokens_seen": 37300280, + "step": 19055 + }, + { + "epoch": 2.5256461232604375, + "grad_norm": 4.748203754425049, + "learning_rate": 3.0241221747596943e-07, + "loss": 0.0492, + "num_input_tokens_seen": 37302888, + "step": 19056 + }, + { + "epoch": 2.5257786613651425, + "grad_norm": 4.462448596954346, + "learning_rate": 3.022467385075714e-07, + "loss": 0.1032, + "num_input_tokens_seen": 37305408, + "step": 19057 + }, + { + "epoch": 2.5259111994698475, + "grad_norm": 0.002763837343081832, + "learning_rate": 3.02081301913372e-07, + "loss": 0.0, + "num_input_tokens_seen": 37307744, + "step": 19058 + }, + { + "epoch": 2.5260437375745526, + "grad_norm": 1.0047616958618164, + "learning_rate": 3.019159076965611e-07, + "loss": 0.0045, + "num_input_tokens_seen": 37309112, + "step": 19059 + }, + { + "epoch": 2.5261762756792576, + "grad_norm": 0.035448722541332245, + "learning_rate": 3.017505558603287e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37311592, + "step": 19060 + }, + { + "epoch": 2.526308813783963, + "grad_norm": 14.925313949584961, + "learning_rate": 3.01585246407862e-07, + "loss": 0.3552, + "num_input_tokens_seen": 37313856, + "step": 19061 + }, + { + "epoch": 2.526441351888668, + "grad_norm": 0.010677700862288475, + "learning_rate": 3.0141997934234836e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37315296, + "step": 19062 + }, + { + "epoch": 2.526573889993373, + "grad_norm": 3.28476619720459, + "learning_rate": 3.012547546669736e-07, + "loss": 0.0352, + "num_input_tokens_seen": 37318032, + "step": 19063 + }, + { + "epoch": 2.526706428098078, + "grad_norm": 0.023423900827765465, + "learning_rate": 3.0108957238492416e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37319176, + "step": 19064 + }, + { + "epoch": 2.5268389662027833, + "grad_norm": 8.360081672668457, + "learning_rate": 3.009244324993851e-07, + "loss": 0.0708, + "num_input_tokens_seen": 37321464, + "step": 19065 + }, + { + "epoch": 2.5269715043074883, + "grad_norm": 0.007863742299377918, + "learning_rate": 3.0075933501354016e-07, + "loss": 0.0, + "num_input_tokens_seen": 37323968, + "step": 19066 + }, + { + "epoch": 2.5271040424121933, + "grad_norm": 24.61621856689453, + "learning_rate": 3.005942799305725e-07, + "loss": 0.3447, + "num_input_tokens_seen": 37325824, + "step": 19067 + }, + { + "epoch": 2.527236580516899, + "grad_norm": 10.274988174438477, + "learning_rate": 3.004292672536638e-07, + "loss": 0.227, + "num_input_tokens_seen": 37328200, + "step": 19068 + }, + { + "epoch": 2.527369118621604, + "grad_norm": 2.4371399879455566, + "learning_rate": 3.0026429698599673e-07, + "loss": 0.0498, + "num_input_tokens_seen": 37330056, + "step": 19069 + }, + { + "epoch": 2.527501656726309, + "grad_norm": 0.006653674878180027, + "learning_rate": 3.0009936913075106e-07, + "loss": 0.0, + "num_input_tokens_seen": 37332048, + "step": 19070 + }, + { + "epoch": 2.527634194831014, + "grad_norm": 0.015350362285971642, + "learning_rate": 2.999344836911075e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37333768, + "step": 19071 + }, + { + "epoch": 2.527766732935719, + "grad_norm": 8.021217346191406, + "learning_rate": 2.997696406702452e-07, + "loss": 0.2334, + "num_input_tokens_seen": 37335984, + "step": 19072 + }, + { + "epoch": 2.527899271040424, + "grad_norm": 0.05985564738512039, + "learning_rate": 2.996048400713419e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37337944, + "step": 19073 + }, + { + "epoch": 2.528031809145129, + "grad_norm": 0.00936909206211567, + "learning_rate": 2.9944008189757457e-07, + "loss": 0.0, + "num_input_tokens_seen": 37340096, + "step": 19074 + }, + { + "epoch": 2.5281643472498345, + "grad_norm": 7.633286476135254, + "learning_rate": 2.992753661521214e-07, + "loss": 0.086, + "num_input_tokens_seen": 37342664, + "step": 19075 + }, + { + "epoch": 2.5282968853545396, + "grad_norm": 4.702107906341553, + "learning_rate": 2.991106928381565e-07, + "loss": 0.0227, + "num_input_tokens_seen": 37344992, + "step": 19076 + }, + { + "epoch": 2.5284294234592446, + "grad_norm": 7.830382823944092, + "learning_rate": 2.989460619588566e-07, + "loss": 0.035, + "num_input_tokens_seen": 37346728, + "step": 19077 + }, + { + "epoch": 2.5285619615639496, + "grad_norm": 5.351593971252441, + "learning_rate": 2.9878147351739496e-07, + "loss": 0.0329, + "num_input_tokens_seen": 37349240, + "step": 19078 + }, + { + "epoch": 2.5286944996686547, + "grad_norm": 6.137148380279541, + "learning_rate": 2.9861692751694456e-07, + "loss": 0.093, + "num_input_tokens_seen": 37351352, + "step": 19079 + }, + { + "epoch": 2.5288270377733597, + "grad_norm": 0.11415832489728928, + "learning_rate": 2.984524239606787e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37353472, + "step": 19080 + }, + { + "epoch": 2.5289595758780647, + "grad_norm": 1.6513500213623047, + "learning_rate": 2.982879628517693e-07, + "loss": 0.0072, + "num_input_tokens_seen": 37355936, + "step": 19081 + }, + { + "epoch": 2.5290921139827702, + "grad_norm": 0.021916721016168594, + "learning_rate": 2.9812354419338606e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37357768, + "step": 19082 + }, + { + "epoch": 2.5292246520874753, + "grad_norm": 9.223024368286133, + "learning_rate": 2.979591679887003e-07, + "loss": 0.1057, + "num_input_tokens_seen": 37359320, + "step": 19083 + }, + { + "epoch": 2.5293571901921803, + "grad_norm": 0.22989630699157715, + "learning_rate": 2.977948342408807e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37360872, + "step": 19084 + }, + { + "epoch": 2.5294897282968853, + "grad_norm": 0.08252662420272827, + "learning_rate": 2.9763054295309625e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37362600, + "step": 19085 + }, + { + "epoch": 2.5296222664015904, + "grad_norm": 0.03387834504246712, + "learning_rate": 2.974662941285142e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37365024, + "step": 19086 + }, + { + "epoch": 2.5297548045062954, + "grad_norm": 0.009304218925535679, + "learning_rate": 2.973020877703012e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37366976, + "step": 19087 + }, + { + "epoch": 2.5298873426110005, + "grad_norm": 0.0758136734366417, + "learning_rate": 2.971379238816238e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37368656, + "step": 19088 + }, + { + "epoch": 2.530019880715706, + "grad_norm": 3.143813371658325, + "learning_rate": 2.9697380246564654e-07, + "loss": 0.0227, + "num_input_tokens_seen": 37370400, + "step": 19089 + }, + { + "epoch": 2.530152418820411, + "grad_norm": 19.974788665771484, + "learning_rate": 2.968097235255343e-07, + "loss": 0.2177, + "num_input_tokens_seen": 37371952, + "step": 19090 + }, + { + "epoch": 2.530284956925116, + "grad_norm": 4.7282280921936035, + "learning_rate": 2.96645687064451e-07, + "loss": 0.0299, + "num_input_tokens_seen": 37374032, + "step": 19091 + }, + { + "epoch": 2.530417495029821, + "grad_norm": 0.014639724045991898, + "learning_rate": 2.964816930855585e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37376000, + "step": 19092 + }, + { + "epoch": 2.530550033134526, + "grad_norm": 8.441856384277344, + "learning_rate": 2.9631774159201876e-07, + "loss": 0.1273, + "num_input_tokens_seen": 37378024, + "step": 19093 + }, + { + "epoch": 2.530682571239231, + "grad_norm": 13.380906105041504, + "learning_rate": 2.961538325869931e-07, + "loss": 0.0627, + "num_input_tokens_seen": 37380864, + "step": 19094 + }, + { + "epoch": 2.530815109343936, + "grad_norm": 1.010128140449524, + "learning_rate": 2.959899660736426e-07, + "loss": 0.0112, + "num_input_tokens_seen": 37383328, + "step": 19095 + }, + { + "epoch": 2.5309476474486416, + "grad_norm": 0.3424445390701294, + "learning_rate": 2.9582614205512586e-07, + "loss": 0.0024, + "num_input_tokens_seen": 37385664, + "step": 19096 + }, + { + "epoch": 2.5310801855533467, + "grad_norm": 0.008097711019217968, + "learning_rate": 2.956623605346018e-07, + "loss": 0.0, + "num_input_tokens_seen": 37387032, + "step": 19097 + }, + { + "epoch": 2.5312127236580517, + "grad_norm": 1.4307278394699097, + "learning_rate": 2.9549862151522806e-07, + "loss": 0.0138, + "num_input_tokens_seen": 37388592, + "step": 19098 + }, + { + "epoch": 2.5313452617627568, + "grad_norm": 7.536437034606934, + "learning_rate": 2.953349250001611e-07, + "loss": 0.0673, + "num_input_tokens_seen": 37390272, + "step": 19099 + }, + { + "epoch": 2.531477799867462, + "grad_norm": 0.01898566447198391, + "learning_rate": 2.951712709925578e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37391488, + "step": 19100 + }, + { + "epoch": 2.531610337972167, + "grad_norm": 7.185465335845947, + "learning_rate": 2.950076594955739e-07, + "loss": 0.0442, + "num_input_tokens_seen": 37393144, + "step": 19101 + }, + { + "epoch": 2.531742876076872, + "grad_norm": 1.1171246767044067, + "learning_rate": 2.948440905123634e-07, + "loss": 0.0093, + "num_input_tokens_seen": 37395672, + "step": 19102 + }, + { + "epoch": 2.5318754141815774, + "grad_norm": 11.81508731842041, + "learning_rate": 2.9468056404608036e-07, + "loss": 0.1703, + "num_input_tokens_seen": 37398368, + "step": 19103 + }, + { + "epoch": 2.5320079522862824, + "grad_norm": 0.059792373329401016, + "learning_rate": 2.9451708009987727e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37399856, + "step": 19104 + }, + { + "epoch": 2.5321404903909874, + "grad_norm": 1.567510724067688, + "learning_rate": 2.943536386769058e-07, + "loss": 0.0066, + "num_input_tokens_seen": 37401712, + "step": 19105 + }, + { + "epoch": 2.5322730284956925, + "grad_norm": 8.388509750366211, + "learning_rate": 2.9419023978031786e-07, + "loss": 0.0448, + "num_input_tokens_seen": 37404096, + "step": 19106 + }, + { + "epoch": 2.5324055666003975, + "grad_norm": 0.009316482581198215, + "learning_rate": 2.9402688341326427e-07, + "loss": 0.0, + "num_input_tokens_seen": 37405544, + "step": 19107 + }, + { + "epoch": 2.532538104705103, + "grad_norm": 10.814212799072266, + "learning_rate": 2.938635695788941e-07, + "loss": 0.1891, + "num_input_tokens_seen": 37408576, + "step": 19108 + }, + { + "epoch": 2.5326706428098076, + "grad_norm": 0.028352294117212296, + "learning_rate": 2.937002982803563e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37410000, + "step": 19109 + }, + { + "epoch": 2.532803180914513, + "grad_norm": 5.990534782409668, + "learning_rate": 2.9353706952079813e-07, + "loss": 0.0394, + "num_input_tokens_seen": 37412032, + "step": 19110 + }, + { + "epoch": 2.532935719019218, + "grad_norm": 0.01575646921992302, + "learning_rate": 2.933738833033678e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37414208, + "step": 19111 + }, + { + "epoch": 2.533068257123923, + "grad_norm": 0.0018914544489234686, + "learning_rate": 2.9321073963121144e-07, + "loss": 0.0, + "num_input_tokens_seen": 37415752, + "step": 19112 + }, + { + "epoch": 2.533200795228628, + "grad_norm": 0.18259583413600922, + "learning_rate": 2.930476385074746e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37418072, + "step": 19113 + }, + { + "epoch": 2.533333333333333, + "grad_norm": 2.512240409851074, + "learning_rate": 2.9288457993530167e-07, + "loss": 0.0141, + "num_input_tokens_seen": 37420112, + "step": 19114 + }, + { + "epoch": 2.5334658714380387, + "grad_norm": 0.07118674367666245, + "learning_rate": 2.9272156391783627e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37421936, + "step": 19115 + }, + { + "epoch": 2.5335984095427433, + "grad_norm": 5.437435626983643, + "learning_rate": 2.925585904582223e-07, + "loss": 0.0513, + "num_input_tokens_seen": 37424344, + "step": 19116 + }, + { + "epoch": 2.5337309476474488, + "grad_norm": 0.007428389973938465, + "learning_rate": 2.9239565955960113e-07, + "loss": 0.0, + "num_input_tokens_seen": 37426064, + "step": 19117 + }, + { + "epoch": 2.533863485752154, + "grad_norm": 0.5026679635047913, + "learning_rate": 2.9223277122511495e-07, + "loss": 0.0025, + "num_input_tokens_seen": 37427808, + "step": 19118 + }, + { + "epoch": 2.533996023856859, + "grad_norm": 26.859704971313477, + "learning_rate": 2.9206992545790404e-07, + "loss": 0.2483, + "num_input_tokens_seen": 37429256, + "step": 19119 + }, + { + "epoch": 2.534128561961564, + "grad_norm": 4.2761359214782715, + "learning_rate": 2.919071222611075e-07, + "loss": 0.0176, + "num_input_tokens_seen": 37431728, + "step": 19120 + }, + { + "epoch": 2.534261100066269, + "grad_norm": 0.01922869123518467, + "learning_rate": 2.9174436163786566e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37433736, + "step": 19121 + }, + { + "epoch": 2.5343936381709744, + "grad_norm": 6.303127288818359, + "learning_rate": 2.9158164359131576e-07, + "loss": 0.0389, + "num_input_tokens_seen": 37435648, + "step": 19122 + }, + { + "epoch": 2.534526176275679, + "grad_norm": 2.154287099838257, + "learning_rate": 2.914189681245949e-07, + "loss": 0.0106, + "num_input_tokens_seen": 37437536, + "step": 19123 + }, + { + "epoch": 2.5346587143803845, + "grad_norm": 3.551905870437622, + "learning_rate": 2.912563352408404e-07, + "loss": 0.0127, + "num_input_tokens_seen": 37439288, + "step": 19124 + }, + { + "epoch": 2.5347912524850895, + "grad_norm": 2.208467483520508, + "learning_rate": 2.9109374494318693e-07, + "loss": 0.004, + "num_input_tokens_seen": 37440800, + "step": 19125 + }, + { + "epoch": 2.5349237905897946, + "grad_norm": 0.48554596304893494, + "learning_rate": 2.909311972347706e-07, + "loss": 0.0014, + "num_input_tokens_seen": 37442280, + "step": 19126 + }, + { + "epoch": 2.5350563286944996, + "grad_norm": 2.0004382133483887, + "learning_rate": 2.9076869211872445e-07, + "loss": 0.0111, + "num_input_tokens_seen": 37444304, + "step": 19127 + }, + { + "epoch": 2.5351888667992046, + "grad_norm": 0.005225060507655144, + "learning_rate": 2.9060622959818236e-07, + "loss": 0.0, + "num_input_tokens_seen": 37445880, + "step": 19128 + }, + { + "epoch": 2.53532140490391, + "grad_norm": 0.013014730997383595, + "learning_rate": 2.9044380967627544e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37448640, + "step": 19129 + }, + { + "epoch": 2.5354539430086147, + "grad_norm": 0.022811781615018845, + "learning_rate": 2.9028143235613705e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37450856, + "step": 19130 + }, + { + "epoch": 2.53558648111332, + "grad_norm": 9.4717435836792, + "learning_rate": 2.901190976408963e-07, + "loss": 0.1386, + "num_input_tokens_seen": 37453392, + "step": 19131 + }, + { + "epoch": 2.5357190192180252, + "grad_norm": 1.8154377937316895, + "learning_rate": 2.899568055336843e-07, + "loss": 0.0065, + "num_input_tokens_seen": 37455024, + "step": 19132 + }, + { + "epoch": 2.5358515573227303, + "grad_norm": 0.00735109718516469, + "learning_rate": 2.8979455603763003e-07, + "loss": 0.0, + "num_input_tokens_seen": 37456448, + "step": 19133 + }, + { + "epoch": 2.5359840954274353, + "grad_norm": 10.321700096130371, + "learning_rate": 2.8963234915586113e-07, + "loss": 0.0898, + "num_input_tokens_seen": 37458568, + "step": 19134 + }, + { + "epoch": 2.5361166335321403, + "grad_norm": 10.98218822479248, + "learning_rate": 2.894701848915052e-07, + "loss": 0.0311, + "num_input_tokens_seen": 37460848, + "step": 19135 + }, + { + "epoch": 2.536249171636846, + "grad_norm": 3.5249624252319336, + "learning_rate": 2.8930806324768885e-07, + "loss": 0.0074, + "num_input_tokens_seen": 37462752, + "step": 19136 + }, + { + "epoch": 2.536381709741551, + "grad_norm": 0.13867440819740295, + "learning_rate": 2.8914598422753873e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37464688, + "step": 19137 + }, + { + "epoch": 2.536514247846256, + "grad_norm": 0.02282278798520565, + "learning_rate": 2.889839478341791e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37466408, + "step": 19138 + }, + { + "epoch": 2.536646785950961, + "grad_norm": 4.181307315826416, + "learning_rate": 2.888219540707343e-07, + "loss": 0.0329, + "num_input_tokens_seen": 37468176, + "step": 19139 + }, + { + "epoch": 2.536779324055666, + "grad_norm": 3.544297456741333, + "learning_rate": 2.886600029403272e-07, + "loss": 0.0227, + "num_input_tokens_seen": 37470600, + "step": 19140 + }, + { + "epoch": 2.536911862160371, + "grad_norm": 6.721055507659912, + "learning_rate": 2.884980944460808e-07, + "loss": 0.0465, + "num_input_tokens_seen": 37473480, + "step": 19141 + }, + { + "epoch": 2.537044400265076, + "grad_norm": 4.9972991943359375, + "learning_rate": 2.883362285911173e-07, + "loss": 0.0364, + "num_input_tokens_seen": 37475728, + "step": 19142 + }, + { + "epoch": 2.5371769383697815, + "grad_norm": 0.02297527901828289, + "learning_rate": 2.881744053785571e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37477552, + "step": 19143 + }, + { + "epoch": 2.5373094764744866, + "grad_norm": 0.00940045528113842, + "learning_rate": 2.8801262481152e-07, + "loss": 0.0, + "num_input_tokens_seen": 37478872, + "step": 19144 + }, + { + "epoch": 2.5374420145791916, + "grad_norm": 2.807574987411499, + "learning_rate": 2.878508868931254e-07, + "loss": 0.0108, + "num_input_tokens_seen": 37481128, + "step": 19145 + }, + { + "epoch": 2.5375745526838966, + "grad_norm": 19.909229278564453, + "learning_rate": 2.876891916264915e-07, + "loss": 0.112, + "num_input_tokens_seen": 37482936, + "step": 19146 + }, + { + "epoch": 2.5377070907886017, + "grad_norm": 1.5621196031570435, + "learning_rate": 2.875275390147361e-07, + "loss": 0.0133, + "num_input_tokens_seen": 37484656, + "step": 19147 + }, + { + "epoch": 2.5378396288933067, + "grad_norm": 0.06808166950941086, + "learning_rate": 2.8736592906097675e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37486272, + "step": 19148 + }, + { + "epoch": 2.5379721669980118, + "grad_norm": 0.019649337977170944, + "learning_rate": 2.8720436176832847e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37487888, + "step": 19149 + }, + { + "epoch": 2.5381047051027172, + "grad_norm": 0.00863607693463564, + "learning_rate": 2.8704283713990674e-07, + "loss": 0.0, + "num_input_tokens_seen": 37489224, + "step": 19150 + }, + { + "epoch": 2.5382372432074223, + "grad_norm": 18.46916389465332, + "learning_rate": 2.868813551788252e-07, + "loss": 0.125, + "num_input_tokens_seen": 37491152, + "step": 19151 + }, + { + "epoch": 2.5383697813121273, + "grad_norm": 6.598438739776611, + "learning_rate": 2.8671991588819835e-07, + "loss": 0.0706, + "num_input_tokens_seen": 37493456, + "step": 19152 + }, + { + "epoch": 2.5385023194168324, + "grad_norm": 2.5307908058166504, + "learning_rate": 2.8655851927113786e-07, + "loss": 0.0082, + "num_input_tokens_seen": 37495768, + "step": 19153 + }, + { + "epoch": 2.5386348575215374, + "grad_norm": 4.513319492340088, + "learning_rate": 2.863971653307568e-07, + "loss": 0.0237, + "num_input_tokens_seen": 37497352, + "step": 19154 + }, + { + "epoch": 2.5387673956262424, + "grad_norm": 0.7258305549621582, + "learning_rate": 2.862358540701654e-07, + "loss": 0.0036, + "num_input_tokens_seen": 37499752, + "step": 19155 + }, + { + "epoch": 2.5388999337309475, + "grad_norm": 0.010591251775622368, + "learning_rate": 2.860745854924737e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37501384, + "step": 19156 + }, + { + "epoch": 2.539032471835653, + "grad_norm": 0.1885674148797989, + "learning_rate": 2.85913359600791e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37503320, + "step": 19157 + }, + { + "epoch": 2.539165009940358, + "grad_norm": 0.00333246192894876, + "learning_rate": 2.8575217639822686e-07, + "loss": 0.0, + "num_input_tokens_seen": 37505264, + "step": 19158 + }, + { + "epoch": 2.539297548045063, + "grad_norm": 5.3531341552734375, + "learning_rate": 2.8559103588788746e-07, + "loss": 0.0105, + "num_input_tokens_seen": 37506536, + "step": 19159 + }, + { + "epoch": 2.539430086149768, + "grad_norm": 10.839872360229492, + "learning_rate": 2.8542993807288117e-07, + "loss": 0.2191, + "num_input_tokens_seen": 37508328, + "step": 19160 + }, + { + "epoch": 2.539562624254473, + "grad_norm": 0.3431721031665802, + "learning_rate": 2.8526888295631325e-07, + "loss": 0.0014, + "num_input_tokens_seen": 37509992, + "step": 19161 + }, + { + "epoch": 2.539695162359178, + "grad_norm": 2.787536859512329, + "learning_rate": 2.851078705412888e-07, + "loss": 0.0232, + "num_input_tokens_seen": 37512272, + "step": 19162 + }, + { + "epoch": 2.539827700463883, + "grad_norm": 7.519652366638184, + "learning_rate": 2.84946900830913e-07, + "loss": 0.077, + "num_input_tokens_seen": 37514504, + "step": 19163 + }, + { + "epoch": 2.5399602385685887, + "grad_norm": 0.25927790999412537, + "learning_rate": 2.847859738282885e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37516008, + "step": 19164 + }, + { + "epoch": 2.5400927766732937, + "grad_norm": 2.9976625442504883, + "learning_rate": 2.8462508953651935e-07, + "loss": 0.0101, + "num_input_tokens_seen": 37518776, + "step": 19165 + }, + { + "epoch": 2.5402253147779987, + "grad_norm": 0.07422026246786118, + "learning_rate": 2.8446424795870677e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37521936, + "step": 19166 + }, + { + "epoch": 2.5403578528827038, + "grad_norm": 0.12871003150939941, + "learning_rate": 2.84303449097951e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37524424, + "step": 19167 + }, + { + "epoch": 2.540490390987409, + "grad_norm": 1.0708467960357666, + "learning_rate": 2.841426929573543e-07, + "loss": 0.004, + "num_input_tokens_seen": 37527248, + "step": 19168 + }, + { + "epoch": 2.540622929092114, + "grad_norm": 7.618175983428955, + "learning_rate": 2.8398197954001475e-07, + "loss": 0.0963, + "num_input_tokens_seen": 37529184, + "step": 19169 + }, + { + "epoch": 2.540755467196819, + "grad_norm": 1.7641981840133667, + "learning_rate": 2.8382130884903103e-07, + "loss": 0.0047, + "num_input_tokens_seen": 37530952, + "step": 19170 + }, + { + "epoch": 2.5408880053015244, + "grad_norm": 0.013728641904890537, + "learning_rate": 2.836606808875017e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37533264, + "step": 19171 + }, + { + "epoch": 2.5410205434062294, + "grad_norm": 2.108384132385254, + "learning_rate": 2.835000956585232e-07, + "loss": 0.0447, + "num_input_tokens_seen": 37534880, + "step": 19172 + }, + { + "epoch": 2.5411530815109344, + "grad_norm": 0.001985525246709585, + "learning_rate": 2.8333955316519224e-07, + "loss": 0.0, + "num_input_tokens_seen": 37535952, + "step": 19173 + }, + { + "epoch": 2.5412856196156395, + "grad_norm": 27.595172882080078, + "learning_rate": 2.831790534106038e-07, + "loss": 0.4104, + "num_input_tokens_seen": 37538040, + "step": 19174 + }, + { + "epoch": 2.5414181577203445, + "grad_norm": 5.20789098739624, + "learning_rate": 2.830185963978527e-07, + "loss": 0.076, + "num_input_tokens_seen": 37539872, + "step": 19175 + }, + { + "epoch": 2.5415506958250496, + "grad_norm": 0.09321755170822144, + "learning_rate": 2.828581821300319e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37540960, + "step": 19176 + }, + { + "epoch": 2.5416832339297546, + "grad_norm": 0.021792927756905556, + "learning_rate": 2.826978106102349e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37542400, + "step": 19177 + }, + { + "epoch": 2.54181577203446, + "grad_norm": 0.14601649343967438, + "learning_rate": 2.825374818415541e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37544496, + "step": 19178 + }, + { + "epoch": 2.541948310139165, + "grad_norm": 1.7685610055923462, + "learning_rate": 2.823771958270807e-07, + "loss": 0.0087, + "num_input_tokens_seen": 37546704, + "step": 19179 + }, + { + "epoch": 2.54208084824387, + "grad_norm": 0.031205739825963974, + "learning_rate": 2.822169525699045e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37548736, + "step": 19180 + }, + { + "epoch": 2.542213386348575, + "grad_norm": 0.000769249745644629, + "learning_rate": 2.820567520731157e-07, + "loss": 0.0, + "num_input_tokens_seen": 37550016, + "step": 19181 + }, + { + "epoch": 2.5423459244532802, + "grad_norm": 0.19897986948490143, + "learning_rate": 2.8189659433980223e-07, + "loss": 0.0009, + "num_input_tokens_seen": 37551648, + "step": 19182 + }, + { + "epoch": 2.5424784625579853, + "grad_norm": 0.1513667106628418, + "learning_rate": 2.817364793730526e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37554000, + "step": 19183 + }, + { + "epoch": 2.5426110006626903, + "grad_norm": 0.0219032634049654, + "learning_rate": 2.815764071759544e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37556240, + "step": 19184 + }, + { + "epoch": 2.542743538767396, + "grad_norm": 0.0010836496949195862, + "learning_rate": 2.8141637775159327e-07, + "loss": 0.0, + "num_input_tokens_seen": 37557768, + "step": 19185 + }, + { + "epoch": 2.542876076872101, + "grad_norm": 0.5151396989822388, + "learning_rate": 2.8125639110305527e-07, + "loss": 0.0013, + "num_input_tokens_seen": 37559384, + "step": 19186 + }, + { + "epoch": 2.543008614976806, + "grad_norm": 0.008022317662835121, + "learning_rate": 2.810964472334246e-07, + "loss": 0.0, + "num_input_tokens_seen": 37560672, + "step": 19187 + }, + { + "epoch": 2.543141153081511, + "grad_norm": 1.752504587173462, + "learning_rate": 2.809365461457844e-07, + "loss": 0.0113, + "num_input_tokens_seen": 37563432, + "step": 19188 + }, + { + "epoch": 2.543273691186216, + "grad_norm": 10.425017356872559, + "learning_rate": 2.8077668784321887e-07, + "loss": 0.1909, + "num_input_tokens_seen": 37564616, + "step": 19189 + }, + { + "epoch": 2.5434062292909214, + "grad_norm": 0.015368139371275902, + "learning_rate": 2.8061687232880995e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37566272, + "step": 19190 + }, + { + "epoch": 2.543538767395626, + "grad_norm": 0.08149521052837372, + "learning_rate": 2.8045709960563885e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37568368, + "step": 19191 + }, + { + "epoch": 2.5436713055003315, + "grad_norm": 2.3762598037719727, + "learning_rate": 2.802973696767861e-07, + "loss": 0.0089, + "num_input_tokens_seen": 37570648, + "step": 19192 + }, + { + "epoch": 2.5438038436050365, + "grad_norm": 3.361557722091675, + "learning_rate": 2.8013768254533085e-07, + "loss": 0.0282, + "num_input_tokens_seen": 37572640, + "step": 19193 + }, + { + "epoch": 2.5439363817097416, + "grad_norm": 0.05279209092259407, + "learning_rate": 2.799780382143524e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37574104, + "step": 19194 + }, + { + "epoch": 2.5440689198144466, + "grad_norm": 0.0015046474291011691, + "learning_rate": 2.798184366869297e-07, + "loss": 0.0, + "num_input_tokens_seen": 37576128, + "step": 19195 + }, + { + "epoch": 2.5442014579191516, + "grad_norm": 0.7899875044822693, + "learning_rate": 2.796588779661388e-07, + "loss": 0.0041, + "num_input_tokens_seen": 37577696, + "step": 19196 + }, + { + "epoch": 2.544333996023857, + "grad_norm": 1.9544918537139893, + "learning_rate": 2.7949936205505677e-07, + "loss": 0.0093, + "num_input_tokens_seen": 37579336, + "step": 19197 + }, + { + "epoch": 2.5444665341285617, + "grad_norm": 17.732507705688477, + "learning_rate": 2.7933988895675805e-07, + "loss": 0.1545, + "num_input_tokens_seen": 37581248, + "step": 19198 + }, + { + "epoch": 2.544599072233267, + "grad_norm": 3.6685752868652344, + "learning_rate": 2.791804586743191e-07, + "loss": 0.026, + "num_input_tokens_seen": 37582728, + "step": 19199 + }, + { + "epoch": 2.5447316103379722, + "grad_norm": 5.845583915710449, + "learning_rate": 2.7902107121081214e-07, + "loss": 0.0483, + "num_input_tokens_seen": 37584496, + "step": 19200 + }, + { + "epoch": 2.5448641484426773, + "grad_norm": 0.007427958771586418, + "learning_rate": 2.788617265693119e-07, + "loss": 0.0, + "num_input_tokens_seen": 37585664, + "step": 19201 + }, + { + "epoch": 2.5449966865473823, + "grad_norm": 10.987776756286621, + "learning_rate": 2.7870242475288966e-07, + "loss": 0.0613, + "num_input_tokens_seen": 37587448, + "step": 19202 + }, + { + "epoch": 2.5451292246520874, + "grad_norm": 7.798466205596924, + "learning_rate": 2.785431657646165e-07, + "loss": 0.0642, + "num_input_tokens_seen": 37589720, + "step": 19203 + }, + { + "epoch": 2.545261762756793, + "grad_norm": 1.2548589706420898, + "learning_rate": 2.7838394960756436e-07, + "loss": 0.0057, + "num_input_tokens_seen": 37591840, + "step": 19204 + }, + { + "epoch": 2.5453943008614974, + "grad_norm": 0.06541841477155685, + "learning_rate": 2.78224776284802e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37593656, + "step": 19205 + }, + { + "epoch": 2.545526838966203, + "grad_norm": 0.19835114479064941, + "learning_rate": 2.780656457993983e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37595064, + "step": 19206 + }, + { + "epoch": 2.545659377070908, + "grad_norm": 0.21120081841945648, + "learning_rate": 2.779065581544224e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37596536, + "step": 19207 + }, + { + "epoch": 2.545791915175613, + "grad_norm": 0.15744860470294952, + "learning_rate": 2.777475133529403e-07, + "loss": 0.001, + "num_input_tokens_seen": 37598024, + "step": 19208 + }, + { + "epoch": 2.545924453280318, + "grad_norm": 0.012701173312962055, + "learning_rate": 2.775885113980198e-07, + "loss": 0.0, + "num_input_tokens_seen": 37599512, + "step": 19209 + }, + { + "epoch": 2.546056991385023, + "grad_norm": 12.160787582397461, + "learning_rate": 2.774295522927259e-07, + "loss": 0.0622, + "num_input_tokens_seen": 37601528, + "step": 19210 + }, + { + "epoch": 2.5461895294897285, + "grad_norm": 0.011698375456035137, + "learning_rate": 2.7727063604012366e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37603816, + "step": 19211 + }, + { + "epoch": 2.546322067594433, + "grad_norm": 0.06989102810621262, + "learning_rate": 2.771117626432762e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37605976, + "step": 19212 + }, + { + "epoch": 2.5464546056991386, + "grad_norm": 0.026223503053188324, + "learning_rate": 2.7695293210524834e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37608008, + "step": 19213 + }, + { + "epoch": 2.5465871438038437, + "grad_norm": 0.6472287178039551, + "learning_rate": 2.7679414442910057e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37610128, + "step": 19214 + }, + { + "epoch": 2.5467196819085487, + "grad_norm": 0.025056691840291023, + "learning_rate": 2.7663539961789635e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37611824, + "step": 19215 + }, + { + "epoch": 2.5468522200132537, + "grad_norm": 0.002045080531388521, + "learning_rate": 2.764766976746952e-07, + "loss": 0.0, + "num_input_tokens_seen": 37613272, + "step": 19216 + }, + { + "epoch": 2.5469847581179588, + "grad_norm": 5.3993048667907715, + "learning_rate": 2.763180386025566e-07, + "loss": 0.0658, + "num_input_tokens_seen": 37615424, + "step": 19217 + }, + { + "epoch": 2.5471172962226643, + "grad_norm": 5.393725395202637, + "learning_rate": 2.7615942240454106e-07, + "loss": 0.066, + "num_input_tokens_seen": 37617560, + "step": 19218 + }, + { + "epoch": 2.547249834327369, + "grad_norm": 5.836322784423828, + "learning_rate": 2.7600084908370543e-07, + "loss": 0.067, + "num_input_tokens_seen": 37619296, + "step": 19219 + }, + { + "epoch": 2.5473823724320743, + "grad_norm": 0.04517173394560814, + "learning_rate": 2.758423186431081e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37620496, + "step": 19220 + }, + { + "epoch": 2.5475149105367794, + "grad_norm": 2.786724090576172, + "learning_rate": 2.7568383108580536e-07, + "loss": 0.0093, + "num_input_tokens_seen": 37621584, + "step": 19221 + }, + { + "epoch": 2.5476474486414844, + "grad_norm": 0.001452822471037507, + "learning_rate": 2.7552538641485273e-07, + "loss": 0.0, + "num_input_tokens_seen": 37622824, + "step": 19222 + }, + { + "epoch": 2.5477799867461894, + "grad_norm": 0.10762270539999008, + "learning_rate": 2.753669846333046e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37625176, + "step": 19223 + }, + { + "epoch": 2.5479125248508945, + "grad_norm": 0.41375023126602173, + "learning_rate": 2.7520862574421604e-07, + "loss": 0.0023, + "num_input_tokens_seen": 37626936, + "step": 19224 + }, + { + "epoch": 2.5480450629556, + "grad_norm": 9.824305534362793, + "learning_rate": 2.750503097506402e-07, + "loss": 0.0662, + "num_input_tokens_seen": 37628824, + "step": 19225 + }, + { + "epoch": 2.548177601060305, + "grad_norm": 0.004199706017971039, + "learning_rate": 2.748920366556293e-07, + "loss": 0.0, + "num_input_tokens_seen": 37630120, + "step": 19226 + }, + { + "epoch": 2.54831013916501, + "grad_norm": 2.5526397228240967, + "learning_rate": 2.747338064622351e-07, + "loss": 0.0071, + "num_input_tokens_seen": 37631688, + "step": 19227 + }, + { + "epoch": 2.548442677269715, + "grad_norm": 5.496508598327637, + "learning_rate": 2.745756191735083e-07, + "loss": 0.1582, + "num_input_tokens_seen": 37635056, + "step": 19228 + }, + { + "epoch": 2.54857521537442, + "grad_norm": 4.5125250816345215, + "learning_rate": 2.7441747479249825e-07, + "loss": 0.0912, + "num_input_tokens_seen": 37636280, + "step": 19229 + }, + { + "epoch": 2.548707753479125, + "grad_norm": 0.17312651872634888, + "learning_rate": 2.7425937332225456e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37637968, + "step": 19230 + }, + { + "epoch": 2.54884029158383, + "grad_norm": 0.029593251645565033, + "learning_rate": 2.7410131476582615e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37640968, + "step": 19231 + }, + { + "epoch": 2.5489728296885357, + "grad_norm": 0.5128489136695862, + "learning_rate": 2.739432991262597e-07, + "loss": 0.003, + "num_input_tokens_seen": 37642224, + "step": 19232 + }, + { + "epoch": 2.5491053677932407, + "grad_norm": 0.8938080072402954, + "learning_rate": 2.737853264066026e-07, + "loss": 0.0016, + "num_input_tokens_seen": 37644024, + "step": 19233 + }, + { + "epoch": 2.5492379058979457, + "grad_norm": 7.7527055740356445, + "learning_rate": 2.7362739660989927e-07, + "loss": 0.118, + "num_input_tokens_seen": 37646248, + "step": 19234 + }, + { + "epoch": 2.549370444002651, + "grad_norm": 3.9511706829071045, + "learning_rate": 2.734695097391965e-07, + "loss": 0.0244, + "num_input_tokens_seen": 37649048, + "step": 19235 + }, + { + "epoch": 2.549502982107356, + "grad_norm": 0.12787789106369019, + "learning_rate": 2.733116657975368e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37651672, + "step": 19236 + }, + { + "epoch": 2.549635520212061, + "grad_norm": 22.463727951049805, + "learning_rate": 2.73153864787965e-07, + "loss": 0.5195, + "num_input_tokens_seen": 37652952, + "step": 19237 + }, + { + "epoch": 2.549768058316766, + "grad_norm": 2.1905441284179688, + "learning_rate": 2.7299610671352285e-07, + "loss": 0.0137, + "num_input_tokens_seen": 37655040, + "step": 19238 + }, + { + "epoch": 2.5499005964214714, + "grad_norm": 0.0384017750620842, + "learning_rate": 2.7283839157725146e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37657272, + "step": 19239 + }, + { + "epoch": 2.5500331345261764, + "grad_norm": 11.75296401977539, + "learning_rate": 2.7268071938219285e-07, + "loss": 0.1115, + "num_input_tokens_seen": 37659136, + "step": 19240 + }, + { + "epoch": 2.5501656726308815, + "grad_norm": 0.004305411130189896, + "learning_rate": 2.725230901313866e-07, + "loss": 0.0, + "num_input_tokens_seen": 37660808, + "step": 19241 + }, + { + "epoch": 2.5502982107355865, + "grad_norm": 6.9022979736328125, + "learning_rate": 2.7236550382787136e-07, + "loss": 0.1004, + "num_input_tokens_seen": 37663432, + "step": 19242 + }, + { + "epoch": 2.5504307488402915, + "grad_norm": 0.026946282014250755, + "learning_rate": 2.722079604746866e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37665104, + "step": 19243 + }, + { + "epoch": 2.5505632869449966, + "grad_norm": 3.5444226264953613, + "learning_rate": 2.7205046007486885e-07, + "loss": 0.0271, + "num_input_tokens_seen": 37666704, + "step": 19244 + }, + { + "epoch": 2.5506958250497016, + "grad_norm": 0.08248116075992584, + "learning_rate": 2.718930026314551e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37668936, + "step": 19245 + }, + { + "epoch": 2.550828363154407, + "grad_norm": 0.06398060917854309, + "learning_rate": 2.7173558814748173e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37671464, + "step": 19246 + }, + { + "epoch": 2.550960901259112, + "grad_norm": 0.013547554612159729, + "learning_rate": 2.7157821662598285e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37673160, + "step": 19247 + }, + { + "epoch": 2.551093439363817, + "grad_norm": 0.012475227005779743, + "learning_rate": 2.714208880699937e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37675464, + "step": 19248 + }, + { + "epoch": 2.551225977468522, + "grad_norm": 0.47060561180114746, + "learning_rate": 2.712636024825474e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37676688, + "step": 19249 + }, + { + "epoch": 2.5513585155732272, + "grad_norm": 0.4960634708404541, + "learning_rate": 2.7110635986667577e-07, + "loss": 0.0018, + "num_input_tokens_seen": 37678536, + "step": 19250 + }, + { + "epoch": 2.5514910536779323, + "grad_norm": 7.8419976234436035, + "learning_rate": 2.709491602254116e-07, + "loss": 0.0581, + "num_input_tokens_seen": 37681312, + "step": 19251 + }, + { + "epoch": 2.5516235917826373, + "grad_norm": 1.3166944980621338, + "learning_rate": 2.7079200356178557e-07, + "loss": 0.0059, + "num_input_tokens_seen": 37683376, + "step": 19252 + }, + { + "epoch": 2.551756129887343, + "grad_norm": 0.46660521626472473, + "learning_rate": 2.706348898788269e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37685448, + "step": 19253 + }, + { + "epoch": 2.551888667992048, + "grad_norm": 0.11908669769763947, + "learning_rate": 2.704778191795662e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37687192, + "step": 19254 + }, + { + "epoch": 2.552021206096753, + "grad_norm": 0.3663778305053711, + "learning_rate": 2.7032079146703053e-07, + "loss": 0.002, + "num_input_tokens_seen": 37690504, + "step": 19255 + }, + { + "epoch": 2.552153744201458, + "grad_norm": 1.0788378715515137, + "learning_rate": 2.701638067442486e-07, + "loss": 0.0062, + "num_input_tokens_seen": 37692328, + "step": 19256 + }, + { + "epoch": 2.552286282306163, + "grad_norm": 0.003124698530882597, + "learning_rate": 2.7000686501424707e-07, + "loss": 0.0, + "num_input_tokens_seen": 37694048, + "step": 19257 + }, + { + "epoch": 2.552418820410868, + "grad_norm": 6.319106578826904, + "learning_rate": 2.6984996628005136e-07, + "loss": 0.0684, + "num_input_tokens_seen": 37696088, + "step": 19258 + }, + { + "epoch": 2.552551358515573, + "grad_norm": 0.9498832821846008, + "learning_rate": 2.696931105446862e-07, + "loss": 0.0041, + "num_input_tokens_seen": 37698208, + "step": 19259 + }, + { + "epoch": 2.5526838966202785, + "grad_norm": 1.3055788278579712, + "learning_rate": 2.6953629781117654e-07, + "loss": 0.0058, + "num_input_tokens_seen": 37700072, + "step": 19260 + }, + { + "epoch": 2.5528164347249835, + "grad_norm": 0.001714140991680324, + "learning_rate": 2.6937952808254646e-07, + "loss": 0.0, + "num_input_tokens_seen": 37701912, + "step": 19261 + }, + { + "epoch": 2.5529489728296886, + "grad_norm": 0.014134910888969898, + "learning_rate": 2.692228013618178e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37703840, + "step": 19262 + }, + { + "epoch": 2.5530815109343936, + "grad_norm": 4.216078758239746, + "learning_rate": 2.6906611765201236e-07, + "loss": 0.0887, + "num_input_tokens_seen": 37705720, + "step": 19263 + }, + { + "epoch": 2.5532140490390987, + "grad_norm": 0.054867763072252274, + "learning_rate": 2.689094769561515e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37708144, + "step": 19264 + }, + { + "epoch": 2.5533465871438037, + "grad_norm": 0.5840003490447998, + "learning_rate": 2.6875287927725425e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37709696, + "step": 19265 + }, + { + "epoch": 2.5534791252485087, + "grad_norm": 0.18417644500732422, + "learning_rate": 2.6859632461834095e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37711880, + "step": 19266 + }, + { + "epoch": 2.553611663353214, + "grad_norm": 0.951231062412262, + "learning_rate": 2.684398129824303e-07, + "loss": 0.0043, + "num_input_tokens_seen": 37714328, + "step": 19267 + }, + { + "epoch": 2.5537442014579192, + "grad_norm": 0.010857123881578445, + "learning_rate": 2.682833443725394e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37716440, + "step": 19268 + }, + { + "epoch": 2.5538767395626243, + "grad_norm": 0.02390293963253498, + "learning_rate": 2.6812691879168543e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37718104, + "step": 19269 + }, + { + "epoch": 2.5540092776673293, + "grad_norm": 2.378444194793701, + "learning_rate": 2.679705362428836e-07, + "loss": 0.0064, + "num_input_tokens_seen": 37719952, + "step": 19270 + }, + { + "epoch": 2.5541418157720344, + "grad_norm": 0.001149016316048801, + "learning_rate": 2.678141967291495e-07, + "loss": 0.0, + "num_input_tokens_seen": 37720952, + "step": 19271 + }, + { + "epoch": 2.5542743538767394, + "grad_norm": 6.384291648864746, + "learning_rate": 2.676579002534982e-07, + "loss": 0.0276, + "num_input_tokens_seen": 37724000, + "step": 19272 + }, + { + "epoch": 2.5544068919814444, + "grad_norm": 0.007838216610252857, + "learning_rate": 2.675016468189426e-07, + "loss": 0.0, + "num_input_tokens_seen": 37725552, + "step": 19273 + }, + { + "epoch": 2.55453943008615, + "grad_norm": 0.004879423882812262, + "learning_rate": 2.6734543642849553e-07, + "loss": 0.0, + "num_input_tokens_seen": 37727176, + "step": 19274 + }, + { + "epoch": 2.554671968190855, + "grad_norm": 0.009679163806140423, + "learning_rate": 2.671892690851685e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37728360, + "step": 19275 + }, + { + "epoch": 2.55480450629556, + "grad_norm": 7.4938836097717285, + "learning_rate": 2.6703314479197215e-07, + "loss": 0.0764, + "num_input_tokens_seen": 37730544, + "step": 19276 + }, + { + "epoch": 2.554937044400265, + "grad_norm": 0.0029349392279982567, + "learning_rate": 2.6687706355191714e-07, + "loss": 0.0, + "num_input_tokens_seen": 37732768, + "step": 19277 + }, + { + "epoch": 2.55506958250497, + "grad_norm": 2.6308388710021973, + "learning_rate": 2.667210253680136e-07, + "loss": 0.0156, + "num_input_tokens_seen": 37736064, + "step": 19278 + }, + { + "epoch": 2.5552021206096756, + "grad_norm": 3.973207950592041, + "learning_rate": 2.665650302432693e-07, + "loss": 0.0439, + "num_input_tokens_seen": 37738784, + "step": 19279 + }, + { + "epoch": 2.55533465871438, + "grad_norm": 0.0034349444322288036, + "learning_rate": 2.664090781806919e-07, + "loss": 0.0, + "num_input_tokens_seen": 37740120, + "step": 19280 + }, + { + "epoch": 2.5554671968190856, + "grad_norm": 0.006652281153947115, + "learning_rate": 2.6625316918328787e-07, + "loss": 0.0, + "num_input_tokens_seen": 37742248, + "step": 19281 + }, + { + "epoch": 2.5555997349237907, + "grad_norm": 5.322209358215332, + "learning_rate": 2.6609730325406424e-07, + "loss": 0.0717, + "num_input_tokens_seen": 37744368, + "step": 19282 + }, + { + "epoch": 2.5557322730284957, + "grad_norm": 0.8250563740730286, + "learning_rate": 2.659414803960253e-07, + "loss": 0.003, + "num_input_tokens_seen": 37746600, + "step": 19283 + }, + { + "epoch": 2.5558648111332007, + "grad_norm": 6.899227619171143, + "learning_rate": 2.6578570061217614e-07, + "loss": 0.0696, + "num_input_tokens_seen": 37749136, + "step": 19284 + }, + { + "epoch": 2.555997349237906, + "grad_norm": 8.682537078857422, + "learning_rate": 2.6562996390552015e-07, + "loss": 0.0338, + "num_input_tokens_seen": 37752072, + "step": 19285 + }, + { + "epoch": 2.5561298873426113, + "grad_norm": 0.01274094358086586, + "learning_rate": 2.6547427027905944e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37753992, + "step": 19286 + }, + { + "epoch": 2.556262425447316, + "grad_norm": 0.006973768584430218, + "learning_rate": 2.653186197357965e-07, + "loss": 0.0, + "num_input_tokens_seen": 37756224, + "step": 19287 + }, + { + "epoch": 2.5563949635520213, + "grad_norm": 0.036773841828107834, + "learning_rate": 2.6516301227873244e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37759152, + "step": 19288 + }, + { + "epoch": 2.5565275016567264, + "grad_norm": 0.0697697252035141, + "learning_rate": 2.6500744791086664e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37761504, + "step": 19289 + }, + { + "epoch": 2.5566600397614314, + "grad_norm": 0.18524616956710815, + "learning_rate": 2.6485192663519953e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37763056, + "step": 19290 + }, + { + "epoch": 2.5567925778661365, + "grad_norm": 0.08111553639173508, + "learning_rate": 2.6469644845472875e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37766024, + "step": 19291 + }, + { + "epoch": 2.5569251159708415, + "grad_norm": 3.277122974395752, + "learning_rate": 2.6454101337245323e-07, + "loss": 0.0051, + "num_input_tokens_seen": 37767952, + "step": 19292 + }, + { + "epoch": 2.557057654075547, + "grad_norm": 8.206999778747559, + "learning_rate": 2.64385621391369e-07, + "loss": 0.0636, + "num_input_tokens_seen": 37770304, + "step": 19293 + }, + { + "epoch": 2.5571901921802516, + "grad_norm": 0.022250914946198463, + "learning_rate": 2.6423027251447215e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37772840, + "step": 19294 + }, + { + "epoch": 2.557322730284957, + "grad_norm": 0.0005052585038356483, + "learning_rate": 2.6407496674475755e-07, + "loss": 0.0, + "num_input_tokens_seen": 37774176, + "step": 19295 + }, + { + "epoch": 2.557455268389662, + "grad_norm": 0.31731081008911133, + "learning_rate": 2.639197040852201e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37777392, + "step": 19296 + }, + { + "epoch": 2.557587806494367, + "grad_norm": 15.8176851272583, + "learning_rate": 2.63764484538854e-07, + "loss": 0.239, + "num_input_tokens_seen": 37779096, + "step": 19297 + }, + { + "epoch": 2.557720344599072, + "grad_norm": 0.020382242277264595, + "learning_rate": 2.6360930810865103e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37781288, + "step": 19298 + }, + { + "epoch": 2.557852882703777, + "grad_norm": 0.5020246505737305, + "learning_rate": 2.6345417479760354e-07, + "loss": 0.0033, + "num_input_tokens_seen": 37782808, + "step": 19299 + }, + { + "epoch": 2.5579854208084827, + "grad_norm": 0.32342737913131714, + "learning_rate": 2.6329908460870217e-07, + "loss": 0.0017, + "num_input_tokens_seen": 37785024, + "step": 19300 + }, + { + "epoch": 2.5581179589131873, + "grad_norm": 3.78509521484375, + "learning_rate": 2.631440375449379e-07, + "loss": 0.0346, + "num_input_tokens_seen": 37786776, + "step": 19301 + }, + { + "epoch": 2.5582504970178928, + "grad_norm": 0.009793227538466454, + "learning_rate": 2.629890336092991e-07, + "loss": 0.0, + "num_input_tokens_seen": 37788256, + "step": 19302 + }, + { + "epoch": 2.558383035122598, + "grad_norm": 11.976445198059082, + "learning_rate": 2.628340728047754e-07, + "loss": 0.1692, + "num_input_tokens_seen": 37791280, + "step": 19303 + }, + { + "epoch": 2.558515573227303, + "grad_norm": 9.773712158203125, + "learning_rate": 2.626791551343541e-07, + "loss": 0.1128, + "num_input_tokens_seen": 37793368, + "step": 19304 + }, + { + "epoch": 2.558648111332008, + "grad_norm": 2.7494139671325684, + "learning_rate": 2.6252428060102225e-07, + "loss": 0.0332, + "num_input_tokens_seen": 37795424, + "step": 19305 + }, + { + "epoch": 2.558780649436713, + "grad_norm": 0.029653625562787056, + "learning_rate": 2.6236944920776553e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37796552, + "step": 19306 + }, + { + "epoch": 2.5589131875414184, + "grad_norm": 0.1921263039112091, + "learning_rate": 2.622146609575693e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37797856, + "step": 19307 + }, + { + "epoch": 2.5590457256461234, + "grad_norm": 4.230957508087158, + "learning_rate": 2.620599158534184e-07, + "loss": 0.0135, + "num_input_tokens_seen": 37799976, + "step": 19308 + }, + { + "epoch": 2.5591782637508285, + "grad_norm": 3.679116725921631, + "learning_rate": 2.6190521389829665e-07, + "loss": 0.0151, + "num_input_tokens_seen": 37801536, + "step": 19309 + }, + { + "epoch": 2.5593108018555335, + "grad_norm": 0.023809203878045082, + "learning_rate": 2.6175055509518625e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37803616, + "step": 19310 + }, + { + "epoch": 2.5594433399602385, + "grad_norm": 0.1380164474248886, + "learning_rate": 2.6159593944706907e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37805824, + "step": 19311 + }, + { + "epoch": 2.5595758780649436, + "grad_norm": 0.005310839507728815, + "learning_rate": 2.61441366956926e-07, + "loss": 0.0, + "num_input_tokens_seen": 37807304, + "step": 19312 + }, + { + "epoch": 2.5597084161696486, + "grad_norm": 10.6792631149292, + "learning_rate": 2.612868376277375e-07, + "loss": 0.0733, + "num_input_tokens_seen": 37809144, + "step": 19313 + }, + { + "epoch": 2.559840954274354, + "grad_norm": 19.786666870117188, + "learning_rate": 2.6113235146248387e-07, + "loss": 0.1312, + "num_input_tokens_seen": 37811504, + "step": 19314 + }, + { + "epoch": 2.559973492379059, + "grad_norm": 3.425522565841675, + "learning_rate": 2.609779084641431e-07, + "loss": 0.013, + "num_input_tokens_seen": 37813312, + "step": 19315 + }, + { + "epoch": 2.560106030483764, + "grad_norm": 0.09007898718118668, + "learning_rate": 2.608235086356925e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37814888, + "step": 19316 + }, + { + "epoch": 2.560238568588469, + "grad_norm": 0.0021935717668384314, + "learning_rate": 2.606691519801094e-07, + "loss": 0.0, + "num_input_tokens_seen": 37815984, + "step": 19317 + }, + { + "epoch": 2.5603711066931742, + "grad_norm": 0.07366465032100677, + "learning_rate": 2.6051483850037e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37818280, + "step": 19318 + }, + { + "epoch": 2.5605036447978793, + "grad_norm": 0.03161676228046417, + "learning_rate": 2.603605681994489e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37821072, + "step": 19319 + }, + { + "epoch": 2.5606361829025843, + "grad_norm": 0.27088600397109985, + "learning_rate": 2.6020634108032185e-07, + "loss": 0.0009, + "num_input_tokens_seen": 37822672, + "step": 19320 + }, + { + "epoch": 2.56076872100729, + "grad_norm": 3.1013357639312744, + "learning_rate": 2.600521571459616e-07, + "loss": 0.0144, + "num_input_tokens_seen": 37825648, + "step": 19321 + }, + { + "epoch": 2.560901259111995, + "grad_norm": 8.471653938293457, + "learning_rate": 2.598980163993406e-07, + "loss": 0.0646, + "num_input_tokens_seen": 37827592, + "step": 19322 + }, + { + "epoch": 2.5610337972167, + "grad_norm": 10.068063735961914, + "learning_rate": 2.597439188434317e-07, + "loss": 0.0369, + "num_input_tokens_seen": 37829448, + "step": 19323 + }, + { + "epoch": 2.561166335321405, + "grad_norm": 0.9850419759750366, + "learning_rate": 2.5958986448120476e-07, + "loss": 0.0052, + "num_input_tokens_seen": 37831400, + "step": 19324 + }, + { + "epoch": 2.56129887342611, + "grad_norm": 0.22837767004966736, + "learning_rate": 2.5943585331563157e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37832832, + "step": 19325 + }, + { + "epoch": 2.561431411530815, + "grad_norm": 4.082931995391846, + "learning_rate": 2.592818853496809e-07, + "loss": 0.0354, + "num_input_tokens_seen": 37834944, + "step": 19326 + }, + { + "epoch": 2.56156394963552, + "grad_norm": 0.22462134063243866, + "learning_rate": 2.5912796058632063e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37837008, + "step": 19327 + }, + { + "epoch": 2.5616964877402255, + "grad_norm": 0.015617863275110722, + "learning_rate": 2.5897407902851973e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37838872, + "step": 19328 + }, + { + "epoch": 2.5618290258449306, + "grad_norm": 0.010446170344948769, + "learning_rate": 2.588202406792445e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37840000, + "step": 19329 + }, + { + "epoch": 2.5619615639496356, + "grad_norm": 2.222850799560547, + "learning_rate": 2.5866644554146057e-07, + "loss": 0.0069, + "num_input_tokens_seen": 37841872, + "step": 19330 + }, + { + "epoch": 2.5620941020543406, + "grad_norm": 0.017828362062573433, + "learning_rate": 2.585126936181345e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37843432, + "step": 19331 + }, + { + "epoch": 2.5622266401590457, + "grad_norm": 0.03534896299242973, + "learning_rate": 2.583589849122298e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37845600, + "step": 19332 + }, + { + "epoch": 2.5623591782637507, + "grad_norm": 11.328756332397461, + "learning_rate": 2.5820531942671005e-07, + "loss": 0.1134, + "num_input_tokens_seen": 37847304, + "step": 19333 + }, + { + "epoch": 2.5624917163684557, + "grad_norm": 0.7523468732833862, + "learning_rate": 2.580516971645386e-07, + "loss": 0.004, + "num_input_tokens_seen": 37848648, + "step": 19334 + }, + { + "epoch": 2.5626242544731612, + "grad_norm": 5.9187421798706055, + "learning_rate": 2.5789811812867717e-07, + "loss": 0.0544, + "num_input_tokens_seen": 37851128, + "step": 19335 + }, + { + "epoch": 2.5627567925778663, + "grad_norm": 0.001379901310428977, + "learning_rate": 2.5774458232208616e-07, + "loss": 0.0, + "num_input_tokens_seen": 37852520, + "step": 19336 + }, + { + "epoch": 2.5628893306825713, + "grad_norm": 0.5638102293014526, + "learning_rate": 2.5759108974772686e-07, + "loss": 0.0025, + "num_input_tokens_seen": 37854640, + "step": 19337 + }, + { + "epoch": 2.5630218687872763, + "grad_norm": 0.5026506185531616, + "learning_rate": 2.5743764040855795e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37856192, + "step": 19338 + }, + { + "epoch": 2.5631544068919814, + "grad_norm": 3.8375697135925293, + "learning_rate": 2.5728423430753907e-07, + "loss": 0.0283, + "num_input_tokens_seen": 37857440, + "step": 19339 + }, + { + "epoch": 2.5632869449966864, + "grad_norm": 2.4448704719543457, + "learning_rate": 2.57130871447627e-07, + "loss": 0.0096, + "num_input_tokens_seen": 37860000, + "step": 19340 + }, + { + "epoch": 2.5634194831013914, + "grad_norm": 2.7009222507476807, + "learning_rate": 2.569775518317791e-07, + "loss": 0.0631, + "num_input_tokens_seen": 37862280, + "step": 19341 + }, + { + "epoch": 2.563552021206097, + "grad_norm": 0.47407266497612, + "learning_rate": 2.5682427546295103e-07, + "loss": 0.0022, + "num_input_tokens_seen": 37863656, + "step": 19342 + }, + { + "epoch": 2.563684559310802, + "grad_norm": 0.9600747227668762, + "learning_rate": 2.5667104234409824e-07, + "loss": 0.0034, + "num_input_tokens_seen": 37865312, + "step": 19343 + }, + { + "epoch": 2.563817097415507, + "grad_norm": 0.0018711484735831618, + "learning_rate": 2.565178524781761e-07, + "loss": 0.0, + "num_input_tokens_seen": 37866984, + "step": 19344 + }, + { + "epoch": 2.563949635520212, + "grad_norm": 0.045118555426597595, + "learning_rate": 2.563647058681373e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37868448, + "step": 19345 + }, + { + "epoch": 2.564082173624917, + "grad_norm": 5.06044864654541, + "learning_rate": 2.5621160251693476e-07, + "loss": 0.0142, + "num_input_tokens_seen": 37871336, + "step": 19346 + }, + { + "epoch": 2.564214711729622, + "grad_norm": 9.049171447753906, + "learning_rate": 2.560585424275203e-07, + "loss": 0.0994, + "num_input_tokens_seen": 37874000, + "step": 19347 + }, + { + "epoch": 2.564347249834327, + "grad_norm": 0.03440026193857193, + "learning_rate": 2.5590552560284477e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37875832, + "step": 19348 + }, + { + "epoch": 2.5644797879390326, + "grad_norm": 9.536746978759766, + "learning_rate": 2.55752552045859e-07, + "loss": 0.0276, + "num_input_tokens_seen": 37877584, + "step": 19349 + }, + { + "epoch": 2.5646123260437377, + "grad_norm": 3.630237102508545, + "learning_rate": 2.5559962175951246e-07, + "loss": 0.0248, + "num_input_tokens_seen": 37879368, + "step": 19350 + }, + { + "epoch": 2.5647448641484427, + "grad_norm": 3.94929575920105, + "learning_rate": 2.5544673474675376e-07, + "loss": 0.0321, + "num_input_tokens_seen": 37881112, + "step": 19351 + }, + { + "epoch": 2.5648774022531478, + "grad_norm": 6.679806232452393, + "learning_rate": 2.552938910105304e-07, + "loss": 0.0244, + "num_input_tokens_seen": 37883528, + "step": 19352 + }, + { + "epoch": 2.565009940357853, + "grad_norm": 0.3834489583969116, + "learning_rate": 2.551410905537888e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37885984, + "step": 19353 + }, + { + "epoch": 2.565142478462558, + "grad_norm": 0.0032387960236519575, + "learning_rate": 2.5498833337947587e-07, + "loss": 0.0, + "num_input_tokens_seen": 37888456, + "step": 19354 + }, + { + "epoch": 2.565275016567263, + "grad_norm": 0.05228766053915024, + "learning_rate": 2.5483561949053686e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37890064, + "step": 19355 + }, + { + "epoch": 2.5654075546719683, + "grad_norm": 4.123272895812988, + "learning_rate": 2.5468294888991606e-07, + "loss": 0.0394, + "num_input_tokens_seen": 37892072, + "step": 19356 + }, + { + "epoch": 2.5655400927766734, + "grad_norm": 0.0013840856263414025, + "learning_rate": 2.5453032158055695e-07, + "loss": 0.0, + "num_input_tokens_seen": 37893952, + "step": 19357 + }, + { + "epoch": 2.5656726308813784, + "grad_norm": 2.8300416469573975, + "learning_rate": 2.543777375654022e-07, + "loss": 0.0223, + "num_input_tokens_seen": 37895936, + "step": 19358 + }, + { + "epoch": 2.5658051689860835, + "grad_norm": 11.97438907623291, + "learning_rate": 2.5422519684739353e-07, + "loss": 0.0777, + "num_input_tokens_seen": 37898264, + "step": 19359 + }, + { + "epoch": 2.5659377070907885, + "grad_norm": 0.0016476156888529658, + "learning_rate": 2.5407269942947233e-07, + "loss": 0.0, + "num_input_tokens_seen": 37899664, + "step": 19360 + }, + { + "epoch": 2.566070245195494, + "grad_norm": 0.002000865526497364, + "learning_rate": 2.539202453145792e-07, + "loss": 0.0, + "num_input_tokens_seen": 37900840, + "step": 19361 + }, + { + "epoch": 2.5662027833001986, + "grad_norm": 2.706514835357666, + "learning_rate": 2.5376783450565353e-07, + "loss": 0.0161, + "num_input_tokens_seen": 37902120, + "step": 19362 + }, + { + "epoch": 2.566335321404904, + "grad_norm": 0.2820376753807068, + "learning_rate": 2.536154670056332e-07, + "loss": 0.0017, + "num_input_tokens_seen": 37905312, + "step": 19363 + }, + { + "epoch": 2.566467859509609, + "grad_norm": 0.0015822445275261998, + "learning_rate": 2.534631428174561e-07, + "loss": 0.0, + "num_input_tokens_seen": 37906896, + "step": 19364 + }, + { + "epoch": 2.566600397614314, + "grad_norm": 0.03181130811572075, + "learning_rate": 2.5331086194405997e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37908792, + "step": 19365 + }, + { + "epoch": 2.566732935719019, + "grad_norm": 0.0025381636805832386, + "learning_rate": 2.531586243883799e-07, + "loss": 0.0, + "num_input_tokens_seen": 37910280, + "step": 19366 + }, + { + "epoch": 2.566865473823724, + "grad_norm": 3.2885313034057617, + "learning_rate": 2.530064301533519e-07, + "loss": 0.0233, + "num_input_tokens_seen": 37912600, + "step": 19367 + }, + { + "epoch": 2.5669980119284297, + "grad_norm": 0.004531858488917351, + "learning_rate": 2.5285427924191e-07, + "loss": 0.0, + "num_input_tokens_seen": 37913728, + "step": 19368 + }, + { + "epoch": 2.5671305500331343, + "grad_norm": 1.7539565563201904, + "learning_rate": 2.5270217165698747e-07, + "loss": 0.0055, + "num_input_tokens_seen": 37915152, + "step": 19369 + }, + { + "epoch": 2.5672630881378398, + "grad_norm": 0.057718753814697266, + "learning_rate": 2.525501074015177e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37916456, + "step": 19370 + }, + { + "epoch": 2.567395626242545, + "grad_norm": 12.765116691589355, + "learning_rate": 2.5239808647843253e-07, + "loss": 0.1194, + "num_input_tokens_seen": 37918208, + "step": 19371 + }, + { + "epoch": 2.56752816434725, + "grad_norm": 0.01136563066393137, + "learning_rate": 2.522461088906622e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37920672, + "step": 19372 + }, + { + "epoch": 2.567660702451955, + "grad_norm": 14.36377239227295, + "learning_rate": 2.520941746411379e-07, + "loss": 0.1969, + "num_input_tokens_seen": 37923472, + "step": 19373 + }, + { + "epoch": 2.56779324055666, + "grad_norm": 0.7322146892547607, + "learning_rate": 2.519422837327884e-07, + "loss": 0.0035, + "num_input_tokens_seen": 37925856, + "step": 19374 + }, + { + "epoch": 2.5679257786613654, + "grad_norm": 6.907450199127197, + "learning_rate": 2.517904361685428e-07, + "loss": 0.0812, + "num_input_tokens_seen": 37927664, + "step": 19375 + }, + { + "epoch": 2.56805831676607, + "grad_norm": 7.3366498947143555, + "learning_rate": 2.5163863195132865e-07, + "loss": 0.1034, + "num_input_tokens_seen": 37929376, + "step": 19376 + }, + { + "epoch": 2.5681908548707755, + "grad_norm": 0.0013101528165861964, + "learning_rate": 2.514868710840723e-07, + "loss": 0.0, + "num_input_tokens_seen": 37930592, + "step": 19377 + }, + { + "epoch": 2.5683233929754805, + "grad_norm": 3.063955783843994, + "learning_rate": 2.513351535697009e-07, + "loss": 0.0069, + "num_input_tokens_seen": 37932096, + "step": 19378 + }, + { + "epoch": 2.5684559310801856, + "grad_norm": 0.02319006808102131, + "learning_rate": 2.511834794111381e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37934056, + "step": 19379 + }, + { + "epoch": 2.5685884691848906, + "grad_norm": 5.567600250244141, + "learning_rate": 2.5103184861131e-07, + "loss": 0.0254, + "num_input_tokens_seen": 37937240, + "step": 19380 + }, + { + "epoch": 2.5687210072895956, + "grad_norm": 0.0043224976398050785, + "learning_rate": 2.508802611731392e-07, + "loss": 0.0, + "num_input_tokens_seen": 37938816, + "step": 19381 + }, + { + "epoch": 2.568853545394301, + "grad_norm": 2.747615098953247, + "learning_rate": 2.5072871709954874e-07, + "loss": 0.0106, + "num_input_tokens_seen": 37940816, + "step": 19382 + }, + { + "epoch": 2.5689860834990057, + "grad_norm": 1.1238667964935303, + "learning_rate": 2.5057721639345974e-07, + "loss": 0.0033, + "num_input_tokens_seen": 37942704, + "step": 19383 + }, + { + "epoch": 2.569118621603711, + "grad_norm": 3.017476797103882, + "learning_rate": 2.5042575905779356e-07, + "loss": 0.0213, + "num_input_tokens_seen": 37945104, + "step": 19384 + }, + { + "epoch": 2.569251159708416, + "grad_norm": 4.955749034881592, + "learning_rate": 2.5027434509547143e-07, + "loss": 0.0155, + "num_input_tokens_seen": 37947232, + "step": 19385 + }, + { + "epoch": 2.5693836978131213, + "grad_norm": 0.21100133657455444, + "learning_rate": 2.5012297450941166e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37949056, + "step": 19386 + }, + { + "epoch": 2.5695162359178263, + "grad_norm": 6.351183891296387, + "learning_rate": 2.499716473025332e-07, + "loss": 0.0398, + "num_input_tokens_seen": 37950632, + "step": 19387 + }, + { + "epoch": 2.5696487740225313, + "grad_norm": 0.02148575708270073, + "learning_rate": 2.498203634777538e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37951992, + "step": 19388 + }, + { + "epoch": 2.569781312127237, + "grad_norm": 0.032897453755140305, + "learning_rate": 2.496691230379894e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37953448, + "step": 19389 + }, + { + "epoch": 2.5699138502319414, + "grad_norm": 1.4907045364379883, + "learning_rate": 2.4951792598615686e-07, + "loss": 0.0059, + "num_input_tokens_seen": 37955320, + "step": 19390 + }, + { + "epoch": 2.570046388336647, + "grad_norm": 13.814324378967285, + "learning_rate": 2.4936677232517167e-07, + "loss": 0.0575, + "num_input_tokens_seen": 37957568, + "step": 19391 + }, + { + "epoch": 2.570178926441352, + "grad_norm": 0.006732525769621134, + "learning_rate": 2.4921566205794753e-07, + "loss": 0.0, + "num_input_tokens_seen": 37960464, + "step": 19392 + }, + { + "epoch": 2.570311464546057, + "grad_norm": 0.5687081217765808, + "learning_rate": 2.4906459518739823e-07, + "loss": 0.003, + "num_input_tokens_seen": 37962160, + "step": 19393 + }, + { + "epoch": 2.570444002650762, + "grad_norm": 0.6054650545120239, + "learning_rate": 2.4891357171643646e-07, + "loss": 0.0046, + "num_input_tokens_seen": 37964656, + "step": 19394 + }, + { + "epoch": 2.570576540755467, + "grad_norm": 0.7665790915489197, + "learning_rate": 2.487625916479736e-07, + "loss": 0.003, + "num_input_tokens_seen": 37967008, + "step": 19395 + }, + { + "epoch": 2.5707090788601725, + "grad_norm": 0.005277692805975676, + "learning_rate": 2.4861165498492104e-07, + "loss": 0.0, + "num_input_tokens_seen": 37969608, + "step": 19396 + }, + { + "epoch": 2.5708416169648776, + "grad_norm": 1.2636367082595825, + "learning_rate": 2.484607617301893e-07, + "loss": 0.01, + "num_input_tokens_seen": 37971960, + "step": 19397 + }, + { + "epoch": 2.5709741550695826, + "grad_norm": 0.01345908734947443, + "learning_rate": 2.483099118866872e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37973720, + "step": 19398 + }, + { + "epoch": 2.5711066931742876, + "grad_norm": 0.01251994352787733, + "learning_rate": 2.4815910545732347e-07, + "loss": 0.0, + "num_input_tokens_seen": 37975864, + "step": 19399 + }, + { + "epoch": 2.5712392312789927, + "grad_norm": 2.6812777519226074, + "learning_rate": 2.4800834244500525e-07, + "loss": 0.039, + "num_input_tokens_seen": 37977504, + "step": 19400 + }, + { + "epoch": 2.5713717693836977, + "grad_norm": 0.0434565432369709, + "learning_rate": 2.4785762285264025e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37979480, + "step": 19401 + }, + { + "epoch": 2.5715043074884028, + "grad_norm": 1.7957371473312378, + "learning_rate": 2.477069466831333e-07, + "loss": 0.0043, + "num_input_tokens_seen": 37982216, + "step": 19402 + }, + { + "epoch": 2.5716368455931082, + "grad_norm": 10.812566757202148, + "learning_rate": 2.4755631393939077e-07, + "loss": 0.0906, + "num_input_tokens_seen": 37984248, + "step": 19403 + }, + { + "epoch": 2.5717693836978133, + "grad_norm": 0.027528712525963783, + "learning_rate": 2.474057246243164e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37987032, + "step": 19404 + }, + { + "epoch": 2.5719019218025183, + "grad_norm": 1.2115453481674194, + "learning_rate": 2.472551787408131e-07, + "loss": 0.0057, + "num_input_tokens_seen": 37989040, + "step": 19405 + }, + { + "epoch": 2.5720344599072233, + "grad_norm": 0.01788945496082306, + "learning_rate": 2.4710467629178475e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37991800, + "step": 19406 + }, + { + "epoch": 2.5721669980119284, + "grad_norm": 0.0048600719310343266, + "learning_rate": 2.4695421728013176e-07, + "loss": 0.0, + "num_input_tokens_seen": 37993640, + "step": 19407 + }, + { + "epoch": 2.5722995361166334, + "grad_norm": 7.064468860626221, + "learning_rate": 2.4680380170875623e-07, + "loss": 0.1352, + "num_input_tokens_seen": 37995912, + "step": 19408 + }, + { + "epoch": 2.5724320742213385, + "grad_norm": 0.0709582045674324, + "learning_rate": 2.466534295805578e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37998240, + "step": 19409 + }, + { + "epoch": 2.572564612326044, + "grad_norm": 0.09355524182319641, + "learning_rate": 2.465031008984353e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38000184, + "step": 19410 + }, + { + "epoch": 2.572697150430749, + "grad_norm": 0.36136022210121155, + "learning_rate": 2.463528156652881e-07, + "loss": 0.002, + "num_input_tokens_seen": 38001216, + "step": 19411 + }, + { + "epoch": 2.572829688535454, + "grad_norm": 0.009657833725214005, + "learning_rate": 2.462025738840135e-07, + "loss": 0.0, + "num_input_tokens_seen": 38002744, + "step": 19412 + }, + { + "epoch": 2.572962226640159, + "grad_norm": 6.810157299041748, + "learning_rate": 2.460523755575073e-07, + "loss": 0.0534, + "num_input_tokens_seen": 38004672, + "step": 19413 + }, + { + "epoch": 2.573094764744864, + "grad_norm": 7.609522819519043, + "learning_rate": 2.4590222068866685e-07, + "loss": 0.1706, + "num_input_tokens_seen": 38007064, + "step": 19414 + }, + { + "epoch": 2.573227302849569, + "grad_norm": 15.750736236572266, + "learning_rate": 2.457521092803866e-07, + "loss": 0.1735, + "num_input_tokens_seen": 38009248, + "step": 19415 + }, + { + "epoch": 2.573359840954274, + "grad_norm": 0.0074454983696341515, + "learning_rate": 2.4560204133556033e-07, + "loss": 0.0, + "num_input_tokens_seen": 38010984, + "step": 19416 + }, + { + "epoch": 2.5734923790589797, + "grad_norm": 4.2924885749816895, + "learning_rate": 2.454520168570826e-07, + "loss": 0.0201, + "num_input_tokens_seen": 38014264, + "step": 19417 + }, + { + "epoch": 2.5736249171636847, + "grad_norm": 5.503175735473633, + "learning_rate": 2.45302035847845e-07, + "loss": 0.0349, + "num_input_tokens_seen": 38015880, + "step": 19418 + }, + { + "epoch": 2.5737574552683897, + "grad_norm": 9.279829025268555, + "learning_rate": 2.4515209831073915e-07, + "loss": 0.0426, + "num_input_tokens_seen": 38017336, + "step": 19419 + }, + { + "epoch": 2.5738899933730948, + "grad_norm": 0.6075912714004517, + "learning_rate": 2.4500220424865715e-07, + "loss": 0.0029, + "num_input_tokens_seen": 38020208, + "step": 19420 + }, + { + "epoch": 2.5740225314778, + "grad_norm": 0.03560463711619377, + "learning_rate": 2.4485235366448754e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38022656, + "step": 19421 + }, + { + "epoch": 2.574155069582505, + "grad_norm": 4.7690629959106445, + "learning_rate": 2.447025465611208e-07, + "loss": 0.0246, + "num_input_tokens_seen": 38024776, + "step": 19422 + }, + { + "epoch": 2.57428760768721, + "grad_norm": 7.32528829574585, + "learning_rate": 2.4455278294144486e-07, + "loss": 0.0836, + "num_input_tokens_seen": 38026544, + "step": 19423 + }, + { + "epoch": 2.5744201457919154, + "grad_norm": 7.695858478546143, + "learning_rate": 2.444030628083474e-07, + "loss": 0.0485, + "num_input_tokens_seen": 38028320, + "step": 19424 + }, + { + "epoch": 2.5745526838966204, + "grad_norm": 9.423506736755371, + "learning_rate": 2.442533861647142e-07, + "loss": 0.1202, + "num_input_tokens_seen": 38030616, + "step": 19425 + }, + { + "epoch": 2.5746852220013254, + "grad_norm": 23.255292892456055, + "learning_rate": 2.4410375301343186e-07, + "loss": 0.1148, + "num_input_tokens_seen": 38033120, + "step": 19426 + }, + { + "epoch": 2.5748177601060305, + "grad_norm": 0.008706755936145782, + "learning_rate": 2.439541633573861e-07, + "loss": 0.0, + "num_input_tokens_seen": 38034688, + "step": 19427 + }, + { + "epoch": 2.5749502982107355, + "grad_norm": 5.490692615509033, + "learning_rate": 2.438046171994604e-07, + "loss": 0.0445, + "num_input_tokens_seen": 38036232, + "step": 19428 + }, + { + "epoch": 2.5750828363154405, + "grad_norm": 3.0497794151306152, + "learning_rate": 2.436551145425381e-07, + "loss": 0.0089, + "num_input_tokens_seen": 38038600, + "step": 19429 + }, + { + "epoch": 2.5752153744201456, + "grad_norm": 0.4662231504917145, + "learning_rate": 2.435056553895013e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38040184, + "step": 19430 + }, + { + "epoch": 2.575347912524851, + "grad_norm": 0.02149279974400997, + "learning_rate": 2.4335623974323207e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38042480, + "step": 19431 + }, + { + "epoch": 2.575480450629556, + "grad_norm": 3.182718276977539, + "learning_rate": 2.4320686760661184e-07, + "loss": 0.0127, + "num_input_tokens_seen": 38044416, + "step": 19432 + }, + { + "epoch": 2.575612988734261, + "grad_norm": 0.019041849300265312, + "learning_rate": 2.430575389825202e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38046376, + "step": 19433 + }, + { + "epoch": 2.575745526838966, + "grad_norm": 4.771291732788086, + "learning_rate": 2.429082538738359e-07, + "loss": 0.0645, + "num_input_tokens_seen": 38049256, + "step": 19434 + }, + { + "epoch": 2.575878064943671, + "grad_norm": 0.003284144913777709, + "learning_rate": 2.4275901228343777e-07, + "loss": 0.0, + "num_input_tokens_seen": 38050552, + "step": 19435 + }, + { + "epoch": 2.5760106030483763, + "grad_norm": 23.600391387939453, + "learning_rate": 2.426098142142025e-07, + "loss": 0.2925, + "num_input_tokens_seen": 38052880, + "step": 19436 + }, + { + "epoch": 2.5761431411530813, + "grad_norm": 1.059726357460022, + "learning_rate": 2.424606596690074e-07, + "loss": 0.0053, + "num_input_tokens_seen": 38055184, + "step": 19437 + }, + { + "epoch": 2.5762756792577868, + "grad_norm": 9.864409446716309, + "learning_rate": 2.4231154865072883e-07, + "loss": 0.0227, + "num_input_tokens_seen": 38056752, + "step": 19438 + }, + { + "epoch": 2.576408217362492, + "grad_norm": 7.650106430053711, + "learning_rate": 2.4216248116224084e-07, + "loss": 0.0525, + "num_input_tokens_seen": 38058736, + "step": 19439 + }, + { + "epoch": 2.576540755467197, + "grad_norm": 6.320418357849121, + "learning_rate": 2.4201345720641783e-07, + "loss": 0.073, + "num_input_tokens_seen": 38060528, + "step": 19440 + }, + { + "epoch": 2.576673293571902, + "grad_norm": 2.3626770973205566, + "learning_rate": 2.418644767861325e-07, + "loss": 0.0057, + "num_input_tokens_seen": 38062616, + "step": 19441 + }, + { + "epoch": 2.576805831676607, + "grad_norm": 16.425256729125977, + "learning_rate": 2.417155399042587e-07, + "loss": 0.241, + "num_input_tokens_seen": 38064256, + "step": 19442 + }, + { + "epoch": 2.576938369781312, + "grad_norm": 2.527681827545166, + "learning_rate": 2.415666465636665e-07, + "loss": 0.01, + "num_input_tokens_seen": 38066320, + "step": 19443 + }, + { + "epoch": 2.577070907886017, + "grad_norm": 1.396911859512329, + "learning_rate": 2.4141779676722767e-07, + "loss": 0.0149, + "num_input_tokens_seen": 38067856, + "step": 19444 + }, + { + "epoch": 2.5772034459907225, + "grad_norm": 8.709297180175781, + "learning_rate": 2.4126899051781197e-07, + "loss": 0.1239, + "num_input_tokens_seen": 38069904, + "step": 19445 + }, + { + "epoch": 2.5773359840954275, + "grad_norm": 0.007917642593383789, + "learning_rate": 2.4112022781828836e-07, + "loss": 0.0, + "num_input_tokens_seen": 38071352, + "step": 19446 + }, + { + "epoch": 2.5774685222001326, + "grad_norm": 0.009600375778973103, + "learning_rate": 2.4097150867152474e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38073064, + "step": 19447 + }, + { + "epoch": 2.5776010603048376, + "grad_norm": 0.0012321866815909743, + "learning_rate": 2.408228330803891e-07, + "loss": 0.0, + "num_input_tokens_seen": 38074136, + "step": 19448 + }, + { + "epoch": 2.5777335984095426, + "grad_norm": 0.03692163527011871, + "learning_rate": 2.406742010477475e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38076296, + "step": 19449 + }, + { + "epoch": 2.577866136514248, + "grad_norm": 12.00407600402832, + "learning_rate": 2.405256125764663e-07, + "loss": 0.1698, + "num_input_tokens_seen": 38077592, + "step": 19450 + }, + { + "epoch": 2.5779986746189527, + "grad_norm": 0.9321497678756714, + "learning_rate": 2.4037706766941007e-07, + "loss": 0.0028, + "num_input_tokens_seen": 38079432, + "step": 19451 + }, + { + "epoch": 2.578131212723658, + "grad_norm": 0.004490045364946127, + "learning_rate": 2.4022856632944236e-07, + "loss": 0.0, + "num_input_tokens_seen": 38081592, + "step": 19452 + }, + { + "epoch": 2.5782637508283632, + "grad_norm": 0.280457466840744, + "learning_rate": 2.4008010855942734e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38083448, + "step": 19453 + }, + { + "epoch": 2.5783962889330683, + "grad_norm": 3.5100326538085938, + "learning_rate": 2.3993169436222624e-07, + "loss": 0.0321, + "num_input_tokens_seen": 38085864, + "step": 19454 + }, + { + "epoch": 2.5785288270377733, + "grad_norm": 0.13419193029403687, + "learning_rate": 2.3978332374070186e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38087208, + "step": 19455 + }, + { + "epoch": 2.5786613651424783, + "grad_norm": 1.6064867973327637, + "learning_rate": 2.3963499669771406e-07, + "loss": 0.0045, + "num_input_tokens_seen": 38088368, + "step": 19456 + }, + { + "epoch": 2.578793903247184, + "grad_norm": 28.58725357055664, + "learning_rate": 2.3948671323612253e-07, + "loss": 0.1833, + "num_input_tokens_seen": 38090264, + "step": 19457 + }, + { + "epoch": 2.5789264413518884, + "grad_norm": 5.1721272468566895, + "learning_rate": 2.3933847335878695e-07, + "loss": 0.0401, + "num_input_tokens_seen": 38091976, + "step": 19458 + }, + { + "epoch": 2.579058979456594, + "grad_norm": 0.002186292316764593, + "learning_rate": 2.3919027706856526e-07, + "loss": 0.0, + "num_input_tokens_seen": 38093960, + "step": 19459 + }, + { + "epoch": 2.579191517561299, + "grad_norm": 6.574543476104736, + "learning_rate": 2.3904212436831415e-07, + "loss": 0.0453, + "num_input_tokens_seen": 38096240, + "step": 19460 + }, + { + "epoch": 2.579324055666004, + "grad_norm": 0.00038848823169246316, + "learning_rate": 2.388940152608912e-07, + "loss": 0.0, + "num_input_tokens_seen": 38097864, + "step": 19461 + }, + { + "epoch": 2.579456593770709, + "grad_norm": 0.01779775694012642, + "learning_rate": 2.3874594974915094e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38099696, + "step": 19462 + }, + { + "epoch": 2.579589131875414, + "grad_norm": 5.215701103210449, + "learning_rate": 2.38597927835949e-07, + "loss": 0.0398, + "num_input_tokens_seen": 38102000, + "step": 19463 + }, + { + "epoch": 2.5797216699801195, + "grad_norm": 15.066582679748535, + "learning_rate": 2.384499495241394e-07, + "loss": 0.0579, + "num_input_tokens_seen": 38104032, + "step": 19464 + }, + { + "epoch": 2.579854208084824, + "grad_norm": 8.454154014587402, + "learning_rate": 2.383020148165749e-07, + "loss": 0.0599, + "num_input_tokens_seen": 38106080, + "step": 19465 + }, + { + "epoch": 2.5799867461895296, + "grad_norm": 2.4973719120025635, + "learning_rate": 2.3815412371610725e-07, + "loss": 0.0112, + "num_input_tokens_seen": 38107840, + "step": 19466 + }, + { + "epoch": 2.5801192842942346, + "grad_norm": 0.7363899946212769, + "learning_rate": 2.3800627622558858e-07, + "loss": 0.0038, + "num_input_tokens_seen": 38109472, + "step": 19467 + }, + { + "epoch": 2.5802518223989397, + "grad_norm": 4.367335796356201, + "learning_rate": 2.3785847234786968e-07, + "loss": 0.0109, + "num_input_tokens_seen": 38111848, + "step": 19468 + }, + { + "epoch": 2.5803843605036447, + "grad_norm": 0.006820421665906906, + "learning_rate": 2.3771071208580022e-07, + "loss": 0.0, + "num_input_tokens_seen": 38113264, + "step": 19469 + }, + { + "epoch": 2.5805168986083498, + "grad_norm": 12.771903991699219, + "learning_rate": 2.375629954422287e-07, + "loss": 0.0904, + "num_input_tokens_seen": 38115184, + "step": 19470 + }, + { + "epoch": 2.5806494367130552, + "grad_norm": 0.007003570906817913, + "learning_rate": 2.3741532242000347e-07, + "loss": 0.0, + "num_input_tokens_seen": 38116176, + "step": 19471 + }, + { + "epoch": 2.58078197481776, + "grad_norm": 1.1385854482650757, + "learning_rate": 2.372676930219711e-07, + "loss": 0.0049, + "num_input_tokens_seen": 38118240, + "step": 19472 + }, + { + "epoch": 2.5809145129224653, + "grad_norm": 0.1380559653043747, + "learning_rate": 2.3712010725097879e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38120560, + "step": 19473 + }, + { + "epoch": 2.5810470510271704, + "grad_norm": 9.46606731414795, + "learning_rate": 2.3697256510987227e-07, + "loss": 0.2537, + "num_input_tokens_seen": 38123360, + "step": 19474 + }, + { + "epoch": 2.5811795891318754, + "grad_norm": 0.026126910001039505, + "learning_rate": 2.3682506660149597e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38124720, + "step": 19475 + }, + { + "epoch": 2.5813121272365804, + "grad_norm": 0.19773024320602417, + "learning_rate": 2.366776117286934e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38126520, + "step": 19476 + }, + { + "epoch": 2.5814446653412855, + "grad_norm": 6.872732639312744, + "learning_rate": 2.365302004943082e-07, + "loss": 0.0982, + "num_input_tokens_seen": 38129176, + "step": 19477 + }, + { + "epoch": 2.581577203445991, + "grad_norm": 0.002044921973720193, + "learning_rate": 2.3638283290118163e-07, + "loss": 0.0, + "num_input_tokens_seen": 38130544, + "step": 19478 + }, + { + "epoch": 2.581709741550696, + "grad_norm": 0.2781258225440979, + "learning_rate": 2.3623550895215563e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38131624, + "step": 19479 + }, + { + "epoch": 2.581842279655401, + "grad_norm": 4.32877779006958, + "learning_rate": 2.3608822865007097e-07, + "loss": 0.0794, + "num_input_tokens_seen": 38134696, + "step": 19480 + }, + { + "epoch": 2.581974817760106, + "grad_norm": 0.003592919558286667, + "learning_rate": 2.3594099199776733e-07, + "loss": 0.0, + "num_input_tokens_seen": 38136800, + "step": 19481 + }, + { + "epoch": 2.582107355864811, + "grad_norm": 0.002581442706286907, + "learning_rate": 2.3579379899808326e-07, + "loss": 0.0, + "num_input_tokens_seen": 38138488, + "step": 19482 + }, + { + "epoch": 2.582239893969516, + "grad_norm": 0.026846833527088165, + "learning_rate": 2.356466496538562e-07, + "loss": 0.0, + "num_input_tokens_seen": 38139944, + "step": 19483 + }, + { + "epoch": 2.582372432074221, + "grad_norm": 2.8415000438690186, + "learning_rate": 2.3549954396792363e-07, + "loss": 0.0217, + "num_input_tokens_seen": 38141336, + "step": 19484 + }, + { + "epoch": 2.5825049701789267, + "grad_norm": 21.553850173950195, + "learning_rate": 2.3535248194312272e-07, + "loss": 0.0164, + "num_input_tokens_seen": 38143168, + "step": 19485 + }, + { + "epoch": 2.5826375082836317, + "grad_norm": 5.537283420562744, + "learning_rate": 2.352054635822884e-07, + "loss": 0.0496, + "num_input_tokens_seen": 38144864, + "step": 19486 + }, + { + "epoch": 2.5827700463883367, + "grad_norm": 13.871557235717773, + "learning_rate": 2.3505848888825482e-07, + "loss": 0.18, + "num_input_tokens_seen": 38147120, + "step": 19487 + }, + { + "epoch": 2.5829025844930418, + "grad_norm": 4.882599830627441, + "learning_rate": 2.3491155786385583e-07, + "loss": 0.0397, + "num_input_tokens_seen": 38149392, + "step": 19488 + }, + { + "epoch": 2.583035122597747, + "grad_norm": 0.00277733919210732, + "learning_rate": 2.3476467051192497e-07, + "loss": 0.0, + "num_input_tokens_seen": 38150984, + "step": 19489 + }, + { + "epoch": 2.583167660702452, + "grad_norm": 0.09833642840385437, + "learning_rate": 2.346178268352936e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38153768, + "step": 19490 + }, + { + "epoch": 2.583300198807157, + "grad_norm": 8.486614227294922, + "learning_rate": 2.344710268367939e-07, + "loss": 0.1154, + "num_input_tokens_seen": 38155832, + "step": 19491 + }, + { + "epoch": 2.5834327369118624, + "grad_norm": 4.544781684875488, + "learning_rate": 2.3432427051925555e-07, + "loss": 0.0419, + "num_input_tokens_seen": 38158288, + "step": 19492 + }, + { + "epoch": 2.5835652750165674, + "grad_norm": 2.195694923400879, + "learning_rate": 2.3417755788550767e-07, + "loss": 0.0252, + "num_input_tokens_seen": 38160488, + "step": 19493 + }, + { + "epoch": 2.5836978131212724, + "grad_norm": 0.29723379015922546, + "learning_rate": 2.3403088893838021e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38163312, + "step": 19494 + }, + { + "epoch": 2.5838303512259775, + "grad_norm": 1.874769687652588, + "learning_rate": 2.3388426368070067e-07, + "loss": 0.0139, + "num_input_tokens_seen": 38165120, + "step": 19495 + }, + { + "epoch": 2.5839628893306825, + "grad_norm": 0.006234204396605492, + "learning_rate": 2.3373768211529506e-07, + "loss": 0.0, + "num_input_tokens_seen": 38166968, + "step": 19496 + }, + { + "epoch": 2.5840954274353876, + "grad_norm": 0.1711202710866928, + "learning_rate": 2.335911442449909e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38168456, + "step": 19497 + }, + { + "epoch": 2.5842279655400926, + "grad_norm": 9.714573860168457, + "learning_rate": 2.334446500726123e-07, + "loss": 0.0447, + "num_input_tokens_seen": 38170640, + "step": 19498 + }, + { + "epoch": 2.584360503644798, + "grad_norm": 0.0012651566648855805, + "learning_rate": 2.3329819960098532e-07, + "loss": 0.0, + "num_input_tokens_seen": 38172104, + "step": 19499 + }, + { + "epoch": 2.584493041749503, + "grad_norm": 0.005524888634681702, + "learning_rate": 2.3315179283293242e-07, + "loss": 0.0, + "num_input_tokens_seen": 38173224, + "step": 19500 + }, + { + "epoch": 2.584625579854208, + "grad_norm": 12.879678726196289, + "learning_rate": 2.3300542977127695e-07, + "loss": 0.1676, + "num_input_tokens_seen": 38174944, + "step": 19501 + }, + { + "epoch": 2.584758117958913, + "grad_norm": 5.7510085105896, + "learning_rate": 2.3285911041884046e-07, + "loss": 0.0934, + "num_input_tokens_seen": 38176408, + "step": 19502 + }, + { + "epoch": 2.5848906560636182, + "grad_norm": 9.69985294342041, + "learning_rate": 2.3271283477844436e-07, + "loss": 0.1832, + "num_input_tokens_seen": 38179144, + "step": 19503 + }, + { + "epoch": 2.5850231941683233, + "grad_norm": 0.026296650990843773, + "learning_rate": 2.3256660285290887e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38180520, + "step": 19504 + }, + { + "epoch": 2.5851557322730283, + "grad_norm": 1.7171012163162231, + "learning_rate": 2.324204146450537e-07, + "loss": 0.0028, + "num_input_tokens_seen": 38183008, + "step": 19505 + }, + { + "epoch": 2.585288270377734, + "grad_norm": 0.0023586058523505926, + "learning_rate": 2.3227427015769742e-07, + "loss": 0.0, + "num_input_tokens_seen": 38184264, + "step": 19506 + }, + { + "epoch": 2.585420808482439, + "grad_norm": 0.003217240097001195, + "learning_rate": 2.3212816939365695e-07, + "loss": 0.0, + "num_input_tokens_seen": 38185760, + "step": 19507 + }, + { + "epoch": 2.585553346587144, + "grad_norm": 1.6808384656906128, + "learning_rate": 2.3198211235575058e-07, + "loss": 0.0088, + "num_input_tokens_seen": 38187152, + "step": 19508 + }, + { + "epoch": 2.585685884691849, + "grad_norm": 0.23419268429279327, + "learning_rate": 2.3183609904679328e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38188680, + "step": 19509 + }, + { + "epoch": 2.585818422796554, + "grad_norm": 0.5774477124214172, + "learning_rate": 2.3169012946960083e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38190056, + "step": 19510 + }, + { + "epoch": 2.585950960901259, + "grad_norm": 0.6518896222114563, + "learning_rate": 2.31544203626988e-07, + "loss": 0.0039, + "num_input_tokens_seen": 38192360, + "step": 19511 + }, + { + "epoch": 2.586083499005964, + "grad_norm": 8.013463973999023, + "learning_rate": 2.3139832152176744e-07, + "loss": 0.1075, + "num_input_tokens_seen": 38194808, + "step": 19512 + }, + { + "epoch": 2.5862160371106695, + "grad_norm": 5.267388820648193, + "learning_rate": 2.3125248315675196e-07, + "loss": 0.0943, + "num_input_tokens_seen": 38196600, + "step": 19513 + }, + { + "epoch": 2.5863485752153745, + "grad_norm": 8.684226036071777, + "learning_rate": 2.3110668853475378e-07, + "loss": 0.0941, + "num_input_tokens_seen": 38198576, + "step": 19514 + }, + { + "epoch": 2.5864811133200796, + "grad_norm": 7.114933967590332, + "learning_rate": 2.309609376585842e-07, + "loss": 0.076, + "num_input_tokens_seen": 38200440, + "step": 19515 + }, + { + "epoch": 2.5866136514247846, + "grad_norm": 0.06926994770765305, + "learning_rate": 2.3081523053105322e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38202128, + "step": 19516 + }, + { + "epoch": 2.5867461895294896, + "grad_norm": 0.06178737431764603, + "learning_rate": 2.3066956715496998e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38203472, + "step": 19517 + }, + { + "epoch": 2.5868787276341947, + "grad_norm": 8.441856384277344, + "learning_rate": 2.3052394753314305e-07, + "loss": 0.218, + "num_input_tokens_seen": 38205376, + "step": 19518 + }, + { + "epoch": 2.5870112657388997, + "grad_norm": 1.3803714513778687, + "learning_rate": 2.303783716683794e-07, + "loss": 0.0039, + "num_input_tokens_seen": 38207424, + "step": 19519 + }, + { + "epoch": 2.587143803843605, + "grad_norm": 28.150075912475586, + "learning_rate": 2.3023283956348676e-07, + "loss": 0.2354, + "num_input_tokens_seen": 38210624, + "step": 19520 + }, + { + "epoch": 2.5872763419483102, + "grad_norm": 0.023670602589845657, + "learning_rate": 2.3008735122127117e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38212584, + "step": 19521 + }, + { + "epoch": 2.5874088800530153, + "grad_norm": 3.379124641418457, + "learning_rate": 2.2994190664453713e-07, + "loss": 0.0072, + "num_input_tokens_seen": 38215312, + "step": 19522 + }, + { + "epoch": 2.5875414181577203, + "grad_norm": 5.892861366271973, + "learning_rate": 2.2979650583608958e-07, + "loss": 0.0354, + "num_input_tokens_seen": 38216760, + "step": 19523 + }, + { + "epoch": 2.5876739562624254, + "grad_norm": 0.003627873957157135, + "learning_rate": 2.2965114879873074e-07, + "loss": 0.0, + "num_input_tokens_seen": 38218480, + "step": 19524 + }, + { + "epoch": 2.5878064943671304, + "grad_norm": 0.003729845630005002, + "learning_rate": 2.2950583553526474e-07, + "loss": 0.0, + "num_input_tokens_seen": 38220832, + "step": 19525 + }, + { + "epoch": 2.5879390324718354, + "grad_norm": 0.006826526951044798, + "learning_rate": 2.2936056604849184e-07, + "loss": 0.0, + "num_input_tokens_seen": 38223504, + "step": 19526 + }, + { + "epoch": 2.588071570576541, + "grad_norm": 0.001559249241836369, + "learning_rate": 2.2921534034121422e-07, + "loss": 0.0, + "num_input_tokens_seen": 38224968, + "step": 19527 + }, + { + "epoch": 2.588204108681246, + "grad_norm": 0.0007498703198507428, + "learning_rate": 2.2907015841623137e-07, + "loss": 0.0, + "num_input_tokens_seen": 38226328, + "step": 19528 + }, + { + "epoch": 2.588336646785951, + "grad_norm": 3.114485740661621, + "learning_rate": 2.289250202763424e-07, + "loss": 0.0071, + "num_input_tokens_seen": 38227848, + "step": 19529 + }, + { + "epoch": 2.588469184890656, + "grad_norm": 9.804993629455566, + "learning_rate": 2.2877992592434533e-07, + "loss": 0.0302, + "num_input_tokens_seen": 38230464, + "step": 19530 + }, + { + "epoch": 2.588601722995361, + "grad_norm": 2.340512990951538, + "learning_rate": 2.286348753630388e-07, + "loss": 0.0079, + "num_input_tokens_seen": 38232616, + "step": 19531 + }, + { + "epoch": 2.588734261100066, + "grad_norm": 0.005360286682844162, + "learning_rate": 2.2848986859521805e-07, + "loss": 0.0, + "num_input_tokens_seen": 38233736, + "step": 19532 + }, + { + "epoch": 2.588866799204771, + "grad_norm": 0.010043726302683353, + "learning_rate": 2.2834490562368028e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38235552, + "step": 19533 + }, + { + "epoch": 2.5889993373094766, + "grad_norm": 0.9141721725463867, + "learning_rate": 2.2819998645121992e-07, + "loss": 0.006, + "num_input_tokens_seen": 38237320, + "step": 19534 + }, + { + "epoch": 2.5891318754141817, + "grad_norm": 1.2118431329727173, + "learning_rate": 2.2805511108063062e-07, + "loss": 0.0064, + "num_input_tokens_seen": 38240384, + "step": 19535 + }, + { + "epoch": 2.5892644135188867, + "grad_norm": 2.083002805709839, + "learning_rate": 2.2791027951470647e-07, + "loss": 0.0085, + "num_input_tokens_seen": 38242000, + "step": 19536 + }, + { + "epoch": 2.5893969516235917, + "grad_norm": 8.474562644958496, + "learning_rate": 2.2776549175623912e-07, + "loss": 0.141, + "num_input_tokens_seen": 38243280, + "step": 19537 + }, + { + "epoch": 2.5895294897282968, + "grad_norm": 3.1480631828308105, + "learning_rate": 2.2762074780802113e-07, + "loss": 0.0195, + "num_input_tokens_seen": 38245304, + "step": 19538 + }, + { + "epoch": 2.5896620278330023, + "grad_norm": 0.1373857855796814, + "learning_rate": 2.2747604767284272e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38247360, + "step": 19539 + }, + { + "epoch": 2.589794565937707, + "grad_norm": 7.851412773132324, + "learning_rate": 2.273313913534933e-07, + "loss": 0.0486, + "num_input_tokens_seen": 38249344, + "step": 19540 + }, + { + "epoch": 2.5899271040424123, + "grad_norm": 1.4062966108322144, + "learning_rate": 2.271867788527632e-07, + "loss": 0.0071, + "num_input_tokens_seen": 38251040, + "step": 19541 + }, + { + "epoch": 2.5900596421471174, + "grad_norm": 0.0016251326305791736, + "learning_rate": 2.2704221017343957e-07, + "loss": 0.0, + "num_input_tokens_seen": 38253160, + "step": 19542 + }, + { + "epoch": 2.5901921802518224, + "grad_norm": 6.189863204956055, + "learning_rate": 2.2689768531830997e-07, + "loss": 0.0297, + "num_input_tokens_seen": 38254896, + "step": 19543 + }, + { + "epoch": 2.5903247183565274, + "grad_norm": 2.76934814453125, + "learning_rate": 2.2675320429016156e-07, + "loss": 0.0211, + "num_input_tokens_seen": 38257280, + "step": 19544 + }, + { + "epoch": 2.5904572564612325, + "grad_norm": 0.09911293536424637, + "learning_rate": 2.2660876709177908e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38259016, + "step": 19545 + }, + { + "epoch": 2.590589794565938, + "grad_norm": 0.008780150674283504, + "learning_rate": 2.2646437372594838e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38260536, + "step": 19546 + }, + { + "epoch": 2.5907223326706426, + "grad_norm": 0.0021694921888411045, + "learning_rate": 2.2632002419545302e-07, + "loss": 0.0, + "num_input_tokens_seen": 38262192, + "step": 19547 + }, + { + "epoch": 2.590854870775348, + "grad_norm": 2.959047317504883, + "learning_rate": 2.2617571850307606e-07, + "loss": 0.0179, + "num_input_tokens_seen": 38264264, + "step": 19548 + }, + { + "epoch": 2.590987408880053, + "grad_norm": 0.005289941094815731, + "learning_rate": 2.2603145665159948e-07, + "loss": 0.0, + "num_input_tokens_seen": 38265600, + "step": 19549 + }, + { + "epoch": 2.591119946984758, + "grad_norm": 0.02008618600666523, + "learning_rate": 2.2588723864380519e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38267840, + "step": 19550 + }, + { + "epoch": 2.591252485089463, + "grad_norm": 0.018083341419696808, + "learning_rate": 2.2574306448247402e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38270072, + "step": 19551 + }, + { + "epoch": 2.591385023194168, + "grad_norm": 0.40605488419532776, + "learning_rate": 2.2559893417038569e-07, + "loss": 0.0018, + "num_input_tokens_seen": 38272784, + "step": 19552 + }, + { + "epoch": 2.5915175612988737, + "grad_norm": 10.036961555480957, + "learning_rate": 2.2545484771031884e-07, + "loss": 0.1048, + "num_input_tokens_seen": 38274440, + "step": 19553 + }, + { + "epoch": 2.5916500994035783, + "grad_norm": 0.0020510826725512743, + "learning_rate": 2.2531080510505176e-07, + "loss": 0.0, + "num_input_tokens_seen": 38275744, + "step": 19554 + }, + { + "epoch": 2.5917826375082837, + "grad_norm": 6.2653021812438965, + "learning_rate": 2.2516680635736088e-07, + "loss": 0.0927, + "num_input_tokens_seen": 38277856, + "step": 19555 + }, + { + "epoch": 2.591915175612989, + "grad_norm": 0.10841788351535797, + "learning_rate": 2.2502285147002367e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38279880, + "step": 19556 + }, + { + "epoch": 2.592047713717694, + "grad_norm": 4.138819694519043, + "learning_rate": 2.2487894044581544e-07, + "loss": 0.0223, + "num_input_tokens_seen": 38281760, + "step": 19557 + }, + { + "epoch": 2.592180251822399, + "grad_norm": 5.491577625274658, + "learning_rate": 2.2473507328751086e-07, + "loss": 0.0381, + "num_input_tokens_seen": 38283728, + "step": 19558 + }, + { + "epoch": 2.592312789927104, + "grad_norm": 3.116621971130371, + "learning_rate": 2.245912499978839e-07, + "loss": 0.0087, + "num_input_tokens_seen": 38286200, + "step": 19559 + }, + { + "epoch": 2.5924453280318094, + "grad_norm": 10.72745418548584, + "learning_rate": 2.2444747057970674e-07, + "loss": 0.0616, + "num_input_tokens_seen": 38288712, + "step": 19560 + }, + { + "epoch": 2.592577866136514, + "grad_norm": 0.09034241735935211, + "learning_rate": 2.2430373503575214e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38291736, + "step": 19561 + }, + { + "epoch": 2.5927104042412195, + "grad_norm": 8.30131721496582, + "learning_rate": 2.2416004336879183e-07, + "loss": 0.1322, + "num_input_tokens_seen": 38293184, + "step": 19562 + }, + { + "epoch": 2.5928429423459245, + "grad_norm": 0.49436691403388977, + "learning_rate": 2.2401639558159605e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38295272, + "step": 19563 + }, + { + "epoch": 2.5929754804506295, + "grad_norm": 0.1546715945005417, + "learning_rate": 2.2387279167693427e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38297184, + "step": 19564 + }, + { + "epoch": 2.5931080185553346, + "grad_norm": 0.0016089346027001739, + "learning_rate": 2.2372923165757536e-07, + "loss": 0.0, + "num_input_tokens_seen": 38298824, + "step": 19565 + }, + { + "epoch": 2.5932405566600396, + "grad_norm": 0.14386631548404694, + "learning_rate": 2.235857155262866e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38300784, + "step": 19566 + }, + { + "epoch": 2.593373094764745, + "grad_norm": 7.597013473510742, + "learning_rate": 2.2344224328583575e-07, + "loss": 0.062, + "num_input_tokens_seen": 38304640, + "step": 19567 + }, + { + "epoch": 2.59350563286945, + "grad_norm": 0.001097539090551436, + "learning_rate": 2.2329881493898947e-07, + "loss": 0.0, + "num_input_tokens_seen": 38306256, + "step": 19568 + }, + { + "epoch": 2.593638170974155, + "grad_norm": 0.16022011637687683, + "learning_rate": 2.231554304885125e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38308248, + "step": 19569 + }, + { + "epoch": 2.59377070907886, + "grad_norm": 0.034476395696401596, + "learning_rate": 2.230120899371696e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38310272, + "step": 19570 + }, + { + "epoch": 2.5939032471835652, + "grad_norm": 0.002575445221737027, + "learning_rate": 2.2286879328772383e-07, + "loss": 0.0, + "num_input_tokens_seen": 38312592, + "step": 19571 + }, + { + "epoch": 2.5940357852882703, + "grad_norm": 4.131199359893799, + "learning_rate": 2.2272554054293934e-07, + "loss": 0.0283, + "num_input_tokens_seen": 38314752, + "step": 19572 + }, + { + "epoch": 2.5941683233929753, + "grad_norm": 11.348933219909668, + "learning_rate": 2.2258233170557668e-07, + "loss": 0.0175, + "num_input_tokens_seen": 38317176, + "step": 19573 + }, + { + "epoch": 2.594300861497681, + "grad_norm": 7.754245758056641, + "learning_rate": 2.2243916677839844e-07, + "loss": 0.1297, + "num_input_tokens_seen": 38319184, + "step": 19574 + }, + { + "epoch": 2.594433399602386, + "grad_norm": 7.891770362854004, + "learning_rate": 2.222960457641643e-07, + "loss": 0.0711, + "num_input_tokens_seen": 38321304, + "step": 19575 + }, + { + "epoch": 2.594565937707091, + "grad_norm": 10.571821212768555, + "learning_rate": 2.2215296866563317e-07, + "loss": 0.0348, + "num_input_tokens_seen": 38322976, + "step": 19576 + }, + { + "epoch": 2.594698475811796, + "grad_norm": 0.008921639062464237, + "learning_rate": 2.2200993548556483e-07, + "loss": 0.0, + "num_input_tokens_seen": 38323984, + "step": 19577 + }, + { + "epoch": 2.594831013916501, + "grad_norm": 0.0035092367324978113, + "learning_rate": 2.2186694622671618e-07, + "loss": 0.0, + "num_input_tokens_seen": 38327016, + "step": 19578 + }, + { + "epoch": 2.594963552021206, + "grad_norm": 0.07848535478115082, + "learning_rate": 2.217240008918442e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38329952, + "step": 19579 + }, + { + "epoch": 2.595096090125911, + "grad_norm": 3.8175082206726074, + "learning_rate": 2.215810994837056e-07, + "loss": 0.011, + "num_input_tokens_seen": 38332536, + "step": 19580 + }, + { + "epoch": 2.5952286282306165, + "grad_norm": 4.941031455993652, + "learning_rate": 2.2143824200505454e-07, + "loss": 0.0066, + "num_input_tokens_seen": 38335448, + "step": 19581 + }, + { + "epoch": 2.5953611663353215, + "grad_norm": 0.04654120281338692, + "learning_rate": 2.212954284586466e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38337328, + "step": 19582 + }, + { + "epoch": 2.5954937044400266, + "grad_norm": 0.0020885588601231575, + "learning_rate": 2.2115265884723486e-07, + "loss": 0.0, + "num_input_tokens_seen": 38338280, + "step": 19583 + }, + { + "epoch": 2.5956262425447316, + "grad_norm": 5.172085762023926, + "learning_rate": 2.210099331735721e-07, + "loss": 0.0894, + "num_input_tokens_seen": 38340808, + "step": 19584 + }, + { + "epoch": 2.5957587806494367, + "grad_norm": 0.010889441706240177, + "learning_rate": 2.2086725144040922e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38342448, + "step": 19585 + }, + { + "epoch": 2.5958913187541417, + "grad_norm": 0.16189153492450714, + "learning_rate": 2.2072461365049868e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38343816, + "step": 19586 + }, + { + "epoch": 2.5960238568588467, + "grad_norm": 1.4364497661590576, + "learning_rate": 2.2058201980658972e-07, + "loss": 0.0062, + "num_input_tokens_seen": 38345440, + "step": 19587 + }, + { + "epoch": 2.596156394963552, + "grad_norm": 0.010228211060166359, + "learning_rate": 2.2043946991143205e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38347304, + "step": 19588 + }, + { + "epoch": 2.5962889330682573, + "grad_norm": 19.569616317749023, + "learning_rate": 2.2029696396777405e-07, + "loss": 0.1177, + "num_input_tokens_seen": 38350048, + "step": 19589 + }, + { + "epoch": 2.5964214711729623, + "grad_norm": 6.20168399810791, + "learning_rate": 2.2015450197836296e-07, + "loss": 0.0782, + "num_input_tokens_seen": 38351960, + "step": 19590 + }, + { + "epoch": 2.5965540092776673, + "grad_norm": 3.105771541595459, + "learning_rate": 2.200120839459463e-07, + "loss": 0.0286, + "num_input_tokens_seen": 38354864, + "step": 19591 + }, + { + "epoch": 2.5966865473823724, + "grad_norm": 0.001977552194148302, + "learning_rate": 2.1986970987326884e-07, + "loss": 0.0, + "num_input_tokens_seen": 38356464, + "step": 19592 + }, + { + "epoch": 2.5968190854870774, + "grad_norm": 0.0007803388289175928, + "learning_rate": 2.1972737976307697e-07, + "loss": 0.0, + "num_input_tokens_seen": 38358088, + "step": 19593 + }, + { + "epoch": 2.5969516235917824, + "grad_norm": 0.0019044795772060752, + "learning_rate": 2.195850936181143e-07, + "loss": 0.0, + "num_input_tokens_seen": 38360024, + "step": 19594 + }, + { + "epoch": 2.597084161696488, + "grad_norm": 0.026728440076112747, + "learning_rate": 2.1944285144112425e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38362528, + "step": 19595 + }, + { + "epoch": 2.597216699801193, + "grad_norm": 10.568843841552734, + "learning_rate": 2.1930065323484878e-07, + "loss": 0.0612, + "num_input_tokens_seen": 38363920, + "step": 19596 + }, + { + "epoch": 2.597349237905898, + "grad_norm": 1.8160940408706665, + "learning_rate": 2.1915849900203012e-07, + "loss": 0.0078, + "num_input_tokens_seen": 38366984, + "step": 19597 + }, + { + "epoch": 2.597481776010603, + "grad_norm": 16.5985107421875, + "learning_rate": 2.1901638874540941e-07, + "loss": 0.1434, + "num_input_tokens_seen": 38369496, + "step": 19598 + }, + { + "epoch": 2.597614314115308, + "grad_norm": 6.536657333374023, + "learning_rate": 2.1887432246772644e-07, + "loss": 0.0322, + "num_input_tokens_seen": 38372328, + "step": 19599 + }, + { + "epoch": 2.597746852220013, + "grad_norm": 0.053532056510448456, + "learning_rate": 2.1873230017172037e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38373456, + "step": 19600 + }, + { + "epoch": 2.597879390324718, + "grad_norm": 7.111681938171387, + "learning_rate": 2.1859032186012903e-07, + "loss": 0.0939, + "num_input_tokens_seen": 38375688, + "step": 19601 + }, + { + "epoch": 2.5980119284294236, + "grad_norm": 7.735266208648682, + "learning_rate": 2.1844838753568965e-07, + "loss": 0.0383, + "num_input_tokens_seen": 38378328, + "step": 19602 + }, + { + "epoch": 2.5981444665341287, + "grad_norm": 14.824787139892578, + "learning_rate": 2.1830649720113951e-07, + "loss": 0.2376, + "num_input_tokens_seen": 38380912, + "step": 19603 + }, + { + "epoch": 2.5982770046388337, + "grad_norm": 9.278714179992676, + "learning_rate": 2.1816465085921473e-07, + "loss": 0.1838, + "num_input_tokens_seen": 38383064, + "step": 19604 + }, + { + "epoch": 2.5984095427435387, + "grad_norm": 7.4793171882629395, + "learning_rate": 2.1802284851264927e-07, + "loss": 0.0311, + "num_input_tokens_seen": 38385360, + "step": 19605 + }, + { + "epoch": 2.598542080848244, + "grad_norm": 5.897233963012695, + "learning_rate": 2.1788109016417785e-07, + "loss": 0.0108, + "num_input_tokens_seen": 38386712, + "step": 19606 + }, + { + "epoch": 2.598674618952949, + "grad_norm": 0.10957270115613937, + "learning_rate": 2.1773937581653277e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38388752, + "step": 19607 + }, + { + "epoch": 2.598807157057654, + "grad_norm": 0.0015440797433257103, + "learning_rate": 2.1759770547244735e-07, + "loss": 0.0, + "num_input_tokens_seen": 38389944, + "step": 19608 + }, + { + "epoch": 2.5989396951623593, + "grad_norm": 0.0008896925719454885, + "learning_rate": 2.174560791346525e-07, + "loss": 0.0, + "num_input_tokens_seen": 38391552, + "step": 19609 + }, + { + "epoch": 2.5990722332670644, + "grad_norm": 0.22280244529247284, + "learning_rate": 2.1731449680587936e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38392728, + "step": 19610 + }, + { + "epoch": 2.5992047713717694, + "grad_norm": 4.767943382263184, + "learning_rate": 2.1717295848885767e-07, + "loss": 0.0552, + "num_input_tokens_seen": 38394944, + "step": 19611 + }, + { + "epoch": 2.5993373094764745, + "grad_norm": 0.5313977003097534, + "learning_rate": 2.1703146418631553e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38396616, + "step": 19612 + }, + { + "epoch": 2.5994698475811795, + "grad_norm": 0.002957290969789028, + "learning_rate": 2.168900139009822e-07, + "loss": 0.0, + "num_input_tokens_seen": 38398144, + "step": 19613 + }, + { + "epoch": 2.5996023856858845, + "grad_norm": 0.0017025766428560019, + "learning_rate": 2.1674860763558402e-07, + "loss": 0.0, + "num_input_tokens_seen": 38399176, + "step": 19614 + }, + { + "epoch": 2.5997349237905896, + "grad_norm": 2.0331015586853027, + "learning_rate": 2.1660724539284805e-07, + "loss": 0.0081, + "num_input_tokens_seen": 38401336, + "step": 19615 + }, + { + "epoch": 2.599867461895295, + "grad_norm": 0.001170025090686977, + "learning_rate": 2.1646592717549985e-07, + "loss": 0.0, + "num_input_tokens_seen": 38402464, + "step": 19616 + }, + { + "epoch": 2.6, + "grad_norm": 0.6683072447776794, + "learning_rate": 2.1632465298626392e-07, + "loss": 0.0031, + "num_input_tokens_seen": 38405488, + "step": 19617 + }, + { + "epoch": 2.600132538104705, + "grad_norm": 0.004597685765475035, + "learning_rate": 2.1618342282786363e-07, + "loss": 0.0, + "num_input_tokens_seen": 38408296, + "step": 19618 + }, + { + "epoch": 2.60026507620941, + "grad_norm": 3.408809185028076, + "learning_rate": 2.1604223670302293e-07, + "loss": 0.0121, + "num_input_tokens_seen": 38410456, + "step": 19619 + }, + { + "epoch": 2.600397614314115, + "grad_norm": 0.0016405662754550576, + "learning_rate": 2.1590109461446297e-07, + "loss": 0.0, + "num_input_tokens_seen": 38411800, + "step": 19620 + }, + { + "epoch": 2.6005301524188207, + "grad_norm": 11.907539367675781, + "learning_rate": 2.1575999656490626e-07, + "loss": 0.0669, + "num_input_tokens_seen": 38413512, + "step": 19621 + }, + { + "epoch": 2.6006626905235253, + "grad_norm": 0.04382339492440224, + "learning_rate": 2.1561894255707234e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38415216, + "step": 19622 + }, + { + "epoch": 2.6007952286282308, + "grad_norm": 0.1933593600988388, + "learning_rate": 2.1547793259368093e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38417752, + "step": 19623 + }, + { + "epoch": 2.600927766732936, + "grad_norm": 1.444933533668518, + "learning_rate": 2.153369666774513e-07, + "loss": 0.0066, + "num_input_tokens_seen": 38420288, + "step": 19624 + }, + { + "epoch": 2.601060304837641, + "grad_norm": 0.011689778417348862, + "learning_rate": 2.1519604481110124e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38421984, + "step": 19625 + }, + { + "epoch": 2.601192842942346, + "grad_norm": 10.084622383117676, + "learning_rate": 2.1505516699734692e-07, + "loss": 0.2342, + "num_input_tokens_seen": 38424192, + "step": 19626 + }, + { + "epoch": 2.601325381047051, + "grad_norm": 0.38927197456359863, + "learning_rate": 2.1491433323890586e-07, + "loss": 0.0029, + "num_input_tokens_seen": 38426304, + "step": 19627 + }, + { + "epoch": 2.6014579191517564, + "grad_norm": 5.027788162231445, + "learning_rate": 2.1477354353849262e-07, + "loss": 0.0308, + "num_input_tokens_seen": 38427920, + "step": 19628 + }, + { + "epoch": 2.601590457256461, + "grad_norm": 0.04316222295165062, + "learning_rate": 2.1463279789882217e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38429760, + "step": 19629 + }, + { + "epoch": 2.6017229953611665, + "grad_norm": 8.21989917755127, + "learning_rate": 2.1449209632260797e-07, + "loss": 0.1081, + "num_input_tokens_seen": 38431880, + "step": 19630 + }, + { + "epoch": 2.6018555334658715, + "grad_norm": 0.020876847207546234, + "learning_rate": 2.1435143881256282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38433520, + "step": 19631 + }, + { + "epoch": 2.6019880715705765, + "grad_norm": 0.5855117440223694, + "learning_rate": 2.1421082537139842e-07, + "loss": 0.0016, + "num_input_tokens_seen": 38435848, + "step": 19632 + }, + { + "epoch": 2.6021206096752816, + "grad_norm": 2.1936540603637695, + "learning_rate": 2.1407025600182624e-07, + "loss": 0.0036, + "num_input_tokens_seen": 38437240, + "step": 19633 + }, + { + "epoch": 2.6022531477799866, + "grad_norm": 1.4765433073043823, + "learning_rate": 2.139297307065566e-07, + "loss": 0.006, + "num_input_tokens_seen": 38439280, + "step": 19634 + }, + { + "epoch": 2.602385685884692, + "grad_norm": 5.887489318847656, + "learning_rate": 2.1378924948829926e-07, + "loss": 0.0065, + "num_input_tokens_seen": 38440736, + "step": 19635 + }, + { + "epoch": 2.6025182239893967, + "grad_norm": 16.165857315063477, + "learning_rate": 2.136488123497621e-07, + "loss": 0.2541, + "num_input_tokens_seen": 38443480, + "step": 19636 + }, + { + "epoch": 2.602650762094102, + "grad_norm": 4.440367698669434, + "learning_rate": 2.135084192936532e-07, + "loss": 0.0349, + "num_input_tokens_seen": 38445752, + "step": 19637 + }, + { + "epoch": 2.602783300198807, + "grad_norm": 2.2103991508483887, + "learning_rate": 2.133680703226787e-07, + "loss": 0.0135, + "num_input_tokens_seen": 38447824, + "step": 19638 + }, + { + "epoch": 2.6029158383035123, + "grad_norm": 0.22706687450408936, + "learning_rate": 2.1322776543954565e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38450312, + "step": 19639 + }, + { + "epoch": 2.6030483764082173, + "grad_norm": 0.0026858109049499035, + "learning_rate": 2.130875046469591e-07, + "loss": 0.0, + "num_input_tokens_seen": 38452440, + "step": 19640 + }, + { + "epoch": 2.6031809145129223, + "grad_norm": 1.896992802619934, + "learning_rate": 2.1294728794762297e-07, + "loss": 0.0041, + "num_input_tokens_seen": 38453728, + "step": 19641 + }, + { + "epoch": 2.603313452617628, + "grad_norm": 0.06573653966188431, + "learning_rate": 2.1280711534424097e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38455392, + "step": 19642 + }, + { + "epoch": 2.6034459907223324, + "grad_norm": 10.373908996582031, + "learning_rate": 2.1266698683951535e-07, + "loss": 0.2887, + "num_input_tokens_seen": 38458016, + "step": 19643 + }, + { + "epoch": 2.603578528827038, + "grad_norm": 0.05259266495704651, + "learning_rate": 2.1252690243614814e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38459344, + "step": 19644 + }, + { + "epoch": 2.603711066931743, + "grad_norm": 0.007535157725214958, + "learning_rate": 2.123868621368405e-07, + "loss": 0.0, + "num_input_tokens_seen": 38460624, + "step": 19645 + }, + { + "epoch": 2.603843605036448, + "grad_norm": 10.991229057312012, + "learning_rate": 2.122468659442925e-07, + "loss": 0.0961, + "num_input_tokens_seen": 38462640, + "step": 19646 + }, + { + "epoch": 2.603976143141153, + "grad_norm": 7.567541122436523, + "learning_rate": 2.1210691386120308e-07, + "loss": 0.1298, + "num_input_tokens_seen": 38464632, + "step": 19647 + }, + { + "epoch": 2.604108681245858, + "grad_norm": 7.787850856781006, + "learning_rate": 2.119670058902709e-07, + "loss": 0.0786, + "num_input_tokens_seen": 38466824, + "step": 19648 + }, + { + "epoch": 2.6042412193505635, + "grad_norm": 0.005632633343338966, + "learning_rate": 2.1182714203419276e-07, + "loss": 0.0, + "num_input_tokens_seen": 38469408, + "step": 19649 + }, + { + "epoch": 2.604373757455268, + "grad_norm": 0.001964293885976076, + "learning_rate": 2.1168732229566557e-07, + "loss": 0.0, + "num_input_tokens_seen": 38471224, + "step": 19650 + }, + { + "epoch": 2.6045062955599736, + "grad_norm": 0.06351301819086075, + "learning_rate": 2.1154754667738615e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38473056, + "step": 19651 + }, + { + "epoch": 2.6046388336646786, + "grad_norm": 9.607240676879883, + "learning_rate": 2.1140781518204866e-07, + "loss": 0.1671, + "num_input_tokens_seen": 38475232, + "step": 19652 + }, + { + "epoch": 2.6047713717693837, + "grad_norm": 0.015724049881100655, + "learning_rate": 2.112681278123474e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38476840, + "step": 19653 + }, + { + "epoch": 2.6049039098740887, + "grad_norm": 0.09589043259620667, + "learning_rate": 2.111284845709752e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38478816, + "step": 19654 + }, + { + "epoch": 2.6050364479787937, + "grad_norm": 0.012372137047350407, + "learning_rate": 2.1098888546062514e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38480760, + "step": 19655 + }, + { + "epoch": 2.6051689860834992, + "grad_norm": 0.14548827707767487, + "learning_rate": 2.1084933048398787e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38482240, + "step": 19656 + }, + { + "epoch": 2.6053015241882043, + "grad_norm": 0.029473038390278816, + "learning_rate": 2.107098196437554e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38483968, + "step": 19657 + }, + { + "epoch": 2.6054340622929093, + "grad_norm": 0.029876407235860825, + "learning_rate": 2.1057035294261674e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38485880, + "step": 19658 + }, + { + "epoch": 2.6055666003976143, + "grad_norm": 0.0411628820002079, + "learning_rate": 2.1043093038326078e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38488440, + "step": 19659 + }, + { + "epoch": 2.6056991385023194, + "grad_norm": 0.005252644885331392, + "learning_rate": 2.1029155196837624e-07, + "loss": 0.0, + "num_input_tokens_seen": 38489584, + "step": 19660 + }, + { + "epoch": 2.6058316766070244, + "grad_norm": 0.26746857166290283, + "learning_rate": 2.1015221770065015e-07, + "loss": 0.001, + "num_input_tokens_seen": 38491952, + "step": 19661 + }, + { + "epoch": 2.6059642147117295, + "grad_norm": 0.03166719526052475, + "learning_rate": 2.1001292758276864e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38493488, + "step": 19662 + }, + { + "epoch": 2.606096752816435, + "grad_norm": 3.5101544857025146, + "learning_rate": 2.0987368161741822e-07, + "loss": 0.0137, + "num_input_tokens_seen": 38495272, + "step": 19663 + }, + { + "epoch": 2.60622929092114, + "grad_norm": 3.5140631198883057, + "learning_rate": 2.0973447980728257e-07, + "loss": 0.0277, + "num_input_tokens_seen": 38497840, + "step": 19664 + }, + { + "epoch": 2.606361829025845, + "grad_norm": 0.0383896604180336, + "learning_rate": 2.0959532215504646e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38499408, + "step": 19665 + }, + { + "epoch": 2.60649436713055, + "grad_norm": 6.661445617675781, + "learning_rate": 2.0945620866339277e-07, + "loss": 0.0596, + "num_input_tokens_seen": 38500880, + "step": 19666 + }, + { + "epoch": 2.606626905235255, + "grad_norm": 0.8470848798751831, + "learning_rate": 2.0931713933500298e-07, + "loss": 0.0009, + "num_input_tokens_seen": 38502440, + "step": 19667 + }, + { + "epoch": 2.60675944333996, + "grad_norm": 8.894847869873047, + "learning_rate": 2.0917811417255963e-07, + "loss": 0.1285, + "num_input_tokens_seen": 38503896, + "step": 19668 + }, + { + "epoch": 2.606891981444665, + "grad_norm": 0.014560201205313206, + "learning_rate": 2.0903913317874198e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38506288, + "step": 19669 + }, + { + "epoch": 2.6070245195493706, + "grad_norm": 1.5319017171859741, + "learning_rate": 2.0890019635623092e-07, + "loss": 0.0102, + "num_input_tokens_seen": 38508792, + "step": 19670 + }, + { + "epoch": 2.6071570576540757, + "grad_norm": 5.752842903137207, + "learning_rate": 2.0876130370770438e-07, + "loss": 0.0739, + "num_input_tokens_seen": 38511128, + "step": 19671 + }, + { + "epoch": 2.6072895957587807, + "grad_norm": 0.006269050296396017, + "learning_rate": 2.086224552358407e-07, + "loss": 0.0, + "num_input_tokens_seen": 38512768, + "step": 19672 + }, + { + "epoch": 2.6074221338634858, + "grad_norm": 8.103026390075684, + "learning_rate": 2.0848365094331635e-07, + "loss": 0.0489, + "num_input_tokens_seen": 38515224, + "step": 19673 + }, + { + "epoch": 2.607554671968191, + "grad_norm": 6.0618085861206055, + "learning_rate": 2.083448908328084e-07, + "loss": 0.1086, + "num_input_tokens_seen": 38518168, + "step": 19674 + }, + { + "epoch": 2.607687210072896, + "grad_norm": 4.855641841888428, + "learning_rate": 2.0820617490699163e-07, + "loss": 0.0793, + "num_input_tokens_seen": 38520648, + "step": 19675 + }, + { + "epoch": 2.607819748177601, + "grad_norm": 0.0010878577595576644, + "learning_rate": 2.0806750316854114e-07, + "loss": 0.0, + "num_input_tokens_seen": 38521912, + "step": 19676 + }, + { + "epoch": 2.6079522862823064, + "grad_norm": 1.47963547706604, + "learning_rate": 2.0792887562013032e-07, + "loss": 0.0034, + "num_input_tokens_seen": 38523928, + "step": 19677 + }, + { + "epoch": 2.6080848243870114, + "grad_norm": 2.3803086280822754, + "learning_rate": 2.0779029226443205e-07, + "loss": 0.0096, + "num_input_tokens_seen": 38525632, + "step": 19678 + }, + { + "epoch": 2.6082173624917164, + "grad_norm": 10.975857734680176, + "learning_rate": 2.0765175310411778e-07, + "loss": 0.2862, + "num_input_tokens_seen": 38528128, + "step": 19679 + }, + { + "epoch": 2.6083499005964215, + "grad_norm": 3.9681003093719482, + "learning_rate": 2.07513258141859e-07, + "loss": 0.0132, + "num_input_tokens_seen": 38529696, + "step": 19680 + }, + { + "epoch": 2.6084824387011265, + "grad_norm": 2.673328399658203, + "learning_rate": 2.0737480738032666e-07, + "loss": 0.0138, + "num_input_tokens_seen": 38531536, + "step": 19681 + }, + { + "epoch": 2.6086149768058315, + "grad_norm": 3.9161808490753174, + "learning_rate": 2.0723640082218972e-07, + "loss": 0.0605, + "num_input_tokens_seen": 38533776, + "step": 19682 + }, + { + "epoch": 2.6087475149105366, + "grad_norm": 0.005036740563809872, + "learning_rate": 2.0709803847011655e-07, + "loss": 0.0, + "num_input_tokens_seen": 38535152, + "step": 19683 + }, + { + "epoch": 2.608880053015242, + "grad_norm": 15.925858497619629, + "learning_rate": 2.0695972032677508e-07, + "loss": 0.0739, + "num_input_tokens_seen": 38537336, + "step": 19684 + }, + { + "epoch": 2.609012591119947, + "grad_norm": 8.88155460357666, + "learning_rate": 2.068214463948315e-07, + "loss": 0.0698, + "num_input_tokens_seen": 38538352, + "step": 19685 + }, + { + "epoch": 2.609145129224652, + "grad_norm": 0.048788294196128845, + "learning_rate": 2.066832166769525e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38539952, + "step": 19686 + }, + { + "epoch": 2.609277667329357, + "grad_norm": 0.0354636050760746, + "learning_rate": 2.0654503117580381e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38541880, + "step": 19687 + }, + { + "epoch": 2.609410205434062, + "grad_norm": 5.091892242431641, + "learning_rate": 2.0640688989404883e-07, + "loss": 0.0289, + "num_input_tokens_seen": 38544648, + "step": 19688 + }, + { + "epoch": 2.6095427435387673, + "grad_norm": 2.6286814212799072, + "learning_rate": 2.0626879283435124e-07, + "loss": 0.0339, + "num_input_tokens_seen": 38546424, + "step": 19689 + }, + { + "epoch": 2.6096752816434723, + "grad_norm": 0.005861126352101564, + "learning_rate": 2.061307399993734e-07, + "loss": 0.0, + "num_input_tokens_seen": 38548296, + "step": 19690 + }, + { + "epoch": 2.6098078197481778, + "grad_norm": 2.2982873916625977, + "learning_rate": 2.0599273139177785e-07, + "loss": 0.0072, + "num_input_tokens_seen": 38550120, + "step": 19691 + }, + { + "epoch": 2.609940357852883, + "grad_norm": 0.004637660458683968, + "learning_rate": 2.058547670142244e-07, + "loss": 0.0, + "num_input_tokens_seen": 38552280, + "step": 19692 + }, + { + "epoch": 2.610072895957588, + "grad_norm": 6.655600547790527, + "learning_rate": 2.0571684686937433e-07, + "loss": 0.0874, + "num_input_tokens_seen": 38554056, + "step": 19693 + }, + { + "epoch": 2.610205434062293, + "grad_norm": 0.2024775743484497, + "learning_rate": 2.05578970959886e-07, + "loss": 0.001, + "num_input_tokens_seen": 38556608, + "step": 19694 + }, + { + "epoch": 2.610337972166998, + "grad_norm": 0.004785206634551287, + "learning_rate": 2.0544113928841757e-07, + "loss": 0.0, + "num_input_tokens_seen": 38558032, + "step": 19695 + }, + { + "epoch": 2.610470510271703, + "grad_norm": 0.0558529756963253, + "learning_rate": 2.0530335185762724e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38560616, + "step": 19696 + }, + { + "epoch": 2.610603048376408, + "grad_norm": 0.010985753498971462, + "learning_rate": 2.0516560867017089e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38562504, + "step": 19697 + }, + { + "epoch": 2.6107355864811135, + "grad_norm": 0.0026474446058273315, + "learning_rate": 2.050279097287053e-07, + "loss": 0.0, + "num_input_tokens_seen": 38564704, + "step": 19698 + }, + { + "epoch": 2.6108681245858185, + "grad_norm": 3.0736896991729736, + "learning_rate": 2.048902550358847e-07, + "loss": 0.0157, + "num_input_tokens_seen": 38566416, + "step": 19699 + }, + { + "epoch": 2.6110006626905236, + "grad_norm": 0.7595178484916687, + "learning_rate": 2.0475264459436346e-07, + "loss": 0.0089, + "num_input_tokens_seen": 38567952, + "step": 19700 + }, + { + "epoch": 2.6111332007952286, + "grad_norm": 0.0016683790599927306, + "learning_rate": 2.0461507840679435e-07, + "loss": 0.0, + "num_input_tokens_seen": 38569552, + "step": 19701 + }, + { + "epoch": 2.6112657388999336, + "grad_norm": 0.026529155671596527, + "learning_rate": 2.0447755647583e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38572280, + "step": 19702 + }, + { + "epoch": 2.6113982770046387, + "grad_norm": 0.9153798222541809, + "learning_rate": 2.0434007880412192e-07, + "loss": 0.005, + "num_input_tokens_seen": 38574536, + "step": 19703 + }, + { + "epoch": 2.6115308151093437, + "grad_norm": 0.008862215094268322, + "learning_rate": 2.0420264539432105e-07, + "loss": 0.0, + "num_input_tokens_seen": 38577160, + "step": 19704 + }, + { + "epoch": 2.611663353214049, + "grad_norm": 16.374385833740234, + "learning_rate": 2.0406525624907718e-07, + "loss": 0.054, + "num_input_tokens_seen": 38579064, + "step": 19705 + }, + { + "epoch": 2.6117958913187542, + "grad_norm": 0.15715391933918, + "learning_rate": 2.0392791137103822e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38581208, + "step": 19706 + }, + { + "epoch": 2.6119284294234593, + "grad_norm": 2.4186015129089355, + "learning_rate": 2.03790610762854e-07, + "loss": 0.005, + "num_input_tokens_seen": 38583208, + "step": 19707 + }, + { + "epoch": 2.6120609675281643, + "grad_norm": 2.1412997245788574, + "learning_rate": 2.0365335442717072e-07, + "loss": 0.0141, + "num_input_tokens_seen": 38584760, + "step": 19708 + }, + { + "epoch": 2.6121935056328693, + "grad_norm": 0.009292821399867535, + "learning_rate": 2.035161423666343e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38586568, + "step": 19709 + }, + { + "epoch": 2.612326043737575, + "grad_norm": 0.012547353282570839, + "learning_rate": 2.0337897458389154e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38588744, + "step": 19710 + }, + { + "epoch": 2.6124585818422794, + "grad_norm": 0.0037126350216567516, + "learning_rate": 2.032418510815859e-07, + "loss": 0.0, + "num_input_tokens_seen": 38591640, + "step": 19711 + }, + { + "epoch": 2.612591119946985, + "grad_norm": 0.5583294034004211, + "learning_rate": 2.0310477186236242e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38593264, + "step": 19712 + }, + { + "epoch": 2.61272365805169, + "grad_norm": 1.7309136390686035, + "learning_rate": 2.0296773692886352e-07, + "loss": 0.0069, + "num_input_tokens_seen": 38594472, + "step": 19713 + }, + { + "epoch": 2.612856196156395, + "grad_norm": 0.0544796884059906, + "learning_rate": 2.0283074628373119e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38595904, + "step": 19714 + }, + { + "epoch": 2.6129887342611, + "grad_norm": 5.0832953453063965, + "learning_rate": 2.0269379992960636e-07, + "loss": 0.0216, + "num_input_tokens_seen": 38597760, + "step": 19715 + }, + { + "epoch": 2.613121272365805, + "grad_norm": 12.340690612792969, + "learning_rate": 2.0255689786913003e-07, + "loss": 0.2385, + "num_input_tokens_seen": 38599080, + "step": 19716 + }, + { + "epoch": 2.6132538104705105, + "grad_norm": 8.06580924987793, + "learning_rate": 2.0242004010494198e-07, + "loss": 0.0291, + "num_input_tokens_seen": 38601344, + "step": 19717 + }, + { + "epoch": 2.613386348575215, + "grad_norm": 0.4431365728378296, + "learning_rate": 2.022832266396807e-07, + "loss": 0.001, + "num_input_tokens_seen": 38604200, + "step": 19718 + }, + { + "epoch": 2.6135188866799206, + "grad_norm": 14.249427795410156, + "learning_rate": 2.0214645747598376e-07, + "loss": 0.1641, + "num_input_tokens_seen": 38605816, + "step": 19719 + }, + { + "epoch": 2.6136514247846256, + "grad_norm": 0.4850020706653595, + "learning_rate": 2.02009732616488e-07, + "loss": 0.001, + "num_input_tokens_seen": 38607088, + "step": 19720 + }, + { + "epoch": 2.6137839628893307, + "grad_norm": 11.44346809387207, + "learning_rate": 2.0187305206382984e-07, + "loss": 0.0855, + "num_input_tokens_seen": 38608880, + "step": 19721 + }, + { + "epoch": 2.6139165009940357, + "grad_norm": 6.483201503753662, + "learning_rate": 2.01736415820645e-07, + "loss": 0.1367, + "num_input_tokens_seen": 38610800, + "step": 19722 + }, + { + "epoch": 2.6140490390987408, + "grad_norm": 2.7182555198669434, + "learning_rate": 2.015998238895675e-07, + "loss": 0.0409, + "num_input_tokens_seen": 38612824, + "step": 19723 + }, + { + "epoch": 2.6141815772034462, + "grad_norm": 0.010767446830868721, + "learning_rate": 2.0146327627323102e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38614688, + "step": 19724 + }, + { + "epoch": 2.614314115308151, + "grad_norm": 11.460749626159668, + "learning_rate": 2.013267729742685e-07, + "loss": 0.1839, + "num_input_tokens_seen": 38616656, + "step": 19725 + }, + { + "epoch": 2.6144466534128563, + "grad_norm": 14.148900985717773, + "learning_rate": 2.0119031399531087e-07, + "loss": 0.2544, + "num_input_tokens_seen": 38619312, + "step": 19726 + }, + { + "epoch": 2.6145791915175614, + "grad_norm": 3.1021413803100586, + "learning_rate": 2.010538993389899e-07, + "loss": 0.0367, + "num_input_tokens_seen": 38621176, + "step": 19727 + }, + { + "epoch": 2.6147117296222664, + "grad_norm": 0.01930908113718033, + "learning_rate": 2.0091752900793626e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38623120, + "step": 19728 + }, + { + "epoch": 2.6148442677269714, + "grad_norm": 2.3271484375, + "learning_rate": 2.0078120300477872e-07, + "loss": 0.0228, + "num_input_tokens_seen": 38624912, + "step": 19729 + }, + { + "epoch": 2.6149768058316765, + "grad_norm": 4.01146936416626, + "learning_rate": 2.006449213321457e-07, + "loss": 0.0341, + "num_input_tokens_seen": 38627240, + "step": 19730 + }, + { + "epoch": 2.615109343936382, + "grad_norm": 0.2731715738773346, + "learning_rate": 2.0050868399266483e-07, + "loss": 0.0013, + "num_input_tokens_seen": 38629728, + "step": 19731 + }, + { + "epoch": 2.6152418820410865, + "grad_norm": 13.137104034423828, + "learning_rate": 2.0037249098896234e-07, + "loss": 0.1277, + "num_input_tokens_seen": 38631696, + "step": 19732 + }, + { + "epoch": 2.615374420145792, + "grad_norm": 0.14065180718898773, + "learning_rate": 2.0023634232366473e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38633200, + "step": 19733 + }, + { + "epoch": 2.615506958250497, + "grad_norm": 3.7055394649505615, + "learning_rate": 2.0010023799939743e-07, + "loss": 0.0395, + "num_input_tokens_seen": 38635432, + "step": 19734 + }, + { + "epoch": 2.615639496355202, + "grad_norm": 0.007867217995226383, + "learning_rate": 1.9996417801878416e-07, + "loss": 0.0, + "num_input_tokens_seen": 38637232, + "step": 19735 + }, + { + "epoch": 2.615772034459907, + "grad_norm": 1.7203454971313477, + "learning_rate": 1.9982816238444807e-07, + "loss": 0.0112, + "num_input_tokens_seen": 38638688, + "step": 19736 + }, + { + "epoch": 2.615904572564612, + "grad_norm": 1.2049305438995361, + "learning_rate": 1.9969219109901155e-07, + "loss": 0.0037, + "num_input_tokens_seen": 38641152, + "step": 19737 + }, + { + "epoch": 2.6160371106693177, + "grad_norm": 0.01971018873155117, + "learning_rate": 1.9955626416509693e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38642288, + "step": 19738 + }, + { + "epoch": 2.6161696487740227, + "grad_norm": 0.021865589544177055, + "learning_rate": 1.9942038158532407e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38644648, + "step": 19739 + }, + { + "epoch": 2.6163021868787277, + "grad_norm": 0.001193903386592865, + "learning_rate": 1.992845433623139e-07, + "loss": 0.0, + "num_input_tokens_seen": 38646744, + "step": 19740 + }, + { + "epoch": 2.6164347249834328, + "grad_norm": 0.19450832903385162, + "learning_rate": 1.9914874949868463e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38648472, + "step": 19741 + }, + { + "epoch": 2.616567263088138, + "grad_norm": 0.022375067695975304, + "learning_rate": 1.990129999970547e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38650328, + "step": 19742 + }, + { + "epoch": 2.616699801192843, + "grad_norm": 0.10503179579973221, + "learning_rate": 1.988772948600415e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38652400, + "step": 19743 + }, + { + "epoch": 2.616832339297548, + "grad_norm": 0.010269483551383018, + "learning_rate": 1.9874163409026175e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38654144, + "step": 19744 + }, + { + "epoch": 2.6169648774022534, + "grad_norm": 12.245887756347656, + "learning_rate": 1.9860601769033038e-07, + "loss": 0.0645, + "num_input_tokens_seen": 38655864, + "step": 19745 + }, + { + "epoch": 2.6170974155069584, + "grad_norm": 2.6453616619110107, + "learning_rate": 1.9847044566286305e-07, + "loss": 0.0112, + "num_input_tokens_seen": 38657440, + "step": 19746 + }, + { + "epoch": 2.6172299536116634, + "grad_norm": 5.343145370483398, + "learning_rate": 1.9833491801047296e-07, + "loss": 0.1042, + "num_input_tokens_seen": 38659568, + "step": 19747 + }, + { + "epoch": 2.6173624917163685, + "grad_norm": 10.84970474243164, + "learning_rate": 1.981994347357738e-07, + "loss": 0.0948, + "num_input_tokens_seen": 38661736, + "step": 19748 + }, + { + "epoch": 2.6174950298210735, + "grad_norm": 0.003658079309388995, + "learning_rate": 1.980639958413777e-07, + "loss": 0.0, + "num_input_tokens_seen": 38663016, + "step": 19749 + }, + { + "epoch": 2.6176275679257786, + "grad_norm": 0.006934002973139286, + "learning_rate": 1.9792860132989504e-07, + "loss": 0.0, + "num_input_tokens_seen": 38664952, + "step": 19750 + }, + { + "epoch": 2.6177601060304836, + "grad_norm": 16.418716430664062, + "learning_rate": 1.9779325120393767e-07, + "loss": 0.1344, + "num_input_tokens_seen": 38667184, + "step": 19751 + }, + { + "epoch": 2.617892644135189, + "grad_norm": 8.170684814453125, + "learning_rate": 1.97657945466114e-07, + "loss": 0.2289, + "num_input_tokens_seen": 38670488, + "step": 19752 + }, + { + "epoch": 2.618025182239894, + "grad_norm": 1.1484946012496948, + "learning_rate": 1.9752268411903418e-07, + "loss": 0.0041, + "num_input_tokens_seen": 38673144, + "step": 19753 + }, + { + "epoch": 2.618157720344599, + "grad_norm": 0.0027064899913966656, + "learning_rate": 1.9738746716530504e-07, + "loss": 0.0, + "num_input_tokens_seen": 38674712, + "step": 19754 + }, + { + "epoch": 2.618290258449304, + "grad_norm": 0.07577101141214371, + "learning_rate": 1.9725229460753447e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38676624, + "step": 19755 + }, + { + "epoch": 2.6184227965540092, + "grad_norm": 8.376341819763184, + "learning_rate": 1.9711716644832734e-07, + "loss": 0.0273, + "num_input_tokens_seen": 38679440, + "step": 19756 + }, + { + "epoch": 2.6185553346587143, + "grad_norm": 4.80224609375, + "learning_rate": 1.9698208269029073e-07, + "loss": 0.0567, + "num_input_tokens_seen": 38680960, + "step": 19757 + }, + { + "epoch": 2.6186878727634193, + "grad_norm": 5.651721000671387, + "learning_rate": 1.9684704333602783e-07, + "loss": 0.0269, + "num_input_tokens_seen": 38683400, + "step": 19758 + }, + { + "epoch": 2.618820410868125, + "grad_norm": 0.0049553425051271915, + "learning_rate": 1.9671204838814296e-07, + "loss": 0.0, + "num_input_tokens_seen": 38685408, + "step": 19759 + }, + { + "epoch": 2.61895294897283, + "grad_norm": 0.030724303796887398, + "learning_rate": 1.96577097849239e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38687472, + "step": 19760 + }, + { + "epoch": 2.619085487077535, + "grad_norm": 11.732736587524414, + "learning_rate": 1.9644219172191754e-07, + "loss": 0.0595, + "num_input_tokens_seen": 38689408, + "step": 19761 + }, + { + "epoch": 2.61921802518224, + "grad_norm": 0.009748328477144241, + "learning_rate": 1.963073300087795e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38691312, + "step": 19762 + }, + { + "epoch": 2.619350563286945, + "grad_norm": 0.7420490980148315, + "learning_rate": 1.9617251271242533e-07, + "loss": 0.0298, + "num_input_tokens_seen": 38693256, + "step": 19763 + }, + { + "epoch": 2.61948310139165, + "grad_norm": 0.0563078299164772, + "learning_rate": 1.9603773983545488e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38695472, + "step": 19764 + }, + { + "epoch": 2.619615639496355, + "grad_norm": 0.011395145207643509, + "learning_rate": 1.9590301138046607e-07, + "loss": 0.0, + "num_input_tokens_seen": 38697192, + "step": 19765 + }, + { + "epoch": 2.6197481776010605, + "grad_norm": 0.24805064499378204, + "learning_rate": 1.9576832735005686e-07, + "loss": 0.0017, + "num_input_tokens_seen": 38698840, + "step": 19766 + }, + { + "epoch": 2.6198807157057655, + "grad_norm": 3.8066189289093018, + "learning_rate": 1.9563368774682373e-07, + "loss": 0.0595, + "num_input_tokens_seen": 38701296, + "step": 19767 + }, + { + "epoch": 2.6200132538104706, + "grad_norm": 0.22127187252044678, + "learning_rate": 1.954990925733624e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38702952, + "step": 19768 + }, + { + "epoch": 2.6201457919151756, + "grad_norm": 3.8527517318725586, + "learning_rate": 1.953645418322686e-07, + "loss": 0.0126, + "num_input_tokens_seen": 38705208, + "step": 19769 + }, + { + "epoch": 2.6202783300198806, + "grad_norm": 9.357540130615234, + "learning_rate": 1.952300355261366e-07, + "loss": 0.0837, + "num_input_tokens_seen": 38706672, + "step": 19770 + }, + { + "epoch": 2.6204108681245857, + "grad_norm": 5.711824417114258, + "learning_rate": 1.9509557365755938e-07, + "loss": 0.0542, + "num_input_tokens_seen": 38709752, + "step": 19771 + }, + { + "epoch": 2.6205434062292907, + "grad_norm": 0.030969567596912384, + "learning_rate": 1.949611562291298e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38710776, + "step": 19772 + }, + { + "epoch": 2.620675944333996, + "grad_norm": 2.8518829345703125, + "learning_rate": 1.9482678324343863e-07, + "loss": 0.0289, + "num_input_tokens_seen": 38712656, + "step": 19773 + }, + { + "epoch": 2.6208084824387012, + "grad_norm": 1.0748099088668823, + "learning_rate": 1.9469245470307762e-07, + "loss": 0.0017, + "num_input_tokens_seen": 38714408, + "step": 19774 + }, + { + "epoch": 2.6209410205434063, + "grad_norm": 7.755034446716309, + "learning_rate": 1.945581706106367e-07, + "loss": 0.1486, + "num_input_tokens_seen": 38716488, + "step": 19775 + }, + { + "epoch": 2.6210735586481113, + "grad_norm": 5.888571739196777, + "learning_rate": 1.944239309687046e-07, + "loss": 0.2444, + "num_input_tokens_seen": 38718296, + "step": 19776 + }, + { + "epoch": 2.6212060967528164, + "grad_norm": 0.017607321962714195, + "learning_rate": 1.9428973577986982e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38719936, + "step": 19777 + }, + { + "epoch": 2.6213386348575214, + "grad_norm": 0.03258022293448448, + "learning_rate": 1.9415558504671888e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38721592, + "step": 19778 + }, + { + "epoch": 2.6214711729622264, + "grad_norm": 0.00026192908990196884, + "learning_rate": 1.9402147877183974e-07, + "loss": 0.0, + "num_input_tokens_seen": 38722896, + "step": 19779 + }, + { + "epoch": 2.621603711066932, + "grad_norm": 3.2329914569854736, + "learning_rate": 1.938874169578167e-07, + "loss": 0.0207, + "num_input_tokens_seen": 38726096, + "step": 19780 + }, + { + "epoch": 2.621736249171637, + "grad_norm": 0.029188159853219986, + "learning_rate": 1.937533996072355e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38728080, + "step": 19781 + }, + { + "epoch": 2.621868787276342, + "grad_norm": 0.021158233284950256, + "learning_rate": 1.9361942672267985e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38729856, + "step": 19782 + }, + { + "epoch": 2.622001325381047, + "grad_norm": 0.0012191388523206115, + "learning_rate": 1.9348549830673246e-07, + "loss": 0.0, + "num_input_tokens_seen": 38730856, + "step": 19783 + }, + { + "epoch": 2.622133863485752, + "grad_norm": 8.106405258178711, + "learning_rate": 1.9335161436197598e-07, + "loss": 0.136, + "num_input_tokens_seen": 38732456, + "step": 19784 + }, + { + "epoch": 2.622266401590457, + "grad_norm": 0.0011384871322661638, + "learning_rate": 1.9321777489099192e-07, + "loss": 0.0, + "num_input_tokens_seen": 38733800, + "step": 19785 + }, + { + "epoch": 2.622398939695162, + "grad_norm": 0.012584177777171135, + "learning_rate": 1.930839798963599e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38736632, + "step": 19786 + }, + { + "epoch": 2.6225314777998676, + "grad_norm": 4.519819736480713, + "learning_rate": 1.9295022938066066e-07, + "loss": 0.0261, + "num_input_tokens_seen": 38739512, + "step": 19787 + }, + { + "epoch": 2.6226640159045727, + "grad_norm": 0.11794044077396393, + "learning_rate": 1.9281652334647265e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38741512, + "step": 19788 + }, + { + "epoch": 2.6227965540092777, + "grad_norm": 0.05870175361633301, + "learning_rate": 1.926828617963733e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38742696, + "step": 19789 + }, + { + "epoch": 2.6229290921139827, + "grad_norm": 8.147379875183105, + "learning_rate": 1.9254924473294052e-07, + "loss": 0.078, + "num_input_tokens_seen": 38745128, + "step": 19790 + }, + { + "epoch": 2.6230616302186878, + "grad_norm": 3.9784226417541504, + "learning_rate": 1.9241567215875e-07, + "loss": 0.0438, + "num_input_tokens_seen": 38747608, + "step": 19791 + }, + { + "epoch": 2.6231941683233932, + "grad_norm": 0.04090183600783348, + "learning_rate": 1.9228214407637695e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38748864, + "step": 19792 + }, + { + "epoch": 2.623326706428098, + "grad_norm": 6.516653060913086, + "learning_rate": 1.9214866048839654e-07, + "loss": 0.0429, + "num_input_tokens_seen": 38750536, + "step": 19793 + }, + { + "epoch": 2.6234592445328033, + "grad_norm": 0.03304719924926758, + "learning_rate": 1.9201522139738167e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38753008, + "step": 19794 + }, + { + "epoch": 2.6235917826375084, + "grad_norm": 0.004906546790152788, + "learning_rate": 1.918818268059061e-07, + "loss": 0.0, + "num_input_tokens_seen": 38754536, + "step": 19795 + }, + { + "epoch": 2.6237243207422134, + "grad_norm": 5.391851902008057, + "learning_rate": 1.917484767165409e-07, + "loss": 0.0338, + "num_input_tokens_seen": 38755592, + "step": 19796 + }, + { + "epoch": 2.6238568588469184, + "grad_norm": 1.4228373765945435, + "learning_rate": 1.916151711318573e-07, + "loss": 0.0389, + "num_input_tokens_seen": 38758480, + "step": 19797 + }, + { + "epoch": 2.6239893969516235, + "grad_norm": 0.01757168397307396, + "learning_rate": 1.91481910054426e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38760736, + "step": 19798 + }, + { + "epoch": 2.624121935056329, + "grad_norm": 0.0023080434184521437, + "learning_rate": 1.9134869348681556e-07, + "loss": 0.0, + "num_input_tokens_seen": 38762568, + "step": 19799 + }, + { + "epoch": 2.6242544731610336, + "grad_norm": 8.883512496948242, + "learning_rate": 1.9121552143159528e-07, + "loss": 0.1218, + "num_input_tokens_seen": 38764800, + "step": 19800 + }, + { + "epoch": 2.624387011265739, + "grad_norm": 0.8498203754425049, + "learning_rate": 1.910823938913328e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38766760, + "step": 19801 + }, + { + "epoch": 2.624519549370444, + "grad_norm": 0.004248417913913727, + "learning_rate": 1.909493108685942e-07, + "loss": 0.0, + "num_input_tokens_seen": 38767984, + "step": 19802 + }, + { + "epoch": 2.624652087475149, + "grad_norm": 0.005198840983211994, + "learning_rate": 1.908162723659457e-07, + "loss": 0.0, + "num_input_tokens_seen": 38769504, + "step": 19803 + }, + { + "epoch": 2.624784625579854, + "grad_norm": 0.0010867668315768242, + "learning_rate": 1.9068327838595246e-07, + "loss": 0.0, + "num_input_tokens_seen": 38770896, + "step": 19804 + }, + { + "epoch": 2.624917163684559, + "grad_norm": 0.01152516808360815, + "learning_rate": 1.9055032893117915e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38772896, + "step": 19805 + }, + { + "epoch": 2.6250497017892647, + "grad_norm": 5.803727626800537, + "learning_rate": 1.9041742400418866e-07, + "loss": 0.0076, + "num_input_tokens_seen": 38775808, + "step": 19806 + }, + { + "epoch": 2.6251822398939693, + "grad_norm": 4.524374961853027, + "learning_rate": 1.9028456360754345e-07, + "loss": 0.0321, + "num_input_tokens_seen": 38777784, + "step": 19807 + }, + { + "epoch": 2.6253147779986747, + "grad_norm": 0.0013586783315986395, + "learning_rate": 1.9015174774380528e-07, + "loss": 0.0, + "num_input_tokens_seen": 38778744, + "step": 19808 + }, + { + "epoch": 2.62544731610338, + "grad_norm": 6.243824481964111, + "learning_rate": 1.900189764155347e-07, + "loss": 0.0482, + "num_input_tokens_seen": 38780192, + "step": 19809 + }, + { + "epoch": 2.625579854208085, + "grad_norm": 3.989624500274658, + "learning_rate": 1.8988624962529151e-07, + "loss": 0.0304, + "num_input_tokens_seen": 38783488, + "step": 19810 + }, + { + "epoch": 2.62571239231279, + "grad_norm": 0.006453671958297491, + "learning_rate": 1.8975356737563567e-07, + "loss": 0.0, + "num_input_tokens_seen": 38784560, + "step": 19811 + }, + { + "epoch": 2.625844930417495, + "grad_norm": 10.892070770263672, + "learning_rate": 1.8962092966912483e-07, + "loss": 0.0658, + "num_input_tokens_seen": 38786240, + "step": 19812 + }, + { + "epoch": 2.6259774685222004, + "grad_norm": 0.002781492890790105, + "learning_rate": 1.894883365083164e-07, + "loss": 0.0, + "num_input_tokens_seen": 38787784, + "step": 19813 + }, + { + "epoch": 2.626110006626905, + "grad_norm": 0.007054154761135578, + "learning_rate": 1.8935578789576607e-07, + "loss": 0.0, + "num_input_tokens_seen": 38789096, + "step": 19814 + }, + { + "epoch": 2.6262425447316105, + "grad_norm": 0.28943291306495667, + "learning_rate": 1.8922328383403104e-07, + "loss": 0.0017, + "num_input_tokens_seen": 38791016, + "step": 19815 + }, + { + "epoch": 2.6263750828363155, + "grad_norm": 0.05346442013978958, + "learning_rate": 1.890908243256645e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38792808, + "step": 19816 + }, + { + "epoch": 2.6265076209410205, + "grad_norm": 5.49091911315918, + "learning_rate": 1.8895840937322134e-07, + "loss": 0.1693, + "num_input_tokens_seen": 38795824, + "step": 19817 + }, + { + "epoch": 2.6266401590457256, + "grad_norm": 0.026946239173412323, + "learning_rate": 1.8882603897925482e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38797368, + "step": 19818 + }, + { + "epoch": 2.6267726971504306, + "grad_norm": 0.0009256310295313597, + "learning_rate": 1.8869371314631623e-07, + "loss": 0.0, + "num_input_tokens_seen": 38799104, + "step": 19819 + }, + { + "epoch": 2.626905235255136, + "grad_norm": 5.3360395431518555, + "learning_rate": 1.8856143187695713e-07, + "loss": 0.0324, + "num_input_tokens_seen": 38800496, + "step": 19820 + }, + { + "epoch": 2.6270377733598407, + "grad_norm": 0.17862439155578613, + "learning_rate": 1.8842919517372854e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38803248, + "step": 19821 + }, + { + "epoch": 2.627170311464546, + "grad_norm": 4.026628494262695, + "learning_rate": 1.8829700303917953e-07, + "loss": 0.0225, + "num_input_tokens_seen": 38805848, + "step": 19822 + }, + { + "epoch": 2.627302849569251, + "grad_norm": 7.196382999420166, + "learning_rate": 1.8816485547585916e-07, + "loss": 0.101, + "num_input_tokens_seen": 38807448, + "step": 19823 + }, + { + "epoch": 2.6274353876739562, + "grad_norm": 0.016932401806116104, + "learning_rate": 1.8803275248631542e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38809568, + "step": 19824 + }, + { + "epoch": 2.6275679257786613, + "grad_norm": 0.22900737822055817, + "learning_rate": 1.879006940730946e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38811464, + "step": 19825 + }, + { + "epoch": 2.6277004638833663, + "grad_norm": 0.26289063692092896, + "learning_rate": 1.8776868023874407e-07, + "loss": 0.0014, + "num_input_tokens_seen": 38813176, + "step": 19826 + }, + { + "epoch": 2.627833001988072, + "grad_norm": 14.400627136230469, + "learning_rate": 1.8763671098580792e-07, + "loss": 0.1487, + "num_input_tokens_seen": 38814808, + "step": 19827 + }, + { + "epoch": 2.627965540092777, + "grad_norm": 0.0033969345968216658, + "learning_rate": 1.8750478631683167e-07, + "loss": 0.0, + "num_input_tokens_seen": 38815816, + "step": 19828 + }, + { + "epoch": 2.628098078197482, + "grad_norm": 9.857460975646973, + "learning_rate": 1.873729062343585e-07, + "loss": 0.0272, + "num_input_tokens_seen": 38817824, + "step": 19829 + }, + { + "epoch": 2.628230616302187, + "grad_norm": 0.21560563147068024, + "learning_rate": 1.8724107074093057e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38819672, + "step": 19830 + }, + { + "epoch": 2.628363154406892, + "grad_norm": 5.877389907836914, + "learning_rate": 1.8710927983909084e-07, + "loss": 0.0533, + "num_input_tokens_seen": 38822784, + "step": 19831 + }, + { + "epoch": 2.628495692511597, + "grad_norm": 0.019122915342450142, + "learning_rate": 1.8697753353137976e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38824544, + "step": 19832 + }, + { + "epoch": 2.628628230616302, + "grad_norm": 0.0026731607504189014, + "learning_rate": 1.86845831820337e-07, + "loss": 0.0, + "num_input_tokens_seen": 38825944, + "step": 19833 + }, + { + "epoch": 2.6287607687210075, + "grad_norm": 6.117276191711426, + "learning_rate": 1.8671417470850273e-07, + "loss": 0.16, + "num_input_tokens_seen": 38827936, + "step": 19834 + }, + { + "epoch": 2.6288933068257125, + "grad_norm": 12.60441780090332, + "learning_rate": 1.8658256219841463e-07, + "loss": 0.1214, + "num_input_tokens_seen": 38829528, + "step": 19835 + }, + { + "epoch": 2.6290258449304176, + "grad_norm": 10.467912673950195, + "learning_rate": 1.8645099429261127e-07, + "loss": 0.2085, + "num_input_tokens_seen": 38831216, + "step": 19836 + }, + { + "epoch": 2.6291583830351226, + "grad_norm": 0.005683396942913532, + "learning_rate": 1.8631947099362862e-07, + "loss": 0.0, + "num_input_tokens_seen": 38832512, + "step": 19837 + }, + { + "epoch": 2.6292909211398277, + "grad_norm": 0.00114800117444247, + "learning_rate": 1.8618799230400274e-07, + "loss": 0.0, + "num_input_tokens_seen": 38833880, + "step": 19838 + }, + { + "epoch": 2.6294234592445327, + "grad_norm": 2.264744997024536, + "learning_rate": 1.8605655822626828e-07, + "loss": 0.0152, + "num_input_tokens_seen": 38836352, + "step": 19839 + }, + { + "epoch": 2.6295559973492377, + "grad_norm": 27.523895263671875, + "learning_rate": 1.8592516876295957e-07, + "loss": 0.0684, + "num_input_tokens_seen": 38837696, + "step": 19840 + }, + { + "epoch": 2.629688535453943, + "grad_norm": 0.05799351632595062, + "learning_rate": 1.8579382391661043e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38839480, + "step": 19841 + }, + { + "epoch": 2.6298210735586482, + "grad_norm": 1.1518042087554932, + "learning_rate": 1.8566252368975275e-07, + "loss": 0.0027, + "num_input_tokens_seen": 38841496, + "step": 19842 + }, + { + "epoch": 2.6299536116633533, + "grad_norm": 5.671234607696533, + "learning_rate": 1.8553126808491832e-07, + "loss": 0.0395, + "num_input_tokens_seen": 38843912, + "step": 19843 + }, + { + "epoch": 2.6300861497680583, + "grad_norm": 0.9645246267318726, + "learning_rate": 1.854000571046377e-07, + "loss": 0.0018, + "num_input_tokens_seen": 38846984, + "step": 19844 + }, + { + "epoch": 2.6302186878727634, + "grad_norm": 0.0026462748646736145, + "learning_rate": 1.852688907514402e-07, + "loss": 0.0, + "num_input_tokens_seen": 38848728, + "step": 19845 + }, + { + "epoch": 2.6303512259774684, + "grad_norm": 8.64064884185791, + "learning_rate": 1.851377690278555e-07, + "loss": 0.047, + "num_input_tokens_seen": 38850792, + "step": 19846 + }, + { + "epoch": 2.6304837640821734, + "grad_norm": 4.990572929382324, + "learning_rate": 1.8500669193641186e-07, + "loss": 0.0417, + "num_input_tokens_seen": 38853112, + "step": 19847 + }, + { + "epoch": 2.630616302186879, + "grad_norm": 0.002292696852236986, + "learning_rate": 1.8487565947963638e-07, + "loss": 0.0, + "num_input_tokens_seen": 38855384, + "step": 19848 + }, + { + "epoch": 2.630748840291584, + "grad_norm": 13.123645782470703, + "learning_rate": 1.847446716600551e-07, + "loss": 0.0749, + "num_input_tokens_seen": 38857440, + "step": 19849 + }, + { + "epoch": 2.630881378396289, + "grad_norm": 0.028990715742111206, + "learning_rate": 1.8461372848019355e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38859288, + "step": 19850 + }, + { + "epoch": 2.631013916500994, + "grad_norm": 0.040633898228406906, + "learning_rate": 1.844828299425766e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38860912, + "step": 19851 + }, + { + "epoch": 2.631146454605699, + "grad_norm": 0.005968830548226833, + "learning_rate": 1.8435197604972838e-07, + "loss": 0.0, + "num_input_tokens_seen": 38862248, + "step": 19852 + }, + { + "epoch": 2.631278992710404, + "grad_norm": 0.07968772202730179, + "learning_rate": 1.8422116680417156e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38863480, + "step": 19853 + }, + { + "epoch": 2.631411530815109, + "grad_norm": 0.011876623146235943, + "learning_rate": 1.8409040220842834e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38865680, + "step": 19854 + }, + { + "epoch": 2.6315440689198146, + "grad_norm": 0.02079741843044758, + "learning_rate": 1.839596822650197e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38867120, + "step": 19855 + }, + { + "epoch": 2.6316766070245197, + "grad_norm": 0.18633709847927094, + "learning_rate": 1.8382900697646587e-07, + "loss": 0.0009, + "num_input_tokens_seen": 38868936, + "step": 19856 + }, + { + "epoch": 2.6318091451292247, + "grad_norm": 4.441710948944092, + "learning_rate": 1.8369837634528654e-07, + "loss": 0.0746, + "num_input_tokens_seen": 38871032, + "step": 19857 + }, + { + "epoch": 2.6319416832339297, + "grad_norm": 16.848413467407227, + "learning_rate": 1.8356779037400075e-07, + "loss": 0.1032, + "num_input_tokens_seen": 38873120, + "step": 19858 + }, + { + "epoch": 2.632074221338635, + "grad_norm": 0.01287469919770956, + "learning_rate": 1.8343724906512593e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38874776, + "step": 19859 + }, + { + "epoch": 2.63220675944334, + "grad_norm": 0.027764474973082542, + "learning_rate": 1.8330675242117929e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38875920, + "step": 19860 + }, + { + "epoch": 2.632339297548045, + "grad_norm": 0.007164470851421356, + "learning_rate": 1.8317630044467626e-07, + "loss": 0.0, + "num_input_tokens_seen": 38879152, + "step": 19861 + }, + { + "epoch": 2.6324718356527503, + "grad_norm": 0.00500657269731164, + "learning_rate": 1.8304589313813264e-07, + "loss": 0.0, + "num_input_tokens_seen": 38881712, + "step": 19862 + }, + { + "epoch": 2.6326043737574554, + "grad_norm": 0.07775654643774033, + "learning_rate": 1.8291553050406251e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38883064, + "step": 19863 + }, + { + "epoch": 2.6327369118621604, + "grad_norm": 2.480588436126709, + "learning_rate": 1.8278521254497944e-07, + "loss": 0.011, + "num_input_tokens_seen": 38884392, + "step": 19864 + }, + { + "epoch": 2.6328694499668654, + "grad_norm": 0.3145724833011627, + "learning_rate": 1.826549392633964e-07, + "loss": 0.0014, + "num_input_tokens_seen": 38886384, + "step": 19865 + }, + { + "epoch": 2.6330019880715705, + "grad_norm": 0.016920631751418114, + "learning_rate": 1.8252471066182415e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38888648, + "step": 19866 + }, + { + "epoch": 2.6331345261762755, + "grad_norm": 3.8198182582855225, + "learning_rate": 1.8239452674277485e-07, + "loss": 0.0208, + "num_input_tokens_seen": 38890496, + "step": 19867 + }, + { + "epoch": 2.6332670642809806, + "grad_norm": 3.271207332611084, + "learning_rate": 1.8226438750875763e-07, + "loss": 0.0164, + "num_input_tokens_seen": 38892096, + "step": 19868 + }, + { + "epoch": 2.633399602385686, + "grad_norm": 0.02111208066344261, + "learning_rate": 1.8213429296228158e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38893688, + "step": 19869 + }, + { + "epoch": 2.633532140490391, + "grad_norm": 4.609452724456787, + "learning_rate": 1.8200424310585606e-07, + "loss": 0.0188, + "num_input_tokens_seen": 38896368, + "step": 19870 + }, + { + "epoch": 2.633664678595096, + "grad_norm": 0.015867408365011215, + "learning_rate": 1.8187423794198716e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38897640, + "step": 19871 + }, + { + "epoch": 2.633797216699801, + "grad_norm": 12.80637264251709, + "learning_rate": 1.8174427747318258e-07, + "loss": 0.219, + "num_input_tokens_seen": 38898656, + "step": 19872 + }, + { + "epoch": 2.633929754804506, + "grad_norm": 0.004511797334998846, + "learning_rate": 1.8161436170194778e-07, + "loss": 0.0, + "num_input_tokens_seen": 38900280, + "step": 19873 + }, + { + "epoch": 2.6340622929092112, + "grad_norm": 2.459672212600708, + "learning_rate": 1.8148449063078723e-07, + "loss": 0.0212, + "num_input_tokens_seen": 38902632, + "step": 19874 + }, + { + "epoch": 2.6341948310139163, + "grad_norm": 8.193979263305664, + "learning_rate": 1.8135466426220495e-07, + "loss": 0.0357, + "num_input_tokens_seen": 38904736, + "step": 19875 + }, + { + "epoch": 2.6343273691186218, + "grad_norm": 1.1457719802856445, + "learning_rate": 1.8122488259870452e-07, + "loss": 0.0038, + "num_input_tokens_seen": 38906368, + "step": 19876 + }, + { + "epoch": 2.634459907223327, + "grad_norm": 3.193279504776001, + "learning_rate": 1.8109514564278786e-07, + "loss": 0.0093, + "num_input_tokens_seen": 38908208, + "step": 19877 + }, + { + "epoch": 2.634592445328032, + "grad_norm": 0.01182013563811779, + "learning_rate": 1.8096545339695655e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38909704, + "step": 19878 + }, + { + "epoch": 2.634724983432737, + "grad_norm": 6.101032733917236, + "learning_rate": 1.8083580586371134e-07, + "loss": 0.116, + "num_input_tokens_seen": 38912320, + "step": 19879 + }, + { + "epoch": 2.634857521537442, + "grad_norm": 0.003880533156916499, + "learning_rate": 1.8070620304555142e-07, + "loss": 0.0, + "num_input_tokens_seen": 38914000, + "step": 19880 + }, + { + "epoch": 2.6349900596421474, + "grad_norm": 1.8346939086914062, + "learning_rate": 1.8057664494497613e-07, + "loss": 0.0038, + "num_input_tokens_seen": 38915184, + "step": 19881 + }, + { + "epoch": 2.635122597746852, + "grad_norm": 0.03053249418735504, + "learning_rate": 1.804471315644829e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38917856, + "step": 19882 + }, + { + "epoch": 2.6352551358515575, + "grad_norm": 5.642035007476807, + "learning_rate": 1.803176629065695e-07, + "loss": 0.0425, + "num_input_tokens_seen": 38920192, + "step": 19883 + }, + { + "epoch": 2.6353876739562625, + "grad_norm": 15.781593322753906, + "learning_rate": 1.8018823897373167e-07, + "loss": 0.2407, + "num_input_tokens_seen": 38922224, + "step": 19884 + }, + { + "epoch": 2.6355202120609675, + "grad_norm": 0.04698694124817848, + "learning_rate": 1.8005885976846522e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38923768, + "step": 19885 + }, + { + "epoch": 2.6356527501656726, + "grad_norm": 0.007424511481076479, + "learning_rate": 1.7992952529326369e-07, + "loss": 0.0, + "num_input_tokens_seen": 38925576, + "step": 19886 + }, + { + "epoch": 2.6357852882703776, + "grad_norm": 0.003051064210012555, + "learning_rate": 1.7980023555062175e-07, + "loss": 0.0, + "num_input_tokens_seen": 38926960, + "step": 19887 + }, + { + "epoch": 2.635917826375083, + "grad_norm": 1.1274958848953247, + "learning_rate": 1.7967099054303217e-07, + "loss": 0.0052, + "num_input_tokens_seen": 38928576, + "step": 19888 + }, + { + "epoch": 2.6360503644797877, + "grad_norm": 0.09458813816308975, + "learning_rate": 1.795417902729865e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38930224, + "step": 19889 + }, + { + "epoch": 2.636182902584493, + "grad_norm": 0.07431977242231369, + "learning_rate": 1.7941263474297616e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38931752, + "step": 19890 + }, + { + "epoch": 2.636315440689198, + "grad_norm": 0.05226682871580124, + "learning_rate": 1.7928352395549104e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38934688, + "step": 19891 + }, + { + "epoch": 2.6364479787939032, + "grad_norm": 15.73684310913086, + "learning_rate": 1.7915445791302e-07, + "loss": 0.2547, + "num_input_tokens_seen": 38936656, + "step": 19892 + }, + { + "epoch": 2.6365805168986083, + "grad_norm": 3.693511724472046, + "learning_rate": 1.7902543661805217e-07, + "loss": 0.0431, + "num_input_tokens_seen": 38938440, + "step": 19893 + }, + { + "epoch": 2.6367130550033133, + "grad_norm": 14.132867813110352, + "learning_rate": 1.7889646007307553e-07, + "loss": 0.113, + "num_input_tokens_seen": 38940632, + "step": 19894 + }, + { + "epoch": 2.636845593108019, + "grad_norm": 0.5871493816375732, + "learning_rate": 1.7876752828057647e-07, + "loss": 0.002, + "num_input_tokens_seen": 38942072, + "step": 19895 + }, + { + "epoch": 2.6369781312127234, + "grad_norm": 0.05219053104519844, + "learning_rate": 1.7863864124304047e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38944152, + "step": 19896 + }, + { + "epoch": 2.637110669317429, + "grad_norm": 0.008763797581195831, + "learning_rate": 1.7850979896295278e-07, + "loss": 0.0, + "num_input_tokens_seen": 38945872, + "step": 19897 + }, + { + "epoch": 2.637243207422134, + "grad_norm": 0.024244124069809914, + "learning_rate": 1.7838100144279808e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38947832, + "step": 19898 + }, + { + "epoch": 2.637375745526839, + "grad_norm": 17.92586326599121, + "learning_rate": 1.782522486850588e-07, + "loss": 0.1235, + "num_input_tokens_seen": 38949520, + "step": 19899 + }, + { + "epoch": 2.637508283631544, + "grad_norm": 0.19952444732189178, + "learning_rate": 1.7812354069221826e-07, + "loss": 0.001, + "num_input_tokens_seen": 38950832, + "step": 19900 + }, + { + "epoch": 2.637640821736249, + "grad_norm": 0.004044728819280863, + "learning_rate": 1.7799487746675754e-07, + "loss": 0.0, + "num_input_tokens_seen": 38952136, + "step": 19901 + }, + { + "epoch": 2.6377733598409545, + "grad_norm": 0.09898005425930023, + "learning_rate": 1.7786625901115767e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38955088, + "step": 19902 + }, + { + "epoch": 2.637905897945659, + "grad_norm": 3.3267083168029785, + "learning_rate": 1.777376853278978e-07, + "loss": 0.033, + "num_input_tokens_seen": 38956840, + "step": 19903 + }, + { + "epoch": 2.6380384360503646, + "grad_norm": 0.019604451954364777, + "learning_rate": 1.7760915641945736e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38957904, + "step": 19904 + }, + { + "epoch": 2.6381709741550696, + "grad_norm": 0.34980395436286926, + "learning_rate": 1.774806722883149e-07, + "loss": 0.0015, + "num_input_tokens_seen": 38959536, + "step": 19905 + }, + { + "epoch": 2.6383035122597747, + "grad_norm": 3.580228567123413, + "learning_rate": 1.773522329369473e-07, + "loss": 0.015, + "num_input_tokens_seen": 38961464, + "step": 19906 + }, + { + "epoch": 2.6384360503644797, + "grad_norm": 0.026035038754343987, + "learning_rate": 1.7722383836783096e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38962704, + "step": 19907 + }, + { + "epoch": 2.6385685884691847, + "grad_norm": 0.003725981106981635, + "learning_rate": 1.7709548858344112e-07, + "loss": 0.0, + "num_input_tokens_seen": 38964488, + "step": 19908 + }, + { + "epoch": 2.63870112657389, + "grad_norm": 4.675106525421143, + "learning_rate": 1.7696718358625297e-07, + "loss": 0.0308, + "num_input_tokens_seen": 38966400, + "step": 19909 + }, + { + "epoch": 2.6388336646785953, + "grad_norm": 0.006604394875466824, + "learning_rate": 1.7683892337873987e-07, + "loss": 0.0, + "num_input_tokens_seen": 38967816, + "step": 19910 + }, + { + "epoch": 2.6389662027833003, + "grad_norm": 4.267369270324707, + "learning_rate": 1.7671070796337535e-07, + "loss": 0.0399, + "num_input_tokens_seen": 38969656, + "step": 19911 + }, + { + "epoch": 2.6390987408880053, + "grad_norm": 0.3346015512943268, + "learning_rate": 1.7658253734263108e-07, + "loss": 0.0014, + "num_input_tokens_seen": 38971112, + "step": 19912 + }, + { + "epoch": 2.6392312789927104, + "grad_norm": 0.14386485517024994, + "learning_rate": 1.7645441151897786e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38973728, + "step": 19913 + }, + { + "epoch": 2.6393638170974154, + "grad_norm": 2.9693682193756104, + "learning_rate": 1.76326330494887e-07, + "loss": 0.0138, + "num_input_tokens_seen": 38976016, + "step": 19914 + }, + { + "epoch": 2.6394963552021204, + "grad_norm": 2.772496223449707, + "learning_rate": 1.761982942728277e-07, + "loss": 0.0116, + "num_input_tokens_seen": 38977704, + "step": 19915 + }, + { + "epoch": 2.639628893306826, + "grad_norm": 4.7372026443481445, + "learning_rate": 1.7607030285526767e-07, + "loss": 0.053, + "num_input_tokens_seen": 38980416, + "step": 19916 + }, + { + "epoch": 2.639761431411531, + "grad_norm": 0.011975102126598358, + "learning_rate": 1.7594235624467605e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38981872, + "step": 19917 + }, + { + "epoch": 2.639893969516236, + "grad_norm": 0.3138246238231659, + "learning_rate": 1.7581445444351862e-07, + "loss": 0.0013, + "num_input_tokens_seen": 38983144, + "step": 19918 + }, + { + "epoch": 2.640026507620941, + "grad_norm": 7.129380226135254, + "learning_rate": 1.756865974542621e-07, + "loss": 0.1041, + "num_input_tokens_seen": 38984920, + "step": 19919 + }, + { + "epoch": 2.640159045725646, + "grad_norm": 5.539901256561279, + "learning_rate": 1.7555878527937164e-07, + "loss": 0.0971, + "num_input_tokens_seen": 38986480, + "step": 19920 + }, + { + "epoch": 2.640291583830351, + "grad_norm": 17.023334503173828, + "learning_rate": 1.7543101792131145e-07, + "loss": 0.1507, + "num_input_tokens_seen": 38989328, + "step": 19921 + }, + { + "epoch": 2.640424121935056, + "grad_norm": 14.090907096862793, + "learning_rate": 1.7530329538254425e-07, + "loss": 0.2161, + "num_input_tokens_seen": 38990888, + "step": 19922 + }, + { + "epoch": 2.6405566600397616, + "grad_norm": 0.0051709674298763275, + "learning_rate": 1.7517561766553337e-07, + "loss": 0.0, + "num_input_tokens_seen": 38992536, + "step": 19923 + }, + { + "epoch": 2.6406891981444667, + "grad_norm": 1.495229721069336, + "learning_rate": 1.750479847727407e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38994320, + "step": 19924 + }, + { + "epoch": 2.6408217362491717, + "grad_norm": 0.15092863142490387, + "learning_rate": 1.749203967066268e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38997080, + "step": 19925 + }, + { + "epoch": 2.6409542743538768, + "grad_norm": 0.03637028485536575, + "learning_rate": 1.7479285346965162e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38999280, + "step": 19926 + }, + { + "epoch": 2.641086812458582, + "grad_norm": 4.16127872467041, + "learning_rate": 1.7466535506427434e-07, + "loss": 0.0698, + "num_input_tokens_seen": 39001240, + "step": 19927 + }, + { + "epoch": 2.641219350563287, + "grad_norm": 0.0031853823456913233, + "learning_rate": 1.7453790149295296e-07, + "loss": 0.0, + "num_input_tokens_seen": 39002928, + "step": 19928 + }, + { + "epoch": 2.641351888667992, + "grad_norm": 0.8193962574005127, + "learning_rate": 1.744104927581447e-07, + "loss": 0.0019, + "num_input_tokens_seen": 39004568, + "step": 19929 + }, + { + "epoch": 2.6414844267726973, + "grad_norm": 0.03946051001548767, + "learning_rate": 1.742831288623073e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39006584, + "step": 19930 + }, + { + "epoch": 2.6416169648774024, + "grad_norm": 0.007678720634430647, + "learning_rate": 1.7415580980789522e-07, + "loss": 0.0, + "num_input_tokens_seen": 39008040, + "step": 19931 + }, + { + "epoch": 2.6417495029821074, + "grad_norm": 1.199819564819336, + "learning_rate": 1.7402853559736393e-07, + "loss": 0.0063, + "num_input_tokens_seen": 39010128, + "step": 19932 + }, + { + "epoch": 2.6418820410868125, + "grad_norm": 17.225217819213867, + "learning_rate": 1.7390130623316653e-07, + "loss": 0.207, + "num_input_tokens_seen": 39011696, + "step": 19933 + }, + { + "epoch": 2.6420145791915175, + "grad_norm": 0.04431646689772606, + "learning_rate": 1.7377412171775687e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39014336, + "step": 19934 + }, + { + "epoch": 2.6421471172962225, + "grad_norm": 14.560745239257812, + "learning_rate": 1.7364698205358715e-07, + "loss": 0.0488, + "num_input_tokens_seen": 39016568, + "step": 19935 + }, + { + "epoch": 2.6422796554009276, + "grad_norm": 0.004816378001123667, + "learning_rate": 1.7351988724310848e-07, + "loss": 0.0, + "num_input_tokens_seen": 39018424, + "step": 19936 + }, + { + "epoch": 2.642412193505633, + "grad_norm": 1.3067947626113892, + "learning_rate": 1.7339283728877139e-07, + "loss": 0.0083, + "num_input_tokens_seen": 39020640, + "step": 19937 + }, + { + "epoch": 2.642544731610338, + "grad_norm": 9.525301933288574, + "learning_rate": 1.732658321930253e-07, + "loss": 0.0819, + "num_input_tokens_seen": 39022872, + "step": 19938 + }, + { + "epoch": 2.642677269715043, + "grad_norm": 0.13601581752300262, + "learning_rate": 1.731388719583188e-07, + "loss": 0.0007, + "num_input_tokens_seen": 39024160, + "step": 19939 + }, + { + "epoch": 2.642809807819748, + "grad_norm": 4.722878932952881, + "learning_rate": 1.7301195658709996e-07, + "loss": 0.0496, + "num_input_tokens_seen": 39026040, + "step": 19940 + }, + { + "epoch": 2.642942345924453, + "grad_norm": 11.298348426818848, + "learning_rate": 1.7288508608181652e-07, + "loss": 0.1451, + "num_input_tokens_seen": 39028560, + "step": 19941 + }, + { + "epoch": 2.6430748840291582, + "grad_norm": 0.6074582934379578, + "learning_rate": 1.7275826044491378e-07, + "loss": 0.0017, + "num_input_tokens_seen": 39031816, + "step": 19942 + }, + { + "epoch": 2.6432074221338633, + "grad_norm": 0.04165493696928024, + "learning_rate": 1.7263147967883753e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39033400, + "step": 19943 + }, + { + "epoch": 2.6433399602385688, + "grad_norm": 0.010375391691923141, + "learning_rate": 1.7250474378603137e-07, + "loss": 0.0, + "num_input_tokens_seen": 39034640, + "step": 19944 + }, + { + "epoch": 2.643472498343274, + "grad_norm": 4.652912139892578, + "learning_rate": 1.7237805276893975e-07, + "loss": 0.0718, + "num_input_tokens_seen": 39036184, + "step": 19945 + }, + { + "epoch": 2.643605036447979, + "grad_norm": 21.221359252929688, + "learning_rate": 1.7225140663000462e-07, + "loss": 0.1263, + "num_input_tokens_seen": 39038120, + "step": 19946 + }, + { + "epoch": 2.643737574552684, + "grad_norm": 0.020312394946813583, + "learning_rate": 1.721248053716687e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39039672, + "step": 19947 + }, + { + "epoch": 2.643870112657389, + "grad_norm": 0.028406143188476562, + "learning_rate": 1.719982489963723e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39041048, + "step": 19948 + }, + { + "epoch": 2.644002650762094, + "grad_norm": 3.6935346126556396, + "learning_rate": 1.718717375065554e-07, + "loss": 0.0266, + "num_input_tokens_seen": 39042824, + "step": 19949 + }, + { + "epoch": 2.644135188866799, + "grad_norm": 15.869932174682617, + "learning_rate": 1.7174527090465798e-07, + "loss": 0.0229, + "num_input_tokens_seen": 39044888, + "step": 19950 + }, + { + "epoch": 2.6442677269715045, + "grad_norm": 0.4168020486831665, + "learning_rate": 1.7161884919311783e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39046600, + "step": 19951 + }, + { + "epoch": 2.6444002650762095, + "grad_norm": 21.429616928100586, + "learning_rate": 1.7149247237437215e-07, + "loss": 0.0845, + "num_input_tokens_seen": 39047992, + "step": 19952 + }, + { + "epoch": 2.6445328031809145, + "grad_norm": 0.9962335824966431, + "learning_rate": 1.713661404508582e-07, + "loss": 0.0064, + "num_input_tokens_seen": 39049656, + "step": 19953 + }, + { + "epoch": 2.6446653412856196, + "grad_norm": 0.1471930295228958, + "learning_rate": 1.712398534250112e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39051072, + "step": 19954 + }, + { + "epoch": 2.6447978793903246, + "grad_norm": 4.736299514770508, + "learning_rate": 1.7111361129926674e-07, + "loss": 0.0157, + "num_input_tokens_seen": 39052592, + "step": 19955 + }, + { + "epoch": 2.6449304174950297, + "grad_norm": 0.05444004759192467, + "learning_rate": 1.7098741407605868e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39053912, + "step": 19956 + }, + { + "epoch": 2.6450629555997347, + "grad_norm": 9.947511672973633, + "learning_rate": 1.7086126175781926e-07, + "loss": 0.166, + "num_input_tokens_seen": 39056856, + "step": 19957 + }, + { + "epoch": 2.64519549370444, + "grad_norm": 0.0481526181101799, + "learning_rate": 1.7073515434698207e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39058928, + "step": 19958 + }, + { + "epoch": 2.645328031809145, + "grad_norm": 0.006598897278308868, + "learning_rate": 1.7060909184597797e-07, + "loss": 0.0, + "num_input_tokens_seen": 39060424, + "step": 19959 + }, + { + "epoch": 2.6454605699138503, + "grad_norm": 0.0009480995358899236, + "learning_rate": 1.704830742572372e-07, + "loss": 0.0, + "num_input_tokens_seen": 39061736, + "step": 19960 + }, + { + "epoch": 2.6455931080185553, + "grad_norm": 0.0014780407072976232, + "learning_rate": 1.703571015831901e-07, + "loss": 0.0, + "num_input_tokens_seen": 39062840, + "step": 19961 + }, + { + "epoch": 2.6457256461232603, + "grad_norm": 0.6250894665718079, + "learning_rate": 1.7023117382626518e-07, + "loss": 0.0021, + "num_input_tokens_seen": 39064896, + "step": 19962 + }, + { + "epoch": 2.645858184227966, + "grad_norm": 0.002213862957432866, + "learning_rate": 1.7010529098889034e-07, + "loss": 0.0, + "num_input_tokens_seen": 39066224, + "step": 19963 + }, + { + "epoch": 2.6459907223326704, + "grad_norm": 7.723633766174316, + "learning_rate": 1.6997945307349302e-07, + "loss": 0.0511, + "num_input_tokens_seen": 39069408, + "step": 19964 + }, + { + "epoch": 2.646123260437376, + "grad_norm": 0.018439266830682755, + "learning_rate": 1.6985366008249875e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39070664, + "step": 19965 + }, + { + "epoch": 2.646255798542081, + "grad_norm": 12.208579063415527, + "learning_rate": 1.697279120183337e-07, + "loss": 0.1349, + "num_input_tokens_seen": 39072512, + "step": 19966 + }, + { + "epoch": 2.646388336646786, + "grad_norm": 5.34529447555542, + "learning_rate": 1.6960220888342233e-07, + "loss": 0.0333, + "num_input_tokens_seen": 39074344, + "step": 19967 + }, + { + "epoch": 2.646520874751491, + "grad_norm": 3.3625733852386475, + "learning_rate": 1.6947655068018793e-07, + "loss": 0.0318, + "num_input_tokens_seen": 39076168, + "step": 19968 + }, + { + "epoch": 2.646653412856196, + "grad_norm": 0.09358619153499603, + "learning_rate": 1.6935093741105302e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39078136, + "step": 19969 + }, + { + "epoch": 2.6467859509609015, + "grad_norm": 11.284737586975098, + "learning_rate": 1.6922536907843983e-07, + "loss": 0.105, + "num_input_tokens_seen": 39079288, + "step": 19970 + }, + { + "epoch": 2.646918489065606, + "grad_norm": 12.570952415466309, + "learning_rate": 1.6909984568477007e-07, + "loss": 0.0717, + "num_input_tokens_seen": 39082000, + "step": 19971 + }, + { + "epoch": 2.6470510271703116, + "grad_norm": 15.462092399597168, + "learning_rate": 1.6897436723246284e-07, + "loss": 0.2438, + "num_input_tokens_seen": 39083848, + "step": 19972 + }, + { + "epoch": 2.6471835652750166, + "grad_norm": 0.006328567396849394, + "learning_rate": 1.6884893372393823e-07, + "loss": 0.0, + "num_input_tokens_seen": 39085256, + "step": 19973 + }, + { + "epoch": 2.6473161033797217, + "grad_norm": 0.011133326217532158, + "learning_rate": 1.6872354516161427e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39086768, + "step": 19974 + }, + { + "epoch": 2.6474486414844267, + "grad_norm": 5.95301628112793, + "learning_rate": 1.6859820154790819e-07, + "loss": 0.0932, + "num_input_tokens_seen": 39088624, + "step": 19975 + }, + { + "epoch": 2.6475811795891318, + "grad_norm": 3.5081679821014404, + "learning_rate": 1.6847290288523722e-07, + "loss": 0.0609, + "num_input_tokens_seen": 39090136, + "step": 19976 + }, + { + "epoch": 2.6477137176938372, + "grad_norm": 5.2423624992370605, + "learning_rate": 1.6834764917601749e-07, + "loss": 0.0132, + "num_input_tokens_seen": 39091904, + "step": 19977 + }, + { + "epoch": 2.647846255798542, + "grad_norm": 0.34484416246414185, + "learning_rate": 1.6822244042266345e-07, + "loss": 0.0013, + "num_input_tokens_seen": 39094352, + "step": 19978 + }, + { + "epoch": 2.6479787939032473, + "grad_norm": 0.11933187395334244, + "learning_rate": 1.6809727662758958e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39096840, + "step": 19979 + }, + { + "epoch": 2.6481113320079523, + "grad_norm": 0.03326604142785072, + "learning_rate": 1.6797215779320864e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39098472, + "step": 19980 + }, + { + "epoch": 2.6482438701126574, + "grad_norm": 0.00959748961031437, + "learning_rate": 1.6784708392193344e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39101304, + "step": 19981 + }, + { + "epoch": 2.6483764082173624, + "grad_norm": 4.482297897338867, + "learning_rate": 1.6772205501617482e-07, + "loss": 0.0214, + "num_input_tokens_seen": 39103456, + "step": 19982 + }, + { + "epoch": 2.6485089463220675, + "grad_norm": 4.820776462554932, + "learning_rate": 1.675970710783445e-07, + "loss": 0.0455, + "num_input_tokens_seen": 39105648, + "step": 19983 + }, + { + "epoch": 2.648641484426773, + "grad_norm": 0.055431704968214035, + "learning_rate": 1.674721321108519e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39108032, + "step": 19984 + }, + { + "epoch": 2.6487740225314775, + "grad_norm": 3.939870595932007, + "learning_rate": 1.673472381161051e-07, + "loss": 0.0462, + "num_input_tokens_seen": 39110272, + "step": 19985 + }, + { + "epoch": 2.648906560636183, + "grad_norm": 0.06875581294298172, + "learning_rate": 1.67222389096513e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39113216, + "step": 19986 + }, + { + "epoch": 2.649039098740888, + "grad_norm": 0.004226888995617628, + "learning_rate": 1.670975850544823e-07, + "loss": 0.0, + "num_input_tokens_seen": 39115896, + "step": 19987 + }, + { + "epoch": 2.649171636845593, + "grad_norm": 2.1376240253448486, + "learning_rate": 1.6697282599241998e-07, + "loss": 0.006, + "num_input_tokens_seen": 39116952, + "step": 19988 + }, + { + "epoch": 2.649304174950298, + "grad_norm": 13.674684524536133, + "learning_rate": 1.6684811191273104e-07, + "loss": 0.1966, + "num_input_tokens_seen": 39119520, + "step": 19989 + }, + { + "epoch": 2.649436713055003, + "grad_norm": 0.5422107577323914, + "learning_rate": 1.6672344281781994e-07, + "loss": 0.0021, + "num_input_tokens_seen": 39121696, + "step": 19990 + }, + { + "epoch": 2.6495692511597086, + "grad_norm": 0.005797104444354773, + "learning_rate": 1.6659881871009032e-07, + "loss": 0.0, + "num_input_tokens_seen": 39123520, + "step": 19991 + }, + { + "epoch": 2.6497017892644132, + "grad_norm": 4.735316276550293, + "learning_rate": 1.6647423959194554e-07, + "loss": 0.0399, + "num_input_tokens_seen": 39125328, + "step": 19992 + }, + { + "epoch": 2.6498343273691187, + "grad_norm": 0.011999591253697872, + "learning_rate": 1.6634970546578672e-07, + "loss": 0.0, + "num_input_tokens_seen": 39126584, + "step": 19993 + }, + { + "epoch": 2.6499668654738238, + "grad_norm": 0.24750719964504242, + "learning_rate": 1.6622521633401612e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39128784, + "step": 19994 + }, + { + "epoch": 2.650099403578529, + "grad_norm": 3.515619993209839, + "learning_rate": 1.6610077219903292e-07, + "loss": 0.0575, + "num_input_tokens_seen": 39131256, + "step": 19995 + }, + { + "epoch": 2.650231941683234, + "grad_norm": 7.976091384887695, + "learning_rate": 1.659763730632369e-07, + "loss": 0.1472, + "num_input_tokens_seen": 39133248, + "step": 19996 + }, + { + "epoch": 2.650364479787939, + "grad_norm": 8.442564010620117, + "learning_rate": 1.658520189290269e-07, + "loss": 0.0996, + "num_input_tokens_seen": 39135272, + "step": 19997 + }, + { + "epoch": 2.6504970178926444, + "grad_norm": 0.8371568918228149, + "learning_rate": 1.657277097988e-07, + "loss": 0.0038, + "num_input_tokens_seen": 39137376, + "step": 19998 + }, + { + "epoch": 2.6506295559973494, + "grad_norm": 7.709126949310303, + "learning_rate": 1.6560344567495307e-07, + "loss": 0.0709, + "num_input_tokens_seen": 39139376, + "step": 19999 + }, + { + "epoch": 2.6507620941020544, + "grad_norm": 0.45898982882499695, + "learning_rate": 1.654792265598823e-07, + "loss": 0.002, + "num_input_tokens_seen": 39141376, + "step": 20000 + }, + { + "epoch": 2.6508946322067595, + "grad_norm": 3.2740676403045654, + "learning_rate": 1.6535505245598215e-07, + "loss": 0.0165, + "num_input_tokens_seen": 39143256, + "step": 20001 + }, + { + "epoch": 2.6510271703114645, + "grad_norm": 0.0170175451785326, + "learning_rate": 1.6523092336564768e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39144640, + "step": 20002 + }, + { + "epoch": 2.6511597084161695, + "grad_norm": 11.66884994506836, + "learning_rate": 1.6510683929127192e-07, + "loss": 0.1005, + "num_input_tokens_seen": 39147272, + "step": 20003 + }, + { + "epoch": 2.6512922465208746, + "grad_norm": 0.01447171438485384, + "learning_rate": 1.649828002352466e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39148952, + "step": 20004 + }, + { + "epoch": 2.65142478462558, + "grad_norm": 5.252066612243652, + "learning_rate": 1.648588061999637e-07, + "loss": 0.0328, + "num_input_tokens_seen": 39150856, + "step": 20005 + }, + { + "epoch": 2.651557322730285, + "grad_norm": 7.80180549621582, + "learning_rate": 1.647348571878138e-07, + "loss": 0.0612, + "num_input_tokens_seen": 39152544, + "step": 20006 + }, + { + "epoch": 2.65168986083499, + "grad_norm": 0.15701831877231598, + "learning_rate": 1.646109532011872e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39154024, + "step": 20007 + }, + { + "epoch": 2.651822398939695, + "grad_norm": 3.1685616970062256, + "learning_rate": 1.6448709424247256e-07, + "loss": 0.0168, + "num_input_tokens_seen": 39155264, + "step": 20008 + }, + { + "epoch": 2.6519549370444, + "grad_norm": 0.016454381868243217, + "learning_rate": 1.6436328031405796e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39156616, + "step": 20009 + }, + { + "epoch": 2.6520874751491053, + "grad_norm": 8.28774642944336, + "learning_rate": 1.642395114183301e-07, + "loss": 0.0458, + "num_input_tokens_seen": 39159264, + "step": 20010 + }, + { + "epoch": 2.6522200132538103, + "grad_norm": 4.7118048667907715, + "learning_rate": 1.64115787557676e-07, + "loss": 0.0521, + "num_input_tokens_seen": 39161656, + "step": 20011 + }, + { + "epoch": 2.6523525513585158, + "grad_norm": 2.692826271057129, + "learning_rate": 1.639921087344812e-07, + "loss": 0.0113, + "num_input_tokens_seen": 39163192, + "step": 20012 + }, + { + "epoch": 2.652485089463221, + "grad_norm": 9.105107307434082, + "learning_rate": 1.6386847495113017e-07, + "loss": 0.0741, + "num_input_tokens_seen": 39165008, + "step": 20013 + }, + { + "epoch": 2.652617627567926, + "grad_norm": 3.4778482913970947, + "learning_rate": 1.6374488621000662e-07, + "loss": 0.023, + "num_input_tokens_seen": 39166880, + "step": 20014 + }, + { + "epoch": 2.652750165672631, + "grad_norm": 5.938304901123047, + "learning_rate": 1.6362134251349332e-07, + "loss": 0.0589, + "num_input_tokens_seen": 39169112, + "step": 20015 + }, + { + "epoch": 2.652882703777336, + "grad_norm": 2.8815531730651855, + "learning_rate": 1.634978438639717e-07, + "loss": 0.0362, + "num_input_tokens_seen": 39171424, + "step": 20016 + }, + { + "epoch": 2.653015241882041, + "grad_norm": 5.1492815017700195, + "learning_rate": 1.633743902638238e-07, + "loss": 0.0474, + "num_input_tokens_seen": 39173640, + "step": 20017 + }, + { + "epoch": 2.653147779986746, + "grad_norm": 0.01200445368885994, + "learning_rate": 1.6325098171542986e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39176200, + "step": 20018 + }, + { + "epoch": 2.6532803180914515, + "grad_norm": 0.16650548577308655, + "learning_rate": 1.6312761822116914e-07, + "loss": 0.0007, + "num_input_tokens_seen": 39177848, + "step": 20019 + }, + { + "epoch": 2.6534128561961565, + "grad_norm": 0.0016646881122142076, + "learning_rate": 1.6300429978341997e-07, + "loss": 0.0, + "num_input_tokens_seen": 39179048, + "step": 20020 + }, + { + "epoch": 2.6535453943008616, + "grad_norm": 0.009938289411365986, + "learning_rate": 1.6288102640455993e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39180648, + "step": 20021 + }, + { + "epoch": 2.6536779324055666, + "grad_norm": 0.06868237257003784, + "learning_rate": 1.62757798086966e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39182360, + "step": 20022 + }, + { + "epoch": 2.6538104705102716, + "grad_norm": 0.0029044339898973703, + "learning_rate": 1.626346148330138e-07, + "loss": 0.0, + "num_input_tokens_seen": 39184008, + "step": 20023 + }, + { + "epoch": 2.6539430086149767, + "grad_norm": 3.9993114471435547, + "learning_rate": 1.6251147664507917e-07, + "loss": 0.0263, + "num_input_tokens_seen": 39186424, + "step": 20024 + }, + { + "epoch": 2.6540755467196817, + "grad_norm": 0.1993933618068695, + "learning_rate": 1.6238838352553603e-07, + "loss": 0.001, + "num_input_tokens_seen": 39188064, + "step": 20025 + }, + { + "epoch": 2.654208084824387, + "grad_norm": 0.996856689453125, + "learning_rate": 1.6226533547675726e-07, + "loss": 0.0027, + "num_input_tokens_seen": 39189456, + "step": 20026 + }, + { + "epoch": 2.6543406229290922, + "grad_norm": 1.2736454010009766, + "learning_rate": 1.621423325011151e-07, + "loss": 0.0185, + "num_input_tokens_seen": 39190800, + "step": 20027 + }, + { + "epoch": 2.6544731610337973, + "grad_norm": 18.34808349609375, + "learning_rate": 1.620193746009821e-07, + "loss": 0.2632, + "num_input_tokens_seen": 39192400, + "step": 20028 + }, + { + "epoch": 2.6546056991385023, + "grad_norm": 11.78628158569336, + "learning_rate": 1.6189646177872804e-07, + "loss": 0.24, + "num_input_tokens_seen": 39194800, + "step": 20029 + }, + { + "epoch": 2.6547382372432073, + "grad_norm": 0.11824502795934677, + "learning_rate": 1.617735940367235e-07, + "loss": 0.0008, + "num_input_tokens_seen": 39197024, + "step": 20030 + }, + { + "epoch": 2.6548707753479124, + "grad_norm": 1.2106844186782837, + "learning_rate": 1.6165077137733715e-07, + "loss": 0.0096, + "num_input_tokens_seen": 39199280, + "step": 20031 + }, + { + "epoch": 2.6550033134526174, + "grad_norm": 0.033760473132133484, + "learning_rate": 1.6152799380293683e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39200808, + "step": 20032 + }, + { + "epoch": 2.655135851557323, + "grad_norm": 0.06833388656377792, + "learning_rate": 1.6140526131589035e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39202744, + "step": 20033 + }, + { + "epoch": 2.655268389662028, + "grad_norm": 0.031996142119169235, + "learning_rate": 1.6128257391856362e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39205224, + "step": 20034 + }, + { + "epoch": 2.655400927766733, + "grad_norm": 87.51895141601562, + "learning_rate": 1.6115993161332193e-07, + "loss": 0.1354, + "num_input_tokens_seen": 39207520, + "step": 20035 + }, + { + "epoch": 2.655533465871438, + "grad_norm": 4.961874961853027, + "learning_rate": 1.6103733440253066e-07, + "loss": 0.0359, + "num_input_tokens_seen": 39209240, + "step": 20036 + }, + { + "epoch": 2.655666003976143, + "grad_norm": 0.05917447432875633, + "learning_rate": 1.609147822885526e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39210456, + "step": 20037 + }, + { + "epoch": 2.655798542080848, + "grad_norm": 1.1534103155136108, + "learning_rate": 1.6079227527375175e-07, + "loss": 0.0055, + "num_input_tokens_seen": 39212240, + "step": 20038 + }, + { + "epoch": 2.655931080185553, + "grad_norm": 2.2544357776641846, + "learning_rate": 1.6066981336048947e-07, + "loss": 0.0182, + "num_input_tokens_seen": 39215136, + "step": 20039 + }, + { + "epoch": 2.6560636182902586, + "grad_norm": 1.5119657516479492, + "learning_rate": 1.6054739655112672e-07, + "loss": 0.0063, + "num_input_tokens_seen": 39216776, + "step": 20040 + }, + { + "epoch": 2.6561961563949636, + "grad_norm": 0.021279633045196533, + "learning_rate": 1.6042502484802463e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39218128, + "step": 20041 + }, + { + "epoch": 2.6563286944996687, + "grad_norm": 4.328943252563477, + "learning_rate": 1.6030269825354133e-07, + "loss": 0.0696, + "num_input_tokens_seen": 39219584, + "step": 20042 + }, + { + "epoch": 2.6564612326043737, + "grad_norm": 0.04322853684425354, + "learning_rate": 1.601804167700366e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39221344, + "step": 20043 + }, + { + "epoch": 2.6565937707090788, + "grad_norm": 6.227418422698975, + "learning_rate": 1.600581803998677e-07, + "loss": 0.0517, + "num_input_tokens_seen": 39223648, + "step": 20044 + }, + { + "epoch": 2.656726308813784, + "grad_norm": 49.591705322265625, + "learning_rate": 1.599359891453911e-07, + "loss": 0.1447, + "num_input_tokens_seen": 39226208, + "step": 20045 + }, + { + "epoch": 2.656858846918489, + "grad_norm": 6.170390605926514, + "learning_rate": 1.5981384300896268e-07, + "loss": 0.0707, + "num_input_tokens_seen": 39228200, + "step": 20046 + }, + { + "epoch": 2.6569913850231943, + "grad_norm": 0.04464423283934593, + "learning_rate": 1.5969174199293806e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39230232, + "step": 20047 + }, + { + "epoch": 2.6571239231278994, + "grad_norm": 0.007255627308040857, + "learning_rate": 1.5956968609967094e-07, + "loss": 0.0, + "num_input_tokens_seen": 39231600, + "step": 20048 + }, + { + "epoch": 2.6572564612326044, + "grad_norm": 0.0022484089713543653, + "learning_rate": 1.5944767533151522e-07, + "loss": 0.0, + "num_input_tokens_seen": 39232896, + "step": 20049 + }, + { + "epoch": 2.6573889993373094, + "grad_norm": 23.103734970092773, + "learning_rate": 1.5932570969082296e-07, + "loss": 0.1865, + "num_input_tokens_seen": 39234752, + "step": 20050 + }, + { + "epoch": 2.6575215374420145, + "grad_norm": 0.03214700520038605, + "learning_rate": 1.5920378917994583e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39236856, + "step": 20051 + }, + { + "epoch": 2.65765407554672, + "grad_norm": 0.021375279873609543, + "learning_rate": 1.5908191380123395e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39238544, + "step": 20052 + }, + { + "epoch": 2.6577866136514245, + "grad_norm": 5.277658939361572, + "learning_rate": 1.5896008355703764e-07, + "loss": 0.0318, + "num_input_tokens_seen": 39240864, + "step": 20053 + }, + { + "epoch": 2.65791915175613, + "grad_norm": 11.660393714904785, + "learning_rate": 1.588382984497064e-07, + "loss": 0.2908, + "num_input_tokens_seen": 39242368, + "step": 20054 + }, + { + "epoch": 2.658051689860835, + "grad_norm": 0.002004727255553007, + "learning_rate": 1.587165584815878e-07, + "loss": 0.0, + "num_input_tokens_seen": 39244000, + "step": 20055 + }, + { + "epoch": 2.65818422796554, + "grad_norm": 0.05760011821985245, + "learning_rate": 1.585948636550294e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39246176, + "step": 20056 + }, + { + "epoch": 2.658316766070245, + "grad_norm": 0.01596280187368393, + "learning_rate": 1.5847321397237685e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39247952, + "step": 20057 + }, + { + "epoch": 2.65844930417495, + "grad_norm": 0.008537213318049908, + "learning_rate": 1.5835160943597606e-07, + "loss": 0.0, + "num_input_tokens_seen": 39249896, + "step": 20058 + }, + { + "epoch": 2.6585818422796557, + "grad_norm": 0.33254188299179077, + "learning_rate": 1.5823005004817148e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39251576, + "step": 20059 + }, + { + "epoch": 2.6587143803843603, + "grad_norm": 7.203460693359375, + "learning_rate": 1.581085358113074e-07, + "loss": 0.0325, + "num_input_tokens_seen": 39252744, + "step": 20060 + }, + { + "epoch": 2.6588469184890657, + "grad_norm": 7.312133312225342, + "learning_rate": 1.579870667277264e-07, + "loss": 0.0428, + "num_input_tokens_seen": 39254536, + "step": 20061 + }, + { + "epoch": 2.6589794565937708, + "grad_norm": 0.012560809031128883, + "learning_rate": 1.5786564279977046e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39256592, + "step": 20062 + }, + { + "epoch": 2.659111994698476, + "grad_norm": 6.9692206382751465, + "learning_rate": 1.5774426402978021e-07, + "loss": 0.0631, + "num_input_tokens_seen": 39258216, + "step": 20063 + }, + { + "epoch": 2.659244532803181, + "grad_norm": 3.811007022857666, + "learning_rate": 1.576229304200963e-07, + "loss": 0.0136, + "num_input_tokens_seen": 39260728, + "step": 20064 + }, + { + "epoch": 2.659377070907886, + "grad_norm": 4.833829879760742, + "learning_rate": 1.575016419730588e-07, + "loss": 0.0691, + "num_input_tokens_seen": 39263080, + "step": 20065 + }, + { + "epoch": 2.6595096090125914, + "grad_norm": 0.841262698173523, + "learning_rate": 1.5738039869100552e-07, + "loss": 0.0046, + "num_input_tokens_seen": 39265736, + "step": 20066 + }, + { + "epoch": 2.659642147117296, + "grad_norm": 5.980198383331299, + "learning_rate": 1.5725920057627437e-07, + "loss": 0.097, + "num_input_tokens_seen": 39268448, + "step": 20067 + }, + { + "epoch": 2.6597746852220014, + "grad_norm": 37.981143951416016, + "learning_rate": 1.571380476312015e-07, + "loss": 0.7511, + "num_input_tokens_seen": 39270984, + "step": 20068 + }, + { + "epoch": 2.6599072233267065, + "grad_norm": 6.292543888092041, + "learning_rate": 1.5701693985812365e-07, + "loss": 0.1116, + "num_input_tokens_seen": 39273040, + "step": 20069 + }, + { + "epoch": 2.6600397614314115, + "grad_norm": 0.0018822691636160016, + "learning_rate": 1.568958772593754e-07, + "loss": 0.0, + "num_input_tokens_seen": 39274152, + "step": 20070 + }, + { + "epoch": 2.6601722995361166, + "grad_norm": 2.0688834190368652, + "learning_rate": 1.5677485983729119e-07, + "loss": 0.0071, + "num_input_tokens_seen": 39275664, + "step": 20071 + }, + { + "epoch": 2.6603048376408216, + "grad_norm": 0.001039625145494938, + "learning_rate": 1.5665388759420447e-07, + "loss": 0.0, + "num_input_tokens_seen": 39276824, + "step": 20072 + }, + { + "epoch": 2.660437375745527, + "grad_norm": 0.02869611792266369, + "learning_rate": 1.5653296053244727e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39278672, + "step": 20073 + }, + { + "epoch": 2.6605699138502317, + "grad_norm": 7.082756042480469, + "learning_rate": 1.5641207865435077e-07, + "loss": 0.0675, + "num_input_tokens_seen": 39280544, + "step": 20074 + }, + { + "epoch": 2.660702451954937, + "grad_norm": 0.01785850152373314, + "learning_rate": 1.5629124196224672e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39282352, + "step": 20075 + }, + { + "epoch": 2.660834990059642, + "grad_norm": 6.0198469161987305, + "learning_rate": 1.561704504584638e-07, + "loss": 0.0372, + "num_input_tokens_seen": 39284296, + "step": 20076 + }, + { + "epoch": 2.6609675281643472, + "grad_norm": 0.008046872913837433, + "learning_rate": 1.5604970414533183e-07, + "loss": 0.0, + "num_input_tokens_seen": 39287096, + "step": 20077 + }, + { + "epoch": 2.6611000662690523, + "grad_norm": 0.054896097630262375, + "learning_rate": 1.5592900302517867e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39288112, + "step": 20078 + }, + { + "epoch": 2.6612326043737573, + "grad_norm": 4.530753135681152, + "learning_rate": 1.5580834710033132e-07, + "loss": 0.0738, + "num_input_tokens_seen": 39290848, + "step": 20079 + }, + { + "epoch": 2.661365142478463, + "grad_norm": 7.721060752868652, + "learning_rate": 1.556877363731163e-07, + "loss": 0.0638, + "num_input_tokens_seen": 39292928, + "step": 20080 + }, + { + "epoch": 2.661497680583168, + "grad_norm": 11.560966491699219, + "learning_rate": 1.5556717084585892e-07, + "loss": 0.123, + "num_input_tokens_seen": 39294976, + "step": 20081 + }, + { + "epoch": 2.661630218687873, + "grad_norm": 0.0696026012301445, + "learning_rate": 1.5544665052088376e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39296664, + "step": 20082 + }, + { + "epoch": 2.661762756792578, + "grad_norm": 0.015878230333328247, + "learning_rate": 1.5532617540051476e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39298912, + "step": 20083 + }, + { + "epoch": 2.661895294897283, + "grad_norm": 1.1882286071777344, + "learning_rate": 1.5520574548707422e-07, + "loss": 0.0021, + "num_input_tokens_seen": 39301104, + "step": 20084 + }, + { + "epoch": 2.662027833001988, + "grad_norm": 0.1862114667892456, + "learning_rate": 1.5508536078288478e-07, + "loss": 0.0007, + "num_input_tokens_seen": 39302864, + "step": 20085 + }, + { + "epoch": 2.662160371106693, + "grad_norm": 0.0048501272685825825, + "learning_rate": 1.5496502129026758e-07, + "loss": 0.0, + "num_input_tokens_seen": 39304624, + "step": 20086 + }, + { + "epoch": 2.6622929092113985, + "grad_norm": 0.06142023950815201, + "learning_rate": 1.548447270115422e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39306792, + "step": 20087 + }, + { + "epoch": 2.6624254473161035, + "grad_norm": 11.073729515075684, + "learning_rate": 1.5472447794902811e-07, + "loss": 0.1335, + "num_input_tokens_seen": 39309440, + "step": 20088 + }, + { + "epoch": 2.6625579854208086, + "grad_norm": 3.9331328868865967, + "learning_rate": 1.546042741050441e-07, + "loss": 0.0189, + "num_input_tokens_seen": 39311800, + "step": 20089 + }, + { + "epoch": 2.6626905235255136, + "grad_norm": 10.820836067199707, + "learning_rate": 1.5448411548190795e-07, + "loss": 0.0439, + "num_input_tokens_seen": 39313240, + "step": 20090 + }, + { + "epoch": 2.6628230616302186, + "grad_norm": 2.4432740211486816, + "learning_rate": 1.543640020819359e-07, + "loss": 0.0189, + "num_input_tokens_seen": 39315144, + "step": 20091 + }, + { + "epoch": 2.6629555997349237, + "grad_norm": 0.014453635551035404, + "learning_rate": 1.5424393390744446e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39317112, + "step": 20092 + }, + { + "epoch": 2.6630881378396287, + "grad_norm": 0.008074669167399406, + "learning_rate": 1.5412391096074757e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39319120, + "step": 20093 + }, + { + "epoch": 2.663220675944334, + "grad_norm": 8.264554023742676, + "learning_rate": 1.5400393324416035e-07, + "loss": 0.1257, + "num_input_tokens_seen": 39322072, + "step": 20094 + }, + { + "epoch": 2.6633532140490392, + "grad_norm": 0.02673794887959957, + "learning_rate": 1.5388400075999566e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39323960, + "step": 20095 + }, + { + "epoch": 2.6634857521537443, + "grad_norm": 0.021921608597040176, + "learning_rate": 1.5376411351056635e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39325712, + "step": 20096 + }, + { + "epoch": 2.6636182902584493, + "grad_norm": 0.012615563347935677, + "learning_rate": 1.5364427149818312e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39326856, + "step": 20097 + }, + { + "epoch": 2.6637508283631544, + "grad_norm": 0.03368218615651131, + "learning_rate": 1.5352447472515742e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39329128, + "step": 20098 + }, + { + "epoch": 2.6638833664678594, + "grad_norm": 0.09718035906553268, + "learning_rate": 1.5340472319379795e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39331160, + "step": 20099 + }, + { + "epoch": 2.6640159045725644, + "grad_norm": 0.13043227791786194, + "learning_rate": 1.532850169064143e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39332952, + "step": 20100 + }, + { + "epoch": 2.66414844267727, + "grad_norm": 2.2386772632598877, + "learning_rate": 1.5316535586531483e-07, + "loss": 0.0154, + "num_input_tokens_seen": 39335088, + "step": 20101 + }, + { + "epoch": 2.664280980781975, + "grad_norm": 0.0015371773624792695, + "learning_rate": 1.5304574007280636e-07, + "loss": 0.0, + "num_input_tokens_seen": 39336192, + "step": 20102 + }, + { + "epoch": 2.66441351888668, + "grad_norm": 0.047920484095811844, + "learning_rate": 1.5292616953119483e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39337816, + "step": 20103 + }, + { + "epoch": 2.664546056991385, + "grad_norm": 12.439166069030762, + "learning_rate": 1.5280664424278612e-07, + "loss": 0.0622, + "num_input_tokens_seen": 39340384, + "step": 20104 + }, + { + "epoch": 2.66467859509609, + "grad_norm": 0.24778370559215546, + "learning_rate": 1.5268716420988426e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39342168, + "step": 20105 + }, + { + "epoch": 2.664811133200795, + "grad_norm": 7.261645793914795, + "learning_rate": 1.5256772943479325e-07, + "loss": 0.0372, + "num_input_tokens_seen": 39344040, + "step": 20106 + }, + { + "epoch": 2.6649436713055, + "grad_norm": 0.010847168043255806, + "learning_rate": 1.5244833991981595e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39346056, + "step": 20107 + }, + { + "epoch": 2.6650762094102056, + "grad_norm": 6.037286758422852, + "learning_rate": 1.523289956672544e-07, + "loss": 0.054, + "num_input_tokens_seen": 39348680, + "step": 20108 + }, + { + "epoch": 2.6652087475149107, + "grad_norm": 2.160426616668701, + "learning_rate": 1.5220969667940928e-07, + "loss": 0.0268, + "num_input_tokens_seen": 39350424, + "step": 20109 + }, + { + "epoch": 2.6653412856196157, + "grad_norm": 2.9819531440734863, + "learning_rate": 1.5209044295858038e-07, + "loss": 0.0074, + "num_input_tokens_seen": 39351960, + "step": 20110 + }, + { + "epoch": 2.6654738237243207, + "grad_norm": 2.256443738937378, + "learning_rate": 1.5197123450706786e-07, + "loss": 0.0127, + "num_input_tokens_seen": 39354200, + "step": 20111 + }, + { + "epoch": 2.6656063618290258, + "grad_norm": 0.24322111904621124, + "learning_rate": 1.5185207132716957e-07, + "loss": 0.001, + "num_input_tokens_seen": 39356048, + "step": 20112 + }, + { + "epoch": 2.665738899933731, + "grad_norm": 0.0934867113828659, + "learning_rate": 1.517329534211834e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39357512, + "step": 20113 + }, + { + "epoch": 2.665871438038436, + "grad_norm": 0.02310285158455372, + "learning_rate": 1.516138807914061e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39358864, + "step": 20114 + }, + { + "epoch": 2.6660039761431413, + "grad_norm": 0.023409908637404442, + "learning_rate": 1.5149485344013282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39360584, + "step": 20115 + }, + { + "epoch": 2.6661365142478464, + "grad_norm": 2.965247631072998, + "learning_rate": 1.513758713696592e-07, + "loss": 0.0225, + "num_input_tokens_seen": 39362496, + "step": 20116 + }, + { + "epoch": 2.6662690523525514, + "grad_norm": 0.01717386208474636, + "learning_rate": 1.5125693458227868e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39364408, + "step": 20117 + }, + { + "epoch": 2.6664015904572564, + "grad_norm": 1.7209481000900269, + "learning_rate": 1.5113804308028502e-07, + "loss": 0.007, + "num_input_tokens_seen": 39366344, + "step": 20118 + }, + { + "epoch": 2.6665341285619615, + "grad_norm": 4.734864234924316, + "learning_rate": 1.510191968659705e-07, + "loss": 0.0473, + "num_input_tokens_seen": 39367672, + "step": 20119 + }, + { + "epoch": 2.6666666666666665, + "grad_norm": 20.694290161132812, + "learning_rate": 1.509003959416258e-07, + "loss": 0.1722, + "num_input_tokens_seen": 39370400, + "step": 20120 + }, + { + "epoch": 2.6667992047713716, + "grad_norm": 8.548318862915039, + "learning_rate": 1.5078164030954244e-07, + "loss": 0.0725, + "num_input_tokens_seen": 39373200, + "step": 20121 + }, + { + "epoch": 2.666931742876077, + "grad_norm": 0.075322225689888, + "learning_rate": 1.5066292997201e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39375072, + "step": 20122 + }, + { + "epoch": 2.667064280980782, + "grad_norm": 5.661335468292236, + "learning_rate": 1.505442649313163e-07, + "loss": 0.0442, + "num_input_tokens_seen": 39376968, + "step": 20123 + }, + { + "epoch": 2.667196819085487, + "grad_norm": 0.5694214105606079, + "learning_rate": 1.504256451897504e-07, + "loss": 0.0019, + "num_input_tokens_seen": 39379048, + "step": 20124 + }, + { + "epoch": 2.667329357190192, + "grad_norm": 2.161294937133789, + "learning_rate": 1.503070707495985e-07, + "loss": 0.0085, + "num_input_tokens_seen": 39380848, + "step": 20125 + }, + { + "epoch": 2.667461895294897, + "grad_norm": 0.7247650027275085, + "learning_rate": 1.5018854161314767e-07, + "loss": 0.0033, + "num_input_tokens_seen": 39382856, + "step": 20126 + }, + { + "epoch": 2.6675944333996022, + "grad_norm": 4.434040546417236, + "learning_rate": 1.5007005778268302e-07, + "loss": 0.0301, + "num_input_tokens_seen": 39385216, + "step": 20127 + }, + { + "epoch": 2.6677269715043073, + "grad_norm": 0.012582316994667053, + "learning_rate": 1.4995161926048856e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39386504, + "step": 20128 + }, + { + "epoch": 2.6678595096090127, + "grad_norm": 7.426968097686768, + "learning_rate": 1.4983322604884777e-07, + "loss": 0.0587, + "num_input_tokens_seen": 39387888, + "step": 20129 + }, + { + "epoch": 2.667992047713718, + "grad_norm": 11.776243209838867, + "learning_rate": 1.4971487815004405e-07, + "loss": 0.0874, + "num_input_tokens_seen": 39390048, + "step": 20130 + }, + { + "epoch": 2.668124585818423, + "grad_norm": 2.1628201007843018, + "learning_rate": 1.4959657556635866e-07, + "loss": 0.0272, + "num_input_tokens_seen": 39392488, + "step": 20131 + }, + { + "epoch": 2.668257123923128, + "grad_norm": 0.25032714009284973, + "learning_rate": 1.494783183000728e-07, + "loss": 0.0012, + "num_input_tokens_seen": 39395104, + "step": 20132 + }, + { + "epoch": 2.668389662027833, + "grad_norm": 0.09875693917274475, + "learning_rate": 1.4936010635346666e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39396760, + "step": 20133 + }, + { + "epoch": 2.6685222001325384, + "grad_norm": 0.0052293166518211365, + "learning_rate": 1.4924193972881944e-07, + "loss": 0.0, + "num_input_tokens_seen": 39398128, + "step": 20134 + }, + { + "epoch": 2.668654738237243, + "grad_norm": 21.74353790283203, + "learning_rate": 1.4912381842840884e-07, + "loss": 0.0809, + "num_input_tokens_seen": 39400120, + "step": 20135 + }, + { + "epoch": 2.6687872763419485, + "grad_norm": 9.714179039001465, + "learning_rate": 1.490057424545127e-07, + "loss": 0.1488, + "num_input_tokens_seen": 39402904, + "step": 20136 + }, + { + "epoch": 2.6689198144466535, + "grad_norm": 2.7182931900024414, + "learning_rate": 1.4888771180940815e-07, + "loss": 0.0141, + "num_input_tokens_seen": 39404608, + "step": 20137 + }, + { + "epoch": 2.6690523525513585, + "grad_norm": 6.90073299407959, + "learning_rate": 1.4876972649537053e-07, + "loss": 0.0383, + "num_input_tokens_seen": 39406488, + "step": 20138 + }, + { + "epoch": 2.6691848906560636, + "grad_norm": 1.1990959644317627, + "learning_rate": 1.4865178651467444e-07, + "loss": 0.0203, + "num_input_tokens_seen": 39407992, + "step": 20139 + }, + { + "epoch": 2.6693174287607686, + "grad_norm": 0.1924542784690857, + "learning_rate": 1.4853389186959388e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39409448, + "step": 20140 + }, + { + "epoch": 2.669449966865474, + "grad_norm": 1.3991565704345703, + "learning_rate": 1.4841604256240205e-07, + "loss": 0.006, + "num_input_tokens_seen": 39411000, + "step": 20141 + }, + { + "epoch": 2.6695825049701787, + "grad_norm": 6.912725925445557, + "learning_rate": 1.482982385953713e-07, + "loss": 0.1095, + "num_input_tokens_seen": 39413008, + "step": 20142 + }, + { + "epoch": 2.669715043074884, + "grad_norm": 0.029663022607564926, + "learning_rate": 1.4818047997077312e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39415376, + "step": 20143 + }, + { + "epoch": 2.669847581179589, + "grad_norm": 3.212301015853882, + "learning_rate": 1.4806276669087765e-07, + "loss": 0.0091, + "num_input_tokens_seen": 39417920, + "step": 20144 + }, + { + "epoch": 2.6699801192842942, + "grad_norm": 0.003484267508611083, + "learning_rate": 1.479450987579545e-07, + "loss": 0.0, + "num_input_tokens_seen": 39419040, + "step": 20145 + }, + { + "epoch": 2.6701126573889993, + "grad_norm": 2.7343859672546387, + "learning_rate": 1.4782747617427234e-07, + "loss": 0.0225, + "num_input_tokens_seen": 39421000, + "step": 20146 + }, + { + "epoch": 2.6702451954937043, + "grad_norm": 0.009740045294165611, + "learning_rate": 1.4770989894209886e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39422624, + "step": 20147 + }, + { + "epoch": 2.67037773359841, + "grad_norm": 0.0016459949547424912, + "learning_rate": 1.4759236706370167e-07, + "loss": 0.0, + "num_input_tokens_seen": 39423752, + "step": 20148 + }, + { + "epoch": 2.6705102717031144, + "grad_norm": 0.034503061324357986, + "learning_rate": 1.4747488054134646e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39426056, + "step": 20149 + }, + { + "epoch": 2.67064280980782, + "grad_norm": 0.07384388893842697, + "learning_rate": 1.4735743937729862e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39427912, + "step": 20150 + }, + { + "epoch": 2.670775347912525, + "grad_norm": 12.226487159729004, + "learning_rate": 1.4724004357382192e-07, + "loss": 0.0574, + "num_input_tokens_seen": 39430776, + "step": 20151 + }, + { + "epoch": 2.67090788601723, + "grad_norm": 0.24289873242378235, + "learning_rate": 1.4712269313318067e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39432456, + "step": 20152 + }, + { + "epoch": 2.671040424121935, + "grad_norm": 0.024418234825134277, + "learning_rate": 1.4700538805763664e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39433688, + "step": 20153 + }, + { + "epoch": 2.67117296222664, + "grad_norm": 7.3896965980529785, + "learning_rate": 1.468881283494525e-07, + "loss": 0.0113, + "num_input_tokens_seen": 39435280, + "step": 20154 + }, + { + "epoch": 2.6713055003313455, + "grad_norm": 0.011946018785238266, + "learning_rate": 1.4677091401088833e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39437752, + "step": 20155 + }, + { + "epoch": 2.67143803843605, + "grad_norm": 0.18004576861858368, + "learning_rate": 1.4665374504420404e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39440184, + "step": 20156 + }, + { + "epoch": 2.6715705765407556, + "grad_norm": 0.008589798584580421, + "learning_rate": 1.4653662145165947e-07, + "loss": 0.0, + "num_input_tokens_seen": 39441760, + "step": 20157 + }, + { + "epoch": 2.6717031146454606, + "grad_norm": 4.811905384063721, + "learning_rate": 1.4641954323551226e-07, + "loss": 0.0368, + "num_input_tokens_seen": 39443776, + "step": 20158 + }, + { + "epoch": 2.6718356527501657, + "grad_norm": 0.022709475830197334, + "learning_rate": 1.4630251039801978e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39446088, + "step": 20159 + }, + { + "epoch": 2.6719681908548707, + "grad_norm": 2.7338054180145264, + "learning_rate": 1.4618552294143884e-07, + "loss": 0.0651, + "num_input_tokens_seen": 39447936, + "step": 20160 + }, + { + "epoch": 2.6721007289595757, + "grad_norm": 8.300863265991211, + "learning_rate": 1.4606858086802483e-07, + "loss": 0.0715, + "num_input_tokens_seen": 39450656, + "step": 20161 + }, + { + "epoch": 2.672233267064281, + "grad_norm": 10.302836418151855, + "learning_rate": 1.4595168418003235e-07, + "loss": 0.1274, + "num_input_tokens_seen": 39452368, + "step": 20162 + }, + { + "epoch": 2.672365805168986, + "grad_norm": 6.975489139556885, + "learning_rate": 1.4583483287971546e-07, + "loss": 0.1961, + "num_input_tokens_seen": 39453488, + "step": 20163 + }, + { + "epoch": 2.6724983432736913, + "grad_norm": 0.018723439425230026, + "learning_rate": 1.457180269693273e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39455288, + "step": 20164 + }, + { + "epoch": 2.6726308813783963, + "grad_norm": 6.84435510635376, + "learning_rate": 1.4560126645111915e-07, + "loss": 0.0278, + "num_input_tokens_seen": 39457544, + "step": 20165 + }, + { + "epoch": 2.6727634194831014, + "grad_norm": 0.06169802322983742, + "learning_rate": 1.4548455132734313e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39460576, + "step": 20166 + }, + { + "epoch": 2.6728959575878064, + "grad_norm": 0.0019228770397603512, + "learning_rate": 1.4536788160024879e-07, + "loss": 0.0, + "num_input_tokens_seen": 39461872, + "step": 20167 + }, + { + "epoch": 2.6730284956925114, + "grad_norm": 2.4049911499023438, + "learning_rate": 1.4525125727208682e-07, + "loss": 0.0337, + "num_input_tokens_seen": 39463360, + "step": 20168 + }, + { + "epoch": 2.673161033797217, + "grad_norm": 4.048755168914795, + "learning_rate": 1.4513467834510463e-07, + "loss": 0.0451, + "num_input_tokens_seen": 39465192, + "step": 20169 + }, + { + "epoch": 2.673293571901922, + "grad_norm": 0.01354187447577715, + "learning_rate": 1.450181448215504e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39467872, + "step": 20170 + }, + { + "epoch": 2.673426110006627, + "grad_norm": 0.01715157739818096, + "learning_rate": 1.4490165670367122e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39469712, + "step": 20171 + }, + { + "epoch": 2.673558648111332, + "grad_norm": 2.8186209201812744, + "learning_rate": 1.4478521399371225e-07, + "loss": 0.0193, + "num_input_tokens_seen": 39471752, + "step": 20172 + }, + { + "epoch": 2.673691186216037, + "grad_norm": 5.104423999786377, + "learning_rate": 1.4466881669391976e-07, + "loss": 0.0245, + "num_input_tokens_seen": 39473424, + "step": 20173 + }, + { + "epoch": 2.673823724320742, + "grad_norm": 0.2736017405986786, + "learning_rate": 1.4455246480653717e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39476656, + "step": 20174 + }, + { + "epoch": 2.673956262425447, + "grad_norm": 0.4044327139854431, + "learning_rate": 1.4443615833380804e-07, + "loss": 0.0018, + "num_input_tokens_seen": 39479184, + "step": 20175 + }, + { + "epoch": 2.6740888005301526, + "grad_norm": 10.494331359863281, + "learning_rate": 1.443198972779744e-07, + "loss": 0.2165, + "num_input_tokens_seen": 39480848, + "step": 20176 + }, + { + "epoch": 2.6742213386348577, + "grad_norm": 0.007487769704312086, + "learning_rate": 1.4420368164127813e-07, + "loss": 0.0, + "num_input_tokens_seen": 39482896, + "step": 20177 + }, + { + "epoch": 2.6743538767395627, + "grad_norm": 0.10096654295921326, + "learning_rate": 1.4408751142596073e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39484792, + "step": 20178 + }, + { + "epoch": 2.6744864148442677, + "grad_norm": 10.122913360595703, + "learning_rate": 1.4397138663426125e-07, + "loss": 0.1066, + "num_input_tokens_seen": 39486864, + "step": 20179 + }, + { + "epoch": 2.674618952948973, + "grad_norm": 0.0019637218210846186, + "learning_rate": 1.4385530726841872e-07, + "loss": 0.0, + "num_input_tokens_seen": 39488696, + "step": 20180 + }, + { + "epoch": 2.674751491053678, + "grad_norm": 0.20172810554504395, + "learning_rate": 1.4373927333067113e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39490560, + "step": 20181 + }, + { + "epoch": 2.674884029158383, + "grad_norm": 0.040239885449409485, + "learning_rate": 1.4362328482325577e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39493744, + "step": 20182 + }, + { + "epoch": 2.6750165672630883, + "grad_norm": 5.654191017150879, + "learning_rate": 1.4350734174840897e-07, + "loss": 0.0254, + "num_input_tokens_seen": 39495888, + "step": 20183 + }, + { + "epoch": 2.6751491053677934, + "grad_norm": 4.878161907196045, + "learning_rate": 1.4339144410836642e-07, + "loss": 0.0609, + "num_input_tokens_seen": 39498464, + "step": 20184 + }, + { + "epoch": 2.6752816434724984, + "grad_norm": 0.1461607962846756, + "learning_rate": 1.43275591905363e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39500296, + "step": 20185 + }, + { + "epoch": 2.6754141815772035, + "grad_norm": 2.244842052459717, + "learning_rate": 1.4315978514163164e-07, + "loss": 0.0084, + "num_input_tokens_seen": 39502688, + "step": 20186 + }, + { + "epoch": 2.6755467196819085, + "grad_norm": 0.9511129856109619, + "learning_rate": 1.4304402381940556e-07, + "loss": 0.006, + "num_input_tokens_seen": 39504160, + "step": 20187 + }, + { + "epoch": 2.6756792577866135, + "grad_norm": 0.010936187580227852, + "learning_rate": 1.4292830794091662e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39505400, + "step": 20188 + }, + { + "epoch": 2.6758117958913186, + "grad_norm": 5.239866733551025, + "learning_rate": 1.4281263750839548e-07, + "loss": 0.0753, + "num_input_tokens_seen": 39507408, + "step": 20189 + }, + { + "epoch": 2.675944333996024, + "grad_norm": 24.428874969482422, + "learning_rate": 1.426970125240737e-07, + "loss": 0.1246, + "num_input_tokens_seen": 39509224, + "step": 20190 + }, + { + "epoch": 2.676076872100729, + "grad_norm": 0.005128705408424139, + "learning_rate": 1.4258143299017924e-07, + "loss": 0.0, + "num_input_tokens_seen": 39510896, + "step": 20191 + }, + { + "epoch": 2.676209410205434, + "grad_norm": 0.014148305170238018, + "learning_rate": 1.4246589890894142e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39512632, + "step": 20192 + }, + { + "epoch": 2.676341948310139, + "grad_norm": 0.056967880576848984, + "learning_rate": 1.4235041028258706e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39514264, + "step": 20193 + }, + { + "epoch": 2.676474486414844, + "grad_norm": 0.09654107689857483, + "learning_rate": 1.42234967113343e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39516288, + "step": 20194 + }, + { + "epoch": 2.6766070245195492, + "grad_norm": 6.095205783843994, + "learning_rate": 1.421195694034358e-07, + "loss": 0.0808, + "num_input_tokens_seen": 39518584, + "step": 20195 + }, + { + "epoch": 2.6767395626242543, + "grad_norm": 3.4731605052948, + "learning_rate": 1.4200421715509006e-07, + "loss": 0.0477, + "num_input_tokens_seen": 39520256, + "step": 20196 + }, + { + "epoch": 2.6768721007289598, + "grad_norm": 3.3745572566986084, + "learning_rate": 1.4188891037052953e-07, + "loss": 0.0304, + "num_input_tokens_seen": 39522408, + "step": 20197 + }, + { + "epoch": 2.677004638833665, + "grad_norm": 3.6716883182525635, + "learning_rate": 1.417736490519772e-07, + "loss": 0.0136, + "num_input_tokens_seen": 39524584, + "step": 20198 + }, + { + "epoch": 2.67713717693837, + "grad_norm": 0.1443951576948166, + "learning_rate": 1.4165843320165628e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39525952, + "step": 20199 + }, + { + "epoch": 2.677269715043075, + "grad_norm": 1.744572401046753, + "learning_rate": 1.4154326282178748e-07, + "loss": 0.0124, + "num_input_tokens_seen": 39527408, + "step": 20200 + }, + { + "epoch": 2.67740225314778, + "grad_norm": 1.2068439722061157, + "learning_rate": 1.4142813791459154e-07, + "loss": 0.0037, + "num_input_tokens_seen": 39529424, + "step": 20201 + }, + { + "epoch": 2.677534791252485, + "grad_norm": 0.003543563885614276, + "learning_rate": 1.413130584822886e-07, + "loss": 0.0, + "num_input_tokens_seen": 39531352, + "step": 20202 + }, + { + "epoch": 2.67766732935719, + "grad_norm": 0.08373633027076721, + "learning_rate": 1.4119802452709635e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39532920, + "step": 20203 + }, + { + "epoch": 2.6777998674618955, + "grad_norm": 0.04483358561992645, + "learning_rate": 1.4108303605123413e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39534536, + "step": 20204 + }, + { + "epoch": 2.6779324055666005, + "grad_norm": 4.8608903884887695, + "learning_rate": 1.4096809305691822e-07, + "loss": 0.084, + "num_input_tokens_seen": 39535896, + "step": 20205 + }, + { + "epoch": 2.6780649436713055, + "grad_norm": 0.01978892646729946, + "learning_rate": 1.4085319554636435e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39537560, + "step": 20206 + }, + { + "epoch": 2.6781974817760106, + "grad_norm": 0.4883391857147217, + "learning_rate": 1.4073834352178879e-07, + "loss": 0.0033, + "num_input_tokens_seen": 39538976, + "step": 20207 + }, + { + "epoch": 2.6783300198807156, + "grad_norm": 7.455320835113525, + "learning_rate": 1.4062353698540532e-07, + "loss": 0.1018, + "num_input_tokens_seen": 39541624, + "step": 20208 + }, + { + "epoch": 2.6784625579854207, + "grad_norm": 1.334483027458191, + "learning_rate": 1.4050877593942802e-07, + "loss": 0.0051, + "num_input_tokens_seen": 39543728, + "step": 20209 + }, + { + "epoch": 2.6785950960901257, + "grad_norm": 2.351060628890991, + "learning_rate": 1.40394060386069e-07, + "loss": 0.0168, + "num_input_tokens_seen": 39546000, + "step": 20210 + }, + { + "epoch": 2.678727634194831, + "grad_norm": 0.007957668974995613, + "learning_rate": 1.4027939032754067e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39547480, + "step": 20211 + }, + { + "epoch": 2.678860172299536, + "grad_norm": 0.008340725675225258, + "learning_rate": 1.4016476576605292e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39549320, + "step": 20212 + }, + { + "epoch": 2.6789927104042413, + "grad_norm": 2.645320415496826, + "learning_rate": 1.4005018670381675e-07, + "loss": 0.0143, + "num_input_tokens_seen": 39551960, + "step": 20213 + }, + { + "epoch": 2.6791252485089463, + "grad_norm": 0.0015474415849894285, + "learning_rate": 1.3993565314304126e-07, + "loss": 0.0, + "num_input_tokens_seen": 39553544, + "step": 20214 + }, + { + "epoch": 2.6792577866136513, + "grad_norm": 0.00988653115928173, + "learning_rate": 1.3982116508593436e-07, + "loss": 0.0, + "num_input_tokens_seen": 39555360, + "step": 20215 + }, + { + "epoch": 2.6793903247183564, + "grad_norm": 0.06097639724612236, + "learning_rate": 1.3970672253470375e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39556448, + "step": 20216 + }, + { + "epoch": 2.6795228628230614, + "grad_norm": 0.02217528410255909, + "learning_rate": 1.395923254915557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39558096, + "step": 20217 + }, + { + "epoch": 2.679655400927767, + "grad_norm": 7.531145095825195, + "learning_rate": 1.3947797395869572e-07, + "loss": 0.075, + "num_input_tokens_seen": 39559928, + "step": 20218 + }, + { + "epoch": 2.679787939032472, + "grad_norm": 7.074980735778809, + "learning_rate": 1.3936366793832895e-07, + "loss": 0.0872, + "num_input_tokens_seen": 39561984, + "step": 20219 + }, + { + "epoch": 2.679920477137177, + "grad_norm": 2.1431424617767334, + "learning_rate": 1.392494074326592e-07, + "loss": 0.0281, + "num_input_tokens_seen": 39563736, + "step": 20220 + }, + { + "epoch": 2.680053015241882, + "grad_norm": 1.197313666343689, + "learning_rate": 1.3913519244388967e-07, + "loss": 0.0051, + "num_input_tokens_seen": 39565968, + "step": 20221 + }, + { + "epoch": 2.680185553346587, + "grad_norm": 0.022982394322752953, + "learning_rate": 1.3902102297422255e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39567864, + "step": 20222 + }, + { + "epoch": 2.6803180914512925, + "grad_norm": 2.231358766555786, + "learning_rate": 1.3890689902585824e-07, + "loss": 0.0182, + "num_input_tokens_seen": 39569672, + "step": 20223 + }, + { + "epoch": 2.680450629555997, + "grad_norm": 11.15102481842041, + "learning_rate": 1.3879282060099754e-07, + "loss": 0.1709, + "num_input_tokens_seen": 39573152, + "step": 20224 + }, + { + "epoch": 2.6805831676607026, + "grad_norm": 1.9883564710617065, + "learning_rate": 1.3867878770184085e-07, + "loss": 0.013, + "num_input_tokens_seen": 39576064, + "step": 20225 + }, + { + "epoch": 2.6807157057654076, + "grad_norm": 0.019533313810825348, + "learning_rate": 1.3856480033058617e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39577584, + "step": 20226 + }, + { + "epoch": 2.6808482438701127, + "grad_norm": 0.006272313185036182, + "learning_rate": 1.384508584894309e-07, + "loss": 0.0, + "num_input_tokens_seen": 39579152, + "step": 20227 + }, + { + "epoch": 2.6809807819748177, + "grad_norm": 8.300698280334473, + "learning_rate": 1.3833696218057247e-07, + "loss": 0.0389, + "num_input_tokens_seen": 39581432, + "step": 20228 + }, + { + "epoch": 2.6811133200795227, + "grad_norm": 0.015048502013087273, + "learning_rate": 1.382231114062063e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39583272, + "step": 20229 + }, + { + "epoch": 2.6812458581842282, + "grad_norm": 13.196106910705566, + "learning_rate": 1.3810930616852764e-07, + "loss": 0.1391, + "num_input_tokens_seen": 39586312, + "step": 20230 + }, + { + "epoch": 2.681378396288933, + "grad_norm": 0.7480204105377197, + "learning_rate": 1.3799554646973163e-07, + "loss": 0.0022, + "num_input_tokens_seen": 39588032, + "step": 20231 + }, + { + "epoch": 2.6815109343936383, + "grad_norm": 7.550303936004639, + "learning_rate": 1.378818323120107e-07, + "loss": 0.0949, + "num_input_tokens_seen": 39589624, + "step": 20232 + }, + { + "epoch": 2.6816434724983433, + "grad_norm": 4.663870334625244, + "learning_rate": 1.3776816369755752e-07, + "loss": 0.0281, + "num_input_tokens_seen": 39591240, + "step": 20233 + }, + { + "epoch": 2.6817760106030484, + "grad_norm": 10.037118911743164, + "learning_rate": 1.3765454062856343e-07, + "loss": 0.0577, + "num_input_tokens_seen": 39593680, + "step": 20234 + }, + { + "epoch": 2.6819085487077534, + "grad_norm": 0.0015440036077052355, + "learning_rate": 1.3754096310721997e-07, + "loss": 0.0, + "num_input_tokens_seen": 39594800, + "step": 20235 + }, + { + "epoch": 2.6820410868124585, + "grad_norm": 0.007052072323858738, + "learning_rate": 1.3742743113571628e-07, + "loss": 0.0, + "num_input_tokens_seen": 39595816, + "step": 20236 + }, + { + "epoch": 2.682173624917164, + "grad_norm": 3.039276599884033, + "learning_rate": 1.3731394471624165e-07, + "loss": 0.0226, + "num_input_tokens_seen": 39598936, + "step": 20237 + }, + { + "epoch": 2.6823061630218685, + "grad_norm": 0.01326199434697628, + "learning_rate": 1.372005038509844e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39600696, + "step": 20238 + }, + { + "epoch": 2.682438701126574, + "grad_norm": 0.032343730330467224, + "learning_rate": 1.3708710854213074e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39602184, + "step": 20239 + }, + { + "epoch": 2.682571239231279, + "grad_norm": 21.16706085205078, + "learning_rate": 1.3697375879186846e-07, + "loss": 0.1707, + "num_input_tokens_seen": 39604720, + "step": 20240 + }, + { + "epoch": 2.682703777335984, + "grad_norm": 0.11128988116979599, + "learning_rate": 1.368604546023819e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39607104, + "step": 20241 + }, + { + "epoch": 2.682836315440689, + "grad_norm": 4.010493278503418, + "learning_rate": 1.3674719597585596e-07, + "loss": 0.0676, + "num_input_tokens_seen": 39610424, + "step": 20242 + }, + { + "epoch": 2.682968853545394, + "grad_norm": 0.05256155878305435, + "learning_rate": 1.3663398291447444e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39611496, + "step": 20243 + }, + { + "epoch": 2.6831013916500996, + "grad_norm": 5.813283443450928, + "learning_rate": 1.3652081542042033e-07, + "loss": 0.0905, + "num_input_tokens_seen": 39614264, + "step": 20244 + }, + { + "epoch": 2.6832339297548042, + "grad_norm": 0.2944090664386749, + "learning_rate": 1.3640769349587523e-07, + "loss": 0.0012, + "num_input_tokens_seen": 39616872, + "step": 20245 + }, + { + "epoch": 2.6833664678595097, + "grad_norm": 0.05702001601457596, + "learning_rate": 1.3629461714302046e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39619592, + "step": 20246 + }, + { + "epoch": 2.6834990059642148, + "grad_norm": 0.014209458604454994, + "learning_rate": 1.361815863640359e-07, + "loss": 0.0, + "num_input_tokens_seen": 39620832, + "step": 20247 + }, + { + "epoch": 2.68363154406892, + "grad_norm": 6.479780197143555, + "learning_rate": 1.360686011611012e-07, + "loss": 0.1706, + "num_input_tokens_seen": 39623872, + "step": 20248 + }, + { + "epoch": 2.683764082173625, + "grad_norm": 3.0763556957244873, + "learning_rate": 1.3595566153639493e-07, + "loss": 0.038, + "num_input_tokens_seen": 39625576, + "step": 20249 + }, + { + "epoch": 2.68389662027833, + "grad_norm": 2.2298595905303955, + "learning_rate": 1.3584276749209367e-07, + "loss": 0.0416, + "num_input_tokens_seen": 39628080, + "step": 20250 + }, + { + "epoch": 2.6840291583830354, + "grad_norm": 0.1068248525261879, + "learning_rate": 1.357299190303754e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39630440, + "step": 20251 + }, + { + "epoch": 2.6841616964877404, + "grad_norm": 20.213184356689453, + "learning_rate": 1.3561711615341534e-07, + "loss": 0.4817, + "num_input_tokens_seen": 39633128, + "step": 20252 + }, + { + "epoch": 2.6842942345924454, + "grad_norm": 10.266946792602539, + "learning_rate": 1.355043588633881e-07, + "loss": 0.0793, + "num_input_tokens_seen": 39635456, + "step": 20253 + }, + { + "epoch": 2.6844267726971505, + "grad_norm": 0.09329124540090561, + "learning_rate": 1.3539164716246806e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39637432, + "step": 20254 + }, + { + "epoch": 2.6845593108018555, + "grad_norm": 0.12536819279193878, + "learning_rate": 1.3527898105282821e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39638616, + "step": 20255 + }, + { + "epoch": 2.6846918489065605, + "grad_norm": 0.00541206868365407, + "learning_rate": 1.351663605366413e-07, + "loss": 0.0, + "num_input_tokens_seen": 39641168, + "step": 20256 + }, + { + "epoch": 2.6848243870112656, + "grad_norm": 9.480112075805664, + "learning_rate": 1.350537856160783e-07, + "loss": 0.3359, + "num_input_tokens_seen": 39643232, + "step": 20257 + }, + { + "epoch": 2.684956925115971, + "grad_norm": 3.5848605632781982, + "learning_rate": 1.3494125629330974e-07, + "loss": 0.0268, + "num_input_tokens_seen": 39645160, + "step": 20258 + }, + { + "epoch": 2.685089463220676, + "grad_norm": 0.03447338566184044, + "learning_rate": 1.3482877257050498e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39647520, + "step": 20259 + }, + { + "epoch": 2.685222001325381, + "grad_norm": 0.03422676771879196, + "learning_rate": 1.3471633444983312e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39650368, + "step": 20260 + }, + { + "epoch": 2.685354539430086, + "grad_norm": 7.019379615783691, + "learning_rate": 1.346039419334627e-07, + "loss": 0.111, + "num_input_tokens_seen": 39653208, + "step": 20261 + }, + { + "epoch": 2.685487077534791, + "grad_norm": 1.5970743894577026, + "learning_rate": 1.344915950235598e-07, + "loss": 0.0041, + "num_input_tokens_seen": 39656200, + "step": 20262 + }, + { + "epoch": 2.6856196156394962, + "grad_norm": 0.007372781168669462, + "learning_rate": 1.3437929372229098e-07, + "loss": 0.0, + "num_input_tokens_seen": 39658296, + "step": 20263 + }, + { + "epoch": 2.6857521537442013, + "grad_norm": 7.088783264160156, + "learning_rate": 1.3426703803182117e-07, + "loss": 0.0953, + "num_input_tokens_seen": 39660624, + "step": 20264 + }, + { + "epoch": 2.6858846918489068, + "grad_norm": 8.35385799407959, + "learning_rate": 1.341548279543145e-07, + "loss": 0.1057, + "num_input_tokens_seen": 39663952, + "step": 20265 + }, + { + "epoch": 2.686017229953612, + "grad_norm": 5.946142196655273, + "learning_rate": 1.3404266349193506e-07, + "loss": 0.0386, + "num_input_tokens_seen": 39666880, + "step": 20266 + }, + { + "epoch": 2.686149768058317, + "grad_norm": 0.013135652057826519, + "learning_rate": 1.3393054464684557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39668992, + "step": 20267 + }, + { + "epoch": 2.686282306163022, + "grad_norm": 3.1865711212158203, + "learning_rate": 1.3381847142120736e-07, + "loss": 0.0272, + "num_input_tokens_seen": 39671224, + "step": 20268 + }, + { + "epoch": 2.686414844267727, + "grad_norm": 0.03475270792841911, + "learning_rate": 1.3370644381718145e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39672696, + "step": 20269 + }, + { + "epoch": 2.686547382372432, + "grad_norm": 0.36105677485466003, + "learning_rate": 1.3359446183692726e-07, + "loss": 0.002, + "num_input_tokens_seen": 39674256, + "step": 20270 + }, + { + "epoch": 2.686679920477137, + "grad_norm": 0.015268632210791111, + "learning_rate": 1.33482525482605e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39675864, + "step": 20271 + }, + { + "epoch": 2.6868124585818425, + "grad_norm": 0.5047983527183533, + "learning_rate": 1.3337063475637152e-07, + "loss": 0.001, + "num_input_tokens_seen": 39677256, + "step": 20272 + }, + { + "epoch": 2.6869449966865475, + "grad_norm": 7.422905445098877, + "learning_rate": 1.3325878966038542e-07, + "loss": 0.2324, + "num_input_tokens_seen": 39680080, + "step": 20273 + }, + { + "epoch": 2.6870775347912526, + "grad_norm": 9.941550254821777, + "learning_rate": 1.3314699019680245e-07, + "loss": 0.1157, + "num_input_tokens_seen": 39682568, + "step": 20274 + }, + { + "epoch": 2.6872100728959576, + "grad_norm": 0.011494150385260582, + "learning_rate": 1.3303523636777838e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39684024, + "step": 20275 + }, + { + "epoch": 2.6873426110006626, + "grad_norm": 5.960836887359619, + "learning_rate": 1.329235281754676e-07, + "loss": 0.0722, + "num_input_tokens_seen": 39686240, + "step": 20276 + }, + { + "epoch": 2.6874751491053677, + "grad_norm": 1.843982458114624, + "learning_rate": 1.3281186562202396e-07, + "loss": 0.0061, + "num_input_tokens_seen": 39688656, + "step": 20277 + }, + { + "epoch": 2.6876076872100727, + "grad_norm": 0.024961229413747787, + "learning_rate": 1.3270024870960102e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39690328, + "step": 20278 + }, + { + "epoch": 2.687740225314778, + "grad_norm": 2.6101198196411133, + "learning_rate": 1.3258867744035037e-07, + "loss": 0.0412, + "num_input_tokens_seen": 39692704, + "step": 20279 + }, + { + "epoch": 2.6878727634194832, + "grad_norm": 16.861854553222656, + "learning_rate": 1.3247715181642334e-07, + "loss": 0.0859, + "num_input_tokens_seen": 39694600, + "step": 20280 + }, + { + "epoch": 2.6880053015241883, + "grad_norm": 11.09103012084961, + "learning_rate": 1.3236567183996963e-07, + "loss": 0.1181, + "num_input_tokens_seen": 39696768, + "step": 20281 + }, + { + "epoch": 2.6881378396288933, + "grad_norm": 0.32551276683807373, + "learning_rate": 1.3225423751313942e-07, + "loss": 0.0016, + "num_input_tokens_seen": 39698736, + "step": 20282 + }, + { + "epoch": 2.6882703777335983, + "grad_norm": 0.04987425357103348, + "learning_rate": 1.3214284883808076e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39700488, + "step": 20283 + }, + { + "epoch": 2.6884029158383034, + "grad_norm": 2.375267505645752, + "learning_rate": 1.3203150581694163e-07, + "loss": 0.0178, + "num_input_tokens_seen": 39702520, + "step": 20284 + }, + { + "epoch": 2.6885354539430084, + "grad_norm": 0.01946786791086197, + "learning_rate": 1.3192020845186864e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39704864, + "step": 20285 + }, + { + "epoch": 2.688667992047714, + "grad_norm": 14.088971138000488, + "learning_rate": 1.318089567450076e-07, + "loss": 0.1571, + "num_input_tokens_seen": 39707680, + "step": 20286 + }, + { + "epoch": 2.688800530152419, + "grad_norm": 1.4880197048187256, + "learning_rate": 1.3169775069850372e-07, + "loss": 0.0088, + "num_input_tokens_seen": 39709272, + "step": 20287 + }, + { + "epoch": 2.688933068257124, + "grad_norm": 0.015204011462628841, + "learning_rate": 1.315865903145011e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39710888, + "step": 20288 + }, + { + "epoch": 2.689065606361829, + "grad_norm": 0.00498259486630559, + "learning_rate": 1.314754755951425e-07, + "loss": 0.0, + "num_input_tokens_seen": 39713624, + "step": 20289 + }, + { + "epoch": 2.689198144466534, + "grad_norm": 0.3188038170337677, + "learning_rate": 1.3136440654257122e-07, + "loss": 0.0015, + "num_input_tokens_seen": 39715424, + "step": 20290 + }, + { + "epoch": 2.689330682571239, + "grad_norm": 4.13944673538208, + "learning_rate": 1.312533831589277e-07, + "loss": 0.0391, + "num_input_tokens_seen": 39716944, + "step": 20291 + }, + { + "epoch": 2.689463220675944, + "grad_norm": 0.002933989744633436, + "learning_rate": 1.3114240544635337e-07, + "loss": 0.0, + "num_input_tokens_seen": 39718232, + "step": 20292 + }, + { + "epoch": 2.6895957587806496, + "grad_norm": 3.713808059692383, + "learning_rate": 1.3103147340698758e-07, + "loss": 0.0106, + "num_input_tokens_seen": 39720176, + "step": 20293 + }, + { + "epoch": 2.6897282968853546, + "grad_norm": 0.14484186470508575, + "learning_rate": 1.3092058704296945e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39721360, + "step": 20294 + }, + { + "epoch": 2.6898608349900597, + "grad_norm": 0.0018538759322836995, + "learning_rate": 1.3080974635643646e-07, + "loss": 0.0, + "num_input_tokens_seen": 39723048, + "step": 20295 + }, + { + "epoch": 2.6899933730947647, + "grad_norm": 19.220539093017578, + "learning_rate": 1.3069895134952577e-07, + "loss": 0.2743, + "num_input_tokens_seen": 39725920, + "step": 20296 + }, + { + "epoch": 2.6901259111994698, + "grad_norm": 0.016886474564671516, + "learning_rate": 1.3058820202437427e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39727216, + "step": 20297 + }, + { + "epoch": 2.690258449304175, + "grad_norm": 7.439931392669678, + "learning_rate": 1.3047749838311667e-07, + "loss": 0.087, + "num_input_tokens_seen": 39729520, + "step": 20298 + }, + { + "epoch": 2.69039098740888, + "grad_norm": 1.7826076745986938, + "learning_rate": 1.3036684042788766e-07, + "loss": 0.0044, + "num_input_tokens_seen": 39731216, + "step": 20299 + }, + { + "epoch": 2.6905235255135853, + "grad_norm": 0.004218373913317919, + "learning_rate": 1.302562281608205e-07, + "loss": 0.0, + "num_input_tokens_seen": 39733704, + "step": 20300 + }, + { + "epoch": 2.6906560636182904, + "grad_norm": 0.10931126773357391, + "learning_rate": 1.3014566158404824e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39735264, + "step": 20301 + }, + { + "epoch": 2.6907886017229954, + "grad_norm": 2.7251193523406982, + "learning_rate": 1.300351406997022e-07, + "loss": 0.0122, + "num_input_tokens_seen": 39737520, + "step": 20302 + }, + { + "epoch": 2.6909211398277004, + "grad_norm": 0.7056270241737366, + "learning_rate": 1.2992466550991372e-07, + "loss": 0.0043, + "num_input_tokens_seen": 39738840, + "step": 20303 + }, + { + "epoch": 2.6910536779324055, + "grad_norm": 9.411016464233398, + "learning_rate": 1.2981423601681308e-07, + "loss": 0.0859, + "num_input_tokens_seen": 39740784, + "step": 20304 + }, + { + "epoch": 2.691186216037111, + "grad_norm": 0.022363554686307907, + "learning_rate": 1.2970385222252884e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39742792, + "step": 20305 + }, + { + "epoch": 2.6913187541418155, + "grad_norm": 0.0990038514137268, + "learning_rate": 1.295935141291893e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39744568, + "step": 20306 + }, + { + "epoch": 2.691451292246521, + "grad_norm": 5.8893914222717285, + "learning_rate": 1.2948322173892193e-07, + "loss": 0.0662, + "num_input_tokens_seen": 39746648, + "step": 20307 + }, + { + "epoch": 2.691583830351226, + "grad_norm": 33.46512222290039, + "learning_rate": 1.2937297505385387e-07, + "loss": 0.1409, + "num_input_tokens_seen": 39749568, + "step": 20308 + }, + { + "epoch": 2.691716368455931, + "grad_norm": 0.0046052513644099236, + "learning_rate": 1.2926277407611016e-07, + "loss": 0.0, + "num_input_tokens_seen": 39751192, + "step": 20309 + }, + { + "epoch": 2.691848906560636, + "grad_norm": 7.8816022872924805, + "learning_rate": 1.291526188078157e-07, + "loss": 0.0758, + "num_input_tokens_seen": 39752624, + "step": 20310 + }, + { + "epoch": 2.691981444665341, + "grad_norm": 0.2195933610200882, + "learning_rate": 1.290425092510944e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39754816, + "step": 20311 + }, + { + "epoch": 2.6921139827700467, + "grad_norm": 0.024156082421541214, + "learning_rate": 1.2893244540806872e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39756584, + "step": 20312 + }, + { + "epoch": 2.6922465208747512, + "grad_norm": 0.6879380345344543, + "learning_rate": 1.288224272808611e-07, + "loss": 0.01, + "num_input_tokens_seen": 39758992, + "step": 20313 + }, + { + "epoch": 2.6923790589794567, + "grad_norm": 0.022204674780368805, + "learning_rate": 1.2871245487159346e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39760720, + "step": 20314 + }, + { + "epoch": 2.6925115970841618, + "grad_norm": 0.0149612445384264, + "learning_rate": 1.286025281823852e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39762088, + "step": 20315 + }, + { + "epoch": 2.692644135188867, + "grad_norm": 7.528134346008301, + "learning_rate": 1.2849264721535638e-07, + "loss": 0.0646, + "num_input_tokens_seen": 39763896, + "step": 20316 + }, + { + "epoch": 2.692776673293572, + "grad_norm": 0.03728026524186134, + "learning_rate": 1.2838281197262493e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39765560, + "step": 20317 + }, + { + "epoch": 2.692909211398277, + "grad_norm": 1.3240609169006348, + "learning_rate": 1.2827302245630946e-07, + "loss": 0.0055, + "num_input_tokens_seen": 39767280, + "step": 20318 + }, + { + "epoch": 2.6930417495029824, + "grad_norm": 8.028139114379883, + "learning_rate": 1.281632786685258e-07, + "loss": 0.0831, + "num_input_tokens_seen": 39769400, + "step": 20319 + }, + { + "epoch": 2.693174287607687, + "grad_norm": 0.01482705119997263, + "learning_rate": 1.2805358061139084e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39772192, + "step": 20320 + }, + { + "epoch": 2.6933068257123924, + "grad_norm": 0.0503116212785244, + "learning_rate": 1.2794392828701902e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39773496, + "step": 20321 + }, + { + "epoch": 2.6934393638170975, + "grad_norm": 0.022360673174262047, + "learning_rate": 1.2783432169752446e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39776240, + "step": 20322 + }, + { + "epoch": 2.6935719019218025, + "grad_norm": 0.04282457381486893, + "learning_rate": 1.2772476084502078e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39778416, + "step": 20323 + }, + { + "epoch": 2.6937044400265076, + "grad_norm": 0.5014520883560181, + "learning_rate": 1.2761524573162043e-07, + "loss": 0.0019, + "num_input_tokens_seen": 39780656, + "step": 20324 + }, + { + "epoch": 2.6938369781312126, + "grad_norm": 14.330720901489258, + "learning_rate": 1.275057763594345e-07, + "loss": 0.0996, + "num_input_tokens_seen": 39782296, + "step": 20325 + }, + { + "epoch": 2.693969516235918, + "grad_norm": 0.006834366358816624, + "learning_rate": 1.2739635273057411e-07, + "loss": 0.0, + "num_input_tokens_seen": 39783608, + "step": 20326 + }, + { + "epoch": 2.6941020543406227, + "grad_norm": 0.009059164673089981, + "learning_rate": 1.2728697484714836e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39784920, + "step": 20327 + }, + { + "epoch": 2.694234592445328, + "grad_norm": 0.0007869730470702052, + "learning_rate": 1.2717764271126725e-07, + "loss": 0.0, + "num_input_tokens_seen": 39786136, + "step": 20328 + }, + { + "epoch": 2.694367130550033, + "grad_norm": 9.232940673828125, + "learning_rate": 1.2706835632503773e-07, + "loss": 0.0539, + "num_input_tokens_seen": 39787576, + "step": 20329 + }, + { + "epoch": 2.6944996686547382, + "grad_norm": 0.004180433228611946, + "learning_rate": 1.2695911569056723e-07, + "loss": 0.0, + "num_input_tokens_seen": 39788672, + "step": 20330 + }, + { + "epoch": 2.6946322067594433, + "grad_norm": 0.005995085462927818, + "learning_rate": 1.2684992080996245e-07, + "loss": 0.0, + "num_input_tokens_seen": 39790424, + "step": 20331 + }, + { + "epoch": 2.6947647448641483, + "grad_norm": 1.3178893327713013, + "learning_rate": 1.2674077168532806e-07, + "loss": 0.0114, + "num_input_tokens_seen": 39792424, + "step": 20332 + }, + { + "epoch": 2.694897282968854, + "grad_norm": 0.041404444724321365, + "learning_rate": 1.2663166831876878e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39794584, + "step": 20333 + }, + { + "epoch": 2.6950298210735584, + "grad_norm": 9.767465591430664, + "learning_rate": 1.2652261071238847e-07, + "loss": 0.1181, + "num_input_tokens_seen": 39795968, + "step": 20334 + }, + { + "epoch": 2.695162359178264, + "grad_norm": 0.009301705285906792, + "learning_rate": 1.2641359886828935e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39798904, + "step": 20335 + }, + { + "epoch": 2.695294897282969, + "grad_norm": 0.0045341686345636845, + "learning_rate": 1.2630463278857336e-07, + "loss": 0.0, + "num_input_tokens_seen": 39801016, + "step": 20336 + }, + { + "epoch": 2.695427435387674, + "grad_norm": 15.451719284057617, + "learning_rate": 1.2619571247534212e-07, + "loss": 0.1004, + "num_input_tokens_seen": 39802752, + "step": 20337 + }, + { + "epoch": 2.695559973492379, + "grad_norm": 0.46395382285118103, + "learning_rate": 1.2608683793069455e-07, + "loss": 0.0016, + "num_input_tokens_seen": 39804936, + "step": 20338 + }, + { + "epoch": 2.695692511597084, + "grad_norm": 9.996124267578125, + "learning_rate": 1.2597800915673087e-07, + "loss": 0.1075, + "num_input_tokens_seen": 39807032, + "step": 20339 + }, + { + "epoch": 2.6958250497017895, + "grad_norm": 2.716503143310547, + "learning_rate": 1.2586922615554887e-07, + "loss": 0.0128, + "num_input_tokens_seen": 39808768, + "step": 20340 + }, + { + "epoch": 2.6959575878064945, + "grad_norm": 0.00889415480196476, + "learning_rate": 1.2576048892924602e-07, + "loss": 0.0, + "num_input_tokens_seen": 39810992, + "step": 20341 + }, + { + "epoch": 2.6960901259111996, + "grad_norm": 0.9031978845596313, + "learning_rate": 1.2565179747991846e-07, + "loss": 0.0023, + "num_input_tokens_seen": 39813976, + "step": 20342 + }, + { + "epoch": 2.6962226640159046, + "grad_norm": 9.870047569274902, + "learning_rate": 1.2554315180966224e-07, + "loss": 0.1339, + "num_input_tokens_seen": 39815600, + "step": 20343 + }, + { + "epoch": 2.6963552021206096, + "grad_norm": 5.533182621002197, + "learning_rate": 1.254345519205727e-07, + "loss": 0.0702, + "num_input_tokens_seen": 39817440, + "step": 20344 + }, + { + "epoch": 2.6964877402253147, + "grad_norm": 0.0019746068865060806, + "learning_rate": 1.2532599781474282e-07, + "loss": 0.0, + "num_input_tokens_seen": 39818752, + "step": 20345 + }, + { + "epoch": 2.6966202783300197, + "grad_norm": 0.01331594679504633, + "learning_rate": 1.2521748949426594e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39820416, + "step": 20346 + }, + { + "epoch": 2.696752816434725, + "grad_norm": 9.39315128326416, + "learning_rate": 1.2510902696123427e-07, + "loss": 0.08, + "num_input_tokens_seen": 39822208, + "step": 20347 + }, + { + "epoch": 2.6968853545394302, + "grad_norm": 0.024104658514261246, + "learning_rate": 1.2500061021773867e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39824080, + "step": 20348 + }, + { + "epoch": 2.6970178926441353, + "grad_norm": 1.7579188346862793, + "learning_rate": 1.248922392658694e-07, + "loss": 0.0089, + "num_input_tokens_seen": 39826192, + "step": 20349 + }, + { + "epoch": 2.6971504307488403, + "grad_norm": 0.9980867505073547, + "learning_rate": 1.2478391410771701e-07, + "loss": 0.0024, + "num_input_tokens_seen": 39827928, + "step": 20350 + }, + { + "epoch": 2.6972829688535453, + "grad_norm": 0.0054858666844666, + "learning_rate": 1.2467563474536898e-07, + "loss": 0.0, + "num_input_tokens_seen": 39829880, + "step": 20351 + }, + { + "epoch": 2.6974155069582504, + "grad_norm": 0.0034914363641291857, + "learning_rate": 1.2456740118091338e-07, + "loss": 0.0, + "num_input_tokens_seen": 39831112, + "step": 20352 + }, + { + "epoch": 2.6975480450629554, + "grad_norm": 0.0014470757450908422, + "learning_rate": 1.2445921341643686e-07, + "loss": 0.0, + "num_input_tokens_seen": 39832592, + "step": 20353 + }, + { + "epoch": 2.697680583167661, + "grad_norm": 6.767105579376221, + "learning_rate": 1.2435107145402553e-07, + "loss": 0.1556, + "num_input_tokens_seen": 39834424, + "step": 20354 + }, + { + "epoch": 2.697813121272366, + "grad_norm": 1.029522180557251, + "learning_rate": 1.2424297529576469e-07, + "loss": 0.0038, + "num_input_tokens_seen": 39836432, + "step": 20355 + }, + { + "epoch": 2.697945659377071, + "grad_norm": 0.9925873279571533, + "learning_rate": 1.2413492494373818e-07, + "loss": 0.0085, + "num_input_tokens_seen": 39838528, + "step": 20356 + }, + { + "epoch": 2.698078197481776, + "grad_norm": 0.003812601091340184, + "learning_rate": 1.240269204000294e-07, + "loss": 0.0, + "num_input_tokens_seen": 39840032, + "step": 20357 + }, + { + "epoch": 2.698210735586481, + "grad_norm": 1.8558276891708374, + "learning_rate": 1.2391896166672023e-07, + "loss": 0.0056, + "num_input_tokens_seen": 39842040, + "step": 20358 + }, + { + "epoch": 2.698343273691186, + "grad_norm": 10.4681396484375, + "learning_rate": 1.2381104874589294e-07, + "loss": 0.1118, + "num_input_tokens_seen": 39843976, + "step": 20359 + }, + { + "epoch": 2.698475811795891, + "grad_norm": 4.482240676879883, + "learning_rate": 1.237031816396278e-07, + "loss": 0.1225, + "num_input_tokens_seen": 39845632, + "step": 20360 + }, + { + "epoch": 2.6986083499005966, + "grad_norm": 4.063783645629883, + "learning_rate": 1.235953603500048e-07, + "loss": 0.0212, + "num_input_tokens_seen": 39846944, + "step": 20361 + }, + { + "epoch": 2.6987408880053017, + "grad_norm": 0.013657841831445694, + "learning_rate": 1.2348758487910283e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39848408, + "step": 20362 + }, + { + "epoch": 2.6988734261100067, + "grad_norm": 0.329316645860672, + "learning_rate": 1.2337985522899942e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39850600, + "step": 20363 + }, + { + "epoch": 2.6990059642147117, + "grad_norm": 0.6962037682533264, + "learning_rate": 1.2327217140177177e-07, + "loss": 0.002, + "num_input_tokens_seen": 39851992, + "step": 20364 + }, + { + "epoch": 2.6991385023194168, + "grad_norm": 0.0760614275932312, + "learning_rate": 1.2316453339949658e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39853352, + "step": 20365 + }, + { + "epoch": 2.699271040424122, + "grad_norm": 0.0036921033170074224, + "learning_rate": 1.2305694122424884e-07, + "loss": 0.0, + "num_input_tokens_seen": 39854584, + "step": 20366 + }, + { + "epoch": 2.699403578528827, + "grad_norm": 9.803718566894531, + "learning_rate": 1.22949394878103e-07, + "loss": 0.1309, + "num_input_tokens_seen": 39856672, + "step": 20367 + }, + { + "epoch": 2.6995361166335323, + "grad_norm": 11.173903465270996, + "learning_rate": 1.2284189436313265e-07, + "loss": 0.078, + "num_input_tokens_seen": 39858560, + "step": 20368 + }, + { + "epoch": 2.6996686547382374, + "grad_norm": 9.086496353149414, + "learning_rate": 1.2273443968141037e-07, + "loss": 0.0834, + "num_input_tokens_seen": 39860776, + "step": 20369 + }, + { + "epoch": 2.6998011928429424, + "grad_norm": 2.188953161239624, + "learning_rate": 1.2262703083500832e-07, + "loss": 0.0113, + "num_input_tokens_seen": 39862672, + "step": 20370 + }, + { + "epoch": 2.6999337309476474, + "grad_norm": 3.627107858657837, + "learning_rate": 1.2251966782599738e-07, + "loss": 0.0316, + "num_input_tokens_seen": 39864280, + "step": 20371 + }, + { + "epoch": 2.7000662690523525, + "grad_norm": 0.26889508962631226, + "learning_rate": 1.2241235065644675e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39866824, + "step": 20372 + }, + { + "epoch": 2.7001988071570575, + "grad_norm": 18.8335018157959, + "learning_rate": 1.2230507932842668e-07, + "loss": 0.1985, + "num_input_tokens_seen": 39868864, + "step": 20373 + }, + { + "epoch": 2.7003313452617626, + "grad_norm": 6.819803714752197, + "learning_rate": 1.221978538440047e-07, + "loss": 0.059, + "num_input_tokens_seen": 39870808, + "step": 20374 + }, + { + "epoch": 2.700463883366468, + "grad_norm": 0.045212216675281525, + "learning_rate": 1.2209067420524856e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39872376, + "step": 20375 + }, + { + "epoch": 2.700596421471173, + "grad_norm": 2.1256027221679688, + "learning_rate": 1.2198354041422499e-07, + "loss": 0.0237, + "num_input_tokens_seen": 39874992, + "step": 20376 + }, + { + "epoch": 2.700728959575878, + "grad_norm": 0.019258426502346992, + "learning_rate": 1.21876452472999e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39876568, + "step": 20377 + }, + { + "epoch": 2.700861497680583, + "grad_norm": 7.593324661254883, + "learning_rate": 1.2176941038363532e-07, + "loss": 0.0368, + "num_input_tokens_seen": 39878976, + "step": 20378 + }, + { + "epoch": 2.700994035785288, + "grad_norm": 0.007217365317046642, + "learning_rate": 1.2166241414819812e-07, + "loss": 0.0, + "num_input_tokens_seen": 39880120, + "step": 20379 + }, + { + "epoch": 2.701126573889993, + "grad_norm": 22.74839210510254, + "learning_rate": 1.215554637687505e-07, + "loss": 0.2364, + "num_input_tokens_seen": 39881832, + "step": 20380 + }, + { + "epoch": 2.7012591119946983, + "grad_norm": 0.024011442437767982, + "learning_rate": 1.2144855924735467e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39883336, + "step": 20381 + }, + { + "epoch": 2.7013916500994037, + "grad_norm": 0.02151578478515148, + "learning_rate": 1.213417005860712e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39884648, + "step": 20382 + }, + { + "epoch": 2.701524188204109, + "grad_norm": 0.4968040883541107, + "learning_rate": 1.2123488778696042e-07, + "loss": 0.0022, + "num_input_tokens_seen": 39887496, + "step": 20383 + }, + { + "epoch": 2.701656726308814, + "grad_norm": 15.344085693359375, + "learning_rate": 1.2112812085208204e-07, + "loss": 0.1312, + "num_input_tokens_seen": 39889248, + "step": 20384 + }, + { + "epoch": 2.701789264413519, + "grad_norm": 0.46730637550354004, + "learning_rate": 1.2102139978349497e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39890576, + "step": 20385 + }, + { + "epoch": 2.701921802518224, + "grad_norm": 0.03659910336136818, + "learning_rate": 1.2091472458325648e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39892312, + "step": 20386 + }, + { + "epoch": 2.702054340622929, + "grad_norm": 0.5470610857009888, + "learning_rate": 1.2080809525342324e-07, + "loss": 0.0026, + "num_input_tokens_seen": 39894120, + "step": 20387 + }, + { + "epoch": 2.702186878727634, + "grad_norm": 0.20464904606342316, + "learning_rate": 1.2070151179605137e-07, + "loss": 0.0008, + "num_input_tokens_seen": 39895712, + "step": 20388 + }, + { + "epoch": 2.7023194168323394, + "grad_norm": 0.8235451579093933, + "learning_rate": 1.2059497421319537e-07, + "loss": 0.0023, + "num_input_tokens_seen": 39898424, + "step": 20389 + }, + { + "epoch": 2.7024519549370445, + "grad_norm": 1.1988577842712402, + "learning_rate": 1.204884825069097e-07, + "loss": 0.0086, + "num_input_tokens_seen": 39900240, + "step": 20390 + }, + { + "epoch": 2.7025844930417495, + "grad_norm": 19.02069091796875, + "learning_rate": 1.2038203667924797e-07, + "loss": 0.2477, + "num_input_tokens_seen": 39902640, + "step": 20391 + }, + { + "epoch": 2.7027170311464546, + "grad_norm": 2.2827587127685547, + "learning_rate": 1.2027563673226217e-07, + "loss": 0.0039, + "num_input_tokens_seen": 39904408, + "step": 20392 + }, + { + "epoch": 2.7028495692511596, + "grad_norm": 2.2632927894592285, + "learning_rate": 1.20169282668004e-07, + "loss": 0.0135, + "num_input_tokens_seen": 39906648, + "step": 20393 + }, + { + "epoch": 2.702982107355865, + "grad_norm": 0.8650773167610168, + "learning_rate": 1.2006297448852344e-07, + "loss": 0.0061, + "num_input_tokens_seen": 39908064, + "step": 20394 + }, + { + "epoch": 2.7031146454605697, + "grad_norm": 0.004232404287904501, + "learning_rate": 1.1995671219587058e-07, + "loss": 0.0, + "num_input_tokens_seen": 39909440, + "step": 20395 + }, + { + "epoch": 2.703247183565275, + "grad_norm": 0.10431836545467377, + "learning_rate": 1.1985049579209402e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39910840, + "step": 20396 + }, + { + "epoch": 2.70337972166998, + "grad_norm": 0.06244365870952606, + "learning_rate": 1.197443252792424e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39912792, + "step": 20397 + }, + { + "epoch": 2.7035122597746852, + "grad_norm": 0.017905300483107567, + "learning_rate": 1.1963820065936188e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39914464, + "step": 20398 + }, + { + "epoch": 2.7036447978793903, + "grad_norm": 0.09973317384719849, + "learning_rate": 1.1953212193449943e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39916520, + "step": 20399 + }, + { + "epoch": 2.7037773359840953, + "grad_norm": 0.048305001109838486, + "learning_rate": 1.1942608910669924e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39918584, + "step": 20400 + }, + { + "epoch": 2.703909874088801, + "grad_norm": 0.029026715084910393, + "learning_rate": 1.193201021780066e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39920560, + "step": 20401 + }, + { + "epoch": 2.7040424121935054, + "grad_norm": 0.46186208724975586, + "learning_rate": 1.1921416115046463e-07, + "loss": 0.0013, + "num_input_tokens_seen": 39922720, + "step": 20402 + }, + { + "epoch": 2.704174950298211, + "grad_norm": 4.987401485443115, + "learning_rate": 1.1910826602611642e-07, + "loss": 0.0172, + "num_input_tokens_seen": 39925008, + "step": 20403 + }, + { + "epoch": 2.704307488402916, + "grad_norm": 5.420884609222412, + "learning_rate": 1.1900241680700308e-07, + "loss": 0.0275, + "num_input_tokens_seen": 39926752, + "step": 20404 + }, + { + "epoch": 2.704440026507621, + "grad_norm": 0.003904491662979126, + "learning_rate": 1.1889661349516552e-07, + "loss": 0.0, + "num_input_tokens_seen": 39928224, + "step": 20405 + }, + { + "epoch": 2.704572564612326, + "grad_norm": 4.0419602394104, + "learning_rate": 1.187908560926443e-07, + "loss": 0.0225, + "num_input_tokens_seen": 39929936, + "step": 20406 + }, + { + "epoch": 2.704705102717031, + "grad_norm": 0.0070715174078941345, + "learning_rate": 1.1868514460147751e-07, + "loss": 0.0, + "num_input_tokens_seen": 39931288, + "step": 20407 + }, + { + "epoch": 2.7048376408217365, + "grad_norm": 0.02131757140159607, + "learning_rate": 1.1857947902370437e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39933976, + "step": 20408 + }, + { + "epoch": 2.704970178926441, + "grad_norm": 0.0004918212071061134, + "learning_rate": 1.1847385936136186e-07, + "loss": 0.0, + "num_input_tokens_seen": 39935184, + "step": 20409 + }, + { + "epoch": 2.7051027170311466, + "grad_norm": 2.3985321521759033, + "learning_rate": 1.1836828561648583e-07, + "loss": 0.0084, + "num_input_tokens_seen": 39937392, + "step": 20410 + }, + { + "epoch": 2.7052352551358516, + "grad_norm": 1.473010540008545, + "learning_rate": 1.1826275779111274e-07, + "loss": 0.0049, + "num_input_tokens_seen": 39938880, + "step": 20411 + }, + { + "epoch": 2.7053677932405567, + "grad_norm": 5.794705390930176, + "learning_rate": 1.1815727588727648e-07, + "loss": 0.0629, + "num_input_tokens_seen": 39941256, + "step": 20412 + }, + { + "epoch": 2.7055003313452617, + "grad_norm": 2.4563493728637695, + "learning_rate": 1.1805183990701102e-07, + "loss": 0.0135, + "num_input_tokens_seen": 39942840, + "step": 20413 + }, + { + "epoch": 2.7056328694499667, + "grad_norm": 1.3914251327514648, + "learning_rate": 1.1794644985234943e-07, + "loss": 0.0077, + "num_input_tokens_seen": 39944768, + "step": 20414 + }, + { + "epoch": 2.705765407554672, + "grad_norm": 10.71847915649414, + "learning_rate": 1.1784110572532342e-07, + "loss": 0.0653, + "num_input_tokens_seen": 39946248, + "step": 20415 + }, + { + "epoch": 2.705897945659377, + "grad_norm": 0.015905441716313362, + "learning_rate": 1.1773580752796443e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39948800, + "step": 20416 + }, + { + "epoch": 2.7060304837640823, + "grad_norm": 0.02157069742679596, + "learning_rate": 1.176305552623025e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39950520, + "step": 20417 + }, + { + "epoch": 2.7061630218687873, + "grad_norm": 0.00991250853985548, + "learning_rate": 1.175253489303671e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39951816, + "step": 20418 + }, + { + "epoch": 2.7062955599734924, + "grad_norm": 0.0071641551330685616, + "learning_rate": 1.1742018853418608e-07, + "loss": 0.0, + "num_input_tokens_seen": 39954040, + "step": 20419 + }, + { + "epoch": 2.7064280980781974, + "grad_norm": 0.0017371606081724167, + "learning_rate": 1.1731507407578807e-07, + "loss": 0.0, + "num_input_tokens_seen": 39956000, + "step": 20420 + }, + { + "epoch": 2.7065606361829024, + "grad_norm": 1.1266764402389526, + "learning_rate": 1.1721000555719869e-07, + "loss": 0.0043, + "num_input_tokens_seen": 39957664, + "step": 20421 + }, + { + "epoch": 2.706693174287608, + "grad_norm": 0.006660205312073231, + "learning_rate": 1.1710498298044437e-07, + "loss": 0.0, + "num_input_tokens_seen": 39960280, + "step": 20422 + }, + { + "epoch": 2.706825712392313, + "grad_norm": 0.004107495304197073, + "learning_rate": 1.1700000634755015e-07, + "loss": 0.0, + "num_input_tokens_seen": 39961832, + "step": 20423 + }, + { + "epoch": 2.706958250497018, + "grad_norm": 7.976728916168213, + "learning_rate": 1.168950756605397e-07, + "loss": 0.1257, + "num_input_tokens_seen": 39963336, + "step": 20424 + }, + { + "epoch": 2.707090788601723, + "grad_norm": 0.010293417610228062, + "learning_rate": 1.1679019092143585e-07, + "loss": 0.0, + "num_input_tokens_seen": 39964744, + "step": 20425 + }, + { + "epoch": 2.707223326706428, + "grad_norm": 0.04261060804128647, + "learning_rate": 1.1668535213226112e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39966448, + "step": 20426 + }, + { + "epoch": 2.707355864811133, + "grad_norm": 4.443118095397949, + "learning_rate": 1.1658055929503725e-07, + "loss": 0.0578, + "num_input_tokens_seen": 39968440, + "step": 20427 + }, + { + "epoch": 2.707488402915838, + "grad_norm": 0.004546963144093752, + "learning_rate": 1.1647581241178457e-07, + "loss": 0.0, + "num_input_tokens_seen": 39971024, + "step": 20428 + }, + { + "epoch": 2.7076209410205436, + "grad_norm": 0.003629885846748948, + "learning_rate": 1.1637111148452257e-07, + "loss": 0.0, + "num_input_tokens_seen": 39972504, + "step": 20429 + }, + { + "epoch": 2.7077534791252487, + "grad_norm": 0.38038837909698486, + "learning_rate": 1.1626645651526935e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39974376, + "step": 20430 + }, + { + "epoch": 2.7078860172299537, + "grad_norm": 4.97283411026001, + "learning_rate": 1.1616184750604387e-07, + "loss": 0.026, + "num_input_tokens_seen": 39976392, + "step": 20431 + }, + { + "epoch": 2.7080185553346587, + "grad_norm": 0.13921299576759338, + "learning_rate": 1.16057284458862e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39977728, + "step": 20432 + }, + { + "epoch": 2.7081510934393638, + "grad_norm": 0.019957350566983223, + "learning_rate": 1.1595276737574074e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39979536, + "step": 20433 + }, + { + "epoch": 2.708283631544069, + "grad_norm": 4.023921012878418, + "learning_rate": 1.1584829625869487e-07, + "loss": 0.0376, + "num_input_tokens_seen": 39981032, + "step": 20434 + }, + { + "epoch": 2.708416169648774, + "grad_norm": 0.027752919122576714, + "learning_rate": 1.1574387110973834e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39983312, + "step": 20435 + }, + { + "epoch": 2.7085487077534793, + "grad_norm": 0.34686166048049927, + "learning_rate": 1.1563949193088453e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39986016, + "step": 20436 + }, + { + "epoch": 2.7086812458581844, + "grad_norm": 10.66120433807373, + "learning_rate": 1.1553515872414628e-07, + "loss": 0.0998, + "num_input_tokens_seen": 39988152, + "step": 20437 + }, + { + "epoch": 2.7088137839628894, + "grad_norm": 0.003483023727312684, + "learning_rate": 1.1543087149153559e-07, + "loss": 0.0, + "num_input_tokens_seen": 39990192, + "step": 20438 + }, + { + "epoch": 2.7089463220675944, + "grad_norm": 6.696458339691162, + "learning_rate": 1.1532663023506251e-07, + "loss": 0.0492, + "num_input_tokens_seen": 39993136, + "step": 20439 + }, + { + "epoch": 2.7090788601722995, + "grad_norm": 3.7017924785614014, + "learning_rate": 1.1522243495673713e-07, + "loss": 0.0088, + "num_input_tokens_seen": 39995056, + "step": 20440 + }, + { + "epoch": 2.7092113982770045, + "grad_norm": 6.560924530029297, + "learning_rate": 1.1511828565856809e-07, + "loss": 0.0128, + "num_input_tokens_seen": 39996888, + "step": 20441 + }, + { + "epoch": 2.7093439363817096, + "grad_norm": 10.480481147766113, + "learning_rate": 1.1501418234256406e-07, + "loss": 0.0384, + "num_input_tokens_seen": 39998472, + "step": 20442 + }, + { + "epoch": 2.709476474486415, + "grad_norm": 9.672799110412598, + "learning_rate": 1.1491012501073152e-07, + "loss": 0.0716, + "num_input_tokens_seen": 40000760, + "step": 20443 + }, + { + "epoch": 2.70960901259112, + "grad_norm": 0.2651550769805908, + "learning_rate": 1.1480611366507771e-07, + "loss": 0.0021, + "num_input_tokens_seen": 40002512, + "step": 20444 + }, + { + "epoch": 2.709741550695825, + "grad_norm": 0.0073428223840892315, + "learning_rate": 1.1470214830760717e-07, + "loss": 0.0, + "num_input_tokens_seen": 40003960, + "step": 20445 + }, + { + "epoch": 2.70987408880053, + "grad_norm": 0.04767048358917236, + "learning_rate": 1.1459822894032497e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40005648, + "step": 20446 + }, + { + "epoch": 2.710006626905235, + "grad_norm": 0.6073043942451477, + "learning_rate": 1.1449435556523419e-07, + "loss": 0.0026, + "num_input_tokens_seen": 40007568, + "step": 20447 + }, + { + "epoch": 2.7101391650099402, + "grad_norm": 1.798175573348999, + "learning_rate": 1.1439052818433826e-07, + "loss": 0.0113, + "num_input_tokens_seen": 40009664, + "step": 20448 + }, + { + "epoch": 2.7102717031146453, + "grad_norm": 0.03706727921962738, + "learning_rate": 1.1428674679963836e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40011160, + "step": 20449 + }, + { + "epoch": 2.7104042412193508, + "grad_norm": 0.0514959879219532, + "learning_rate": 1.1418301141313592e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40013464, + "step": 20450 + }, + { + "epoch": 2.710536779324056, + "grad_norm": 2.8121190071105957, + "learning_rate": 1.1407932202683103e-07, + "loss": 0.0164, + "num_input_tokens_seen": 40015320, + "step": 20451 + }, + { + "epoch": 2.710669317428761, + "grad_norm": 7.000250339508057, + "learning_rate": 1.1397567864272263e-07, + "loss": 0.0455, + "num_input_tokens_seen": 40017328, + "step": 20452 + }, + { + "epoch": 2.710801855533466, + "grad_norm": 5.649206161499023, + "learning_rate": 1.1387208126280913e-07, + "loss": 0.0467, + "num_input_tokens_seen": 40019280, + "step": 20453 + }, + { + "epoch": 2.710934393638171, + "grad_norm": 1.0253263711929321, + "learning_rate": 1.1376852988908837e-07, + "loss": 0.004, + "num_input_tokens_seen": 40021936, + "step": 20454 + }, + { + "epoch": 2.711066931742876, + "grad_norm": 0.005749219097197056, + "learning_rate": 1.1366502452355599e-07, + "loss": 0.0, + "num_input_tokens_seen": 40023536, + "step": 20455 + }, + { + "epoch": 2.711199469847581, + "grad_norm": 0.35451579093933105, + "learning_rate": 1.135615651682087e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40025264, + "step": 20456 + }, + { + "epoch": 2.7113320079522865, + "grad_norm": 2.415989398956299, + "learning_rate": 1.1345815182504021e-07, + "loss": 0.0093, + "num_input_tokens_seen": 40027440, + "step": 20457 + }, + { + "epoch": 2.7114645460569915, + "grad_norm": 13.429655075073242, + "learning_rate": 1.133547844960453e-07, + "loss": 0.097, + "num_input_tokens_seen": 40029696, + "step": 20458 + }, + { + "epoch": 2.7115970841616965, + "grad_norm": 1.1104086637496948, + "learning_rate": 1.1325146318321684e-07, + "loss": 0.0033, + "num_input_tokens_seen": 40031704, + "step": 20459 + }, + { + "epoch": 2.7117296222664016, + "grad_norm": 0.022360466420650482, + "learning_rate": 1.1314818788854626e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40033472, + "step": 20460 + }, + { + "epoch": 2.7118621603711066, + "grad_norm": 0.0052514513954520226, + "learning_rate": 1.1304495861402531e-07, + "loss": 0.0, + "num_input_tokens_seen": 40035912, + "step": 20461 + }, + { + "epoch": 2.7119946984758116, + "grad_norm": 11.62448501586914, + "learning_rate": 1.1294177536164408e-07, + "loss": 0.1042, + "num_input_tokens_seen": 40038400, + "step": 20462 + }, + { + "epoch": 2.7121272365805167, + "grad_norm": 3.156332492828369, + "learning_rate": 1.1283863813339263e-07, + "loss": 0.0181, + "num_input_tokens_seen": 40040488, + "step": 20463 + }, + { + "epoch": 2.712259774685222, + "grad_norm": 0.008256812579929829, + "learning_rate": 1.1273554693125883e-07, + "loss": 0.0, + "num_input_tokens_seen": 40043160, + "step": 20464 + }, + { + "epoch": 2.712392312789927, + "grad_norm": 0.026214120909571648, + "learning_rate": 1.1263250175723078e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40045056, + "step": 20465 + }, + { + "epoch": 2.7125248508946322, + "grad_norm": 2.1159303188323975, + "learning_rate": 1.125295026132947e-07, + "loss": 0.0114, + "num_input_tokens_seen": 40048360, + "step": 20466 + }, + { + "epoch": 2.7126573889993373, + "grad_norm": 0.03746640682220459, + "learning_rate": 1.1242654950143678e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40049504, + "step": 20467 + }, + { + "epoch": 2.7127899271040423, + "grad_norm": 2.9890410900115967, + "learning_rate": 1.1232364242364236e-07, + "loss": 0.018, + "num_input_tokens_seen": 40051448, + "step": 20468 + }, + { + "epoch": 2.7129224652087474, + "grad_norm": 0.6385653614997864, + "learning_rate": 1.122207813818954e-07, + "loss": 0.0017, + "num_input_tokens_seen": 40053640, + "step": 20469 + }, + { + "epoch": 2.7130550033134524, + "grad_norm": 3.001546621322632, + "learning_rate": 1.1211796637817879e-07, + "loss": 0.0138, + "num_input_tokens_seen": 40056600, + "step": 20470 + }, + { + "epoch": 2.713187541418158, + "grad_norm": 1.5109045505523682, + "learning_rate": 1.1201519741447536e-07, + "loss": 0.0076, + "num_input_tokens_seen": 40058824, + "step": 20471 + }, + { + "epoch": 2.713320079522863, + "grad_norm": 0.00196451204828918, + "learning_rate": 1.1191247449276576e-07, + "loss": 0.0, + "num_input_tokens_seen": 40060240, + "step": 20472 + }, + { + "epoch": 2.713452617627568, + "grad_norm": 0.003959778696298599, + "learning_rate": 1.1180979761503147e-07, + "loss": 0.0, + "num_input_tokens_seen": 40061520, + "step": 20473 + }, + { + "epoch": 2.713585155732273, + "grad_norm": 0.47768163681030273, + "learning_rate": 1.1170716678325171e-07, + "loss": 0.0013, + "num_input_tokens_seen": 40063840, + "step": 20474 + }, + { + "epoch": 2.713717693836978, + "grad_norm": 0.07340512424707413, + "learning_rate": 1.1160458199940577e-07, + "loss": 0.0004, + "num_input_tokens_seen": 40066592, + "step": 20475 + }, + { + "epoch": 2.7138502319416835, + "grad_norm": 1.4453693628311157, + "learning_rate": 1.1150204326547092e-07, + "loss": 0.0166, + "num_input_tokens_seen": 40068968, + "step": 20476 + }, + { + "epoch": 2.713982770046388, + "grad_norm": 0.0018821981502696872, + "learning_rate": 1.113995505834245e-07, + "loss": 0.0, + "num_input_tokens_seen": 40069984, + "step": 20477 + }, + { + "epoch": 2.7141153081510936, + "grad_norm": 2.4498016834259033, + "learning_rate": 1.1129710395524213e-07, + "loss": 0.0067, + "num_input_tokens_seen": 40071968, + "step": 20478 + }, + { + "epoch": 2.7142478462557986, + "grad_norm": 4.701002597808838, + "learning_rate": 1.1119470338289945e-07, + "loss": 0.0252, + "num_input_tokens_seen": 40073848, + "step": 20479 + }, + { + "epoch": 2.7143803843605037, + "grad_norm": 0.08684976398944855, + "learning_rate": 1.1109234886837127e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40076144, + "step": 20480 + }, + { + "epoch": 2.7145129224652087, + "grad_norm": 0.024829061701893806, + "learning_rate": 1.1099004041363049e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40077656, + "step": 20481 + }, + { + "epoch": 2.7146454605699137, + "grad_norm": 0.00728806434199214, + "learning_rate": 1.1088777802064993e-07, + "loss": 0.0, + "num_input_tokens_seen": 40079648, + "step": 20482 + }, + { + "epoch": 2.714777998674619, + "grad_norm": 2.1082491874694824, + "learning_rate": 1.1078556169140109e-07, + "loss": 0.0098, + "num_input_tokens_seen": 40081672, + "step": 20483 + }, + { + "epoch": 2.714910536779324, + "grad_norm": 0.6471569538116455, + "learning_rate": 1.1068339142785462e-07, + "loss": 0.0022, + "num_input_tokens_seen": 40083920, + "step": 20484 + }, + { + "epoch": 2.7150430748840293, + "grad_norm": 0.020151810720562935, + "learning_rate": 1.1058126723198088e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40085984, + "step": 20485 + }, + { + "epoch": 2.7151756129887343, + "grad_norm": 0.01663009449839592, + "learning_rate": 1.1047918910574884e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40087648, + "step": 20486 + }, + { + "epoch": 2.7153081510934394, + "grad_norm": 10.400846481323242, + "learning_rate": 1.1037715705112639e-07, + "loss": 0.0343, + "num_input_tokens_seen": 40089632, + "step": 20487 + }, + { + "epoch": 2.7154406891981444, + "grad_norm": 0.05939977243542671, + "learning_rate": 1.1027517107008057e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40091512, + "step": 20488 + }, + { + "epoch": 2.7155732273028494, + "grad_norm": 14.993009567260742, + "learning_rate": 1.101732311645784e-07, + "loss": 0.1527, + "num_input_tokens_seen": 40093936, + "step": 20489 + }, + { + "epoch": 2.715705765407555, + "grad_norm": 0.001280203927308321, + "learning_rate": 1.100713373365847e-07, + "loss": 0.0, + "num_input_tokens_seen": 40095896, + "step": 20490 + }, + { + "epoch": 2.7158383035122595, + "grad_norm": 0.005018872674554586, + "learning_rate": 1.0996948958806459e-07, + "loss": 0.0, + "num_input_tokens_seen": 40098392, + "step": 20491 + }, + { + "epoch": 2.715970841616965, + "grad_norm": 0.04099457710981369, + "learning_rate": 1.0986768792098146e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40099656, + "step": 20492 + }, + { + "epoch": 2.71610337972167, + "grad_norm": 10.873488426208496, + "learning_rate": 1.0976593233729793e-07, + "loss": 0.0858, + "num_input_tokens_seen": 40101896, + "step": 20493 + }, + { + "epoch": 2.716235917826375, + "grad_norm": 0.0017908806912600994, + "learning_rate": 1.096642228389766e-07, + "loss": 0.0, + "num_input_tokens_seen": 40103064, + "step": 20494 + }, + { + "epoch": 2.71636845593108, + "grad_norm": 0.006518849637359381, + "learning_rate": 1.0956255942797784e-07, + "loss": 0.0, + "num_input_tokens_seen": 40104296, + "step": 20495 + }, + { + "epoch": 2.716500994035785, + "grad_norm": 9.36495304107666, + "learning_rate": 1.0946094210626201e-07, + "loss": 0.1394, + "num_input_tokens_seen": 40107104, + "step": 20496 + }, + { + "epoch": 2.7166335321404906, + "grad_norm": 3.4203884601593018, + "learning_rate": 1.093593708757884e-07, + "loss": 0.0118, + "num_input_tokens_seen": 40109296, + "step": 20497 + }, + { + "epoch": 2.7167660702451952, + "grad_norm": 0.003240822581574321, + "learning_rate": 1.0925784573851517e-07, + "loss": 0.0, + "num_input_tokens_seen": 40111472, + "step": 20498 + }, + { + "epoch": 2.7168986083499007, + "grad_norm": 6.11899995803833, + "learning_rate": 1.0915636669640017e-07, + "loss": 0.0676, + "num_input_tokens_seen": 40113328, + "step": 20499 + }, + { + "epoch": 2.7170311464546058, + "grad_norm": 1.2890818119049072, + "learning_rate": 1.0905493375139963e-07, + "loss": 0.0071, + "num_input_tokens_seen": 40114576, + "step": 20500 + }, + { + "epoch": 2.717163684559311, + "grad_norm": 0.14043845236301422, + "learning_rate": 1.0895354690546978e-07, + "loss": 0.0007, + "num_input_tokens_seen": 40115792, + "step": 20501 + }, + { + "epoch": 2.717296222664016, + "grad_norm": 11.39294147491455, + "learning_rate": 1.0885220616056458e-07, + "loss": 0.2703, + "num_input_tokens_seen": 40118256, + "step": 20502 + }, + { + "epoch": 2.717428760768721, + "grad_norm": 8.292712211608887, + "learning_rate": 1.0875091151863859e-07, + "loss": 0.0941, + "num_input_tokens_seen": 40119832, + "step": 20503 + }, + { + "epoch": 2.7175612988734263, + "grad_norm": 0.020115241408348083, + "learning_rate": 1.0864966298164442e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40121432, + "step": 20504 + }, + { + "epoch": 2.717693836978131, + "grad_norm": 0.0244462713599205, + "learning_rate": 1.0854846055153468e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40122968, + "step": 20505 + }, + { + "epoch": 2.7178263750828364, + "grad_norm": 5.001358509063721, + "learning_rate": 1.0844730423026057e-07, + "loss": 0.0049, + "num_input_tokens_seen": 40125144, + "step": 20506 + }, + { + "epoch": 2.7179589131875415, + "grad_norm": 0.007635052781552076, + "learning_rate": 1.083461940197722e-07, + "loss": 0.0, + "num_input_tokens_seen": 40128648, + "step": 20507 + }, + { + "epoch": 2.7180914512922465, + "grad_norm": 0.08132961392402649, + "learning_rate": 1.0824512992201886e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40131584, + "step": 20508 + }, + { + "epoch": 2.7182239893969515, + "grad_norm": 2.2775979042053223, + "learning_rate": 1.0814411193894952e-07, + "loss": 0.0112, + "num_input_tokens_seen": 40134184, + "step": 20509 + }, + { + "epoch": 2.7183565275016566, + "grad_norm": 0.33755895495414734, + "learning_rate": 1.0804314007251182e-07, + "loss": 0.0019, + "num_input_tokens_seen": 40136680, + "step": 20510 + }, + { + "epoch": 2.718489065606362, + "grad_norm": 0.021252945065498352, + "learning_rate": 1.0794221432465252e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40139896, + "step": 20511 + }, + { + "epoch": 2.718621603711067, + "grad_norm": 2.2145538330078125, + "learning_rate": 1.0784133469731784e-07, + "loss": 0.0116, + "num_input_tokens_seen": 40142248, + "step": 20512 + }, + { + "epoch": 2.718754141815772, + "grad_norm": 17.48003387451172, + "learning_rate": 1.0774050119245178e-07, + "loss": 0.1989, + "num_input_tokens_seen": 40144680, + "step": 20513 + }, + { + "epoch": 2.718886679920477, + "grad_norm": 0.017997637391090393, + "learning_rate": 1.0763971381199945e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40146520, + "step": 20514 + }, + { + "epoch": 2.719019218025182, + "grad_norm": 0.002188366837799549, + "learning_rate": 1.0753897255790402e-07, + "loss": 0.0, + "num_input_tokens_seen": 40147968, + "step": 20515 + }, + { + "epoch": 2.7191517561298872, + "grad_norm": 0.013410797342658043, + "learning_rate": 1.0743827743210783e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40149648, + "step": 20516 + }, + { + "epoch": 2.7192842942345923, + "grad_norm": 0.006881359498947859, + "learning_rate": 1.073376284365521e-07, + "loss": 0.0, + "num_input_tokens_seen": 40151928, + "step": 20517 + }, + { + "epoch": 2.7194168323392978, + "grad_norm": 1.909382700920105, + "learning_rate": 1.072370255731775e-07, + "loss": 0.0054, + "num_input_tokens_seen": 40153800, + "step": 20518 + }, + { + "epoch": 2.719549370444003, + "grad_norm": 0.8635737299919128, + "learning_rate": 1.0713646884392331e-07, + "loss": 0.003, + "num_input_tokens_seen": 40157112, + "step": 20519 + }, + { + "epoch": 2.719681908548708, + "grad_norm": 0.06327981501817703, + "learning_rate": 1.0703595825072882e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40158472, + "step": 20520 + }, + { + "epoch": 2.719814446653413, + "grad_norm": 6.974562644958496, + "learning_rate": 1.0693549379553219e-07, + "loss": 0.0805, + "num_input_tokens_seen": 40160856, + "step": 20521 + }, + { + "epoch": 2.719946984758118, + "grad_norm": 5.166565418243408, + "learning_rate": 1.0683507548027022e-07, + "loss": 0.0498, + "num_input_tokens_seen": 40163760, + "step": 20522 + }, + { + "epoch": 2.720079522862823, + "grad_norm": 11.195116996765137, + "learning_rate": 1.0673470330687913e-07, + "loss": 0.0944, + "num_input_tokens_seen": 40165944, + "step": 20523 + }, + { + "epoch": 2.720212060967528, + "grad_norm": 0.1436731368303299, + "learning_rate": 1.066343772772932e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40168904, + "step": 20524 + }, + { + "epoch": 2.7203445990722335, + "grad_norm": 0.313079833984375, + "learning_rate": 1.0653409739344839e-07, + "loss": 0.0013, + "num_input_tokens_seen": 40170928, + "step": 20525 + }, + { + "epoch": 2.7204771371769385, + "grad_norm": 37.44199752807617, + "learning_rate": 1.0643386365727675e-07, + "loss": 0.1942, + "num_input_tokens_seen": 40172720, + "step": 20526 + }, + { + "epoch": 2.7206096752816435, + "grad_norm": 0.0012883244780823588, + "learning_rate": 1.0633367607071176e-07, + "loss": 0.0, + "num_input_tokens_seen": 40174112, + "step": 20527 + }, + { + "epoch": 2.7207422133863486, + "grad_norm": 0.19330883026123047, + "learning_rate": 1.0623353463568493e-07, + "loss": 0.0008, + "num_input_tokens_seen": 40176360, + "step": 20528 + }, + { + "epoch": 2.7208747514910536, + "grad_norm": 1.4043216705322266, + "learning_rate": 1.0613343935412635e-07, + "loss": 0.0065, + "num_input_tokens_seen": 40177496, + "step": 20529 + }, + { + "epoch": 2.7210072895957587, + "grad_norm": 0.015906674787402153, + "learning_rate": 1.06033390227967e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40180416, + "step": 20530 + }, + { + "epoch": 2.7211398277004637, + "grad_norm": 0.22724610567092896, + "learning_rate": 1.0593338725913532e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40182400, + "step": 20531 + }, + { + "epoch": 2.721272365805169, + "grad_norm": 0.6512168049812317, + "learning_rate": 1.0583343044955923e-07, + "loss": 0.0012, + "num_input_tokens_seen": 40184272, + "step": 20532 + }, + { + "epoch": 2.721404903909874, + "grad_norm": 0.03858548030257225, + "learning_rate": 1.0573351980116664e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40186016, + "step": 20533 + }, + { + "epoch": 2.7215374420145793, + "grad_norm": 8.55422592163086, + "learning_rate": 1.0563365531588349e-07, + "loss": 0.057, + "num_input_tokens_seen": 40187752, + "step": 20534 + }, + { + "epoch": 2.7216699801192843, + "grad_norm": 7.8189592361450195, + "learning_rate": 1.0553383699563491e-07, + "loss": 0.1266, + "num_input_tokens_seen": 40190760, + "step": 20535 + }, + { + "epoch": 2.7218025182239893, + "grad_norm": 9.852140426635742, + "learning_rate": 1.0543406484234631e-07, + "loss": 0.1764, + "num_input_tokens_seen": 40193104, + "step": 20536 + }, + { + "epoch": 2.7219350563286944, + "grad_norm": 0.9803377985954285, + "learning_rate": 1.0533433885794031e-07, + "loss": 0.004, + "num_input_tokens_seen": 40196088, + "step": 20537 + }, + { + "epoch": 2.7220675944333994, + "grad_norm": 2.134528398513794, + "learning_rate": 1.0523465904434066e-07, + "loss": 0.0087, + "num_input_tokens_seen": 40197712, + "step": 20538 + }, + { + "epoch": 2.722200132538105, + "grad_norm": 17.87036895751953, + "learning_rate": 1.0513502540346888e-07, + "loss": 0.019, + "num_input_tokens_seen": 40199376, + "step": 20539 + }, + { + "epoch": 2.72233267064281, + "grad_norm": 0.0033193696290254593, + "learning_rate": 1.0503543793724563e-07, + "loss": 0.0, + "num_input_tokens_seen": 40200840, + "step": 20540 + }, + { + "epoch": 2.722465208747515, + "grad_norm": 1.9549384117126465, + "learning_rate": 1.0493589664759163e-07, + "loss": 0.0129, + "num_input_tokens_seen": 40202664, + "step": 20541 + }, + { + "epoch": 2.72259774685222, + "grad_norm": 5.965747833251953, + "learning_rate": 1.0483640153642561e-07, + "loss": 0.0227, + "num_input_tokens_seen": 40205176, + "step": 20542 + }, + { + "epoch": 2.722730284956925, + "grad_norm": 21.051149368286133, + "learning_rate": 1.0473695260566602e-07, + "loss": 0.3597, + "num_input_tokens_seen": 40207336, + "step": 20543 + }, + { + "epoch": 2.72286282306163, + "grad_norm": 0.5468198657035828, + "learning_rate": 1.0463754985723051e-07, + "loss": 0.0022, + "num_input_tokens_seen": 40209776, + "step": 20544 + }, + { + "epoch": 2.722995361166335, + "grad_norm": 0.15997539460659027, + "learning_rate": 1.045381932930356e-07, + "loss": 0.0004, + "num_input_tokens_seen": 40211464, + "step": 20545 + }, + { + "epoch": 2.7231278992710406, + "grad_norm": 0.167790487408638, + "learning_rate": 1.0443888291499671e-07, + "loss": 0.0012, + "num_input_tokens_seen": 40213968, + "step": 20546 + }, + { + "epoch": 2.7232604373757456, + "grad_norm": 0.7253275513648987, + "learning_rate": 1.0433961872502895e-07, + "loss": 0.003, + "num_input_tokens_seen": 40216184, + "step": 20547 + }, + { + "epoch": 2.7233929754804507, + "grad_norm": 9.830698013305664, + "learning_rate": 1.042404007250461e-07, + "loss": 0.1966, + "num_input_tokens_seen": 40217920, + "step": 20548 + }, + { + "epoch": 2.7235255135851557, + "grad_norm": 0.06328345835208893, + "learning_rate": 1.0414122891696077e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40219920, + "step": 20549 + }, + { + "epoch": 2.7236580516898607, + "grad_norm": 0.11352048814296722, + "learning_rate": 1.0404210330268532e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40221296, + "step": 20550 + }, + { + "epoch": 2.723790589794566, + "grad_norm": 2.7292401790618896, + "learning_rate": 1.039430238841313e-07, + "loss": 0.0172, + "num_input_tokens_seen": 40223568, + "step": 20551 + }, + { + "epoch": 2.723923127899271, + "grad_norm": 8.333146095275879, + "learning_rate": 1.0384399066320883e-07, + "loss": 0.1421, + "num_input_tokens_seen": 40225400, + "step": 20552 + }, + { + "epoch": 2.7240556660039763, + "grad_norm": 0.14083242416381836, + "learning_rate": 1.0374500364182722e-07, + "loss": 0.0006, + "num_input_tokens_seen": 40227656, + "step": 20553 + }, + { + "epoch": 2.7241882041086813, + "grad_norm": 0.000848158320877701, + "learning_rate": 1.0364606282189493e-07, + "loss": 0.0, + "num_input_tokens_seen": 40229248, + "step": 20554 + }, + { + "epoch": 2.7243207422133864, + "grad_norm": 46.73067092895508, + "learning_rate": 1.0354716820531935e-07, + "loss": 0.2044, + "num_input_tokens_seen": 40231304, + "step": 20555 + }, + { + "epoch": 2.7244532803180914, + "grad_norm": 0.04204120859503746, + "learning_rate": 1.0344831979400754e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40233544, + "step": 20556 + }, + { + "epoch": 2.7245858184227965, + "grad_norm": 7.8568315505981445, + "learning_rate": 1.0334951758986606e-07, + "loss": 0.0511, + "num_input_tokens_seen": 40235944, + "step": 20557 + }, + { + "epoch": 2.7247183565275015, + "grad_norm": 0.030321598052978516, + "learning_rate": 1.032507615947989e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40237576, + "step": 20558 + }, + { + "epoch": 2.7248508946322065, + "grad_norm": 0.6467282772064209, + "learning_rate": 1.031520518107107e-07, + "loss": 0.0036, + "num_input_tokens_seen": 40240144, + "step": 20559 + }, + { + "epoch": 2.724983432736912, + "grad_norm": 0.07581186294555664, + "learning_rate": 1.0305338823950434e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40241328, + "step": 20560 + }, + { + "epoch": 2.725115970841617, + "grad_norm": 6.682172775268555, + "learning_rate": 1.0295477088308193e-07, + "loss": 0.0393, + "num_input_tokens_seen": 40243152, + "step": 20561 + }, + { + "epoch": 2.725248508946322, + "grad_norm": 0.06568250805139542, + "learning_rate": 1.0285619974334526e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40245304, + "step": 20562 + }, + { + "epoch": 2.725381047051027, + "grad_norm": 0.04685897380113602, + "learning_rate": 1.0275767482219506e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40247744, + "step": 20563 + }, + { + "epoch": 2.725513585155732, + "grad_norm": 3.6662306785583496, + "learning_rate": 1.0265919612153064e-07, + "loss": 0.0531, + "num_input_tokens_seen": 40249472, + "step": 20564 + }, + { + "epoch": 2.7256461232604376, + "grad_norm": 0.060763824731111526, + "learning_rate": 1.0256076364325073e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40251808, + "step": 20565 + }, + { + "epoch": 2.7257786613651422, + "grad_norm": 0.013884919695556164, + "learning_rate": 1.0246237738925302e-07, + "loss": 0.0, + "num_input_tokens_seen": 40253496, + "step": 20566 + }, + { + "epoch": 2.7259111994698477, + "grad_norm": 0.05732065066695213, + "learning_rate": 1.023640373614343e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40255168, + "step": 20567 + }, + { + "epoch": 2.7260437375745528, + "grad_norm": 0.004776959307491779, + "learning_rate": 1.0226574356169167e-07, + "loss": 0.0, + "num_input_tokens_seen": 40257360, + "step": 20568 + }, + { + "epoch": 2.726176275679258, + "grad_norm": 11.196110725402832, + "learning_rate": 1.0216749599191944e-07, + "loss": 0.0613, + "num_input_tokens_seen": 40259720, + "step": 20569 + }, + { + "epoch": 2.726308813783963, + "grad_norm": 2.9785289764404297, + "learning_rate": 1.0206929465401222e-07, + "loss": 0.0132, + "num_input_tokens_seen": 40262408, + "step": 20570 + }, + { + "epoch": 2.726441351888668, + "grad_norm": 13.020023345947266, + "learning_rate": 1.0197113954986266e-07, + "loss": 0.1254, + "num_input_tokens_seen": 40264656, + "step": 20571 + }, + { + "epoch": 2.7265738899933734, + "grad_norm": 3.677790403366089, + "learning_rate": 1.0187303068136423e-07, + "loss": 0.021, + "num_input_tokens_seen": 40266432, + "step": 20572 + }, + { + "epoch": 2.726706428098078, + "grad_norm": 5.411695957183838, + "learning_rate": 1.0177496805040794e-07, + "loss": 0.0929, + "num_input_tokens_seen": 40268856, + "step": 20573 + }, + { + "epoch": 2.7268389662027834, + "grad_norm": 6.035541534423828, + "learning_rate": 1.0167695165888502e-07, + "loss": 0.0481, + "num_input_tokens_seen": 40271360, + "step": 20574 + }, + { + "epoch": 2.7269715043074885, + "grad_norm": 0.11402358114719391, + "learning_rate": 1.0157898150868512e-07, + "loss": 0.0007, + "num_input_tokens_seen": 40273064, + "step": 20575 + }, + { + "epoch": 2.7271040424121935, + "grad_norm": 17.241437911987305, + "learning_rate": 1.0148105760169669e-07, + "loss": 0.1222, + "num_input_tokens_seen": 40275128, + "step": 20576 + }, + { + "epoch": 2.7272365805168985, + "grad_norm": 10.276262283325195, + "learning_rate": 1.0138317993980823e-07, + "loss": 0.1347, + "num_input_tokens_seen": 40277168, + "step": 20577 + }, + { + "epoch": 2.7273691186216036, + "grad_norm": 2.896395206451416, + "learning_rate": 1.0128534852490685e-07, + "loss": 0.0249, + "num_input_tokens_seen": 40279104, + "step": 20578 + }, + { + "epoch": 2.727501656726309, + "grad_norm": 8.9425630569458, + "learning_rate": 1.0118756335887852e-07, + "loss": 0.2136, + "num_input_tokens_seen": 40281344, + "step": 20579 + }, + { + "epoch": 2.7276341948310137, + "grad_norm": 6.429861545562744, + "learning_rate": 1.0108982444360899e-07, + "loss": 0.0223, + "num_input_tokens_seen": 40283584, + "step": 20580 + }, + { + "epoch": 2.727766732935719, + "grad_norm": 2.63631010055542, + "learning_rate": 1.0099213178098228e-07, + "loss": 0.0156, + "num_input_tokens_seen": 40286416, + "step": 20581 + }, + { + "epoch": 2.727899271040424, + "grad_norm": 8.04603099822998, + "learning_rate": 1.0089448537288271e-07, + "loss": 0.0522, + "num_input_tokens_seen": 40288208, + "step": 20582 + }, + { + "epoch": 2.728031809145129, + "grad_norm": 1.5973155498504639, + "learning_rate": 1.007968852211924e-07, + "loss": 0.0134, + "num_input_tokens_seen": 40290464, + "step": 20583 + }, + { + "epoch": 2.7281643472498343, + "grad_norm": 5.981142520904541, + "learning_rate": 1.0069933132779347e-07, + "loss": 0.0949, + "num_input_tokens_seen": 40292616, + "step": 20584 + }, + { + "epoch": 2.7282968853545393, + "grad_norm": 0.012942900881171227, + "learning_rate": 1.0060182369456606e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40294192, + "step": 20585 + }, + { + "epoch": 2.7284294234592448, + "grad_norm": 7.4312052726745605, + "learning_rate": 1.005043623233909e-07, + "loss": 0.0836, + "num_input_tokens_seen": 40296168, + "step": 20586 + }, + { + "epoch": 2.7285619615639494, + "grad_norm": 2.779864549636841, + "learning_rate": 1.004069472161473e-07, + "loss": 0.0154, + "num_input_tokens_seen": 40298040, + "step": 20587 + }, + { + "epoch": 2.728694499668655, + "grad_norm": 3.4366843700408936, + "learning_rate": 1.0030957837471294e-07, + "loss": 0.0202, + "num_input_tokens_seen": 40301424, + "step": 20588 + }, + { + "epoch": 2.72882703777336, + "grad_norm": 6.422103404998779, + "learning_rate": 1.002122558009655e-07, + "loss": 0.0117, + "num_input_tokens_seen": 40303032, + "step": 20589 + }, + { + "epoch": 2.728959575878065, + "grad_norm": 0.006842087022960186, + "learning_rate": 1.0011497949678096e-07, + "loss": 0.0, + "num_input_tokens_seen": 40305016, + "step": 20590 + }, + { + "epoch": 2.72909211398277, + "grad_norm": 0.023462209850549698, + "learning_rate": 1.0001774946403558e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40306912, + "step": 20591 + }, + { + "epoch": 2.729224652087475, + "grad_norm": 1.7935649156570435, + "learning_rate": 9.992056570460345e-08, + "loss": 0.0077, + "num_input_tokens_seen": 40308384, + "step": 20592 + }, + { + "epoch": 2.7293571901921805, + "grad_norm": 5.512087821960449, + "learning_rate": 9.982342822035862e-08, + "loss": 0.0652, + "num_input_tokens_seen": 40310944, + "step": 20593 + }, + { + "epoch": 2.7294897282968855, + "grad_norm": 0.008757694624364376, + "learning_rate": 9.972633701317403e-08, + "loss": 0.0, + "num_input_tokens_seen": 40313744, + "step": 20594 + }, + { + "epoch": 2.7296222664015906, + "grad_norm": 9.620189666748047, + "learning_rate": 9.96292920849215e-08, + "loss": 0.0826, + "num_input_tokens_seen": 40315488, + "step": 20595 + }, + { + "epoch": 2.7297548045062956, + "grad_norm": 0.0023674629628658295, + "learning_rate": 9.953229343747179e-08, + "loss": 0.0, + "num_input_tokens_seen": 40316768, + "step": 20596 + }, + { + "epoch": 2.7298873426110006, + "grad_norm": 0.0042010038159787655, + "learning_rate": 9.943534107269559e-08, + "loss": 0.0, + "num_input_tokens_seen": 40319152, + "step": 20597 + }, + { + "epoch": 2.7300198807157057, + "grad_norm": 0.09010634571313858, + "learning_rate": 9.933843499246226e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40321376, + "step": 20598 + }, + { + "epoch": 2.7301524188204107, + "grad_norm": 0.0031219448428601027, + "learning_rate": 9.924157519864003e-08, + "loss": 0.0, + "num_input_tokens_seen": 40323592, + "step": 20599 + }, + { + "epoch": 2.730284956925116, + "grad_norm": 0.002106622327119112, + "learning_rate": 9.914476169309655e-08, + "loss": 0.0, + "num_input_tokens_seen": 40324696, + "step": 20600 + }, + { + "epoch": 2.7304174950298212, + "grad_norm": 5.996222496032715, + "learning_rate": 9.904799447769813e-08, + "loss": 0.0206, + "num_input_tokens_seen": 40326336, + "step": 20601 + }, + { + "epoch": 2.7305500331345263, + "grad_norm": 0.03086123801767826, + "learning_rate": 9.89512735543105e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40329136, + "step": 20602 + }, + { + "epoch": 2.7306825712392313, + "grad_norm": 0.11009085178375244, + "learning_rate": 9.885459892479882e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40330688, + "step": 20603 + }, + { + "epoch": 2.7308151093439363, + "grad_norm": 0.027499202638864517, + "learning_rate": 9.875797059102715e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40332768, + "step": 20604 + }, + { + "epoch": 2.7309476474486414, + "grad_norm": 2.2852234840393066, + "learning_rate": 9.866138855485819e-08, + "loss": 0.0065, + "num_input_tokens_seen": 40334464, + "step": 20605 + }, + { + "epoch": 2.7310801855533464, + "grad_norm": 9.260998725891113, + "learning_rate": 9.856485281815459e-08, + "loss": 0.1636, + "num_input_tokens_seen": 40336736, + "step": 20606 + }, + { + "epoch": 2.731212723658052, + "grad_norm": 0.0059330156072974205, + "learning_rate": 9.846836338277682e-08, + "loss": 0.0, + "num_input_tokens_seen": 40337744, + "step": 20607 + }, + { + "epoch": 2.731345261762757, + "grad_norm": 0.020890355110168457, + "learning_rate": 9.83719202505859e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40339264, + "step": 20608 + }, + { + "epoch": 2.731477799867462, + "grad_norm": 4.8022332191467285, + "learning_rate": 9.827552342344116e-08, + "loss": 0.0517, + "num_input_tokens_seen": 40341032, + "step": 20609 + }, + { + "epoch": 2.731610337972167, + "grad_norm": 6.902804851531982, + "learning_rate": 9.817917290320112e-08, + "loss": 0.0809, + "num_input_tokens_seen": 40343896, + "step": 20610 + }, + { + "epoch": 2.731742876076872, + "grad_norm": 0.04349290207028389, + "learning_rate": 9.808286869172373e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40345608, + "step": 20611 + }, + { + "epoch": 2.731875414181577, + "grad_norm": 3.818340539932251, + "learning_rate": 9.798661079086557e-08, + "loss": 0.0233, + "num_input_tokens_seen": 40347328, + "step": 20612 + }, + { + "epoch": 2.732007952286282, + "grad_norm": 0.024737080559134483, + "learning_rate": 9.789039920248266e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40349560, + "step": 20613 + }, + { + "epoch": 2.7321404903909876, + "grad_norm": 3.0820424556732178, + "learning_rate": 9.779423392842991e-08, + "loss": 0.008, + "num_input_tokens_seen": 40350664, + "step": 20614 + }, + { + "epoch": 2.7322730284956926, + "grad_norm": 8.274417877197266, + "learning_rate": 9.769811497056137e-08, + "loss": 0.1507, + "num_input_tokens_seen": 40352328, + "step": 20615 + }, + { + "epoch": 2.7324055666003977, + "grad_norm": 0.007910707965493202, + "learning_rate": 9.760204233073084e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40354336, + "step": 20616 + }, + { + "epoch": 2.7325381047051027, + "grad_norm": 0.0007721353904344141, + "learning_rate": 9.750601601078991e-08, + "loss": 0.0, + "num_input_tokens_seen": 40355704, + "step": 20617 + }, + { + "epoch": 2.7326706428098078, + "grad_norm": 1.7725874185562134, + "learning_rate": 9.741003601259041e-08, + "loss": 0.0289, + "num_input_tokens_seen": 40357560, + "step": 20618 + }, + { + "epoch": 2.732803180914513, + "grad_norm": 9.851848602294922, + "learning_rate": 9.73141023379831e-08, + "loss": 0.1228, + "num_input_tokens_seen": 40359760, + "step": 20619 + }, + { + "epoch": 2.732935719019218, + "grad_norm": 0.0025030917022377253, + "learning_rate": 9.721821498881706e-08, + "loss": 0.0, + "num_input_tokens_seen": 40361512, + "step": 20620 + }, + { + "epoch": 2.7330682571239233, + "grad_norm": 7.826012134552002, + "learning_rate": 9.712237396694191e-08, + "loss": 0.1075, + "num_input_tokens_seen": 40363112, + "step": 20621 + }, + { + "epoch": 2.7332007952286284, + "grad_norm": 0.012881021946668625, + "learning_rate": 9.702657927420478e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40364992, + "step": 20622 + }, + { + "epoch": 2.7333333333333334, + "grad_norm": 13.361252784729004, + "learning_rate": 9.693083091245281e-08, + "loss": 0.1845, + "num_input_tokens_seen": 40366976, + "step": 20623 + }, + { + "epoch": 2.7334658714380384, + "grad_norm": 16.721614837646484, + "learning_rate": 9.68351288835323e-08, + "loss": 0.2106, + "num_input_tokens_seen": 40369536, + "step": 20624 + }, + { + "epoch": 2.7335984095427435, + "grad_norm": 0.012255587615072727, + "learning_rate": 9.673947318928873e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40372208, + "step": 20625 + }, + { + "epoch": 2.7337309476474485, + "grad_norm": 9.030549049377441, + "learning_rate": 9.66438638315656e-08, + "loss": 0.1213, + "num_input_tokens_seen": 40375080, + "step": 20626 + }, + { + "epoch": 2.7338634857521535, + "grad_norm": 4.068104267120361, + "learning_rate": 9.6548300812207e-08, + "loss": 0.0208, + "num_input_tokens_seen": 40377256, + "step": 20627 + }, + { + "epoch": 2.733996023856859, + "grad_norm": 9.125537872314453, + "learning_rate": 9.645278413305481e-08, + "loss": 0.046, + "num_input_tokens_seen": 40379832, + "step": 20628 + }, + { + "epoch": 2.734128561961564, + "grad_norm": 1.1615562438964844, + "learning_rate": 9.635731379595143e-08, + "loss": 0.0054, + "num_input_tokens_seen": 40381904, + "step": 20629 + }, + { + "epoch": 2.734261100066269, + "grad_norm": 6.887634754180908, + "learning_rate": 9.626188980273732e-08, + "loss": 0.0542, + "num_input_tokens_seen": 40384024, + "step": 20630 + }, + { + "epoch": 2.734393638170974, + "grad_norm": 14.204608917236328, + "learning_rate": 9.616651215525213e-08, + "loss": 0.1652, + "num_input_tokens_seen": 40386184, + "step": 20631 + }, + { + "epoch": 2.734526176275679, + "grad_norm": 31.906185150146484, + "learning_rate": 9.607118085533468e-08, + "loss": 0.3946, + "num_input_tokens_seen": 40387960, + "step": 20632 + }, + { + "epoch": 2.734658714380384, + "grad_norm": 0.016838302835822105, + "learning_rate": 9.59758959048232e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40390000, + "step": 20633 + }, + { + "epoch": 2.7347912524850893, + "grad_norm": 7.177703857421875, + "learning_rate": 9.588065730555513e-08, + "loss": 0.122, + "num_input_tokens_seen": 40391960, + "step": 20634 + }, + { + "epoch": 2.7349237905897947, + "grad_norm": 12.038917541503906, + "learning_rate": 9.578546505936675e-08, + "loss": 0.0667, + "num_input_tokens_seen": 40394040, + "step": 20635 + }, + { + "epoch": 2.7350563286944998, + "grad_norm": 0.13613131642341614, + "learning_rate": 9.569031916809301e-08, + "loss": 0.0009, + "num_input_tokens_seen": 40395912, + "step": 20636 + }, + { + "epoch": 2.735188866799205, + "grad_norm": 0.00870995968580246, + "learning_rate": 9.559521963356855e-08, + "loss": 0.0, + "num_input_tokens_seen": 40398064, + "step": 20637 + }, + { + "epoch": 2.73532140490391, + "grad_norm": 0.036005210131406784, + "learning_rate": 9.55001664576266e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40399592, + "step": 20638 + }, + { + "epoch": 2.735453943008615, + "grad_norm": 0.003369431011378765, + "learning_rate": 9.540515964210045e-08, + "loss": 0.0, + "num_input_tokens_seen": 40401032, + "step": 20639 + }, + { + "epoch": 2.73558648111332, + "grad_norm": 5.880390167236328, + "learning_rate": 9.531019918882195e-08, + "loss": 0.0289, + "num_input_tokens_seen": 40403776, + "step": 20640 + }, + { + "epoch": 2.735719019218025, + "grad_norm": 0.0331774465739727, + "learning_rate": 9.521528509962158e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40405744, + "step": 20641 + }, + { + "epoch": 2.7358515573227304, + "grad_norm": 0.015433989465236664, + "learning_rate": 9.512041737632955e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40407160, + "step": 20642 + }, + { + "epoch": 2.7359840954274355, + "grad_norm": 2.6368601322174072, + "learning_rate": 9.502559602077438e-08, + "loss": 0.0121, + "num_input_tokens_seen": 40409072, + "step": 20643 + }, + { + "epoch": 2.7361166335321405, + "grad_norm": 0.010278803296387196, + "learning_rate": 9.493082103478519e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40410888, + "step": 20644 + }, + { + "epoch": 2.7362491716368456, + "grad_norm": 0.029607700183987617, + "learning_rate": 9.48360924201891e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40412544, + "step": 20645 + }, + { + "epoch": 2.7363817097415506, + "grad_norm": 0.0024321903474628925, + "learning_rate": 9.474141017881245e-08, + "loss": 0.0, + "num_input_tokens_seen": 40414040, + "step": 20646 + }, + { + "epoch": 2.736514247846256, + "grad_norm": 0.001133545534685254, + "learning_rate": 9.464677431248042e-08, + "loss": 0.0, + "num_input_tokens_seen": 40415272, + "step": 20647 + }, + { + "epoch": 2.7366467859509607, + "grad_norm": 1.2533169984817505, + "learning_rate": 9.455218482301826e-08, + "loss": 0.0061, + "num_input_tokens_seen": 40417864, + "step": 20648 + }, + { + "epoch": 2.736779324055666, + "grad_norm": 17.05585289001465, + "learning_rate": 9.445764171224891e-08, + "loss": 0.1668, + "num_input_tokens_seen": 40419680, + "step": 20649 + }, + { + "epoch": 2.736911862160371, + "grad_norm": 4.985896587371826, + "learning_rate": 9.436314498199595e-08, + "loss": 0.0579, + "num_input_tokens_seen": 40422232, + "step": 20650 + }, + { + "epoch": 2.7370444002650762, + "grad_norm": 0.015136467292904854, + "learning_rate": 9.426869463408122e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40424080, + "step": 20651 + }, + { + "epoch": 2.7371769383697813, + "grad_norm": 0.4803467392921448, + "learning_rate": 9.41742906703258e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40425128, + "step": 20652 + }, + { + "epoch": 2.7373094764744863, + "grad_norm": 7.718040466308594, + "learning_rate": 9.407993309254959e-08, + "loss": 0.1486, + "num_input_tokens_seen": 40426896, + "step": 20653 + }, + { + "epoch": 2.737442014579192, + "grad_norm": 6.133661270141602, + "learning_rate": 9.398562190257199e-08, + "loss": 0.0403, + "num_input_tokens_seen": 40428776, + "step": 20654 + }, + { + "epoch": 2.7375745526838964, + "grad_norm": 0.003038499504327774, + "learning_rate": 9.389135710221153e-08, + "loss": 0.0, + "num_input_tokens_seen": 40430304, + "step": 20655 + }, + { + "epoch": 2.737707090788602, + "grad_norm": 8.800638198852539, + "learning_rate": 9.379713869328538e-08, + "loss": 0.0914, + "num_input_tokens_seen": 40431880, + "step": 20656 + }, + { + "epoch": 2.737839628893307, + "grad_norm": 0.7635812163352966, + "learning_rate": 9.37029666776107e-08, + "loss": 0.0013, + "num_input_tokens_seen": 40433616, + "step": 20657 + }, + { + "epoch": 2.737972166998012, + "grad_norm": 1.2712606191635132, + "learning_rate": 9.360884105700269e-08, + "loss": 0.0106, + "num_input_tokens_seen": 40435472, + "step": 20658 + }, + { + "epoch": 2.738104705102717, + "grad_norm": 0.5395106077194214, + "learning_rate": 9.351476183327601e-08, + "loss": 0.0012, + "num_input_tokens_seen": 40437456, + "step": 20659 + }, + { + "epoch": 2.738237243207422, + "grad_norm": 1.3326441049575806, + "learning_rate": 9.342072900824533e-08, + "loss": 0.007, + "num_input_tokens_seen": 40439872, + "step": 20660 + }, + { + "epoch": 2.7383697813121275, + "grad_norm": 5.483769416809082, + "learning_rate": 9.33267425837231e-08, + "loss": 0.1187, + "num_input_tokens_seen": 40442224, + "step": 20661 + }, + { + "epoch": 2.738502319416832, + "grad_norm": 0.00310563575476408, + "learning_rate": 9.323280256152118e-08, + "loss": 0.0, + "num_input_tokens_seen": 40444128, + "step": 20662 + }, + { + "epoch": 2.7386348575215376, + "grad_norm": 0.024852773174643517, + "learning_rate": 9.313890894345173e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40445720, + "step": 20663 + }, + { + "epoch": 2.7387673956262426, + "grad_norm": 10.2554931640625, + "learning_rate": 9.304506173132416e-08, + "loss": 0.2218, + "num_input_tokens_seen": 40448440, + "step": 20664 + }, + { + "epoch": 2.7388999337309476, + "grad_norm": 4.317249298095703, + "learning_rate": 9.295126092694839e-08, + "loss": 0.0261, + "num_input_tokens_seen": 40449984, + "step": 20665 + }, + { + "epoch": 2.7390324718356527, + "grad_norm": 6.298765659332275, + "learning_rate": 9.2857506532133e-08, + "loss": 0.0526, + "num_input_tokens_seen": 40452104, + "step": 20666 + }, + { + "epoch": 2.7391650099403577, + "grad_norm": 0.005699994508177042, + "learning_rate": 9.27637985486854e-08, + "loss": 0.0, + "num_input_tokens_seen": 40454424, + "step": 20667 + }, + { + "epoch": 2.739297548045063, + "grad_norm": 0.1396913379430771, + "learning_rate": 9.267013697841193e-08, + "loss": 0.0009, + "num_input_tokens_seen": 40457312, + "step": 20668 + }, + { + "epoch": 2.739430086149768, + "grad_norm": 0.010176203213632107, + "learning_rate": 9.257652182311921e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40460192, + "step": 20669 + }, + { + "epoch": 2.7395626242544733, + "grad_norm": 0.4269968867301941, + "learning_rate": 9.24829530846122e-08, + "loss": 0.0039, + "num_input_tokens_seen": 40462104, + "step": 20670 + }, + { + "epoch": 2.7396951623591783, + "grad_norm": 7.088038921356201, + "learning_rate": 9.238943076469469e-08, + "loss": 0.0626, + "num_input_tokens_seen": 40463376, + "step": 20671 + }, + { + "epoch": 2.7398277004638834, + "grad_norm": 5.937478065490723, + "learning_rate": 9.229595486517001e-08, + "loss": 0.0773, + "num_input_tokens_seen": 40465584, + "step": 20672 + }, + { + "epoch": 2.7399602385685884, + "grad_norm": 6.387305736541748, + "learning_rate": 9.220252538784002e-08, + "loss": 0.0335, + "num_input_tokens_seen": 40467264, + "step": 20673 + }, + { + "epoch": 2.7400927766732934, + "grad_norm": 0.07741384953260422, + "learning_rate": 9.210914233450635e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40469080, + "step": 20674 + }, + { + "epoch": 2.740225314777999, + "grad_norm": 2.6026041507720947, + "learning_rate": 9.20158057069695e-08, + "loss": 0.0089, + "num_input_tokens_seen": 40470976, + "step": 20675 + }, + { + "epoch": 2.7403578528827035, + "grad_norm": 2.2284111976623535, + "learning_rate": 9.19225155070294e-08, + "loss": 0.0202, + "num_input_tokens_seen": 40474480, + "step": 20676 + }, + { + "epoch": 2.740490390987409, + "grad_norm": 0.017774587497115135, + "learning_rate": 9.182927173648437e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40476296, + "step": 20677 + }, + { + "epoch": 2.740622929092114, + "grad_norm": 0.17431522905826569, + "learning_rate": 9.173607439713239e-08, + "loss": 0.0008, + "num_input_tokens_seen": 40479224, + "step": 20678 + }, + { + "epoch": 2.740755467196819, + "grad_norm": 6.192979335784912, + "learning_rate": 9.164292349077009e-08, + "loss": 0.0786, + "num_input_tokens_seen": 40481104, + "step": 20679 + }, + { + "epoch": 2.740888005301524, + "grad_norm": 1.1193798780441284, + "learning_rate": 9.154981901919324e-08, + "loss": 0.0033, + "num_input_tokens_seen": 40484024, + "step": 20680 + }, + { + "epoch": 2.741020543406229, + "grad_norm": 18.16061782836914, + "learning_rate": 9.145676098419793e-08, + "loss": 0.0539, + "num_input_tokens_seen": 40486408, + "step": 20681 + }, + { + "epoch": 2.7411530815109346, + "grad_norm": 5.657936096191406, + "learning_rate": 9.136374938757798e-08, + "loss": 0.0112, + "num_input_tokens_seen": 40488936, + "step": 20682 + }, + { + "epoch": 2.7412856196156397, + "grad_norm": 0.3479876220226288, + "learning_rate": 9.12707842311264e-08, + "loss": 0.0024, + "num_input_tokens_seen": 40491696, + "step": 20683 + }, + { + "epoch": 2.7414181577203447, + "grad_norm": 12.141497611999512, + "learning_rate": 9.117786551663594e-08, + "loss": 0.1574, + "num_input_tokens_seen": 40494320, + "step": 20684 + }, + { + "epoch": 2.7415506958250497, + "grad_norm": 0.02492293156683445, + "learning_rate": 9.108499324589765e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40495864, + "step": 20685 + }, + { + "epoch": 2.7416832339297548, + "grad_norm": 0.039177246391773224, + "learning_rate": 9.099216742070232e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40497056, + "step": 20686 + }, + { + "epoch": 2.74181577203446, + "grad_norm": 0.01595601998269558, + "learning_rate": 9.08993880428402e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40498632, + "step": 20687 + }, + { + "epoch": 2.741948310139165, + "grad_norm": 0.010404431261122227, + "learning_rate": 9.080665511410014e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40500528, + "step": 20688 + }, + { + "epoch": 2.7420808482438703, + "grad_norm": 0.025889527052640915, + "learning_rate": 9.071396863626958e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40502856, + "step": 20689 + }, + { + "epoch": 2.7422133863485754, + "grad_norm": 14.627632141113281, + "learning_rate": 9.062132861113542e-08, + "loss": 0.2475, + "num_input_tokens_seen": 40505872, + "step": 20690 + }, + { + "epoch": 2.7423459244532804, + "grad_norm": 4.508406162261963, + "learning_rate": 9.05287350404846e-08, + "loss": 0.0306, + "num_input_tokens_seen": 40507808, + "step": 20691 + }, + { + "epoch": 2.7424784625579854, + "grad_norm": 0.0013602660037577152, + "learning_rate": 9.043618792610176e-08, + "loss": 0.0, + "num_input_tokens_seen": 40509288, + "step": 20692 + }, + { + "epoch": 2.7426110006626905, + "grad_norm": 3.037480115890503, + "learning_rate": 9.034368726977161e-08, + "loss": 0.0234, + "num_input_tokens_seen": 40511576, + "step": 20693 + }, + { + "epoch": 2.7427435387673955, + "grad_norm": 5.327826499938965, + "learning_rate": 9.025123307327771e-08, + "loss": 0.0992, + "num_input_tokens_seen": 40513664, + "step": 20694 + }, + { + "epoch": 2.7428760768721006, + "grad_norm": 17.871667861938477, + "learning_rate": 9.015882533840198e-08, + "loss": 0.3611, + "num_input_tokens_seen": 40516288, + "step": 20695 + }, + { + "epoch": 2.743008614976806, + "grad_norm": 11.369023323059082, + "learning_rate": 9.006646406692688e-08, + "loss": 0.3064, + "num_input_tokens_seen": 40517432, + "step": 20696 + }, + { + "epoch": 2.743141153081511, + "grad_norm": 18.61103630065918, + "learning_rate": 8.997414926063264e-08, + "loss": 0.0495, + "num_input_tokens_seen": 40520264, + "step": 20697 + }, + { + "epoch": 2.743273691186216, + "grad_norm": 0.0007582338294014335, + "learning_rate": 8.988188092129951e-08, + "loss": 0.0, + "num_input_tokens_seen": 40521200, + "step": 20698 + }, + { + "epoch": 2.743406229290921, + "grad_norm": 0.023078473284840584, + "learning_rate": 8.978965905070664e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40522544, + "step": 20699 + }, + { + "epoch": 2.743538767395626, + "grad_norm": 0.019972823560237885, + "learning_rate": 8.969748365063146e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40523696, + "step": 20700 + }, + { + "epoch": 2.7436713055003312, + "grad_norm": 0.027034739032387733, + "learning_rate": 8.960535472285175e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40526896, + "step": 20701 + }, + { + "epoch": 2.7438038436050363, + "grad_norm": 0.005604673642665148, + "learning_rate": 8.951327226914386e-08, + "loss": 0.0, + "num_input_tokens_seen": 40528408, + "step": 20702 + }, + { + "epoch": 2.7439363817097417, + "grad_norm": 8.542337417602539, + "learning_rate": 8.942123629128247e-08, + "loss": 0.0557, + "num_input_tokens_seen": 40530856, + "step": 20703 + }, + { + "epoch": 2.744068919814447, + "grad_norm": 8.739341735839844, + "learning_rate": 8.93292467910431e-08, + "loss": 0.1558, + "num_input_tokens_seen": 40533240, + "step": 20704 + }, + { + "epoch": 2.744201457919152, + "grad_norm": 8.053001403808594, + "learning_rate": 8.92373037701988e-08, + "loss": 0.0333, + "num_input_tokens_seen": 40535304, + "step": 20705 + }, + { + "epoch": 2.744333996023857, + "grad_norm": 0.0044760992750525475, + "learning_rate": 8.9145407230522e-08, + "loss": 0.0, + "num_input_tokens_seen": 40537360, + "step": 20706 + }, + { + "epoch": 2.744466534128562, + "grad_norm": 3.009662389755249, + "learning_rate": 8.905355717378523e-08, + "loss": 0.0062, + "num_input_tokens_seen": 40539520, + "step": 20707 + }, + { + "epoch": 2.744599072233267, + "grad_norm": 12.790186882019043, + "learning_rate": 8.896175360175923e-08, + "loss": 0.0328, + "num_input_tokens_seen": 40541096, + "step": 20708 + }, + { + "epoch": 2.744731610337972, + "grad_norm": 0.020984278991818428, + "learning_rate": 8.886999651621347e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40542824, + "step": 20709 + }, + { + "epoch": 2.7448641484426775, + "grad_norm": 1.5154893398284912, + "learning_rate": 8.877828591891819e-08, + "loss": 0.0093, + "num_input_tokens_seen": 40544512, + "step": 20710 + }, + { + "epoch": 2.7449966865473825, + "grad_norm": 8.19878101348877, + "learning_rate": 8.868662181164028e-08, + "loss": 0.0731, + "num_input_tokens_seen": 40546024, + "step": 20711 + }, + { + "epoch": 2.7451292246520875, + "grad_norm": 0.02542228065431118, + "learning_rate": 8.859500419614808e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40547528, + "step": 20712 + }, + { + "epoch": 2.7452617627567926, + "grad_norm": 0.8276879787445068, + "learning_rate": 8.850343307420794e-08, + "loss": 0.0028, + "num_input_tokens_seen": 40549280, + "step": 20713 + }, + { + "epoch": 2.7453943008614976, + "grad_norm": 6.590904235839844, + "learning_rate": 8.841190844758512e-08, + "loss": 0.1788, + "num_input_tokens_seen": 40550912, + "step": 20714 + }, + { + "epoch": 2.7455268389662026, + "grad_norm": 12.48646354675293, + "learning_rate": 8.832043031804405e-08, + "loss": 0.0503, + "num_input_tokens_seen": 40553280, + "step": 20715 + }, + { + "epoch": 2.7456593770709077, + "grad_norm": 0.0037856181152164936, + "learning_rate": 8.822899868734885e-08, + "loss": 0.0, + "num_input_tokens_seen": 40554576, + "step": 20716 + }, + { + "epoch": 2.745791915175613, + "grad_norm": 0.001498855766840279, + "learning_rate": 8.813761355726286e-08, + "loss": 0.0, + "num_input_tokens_seen": 40556120, + "step": 20717 + }, + { + "epoch": 2.745924453280318, + "grad_norm": 0.00438922131434083, + "learning_rate": 8.804627492954742e-08, + "loss": 0.0, + "num_input_tokens_seen": 40558056, + "step": 20718 + }, + { + "epoch": 2.7460569913850232, + "grad_norm": 6.076627254486084, + "learning_rate": 8.795498280596337e-08, + "loss": 0.0759, + "num_input_tokens_seen": 40559960, + "step": 20719 + }, + { + "epoch": 2.7461895294897283, + "grad_norm": 0.14451400935649872, + "learning_rate": 8.786373718827152e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40562560, + "step": 20720 + }, + { + "epoch": 2.7463220675944333, + "grad_norm": 0.9155290722846985, + "learning_rate": 8.777253807823071e-08, + "loss": 0.005, + "num_input_tokens_seen": 40564296, + "step": 20721 + }, + { + "epoch": 2.7464546056991384, + "grad_norm": 0.08196693658828735, + "learning_rate": 8.76813854775993e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40565544, + "step": 20722 + }, + { + "epoch": 2.7465871438038434, + "grad_norm": 0.009713605046272278, + "learning_rate": 8.75902793881353e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40567576, + "step": 20723 + }, + { + "epoch": 2.746719681908549, + "grad_norm": 3.408336639404297, + "learning_rate": 8.749921981159482e-08, + "loss": 0.0067, + "num_input_tokens_seen": 40570616, + "step": 20724 + }, + { + "epoch": 2.746852220013254, + "grad_norm": 5.829514503479004, + "learning_rate": 8.740820674973393e-08, + "loss": 0.0341, + "num_input_tokens_seen": 40572312, + "step": 20725 + }, + { + "epoch": 2.746984758117959, + "grad_norm": 0.01758240908384323, + "learning_rate": 8.731724020430654e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40574064, + "step": 20726 + }, + { + "epoch": 2.747117296222664, + "grad_norm": 8.522876739501953, + "learning_rate": 8.722632017706762e-08, + "loss": 0.0445, + "num_input_tokens_seen": 40575664, + "step": 20727 + }, + { + "epoch": 2.747249834327369, + "grad_norm": 6.124189853668213, + "learning_rate": 8.713544666976965e-08, + "loss": 0.1465, + "num_input_tokens_seen": 40577464, + "step": 20728 + }, + { + "epoch": 2.747382372432074, + "grad_norm": 8.647217750549316, + "learning_rate": 8.704461968416511e-08, + "loss": 0.13, + "num_input_tokens_seen": 40578904, + "step": 20729 + }, + { + "epoch": 2.747514910536779, + "grad_norm": 7.488789081573486, + "learning_rate": 8.695383922200457e-08, + "loss": 0.014, + "num_input_tokens_seen": 40580384, + "step": 20730 + }, + { + "epoch": 2.7476474486414846, + "grad_norm": 0.019429726526141167, + "learning_rate": 8.686310528503883e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40581840, + "step": 20731 + }, + { + "epoch": 2.7477799867461896, + "grad_norm": 0.6497260928153992, + "learning_rate": 8.677241787501706e-08, + "loss": 0.0048, + "num_input_tokens_seen": 40583824, + "step": 20732 + }, + { + "epoch": 2.7479125248508947, + "grad_norm": 0.7497528195381165, + "learning_rate": 8.668177699368757e-08, + "loss": 0.0013, + "num_input_tokens_seen": 40586168, + "step": 20733 + }, + { + "epoch": 2.7480450629555997, + "grad_norm": 5.29608678817749, + "learning_rate": 8.659118264279898e-08, + "loss": 0.0684, + "num_input_tokens_seen": 40588080, + "step": 20734 + }, + { + "epoch": 2.7481776010603047, + "grad_norm": 12.830812454223633, + "learning_rate": 8.650063482409681e-08, + "loss": 0.1249, + "num_input_tokens_seen": 40591136, + "step": 20735 + }, + { + "epoch": 2.74831013916501, + "grad_norm": 2.3125052452087402, + "learning_rate": 8.641013353932775e-08, + "loss": 0.0184, + "num_input_tokens_seen": 40593960, + "step": 20736 + }, + { + "epoch": 2.748442677269715, + "grad_norm": 1.837138056755066, + "learning_rate": 8.631967879023595e-08, + "loss": 0.0126, + "num_input_tokens_seen": 40595696, + "step": 20737 + }, + { + "epoch": 2.7485752153744203, + "grad_norm": 0.24660219252109528, + "learning_rate": 8.622927057856612e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40597528, + "step": 20738 + }, + { + "epoch": 2.7487077534791253, + "grad_norm": 0.004943624138832092, + "learning_rate": 8.613890890606103e-08, + "loss": 0.0, + "num_input_tokens_seen": 40600872, + "step": 20739 + }, + { + "epoch": 2.7488402915838304, + "grad_norm": 0.009159441106021404, + "learning_rate": 8.604859377446317e-08, + "loss": 0.0, + "num_input_tokens_seen": 40603424, + "step": 20740 + }, + { + "epoch": 2.7489728296885354, + "grad_norm": 0.005963070783764124, + "learning_rate": 8.595832518551367e-08, + "loss": 0.0, + "num_input_tokens_seen": 40605080, + "step": 20741 + }, + { + "epoch": 2.7491053677932404, + "grad_norm": 1.7647782564163208, + "learning_rate": 8.586810314095278e-08, + "loss": 0.0078, + "num_input_tokens_seen": 40607216, + "step": 20742 + }, + { + "epoch": 2.749237905897946, + "grad_norm": 16.16608238220215, + "learning_rate": 8.577792764252052e-08, + "loss": 0.1861, + "num_input_tokens_seen": 40609232, + "step": 20743 + }, + { + "epoch": 2.7493704440026505, + "grad_norm": 2.951291084289551, + "learning_rate": 8.56877986919552e-08, + "loss": 0.0676, + "num_input_tokens_seen": 40611312, + "step": 20744 + }, + { + "epoch": 2.749502982107356, + "grad_norm": 4.2243452072143555, + "learning_rate": 8.559771629099462e-08, + "loss": 0.0249, + "num_input_tokens_seen": 40613688, + "step": 20745 + }, + { + "epoch": 2.749635520212061, + "grad_norm": 0.018397625535726547, + "learning_rate": 8.550768044137597e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40615160, + "step": 20746 + }, + { + "epoch": 2.749768058316766, + "grad_norm": 0.012802147306501865, + "learning_rate": 8.541769114483456e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40616672, + "step": 20747 + }, + { + "epoch": 2.749900596421471, + "grad_norm": 7.6945905685424805, + "learning_rate": 8.532774840310592e-08, + "loss": 0.0935, + "num_input_tokens_seen": 40618640, + "step": 20748 + }, + { + "epoch": 2.750033134526176, + "grad_norm": 0.01403286587446928, + "learning_rate": 8.523785221792424e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40620544, + "step": 20749 + }, + { + "epoch": 2.7501656726308816, + "grad_norm": 17.7221622467041, + "learning_rate": 8.514800259102229e-08, + "loss": 0.1382, + "num_input_tokens_seen": 40622824, + "step": 20750 + }, + { + "epoch": 2.7502982107355862, + "grad_norm": 21.403738021850586, + "learning_rate": 8.505819952413314e-08, + "loss": 0.1369, + "num_input_tokens_seen": 40624528, + "step": 20751 + }, + { + "epoch": 2.7504307488402917, + "grad_norm": 0.014931654557585716, + "learning_rate": 8.49684430189876e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40625824, + "step": 20752 + }, + { + "epoch": 2.7505632869449967, + "grad_norm": 0.003229240421205759, + "learning_rate": 8.487873307731681e-08, + "loss": 0.0, + "num_input_tokens_seen": 40626872, + "step": 20753 + }, + { + "epoch": 2.750695825049702, + "grad_norm": 4.609385967254639, + "learning_rate": 8.478906970084994e-08, + "loss": 0.0191, + "num_input_tokens_seen": 40628712, + "step": 20754 + }, + { + "epoch": 2.750828363154407, + "grad_norm": 4.673152446746826, + "learning_rate": 8.469945289131614e-08, + "loss": 0.0149, + "num_input_tokens_seen": 40631864, + "step": 20755 + }, + { + "epoch": 2.750960901259112, + "grad_norm": 1.2935545444488525, + "learning_rate": 8.460988265044295e-08, + "loss": 0.0198, + "num_input_tokens_seen": 40633184, + "step": 20756 + }, + { + "epoch": 2.7510934393638173, + "grad_norm": 2.5498416423797607, + "learning_rate": 8.45203589799573e-08, + "loss": 0.008, + "num_input_tokens_seen": 40635072, + "step": 20757 + }, + { + "epoch": 2.751225977468522, + "grad_norm": 0.16308946907520294, + "learning_rate": 8.443088188158588e-08, + "loss": 0.0009, + "num_input_tokens_seen": 40636576, + "step": 20758 + }, + { + "epoch": 2.7513585155732274, + "grad_norm": 0.0250396765768528, + "learning_rate": 8.434145135705341e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40639032, + "step": 20759 + }, + { + "epoch": 2.7514910536779325, + "grad_norm": 0.04512974992394447, + "learning_rate": 8.425206740808434e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40640568, + "step": 20760 + }, + { + "epoch": 2.7516235917826375, + "grad_norm": 3.204676628112793, + "learning_rate": 8.416273003640202e-08, + "loss": 0.074, + "num_input_tokens_seen": 40642696, + "step": 20761 + }, + { + "epoch": 2.7517561298873425, + "grad_norm": 0.014112602919340134, + "learning_rate": 8.40734392437284e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40643856, + "step": 20762 + }, + { + "epoch": 2.7518886679920476, + "grad_norm": 0.1166965439915657, + "learning_rate": 8.398419503178545e-08, + "loss": 0.0005, + "num_input_tokens_seen": 40645616, + "step": 20763 + }, + { + "epoch": 2.752021206096753, + "grad_norm": 4.574771881103516, + "learning_rate": 8.389499740229457e-08, + "loss": 0.0248, + "num_input_tokens_seen": 40647272, + "step": 20764 + }, + { + "epoch": 2.752153744201458, + "grad_norm": 0.012392591685056686, + "learning_rate": 8.380584635697464e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40649704, + "step": 20765 + }, + { + "epoch": 2.752286282306163, + "grad_norm": 3.191887855529785, + "learning_rate": 8.371674189754487e-08, + "loss": 0.0184, + "num_input_tokens_seen": 40651872, + "step": 20766 + }, + { + "epoch": 2.752418820410868, + "grad_norm": 0.11252931505441666, + "learning_rate": 8.36276840257233e-08, + "loss": 0.0008, + "num_input_tokens_seen": 40655256, + "step": 20767 + }, + { + "epoch": 2.752551358515573, + "grad_norm": 0.26427769660949707, + "learning_rate": 8.353867274322663e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40656944, + "step": 20768 + }, + { + "epoch": 2.7526838966202782, + "grad_norm": 0.020294105634093285, + "learning_rate": 8.344970805177127e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40658368, + "step": 20769 + }, + { + "epoch": 2.7528164347249833, + "grad_norm": 0.08789995312690735, + "learning_rate": 8.336078995307306e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40660112, + "step": 20770 + }, + { + "epoch": 2.7529489728296888, + "grad_norm": 0.1142592504620552, + "learning_rate": 8.327191844884619e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40661320, + "step": 20771 + }, + { + "epoch": 2.753081510934394, + "grad_norm": 0.009458131156861782, + "learning_rate": 8.318309354080345e-08, + "loss": 0.0, + "num_input_tokens_seen": 40662976, + "step": 20772 + }, + { + "epoch": 2.753214049039099, + "grad_norm": 0.09801451116800308, + "learning_rate": 8.309431523065792e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40665720, + "step": 20773 + }, + { + "epoch": 2.753346587143804, + "grad_norm": 0.7977538108825684, + "learning_rate": 8.300558352012183e-08, + "loss": 0.0019, + "num_input_tokens_seen": 40667968, + "step": 20774 + }, + { + "epoch": 2.753479125248509, + "grad_norm": 3.537339687347412, + "learning_rate": 8.291689841090495e-08, + "loss": 0.0222, + "num_input_tokens_seen": 40670184, + "step": 20775 + }, + { + "epoch": 2.753611663353214, + "grad_norm": 3.0308964252471924, + "learning_rate": 8.28282599047181e-08, + "loss": 0.0219, + "num_input_tokens_seen": 40672376, + "step": 20776 + }, + { + "epoch": 2.753744201457919, + "grad_norm": 0.06346801668405533, + "learning_rate": 8.273966800326965e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40674384, + "step": 20777 + }, + { + "epoch": 2.7538767395626245, + "grad_norm": 17.348079681396484, + "learning_rate": 8.265112270826797e-08, + "loss": 0.0901, + "num_input_tokens_seen": 40676456, + "step": 20778 + }, + { + "epoch": 2.7540092776673295, + "grad_norm": 7.964555263519287, + "learning_rate": 8.256262402142057e-08, + "loss": 0.086, + "num_input_tokens_seen": 40678360, + "step": 20779 + }, + { + "epoch": 2.7541418157720345, + "grad_norm": 0.023211030289530754, + "learning_rate": 8.24741719444333e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40680016, + "step": 20780 + }, + { + "epoch": 2.7542743538767396, + "grad_norm": 5.3977131843566895, + "learning_rate": 8.238576647901175e-08, + "loss": 0.0192, + "num_input_tokens_seen": 40681856, + "step": 20781 + }, + { + "epoch": 2.7544068919814446, + "grad_norm": 0.8784810304641724, + "learning_rate": 8.229740762686068e-08, + "loss": 0.0022, + "num_input_tokens_seen": 40683488, + "step": 20782 + }, + { + "epoch": 2.7545394300861497, + "grad_norm": 0.048423800617456436, + "learning_rate": 8.220909538968314e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40686384, + "step": 20783 + }, + { + "epoch": 2.7546719681908547, + "grad_norm": 6.812203407287598, + "learning_rate": 8.212082976918223e-08, + "loss": 0.0789, + "num_input_tokens_seen": 40688672, + "step": 20784 + }, + { + "epoch": 2.75480450629556, + "grad_norm": 0.0023199389688670635, + "learning_rate": 8.203261076705993e-08, + "loss": 0.0, + "num_input_tokens_seen": 40690200, + "step": 20785 + }, + { + "epoch": 2.754937044400265, + "grad_norm": 4.256412982940674, + "learning_rate": 8.194443838501681e-08, + "loss": 0.0419, + "num_input_tokens_seen": 40692496, + "step": 20786 + }, + { + "epoch": 2.7550695825049702, + "grad_norm": 0.0037354445084929466, + "learning_rate": 8.18563126247532e-08, + "loss": 0.0, + "num_input_tokens_seen": 40693968, + "step": 20787 + }, + { + "epoch": 2.7552021206096753, + "grad_norm": 7.825641632080078, + "learning_rate": 8.176823348796825e-08, + "loss": 0.1034, + "num_input_tokens_seen": 40695640, + "step": 20788 + }, + { + "epoch": 2.7553346587143803, + "grad_norm": 0.028580544516444206, + "learning_rate": 8.168020097635954e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40697176, + "step": 20789 + }, + { + "epoch": 2.7554671968190854, + "grad_norm": 0.24258102476596832, + "learning_rate": 8.159221509162512e-08, + "loss": 0.0014, + "num_input_tokens_seen": 40698808, + "step": 20790 + }, + { + "epoch": 2.7555997349237904, + "grad_norm": 12.722267150878906, + "learning_rate": 8.150427583546117e-08, + "loss": 0.0787, + "num_input_tokens_seen": 40700824, + "step": 20791 + }, + { + "epoch": 2.755732273028496, + "grad_norm": 3.0444629192352295, + "learning_rate": 8.141638320956297e-08, + "loss": 0.005, + "num_input_tokens_seen": 40702904, + "step": 20792 + }, + { + "epoch": 2.755864811133201, + "grad_norm": 11.818035125732422, + "learning_rate": 8.132853721562583e-08, + "loss": 0.1787, + "num_input_tokens_seen": 40704664, + "step": 20793 + }, + { + "epoch": 2.755997349237906, + "grad_norm": 3.7424509525299072, + "learning_rate": 8.124073785534258e-08, + "loss": 0.0346, + "num_input_tokens_seen": 40706432, + "step": 20794 + }, + { + "epoch": 2.756129887342611, + "grad_norm": 3.7779476642608643, + "learning_rate": 8.115298513040687e-08, + "loss": 0.0131, + "num_input_tokens_seen": 40708536, + "step": 20795 + }, + { + "epoch": 2.756262425447316, + "grad_norm": 0.0285557359457016, + "learning_rate": 8.10652790425101e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40710544, + "step": 20796 + }, + { + "epoch": 2.756394963552021, + "grad_norm": 0.7302746176719666, + "learning_rate": 8.097761959334371e-08, + "loss": 0.0097, + "num_input_tokens_seen": 40712112, + "step": 20797 + }, + { + "epoch": 2.756527501656726, + "grad_norm": 0.010622425004839897, + "learning_rate": 8.089000678459746e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40715464, + "step": 20798 + }, + { + "epoch": 2.7566600397614316, + "grad_norm": 5.550331115722656, + "learning_rate": 8.080244061796056e-08, + "loss": 0.0592, + "num_input_tokens_seen": 40717136, + "step": 20799 + }, + { + "epoch": 2.7567925778661366, + "grad_norm": 0.015374637208878994, + "learning_rate": 8.071492109512164e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40719128, + "step": 20800 + }, + { + "epoch": 2.7569251159708417, + "grad_norm": 0.4079461991786957, + "learning_rate": 8.062744821776825e-08, + "loss": 0.002, + "num_input_tokens_seen": 40721336, + "step": 20801 + }, + { + "epoch": 2.7570576540755467, + "grad_norm": 5.408421039581299, + "learning_rate": 8.054002198758654e-08, + "loss": 0.0664, + "num_input_tokens_seen": 40724096, + "step": 20802 + }, + { + "epoch": 2.7571901921802517, + "grad_norm": 31.234981536865234, + "learning_rate": 8.04526424062621e-08, + "loss": 0.4707, + "num_input_tokens_seen": 40726152, + "step": 20803 + }, + { + "epoch": 2.757322730284957, + "grad_norm": 5.949959754943848, + "learning_rate": 8.036530947547999e-08, + "loss": 0.0693, + "num_input_tokens_seen": 40728472, + "step": 20804 + }, + { + "epoch": 2.757455268389662, + "grad_norm": 0.0016995753394439816, + "learning_rate": 8.027802319692413e-08, + "loss": 0.0, + "num_input_tokens_seen": 40730560, + "step": 20805 + }, + { + "epoch": 2.7575878064943673, + "grad_norm": 12.175122261047363, + "learning_rate": 8.019078357227734e-08, + "loss": 0.2992, + "num_input_tokens_seen": 40731576, + "step": 20806 + }, + { + "epoch": 2.7577203445990723, + "grad_norm": 24.102895736694336, + "learning_rate": 8.010359060322131e-08, + "loss": 0.3805, + "num_input_tokens_seen": 40733928, + "step": 20807 + }, + { + "epoch": 2.7578528827037774, + "grad_norm": 0.014085857197642326, + "learning_rate": 8.00164442914378e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40735656, + "step": 20808 + }, + { + "epoch": 2.7579854208084824, + "grad_norm": 0.03189467266201973, + "learning_rate": 7.992934463860624e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40737688, + "step": 20809 + }, + { + "epoch": 2.7581179589131875, + "grad_norm": 2.0268285274505615, + "learning_rate": 7.984229164640645e-08, + "loss": 0.0243, + "num_input_tokens_seen": 40740064, + "step": 20810 + }, + { + "epoch": 2.7582504970178925, + "grad_norm": 0.013389559462666512, + "learning_rate": 7.975528531651705e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40742416, + "step": 20811 + }, + { + "epoch": 2.7583830351225975, + "grad_norm": 0.28944456577301025, + "learning_rate": 7.966832565061561e-08, + "loss": 0.0013, + "num_input_tokens_seen": 40744248, + "step": 20812 + }, + { + "epoch": 2.758515573227303, + "grad_norm": 1.5062832832336426, + "learning_rate": 7.958141265037828e-08, + "loss": 0.0109, + "num_input_tokens_seen": 40746352, + "step": 20813 + }, + { + "epoch": 2.758648111332008, + "grad_norm": 0.026987936347723007, + "learning_rate": 7.949454631748094e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40748312, + "step": 20814 + }, + { + "epoch": 2.758780649436713, + "grad_norm": 0.970618486404419, + "learning_rate": 7.940772665359891e-08, + "loss": 0.0015, + "num_input_tokens_seen": 40749544, + "step": 20815 + }, + { + "epoch": 2.758913187541418, + "grad_norm": 0.051948267966508865, + "learning_rate": 7.93209536604056e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40751040, + "step": 20816 + }, + { + "epoch": 2.759045725646123, + "grad_norm": 0.005507080815732479, + "learning_rate": 7.923422733957437e-08, + "loss": 0.0, + "num_input_tokens_seen": 40752528, + "step": 20817 + }, + { + "epoch": 2.759178263750828, + "grad_norm": 5.02571964263916, + "learning_rate": 7.914754769277721e-08, + "loss": 0.04, + "num_input_tokens_seen": 40754176, + "step": 20818 + }, + { + "epoch": 2.7593108018555332, + "grad_norm": 7.491484642028809, + "learning_rate": 7.906091472168531e-08, + "loss": 0.0364, + "num_input_tokens_seen": 40756376, + "step": 20819 + }, + { + "epoch": 2.7594433399602387, + "grad_norm": 8.351678848266602, + "learning_rate": 7.897432842796898e-08, + "loss": 0.0856, + "num_input_tokens_seen": 40758680, + "step": 20820 + }, + { + "epoch": 2.7595758780649438, + "grad_norm": 0.4821520149707794, + "learning_rate": 7.8887788813298e-08, + "loss": 0.0021, + "num_input_tokens_seen": 40760424, + "step": 20821 + }, + { + "epoch": 2.759708416169649, + "grad_norm": 0.01757717877626419, + "learning_rate": 7.88012958793405e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40761792, + "step": 20822 + }, + { + "epoch": 2.759840954274354, + "grad_norm": 13.423911094665527, + "learning_rate": 7.871484962776454e-08, + "loss": 0.1356, + "num_input_tokens_seen": 40763704, + "step": 20823 + }, + { + "epoch": 2.759973492379059, + "grad_norm": 10.499930381774902, + "learning_rate": 7.862845006023661e-08, + "loss": 0.0595, + "num_input_tokens_seen": 40765816, + "step": 20824 + }, + { + "epoch": 2.7601060304837643, + "grad_norm": 0.08448812365531921, + "learning_rate": 7.854209717842231e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40767688, + "step": 20825 + }, + { + "epoch": 2.760238568588469, + "grad_norm": 0.01673898473381996, + "learning_rate": 7.845579098398698e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40769336, + "step": 20826 + }, + { + "epoch": 2.7603711066931744, + "grad_norm": 0.029192348942160606, + "learning_rate": 7.836953147859455e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40770680, + "step": 20827 + }, + { + "epoch": 2.7605036447978795, + "grad_norm": 9.478084564208984, + "learning_rate": 7.828331866390815e-08, + "loss": 0.0725, + "num_input_tokens_seen": 40772496, + "step": 20828 + }, + { + "epoch": 2.7606361829025845, + "grad_norm": 0.0016814350383356214, + "learning_rate": 7.819715254159033e-08, + "loss": 0.0, + "num_input_tokens_seen": 40773744, + "step": 20829 + }, + { + "epoch": 2.7607687210072895, + "grad_norm": 0.004367490764707327, + "learning_rate": 7.811103311330142e-08, + "loss": 0.0, + "num_input_tokens_seen": 40775584, + "step": 20830 + }, + { + "epoch": 2.7609012591119946, + "grad_norm": 0.003849869128316641, + "learning_rate": 7.802496038070318e-08, + "loss": 0.0, + "num_input_tokens_seen": 40777240, + "step": 20831 + }, + { + "epoch": 2.7610337972167, + "grad_norm": 0.002572358585894108, + "learning_rate": 7.793893434545452e-08, + "loss": 0.0, + "num_input_tokens_seen": 40778800, + "step": 20832 + }, + { + "epoch": 2.7611663353214047, + "grad_norm": 0.003549224929884076, + "learning_rate": 7.785295500921386e-08, + "loss": 0.0, + "num_input_tokens_seen": 40780568, + "step": 20833 + }, + { + "epoch": 2.76129887342611, + "grad_norm": 0.07412654906511307, + "learning_rate": 7.776702237363931e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40782392, + "step": 20834 + }, + { + "epoch": 2.761431411530815, + "grad_norm": 13.964412689208984, + "learning_rate": 7.768113644038733e-08, + "loss": 0.1081, + "num_input_tokens_seen": 40784832, + "step": 20835 + }, + { + "epoch": 2.76156394963552, + "grad_norm": 9.393669128417969, + "learning_rate": 7.759529721111437e-08, + "loss": 0.1035, + "num_input_tokens_seen": 40787456, + "step": 20836 + }, + { + "epoch": 2.7616964877402252, + "grad_norm": 2.863393545150757, + "learning_rate": 7.75095046874752e-08, + "loss": 0.01, + "num_input_tokens_seen": 40789528, + "step": 20837 + }, + { + "epoch": 2.7618290258449303, + "grad_norm": 0.0035786584485322237, + "learning_rate": 7.742375887112407e-08, + "loss": 0.0, + "num_input_tokens_seen": 40790952, + "step": 20838 + }, + { + "epoch": 2.7619615639496358, + "grad_norm": 6.241516590118408, + "learning_rate": 7.733805976371384e-08, + "loss": 0.0718, + "num_input_tokens_seen": 40792808, + "step": 20839 + }, + { + "epoch": 2.7620941020543404, + "grad_norm": 5.104973316192627, + "learning_rate": 7.725240736689704e-08, + "loss": 0.0514, + "num_input_tokens_seen": 40794488, + "step": 20840 + }, + { + "epoch": 2.762226640159046, + "grad_norm": 4.05593204498291, + "learning_rate": 7.716680168232543e-08, + "loss": 0.034, + "num_input_tokens_seen": 40796648, + "step": 20841 + }, + { + "epoch": 2.762359178263751, + "grad_norm": 0.020614732056856155, + "learning_rate": 7.708124271164962e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40798376, + "step": 20842 + }, + { + "epoch": 2.762491716368456, + "grad_norm": 3.2341105937957764, + "learning_rate": 7.69957304565186e-08, + "loss": 0.0205, + "num_input_tokens_seen": 40800704, + "step": 20843 + }, + { + "epoch": 2.762624254473161, + "grad_norm": 2.981468439102173, + "learning_rate": 7.691026491858155e-08, + "loss": 0.0089, + "num_input_tokens_seen": 40802104, + "step": 20844 + }, + { + "epoch": 2.762756792577866, + "grad_norm": 0.06487394869327545, + "learning_rate": 7.682484609948582e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40804848, + "step": 20845 + }, + { + "epoch": 2.7628893306825715, + "grad_norm": 0.026254601776599884, + "learning_rate": 7.673947400087894e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40807112, + "step": 20846 + }, + { + "epoch": 2.763021868787276, + "grad_norm": 0.011117507703602314, + "learning_rate": 7.665414862440684e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40809064, + "step": 20847 + }, + { + "epoch": 2.7631544068919816, + "grad_norm": 0.004128988366574049, + "learning_rate": 7.656886997171459e-08, + "loss": 0.0, + "num_input_tokens_seen": 40810424, + "step": 20848 + }, + { + "epoch": 2.7632869449966866, + "grad_norm": 7.297088623046875, + "learning_rate": 7.648363804444642e-08, + "loss": 0.076, + "num_input_tokens_seen": 40811808, + "step": 20849 + }, + { + "epoch": 2.7634194831013916, + "grad_norm": 2.4560353755950928, + "learning_rate": 7.639845284424546e-08, + "loss": 0.0057, + "num_input_tokens_seen": 40814472, + "step": 20850 + }, + { + "epoch": 2.7635520212060967, + "grad_norm": 0.1690322607755661, + "learning_rate": 7.631331437275402e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40815856, + "step": 20851 + }, + { + "epoch": 2.7636845593108017, + "grad_norm": 0.0036196240689605474, + "learning_rate": 7.622822263161411e-08, + "loss": 0.0, + "num_input_tokens_seen": 40817096, + "step": 20852 + }, + { + "epoch": 2.763817097415507, + "grad_norm": 0.07059808820486069, + "learning_rate": 7.614317762246637e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40818520, + "step": 20853 + }, + { + "epoch": 2.7639496355202122, + "grad_norm": 1.5186347961425781, + "learning_rate": 7.605817934695003e-08, + "loss": 0.0082, + "num_input_tokens_seen": 40820080, + "step": 20854 + }, + { + "epoch": 2.7640821736249173, + "grad_norm": 5.195520401000977, + "learning_rate": 7.597322780670435e-08, + "loss": 0.0338, + "num_input_tokens_seen": 40821768, + "step": 20855 + }, + { + "epoch": 2.7642147117296223, + "grad_norm": 2.5688111782073975, + "learning_rate": 7.588832300336691e-08, + "loss": 0.0115, + "num_input_tokens_seen": 40823824, + "step": 20856 + }, + { + "epoch": 2.7643472498343273, + "grad_norm": 2.1141586303710938, + "learning_rate": 7.58034649385747e-08, + "loss": 0.0115, + "num_input_tokens_seen": 40827040, + "step": 20857 + }, + { + "epoch": 2.7644797879390324, + "grad_norm": 4.456235885620117, + "learning_rate": 7.571865361396452e-08, + "loss": 0.0366, + "num_input_tokens_seen": 40828720, + "step": 20858 + }, + { + "epoch": 2.7646123260437374, + "grad_norm": 0.008224617689847946, + "learning_rate": 7.563388903117114e-08, + "loss": 0.0, + "num_input_tokens_seen": 40830400, + "step": 20859 + }, + { + "epoch": 2.764744864148443, + "grad_norm": 0.008496693335473537, + "learning_rate": 7.55491711918288e-08, + "loss": 0.0, + "num_input_tokens_seen": 40832592, + "step": 20860 + }, + { + "epoch": 2.764877402253148, + "grad_norm": 0.8227792382240295, + "learning_rate": 7.546450009757067e-08, + "loss": 0.0034, + "num_input_tokens_seen": 40834584, + "step": 20861 + }, + { + "epoch": 2.765009940357853, + "grad_norm": 4.207841873168945, + "learning_rate": 7.537987575002986e-08, + "loss": 0.0343, + "num_input_tokens_seen": 40837328, + "step": 20862 + }, + { + "epoch": 2.765142478462558, + "grad_norm": 0.006260550580918789, + "learning_rate": 7.529529815083731e-08, + "loss": 0.0, + "num_input_tokens_seen": 40839520, + "step": 20863 + }, + { + "epoch": 2.765275016567263, + "grad_norm": 22.401485443115234, + "learning_rate": 7.521076730162446e-08, + "loss": 0.0867, + "num_input_tokens_seen": 40842968, + "step": 20864 + }, + { + "epoch": 2.765407554671968, + "grad_norm": 9.3337984085083, + "learning_rate": 7.512628320402088e-08, + "loss": 0.063, + "num_input_tokens_seen": 40844952, + "step": 20865 + }, + { + "epoch": 2.765540092776673, + "grad_norm": 3.445998430252075, + "learning_rate": 7.504184585965523e-08, + "loss": 0.0239, + "num_input_tokens_seen": 40847200, + "step": 20866 + }, + { + "epoch": 2.7656726308813786, + "grad_norm": 4.49904727935791, + "learning_rate": 7.495745527015569e-08, + "loss": 0.013, + "num_input_tokens_seen": 40848712, + "step": 20867 + }, + { + "epoch": 2.7658051689860836, + "grad_norm": 0.01743980497121811, + "learning_rate": 7.487311143714954e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40851400, + "step": 20868 + }, + { + "epoch": 2.7659377070907887, + "grad_norm": 0.26251015067100525, + "learning_rate": 7.478881436226271e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40852968, + "step": 20869 + }, + { + "epoch": 2.7660702451954937, + "grad_norm": 0.0017102982383221388, + "learning_rate": 7.470456404712056e-08, + "loss": 0.0, + "num_input_tokens_seen": 40854416, + "step": 20870 + }, + { + "epoch": 2.7662027833001988, + "grad_norm": 2.284578561782837, + "learning_rate": 7.462036049334736e-08, + "loss": 0.0082, + "num_input_tokens_seen": 40856608, + "step": 20871 + }, + { + "epoch": 2.766335321404904, + "grad_norm": 0.0017699371092021465, + "learning_rate": 7.453620370256709e-08, + "loss": 0.0, + "num_input_tokens_seen": 40858200, + "step": 20872 + }, + { + "epoch": 2.766467859509609, + "grad_norm": 0.3686170279979706, + "learning_rate": 7.445209367640205e-08, + "loss": 0.002, + "num_input_tokens_seen": 40859912, + "step": 20873 + }, + { + "epoch": 2.7666003976143143, + "grad_norm": 14.988755226135254, + "learning_rate": 7.4368030416474e-08, + "loss": 0.0879, + "num_input_tokens_seen": 40861568, + "step": 20874 + }, + { + "epoch": 2.7667329357190193, + "grad_norm": 0.00611950783059001, + "learning_rate": 7.428401392440332e-08, + "loss": 0.0, + "num_input_tokens_seen": 40864296, + "step": 20875 + }, + { + "epoch": 2.7668654738237244, + "grad_norm": 3.680931329727173, + "learning_rate": 7.420004420181065e-08, + "loss": 0.031, + "num_input_tokens_seen": 40867280, + "step": 20876 + }, + { + "epoch": 2.7669980119284294, + "grad_norm": 1.0681432485580444, + "learning_rate": 7.411612125031415e-08, + "loss": 0.0048, + "num_input_tokens_seen": 40869296, + "step": 20877 + }, + { + "epoch": 2.7671305500331345, + "grad_norm": 3.815697431564331, + "learning_rate": 7.403224507153278e-08, + "loss": 0.0536, + "num_input_tokens_seen": 40870872, + "step": 20878 + }, + { + "epoch": 2.7672630881378395, + "grad_norm": 0.001125411712564528, + "learning_rate": 7.394841566708333e-08, + "loss": 0.0, + "num_input_tokens_seen": 40871928, + "step": 20879 + }, + { + "epoch": 2.7673956262425445, + "grad_norm": 3.9910011291503906, + "learning_rate": 7.386463303858171e-08, + "loss": 0.0243, + "num_input_tokens_seen": 40873616, + "step": 20880 + }, + { + "epoch": 2.76752816434725, + "grad_norm": 1.0161473751068115, + "learning_rate": 7.378089718764386e-08, + "loss": 0.0028, + "num_input_tokens_seen": 40875128, + "step": 20881 + }, + { + "epoch": 2.767660702451955, + "grad_norm": 6.072625160217285, + "learning_rate": 7.369720811588405e-08, + "loss": 0.0427, + "num_input_tokens_seen": 40876864, + "step": 20882 + }, + { + "epoch": 2.76779324055666, + "grad_norm": 9.03811264038086, + "learning_rate": 7.361356582491596e-08, + "loss": 0.0916, + "num_input_tokens_seen": 40878352, + "step": 20883 + }, + { + "epoch": 2.767925778661365, + "grad_norm": 3.590909242630005, + "learning_rate": 7.352997031635223e-08, + "loss": 0.0342, + "num_input_tokens_seen": 40880872, + "step": 20884 + }, + { + "epoch": 2.76805831676607, + "grad_norm": 3.073624849319458, + "learning_rate": 7.34464215918046e-08, + "loss": 0.0098, + "num_input_tokens_seen": 40882824, + "step": 20885 + }, + { + "epoch": 2.768190854870775, + "grad_norm": 1.668739676475525, + "learning_rate": 7.336291965288372e-08, + "loss": 0.0082, + "num_input_tokens_seen": 40884744, + "step": 20886 + }, + { + "epoch": 2.7683233929754802, + "grad_norm": 5.776982307434082, + "learning_rate": 7.327946450119999e-08, + "loss": 0.2135, + "num_input_tokens_seen": 40886432, + "step": 20887 + }, + { + "epoch": 2.7684559310801857, + "grad_norm": 17.412174224853516, + "learning_rate": 7.319605613836239e-08, + "loss": 0.167, + "num_input_tokens_seen": 40889000, + "step": 20888 + }, + { + "epoch": 2.7685884691848908, + "grad_norm": 0.002139165299013257, + "learning_rate": 7.31126945659788e-08, + "loss": 0.0, + "num_input_tokens_seen": 40890464, + "step": 20889 + }, + { + "epoch": 2.768721007289596, + "grad_norm": 5.644901752471924, + "learning_rate": 7.302937978565683e-08, + "loss": 0.0466, + "num_input_tokens_seen": 40892568, + "step": 20890 + }, + { + "epoch": 2.768853545394301, + "grad_norm": 0.024387791752815247, + "learning_rate": 7.294611179900297e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40893920, + "step": 20891 + }, + { + "epoch": 2.768986083499006, + "grad_norm": 0.035539500415325165, + "learning_rate": 7.286289060762175e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40896656, + "step": 20892 + }, + { + "epoch": 2.769118621603711, + "grad_norm": 0.0007234837394207716, + "learning_rate": 7.277971621311858e-08, + "loss": 0.0, + "num_input_tokens_seen": 40897744, + "step": 20893 + }, + { + "epoch": 2.769251159708416, + "grad_norm": 12.200126647949219, + "learning_rate": 7.269658861709717e-08, + "loss": 0.0584, + "num_input_tokens_seen": 40899296, + "step": 20894 + }, + { + "epoch": 2.7693836978131214, + "grad_norm": 0.021504683420062065, + "learning_rate": 7.261350782116012e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40900792, + "step": 20895 + }, + { + "epoch": 2.7695162359178265, + "grad_norm": 0.015467756427824497, + "learning_rate": 7.25304738269092e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40902688, + "step": 20896 + }, + { + "epoch": 2.7696487740225315, + "grad_norm": 1.2827223539352417, + "learning_rate": 7.244748663594509e-08, + "loss": 0.0023, + "num_input_tokens_seen": 40904528, + "step": 20897 + }, + { + "epoch": 2.7697813121272365, + "grad_norm": 4.967916965484619, + "learning_rate": 7.236454624986816e-08, + "loss": 0.0251, + "num_input_tokens_seen": 40906280, + "step": 20898 + }, + { + "epoch": 2.7699138502319416, + "grad_norm": 0.008002682588994503, + "learning_rate": 7.228165267027743e-08, + "loss": 0.0, + "num_input_tokens_seen": 40907544, + "step": 20899 + }, + { + "epoch": 2.7700463883366466, + "grad_norm": 0.13958871364593506, + "learning_rate": 7.219880589877159e-08, + "loss": 0.0008, + "num_input_tokens_seen": 40909144, + "step": 20900 + }, + { + "epoch": 2.7701789264413517, + "grad_norm": 9.278409004211426, + "learning_rate": 7.211600593694745e-08, + "loss": 0.1496, + "num_input_tokens_seen": 40911640, + "step": 20901 + }, + { + "epoch": 2.770311464546057, + "grad_norm": 0.06530249118804932, + "learning_rate": 7.20332527864015e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40913104, + "step": 20902 + }, + { + "epoch": 2.770444002650762, + "grad_norm": 2.7947771549224854, + "learning_rate": 7.195054644872968e-08, + "loss": 0.0236, + "num_input_tokens_seen": 40915496, + "step": 20903 + }, + { + "epoch": 2.770576540755467, + "grad_norm": 10.681421279907227, + "learning_rate": 7.186788692552626e-08, + "loss": 0.0613, + "num_input_tokens_seen": 40917552, + "step": 20904 + }, + { + "epoch": 2.7707090788601723, + "grad_norm": 0.03688772767782211, + "learning_rate": 7.178527421838471e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40919312, + "step": 20905 + }, + { + "epoch": 2.7708416169648773, + "grad_norm": 10.164468765258789, + "learning_rate": 7.170270832889875e-08, + "loss": 0.0447, + "num_input_tokens_seen": 40920920, + "step": 20906 + }, + { + "epoch": 2.770974155069583, + "grad_norm": 2.313426971435547, + "learning_rate": 7.16201892586596e-08, + "loss": 0.0384, + "num_input_tokens_seen": 40922656, + "step": 20907 + }, + { + "epoch": 2.7711066931742874, + "grad_norm": 0.006964238826185465, + "learning_rate": 7.153771700925821e-08, + "loss": 0.0, + "num_input_tokens_seen": 40924840, + "step": 20908 + }, + { + "epoch": 2.771239231278993, + "grad_norm": 11.521326065063477, + "learning_rate": 7.145529158228525e-08, + "loss": 0.1032, + "num_input_tokens_seen": 40926456, + "step": 20909 + }, + { + "epoch": 2.771371769383698, + "grad_norm": 0.06942639499902725, + "learning_rate": 7.13729129793292e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40928096, + "step": 20910 + }, + { + "epoch": 2.771504307488403, + "grad_norm": 9.1969633102417, + "learning_rate": 7.12905812019793e-08, + "loss": 0.0378, + "num_input_tokens_seen": 40930856, + "step": 20911 + }, + { + "epoch": 2.771636845593108, + "grad_norm": 9.78416919708252, + "learning_rate": 7.120829625182235e-08, + "loss": 0.0876, + "num_input_tokens_seen": 40932688, + "step": 20912 + }, + { + "epoch": 2.771769383697813, + "grad_norm": 4.0840840339660645, + "learning_rate": 7.112605813044459e-08, + "loss": 0.0267, + "num_input_tokens_seen": 40935208, + "step": 20913 + }, + { + "epoch": 2.7719019218025185, + "grad_norm": 2.2518157958984375, + "learning_rate": 7.104386683943253e-08, + "loss": 0.01, + "num_input_tokens_seen": 40936552, + "step": 20914 + }, + { + "epoch": 2.772034459907223, + "grad_norm": 0.03784725442528725, + "learning_rate": 7.096172238037018e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40939064, + "step": 20915 + }, + { + "epoch": 2.7721669980119286, + "grad_norm": 1.79575777053833, + "learning_rate": 7.087962475484156e-08, + "loss": 0.0144, + "num_input_tokens_seen": 40941840, + "step": 20916 + }, + { + "epoch": 2.7722995361166336, + "grad_norm": 0.2588895559310913, + "learning_rate": 7.079757396442954e-08, + "loss": 0.0012, + "num_input_tokens_seen": 40943616, + "step": 20917 + }, + { + "epoch": 2.7724320742213386, + "grad_norm": 0.004944967571645975, + "learning_rate": 7.071557001071594e-08, + "loss": 0.0, + "num_input_tokens_seen": 40945016, + "step": 20918 + }, + { + "epoch": 2.7725646123260437, + "grad_norm": 0.021314293146133423, + "learning_rate": 7.063361289528225e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40946856, + "step": 20919 + }, + { + "epoch": 2.7726971504307487, + "grad_norm": 2.8499176502227783, + "learning_rate": 7.055170261970861e-08, + "loss": 0.0124, + "num_input_tokens_seen": 40948608, + "step": 20920 + }, + { + "epoch": 2.772829688535454, + "grad_norm": 7.742518424987793, + "learning_rate": 7.046983918557377e-08, + "loss": 0.0411, + "num_input_tokens_seen": 40950288, + "step": 20921 + }, + { + "epoch": 2.772962226640159, + "grad_norm": 0.006479662377387285, + "learning_rate": 7.038802259445643e-08, + "loss": 0.0, + "num_input_tokens_seen": 40951704, + "step": 20922 + }, + { + "epoch": 2.7730947647448643, + "grad_norm": 0.48367395997047424, + "learning_rate": 7.030625284793424e-08, + "loss": 0.0029, + "num_input_tokens_seen": 40953320, + "step": 20923 + }, + { + "epoch": 2.7732273028495693, + "grad_norm": 0.9125158190727234, + "learning_rate": 7.022452994758372e-08, + "loss": 0.0028, + "num_input_tokens_seen": 40955176, + "step": 20924 + }, + { + "epoch": 2.7733598409542743, + "grad_norm": 0.6000428199768066, + "learning_rate": 7.014285389498055e-08, + "loss": 0.002, + "num_input_tokens_seen": 40956960, + "step": 20925 + }, + { + "epoch": 2.7734923790589794, + "grad_norm": 0.008195624686777592, + "learning_rate": 7.006122469169957e-08, + "loss": 0.0, + "num_input_tokens_seen": 40958472, + "step": 20926 + }, + { + "epoch": 2.7736249171636844, + "grad_norm": 4.389254570007324, + "learning_rate": 6.997964233931426e-08, + "loss": 0.0439, + "num_input_tokens_seen": 40960416, + "step": 20927 + }, + { + "epoch": 2.77375745526839, + "grad_norm": 20.38875961303711, + "learning_rate": 6.98981068393978e-08, + "loss": 1.0028, + "num_input_tokens_seen": 40963448, + "step": 20928 + }, + { + "epoch": 2.7738899933730945, + "grad_norm": 17.16028594970703, + "learning_rate": 6.981661819352197e-08, + "loss": 0.1438, + "num_input_tokens_seen": 40966440, + "step": 20929 + }, + { + "epoch": 2.7740225314778, + "grad_norm": 0.0930047258734703, + "learning_rate": 6.973517640325889e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40969664, + "step": 20930 + }, + { + "epoch": 2.774155069582505, + "grad_norm": 4.141513347625732, + "learning_rate": 6.965378147017782e-08, + "loss": 0.0135, + "num_input_tokens_seen": 40972504, + "step": 20931 + }, + { + "epoch": 2.77428760768721, + "grad_norm": 13.593473434448242, + "learning_rate": 6.957243339584862e-08, + "loss": 0.3344, + "num_input_tokens_seen": 40975432, + "step": 20932 + }, + { + "epoch": 2.774420145791915, + "grad_norm": 0.00039170836680568755, + "learning_rate": 6.949113218183923e-08, + "loss": 0.0, + "num_input_tokens_seen": 40976400, + "step": 20933 + }, + { + "epoch": 2.77455268389662, + "grad_norm": 0.09563025832176208, + "learning_rate": 6.940987782971781e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40977664, + "step": 20934 + }, + { + "epoch": 2.7746852220013256, + "grad_norm": 9.69224739074707, + "learning_rate": 6.932867034105062e-08, + "loss": 0.1041, + "num_input_tokens_seen": 40979776, + "step": 20935 + }, + { + "epoch": 2.77481776010603, + "grad_norm": 0.01672360673546791, + "learning_rate": 6.924750971740363e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40982360, + "step": 20936 + }, + { + "epoch": 2.7749502982107357, + "grad_norm": 0.054197996854782104, + "learning_rate": 6.91663959603417e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40984832, + "step": 20937 + }, + { + "epoch": 2.7750828363154407, + "grad_norm": 1.2980748414993286, + "learning_rate": 6.908532907142829e-08, + "loss": 0.003, + "num_input_tokens_seen": 40986464, + "step": 20938 + }, + { + "epoch": 2.7752153744201458, + "grad_norm": 0.8785792589187622, + "learning_rate": 6.90043090522266e-08, + "loss": 0.0022, + "num_input_tokens_seen": 40987720, + "step": 20939 + }, + { + "epoch": 2.775347912524851, + "grad_norm": 0.016567552462220192, + "learning_rate": 6.8923335904299e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40989208, + "step": 20940 + }, + { + "epoch": 2.775480450629556, + "grad_norm": 0.0059869615361094475, + "learning_rate": 6.884240962920674e-08, + "loss": 0.0, + "num_input_tokens_seen": 40990984, + "step": 20941 + }, + { + "epoch": 2.7756129887342613, + "grad_norm": 0.003520689904689789, + "learning_rate": 6.876153022851023e-08, + "loss": 0.0, + "num_input_tokens_seen": 40993672, + "step": 20942 + }, + { + "epoch": 2.7757455268389664, + "grad_norm": 0.013717461377382278, + "learning_rate": 6.868069770376823e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40995248, + "step": 20943 + }, + { + "epoch": 2.7758780649436714, + "grad_norm": 0.04156718775629997, + "learning_rate": 6.859991205653976e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40997632, + "step": 20944 + }, + { + "epoch": 2.7760106030483764, + "grad_norm": 9.642149925231934, + "learning_rate": 6.851917328838248e-08, + "loss": 0.2821, + "num_input_tokens_seen": 40999312, + "step": 20945 + }, + { + "epoch": 2.7761431411530815, + "grad_norm": 1.878269910812378, + "learning_rate": 6.843848140085263e-08, + "loss": 0.0242, + "num_input_tokens_seen": 41001688, + "step": 20946 + }, + { + "epoch": 2.7762756792577865, + "grad_norm": 0.007642155978828669, + "learning_rate": 6.835783639550647e-08, + "loss": 0.0, + "num_input_tokens_seen": 41004504, + "step": 20947 + }, + { + "epoch": 2.7764082173624915, + "grad_norm": 6.041691303253174, + "learning_rate": 6.827723827389888e-08, + "loss": 0.1587, + "num_input_tokens_seen": 41006464, + "step": 20948 + }, + { + "epoch": 2.776540755467197, + "grad_norm": 0.08418311178684235, + "learning_rate": 6.81966870375833e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41008680, + "step": 20949 + }, + { + "epoch": 2.776673293571902, + "grad_norm": 0.005496255587786436, + "learning_rate": 6.811618268811381e-08, + "loss": 0.0, + "num_input_tokens_seen": 41010008, + "step": 20950 + }, + { + "epoch": 2.776805831676607, + "grad_norm": 0.012865745462477207, + "learning_rate": 6.803572522704166e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41011872, + "step": 20951 + }, + { + "epoch": 2.776938369781312, + "grad_norm": 10.924593925476074, + "learning_rate": 6.795531465591838e-08, + "loss": 0.0895, + "num_input_tokens_seen": 41014808, + "step": 20952 + }, + { + "epoch": 2.777070907886017, + "grad_norm": 1.9252498149871826, + "learning_rate": 6.787495097629438e-08, + "loss": 0.0165, + "num_input_tokens_seen": 41016424, + "step": 20953 + }, + { + "epoch": 2.777203445990722, + "grad_norm": 0.0039898911491036415, + "learning_rate": 6.779463418971926e-08, + "loss": 0.0, + "num_input_tokens_seen": 41018072, + "step": 20954 + }, + { + "epoch": 2.7773359840954273, + "grad_norm": 3.61431884765625, + "learning_rate": 6.771436429774153e-08, + "loss": 0.0196, + "num_input_tokens_seen": 41020376, + "step": 20955 + }, + { + "epoch": 2.7774685222001327, + "grad_norm": 0.003355487948283553, + "learning_rate": 6.763414130190882e-08, + "loss": 0.0, + "num_input_tokens_seen": 41021840, + "step": 20956 + }, + { + "epoch": 2.7776010603048378, + "grad_norm": 10.288333892822266, + "learning_rate": 6.755396520376794e-08, + "loss": 0.116, + "num_input_tokens_seen": 41023656, + "step": 20957 + }, + { + "epoch": 2.777733598409543, + "grad_norm": 11.278108596801758, + "learning_rate": 6.747383600486435e-08, + "loss": 0.114, + "num_input_tokens_seen": 41025544, + "step": 20958 + }, + { + "epoch": 2.777866136514248, + "grad_norm": 0.0066740806214511395, + "learning_rate": 6.739375370674317e-08, + "loss": 0.0, + "num_input_tokens_seen": 41027352, + "step": 20959 + }, + { + "epoch": 2.777998674618953, + "grad_norm": 14.183767318725586, + "learning_rate": 6.731371831094901e-08, + "loss": 0.0629, + "num_input_tokens_seen": 41029024, + "step": 20960 + }, + { + "epoch": 2.778131212723658, + "grad_norm": 0.0038550645112991333, + "learning_rate": 6.723372981902481e-08, + "loss": 0.0, + "num_input_tokens_seen": 41030304, + "step": 20961 + }, + { + "epoch": 2.778263750828363, + "grad_norm": 0.11425229161977768, + "learning_rate": 6.715378823251212e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41032240, + "step": 20962 + }, + { + "epoch": 2.7783962889330684, + "grad_norm": 11.547921180725098, + "learning_rate": 6.707389355295273e-08, + "loss": 0.0341, + "num_input_tokens_seen": 41034352, + "step": 20963 + }, + { + "epoch": 2.7785288270377735, + "grad_norm": 0.7887674570083618, + "learning_rate": 6.69940457818874e-08, + "loss": 0.005, + "num_input_tokens_seen": 41035840, + "step": 20964 + }, + { + "epoch": 2.7786613651424785, + "grad_norm": 0.02141967974603176, + "learning_rate": 6.691424492085486e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41038048, + "step": 20965 + }, + { + "epoch": 2.7787939032471836, + "grad_norm": 0.21203473210334778, + "learning_rate": 6.683449097139471e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41039888, + "step": 20966 + }, + { + "epoch": 2.7789264413518886, + "grad_norm": 14.88135051727295, + "learning_rate": 6.675478393504381e-08, + "loss": 0.2256, + "num_input_tokens_seen": 41042184, + "step": 20967 + }, + { + "epoch": 2.7790589794565936, + "grad_norm": 0.012147413566708565, + "learning_rate": 6.667512381333951e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41044184, + "step": 20968 + }, + { + "epoch": 2.7791915175612987, + "grad_norm": 9.570160865783691, + "learning_rate": 6.659551060781699e-08, + "loss": 0.0594, + "num_input_tokens_seen": 41045856, + "step": 20969 + }, + { + "epoch": 2.779324055666004, + "grad_norm": 0.04716145992279053, + "learning_rate": 6.651594432001197e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41047144, + "step": 20970 + }, + { + "epoch": 2.779456593770709, + "grad_norm": 18.108707427978516, + "learning_rate": 6.643642495145847e-08, + "loss": 0.078, + "num_input_tokens_seen": 41049832, + "step": 20971 + }, + { + "epoch": 2.7795891318754142, + "grad_norm": 0.04913478344678879, + "learning_rate": 6.635695250368945e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41052064, + "step": 20972 + }, + { + "epoch": 2.7797216699801193, + "grad_norm": 6.319462776184082, + "learning_rate": 6.627752697823758e-08, + "loss": 0.0428, + "num_input_tokens_seen": 41053824, + "step": 20973 + }, + { + "epoch": 2.7798542080848243, + "grad_norm": 2.920759916305542, + "learning_rate": 6.619814837663357e-08, + "loss": 0.0215, + "num_input_tokens_seen": 41055656, + "step": 20974 + }, + { + "epoch": 2.7799867461895293, + "grad_norm": 0.05145959183573723, + "learning_rate": 6.611881670040815e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41057384, + "step": 20975 + }, + { + "epoch": 2.7801192842942344, + "grad_norm": 0.014735309407114983, + "learning_rate": 6.603953195109119e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41058728, + "step": 20976 + }, + { + "epoch": 2.78025182239894, + "grad_norm": 0.008051185868680477, + "learning_rate": 6.596029413021121e-08, + "loss": 0.0, + "num_input_tokens_seen": 41060328, + "step": 20977 + }, + { + "epoch": 2.780384360503645, + "grad_norm": 0.14655928313732147, + "learning_rate": 6.588110323929586e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41062072, + "step": 20978 + }, + { + "epoch": 2.78051689860835, + "grad_norm": 1.7804315090179443, + "learning_rate": 6.580195927987199e-08, + "loss": 0.0075, + "num_input_tokens_seen": 41063224, + "step": 20979 + }, + { + "epoch": 2.780649436713055, + "grad_norm": 0.5162862539291382, + "learning_rate": 6.572286225346558e-08, + "loss": 0.0028, + "num_input_tokens_seen": 41064680, + "step": 20980 + }, + { + "epoch": 2.78078197481776, + "grad_norm": 7.215555191040039, + "learning_rate": 6.564381216160181e-08, + "loss": 0.0704, + "num_input_tokens_seen": 41066296, + "step": 20981 + }, + { + "epoch": 2.780914512922465, + "grad_norm": 5.670719146728516, + "learning_rate": 6.556480900580448e-08, + "loss": 0.0152, + "num_input_tokens_seen": 41068880, + "step": 20982 + }, + { + "epoch": 2.78104705102717, + "grad_norm": 0.21926355361938477, + "learning_rate": 6.548585278759733e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41071256, + "step": 20983 + }, + { + "epoch": 2.7811795891318756, + "grad_norm": 7.80220365524292, + "learning_rate": 6.540694350850252e-08, + "loss": 0.153, + "num_input_tokens_seen": 41072688, + "step": 20984 + }, + { + "epoch": 2.7813121272365806, + "grad_norm": 6.4989166259765625, + "learning_rate": 6.532808117004102e-08, + "loss": 0.0674, + "num_input_tokens_seen": 41075048, + "step": 20985 + }, + { + "epoch": 2.7814446653412856, + "grad_norm": 0.36534222960472107, + "learning_rate": 6.524926577373414e-08, + "loss": 0.0016, + "num_input_tokens_seen": 41077528, + "step": 20986 + }, + { + "epoch": 2.7815772034459907, + "grad_norm": 0.174643412232399, + "learning_rate": 6.517049732110064e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41079352, + "step": 20987 + }, + { + "epoch": 2.7817097415506957, + "grad_norm": 0.062140483409166336, + "learning_rate": 6.509177581365989e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41080960, + "step": 20988 + }, + { + "epoch": 2.7818422796554008, + "grad_norm": 0.08671267330646515, + "learning_rate": 6.501310125292953e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41082728, + "step": 20989 + }, + { + "epoch": 2.781974817760106, + "grad_norm": 6.544454574584961, + "learning_rate": 6.493447364042643e-08, + "loss": 0.0227, + "num_input_tokens_seen": 41084568, + "step": 20990 + }, + { + "epoch": 2.7821073558648113, + "grad_norm": 6.627952575683594, + "learning_rate": 6.485589297766603e-08, + "loss": 0.0737, + "num_input_tokens_seen": 41086464, + "step": 20991 + }, + { + "epoch": 2.7822398939695163, + "grad_norm": 0.0019624680280685425, + "learning_rate": 6.477735926616436e-08, + "loss": 0.0, + "num_input_tokens_seen": 41087936, + "step": 20992 + }, + { + "epoch": 2.7823724320742214, + "grad_norm": 0.06000867113471031, + "learning_rate": 6.46988725074349e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41089320, + "step": 20993 + }, + { + "epoch": 2.7825049701789264, + "grad_norm": 9.613629341125488, + "learning_rate": 6.462043270299174e-08, + "loss": 0.0933, + "num_input_tokens_seen": 41091288, + "step": 20994 + }, + { + "epoch": 2.7826375082836314, + "grad_norm": 0.061959296464920044, + "learning_rate": 6.454203985434643e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41092800, + "step": 20995 + }, + { + "epoch": 2.782770046388337, + "grad_norm": 0.013948083855211735, + "learning_rate": 6.446369396301055e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41095352, + "step": 20996 + }, + { + "epoch": 2.7829025844930415, + "grad_norm": 6.633408546447754, + "learning_rate": 6.438539503049513e-08, + "loss": 0.0548, + "num_input_tokens_seen": 41097592, + "step": 20997 + }, + { + "epoch": 2.783035122597747, + "grad_norm": 0.3199999928474426, + "learning_rate": 6.43071430583092e-08, + "loss": 0.0015, + "num_input_tokens_seen": 41099096, + "step": 20998 + }, + { + "epoch": 2.783167660702452, + "grad_norm": 0.003453528042882681, + "learning_rate": 6.422893804796215e-08, + "loss": 0.0, + "num_input_tokens_seen": 41100520, + "step": 20999 + }, + { + "epoch": 2.783300198807157, + "grad_norm": 0.913486123085022, + "learning_rate": 6.415078000096137e-08, + "loss": 0.0018, + "num_input_tokens_seen": 41102136, + "step": 21000 + }, + { + "epoch": 2.783432736911862, + "grad_norm": 0.5370334982872009, + "learning_rate": 6.407266891881397e-08, + "loss": 0.0024, + "num_input_tokens_seen": 41104144, + "step": 21001 + }, + { + "epoch": 2.783565275016567, + "grad_norm": 0.19792629778385162, + "learning_rate": 6.399460480302599e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41105504, + "step": 21002 + }, + { + "epoch": 2.7836978131212726, + "grad_norm": 2.6696712970733643, + "learning_rate": 6.391658765510261e-08, + "loss": 0.0065, + "num_input_tokens_seen": 41106944, + "step": 21003 + }, + { + "epoch": 2.783830351225977, + "grad_norm": 0.011088461615145206, + "learning_rate": 6.383861747654818e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41109040, + "step": 21004 + }, + { + "epoch": 2.7839628893306827, + "grad_norm": 0.018623841926455498, + "learning_rate": 6.376069426886538e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41111256, + "step": 21005 + }, + { + "epoch": 2.7840954274353877, + "grad_norm": 0.08331770449876785, + "learning_rate": 6.368281803355692e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41113304, + "step": 21006 + }, + { + "epoch": 2.7842279655400928, + "grad_norm": 0.035351209342479706, + "learning_rate": 6.36049887721249e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41115184, + "step": 21007 + }, + { + "epoch": 2.784360503644798, + "grad_norm": 4.194624900817871, + "learning_rate": 6.352720648606953e-08, + "loss": 0.0173, + "num_input_tokens_seen": 41116832, + "step": 21008 + }, + { + "epoch": 2.784493041749503, + "grad_norm": 0.04171781241893768, + "learning_rate": 6.344947117689043e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41118408, + "step": 21009 + }, + { + "epoch": 2.7846255798542083, + "grad_norm": 0.028762217611074448, + "learning_rate": 6.337178284608641e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41120184, + "step": 21010 + }, + { + "epoch": 2.784758117958913, + "grad_norm": 0.1323934942483902, + "learning_rate": 6.329414149515516e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41122192, + "step": 21011 + }, + { + "epoch": 2.7848906560636184, + "grad_norm": 0.12103257328271866, + "learning_rate": 6.321654712559382e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41123800, + "step": 21012 + }, + { + "epoch": 2.7850231941683234, + "grad_norm": 4.631160259246826, + "learning_rate": 6.31389997388987e-08, + "loss": 0.0287, + "num_input_tokens_seen": 41125768, + "step": 21013 + }, + { + "epoch": 2.7851557322730285, + "grad_norm": 0.3393952548503876, + "learning_rate": 6.306149933656469e-08, + "loss": 0.001, + "num_input_tokens_seen": 41127384, + "step": 21014 + }, + { + "epoch": 2.7852882703777335, + "grad_norm": 0.04788094386458397, + "learning_rate": 6.298404592008617e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41129392, + "step": 21015 + }, + { + "epoch": 2.7854208084824386, + "grad_norm": 3.0164635181427, + "learning_rate": 6.290663949095637e-08, + "loss": 0.0414, + "num_input_tokens_seen": 41130928, + "step": 21016 + }, + { + "epoch": 2.785553346587144, + "grad_norm": 2.257233142852783, + "learning_rate": 6.282928005066773e-08, + "loss": 0.0071, + "num_input_tokens_seen": 41132136, + "step": 21017 + }, + { + "epoch": 2.7856858846918486, + "grad_norm": 1.1426843404769897, + "learning_rate": 6.275196760071212e-08, + "loss": 0.0069, + "num_input_tokens_seen": 41134312, + "step": 21018 + }, + { + "epoch": 2.785818422796554, + "grad_norm": 5.766793251037598, + "learning_rate": 6.267470214257999e-08, + "loss": 0.0566, + "num_input_tokens_seen": 41135912, + "step": 21019 + }, + { + "epoch": 2.785950960901259, + "grad_norm": 0.09359381347894669, + "learning_rate": 6.259748367776098e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41137632, + "step": 21020 + }, + { + "epoch": 2.786083499005964, + "grad_norm": 9.862256050109863, + "learning_rate": 6.252031220774391e-08, + "loss": 0.138, + "num_input_tokens_seen": 41138848, + "step": 21021 + }, + { + "epoch": 2.7862160371106692, + "grad_norm": 0.6382250189781189, + "learning_rate": 6.244318773401676e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41140416, + "step": 21022 + }, + { + "epoch": 2.7863485752153743, + "grad_norm": 0.016723182052373886, + "learning_rate": 6.23661102580661e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41141848, + "step": 21023 + }, + { + "epoch": 2.7864811133200797, + "grad_norm": 30.496265411376953, + "learning_rate": 6.22890797813791e-08, + "loss": 0.1064, + "num_input_tokens_seen": 41143696, + "step": 21024 + }, + { + "epoch": 2.786613651424785, + "grad_norm": 0.16997209191322327, + "learning_rate": 6.221209630544011e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41145048, + "step": 21025 + }, + { + "epoch": 2.78674618952949, + "grad_norm": 0.0016112951561808586, + "learning_rate": 6.21351598317338e-08, + "loss": 0.0, + "num_input_tokens_seen": 41146480, + "step": 21026 + }, + { + "epoch": 2.786878727634195, + "grad_norm": 4.7025580406188965, + "learning_rate": 6.205827036174311e-08, + "loss": 0.0475, + "num_input_tokens_seen": 41148424, + "step": 21027 + }, + { + "epoch": 2.7870112657389, + "grad_norm": 0.00173857097979635, + "learning_rate": 6.198142789695105e-08, + "loss": 0.0, + "num_input_tokens_seen": 41149456, + "step": 21028 + }, + { + "epoch": 2.787143803843605, + "grad_norm": 6.694767475128174, + "learning_rate": 6.190463243883865e-08, + "loss": 0.022, + "num_input_tokens_seen": 41151104, + "step": 21029 + }, + { + "epoch": 2.78727634194831, + "grad_norm": 0.001707921619527042, + "learning_rate": 6.182788398888722e-08, + "loss": 0.0, + "num_input_tokens_seen": 41152808, + "step": 21030 + }, + { + "epoch": 2.7874088800530155, + "grad_norm": 0.8749745488166809, + "learning_rate": 6.175118254857614e-08, + "loss": 0.0032, + "num_input_tokens_seen": 41154528, + "step": 21031 + }, + { + "epoch": 2.7875414181577205, + "grad_norm": 0.003589886473491788, + "learning_rate": 6.167452811938423e-08, + "loss": 0.0, + "num_input_tokens_seen": 41156608, + "step": 21032 + }, + { + "epoch": 2.7876739562624255, + "grad_norm": 4.973377704620361, + "learning_rate": 6.159792070278946e-08, + "loss": 0.0347, + "num_input_tokens_seen": 41158952, + "step": 21033 + }, + { + "epoch": 2.7878064943671306, + "grad_norm": 8.801827430725098, + "learning_rate": 6.152136030026928e-08, + "loss": 0.0778, + "num_input_tokens_seen": 41160904, + "step": 21034 + }, + { + "epoch": 2.7879390324718356, + "grad_norm": 4.197114944458008, + "learning_rate": 6.144484691329916e-08, + "loss": 0.0446, + "num_input_tokens_seen": 41163760, + "step": 21035 + }, + { + "epoch": 2.7880715705765406, + "grad_norm": 6.506473541259766, + "learning_rate": 6.136838054335487e-08, + "loss": 0.0874, + "num_input_tokens_seen": 41165608, + "step": 21036 + }, + { + "epoch": 2.7882041086812457, + "grad_norm": 0.02419748529791832, + "learning_rate": 6.129196119191022e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41167192, + "step": 21037 + }, + { + "epoch": 2.788336646785951, + "grad_norm": 0.007670126389712095, + "learning_rate": 6.121558886043932e-08, + "loss": 0.0, + "num_input_tokens_seen": 41168832, + "step": 21038 + }, + { + "epoch": 2.788469184890656, + "grad_norm": 0.6606788635253906, + "learning_rate": 6.113926355041406e-08, + "loss": 0.002, + "num_input_tokens_seen": 41170656, + "step": 21039 + }, + { + "epoch": 2.7886017229953612, + "grad_norm": 0.015165066346526146, + "learning_rate": 6.106298526330629e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41172280, + "step": 21040 + }, + { + "epoch": 2.7887342611000663, + "grad_norm": 9.663131713867188, + "learning_rate": 6.098675400058679e-08, + "loss": 0.1466, + "num_input_tokens_seen": 41174200, + "step": 21041 + }, + { + "epoch": 2.7888667992047713, + "grad_norm": 10.645883560180664, + "learning_rate": 6.091056976372523e-08, + "loss": 0.045, + "num_input_tokens_seen": 41176288, + "step": 21042 + }, + { + "epoch": 2.7889993373094764, + "grad_norm": 0.006707888096570969, + "learning_rate": 6.083443255419041e-08, + "loss": 0.0, + "num_input_tokens_seen": 41177504, + "step": 21043 + }, + { + "epoch": 2.7891318754141814, + "grad_norm": 0.03991345316171646, + "learning_rate": 6.075834237345062e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41179008, + "step": 21044 + }, + { + "epoch": 2.789264413518887, + "grad_norm": 2.372570276260376, + "learning_rate": 6.068229922297275e-08, + "loss": 0.0134, + "num_input_tokens_seen": 41180824, + "step": 21045 + }, + { + "epoch": 2.789396951623592, + "grad_norm": 0.7408421039581299, + "learning_rate": 6.060630310422283e-08, + "loss": 0.0054, + "num_input_tokens_seen": 41182392, + "step": 21046 + }, + { + "epoch": 2.789529489728297, + "grad_norm": 0.0022928647231310606, + "learning_rate": 6.053035401866636e-08, + "loss": 0.0, + "num_input_tokens_seen": 41184736, + "step": 21047 + }, + { + "epoch": 2.789662027833002, + "grad_norm": 0.0016083281952887774, + "learning_rate": 6.045445196776745e-08, + "loss": 0.0, + "num_input_tokens_seen": 41186016, + "step": 21048 + }, + { + "epoch": 2.789794565937707, + "grad_norm": 0.006037278566509485, + "learning_rate": 6.037859695298964e-08, + "loss": 0.0, + "num_input_tokens_seen": 41187840, + "step": 21049 + }, + { + "epoch": 2.789927104042412, + "grad_norm": 0.0038180644623935223, + "learning_rate": 6.030278897579567e-08, + "loss": 0.0, + "num_input_tokens_seen": 41189240, + "step": 21050 + }, + { + "epoch": 2.790059642147117, + "grad_norm": 0.0028970923740416765, + "learning_rate": 6.022702803764685e-08, + "loss": 0.0, + "num_input_tokens_seen": 41190576, + "step": 21051 + }, + { + "epoch": 2.7901921802518226, + "grad_norm": 0.03345775976777077, + "learning_rate": 6.015131414000397e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41191768, + "step": 21052 + }, + { + "epoch": 2.7903247183565276, + "grad_norm": 0.4801238775253296, + "learning_rate": 6.007564728432669e-08, + "loss": 0.0012, + "num_input_tokens_seen": 41194200, + "step": 21053 + }, + { + "epoch": 2.7904572564612327, + "grad_norm": 0.0259841438382864, + "learning_rate": 6.000002747207468e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41196000, + "step": 21054 + }, + { + "epoch": 2.7905897945659377, + "grad_norm": 0.18014776706695557, + "learning_rate": 5.992445470470537e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41197592, + "step": 21055 + }, + { + "epoch": 2.7907223326706427, + "grad_norm": 0.006258269306272268, + "learning_rate": 5.984892898367567e-08, + "loss": 0.0, + "num_input_tokens_seen": 41198768, + "step": 21056 + }, + { + "epoch": 2.7908548707753478, + "grad_norm": 5.35130500793457, + "learning_rate": 5.977345031044219e-08, + "loss": 0.2189, + "num_input_tokens_seen": 41201680, + "step": 21057 + }, + { + "epoch": 2.790987408880053, + "grad_norm": 0.01256349217146635, + "learning_rate": 5.969801868645958e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41204120, + "step": 21058 + }, + { + "epoch": 2.7911199469847583, + "grad_norm": 4.266199588775635, + "learning_rate": 5.96226341131828e-08, + "loss": 0.0224, + "num_input_tokens_seen": 41206392, + "step": 21059 + }, + { + "epoch": 2.7912524850894633, + "grad_norm": 28.84193229675293, + "learning_rate": 5.954729659206543e-08, + "loss": 0.4753, + "num_input_tokens_seen": 41209168, + "step": 21060 + }, + { + "epoch": 2.7913850231941684, + "grad_norm": 10.301603317260742, + "learning_rate": 5.947200612455961e-08, + "loss": 0.0526, + "num_input_tokens_seen": 41210424, + "step": 21061 + }, + { + "epoch": 2.7915175612988734, + "grad_norm": 6.536253452301025, + "learning_rate": 5.939676271211725e-08, + "loss": 0.0659, + "num_input_tokens_seen": 41212264, + "step": 21062 + }, + { + "epoch": 2.7916500994035784, + "grad_norm": 0.04836488142609596, + "learning_rate": 5.9321566356188856e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41213832, + "step": 21063 + }, + { + "epoch": 2.7917826375082835, + "grad_norm": 5.425322532653809, + "learning_rate": 5.9246417058224645e-08, + "loss": 0.0165, + "num_input_tokens_seen": 41215776, + "step": 21064 + }, + { + "epoch": 2.7919151756129885, + "grad_norm": 8.702264785766602, + "learning_rate": 5.917131481967292e-08, + "loss": 0.1585, + "num_input_tokens_seen": 41217144, + "step": 21065 + }, + { + "epoch": 2.792047713717694, + "grad_norm": 19.054758071899414, + "learning_rate": 5.9096259641982234e-08, + "loss": 0.0849, + "num_input_tokens_seen": 41219560, + "step": 21066 + }, + { + "epoch": 2.792180251822399, + "grad_norm": 5.8528313636779785, + "learning_rate": 5.902125152659977e-08, + "loss": 0.0227, + "num_input_tokens_seen": 41222208, + "step": 21067 + }, + { + "epoch": 2.792312789927104, + "grad_norm": 0.0013631965266540647, + "learning_rate": 5.894629047497102e-08, + "loss": 0.0, + "num_input_tokens_seen": 41223472, + "step": 21068 + }, + { + "epoch": 2.792445328031809, + "grad_norm": 6.5479350090026855, + "learning_rate": 5.887137648854235e-08, + "loss": 0.0461, + "num_input_tokens_seen": 41225312, + "step": 21069 + }, + { + "epoch": 2.792577866136514, + "grad_norm": 3.0046913623809814, + "learning_rate": 5.879650956875704e-08, + "loss": 0.0311, + "num_input_tokens_seen": 41227288, + "step": 21070 + }, + { + "epoch": 2.792710404241219, + "grad_norm": 0.004020113032311201, + "learning_rate": 5.872168971705949e-08, + "loss": 0.0, + "num_input_tokens_seen": 41228664, + "step": 21071 + }, + { + "epoch": 2.7928429423459242, + "grad_norm": 4.783579349517822, + "learning_rate": 5.864691693489216e-08, + "loss": 0.1455, + "num_input_tokens_seen": 41230976, + "step": 21072 + }, + { + "epoch": 2.7929754804506297, + "grad_norm": 0.011726445518434048, + "learning_rate": 5.857219122369584e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41233696, + "step": 21073 + }, + { + "epoch": 2.7931080185553347, + "grad_norm": 18.745065689086914, + "learning_rate": 5.849751258491243e-08, + "loss": 0.1397, + "num_input_tokens_seen": 41235264, + "step": 21074 + }, + { + "epoch": 2.79324055666004, + "grad_norm": 10.672466278076172, + "learning_rate": 5.842288101998106e-08, + "loss": 0.1801, + "num_input_tokens_seen": 41237632, + "step": 21075 + }, + { + "epoch": 2.793373094764745, + "grad_norm": 6.761448383331299, + "learning_rate": 5.834829653034085e-08, + "loss": 0.1107, + "num_input_tokens_seen": 41239984, + "step": 21076 + }, + { + "epoch": 2.79350563286945, + "grad_norm": 4.067572593688965, + "learning_rate": 5.827375911743011e-08, + "loss": 0.0257, + "num_input_tokens_seen": 41242088, + "step": 21077 + }, + { + "epoch": 2.7936381709741553, + "grad_norm": 8.263463973999023, + "learning_rate": 5.8199268782685724e-08, + "loss": 0.0641, + "num_input_tokens_seen": 41244496, + "step": 21078 + }, + { + "epoch": 2.79377070907886, + "grad_norm": 0.0018659187480807304, + "learning_rate": 5.812482552754378e-08, + "loss": 0.0, + "num_input_tokens_seen": 41246264, + "step": 21079 + }, + { + "epoch": 2.7939032471835654, + "grad_norm": 14.75499439239502, + "learning_rate": 5.80504293534398e-08, + "loss": 0.1684, + "num_input_tokens_seen": 41248768, + "step": 21080 + }, + { + "epoch": 2.7940357852882705, + "grad_norm": 5.678816795349121, + "learning_rate": 5.7976080261808456e-08, + "loss": 0.0192, + "num_input_tokens_seen": 41251192, + "step": 21081 + }, + { + "epoch": 2.7941683233929755, + "grad_norm": 0.04435134306550026, + "learning_rate": 5.7901778254082495e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41252600, + "step": 21082 + }, + { + "epoch": 2.7943008614976805, + "grad_norm": 0.01724880561232567, + "learning_rate": 5.782752333169522e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41254024, + "step": 21083 + }, + { + "epoch": 2.7944333996023856, + "grad_norm": 6.973931789398193, + "learning_rate": 5.775331549607799e-08, + "loss": 0.0548, + "num_input_tokens_seen": 41256040, + "step": 21084 + }, + { + "epoch": 2.794565937707091, + "grad_norm": 7.36980676651001, + "learning_rate": 5.767915474866159e-08, + "loss": 0.1465, + "num_input_tokens_seen": 41258208, + "step": 21085 + }, + { + "epoch": 2.7946984758117956, + "grad_norm": 6.036591529846191, + "learning_rate": 5.760504109087628e-08, + "loss": 0.0708, + "num_input_tokens_seen": 41259800, + "step": 21086 + }, + { + "epoch": 2.794831013916501, + "grad_norm": 4.778675556182861, + "learning_rate": 5.753097452415063e-08, + "loss": 0.0308, + "num_input_tokens_seen": 41261512, + "step": 21087 + }, + { + "epoch": 2.794963552021206, + "grad_norm": 0.6089677214622498, + "learning_rate": 5.745695504991239e-08, + "loss": 0.0023, + "num_input_tokens_seen": 41264016, + "step": 21088 + }, + { + "epoch": 2.795096090125911, + "grad_norm": 4.966409683227539, + "learning_rate": 5.738298266958903e-08, + "loss": 0.025, + "num_input_tokens_seen": 41265792, + "step": 21089 + }, + { + "epoch": 2.7952286282306162, + "grad_norm": 0.11304580420255661, + "learning_rate": 5.7309057384607184e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41267536, + "step": 21090 + }, + { + "epoch": 2.7953611663353213, + "grad_norm": 8.519670486450195, + "learning_rate": 5.723517919639182e-08, + "loss": 0.0351, + "num_input_tokens_seen": 41269704, + "step": 21091 + }, + { + "epoch": 2.7954937044400268, + "grad_norm": 0.012391739524900913, + "learning_rate": 5.716134810636736e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41271848, + "step": 21092 + }, + { + "epoch": 2.7956262425447314, + "grad_norm": 4.687692165374756, + "learning_rate": 5.708756411595712e-08, + "loss": 0.0194, + "num_input_tokens_seen": 41273552, + "step": 21093 + }, + { + "epoch": 2.795758780649437, + "grad_norm": 0.19010545313358307, + "learning_rate": 5.7013827226584104e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41275032, + "step": 21094 + }, + { + "epoch": 2.795891318754142, + "grad_norm": 0.004423375241458416, + "learning_rate": 5.6940137439669974e-08, + "loss": 0.0, + "num_input_tokens_seen": 41276496, + "step": 21095 + }, + { + "epoch": 2.796023856858847, + "grad_norm": 3.5739452838897705, + "learning_rate": 5.686649475663525e-08, + "loss": 0.0097, + "num_input_tokens_seen": 41279376, + "step": 21096 + }, + { + "epoch": 2.796156394963552, + "grad_norm": 0.06174447759985924, + "learning_rate": 5.6792899178899905e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41281744, + "step": 21097 + }, + { + "epoch": 2.796288933068257, + "grad_norm": 2.365490674972534, + "learning_rate": 5.6719350707883095e-08, + "loss": 0.0073, + "num_input_tokens_seen": 41283520, + "step": 21098 + }, + { + "epoch": 2.7964214711729625, + "grad_norm": 0.046070653945207596, + "learning_rate": 5.664584934500228e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41285160, + "step": 21099 + }, + { + "epoch": 2.796554009277667, + "grad_norm": 4.9522318840026855, + "learning_rate": 5.6572395091675225e-08, + "loss": 0.1332, + "num_input_tokens_seen": 41287120, + "step": 21100 + }, + { + "epoch": 2.7966865473823725, + "grad_norm": 11.270883560180664, + "learning_rate": 5.64989879493183e-08, + "loss": 0.1348, + "num_input_tokens_seen": 41289152, + "step": 21101 + }, + { + "epoch": 2.7968190854870776, + "grad_norm": 1.6935293674468994, + "learning_rate": 5.6425627919346746e-08, + "loss": 0.0112, + "num_input_tokens_seen": 41290616, + "step": 21102 + }, + { + "epoch": 2.7969516235917826, + "grad_norm": 8.659612655639648, + "learning_rate": 5.635231500317445e-08, + "loss": 0.1384, + "num_input_tokens_seen": 41292912, + "step": 21103 + }, + { + "epoch": 2.7970841616964877, + "grad_norm": 9.90807056427002, + "learning_rate": 5.6279049202215553e-08, + "loss": 0.1649, + "num_input_tokens_seen": 41295760, + "step": 21104 + }, + { + "epoch": 2.7972166998011927, + "grad_norm": 3.3314456939697266, + "learning_rate": 5.620583051788198e-08, + "loss": 0.0261, + "num_input_tokens_seen": 41297728, + "step": 21105 + }, + { + "epoch": 2.797349237905898, + "grad_norm": 7.96833610534668, + "learning_rate": 5.613265895158621e-08, + "loss": 0.0752, + "num_input_tokens_seen": 41300112, + "step": 21106 + }, + { + "epoch": 2.7974817760106028, + "grad_norm": 0.2128216177225113, + "learning_rate": 5.605953450473878e-08, + "loss": 0.001, + "num_input_tokens_seen": 41301680, + "step": 21107 + }, + { + "epoch": 2.7976143141153083, + "grad_norm": 5.336821556091309, + "learning_rate": 5.5986457178749395e-08, + "loss": 0.0091, + "num_input_tokens_seen": 41304136, + "step": 21108 + }, + { + "epoch": 2.7977468522200133, + "grad_norm": 0.013649891130626202, + "learning_rate": 5.591342697502722e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41306096, + "step": 21109 + }, + { + "epoch": 2.7978793903247183, + "grad_norm": 0.033881302922964096, + "learning_rate": 5.584044389498e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41307648, + "step": 21110 + }, + { + "epoch": 2.7980119284294234, + "grad_norm": 0.006086244247853756, + "learning_rate": 5.576750794001551e-08, + "loss": 0.0, + "num_input_tokens_seen": 41310032, + "step": 21111 + }, + { + "epoch": 2.7981444665341284, + "grad_norm": 5.599295616149902, + "learning_rate": 5.569461911153928e-08, + "loss": 0.1362, + "num_input_tokens_seen": 41311648, + "step": 21112 + }, + { + "epoch": 2.798277004638834, + "grad_norm": 0.0022967602126300335, + "learning_rate": 5.562177741095742e-08, + "loss": 0.0, + "num_input_tokens_seen": 41313176, + "step": 21113 + }, + { + "epoch": 2.798409542743539, + "grad_norm": 0.0066515132784843445, + "learning_rate": 5.5548982839673803e-08, + "loss": 0.0, + "num_input_tokens_seen": 41314688, + "step": 21114 + }, + { + "epoch": 2.798542080848244, + "grad_norm": 0.22072042524814606, + "learning_rate": 5.5476235399092026e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41316232, + "step": 21115 + }, + { + "epoch": 2.798674618952949, + "grad_norm": 4.813520431518555, + "learning_rate": 5.540353509061513e-08, + "loss": 0.0683, + "num_input_tokens_seen": 41320200, + "step": 21116 + }, + { + "epoch": 2.798807157057654, + "grad_norm": 0.03269220143556595, + "learning_rate": 5.533088191564423e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41322080, + "step": 21117 + }, + { + "epoch": 2.798939695162359, + "grad_norm": 3.635256052017212, + "learning_rate": 5.5258275875580415e-08, + "loss": 0.0115, + "num_input_tokens_seen": 41324184, + "step": 21118 + }, + { + "epoch": 2.799072233267064, + "grad_norm": 13.741676330566406, + "learning_rate": 5.518571697182395e-08, + "loss": 0.0822, + "num_input_tokens_seen": 41326496, + "step": 21119 + }, + { + "epoch": 2.7992047713717696, + "grad_norm": 0.18275916576385498, + "learning_rate": 5.5113205205772905e-08, + "loss": 0.0015, + "num_input_tokens_seen": 41329088, + "step": 21120 + }, + { + "epoch": 2.7993373094764746, + "grad_norm": 6.986661434173584, + "learning_rate": 5.504074057882641e-08, + "loss": 0.0361, + "num_input_tokens_seen": 41330992, + "step": 21121 + }, + { + "epoch": 2.7994698475811797, + "grad_norm": 2.232555627822876, + "learning_rate": 5.496832309238087e-08, + "loss": 0.0089, + "num_input_tokens_seen": 41333232, + "step": 21122 + }, + { + "epoch": 2.7996023856858847, + "grad_norm": 0.01850157231092453, + "learning_rate": 5.489595274783266e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41335448, + "step": 21123 + }, + { + "epoch": 2.7997349237905897, + "grad_norm": 0.04674866795539856, + "learning_rate": 5.482362954657761e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41337472, + "step": 21124 + }, + { + "epoch": 2.799867461895295, + "grad_norm": 10.575713157653809, + "learning_rate": 5.4751353490009594e-08, + "loss": 0.0665, + "num_input_tokens_seen": 41339416, + "step": 21125 + }, + { + "epoch": 2.8, + "grad_norm": 0.0015305984998121858, + "learning_rate": 5.4679124579522515e-08, + "loss": 0.0, + "num_input_tokens_seen": 41340528, + "step": 21126 + }, + { + "epoch": 2.8001325381047053, + "grad_norm": 2.921983242034912, + "learning_rate": 5.460694281650886e-08, + "loss": 0.0072, + "num_input_tokens_seen": 41342368, + "step": 21127 + }, + { + "epoch": 2.8002650762094103, + "grad_norm": 0.032284971326589584, + "learning_rate": 5.453480820236029e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41344808, + "step": 21128 + }, + { + "epoch": 2.8003976143141154, + "grad_norm": 14.392049789428711, + "learning_rate": 5.446272073846764e-08, + "loss": 0.1713, + "num_input_tokens_seen": 41346672, + "step": 21129 + }, + { + "epoch": 2.8005301524188204, + "grad_norm": 0.002186872297897935, + "learning_rate": 5.4390680426220644e-08, + "loss": 0.0, + "num_input_tokens_seen": 41347848, + "step": 21130 + }, + { + "epoch": 2.8006626905235255, + "grad_norm": 5.429933547973633, + "learning_rate": 5.431868726700873e-08, + "loss": 0.1056, + "num_input_tokens_seen": 41350160, + "step": 21131 + }, + { + "epoch": 2.8007952286282305, + "grad_norm": 7.646900653839111, + "learning_rate": 5.4246741262219685e-08, + "loss": 0.0231, + "num_input_tokens_seen": 41352320, + "step": 21132 + }, + { + "epoch": 2.8009277667329355, + "grad_norm": 2.3302557468414307, + "learning_rate": 5.417484241324072e-08, + "loss": 0.0056, + "num_input_tokens_seen": 41353544, + "step": 21133 + }, + { + "epoch": 2.801060304837641, + "grad_norm": 0.05373460799455643, + "learning_rate": 5.410299072145797e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41355824, + "step": 21134 + }, + { + "epoch": 2.801192842942346, + "grad_norm": 0.8139528632164001, + "learning_rate": 5.40311861882567e-08, + "loss": 0.006, + "num_input_tokens_seen": 41357480, + "step": 21135 + }, + { + "epoch": 2.801325381047051, + "grad_norm": 14.065767288208008, + "learning_rate": 5.3959428815021644e-08, + "loss": 0.3127, + "num_input_tokens_seen": 41359952, + "step": 21136 + }, + { + "epoch": 2.801457919151756, + "grad_norm": 4.053398132324219, + "learning_rate": 5.388771860313669e-08, + "loss": 0.0118, + "num_input_tokens_seen": 41362200, + "step": 21137 + }, + { + "epoch": 2.801590457256461, + "grad_norm": 0.04186026006937027, + "learning_rate": 5.381605555398378e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41364232, + "step": 21138 + }, + { + "epoch": 2.801722995361166, + "grad_norm": 0.034189168363809586, + "learning_rate": 5.374443966894488e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41367536, + "step": 21139 + }, + { + "epoch": 2.8018555334658712, + "grad_norm": 6.118852615356445, + "learning_rate": 5.3672870949400544e-08, + "loss": 0.05, + "num_input_tokens_seen": 41369224, + "step": 21140 + }, + { + "epoch": 2.8019880715705767, + "grad_norm": 4.129786014556885, + "learning_rate": 5.3601349396730784e-08, + "loss": 0.0205, + "num_input_tokens_seen": 41371336, + "step": 21141 + }, + { + "epoch": 2.8021206096752818, + "grad_norm": 0.05202076956629753, + "learning_rate": 5.352987501231477e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41373136, + "step": 21142 + }, + { + "epoch": 2.802253147779987, + "grad_norm": 10.510772705078125, + "learning_rate": 5.345844779753084e-08, + "loss": 0.1063, + "num_input_tokens_seen": 41375912, + "step": 21143 + }, + { + "epoch": 2.802385685884692, + "grad_norm": 0.00344017893075943, + "learning_rate": 5.3387067753755686e-08, + "loss": 0.0, + "num_input_tokens_seen": 41378080, + "step": 21144 + }, + { + "epoch": 2.802518223989397, + "grad_norm": 0.05713677778840065, + "learning_rate": 5.331573488236569e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41379328, + "step": 21145 + }, + { + "epoch": 2.802650762094102, + "grad_norm": 0.03259960561990738, + "learning_rate": 5.324444918473615e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41380600, + "step": 21146 + }, + { + "epoch": 2.802783300198807, + "grad_norm": 0.005337974056601524, + "learning_rate": 5.317321066224124e-08, + "loss": 0.0, + "num_input_tokens_seen": 41382344, + "step": 21147 + }, + { + "epoch": 2.8029158383035124, + "grad_norm": 2.9660754203796387, + "learning_rate": 5.310201931625542e-08, + "loss": 0.0215, + "num_input_tokens_seen": 41384320, + "step": 21148 + }, + { + "epoch": 2.8030483764082175, + "grad_norm": 0.08560872077941895, + "learning_rate": 5.303087514815036e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41386200, + "step": 21149 + }, + { + "epoch": 2.8031809145129225, + "grad_norm": 0.26001647114753723, + "learning_rate": 5.295977815929831e-08, + "loss": 0.001, + "num_input_tokens_seen": 41387824, + "step": 21150 + }, + { + "epoch": 2.8033134526176275, + "grad_norm": 0.021474014967679977, + "learning_rate": 5.2888728351069564e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41389944, + "step": 21151 + }, + { + "epoch": 2.8034459907223326, + "grad_norm": 0.004883387126028538, + "learning_rate": 5.28177257248344e-08, + "loss": 0.0, + "num_input_tokens_seen": 41391568, + "step": 21152 + }, + { + "epoch": 2.8035785288270376, + "grad_norm": 0.02623615972697735, + "learning_rate": 5.274677028196173e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41393992, + "step": 21153 + }, + { + "epoch": 2.8037110669317427, + "grad_norm": 8.970613479614258, + "learning_rate": 5.2675862023819636e-08, + "loss": 0.0371, + "num_input_tokens_seen": 41395920, + "step": 21154 + }, + { + "epoch": 2.803843605036448, + "grad_norm": 12.674955368041992, + "learning_rate": 5.260500095177534e-08, + "loss": 0.235, + "num_input_tokens_seen": 41398048, + "step": 21155 + }, + { + "epoch": 2.803976143141153, + "grad_norm": 0.03006616048514843, + "learning_rate": 5.253418706719471e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41400208, + "step": 21156 + }, + { + "epoch": 2.804108681245858, + "grad_norm": 0.9721900820732117, + "learning_rate": 5.246342037144359e-08, + "loss": 0.0029, + "num_input_tokens_seen": 41402192, + "step": 21157 + }, + { + "epoch": 2.8042412193505633, + "grad_norm": 0.6990938782691956, + "learning_rate": 5.239270086588616e-08, + "loss": 0.0044, + "num_input_tokens_seen": 41403848, + "step": 21158 + }, + { + "epoch": 2.8043737574552683, + "grad_norm": 5.602118015289307, + "learning_rate": 5.232202855188606e-08, + "loss": 0.0319, + "num_input_tokens_seen": 41405936, + "step": 21159 + }, + { + "epoch": 2.8045062955599733, + "grad_norm": 0.005795423407107592, + "learning_rate": 5.2251403430805816e-08, + "loss": 0.0, + "num_input_tokens_seen": 41407456, + "step": 21160 + }, + { + "epoch": 2.8046388336646784, + "grad_norm": 57.483123779296875, + "learning_rate": 5.2180825504007106e-08, + "loss": 0.1406, + "num_input_tokens_seen": 41409024, + "step": 21161 + }, + { + "epoch": 2.804771371769384, + "grad_norm": 0.004263599403202534, + "learning_rate": 5.211029477285051e-08, + "loss": 0.0, + "num_input_tokens_seen": 41410528, + "step": 21162 + }, + { + "epoch": 2.804903909874089, + "grad_norm": 0.0070289019495248795, + "learning_rate": 5.203981123869634e-08, + "loss": 0.0, + "num_input_tokens_seen": 41413056, + "step": 21163 + }, + { + "epoch": 2.805036447978794, + "grad_norm": 17.672651290893555, + "learning_rate": 5.196937490290349e-08, + "loss": 0.0609, + "num_input_tokens_seen": 41415480, + "step": 21164 + }, + { + "epoch": 2.805168986083499, + "grad_norm": 9.004027366638184, + "learning_rate": 5.18989857668295e-08, + "loss": 0.0467, + "num_input_tokens_seen": 41418496, + "step": 21165 + }, + { + "epoch": 2.805301524188204, + "grad_norm": 3.9029955863952637, + "learning_rate": 5.182864383183217e-08, + "loss": 0.0087, + "num_input_tokens_seen": 41420448, + "step": 21166 + }, + { + "epoch": 2.8054340622929095, + "grad_norm": 5.305731773376465, + "learning_rate": 5.175834909926736e-08, + "loss": 0.0848, + "num_input_tokens_seen": 41423072, + "step": 21167 + }, + { + "epoch": 2.805566600397614, + "grad_norm": 0.0071297441609203815, + "learning_rate": 5.1688101570490926e-08, + "loss": 0.0, + "num_input_tokens_seen": 41424376, + "step": 21168 + }, + { + "epoch": 2.8056991385023196, + "grad_norm": 0.0024708209093660116, + "learning_rate": 5.1617901246856785e-08, + "loss": 0.0, + "num_input_tokens_seen": 41425592, + "step": 21169 + }, + { + "epoch": 2.8058316766070246, + "grad_norm": 5.7150559425354, + "learning_rate": 5.1547748129718025e-08, + "loss": 0.0466, + "num_input_tokens_seen": 41427448, + "step": 21170 + }, + { + "epoch": 2.8059642147117296, + "grad_norm": 11.907758712768555, + "learning_rate": 5.147764222042828e-08, + "loss": 0.1049, + "num_input_tokens_seen": 41429320, + "step": 21171 + }, + { + "epoch": 2.8060967528164347, + "grad_norm": 1.3341501951217651, + "learning_rate": 5.14075835203387e-08, + "loss": 0.0077, + "num_input_tokens_seen": 41431096, + "step": 21172 + }, + { + "epoch": 2.8062292909211397, + "grad_norm": 0.06699223816394806, + "learning_rate": 5.1337572030800145e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41433912, + "step": 21173 + }, + { + "epoch": 2.806361829025845, + "grad_norm": 1.0817219018936157, + "learning_rate": 5.1267607753162364e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41435264, + "step": 21174 + }, + { + "epoch": 2.80649436713055, + "grad_norm": 8.84842586517334, + "learning_rate": 5.119769068877456e-08, + "loss": 0.2363, + "num_input_tokens_seen": 41437840, + "step": 21175 + }, + { + "epoch": 2.8066269052352553, + "grad_norm": 0.019686629995703697, + "learning_rate": 5.1127820838984263e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41440560, + "step": 21176 + }, + { + "epoch": 2.8067594433399603, + "grad_norm": 3.311279535293579, + "learning_rate": 5.105799820513902e-08, + "loss": 0.0218, + "num_input_tokens_seen": 41442768, + "step": 21177 + }, + { + "epoch": 2.8068919814446653, + "grad_norm": 0.1113070696592331, + "learning_rate": 5.098822278858523e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41445320, + "step": 21178 + }, + { + "epoch": 2.8070245195493704, + "grad_norm": 0.006468723528087139, + "learning_rate": 5.091849459066794e-08, + "loss": 0.0, + "num_input_tokens_seen": 41447552, + "step": 21179 + }, + { + "epoch": 2.8071570576540754, + "grad_norm": 17.911327362060547, + "learning_rate": 5.084881361273164e-08, + "loss": 0.2814, + "num_input_tokens_seen": 41449624, + "step": 21180 + }, + { + "epoch": 2.807289595758781, + "grad_norm": 4.388555526733398, + "learning_rate": 5.077917985611969e-08, + "loss": 0.0395, + "num_input_tokens_seen": 41451664, + "step": 21181 + }, + { + "epoch": 2.8074221338634855, + "grad_norm": 5.563365459442139, + "learning_rate": 5.07095933221749e-08, + "loss": 0.097, + "num_input_tokens_seen": 41453568, + "step": 21182 + }, + { + "epoch": 2.807554671968191, + "grad_norm": 0.25721418857574463, + "learning_rate": 5.064005401223843e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41456304, + "step": 21183 + }, + { + "epoch": 2.807687210072896, + "grad_norm": 0.8028609156608582, + "learning_rate": 5.0570561927651974e-08, + "loss": 0.0038, + "num_input_tokens_seen": 41458208, + "step": 21184 + }, + { + "epoch": 2.807819748177601, + "grad_norm": 9.616104125976562, + "learning_rate": 5.050111706975475e-08, + "loss": 0.0279, + "num_input_tokens_seen": 41459728, + "step": 21185 + }, + { + "epoch": 2.807952286282306, + "grad_norm": 0.04375437647104263, + "learning_rate": 5.0431719439885674e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41462752, + "step": 21186 + }, + { + "epoch": 2.808084824387011, + "grad_norm": 0.001760742161422968, + "learning_rate": 5.036236903938285e-08, + "loss": 0.0, + "num_input_tokens_seen": 41464248, + "step": 21187 + }, + { + "epoch": 2.8082173624917166, + "grad_norm": 11.687002182006836, + "learning_rate": 5.029306586958355e-08, + "loss": 0.1101, + "num_input_tokens_seen": 41467456, + "step": 21188 + }, + { + "epoch": 2.808349900596421, + "grad_norm": 0.5118199586868286, + "learning_rate": 5.0223809931823906e-08, + "loss": 0.0018, + "num_input_tokens_seen": 41469696, + "step": 21189 + }, + { + "epoch": 2.8084824387011267, + "grad_norm": 12.227437019348145, + "learning_rate": 5.015460122743926e-08, + "loss": 0.2561, + "num_input_tokens_seen": 41472120, + "step": 21190 + }, + { + "epoch": 2.8086149768058317, + "grad_norm": 0.019973209127783775, + "learning_rate": 5.0085439757764085e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41473512, + "step": 21191 + }, + { + "epoch": 2.8087475149105368, + "grad_norm": 0.022125286981463432, + "learning_rate": 5.001632552413177e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41475136, + "step": 21192 + }, + { + "epoch": 2.808880053015242, + "grad_norm": 4.517755031585693, + "learning_rate": 4.994725852787458e-08, + "loss": 0.0572, + "num_input_tokens_seen": 41476720, + "step": 21193 + }, + { + "epoch": 2.809012591119947, + "grad_norm": 0.03753714635968208, + "learning_rate": 4.9878238770324494e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41479128, + "step": 21194 + }, + { + "epoch": 2.8091451292246523, + "grad_norm": 0.012316010892391205, + "learning_rate": 4.980926625281213e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41480760, + "step": 21195 + }, + { + "epoch": 2.8092776673293574, + "grad_norm": 4.032469272613525, + "learning_rate": 4.97403409766678e-08, + "loss": 0.0349, + "num_input_tokens_seen": 41482576, + "step": 21196 + }, + { + "epoch": 2.8094102054340624, + "grad_norm": 0.012639536522328854, + "learning_rate": 4.9671462943219895e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41484592, + "step": 21197 + }, + { + "epoch": 2.8095427435387674, + "grad_norm": 4.469357967376709, + "learning_rate": 4.9602632153796235e-08, + "loss": 0.0561, + "num_input_tokens_seen": 41485800, + "step": 21198 + }, + { + "epoch": 2.8096752816434725, + "grad_norm": 0.02814772166311741, + "learning_rate": 4.953384860972465e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41488176, + "step": 21199 + }, + { + "epoch": 2.8098078197481775, + "grad_norm": 0.008501028642058372, + "learning_rate": 4.9465112312330756e-08, + "loss": 0.0, + "num_input_tokens_seen": 41489520, + "step": 21200 + }, + { + "epoch": 2.8099403578528825, + "grad_norm": 4.758168697357178, + "learning_rate": 4.9396423262940143e-08, + "loss": 0.0157, + "num_input_tokens_seen": 41491520, + "step": 21201 + }, + { + "epoch": 2.810072895957588, + "grad_norm": 0.008862193673849106, + "learning_rate": 4.932778146287703e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41494960, + "step": 21202 + }, + { + "epoch": 2.810205434062293, + "grad_norm": 0.06783480197191238, + "learning_rate": 4.925918691346482e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41496736, + "step": 21203 + }, + { + "epoch": 2.810337972166998, + "grad_norm": 1.5066395998001099, + "learning_rate": 4.9190639616026324e-08, + "loss": 0.009, + "num_input_tokens_seen": 41498720, + "step": 21204 + }, + { + "epoch": 2.810470510271703, + "grad_norm": 2.028540849685669, + "learning_rate": 4.912213957188328e-08, + "loss": 0.0053, + "num_input_tokens_seen": 41500800, + "step": 21205 + }, + { + "epoch": 2.810603048376408, + "grad_norm": 0.027135441079735756, + "learning_rate": 4.9053686782355724e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41502856, + "step": 21206 + }, + { + "epoch": 2.810735586481113, + "grad_norm": 5.882522106170654, + "learning_rate": 4.8985281248764006e-08, + "loss": 0.0677, + "num_input_tokens_seen": 41505528, + "step": 21207 + }, + { + "epoch": 2.8108681245858183, + "grad_norm": 0.051870886236429214, + "learning_rate": 4.891692297242678e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41507496, + "step": 21208 + }, + { + "epoch": 2.8110006626905237, + "grad_norm": 3.69916033744812, + "learning_rate": 4.884861195466245e-08, + "loss": 0.0218, + "num_input_tokens_seen": 41510120, + "step": 21209 + }, + { + "epoch": 2.8111332007952288, + "grad_norm": 0.010116532444953918, + "learning_rate": 4.878034819678801e-08, + "loss": 0.0, + "num_input_tokens_seen": 41512480, + "step": 21210 + }, + { + "epoch": 2.811265738899934, + "grad_norm": 0.03615608438849449, + "learning_rate": 4.871213170011935e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41514264, + "step": 21211 + }, + { + "epoch": 2.811398277004639, + "grad_norm": 3.6562039852142334, + "learning_rate": 4.864396246597153e-08, + "loss": 0.0269, + "num_input_tokens_seen": 41515896, + "step": 21212 + }, + { + "epoch": 2.811530815109344, + "grad_norm": 6.809515476226807, + "learning_rate": 4.8575840495659335e-08, + "loss": 0.1403, + "num_input_tokens_seen": 41518136, + "step": 21213 + }, + { + "epoch": 2.811663353214049, + "grad_norm": 18.032827377319336, + "learning_rate": 4.850776579049615e-08, + "loss": 0.1232, + "num_input_tokens_seen": 41520304, + "step": 21214 + }, + { + "epoch": 2.811795891318754, + "grad_norm": 0.3632330596446991, + "learning_rate": 4.843973835179455e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41522256, + "step": 21215 + }, + { + "epoch": 2.8119284294234594, + "grad_norm": 11.840888023376465, + "learning_rate": 4.837175818086598e-08, + "loss": 0.1179, + "num_input_tokens_seen": 41523456, + "step": 21216 + }, + { + "epoch": 2.8120609675281645, + "grad_norm": 4.350199222564697, + "learning_rate": 4.8303825279021336e-08, + "loss": 0.0243, + "num_input_tokens_seen": 41525304, + "step": 21217 + }, + { + "epoch": 2.8121935056328695, + "grad_norm": 0.08766380697488785, + "learning_rate": 4.823593964757012e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41527112, + "step": 21218 + }, + { + "epoch": 2.8123260437375746, + "grad_norm": 0.14347699284553528, + "learning_rate": 4.816810128782101e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41528528, + "step": 21219 + }, + { + "epoch": 2.8124585818422796, + "grad_norm": 5.1562180519104, + "learning_rate": 4.810031020108297e-08, + "loss": 0.1279, + "num_input_tokens_seen": 41530616, + "step": 21220 + }, + { + "epoch": 2.8125911199469846, + "grad_norm": 0.005039736162871122, + "learning_rate": 4.803256638866216e-08, + "loss": 0.0, + "num_input_tokens_seen": 41531696, + "step": 21221 + }, + { + "epoch": 2.8127236580516897, + "grad_norm": 13.648358345031738, + "learning_rate": 4.7964869851865046e-08, + "loss": 0.1187, + "num_input_tokens_seen": 41533176, + "step": 21222 + }, + { + "epoch": 2.812856196156395, + "grad_norm": 13.263527870178223, + "learning_rate": 4.789722059199669e-08, + "loss": 0.2443, + "num_input_tokens_seen": 41534920, + "step": 21223 + }, + { + "epoch": 2.8129887342611, + "grad_norm": 0.06892092525959015, + "learning_rate": 4.782961861036134e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41536848, + "step": 21224 + }, + { + "epoch": 2.8131212723658052, + "grad_norm": 0.020196134224534035, + "learning_rate": 4.776206390826293e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41538576, + "step": 21225 + }, + { + "epoch": 2.8132538104705103, + "grad_norm": 0.00526905944570899, + "learning_rate": 4.769455648700377e-08, + "loss": 0.0, + "num_input_tokens_seen": 41540400, + "step": 21226 + }, + { + "epoch": 2.8133863485752153, + "grad_norm": 17.075319290161133, + "learning_rate": 4.7627096347885316e-08, + "loss": 0.1684, + "num_input_tokens_seen": 41542064, + "step": 21227 + }, + { + "epoch": 2.8135188866799203, + "grad_norm": 4.7833333015441895, + "learning_rate": 4.7559683492208184e-08, + "loss": 0.0905, + "num_input_tokens_seen": 41543720, + "step": 21228 + }, + { + "epoch": 2.8136514247846254, + "grad_norm": 0.006947199814021587, + "learning_rate": 4.74923179212719e-08, + "loss": 0.0, + "num_input_tokens_seen": 41546040, + "step": 21229 + }, + { + "epoch": 2.813783962889331, + "grad_norm": 0.12753786146640778, + "learning_rate": 4.74249996363757e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41548120, + "step": 21230 + }, + { + "epoch": 2.813916500994036, + "grad_norm": 11.77702808380127, + "learning_rate": 4.7357728638817716e-08, + "loss": 0.0916, + "num_input_tokens_seen": 41549784, + "step": 21231 + }, + { + "epoch": 2.814049039098741, + "grad_norm": 0.006870923563838005, + "learning_rate": 4.72905049298944e-08, + "loss": 0.0, + "num_input_tokens_seen": 41551040, + "step": 21232 + }, + { + "epoch": 2.814181577203446, + "grad_norm": 0.052990805357694626, + "learning_rate": 4.72233285109025e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41552504, + "step": 21233 + }, + { + "epoch": 2.814314115308151, + "grad_norm": 4.455300331115723, + "learning_rate": 4.7156199383136814e-08, + "loss": 0.0683, + "num_input_tokens_seen": 41554696, + "step": 21234 + }, + { + "epoch": 2.814446653412856, + "grad_norm": 1.5458555221557617, + "learning_rate": 4.708911754789158e-08, + "loss": 0.0257, + "num_input_tokens_seen": 41556824, + "step": 21235 + }, + { + "epoch": 2.814579191517561, + "grad_norm": 0.002492510713636875, + "learning_rate": 4.70220830064605e-08, + "loss": 0.0, + "num_input_tokens_seen": 41558136, + "step": 21236 + }, + { + "epoch": 2.8147117296222666, + "grad_norm": 0.006433361209928989, + "learning_rate": 4.695509576013585e-08, + "loss": 0.0, + "num_input_tokens_seen": 41560368, + "step": 21237 + }, + { + "epoch": 2.8148442677269716, + "grad_norm": 0.04005099833011627, + "learning_rate": 4.688815581020911e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41563432, + "step": 21238 + }, + { + "epoch": 2.8149768058316766, + "grad_norm": 7.580732345581055, + "learning_rate": 4.6821263157971195e-08, + "loss": 0.1198, + "num_input_tokens_seen": 41565808, + "step": 21239 + }, + { + "epoch": 2.8151093439363817, + "grad_norm": 9.633988380432129, + "learning_rate": 4.675441780471163e-08, + "loss": 0.0349, + "num_input_tokens_seen": 41568112, + "step": 21240 + }, + { + "epoch": 2.8152418820410867, + "grad_norm": 0.05486686900258064, + "learning_rate": 4.668761975171937e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41570264, + "step": 21241 + }, + { + "epoch": 2.8153744201457918, + "grad_norm": 0.008673026226460934, + "learning_rate": 4.662086900028201e-08, + "loss": 0.0, + "num_input_tokens_seen": 41571336, + "step": 21242 + }, + { + "epoch": 2.815506958250497, + "grad_norm": 3.4414398670196533, + "learning_rate": 4.655416555168713e-08, + "loss": 0.0253, + "num_input_tokens_seen": 41573632, + "step": 21243 + }, + { + "epoch": 2.8156394963552023, + "grad_norm": 0.015590169467031956, + "learning_rate": 4.6487509407220074e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41576104, + "step": 21244 + }, + { + "epoch": 2.8157720344599073, + "grad_norm": 0.007496792823076248, + "learning_rate": 4.642090056816678e-08, + "loss": 0.0, + "num_input_tokens_seen": 41577904, + "step": 21245 + }, + { + "epoch": 2.8159045725646124, + "grad_norm": 16.19715690612793, + "learning_rate": 4.6354339035811215e-08, + "loss": 0.1702, + "num_input_tokens_seen": 41579080, + "step": 21246 + }, + { + "epoch": 2.8160371106693174, + "grad_norm": 1.3593823909759521, + "learning_rate": 4.628782481143651e-08, + "loss": 0.0076, + "num_input_tokens_seen": 41580960, + "step": 21247 + }, + { + "epoch": 2.8161696487740224, + "grad_norm": 0.04407981410622597, + "learning_rate": 4.622135789632526e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41582512, + "step": 21248 + }, + { + "epoch": 2.816302186878728, + "grad_norm": 0.07390999048948288, + "learning_rate": 4.6154938291758936e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41585016, + "step": 21249 + }, + { + "epoch": 2.8164347249834325, + "grad_norm": 5.110679626464844, + "learning_rate": 4.6088565999018174e-08, + "loss": 0.0414, + "num_input_tokens_seen": 41587288, + "step": 21250 + }, + { + "epoch": 2.816567263088138, + "grad_norm": 6.790787220001221, + "learning_rate": 4.602224101938307e-08, + "loss": 0.034, + "num_input_tokens_seen": 41590056, + "step": 21251 + }, + { + "epoch": 2.816699801192843, + "grad_norm": 0.01827739179134369, + "learning_rate": 4.595596335413177e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41592288, + "step": 21252 + }, + { + "epoch": 2.816832339297548, + "grad_norm": 0.005573027767241001, + "learning_rate": 4.588973300454241e-08, + "loss": 0.0, + "num_input_tokens_seen": 41594248, + "step": 21253 + }, + { + "epoch": 2.816964877402253, + "grad_norm": 2.179642915725708, + "learning_rate": 4.582354997189231e-08, + "loss": 0.0043, + "num_input_tokens_seen": 41595848, + "step": 21254 + }, + { + "epoch": 2.817097415506958, + "grad_norm": 4.831472396850586, + "learning_rate": 4.575741425745683e-08, + "loss": 0.0703, + "num_input_tokens_seen": 41598264, + "step": 21255 + }, + { + "epoch": 2.8172299536116636, + "grad_norm": 0.007969295606017113, + "learning_rate": 4.56913258625119e-08, + "loss": 0.0, + "num_input_tokens_seen": 41599344, + "step": 21256 + }, + { + "epoch": 2.817362491716368, + "grad_norm": 3.166008234024048, + "learning_rate": 4.5625284788331226e-08, + "loss": 0.0174, + "num_input_tokens_seen": 41601000, + "step": 21257 + }, + { + "epoch": 2.8174950298210737, + "grad_norm": 3.363495111465454, + "learning_rate": 4.5559291036188227e-08, + "loss": 0.0404, + "num_input_tokens_seen": 41603136, + "step": 21258 + }, + { + "epoch": 2.8176275679257787, + "grad_norm": 0.0033262053038924932, + "learning_rate": 4.5493344607355214e-08, + "loss": 0.0, + "num_input_tokens_seen": 41604808, + "step": 21259 + }, + { + "epoch": 2.8177601060304838, + "grad_norm": 0.0867895856499672, + "learning_rate": 4.542744550310368e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41606848, + "step": 21260 + }, + { + "epoch": 2.817892644135189, + "grad_norm": 0.025034377351403236, + "learning_rate": 4.5361593724704554e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41608472, + "step": 21261 + }, + { + "epoch": 2.818025182239894, + "grad_norm": 0.009451201185584068, + "learning_rate": 4.529578927342737e-08, + "loss": 0.0, + "num_input_tokens_seen": 41609808, + "step": 21262 + }, + { + "epoch": 2.8181577203445993, + "grad_norm": 0.005809496156871319, + "learning_rate": 4.523003215054056e-08, + "loss": 0.0, + "num_input_tokens_seen": 41611984, + "step": 21263 + }, + { + "epoch": 2.818290258449304, + "grad_norm": 8.191415786743164, + "learning_rate": 4.5164322357312276e-08, + "loss": 0.1402, + "num_input_tokens_seen": 41615344, + "step": 21264 + }, + { + "epoch": 2.8184227965540094, + "grad_norm": 0.001972722355276346, + "learning_rate": 4.509865989500928e-08, + "loss": 0.0, + "num_input_tokens_seen": 41617368, + "step": 21265 + }, + { + "epoch": 2.8185553346587144, + "grad_norm": 2.6391422748565674, + "learning_rate": 4.5033044764897503e-08, + "loss": 0.0202, + "num_input_tokens_seen": 41620080, + "step": 21266 + }, + { + "epoch": 2.8186878727634195, + "grad_norm": 4.681728839874268, + "learning_rate": 4.496747696824261e-08, + "loss": 0.0298, + "num_input_tokens_seen": 41621688, + "step": 21267 + }, + { + "epoch": 2.8188204108681245, + "grad_norm": 1.3220518827438354, + "learning_rate": 4.49019565063083e-08, + "loss": 0.0039, + "num_input_tokens_seen": 41623664, + "step": 21268 + }, + { + "epoch": 2.8189529489728296, + "grad_norm": 2.9818472862243652, + "learning_rate": 4.483648338035801e-08, + "loss": 0.0668, + "num_input_tokens_seen": 41625848, + "step": 21269 + }, + { + "epoch": 2.819085487077535, + "grad_norm": 0.0044041285291314125, + "learning_rate": 4.477105759165379e-08, + "loss": 0.0, + "num_input_tokens_seen": 41627408, + "step": 21270 + }, + { + "epoch": 2.8192180251822396, + "grad_norm": 0.0022272781934589148, + "learning_rate": 4.470567914145768e-08, + "loss": 0.0, + "num_input_tokens_seen": 41628464, + "step": 21271 + }, + { + "epoch": 2.819350563286945, + "grad_norm": 8.511528968811035, + "learning_rate": 4.464034803102951e-08, + "loss": 0.0525, + "num_input_tokens_seen": 41630464, + "step": 21272 + }, + { + "epoch": 2.81948310139165, + "grad_norm": 0.007058646529912949, + "learning_rate": 4.4575064261629665e-08, + "loss": 0.0, + "num_input_tokens_seen": 41632064, + "step": 21273 + }, + { + "epoch": 2.819615639496355, + "grad_norm": 1.1773110628128052, + "learning_rate": 4.4509827834516296e-08, + "loss": 0.0075, + "num_input_tokens_seen": 41634360, + "step": 21274 + }, + { + "epoch": 2.8197481776010602, + "grad_norm": 0.005149673204869032, + "learning_rate": 4.4444638750947564e-08, + "loss": 0.0, + "num_input_tokens_seen": 41635688, + "step": 21275 + }, + { + "epoch": 2.8198807157057653, + "grad_norm": 0.001669332617893815, + "learning_rate": 4.4379497012179976e-08, + "loss": 0.0, + "num_input_tokens_seen": 41637104, + "step": 21276 + }, + { + "epoch": 2.8200132538104707, + "grad_norm": 0.4741596579551697, + "learning_rate": 4.431440261946946e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41638936, + "step": 21277 + }, + { + "epoch": 2.8201457919151753, + "grad_norm": 0.005232417490333319, + "learning_rate": 4.424935557407195e-08, + "loss": 0.0, + "num_input_tokens_seen": 41640832, + "step": 21278 + }, + { + "epoch": 2.820278330019881, + "grad_norm": 0.019071562215685844, + "learning_rate": 4.4184355877240906e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41642600, + "step": 21279 + }, + { + "epoch": 2.820410868124586, + "grad_norm": 3.601416826248169, + "learning_rate": 4.4119403530229475e-08, + "loss": 0.0284, + "num_input_tokens_seen": 41644408, + "step": 21280 + }, + { + "epoch": 2.820543406229291, + "grad_norm": 0.1430717557668686, + "learning_rate": 4.4054498534290005e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41645992, + "step": 21281 + }, + { + "epoch": 2.820675944333996, + "grad_norm": 0.1317349672317505, + "learning_rate": 4.3989640890674536e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41648496, + "step": 21282 + }, + { + "epoch": 2.820808482438701, + "grad_norm": 0.006044508423656225, + "learning_rate": 4.392483060063263e-08, + "loss": 0.0, + "num_input_tokens_seen": 41649720, + "step": 21283 + }, + { + "epoch": 2.8209410205434065, + "grad_norm": 0.003988482989370823, + "learning_rate": 4.386006766541467e-08, + "loss": 0.0, + "num_input_tokens_seen": 41651992, + "step": 21284 + }, + { + "epoch": 2.8210735586481115, + "grad_norm": 8.106592178344727, + "learning_rate": 4.379535208626884e-08, + "loss": 0.1144, + "num_input_tokens_seen": 41653992, + "step": 21285 + }, + { + "epoch": 2.8212060967528165, + "grad_norm": 8.010564804077148, + "learning_rate": 4.373068386444301e-08, + "loss": 0.053, + "num_input_tokens_seen": 41655560, + "step": 21286 + }, + { + "epoch": 2.8213386348575216, + "grad_norm": 5.563754081726074, + "learning_rate": 4.3666063001184535e-08, + "loss": 0.0279, + "num_input_tokens_seen": 41657584, + "step": 21287 + }, + { + "epoch": 2.8214711729622266, + "grad_norm": 0.007190825883299112, + "learning_rate": 4.360148949773851e-08, + "loss": 0.0, + "num_input_tokens_seen": 41659704, + "step": 21288 + }, + { + "epoch": 2.8216037110669316, + "grad_norm": 0.5484961867332458, + "learning_rate": 4.3536963355350345e-08, + "loss": 0.002, + "num_input_tokens_seen": 41661472, + "step": 21289 + }, + { + "epoch": 2.8217362491716367, + "grad_norm": 0.05635608732700348, + "learning_rate": 4.3472484575264315e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41663216, + "step": 21290 + }, + { + "epoch": 2.821868787276342, + "grad_norm": 8.621072769165039, + "learning_rate": 4.3408053158723315e-08, + "loss": 0.0541, + "num_input_tokens_seen": 41664952, + "step": 21291 + }, + { + "epoch": 2.822001325381047, + "grad_norm": 5.946181297302246, + "learning_rate": 4.334366910696969e-08, + "loss": 0.0463, + "num_input_tokens_seen": 41666880, + "step": 21292 + }, + { + "epoch": 2.8221338634857522, + "grad_norm": 0.13684526085853577, + "learning_rate": 4.3279332421245214e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41669272, + "step": 21293 + }, + { + "epoch": 2.8222664015904573, + "grad_norm": 5.767205238342285, + "learning_rate": 4.321504310279001e-08, + "loss": 0.0483, + "num_input_tokens_seen": 41671624, + "step": 21294 + }, + { + "epoch": 2.8223989396951623, + "grad_norm": 0.02296694554388523, + "learning_rate": 4.315080115284309e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41673144, + "step": 21295 + }, + { + "epoch": 2.8225314777998673, + "grad_norm": 0.0019314229721203446, + "learning_rate": 4.3086606572644016e-08, + "loss": 0.0, + "num_input_tokens_seen": 41674696, + "step": 21296 + }, + { + "epoch": 2.8226640159045724, + "grad_norm": 5.506106853485107, + "learning_rate": 4.302245936343014e-08, + "loss": 0.0147, + "num_input_tokens_seen": 41677064, + "step": 21297 + }, + { + "epoch": 2.822796554009278, + "grad_norm": 0.2841896712779999, + "learning_rate": 4.2958359526438235e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41679952, + "step": 21298 + }, + { + "epoch": 2.822929092113983, + "grad_norm": 6.363249778747559, + "learning_rate": 4.2894307062903984e-08, + "loss": 0.0063, + "num_input_tokens_seen": 41682360, + "step": 21299 + }, + { + "epoch": 2.823061630218688, + "grad_norm": 0.025439860299229622, + "learning_rate": 4.2830301974062796e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41684904, + "step": 21300 + }, + { + "epoch": 2.823194168323393, + "grad_norm": 3.287243366241455, + "learning_rate": 4.276634426114812e-08, + "loss": 0.0283, + "num_input_tokens_seen": 41687144, + "step": 21301 + }, + { + "epoch": 2.823326706428098, + "grad_norm": 0.7168206572532654, + "learning_rate": 4.2702433925393696e-08, + "loss": 0.005, + "num_input_tokens_seen": 41689640, + "step": 21302 + }, + { + "epoch": 2.823459244532803, + "grad_norm": 0.1533549726009369, + "learning_rate": 4.263857096803159e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41691392, + "step": 21303 + }, + { + "epoch": 2.823591782637508, + "grad_norm": 0.0039391000755131245, + "learning_rate": 4.257475539029332e-08, + "loss": 0.0, + "num_input_tokens_seen": 41692536, + "step": 21304 + }, + { + "epoch": 2.8237243207422136, + "grad_norm": 0.6914017200469971, + "learning_rate": 4.251098719340874e-08, + "loss": 0.0019, + "num_input_tokens_seen": 41694456, + "step": 21305 + }, + { + "epoch": 2.8238568588469186, + "grad_norm": 0.08038034290075302, + "learning_rate": 4.244726637860769e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41696112, + "step": 21306 + }, + { + "epoch": 2.8239893969516237, + "grad_norm": 15.284549713134766, + "learning_rate": 4.238359294711863e-08, + "loss": 0.2504, + "num_input_tokens_seen": 41698728, + "step": 21307 + }, + { + "epoch": 2.8241219350563287, + "grad_norm": 2.6776864528656006, + "learning_rate": 4.231996690016948e-08, + "loss": 0.0087, + "num_input_tokens_seen": 41700464, + "step": 21308 + }, + { + "epoch": 2.8242544731610337, + "grad_norm": 0.01853269338607788, + "learning_rate": 4.225638823898703e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41701808, + "step": 21309 + }, + { + "epoch": 2.8243870112657388, + "grad_norm": 5.682422161102295, + "learning_rate": 4.219285696479669e-08, + "loss": 0.0221, + "num_input_tokens_seen": 41703568, + "step": 21310 + }, + { + "epoch": 2.824519549370444, + "grad_norm": 0.006058938801288605, + "learning_rate": 4.212937307882386e-08, + "loss": 0.0, + "num_input_tokens_seen": 41705352, + "step": 21311 + }, + { + "epoch": 2.8246520874751493, + "grad_norm": 0.004415520001202822, + "learning_rate": 4.206593658229174e-08, + "loss": 0.0, + "num_input_tokens_seen": 41706560, + "step": 21312 + }, + { + "epoch": 2.8247846255798543, + "grad_norm": 8.943802833557129, + "learning_rate": 4.200254747642435e-08, + "loss": 0.0782, + "num_input_tokens_seen": 41708704, + "step": 21313 + }, + { + "epoch": 2.8249171636845594, + "grad_norm": 14.423078536987305, + "learning_rate": 4.1939205762443756e-08, + "loss": 0.164, + "num_input_tokens_seen": 41711392, + "step": 21314 + }, + { + "epoch": 2.8250497017892644, + "grad_norm": 0.022188182920217514, + "learning_rate": 4.187591144157066e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41712616, + "step": 21315 + }, + { + "epoch": 2.8251822398939694, + "grad_norm": 0.9098058342933655, + "learning_rate": 4.1812664515026026e-08, + "loss": 0.0056, + "num_input_tokens_seen": 41715384, + "step": 21316 + }, + { + "epoch": 2.8253147779986745, + "grad_norm": 5.674572467803955, + "learning_rate": 4.1749464984028874e-08, + "loss": 0.0126, + "num_input_tokens_seen": 41717576, + "step": 21317 + }, + { + "epoch": 2.8254473161033795, + "grad_norm": 0.2418396919965744, + "learning_rate": 4.168631284979796e-08, + "loss": 0.0014, + "num_input_tokens_seen": 41718912, + "step": 21318 + }, + { + "epoch": 2.825579854208085, + "grad_norm": 18.161022186279297, + "learning_rate": 4.162320811355064e-08, + "loss": 0.1263, + "num_input_tokens_seen": 41721472, + "step": 21319 + }, + { + "epoch": 2.82571239231279, + "grad_norm": 0.3156079649925232, + "learning_rate": 4.156015077650399e-08, + "loss": 0.0022, + "num_input_tokens_seen": 41723304, + "step": 21320 + }, + { + "epoch": 2.825844930417495, + "grad_norm": 0.10809608548879623, + "learning_rate": 4.1497140839873715e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41724584, + "step": 21321 + }, + { + "epoch": 2.8259774685222, + "grad_norm": 0.03469456732273102, + "learning_rate": 4.14341783048744e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41727160, + "step": 21322 + }, + { + "epoch": 2.826110006626905, + "grad_norm": 2.7486681938171387, + "learning_rate": 4.1371263172720336e-08, + "loss": 0.0285, + "num_input_tokens_seen": 41729304, + "step": 21323 + }, + { + "epoch": 2.82624254473161, + "grad_norm": 0.029182739555835724, + "learning_rate": 4.130839544462445e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41730688, + "step": 21324 + }, + { + "epoch": 2.8263750828363152, + "grad_norm": 2.0474400520324707, + "learning_rate": 4.124557512179883e-08, + "loss": 0.0169, + "num_input_tokens_seen": 41732040, + "step": 21325 + }, + { + "epoch": 2.8265076209410207, + "grad_norm": 2.942699670791626, + "learning_rate": 4.118280220545473e-08, + "loss": 0.0248, + "num_input_tokens_seen": 41733840, + "step": 21326 + }, + { + "epoch": 2.8266401590457257, + "grad_norm": 5.175823211669922, + "learning_rate": 4.112007669680229e-08, + "loss": 0.0368, + "num_input_tokens_seen": 41735592, + "step": 21327 + }, + { + "epoch": 2.826772697150431, + "grad_norm": 0.1909402310848236, + "learning_rate": 4.105739859705138e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41737568, + "step": 21328 + }, + { + "epoch": 2.826905235255136, + "grad_norm": 0.09783075749874115, + "learning_rate": 4.0994767907410196e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41738888, + "step": 21329 + }, + { + "epoch": 2.827037773359841, + "grad_norm": 0.008746135048568249, + "learning_rate": 4.093218462908582e-08, + "loss": 0.0, + "num_input_tokens_seen": 41740200, + "step": 21330 + }, + { + "epoch": 2.827170311464546, + "grad_norm": 0.010528885759413242, + "learning_rate": 4.0869648763285643e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41742360, + "step": 21331 + }, + { + "epoch": 2.827302849569251, + "grad_norm": 0.0025462631601840258, + "learning_rate": 4.0807160311215066e-08, + "loss": 0.0, + "num_input_tokens_seen": 41744048, + "step": 21332 + }, + { + "epoch": 2.8274353876739564, + "grad_norm": 8.750323295593262, + "learning_rate": 4.074471927407897e-08, + "loss": 0.0278, + "num_input_tokens_seen": 41746248, + "step": 21333 + }, + { + "epoch": 2.8275679257786615, + "grad_norm": 0.04769982770085335, + "learning_rate": 4.068232565308139e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41748576, + "step": 21334 + }, + { + "epoch": 2.8277004638833665, + "grad_norm": 0.5535390973091125, + "learning_rate": 4.0619979449424974e-08, + "loss": 0.0039, + "num_input_tokens_seen": 41750904, + "step": 21335 + }, + { + "epoch": 2.8278330019880715, + "grad_norm": 2.0264904499053955, + "learning_rate": 4.0557680664311816e-08, + "loss": 0.0139, + "num_input_tokens_seen": 41752768, + "step": 21336 + }, + { + "epoch": 2.8279655400927766, + "grad_norm": 0.004613807424902916, + "learning_rate": 4.049542929894346e-08, + "loss": 0.0, + "num_input_tokens_seen": 41754112, + "step": 21337 + }, + { + "epoch": 2.828098078197482, + "grad_norm": 3.950345277786255, + "learning_rate": 4.0433225354520046e-08, + "loss": 0.0246, + "num_input_tokens_seen": 41756280, + "step": 21338 + }, + { + "epoch": 2.8282306163021866, + "grad_norm": 0.024955151602625847, + "learning_rate": 4.037106883224062e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41757768, + "step": 21339 + }, + { + "epoch": 2.828363154406892, + "grad_norm": 6.444292068481445, + "learning_rate": 4.0308959733303955e-08, + "loss": 0.1045, + "num_input_tokens_seen": 41759288, + "step": 21340 + }, + { + "epoch": 2.828495692511597, + "grad_norm": 0.023813916370272636, + "learning_rate": 4.024689805890741e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41760536, + "step": 21341 + }, + { + "epoch": 2.828628230616302, + "grad_norm": 3.578228712081909, + "learning_rate": 4.018488381024754e-08, + "loss": 0.0177, + "num_input_tokens_seen": 41762488, + "step": 21342 + }, + { + "epoch": 2.8287607687210072, + "grad_norm": 2.963191270828247, + "learning_rate": 4.012291698851978e-08, + "loss": 0.0151, + "num_input_tokens_seen": 41764304, + "step": 21343 + }, + { + "epoch": 2.8288933068257123, + "grad_norm": 6.463123321533203, + "learning_rate": 4.0060997594919546e-08, + "loss": 0.0299, + "num_input_tokens_seen": 41767464, + "step": 21344 + }, + { + "epoch": 2.8290258449304178, + "grad_norm": 0.004640256520360708, + "learning_rate": 3.999912563064007e-08, + "loss": 0.0, + "num_input_tokens_seen": 41768848, + "step": 21345 + }, + { + "epoch": 2.8291583830351223, + "grad_norm": 7.133349895477295, + "learning_rate": 3.993730109687482e-08, + "loss": 0.1231, + "num_input_tokens_seen": 41771456, + "step": 21346 + }, + { + "epoch": 2.829290921139828, + "grad_norm": 1.109593152999878, + "learning_rate": 3.987552399481537e-08, + "loss": 0.0081, + "num_input_tokens_seen": 41773120, + "step": 21347 + }, + { + "epoch": 2.829423459244533, + "grad_norm": 9.424050331115723, + "learning_rate": 3.981379432565269e-08, + "loss": 0.182, + "num_input_tokens_seen": 41775112, + "step": 21348 + }, + { + "epoch": 2.829555997349238, + "grad_norm": 0.0021270166616886854, + "learning_rate": 3.9752112090577224e-08, + "loss": 0.0, + "num_input_tokens_seen": 41776584, + "step": 21349 + }, + { + "epoch": 2.829688535453943, + "grad_norm": 3.2307441234588623, + "learning_rate": 3.969047729077857e-08, + "loss": 0.0182, + "num_input_tokens_seen": 41778952, + "step": 21350 + }, + { + "epoch": 2.829821073558648, + "grad_norm": 4.46967887878418, + "learning_rate": 3.962888992744496e-08, + "loss": 0.07, + "num_input_tokens_seen": 41780640, + "step": 21351 + }, + { + "epoch": 2.8299536116633535, + "grad_norm": 0.004322728607803583, + "learning_rate": 3.956735000176348e-08, + "loss": 0.0, + "num_input_tokens_seen": 41782632, + "step": 21352 + }, + { + "epoch": 2.830086149768058, + "grad_norm": 0.780724823474884, + "learning_rate": 3.95058575149207e-08, + "loss": 0.0038, + "num_input_tokens_seen": 41784024, + "step": 21353 + }, + { + "epoch": 2.8302186878727635, + "grad_norm": 0.12405820935964584, + "learning_rate": 3.94444124681026e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41786888, + "step": 21354 + }, + { + "epoch": 2.8303512259774686, + "grad_norm": 7.429314613342285, + "learning_rate": 3.9383014862493516e-08, + "loss": 0.047, + "num_input_tokens_seen": 41789008, + "step": 21355 + }, + { + "epoch": 2.8304837640821736, + "grad_norm": 0.05965806171298027, + "learning_rate": 3.9321664699277504e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41790344, + "step": 21356 + }, + { + "epoch": 2.8306163021868787, + "grad_norm": 0.012387754395604134, + "learning_rate": 3.926036197963723e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41792544, + "step": 21357 + }, + { + "epoch": 2.8307488402915837, + "grad_norm": 1.214707851409912, + "learning_rate": 3.91991067047548e-08, + "loss": 0.0068, + "num_input_tokens_seen": 41793968, + "step": 21358 + }, + { + "epoch": 2.830881378396289, + "grad_norm": 0.004752099979668856, + "learning_rate": 3.9137898875811206e-08, + "loss": 0.0, + "num_input_tokens_seen": 41795808, + "step": 21359 + }, + { + "epoch": 2.8310139165009938, + "grad_norm": 0.0037499689497053623, + "learning_rate": 3.907673849398663e-08, + "loss": 0.0, + "num_input_tokens_seen": 41797848, + "step": 21360 + }, + { + "epoch": 2.8311464546056992, + "grad_norm": 0.005664592143148184, + "learning_rate": 3.90156255604604e-08, + "loss": 0.0, + "num_input_tokens_seen": 41799744, + "step": 21361 + }, + { + "epoch": 2.8312789927104043, + "grad_norm": 10.73759651184082, + "learning_rate": 3.8954560076410464e-08, + "loss": 0.1291, + "num_input_tokens_seen": 41802264, + "step": 21362 + }, + { + "epoch": 2.8314115308151093, + "grad_norm": 5.420210838317871, + "learning_rate": 3.889354204301449e-08, + "loss": 0.0437, + "num_input_tokens_seen": 41804536, + "step": 21363 + }, + { + "epoch": 2.8315440689198144, + "grad_norm": 0.01144046988338232, + "learning_rate": 3.883257146144875e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41806208, + "step": 21364 + }, + { + "epoch": 2.8316766070245194, + "grad_norm": 2.0986413955688477, + "learning_rate": 3.877164833288899e-08, + "loss": 0.0127, + "num_input_tokens_seen": 41808464, + "step": 21365 + }, + { + "epoch": 2.831809145129225, + "grad_norm": 12.3529691696167, + "learning_rate": 3.8710772658509534e-08, + "loss": 0.1597, + "num_input_tokens_seen": 41810072, + "step": 21366 + }, + { + "epoch": 2.83194168323393, + "grad_norm": 6.094432353973389, + "learning_rate": 3.864994443948444e-08, + "loss": 0.0578, + "num_input_tokens_seen": 41812304, + "step": 21367 + }, + { + "epoch": 2.832074221338635, + "grad_norm": 0.00438559427857399, + "learning_rate": 3.8589163676986674e-08, + "loss": 0.0, + "num_input_tokens_seen": 41813952, + "step": 21368 + }, + { + "epoch": 2.83220675944334, + "grad_norm": 0.23814915120601654, + "learning_rate": 3.852843037218751e-08, + "loss": 0.001, + "num_input_tokens_seen": 41816160, + "step": 21369 + }, + { + "epoch": 2.832339297548045, + "grad_norm": 5.790221214294434, + "learning_rate": 3.846774452625851e-08, + "loss": 0.0645, + "num_input_tokens_seen": 41818592, + "step": 21370 + }, + { + "epoch": 2.83247183565275, + "grad_norm": 2.2277114391326904, + "learning_rate": 3.8407106140369574e-08, + "loss": 0.009, + "num_input_tokens_seen": 41820536, + "step": 21371 + }, + { + "epoch": 2.832604373757455, + "grad_norm": 0.33863967657089233, + "learning_rate": 3.8346515215689773e-08, + "loss": 0.0025, + "num_input_tokens_seen": 41822264, + "step": 21372 + }, + { + "epoch": 2.8327369118621606, + "grad_norm": 0.05382567271590233, + "learning_rate": 3.828597175338733e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41824784, + "step": 21373 + }, + { + "epoch": 2.8328694499668656, + "grad_norm": 0.4005905091762543, + "learning_rate": 3.822547575462937e-08, + "loss": 0.002, + "num_input_tokens_seen": 41827224, + "step": 21374 + }, + { + "epoch": 2.8330019880715707, + "grad_norm": 0.17862588167190552, + "learning_rate": 3.816502722058274e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41830264, + "step": 21375 + }, + { + "epoch": 2.8331345261762757, + "grad_norm": 13.751076698303223, + "learning_rate": 3.8104626152412894e-08, + "loss": 0.1711, + "num_input_tokens_seen": 41832352, + "step": 21376 + }, + { + "epoch": 2.8332670642809807, + "grad_norm": 7.563451766967773, + "learning_rate": 3.80442725512839e-08, + "loss": 0.0592, + "num_input_tokens_seen": 41834544, + "step": 21377 + }, + { + "epoch": 2.833399602385686, + "grad_norm": 0.03853147104382515, + "learning_rate": 3.798396641835983e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41836288, + "step": 21378 + }, + { + "epoch": 2.833532140490391, + "grad_norm": 0.03218938782811165, + "learning_rate": 3.792370775480336e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41837784, + "step": 21379 + }, + { + "epoch": 2.8336646785950963, + "grad_norm": 1.1423343420028687, + "learning_rate": 3.786349656177635e-08, + "loss": 0.0088, + "num_input_tokens_seen": 41840056, + "step": 21380 + }, + { + "epoch": 2.8337972166998013, + "grad_norm": 0.41114315390586853, + "learning_rate": 3.78033328404398e-08, + "loss": 0.0015, + "num_input_tokens_seen": 41841888, + "step": 21381 + }, + { + "epoch": 2.8339297548045064, + "grad_norm": 0.012818088755011559, + "learning_rate": 3.7743216591953626e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41843248, + "step": 21382 + }, + { + "epoch": 2.8340622929092114, + "grad_norm": 0.01361959706991911, + "learning_rate": 3.768314781747634e-08, + "loss": 0.0, + "num_input_tokens_seen": 41844784, + "step": 21383 + }, + { + "epoch": 2.8341948310139164, + "grad_norm": 0.027121368795633316, + "learning_rate": 3.762312651816702e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41846128, + "step": 21384 + }, + { + "epoch": 2.8343273691186215, + "grad_norm": 0.001676503336057067, + "learning_rate": 3.756315269518251e-08, + "loss": 0.0, + "num_input_tokens_seen": 41847712, + "step": 21385 + }, + { + "epoch": 2.8344599072233265, + "grad_norm": 0.004906956572085619, + "learning_rate": 3.7503226349679124e-08, + "loss": 0.0, + "num_input_tokens_seen": 41849584, + "step": 21386 + }, + { + "epoch": 2.834592445328032, + "grad_norm": 1.1343759298324585, + "learning_rate": 3.744334748281231e-08, + "loss": 0.0086, + "num_input_tokens_seen": 41851280, + "step": 21387 + }, + { + "epoch": 2.834724983432737, + "grad_norm": 0.06775186955928802, + "learning_rate": 3.73835160957367e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41852920, + "step": 21388 + }, + { + "epoch": 2.834857521537442, + "grad_norm": 0.2680496573448181, + "learning_rate": 3.732373218960556e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41855488, + "step": 21389 + }, + { + "epoch": 2.834990059642147, + "grad_norm": 2.7450804710388184, + "learning_rate": 3.726399576557183e-08, + "loss": 0.016, + "num_input_tokens_seen": 41857784, + "step": 21390 + }, + { + "epoch": 2.835122597746852, + "grad_norm": 5.901760578155518, + "learning_rate": 3.720430682478737e-08, + "loss": 0.0878, + "num_input_tokens_seen": 41859792, + "step": 21391 + }, + { + "epoch": 2.835255135851557, + "grad_norm": 5.245533466339111, + "learning_rate": 3.714466536840267e-08, + "loss": 0.0567, + "num_input_tokens_seen": 41863696, + "step": 21392 + }, + { + "epoch": 2.8353876739562622, + "grad_norm": 6.626520156860352, + "learning_rate": 3.708507139756817e-08, + "loss": 0.0736, + "num_input_tokens_seen": 41865384, + "step": 21393 + }, + { + "epoch": 2.8355202120609677, + "grad_norm": 0.03496141731739044, + "learning_rate": 3.702552491343242e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41867072, + "step": 21394 + }, + { + "epoch": 2.8356527501656728, + "grad_norm": 6.933764457702637, + "learning_rate": 3.696602591714338e-08, + "loss": 0.1065, + "num_input_tokens_seen": 41869688, + "step": 21395 + }, + { + "epoch": 2.835785288270378, + "grad_norm": 19.10161781311035, + "learning_rate": 3.690657440984874e-08, + "loss": 0.3098, + "num_input_tokens_seen": 41871736, + "step": 21396 + }, + { + "epoch": 2.835917826375083, + "grad_norm": 1.3146227598190308, + "learning_rate": 3.684717039269453e-08, + "loss": 0.0066, + "num_input_tokens_seen": 41874368, + "step": 21397 + }, + { + "epoch": 2.836050364479788, + "grad_norm": 0.005302970297634602, + "learning_rate": 3.678781386682623e-08, + "loss": 0.0, + "num_input_tokens_seen": 41876864, + "step": 21398 + }, + { + "epoch": 2.836182902584493, + "grad_norm": 14.017012596130371, + "learning_rate": 3.672850483338819e-08, + "loss": 0.3651, + "num_input_tokens_seen": 41878744, + "step": 21399 + }, + { + "epoch": 2.836315440689198, + "grad_norm": 4.511245250701904, + "learning_rate": 3.666924329352367e-08, + "loss": 0.0216, + "num_input_tokens_seen": 41880904, + "step": 21400 + }, + { + "epoch": 2.8364479787939034, + "grad_norm": 0.02728136070072651, + "learning_rate": 3.6610029248375644e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41882472, + "step": 21401 + }, + { + "epoch": 2.8365805168986085, + "grad_norm": 0.0032947382424026728, + "learning_rate": 3.6550862699085696e-08, + "loss": 0.0, + "num_input_tokens_seen": 41884544, + "step": 21402 + }, + { + "epoch": 2.8367130550033135, + "grad_norm": 0.06398927420377731, + "learning_rate": 3.6491743646794584e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41886568, + "step": 21403 + }, + { + "epoch": 2.8368455931080185, + "grad_norm": 0.008374019525945187, + "learning_rate": 3.643267209264195e-08, + "loss": 0.0, + "num_input_tokens_seen": 41890320, + "step": 21404 + }, + { + "epoch": 2.8369781312127236, + "grad_norm": 0.019741594791412354, + "learning_rate": 3.637364803776688e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41892904, + "step": 21405 + }, + { + "epoch": 2.8371106693174286, + "grad_norm": 0.016110295429825783, + "learning_rate": 3.6314671483307916e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41894696, + "step": 21406 + }, + { + "epoch": 2.8372432074221337, + "grad_norm": 0.011761624366044998, + "learning_rate": 3.6255742430401364e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41897480, + "step": 21407 + }, + { + "epoch": 2.837375745526839, + "grad_norm": 0.4244985282421112, + "learning_rate": 3.619686088018354e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41899568, + "step": 21408 + }, + { + "epoch": 2.837508283631544, + "grad_norm": 0.11555639654397964, + "learning_rate": 3.6138026833790193e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41901184, + "step": 21409 + }, + { + "epoch": 2.837640821736249, + "grad_norm": 4.921369552612305, + "learning_rate": 3.607924029235543e-08, + "loss": 0.0608, + "num_input_tokens_seen": 41903408, + "step": 21410 + }, + { + "epoch": 2.8377733598409542, + "grad_norm": 0.5179631114006042, + "learning_rate": 3.6020501257012506e-08, + "loss": 0.0036, + "num_input_tokens_seen": 41905520, + "step": 21411 + }, + { + "epoch": 2.8379058979456593, + "grad_norm": 5.513009548187256, + "learning_rate": 3.5961809728894407e-08, + "loss": 0.0205, + "num_input_tokens_seen": 41906888, + "step": 21412 + }, + { + "epoch": 2.8380384360503643, + "grad_norm": 5.5876784324646, + "learning_rate": 3.590316570913216e-08, + "loss": 0.0605, + "num_input_tokens_seen": 41908656, + "step": 21413 + }, + { + "epoch": 2.8381709741550694, + "grad_norm": 0.36041584610939026, + "learning_rate": 3.584456919885709e-08, + "loss": 0.0013, + "num_input_tokens_seen": 41911320, + "step": 21414 + }, + { + "epoch": 2.838303512259775, + "grad_norm": 8.429523468017578, + "learning_rate": 3.57860201991983e-08, + "loss": 0.0608, + "num_input_tokens_seen": 41913408, + "step": 21415 + }, + { + "epoch": 2.83843605036448, + "grad_norm": 9.752354621887207, + "learning_rate": 3.5727518711285435e-08, + "loss": 0.0828, + "num_input_tokens_seen": 41915208, + "step": 21416 + }, + { + "epoch": 2.838568588469185, + "grad_norm": 11.552865982055664, + "learning_rate": 3.566906473624593e-08, + "loss": 0.1979, + "num_input_tokens_seen": 41916976, + "step": 21417 + }, + { + "epoch": 2.83870112657389, + "grad_norm": 1.6927932500839233, + "learning_rate": 3.561065827520665e-08, + "loss": 0.0062, + "num_input_tokens_seen": 41919360, + "step": 21418 + }, + { + "epoch": 2.838833664678595, + "grad_norm": 0.041958149522542953, + "learning_rate": 3.5552299329294215e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41921504, + "step": 21419 + }, + { + "epoch": 2.8389662027833005, + "grad_norm": 0.17980051040649414, + "learning_rate": 3.549398789963354e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41923512, + "step": 21420 + }, + { + "epoch": 2.839098740888005, + "grad_norm": 17.875896453857422, + "learning_rate": 3.5435723987348734e-08, + "loss": 0.286, + "num_input_tokens_seen": 41925704, + "step": 21421 + }, + { + "epoch": 2.8392312789927105, + "grad_norm": 13.347850799560547, + "learning_rate": 3.537750759356362e-08, + "loss": 0.0199, + "num_input_tokens_seen": 41927312, + "step": 21422 + }, + { + "epoch": 2.8393638170974156, + "grad_norm": 4.012181758880615, + "learning_rate": 3.531933871940035e-08, + "loss": 0.024, + "num_input_tokens_seen": 41929592, + "step": 21423 + }, + { + "epoch": 2.8394963552021206, + "grad_norm": 0.01615353487432003, + "learning_rate": 3.526121736598054e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41931008, + "step": 21424 + }, + { + "epoch": 2.8396288933068257, + "grad_norm": 1.0778565406799316, + "learning_rate": 3.520314353442467e-08, + "loss": 0.0088, + "num_input_tokens_seen": 41933104, + "step": 21425 + }, + { + "epoch": 2.8397614314115307, + "grad_norm": 0.057106051594018936, + "learning_rate": 3.5145117225852675e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41935368, + "step": 21426 + }, + { + "epoch": 2.839893969516236, + "grad_norm": 3.0264198780059814, + "learning_rate": 3.508713844138312e-08, + "loss": 0.0153, + "num_input_tokens_seen": 41937648, + "step": 21427 + }, + { + "epoch": 2.8400265076209408, + "grad_norm": 0.003958333749324083, + "learning_rate": 3.5029207182134264e-08, + "loss": 0.0, + "num_input_tokens_seen": 41939528, + "step": 21428 + }, + { + "epoch": 2.8401590457256463, + "grad_norm": 0.020841307938098907, + "learning_rate": 3.4971323449222716e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41941856, + "step": 21429 + }, + { + "epoch": 2.8402915838303513, + "grad_norm": 11.71628475189209, + "learning_rate": 3.491348724376453e-08, + "loss": 0.0897, + "num_input_tokens_seen": 41945304, + "step": 21430 + }, + { + "epoch": 2.8404241219350563, + "grad_norm": 0.03598780930042267, + "learning_rate": 3.485569856687465e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41947504, + "step": 21431 + }, + { + "epoch": 2.8405566600397614, + "grad_norm": 0.02070513181388378, + "learning_rate": 3.4797957419667736e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41948912, + "step": 21432 + }, + { + "epoch": 2.8406891981444664, + "grad_norm": 9.764309883117676, + "learning_rate": 3.474026380325679e-08, + "loss": 0.0882, + "num_input_tokens_seen": 41950792, + "step": 21433 + }, + { + "epoch": 2.840821736249172, + "grad_norm": 0.20964300632476807, + "learning_rate": 3.468261771875453e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41952944, + "step": 21434 + }, + { + "epoch": 2.8409542743538765, + "grad_norm": 0.00671512121334672, + "learning_rate": 3.462501916727201e-08, + "loss": 0.0, + "num_input_tokens_seen": 41954488, + "step": 21435 + }, + { + "epoch": 2.841086812458582, + "grad_norm": 8.857194900512695, + "learning_rate": 3.4567468149919734e-08, + "loss": 0.0155, + "num_input_tokens_seen": 41955904, + "step": 21436 + }, + { + "epoch": 2.841219350563287, + "grad_norm": 7.722423553466797, + "learning_rate": 3.450996466780737e-08, + "loss": 0.1254, + "num_input_tokens_seen": 41957264, + "step": 21437 + }, + { + "epoch": 2.841351888667992, + "grad_norm": 0.21999236941337585, + "learning_rate": 3.445250872204403e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41959064, + "step": 21438 + }, + { + "epoch": 2.841484426772697, + "grad_norm": 0.046196501702070236, + "learning_rate": 3.439510031373716e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41960728, + "step": 21439 + }, + { + "epoch": 2.841616964877402, + "grad_norm": 0.006579110864549875, + "learning_rate": 3.433773944399365e-08, + "loss": 0.0, + "num_input_tokens_seen": 41962272, + "step": 21440 + }, + { + "epoch": 2.8417495029821076, + "grad_norm": 13.444130897521973, + "learning_rate": 3.42804261139193e-08, + "loss": 0.1641, + "num_input_tokens_seen": 41964056, + "step": 21441 + }, + { + "epoch": 2.841882041086812, + "grad_norm": 0.020831700414419174, + "learning_rate": 3.4223160324619586e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41965792, + "step": 21442 + }, + { + "epoch": 2.8420145791915177, + "grad_norm": 13.28009033203125, + "learning_rate": 3.416594207719837e-08, + "loss": 0.0445, + "num_input_tokens_seen": 41967488, + "step": 21443 + }, + { + "epoch": 2.8421471172962227, + "grad_norm": 0.19583982229232788, + "learning_rate": 3.410877137275892e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41969824, + "step": 21444 + }, + { + "epoch": 2.8422796554009278, + "grad_norm": 9.200377464294434, + "learning_rate": 3.405164821240342e-08, + "loss": 0.0679, + "num_input_tokens_seen": 41973128, + "step": 21445 + }, + { + "epoch": 2.842412193505633, + "grad_norm": 5.699094772338867, + "learning_rate": 3.3994572597233214e-08, + "loss": 0.058, + "num_input_tokens_seen": 41975296, + "step": 21446 + }, + { + "epoch": 2.842544731610338, + "grad_norm": 0.001877969945780933, + "learning_rate": 3.393754452834907e-08, + "loss": 0.0, + "num_input_tokens_seen": 41976736, + "step": 21447 + }, + { + "epoch": 2.8426772697150433, + "grad_norm": 0.019672375172376633, + "learning_rate": 3.388056400685014e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41978280, + "step": 21448 + }, + { + "epoch": 2.842809807819748, + "grad_norm": 3.8077802658081055, + "learning_rate": 3.382363103383524e-08, + "loss": 0.0122, + "num_input_tokens_seen": 41979856, + "step": 21449 + }, + { + "epoch": 2.8429423459244534, + "grad_norm": 0.127094566822052, + "learning_rate": 3.3766745610402106e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41981552, + "step": 21450 + }, + { + "epoch": 2.8430748840291584, + "grad_norm": 0.024055523797869682, + "learning_rate": 3.370990773764765e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41983520, + "step": 21451 + }, + { + "epoch": 2.8432074221338635, + "grad_norm": 0.0021653759758919477, + "learning_rate": 3.365311741666738e-08, + "loss": 0.0, + "num_input_tokens_seen": 41984936, + "step": 21452 + }, + { + "epoch": 2.8433399602385685, + "grad_norm": 7.9955644607543945, + "learning_rate": 3.359637464855653e-08, + "loss": 0.0644, + "num_input_tokens_seen": 41987344, + "step": 21453 + }, + { + "epoch": 2.8434724983432735, + "grad_norm": 3.1849682331085205, + "learning_rate": 3.353967943440895e-08, + "loss": 0.0845, + "num_input_tokens_seen": 41988928, + "step": 21454 + }, + { + "epoch": 2.843605036447979, + "grad_norm": 0.49534451961517334, + "learning_rate": 3.348303177531792e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41990768, + "step": 21455 + }, + { + "epoch": 2.843737574552684, + "grad_norm": 0.05766313895583153, + "learning_rate": 3.342643167237564e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41992720, + "step": 21456 + }, + { + "epoch": 2.843870112657389, + "grad_norm": 0.07199223339557648, + "learning_rate": 3.3369879126673167e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41994744, + "step": 21457 + }, + { + "epoch": 2.844002650762094, + "grad_norm": 9.784435272216797, + "learning_rate": 3.331337413930158e-08, + "loss": 0.2137, + "num_input_tokens_seen": 41996848, + "step": 21458 + }, + { + "epoch": 2.844135188866799, + "grad_norm": 0.064348004758358, + "learning_rate": 3.325691671134945e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41999600, + "step": 21459 + }, + { + "epoch": 2.844267726971504, + "grad_norm": 0.011450551450252533, + "learning_rate": 3.320050684390563e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42002416, + "step": 21460 + }, + { + "epoch": 2.8444002650762092, + "grad_norm": 11.707417488098145, + "learning_rate": 3.314414453805786e-08, + "loss": 0.2008, + "num_input_tokens_seen": 42004528, + "step": 21461 + }, + { + "epoch": 2.8445328031809147, + "grad_norm": 0.00412170821800828, + "learning_rate": 3.3087829794892775e-08, + "loss": 0.0, + "num_input_tokens_seen": 42006824, + "step": 21462 + }, + { + "epoch": 2.8446653412856198, + "grad_norm": 0.0063974191434681416, + "learning_rate": 3.3031562615496174e-08, + "loss": 0.0, + "num_input_tokens_seen": 42008656, + "step": 21463 + }, + { + "epoch": 2.844797879390325, + "grad_norm": 0.005561056546866894, + "learning_rate": 3.297534300095301e-08, + "loss": 0.0, + "num_input_tokens_seen": 42010664, + "step": 21464 + }, + { + "epoch": 2.84493041749503, + "grad_norm": 0.01984023116528988, + "learning_rate": 3.291917095234715e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42012000, + "step": 21465 + }, + { + "epoch": 2.845062955599735, + "grad_norm": 0.01753745973110199, + "learning_rate": 3.2863046470761605e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42014256, + "step": 21466 + }, + { + "epoch": 2.84519549370444, + "grad_norm": 0.5938788056373596, + "learning_rate": 3.28069695572783e-08, + "loss": 0.002, + "num_input_tokens_seen": 42015976, + "step": 21467 + }, + { + "epoch": 2.845328031809145, + "grad_norm": 0.012784359976649284, + "learning_rate": 3.2750940212978865e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42017920, + "step": 21468 + }, + { + "epoch": 2.8454605699138504, + "grad_norm": 9.3268404006958, + "learning_rate": 3.269495843894327e-08, + "loss": 0.0412, + "num_input_tokens_seen": 42019952, + "step": 21469 + }, + { + "epoch": 2.8455931080185555, + "grad_norm": 0.057686544954776764, + "learning_rate": 3.2639024236251207e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42021696, + "step": 21470 + }, + { + "epoch": 2.8457256461232605, + "grad_norm": 4.762962818145752, + "learning_rate": 3.25831376059807e-08, + "loss": 0.0227, + "num_input_tokens_seen": 42024216, + "step": 21471 + }, + { + "epoch": 2.8458581842279655, + "grad_norm": 7.897347450256348, + "learning_rate": 3.25272985492095e-08, + "loss": 0.0801, + "num_input_tokens_seen": 42025952, + "step": 21472 + }, + { + "epoch": 2.8459907223326706, + "grad_norm": 0.46802207827568054, + "learning_rate": 3.2471507067013964e-08, + "loss": 0.0018, + "num_input_tokens_seen": 42027608, + "step": 21473 + }, + { + "epoch": 2.8461232604373756, + "grad_norm": 0.6081012487411499, + "learning_rate": 3.241576316047046e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42029664, + "step": 21474 + }, + { + "epoch": 2.8462557985420807, + "grad_norm": 5.416201591491699, + "learning_rate": 3.2360066830653124e-08, + "loss": 0.0951, + "num_input_tokens_seen": 42031048, + "step": 21475 + }, + { + "epoch": 2.846388336646786, + "grad_norm": 11.232903480529785, + "learning_rate": 3.23044180786361e-08, + "loss": 0.1064, + "num_input_tokens_seen": 42033040, + "step": 21476 + }, + { + "epoch": 2.846520874751491, + "grad_norm": 0.0017418210627511144, + "learning_rate": 3.224881690549242e-08, + "loss": 0.0, + "num_input_tokens_seen": 42034144, + "step": 21477 + }, + { + "epoch": 2.846653412856196, + "grad_norm": 0.0023322266060858965, + "learning_rate": 3.219326331229372e-08, + "loss": 0.0, + "num_input_tokens_seen": 42036288, + "step": 21478 + }, + { + "epoch": 2.8467859509609013, + "grad_norm": 0.02629624493420124, + "learning_rate": 3.2137757300111375e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42038352, + "step": 21479 + }, + { + "epoch": 2.8469184890656063, + "grad_norm": 4.990286350250244, + "learning_rate": 3.208229887001563e-08, + "loss": 0.0299, + "num_input_tokens_seen": 42040088, + "step": 21480 + }, + { + "epoch": 2.8470510271703113, + "grad_norm": 1.9148160219192505, + "learning_rate": 3.202688802307563e-08, + "loss": 0.0128, + "num_input_tokens_seen": 42041880, + "step": 21481 + }, + { + "epoch": 2.8471835652750164, + "grad_norm": 0.26209819316864014, + "learning_rate": 3.1971524760359974e-08, + "loss": 0.0015, + "num_input_tokens_seen": 42043632, + "step": 21482 + }, + { + "epoch": 2.847316103379722, + "grad_norm": 0.004109885543584824, + "learning_rate": 3.191620908293586e-08, + "loss": 0.0, + "num_input_tokens_seen": 42045344, + "step": 21483 + }, + { + "epoch": 2.847448641484427, + "grad_norm": 0.1027844101190567, + "learning_rate": 3.186094099186965e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42047768, + "step": 21484 + }, + { + "epoch": 2.847581179589132, + "grad_norm": 0.005945008248090744, + "learning_rate": 3.1805720488227445e-08, + "loss": 0.0, + "num_input_tokens_seen": 42049000, + "step": 21485 + }, + { + "epoch": 2.847713717693837, + "grad_norm": 3.1874094009399414, + "learning_rate": 3.175054757307366e-08, + "loss": 0.0363, + "num_input_tokens_seen": 42051448, + "step": 21486 + }, + { + "epoch": 2.847846255798542, + "grad_norm": 0.007606113329529762, + "learning_rate": 3.169542224747191e-08, + "loss": 0.0, + "num_input_tokens_seen": 42053168, + "step": 21487 + }, + { + "epoch": 2.847978793903247, + "grad_norm": 7.422728061676025, + "learning_rate": 3.164034451248521e-08, + "loss": 0.0649, + "num_input_tokens_seen": 42055208, + "step": 21488 + }, + { + "epoch": 2.848111332007952, + "grad_norm": 4.923513889312744, + "learning_rate": 3.15853143691755e-08, + "loss": 0.0218, + "num_input_tokens_seen": 42057680, + "step": 21489 + }, + { + "epoch": 2.8482438701126576, + "grad_norm": 0.023214422166347504, + "learning_rate": 3.1530331818603876e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42059320, + "step": 21490 + }, + { + "epoch": 2.8483764082173626, + "grad_norm": 0.005103986710309982, + "learning_rate": 3.1475396861830596e-08, + "loss": 0.0, + "num_input_tokens_seen": 42061832, + "step": 21491 + }, + { + "epoch": 2.8485089463220676, + "grad_norm": 0.05062860995531082, + "learning_rate": 3.1420509499914266e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42063224, + "step": 21492 + }, + { + "epoch": 2.8486414844267727, + "grad_norm": 0.0015596362063661218, + "learning_rate": 3.136566973391347e-08, + "loss": 0.0, + "num_input_tokens_seen": 42064432, + "step": 21493 + }, + { + "epoch": 2.8487740225314777, + "grad_norm": 0.039342768490314484, + "learning_rate": 3.131087756488599e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42066752, + "step": 21494 + }, + { + "epoch": 2.8489065606361827, + "grad_norm": 7.154979705810547, + "learning_rate": 3.1256132993887636e-08, + "loss": 0.0616, + "num_input_tokens_seen": 42069064, + "step": 21495 + }, + { + "epoch": 2.849039098740888, + "grad_norm": 0.0047095525078475475, + "learning_rate": 3.120143602197395e-08, + "loss": 0.0, + "num_input_tokens_seen": 42070960, + "step": 21496 + }, + { + "epoch": 2.8491716368455933, + "grad_norm": 0.011831262148916721, + "learning_rate": 3.114678665019993e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42072360, + "step": 21497 + }, + { + "epoch": 2.8493041749502983, + "grad_norm": 0.7917279601097107, + "learning_rate": 3.1092184879618904e-08, + "loss": 0.0028, + "num_input_tokens_seen": 42074480, + "step": 21498 + }, + { + "epoch": 2.8494367130550033, + "grad_norm": 0.02553957886993885, + "learning_rate": 3.1037630711283904e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42075640, + "step": 21499 + }, + { + "epoch": 2.8495692511597084, + "grad_norm": 0.012959788553416729, + "learning_rate": 3.0983124146246604e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42078296, + "step": 21500 + }, + { + "epoch": 2.8497017892644134, + "grad_norm": 16.327404022216797, + "learning_rate": 3.0928665185557815e-08, + "loss": 0.0726, + "num_input_tokens_seen": 42080184, + "step": 21501 + }, + { + "epoch": 2.8498343273691185, + "grad_norm": 0.19364070892333984, + "learning_rate": 3.0874253830267816e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42081744, + "step": 21502 + }, + { + "epoch": 2.8499668654738235, + "grad_norm": 16.6882381439209, + "learning_rate": 3.0819890081425494e-08, + "loss": 0.0525, + "num_input_tokens_seen": 42084384, + "step": 21503 + }, + { + "epoch": 2.850099403578529, + "grad_norm": 0.223484605550766, + "learning_rate": 3.076557394007917e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42086544, + "step": 21504 + }, + { + "epoch": 2.850231941683234, + "grad_norm": 0.19100338220596313, + "learning_rate": 3.071130540727607e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42088224, + "step": 21505 + }, + { + "epoch": 2.850364479787939, + "grad_norm": 0.31649988889694214, + "learning_rate": 3.065708448406229e-08, + "loss": 0.001, + "num_input_tokens_seen": 42090016, + "step": 21506 + }, + { + "epoch": 2.850497017892644, + "grad_norm": 0.4848686754703522, + "learning_rate": 3.0602911171483674e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42092016, + "step": 21507 + }, + { + "epoch": 2.850629555997349, + "grad_norm": 0.002843445399776101, + "learning_rate": 3.0548785470584095e-08, + "loss": 0.0, + "num_input_tokens_seen": 42093160, + "step": 21508 + }, + { + "epoch": 2.8507620941020546, + "grad_norm": 0.8613713979721069, + "learning_rate": 3.0494707382407727e-08, + "loss": 0.005, + "num_input_tokens_seen": 42095056, + "step": 21509 + }, + { + "epoch": 2.850894632206759, + "grad_norm": 8.344206809997559, + "learning_rate": 3.044067690799707e-08, + "loss": 0.024, + "num_input_tokens_seen": 42096808, + "step": 21510 + }, + { + "epoch": 2.8510271703114647, + "grad_norm": 0.01259254477918148, + "learning_rate": 3.0386694048394064e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42098408, + "step": 21511 + }, + { + "epoch": 2.8511597084161697, + "grad_norm": 10.377538681030273, + "learning_rate": 3.033275880463898e-08, + "loss": 0.1754, + "num_input_tokens_seen": 42100600, + "step": 21512 + }, + { + "epoch": 2.8512922465208748, + "grad_norm": 6.459046840667725, + "learning_rate": 3.0278871177772116e-08, + "loss": 0.0413, + "num_input_tokens_seen": 42103432, + "step": 21513 + }, + { + "epoch": 2.85142478462558, + "grad_norm": 7.098331451416016, + "learning_rate": 3.022503116883208e-08, + "loss": 0.0703, + "num_input_tokens_seen": 42105096, + "step": 21514 + }, + { + "epoch": 2.851557322730285, + "grad_norm": 8.956415176391602, + "learning_rate": 3.017123877885775e-08, + "loss": 0.2043, + "num_input_tokens_seen": 42107208, + "step": 21515 + }, + { + "epoch": 2.8516898608349903, + "grad_norm": 3.7101073265075684, + "learning_rate": 3.011749400888553e-08, + "loss": 0.0206, + "num_input_tokens_seen": 42109648, + "step": 21516 + }, + { + "epoch": 2.851822398939695, + "grad_norm": 0.07020027935504913, + "learning_rate": 3.006379685995209e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42111048, + "step": 21517 + }, + { + "epoch": 2.8519549370444004, + "grad_norm": 3.9727425575256348, + "learning_rate": 3.001014733309243e-08, + "loss": 0.0046, + "num_input_tokens_seen": 42112872, + "step": 21518 + }, + { + "epoch": 2.8520874751491054, + "grad_norm": 0.017590822651982307, + "learning_rate": 2.995654542934101e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42115600, + "step": 21519 + }, + { + "epoch": 2.8522200132538105, + "grad_norm": 0.03579111769795418, + "learning_rate": 2.9902991149731444e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42117944, + "step": 21520 + }, + { + "epoch": 2.8523525513585155, + "grad_norm": 8.085173606872559, + "learning_rate": 2.984948449529651e-08, + "loss": 0.0299, + "num_input_tokens_seen": 42120760, + "step": 21521 + }, + { + "epoch": 2.8524850894632205, + "grad_norm": 0.045443933457136154, + "learning_rate": 2.9796025467067337e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42124080, + "step": 21522 + }, + { + "epoch": 2.852617627567926, + "grad_norm": 8.209148406982422, + "learning_rate": 2.9742614066075038e-08, + "loss": 0.1279, + "num_input_tokens_seen": 42126328, + "step": 21523 + }, + { + "epoch": 2.8527501656726306, + "grad_norm": 0.007594657130539417, + "learning_rate": 2.968925029334907e-08, + "loss": 0.0, + "num_input_tokens_seen": 42127936, + "step": 21524 + }, + { + "epoch": 2.852882703777336, + "grad_norm": 0.0020971691701561213, + "learning_rate": 2.963593414991861e-08, + "loss": 0.0, + "num_input_tokens_seen": 42129240, + "step": 21525 + }, + { + "epoch": 2.853015241882041, + "grad_norm": 0.002518667373806238, + "learning_rate": 2.9582665636811447e-08, + "loss": 0.0, + "num_input_tokens_seen": 42130944, + "step": 21526 + }, + { + "epoch": 2.853147779986746, + "grad_norm": 3.5018136501312256, + "learning_rate": 2.9529444755054816e-08, + "loss": 0.0053, + "num_input_tokens_seen": 42132192, + "step": 21527 + }, + { + "epoch": 2.853280318091451, + "grad_norm": 6.4626288414001465, + "learning_rate": 2.9476271505675115e-08, + "loss": 0.068, + "num_input_tokens_seen": 42133848, + "step": 21528 + }, + { + "epoch": 2.8534128561961563, + "grad_norm": 7.315345764160156, + "learning_rate": 2.9423145889696804e-08, + "loss": 0.0425, + "num_input_tokens_seen": 42135704, + "step": 21529 + }, + { + "epoch": 2.8535453943008617, + "grad_norm": 0.12128118425607681, + "learning_rate": 2.9370067908144895e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42137392, + "step": 21530 + }, + { + "epoch": 2.8536779324055663, + "grad_norm": 0.12631213665008545, + "learning_rate": 2.9317037562042183e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42139688, + "step": 21531 + }, + { + "epoch": 2.853810470510272, + "grad_norm": 8.350948333740234, + "learning_rate": 2.926405485241146e-08, + "loss": 0.0308, + "num_input_tokens_seen": 42142600, + "step": 21532 + }, + { + "epoch": 2.853943008614977, + "grad_norm": 3.4920592308044434, + "learning_rate": 2.921111978027441e-08, + "loss": 0.0385, + "num_input_tokens_seen": 42144504, + "step": 21533 + }, + { + "epoch": 2.854075546719682, + "grad_norm": 3.794992208480835, + "learning_rate": 2.9158232346651605e-08, + "loss": 0.0235, + "num_input_tokens_seen": 42146504, + "step": 21534 + }, + { + "epoch": 2.854208084824387, + "grad_norm": 10.224516868591309, + "learning_rate": 2.910539255256223e-08, + "loss": 0.0334, + "num_input_tokens_seen": 42149472, + "step": 21535 + }, + { + "epoch": 2.854340622929092, + "grad_norm": 0.009973562322556973, + "learning_rate": 2.9052600399025744e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42151656, + "step": 21536 + }, + { + "epoch": 2.8544731610337974, + "grad_norm": 0.02455044910311699, + "learning_rate": 2.899985588705967e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42153504, + "step": 21537 + }, + { + "epoch": 2.8546056991385025, + "grad_norm": 6.4873809814453125, + "learning_rate": 2.894715901768097e-08, + "loss": 0.0721, + "num_input_tokens_seen": 42155608, + "step": 21538 + }, + { + "epoch": 2.8547382372432075, + "grad_norm": 0.05195096880197525, + "learning_rate": 2.8894509791906055e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42157568, + "step": 21539 + }, + { + "epoch": 2.8548707753479126, + "grad_norm": 0.0142402034252882, + "learning_rate": 2.8841908210749114e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42159160, + "step": 21540 + }, + { + "epoch": 2.8550033134526176, + "grad_norm": 0.08431531488895416, + "learning_rate": 2.8789354275225444e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42161712, + "step": 21541 + }, + { + "epoch": 2.8551358515573226, + "grad_norm": 0.004095221403986216, + "learning_rate": 2.873684798634785e-08, + "loss": 0.0, + "num_input_tokens_seen": 42162848, + "step": 21542 + }, + { + "epoch": 2.8552683896620277, + "grad_norm": 0.0011919178068637848, + "learning_rate": 2.8684389345128295e-08, + "loss": 0.0, + "num_input_tokens_seen": 42163880, + "step": 21543 + }, + { + "epoch": 2.855400927766733, + "grad_norm": 3.6090047359466553, + "learning_rate": 2.863197835257875e-08, + "loss": 0.0129, + "num_input_tokens_seen": 42165136, + "step": 21544 + }, + { + "epoch": 2.855533465871438, + "grad_norm": 0.031554218381643295, + "learning_rate": 2.8579615009709517e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42167088, + "step": 21545 + }, + { + "epoch": 2.8556660039761432, + "grad_norm": 2.682666778564453, + "learning_rate": 2.8527299317530345e-08, + "loss": 0.0618, + "num_input_tokens_seen": 42169224, + "step": 21546 + }, + { + "epoch": 2.8557985420808483, + "grad_norm": 0.22623561322689056, + "learning_rate": 2.8475031277050145e-08, + "loss": 0.0015, + "num_input_tokens_seen": 42171216, + "step": 21547 + }, + { + "epoch": 2.8559310801855533, + "grad_norm": 11.862945556640625, + "learning_rate": 2.8422810889275898e-08, + "loss": 0.1963, + "num_input_tokens_seen": 42173960, + "step": 21548 + }, + { + "epoch": 2.8560636182902583, + "grad_norm": 0.015091180801391602, + "learning_rate": 2.8370638155215125e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42175728, + "step": 21549 + }, + { + "epoch": 2.8561961563949634, + "grad_norm": 6.337652683258057, + "learning_rate": 2.8318513075873132e-08, + "loss": 0.0489, + "num_input_tokens_seen": 42177640, + "step": 21550 + }, + { + "epoch": 2.856328694499669, + "grad_norm": 3.359755039215088, + "learning_rate": 2.8266435652255785e-08, + "loss": 0.0186, + "num_input_tokens_seen": 42179592, + "step": 21551 + }, + { + "epoch": 2.856461232604374, + "grad_norm": 1.9638458490371704, + "learning_rate": 2.8214405885366724e-08, + "loss": 0.0113, + "num_input_tokens_seen": 42181832, + "step": 21552 + }, + { + "epoch": 2.856593770709079, + "grad_norm": 0.8414820432662964, + "learning_rate": 2.8162423776209035e-08, + "loss": 0.0031, + "num_input_tokens_seen": 42183512, + "step": 21553 + }, + { + "epoch": 2.856726308813784, + "grad_norm": 9.75345230102539, + "learning_rate": 2.8110489325784974e-08, + "loss": 0.0736, + "num_input_tokens_seen": 42185016, + "step": 21554 + }, + { + "epoch": 2.856858846918489, + "grad_norm": 5.08085298538208, + "learning_rate": 2.8058602535095957e-08, + "loss": 0.1567, + "num_input_tokens_seen": 42186624, + "step": 21555 + }, + { + "epoch": 2.856991385023194, + "grad_norm": 7.474252223968506, + "learning_rate": 2.8006763405142302e-08, + "loss": 0.0576, + "num_input_tokens_seen": 42188296, + "step": 21556 + }, + { + "epoch": 2.857123923127899, + "grad_norm": 0.012581606395542622, + "learning_rate": 2.7954971936923758e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42190144, + "step": 21557 + }, + { + "epoch": 2.8572564612326046, + "grad_norm": 3.340372323989868, + "learning_rate": 2.7903228131438697e-08, + "loss": 0.0196, + "num_input_tokens_seen": 42192488, + "step": 21558 + }, + { + "epoch": 2.8573889993373096, + "grad_norm": 11.64097785949707, + "learning_rate": 2.7851531989684932e-08, + "loss": 0.0741, + "num_input_tokens_seen": 42195144, + "step": 21559 + }, + { + "epoch": 2.8575215374420146, + "grad_norm": 0.012781533412635326, + "learning_rate": 2.779988351265861e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42196904, + "step": 21560 + }, + { + "epoch": 2.8576540755467197, + "grad_norm": 0.5476394295692444, + "learning_rate": 2.774828270135643e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42198904, + "step": 21561 + }, + { + "epoch": 2.8577866136514247, + "grad_norm": 0.5305120944976807, + "learning_rate": 2.7696729556772884e-08, + "loss": 0.0014, + "num_input_tokens_seen": 42200560, + "step": 21562 + }, + { + "epoch": 2.8579191517561298, + "grad_norm": 4.503376007080078, + "learning_rate": 2.7645224079901887e-08, + "loss": 0.047, + "num_input_tokens_seen": 42203152, + "step": 21563 + }, + { + "epoch": 2.858051689860835, + "grad_norm": 0.09058692306280136, + "learning_rate": 2.7593766271736544e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42205832, + "step": 21564 + }, + { + "epoch": 2.8581842279655403, + "grad_norm": 3.534839391708374, + "learning_rate": 2.7542356133268832e-08, + "loss": 0.01, + "num_input_tokens_seen": 42207688, + "step": 21565 + }, + { + "epoch": 2.8583167660702453, + "grad_norm": 15.308016777038574, + "learning_rate": 2.7490993665490462e-08, + "loss": 0.0819, + "num_input_tokens_seen": 42209232, + "step": 21566 + }, + { + "epoch": 2.8584493041749504, + "grad_norm": 2.941460132598877, + "learning_rate": 2.7439678869390917e-08, + "loss": 0.0093, + "num_input_tokens_seen": 42210632, + "step": 21567 + }, + { + "epoch": 2.8585818422796554, + "grad_norm": 3.7181968688964844, + "learning_rate": 2.7388411745960518e-08, + "loss": 0.03, + "num_input_tokens_seen": 42212784, + "step": 21568 + }, + { + "epoch": 2.8587143803843604, + "grad_norm": 6.756582736968994, + "learning_rate": 2.7337192296187364e-08, + "loss": 0.0859, + "num_input_tokens_seen": 42215224, + "step": 21569 + }, + { + "epoch": 2.8588469184890655, + "grad_norm": 0.0030467670876532793, + "learning_rate": 2.7286020521058998e-08, + "loss": 0.0, + "num_input_tokens_seen": 42216896, + "step": 21570 + }, + { + "epoch": 2.8589794565937705, + "grad_norm": 0.009037742391228676, + "learning_rate": 2.7234896421561573e-08, + "loss": 0.0, + "num_input_tokens_seen": 42218184, + "step": 21571 + }, + { + "epoch": 2.859111994698476, + "grad_norm": 2.048365592956543, + "learning_rate": 2.7183819998681526e-08, + "loss": 0.0052, + "num_input_tokens_seen": 42220232, + "step": 21572 + }, + { + "epoch": 2.859244532803181, + "grad_norm": 0.003953130450099707, + "learning_rate": 2.7132791253403345e-08, + "loss": 0.0, + "num_input_tokens_seen": 42221760, + "step": 21573 + }, + { + "epoch": 2.859377070907886, + "grad_norm": 6.039165019989014, + "learning_rate": 2.7081810186710688e-08, + "loss": 0.0333, + "num_input_tokens_seen": 42223472, + "step": 21574 + }, + { + "epoch": 2.859509609012591, + "grad_norm": 4.942966938018799, + "learning_rate": 2.7030876799586935e-08, + "loss": 0.0221, + "num_input_tokens_seen": 42225488, + "step": 21575 + }, + { + "epoch": 2.859642147117296, + "grad_norm": 0.8841825723648071, + "learning_rate": 2.69799910930138e-08, + "loss": 0.0044, + "num_input_tokens_seen": 42226984, + "step": 21576 + }, + { + "epoch": 2.859774685222001, + "grad_norm": 18.89573097229004, + "learning_rate": 2.6929153067972447e-08, + "loss": 0.1817, + "num_input_tokens_seen": 42229656, + "step": 21577 + }, + { + "epoch": 2.859907223326706, + "grad_norm": 15.131582260131836, + "learning_rate": 2.6878362725443198e-08, + "loss": 0.2164, + "num_input_tokens_seen": 42231448, + "step": 21578 + }, + { + "epoch": 2.8600397614314117, + "grad_norm": 0.0098275700584054, + "learning_rate": 2.6827620066405267e-08, + "loss": 0.0, + "num_input_tokens_seen": 42232736, + "step": 21579 + }, + { + "epoch": 2.8601722995361167, + "grad_norm": 2.343675374984741, + "learning_rate": 2.677692509183677e-08, + "loss": 0.0037, + "num_input_tokens_seen": 42235104, + "step": 21580 + }, + { + "epoch": 2.8603048376408218, + "grad_norm": 0.017611177638173103, + "learning_rate": 2.6726277802715528e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42237288, + "step": 21581 + }, + { + "epoch": 2.860437375745527, + "grad_norm": 6.342570781707764, + "learning_rate": 2.667567820001771e-08, + "loss": 0.0689, + "num_input_tokens_seen": 42239728, + "step": 21582 + }, + { + "epoch": 2.860569913850232, + "grad_norm": 0.3231405019760132, + "learning_rate": 2.6625126284719192e-08, + "loss": 0.0012, + "num_input_tokens_seen": 42241704, + "step": 21583 + }, + { + "epoch": 2.860702451954937, + "grad_norm": 7.155397415161133, + "learning_rate": 2.6574622057794762e-08, + "loss": 0.0473, + "num_input_tokens_seen": 42244248, + "step": 21584 + }, + { + "epoch": 2.860834990059642, + "grad_norm": 2.798198699951172, + "learning_rate": 2.6524165520217526e-08, + "loss": 0.0205, + "num_input_tokens_seen": 42247440, + "step": 21585 + }, + { + "epoch": 2.8609675281643474, + "grad_norm": 0.8360603451728821, + "learning_rate": 2.647375667296087e-08, + "loss": 0.0014, + "num_input_tokens_seen": 42248680, + "step": 21586 + }, + { + "epoch": 2.8611000662690524, + "grad_norm": 0.14519105851650238, + "learning_rate": 2.6423395516996798e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42250360, + "step": 21587 + }, + { + "epoch": 2.8612326043737575, + "grad_norm": 5.92405366897583, + "learning_rate": 2.637308205329592e-08, + "loss": 0.0208, + "num_input_tokens_seen": 42252944, + "step": 21588 + }, + { + "epoch": 2.8613651424784625, + "grad_norm": 5.489123344421387, + "learning_rate": 2.6322816282828567e-08, + "loss": 0.0588, + "num_input_tokens_seen": 42254632, + "step": 21589 + }, + { + "epoch": 2.8614976805831676, + "grad_norm": 0.11977170407772064, + "learning_rate": 2.6272598206563692e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42256904, + "step": 21590 + }, + { + "epoch": 2.861630218687873, + "grad_norm": 4.432560920715332, + "learning_rate": 2.6222427825469687e-08, + "loss": 0.0497, + "num_input_tokens_seen": 42258792, + "step": 21591 + }, + { + "epoch": 2.8617627567925776, + "grad_norm": 0.0009176672901958227, + "learning_rate": 2.617230514051383e-08, + "loss": 0.0, + "num_input_tokens_seen": 42260112, + "step": 21592 + }, + { + "epoch": 2.861895294897283, + "grad_norm": 0.002038666745647788, + "learning_rate": 2.6122230152662576e-08, + "loss": 0.0, + "num_input_tokens_seen": 42261280, + "step": 21593 + }, + { + "epoch": 2.862027833001988, + "grad_norm": 16.328203201293945, + "learning_rate": 2.6072202862881534e-08, + "loss": 0.1102, + "num_input_tokens_seen": 42263592, + "step": 21594 + }, + { + "epoch": 2.862160371106693, + "grad_norm": 0.03127090632915497, + "learning_rate": 2.602222327213494e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42265544, + "step": 21595 + }, + { + "epoch": 2.8622929092113982, + "grad_norm": 0.05780075490474701, + "learning_rate": 2.597229138138646e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42267160, + "step": 21596 + }, + { + "epoch": 2.8624254473161033, + "grad_norm": 1.4880731105804443, + "learning_rate": 2.592240719159894e-08, + "loss": 0.0026, + "num_input_tokens_seen": 42269168, + "step": 21597 + }, + { + "epoch": 2.8625579854208087, + "grad_norm": 0.032713957130908966, + "learning_rate": 2.587257070373439e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42271256, + "step": 21598 + }, + { + "epoch": 2.8626905235255133, + "grad_norm": 0.010266105644404888, + "learning_rate": 2.5822781918753426e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42272480, + "step": 21599 + }, + { + "epoch": 2.862823061630219, + "grad_norm": 0.0373479388654232, + "learning_rate": 2.5773040837616116e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42274784, + "step": 21600 + }, + { + "epoch": 2.862955599734924, + "grad_norm": 6.0270562171936035, + "learning_rate": 2.572334746128141e-08, + "loss": 0.0411, + "num_input_tokens_seen": 42276328, + "step": 21601 + }, + { + "epoch": 2.863088137839629, + "grad_norm": 0.4605582058429718, + "learning_rate": 2.567370179070744e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42277968, + "step": 21602 + }, + { + "epoch": 2.863220675944334, + "grad_norm": 0.02336639165878296, + "learning_rate": 2.562410382685149e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42279776, + "step": 21603 + }, + { + "epoch": 2.863353214049039, + "grad_norm": 0.003615527180954814, + "learning_rate": 2.5574553570669736e-08, + "loss": 0.0, + "num_input_tokens_seen": 42281928, + "step": 21604 + }, + { + "epoch": 2.8634857521537445, + "grad_norm": 5.4126973152160645, + "learning_rate": 2.5525051023117807e-08, + "loss": 0.0255, + "num_input_tokens_seen": 42283800, + "step": 21605 + }, + { + "epoch": 2.863618290258449, + "grad_norm": 0.001508770976215601, + "learning_rate": 2.5475596185149944e-08, + "loss": 0.0, + "num_input_tokens_seen": 42285296, + "step": 21606 + }, + { + "epoch": 2.8637508283631545, + "grad_norm": 53.955726623535156, + "learning_rate": 2.542618905771954e-08, + "loss": 0.9585, + "num_input_tokens_seen": 42287376, + "step": 21607 + }, + { + "epoch": 2.8638833664678596, + "grad_norm": 16.93720054626465, + "learning_rate": 2.5376829641779177e-08, + "loss": 0.0801, + "num_input_tokens_seen": 42288912, + "step": 21608 + }, + { + "epoch": 2.8640159045725646, + "grad_norm": 2.663635492324829, + "learning_rate": 2.5327517938280867e-08, + "loss": 0.0158, + "num_input_tokens_seen": 42291776, + "step": 21609 + }, + { + "epoch": 2.8641484426772696, + "grad_norm": 0.9739689230918884, + "learning_rate": 2.5278253948175237e-08, + "loss": 0.0062, + "num_input_tokens_seen": 42293800, + "step": 21610 + }, + { + "epoch": 2.8642809807819747, + "grad_norm": 2.988729476928711, + "learning_rate": 2.522903767241208e-08, + "loss": 0.0103, + "num_input_tokens_seen": 42295512, + "step": 21611 + }, + { + "epoch": 2.86441351888668, + "grad_norm": 2.6339926719665527, + "learning_rate": 2.517986911194009e-08, + "loss": 0.0075, + "num_input_tokens_seen": 42298152, + "step": 21612 + }, + { + "epoch": 2.8645460569913848, + "grad_norm": 3.9611356258392334, + "learning_rate": 2.513074826770795e-08, + "loss": 0.0114, + "num_input_tokens_seen": 42299992, + "step": 21613 + }, + { + "epoch": 2.8646785950960902, + "grad_norm": 0.027816010639071465, + "learning_rate": 2.508167514066212e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42301920, + "step": 21614 + }, + { + "epoch": 2.8648111332007953, + "grad_norm": 0.0120164779946208, + "learning_rate": 2.5032649731748792e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42303096, + "step": 21615 + }, + { + "epoch": 2.8649436713055003, + "grad_norm": 7.948295593261719, + "learning_rate": 2.4983672041913598e-08, + "loss": 0.1091, + "num_input_tokens_seen": 42304824, + "step": 21616 + }, + { + "epoch": 2.8650762094102054, + "grad_norm": 2.3466310501098633, + "learning_rate": 2.4934742072100505e-08, + "loss": 0.0074, + "num_input_tokens_seen": 42307216, + "step": 21617 + }, + { + "epoch": 2.8652087475149104, + "grad_norm": 0.0011500369291752577, + "learning_rate": 2.4885859823252924e-08, + "loss": 0.0, + "num_input_tokens_seen": 42308328, + "step": 21618 + }, + { + "epoch": 2.865341285619616, + "grad_norm": 8.245307922363281, + "learning_rate": 2.4837025296313712e-08, + "loss": 0.1021, + "num_input_tokens_seen": 42310416, + "step": 21619 + }, + { + "epoch": 2.8654738237243205, + "grad_norm": 0.10181114822626114, + "learning_rate": 2.478823849222406e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42312736, + "step": 21620 + }, + { + "epoch": 2.865606361829026, + "grad_norm": 0.00629626726731658, + "learning_rate": 2.4739499411924607e-08, + "loss": 0.0, + "num_input_tokens_seen": 42315488, + "step": 21621 + }, + { + "epoch": 2.865738899933731, + "grad_norm": 6.9653778076171875, + "learning_rate": 2.4690808056355432e-08, + "loss": 0.0901, + "num_input_tokens_seen": 42317952, + "step": 21622 + }, + { + "epoch": 2.865871438038436, + "grad_norm": 0.023661013692617416, + "learning_rate": 2.464216442645495e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42319536, + "step": 21623 + }, + { + "epoch": 2.866003976143141, + "grad_norm": 0.28355541825294495, + "learning_rate": 2.4593568523161303e-08, + "loss": 0.0013, + "num_input_tokens_seen": 42321344, + "step": 21624 + }, + { + "epoch": 2.866136514247846, + "grad_norm": 10.655150413513184, + "learning_rate": 2.454502034741152e-08, + "loss": 0.1781, + "num_input_tokens_seen": 42323304, + "step": 21625 + }, + { + "epoch": 2.8662690523525516, + "grad_norm": 0.012025518342852592, + "learning_rate": 2.4496519900140957e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42324784, + "step": 21626 + }, + { + "epoch": 2.8664015904572566, + "grad_norm": 11.229488372802734, + "learning_rate": 2.4448067182285818e-08, + "loss": 0.1752, + "num_input_tokens_seen": 42326496, + "step": 21627 + }, + { + "epoch": 2.8665341285619617, + "grad_norm": 6.366613388061523, + "learning_rate": 2.4399662194779238e-08, + "loss": 0.0481, + "num_input_tokens_seen": 42329376, + "step": 21628 + }, + { + "epoch": 2.8666666666666667, + "grad_norm": 1.2863168716430664, + "learning_rate": 2.4351304938555196e-08, + "loss": 0.006, + "num_input_tokens_seen": 42331800, + "step": 21629 + }, + { + "epoch": 2.8667992047713717, + "grad_norm": 9.116541862487793, + "learning_rate": 2.4302995414546005e-08, + "loss": 0.0714, + "num_input_tokens_seen": 42333480, + "step": 21630 + }, + { + "epoch": 2.8669317428760768, + "grad_norm": 23.86290168762207, + "learning_rate": 2.4254733623682858e-08, + "loss": 0.1617, + "num_input_tokens_seen": 42336456, + "step": 21631 + }, + { + "epoch": 2.867064280980782, + "grad_norm": 0.014077488332986832, + "learning_rate": 2.4206519566896403e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42338240, + "step": 21632 + }, + { + "epoch": 2.8671968190854873, + "grad_norm": 0.4011901617050171, + "learning_rate": 2.415835324511617e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42340160, + "step": 21633 + }, + { + "epoch": 2.8673293571901923, + "grad_norm": 0.0015562600456178188, + "learning_rate": 2.411023465927087e-08, + "loss": 0.0, + "num_input_tokens_seen": 42341928, + "step": 21634 + }, + { + "epoch": 2.8674618952948974, + "grad_norm": 0.1240721195936203, + "learning_rate": 2.4062163810288363e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42343448, + "step": 21635 + }, + { + "epoch": 2.8675944333996024, + "grad_norm": 1.2250924110412598, + "learning_rate": 2.401414069909541e-08, + "loss": 0.0094, + "num_input_tokens_seen": 42345328, + "step": 21636 + }, + { + "epoch": 2.8677269715043074, + "grad_norm": 2.543734550476074, + "learning_rate": 2.396616532661794e-08, + "loss": 0.0108, + "num_input_tokens_seen": 42348208, + "step": 21637 + }, + { + "epoch": 2.8678595096090125, + "grad_norm": 0.0018578172894194722, + "learning_rate": 2.3918237693780767e-08, + "loss": 0.0, + "num_input_tokens_seen": 42349432, + "step": 21638 + }, + { + "epoch": 2.8679920477137175, + "grad_norm": 0.0189815703779459, + "learning_rate": 2.387035780150787e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42350520, + "step": 21639 + }, + { + "epoch": 2.868124585818423, + "grad_norm": 0.00974790845066309, + "learning_rate": 2.382252565072324e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42352304, + "step": 21640 + }, + { + "epoch": 2.868257123923128, + "grad_norm": 4.263134956359863, + "learning_rate": 2.3774741242348355e-08, + "loss": 0.0239, + "num_input_tokens_seen": 42354096, + "step": 21641 + }, + { + "epoch": 2.868389662027833, + "grad_norm": 4.719553470611572, + "learning_rate": 2.37270045773047e-08, + "loss": 0.0676, + "num_input_tokens_seen": 42356560, + "step": 21642 + }, + { + "epoch": 2.868522200132538, + "grad_norm": 0.03760210797190666, + "learning_rate": 2.3679315656512382e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42359408, + "step": 21643 + }, + { + "epoch": 2.868654738237243, + "grad_norm": 1.6443088054656982, + "learning_rate": 2.3631674480891486e-08, + "loss": 0.023, + "num_input_tokens_seen": 42362096, + "step": 21644 + }, + { + "epoch": 2.868787276341948, + "grad_norm": 0.043302327394485474, + "learning_rate": 2.3584081051360174e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42364392, + "step": 21645 + }, + { + "epoch": 2.8689198144466532, + "grad_norm": 0.005287370178848505, + "learning_rate": 2.3536535368836323e-08, + "loss": 0.0, + "num_input_tokens_seen": 42366888, + "step": 21646 + }, + { + "epoch": 2.8690523525513587, + "grad_norm": 0.23173081874847412, + "learning_rate": 2.3489037434236418e-08, + "loss": 0.001, + "num_input_tokens_seen": 42369392, + "step": 21647 + }, + { + "epoch": 2.8691848906560637, + "grad_norm": 3.143131971359253, + "learning_rate": 2.3441587248476394e-08, + "loss": 0.0566, + "num_input_tokens_seen": 42372128, + "step": 21648 + }, + { + "epoch": 2.869317428760769, + "grad_norm": 0.008277269080281258, + "learning_rate": 2.3394184812471078e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42373696, + "step": 21649 + }, + { + "epoch": 2.869449966865474, + "grad_norm": 0.020477479323744774, + "learning_rate": 2.334683012713418e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42375600, + "step": 21650 + }, + { + "epoch": 2.869582504970179, + "grad_norm": 0.20695693790912628, + "learning_rate": 2.3299523193379138e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42378040, + "step": 21651 + }, + { + "epoch": 2.869715043074884, + "grad_norm": 0.0027679097838699818, + "learning_rate": 2.325226401211772e-08, + "loss": 0.0, + "num_input_tokens_seen": 42379232, + "step": 21652 + }, + { + "epoch": 2.869847581179589, + "grad_norm": 5.683372974395752, + "learning_rate": 2.320505258426142e-08, + "loss": 0.0388, + "num_input_tokens_seen": 42380600, + "step": 21653 + }, + { + "epoch": 2.8699801192842944, + "grad_norm": 0.09511028230190277, + "learning_rate": 2.315788891072035e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42383328, + "step": 21654 + }, + { + "epoch": 2.8701126573889995, + "grad_norm": 0.20621126890182495, + "learning_rate": 2.3110772992403774e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42385128, + "step": 21655 + }, + { + "epoch": 2.8702451954937045, + "grad_norm": 0.00502427015453577, + "learning_rate": 2.3063704830220136e-08, + "loss": 0.0, + "num_input_tokens_seen": 42387344, + "step": 21656 + }, + { + "epoch": 2.8703777335984095, + "grad_norm": 6.2559099197387695, + "learning_rate": 2.301668442507732e-08, + "loss": 0.033, + "num_input_tokens_seen": 42389192, + "step": 21657 + }, + { + "epoch": 2.8705102717031146, + "grad_norm": 3.7927937507629395, + "learning_rate": 2.2969711777881264e-08, + "loss": 0.019, + "num_input_tokens_seen": 42392288, + "step": 21658 + }, + { + "epoch": 2.8706428098078196, + "grad_norm": 0.008257139474153519, + "learning_rate": 2.2922786889538196e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42395112, + "step": 21659 + }, + { + "epoch": 2.8707753479125246, + "grad_norm": 10.56733226776123, + "learning_rate": 2.2875909760952665e-08, + "loss": 0.0757, + "num_input_tokens_seen": 42397064, + "step": 21660 + }, + { + "epoch": 2.87090788601723, + "grad_norm": 6.8338541984558105, + "learning_rate": 2.282908039302839e-08, + "loss": 0.0192, + "num_input_tokens_seen": 42398960, + "step": 21661 + }, + { + "epoch": 2.871040424121935, + "grad_norm": 20.688587188720703, + "learning_rate": 2.2782298786668265e-08, + "loss": 0.1028, + "num_input_tokens_seen": 42400576, + "step": 21662 + }, + { + "epoch": 2.87117296222664, + "grad_norm": 10.25086784362793, + "learning_rate": 2.2735564942774622e-08, + "loss": 0.0355, + "num_input_tokens_seen": 42402832, + "step": 21663 + }, + { + "epoch": 2.8713055003313452, + "grad_norm": 0.3733934462070465, + "learning_rate": 2.268887886224813e-08, + "loss": 0.0012, + "num_input_tokens_seen": 42404392, + "step": 21664 + }, + { + "epoch": 2.8714380384360503, + "grad_norm": 7.752166748046875, + "learning_rate": 2.2642240545988904e-08, + "loss": 0.1862, + "num_input_tokens_seen": 42406208, + "step": 21665 + }, + { + "epoch": 2.8715705765407553, + "grad_norm": 0.15452830493450165, + "learning_rate": 2.2595649994896494e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42407744, + "step": 21666 + }, + { + "epoch": 2.8717031146454604, + "grad_norm": 0.09544361382722855, + "learning_rate": 2.2549107209869082e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42409480, + "step": 21667 + }, + { + "epoch": 2.871835652750166, + "grad_norm": 3.3384268283843994, + "learning_rate": 2.2502612191803995e-08, + "loss": 0.0086, + "num_input_tokens_seen": 42411240, + "step": 21668 + }, + { + "epoch": 2.871968190854871, + "grad_norm": 1.4291062355041504, + "learning_rate": 2.2456164941597468e-08, + "loss": 0.0036, + "num_input_tokens_seen": 42413320, + "step": 21669 + }, + { + "epoch": 2.872100728959576, + "grad_norm": 9.687260627746582, + "learning_rate": 2.240976546014545e-08, + "loss": 0.1018, + "num_input_tokens_seen": 42414960, + "step": 21670 + }, + { + "epoch": 2.872233267064281, + "grad_norm": 3.645359754562378, + "learning_rate": 2.2363413748342223e-08, + "loss": 0.0463, + "num_input_tokens_seen": 42417040, + "step": 21671 + }, + { + "epoch": 2.872365805168986, + "grad_norm": 0.12051080912351608, + "learning_rate": 2.2317109807081794e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42418416, + "step": 21672 + }, + { + "epoch": 2.872498343273691, + "grad_norm": 0.31452521681785583, + "learning_rate": 2.2270853637256507e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42419912, + "step": 21673 + }, + { + "epoch": 2.872630881378396, + "grad_norm": 7.765163421630859, + "learning_rate": 2.2224645239758424e-08, + "loss": 0.088, + "num_input_tokens_seen": 42422232, + "step": 21674 + }, + { + "epoch": 2.8727634194831015, + "grad_norm": 6.41986608505249, + "learning_rate": 2.217848461547878e-08, + "loss": 0.0684, + "num_input_tokens_seen": 42423704, + "step": 21675 + }, + { + "epoch": 2.8728959575878066, + "grad_norm": 8.917693138122559, + "learning_rate": 2.2132371765307137e-08, + "loss": 0.0417, + "num_input_tokens_seen": 42426456, + "step": 21676 + }, + { + "epoch": 2.8730284956925116, + "grad_norm": 0.028219355270266533, + "learning_rate": 2.2086306690133062e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42428776, + "step": 21677 + }, + { + "epoch": 2.8731610337972167, + "grad_norm": 0.0066528404131531715, + "learning_rate": 2.2040289390844183e-08, + "loss": 0.0, + "num_input_tokens_seen": 42430672, + "step": 21678 + }, + { + "epoch": 2.8732935719019217, + "grad_norm": 3.178255796432495, + "learning_rate": 2.199431986832784e-08, + "loss": 0.0377, + "num_input_tokens_seen": 42432936, + "step": 21679 + }, + { + "epoch": 2.873426110006627, + "grad_norm": 3.7675628662109375, + "learning_rate": 2.194839812347055e-08, + "loss": 0.0282, + "num_input_tokens_seen": 42434432, + "step": 21680 + }, + { + "epoch": 2.8735586481113318, + "grad_norm": 3.441983222961426, + "learning_rate": 2.1902524157157988e-08, + "loss": 0.0081, + "num_input_tokens_seen": 42436304, + "step": 21681 + }, + { + "epoch": 2.8736911862160373, + "grad_norm": 0.007487286813557148, + "learning_rate": 2.18566979702739e-08, + "loss": 0.0, + "num_input_tokens_seen": 42439264, + "step": 21682 + }, + { + "epoch": 2.8738237243207423, + "grad_norm": 1.8212895393371582, + "learning_rate": 2.181091956370257e-08, + "loss": 0.0116, + "num_input_tokens_seen": 42441544, + "step": 21683 + }, + { + "epoch": 2.8739562624254473, + "grad_norm": 0.8910925984382629, + "learning_rate": 2.1765188938326354e-08, + "loss": 0.0048, + "num_input_tokens_seen": 42442816, + "step": 21684 + }, + { + "epoch": 2.8740888005301524, + "grad_norm": 9.363848686218262, + "learning_rate": 2.1719506095026767e-08, + "loss": 0.2196, + "num_input_tokens_seen": 42445088, + "step": 21685 + }, + { + "epoch": 2.8742213386348574, + "grad_norm": 0.5202776193618774, + "learning_rate": 2.1673871034684492e-08, + "loss": 0.0025, + "num_input_tokens_seen": 42447032, + "step": 21686 + }, + { + "epoch": 2.874353876739563, + "grad_norm": 9.840773582458496, + "learning_rate": 2.1628283758180215e-08, + "loss": 0.0919, + "num_input_tokens_seen": 42448936, + "step": 21687 + }, + { + "epoch": 2.8744864148442675, + "grad_norm": 0.005742209032177925, + "learning_rate": 2.158274426639212e-08, + "loss": 0.0, + "num_input_tokens_seen": 42450832, + "step": 21688 + }, + { + "epoch": 2.874618952948973, + "grad_norm": 0.03901435807347298, + "learning_rate": 2.1537252560198674e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42452984, + "step": 21689 + }, + { + "epoch": 2.874751491053678, + "grad_norm": 0.006571086123585701, + "learning_rate": 2.1491808640476396e-08, + "loss": 0.0, + "num_input_tokens_seen": 42455736, + "step": 21690 + }, + { + "epoch": 2.874884029158383, + "grad_norm": 4.665439128875732, + "learning_rate": 2.1446412508102366e-08, + "loss": 0.0328, + "num_input_tokens_seen": 42458072, + "step": 21691 + }, + { + "epoch": 2.875016567263088, + "grad_norm": 0.6568962931632996, + "learning_rate": 2.140106416395088e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42459448, + "step": 21692 + }, + { + "epoch": 2.875149105367793, + "grad_norm": 2.5970985889434814, + "learning_rate": 2.1355763608897072e-08, + "loss": 0.0147, + "num_input_tokens_seen": 42461104, + "step": 21693 + }, + { + "epoch": 2.8752816434724986, + "grad_norm": 0.8434082865715027, + "learning_rate": 2.1310510843814137e-08, + "loss": 0.0022, + "num_input_tokens_seen": 42463064, + "step": 21694 + }, + { + "epoch": 2.875414181577203, + "grad_norm": 0.04172539338469505, + "learning_rate": 2.1265305869574426e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42464944, + "step": 21695 + }, + { + "epoch": 2.8755467196819087, + "grad_norm": 0.002152903936803341, + "learning_rate": 2.122014868704947e-08, + "loss": 0.0, + "num_input_tokens_seen": 42466488, + "step": 21696 + }, + { + "epoch": 2.8756792577866137, + "grad_norm": 6.342823505401611, + "learning_rate": 2.1175039297110235e-08, + "loss": 0.039, + "num_input_tokens_seen": 42467848, + "step": 21697 + }, + { + "epoch": 2.8758117958913187, + "grad_norm": 0.06377577781677246, + "learning_rate": 2.1129977700626304e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42470000, + "step": 21698 + }, + { + "epoch": 2.875944333996024, + "grad_norm": 1.3428319692611694, + "learning_rate": 2.1084963898466427e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42471216, + "step": 21699 + }, + { + "epoch": 2.876076872100729, + "grad_norm": 0.01016664132475853, + "learning_rate": 2.1039997891498522e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42474608, + "step": 21700 + }, + { + "epoch": 2.8762094102054343, + "grad_norm": 12.080531120300293, + "learning_rate": 2.099507968058967e-08, + "loss": 0.1034, + "num_input_tokens_seen": 42476360, + "step": 21701 + }, + { + "epoch": 2.876341948310139, + "grad_norm": 0.036984700709581375, + "learning_rate": 2.0950209266605846e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42479440, + "step": 21702 + }, + { + "epoch": 2.8764744864148444, + "grad_norm": 8.265290260314941, + "learning_rate": 2.0905386650412197e-08, + "loss": 0.1447, + "num_input_tokens_seen": 42481464, + "step": 21703 + }, + { + "epoch": 2.8766070245195494, + "grad_norm": 0.4845183193683624, + "learning_rate": 2.0860611832873024e-08, + "loss": 0.0022, + "num_input_tokens_seen": 42483000, + "step": 21704 + }, + { + "epoch": 2.8767395626242545, + "grad_norm": 0.013882378116250038, + "learning_rate": 2.081588481485125e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42484728, + "step": 21705 + }, + { + "epoch": 2.8768721007289595, + "grad_norm": 0.2727926969528198, + "learning_rate": 2.0771205597209798e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42486768, + "step": 21706 + }, + { + "epoch": 2.8770046388336645, + "grad_norm": 0.015065119601786137, + "learning_rate": 2.0726574180809646e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42488552, + "step": 21707 + }, + { + "epoch": 2.87713717693837, + "grad_norm": 0.021624000743031502, + "learning_rate": 2.0681990566511768e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42490104, + "step": 21708 + }, + { + "epoch": 2.877269715043075, + "grad_norm": 0.14539587497711182, + "learning_rate": 2.0637454755175203e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42492544, + "step": 21709 + }, + { + "epoch": 2.87740225314778, + "grad_norm": 0.06341344863176346, + "learning_rate": 2.0592966747658983e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42494744, + "step": 21710 + }, + { + "epoch": 2.877534791252485, + "grad_norm": 0.03968055918812752, + "learning_rate": 2.0548526544821033e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42496696, + "step": 21711 + }, + { + "epoch": 2.87766732935719, + "grad_norm": 0.0029678787104785442, + "learning_rate": 2.0504134147517894e-08, + "loss": 0.0, + "num_input_tokens_seen": 42498392, + "step": 21712 + }, + { + "epoch": 2.877799867461895, + "grad_norm": 0.17011205852031708, + "learning_rate": 2.0459789556605548e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42500440, + "step": 21713 + }, + { + "epoch": 2.8779324055666002, + "grad_norm": 4.736098766326904, + "learning_rate": 2.0415492772938862e-08, + "loss": 0.0498, + "num_input_tokens_seen": 42502424, + "step": 21714 + }, + { + "epoch": 2.8780649436713057, + "grad_norm": 6.867688179016113, + "learning_rate": 2.0371243797372152e-08, + "loss": 0.0531, + "num_input_tokens_seen": 42504400, + "step": 21715 + }, + { + "epoch": 2.8781974817760108, + "grad_norm": 0.007529549766331911, + "learning_rate": 2.0327042630758355e-08, + "loss": 0.0, + "num_input_tokens_seen": 42506792, + "step": 21716 + }, + { + "epoch": 2.878330019880716, + "grad_norm": 5.492095947265625, + "learning_rate": 2.0282889273950114e-08, + "loss": 0.0499, + "num_input_tokens_seen": 42508944, + "step": 21717 + }, + { + "epoch": 2.878462557985421, + "grad_norm": 0.07597468048334122, + "learning_rate": 2.0238783727798138e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42510712, + "step": 21718 + }, + { + "epoch": 2.878595096090126, + "grad_norm": 6.721797943115234, + "learning_rate": 2.0194725993153418e-08, + "loss": 0.0291, + "num_input_tokens_seen": 42512656, + "step": 21719 + }, + { + "epoch": 2.878727634194831, + "grad_norm": 4.492206573486328, + "learning_rate": 2.0150716070864995e-08, + "loss": 0.0152, + "num_input_tokens_seen": 42514312, + "step": 21720 + }, + { + "epoch": 2.878860172299536, + "grad_norm": 0.4439235031604767, + "learning_rate": 2.0106753961781354e-08, + "loss": 0.0029, + "num_input_tokens_seen": 42516360, + "step": 21721 + }, + { + "epoch": 2.8789927104042414, + "grad_norm": 0.021872833371162415, + "learning_rate": 2.0062839666750154e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42519032, + "step": 21722 + }, + { + "epoch": 2.8791252485089465, + "grad_norm": 0.0074595315381884575, + "learning_rate": 2.0018973186618494e-08, + "loss": 0.0, + "num_input_tokens_seen": 42520248, + "step": 21723 + }, + { + "epoch": 2.8792577866136515, + "grad_norm": 0.01594364084303379, + "learning_rate": 1.9975154522232087e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42521784, + "step": 21724 + }, + { + "epoch": 2.8793903247183565, + "grad_norm": 0.011900728568434715, + "learning_rate": 1.9931383674435255e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42523408, + "step": 21725 + }, + { + "epoch": 2.8795228628230616, + "grad_norm": 0.009303472936153412, + "learning_rate": 1.9887660644072325e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42524568, + "step": 21726 + }, + { + "epoch": 2.8796554009277666, + "grad_norm": 6.740594387054443, + "learning_rate": 1.9843985431986235e-08, + "loss": 0.0195, + "num_input_tokens_seen": 42526728, + "step": 21727 + }, + { + "epoch": 2.8797879390324717, + "grad_norm": 0.009153252467513084, + "learning_rate": 1.9800358039019086e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42529176, + "step": 21728 + }, + { + "epoch": 2.879920477137177, + "grad_norm": 0.009961471892893314, + "learning_rate": 1.975677846601215e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42530720, + "step": 21729 + }, + { + "epoch": 2.880053015241882, + "grad_norm": 2.2072718143463135, + "learning_rate": 1.9713246713805588e-08, + "loss": 0.0043, + "num_input_tokens_seen": 42531856, + "step": 21730 + }, + { + "epoch": 2.880185553346587, + "grad_norm": 10.182709693908691, + "learning_rate": 1.9669762783238456e-08, + "loss": 0.1179, + "num_input_tokens_seen": 42534376, + "step": 21731 + }, + { + "epoch": 2.8803180914512923, + "grad_norm": 0.14054341614246368, + "learning_rate": 1.9626326675149522e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42536656, + "step": 21732 + }, + { + "epoch": 2.8804506295559973, + "grad_norm": 0.009076383896172047, + "learning_rate": 1.9582938390375893e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42538096, + "step": 21733 + }, + { + "epoch": 2.8805831676607023, + "grad_norm": 0.01048740092664957, + "learning_rate": 1.9539597929754683e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42540968, + "step": 21734 + }, + { + "epoch": 2.8807157057654074, + "grad_norm": 0.07054173201322556, + "learning_rate": 1.949630529412133e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42543272, + "step": 21735 + }, + { + "epoch": 2.880848243870113, + "grad_norm": 0.03623688220977783, + "learning_rate": 1.945306048431017e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42545344, + "step": 21736 + }, + { + "epoch": 2.880980781974818, + "grad_norm": 0.028118977323174477, + "learning_rate": 1.9409863501155258e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42547176, + "step": 21737 + }, + { + "epoch": 2.881113320079523, + "grad_norm": 15.747359275817871, + "learning_rate": 1.9366714345489534e-08, + "loss": 0.1386, + "num_input_tokens_seen": 42550160, + "step": 21738 + }, + { + "epoch": 2.881245858184228, + "grad_norm": 4.383615970611572, + "learning_rate": 1.932361301814456e-08, + "loss": 0.0119, + "num_input_tokens_seen": 42551864, + "step": 21739 + }, + { + "epoch": 2.881378396288933, + "grad_norm": 2.640383005142212, + "learning_rate": 1.928055951995189e-08, + "loss": 0.0349, + "num_input_tokens_seen": 42553472, + "step": 21740 + }, + { + "epoch": 2.881510934393638, + "grad_norm": 1.5517865419387817, + "learning_rate": 1.923755385174142e-08, + "loss": 0.0109, + "num_input_tokens_seen": 42555400, + "step": 21741 + }, + { + "epoch": 2.881643472498343, + "grad_norm": 0.03025534376502037, + "learning_rate": 1.9194596014342204e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42556992, + "step": 21742 + }, + { + "epoch": 2.8817760106030486, + "grad_norm": 14.83239459991455, + "learning_rate": 1.9151686008582747e-08, + "loss": 0.3637, + "num_input_tokens_seen": 42561088, + "step": 21743 + }, + { + "epoch": 2.8819085487077536, + "grad_norm": 16.01445770263672, + "learning_rate": 1.9108823835290168e-08, + "loss": 0.2057, + "num_input_tokens_seen": 42564112, + "step": 21744 + }, + { + "epoch": 2.8820410868124586, + "grad_norm": 2.6291191577911377, + "learning_rate": 1.9066009495291028e-08, + "loss": 0.0071, + "num_input_tokens_seen": 42565552, + "step": 21745 + }, + { + "epoch": 2.8821736249171637, + "grad_norm": 0.9352185726165771, + "learning_rate": 1.9023242989410496e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42567480, + "step": 21746 + }, + { + "epoch": 2.8823061630218687, + "grad_norm": 0.018471039831638336, + "learning_rate": 1.898052431847347e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42570792, + "step": 21747 + }, + { + "epoch": 2.8824387011265737, + "grad_norm": 0.0039279102347791195, + "learning_rate": 1.8937853483303735e-08, + "loss": 0.0, + "num_input_tokens_seen": 42572664, + "step": 21748 + }, + { + "epoch": 2.882571239231279, + "grad_norm": 0.02657441236078739, + "learning_rate": 1.8895230484723692e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42575224, + "step": 21749 + }, + { + "epoch": 2.8827037773359843, + "grad_norm": 12.278406143188477, + "learning_rate": 1.885265532355518e-08, + "loss": 0.0869, + "num_input_tokens_seen": 42577728, + "step": 21750 + }, + { + "epoch": 2.8828363154406893, + "grad_norm": 16.79652214050293, + "learning_rate": 1.8810128000618932e-08, + "loss": 0.0758, + "num_input_tokens_seen": 42579176, + "step": 21751 + }, + { + "epoch": 2.8829688535453943, + "grad_norm": 8.590455055236816, + "learning_rate": 1.8767648516735126e-08, + "loss": 0.1589, + "num_input_tokens_seen": 42581704, + "step": 21752 + }, + { + "epoch": 2.8831013916500994, + "grad_norm": 0.6413662433624268, + "learning_rate": 1.8725216872722828e-08, + "loss": 0.003, + "num_input_tokens_seen": 42583904, + "step": 21753 + }, + { + "epoch": 2.8832339297548044, + "grad_norm": 0.13234147429466248, + "learning_rate": 1.8682833069400274e-08, + "loss": 0.001, + "num_input_tokens_seen": 42585240, + "step": 21754 + }, + { + "epoch": 2.8833664678595095, + "grad_norm": 0.002945690881460905, + "learning_rate": 1.8640497107584586e-08, + "loss": 0.0, + "num_input_tokens_seen": 42586896, + "step": 21755 + }, + { + "epoch": 2.8834990059642145, + "grad_norm": 1.6607190370559692, + "learning_rate": 1.8598208988091504e-08, + "loss": 0.0128, + "num_input_tokens_seen": 42588888, + "step": 21756 + }, + { + "epoch": 2.88363154406892, + "grad_norm": 3.9055895805358887, + "learning_rate": 1.855596871173676e-08, + "loss": 0.0287, + "num_input_tokens_seen": 42590536, + "step": 21757 + }, + { + "epoch": 2.883764082173625, + "grad_norm": 0.08381219953298569, + "learning_rate": 1.851377627933526e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42591760, + "step": 21758 + }, + { + "epoch": 2.88389662027833, + "grad_norm": 0.008764654397964478, + "learning_rate": 1.8471631691699688e-08, + "loss": 0.0, + "num_input_tokens_seen": 42592968, + "step": 21759 + }, + { + "epoch": 2.884029158383035, + "grad_norm": 0.03767247125506401, + "learning_rate": 1.842953494964328e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42595616, + "step": 21760 + }, + { + "epoch": 2.88416169648774, + "grad_norm": 4.955318927764893, + "learning_rate": 1.8387486053977056e-08, + "loss": 0.0516, + "num_input_tokens_seen": 42598472, + "step": 21761 + }, + { + "epoch": 2.8842942345924456, + "grad_norm": 2.9059388637542725, + "learning_rate": 1.834548500551231e-08, + "loss": 0.0247, + "num_input_tokens_seen": 42600120, + "step": 21762 + }, + { + "epoch": 2.88442677269715, + "grad_norm": 25.11546516418457, + "learning_rate": 1.8303531805058394e-08, + "loss": 0.266, + "num_input_tokens_seen": 42601904, + "step": 21763 + }, + { + "epoch": 2.8845593108018557, + "grad_norm": 0.009374380111694336, + "learning_rate": 1.8261626453424663e-08, + "loss": 0.0, + "num_input_tokens_seen": 42603256, + "step": 21764 + }, + { + "epoch": 2.8846918489065607, + "grad_norm": 0.26204389333724976, + "learning_rate": 1.8219768951418527e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42605320, + "step": 21765 + }, + { + "epoch": 2.8848243870112658, + "grad_norm": 4.270134925842285, + "learning_rate": 1.817795929984767e-08, + "loss": 0.0294, + "num_input_tokens_seen": 42606936, + "step": 21766 + }, + { + "epoch": 2.884956925115971, + "grad_norm": 9.965041160583496, + "learning_rate": 1.813619749951784e-08, + "loss": 0.1455, + "num_input_tokens_seen": 42609440, + "step": 21767 + }, + { + "epoch": 2.885089463220676, + "grad_norm": 21.464330673217773, + "learning_rate": 1.8094483551233943e-08, + "loss": 0.2571, + "num_input_tokens_seen": 42610944, + "step": 21768 + }, + { + "epoch": 2.8852220013253813, + "grad_norm": 3.57464599609375, + "learning_rate": 1.8052817455800897e-08, + "loss": 0.0305, + "num_input_tokens_seen": 42612848, + "step": 21769 + }, + { + "epoch": 2.885354539430086, + "grad_norm": 0.2957526743412018, + "learning_rate": 1.801119921402167e-08, + "loss": 0.0015, + "num_input_tokens_seen": 42614472, + "step": 21770 + }, + { + "epoch": 2.8854870775347914, + "grad_norm": 4.880345344543457, + "learning_rate": 1.796962882669867e-08, + "loss": 0.0183, + "num_input_tokens_seen": 42616760, + "step": 21771 + }, + { + "epoch": 2.8856196156394964, + "grad_norm": 8.757031440734863, + "learning_rate": 1.792810629463376e-08, + "loss": 0.0154, + "num_input_tokens_seen": 42619656, + "step": 21772 + }, + { + "epoch": 2.8857521537442015, + "grad_norm": 0.007824905216693878, + "learning_rate": 1.7886631618626858e-08, + "loss": 0.0, + "num_input_tokens_seen": 42620800, + "step": 21773 + }, + { + "epoch": 2.8858846918489065, + "grad_norm": 2.5010392665863037, + "learning_rate": 1.7845204799478434e-08, + "loss": 0.0097, + "num_input_tokens_seen": 42622280, + "step": 21774 + }, + { + "epoch": 2.8860172299536115, + "grad_norm": 1.4397038221359253, + "learning_rate": 1.7803825837986456e-08, + "loss": 0.0067, + "num_input_tokens_seen": 42624280, + "step": 21775 + }, + { + "epoch": 2.886149768058317, + "grad_norm": 0.34597355127334595, + "learning_rate": 1.7762494734949176e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42626472, + "step": 21776 + }, + { + "epoch": 2.8862823061630216, + "grad_norm": 8.39917278289795, + "learning_rate": 1.7721211491163458e-08, + "loss": 0.0552, + "num_input_tokens_seen": 42628840, + "step": 21777 + }, + { + "epoch": 2.886414844267727, + "grad_norm": 5.2002997398376465, + "learning_rate": 1.7679976107425333e-08, + "loss": 0.0254, + "num_input_tokens_seen": 42630688, + "step": 21778 + }, + { + "epoch": 2.886547382372432, + "grad_norm": 6.080469131469727, + "learning_rate": 1.763878858452972e-08, + "loss": 0.0227, + "num_input_tokens_seen": 42633032, + "step": 21779 + }, + { + "epoch": 2.886679920477137, + "grad_norm": 2.3813304901123047, + "learning_rate": 1.7597648923270426e-08, + "loss": 0.0024, + "num_input_tokens_seen": 42634480, + "step": 21780 + }, + { + "epoch": 2.886812458581842, + "grad_norm": 0.039499830454587936, + "learning_rate": 1.7556557124441264e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42636584, + "step": 21781 + }, + { + "epoch": 2.8869449966865472, + "grad_norm": 0.25914257764816284, + "learning_rate": 1.7515513188834375e-08, + "loss": 0.0013, + "num_input_tokens_seen": 42638888, + "step": 21782 + }, + { + "epoch": 2.8870775347912527, + "grad_norm": 6.190903663635254, + "learning_rate": 1.7474517117240518e-08, + "loss": 0.0443, + "num_input_tokens_seen": 42640968, + "step": 21783 + }, + { + "epoch": 2.8872100728959573, + "grad_norm": 7.2174072265625, + "learning_rate": 1.7433568910451003e-08, + "loss": 0.1181, + "num_input_tokens_seen": 42643128, + "step": 21784 + }, + { + "epoch": 2.887342611000663, + "grad_norm": 0.4529682695865631, + "learning_rate": 1.7392668569254645e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42644856, + "step": 21785 + }, + { + "epoch": 2.887475149105368, + "grad_norm": 0.14502069354057312, + "learning_rate": 1.7351816094440534e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42647392, + "step": 21786 + }, + { + "epoch": 2.887607687210073, + "grad_norm": 6.466854095458984, + "learning_rate": 1.7311011486795816e-08, + "loss": 0.0263, + "num_input_tokens_seen": 42649416, + "step": 21787 + }, + { + "epoch": 2.887740225314778, + "grad_norm": 0.2678705155849457, + "learning_rate": 1.727025474710764e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42651040, + "step": 21788 + }, + { + "epoch": 2.887872763419483, + "grad_norm": 3.4545094966888428, + "learning_rate": 1.722954587616177e-08, + "loss": 0.0167, + "num_input_tokens_seen": 42653032, + "step": 21789 + }, + { + "epoch": 2.8880053015241884, + "grad_norm": 16.618690490722656, + "learning_rate": 1.718888487474313e-08, + "loss": 0.1934, + "num_input_tokens_seen": 42654856, + "step": 21790 + }, + { + "epoch": 2.888137839628893, + "grad_norm": 4.440697193145752, + "learning_rate": 1.7148271743635536e-08, + "loss": 0.0119, + "num_input_tokens_seen": 42657368, + "step": 21791 + }, + { + "epoch": 2.8882703777335985, + "grad_norm": 0.014543090015649796, + "learning_rate": 1.71077064836217e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42659016, + "step": 21792 + }, + { + "epoch": 2.8884029158383036, + "grad_norm": 4.472564220428467, + "learning_rate": 1.7067189095484605e-08, + "loss": 0.0598, + "num_input_tokens_seen": 42660656, + "step": 21793 + }, + { + "epoch": 2.8885354539430086, + "grad_norm": 0.02428354322910309, + "learning_rate": 1.7026719580004736e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42662544, + "step": 21794 + }, + { + "epoch": 2.8886679920477136, + "grad_norm": 9.320484161376953, + "learning_rate": 1.698629793796286e-08, + "loss": 0.1232, + "num_input_tokens_seen": 42664512, + "step": 21795 + }, + { + "epoch": 2.8888005301524187, + "grad_norm": 0.9706075191497803, + "learning_rate": 1.6945924170138072e-08, + "loss": 0.0054, + "num_input_tokens_seen": 42666728, + "step": 21796 + }, + { + "epoch": 2.888933068257124, + "grad_norm": 6.47089958190918, + "learning_rate": 1.6905598277308644e-08, + "loss": 0.14, + "num_input_tokens_seen": 42669016, + "step": 21797 + }, + { + "epoch": 2.889065606361829, + "grad_norm": 5.111827373504639, + "learning_rate": 1.686532026025228e-08, + "loss": 0.0289, + "num_input_tokens_seen": 42670728, + "step": 21798 + }, + { + "epoch": 2.8891981444665342, + "grad_norm": 0.054378002882003784, + "learning_rate": 1.682509011974559e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42672608, + "step": 21799 + }, + { + "epoch": 2.8893306825712393, + "grad_norm": 0.5560510754585266, + "learning_rate": 1.6784907856564336e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42674736, + "step": 21800 + }, + { + "epoch": 2.8894632206759443, + "grad_norm": 0.00109343440271914, + "learning_rate": 1.6744773471483178e-08, + "loss": 0.0, + "num_input_tokens_seen": 42676152, + "step": 21801 + }, + { + "epoch": 2.8895957587806493, + "grad_norm": 0.03358738496899605, + "learning_rate": 1.670468696527594e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42677808, + "step": 21802 + }, + { + "epoch": 2.8897282968853544, + "grad_norm": 0.05505892634391785, + "learning_rate": 1.6664648338715338e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42679752, + "step": 21803 + }, + { + "epoch": 2.88986083499006, + "grad_norm": 1.9368375539779663, + "learning_rate": 1.6624657592573534e-08, + "loss": 0.0043, + "num_input_tokens_seen": 42681128, + "step": 21804 + }, + { + "epoch": 2.889993373094765, + "grad_norm": 0.0030798695515841246, + "learning_rate": 1.6584714727621297e-08, + "loss": 0.0, + "num_input_tokens_seen": 42682536, + "step": 21805 + }, + { + "epoch": 2.89012591119947, + "grad_norm": 0.27509772777557373, + "learning_rate": 1.6544819744629124e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42684216, + "step": 21806 + }, + { + "epoch": 2.890258449304175, + "grad_norm": 0.028223685920238495, + "learning_rate": 1.65049726443664e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42685664, + "step": 21807 + }, + { + "epoch": 2.89039098740888, + "grad_norm": 16.499895095825195, + "learning_rate": 1.6465173427600844e-08, + "loss": 0.1276, + "num_input_tokens_seen": 42688664, + "step": 21808 + }, + { + "epoch": 2.890523525513585, + "grad_norm": 0.047535490244627, + "learning_rate": 1.6425422095099898e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42690336, + "step": 21809 + }, + { + "epoch": 2.89065606361829, + "grad_norm": 0.28025877475738525, + "learning_rate": 1.6385718647630166e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42693080, + "step": 21810 + }, + { + "epoch": 2.8907886017229956, + "grad_norm": 0.0013176877982914448, + "learning_rate": 1.6346063085957155e-08, + "loss": 0.0, + "num_input_tokens_seen": 42695720, + "step": 21811 + }, + { + "epoch": 2.8909211398277006, + "grad_norm": 8.358757972717285, + "learning_rate": 1.6306455410845522e-08, + "loss": 0.0827, + "num_input_tokens_seen": 42697360, + "step": 21812 + }, + { + "epoch": 2.8910536779324056, + "grad_norm": 0.2825828790664673, + "learning_rate": 1.626689562305883e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42700296, + "step": 21813 + }, + { + "epoch": 2.8911862160371107, + "grad_norm": 15.404608726501465, + "learning_rate": 1.62273837233598e-08, + "loss": 0.187, + "num_input_tokens_seen": 42701800, + "step": 21814 + }, + { + "epoch": 2.8913187541418157, + "grad_norm": 0.007021215278655291, + "learning_rate": 1.6187919712510324e-08, + "loss": 0.0, + "num_input_tokens_seen": 42703240, + "step": 21815 + }, + { + "epoch": 2.8914512922465208, + "grad_norm": 3.0171751976013184, + "learning_rate": 1.6148503591271182e-08, + "loss": 0.0101, + "num_input_tokens_seen": 42705456, + "step": 21816 + }, + { + "epoch": 2.891583830351226, + "grad_norm": 0.016001442447304726, + "learning_rate": 1.6109135360402595e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42707464, + "step": 21817 + }, + { + "epoch": 2.8917163684559313, + "grad_norm": 12.613093376159668, + "learning_rate": 1.6069815020663125e-08, + "loss": 0.0871, + "num_input_tokens_seen": 42709360, + "step": 21818 + }, + { + "epoch": 2.8918489065606363, + "grad_norm": 0.2810207009315491, + "learning_rate": 1.6030542572811615e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42710944, + "step": 21819 + }, + { + "epoch": 2.8919814446653413, + "grad_norm": 0.003911016974598169, + "learning_rate": 1.5991318017604395e-08, + "loss": 0.0, + "num_input_tokens_seen": 42712712, + "step": 21820 + }, + { + "epoch": 2.8921139827700464, + "grad_norm": 8.695013046264648, + "learning_rate": 1.5952141355798368e-08, + "loss": 0.0594, + "num_input_tokens_seen": 42715336, + "step": 21821 + }, + { + "epoch": 2.8922465208747514, + "grad_norm": 0.08680420368909836, + "learning_rate": 1.5913012588148757e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42717240, + "step": 21822 + }, + { + "epoch": 2.8923790589794565, + "grad_norm": 20.08997917175293, + "learning_rate": 1.587393171540996e-08, + "loss": 0.4566, + "num_input_tokens_seen": 42719456, + "step": 21823 + }, + { + "epoch": 2.8925115970841615, + "grad_norm": 16.35171890258789, + "learning_rate": 1.583489873833527e-08, + "loss": 0.195, + "num_input_tokens_seen": 42720960, + "step": 21824 + }, + { + "epoch": 2.892644135188867, + "grad_norm": 1.8816537857055664, + "learning_rate": 1.5795913657677686e-08, + "loss": 0.0082, + "num_input_tokens_seen": 42723368, + "step": 21825 + }, + { + "epoch": 2.892776673293572, + "grad_norm": 4.2345967292785645, + "learning_rate": 1.5756976474188558e-08, + "loss": 0.1209, + "num_input_tokens_seen": 42725544, + "step": 21826 + }, + { + "epoch": 2.892909211398277, + "grad_norm": 0.023701287806034088, + "learning_rate": 1.5718087188618948e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42727472, + "step": 21827 + }, + { + "epoch": 2.893041749502982, + "grad_norm": 0.15921413898468018, + "learning_rate": 1.5679245801717978e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42729704, + "step": 21828 + }, + { + "epoch": 2.893174287607687, + "grad_norm": 0.1450648456811905, + "learning_rate": 1.5640452314235332e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42731496, + "step": 21829 + }, + { + "epoch": 2.893306825712392, + "grad_norm": 6.471755504608154, + "learning_rate": 1.5601706726918463e-08, + "loss": 0.0444, + "num_input_tokens_seen": 42733696, + "step": 21830 + }, + { + "epoch": 2.893439363817097, + "grad_norm": 4.941380500793457, + "learning_rate": 1.556300904051483e-08, + "loss": 0.0272, + "num_input_tokens_seen": 42735936, + "step": 21831 + }, + { + "epoch": 2.8935719019218027, + "grad_norm": 0.02417609840631485, + "learning_rate": 1.5524359255770227e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42737936, + "step": 21832 + }, + { + "epoch": 2.8937044400265077, + "grad_norm": 0.768993079662323, + "learning_rate": 1.548575737342989e-08, + "loss": 0.0053, + "num_input_tokens_seen": 42739872, + "step": 21833 + }, + { + "epoch": 2.8938369781312128, + "grad_norm": 0.00539828184992075, + "learning_rate": 1.544720339423794e-08, + "loss": 0.0, + "num_input_tokens_seen": 42741704, + "step": 21834 + }, + { + "epoch": 2.893969516235918, + "grad_norm": 1.2141324281692505, + "learning_rate": 1.540869731893796e-08, + "loss": 0.0046, + "num_input_tokens_seen": 42743696, + "step": 21835 + }, + { + "epoch": 2.894102054340623, + "grad_norm": 0.002828523050993681, + "learning_rate": 1.5370239148272682e-08, + "loss": 0.0, + "num_input_tokens_seen": 42745360, + "step": 21836 + }, + { + "epoch": 2.894234592445328, + "grad_norm": 0.053335040807724, + "learning_rate": 1.53318288829829e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42747808, + "step": 21837 + }, + { + "epoch": 2.894367130550033, + "grad_norm": 8.15924072265625, + "learning_rate": 1.5293466523809697e-08, + "loss": 0.0482, + "num_input_tokens_seen": 42749888, + "step": 21838 + }, + { + "epoch": 2.8944996686547384, + "grad_norm": 2.0875802040100098, + "learning_rate": 1.5255152071492475e-08, + "loss": 0.0077, + "num_input_tokens_seen": 42752392, + "step": 21839 + }, + { + "epoch": 2.8946322067594434, + "grad_norm": 0.19174259901046753, + "learning_rate": 1.5216885526770087e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42754184, + "step": 21840 + }, + { + "epoch": 2.8947647448641485, + "grad_norm": 1.917540192604065, + "learning_rate": 1.5178666890380278e-08, + "loss": 0.0066, + "num_input_tokens_seen": 42755624, + "step": 21841 + }, + { + "epoch": 2.8948972829688535, + "grad_norm": 12.75284481048584, + "learning_rate": 1.5140496163060236e-08, + "loss": 0.0721, + "num_input_tokens_seen": 42757320, + "step": 21842 + }, + { + "epoch": 2.8950298210735586, + "grad_norm": 5.695208549499512, + "learning_rate": 1.5102373345545484e-08, + "loss": 0.0247, + "num_input_tokens_seen": 42760448, + "step": 21843 + }, + { + "epoch": 2.8951623591782636, + "grad_norm": 9.881443977355957, + "learning_rate": 1.506429843857099e-08, + "loss": 0.0937, + "num_input_tokens_seen": 42762704, + "step": 21844 + }, + { + "epoch": 2.8952948972829686, + "grad_norm": 1.167162299156189, + "learning_rate": 1.5026271442871165e-08, + "loss": 0.0035, + "num_input_tokens_seen": 42764848, + "step": 21845 + }, + { + "epoch": 2.895427435387674, + "grad_norm": 0.0025954912416636944, + "learning_rate": 1.4988292359179314e-08, + "loss": 0.0, + "num_input_tokens_seen": 42767504, + "step": 21846 + }, + { + "epoch": 2.895559973492379, + "grad_norm": 0.003800133476033807, + "learning_rate": 1.4950361188227348e-08, + "loss": 0.0, + "num_input_tokens_seen": 42769008, + "step": 21847 + }, + { + "epoch": 2.895692511597084, + "grad_norm": 0.02113240770995617, + "learning_rate": 1.4912477930746905e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42771008, + "step": 21848 + }, + { + "epoch": 2.8958250497017892, + "grad_norm": 0.0873739942908287, + "learning_rate": 1.4874642587468235e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42772040, + "step": 21849 + }, + { + "epoch": 2.8959575878064943, + "grad_norm": 1.607867956161499, + "learning_rate": 1.4836855159120755e-08, + "loss": 0.0032, + "num_input_tokens_seen": 42773800, + "step": 21850 + }, + { + "epoch": 2.8960901259111997, + "grad_norm": 3.8669376373291016, + "learning_rate": 1.4799115646433327e-08, + "loss": 0.0213, + "num_input_tokens_seen": 42776120, + "step": 21851 + }, + { + "epoch": 2.8962226640159043, + "grad_norm": 15.551241874694824, + "learning_rate": 1.4761424050133144e-08, + "loss": 0.1471, + "num_input_tokens_seen": 42778688, + "step": 21852 + }, + { + "epoch": 2.89635520212061, + "grad_norm": 1.2815444469451904, + "learning_rate": 1.4723780370947405e-08, + "loss": 0.0062, + "num_input_tokens_seen": 42781064, + "step": 21853 + }, + { + "epoch": 2.896487740225315, + "grad_norm": 0.01603313535451889, + "learning_rate": 1.4686184609601639e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42782680, + "step": 21854 + }, + { + "epoch": 2.89662027833002, + "grad_norm": 0.8123252391815186, + "learning_rate": 1.4648636766820546e-08, + "loss": 0.0028, + "num_input_tokens_seen": 42783784, + "step": 21855 + }, + { + "epoch": 2.896752816434725, + "grad_norm": 0.06824760884046555, + "learning_rate": 1.4611136843328544e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42786288, + "step": 21856 + }, + { + "epoch": 2.89688535453943, + "grad_norm": 0.5590487122535706, + "learning_rate": 1.4573684839848112e-08, + "loss": 0.0024, + "num_input_tokens_seen": 42787888, + "step": 21857 + }, + { + "epoch": 2.8970178926441355, + "grad_norm": 0.01573786325752735, + "learning_rate": 1.4536280757102005e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42789584, + "step": 21858 + }, + { + "epoch": 2.89715043074884, + "grad_norm": 0.003916813526302576, + "learning_rate": 1.4498924595810759e-08, + "loss": 0.0, + "num_input_tokens_seen": 42791976, + "step": 21859 + }, + { + "epoch": 2.8972829688535455, + "grad_norm": 0.018391158431768417, + "learning_rate": 1.4461616356695185e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42794936, + "step": 21860 + }, + { + "epoch": 2.8974155069582506, + "grad_norm": 0.15034545958042145, + "learning_rate": 1.4424356040474152e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42796288, + "step": 21861 + }, + { + "epoch": 2.8975480450629556, + "grad_norm": 7.587205410003662, + "learning_rate": 1.4387143647866253e-08, + "loss": 0.0767, + "num_input_tokens_seen": 42798000, + "step": 21862 + }, + { + "epoch": 2.8976805831676606, + "grad_norm": 0.005003215279430151, + "learning_rate": 1.4349979179588969e-08, + "loss": 0.0, + "num_input_tokens_seen": 42799408, + "step": 21863 + }, + { + "epoch": 2.8978131212723657, + "grad_norm": 8.567745208740234, + "learning_rate": 1.431286263635867e-08, + "loss": 0.0899, + "num_input_tokens_seen": 42800928, + "step": 21864 + }, + { + "epoch": 2.897945659377071, + "grad_norm": 0.012640919536352158, + "learning_rate": 1.4275794018891454e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42802632, + "step": 21865 + }, + { + "epoch": 2.8980781974817758, + "grad_norm": 5.966353893280029, + "learning_rate": 1.4238773327901745e-08, + "loss": 0.0344, + "num_input_tokens_seen": 42804760, + "step": 21866 + }, + { + "epoch": 2.8982107355864812, + "grad_norm": 7.464968204498291, + "learning_rate": 1.420180056410314e-08, + "loss": 0.0582, + "num_input_tokens_seen": 42806280, + "step": 21867 + }, + { + "epoch": 2.8983432736911863, + "grad_norm": 0.02829921618103981, + "learning_rate": 1.4164875728208682e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42808760, + "step": 21868 + }, + { + "epoch": 2.8984758117958913, + "grad_norm": 12.499402046203613, + "learning_rate": 1.41279988209303e-08, + "loss": 0.0787, + "num_input_tokens_seen": 42812128, + "step": 21869 + }, + { + "epoch": 2.8986083499005963, + "grad_norm": 10.971367835998535, + "learning_rate": 1.4091169842979368e-08, + "loss": 0.0779, + "num_input_tokens_seen": 42813664, + "step": 21870 + }, + { + "epoch": 2.8987408880053014, + "grad_norm": 1.0918554067611694, + "learning_rate": 1.4054388795065321e-08, + "loss": 0.0054, + "num_input_tokens_seen": 42815192, + "step": 21871 + }, + { + "epoch": 2.898873426110007, + "grad_norm": 14.199649810791016, + "learning_rate": 1.401765567789759e-08, + "loss": 0.1929, + "num_input_tokens_seen": 42817328, + "step": 21872 + }, + { + "epoch": 2.8990059642147115, + "grad_norm": 0.014770323410630226, + "learning_rate": 1.3980970492184498e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42818776, + "step": 21873 + }, + { + "epoch": 2.899138502319417, + "grad_norm": 0.003389711258932948, + "learning_rate": 1.3944333238633534e-08, + "loss": 0.0, + "num_input_tokens_seen": 42820960, + "step": 21874 + }, + { + "epoch": 2.899271040424122, + "grad_norm": 32.26531982421875, + "learning_rate": 1.3907743917950523e-08, + "loss": 0.0435, + "num_input_tokens_seen": 42823688, + "step": 21875 + }, + { + "epoch": 2.899403578528827, + "grad_norm": 0.23862943053245544, + "learning_rate": 1.3871202530841287e-08, + "loss": 0.001, + "num_input_tokens_seen": 42826656, + "step": 21876 + }, + { + "epoch": 2.899536116633532, + "grad_norm": 3.6919634342193604, + "learning_rate": 1.3834709078010544e-08, + "loss": 0.0155, + "num_input_tokens_seen": 42828528, + "step": 21877 + }, + { + "epoch": 2.899668654738237, + "grad_norm": 0.6939218044281006, + "learning_rate": 1.3798263560161617e-08, + "loss": 0.0038, + "num_input_tokens_seen": 42830376, + "step": 21878 + }, + { + "epoch": 2.8998011928429426, + "grad_norm": 0.005500981118530035, + "learning_rate": 1.3761865977997558e-08, + "loss": 0.0, + "num_input_tokens_seen": 42832032, + "step": 21879 + }, + { + "epoch": 2.8999337309476476, + "grad_norm": 0.7904248833656311, + "learning_rate": 1.3725516332219747e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42833872, + "step": 21880 + }, + { + "epoch": 2.9000662690523527, + "grad_norm": 6.683494567871094, + "learning_rate": 1.3689214623529012e-08, + "loss": 0.0693, + "num_input_tokens_seen": 42835912, + "step": 21881 + }, + { + "epoch": 2.9001988071570577, + "grad_norm": 0.08821951597929001, + "learning_rate": 1.365296085262563e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42838616, + "step": 21882 + }, + { + "epoch": 2.9003313452617627, + "grad_norm": 0.02909945882856846, + "learning_rate": 1.3616755020208206e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42840728, + "step": 21883 + }, + { + "epoch": 2.9004638833664678, + "grad_norm": 0.05134959891438484, + "learning_rate": 1.3580597126975347e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42842856, + "step": 21884 + }, + { + "epoch": 2.900596421471173, + "grad_norm": 0.9567461609840393, + "learning_rate": 1.3544487173623444e-08, + "loss": 0.0063, + "num_input_tokens_seen": 42844680, + "step": 21885 + }, + { + "epoch": 2.9007289595758783, + "grad_norm": 12.670013427734375, + "learning_rate": 1.3508425160849437e-08, + "loss": 0.186, + "num_input_tokens_seen": 42847536, + "step": 21886 + }, + { + "epoch": 2.9008614976805833, + "grad_norm": 0.8445271849632263, + "learning_rate": 1.3472411089348048e-08, + "loss": 0.005, + "num_input_tokens_seen": 42849088, + "step": 21887 + }, + { + "epoch": 2.9009940357852884, + "grad_norm": 0.014230293221771717, + "learning_rate": 1.3436444959814277e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42850432, + "step": 21888 + }, + { + "epoch": 2.9011265738899934, + "grad_norm": 0.6979024410247803, + "learning_rate": 1.340052677294118e-08, + "loss": 0.0055, + "num_input_tokens_seen": 42852552, + "step": 21889 + }, + { + "epoch": 2.9012591119946984, + "grad_norm": 0.020527120679616928, + "learning_rate": 1.336465652942126e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42854128, + "step": 21890 + }, + { + "epoch": 2.9013916500994035, + "grad_norm": 4.5034499168396, + "learning_rate": 1.3328834229946464e-08, + "loss": 0.048, + "num_input_tokens_seen": 42856336, + "step": 21891 + }, + { + "epoch": 2.9015241882041085, + "grad_norm": 0.21529565751552582, + "learning_rate": 1.3293059875206793e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42859056, + "step": 21892 + }, + { + "epoch": 2.901656726308814, + "grad_norm": 0.006279053632169962, + "learning_rate": 1.325733346589253e-08, + "loss": 0.0, + "num_input_tokens_seen": 42860576, + "step": 21893 + }, + { + "epoch": 2.901789264413519, + "grad_norm": 0.15658703446388245, + "learning_rate": 1.3221655002692569e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42861864, + "step": 21894 + }, + { + "epoch": 2.901921802518224, + "grad_norm": 0.13757097721099854, + "learning_rate": 1.3186024486294414e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42863744, + "step": 21895 + }, + { + "epoch": 2.902054340622929, + "grad_norm": 14.049901962280273, + "learning_rate": 1.315044191738557e-08, + "loss": 0.1589, + "num_input_tokens_seen": 42865576, + "step": 21896 + }, + { + "epoch": 2.902186878727634, + "grad_norm": 0.003701205365359783, + "learning_rate": 1.3114907296651325e-08, + "loss": 0.0, + "num_input_tokens_seen": 42866736, + "step": 21897 + }, + { + "epoch": 2.902319416832339, + "grad_norm": 12.016429901123047, + "learning_rate": 1.3079420624777794e-08, + "loss": 0.1122, + "num_input_tokens_seen": 42869520, + "step": 21898 + }, + { + "epoch": 2.902451954937044, + "grad_norm": 0.46425268054008484, + "learning_rate": 1.3043981902448322e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42871544, + "step": 21899 + }, + { + "epoch": 2.9025844930417497, + "grad_norm": 0.14612586796283722, + "learning_rate": 1.3008591130346804e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42873448, + "step": 21900 + }, + { + "epoch": 2.9027170311464547, + "grad_norm": 0.012677825056016445, + "learning_rate": 1.2973248309155195e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42874936, + "step": 21901 + }, + { + "epoch": 2.90284956925116, + "grad_norm": 0.06714598089456558, + "learning_rate": 1.2937953439554895e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42876760, + "step": 21902 + }, + { + "epoch": 2.902982107355865, + "grad_norm": 0.002638844307512045, + "learning_rate": 1.2902706522226749e-08, + "loss": 0.0, + "num_input_tokens_seen": 42878016, + "step": 21903 + }, + { + "epoch": 2.90311464546057, + "grad_norm": 0.012105557136237621, + "learning_rate": 1.2867507557850211e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42880648, + "step": 21904 + }, + { + "epoch": 2.903247183565275, + "grad_norm": 3.1819558143615723, + "learning_rate": 1.2832356547103907e-08, + "loss": 0.0161, + "num_input_tokens_seen": 42881896, + "step": 21905 + }, + { + "epoch": 2.90337972166998, + "grad_norm": 7.1907806396484375, + "learning_rate": 1.279725349066563e-08, + "loss": 0.0687, + "num_input_tokens_seen": 42883400, + "step": 21906 + }, + { + "epoch": 2.9035122597746854, + "grad_norm": 11.399194717407227, + "learning_rate": 1.2762198389212055e-08, + "loss": 0.1373, + "num_input_tokens_seen": 42886496, + "step": 21907 + }, + { + "epoch": 2.9036447978793904, + "grad_norm": 3.959879159927368, + "learning_rate": 1.2727191243419313e-08, + "loss": 0.0157, + "num_input_tokens_seen": 42888232, + "step": 21908 + }, + { + "epoch": 2.9037773359840955, + "grad_norm": 0.022855183109641075, + "learning_rate": 1.269223205396214e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42890248, + "step": 21909 + }, + { + "epoch": 2.9039098740888005, + "grad_norm": 0.04584252089262009, + "learning_rate": 1.265732082151444e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42891888, + "step": 21910 + }, + { + "epoch": 2.9040424121935056, + "grad_norm": 0.006457976531237364, + "learning_rate": 1.2622457546749567e-08, + "loss": 0.0, + "num_input_tokens_seen": 42893736, + "step": 21911 + }, + { + "epoch": 2.9041749502982106, + "grad_norm": 1.5480132102966309, + "learning_rate": 1.2587642230339759e-08, + "loss": 0.0089, + "num_input_tokens_seen": 42896448, + "step": 21912 + }, + { + "epoch": 2.9043074884029156, + "grad_norm": 0.03996611014008522, + "learning_rate": 1.2552874872956145e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42897784, + "step": 21913 + }, + { + "epoch": 2.904440026507621, + "grad_norm": 0.005707287695258856, + "learning_rate": 1.25181554752693e-08, + "loss": 0.0, + "num_input_tokens_seen": 42900160, + "step": 21914 + }, + { + "epoch": 2.904572564612326, + "grad_norm": 5.709275722503662, + "learning_rate": 1.2483484037948135e-08, + "loss": 0.0924, + "num_input_tokens_seen": 42902296, + "step": 21915 + }, + { + "epoch": 2.904705102717031, + "grad_norm": 15.23489761352539, + "learning_rate": 1.2448860561661558e-08, + "loss": 0.1701, + "num_input_tokens_seen": 42904200, + "step": 21916 + }, + { + "epoch": 2.9048376408217362, + "grad_norm": 0.0033224602229893208, + "learning_rate": 1.241428504707709e-08, + "loss": 0.0, + "num_input_tokens_seen": 42905488, + "step": 21917 + }, + { + "epoch": 2.9049701789264413, + "grad_norm": 0.0005927822785452008, + "learning_rate": 1.2379757494861421e-08, + "loss": 0.0, + "num_input_tokens_seen": 42907000, + "step": 21918 + }, + { + "epoch": 2.9051027170311463, + "grad_norm": 0.382308691740036, + "learning_rate": 1.2345277905679854e-08, + "loss": 0.0014, + "num_input_tokens_seen": 42908568, + "step": 21919 + }, + { + "epoch": 2.9052352551358513, + "grad_norm": 0.001161378575488925, + "learning_rate": 1.2310846280197686e-08, + "loss": 0.0, + "num_input_tokens_seen": 42909960, + "step": 21920 + }, + { + "epoch": 2.905367793240557, + "grad_norm": 4.968019008636475, + "learning_rate": 1.2276462619078556e-08, + "loss": 0.0569, + "num_input_tokens_seen": 42911976, + "step": 21921 + }, + { + "epoch": 2.905500331345262, + "grad_norm": 0.05725034698843956, + "learning_rate": 1.2242126922985265e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42913928, + "step": 21922 + }, + { + "epoch": 2.905632869449967, + "grad_norm": 3.928481340408325, + "learning_rate": 1.2207839192580062e-08, + "loss": 0.0035, + "num_input_tokens_seen": 42917288, + "step": 21923 + }, + { + "epoch": 2.905765407554672, + "grad_norm": 12.014176368713379, + "learning_rate": 1.2173599428524086e-08, + "loss": 0.3217, + "num_input_tokens_seen": 42918896, + "step": 21924 + }, + { + "epoch": 2.905897945659377, + "grad_norm": 0.029615573585033417, + "learning_rate": 1.2139407631477362e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42920016, + "step": 21925 + }, + { + "epoch": 2.906030483764082, + "grad_norm": 11.053147315979004, + "learning_rate": 1.2105263802099088e-08, + "loss": 0.3689, + "num_input_tokens_seen": 42922944, + "step": 21926 + }, + { + "epoch": 2.906163021868787, + "grad_norm": 0.017649173736572266, + "learning_rate": 1.2071167941047624e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42924336, + "step": 21927 + }, + { + "epoch": 2.9062955599734925, + "grad_norm": 0.00022445783542934805, + "learning_rate": 1.2037120048980222e-08, + "loss": 0.0, + "num_input_tokens_seen": 42925328, + "step": 21928 + }, + { + "epoch": 2.9064280980781976, + "grad_norm": 2.2284164428710938, + "learning_rate": 1.200312012655358e-08, + "loss": 0.004, + "num_input_tokens_seen": 42926536, + "step": 21929 + }, + { + "epoch": 2.9065606361829026, + "grad_norm": 1.1413416862487793, + "learning_rate": 1.1969168174423284e-08, + "loss": 0.0076, + "num_input_tokens_seen": 42928416, + "step": 21930 + }, + { + "epoch": 2.9066931742876077, + "grad_norm": 0.018550578504800797, + "learning_rate": 1.1935264193243813e-08, + "loss": 0.0, + "num_input_tokens_seen": 42929912, + "step": 21931 + }, + { + "epoch": 2.9068257123923127, + "grad_norm": 0.004678811877965927, + "learning_rate": 1.1901408183668806e-08, + "loss": 0.0, + "num_input_tokens_seen": 42931816, + "step": 21932 + }, + { + "epoch": 2.9069582504970177, + "grad_norm": 0.009757760912179947, + "learning_rate": 1.1867600146351076e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42933576, + "step": 21933 + }, + { + "epoch": 2.9070907886017228, + "grad_norm": 0.013394701294600964, + "learning_rate": 1.1833840081942605e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42935560, + "step": 21934 + }, + { + "epoch": 2.9072233267064282, + "grad_norm": 3.623309850692749, + "learning_rate": 1.1800127991093979e-08, + "loss": 0.0154, + "num_input_tokens_seen": 42937992, + "step": 21935 + }, + { + "epoch": 2.9073558648111333, + "grad_norm": 0.1036694347858429, + "learning_rate": 1.176646387445579e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42940808, + "step": 21936 + }, + { + "epoch": 2.9074884029158383, + "grad_norm": 0.018242409452795982, + "learning_rate": 1.1732847732676411e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42942192, + "step": 21937 + }, + { + "epoch": 2.9076209410205434, + "grad_norm": 0.09169457852840424, + "learning_rate": 1.1699279566404487e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42943832, + "step": 21938 + }, + { + "epoch": 2.9077534791252484, + "grad_norm": 0.002927461639046669, + "learning_rate": 1.1665759376287001e-08, + "loss": 0.0, + "num_input_tokens_seen": 42945064, + "step": 21939 + }, + { + "epoch": 2.907886017229954, + "grad_norm": 11.159092903137207, + "learning_rate": 1.1632287162970102e-08, + "loss": 0.0303, + "num_input_tokens_seen": 42946600, + "step": 21940 + }, + { + "epoch": 2.9080185553346585, + "grad_norm": 2.7261157035827637, + "learning_rate": 1.1598862927099386e-08, + "loss": 0.0065, + "num_input_tokens_seen": 42948056, + "step": 21941 + }, + { + "epoch": 2.908151093439364, + "grad_norm": 0.028012461960315704, + "learning_rate": 1.1565486669319336e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42950328, + "step": 21942 + }, + { + "epoch": 2.908283631544069, + "grad_norm": 2.4944710731506348, + "learning_rate": 1.1532158390273606e-08, + "loss": 0.0085, + "num_input_tokens_seen": 42952568, + "step": 21943 + }, + { + "epoch": 2.908416169648774, + "grad_norm": 0.02497400902211666, + "learning_rate": 1.1498878090604181e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42953912, + "step": 21944 + }, + { + "epoch": 2.908548707753479, + "grad_norm": 0.5636566281318665, + "learning_rate": 1.1465645770953326e-08, + "loss": 0.0018, + "num_input_tokens_seen": 42956840, + "step": 21945 + }, + { + "epoch": 2.908681245858184, + "grad_norm": 0.010956265963613987, + "learning_rate": 1.1432461431961361e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42958840, + "step": 21946 + }, + { + "epoch": 2.9088137839628896, + "grad_norm": 6.515491008758545, + "learning_rate": 1.1399325074268608e-08, + "loss": 0.06, + "num_input_tokens_seen": 42960592, + "step": 21947 + }, + { + "epoch": 2.908946322067594, + "grad_norm": 0.011846862733364105, + "learning_rate": 1.1366236698513444e-08, + "loss": 0.0, + "num_input_tokens_seen": 42961760, + "step": 21948 + }, + { + "epoch": 2.9090788601722997, + "grad_norm": 9.874768257141113, + "learning_rate": 1.1333196305334249e-08, + "loss": 0.061, + "num_input_tokens_seen": 42964240, + "step": 21949 + }, + { + "epoch": 2.9092113982770047, + "grad_norm": 4.613884449005127, + "learning_rate": 1.1300203895367735e-08, + "loss": 0.0471, + "num_input_tokens_seen": 42966784, + "step": 21950 + }, + { + "epoch": 2.9093439363817097, + "grad_norm": 3.0748848915100098, + "learning_rate": 1.1267259469250336e-08, + "loss": 0.0392, + "num_input_tokens_seen": 42969256, + "step": 21951 + }, + { + "epoch": 2.9094764744864148, + "grad_norm": 0.7355468273162842, + "learning_rate": 1.1234363027616824e-08, + "loss": 0.0034, + "num_input_tokens_seen": 42970768, + "step": 21952 + }, + { + "epoch": 2.90960901259112, + "grad_norm": 0.006784104276448488, + "learning_rate": 1.120151457110169e-08, + "loss": 0.0, + "num_input_tokens_seen": 42972144, + "step": 21953 + }, + { + "epoch": 2.9097415506958253, + "grad_norm": 0.8847712278366089, + "learning_rate": 1.1168714100338317e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42973688, + "step": 21954 + }, + { + "epoch": 2.90987408880053, + "grad_norm": 0.1828608512878418, + "learning_rate": 1.1135961615959256e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42975536, + "step": 21955 + }, + { + "epoch": 2.9100066269052354, + "grad_norm": 6.940862655639648, + "learning_rate": 1.1103257118595666e-08, + "loss": 0.1052, + "num_input_tokens_seen": 42977992, + "step": 21956 + }, + { + "epoch": 2.9101391650099404, + "grad_norm": 7.962825298309326, + "learning_rate": 1.1070600608878434e-08, + "loss": 0.079, + "num_input_tokens_seen": 42979584, + "step": 21957 + }, + { + "epoch": 2.9102717031146454, + "grad_norm": 0.5806574821472168, + "learning_rate": 1.1037992087437056e-08, + "loss": 0.0016, + "num_input_tokens_seen": 42981104, + "step": 21958 + }, + { + "epoch": 2.9104042412193505, + "grad_norm": 10.117878913879395, + "learning_rate": 1.1005431554899915e-08, + "loss": 0.0726, + "num_input_tokens_seen": 42983464, + "step": 21959 + }, + { + "epoch": 2.9105367793240555, + "grad_norm": 3.5498950481414795, + "learning_rate": 1.09729190118954e-08, + "loss": 0.0422, + "num_input_tokens_seen": 42985944, + "step": 21960 + }, + { + "epoch": 2.910669317428761, + "grad_norm": 0.008531622588634491, + "learning_rate": 1.0940454459050232e-08, + "loss": 0.0, + "num_input_tokens_seen": 42987264, + "step": 21961 + }, + { + "epoch": 2.9108018555334656, + "grad_norm": 0.027749083936214447, + "learning_rate": 1.090803789699002e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42989112, + "step": 21962 + }, + { + "epoch": 2.910934393638171, + "grad_norm": 2.5667002201080322, + "learning_rate": 1.0875669326340099e-08, + "loss": 0.0108, + "num_input_tokens_seen": 42991168, + "step": 21963 + }, + { + "epoch": 2.911066931742876, + "grad_norm": 0.6141388416290283, + "learning_rate": 1.0843348747724136e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42993008, + "step": 21964 + }, + { + "epoch": 2.911199469847581, + "grad_norm": 0.022096291184425354, + "learning_rate": 1.0811076161765799e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42994480, + "step": 21965 + }, + { + "epoch": 2.911332007952286, + "grad_norm": 0.006765156984329224, + "learning_rate": 1.077885156908709e-08, + "loss": 0.0, + "num_input_tokens_seen": 42997648, + "step": 21966 + }, + { + "epoch": 2.9114645460569912, + "grad_norm": 6.568155765533447, + "learning_rate": 1.0746674970309456e-08, + "loss": 0.0646, + "num_input_tokens_seen": 43000128, + "step": 21967 + }, + { + "epoch": 2.9115970841616967, + "grad_norm": 4.378548622131348, + "learning_rate": 1.0714546366053235e-08, + "loss": 0.0398, + "num_input_tokens_seen": 43002016, + "step": 21968 + }, + { + "epoch": 2.9117296222664018, + "grad_norm": 5.3975090980529785, + "learning_rate": 1.0682465756937654e-08, + "loss": 0.055, + "num_input_tokens_seen": 43003424, + "step": 21969 + }, + { + "epoch": 2.911862160371107, + "grad_norm": 0.0014704520581290126, + "learning_rate": 1.0650433143581384e-08, + "loss": 0.0, + "num_input_tokens_seen": 43004712, + "step": 21970 + }, + { + "epoch": 2.911994698475812, + "grad_norm": 0.6462353467941284, + "learning_rate": 1.0618448526601988e-08, + "loss": 0.0033, + "num_input_tokens_seen": 43006928, + "step": 21971 + }, + { + "epoch": 2.912127236580517, + "grad_norm": 2.3356761932373047, + "learning_rate": 1.058651190661647e-08, + "loss": 0.0629, + "num_input_tokens_seen": 43009312, + "step": 21972 + }, + { + "epoch": 2.912259774685222, + "grad_norm": 0.0044085378758609295, + "learning_rate": 1.055462328424045e-08, + "loss": 0.0, + "num_input_tokens_seen": 43010776, + "step": 21973 + }, + { + "epoch": 2.912392312789927, + "grad_norm": 0.117121122777462, + "learning_rate": 1.0522782660088437e-08, + "loss": 0.0006, + "num_input_tokens_seen": 43013696, + "step": 21974 + }, + { + "epoch": 2.9125248508946324, + "grad_norm": 11.036858558654785, + "learning_rate": 1.0490990034774663e-08, + "loss": 0.1612, + "num_input_tokens_seen": 43016976, + "step": 21975 + }, + { + "epoch": 2.9126573889993375, + "grad_norm": 6.189133644104004, + "learning_rate": 1.0459245408911966e-08, + "loss": 0.0174, + "num_input_tokens_seen": 43019552, + "step": 21976 + }, + { + "epoch": 2.9127899271040425, + "grad_norm": 3.0199368000030518, + "learning_rate": 1.042754878311264e-08, + "loss": 0.0049, + "num_input_tokens_seen": 43021192, + "step": 21977 + }, + { + "epoch": 2.9129224652087475, + "grad_norm": 4.815978050231934, + "learning_rate": 1.0395900157987304e-08, + "loss": 0.0425, + "num_input_tokens_seen": 43023048, + "step": 21978 + }, + { + "epoch": 2.9130550033134526, + "grad_norm": 4.038658142089844, + "learning_rate": 1.036429953414686e-08, + "loss": 0.0161, + "num_input_tokens_seen": 43024752, + "step": 21979 + }, + { + "epoch": 2.9131875414181576, + "grad_norm": 9.997885704040527, + "learning_rate": 1.0332746912199987e-08, + "loss": 0.1582, + "num_input_tokens_seen": 43027264, + "step": 21980 + }, + { + "epoch": 2.9133200795228626, + "grad_norm": 9.532692909240723, + "learning_rate": 1.0301242292755364e-08, + "loss": 0.0373, + "num_input_tokens_seen": 43028512, + "step": 21981 + }, + { + "epoch": 2.913452617627568, + "grad_norm": 0.6367543339729309, + "learning_rate": 1.0269785676420285e-08, + "loss": 0.0038, + "num_input_tokens_seen": 43030088, + "step": 21982 + }, + { + "epoch": 2.913585155732273, + "grad_norm": 0.008711429312825203, + "learning_rate": 1.0238377063801486e-08, + "loss": 0.0, + "num_input_tokens_seen": 43031768, + "step": 21983 + }, + { + "epoch": 2.913717693836978, + "grad_norm": 2.50688099861145, + "learning_rate": 1.0207016455504316e-08, + "loss": 0.0097, + "num_input_tokens_seen": 43035576, + "step": 21984 + }, + { + "epoch": 2.9138502319416832, + "grad_norm": 0.8532982468605042, + "learning_rate": 1.0175703852133567e-08, + "loss": 0.0078, + "num_input_tokens_seen": 43037608, + "step": 21985 + }, + { + "epoch": 2.9139827700463883, + "grad_norm": 3.4834022521972656, + "learning_rate": 1.0144439254292649e-08, + "loss": 0.0202, + "num_input_tokens_seen": 43039520, + "step": 21986 + }, + { + "epoch": 2.9141153081510933, + "grad_norm": 0.03925604373216629, + "learning_rate": 1.0113222662584966e-08, + "loss": 0.0002, + "num_input_tokens_seen": 43042080, + "step": 21987 + }, + { + "epoch": 2.9142478462557984, + "grad_norm": 11.040791511535645, + "learning_rate": 1.0082054077611703e-08, + "loss": 0.1806, + "num_input_tokens_seen": 43043760, + "step": 21988 + }, + { + "epoch": 2.914380384360504, + "grad_norm": 0.021875865757465363, + "learning_rate": 1.0050933499974325e-08, + "loss": 0.0001, + "num_input_tokens_seen": 43045920, + "step": 21989 + }, + { + "epoch": 2.914512922465209, + "grad_norm": 14.984296798706055, + "learning_rate": 1.0019860930272352e-08, + "loss": 0.2619, + "num_input_tokens_seen": 43047240, + "step": 21990 + }, + { + "epoch": 2.914645460569914, + "grad_norm": 0.18902479112148285, + "learning_rate": 9.988836369105582e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43050416, + "step": 21991 + }, + { + "epoch": 2.914777998674619, + "grad_norm": 7.049749374389648, + "learning_rate": 9.95785981707159e-09, + "loss": 0.1074, + "num_input_tokens_seen": 43052240, + "step": 21992 + }, + { + "epoch": 2.914910536779324, + "grad_norm": 0.6406229734420776, + "learning_rate": 9.926931274767959e-09, + "loss": 0.0028, + "num_input_tokens_seen": 43054920, + "step": 21993 + }, + { + "epoch": 2.915043074884029, + "grad_norm": 0.06147696450352669, + "learning_rate": 9.896050742790875e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43056472, + "step": 21994 + }, + { + "epoch": 2.915175612988734, + "grad_norm": 0.05534979701042175, + "learning_rate": 9.865218221735973e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43058184, + "step": 21995 + }, + { + "epoch": 2.9153081510934395, + "grad_norm": 13.993824005126953, + "learning_rate": 9.834433712197223e-09, + "loss": 0.0456, + "num_input_tokens_seen": 43060016, + "step": 21996 + }, + { + "epoch": 2.9154406891981446, + "grad_norm": 0.11426708102226257, + "learning_rate": 9.803697214768593e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43062056, + "step": 21997 + }, + { + "epoch": 2.9155732273028496, + "grad_norm": 0.0015103942714631557, + "learning_rate": 9.773008730042666e-09, + "loss": 0.0, + "num_input_tokens_seen": 43064688, + "step": 21998 + }, + { + "epoch": 2.9157057654075547, + "grad_norm": 8.768732070922852, + "learning_rate": 9.742368258610912e-09, + "loss": 0.0597, + "num_input_tokens_seen": 43067832, + "step": 21999 + }, + { + "epoch": 2.9158383035122597, + "grad_norm": 0.08799783885478973, + "learning_rate": 9.71177580106425e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43069616, + "step": 22000 + }, + { + "epoch": 2.9159708416169647, + "grad_norm": 0.16143526136875153, + "learning_rate": 9.681231357992481e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43071320, + "step": 22001 + }, + { + "epoch": 2.9161033797216698, + "grad_norm": 0.6979979872703552, + "learning_rate": 9.650734929984584e-09, + "loss": 0.0023, + "num_input_tokens_seen": 43072640, + "step": 22002 + }, + { + "epoch": 2.9162359178263753, + "grad_norm": 0.00871757697314024, + "learning_rate": 9.620286517628696e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43074552, + "step": 22003 + }, + { + "epoch": 2.9163684559310803, + "grad_norm": 3.8733153343200684, + "learning_rate": 9.589886121511572e-09, + "loss": 0.0328, + "num_input_tokens_seen": 43077056, + "step": 22004 + }, + { + "epoch": 2.9165009940357853, + "grad_norm": 0.16095322370529175, + "learning_rate": 9.559533742219407e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43078560, + "step": 22005 + }, + { + "epoch": 2.9166335321404904, + "grad_norm": 0.015874097123742104, + "learning_rate": 9.529229380337569e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43080056, + "step": 22006 + }, + { + "epoch": 2.9167660702451954, + "grad_norm": 9.986083984375, + "learning_rate": 9.49897303645031e-09, + "loss": 0.1752, + "num_input_tokens_seen": 43082744, + "step": 22007 + }, + { + "epoch": 2.9168986083499004, + "grad_norm": 0.014211458154022694, + "learning_rate": 9.468764711141054e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43084776, + "step": 22008 + }, + { + "epoch": 2.9170311464546055, + "grad_norm": 3.568197250366211, + "learning_rate": 9.438604404991835e-09, + "loss": 0.0172, + "num_input_tokens_seen": 43086784, + "step": 22009 + }, + { + "epoch": 2.917163684559311, + "grad_norm": 6.67360258102417, + "learning_rate": 9.408492118584689e-09, + "loss": 0.0694, + "num_input_tokens_seen": 43088824, + "step": 22010 + }, + { + "epoch": 2.917296222664016, + "grad_norm": 0.007190667558461428, + "learning_rate": 9.378427852499983e-09, + "loss": 0.0, + "num_input_tokens_seen": 43091248, + "step": 22011 + }, + { + "epoch": 2.917428760768721, + "grad_norm": 0.37744802236557007, + "learning_rate": 9.348411607317254e-09, + "loss": 0.001, + "num_input_tokens_seen": 43093168, + "step": 22012 + }, + { + "epoch": 2.917561298873426, + "grad_norm": 0.0015196386957541108, + "learning_rate": 9.318443383615483e-09, + "loss": 0.0, + "num_input_tokens_seen": 43095504, + "step": 22013 + }, + { + "epoch": 2.917693836978131, + "grad_norm": 0.03816041350364685, + "learning_rate": 9.288523181972541e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43097048, + "step": 22014 + }, + { + "epoch": 2.917826375082836, + "grad_norm": 15.683837890625, + "learning_rate": 9.258651002964913e-09, + "loss": 0.0953, + "num_input_tokens_seen": 43098768, + "step": 22015 + }, + { + "epoch": 2.917958913187541, + "grad_norm": 0.7249067425727844, + "learning_rate": 9.228826847168804e-09, + "loss": 0.0017, + "num_input_tokens_seen": 43101632, + "step": 22016 + }, + { + "epoch": 2.9180914512922467, + "grad_norm": 0.018533840775489807, + "learning_rate": 9.19905071515903e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43105176, + "step": 22017 + }, + { + "epoch": 2.9182239893969517, + "grad_norm": 19.001815795898438, + "learning_rate": 9.169322607510134e-09, + "loss": 0.2542, + "num_input_tokens_seen": 43106752, + "step": 22018 + }, + { + "epoch": 2.9183565275016567, + "grad_norm": 0.008577525615692139, + "learning_rate": 9.139642524794712e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43108664, + "step": 22019 + }, + { + "epoch": 2.918489065606362, + "grad_norm": 0.0036467225290834904, + "learning_rate": 9.110010467585639e-09, + "loss": 0.0, + "num_input_tokens_seen": 43111024, + "step": 22020 + }, + { + "epoch": 2.918621603711067, + "grad_norm": 4.102461338043213, + "learning_rate": 9.080426436453849e-09, + "loss": 0.0158, + "num_input_tokens_seen": 43112784, + "step": 22021 + }, + { + "epoch": 2.9187541418157723, + "grad_norm": 0.08176983892917633, + "learning_rate": 9.050890431969994e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43115360, + "step": 22022 + }, + { + "epoch": 2.918886679920477, + "grad_norm": 0.01711432635784149, + "learning_rate": 9.021402454703065e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43117640, + "step": 22023 + }, + { + "epoch": 2.9190192180251824, + "grad_norm": 8.551813125610352, + "learning_rate": 8.991962505222052e-09, + "loss": 0.0542, + "num_input_tokens_seen": 43119024, + "step": 22024 + }, + { + "epoch": 2.9191517561298874, + "grad_norm": 3.147411346435547, + "learning_rate": 8.962570584094554e-09, + "loss": 0.0185, + "num_input_tokens_seen": 43120968, + "step": 22025 + }, + { + "epoch": 2.9192842942345925, + "grad_norm": 21.117834091186523, + "learning_rate": 8.933226691887343e-09, + "loss": 0.17, + "num_input_tokens_seen": 43122920, + "step": 22026 + }, + { + "epoch": 2.9194168323392975, + "grad_norm": 15.083314895629883, + "learning_rate": 8.903930829165519e-09, + "loss": 0.2737, + "num_input_tokens_seen": 43125112, + "step": 22027 + }, + { + "epoch": 2.9195493704440025, + "grad_norm": 0.10068300366401672, + "learning_rate": 8.874682996494743e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43126536, + "step": 22028 + }, + { + "epoch": 2.919681908548708, + "grad_norm": 12.075376510620117, + "learning_rate": 8.845483194438732e-09, + "loss": 0.0499, + "num_input_tokens_seen": 43128488, + "step": 22029 + }, + { + "epoch": 2.9198144466534126, + "grad_norm": 1.986091136932373, + "learning_rate": 8.816331423560087e-09, + "loss": 0.0091, + "num_input_tokens_seen": 43130376, + "step": 22030 + }, + { + "epoch": 2.919946984758118, + "grad_norm": 0.00848328322172165, + "learning_rate": 8.787227684421417e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43132560, + "step": 22031 + }, + { + "epoch": 2.920079522862823, + "grad_norm": 2.598376989364624, + "learning_rate": 8.758171977583386e-09, + "loss": 0.0245, + "num_input_tokens_seen": 43135240, + "step": 22032 + }, + { + "epoch": 2.920212060967528, + "grad_norm": 0.0036690249107778072, + "learning_rate": 8.729164303606652e-09, + "loss": 0.0, + "num_input_tokens_seen": 43136640, + "step": 22033 + }, + { + "epoch": 2.920344599072233, + "grad_norm": 0.016206033527851105, + "learning_rate": 8.700204663049939e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43139072, + "step": 22034 + }, + { + "epoch": 2.9204771371769382, + "grad_norm": 0.8606730699539185, + "learning_rate": 8.67129305647224e-09, + "loss": 0.0041, + "num_input_tokens_seen": 43141088, + "step": 22035 + }, + { + "epoch": 2.9206096752816437, + "grad_norm": 0.06360591948032379, + "learning_rate": 8.642429484430615e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43143576, + "step": 22036 + }, + { + "epoch": 2.9207422133863483, + "grad_norm": 4.6535844802856445, + "learning_rate": 8.613613947481558e-09, + "loss": 0.0354, + "num_input_tokens_seen": 43144856, + "step": 22037 + }, + { + "epoch": 2.920874751491054, + "grad_norm": 10.734253883361816, + "learning_rate": 8.584846446180739e-09, + "loss": 0.1165, + "num_input_tokens_seen": 43146888, + "step": 22038 + }, + { + "epoch": 2.921007289595759, + "grad_norm": 0.0016261411365121603, + "learning_rate": 8.556126981082991e-09, + "loss": 0.0, + "num_input_tokens_seen": 43148384, + "step": 22039 + }, + { + "epoch": 2.921139827700464, + "grad_norm": 0.0018114912090823054, + "learning_rate": 8.52745555274176e-09, + "loss": 0.0, + "num_input_tokens_seen": 43149816, + "step": 22040 + }, + { + "epoch": 2.921272365805169, + "grad_norm": 0.08052407205104828, + "learning_rate": 8.498832161709935e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43150952, + "step": 22041 + }, + { + "epoch": 2.921404903909874, + "grad_norm": 0.012318454682826996, + "learning_rate": 8.470256808539301e-09, + "loss": 0.0, + "num_input_tokens_seen": 43152136, + "step": 22042 + }, + { + "epoch": 2.9215374420145794, + "grad_norm": 0.053288139402866364, + "learning_rate": 8.441729493781081e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43154864, + "step": 22043 + }, + { + "epoch": 2.921669980119284, + "grad_norm": 2.100132465362549, + "learning_rate": 8.413250217985114e-09, + "loss": 0.0146, + "num_input_tokens_seen": 43157304, + "step": 22044 + }, + { + "epoch": 2.9218025182239895, + "grad_norm": 6.771554946899414, + "learning_rate": 8.384818981700683e-09, + "loss": 0.069, + "num_input_tokens_seen": 43159224, + "step": 22045 + }, + { + "epoch": 2.9219350563286945, + "grad_norm": 0.018923955038189888, + "learning_rate": 8.35643578547568e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43161008, + "step": 22046 + }, + { + "epoch": 2.9220675944333996, + "grad_norm": 0.0010692656505852938, + "learning_rate": 8.328100629857449e-09, + "loss": 0.0, + "num_input_tokens_seen": 43162384, + "step": 22047 + }, + { + "epoch": 2.9222001325381046, + "grad_norm": 3.4071366786956787, + "learning_rate": 8.299813515392496e-09, + "loss": 0.0061, + "num_input_tokens_seen": 43164576, + "step": 22048 + }, + { + "epoch": 2.9223326706428097, + "grad_norm": 0.02812289632856846, + "learning_rate": 8.27157444262594e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43166288, + "step": 22049 + }, + { + "epoch": 2.922465208747515, + "grad_norm": 0.2410457879304886, + "learning_rate": 8.243383412102623e-09, + "loss": 0.0016, + "num_input_tokens_seen": 43168120, + "step": 22050 + }, + { + "epoch": 2.92259774685222, + "grad_norm": 0.010149221867322922, + "learning_rate": 8.215240424365723e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43170488, + "step": 22051 + }, + { + "epoch": 2.922730284956925, + "grad_norm": 3.368898391723633, + "learning_rate": 8.187145479957858e-09, + "loss": 0.0166, + "num_input_tokens_seen": 43172424, + "step": 22052 + }, + { + "epoch": 2.9228628230616303, + "grad_norm": 8.495651245117188, + "learning_rate": 8.15909857942082e-09, + "loss": 0.0831, + "num_input_tokens_seen": 43174240, + "step": 22053 + }, + { + "epoch": 2.9229953611663353, + "grad_norm": 0.1026514545083046, + "learning_rate": 8.131099723295565e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43176376, + "step": 22054 + }, + { + "epoch": 2.9231278992710403, + "grad_norm": 1.635671615600586, + "learning_rate": 8.103148912121661e-09, + "loss": 0.004, + "num_input_tokens_seen": 43178048, + "step": 22055 + }, + { + "epoch": 2.9232604373757454, + "grad_norm": 0.002948101842775941, + "learning_rate": 8.07524614643812e-09, + "loss": 0.0, + "num_input_tokens_seen": 43180392, + "step": 22056 + }, + { + "epoch": 2.923392975480451, + "grad_norm": 11.108196258544922, + "learning_rate": 8.047391426783124e-09, + "loss": 0.0662, + "num_input_tokens_seen": 43182856, + "step": 22057 + }, + { + "epoch": 2.923525513585156, + "grad_norm": 0.1270332783460617, + "learning_rate": 8.019584753693189e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43185008, + "step": 22058 + }, + { + "epoch": 2.923658051689861, + "grad_norm": 0.05493020638823509, + "learning_rate": 7.991826127705105e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43186440, + "step": 22059 + }, + { + "epoch": 2.923790589794566, + "grad_norm": 7.82921028137207, + "learning_rate": 7.964115549353447e-09, + "loss": 0.1504, + "num_input_tokens_seen": 43190024, + "step": 22060 + }, + { + "epoch": 2.923923127899271, + "grad_norm": 8.035615921020508, + "learning_rate": 7.936453019173063e-09, + "loss": 0.1009, + "num_input_tokens_seen": 43192320, + "step": 22061 + }, + { + "epoch": 2.924055666003976, + "grad_norm": 0.05808660387992859, + "learning_rate": 7.908838537697138e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43195456, + "step": 22062 + }, + { + "epoch": 2.924188204108681, + "grad_norm": 9.034675598144531, + "learning_rate": 7.88127210545775e-09, + "loss": 0.1319, + "num_input_tokens_seen": 43197872, + "step": 22063 + }, + { + "epoch": 2.9243207422133866, + "grad_norm": 2.089660167694092, + "learning_rate": 7.85375372298669e-09, + "loss": 0.0054, + "num_input_tokens_seen": 43200832, + "step": 22064 + }, + { + "epoch": 2.9244532803180916, + "grad_norm": 8.944283485412598, + "learning_rate": 7.826283390814648e-09, + "loss": 0.1389, + "num_input_tokens_seen": 43202624, + "step": 22065 + }, + { + "epoch": 2.9245858184227966, + "grad_norm": 3.8535234928131104, + "learning_rate": 7.798861109470923e-09, + "loss": 0.0113, + "num_input_tokens_seen": 43204856, + "step": 22066 + }, + { + "epoch": 2.9247183565275017, + "grad_norm": 0.016583627089858055, + "learning_rate": 7.771486879484535e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43206936, + "step": 22067 + }, + { + "epoch": 2.9248508946322067, + "grad_norm": 6.6017937660217285, + "learning_rate": 7.744160701383118e-09, + "loss": 0.0577, + "num_input_tokens_seen": 43208464, + "step": 22068 + }, + { + "epoch": 2.9249834327369117, + "grad_norm": 0.008596937172114849, + "learning_rate": 7.716882575693752e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43210432, + "step": 22069 + }, + { + "epoch": 2.925115970841617, + "grad_norm": 0.6601366400718689, + "learning_rate": 7.689652502942124e-09, + "loss": 0.002, + "num_input_tokens_seen": 43212288, + "step": 22070 + }, + { + "epoch": 2.9252485089463223, + "grad_norm": 7.792044162750244, + "learning_rate": 7.662470483653373e-09, + "loss": 0.1357, + "num_input_tokens_seen": 43213976, + "step": 22071 + }, + { + "epoch": 2.9253810470510273, + "grad_norm": 0.0022907129023224115, + "learning_rate": 7.6353365183518e-09, + "loss": 0.0, + "num_input_tokens_seen": 43215176, + "step": 22072 + }, + { + "epoch": 2.9255135851557323, + "grad_norm": 0.2264651656150818, + "learning_rate": 7.608250607560042e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43216872, + "step": 22073 + }, + { + "epoch": 2.9256461232604374, + "grad_norm": 0.009814048185944557, + "learning_rate": 7.581212751800737e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43218544, + "step": 22074 + }, + { + "epoch": 2.9257786613651424, + "grad_norm": 0.14068816602230072, + "learning_rate": 7.554222951594859e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43220128, + "step": 22075 + }, + { + "epoch": 2.9259111994698475, + "grad_norm": 3.8782832622528076, + "learning_rate": 7.527281207463377e-09, + "loss": 0.0329, + "num_input_tokens_seen": 43221744, + "step": 22076 + }, + { + "epoch": 2.9260437375745525, + "grad_norm": 8.24238395690918, + "learning_rate": 7.500387519925046e-09, + "loss": 0.0139, + "num_input_tokens_seen": 43222888, + "step": 22077 + }, + { + "epoch": 2.926176275679258, + "grad_norm": 6.80824613571167, + "learning_rate": 7.473541889498892e-09, + "loss": 0.048, + "num_input_tokens_seen": 43225336, + "step": 22078 + }, + { + "epoch": 2.926308813783963, + "grad_norm": 2.690898895263672, + "learning_rate": 7.446744316702281e-09, + "loss": 0.0139, + "num_input_tokens_seen": 43226992, + "step": 22079 + }, + { + "epoch": 2.926441351888668, + "grad_norm": 0.4056514501571655, + "learning_rate": 7.419994802052022e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43228504, + "step": 22080 + }, + { + "epoch": 2.926573889993373, + "grad_norm": 0.05016142874956131, + "learning_rate": 7.39329334606409e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43230224, + "step": 22081 + }, + { + "epoch": 2.926706428098078, + "grad_norm": 1.9146174192428589, + "learning_rate": 7.366639949252518e-09, + "loss": 0.0027, + "num_input_tokens_seen": 43232416, + "step": 22082 + }, + { + "epoch": 2.926838966202783, + "grad_norm": 0.005480424966663122, + "learning_rate": 7.340034612132174e-09, + "loss": 0.0, + "num_input_tokens_seen": 43234000, + "step": 22083 + }, + { + "epoch": 2.926971504307488, + "grad_norm": 1.8438187837600708, + "learning_rate": 7.3134773352151464e-09, + "loss": 0.0052, + "num_input_tokens_seen": 43236248, + "step": 22084 + }, + { + "epoch": 2.9271040424121937, + "grad_norm": 8.427469253540039, + "learning_rate": 7.286968119014081e-09, + "loss": 0.0715, + "num_input_tokens_seen": 43238664, + "step": 22085 + }, + { + "epoch": 2.9272365805168987, + "grad_norm": 6.219549179077148, + "learning_rate": 7.2605069640399595e-09, + "loss": 0.0726, + "num_input_tokens_seen": 43240680, + "step": 22086 + }, + { + "epoch": 2.9273691186216038, + "grad_norm": 22.618549346923828, + "learning_rate": 7.234093870802927e-09, + "loss": 0.0383, + "num_input_tokens_seen": 43243240, + "step": 22087 + }, + { + "epoch": 2.927501656726309, + "grad_norm": 0.016974564641714096, + "learning_rate": 7.207728839812023e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43245736, + "step": 22088 + }, + { + "epoch": 2.927634194831014, + "grad_norm": 11.528935432434082, + "learning_rate": 7.181411871576005e-09, + "loss": 0.0586, + "num_input_tokens_seen": 43247808, + "step": 22089 + }, + { + "epoch": 2.927766732935719, + "grad_norm": 6.52501106262207, + "learning_rate": 7.155142966601969e-09, + "loss": 0.0536, + "num_input_tokens_seen": 43249328, + "step": 22090 + }, + { + "epoch": 2.927899271040424, + "grad_norm": 4.307399272918701, + "learning_rate": 7.128922125396454e-09, + "loss": 0.0384, + "num_input_tokens_seen": 43251272, + "step": 22091 + }, + { + "epoch": 2.9280318091451294, + "grad_norm": 10.056846618652344, + "learning_rate": 7.102749348465166e-09, + "loss": 0.0423, + "num_input_tokens_seen": 43253688, + "step": 22092 + }, + { + "epoch": 2.9281643472498344, + "grad_norm": 2.213285207748413, + "learning_rate": 7.076624636312701e-09, + "loss": 0.0033, + "num_input_tokens_seen": 43256056, + "step": 22093 + }, + { + "epoch": 2.9282968853545395, + "grad_norm": 0.6583153605461121, + "learning_rate": 7.050547989442546e-09, + "loss": 0.0018, + "num_input_tokens_seen": 43257832, + "step": 22094 + }, + { + "epoch": 2.9284294234592445, + "grad_norm": 0.015409549698233604, + "learning_rate": 7.024519408357633e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43260384, + "step": 22095 + }, + { + "epoch": 2.9285619615639495, + "grad_norm": 0.9824042320251465, + "learning_rate": 6.998538893559781e-09, + "loss": 0.004, + "num_input_tokens_seen": 43262664, + "step": 22096 + }, + { + "epoch": 2.9286944996686546, + "grad_norm": 0.0654655396938324, + "learning_rate": 6.9726064455502564e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43264256, + "step": 22097 + }, + { + "epoch": 2.9288270377733596, + "grad_norm": 2.583324670791626, + "learning_rate": 6.946722064828382e-09, + "loss": 0.0159, + "num_input_tokens_seen": 43266320, + "step": 22098 + }, + { + "epoch": 2.928959575878065, + "grad_norm": 10.743614196777344, + "learning_rate": 6.9208857518934805e-09, + "loss": 0.1085, + "num_input_tokens_seen": 43268592, + "step": 22099 + }, + { + "epoch": 2.92909211398277, + "grad_norm": 0.002843249123543501, + "learning_rate": 6.895097507244042e-09, + "loss": 0.0, + "num_input_tokens_seen": 43270008, + "step": 22100 + }, + { + "epoch": 2.929224652087475, + "grad_norm": 5.35045862197876, + "learning_rate": 6.869357331376891e-09, + "loss": 0.0668, + "num_input_tokens_seen": 43271480, + "step": 22101 + }, + { + "epoch": 2.92935719019218, + "grad_norm": 30.963146209716797, + "learning_rate": 6.843665224788576e-09, + "loss": 0.2139, + "num_input_tokens_seen": 43273000, + "step": 22102 + }, + { + "epoch": 2.9294897282968853, + "grad_norm": 7.191398620605469, + "learning_rate": 6.818021187974533e-09, + "loss": 0.0695, + "num_input_tokens_seen": 43275728, + "step": 22103 + }, + { + "epoch": 2.9296222664015903, + "grad_norm": 6.045431613922119, + "learning_rate": 6.7924252214285336e-09, + "loss": 0.0272, + "num_input_tokens_seen": 43277720, + "step": 22104 + }, + { + "epoch": 2.9297548045062953, + "grad_norm": 0.005579132121056318, + "learning_rate": 6.766877325644905e-09, + "loss": 0.0, + "num_input_tokens_seen": 43279304, + "step": 22105 + }, + { + "epoch": 2.929887342611001, + "grad_norm": 6.941376209259033, + "learning_rate": 6.7413775011154756e-09, + "loss": 0.0479, + "num_input_tokens_seen": 43280944, + "step": 22106 + }, + { + "epoch": 2.930019880715706, + "grad_norm": 9.945730209350586, + "learning_rate": 6.71592574833263e-09, + "loss": 0.0831, + "num_input_tokens_seen": 43283592, + "step": 22107 + }, + { + "epoch": 2.930152418820411, + "grad_norm": 0.029946571215987206, + "learning_rate": 6.6905220677868085e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43285352, + "step": 22108 + }, + { + "epoch": 2.930284956925116, + "grad_norm": 2.69757342338562, + "learning_rate": 6.6651664599676204e-09, + "loss": 0.0137, + "num_input_tokens_seen": 43287736, + "step": 22109 + }, + { + "epoch": 2.930417495029821, + "grad_norm": 8.09864330291748, + "learning_rate": 6.639858925364118e-09, + "loss": 0.1031, + "num_input_tokens_seen": 43289640, + "step": 22110 + }, + { + "epoch": 2.9305500331345264, + "grad_norm": 14.94510555267334, + "learning_rate": 6.6145994644642445e-09, + "loss": 0.0743, + "num_input_tokens_seen": 43292136, + "step": 22111 + }, + { + "epoch": 2.930682571239231, + "grad_norm": 3.3469364643096924, + "learning_rate": 6.589388077754833e-09, + "loss": 0.0344, + "num_input_tokens_seen": 43294640, + "step": 22112 + }, + { + "epoch": 2.9308151093439365, + "grad_norm": 0.3360113799571991, + "learning_rate": 6.5642247657224376e-09, + "loss": 0.0012, + "num_input_tokens_seen": 43296968, + "step": 22113 + }, + { + "epoch": 2.9309476474486416, + "grad_norm": 0.016380127519369125, + "learning_rate": 6.539109528851673e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43298568, + "step": 22114 + }, + { + "epoch": 2.9310801855533466, + "grad_norm": 3.8965156078338623, + "learning_rate": 6.514042367627149e-09, + "loss": 0.0435, + "num_input_tokens_seen": 43300112, + "step": 22115 + }, + { + "epoch": 2.9312127236580516, + "grad_norm": 2.0914340019226074, + "learning_rate": 6.489023282532092e-09, + "loss": 0.0083, + "num_input_tokens_seen": 43301824, + "step": 22116 + }, + { + "epoch": 2.9313452617627567, + "grad_norm": 2.017146110534668, + "learning_rate": 6.4640522740486155e-09, + "loss": 0.031, + "num_input_tokens_seen": 43303640, + "step": 22117 + }, + { + "epoch": 2.931477799867462, + "grad_norm": 1.4194573163986206, + "learning_rate": 6.439129342658557e-09, + "loss": 0.0081, + "num_input_tokens_seen": 43305520, + "step": 22118 + }, + { + "epoch": 2.9316103379721667, + "grad_norm": 0.0023405931424349546, + "learning_rate": 6.414254488842364e-09, + "loss": 0.0, + "num_input_tokens_seen": 43306952, + "step": 22119 + }, + { + "epoch": 2.9317428760768722, + "grad_norm": 2.6504392623901367, + "learning_rate": 6.3894277130796545e-09, + "loss": 0.0102, + "num_input_tokens_seen": 43308784, + "step": 22120 + }, + { + "epoch": 2.9318754141815773, + "grad_norm": 2.050424575805664, + "learning_rate": 6.364649015848934e-09, + "loss": 0.0242, + "num_input_tokens_seen": 43310560, + "step": 22121 + }, + { + "epoch": 2.9320079522862823, + "grad_norm": 0.023232610896229744, + "learning_rate": 6.339918397627876e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43312104, + "step": 22122 + }, + { + "epoch": 2.9321404903909873, + "grad_norm": 0.11372028291225433, + "learning_rate": 6.315235858893598e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43313664, + "step": 22123 + }, + { + "epoch": 2.9322730284956924, + "grad_norm": 8.348061561584473, + "learning_rate": 6.2906014001221094e-09, + "loss": 0.0924, + "num_input_tokens_seen": 43315784, + "step": 22124 + }, + { + "epoch": 2.932405566600398, + "grad_norm": 0.014346299692988396, + "learning_rate": 6.266015021787752e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43317440, + "step": 22125 + }, + { + "epoch": 2.9325381047051025, + "grad_norm": 0.03806941956281662, + "learning_rate": 6.241476724365148e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43318760, + "step": 22126 + }, + { + "epoch": 2.932670642809808, + "grad_norm": 0.30412936210632324, + "learning_rate": 6.216986508327527e-09, + "loss": 0.0011, + "num_input_tokens_seen": 43320680, + "step": 22127 + }, + { + "epoch": 2.932803180914513, + "grad_norm": 0.7329542636871338, + "learning_rate": 6.192544374146458e-09, + "loss": 0.0034, + "num_input_tokens_seen": 43322992, + "step": 22128 + }, + { + "epoch": 2.932935719019218, + "grad_norm": 1.9308414459228516, + "learning_rate": 6.1681503222935094e-09, + "loss": 0.0091, + "num_input_tokens_seen": 43326168, + "step": 22129 + }, + { + "epoch": 2.933068257123923, + "grad_norm": 2.010263681411743, + "learning_rate": 6.143804353238858e-09, + "loss": 0.0076, + "num_input_tokens_seen": 43329000, + "step": 22130 + }, + { + "epoch": 2.933200795228628, + "grad_norm": 0.009435562416911125, + "learning_rate": 6.119506467452408e-09, + "loss": 0.0, + "num_input_tokens_seen": 43330568, + "step": 22131 + }, + { + "epoch": 2.9333333333333336, + "grad_norm": 10.957011222839355, + "learning_rate": 6.0952566654023934e-09, + "loss": 0.0802, + "num_input_tokens_seen": 43332560, + "step": 22132 + }, + { + "epoch": 2.933465871438038, + "grad_norm": 0.014063953422009945, + "learning_rate": 6.071054947555943e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43333912, + "step": 22133 + }, + { + "epoch": 2.9335984095427436, + "grad_norm": 14.409337043762207, + "learning_rate": 6.046901314380183e-09, + "loss": 0.2201, + "num_input_tokens_seen": 43336160, + "step": 22134 + }, + { + "epoch": 2.9337309476474487, + "grad_norm": 0.01625487580895424, + "learning_rate": 6.022795766340572e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43338160, + "step": 22135 + }, + { + "epoch": 2.9338634857521537, + "grad_norm": 7.523234844207764, + "learning_rate": 5.998738303902018e-09, + "loss": 0.0902, + "num_input_tokens_seen": 43341040, + "step": 22136 + }, + { + "epoch": 2.9339960238568588, + "grad_norm": 0.002209529746323824, + "learning_rate": 5.974728927528595e-09, + "loss": 0.0, + "num_input_tokens_seen": 43342176, + "step": 22137 + }, + { + "epoch": 2.934128561961564, + "grad_norm": 5.534908771514893, + "learning_rate": 5.9507676376827085e-09, + "loss": 0.0838, + "num_input_tokens_seen": 43344416, + "step": 22138 + }, + { + "epoch": 2.9342611000662693, + "grad_norm": 4.271093845367432, + "learning_rate": 5.92685443482649e-09, + "loss": 0.0197, + "num_input_tokens_seen": 43347416, + "step": 22139 + }, + { + "epoch": 2.9343936381709743, + "grad_norm": 0.03302037715911865, + "learning_rate": 5.902989319421237e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43349656, + "step": 22140 + }, + { + "epoch": 2.9345261762756794, + "grad_norm": 5.448806285858154, + "learning_rate": 5.87917229192686e-09, + "loss": 0.0332, + "num_input_tokens_seen": 43351768, + "step": 22141 + }, + { + "epoch": 2.9346587143803844, + "grad_norm": 0.008495145477354527, + "learning_rate": 5.8554033528024355e-09, + "loss": 0.0, + "num_input_tokens_seen": 43353656, + "step": 22142 + }, + { + "epoch": 2.9347912524850894, + "grad_norm": 0.012205966748297215, + "learning_rate": 5.831682502506764e-09, + "loss": 0.0, + "num_input_tokens_seen": 43356000, + "step": 22143 + }, + { + "epoch": 2.9349237905897945, + "grad_norm": 0.0032853432931005955, + "learning_rate": 5.8080097414967e-09, + "loss": 0.0, + "num_input_tokens_seen": 43357568, + "step": 22144 + }, + { + "epoch": 2.9350563286944995, + "grad_norm": 0.006267149467021227, + "learning_rate": 5.784385070229104e-09, + "loss": 0.0, + "num_input_tokens_seen": 43359344, + "step": 22145 + }, + { + "epoch": 2.935188866799205, + "grad_norm": 10.19390869140625, + "learning_rate": 5.760808489159164e-09, + "loss": 0.1342, + "num_input_tokens_seen": 43361912, + "step": 22146 + }, + { + "epoch": 2.93532140490391, + "grad_norm": 0.03335731104016304, + "learning_rate": 5.737279998741241e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43364440, + "step": 22147 + }, + { + "epoch": 2.935453943008615, + "grad_norm": 0.43734079599380493, + "learning_rate": 5.713799599429693e-09, + "loss": 0.0012, + "num_input_tokens_seen": 43365896, + "step": 22148 + }, + { + "epoch": 2.93558648111332, + "grad_norm": 0.08593138307332993, + "learning_rate": 5.69036729167638e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43367896, + "step": 22149 + }, + { + "epoch": 2.935719019218025, + "grad_norm": 0.009426298551261425, + "learning_rate": 5.6669830759339965e-09, + "loss": 0.0, + "num_input_tokens_seen": 43369072, + "step": 22150 + }, + { + "epoch": 2.93585155732273, + "grad_norm": 6.8926239013671875, + "learning_rate": 5.64364695265246e-09, + "loss": 0.0327, + "num_input_tokens_seen": 43371120, + "step": 22151 + }, + { + "epoch": 2.935984095427435, + "grad_norm": 0.005670865066349506, + "learning_rate": 5.6203589222825205e-09, + "loss": 0.0, + "num_input_tokens_seen": 43372152, + "step": 22152 + }, + { + "epoch": 2.9361166335321407, + "grad_norm": 0.8136738538742065, + "learning_rate": 5.59711898527271e-09, + "loss": 0.0039, + "num_input_tokens_seen": 43375024, + "step": 22153 + }, + { + "epoch": 2.9362491716368457, + "grad_norm": 5.071423530578613, + "learning_rate": 5.5739271420712785e-09, + "loss": 0.0506, + "num_input_tokens_seen": 43376624, + "step": 22154 + }, + { + "epoch": 2.9363817097415508, + "grad_norm": 24.13330078125, + "learning_rate": 5.550783393125092e-09, + "loss": 0.1184, + "num_input_tokens_seen": 43378248, + "step": 22155 + }, + { + "epoch": 2.936514247846256, + "grad_norm": 0.002653921488672495, + "learning_rate": 5.5276877388810155e-09, + "loss": 0.0, + "num_input_tokens_seen": 43380880, + "step": 22156 + }, + { + "epoch": 2.936646785950961, + "grad_norm": 0.011623536236584187, + "learning_rate": 5.504640179783693e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43382688, + "step": 22157 + }, + { + "epoch": 2.936779324055666, + "grad_norm": 0.046251118183135986, + "learning_rate": 5.481640716278047e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43383696, + "step": 22158 + }, + { + "epoch": 2.936911862160371, + "grad_norm": 0.0017245863564312458, + "learning_rate": 5.4586893488070555e-09, + "loss": 0.0, + "num_input_tokens_seen": 43384928, + "step": 22159 + }, + { + "epoch": 2.9370444002650764, + "grad_norm": 0.03072090446949005, + "learning_rate": 5.435786077813421e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43386896, + "step": 22160 + }, + { + "epoch": 2.9371769383697814, + "grad_norm": 2.2341530323028564, + "learning_rate": 5.412930903738734e-09, + "loss": 0.0122, + "num_input_tokens_seen": 43388824, + "step": 22161 + }, + { + "epoch": 2.9373094764744865, + "grad_norm": 10.868108749389648, + "learning_rate": 5.390123827023752e-09, + "loss": 0.0932, + "num_input_tokens_seen": 43390600, + "step": 22162 + }, + { + "epoch": 2.9374420145791915, + "grad_norm": 0.0027919115964323282, + "learning_rate": 5.367364848108125e-09, + "loss": 0.0, + "num_input_tokens_seen": 43391528, + "step": 22163 + }, + { + "epoch": 2.9375745526838966, + "grad_norm": 0.06976006925106049, + "learning_rate": 5.344653967430669e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43392984, + "step": 22164 + }, + { + "epoch": 2.9377070907886016, + "grad_norm": 2.8172214031219482, + "learning_rate": 5.321991185429087e-09, + "loss": 0.012, + "num_input_tokens_seen": 43395120, + "step": 22165 + }, + { + "epoch": 2.9378396288933066, + "grad_norm": 2.775331974029541, + "learning_rate": 5.299376502540809e-09, + "loss": 0.0324, + "num_input_tokens_seen": 43397072, + "step": 22166 + }, + { + "epoch": 2.937972166998012, + "grad_norm": 0.09739279001951218, + "learning_rate": 5.27680991920132e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43398416, + "step": 22167 + }, + { + "epoch": 2.938104705102717, + "grad_norm": 8.417837142944336, + "learning_rate": 5.254291435846104e-09, + "loss": 0.1836, + "num_input_tokens_seen": 43401040, + "step": 22168 + }, + { + "epoch": 2.938237243207422, + "grad_norm": 7.034914493560791, + "learning_rate": 5.231821052908981e-09, + "loss": 0.0269, + "num_input_tokens_seen": 43403104, + "step": 22169 + }, + { + "epoch": 2.9383697813121272, + "grad_norm": 17.984704971313477, + "learning_rate": 5.209398770823493e-09, + "loss": 0.2277, + "num_input_tokens_seen": 43404984, + "step": 22170 + }, + { + "epoch": 2.9385023194168323, + "grad_norm": 4.409945964813232, + "learning_rate": 5.187024590021794e-09, + "loss": 0.0273, + "num_input_tokens_seen": 43406632, + "step": 22171 + }, + { + "epoch": 2.9386348575215373, + "grad_norm": 0.01551005057990551, + "learning_rate": 5.164698510935484e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43408688, + "step": 22172 + }, + { + "epoch": 2.9387673956262423, + "grad_norm": 0.00377973192371428, + "learning_rate": 5.142420533995052e-09, + "loss": 0.0, + "num_input_tokens_seen": 43409912, + "step": 22173 + }, + { + "epoch": 2.938899933730948, + "grad_norm": 0.007364246528595686, + "learning_rate": 5.120190659629598e-09, + "loss": 0.0, + "num_input_tokens_seen": 43412008, + "step": 22174 + }, + { + "epoch": 2.939032471835653, + "grad_norm": 12.22370719909668, + "learning_rate": 5.098008888267947e-09, + "loss": 0.2074, + "num_input_tokens_seen": 43414400, + "step": 22175 + }, + { + "epoch": 2.939165009940358, + "grad_norm": 0.0016230563633143902, + "learning_rate": 5.075875220338089e-09, + "loss": 0.0, + "num_input_tokens_seen": 43415832, + "step": 22176 + }, + { + "epoch": 2.939297548045063, + "grad_norm": 4.920330047607422, + "learning_rate": 5.05378965626635e-09, + "loss": 0.041, + "num_input_tokens_seen": 43417576, + "step": 22177 + }, + { + "epoch": 2.939430086149768, + "grad_norm": 2.4089043140411377, + "learning_rate": 5.0317521964787786e-09, + "loss": 0.0204, + "num_input_tokens_seen": 43420160, + "step": 22178 + }, + { + "epoch": 2.939562624254473, + "grad_norm": 4.749571800231934, + "learning_rate": 5.009762841400034e-09, + "loss": 0.0695, + "num_input_tokens_seen": 43422056, + "step": 22179 + }, + { + "epoch": 2.939695162359178, + "grad_norm": 0.0010952723678201437, + "learning_rate": 4.9878215914545004e-09, + "loss": 0.0, + "num_input_tokens_seen": 43423408, + "step": 22180 + }, + { + "epoch": 2.9398277004638835, + "grad_norm": 0.22786812484264374, + "learning_rate": 4.9659284470648935e-09, + "loss": 0.0009, + "num_input_tokens_seen": 43425184, + "step": 22181 + }, + { + "epoch": 2.9399602385685886, + "grad_norm": 14.400517463684082, + "learning_rate": 4.9440834086533775e-09, + "loss": 0.3224, + "num_input_tokens_seen": 43427024, + "step": 22182 + }, + { + "epoch": 2.9400927766732936, + "grad_norm": 0.012812037952244282, + "learning_rate": 4.92228647664128e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43428888, + "step": 22183 + }, + { + "epoch": 2.9402253147779986, + "grad_norm": 0.008589325472712517, + "learning_rate": 4.900537651448545e-09, + "loss": 0.0, + "num_input_tokens_seen": 43430088, + "step": 22184 + }, + { + "epoch": 2.9403578528827037, + "grad_norm": 5.465794086456299, + "learning_rate": 4.8788369334951126e-09, + "loss": 0.0433, + "num_input_tokens_seen": 43433848, + "step": 22185 + }, + { + "epoch": 2.9404903909874087, + "grad_norm": 0.04985884577035904, + "learning_rate": 4.857184323198705e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43436752, + "step": 22186 + }, + { + "epoch": 2.9406229290921138, + "grad_norm": 0.1549299955368042, + "learning_rate": 4.835579820977043e-09, + "loss": 0.0011, + "num_input_tokens_seen": 43438840, + "step": 22187 + }, + { + "epoch": 2.9407554671968192, + "grad_norm": 13.72365665435791, + "learning_rate": 4.814023427247017e-09, + "loss": 0.3077, + "num_input_tokens_seen": 43441104, + "step": 22188 + }, + { + "epoch": 2.9408880053015243, + "grad_norm": 0.02718745730817318, + "learning_rate": 4.792515142423848e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43444024, + "step": 22189 + }, + { + "epoch": 2.9410205434062293, + "grad_norm": 2.9345405101776123, + "learning_rate": 4.7710549669222065e-09, + "loss": 0.0165, + "num_input_tokens_seen": 43445672, + "step": 22190 + }, + { + "epoch": 2.9411530815109344, + "grad_norm": 6.276704788208008, + "learning_rate": 4.749642901156204e-09, + "loss": 0.0132, + "num_input_tokens_seen": 43447584, + "step": 22191 + }, + { + "epoch": 2.9412856196156394, + "grad_norm": 0.008495446294546127, + "learning_rate": 4.728278945538289e-09, + "loss": 0.0, + "num_input_tokens_seen": 43448784, + "step": 22192 + }, + { + "epoch": 2.941418157720345, + "grad_norm": 9.648369789123535, + "learning_rate": 4.706963100480633e-09, + "loss": 0.0192, + "num_input_tokens_seen": 43451120, + "step": 22193 + }, + { + "epoch": 2.9415506958250495, + "grad_norm": 0.2611417770385742, + "learning_rate": 4.685695366394016e-09, + "loss": 0.0018, + "num_input_tokens_seen": 43453992, + "step": 22194 + }, + { + "epoch": 2.941683233929755, + "grad_norm": 14.668900489807129, + "learning_rate": 4.664475743688668e-09, + "loss": 0.2126, + "num_input_tokens_seen": 43456448, + "step": 22195 + }, + { + "epoch": 2.94181577203446, + "grad_norm": 0.08406632393598557, + "learning_rate": 4.643304232773982e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43459360, + "step": 22196 + }, + { + "epoch": 2.941948310139165, + "grad_norm": 0.3660418689250946, + "learning_rate": 4.62218083405741e-09, + "loss": 0.0016, + "num_input_tokens_seen": 43461160, + "step": 22197 + }, + { + "epoch": 2.94208084824387, + "grad_norm": 0.5038986206054688, + "learning_rate": 4.60110554794696e-09, + "loss": 0.0036, + "num_input_tokens_seen": 43464288, + "step": 22198 + }, + { + "epoch": 2.942213386348575, + "grad_norm": 12.731736183166504, + "learning_rate": 4.5800783748486955e-09, + "loss": 0.1609, + "num_input_tokens_seen": 43467112, + "step": 22199 + }, + { + "epoch": 2.9423459244532806, + "grad_norm": 0.003218056634068489, + "learning_rate": 4.559099315167848e-09, + "loss": 0.0, + "num_input_tokens_seen": 43468408, + "step": 22200 + }, + { + "epoch": 2.942478462557985, + "grad_norm": 6.425694465637207, + "learning_rate": 4.538168369309093e-09, + "loss": 0.0485, + "num_input_tokens_seen": 43470848, + "step": 22201 + }, + { + "epoch": 2.9426110006626907, + "grad_norm": 2.1874780654907227, + "learning_rate": 4.517285537675997e-09, + "loss": 0.0075, + "num_input_tokens_seen": 43472400, + "step": 22202 + }, + { + "epoch": 2.9427435387673957, + "grad_norm": 7.34139347076416, + "learning_rate": 4.496450820671294e-09, + "loss": 0.1725, + "num_input_tokens_seen": 43474648, + "step": 22203 + }, + { + "epoch": 2.9428760768721007, + "grad_norm": 0.006921963766217232, + "learning_rate": 4.4756642186963295e-09, + "loss": 0.0, + "num_input_tokens_seen": 43476512, + "step": 22204 + }, + { + "epoch": 2.9430086149768058, + "grad_norm": 11.82992935180664, + "learning_rate": 4.454925732152449e-09, + "loss": 0.1437, + "num_input_tokens_seen": 43478288, + "step": 22205 + }, + { + "epoch": 2.943141153081511, + "grad_norm": 5.393231391906738, + "learning_rate": 4.434235361439054e-09, + "loss": 0.0232, + "num_input_tokens_seen": 43480312, + "step": 22206 + }, + { + "epoch": 2.9432736911862163, + "grad_norm": 10.708026885986328, + "learning_rate": 4.413593106955272e-09, + "loss": 0.2381, + "num_input_tokens_seen": 43481856, + "step": 22207 + }, + { + "epoch": 2.943406229290921, + "grad_norm": 6.932523250579834, + "learning_rate": 4.392998969098838e-09, + "loss": 0.0521, + "num_input_tokens_seen": 43483912, + "step": 22208 + }, + { + "epoch": 2.9435387673956264, + "grad_norm": 2.2146403789520264, + "learning_rate": 4.372452948267214e-09, + "loss": 0.0143, + "num_input_tokens_seen": 43485280, + "step": 22209 + }, + { + "epoch": 2.9436713055003314, + "grad_norm": 0.24946315586566925, + "learning_rate": 4.3519550448561935e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43488680, + "step": 22210 + }, + { + "epoch": 2.9438038436050364, + "grad_norm": 0.6993536949157715, + "learning_rate": 4.331505259261293e-09, + "loss": 0.0056, + "num_input_tokens_seen": 43490576, + "step": 22211 + }, + { + "epoch": 2.9439363817097415, + "grad_norm": 14.776391983032227, + "learning_rate": 4.311103591876365e-09, + "loss": 0.2447, + "num_input_tokens_seen": 43494168, + "step": 22212 + }, + { + "epoch": 2.9440689198144465, + "grad_norm": 7.063780784606934, + "learning_rate": 4.2907500430952595e-09, + "loss": 0.0752, + "num_input_tokens_seen": 43497616, + "step": 22213 + }, + { + "epoch": 2.944201457919152, + "grad_norm": 0.0016312790103256702, + "learning_rate": 4.2704446133101655e-09, + "loss": 0.0, + "num_input_tokens_seen": 43499184, + "step": 22214 + }, + { + "epoch": 2.9443339960238566, + "grad_norm": 11.208063125610352, + "learning_rate": 4.2501873029127115e-09, + "loss": 0.0647, + "num_input_tokens_seen": 43501440, + "step": 22215 + }, + { + "epoch": 2.944466534128562, + "grad_norm": 0.06850332021713257, + "learning_rate": 4.22997811229342e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43503512, + "step": 22216 + }, + { + "epoch": 2.944599072233267, + "grad_norm": 0.010271979495882988, + "learning_rate": 4.209817041841702e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43504464, + "step": 22217 + }, + { + "epoch": 2.944731610337972, + "grad_norm": 0.16310912370681763, + "learning_rate": 4.189704091946411e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43506520, + "step": 22218 + }, + { + "epoch": 2.944864148442677, + "grad_norm": 0.6446613669395447, + "learning_rate": 4.169639262995573e-09, + "loss": 0.0024, + "num_input_tokens_seen": 43509936, + "step": 22219 + }, + { + "epoch": 2.9449966865473822, + "grad_norm": 0.03429146856069565, + "learning_rate": 4.149622555375821e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43511656, + "step": 22220 + }, + { + "epoch": 2.9451292246520877, + "grad_norm": 5.493871688842773, + "learning_rate": 4.1296539694732355e-09, + "loss": 0.0597, + "num_input_tokens_seen": 43513872, + "step": 22221 + }, + { + "epoch": 2.9452617627567923, + "grad_norm": 0.004199087154120207, + "learning_rate": 4.109733505672509e-09, + "loss": 0.0, + "num_input_tokens_seen": 43515952, + "step": 22222 + }, + { + "epoch": 2.945394300861498, + "grad_norm": 0.35710567235946655, + "learning_rate": 4.089861164358056e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43517608, + "step": 22223 + }, + { + "epoch": 2.945526838966203, + "grad_norm": 0.03404812514781952, + "learning_rate": 4.070036945912903e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43518848, + "step": 22224 + }, + { + "epoch": 2.945659377070908, + "grad_norm": 0.5212902426719666, + "learning_rate": 4.0502608507192454e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43521176, + "step": 22225 + }, + { + "epoch": 2.945791915175613, + "grad_norm": 0.12299291789531708, + "learning_rate": 4.030532879158722e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43523376, + "step": 22226 + }, + { + "epoch": 2.945924453280318, + "grad_norm": 3.2495760917663574, + "learning_rate": 4.010853031611029e-09, + "loss": 0.0426, + "num_input_tokens_seen": 43525152, + "step": 22227 + }, + { + "epoch": 2.9460569913850234, + "grad_norm": 0.0035223516169935465, + "learning_rate": 3.991221308456139e-09, + "loss": 0.0, + "num_input_tokens_seen": 43526520, + "step": 22228 + }, + { + "epoch": 2.9461895294897285, + "grad_norm": 1.9483466148376465, + "learning_rate": 3.971637710072363e-09, + "loss": 0.0149, + "num_input_tokens_seen": 43528272, + "step": 22229 + }, + { + "epoch": 2.9463220675944335, + "grad_norm": 0.03639443218708038, + "learning_rate": 3.952102236837452e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43530632, + "step": 22230 + }, + { + "epoch": 2.9464546056991385, + "grad_norm": 6.411543846130371, + "learning_rate": 3.93261488912805e-09, + "loss": 0.0262, + "num_input_tokens_seen": 43533008, + "step": 22231 + }, + { + "epoch": 2.9465871438038436, + "grad_norm": 4.313691139221191, + "learning_rate": 3.913175667319413e-09, + "loss": 0.0317, + "num_input_tokens_seen": 43534960, + "step": 22232 + }, + { + "epoch": 2.9467196819085486, + "grad_norm": 5.763996601104736, + "learning_rate": 3.893784571787074e-09, + "loss": 0.0392, + "num_input_tokens_seen": 43536904, + "step": 22233 + }, + { + "epoch": 2.9468522200132536, + "grad_norm": 0.23853237926959991, + "learning_rate": 3.874441602904344e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43537968, + "step": 22234 + }, + { + "epoch": 2.946984758117959, + "grad_norm": 0.0018829447217285633, + "learning_rate": 3.855146761044259e-09, + "loss": 0.0, + "num_input_tokens_seen": 43539104, + "step": 22235 + }, + { + "epoch": 2.947117296222664, + "grad_norm": 0.03619382530450821, + "learning_rate": 3.8359000465793e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43541744, + "step": 22236 + }, + { + "epoch": 2.947249834327369, + "grad_norm": 0.0006016155239194632, + "learning_rate": 3.816701459880001e-09, + "loss": 0.0, + "num_input_tokens_seen": 43543160, + "step": 22237 + }, + { + "epoch": 2.9473823724320742, + "grad_norm": 4.760390281677246, + "learning_rate": 3.797551001316624e-09, + "loss": 0.0733, + "num_input_tokens_seen": 43546168, + "step": 22238 + }, + { + "epoch": 2.9475149105367793, + "grad_norm": 0.00532658351585269, + "learning_rate": 3.7784486712585946e-09, + "loss": 0.0, + "num_input_tokens_seen": 43547784, + "step": 22239 + }, + { + "epoch": 2.9476474486414843, + "grad_norm": 0.11292336881160736, + "learning_rate": 3.759394470074229e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43549192, + "step": 22240 + }, + { + "epoch": 2.9477799867461894, + "grad_norm": 2.300103187561035, + "learning_rate": 3.740388398130734e-09, + "loss": 0.0075, + "num_input_tokens_seen": 43550616, + "step": 22241 + }, + { + "epoch": 2.947912524850895, + "grad_norm": 14.270966529846191, + "learning_rate": 3.7214304557944835e-09, + "loss": 0.0856, + "num_input_tokens_seen": 43552808, + "step": 22242 + }, + { + "epoch": 2.9480450629556, + "grad_norm": 12.490785598754883, + "learning_rate": 3.7025206434312954e-09, + "loss": 0.0888, + "num_input_tokens_seen": 43554880, + "step": 22243 + }, + { + "epoch": 2.948177601060305, + "grad_norm": 5.024721622467041, + "learning_rate": 3.6836589614056007e-09, + "loss": 0.0841, + "num_input_tokens_seen": 43556528, + "step": 22244 + }, + { + "epoch": 2.94831013916501, + "grad_norm": 10.244945526123047, + "learning_rate": 3.664845410080997e-09, + "loss": 0.0604, + "num_input_tokens_seen": 43558416, + "step": 22245 + }, + { + "epoch": 2.948442677269715, + "grad_norm": 0.7364751100540161, + "learning_rate": 3.646079989820528e-09, + "loss": 0.0017, + "num_input_tokens_seen": 43560624, + "step": 22246 + }, + { + "epoch": 2.94857521537442, + "grad_norm": 7.57244873046875, + "learning_rate": 3.6273627009855706e-09, + "loss": 0.0554, + "num_input_tokens_seen": 43563104, + "step": 22247 + }, + { + "epoch": 2.948707753479125, + "grad_norm": 7.464260101318359, + "learning_rate": 3.608693543937225e-09, + "loss": 0.0753, + "num_input_tokens_seen": 43565280, + "step": 22248 + }, + { + "epoch": 2.9488402915838305, + "grad_norm": 8.373775482177734, + "learning_rate": 3.5900725190357587e-09, + "loss": 0.1406, + "num_input_tokens_seen": 43566992, + "step": 22249 + }, + { + "epoch": 2.9489728296885356, + "grad_norm": 0.002331664552912116, + "learning_rate": 3.571499626639496e-09, + "loss": 0.0, + "num_input_tokens_seen": 43568344, + "step": 22250 + }, + { + "epoch": 2.9491053677932406, + "grad_norm": 0.7943106889724731, + "learning_rate": 3.5529748671070396e-09, + "loss": 0.0037, + "num_input_tokens_seen": 43571104, + "step": 22251 + }, + { + "epoch": 2.9492379058979457, + "grad_norm": 0.027450673282146454, + "learning_rate": 3.534498240795603e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43572840, + "step": 22252 + }, + { + "epoch": 2.9493704440026507, + "grad_norm": 0.0012822701828554273, + "learning_rate": 3.5160697480610127e-09, + "loss": 0.0, + "num_input_tokens_seen": 43574528, + "step": 22253 + }, + { + "epoch": 2.9495029821073557, + "grad_norm": 0.05112503841519356, + "learning_rate": 3.497689389258818e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43576272, + "step": 22254 + }, + { + "epoch": 2.9496355202120608, + "grad_norm": 10.213202476501465, + "learning_rate": 3.4793571647434577e-09, + "loss": 0.1349, + "num_input_tokens_seen": 43578112, + "step": 22255 + }, + { + "epoch": 2.9497680583167663, + "grad_norm": 1.7686731815338135, + "learning_rate": 3.461073074868537e-09, + "loss": 0.0048, + "num_input_tokens_seen": 43580344, + "step": 22256 + }, + { + "epoch": 2.9499005964214713, + "grad_norm": 3.5689826011657715, + "learning_rate": 3.4428371199862755e-09, + "loss": 0.0103, + "num_input_tokens_seen": 43582160, + "step": 22257 + }, + { + "epoch": 2.9500331345261763, + "grad_norm": 0.048518940806388855, + "learning_rate": 3.4246493004486127e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43584136, + "step": 22258 + }, + { + "epoch": 2.9501656726308814, + "grad_norm": 0.6350401043891907, + "learning_rate": 3.4065096166055465e-09, + "loss": 0.0027, + "num_input_tokens_seen": 43586048, + "step": 22259 + }, + { + "epoch": 2.9502982107355864, + "grad_norm": 0.01981395110487938, + "learning_rate": 3.3884180688076308e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43587912, + "step": 22260 + }, + { + "epoch": 2.9504307488402914, + "grad_norm": 4.001582145690918, + "learning_rate": 3.370374657403197e-09, + "loss": 0.0267, + "num_input_tokens_seen": 43589856, + "step": 22261 + }, + { + "epoch": 2.9505632869449965, + "grad_norm": 6.8600687980651855, + "learning_rate": 3.352379382740578e-09, + "loss": 0.0568, + "num_input_tokens_seen": 43591248, + "step": 22262 + }, + { + "epoch": 2.950695825049702, + "grad_norm": 0.006536876782774925, + "learning_rate": 3.3344322451661636e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43592904, + "step": 22263 + }, + { + "epoch": 2.950828363154407, + "grad_norm": 0.25441277027130127, + "learning_rate": 3.316533245026343e-09, + "loss": 0.0011, + "num_input_tokens_seen": 43594672, + "step": 22264 + }, + { + "epoch": 2.950960901259112, + "grad_norm": 0.5788674354553223, + "learning_rate": 3.298682382665841e-09, + "loss": 0.003, + "num_input_tokens_seen": 43596576, + "step": 22265 + }, + { + "epoch": 2.951093439363817, + "grad_norm": 0.01784122921526432, + "learning_rate": 3.280879658429381e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43599136, + "step": 22266 + }, + { + "epoch": 2.951225977468522, + "grad_norm": 0.005329910200089216, + "learning_rate": 3.263125072660023e-09, + "loss": 0.0, + "num_input_tokens_seen": 43601392, + "step": 22267 + }, + { + "epoch": 2.951358515573227, + "grad_norm": 15.184979438781738, + "learning_rate": 3.245418625699992e-09, + "loss": 0.1412, + "num_input_tokens_seen": 43603408, + "step": 22268 + }, + { + "epoch": 2.951491053677932, + "grad_norm": 0.030959444120526314, + "learning_rate": 3.2277603178906826e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43605240, + "step": 22269 + }, + { + "epoch": 2.9516235917826377, + "grad_norm": 10.12108325958252, + "learning_rate": 3.210150149572655e-09, + "loss": 0.1279, + "num_input_tokens_seen": 43608064, + "step": 22270 + }, + { + "epoch": 2.9517561298873427, + "grad_norm": 0.0018814560025930405, + "learning_rate": 3.1925881210853606e-09, + "loss": 0.0, + "num_input_tokens_seen": 43609416, + "step": 22271 + }, + { + "epoch": 2.9518886679920477, + "grad_norm": 0.002194805070757866, + "learning_rate": 3.175074232767139e-09, + "loss": 0.0, + "num_input_tokens_seen": 43610984, + "step": 22272 + }, + { + "epoch": 2.952021206096753, + "grad_norm": 2.2957074642181396, + "learning_rate": 3.1576084849563315e-09, + "loss": 0.0123, + "num_input_tokens_seen": 43613936, + "step": 22273 + }, + { + "epoch": 2.952153744201458, + "grad_norm": 5.1449360847473145, + "learning_rate": 3.1401908779890576e-09, + "loss": 0.0935, + "num_input_tokens_seen": 43615304, + "step": 22274 + }, + { + "epoch": 2.952286282306163, + "grad_norm": 3.04215669631958, + "learning_rate": 3.122821412201438e-09, + "loss": 0.027, + "num_input_tokens_seen": 43617168, + "step": 22275 + }, + { + "epoch": 2.952418820410868, + "grad_norm": 0.05018129572272301, + "learning_rate": 3.1055000879284815e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43619016, + "step": 22276 + }, + { + "epoch": 2.9525513585155734, + "grad_norm": 0.24577747285366058, + "learning_rate": 3.088226905504088e-09, + "loss": 0.0012, + "num_input_tokens_seen": 43620576, + "step": 22277 + }, + { + "epoch": 2.9526838966202784, + "grad_norm": 0.007668768987059593, + "learning_rate": 3.0710018652610472e-09, + "loss": 0.0, + "num_input_tokens_seen": 43622936, + "step": 22278 + }, + { + "epoch": 2.9528164347249835, + "grad_norm": 0.026538889855146408, + "learning_rate": 3.0538249675315935e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43625712, + "step": 22279 + }, + { + "epoch": 2.9529489728296885, + "grad_norm": 4.520501613616943, + "learning_rate": 3.03669621264685e-09, + "loss": 0.0218, + "num_input_tokens_seen": 43627824, + "step": 22280 + }, + { + "epoch": 2.9530815109343935, + "grad_norm": 8.250967979431152, + "learning_rate": 3.0196156009373865e-09, + "loss": 0.0393, + "num_input_tokens_seen": 43629976, + "step": 22281 + }, + { + "epoch": 2.953214049039099, + "grad_norm": 0.13710132241249084, + "learning_rate": 3.0025831327321063e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43631288, + "step": 22282 + }, + { + "epoch": 2.9533465871438036, + "grad_norm": 4.798572540283203, + "learning_rate": 2.985598808359913e-09, + "loss": 0.0291, + "num_input_tokens_seen": 43633784, + "step": 22283 + }, + { + "epoch": 2.953479125248509, + "grad_norm": 0.04624618589878082, + "learning_rate": 2.968662628147767e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43635528, + "step": 22284 + }, + { + "epoch": 2.953611663353214, + "grad_norm": 0.008210758678615093, + "learning_rate": 2.9517745924223517e-09, + "loss": 0.0, + "num_input_tokens_seen": 43637408, + "step": 22285 + }, + { + "epoch": 2.953744201457919, + "grad_norm": 0.01774030737578869, + "learning_rate": 2.9349347015095175e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43639840, + "step": 22286 + }, + { + "epoch": 2.953876739562624, + "grad_norm": 0.10867586731910706, + "learning_rate": 2.918142955733727e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43642440, + "step": 22287 + }, + { + "epoch": 2.9540092776673292, + "grad_norm": 0.003712777979671955, + "learning_rate": 2.901399355418888e-09, + "loss": 0.0, + "num_input_tokens_seen": 43644424, + "step": 22288 + }, + { + "epoch": 2.9541418157720347, + "grad_norm": 0.008637025021016598, + "learning_rate": 2.88470390088752e-09, + "loss": 0.0, + "num_input_tokens_seen": 43645864, + "step": 22289 + }, + { + "epoch": 2.9542743538767393, + "grad_norm": 4.615153789520264, + "learning_rate": 2.8680565924618653e-09, + "loss": 0.0238, + "num_input_tokens_seen": 43648088, + "step": 22290 + }, + { + "epoch": 2.954406891981445, + "grad_norm": 0.05423276126384735, + "learning_rate": 2.8514574304627785e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43649544, + "step": 22291 + }, + { + "epoch": 2.95453943008615, + "grad_norm": 0.005249144975095987, + "learning_rate": 2.8349064152102812e-09, + "loss": 0.0, + "num_input_tokens_seen": 43650736, + "step": 22292 + }, + { + "epoch": 2.954671968190855, + "grad_norm": 0.9359302520751953, + "learning_rate": 2.818403547023285e-09, + "loss": 0.0048, + "num_input_tokens_seen": 43652608, + "step": 22293 + }, + { + "epoch": 2.95480450629556, + "grad_norm": 4.693918704986572, + "learning_rate": 2.801948826220424e-09, + "loss": 0.0437, + "num_input_tokens_seen": 43654536, + "step": 22294 + }, + { + "epoch": 2.954937044400265, + "grad_norm": 0.018951239064335823, + "learning_rate": 2.785542253118667e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43656384, + "step": 22295 + }, + { + "epoch": 2.9550695825049704, + "grad_norm": 9.953413009643555, + "learning_rate": 2.76918382803415e-09, + "loss": 0.0716, + "num_input_tokens_seen": 43658232, + "step": 22296 + }, + { + "epoch": 2.955202120609675, + "grad_norm": 8.604491233825684, + "learning_rate": 2.7528735512830085e-09, + "loss": 0.0523, + "num_input_tokens_seen": 43659984, + "step": 22297 + }, + { + "epoch": 2.9553346587143805, + "grad_norm": 11.26625919342041, + "learning_rate": 2.736611423178881e-09, + "loss": 0.249, + "num_input_tokens_seen": 43661808, + "step": 22298 + }, + { + "epoch": 2.9554671968190855, + "grad_norm": 0.10009501874446869, + "learning_rate": 2.7203974440356827e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43663512, + "step": 22299 + }, + { + "epoch": 2.9555997349237906, + "grad_norm": 3.3866069316864014, + "learning_rate": 2.7042316141662195e-09, + "loss": 0.0184, + "num_input_tokens_seen": 43666384, + "step": 22300 + }, + { + "epoch": 2.9557322730284956, + "grad_norm": 0.009596092626452446, + "learning_rate": 2.6881139338816307e-09, + "loss": 0.0, + "num_input_tokens_seen": 43668424, + "step": 22301 + }, + { + "epoch": 2.9558648111332007, + "grad_norm": 0.004632224328815937, + "learning_rate": 2.6720444034933347e-09, + "loss": 0.0, + "num_input_tokens_seen": 43669440, + "step": 22302 + }, + { + "epoch": 2.955997349237906, + "grad_norm": 4.62300968170166, + "learning_rate": 2.6560230233105277e-09, + "loss": 0.0389, + "num_input_tokens_seen": 43672344, + "step": 22303 + }, + { + "epoch": 2.9561298873426107, + "grad_norm": 18.987808227539062, + "learning_rate": 2.640049793642685e-09, + "loss": 0.0542, + "num_input_tokens_seen": 43675760, + "step": 22304 + }, + { + "epoch": 2.956262425447316, + "grad_norm": 13.165765762329102, + "learning_rate": 2.624124714797338e-09, + "loss": 0.0775, + "num_input_tokens_seen": 43678248, + "step": 22305 + }, + { + "epoch": 2.9563949635520212, + "grad_norm": 15.375874519348145, + "learning_rate": 2.608247787082019e-09, + "loss": 0.2101, + "num_input_tokens_seen": 43680072, + "step": 22306 + }, + { + "epoch": 2.9565275016567263, + "grad_norm": 7.167605400085449, + "learning_rate": 2.5924190108023164e-09, + "loss": 0.0641, + "num_input_tokens_seen": 43682152, + "step": 22307 + }, + { + "epoch": 2.9566600397614313, + "grad_norm": 0.015214335173368454, + "learning_rate": 2.576638386263541e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43683896, + "step": 22308 + }, + { + "epoch": 2.9567925778661364, + "grad_norm": 2.014601707458496, + "learning_rate": 2.560905913770173e-09, + "loss": 0.0166, + "num_input_tokens_seen": 43686896, + "step": 22309 + }, + { + "epoch": 2.956925115970842, + "grad_norm": 5.356799125671387, + "learning_rate": 2.5452215936255796e-09, + "loss": 0.0239, + "num_input_tokens_seen": 43689000, + "step": 22310 + }, + { + "epoch": 2.957057654075547, + "grad_norm": 0.09059500694274902, + "learning_rate": 2.5295854261317422e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43691888, + "step": 22311 + }, + { + "epoch": 2.957190192180252, + "grad_norm": 3.72603178024292, + "learning_rate": 2.5139974115906407e-09, + "loss": 0.0411, + "num_input_tokens_seen": 43694016, + "step": 22312 + }, + { + "epoch": 2.957322730284957, + "grad_norm": 0.004890168085694313, + "learning_rate": 2.498457550302591e-09, + "loss": 0.0, + "num_input_tokens_seen": 43695776, + "step": 22313 + }, + { + "epoch": 2.957455268389662, + "grad_norm": 6.017292022705078, + "learning_rate": 2.4829658425670755e-09, + "loss": 0.0281, + "num_input_tokens_seen": 43697736, + "step": 22314 + }, + { + "epoch": 2.957587806494367, + "grad_norm": 0.03325015306472778, + "learning_rate": 2.467522288683022e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43699432, + "step": 22315 + }, + { + "epoch": 2.957720344599072, + "grad_norm": 3.026155948638916, + "learning_rate": 2.45212688894797e-09, + "loss": 0.0235, + "num_input_tokens_seen": 43701200, + "step": 22316 + }, + { + "epoch": 2.9578528827037776, + "grad_norm": 0.0852789431810379, + "learning_rate": 2.436779643659182e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43703584, + "step": 22317 + }, + { + "epoch": 2.9579854208084826, + "grad_norm": 0.04867374151945114, + "learning_rate": 2.4214805531119767e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43705704, + "step": 22318 + }, + { + "epoch": 2.9581179589131876, + "grad_norm": 0.11292661726474762, + "learning_rate": 2.406229617601674e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43707848, + "step": 22319 + }, + { + "epoch": 2.9582504970178927, + "grad_norm": 0.024184376001358032, + "learning_rate": 2.3910268374222055e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43709784, + "step": 22320 + }, + { + "epoch": 2.9583830351225977, + "grad_norm": 0.0027894002851098776, + "learning_rate": 2.3758722128669477e-09, + "loss": 0.0, + "num_input_tokens_seen": 43711184, + "step": 22321 + }, + { + "epoch": 2.9585155732273027, + "grad_norm": 0.0005841794773004949, + "learning_rate": 2.360765744227889e-09, + "loss": 0.0, + "num_input_tokens_seen": 43712456, + "step": 22322 + }, + { + "epoch": 2.958648111332008, + "grad_norm": 0.09099941700696945, + "learning_rate": 2.3457074317961847e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43714544, + "step": 22323 + }, + { + "epoch": 2.9587806494367133, + "grad_norm": 0.9017846584320068, + "learning_rate": 2.3306972758621594e-09, + "loss": 0.0026, + "num_input_tokens_seen": 43716648, + "step": 22324 + }, + { + "epoch": 2.9589131875414183, + "grad_norm": 16.434083938598633, + "learning_rate": 2.3157352767155807e-09, + "loss": 0.0761, + "num_input_tokens_seen": 43718560, + "step": 22325 + }, + { + "epoch": 2.9590457256461233, + "grad_norm": 6.358641147613525, + "learning_rate": 2.300821434644551e-09, + "loss": 0.0549, + "num_input_tokens_seen": 43720544, + "step": 22326 + }, + { + "epoch": 2.9591782637508284, + "grad_norm": 0.013488908298313618, + "learning_rate": 2.2859557499368966e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43722256, + "step": 22327 + }, + { + "epoch": 2.9593108018555334, + "grad_norm": 0.0003470120718702674, + "learning_rate": 2.2711382228790547e-09, + "loss": 0.0, + "num_input_tokens_seen": 43723568, + "step": 22328 + }, + { + "epoch": 2.9594433399602385, + "grad_norm": 9.97823715209961, + "learning_rate": 2.2563688537566298e-09, + "loss": 0.027, + "num_input_tokens_seen": 43725224, + "step": 22329 + }, + { + "epoch": 2.9595758780649435, + "grad_norm": 12.326144218444824, + "learning_rate": 2.2416476428546717e-09, + "loss": 0.0796, + "num_input_tokens_seen": 43727288, + "step": 22330 + }, + { + "epoch": 2.959708416169649, + "grad_norm": 8.557718276977539, + "learning_rate": 2.226974590456843e-09, + "loss": 0.1543, + "num_input_tokens_seen": 43729784, + "step": 22331 + }, + { + "epoch": 2.959840954274354, + "grad_norm": 0.7549514770507812, + "learning_rate": 2.2123496968459723e-09, + "loss": 0.0043, + "num_input_tokens_seen": 43732112, + "step": 22332 + }, + { + "epoch": 2.959973492379059, + "grad_norm": 4.409550189971924, + "learning_rate": 2.1977729623040565e-09, + "loss": 0.0172, + "num_input_tokens_seen": 43733752, + "step": 22333 + }, + { + "epoch": 2.960106030483764, + "grad_norm": 1.5269321203231812, + "learning_rate": 2.1832443871125374e-09, + "loss": 0.0066, + "num_input_tokens_seen": 43736048, + "step": 22334 + }, + { + "epoch": 2.960238568588469, + "grad_norm": 0.010068727657198906, + "learning_rate": 2.1687639715509136e-09, + "loss": 0.0, + "num_input_tokens_seen": 43737608, + "step": 22335 + }, + { + "epoch": 2.960371106693174, + "grad_norm": 5.898979663848877, + "learning_rate": 2.154331715898683e-09, + "loss": 0.0427, + "num_input_tokens_seen": 43739568, + "step": 22336 + }, + { + "epoch": 2.960503644797879, + "grad_norm": 0.0009231868316419423, + "learning_rate": 2.1399476204345126e-09, + "loss": 0.0, + "num_input_tokens_seen": 43740744, + "step": 22337 + }, + { + "epoch": 2.9606361829025847, + "grad_norm": 0.0025715793017297983, + "learning_rate": 2.1256116854348472e-09, + "loss": 0.0, + "num_input_tokens_seen": 43742320, + "step": 22338 + }, + { + "epoch": 2.9607687210072897, + "grad_norm": 8.020583152770996, + "learning_rate": 2.1113239111769655e-09, + "loss": 0.1574, + "num_input_tokens_seen": 43744944, + "step": 22339 + }, + { + "epoch": 2.9609012591119948, + "grad_norm": 0.0890028178691864, + "learning_rate": 2.0970842979356476e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43747768, + "step": 22340 + }, + { + "epoch": 2.9610337972167, + "grad_norm": 12.441834449768066, + "learning_rate": 2.082892845985951e-09, + "loss": 0.1038, + "num_input_tokens_seen": 43750176, + "step": 22341 + }, + { + "epoch": 2.961166335321405, + "grad_norm": 21.394775390625, + "learning_rate": 2.068749555601268e-09, + "loss": 0.1581, + "num_input_tokens_seen": 43752368, + "step": 22342 + }, + { + "epoch": 2.96129887342611, + "grad_norm": 0.08104350417852402, + "learning_rate": 2.0546544270544365e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43753536, + "step": 22343 + }, + { + "epoch": 2.961431411530815, + "grad_norm": 0.021069826558232307, + "learning_rate": 2.040607460616906e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43754912, + "step": 22344 + }, + { + "epoch": 2.9615639496355204, + "grad_norm": 0.0027820041868835688, + "learning_rate": 2.0266086565598474e-09, + "loss": 0.0, + "num_input_tokens_seen": 43757088, + "step": 22345 + }, + { + "epoch": 2.9616964877402254, + "grad_norm": 0.015443779528141022, + "learning_rate": 2.012658015153046e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43758616, + "step": 22346 + }, + { + "epoch": 2.9618290258449305, + "grad_norm": 0.001395764178596437, + "learning_rate": 1.998755536665453e-09, + "loss": 0.0, + "num_input_tokens_seen": 43760328, + "step": 22347 + }, + { + "epoch": 2.9619615639496355, + "grad_norm": 8.027894020080566, + "learning_rate": 1.9849012213649097e-09, + "loss": 0.0304, + "num_input_tokens_seen": 43762528, + "step": 22348 + }, + { + "epoch": 2.9620941020543405, + "grad_norm": 0.005758329294621944, + "learning_rate": 1.97109506951898e-09, + "loss": 0.0, + "num_input_tokens_seen": 43764144, + "step": 22349 + }, + { + "epoch": 2.9622266401590456, + "grad_norm": 7.215410232543945, + "learning_rate": 1.9573370813935623e-09, + "loss": 0.0195, + "num_input_tokens_seen": 43766400, + "step": 22350 + }, + { + "epoch": 2.9623591782637506, + "grad_norm": 3.4682328701019287, + "learning_rate": 1.943627257254277e-09, + "loss": 0.0299, + "num_input_tokens_seen": 43768440, + "step": 22351 + }, + { + "epoch": 2.962491716368456, + "grad_norm": 0.0022721586283296347, + "learning_rate": 1.9299655973648023e-09, + "loss": 0.0, + "num_input_tokens_seen": 43771040, + "step": 22352 + }, + { + "epoch": 2.962624254473161, + "grad_norm": 3.0962419509887695, + "learning_rate": 1.916352101989094e-09, + "loss": 0.0175, + "num_input_tokens_seen": 43773704, + "step": 22353 + }, + { + "epoch": 2.962756792577866, + "grad_norm": 0.007636042311787605, + "learning_rate": 1.9027867713894422e-09, + "loss": 0.0, + "num_input_tokens_seen": 43775384, + "step": 22354 + }, + { + "epoch": 2.962889330682571, + "grad_norm": 7.977814197540283, + "learning_rate": 1.889269605827304e-09, + "loss": 0.0983, + "num_input_tokens_seen": 43777928, + "step": 22355 + }, + { + "epoch": 2.9630218687872762, + "grad_norm": 0.032154861837625504, + "learning_rate": 1.8758006055635823e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43780304, + "step": 22356 + }, + { + "epoch": 2.9631544068919813, + "grad_norm": 0.03983138129115105, + "learning_rate": 1.8623797708577918e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43781864, + "step": 22357 + }, + { + "epoch": 2.9632869449966863, + "grad_norm": 0.005701002664864063, + "learning_rate": 1.849007101968614e-09, + "loss": 0.0, + "num_input_tokens_seen": 43783296, + "step": 22358 + }, + { + "epoch": 2.963419483101392, + "grad_norm": 1.1917616128921509, + "learning_rate": 1.8356825991538985e-09, + "loss": 0.0043, + "num_input_tokens_seen": 43785504, + "step": 22359 + }, + { + "epoch": 2.963552021206097, + "grad_norm": 8.105329513549805, + "learning_rate": 1.8224062626706618e-09, + "loss": 0.102, + "num_input_tokens_seen": 43787680, + "step": 22360 + }, + { + "epoch": 2.963684559310802, + "grad_norm": 0.19337278604507446, + "learning_rate": 1.8091780927750879e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43789504, + "step": 22361 + }, + { + "epoch": 2.963817097415507, + "grad_norm": 2.403597116470337, + "learning_rate": 1.7959980897216955e-09, + "loss": 0.0112, + "num_input_tokens_seen": 43791336, + "step": 22362 + }, + { + "epoch": 2.963949635520212, + "grad_norm": 4.3618245124816895, + "learning_rate": 1.7828662537650032e-09, + "loss": 0.0126, + "num_input_tokens_seen": 43792976, + "step": 22363 + }, + { + "epoch": 2.9640821736249174, + "grad_norm": 0.025620654225349426, + "learning_rate": 1.7697825851578642e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43795952, + "step": 22364 + }, + { + "epoch": 2.964214711729622, + "grad_norm": 0.010524922050535679, + "learning_rate": 1.7567470841528545e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43797608, + "step": 22365 + }, + { + "epoch": 2.9643472498343275, + "grad_norm": 0.4931896924972534, + "learning_rate": 1.7437597510014391e-09, + "loss": 0.0014, + "num_input_tokens_seen": 43800080, + "step": 22366 + }, + { + "epoch": 2.9644797879390326, + "grad_norm": 0.008791539818048477, + "learning_rate": 1.7308205859536965e-09, + "loss": 0.0, + "num_input_tokens_seen": 43802880, + "step": 22367 + }, + { + "epoch": 2.9646123260437376, + "grad_norm": 0.01890513114631176, + "learning_rate": 1.717929589258871e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43804032, + "step": 22368 + }, + { + "epoch": 2.9647448641484426, + "grad_norm": 8.224040031433105, + "learning_rate": 1.705086761166208e-09, + "loss": 0.0619, + "num_input_tokens_seen": 43805592, + "step": 22369 + }, + { + "epoch": 2.9648774022531477, + "grad_norm": 0.0042699105106294155, + "learning_rate": 1.6922921019227323e-09, + "loss": 0.0, + "num_input_tokens_seen": 43807192, + "step": 22370 + }, + { + "epoch": 2.965009940357853, + "grad_norm": 0.0141218900680542, + "learning_rate": 1.6795456117757458e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43808696, + "step": 22371 + }, + { + "epoch": 2.9651424784625577, + "grad_norm": 9.345793724060059, + "learning_rate": 1.6668472909703304e-09, + "loss": 0.0384, + "num_input_tokens_seen": 43811288, + "step": 22372 + }, + { + "epoch": 2.9652750165672632, + "grad_norm": 7.4340081214904785, + "learning_rate": 1.6541971397515677e-09, + "loss": 0.0337, + "num_input_tokens_seen": 43813256, + "step": 22373 + }, + { + "epoch": 2.9654075546719683, + "grad_norm": 1.4314326047897339, + "learning_rate": 1.6415951583634293e-09, + "loss": 0.0213, + "num_input_tokens_seen": 43814656, + "step": 22374 + }, + { + "epoch": 2.9655400927766733, + "grad_norm": 1.2346673011779785, + "learning_rate": 1.6290413470487765e-09, + "loss": 0.0059, + "num_input_tokens_seen": 43816456, + "step": 22375 + }, + { + "epoch": 2.9656726308813783, + "grad_norm": 8.996658325195312, + "learning_rate": 1.6165357060499154e-09, + "loss": 0.152, + "num_input_tokens_seen": 43818984, + "step": 22376 + }, + { + "epoch": 2.9658051689860834, + "grad_norm": 3.562676429748535, + "learning_rate": 1.6040782356077643e-09, + "loss": 0.0384, + "num_input_tokens_seen": 43821472, + "step": 22377 + }, + { + "epoch": 2.965937707090789, + "grad_norm": 8.882349014282227, + "learning_rate": 1.591668935962687e-09, + "loss": 0.0211, + "num_input_tokens_seen": 43823736, + "step": 22378 + }, + { + "epoch": 2.9660702451954934, + "grad_norm": 17.305540084838867, + "learning_rate": 1.5793078073533808e-09, + "loss": 0.0941, + "num_input_tokens_seen": 43825648, + "step": 22379 + }, + { + "epoch": 2.966202783300199, + "grad_norm": 0.07756513357162476, + "learning_rate": 1.5669948500188215e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43827624, + "step": 22380 + }, + { + "epoch": 2.966335321404904, + "grad_norm": 11.90113353729248, + "learning_rate": 1.5547300641963192e-09, + "loss": 0.2061, + "num_input_tokens_seen": 43830744, + "step": 22381 + }, + { + "epoch": 2.966467859509609, + "grad_norm": 0.01230569463223219, + "learning_rate": 1.542513450122074e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43833536, + "step": 22382 + }, + { + "epoch": 2.966600397614314, + "grad_norm": 1.1517153978347778, + "learning_rate": 1.5303450080320082e-09, + "loss": 0.0031, + "num_input_tokens_seen": 43835136, + "step": 22383 + }, + { + "epoch": 2.966732935719019, + "grad_norm": 1.1581480503082275, + "learning_rate": 1.5182247381601011e-09, + "loss": 0.0101, + "num_input_tokens_seen": 43837672, + "step": 22384 + }, + { + "epoch": 2.9668654738237246, + "grad_norm": 3.0572574138641357, + "learning_rate": 1.5061526407406102e-09, + "loss": 0.0364, + "num_input_tokens_seen": 43839368, + "step": 22385 + }, + { + "epoch": 2.966998011928429, + "grad_norm": 0.01920732669532299, + "learning_rate": 1.494128716006127e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43841112, + "step": 22386 + }, + { + "epoch": 2.9671305500331346, + "grad_norm": 0.0026114489883184433, + "learning_rate": 1.4821529641884103e-09, + "loss": 0.0, + "num_input_tokens_seen": 43843904, + "step": 22387 + }, + { + "epoch": 2.9672630881378397, + "grad_norm": 6.04542350769043, + "learning_rate": 1.4702253855186644e-09, + "loss": 0.1423, + "num_input_tokens_seen": 43845392, + "step": 22388 + }, + { + "epoch": 2.9673956262425447, + "grad_norm": 0.014861948788166046, + "learning_rate": 1.4583459802264278e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43846792, + "step": 22389 + }, + { + "epoch": 2.9675281643472498, + "grad_norm": 5.665372371673584, + "learning_rate": 1.4465147485406839e-09, + "loss": 0.0361, + "num_input_tokens_seen": 43848232, + "step": 22390 + }, + { + "epoch": 2.967660702451955, + "grad_norm": 0.017988082021474838, + "learning_rate": 1.4347316906901387e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43849744, + "step": 22391 + }, + { + "epoch": 2.9677932405566603, + "grad_norm": 0.26280468702316284, + "learning_rate": 1.4229968069015553e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43852096, + "step": 22392 + }, + { + "epoch": 2.967925778661365, + "grad_norm": 14.28861141204834, + "learning_rate": 1.4113100974014193e-09, + "loss": 0.0911, + "num_input_tokens_seen": 43854728, + "step": 22393 + }, + { + "epoch": 2.9680583167660703, + "grad_norm": 5.226220607757568, + "learning_rate": 1.3996715624148282e-09, + "loss": 0.0997, + "num_input_tokens_seen": 43857104, + "step": 22394 + }, + { + "epoch": 2.9681908548707754, + "grad_norm": 0.05354820564389229, + "learning_rate": 1.3880812021660473e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43858864, + "step": 22395 + }, + { + "epoch": 2.9683233929754804, + "grad_norm": 14.342785835266113, + "learning_rate": 1.3765390168790637e-09, + "loss": 0.1293, + "num_input_tokens_seen": 43861424, + "step": 22396 + }, + { + "epoch": 2.9684559310801855, + "grad_norm": 0.04000642150640488, + "learning_rate": 1.3650450067759224e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43863568, + "step": 22397 + }, + { + "epoch": 2.9685884691848905, + "grad_norm": 0.0033949394710361958, + "learning_rate": 1.3535991720783903e-09, + "loss": 0.0, + "num_input_tokens_seen": 43865104, + "step": 22398 + }, + { + "epoch": 2.968721007289596, + "grad_norm": 0.28686603903770447, + "learning_rate": 1.3422015130074017e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43867616, + "step": 22399 + }, + { + "epoch": 2.968853545394301, + "grad_norm": 0.5833792090415955, + "learning_rate": 1.3308520297822258e-09, + "loss": 0.0022, + "num_input_tokens_seen": 43869520, + "step": 22400 + }, + { + "epoch": 2.968986083499006, + "grad_norm": 7.897106647491455, + "learning_rate": 1.3195507226221315e-09, + "loss": 0.1092, + "num_input_tokens_seen": 43871736, + "step": 22401 + }, + { + "epoch": 2.969118621603711, + "grad_norm": 5.990362644195557, + "learning_rate": 1.3082975917450003e-09, + "loss": 0.0722, + "num_input_tokens_seen": 43874032, + "step": 22402 + }, + { + "epoch": 2.969251159708416, + "grad_norm": 3.174128770828247, + "learning_rate": 1.2970926373676028e-09, + "loss": 0.0058, + "num_input_tokens_seen": 43875632, + "step": 22403 + }, + { + "epoch": 2.969383697813121, + "grad_norm": 0.0164306852966547, + "learning_rate": 1.285935859705878e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43877552, + "step": 22404 + }, + { + "epoch": 2.969516235917826, + "grad_norm": 0.08274020999670029, + "learning_rate": 1.2748272589749311e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43880000, + "step": 22405 + }, + { + "epoch": 2.9696487740225317, + "grad_norm": 4.216237545013428, + "learning_rate": 1.263766835389313e-09, + "loss": 0.0159, + "num_input_tokens_seen": 43881992, + "step": 22406 + }, + { + "epoch": 2.9697813121272367, + "grad_norm": 0.00994815956801176, + "learning_rate": 1.2527545891621862e-09, + "loss": 0.0, + "num_input_tokens_seen": 43883624, + "step": 22407 + }, + { + "epoch": 2.9699138502319418, + "grad_norm": 0.5836260914802551, + "learning_rate": 1.2417905205056036e-09, + "loss": 0.0019, + "num_input_tokens_seen": 43885576, + "step": 22408 + }, + { + "epoch": 2.970046388336647, + "grad_norm": 0.012959951534867287, + "learning_rate": 1.2308746296310626e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43887304, + "step": 22409 + }, + { + "epoch": 2.970178926441352, + "grad_norm": 0.002590167336165905, + "learning_rate": 1.220006916749228e-09, + "loss": 0.0, + "num_input_tokens_seen": 43889432, + "step": 22410 + }, + { + "epoch": 2.970311464546057, + "grad_norm": 0.008520927280187607, + "learning_rate": 1.2091873820693767e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43891000, + "step": 22411 + }, + { + "epoch": 2.970444002650762, + "grad_norm": 8.114709854125977, + "learning_rate": 1.198416025800231e-09, + "loss": 0.0892, + "num_input_tokens_seen": 43892912, + "step": 22412 + }, + { + "epoch": 2.9705765407554674, + "grad_norm": 0.005912213586270809, + "learning_rate": 1.1876928481494021e-09, + "loss": 0.0, + "num_input_tokens_seen": 43894584, + "step": 22413 + }, + { + "epoch": 2.9707090788601724, + "grad_norm": 0.3754428029060364, + "learning_rate": 1.1770178493236695e-09, + "loss": 0.0021, + "num_input_tokens_seen": 43896224, + "step": 22414 + }, + { + "epoch": 2.9708416169648775, + "grad_norm": 0.5932297706604004, + "learning_rate": 1.1663910295289793e-09, + "loss": 0.0021, + "num_input_tokens_seen": 43898016, + "step": 22415 + }, + { + "epoch": 2.9709741550695825, + "grad_norm": 4.471325874328613, + "learning_rate": 1.1558123889701679e-09, + "loss": 0.0255, + "num_input_tokens_seen": 43899608, + "step": 22416 + }, + { + "epoch": 2.9711066931742875, + "grad_norm": 0.011148176155984402, + "learning_rate": 1.145281927850961e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43901712, + "step": 22417 + }, + { + "epoch": 2.9712392312789926, + "grad_norm": 0.0071175298653542995, + "learning_rate": 1.1347996463748069e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43903440, + "step": 22418 + }, + { + "epoch": 2.9713717693836976, + "grad_norm": 2.276231527328491, + "learning_rate": 1.1243655447434886e-09, + "loss": 0.0064, + "num_input_tokens_seen": 43905992, + "step": 22419 + }, + { + "epoch": 2.971504307488403, + "grad_norm": 13.152486801147461, + "learning_rate": 1.1139796231582346e-09, + "loss": 0.1398, + "num_input_tokens_seen": 43908416, + "step": 22420 + }, + { + "epoch": 2.971636845593108, + "grad_norm": 0.008481040596961975, + "learning_rate": 1.1036418818194394e-09, + "loss": 0.0, + "num_input_tokens_seen": 43910544, + "step": 22421 + }, + { + "epoch": 2.971769383697813, + "grad_norm": 0.011056071147322655, + "learning_rate": 1.0933523209263885e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43912336, + "step": 22422 + }, + { + "epoch": 2.971901921802518, + "grad_norm": 2.5400233268737793, + "learning_rate": 1.0831109406772567e-09, + "loss": 0.0241, + "num_input_tokens_seen": 43914016, + "step": 22423 + }, + { + "epoch": 2.9720344599072233, + "grad_norm": 0.032160475850105286, + "learning_rate": 1.0729177412696634e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43917192, + "step": 22424 + }, + { + "epoch": 2.9721669980119283, + "grad_norm": 4.5012102127075195, + "learning_rate": 1.0627727229003959e-09, + "loss": 0.108, + "num_input_tokens_seen": 43919968, + "step": 22425 + }, + { + "epoch": 2.9722995361166333, + "grad_norm": 6.585148811340332, + "learning_rate": 1.0526758857645758e-09, + "loss": 0.111, + "num_input_tokens_seen": 43922920, + "step": 22426 + }, + { + "epoch": 2.972432074221339, + "grad_norm": 5.541047096252441, + "learning_rate": 1.0426272300570471e-09, + "loss": 0.0991, + "num_input_tokens_seen": 43924928, + "step": 22427 + }, + { + "epoch": 2.972564612326044, + "grad_norm": 12.602825164794922, + "learning_rate": 1.0326267559718217e-09, + "loss": 0.0647, + "num_input_tokens_seen": 43927560, + "step": 22428 + }, + { + "epoch": 2.972697150430749, + "grad_norm": 9.28304386138916, + "learning_rate": 1.0226744637012453e-09, + "loss": 0.1327, + "num_input_tokens_seen": 43929600, + "step": 22429 + }, + { + "epoch": 2.972829688535454, + "grad_norm": 0.011068164370954037, + "learning_rate": 1.0127703534376643e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43931776, + "step": 22430 + }, + { + "epoch": 2.972962226640159, + "grad_norm": 0.05678822472691536, + "learning_rate": 1.0029144253717593e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43933528, + "step": 22431 + }, + { + "epoch": 2.973094764744864, + "grad_norm": 11.85108757019043, + "learning_rate": 9.931066796936561e-10, + "loss": 0.0431, + "num_input_tokens_seen": 43934928, + "step": 22432 + }, + { + "epoch": 2.973227302849569, + "grad_norm": 25.780689239501953, + "learning_rate": 9.833471165923702e-10, + "loss": 0.2594, + "num_input_tokens_seen": 43937064, + "step": 22433 + }, + { + "epoch": 2.9733598409542745, + "grad_norm": 1.2261377573013306, + "learning_rate": 9.736357362560844e-10, + "loss": 0.0051, + "num_input_tokens_seen": 43938656, + "step": 22434 + }, + { + "epoch": 2.9734923790589796, + "grad_norm": 11.480022430419922, + "learning_rate": 9.639725388721488e-10, + "loss": 0.0515, + "num_input_tokens_seen": 43940976, + "step": 22435 + }, + { + "epoch": 2.9736249171636846, + "grad_norm": 9.060023307800293, + "learning_rate": 9.54357524627081e-10, + "loss": 0.1407, + "num_input_tokens_seen": 43942992, + "step": 22436 + }, + { + "epoch": 2.9737574552683896, + "grad_norm": 10.538068771362305, + "learning_rate": 9.447906937057327e-10, + "loss": 0.1695, + "num_input_tokens_seen": 43946656, + "step": 22437 + }, + { + "epoch": 2.9738899933730947, + "grad_norm": 1.1125993728637695, + "learning_rate": 9.35272046292679e-10, + "loss": 0.0046, + "num_input_tokens_seen": 43948272, + "step": 22438 + }, + { + "epoch": 2.9740225314777997, + "grad_norm": 0.006630345713347197, + "learning_rate": 9.258015825719391e-10, + "loss": 0.0, + "num_input_tokens_seen": 43949776, + "step": 22439 + }, + { + "epoch": 2.9741550695825048, + "grad_norm": 5.808896064758301, + "learning_rate": 9.163793027255896e-10, + "loss": 0.0596, + "num_input_tokens_seen": 43951544, + "step": 22440 + }, + { + "epoch": 2.9742876076872102, + "grad_norm": 5.979946136474609, + "learning_rate": 9.070052069354296e-10, + "loss": 0.0613, + "num_input_tokens_seen": 43953264, + "step": 22441 + }, + { + "epoch": 2.9744201457919153, + "grad_norm": 0.09204027056694031, + "learning_rate": 8.976792953824254e-10, + "loss": 0.0003, + "num_input_tokens_seen": 43954656, + "step": 22442 + }, + { + "epoch": 2.9745526838966203, + "grad_norm": 15.386218070983887, + "learning_rate": 8.884015682461555e-10, + "loss": 0.1559, + "num_input_tokens_seen": 43957136, + "step": 22443 + }, + { + "epoch": 2.9746852220013253, + "grad_norm": 1.254500150680542, + "learning_rate": 8.79172025705366e-10, + "loss": 0.0074, + "num_input_tokens_seen": 43958768, + "step": 22444 + }, + { + "epoch": 2.9748177601060304, + "grad_norm": 5.828731536865234, + "learning_rate": 8.699906679382475e-10, + "loss": 0.0635, + "num_input_tokens_seen": 43960568, + "step": 22445 + }, + { + "epoch": 2.9749502982107354, + "grad_norm": 0.5708998441696167, + "learning_rate": 8.608574951218807e-10, + "loss": 0.002, + "num_input_tokens_seen": 43963160, + "step": 22446 + }, + { + "epoch": 2.9750828363154405, + "grad_norm": 11.24099349975586, + "learning_rate": 8.517725074322358e-10, + "loss": 0.2347, + "num_input_tokens_seen": 43964840, + "step": 22447 + }, + { + "epoch": 2.975215374420146, + "grad_norm": 0.007305128499865532, + "learning_rate": 8.427357050444506e-10, + "loss": 0.0, + "num_input_tokens_seen": 43966160, + "step": 22448 + }, + { + "epoch": 2.975347912524851, + "grad_norm": 0.38213807344436646, + "learning_rate": 8.337470881328302e-10, + "loss": 0.0012, + "num_input_tokens_seen": 43967760, + "step": 22449 + }, + { + "epoch": 2.975480450629556, + "grad_norm": 12.351956367492676, + "learning_rate": 8.248066568708469e-10, + "loss": 0.2888, + "num_input_tokens_seen": 43969400, + "step": 22450 + }, + { + "epoch": 2.975612988734261, + "grad_norm": 4.127171516418457, + "learning_rate": 8.159144114303075e-10, + "loss": 0.019, + "num_input_tokens_seen": 43972136, + "step": 22451 + }, + { + "epoch": 2.975745526838966, + "grad_norm": 0.01602078601717949, + "learning_rate": 8.070703519832967e-10, + "loss": 0.0001, + "num_input_tokens_seen": 43973480, + "step": 22452 + }, + { + "epoch": 2.9758780649436716, + "grad_norm": 4.002138614654541, + "learning_rate": 7.982744786999563e-10, + "loss": 0.0436, + "num_input_tokens_seen": 43975848, + "step": 22453 + }, + { + "epoch": 2.976010603048376, + "grad_norm": 4.734738349914551, + "learning_rate": 7.895267917501503e-10, + "loss": 0.0334, + "num_input_tokens_seen": 43977696, + "step": 22454 + }, + { + "epoch": 2.9761431411530817, + "grad_norm": 4.16130256652832, + "learning_rate": 7.808272913020776e-10, + "loss": 0.0158, + "num_input_tokens_seen": 43979456, + "step": 22455 + }, + { + "epoch": 2.9762756792577867, + "grad_norm": 0.09407790750265121, + "learning_rate": 7.721759775239368e-10, + "loss": 0.0003, + "num_input_tokens_seen": 43982024, + "step": 22456 + }, + { + "epoch": 2.9764082173624917, + "grad_norm": 0.002813558094203472, + "learning_rate": 7.63572850582539e-10, + "loss": 0.0, + "num_input_tokens_seen": 43983552, + "step": 22457 + }, + { + "epoch": 2.9765407554671968, + "grad_norm": 0.01731523871421814, + "learning_rate": 7.550179106433075e-10, + "loss": 0.0001, + "num_input_tokens_seen": 43985136, + "step": 22458 + }, + { + "epoch": 2.976673293571902, + "grad_norm": 4.934605121612549, + "learning_rate": 7.465111578716655e-10, + "loss": 0.0429, + "num_input_tokens_seen": 43987672, + "step": 22459 + }, + { + "epoch": 2.9768058316766073, + "grad_norm": 1.0088497400283813, + "learning_rate": 7.380525924313709e-10, + "loss": 0.0062, + "num_input_tokens_seen": 43990008, + "step": 22460 + }, + { + "epoch": 2.976938369781312, + "grad_norm": 13.008758544921875, + "learning_rate": 7.296422144856263e-10, + "loss": 0.1086, + "num_input_tokens_seen": 43992056, + "step": 22461 + }, + { + "epoch": 2.9770709078860174, + "grad_norm": 0.08129282295703888, + "learning_rate": 7.212800241965245e-10, + "loss": 0.0002, + "num_input_tokens_seen": 43993640, + "step": 22462 + }, + { + "epoch": 2.9772034459907224, + "grad_norm": 0.557762086391449, + "learning_rate": 7.129660217253254e-10, + "loss": 0.0018, + "num_input_tokens_seen": 43996384, + "step": 22463 + }, + { + "epoch": 2.9773359840954274, + "grad_norm": 4.946264743804932, + "learning_rate": 7.047002072321785e-10, + "loss": 0.0773, + "num_input_tokens_seen": 43999336, + "step": 22464 + }, + { + "epoch": 2.9774685222001325, + "grad_norm": 0.06037917733192444, + "learning_rate": 6.964825808766785e-10, + "loss": 0.0002, + "num_input_tokens_seen": 44001816, + "step": 22465 + }, + { + "epoch": 2.9776010603048375, + "grad_norm": 0.40494289994239807, + "learning_rate": 6.883131428173095e-10, + "loss": 0.0013, + "num_input_tokens_seen": 44003464, + "step": 22466 + }, + { + "epoch": 2.977733598409543, + "grad_norm": 0.004346027504652739, + "learning_rate": 6.801918932111684e-10, + "loss": 0.0, + "num_input_tokens_seen": 44005768, + "step": 22467 + }, + { + "epoch": 2.9778661365142476, + "grad_norm": 0.001597817288711667, + "learning_rate": 6.721188322153516e-10, + "loss": 0.0, + "num_input_tokens_seen": 44007080, + "step": 22468 + }, + { + "epoch": 2.977998674618953, + "grad_norm": 10.53309154510498, + "learning_rate": 6.640939599852902e-10, + "loss": 0.248, + "num_input_tokens_seen": 44009144, + "step": 22469 + }, + { + "epoch": 2.978131212723658, + "grad_norm": 0.00469657639041543, + "learning_rate": 6.56117276675583e-10, + "loss": 0.0, + "num_input_tokens_seen": 44010720, + "step": 22470 + }, + { + "epoch": 2.978263750828363, + "grad_norm": 0.07269161194562912, + "learning_rate": 6.481887824399957e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44012648, + "step": 22471 + }, + { + "epoch": 2.978396288933068, + "grad_norm": 4.372887134552002, + "learning_rate": 6.403084774317392e-10, + "loss": 0.0262, + "num_input_tokens_seen": 44014176, + "step": 22472 + }, + { + "epoch": 2.978528827037773, + "grad_norm": 10.702216148376465, + "learning_rate": 6.324763618026363e-10, + "loss": 0.0834, + "num_input_tokens_seen": 44015704, + "step": 22473 + }, + { + "epoch": 2.9786613651424787, + "grad_norm": 0.007718060631304979, + "learning_rate": 6.246924357034001e-10, + "loss": 0.0, + "num_input_tokens_seen": 44017280, + "step": 22474 + }, + { + "epoch": 2.9787939032471833, + "grad_norm": 0.2517492175102234, + "learning_rate": 6.169566992844656e-10, + "loss": 0.0005, + "num_input_tokens_seen": 44019264, + "step": 22475 + }, + { + "epoch": 2.9789264413518888, + "grad_norm": 0.33524131774902344, + "learning_rate": 6.092691526948801e-10, + "loss": 0.0006, + "num_input_tokens_seen": 44021336, + "step": 22476 + }, + { + "epoch": 2.979058979456594, + "grad_norm": 0.09051000326871872, + "learning_rate": 6.016297960828588e-10, + "loss": 0.0004, + "num_input_tokens_seen": 44023696, + "step": 22477 + }, + { + "epoch": 2.979191517561299, + "grad_norm": 0.5951526165008545, + "learning_rate": 5.940386295955058e-10, + "loss": 0.004, + "num_input_tokens_seen": 44025456, + "step": 22478 + }, + { + "epoch": 2.979324055666004, + "grad_norm": 3.501281976699829, + "learning_rate": 5.864956533793709e-10, + "loss": 0.0158, + "num_input_tokens_seen": 44027192, + "step": 22479 + }, + { + "epoch": 2.979456593770709, + "grad_norm": 6.802612781524658, + "learning_rate": 5.790008675798931e-10, + "loss": 0.0358, + "num_input_tokens_seen": 44029272, + "step": 22480 + }, + { + "epoch": 2.9795891318754144, + "grad_norm": 0.10742016136646271, + "learning_rate": 5.715542723414014e-10, + "loss": 0.0005, + "num_input_tokens_seen": 44030920, + "step": 22481 + }, + { + "epoch": 2.9797216699801194, + "grad_norm": 8.273235321044922, + "learning_rate": 5.641558678079473e-10, + "loss": 0.0778, + "num_input_tokens_seen": 44033720, + "step": 22482 + }, + { + "epoch": 2.9798542080848245, + "grad_norm": 0.005858945660293102, + "learning_rate": 5.568056541213618e-10, + "loss": 0.0, + "num_input_tokens_seen": 44035200, + "step": 22483 + }, + { + "epoch": 2.9799867461895295, + "grad_norm": 0.23889635503292084, + "learning_rate": 5.495036314243085e-10, + "loss": 0.0007, + "num_input_tokens_seen": 44037048, + "step": 22484 + }, + { + "epoch": 2.9801192842942346, + "grad_norm": 1.9455432891845703, + "learning_rate": 5.422497998569532e-10, + "loss": 0.0062, + "num_input_tokens_seen": 44038696, + "step": 22485 + }, + { + "epoch": 2.9802518223989396, + "grad_norm": 0.01828172616660595, + "learning_rate": 5.350441595591837e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44040680, + "step": 22486 + }, + { + "epoch": 2.9803843605036446, + "grad_norm": 0.0012640360509976745, + "learning_rate": 5.278867106700558e-10, + "loss": 0.0, + "num_input_tokens_seen": 44042072, + "step": 22487 + }, + { + "epoch": 2.98051689860835, + "grad_norm": 0.5344723463058472, + "learning_rate": 5.20777453327792e-10, + "loss": 0.0019, + "num_input_tokens_seen": 44043920, + "step": 22488 + }, + { + "epoch": 2.980649436713055, + "grad_norm": 14.965801239013672, + "learning_rate": 5.137163876689499e-10, + "loss": 0.3176, + "num_input_tokens_seen": 44045968, + "step": 22489 + }, + { + "epoch": 2.98078197481776, + "grad_norm": 1.2716041803359985, + "learning_rate": 5.067035138300869e-10, + "loss": 0.0064, + "num_input_tokens_seen": 44048048, + "step": 22490 + }, + { + "epoch": 2.9809145129224652, + "grad_norm": 0.29344311356544495, + "learning_rate": 4.997388319463726e-10, + "loss": 0.0015, + "num_input_tokens_seen": 44049928, + "step": 22491 + }, + { + "epoch": 2.9810470510271703, + "grad_norm": 0.014174328185617924, + "learning_rate": 4.928223421518663e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44051712, + "step": 22492 + }, + { + "epoch": 2.9811795891318753, + "grad_norm": 3.300236940383911, + "learning_rate": 4.859540445803501e-10, + "loss": 0.0228, + "num_input_tokens_seen": 44054040, + "step": 22493 + }, + { + "epoch": 2.9813121272365803, + "grad_norm": 0.04087667539715767, + "learning_rate": 4.791339393636629e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44056880, + "step": 22494 + }, + { + "epoch": 2.981444665341286, + "grad_norm": 0.0296641793102026, + "learning_rate": 4.723620266336437e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44058200, + "step": 22495 + }, + { + "epoch": 2.981577203445991, + "grad_norm": 11.552082061767578, + "learning_rate": 4.6563830652102127e-10, + "loss": 0.102, + "num_input_tokens_seen": 44060352, + "step": 22496 + }, + { + "epoch": 2.981709741550696, + "grad_norm": 0.003502878127619624, + "learning_rate": 4.5896277915513655e-10, + "loss": 0.0, + "num_input_tokens_seen": 44061784, + "step": 22497 + }, + { + "epoch": 2.981842279655401, + "grad_norm": 1.863431692123413, + "learning_rate": 4.5233544466449786e-10, + "loss": 0.0207, + "num_input_tokens_seen": 44064000, + "step": 22498 + }, + { + "epoch": 2.981974817760106, + "grad_norm": 3.064136266708374, + "learning_rate": 4.457563031776135e-10, + "loss": 0.0189, + "num_input_tokens_seen": 44066064, + "step": 22499 + }, + { + "epoch": 2.982107355864811, + "grad_norm": 0.005188322626054287, + "learning_rate": 4.3922535482077145e-10, + "loss": 0.0, + "num_input_tokens_seen": 44067472, + "step": 22500 + }, + { + "epoch": 2.982239893969516, + "grad_norm": 0.11821889132261276, + "learning_rate": 4.327425997199819e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44069032, + "step": 22501 + }, + { + "epoch": 2.9823724320742215, + "grad_norm": 3.676971673965454, + "learning_rate": 4.26308038000145e-10, + "loss": 0.0209, + "num_input_tokens_seen": 44070760, + "step": 22502 + }, + { + "epoch": 2.9825049701789266, + "grad_norm": 0.012415418401360512, + "learning_rate": 4.1992166978560567e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44072320, + "step": 22503 + }, + { + "epoch": 2.9826375082836316, + "grad_norm": 3.4719927310943604, + "learning_rate": 4.1358349519932115e-10, + "loss": 0.0084, + "num_input_tokens_seen": 44074304, + "step": 22504 + }, + { + "epoch": 2.9827700463883366, + "grad_norm": 4.517679691314697, + "learning_rate": 4.072935143636936e-10, + "loss": 0.0361, + "num_input_tokens_seen": 44075760, + "step": 22505 + }, + { + "epoch": 2.9829025844930417, + "grad_norm": 0.04147573933005333, + "learning_rate": 4.0105172739945963e-10, + "loss": 0.0002, + "num_input_tokens_seen": 44077208, + "step": 22506 + }, + { + "epoch": 2.9830351225977467, + "grad_norm": 8.671402931213379, + "learning_rate": 3.9485813442763365e-10, + "loss": 0.06, + "num_input_tokens_seen": 44078920, + "step": 22507 + }, + { + "epoch": 2.9831676607024518, + "grad_norm": 1.8591692447662354, + "learning_rate": 3.8871273556728706e-10, + "loss": 0.0085, + "num_input_tokens_seen": 44080912, + "step": 22508 + }, + { + "epoch": 2.9833001988071572, + "grad_norm": 0.035686902701854706, + "learning_rate": 3.8261553093693617e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44082384, + "step": 22509 + }, + { + "epoch": 2.9834327369118623, + "grad_norm": 6.499451160430908, + "learning_rate": 3.76566520653987e-10, + "loss": 0.0249, + "num_input_tokens_seen": 44085016, + "step": 22510 + }, + { + "epoch": 2.9835652750165673, + "grad_norm": 3.103484630584717, + "learning_rate": 3.705657048355682e-10, + "loss": 0.0412, + "num_input_tokens_seen": 44086904, + "step": 22511 + }, + { + "epoch": 2.9836978131212724, + "grad_norm": 7.763436317443848, + "learning_rate": 3.646130835968653e-10, + "loss": 0.0919, + "num_input_tokens_seen": 44089464, + "step": 22512 + }, + { + "epoch": 2.9838303512259774, + "grad_norm": 8.521469116210938, + "learning_rate": 3.5870865705278647e-10, + "loss": 0.1375, + "num_input_tokens_seen": 44093072, + "step": 22513 + }, + { + "epoch": 2.9839628893306824, + "grad_norm": 12.874971389770508, + "learning_rate": 3.528524253171295e-10, + "loss": 0.2204, + "num_input_tokens_seen": 44095064, + "step": 22514 + }, + { + "epoch": 2.9840954274353875, + "grad_norm": 0.02091335505247116, + "learning_rate": 3.4704438850313715e-10, + "loss": 0.0002, + "num_input_tokens_seen": 44096400, + "step": 22515 + }, + { + "epoch": 2.984227965540093, + "grad_norm": 11.117433547973633, + "learning_rate": 3.4128454672238687e-10, + "loss": 0.0713, + "num_input_tokens_seen": 44098248, + "step": 22516 + }, + { + "epoch": 2.984360503644798, + "grad_norm": 2.2027745246887207, + "learning_rate": 3.3557290008617847e-10, + "loss": 0.0082, + "num_input_tokens_seen": 44100040, + "step": 22517 + }, + { + "epoch": 2.984493041749503, + "grad_norm": 0.24879984557628632, + "learning_rate": 3.299094487044241e-10, + "loss": 0.0015, + "num_input_tokens_seen": 44101360, + "step": 22518 + }, + { + "epoch": 2.984625579854208, + "grad_norm": 5.670065879821777, + "learning_rate": 3.2429419268648067e-10, + "loss": 0.0451, + "num_input_tokens_seen": 44103216, + "step": 22519 + }, + { + "epoch": 2.984758117958913, + "grad_norm": 19.086732864379883, + "learning_rate": 3.187271321405949e-10, + "loss": 0.2993, + "num_input_tokens_seen": 44104920, + "step": 22520 + }, + { + "epoch": 2.984890656063618, + "grad_norm": 7.6504435539245605, + "learning_rate": 3.1320826717418093e-10, + "loss": 0.0263, + "num_input_tokens_seen": 44107680, + "step": 22521 + }, + { + "epoch": 2.985023194168323, + "grad_norm": 4.6792402267456055, + "learning_rate": 3.077375978935426e-10, + "loss": 0.0732, + "num_input_tokens_seen": 44109800, + "step": 22522 + }, + { + "epoch": 2.9851557322730287, + "grad_norm": 2.2937140464782715, + "learning_rate": 3.0231512440415114e-10, + "loss": 0.0123, + "num_input_tokens_seen": 44111960, + "step": 22523 + }, + { + "epoch": 2.9852882703777337, + "grad_norm": 4.477351665496826, + "learning_rate": 2.9694084681064496e-10, + "loss": 0.0527, + "num_input_tokens_seen": 44113680, + "step": 22524 + }, + { + "epoch": 2.9854208084824387, + "grad_norm": 0.008505197241902351, + "learning_rate": 2.916147652165524e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44115888, + "step": 22525 + }, + { + "epoch": 2.9855533465871438, + "grad_norm": 0.00716635026037693, + "learning_rate": 2.8633687972456915e-10, + "loss": 0.0, + "num_input_tokens_seen": 44117384, + "step": 22526 + }, + { + "epoch": 2.985685884691849, + "grad_norm": 7.6649699211120605, + "learning_rate": 2.8110719043628056e-10, + "loss": 0.0321, + "num_input_tokens_seen": 44118960, + "step": 22527 + }, + { + "epoch": 2.985818422796554, + "grad_norm": 21.992382049560547, + "learning_rate": 2.759256974529945e-10, + "loss": 0.1726, + "num_input_tokens_seen": 44120472, + "step": 22528 + }, + { + "epoch": 2.985950960901259, + "grad_norm": 0.8311477899551392, + "learning_rate": 2.707924008740759e-10, + "loss": 0.0026, + "num_input_tokens_seen": 44122768, + "step": 22529 + }, + { + "epoch": 2.9860834990059644, + "grad_norm": 0.6071740388870239, + "learning_rate": 2.657073007988897e-10, + "loss": 0.0018, + "num_input_tokens_seen": 44124360, + "step": 22530 + }, + { + "epoch": 2.9862160371106694, + "grad_norm": 14.059874534606934, + "learning_rate": 2.606703973254132e-10, + "loss": 0.1835, + "num_input_tokens_seen": 44126384, + "step": 22531 + }, + { + "epoch": 2.9863485752153744, + "grad_norm": 0.002456819172948599, + "learning_rate": 2.5568169055079085e-10, + "loss": 0.0, + "num_input_tokens_seen": 44127824, + "step": 22532 + }, + { + "epoch": 2.9864811133200795, + "grad_norm": 24.06719970703125, + "learning_rate": 2.507411805707793e-10, + "loss": 0.2299, + "num_input_tokens_seen": 44129832, + "step": 22533 + }, + { + "epoch": 2.9866136514247845, + "grad_norm": 1.5957129001617432, + "learning_rate": 2.458488674811355e-10, + "loss": 0.0087, + "num_input_tokens_seen": 44132280, + "step": 22534 + }, + { + "epoch": 2.98674618952949, + "grad_norm": 1.1026782989501953, + "learning_rate": 2.4100475137622816e-10, + "loss": 0.0028, + "num_input_tokens_seen": 44134200, + "step": 22535 + }, + { + "epoch": 2.9868787276341946, + "grad_norm": 0.047960489988327026, + "learning_rate": 2.362088323490386e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44136240, + "step": 22536 + }, + { + "epoch": 2.9870112657389, + "grad_norm": 4.072607040405273, + "learning_rate": 2.3146111049199281e-10, + "loss": 0.0072, + "num_input_tokens_seen": 44137928, + "step": 22537 + }, + { + "epoch": 2.987143803843605, + "grad_norm": 0.01629113033413887, + "learning_rate": 2.267615858972394e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44139584, + "step": 22538 + }, + { + "epoch": 2.98727634194831, + "grad_norm": 0.016805415973067284, + "learning_rate": 2.2211025865498392e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44141152, + "step": 22539 + }, + { + "epoch": 2.987408880053015, + "grad_norm": 0.003400669898837805, + "learning_rate": 2.175071288548769e-10, + "loss": 0.0, + "num_input_tokens_seen": 44143464, + "step": 22540 + }, + { + "epoch": 2.9875414181577202, + "grad_norm": 3.5520541667938232, + "learning_rate": 2.1295219658573618e-10, + "loss": 0.0159, + "num_input_tokens_seen": 44145512, + "step": 22541 + }, + { + "epoch": 2.9876739562624257, + "grad_norm": 0.9891106486320496, + "learning_rate": 2.084454619352694e-10, + "loss": 0.0038, + "num_input_tokens_seen": 44147056, + "step": 22542 + }, + { + "epoch": 2.9878064943671303, + "grad_norm": 0.6001947522163391, + "learning_rate": 2.03986924990629e-10, + "loss": 0.0016, + "num_input_tokens_seen": 44149904, + "step": 22543 + }, + { + "epoch": 2.987939032471836, + "grad_norm": 5.142385482788086, + "learning_rate": 1.9957658583785733e-10, + "loss": 0.029, + "num_input_tokens_seen": 44152776, + "step": 22544 + }, + { + "epoch": 2.988071570576541, + "grad_norm": 8.903682708740234, + "learning_rate": 1.9521444456133133e-10, + "loss": 0.1973, + "num_input_tokens_seen": 44155600, + "step": 22545 + }, + { + "epoch": 2.988204108681246, + "grad_norm": 3.744699716567993, + "learning_rate": 1.9090050124598302e-10, + "loss": 0.0165, + "num_input_tokens_seen": 44157136, + "step": 22546 + }, + { + "epoch": 2.988336646785951, + "grad_norm": 9.884406089782715, + "learning_rate": 1.8663475597424652e-10, + "loss": 0.0885, + "num_input_tokens_seen": 44158640, + "step": 22547 + }, + { + "epoch": 2.988469184890656, + "grad_norm": 0.5473750233650208, + "learning_rate": 1.8241720882911096e-10, + "loss": 0.0012, + "num_input_tokens_seen": 44160152, + "step": 22548 + }, + { + "epoch": 2.9886017229953614, + "grad_norm": 16.15572166442871, + "learning_rate": 1.7824785989134508e-10, + "loss": 0.1119, + "num_input_tokens_seen": 44162104, + "step": 22549 + }, + { + "epoch": 2.988734261100066, + "grad_norm": 0.017358332872390747, + "learning_rate": 1.7412670924144004e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44164312, + "step": 22550 + }, + { + "epoch": 2.9888667992047715, + "grad_norm": 0.05452156439423561, + "learning_rate": 1.700537569587768e-10, + "loss": 0.0004, + "num_input_tokens_seen": 44166440, + "step": 22551 + }, + { + "epoch": 2.9889993373094765, + "grad_norm": 0.5943291187286377, + "learning_rate": 1.660290031221812e-10, + "loss": 0.0027, + "num_input_tokens_seen": 44167944, + "step": 22552 + }, + { + "epoch": 2.9891318754141816, + "grad_norm": 1.6413581371307373, + "learning_rate": 1.6205244780909123e-10, + "loss": 0.0138, + "num_input_tokens_seen": 44170032, + "step": 22553 + }, + { + "epoch": 2.9892644135188866, + "grad_norm": 9.999971389770508, + "learning_rate": 1.5812409109638994e-10, + "loss": 0.1212, + "num_input_tokens_seen": 44171528, + "step": 22554 + }, + { + "epoch": 2.9893969516235916, + "grad_norm": 2.721292018890381, + "learning_rate": 1.5424393305929486e-10, + "loss": 0.0301, + "num_input_tokens_seen": 44172624, + "step": 22555 + }, + { + "epoch": 2.989529489728297, + "grad_norm": 0.2592402398586273, + "learning_rate": 1.5041197377302365e-10, + "loss": 0.0013, + "num_input_tokens_seen": 44174992, + "step": 22556 + }, + { + "epoch": 2.9896620278330017, + "grad_norm": 3.2145674228668213, + "learning_rate": 1.4662821331140609e-10, + "loss": 0.0217, + "num_input_tokens_seen": 44176512, + "step": 22557 + }, + { + "epoch": 2.989794565937707, + "grad_norm": 0.0013348259963095188, + "learning_rate": 1.428926517474394e-10, + "loss": 0.0, + "num_input_tokens_seen": 44177672, + "step": 22558 + }, + { + "epoch": 2.9899271040424122, + "grad_norm": 1.804548740386963, + "learning_rate": 1.3920528915301047e-10, + "loss": 0.0118, + "num_input_tokens_seen": 44179824, + "step": 22559 + }, + { + "epoch": 2.9900596421471173, + "grad_norm": 4.515546798706055, + "learning_rate": 1.3556612559917358e-10, + "loss": 0.0456, + "num_input_tokens_seen": 44182488, + "step": 22560 + }, + { + "epoch": 2.9901921802518223, + "grad_norm": 3.5564351081848145, + "learning_rate": 1.3197516115615038e-10, + "loss": 0.0196, + "num_input_tokens_seen": 44184392, + "step": 22561 + }, + { + "epoch": 2.9903247183565274, + "grad_norm": 11.872001647949219, + "learning_rate": 1.284323958933298e-10, + "loss": 0.2508, + "num_input_tokens_seen": 44186488, + "step": 22562 + }, + { + "epoch": 2.990457256461233, + "grad_norm": 0.06354028731584549, + "learning_rate": 1.249378298789905e-10, + "loss": 0.0005, + "num_input_tokens_seen": 44188768, + "step": 22563 + }, + { + "epoch": 2.9905897945659374, + "grad_norm": 0.009352052584290504, + "learning_rate": 1.2149146318030103e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44190824, + "step": 22564 + }, + { + "epoch": 2.990722332670643, + "grad_norm": 0.004185742232948542, + "learning_rate": 1.1809329586387476e-10, + "loss": 0.0, + "num_input_tokens_seen": 44192504, + "step": 22565 + }, + { + "epoch": 2.990854870775348, + "grad_norm": 0.02018456719815731, + "learning_rate": 1.1474332799493726e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44195280, + "step": 22566 + }, + { + "epoch": 2.990987408880053, + "grad_norm": 1.6735354661941528, + "learning_rate": 1.1144155963871417e-10, + "loss": 0.0052, + "num_input_tokens_seen": 44197072, + "step": 22567 + }, + { + "epoch": 2.991119946984758, + "grad_norm": 0.3514725863933563, + "learning_rate": 1.0818799085821063e-10, + "loss": 0.001, + "num_input_tokens_seen": 44198536, + "step": 22568 + }, + { + "epoch": 2.991252485089463, + "grad_norm": 0.026112373918294907, + "learning_rate": 1.0498262171670937e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44200768, + "step": 22569 + }, + { + "epoch": 2.9913850231941685, + "grad_norm": 0.005100660491734743, + "learning_rate": 1.0182545227555018e-10, + "loss": 0.0, + "num_input_tokens_seen": 44202896, + "step": 22570 + }, + { + "epoch": 2.9915175612988736, + "grad_norm": 1.691542387008667, + "learning_rate": 9.871648259579536e-11, + "loss": 0.0086, + "num_input_tokens_seen": 44204488, + "step": 22571 + }, + { + "epoch": 2.9916500994035786, + "grad_norm": 0.0029435441829264164, + "learning_rate": 9.565571273739693e-11, + "loss": 0.0, + "num_input_tokens_seen": 44206608, + "step": 22572 + }, + { + "epoch": 2.9917826375082837, + "grad_norm": 0.04887622594833374, + "learning_rate": 9.264314275919673e-11, + "loss": 0.0005, + "num_input_tokens_seen": 44209008, + "step": 22573 + }, + { + "epoch": 2.9919151756129887, + "grad_norm": 6.049227237701416, + "learning_rate": 8.9678772719759e-11, + "loss": 0.0492, + "num_input_tokens_seen": 44211152, + "step": 22574 + }, + { + "epoch": 2.9920477137176937, + "grad_norm": 0.1889122724533081, + "learning_rate": 8.676260267570514e-11, + "loss": 0.0009, + "num_input_tokens_seen": 44213528, + "step": 22575 + }, + { + "epoch": 2.9921802518223988, + "grad_norm": 0.0025527379475533962, + "learning_rate": 8.389463268337894e-11, + "loss": 0.0, + "num_input_tokens_seen": 44215128, + "step": 22576 + }, + { + "epoch": 2.9923127899271043, + "grad_norm": 0.031091947108507156, + "learning_rate": 8.107486279829157e-11, + "loss": 0.0002, + "num_input_tokens_seen": 44216504, + "step": 22577 + }, + { + "epoch": 2.9924453280318093, + "grad_norm": 0.058732688426971436, + "learning_rate": 7.830329307484397e-11, + "loss": 0.0002, + "num_input_tokens_seen": 44218464, + "step": 22578 + }, + { + "epoch": 2.9925778661365143, + "grad_norm": 0.08767752349376678, + "learning_rate": 7.557992356604926e-11, + "loss": 0.0005, + "num_input_tokens_seen": 44219944, + "step": 22579 + }, + { + "epoch": 2.9927104042412194, + "grad_norm": 6.561985015869141, + "learning_rate": 7.290475432464305e-11, + "loss": 0.0376, + "num_input_tokens_seen": 44221752, + "step": 22580 + }, + { + "epoch": 2.9928429423459244, + "grad_norm": 0.0009230970172211528, + "learning_rate": 7.027778540252827e-11, + "loss": 0.0, + "num_input_tokens_seen": 44223144, + "step": 22581 + }, + { + "epoch": 2.9929754804506294, + "grad_norm": 0.04239053651690483, + "learning_rate": 6.769901684994251e-11, + "loss": 0.0003, + "num_input_tokens_seen": 44224520, + "step": 22582 + }, + { + "epoch": 2.9931080185553345, + "grad_norm": 8.81534481048584, + "learning_rate": 6.51684487168458e-11, + "loss": 0.0337, + "num_input_tokens_seen": 44226248, + "step": 22583 + }, + { + "epoch": 2.99324055666004, + "grad_norm": 6.648081302642822, + "learning_rate": 6.268608105153285e-11, + "loss": 0.0174, + "num_input_tokens_seen": 44228128, + "step": 22584 + }, + { + "epoch": 2.993373094764745, + "grad_norm": 5.100999355316162, + "learning_rate": 6.02519139025759e-11, + "loss": 0.0402, + "num_input_tokens_seen": 44230344, + "step": 22585 + }, + { + "epoch": 2.99350563286945, + "grad_norm": 0.0026779421605169773, + "learning_rate": 5.786594731660433e-11, + "loss": 0.0, + "num_input_tokens_seen": 44232328, + "step": 22586 + }, + { + "epoch": 2.993638170974155, + "grad_norm": 11.860074996948242, + "learning_rate": 5.552818133941484e-11, + "loss": 0.0903, + "num_input_tokens_seen": 44233584, + "step": 22587 + }, + { + "epoch": 2.99377070907886, + "grad_norm": 0.14862053096294403, + "learning_rate": 5.323861601652658e-11, + "loss": 0.0011, + "num_input_tokens_seen": 44235288, + "step": 22588 + }, + { + "epoch": 2.993903247183565, + "grad_norm": 8.668434143066406, + "learning_rate": 5.099725139151579e-11, + "loss": 0.0902, + "num_input_tokens_seen": 44236944, + "step": 22589 + }, + { + "epoch": 2.99403578528827, + "grad_norm": 0.0036657059099525213, + "learning_rate": 4.880408750823629e-11, + "loss": 0.0, + "num_input_tokens_seen": 44238264, + "step": 22590 + }, + { + "epoch": 2.9941683233929757, + "grad_norm": 0.005773690063506365, + "learning_rate": 4.665912440832143e-11, + "loss": 0.0, + "num_input_tokens_seen": 44240160, + "step": 22591 + }, + { + "epoch": 2.9943008614976807, + "grad_norm": 12.544565200805664, + "learning_rate": 4.4562362133682144e-11, + "loss": 0.1789, + "num_input_tokens_seen": 44241752, + "step": 22592 + }, + { + "epoch": 2.9944333996023857, + "grad_norm": 1.4391350746154785, + "learning_rate": 4.251380072428646e-11, + "loss": 0.0072, + "num_input_tokens_seen": 44243072, + "step": 22593 + }, + { + "epoch": 2.994565937707091, + "grad_norm": 12.043181419372559, + "learning_rate": 4.0513440220102395e-11, + "loss": 0.0887, + "num_input_tokens_seen": 44245064, + "step": 22594 + }, + { + "epoch": 2.994698475811796, + "grad_norm": 0.003705475479364395, + "learning_rate": 3.856128065943265e-11, + "loss": 0.0, + "num_input_tokens_seen": 44247000, + "step": 22595 + }, + { + "epoch": 2.994831013916501, + "grad_norm": 0.6523666977882385, + "learning_rate": 3.665732207974726e-11, + "loss": 0.003, + "num_input_tokens_seen": 44248984, + "step": 22596 + }, + { + "epoch": 2.994963552021206, + "grad_norm": 0.020966388285160065, + "learning_rate": 3.480156451796113e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44250576, + "step": 22597 + }, + { + "epoch": 2.9950960901259114, + "grad_norm": 5.690288543701172, + "learning_rate": 3.2994008009878954e-11, + "loss": 0.0901, + "num_input_tokens_seen": 44253224, + "step": 22598 + }, + { + "epoch": 2.9952286282306164, + "grad_norm": 6.685713768005371, + "learning_rate": 3.1234652590472756e-11, + "loss": 0.0525, + "num_input_tokens_seen": 44255072, + "step": 22599 + }, + { + "epoch": 2.9953611663353215, + "grad_norm": 3.420220375061035, + "learning_rate": 2.952349829332679e-11, + "loss": 0.0296, + "num_input_tokens_seen": 44257408, + "step": 22600 + }, + { + "epoch": 2.9954937044400265, + "grad_norm": 0.003240854712203145, + "learning_rate": 2.7860545151747743e-11, + "loss": 0.0, + "num_input_tokens_seen": 44259456, + "step": 22601 + }, + { + "epoch": 2.9956262425447315, + "grad_norm": 4.917562484741211, + "learning_rate": 2.6245793197376966e-11, + "loss": 0.1933, + "num_input_tokens_seen": 44261464, + "step": 22602 + }, + { + "epoch": 2.9957587806494366, + "grad_norm": 0.0024403154384344816, + "learning_rate": 2.4679242461855824e-11, + "loss": 0.0, + "num_input_tokens_seen": 44262992, + "step": 22603 + }, + { + "epoch": 2.9958913187541416, + "grad_norm": 0.19025234878063202, + "learning_rate": 2.316089297516033e-11, + "loss": 0.0009, + "num_input_tokens_seen": 44264936, + "step": 22604 + }, + { + "epoch": 2.996023856858847, + "grad_norm": 3.1127891540527344, + "learning_rate": 2.1690744766711404e-11, + "loss": 0.0103, + "num_input_tokens_seen": 44266608, + "step": 22605 + }, + { + "epoch": 2.996156394963552, + "grad_norm": 0.020279603078961372, + "learning_rate": 2.0268797864542165e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44268088, + "step": 22606 + }, + { + "epoch": 2.996288933068257, + "grad_norm": 14.725159645080566, + "learning_rate": 1.8895052296130644e-11, + "loss": 0.2132, + "num_input_tokens_seen": 44270304, + "step": 22607 + }, + { + "epoch": 2.996421471172962, + "grad_norm": 1.5043866634368896, + "learning_rate": 1.7569508088122188e-11, + "loss": 0.0072, + "num_input_tokens_seen": 44273064, + "step": 22608 + }, + { + "epoch": 2.9965540092776672, + "grad_norm": 9.167046546936035, + "learning_rate": 1.6292165266051928e-11, + "loss": 0.0885, + "num_input_tokens_seen": 44275352, + "step": 22609 + }, + { + "epoch": 2.9966865473823723, + "grad_norm": 0.012785854749381542, + "learning_rate": 1.5063023854622327e-11, + "loss": 0.0, + "num_input_tokens_seen": 44277384, + "step": 22610 + }, + { + "epoch": 2.9968190854870773, + "grad_norm": 5.353344440460205, + "learning_rate": 1.3882083877425623e-11, + "loss": 0.0449, + "num_input_tokens_seen": 44279248, + "step": 22611 + }, + { + "epoch": 2.996951623591783, + "grad_norm": 5.932577133178711, + "learning_rate": 1.2749345356943832e-11, + "loss": 0.0851, + "num_input_tokens_seen": 44281792, + "step": 22612 + }, + { + "epoch": 2.997084161696488, + "grad_norm": 0.02163410186767578, + "learning_rate": 1.166480831565897e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44283144, + "step": 22613 + }, + { + "epoch": 2.997216699801193, + "grad_norm": 0.025362735614180565, + "learning_rate": 1.0628472774110166e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44285152, + "step": 22614 + }, + { + "epoch": 2.997349237905898, + "grad_norm": 0.006480336654931307, + "learning_rate": 9.640338752003874e-12, + "loss": 0.0, + "num_input_tokens_seen": 44286680, + "step": 22615 + }, + { + "epoch": 2.997481776010603, + "grad_norm": 0.2815084457397461, + "learning_rate": 8.700406269046557e-12, + "loss": 0.0014, + "num_input_tokens_seen": 44288672, + "step": 22616 + }, + { + "epoch": 2.997614314115308, + "grad_norm": 0.770248532295227, + "learning_rate": 7.808675342724226e-12, + "loss": 0.0045, + "num_input_tokens_seen": 44290808, + "step": 22617 + }, + { + "epoch": 2.997746852220013, + "grad_norm": 6.655081272125244, + "learning_rate": 6.965145990522892e-12, + "loss": 0.067, + "num_input_tokens_seen": 44294128, + "step": 22618 + }, + { + "epoch": 2.9978793903247185, + "grad_norm": 9.320930480957031, + "learning_rate": 6.169818228818347e-12, + "loss": 0.2274, + "num_input_tokens_seen": 44296600, + "step": 22619 + }, + { + "epoch": 2.9980119284294235, + "grad_norm": 0.0037947280798107386, + "learning_rate": 5.422692072876157e-12, + "loss": 0.0, + "num_input_tokens_seen": 44297888, + "step": 22620 + }, + { + "epoch": 2.9981444665341286, + "grad_norm": 8.301339149475098, + "learning_rate": 4.723767536851665e-12, + "loss": 0.202, + "num_input_tokens_seen": 44299320, + "step": 22621 + }, + { + "epoch": 2.9982770046388336, + "grad_norm": 0.0010123125975951552, + "learning_rate": 4.073044634345102e-12, + "loss": 0.0, + "num_input_tokens_seen": 44300664, + "step": 22622 + }, + { + "epoch": 2.9984095427435387, + "grad_norm": 0.012102228589355946, + "learning_rate": 3.4705233781240354e-12, + "loss": 0.0001, + "num_input_tokens_seen": 44303000, + "step": 22623 + }, + { + "epoch": 2.998542080848244, + "grad_norm": 0.06029818207025528, + "learning_rate": 2.9162037798458056e-12, + "loss": 0.0003, + "num_input_tokens_seen": 44304840, + "step": 22624 + }, + { + "epoch": 2.9986746189529487, + "grad_norm": 0.025797370821237564, + "learning_rate": 2.410085849779975e-12, + "loss": 0.0, + "num_input_tokens_seen": 44306280, + "step": 22625 + }, + { + "epoch": 2.998807157057654, + "grad_norm": 0.030400771647691727, + "learning_rate": 1.9521695979185518e-12, + "loss": 0.0002, + "num_input_tokens_seen": 44308704, + "step": 22626 + }, + { + "epoch": 2.9989396951623593, + "grad_norm": 0.15217946469783783, + "learning_rate": 1.5424550331433197e-12, + "loss": 0.0007, + "num_input_tokens_seen": 44311464, + "step": 22627 + }, + { + "epoch": 2.9990722332670643, + "grad_norm": 2.7459113597869873, + "learning_rate": 1.18094216322584e-12, + "loss": 0.0105, + "num_input_tokens_seen": 44313784, + "step": 22628 + }, + { + "epoch": 2.9992047713717693, + "grad_norm": 0.0004933705204166472, + "learning_rate": 8.676309951050066e-13, + "loss": 0.0, + "num_input_tokens_seen": 44315000, + "step": 22629 + }, + { + "epoch": 2.9993373094764744, + "grad_norm": 6.124077796936035, + "learning_rate": 6.025215351646019e-13, + "loss": 0.1049, + "num_input_tokens_seen": 44316504, + "step": 22630 + }, + { + "epoch": 2.99946984758118, + "grad_norm": 0.4443013072013855, + "learning_rate": 3.856137881230737e-13, + "loss": 0.0017, + "num_input_tokens_seen": 44318792, + "step": 22631 + }, + { + "epoch": 2.9996023856858844, + "grad_norm": 8.954855918884277, + "learning_rate": 2.1690775814375842e-13, + "loss": 0.0622, + "num_input_tokens_seen": 44320520, + "step": 22632 + }, + { + "epoch": 2.99973492379059, + "grad_norm": 5.586569309234619, + "learning_rate": 9.640344883488084e-14, + "loss": 0.0457, + "num_input_tokens_seen": 44322392, + "step": 22633 + }, + { + "epoch": 2.999867461895295, + "grad_norm": 0.010882946662604809, + "learning_rate": 2.4100862416887028e-14, + "loss": 0.0001, + "num_input_tokens_seen": 44324256, + "step": 22634 + }, + { + "epoch": 3.0, + "grad_norm": 0.3562160134315491, + "learning_rate": 0.0, + "loss": 0.0017, + "num_input_tokens_seen": 44325984, + "step": 22635 + } + ], + "logging_steps": 1, + "max_steps": 22635, + "num_input_tokens_seen": 44325984, + "num_train_epochs": 3, + "save_steps": 5000, + "stateful_callbacks": { + "TrainerControl": { + "args": { + "should_epoch_stop": false, + "should_evaluate": false, + "should_log": false, + "should_save": true, + "should_training_stop": true + }, + "attributes": {} + } + }, + "total_flos": 1.8804729049283297e+18, + "train_batch_size": 1, + "trial_name": null, + "trial_params": null +} diff --git a/checkpoint-22635/training_args.bin b/checkpoint-22635/training_args.bin new file mode 100644 index 0000000000000000000000000000000000000000..e91b84a7340f44c3720906811a8270ba00a7d3aa --- /dev/null +++ b/checkpoint-22635/training_args.bin @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3469befa03cfdc61d08fe4993d0b0451d621d80513a23011f8b231cbcb3efb30 +size 7416 diff --git a/checkpoint-22635/vocab.json b/checkpoint-22635/vocab.json new file mode 100644 index 0000000000000000000000000000000000000000..4783fe10ac3adce15ac8f358ef5462739852c569 --- /dev/null +++ b/checkpoint-22635/vocab.json @@ -0,0 +1 @@ +{"!":0,"\"":1,"#":2,"$":3,"%":4,"&":5,"'":6,"(":7,")":8,"*":9,"+":10,",":11,"-":12,".":13,"/":14,"0":15,"1":16,"2":17,"3":18,"4":19,"5":20,"6":21,"7":22,"8":23,"9":24,":":25,";":26,"<":27,"=":28,">":29,"?":30,"@":31,"A":32,"B":33,"C":34,"D":35,"E":36,"F":37,"G":38,"H":39,"I":40,"J":41,"K":42,"L":43,"M":44,"N":45,"O":46,"P":47,"Q":48,"R":49,"S":50,"T":51,"U":52,"V":53,"W":54,"X":55,"Y":56,"Z":57,"[":58,"\\":59,"]":60,"^":61,"_":62,"`":63,"a":64,"b":65,"c":66,"d":67,"e":68,"f":69,"g":70,"h":71,"i":72,"j":73,"k":74,"l":75,"m":76,"n":77,"o":78,"p":79,"q":80,"r":81,"s":82,"t":83,"u":84,"v":85,"w":86,"x":87,"y":88,"z":89,"{":90,"|":91,"}":92,"~":93,"¡":94,"¢":95,"£":96,"¤":97,"¥":98,"¦":99,"§":100,"¨":101,"©":102,"ª":103,"«":104,"¬":105,"®":106,"¯":107,"°":108,"±":109,"²":110,"³":111,"´":112,"µ":113,"¶":114,"·":115,"¸":116,"¹":117,"º":118,"»":119,"¼":120,"½":121,"¾":122,"¿":123,"À":124,"Á":125,"Â":126,"Ã":127,"Ä":128,"Å":129,"Æ":130,"Ç":131,"È":132,"É":133,"Ê":134,"Ë":135,"Ì":136,"Í":137,"Î":138,"Ï":139,"Ð":140,"Ñ":141,"Ò":142,"Ó":143,"Ô":144,"Õ":145,"Ö":146,"×":147,"Ø":148,"Ù":149,"Ú":150,"Û":151,"Ü":152,"Ý":153,"Þ":154,"ß":155,"à":156,"á":157,"â":158,"ã":159,"ä":160,"å":161,"æ":162,"ç":163,"è":164,"é":165,"ê":166,"ë":167,"ì":168,"í":169,"î":170,"ï":171,"ð":172,"ñ":173,"ò":174,"ó":175,"ô":176,"õ":177,"ö":178,"÷":179,"ø":180,"ù":181,"ú":182,"û":183,"ü":184,"ý":185,"þ":186,"ÿ":187,"Ā":188,"ā":189,"Ă":190,"ă":191,"Ą":192,"ą":193,"Ć":194,"ć":195,"Ĉ":196,"ĉ":197,"Ċ":198,"ċ":199,"Č":200,"č":201,"Ď":202,"ď":203,"Đ":204,"đ":205,"Ē":206,"ē":207,"Ĕ":208,"ĕ":209,"Ė":210,"ė":211,"Ę":212,"ę":213,"Ě":214,"ě":215,"Ĝ":216,"ĝ":217,"Ğ":218,"ğ":219,"Ġ":220,"ġ":221,"Ģ":222,"ģ":223,"Ĥ":224,"ĥ":225,"Ħ":226,"ħ":227,"Ĩ":228,"ĩ":229,"Ī":230,"ī":231,"Ĭ":232,"ĭ":233,"Į":234,"į":235,"İ":236,"ı":237,"IJ":238,"ij":239,"Ĵ":240,"ĵ":241,"Ķ":242,"ķ":243,"ĸ":244,"Ĺ":245,"ĺ":246,"Ļ":247,"ļ":248,"Ľ":249,"ľ":250,"Ŀ":251,"ŀ":252,"Ł":253,"ł":254,"Ń":255,"ĠĠ":256,"ĠĠĠĠ":257,"in":258,"Ġt":259,"ĠĠĠĠĠĠĠĠ":260,"er":261,"ĠĠĠ":262,"on":263,"Ġa":264,"re":265,"at":266,"st":267,"en":268,"or":269,"Ġth":270,"ĊĊ":271,"Ġc":272,"le":273,"Ġs":274,"it":275,"an":276,"ar":277,"al":278,"Ġthe":279,";Ċ":280,"Ġp":281,"Ġf":282,"ou":283,"Ġ=":284,"is":285,"ĠĠĠĠĠĠĠ":286,"ing":287,"es":288,"Ġw":289,"ion":290,"ed":291,"ic":292,"Ġb":293,"Ġd":294,"et":295,"Ġm":296,"Ġo":297,"ĉĉ":298,"ro":299,"as":300,"el":301,"ct":302,"nd":303,"Ġin":304,"Ġh":305,"ent":306,"id":307,"Ġn":308,"am":309,"ĠĠĠĠĠĠĠĠĠĠĠ":310,"Ġto":311,"Ġre":312,"--":313,"Ġ{":314,"Ġof":315,"om":316,");Ċ":317,"im":318,"čĊ":319,"Ġ(":320,"il":321,"//":322,"Ġand":323,"ur":324,"se":325,"Ġl":326,"ex":327,"ĠS":328,"ad":329,"Ġ\"":330,"ch":331,"ut":332,"if":333,"**":334,"Ġ}":335,"em":336,"ol":337,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":338,"th":339,")Ċ":340,"Ġ{Ċ":341,"Ġg":342,"ig":343,"iv":344,",Ċ":345,"ce":346,"od":347,"Ġv":348,"ate":349,"ĠT":350,"ag":351,"ay":352,"Ġ*":353,"ot":354,"us":355,"ĠC":356,"Ġst":357,"ĠI":358,"un":359,"ul":360,"ue":361,"ĠA":362,"ow":363,"Ġ'":364,"ew":365,"Ġ<":366,"ation":367,"()":368,"Ġfor":369,"ab":370,"ort":371,"um":372,"ame":373,"Ġis":374,"pe":375,"tr":376,"ck":377,"âĢ":378,"Ġy":379,"ist":380,"----":381,".ĊĊ":382,"he":383,"Ġe":384,"lo":385,"ĠM":386,"Ġbe":387,"ers":388,"Ġon":389,"Ġcon":390,"ap":391,"ub":392,"ĠP":393,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":394,"ass":395,"int":396,">Ċ":397,"ly":398,"urn":399,"Ġ$":400,";ĊĊ":401,"av":402,"port":403,"ir":404,"->":405,"nt":406,"ction":407,"end":408,"Ġde":409,"ith":410,"out":411,"turn":412,"our":413,"ĠĠĠĠĠ":414,"lic":415,"res":416,"pt":417,"==":418,"Ġthis":419,"Ġwh":420,"Ġif":421,"ĠD":422,"ver":423,"age":424,"ĠB":425,"ht":426,"ext":427,"=\"":428,"Ġthat":429,"****":430,"ĠR":431,"Ġit":432,"ess":433,"ĠF":434,"Ġr":435,"os":436,"and":437,"Ġas":438,"ect":439,"ke":440,"rom":441,"Ġ//":442,"con":443,"ĠL":444,"(\"":445,"qu":446,"lass":447,"Ġwith":448,"iz":449,"de":450,"ĠN":451,"Ġal":452,"op":453,"up":454,"get":455,"Ġ}Ċ":456,"ile":457,"Ġan":458,"ata":459,"ore":460,"ri":461,"Ġpro":462,";čĊ":463,"ĉĉĉĉ":464,"ter":465,"ain":466,"ĠW":467,"ĠE":468,"Ġcom":469,"Ġreturn":470,"art":471,"ĠH":472,"ack":473,"import":474,"ublic":475,"Ġor":476,"est":477,"ment":478,"ĠG":479,"able":480,"Ġ-":481,"ine":482,"ill":483,"ind":484,"ere":485,"::":486,"ity":487,"Ġ+":488,"Ġtr":489,"elf":490,"ight":491,"('":492,"orm":493,"ult":494,"str":495,"..":496,"\",":497,"Ġyou":498,"ype":499,"pl":500,"Ġnew":501,"Ġj":502,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":503,"Ġfrom":504,"Ġex":505,"ĠO":506,"ld":507,"Ġ[":508,"oc":509,":Ċ":510,"Ġse":511,"Ġle":512,"--------":513,".s":514,"{Ċ":515,"',":516,"ant":517,"Ġat":518,"ase":519,".c":520,"Ġch":521,"":589,"ust":590,"que":591,"Ġres":592,"))":593,"'s":594,"Ġk":595,"ans":596,"yst":597,"unction":598,"********":599,"Ġi":600,"Ġus":601,"pp":602,"one":603,"ail":604,"====":605,"name":606,"Ġstr":607,"Ġ/":608,"Ġ&":609,"ach":610,"div":611,"ystem":612,"ell":613,"Ġhave":614,"err":615,"ould":616,"ull":617,"pon":618,"ĠJ":619,"_p":620,"Ġ==":621,"ign":622,"St":623,".Ċ":624,"Ġpl":625,");ĊĊ":626,"form":627,"put":628,"ount":629,"}ĊĊ":630,"dd":631,"ite":632,"Ġget":633,"rr":634,"ome":635,"ĠâĢ":636,"aram":637,"cc":638,"Ġ*/":639,"ER":640,"In":641,"les":642,"_s":643,"ong":644,"ie":645,"Ġcan":646,"ĠV":647,"erv":648,"pr":649,"Ġun":650,"row":651,"ber":652,"Ġdo":653,"ll":654,"Ġel":655,"Ġself":656,"ated":657,"ary":658,"Ġ.":659,"']":660,"ud":661,"Ġen":662,"ĠTh":663,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":664,"te":665,"_c":666,"uct":667,"Ġab":668,"ork":669,".get":670,"Ġ#":671,"aw":672,"ress":673,"ob":674,"Name":675,"app":676,"['":677,"Ġall":678,"ory":679,"ition":680,"ance":681,"ear":682,"Ġcont":683,"vent":684,"ia":685,"Ġwill":686,"IN":687,"ĠĠĠĠĠĠĠĠĠ":688,"return":689,"Ġ":755,"\",Ċ":756,"ec":757,"ĠIn":758,"ph":759,"Ġ|":760,"_f":761,"Ġvar":762,"ence":763,"Id":764,"ree":765,"ink":766,"lect":767,"ug":768,"eth":769,"Ġelse":770,"----------------":771,"cont":772,"Ġso":773,"atic":774,"Ġlo":775,"pro":776,"ton":777,"ss":778,"own":779,"abel":780,"oint":781,"ous":782,"eld":783,"ST":784,"The":785,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":786,"RE":787,"\":":788,"olor":789,"tp":790,"eg":791,"key":792,"ude":793,"ĠSt":794,"ound":795,"Ġar":796,"\");Ċ":797,"ener":798,"ser":799,"bject":800,"essage":801,"fer":802,"Ġmore":803,"ations":804,"ents":805,"Ġhis":806,"Ġthey":807,".S":808,"ĠY":809,"use":810,"ne":811,"ish":812,"old":813,"_d":814,"io":815,"ield":816,"Ġper":817,"Cont":818,"ings":819,"####":820,"Ġdata":821,"Ġsa":822,"ef":823,"fo":824,"Ġone":825,"eng":826,"Ġdis":827,"AT":828,"Ġname":829,"Ġtrue":830,"val":831,"led":832,".f":833,"Ġne":834,"Ġend":835,".T":836,"cre":837,"ark":838,"log":839,"Ex":840,"error":841,"_id":842,"urre":843,"ange":844,"Ġnull":845,"rray":846,"Ġmy":847,"pan":848,"ict":849,"ator":850,"View":851,"List":852,"ĉreturn":853,"âĢĿ":854,"Ġpre":855,"Ġx":856,"clude":857,"arg":858,"ov":859,".h":860,"Ġ>":861,"Ġtheir":862,"')":863,"irst":864,"ick":865,"gh":866,"LE":867,"OR":868,"Ġprivate":869,"tem":870,"čĊčĊ":871,"user":872,"Ġ)":873,"com":874,".A":875,"\";Ċ":876,"Ġid":877,"read":878,"Ġwho":879,"_b":880,"\">Ċ":881,"Ġtime":882,"Ġman":883,"ry":884,"========":885,"roup":886,"rop":887,"public":888,"vel":889,"umber":890,"ble":891,"Ġwhich":892,"****************":893,"Ġany":894,"Ġfalse":895,"we":896,"Ġvalue":897,"Ġli":898,"\")":899,"nder":900,"gr":901,"Ġno":902,"param":903,"fig":904,".com":905,"Ġapp":906,"_l":907,"ions":908,".D":909,"ĠCh":910,"Ġabout":911,"Ġadd":912,"Ġsu":913,"Ġstring":914,"ID":915,"Ġover":916,"string":917,".l":918,"ource":919,"_C":920,"]Ċ":921,"Ġqu":922,"ĠString":923,"ca":924,"SE":925,"Ġro":926,"sh":927,"ual":928,"Type":929,"son":930,"new":931,"ern":932,"Ġag":933,"AR":934,"];Ċ":935,"].":936,"Ġ?":937,"ical":938,"Ġdes":939,"uth":940,"ix":941,"ays":942,"Ġtype":943,"'t":944,"ault":945,"Ġinter":946,"var":947,".b":948,"Ġpart":949,".d":950,"urrent":951,"IT":952,"EN":953,"enc":954,"(f":955,"ra":956,"value":957,"cho":958,"utton":959,"ose":960,"Ġ!=":961,"ater":962,"é":963,"reate":964,"oll":965,"pos":966,"yle":967,"ng":968,"AL":969,"using":970,"ames":971,"Ġ{čĊ":972,"ates":973,"ely":974,"Ġwork":975,"Ġem":976,"inal":977,"Ġsp":978,"Ġwhen":979,".set":980,"ĠĠĠĠĠĠ":981,"):Ċ":982,"to":983,"quire":984,"indow":985,"lement":986,"pect":987,"ash":988,"[i":989,"Ġuse":990,".F":991,"pec":992,"Ġad":993,"ove":994,"ception":995,"ength":996,"include":997,"ader":998,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":999,"atus":1000,"Th":1001,"itle":1002,"rit":1003,"void":1004,"().":1005,"(Ċ":1006,"Ġoff":1007,"Ġother":1008,"Ġ&&":1009,"';Ċ":1010,"ms":1011,"Ġbeen":1012,"Ġte":1013,"ml":1014,"co":1015,"nc":1016,"ervice":1017,"Ġ%":1018,"**Ċ":1019,"ann":1020,"ade":1021,"ĊĊĊĊ":1022,"lock":1023,"const":1024,"ponse":1025,"Ġsup":1026,"++":1027,"date":1028,"Ġacc":1029,"Ġhad":1030,"Ġbu":1031,"ĠRe":1032,"Ġwere":1033,"Ġfile":1034,"Ġwould":1035,"ĠâĢľ":1036,"ven":1037,"iss":1038,"Ġour":1039,"class":1040,"raw":1041,"Ġyear":1042,"Data":1043,"Ġval":1044,"Ġsome":1045,"fter":1046,"ys":1047,"Ġ///":1048,"round":1049,"view":1050,"Ġpe":1051,"Ġthere":1052,"Ġsaid":1053,"du":1054,"of":1055,"line":1056,"/*":1057,"duct":1058,"Ġher":1059,"ĠĠĠĠĠĠĠĠĠĠĠĠĠ":1060,"Res":1061,"Ġco":1062,"Ġcomm":1063,"ise":1064,"min":1065,"ĠĠĠĠĊ":1066,"#include":1067,"ethod":1068,".P":1069,"ute":1070,"Ġass":1071,"Int":1072,"ask":1073,"loc":1074,"Ġlike":1075,"ody":1076,"Ġlet":1077,"load":1078,"Ġam":1079,"rol":1080,"Ġgr":1081,"yp":1082,"Ġalso":1083,"ĠIt":1084,"url":1085,"ific":1086,"ors":1087,"_P":1088,"_n":1089,"igh":1090,"Ġthan":1091,"Com":1092,"AN":1093,"UL":1094,"ating":1095,"ĠThis":1096,"ref":1097,"_S":1098,"Ġstatic":1099,"roll":1100,"Ġjust":1101,"Ġresult":1102,"ian":1103,"idth":1104,"Ġthem":1105,"));Ċ":1106,"der":1107,"reak":1108,"Con":1109,"://":1110,"ule":1111,"...":1112,"arch":1113,"ement":1114,"Ġ<<":1115,"ush":1116,"ense":1117,"arr":1118,"Ġinto":1119,"cess":1120,"amp":1121,"ied":1122,"ument":1123,"Ġ\\":1124,"],":1125,"wo":1126,"als":1127,"Ġwhat":1128,"anc":1129,"Value":1130,"='":1131,"olum":1132,"Ġpos":1133,"ages":1134,"ayer":1135,"Ġsc":1136,"ues":1137,"\")Ċ":1138,"_T":1139,"Ġlist":1140,"(s":1141,"Ġcase":1142,"Ch":1143,"ĉĉĉĉĉ":1144,"////////":1145,"ponent":1146,"Ġz":1147,"Ġkn":1148,"let":1149,"DE":1150,"red":1151,"Ġfe":1152,"Ġ},Ċ":1153,"Ġ,":1154,"(t":1155,"Ġfirst":1156,"');Ċ":1157,"word":1158,"Ġimport":1159,"Ġact":1160,"Ġchar":1161,"CT":1162,"ĠTr":1163,"ople":1164,"={":1165,"ĉf":1166,"ient":1167,"cent":1168,".j":1169,"lection":1170,"))Ċ":1171,"Ġonly":1172,"Ġprint":1173,"mer":1174,".W":1175,"ock":1176,"Ġ--":1177,"Text":1178,"Ġop":1179,"ank":1180,"Ġits":1181,"Ġback":1182,"[\"":1183,"Ġneed":1184,"Ġcl":1185,"Ġsub":1186,"Ġla":1187,"((":1188,".\"":1189,"Object":1190,"Ġstart":1191,"file":1192,"(self":1193,"ner":1194,"ey":1195,"Ġuser":1196,"Ġent":1197,"ĠCom":1198,"its":1199,"ĠCon":1200,"ouble":1201,"ower":1202,"item":1203,"very":1204,"ĠWe":1205,"lick":1206,"ĠQ":1207,"php":1208,"ttp":1209,"':":1210,"ics":1211,"Ġunder":1212,"Ġ*Ċ":1213,".L":1214,");":1215,"ices":1216,"Ġreg":1217,")čĊ":1218,"ĉpublic":1219,"SS":1220,"Ġthen":1221,"reat":1222,"ious":1223,".G":1224,"ek":1225,"irect":1226,"heck":1227,"cript":1228,"ning":1229,"ĠUn":1230,"Ġmay":1231,"ĠWh":1232,"Bo":1233,"Item":1234,"struct":1235,".st":1236,"ream":1237,"ible":1238,"loat":1239,"Ġorg":1240,"und":1241,"sum":1242,"_in":1243,"../":1244,"_M":1245,"Ġhow":1246,"rite":1247,"'Ċ":1248,"To":1249,"ww":1250,"Ġpeople":1251,"index":1252,".n":1253,"http":1254,"(m":1255,"ector":1256,"Ġind":1257,"Ġjav":1258,"],Ċ":1259,"ĠHe":1260,"_st":1261,"ful":1262,"ole":1263,"){Ċ":1264,"Ġshould":1265,"opy":1266,"elp":1267,"ier":1268,"_name":1269,"erson":1270,"ION":1271,"ote":1272,"Ġtest":1273,"Ġbet":1274,"rror":1275,"ular":1276,"ãĢ":1277,"ĠÐ":1278,"bs":1279,"ting":1280,"Ġmake":1281,"Tr":1282,"Ġafter":1283,"arget":1284,"RO":1285,"olumn":1286,"rc":1287,"_re":1288,"define":1289,"Ġright":1290,"right":1291,"day":1292,"Ġlong":1293,"[]":1294,"(p":1295,"td":1296,"cond":1297,"ĠPro":1298,"Ġrem":1299,"ptions":1300,"vid":1301,".g":1302,"Ġext":1303,"Ġ__":1304,"')Ċ":1305,"pace":1306,"mp":1307,"Ġmin":1308,"stance":1309,"air":1310,"action":1311,"wh":1312,"type":1313,"util":1314,"ait":1315,"ĊĊ":1339,"Ġshe":1340,"\"]":1341,"aph":1342,"Ġexp":1343,"erty":1344,"ĠSe":1345,"Ġpar":1346,"unc":1347,"ET":1348,"Ġread":1349,"print":1350,"Ġrel":1351,"Ġform":1352,"Ġdr":1353,"Exception":1354,"input":1355,"Ġtrans":1356,"########":1357,"order":1358,"By":1359,"Ġaw":1360,"ities":1361,"uff":1362,"play":1363,".add":1364,"ĠâĢĵ":1365,"Ġwant":1366,"Ġcomp":1367,"ments":1368,"Ġ||":1369,"az":1370,"be":1371,"Ġnumber":1372,"Ġrequire":1373,"ĠEx":1374,"Ġcol":1375,"Ġkey":1376,"ember":1377,"Ġtwo":1378,"Ġsize":1379,"Ġwhere":1380,"UT":1381,"result":1382,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":1383,"ough":1384,"orld":1385,"ood":1386,"uch":1387,"ative":1388,"ger":1389,"arent":1390,"Ġ/*":1391,"Ġarg":1392,"Ġwhile":1393,"(this":1394,"Ġrec":1395,"Ġdif":1396,"State":1397,"Ġspec":1398,"ride":1399,"_F":1400,"Ġlook":1401,"AM":1402,"ility":1403,"eter":1404,"âĢĻt":1405,"ĊĊĊ":1406,"ayout":1407,"--------------------------------":1408,"ager":1409,"Ġcould":1410,"Ġbr":1411,"ends":1412,"ures":1413,"Ġknow":1414,"ets":1415,"ĠIf":1416,"ĠSh":1417,".w":1418,"back":1419,"Ġser":1420,"Ġ+=":1421,"Ġfr":1422,"());Ċ":1423,"Ġhand":1424,"Ind":1425,"ULL":1426,"Im":1427,"();ĊĊ":1428,"Ġmost":1429,"Ġtry":1430,"Ġnow":1431,"rough":1432,">čĊ":1433,"ackage":1434,"Ġhim":1435,"._":1436,"ify":1437,"Ġbreak":1438,"Ġ);Ċ":1439,"ren":1440,"#define":1441,"itt":1442,"Ġap":1443,"ĉc":1444,"(n":1445,"ĠYou":1446,":ĊĊ":1447,"-m":1448,"Ġevery":1449,"ustom":1450,"lient":1451,"ocument":1452,"cription":1453,"Error":1454,"-b":1455,"о":1456,"][":1457,"trans":1458,"Ġpoint":1459,"Ġstd":1460,"Ġfil":1461,"Time":1462,"Ġmod":1463,"Ġ->":1464,"Ġerror":1465,"ah":1466,"Ġtext":1467,"roller":1468,"lose":1469,"ql":1470,"Ġpol":1471,"><":1784,".B":1785,"-c":1786,"Ġopen":1787,"Ġest":1788,"ĠĠĠĠĠĠĠĠĊ":1789,"Ġnext":1790,"IM":1791,"ÑĤ":1792,"OT":1793,"ó":1794,"Ġfollow":1795,"content":1796,"ĠĠĠĠĠĠĠĠĠĠĠĠ":1797,"Ġinclud":1798,"HE":1799,"ĠRes":1800,"Ġhref":1801,"и":1802,"Ġcar":1803,"ypes":1804,"image":1805,"Un":1806,"Ġbool":1807,"AD":1808,"Ġgame":1809,".Form":1810,"rows":1811,"*/":1812,"velop":1813,".Drawing":1814,"Ġpath":1815,"ision":1816,"Ġeach":1817,"ĠPl":1818,"_type":1819,"Path":1820,"nection":1821,"Ġav":1822,"').":1823,"Ġsupport":1824,"ENT":1825,"rem":1826,"\").":1827,"Ġown":1828,"Ġcor":1829,"count":1830,"miss":1831,"ually":1832,"Ġmem":1833,"std":1834,"ience":1835,"search":1836,"\"ĊĊ":1837,"Form":1838,"Ġsex":1839,"ename":1840,"Ġsign":1841,"Ġet":1842,"ĠĠĠĠĠĠĠĠĠĠ":1843,"','":1844,"ĠApp":1845,"Ġthose":1846,"off":1847,"Ġerr":1848,"Ġsystem":1849,"Ġbest":1850,"code":1851,"Ġsame":1852,"Ġdi":1853,"uss":1854,"Ġcreate":1855,"ather":1856,"Array":1857,".in":1858,"fe":1859,"Service":1860,"UN":1861,"ats":1862,"ĠZ":1863,"alth":1864,"Ġmade":1865,"true":1866,"AB":1867,"Ġmark":1868,"rid":1869,"ified":1870,",čĊ":1871,"yn":1872,"press":1873,"Ġgroup":1874,"Ġfin":1875,"ĠLicense":1876,"Field":1877,"eger":1878,"Ġworld":1879,"iness":1880,"ty":1881,"Ġprocess":1882,"(b":1883,"Ġcre":1884,"arn":1885,"ives":1886,"Ġmain":1887,"ideo":1888,"_g":1889,"AG":1890,"valid":1891,"img":1892,"PI":1893,"Ġcolor":1894,"Ġreport":1895,"Ġtake":1896,"rib":1897,"OM":1898,"Ġday":1899,"Request":1900,"Ġsk":1901,"bers":1902,"ĉs":1903,".Add":1904,"oot":1905,"Image":1906,"Ġcomple":1907,"ollection":1908,"Ġtop":1909,"Ġfree":1910,"AS":1911,"De":1912,"ĠOn":1913,"IG":1914,"eta":1915,"Date":1916,"Ġaction":1917,"Over":1918,"itor":1919,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":1920,"not":1921,"Ġindex":1922,"her":1923,"icon":1924,"On":1925,";čĊčĊ":1926,"ivity":1927,"mand":1928,".Windows":1929,"OL":1930,"Ġreal":1931,"Ġmax":1932,"land":1933,"....":1934,"raph":1935,"Ġbuild":1936,"leg":1937,"assword":1938,"?ĊĊ":1939,"â̦":1940,"ook":1941,"uck":1942,"Ġmessage":1943,"test":1944,"ivers":1945,"Ġinput":1946,"Ġart":1947,"Ġbetween":1948,"Get":1949,"enter":1950,"ground":1951,"ene":1952,"á":1953,".length":1954,"Node":1955,"(i":1956,"Class":1957,"for":1958,"ĠâĢĶ":1959,"ten":1960,"oin":1961,"Ġke":1962,"ui":1963,"ĠIN":1964,"Ġtable":1965,"sub":1966,"ĠLe":1967,"Ġhead":1968,"Ġmust":1969,"////////////////":1970,".util":1971,"Context":1972,"Ġorder":1973,"Ġmov":1974,"over":1975,"Ġcontin":1976,"Ġsay":1977,"static":1978,".Text":1979,"ĠclassName":1980,"pany":1981,"Ġter":1982,"head":1983,"rg":1984,"Ġproduct":1985,"This":1986,".âĢĿ":1987,"ĠBut":1988,"loy":1989,"Ġdouble":1990,"sg":1991,"Ġplace":1992,".x":1993,"message":1994,"Ġinformation":1995,"private":1996,"Ġoper":1997,"ced":1998,"db":1999,"\">":2179,"aterial":2180,"iled":2181,"Ġput":2182,"Qu":2183,"ÑĢ":2184,"ung":2185,"map":2186,"ĉĉĉĉĉĉĉĉ":2187,"Ġlevel":2188,"Component":2189,"book":2190,"creen":2191,"_RE":2192,"Ġconfig":2193,"ãģ":2194,"Or":2195,".data":2196,"Ġdocument":2197,"\",\"":2198,"tribute":2199,"ux":2200,"Log":2201,"ference":2202,"post":2203,"_e":2204,"Ġlocal":2205,"andom":2206,"assert":2207,"Val":2208,"lected":2209,"ina":2210,"atabase":2211,"Add":2212,"Ġcontent":2213,".print":2214,"signed":2215,"ric":2216,".\"ĊĊ":2217,"Ġfa":2218,"!ĊĊ":2219,"-f":2220,"ived":2221,"Ġquest":2222,".ex":2223,"Ġfloat":2224,"Ġdevelop":2225,"оÐ":2226,"Map":2227,"ading":2228,"Ġposs":2229,"UE":2230,"namespace":2231,"_O":2232,"ĉb":2233,".Get":2234,">(":2235,"json":2236,"etails":2237,"Ġtoo":2238,"Ġextends":2239,"ĠNone":2240,"Ġfore":2241,"(String":2242,"format":2243,"Ġgreat":2244,"inter":2245,"cale":2246,"Ñģ":2247,"ron":2248,"iving":2249,"Ent":2250,"ency":2251,"xt":2252,"oy":2253,"Ġmonth":2254,"Ġhapp":2255,"Ġsuper":2256,"bar":2257,"default":2258,"_de":2259,"ords":2260,"ln":2261,"({Ċ":2262,"ĠInd":2263,"ases":2264,"Ġtitle":2265,"Ġcontext":2266,"oh":2267,"-p":2268,"Em":2269,"Ġmet":2270,"Test":2271,"Ġlife":2272,"_v":2273,"ĠUS":2274,"UI":2275,"ocation":2276,"md":2277,"Ġ[Ċ":2278,"Ġ]":2279,"sw":2280,"Ġincre":2281,"script":2282,"ential":2283,"ways":2284,".de":2285,"Ġsrc":2286,"Ġcatch":2287,"ĠAmeric":2288,"//Ċ":2289,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":2290,"Ġpay":2291,"plit":2292,"âĢĶ":2293,"Ġcoun":2294,"obj":2295,".php":2296,"Ġchange":2297,"ething":2298,"'re":2299,"aster":2300,"los":2301,"lation":2302,"ĠĠĊ":2303,"Le":2304,"ä":2305,"({":2306,"ready":2307,"ĠNo":2308,"Ġposition":2309,"Ġold":2310,"Ġbook":2311,"abled":2312,"bug":2313,"Hand":2314,"};ĊĊ":2315,"isplay":2316,"aving":2317,"Ġgover":2318,"Ġversion":2319,"System":2320,"nect":2321,"response":2322,"Style":2323,"Up":2324,"angu":2325,"Ġthree":2326,"init":2327,"ero":2328,"Ġlaw":2329,"endif":2330,"Ġbase":2331,"email":2332,"(l":2333,"_V":2334,"Ġconf":2335,"ATE":2336,"Ġduring":2337,"tes":2338,"Ġconsole":2339,"ĠPr":2340,"Ġspe":2341,"ves":2342,"path":2343,"ialog":2344,"dition":2345,"_to":2346,"ards":2347,"Ġagainst":2348,"etwork":2349,"ĠPh":2350,"_L":2351,"cur":2352,"imit":2353,"With":2354,"Ġpower":2355,"ium":2356,"';ĊĊ":2357,"Ġwom":2358,"left":2359,"ources":2360,"atri":2361,"ĠIm":2362,"ĠMan":2363,"orth":2364,"${":2365,"quals":2366,"ese":2367,"_size":2368,"Ġiss":2369,"otal":2370,"-g":2371,"ique":2372,"rame":2373,"Ġwidth":2374,"erg":2375,")(":2376,"ittle":2377,"TR":2378,"ĠThey":2379,"ences":2380,"rl":2381,"ons":2382,"Ġlabel":2383,".y":2384,"-t":2385,"update":2386,"anel":2387,"sc":2388,".to":2389,"Ġproject":2390,"ü":2391,"Ġelement":2392,"Ġsuccess":2393,"ĉĉĊ":2394,".sh":2395,"ram":2396,"ched":2397,"())Ċ":2398,"Ġ(Ċ":2399,"Ġdate":2400,"Ġtot":2401,"_ST":2402,"All":2403,"ification":2404,"ĉvar":2405,"Ġtri":2406,"chem":2407,"my":2408,"Ġbig":2409,"ĠAd":2410,"ĠAt":2411,"ots":2412,"num":2413,"Act":2414,"Ġmap":2415,"era":2416,"cope":2417,".$":2418,",âĢĿ":2419,"Ġpop":2420,"Ġfew":2421,"Ġlen":2422,"uid":2423,"eters":2424,"ules":2425,"ÃŃ":2426,"source":2427,"https":2428,"Ġdem":2429,"Ġear":2430,"################":2431,"Ġmatch":2432,"ories":2433,"aces":2434,"ĠCl":2435,"Ġnode":2436,"irc":2437,"local":2438,"unity":2439,"};Ċ":2440,"Ġanother":2441,"<<":2442,"ogle":2443,"Ġsit":2444,"ework":2445,"TE":2446,".I":2447,"NS":2448,"ology":2449,"ought":2450,".Cont":2451,">>":2452,"Ġcare":2453,"state":2454,"ĉprivate":2455,"Ġeffect":2456,"++)":2457,"_file":2458,"ending":2459,"Line":2460,"For":2461,"ior":2462,"ĠSc":2463,"Ġfun":2464,".Size":2465,"ĉelse":2466,"])":2467,"start":2468,"vious":2469,"Ġ},":2470,"ours":2471,"Ġleg":2472,"Ġservice":2473,"Ġsince":2474,"iron":2475,"Label":2476,"Ġnon":2477,"Ġlos":2478,"iction":2479,"Ġfull":2480,"acter":2481,"board":2482,"gress":2483,"Ġturn":2484,"ither":2485,".size":2486,"Ġbody":2487,"resh":2488,"eturn":2489,"(_":2490,"yles":2491,"ormal":2492,"pi":2493,"Ġsomething":2494,"!--":2495,"uint":2496,"Ġprodu":2497,"Ġstand":2498,"Ġproble":2499,"Ġavailable":2500,"mt":2501,"ĠBl":2502,"Ġ...":2503,"Ġblock":2504,"Input":2505,"Ġkeep":2506,"Count":2507,"open":2508,"Ġ['":2509,"Ġthrow":2510,"uilder":2511,"Action":2512,"Ġthings":2513,"True":2514,"Ġurl":2515,"ĠBo":2516,"printf":2517,"Ġred":2518,"js":2519,".create":2520,"ĠOr":2521,"Status":2522,"Instance":2523,"Ġcontrol":2524,"Ġcome":2525,"Ġcustom":2526,"location":2527,"model":2528,"ĠčĊ":2529,"Ġsource":2530,"Ġeas":2531,".out":2532,"]ĊĊ":2533,"oney":2534,"Ġawait":2535,"Ġpartic":2536,"AP":2537,"ublish":2538,"odes":2539,"_pro":2540,"ply":2541,"riter":2542,"Ġprov":2543,"Ġmill":2544,"HT":2545,"])Ċ":2546,"Ġchang":2547,"Ġask":2548,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":2549,"Ġoutput":2550,"Ġemail":2551,".push":2552,"Ġ}čĊčĊ":2553,"ination":2554,"atrix":2555,"Table":2556,"uccess":2557,"]);Ċ":2558,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":2559,"Ġdisc":2560,"([":2561,"Ġbusiness":2562,"height":2563,".html":2564,"ta":2565,"field":2566,"Ġrequired":2567,"_R":2568,"Ġgovern":2569,"}čĊčĊ":2570,"lex":2571,".,":2572,"ĠSet":2573,"urch":2574,"///":2575,"ts":2576,"af":2577,"Ġmight":2578,"istory":2579,"Str":2580,"Ġnever":2581,"Response":2582,"arse":2583,"ada":2584,"ĠHow":2585,"Ġ*)":2586,"Ġ;":2587,"Ġhard":2588,"Ad":2589,"Ġintern":2590,"used":2591,"(data":2592,"mod":2593,"annel":2594,"Ġnp":2595,"ugg":2596,"Ġ/>Ċ":2597,"Ġcalled":2598,"body":2599,"Ġcho":2600,"(r":2601,"_set":2602,"ird":2603,"Ġ>=":2604,"Ġ};Ċ":2605,"Ġoptions":2606,"ĠGener":2607,"Ġheight":2608,"Point":2609,"You":2610,"ety":2611,"Click":2612,"Ġsmall":2613,"Ġide":2614,"Ġaccess":2615,"anguage":2616,"Ġprotected":2617,"Ġjob":2618,"ĠThere":2619,"Def":2620,"Ġaddress":2621,"Ġuint":2622,"Not":2623,"oo":2624,"aps":2625,"":2759,"ĉĠĠĠ":2760,"\"))":2761,"Content":2762,"_W":2763,"plement":2764,"Ġwon":2765,"Ġvideo":2766,"adi":2767,"point":2768,"%%":2769,"Ġgl":2770,"erved":2771,"viron":2772,"IF":2773,"uted":2774,"ãĥ":2775,"'m":2776,"Ġcert":2777,"Ġprof":2778,"Ġcell":2779,"ari":2780,"Ġplayer":2781,"ais":2782,"Ġcost":2783,"Ġhum":2784,"(R":2785,"Ġoffic":2786,"ks":2787,".text":2788,"atures":2789,"Ġtotal":2790,"Ġ*/ĊĊ":2791,"ope":2792,"Ġstat":2793,"UM":2794,"Ġload":2795,"ights":2796,"Ġclear":2797,"uro":2798,"Ġtechn":2799,"upport":2800,"IR":2801,"Ġrow":2802,"Ġseem":2803,"Ġq":2804,"Ġshort":2805,"ĠNot":2806,"ipp":2807,"Group":2808,"section":2809,"max":2810,"irl":2811,"Ġoverride":2812,"Ġcompany":2813,"Ġdone":2814,"\");čĊ":2815,"Ġgre":2816,".Re":2817,"Ġbelie":2818,"rist":2819,"Ġhealth":2820,"ANT":2821,"()ĊĊ":2822,"ĠBe":2823,".value":2824,"ĠGr":2825,"ottom":2826,"Ġargs":2827,"PT":2828,"status":2829,"func":2830,"uments":2831,"-h":2832,"Number":2833,":čĊ":2834,"ĠLog":2835,"erver":2836,"Ġ),Ċ":2837,"ament":2838,"Ġobj":2839,"inc":2840,"Ġchildren":2841,"icy":2842,"IZ":2843,"ands":2844,"ably":2845,"Ġdistrib":2846,"Ġcur":2847,"erial":2848,"Ġdays":2849,"reated":2850,"rect":2851,"-l":2852,"irm":2853,"idden":2854,"omb":2855,"Ġinitial":2856,".js":2857,"Ġâ":2858,"Query":2859,"Ġonline":2860,"imal":2861,".con":2862,"au":2863,"Url":2864,"control":2865,"irection":2866,"Ġinstance":2867,"ORT":2868,"ĠFr":2869,"where":2870,"Ġjavax":2871,"Ġorgan":2872,"apter":2873,"Ġreason":2874,"options":2875,"ĠMar":2876,"(a":2877,"Ġwithin":2878,".âĢĿĊĊ":2879,"ODE":2880,"_DE":2881,"admin":2882,"ended":2883,"Ġdesign":2884,"ĠData":2885,"une":2886,"ĠFile":2887,"root":2888,"Ġcent":2889,"Ġarr":2890,"_add":2891,"len":2892,"page":2893,",'":2894,"_str":2895,"Ġbro":2896,"ability":2897,"outh":2898,"/c":2899,"pose":2900,"irtual":2901,"earch":2902,"_url":2903,"argin":2904,"Http":2905,"Ġschool":2906,"ava":2907,"Ġconsider":2908,".label":2909,"ĠArray":2910,"web":2911,"opt":2912,".println":2913,"ulation":2914,"Ġfunc":2915,"PL":2916,"Ġ\"\\":2917,"ĠText":2918,"actory":2919,"(function":2920,"null":2921,"Ġeng":2922,"down":2923,"Ġinclude":2924,"ĠEn":2925,"ĠDr":2926,"Ġdb":2927,"!!":2928,"side":2929,"Ġinit":2930,"quired":2931,"ĠShe":2932,"Column":2933,"react":2934,"Ġann":2935,"Ġstop":2936,"Ġlater":2937,"ĠThat":2938,"ention":2939,"df":2940,"UG":2941,"ILE":2942,"Ġclient":2943,"raft":2944,"ffer":2945,"POST":2946,"elper":2947,"Ġlove":2948,"quote":2949,"oud":2950,"Ġjson":2951,"Ġable":2952,"Ġmen":2953,"AX":2954,"ĠCopyright":2955,"ö":2956,"avig":2957,"req":2958,"Client":2959,"});Ċ":2960,".Com":2961,"erc":2962,"ilt":2963,"pecial":2964,"_com":2965,"room":2966,".Name":2967,"Ġgive":2968,"amb":2969,"ike":2970,"Ġcondition":2971,"client":2972,"ators":2973,":\"":2974,"Ġcopy":2975,"uture":2976,"iversity":2977,"ernal":2978,"{{":2979,"ĠCan":2980,"ounc":2981,"do":2982,"Ġocc":2983,"Ġappro":2984,"thers":2985,"ze":2986,"Ġeither":2987,"ĠFl":2988,"Ġimportant":2989,"Ġlead":2990,"attr":2991,"ART":2992,"Equal":2993,"Ġda":2994,"etch":2995,"entity":2996,"Ġfamily":2997,"adding":2998,"Ġoption":2999,"Ġexist":3000,"ica":3001,"ĠObject":3002,"'ve":3003,"vers":3004,"itional":3005,"output":3006,"ĠTrue":3007,"ĠOF":3008,"_time":3009,"Ġoffer":3010,"Ġ});ĊĊ":3011,"HER":3012,"egin":3013,"\"\"":3014,"Ġwater":3015,"Ġche":3016,"ĠMy":3017,"ored":3018,"Ġstep":3019,"ances":3020,"CK":3021,"AY":3022,"à¸":3023,"struction":3024,"(C":3025,"ouch":3026,"Stream":3027,"active":3028,"ama":3029,"Entity":3030,"product":3031,"(){Ċ":3032,"Ġgovernment":3033,"ĠID":3034,"ajor":3035,"And":3036,"Ġdisplay":3037,"л":3038,"Ġtimes":3039,"Ġfour":3040,"Ġfar":3041,"Ġpresent":3042,"ĠNS":3043,"Ġ\\Ċ":3044,"uest":3045,"Ġbas":3046,"echo":3047,"child":3048,"ifier":3049,"Handler":3050,"Ġlib":3051,"Property":3052,"translation":3053,"Ġroom":3054,"Ġonce":3055,"Ġ[]":3056,"center":3057,"================================":3058,"Ġresults":3059,"Ġcontinue":3060,"Ġtalk":3061,"_get":3062,"Ġgrow":3063,".sw":3064,"eb":3065,"ĠPublic":3066,"OP":3067,"ecute":3068,"ols":3069,"Ġ**":3070,"\");ĊĊ":3071,"Ġmass":3072,"ured":3073,".class":3074,"omic":3075,"Ġmean":3076,"ips":3077,"Ġaut":3078,");čĊčĊ":3079,"Ġuntil":3080,"Ġmarket":3081,"Ġarea":3082,"uit":3083,"Ġlength":3084,"ĠWith":3085,"structor":3086,"event":3087,"\"><":3088,"ĠSp":3089,"IV":3090,"Ġmus":3091,"iff":3092,"Ġkind":3093,"author":3094,"ounds":3095,"mb":3096,"_key":3097,"width":3098,"pository":3099,"Ġlight":3100,"uk":3101,"Row":3102,"ohn":3103,"alf":3104,"vironment":3105,"apper":3106,"ollections":3107,"Ġside":3108,"_info":3109,"Ġexample":3110,"imary":3111,"Ġwr":3112,"Ġcamp":3113,"cribe":3114,"\"/":3115,"Ġmiss":3116,"way":3117,"Ġbased":3118,"Ġplan":3119,"Vis":3120,"omain":3121,"unk":3122,"Ġaway":3123,"UP":3124,"":3370,"Ġden":3371,"obile":3372,"change":3373,"ĠĠĠĠĠĠĠĠĠĠĠĠĊ":3374,"ici":3375,"na":3376,"ĠForm":3377,"Ġsort":3378,"Select":3379,"pare":3380,"Ġthought":3381,"_con":3382,"Ġtask":3383,"ocus":3384,"ĠDE":3385,"ĠMin":3386,"Ġopt":3387,"ĉbreak":3388,"umer":3389,"KE":3390,"then":3391,"Ġdet":3392,"ĠTest":3393,"ports":3394,"Ġreview":3395,"('/":3396,"move":3397,"Ġswitch":3398,"ERT":3399,"patch":3400,"annot":3401,"ãĤ":3402,"Ġabove":3403,"itive":3404,"Ġquestion":3405,"ĠQu":3406,"ãĢĤĊĊ":3407,"gle":3408,"Ġword":3409,"Ġprovide":3410,"ĠReturn":3411,"Ġresearch":3412,"ão":3413,"ustr":3414,"Ġpublish":3415,"chema":3416,"}}":3417,"ĠCON":3418,"-in":3419,"allback":3420,"Ġcover":3421,"\\\\":3422,"color":3423,"ĠIS":3424,"Ġwhether":3425,"imate":3426,"isc":3427,"Bar":3428,"Ġdiv":3429,"Be":3430,"ourn":3431,"Ġhaving":3432,"lem":3433,"player":3434,"abs":3435,"amera":3436,"ney":3437,"Ġexc":3438,"gether":3439,"plied":3440,"ao":3441,"[$":3442,"Ġ++":3443,"ipe":3444,"show":3445,"/d":3446,"[:":3447,"agement":3448,"lev":3449,"_ID":3450,"rary":3451,"ades":3452,"_se":3453,"ause":3454,"Ġemploy":3455,"Ġ*/čĊ":3456,"Ġfre":3457,"Ġ'@":3458,"Ġcomplet":3459,"Ġlarge":3460,"ral":3461,"\\x":3462,"Ġfac":3463,">":3578,"Ġface":3579,"CTION":3580,"Ġsave":3581,"Ġtyp":3582,"dev":3583,"(\"#":3584,"AGE":3585,"container":3586,"edit":3587,"QL":3588,"Ġitems":3589,"Ġsocial":3590,"ien":3591,"ĠReact":3592,").ĊĊ":3593,"Ġmar":3594,"Ġredu":3595,"ĠRE":3596,".put":3597,"Ġmajor":3598,"Cell":3599,"next":3600,"Ġexpected":3601,"Ġyet":3602,"Ġindiv":3603,"tributes":3604,"atis":3605,"amed":3606,"Ġfood":3607,"Source":3608,"(string":3609,"Ġ+Ċ":3610,"ites":3611,"dr":3612,"Ġmembers":3613,"Ġcomb":3614,"items":3615,"ĠPer":3616,"TH":3617,"=True":3618,"Ġbar":3619,"_SE":3620,"comm":3621,"(w":3622,")ĊĊĊ":3623,"Ġsend":3624,"Ġinc":3625,"unsigned":3626,"FA":3627,"Ġparams":3628,"apping":3629,"ros":3630,"ugin":3631,"fa":3632,"Ġconnection":3633,"Ġ};ĊĊ":3634,"Ġbecome":3635,"Mode":3636,"Ġev":3637,"Ġdiff":3638,"ĠUnited":3639,"Height":3640,"fully":3641,"images":3642,"Ġmakes":3643,"Ġglobal":3644,"Ġcontact":3645,"':Ċ":3646,"Ġabs":3647,"аÐ":3648,"float":3649,"Ġexcept":3650,"ĠPol":3651,"Child":3652,"typ":3653,"Ġcertain":3654,"ión":3655,"OUT":3656,"Ġimpro":3657,"iles":3658,"Ġ-->Ċ":3659,"ĠPart":3660,"values":3661,"oss":3662,"/**":3663,"ilit":3664,"ĠEvent":3665,"curity":3666,"ster":3667,"Ġcharacter":3668,"Ġnews":3669,"Ġ\",":3670,"Ġdevice":3671,"cel":3672,"login":3673,"heet":3674,"Default":3675,"@\"":3676,"ĉĠ":3677,"click":3678,"(value":3679,"ĠAb":3680,"Ġprevious":3681,"ERROR":3682,"ocal":3683,"Ġmaterial":3684,"Ġbelow":3685,"ĠChrist":3686,"Ġmedia":3687,"cover":3688,"ĠUI":3689,"Ġfail":3690,"Ġblack":3691,"Ġcomponent":3692,"ĠAmerican":3693,"Ġadded":3694,"Ġbuy":3695,"stit":3696,"Ġcame":3697,"Ġdelete":3698,"property":3699,"oding":3700,"Ġcard":3701,"rops":3702,"Ġhttps":3703,"Ġroot":3704,"Ġhandle":3705,"CC":3706,"Back":3707,"emplate":3708,"Ġgetting":3709,"_by":3710,"mail":3711,"_sh":3712,".assert":3713,"ĠDec":3714,"(true":3715,"Ġcomput":3716,"Ġclaim":3717,"'=>":3718,"ĠSub":3719,"Ġair":3720,"ops":3721,"nav":3722,"ements":3723,"(id":3724,"Ġenter":3725,"anged":3726,"End":3727,"Ġlocation":3728,"Ġnight":3729,"Ġdoing":3730,"ĠRed":3731,"lin":3732,"}ĊĊĊ":3733,"vider":3734,"Ġpick":3735,"Ġwatch":3736,"essages":3737,"Ġhuman":3738,"Ġdam":3739,"pend":3740,"dir":3741,"Ġtax":3742,"Ġgirl":3743,"reet":3744,"Ġbox":3745,"Ġstrong":3746,"(v":3747,"rel":3748,"Ġinterface":3749,"Ġmsg":3750,"fect":3751,"_at":3752,"Ġhouse":3753,"Ġtrack":3754,"');ĊĊ":3755,"je":3756,"ĠJohn":3757,"istr":3758,"(S":3759,"ube":3760,"Ġce":3761,"itted":3762,"VER":3763,"*)":3764,"parent":3765,"Ġapplication":3766,"any":3767,".swing":3768,"Ġpack":3769,"\\u":3770,"Ġpract":3771,"Ġsection":3772,"ctx":3773,"Ġunsigned":3774,".Point":3775,"ĠOne":3776,"ı":3777,"iple":3778,"aid":3779,"Ñĥ":3780,"Vector":3781,"byte":3782,"Ġwait":3783,"ĠÃł":3784,"Ã¥":3785,"Ġtogether":3786,"Ġthrows":3787,"FO":3788,"'))":3789,"host":3790,"ising":3791,".view":3792,"Ġterms":3793,"framework":3794,"-r":3795,"Ġapply":3796,"Ġsession":3797,"Options":3798,"uggest":3799,"Ġothers":3800,"witter":3801,"Ġfund":3802,"Init":3803,"__(":3804,"ensor":3805,"GET":3806,"Ġseveral":3807,"ii":3808,"[j":3809,"IO":3810,"Ġtemplate":3811,"Position":3812,"Ġecon":3813,"achine":3814,"Ġil":3815,".spring":3816,"main":3817,"elt":3818,"iment":3819,"Rec":3820,"mm":3821,"ĠUniversity":3822,"ursor":3823,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":3824,"GL":3825,"icture":3826,"ithub":3827,"cer":3828,"cast":3829,"From":3830,"ales":3831,"Ġsubject":3832,"password":3833,"ny":3834,"Ġesc":3835,".write":3836,"ï¼Į":3837,"What":3838,".H":3839,"Ġhistory":3840,"ĠFe":3841,"Ġindividual":3842,"unit":3843,"Ġ-->":3844,"Ġdu":3845,"IST":3846,"Ġusers":3847,"fs":3848,"false":3849,"unt":3850,"Title":3851,"Ġmot":3852,"Ġfuture":3853,"ached":3854,"Ġstarted":3855,"Ġmode":3856,"Ġ'<":3857,"_array":3858,"Ġax":3859,"'];Ċ":3860,"ires":3861,"There":3862,"ught":3863,"tml":3864,"posed":3865,"icult":3866,"Ġtook":3867,"Ġgames":3868,"Ġ}}":3869,"Ġ?>Ċ":3870,"Ġproducts":3871,"Is":3872,"Ġbad":3873,"ĠDes":3874,".path":3875,"'ĊĊ":3876,"ĠPost":3877,"avel":3878,"(:":3879,"Ġneeds":3880,"Ġknown":3881,"Fl":3882,"Ġexec":3883,"Ġseen":3884,"ume":3885,"Ġborder":3886,"Ġlive":3887,"temp":3888,"Per":3889,"Ġvariable":3890,"iet":3891,"ĠDef":3892,"Ġge":3893,"eme":3894,"_back":3895,"first":3896,"Ġprovided":3897,"////////////////////////////////":3898,"Ġfilename":3899,"Ġhope":3900,"uly":3901,"auto":3902,"find":3903,"_string":3904,"btn":3905,"itude":3906,"Attribute":3907,"Ġyoung":3908,".txt":3909,"Ġwebsite":3910,"ĠProp":3911,"Ġey":3912,">();Ċ":3913,"ional":3914,"ARR":3915,"ictionary":3916,"urther":3917,".":3997,"tx":3998,"Ġpur":3999,"uel":4000,"ymbol":4001,"uation":4002,"anger":4003,"Ġbackground":4004,"ecess":4005,"efined":4006,"........":4007,"Ġdescription":4008,"Ġrepresent":4009,"\"));Ċ":4010,"pression":4011,"rowser":4012,"Ġseries":4013,"wards":4014,"($_":4015,"aise":4016,"Ġhot":4017,"acity":4018,"ries":4019,"actions":4020,"Create":4021,"adio":4022,"amples":4023,"Ġoriginal":4024,"ensive":4025,"font":4026,"stream":4027,"using":4028,".springframework":4029,"server":4030,"Ġbill":4031,"ACK":4032,"ilename":4033,"Ġframe":4034,"Ġ=Ċ":4035,"Edit":4036,"adius":4037,"Ġdraw":4038,"anks":4039,"Ġdeter":4040,"Ġcomes":4041,"_int":4042,"Ġforeach":4043,"angle":4044,"Ġelect":4045,"pected":4046,"Header":4047,"istration":4048,"False":4049,"ĠGame":4050,"Ġfilter":4051,"Activity":4052,"Ġlarg":4053,"inition":4054,"Ġ\"<":4055,"ised":4056,"Ġremove":4057,"ĠTrans":4058,"met":4059,"see":4060,"Format":4061,"Command":4062,"ĠEX":4063,"None":4064,"Ġfront":4065,"ASE":4066,"ĠRec":4067,"oundation":4068,"Ġvo":4069,"=\\\"":4070,"(*":4071,"Change":4072,".Write":4073,"group":4074,"ients":4075,"uy":4076,"****************************************************************":4077,"Ġdig":4078,"hr":4079,"(-":4080,"Ġgen":4081,"number":4082,"vec":4083,"urope":4084,"entry":4085,"LL":4086,"Ġste":4087,"Valid":4088,"'],":4089,"_param":4090,"Ġselected":4091,"Ġaccording":4092,"ĠDis":4093,"Ġutil":4094,"Buffer":4095,"_error":4096,"Ġassoci":4097,"_SIZE":4098,"Ġwor":4099,"Ġprintf":4100,"rag":4101,"Âł":4102,"DD":4103,"ĠVal":4104,"Ġactiv":4105,"Eng":4106,"etime":4107,"Ġvirtual":4108,"aign":4109,"aur":4110,"ĠPres":4111,"ĠException":4112,"Ġanything":4113,"ĠOff":4114,"Ġhours":4115,"Ġwar":4116,"Args":4117,"aging":4118,"Ġmodels":4119,"ĠTime":4120,"Ob":4121,"ams":4122,"joy":4123,"Ġearly":4124,".read":4125,"Ġcenter":4126,"ĠInitial":4127,"Ġlanguage":4128,"length":4129,"xy":4130,"Ġsn":4131,"Ġinf":4132,"Post":4133,"Ġago":4134,"Ġeasy":4135,"_code":4136,"ĠANY":4137,"_ch":4138,"Ġdownload":4139,"(T":4140,"aved":4141,"âĢĵ":4142,"Ġstudents":4143,"Ġfig":4144,"light":4145,"xx":4146,"Ġbuffer":4147,"ĠDep":4148,"ĠMath":4149,"ITH":4150,"Ġvari":4151,"Ġdue":4152,"Factory":4153,"Ġpor":4154,"Ġep":4155,"otype":4156,"Ġcannot":4157,"Ġwhite":4158,"čĊ":4424,".annot":4425,"Ġcollection":4426,"'.":4427,"Ġsimilar":4428,"Ġtaken":4429,"(\"%":4430,"Order":4431,"']Ċ":4432,"-md":4433,"ĠTH":4434,"aced":4435,"Ġisn":4436,"/j":4437,"Ġson":4438,"graph":4439,"ĠInteger":4440,"Ġnecess":4441,"reen":4442,"Ġum":4443,"Ġ\\<":4444,"Ġmoment":4445,"Ġbring":4446,"Ġindic":4447,"ysis":4448,"Level":4449,"verse":4450,"urrenc":4451,"_test":4452,"Ġentire":4453,"Down":4454,"Ġ}ĊĊĊ":4455,"(result":4456,"ĠRead":4457,"è":4458,"Mod":4459,"Ġtrying":4460,"\"),Ċ":4461,"Ġmember":4462,"ĠCor":4463,"ODO":4464,"-control":4465,"untime":4466,"ĠSim":4467,"Dialog":4468,"plot":4469,"_on":4470,"Ġphys":4471,"}/":4472,"Ġnamespace":4473,"ĉčĊ":4474,"acc":4475,"Player":4476,"ARE":4477,"Ġfoot":4478,"Ġboard":4479,"part":4480,"Ġsus":4481,"wise":4482,"ĠMc":4483,"Ġpush":4484,"ATA":4485,"Ġplease":4486,"ried":4487,"weet":4488,"bit":4489,"ided":4490,"VE":4491,"ĠSw":4492,"UB":4493,"Ġtypes":4494,"edia":4495,"Ġclos":4496,"acebook":4497,"When":4498,"Ġedit":4499,"igger":4500,"Ġenerg":4501,"Container":4502,"Ġphot":4503,"ĠCount":4504,"ĠEurope":4505,".Is":4506,"ĠRuss":4507,"peed":4508,"ĠStr":4509,"Ġpy":4510,"Ġcult":4511,"Ġdefined":4512,"ccount":4513,"Ġobt":4514,".Location":4515,"Ġthread":4516,"ille":4517,"Ġinstead":4518,"strong":4519,"ĠSec":4520,"URE":4521,"Ġidea":4522,".se":4523,"emy":4524,"selected":4525,"Connection":4526,"acing":4527,"thread":4528,".next":4529,"Ġcoll":4530,"Ġfilm":4531,"istic":4532,"Ġcompet":4533,"Ġconn":4534,"though":4535,"Ġcompan":4536,"ocket":4537,"Ġteach":4538,"=(":4539,"Ġphone":4540,"Ġactive":4541,"delete":4542,"tries":4543,"Ġmo":4544,"Ġdeath":4545,"});ĊĊ":4546,"ocol":4547,"Widget":4548,"Ġarticle":4549,"rodu":4550,"andid":4551,"Ñĭ":4552,"ĠCr":4553,"ka":4554,"():":4555,"lood":4556,"ĉĉĉĊ":4557,"Ġalmost":4558,"Ġsell":4559,"ervlet":4560,"rip":4561,"Unit":4562,"Ġapplic":4563,"Ġconnect":4564,"Ġfeature":4565,"Ġvia":4566,"'),":4567,"Ġlim":4568,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":4569,"ĠGu":4570,"Engine":4571,"Ġens":4572,"Ġenvironment":4573,"block":4574,"HERE":4575,"NULL":4576,"gy":4577,"tag":4578,")).":4579,"exp":4580,"Ġcompl":4581,"Ġinstall":4582,"Ġcomplete":4583,"queue":4584,"atural":4585,"Ġgeneral":4586,"thon":4587,"Ġasked":4588,"ores":4589,"(res":4590,"Ġreserved":4591,"SP":4592,"Ġâ̦":4593,"ÅĤ":4594,"Ġsignific":4595,"Off":4596,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":4597,"ĠAg":4598,"ĠJust":4599,"ĠError":4600,"Ġinfl":4601,"adata":4602,"Ġicon":4603,"asks":4604,"''":4605,"_LO":4606,"?.":4607,"account":4608,"Ġ(*":4609,"')ĊĊ":4610,"rap":4611,"_var":4612,"ĠFOR":4613,"Ġparty":4614,"ĠYour":4615,"cat":4616,"stry":4617,".new":4618,"boot":4619,"ĠNov":4620,"Ġvector":4621,"Ġnormal":4622,"Ġfurther":4623,"Repository":4624,"Ġdatabase":4625,"attle":4626,"Ġmusic":4627,"Ġspeed":4628,"Ġdoc":4629,"process":4630,"IGHT":4631,".parse":4632,"Ġtaking":4633,"Ġviol":4634,"ceed":4635,"ĠAfter":4636,"Ġforward":4637,"Ġcrit":4638,"\"/>Ċ":4639,"rot":4640,"Ġfailed":4641,"efore":4642,"Ġconcern":4643,"oe":4644,"ba":4645,"Ġsender":4646,"Ġterm":4647,"has":4648,"=\"#":4649,"Ġpotential":4650,"Num":4651,"Ġpublished":4652,".close":4653,"ĠImage":4654,"straint":4655,"UD":4656,"ĠOb":4657,"Ġprobably":4658,"lim":4659,"\":Ċ":4660,"olume":4661,"Ġconsum":4662,"ague":4663,"ensions":4664,"Ġinvestig":4665,"-year":4666,"');":4667,"-sm":4668,"Ġenjoy":4669,"orig":4670,"ering":4671,"cp":4672,"leased":4673,"plements":4674,"Ġreturns":4675,"pat":4676,"BO":4677,"ĠHouse":4678,".Label":4679,"Ġweight":4680,"ighb":4681,"Ġconditions":4682,"Ġexception":4683,"description":4684,"Ġtrad":4685,"-to":4686,"Ġ{}":4687,"Ġmodule":4688,"END":4689,".ap":4690,".props":4691,"Ġconstructor":4692,"aves":4693,"Ġfavor":4694,"ĠNow":4695,";i":4696,"ĠMain":4697,"_k":4698,"eries":4699,"âĢĻll":4700,"transform":4701,"imestamp":4702,"Pre":4703,"Ġmer":4704,".res":4705,"stant":4706,"Location":4707,"_NAME":4708,"Ġloss":4709,"ĠĊĊ":4710,"net":4711,"Ġengine":4712,"Block":4713,"Ġissues":4714,"Ġparse":4715,"ĠBar":4716,"Ġstay":4717,"ĠJSON":4718,"Ġdom":4719,"airs":4720,"wner":4721,"Ġlower":4722,"\",čĊ":4723,"ĠDem":4724,"ufact":4725,"Ġps":4726,"Ġperfect":4727,"RL":4728,"Ġeduc":4729,"ls":4730,"emory":4731,"ARRANT":4732,"uge":4733,"Ġexact":4734,".key":4735,"alled":4736,"ech":4737,"ief":4738,"\\/":4739,"oke":4740,"Ġformer":4741,"alloc":4742,"Ġsix":4743,"ida":4744,"Ġmargin":4745,"Ġheart":4746,"ald":4747,"pack":4748,".getElementById":4749,"ĠWARRANT":4750,"Ġrather":4751,"Ġbuilding":4752,"erman":4753,"lice":4754,"Ġquestions":4755,"izes":4756,"lege":4757,"irectory":4758,"Ġje":4759,"Ġcas":4760,"props":4761,"utf":4762,"Ġsecurity":4763,"Ġhowever":4764,"weight":4765,"Ġinside":4766,"Ġpresident":4767,"Char":4768,"ĠWITH":4769,".map":4770,"Ġgraph":4771,"Ġtag":4772,"_status":4773,"Ġattempt":4774,"opp":4775,"uses":4776,"ĉconst":4777,"Ġround":4778,",$":4779,"Ġfriends":4780,"Email":4781,"?>":4782,"Resource":4783,"KEY":4784,"osp":4785,".query":4786,"ĠNorth":4787,"ables":4788,"istrib":4789,"_class":4790,"ello":4791,"That":4792,"к":4793,"pecially":4794,"ĠPresident":4795,"Ġcampaign":4796,"Ġalt":4797,"area":4798,"Ġchall":4799,"Ġopport":4800,".Con":4801,"Ġenergy":4802,"like":4803,".string":4804,"ington":4805,")*":4806,"yy":4807,"Ġprofession":4808,"irth":4809,"Ġseg":4810,"æľ":4811,"Ġhor":4812,"iers":4813,"can":4814,"Ġbehind":4815,"Product":4816,"fg":4817,"ĠSk":4818,".jpg":4819,"?:":4820,"];ĊĊ":4821,"Ġcallback":4822,"ĠHttp":4823,"ÑĮ":4824,"long":4825,"MS":4826,"ATH":4827,"Ġraise":4828,"Ġwanted":4829,"rown":4830,"utor":4831,"lt":4832,"]=":4833,"eline":4834,"MA":4835,"Ġsepar":4836,"cs":4837,"semb":4838,"Dis":4839,"bserv":4840,"ĠWill":4841,"Ġpolicy":4842,"Ġthird":4843,"phone":4844,"Ġbed":4845,"/g":4846,".__":4847,"ĠInc":4848,"izing":4849,".remove":4850,"instance":4851,".type":4852,"Ġserv":4853,"Each":4854,"Ġhar":4855,"ĠMessage":4856,"(key":4857,"SELECT":4858,"Pos":4859,"));čĊ":4860,"Ġrecomm":4861,"Ġtraining":4862,"ĠEnt":4863,"ĠChar":4864,"icht":4865,"(file":4866,"Ġprior":4867,"Game":4868,"Ġexit":4869,"Params":4870,".core":4871,"PC":4872,"nes":4873,"anced":4874,"(request":4875,"Password":4876,"}>Ċ":4877,"Ġmag":4878,"Ġrelease":4879,"Ġshall":4880,"udent":4881,"ĠSouth":4882,"ando":4883,":'":4884,".TabIndex":4885,"sk":4886,"anner":4887,"isset":4888,"Ġoutside":4889,"ledge":4890,"Ġå":4891,"ĠRob":4892,"Ġimm":4893,"!Ċ":4894,"ĠWeb":4895,"Des":4896,"BC":4897,"ancial":4898,"Route":4899,"Dec":4900,"ferences":4901,"Ġpurch":4902,"ĠModel":4903,"ctor":4904,"gn":4905,"_start":4906,"_un":4907,".*":4908,"ises":4909,"Ġground":4910,"Ġunique":4911,"Ġbeaut":4912,"{\"":4913,"Ġpour":4914,"ĠOct":4915,"Ġtree":4916,"sets":4917,"_res":4918,"')->":4919,"_reg":4920,"(\"\\":4921,"Ġbyte":4922,"Bl":4923,"Ġdating":4924,"Ġmatter":4925,"ĠRem":4926,"Ġ'../":4927,"ĠAug":4928,"ĠLa":4929,"Ġ$(":4930,"ournal":4931,"iam":4932,"Ġshows":4933,"write":4934,"Ġball":4935,"Ġsimply":4936,"Ġfast":4937,"Ġmemory":4938,"ASS":4939,"ĠOf":4940,"oved":4941,"ante":4942,"aul":4943,"istry":4944,")));Ċ":4945,"Ġfit":4946,"_":5129,"\")ĊĊ":5130,"ox":5131,"application":5132,"Ġ]Ċ":5133,"ĊĊĊĊĊĊ":5134,"Ġsoon":5135,"ctions":5136,"inger":5137,"Ġjoin":5138,"ĠPe":5139,"Ġë":5140,"Ġlas":5141,".E":5142,"css":5143,"/or":5144,"ĠStart":5145,"ĠTO":5146,"Ġsubs":5147,"conn":5148,"components":5149,"DEBUG":5150,"quare":5151,"Function":5152,"endar":5153,".index":5154,"Ġfill":5155,"ÄĻ":5156,"Ġchoose":5157,"how":5158,"ĠAmerica":5159,"assets":5160,"------------":5161,"ĠValue":5162,"Ġoffice":5163,"Ġveh":5164,"Ġtransform":5165,"ĠArt":5166,"Ġinde":5167,"Ġfn":5168,"Ġimplements":5169,"ango":5170,"plete":5171,"+\"":5172,"tmp":5173,"amily":5174,"Ġhash":5175,"missions":5176,"EST":5177,"gt":5178,"Provider":5179,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":5180,"Ġflag":5181,"Ġparticip":5182,"den":5183,"ĠReturns":5184,"Ġnote":5185,"ür":5186,"pm":5187,"ideos":5188,"Ġspecified":5189,"ĠEN":5190,"ester":5191,"olid":5192,"Ġupon":5193,"(std":5194,"ĉv":5195,"Ġ'\\":5196,"uz":5197,"Ġvert":5198,"Ġvict":5199,"ĉself":5200,"Ġ\"$":5201,".k":5202,"Ġgroups":5203,"github":5204,"lang":5205,"Ġmut":5206,"TO":5207,"Ġve":5208,"ĠPlease":5209,";ĊĊĊ":5210,"access":5211,"Ġ{\"":5212,"rea":5213,"Ġrisk":5214,"icker":5215,"oggle":5216,"ĉwhile":5217,"ANG":5218,".send":5219,"Ġwoman":5220,"Ġgets":5221,"Ġign":5222,"ĠId":5223,"_log":5224,"ONE":5225,"Ġevid":5226,"ĠHar":5227,"_sub":5228,"Ġendl":5229,"Ġincluded":5230,"());ĊĊ":5231,"ĠAp":5232,"igr":5233,"Ġsem":5234,"ĠBlack":5235,"doc":5236,"_table":5237,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":5238,"-up":5239,"Ġcause":5240,"Ġ..":5241,"Ġvan":5242,"_dict":5243,"Ġfocus":5244,"IND":5245,"CESS":5246,".Log":5247,"Ġmultiple":5248,"ido":5249,"Ġregard":5250,"-M":5251,"andler":5252,"ourse":5253,"Ġdeg":5254,".U":5255,"Ġaddition":5256,"Ġvarious":5257,"Ġreceive":5258,"ен":5259,"ĠHT":5260,"Obj":5261,"DF":5262,"Ġincrease":5263,"ĠOpen":5264,"];":5265,"Ġcommit":5266,"?Ċ":5267,"ategories":5268,"atory":5269,"ship":5270,"ĠMich":5271,"Ġhtml":5272,"romise":5273,"Ġleave":5274,"Ġstrateg":5275,"aven":5276,"ĠConsole":5277,"known":5278,"-n":5279,"_LE":5280,".component":5281,"Ġbre":5282,"Session":5283,"iance":5284,"Ġalign":5285,"typedef":5286,"_result":5287,"ĠWHERE":5288,".split":5289,"Ġreading":5290,"FAULT":5291,"Ġclo":5292,"Ġnotice":5293,"_pr":5294,"arter":5295,"Ġlock":5296,"Ġstandard":5297,"etic":5298,"ellow":5299,"Ġpadding":5300,"ĠHis":5301,"Ġstates":5302,"_cast":5303,"(P":5304,"aa":5305,"Ġinternal":5306,"ean":5307,"ĠPRO":5308,"ĠKey":5309,"Ġespecially":5310,"ming":5311,"Ġcross":5312,"Ġnational":5313,"_object":5314,"filter":5315,"Ġscript":5316,".update":5317,"_i":5318,"ĠAssert":5319,"/core":5320,"%%%%":5321,"Ġproblems":5322,"istor":5323,"Ġ.=":5324,"Ġarch":5325,"Ġwritten":5326,"Ġmilit":5327,"MENT":5328,".ch":5329,"cape":5330,"ĠMus":5331,"_config":5332,"ĠAPI":5333,"foot":5334,"Ġimages":5335,"endl":5336,".In":5337,"First":5338,"Ġplatform":5339,".prot":5340,"Option":5341,"ste":5342,"ĠTODO":5343,"Ġforce":5344,".cont":5345,"ĉecho":5346,"ĠDav":5347,"Ptr":5348,"(B":5349,"RT":5350,"ĠBase":5351,"]['":5352,"Ġannounc":5353,"console":5354,"ĠPy":5355,"ds":5356,".as":5357,"Ġprevent":5358,"apan":5359,"Ġ{'":5360,"}'":5592,"Ġdead":5593,"VAL":5594,"QUE":5595,"************************************************************************":5596,"Ġcharg":5597,"Return":5598,"Ġful":5599,"dom":5600,"Ġrules":5601,"Ġmodify":5602,"Ġeval":5603,"ham":5604,"atement":5605,"\\<":5606,"ula":5607,"=False":5608,"RA":5609,"Ġcontains":5610,"Ġstack":5611,"mar":5612,"Ġ{}Ċ":5613,"Ġundefined":5614,"Ass":5615,"ĠChina":5616,"vey":5617,"*Ċ":5618,"Ġplaying":5619,")/":5620,"actor":5621,"Ġbottom":5622,"lier":5623,"ĠNumber":5624,"Ġcouple":5625,"DC":5626,"ĠSO":5627,"gor":5628,".setText":5629,"success":5630,"command":5631,"Filter":5632,"ĠOur":5633,"_item":5634,"Ġctx":5635,"Ġroad":5636,"Version":5637,"case":5638,"urt":5639,"avior":5640,"ych":5641,"sembly":5642,"ĠProduct":5643,"Ġheld":5644,"afe":5645,"Ġincludes":5646,"&":5789,"CON":5790,"Ġrepl":5791,"Ġregular":5792,"Storage":5793,"ramework":5794,"Ġgoal":5795,"Ġtouch":5796,".widget":5797,"Ġbuilt":5798,"des":5799,"Part":5800,"(re":5801,"Ġworth":5802,"hib":5803,"game":5804,"Ġв":5805,"acion":5806,"ĠWhite":5807,"(type":5808,"(`":5809,"Ġnatural":5810,"Ġinj":5811,"Ġcalcul":5812,"ĠApril":5813,".List":5814,"Ġassociated":5815,"ĉSystem":5816,"~~":5817,"=[":5818,"Ġstorage":5819,"Ġbytes":5820,"Ġtravel":5821,"Ġsou":5822,"Ġpassed":5823,"!=":5824,"ascript":5825,".open":5826,"Ġgrid":5827,"Ġbus":5828,"Ġrecogn":5829,"Ab":5830,"Ġhon":5831,"ĠCenter":5832,"Ġprec":5833,"build":5834,"HTML":5835,"ĠSan":5836,"Ġcountries":5837,"aled":5838,"token":5839,"kt":5840,"Ġqual":5841,"Last":5842,"adow":5843,"Ġmanufact":5844,"idad":5845,"jango":5846,"Next":5847,"xf":5848,".a":5849,"Ġporno":5850,"ĠPM":5851,"erve":5852,"iting":5853,"_th":5854,"ci":5855,"=None":5856,"gs":5857,"Ġlogin":5858,"atives":5859,"']);Ċ":5860,"Äħ":5861,"Ġill":5862,"IA":5863,"children":5864,"DO":5865,"Ġlevels":5866,"Ġ{{":5867,"Ġlooks":5868,"Ġ\"#":5869,"ToString":5870,"Ġnecessary":5871,"ĠĠĠĊ":5872,"cell":5873,"Entry":5874,"Ġ'#":5875,"Ġextrem":5876,"Selector":5877,"Ġplaceholder":5878,"Load":5879,"Ġreleased":5880,"ORE":5881,"Enumer":5882,"ĠTV":5883,"SET":5884,"inq":5885,"Press":5886,"ĠDepartment":5887,"Ġproperties":5888,"Ġrespond":5889,"Search":5890,"ael":5891,"Ġrequ":5892,"ĠBook":5893,"/Ċ":5894,"(st":5895,"Ġfinancial":5896,"icket":5897,"_input":5898,"Ġthreat":5899,"(in":5900,"Strip":5901,"ìĿ":5902,"ção":5903,"Ġevidence":5904,"));":5905,"ĠBro":5906,"Ġ[];Ċ":5907,"Ġou":5908,"buf":5909,"Script":5910,"dat":5911,"Ġrule":5912,"#import":5913,"=\"/":5914,"Serial":5915,"Ġstarting":5916,"[index":5917,"ae":5918,"Ġcontrib":5919,"session":5920,"_new":5921,"utable":5922,"ober":5923,"Ġ\"./":5924,"Ġlogger":5925,"Ġrecently":5926,"Ġreturned":5927,"ččĊ":5928,")))Ċ":5929,"itions":5930,"Ġseek":5931,"Ġcommunic":5932,"Ġ\".":5933,"Ġusername":5934,"ECT":5935,"DS":5936,"Ġotherwise":5937,"ĠGerman":5938,".aw":5939,"Adapter":5940,"ixel":5941,"Ġsystems":5942,"Ġdrop":5943,"Ġstructure":5944,"Ġ$(\"#":5945,"encies":5946,"anning":5947,"ĠLink":5948,"ĠResponse":5949,"Ġstri":5950,"ż":5951,"ĠDB":5952,"æĹ":5953,"android":5954,"submit":5955,"otion":5956,"(@":5957,".test":5958,"ĊĊĊĊĊĊĊĊ":5959,"];čĊ":5960,"Ġdirectly":5961,"Ġ\"%":5962,"ris":5963,"elta":5964,"AIL":5965,"){čĊ":5966,"mine":5967,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":5968,"(k":5969,"bon":5970,"asic":5971,"pite":5972,"___":5973,"Max":5974,"Ġerrors":5975,"ĠWhile":5976,"Ġarguments":5977,"Ġensure":5978,"Right":5979,"-based":5980,"Web":5981,"Ġ-=":5982,"Ġintrodu":5983,"ĠInst":5984,"ĠWash":5985,"ordin":5986,"join":5987,"Database":5988,"Ġgrad":5989,"Ġusually":5990,"ITE":5991,"Props":5992,"?>Ċ":5993,"ĠGo":5994,"@Override":5995,"REF":5996,"Ġip":5997,"ĠAustral":5998,"Ġist":5999,"ViewById":6000,"Ġserious":6001,"Ġcustomer":6002,".prototype":6003,"odo":6004,"cor":6005,"Ġdoor":6006,"ĠWITHOUT":6007,"Ġplant":6008,"Ġbegan":6009,"Ġdistance":6010,"()).":6011,"Ġchance":6012,"Ġord":6013,"came":6014,"pragma":6015,"Ġprotect":6016,"ragment":6017,"ĠNode":6018,"ening":6019,"Ñĩ":6020,"Ġroute":6021,"ĠSchool":6022,"hi":6023,"Ġneighb":6024,"After":6025,"licit":6026,"Ġcontr":6027,"Ġprimary":6028,"AA":6029,".WriteLine":6030,"utils":6031,"Ġbi":6032,"Red":6033,".Linq":6034,".object":6035,"Ġleaders":6036,"unities":6037,"Ġgun":6038,"onth":6039,"ĠDev":6040,"FILE":6041,"Ġcomments":6042,"_len":6043,"arrow":6044,"amount":6045,"Range":6046,"sert":6047,"GridView":6048,"Ġupdated":6049,"ĠMo":6050,"Ġinform":6051,"ociety":6052,"ala":6053,"Access":6054,"Ġhab":6055,"Ġcreat":6056,"_arg":6057,"ĠJanuary":6058,"ĠDay":6059,"\")čĊ":6060,"uple":6061,"document":6062,"gorith":6063,"menu":6064,"ĠOver":6065,"bb":6066,".title":6067,"_out":6068,"Ġled":6069,"uri":6070,"Ġ?>Ċ":6107,"run":6108,"Ġscene":6109,"(array":6110,"device":6111,"_title":6112,"agon":6113,"]čĊ":6114,"aby":6115,"Ġbecame":6116,"boolean":6117,"Ġpark":6118,"ĠCode":6119,"upload":6120,"riday":6121,"ĠSeptember":6122,"Fe":6123,"Ġsen":6124,"cing":6125,"FL":6126,"Col":6127,"uts":6128,"_page":6129,"inn":6130,"Ġimplied":6131,"aling":6132,"Ġyourself":6133,".Count":6134,"conf":6135,"Ġaud":6136,"_init":6137,".)":6138,"Ġwrote":6139,"NG":6140,".Error":6141,"ä»":6142,".for":6143,"Ġequal":6144,"ĠRequest":6145,"Ġserial":6146,"Ġallows":6147,"XX":6148,"Ġmiddle":6149,"chor":6150,"ø":6151,"erval":6152,".Column":6153,"reading":6154,"Ġescort":6155,"ĠAugust":6156,"Ġquickly":6157,"Ġweap":6158,"ĠCG":6159,"ropri":6160,"ho":6161,"Ġcop":6162,"(struct":6163,"ĠBig":6164,"Ġvs":6165,"Ġfrequ":6166,".Value":6167,"Ġactions":6168,"Ġproper":6169,"Ġinn":6170,"Ġobjects":6171,"Ġmatrix":6172,"avascript":6173,"Ġones":6174,".group":6175,"Ġgreen":6176,"Ġpaint":6177,"ools":6178,"ycl":6179,"encode":6180,"olt":6181,"comment":6182,".api":6183,"Dir":6184,"Ġune":6185,"izont":6186,".position":6187,"Ġdesigned":6188,"_val":6189,"avi":6190,"iring":6191,"tab":6192,"Ġlayer":6193,"Ġviews":6194,"Ġreve":6195,"rael":6196,"ĠON":6197,"rics":6198,"np":6199,"Ġcore":6200,"());čĊ":6201,"Main":6202,"Ġexpert":6203,"ĉĉčĊ":6204,"_en":6205,"Ġ/>":6206,"utter":6207,"IAL":6208,"ails":6209,"ĠKing":6210,"*/ĊĊ":6211,"ĠMet":6212,"_end":6213,"addr":6214,"ora":6215,"Ġir":6216,"Min":6217,"Ġsurpr":6218,"Ġrepe":6219,"Ġdirectory":6220,"PUT":6221,"-S":6222,"Ġelection":6223,"haps":6224,".pre":6225,"cm":6226,"Values":6227,"Ġ\"Ċ":6228,"column":6229,"ivil":6230,"Login":6231,"inue":6232,"Ġbeautiful":6233,"Ġsecret":6234,"(event":6235,"Ġchat":6236,"ums":6237,"Ġorigin":6238,"Ġeffects":6239,"Ġmanagement":6240,"illa":6241,"tk":6242,"Ġsetting":6243,"ĠCour":6244,"Ġmassage":6245,"ĉend":6246,"Ġhappy":6247,"Ġfinish":6248,"Ġcamera":6249,"ĠVer":6250,"ĠDemocr":6251,"ĠHer":6252,"(Q":6253,"cons":6254,"ita":6255,"Ġ'.":6256,"{}":6257,"ĉC":6258,"Ġstuff":6259,"Ġ:Ċ":6260,"ĠAR":6261,"Task":6262,"hidden":6263,"eros":6264,"IGN":6265,"atio":6266,"ĠHealth":6267,"olute":6268,"Enter":6269,"'>":6270,"ĠTwitter":6271,"ĠCounty":6272,"scribe":6273,"Ġ=>Ċ":6274,"Ġhy":6275,"fit":6276,"Ġmilitary":6277,"Ġsale":6278,"required":6279,"non":6280,"bootstrap":6281,"hold":6282,"rim":6283,"-old":6284,"ĠDown":6285,"Ġmention":6286,"contact":6287,"_group":6288,"oday":6289,"Ġtown":6290,"Ġsolution":6291,"uate":6292,"elling":6293,"]->":6294,"otes":6295,"ental":6296,"omen":6297,"ospital":6298,"ĠSup":6299,"_EN":6300,"Ġslow":6301,"SESSION":6302,"Ġblue":6303,"ago":6304,"Ġlives":6305,"Ġ^":6306,".un":6307,"inst":6308,"enge":6309,"Ġcustomers":6310,"Ġcast":6311,"udget":6312,"ï¼ģ":6313,"icens":6314,"Ġdetermin":6315,"Selected":6316,"_pl":6317,"ueue":6318,"Ġdark":6319,"//ĊĊ":6320,"si":6321,"thern":6322,"ĠJapan":6323,"/w":6324,"PU":6325,"ĠEast":6326,"ovie":6327,"Ġpackage":6328,"Ġnor":6329,"Ġapi":6330,"bot":6331,"\"];Ċ":6332,"_post":6333,"ulate":6334,"Ġclub":6335,"'));Ċ":6336,"Ġloop":6337,"PIO":6338,"ione":6339,"shot":6340,"Initial":6341,"Ġplayed":6342,"register":6343,"rought":6344,"_max":6345,"acement":6346,"match":6347,"raphics":6348,"AST":6349,"Ġexisting":6350,"Ġcomplex":6351,"DA":6352,".Ch":6353,".common":6354,"mo":6355,"Ġ'../../":6356,"ito":6357,"Ġanalysis":6358,"Ġdeliver":6359,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":6360,"idx":6361,"Ãł":6362,"ongo":6363,"ĠEnglish":6364,"Ċ":9992,"_default":9993,"ĠDatabase":9994,"rep":9995,"ESS":9996,"nergy":9997,".Find":9998,"_mask":9999,"Ġrise":10000,"Ġkernel":10001,"::$":10002,".Q":10003,"Ġoffering":10004,"decl":10005,"ĠCS":10006,"Ġlisted":10007,"Ġmostly":10008,"enger":10009,"Ġblocks":10010,"olo":10011,"Ġgoverning":10012,"\\F":10013,"Ġconcent":10014,".getText":10015,"Ġmb":10016,"Ġoccurred":10017,"Ġchanging":10018,"Scene":10019,"_CODE":10020,"Beh":10021,"\"The":10022,"Ġtile":10023,"ĠAssociation":10024,"ĉP":10025,"alty":10026,"_ad":10027,"odies":10028,"iated":10029,"Ġprepared":10030,"possible":10031,"Ġmort":10032,"TEST":10033,"Ġignore":10034,"Ġcalc":10035,"Ġrs":10036,"ĠassertEquals":10037,"Ġsz":10038,"ĠTHIS":10039,".\"Ċ":10040,"Ġcanvas":10041,"java":10042,"Ġdut":10043,"VALID":10044,".sql":10045,".input":10046,"Ġaux":10047,"Sup":10048,"Ġartist":10049,"Vec":10050,"_TIME":10051,".stringify":10052,"etween":10053,"ĠCategory":10054,"Ġ[-":10055,"ĠDevExpress":10056,"ĠJul":10057,"Ġring":10058,".ed":10059,"YY":10060,"Let":10061,"TextField":10062,"Ġflat":10063,"_print":10064,"ĠOTHER":10065,"adian":10066,"Ġchecked":10067,"ele":10068,"Align":10069,"standing":10070,"Ġ[],":10071,"Ġlab":10072,"ucky":10073,"ĠChristmas":10074,"(image":10075,".module":10076,"Ġlots":10077,"Ġslightly":10078,"(final":10079,"erge":10080,"è¿":10081,"ĠPolice":10082,"ĠRight":10083,"Ġaward":10084,"ĠOS":10085,"Ġ{}ĊĊ":10086,"Ġptr":10087,"oves":10088,"icated":10089,"ем":10090,"Ġmanage":10091,"oliday":10092,"Amount":10093,"oolStrip":10094,"tbody":10095,"Nav":10096,"wrap":10097,"BB":10098,"Ġwatching":10099,"arios":10100,"Ġoptional":10101,"_K":10102,"ĠLicensed":10103,".Map":10104,"Timer":10105,"ĠAP":10106,"ĠRev":10107,"(o":10108,",c":10109,"umin":10110,"etailed":10111,"ĠHy":10112,"Ġblank":10113,"agger":10114,"ĠSelf":10115,"()[":10116,".make":10117,"earn":10118,"channel":10119,";Ċ":10133,"World":10134,"Ġpython":10135,"Ġlif":10136,"Ġtrav":10137,"Ġconven":10138,"company":10139,"ĠClub":10140,"Ver":10141,"Btn":10142,"Ġzone":10143,"products":10144,"ĠEduc":10145,"Ġverify":10146,"ĠMil":10147,"ono":10148,"]);ĊĊ":10149,"ENCE":10150,"Ġpacket":10151,"Ġcer":10152,"Ġenumer":10153,"Ġpars":10154,"formed":10155,"Ġoccup":10156,"tre":10157,"Ġexercise":10158,"Day":10159,"_sum":10160,"Ġasking":10161,"aption":10162,"Ġorders":10163,"Ġspending":10164,"ĠERR":10165,".Dis":10166,"ĠUtil":10167,"âĢľI":10168,"\\'":10169,"?)":10170,"/>Ċ":10171,"Ġemot":10172,"Ġinfluence":10173,"ĠAfrica":10174,"atters":10175,"Ùħ":10176,".session":10177,"Ġchief":10178,"ĉĉĉĉĉĉĉĉĉĉĉ":10179,"Ġtom":10180,"cluded":10181,"serial":10182,"_handler":10183,".Type":10184,"aped":10185,"Ġpolicies":10186,"-ex":10187,"-tr":10188,"blank":10189,"merce":10190,"Ġcoverage":10191,"Ġrc":10192,"_matrix":10193,"_box":10194,"Ġcharges":10195,"ĠBoston":10196,"Pe":10197,"Ġcircum":10198,"Ġfilled":10199,"Ġnorth":10200,"ictureBox":10201,"ĉres":10202,"è®":10203,"Ġtermin":10204,"Ġ[â̦":10205,"IRECT":10206,"Ġber":10207,"Ġ\"../../":10208,"retch":10209,".code":10210,"_col":10211,"ĠGovernment":10212,"Ġargv":10213,"ĠLord":10214,"asi":10215,"Exec":10216,"ĉlet":10217,"vertis":10218,"Ġdiscussion":10219,"enance":10220,"outube":10221,"typeof":10222,"Ġserved":10223,"ĠPut":10224,"ĉx":10225,"Ġsweet":10226,"Before":10227,"ategy":10228,".of":10229,"ĠMaterial":10230,"Sort":10231,"ONT":10232,"igital":10233,"Why":10234,"Ġsust":10235,"Ġç":10236,"abet":10237,"Ġsegment":10238,"Ġ[],Ċ":10239,"ĠMuslim":10240,"ĠfindViewById":10241,"cut":10242,"_TEXT":10243,"ĠMary":10244,"Ġloved":10245,"Ġlie":10246,"ĠJO":10247,"Ġisset":10248,"month":10249,"Ġprime":10250,"ti":10251,"ĠCarol":10252,"Use":10253,"ĠPop":10254,"ĠSave":10255,"Interval":10256,"execute":10257,"dy":10258,"ĠIran":10259,"_cont":10260,"ĉT":10261,"Ġphase":10262,"checkbox":10263,"week":10264,"Ġhide":10265,"Ġtil":10266,"Ġju":10267,"Custom":10268,"burg":10269,"/M":10270,"TON":10271,"Ġquant":10272,"Ġrub":10273,"ixels":10274,"Ġinstalled":10275,"Ġdump":10276,"Ġproperly":10277,"(List":10278,"Ġdecide":10279,"apply":10280,"Has":10281,"Ġkeeping":10282,"Ġcitizens":10283,"Ġjoint":10284,"pool":10285,"Socket":10286,"_op":10287,"Ġweapon":10288,"gnore":10289,"ĠExec":10290,"otten":10291,"ĠMS":10292,"Ġ(-":10293,"ĠReview":10294,"Ġexamples":10295,"Ġtight":10296,"!(":10297,"DP":10298,"ĠMessageBox":10299,"Ġphotograph":10300,"URI":10301,"ét":10302,"low":10303,"ĠGrand":10304,".persistence":10305,"Ġmaintain":10306,"Ġnums":10307,"Ġzip":10308,"ials":10309,"ĠGets":10310,"peg":10311,"ĠBuffer":10312,"~~~~":10313,"rastructure":10314,"ĠPL":10315,"uen":10316,"obby":10317,"sizeof":10318,"Ġpic":10319,"Ġseed":10320,"Ġexperienced":10321,"Ġodd":10322,"Ġkick":10323,"Ġprocedure":10324,"avigator":10325,"-on":10326,",j":10327,"ĠAlthough":10328,"ĠuserId":10329,"accept":10330,"Blue":10331,"IColor":10332,"layer":10333,"available":10334,"Ġends":10335,".table":10336,"Ġdataset":10337,"bus":10338,"Ġexplain":10339,"(pro":10340,"ĠCommittee":10341,"Ġnoted":10342,"]:Ċ":10343,"Dim":10344,"stdio":10345,".\",Ċ":10346,"_source":10347,"ĠWeek":10348,"ĠEdge":10349,"Ġoperating":10350,"Ġeste":10351,"ipl":10352,"agination":10353,"Ġproceed":10354,"Ġanimation":10355,".Models":10356,"ĠWatch":10357,"iat":10358,"Ġoppon":10359,"/A":10360,"Report":10361,"Ġsounds":10362,"_buf":10363,"IELD":10364,"Ġbund":10365,"ĉget":10366,".pr":10367,"(tmp":10368,"Ġkid":10369,">ĊĊĊ":10370,"Ġyang":10371,"NotFound":10372,"ÑĨ":10373,"math":10374,"@gmail":10375,"ĠLIMIT":10376,"redients":10377,"Ġvent":10378,"avigate":10379,"Look":10380,"Ġreligious":10381,"Ġrand":10382,"rio":10383,"(GL":10384,"_ip":10385,"uan":10386,"iciency":10387,"ĠChange":10388,">čĊčĊ":10389,"ĠEntity":10390,"Ġrencontre":10391,"ĠRet":10392,"plan":10393,"én":10394,"BOOL":10395,"uries":10396,"train":10397,"Definition":10398,"============":10399,"zz":10400,"Animation":10401,"ĠOK":10402,"_menu":10403,".bl":10404,"_score":10405,"Ġacad":10406,"(System":10407,"Ġrefresh":10408,"'=>$":10409,".Graphics":10410,"amento":10411,"pid":10412,"tc":10413,"Ġtips":10414,"Ġhomes":10415,"Ġfuel":10416,"âĸ":10417,"_helper":10418,"ĠĠčĊ":10419,"ĠRoom":10420,".Close":10421,"_attr":10422,"ĠMount":10423,"ĠEv":10424,"arser":10425,"_top":10426,"eah":10427,"ĠDelete":10428,"ãĢį":10429,"uke":10430,"Ġusage":10431,"aria":10432,"_dev":10433,"Ġtexture":10434,"Ġconversation":10435,"eper":10436,"Bean":10437,"done":10438,"nonatomic":10439,"ĠSecond":10440,"Ġshooting":10441,"_pre":10442,"Components":10443,"Ġ]ĊĊ":10444,"__,":10445,"stitution":10446,".Char":10447,">();ĊĊ":10448,"Ġpresented":10449,"Ġwa":10450,"oker":10451,"-ĊĊ":10452,"iner":10453,"Ġbecoming":10454,"Ġincident":10455,"Att":10456,"Ġrevealed":10457,"forc":10458,"Ġboot":10459,".page":10460,"Enumerator":10461,"_->":10462,"Photo":10463,"Ġspring":10464,".\",":10465,"ĠDictionary":10466,"BJECT":10467,"Ġlocations":10468,"Ġsamples":10469,"InputStream":10470,"ĠBrown":10471,"Ġstats":10472,"quality":10473,"Ñħ":10474,"-dis":10475,"Ġhelping":10476,"Ġped":10477,"(se":10478,"ĠWho":10479,"alian":10480,"internal":10481,"Ġft":10482,">().":10483,"->{":10484,"Ġmine":10485,"Ġsector":10486,"Ġgro":10487,"Ġopportunities":10488,"Ġü":10489,"Ġmp":10490,"Ġalleged":10491,"Ġdoubt":10492,"Mouse":10493,"About":10494,"_part":10495,"Ġchair":10496,"Ġstopped":10497,"loop":10498,"entities":10499,"Ġapps":10500,"ansion":10501,"Ġmental":10502,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":10503,"FR":10504,"Ġdefend":10505,"care":10506,"Ġideal":10507,"/api":10508,"urface":10509,"Ġele":10510,"ulator":10511,"ĠRights":10512,"anguages":10513,"Ġfunds":10514,"Ġadapt":10515,"Attributes":10516,"Ġdeploy":10517,"opts":10518,"Ġvalidation":10519,"Ġconcerns":10520,"uce":10521,".num":10522,"ulture":10523,"ila":10524,"Ġcup":10525,"Ġpure":10526,".Fore":10527,"ĠHashMap":10528,".valueOf":10529,"asm":10530,"MO":10531,"Ġcs":10532,"Ġstores":10533,"Ġ************************************************************************":10534,"Ġcommunication":10535,"mem":10536,".EventHandler":10537,".Status":10538,"_right":10539,".setOn":10540,"Sheet":10541,"Ġidentify":10542,"enerated":10543,"ordered":10544,"Ġ\"[":10545,"Ġswe":10546,"Condition":10547,"ĠAccording":10548,"Ġprepare":10549,"Ġrob":10550,"Pool":10551,"Ġsport":10552,"rv":10553,"ĠRouter":10554,"Ġalternative":10555,"([]":10556,"ĠChicago":10557,"ipher":10558,"ische":10559,"ĠDirector":10560,"kl":10561,"ĠWil":10562,"keys":10563,"Ġmysql":10564,"Ġwelcome":10565,"king":10566,"ĠManager":10567,"Ġcaught":10568,")}Ċ":10569,"Score":10570,"_PR":10571,"Ġsurvey":10572,"hab":10573,"Headers":10574,"ADER":10575,"Ġdecor":10576,"Ġturns":10577,"Ġradius":10578,"errupt":10579,"Cor":10580,"Ġmel":10581,"Ġintr":10582,"(q":10583,"ĠAC":10584,"amos":10585,"MAX":10586,"ĠGrid":10587,"ĠJesus":10588,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":10589,".DE":10590,"Ġts":10591,"Ġlinked":10592,"free":10593,"ĠQt":10594,"Ġ/**čĊ":10595,"Ġfaster":10596,"ctr":10597,"_J":10598,"DT":10599,".Check":10600,"Ġcombination":10601,"Ġintended":10602,"-the":10603,"-type":10604,"ectors":10605,"ami":10606,"uting":10607,"Ġuma":10608,"XML":10609,"UCT":10610,"Ap":10611,"ĠRandom":10612,"Ġran":10613,".sort":10614,"Ġsorted":10615,".Un":10616,"_PER":10617,"itory":10618,"Ġpriority":10619,"ĠGal":10620,"ĠOld":10621,"hot":10622,"ĠDisplay":10623,"(sub":10624,"_TH":10625,"_Y":10626,"ĠCare":10627,"loading":10628,"Kind":10629,"_handle":10630,",,":10631,"rase":10632,"_replace":10633,".addEventListener":10634,"ĠRT":10635,"Ġentered":10636,"gers":10637,"Ġich":10638,"(start":10639,"/app":10640,"Ġbrother":10641,"Memory":10642,"Outlet":10643,"Ġutf":10644,"prec":10645,"Ġnavigation":10646,"ORK":10647,"Ġdst":10648,"Detail":10649,"Ġaudience":10650,"Ġdur":10651,"Ġcluster":10652,"unched":10653,"Ġ],":10654,"Ġcomfortable":10655,".values":10656,"ĠTotal":10657,"Ġsnap":10658,"Ġstandards":10659,"Ġperformed":10660,"hand":10661,"(\"@":10662,"åŃ":10663,"Ġphil":10664,"ibr":10665,"trim":10666,"Ġforget":10667,"Ġdoctor":10668,".TextBox":10669,"icons":10670,",s":10671,"ĠOp":10672,"Sm":10673,"Stop":10674,"ĉList":10675,"ĉu":10676,"Comment":10677,"_VERSION":10678,".Xtra":10679,"Person":10680,"rb":10681,"LOB":10682,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":10683,"ĠCentral":10684,"ICK":10685,"raq":10686,"Ġputting":10687,"Ġmd":10688,"ĠLove":10689,"Program":10690,"Border":10691,"oor":10692,"Ġallowing":10693,"after":10694,"Ġentries":10695,"ĠMaybe":10696,"]).":10697,"ĠShort":10698,")\\":10699,".now":10700,"friend":10701,"Ġprefer":10702,"ĠGPIO":10703,"osis":10704,"ĠGameObject":10705,"Ġskip":10706,"Ġcompetition":10707,"_match":10708,"lications":10709,"_CONT":10710,".groupBox":10711,"Ġals":10712,"\"We":10713,"_eq":10714,"lan":10715,"_search":10716,"ĠMusic":10717,"asis":10718,"Ġbind":10719,"ĠIsland":10720,"rum":10721,"(E":10722,"Ġseat":10723,"Video":10724,"Ġack":10725,"reek":10726,"={()":10727,"Ġrating":10728,"Ġrestaurant":10729,"DEX":10730,"(buf":10731,"pping":10732,"uality":10733,"Ġleague":10734,"Ġfocused":10735,"apon":10736,"$data":10737,"CLUD":10738,"CLUDING":10739,"Ġabsolute":10740,"(query":10741,"Ġtells":10742,"Ang":10743,"Ġcommunities":10744,"Ġhonest":10745,"oking":10746,"Ġapart":10747,"arity":10748,"/$":10749,"_module":10750,"ĠEnc":10751,".an":10752,".Config":10753,"Cre":10754,"Ġshock":10755,"ĠArab":10756,"IENT":10757,"/re":10758,"Ġretrie":10759,"ycler":10760,"isa":10761,"ĠOrgan":10762,".graph":10763,"Ġí":10764,"ĠBAS":10765,"Enum":10766,"Ġpossibly":10767,"ÑĢаÐ":10768,"ĠJapanese":10769,"Ġcraft":10770,"ĠPlace":10771,"Ġtalent":10772,"Ġfunding":10773,"Ġconfirmed":10774,"Ġcycle":10775,"/x":10776,"GE":10777,"Ġhearing":10778,"Ġplants":10779,"Ġmouth":10780,"pages":10781,"oria":10782,"ĠRemove":10783,"_total":10784,"Ġod":10785,"ollapse":10786,"door":10787,"Ġbought":10788,"Ġaddr":10789,"ARCH":10790,"_dim":10791,"dden":10792,"Ġdecades":10793,"REQUEST":10794,"Ġversions":10795,"fire":10796,"Ġmoves":10797,"fb":10798,"Ġcoffee":10799,".connect":10800,"ĠRow":10801,"Ġschema":10802,"Scope":10803,"-Type":10804,"Ġfighting":10805,"Ġretail":10806,"Ġmodified":10807,"TF":10808,"Files":10809,"nie":10810,"_command":10811,"stone":10812,"ĠÑĤ":10813,"_thread":10814,"Ġbond":10815,"ĠDevelopment":10816,"Ġpt":10817,"FORM":10818,"plet":10819,"Ġidentified":10820,"cpp":10821,"Ġcoding":10822,"oked":10823,"ĠMaster":10824,"IDTH":10825,"Ġresidents":10826,"redit":10827,"ĠPhoto":10828,"=-":10829,"unte":10830,"ateur":10831,"_STATE":10832,"ĠSing":10833,"Ġsheet":10834,".val":10835,"orse":10836,"Ġhers":10837,"Ġdetermined":10838,"Common":10839,"Ġwed":10840,"_queue":10841,"PH":10842,"ĠAtl":10843,"cred":10844,"/LICENSE":10845,"Ġmes":10846,"Ġadvanced":10847,".java":10848,".Sh":10849,"Go":10850,"kill":10851,"fp":10852,"_settings":10853,"Ġpal":10854,"Ġtruck":10855,"Ġcombined":10856,"Ġ\"${":10857,"ĠCorpor":10858,"Ġjoined":10859,"ĠJose":10860,"ĠCup":10861,"uns":10862,"estival":10863,"levision":10864,"Ġbroken":10865,"Ġmarriage":10866,"ĠWestern":10867,"Ġrepresents":10868,"ĠTitle":10869,"Ġss":10870,".Ass":10871,"ongoose":10872,"iento":10873,"<>();Ċ":10874,"Ġabsolutely":10875,"Ġsmooth":10876,"TERN":10877,"ĠUnless":10878,"Word":10879,"Ġmerge":10880,"igan":10881,"ĠVol":10882,"Ġnn":10883,".getId":10884,"Ġз":10885,"Ġsexy":10886,"Ġseeking":10887,"Single":10888,".this":10889,"Ġkom":10890,"bound":10891,";\"":10892,"ĠfontSize":10893,"_df":10894,"Ġinjury":10895,"(H":10896,"Ġissued":10897,"_END":10898,":self":10899,"Ġpatch":10900,"Ġleaves":10901,"Ġadopt":10902,"FileName":10903,"ãĢIJ":10904,"Ġexecutive":10905,"ĠByte":10906,"]))Ċ":10907,"Ġnu":10908,"outing":10909,"cluding":10910,"-R":10911,".options":10912,"Ġsubstant":10913,"avax":10914,"ĠBUT":10915,"Ġtechnical":10916,"Ġtwice":10917,"Ġmás":10918,"Ġunivers":10919,"yr":10920,"Ġdrag":10921,"ĠDC":10922,"Ġsed":10923,"Ġbot":10924,"ĠPal":10925,"ĠHall":10926,"forcement":10927,"Ġauch":10928,".mod":10929,"notation":10930,"_files":10931,".line":10932,"_flag":10933,"[name":10934,"Ġresolution":10935,"Ġbott":10936,"(\"[":10937,"ende":10938,"(arr":10939,"Free":10940,"(@\"":10941,"ĠDistrict":10942,"PEC":10943,":-":10944,"Picker":10945,"ĠJo":10946,"ĠĠĠĠĠĊ":10947,"ĠRiver":10948,"_rows":10949,"Ġhelpful":10950,"Ġmassive":10951,"---Ċ":10952,"Ġmeasures":10953,"ĠRuntime":10954,"Ġworry":10955,"ĠSpec":10956,"ĉD":10957,"ãĢij":10958,"Ġ){Ċ":10959,"Ġworse":10960,"(filename":10961,"Ġlay":10962,"Ġmagic":10963,"ĠTheir":10964,"oul":10965,"stroy":10966,"ĠWhere":10967,"Ġsudden":10968,"Ġdefe":10969,"Ġbinding":10970,"Ġflight":10971,"ĠOnInit":10972,"ĠWomen":10973,"ĠPolicy":10974,"Ġdrugs":10975,"ishing":10976,"('../":10977,"ĠMel":10978,"peat":10979,"tor":10980,"Ġproposed":10981,"Ġstated":10982,"_RES":10983,"Ġeast":10984,"ĠCONDITION":10985,"_desc":10986,"Ġwinning":10987,"folio":10988,"Mapper":10989,"ĠPan":10990,"ĠAnge":10991,".servlet":10992,"Ġcopies":10993,"LM":10994,"Ġvm":10995,"åį":10996,"Ġdictionary":10997,"Seg":10998,"elines":10999,"ĠSend":11000,"Ġiron":11001,"ĠFort":11002,".domain":11003,"Ġdebate":11004,"NotNull":11005,"eq":11006,"acher":11007,"lf":11008,"ĉfmt":11009,"Ġlawy":11010,"ÄŁ":11011,"ĠMen":11012,"Ġtrim":11013,"(NULL":11014,"Ġ!!":11015,"Ġpad":11016,"Ġfollows":11017,"\"][\"":11018,"requ":11019,"ĠEp":11020,".github":11021,"(img":11022,"eto":11023,"('\\":11024,"Services":11025,"umbnail":11026,"_main":11027,"pleted":11028,"fortunately":11029,"Ġwindows":11030,"Ġplane":11031,"ĠConnection":11032,".local":11033,"uard":11034,"}\\":11035,"==\"":11036,"andon":11037,"ĠRoy":11038,"west":11039,"iginal":11040,"emies":11041,"itz":11042,"'):Ċ":11043,"ĠPeter":11044,"Ġtough":11045,"Ġreduced":11046,"Ġcalculate":11047,"Ġrapid":11048,"customer":11049,"Ġefficient":11050,"Ġmedium":11051,"Ġfell":11052,".ref":11053,"ĠCas":11054,"Ġfeedback":11055,"Speed":11056,"(output":11057,"aje":11058,"Ġcategories":11059,"Ġfee":11060,"};":11061,"Ġdeleted":11062,"reh":11063,"Ġproof":11064,"Desc":11065,"Build":11066,"Ġsides":11067,".ArrayList":11068,"-%":11069,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":11070,"ر":11071,".match":11072,"ли":11073,"Ġfeels":11074,"Ġachieve":11075,"Ġclim":11076,"_ON":11077,"ĠCD":11078,"Ġteacher":11079,"_current":11080,"bn":11081,"_PL":11082,"isting":11083,"Enable":11084,"GEN":11085,"Ġtv":11086,"Ġsock":11087,"Ġplays":11088,"Ġdiscount":11089,"ĠKE":11090,"ĠDebug":11091,"Fore":11092,"ĠIraq":11093,"Ġappearance":11094,"Mon":11095,"Ġstyled":11096,"ĠHuman":11097,"iot":11098,"ĠHistory":11099,"Ġsac":11100,"ĠCollection":11101,"Ġrecommended":11102,".Selected":11103,"Ġorganizations":11104,"Ġdiscovered":11105,"cohol":11106,"adas":11107,"ĠThomas":11108,"May":11109,"Ġconserv":11110,"Ġdomin":11111,"ĠFollow":11112,"ĠSection":11113,"ĠThanks":11114,"Username":11115,"Ġrecipe":11116,"Ġwonderful":11117,".sleep":11118,"_if":11119,"ĉĊĉĊ":11120,"orno":11121,"Ġru":11122,"_target":11123,".\"\"":11124,"à¦":11125,"EventArgs":11126,"Ġinputs":11127,"Ġfif":11128,"Ġvision":11129,"cy":11130,"ĠSeries":11131,")(((":11132,"Ġtrading":11133,"Ġmarker":11134,"Begin":11135,"Ġtypically":11136,"Ġcauses":11137,"dropdown":11138,"_DEBUG":11139,"Ġdetect":11140,"country":11141,"!\");Ċ":11142,"ĉR":11143,"appy":11144,"Ġcref":11145,"('<":11146,"\"=>":11147,"ĠLE":11148,"reader":11149,"Ġadministr":11150,"õ":11151,"ucket":11152,"Ġfashion":11153,".char":11154,"izar":11155,"Ġdisable":11156,"Ġsuc":11157,"ĠLive":11158,"issue":11159,"Ġmetadata":11160,"flags":11161,"ĠðŁ":11162,"Ġcommitted":11163,"Ġva":11164,"Ġrough":11165,"Ġ'''Ċ":11166,"Ġhighlight":11167,"_vars":11168,"VO":11169,"Ġencoding":11170,"-Z":11171,"_sign":11172,"$(\"#":11173,"Ġrain":11174,"reatest":11175,"ĠEND":11176,"Selection":11177,"Ġcandidates":11178,"Ġsav":11179,".Empty":11180,"Ġdecisions":11181,"Ġcollabor":11182,"ridge":11183,"feed":11184,"ression":11185,"Ġpersons":11186,"VM":11187,"ega":11188,"_BIT":11189,"According":11190,"acked":11191,"Ġdollars":11192,"_loss":11193,"ĠCost":11194,"}\"Ċ":11195,"Notification":11196,"Ġprostit":11197,"Ġauthority":11198,".rec":11199,"Ġspokes":11200,"ĠToday":11201,"istant":11202,"ĠHead":11203,"âĢĿ.":11204,"ertainment":11205,"cean":11206,"culate":11207,"Ġven":11208,"However":11209,"_arr":11210,"Ġtokens":11211,"Graph":11212,"ĠJud":11213,"ĠVirgin":11214,"ĠSerial":11215,"unning":11216,"Mutable":11217,"agers":11218,".csv":11219,"Ġdeveloping":11220,"Ġinstructions":11221,"Ġpromise":11222,"Ġrequested":11223,"_encode":11224,"/\"":11225,"ĠIcon":11226,"uilt":11227,"-day":11228,"Ġintelligence":11229,".IS":11230,"ĠObservable":11231,"ĠHard":11232,"Bool":11233,"idential":11234,".Anchor":11235,"Ġselling":11236,"CI":11237,"AGES":11238,"tle":11239,"bur":11240,"UFFER":11241,"RY":11242,"Ġbigger":11243,"Ġrat":11244,"Ġfamous":11245,"Ġtypename":11246,"Ġexplained":11247,"}}Ċ":11248,"Ġnuclear":11249,"-N":11250,"Ġcrisis":11251,"ĠEnter":11252,"Ġanswers":11253,"/${":11254,"/pl":11255,"Ġsequ":11256,"_next":11257,"mask":11258,"Ġstanding":11259,"Ġplenty":11260,"ĠCross":11261,"ĉret":11262,"dro":11263,"ĠCast":11264,"=true":11265,"ĠChris":11266,"icio":11267,"ĠMike":11268,"Decimal":11269,"addComponent":11270,"Len":11271,"Ġcock":11272,"Ġ#{":11273,"URN":11274,"":11403,"Ġ*=":11404,"ĠPS":11405,"Ġdangerous":11406,"[p":11407,"OME":11408,"Other":11409,"ĠStringBuilder":11410,"Points":11411,"heading":11412,"Ġcurrency":11413,"Ġpercentage":11414,"_API":11415,"Ġclassic":11416,"thead":11417,"ĠMO":11418,"FE":11419,"Idx":11420,"await":11421,"Ġè":11422,"Ġaccident":11423,"Ġvariant":11424,"Ġmyst":11425,"ĠLand":11426,"ĠBre":11427,"Ġharm":11428,"ĠAcc":11429,"Ġcharged":11430,"iones":11431,"Visibility":11432,"arry":11433,"ĠLanguage":11434,"Ġwalking":11435,"\".ĊĊ":11436,"ifer":11437,"Ġleadership":11438,".From":11439,"ynam":11440,"Ġtimestamp":11441,"ipt":11442,"ĠHas":11443,"REFER":11444,"ĠIts":11445,"Ġlistener":11446,"UTE":11447,"_description":11448,"Ġexperiences":11449,"Ġcreates":11450,"RS":11451,"cart":11452,"black":11453,"Ġchoices":11454,"war":11455,"Ġ'''":11456,"Ġordered":11457,"Ġevening":11458,"Ġpil":11459,"Ġtun":11460,"ĠBad":11461,"(app":11462,"random":11463,"Ġexplicit":11464,"Ġarrived":11465,"Ġfly":11466,"Ġeconom":11467,"-mail":11468,"Ġlists":11469,"Ġarchitect":11470,"ĠPay":11471,"Ġds":11472,"ĠSol":11473,"Ġvehicles":11474,"Hz":11475,"-com":11476,"Ġking":11477,"_equal":11478,"ĠHelp":11479,"Ġabuse":11480,"--;Ċ":11481,"Ġextr":11482,"Ġchemical":11483,"ä¿":11484,"Ġorient":11485,"Ġbreath":11486,"ĠSpace":11487,"(element":11488,"wait":11489,"DED":11490,"igma":11491,"Ġentr":11492,"Ġsob":11493,"-name":11494,"Ġaffected":11495,"ika":11496,"Ġcoal":11497,"_work":11498,"Ġhundreds":11499,"Ġpolitics":11500,"subject":11501,"Ġconsumer":11502,"ANGE":11503,"Ġrepeated":11504,"Send":11505,"Ġ#[":11506,"Ġprotocol":11507,"Ġleads":11508,"useum":11509,"Every":11510,"Import":11511,"(count":11512,"Ġchallenges":11513,"Ġnovel":11514,"Ġdepart":11515,"bits":11516,".Current":11517,"Ġ`${":11518,"oting":11519,"(\\":11520,"Ġcreative":11521,"Ġbuff":11522,"Ġintroduced":11523,"usic":11524,"modules":11525,"Are":11526,"-doc":11527,"language":11528,"_cache":11529,"Ġtod":11530,"?>{{":11764,"ĠResource":11765,"ĠStandard":11766,"ĠPrem":11767,"updated":11768,"ivalent":11769,"Ġassets":11770,"_temp":11771,"Ġinterests":11772,"Ġhardware":11773,"ĠRom":11774,"ĠShare":11775,"Ġ''Ċ":11776,"Ġ*,":11777,"ĠTake":11778,"ĠImages":11779,"_CHECK":11780,"(typeof":11781,"ĠJun":11782,"\\<^":11783,"Ġliqu":11784,"Ġworst":11785,"ymbols":11786,"ĉĉĉĠĠĠ":11787,"Ġdrivers":11788,"ĠDocument":11789,"eno":11790,"ĠTechnology":11791,"Ġapproved":11792,"umps":11793,"Ġsnow":11794,"formance":11795,"_ASSERT":11796,"uits":11797,"ÙĨ":11798,"Ġdifferences":11799,".Visible":11800,"ĉĉĉčĊ":11801,"ĠPs":11802,"_fetch":11803,"Ġtodo":11804,".',Ċ":11805,"Ġsel":11806,"urers":11807,"invalid":11808,"Ġtweet":11809,"VEL":11810,"Ġresearchers":11811,"Ġsprintf":11812,"ĠRO":11813,"Ġpel":11814,".Trans":11815,"Ġillegal":11816,"dialog":11817,"smarty":11818,"lg":11819,"_MIN":11820,"Ġhero":11821,"final":11822,"Ġpp":11823,".Le":11824,"Ġci":11825,"ĉRT":11826,"Ġsuggested":11827,"pdf":11828,"aching":11829,"ĠRo":11830,"ĠProperties":11831,"ĠSi":11832,"Ġbuying":11833,"Ġmu":11834,"Ġlands":11835,"ifiers":11836,"ĠFILE":11837,"ROUP":11838,"Ġholder":11839,"ĠSon":11840,"Ġsympt":11841,".route":11842,")?":11843,"Ġargc":11844,"Ġfort":11845,"Ġcasino":11846,"_category":11847,"Ġforum":11848,"prefix":11849,"apture":11850,"Tube":11851,"ems":11852,"imize":11853,"Ġnue":11854,"aus":11855,"course":11856,"ATOR":11857,"()),":11858,"Advertis":11859,"INGS":11860,"Ġacknow":11861,"ĠKorea":11862,"pling":11863,"Ġworker":11864,"PLIED":11865,"hal":11866,"ĠRichard":11867,"Elements":11868,"ĉĉĉĠ":11869,"star":11870,"Ġrelationships":11871,"Ġcheap":11872,"ACH":11873,"ĠXML":11874,",&":11875,"ĠLouis":11876,"Ġride":11877,"_FAIL":11878,"Ġchunk":11879,"[s":11880,"_OUT":11881,"Ġchosen":11882,"_[":11883,"/(":11884,"ĠJeff":11885,"_sl":11886,"priv":11887,"ĠCanadian":11888,"Ġunable":11889,"_FLAG":11890,"Ġnos":11891,"high":11892,"Ġlift":11893,"fun":11894,"(){":11895,"elly":11896,"yclerView":11897,"_as":11898,"_LIST":11899,"Ġradi":11900,".getValue":11901,"ĠAngeles":11902,"ĠSpan":11903,"_instance":11904,"itors":11905,"Ġmigration":11906,"AK":11907,"Oh":11908,"®":11909,".selected":11910,"ĠGT":11911,"Ġadvance":11912,"ĠStyle":11913,".DataGridView":11914,"ection":11915,"Ñİ":11916,"pio":11917,"rog":11918,"Ġshopping":11919,"ĠRect":11920,"Illuminate":11921,"OU":11922,"ĉarray":11923,"Ġsubstantial":11924,"Ġpregn":11925,"Ġpromote":11926,"IEW":11927,".Layout":11928,"Ġsigns":11929,"/.":11930,"Ġletters":11931,"Board":11932,"ctrl":11933,"\"\\":11934,"ĠJones":11935,"Ġvertex":11936,"Ġja":11937,"Ġaffili":11938,"Ġwealth":11939,"ĉdefault":11940,"Ġsignificantly":11941,"Ġec":11942,"Ġxs":11943,"actual":11944,".per":11945,"_step":11946,"anvas":11947,"mac":11948,"Ġtransl":11949,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":11950,"Iterator":11951,"Ġoch":11952,"agnostic":11953,"ĠDuring":11954,"ĠDEFAULT":11955,"Ġtill":11956,"Ġsignature":11957,"Ġbird":11958,"ĠOl":11959,"ĠIr":11960,"HS":11961,"avatar":11962,"ESSAGE":11963,"Ġelev":11964,"Ġmt":11965,"ĠNav":11966,"Ġrelax":11967,"Ġplate":11968,"ITEM":11969,"(date":11970,".not":11971,"Ġgrade":11972,"Ġ}),Ċ":11973,"?\"ĊĊ":11974,"iences":11975,"High":11976,"ĠDIS":11977,"disabled":11978,"QUI":11979,"Ġnoise":11980,"aux":11981,"ĠUP":11982,"osa":11983,"Ġvoc":11984,"Ġ))":11985,"ocom":11986,"_OFF":11987,"ĠDb":11988,"Lock":11989,".eclipse":11990,",d":11991,"ĠDraw":11992,"Ġ\"(":11993,"Ġvisited":11994,"ĠâĪ":11995,"Ġsucceed":11996,"Ġimpossible":11997,"aire":11998,"ĠTurn":11999,"Ġdish":12000,"FG":12001,"Ġsensor":12002,"ANN":12003,"aba":12004,"Ġsurg":12005,"]);čĊ":12006,"Ġfp":12007,"_an":12008,"-J":12009,"-G":12010,"ĠJob":12011,"Convert":12012,"ĠKEY":12013,"Ġauthors":12014,"_server":12015,"\\r":12016,"Ġ-*-":12017,"flex":12018,"Ġsoc":12019,"Ret":12020,"Ġsalt":12021,"Ġâ̦ĊĊ":12022,"ĠClear":12023,"(page":12024,"-danger":12025,"Ġrooms":12026,"conv":12027,"#{":12028,".op":12029,"ĠArea":12030,"_SC":12031,"hen":12032,"Ġbegins":12033,"-y":12034,"Ġexcited":12035,"Ġignored":12036,"Ġbonus":12037,"student":12038,"ĠMember":12039,"Ġrelatively":12040,"ĠLow":12041,"ĠProdu":12042,"ateway":12043,"posure":12044,"Ġthick":12045,"aniel":12046,"(view":12047,"ĠCrush":12048,"Extension":12049,"Il":12050,"eed":12051,"LOC":12052,".im":12053,".Items":12054,"Ġconflict":12055,".prevent":12056,"ĠonCreate":12057,"uv":12058,"iser":12059,"Ġwave":12060,"Mar":12061,"ĠCommunity":12062,"iche":12063,"ĠNothing":12064,"[m":12065,"ĠLee":12066,"riends":12067,"ère":12068,"!!!":12069,"anz":12070,".result":12071,"ĠSK":12072,"_PARAM":12073,"Ġdemocr":12074,"BackColor":12075,".exists":12076,"\"It":12077,"(options":12078,"razy":12079,"aser":12080,"\\Database":12081,"alendar":12082,"_ass":12083,";}Ċ":12084,"vertex":12085,"inecraft":12086,"Warning":12087,"argo":12088,"Ġactor":12089,"ĠInstead":12090,"ĠUsing":12091,"Self":12092,"@interface":12093,"Ġspeaking":12094,"ĠParis":12095,"ĠLICENSE":12096,".node":12097,"ĠFood":12098,"EIF":12099,"ĠBi":12100,".Start":12101,"ĠIB":12102,"Ġuniversity":12103,"ĠHeader":12104,".product":12105,"Copy":12106,"etc":12107,"rical":12108,"Ġ>>>":12109,"books":12110,"Ġalgorithm":12111,"Ġ'__":12112,"(javax":12113,"Ġnumerous":12114,"Share":12115,"Have":12116,"Ġrecru":12117,"Ġprove":12118,".substring":12119,"health":12120,"ел":12121,"Ġdecimal":12122,"Ġcommission":12123,"scription":12124,"xC":12125,"Ġsummary":12126,"atted":12127,"Ġcloser":12128,"finished":12129,"()){Ċ":12130,"ĠWood":12131,"_fields":12132,"ku":12133,"_items":12134,"Flag":12135,"Ġconfidence":12136,"ĠFederal":12137,"dux":12138,"Ġcompat":12139,"Ġvertical":12140,"й":12141,"ès":12142,";\">Ċ":12143,"_manager":12144,"()))Ċ":12145,"IDE":12146,":\",":12147,"__Ċ":12148,"ĠWay":12149,"ÑĪ":12150,"Temp":12151,"ĠSTR":12152,"ritten":12153,"Sync":12154,"ĠAV":12155,"ĠCEO":12156,"ĠGuid":12157,"Ġenvironmental":12158,"Ġcorresponding":12159,"ĉconsole":12160,"Ġjustice":12161,"ĠJS":12162,"Ġlived":12163,"gar":12164,"ĠGraph":12165,"ĠStat":12166,"ĠiPhone":12167,".al":12168,"ĠHD":12169,"Ġoccur":12170,"Ġthreshold":12171,"Ġonclick":12172,"REG":12173,".GraphicsUnit":12174,"Meta":12175,"ž":12176,"Ġcum":12177,".gnu":12178,"ë":12179,"Ġobtained":12180,"Ġcomplaint":12181,"Ġeating":12182,"Ġtar":12183,"_task":12184,"Ġopts":12185,"(to":12186,"Pass":12187,"Ġplastic":12188,"tility":12189,"ĠWin":12190,".preventDefault":12191,"pile":12192,"ĠGar":12193,"Ġquantity":12194,"_last":12195,"Ġgreatest":12196,"Dao":12197,"_DIS":12198,"ĠUsed":12199,"ĠHP":12200,"riting":12201,"SION":12202,"blue":12203,"domain":12204,"Ġscores":12205,"Normal":12206,"_admin":12207,"ĠASSERT":12208,"Then":12209,"***":12210,"dist":12211,"lon":12212,"Ġhate":12213,"shal":12214,"ImageView":12215,"database":12216,"Ġpand":12217,"Ġlogic":12218,"=false":12219,"bg":12220,"ĠConfiguration":12221,"Ġnur":12222,"OG":12223,"Ġmarried":12224,":+":12225,"Ġdropped":12226,"Ġregistration":12227,"ом":12228,"ultiple":12229,"izers":12230,"shape":12231,".copy":12232,"Ġwearing":12233,"ĠCath":12234,"Ġdedicated":12235,"Ġ...Ċ":12236,"Ġadvoc":12237,"ĠFamily":12238,"Ġstatements":12239,"ematic":12240,"ampionship":12241,"Ġmotiv":12242,"ĠHave":12243,"Ġblow":12244,"Job":12245,"cert":12246,"_vector":12247,"install":12248,"ĠCOPY":12249,"embed":12250,"DIR":12251,"ĠSpring":12252,"Ġexhib":12253,"cdn":12254,"ĠComment":12255,"ĠOptional":12256,".player":12257,"ĠDark":12258,"(pos":12259,"ĠShould":12260,"Ġcentre":12261,"ĠGuard":12262,"ów":12263,"Ġtrouble":12264,"ENER":12265,"(unsigned":12266,"_service":12267,"Ġns":12268,"uling":12269,"ĠMexico":12270,"ĠNY":12271,"mysql":12272,"Ġlic":12273,"åľ":12274,"Mr":12275,"-fl":12276,"ĠCustomer":12277,"idi":12278,"Ġ?>ĊĊ":12279,"rible":12280,"ĠпÑĢ":12281,"Ġsizes":12282,"_STRING":12283,"validation":12284,"ĠJon":12285,"(Http":12286,"addClass":12287,"Nodes":12288,"Ġfragment":12289,"Ġspoke":12290,"Ġwaste":12291,"Join":12292,"Ġillustr":12293,"eli":12294,"cient":12295,"Ġaid":12296,"Ġprosec":12297,"'){Ċ":12298,"Ġpassing":12299,"Ġfaces":12300,"Shape":12301,"_Z":12302,"iti":12303,"Ġalle":12304,"Ġrobot":12305,"ĠĠĠĠĠĠĠĊ":12306,"ĠSpe":12307,"Ġreceiving":12308,"ĠDetails":12309,"Ġ\")":12310,"mg":12311,"_REF":12312,"Ġcomparison":12313,"*,":12314,"ĠFound":12315,"_session":12316,"(U":12317,"/F":12318,"Ġxxx":12319,"Network":12320,"ders":12321,"Ġcapture":12322,"Ġcorre":12323,"ĠLtd":12324,"ĠAdv":12325,"[@":12326,"Ġclip":12327,"Mill":12328,"ĠProfile":12329,"Ġendif":12330,"Ġoblig":12331,"describe":12332,".element":12333,"riterion":12334,"LD":12335,"ered":12336,"Ġfavour":12337,"score":12338,"ĠFilter":12339,"attributes":12340,"Ġchecks":12341,"Inflater":12342,"ĠPlus":12343,"Ġscientific":12344,"Ġprivacy":12345,"Head":12346,"Ġfeat":12347,"Ġdegrees":12348,"ĠPale":12349,";\">":12350,"Ġfilms":12351,"ĠAudio":12352,"ĠTag":12353,"ĠEnergy":12354,"itar":12355,"parator":12356,"Ġfellow":12357,"Ġevt":12358,"ĠTri":12359,"ĠDAM":12360,"cloud":12361,"ĠPassword":12362,"ĠDemocrats":12363,"ĠAcad":12364,"$lang":12365,"Ġreb":12366,"())ĊĊ":12367,"нÑĭ":12368,"ĠBur":12369,"readcr":12370,"Ġhex":12371,"Console":12372,"ctl":12373,"ousel":12374,"ĠWilliam":12375,"Ġaz":12376,"_PORT":12377,"Ġpractices":12378,"Ġanywhere":12379,"ĠPosition":12380,"Ġ->Ċ":12381,"iams":12382,".username":12383,"placeholder":12384,"Ġoder":12385,"ĠSecretary":12386,"ĠiT":12387,"mond":12388,"events":12389,"?âĢĿ":12390,".Sub":12391,"Ġattached":12392,"Ġnão":12393,"Ġestate":12394,".action":12395,"Ġfigures":12396,"Ġ});čĊ":12397,"Ġsubscri":12398,".tag":12399,"nam":12400,".plot":12401,"noon":12402,"liament":12403,"Character":12404,".tab":12405,"Ġwinter":12406,"ĠVariable":12407,"Ġtrees":12408,"Ġproud":12409,"(V":12410,"_load":12411,"Ġhier":12412,"ĠEcon":12413,"Ġfd":12414,"Ġvictims":12415,"Rest":12416,"iana":12417,"Ġfake":12418,".Println":12419,"Ġstrlen":12420,"Ġsad":12421,"Ġble":12422,"Prot":12423,"Ġbuttons":12424,"Ġtelevision":12425,"Ġlogo":12426,"extension":12427,"ĉj":12428,"stein":12429,"aciones":12430,"Ġ\"\"\"ĊĊ":12431,"Ġsimp":12432,"Ġrecorded":12433,"Ġbrings":12434,"Ġprincipal":12435,"Ġfees":12436,"(source":12437,"kdir":12438,"Ġutils":12439,"Ġcorrectly":12440,"fil":12441,"Ġwel":12442,"Pair":12443,"-button":12444,"scale":12445,"verify":12446,"[c":12447,"Ġ---":12448,"Ġescape":12449,"ikes":12450,"LowerCase":12451,"ician":12452,"Ġchapter":12453,"ĠTYPE":12454,"Ġshadow":12455,"Ġawesome":12456,"WE":12457,"elif":12458,"Ġlambda":12459,"Ġdistinct":12460,"Ġbare":12461,"-off":12462,"Ġcolour":12463,".appendChild":12464,"olec":12465,"aga":12466,".fill":12467,"ĉsuper":12468,"Ġadj":12469,"(position":12470,".getItem":12471,"Short":12472,"Ġtotally":12473,"VD":12474,"ĠTre":12475,"_ep":12476,"vements":12477,"ĠSolution":12478,"Ġfundament":12479,"Follow":12480,"Ġfacility":12481,"Ġhappening":12482,"OF":12483,".textBox":12484,"Span":12485,"Ġ«":12486,"iden":12487,"Ġexceed":12488,"(parent":12489,"Ġcp":12490,"ç»":12491,"Ġhasn":12492,"Ġpri":12493,"Ġconsequ":12494,"nen":12495,"ĠINTO":12496,"Ignore":12497,"ĠFuture":12498,"Ġcarbon":12499,"ĠSteel":12500,"fmt":12501,"okie":12502,"Ġspl":12503,"(title":12504,"-info":12505,"Ġdeals":12506,"Ġfixture":12507,"ea":12508,"Div":12509,"Ġtested":12510,"_return":12511,")ĊĊĊĊ":12512,"upported":12513,"ĠCook":12514,"Ġpaying":12515,"ĠIll":12516,"Ġarrested":12517,"ĠPrime":12518,"_callback":12519,">,Ċ":12520,"driver":12521,"Once":12522,"abb":12523,"_bytes":12524,"ĠSets":12525,"(Object":12526,"Ġcc":12527,"Ġshell":12528,"alo":12529,");//":12530,"(log":12531,"ctors":12532,")":13004,"Ġ$(\".":13005,".pos":13006,"Ġboys":13007,"Ġwedding":13008,"Ġagents":13009,"=\"_":13010,"ĠArmy":13011,"Ġhint":13012,"vision":13013,"Ġtech":13014,"ĠConnect":13015,"Ġlegend":13016,"ĠBet":13017,".Base":13018,"Subject":13019,"Ġlit":13020,"Remove":13021,"Ġ\":":13022,"ĠFinal":13023,"pearance":13024,"ĠiTunes":13025,"Ġparticipants":13026,"ĠPython":13027,"Ġbusy":13028,"iel":13029,"vertices":13030,"ĠtemplateUrl":13031,"ĠClose":13032,"Img":13033,"ĠCorporation":13034,"timestamp":13035,"Ġextend":13036,"Ġwebsites":13037,"Ġpossibility":13038,"оÑĤ":13039,"Ġkö":13040,"Ġmeat":13041,"Ġrepresentation":13042,"Ġĉĉ":13043,"_START":13044,".apply":13045,"ĠValley":13046,"ĠSuccess":13047,"Hi":13048,"Ġnob":13049,"ĠIEnumerable":13050,"_select":13051,"geo":13052,".\")Ċ":13053,"Ġturning":13054,"Ġfabric":13055,"(\"\");Ċ":13056,"Ġperspective":13057,"éĹ":13058,"ĠSn":13059,"Thank":13060,";j":13061,".Parameters":13062,"ĉĠĠĠĠĠĠĠĠĠĠĠ":13063,"Ġfacts":13064,"Ġunt":13065,".instance":13066,"################################################################":13067,"-end":13068,"ĠJOIN":13069,"ĠHen":13070,"Ġuri":13071,"åIJį":13072,"Ġна":13073,"ĠInfo":13074,"Ġconducted":13075,"ĠÃ¥":13076,"OURCE":13077,"Ġwine":13078,"John":13079,".Errorf":13080,"ĠAge":13081,"ounded":13082,"Ġrealize":13083,"Ġ];":13084,"Ġsubsequ":13085,",m":13086,"(User":13087,"iano":13088,"Ġaccompl":13089,"isp":13090,".std":13091,"éĩ":13092,"ĠBed":13093,".setAttribute":13094,"BR":13095,"keep":13096,"ĠALL":13097,"Ġisol":13098,"amma":13099,"Package":13100,"Ġoccasion":13101,"-success":13102,"ед":13103,"ĠLIMITED":13104,"strip":13105,"()ĊĊĊ":13106,"istribution":13107,"Colors":13108,"Ġ+:+":13109,"DidLoad":13110,"aler":13111,"Ġtid":13112,"ĠLED":13113,"ĠLinked":13114,"ĠCart":13115,"())čĊ":13116,"_READ":13117,"Ġkilling":13118,"ĠPHP":13119,"fection":13120,"Ġinstances":13121,"cv":13122,"\"/>":13123,"Ġsf":13124,"Ġtaxes":13125,"_location":13126,"ĠBitcoin":13127,"uable":13128,"rank":13129,"ignore":13130,"track":13131,"ка":13132,"Ġshouldn":13133,"ĠOP":13134,"=>{Ċ":13135,"Ġkm":13136,"Ġhelper":13137,"_head":13138,"ĠWhether":13139,"oco":13140,"_bl":13141,"Ġstatistics":13142,"Ġbeauty":13143,"Ġtog":13144,"tip":13145,"ëĭ¤":13146,"Ġcsv":13147,"(sql":13148,"stdlib":13149,"weak":13150,"Ġlikes":13151,"Äį":13152,"Ġrepeat":13153,"Ġapartment":13154,"Ġemph":13155,"_edit":13156,"Ġvit":13157,"ĉtype":13158,"Even":13159,"uten":13160,"Ġcircumstances":13161,"bian":13162,"Ġsugar":13163,"Windows":13164,"ìŀ":13165,"Ġobserved":13166,"/data":13167,"Ġcalendar":13168,"Ġstrike":13169,"ĠRES":13170,"_sc":13171,"fony":13172,"orem":13173,"(z":13174,"power":13175,"etect":13176,"ĠSat":13177,".description":13178,"Ġgang":13179,"ĠSports":13180,"ongs":13181,"ĠBundle":13182,".sum":13183,"once":13184,"Ġaccused":13185,"Ġexplore":13186,"Ġapproximately":13187,"Ġlosing":13188,"thesis":13189,"ĠFund":13190,"Ġdiagn":13191,"Autowired":13192,"properties":13193,"Ġ_.":13194,"Ġcnt":13195,"cedure":13196,"Ġyy":13197,"Ġgrant":13198,"sock":13199,".innerHTML":13200,"Ġ]);Ċ":13201,"ĠCONFIG":13202,"='$":13203,"]];Ċ":13204,"UND":13205,"Ġglob":13206,"Ġdire":13207,"uffle":13208,"_MEM":13209,"Ġauthentic":13210,">(\"":13211,"Ġdecade":13212,"ĠImport":13213,"Ġoriginally":13214,"ĠjQuery":13215,"Ġindicate":13216,"Ġourselves":13217,"Sw":13218,".lbl":13219,"enerate":13220,"Ġbasically":13221,"ĠHom":13222,"Ġ+#+":13223,"ĠBritain":13224,"ĠKar":13225,"toEqual":13226,".stop":13227,"Ġmodal":13228,"isi":13229,"Ġsuggests":13230,"Ġdtype":13231,"Ġtur":13232,"bf":13233,"Ġconnections":13234,"ĠBefore":13235,"isted":13236,"mouse":13237,"Ġpulled":13238,".build":13239,"Ġlegislation":13240,"Ġforth":13241,"pad":13242,"ego":13243,".Now":13244,"Ġexciting":13245,"}ĊĊĊĊ":13246,"Ġcompr":13247,"Ġshares":13248,"Ġrig":13249,"green":13250,"_vec":13251,"Ġenumerate":13252,"Auto":13253,"icator":13254,"ĠRay":13255,"asse":13256,"Ġholiday":13257,"Ġnullable":13258,"gun":13259,"_details":13260,"Ġwrapper":13261,"seq":13262,"ĠYoung":13263,"juana":13264,"Ġ\"__":13265,"license":13266,"serve":13267,"^(":13268,"iders":13269,".Remove":13270,"ropdown":13271,"'S":13272,"pin":13273,"(token":13274,".Default":13275,"Ġreasonable":13276,"ampion":13277,"ĠSociety":13278,"Ġbei":13279,"erves":13280,"rad":13281,"ĠFox":13282,"_images":13283,"Ġwheel":13284,"')[":13285,"Ġcfg":13286,"(By":13287,"Constructor":13288,"Ġvary":13289,".swift":13290,"Ġproxy":13291,"ĉH":13292,"ĠAnother":13293,"ĠPen":13294,"Ġchecking":13295,"Ġjest":13296,"manager":13297,"Origin":13298,"ugs":13299,"oir":13300,">čĊ":15956,"Ġrelief":15957,"lap":15958,"quer":15959,"_parent":15960,"heap":15961,"LOSE":15962,"Ġcombine":15963,"ĠRose":15964,"owers":15965,"Ġprocedures":15966,"ĠSort":15967,"anim":15968,"variant":15969,"ehicle":15970,"Ġsigning":15971,"Primary":15972,"currency":15973,"Ġsexe":15974,"oen":15975,"theta":15976,"eman":15977,"Ġimpressive":15978,"('_":15979,"ĉU":15980,"ĠTextStyle":15981,"_cnt":15982,"Ġslice":15983,"(':":15984,"Ġunderstood":15985,"His":15986,"Ġinformed":15987,"Ġnick":15988,"(TAG":15989,"hd":15990,"Ġelections":15991,"esture":15992,"ĠSanta":15993,"ĠCoast":15994,".pdf":15995,"inciple":15996,".clone":15997,"born":15998,"uta":15999,"Ġlicensed":16000,"Cr":16001,"Ġbread":16002,"ĠHouston":16003,"Ġnod":16004,"Ġhopes":16005,"ĠCGRect":16006,"Ġguilty":16007,".gif":16008,"Ġrose":16009,".Common":16010,"Tip":16011,"ANK":16012,"ĠFC":16013,"During":16014,"ĠSymfony":16015,"Ġdefensive":16016,"km":16017,")>":16018,"archive":16019,"ĠURI":16020,"ycling":16021,"-o":16022,"ĠWebsite":16023,"AMP":16024,"ishment":16025,"Ġdoctors":16026,"Direct":16027,"ARI":16028,"ĠRedirect":16029,"ieren":16030,"_dist":16031,"yo":16032,"ĠProgress":16033,"Ġzum":16034,"Ġmemor":16035,"ĠED":16036,"Ġjur":16037,"æį®":16038,"_TABLE":16039,"Ġuuid":16040,"Expr":16041,".head":16042,"('%":16043,"pointer":16044,"Ġestimate":16045,"ĠGreg":16046,"Ġloader":16047,"ĠiOS":16048,"Ġmens":16049,"[y":16050,"Ġrefused":16051,"Ġprecision":16052,"isch":16053,"ĠACTION":16054,"Cloud":16055,"sWith":16056,"(ret":16057,"_ADDR":16058,"_conf":16059,"(df":16060,"Ġlocked":16061,"Ġrising":16062,"ãĥ»ãĥ»":16063,"ĠMs":16064,"Ġscenes":16065,"_EXT":16066,"_raw":16067,"_the":16068,"people":16069,"Ġrecon":16070,"ĠFun":16071,"Ġbless":16072,"ĠUpdated":16073,"ün":16074,"ĠĠĠĠĠĠĠĠĠĠĠĠčĊ":16075,"pection":16076,"Release":16077,".logger":16078,"ĠSY":16079,"Ġcounsel":16080,"urd":16081,"_true":16082,"Ġeverybody":16083,"ivot":16084,"Ġhence":16085,"ĠNAS":16086,"Ġopposed":16087,"unknown":16088,"ĠDESC":16089,"ĠChair":16090,"failed":16091,"ĠINCLUDING":16092,"Ġwriters":16093,"{}Ċ":16094,"ÃŃt":16095,"_copy":16096,"}:":16097,"ĠBat":16098,"Ġconverted":16099,"eding":16100,"placement":16101,"ĠHost":16102,"Sound":16103,"им":16104,"Ġsought":16105,"mid":16106,"Ġsalary":16107,"ogg":16108,"âĦ¢":16109,"bul":16110,"Ġwir":16111,"validator":16112,"_STAT":16113,".store":16114,"ĠBattle":16115,"ın":16116,"Ġ-->ĊĊ":16117,"Trump":16118,"dot":16119,"ĠCONT":16120,".fetch":16121,"Ġcontinu":16122,"was":16123,"Ġfraud":16124,"_tmp":16125,"mitter":16126,".pictureBox":16127,"GA":16128,"Ġtournament":16129,".Input":16130,"[r":16131,"exion":16132,"centage":16133,"ĠKorean":16134,"undef":16135,"ĠAvailable":16136,"reshape":16137,"Ġkit":16138,"ĠStruct":16139,"ĠSUB":16140,"Answer":16141,"_lib":16142,".twitter":16143,"Ġore":16144,"ĠDragon":16145,".Ext":16146,",k":16147,"Ġexplanation":16148,"refs":16149,"ĠDrive":16150,"ĠTraining":16151,".Has":16152,"intage":16153,"big":16154,"ologist":16155,"ennis":16156,"Ùĩ":16157,"Ġchicken":16158,"ĠĠĠĠĠĠĠĠĠĠĊ":16159,"çĽ":16160,"ãģ§":16161,"Ġpeak":16162,"Ġdrinking":16163,"Ġencode":16164,"ĠNEW":16165,"malloc":16166,"ĉfprintf":16167,"Ġ=================================================================":16168,"including":16169,"Ġprinciples":16170,"ĠMah":16171,"storage":16172,"-key":16173,"Ġkeyword":16174,"%;":16175,"Ġtrained":16176,".contrib":16177,"Ġkv":16178,"__':Ċ":16179,"ĠBoy":16180,"parameter":16181,"Ġsuite":16182,"Ġthousand":16183,"Ġcoordinate":16184,"-generated":16185,"íķĺ":16186,"generated":16187,"Ġadmitted":16188,"Ġpussy":16189,"#w":16190,"Ġswim":16191,"union":16192,"Na":16193,"ĠRoyal":16194,".channel":16195,"Updated":16196,"_ROOT":16197,"Ġvital":16198,"raction":16199,"ĠCrusher":16200,"Ġpreced":16201,"Ġhorizontal":16202,"Blueprint":16203,"Ġattrs":16204,"Ġsmoke":16205,"ÐĴ":16206,".Equals":16207,"FB":16208,"ĠResources":16209,"rolling":16210,"Ġpasses":16211,"ĠNum":16212,"rotate":16213,"etype":16214,"\\\",":16215,"Ġsensitive":16216,"Ġtall":16217,"?âĢĿĊĊ":16218,"Proxy":16219,"iy":16220,"_section":16221,"âĢĶâĢĶâĢĶâĢĶ":16222,"brid":16223,"Ġcircuit":16224,"atan":16225,"ENC":16226,"Ġdriven":16227,"Ġvoted":16228,"Ġeducational":16229,"Ġinteraction":16230,"abetes":16231,"Ġtone":16232,"ĠInitializeComponent":16233,"Ġmerely":16234,"Ġìŀ":16235,"cookie":16236,"_div":16237,"ĠUILabel":16238,"vely":16239,"});čĊ":16240,"_ENT":16241,"#+#+":16242,"articles":16243,"ĠSouthern":16244,"Ġstronger":16245,"ĠGiven":16246,"ĠEric":16247,"ĠIR":16248,"abstract":16249,"Under":16250,"nable":16251,"Ġincrement":16252,"oven":16253,"Ġcoin":16254,"_timer":16255,"Ġsuffered":16256,"ĠFREE":16257,"'].\"":16258,"ĠQueen":16259,"stats":16260,"Ġmeetings":16261,"Ġentering":16262,"Ġalongside":16263,"(session":16264,"itals":16265,"Ġfoundation":16266,"ĠCredit":16267,".div":16268,"_ALL":16269,"pcion":16270,"_stat":16271,"icking":16272,"Defaults":16273,"_src":16274,"Ġoutputs":16275,"/B":16276,"Ġenthus":16277,"-bl":16278,".ForeColor":16279,"ĉtemp":16280,"Face":16281,"Ġinteract":16282,"Ġweird":16283,"Mount":16284,"rell":16285,"udents":16286,"Ġrequirement":16287,"ĠSus":16288,"IER":16289,"Ġelected":16290,"reference":16291,"ĠME":16292,"Ġservers":16293,".wait":16294,"Ġsnapshot":16295,"ilton":16296,"Ġtries":16297,"Ġtipo":16298,".Time":16299,">w":16300,"Ġmountain":16301,"Ġpounds":16302,"Ġ[...":16303,"exists":16304,"ĠngOn":16305,"_MAP":16306,"Ġflying":16307,"xiety":16308,"ĉvalue":16309,"_DB":16310,"uno":16311,"Ġseats":16312,"TURN":16313,".author":16314,"!)":16315,"orce":16316,"Ġindicated":16317,".sin":16318,"Ġassignment":16319,"imiento":16320,"ĠFrame":16321,"_gen":16322,"inery":16323,"_)":16324,"messages":16325,".settings":16326,"ĠMean":16327,"ĠMuseum":16328,"irq":16329,"attach":16330,"ĠPalestin":16331,"_QU":16332,"_tags":16333,"Ġcasual":16334,"emen":16335,"ASSWORD":16336,"$s":16337,"ĠCirc":16338,"ой":16339,"etric":16340,"/P":16341,"Ġepoch":16342,"The":16357,"ĠAk":16358,"Ġgrass":16359,"/*čĊ":16360,"(dis":16361,"Ġguns":16362,"Ġtb":16363,"ĠKevin":16364,".args":16365,"ĠAh":16366,"oped":16367,"(J":16368,"columns":16369,"arguments":16370,"ĠWithEvents":16371,"_full":16372,"ĠDefense":16373,"Simple":16374,"Ġdeaths":16375,"Ġextensive":16376,"ĠStill":16377,"ĠExpression":16378,"ĠAgency":16379,"Ġperforming":16380,"FX":16381,"Ġusuario":16382,"UAL":16383,"Side":16384,"odos":16385,"aptop":16386,"Ġcredentials":16387,"_cap":16388,"atient":16389,"ĠDisney":16390,"Ġai":16391,"Ġchip":16392,"Ġvolt":16393,".makeText":16394,"%%%%%%%%%%%%%%%%":16395,"Ġbelief":16396,"_LOC":16397,"ĠCivil":16398,"Navigation":16399,"Ġreveal":16400,"Ġviolent":16401,"ĠFil":16402,"Ġcatalog":16403,"emed":16404,"scan":16405,".control":16406,"Ġconstitution":16407,"Country":16408,"Separator":16409,"_APP":16410,"topic":16411,"uetooth":16412,"MIN":16413,"Ġdescriptor":16414,"yt":16415,"ETHER":16416,"Ġdistribute":16417,"'}Ċ":16418,".trim":16419,".Line":16420,"Ġlbl":16421,"assertEquals":16422,"ĠDet":16423,"ombok":16424,"(width":16425,"Ġtort":16426,"ĠEXPRESS":16427,"aco":16428,"Using":16429,"ĠBrand":16430,"wall":16431,"EMENT":16432,"ĠCommunic":16433,"(Ċ":17055,"?>\"":17056,"Ġ///Ċ":17057,"Ġeiner":17058,"Ġweekly":17059,"ĉlogger":17060,"_pop":17061,"_man":17062,"Ġmigrations":17063,"Ġasks":17064,"Ġbs":17065,"Ġfalls":17066,".Where":17067,"-height":17068,"_feature":17069,".Min":17070,"Ġhyper":17071,"Ġvolatile":17072,"Ġtwenty":17073,"Typography":17074,"Unable":17075,"Det":17076,",f":17077,"-mod":17078,"Ġsettlement":17079,"Ġcontracts":17080,"nome":17081,"Bad":17082,"ĠBrian":17083,"(username":17084,"!!!!":17085,"Ġhack":17086,".Field":17087,"HR":17088,"ĠJordan":17089,"iza":17090,"ĠÂł":17091,"ĠSher":17092,".header":17093,"(other":17094,"ĠDub":17095,"(op":17096,"ĠRound":17097,"Ġvie":17098,"Ġappl":17099,"ĉJ":17100,"ĠInsert":17101,"ĠLP":17102,"regon":17103,"ĠMPI":17104,"Ġanchor":17105,"aca":17106,"ør":17107,"Ġade":17108,"anchor":17109,"quee":17110,"ĠTreeNode":17111,"Ġtargeted":17112,"Ġlaid":17113,"ABEL":17114,"vet":17115,"ĠOrigin":17116,"Ant":17117,".');Ċ":17118,"expect":17119,"edReader":17120,"ĠMajor":17121,"Ġinch":17122,"Compar":17123,"Ġpreview":17124,"Ġillness":17125,"ĠCONTRACT":17126,"ĠIndepend":17127,"uuid":17128,"Ġnome":17129,"Ġtc":17130,"ĠAvenue":17131,"isan":17132,"Ġphrase":17133,"_move":17134,"\")[":17135,"Ġprovision":17136,"Ġconcentr":17137,"_IR":17138,"ĠUt":17139,"()+":17140,"Ġnas":17141,"!,":17142,"ĠRobin":17143,"iations":17144,"atitude":17145,"Ġpx":17146,"ĠWithout":17147,"/bash":17148,"ekt":17149,"reement":17150,"Observer":17151,"ĠRegion":17152,"UBLIC":17153,"Ġ{//":17154,"KN":17155,"å·":17156,"GameObject":17157,"å¾":17158,"encoding":17159,"Ġ***":17160,"projects":17161,"Ġtk":17162,"Ġcheese":17163,"EMPL":17164,"aro":17165,"ĠاÙĦ":17166,"Ġconsists":17167,"refresh":17168,"ureau":17169,"ĠScanner":17170,"Ġsoil":17171,"Ġflavor":17172,"DataSource":17173,"Execute":17174,"ение":17175,"Ġshit":17176,"åĪĨ":17177,"Ċ":17419,"Ġsubsequent":17420,"posable":17421,"-fluid":17422,"Ġthorough":17423,"Ġpublicly":17424,"apters":17425,"ĠWilson":17426,"_PRE":17427,"yard":17428,"ä¼":17429,"ĉin":17430,"Ġrevers":17431,"Ġbullet":17432,"cribed":17433,"nesota":17434,"Ġ($_":17435,"annon":17436,"cursor":17437,"Ġclothing":17438,"ĠMulti":17439,":',":17440,"Ġvess":17441,"ordinator":17442,"Ġeinem":17443,"Cannot":17444,"Ġarmed":17445,"ĉV":17446,"ä¸Ĭ":17447,".Flat":17448,"ĠSep":17449,"ĠSubject":17450,"_font":17451,"Ġcharacteristics":17452,"Done":17453,"eln":17454,"############":17455,"POS":17456,"Ġdensity":17457,"ĠPlatform":17458,"-items":17459,"Ġovers":17460,"Ġpushing":17461,"ç¤":17462,".Connection":17463,"_term":17464,"Ġinitialization":17465,"________________________________":17466,"ç¬":17467,".document":17468,"lesh":17469,"ĉdocument":17470,"ĠPin":17471,"ça":17472,"Ġdefinitions":17473,".Path":17474,"_WRITE":17475,"ĠĉĊ":17476,"?>ĊĊ":17477,"Ġterrible":17478,"bean":17479,"ickets":17480,"ĠSV":17481,"Buy":17482,"(task":17483,"Ġregime":17484,"google":17485,"Ġcrack":17486,".visit":17487,"NUM":17488,"energy":17489,"Ġstruck":17490,"_sample":17491,".payload":17492,"Ġrevis":17493,"ĠScene":17494,"Ġpg":17495,"Ġbreakfast":17496,"URRENT":17497,".charAt":17498,"_exception":17499,"ĠAnton":17500,"Ġguidelines":17501,"Ġexhaust":17502,"ĠFinancial":17503,"Ġindent":17504,"Ġdesktop":17505,"Hidden":17506,"Failure":17507,"Ġprinciple":17508,"Ġiv":17509,"Ġseks":17510,"network":17511,"ĠnumberOf":17512,"ĠAlbert":17513,"ĉlong":17514,",.":17515,"Ġzeros":17516,"fade":17517,"ĠTyp":17518,"ĠTerm":17519,"ĠArts":17520,".Application":17521,"Ġbehalf":17522,"æĪ·":17523,"Ġmere":17524,"(`${":17525,"Ġawareness":17526,"elpers":17527,"flix":17528,"Ġweigh":17529,"Ġestimates":17530,".child":17531,"/O":17532,"ĠBitmap":17533,".bottom":17534,"Ġ**************************************************************************":17535,"Expect":17536,"ento":17537,"ĠForum":17538,"veral":17539,"Ġjail":17540,"Ġabilities":17541,"ĠHOLD":17542,"ĠCit":17543,"Ġdynam":17544,"Ġgray":17545,"ĉĉĉĉĉĉĉĉĉĉĉĉĉ":17546,".nextInt":17547,"antly":17548,"ĠARISING":17549,"(private":17550,"Ġrejected":17551,"ĠNic":17552,"Ġleather":17553,"={Ċ":17554,"alytics":17555,"thetic":17556,".Top":17557,".Page":17558,"={`":17559,"Ġ;čĊ":17560,"depth":17561,"mann":17562,"WD":17563,"ĠSom":17564,".Right":17565,"Ġ)}Ċ":17566,"Ġtrait":17567,"ÃĹ":17568,"iac":17569,"Ġrv":17570,"Sample":17571,".Xml":17572,"opped":17573,"ĠÑĦ":17574,"lists":17575,"Ġtear":17576,"iversary":17577,".collection":17578,"ĠConstitution":17579,"ĠHttpResponse":17580,"Ġbrill":17581,"ĠProm":17582,"hover":17583,"ĠMiami":17584,"Ġargue":17585,"_float":17586,"ĠãĤ":17587,"Ġnat":17588,"ĠTal":17589,"Ġintegration":17590,"(cur":17591,"Ġremoving":17592,"Ġcoeff":17593,"ĠThough":17594,"Ġforecast":17595,"ĠVegas":17596,"Site":17597,"Ġtrab":17598,"ĠHenry":17599,"-i":17600,"Ġinvolves":17601,"BT":17602,"Ġslo":17603,"Invoke":17604,"Ġlucky":17605,"rat":17606,"Ġ?Ċ":17607,"Ġhandled":17608,"(fd":17609,"contents":17610,"ĠOFF":17611,"RF":17612,"Ġsty":17613,"ĠMotor":17614,"tery":17615,"tax":17616,"MAP":17617,"ĠMrs":17618,"Ġphones":17619,"ĠUIView":17620,"\")));Ċ":17621,"(dev":17622,"ĠIrish":17623,"Ġws":17624,"DI":17625,"_OFFSET":17626,"ĠEvents":17627,"Ġstages":17628,"Ġ}//":17629,"Ġhaben":17630,"STANCE":17631,"ĠSin":17632,"ĠMoney":17633,"(top":17634,"Ġappointment":17635,"VERSION":17636,"metadata":17637,"_comment":17638,"Ġcolleagues":17639,"maps":17640,"âĺ":17641,"ĊĉĊ":17642,"(al":17643,"_req":17644,"Ġfut":17645,"Ġarchitecture":17646,"ĠWHETHER":17647,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":17648,"_screen":17649,"ĠstyleUrls":17650,"Ġmonster":17651,".up":17652,"phia":17653,"Ġprocessor":17654,"ĠTerr":17655,"=',":17656,"ĠManufact":17657,"ĠNT":17658,"kel":17659,"ibern":17660,"ĉfile":17661,"Ali":17662,"rientation":17663,"Ġ//!":17664,"apore":17665,"aneous":17666,"ĠCreat":17667,"folder":17668,"Ġhay":17669,"Suppress":17670,"(left":17671,"Ġeuro":17672,"Ġdisclaimer":17673,"ustry":17674,"ships":17675,"_fd":17676,"ĠFa":17677,"_insert":17678,"Ġrol":17679,"ifting":17680,"ĠComments":17681,"_br":17682,"Ġlosses":17683,"ĠAdded":17684,"charg":17685,"Ġпо":17686,"_system":17687,"ĠSometimes":17688,"ĠSpain":17689,"(group":17690,"ialis":17691,"Ġdollar":17692,"ĠArgs":17693,"quires":17694,"ĠTen":17695,".scss":17696,"Ġsurvive":17697,"usage":17698,"Ġjun":17699,"imiter":17700,"ï¼ģĊĊ":17701,"Ġfifth":17702,"toggle":17703,"Ġdecline":17704,"($\"":17705,"(Long":17706,"inge":17707,"Ġpilot":17708,"-light":17709,"-radius":17710,"Ġpodcast":17711,"Ġnaturally":17712,"Pages":17713,"为":17714,"ĠDespite":17715,"Ġlighting":17716,"Ġcrate":17717,"ĠBinary":17718,"Ġreducing":17719,"Ġeleg":17720,"ĠMouse":17721,"ĠTestBed":17722,"ĠbeforeEach":17723,"_ARRAY":17724,"Redirect":17725,"Ġflood":17726,"Ġships":17727,"Ġelectricity":17728,")*(":17729,"ê¸":17730,"ĠViet":17731,"hero":17732,"Ġdia":17733,"ĠKent":17734,"heart":17735,"Ġthreats":17736,"_acc":17737,"Ġsymbols":17738,"ischen":17739,"_inst":17740,"Criterion":17741,"ĠTIM":17742,".Height":17743,"ĠâĢĻ":17744,"();ĊĊĊ":17745,"Products":17746,"_SP":17747,"ĠCy":17748,"Ġdependent":17749,"este":17750,"Ġdatos":17751,"dit":17752,"ав":17753,"IGNAL":17754,"Ġlesson":17755,"\">'":17756,"ĠCover":17757,"ĠHope":17758,"ĠTimer":17759,"Ġdad":17760,"viders":17761,"ĠPhot":17762,"/?":17763,"ropy":17764,"oming":17765,"asion":17766,"Ġ\\(":17767,"ĠET":17768,"ĠReading":17769,"Ġepisodes":17770,"lm":17771,"echa":17772,"Ġneuro":17773,"Ġharmon":17774,"Ġliberal":17775,"-ind":17776,"DATA":17777,"Ġeveryday":17778,"Ġdivided":17779,"ĠActiveRecord":17780,"figure":17781,"UA":17782,"ä¹":17783,"riendly":17784,"tech":17785,".gameObject":17786,"иÑĤÑĮ":17787,"Ġmoon":17788,"ftime":17789,"Ġnoch":17790,"ĠTORT":17791,"ĠVM":17792,".initial":17793,"(child":17794,"Ġmusical":17795,"Ġoc":17796,"bas":17797,"ĠHay":17798,"_long":17799,"Ġmemset":17800,"iley":17801,"adelphia":17802,"SV":17803,"roat":17804,"_tx":17805,"Ġlon":17806,"ĠngOnInit":17807,"bp":17808,"ĠGolden":17809,"ACHE":17810,"Ġworried":17811,"azi":17812,"Ear":17813,"Take":17814,"(fp":17815,"burgh":17816,"_Data":17817,"gres":17818,"ĠOnt":17819,"pus":17820,"Ġtransparent":17821,"Ġpocket":17822,"Ġram":17823,"igrations":17824,".čĊčĊ":17825,"Ġ[(":17826,"Ġadopted":17827,"Ġreportedly":17828,"ĠDream":17829,"Ġ}));Ċ":17830,"losing":17831,"Ġteeth":17832,"ĠBooks":17833,"\",&":17834,"enny":17835,"LEMENT":17836,"Ġgel":17837,"ĠPlant":17838,"!âĢĿ":17839,".host":17840,"ĠReply":17841,"rength":17842,"Ġrecognition":17843,"Ġ}}>Ċ":17844,"LA":17845,"Ġmirror":17846,"Ġassistant":17847,"(device":17848,"Ġspiritual":17849,"builder":17850,"§":17851,"Ġoutr":17852,"Ġtt":17853,"ĠPER":17854,"Ġradical":17855,"Methods":17856,"Ġpace":17857,"udy":17858,"Ġgut":17859,"ĠGreek":17860,"Ġnonatomic":17861,"ĠPaper":17862,"_GPIO":17863,"Ġobst":17864,".Ad":17865,"vironments":17866,"ĠSov":17867,"(con":17868,"ĠTransaction":17869,".assign":17870,"ĉcatch":17871,"elter":17872,"Ġbitcoin":17873,"_GR":17874,"ĠčĊ":17989,"metic":17990,"Ġtransformation":17991,"åı·":17992,"Ġrgb":17993,"istributions":17994,"Ġimplicit":17995,"/in":17996,"destination":17997,"аÑĤÑĮ":17998,"Zero":17999,"Ġunset":18000,".where":18001,".go":18002,"Ġformation":18003,"Ġdeclaration":18004,"()čĊčĊ":18005,"ĠExpl":18006,"ĉĉĉĠĠ":18007,"/pro":18008,".JSON":18009,"Ġdesk":18010,".substr":18011,"//----------------------------------------------------------------------------":18012,"lyn":18013,"pson":18014,"disable":18015,"ĠFunc":18016,"ĉAssert":18017,"ĠMARK":18018,"Ġdefeat":18019,"Ġblind":18020,"Ġconstants":18021,".headers":18022,"UILD":18023,"Ġexpenses":18024,"Pixel":18025,"Ġhr":18026,"Ġfel":18027,"ĠEastern":18028,"_del":18029,"ĠCub":18030,"Ġsq":18031,"ĉcount":18032,"ĠDirectory":18033,"Ġexclus":18034,"Ġhistoric":18035,"Ġ------------------------------------------------":18036,"Ġcomposition":18037,"ĠdataGridView":18038,"ĠBurn":18039,"ĠBC":18040,"Master":18041,"Ġspawn":18042,"Ġbearing":18043,".SetActive":18044,"ilo":18045,"Ġgallery":18046,"Ġfounded":18047,"Ġavailability":18048,".sqrt":18049,"Ġpes":18050,"ĠDOM":18051,"mate":18052,"Oct":18053,"Ġmatched":18054,"itivity":18055,"Ġanxiety":18056,".price":18057,"ĠInstant":18058,"ìĬ":18059,"Ġtut":18060,"ICollection":18061,".shared":18062,"_sql":18063,"tbl":18064,"library":18065,"_destroy":18066,"ermal":18067,"ĠNotes":18068,"ĠEin":18069,"Ġsouthern":18070,"ĠOTHERWISE":18071,"Ġmacro":18072,".lower":18073,"cls":18074,"ContentView":18075,".link":18076,"constant":18077,"ĠBes":18078,"Ġsomebody":18079,"nb":18080,"\">{":18081,"(local":18082,".....":18083,"ĠNull":18084,"mx":18085,"Ġç":18086,"Ġpause":18087,"-----------":18088,"_MO":18089,"ĠCM":18090,"ĠforKey":18091,"ĠDVD":18092,"Ġclosest":18093,"_DEVICE":18094,"ĠStephen":18095,"ĠBBC":18096,"ĠTravel":18097,"Paint":18098,"ĠResults":18099,"ĠRule":18100,"Ġtp":18101,"Ġratings":18102,"cin":18103,"csv":18104,">/":18105,"ĠGOP":18106,"lad":18107,"ĠÑĢ":18108,"ĠindexPath":18109,"matrix":18110,"=f":18111,"arsed":18112,"Ġ});":18113,"ĠCos":18114,"ĠScore":18115,"Ġtak":18116,"ĠESP":18117,"ĠINC":18118,"_NULL":18119,"-flex":18120,"\"][":18121,"into":18122,"eland":18123,"Authorization":18124,"_FALSE":18125,"Ġgate":18126,"Ġvid":18127,"istent":18128,"TIME":18129,"Ġrewrite":18130,"Ġtie":18131,"Ġarchive":18132,".events":18133,".getParameter":18134,"ĠPermission":18135,"Ġprogramme":18136,"Ġé":18137,"jud":18138,"Ġcameras":18139,"(sys":18140,"ĠSyrian":18141,"Ġimprovements":18142,"Ġhip":18143,"Ġsuicide":18144,"Ġscholar":18145,"Ġcompatible":18146,"remote":18147,".down":18148,"FUNCTION":18149,"Ġmanaging":18150,"ĠUIKit":18151,".raw":18152,">>>>":18153,"Ġdemands":18154,"ellite":18155,"Ġdent":18156,"ĠMicro":18157,"åıĸ":18158,"'][$":18159,"ĠIE":18160,"imension":18161,"Ġtrem":18162,"Ġgained":18163,".with":18164,".ok":18165,"hou":18166,"Ġbom":18167,"ampaign":18168,"Ġjoining":18169,"fish":18170,"ĠaddSubview":18171,"Ġnorthern":18172,".cor":18173,"oret":18174,"Die":18175,"inish":18176,"_comp":18177,"Ġattended":18178,"Ġcollapse":18179,"ĠSS":18180,"acent":18181,"_EQUAL":18182,"ĠDeep":18183,"RGB":18184,"ĉtest":18185,"olves":18186,"uset":18187,"UnityEngine":18188,"writer":18189,"Resolver":18190,",%":18191,"ifference":18192,"_remove":18193,"onda":18194,"Ġfemme":18195,"decode":18196,"Branch":18197,"Ġflush":18198,"Ġinnovative":18199,"Tests":18200,"Ġ['./":18201,"Ġcovering":18202,".admin":18203,"ultipart":18204,"(lambda":18205,"namespace":18206,"ĠSport":18207,"Ġ!(":18208,"acles":18209,"Ġdepression":18210,"ĠKong":18211,"Ġpert":18212,"ĠConn":18213,"ĠOtherwise":18214,"/home":18215,"supported":18216,"Ġpink":18217,"Ġinvited":18218,"ños":18219,"_enabled":18220,"Ġ-Ċ":18221,"FW":18222,"eners":18223,"ĠMY":18224,"Ġsuggestions":18225,"Canvas":18226,"Ġfer":18227,"ĠMarketing":18228,"@Test":18229,"untu":18230,"ĠVen":18231,"ĠCou":18232,"ivals":18233,"Donald":18234,"limited":18235,"ĉĉĉĉĉĉĊ":18236,"Ġanalyst":18237,"(entry":18238,"Ġrepresentative":18239,"_attributes":18240,"Ġfur":18241,".hide":18242,"resp":18243,"adores":18244,"rides":18245,"ĠJosh":18246,"robot":18247,"ĠNAT":18248,"Ġsesso":18249,"Ġintegrated":18250,":true":18251,"parts":18252,"Ġstupid":18253,":event":18254,"@endsection":18255,"Ġpu":18256,".Table":18257,"ĠYii":18258,"`;ĊĊ":18259,"Ġclang":18260,"=\"\">":18261,"engan":18262,"_parameters":18263,".internal":18264,"ĠModern":18265,"Ġmetric":18266,"Ġsemi":18267,"={{Ċ":18268,".amazon":18269,"ĠBB":18270,"ainty":18271,"viewport":18272,"ĠstartActivity":18273,"dispatch":18274,"*****":18275,"Ġflav":18276,"ifferent":18277,"[this":18278,"Ġstake":18279,"Ġargued":18280,"viously":18281,".work":18282,"ĠOak":18283,"Old":18284,"(async":18285,"notes":18286,"Ġflip":18287,"Ġdisag":18288,"ĠTE":18289,"ĉerror":18290,"<'":18291,"Ġ»ĊĊ":18292,"Ġfiltered":18293,"ĠMach":18294,"Ġhung":18295,"_dump":18296,"_samples":18297,"-dismiss":18298,"Ġray":18299,"Implemented":18300,"DK":18301,"Ġjed":18302,"Ġbreaks":18303,"Ġfits":18304,".gr":18305,"ĠZero":18306,"oro":18307,"Ġequally":18308,"Ġ'[":18309,"Ġconcerning":18310,"<":18407,"Ġpromot":18408,"Ġincl":18409,"_only":18410,"를":18411,"ĠAttorney":18412,"-date":18413,"Ġlandscape":18414,"Ġfu":18415,"SY":18416,".prop":18417,"ĠArr":18418,"pag":18419,"ParallelGroup":18420,"':čĊ":18421,"Ġlogs":18422,"aunch":18423,"unci":18424,"nama":18425,"TableCell":18426,"issues":18427,".{":18428,"ecurity":18429,"_exec":18430,"olds":18431,"Ġhosts":18432,"Ġproto":18433,"_import":18434,"_sort":18435,"ĠBow":18436,"ĠNormal":18437,"ĠFarm":18438,".createParallelGroup":18439,"Rotation":18440,".err":18441,"Ġpleased":18442,"itage":18443,".Wh":18444,"ĉĉĠĠĠĠ":18445,"MR":18446,"ĠMORE":18447,"ĠNatural":18448,"_transform":18449,"BASE":18450,"eneral":18451,"utdown":18452,".commons":18453,"WT":18454,"Ġaan":18455,".Result":18456,"dog":18457,"Ġclicking":18458,"),ĊĊ":18459,"#line":18460,"Operator":18461,"Ġciv":18462,"Ġmerg":18463,"obuf":18464,"ngthen":18465,"Ġ[{":18466,"Ġcancell":18467,"trigger":18468,".:":18469,"WORK":18470,"declare":18471,"Ġdecrease":18472,"ÅĽci":18473,"loom":18474,".None":18475,"ĠMI":18476,"ĠJason":18477,"Ġhealthcare":18478,"iamond":18479,"sylvania":18480,"*x":18481,"ĠRa":18482,"[b":18483,"Ġprinting":18484,"phabet":18485,"ĠLabour":18486,"opper":18487,"Ġzijn":18488,"-target":18489,"_FUNCTION":18490,"Ġoct":18491,"ениÑı":18492,"åľ¨":18493,"Ġwestern":18494,"Ġcomputers":18495,"ĠRET":18496,"HashMap":18497,"[String":18498,"getValue":18499,"_DATE":18500,".Next":18501,"ĠFif":18502,"él":18503,"icked":18504,"æİ":18505,"-MM":18506,"Ġ{ĊĊĊ":18507,"Ġcontacts":18508,"Ġdigits":18509,"Produ":18510,"Ġunusual":18511,"Ġrapidly":18512,"tures":18513,"Ġangry":18514,"cancel":18515,"xxxx":18516,"_parser":18517,"idity":18518,"_PREFIX":18519,"Ġmehr":18520,"Ġrarely":18521,"ethe":18522,"opes":18523,"Ġ%.":18524,"works":18525,"Ġtheta":18526,"Ġcontribution":18527,"ĠTony":18528,"Ġsquad":18529,"ай":18530,"Ġîn":18531,"there":18532,"outed":18533,"ĉq":18534,"ĻĤ":18535,"good":18536,"LI":18537,"页":18538,"ĠLiving":18539,"izabeth":18540,"Ġkt":18541,"ĠDallas":18542,"]],Ċ":18543,"Ġ/>ĊĊ":18544,"Ġraising":18545,"/router":18546,"_game":18547,"ĠCUR":18548,"zens":18549,".es":18550,"ĠfontWeight":18551,"(func":18552,"notification":18553,"Ġ'../../../":18554,"Ġblame":18555,"ãĢĤĊĊĊĊ":18556,"anco":18557,"Identity":18558,"follow":18559,"Ġarts":18560,"xs":18561,"Ġofficially":18562,"ĠStudio":18563,"Ġrecommendations":18564,"Ġlocale":18565,"Ġamateur":18566,"ĠEnable":18567,"Ġcaps":18568,".End":18569,"-add":18570,"_gshared":18571,"ĠCT":18572,"Force":18573,"ĊĠĠĠĠĠĠĠĠĠĠĠĠĊ":18574,"Ġorange":18575,"Ġlp":18576,"Ġanswered":18577,".Grid":18578,"Ġdual":18579,"Ġstrategic":18580,"Ġnobody":18581,"Ġfatal":18582,"_est":18583,"(el":18584,"Ġìł":18585,"ĠBudd":18586,"AIT":18587,"_factor":18588,"-one":18589,"ĠHAVE":18590,"\"čĊčĊ":18591,"Prof":18592,"Ġär":18593,"strings":18594,"Ġdirty":18595,"ĠFace":18596,"ĠBegin":18597,"ĠBus":18598,"Ġwis":18599,"åŃĹ":18600,"Ġspeaker":18601,"Ġcarrier":18602,"ĠOm":18603,"Ġhadn":18604,"Allow":18605,"::__":18606,"Ġverb":18607,"ĠComplete":18608,"ĠEasy":18609,"Ġbills":18610,"ĠĠĊĊ":18611,"Vertical":18612,"Ġpron":18613,"ĠDefine":18614,"Ġlookup":18615,"variables":18616,"Ġpandas":18617,"umes":18618,"Ġinnoc":18619,"ĠsetUp":18620,"ĠChampionship":18621,"artist":18622,"ĠCType":18623,"Foundation":18624,"à¹Ī":18625,"ĠSetup":18626,"Ġrecipes":18627,"ĠUIColor":18628,"ĠFight":18629,"Ġauthorized":18630,"_click":18631,"_success":18632,"angan":18633,"ĠMountain":18634,"ĠDoctor":18635,"Ġegg":18636,"ĠMedicine":18637,"cles":18638,"`.Ċ":18639,"[int":18640,"dashboard":18641,"ĠAppro":18642,"-dr":18643,"Ġproduces":18644,"Ġrental":18645,"Ġreload":18646,"Ġarrival":18647,"spot":18648,"Ġundert":18649,"Ġequipped":18650,"Ġproved":18651,"Ġcenters":18652,"Ġdefines":18653,"also":18654,"Ġopacity":18655,"ĠUnfortunately":18656,"ĠIllinois":18657,"Ġне":18658,"ĠTemple":18659,"ĠTrail":18660,"ĠKelly":18661,"Ġmeasurement":18662,"Ġseparated":18663,"-circle":18664,"Hey":18665,"ĠREAD":18666,"igits":18667,"Ġib":18668,"ĠMOD":18669,"attery":18670,"аз":18671,"Ġvend":18672,"енÑĤ":18673,"ĠHttpClient":18674,"safe":18675,"_ASS":18676,"icit":18677,"ĠConstruct":18678,"ĠClo":18679,"ĠSix":18680,"_TOKEN":18681,"(block":18682,"Ġwarned":18683,"/*!":18684,"!Ċ":18769,"Ġinnovation":18770,"_\"":18771,"Ġ);čĊčĊ":18772,"Ġspots":18773,"Ġchoosing":18774,".cs":18775,"Ġflexible":18776,"UInt":18777,"Ġscratch":18778,"-al":18779,"Ġfestival":18780,"Ġoutstanding":18781,"================================================":18782,"Mean":18783,"ĠOregon":18784,"symbol":18785,".account":18786,"dney":18787,"'''":18788,"!\",":18789,"Ġparticle":18790,"Ãĥ":18791,"[MAX":18792,"IVER":18793,"ERENCE":18794,"NSMutable":18795,"ĠColumbia":18796,"_ĊĊ":18797,".fr":18798,"Ġcogn":18799,"VR":18800,"ĠMethods":18801,"ĠMade":18802,"ĠBR":18803,"ĠElse":18804,"Ġeggs":18805,"Ġswing":18806,"ĠInv":18807,"Ġdiseases":18808,"Ġfirms":18809,"Ġlemma":18810,"}`);Ċ":18811,"lings":18812,"Ġgym":18813,"uminum":18814,".Trim":18815,"Mem":18816,"Ġcriticism":18817,"ibernate":18818,"_TX":18819,"ioni":18820,"Ġguidance":18821,"Ġrepeatedly":18822,"Ġsupplier":18823,"Ġpainting":18824,".Fragment":18825,"edException":18826,"Ġwiring":18827,"Ġcourts":18828,"WEB":18829,"æľī":18830,"\\.":18831,"illance":18832,"Ġbrows":18833,"ĠPattern":18834,"PLICATION":18835,"ĠSummer":18836,"Chain":18837,"Ġcute":18838,"mercial":18839,"Ġdil":18840,"ĠFranklin":18841,"ĉglobal":18842,"INCLUDING":18843,"history":18844,"Ġlst":18845,"Qt":18846,"SDL":18847,"alia":18848,"iere":18849,"(...":18850,"ĉcin":18851,"iffs":18852,"velope":18853,"ĠRoot":18854,"cluster":18855,"UserName":18856,"igne":18857,"()Ċ":18949,"Ġapplying":18950,"Ġpromised":18951,"Ġox":18952,"ncia":18953,"ĠValidation":18954,"orts":18955,"_cur":18956,"elect":18957,"eye":18958,"(Data":18959,"Ġreporter":18960,"ĠBuff":18961,"Ġsr":18962,"Ġ\";":18963,"icky":18964,"Ġtempor":18965,"SN":18966,"Ġresident":18967,"pires":18968,"ysical":18969,"Ġendorse":18970,"ĠSong":18971,"isEmpty":18972,"leet":18973,"_util":18974,"Ġdistingu":18975,"ĠTalk":18976,"ĠMot":18977,"(default":18978,".Arg":18979,"gorithms":18980,"_words":18981,"immer":18982,"_reset":18983,"family":18984,"WW":18985,"Ġsavings":18986,"ĠâĢĿ":18987,"_enable":18988,"sidebar":18989,"Running":18990,"Ġali":18991,"Ġtestim":18992,"Ġwarnings":18993,"ĠChem":18994,"ĠExit":18995,"Ġfounder":18996,"pector":18997,"Ġrm":18998,"_dataset":18999,"ĠDas":19000,"Ġhan":19001,"Getty":19002,"ál":19003,"Ġny":19004,"Ġpoverty":19005,"Ġresulted":19006,".by":19007,"ĠVisit":19008,"Ġobtaining":19009,"/'.$":19010,"ĠĠĠĠĠĠĠĠĠĠĠĊ":19011,"shall":19012,"_LEFT":19013,"UIImage":19014,"_Name":19015,"have":19016,"ĠNob":19017,"lr":19018,"-footer":19019,"Ġnaked":19020,"ĠGarden":19021,"\\Facades":19022,"Ġgraduate":19023,"Ġfranchise":19024,"plane":19025,"Ġcontributions":19026,"ĠstringWith":19027,"Ġcrypto":19028,"Ġmovements":19029,"athers":19030,"Ġlifetime":19031,"Ġcommunicate":19032,"jar":19033,"ĠFragment":19034,"_IF":19035,"ĠNavy":19036,"ĠFigure":19037,"Ġsimulation":19038,"_stop":19039,"Ġreporters":19040,"Ġversus":19041,"aja":19042,"Ġα":19043,"Ġgovernor":19044,"ListItem":19045,"Ġsealed":19046,".Background":19047,"edi":19048,"ashing":19049,"Ġlip":19050,"ĠIh":19051,"merge":19052,"Ġnec":19053,"elocity":19054,"ATEG":19055,"Ġseeds":19056,"Ġfloating":19057,"_FA":19058,"walk":19059,"ĉuser":19060,"_depth":19061,"Ġwage":19062,"@app":19063,"Nil":19064,"([\"":19065,"(vector":19066,"Ġsecretary":19067,"ĠjPanel":19068,"vez":19069,"³³³³":19070,"direction":19071,"ĠEP":19072,"Ġhunt":19073,"JsonProperty":19074,"ĠPORT":19075,"]\",":19076,"ап":19077,"ĠForeign":19078,"panic":19079,"Ġtrials":19080,"ĠAle":19081,"Ġrural":19082,"-value":19083,"authorized":19084,"ĠScotland":19085,".drop":19086,"ĠMT":19087,"ç±":19088,"rowth":19089,"FilePath":19090,"Ġrecall":19091,"ifle":19092,"Ġcel":19093,"ĠSELECT":19094,"kn":19095,"_case":19096,"Ġcrop":19097,"sure":19098,"pot":19099,"ICS":19100,"Ġstem":19101,"Ġindustries":19102,"Put":19103,"Ġaber":19104,"roadcast":19105,"Icons":19106,")\")Ċ":19107,"æĪIJåĬŁ":19108,"gui":19109,"Ġassumed":19110,"Ġrx":19111,"EA":19112,"è§":19113,"ELL":19114,"Ġdose":19115,"Ġine":19116,"Ġdeeper":19117,"lider":19118,"Ġordinary":19119,"Ġgolf":19120,"_IMAGE":19121,"ĠNAME":19122,"(module":19123,"Ġatom":19124,"Ġbelt":19125,"Ġoffices":19126,"beta":19127,"Ġphilosophy":19128,"(JSON":19129,"-field":19130,"Ġintroduce":19131,"Ġconvenience":19132,"optim":19133,">\"Ċ":19134,"athy":19135,"Ġemployer":19136,"quate":19137,"Ġedited":19138,"Arguments":19139,"ĠNations":19140,"__)":19141,"Ġnose":19142,"ĠSample":19143,"')ĊĊĊ":19144,"Ġcake":19145,".getAttribute":19146,"HD":19147,"Modified":19148,"Ġpredicted":19149,"ÅĦ":19150,"anie":19151,"Sorry":19152,"(doc":19153,"wind":19154,"ieve":19155,"Ġprovisions":19156,"ATER":19157,"OTE":19158,"MY":19159,".Autowired":19160,"ĠBath":19161,".Boolean":19162,"Ġbackend":19163,".Mouse":19164,"ateral":19165,"paper":19166,"Const":19167,"ĠVR":19168,"_entity":19169,"_CTRL":19170,"ĠProtection":19171,"ĠGM":19172,"ĠStudy":19173,"Ġsoup":19174,"otime":19175,"'use":19176,"]\"":19177,"/users":19178,"aug":19179,"ĠHong":19180,"_norm":19181,"ãģ¨":19182,"Ġsecre":19183,"(Build":19184,"ĠContract":19185,"olas":19186,"Ġsauce":19187,"Ġaggressive":19188,"Ġracial":19189,"character":19190,"@@":19191,"Ġcompile":19192,"ĠVoid":19193,"_rem":19194,"_memory":19195,"kk":19196,"Ġmic":19197,"Same":19198,"Utility":19199,"ĠHtml":19200,"ĠXml":19201,"Ready":19202,"Ġgall":19203,"Ġallegedly":19204,"ĉĉĉĉĠĠĠ":19205,"ĠMetal":19206,"ĠPersonal":19207,"ĠborderRadius":19208,"rxjs":19209,"objects":19210,"Ġwanting":19211,"Ġbowl":19212,"vendor":19213,"offsetof":19214,"ĠRs":19215,"ĠRating":19216,"Ġrally":19217,"_NODE":19218,"ĠMix":19219,"Ġadvertis":19220,"Ġnarrative":19221,"sal":19222,"Ġmc":19223,"SError":19224,"Ġfingers":19225,"Ġaccompany":19226,"Ġtired":19227,"Ġstride":19228,"Ġgui":19229,"elist":19230,"Locale":19231,"Ġreleases":19232,"iking":19233,"Ġanger":19234,")))ĊĊ":19235,"allest":19236,"Summary":19237,"(O":19238,"(for":19239,"Ġbasketball":19240,"Ġroads":19241,"ĠInstall":19242,"ĠFab":19243,"itmap":19244,"Ġ))Ċ":19245,"Ġintersection":19246,"ighbor":19247,"ĠBry":19248,"ĠHERE":19249,"Software":19250,"elfare":19251,"acs":19252,"Ġtrailer":19253,".getClass":19254,"chars":19255,"Ġregulation":19256,"Ġrefers":19257,"Ġdestruction":19258,"Ġcontinuous":19259,"ĠAustin":19260,"é¢":19261,"akan":19262,".window":19263,"ĠTemplates":19264,"Ġabsence":19265,":n":19266,"Ġdisorder":19267,"flash":19268,"Ġdelet":19269,"boards":19270,"ĠĠĉ":19271,"ROP":19272,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":19273,"Ġacqu":19274,"Ġlawsuit":19275,"ĠReviews":19276,"Ġgarage":19277,"timer":19278,"Ġej":19279,"ĠRectangle":19280,"Ġflowers":19281,"ilst":19282,"ĠInstance":19283,"Super":19284,"det":19285,"disposing":19286,"ĠES":19287,"ĠIC":19288,"vere":19289,"Sk":19290,"_channels":19291,"puted":19292,"/null":19293,"nnen":19294,"ĠGallery":19295,"_global":19296,"Authentication":19297,"ĠRank":19298,"Ġblocked":19299,"Ġcalm":19300,"market":19301,"ĉval":19302,"Ġaug":19303,"period":19304,"ĠConstant":19305,"Ġ?>\">Ċ":19306,"Ġlobby":19307,"pal":19308,"Ġsink":19309,"iah":19310,"С":19311,"urname":19312,"Ġconver":19313,"Ġinvestigate":19314,"Christ":19315,"Hub":19316,"ĠIND":19317,"ĠPed":19318,"uras":19319,"ĉurl":19320,"ĠTro":19321,"Ġpreferences":19322,"Ġguaranteed":19323,"`ĊĊ":19324,"Ġportions":19325,"Ġevalu":19326,"'>;ĊĊ":19421,".AutoScaleMode":19422,"Ġcats":19423,"Ġregistry":19424,"ulus":19425,"FI":19426,"payload":19427,"-search":19428,"Ġstaying":19429,"acious":19430,"Decoration":19431,"Review":19432,"Inf":19433,"Keep":19434,"itis":19435,",String":19436,"Coord":19437,"Ġpero":19438,"Sex":19439,"ĠAtlanta":19440,"uesta":19441,"Argb":19442,">*":19443,"}_":19444,"Footer":19445,"Ġemployed":19446,"_bound":19447,"vide":19448,".func":19449,"$scope":19450,"Ġspo":19451,"ĠAnal":19452,"ounced":19453,"around":19454,"Ġrestriction":19455,"Ġshops":19456,"åĢ":19457,"ĠLatin":19458,"-col":19459,"Ġbarely":19460,"ĠEuro":19461,"Er":19462,"Ġfaire":19463,"_distance":19464,"_unlock":19465,"Quote":19466,"IVATE":19467,"ĠåĪ":19468,"Ġaimed":19469,"ĠRetrie":19470,".iter":19471,"Ġwrapped":19472,"Ġagreements":19473,"strument":19474,"(product":19475,"Ġstudied":19476,".setValue":19477,"Ġye":19478,"ĠCache":19479,"MBOL":19480,"Ġquarterback":19481,"Ġsyntax":19482,".getElementsBy":19483,".version":19484,"website":19485,"Runner":19486,"_single":19487,"ativ":19488,"ĠAltern":19489,"ĠBeautiful":19490,"rightarrow":19491,"Ġdiversity":19492,"plash":19493,"(co":19494,".Fill":19495,"Ġtyping":19496,"Ġclar":19497,"Hit":19498,"OO":19499,"acco":19500,"worth":19501,"Ġscripts":19502,"ĠMuslims":19503,"ĠLL":19504,"erving":19505,"(boolean":19506,"Ġbaseball":19507,"ĠCAN":19508,"MAIL":19509,"depend":19510,"Ġrespective":19511,"Ġconstexpr":19512,".*;ĊĊ":19513,"']))Ċ":19514,"Ġyard":19515,"Ġidentical":19516,"ifecycle":19517,"USH":19518,"upiter":19519,".validate":19520,"cli":19521,"ISTER":19522,"Indicator":19523,"Fail":19524,"Ġdemocracy":19525,".var":19526,"Ġsatisfied":19527,"-------------":19528,"encer":19529,"hor":19530,"Ġrounds":19531,"DAO":19532,"oa":19533,"Ġflask":19534,"=c":19535,"[]Ċ":19536,"/dist":19537,"Ġparte":19538,"Ġconfirmation":19539,"eron":19540,"aware":19541,"":19542,"Ġdependencies":19543,"ĠVideos":19544,"-row":19545,"Ġ**/Ċ":19546,"Ġnou":19547,"Ġhover":19548,"æŀ":19549,"Ġnin":19550,"ĠUSD":19551,"Mac":19552,"_Load":19553,"Ġoutcomes":19554,"_socket":19555,"Ġqueries":19556,"wm":19557,"Ġhitting":19558,"inux":19559,"Mich":19560,"udge":19561,"ATAB":19562,"Ġvulnerable":19563,"ä¾":19564,"Ġportfolio":19565,":YES":19566,"ĉmap":19567,"Bound":19568,"Ġiteration":19569,"incess":19570,"Ġactors":19571,"ĠQual":19572,"_clean":19573,"ãĢijãĢIJ":19574,"MSG":19575,"Green":19576,"ĠOfficer":19577,"Ġsmoking":19578,">',":19579,"ĠFlo":19580,"++;":19581,"olygon":19582,"Ġbulk":19583,"Ġdrama":19584,"Ġexceptions":19585,"osed":19586,"Ġ+čĊ":19587,"Ġlegacy":19588,"CV":19589,"Ġcontributed":19590,"ĠTerms":19591,"Ġbt":19592,"Ġuntuk":19593,"Ġalien":19594,"===Ċ":19595,"ĉVector":19596,"Ġls":19597,"Online":19598,".facebook":19599,"numeric":19600,"ockets":19601,"Aut":19602,"bury":19603,"-redux":19604,"ĠRedistributions":19605,"GLOBALS":19606,"urrencies":19607,"Ġtons":19608,"âĢĻ,":19609,"Ġê":19610,"(col":19611,"ĠSymbol":19612,"Ġstayed":19613,"ĠML":19614,"Ġmunicip":19615,"Ġsexo":19616,"Sen":19617,"nr":19618,"Ġgains":19619,"Ġshortly":19620,".Menu":19621,"ý":19622,"KNOWN":19623,"Ġoperators":19624,"-V":19625,"ĠPatrick":19626,"/add":19627,"_CO":19628,"iration":19629,"(post":19630,"Posts":19631,"/_":19632,"Ġplug":19633,"Ġintellectual":19634,"Ġmetab":19635,"Ġpregnancy":19636,"ĠPremier":19637,"nm":19638,"Ġprediction":19639,"ĠMinistry":19640,"Three":19641,"valuate":19642,"ĠMini":19643,"bu":19644,"оз":19645,"\";čĊ":20078,"ĠSav":20079,".Bold":20080,"Ġenables":20081,"ĉtmp":20082,"Ġmanually":20083,"ĠSqu":20084,"userid":20085,".function":20086,".cache":20087,"LOPT":20088,".Services":20089,"ddit":20090,"tim":20091,">>":20154,"station":20155,"lore":20156,"atype":20157,"ishop":20158,"/****************************************************************":20159,"ComboBox":20160,"Ġvacation":20161,"Ġinitiative":20162,"ĠdefaultValue":20163,"concat":20164,"ĠKh":20165,"ĠWelcome":20166,"izedName":20167,"Migration":20168,"Ġgradient":20169,"Hot":20170,"Ġhardly":20171,"elo":20172,"ĠStudents":20173,"Ġloose":20174,"atz":20175,".Send":20176,"'/":20177,"Ġuniversal":20178,"Ġenterprise":20179,"Ġregex":20180,"Ġvisitor":20181,"ĠFly":20182,"Seq":20183,"à¸Ļ":20184,"ĠVisual":20185,"Ġlibraries":20186,"atoes":20187,"Payment":20188,"Ġpent":20189,"Ġgathered":20190,"VRTX":20191,"ĠDM":20192,"Split":20193,"Ġletting":20194,"ÐĿ":20195,"_errors":20196,"epoch":20197,"PARAM":20198,"cu":20199,"ÑģÑĤв":20200,"olutions":20201,"Editing":20202,"fonts":20203,"Ġallocated":20204,"ĠBased":20205,"(Y":20206,"ĠJudge":20207,"Ġbrothers":20208,"FILES":20209,"ço":20210,"wb":20211,"_PI":20212,"'^":20213,"Ġsword":20214,".services":20215,"Ġnl":20216,"Tim":20217,"igg":20218,"ĠMoore":20219,"Ġcryptoc":20220,"åĩº":20221,"_posts":20222,"otate":20223,"?'":20224,"....ĊĊ":20225,"Ġkl":20226,"=\"$":20227,"Ġdecoration":20228,"ạ":20229,"ĠDIRECT":20230,"GUI":20231,")=>{Ċ":20232,"Ġnewsletter":20233,"Ġprecis":20234,"(point":20235,"ĠEquipment":20236,"uty":20237,"ĠDave":20238,"Ġparticipation":20239,"uarios":20240,"xit":20241,".As":20242,"ETER":20243,"orous":20244,"Ġshield":20245,"[]>":20246,"ilitary":20247,".origin":20248,"Ġpromotion":20249,"Unt":20250,"Ġct":20251,"TRA":20252,"ViewHolder":20253,"Ġsigma":20254,"delta":20255,"arehouse":20256,"contract":20257,"(Vector":20258,"Ġcompete":20259,"/form":20260,"/components":20261,"Ġnr":20262,"ĠIndones":20263,"ĠоÑĤ":20264,"ĠVolume":20265,".files":20266,"(resp":20267,"/models":20268,"Ġsurf":20269,"standard":20270,"/o":20271,"ĠXCTAssert":20272,"VICES":20273,".Code":20274,"SED":20275,"Ġactivate":20276,"Delta":20277,"Ġlimitation":20278,"rij":20279,"Ġpregnant":20280,":^(":20281,"Ġsour":20282,"pie":20283,"Ġexpense":20284,"ication":20285,"ĠLarge":20286,"Ġ±":20287,"ĠBowl":20288,"(models":20289,"/N":20290,"Pa":20291,".reload":20292,"Ġwondering":20293,"Execution":20294,"ĉĠĠĠĠĠĠ":20295,"ĠGraphics":20296,"ĠContin":20297,"_job":20298,"ĠgetName":20299,"ĠMagn":20300,"ĠDWORD":20301,"mad":20302,"Ġnh":20303,"features":20304,"}\");Ċ":20305,"heets":20306,"(train":20307,"zn":20308,"Ġrecruit":20309,".connection":20310,"Ġbarrel":20311,"Ġsteam":20312,"_setting":20313,"Ġangular":20314,"aneously":20315,"Ġbil":20316,"ĠNorm":20317,"(!$":20318,"ibt":20319,"%(":20320,"Ġposit":20321,"ĠFather":20322,"intendo":20323,"Live":20324,"Ġports":20325,"Ġmej":20326,"Ġlanding":20327,"ponder":20328,"Ġcod":20329,"_HEADER":20330,".Margin":20331,"Ġballs":20332,"Ġdiscussions":20333,"Ġblend":20334,"Hex":20335,"Ġfarmers":20336,"Ġmaintaining":20337,"ĠĠĠčĊ":20338,"syn":20339,"[T":20340,"rus":20341,"uffers":20342,"Ġcontributors":20343,"_sys":20344,".Debug":20345,"Ġconstructed":20346,"omes":20347,"?id":20348,"slider":20349,"Ġsuppliers":20350,"scriber":20351,"pes":20352,"Ðŀ":20353,"\":čĊ":20354,"\\Controller":20355,"))ĊĊĊ":20356,"Ġlua":20357,"Multi":20358,"ENS":20359,"Src":20360,"Ġpetition":20361,"Ġslave":20362,"looking":20363,"VERT":20364,"ĉvector":20365,"Special":20366,"hh":20367,"anne":20368,"ĠNiger":20369,"/views":20370,"zing":20371,"endant":20372,"(":20591,".Product":20592,"Forms":20593,"NEW":20594,"Pay":20595,"ĉboolean":20596,"_contact":20597,"ĠElectric":20598,"skip":20599,"Ġwur":20600,"Ġchronic":20601,"_driver":20602,"ĠSab":20603,"ĠUlt":20604,"ĠRad":20605,"STATUS":20606,"ĠLewis":20607,"OB":20608,"Ġgifts":20609,".Rec":20610,"TRUE":20611,"Ġintensity":20612,"Marker":20613,".compare":20614,"ffic":20615,"Cookie":20616,"ĠBaby":20617,"ĠBigDecimal":20618,"ilet":20619,"ĠHOLDERS":20620,"ĠLady":20621,"Ġlung":20622,"ĠAlabama":20623,"Ġdess":20624,"`);Ċ":20625,"ĠBuilder":20626,"_region":20627,"Ġneutral":20628,"Both":20629,"Ġhp":20630,"Ġhorn":20631,"Ġsegments":20632,"ĠEC":20633,"\"=>\"":20634,"(rec":20635,"ĠPi":20636,"GM":20637,"Ġlaptop":20638,"Scalar":20639,"isd":20640,"-dialog":20641,"ĠAnderson":20642,"Ġmistakes":20643,"ĠHan":20644,"jes":20645,"estination":20646,"Ġpromises":20647,"bid":20648,"ĠScient":20649,"GIN":20650,"ĠPerformance":20651,"bage":20652,".users":20653,"leading":20654,"Ġoral":20655,"Graphics":20656,"_PTR":20657,"hang":20658,"Ġinev":20659,"processing":20660,"Factor":20661,"ĠNA":20662,"$string":20663,"Ġgrounds":20664,".SaveChanges":20665,"clock":20666,"cripcion":20667,"ĠNewton":20668,"gc":20669,".includes":20670,"Ġblast":20671,"Ġ'-'":20672,"Ġpuede":20673,".Session":20674,"Ġgrep":20675,"_final":20676,"ĠGay":20677,"ĠGive":20678,"iri":20679,"-star":20680,"ĠUIImage":20681,"_epoch":20682,"ubb":20683,"enth":20684,"Ġelite":20685,"Ġcampaigns":20686,"ĠPorno":20687,"_assign":20688,"Protocol":20689,"ĠBeing":20690,"ĠAirport":20691,"Ġconventional":20692,"ĠWat":20693,"ĠCI":20694,"ETA":20695,"ĠAnthony":20696,"Ġtablet":20697,"(format":20698,"Ġconsistently":20699,"ĠIowa":20700,"Ġavatar":20701,".cursor":20702,"![":20703,"Ġhanging":20704,"Her":20705,"Such":20706,"';ĊĊĊ":20707,"orgeous":20708,"()==":20709,"ĠviewModel":20710,"Ġãĥ":20711,"Ġels":20712,"ĠAgent":20713,"Fetch":20714,"apor":20715,"Ġcx":20716,"pread":20717,"ĠPier":20718,"oeff":20719,"Sn":20720,"ĠVirtual":20721,"Apr":20722,".White":20723,"_MOD":20724,"ĠPoints":20725,"失":20726,"Ġgenes":20727,"Ġvendor":20728,"Ġmainstream":20729,"Ċ":20758,"Filename":20759,"Ġsne":20760,"ĠFootball":20761,"Ġrival":20762,"Ġdisaster":20763,"ionic":20764,"ĠDamage":20765,".Resource":20766,"-en":20767,"ĠTypes":20768,"getString":20769,"(board":20770,"Ġbol":20771,"plain":20772,"zym":20773,"า":20774,"Ġscanner":20775,"ilder":20776,"_msgs":20777,"æı":20778,"(intent":20779,"Ġdestruct":20780,"Ġbust":20781,"ĠEmploy":20782,"oni":20783,"ĠUIViewController":20784,"Ġodds":20785,"earer":20786,"Geometry":20787,"Ġyii":20788,"_EXPORT":20789,"ĠAttack":20790,"Ġniet":20791,"Ġimpression":20792,"ĠGil":20793,"_prob":20794,"ĠCF":20795,"ĠExperience":20796,"/plugins":20797,".Method":20798,"Ġbeliefs":20799,"Native":20800,"_build":20801,"Ġvig":20802,"Ġranks":20803,"covered":20804,"such":20805,"Guard":20806,".pack":20807,"adder":20808,"ivia":20809,"lng":20810,"ĠвÑĭ":20811,"Timestamp":20812,"_now":20813,"Ġpoker":20814,"Ġunc":20815,"Ġshapes":20816,"-types":20817,"_period":20818,"pk":20819,"Ġveteran":20820,"Ġsono":20821,"Ġappointed":20822,"overflow":20823,".driver":20824,"_cat":20825,"utt":20826,"plant":20827,"imb":20828,"ĠAccept":20829,"Ġconcert":20830,"ĉnode":20831,"ĉz":20832,"?>čĊ":20833,"Ġbanned":20834,"ĉĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":20835,"Ġtoxic":20836,"Ġdisappe":20837,"ÈĽ":20838,"Ġgrace":20839,"ateful":20840,"Reply":20841,"ĠCruz":20842,"Ġscrap":20843,"Ġkeywords":20844,"simp":20845,"Ġmortgage":20846,"Ġcyber":20847,"ĠExecute":20848,"Ġlatitude":20849,"ifu":20850,".COM":20851,"dbo":20852,"Ġsorts":20853,"ĠGas":20854,"omial":20855,".Local":20856,"Cells":20857,".Replace":20858,"Strings":20859,".fit":20860,"ĠThird":20861,"%\",Ċ":20862,"Ġ{}\".":20863,"ĠSony":20864,"Ġ[:":20865,"Ġfallen":20866,".')Ċ":20867,"inh":20868,"ĠMC":20869,"Ġredis":20870,"Codes":20871,"Ġprofiles":20872,"hook":20873,"Reducer":20874,"_FUNC":20875,"Ġnavigate":20876,"strlen":20877,"Ġhorm":20878,"áŀ":20879,"ĠSR":20880,".boot":20881,"Ġdigest":20882,"ĉheader":20883,".findOne":20884,"æģ":20885,"DbType":20886,"nia":20887,"_merge":20888,"Ġdonne":20889,"/Getty":20890,"_CHAR":20891,"Ġbands":20892,".URL":20893,"artial":20894,"Ġfreq":20895,"Ġsist":20896,"Ng":20897,"Ġrendering":20898,"\\Core":20899,"Widgets":20900,"ĠVA":20901,"Ġactivists":20902,"Ste":20903,"=_":20904,"alla":20905,"Stamp":20906,"Ġloads":20907,"Ġxx":20908,"ĠLearning":20909,".Mvc":20910,"uir":20911,"(\"$":20912,"Ġconnecting":20913,"ReadOnly":20914,"uru":20915,"ĠEag":20916,"BIT":20917,"_DEL":20918,"å§":20919,"arrass":20920,"external":20921,"ĠYOUR":20922,"ĠBrew":20923,"ĠFive":20924,"Ġresize":20925,"igid":20926,"eration":20927,"ĠÑį":20928,"åĬł":20929,"ĠCatch":20930,"Ùģ":20931,"ĠLeon":20932,"amil":20933,".Body":20934,"Clip":20935,"/list":20936,".br":20937,"EditText":20938,"ĉdb":20939,".Game":20940,"(BuildContext":20941,"backend":20942,".Red":20943,"facebook":20944,".urls":20945,"mr":20946,"rolled":20947,"-------":20948,"Ġintervention":20949,"Ġretirement":20950,"ĠKit":20951,"ĠPRE":20952,"UpperCase":20953,"ĠSocket":20954,"Ġ:-":20955,"Ġstudying":20956,"ĠMetro":20957,"arded":20958,"Ġconversations":20959,"Called":20960,"Ġexamine":20961,"ertificate":20962,".gz":20963,"-responsive":20964,"Ġrefund":20965,"_network":20966,"allowed":20967,"empt":20968,"Ġmeals":20969,"Categories":20970,"Ġtraveling":20971,"Ġkg":20972,"Ġshame":20973,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":20974,"Ġexplicitly":20975,"Ġmathematic":20976,"ĠSuite":20977,"ĠRGB":20978,"******/":20979,"Ġmixture":20980,"learning":20981,".template":20982,"atts":20983,"wx":20984,"ĉctx":20985,".properties":20986,"Ġdrinks":20987,"ĠEither":20988,"setText":20989,".getData":20990,".zip":20991,"Ġreveals":20992,".Ċ":21005,"Ġranked":21006,"_impl":21007,"ĠHandles":21008,"Ġhosted":21009,"Ġupdating":21010,"album":21011,"éĿ":21012,"Ġshader":21013,"Editors":21014,"-round":21015,"[]{":21016,"Ġsep":21017,"ĠHi":21018,"TEM":21019,"lookup":21020,".man":21021,"_INPUT":21022,"Ġthreatened":21023,"_IMPORT":21024,"Ġdrops":21025,"ruit":21026,"sid":21027,"both":21028,"ĠExcel":21029,"Ġjer":21030,"ordinary":21031,"ей":21032,"VIEW":21033,"reply":21034,"Ġ):Ċ":21035,"colors":21036,"verified":21037,"_Tr":21038,"_parse":21039,"Ġcongress":21040,"Promise":21041,"ints":21042,"ĠMother":21043,".Api":21044,"ĠDuration":21045,"ĠfirstName":21046,"inheritdoc":21047,"ĠMars":21048,"Ġapr":21049,"ODY":21050,"Ġvisits":21051,"Ġhealing":21052,"letters":21053,")));čĊ":21054,"future":21055,".Framework":21056,"Ġkiss":21057,"Ġinvolve":21058,"Ġsilent":21059,"adows":21060,"Ġanybody":21061,"sch":21062,"Ġsolely":21063,"-img":21064,"Ġpropri":21065,"Ġinstruct":21066,"Ġlicenses":21067,"Ġmeth":21068,"Ġcondem":21069,"ĠDomain":21070,"ĠHarris":21071,"ĠsÃ¥":21072,"CEPT":21073,"Batch":21074,"@extends":21075,"ĠCONTRIBUT":21076,".DataFrame":21077,"_packet":21078,"recision":21079,"Ġfocusing":21080,".ht":21081,"__\":Ċ":21082,":Get":21083,"ĠKC":21084,"Ġpassage":21085,"Segment":21086,"_center":21087,"-zA":21088,"_BL":21089,"Ġconvin":21090,"Ġclassified":21091,"ĠNSMutable":21092,"_ap":21093,"tile":21094,"Rectangle":21095,"(nums":21096,"vens":21097,"ĠUIButton":21098,"ĠFeder":21099,"amo":21100,"Ġoutline":21101,"ĠParser":21102,"Ġâī":21103,"ĠWorks":21104,".Schema":21105,"Ġengines":21106,"_common":21107,"_old":21108,"ĠsetContentView":21109,"Ġ///<":21110,"ĠBT":21111,"fm":21112,"Ġdivers":21113,"_weights":21114,"emark":21115,"ĠACT":21116,"Ġproportion":21117,"overlay":21118,".dirname":21119,"ĠGit":21120,"_REFERENCE":21121,"<>":21122,"lb":21123,"_rule":21124,"è´¥":21125,"ĠPutin":21126,"Ġsleeping":21127,"():čĊ":21128,"Ġpreserve":21129,"Ġparliament":21130,"ĠLooking":21131,"Ġpicking":21132,"ĠDispatch":21133,"Ġslip":21134,"ëĵ":21135,"ĠLyn":21136,"_signal":21137,"configuration":21138,"ĠPitt":21139,"aden":21140,"procedure":21141,"Ġenthusi":21142,"fight":21143,"ĠConsider":21144,"Ġtorn":21145,"Connected":21146,".cos":21147,"_groups":21148,"ĠThink":21149,"Ġdeliber":21150,"Ġresid":21151,"working":21152,".columns":21153,"ĠCalled":21154,"Ġeslint":21155,">\",":21156,"_DOWN":21157,"hist":21158,"ĠAdvanced":21159,"Ġrewards":21160,"actors":21161,"Ġsilence":21162,"Ġmyth":21163,"Ġneur":21164,"Ġauction":21165,".GetString":21166,"eks":21167,"(project":21168,"ĉmsg":21169,"ĉoutput":21170,"Ġcomplaints":21171,",S":21172,"Ġtbl":21173,"Ġ,ĊĊ":21174,"riors":21175,"ahren":21176,"Ġlawyers":21177,"redux":21178,"_symbol":21179,"offee":21180,"_RESULT":21181,"(Name":21182,"UTC":21183,".currentTime":21184,"Ġorganis":21185,".arg":21186,"Ġminim":21187,"wick":21188,"Ġreceives":21189,"Balance":21190,"Ġspeaks":21191,"ĠDays":21192,"ĠBelow":21193,"tipo":21194,"Present":21195,"Ġreserv":21196,"hp":21197,"Ġrit":21198,"_RIGHT":21199,"--)":21200,"Ġchairman":21201,"DIS":21202,"ĠBOOST":21203,"Ġexperiments":21204,"__);Ċ":21205,"Ġstamp":21206,"Ġfert":21207,"Ġfond":21208,"Ter":21209,"elve":21210,"uren":21211,"+i":21212,"endency":21213,"Ġvirtually":21214,"...\"":21215,"ï½ŀ":21216,"-cent":21217,"_unique":21218,"Ġpricing":21219,"mic":21220,"RESH":21221,"Ġ:::":21222,"Ġannotation":21223,"ĠCircle":21224,"ongodb":21225,"itas":21226,"Ġ%(":21227,"(component":21228,"Ġоб":21229,"(port":21230,"-hour":21231,".obj":21232,"LBL":21233,"Ġjury":21234,"GBT":21235,"Ġspy":21236,"ĠProfessional":21237,"Ġ\"\";ĊĊ":21238,"Ġstriking":21239,"Ġdiscrimination":21240,"Ġpays":21241,"lict":21242,"entes":21243,"Ġthrowing":21244,"ĠPlugin":21245,"(def":21246,"ĠRuntimeException":21247,"ĠMigration":21248,"Ġdic":21249,"bag":21250,"onia":21251,"Ġcorruption":21252,"(Map":21253,"Ġprz":21254,".dto":21255,"Ġacquire":21256,"StateToProps":21257,"Ġloving":21258,"ож":21259,"_pattern":21260,"Ġemotions":21261,"Ġpublisher":21262,"_be":21263,"Ġcouples":21264,"oj":21265,"ĠChart":21266,"Ġtrop":21267,".tool":21268,"Ġestablishment":21269,"Ġdol":21270,"Ġtower":21271,"Ġlane":21272,"ĠSydney":21273,"Ġfilling":21274,"claimed":21275,"Ġdialogue":21276,"Ġconvention":21277,"booking":21278,"parency":21279,"æ±":21280,"ĠGeneric":21281,"\\Schema":21282,"Ġranges":21283,"/ch":21284,"Ġpanels":21285,"Ġruled":21286,"çĶŁ":21287,".ts":21288,"_sets":21289,"Ġcleanup":21290,"Previous":21291,"ĠAnimal":21292,"($(":21293,"ĠAve":21294,"ollar":21295,"_eval":21296,"ĉName":21297,"(tree":21298,"Ġ\"]":21299,"Ġduties":21300,"='/":21301,"Clicked":21302,"Ġdifferently":21303,"ĠClark":21304,"Ġdit":21305,"ologists":21306,"Ġsynd":21307,"Ġsends":21308,"-known":21309,"kb":21310,"ĠModal":21311,"itative":21312,"Ġracing":21313,"Ġhighlights":21314,"ĠSimon":21315,"ĠCaptain":21316,"ä¿¡":21317,"ĠCB":21318,"contin":21319,"aran":21320,"Ġphysics":21321,"retty":21322,"etal":21323,".md":21324,"axios":21325,"Ġspeakers":21326,"Ġprep":21327,"Ġawarded":21328,"ì§Ģ":21329,"ĠCorn":21330,"ĠNature":21331,"UDIO":21332,"Ġproj":21333,"-pre":21334,"[u":21335,"Features":21336,"ĠisEqual":21337,"Binary":21338,"sig":21339,"Ġconfusion":21340,"ĠHat":21341,"Ġktó":21342,".configure":21343,"MON":21344,"/edit":21345,"_Add":21346,",true":21347,"Ġcli":21348,"ErrorMessage":21349,"-loader":21350,"Dimensions":21351,"ultiply":21352,"Ġ{!!":21353,"ĠSqlCommand":21354,"Ġspoken":21355,"Ġpics":21356,"Ġtoy":21357,"(Key":21358,"ĠLoop":21359,"ب":21360,"EATURE":21361,"inction":21362,"_setup":21363,"wrapper":21364,"Ġtong":21365,"cular":21366,"Opt":21367,".Pl":21368,"=\",":21369,"(length":21370,"umn":21371,"Ġchrom":21372,"Ġsevent":21373,"ĠIllegalArgumentException":21374,"ĉstart":21375,"Ġbegun":21376,"CEPTION":21377,"dataset":21378,"ĠFailed":21379,"cols":21380,"Ġknee":21381,"imore":21382,".splice":21383,"shell":21384,"iggers":21385,"Ġthemes":21386,"ĠDJ":21387,"ĠAssistant":21388,"-$":21389,"Maybe":21390,"Ġordering":21391,"ĠIntelligence":21392,"ĠMassachusetts":21393,"Ġfailing":21394,"elson":21395,"Great":21396,"=i":21397,".rest":21398,"Ġinvite":21399,"-disable":21400,".GroupBox":21401,"âĢĻest":21402,"Ġtackle":21403,"gv":21404,"etter":21405,"Ġ),čĊ":21406,"_rules":21407,".warn":21408,"functions":21409,"ĠChristians":21410,"Ġbacked":21411,"Ġslider":21412,"Ġenjoying":21413,"nest":21414,"Ġhij":21415,"_ms":21416,"//*":21417,"Annotations":21418,"ĠVariables":21419,"":21620,"cycle":21621,"ĠBull":21622,"paths":21623,"Ġunp":21624,"ĠviewDidLoad":21625,"_Model":21626,"ĠassertTrue":21627,"Ġrated":21628,"Decl":21629,"verted":21630,"ĠDat":21631,"brew":21632,"Ġpointing":21633,"Ms":21634,"ĠPointer":21635,")'":21636,"_non":21637,"ĠSEC":21638,"Ġyeah":21639,"gency":21640,"initialize":21641,"fly":21642,"[pos":21643,",g":21644,"Tele":21645,"Ġjoke":21646,"Ġclause":21647,".findById":21648,"enes":21649,"(instance":21650,"£":21651,"Ġslic":21652,"_home":21653,"Ġ*/}Ċ":21654,"_pages":21655,"(service":21656,"RP":21657,"ĠAmong":21658,".getCurrent":21659,"ãĤ¹":21660,"Ġslee":21661,"=[Ċ":22071,"oler":22072,"Ġlibert":22073,"Ġ`Ċ":22074,"Ġwenn":22075,"lated":22076,"Ġimmune":22077,"(Node":22078,"ĠProblem":22079,"ĠAbs":22080,"logs":22081,"Ġ../":22082,"ĠADC":22083,"Ġ}}\">Ċ":22084,">');Ċ":22085,"=b":22086,"ĠWind":22087,"lahoma":22088,"Ġallocate":22089,"orian":22090,"Ġprescription":22091,"-quality":22092,"ĠMayor":22093,"inely":22094,"endforeach":22095,"ĠComplex":22096,"kom":22097,"TY":22098,"]].":22099,".Style":22100,"_many":22101,"','$":22102,"Ġbarrier":22103,"ĠFetch":22104,"ĠMarvel":22105,"Ġresist":22106,"ого":22107,"bidden":22108,"ĠRunnable":22109,":false":22110,"Ġbuilds":22111,"ĠStage":22112,"Ġdub":22113,"empo":22114,".site":22115,";ĊĊĊĊ":22116,"ĠDenver":22117,"Ġrevel":22118,"Ġtriggered":22119,"Ġdice":22120,"_fail":22121,"Ġgc":22122,"ĉX":22123,"ĠThrowable":22124,".router":22125,"ĠRevolution":22126,"ÑĢа":22127,"_NON":22128,"Ł¥":22129,"Ġelder":22130,"Ġabroad":22131,"Ġе":22132,"ĠAdult":22133,"blr":22134,"glyphicon":22135,"Ġpromoting":22136,"Ġiz":22137,"ĠSolid":22138,"_loader":22139,"early":22140,".enabled":22141,"-edit":22142,"ĠUL":22143,"_play":22144,"ĠInterrupt":22145,"Ġadvantages":22146,"ucle":22147,"Ġmechanical":22148,".tableLayoutPanel":22149,"ĠWorking":22150,"Ġanonymous":22151,"Rating":22152,"igious":22153,"_phone":22154,".addActionListener":22155,"Ġfran":22156,"unden":22157,"Ġ*)&":22158,"_bool":22159,"ulative":22160,"Ġcone":22161,"ĠMult":22162,"Ġmö":22163,"ĠForward":22164,"]):Ċ":22165,"Ġconvinced":22166,"acted":22167,"ãģĵ":22168,"ĠConfigure":22169,"Ġceiling":22170,"Der":22171,"Ġpassengers":22172,"Groups":22173,"Ġsoccer":22174,"/W":22175,"aviors":22176,"swith":22177,"ĠZone":22178,".Options":22179,"ĠMom":22180,"ieder":22181,"Arrays":22182,"Ġtreatments":22183,"Ġprotecting":22184,"fac":22185,"Ġpickle":22186,"ButtonItem":22187,"Ġblocking":22188,"strar":22189,"ò":22190,"ĠExport":22191,"Ġthrew":22192,"otta":22193,"ĠBASE":22194,".ws":22195,".LEADING":22196,"orderBy":22197,"_delay":22198,"ĠPu":22199,".dll":22200,"ĠChoose":22201,"Police":22202,"ĠBEGIN":22203,"boxes":22204,"Ġdiamond":22205,",l":22206,"Ġĉĉĉ":22207,"Ġcurious":22208,"tv":22209,"Ġerotische":22210,"ackages":22211,"ĉSet":22212,"Tick":22213,".border":22214,"staticmethod":22215,"Ġcher":22216,"invoice":22217,"Ġcru":22218,"Ġdefect":22219,"_metadata":22220,"relation":22221,"ikan":22222,"[N":22223,"(Qt":22224,"(Base":22225,"æģ¯":22226,"beat":22227,"ĠEmpty":22228,"ĉo":22229,"_shift":22230,"Ġregret":22231,"Those":22232,"Cent":22233,"ĠPortug":22234,"ĠIslands":22235,"ĠTIME":22236,"Management":22237,"-sp":22238,"ême":22239,"Ġnotion":22240,"unifu":22241,"PK":22242,"è¡Į":22243,"ĠCURLOPT":22244,"\\\"\\":22245,"UV":22246,"çº":22247,"dra":22248,"cou":22249,"=`":22250,"ĠDestroy":22251,"rp":22252,".cancel":22253,"GG":22254,"runtime":22255,"ĠVue":22256,"Ġprogressive":22257,"/services":22258,"Ġrunner":22259,"_FRAME":22260,".ToolStripMenuItem":22261,"Ġ','":22262,"delay":22263,"=utf":22264,"Ġscreening":22265,"Ġpulling":22266,"omas":22267,"Ġanth":22268,"-new":22269,"/local":22270,"ĠiPad":22271,"Ġtwitter":22272,"Ġdying":22273,"Ġheaven":22274,"ĠUInt":22275,"ĠSenator":22276,"Ġpresum":22277,"ĠWalker":22278,"Ġovercome":22279,"etection":22280,"Ġembarrass":22281,"China":22282,"Include":22283,"ROLL":22284,"ĠdataType":22285,"David":22286,"ร":22287,"lop":22288,"-month":22289,"Ġscar":22290,"ĠSafe":22291,"Ġ****************************************************************":22292,"Ġaccessories":22293,"Ġramp":22294,"_USE":22295,"Ġcontrad":22296,"))]Ċ":22297,"Ġprest":22298,"ĠHR":22299,"ĠRap":22300,"Ġusize":22301,"Ġcapability":22302,"Ġcort":22303,"-next":22304,"Ġburden":22305,"_reader":22306,"Ġ@@":22307,"regular":22308,"ĠKa":22309,"MAN":22310,"Ġastr":22311,"Ġ'')Ċ":22312,"Ġfed":22313,"Ġparsing":22314,"ĠYears":22315,"Ġbroker":22316,"\":{\"":22317,"Ġakt":22318,"Inventory":22319,"abeled":22320,"Ġargparse":22321,"*******Ċ":22322,"versation":22323,"Ġcord":22324,"ĠTi":22325,"Ġhopefully":22326,"Ġah":22327,"verb":22328,"Ġstolen":22329,".Entry":22330,"Ġexpecting":22331,"Orientation":22332,"Ġpowered":22333,"Ġpersist":22334,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":22335,"']);":22336,"')),Ċ":22337,"ĠCash":22338,"ĉitem":22339,"grades":22340,"ropol":22341,"basic":22342,"Ġ\");čĊ":22343,"Ġawards":22344,"(range":22345,"-all":22346,"ĠIBOutlet":22347,"ĠIndeed":22348,"----------------------------------------------------------------------------":22349,"Ġstomach":22350,"Ġflower":22351,"Ġsew":22352,"_times":22353,"avis":22354,"QString":22355,"ĠRoutes":22356,"_prot":22357,"Ġcomedy":22358,"Ġlogout":22359,"Ġwooden":22360,"Ġposter":22361,"piece":22362,".Join":22363,"ĠPok":22364,"celona":22365,"mutex":22366,";čĊčĊčĊ":22367,"Ġstrikes":22368,"Loaded":22369,")arg":22370,"esa":22371,"United":22372,"Ep":22373,"PELL":22374,"ĠAtlantic":22375,"ullet":22376,"apple":22377,"Ġsettled":22378,"acon":22379,"Ġprinter":22380,"ĠGC":22381,"å®ļ":22382,"Ġrendered":22383,",âĢĻ":22384,"heit":22385,"social":22386,".ge":22387,"ĠRick":22388,"ĠUtah":22389,"got":22390,"onical":22391,"ĠScroll":22392,"ĠSciences":22393,"Ġjug":22394,"Ġampl":22395,"enti":22396,"LEFT":22397,"Ġtabs":22398,"Ġenormous":22399,".getKey":22400,"locate":22401,".EX":22402,".storage":22403,".We":22404,"Ġtoast":22405,"ĠAdditionally":22406,"ĠNOW":22407,"_UPDATE":22408,"Ġtransferred":22409,"tha":22410,".Display":22411,"_ui":22412,"IDEO":22413,"Ġmeaningful":22414,"ĠMoscow":22415,",this":22416,"ĠVictoria":22417,"æĶ¹":22418,"ĠÐŁ":22419,".stack":22420,"ĠBarn":22421,"paredStatement":22422,":string":22423,"Ġbij":22424,"ĠSTATE":22425,"Ġemployers":22426,"ĉinput":22427,"(|":22428,"Ġlex":22429,"invoke":22430,"ĉnum":22431,"++,":22432,"atial":22433,"orses":22434,"Ġfork":22435,"_txt":22436,"ĠAntonio":22437,"Ġ(<":22438,"averse":22439,"Ġdevast":22440,"ãĢĢ":22441,".Dec":22442,"ĠGard":22443,"/ui":22444,".%":22445,"tri":22446,"Ġrolled":22447,"ValuePair":22448,"itten":22449,"ĠTher":22450,"Ġvrou":22451,"ĠFlow":22452,"ĠFinance":22453,"ĠComb":22454,"HC":22455,".setVisible":22456,"isl":22457,"Ġpk":22458,"Ġupset":22459,"(raw":22460,"ĠVice":22461,"eatures":22462,"ĠLang":22463,"Looking":22464,"ĠAST":22465,"Ġtrips":22466,"ĠJustin":22467,"browser":22468,"=\"'.$":22469,".vertices":22470,"-co":22471,"}/{":22472,"Ġ?,":22473,"ĠDomin":22474,"ĠBelg":22475,"\"<":22476,"Ġsuppose":22477,"addy":22478,"Ġwalks":22479,"ERRU":22480,"_filters":22481,"Preferred":22482,"scene":22483,"еÑģ":22484,"ĠAffairs":22485,"Ġ\"#{":22486,"ĠonSubmit":22487,"Ġstocks":22488,"/view":22489,"gree":22490,"-get":22491,"hit":22492,"Jo":22493,".getC":22494,"Initialized":22495,"ÑĤи":22496,"cuts":22497,"(Type":22498,"ĠAgreement":22499,"ĠVietnam":22500,"Ġ/*!":22501,"Ġpizza":22502,"-view":22503,"_em":22504,"Ġlhs":22505,"Ġmuy":22506,"ĠIdent":22507,"ĠFriends":22508,"Ġabund":22509,"_AD":22510,".timestamp":22511,"-'":22512,"Ġduplicate":22513,"Ġhunting":22514,"Ġregulatory":22515,"iao":22516,"amous":22517,"ĠEntertainment":22518,"[A":22519,"iatric":22520,"_CLIENT":22521,"ĠKids":22522,"/pkg":22523,"Break":22524,")));ĊĊ":22525,"ĠShape":22526,"Ġrelating":22527,"Interrupt":22528,"ableOpacity":22529,"embre":22530,"Ġmystery":22531,"Ġjournalists":22532,"ritable":22533,".Link":22534,"Ġstopping":22535,"CRET":22536,".DB":22537,"Ġpopularity":22538,"Ġgew":22539,"Ġimpr":22540,"setValue":22541,"FLAG":22542,"ĉmax":22543,"Ġbake":22544,"wy":22545,"ĠEconomic":22546,"Ġencontr":22547,"Ġfname":22548,"/de":22549,"Rank":22550,"Ġbugs":22551,".sm":22552,"Ġmedian":22553,"DOWN":22554,"ĠSure":22555,"AtIndex":22556,"ĠDick":22557,"Ġ(__":22558,".delta":22559,"Fr":22560,"Ġsuggesting":22561,"ĠRecyclerView":22562,",e":22563,"START":22564,"/****************************************************************************":22565,"xford":22566,"Ġreceipt":22567,"CLAIM":22568,"readonly":22569,"Ġengaging":22570,"Ca":22571,"asma":22572,"Ġensuring":22573,"English":22574,"ĠVancouver":22575,"hyth":22576,"Ġpurchasing":22577,"ĠPI":22578,".word":22579,"(sp":22580,".home":22581,":def":22582,"Ġgig":22583,"ĠVe":22584,"forum":22585,"ĠMitch":22586,"Bay":22587,"_FL":22588,"Ġsoll":22589,"_columns":22590,"Ġminority":22591,"bird":22592,"Ġhanded":22593,"SSL":22594,"STAT":22595,"Ġnervous":22596,"ĥ½":22597,"ĠfilePath":22598,"CREATE":22599,"Aw":22600,"Ġpens":22601,"seed":22602,"ĠCompute":22603,"olk":22604,"ĠAsset":22605,"reach":22606,"'),čĊ":22607,"navigation":22608,"LF":22609,"/util":22610,"ĠPub":22611,"ĠâĶ":22612,"cion":22613,"##Ċ":22614,"III":22615,"TagName":22616,"Ġamid":22617,"permission":22618,"ifiable":22619,"xFFFFFFFF":22620,"ни":22621,".Buffer":22622,"_irq":22623,"dark":22624,"Ġretval":22625,".fire":22626,"production":22627,".listen":22628,"ĠWeather":22629,"Ġbuyers":22630,".ne":22631,"erp":22632,"ĠPent":22633,"Ġwelfare":22634,"ĠpageSize":22635,"ĠStadium":22636,"erta":22637,"Ġlev":22638,"ampa":22639,"Pager":22640,"Ġcharging":22641,"ĠNetflix":22642,"|null":22643,"_random":22644,".xpath":22645,"Ġstere":22646,"ĠISIS":22647,"ponses":22648,"(loc":22649,"eyond":22650,"ĠOfficial":22651,"ĠMaryland":22652,"DataType":22653,"_par":22654,"{},":22655,"ĠEnjoy":22656,"_SHIFT":22657,"ĠAwards":22658,"_ENTRY":22659,"Ġseemingly":22660,"enticate":22661,"Ġhearts":22662,"_;ĊĊ":22663,"ĠHIV":22664,"Ġindivid":22665,"ĠFlag":22666,"_ctrl":22667,"ĠCallback":22668,",z":22669,"ĠGPU":22670,"ĉobj":22671,"ĠPhoenix":22672,"ĠBUS":22673,"Ġrubber":22674,"_AUTH":22675,"ĠSolutions":22676,"(location":22677,"Variables":22678,".setEnabled":22679,"_high":22680,"WO":22681,"Gesture":22682,"Ġretry":22683,"ĠobjectForKey":22684,"alloween":22685,"Ġmos":22686,"ĠCele":22687,"Ġikke":22688,"(cell":22689,"ĠMODE":22690,"rena":22691,"Ġdescribing":22692,"Ġphi":22693,"Ġrd":22694,"Ġdeserve":22695,"Ġwheels":22696,"å¸Ĥ":22697,"Ġcritics":22698,"Namespace":22699,"ĠFra":22700,"ĠĊĊĊĊ":22701,"Ġalla":22702,"Ġrequiring":22703,"æľŁ":22704,"utation":22705,"Ġdelayed":22706,"Ġadministrative":22707,"Ġbay":22708,".hidden":22709,"Tex":22710,"Ġboundaries":22711,"Ġ]);ĊĊ":22712,"ĠFollowing":22713,"~/":22714,"Fi":22715,"_conv":22716,"_TITLE":22717,"Ġdesde":22718,"ICollectionView":22719,"Alias":22720,"Ġbite":22721,"patient":22722,"_COMMAND":22723,"Completed":22724,"ĉelif":22725,"(<":22726,"Business":22727,"ĠPool":22728,"Ġpursue":22729,"ĠBan":22730,"_steps":22731,"_DECL":22732,"umble":22733,"Ġcombo":22734,"ĠLayer":22735,".xr":22736,"Ġdup":22737,"---------":22738,"Ġmodifier":22739,"rob":22740,"rez":22741,"Ġathletes":22742,"Used":22743,"wear":22744,"Ġlegitimate":22745,"Ġ\"ĊĊ":22746,"Ġhv":22747,"Std":22748,"ĠHold":22749,"Ġsurviv":22750,"ĠAlliance":22751,"ĠEarly":22752,"Behavior":22753,"(font":22754,"/libs":22755,"Ġrectangle":22756,"Ġsinger":22757,"Ġamp":22758,"EqualTo":22759,"Ġ\".\"":22760,"Ġgirlfriend":22761,"å±":22762,"linear":22763,"observ":22764,"Ġpiù":22765,"Ġcomplement":22766,"WithValue":22767,"(password":22768,"take":22769,"Blank":22770,"ĠCompar":22771,"'\",":22772,"_policy":22773,"mongoose":22774,"_FAILED":22775,".report":22776,"Ratio":22777,".PerformLayout":22778,"usable":22779,"mers":22780,"_render":22781,"PEED":22782,"Ġlesb":22783,"ĉE":22784,"_tool":22785,"Ġladies":22786,"оÑģ":22787,"))))Ċ":22788,";;;;":22789,".dot":22790,"Ġnest":22791,"peak":22792,"ukkit":22793,"eca":22794,"_SW":22795,"Ġ&(":22796,"ĠOklahoma":22797,"Ġbanking":22798,"ĠNintendo":22799,"Ġreproduce":22800,"_elements":22801,"_mac":22802,"proxy":22803,"Ġremarkable":22804,"}/${":22805,"Ġouts":22806,".hasNext":22807,"MODE":22808,"Ġanime":22809,".conn":22810,"Unique":22811,"Dom":22812,"Ġimportantly":22813,"itty":22814,"Ġjuice":22815,"Tw":22816,"ĠPartners":22817,"Ġattacking":22818,"Ġportable":22819,"amiento":22820,".PictureBox":22821,".gen":22822,"Ġoptimal":22823,"Ġrecre":22824,"Ġjournalist":22825,"ĠExtract":22826,"ĠMoreover":22827,"ĠmarginTop":22828,".Ap":22829,"Ġfiring":22830,"NaN":22831,"ĉtemplate":22832,"ад":22833,".En":22834,"Ġdefence":22835,"ĠTel":22836,"ilen":22837,"jan":22838,"=data":22839,"ĠUrl":22840,"ĠReuters":22841,"(total":22842,"ĠFifth":22843,"Ġessays":22844,"Ġinterpretation":22845,"Ġcharity":22846,"ĠRules":22847,"Ġsubsection":22848,"styled":22849,"azer":22850,"lags":22851,"LIST":22852,"Ġuploaded":22853,"Ġtrash":22854,"Ġregistr":22855,"Ġseller":22856,">';čĊ":22857,"ĠstartTime":22858,"çĻ":22859,"sy":22860,"(HttpServletRequest":22861,"Ġtrap":22862,"GC":22863,"Ġembedded":22864,"Ġsurrounded":22865,"imits":22866,"TX":22867,"ylinder":22868,"ĠFal":22869,"Ġsentences":22870,"ĠJa":22871,"IFICATION":22872,"weapon":22873,"ovation":22874,"Ġcoat":22875,"Ġinterpol":22876,"Ġlips":22877,"ĠKy":22878,"Ġvectors":22879,"_am":22880,"Ġintake":22881,".world":22882,"Ġinbox":22883,"ĠMAC":22884,"_ab":22885,"(nameof":22886,"Ġentert":22887,"Ġgathering":22888,"ĠSIM":22889,"++.":22890,"nya":22891,"'}}":22892,"ĠUPDATE":22893,"Ġpac":22894,"(html":22895,"ĠSant":22896,"iating":22897,"ĠIdeas":22898,"Ġspray":22899,"ĠHart":22900,"Ġverification":22901,"adesh":22902,"/modules":22903,"ĠMind":22904,"ĠSizedBox":22905,"Ġshelter":22906,"Ġheroes":22907,"atty":22908,"Ġcertified":22909,"sj":22910,"Ġêtre":22911,"ÅĤo":22912,"Ġpublishing":22913,"ĠMalays":22914,".getUser":22915,"ĠProvider":22916,"ĠLinkedList":22917,"ĠBor":22918,"ROUND":22919,"did":22920,"tain":22921,"pire":22922,"ĠJenn":22923,"tel":22924,"ande":22925,"_front":22926,"ĠMcG":22927,"TestMethod":22928,"à¸Ń":22929,"Ġoccasionally":22930,"ĠWales":22931,"Ġexercises":22932,"ĠÐĴ":22933,"-plus":22934,"Ġvalidator":22935,"Ġprayer":22936,"LATED":22937,"_author":22938,"Ġlabour":22939,"++Ċ":22940,"-equiv":22941,"ĠGPL":22942,"Ġfacebook":22943,"simple":22944,"gly":22945,"Processor":22946,"ipy":22947,"Ġ*>":22948,"Ġcleared":22949,"ĠPush":22950,"Ġpenis":22951,"Structure":22952,"lij":22953,"ĠMorgan":22954,"Ġhandful":22955,"\".Ċ":22956,"|\\":22957,"Ġ********************************":22958,"ĠAqu":22959,"_IC":22960,".loads":22961,"Ġmeter":22962,"ĠMarine":22963,"::{":22964,"ĠTS":22965,"ĠArrays":22966,".Title":22967,"GRAM":22968,"termin":22969,"Ġcoinc":22970,"Else":22971,"_states":22972,"-run":22973,"members":22974,"astro":22975,"ĠonPress":22976,"Ġbeings":22977,"Ġabandoned":22978,"Ġtaxp":22979,"owners":22980,".mode":22981,"Ġdiagnosis":22982,"Ġ_Ċ":22983,"ĠKnight":22984,"ĉA":22985,"Ġobserve":22986,"),'":22987,"!\")Ċ":22988,"ĠPara":22989,"Ġvariation":22990,"(False":22991,"ĠAnti":22992,"Ġgri":22993,"Ġhomeless":22994,"?v":22995,"Ġbez":22996,".Server":22997,"release":22998,"ĠPatri":22999,"Ġchars":23000,"Ġranking":23001,"activation":23002,"Ġwides":23003,"qr":23004,".Sql":23005,"acular":23006,"ĠBot":23007,"_sync":23008,"Ġhappiness":23009,"Ġvolunteers":23010,"Ġsits":23011,"/<":23012,"[e":23013,"(fileName":23014,"Ġcapac":23015,"ĠMaria":23016,"father":23017,"Ġgram":23018,"*i":23019,"Ġcaso":23020,"_draw":23021,"ĠRaw":23022,"ĠIterator":23023,"ĠPadding":23024,"PD":23025,"BOX":23026,"ĠSPECIAL":23027,"Ġfecha":23028,"Ġvide":23029,"ĠLeader":23030,"以":23031,"$(\".":23032,"Ġdiameter":23033,"Ġmild":23034,"Ġrocks":23035,"appings":23036,"directory":23037,".flush":23038,"ĠJess":23039,"UNIT":23040,"ĠPear":23041,"Ġmandatory":23042,"Sur":23043,"qt":23044,"Ġstreams":23045,"Ġcooperation":23046,"ĠSac":23047,"Ġcheaper":23048,"ĉch":23049,"animation":23050,"fare":23051,"(height":23052,"(True":23053,"NY":23054,"Ġwrest":23055,"Ġpolls":23056,"Ġencountered":23057,"ĠMarketable":23058,"_PASSWORD":23059,"_SELECT":23060,"ĠArabia":23061,"_clock":23062,"Ġvoy":23063,"Ġиз":23064,"Ġstir":23065,"isible":23066,"-effect":23067,".created":23068,"Ġtoys":23069,"ĠTradable":23070,"Ġrust":23071,"Ġstrcpy":23072,"_timestamp":23073,"Ġtalented":23074,",null":23075,"ĠJobs":23076,"ĠPortland":23077,"Ġweakness":23078,"Throw":23079,"ĠAngel":23080,"ä¿®":23081,"Ġuncert":23082,"ï¼īĊ":23083,"ĠìĿ´":23084,"Which":23085,"Ġ[-]:":23086,"Something":23087,"Ġconvicted":23088,"kle":23089,"edium":23090,"Ġbranches":23091,"Ġbases":23092,"ç®":23093,"Ġcomplexity":23094,"ĠFig":23095,".reshape":23096,"$db":23097,"_CONST":23098,"ĠTes":23099,".runtime":23100,"Ġdeny":23101,"ĠBSD":23102,"Ġkr":23103,"hatt":23104,"ĠStatic":23105,"Ġuniversities":23106,"Replace":23107,"Ġdrove":23108,"Ġadoles":23109,"_plugin":23110,"ĠLGBT":23111,"Ġtex":23112,"duction":23113,"EDI":23114,"ĠTed":23115,"_URI":23116,"Ġreception":23117,"arten":23118,".Single":23119,"rice":23120,"scious":23121,"_bg":23122,"Ġwages":23123,"ĠServlet":23124,"UILayout":23125,"Ġformatted":23126,".Mod":23127,"',Ċ":23174,"Ġexpanding":23175,"ĠHamilton":23176,"ĠContrib":23177,".Tables":23178,"Activ":23179,"HH":23180,"ocommerce":23181,"_;":23182,"Ġamongst":23183,"owing":23184,"ĠCold":23185,"APH":23186,"Ġpsychological":23187,"_tensor":23188,"Ġpackaging":23189,"ĠSweden":23190,"Ġpare":23191,"Ġaggregate":23192,"Ġmoderate":23193,"_hand":23194,"Ġdesignated":23195,"Ġdrum":23196,"ĠgetUser":23197,"ĠCreek":23198,"_scope":23199,"ĠTransfer":23200,"ĠMarg":23201,"Ġfighters":23202,"Wnd":23203,"ĠSel":23204,"ĠLaunch":23205,"Ġemerging":23206,"iframe":23207,"ĠAdditional":23208,"Ġfears":23209,"Ġsatellite":23210,"_:":23211,"Ġdisposing":23212,"GetValue":23213,"HttpPost":23214,"ATIVE":23215,"ulary":23216,"Views":23217,"Ġattending":23218,"ĠTennessee":23219,"ĠMission":23220,"Ġmedication":23221,"ĠWy":23222,"ĠAnna":23223,"ع":23224,"ĠVertex":23225,".types":23226,"Organ":23227,".DataGridViewTextBoxColumn":23228,"ĠRS":23229,"Ġtempo":23230,"(App":23231,"VersionUID":23232,".point":23233,"ĠDutch":23234,"Hours":23235,"LU":23236,"Ġquoted":23237,".builder":23238,"ĠPerfect":23239,"ĠAlways":23240,"_two":23241,"Ġexclusively":23242,"ĠCra":23243,"ificar":23244,"ĠAWS":23245,"ingham":23246,"complex":23247,"kernel":23248,"Ġgravity":23249,"Ġwi":23250,"Ġoverview":23251,"ĠWant":23252,"ĠWP":23253,"(sh":23254,".rotation":23255,"States":23256,"ĠTeen":23257,"_components":23258,"ìĪĺ":23259,"Received":23260,"Ġlyrics":23261,"rites":23262,"ĉĉĉĉĉĠ":23263,"-American":23264,"[num":23265,"/python":23266,"ĠUART":23267,"Ġapple":23268,"ĠJonathan":23269,"Ġmomentum":23270,"ั":23271,"Ĥ¹":23272,"Ġmich":23273,"andra":23274,"Ġbiological":23275,"ĠMens":23276,"Ġ%%":23277,"elsea":23278,"ĠMexican":23279,".randint":23280,"Ġtale":23281,"ĠValidate":23282,"Ġdefeated":23283,".htm":23284,"Ġcopper":23285,"=/":23286,"cosystem":23287,"Ġrip":23288,"decimal":23289,".VISIBLE":23290,"ĠTa":23291,"ĉĉĉĉĉĉĉĉĉĉĉĉĉĉ":23292,"Ġdownloaded":23293,"environment":23294,"Ġnomine":23295,"building":23296,"ĠSpot":23297,"ipheral":23298,"Ġalto":23299,"quet":23300,"ĠFT":23301,"/get":23302,"/master":23303,"WIN":23304,"åħĥ":23305,"West":23306,"argc":23307,"Ġproducers":23308,"ĠMuch":23309,"_storage":23310,"credit":23311,"CONT":23312,"Ġvet":23313,"Ġvoices":23314,"('',":23315,"Ġinstruments":23316,"ĠMSG":23317,"esse":23318,"repository":23319,"omics":23320,"Ġdealer":23321,"Still":23322,"Ġbanner":23323,"ascii":23324,"Ġremarks":23325,"[js":23326,"Ġshorter":23327,"gulp":23328,"Ġmyster":23329,"Ġkun":23330,"ĠBird":23331,"Ġtiene":23332,"nut":23333,"ĠUm":23334,"Ġwise":23335,"Yeah":23336,"INESS":23337,"_begin":23338,"-heading":23339,"Course":23340,"ĠčĊčĊ":23341,"ombie":23342,"graded":23343,"ĠGPS":23344,"Ġże":23345,"Fit":23346,"caption":23347,"ön":23348,"/image":23349,"lia":23350,"(mod":23351,"Ġleak":23352,"enza":23353,"/H":23354,"ĠHappy":23355,"Dist":23356,"nx":23357,"ĠGovernor":23358,"(last":23359,"teacher":23360,"ĠSent":23361,"support":23362,"jectory":23363,"ĠÙħ":23364,"Registration":23365,"ĠGray":23366,",false":23367,"Ġadjusted":23368,"(settings":23369,"'Ċ":23431,"-fold":23432,"æĬ":23433,"ĠBetter":23434,"Ġ\"\\<":23435,"spacing":23436,"Ġfurnished":23437,"oser":23438,"]}Ċ":23439,"Ġ$\"":23440,"pull":23441,".Post":23442,"(ip":23443,"Ĺı":23444,".front":23445,"nte":23446,"ĠFM":23447,"guid":23448,"Ġnegotiations":23449,"agonal":23450,"Ġtremend":23451,"ungeon":23452,"Adv":23453,"carousel":23454,"ÃŁe":23455,"_DESC":23456,"Ġhammer":23457,"áºŃ":23458,"ĠĠĠĠĠĠĠĠĊĊ":23459,"-core":23460,"-service":23461,"Ġcorners":23462,"ĠSF":23463,"pred":23464,">A":23465,"ĠJLabel":23466,"Ġromantic":23467,"Ġtestimony":23468,"osc":23469,"ĠGeneration":23470,"asures":23471,"_internal":23472,"Ġprints":23473,"Ġ])Ċ":23474,"ĠCleveland":23475,"repo":23476,"Disc":23477,"Ġ\">Ċ":23478,"����":23479,"Ġnearest":23480,"_tb":23481,"(require":23482,"EOF":23483,"-child":23484,"Ġbudd":23485,".XtraEditors":23486,"alties":23487,"\\\":\\\"":23488,"Words":23489,"Ġlocally":23490,"Ġpurchases":23491,"Drawer":23492,"extract":23493,"Ġexecut":23494,"}'.":23495,"userdata":23496,"Ġfocuses":23497,"-minute":23498,"ĠPublish":23499,"ogo":23500,"Ġmountains":23501,"Bot":23502,"}>{":23503,"Ġtension":23504,"rod":23505,"mesh":23506,"Ġtransformed":23507,",R":23508,"()}Ċ":23509,".long":23510,"Ġgorgeous":23511,"ĠSchedule":23512,"Ġoldest":23513,"Ġsubprocess":23514,"(IN":23515,"yect":23516,"ĠCooper":23517,"arness":23518,"ĠMonitor":23519,".part":23520,"ĠNBC":23521,"Ġcotton":23522,"Ġhol":23523,"Ġrgba":23524,"ĠBio":23525,"Continue":23526,"Pod":23527,"Ġparticipating":23528,"clusions":23529,"(ByVal":23530,"ì":23531,"ĠHOW":23532,"_setopt":23533,"Ġaccompanying":23534,"aton":23535,"Ġ/\\":23536,"ĠAuthentication":23537,"ién":23538,"ĠBarack":23539,"/*.":23540,"Ġeager":23541,"ĠCancel":23542,"$":23586,"OLEAN":23587,"OKIE":23588,"IBILITY":23589,"UAGE":23590,"ĠSurvey":23591,"Ġresign":23592,"wing":23593,"Ġsecrets":23594,"Ġchips":23595,"JSONObject":23596,"Desktop":23597,"_SYMBOL":23598,"(resource":23599,"ĠĊ":23600,"Ġnewest":23601,"uli":23602,"Ġdesert":23603,"Ġdip":23604,"ĠPow":23605,"Ġequation":23606,"Ġpossibilities":23607,"ĠFed":23608,"osph":23609,"Ġ[%":23610,"Ġbubble":23611,"etherlands":23612,"Ġcement":23613,".auto":23614,"_AN":23615,"âĢĻ.":23616,"selection":23617,"ĠBond":23618,"Den":23619,"-O":23620,".getType":23621,".Window":23622,"pres":23623,"Ġswinger":23624,"\"})Ċ":23625,"Ġpip":23626,"Ġmice":23627,"Ġcompound":23628,"-plugin":23629,"iko":23630,"Ġcenturies":23631,"icular":23632,"-inline":23633,"ĉkey":23634,">\\<":23635,"ENSION":23636,"Ġ[čĊ":23637,"Ġprecisely":23638,"Ġété":23639,"ĠPast":23640,"ĠCambridge":23641,"-full":23642,"Ġanalyze":23643,"ĠSteven":23644,"Ġnem":23645,"due":23646,"oren":23647,"Ġmuscles":23648,"ijing":23649,"/-":23650,"ĠKennedy":23651,"RM":23652,"ossible":23653,"Ġactress":23654,"Ġdolor":23655,"å½ķ":23656,"Need":23657,".toggle":23658,"ĠRace":23659,"wers":23660,".material":23661,"ĠDue":23662,"ĠPel":23663,"#print":23664,"Ġindependence":23665,"exus":23666,"Shadow":23667,"Ġencoder":23668,"(level":23669,"ĠSwift":23670,".doc":23671,"_selection":23672,"ĠserialVersionUID":23673,"Labels":23674,"Ġperformances":23675,".Tag":23676,"ĠNHL":23677,"izen":23678,"/UIKit":23679,"_CONTROL":23680,"Ġearnings":23681,"ĠAlt":23682,"_HANDLE":23683,"Ctx":23684,"Ġpersu":23685,"Ġtran":23686,"ç¨":23687,"_CHANNEL":23688,"Ġsatisfaction":23689,"ĠGP":23690,"iox":23691,"mitt":23692,"lando":23693,"Ġpig":23694,"inals":23695,"ência":23696,"Surface":23697,"ĠUUID":23698,"Ġbeneficial":23699,"Ġsequences":23700,"ĉmemset":23701,"Ġmagical":23702,"«":23703,"Ġworn":23704,"ASC":23705,"popup":23706,"COMP":23707,"_before":23708,"eness":23709,"Ui":23710,"Les":23711,".require":23712,".Serializable":23713,"addGap":23714,"Ġauthorization":23715,".pyplot":23716,"urray":23717,"latitude":23718,"frames":23719,"ajs":23720,"Ġcompass":23721,"Ġobservations":23722,"_sup":23723,".environ":23724,"Ġtriple":23725,"ĠRuby":23726,"Ġdrain":23727,"_FILTER":23728,"San":23729,"UMP":23730,"NullException":23731,"ĠGab":23732,"owe":23733,"ĠTurkish":23734,"_sequence":23735,"ĠGrant":23736,"uela":23737,"Ġwo":23738,"Ġcube":23739,"iq":23740,"Ġdisorders":23741,"Ġextraordinary":23742,"Ġctrl":23743,"ĠSeq":23744,"entr":23745,"Ġsanctions":23746,"utsch":23747,"Reports":23748,"Ġinherit":23749,"Period":23750,"Ġphotography":23751,"ĠFramework":23752,"Ġspecialist":23753,"Ġ?ĊĊ":23754,"_selected":23755,".Player":23756,"Ġallocation":23757,"(account":23758,"Ġstructural":23759,"vable":23760,"-offset":23761,".AppCompatActivity":23762,"ам":23763,".AddWithValue":23764,"Ġicons":23765,"Ġshutdown":23766,"_low":23767,"ĠCompare":23768,"ĠCe":23769,"=head":23770,"lam":23771,".predict":23772,"_DEC":23773,"ĠSleep":23774,"ĠGratis":23775,"Ġsuggestion":23776,"ĠDEL":23777,"caff":23778,"avirus":23779,"Nothing":23780,"ŀĭ":23781,"Ġwidespread":23782,"Ġmechanisms":23783,"ĠtextAlign":23784,"occup":23785,"ĠRail":23786,":NS":23787,"Ġfiber":23788,"Ġmk":23789,"Ġvintage":23790,"-long":23791,".reduce":23792,".Entities":23793,"(record":23794,"Ġpleasant":23795,"FRING":23796,".Cells":23797,"OTT":23798,"ĉelseif":23799,"_confirm":23800,"ĠViewGroup":23801,"sym":23802,"Ġpray":23803,"Ġsuspected":23804,"Contains":23805,"Ġborders":23806,"ĠcomponentDid":23807,"ASSERT":23808,"Ġinfinite":23809,"-order":23810,"Ġhello":23811,"ĠGrade":23812,".currentTimeMillis":23813,"apolis":23814,"zh":23815,"ĉObject":23816,":\\\\":23817,"HO":23818,"valuation":23819,"Ġvocab":23820,"Ġcoupon":23821,"atabases":23822,".GetType":23823,"Learn":23824,"]=\"":23825,"ĠGary":23826,"otive":23827,"Ġash":23828,"Ġbib":23829,"XXXX":23830,"Ġbalanced":23831,"VALUE":23832,"ĠNat":23833,"_Ad":23834,"<":23976,"Ġfool":23977,"Ġesk":23978,".Null":23979,"ĠDies":23980,"_OUTPUT":23981,"_TYPED":23982,"Ġpainted":23983,"Ġsophistic":23984,"ĠBear":23985,"*n":23986,"_PACK":23987,"Ġdelivering":23988,"ĠCOUNT":23989,"åįķ":23990,"Ġjeg":23991,"-car":23992,"fname":23993,"Ġranging":23994,"ĠNeg":23995,"/******/":23996,"ĠCHAR":23997,"Ġultra":23998,"Grad":23999,"=t":24000,"Ġjudges":24001,"ĠDise":24002,"anners":24003,"Ġscal":24004,"_cal":24005,"ĠCONNECTION":24006,"_embed":24007,"(fn":24008,"ĠCraft":24009,"ĠPas":24010,"\")->":24011,".convert":24012,".resource":24013,"ĠSTATUS":24014,"ông":24015,"ĠTit":24016,"Ġclassroom":24017,"ĠArchitect":24018,"ĠKings":24019,"Ġsteady":24020,"/*!Ċ":24021,"ĠGene":24022,")\";Ċ":24023,"icia":24024,"stan":24025,"ĠConstruction":24026,"umper":24027,"wc":24028,"ĠCBS":24029,"inging":24030,"-party":24031,"(driver":24032,"MARK":24033,"Ġnested":24034,"eward":24035,"Ġdependency":24036,"Ġmales":24037,"ĠONE":24038,"ĠProduction":24039,"][$":24040,"ãĥ¼ãĥ":24041,"_LOAD":24042,"ĠBol":24043,"elry":24044,"łéϤ":24045,"ĠRequire":24046,"Ġplacing":24047,"xxx":24048,"CALE":24049,"Ġthumb":24050,"Choose":24051,"Ġprototype":24052,"VOID":24053,"Ġlesbian":24054,"Ġtraits":24055,"Sharp":24056,"Ġconsume":24057,"Truth":24058,"ĠactionPerformed":24059,"ĠEnvironmental":24060,"ĠDean":24061,"Ġestado":24062,"same":24063,"Ġnumeric":24064,"Ġtransit":24065,".Email":24066,"-side":24067,"_RUN":24068,"ĠVillage":24069,"_OPEN":24070,"è¦":24071,".rem":24072,"-warning":24073,"anya":24074,"PropertyChanged":24075,"Ġ(!_":24076,"(check":24077,"ilia":24078,"ĠSoft":24079,"steps":24080,"ĠMadrid":24081,"MemoryWarning":24082,"Ġhandlers":24083,"Ġexperiencing":24084,"Ġinspect":24085,"buttons":24086,"ReceiveMemoryWarning":24087,"chemy":24088,"Links":24089,"Ġurllib":24090,".SystemColors":24091,"ĠEigen":24092,"Ġpunishment":24093,":UIControl":24094,"bara":24095,"-set":24096,"Ġ}čĊčĊčĊ":24097,"Ġtolerance":24098,"Ġinterfaces":24099,".redirect":24100,"ighbors":24101,"csrf":24102,"_background":24103,".Utils":24104,"_HT":24105,"ĠInterest":24106,"imos":24107,"Ġgrants":24108,"Ġexamined":24109,"ÐĶ":24110,"Ġcf":24111,"forge":24112,"backs":24113,"ĠObjects":24114,"_sent":24115,".entry":24116,"ĠTHEN":24117,"ellido":24118,"cia":24119,",res":24120,"/stdc":24121,".nd":24122,"(Int":24123,"ĠAuthors":24124,"ĠAppCompatActivity":24125,"'{":24126,"Ġmedi":24127,"Music":24128,"igm":24129,"ceipt":24130,"Ġauss":24131,"Ġtargeting":24132,"ĠKeys":24133,"hn":24134,":]Ċ":24135,"Ġmineral":24136,"î":24137,".ca":24138,"omed":24139,"Ġsheets":24140,"Ġcamb":24141,"Ġdeadly":24142,".inject":24143,"(unit":24144,"ĠSelection":24145,".gms":24146,"(connection":24147,"Ġ$(\"":24148,"émon":24149,"ĠCurrently":24150,"pte":24151,"_paths":24152,"leaf":24153,"Ġimplications":24154,"posal":24155,"ä½į":24156,"[/":24157,"ancia":24158,"éĽ":24159,"mul":24160,"cie":24161,"Ġgeile":24162,"imals":24163,"UIView":24164,"Ġsurre":24165,"serialize":24166,"ISO":24167,"Ġarbitrary":24168,"Ġsockaddr":24169,".fn":24170,"ĠMerc":24171,"Ġcasting":24172,"KeyDown":24173,"ĠnewValue":24174,"opens":24175,"Todo":24176,"Ġflexibility":24177,"ĉĉĉĉĠĠ":24178,"Velocity":24179,"ún":24180,"rowing":24181,"Ġcomputed":24182,"`)Ċ":24183,"statement":24184,"Ġri":24185,"_cart":24186,"Low":24187,"transfer":24188,".nav":24189,"Ġgrave":24190,"ĠDoor":24191,"ĉalert":24192,".subscribe":24193,"-profile":24194,"ĉbase":24195,"ĠâĪĴ":24196,"__ĊĊ":24197,"Ġengineers":24198,"Ġexplosion":24199,"Ġdari":24200,"ĉLog":24201,"onal":24202,"Ġisolated":24203,"{i":24204,"ĠMsg":24205,"Future":24206,"Ġracist":24207,"-wrap":24208,"ĠVers":24209,"borg":24210,"ISION":24211,"ĠÑĢаÐ":24212,"ĠYan":24213,"initWith":24214,"Ġnomin":24215,"(empty":24216,"ÃŃn":24217,"ãĤ¤":24218,"ĉwidth":24219,"Ġchamber":24220,"/ajax":24221,"EMP":24222,"Ġneces":24223,"ivos":24224,"logic":24225,"*)&":24226,"cripts":24227,"RowAt":24228,"iblings":24229,"Ġears":24230,"Ġcomputing":24231,"Ġmaker":24232,"ĠNeither":24233,"breadcrumb":24234,"Ġserialize":24235,"ĠWithin":24236,"Ġdell":24237,"_TRACE":24238,"=a":24239,"Ġwishes":24240,"-inch":24241,"ĠDor":24242,"Ġinnocent":24243,"ĠDol":24244,"Ġintens":24245,"forced":24246,"ĠBIT":24247,"Ġphotographs":24248,"Ġcasa":24249,"ĠLen":24250,"\\Framework":24251,".Simple":24252,"Ġdear":24253,")/(":24254,"ippi":24255,"Ġowns":24256,"Players":24257,"Ġproposals":24258,".pi":24259,"usalem":24260,"Damage":24261,"Ġcalories":24262,"ĠCreative":24263,"Ġ[$":24264,"Ġ//čĊ":24265,"AndView":24266,"ème":24267,".custom":24268,"_factory":24269,"commands":24270,"_look":24271,"Ġstrcmp":24272,"YN":24273,"aired":24274,"Ġaudit":24275,"оÑģÑĤ":24276,"ĠReverse":24277,"ropriate":24278,"etics":24279,"';Ċ":24352,"Ġpepper":24353,"Ġshed":24354,"ĠMedium":24355,"ĠCookie":24356,"Ġoverseas":24357,"edor":24358,"asurement":24359,"åŃĺ":24360,"Ġ'.'":24361,"Ġphp":24362,"ĠPROC":24363,"Ġexceptional":24364,"(th":24365,"ĠJet":24366,"Ġoccupied":24367,".setImage":24368,"ĠRelated":24369,"ucker":24370,"Members":24371,"PRINT":24372,"ĠGlo":24373,"_VIEW":24374,"}\",Ċ":24375,"Ġadoption":24376,"[])Ċ":24377,"ĠMissouri":24378,"ĠLincoln":24379,"erald":24380,"Popup":24381,"Ġfate":24382,"-bootstrap":24383,"fections":24384,"ĠPoll":24385,"_ARGS":24386,"inance":24387,"-home":24388,".),":24389,"_done":24390,":ĊĊĊ":24391,"Ġdiscussing":24392,"ĠSQLException":24393,"Ġelectro":24394,"ĉreq":24395,"Ġzw":24396,"Ġlui":24397,"Ġovernight":24398,"$user":24399,"ĠWAY":24400,"Ġallerg":24401,"Ġdisappointed":24402,"Ġradiation":24403,"Ġimpressed":24404,"ificates":24405,"Ġtob":24406,"CLASS":24407,"Ġcuda":24408,"_det":24409,"-post":24410,"ulu":24411,"Translation":24412,"-hand":24413,".year":24414,"ĠMongo":24415,"Ġunclear":24416,".engine":24417,"WEBPACK":24418,"rices":24419,"_ACCESS":24420,"Ġholidays":24421,"percent":24422,".Identity":24423,"ĠGov":24424,"Ġpassionate":24425,"!!.":24426,"ĠGreece":24427,"plusplus":24428,"'));":24429,"GP":24430,"Ġexcit":24431,".tabPage":24432,"_cond":24433,"Ġsponsor":24434,"MODULE":24435,"_proc":24436,"Ġ$Ċ":24437,"Ġrational":24438,".Tool":24439,"Ġihr":24440,"cca":24441,"åĵģ":24442,"ĠEstate":24443,"IBUTE":24444,"ActionPerformed":24445,"ĠSolar":24446,"¦Ĥ":24447,"Ġequity":24448,"tid":24449,"Ġrecip":24450,".simple":24451,"mk":24452,"ĠLuke":24453,"ĠGuardian":24454,"Ġencrypted":24455,"Ġdominant":24456,".place":24457,"ĠNV":24458,"Ġtongue":24459,"(Get":24460,"Ġstainless":24461,".Play":24462,"Ġeb":24463,"aci":24464,".buffer":24465,"readcrumbs":24466,"Ġvaccine":24467,"prom":24468,"ĠuserInfo":24469,"Ġslug":24470,"SerializedName":24471,"-wide":24472,"Ġreactions":24473,"ĠYang":24474,"ĠAdds":24475,"(userId":24476,"Ġplates":24477,"ĠMEM":24478,"Ġbail":24479,"Inside":24480,"eted":24481,"Ġelsif":24482,"Ġsake":24483,"Ġcycles":24484,"ĠìĹ":24485,"ĉI":24486,"-collapse":24487,"ĠGMT":24488,"Declaration":24489,"Ġgros":24490,"Ġreaches":24491,"Ġcustody":24492,"Until":24493,"tu":24494,"ĠChen":24495,"Ġnx":24496,"(addr":24497,"ĠOffer":24498,"Ġcolleg":24499,"assador":24500,"Ġmapper":24501,"ĠSIGNAL":24502,"ĠBloom":24503,"ĠHoll":24504,"ĠImper":24505,"-des":24506,"_site":24507,"Proc":24508,"Equ":24509,"Ġatomic":24510,"ĠWoman":24511,"sent":24512,"scar":24513,"Ġintelligent":24514,"ĠGetting":24515,"ĠRegistration":24516,"ĠPhill":24517,"Ġkiller":24518,"unicode":24519,"ĊĉĉĊ":24520,"ĠJacob":24521,"ĠConst":24522,"Ġlocate":24523,"Ġcaus":24524,"ĠScholar":24525,"Ġconstitutional":24526,"Ġinflation":24527,"ĠGot":24528,"=array":24529,"endum":24530,"Ġtranslated":24531,"Ġdivorce":24532,"Entries":24533,"Ġsor":24534,"ĠQuote":24535,"irlines":24536,"UK":24537,"Ġexcel":24538,"(opt":24539,"ĠADV":24540,",:,":24541,"Ġcontacted":24542,"ĠDA":24543,"Ġrings":24544,"ĠIndustrial":24545,".getContext":24546,"Ġforgotten":24547,"ĠTan":24548,"Ġpants":24549,"Ġov":24550,"Ġdecoder":24551,"ĠPartial":24552,"Ġvc":24553,"Ġbattles":24554,"Arial":24555,"FRINGEMENT":24556,"irates":24557,",w":24558,"aintenance":24559,"ĠOd":24560,"ĠTechnologies":24561,"åīį":24562,"ĠCarter":24563,".findAll":24564,"Nome":24565,"Ben":24566,"ĠUsage":24567,"ĠPicture":24568,"Ġbadly":24569,"_panel":24570,"Ġpatent":24571,"ĠProtocol":24572,"lotte":24573,"ĉplayer":24574,"jections":24575,"Ġdou":24576,"_release":24577,"urniture":24578,"_tax":24579,"ĠFields":24580,".dataset":24581,"_master":24582,"CLUDE":24583,"ĠPharm":24584,"bst":24585,"Ġoperational":24586,".cell":24587,"Ġidentifying":24588,"Ġjwt":24589,"tuple":24590,"ĠTC":24591,"ĠCro":24592,"ixmap":24593,"-components":24594,"general":24595,"Ġoz":24596,"_De":24597,"_double":24598,"ĠToo":24599,".ViewGroup":24600,"gate":24601,"dings":24602,"photos":24603,"Ġgrande":24604,"ollect":24605,"_lin":24606,"Ġawful":24607,"filters":24608,"Ġalternate":24609,"esp":24610,"Ġcompress":24611,"eo":24612,"ĠScale":24613,"Ġindirect":24614,"Ġinvoice":24615,"ĊĊĊĊĊĊĊĊĊĊĊĊĊĊĊĊ":24616,"Starting":24617,"ĠPlayers":24618,"iele":24619,".then":24620,"Ord":24621,"ĠTuple":24622,"Ġbout":24623,"ĠStatistics":24624,"Preview":24625,"Ġpuzzle":24626,"ĠWidth":24627,"STATE":24628,"Ġoverlay":24629,"ĉon":24630,"Ġinfr":24631,"Ġsmallest":24632,"locked":24633,"ÑĤо":24634,"ssl":24635,"Ġdeemed":24636,"Ġsco":24637,"reck":24638,"ĠjButton":24639,"Ġmissions":24640,"ç§°":24641,".SelectedIndex":24642,"TABLE":24643,"Sept":24644,"Ġacknowledge":24645,"Ġstrtotime":24646,"ĠTell":24647,"ĠDak":24648,"Ġaluminum":24649,"Ġfence":24650,"ĠStars":24651,"CONFIG":24652,"Ġretrofit":24653,"Ġemphasis":24654,"/header":24655,"ĠSomething":24656,"inished":24657,"='\".$":24658,"ĠValidators":24659,"Ġpolar":24660,"sections":24661,".aspx":24662,"Ġaspir":24663,".Mock":24664,"CodeGen":24665,"Ġpeut":24666,"Ġaccepting":24667,"Ġbacking":24668,"Picture":24669,"/ap":24670,"ег":24671,"_SEC":24672,"-use":24673,"annotation":24674,"Ġcognitive":24675,"Ġgrip":24676,"hour":24677,"ĠLegal":24678,"Ġepic":24679,".toolStrip":24680,".notify":24681,".Last":24682,"ORIZ":24683,"Middleware":24684,"criptions":24685,"lash":24686,"_FOUND":24687,"ĠLiverpool":24688,"Ġ{}\",":24689,"Install":24690,"Ġnit":24691,"Ġfigured":24692,"[len":24693,".Win":24694,".platform":24695,"Ġgambling":24696,"(dt":24697,"avery":24698,"ĉinclude":24699,"Whether":24700,"Routing":24701,"Ġtherap":24702,"Remote":24703,"ĠLoss":24704,"yll":24705,"Ġapproached":24706,"ĠVehicle":24707,"ĠAlpha":24708,"Ġvocê":24709,"answers":24710,"NSDictionary":24711,"consider":24712,"unused":24713,"ĠFan":24714,"orable":24715,"fre":24716,"ĠDISCLAIM":24717,"ĠActor":24718,".]":24719,"toHave":24720,".userId":24721,"Ġspeeds":24722,"eway":24723,"Ġrecurs":24724,"Ġг":24725,"_priv":24726,"!âĢĿĊĊ":24727,"Choice":24728,"Ġsettle":24729,"Ġplanes":24730,"'},":24731,"Tom":24732,"ITER":24733,"!\"Ċ":24734,"å»":24735,"achelor":24736,"Ġseparation":24737,"Ġdal":24738,"adj":24739,"Ġregisters":24740,"riz":24741,"ĠNotice":24742,"Ġlu":24743,"Ġcourage":24744,"Ġaxes":24745,"cellent":24746,".async":24747,"Ġcompatibility":24748,"ç«":24749,"Ġ!ĊĊ":24750,"ĉtitle":24751,"YLE":24752,"ĉmessage":24753,"UUID":24754,"OLDER":24755,"ĠHH":24756,"ĠStyleSheet":24757,"Ġaccessed":24758,".validation":24759,"tasks":24760,"Ġpollution":24761,".canvas":24762,"Ġingredient":24763,"ĠCabin":24764,"Ah":24765,"oldown":24766,"ĠNOI":24767,"ĠÃĹ":24768,"[f":24769,"educ":24770,"yalty":24771,"(not":24772,"_State":24773,"amen":24774,"Ġdao":24775,"udad":24776,"ellers":24777,"}&":24778,"licity":24779,"_WINDOW":24780,"Ġtatto":24781,"valor":24782,".Range":24783,"Ġreferenced":24784,"ĠReserve":24785,"Money":24786,"SCRIPT":24787,"/product":24788,"choices":24789,"Ġtin":24790,"ãĤĵ":24791,"Ġseparator":24792,"Ġpkg":24793,"ammed":24794,"ĠMAT":24795,"!!ĊĊ":24796,"Ġraid":24797,"Ġmotivation":24798,"ĠXP":24799,"ĠBackground":24800,"ĠQuaternion":24801,".defineProperty":24802,"iker":24803,"ĉparent":24804,"ĠOriginally":24805,"antage":24806,"ĠHans":24807,"Ġtimeline":24808,".cur":24809,"opic":24810,"ĠSequ":24811,"must":24812,"ĠCoal":24813,"Ġformatter":24814,"_RGB":24815,"Ġ_(\"":24816,"'}),Ċ":24817,"Ġ=================":24818,"ĠFUNCTION":24819,"Ġlng":24820,"icates":24821,"live":24822,"_engine":24823,"Ġtowns":24824,"'))ĊĊ":24825,"ĠPK":24826,"(api":24827,"ĉscanf":24828,"packet":24829,".phone":24830,"áĢ":24831,"ĠAndy":24832,"_NAMES":24833,"PLY":24834,"Ġmins":24835,"imi":24836,"Ġbrick":24837,"Ġblade":24838,".stdout":24839,"}`;Ċ":24840,"Shift":24841,"ĉsb":24842,"ĠChecks":24843,"Ġphenomenon":24844,"Avatar":24845,"Ġministry":24846,"rose":24847,"ĉFile":24848,"Ġtitled":24849,"(LOG":24850,"Ġgan":24851,"design":24852,"(),čĊ":24853,"Ġbones":24854,"stm":24855,"ÅĽÄĩ":24856,"ĠInputStream":24857,"Ġvolunt":24858,"ĠSerializable":24859,"Ġfighter":24860,"ĠDrag":24861,"Twitter":24862,"Ġsubsid":24863,"ç¼":24864,"Ġforums":24865,".loading":24866,"logged":24867,"_this":24868,"Ġterrain":24869,"Ġirre":24870,"ĠIng":24871,"ĠCN":24872,"_objects":24873,".uid":24874,"Ġconsciousness":24875,"TINGS":24876,"ĠGall":24877,"Ġportray":24878,"ĠDeveloper":24879,"Ġparticipant":24880,"Ġ\";čĊ":24881,"/model":24882,"ĠOperations":24883,"^\\":24884,"ĠLater":24885,"Ġraises":24886,"-none":24887,".meta":24888,"='.$":24889,"Finished":24890,"Ġreplacing":24891,"Ġsampling":24892,"ĠJen":24893,"\"There":24894,"REAL":24895,"ALE":24896,"ìĬ¤":24897,"Orders":24898,"_parameter":24899,"ĠOlympic":24900,"Ġtrès":24901,"Ġarena":24902,"iol":24903,";?>":24904,"Ġimpacts":24905,"ĠWS":24906,":get":24907,"Ġflights":24908,"ĠRussell":24909,"camera":24910,"Fn":24911,"sigma":24912,"Ġforcing":24913,"Ġlocals":24914,"Ġdeparture":24915,"Ġcelebration":24916,"ĠSay":24917,"ï¼Ĵ":24918,"ĠHills":24919,".hasOwnProperty":24920,"Ġtypings":24921,".API":24922,"Ġdonation":24923,"OperationException":24924,".Activity":24925,"cplusplus":24926,"ĠCharlie":24927,"Ġimported":24928,"Ġdann":24929,"Ġoccasions":24930,"Ġimplementing":24931,"Ġpurple":24932,".dialog":24933,"SQLException":24934,"erno":24935,"Ġwars":24936,"Ġpaste":24937,"Ġdecreased":24938,"Ġharsh":24939,"Ġelabor":24940,"inputs":24941,"ĠViews":24942,"ĠerrorMessage":24943,"_mul":24944,"ĉwrite":24945,"ĠCop":24946,"ĠAnnual":24947,"(button":24948,"Ġvida":24949,"bars":24950,"ĠHarvard":24951,"ĉexpect":24952,"Ġindexes":24953,"Ġdocumentary":24954,"Ġflesh":24955,"ORLD":24956,"ĠDelta":24957,"MAND":24958,"Brush":24959,"-column":24960,"Ġdevelopments":24961,"methodVisitor":24962,"slice":24963,"ĠPDO":24964,"Ġinvesting":24965,"irable":24966,"Ġxmlns":24967,"ï¼Ľ":24968,"arta":24969,"Ġtheories":24970,"_city":24971,"Ġ$__":24972,"Creating":24973,"(pr":24974,"Dropdown":24975,"ismatch":24976,"ĠNET":24977,"'])){Ċ":24978,"ĠValues":24979,"ĠSEO":24980,"ĠSTAT":24981,"Ġecosystem":24982,"Ġtempt":24983,"Ġ\\\\":24984,"Ġ//{Ċ":24985,"ĠChristopher":24986,"ĠKentucky":24987,"ĠHttpServletResponse":24988,"Ġhybrid":24989,"yon":24990,"Ġfeeding":24991,"ĠExtra":24992,"Norm":24993,"ITCH":24994,"ĠSean":24995,"ĠUpload":24996,"mun":24997,"pur":24998,"Ġpersistent":24999,"ĠIDC":25000,"ĠPerform":25001,".merge":25002,"_room":25003,"Meanwhile":25004,"!='":25005,"ĠWel":25006,"ArgsConstructor":25007,".Database":25008,"Ġcounting":25009,"()*":25010,"ĶåĽŀ":25011,"ĠTOP":25012,"mill":25013,"ĠDT":25014,"IGNED":25015,"ĠKB":25016,"Ġcomply":25017,"South":25018,"_collection":25019,"Chapter":25020,"Ġexplaining":25021,"_AM":25022,"_ts":25023,"cards":25024,"Ġquel":25025,"Ġpole":25026,"Ġtouchdown":25027,"ĠOthers":25028,"Ġpeers":25029,"ĠTypeError":25030,"Ġsixth":25031,"Ġcheer":25032,"Ġdispute":25033,"usc":25034,")],":25035,"thumb":25036,"Ġhiding":25037,"ĠSIG":25038,"likes":25039,"ĠPAGE":25040,".Reflection":25041,"Ġheadquarters":25042,"TING":25043,"ĠGhost":25044,"MLE":25045,"$Ċ":25046,"Ġcontrary":25047,"extend":25048,"']).":25049,"FFECT":25050,"ĠPinterest":25051,"úmero":25052,"ricane":25053,"ĉsession":25054,"Ġcrystal":25055,"-Control":25056,"overnment":25057,"ograf":25058,"-action":25059,"volume":25060,"ften":25061,"Ġuncon":25062,"Ġanimate":25063,"Ġlease":25064,"scr":25065,"Ġrefuse":25066,"ãĢĭ":25067,"ftp":25068,"information":25069,"Ġevaluated":25070,"Ġinjection":25071,"Ġjack":25072,"Ġworkshop":25073,"注":25074,"PTH":25075,"ĠTs":25076,"offer":25077,"ĉos":25078,"Ġkingdom":25079,"Missing":25080,"Ġlawmakers":25081,"extField":25082,"Ġsinging":25083,"abi":25084,"/client":25085,".media":25086,"ATEGORY":25087,"Signature":25088,"%',Ċ":25089,"ĠFuck":25090,"][:":25091,"Ġsensors":25092,"/com":25093,"ĠPrimary":25094,".SQL":25095,"_program":25096,"Ġpills":25097,"Ġintegral":25098,"Ġfleet":25099,"Ġdropping":25100,".sl":25101,"Been":25102,"Ġpets":25103,"Ġadvised":25104,"Ġdragon":25105,"_EDIT":25106,"(im":25107,"FER":25108,"ĠDrug":25109,"(random":25110,"Ġcompression":25111,"oust":25112,"[%":25113,"Ġbuyer":25114,"hop":25115,"Roles":25116,"manage":25117,"Ġpainful":25118,"ĠBranch":25119,"-modal":25120,"enant":25121,"ĠMesh":25122,"/font":25123,"ĠGraham":25124,"Ġâĺ":25125,"Ġnc":25126,"ĠFrancis":25127,"Ġspecification":25128,"Ġdamages":25129,"-config":25130,"Ġtheoret":25131,"secure":25132,"_multi":25133,"aceutical":25134,"Ġdemanding":25135,"enne":25136,"ISTS":25137,"()));ĊĊ":25138,"Reason":25139,"Recent":25140,"phase":25141,"Ġpsy":25142,"_MAN":25143,"Ġvolunteer":25144,"å¿":25145,"istributed":25146,"lio":25147,"Ġproductivity":25148,"_comm":25149,"Spring":25150,"nis":25151,".weight":25152,"ĠCancer":25153,"Alloc":25154,"ĠTweet":25155,"Ġseparately":25156,"ĉcheck":25157,"_properties":25158,".Unit":25159,"_CLK":25160,"Ġgt":25161,"Ġ();ĊĊ":25162,"Ġhandy":25163,"ĠThompson":25164,"Ġunnecessary":25165,"ĠReader":25166,"GN":25167,"=request":25168,"ĠUtility":25169,".Repository":25170,"ĠAx":25171,"hydr":25172,"ieu":25173,"Ġthy":25174,"Ġlt":25175,"_mail":25176,"ä¿®æĶ¹":25177,"ailand":25178,"ĠPhilip":25179,"Ġbitter":25180,"Ġbetting":25181,"Ġtimed":25182,"ocks":25183,"'a":25184,"Ġalgorithms":25185,"Ġreinterpret":25186,"Ġtoss":25187,"rogen":25188,"Ġhoped":25189,"(selected":25190,"Ġventure":25191,"TEX":25192,"ĠLeave":25193,".Substring":25194,"Ġgrateful":25195,"uka":25196,"ĠConsumer":25197,"Ġaggreg":25198,"Circle":25199,"à¸ģ":25200,"_blocks":25201,"Ġlegally":25202,"Ġ\"|":25203,"ãĥĥ":25204,".board":25205,".Ab":25206,"Functions":25207,"recipe":25208,"èĩ":25209,"ĠOxford":25210,"Ġwholes":25211,".Build":25212,"_changed":25213,"hai":25214,"Ġdepartments":25215,"Imp":25216,"Ġcoalition":25217,"INFRINGEMENT":25218,"Ġempower":25219,"itches":25220,"North":25221,"Ġinflamm":25222,"ONSE":25223,"Ġmissile":25224,"ĠRaj":25225,"ĠIssue":25226,"Ġatoi":25227,"caled":25228,".Controllers":25229,"ĠWolf":25230,"Ġcrushers":25231,"á»ĩ":25232,".Auth":25233,".addAttribute":25234,"his":25235,"Ġboots":25236,".clean":25237,"camp":25238,"Ġtenant":25239,"Ġtune":25240,"Ġ{}'.":25241,"Ġworkout":25242,"Repo":25243,"Ġpartially":25244,"MISSION":25245,"jamin":25246,"ĠSB":25247,"Ġdetermination":25248,"Ġ'');Ċ":25249,"ĠBeng":25250,"Ġvos":25251,"Ġinhab":25252,"/lang":25253,"sburgh":25254,"Executor":25255,"hone":25256,"ĠChallenge":25257,"_links":25258,".Level":25259,"Ġunderground":25260,"-code":25261,"Ġoptimization":25262,"logging":25263,"_dest":25264,"Ġsnake":25265,"Ġchemicals":25266,"_IMPORTED":25267,"adoop":25268,"ĠTHAT":25269,"managed":25270,"Ġreduces":25271,"ĠREAL":25272,"ĠGuy":25273,"_GENERIC":25274,"/********************************":25275,".amount":25276,"Ġdere":25277,"getTime":25278,"Ġpant":25279,"anonymous":25280,"Ġharmony":25281,"ĠAlan":25282,"Ġscenarios":25283,"Ġdirt":25284,"htags":25285,"Mc":25286,"Shell":25287,"rin":25288,"{čĊčĊ":25289,".pow":25290,"ĉclient":25291,"Ġconspiracy":25292,"Ġadmission":25293,"ĠRegional":25294,"ĠViewController":25295,"ĠPhilippines":25296,"Ġdepos":25297,"Ġpap":25298,"ĠPad":25299,"Paul":25300,".ComboBox":25301,"Ġtutor":25302,"ĠRecipe":25303,"writing":25304,"Ġcontributor":25305,"OTH":25306,"Small":25307,"VI":25308,"Ġhacer":25309,"equ":25310,"ĠExamples":25311,"human":25312,".messages":25313,"ĉtyp":25314,"Ġ(čĊ":25315,"ĠSSL":25316,"LEN":25317,"ĠRomney":25318,"(grid":25319,"ĉmin":25320,"Ġ>ĊĊ":25321,"Ġfruits":25322,"Ġvoter":25323,"Inline":25324,"pane":25325,"ĠCollections":25326,"charset":25327,"Ġspam":25328,"zb":25329,"itemap":25330,"Ġsucceeded":25331,"_COL":25332,"Ġelapsed":25333,"imeter":25334,"Ġrecovered":25335,"Tensor":25336,"hattan":25337,".setup":25338,"isto":25339,"(head":25340,"ĠSIZE":25341,"Ġtactics":25342,"Ġdistur":25343,"Ġpreval":25344,"icios":25345,"(Value":25346,"_cols":25347,"ĠFat":25348,"Ġseal":25349,"Ġsons":25350,"Ġensures":25351,"Ġpressing":25352,"=&":25353,"igenous":25354,"Ġharassment":25355,"_JSON":25356,"Ġignor":25357,"ynomial":25358,"omer":25359,"_static":25360,"Ġsignificance":25361,"Ġcircles":25362,"_System":25363,"Ġdiscipline":25364,"Ġdressed":25365,"Ġsphere":25366,"Ġclimb":25367,"_actions":25368,"ĠBab":25369,"Ġ'=',":25370,"_schema":25371,"\"use":25372,"Ġunders":25373,"Ġcups":25374,".screen":25375,"/new":25376,"Ġappearing":25377,"TOP":25378,"vised":25379,"clang":25380,"Ġinvestigators":25381,"Ġmysterious":25382,"Ġpromising":25383,"Ġqualify":25384,"Ġcave":25385,"Ġequip":25386,"=x":25387,"GT":25388,"(link":25389,".velocity":25390,".erase":25391,"oter":25392,"++++++++":25393,"profit":25394,"Ġzones":25395,"_uid":25396,"-ser":25397,"Ġobjectives":25398,"Ġmilf":25399,"webkit":25400,"(match":25401,"neh":25402,"ĠAssociated":25403,"ĠTodo":25404,"=d":25405,"Cam":25406,"Ġvocal":25407,"Ġsudo":25408,"(EX":25409,"Ġtrou":25410,"ABC":25411,".bean":25412,"ĠGround":25413,"ĠREST":25414,"weets":25415,"Ing":25416,"imon":25417,"_bus":25418,"ĠCOLOR":25419,"unto":25420,"Ġfoss":25421,"ĠLinks":25422,"äng":25423,"/forms":25424,"prises":25425,"Ġachievement":25426,"CALL":25427,"елÑĮ":25428,"ĠVerify":25429,"_SOURCE":25430,"aptcha":25431,"IDD":25432,"_reference":25433,"Gold":25434,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":25435,"Receiver":25436,"Ġaj":25437,"_direction":25438,"}]":25439,"ĠCompet":25440,"Ġbang":25441,"ĠCass":25442,"-url":25443,"techn":25444,"ĠJerusalem":25445,"longitude":25446,"');čĊčĊ":25447,"Ġwinners":25448,"Tasks":25449,"ĠDMA":25450,"Ġtooltip":25451,"İ·":25452,"ĠBra":25453,"_duration":25454,"cury":25455,"parents":25456,"---->(":25526,"ĠKir":25527,"Ġintros":25528,"Ġsketch":25529,"Ġskilled":25530,"Ġimmer":25531,"Ġadequate":25532,"_rep":25533,"(header":25534,"_like":25535,"Ġperceived":25536,"ssh":25537,"Ġassuming":25538,"Ġff":25539,"_uuid":25540,"ulas":25541,"Ġdemocratic":25542,".entities":25543,"Series":25544,"aphore":25545,"Ġnewer":25546,"}(":25547,"SEC":25548,"airo":25549,"Ġcommod":25550,"Ġprivilege":25551,"Ġdeux":25552,"ĠHop":25553,".'/":25554,"ctic":25555,".';Ċ":25556,"C":25630,"ĠWarren":25631,"Ġoptimizer":25632,"ĠSERVICES":25633,"_oper":25634,"getAttribute":25635,"ĠMcK":25636,"_self":25637,".rs":25638,"\")ĊĊĊ":25639,"GetComponent":25640,"erce":25641,"Ġtous":25642,"units":25643,"']);čĊ":25644,"Zoom":25645,"/E":25646,"Ġobsc":25647,"Ġfastest":25648,"online":25649,"Ġpeaceful":25650,"ffen":25651,"Ġcargo":25652,"ĉpr":25653,"Ġseeks":25654,"zu":25655,"Trim":25656,"Ġward":25657,"Ġverd":25658,"Ġblogs":25659,".exceptions":25660,"ĠPremium":25661,"ĠNetherlands":25662,"Safe":25663,"Finish":25664,"ĠAlbum":25665,"_ACC":25666,"=this":25667,"virtual":25668,"]>":25669,"_LABEL":25670,"ĠNich":25671,"_win":25672,"ĠAaron":25673,"WP":25674,";$":25675,"aims":25676,"ĠImageView":25677,"Ġendless":25678,"ERA":25679,"_DISABLE":25680,"Ġcancelled":25681,"-us":25682,"Ġinspection":25683,"emin":25684,"ĠGrey":25685,"-open":25686,"Ġiterations":25687,".owner":25688,"Ġkeras":25689,".Password":25690,"ĠRy":25691,"ĠINS":25692,"Air":25693,"ĠSeveral":25694,".TabStop":25695,"INGLE":25696,"ĠHair":25697,"ĠCanvas":25698,"AAAA":25699,"Ġflaw":25700,"cedes":25701,".Report":25702,"íĬ":25703,"ĠTips":25704,"criptors":25705,".transaction":25706,".Spring":25707,"Ġviewer":25708,"Ġinsights":25709,"è¾ĵ":25710,"ordion":25711,"UINT":25712,"seek":25713,"ĠAuf":25714,"ìŀIJ":25715,"Ġstrain":25716,"Tooltip":25717,"Ġdz":25718,"ignal":25719,"adt":25720,"Ġuc":25721,"finite":25722,"Ġnm":25723,".cmd":25724,"ĠMySql":25725,"[data":25726,".jackson":25727,".tree":25728,"RequestParam":25729,"_agent":25730,"\")]čĊ":25731,"Ġassass":25732,"(Constants":25733,":ss":25734,"ĠMAN":25735,"+-+-":25736,"ĠBottom":25737,"prints":25738,"ĠSame":25739,"@Autowired":25740,"swap":25741,"ición":25742,"Ġprotesters":25743,"Ġhoney":25744,"ĠVeter":25745,"(Calendar":25746,"-ad":25747,"ĠBrooklyn":25748,"Life":25749,"_VAR":25750,"zech":25751,"ĠCALL":25752,"_CAST":25753,"ĠElection":25754,"Ġthickness":25755,"Very":25756,"_INTEGER":25757,"-dev":25758,"))))":25759,"apat":25760,"oooo":25761,"demo":25762,"ĠparseFloat":25763,"ĠRather":25764,"STIT":25765,"maker":25766,"[current":25767,"chrono":25768,"Ġchrist":25769,"ãģª":25770,"ĠDetail":25771,"ưá»":25772,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":25773,"Ġsul":25774,"idency":25775,"Que":25776,"Ġelegant":25777,"apons":25778,"Ġdishes":25779,"Ġintegers":25780,"(read":25781,"findViewById":25782,"ĠAmount":25783,"ĠSkip":25784,"Ġhabits":25785,"*)(":25786,"Ġmonsters":25787,"MAC":25788,":end":25789,"Ġfrank":25790,"Assembly":25791,"Ġdfs":25792,"Ġneut":25793,"_TYPES":25794,"equal":25795,"loyd":25796,"(uri":25797,"Ġchi":25798,"Ġdefendant":25799,"Ġconflicts":25800,"Ġvil":25801,"-js":25802,"ĠPeace":25803,"Ġmutable":25804,")sender":25805,"ĠFocus":25806,"建":25807,"Ġappreciated":25808,"sleep":25809,"ĠRED":25810,"Culture":25811,"Ġdesigners":25812,"_generator":25813,"codes":25814,"/ex":25815,".GetValue":25816,"umbled":25817,".scalajs":25818,"peror":25819,"Ġveterans":25820,"Ġ})čĊ":25821,"Ġunfortunately":25822,"_CREATE":25823,"Mass":25824,"ĠCLAIM":25825,"ĠMeet":25826,"_support":25827,"Bank":25828,"().Ċ":25829,"Dark":25830,"_LOW":25831,"ĠMining":25832,"ĠOwner":25833,"iera":25834,"Cliente":25835,"Ġencouraging":25836,">S":25837,"Ġboyfriend":25838,"ĠHalf":25839,"ĠACC":25840,"Aff":25841,"_ar":25842,"-life":25843,"cx":25844,".JButton":25845,"izado":25846,".zero":25847,".openqa":25848,"oton":25849,".textContent":25850,"Ġtoll":25851,"atie":25852,"Ġballot":25853,"-number":25854,".Exception":25855,"ĉparams":25856,"circle":25857,"-map":25858,"Ġnap":25859,"ĠRobot":25860,"ĠIch":25861,"registration":25862,"Amazon":25863,"rollment":25864,"(exp":25865,"Ġtanks":25866,"ĠGordon":25867,"Ġmachinery":25868,"Ġbaseline":25869,"æĭ":25870,"Ø©":25871,"ĠConvention":25872,"ĉconfig":25873,"ookies":25874,"mult":25875,"Records":25876,"ĠEST":25877,"Ġgarbage":25878,"Ġconform":25879,"idal":25880,"Ġbarg":25881,"Ġsurvived":25882,"Ġinvestigations":25883,".containsKey":25884,"--------------------------------------------------------------------------Ċ":25885,"ortion":25886,"Ġhorr":25887,"_http":25888,"Ġmant":25889,"];čĊčĊ":25890,"binary":25891,"empl":25892,"Ġinquiry":25893,"ĠMeanwhile":25894,"Ġcollecting":25895,".EntityFramework":25896,"\",ĊĊ":25897,"ĠPic":25898,"@Inject":25899,"ickness":25900,"ĠBinding":25901,"Ġcontrolling":25902,"reverse":25903,"Ġchairs":25904,"sembled":25905,"(add":25906,"Disabled":25907,"anas":25908,".translate":25909,"-----------Ċ":25910,"Ġreflected":25911,"\"]ĊĊ":25912,"External":25913,"Arrow":25914,"Singleton":25915,"%x":25916,"ĠÅ":25917,"Ġancest":25918,"ĠOrleans":25919,"ĉcmd":25920,"Ġprohibited":25921,"ithmetic":25922,"(channel":25923,"_css":25924,"Forward":25925,".socket":25926,"Ġluc":25927,"âĨ":25928,"ĠFirefox":25929,"ĠMovies":25930,")_":25931,".ends":25932,"(shape":25933,"Ġdealt":25934,"Ġsaves":25935,"Ġglory":25936,"Ġmejor":25937,"Ġbreathing":25938,"Ġeller":25939,"getData":25940,"Ġangles":25941,"Ġtoolbar":25942,"Ġspacing":25943,"IPS":25944,"Ġfloors":25945,"_ACTIVE":25946,"Ġshuffle":25947,"/shared":25948,"ĠEle":25949,"edish":25950,"Ġwebcam":25951,".expect":25952,"iloc":25953,"ĠIncludes":25954,"Ġtweeted":25955,"Ġ:)":25956,"ĠEssay":25957,"Fix":25958,"-between":25959,"_web":25960,".conv":25961,"Ġracism":25962,"Ġreflects":25963,"umm":25964,"иÑĤе":25965,"_footer":25966,"/docs":25967,"ĠPour":25968,"NgModule":25969,".initialize":25970,"patterns":25971,"_In":25972,"ĠAbb":25973,"*čĊ":25974,"Ġsentiment":25975,"buff":25976,"_counts":25977,"Ġreuse":25978,"chunk":25979,"Ġimposed":25980,"PrimaryKey":25981,"Foreground":25982,"Ġconsumed":25983,"?!":25984,"Ġdick":25985,"Ġchron":25986,"ĠFern":25987,"Ġresponsive":25988,"Ġinsect":25989,"iculty":25990,"Ġrw":25991,"Ġalike":25992,"Ġsubset":25993,"ĠCookies":25994,"ĠPair":25995,"Ġtier":25996,"IFO":25997,"avour":25998,"ĠQU":25999,",sizeof":26000,"Ġmerged":26001,"mv":26002,"itol":26003,"ylon":26004,"Ġjumped":26005,".role":26006,"ensaje":26007,"Rules":26008,"Ġbrowse":26009,"Animator":26010,"Ġyoga":26011,"Ġvariants":26012,"Ġcourtesy":26013,"uran":26014,"pbs":26015,"elseif":26016,"Alt":26017,"ĠLane":26018,"CLK":26019,"IMARY":26020,"_PROPERTY":26021,"ï¼IJ":26022,"Ġchan":26023,"Ġgradually":26024,"Ġshake":26025,"Ġblonde":26026,"...\");Ċ":26027,"-sex":26028,"Ġgameplay":26029,"acies":26030,".refresh":26031,"USB":26032,"ĠPlot":26033,"Was":26034,"issippi":26035,"ĠTensor":26036,"Ġcryptocurrency":26037,"Ġdifficulties":26038,"Deleted":26039,"Without":26040,"_append":26041,"_ver":26042,"\"))čĊ":26043,"Ġhonestly":26044,"Ġpivot":26045,"Ġtemps":26046,"_ps":26047,"ĠUnlike":26048,"[:-":26049,"VS":26050,"_inf":26051,"Ġjunior":26052,"Ġanimations":26053,"Ġfilepath":26054,"?{{$":26076,"Ġunicode":26077,"places":26078,"ĠCoffee":26079,".SE":26080,"ĠPAR":26081,"(txt":26082,"gebra":26083,"Ġfires":26084,"MainWindow":26085,"medium":26086,"Ġ(âĢľ":26087,"Ġlg":26088,"Ġcmp":26089,"/base":26090,"_layers":26091,"_entries":26092,"Ġadminister":26093,"ĠSUCH":26094,"BP":26095,"ĠScottish":26096,"ĉčĊĉčĊ":26097,"guard":26098,"ĠStrong":26099,"Insn":26100,"ĠCAP":26101,"asury":26102,"ĠSEE":26103,"Clock":26104,"erie":26105,"\\models":26106,"Ġ$$":26107,"ĠCab":26108,"Ġwurde":26109,"Ġsoldier":26110,"Ġclips":26111,"Ġarrangement":26112,"ĠWonder":26113,"ĠHorn":26114,"Ġscared":26115,"Ġcure":26116,"mkdir":26117,"Ġaligned":26118,"ĠPink":26119,"Ġlanded":26120,"Dimension":26121,"ScrollPane":26122,".chat":26123,".With":26124,"ĠTrain":26125,"].Ċ":26126,"Ġthirty":26127,"Ġdurable":26128,"Ġld":26129,"Ġlateinit":26130,"Ġcharts":26131,"Ġinsult":26132,".Fatal":26133,"_ct":26134,"Ġmasks":26135,"CLUDED":26136,"President":26137,"Ġcolours":26138,"gments":26139,".attributes":26140,"ĠFlex":26141,"ĠClock":26142,"ÃŃcul":26143,"imen":26144,"JO":26145,"ĠRegex":26146,"_LINK":26147,"Ġcouch":26148,"ĠINPUT":26149,"Ġbeating":26150,"business":26151,"preced":26152,".unit":26153,"ĠFel":26154,"Never":26155,"ospel":26156,".startswith":26157,"ĠEPA":26158,".only":26159,"Ġpreventing":26160,"yer":26161,"ColumnName":26162,"Ġelevation":26163,"flu":26164,"icycle":26165,"Ġoffline":26166,"Toolbar":26167,"Ġcompeting":26168,")].":26169,"Ġmog":26170,"ĠisValid":26171,"Ask":26172,"_av":26173,"_lat":26174,"ANC":26175,"ĠJoh":26176,"kers":26177,"Ġguards":26178,"Ġchains":26179,"ĠSimpleDateFormat":26180,".static":26181,"Ġvessel":26182,"Ġmud":26183,"Ġstabil":26184,"Ġstret":26185,"gm":26186,"amation":26187,"çľ":26188,"-with":26189,"Ġros":26190,"_PA":26191,"Ġresultado":26192,"Ġconfidential":26193,"ĠTokyo":26194,"ĉusing":26195,"ĠMathf":26196,"ombine":26197,"ĠESPN":26198,"Ġdealers":26199,"Ġdismissed":26200,"TRY":26201,"Ġteens":26202,"records":26203,"Ġwings":26204,"gallery":26205,"accounts":26206,"_LIB":26207,"Ġjacket":26208,"ĠNSObject":26209,"Ġstones":26210,"ĠDelivery":26211,"ĠDiet":26212,"/watch":26213,"Ġtoilet":26214,"ĠGuest":26215,".day":26216,"Ġintval":26217,"Visit":26218,"Ġinvestigated":26219,"Ġpentru":26220,"ĠTheatre":26221,"andidates":26222,"Lang":26223,"ĠServ":26224,"Ġcontrollers":26225,"ĠsetTitle":26226,"NP":26227,"amy":26228,"flat":26229,"(ui":26230,"_document":26231,"èĥ½":26232,"ĠCoin":26233,"ĠAdams":26234,"ptic":26235,"Ġproductive":26236,"Ġaccomplished":26237,"čĊčĊčĊčĊ":26238,"Ġdeferred":26239,"ientes":26240,"Ġsinc":26241,"olars":26242,"Rightarrow":26243,"Ġvariations":26244,"(offset":26245,".LayoutInflater":26246,"Ġsuspend":26247,"Ġprevention":26248,"_private":26249,"_js":26250,"âĺħ":26251,"Ġwieder":26252,"atum":26253,"ĴĮ":26254,"Ġappearances":26255,".Document":26256,"Ġvalidates":26257,"calendar":26258,"}\";Ċ":26259,".demo":26260,"conut":26261,"Ġcorrection":26262,"ĠDeal":26263,"Ġbatteries":26264,".duration":26265,",\\":26266,"_marker":26267,"multi":26268,"Ġhalt":26269,"Ġcms":26270,"Ġshaped":26271,"Bro":26272,"reduce":26273,"Ġ####":26274,"CTOR":26275,"ĠBenef":26276,"Ġiconic":26277,"Ġpiano":26278,"Ġeffectiveness":26279,"|.Ċ":26280,"Ġajax":26281,"Ġvolumes":26282,"ม":26283,"Ġcljs":26284,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":26285,"aths":26286,"raits":26287,"大":26288,"Ñĸ":26289,"_mult":26290,"Ġfascinating":26291,"Average":26292,"Ġpré":26293,"ĠChairman":26294,".findElement":26295,"_pin":26296,"Ġcomparing":26297,"Ġdarkness":26298,"-Fi":26299,"-server":26300,"Ġselecting":26301,"sterdam":26302,"ĠParts":26303,"FORMATION":26304,"Ġnoting":26305,"Ġpile":26306,"ogs":26307,"Ġpalette":26308,"_do":26309,"itize":26310,"()(":26311,"Ġdefining":26312,"Ġremainder":26313,"Units":26314,"_TASK":26315,"HttpClient":26316,"Social":26317,"Ġfundra":26318,"NR":26319,"chest":26320,"Currency":26321,".adapter":26322,"Ġdop":26323,"unting":26324,"ANGUAGE":26325,"\"He":26326,"ĉindex":26327,"_package":26328,".Icon":26329,"Ġrepet":26330,"mass":26331,"=\".$":26332,"ĠSud":26333,"Ġlid":26334,"province":26335,"ìľ":26336,"GPIO":26337,"Ðļ":26338,"ĠMySQL":26339,"Ġdocs":26340,"ĠGA":26341,"Ġipsum":26342,"Kernel":26343,"Ġaccepts":26344,"Ġfitting":26345,"Ġcuando":26346,"Ġduplic":26347,"ĠBrother":26348,"ĠKle":26349,"nums":26350,"Ġmorph":26351,"Ġ########":26352,"ĠCGPoint":26353,"manual":26667,"ĠTechnical":26668,"Ġcorporation":26669,"ĠHW":26670,"anka":26671,"TAIL":26672,"istas":26673,"Ġperforms":26674,"ĠBehavior":26675,".For":26676,"_ORDER":26677,"ĠKick":26678,"Ġcallbacks":26679,"_dr":26680,"uego":26681,"hub":26682,"ufficient":26683,"sky":26684,"Ġbp":26685,"htable":26686,"ĠONLY":26687,"ĠAUTHORS":26688,".Argument":26689,"\"};Ċ":26690,"ĠThunder":26691,"ĠKom":26692,".Should":26693,"AUTH":26694,"ahu":26695,"_payment":26696,"Ġstarter":26697,"ìĦľ":26698,"ìļ©":26699,"Blog":26700,".patch":26701,"Ġgoverned":26702,"assy":26703,"-found":26704,"Ġtheater":26705,"ĠFontWeight":26706,"ĠBatman":26707,"\"If":26708,".Random":26709,"_delta":26710,"ĠCE":26711,"Authenticated":26712,"Ġdrone":26713,"Ġcous":26714,"radius":26715,"Mer":26716,"(None":26717,"ĠNJ":26718,"_headers":26719,"Ġamer":26720,"pytest":26721,"ĠActions":26722,"ĉĉĉĠĠĠĠ":26723,"Ġett":26724,"Ġholy":26725,"Ġuncomfort":26726,"ĠNin":26727,"ĠDecimal":26728,"ĠMessages":26729,".sender":26730,"]])Ċ":26731,"Ġembrace":26732,"Though":26733,"/sp":26734,"Ġcultures":26735,"Ġhighway":26736,"tar":26737,".fail":26738,"_hidden":26739,"ĠcomponentDidMount":26740,"ĠWright":26741,"Ġjag":26742,"_il":26743,"../../../":26744,"igu":26745,"Food":26746,"Ġace":26747,"Ġaños":26748,"USD":26749,"Ġmutual":26750,"Logic":26751,"Ġtemple":26752,"Ġbriefly":26753,"ĠTrip":26754,"classmethod":26755,"defaults":26756,"Ġchunks":26757,",,,,":26758,"ĠReason":26759,"$id":26760,"-ups":26761,"Ġdamn":26762,"Ġtrucks":26763,"Ġunlimited":26764,"Ġsculpt":26765,"ĠCards":26766,"Ġautor":26767,"ĠTesting":26768,"Ġdiese":26769,"shops":26770,"ç´":26771,"(payload":26772,"ĠPATH":26773,"ĠMemorial":26774,"Ġridiculous":26775,"egree":26776,"-winning":26777,"Ġrehab":26778,"Ġsophisticated":26779,"wpdb":26780,"ĉpath":26781,"!\";Ċ":26782,"_SYS":26783,".speed":26784,"Ġsoap":26785,"suffix":26786,"Wrap":26787,"Ġenhancement":26788,"Ãī":26789,"úb":26790,"Ġplaylist":26791,"Ġmixing":26792,"antidad":26793,"=\"\";Ċ":26794,"ĠRevision":26795,"ĠBeat":26796,".inc":26797,"-way":26798,"encias":26799,"ulers":26800,"Cat":26801,"idel":26802,"ĠShip":26803,".setColor":26804,"Ġthreatening":26805,".modules":26806,"Ġafterwards":26807,"ĠDashboard":26808,"ĊĠĊ":26809,"Signal":26810,"Ġprimer":26811,"orneys":26812,"iciary":26813,"Ġligne":26814,"_predict":26815,"Ġaest":26816,"_https":26817,">:":26818,"ĠLex":26819,"Ġrencontres":26820,"egral":26821,"scala":26822,"_family":26823,"ÃŁen":26824,"_sym":26825,"Ġuncertainty":26826,"ĠVALUE":26827,"Ġ};čĊčĊ":26828,"Ġbroader":26829,"Ġhorses":26830,"ãģĿ":26831,"ĠKal":26832,"oba":26833,"_INET":26834,"ĠKill":26835,"jquery":26836,"amination":26837,"[@\"":26838,"Ġmuj":26839,"###Ċ":26840,"FirstOrDefault":26841,"thenReturn":26842,"Che":26843,"/footer":26844,"Ġparks":26845,"asje":26846,"ĠGulf":26847,"Ġmodest":26848,".Init":26849,"ï¼ŁĊĊ":26850,"Ġprospects":26851,"Ġsvg":26852,"Ġåı":26853,".Dialog":26854,"_NET":26855,"Ġ(($":26856,"Ġek":26857,"ĠWarning":26858,"ĠMK":26859,"":27166,"ĠRepair":27167,"_BE":27168,"Brand":27169,"uart":27170,"preview":27171,"Ġinitiatives":27172,"running":27173,"bang":27174,"ĉupdate":27175,"ĠCoach":27176,"Rich":27177,"Ġyoutube":27178,"Ġritual":27179,"appa":27180,"ĠRobinson":27181,"precision":27182,"////////////////////////////////////////////////////////////////////////////":27183,"=[]Ċ":27184,"Ġcelebrated":27185,"OTO":27186,"Ġinclusion":27187,"JP":27188,"';čĊčĊ":27189,"Ġnotable":27190,"(_.":27191,"Managed":27192,"Ġguides":27193," ":27194,"atedRoute":27195,"ĠAdjust":27196,"Ġcolored":27197,"_scores":27198,"ĠTesla":27199,"_progress":27200,".inst":27201,"['_":27202,".flags":27203,"Ġfclose":27204,"_OPER":27205,"ży":27206,"_note":27207,"Ġtransgender":27208,"åķ":27209,"RIPT":27210,"Ġabsent":27211,"Ġamet":27212,"Ġoperand":27213,"ë©":27214,"Ġhood":27215,"toLowerCase":27216,"avo":27217,"ĠCircuit":27218,"ĠLind":27219,"--}}Ċ":27220,"=m":27221,"Ġsuppress":27222,"ĠMAP":27223,"iang":27224,"-admin":27225,"Ġsidebar":27226,"ĠBu":27227,"ĠHex":27228,",F":27229,"ĠSignal":27230,"Ġtransparency":27231,"ĠFederation":27232,"/V":27233,"Req":27234,"Ġpulse":27235,"Ġtends":27236,"Numbers":27237,"%'":27238,"Ġdeport":27239,"datas":27240,"_UINT":27241,"_tra":27242,"oko":27243,"Ġ\"?":27244,"compet":27245,"solete":27246,"undry":27247,"Ġoverlap":27248,"}`,Ċ":27249,".ly":27250,"_summary":27251,"ĠLost":27252,".Center":27253,"Ġdisability":27254,".Serialization":27255,"Ġgeom":27256,"Ġ?:":27257,"ĠWo":27258,"Ġshipped":27259,"Ĥæķ°":27260,"Ġugly":27261,"Ġexcitement":27262,"Ġexterior":27263,"Ġcheckout":27264,"Ġkur":27265,",D":27266,"ĠAlaska":27267,"Ġsynthetic":27268,"ĠBudget":27269,"ĠSubscribe":27270,"Ġ&Ċ":27271,"ÈĻi":27272,"ĠYu":27273,"ĉquery":27274,"}.Ċ":27275,"Ġtraged":27276,"assen":27277,"Ġaccommodation":27278,"Ġphysician":27279,"Ġrenamed":27280,"Ġtidak":27281,"zÄħ":27282,"Ġminus":27283,"nych":27284,"_EXCEPTION":27285,"threads":27286,"Ġtire":27287,"_created":27288,"ensure":27289,"Ġworthy":27290,"Ġexcuse":27291,"Ġcloth":27292,".parentNode":27293,"/platform":27294,"ĠUFC":27295,"ĠGtk":27296,"unny":27297,"Ġgibt":27298,"keley":27299,"hum":27300,"(tx":27301,"ĉdev":27302,"Ġoutfit":27303,"doors":27304,"Ġfon":27305,"icut":27306,"volatile":27307,"Ġhomosex":27308,"Maximum":27309,"Ġexpend":27310,"Ġ});ĊĊĊ":27311,"Eq":27312,"onders":27313,"department":27314,"ĠPhysics":27315,"\"});Ċ":27316,"Ġparad":27317,".Str":27318,"Ġsele":27319,"IFIED":27320,"Ġdelivers":27321,"ivan":27322,"Ġresponsibilities":27323,"Ġadvocates":27324,"èµ":27325,"ĠRID":27326,".parameters":27327,"Metrics":27328,"ronics":27329,"ĠUITableViewCell":27330,"Absolute":27331,"ipse":27332,"ylum":27333,"MLElement":27334,"_VALID":27335,"\\<^":27530,"Ġios":27531,"sound":27532,"\"];":27533,"Ġfreed":27534,"rottle":27535,"ĠLower":27536,"[count":27537,"åĿ":27538,"Ġpale":27539,"ĠWayne":27540,"earth":27541,"_categories":27542,"UCK":27543,".metadata":27544,"Ġsummon":27545,"HOME":27546,"олÑĮз":27547,"Ġmanufactured":27548,"Ġdock":27549,"Ġcompetitors":27550,"_MODEL":27551,"okia":27552,"ĠHey":27553,"ο":27554,"Ġbackward":27555,"ĠPOSS":27556,"ropa":27557,"Ġcri":27558,"_OBJ":27559,"Transport":27560,"-high":27561,"Ġerotik":27562,"_slot":27563,"Ġartic":27564,"_framework":27565,"-serif":27566,"ĠSqlDbType":27567,"')(":27568,"+\"/":27569,"Ġwore":27570,"Sil":27571,"Ġstoring":27572,"ĠPhase":27573,"uant":27574,"Ġbump":27575,"inho":27576,"Ġdign":27577,"Ġbacks":27578,"qq":27579,"(hash":27580,"Ġgeo":27581,"Ġtender":27582,"Logo":27583,"!)Ċ":27584,"ĠMX":27585,"ĠArthur":27586,"essoa":27587,"_Ch":27588,"Ġbedrooms":27589,"=\"#\"><":27590,"Ġthroat":27591,"insic":27592,".integer":27593,"Ġprimitive":27594,"Truthy":27595,"Ġfacilitate":27596,"Ġcreativity":27597,"ĠDNS":27598,"Ġgra":27599,"uez":27600,"Ġcountless":27601,"ĠPoland":27602,"'M":27603,"ĠDist":27604,"Ġvest":27605,"Ġcertification":27606,"á»ij":27607,"held":27608,"extensions":27609,"(static":27610,"Ġgrades":27611,"ĠUber":27612,"ãģŁ":27613,"Ġ[])Ċ":27614,"datos":27615,"ĠgetData":27616,"ĠCharg":27617,"ĠBS":27618,".microsoft":27619,".video":27620,".direction":27621,"->{'":27622,"lua":27623,"apest":27624,"Ġboiler":27625,"erek":27626,"Ġdecides":27627,".jar":27628,"ISC":27629,"ĠWords":27630,"(CON":27631,"EMPLATE":27632,"reeze":27633,"shots":27634,"apps":27635,"unted":27636,".setName":27637,"::<":27638,"-bold":27639,"ê²":27640,"å¯Ĩ":27641,"Longrightarrow":27642,"Ġunfair":27643,"Ġearning":27644,"Ġshelf":27645,"UREMENT":27646,"Ġidle":27647,"_MENU":27648,".Custom":27649,"AGER":27650,"-\"":27651,"_switch":27652,"because":27653,")view":27654,"mare":27655,"_condition":27656,"ĠStarting":27657,"Mvc":27658,"(pre":27659,"dump":27660,"_LOCK":27661,"atetime":27662,".callback":27663,"ĠCer":27664,"opol":27665,"ibrary":27666,"Ġreservation":27667,"ĉĉĉĉĉĉĉĊ":27668,"lector":27669,"graduate":27670,"Ġgenerous":27671,"Ġion":27672,"ricao":27673,"mq":27674,"_complete":27675,"(cursor":27676,"ĠFormControl":27677,":center":27678,"Ġsubstitute":27679,"ĠPlanning":27680,"Ġpension":27681,"Ġrecommendation":27682,"ĠTags":27683,"Ġgef":27684,"Ġalbums":27685,"Ġwashing":27686,"roc":27687,"Ġtrains":27688,"atings":27689,"Ġexponent":27690,"ackbar":27691,"-ln":27692,"ág":27693,".DataAnnotations":27694,"ĠEIF":27695,"ĠMalaysia":27696,"ĉPORT":27697,"onus":27698,"Ġclever":27699,"Ġpeu":27700,">ĊĊĊĊ":27701,"ĠArguments":27702,"Ġdebugging":27703,"(right":27704,"'D":27705,"compute":27706,"Ġfinest":27707,"ORAGE":27708,"Ġspectacular":27709,"phrase":27710,"Ġindia":27711,"Ġlegendary":27712,"birth":27713,"Ġcomposite":27714,"Ġgrows":27715,"ĠTD":27716,"Ġepid":27717,"Ġlaunching":27718,"]][":27719,"Minutes":27720,"ĠCha":27721,"Ġcleaned":27722,"Ġwitnesses":27723,"ukan":27724,"ĉType":27725,"Ġhabe":27726,"paragraph":27727,"ĠJPanel":27728,"ĠHann":27729,"Ġvaried":27730,"ĠPokemon":27731,"ĠMUST":27732,"åĬ¨":27733,".visibility":27734,"opup":27735,"^[":27736,".expand":27737,"Ġ\"',":27738,".fasterxml":27739,"_auto":27740,"ĠSheet":27741,"marker":27742,"Parcel":27743,"ews":27744,"ĠStrategy":27745,"-making":27746,"Ġunve":27747,"Ġtrailing":27748,"Ġclicks":27749,"ĠGetComponent":27750,"ĉcontent":27751,"IGENCE":27752,"ERNEL":27753,"NSMutableArray":27754,"Ġbreat":27755,"Ġharmful":27756,"¶Ī":27757,"Ġbesides":27758,"Ġboring":27759,"Ġbrutal":27760,"vang":27761,"(parse":27762,"quick":27763,"Ġpytest":27764,"Ġswitching":27765,"()]Ċ":27766,"ĠìĦ":27767,"LER":27768,"ĉfont":27769,"Ġnett":27770,")]ĊĊ":27771,"(/\\":27772,"æŀľ":27773,"toArray":27774,"Ġbreed":27775,"ĠCAR":27776,"ĠWeapon":27777,"Abs":27778,"tot":27779,"ĠsetName":27780,"aptive":27781,"Ġ:,":27782,"Ġescaped":27783,"orden":27784,"ĠPri":27785,"thumbnail":27786,"Ġdescriptions":27787,"/styles":27788,"ĠPCI":27789,"Ġalphabet":27790,"asticsearch":27791,"NOTE":27792,"Ġcialis":27793,"ĠGriff":27794,"Ġporque":27795,"Ġproteins":27796,"plays":27797,"Ġstating":27798,"Ġimagination":27799,"Ġfacial":27800,"ĠMechan":27801,"Ġarranged":27802,"_used":27803,"Ġarrangements":27804,"ĠPipe":27805,"hostname":27806,"Ġprovinc":27807,"Tit":27808,".FlatStyle":27809,"ĠSplit":27810,"ĠLoader":27811,".cc":27812,"Ġclinic":27813,"----------------------------":27814,"Ġbaking":27815,"ĠENT":27816,"neath":27817,"ãĢģĊĊ":27818,"ANE":27819,".EntityFrameworkCore":27820,"appers":27821,".ic":27822,"ĠNgModule":27823,"ĠFORM":27824,"Ġ';":27825,"-profit":27826,"hw":27827,"enemy":27828,"ĠEye":27829,"Ġcaution":27830,"town":27831,"Ġurged":27832,"ĠJimmy":27833,"ynchronous":27834,"-sized":27835,"making":27836,",{":27837,"]',":27838,"_Object":27839,"ahoma":27840,"Ġactivist":27841,"INVAL":27842,"ĠCommercial":27843,"ĠOrlando":27844,"(tab":27845,"Ġب":27846,"Algorithm":27847,"Ġheritage":27848,"GetMapping":27849,"Ġfailures":27850,"rios":27851,"ativa":27852,"Ġtet":27853,"Ġcarpet":27854,"(Z":27855,"three":27856,"Ġdisclosure":27857,".ERROR":27858,"_called":27859,"Ġdial":27860,"Ġoccasional":27861,".Err":27862,"Ġfuncion":27863,"caffold":27864,"Ġreleasing":27865,"ï¼īĊĊ":27866,"_Value":27867,"ĠVari":27868,"yellow":27869,"Ġstruggles":27870,".cal":27871,"ĠDakota":27872,"ĉclose":27873,"Ġsandwich":27874,"Ġanalytics":27875,"Ġ**)":27876,"&#":27877,"ĠJos":27878,"Ġpassive":27879,"ATTR":27880,"Throwable":27881,"ĠMun":27882,"ĠUint":27883,"(disposing":27884,"arak":27885,"ĠLeaders":27886,"Ġaffecting":27887,"ĠitemView":27888,"Ġeconomics":27889,"fv":27890,"à¹Ģ":27891,".rb":27892,"ĠOverall":27893,"Ġwealthy":27894,"Ġevolved":27895,"nda":27896,"ĠHus":27897,"restrict":27898,"umen":27899,"ĠAgricult":27900,"!ĊĊĊ":27901,"Ġexpires":27902,"Ġspokesperson":27903,"interval":27904,"Ġâ":27905,"Ġqueen":27906,"(nil":27907,"ingo":27908,"Heap":27909,"Ùİ":27910,"Ġcomplain":27911,"Sym":27912,"ĠClone":27913,"ĠRu":27914,"ĠWILL":27915,"ĠCrystal":27916,"/content":27917,"ingen":27918,"ointment":27919,"LastName":27920,"avicon":27921,"ĠIBM":27922,"ĠDimension":27923,"anh":27924,"icipants":27925,"ĠAnne":27926,".progress":27927,"Ġalgo":27928,"obil":27929,"ĠVoice":27930,"ĠFE":27931,"Ġgli":27932,"Ġved":27933,"Ġprevents":27934,"\\Column":27935,"Ġfolk":27936,"etti":27937,"Ġmn":27938,"ĠCLASS":27939,"Ġdisplaying":27940,"ĠKl":27941,"ĠFerr":27942,"duto":27943,".ib":27944,"Ġdados":27945,"'name":27946,"-space":27947,"Ġitalian":27948,"Ġinverse":27949,"Ġdense":27950,"uter":27951,"ĠIEnumerator":27952,"-sign":27953,"Ġnationwide":27954,"Ġpersona":27955,"Ġsolved":27956,"Ġdramatically":27957,"Logout":27958,"Ġgrav":27959,"Ġanalyses":27960,"ollo":27961,"Ġlamp":27962,".team":27963,"ĠErot":27964,"=[\"":27965,"Ġdancing":27966,"Ġ?>/":27967,"Ġcater":27968,"ffe":27969,"ĠSha":27970,"ĠBos":27971,"ĠREQUIRE":27972,"ĠMonster":27973,"ĠRB":27974,"ĠIDE":27975,"Ġsuits":27976,"ĠformData":27977,"(theta":27978,"Ġspatial":27979,"=NULL":27980,"ĠSqlConnection":27981,"Ġà":27982,"ĠVenez":27983,"ĠMorning":27984,"Ġpublications":27985,"ĠNONINFRINGEMENT":27986,"firstName":27987,"uds":27988,"Would":27989,"_HEAD":27990,"Ġinvested":27991,"stable":27992,"fred":27993,"Ġcommander":27994,"SES":27995,"âĢĶa":27996,"anche":27997,"ĠMovement":27998,"ë³":27999,"Suite":28000,"Ġjurisdiction":28001,"리":28002,"ĠBeth":28003,"jQuery":28004,"ĠIsa":28005,"Ġdental":28006,",*":28007,"ĠLimit":28008,"iliation":28009,"=\"{":28010,"bast":28011,"Ġturb":28012,"isy":28013,"OOK":28014,"Ġadvocate":28015,"imag":28016,"LECTION":28017,"лÑĮ":28018,"(category":28019,".dec":28020,"Ġuniqu":28021,"_sn":28022,"Ġattracted":28023,"ĠÃī":28024,"ĠRunning":28025,"_edges":28026,"ĠDisable":28027,"_AS":28028,"åĽ¾":28029,"Ġnetworking":28030,"_branch":28031,"Having":28032,"toBeTruthy":28033,"GI":28034,"Ġcamps":28035,"sep":28036,"-part":28037,"Ġ)ĊĊĊĊĊĊĊĊ":28038,"ustralia":28039,"ĠReports":28040,"rito":28041,"Ġwaist":28042,"_plus":28043,"ĠWW":28044,"-person":28045,"April":28046,"Ġsar":28047,".tar":28048,"Ġagricultural":28049,"tic":28050,"Ġtcp":28051,"ĠsetValue":28052,"agento":28053,"ĠAppe":28054,"piler":28055,"CADE":28056,"Ġanche":28057,"atcher":28058,"Ġcomics":28059,"Ġlbs":28060,"_segment":28061,"']=$":28062,"itters":28063,"icher":28064,"GINE":28065,"Ġutilize":28066,"ĠCursor":28067,"_expression":28068,"Ġdag":28069,"x":28257,".Task":28258,"money":28259,"ibaba":28260,"'});Ċ":28261,"ĠSpecific":28262,"ĠLinear":28263,"_OPT":28264,"HashCode":28265,"(Player":28266,".ContainsKey":28267,"Ġcollapsed":28268,"transparent":28269,"_RANGE":28270,"Viewer":28271,"(cfg":28272,"Ġsorting":28273,"Ġinfected":28274,"ĠNach":28275,"Ġaccommodate":28276,".elements":28277,"_PART":28278,"ĠSexy":28279,"=get":28280,"(year":28281,"Ġxhr":28282,":]":28283,"owski":28284,"Ġsummar":28285,"Ġ¿":28286,"Ġinte":28287,"Ġworkflow":28288,"ĠTaiwan":28289,"versions":28290,"åıij":28291,"Ġsurprisingly":28292,"Ġoptical":28293,"Ġproces":28294,"Ġdisagree":28295,"Ġnuevo":28296,"ĠCAM":28297,"sorted":28298,"leases":28299,"istle":28300,"Ident":28301,"ĉevent":28302,"jected":28303,"Chunk":28304,"Vars":28305,".provider":28306,"Ġproceedings":28307,"Ġinclusive":28308,"Ġartwork":28309,"endants":28310,"ï¼ļĊ":28311,"seen":28312,"Ġlig":28313,"Ġmakers":28314,"_fun":28315,"Ġlengths":28316,"PathVariable":28317,"[item":28318,"ี":28319,"Dead":28320,"FFFFFF":28321,"ĠUrban":28322,"uples":28323,"ichen":28324,"(nullptr":28325,".spec":28326,",System":28327,"URATION":28328,"(job":28329,"å¼ı":28330,"Ġtracker":28331,"ÅĻ":28332,"ĠMR":28333,"ĠSQLite":28334,"Ġdto":28335,"Ġ;;Ċ":28336,"Ġmint":28337,"ĠIntroduction":28338,"cao":28339,"Ġquestioned":28340,"Ġfitted":28341,"revision":28342,"sq":28343,"Ġmig":28344,"_units":28345,"_async":28346,"Ġflick":28347,"});ĊĊĊ":28348,"Ġnotre":28349,"}`,":28350,"Filters":28351,"Ġmundo":28352,"_days":28353,"Ġfrm":28354,"utc":28355,"Ġvals":28356,"ewidth":28357,"ĠGenerator":28358,"ĠArtist":28359,"ĠIDs":28360,"ĠArticles":28361,"reater":28362,"ĠComponentFixture":28363,".=":28364,"Ġrou":28365,"-no":28366,".bukkit":28367,"egg":28368,"ĠDiff":28369,"atics":28370,"ÑĥÑĩ":28371,"âĢĶĊĊ":28372,"ĠCharlotte":28373,"bye":28374,"Ġ});čĊčĊ":28375,"ĠVik":28376,"ĠBrow":28377,"Ġlv":28378,"ĠGib":28379,"-wing":28380,"GLIGENCE":28381,"(Il":28382,"ĠEngineer":28383,".Wait":28384,"ĠPictures":28385,"Ġrhet":28386,"Ġthermal":28387,"Ġpraise":28388,"<>();ĊĊ":28389,"ĠSpider":28390,"Pause":28391,"ĠBaker":28392,"Ġslower":28393,"Ġ}]Ċ":28394,"_enqueue":28395,"Ġdisappeared":28396,"ĠTicket":28397,"INUX":28398,"_LOCAL":28399,"аÑģÑģ":28400,"@Injectable":28401,"community":28402,"GestureRecognizer":28403,"åĽ½":28404,"Ġscales":28405,"Ġ-(":28406,"/'+":28407,"ĠSit":28408,"Ġexecutives":28409,"arding":28410,"Ġadvers":28411,"Ġbackwards":28412,"ĉcontext":28413,"ĠHamp":28414,"ĠPF":28415,"ĠDeck":28416,"ĠCraig":28417,"American":28418,"Ġbell":28419,"Ġprol":28420,"ufen":28421,"Ġrng":28422,"arshal":28423,"ĠSimply":28424,"firstname":28425,"shore":28426,"July":28427,"Ġmortality":28428,"ĠâĨĴĊĊ":28429,"Helpers":28430,"Ġbenchmark":28431,"emade":28432,"Ġorganisations":28433,".gson":28434,"ĠTextField":28435,"Ġcivilians":28436,".Arrays":28437,"ĠMississippi":28438,"Ġintermediate":28439,"getUser":28440,"_cluster":28441,"Relative":28442,"foreign":28443,".querySelectorAll":28444,"ForeignKey":28445,"Ġreasonably":28446,"---------Ċ":28447,"Cards":28448,"ĠKam":28449,"ĠThor":28450,"Ġroller":28451,"-element":28452,"ĠCurrency":28453,"ddie":28454,"ALLY":28455,"ĠRA":28456,"Ġpermet":28457,"aaaa":28458,"Ġhomework":28459,"ĠVit":28460,"Ġmold":28461,"ĠFer":28462,"[start":28463,"Ġstatistical":28464,"Ġscary":28465,"_HOME":28466,".Begin":28467,"Construct":28468,"ogenic":28469,"ĠDEALINGS":28470,"Ġtambién":28471,"ixon":28472,".ind":28473,"acre":28474,"Ġtransforms":28475,"ĠNap":28476,".Block":28477,"ussia":28478,"piration":28479,"ulent":28480,"Ġceil":28481,"Clause":28482,"naire":28483,"TES":28484,"Ġneat":28485,"STD":28486,"ĠRegExp":28487,"perform":28488,":)":28489,"Ġunions":28490,"Ġsublic":28491,"Ġwinds":28492,"loating":28493,"glich":28494,"Ġpagination":28495,"Skill":28496,"Apply":28497,"ĠOperator":28498,"istogram":28499,"Ġqualities":28500,"Cross":28501,"Ġdecom":28502,"],\"":28503,"ĠJuan":28504,".modal":28505,".Child":28506,"ĠRoger":28507,"STITUTE":28508,":CGRectMake":28509,"alette":28510,"Ġsta":28511,"aside":28512,"Ġblur":28513,"ĠWa":28514,"ifetime":28515,"reed":28516,"controls":28517,"Ġbins":28518,"Ġпол":28519,"*/,Ċ":28520,"UIS":28521,"ĠRou":28522,"ĠDemo":28523,"-awesome":28524,"ĠChain":28525,"Ġhasta":28526,"ĠBart":28527,".KEY":28528,"Ġvendors":28529,"nofollow":28530,"ĠDest":28531,"_builder":28532,"Ġargues":28533,"_answer":28534,"goto":28535,"ĠRESULT":28536,"ĠMON":28537,"Ġpoder":28538,"oons":28539,"_CASE":28540,"Ġreplic":28541,"Ġfinancing":28542,"ĠDATE":28543,"cern":28544,"_track":28545,"ties":28546,"/logo":28547,"ĠNEGLIGENCE":28548,"getType":28549,">T":28550,"bet":28551,"girl":28552,"ĠINCIDENTAL":28553,"-site":28554,".trigger":28555,"ĠLisa":28556,"_inputs":28557,"Ġrelatives":28558,"LoggedIn":28559,"Configure":28560,"IK":28561,".accept":28562,"Resume":28563,"ĠDraft":28564,"Ġ*>(":28565,"ĠWA":28566,"edian":28567,"erness":28568,"ĠLayoutInflater":28569,"*/čĊčĊ":28570,"othy":28571,"Ġobligation":28572,"Subscribe":28573,"Ġthumbnail":28574,"exist":28575,"Ġinsisted":28576,"ĠUICollectionView":28577,"ĠAngular":28578,"Ġtablets":28579,"ĠImpact":28580,"ãĢįĊĊ":28581,"aho":28582,"Ġcharacteristic":28583,"gd":28584,"Ġ=================================================":28585,"ourt":28586,"`.":28587,"Appro":28588,"Coordinate":28589,"Remember":28590,"Ġmarine":28591,"]=='":28592,"ĠAdministrator":28593,".getDefault":28594,"Ġforgot":28595,"ĠStructure":28596,"Vue":28597,"arsing":28598,"moment":28599,"kw":28600,"_cursor":28601,"Attack":28602,"Ġathletic":28603,"Ġdiagnosed":28604,"Ġende":28605,"åĪłéϤ":28606,"House":28607,"ĠPARAM":28608,"Ġwiki":28609,"ĠOpp":28610,"Ġconservation":28611,"Ġsnd":28612,"_tem":28613,"substr":28614,"ĠCape":28615,".sim":28616,"UTION":28617,"anan":28618,"âĢĻun":28619,"Ġgy":28620,"-work":28621,"Ġcompelling":28622,"='#":28623,"ĉsub":28624,"Ġdirectories":28625,"íĬ¸":28626,"Ġtouches":28627,"outines":28628,".Collection":28629,"schedule":28630,".lat":28631,"ĠDoctrine":28632,"CAA":28633,"ĠRefer":28634,"Ġshifts":28635,"Ġlikelihood":28636,"preter":28637,"ĠFemale":28638,"Ġintercept":28639,"Ġlou":28640,"çĻ»":28641,"Ġrug":28642,"ĠCrown":28643,"Ġ****************************************************************************":28644,"-product":28645,"Ġprompted":28646,"ungle":28647,"docker":28648,"ĠTu":28649,"ĠUnique":28650,"_Error":28651,"ulos":28652,"ĠâĦ":28653,"Ġ(`":28654,"Getting":28655,"_scal":28656,"ĠEnh":28657,"üt":28658,"Ġsustained":28659,"Ġpatches":28660,"Ġprosper":28661,"ĠGaza":28662,"_light":28663,"Ġincons":28664,"--------Ċ":28665,"ĉĉĠĠĠĠĠĠ":28666,"SF":28667,"CN":28668,":\";Ċ":28669,"ĠCollins":28670,"(*)":28671,"Ġcompilation":28672,"']čĊ":28673,"Ġconsequence":28674,",...":28675,"Ġdm":28676,"ĠBLOCK":28677,"Cluster":28678,"Ġski":28679,"(argc":28680,"Tuple":28681,"Ġjoins":28682,"ĠSheriff":28683,"War":28684,"indi":28685,"Ġcommented":28686,"HOST":28687,"Ġinvitation":28688,"apanese":28689,"Ġpermits":28690,"precedented":28691,"_zone":28692,"ĠAmy":28693,"_RD":28694,"Minimum":28695,"Ġinvocation":28696,".enable":28697,"ichten":28698,"-owned":28699,"\"id":28700,"_POINTER":28701,"Fac":28702,"Ġspecifications":28703,"Ġnomination":28704,"Ġgp":28705,"<(":28706,"Ġrobots":28707,"ĠJerry":28708,"Ġholders":28709,"Ġwand":28710,"cms":28711,"Ġ}))Ċ":28712,".Toast":28713,"ĠIList":28714,"Based":28715,"zoom":28716,"/style":28717,"ĠBeck":28718,"Men":28719,"Ġcontributing":28720,"Ġundo":28721,"ĠOH":28722,"ĠaddObject":28723,"Ġeigen":28724,"signup":28725,"éĶĻ":28726,"Ġdistant":28727,"PARATOR":28728,"ĠMari":28729,"Ġmá":28730,"Emp":28731,"ós":28732,"ĠìĪĺ":28733,"evt":28734,"+j":28735,"park":28736,"ĠStay":28737,"ĠDun":28738,"Ġsoy":28739,">%":28740,"azines":28741,"Ġtiempo":28742,"(me":28743,"present":28744,".This":28745,"Ġeditors":28746,"FIELD":28747,".Work":28748,"ĠUniverse":28749,"Ġdrunk":28750,".timer":28751,"Ġaltered":28752,"ĠNar":28753,"ëł¥":28754,".Active":28755,"idor":28756,"çŃ":28757,".deltaTime":28758,"Ġawkward":28759,""":28760,"ĠSafari":28761,"Ġtricks":28762,"MENTS":28763,"division":28764,"Ġvarying":28765,"ĠHighway":28766,"Ġphotographer":28767,"ĠStewart":28768,"Ġlasting":28769,".Pre":28770,".amazonaws":28771,"ĠLuck":28772,".Description":28773,"ĠNaz":28774,"neg":28775,"Ġcó":28776,"<<\"\\":28777,"ĠSurv":28778,"ĠUnc":28779,"Recipe":28780,".BorderStyle":28781,"Ġmodifications":28782,"-at":28783,"ATFORM":28784,"hdr":28785,"ako":28786,"Ġsublicense":28787,"ĠJump":28788,"Ġbeim":28789,"ĠManhattan":28790,".bool":28791,"_hw":28792,"ÑĤÑĮ":28793,"Bin":28794,"Ġgateway":28795,"\"\":":28796,"ĠUIS":28797,":\"+":28798,"-def":28799,"ĠRegular":28800,"/testing":28801,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":28802,"stringstream":28803,"Ġdispar":28804,"Ġmobil":28805,"-read":28806,"ĠAdapter":28807,"ĠChampions":28808,"Ġscheduler":28809,"Ġkills":28810,"ĠMultiple":28811,"irror":28812,"Ġgods":28813,"ADO":28814,"akte":28815,"ĠUsuario":28816,".circular":28817,"Ġrecept":28818,"ĠExpr":28819,"Ġelderly":28820,"Ġnicely":28821,"Ġbeste":28822,"Want":28823,"Ġclassical":28824,".sprite":28825,"objc":28826,"ĠMason":28827,"Ġsistema":28828,".Black":28829,"eso":28830,"ĠZeit":28831,"Ġdivid":28832,"Ġenters":28833,"_subject":28834,"ĠPlanet":28835,".warning":28836,"ĠGram":28837,"_tokens":28838,"Ġhouseholds":28839,"_customer":28840,"userName":28841,"cross":28842,"Ġpione":28843,"Ġassists":28844,"_SM":28845,"ibo":28846,"Ġloyal":28847,"Ġuseless":28848,"#elif":28849,"ĠUltimate":28850,"Come":28851,"gel":28852,"Ġdich":28853,"xyz":28854,"ikel":28855,"obra":28856,"_scan":28857,"ĠInterior":28858,"ĠNice":28859,"Ġplac":28860,"ĉtarget":28861,"Ġviral":28862,"asso":28863,"()/":28864,"unde":28865,"ĠAdobe":28866,"Os":28867,"visited":28868,"ĠOW":28869,"ĠFeed":28870,"ĠSequence":28871,"Ġmanages":28872,"inson":28873,"ĠLouisiana":28874,"{})":28875,"ĠHab":28876,"ĠLD":28877,"Ġbip":28878,"prites":28879,"(elem":28880,".hibernate":28881,"élé":28882,"Ġohne":28883,"_transaction":28884,"Ġannunci":28885,"Published":28886,"ĠHonda":28887,"ĠTam":28888,"ĠPacket":28889,"_selector":28890,"Ġchallenged":28891,"Processing":28892,"-hover":28893,"Ġtrainer":28894,"_cancel":28895,"ĠNSDictionary":28896,"abric":28897,"ĠMLS":28898,"_sensor":28899,"Ġshrink":28900,"ĠFX":28901,"threshold":28902,"ĉHX":28903,"-mark":28904,"`.`":28905,"Scheme":28906,"(full":28907,"_writer":28908,"ĠSys":28909,"Ġfled":28910,"ĠCin":28911,"-widget":28912,"ĠPrevious":28913,"Gender":28914,"_question":28915,"Feed":28916,"Ġscrut":28917,"(prefix":28918,"ãĢĤãĢĤ":28919,"Ġinfections":28920,"Parts":28921,"Ġhierarchy":28922,"_DELETE":28923,"ĠPatient":28924,"_pay":28925,"Ġpromoted":28926,"Ġìĭ":28927,"Ġcivilian":28928,"Ġagriculture":28929,"ĠPiece":28930,"Ġstance":28931,"utsche":28932,"Assign":28933,".ACTION":28934,"Fig":28935,"_radius":28936,"ĠSync":28937,"ducer":28938,"failure":28939,"ensed":28940,"ptime":28941,"BM":28942,"_datetime":28943,"quivo":28944,"QUEUE":28945,"èĢħ":28946,"Appear":28947,"Ġsummit":28948,":void":28949,"Ġvine":28950,"认":28951,"onne":28952,"_TRANS":28953,".green":28954,"_cc":28955,"Ġhungry":28956,"Ġ\">":28957,"());čĊčĊ":28958,"Extract":28959,"izens":28960,"Ġsolver":28961,"Notify":28962,"Ġenglish":28963,"ĠShopping":28964,"interfaces":28965,"REQ":28966,"Ġilleg":28967,"ĠUIImageView":28968,"Ġdisconnect":28969,"ĠUntil":28970,"ĠConservative":28971,"@Column":28972,"Ġshifted":28973,"Ġ:čĊ":28974,"Ġfich":28975,"Ġdla":28976,"Ġshoe":28977,"\"),čĊ":28978,"ularity":28979,"_RESP":28980,"Weather":28981,"UIApplication":28982,".iterator":28983,"Ġaging":28984,".Parent":28985,"owie":28986,"(equal":28987,"ĠConv":28988,"/default":28989,"Ġmeasuring":28990,".prev":28991,".IsValid":28992,".Fat":28993,"ĠsÄĥ":28994,"keywords":28995,"without":28996,"Ġsovere":28997,"Ġexchanges":28998,"Ġmelt":28999,"Ġislands":29000,"ĠIntegr":29001,"Ġjumping":29002,"Ġgle":29003,"Ġjournalism":29004,"Ġdated":29005,"Localized":29006,"ĠRefresh":29007,"Particle":29008,"Ġaa":29009,"ĠSTRICT":29010,"Ġbod":29011,".Process":29012,"_AUTO":29013,"ĠPublished":29014,"every":29015,"Ġtechnological":29016,"lsx":29017,"Ġirrit":29018,"Additional":29019,"Ġdelimiter":29020,"_language":29021,"-area":29022,"boys":29023,"ĠTube":29024,"Ġwat":29025,"Ġmechanics":29026,"_owner":29027,"Spell":29028,"ĠStories":29029,".AppendLine":29030,"TableView":29031,"hem":29032,"stick":29033,"ollower":29034,"IFF":29035,"ĠUV":29036,"ollision":29037,"SUB":29038,"Ġcomparable":29039,"Ġdonde":29040,"sales":29041,"llvm":29042,"Ġ}],Ċ":29043,"OTTOM":29044,"ĠPurpose":29045,"Lab":29046,"Ġinterviewed":29047,"ois":29048,"asil":29049,".setId":29050,"ĠInstruction":29051,"-->":29052,"ĠModified":29053,"ationally":29054,"ĠMeeting":29055,"误":29056,"#region":29057,"Ġrouting":29058,".focus":29059,"ĠYouth":29060,"<":29348,"Ġunto":29349,"ologically":29350,"ĠMul":29351,"VIDIA":29352,"Ġslim":29353,"ĠCommissioner":29354,"(on":29355,"Ġunderneath":29356,"/db":29357,"vote":29358,"(Message":29359,"ĠPope":29360,"Defined":29361,"Ġswift":29362,"urf":29363,"Ġadapted":29364,"SEL":29365,"Ġrevenues":29366,"Ġdivine":29367,"=y":29368,"Gradient":29369,"_act":29370,"Ġ/*!<":29371,"Ġpolygon":29372,"ĠFDA":29373,"ĠCarr":29374,"atables":29375,"(stdout":29376,"Ġrefriger":29377,"Ġcoordin":29378,"avorites":29379,"ÑĪи":29380,"Ġcompassion":29381,"ĠPOSSIBILITY":29382,"-secondary":29383,"uracy":29384,"Ġcompromise":29385,"_AV":29386,"_os":29387,"Ġbeside":29388,"ĥĿ":29389,"Ġln":29390,".plugins":29391,"Capacity":29392,"alah":29393,".bin":29394,"ĠCRC":29395,"_balance":29396,"ĠflexDirection":29397,"Ġambit":29398,"Ġnickname":29399,"ĠForces":29400,"CLE":29401,"ĠShell":29402,"Ġsail":29403,"ĠWriter":29404,"ĠAlice":29405,"dw":29406,"ĠIndians":29407,"ĠMarshall":29408,"_SRC":29409,"Ġnormalized":29410,"ĠJag":29411,"ãĤĴ":29412,"zeit":29413,"rpc":29414,"ÃŃc":29415,".inline":29416,"Ġtravers":29417,"_numeric":29418,"Ġutilities":29419,"Ġevac":29420,"INPUT":29421,"ĉregister":29422,"MX":29423,"ĠCampbell":29424,"Ġdatasets":29425,"Ġdemanded":29426,"ĠinitialState":29427,"gan":29428,"Ġei":29429,"Unexpected":29430,"-web":29431,"trait":29432,",Y":29433,"ĠTodd":29434,"Ġskeleton":29435,"Ġoptimize":29436,"第":29437,"ĠUpon":29438,"ĠStObject":29439,"Ġaplic":29440,".'P":29478,"vron":29479,".UN":29480,"Ġpainter":29481,"izarre":29482,"Ġlav":29483,"Ġpom":29484,"preg":29485,"=function":29486,"(serial":29487,"ifica":29488,"uming":29489,"åľ°":29490,"ãģĤ":29491,"-op":29492,"UCH":29493,"ĠHend":29494,".propTypes":29495,"Ġyo":29496,"Ġroutines":29497,"Ġcaring":29498,"Sem":29499,"Ġreserves":29500,"Ġpriorities":29501,"redits":29502,"ISTR":29503,"ContentType":29504,"ĠSchw":29505,"/media":29506,"Ġestr":29507,"Ġclimbing":29508,"-week":29509,"cherche":29510,"sensor":29511,"ToArray":29512,"ĠMontreal":29513,"Ġclouds":29514,"ĠInjectable":29515,"ĠRice":29516,"Ġpropaganda":29517,"_provider":29518,"Ġindoor":29519,"Ġinaug":29520,"Ġdiplom":29521,"Ġmessaging":29522,"_mut":29523,"å¦Ĥ":29524,"Ġkw":29525,"ONS":29526,"arians":29527,"RPC":29528,")]čĊ":29529,"-ray":29530,"ĠSor":29531,"mall":29532,"Ġmarketplace":29533,"Ġvtk":29534,"Ma":29535,"ogan":29536,"igi":29537,"Ġsponsored":29538,"ĠDani":29539,".SEVER":29540,">'.$":29541,"multipart":29542,"ĠWol":29543,"ĠtableName":29544,"ĠUsername":29545,"BackgroundColor":29546,"Ġfright":29547,"_EMAIL":29548,"September":29549,"_vals":29550,"opia":29551,"Ġspotted":29552,"-Ch":29553,"ĠdataSource":29554,"/\"Ċ":29555,"екÑĤ":29556,"ĠRequestMethod":29557,"ĠReplace":29558,"-do":29559,"ahn":29560,"ĠPhD":29561,"].ĊĊ":29562,"NON":29563,"gement":29564,"ĠThr":29565,"Ġquietly":29566,"Ġtorture":29567,"Ġteas":29568,"ĠCY":29569,"Ġatr":29570,"development":29571,"-detail":29572,"Ġlighter":29573,"Ġarguing":29574,"Ġdeserves":29575,"Ġcurriculum":29576,"_CONTEXT":29577,"ÅĤy":29578,"HITE":29579,"ĉID":29580,"/uploads":29581,"Ġtits":29582,"reo":29583,"_drop":29584,".UTF":29585,"Ġpickup":29586,"Ġgrocery":29587,"ĠPure":29588,"Ġeasiest":29589,"Phil":29590,".feature":29591,"(\"*":29592,"Ġinvestor":29593,"tok":29594,"Ġjar":29595,"Los":29596,"âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ":29597,".queue":29598,"-speed":29599,"Mal":29600,"umblr":29601,"ĠCONST":29602,"ĠHRESULT":29603,"ĠDance":29604,"(filePath":29605,"Ġattributed":29606,"à¥į":29607,"ĠBund":29608,"coins":29609,"Ġsão":29610,"Ġpir":29611,"personal":29612,"Ġprelim":29613,"Ġpropose":29614,"ĠTL":29615,"]])":29616,"ĠSubscription":29617,"ĠKre":29618,",len":29619,".FirstOrDefault":29620,")--":29621,"_products":29622,".GetBytes":29623,"Ship":29624,"Ġencrypt":29625,"ĠSG":29626,"ĠMyst":29627,"hir":29628,"Ġiterate":29629,"Ġintend":29630,".mockito":29631,"Ġchapters":29632,"(angle":29633,"ĠVlad":29634,"设":29635,"'.ĊĊ":29636,"ResponseBody":29637,"ĠAbd":29638,"deal":29639,"Ġbarriers":29640,"-outline":29641,"bill":29642,"ĠFalls":29643,"_second":29644,".include":29645,".ceil":29646,"Ġoccupation":29647,"phony":29648,".moveTo":29649,"ĠJennifer":29650,"ASTER":29651,";\"><":29652,"ĠEnabled":29653,"Ġterminate":29654,"ĠIo":29655,"lations":29656,"ĠTHEORY":29657,"Ġearliest":29658,"Ġrack":29659,"ĠScar":29660,"shake":29661,"chip":29662,"Ġuv":29663,"Ġalliance":29664,"пиÑģ":29665,"ĠGOODS":29666,"zione":29667,"ĠVI":29668,"Ġ{-":29669,"Ġfiltering":29670,"Ġmiscon":29671,".DockStyle":29672,"Ġbush":29673,"Ġjunk":29674,"æĮ":29675,"ĠQUE":29676,"Ġhooks":29677,"Ġfirmware":29678,"Ġmiddleware":29679,"dic":29680,"ĠOakland":29681,"Ġarrives":29682,"Payload":29683,"pixel":29684,"]|":29685,"ĠstartDate":29686,".PRO":29687,"_audio":29688,"Ġmidfield":29689,"igidbody":29690,"ĠSwiss":29691,"ĠClip":29692,"ĠDump":29693,"ĠTextBox":29694,"Ġgeh":29695,"yield":29696,"ods":29697,"Ġreferendum":29698,"Backend":29699,"ĠCream":29700,"Ġdominated":29701,"ĠArchive":29702,"Ġriders":29703,".prepareStatement":29704,"Ġquando":29705,"Ġchef":29706,"wiki":29707,"inel":29708,"ampling":29709,"(\"\\\\":29710,"Ġsag":29711,"_proxy":29712,"ãģķ":29713,"pdo":29714,".getElementsByTagName":29715,"Ġdemonstration":29716,"ĠNPC":29717,"Ġarchivo":29718,"endance":29719,"Ġefficiently":29720,"(actual":29721,".tableView":29722,"Ġmush":29723,"Ġbears":29724,"_threads":29725,"jas":29726,"ahun":29727,"Ġneural":29728,"Ġdesigning":29729,"ĠGDP":29730,"Ġlifted":29731,"缮":29732,"ĠJoint":29733,"ĠInclude":29734,"ĠGiants":29735,"Ġwithdrawal":29736,"ĠRent":29737,"native":29738,"ĠSeek":29739,"gression":29740,"_CPU":29741,"\\S":29742,"ĠShield":29743,"Ġsolic":29744,"Ġboom":29745,"yecto":29746,"Ġmanufacture":29747,"ĠâĢĭ":29748,"Ġbbox":29749,"Ġearthqu":29750,"ollectors":29751,":@\"%":29752,"Ġloops":29753,"Je":29754,"alking":29755,"ĠWhats":29756,"ĠBoys":29757,".book":29758,"ARGE":29759,"_pixel":29760,"Ġsuspects":29761,"ι":29762,"usp":29763,"ĠBMW":29764,"ieces":29765,"(person":29766,"å¼Ģ":29767,"é»":29768,"ĠPodcast":29769,"Ġbou":29770,"(Item":29771,"û":29772,"(Input":29773,"HttpGet":29774,"Ġburg":29775,")^":29776,"BOARD":29777,"*/,":29778,"Ġgulp":29779,"ĠBenn":29780,"Ġdecks":29781,".statusCode":29782,"Ġacute":29783,"Ġhug":29784,"ugu":29785,"Ġpled":29786,",\"%":29787,"hape":29788,"Ġзап":29789,"ĠMaine":29790,".real":29791,"Ġdalam":29792,"ĠMinor":29793,".Float":29794,"disp":29795,"Ġtl":29796,"Ġencount":29797,"=>$":29798,"Ġfg":29799,"tees":29800,"ĠRecomm":29801,"äl":29802,"Ġchemistry":29803,"Blocks":29804,"OID":29805,"Ġforex":29806,"ĠAppend":29807,"Ġ{*":29808,"ĠSupply":29809,"CGFloat":29810,"(bl":29811,"Ġate":29812,"adora":29813,"Ġgust":29814,"Associ":29815,">.Ċ":29816,"FETCH":29817,".serial":29818,"widgets":29819,"ardless":29820,"iefs":29821,"_FULL":29822,"ernetes":29823,"ĠPred":29824,"ØŃ":29825,"äºĭ":29826,"ubernetes":29827,"ĠLaura":29828,"Ġlabeled":29829,"Highlight":29830,"Ġannoying":29831,"/update":29832,"(description":29833,"Ġintimid":29834,"$c":29835,"\")))Ċ":29836,".AP":29837,"Ġ[]*":29838,"ĠEXIT":29839,".Host":29840,"ĠOPEN":29841,".sendMessage":29842,"_camera":29843,"_tile":29844,"Ġtherm":29845,"onomous":29846,"Ġdisadv":29847,"Ġnaar":29848,"indexOf":29849,"ĠPP":29850,".protocol":29851,"AFE":29852,"Ġtextures":29853,"################################################":29854,"umbai":29855,".stats":29856,"ĠGE":29857,"Ġie":29858,"ĠSTD":29859,"ĠMann":29860,".reflect":29861,"KB":29862,"Ġdive":29863,".wav":29864,"/*----------------------------------------------------------------":29865,"/settings":29866,".lifecycle":29867,"Ġdaughters":29868,"orus":29869,"uber":29870,"NING":29871,"stri":29872,"ĠTip":29873,"Ġzn":29874,"Ġswitched":29875,"inet":29876,"uffy":29877,"ĠTransportation":29878,"(conf":29879,"frica":29880,"ĠXL":29881,"ĠLead":29882,"_percent":29883,"__":29899,"permissions":29900,"ĠDetermine":29901,".Man":29902,"Ġadvances":29903,".InputStream":29904,"Ġstrongest":29905,"ĠeBay":29906,"Ġ#-":29907,"Ġdirname":29908,"ĠSMS":29909,"Ġmedications":29910,"Ġamended":29911,"Ġchurches":29912,"ĠImperial":29913,"$row":29914,"ĠMadison":29915,"ĠInsp":29916,"Ġaffair":29917,"Ġpsychology":29918,"vh":29919,"Ġseverity":29920,"âĢIJ":29921,"Ġstrips":29922,"AH":29923,"vertising":29924,"Ġconse":29925,"IMAGE":29926,"ĠStats":29927,"ĉsc":29928,".Cursor":29929,"Ġfreeze":29930,"sson":29931,"(xml":29932,"ĠSusan":29933,".tile":29934,"eded":29935,"ĠĠĠĠĉĉĉ":29936,"uelle":29937,"ĠMitchell":29938,"based":29939,"Operand":29940,"½æķ°":29941,"ĠFF":29942,"ĉstrcpy":29943,"ounces":29944,"ildo":29945,".executeQuery":29946,"Ġapproaching":29947,"ĠSeven":29948,"Ġnuts":29949,"Ġric":29950,"assignment":29951,"Ġcalculator":29952,"ĠMurphy":29953,"ĠBou":29954,"íĦ":29955,"Ġbutt":29956,"Ġticks":29957,"Projects":29958,"ilib":29959,".textColor":29960,"mov":29961,"_logo":29962,"(template":29963,"ĠINIT":29964,"ĠimageView":29965,"scriptions":29966,"ORITY":29967,"Consumer":29968,"Ġunprecedented":29969,"Ġtourist":29970,"Ġbron":29971,"Ġcontractor":29972,"Ġlicence":29973,"ĠNam":29974,"æ¯":29975,"(transform":29976,"_ATT":29977,"Pref":29978,"ĠGam":29979,"Ġvessels":29980,"Ġhav":29981,"Later":29982,".ToLower":29983,"Ġurls":29984,"Ġbreakdown":29985,"Ġpenalties":29986,"Ġfoster":29987,"ĠUE":29988,"Ġclue":29989,"comed":29990,"åIJįç§°":29991,"-main":29992,"Ġpts":29993,"Ġcounted":29994,"icts":29995,"/post":29996,"Ġgetattr":29997,"Ġping":29998,"ANCEL":29999,"Ġpec":30000,"Ñħод":30001,"antom":30002,"ĠBlueprint":30003,"ĠEventEmitter":30004,"Ġlä":30005,"æ²":30006,"Ġstraw":30007,"(comp":30008,"'une":30009,">N":30010,"-client":30011,"esModule":30012,"-base":30013,"Ġretreat":30014,"_simple":30015,"ĉĉĉĉĉĉĠ":30016,"fee":30017,"')čĊčĊ":30018,"ControlItem":30019,"Ġsubscribers":30020,"please":30021,"ĠEff":30022,"Ġpound":30023,"ĠBytes":30024,"ĠTea":30025,"_activity":30026,"Ġmaxim":30027,"Ġopcode":30028,"BSD":30029,".constant":30030,";}":30031,"ombres":30032,"Ġcareers":30033,").ĊĊĊĊ":30034,"Ġspreading":30035,"-expanded":30036,"ĠOrd":30037,"amarin":30038,"Ġmobility":30039,"Unfortunately":30040,"akk":30041,"NL":30042,"_redirect":30043,"ĠPG":30044,"ĠSensor":30045,"bol":30046,"tap":30047,"_MEMORY":30048,"ĠUIAlert":30049,"plitude":30050,"Website":30051,"ĠLogo":30052,"love":30053,"[ind":30054,"Ġaltogether":30055,"Ġwondered":30056,"Ġesper":30057,"ĠLiberal":30058,"Ġoss":30059,"Ġelit":30060,"Ġstiff":30061,"odox":30062,"_mentions":30063,"ĠDouglas":30064,"_pid":30065,"ĠCK":30066,"ĠinitWithFrame":30067,".blog":30068,"pkg":30069,"anghai":30070,"QUIRED":30071,"uu":30072,"Ġmkdir":30073,"ATAL":30074,"Ġunh":30075,"inces":30076,"sth":30077,"Ġhypothesis":30078,"Ġcata":30079,"ĠTB":30080,"ĠClar":30081,"Ġpredecess":30082,"Ġsituated":30083,"-world":30084,"))/":30085,"Ġheadlines":30086,".stat":30087,"Ġoutbreak":30088,"spath":30089,"_FLAGS":30090,"ĠServletException":30091,"Sun":30092,"FROM":30093,"ĠDir":30094,"ãĥ»ãĥ»ãĥ»":30095,"_coord":30096,"ĠOptim":30097,"Monitor":30098,".bit":30099,"XXX":30100,"Ġtodas":30101,"feld":30102,"ÑĢи":30103,"imir":30104,"Ġpolitically":30105,"Ġmolecular":30106,"Ġtraded":30107,"Ġ{{$":30108,"ĠSwedish":30109,"Ġ'@/":30110,"_REAL":30111,"Ġwarehouse":30112,"today":30113,",L":30114,"orp":30115,"false":30392,"Ġspa":30393,"ĠNear":30394,"ìķ":30395,"Ġintrig":30396,"_members":30397,"wave":30398,"Ġanalysts":30399,"_OS":30400,"edin":30401,"ĠFri":30402,"Ġretrieved":30403,"Regular":30404,"_obs":30405,"EXPORT":30406,"')}}\"":30407,"\"class":30408,"__((":30409,"bucket":30410,"Ġstro":30411,"ĠPatch":30412,"ystick":30413,"fulness":30414,"apos":30415,"Da":30416,"ĉĉĉĉĉĠĠĠ":30417,"Ġenrich":30418,"unordered":30419,"hole":30420,"Cong":30421,"';ĊĊ":30463,"STRUCT":30464,"QR":30465,"IDs":30466,"(arguments":30467,"_aux":30468,"(Event":30469,"_PRIVATE":30470,"ĠTrek":30471,"Ġdownloads":30472,"mutable":30473,"_STRUCT":30474,"(wx":30475,"Ġdomains":30476,"jspx":30477,"ĠViagra":30478,"Commands":30479,"Js":30480,".cfg":30481,"ContentPane":30482,"ĠEditText":30483,"à¥įà¤":30484,"Attach":30485,"ĠARM":30486,"positive":30487,"ĠGenerated":30488,"Ġseized":30489,"=:":30490,"Ġelectronics":30491,"ĠAppComponent":30492,"/',Ċ":30493,".equalsIgnoreCase":30494,"Doctrine":30495,"disk":30496,"ĠPolitical":30497,"CHO":30498,"":30584,"ĠBeauty":30585,"Ġ`<":30586,"Ġtouching":30587,"Ġ|--":30588,"ĉflag":30589,"normalize":30590,"Ġtrapped":30591,"Ġestablishing":30592,"/build":30593,"AJ":30594,"fy":30595,"-react":30596,"avn":30597,"RIPTION":30598,"Ġkut":30599,"ĠFashion":30600,"ĠInform":30601,"curities":30602,"{Ċ":30634,"Ġgarlic":30635,"Ġrepr":30636,"Ġreplies":30637,"(prop":30638,"Ġspirits":30639,"Ġinspire":30640,"Ġbasement":30641,".reject":30642,"Ġhints":30643,"Ġpolling":30644,"ĉĠĊ":30645,"_rating":30646,"Ġcath":30647,"avier":30648,"Ġcompressed":30649,"ĠVS":30650,"]'":30651,"Ġjudicial":30652,"ĠTrend":30653,"training":30654,"ESTAMP":30655,"ognition":30656,"Äģ":30657,"SENT":30658,"ventions":30659,"Ġconsultant":30660,"umph":30661,"ĠuserService":30662,",NULL":30663,"kh":30664,"Dear":30665,"_BAD":30666,"itations":30667,"Ġmetaph":30668,"'é":30669,"andise":30670,"-font":30671,".chart":30672,"Ġsg":30673,"_Controller":30674,".jpeg":30675,"ĠULONG":30676,"ĉgame":30677,"(ss":30678,"ĠMaj":30679,"ĉgo":30680,"ĠSad":30681,"ĠBerg":30682,"ĠMine":30683,"Pack":30684,"Ġresistant":30685,"ĠROM":30686,"Ġpeg":30687,"ĠStanford":30688,"ĠYahoo":30689,"Ġscaled":30690,"Ġlan":30691,"=[]":30692,"\"/>ččĊ":30736,"Ġsud":30737,"ĉbackground":30738,"Ġscholars":30739,"-muted":30740,"ará":30741,"Ġ=====":30742,"Ġ____":30743,"Creat":30744,"enever":30745,"/wp":30746,"ĠVPN":30747,"ErrorCode":30748,")],Ċ":30749,"(builder":30750,"ĠEnemy":30751,"Sensor":30752,"usa":30753,"Ġtriggers":30754,"Ġplayoffs":30755,"_REQ":30756,"Ġ(~":30757,"ĠBarry":30758,"Ġpermanently":30759,"ĠRUN":30760,"Ġbure":30761,".Fatalf":30762,"Ġchick":30763,"ĉpanic":30764,"psi":30765,"oka":30766,"éĢī":30767,">[":30768,"Ġunderstands":30769,"ĠJunior":30770,"ĠINFO":30771,"=mysqli":30772,"ustain":30773,"-source":30774,"serv":30775,"ĠCREATE":30776,".au":30777,"Ġsells":30778,"ĠĠĊĠĠĊ":30779,"Europe":30780,"zw":30781,"preh":30782,"ĠNSA":30783,"Ġxy":30784,"ิ":30785,"ĠBeyond":30786,"Instead":30787,"NonQuery":30788,"Ġarise":30789,"Ġavoided":30790,".emplace":30791,"_models":30792,"}),Ċ":30793,"Ġhid":30794,"Ġ&_":30795,".points":30796,".getWidth":30797,".Exec":30798,"Ġ////":30799,"ĠSessions":30800,"...\\":30801,"ĠColomb":30802,"Ġacceleration":30803,"restore":30804,"Ġile":30805,"obic":30806,"}Ċ":31296,"plaint":31297,"getText":31298,"Ġindividually":31299,"Ġcheckbox":31300,"UY":31301,"ĠLamb":31302,"Ġdysfunction":31303,"ĠLar":31304,"à°":31305,"ĠCreating":31306,"');ĊĊĊ":31307,"\"They":31308,"locations":31309,"_CORE":31310,"Interaction":31311,"umbnails":31312,"ĠPartner":31313,"brit":31314,"Ġlesser":31315,"ĠSlot":31316,"setAttribute":31317,"ĠWave":31318,".po":31319,"/store":31320,"Ġbrowsing":31321,"_pd":31322,"sume":31323,"sed":31324,"Curve":31325,"Ġplasma":31326,"Ġsuspicious":31327,"ìĿ¸":31328,"ĠBah":31329,"ĠExplicit":31330,"_CC":31331,".ClientSize":31332,"\\View":31333,"Ġsubstit":31334,"loon":31335,"ĠGAME":31336,"ĠBrid":31337,"Ľå»º":31338,"_User":31339,"Ġsquares":31340,"fone":31341,"Ġsacred":31342,"ughs":31343,"]interface":31344,"ĠThrow":31345,"ĠKirk":31346,"Ġempire":31347,"Ġassessed":31348,"Tax":31349,"ĠHeaven":31350,"-buffer":31351,"_STATIC":31352,"éné":31353,"-bordered":31354,"Ġpunct":31355,"(mode":31356,"Ġkeine":31357,"Sent":31358,"ĠCalcul":31359,"ĠEve":31360,"Ġstylish":31361,"Ġoils":31362,".TestCase":31363,"Ġtrademark":31364,"Ġliterary":31365,"Ġconcentrations":31366,"ĠRelations":31367,"(Class":31368,"Ġstdin":31369,"Ġvæ":31370,"backup":31371,".VERSION":31372,".AutoScaleDimensions":31373,"starter":31374,"Transactional":31375,"-panel":31376,"Studio":31377,"kc":31378,"ĠChamber":31379,"ĠSpiel":31380,"Ġrho":31381,"اÙĦ":31382,"!'":31383,".Attributes":31384,"Ġmurdered":31385,"apeutic":31386,"Ġintimate":31387,"ĠtextField":31388,"ĠBuffalo":31389,"dummy":31390,"\"%":31391,"ĠLiberty":31392,"obar":31393,"ĠTank":31394,"ĠPopular":31395,"ervisor":31396,"ĠIniti":31397,"ĠMall":31398,"ĠPrior":31399,"CAP":31400,"ĠClay":31401,"ĠCertificate":31402,".Lock":31403,"-strip":31404,"-driven":31405,"/all":31406,"ĠMessageBoxButtons":31407,"_SECRET":31408,"_pb":31409,"Ġrats":31410,"ाà¤":31411,"Ġnt":31412,".Router":31413,"_topic":31414,"Ġtennis":31415,"ĠPUBLIC":31416,"ĠActivatedRoute":31417,"Ġ',Ċ":31418,"Ġcostume":31419,"Ġjokes":31420,".Handle":31421,"ĉbyte":31422,"Ġflavors":31423,"(cc":31424,"Ġpersonas":31425,"ĉimage":31426,"ĠNazi":31427,"Ġgrammar":31428,"Ġúlt":31429,"Ġvalve":31430,"Ġvic":31431,"ĠRachel":31432,"_invalid":31433,"Prefs":31434,"stdint":31435,"(route":31436,"Ġhtmlspecialchars":31437,"Ġpeoples":31438,"pline":31439,"Ġnv":31440,"ĠQuant":31441,"oppers":31442,"ĠcurrentUser":31443,"ĠCatal":31444,"Ġreconc":31445,"Ġconjunction":31446,"lx":31447,"amburg":31448,"Ġinfluential":31449,"danger":31450,"inders":31451,"Ġ%@\",":31452,".configuration":31453,"osome":31454,".identity":31455,"Ġpicker":31456,"nost":31457,"ĠDIY":31458,"August":31459,"ablo":31460,"Leaf":31461,"ĠReco":31462,"cko":31463,"DOC":31464,"ĠHerm":31465,":any":31466,"ĠInterview":31467,"ĠTex":31468,"xfe":31469,"(work":31470,"Ġleap":31471,"Heading":31472,"Ġquarters":31473,"\\Bundle":31474,"reb":31475,"Perhaps":31476,"ĠGmbH":31477,"Birth":31478,"ĉsum":31479,"ĠWatson":31480,".nil":31481,"ç¡":31482,"{}ĊĊ":31483,"icaid":31484,"Getter":31485,"\"name":31486,"Ġ\"čĊ":31487,"_none":31488,"zm":31489,"acute":31490,"uesto":31491,"Ġsous":31492,"Ġrebuild":31493,"Ġnewspapers":31494,"ĠHaz":31495,"Ġkits":31496,"ifo":31497,"Blur":31498,"Ġsuited":31499,"-In":31500,"à¯":31501,"ĠKeith":31502,"ĠNorway":31503,"INIT":31504,"ireccion":31505,"ieties":31506,"_usage":31507,"ĠDoug":31508,"rise":31509,"Ġtrillion":31510,"imited":31511,"ĠREL":31512,"alic":31513,"Ġcriticized":31514,"theorem":31515,"Ġcease":31516,"Ġsidew":31517,"ĠTerry":31518,"Ġsubsidi":31519,"Ġfirmly":31520,"Ġaws":31521,"Ġhott":31522,"Ġdressing":31523,"badge":31524,"ĠApplications":31525,"è¿ĶåĽŀ":31526,"Ġlaughed":31527,"Ġhobby":31528,"Ġmusicians":31529,"Ġ*.":31530,".placeholder":31531,"Ġcounters":31532,"ĠCapitol":31533,"SDK":31534,"Ġhelmet":31535,"andbox":31536,"quit":31537,"Ġcriminals":31538,"Ġteenager":31539,"(update":31540,"Gl":31541,".selection":31542,"Ġdischarge":31543,"Ġpresenting":31544,"ufacturer":31545,"_UNKNOWN":31546,"Ġstressed":31547,"åύ":31548,"Proto":31549,"_correct":31550,"haus":31551,"Ġrenov":31552,"Ġfirearms":31553,"Ġtechnically":31554,"-browser":31555,"Ġcandy":31556,"Stroke":31557,"Ġexecutor":31558,"Ġoccurrence":31559,"ĠIPv":31560,"_INTERFACE":31561,"ĠRetrieve":31562,".bad":31563,"Exchange":31564,"Navbar":31565,"ĠKid":31566,"(getApplicationContext":31567,"_STOP":31568,"ĠBoss":31569,"Listeners":31570,"Ġshooter":31571,"ĠAlb":31572,"äch":31573,"Ġpix":31574,".keyCode":31575,"alone":31576,"Ġabsurd":31577,"ĠCum":31578,"ĠNewtonsoft":31579,"ikt":31580,"Ġlaughing":31581,"Ġcapitalism":31582,"reeNode":31583,"Tx":31584,"_QUERY":31585,".Sleep":31586,"(login":31587,"WebElement":31588,"Ġcelebrating":31589,"Ġdeprecated":31590,"Ġmaar":31591,"Ġartistic":31592,"_ASSOC":31593,"ĠBorderRadius":31594,"ĉwp":31595,"Ġsurvivors":31596,"Inner":31597,"-red":31598,"Ġprosecution":31599,"_pp":31600,"(\"$":31682,"Ġcomma":31683,"unchecked":31684,"graphics":31685,"rors":31686,"GROUND":31687,"(public":31688,"Ġcustomized":31689,"ĠArkansas":31690,"ĠRew":31691,"Ġexpiration":31692,"×ķ":31693,"ĠCul":31694,"Ġnons":31695,".Filter":31696,"Ġsenator":31697,"_definition":31698,"ashington":31699,"ymph":31700,"/J":31701,"Ġfuse":31702,"ramid":31703,"ĠSupplier":31704,"Ġautocomplete":31705,"Ġ}),":31706,".\"ĊĊĊ":31707,"_functions":31708,"ĉto":31709,".eval":31710,"ĠTObject":31711,"References":31712,"Ġheated":31713,"HAL":31714,"Ġ))}Ċ":31715,"}$":31716,"ĠBarr":31717,"_UNIT":31718,"+$":31719,"ĠgetValue":31720,"iped":31721,"chied":31722,"(vm":31723,"cue":31724,"_integer":31725,"_course":31726,"third":31727,"Ġrevised":31728,"**/Ċ":31729,"_DIRECT":31730,"OutOf":31731,"(\"(":31732,"ĠFeel":31733,"Ġreass":31734,"Ġsubtitle":31735,"peri":31736,"nf":31737,"Ġenjoys":31738,"Ġtreats":31739,")this":31740,"-tabs":31741,"ancers":31742,"Ġcontinent":31743,"Ġcardio":31744,"Ser":31745,".question":31746,"Ġphrases":31747,"Validators":31748,"Ġpopul":31749,"ĠlÃŃ":31750,"song":31751,"_INTERNAL":31752,"Ġadviser":31753,"Ġpuzz":31754,"Ġambitious":31755,"ĠTob":31756,"ĠDP":31757,"Ġpresidency":31758,"Ġsurrender":31759,"Ġwatches":31760,"_binary":31761,"ĠSoon":31762,"Ġcanada":31763,"(\"\")Ċ":31764,"]='":31765,"ĠBrandon":31766,"epsilon":31767,"rw":31768,".addChild":31769,".Copy":31770,"Principal":31771,"Photos":31772,"Ġmarginal":31773,"Ġbasics":31774,"eing":31775,"Must":31776,"_String":31777,"Ġole":31778,"Magento":31779,".customer":31780,"(prev":31781,"ล":31782,"Ġloyalty":31783,"Cog":31784,"Ġprotocols":31785,"ĠCompanies":31786,"Ġtheoretical":31787,"Ġaccessing":31788,"ĠZen":31789,".ones":31790,"attice":31791,"_world":31792,"zes":31793,"Ġtattoo":31794,"Ġmenos":31795,"Ġintersect":31796,"\"];ĊĊ":31797,"belie":31798,"Ġinactive":31799,".readline":31800,"-labelled":31801,".done":31802,"lickr":31803,"ĠWORK":31804,"Ġderivative":31805,"Ġdatabases":31806,"âĤĤ":31807,"Ġsx":31808,".isArray":31809,"Ġys":31810,"Ġpada":31811,"ĠBullet":31812,"(`/":31813,"isActive":31814,"ĠCGSize":31815,"(equalTo":31816,"ĠColumbus":31817,"Ġmarry":31818,"DEV":31819,"_limits":31820,"rones":31821,"IAS":31822,"Ġtau":31823,"mino":31824,"_Write":31825,"ĠWine":31826,"Ġ[['":31827,"ĠPull":31828,"riters":31829,"rients":31830,"Ġshifting":31831,"upp":31832,"_TIMER":31833,"ĠConditions":31834,"ấ":31835,"ĠOrders":31836,"ĠStrength":31837,"æīĢ":31838,"Ġvalidity":31839,"Ġfot":31840,"etur":31841,"Ġbolt":31842,"åĨħ":31843,"ĠAlong":31844,"oshi":31845,"Ġassumptions":31846,"Ġmagazines":31847,"_SPI":31848,"Ġpunt":31849,"_PRODUCT":31850,"Ġrelay":31851,"ĠJavascript":31852,".te":31853,"-es":31854,"Ġwidgets":31855,"(fs":31856,"\";":31923,"atching":31924,"ĠKnowledge":31925,"ĉThe":31926,";margin":31927,"lessness":31928,"opard":31929,"umatic":31930,"()));čĊ":31931,"Ġfals":31932,"(cache":31933,"TypeId":31934,"éĢļ":31935,"_choice":31936,"ĠGoth":31937,"ĠSites":31938,"MG":31939,"_border":31940,"Indices":31941,"Comparer":31942,"ĠRedistribution":31943,"Ġcloset":31944,"Ġversatile":31945,"Inputs":31946,"********************":31947,"Ġobesity":31948,"quiz":31949,"gra":31950,"(global":31951,"åĬ¡":31952,"Ġcollector":31953,"Ġkor":31954,"ovable":31955,"ADC":31956,"ĠEventHandler":31957,".nc":31958,"Ġplayback":31959,"ientos":31960,"_perm":31961,"_WARNING":31962,"ĠOlympics":31963,".norm":31964,"ĠBroadcast":31965,"_small":31966,"drive":31967,".iloc":31968,"Ġtyped":31969,"MEM":31970,"_cons":31971,"DMETHOD":31972,"Ġlun":31973,".distance":31974,"(par":31975,"poon":31976,"Ġbast":31977,"activities":31978,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":31979,":čĊčĊ":31980,"SER":31981,")&&":31982,"_lst":31983,"ĠPolish":31984,"Ġknocked":31985,"Ġfrustration":31986,"aukee":31987,"Ġphosph":31988,"iquid":31989,"_coeff":31990,"æŃ¤":31991,"Latest":31992,"ĠDust":31993,"Tipo":31994,"Ġmaintains":31995,"Ġmarsh":31996,"incinn":31997,"lbl":31998,"Care":31999,"Ġneighborhoods":32000,"_gpio":32001,"ĠArsenal":32002,"Dem":32003,"ĠWhe":32004,"_hook":32005,"Ġldc":32006,"ĠHarper":32007,"ĠBerkeley":32008,"Ġgraduated":32009,"Percent":32010,"Ġarriving":32011,"ĠAdventure":32012,"(scope":32013,"('*":32014,"quarter":32015,"ĠMarie":32016,"Speaking":32017,"_codegen":32018,"Ġimmun":32019,"caster":32020,"ãĤĮ":32021,"åķĨ":32022,"ĠDimensions":32023,".record":32024,"Ġtexto":32025,"ĠMichelle":32026,"Pending":32027,"(by":32028,"_PAR":32029,"ucht":32030,"bee":32031,".Thread":32032,"ampire":32033,"know":32034,"ĠClinical":32035,"ĠmarginBottom":32036,"Ġdistinguish":32037,".Full":32038,".undefined":32039,"ĠSequelize":32040,"############################################################################":32041,"Ġeducated":32042,"_OVER":32043,"åºı":32044,"ĠÂłĠÂł":32045,"_each":32046,"Ġurge":32047,"depart":32048,"Ġdonors":32049,"ĠAu":32050,"Ġbillions":32051,"Ġbelonging":32052,"_age":32053,"_Int":32054,"Ġsubstances":32055,"machine":32056,"!!!ĊĊ":32057,"Ġjsonify":32058,"ibbean":32059,"ĠCad":32060,"ĠendTime":32061,"Ġcycling":32062,"ĠUITextField":32063,"Ġleverage":32064,"Ġvanilla":32065,"eat":32066,"Launch":32067,"(pt":32068,"states":32069,"ĠControls":32070,"ĠRespons":32071,"ĠJake":32072,"Ġasleep":32073,"fortunate":32074,".nextLine":32075,"SizeMode":32076,"ìĿ¼":32077,"TestingModule":32078,"German":32079,"ĠInvestig":32080,".reverse":32081,"ĠBACK":32082,"(DateTime":32083,"Ġnonprofit":32084,"ĠExpect":32085,"Ġtanto":32086,"']),":32087,"ĉthe":32088,"Multiple":32089,"(getActivity":32090,"_WAIT":32091,"Ġjá":32092,"decor":32093,"levance":32094,"ĠGitHub":32095,"mination":32096,"_quantity":32097,".Scanner":32098,"ĠLion":32099,"éĶĻ误":32100,"Ġdre":32101,"Ġtantra":32102,"ĠcontentType":32103,"Ġfid":32104,"_alt":32105,"NSIndexPath":32106,"-pl":32107,"åĮĸ":32108,"Ġantibiot":32109,"tables":32110,"acial":32111,"ĠRegistry":32112,"Ġolive":32113,"igers":32114,"Ġsubscriber":32115,"_pres":32116,"ĠSyntax":32117,"Ġlovers":32118,".Byte":32119,"olders":32120,"_forward":32121,"always":32122,"Caption":32123,"Priv":32124,"ĠTampa":32125,"isateur":32126,"-labelledby":32127,"ĠToString":32128,"ĠìĤ¬":32129,"Ġinitiated":32130,"WF":32131,"Ġinstitutional":32132,"inject":32133,"ĠScr":32134,"Ġdoctrine":32135,"Ġspacious":32136,"isure":32137,"ĠAna":32138,"\"time":32139,"essaging":32140,"Ġcid":32141,"ĠNan":32142,"Ġincomplete":32143,"TAG":32144,"-build":32145,"December":32146,"Ġresidual":32147,"(PDO":32148,"ĠListen":32149,"Ġglyph":32150,"Ġgaps":32151,"nea":32152,".Rect":32153,"Ġsau":32154,"ĠPhotograph":32155,"Ġexecutable":32156,"ĠExpert":32157,"Coroutine":32158,"_sizes":32159,"ĠNL":32160,".isValid":32161,");}Ċ":32162,"-reg":32163,"Ġciting":32164,"cwd":32165,"ĠOttawa":32166,"ĠBatt":32167,"Ġrenewable":32168,"Ġpreliminary":32169,"Ġasylum":32170,"Ġwrist":32171,"Ġutiliz":32172,"Ġdetention":32173,"Fast":32174,"Ġange":32175,"incinnati":32176,"Ġsteering":32177,"ĠNaN":32178,"iosity":32179,"/page":32180,"Ġè¿":32181,"sterol":32182,"Ġdisg":32183,"(DB":32184,"ĠDESCRIPTION":32185,"Ġ_$":32186,"Ġobstacle":32187,"Ġbizarre":32188,"Ġextraction":32189,"_expected":32190,"Ġloses":32191,"ĠCelebr":32192,"ĠhtmlFor":32193,"Ġexploit":32194,"олÑĮзов":32195,"XYZ":32196,"Ġmagnet":32197,"amped":32198,"Ġatoms":32199,"Sources":32200,"pectives":32201,"Ñģли":32202,"Ġ=čĊ":32203,"Ġdare":32204,"ĠWalter":32205,"Ġbrightness":32206,"Ġannotations":32207,"ëı":32208,"iske":32209,"Schedule":32210,".images":32211,"rosso":32212,"Ġ\"..":32213,"gamma":32214,"Ġinstructor":32215,"Ġoverwrite":32216,"-am":32217,"Ġdevastating":32218,"ĠSaints":32219,"Ġhs":32220,"Ġbonuses":32221,"$output":32222,"ijd":32223,"(ActionEvent":32224,"monitor":32225,"Ġmattress":32226,"January":32227,".jp":32228,"Ġcaracter":32229,"Ġimpose":32230,"_rest":32231,"ĠSignature":32232,"Ġcoronavirus":32233,"ãģĬ":32234,"_compare":32235,"Measure":32236,"itated":32237,"elijk":32238,"igos":32239,"esar":32240,"Ġrushed":32241,"metry":32242,"_SEPARATOR":32243,"_WE":32244,"_ATTRIBUTE":32245,"Ġyaml":32246,"Ġspecs":32247,"ĠRah":32248,"pheric":32249,"ĠInvestment":32250,"äll":32251,"Ġappealing":32252,"Ġviewport":32253,"ç©":32254,"ĠmarginLeft":32255,"Ġsubtract":32256,"ĠEDIT":32257,"ĉArrayList":32258,"grading":32259,"ĠFailure":32260,"asper":32261,"EEK":32262,"(now":32263,")Ċ":32279,"Collision":32280,"ĠGreater":32281,"ĠRacing":32282,"alan":32283,"Ġmonetary":32284,",new":32285,"ĠSorry":32286,".Enable":32287,"ĠInstantiate":32288,"ollen":32289,"ë©´":32290,"ĠCalling":32291,"_hour":32292,"ADA":32293,"Ġshy":32294,")**":32295,"Ġ==>":32296,"Ġespecial":32297,"Ġinterpreted":32298,"!=\"":32299,"Ġpharmacy":32300,".single":32301,"ĠCialis":32302,"Ġparas":32303,".toUpperCase":32304,"ĠDemon":32305,"Prime":32306,"Ġrankings":32307,"Adding":32308,"_HASH":32309,"ĠExam":32310,"Ú©":32311,"ĠVictor":32312,"Okay":32313,"\"];čĊ":32314,"Ġfortune":32315,"ĠFETCH":32316,"expand":32317,".Interop":32318,"Ġbarn":32319,"æ¶Ī":32320,"uevo":32321,"Ġspeculation":32322,"âĶĢâĶĢâĶĢâĶĢ":32323,"ĠNu":32324,"ĠBlues":32325,"(fname":32326,"Ġinhabit":32327,"Ġ\\\"%":32328,"CES":32329,"ulario":32330,"_cr":32331,"Ġvalidated":32332,"Ġmidnight":32333,"anking":32334,"Ġincorporate":32335,"Ġpursuit":32336,"EXP":32337,"prime":32338,"Pid":32339,"-US":32340,"ĠNurs":32341,"ĠWheel":32342,"éĺ":32343,"Ġinp":32344,"Ġsupportive":32345,".member":32346,"ĠShot":32347,".CheckBox":32348,"Ġaffirm":32349,"Tor":32350,"FullYear":32351,"Ġconsiderably":32352,"credentials":32353,"_opts":32354,"Roll":32355,"(round":32356,"Ġcoment":32357,"_UART":32358,"Ġextending":32359,"RG":32360,"resultado":32361,"itu":32362,".getSession":32363,"Ġattraction":32364,"&D":32365,"$html":32366,"ĠJessica":32367,"ĠAssociate":32368,"añ":32369,"_ed":32370,"ĠLag":32371,"Ġorigins":32372,"())->":32373,"addEventListener":32374,"IALOG":32375,"åIJ¦":32376,".Compare":32377,"Album":32378,"ĠKu":32379,"\";ĊĊ":32423,"quisite":32424,"channels":32425,"/res":32426,"ĠAnalytics":32427,".appcompat":32428,"/to":32429,"ĠonError":32430,"(attr":32431,"IRM":32432,"Ġragaz":32433,"-as":32434,".Second":32435,"oriented":32436,"Ġdonn":32437,"Ġlightning":32438,"fid":32439,"ĠPle":32440,"ãģ¾ãģĻ":32441,"tro":32442,".True":32443,"Observable":32444,"×Ļ":32445,"umbing":32446,"Ġprospective":32447,"-filter":32448,"Ġpursuant":32449,"(points":32450,".Bind":32451,"Ġpalm":32452,"clearfix":32453,"ös":32454,"ĠGonz":32455,"Ġweaken":32456,"Drive":32457,"enido":32458,"lld":32459,"obox":32460,"anean":32461,"Got":32462,"ä¿Ŀ":32463,"Regex":32464,"æĥ":32465,"Ġsalad":32466,"assis":32467,"\"net":32468,"inheritDoc":32469,"ĠRV":32470,"quier":32471,"Ġclazz":32472,"Ä±ÅŁ":32473,"osterone":32474,"Ġairline":32475,".listdir":32476,"Ġdownloading":32477,"ĠPalm":32478,"waukee":32479,"<":32480,".BL":32481,"_INLINE":32482,"offs":32483,"<<(":32484,"_news":32485,"Ġchase":32486,"/><":32487,"Ġeuros":32488,"ĠEgyptian":32489,"ĠStainless":32490,"_BOOL":32491,"ĠGuild":32492,"ĠDynam":32493,"[indexPath":32494,"Ġï":32495,"Ġmemorable":32496,"ĠChampion":32497,"ResourceManager":32498,".Login":32499,"ĠFormer":32500,"yped":32501,"Ġlleg":32502,";\",":32503,"DWORD":32504,"Ġtaxi":32505,"Ġbombs":32506,"rah":32507,".tags":32508,"_tests":32509,"stones":32510,"âĢĿ)":32511,"[g":32512,"rtype":32513,"Ġvu":32514,"Ġhostile":32515,"Chars":32516,"ĠPatriots":32517,"/status":32518,"());Ċ":32872,"ajÄħ":32873,"_OCC":32874,"Ġplanets":32875,"æŁ¥":32876,"ĠDublin":32877,"Ġserie":32878,".printf":32879,"deep":32880,"`)":32881,"Ġ\\$":32882,"Ġμ":32883,"_VIDEO":32884,"endors":32885,"ĠCrypto":32886,"Far":32887,".Transparent":32888,".TR":32889,"iasm":32890,"_training":32891,"Ġteaches":32892,"ĠBelt":32893,"Ġlimiting":32894,"ĠKath":32895,"ĠIndexPath":32896,"Ġachievements":32897,"Ġserá":32898,"interopRequire":32899,"Ġdisse":32900,".If":32901,"arming":32902,"ulsion":32903,"Po":32904,"_DETAIL":32905,"Prototype":32906,"ĠCAL":32907,"Ġagrees":32908,".vo":32909,".ExecuteNonQuery":32910,"ĠTopic":32911,"Ġ'{}":32912,"Arm":32913,"Ġecc":32914,"Mag":32915,"Ġserialized":32916,"ĉconn":32917,"cached":32918,"=tf":32919,"ĠByteArray":32920,"protobuf":32921,"varchar":32922,"ĉASSERT":32923,"Ġliste":32924,"_trigger":32925,"·¸":32926,"Feel":32927,"Tahoma":32928,"ĠLik":32929,"Ġstructured":32930,"ergus":32931,".Initial":32932,"_ge":32933,"cljs":32934,".contact":32935,"Ġandere":32936,"$stmt":32937,"_CURRENT":32938,"ĠDiscover":32939,"$res":32940,"formatter":32941,"Ha":32942,"vangst":32943,"Ġemerge":32944,"ãĢĤâĢĿ":32945,"ĠCabinet":32946,"-square":32947,"éĥ¨":32948,"Ġrage":32949,"ĠAJ":32950,"ĠVT":32951,"shadow":32952,"ĠFaith":32953,"enames":32954,"pretty":32955,"hasil":32956,"party":32957,"Ġvarchar":32958,"Ġfotos":32959,"Ġalum":32960,"ĠBelgium":32961,".ylabel":32962,"Ġdej":32963,"_numbers":32964,"Ġhu":32965,".setAdapter":32966,"ĠUsually":32967,"(sample":32968,".Shared":32969,"Ġbooked":32970,"Ġ>>=":32971,"Ġminerals":32972,"\">":32991,"prog":32992,"boo":32993,"_md":32994,"_pack":32995,"(express":32996,"utz":32997,"\\Auth":32998,",id":32999,"ĠChile":33000,"actice":33001,"Ġrecruitment":33002,"Ġposes":33003,"Ġvulnerability":33004,"instanc":33005,"orum":33006,"dess":33007,"Ġxl":33008,"%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%":33009,"(fig":33010,"Ġdeleting":33011,".del":33012,")')Ċ":33013,"ĠWeekly":33014,"???":33015,"(strcmp":33016,"smith":33017,"Ġpursuing":33018,"-so":33019,"ĠApps":33020,"/'Ċ":33021,"Ġdecis":33022,"FORE":33023,"Everyone":33024,"Ġlanes":33025,"Virtual":33026,".attach":33027,"(Log":33028,"ĠMedicaid":33029,"(Path":33030,"ĠTurner":33031,"/application":33032,"Ġportrait":33033,"Ġoppose":33034,"checkout":33035,"Ġfinishes":33036,"_ME":33037,"Barrier":33038,"Song":33039,"VAR":33040,"Earlier":33041,"rella":33042,"Ġhast":33043,"azar":33044,"Ġpulls":33045,"ngx":33046,"Ġinspiring":33047,"ÑĥÑİ":33048,"-direction":33049,"Ġexplosive":33050,"ĠcreatedAt":33051,"sto":33052,"Ġwheat":33053,"ĠBuilt":33054,"'ai":33055,"Ġtracked":33056,"hammad":33057,"RowAtIndexPath":33058,"_heap":33059,"Due":33060,"Ġconnects":33061,".publish":33062,"emu":33063,"Ġbullets":33064,"BAR":33065,"olate":33066,"Ġinternally":33067,"Ġcatching":33068,"-password":33069,"ouched":33070,"æĢ§":33071,"eous":33072,"Ġxrange":33073,"Quality":33074,"vv":33075,"Manage":33076,"(($":33077,"acements":33078,"ĠBrothers":33079,"ĠHEAD":33080,"ĠUnsupported":33081,"san":33082,"esi":33083,"***Ċ":33084,"Ġadaptation":33085,"ĠWorker":33086,"']/":33087,".savefig":33088,"(trans":33089,"ج":33090,"nee":33091,"Correct":33092,"...\")Ċ":33093,"Ġsubmitting":33094,"-path":33095,"ĉlast":33096,"issan":33097,".xlabel":33098,"ĠSepar":33099,"/no":33100,"_best":33101,"ĠMills":33102,"_sock":33103,"(flag":33104,"Ġdestinations":33105,"emption":33106,"ĠFAIL":33107,"åĴĮ":33108,"Ġrp":33109,"fact":33110,"ĉlen":33111,"DAY":33112,"Ġseiz":33113,"_dst":33114,"lip":33115,".Linear":33116,"ĠBasket":33117,"$t":33118,"$i":33119,"-brand":33120,"ĠNeil":33121,"ĠEq":33122,"Ġthou":33123,"ogene":33124,"Ġscholarship":33125,"æĽ´":33126,"Ġswo":33127,"aginator":33128,"eni":33129,"(book":33130,"Ġblink":33131,"thus":33132,"ĠcancellationToken":33133,"ĠPalestinians":33134,"Ġprofitable":33135,"Ġbackpack":33136,"enson":33137,"true":33284,"ĠNYC":33285,"Ġbored":33286,"ĠDetect":33287,"Ġappar":33288,"Ġjeans":33289,"ĠTak":33290,"IOD":33291,"ĠHorse":33292,"(FILE":33293,"(?":33294,"rique":33295,"optimizer":33296,"nat":33297,"loys":33298,"ĉToken":33299,"oubted":33300,"uess":33301,"ocoa":33302,"DataMember":33303,"_POWER":33304,"classList":33305,"PushButton":33306,"ĠWiFi":33307,".Stream":33308,".guild":33309,"Ġnog":33310,"ĠPortugal":33311,"ĠUnter":33312,"Primitive":33313,"boss":33314,"ĠDeutsch":33315,"Ġerotic":33316,"Ġstrconv":33317,".TryParse":33318,"Ġgrams":33319,".Success":33320,"_pk":33321,"ĠHarvey":33322,"-minded":33323,".country":33324,"[]\"":33325,"Ġangel":33326,"Ġbeats":33327,"ĠVor":33328,"ilio":33329,".master":33330,"something":33331,"ĠPACK":33332,"(if":33333,"RequestBody":33334,"Ġantes":33335,"/widget":33336,"Ġmodo":33337,"ĠAW":33338,"finder":33339,"Ġoptimized":33340,"Ġmissiles":33341,"NB":33342,"ĉinternal":33343,"tex":33344,"ĠSri":33345,"Ġdamaging":33346,"ĠMais":33347,"-Allow":33348,"ĠZh":33349,"-alt":33350,"Ġ));ĊĊ":33351,"èī":33352,"Ġinfluences":33353,"Ġcatal":33354,"_REGISTER":33355,"ĠAPIs":33356,"-century":33357,"Ġbiology":33358,"ĠActual":33359,"Ġheels":33360,"TRACE":33361,"_DIG":33362,"Dataset":33363,"ĠMatter":33364,"Ġclassifier":33365,".wikipedia":33366,"ĠRogers":33367,"Ġdonated":33368,"rawler":33369,"enen":33370,"Ġcasinos":33371,"ortal":33372,"Ġprive":33373,"spe":33374,"ducers":33375,".ep":33376,"Ġgrasp":33377,"acji":33378,"Ġdairy":33379,"Ġbuses":33380,".comm":33381,".ins":33382,"ĠIRS":33383,"ĠBeer":33384,"adc":33385,"oard":33386,"_MET":33387,"Ġ'+'":33388,"rans":33389,"Ġkinda":33390,"ĠâĶĤ":33391,"ĠMaur":33392,"аг":33393,"Ġbandwidth":33394,"ibus":33395,"ĠDifferent":33396,"(mat":33397,"ĠResume":33398,"_UNS":33399,"establish":33400,"Ġfonction":33401,"Subscription":33402,"_company":33403,"Ġlightly":33404,".confirm":33405,".yaml":33406,"ĠBoost":33407,"Commerce":33408,"-template":33409,"_DELAY":33410,"ĠHI":33411,"Ġnavig":33412,"(Sender":33413,"ĠHS":33414,"_\"+":33415,"ĠREQUEST":33416,"Ġwifi":33417,"=\"\"Ċ":33418,"])->":33419,"Ġrope":33420,"Ġviolated":33421,"Ġglance":33422,"ĠKurd":33423,"Ġè®":33424,"deck":33425,"ĠISBN":33426,"Ġinfect":33427,"ĠFoo":33428,"Ġgetter":33429,"Ġtener":33430,"appe":33431,".hh":33432,"_hot":33433,"\".$":33643,"Ġrelies":33644,"(Console":33645,"International":33646,"->{$":33647,"Mid":33648,"Ġdissert":33649,"dds":33650,"Ġdeposits":33651,"ĉdriver":33652,"#ga":33653,"prising":33654,"println":33655,"Ġpresenter":33656,"Ġmines":33657,"CSS":33658,"ĠDual":33659,"(!(":33660,"Ġkam":33661,"ĠisLoading":33662,"ĠProtect":33663,".upper":33664,"arium":33665,"]:ĊĊĊ":33666,"Yii":33667,"-shirt":33668,"ĠIMAGE":33669,"_colors":33670,"Ġurgent":33671,".Container":33672,"!(Ċ":33673,"Saturday":33674,"Ġsocieties":33675,"ĠThan":33676,"ĠCod":33677,"=@":33678,"Ġattachments":33679,".mobile":33680,"Ġspite":33681,"Ġbounce":33682,"rawl":33683,"instancetype":33684,"ĠTruck":33685,"Ġmanipulation":33686,"(Config":33687,"-inst":33688,"Ġstor":33689,"itution":33690,"PreferredGap":33691,"ĠmainAxisAlignment":33692,"Ġlistened":33693,"'''ĊĊ":33694,"ottage":33695,"-project":33696,".APPLICATION":33697,"ĉroot":33698,"Ġwhit":33699,"Ġbilder":33700,"Ġker":33701,"Ġappliances":33702,"rowave":33703,"ìĿĢ":33704,"ematics":33705,"ĠOrg":33706,"oping":33707,"_SEARCH":33708,"Ġcham":33709,"addContainerGap":33710,"Ġ().":33711,"ĠArrow":33712,"Illegal":33713,"Currently":33714,"Ġusa":33715,"Ġpasswords":33716,"Ġrenown":33717,"avern":33718,"ĠEvil":33719,"Ġconcat":33720,"Ġduo":33721,"Ġvale":33722,"ĠBean":33723,"Ġindicators":33724,"cmath":33725,"ĠPump":33726,"November":33727,"ificant":33728,"_DOMAIN":33729,"regar":33730,"ĠPortal":33731,"\"$":33732,"Ġformerly":33733,"\"]:Ċ":33734,"ĠVisibility":33735,".getElementsByClassName":33736,"_RED":33737,"Ġchampions":33738,"à´":33739,"Valor":33740,"_es":33741,"*a":33742,"-repeat":33743,"Band":33744,".stage":33745,"Ġbureauc":33746,"Cnt":33747,"eten":33748,"-function":33749,"Ġmuito":33750,"PID":33751,"_editor":33752,"Ġcrashed":33753,"dead":33754,"kat":33755,"agh":33756,"ĠEXT":33757,"asser":33758,"-small":33759,"Ġrealiz":33760,"(Entity":33761,"ús":33762,"ĠActually":33763,"ĠElite":33764,"Ġhelm":33765,"(nonatomic":33766,"asher":33767,"Community":33768,"alleng":33769,"iry":33770,"ĠGrowth":33771,"Ġsue":33772,"Ġfrequencies":33773,"_descriptor":33774,".Attribute":33775,"Ġrecipients":33776,"_NS":33777,"/\"+":33778,"iban":33779,"Ġathlete":33780,"ĠIgn":33781,"_DMA":33782,"(ds":33783,"ĠRequirements":33784,"ADI":33785,"erez":33786,"\\Admin":33787,"braska":33788,"ĠRust":33789,"Relation":33790,"COD":33791,"ĠVERSION":33792,"emma":33793,")){":33794,".Duration":33795,"ĠCamb":33796,"-logo":33797,"Ġreadable":33798,"Ġcreators":33799,"()];Ċ":33800,"UpDown":33801,"-half":33802,".getMonth":33803,"(sf":33804,"Pic":33805,"Ġhunger":33806,".tx":33807,"Ġexceeded":33808,"_seed":33809,"(^":33810,"_sk":33811,".perform":33812,"Ġ>::":33813,"Ġmongo":33814,"=float":33815,"bindParam":33816,"Smart":33817,"ifa":33818,"Ġsecurities":33819,"Ġprejud":33820,"Ġ,\"":33821,"Ġcorps":33822,"Ġvra":33823,"amacare":33824,"iterr":33825,"(Media":33826,"uche":33827,"Ġcob":33828,"Ġliber":33829,".geometry":33830,"Locator":33831,"Ġsliding":33832,"Ġsurgical":33833,"_CUR":33834,"Ġconsect":33835,"[*":33836,"ĠResort":33837,"Stub":33838,"_DOUBLE":33839,"ĠSoph":33840,"Ġelectoral":33841,"_disable":33842,"ĠÑģо":33843,"ĠLightning":33844,"Ġmentions":33845,"ocy":33846,"Ġleaked":33847,"Ġrelaxing":33848,"Presenter":33849,"vsp":33850,"Ġguilt":33851,"=-=-":33852,".reply":33853,"ĠMirror":33854,"Camp":33855,"Ġ+#+#+#+":33856,"Ġ+#+#+#+#+#+":33857,".Author":33858,"Ġdirective":33859,"-hook":33860,"íĦ°":33861,"}ĊĊĊĊĊ":33862,"@pytest":33863,"_rand":33864,"mis":33865,"Ġcolorful":33866,"uje":33867,"lasses":33868,"ĠClasses":33869,".have":33870,"%),":33871,"é¢ĺ":33872,"Ġdisturbing":33873,"substring":33874,"ĠKoh":33875,"Invest":33876,"purchase":33877,"Ġrecycling":33878,"ĠART":33879,"ierarchy":33880,"Ġfps":33881,".checkBox":33882,"íķ´":33883,"_material":33884,"ducation":33885,"Ġfw":33886,"udit":33887,"Ġreviewing":33888,"ĠSid":33889,"Syntax":33890,"ĠWritten":33891,"argar":33892,"UME":33893,"/q":33894,"Classifier":33895,"Official":33896,"Ġjazz":33897,"Ġomega":33898,"Physics":33899,"Ġlugar":33900,"_accessor":33901,".commands":33902,"Ability":33903,"ĠBatch":33904,"RAM":33905,"Ġencounters":33906,".Qu":33907,"BYTE":33908,"ĠDistribution":33909,"Ġuso":33910,"ĠRecovery":33911,"approved":33912,"Ġdenial":33913,"/share":33914,"LinkedList":33915,")čĊčĊčĊ":33916,"uddy":33917,"Ġfines":33918,"Ġry":33919,"Unicode":33920,"ĉrender":33921,"Ġpremises":33922,"Ġpon":33923,"aliases":33924,"/Foundation":33925,"cuda":33926,"ĠCock":33927,",:)":33928,"(folder":33929,"Ġméd":33930,"drag":33931,"Ġtalents":33932,"ĠĠĠĊĊ":33933,"еÑģÑĤв":33934,"mob":33935,".yml":33936,"Ġaster":33937,"Ġdiscre":33938,"goal":33939,"ĠGTX":33940,"ĠSUCCESS":33941,"ĠLONG":33942,"(find":33943,"Ġsingular":33944,"_sz":33945,"ĠEthereum":33946,"..Ċ":33947,"Ġirres":33948,"')){Ċ":33949,"Ġministers":33950,"Steps":33951,"iversal":33952,"ĠNevertheless":33953,"-led":33954,"Ġ(%)":33955,"ç¡®":33956,"Ġtimezone":33957,"Ġstranger":33958,"(render":33959,"Ġshutil":33960,"Ġmph":33961,"Ġtrio":33962,"ppy":33963,"Ġpredomin":33964,"Ġendors":33965,"ĠRussians":33966,"ĉrow":33967,"Ġwizard":33968,".serialize":33969,"Ġcomplained":33970,"Ġsido":33971,"Ġdelighted":33972,"-me":33973,"ĠRav":33974,"Human":33975,"adays":33976,"recv":33977,"Working":33978,"Jump":33979,"ĠÃ¥r":33980,"ĠAutomatic":33981,"_Base":33982,"æł¼":33983,"aurants":33984,"¯":33985,"æ¸":33986,"(CType":33987,"IFI":33988,"(amount":33989,"Ġbelieving":33990,"=mysql":33991,"Ġfir":33992,"Ġrestoration":33993,"ereco":33994,"Т":33995,"_'+":33996,"Ġebook":33997,"Ġdebris":33998,"(inputs":33999,"AYOUT":34000,"Ġscreaming":34001,"avia":34002,"lander":34003,"Ġdistress":34004,"Ġassembled":34005,"ĠAvoid":34006,"(thread":34007,"ĠRPC":34008,"_EXIT":34009,"(queue":34010,"иÑģÑĤ":34011,"Dll":34012,"Ġskull":34013,"_pub":34014,"chez":34015,"minate":34016,"ensen":34017,"Ġinsane":34018,"bounds":34019,"ĠRosen":34020,"Ġconditioning":34021,"processed":34022,"videos":34023,"four":34024,".Conv":34025,"|;Ċ":34026,"Personal":34027,"cerpt":34028,":UIControlStateNormal":34029,"Ġdoses":34030,"ĠKarl":34031,"ĠFrequ":34032,".BASE":34033,"ĠVote":34034,"Ġconcurrent":34035,"ĠMessageBoxIcon":34036,"ĠÃĸ":34037,"ĠDubai":34038,"ĠRetail":34039,":number":34040,"ĠObserver":34041,"ĠBigInteger":34042,"_origin":34043,"_WORK":34044,"Frames":34045,"Ġnotably":34046,".âĢľ":34047,"Ġtropical":34048,"Ġniche":34049,"amina":34050,".sys":34051,"(tokens":34052,"modify":34053,"osit":34054,"strom":34055,"ĠComics":34056,"OPTION":34057,"Ticket":34058,"Ġfactories":34059,"Ġdisput":34060,"_File":34061,"ĠFinn":34062,"eee":34063,"ĠDiscord":34064,"_money":34065,".tpl":34066,"_safe":34067,"LB":34068,"Ġglut":34069,"JK":34070,".flow":34071,"-cont":34072,"gos":34073,"Ġhorizon":34074,"ĠRush":34075,"::*":34076,"Pipe":34077,"ulla":34078,"borough":34079,"heimer":34080,"(move":34081,"(Text":34082,"});čĊčĊ":34083,"welcome":34084,"ĠComponents":34085,"Ġgovernance":34086,"closed":34087,"ĉmargin":34088,"Ġlaundry":34089,"ĠTerminal":34090,"izards":34091,".âĢĶ":34092,".remote":34093,".radius":34094,"ĠQuebec":34095,"Ġdh":34096,"Tech":34097,"ĠMist":34098,"seller":34099,"_literal":34100,"Ġgenius":34101,"Ġbrains":34102,"gem":34103,"ĠMeasure":34104,"Ġcatast":34105,"rance":34106,".TextField":34107,"Ġconsuming":34108,"Ġ'\\''":34109,"oubtedly":34110,"ĠCertain":34111,"Ev":34112,"erti":34113,"being":34114,"Experience":34115,"Ġ//[":34116,"ĠArabic":34117,"ĠCrist":34118,"ĠAzure":34119,"Ġhora":34120,"ladesh":34121,"\\Blueprint":34122,"dar":34123,".rel":34124,"Ġsuprem":34125,"ĠReagan":34126,"ĠAttributes":34127,"-sidebar":34128,"ĠuseStyles":34129,"ĠAirlines":34130,"Ġhills":34131,"/xhtml":34132,"vinc":34133,"_mock":34134,"ĊĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":34135,"ĠPill":34136,".LayoutStyle":34137,"ĠCommander":34138,"]<":34139,"signature":34140,"Ġ{}čĊ":34141,"Ġhatred":34142,"Ġëĭ":34143,"olesterol":34144,"Ġ********":34145,"ancellor":34146,"crop":34147,"TIM":34148,"ĉĉĊĊ":34149,"ysqli":34150,"uitive":34151,"ĉunset":34152,"_sel":34153,"Ġmenus":34154,"tick":34155,"Ġconstitute":34156,"ĠElements":34157,"ĠRedis":34158,"aggio":34159,"_fp":34160,"_depend":34161,"emas":34162,"CAST":34163,"orange":34164,"jon":34165,"ĠEmily":34166,"Ġpotatoes":34167,"Ġreceptor":34168,"ĠElectronic":34169,"ĠLights":34170,"Ġcombining":34171,"ĠSomeone":34172,"Ġ########.":34173,"ĠTOD":34174,"/show":34175,"Xd":34176,".\"'":34177,"afx":34178,"Ġtragic":34179,"Styled":34180,"ĠMarco":34181,"Gallery":34182,"dale":34183,".âĢĿĊĊĊĊ":34184,"érie":34185,"/service":34186,"äºĨ":34187,"Ġambient":34188,"_SETTINGS":34189,".Adapter":34190,"lene":34191,"Ġtravels":34192,"Notice":34193,"Ġcleans":34194,"ĠFem":34195,"chair":34196,"Ñĥн":34197,"/my":34198,"_bad":34199,"ĠEconomics":34200,"ISA":34201,"_CNT":34202,"(Menu":34203,"äºİ":34204,"ĠRidge":34205,"Ġlengthy":34206,"Dot":34207,"Ġjumps":34208,"Ġhey":34209,"$pdf":34210,"Ġworm":34211,"Ġsut":34212,"Ġsher":34213,"iamo":34214,"ĠCalc":34215,"trieve":34216,"Ġcops":34217,"ĠChrom":34218,"Ġregulated":34219,"reatment":34220,"ĠHigher":34221,"oks":34222,"Ġdeze":34223,"LOCATION":34224,"ongsTo":34225,"Ġfinite":34226,"Ġvaries":34227,"Ġpositioned":34228,"'il":34229,"éĩij":34230,"Ġhike":34231,"(done":34232,"playlist":34233,"Ġada":34234,"Ġcoastal":34235,"ĠNancy":34236,".DateTimeField":34237,"CppCodeGen":34238,"ĠSimilarly":34239,"reur":34240,"ĠContr":34241,"ĠHidden":34242,"ĠBeta":34243,"atched":34244,"_install":34245,".Output":34246,"Lookup":34247,"ĠRichmond":34248,"quared":34249,"Ġmanga":34250,"-controls":34251,"ĠBernard":34252,"Large":34253,"Ġslices":34254,"Ġoffence":34255,"ĠMega":34256,"Ġestar":34257,"Ġjoints":34258,"Ġsumm":34259,"_platform":34260,"Buff":34261,".addSubview":34262,"Ġretained":34263,"Letter":34264,".dim":34265,"Ġessere":34266,"ĠScaffold":34267,"EXPECT":34268,"ĉRE":34269,".longitude":34270,"ünd":34271,"Ġstatue":34272,".addWidget":34273,"ĠCaribbean":34274,"addPreferredGap":34275,"ilde":34276,"UILabel":34277,"ĠOpport":34278,"Ġimperial":34279,"ursion":34280,"Ġmandate":34281,"Ġpromotional":34282,"Ġvk":34283,"iaÅĤ":34284,"Ġpyl":34285,"ĠCreation":34286,"озд":34287,"Ġsimpler":34288,".what":34289,"ĠRecent":34290,"Storm":34291,".quantity":34292,"ĠLov":34293,"\"-":34294,"ubbles":34295,"_notification":34296,"(world":34297,"urger":34298,"*(-":34299,":\"Ċ":34300,"hm":34301,"anship":34302,"ĠAlmost":34303,"Ġmotorcycle":34304,"_fee":34305,"Ġabsorb":34306,"ĠVincent":34307,"Ġsounded":34308,"ÃŃst":34309,"Ġpharmaceutical":34310,"htag":34311,"ĠKindle":34312,"italize":34313,"ĠEmperor":34314,"oustic":34315,"Ġspecialists":34316,"åħ¬":34317,"BorderStyle":34318,"/\\":34319,"RELATED":34320,"(',',":34321,"(expr":34322,"Ġht":34323,"åįĪ":34324,"_Create":34325,"Ġspecially":34326,"Ġ[];čĊ":34327,"Ġheel":34328,"Ġsept":34329,"_arch":34330,"(initial":34331,"%.ĊĊ":34332,"\\\",\\\"":34333,"Ġdiscusses":34334,"Ġupt":34335,"Ġ[&":34336,"Ġmanus":34337,".hand":34338,"ĠMAIN":34339,"ĠDenmark":34340,"Ġ],čĊ":34341,"Ġcryst":34342,"Ġnack":34343,"Coords":34344,"_inner":34345,"Ġmidst":34346,"Ġawake":34347,"ĠÐŀ":34348,"-break":34349,"ÃŃvel":34350,"_PASS":34351,"ĠParams":34352,"Ġdetr":34353,"Ġspider":34354,"ĠConcept":34355,"Ġprend":34356,"CHED":34357,".Exit":34358,"Ġpopulated":34359,"Ġvirtue":34360,"_SESSION":34361,"Ġnouvel":34362,"oauth":34363,"ĠданнÑĭ":34364,"rink":34365,".HeaderText":34366,"aturated":34367,"Ġerst":34368,"Ġåħ":34369,"à¥ĩ":34370,"_visible":34371,"eyer":34372,"Ġliable":34373,"Ġdebe":34374,"Ġbw":34375,"{-#":34376,"_WIN":34377,"dfs":34378,"Hover":34379,"ĠPUT":34380,"-angle":34381,"Ġnoble":34382,"Ġtraces":34383,"encv":34384,"ĠuserData":34385,"_ins":34386,"ĠSuz":34387,"Ġnewsletters":34388,"ĠModi":34389,"Ġentrepreneurs":34390,"Ġtribute":34391,"Ġrumors":34392,"Ġrr":34393,"ĠQuarter":34394,"ê³ł":34395,"Ġfeeds":34396,"óg":34397,"Ġenvelope":34398,"Ġlear":34399,"Ġkø":34400,"developer":34401,"Similar":34402,":\")Ċ":34403,"subscription":34404,"Modifier":34405,"italic":34406,"Ġnasty":34407,"Ġtermination":34408,"Ġcharming":34409,"ĠâŁ":34410,"tons":34411,".trace":34412,"hots":34413,"ĠUR":34414,"Mont":34415,"Ġjustified":34416,"ĠGang":34417,"inea":34418,"Ġbog":34419,"(ap":34420,"_$":34421,"Ġcontamin":34422,".Dot":34423,"ĉDebug":34424,"(exports":34425,"Ġpaired":34426,"ĠAssignment":34427,"Ġautomobile":34428,"ĵį":34429,"Ġphases":34430,"vw":34431,"@SuppressWarnings":34432,"=\\":34433,"rant":34434,"-ed":34435,"ĉawait":34436,"Ġcertificates":34437,"'>\"":34438,"Ġintact":34439,"CTRL":34440,"Mike":34441,"gregation":34442,"ATTERN":34443,"Ġrepublic":34444,"_upper":34445,"iliary":34446,"Ġcomputation":34447,"hire":34448,"ĠShin":34449,"_ANY":34450,"ĠManufacturer":34451,"ĠCarm":34452,"Ġbearings":34453,"_comb":34454,"cad":34455,"uristic":34456,"Ġwholesale":34457,"Ġdonor":34458,".interfaces":34459,"presso":34460,"ĠBrun":34461,"-close":34462,"prove":34463,"_SK":34464,"ĉframe":34465,"etros":34466,"ĠPain":34467,"_EXP":34468,"ĠLT":34469,"_fs":34470,".datas":34471,"ĉss":34472,"voir":34473,"ĠAxis":34474,"Major":34475,"=\"<":34476,"[h":34477,"Ġprofess":34478,"igrate":34479,"(score":34480,"Keyword":34481,"\"os":34482,"ĠĠĠĠĉĊ":34483,"analysis":34484,"Ġreplay":34485,".pass":34486,"\\d":34487,"tls":34488,"Ġsanct":34489,".light":34490,"_mobile":34491,"ÑģÑĤÑĮ":34492,"ĉtotal":34493,"uity":34494,"Ġpaused":34495,"NAS":34496,"Ġencore":34497,"loe":34498,"Ġ-*-ĊĊ":34499,".high":34500,"ampler":34501,"ĠSecure":34502,"Ġfragments":34503,"_vel":34504,"illary":34505,"ĠStein":34506,"ĠDawn":34507,"Ġmaximize":34508,"ย":34509,"Ġ/^":34510,"Ġcontinually":34511,"Ġshadows":34512,"ĉĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":34513,"ĠIActionResult":34514,"Ġinformación":34515,"CHECK":34516,".SelectedItem":34517,"bundle":34518,"olley":34519,"<":34681,"Ġtrajectory":34682,"_ring":34683,"Ġhydrogen":34684,"tron":34685,"Ġstatute":34686,"Ġconditional":34687,"Ġtray":34688,"-school":34689,"(widget":34690,"$config":34691,"Ġrequesting":34692,".uint":34693,"eton":34694,"brities":34695,"OfType":34696,"ADMIN":34697,"predict":34698,"Ġgegen":34699,"ĠHapp":34700,"OCUMENT":34701,"ĠApart":34702,"Ġ-----":34703,"roe":34704,"uide":34705,"justify":34706,"ĠSquad":34707,"Ġprofes":34708,".bot":34709,"_currency":34710,"innen":34711,"ĠMumbai":34712,"ĠNumbers":34713,"avanaugh":34714,"agnitude":34715,"âĢľThere":34716,"=http":34717,"çīĩ":34718,"Ġvb":34719,"+'{{$":34802,"Ġinode":34803,"sil":34804,"Ġhace":34805,"Ġseverely":34806,"ĠOverview":34807,"Ġspraw":34808,"Ġbeaches":34809,":left":34810,"·»":34811,"(${":34812,"ĠFIRST":34813,"ĠSpa":34814,"-ass":34815,"Ġbaise":34816,"ĠNODE":34817,"ĠPizza":34818,"Pet":34819,"(seq":34820,"\\\">Ċ":34821,"CppMethodPointer":34822,"Ġvp":34823,"Ġia":34824,"_seconds":34825,"emet":34826,"/blob":34827,"_THRESH":34828,"...čĊ":34829,"Dest":34830,"ĠNH":34831,".dataSource":34832,"ités":34833,"ĠJak":34834,"sell":34835,"Ġworkshops":34836,"\",Ċ":35452,"_Pin":35453,"uese":35454,"Ġoverrides":35455,"_ready":35456,"Advanced":35457,"Ġopi":35458,"-cart":35459,"(\"/\",":35460,"ĠDeb":35461,"CRY":35462,"ĠVertical":35463,"ĠOVER":35464,"ĠCorporate":35465,"Ġ\"\";":35466,"Ġstepping":35467,"ej":35468,"Ġaccusations":35469,"Ġoraz":35470,"_tail":35471,"Ġinduced":35472,"Ġelastic":35473,"Ġblown":35474,",//":35475,"Ġbackgrounds":35476,"âĢĻune":35477,"-sdk":35478,"ĠsetInterval":35479,"Ġincentives":35480,"Ġvegetable":35481,"_On":35482,"expanded":35483,"pix":35484,"_shader":35485,"ĠSPDX":35486,"@example":35487,"ĠWrapper":35488,".Zero":35489,"Positive":35490,"Ġspinner":35491,"Ġinvented":35492,"ĠGates":35493,"оÑĤоÑĢ":35494,"Ġcomparisons":35495,"è·":35496,".primary":35497,"dataProvider":35498,"additional":35499,"ĉoptions":35500,"snapshot":35501,".setHorizontal":35502,"Ġ\"{}":35503,"ĠFisher":35504,"halten":35505,"":35538,"ĠRegistered":35539,"INED":35540,"kal":35541,"parison":35542,"Ġobjeto":35543,"Vi":35544,"manda":35545,"Ġrenewed":35546,"ĠSof":35547,"essel":35548,".ndarray":35549,"Ġcrap":35550,"管":35551,".abspath":35552,"(up":35553,"Ġclearance":35554,"ĠTW":35555,"_COPY":35556,"ĠĠĠĠĠĠĠĠĠĠĠĠĉ":35557,"Ġforests":35558,"Ġarguably":35559,"ĠASS":35560,"hey":35561,"amel":35562,"_fore":35563,"ĠSoutheast":35564,"Ġabused":35565,"Ġpracticing":35566,"akedirs":35567,"主":35568,"_resources":35569,"Ġpond":35570,".Fixed":35571,"LastError":35572,"ĠPsychology":35573,"Ġ\"//":35574,"!:":35575,"Reusable":35576,"Ġmensaje":35577,"Ġrospy":35578,"Ġbour":35579,"Ġvarieties":35580,"Ġempath":35581,"(({":35582,"_org":35583,"ĠMes":35584,"ĠMagento":35585,"ISTORY":35586,"Unless":35587,"Ġhj":35588,"ĠDuty":35589,"Jun":35590,",size":35591,"Ġpaintings":35592,"Ġdispens":35593,"dart":35594,"Ġbehavioral":35595,"Ġrpc":35596,"calculate":35597,"fruit":35598,"_mm":35599,"ĉpthread":35600,"MaxLength":35601,"Ġcurrencies":35602,"_capacity":35603,"ĠOz":35604,"Ġfirearm":35605,"Ġcoefficient":35606,"Ġbankruptcy":35607,"wart":35608,"Ġfatigue":35609,"AVA":35610,"Ġespa":35611,"_pc":35612,"ĠQuotes":35613,"_LIGHT":35614,"ĠTickets":35615,"Ġrelates":35616,"Ġpublishers":35617,"Ġunlocked":35618,"Ġ//----------------------------------------------------------------":35619,"ĠInterruptedException":35620,"Ġoutlook":35621,"rn":35622,"Ġrebels":35623,"Written":35624,"Ġasian":35625,"otto":35626,"Ġĉĉĉĉ":35627,"_gpu":35628,"Txt":35629,".ImageView":35630,"Ġsuis":35631,"_tables":35632,".RecyclerView":35633,"Ġwhatsoever":35634,"èģ":35635,"]++;Ċ":35636,"assertTrue":35637,"_verify":35638,"ĠRivers":35639,"Ġ][":35640,"Jet":35641,"idian":35642,"Sibling":35643,"Ġgenres":35644,".Access":35645,"OPS":35646,"Ġtrivial":35647,"ส":35648,"alen":35649,"вед":35650,"ĠSword":35651,"Ġscrutiny":35652,"(cb":35653,"Ġcommerce":35654,"Ġguarantees":35655,"_adv":35656,"ĠLET":35657,"recio":35658,"Ġhilar":35659,"Ġbackyard":35660,"ãĢı":35661,"Ġillustrated":35662,"/vendor":35663,".Util":35664,"Ġwow":35665,"LOY":35666,"ĠMarshal":35667,"\">'.$":35668,"ĠBak":35669,"Ġmodifiers":35670,"dictionary":35671,"ĠStre":35672,"multiple":35673,"\")),":35674,"ĠCort":35675,"']\").":35676,"(admin":35677,"ĠCreator":35678,"Internet":35679,"(ms":35680,"logy":35681,"DECLARE":35682,"ĠMarcus":35683,"<<<<":35684,"ãģł":35685,"_my":35686,"(inst":35687,"Ġsciences":35688,"NDER":35689,".enter":35690,"Ġitu":35691,"Ġbehave":35692,"Pan":35693,"ombies":35694,"='<":35695,"'));čĊ":35696,"ĠMENU":35697,"ĠWorkers":35698,".NoError":35699,"Ġbindings":35700,"Ġdisabilities":35701,"{\\":35702,"ĠMunicip":35703,"Ġcores":35704,"urple":35705,"ĠNokia":35706,"usions":35707,"ĠFitness":35708,".handleChange":35709,"Ġjavascript":35710,"ìļĶ":35711,"(dec":35712,"Ġpacking":35713,"-depend":35714,"Ġtranscript":35715,"zeros":35716,"_alert":35717,"?\",Ċ":35718,"libs":35719,"±Ð¾ÑĤ":35720,"Ġ|ĊĊ":35721,"trained":35722,"ĠGent":35723,"ĠRab":35724,"xp":35725,"_configuration":35726,"天":35727,"_accept":35728,".recyclerview":35729,":url":35730,"ĠMuhammad":35731,"Ġprivileges":35732,"_bank":35733,"uku":35734,"wallet":35735,"ĠROOT":35736,"Ġencuent":35737,"?family":35738,"ĉposition":35739,"Ġcg":35740,"Ġprecip":35741,"methods":35742,"_fast":35743,"increment":35744,"ĠTiger":35745,"_OCCURRED":35746,"quip":35747,"ĠHAS":35748,"_dom":35749,"Ġwreck":35750,"bj":35751,"Ġdern":35752,"Ġorgans":35753,".entries":35754,"Ġ_('":35755,"ramento":35756,"ĠJamie":35757,"Ġpunk":35758,"IPP":35759,"Ġprograma":35760,"Ġattain":35761,"Ġproves":35762,"/sign":35763,"Ġanswering":35764,"Ġladder":35765,"****************************":35766,"ĠWalmart":35767,"ĠCONTENT":35768,"ductor":35769,"Ġverbal":35770,"ĠPID":35771,"crypto":35772,"_CALLBACK":35773,"Ġ=================================":35774,"Ġpotent":35775,"Ġshorts":35776,".Uri":35777,".uniform":35778,";border":35779,"ĠWer":35780,"Ġherein":35781,"lla":35782,"ĠIhr":35783,"Pixmap":35784,"literal":35785,"!)ĊĊ":35786,"generic":35787,"rust":35788,"_scripts":35789,"osto":35790,"itus":35791,"ĠCoalition":35792,"Ġremot":35793,"deploy":35794,"ĠEagle":35795,"ãĢģãĢĮ":35796,"Ġimportante":35797,"ĉobject":35798,"Ġseasonal":35799,"nej":35800,"aidu":35801,"BindView":35802,"ĠSierra":35803,"-bg":35804,"ĠmakeStyles":35805,"[offset":35806,"Games":35807,"Ġhormone":35808,"ARIO":35809,"heads":35810,"(select":35811,"ĠStarted":35812,"@param":35813,"_decl":35814,"_blog":35815,"Ġaño":35816,"\\Api":35817,"ĠMilwaukee":35818,"Provid":35819,"Animated":35820,"Ġcooler":35821,"ĠSeed":35822,".Edit":35823,"ÏĦ":35824,"ĠTaking":35825,"ĠborderColor":35826,"-founder":35827,".LoggerFactory":35828,"Ġ\"\"ĊĊ":35829,"ALT":35830,"ĠLate":35831,"EDIATE":35832,"Ġ);ĊĊĊ":35833,"afa":35834,"Ġcancellation":35835,"Atom":35836,"ĠBirmingham":35837,"empresa":35838,"HEMA":35839,"ascal":35840,"Ġupside":35841,".Version":35842,"ĠFolder":35843,"ĠEight":35844,"ĠVintage":35845,"ĠAppDelegate":35846,"ĠPrevention":35847,".separator":35848,"STM":35849,"(room":35850,"generator":35851,"Ġcattle":35852,"ĉZ":35853,"ĠParticle":35854,"'};Ċ":35855,"Ġneighbours":35856,"ĠStateless":35857,"Ġaltitude":35858,"Ġsaint":35859,"обав":35860,"Ġconvinc":35861,"ĠContents":35862,"Ġjeune":35863,"(ts":35864,"Serialization":35865,"(collection":35866,"ĠJazz":35867,"ĠDod":35868,"ĠRoch":35869,"acio":35870,"commended":35871,"DEFINE":35872,".onload":35873,"Ġspecialty":35874,"PLACE":35875,"_MOVE":35876,"Ġaccountable":35877,"Reuters":35878,"Ġficken":35879,"Ġdepr":35880,"Wow":35881,"Void":35882,".space":35883,"à¸Ĺ":35884,"Ġtq":35885,"ĠPets":35886,"<$":35887,"(Current":35888,"berries":35889,"planation":35890,"ĠlistOf":35891,"ĠThu":35892,"ĠPRINT":35893,"Ġmismo":35894,"Ġdoi":35895,"chk":35896,"ĠUnicode":35897,"(role":35898,"Ġvirgin":35899,"-->Ċ":36360,"Vol":36361,"ĠSSD":36362,"))),":36363,".Optional":36364,"Ġnurses":36365,"Ġorb":36366,"_pe":36367,");čĊčĊčĊ":36368,"placed":36369,"esser":36370,"Ġtherapeutic":36371,"Ġwhitespace":36372,"Ġaston":36373,"Successful":36374,"Ġpraised":36375,"ĠWes":36376,"Ġeighth":36377,"iral":36378,"Ġvrouw":36379,"Ġfaction":36380,"_bias":36381,"Ġwitch":36382,"Ġnpc":36383,"(sb":36384,"ĠRodrig":36385,"_big":36386,"Dependency":36387,"ĠAbraham":36388,"ardi":36389,"CAR":36390,"nos":36391,"Ġabundance":36392,"Ġnutrients":36393,"instein":36394,".Vert":36395,"ĠISS":36396,"D":36495,"Ġservlet":36496,"bastian":36497,"Ġ>&":36498,"SID":36499,"_clk":36500,"Ġdivisions":36501,"}',Ċ":36502,"Ġdildo":36503,"Ġparade":36504,"major":36505,"Ġaboard":36506,";++":36507,"Ġfusion":36508,"\"},{\"":36509,"ĠDialogResult":36510,"ĉarr":36511,"-em":36512,"_nr":36513,"(handler":36514,".NET":36515,".XtraReports":36516,"ĠShah":36517,"ĠBrief":36518,"-,":36519,"Ġprecio":36520,"ĉĉĉĠĠĠĠĠĠ":36521,"Ġtant":36522,"ĠGrande":36523,"/xml":36524,"_ICON":36525,"ĠRetro":36526,"unque":36527,"Ġnag":36528,"toFixed":36529,"XL":36530,"Ġdeclaring":36531,"ĠConcrete":36532,"ĠAmazing":36533,"ĉprintk":36534,"Ġdebates":36535,"DATED":36536,"Ġaesthetic":36537,"emetery":36538,"RoutingModule":36539,"ĠNashville":36540,"WAYS":36541,"Ġwolf":36542,"Ġobservers":36543,"OTA":36544,"anson":36545,"Ġea":36546,"Ġgreenhouse":36547,"ĵįä½ľ":36548,"Ġstair":36549,"Ġimmigrant":36550,"_apply":36551,"peare":36552,"ĠBloomberg":36553,"_PLAYER":36554,"Resp":36555,"æŃ£":36556,"Chooser":36557,"ĠICollection":36558,"Peter":36559,"Erro":36560,".detectChanges":36561,"Maps":36562,"Ġsqueeze":36563,"ĠHomes":36564,"wegian":36565,"Ġformatting":36566,"Ġnegotiate":36567,"uld":36568,"ĠNep":36569,"ĠQB":36570,"Ġeconomies":36571,"Ġ*/,":36572,"Ġredund":36573,"ĠAber":36574,".IsNullOrWhiteSpace":36575,"ycled":36576,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":36577,"_Sh":36578,"Ġskept":36579,"Ġrecreated":36580,"ĠgetType":36581,"Ġmargins":36582,"Ġcolonial":36583,"charts":36584,"//@":36585,"Ġprocessors":36586,"说":36587,"batis":36588,"æĦı":36589,"atorio":36590,"mentioned":36591,"Patient":36592,"Ġprey":36593,"Checkbox":36594,"_xpath":36595,".skip":36596,"ĠMormon":36597,"ĠMemoryStream":36598,"CREMENT":36599,"Ġku":36600,"meld":36601,"\\Data":36602,"ĠKernel":36603,"iltr":36604,"éĢģ":36605,"(profile":36606,"Carbon":36607,"ROLE":36608,"(pl":36609,"]*(":36610,".memory":36611,"Ġmedal":36612,"Ġadvisor":36613,"ität":36614,"Ġhdr":36615,"ierung":36616,"ĠProvides":36617,"(alpha":36618,"Ġteenagers":36619,"-parser":36620,".LatLng":36621,"]()Ċ":36622,"Ġfelony":36623,"ĉĉĉĊĉĉĉĊ":36624,"BOOK":36625,"Ġslash":36626,"Ġclearfix":36627,"ĠProphet":36628,"容":36629,"rightness":36630,"-fi":36631,".kind":36632,"erton":36633,"Jim":36634,"Ġmanipulate":36635,"Ġworksheet":36636,"olin":36637,"stars":36638,"Ġartifact":36639,"_EMPTY":36640,"ĉmain":36641,"-------------';":36709,"Ġexpressing":36710,"ĠIQ":36711,"ĠFact":36712,"/*******************************************************************************Ċ":36713,"_mass":36714,")):":36715,"Ġcondom":36716,"ĠcreateState":36717,"ometown":36718,"Ġirr":36719,"Ġ>(":36720,">B":36721,"iteration":36722,"ãĥª":36723,"Ġshirts":36724,"ounty":36725,"->$":36726,"_SIGN":36727,"ĠDale":36728,"Ġjj":36729,"Easy":36730,"Fre":36731,"ĠNy":36732,"Ġchlor":36733,"matched":36734,"ĠGerm":36735,"-UA":36736,"ĠNathan":36737,"education":36738,"-yard":36739,"-che":36740,"houses":36741,"ritional":36742,"Ġproximity":36743,"Ġdiesem":36744,"áºŃp":36745,"Ġdrought":36746,".audio":36747,"ĠLeo":36748,"Ġfavorable":36749,"inch":36750,"ĠDaw":36751,"ribly":36752,"_student":36753,"idable":36754,"OVE":36755,"Ġlacks":36756,"ouncing":36757,".business":36758,"Ġreopen":36759,"maybe":36760,"_GLOBAL":36761,"Ġdresses":36762,"ĠEdwards":36763,"ensible":36764,"ĠHardware":36765,"ĠExcellent":36766,"ĠTimeUnit":36767,"CTIONS":36768,"Ġschedules":36769,"Ġsegue":36770,"Opens":36771,"ammen":36772,"-Identifier":36773,"Ġstaring":36774,"Ġhappily":36775,"ĠHob":36776,"'_":36777,"Ġ\");":36778,"amentos":36779,"etched":36780,"Ġ/>}Ċ":36781,".Users":36782,"Ġinterrupted":36783,"Contacts":36784,"Ġregistro":36785,"inburgh":36786,"CHA":36787,"_imp":36788,"phis":36789,"say":36790,"Ġretailer":36791,".NODE":36792,"/maps":36793,"_LAST":36794,"ĠCharge":36795,"_guard":36796,"Collider":36797,"ĠStatelessWidget":36798,"\":[\"":36799,"(\"../../":36800,"ioxide":36801,"ĠSund":36802,"Ġ'';":36803,"unset":36804,"addWidget":36805,"лÑİ":36806,"elles":36807,"alker":36808,"Arc":36809,"Ġdeduct":36810,"GUILayout":36811,"ĠVilla":36812,"Ġforbidden":36813,"_where":36814,"Ġ\\/":36815,"ĠTib":36816,"_AX":36817,"]čĊčĊ":36818,"ĠBir":36819,"Ġbend":36820,"ĠMAKE":36821,"ĠMET":36822,"Ġfutures":36823,"Ġweighted":36824,"\"\"\"čĊ":36825,"Ġauthorize":36826,"(program":36827,"},{\"":36828,"Ġcoefficients":36829,"ês":36830,"PerPage":36831,"ĠBathroom":36832,"ĠPublishing":36833,"GPL":36834,"Ġsubmissions":36835,"ĠNUMBER":36836,"jÄħ":36837,"Ġadditionally":36838,"empre":36839,"ĠShel":36840,"otyp":36841,"Solution":36842,"Ġthunder":36843,"_ec":36844,"ĠĊĠĠĠĠĊ":36845,"ĠFellow":36846,"Ġkay":36847,"ĠnewState":36848,"ONTAL":36849,"Implementation":36850,".Look":36851,"Ġents":36852,"Ġlors":36853,"ĠBIG":36854,"fab":36855,"Ġaveraged":36856,"ĠFeedback":36857,"ĠWells":36858,"Ġmartial":36859,"Ġindul":36860,"ĠCommunist":36861,"ĠForex":36862,"ĠAgriculture":36863,"\"[":36864,"Ġquar":36865,"ĠKont":36866,"ĉview":36867,".Bytes":36868,"desktop":36869,"ĠMakes":36870,"akespeare":36871,".Nullable":36872,"Ġspotlight":36873,"VB":36874,"owy":36875,"(torch":36876,"tridge":36877,"_bounds":36878,"Ġapologize":36879,".addItem":36880,"antd":36881,"*);Ċ":36882,",u":36883,"(gen":36884,"ç»ĵ":36885,"reator":36886,"ĠCord":36887,"oupper":36888,".metro":36889,"Ġew":36890,"ĠWORD":36891,".After":36892,"Ġdetained":36893,"ĠHammer":36894,"existing":36895,"Ġost":36896,"Ġmonument":36897,"-custom":36898,"UserID":36899,"ĠNom":36900,"Ġrejection":36901,"(dim":36902,"Ġsingleton":36903,"ĉdie":36904,"ariance":36905,"reports":36906,"]!=":36907,"elda":36908,"Ġprevalence":36909,"_regs":36910,".\".":36911,"Ġfeminist":36912,"Codec":36913,"Ġ**Ċ":36914,"(labels":36915,"_MARK":36916,"FAILED":36917,"Ġadministered":36918,"WN":36919,"ĠĠĠĠĠĠĠĠĉĉ":36920,"Ġnoun":36921,"wig":36922,"Ġgotta":36923,"Ġrif":36924,"-im":36925,"ĠPaulo":36926,"ĠCommandType":36927,"]))ĊĊ":36928,"-zero":36929,"Training":36930,"Ġlord":36931,"_art":36932,"reddit":36933,"Cert":36934,"Ġpeso":36935,"Rot":36936,"Ġendanger":36937,".dr":36938,"userInfo":36939,"unts":36940,"nv":36941,"ĠTrailer":36942,"-first":36943,"(make":36944,"Ġbenefici":36945,"-black":36946,"iÃŁ":36947,"Ġundoubtedly":36948,"Ġmex":36949,"ĠAncient":36950,"(as":36951,"Ġdescent":36952,"Pick":36953,"Ġreplica":36954,"$obj":36955,"ähr":36956,"Ġarrows":36957,"fty":36958,"ĠLibya":36959,"uga":36960,"charged":36961,"Tur":36962,"Ġhomic":36963,"issen":36964,"ĠFake":36965,"Ġbeers":36966,"Ġscattered":36967,"(Time":36968,"UTIL":36969,"Ġbureaucr":36970,"/plain":36971,"Ġsticking":36972,"FAIL":36973,"ĠCovid":36974,"Third":36975,"_present":36976,"ĠPierre":36977,"Ġëª":36978,"Ġ[...]ĊĊ":36979,"Prob":36980,"ĠTraffic":36981,"icao":36982,"doctor":36983,"Ġ),ĊĊ":36984,"Tabs":36985,"alu":36986,"ï¼ļâĢľ":36987,"Ġinherent":36988,"_No":36989,"ritis":36990,"ĠProof":36991,".basename":36992,"ä¼ļ":36993,"Ġchim":36994,"ĠProtected":36995,"crit":36996,"Ġprone":36997,"Ġкон":36998,"ĠHeroes":36999,"Ġanxious":37000,"Ġanos":37001,"Ġweekends":37002,"Ġsext":37003,"Ġreducer":37004,"=UTF":37005,"half":37006,"ĠSaw":37007,".mm":37008,"Ġnueva":37009,".currentTarget":37010,".lua":37011,"_EXTENSION":37012,"ĉreg":37013,"ĠCtrl":37014,"_align":37015,"acceptable":37016,"Ġrushing":37017,"frac":37018,"Ġboasts":37019,"Five":37020,"±":37021,"ĠTemperature":37022,">):":37023,"Ġcharter":37024,"REATED":37025,"Ġsubjected":37026,"Ġopc":37027,"healthy":37028,"使ç͍":37029,"ĠScientific":37030,"Ġfrau":37031,"riages":37032,"à¸Ķ":37033,".inventory":37034,"ationale":37035,"Mad":37036,"minutes":37037,">>();Ċ":37038,"ĠEnv":37039,"Ġrecordings":37040,"Ġsuspicion":37041,"sqlite":37042,"ĉread":37043,"ãģ¦":37044,"Ġworries":37045,".putString":37046,"ĠShanghai":37047,"(uid":37048,"rer":37049,"ĠvÃŃde":37050,"\"):":37051,"Ġmethodology":37052,"ĠкоÑĤоÑĢ":37053,"ccc":37054,"avad":37055,"Ġinduction":37056,"ĉThread":37057,",string":37058,"ại":37059,"nehmen":37060,"uition":37061,"Ġ*__":37062,".emf":37063,"Ġìľ":37064,"/themes":37065,"ĠNine":37066,".One":37067,"ĠEmbed":37068,"Ġfaz":37069,"uations":37070,"Ġprivately":37071,"Ġling":37072,"[F":37073,"ushi":37074,"Ġlaunches":37075,"(KEY":37076,"GMT":37077,"Ġaiming":37078,"patible":37079,"ĠBiden":37080,"iw":37081,"ĠDegree":37082,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":37083,"Ġ$('<":37084,"ários":37085,"toUpperCase":37086,"ìłľ":37087,"ĠEUR":37088,"Ġoversight":37089,"Ġtablesp":37090,"Updates":37091,".makedirs":37092,"Ġhumidity":37093,"/template":37094,"Always":37095,"(IS":37096,"_cert":37097,"Dig":37098,"Ġunderway":37099,"orton":37100,"ĠHurricane":37101,"Ġspends":37102,"ĠSegment":37103,"Ġflies":37104,"ĠToggle":37105,"ĠLynch":37106,"Ġsenses":37107,"ĠKos":37108,"setEnabled":37109,"istically":37110,"Ġtester":37111,"Ġadministrators":37112,"Ġtagged":37113,"Ðĵ":37114,"Ġshortcut":37115,"ĠResolution":37116,"Ġsupervision":37117,"ĠAshley":37118,"Tracking":37119,"ulatory":37120,"andel":37121,"isten":37122,"Ġunre":37123,"(diff":37124,"ANTS":37125,"Ġrider":37126,"ĠsÄħ":37127,".Series":37128,"_orders":37129,"ORIZONTAL":37130,"Ġretention":37131,"ãĢĤčĊčĊ":37235,"Ġdiagonal":37236,"ĠCancellationToken":37237,"_Internal":37238,"Ġruin":37239,".Qt":37240,"ocratic":37241,"Tel":37242,"ĠAnswers":37243,"matic":37244,"Ġxp":37245,"atem":37246,"_jobs":37247,"_any":37248,"Ġseniors":37249,"Ġlandmark":37250,"ĠQList":37251,"Ġmaneu":37252,"otify":37253,"/\";Ċ":37254,"/server":37255,"ĠPhilosoph":37256,"utenant":37257,"(io":37258,"hz":37259,"Ġauthenticated":37260,"dv":37261,"-Compatible":37262,"Originally":37263,",function":37264,"ãĢĤčĊ":37265,"ĠRepresentative":37266,"asily":37267,"ircuit":37268,".dt":37269,"(math":37270,".Marshal":37271,"[,":37272,"ĠCities":37273,"_turn":37274,"|)Ċ":37275,"Ġcantidad":37276,"alter":37277,"ĉui":37278,"ĠNebraska":37279,"Ġskirt":37280,".bg":37281,"SharedPreferences":37282,"(style":37283,"Ġgrief":37284,"gew":37285,"Ġsafeg":37286,"olang":37287,"_lists":37288,"ìĽ":37289,"Ġgranite":37290,"Ġhottest":37291,".jdbc":37292,".Customer":37293,"Ġâī¤":37294,"Ġwaar":37295,"_scene":37296,"+'/":37297,"ĠJTextField":37298,"Ġseating":37299,"Ġwears":37300,"Ġ`/":37301,"Cases":37302,"ĠYoutube":37303,"ım":37304,"Ġbalcon":37305,",G":37306,"MetaData":37307,"-price":37308,"SCR":37309,"Unity":37310,"Ġtrunk":37311,"={`${":37312,"Ġearthquake":37313,"Partial":37314,"Ġsubst":37315,"Ġelimin":37316,"=\"'.":37317,"//*[@":37318,"Ġsupervisor":37319,"vrolet":37320,"_article":37321,"Ġpane":37322,"bio":37323,"Ġmotors":37324,"NM":37325,"Frank":37326,"Ġonion":37327,"-word":37328,"ItemClickListener":37329,"Ġbrit":37330,"endencies":37331,"Computer":37332,"_running":37333,"(day":37334,"-he":37335,"(named":37336,"ĠSach":37337,"оÑĩ":37338,"campaign":37339,".Abstract":37340,"(wrapper":37341,".pay":37342,"Ġuw":37343,"Geo":37344,"rails":37345,"/select":37346,"ichte":37347,"sons":37348,"EVENT":37349,"Ġaliment":37350,"Providers":37351,"Await":37352,"_INTERVAL":37353,".off":37354,"Ġgluten":37355,"_cloud":37356,"Ġwen":37357,".extract":37358,"ĉbutton":37359,"/MM":37360,"Party":37361,"Ġdemographic":37362,"_errno":37363,"Ġhiking":37364,"('')Ċ":37365,"\",@\"":37366,"Ġwit":37367,"rá":37368,"ologie":37369,"ĠStyles":37370,"ĠBrowserModule":37371,".RequestMapping":37372,"icans":37373,"PAGE":37374,"creation":37375,"ĠFerguson":37376,"uded":37377,"numbers":37378,"ĠGTK":37379,"Ġpresentations":37380,"ĠBobby":37381,"_span":37382,"estyle":37383,"Ġillegally":37384,"abela":37385,"Ġbattlefield":37386,"capacity":37387,"terror":37388,"]\");Ċ":37389,"Ġwarrior":37390,"leader":37391,"ĠDBG":37392,"ĠRevenue":37393,"Ġvigil":37394,"Ġcounterparts":37395,"(Error":37396,"ACTER":37397,"Ġheeft":37398,"Ġselections":37399,"zeug":37400,"tom":37401,"-two":37402,".;Ċ":37403,"_statement":37404,"ĠAid":37405,"ĠVul":37406,"_rgb":37407,"Ġprizes":37408,"Ġeditable":37409,"ĉform":37410,"ını":37411,".decor":37412,"Demo":37413,"lices":37414,"Ġenctype":37415,"ratulations":37416,"ĠROS":37417,"_chars":37418,"ĠJahr":37419,"partial":37420,"ÑĥÑĤ":37421,"ĠReceive":37422,"ĠLands":37423,"APTER":37424,"Ġchopped":37425,"..\"":37426,"ĠAnaly":37427,"ĠUID":37428,"ĠRadeon":37429,"ĠBee":37430,"Ġunm":37431,">M":37432,".findall":37433,"Tokenizer":37434,"ĠWHAT":37435,"Ġsj":37436,"Drawing":37437,"Ess":37438,"OND":37439,"Ĭ¶":37440,"(packet":37441,"âĢĶbut":37442,"Invocation":37443,"ĠNuclear":37444,"?;Ċ":37445,"Ġgrandes":37446,"ĠCrypt":37447,"remark":37448,"Ġ'../../../../":37449,"Ġinability":37450,"magic":37451,"cats":37452,"Ġsimulate":37453,":${":37454,"inflate":37455,"Ġener":37456,":NO":37457,"iples":37458,"Ġmerit":37459,"ĠRated":37460,"Ġglue":37461,"/blog":37462,"Ġgren":37463,"Ġthrilled":37464,".CH":37465,"uncan":37466,"ĠPRIMARY":37467,"Ġpersec":37468,"Ġfeared":37469,".MIN":37470,"ĠTheater":37471,"éĴ":37472,"ategorie":37473,"段":37474,"Ġappetite":37475,"square":37476,"ĠAlexand":37477,".UserId":37478,"_gt":37479,"_enter":37480,"Ġgraduates":37481,"FragmentManager":37482,"Authorize":37483,"-NLS":37484,"(My":37485,"Ġtriumph":37486,"usting":37487,"_PARAMS":37488,"Characters":37489,"(:,:,":37490,"_BUILD":37491,"MHz":37492,"Ġwashed":37493,"Ġuncle":37494,"Steve":37495,"ardown":37496,"${":37680,"_confirmation":37681,"Ġtrophy":37682,"Works":37683,"ĠElectronics":37684,"ĠMediterranean":37685,"_metrics":37686,"Ġannouncing":37687,"ĠDAY":37688,"_proto":37689,"Ġpear":37690,"baseUrl":37691,"ĉĉĉĉĉĉĉĉĊ":37692,"Ġcoordination":37693,":N":37694,".animate":37695,"ĠCotton":37696,"_hit":37697,"âľ":37698,"Ġjetzt":37699,"ifter":37700,"(fields":37701,"ownload":37702,"ificacion":37703,".cuda":37704,"ĠLiu":37705,">equals":37706,"ĠAce":37707,"ÑĢам":37708,"ĠSuperman":37709,"ĠGarcia":37710,"Ġarrests":37711,"agar":37712,"Ġ{})":37713,"Ġmacros":37714,"roupe":37715,"être":37716,"Ġtwisted":37717,"struments":37718,"_(\"":37719,"_vertices":37720,"ĠTransition":37721,"ик":37722,"[max":37723,"mind":37724,"ĠaccessToken":37725,"Ġunle":37726,"mus":37727,"cop":37728,"ĠFactor":37729,"Ġconced":37730,"Ġretr":37731,".linalg":37732,"-slider":37733,"obl":37734,"_StaticFields":37735,"Ġzombie":37736,"selling":37737,"Ġchap":37738,"Ġshaking":37739,"ĠTranslate":37740,"ĠAmsterdam":37741,"ĠETH":37742,"_EXTERN":37743,"kd":37744,"_disc":37745,"Ġpreceding":37746,"Ġprix":37747,"ObjectName":37748,"_modified":37749,"ardware":37750,"Ġ?>\">":37751,"ĠDW":37752,"`${":37753,"Ġ?>\">ĊĊ":37859,"Ġspinning":37860,"_pending":37861,"Matchers":37862,".Keys":37863,"ĠPV":37864,"enus":37865,"antis":37866,"Ġdiscard":37867,"Ġhaul":37868,"Ġempir":37869,"Ġpathway":37870,"Ġoak":37871,"мен":37872,"-induced":37873,"Ġimpair":37874,"ĠCalgary":37875,".isHidden":37876,"dz":37877,"_include":37878,"Ġgm":37879,"Ġ'('":37880,"PY":37881,"uggestions":37882,"Ġcommodity":37883,"cro":37884,"/sub":37885,"ĠgetInstance":37886,"ĠLegacy":37887,"ĠKil":37888,"Bal":37889,"(short":37890,"Inform":37891,"+x":37892,"*r":37893,"ĠHopefully":37894,"orate":37895,"Ġmachen":37896,"Ġtreaty":37897,"ĠOri":37898,".public":37899,"-horizontal":37900,"Ġtactic":37901,"Ġbord":37902,"wares":37903,"Ġammo":37904,"ĠLists":37905,"Ġequations":37906,"/her":37907,"ĠNSW":37908,"Bounding":37909,"_Collections":37910,"Ġavail":37911,".DropDown":37912,"è°":37913,"Ġhh":37914,"ĠlÃł":37915,".pb":37916,"Ġmemorial":37917,"ĠATTR":37918,"Ġexhausted":37919,"Ġtsp":37920,"ĉredirect":37921,"Ġlikewise":37922,"STER":37923,"Ljava":37924,"Ġcondemned":37925,"ocaust":37926,"(strict":37927,"Ġexempt":37928,"Ġsms":37929,"Ġexagger":37930,"SYS":37931,"Ġlounge":37932,":^":37933,"Ġtodd":37934,"deb":37935,"atorial":37936,"ĠPorter":37937,"Ġtuition":37938,"Ġexempl":37939,"Ġparen":37940,".lineTo":37941,"Ġkidney":37942,"Ġça":37943,"Ġcui":37944,"ï¼Į请":37945,"XC":37946,"Ġmoż":37947,"Ġnominated":37948,"lung":37949,"ImGui":37950,"ĠBuzz":37951,"Ġstereo":37952,"portal":37953,"resas":37954,"Ġklass":37955,"Ġdrafted":37956,"Ġprojectile":37957,"/gpl":37958,"(parameters":37959,"*)Ċ":37960,"Ġassisted":37961,"ĠNSInteger":37962,"sitemap":37963,":nth":37964,".Views":37965,".ArgumentParser":37966,"Ġmeer":37967,"zier":37968,"ĠDig":37969,"Ċ":38036,"Ġplag":38037,"pine":38038,"Ġblanket":38039,"Ġ:-":38643,"Ġlcd":38644,"---------------":38645,"(\"\"":38646,"Ġtactical":38647,"ĠRonald":38648,"extr":38649,"ĠFest":38650,"Ġfuer":38651,"-navigation":38652,"Ġkb":38653,"ghost":38654,"ĠhandleChange":38655,"_cls":38656,"()!=":38657,"Comparator":38658,".vm":38659,"ĠCox":38660,"_review":38661,"/@":38662,"_cookie":38663,"Ġrecognised":38664,"ldap":38665,"Threads":38666,"ĠSexual":38667,"ĠBearing":38668,"(SQL":38669,"Ġxr":38670,"Ġthigh":38671,"URLConnection":38672,"ĠSUV":38673,"ĠmContext":38674,"Ġincidence":38675,"ĠEste":38676,".sup":38677,"_te":38678,"(EXIT":38679,"CMD":38680,"/\">":38681,"Almost":38682,"ĠUne":38683,"Ġanderen":38684,"ĠSingleton":38685,"Ġbore":38686,"Think":38687,"Ġnarc":38688,"]initWith":38689,"_shop":38690,"(strategy":38691,"!',":38692,"herits":38693,"ĠDesk":38694,"_machine":38695,".netty":38696,"ında":38697,"=<":38698,"ĠQR":38699,"ĠSidebar":38700,".splitContainer":38701,"ĠonSuccess":38702,"Ġmonkey":38703,"Enjoy":38704,"(nodes":38705,"pectrum":38706,"Ġ(*(":38707,"ĉUINT":38708,",height":38709,"ĠNetworks":38710,".tail":38711,".linspace":38712,"Ġ\"...":38713,"Listen":38714,"Æ¡":38715,".Channel":38716,"-defined":38717,"Repeat":38718,"adjust":38719,"ERM":38720,"_application":38721,".assertNotNull":38722,"-stream":38723,"Ġrabbit":38724,"Ġpositioning":38725,"Ġwoke":38726,"Ġfing":38727,"Ġmultiplayer":38728,"Ġregistering":38729,"until":38730,"Ã¥n":38731,"(::":38732,"ussions":38733,"Ġpotato":38734,"ĠEquals":38735,".Sup":38736,"/apache":38737,"Ġ(=":38738,".\")":38739,".ptr":38740,"ĠSpeech":38741,".clip":38742,"ĠGabriel":38743,"Ġmusician":38744,"/issues":38745,".shop":38746,"ĠHier":38747,"_RET":38748,"_bucket":38749,"ãĥ¡":38750,"avs":38751,"Ġroz":38752,"flower":38753,"WriteBarrier":38754,"ĠMilan":38755,"Ġlegislature":38756,"ĠDoll":38757,"Ġproving":38758,".concatenate":38759,"âķIJ":38760,"Ġgchar":38761,"cdnjs":38762,"bles":38763,"ĠListing":38764,"ло":38765,".xrLabel":38766,"ĠSak":38767,"justice":38768,"ĠValentine":38769,"unless":38770,"Ġpiger":38771,"(run":38772,"Ġtestified":38773,"ANA":38774,"ĠRemoves":38775,"))));Ċ":38776,"recated":38777,"ĠRuntimeMethod":38778,"Ġconqu":38779,"ãĤ¢":38780,"Ġtissues":38781,"ailer":38782,"été":38783,"-Star":38784,"Ġflames":38785,".setIcon":38786,"Ġsupern":38787,"Ġvagina":38788,"-variable":38789,"Ġwellness":38790,"CUR":38791,"Ġbelle":38792,".getRequest":38793,"Ġpoco":38794,"benh":38795,"agens":38796,"Ġspill":38797,"ĠJur":38798,"Ġdispatcher":38799,"ного":38800,"emonic":38801,"(dirname":38802,"ĠÐĶ":38803,"Ġpasse":38804,"Ġganz":38805,"ricing":38806,"EU":38807,"Ġmujeres":38808,"essen":38809,".attribute":38810,"jj":38811,"ĉĉĠĊ":38812,"[^":38813,"Ġstrtolower":38814,"lexer":38815,"ectar":38816,"hotel":38817,".square":38818,"Ġrall":38819,"Ġlowered":38820,"handled":38821,"Market":38822,"ĠUses":38823,"ivas":38824,".Business":38825,"ãģĹãģ¦":38826,"DIV":38827,"Ġwasted":38828,"Ġavoir":38829,"êm":38830,"_ACCOUNT":38831,".et":38832,"ĉSDL":38833,"kap":38834,"Ġfox":38835,"uppet":38836,"{},Ċ":38837,"\",'":38838,"Favorite":38839,"PEND":38840,"ĠAES":38841,"}),":38842,"Ġdeduction":38843,"ĠpolÃŃt":38844,"ĠcomponentWill":38845,"ĠTelerik":38846,"_SELF":38847,"Ġmuse":38848,"Craft":38849,"Ġdens":38850,"ि":38851,"(tp":38852,"Ġtasty":38853,"Ġbalances":38854,"Ġdedication":38855,"ĠWallace":38856,"Ġunlaw":38857,"\\\">\\":38858,"Ġmum":38859,"-update":38860,"emente":38861,"Ġsoda":38862,"Republic":38863,"asmine":38864,"éric":38865,"(Status":38866,"ĠJsonConvert":38867,"ĠDisk":38868,".Redirect":38869,"Ġfilming":38870,"/mol":38871,"Ro":38872,"Ġville":38873,"Ġtrabaj":38874,"Ġsynthesis":38875,"rega":38876,"Ġrl":38877,"Scheduler":38878,"ISHED":38879,"currentUser":38880,"(errors":38881,"'h":38882,"_bot":38883,"ximo":38884,"ĠUSART":38885,"_super":38886,"_DECREF":38887,"ной":38888,"_ROW":38889,"Ġpromotes":38890,"ĠTA":38891,"Ġhoras":38892,"ĠRepresents":38893,"Ġnameof":38894,"ĠExc":38895,"ĠGarage":38896,"Ġseine":38897,",#":38898,"Ġherb":38899,"/resources":38900,"Ġpleaded":38901,".radioButton":38902,"Ġæĺ":38903,"Ops":38904,"ĠNest":38905,"cstring":38906,"ĠDefence":38907,"Ġrefere":38908,"_leaf":38909,"Ġrevelation":38910,"ë§":38911,".executeUpdate":38912,"_WORLD":38913,"Ġexpans":38914,"(\"\\\"":38915,"jab":38916,"Ġdoubts":38917,"ĠGeometry":38918,"Ġintroduces":38919,"Ġsenators":38920,"Ġcanal":38921,".helper":38922,"ĠBiology":38923,"_SENS":38924,".previous":38925,"-touch":38926,"abit":38927,"Ġimpacted":38928,"Ġbrackets":38929,".direct":38930,"accum":38931,"Ġtestosterone":38932,"ĉaction":38933,"ĠChance":38934,"Ġpeaks":38935,"CppCodeGenWriteBarrier":38936,"Ġunbelie":38937,"_press":38938,".Rel":38939,"angled":38940,"/templates":38941,"-->čĊ":38942,"lime":38943,"Ġsufficiently":38944,"_nt":38945,"Expand":38946,".isfile":38947,"ĠisEmpty":38948,"Ġqt":38949,"Ġmulher":38950,"acob":38951,"George":38952,"常":38953,"Ġassim":38954,"aso":38955,"Ġcomprised":38956,"OV":38957,"(CONFIG":38958,"ĉwriter":38959,"Ġdesp":38960,"Ġtenure":38961,"(cr":38962,".pool":38963,"ĠBrend":38964,"Ġcensor":38965,"(timeout":38966,"Ġplea":38967,".Wrap":38968,"Ġtightly":38969,"ĠWere":38970,"ĠIgnore":38971,"abei":38972,"Ġbridges":38973,"Ġcondemn":38974,"Ġsimplicity":38975,"Ġroutinely":38976,"Ġblacks":38977,"jb":38978,"ĠPit":38979,"Utf":38980,"Ġ/Ċ":38981,"reload":38982,"ĠsetObject":38983,"/global":38984,"Ġfatty":38985,"Ġsocks":38986,"Couldn":38987,"Ġerotisk":38988,"æĿ¡":38989,"ĠPressure":38990,"ĠMaz":38991,"npos":38992,"tolower":38993,"ĠEQ":38994,"uteur":38995,"ĠMoment":38996,"Ġeta":38997,"{{--":38998,"Ġgraphs":38999,"ĠGuar":39000,"rine":39001,"(--":39002,"ĠHttpStatus":39003,"(student":39004,"*np":39005,"Ġrailway":39006,"Ġasynchronous":39007,"_vm":39008,"'],'":39009,",text":39010,"merchant":39011,"(Guid":39012,"ĠGra":39013,"ixer":39014,"fetchAll":39015,".addListener":39016,"flip":39017,"*$":39018,">(),":39019,"Ġsunlight":39020,"assigned":39021,"Ġabc":39022,"ĠCOLUMN":39023,"ĠðŁĻĤĊĊ":39024,")...":39025,"Ġensemble":39026,"Ġnewline":39027,"_SINGLE":39028,"iedad":39029,"Ġdarker":39030,"ormap":39031,"Ġlion":39032,"plits":39033,"Ġillustration":39034,"ĠIEEE":39035,"Ġvista":39036,"ousands":39037,"*******":39038,"ĠTommy":39039,"Ġhue":39040,"Sel":39041,"Ġaura":39042,"ĠTherapy":39043,"Ġanimator":39044,".constraints":39045,"Ġvague":39046,"(\"\")":39047,"Ġvillain":39048,"Ġblessing":39049,"ĠstringBuilder":39050,"ĠMisc":39051,"ĠDIR":39052,"fax":39053,"-node":39054,"ĠWalking":39055,"ĠAU":39056,"sess":39057,"Ġgrill":39058,"VERTISE":39059,"ĠFoods":39060,"Ġtournaments":39061,"Ãĵ":39062,"ĠMarsh":39063,"Ġwonders":39064,"Longitude":39065,".CommandText":39066,"=input":39067,"_encoder":39068,"pageSize":39069,"ĠgetState":39070,">>Ċ":39071,".grey":39072,"pod":39073,"Ġreadings":39074,"Ġreconsider":39075,"Startup":39076,"Ġexcer":39077,".balance":39078,"_cycle":39079,"_Time":39080,"LOCAL":39081,"ĠEFI":39082,"ĠReyn":39083,".setForeground":39084,"byn":39085,"Ġdisconnected":39086,"ACTIVE":39087,"Ġembedding":39088,"ickers":39089,"Ġsurroundings":39090,"*c":39091,"Ġgarant":39092,"Ġbf":39093,"Ġwipe":39094,"Ġä¸ĭ":39095,"_TRA":39096,"adox":39097,"çķ":39098,"Ġsucks":39099,"ĠSongs":39100,"ĠAssociates":39101,"ĠBald":39102,"ĠBrett":39103,"venile":39104,"Ġvt":39105,"Ġinade":39106,"Ġresigned":39107,"ĠGlenn":39108,".pattern":39109,".DataBind":39110,"Ñĥм":39111,"LayoutInflater":39112,"chet":39113,"ĠTestament":39114,".ms":39115,"Ġpav":39116,"ĠReactDOM":39117,"urdy":39118,"ADATA":39119,"Mu":39120,"/actions":39121,"ĠJs":39122,"_extract":39123,"ĠBring":39124,":id":39125,"strt":39126,"ivation":39127,"Ġoutright":39128,"azu":39129,"loyment":39130,"иÑı":39131,"aldo":39132,"ĠPublisher":39133,"Education":39134,"Palette":39135,"_drv":39136,"Ġ($(":39137,"ĠAnda":39138,"Ġremedy":39139,"Ġinconsistent":39140,"tection":39141,"Ġregulators":39142,"Ġshortest":39143,"(pair":39144,"ĠInstallation":39145,"Ġdefendants":39146,"Ġ();":39147,"-large":39148,"Mel":39149,"Ġthreaten":39150,"нÑı":39151,"Ġfetish":39152,"otine":39153,"_dic":39154,"Ġ<$":39155,"Ġstagger":39156,"spi":39157,"$response":39158,"Serv":39159,"-born":39160,"jos":39161,"ĉimg":39162,"ĉWHERE":39163,"_lt":39164,"å½ĵ":39165,".cost":39166,"ĠTue":39167,".labels":39168,"ĠLV":39169,"wcsstore":39170,"ĠJesse":39171,"ห":39172,"Trade":39173,"Ġpredecessor":39174,"ëĤ":39175,"finally":39176,"_general":39177,"oggler":39178,"_REGION":39179,"nement":39180,"Ġblogger":39181,"ĠHarbor":39182,"ĠDataset":39183,"[w":39184,"Ġattendees":39185,".ico":39186,"maximum":39187,".Unlock":39188,"_SYNC":39189,"ágina":39190,"Ġdowns":39191,"ĠWii":39192,"])/":39193,"Ġkicking":39194,"unication":39195,"ĠDAC":39196,"ĠIDS":39197,"ĠRental":39198,"ĠcurrentTime":39199,"Ġvaccines":39200,"ĠDevil":39201,"Ġnors":39202,"_mouse":39203,"urrection":39204,"(no":39205,"Ġ>čĊ":39206,"Ġaggression":39207,"Ġbreeding":39208,".symbol":39209,"iman":39210,"AbsolutePath":39211,"ĠWHO":39212,"_flush":39213,"-root":39214,"arna":39215,"&M":39216,"Ġfathers":39217,"ĠRocket":39218,"iveau":39219,"Ġwander":39220,"Ġcompos":39221,"ĠWarrior":39222,"ĠSeat":39223,"ĠClinic":39224,"_invoice":39225,"(dispatch":39226,"Producto":39227,"aturing":39228,"ossier":39229,"ĠMAY":39230,"Ġdagger":39231,"Ġsanitized":39232,"ĠRFC":39233,"Ġproph":39234,"Ġurine":39235,"Ġgrind":39236,"ĠExpanded":39237,"descripcion":39238,"-fw":39239,"ĠKerry":39240,"=name":39241,"Ġchk":39242,"Ġnationally":39243,"Ġthee":39244,"Inc":39245,"Ġ?>>":39246,".RadioButton":39247,".HttpServletResponse":39248,"/Y":39249,"ĉfield":39250,"Ġhomme":39251,"yper":39252,"Physical":39253,"=v":39254,"Ġdriv":39255,"ĠErrors":39256,"ĠcÄĥ":39257,"Death":39258,"ĠWINDOW":39259,"Ġpoet":39260,"ĠSharp":39261,"ĠImmutable":39262,"ĉcreate":39263,"Ġgeht":39264,"ĠReform":39265,"aiser":39266,"ĠInitialization":39267,"Ġimmunity":39268,".compose":39269,"Ġlatency":39270,"ĠLebanon":39271,"ĠParad":39272,"Ġfuels":39273,"ĠExhib":39274,"coh":39275,"%\">Ċ":39276,"ĠCLI":39277,")initWith":39278,"-Za":39279,"_CLEAR":39280,"regn":39281,"Ġfinances":39282,".standard":39283,"_CATEGORY":39284,".library":39285,"Ġtravelers":39286,"_wp":39287,"ĠEvaluation":39288,"starting":39289,"Ġ)),Ċ":39290,"episode":39291,"ĠVariant":39292,"Ġdaemon":39293,"ĠJulia":39294,"ĠNR":39295,"Ġdoubles":39296,"'":39526,"Ġqueryset":39527,";}čĊ":39528,"ĠPopulation":39529,"utedString":39530,"resident":39531,"_FONT":39532,"ĠRespond":39533,"Ġobscure":39534,"Ġobservable":39535,"ĠContributors":39536,"kon":39537,"ĠMusk":39538,"exao":39539,"ĠTub":39540,"BootApplication":39541,"SOR":39542,".Horizontal":39543,".findBy":39544,".power":39545,"Ġpositively":39546,"venience":39547,"ĠJong":39548,"Ġwhistle":39549,"ĠзнаÑĩ":39550,"Ġlending":39551,"Ġdestructive":39552,"ĠonDelete":39553,"authorization":39554,"();?>":39555,"_original":39556,"science":39557,"atra":39558,"?,?,":39559,"ĠAsc":39560,"Ġconvincing":39561,"$a":39562,"orgen":39563,"_Date":39564,"ĠProvide":39565,"Ġlonely":39566,")'Ċ":39567,"exchange":39568,";?>Ċ":39569,".fast":39570,"Samples":39571,"London":39572,"'])čĊ":39573,"ĠIonic":39574,"Ġpesso":39575,"ĠKnights":39576,"ĠRaf":39577,"_attrs":39578,"Ġrepeal":39579,">Main":39580,"ĠOrdered":39581,"_New":39582,"=\"\">\";Ċ":39663,"ĠSERVER":39664,"ĠHEADER":39665,"_velocity":39666,"ĠInvoke":39667,".timestamps":39668,"Ġsulf":39669,"IQUE":39670,"Ġinhabitants":39671,"phins":39672,"azzo":39673,"Ġmono":39674,"Legend":39675,"Ġnonce":39676,"IFE":39677,";\";Ċ":39678,"-create":39679,"\"\",Ċ":39680,"permit":39681,"ĠImmigration":39682,"Ġpathname":39683,"ffective":39684,"âĻĢâĻĢ":39685,"Ġexams":39686,"-event":39687,"ĠTill":39688,"[mid":39689,"FIX":39690,";color":39691,"(Order":39692,"_traits":39693,"ĠorderBy":39694,"Ġsunt":39695,"ĠNicholas":39696,"ز":39697,"Ġsunny":39698,"iners":39699,"Ġaccessibility":39700,"ĠHB":39701,".comp":39702,"ĉop":39703,"Ġminorities":39704,"etheus":39705,"Ġcollaborative":39706,"prit":39707,"HIR":39708,"Ġwraps":39709,"ĉdraw":39710,"god":39711,"ĠIX":39712,".apps":39713,"ĠNM":39714,"Ġirrelevant":39715,"ĠTigers":39716,"Ġdiag":39717,"GV":39718,"ĠAccessories":39719,"kont":39720,"Ġsimplify":39721,"ĠFavorite":39722,"_tools":39723,"([]);Ċ":39724,"Ġtowers":39725,"Bes":39726,"Ġhunter":39727,"Ġsalon":39728,"(buff":39729,"ĉdebug":39730,"Ġmalware":39731,"Moving":39732,"-options":39733,")+'":39734,"ĠLOVE":39735,"_SOCKET":39736,"_fin":39737,"ĠDelaware":39738,"Ġsheriff":39739,"-invalid":39740,"ĠFULL":39741,"Ġпод":39742,"elas":39743,"\"strings":39744,"ĠRepresentatives":39745,"surface":39746,"resolved":39747,"htdocs":39748,")):čĊ":39749,"Ġpressures":39750,"Ġnorms":39751,"Ġpla":39752,"Ġsurname":39753,"Ġpostal":39754,"ĠDepart":39755,"Ġslaughter":39756,"orida":39757,"Ġhebben":39758,"Ġdesar":39759,"compact":39760,"_LANG":39761,"åIJĪ":39762,"opoly":39763,"_rad":39764,"ĠSTDMETHOD":39765,"Lazy":39766,"ĠĠĠĉ":39767,"...,":39768,"(web":39769,"ĠPont":39770,"Ġetwas":39771,"Ġupward":39772,"_hat":39773,"Ġ],ĊĊ":39774,"ĠbaseUrl":39775,"Ġworrying":39776,"-addon":39777,"(getClass":39778,"SPI":39779,"Ġcapturing":39780,")},Ċ":39781,"Effects":39782,"Ġcompetent":39783,"Ġfoul":39784,"Ġsubscribing":39785,"ĠOBJECT":39786,"IXEL":39787,"bucks":39788,"(edge":39789,"(pass":39790,"ĠPeterson":39791,"Ġboobs":39792,"ĠDelay":39793,"_square":39794,"elim":39795,"oters":39796,"_PC":39797,"%E":39798,"onclick":39799,"ĠSVG":39800,"Ġtopped":39801,"Ġfist":39802,"smart":39803,"ĠRalph":39804,"(owner":39805,"jours":39806,"Ġbronze":39807,"ĠArgumentException":39808,"(original":39809,"_SCALE":39810,"_cp":39811,"Ġrecommends":39812,".setStyle":39813,"Sure":39814,"LAND":39815,"Ġrepeating":39816,"Matt":39817,".Visibility":39818,"Ġenterprises":39819,".Setup":39820,"(scene":39821,"ĠReactive":39822,"urge":39823,"bw":39824,".Put":39825,"persist":39826,".cookie":39827,"ĠAudi":39828,"`s":39829,"supplier":39830,"(Form":39831,"¡":39832,"_so":39833,"ĮĢ":39834,"ĠLegion":39835,"tte":39836,"Nd":39837,"Loss":39838,"(attrs":39839,".scatter":39840,"Ġgroom":39841,"Ġglimpse":39842,"Ġnails":39843,"Ġcumulative":39844,"Ġfazer":39845,"_services":39846,".Num":39847,"ibilit":39848,"_resolution":39849,"ĠTx":39850,"uminium":39851,"opa":39852,".schedule":39853,"smtp":39854,"à¸ķ":39855,"urry":39856,"ük":39857,"goog":39858,"_signature":39859,".into":39860,"ĠSteps":39861,"Ġhomeowners":39862,"ĠNSURL":39863,"ĠPAC":39864,"ĠĠĠĠĠĠĠĠĠĠĠĠĊĊ":39865,">')Ċ":39866,"enh":39867,"Ġincap":39868,"$MESS":39869,"Ġmoins":39870,"ĠFi":39871,"Ġoffseason":39872,"pressions":39873,">.Ċ":39945,"ĠGrass":39946,"ĠGoal":39947,"_pdf":39948,"Handlers":39949,"Ġstacks":39950,".getFullYear":39951,"=[];Ċ":39952,"车":39953,",V":39954,"(split":39955,"Ñĥнк":39956,"Ġbakeca":39957,"Ġ~/.":39958,"pez":39959,"tails":39960,"ĠGlen":39961,"ĠsetImage":39962,"ĠComic":39963,"BLOCK":39964,"ĉThis":39965,"oader":39966,"Ġcapitalist":39967,"_STEP":39968,"(Boolean":39969,"ĠCorrect":39970,"rina":39971,"Ġconcaten":39972,"å®ŀ":39973,"():ĊĊ":39974,"Ġunanim":39975,"lli":39976,"alars":39977,"-ne":39978,"Ġdivor":39979,"ĠKickstarter":39980,"]._":39981,"*'+":40622,"åĿĢ":40623,"acency":40624,"(URL":40625,"_half":40626,"=l":40627,"ĠlistView":40628,"(section":40629,".toArray":40630,"+/":40631,"ĠRodriguez":40632,"istream":40633,"Ġeligibility":40634,"::-":40635,".newInstance":40636,"PB":40637,"ĠAssets":40638,"ĠComposite":40639,"ĠLabs":40640,"ĠHamas":40641,"++);Ċ":40642,"Ġblk":40643,"ĠNeo":40644,"Luc":40645,"@login":40646,"Ġunaware":40647,".met":40648,"_RELEASE":40649,"(ST":40650,"AMIL":40651,"rike":40652,"Ġ(){Ċ":40653,"(sprintf":40654,"ĠAccounts":40655,"ĠVIEW":40656,"ĠAj":40657,"ãĤ°":40658,"Ġwhisk":40659,"Ġidi":40660,"Ġrode":40661,"Ġihn":40662,"ĠElementary":40663,"Qty":40664,"Ġintriguing":40665,"Ġå¤":40666,"Jobs":40667,"ĉoffset":40668,"ĠAhmed":40669,"ĠTaliban":40670,"Ġèİ·åıĸ":40671,"Ġinjected":40672,".Authentication":40673,"_linear":40674,".Decimal":40675,"Ġapples":40676,"Ġshareholders":40677,"Ġbaked":40678,".diff":40679,"ĠEddie":40680,"okers":40681,"Ġconfronted":40682,"voices":40683,"Ġtus":40684,"ĠSpin":40685,"NODE":40686,"_Un":40687,"CTX":40688,"/google":40689,"Temperature":40690,"Ġ'').":40691,"Ġmagnificent":40692,"ĠstartIndex":40693,"sembles":40694,"Anyone":40695,"zk":40696,"ehen":40697,"ĠDame":40698,".strict":40699,"Ġreplaces":40700,"Ġlineback":40701,"Ġpushes":40702,"Ġcheek":40703,"ĠShi":40704,"_BYTES":40705,"REA":40706,"ản":40707,"_CONNECTION":40708,"Gateway":40709,"ĠTravis":40710,"ĠAX":40711,"ĠBasically":40712,"ĠUpgrade":40713,"àª":40714,"themes":40715,"ermo":40716,"kor":40717,"Female":40718,"_attach":40719,"ĠìĤ¬ìļ©":40720,"Ġpoz":40721,"==============Ċ":40722,"(symbol":40723,"ĠSector":40724,"__)ĊĊ":40725,"_padding":40726,"ï¼ļ\"":40727,"Ġfabs":40728,"Ġranged":40729,"setName":40730,"Ġperror":40731,"âĹ":40732,"ĠFileReader":40733,"Ġfulfilled":40734,"_Current":40735,"Ġdominate":40736,"Ġsmugg":40737,"PostMapping":40738,"_force":40739,"Ġbloc":40740,"ĠGiant":40741,"(video":40742,"ĠCU":40743,"SystemService":40744,"Ġelf":40745,"Ġkontakt":40746,"ëª":40747,"kees":40748,"gtk":40749,"ĠparamInt":40750,"Ġmarkup":40751,"uales":40752,"Ġaccounted":40753,"Ġgangbang":40754,"RYPT":40755,"ĠWrong":40756,"Ġcredited":40757,"ĠMESSAGE":40758,"Ġflaws":40759,"Ġbbw":40760,"Ġmetabolic":40761,"ĠOEM":40762,"/event":40763,"(Collectors":40764,"monton":40765,"appear":40766,"Ġopted":40767,"Ġcheat":40768,"Ġdav":40769,"ĠProceed":40770,"Ġê¸":40771,"anked":40772,"из":40773,"ansk":40774,"ĠHang":40775,"ĠCler":40776,"Ġdisgu":40777,"Ġcmap":40778,".cljs":40779,"Ġaument":40780,"lez":40781,"ĠJoined":40782,"_received":40783,"Ġaerial":40784,"otel":40785,"Ġgreet":40786,"\"s":40787,"ĠGenesis":40788,"ĠCalif":40789,"panion":40790,"Ġtailored":40791,"mapping":40792,"andExpect":40793,".track":40794,"atomy":40795,"ĠOw":40796,"ullah":40797,".Yes":40798,"ĠSimpleName":40799,"dbh":40800,"'en":40801,"Ġnonsense":40802,"Ġphilosophical":40803,"(getContext":40804,"Ġisso":40805,"ĠACE":40806,"startDate":40807,"ĠbÄĻd":40808,"ĠAUTHOR":40809,"ĠGlobe":40810,"Ġinsects":40811,"_Al":40812,"ushing":40813,"è®°":40814,"/Home":40815,"ĠLocalDate":40816,"needed":40817,"hesive":40818,"Ġillusion":40819,"äºĮ":40820,"Ġtrat":40821,"xo":40822,"/detail":40823,"_MATCH":40824,"Ġbroadband":40825,"Ġwal":40826,"ĠIllegalStateException":40827,"IRECTION":40828,"Ġnortheast":40829,"esium":40830,"ĠCliente":40831,"ulance":40832,"nty":40833,"Ġtecn":40834,"Devices":40835,"Ġgrains":40836,"ĠOg":40837,"ĠSEL":40838,"udiant":40839,"Ġ++;Ċ":40840,"Ġexplanations":40841,"occo":40842,"Ġdiets":40843,"Ġcohort":40844,"(controller":40845,".Iterator":40846,"-rich":40847,"rocess":40848,"GD":40849,"Ġcarbohydr":40850,"Ġfried":40851,"ĠEmployment":40852,"ìŀ¥":40853,"ĠLeonard":40854,"_${":40855,"quares":40856,"Ġcompanions":40857,"Ġparis":40858,"Ġstimulation":40859,"ĠZoo":40860,"Ġrelevance":40861,"ĠColour":40862,"Ġspear":40863,"otional":40864,"ĠLite":40865,"ĠKosten":40866,"Ġó":40867,"_attachment":40868,"orphic":40869,"Ġdamit":40870,"Ġdlg":40871,"Ġthrive":40872,"CHANGE":40873,"ĠApparently":40874,"Ġatual":40875,"Ġrooted":40876,"(images":40877,"awi":40878,"ariat":40879,"Ġcherry":40880,"STATIC":40881,"mnt":40882,"ĠUserId":40883,"illet":40884,"ĠHispanic":40885,"Ġnak":40886,"Ġcentro":40887,"Ġdims":40888,"_initialize":40889,"ık":40890,"ĠCenters":40891,"REN":40892,"Ġevolutionary":40893,"ĠTopics":40894,"_damage":40895,"emer":40896,"Ġrund":40897,"Ġpunished":40898,"Ġcubic":40899,"fair":40900,"[];ĊĊ":40901,"Ġinstantiate":40902,"Ġoversee":40903,"-delete":40904,"unteer":40905,"startTime":40906,"ĠPipeline":40907,"_GAME":40908,"ĠCir":40909,"ĉNull":40910,".Formatting":40911,"ucumber":40912,"ĠRide":40913,"Ġzoo":40914,"Ġchecker":40915,"åIJĮ":40916,"=C":40917,"Ġgrit":40918,"\");//":40919,"_xy":40920,"ĠDeclaration":40921,"Ġcallable":40922,"Foo":40923,"ĠListItem":40924,"Ġinaccur":40925,"mlin":40926,"ĉData":40927,"Ġevolving":40928,"awan":40929,"Ġcafe":40930,"folk":40931,"_IDX":40932,"ĠAnything":40933,"ĠPalestine":40934,"ĠGridView":40935,"Ġcolony":40936,"ĠGermans":40937,"(+":40938,".pid":40939,".jsx":40940,"ĠSuperior":40941,"Christian":40942,"ĠLect":40943,"ĉGame":40944,"Ġinstrumental":40945,"Animations":40946,"дал":40947,"ĠMoses":40948,"ĉĉčĊĉĉčĊ":40949,"zs":40950,"kte":40951,"ä¸ļ":40952,"_DIST":40953,"bitmap":40954,"dB":40955,"Ġpersistence":40956,"ÑĢоÑģ":40957,"$l":40958,"Bron":40959,"Ġ{|":40960,"_chart":40961,"ĠConsum":40962,"Ġhemp":40963,"Ġ\"))Ċ":40964,"Ġattackers":40965,"Ġknowledgeable":40966,"Ġcet":40967,"Ġviruses":40968,"'I":40969,"Ġpitcher":40970,"Ġsweeping":40971,"=list":40972,"aptops":40973,".depth":40974,"Ġinstructed":40975,"ĠRus":40976,"benhavn":40977,"Ġин":40978,"Sports":40979,"Ġonset":40980,"æĿĥ":40981,".RED":40982,"_si":40983,"ĠPST":40984,".onChange":40985,">tag":40986,"ĠRoh":40987,"_character":40988,"ĠLaws":40989,"ĠBachelor":40990,"_swap":40991,".reactivex":40992,"Ġrewarding":40993,"Medium":40994,"-[":40995,"ĠRecently":40996,"Joint":40997,"partition":40998,"ĠMinutes":40999,"Ġindo":41000,"Ġabsorbed":41001,"ĠGN":41002,"_IND":41003,"Ġsaber":41004,"Spawn":41005,"outputs":41006,"ĠJeffrey":41007,"Ġmedieval":41008,"hed":41009,"Guide":41010,"Ġpsycho":41011,"Ġglam":41012,"Elim":41013,"ädchen":41014,"_plain":41015,"ĠSau":41016,"-four":41017,"Ġanalyzing":41018,"QUERY":41019,"Ġtomato":41020,"_buttons":41021,"VEN":41022,".setStatus":41023,".Url":41024,"+ĊĊ":41025,"Ġcomplaining":41026,"degree":41027,"confirmed":41028,"Ġsubt":41029,"parsed":41030,"Ġtorque":41031,"Ġtroubled":41032,"ĠTARGET":41033,"Ġtrademarks":41034,"ĠCoordinate":41035,"ĠViv":41036,"Ġ//}ĊĊ":41037,"Ġaprès":41038,".getPosition":41039,"(KeyCode":41040,"ĠSilva":41041,"Ġmeteor":41042,"Ġendorsement":41043,"Overview":41044,"ĠPoss":41045,".Inject":41046,"Ġevenly":41047,"Ġvisualization":41048,"Ġwchar":41049,"ĠHDMI":41050,"Ġfunct":41051,"ickname":41052,"','','":41053,"Ġforwards":41054,"ManagedObject":41055,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":41056,"ĉserver":41057,"ĠOutlook":41058,"ĠChronicle":41059,"Ġdubbed":41060,"Ġdok":41061,"ĠWear":41062,".AL":41063,"paren":41064,".Interface":41065,"Interfaces":41066,".cod":41067,"Ġdib":41068,".Globalization":41069,"ĠAcademic":41070,"Ġassms":41071,"Autom":41072,"Ġlw":41073,"ĠNW":41074,"Ġ&&čĊ":41075,"Ġproblema":41076,"ĠManufacturing":41077,"limits":41078,"-mobile":41079,"Ġfilme":41080,"/map":41081,"Ġdoit":41082,"ĠInk":41083,"Ġsued":41084,".arr":41085,"Ġundermin":41086,"ĠProc":41087,"crollView":41088,"__$":41089,"Ġsidewalk":41090,"(that":41091,"ื":41092,"[q":41093,"grammar":41094,"Ġtë":41095,"quito":41096,"Ġspiral":41097,"extended":41098,"Ġfocal":41099,"Ġdigging":41100,"pas":41101,"ĠTall":41102,".proxy":41103,"itures":41104,"TRACT":41105,"ĠRealm":41106,"Ġfeder":41107,"Ġoriented":41108,"ĠAlternative":41109,"Ġowe":41110,"Ġsourced":41111,"inker":41112,".det":41113,"Sep":41114,"ĠQui":41115,"ĠPalmer":41116,"(_,":41117,"samples":41118,"oyer":41119,"ullan":41120,"quez":41121,"Edges":41122,"Ġshout":41123,"ĠAchie":41124,"Ġhaar":41125,"_Construct":41126,"Ġpremature":41127,"Ġrevert":41128,"').Ċ":41129,"Ġschn":41130,"filtered":41131,"nullptr":41132,"Saved":41133,"itecture":41134,"CLA":41135,"Ġvl":41136,"stell":41137,"ĉMe":41138,"ĠLip":41139,"national":41140,"Ġwholly":41141,"Ġsprings":41142,".Timer":41143,"ĉsrc":41144,"elsen":41145,"åħ¶":41146,"Ġcommunicating":41147,"ĠQuiz":41148,"Ġteng":41149,"Ġgez":41150,"ĠOutside":41151,".Sign":41152,"(cs":41153,"Ġdisputes":41154,"ĠWeiss":41155,"annes":41156,">No":41157,"ĠBach":41158,".removeAll":41159,"refer":41160,"/dashboard":41161,"ĠAjax":41162,"IndexChanged":41163,"ĠWeak":41164,"'\"Ċ":41165,"Ġsights":41166,"accessToken":41167,"ĠJoi":41168,"(domain":41169,"ĉcv":41170,"Ġcontinuation":41171,"Ġplum":41172,"adir":41173,".setMessage":41174,"Ġï¼Į":41175,"Ġswallow":41176,"ĠLamp":41177,"Ġqw":41178,"Ġuu":41179,"Coin":41180,"ubic":41181,"ĠDeals":41182,"race":41183,"Ġdictator":41184,"Ġmeme":41185,"turned":41186,"ĠJulie":41187,".gridColumn":41188,"Ġpuppy":41189,"Ġpam":41190,"Ġ){čĊ":41191,"Ġinviting":41192,"Ġfrench":41193,"vim":41194,"Ġwrapping":41195,"Ġ#-}Ċ":41196,"([-":41197,"Early":41198,"Ġshiny":41199,".faces":41200,"Ġrebell":41201,"abcdef":41202,"ält":41203,"Ġestimation":41204,"phys":41205,"losures":41206,"_REL":41207,"Ġexclusion":41208,"ĠSkype":41209,"weise":41210,"-stop":41211,"nothing":41212,"ĠEgg":41213,"isors":41214,"Richard":41215,"Ġcounseling":41216,"Ġcommem":41217,"ĠQMessageBox":41218,"ĠSynd":41219,"ĠFrost":41220,"ĠCompetition":41221,"ĠAwake":41222,"Ġted":41223,"iciones":41224,"ĠDevComponents":41225,"VERTISEMENT":41226,"otti":41227,".runner":41228,"Ġuniquely":41229,".flag":41230,"ĉrs":41231,"_generic":41232,"Ġ```Ċ":41233,"ACHINE":41234,"Ġmein":41235,"(Application":41236,"(br":41237,"Ġratios":41238,":,":41239,"ĠXCTest":41240,"ustainable":41241,"-www":41242,"itles":41243,"_TEMP":41244,"Ġsyst":41245,"umericUpDown":41246,"ĉassertTrue":41247,"Ġwf":41248,".peek":41249,"ĠBulg":41250,"Ġterrifying":41251,".MODE":41252,"ĠGW":41253,"ár":41254,"Ġfic":41255,"Ġcommitments":41256,"-tech":41257,"ĠLiquid":41258,"opez":41259,"zheimer":41260,"aña":41261,"-media":41262,"(animated":41263,"_goal":41264,"Ġgum":41265,"ystone":41266,".SET":41267,"ĠWend":41268,"setCellValue":41269,"Ġmsgs":41270,"cash":41271,"ALLOC":41272,"/aws":41273,"Ġmicrowave":41274,".Pointer":41275,"ĉConsole":41276,"_sorted":41277,"ĠFilip":41278,"Prod":41279,"Ġ//!<":41280,"ingroup":41281,"Ġks":41282,"_TRI":41283,"Ġteaspoon":41284,"ĠATT":41285,"Ġrecovering":41286,"ĠGLOBAL":41287,".Par":41288,"Ġ/>;Ċ":41289,"Ġmarble":41290,"ulators":41291,"ĠCycle":41292,"Ġherbs":41293,"_metric":41294,")!":41295,"_CLOCK":41296,"_Button":41297,"Harry":41298,"è¿Ľ":41299,"Ġstrains":41300,"ĠAppBar":41301,"ĠChan":41302,"/video":41303,"Ġbam":41304,".Progress":41305,"$f":41306,"lemen":41307,"Ġirregular":41308,"ĠDuncan":41309,"ĠMint":41310,"-video":41311,"া":41312,"ówn":41313,"ĠEMPTY":41314,"Ġstacked":41315,"ĠHA":41316,"_cut":41317,"Ġwherein":41318,"ĠWays":41319,"(counter":41320,"è¯ķ":41321,"FormGroup":41322,"Ġblew":41323,"courses":41324,"Ġproductos":41325,"rys":41326,"ĠRestr":41327,"Ġstyling":41328,">s":41329,"Ġpiv":41330,"Ġitertools":41331,"getRepository":41332,"ĠIk":41333,"_devices":41334,"layui":41335,"Ġhalfway":41336,"Ġfranç":41337,"Ġtuning":41338,"OA":41339,"_Node":41340,"arde":41341,"Ġfierce":41342,"licted":41343,"#čĊ":41344,"Ġbreakthrough":41345,"ĠErik":41346,"Ġbride":41347,"Ġ.\"":41348,"culus":41349,"inside":41350,"ĠIndianapolis":41351,"ĠEE":41352,"Ġyog":41353,"urret":41354,".fs":41355,".grad":41356,"_cards":41357,"_accuracy":41358,"_epi":41359,"queda":41360,"/org":41361,"éªĮ":41362,"Ġcompte":41363,"))[":41364,"Outside":41365,"Greater":41366,"ĠRenderer":41367,".actor":41368,"Accounts":41369,"Idle":41370,"_hours":41371,"erner":41372,"Joined":41373,"Ġmenj":41374,"requires":41375,"ĠOPER":41376,".removeChild":41377,"ĉsp":41378,"Ġesse":41379,"rift":41380,"xFE":41381,"ĠShakespeare":41382,"____________":41383,"Ġbudgets":41384,"ModelState":41385,"fillable":41386,"-component":41387,"ocos":41388,"ĠBUTTON":41389,"/io":41390,",out":41391,"sms":41392,"Thomas":41393,"ĠArmed":41394,"resume":41395,"Ġrotating":41396,"ĠVault":41397,"Ġseus":41398,".(*":41399,"Ġamino":41400,"Ġ[]);ĊĊ":41401,"Ġprovoc":41402,"nox":41403,".GetEnumerator":41404,"=======Ċ":41405,"æĸĻ":41406,"_scroll":41407,"Ġfilmed":41408,"ĠSoci":41409,"gap":41410,"gro":41411,"Vote":41412,"\"But":41413,"_RC":41414,"Animal":41415,"ÂĢ":41416,"ibile":41417,"Ġawaken":41418,"orest":41419,"inja":41420,"ĠIvan":41421,"(Command":41422,"Ġ*****":41423,"η":41424,"Ġkvinder":41425,"/helpers":41426,"_cases":41427,"tg":41428,"ìĦ¸":41429,"Registered":41430,"ĉpass":41431,"_digits":41432,"Ġcontour":41433,"Ġinfants":41434,"Ġjustification":41435,"ĠFortunately":41436,"Contr":41437,"ĠonCreateView":41438,"_SAMPLE":41439,"ĠallowNull":41440,"Ġnud":41441,"Ġfetched":41442,"_equ":41443,"ĠUnable":41444,"=\\\"\"":41445,">{Ċ":41446,"Ġcommittees":41447,"istema":41448,"+\".":41449,"ÃŃan":41450,"mant":41451,"Ġsoutheast":41452,"ï¼ĮĊ":41453,"dialogs":41454,"PROJECT":41455,"charger":41456,"-port":41457,"(uuid":41458,".export":41459,"Six":41460,"ĠRP":41461,"Prem":41462,"Ġconscience":41463,"ĠmarginRight":41464,"_distribution":41465,"yaml":41466,"resizing":41467,"Dock":41468,"ĠLocations":41469,"GY":41470,"Seed":41471,"BUFFER":41472,"ossip":41473,"ullen":41474,"Things":41475,"-self":41476,".poll":41477,"PLAYER":41478,"Ġå®":41479,"GROUP":41480,"ĠAway":41481,"Ġgospel":41482,"xfd":41483,"Mary":41484,"ĠPortable":41485,"TURE":41486,"Ġutilis":41487,"Ġseit":41488,"Ġstrand":41489,"Ġtransc":41490,"Ġ(^":41491,"ĠAlfred":41492,".mem":41493,".circle":41494,"Ġ~/":41495,"forcing":41496,"Ġriot":41497,"prox":41498,"THON":41499,"ización":41500,"ĠNI":41501,"rost":41502,"Ġdispro":41503,"_instances":41504,"ï¼ĮâĢľ":41505,"ographer":41506,"endas":41507,"ĠIsaac":41508,"ĠPine":41509,"/dis":41510,"ĠcolorWith":41511,"iterate":41512,"_stride":41513,"Ġpunto":41514,".EventArgs":41515,"(center":41516,"Ġneighboring":41517,"ĠPrison":41518,"ĠMessenger":41519,"Ġepidemic":41520,"dao":41521,"_complex":41522,"Ġgravel":41523,"_DIP":41524,"ément":41525,"ĠAri":41526,"_bitmap":41527,".quit":41528,"(valid":41529,"Ġpend":41530,"Ġrespiratory":41531,"Ġrebound":41532,"DefaultValue":41533,"ãĥŃ":41534,"Ġcommits":41535,".tests":41536,"_fr":41537,"itet":41538,".sf":41539,"Ġspacecraft":41540,"critical":41541,"Ġdepressed":41542,"ĠAnyObject":41543,"Ġunb":41544,"Ġdiscern":41545,"(mysql":41546,"Latin":41547,"ĠBog":41548,"ĠWildlife":41549,"ToFile":41550,"ioxid":41551,"@RestController":41552,"Ġ\"$(":41553,"Ġ<<\"":41554,"Ġdefects":41555,"Ġdatum":41556,"hin":41557,"Ġrealizar":41558,"anyahu":41559,"ĠSig":41560,"@Data":41561,"adaptive":41562,"ĠCatherine":41563,".cr":41564,"ĠCOOKIE":41565,"Ġpictured":41566,"ĠFighter":41567,"Queryable":41568,"ĠAnyway":41569,"ĠGLFW":41570,"_namespace":41571,"_ft":41572,"Ġ])":41573,"Organization":41574,"Ġconstitutes":41575,"Ġquand":41576,"(chunk":41577,"\"/>čĊ":41578,"ĠLakes":41579,"mainwindow":41580,"Carthy":41581,"spin":41582,"(csv":41583,":red":41584,"-commerce":41585,"ู":41586,"Ġdiscovering":41587,"Ġeco":41588,"_fac":41589,"inceton":41590,"ĠGreens":41591,"jwt":41592,"ص":41593,"ĠBroncos":41594,"ĠGoods":41595,"(GTK":41596,"ĠreturnValue":41597,"Ġsiempre":41598,"Ġneutr":41599,"went":41600,"ĠNatal":41601,"Ġenthusiastic":41602,"á»į":41603,"FN":41604,"/database":41605,"Catalog":41606,"Ġbrun":41607,"ĠKash":41608,"_Pl":41609,"iscrim":41610,",width":41611,"Ġinmates":41612,"Assignment":41613,"ĠHaven":41614,"Ġplayground":41615,"exam":41616,"@Controller":41617,"uliar":41618,".getParent":41619,"Ġ\";ĊĊ":41620,":size":41621,"issors":41622,"Ġfis":41623,"Ġalc":41624,"ensation":41625,"ĠNixon":41626,"Ġmighty":41627,"-str":41628,"_special":41629,"_ADC":41630,"ĠTwig":41631,"umbling":41632,"-address":41633,"Ġheroin":41634,"YTE":41635,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":41636,"Friend":41637,"Ġave":41638,"ĠPNG":41639,"ĠKurdish":41640,"DataSetChanged":41641,"Ġblades":41642,"bral":41643,"Steam":41644,"Ġsigu":41645,"IRTUAL":41646,"acos":41647,"UDP":41648,"(database":41649,"hec":41650,"ĠStrings":41651,"_scalar":41652,"ĉdesc":41653,"ĠTLS":41654,";\"Ċ":41655,"ĠCorbyn":41656,"SimpleName":41657,"uell":41658,"ĠEntre":41659,"ellites":41660,"-place":41661,"Ġfrankly":41662,"ĠErf":41663,"CEL":41664,"ĠpaÃŃs":41665,"Ġhedge":41666,"Ġlatent":41667,"ĠIRQ":41668,"ĠHerald":41669,"ĠPrec":41670,"ë³´":41671,".TEXT":41672,"Salary":41673,"Ġautumn":41674,"Ġtravail":41675,".Sum":41676,"Ġcared":41677,"Mor":41678,"Ġintuitive":41679,"Ġjournals":41680,"_IT":41681,"ĠTrou":41682,"ä¼ł":41683,"HasColumnName":41684,"Composite":41685,"Ġspice":41686,"_disk":41687,"_CODES":41688,"ĠIntroduced":41689,"iona":41690,"Ġnuestra":41691,"oct":41692,"ĠĠĠĠĊĠĠĠĠĊĠĠĠĠĊ":41693,"(parameter":41694,"Ġstudios":41695,"ĠprojectId":41696,"Ġbdsm":41697,".SqlClient":41698,"imizer":41699,"ĠCARD":41700,"+t":41701,"aan":41702,".sol":41703,"_Adjust":41704,"Ġrighteous":41705,"ĠLogging":41706,".filters":41707,"_TAB":41708,"ĉsys":41709,"rophic":41710,"otherapy":41711,"ĠBrowse":41712,"keyboard":41713,"RON":41714,"+\\":41715,"ropped":41716,"Ġextensively":41717,"fk":41718,"Ġlime":41719,"years":41720,"Exc":41721,"Ġsph":41722,"Ġcheating":41723,"andro":41724,"ÃŃo":41725,"Ġprince":41726,"oire":41727,"ĠDestination":41728,"ĠConverts":41729,"Ġupstream":41730,"oled":41731,"Ġservants":41732,"Ġsemantic":41733,"Ġcrunch":41734,"Ġeventual":41735,"runner":41736,"/error":41737,"Spin":41738,"Ġsecretly":41739,"Ġassemble":41740,".Person":41741,"enderror":41742,"_<":41743,"Ġpendant":41744,"Sleep":41745,"ĠChemistry":41746,"Ġbosses":41747,"lk":41748,"))),Ċ":41749,"Blockly":41750,"DEVICE":41751,"Ġreflecting":41752,"Ġample":41753,"Milliseconds":41754,"ĠPresidential":41755,"Ġusuarios":41756,"ĠNZ":41757,"ĠSalary":41758,"ĠAmanda":41759,"_np":41760,"jury":41761,"Ġkön":41762,"Ġtherapist":41763,"Ġhomosexual":41764,"ĠDrake":41765,"-window":41766,"ĠLocated":41767,".Driver":41768,"ĠVIDEO":41769,"Ġmerchants":41770,"ĠChest":41771,"-lock":41772,"/php":41773,"Ġmilano":41774,"_STYLE":41775,"arger":41776,"idea":41777,"GUID":41778,"advanced":41779,"meal":41780,"OptionsItemSelected":41781,"='%":41782,"ĠCham":41783,":data":41784,"(stat":41785,"WillAppear":41786,"Ġinformal":41787,"aji":41788,"Ġreproductive":41789,"ĠCAS":41790,"ãģ£":41791,"FUNC":41792,"ĠRuth":41793,")+(":41794,"CONST":41795,"ĠFans":41796,"ĠgroupId":41797,"xffffffff":41798,"Ġsampler":41799,"Ġ}}\">":41800,".the":41801,"Ġhollow":41802,"WAY":41803,"ĠFaculty":41804,"AttributedString":41805,"ĠLooks":41806,"ĠRex":41807,"jk":41808,"ĠMIL":41809,"Ġbard":41810,".Long":41811,"Ġlivest":41812,"Ġskal":41813,"icism":41814,"MAIN":41815,"Ġmucho":41816,"BODY":41817,"Ġese":41818,"ĉuse":41819,"Foot":41820,".SQLException":41821,"Ġinheritance":41822,"received":41823,"Ġputas":41824,"edis":41825,"alsa":41826,"ĠErrorMessage":41827,"Booking":41828,"Ġtract":41829,"acz":41830,"ĠCant":41831,"_regex":41832,"Ġideological":41833,"Ġjihad":41834,"hos":41835,"/sys":41836,"colm":41837,"(pool":41838,"Ġestán":41839,"ĠPending":41840,"emás":41841,"Ġktóry":41842,"));ĊĊĊ":41843,"transactions":41844,"Ġwield":41845,"itere":41846,"erture":41847,"_ss":41848,"Ġstretching":41849,"Ġprisoner":41850,".ReadAll":41851,"Ġbesch":41852,"--;čĊ":41853,"Ġcrisp":41854,"_SCAN":41855,"Ġae":41856,"Strict":41857,"ĠMinneapolis":41858,"ĠBoeing":41859,"aris":41860,"rek":41861,"_pipe":41862,"Ġpriests":41863,"(EIF":41864,"ehicles":41865,"ĠInteractive":41866,"between":41867,"ĉNullCheck":41868,"ĠBlair":41869,"ĠLt":41870,"_inline":41871,"ethyl":41872,"¼":41873,"_packages":41874,"Ġbarrels":41875,"_he":41876,"Ġregexp":41877,"_pts":41878,"_Handler":41879,"ingular":41880,"ĠNissan":41881,"ĠRanch":41882,"Ġperch":41883,"Unsupported":41884,"Smith":41885,"ĠLegends":41886,"Mi":41887,"Ġgf":41888,"steder":41889,"Ġacquiring":41890,"Ġsimulator":41891,"(),\"":41892,"receive":41893,"Ġinplace":41894,"ACTION":41895,"ĠWebDriver":41896,"filesystem":41897,"'+Ċ":41909,"Ġcredible":41910,"amat":41911,"playing":41912,".setImageResource":41913,"quel":41914,"Ġpodr":41915,"geom":41916,"Ek":41917,"ĠQatar":41918,"Ġgeld":41919,"?',Ċ":41920,"Ġcyl":41921,"(ax":41922,"ĠWI":41923,"urally":41924,"ĠBrasil":41925,"Ġsenza":41926,"aley":41927,"onen":41928,"Ġbah":41929,"Ġmolecule":41930,"Rad":41931,"è¿°":41932,"ANCH":41933,"-background":41934,"-agent":41935,"Ġprolifer":41936,":boolean":41937,"Ġtide":41938,"erializer":41939,"_;čĊ":41940,"Fee":41941,"**)":41942,"ergy":41943,"ĠHonor":41944,".Logging":41945,"iris":41946,"Ġundermine":41947,"ĠDy":41948,"Ġtyr":41949,"Ġdeque":41950,"Ġdamer":41951,"([])Ċ":41952,".layoutControlItem":41953,"peated":41954,"CAN":41955,"ragments":41956,"Land":41957,")]);Ċ":41958,"ĠSah":41959,"ĠDECL":41960,"Within":41961,"ĠNamespace":41962,"another":41963,"sembling":41964,".describe":41965,"Consum":41966,"ĠFear":41967,"given":41968,"Orange":41969,"This":41993,"ĠdataIndex":41994,"Ġprintable":41995,"ĠEyes":41996,"_targets":41997,"(Py":41998,".over":41999,"Ġbru":42000,"ampton":42001,"Ġplaintiff":42002,");Ċ":42013,"invest":42014,".*ĊĊ":42015,"Ġtélé":42016,"Ġsuperf":42017,"Ġcascade":42018,"DTD":42019,"Ġvivid":42020,"Ġsubsidies":42021,"ĠHass":42022,"Ġcollaps":42023,"Ġceramic":42024,"{}\".":42025,"ĠLeakage":42026,"-trash":42027,"collapsed":42028,"-social":42029,"ĠChad":42030,"Ġinclined":42031,"Ġsto":42032,"Ġstoryboard":42033,".payment":42034,"stackoverflow":42035,"ĠRaiders":42036,"Ġ#'":42037,"olicies":42038,"ìľ¼ë¡ľ":42039,"emap":42040,"Ġkj":42041,"Ġquota":42042,"ĠGardens":42043,"ë²Ī":42044,"ĠAngels":42045,"Ġoft":42046,"Ġlowercase":42047,"ĠiParam":42048,"Ġcheapest":42049,"unta":42050,"_pkt":42051,"icators":42052,"Ġleurs":42053,"Ġdecreases":42054,"ĉdefine":42055,"PREC":42056,"ammers":42057,"ĠPreparedStatement":42058,"(direction":42059,"Ġcrews":42060,"arked":42061,"ĠMemphis":42062,"ĠSell":42063,"GTK":42064,"Ġmaid":42065,":disable":42066,"éĽĨ":42067,"ĠPf":42068,"Ġalbeit":42069,"openh":42070,"?>\">Ċ":42071,".getSource":42072,"(scale":42073,"Du":42074,"ĠPIL":42075,"_refresh":42076,"Ġbets":42077,"(car":42078,"ĠVon":42079,"|--------------------------------------------------------------------------Ċ":42080,"ĠGrat":42081,"Much":42082,"(Dialog":42083,".stopPropagation":42084,"Ġtek":42085,"Ġexits":42086,"'],$":42087,"ĠphoneNumber":42088,"ucs":42089,"ecimal":42090,"--------------":42091,"inp":42092,".pojo":42093,"Ġcorpus":42094,"Ġpractitioners":42095,".pic":42096,"\"testing":42097,"ĠstringBy":42098,".NotNull":42099,"Ġrang":42100,".Dynamic":42101,"_Render":42102,"аÑĤа":42103,"Waiting":42104,"ĠWik":42105,"Ġoverwhelmed":42106,"%\">":42107,"ĠAE":42108,"}}>Ċ":42109,"uw":42110,"_typ":42111,"Ġbuckets":42112,"Ġgreeting":42113,"Ġlaughter":42114,"Ġantagon":42115,"uggestion":42116,"-email":42117,"ĉtop":42118,"Ġeros":42119,"_tri":42120,"Ġissuing":42121,"Ġhá":42122,"Ġisolate":42123,"Overflow":42124,",E":42125,"Ġnutritional":42126,"ĠAbbott":42127,"Ġnf":42128,".touch":42129,".fetchall":42130,"_zip":42131,"\")}Ċ":42132,"Ġamat":42133,"ĠCisco":42134,"ĠnÃ¥":42135,"PLEX":42136,"Ġsei":42137,"foto":42138,".toJson":42139,"å¤ļ":42140,"ĠKlein":42141,"Ġlibc":42142,"Ġminers":42143,"å¢":42144,"-print":42145,"ĠPride":42146,"Todos":42147,"Ġmasked":42148,"ĠsetData":42149,"Ġtelefon":42150,"Ġunhappy":42151,"ĠTables":42152,"geb":42153,"(debug":42154,"_allowed":42155,"-access":42156,"Ġlogistics":42157,"Ġgems":42158,"ĠMature":42159,"Ġrsp":42160,"ĠAlle":42161,".getBytes":42162,"\\web":42163,"ynchronized":42164,"Paragraph":42165,"Ġthrottle":42166,".sqlite":42167,"consulta":42168,"ĠSeah":42169,"Ce":42170,"Ġsubmar":42171,"ERE":42172,"Vous":42173,"Ġreddit":42174,"Ġsqlalchemy":42175,"-mile":42176,"ocide":42177,"Pour":42178,"}}\">Ċ":42179,"stead":42180,"Ġ@(":42181,"Ġ[])":42182,"ĠAds":42183,"Ġoverload":42184,"ridden":42185,"ĠDesert":42186,"ĠWrap":42187,"ĠPortuguese":42188,"etz":42189,"ĉfirst":42190,"Ġmilestone":42191,"æĹł":42192,"ÑĥÑī":42193,"(success":42194,"\")Ċ":42363,"ĠDollar":42364,"Ġemoji":42365,"Carousel":42366,"-player":42367,"Ġadjusting":42368,"Ġjuga":42369,"allenges":42370,"gene":42371,"(bodyParser":42372,"lopedia":42373,"ĠBehind":42374,"Ġsleeves":42375,"Ġdragging":42376,"ĠChevrolet":42377,"Ġbiz":42378,"ivities":42379,"ĠFrequency":42380,",char":42381,".WHITE":42382,"_preview":42383,")';Ċ":42384,"_ax":42385,"IONS":42386,".cpu":42387,".inputs":42388,"UBE":42389,"_feed":42390,"ĠSupplement":42391,"!).":42392,"esus":42393,"ĠUDP":42394,"Ġmicrophone":42395,"Ġconfirms":42396,".isNotEmpty":42397,"\":\"\",Ċ":42398,"_SCREEN":42399,"ĉexpected":42400,"+-+-+-+-":42401,"ĠHait":42402,"fastcall":42403,"Ġdepict":42404,"vb":42405,"_picture":42406,"ĉdescription":42407,"ĠWife":42408,"uci":42409,"Ġvicious":42410,"ä»ĸ":42411,"ueba":42412,"ĠsetUser":42413,"ãģ¡":42414,"Ġdiving":42415,"Ġopera":42416,"usercontent":42417,"arah":42418,")},":42419,"yun":42420,"velt":42421,"Ġuncovered":42422,"Ġhips":42423,"Ġoscill":42424,"Ġasserting":42425,"ĠXi":42426,".restore":42427,"kea":42428,"Ġspelling":42429,"Ġderive":42430,"abwe":42431,"ĠDow":42432,".setType":42433,"_vs":42434,"Ġcozy":42435,".categories":42436,"Org":42437,"_mgr":42438,"Ġdungeon":42439,"collectionView":42440,"ĠBlank":42441,"acias":42442,"ää":42443,"_cleanup":42444,"_ACTIVITY":42445,"Ġtriangles":42446,".MenuItem":42447,"Ġiphone":42448,"ĠWon":42449,"]]ĊĊ":42450,"ĠComparison":42451,".Doc":42452,"Ġcanonical":42453,"ĠSudan":42454,"'){":42455,"UpInside":42456,"builtin":42457,"ENCY":42458,"xbe":42459,"Ġchuck":42460,"Ġcontradict":42461,"Ġnuestro":42462,"Ġarchitectural":42463,"ĠFib":42464,"Ġcompares":42465,"*k":42466,"Cfg":42467,"çĦ¡":42468,"nten":42469,"Matches":42470,"ĠDOWNLOAD":42471,"_HANDLER":42472,"management":42473,"[S":42474,"ENG":42475,"ÂĢÂ":42476,"fang":42477,"Ġslipped":42478,"ĠLanka":42479,"escaping":42480,"Ġtackles":42481,"ĠPedro":42482,".Prop":42483,".''":42484,".Generated":42485,".NewGuid":42486,"atrigesimal":42487,"illon":42488,"Ġstatistic":42489,"species":42490,"holding":42491,"Drupal":42492,"Ġfundamentally":42493,"Ġbondage":42494,"Ġresolutions":42495,"InlineData":42496,"\\Type":42497,"estion":42498,".wrap":42499,"Ġwarriors":42500,"ĠLOCAL":42501,"Archive":42502,"Ġembraced":42503,"á»§":42504,".Ver":42505,"ĠAffordable":42506,"olesale":42507,"ĠApplied":42508,"ĠConversion":42509,"mega":42510,"_cam":42511,"Ġceremon":42512,"aurus":42513,"ĠVolk":42514,".opens":42515,"/about":42516,"ĠStd":42517,"journal":42518,"()){čĊ":42519,",\"\\":42520,"(Arrays":42521,"ĠDense":42522,"aseña":42523,"änner":42524,"/stat":42525,"userData":42526,"Ġgerman":42527,"Ġtz":42528,"worthy":42529,"FormatException":42530,"pherd":42531,"Ġsmiles":42532,"ĠWhenever":42533,"(adapter":42534,".badlogic":42535,"Ġbriefing":42536,".GridColumn":42537,"-char":42538,"dimension":42539,"ĠCopper":42540,"Ġninth":42541,"Ġ'{{":42542,"Ġrav":42543,"_Table":42544,"Ġderivatives":42545,"ĠRaise":42546,"ĠFut":42547,"armor":42548,"-padding":42549,"Ġremin":42550,"ĉstyle":42551,"ĠMembership":42552,"Ġspreads":42553,"Ġgalleries":42554,"ĠClarke":42555,"Ġconception":42556,"minute":42557,"Ġabusive":42558,"_adj":42559,"Ġterrific":42560,"Ġovert":42561,"ourcing":42562,"Ġentrada":42563,"levels":42564,"Ġcritique":42565,"Ġrespects":42566,"ĠMMA":42567,"iene":42568,"Ġencaps":42569,"ĠRaymond":42570,"Divider":42571,"ivable":42572,"baz":42573,"Ġ@_;Ċ":42574,"ĠClaire":42575,"Ġurging":42576,"CEE":42577,"Ġtransformer":42578,"discord":42579,"ĠJourney":42580,"tos":42581,"Ġcompetitions":42582,"ĠOBJ":42583,"ĠBis":42584,"Ġrelaxation":42585,"idy":42586,"_INSTANCE":42587,"ĠPref":42588,"dados":42589,"iciencies":42590,"ĠMediaQuery":42591,"ĠCube":42592,"ĠStrange":42593,"gpu":42594,"(days":42595,"_InitStruct":42596,"Ġfingerprint":42597,"emat":42598,"ĠGecko":42599,"Ġrails":42600,"ĠLum":42601,"straction":42602,"igung":42603,"(movie":42604,"_dictionary":42605,"_interrupt":42606,"ĠQC":42607,"iked":42608,"appendChild":42609,"recipient":42610,"ré":42611,"Ve":42612,"Ġtowel":42613,".lastIndexOf":42614,"Ġplacebo":42615,"ĠWie":42616,".esp":42617,"(Debug":42618,"operative":42619,"Ġdeceased":42620,"&id":42621,"ĉmutex":42622,"elic":42623,"Ġbapt":42624,"ĉčĊčĊ":42625,"Ġfarther":42626,"Half":42627,".disable":42628,".menuStrip":42629,"leccion":42630,"ĠresultCode":42631,"Ġcans":42632,"-election":42633,"female":42634,"_FIX":42635,"ausible":42636,"ĠPOWER":42637,"Ġreconstruction":42638,"Ġscans":42639,".XtraBars":42640,"âĢĺs":42641,"Removed":42642,"Ġparagraphs":42643,"_margin":42644,"Ġlymph":42645,"Ġbos":42646,"lington":42647,"ĠBaptist":42648,"Ġadvertisements":42649,"ĠManage":42650,"/yyyy":42651,"IOUS":42652,"ENCES":42653,"ĠFiction":42654,"ĉmenu":42655,"ĠFileOutputStream":42656,"ovan":42657,"ĠFeng":42658,"Ġskipping":42659,"getClass":42660,"anni":42661,"Ġrebounds":42662,"Ġpublicity":42663,"Ġingres":42664,"usement":42665,"Ġthoughtful":42666,".Chart":42667,"Ġhatte":42668,"passport":42669,"Ġhooked":42670,"ĠLens":42671,"Ġflagship":42672,"Ġstip":42673,"ĠGEN":42674,"Ġclues":42675,"ipv":42676,"ĠRise":42677,"ĠGew":42678,"tablename":42679,"Ġforemost":42680,"_validate":42681,"_analysis":42682,"olla":42683,"Ġqualifications":42684,"Ġdistributions":42685,"ĠFlower":42686,"Ġtense":42687,"Ġthankful":42688,"Ġclutch":42689,"Ġunified":42690,"roads":42691,"Ġsiti":42692,"Ġstall":42693,"_PRIORITY":42694,"cstdlib":42695,"_USERNAME":42696,".bytes":42697,"?page":42698,"ermalink":42699,"ĠVeget":42700,"/vnd":42701,"-author":42702,".NONE":42703,"ĠConcurrent":42704,"ĠCry":42705,"Ġstarters":42706,"ĠInteraction":42707,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":42708,"ĠLEVEL":42709,"Ell":42710,"ĠcomboBox":42711,"ĠTheresa":42712,"tek":42713,"_Handle":42714,"Ġaby":42715,".gdx":42716,",end":42717,"(Local":42718,"Ol":42719,"knife":42720,"arial":42721,"ĠHoff":42722,"Ġprostituerade":42723,"Doctor":42724,"Instances":42725,".SetValue":42726,"ĉfrom":42727,"Ġluxurious":42728,"Indent":42729,"Allocator":42730,"_DRAW":42731,"(\",\",":42732,"ĠFrances":42733,"ĠgroupBox":42734,"(schema":42735,"Printf":42736,"ORIES":42737,"-gradient":42738,"Ġreput":42739,"arin":42740,"_DONE":42741,"incre":42742,"ignty":42743,"Ġexert":42744,"Ġ-.":42745,"/App":42746,"-through":42747,"Ġdeclining":42748,"Ġdessert":42749,"Ġincumb":42750,"Ġdesignation":42751,".PORT":42752,",strong":42753,"Ġsandbox":42754,"Ġwines":42755,"ĠPav":42756,"$str":42757,"askell":42758,"Ġhö":42759,"ĠPY":42760,"GetInstance":42761,"TextInput":42762,"gameObject":42763,"/events":42764,"createdAt":42765,"ĠlocalVar":42766,"ĠWHITE":42767,"pered":42768,"ilege":42769,"efficient":42770,",color":42771,"cate":42772,"ĠCafe":42773,"Ġsimilarities":42774,"Ġpumps":42775,"ĠHungary":42776,".Username":42777,"Ġskate":42778,"Ġtouchdowns":42779,"Ġaccelerate":42780,"ĠHelen":42781,"OMEM":42782,"ĠKun":42783,"_vol":42784,"ĠfindAll":42785,"ĠMenschen":42786,"ahead":42787,");\"":42788,"kommen":42789,"Ġpossessed":42790,".argmax":42791,".transition":42792,"ARP":42793,"OLUME":42794,"(script":42795,"ĠÐĺ":42796,"ĠFinding":42797,"onces":42798,"Io":42799,"Bold":42800,"Ġrenewal":42801,"_DIALOG":42802,"Ġdisreg":42803,"INTERN":42804,"Ġtoute":42805,"Ġelectr":42806,"ĠGross":42807,"ĉtrue":42808,".Fields":42809,"ĠWIDTH":42810,"ĠDent":42811,"ĠÃģ":42812,"NSNotification":42813,"Ġaos":42814,"Ġmelee":42815,".Validation":42816,"ĠDEC":42817,"-dependent":42818,"Ġsuic":42819,"Traits":42820,"$message":42821,"ĠDear":42822,"ĉFILE":42823,"languages":42824,".Prot":42825,".addr":42826,"-generation":42827,"ICON":42828,"Ġtransplant":42829,"-description":42830,"Ġchasing":42831,"Ġchees":42832,"Ġ}*/Ċ":42833,"Trad":42834,"queries":42835,"/widgets":42836,"subpackage":42837,"Ġespec":42838,"Ġcracked":42839,"Ġcompetitor":42840,"Purchase":42841,"-team":42842,"olecular":42843,"orThunk":42844,"&P":42845,"Ġrelent":42846,"/#{":42847,"ĠproductId":42848,"Ġè¾":42849,"ĠLav":42850,"ĠAlter":42851,".Mode":42852,"ADIO":42853,"grp":42854,"æ·»åĬł":42855,"Quit":42856,"Ġdepths":42857,"-category":42858,"ĠDATABASE":42859,"SPELL":42860,"ĠFalcon":42861,"ĠQStringList":42862,"Ġ''.":42863,"ĠInstitution":42864,"damage":42865,"azor":42866,"belongsTo":42867,"verages":42868,"ĠNONE":42869,"ippets":42870,",\\Ċ":42871,"Ġfootprint":42872,"_archive":42873,"nak":42874,".getField":42875,"ĠReflection":42876,"Ġ']":42877,"ĠHBO":42878,"_discount":42879,"Ġincest":42880,"ĠDodge":42881,"ĠWade":42882,".NO":42883,"\"encoding":42884,"ĠBlockchain":42885,"Ġlawsuits":42886,"ĠMaint":42887,"chten":42888,"Ġétait":42889,"Ġktóre":42890,"_ctl":42891,"(timer":42892,"Battle":42893,"izo":42894,"ayed":42895,"IOR":42896,"ĠGlasgow":42897,"Ġsynth":42898,"_logs":42899,".pose":42900,"_AdjustorThunk":42901,"((&":42902,"Ġunsure":42903,"ystate":42904,"íķĺëĬĶ":42905,"OULD":42906,".ng":42907,"Ġdefaultdict":42908,"workspace":42909,"Ġselective":42910,"PickerController":42911,"YNAMIC":42912,".methods":42913,"Ġpathways":42914,"ĠFew":42915,"KG":42916,"CRYPT":42917,"following":42918,"ĠDLC":42919,"ĠSara":42920,"Ġpreset":42921,"estructor":42922,"ĠKurt":42923,"Ġairplane":42924,"Ġomp":42925,"ĠParents":42926,"ĠMartinez":42927,".complete":42928,"Ġbroadly":42929,"Ġscare":42930,"ĠMé":42931,"Ġelimination":42932,"Ġpoured":42933,"/sw":42934,"Ġcomun":42935,"Ġmasc":42936,"ĠOrganic":42937,"ĠStringUtils":42938,"ilateral":42939,"Ġreluctant":42940,"-age":42941,"Ġnz":42942,".\"\\":42943,"Ġpastor":42944,"alez":42945,"Ġefect":42946,"prov":42947,"/init":42948,"Ġpenn":42949,"unds":42950,"Ġssize":42951,"ĠProj":42952,"basename":42953,"Ġshells":42954,"ĠNeck":42955,"ĠEnforcement":42956,"vided":42957,"stown":42958,"Sphere":42959,"$r":42960,"ussen":42961,"afil":42962,"ĠTelegram":42963,"Ġanalytical":42964,"нÑĭе":42965,"usually":42966,"xn":42967,"Ġhistorian":42968,"ĠGregory":42969,"olph":42970,"ĠUna":42971,"Ġcontributes":42972,"%-":42973,"antiago":42974,"ÑĢед":42975,".region":42976,"Ġabrupt":42977,"ĠUnsupportedOperationException":42978,"ĠTASK":42979,"_finish":42980,"Ġnotorious":42981,"ĠVs":42982,"ĠMQ":42983,"Ġsunset":42984,"Ġunacceptable":42985,"arcer":42986,"Ġillumin":42987,"ĠOrb":42988,"Ġbh":42989,"Este":42990,"_dispatch":42991,"Ġripped":42992,"Ġtoujours":42993,"ĠParcel":42994,"_ll":42995,".userName":42996,".classes":42997,"SOURCE":42998,"(Number":42999,"елÑı":43000,"Ġheadphones":43001,"(side":43002,"constitution":43003,"annah":43004,"čĊĠĠĠĠĠĠĠĠčĊ":43005,"Ġcliff":43006,"-ref":43007,"Ġmostrar":43008,"ĠPowell":43009,"+y":43010,"ĠBG":43011,"_fragment":43012,".Port":43013,"Ġrealizing":43014,"paramref":43015,"Ġhometown":43016,"@Table":43017,"+\"--}}Ċ":43196,"French":43197,"EntityManager":43198,"ĠPlain":43199,"////////////////////////////////////////////////////////////////////":43200,"³":43201,"(RE":43202,"capt":43203,"Ġorganisms":43204,"Ġjets":43205,"olocation":43206,"ĠAppRoutingModule":43207,"Ġglorious":43208,"æľį":43209,"Ġdiscarded":43210,"ĉĉĉĉĠĠĠĠĠ":43211,"ĠArnold":43212,"lug":43213,"Ġparl":43214,"Ġhormones":43215,"Ġmah":43216,"ĠSonic":43217,"Ġorganizers":43218,"_PLATFORM":43219,".inv":43220,"Ġchord":43221,"ventional":43222,"ĉof":43223,"Episode":43224,".Enum":43225,"unkt":43226,"ĠDh":43227,"ĠJared":43228,"ĠNak":43229,"Ġintends":43230,"Endian":43231,"Ġaustralia":43232,"_cv":43233,"(resolve":43234,"Ġclinics":43235,"liked":43236,"ASHINGTON":43237,"inha":43238,"'*":43239,"ĠNP":43240,"_beh":43241,"Ġhf":43242,"Ġwür":43243,"categoria":43244,"$form":43245,"Ġsubway":43246,"ĠisActive":43247,"popular":43248,"Cour":43249,"Ġcooldown":43250,"Ġainsi":43251,"ĠGLuint":43252,"ereal":43253,"ĠarrayOf":43254,"Ġhatch":43255,"==========":43256,"resses":43257,"_PP":43258,".^":43259,"_decay":43260,"ĠBless":43261,"metrics":43262,"ĠCOPYING":43263,"ĠDumpster":43264,"ĠJosé":43265,"ĠDesigns":43266,"<":43269,"Ġ\"}Ċ":43270,"timezone":43271,"Ġeer":43272,"maxcdn":43273,"ĠESC":43274,"igaret":43275,"_connected":43276,"_reverse":43277,"Ġquestionable":43278,"ĠUSC":43279,"Ġtutti":43280,"Ġdropout":43281,"ĠActivities":43282,"ĠWinds":43283,"')));Ċ":43284,"Ġcongest":43285,"ģı":43286,"Ġprolonged":43287,"è¿Ļ":43288,"ĠCrossAxisAlignment":43289,"LEEP":43290,"ĠVALID":43291,"ĠGaz":43292,"Ġdependence":43293,"ĠPrix":43294,".CompilerServices":43295,"jump":43296,"Ġstrat":43297,"circ":43298,"ĠCUSTOM":43299,"xaa":43300,"Ġbmp":43301,"Ġbureau":43302,"Ġwaren":43303,"NX":43304,"(Window":43305,"ĠChristie":43306,"_FE":43307,"Ġtn":43308,"ĠOmega":43309,"communications":43310,"HomePage":43311,"completion":43312,"Ġsupplying":43313,"YPES":43314,"ável":43315,"åζ":43316,"(click":43317,"\\Contracts":43318,"/questions":43319,"Ġez":43320,"AMS":43321,".mesh":43322,"Ġ'\\Ċ":43373,"Robot":43374,"JsonObject":43375,"ĠDF":43376,"ĠProcessor":43377,"_should":43378,".protobuf":43379,"-users":43380,"Ġembry":43381,"FONT":43382,"Ġstartups":43383,"ĠDataSource":43384,")#":43385,"uros":43386,"_Color":43387,"Ġstandalone":43388,"}[":43389,"jd":43390,"Ġforgive":43391,"Ġngx":43392,"ĠGenerally":43393,"Ġconfigurable":43394,"/order":43395,"Ġvas":43396,"')\";Ċ":43397,"ĠRR":43398,"ĠTroy":43399,"Ġcompromised":43400,"ĠSwan":43401,"intendent":43402,"Central":43403,"_keeper":43404,"Ġarquivo":43405,"ĠReadOnly":43406,"_curve":43407,"kv":43408,"entin":43409,"è±":43410,"ĠEy":43411,".imread":43412,"ĠPam":43413,"iffe":43414,"ativity":43415,"xbc":43416,"Ġgrim":43417,"-filled":43418,"namese":43419,"']:":43420,"Ġaur":43421,"ĠGibson":43422,".MouseEvent":43423,"Ġlado":43424,"avadoc":43425,"Ġfamil":43426,"ĠModer":43427,"fps":43428,"ãĢĢãĢĢ":43429,"-example":43430,"ĠAlzheimer":43431,"ĠUtf":43432,"_arguments":43433,"Conclusion":43434,"textContent":43435,"remaining":43436,"Ġinterrupts":43437,"ĠBackup":43438,"ĠMong":43439,"Ġreceptors":43440,"histor":43441,".coroutines":43442,"Ġshouted":43443,"Alarm":43444,"Ġcombust":43445,"Ġgrote":43446,"ultural":43447,"(ids":43448,"--------------------------------------------------------------------------------":43449,"iplinary":43450,"Opts":43451,"ĠYale":43452,"localStorage":43453,"Ġequival":43454,"ĠFleet":43455,"\\b":43456,"*pi":43457,"ĠQLabel":43458,"æ¡":43459,"Ġvx":43460,"ĠACL":43461,"Ġsucesso":43462,"Ġperc":43463,"ĠNotre":43464,"Ġanarch":43465,"Ring":43466,"spb":43467,"Ġstrpos":43468,"stores":43469,"ĠMaple":43470,"(MainActivity":43471,"(\"\"))":43472,"ĠviewHolder":43473,"Quad":43474,"Ġigual":43475,"orsche":43476,".margin":43477,"Ġindie":43478,"Ġfranc":43479,"ĠFormBuilder":43480,"ĠParticip":43481,".flash":43482,"Ġstorms":43483,"Ult":43484,"Ġfen":43485,"[new":43486,"Ever":43487,"=\"Ċ":43488,"Ġlocalized":43489,"_follow":43490,"Ġnave":43491,"Ġdominance":43492,"(tile":43493,"Journal":43494,"ĠVC":43495,"Ġpenetration":43496,"ï¼ķ":43497,"Ġcompartment":43498,"Ġbids":43499,"Formatted":43500,"******/ĊĊ":43501,"(city":43502,"âĢĶit":43503,"[C":43504,"ĠuseCallback":43505,"aub":43506,")?.":43507,"ĠVAR":43508,"ĠSebastian":43509,"ĠMoss":43510,"Ġabundant":43511,"Greg":43512,"ÑĤа":43513,"_ci":43514,"Ġbibli":43515,"CRM":43516,"ĠAttempt":43517,"isme":43518,"dash":43519,"ãĢİ":43520,"_mu":43521,".FormattingEnabled":43522,"Indeed":43523,"-direct":43524,"Ġsucking":43525,"Ġpne":43526,"ocabulary":43527,"ĠPackers":43528,".Navigation":43529,"Ġpied":43530,"cribing":43531,"ĠStuart":43532,".ToDouble":43533,"ĠSecondary":43534,"Saving":43535,"ĠDut":43536,"ĠMadd":43537,"Magic":43538,",H":43539,".documentElement":43540,"ĠBST":43541,"Ġdiffers":43542,"Ġmoreover":43543,"_nd":43544,"SEARCH":43545,"пÑĢав":43546,"æ´":43547,"toMatch":43548,"Ġdecreasing":43549,"-member":43550,"ampus":43551,"(boost":43552,"Daily":43553,"DataGridView":43554,"ĠHttpContext":43555,"Ġhipp":43556,"_workers":43557,"-language":43558,"éĵ":43559,"Ġconsisted":43560,"athing":43561,"ĠMercury":43562,"$content":43563,"Ġpracticed":43564,"ĠModules":43565,"_DAY":43566,"Ġweaknesses":43567,"ĠLodge":43568,"Ġnar":43569,"ĠMate":43570,"Ġjp":43571,"ĠHttpHeaders":43572,"Ġsmo":43573,"ĠTOKEN":43574,"])(":43575,"Ġaqui":43576,"swagen":43577,"Ġsrv":43578,"ĉans":43579,"Around":43580,"ĠManuel":43581,"Ġfictional":43582,"ĠIMG":43583,"Ġ.'":43584,"ĠBerry":43585,"Ġwallpaper":43586,"sexual":43587,"iero":43588,"ĠçļĦ":43589,"ìĨĮ":43590,"BackingField":43591,"ĠAdrian":43592,"BASEPATH":43593,"Ġrepeats":43594,"Ġblues":43595,"Ġunpredict":43596,"_coll":43597,"stacle":43598,"ĠTumblr":43599,"ĠElf":43600,"Ġassurance":43601,"Ġcensus":43602,"ĠIMPORT":43603,"ENDER":43604,"anos":43605,"Ġ=(":43606,"ĠEllis":43607,"\"ĊĊĊĊ":43608,".win":43609,"ĠAbove":43610,"alon":43611,"_tick":43612,"Ġrepresentations":43613,"Ġæķ":43614,"wid":43615,"ĠArms":43616,"Lista":43617,"_failure":43618,"_cm":43619,".FlatAppearance":43620,"Ġthrone":43621,"Patch":43622,"ĠVoy":43623,"engl":43624,"Ġnegotiating":43625,">`":43626,"Ġshoots":43627,"ĠFPS":43628,".Year":43629,"ĠKiss":43630,"ención":43631,"reeting":43632,"FromFile":43633,"Ġresignation":43634,"Ø·":43635,"Ġtwins":43636,"ượ":43637,"Ġgebru":43638,".getContent":43639,".Tree":43640,"ĠEmployees":43641,"ĠFIFA":43642,"Ġcertainty":43643,"(Cl":43644,"Ġtotals":43645,"editable":43646,"à¥Ģ":43647,".Reporting":43648,"Mas":43649,"quiet":43650,".rules":43651,"ĠVO":43652,"conexion":43653,",K":43654,"Ġallocator":43655,"ĠPowder":43656,"\\Repository":43657,"Beat":43658,"_tipo":43659,"Ġ['',":43660,"_INTR":43661,"Ġ<<<":43662,"\");čĊ":43691,"dropIfExists":43692,"ĠBeg":43693,"_HAL":43694,"ĠcrossAxisAlignment":43695,"ĠEvidence":43696,"Ġpeculiar":43697,"Ġinstitute":43698,"veis":43699,"Ġfft":43700,"Ãģ":43701,"Ġzoekt":43702,"analy":43703,"ĠHomeland":43704,"Ġpenetr":43705,"uddenly":43706,"ĉelement":43707,"ĠBren":43708,"ĠTrudeau":43709,"ĠCuban":43710,"jam":43711,"uslim":43712,"_ev":43713,"Ġstems":43714,"}%":43715,"Ŀå§ĭ":43716,"Ġbranding":43717,"Ġcorrespondence":43718,".jquery":43719,"¢åįķ":43720,"ĠReads":43721,"(HttpStatusCode":43722,"assin":43723,"(slot":43724,"ĠGraduate":43725,"///<":43726,"Ġinformations":43727,"ENABLE":43728,"Ġpuis":43729,"Ġfinder":43730,"ĠBris":43731,"Ġnettsteder":43732,"_mid":43733,"Ġogs":43734,"ĠSterling":43735,"Ġarrog":43736,"strftime":43737,"|ĊĊ":43738,"Ġvox":43739,"ĠRegardless":43740,"Ġeso":43741,"ĠComfort":43742,".BooleanField":43743,"Ġuh":43744,"ACY":43745,"Ġsqueez":43746,"ĠVic":43747,"contro":43748,".lo":43749,"Ġire":43750,"ĠComedy":43751,"ë¶":43752,"Ġoriginated":43753,"Ġshipment":43754,"|max":43755,"_guid":43756,"levation":43757,"наÑı":43758,"(undefined":43759,"ĠDDR":43760,"Ġshootings":43761,"ĠLatino":43762,"ENDOR":43763,"Ġaveraging":43764,"Ġgreeted":43765,"Ġtheaters":43766,"ое":43767,"ĠdB":43768,"Ġgst":43769,"Ġdefinite":43770,".Storage":43771,".her":43772,"Ġafore":43773,"ĠReality":43774,"ĠGods":43775,"versed":43776,"Ġhandsome":43777,"Ġexcluding":43778,"(ad":43779,"Quotes":43780,"ĠScheme":43781,"?q":43782,"ĠTamil":43783,"Ticks":43784,"Ġpest":43785,"'n":43786,"Ġpornography":43787,"_modal":43788,"Ġ----------":43789,"Ġdisposable":43790,"FREE":43791,"Ġshark":43792,"CHE":43793,"Ġdepicted":43794,"Ġdemonstrations":43795,"ĠKilled":43796,"ĠRULE":43797,"Ġobsessed":43798,"Ġsimplified":43799,"Postal":43800,"Ġconceptual":43801,"Ġpst":43802,"Las":43803,"_PROJECT":43804,"ucceeded":43805,"olu":43806,"ÄŁi":43807,"Ġpersonalities":43808,"Ġreshape":43809,"Ġenclosed":43810,"ĉptr":43811,"Ġtutorials":43812,"Ġexploded":43813,"_DIRECTORY":43814,"åĨħ容":43815,"Ġcanon":43816,"Ġrecognise":43817,"PAD":43818,"ĠApprox":43819,"ĠRestore":43820,"ĠImportant":43821,"Ġheavier":43822,".Sequential":43823,"Earth":43824,"ĠMilk":43825,".setRequest":43826,".tem":43827,"Ġreconstruct":43828,"Ġskeptical":43829,"_Private":43830,"BUF":43831,"qua":43832,":a":43833,"Ġsek":43834,"Ġdwell":43835,"ossa":43836,"Ġrewarded":43837,"ий":43838,"(topic":43839,"_partition":43840,"Ġ__________________":43841,"Keywords":43842,"ĠFranco":43843,"Lite":43844,"Ġnaken":43845,"Ġза":43846,"OBJECT":43847,"Ġcrafts":43848,"ĠSwap":43849,".Xna":43850,".Connect":43851,"Ġbalcony":43852,"(real":43853,"ĠBarnes":43854,"bir":43855,"ĠTwenty":43856,"ayan":43857,"atars":43858,"ĠPropel":43859,"ĠIhnen":43860,"Upgrade":43861,"Ġcurb":43862,"-second":43863,"Ġneph":43864,".pres":43865,"ìŀħ":43866,".seq":43867,"Ġpadded":43868,"\"?":43869,"jl":43870,"ãĥ¬":43871,"')a":43875,"Coordinates":43876,"Ġenacted":43877,"ENTS":43878,"Ġlac":43879,".final":43880,"ĠPhpStorm":43881,"called":43882,"Ġinquiries":43883,".middleware":43884,"ĠDowntown":43885,"/';Ċ":43886,"Ġkilomet":43887,"accel":43888,"Ġquien":43889,"wstring":43890,"setData":43891,"Ġmanera":43892,"Ġmodular":43893,"rimp":43894,"Ġtariffs":43895,"âĢĻil":43896,"_THROW":43897,"/color":43898,"ĠHTMLElement":43899,"Ġcarro":43900,"Ġprere":43901,"Ġplotting":43902,"ĠPositive":43903,"ĠMachines":43904,"OTES":43905,"Ỽ":43906,"pleasant":43907,"Ġalte":43908,"Ġainda":43909,"these":43910,"Ġcors":43911,"ipay":43912,"ĠAdvisory":43913,"ĠRubio":43914,"jq":43915,"Ġlimestone":43916,"Ġdetached":43917,"设置":43918,"tenant":43919,"ĠDepth":43920,"alore":43921,"ĠÑģÑĤÑĢок":43922,"ĠFORE":43923,"ĠLay":43924,"presentation":43925,")');Ċ":43926,".subplots":43927,"Ïĥ":43928,"NOW":43929,"Gar":43930,"handles":43931,"abra":43932,"puties":43933,"ĠElectrical":43934,"Middle":43935,"ropic":43936,"ĠJD":43937,"ĠDyn":43938,"ĠBristol":43939,"ĠMcCarthy":43940,"Ġstriker":43941,"Ġenumerable":43942,"ĠEvan":43943,".defaults":43944,"quences":43945,")||":43946,"ĉtoken":43947,"âĹı":43948,"-dropdown":43949,"STORE":43950,"ĠGraphic":43951,"(pp":43952,"Expl":43953,"Ġupwards":43954,"ĠDistributed":43955,"ĠWEB":43956,"Jer":43957,"isNaN":43958,"çĶŁæĪIJ":43959,">R":43960,"üssen":43961,"efs":43962,"Ġuncover":43963,"Ġlud":43964,".calculate":43965,"Ġintptr":43966,"Ġmidfielder":43967,".Headers":43968,"Ġmf":43969,"eref":43970,".Metro":43971,"ĠSpeaking":43972,":b":43973,"Ġcryptocurrencies":43974,"Ġdemons":43975,"ĉEXPECT":43976,"Ġwicked":43977,"youtube":43978,":Int":43979,"ĠHindi":43980,"ĠCAT":43981,"Ġع":43982,"rar":43983,"omore":43984,"/per":43985,"/license":43986,"Ġreim":43987,"Ġawaiting":43988,"Ġlethal":43989,"ĠEF":43990,"rounded":43991,"ĠPlatinum":43992,"ĠвÑģе":43993,".coords":43994,".Device":43995,"/item":43996,"ĠWenn":43997,"compileComponents":43998,"ĠKinder":43999,".removeItem":44000,"Ġanda":44001,"bnb":44002,"Ġpra":44003,"(transaction":44004,"Ġembarrassing":44005,"ĉBOOL":44006,".contentView":44007,"Ġeventdata":44008,"atore":44009,"ĠprovidedIn":44010,"irma":44011,"Ġzona":44012,"_HW":44013,"æĻ":44014,"Ġstove":44015,"Ġcounterpart":44016,"_Product":44017,"_MANAGER":44018,"Ġinfring":44019,"ĠERA":44020,"_party":44021,"Ñij":44022,"Ġinici":44023,"_Request":44024,"Ġmiracle":44025,"ĠcancelButton":44026,"Spy":44027,"ató":44028,"Ġpolish":44029,"ĠNicole":44030,".displayName":44031,"\\Requests":44032,"ĠuseHistory":44033,"RouterModule":44034,"Ġstared":44035,"IDER":44036,"ÑĥнкÑĨи":44037,"Ġnota":44038,"$arr":44039,"pecified":44040,"Ġtopp":44041,"_DRIVER":44042,"/ng":44043,"åł":44044,"_tm":44045,"%timeout":44046,"\"":44488,"tlement":44489,"$(\"":44490,"FromString":44491,"ĠBild":44492,"Ġconventions":44493,"_native":44494,"ĠInspector":44495,"ĠPist":44496,"ubar":44497,"Ġregs":44498,"ĠPilot":44499,"Thus":44500,">'+":44501,"Ġcela":44502,".news":44503,"(Product":44504,"Living":44505,"Russia":44506,"Ġfacet":44507,"etical":44508,"Ġ['$":44509,"/[":44510,"ĠDire":44511,"Ġgases":44512,"ĠINFORMATION":44513,"ĠEat":44514,"ĠForums":44515,"ĠCharacters":44516,"_met":44517,"Ġìĭľ":44518,"Ġkings":44519,"achie":44520,"ĠLambda":44521,"Ġtimers":44522,"ĠLighting":44523,"ĠCasey":44524,"addir":44525,"andex":44526,".answer":44527,"ĠHip":44528,"ĠPrincip":44529,"StartDate":44530,"ĠãĢĮ":44531,"tres":44532,"Ġ&#":44533,".MaxValue":44534,"ĠProblems":44535,"Ġlatex":44536,"OfClass":44537,"ĠLynn":44538,"//'":44539,"Ġvoyage":44540,"Ġshuttle":44541,"ĠRoller":44542,"ĠRuntimeError":44543,"uya":44544,"Dic":44545,"ĉbuilder":44546,"Ġbullying":44547,"Ġsimplest":44548,".called":44549,"ĠLR":44550,"Ġmorality":44551,"Ġsturdy":44552,"tracking":44553,".swagger":44554,"_BIND":44555,"ITOR":44556,"-urlencoded":44557,"ĠÑħ":44558,"ĠTrinity":44559,"Ġtraps":44560,"Ġ|-":44561,"ĠsetText":44562,"Ġbargain":44563,"Ġbrakes":44564,".getCode":44565,"Ġmigrate":44566,"Ġribbon":44567,")return":44568,"Ġcharger":44569,"acom":44570,"ADIUS":44571,"ĠAmbassador":44572,"-after":44573,"Ġanni":44574,"ĉspin":44575,"Concept":44576,"ĠHenderson":44577,"ĠHOST":44578,".rank":44579,"ĠNortheast":44580,"Ġberlin":44581,"Ġrequis":44582,".feed":44583,"ĠsourceMapping":44584,"ĠRencontre":44585,".ajax":44586,"nestjs":44587,"Ġtrek":44588,"ĠNacional":44589,"Ġ&[":44590,"Ġpayable":44591,"ortex":44592,"Ġdept":44593,"fieldName":44594,"Ġcompletes":44595,"ĠRVA":44596,"Ġonions":44597,"alignment":44598,"Formats":44599,"Ġ'{$":44600,"HashSet":44601,"ĠBod":44602,".InvariantCulture":44603,"Ġsettlements":44604,"Ġhydr":44605,".updated":44606,"venth":44607,"(seconds":44608,"=\"/\"":44609,"Ġwebpage":44610,"(ĊĊ":44611,"Ġtir":44612,"Ġtoes":44613,"ĠBrick":44614,"Ġambition":44615,"Pot":44616,"=max":44617,"ETIME":44618,"Ġdepot":44619,"calls":44620,"ĠNorwegian":44621,"`:":44622,"Ġburger":44623,"Ġprofessors":44624,"ĠAllocate":44625,"-thirds":44626,"-chart":44627,"Ġford":44628,"*N":44629,".kotlin":44630,"Ġpaperwork":44631,"ĠDEVICE":44632,"%@\",":44633,"respect":44634,"(mp":44635,"é«ĺ":44636,"-if":44637,"Ġcushion":44638,"obot":44639,"Ġparc":44640,"SPACE":44641,"ĠNetanyahu":44642,"Ġselfish":44643,"feat":44644,"Ġclientes":44645,"-tools":44646,"Ġporch":44647,"Ġjq":44648,".verbose":44649,"Ġliberals":44650,"])ĊĊĊ":44651,"pies":44652,"NotBlank":44653,"(term":44654,"ÈĽi":44655,"_Params":44656,".normalize":44657,"Bullet":44658,"ASIC":44659,"(hex":44660,"_cliente":44661,"+,":44662,"_DI":44663,"Ġforthcoming":44664,"}\")]Ċ":44665,"seo":44666,"Um":44667,">Name":44668,"Ġcomfortably":44669,"irectional":44670,"WITH":44671,"/pr":44672,"ĠPoor":44673,"ĠVitamin":44674,"vic":44675,"GH":44676,"Ġpriorit":44677,"ĠNN":44678,"ĠClosed":44679,"¤í":44680,"ĠisOpen":44681,"\\Console":44682,"AndFeel":44683,".SUCCESS":44684,"_OPERATION":44685,"polation":44686,"ĠTas":44687,"psz":44688,">'.":44689,"CURRENT":44690,"Vendor":44691,"hosts":44692,"ĠErd":44693,">tagger":44694,"ĠsourceMappingURL":44695,"Ġmarathon":44696,"_closed":44697,"Ġexemption":44698,"Ġrecognizes":44699,"ideshow":44700,"'$":44701,"('/');Ċ":44702,"mits":44703,"warz":44704,"ĠCherry":44705,"µ¬":44706,"nor":44707,"porte":44708,"Ġwl":44709,"_backup":44710,".getBoolean":44711,".getResource":44712,"Ġdefinitive":44713,".EditText":44714,"ĠsÃŃ":44715,".CONT":44716,"ĠPLAYER":44717,".cards":44718,"ĠShore":44719,"('/')Ċ":44720,"cluir":44721,"WebDriver":44722,"(month":44723,"-release":44724,"Ġinspector":44725,"å£":44726,"ĠNF":44727,"_clip":44728,"åŃIJ":44729,"Ġinteracting":44730,".tmp":44731,"Ġ'''ĊĊ":44732,"Ġdee":44733,"Ġfrost":44734,"\"]))Ċ":44735,"ĠPlaces":44736,"Throws":44737,"fork":44738,"/day":44739,"iPhone":44740,"ĠMIC":44741,"Ġfolding":44742,"Ġcrore":44743,"ĠChiefs":44744,"pherical":44745,"(price":44746,".WriteString":44747,"Ġexiting":44748,"]',Ċ":44749,"ighting":44750,"Ingredient":44751,"(vertex":44752,"ĠscrollView":44753,"hf":44754,":new":44755,"SEN":44756,"sector":44757,"Ġspins":44758,"ĠScheduler":44759,"otechn":44760,"semicolon":44761,"FontOfSize":44762,"ĠSpecifically":44763,"flamm":44764,".ObjectId":44765,"Ġconta":44766,"_permissions":44767,"ĉFROM":44768,"ICODE":44769,"/kg":44770,"ĠHotels":44771,"-med":44772,"ĠDin":44773,"Ġnavy":44774,"getParam":44775,"Ġmend":44776,"Ġportrayed":44777,"ĠMetropolitan":44778,"Painter":44779,"Ġreferral":44780,"_good":44781,"Ġmarvel":44782,"osaic":44783,">(&":44784,".ur":44785,"Ġestos":44786,"William":44787,"Ġtimber":44788,"Ġquelques":44789,"ĠDocuments":44790,".Xaml":44791,"Ġbatches":44792,"éģĵ":44793,"ĠReleased":44794,"Tail":44795,"COOKIE":44796,"heid":44797,"_station":44798,"ĠVia":44799,"Sale":44800,"ĠRepeat":44801,"Ġpromin":44802,"ĠZo":44803,"-forward":44804,"ĠIon":44805,"itary":44806,"Ġjus":44807,"-request":44808,"Ġproudly":44809,"ĠStreaming":44810,"(MouseEvent":44811,"ĠSprint":44812,"_rotation":44813,"Repositories":44814,"Ġtart":44815,"ĠÑģв":44816,"Ġmappings":44817,"èª":44818,"Cu":44819,"Cycle":44820,"Ġbun":44821,"ĉlua":44822,"ãĥī":44823,"Ġ((!":44824,"Ġcollectively":44825,"ĠCond":44826,"Ġwszyst":44827,"(lib":44828,"openhagen":44829,"_skip":44830,".ColumnHeader":44831,"éĤ":44832,"perienced":44833,"ıè¿°":44834,"_props":44835,"Ġcontrace":44836,"Ġmatchup":44837,"abetic":44838,".members":44839,"RECT":44840,"(dat":44841,"Ġsog":44842,"renom":44843,"_Method":44844,"Customers":44845,"fullname":44846,"ZN":44847,"retry":44848,"Ġkap":44849,"ĠNeu":44850,"èĬ":44851,"addChild":44852,"willReturn":44853,"_permalink":44854,"Ġenergetic":44855,"ĠWet":44856,"ĠMorr":44857,"Ġgcd":44858,"counts":44859,",type":44860,"dig":44861,"(Login":44862,"Ġcracks":44863,"Ġbacterial":44864,"ĠMeat":44865,"ĠArmstrong":44866,"ĠBronze":44867,"Ġapproximate":44868,"_dirs":44869,"liga":44870,"ÅĤad":44871,"Ġkindness":44872,"Ġcontre":44873,"ĠEVERY":44874,"MET":44875,"Ġannouncements":44876,"gpio":44877,"ĠWaitForSeconds":44878,"ĠPhotoshop":44879,"Ġdiscontin":44880,"/dd":44881,"Ġtopology":44882,"anical":44883,".interface":44884,"aucoup":44885,".HashSet":44886,"ARIANT":44887,"(routes":44888,"ĠTeh":44889,"Ġhype":44890,"]\").":44891,"Ġslam":44892,"Ġbroth":44893,"-inter":44894,"ĠRid":44895,"-manager":44896,"Cancelar":44897,"ĠPagination":44898,"Ġsoundtrack":44899,"Ġposterior":44900,"Ġscrub":44901,"creating":44902,"-*":44903,"irteen":44904,".dy":44905,".symmetric":44906,"Ġ\"\".":44907,"===============":44908,"Ġchassis":44909,"ĠnumberOfRows":44910,"Developer":44911,"_bins":44912,"ĠOUR":44913,"rieb":44914,"Pros":44915,"ĠwiÄĻ":44916,"\"d":44917,"Ġasyncio":44918,"zeigen":44919,"_spi":44920,".ALL":44921,"Ġscrews":44922,"Chinese":44923,"ĠapiKey":44924,"Ġunsuccessful":44925,"ĠSeahawks":44926,"ORG":44927,"竳":44928,"Ġprofessionally":44929,"ĠCoupon":44930,"åŃĹæ®µ":44931,"Convention":44932,"Ġpolym":44933,"æīĭ":44934,"Ġsalvation":44935,"Ġengineered":44936,"ĠWrest":44937,"ĠGCC":44938,"Ġwarmer":44939,"LayoutConstraint":44940,"Ġaggrav":44941,"Scripts":44942,"venture":44943,"Ġrefrigerator":44944,"Ġinnovations":44945,"ĠRunner":44946,"NIC":44947,"ĠRolling":44948,"ControlEvents":44949,"Ġloos":44950,"pac":44951,"ĉpanel":44952,"efe":44953,"ĠBuddha":44954,"--------------Ċ":44955,"åºĵ":44956,"(forKey":44957,"Ġlumin":44958,"Ġ(?":44959,"ĠAIDS":44960,",user":44961,"imientos":44962,"contentType":44963,"antlr":44964,"é¦":44965,"ĠWelt":44966,"Production":44967,"might":44968,"ĠVII":44969,"\",(":44970,"Ġobserving":44971,"Ġdeliberate":44972,"(control":44973,"Ġwithd":44974,"Ġsemana":44975,"STACK":44976,"uchen":44977,"Nice":44978,"ĠDeutschland":44979,"ĠSpecifies":44980,"dma":44981,"izio":44982,"ĠFacts":44983,"_popup":44984,"ĠDirectors":44985,"{:":44986,"[R":44987,"ĠÑįлеменÑĤ":44988,"Ġplat":44989,"Ġdirecting":44990,"ä¸ī":44991,"ĠGilbert":44992,"â̦.ĊĊ":44993,".qml":44994,"Ġthereafter":44995,"Ġdisposition":44996,"draft":44997,"Ġsurgeon":44998,"ĠInsider":44999,"Blend":45000,"ĠTrev":45001,"trinsic":45002,"Topics":45003,"rieve":45004,"_FILENAME":45005,"Ġautres":45006,"Jose":45007,"Producer":45008,"erus":45009,"Ġpetit":45010,"ĠNEXT":45011,"ĠFilters":45012,"Ġreplicate":45013,"\"]).":45014,"Ġlenders":45015,"]\",Ċ":45016,";charset":45017,"CppObject":45018,"Ġfloral":45019,"ĠTipo":45020,"Ġcircuits":45021,"easy":45022,"(&$":45023,"itta":45024,"eryl":45025,"_COMMON":45026,"'}}>Ċ":45027,"-backed":45028,"(variable":45029,"(Index":45030,"Ġvoir":45031,"_locations":45032,"++){":45033,"ĠLouisville":45034,"Ġgratitude":45035,".Mockito":45036,"ĠPowers":45037,"ieurs":45038,"Ġgeographic":45039,"rale":45040,"Ġcra":45041,"ĠSpurs":45042,"iphertext":45043,"ACION":45044,"-common":45045,"Ġvictories":45046,"ĠFinals":45047,".shuffle":45048,"-million":45049,"_PROC":45050,"assume":45051,"Ġils":45052,"DBC":45053,"BootTest":45054,"Ġlavor":45055,".testing":45056,".ast":45057,"\"]/":45058,"moid":45059,"Ġqualification":45060,"gesch":45061,"ĉput":45062,"Ġairports":45063,"JI":45064,"Teacher":45065,"_uniform":45066,"Ġnama":45067,"ĠBast":45068,"ertype":45069,"capture":45070,"getAll":45071,"ĠReynolds":45072,"ooled":45073,".comments":45074,"Ġchin":45075,").*":45076,"Ġили":45077,"tgl":45078,"udos":45079,"ĠdÃŃas":45080,"chai":45081,".program":45082,"Ġpsz":45083,"ĉicon":45084,"phil":45085,"entral":45086,"_WRAP":45087,"ovi":45088,"Ġnostalg":45089,"Infinity":45090,"ĉyield":45091,"Ġvitamins":45092,"Quaternion":45093,"Sink":45094,"_goods":45095,"Ġ........":45096,"ĠWings":45097,"uridad":45098,"-story":45099,"\"])ĊĊ":45100,"idelity":45101,"TypeDef":45102,"Gtk":45103,"ĠíĮ":45104,"_Main":45105,"Ġchez":45106,"ĠRaven":45107,"Ġpayroll":45108,"Ġfreelance":45109,"LLU":45110,"ĠMend":45111,"eday":45112,"ApiModelProperty":45113,".FormBorderStyle":45114,"Ġeconomist":45115,"stanbul":45116,"Ġfreight":45117,"-Agent":45118,"(meta":45119,"Ġsymmetry":45120,"Ġ'..":45121,".Calendar":45122,"-aut":45123,"gf":45124,"pent":45125,"yclopedia":45126,"Ġwishing":45127,"ĊĊĊĊĊĊĊĊĊĊĊĊ":45128,"Ġgentleman":45129,"Ġê³":45130,"=#":45131,"Ġlectures":45132,"âĢľIn":45133,"Ġ!_":45134,"Ġhb":45135,"ĠVendor":45136,"Recently":45137,"_notes":45138,"æıIJ示":45139,"\"My":45140,"HeadersHeight":45141,"_SO":45142,"Ġunwilling":45143,"Ġsuperhero":45144,"gio":45145,"psy":45146,"ĠPeer":45147,"javax":45148,"&apos":45149,"ĠCrisis":45150,"ordinal":45151,"Memcpy":45152,"++++++++++++++++":45153,"-val":45154,"Ġworkbook":45155,"-ap":45156,"=k":45157,"Ġmetallic":45158,"_peer":45159,"ByPrimaryKey":45160,"_SD":45161,"uator":45162,"_SHADER":45163,")Math":45164,".Transform":45165,"Ġcows":45166,"Phi":45167,"ĠClem":45168,"(_(\"":45169,"ĠLud":45170,"-delay":45171,"ĠSecurities":45172,"ĠOrthodox":45173,"Symfony":45174,"(report":45175,"Ġentertain":45176,"EPS":45177,"izoph":45178,"exual":45179,"IRD":45180,"ä»İ":45181,"Ġlith":45182,"Ġsanitize":45183,"Ġfeminine":45184,"ISBN":45185,".authentication":45186,"_pipeline":45187,"/constants":45188,"ĠCONF":45189,"Ġlucr":45190,"ricia":45191,".ttf":45192,".setContent":45193,"Ġstan":45194,"orean":45195,"ĠLloyd":45196,".rawValue":45197,"Ġgor":45198,"ĠBrowns":45199,"Regression":45200,"Ġlowering":45201,"naissance":45202,"Ġblows":45203,"Ġamazed":45204,"Ġunrelated":45205,"Reviews":45206,"Ġruby":45207,"ĠModifier":45208,"Ġgiants":45209,".thread":45210,"Ġcontainment":45211,"ĠStartCoroutine":45212,"umat":45213,"orelease":45214,"ĠRandy":45215,"@endif":45216,"Digest":45217,"Ġsuburban":45218,"=\");Ċ":45219,"Ġannonce":45220,".variable":45221,"\\Foundation":45222,"Ġacre":45223,"Van":45224,"Ġtuples":45225,"dns":45226,"ĠStanding":45227,"_large":45228,"Ġboxing":45229,"SupportActionBar":45230,"ĠFortune":45231,"ĠRum":45232,"_multiple":45233,"archical":45234,"Ġfwrite":45235,"_quote":45236,"Ġfoolish":45237,"Ġcomprising":45238,"Ġоп":45239,"-selected":45240,"vf":45241,"maid":45242,"Nama":45243,"(datetime":45244,"Ġindirectly":45245,"gart":45246,"fixtures":45247,"chos":45248,"ĠHalo":45249,"Ġrecurring":45250,"-news":45251,"vil":45252,"ĠNursing":45253,"-produ":45254,"ĠHQ":45255,"\\HttpFoundation":45256,"enci":45257,"auen":45258,"Ġvy":45259,"ocracy":45260,"Ġdelegation":45261,"Ġasphalt":45262,"ĠsetSelected":45263,"kok":45264,"/rest":45265,"metics":45266,"ĠNSDate":45267,"Ġtravelled":45268,"Ġrecib":45269,"Ġmime":45270,"CLIENT":45271,"ĠGU":45272,"ĠHANDLE":45273,"/Q":45274,"[z":45275,"Ġbothered":45276,"ĠBBQ":45277,"ças":45278,"_examples":45279,"_FIN":45280,"ĠwhiteColor":45281,"Ġastronom":45282,"-dir":45283,"Ġsovereign":45284,"Ġbreeze":45285,"Ġinning":45286,"ĠEdmonton":45287,"gli":45288,".blogspot":45289,"jsx":45290,"Ġversa":45291,"ĠMohammed":45292,".Job":45293,"-toggler":45294,"ĠполÑĮзоваÑĤ":45295,"ardon":45296,"Ġnewborn":45297,"Ġnaval":45298,"noteq":45299,"Ġtumblr":45300,"Ġhentai":45301,"ĠTypically":45302,"Ġloot":45303,".Sprite":45304,"Flight":45305,"Ġwavelength":45306,"-sk":45307,"ĠElle":45308,"_exports":45309,"ĠÑı":45310,"ĠIH":45311,"izophren":45312,"Ġíģ":45313,"_primary":45314,"Ġmois":45315,"ĠBN":45316,"Ġsystemic":45317,"Ġdiferentes":45318,"INCT":45319,"Ġ''ĊĊ":45320,"$q":45321,"WidgetItem":45322,"clide":45323,"$file":45324,"Lemma":45325,"/table":45326,"agrid":45327,"ĠMongoDB":45328,"inte":45329,"Ġapprent":45330,"ÂŃing":45331,".Db":45332,"ĠÃĤ":45333,"hammer":45334,"='';Ċ":45335,"Ġbrokers":45336,"itlement":45337,"semblies":45338,"Ele":45339,"{x":45340,"Ġlastname":45341,"<-":45342,"Ġflatten":45343,"_band":45344,".Root":45345,".readFileSync":45346,"======":45347,".rx":45348,"?čĊ":45349,"Ġmetaphor":45350,"Ti":45351,"conte":45352,"Ġdebit":45353,"Ġcontempt":45354,"CppType":45355,"æĶ¯":45356,"FormField":45357,"ratio":45358,"osopher":45359,"Ġimplant":45360,"PURE":45361,"Ġalta":45362,"_management":45363,"Ġrefine":45364,"ĠCheckBox":45365,"ĠCharl":45366,"-version":45367,"conditional":45368,"venues":45369,"Ġrifles":45370,"Ġoffspring":45371,"Ġmilling":45372,"Ġsharply":45373,"Ġunderwater":45374,"(origin":45375,"_Control":45376,"Ġ.$":45377,"Plugins":45378,"Ġdrying":45379,"Ġillustrates":45380,"-u":45381,"Ġvegetarian":45382,"npc":45383,"Heart":45384,";',Ċ":45385,"comma":45386,"teenth":45387,"asan":45388,"/spec":45389,"_moves":45390,"-margin":45391,"Ġingen":45392,"³³³":45393,"Ġprojet":45394,"Ġotra":45395,"Ġbras":45396,".utc":45397,"Ġslept":45398,"=sub":45399,"abilit":45400,"poster":45401,"Ġsdk":45402,"ouncill":45403,"Ġwd":45404,"PreparedStatement":45405,"ĠDrum":45406,"(attribute":45407,"ĠEthernet":45408,"ĉDB":45409,"California":45410,"cube":45411,"[I":45412,".Created":45413,"ĠHM":45414,"Ġtracing":45415,"FormsModule":45416,"-you":45417,".currency":45418,"feeding":45419,"Ġtbody":45420,"Li":45421,"accion":45422,"nas":45423,"Ġtrouver":45424,"NONE":45425,"\"},čĊ":45426,"Ġftp":45427,"WithIdentifier":45428,"polate":45429,"FileInfo":45430,"Ġpursued":45431,"ĠĠĠĠčĊĠĠĠĠčĊ":45432,"DESCRIPTION":45433,"}*/Ċ":45434,"FromNib":45435,"Ġdecorative":45436,"_SSL":45437,"(chat":45438,"TLS":45439,"Ġsurprises":45440,"alculate":45441,"ĠSplash":45442,"(Configuration":45443,"ĠSEM":45444,"imson":45445,"/library":45446,"":45521,"GED":45522,"faq":45523,"Ġoptionally":45524,"_Dis":45525,"ĠSuccessful":45526,"ĠCensus":45527,"Ġincarcer":45528,"_CARD":45529,"Ġaviation":45530,"ĠGym":45531,"Authority":45532,".Bean":45533,"shader":45534,"NotExist":45535,"_TextChanged":45536,"ĠSTOP":45537,"(team":45538,"\"H":45539,"wg":45540,"Ġgrinder":45541,"Ġstripe":45542,"Ġpreservation":45543,"Claim":45544,"aversal":45545,"warehouse":45546,"targets":45547,"Trust":45548,"Ġallev":45549,",www":45550,"ousse":45551,"_chan":45552,"_Size":45553,"systems":45554,"Ġobjection":45555,"ĠKane":45556,"Ġcorros":45557,"ĠDSL":45558,"Ġua":45559,"ĠMH":45560,"ĠStrategic":45561,"_tcp":45562,"Ġê°Ĵ":45563,"Ġborrowed":45564,"ĠAch":45565,"ĉcommand":45566,"Ġgps":45567,"leston":45568,"ichever":45569,"ĠUA":45570,"Ġassaulted":45571,"Ġspecializes":45572,"ĉsearch":45573,"Hotel":45574,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠčĊ":45575,"ĠPitch":45576,"ĠÙģ":45577,"READY":45578,"Ġparental":45579,"Ġgéné":45580,"Ġdonnées":45581,"Ġdetain":45582,"TARGET":45583,"Ġprotagonist":45584,"ĠclearInterval":45585,"ĠIconButton":45586,"ĠGetAll":45587,"TypeInfo":45588,"EH":45589,"âĢľThey":45590,"Ġ{[":45591,"Ġgag":45592,"ĠÚ©":45593,"ĠDropdown":45594,".free":45595,"gone":45596,"imens":45597,"Ġinstal":45598,"ĉcurl":45599,"_CAN":45600,"ĠBone":45601,"ï¼Ķ":45602,"onyms":45603,"-government":45604,".bindingNavigator":45605,"ĠDans":45606,"ĠMcL":45607,"(en":45608,">(_":45609,"ÐĴÑĭ":45610,".*;čĊ":45611,"=j":45612,"-cor":45613,"Son":45614,".ToolStripItem":45615,"-around":45616,"_XML":45617,"endDate":45618,"Ġslack":45619,"Ġrotated":45620,"Ġnoqa":45621,"Ġcottage":45622,"Ġencontrar":45623,"_skill":45624,"houette":45625,"!čĊ":45626,".weather":45627,"Ġemphasized":45628,"å®¶":45629,"ĠÑģпиÑģ":45630,"ĠCompiler":45631,"(android":45632,"ĠâĢº":45633,".turn":45634,"Ġsuppression":45635,"_calls":45636,"Ġ*@":45637,"(strlen":45638,".hex":45639,"ĠBills":45640,"ĠRSA":45641,"ÏĤ":45642,"ĠEscape":45643,"ementia":45644,"Ġfrontend":45645,"Ġpint":45646,"_exc":45647,"zzo":45648,"[],Ċ":45649,"Ġ\"','\"":45650,".Environment":45651,"Ġaforementioned":45652,"Ġendure":45653,"prototype":45654,"therapy":45655,"ssi":45656,"Deg":45657,"_plugins":45658,".userInfo":45659,"Printer":45660,"ĠPROGRAM":45661,"Ġruins":45662,"Ġempirical":45663,"Ġcrawl":45664,"ĠBoiler":45665,"-comment":45666,".subplot":45667,"_et":45668,"Ġ'.',":45669,"minor":45670,"ĠCustoms":45671,"Ġyaw":45672,"underline":45673,"ĠComo":45674,"(('":45675,"(mean":45676,"Ġchaque":45677,"ĠBlocks":45678,".rad":45679,"ilibrium":45680,"Ġwebdriver":45681,"Ġmelhor":45682,"dana":45683,"ĠAbuse":45684,"ĠSouthwest":45685,"ĠParen":45686,"PERTIES":45687,"ĉIL":45688,"Ġscream":45689,"vu":45690,"Ġincomes":45691,"Ġnim":45692,"Ġlace":45693,"Ġcompensate":45694,"Reverse":45695,"Dat":45696,"_attack":45697,"Ġnour":45698,"achen":45699,"cek":45700,"\"+":45957,"Ġtokenizer":45958,"Ġsovereignty":45959,"ĠPence":45960,"()\");Ċ":45961,"Ġpessoas":45962,".Ge":45963,"ĠIncluded":45964,"Ġpagina":45965,"Ġexposing":45966,"еÑĪ":45967,"_SCRIPT":45968,"/$',":45969,"Thumbnail":45970,"×Ķ":45971,"webElementX":45972,"webElementXpaths":45973,"pressure":45974,"ĠCurry":45975,"_CP":45976,"OLUTION":45977,"ILES":45978,"protect":45979,"oola":45980,"Workspace":45981,"{};Ċ":45982,"ĠUNS":45983,"Ġsympathy":45984,"roker":45985,"Ġremodel":45986,"ĉcell":45987,"Ġatop":45988,".FullName":45989,"Ġfaut":45990,"ĠEasily":45991,"_dynamic":45992,"Ġframed":45993,"Ġmotive":45994,"è·¯":45995,"sam":45996,"Ġmarca":45997,"ĠTextEditingController":45998,"Ġdestructor":45999,"cream":46000,"Ġrude":46001,"ĠBold":46002,"ĠIndigenous":46003,"Ġgens":46004,"Ġrelacion":46005,"(system":46006,"ĠUIFont":46007,"_charge":46008,"USTER":46009,"EV":46010,".Namespace":46011,"Ġmerger":46012,"Ġcalloc":46013,"gang":46014,"BadRequest":46015,"Ġsper":46016,"-design":46017,"Ġâĩ":46018,"Chan":46019,"Ġorganism":46020,",)":46021,"=id":46022,"_plane":46023,"ĠCases":46024,"elfast":46025,"ĠLegislature":46026,"ĠFaker":46027,"Ġinvoking":46028,"-utils":46029,"().'":46030,".face":46031,"Ġguardian":46032,"myModal":46033,"Ġclipboard":46034,"ĠATM":46035,"Ġpeas":46036,"ĠSylv":46037,".calc":46038,"ĠContacts":46039,"intValue":46040,"Ġmodifying":46041,"ĠBarb":46042,".loss":46043,"_percentage":46044,"Asked":46045,"(lst":46046,"ategorical":46047,"-files":46048,"ĠRomania":46049,".Ac":46050,"Ġhai":46051,"ĠFlying":46052,"Ġż":46053,"jp":46054,"ĠTrainer":46055,".arc":46056,"_deg":46057,"Ġtraceback":46058,"OrFail":46059,"FLOW":46060,".old":46061,"oya":46062,"gmt":46063,"isempty":46064,"Ġvaccination":46065,"Ġobsolete":46066,"recognized":46067,"Ġruined":46068,"ĠRein":46069,"ĠTracking":46070,"xfb":46071,"اÛĮ":46072,"Ġvære":46073,"Ġbryster":46074,"ĠITS":46075,"Ġdestiny":46076,"Ġswear":46077,"Ġredes":46078,"Ġclf":46079,"Ġflipped":46080,"ĉhead":46081,"Bluetooth":46082,"ĠOverrides":46083,":Boolean":46084,"_=":46085,"_lr":46086,"spawn":46087,":index":46088,"VALUES":46089,"iskey":46090,"?\");Ċ":46091,".synthetic":46092,"ĠChecking":46093,"structures":46094,"iping":46095,"Ġvocals":46096,"-Up":46097,"ĠManufacturers":46098,"ĠMarriage":46099,"代çłģ":46100,"Ġgarner":46101,"_Client":46102,"parallel":46103,"RIEND":46104,"Ġvinegar":46105,"segue":46106,"JB":46107,"Ġcontacting":46108,"ĠCarroll":46109,"Ġoutreach":46110,"tensor":46111,"_variant":46112,"Ġtheat":46113,"licable":46114,"{|":46115,"tiny":46116,"_letter":46117,"Ġpencil":46118,"HeadersHeightSizeMode":46119,"iltro":46120,".autoconfigure":46121,".drag":46122,".useState":46123,"ĠBMI":46124,"hint":46125,"Compile":46126,"*\\":46127,"enary":46128,"Ġlvl":46129,".Cache":46130,"+=\"":46131,"_tv":46132,"ruitment":46133,"Ġfread":46134,"Articles":46135,"fila":46136,"Ġpackaged":46137,"âĺĨ":46138,"ATHER":46139,"ĠPlanned":46140,"scheme":46141,"Ġdiary":46142,"Ġoffenses":46143,"/F":46460,"ĠStick":46461,"Ġcerc":46462,"ĠSlee":46463,"ĉĉĠĠĠĠĠĠĠĠ":46464,"":46639,"ĉcol":46640,"VG":46641,"_boolean":46642,"recent":46643,"Ġ*)ĊĊ":46644,"ĠRainbow":46645,"ommen":46646,"Ġlur":46647,"Ġoppression":46648,"(\",\");Ċ":46649,"ĠFacility":46650,"DEFINED":46651,"Ġneon":46652,"Ġoffender":46653,"AFP":46654,"ĠCleaning":46655,"[]):":46656,"Ġundocumented":46657,".Repositories":46658,"ĠGuitar":46659,"аÑģÑģив":46660,"Skills":46661,"Ġtestimon":46662,"ryptography":46663,"ĠAmber":46664,"ĠStalin":46665,"Ġlone":46666,"Ġapenas":46667,"Ġdieses":46668,"ĠArduino":46669,"转":46670,"==-":46671,"_Act":46672,"Ġcoded":46673,"âĸł":46674,"amburger":46675,"-links":46676,"Ġarmour":46677,".High":46678,"getContent":46679,"stag":46680,"Ġheck":46681,"ĠìĹĨ":46682,"ĠMcConnell":46683,"ĠConcert":46684,"ĠAlloc":46685,"äre":46686,".replaceAll":46687,"Ġpartitions":46688,"rott":46689,"ĠFle":46690,"_TREE":46691,"reasonable":46692,"ĠReporting":46693,"Ġbillionaire":46694,"scores":46695,"mins":46696,"-eye":46697,"MORE":46698,"abort":46699,"ĠSWT":46700,"Ġinverted":46701,"ĠTeachers":46702,";n":46703,"Ġastro":46704,"нов":46705,"аниÑĨ":46706,"producto":46707,"countries":46708,"ĠOwen":46709,"Ġcontamination":46710,"Ġvibe":46711,"ĠElli":46712,".script":46713,"ĠOlive":46714,"DMA":46715,"vier":46716,":semicolon":46717,"-module":46718,"gressive":46719,"agu":46720,"_players":46721,"Ġresultados":46722,"started":46723,"scrollTop":46724,"=====":46725,"Ġweighing":46726,"Ġ[[[":46727,"zahl":46728,"(NS":46729,"ĠAssertion":46730,"league":46731,".setTextColor":46732,"ĉMessage":46733,"Ġmoms":46734,"_AF":46735,".wh":46736,"ALS":46737,"Ġautre":46738,"]ĊĊĊĊ":46739,".opacity":46740,"ĠBuddhist":46741,"Ġdeaf":46742,"ĠOrganisation":46743,"(Global":46744,"ensch":46745,"Ġheadache":46746,"ĠAlien":46747,"_inode":46748,"ĠStark":46749,"Ġæī":46750,"-lnd":46751,"oref":46752,"_feat":46753,"Ġpedestrian":46754,"Ġnominal":46755,"Ġballoon":46756,"Ġsprites":46757,"PrototypeOf":46758,"ĠApost":46759,"ĠFEATURE":46760,"OH":46761,"Ġrecess":46762,"ĠDonna":46763,"consumer":46764,"$GLOBALS":46765,"ĠGIF":46766,"-frame":46767,"Inicio":46768,"Ġpassages":46769,"DateString":46770,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":46771,".byte":46772,"Bug":46773,"initializer":46774,"pkt":46775,"odium":46776,"ĠDER":46777,".ops":46778,"leri":46779,"Ġgifted":46780,"Ġdetach":46781,"terrain":46782,"elters":46783,"ãģı":46784,".loader":46785,"ĠNGO":46786,"strncmp":46787,"Kh":46788,"(fontSize":46789,"rocket":46790,"Ġprecedent":46791,"ĠAurora":46792,"ĠExperiment":46793,"isphere":46794,"Encoded":46795,"ĠâĢĵĊĊ":46796,"Ġpyramid":46797,"ĠAnniversary":46798,"ofil":46799,"ëŁ":46800,"(plugin":46801,"Coeff":46802,"Ġcooperate":46803,"Ġpredominantly":46804,"ISM":46805,"Phrase":46806,"_DEFINE":46807,"Flip":46808,"AMILY":46809,"ĠMarkets":46810,"ĠStreamReader":46811,"ĠCombine":46812,"Ġmanuscript":46813,"zza":46814,",tp":46815,"Whatever":46816,"ITICAL":46817,"ighbour":46818,"DataProvider":46819,".Texture":46820,"privacy":46821,".SDK":46822,"Ġrecharge":46823,"Ġcpp":46824,"ĠCFG":46825,"(holder":46826,"(py":46827,"mot":46828,"Ġsavoir":46829,"ĠRosa":46830,"ĠPCs":46831,"ĠíĻ":46832,".heroku":46833,"Ġfren":46834,"ĠRiley":46835,"agate":46836,"Ġsond":46837,".xlsx":46838,"Ġhacked":46839,"stad":46840,"Gi":46841,"Ġsanity":46842,"ĠSqlDataAdapter":46843,"...\",":46844,"ĠPussy":46845,"Ġ****************":46846,"Ġhassle":46847,"_PARENT":46848,"ĠUAE":46849,"Ġbeginners":46850,"(Client":46851,"Ġstatistically":46852,".hour":46853,"edelta":46854,"Ġtraction":46855,"uelve":46856,"arat":46857,"Ġsauna":46858,"INVALID":46859,"Ġindictment":46860,"ALLE":46861,"Ġdissent":46862,"ĠTypography":46863,"Ġintentional":46864,"sit":46865,"ĠAnimals":46866,"Ġcountryside":46867,"Ġuart":46868,"}\\\"":46869,"Ġseamless":46870,"¾ç¤º":46871,"Ġautos":46872,"Ġ\"'\";Ċ":46873,"Flush":46874,"ANNOT":46875,"Ġalgebra":46876,"assoc":46877,"ĠWaters":46878,"Ġpreparations":46879,"ronym":46880,"[,]":46881,"Sans":46882,"Ġarmies":46883,"ipeg":46884,"Ġcreamy":46885,".art":46886,"etre":46887,"ĠAnimated":46888,"Ġunpleasant":46889,"emean":46890,"great":46891,"iÄħ":46892,"ĠEarlier":46893,"Ġchic":46894,"Ġpreserving":46895,"(exec":46896,"ĠInvestigation":46897,"ĉGPIO":46898,"Ġrigorous":46899,"ijo":46900,"=num":46901,"ĠtoolStrip":46902,")set":46903,"+\"&":46904,"ĠAcceler":46905,"Ġdevelopmental":46906,"isposable":46907,"Ġflawed":46908,"rene":46909,"Updating":46910,"Ġwatchdog":46911,"Ġdenominator":46912,"Ġsuburbs":46913,"Ġ...)":46914,"Ġconvictions":46915,"closure":46916,".IP":46917,"Ġtranslates":46918,".swt":46919,".Trace":46920,"Ġmettre":46921,".isEnabled":46922,"ĠEffective":46923,".toInt":46924,"Ġenchant":46925,"Ġstunned":46926,"Ġpoi":46927,"/code":46928,"adm":46929,".databinding":46930,"ĠLorem":46931,"________________________________________________________________":46932,"Ġledger":46933,"Ġcara":46934,"ĠGir":46935,"Ġwaits":46936,"Uno":46937,"Ġcwd":46938,"è¾ij":46939,"ĠTResult":46940,"Ġrejo":46941,"Ġemitted":46942,"ĠWestminster":46943,"ä¸Ģ个":46944,"nek":46945,"_Tis":46946,"Ġenact":46947,"ĉwith":46948,"orgia":46949,"Ġjue":46950,"Perform":46951,"SPATH":46952,".topic":46953,"ĠDaten":46954,"ầ":46955,"Ġsitio":46956,"_MM":46957,"\"So":46958,"bial":46959,"Ġscoped":46960,"Requires":46961,"ĠTOTAL":46962,"ĠChancellor":46963,"(contents":46964,"Ġstealth":46965,"devices":46966,"-pass":46967,"ilih":46968,"ĠMalcolm":46969,"ĠDepot":46970,"Ġconfigur":46971,"aussian":46972,"_constraint":46973,"веÑĤ":46974,"GRA":46975,"ĠRates":46976,".dataGridViewTextBoxColumn":46977,"ĠNobel":46978,"itics":46979,"Ġignorant":46980,"ĠReporter":46981,"ĠEbola":46982,"ĠShock":46983,"_relation":46984,"ĠNinja":46985,")c":46986,"Ġticker":46987,".isChecked":46988,"ĠSuppliers":46989,"ĠRapid":46990,"Levels":46991,"âĤ¬âĦ¢":46992,"ĉqueue":46993,"Ġchop":46994,"ĠUnix":46995,"reject":46996,"-calendar":46997,"(sort":46998,"ène":46999,"ercicio":47000,"Ġhect":47001,"CALLTYPE":47002,"roupon":47003,"Ġrentals":47004,"authors":47005,"{name":47006,"ĠFIFO":47007,"Ġlassen":47008,"ĠNous":47009,"Ġsnapped":47010,"Ġfertility":47011,"\"log":47012,"clicked":47013,"Ġplanting":47014,"Ġgb":47015,"/output":47016,"PEAT":47017,"Ġcategoria":47018,"Ġbach":47019,"Professor":47020,"inth":47021,"\"]čĊ":47022,"Recorder":47023,"serde":47024,"ĠTransmission":47025,"trad":47026,"Ġturbo":47027,"_VERTEX":47028,"\\Event":47029,"ilver":47030,"Ġbodily":47031,"ĠSources":47032,"Ġkillings":47033,".xrTableCell":47034,"Ġfolded":47035,"/legal":47036,"uner":47037,"ĠRifle":47038,"ĠMIDI":47039,"_SelectedIndexChanged":47040,".SizeType":47041,"ĠWebSocket":47042,"Ġseleccion":47043,"Sand":47044,"otros":47045,"Ġenvision":47046,"/etc":47047,"ĠMelissa":47048,"Spot":47049,"ное":47050,"_ARM":47051,"Attempt":47052,"ĠBI":47053,"ãģĶ":47054,"ĠDU":47055,"Ġbacklash":47056,"stride":47057,"/classes":47058,"ĠtextColor":47059,"_staff":47060,"oblin":47061,"agenta":47062,".collections":47063,"illage":47064,"'čĊčĊ":47065,"flatten":47066,"_sales":47067,"_MASTER":47068,"TW":47069,"_da":47070,"Pitch":47071,"phies":47072,"Ġzombies":47073,"ĠVERY":47074,"ĠPharmacy":47075,"ĠprogressBar":47076,"Ġhashtag":47077,"Sidebar":47078,"@stop":47079,"(pc":47080,"олж":47081,"MAKE":47082,"ĠCoron":47083,"Ġkvinner":47084,"ĠMaid":47085,"bob":47086,".titleLabel":47087,"Ġsuccesses":47088,"ĠDemocracy":47089,"ĠSurgery":47090,"Ġcougar":47091,"Ġcurso":47092,"Ġloro":47093,"istency":47094,"Senior":47095,"æk":47096,"ĠAAA":47097,"ĠBOOK":47098,"ко":47099,"WSTR":47100,"Ġ*/,Ċ":47101,"oyal":47102,".vector":47103,"ĠSPEC":47104,"SSF":47105,"Ġcompuls":47106,"ĠAppeals":47107,"ĠWinston":47108,"ĠMockito":47109,"contrib":47110,".available":47111,"entityManager":47112,"arias":47113,"_sale":47114,"_rs":47115,"Ġdecoding":47116,"Ġlocator":47117,"olith":47118,"Ġkol":47119,"Ġascii":47120,"ĠRut":47121,"/interface":47122,"ĉĉĉĉĉĉĠĠĠ":47123,"ĠNumer":47124,".flip":47125,"-del":47126,"Ġbolster":47127,"onomic":47128,"Ġzm":47129,"LG":47130,"FindBy":47131,"Ġadaptive":47132,"loo":47133,"Ġvue":47134,"(reverse":47135,"_canvas":47136,".roles":47137,"ificado":47138,"venient":47139,"\"As":47140,"ĠEntr":47141,"aligned":47142,"Ġbereits":47143,"///ĊĊ":47144,".gwt":47145,".employee":47146,"_cli":47147,"Ġanticipate":47148,"éĻIJ":47149,"Ġpik":47150,"Ġmushrooms":47151,"(tt":47152,"Ġoma":47153,"ĠSanchez":47154,"_google":47155,".Valid":47156,"ĠFileName":47157,"ivative":47158,"ked":47159,"-war":47160,"Ġmaturity":47161,"ид":47162,"Ġminer":47163,"Reducers":47164,"ĠLatLng":47165,"_STD":47166,"Digits":47167,"Calc":47168,"-upload":47169,"Ġhandic":47170,"ีà¹Ī":47171,"egrated":47172,"ĠSTM":47173,"Clients":47174,"ĠTurbo":47175,"SYNC":47176,"Ġphotographers":47177,".Out":47178,".character":47179,"BUILD":47180,".unlock":47181,"Ġarises":47182,"ĠCommands":47183,"(\"\");čĊ":47184,"_FORE":47185,";',":47186,"+\"'":47187,".Images":47188,"\"){":47189,"ĠMeyer":47190,"Ġnegatively":47191,"ĠDLL":47192,"Ġexe":47193,"Ġdeficiency":47194,"Ġwildly":47195,"-switch":47196,"construction":47197,"Ġexceptionally":47198,"ĠLiz":47199,"/java":47200,"Ġtheirs":47201,"ĠContemporary":47202,"lis":47203,".fillRect":47204,"ĠNFC":47205,"Ġrehe":47206,"(numbers":47207,"Ġraster":47208,"Ġfiguring":47209,"Ġshowc":47210,"ĠJill":47211,"Ġarcade":47212,"ĠConstructs":47213,"mdl":47214,"('|":47215,"Ġidentifiers":47216,"Ġstellar":47217,"(Connection":47218,"Ġ\"{{":47219,"yor":47220,"(mysqli":47221,"Ġdove":47222,"OfBirth":47223,".disconnect":47224,"_hi":47225,"Ġzwischen":47226,"ĠGrund":47227,"iros":47228,"_Array":47229,".onclick":47230,"ansom":47231,"Answers":47232,"ĉremove":47233,"Fa":47234,"Ġhurry":47235,"-inf":47236,"ĠgetClass":47237,"ĠRegulation":47238,"ĠFLAGS":47239,"misc":47240,"Ken":47241,"_heading":47242,"GHz":47243,"-entry":47244,"Ġbiography":47245,"Sig":47246,"-mf":47247,"Watcher":47248,"âĢľA":47249,"}px":47250,"Ġspicy":47251,"_sq":47252,"Lost":47253,"(track":47254,"али":47255,"Descending":47256,"((":47453,"survey":47454,"Ġíĺ":47455,"...')Ċ":47456,"ĠDivider":47457,"osl":47458,"_CANCEL":47459,"_prepare":47460,"stin":47461,"ĠHeath":47462,".PrimaryKey":47463,"ĠâĨIJ":47464,"ĠLocalDateTime":47465,"Ġcooperative":47466,"Learning":47467,".enqueue":47468,"Ġgoog":47469,"ĠRegression":47470,"imates":47471,"Ġvoyeur":47472,"ĠDrink":47473,"plug":47474,"Ġlender":47475,"mana":47476,"Ġpersonnes":47477,"ypse":47478,"Ġunlink":47479,"ĠRavens":47480,"Ġhurd":47481,"Ġperiodically":47482,"ARGS":47483,"ĠGH":47484,"characters":47485,"...\"ĊĊ":47486,"-establish":47487,"Ġdn":47488,"(condition":47489,"ĠGravity":47490,"Ġestas":47491,"_focus":47492,"Creature":47493,"(site":47494,"Ġcarr":47495,"ĠRL":47496,"ĠRI":47497,"ĠMoto":47498,"ASF":47499,"ĠLuckily":47500,"ĉRoute":47501,"Ġentropy":47502,"(\",\"":47503,"Collect":47504,"(contact":47505,"ĠFlorence":47506,"Ġpremiums":47507,"Ġlifecycle":47508,"Ġbans":47509,"xef":47510,"WebKit":47511,"ĠFloating":47512,"Ġcosa":47513,"Specific":47514,"ĠLoans":47515,"bread":47516,"Ġdescriptors":47517,"Ġ{:.":47518,"THREAD":47519,"ĠTrent":47520,"Ġscop":47521,"QA":47522,"ĠAntar":47523,"pel":47524,"_difference":47525,"_changes":47526,"(...)":47527,"ĠRotation":47528,"ĠLGPL":47529,"ĠJUST":47530,"(Task":47531,"_subset":47532,"ĠTRANS":47533,"åĬĽ":47534,"ĠScout":47535,"-popup":47536,"Ġsmoked":47537,"_Class":47538,"Ġturnover":47539,"brakk":47540,"ĠRocky":47541,"tas":47542,".RegularExpressions":47543,"ĠElliott":47544,"ĠSpinner":47545,"DUCTION":47546,"Ġlibre":47547,"Ġmolto":47548,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":47549,"ĠFTP":47550,"mpeg":47551,"(features":47552,"Ġbald":47553,"ĠVid":47554,"Ġshouting":47555,"Lint":47556,"Ġsockets":47557,"Ġprow":47558,"Ġnouvelle":47559,"iscard":47560,"ĠSponsor":47561,"Ġconsulta":47562,")));":47563,"Indian":47564,"ĠRaspberry":47565,"Ġteammate":47566,"ĠJWT":47567,"ĠGhana":47568,"Ġcakes":47569,"primer":47570,"forma":47571,"ergarten":47572,"_Manager":47573,"Ġpreseason":47574,"GAME":47575,"|\"":47576,"ĠBrock":47577,"Ġoccupy":47578,"Ġdecorations":47579,"ánd":47580,"Ġcot":47581,"Ġparan":47582,"Disk":47583,"remain":47584,">?":47585,"Strong":47586,"Ġfrance":47587,"ĠEra":47588,"-cr":47589,".BufferedReader":47590,"ĠParadise":47591,"ĠVAT":47592,"ĠAnders":47593,"Ġlimb":47594,"ampoo":47595,"Ġimperative":47596,"UTILITY":47597,"ĠRecognition":47598,"Ġragazze":47599,"Ġpops":47600,"ypress":47601,"Ġembargo":47602,"//{Ċ":47603,"Ġsyll":47604,"PTR":47605,"åŃĺåľ¨":47606,"Ġdidnt":47607,"Mailer":47608,"Ġacademics":47609,"ĠFrauen":47610,"neider":47611,"-rel":47612,"Ġrainbow":47613,"(In":47614,"Ġsliced":47615,"=============Ċ":47616,"(send":47617,"NSMutableDictionary":47618,"vos":47619,"(package":47620,"Ġordinance":47621,"viewer":47622,"ĠSantos":47623,"-selling":47624,"Ġgov":47625,"ettle":47626,"Ġfounders":47627,"Ġwaking":47628,"slashes":47629,"-pound":47630,"recht":47631,"ات":47632,".onClick":47633,"Ġnord":47634,"ständ":47635,"_when":47636,"UTERS":47637,"icc":47638,"Ġcapsule":47639,"ĠWid":47640,"Marc":47641,"ุ":47642,"rored":47643,"UGE":47644,"LOUD":47645,"ĠAudit":47646,"ipients":47647,"opian":47648,"ĠSue":47649,"Ġwurden":47650,".Helpers":47651,"Ġfactions":47652,"[np":47653,"-than":47654,"Ġreco":47655,"Ġkas":47656,"Ġcmds":47657,"/network":47658,"xbf":47659,"getColor":47660,"Ġbiased":47661,"ĠLak":47662,"Datas":47663,"vents":47664,"Ġë²":47665,"_PS":47666,".Validate":47667,"Invoker":47668,"Ġneuen":47669,"Ġjuvenile":47670,"VISION":47671,"Ġdevote":47672,"Ġlinha":47673,"Ġdiscounted":47674,"\\Config":47675,"Ġworthwhile":47676,"Ġskinny":47677,"ĠCourses":47678,"leys":47679,"ĠMortgage":47680,"Kevin":47681,"Ġannounces":47682,"])*":47683,"reservation":47684,"Ġæķ°":47685,"Ġprejudice":47686,"ĠStringComparison":47687,"Ġbeard":47688,"-win":47689,"ĠSão":47690,"ĉms":47691,"jal":47692,"ĠEarn":47693,"_ports":47694,"ĠNombre":47695,"_COR":47696,"ĠBUILD":47697,".sound":47698,"Yellow":47699,"Ġlinebacker":47700,"Ġcharitable":47701,"jug":47702,"_NONNULL":47703,"ĠDental":47704,"\">${":47705,"ĉmatch":47706,"Russian":47707,"Ġversch":47708,"Ġpinned":47709,"Ġadopting":47710,"OptionsMenu":47711,"Pag":47712,"Ġpairing":47713,"Ġtread":47714,"ercises":47715,"ĠSpread":47716,")i":47717,"ĠBAD":47718,"_tf":47719,"UIImageView":47720,"populate":47721,"bab":47722,"ĠÏĥ":47723,"[++":47724,"Ġopioid":47725,"Ġ##Ċ":47726,"dtype":47727,"ĠStarts":47728,"('/')":47729,"Ġpersonals":47730,"-market":47731,"Ġredundant":47732,"ĠEssential":47733,"Ġscrapy":47734,"Ġим":47735,"acl":47736,"Ġcrear":47737,"ĠBend":47738,"Ġrelieve":47739,"-room":47740,"wife":47741,"ĠvÃł":47742,"ĠQPoint":47743,"Ġquasi":47744,"ĠmethodName":47745,"\\xc":47746,"ĠPeru":47747,"/The":47748,".orm":47749,"Ġviz":47750,"/pdf":47751,"Located":47752,"Ġconfrontation":47753,"ĠChampionships":47754,"Ġhypert":47755,"Ġdj":47756,"ĠUserInfo":47757,"ĠåĪĽå»º":47758,"\\xb":47759,"(sim":47760,"Ġ==Ċ":47761,"Ġstaging":47762,"Ġdrastically":47763,"åѦ":47764,"lords":47765,".less":47766,"ведиÑĤе":47767,"ĠBucket":47768,"ĠMam":47769,".term":47770,"_pi":47771,"czy":47772,".pub":47773,"precio":47774,"ĠVirt":47775,"Ġroman":47776,"itat":47777,"Lex":47778,"_infos":47779,"İ":47780,".other":47781,"VELO":47782,"Ġponder":47783,"Ġhanno":47784,"(Page":47785,"doi":47786,"Ġpolite":47787,"Ġprogrammer":47788,"Dies":47789,"$d":47790,"Ġreplication":47791,"addColumn":47792,"frican":47793,"Ġleng":47794,"beer":47795,"oit":47796,"Ġwasting":47797,"ylim":47798,"measure":47799,"Neg":47800,"Ġpartie":47801,".console":47802,"ĠGuinea":47803,"TEL":47804,"_fact":47805,".chunk":47806,"Ġlent":47807,"Ġaller":47808,"Ġà¤ķ":47809,"_idle":47810,"Ġadmissions":47811,"JSONArray":47812,"Ġvibration":47813,".helpers":47814,"å¤ĸ":47815,"Ġhen":47816,"john":47817,"ĠìĥĿ":47818,"Ġjudgement":47819,"Ġgeen":47820,"terra":47821,"^{":47822,"ĠIz":47823,"Ġcâ":47824,"instances":47825,"Ġthreatens":47826,"Ġmüssen":47827,"KindOfClass":47828,"Ġstorytelling":47829,"_demo":47830,"rias":47831,"Privacy":47832,"hift":47833,"ĠYi":47834,"esor":47835,"íķł":47836,"ensitivity":47837,".Writer":47838,"à¸Ĥ":47839,"District":47840,".getJSONObject":47841,"Impro":47842,"(getResources":47843,"ĠSPELL":47844,"roduce":47845,"Ġslowed":47846,"Ġlinewidth":47847,"Ġhonesty":47848,"ĠCoord":47849,"ĠFork":47850,"ĠDispatchQueue":47851,"ĠCliff":47852,"ĠWiring":47853,"_TIMESTAMP":47854,"ollah":47855,"avoid":47856,"++];Ċ":47857,"semantic":47858,"-css":47859,"Ġveto":47860,"ĠMerr":47861,"Ġlegislators":47862,"CEEDED":47863,"Ġquestionnaire":47864,"ĠPills":47865,"Calculate":47866,"(core":47867,"'e":47868,"Ġdislike":47869,"ĠPreferences":47870,"_EXTERNAL":47871,"è°ĥ":47872,"Ġdodge":47873,"æľįåĬ¡":47874,".names":47875,".drawImage":47876,"_prom":47877,"uckland":47878,"Ġ<$>":47879,"ız":47880,"/site":47881,"项":47882,"rophe":47883,"Ġcompelled":47884,"Ġlaptops":47885,"Ġuni":47886,"CLOSE":47887,"Ġcasualties":47888,"ĠUniform":47889,"Terminal":47890,".\",\"":47891,"DAT":47892,"(TreeNode":47893,"ĠGandhi":47894,"(stmt":47895,"AXB":47896,"*M":47897,"Ġumbrella":47898,"animal":47899,"Ġgrpc":47900,"Ġwhereby":47901,"Ġfloats":47902,"ĉarg":47903,"Ġdbg":47904,"Ġexceeding":47905,"EventType":47906,".SaveChangesAsync":47907,"Ġ{{{":47908,"Ġowed":47909,"ahrenheit":47910,"Ġì§":47911,"Ġequipo":47912,"urai":47913,"Ġidol":47914,"]\")Ċ":47915,"_major":47916,"Ġentirety":47917,"ingerprint":47918,"ços":47919,"/account":47920,"ĉright":47921,"ursos":47922,"ĠEDT":47923,"_INSERT":47924,"Ġshining":47925,"Ġ<:":47926,"EdgeInsets":47927,"Ġcolonies":47928,".IM":47929,"ĉĠĉ":47930,"ROAD":47931,"CCCC":47932,"placing":47933,"ĠgetActivity":47934,"emacs":47935,"'%(":47936,".clicked":47937,"ĠThem":47938,"isia":47939,"Buscar":47940,".rename":47941,"Ġoath":47942,"Ġafterward":47943,"ĠUFO":47944,"APS":47945,"ĠJacksonville":47946,".some":47947,"Confirmed":47948,".scan":47949,"igInteger":47950,"Decorator":47951,"shield":47952,"ressive":47953,".did":47954,"请è¾ĵåħ¥":47955,"Ġshutter":47956,"Dam":47957,"Ġparenting":47958,"eyed":47959,"$item":47960,"-develop":47961,"Ġextracts":47962,"Ġdecentralized":47963,"ĠElsa":47964,"_spin":47965,"])+":47966,"-initial":47967,"Ġmultitude":47968,"Ġsensory":47969,"ĠMODEL":47970,"Ġsafeguard":47971,"ì¹":47972,"Ġhunters":47973,"ĠTiny":47974,"INO":47975,"decorate":47976,"ĠNoSuch":47977,"Ho":47978,"(Response":47979,"Ġruler":47980,"ĉshort":47981,"Ġcaster":47982,"ĠclientId":47983,"Ġpdb":47984,"ëıĦ":47985,"itic":47986,"ĠGameState":47987,"ĠnewItem":47988,")ĊĊĊĊĊĊ":47989,"ouis":47990,"noc":47991,".BLACK":47992,"_VECTOR":47993,"----------();":48281,".getP":48282,"anye":48283,"Ġneuron":48284,"ifold":48285,"ĠKnown":48286,"Bitcoin":48287,"Anyway":48288,"ayette":48289,"Ġ'['":48290,"Ãłnh":48291,"mgr":48292,"Ġcorrelated":48293,"Ġnause":48294,"Ġmentality":48295,"hasMany":48296,"ĠFG":48297,"ampie":48298,"ITU":48299,"Fs":48300,".Sp":48301,"_between":48302,"Dependencies":48303,"oug":48304,"Placeholder":48305,"=text":48306,"ĠManaging":48307,"ocalypse":48308,"åĮĹ":48309,"_mag":48310,"fld":48311,"âij":48312,"CAM":48313,"ĠHelpers":48314,"Ġdost":48315,"/out":48316,"Ġassassination":48317,".getImage":48318,"ĠKenny":48319,".')ĊĊ":48320,"){//":48321,"ĠRanger":48322,"Ġgek":48323,"Ġsincere":48324,"čĊ":48527,".getResources":48528,"Ġlump":48529,"_consts":48530,"(ext":48531,"ĉdir":48532,"âĿ":48533,"ĠpaddingTop":48534,"Ġobsession":48535,"Ġbanning":48536,"ĠAppModule":48537,"Ġpartisan":48538,"Ġcatalogue":48539,"Ġminors":48540,"Ġpitches":48541,"weep":48542,"Ġundertake":48543,"Ġthemed":48544,"audit":48545,".scrollTop":48546,"Ġrer":48547,"Ġsymptom":48548,"Ġopenings":48549,".blocks":48550,"openid":48551,"Ġassh":48552,"-save":48553,"ĠPig":48554,"Ġregain":48555,"Ġinicial":48556,"/favicon":48557,"ĉexp":48558,"Ġspices":48559,"iska":48560,"claims":48561,"mak":48562,"definitions":48563,"Ġcorrespondent":48564,"ĠCannabis":48565,"__,Ċ":48566,"ĠLucky":48567,"ĠGaussian":48568,"ĠNearly":48569,"CAD":48570,"']]Ċ":48571,"Ġadequately":48572,"ĠTITLE":48573,"constitutional":48574,"-mm":48575,"_override":48576,"Ġblas":48577,".readyState":48578,"Ġreminis":48579,"Ġreinforced":48580,"ĠCollabor":48581,"Ġdecorating":48582,"Ġbachelor":48583,"ERRUPT":48584,"Ġupright":48585,"ipation":48586,"ĠNoble":48587,"ĠvalueForKey":48588,"ĠsetLoading":48589,".Ignore":48590,"åģ":48591,"Globals":48592,"ĠMent":48593,"ASSES":48594,"Ġlimbs":48595,"ĠHUD":48596,"inci":48597,".iv":48598,"ĠQModelIndex":48599,"Fuse":48600,"Ġpedal":48601,"_FREQ":48602,"(verbose":48603,"Ġlongitud":48604,"ĠCharter":48605,"ê·¸":48606,"Ġbundles":48607,".ignore":48608,"umbo":48609,"EMA":48610,".......":48611,"sx":48612,".Card":48613,"Ġheute":48614,"Ġsteer":48615,"jumlah":48616,"Ġ{_":48617,"_Checked":48618,"Ġfax":48619,"ĠGust":48620,"itchens":48621,"Ġ))ĊĊ":48622,"Ġremarkably":48623,"/XML":48624,"-remove":48625,"_bt":48626,"Ġincub":48627,".package":48628,".currentThread":48629,"ĠHighlander":48630,".side":48631,"splash":48632,"Ġici":48633,"=D":48634,"Ġpuck":48635,"Ġballots":48636,"Ġhugely":48637,"coeff":48638,"ĠpData":48639,".COLUMN":48640,"ĠHealing":48641,"Ġordin":48642,"!),":48643,"Ġ'',čĊ":48644,"(md":48645,"ĠSask":48646,"čĊ":48668,"Ġrá":48669,"Ġblunt":48670,"ĠImageIcon":48671,"ifik":48672,"RTC":48673,"Ġfibers":48674,"Ġtoile":48675,".sent":48676,"ĠPyQt":48677,"$app":48678,"Ġmedio":48679,"Ġgranting":48680,"Ġtslint":48681,"ĠMö":48682,"(figsize":48683,"Ġhurricane":48684,"Ġlifes":48685,"ĠÃĦ":48686,"rocessing":48687,"_standard":48688,"-option":48689,"')))":48690,"Ġvacant":48691,"å·¥":48692,"ĠHollow":48693,"handleChange":48694,"Ġdivider":48695,"ĠEngineers":48696,"Ġsvens":48697,"Ġcompliant":48698,"tanggal":48699,"ĠCredits":48700,"ĠEmirates":48701,"RuleContext":48702,"Ġrealization":48703,"Ġdistracted":48704,"]+=":48705,"Ġaugment":48706,"ĠDw":48707,"otp":48708,"orrent":48709,"Editar":48710,".stock":48711,"Study":48712,"pections":48713,"ĠGameManager":48714,"=cut":48715,"Ġflock":48716,"ĠRomans":48717,"them":48718,"-hop":48719,"Ġscreenshots":48720,"Ġ/*!Ċ":48721,"Ġconversions":48722,"Ġnormalization":48723,"(configuration":48724,"Ġaeros":48725,"_security":48726,"!'Ċ":48727,"Bonus":48728,"ĠDRIVER":48729,"ĉDate":48730,"tie":48731,"ĠWyoming":48732,"Stand":48733,"itre":48734,"Ġshoppers":48735,"Ġdisadvantage":48736,"Ġliking":48737,"ç¬ij":48738,"Ġunderstandable":48739,"SEE":48740,"Ġhoy":48741,"Ġninete":48742,"Ġconfer":48743,"Ġnowrap":48744,"ĠVern":48745,",čĊčĊ":48746,"imestep":48747,"LayoutManager":48748,"à·":48749,"ĉwait":48750,"PLETED":48751,"Japan":48752,"Ġinduce":48753,"Ġå¯":48754,"озв":48755,"_ENDPOINT":48756,".horizontal":48757,"Ġaccelerated":48758,"rimon":48759,"IVES":48760,"Transactions":48761,"Lean":48762,"ĠSOUR":48763,"whether":48764,"yg":48765,"Ġoid":48766,"ĠEntityManager":48767,"OUNTRY":48768,"Ġfila":48769,"OLUMNS":48770,"INUE":48771,"ĠAnchor":48772,"TRAN":48773,"woo":48774,"blockquote":48775,"ĠNurse":48776,"ĠCarp":48777,"Ġredeem":48778,".try":48779,"ĠJP":48780,"Ġtimestamps":48781,"Ġ?>\"><":48782,"ĠREMOVE":48783,"ĠStarbucks":48784,"Really":48785,"Ġflooded":48786,".Callback":48787,"DropDown":48788,"ipro":48789,"Ġtended":48790,"lte":48791,"Ġproportions":48792,"-te":48793,"ĠRena":48794,"licate":48795,"forces":48796,".extra":48797,".authenticate":48798,"вод":48799,"¡°":48800,"ĠforControlEvents":48801,"Ġsenha":48802,"Ġkein":48803,"Ġminist":48804,"ĠPreference":48805,"ĠTelegraph":48806,"Ñĥп":48807,"strpos":48808,"Ġillnesses":48809,"Ġpigs":48810,"ĠgetIntent":48811,"Sol":48812,"Ġ¡":48813,"(cpu":48814,"[prop":48815,"screens":48816,"');?>":48817,"ĠActs":48818,"Ġstrdup":48819,"Ġaverages":48820,"anal":48821,"ĠCasual":48822,"GroupBox":48823,"ĠHandbook":48824,"/comments":48825,"Ġnumbered":48826,"Ġbroadcasting":48827,"çĽij":48828,".nativeElement":48829,".mu":48830,"ĠupdatedAt":48831,"ĠDoesn":48832,".AC":48833,".coll":48834,"Ġrecorder":48835,"_sha":48836,"Bg":48837,"bil":48838,"Ġbolts":48839,"Ġç¬":48840,"Ġimposing":48841,"ĠInformationen":48842,"_flashdata":48843,"economic":48844,"Remark":48845,"ucas":48846,"ĠOfficers":48847,"ĠTER":48848,"Walk":48849,"Ġmercado":48850,"_generate":48851,"HY":48852,"Calling":48853,"snap":48854,"scriptId":48855,".operation":48856,"ĠFlame":48857,"liness":48858,"Ġrented":48859,"_toggle":48860,"-changing":48861,"ĠTY":48862,"'util":48863,"EEP":48864,"Ġgraphql":48865,"ĠUni":48866,"Ġimpulse":48867,".Basic":48868,"Ġenergies":48869,"MARY":48870,"ĠMarcel":48871,"Ġmortal":48872,"Ġfres":48873,"mens":48874,"motion":48875,"Ġsampled":48876,"âĢľThat":48877,"iday":48878,"quipment":48879,"getInt":48880,"ĠAbsolute":48881,",'\"":48882,"uned":48883,".share":48884,"Ġ})(":48885,"mmm":48886,"ĠRising":48887,"ä»»":48888,"Ġunemployed":48889,"xfa":48890,".follow":48891,"ĉĉĉĉĠĠĠĠĠĠ":48892,"slt":48893,".Phone":48894,"Ġknives":48895,"Ġeve":48896,"onClick":48897,"]))čĊ":48898,"ĠWitness":48899,"ĉNS":48900,"ĠEOS":48901,"ĠStefan":48902,"ĠPriest":48903,"âĢĶwhich":48904,"GetString":48905,".By":48906,"Ġupstairs":48907,"Ġdetriment":48908,"broken":48909,"embro":48910,"Ġnicotine":48911,"ilion":48912,"Ġastonishing":48913,"_aff":48914,"ĠLesson":48915,"Ġaccidental":48916,"odor":48917,"Ġdecir":48918,"ĠnewName":48919,"+.":48920,"缸":48921,"igslist":48922,"ĠGithub":48923,"Ġsuccessive":48924,"racial":48925,"Ġenviron":48926,"éªĮè¯ģ":48927,"Ġredirected":48928,"TOTAL":48929,"Ġgrabbing":48930,"ĠLance":48931,"Ġforfe":48932,"_CB":48933,"å¾®":48934,"Elapsed":48935,"_way":48936,"(DialogInterface":48937,"_measure":48938,"xbb":48939,"Dog":48940,"Depart":48941,"-src":48942,"resolver":48943,"withstanding":48944,"_shell":48945,"ĠLastName":48946,"ĠAviation":48947,"Ġbeginner":48948,"(\"%.":48949,"(tool":48950,"Ġнов":48951,":init":48952,"(API":48953,"ĠMorrison":48954,"vtColor":48955,"Ġstaple":48956,"/INFO":48957,"Ġsupernatural":48958,"Ġsteak":48959,"timeline":48960,"zzle":48961,"\"`ĊĊ":48962,"Secondary":48963,"ĠNepal":48964,".StringUtils":48965,"Ġadam":48966,"Ġ(...":48967,"Ġsubstitution":48968,"Ġboarding":48969,"ĠKeyword":48970,"ĠAssault":48971,"dbcTemplate":48972,"ĠorderId":48973,"(engine":48974,".assertThat":48975,"ĠVenus":48976,"Ġhomicide":48977,"ĠAval":48978,"Ġgutter":48979,"ĠSupported":48980,"/part":48981,"Ġacclaimed":48982,"Histor":48983,"Ġmeses":48984,"über":48985,"ĠRenew":48986,"Ġgras":48987,"ĠEk":48988,"Ġinfile":48989,"indy":48990,".music":48991,".Scroll":48992,"ĠAges":48993,"ĠNaruto":48994,"ĠGather":48995,"Ġconfirming":48996,"=(\"":48997,"Ġpitched":48998,"oley":48999,"France":49000,"+'\"":49001,"$total":49002,"Ġonde":49003,"Ġditch":49004,"_sigma":49005,"Ġcontinuity":49006,"reward":49007,"-load":49008,"Ġproceso":49009,"Locked":49010,"staw":49011,"Ġspinal":49012,"lazy":49013,"!==":49014,"jest":49015,"Ġdun":49016,"ĠRodgers":49017,"ĉgrid":49018,"Ġlogos":49019,"ĠBengal":49020,".super":49021,"Provides":49022,"Ġnutrient":49023,".Timestamp":49024,"IZATION":49025,"åĨĮ":49026,"Ġfats":49027,"ĠXxx":49028,"ctica":49029,"Targets":49030,"Ġcontours":49031,"Ġreordered":49032,":Array":49033,"Ġtolerate":49034,"Vir":49035,"Ġterribly":49036,"Ġbricks":49037,"(&_":49038,"hb":49039,"Portal":49040,"ĠBread":49041,".which":49042,"ÂŃt":49043,"asInstanceOf":49044,"Ġjobject":49045,"ĉlength":49046,"_MT":49047,";\">čĊ":49048,"_EXIST":49049,"Ġmaternal":49050,"REL":49051,"Ġê²½ìļ°":49052,"hee":49053,"Ġlayouts":49054,"ĠLap":49055,"aisy":49056,"Ġstumbled":49057,"ĠUIG":49058,"ĠSco":49059,"Ġimpaired":49060,"RESSED":49061,"Ġabuses":49062,"VF":49063,"ARB":49064,".NAME":49065,"rch":49066,"primir":49067,"_completed":49068,"Ġpenny":49069,"Chrome":49070,"(begin":49071,"ernen":49072,"-checkbox":49073,"PlainOldData":49074,"ĠLPC":49075,"rade":49076,"spir":49077,"Ġconceived":49078,"Tips":49079,"ĠIoT":49080,"ĠGan":49081,"èģĶ":49082,"Ġbiases":49083,"Ġconsultants":49084,"pled":49085,"_ht":49086,"associated":49087,"],ĊĊ":49088,"Ġdelightful":49089,"ĠÑĤек":49090,"Helvetica":49091,"(load":49092,"-expand":49093,"_WIDGET":49094,"toa":49095,"ĠAkt":49096,"Ġomn":49097,"Ġclauses":49098,"Intel":49099,"*/}Ċ":49100,"_registration":49101,"ĠoldValue":49102,"Ġrestoring":49103,"Ġunreal":49104,"OVER":49105,"ĉĊĉĊĉĊ":49106,"ATS":49107,"_probe":49108,"Ġdivisor":49109,".updateDynamic":49110,"å¹³":49111,"Produces":49112,"stamp":49113,".jboss":49114,"ĉtask":49115,"!(:":49116,"Ġpsychic":49117,"@class":49118,"Martin":49119,"ĠPassed":49120,"clarations":49121,"hel":49122,"аÑĩ":49123,"ĉcopy":49124,"-bin":49125,"zan":49126,"igram":49127,"াà¦":49128,"(sig":49129,"ĠCaval":49130,"_##":49131,"Ġ%=":49132,"outlined":49133,"ĠAcid":49134,"Ġunpredictable":49135,"-dashboard":49136,"HexString":49137,"+c":49138,".Public":49139,"ẩ":49140,"Ġconveyor":49141,"ĠEB":49142,"Ġselects":49143,"Ġknocking":49144,"ĠCec":49145,"IBUTES":49146,"owaÄĩ":49147,"gatsby":49148,"*v":49149,"entropy":49150,"Ġdispatched":49151,"Ġcamel":49152,"ĠSaturn":49153,"Ġoverweight":49154,"(phone":49155,"parable":49156,"%B":49157,"_vectors":49158,"Ġbrewing":49159,"ĠTk":49160,"ĠDownloads":49161,"ĠSaved":49162,".Price":49163,"Ġcurved":49164,"ĠParenthood":49165,"è¶":49166,".pnl":49167,"pletely":49168,".Day":49169,"Ġadvertisers":49170,"Ġejec":49171,"Ġprzed":49172,"ë¯":49173,"!';Ċ":49174,"ĠKush":49175,"ĠTAB":49176,"Ġquests":49177,"Ġcoincidence":49178,"ummies":49179,"ĠKashmir":49180,"ĠEthics":49181,"_growth":49182,"Ġaktiv":49183,"Ġgrouping":49184,"å¢ŀ":49185,"_truth":49186,"åIJ¬":49187,"todos":49188,"iset":49189,"TexCoord":49190,"ätt":49191,"ĠZur":49192,"roys":49193,"_MAGIC":49194,"Ġbrewery":49195,"(State":49196,"ĠSMALL":49197,"ĠPlants":49198,"itbart":49199,"eacher":49200,"ĠAdelaide":49201,"Lu":49202,"Ġfick":49203,"undles":49204,"_loaded":49205,"ие":49206,"Poll":49207,"ritic":49208,"ELY":49209,"Ġ+'":49210,"ĠProfession":49211,"Ġstamps":49212,"ĠSew":49213,"scrollView":49214,"Ġcommunist":49215,"/problems":49216,"}čĊčĊčĊčĊ":49217,",o":49218,"Ġudp":49219,"Ġobese":49220,"approve":49221,"ancellation":49222,"_Game":49223,"ĠHashtable":49224,"adaptiveStyles":49225,"Ġpossesses":49226,".matcher":49227,"functional":49228,"Mrs":49229,"ĉsave":49230,"ĠDbType":49231,"Ġken":49232,"getContext":49233,"Ġmans":49234,"(rel":49235,"ĠBrotherhood":49236,")`Ċ":49237,"è§£":49238,".Information":49239,"OutOfRangeException":49240,"ĠSek":49241,"Cas":49242,"Ġbloggers":49243,"Either":49244,"(\"\"\"":49245,"Ġpinch":49246,"Ġcoarse":49247,")p":49248,"ĠPulse":49249,"Ġlearnt":49250,"Ġdentist":49251,"Ġonchange":49252,"Ġdirectives":49253,"(actions":49254,"nyder":49255,"ĠShir":49256,"Trait":49257,"_dep":49258,"ĠPET":49259,"ĠREP":49260,".AppSettings":49261,"cuador":49262,"idenav":49263,"Ġenvi":49264,"Ġslammed":49265,"ĠShoot":49266,"ĠdateFormat":49267,".joda":49268,"veys":49269,"Ġ).ĊĊ":49270,"Ġcareg":49271,"ĠParallel":49272,"_translation":49273,".functions":49274,".obs":49275,"RuntimeException":49276,"[]=":49277,"overview":49278,"ĠSchl":49279,"Ġnoisy":49280,"ĠOnPropertyChanged":49281,"Sending":49282,"Ġunfamiliar":49283,"Upon":49284,"ĠPrints":49285,".typ":49286,"Ġfleeing":49287,"ĉmove":49288,"(Un":49289,"Ġqr":49290,"׾":49291,"_beta":49292,"Ġskies":49293,"ĉme":49294,"WND":49295,"Ġstickers":49296,"blas":49297,"Ġinserts":49298,"Ġverses":49299,"ĠDew":49300,"Ġtangible":49301,"Ġhecho":49302,"POL":49303,"Ġteardown":49304,"omnia":49305,"IBE":49306,".cover":49307,"_strategy":49308,"^-":49309,"setPosition":49310,"uale":49311,"Signed":49312,"Ġiface":49313,"aseline":49314,".setTime":49315,"ĠMineral":49316,"ĠFighting":49317,"skins":49318,"Ġdiscrimin":49319,"Ġdansk":49320,"ĠPrinceton":49321,"acist":49322,"Ġ());Ċ":49323,"tracks":49324,"imonial":49325,"adecimal":49326,"EPROM":49327,"uggle":49328,".Notification":49329,"$mail":49330,"cantidad":49331,"ĠJung":49332,"Ġseekers":49333,"Ġplausible":49334,"tier":49335,"еж":49336,"Ġrapper":49337,"ĠMana":49338,"ĠHttpStatusCode":49339,"Ġburnt":49340,"loses":49341,"ĠFoto":49342,"ĠJsonObject":49343,"Instagram":49344,"Ġsyscall":49345,"Ġrealities":49346,"ĠMATLAB":49347,":^{Ċ":49348,"TERM":49349,"ĠCbd":49350,"ĠParagraph":49351,"Ġtravés":49352,"Ġconstructing":49353,"Ġswal":49354,"Ġpige":49355,"LLLL":49356,"-existing":49357,"Gets":49358,"Ġmelted":49359,"Ġmitigate":49360,"Hen":49361,"Ġhm":49362,"imas":49363,"ĠAo":49364,"ĠPerez":49365,"ĠDAL":49366,"Ġëĭ¤":49367,"Ġdivis":49368,"StoryboardSegue":49369,"ĠModify":49370,"ĠÃľber":49371,"_OVERRIDE":49372,".pem":49373,"untos":49374,"Ġespañ":49375,"Ġ{?":49376,"ĠPAY":49377,"_ipv":49378,"ĠFury":49379,"__.__":49380,"elow":49381,"-centered":49382,"checks":49383,"_Reg":49384,"-Javadoc":49385,"ĉload":49386,"ĠLikewise":49387,"اÙħ":49388,"UNE":49389,".sem":49390,"xcb":49391,"ĠCave":49392,"_sleep":49393,"Ġsilently":49394,"ĠExtreme":49395,".ToUpper":49396,"ĉCHECK":49397,"Ġcue":49398,"ĠQByteArray":49399,"Ġcorrupted":49400,"ĠDé":49401,"Ġimped":49402,"GetName":49403,"Ġinaccurate":49404,"Ġsober":49405,"ее":49406,"Ġbarcode":49407,"--){Ċ":49408,"inki":49409,"Ġép":49410,"Ġdri":49411,"ĠALT":49412,">>>>>>>>":49413,"onta":49414,"[L":49415,"Ġinteres":49416,"verting":49417,"Ġdiagnostics":49418,"pdev":49419,"è©":49420,"ĠIntegrated":49421,").'":49422,"_gc":49423,"$text":49424,".games":49425,"ĠTerra":49426,"'Re":49427,".transfer":49428,"_FIFO":49429,"getModel":49430,"Ġbland":49431,"ĠColeman":49432,"Ġprimes":49433,"ĠæĪ":49434,"Ġcrosses":49435,"nk":49436,"GING":49437,"Ġ'^":49438,"ĠBlob":49439,"Ġintercourse":49440,"ĠBlvd":49441,"Ġweighs":49442,"_regular":49443,"ĠPerth":49444,"Ġseparating":49445,"Ġbilled":49446,".tabControl":49447,"Ġpuppet":49448,"Ġutilization":49449,"Ġâĸł":49450,"Ġsucces":49451,"Ġlamps":49452,"_proj":49453,"Eric":49454,"Ġrenovation":49455,"ĠFamilies":49456,"ĠBits":49457,"partials":49458,"-Men":49459,"solution":49460,"Ġdwarf":49461,".INTEGER":49462,"ĠLOCK":49463,".ct":49464,"Ġexcerpt":49465,"ĠPix":49466,"ĠFirstName":49467,"ANTED":49468,"ĠAdmir":49469,"-help":49470,"Prior":49471,"ĠAlign":49472,".INSTANCE":49473,"LineEdit":49474,"('/:":49475,"Ġinet":49476,"odus":49477,".pkl":49478,"ĠKY":49479,"upert":49480,"Ġnerves":49481,"_gradient":49482,"}','":49483,"_unref":49484,"Ġsaturated":49485,"ĠConnected":49486,"ĠFN":49487,"EXIT":49488,"Ġteleport":49489,"Ġavait":49490,"PageRoute":49491,"Ġdivorced":49492,"(lang":49493,"fst":49494,"ĠTyr":49495,"Ġmessenger":49496,"ifstream":49497,"XS":49498,"ĠBanking":49499,"Ġinfectious":49500,"ĠMons":49501,"_LOOP":49502,"Ġzurück":49503,"Ġobtener":49504,"/repos":49505,"Vel":49506,"acro":49507,"ĠuserRepository":49508,"styleType":49509,"ĠSRC":49510,"VMLINUX":49511,"recursive":49512,"/bar":49513,"_chip":49514,"ominated":49515,"ĠNit":49516,"âĢĶto":49517,"ĠBuddh":49518,"омеÑĢ":49519,"ĠMAG":49520,"ĠCHE":49521,"_den":49522,".raises":49523,"_degree":49524,"Ġpumpkin":49525,"_templates":49526,"_MEDIA":49527,"ĠTimeline":49528,"Ġbots":49529,"ObjectType":49530,"Ġbuys":49531,".posts":49532,"CAL":49533,"waiting":49534,"ĠDaniels":49535,"Ġdabei":49536,"ĠSigma":49537,"ilor":49538,"igel":49539,",W":49540,"ADS":49541,"(panel":49542,"ì²´":49543,"itating":49544,".palette":49545,"Ġmosquito":49546,"Ġtego":49547,"(parseInt":49548,"Ġdespués":49549,"promise":49550,"Ġwij":49551,"typescript":49552,"ĠTv":49553,"_IDENTIFIER":49554,").ĊĊĊ":49555,"_flat":49556,"itsu":49557,"USR":49558,"experience":49559,"-fit":49560,"phinx":49561,"_thresh":49562,"Ġideally":49563,"ĠFreeman":49564,",DB":49565,"_rw":49566,"çŃī":49567,"Ub":49568,"_statistics":49569,"=\"\"><":49570,"Ġchore":49571,"Ġyork":49572,"installed":49573,"Additionally":49574,"Ġpstmt":49575,"ylko":49576,"::Ċ":49577,"Forest":49578,"Ġheadset":49579,"Ġgallon":49580,"ÑĢем":49581,"Ġwithdrawn":49582,"ĠCandidate":49583,"Ġmelting":49584,"Ġfreezer":49585,"Ġhl":49586,"_HELP":49587,"mime":49588,"(/*":49589,"Ġthirst":49590,"$return":49591,"memberof":49592,"еб":49593,"ĠHttpServletRequest":49594,"(ob":49595,"_Result":49596,"Ġasserted":49597,"Ġfulfilling":49598,"Ġstretches":49599,"parated":49600,"-funded":49601,"ĠåĽ":49602,"ingles":49603,"_ca":49604,".condition":49605,"ĠDisplays":49606,"Ġorang":49607,"ĠCRE":49608,"ĠglBind":49609,"ĠSelector":49610,"/type":49611,"ĠAlexa":49612,"chedules":49613,"ĠPeninsula":49614,"Ġparity":49615,"ĉdest":49616,"ĠDoors":49617,"čĊĉčĊ":49618,"_dimension":49619,"Ġaload":49620,".StoredProcedure":49621,"(paren":49622,"ĠBurke":49623,"')]Ċ":49624,"-engine":49625,"Ġquir":49626,"ĠHybrid":49627,"ĠDoe":49628,"Ġoutlines":49629,"ĠTrends":49630,"_NV":49631,"periments":49632,"ĠHin":49633,"?',":49634,"ĉText":49635,"FUL":49636,"Ġsmells":49637,"Ġslick":49638,"Ġmiserable":49639,"ĠArrayAdapter":49640,"ĠparamString":49641,"Hom":49642,"_literals":49643,"usuarios":49644,"Ġprompting":49645,"_lazy":49646,"ĠActivation":49647,"_oc":49648,"Weak":49649,"Ġanecd":49650,"ĠUCLA":49651,"=re":49652,"issement":49653,"ĠEscorts":49654,"Excellent":49655,"ĠPause":49656,"Ġrepositories":49657,"TOR":49658,"ariate":49659,"_iso":49660,"updates":49661,"halb":49662,"udiante":49663,"ë¡Ŀ":49664,"Ġnaive":49665,"ĠPeg":49666,"ĠLounge":49667,"ARGIN":49668,"(bin":49669,"OnClickListener":49670,"ĠFAILED":49671,"Ġlite":49672,"Ġdzie":49673,"ĠLiteral":49674,"ivor":49675,"fcntl":49676,"Ġeats":49677,"Ġqed":49678,"Unlock":49679,"riding":49680,"undai":49681,"=M":49682,"ATTER":49683,"ConfigureAwait":49684,"icias":49685,"ustomed":49686,"Ġsuccession":49687,"endTime":49688,"ĠJupiter":49689,"Ġjudging":49690,"dration":49691,"_docs":49692,".mo":49693,"Ġeducators":49694,"ĠVine":49695,"Cond":49696,"[out":49697,"qb":49698,"\\Validator":49699,"Ġmeanings":49700,"Ġpresently":49701,"Ġdividing":49702,"ottenham":49703,"ascular":49704,"Ġtrailers":49705,"ĠCLOSE":49706,"ами":49707,"âĢĻai":49708,"ĠGain":49709,"wor":49710,"Ġplanner":49711,"Ġdistributing":49712,"vat":49713,"months":49714,"xlabel":49715,"HF":49716,"Viol":49717,".BASELINE":49718,"еÑĤÑģÑı":49719,"ĠRotate":49720,"Ġtxn":49721,":bold":49722,"Ġbloss":49723,"Forgery":49724,"(embed":49725,"Ġjako":49726,"sprintf":49727,"their":49728,"Ġexhibits":49729,"-static":49730,"hecy":49731,"getActiveSheet":49732,".clients":49733,"ãģį":49734,"_hide":49735,"[word":49736,"Cb":49737,"addItem":49738,"axe":49739,"_radio":49740,"alion":49741,"modifier":49742,"Ġsaturation":49743,"Ġdenom":49744,"_pixels":49745,"mess":49746,"(fl":49747,"atif":49748,"Ġsecs":49749,"Ġprostitution":49750,"Ġgrandchildren":49751,"Ġparadise":49752,"ĠFeld":49753,"_BINARY":49754,"itous":49755,"à¹Ħ":49756,"Ġflashing":49757,"-sided":49758,"Ġcontradiction":49759,"/*ĊĊ":49760,"ylabel":49761,"ĠTet":49762,"Ġadmire":49763,"reso":49764,"Ġletz":49765,"ĠSEARCH":49766,"slots":49767,"ĠRewards":49768,"ĠHog":49769,"ĠNSData":49770,"stash":49771,"Fall":49772,"ĠAmer":49773,"LinearLayout":49774,"/photos":49775,"Ġfeather":49776,"Ġ|čĊ":49777,"Downloads":49778,".StartsWith":49779,"Ġ//#":49780,"ineTransform":49781,"Ġaffid":49782,"Vtbl":49783,"ĠRogue":49784,"scribed":49785,"Ġfauc":49786,"ĠMonroe":49787,"Ġdeclares":49788,"modern":49789,"reon":49790,"aybe":49791,"PASS":49792,"fers":49793,"_MULTI":49794,"ĠMathematics":49795,"Ġsudah":49796,"_ATTACH":49797,"ĠnumberWith":49798,"ĠSolomon":49799,"jin":49800,"ografia":49801,"öl":49802,"_design":49803,"culated":49804,"ĠLuna":49805,"iesz":49806,"Ġ=>'":49807,"Ġrevelations":49808,"Along":49809,"(ed":49810,"ĠFilename":49811,"Ġylabel":49812,"Secure":49813,"Ġbusca":49814,"agnosis":49815,"_RECE":49816,"Ġoverlapping":49817,"Extent":49818,"Ġanticipation":49819,"Checks":49820,"ĠALSO":49821,"orc":49822,"ilingual":49823,"itational":49824,"Ġadvancement":49825,"ouro":49826,"ĠPredicate":49827,"å¾Ĺ":49828,"eria":49829,"ĠPierce":49830,"orio":49831,"Ġmerits":49832,"Ġpeanut":49833,".Package":49834,"ĠConduct":49835,"_SENSOR":49836,"Ġboiling":49837,"Ġintra":49838,"ĠIGN":49839,"ĠFur":49840,".Refresh":49841,"ĠReach":49842,"_decoder":49843,".Exp":49844,"ĠÑĤак":49845,"pill":49846,",Q":49847,"ĠGrill":49848,"Ġpopping":49849,".Ag":49850,"Ġproyecto":49851,"Ġmileage":49852,"Ġecological":49853,"]]);Ċ":49854,"ĠÂŃ":49855,"subplot":49856,"acad":49857,"ĠTrying":49858,"recipes":49859,"$criteria":49860,"ĠPersian":49861,"-bound":49862,"MASK":49863,"ĠGesture":49864,"Ġkk":49865,"ĠPVC":49866,"Ġprohibition":49867,"Ġcomando":49868,"ĠLOOK":49869,"Shopping":49870,"Ġdistortion":49871,"čĊ":49917,".Dependency":49918,".QueryString":49919,".Owner":49920,"Ġexpiry":49921,"Thu":49922,"(Vec":49923,"Ġhazardous":49924,"Ġrpm":49925,"APON":49926,"ĠaddTarget":49927,"sville":49928,"pNet":49929,"ĠImg":49930,"ĠTIMER":49931,".Animation":49932,"Ġbek":49933,"Ġassort":49934,"Ġlebih":49935,"ĠbodyParser":49936,"Ġvibrating":49937,"IDL":49938,"Ġbutterknife":49939,"inters":49940,"Ġpersuade":49941,"ĠLGBTQ":49942,"èĭ":49943,".soft":49944,"Ġbeams":49945,"_sur":49946,".Def":49947,"Ġlabs":49948,"ĉplt":49949,"Ġskins":49950,"Ġtransferring":49951,"Ġimaginary":49952,"_End":49953,";background":49954,"Ġlaps":49955,"_COMMENT":49956,"(SDL":49957,"onds":49958,".Record":49959,"ĠImplements":49960,"_ticks":49961,"()))ĊĊ":49962,"Ġarose":49963,"]?":49964,"ĠMp":49965,"ĠICommand":49966,"Ġsculpture":49967,"Ġcontracted":49968,"\">'":50446,"kinson":50447,"Ġкол":50448,"ognitive":50449,"_li":50450,"Ġimminent":50451,"Ġaffinity":50452,".signal":50453,"Ġnotch":50454,"ĠSteelers":50455,"maxlength":50456,"KK":50457,"ĠEugene":50458,"_PWM":50459,"roi":50460,"ĠâĹı":50461,"ĠHamburg":50462,".Must":50463,"Ġaxe":50464,"enef":50465,"Ġambitions":50466,"ĠSpecies":50467,"ĠStress":50468,"Ġawhile":50469,"ĠбÑĥд":50470,"Ġwithstand":50471,"ĠDecoder":50472,"_inventory":50473,"Ġ{ččĊ":50474,"Ġtgt":50475,"Ġrailroad":50476,"WASHINGTON":50477,"Ġnegotiated":50478,"NST":50479,"-phone":50480,",U":50481,"Ġexercising":50482,"ụ":50483,"_PIXEL":50484,"avors":50485,"iterated":50486,"Ġvampire":50487,"adal":50488,"Ingrese":50489,"Ġung":50490,"jective":50491,".cells":50492,"Ġnano":50493,"Ġmarkdown":50494,"_RULE":50495,"(events":50496,"Ġluggage":50497,"MESSAGE":50498,"igkeit":50499,"$count":50500,"AttributeName":50501,"IGINAL":50502,"_Ent":50503,"ĠBF":50504,"ĠCOMMENT":50505,"_ini":50506,"ĠEuropeans":50507,"ĠBelle":50508,"åij½":50509,")['":50510,"åºĶ":50511,"ĠUseful":50512,".reference":50513,"()\",":50514,"_grade":50515,"ĠKaw":50516,"Ġsentencing":50517,"Ġsocialism":50518,"monster":50519,"_LAYER":50520,"Ġdeepest":50521,"wk":50522,"ĠNoise":50523,"###ĊĊ":50524,"Ġpréc":50525,"otle":50526,"ÑĤе":50527,"auf":50528,"ibal":50529,"Ġconquer":50530,">Email":50531,"Ġambulance":50532,"OAD":50533,"Ġ(\"%":50534,"ĠFI":50535,".fixture":50536,"Ġterse":50537,"ĠĠĠĠĉĉĉĉ":50538,"Ġsanctuary":50539,"ugi":50540,"ĠComparator":50541,"Definitions":50542,"Ġasthma":50543,"Ġlact":50544,"Ġhardwood":50545,".clock":50546,"Ġattracting":50547,"ĠMour":50548,"(distance":50549,"icits":50550,"Ġbonne":50551,"ĠACCESS":50552,".DeserializeObject":50553,"ĠTyped":50554,"Ġjeu":50555,"ĠappId":50556,"ĠClara":50557,"ĠHF":50558,"ĠReich":50559,"ipples":50560,"//--------------------------------------------------------------------------------":50561,"_delivery":50562,"erialization":50563,"Ġplaintiffs":50564,"Scient":50565,"shopping":50566,"ĠDummy":50567,"ĠWald":50568,"GroupName":50569,"Ġinscription":50570,"elog":50571,"::::::::":50572,"_ld":50573,"BackPressed":50574,".Raw":50575,"ĠOnTrigger":50576,"Ġmuseums":50577,"ĠBeen":50578,"ĠAdventures":50579,"Ġslate":50580,"Ġlett":50581,"Ġsund":50582,"ĠGin":50583,"ĠMechanical":50584,".ship":50585,"AppComponent":50586,"Ġdestined":50587,"Ġdwelling":50588,"Profiler":50589,"Prepare":50590,"zeich":50591,"Ġsilicon":50592,"(has":50593,"Ġ#%":50594,"VIDEO":50595,"Ġcollaborate":50596,"Lin":50597,"Ġscopes":50598,"(className":50599,"(sd":50600,"andin":50601,".ham":50602,"ServiceImpl":50603,"-described":50604,"Ġirony":50605,"stial":50606,"ĠHuawei":50607,"(repo":50608,"Ġunexpectedly":50609,"ĠKai":50610,".install":50611,"\\xf":50612,"Ġexhibited":50613,"_TCP":50614,"ĠOx":50615,"_CHO":50616,"Ġprostituerte":50617,"Ġvä":50618,"Ġsito":50619,"Ġconstituents":50620,"ĠContinued":50621,"ĠSAVE":50622,"rss":50623,"/message":50624,"ubes":50625,"Ġmisdemean":50626,"Ġtaxation":50627,"Ġstoryline":50628,"hair":50629,"ĠFinds":50630,"SIG":50631,"verification":50632,"~=":50633,".hp":50634,"Iterable":50635,"Ñĭе":50636,"atori":50637,"Ġctr":50638,"Rx":50639,"_);ĊĊ":50640,"dag":50641,".pin":50642,"Ġpseud":50643,"Ġinvo":50644,"ÑģÑĤÑĢ":50645,"_pix":50646,"为空":50647,"Ġsworn":50648,"âĢĶor":50649,"_registry":50650,"Ġdisasters":50651,"ĠROI":50652,"ĠâĢķ":50653,"aktu":50654,"forest":50655,"beiten":50656,"âĢĶI":50657,"ueva":50658,"egt":50659,"Ġspikes":50660,"URES":50661,"ĠRecommended":50662,"Ġexploited":50663,"ĠFrederick":50664,"_COMPLETE":50665,"ĠDrugs":50666,"!!!!!!!!":50667,"ĠRiv":50668,"STOP":50669,"ROOM":50670,"ĠPASSWORD":50671,"Cookies":50672,".El":50673,"á»Ń":50674,"ĠBert":50675,"Ġhashed":50676,"icester":50677,"Ġdecorator":50678,"ĠqueryString":50679,":;Ċ":50680,"Ġ\"[\"":50681,"otope":50682,"-Americ":50683,"ĠMatthews":50684,"URAL":50685,"âĢľ,":50686,"Summer":50687,"fos":50688,"_CONTAINER":50689,"_ACK":50690,"Ġfiltr":50691,"_disp":50692,"_Re":50693,"Ġfacile":50694,"аÑĪ":50695,"ĠìķĬ":50696,"Ġeben":50697,"Ġsprink":50698,"ĠQuint":50699,">V":50700,"Ġhistorians":50701,"ourmet":50702,"ĠMonitoring":50703,"ledger":50704,"cott":50705,"Ġware":50706,"GGLE":50707,"cars":50708,"ĠMEDIATEK":50709,"Ġvolupt":50710,"_View":50711,"HEL":50712,"(copy":50713,"(stats":50714,"Ġchromosome":50715,"ĠCurtis":50716,"-conf":50717,"(asset":50718,"Ġhvor":50719,"FileSystem":50720,"<>();čĊ":50721,"ocoder":50722,"ĠCannon":50723,")x":50724,"ĠSmooth":50725,"ĠSAS":50726,"_ce":50727,"ĉprev":50728,"_movie":50729,"Ec":50730,"_wall":50731,".ĊĊ":51278,"ogenesis":51279,"ĠOPTIONS":51280,"uptools":51281,"Ġmilitant":51282,"Ġexited":51283,"igar":51284,"ĠCOMM":51285,"ĠDisposable":51286,"aycast":51287,"Ġrowspan":51288,"Ġsynthes":51289,"Ġsondern":51290,"ĠĊ":54769,"ĠJacket":54770,"RATION":54771,".getSelectedItem":54772,"-init":54773,"ĠRegisters":54774,"_sep":54775,"ĠToolkit":54776,".dict":54777,"Ġxlabel":54778,"\\Table":54779,"toc":54780,"_combo":54781,"ĠCompact":54782,"Ġrugged":54783,"à¥ĩà¤":54784,"-management":54785,"')}}\">Ċ":54786,"ĠStamp":54787,"ıl":54788,"rox":54789,"Ġlandscapes":54790,"_NOTE":54791,"monary":54792,"cab":54793,"Ġmoet":54794,"xaf":54795,"rcode":54796,"-cli":54797,"_gate":54798,"[event":54799,"SPORT":54800,"gia":54801,"ĠSUPER":54802,"/Login":54803,"_shutdown":54804,"interrupt":54805,"Ġpretending":54806,"Ġfringe":54807,"ĠReds":54808,"ĠCUDA":54809,"ĠUNIX":54810,"vit":54811,"Ġbrig":54812,"drv":54813,"ĠConnector":54814,"Therefore":54815,"Ġlia":54816,"Detection":54817,"_actor":54818,"Ġtempfile":54819,"Ġeccentric":54820,"-role":54821,"Ġpadx":54822,"dent":54823,"Western":54824,"Ġê·¸":54825,"ĠApplicationRecord":54826,"Ġcampaigning":54827,"_runner":54828,"ĠCivic":54829,"aleigh":54830,"Ġdirekt":54831,".sul":54832,"ĠĠĉĉĉ":54833,"anten":54834,"Ġissuer":54835,"Ġassertions":54836,"(orig":54837,"ATIO":54838,"Ġleaned":54839,"äs":54840,".DTO":54841,"explode":54842,".Observable":54843,"Ġstaggering":54844,"Ġkidnapped":54845,"Ġprogrammers":54846,"ĠInnov":54847,".parameter":54848,"Ġdomination":54849,"Ġskeptic":54850,"Ġæĺ¯":54851,"Ġavoids":54852,".Verify":54853,"ubby":54854,"ĠASN":54855,"Ġformato":54856,"ĠBeatles":54857,"_brand":54858,"Ġinset":54859,"youtu":54860,"Ġtoc":54861,"-final":54862,"Showing":54863,"ĠDoub":54864,"ĠMesa":54865,"Adj":54866,"_medium":54867,"Creates":54868,"(endpoint":54869,"ĉUP":54870,"bbie":54871,"Ġstalk":54872,".databind":54873,".Scan":54874,"agents":54875,"$,":54876,"individual":54877,"+)/":54878,"ĉvm":54879,"(notification":54880,"Ġinex":54881,"ĠClassification":54882,"reno":54883,"Ġolig":54884,"-rated":54885,"Ġformulation":54886,"',{":54887,"Ġacept":54888,"_unpack":54889,"_CA":54890,".Pow":54891,"ĉim":54892,"Ġaluminium":54893,"ANO":54894,"Ġxn":54895,"Ġcómo":54896,"ĠIngredient":54897,"Ġseizures":54898,"åħ±":54899,"ificador":54900,"Ġsiguiente":54901,"ĠInfragistics":54902,"Ġduplicated":54903,"ĠDee":54904,"Ġnø":54905,"ĠACCEPT":54906,"(crate":54907,"иÑĤелÑĮ":54908,"-less":54909,"Ġinfinity":54910,"Analyzer":54911,"-Day":54912,"ritt":54913,"(cin":54914,"ĠGy":54915,"Ġmultiplied":54916,"uchi":54917,"ĠBaldwin":54918,"/ip":54919,"Ġshortcuts":54920,".ADD":54921,"Ġvigor":54922,"_instruction":54923,"(;":54924,"_eta":54925,"è¿ŀ":54926,"utorials":54927,"Ġboosting":54928,"bv":54929,"Ġacknowledges":54930,"Listening":54931,"FAQ":54932,";b":54933,"((-":54934,"Ġarchitects":54935,"Ġzwe":54936,"Ġpuls":54937,"ĠgetCount":54938,"verbs":54939,"ãĢľ":54940,"(Collection":54941,"kre":54942,"Ġjurisdictions":54943,"_bridge":54944,"ĠCrack":54945,"ĠDifficulty":54946,"KO":54947,"Reservation":54948,"_requires":54949,"Tour":54950,"ãģĹãģŁ":54951,".setCurrent":54952,"Ġky":54953,"ĠAlbany":54954,"Ġè§":54955,"ller":54956,"agna":54957,"workers":54958,".blank":54959,"ĠPrayer":54960,"MIC":54961,"Ġresilience":54962,"TeX":54963,"ĠLanguages":54964,"study":54965,"ĉcurr":54966,"Ġenzymes":54967,"Slug":54968,"ĠíĮĮ":54969,"stral":54970,"Ġtumors":54971,"Ġsegunda":54972,"='{":54973,"instruction":54974,"ĠLisp":54975,"/info":54976,"Ġ\"{$":54977,",:),":54978,"Ġgv":54979,"(ErrorMessage":54980,"Ġ'=":54981,"}-${":54982,".Documents":54983,"\"Well":54984,"Ġreminiscent":54985,"Ġgaz":54986,"iropr":54987,"ehr":54988,"Ġsuppressed":54989,"ersh":54990,".scrollTo":54991,"Ġcadena":54992,"ĠgameState":54993,"ÃŃm":54994,"(conv":54995,"ĠTomorrow":54996,"ĠCCT":54997,"Mongo":54998,"ulg":54999,".Camera":55000,".handlers":55001,"mph":55002,"Ġstk":55003,"Ġgenetics":55004,"ACING":55005,"Trivia":55006,"ĠBam":55007,"(marker":55008,".Stretch":55009,"ĠSunni":55010,"ĠBetty":55011,".tolist":55012,"unlikely":55013,".Rectangle":55014,"obsolete":55015,"ILON":55016,"innerText":55017,"embourg":55018,"aN":55019,"ĠVehicles":55020,"unlock":55021,":utf":55022,"nob":55023,"ĠSeeing":55024,"ĠNEVER":55025,"Ġtls":55026,"Ġfilles":55027,"Ġbenefited":55028,"ĠClint":55029,"*/),":55030,".fold":55031,"Ġposible":55032,"ADED":55033,"thouse":55034,".DAL":55035,"ĠOdd":55036,"rokes":55037,"ĠSunny":55038,"ĠPartialEq":55039,"_Buffer":55040,"ĠLevi":55041,"longrightarrow":55042,"eldon":55043,"gages":55044,"_warn":55045,".CreateTable":55046,"ĠDip":55047,"_questions":55048,".logic":55049,"Ġ#\"":55050,"={()=>":55051,"Ġtep":55052,"Ġjuicy":55053,"ìĤ¬":55054,"enko":55055,"ialect":55056,"Ùī":55057,"Ġonboard":55058,"Ġæı":55059,"ĉrt":55060,"_UTF":55061,"ĠQAction":55062,"âĢŀ":55063,"(Component":55064,"(audio":55065,".hit":55066,"gte":55067,"Ġprogrammed":55068,"stateParams":55069,"Ġpolyester":55070,"fires":55071,"byss":55072,"]=(":55073,"_quality":55074,"OfDay":55075,"ĠFairy":55076,"Ġyelled":55077,"opl":55078,"(userName":55079,"ĠDifference":55080,"Ġevaluations":55081,"iffany":55082,"Ġcyclists":55083,"Ġcidade":55084,"Ġtextbook":55085,"Ġprofiling":55086,"__),":55087,"dea":55088,".activate":55089,"Ġindications":55090,"Ðķ":55091,"TouchUpInside":55092,"Ġinvaluable":55093,"ĠMASK":55094,"Ġcontend":55095,"Freq":55096,"Ġrecruits":55097,"(interval":55098,"ĠUserProfile":55099,"Ġ'./../":55100,"edu":55101,"_Callback":55102,"Ġanalogy":55103,"ĠTrophy":55104,"apphire":55105,"Videos":55106,"ĠCher":55107,"ĠHav":55108,"â̦\"":55109,".validator":55110,"gfx":55111,"ĠUObject":55112,"classnames":55113,"triangle":55114,"ĠEncoder":55115,".spy":55116,"Ġpredators":55117,"=status":55118,"-safe":55119,":\",Ċ":55120,"ĠIncluding":55121,"Ġ{};čĊ":55122,"*cos":55123,"Ġendured":55124,".sulake":55125,"Ġnursery":55126,"Ġfragrance":55127,"Ġrebuilding":55128,"Ġnth":55129,"ĠFraser":55130,".setDate":55131,"ĠVince":55132,"_REST":55133,"Ġventilation":55134,"æµ·":55135,"cribes":55136,".asm":55137,"lpVtbl":55138,"ĠAbe":55139,"uisine":55140,",array":55141,"ĉclassName":55142,"errals":55143,"Ġ'ĊĊ":55144,"Checkout":55145,"Ġsolicit":55146,"Aux":55147,"_capture":55148,"Ġribs":55149,"ragon":55150,"viol":55151,"topics":55152,"FunctionFlags":55153,"ĠMarty":55154,"bike":55155,"ĠTucker":55156,"(kernel":55157,"ĠOps":55158,"CloseOperation":55159,"/demo":55160,"ilda":55161,"ĠlÃŃnea":55162,"APPING":55163,"Ġsuites":55164,".visitVarInsn":55165,"urus":55166,"ĠMinute":55167,"(manager":55168,"Ġbutterfly":55169,"Ġapare":55170,"Ġwolves":55171,"JWT":55172,"ĠSalon":55173,"ĉdelay":55174,"-eslint":55175,"isations":55176,".rpc":55177,")|(":55178,"ĠSnapchat":55179,"/mm":55180,"MN":55181,"ceries":55182,".textAlignment":55183,"ĠFrankfurt":55184,"Ġado":55185,"(newValue":55186,"(access":55187,"(Expression":55188,"ĠSignIn":55189,"ĠHaiti":55190,"_tp":55191,".setParameter":55192,"Minute":55193,"Ġmanuals":55194,"ricanes":55195,"ĠPTR":55196,"ĠOuter":55197,"Ġgetline":55198,"ocations":55199,"_CD":55200,"ĠLyon":55201,"/gui":55202,"_live":55203,"idan":55204,".geom":55205,"ĠborderBottom":55206,"imuth":55207,"_checkpoint":55208,"Ġmeu":55209,"ĠIrving":55210,"Ġpeuvent":55211,"(MAX":55212,"ĠARCH":55213,"Ġpov":55214,".sourceforge":55215,"Ġjamais":55216,"Ġark":55217,"ĠBaghdad":55218,"ĠCLEAR":55219,"MenuBar":55220,"Ġtrois":55221,"CHEDULE":55222,"Ġ#čĊ":55223,"(Call":55224,"$order":55225,"(Material":55226,"Ġencontrado":55227,"$list":55228,"ĠMETHODS":55229,".beginTransaction":55230,"_MAG":55231,"StyleSheet":55232,"Ġmajors":55233,"Ġindefinitely":55234,"cleanup":55235,"Ġhomeland":55236,"(dto":55237,"Dates":55238,"Presentation":55239,"ĠDK":55240,"={`/":55241,"ĉKey":55242,"(Block":55243,"_checkbox":55244,"needs":55245,"ĠonComplete":55246,"rico":55247,"Ġgleich":55248,"Ġxm":55249,"OOD":55250,"Better":55251,"ĠSQLITE":55252,".Book":55253,"xad":55254,"ĠGone":55255,"ĉdp":55256,"Ġdevotion":55257,"Ġstm":55258,"Ġobsess":55259,"ĠBackend":55260,"Queries":55261,"Ik":55262,"//****************************************************************":55263,"Ġdividends":55264,".parentElement":55265,"}\")ĊĊ":55266,"ĠMaterialPageRoute":55267,":num":55268,"Ġexplic":55269,"ĠOL":55270,"least":55271,"Oops":55272,"imentos":55273,"Ġinsurers":55274,"Ġheroic":55275,"ĉfields":55276,".imgur":55277,".btnCancel":55278,"ĠDetective":55279,"(sm":55280,"ĠMutableLiveData":55281,".lab":55282,"(([":55283,"Ġhairst":55284,"ĠTransactions":55285,"å¼Ģå§ĭ":55286,"ĠstdClass":55287,"uento":55288,"GIS":55289,"_cod":55290,"Instructions":55291,"Calls":55292,"PointerType":55293,"ĠRw":55294,"Ġassortment":55295,"ĠDIG":55296,"+r":55297,"_CERT":55298,"Ġinstability":55299,"Ġvib":55300,"onas":55301,"Ġroku":55302,"apellido":55303,"Ġangl":55304,"preneur":55305,"Ġfluids":55306,"isease":55307,"Ġdeed":55308,"quist":55309,"_CONSTANT":55310,"Ġequilibrium":55311,"_delegate":55312,"ĠQuantum":55313,"rei":55314,"Capabilities":55315,"rectangle":55316,"?><":55317,"alien":55318,"ĠJug":55319,"DNA":55320,"Tickets":55321,"Occurs":55322,"ĠHawk":55323,".setHorizontalGroup":55324,"\\Collection":55325,"ffiti":55326,"Ġrearr":55327,".setVerticalGroup":55328,"Ġcavity":55329,"Ġadulte":55330,"Facade":55331,"-wh":55332,"ĠLOL":55333,"ذ":55334,"Ġgrandparents":55335,"Swift":55336,"ĉwx":55337,"æīĢæľī":55338,"ifen":55339,"ffset":55340,"Beyond":55341,"//}ĊĊ":55342,"Ġwager":55343,"Ġbury":55344,"Ġcommence":55345,"registro":55346,"scient":55347,"ĠPercent":55348,"Ġдолж":55349,"(identifier":55350,".setModel":55351,"Ġseldom":55352,"nton":55353,"Ġappliance":55354,"amus":55355,"rysler":55356,"Ġpanties":55357,"enguins":55358,"Ġmimic":55359,"ĠonChanged":55360,"Ġalcoholic":55361,".reloadData":55362,"Charge":55363,"ĠFax":55364,"ĠjScrollPane":55365,"Empresa":55366,"Ġshattered":55367,"xba":55368,"Fonts":55369,"?s":55370,"Ġpostseason":55371,"retain":55372,"_rates":55373,"ĠrequestCode":55374,".todo":55375,"´s":55376,"CHK":55377,"ĠKeeping":55378,"engeance":55379,"Ġvscode":55380,"IPPING":55381,"DefaultCloseOperation":55382,"_raise":55383,"ĠOculus":55384,"ograms":55385,"raj":55386,"pci":55387,"Ġcorrosion":55388,".handleSubmit":55389,"Accessible":55390,"ĠPiano":55391,"little":55392,"ACL":55393,"Äĩe":55394,".unwrap":55395,"ĠConvers":55396,"ĠLeben":55397,"ioneer":55398,"ĠMerchant":55399,"ĠJorge":55400,"Ġembracing":55401,"Ġventa":55402,"ást":55403,"Ġviene":55404,"Ċ":55556,"-growing":55557,"Ġdeepcopy":55558,"Ack":55559,"eggies":55560,"Ġ__(\"":55561,"Ġnoir":55562,"terrorism":55563,"Ġanthem":55564,"agency":55565,"_PACKAGE":55566,"ĠClosure":55567,".registry":55568,"Ġmammals":55569,"L":55600,"Ġbluetooth":55601,".Deep":55602,"-standing":55603,"ácil":55604,"Ġrooft":55605,"ĠPaths":55606,"_iterations":55607,"InvalidArgumentException":55608,".spi":55609,"ĠUIAlertAction":55610,"uye":55611,"signin":55612,".priority":55613,"ĠEssays":55614,"='{$":55615,"Ġè¿ĶåĽŀ":55616,"_signed":55617,".persist":55618,"Ġredesign":55619,"ToLower":55620,"ĠNewman":55621,"=start":55622,"ĠIsraelis":55623,"asiswa":55624,"Speech":55625,"Ġnumeros":55626,"handlers":55627,"ĠWong":55628,"ĠмеÑĤод":55629,"Weights":55630,"ĠGujar":55631,"teil":55632,"ĠNonetheless":55633,"_EFFECT":55634,"Ġvect":55635,"ĠOsc":55636,"Ġcoats":55637,"ĠWheat":55638,"Ġgeek":55639,"ĠPROPERTY":55640,"worm":55641,"_constants":55642,"ĠBoulder":55643,"ĠParm":55644,"cole":55645,"ĠdefaultCenter":55646,"ĠRouge":55647,":A":55648,"xcf":55649,"ĠVenice":55650,"median":55651,"Ġredemption":55652,"Fresh":55653,"Ġcosm":55654,"Ġfigur":55655,"Ġrefurb":55656,"COPE":55657,".cd":55658,"Ġchords":55659,"ĠSgt":55660,"Åį":55661,"VPN":55662,"ĠSEND":55663,"ainen":55664,"_accounts":55665,"Ġtenth":55666,"Ġdissolved":55667,"":55907,"Ġlegitimacy":55908,"Ġoo":55909,"Slinky":55910,"Ġnationals":55911,".words":55912,";p":55913,"trap":55914,"omanip":55915,"Ġcues":55916,"Ġgraduating":55917,"Ġsemaphore":55918,"\"]);ĊĊ":55919,"acey":55920,"REET":55921,"Grab":55922,"ĠFelix":55923,"(Id":55924,"_neighbors":55925,"Ġmeaningless":55926,"(del":55927,"Ġjeder":55928,"ĠContentValues":55929,".absolute":55930,"/cl":55931,"Ġxb":55932,"datum":55933,"Ġtortured":55934,"Ġrubbing":55935,"Scores":55936,"ĠðŁĺī":55937,"Ġavons":55938,"Ġamsterdam":55939,"EOS":55940,"Hal":55941,"Ġtrustworthy":55942,"#=":55943,".EXTRA":55944,"Ġmano":55945,"isicing":55946,"-support":55947,"ĉcursor":55948,"ĠSpo":55949,"aimassage":55950,"Mission":55951,"[]{\"":55952,"Ġprinters":55953,"GREEN":55954,"Ġteg":55955,"Ġabdominal":55956,"!ĊĊĊĊĊĊ":55957,".Short":55958,"азв":55959,"ĠGifts":55960,"}\")":55961,"(binding":55962,"xce":55963,"âĢij":55964,"infos":55965,"FormData":55966,"Ġdart":55967,"Ġelems":55968,"(inv":55969,"YL":55970,"tin":55971,"GENER":55972,"ữ":55973,"ĠTaken":55974,"uckle":55975,":e":55976,"Ġspectral":55977,".baidu":55978,"/');Ċ":55979,"Ġgreedy":55980,"esion":55981,",,,,,,,,":55982,"Ġ/>,Ċ":55983,"InternalServerError":55984,"NSNotificationCenter":55985,"ĠAi":55986,"Ġspit":55987,"Ġaugmented":55988,"ĠstandardUserDefaults":55989,"FINITY":55990,"Race":55991,":C":55992,"ĠRECORD":55993,"ĠHighlight":55994,"Ġ'`":55995,"Ġdeficits":55996,"Ġnei":55997,"Ġresearched":55998,"Ta":55999,"Ġcopp":56000,".GetHashCode":56001,"):čĊčĊ":56002,"OnClick":56003,"ĠWellington":56004,"Ġrevival":56005,"æ¯Ķ":56006,"éĹ®":56007,"ĠNSS":56008,"Ġforn":56009,"Ġinté":56010,"ĠKuwait":56011,"_flip":56012,"_bo":56013,"_\\":56014,"Ġoccurrences":56015,"ĠScientists":56016,"SRC":56017,"ogens":56018,"igrant":56019,"REMOTE":56020,"ĠSID":56021,".opts":56022,"uve":56023,"()])Ċ":56024,"Ġlibertarian":56025,"ĠGlide":56026,"lesen":56027,"Ġforme":56028,"owania":56029,"Ġannoyed":56030,"Defs":56031,"ĠExecutor":56032,"Ġcasts":56033,".setChecked":56034,"ĠSharing":56035,".SerializeObject":56036,"Ġselectors":56037,"_OTHER":56038,"미":56039,"(super":56040,"(OS":56041,"_VERIFY":56042,"idunt":56043,"';Ċ":56045,"Ġvidéo":56046,"ĠNegro":56047,"ĠLords":56048,"ĠTours":56049,"Ġsoftly":56050,".receive":56051,"ĠERC":56052,"ĠdataSet":56053,"Badge":56054,"ĉEvent":56055,"Ġperl":56056,"Ġ{}\\":56057,"(sentence":56058,"OrUpdate":56059,"Ġdiminish":56060,"PIN":56061,"(draw":56062,".ToDateTime":56063,".EqualTo":56064,"(pin":56065,"-pencil":56066,"luent":56067,"ĠCaller":56068,"Ġplayful":56069,"-'+":56070,"xca":56071,"swick":56072,"){}Ċ":56073,"}:${":56074,"ĠMeth":56075,".getCell":56076,".break":56077,"Ġymax":56078,"='Ċ":56291,"ĠHiro":56292,"(TRUE":56293,"asurer":56294,"Ġcuer":56295,"Uber":56296,".Operation":56297,"Ġolan":56298,"Ġthrilling":56299,"'.":56321,"ĉvalid":56322,"\"\",":56323,"Instrument":56324,">J":56325,"Ġnostr":56326,"ĠRift":56327,"_Port":56328,"Ġveces":56329,"[['":56330,"Ġrallies":56331,"-series":56332,"Ġvv":56333,".uc":56334,"Ġrtn":56335,"StateChanged":56336,"(ins":56337,"ĠCla":56338,"------------Ċ":56339,"cus":56340,"ĠReload":56341,"//------------------------------------------------------------------------------------------------":56342,".seconds":56343,"_destination":56344,"Ġscrewed":56345,">c":56346,"Thickness":56347,"Designer":56348,"Ġgrids":56349,"nÄħ":56350,"(cookie":56351,"Trip":56352,"-Mobile":56353,"Ġvoll":56354,"Ġgenital":56355,"Ġconfisc":56356,"ĠConfederate":56357,"ĠwebView":56358,"Ġmise":56359,"Ġcler":56360,"(selection":56361,"$date":56362,"Ġsharpen":56363,"ragen":56364,"AndUpdate":56365,"Ġremix":56366,"Ġhtons":56367,"RW":56368,"MPI":56369,"Ġretrieval":56370,"Ġrichest":56371,".Decode":56372,":initComponents":56373,"ĠTValue":56374,"Saint":56375,"@include":56376,"ĠPERSON":56377,".sep":56378,"ĠLDAP":56379,"gba":56380,"ĠgroÃŁe":56381,"Ġreliably":56382,"ĠDFS":56383,".getItemId":56384,"Ġprésent":56385,".getToken":56386,"Ġchinese":56387,"ĠMeal":56388,"YOU":56389,"\">>ĊĊ":56948,"bower":56949,"Ġswapped":56950,"/install":56951,"Ġsinks":56952,"etrize":56953,"Ġdeclines":56954,"ĉmysql":56955,"ĠCString":56956,"ĠMotionEvent":56957,".Language":56958,"Road":56959,"ÑĤеÑĢ":56960,"ascimento":56961,"'))->":56962,".about":56963,"(editor":56964,"ĠRatings":56965,"income":56966,"Å¡e":56967,".dequeueReusableCell":56968,"ĠAustrian":56969,"Ġsulla":56970,"ĠTribunal":56971,"ĠDidn":56972,"оваÑĢ":56973,"Ġinspections":56974,"Boss":56975,"Ġcocktails":56976,"Ġapologized":56977,"_subplot":56978,"opal":56979,"+=(":56980,"Ġresonance":56981,"ibu":56982,"Ġ리":56983,"roma":56984,"reserve":56985,"pls":56986,"ĠTah":56987,"axies":56988,"OPLE":56989,"ĠDarren":56990,"ĠZombie":56991,"_Map":56992,"Ġ])ĊĊ":56993,"ĠQi":56994,"ĠSail":56995,"Ġrestrictive":56996,"Ġerosion":56997,"-par":56998,"WHITE":56999,"Ġoldu":57000,"Ġaperture":57001,"Ġbitcoins":57002,"texto":57003,"ĠComcast":57004,"Ġtimeless":57005,"enkins":57006,"Ġfeeder":57007,"/tmp":57008,"resden":57009,"+'_":57010,".Destroy":57011,"Ġçok":57012,"ĠDOCUMENT":57013,".lng":57014,".tagName":57015,"Ġkullan":57016,"egrate":57017,"Ġ(*.":57018,"ç¼ĸè¾ij":57019,"Ġhandshake":57020,"soc":57021,"_geometry":57022,"ĠDamascus":57023,"Minor":57024,"ĠKafka":57025,"ìŬ":57026,"Florida":57027,"_compute":57028,".expr":57029,"Ġparalle":57030,"ĠDiaz":57031,"cir":57032,"[target":57033,"Ġjoking":57034,"Ġglor":57035,"(setq":57036,"_handlers":57037,"Hang":57038,"Ġferr":57039,"riminal":57040,"ĉĠĠĠĠĉĉ":57041,"enties":57042,"defines":57043,"-tax":57044,"jsonp":57045,"ĠUPS":57046,"metro":57047,"__;Ċ":57048,"ĠUganda":57049,"])):Ċ":57050,"_td":57051,"xae":57052,"lw":57053,".OS":57054,"ĠLogged":57055,"acid":57056,"ĠMayo":57057,"aspect":57058,"Ġvaginal":57059,"Ġinitializing":57060,"Ġsteroids":57061,"fiction":57062,"GRE":57063,"gend":57064,"Ġliabilities":57065,"ĠLets":57066,"Mech":57067,"(nc":57068,"(change":57069,"Ġconnectors":57070,":k":57071,"Ġtast":57072,"!\");ĊĊ":57073,"things":57074,"rophy":57075,"luetooth":57076,"ĠSignUp":57077,".ctrl":57078,"Ġtherein":57079,"orda":57080,".escape":57081,"igator":57082,"Ġpetrol":57083,"Ġspecimen":57084,"Ġdebuted":57085,"-Pro":57086,"Ġcrises":57087,".addView":57088,"ëıĻ":57089,"-door":57090,"Ġmonet":57091,"Ġmillis":57092,"Ġvier":57093,"InternalEnumerator":57094,"Ġadmins":57095,"ĠLair":57096,"zin":57097,"getQuery":57098,"umbles":57099,"LIMIT":57100,"ĠVig":57101,"_song":57102,"":57415,"Ġpasado":57416,"thank":57417,"_Delete":57418,"ĠBrighton":57419,",unsigned":57420,"ä½ľèĢħ":57421,"Ġaspirations":57422,"-how":57423,"Rose":57424,"=((":57425,"_needed":57426,"_plural":57427,">ĊĊ":57545,"Ġsurfaced":57546,"ĠìłĢìŀ¥":57547,"platz":57548,"ĉemail":57549,"ceptors":57550,"\">(":57551,"Ġepile":57552,"读":57553,"ĠDebt":57554,"åijĬ":57555,"NOP":57556,"\"https":57557,":j":57558,"FormItem":57559,"_LICENSE":57560,".getDouble":57561,"ĠAgenda":57562,"ĉfinally":57563,"(filters":57564,"(av":57565,"ç¾İ":57566,"APER":57567,"Ġlava":57568,"еÑĢж":57569,"))))ĊĊ":57570,"Ġfaulty":57571,"_nm":57572,"Ġtrava":57573,"(Bitmap":57574,"Ġspeeding":57575,">').":57576,"Ġscreened":57577,"_roll":57578,"ĠMacBook":57579,"ĠAUD":57580,"Ġdiagnose":57581,".Generate":57582,"Ġ^^":57583,"Ġstrs":57584,"[Test":57585,"Ġransom":57586,"ĠDHCP":57587,"elden":57588,"Ġinterpretations":57589,"()].":57590,"flatMap":57591,"ĠlineHeight":57592,"_mount":57593,"ĠWizards":57594,"Ġsluts":57595,"ehler":57596,"odal":57597,"Ġmilitia":57598,"å²":57599,"earned":57600,"Ġmisery":57601,"intval":57602,"fund":57603,"Ġhides":57604,"Ġdiarr":57605,"ĠWesley":57606,"Ġxmm":57607,"Ġquem":57608,"ĠArabs":57609,"ifth":57610,"ategorized":57611,"Disposable":57612,"Pure":57613,"_NOTIFY":57614,"snippet":57615,"ĠGarrett":57616,".running":57617,".weights":57618,"Ġ(--":57619,"Ġinvariant":57620,"äºĭä»¶":57621,"ĠAllowed":57622,"dirs":57623,"Ġpassions":57624,"Ġlad":57625,"ĠFlush":57626,"menus":57627,":block":57628,"Ġcompra":57629,".chomp":57630,"allocator":57631,"Ġcurated":57632,"ĠKnowing":57633,"ĠPatterson":57634,"Ġtelah":57635,"'ex":57636,"Ġdoomed":57637,"Ġphilanth":57638,"otty":57639,".styles":57640,"Owned":57641,"Ġallergies":57642,"=params":57643,"ocese":57644,"itelist":57645,"ĠSending":57646,"bef":57647,"orrar":57648,"ĠNão":57649,"ĠFargo":57650,"ĠLub":57651,"ĠCombined":57652,"_given":57653,"ĉĉĉĉĉĠĠĠĠ":57654,"Ġreconciliation":57655,"Patterns":57656,"azard":57657,"Ġbiomass":57658,"ĠHouses":57659,"respuesta":57660,"cco":57661,"/topics":57662,"ĠYuk":57663,"Ġweakened":57664,"_calendar":57665,"Ġmulheres":57666,"ĠMarl":57667,"Ġsine":57668,"ĠTil":57669,"ĠSouls":57670,"ĠDeutsche":57671,"ĠFOLLOW":57672,"Ġpipelines":57673,"ĠBeverly":57674,"_DIPSETTING":57675,"\"#":57676,"ĠProto":57677,".big":57678,"ĠSavings":57679,"ĠTanz":57680,"jun":57681,"ĠGamma":57682,"ĠSadd":57683,"Ġadvisors":57684,"Ġroast":57685,"Ġunters":57686,"udies":57687,"_lon":57688,"-pointer":57689,"ĠElementRef":57690,"\\Builder":57691,"exampleInput":57692,".webdriver":57693,"dataType":57694,"ĠQuite":57695,"ĠCeltics":57696,"uil":57697,"-defense":57698,"bish":57699,"ĠUIWindow":57700,"ĠSuddenly":57701,".hot":57702,".reason":57703,"Ġgör":57704,"AMD":57705,".Multi":57706,"authenticated":57707,"regions":57708,";(":57709,"аÑĢам":57710,"ĠKirby":57711,"$route":57712,"PRECATED":57713,"ĠDurham":57714,"owo":57715,"ĠPerforms":57716,"Ġdisregard":57717,"nst":57718,"ĠPols":57719,"ĠgetP":57720,"\"]:":57721,"-colored":57722,"(Keys":57723,"ĠAlleg":57724,"_modify":57725,"_loading":57726,"strained":57727,"Ġatroc":57728,"_phr":57729,"":58721,"ceph":58722,".DateTimePicker":58723,".\";ĊĊ":58724,"ĠTie":58725,",item":58726,"Ġmenn":58727,"Gas":58728,"ocha":58729,"_virtual":58730,"Ġmasterpiece":58731,"_sequences":58732,"LTE":58733,"ĠSubmission":58734,"Caller":58735,"$\\":58736,"Sport":58737,"agus":58738,"ConstraintMaker":58739,"Ġcoloc":58740,"Ġwig":58741,"ĠУ":58742,"ĉArray":58743,"Looks":58744,"ĠGTA":58745,".steps":58746,"atchewan":58747,"_ranges":58748,"extAlignment":58749,"ĠBrennan":58750,"Ġabstraction":58751,"ulerAngles":58752,".misc":58753,"Ġantibodies":58754,"Ġexponential":58755,"ĠCHANNEL":58756,"expense":58757,"'y":58758,"Ġdetectives":58759,"Ġpurported":58760,"YSTEM":58761,"Ġradioactive":58762,"ĠLatina":58763,".Encoding":58764,".TAG":58765,"xin":58766,"Degree":58767,"uracion":58768,"prices":58769,"ĠReferentialAction":58770,"Ġrarity":58771,"Ġpiles":58772,"gende":58773,"_projects":58774,"_globals":58775,".startTime":58776,"Ġ구":58777,"SECTION":58778,"_publish":58779,"Fault":58780,"DDL":58781,"_prior":58782,"Mom":58783,"Ġthicker":58784,"Ġsequelize":58785,"Ġessentials":58786,"stras":58787,"intr":58788,">(()":58789,".management":58790,"eil":58791,"éĹŃ":58792,"Aware":58793,".City":58794,"ĠArbit":58795,"_DM":58796,"_keyboard":58797,"LObject":58798,"-webpack":58799,"ĠNewport":58800,"ĠprincipalColumn":58801,"legant":58802,"Ġpallet":58803,"Ġfracture":58804,"Ġgmail":58805,".Meta":58806,"Above":58807,".KeyEvent":58808,"jit":58809,"_macro":58810,"_PUSH":58811,"ứ":58812,"/controller":58813,"åĬłè½½":58814,"Ġsuperficial":58815,"exterity":58816,"Ġmensagem":58817,"Wind":58818,"iston":58819,".openapi":58820,"иÑĢов":58821,"ĠSerializer":58822,"uctive":58823,"Ġzar":58824,"Places":58825,".Static":58826,"Ba":58827,"Ġinadvert":58828,"ĠIndonesian":58829,"_IPV":58830,"(horizontal":58831,"ĠgetTitle":58832,"idepress":58833,"ĠConsoleColor":58834,"ipers":58835,"$out":58836,"Ġfestive":58837,"Ġevenings":58838,".GetData":58839,"uitka":58840,"ĠManuals":58841,"ussed":58842,"_Max":58843,".Chat":58844,"ĠAircraft":58845,"=com":58846,"FOUND":58847,"apro":58848,"Ġtreasures":58849,"_alive":58850,"Ġgadget":58851,"eking":58852,"ButtonDown":58853,"Browsable":58854,".PERMISSION":58855,"PASSWORD":58856,"ĠHASH":58857,"fé":58858,"\\TestCase":58859,"LOSS":58860,"others":58861,",J":58862,"Ġasshole":58863,"werk":58864,"Ġmã":58865,".ie":58866,"evil":58867,"kontakte":58868,"////////////////////////////////////////////////////////////////////////////////Ċ":58869,"=sys":58870,"ĉlock":58871,"--;ĊĊ":58872,"_FUN":58873,"FillColor":58874,"óa":58875,"prend":58876,"Ġcompressor":58877,"Mother":58878,"ĠArcher":58879,".goto":58880,"Ġwürde":58881,"Ġbamboo":58882,"ï¼İ":58883,"ĠTrees":58884,"Ġbumper":58885,"Ġsausage":58886,"ĠElasticsearch":58887,"Ġhorizontally":58888,"ĠGul":58889,"Immutable":58890,"Ġloser":58891,"Ġaborted":58892,"-demo":58893,"ĠHatch":58894,"Ġunde":58895,"Ġprocesso":58896,"-call":58897,"Income":58898,"åĥ":58899,"_returns":58900,"'].\"'":58901,"(sw":58902,"CBS":58903,"amilies":58904,"ĠYourself":58905,"ĠHolt":58906,".MON":58907,"à§ĩ":58908,"ÑĪе":58909,"anon":58910,"ĠFontAwesome":58911,"producer":58912,"jr":58913,"Ġmau":58914,"ĉinter":58915,"Ġdishonest":58916,"Ġmagna":58917,"ĠCollective":58918,"Ġvraiment":58919,"Ġchoix":58920,"stay":58921,"Ġwelding":58922,"rising":58923,",min":58924,"ĠFate":58925,"glob":58926,"RGBA":58927,"Ġdette":58928,"Ven":58929,"Ġembarrassment":58930,".DELETE":58931,"gregar":58932,"-render":58933,"(bucket":58934,"\">ĊĊĊ":58935,".waitKey":58936,"Busy":58937,"Ġdifferentiation":58938,"ĠCST":58939,".Constant":58940,"ĠlineNumber":58941,"(matches":58942,"Ġwebsocket":58943,"Ġbarred":58944,"Ġpuedes":58945,"Mono":58946,"CORE":58947,"IID":58948,"ĠĠĠĠčĊčĊ":58949,"Ġpúblico":58950,"leaning":58951,"Ġcleansing":58952,"Ġcris":58953,"ĠDevils":58954,"_SETTING":58955,"untary":58956,".);Ċ":58957,"ĊĠĠĠĊ":58958,"[curr":58959,"tsy":58960,"ĠAlexis":58961,"ritel":58962,"Ġpetroleum":58963,".preprocessing":58964,"matter":58965,"ForResult":58966,"-license":58967,"Ġtravellers":58968,"ĠDispatcher":58969,"ennifer":58970,"Ġdigestive":58971,"PED":58972,"hibition":58973,"MASConstraintMaker":58974,"ĠWatt":58975,"Benef":58976,".setView":58977,"dto":58978,"TEE":58979,"ĠPelosi":58980,"_EXTRA":58981,"Ġmedals":58982,"xhr":58983,"forecast":58984,"Ġnargin":58985,"ouns":58986,"-fill":58987,"_CURSOR":58988,"Ġsupervised":58989,"Ġturf":58990,"ĠEdgar":58991,"POSITION":58992,"ĠcategoryId":58993,"âī":58994,"_ER":58995,"á»§a":58996,"Shown":58997,".ll":58998,"_POLICY":58999,"(),'":59000,"ĠPrev":59001,"ĠStringField":59002,"ĉGlobal":59003,"assed":59004,"Throughout":59005,"ostringstream":59006,".awtextra":59007,"Ġslopes":59008,"ĠSequential":59009,"Ġgiorn":59010,"Ġzelf":59011,"Ġversatility":59012,"leneck":59013,".cgi":59014,"Ġdoubling":59015,"ĠBangkok":59016,"Ġbuurt":59017,"Ġusuário":59018,"studio":59019,"Ġjeunes":59020,"Ġmuted":59021,"Ġips":59022,"_fraction":59023,"&&(":59024,"Ġstunt":59025,"');?>čĊ":59049,"Ġevapor":59050,"bable":59051,"ĠPRICE":59052,"Ġæ³":59053,"lucent":59054,"Ġvamp":59055,"ĠTechnician":59056,"Ġuniqueness":59057,"Mes":59058,"urban":59059,".parametrize":59060,"ĠReplay":59061,"Sessions":59062,"embr":59063,"-Americans":59064,"_PROXY":59065,"Ġpian":59066,"Ġtrie":59067,"ĠDestructor":59068,"GameState":59069,"ĠIMF":59070,"chin":59071,"Ġporte":59072,"ĠSwal":59073,"åŁİ":59074,"Substring":59075,"iming":59076,"/Library":59077,"Ġfrightened":59078,"writes":59079,"Ġrecursos":59080,"arResult":59081,"_INITIALIZ":59082,"ĠBadge":59083,"_crc":59084,"Eight":59085,"ĠDISTINCT":59086,"Ġthro":59087,"@Xml":59088,"ĠLegendary":59089,"-twitter":59090,"_easy":59091,"Ġ+++":59092,"(DATA":59093,".Locale":59094,"Ġkä":59095,"Ġnurt":59096,"Ġcruis":59097,"_ios":59098,"Ġsensing":59099,"_Line":59100,"ĊĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":59101,"pong":59102,"oleon":59103,"Ġwildcard":59104,"ç͍æĪ·åIJį":59105,"Ġbegging":59106,"Rod":59107,"ĠÃİ":59108,"_CELL":59109,"Researchers":59110,".selector":59111,"_ing":59112,"Ġaspiring":59113,"Ġimmortal":59114,"Ġymin":59115,"_robot":59116,"Ġplur":59117,"BTC":59118,"ĠDID":59119,"Ġpiercing":59120,"*u":59121,"_DEFINED":59122,"ĠThi":59123,"itaire":59124,"(media":59125,"-ons":59126,"Ġchefs":59127,"Ġ\"*.":59128,"/AP":59129,"Ġrazor":59130,"ĠsearchData":59131,"Ġ=&":59132,"ĠãĢĤ":59133,"Ġmourn":59134,"tingham":59135,"Ġoli":59136,"ĠVernon":59137,"_RS":59138,"ŀæĢ§":59139,"Ġfácil":59140,"angen":59141,"celain":59142,"Ġail":59143,"lest":59144,"ĠQCOMPARE":59145,"gain":59146,"Ġε":59147,"ĠKob":59148,"ĠFault":59149,"_configs":59150,"ç»ĵæŀľ":59151,".+":59152,"calar":59153,"(colors":59154,"Mul":59155,"_ART":59156,"Ġexperimenting":59157,"ermen":59158,"ĠAnglo":59159,".FixedSingle":59160,"Sea":59161,"Ġctxt":59162,".slider":59163,"Collapse":59164,"Grey":59165,"Ġfld":59166,"-proof":59167,".capacity":59168,"getParent":59169,"ĠCompliance":59170,"Ġburgl":59171,"-rec":59172,"Ġoverwritten":59173,"MU":59174,"Ġrouters":59175,"ĉModel":59176,"Ġfantasies":59177,"avian":59178,"_prec":59179,"ĠScandin":59180,"Ġ//<":59181,"/oct":59182,"Ġceremonies":59183,"Months":59184,"undy":59185,"Ġqued":59186,"ĠNou":59187,"ĠVibr":59188,".rgb":59189,"Ġcitrus":59190,"Ġbraces":59191,"-uppercase":59192,"getTable":59193,"Ġdopo":59194,"ĠKerr":59195,"_CHILD":59196,"-cloud":59197,"ĉMatrix":59198,"Ġgardening":59199,"Sing":59200,"almost":59201,"Requirements":59202,"uguay":59203,"(Property":59204,"subscriber":59205,"FAST":59206,"reaction":59207,"(lp":59208,")})Ċ":59209,"`).":59210,".wallet":59211,"_exchange":59212,".Maximum":59213,"ĠVerb":59214,"âĶģ":59215,"()<":59216,"ï¼ĽĊ":59217,"ROT":59218,"CARD":59219,"ubit":59220,"{@":59221,"_kel":59222,"ĠTooltip":59223,"MySQL":59224,"MainActivity":59225,"arf":59226,"Ġmalign":59227,"Ġseinen":59228,"apist":59229,"Ġ<%":59230,"MethodImpl":59231,"Mil":59232,"ĠMick":59233,".depend":59234,">&":59267,"ĉok":59268,"-low":59269,".usuario":59270,"nested":59271,"XB":59272,"OURS":59273,".BorderColor":59274,"Ġbrow":59275,"ĠÐķ":59276,"corr":59277,"ĠRedskins":59278,".getTag":59279,".getTransaction":59280,"Ġstigma":59281,"hardt":59282,"ĠPlayerPrefs":59283,"alsy":59284,"ucson":59285,"Languages":59286,"ĠOlivia":59287,"Ġtac":59288,"Ġbli":59289,"Ġcaval":59290,"Ġconsolidated":59291,"Ġperil":59292,"Ġdele":59293,"Ġformulated":59294,"Ġhighways":59295,".spawn":59296,"==$":59297,"ĠNiet":59298,"Ġveggies":59299,"ypo":59300,"-rule":59301,"ĠVie":59302,"/epl":59303,"Ġenfants":59304,"stringLiteral":59305,"Ġtoughest":59306,"buyer":59307,"Ġcovariance":59308,"Ġili":59309,"ĠSophie":59310,"ĠBAB":59311,"Ġ\"),":59312,"ĠUk":59313,"currentIndex":59314,"_userdata":59315,".codec":59316,"ĠPunjab":59317,"ĠSNP":59318,"lol":59319,"advance":59320,"Ġcomfy":59321,"JsonIgnore":59322,"Ġfashionable":59323,"ĠICON":59324,"Ġora":59325,"ĠPricing":59326,"E":59384,"tering":59385,"/screens":59386,"Ġheightened":59387,"аÑĢÑĤ":59388,"Authorities":59389,"_bbox":59390,"ünst":59391,".fontSize":59392,"ĠBOOLEAN":59393,"divide":59394,"ĠSloven":59395,"ucer":59396,"ÙĴ":59397,"stub":59398,"Ġnavigating":59399,":animated":59400,"_NOW":59401,"_vect":59402,"}{Ċ":59403,"@(":59404,"Ġtelecom":59405,"Ġcontracting":59406,"ĠAssange":59407,"Ġextracting":59408,"Ġgrö":59409,"cobra":59410,".DIS":59411,"Ġcrab":59412,"Ġtwitch":59413,"Ġverts":59414,"Ġrejects":59415,"ĉformat":59416,"Ġregeneration":59417,".Sys":59418,"solve":59419,"ĉdialog":59420,"shi":59421,"meter":59422,"(best":59423,"validators":59424,"Ġonwards":59425,"Ġguru":59426,"Ġmoderator":59427,"owied":59428,"experiment":59429,"rub":59430,"Ġmqtt":59431,"ĠCaucas":59432,"Ġnationalism":59433,"Ġmange":59434,"ĉImGui":59435,"/Edit":59436,"Ġinh":59437,"Ġintellig":59438,"erokee":59439,"ĉexport":59440,"Ġdiscriminate":59441,"subtract":59442,"ĠMoodle":59443,"enser":59444,"ĠGuides":59445,"RAP":59446,"-hot":59447,"_grp":59448,".picture":59449,"XA":59450,"ĠinitView":59451,"_Comm":59452,"Ġoverdose":59453,"Ġ+ĊĊ":59454,"ĠSilent":59455,"shows":59456,"Ġinterpolate":59457,"Formation":59458,"Ġbisc":59459,"markets":59460,"(SC":59461,"Ze":59462,"ĠNetworking":59463,"Ġadrenal":59464,"ĠGuns":59465,"eteor":59466,"Declared":59467,"orgetown":59468,"Ġkarena":59469,"/password":59470,"_addresses":59471,"ITERAL":59472,"Buzz":59473,"ĠConway":59474,"(case":59475,"PWD":59476,"heiro":59477,"(act":59478,"**čĊ":59479,"());ĊĊĊ":59480,"Ġanv":59481,"Ġ..ĊĊ":59482,"(MenuItem":59483,"(mail":59484,"_sections":59485,"ĉnet":59486,"Ġplut":59487,"Ġwrench":59488,"/object":59489,"ĠIst":59490,"ĠVIS":59491,"/pub":59492,"alten":59493,"Ġguitars":59494,"Ġantibiotic":59495,"ï¼ĸ":59496,"¹":59497,"Ġ\"+\"":59498,"formula":59499,"Ġbabes":59500,"ĠPrompt":59501,"Ġenim":59502,"/player":59503,"ĉref":59504,"ĠbyÄĩ":59505,"Ġconsumes":59506,"ĠHast":59507,"ĠTao":59508,"Ġ'))Ċ":59509,"Ġclam":59510,"Ġthighs":59511,"Ġmotif":59512,"ApiOperation":59513,"ĠWL":59514,"getC":59515,"ĉflags":59516,"ointments":59517,"Ġeconomical":59518,"needle":59519,"xls":59520,"practice":59521,"utzer":59522,"timeofday":59523,"-output":59524,"ĠfindById":59525,"ĠBuddy":59526,"ÐŀÑĤ":59527,"Seven":59528,"ĠBark":59529,"Ġenvoy":59530,"_algorithm":59531,"åĪ©":59532,"Ġballistic":59533,"ç§»":59534,"rades":59535,"ĉdoc":59536,"roducing":59537,"ĠEating":59538,"Unmount":59539,"/dataTables":59540,"_bonus":59541,"Ġlitt":59542,"pps":59543,")localObject":59544,"perf":59545,"ĠHelvetica":59546,"shutdown":59547,"/ml":59548,".tokens":59549,"ĠHardcore":59550,",row":59551,"/bg":59552,"Scaler":59553,"âĢĶas":59554,"_logits":59555,"âĢĻint":59556,"ĉApp":59557,"Implicit":59558,".Fprintf":59559,"ETO":59560,"Ġterra":59561,"Ġpossessing":59562,".rstrip":59563,",),":59564,"=yes":59565,"ĠStripe":59566,"?=":59567,"neutral":59568,".good":59569,"Ġkennen":59570,"ĠSung":59571,"fault":59572,"ystatechange":59573,"Canadian":59574,"','\".$":59575,"ĠMits":59576,"ænd":59577,"ĠSTRUCT":59578,"ĠURLWithString":59579,"ĠCompass":59580,"Ġ--ĊĊ":59581,"ĠNSLayoutConstraint":59582,"|min":59583,"-adjust":59584,"Ġrebuilt":59585,"LIGHT":59586,"/se":59587,"-mount":59588,"vpn":59589,"validated":59590,"(QObject":59591,"Ġignition":59592,"ĠChargers":59593,"RYPTO":59594,"]initWithFrame":59595,"ĠFluid":59596,"Ġcadre":59597,"Ġnominations":59598,"Neill":59599,"ĠHou":59600,"Ġcurrents":59601,"_gene":59602,"(inp":59603,"Paris":59604,"zÄĻ":59605,"aggregate":59606,"Ġassoc":59607,"weeted":59608,"errat":59609,"âĢĵĊĊ":59610,"Ġ'/',Ċ":59611,"fixture":59612,"ĠHighest":59613,"ambient":59614,"Ġchmod":59615,"Ġconte":59616,"Ġsensual":59617,"Ġgarment":59618,"zers":59619,"ĠPowered":59620,"domains":59621,"Reward":59622,"iomanip":59623,"Ġcockpit":59624,"outfile":59625,"Ġbuiltin":59626,"Ġinsisting":59627,".vars":59628,"zipcode":59629,"Ġ����":59630,"fails":59631,"Ġconsolidation":59632,"_oid":59633,"Planet":59634,"Ġ=\",":59635,"ĉel":59636,"UILT":59637,"ätz":59638,"afari":59639,"ĠMcCl":59640,"Timeline":59641,"Esta":59642,"Ġfram":59643,"YE":59644,"Ġcerebral":59645,"OfMonth":59646,"ĠPregn":59647,"ĠклаÑģÑģ":59648,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":59649,"ĠFres":59650,"Approved":59651,".Special":59652,"ĠProtestant":59653,"Ġallergy":59654,"_pcm":59655,"ĉCopyright":59656,"ĠsuperClass":59657,"\"strconv":59658,"ĠMohamed":59659,"Ġ'//":59660,"ForeColor":59661,"Arthur":59662,"ĠJungle":59663,"Ġveins":59664,"Sad":59665,"Ġbackups":59666,"ĠOpinion":59667,"ût":59668,"Ġintermitt":59669,"odyn":59670,"ĠChristina":59671,"Ġandre":59672,"Ġevacuation":59673,"palette":59674,"horse":59675,"ĠResident":59676,"ĠHassan":59677,".Nil":59678,"Ġaisle":59679,"ĠGrowing":59680,"Ġbloginfo":59681,"/sql":59682,"_ioctl":59683,"Scaling":59684,"ĠMonad":59685,"_cpp":59686,"ĠHutch":59687,"ĠAppleWebKit":59688,"Expense":59689,"_JOB":59690,"Ġpointless":59691,"FromBody":59692,"antal":59693,"Ġdepicting":59694,"ĠCELL":59695,"Ġrefin":59696,"ĠCNC":59697,"ì¹ĺ":59698,"_dimensions":59699,"ĠSAN":59700,"Ġaft":59701,"Ġfootsteps":59702,"ccoli":59703,"_PHONE":59704,"/math":59705,"-kind":59706,"ĠMeans":59707,"ichael":59708,".guna":59709,"Ġinauguration":59710,"-driving":59711,"(delete":59712,"ĠtotalCount":59713,"_MC":59714,".Extension":59715,"Commercial":59716,"ĠzIndex":59717,"$":59849,"Ġebay":59850,"Ġcaptive":59851,"pliant":59852,"ĠCalculates":59853,"olta":59854,"esting":59855,"_revision":59856,"Ġmús":59857,"+m":59858,"\",\"\",\"":59859,"WHAT":59860,"Ġcompassionate":59861,"harga":59862,"[random":59863,"Ġmodulo":59864,"(sn":59865,"Ġoccupations":59866,"////Ċ":59867,"ĉboard":59868,"ĠBalk":59869,"wiÄħ":59870,"ĠWifi":59871,".Profile":59872,":maj":59873,"ĉmat":59874,"LOCKS":59875,"(jButton":59876,"Ġ('$":59877,"Mur":59878,"æĮī":59879,"bble":59880,"Ġfrog":59881,"-hide":59882,"Ġbroadcaster":59883,"à¸ŀ":59884,"haled":59885,"Ġamusing":59886,"_predictions":59887,"_intr":59888,"Ġeagle":59889,"аÑĤелÑĮ":59890,"ĠgetList":59891,"psilon":59892,"Ġcharacterization":59893,"ARDS":59894,"Ġrelocation":59895,"Ġrulers":59896,"PAY":59897,"ĠDefinitely":59898,"_Action":59899,"Ġclosures":59900,"Ġfactual":59901,"odynamic":59902,"Ġprecautions":59903,"niej":59904,"ĠParties":59905,"ĠSubaru":59906,"Ġcousins":59907,"arbeit":59908,".money":59909,"gunta":59910,"(and":59911,"getitem":59912,".StylePriority":59913,"Ġslid":59914,"singleton":59915,"Ġgarn":59916,"ĠPAS":59917,"Ġdazz":59918,"aż":59919,"Ġbogus":59920,"ĠMog":59921,"Ġrivalry":59922,"isol":59923,"Ġlandmarks":59924,"ñas":59925,"Bern":59926,"ĠSachs":59927,"Ġ\")ĊĊ":59928,"Ġhostility":59929,"_mex":59930,"mere":59931,"Mot":59932,"pictureBox":59933,"Defense":59934,"Ġaffidavit":59935,"otherwise":59936,".directory":59937,"_UnityEngine":59938,"-blog":59939,".skin":59940,"phem":59941,"Apellido":59942,"erchant":59943,"[class":59944,"Ġwart":59945,".\"[":59946,"aleur":59947,"/back":59948,"ĠĠĠĠĉĠĠĠ":59949,"Ġprecipitation":59950,"Ġobstruction":59951,"ĠpObj":59952,"Ġrupt":59953,"UCKET":59954,"aye":59955,"æİĴ":59956,"gx":59957,"Ġecl":59958,"Ġsecrecy":59959,"/Header":59960,"ĠLesb":59961,"Ġlei":59962,"ĠBulletin":59963,"Ġgiveaway":59964,".Home":59965,"_ROOM":59966,"\"W":59967,"Ġcowork":59968,"_ra":59969,"ĠCycling":59970,"ĠPaw":59971,"Ġpupil":59972,"/arch":59973,"ĠFileUtils":59974,"é¦ĸ":59975,"rsp":59976,"Ġfreedoms":59977,"ĠLear":59978,"}`).":59979,"Ġbowls":59980,"/block":59981,"_logging":59982,"Ġmethane":59983,"Ġhorns":59984,"Ġwonderfully":59985,"Ġalterations":59986,"Ġexile":59987,"lsen":59988,"_pause":59989,"_LANGUAGE":59990,"ĠUSDA":59991,"_mysql":59992,"_AMOUNT":59993,"ĠLIFE":59994,"Ġyoungsters":59995,"Ġriots":59996,"[E":59997,"Ġunforgettable":59998,",},Ċ":59999,"Disposed":60000,"ĠAssassin":60001,"UNG":60002,"ĠNewsp":60003,"UserService":60004,":aload":60005,"+',":60006,"Ġsettlers":60007,"Ġscreams":60008,"Ġinconvenience":60009,".Rotate":60010,"Ġjars":60011,"ĠPuzzle":60012,"Ġmest":60013,"arsi":60014,"ĠSharma":60015,"|(":60016,".ds":60017,"ĠSacred":60018,"_evt":60019,"Ġexpresses":60020,"Ġhoch":60021,"ĠDuch":60022,".calls":60023,"thr":60024,"ĠSheffield":60025,".AlertDialog":60026,"Ġradically":60027,"Ġtrous":60028,"Ġprevailing":60029,"ĠWWII":60030,"âĢĻn":60031,"ensely":60032,"ĠYesterday":60033,"ĠSirius":60034,"Ġkillers":60035,"ĠFFT":60036,"Ġoval":60037,"'):čĊ":60038,"Ġìłķë³´":60039,"ourage":60040,"ĠCheckbox":60041,"Workbook":60042,".defer":60043,"_floor":60044,"Ġcouncill":60045,"Ġnorske":60046,"moil":60047,"orea":60048,"Ġmarketed":60049,"_SUR":60050,"xAA":60051,"Ġstained":60052,"eut":60053,"ĠMeng":60054,"Ġieee":60055,".extern":60056,"egie":60057,"Ġrapp":60058,"ĠPyongyang":60059,"'class":60060,"Mob":60061,"ĠinitialValue":60062,"_wave":60063,"Ġjab":60064,"Ġmasculine":60065,"Ġamplifier":60066,"Ġtty":60067,"PathComponent":60068,"_xt":60069,"ĠGFP":60070,"/sec":60071,"ĉdispatch":60072,"markdown":60073,"ĠSchn":60074,"bole":60075,"··":60076,"mousemove":60077,"ĠerrMsg":60078,"Ġasign":60079,"_mono":60080,"ToSelector":60081,"ĠZu":60082,"(Rect":60083,"ĠErrorCode":60084,"latin":60085,"angible":60086,"vtk":60087,"CGSize":60088,"Pokemon":60089,"Ġclassmates":60090,"Ġattracts":60091,"ĠTatto":60092,"ultan":60093,"ológ":60094,"Ġhalted":60095,"न":60096,"ĠKart":60097,"Ġue":60098,"_InitStructure":60099,"TestClass":60100,"ĠAirbnb":60101,"_\",":60102,"Ġcharcoal":60103,"Ġipc":60104,"ĠStretch":60105,".glide":60106,"latesAutoresizingMaskIntoConstraints":60107,"Ġpotion":60108,"ITTLE":60109,"Ġcountert":60110,"_hd":60111,"prepared":60112,"Ads":60113,"ĠVampire":60114,"robots":60115,".CreateIndex":60116,"StatusLabel":60117,"Ġtucked":60118,"afür":60119,"Ut":60120,"Ġsweater":60121,"_FN":60122,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĉ":60123,"ataka":60124,"Ġeyebrows":60125,"acoes":60126,"uden":60127,".LinearLayoutManager":60128,"Ġsway":60129,"Ġmultin":60130,"())))Ċ":60131,"ĠNSUInteger":60132,"ĠMyBase":60133,"Partner":60134,"utschen":60135,"ĠCater":60136,".setBackgroundColor":60137,"Ġaccomplishment":60138,"_problem":60139,".dtd":60140,"ĠpageNumber":60141,"Ġjackets":60142,"Ġcropped":60143,"uels":60144,"ĠHep":60145,"Ġcapped":60146,"*Math":60147,"_callbacks":60148,"Ġpubb":60149,"ĠBrunswick":60150,".respond":60151,"[\"_":60152,"Ġbedding":60153,"hythm":60154,"OX":60155,"(speed":60156,"Ġpesticides":60157,"Ġ-------":60158,".Blue":60159,"Ġnoodles":60160,"ĠGoes":60161,"Ġsaver":60162,"oxy":60163,"_completion":60164,"ĠSwinger":60165,"ĠgetDate":60166,"Ġminded":60167,"integration":60168,"ĠLotus":60169,"(stop":60170,"(',');Ċ":60171,"Ġfloods":60172,"ĠWorkflow":60173,"Ġerupted":60174,"Macro":60175,"ĠSauce":60176,"ĠeventName":60177,"\\Input":60178,"Breaking":60179,"ĉwhen":60180,"_pw":60181,"INDER":60182,"ĠWellness":60183,"Ġvoxel":60184,"ĠMell":60185,"ĠMEDIA":60186,"SENS":60187,"ĠFunds":60188,"ĠMild":60189,"Ċ":60198,"Ġtempting":60199,"Ġtestament":60200,"Ġbible":60201,"Ġconsulted":60202,"ĠIndexError":60203,"è¨ĺ":60204,"Ġkeypad":60205,"izzo":60206,"(ok":60207,"Ġwhatsapp":60208,"ĠRemoteException":60209,"Ġteamed":60210,"âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ":60211,"»,":60212,"ĠgetTime":60213,"diag":60214,"issy":60215,"Ġhed":60216,"Ġknots":60217,"jom":60218,"Ġfunnel":60219,"-mails":60220,"Ġexporting":60221,"ĠVL":60222,"ĠKarn":60223,"ĠBuddhism":60224,"ĠAllan":60225,"_RADIUS":60226,"Ġwording":60227,"ĠForget":60228,"ĠCorona":60229,"iphy":60230,"Ġlimburg":60231,"uggy":60232,"ĠUserRepository":60233,"imin":60234,"(ele":60235,"Ġlabelled":60236,"社":60237,"ĠHerman":60238,".qq":60239,"Ġ\"));Ċ":60240,"ieber":60241,".Translate":60242,"ryn":60243,"Ġdesenv":60244,"umd":60245,"Simply":60246,"ĉmode":60247,"Rpc":60248,"ĠValencia":60249,"Ġstaffers":60250,"Ġselv":60251,"ĠSpike":60252,"Ġdelic":60253,"Ġeru":60254,"_DT":60255,"Judge":60256,"á»ķ":60257,"ĠBasin":60258,".mutable":60259,"\"url":60260,"Ġtariff":60261,"ĠSleeve":60262,"Ġflare":60263,".dropout":60264,"Ġbrides":60265,")),čĊ":60266,"_constraints":60267,"destruct":60268,"Outline":60269,"Ġdisappears":60270,"_locked":60271,"ĠNSLocalizedString":60272,"cke":60273,"ĉnull":60274,"adresse":60275,"Ġtopping":60276,"ĠJoker":60277,"bishop":60278,"ноÑģÑĤÑĮ":60279,"andering":60280,"_amp":60281,"=time":60282,"_Space":60283,"_PULL":60284,"'=":60285,"Ġantiqu":60286,"Ġcach":60287,"___ĊĊ":60288,"ONES":60289,"оÑı":60290,"Ġunread":60291,".policy":60292,"oooooooo":60293,"룬":60294,"Ġusted":60295,"ĠRece":60296,"Ġallem":60297,"ãĥ¼ãĤ¹":60298,"ĠThoughts":60299,"veillance":60300,"istrate":60301,"_lane":60302,"Ġfamed":60303,".GetName":60304,"Ġsmoother":60305,"ĠQualified":60306,"azers":60307,"_geo":60308,"Fax":60309,"ĠMinds":60310,"ĠRaises":60311,"Ġtranscripts":60312,"Conversation":60313,"Ġremarked":60314,"ëĤĺ":60315,"dling":60316,"Ġdeploying":60317,"ĠsharedApplication":60318,"Ġkp":60319,"FontAwesomeIcon":60320,"_dummy":60321,"reiben":60322,"ĠJaneiro":60323,"Directions":60324,".getBean":60325,"sass":60326,"Ġcommanders":60327,"vation":60328,"errorCode":60329,"ĠAlloy":60330,".localized":60331,"Ðij":60332,"Ġdishwasher":60333,"ĠSoup":60334,"Nu":60335,"_Default":60336,"Ġuneven":60337,"Ġ/>\";Ċ":60338,"-Based":60339,"Ġseamlessly":60340,"-null":60341,"ĠXC":60342,"Ġstew":60343,"(delay":60344,"ATORS":60345,"ĠWheeler":60346,"\"H":60500,"east":60501,".air":60502,"âĢľBut":60503,"ObjectContext":60504,"successfully":60505,"_land":60506,"Ġfolds":60507,"_COORD":60508,"Ġsubpo":60509,".getAddress":60510,"instr":60511,"Materials":60512,"ÑĥÑģÑĤ":60513,"deposit":60514,"-last":60515,"_GRAY":60516,"=find":60517,"Ġmutant":60518,"Ġlesbienne":60519,"letcher":60520,"ROUGH":60521,"ureka":60522,".capture":60523,"Ġenn":60524,"Ġ([[":60525,"ĠFlu":60526,"ĠtaskId":60527,"ĠHussein":60528,".folder":60529,"Ġausterity":60530,"ISTRATION":60531,"_Impl":60532,"注æĦı":60533,"Ġdecree":60534,"-chat":60535,"Ġimplication":60536,"Ġguesses":60537,"ulkan":60538,"Analytics":60539,".plus":60540,"COMMAND":60541,"ели":60542,"»ĊĊ":60543,"_SITE":60544,"ĠequalTo":60545,"SupportFragmentManager":60546,"ĠRecording":60547,"å®ĮæĪIJ":60548,"Ġbaggage":60549,"Ġpitchers":60550,"ĠEh":60551,"oque":60552,"ĉcnt":60553,"Ġ=>$":60554,"/foo":60555,"IRA":60556,"ĠSatellite":60557,"borah":60558,"Ġ}}\"Ċ":60559,"ĠEnds":60560,"ĠSpray":60561,",param":60562,".Chrome":60563,"*q":60564,"thought":60565,"ibrated":60566,"Ġthieves":60567,"Ġbeneficiaries":60568,"Entered":60569,"ottesville":60570,"Ġveterin":60571,"ByID":60572,"quipe":60573,"umption":60574,"-unit":60575,"ExecutionContext":60576,"@s":60577,"ĠGiov":60578,".ToolTip":60579,"_friend":60580,"(attributes":60581,"Ġdumping":60582,"ĠJC":60583,"_DOCUMENT":60584,"ĠArmour":60585,"(insert":60586,".HorizontalAlignment":60587,"ĠQed":60588,"ãģĦãģ¾ãģĻ":60589,"/git":60590,"ĠYYYY":60591,"ĠCardiff":60592,"Ġapa":60593,"organic":60594,"ĠWhereas":60595,"ĠæĿ":60596,"ĠMia":60597,"Ġdemolition":60598,"Ġscars":60599,"Ġpai":60600,"Ġretries":60601,"Ġrq":60602,"ĠDenis":60603,"(Utils":60604,"Ġalleviate":60605,"ĠPIC":60606,"idue":60607,"Ġacknowledging":60608,"Ġ//////////////////////////////////":60609,"ç¡®å®ļ":60610,"Ä«":60611,"\\Json":60612,".binary":60613,"Ġxtype":60614,"signals":60615,"ĠAppearance":60616,"&r":60617,"}s":60618,"Ci":60619,"ĠIllum":60620,"porate":60621,"hog":60622,"ĠindexOf":60623,"\\Command":60624,"_parallel":60625,"ĠSherlock":60626,"íĥ":60627,"Ġ\"\")čĊ":60628,"////////////////////////////////////////////////////////////////////////////////////////////////":60629,"Ġcriticize":60630,"ĠSoap":60631,"ĠMatcher":60632,"Ġgrilled":60633,"*T":60634,"Ġadore":60635,"ulling":60636,"Ġjedoch":60637,"_refs":60638,"leanup":60639,"ĠJAXB":60640,"Ġroses":60641,"ĠLiam":60642,"sizei":60643,"Ġgetchar":60644,"Ġtarde":60645,"-tooltip":60646,"Ġqualifier":60647,"ĠIntermediate":60648,"_Window":60649,"ĠMalta":60650,"Disconnect":60651,"ewhere":60652,"Campo":60653,"Ġirrational":60654,"ledo":60655,"ĠDN":60656,"ARGV":60657,"Ġoutro":60658,"Ġthirteen":60659,"Joseph":60660,"MAR":60661,"/gl":60662,"Jess":60663,"ĠPsychiat":60664,"ĠpaddingBottom":60665,"-loop":60666,"/fonts":60667,"_seen":60668,"Teams":60669,"ReactDOM":60670,"(man":60671,"(xpath":60672,".getSimpleName":60673,">(*":60674,"ĠPvt":60675,"Ġelders":60676,"Ġpies":60677,".userAgent":60678,"-region":60679,"ĠGreeks":60680,"(fragment":60681,"stu":60682,"Ġcouncils":60683,"Ġstamina":60684,"ĠGoddess":60685,"西":60686,"Ġphilosophers":60687,"Ġpersone":60688,"ĠLose":60689,"ĠCLR":60690,"ĠDocs":60691,"Ġsoak":60692,"ĠHOLDER":60693,"Ġbells":60694,"hashCode":60695,"RATE":60696,"_WEIGHT":60697,"inous":60698,"endra":60699,"ophobic":60700,"Ġprose":60701,"Ġfinely":60702,"/oauth":60703,"(space":60704,"adge":60705,"ĠMama":60706,"ĠstringBuffer":60707,"Ġstint":60708,"Ġmisma":60709,"Ġvillains":60710,"ĠCrimea":60711,"Ġdiploma":60712,"ĠпоÑģл":60713,"ĠBea":60714,"(join":60715,"Ġíķ´":60716,"CHAT":60717,"pering":60718,"ĠCros":60719,"Ġmonkeys":60720,"Ġpreds":60721,"yla":60722,",,,":60723,"Ġvibrator":60724,"ĠNU":60725,"åħĪ":60726,"fant":60727,"zet":60728,"Ġbietet":60729,"unft":60730,"sworth":60731,".Flow":60732,"Ġpsyched":60733,"ĠContinental":60734,">t":60735,"Ġquilt":60736,".UP":60737,"Ġexpansive":60738,"Dispose":60739,"(language":60740,"Caps":60741,"_ZONE":60742,"Ġrecycle":60743,"ĠManaged":60744,"currentColor":60745,".broadcast":60746,"signIn":60747,".prom":60748,"llu":60749,"ueblo":60750,"Ġpunches":60751,"Ġautomat":60752,"Ġassigning":60753,"ĠcreateUser":60754,"ĠAllied":60755,"Ġconductor":60756,"Ĥ¨":60757,"Ġsaddle":60758,"Ġdni":60759,"omedical":60760,"-West":60761,"PositiveButton":60762,"Ġitalic":60763,"?[":60764,"(trigger":60765,"Ġelephants":60766,"\":\"\",\"":60767,"Ġcaliber":60768,"rafted":60769,"digits":60770,"Ġmarshal":60771,"milliseconds":60772,"markers":60773,"mom":60774,"/place":60775,"Ġholistic":60776,":t":60777,"#,":60778,"Ġboto":60779,"Ġnausea":60780,"ĠShooting":60781,"itech":60782,"ĠtextStatus":60783,"())Ċ":61004,"ADDRESS":61005,"BST":61006,"etzt":61007,"ĠQgs":61008,"Sense":61009,"ExceptionHandler":61010,"ĠChu":61011,".getOwnProperty":61012,"Ġexercised":61013,"iotic":61014,"ĠReleases":61015,"Ġpinterest":61016,"olie":61017,"isoft":61018,"Ġsequencing":61019,"Ġpadre":61020,"]));čĊ":61021,"(radius":61022,".med":61023,"ainties":61024,".ObjectModel":61025,"Ġemple":61026,"Ġseguro":61027,"Stars":61028,"Ġqualitative":61029,"lemn":61030,"á»±":61031,">\").":61032,"Ġgx":61033,"-cert":61034,"ĠASTM":61035,"Ġfullname":61036,"Ġtelemetry":61037,"ĠCambodia":61038,"_ul":61039,"ĠClare":61040,"CUSTOM":61041,"QC":61042,"ĠUns":61043,"ĠHTTPS":61044,"ĠParkinson":61045,"ancybox":61046,"','.":61047,"Tue":61048,".getLast":61049,"Ġabi":61050,"Äħd":61051,"Ast":61052,"ĠEditing":61053,".Unity":61054,"jmp":61055,"Ġmats":61056,"ĠsharedPreferences":61057,"Captain":61058,".pageSize":61059,"Ġrtl":61060,"Ġanmeld":61061,"RuntimeObject":61062,"Ġdemande":61063,"(\";":61064,"seite":61065,"-headed":61066,"ĠKra":61067,"ĠFONT":61068,"`\\":61069,"ClassNotFoundException":61070,".avg":61071,"atical":61072,"Aj":61073,"Ġpermitting":61074,"Proj":61075,"ERRQ":61076,"Ġcreampie":61077,"ĠBuyer":61078,"-modules":61079,"ĠSundays":61080,"|`Ċ":61081,"Ġdaytime":61082,"Ġ+(":61083,"Ġglitch":61084,"ĠOperand":61085,"Ġtoxins":61086,"inya":61087,"DNS":61088,"ĠSas":61089,"Cake":61090,"ĠNationals":61091,".addTo":61092,"Ġsinking":61093,"Ġcomprehension":61094,"Ġscor":61095,"agements":61096,"Ġtard":61097,"Ġmarching":61098,"ĠMTV":61099,"Ġsane":61100,"CreateInfo":61101,"ắ":61102,"ĠendIndex":61103,"ĉlayout":61104,"ĠåIJį":61105,"SITE":61106,"ĠTHERE":61107,"Ġ[{'":61108,"opathic":61109,"Ġtransmitter":61110,"/body":61111,"Ġpund":61112,"ĠClosing":61113,"Ġsetattr":61114,"Ġbounded":61115,"Atlas":61116,"suming":61117,"(times":61118,"parer":61119,"ynom":61120,"feit":61121,"Ġfrem":61122,"-leg":61123,"ĠBras":61124,">#":61125,"Ġì¶ľëł¥":61126,"ĠINSTANCE":61127,"ĠCouch":61128,"_hosts":61129,"likelihood":61130,".Marker":61131,"ĠMasks":61132,"Ġcereal":61133,"utilities":61134,"Ġelemental":61135,"Ġdistorted":61136,"inactive":61137,"cry":61138,"WL":61139,"UPPORTED":61140,".Throws":61141,"/schema":61142,"serie":61143,".\"',":61144,"ĠBenedict":61145,"-picker":61146,"iggs":61147,"ĠPirate":61148,"åij¨æľŁ":61149,"ĠThema":61150,"ĠSouthampton":61151,"ĠarrayWith":61152,"ĠPaula":61153,"Ġpredictor":61154,"-Ass":61155,".userid":61156,"Ġperi":61157,"Ġexaggerated":61158,"urate":61159,"arseille":61160,"ĠConcent":61161,"ĠPik":61162,"Ġ@_;ĊĊ":61163,"Ġformations":61164,"Ġdenomin":61165,"\"/>.Ċ":61166,"endedor":61167,"Ġpancre":61168,"Ġamt":61169,"ĠonResume":61170,"onDelete":61171,"ĠBCH":61172,")(\"":61173,"movement":61174,"Ġpotassium":61175,"":69726,"ĠPPC":69727,"isz":69728,"akeFromNib":69729,"ĠDisp":69730,"ĠAthletics":69731,"Ġnightclub":69732,"GOOD":69733,".setGeometry":69734,"+[":69735,"/send":69736,"Ġbinaries":69737,"Ġráp":69738,":req":69739,"-consuming":69740,"ertime":69741,"UPDATED":69742,"_nullable":69743,"VIN":69744,"ulia":69745,"cyan":69746,"Ġmisunderstanding":69747,"orical":69748,"degrees":69749,"Leading":69750,".AR":69751,"ickest":69752,"Nuevo":69753,"uforia":69754,"Ġgoodies":69755,"Ġfores":69756,"()<<\"":69757,"ademic":69758,"ActionCreators":69759,"servername":69760,"(nt":69761,"dbContext":69762,"Ġairborne":69763,"Ġexhibitions":69764,"cele":69765,"Ġtela":69766,"":69782,".setPreferredSize":69783,"ĠMID":69784,"ĠAless":69785,"Ġhorsepower":69786,"Ġatm":69787,"ĠPackaging":69788,"Ġciphertext":69789,"RequestMethod":69790,"Ġbeiden":69791,"è£":69792,"ĠPOW":69793,".WriteHeader":69794,"director":69795,"-but":69796,"ãģłãģķãģĦ":69797,"incer":69798,"_dn":69799,"!!!!!":69800,"Ġmanufactures":69801,".TextUtils":69802,"Ġconsciously":69803,"Ġbounced":69804,"culture":69805,"ĠSpar":69806,"ĠPiper":69807,".press":69808,"-owner":69809,"Ġevaluator":69810,"ĠSTREAM":69811,".PictureBoxSizeMode":69812,"Ġsugars":69813,"ScreenWidth":69814,"ĠnextState":69815,"Ġivory":69816,"Ġbrunch":69817,"density":69818,"_OW":69819,"ĠCoronavirus":69820,"ĠCFR":69821,"bak":69822,"\\Category":69823,"æķ°ç»Ħ":69824,"Ġinvokevirtual":69825,"}()Ċ":69826,"Ġsujet":69827,"-marker":69828,"isdigit":69829,"ĠMobil":69830,"ĠJsonRequestBehavior":69831,"_REMOTE":69832,".existsSync":69833,"Ġriches":69834,".presenter":69835,"ĠglColor":69836,"Ġhanya":69837,"Ġfortress":69838,"Ġflashed":69839,"viz":69840,"requently":69841,"buat":69842,"$con":69843,">|":69844,".Func":69845,"Ġhumorous":69846,"uem":69847,".ZERO":69848,"ĠSTL":69849,"ĠBuk":69850,"/sample":69851,"ĠGros":69852,"Recipes":69853,"Ġinflated":69854,"Ġswung":69855,":F":69856,"Facing":69857,".Theme":69858,"ник":69859,"Ġsplendid":69860,"ĠrequestId":69861,".CenterScreen":69862,"/autoload":69863,"embedded":69864,"_depart":69865,"ĠPorts":69866,"à¹ĥ":69867,"айд":69868,"discussion":69869,"_consum":69870,"Ġscouts":69871,"Ġcolabor":69872,".Stage":69873,".nano":69874,"eldorf":69875,"Ġgemacht":69876,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":69877,"Ġpolicymakers":69878,"_PKT":69879,",Th":69880,"oky":69881,"_UID":69882,"Ping":69883,"Ġorchest":69884,"Ġoptics":69885,"uhan":69886,"ĠXOR":69887,"Ġespañol":69888,"ĠAdidas":69889,"rng":69890,"mans":69891,".vstack":69892,"Ġgetaway":69893,"Ġhierarchical":69894,"anoia":69895,"ĠBitmapFactory":69896,"realm":69897,"ĉap":69898,"_apps":69899,"-divider":69900,".drawer":69901,"ĠHARD":69902,"'];?>Ċ":69903,"-packed":69904,"æ²»":69905,"_STRUCTURE":69906,"[Y":69907,"iParam":69908,"(eq":69909,"Ġencompasses":69910,"Ġ\\ĊĊ":69911,"->[":69912,"&utm":69913,"groupon":69914,"strate":69915,"DY":69916,"omorphic":69917,"':[":69918,"Ġgravitational":69919,"ĠMicha":69920,"ĠTencent":69921,"Ġcoached":69922,"ì¶ľ":69923,"ÑĥменÑĤ":69924,"/mobile":69925,"MouseDown":69926,"bud":69927,"ĠYas":69928,"ĠProviders":69929,"NZ":69930,"ĉreport":69931,"errmsg":69932,"ĠimagePath":69933,"acterial":69934,"ĠManga":69935,"wicklung":69936,"(usuario":69937,"\"));čĊčĊ":69938,"/***":69939,"Ġorganise":69940,"Indexed":69941,"_QUAL":69942,"(PyObject":69943,"Ġsurrendered":69944,"POCH":69945,"ĠNOTES":69946,"\\\\\"":69947,"-job":69948,"Ġseventy":69949,"####Ċ":69950,"ĠManor":69951,"Ġdownright":69952,"Ġtimeframe":69953,"insurance":69954,"checker":69955,"ĠSECRET":69956,"Ġechoes":69957,"ĠCarmen":69958,".setHorizontalAlignment":69959,"ĠisChecked":69960,"ĠTOR":69961,"_nn":69962,"('(":69963,"FetchRequest":69964,"ĠPrinted":69965,"Fluid":69966,"ĠSTACK":69967,"GES":69968,"aigned":69969,"igor":69970,".Unknown":69971,"CBC":69972,"ĠCarlson":69973,".URI":69974,"Ġplight":69975,"/start":69976,"ĠPersonnel":69977,"ĠPREFIX":69978,",**":69979,"Ġlimite":69980,"_heat":69981,"%ï¼Į":69982,"ĠDonne":69983,"getNode":69984,"ĠScientology":69985,"Ġcomet":69986,"Ġwenig":69987,"Aside":69988,"ĠMPEG":69989,"'?":69990,"variably":69991,".endDate":69992,"Ġuncont":69993,"ĠScores":69994,"ĠLoginForm":69995,".generated":69996,",ch":69997,"-mar":69998,"ĠNed":69999,"ĠeventId":70000,"+p":70001,"ĠSIN":70002,"/reset":70003,".REACT":70004,"ĠMessi":70005,"_RANK":70006,".writeFile":70007,"Ġcripp":70008,"esthetic":70009,"ERSIST":70010,"Ġreimbursement":70011,"CurrentValue":70012,"Ġunin":70013,"DownLatch":70014,"ĠpaddingRight":70015,"Ġstocked":70016,"/'.":70017,"Ġrepayment":70018,"trak":70019,"/backend":70020,"Ġизмен":70021,"CSR":70022,"Ġpreventive":70023,"Ġpantalla":70024,"_trim":70025,"Pedido":70026,"hospital":70027,"Ġmanageable":70028,"routeParams":70029,"textures":70030,"......ĊĊ":70031,"Ġsélection":70032,"NameValuePair":70033,"Ġpollut":70034,"Modes":70035,"ĠLaud":70036,"jay":70037,"ĠUrs":70038,"Ġsigner":70039,"ĠJJ":70040,"ĠCherokee":70041,"_EXISTS":70042,"Ġdwar":70043,"Ġ($('#":70044,"Ġreef":70045,">{$":70046,"ĠBaylor":70047,"ĠModelState":70048,"-_":70049,"ĠStructures":70050,"Ġsouvent":70051,"Specify":70052,"(pipe":70053,"Ġfracking":70054,"ĠGPA":70055,"Ġbele":70056,"ĉĉĉĉĉĉĉĠĠĠ":70057,"ĠMinority":70058,"Ġtud":70059,"Ġopenness":70060,"ĠIllustrated":70061,"Ġoxidation":70062,"ĠNK":70063,"ĉUpdate":70064,"ĠEMS":70065,"ĠTeddy":70066,"Ġgenerals":70067,"ĉMat":70068,"Ġradios":70069,"ĠAntique":70070,"conomy":70071,"ĠSquadron":70072,")','":70073,"声":70074,"Ġyoure":70075,"ĠMainPage":70076,"Ġbehaviours":70077,"enght":70078,"(@\"%@\",":70079,"Ġtestcase":70080,"ĠCompilation":70081,"Ġflavours":70082,"ĠExtend":70083,"illator":70084,"Ġcoh":70085,"Ġspline":70086,"ĠKG":70087,"-pay":70088,"Ġcommunism":70089,"ĠBusinesses":70090,"ocking":70091,".MaxLength":70092,"assandra":70093,"quiring":70094,"adden":70095,"ĠJeb":70096,"_fault":70097,"[file":70098,"Ġprominence":70099,"disciplinary":70100,"âĢĶthey":70101,"_extent":70102,"ĠVIC":70103,"Ġentails":70104,".partner":70105,"Ġhippoc":70106,"League":70107,"çĶ·":70108,"wipe":70109,"-spinner":70110,"Ġsalute":70111,"ĠSurgical":70112,"(outputs":70113,"worked":70114,"[strlen":70115,"appointed":70116,"ĠHeg":70117,"ĠACPI":70118,"([^":70119,"uala":70120,"_tol":70121,"ĠRit":70122,".Payment":70123,"kowski":70124,"Ġwalmart":70125,"requirements":70126,"ĠFINSEQ":70127,"_BACKGROUND":70128,"ĠOsborne":70129,"(errorMessage":70130,"Reporting":70131,"Ġauctions":70132,"Ġcombos":70133,"ĠNoticed":70134,"_oct":70135,"Ġprimero":70136,"taire":70137,"_hr":70138,"Ġмод":70139,"Ġcontradictory":70140,"=\"@":70141,"achines":70142,"(optarg":70143,"ĠPenguin":70144,"ĠAbbas":70145,"Ġsublime":70146,"Ġpageable":70147,"ĠDefensive":70148,"Ġdistinctly":70149,"ĠAutomatically":70150,"Understanding":70151,"EqualityComparer":70152,"gota":70153,"Ġ\"::":70154,"Ġpulver":70155,"ĠBattles":70156,"Ġunparalleled":70157,"TCHA":70158,"Ġconstrued":70159,"-aff":70160,"Ġprecursor":70161,"-lfs":70162,"Ġmaduras":70163,"ĠDaisy":70164,"ĠArbeits":70165,".Management":70166,"ĉIn":70167,"Ġrobes":70168,"Ġspéc":70169,"âĢľ(":70170,"Ġmaternity":70171,"extent":70172,"ĠSpacer":70173,"DidAppear":70174,"ĉus":70175,".getRequestDispatcher":70176,"(cols":70177,"Ġplummet":70178,"ìħ":70179,"Ġ{ĊĊĊĊ":70180,"érica":70181,"ĠSizes":70182,".enum":70183,".Highlight":70184,"Ġ!!}ĊĊĊ":70193,"Wenn":70194,"Ġclimax":70195,"Ġcrem":70196,"_that":70197,"[â̦":70198,"_domains":70199,"_REPLY":70200,"Ġcompleta":70201,"VEST":70202,"_particle":70203,"Ġsop":70204,"Ġfatalities":70205,"implify":70206,"ĠSKF":70207,"Ġinfusion":70208,"ĠJavier":70209,"Ġballet":70210,"Ġamigo":70211,".want":70212,"Ġcollagen":70213,"ĠLawyer":70214,".Statement":70215,".rt":70216,"baar":70217,"EndPoint":70218,"ĠBek":70219,"SHIP":70220,"Ġpatriarch":70221,"ĠAunt":70222,"_TM":70223,"ĠmÃŃn":70224,"Ġmastered":70225,"WXYZ":70226,"Ġespos":70227,"=logging":70228,"Ġrighteousness":70229,"torrent":70230,"Ġbst":70231,"_CHAIN":70232,"Ġoutskirts":70233,"(rotation":70234,"Ġ'.')":70235,"igrants":70236,"+lsi":70237,"ĠCCTV":70238,"_PHASE":70239,".azure":70240,"_Process":70241,"vae":70242,"ĠTropical":70243,"ĠAnkara":70244,"imageView":70245,"_RUNNING":70246,"Ġ*)__":70247,"ến":70248,"(cli":70249,"scatter":70250,"Ġsche":70251,"Registrar":70252,"Ġairing":70253,"Ġpyplot":70254,"isión":70255,"/customer":70256,"Ġsimplement":70257,"Ġclassy":70258,"ĠDWC":70259,"ĠBashar":70260,"ĠDEVELO":70261,"ĠVick":70262,"avail":70263,"ĠHö":70264,"_extend":70265,"drFc":70266,".isNotBlank":70267,"Ġplais":70268,"|}Ċ":70269,"Ġpornofil":70270,"labs":70271,"Ġhaus":70272,"Ġoriginating":70273,"Ġsurrounds":70274,"ĠQUAL":70275,"meg":70276,"/logger":70277,"[obj":70278,"Ġirresponsible":70279,"ĠPublicKey":70280,"HONE":70281,":'/":70282,"ibox":70283,"ĠFVector":70284,"|{Ċ":70285,"ataloader":70286,"hawks":70287,"HDR":70288,"Ġescalation":70289,"ĠPodsDummy":70290,"elite":70291,"Ġpresup":70292,"Cached":70293,">G":70294,".optimizer":70295,"ĠVisible":70296,"´Ģ":70297,"Ġnen":70298,"Ġpcs":70299,"ĠIdle":70300,"[Any":70301,"Ġkeyboards":70302,"ĠCOMPONENT":70303,"Ġtitanium":70304,"(mut":70305,"ĠLedger":70306,"Ġprosperous":70307,"etrofit":70308,"_LL":70309,"_patient":70310,"Ġpdata":70311,"Ġkontakte":70312,"Swipe":70313,"Ġcheerful":70314,"ĠHonduras":70315,"\"][$":70316,"Ġhemorrh":70317,"\":\"+":70318,"Ġleasing":70319,"Ġinstalls":70320,"ĠPax":70321,"ĠLogistics":70322,"Ġkinetic":70323,"ĠPhon":70324,"_movement":70325,"ĉbytes":70326,"Ġcinco":70327,"ĠMadness":70328,"\")+":70329,"ĠJE":70330,"_ij":70331,"SceneManager":70332,"ĠBust":70333,"ptest":70334,"aea":70335,"Ġbesser":70336,"ÃŃg":70337,"дин":70338,"(tasks":70339,"(\"(\"":70340,"setType":70341,"(outfile":70342,"ĉreset":70343,"ĠARC":70344,"Ġmúsica":70345,"ĠShelf":70346,"ĠminY":70347,"pch":70348,"Ġweiber":70349,"issor":70350,"Ġtrouve":70351,"ĉButton":70352,"Ġregenerated":70353,"Å£i":70354,"imachinery":70355,"blocking":70356,".dataTables":70357,"_frac":70358,"ĠAdvantage":70359,".visitMethod":70360,"éĩįæĸ°":70361,"Ġextrapol":70362,"Ġteasing":70363,"ĠHitch":70364,"ĠGeek":70365,"ESCO":70366,"Ġwich":70367,"ĉax":70368,"_decor":70369,"ĠscreenWidth":70370,"ĠSophia":70371,"Forgot":70372,".uni":70373,"ĠVenture":70374,"_collision":70375,"Ġlawmaker":70376,"(Edit":70377,"blers":70378,"ĠgetNext":70379,"âĢĶyou":70380,"MediaPlayer":70381,"ĠHorde":70382,"ĠCongressman":70383,"observations":70384,"ĉproperty":70385,"Ġ<--":70386,"CreatedAt":70387,"ubyte":70388,"Ġquarantine":70389,"Ġdistressed":70390,"_APB":70391,"ĠGoodman":70392,"ãĤ«":70393,"Ġrecomend":70394,"_PRINTF":70395,"DONE":70396,"Bindable":70397,"rstrip":70398,"centaje":70399,"ĠUnexpected":70400,"ĠSCHOOL":70401,"ĠProfessionals":70402,"ĠGPUs":70403,"Lesson":70404,"Exclusive":70405,"Ġatrav":70406,"ĠDank":70407,"ĠLawyers":70408,"ĠWalton":70409,">[]":70410,"Ġaloud":70411,"=\"../../../":70412,"Ġdebating":70413,"ĠAVG":70414,"_VOL":70415,"/cgi":70416,".deg":70417,":g":70418,".Infof":70419,"MeasureSpec":70420,".song":70421,"mtree":70422,"ulls":70423,"Jordan":70424,"ĠCovers":70425,"Ġattributable":70426,"Ġjedis":70427,"iatrics":70428,"Ġrotterdam":70429,"Ġmeld":70430,"ĠContentType":70431,"Ġmantle":70432,"Ġalice":70433,"_duplicate":70434,"/Internal":70435,"Ġfilesize":70436,"ĉfire":70437,"rese":70438,"ondere":70439,"Ġfamiliarity":70440,"ĠCrest":70441,"Ġkarma":70442,"Ġtorino":70443,"Ġmesa":70444,"/temp":70445,"Ġchir":70446,"ĠOverflow":70447,"Ġtenemos":70448,"unik":70449,"NEXT":70450,"Alle":70451,"Ġnxt":70452,"Mart":70453,"Ġatl":70454,"Ġperiodo":70455,"_you":70456,"Ġ})).":70457,"intestinal":70458,".AdapterView":70459,"Ġhesitant":70460,"Ġcomparatively":70461,".UInt":70462,"(viewModel":70463,"Ġsangat":70464,"ĠResponsive":70465,"ĠZack":70466,"âħ":70467,"JAVA":70468,"ĠFuller":70469,"ĠâĿ¤":70470,".Consumer":70471,"Ġank":70472,"Ġreactors":70473,"fuck":70474,"_rat":70475,"ĠsessionFactory":70476,"_backward":70477,"Ġscrambled":70478,"ĉth":70479,"Ġinsensitive":70480,"Ġchamps":70481,"Ġnginx":70482,"Ġconhec":70483,"ĠJasper":70484,".fm":70485,"StrictEqual":70486,"achsen":70487,"-Nov":70488,"lassen":70489,".integration":70490,"(lbl":70491,"Compose":70492,"ĠFon":70493,"Ãļ":70494,"Gratis":70495,"ĠLime":70496,"ĠAdapterView":70497,"Ġpoisoned":70498,"anchors":70499,"设计":70500,"']?>\"":70501,"Ġprocur":70502,"Italy":70503,".MONTH":70504,"ĠLUA":70505,"ĠLithuania":70506,"ĠHeads":70507,"_CHUNK":70508,"ĠPUSH":70509,"AspectRatio":70510,"Ġweg":70511,"Ġvids":70512,"ĠWein":70513,"ĉINT":70514,"sessionId":70515,"Industry":70516,"Ġdenounced":70517,"JKLM":70518,"ĠVanessa":70519,".Identifier":70520,"propri":70521,"Ġиг":70522,"Ġtécn":70523,"Ġmosaic":70524,"StreamReader":70525,"-Th":70526,"forth":70527,"Ġadherence":70528,"bate":70529,"Ġknights":70530,"sounds":70531,"Ġsalle":70532,"OMET":70533,"ãĤ¹ãĥĪ":70534,"-tm":70535,"ĠRhe":70536,".FileOutputStream":70537,"åĪĨç±»":70538,"ĠENG":70539,"holiday":70540,"ĠCongratulations":70541,")(Ċ":70542,"Ġaggregates":70543,"HOOK":70544,"ewire":70545,"Senator":70546,"Ġembeddings":70547,"epy":70548,"(COM":70549,"Ġrobber":70550,"äter":70551,"wang":70552,"_teacher":70553,"Ġresentment":70554,"Ġlettuce":70555,"erreur":70556,"(ic":70557,"ĠTactical":70558,"ĠContracts":70559,"Ġmænd":70560,"Ġsitios":70561,"Ġbastante":70562,"Ġnuevos":70563,"ĉNdrFc":70564,"ĠprivateKey":70565,"ucch":70566,"MMdd":70567,"Ġè¾ĵåĩº":70568,"umba":70569,"@foreach":70570,":\");ĊĊ":70571,"Ġslippery":70572,"ĠKeystone":70573,"Ġpioneering":70574,"_triangle":70575,"(\"Ċ":70576,"ĉĉĉĉĉĉĉĉĠĠ":70577,"ĠIntervention":70578,"SCI":70579,"ĠcJSON":70580,"Ġterminating":70581,"ë¹Ħ":70582,"Ġbabys":70583,"Subset":70584,"Ġë¡":70585,"Ġseulement":70586,"Ġmuestra":70587,"Entre":70588,"以ä¸Ĭ":70589,"ngo":70590,"\"bytes":70591,"QRST":70592,"Ġypos":70593,"persona":70594,"ĠDeploy":70595,"cee":70596,"Ġà®":70597,".goal":70598,"Ġhabitats":70599,"ĠisAdmin":70600,"Ġexploiting":70601,"Ġventil":70602,"ĠBalls":70603,"اب":70604,"Ġmindfulness":70605,"(kwargs":70606,"Ġresembling":70607,"Ġchoir":70608,"ĠonBackPressed":70609,"ĠSECURITY":70610,"/gtest":70611,"Ġjustices":70612,"ĠintegerValue":70613,"blah":70614,"ĠAim":70615,"_finalize":70616,"keh":70617,"ĠComplexity":70618,"Ġaugust":70619,"getElementsByTagName":70620,"Ġpreach":70621,"Ġpronunciation":70622,"ĠTrash":70623,"-percent":70624,"_PRIV":70625,"ĠHunts":70626,"ĠCurse":70627,"uellen":70628,"Ġheavyweight":70629,"Xi":70630,"ĉselected":70631,"ĠMcCoy":70632,"å¼Ĥ常":70633,"|=Ċ":70634,"ĠBattlefield":70635,"ItemImage":70636,"Ġdeductions":70637,"ĠElemental":70638,"());//":70639,"ĠBurk":70640,"})čĊčĊ":70641,"swift":70642,"/function":70643,"Usually":70644,"_St":70645,"_feats":70646,"ĠIsValid":70647,"Ġzad":70648,"ImageContext":70649,"Ġclassname":70650,"Ġdonner":70651,"Ġ-->ĊĊĊ":70652,"Ġmotorcycles":70653,"+'/'+":70654,"ĠsetBackground":70655,"\\CMS":70656,".AllArgsConstructor":70657,"ĠLexington":70658,".examples":70659,"ĠPurs":70660,"PushMatrix":70661,"Ġ==============================================================":70662,".addTarget":70663,"pora":70664,"Fullscreen":70665,"Ġgoof":70666,"hlen":70667,"äge":70668,"ĠCURL":70669,"ĠInteresting":70670,"Ġretrieves":70671,"_Obj":70672,"inness":70673,"-----ĊĊ":70674,".tsv":70675,"(IM":70676,"ĠBraves":70677,"_ISR":70678,"osti":70679,"á»ĵ":70680,"ĠExterior":70681,"ĠCourtney":70682,"Ġresidues":70683,"Tier":70684,".*;čĊčĊ":70685,":black":70686,"webView":70687,"\"path":70688,"Ġmasa":70689,"]!='":70690,"ĠMatching":70691,"dur":70692,"Jvm":70693,"=context":70694,"_RING":70695,"Ġproponents":70696,"ĠQStringLiteral":70697,"Ġinflate":70698,"\">čĊ":70931,"_COST":70932,"ilinear":70933,"ĠWorkspace":70934,"Ġspel":70935,"agogue":70936,"ĠMillennium":70937,"ĠPopulate":70938,"Ġnid":70939,".parseColor":70940,"Solar":70941,"ĠGad":70942,"Ġì¤ij":70943,"ĠKamp":70944,"ĉrm":70945,"Ġbenz":70946,"ĠHonestly":70947,"Ġelectrode":70948,"ĠPrairie":70949,"ĠPROFILE":70950,"ĠOriental":70951,"ĠOLED":70952,"/copyleft":70953,"awaii":70954,"(products":70955,")\\<":70956,"-created":70957,".ManyToMany":70958,"\"How":70959,"ĠвÑĭп":70960,"Ġmitochondrial":70961,"_testing":70962,"(created":70963,"ĠgetField":70964,"_EVAL":70965,"].\"":70966,"ĠFSM":70967,"ĠRita":70968,"ĠåıĤæķ°":70969,"Ġcôt":70970,"ĠInsight":70971,"ĉmysqli":70972,"_timing":70973,"IDO":70974,")))))Ċ":70975,"COVERY":70976,".imag":70977,"CDF":70978,"lust":70979,"ickt":70980,"_FP":70981,".','":70982,"gcc":70983,"Ġkurz":70984,"_pwm":70985,"Ġodpowied":70986,"ĠBarrier":70987,"/***************************************************************************Ċ":70988,"pak":70989,"-Israel":70990,"ĠRutgers":70991,"ĠselectedItem":70992,"ĠRamirez":70993,"Farm":70994,"Ġcalendars":70995,"gzip":70996,"Ġblockbuster":70997,"ĠPlymouth":70998,"çľĮ":70999,"responses":71000,".DialogInterface":71001,"-grand":71002,"ĠgetSource":71003,"Ġdejtings":71004,"Ġtieten":71005,"Ġcondemnation":71006,"Ġcontinuar":71007,".MockMvc":71008,"/english":71009,"ĠMediaPlayer":71010,"computed":71011,"ĠClippers":71012,"(delegate":71013,".Slf":71014,"Ġë¡ľ":71015,"ĠTide":71016,"Ġihrem":71017,"ĠWan":71018,"ÑĥÑİÑī":71019,"}><":71020,"Discussion":71021,"Ġwatts":71022,"-minus":71023,"ĠJuliet":71024,"éĽħ":71025,"Ġconcluding":71026,"andscape":71027,"Ġúltima":71028,"ĠDERP":71029,"ĠsignUp":71030,"ĠSecondly":71031,"WAIT":71032,"lds":71033,".callbacks":71034,"(hour":71035,"imators":71036,"volent":71037,"AAF":71038,"edriver":71039,"ĠMathematic":71040,"'":71042,"{j":71043,"_ABORT":71044,"Ether":71045,"Ġeducator":71046,"Ġprecaution":71047,"Ġfingertips":71048,"getVar":71049,"camatan":71050,"-debug":71051,"ĠRAF":71052,"[arg":71053,"Ġraced":71054,"Ġtsunami":71055,".flink":71056,"Ġglyc":71057,"uko":71058,"ĠMultiply":71059,"Ġredistribution":71060,"AGO":71061,"ĠRoutine":71062,"Ġopr":71063,"(lower":71064,"ĠFunktion":71065,".dk":71066,"Ġegt":71067,"_BASIC":71068,"syscall":71069,"ĠLSD":71070,"ĠDuplicate":71071,"_sell":71072,"ĠerrorHandler":71073,"_ips":71074,"Ġerv":71075,"annie":71076,"(resourceName":71077,"Ġbottled":71078,"Ġcrawling":71079,"egment":71080,".setTag":71081,"Ġrss":71082,"ĠQuarry":71083,"_exact":71084,".jwt":71085,"ĠBoards":71086,"opi":71087,"Ġnasal":71088,"ĠXYZ":71089,".ud":71090,"Northern":71091,"Ġactivating":71092,"edx":71093,"ovah":71094,"Ġindx":71095,"AlertDialog":71096,"Ġtienes":71097,"annya":71098,"_pan":71099,"(decimal":71100,".Dict":71101,"Ġsubsidiaries":71102,"ProductName":71103,"Few":71104,"dato":71105,"odied":71106,"-under":71107,"Ġê²ĥ":71108,"çīĪæľ¬":71109,"atism":71110,"[Math":71111,".'<":71112,"(infile":71113,"Ġdenotes":71114,"$class":71115,"_SECURITY":71116,"Ġsewage":71117,"melon":71118,"(Character":71119,"/github":71120,"Ġglaring":71121,".Guid":71122,"_sparse":71123,"ĠMargin":71124,"_dns":71125,"Ġmeiner":71126,"Ġleftist":71127,"ĉloc":71128,"abytes":71129,"Ġequipments":71130,"expo":71131,"ĠSomerset":71132,"EK":71133,"æį¢":71134,"Ġlecturer":71135,"Ġmemiliki":71136,"æł¸":71137,"ç´ł":71138,"pron":71139,":pointer":71140,"borrow":71141,"ĠProtective":71142,"_cf":71143,"ĠÐķÑģли":71144,"bpp":71145,"';ĊĊĊĊ":71146,"aturally":71147,"_NAV":71148,"Ġpeptide":71149,">d":71150,"Ġifstream":71151,"_FACTORY":71152,"');//":71153,"joined":71154,"mong":71155,"Ġtimespec":71156,"Ġdestabil":71157,"Ġautop":71158,"-limit":71159,"publication":71160,"ĠDenn":71161,".Memory":71162,"(skb":71163,"ĠAnaheim":71164,"_RETURNTRANSFER":71165,"oueur":71166,"(_('":71167,"legt":71168,"istingu":71169,"ĉpriv":71170,"Ġredirects":71171,"Mt":71172,"Ġalleen":71173,"ĠPointF":71174,"Ġomin":71175,"Ġcitt":71176,"ĠTage":71177,"ĠWalls":71178,"á»ī":71179,"Ġoccupying":71180,"xBF":71181,"rangle":71182,"Ġrelational":71183,"-org":71184,"Ġjpg":71185,"-derived":71186,"Ġmalfunction":71187,"ĠBenson":71188,"(scroll":71189,"ĠXD":71190,"Holy":71191,"(commands":71192,"Ġtipping":71193,"Ġprimitives":71194,"Ġsexle":71195,"CallCheck":71196,"ĠMASTER":71197,"_TEAM":71198,".setRequestHeader":71199,"_specs":71200,"Ġserge":71201,".Master":71202,"Ġims":71203,".SpringBootTest":71204,"paypal":71205,"ĠWANT":71206,".Inst":71207,"ĠCarpet":71208,"Ġwrongly":71209,"($('.":71210,"Ġbild":71211,".Roll":71212,"ĠUrb":71213,"-can":71214,"ãģıãģłãģķãģĦ":71215,"oliberal":71216,"čĊčĊ":71610,"ĠMahm":71611,"}\";ĊĊ":71612,"Ġdq":71613,"ĠPublishers":71614,"ĠAmpl":71615,"ĠDanielle":71616,"Ġtern":71617,"èµ·":71618,"noÅĽÄĩ":71619,"ein":71620,"ĠAsyncStorage":71621,"unger":71622,"rouw":71623,"Ġscissors":71624,"/assert":71625,".bucket":71626,"/archive":71627,"_Man":71628,"Ġintoler":71629,"Ġ()=>":71630,"ĠÐĴÑĭ":71631,"Ġsai":71632,".xy":71633,".\"čĊ":71634,"Ġurinary":71635,"esub":71636,"ISTICS":71637,"Ġκ":71638,"Ġcompliments":71639,"ĠtypingsJapgolly":71640,"ihar":71641,"Expansion":71642,"ĠServing":71643,"_students":71644,"ĠXBOOLE":71645,"(il":71646,"Ġì²ĺ":71647,"Ġjó":71648,"(tol":71649,"(JS":71650,"ĉCG":71651,"ĠDRAW":71652,"twig":71653,"Ġoat":71654,"_smooth":71655,"ĠCSL":71656,"Ġosob":71657,"Ġensuing":71658,"Ġbanker":71659,"ĠBackpack":71660,"_ping":71661,"Ġwishlist":71662,"=ax":71663,"ĉĠĠĠĊ":71664,"Disney":71665,"steady":71666,"\">%":71667,"Ġprophets":71668,"ĠZX":71669,"Ġminimalist":71670,".PLAIN":71671,"Seattle":71672,".ordinal":71673,"ĠPIPE":71674,"Ġretorna":71675,"Ġjugador":71676,"ĠBret":71677,"ĠâĶľ":71678,"Ġplush":71679,"ULATOR":71680,"Sorting":71681,".gridy":71682,"ectomy":71683,"_activ":71684,"rack":71685,"Interactive":71686,"ĠAntarctica":71687,"Ġvengeance":71688,"enso":71689,"_known":71690,"upplier":71691,".Modules":71692,"ĠConnectionState":71693,"éļIJèĹı":71694,"@FindBy":71695,"Ġplacer":71696,"\\model":71697,"<()>":71698,".isSuccessful":71699,"-good":71700,"bz":71701,"ĠDraco":71702,"Assistant":71703,"-extra":71704,"аблиÑĨ":71705,"Ġhypocrisy":71706,"Ġtst":71707,"ĠAgr":71708,"$txt":71709,"Ġlogistic":71710,"licensed":71711,"ĠHof":71712,"Ġtat":71713,"(iv":71714,"Ġintoxic":71715,"postId":71716,"_strike":71717,"Ġhumiliation":71718,"pcodes":71719,"\"sync":71720,"(recipe":71721,"+N":71722,"rente":71723,"ĉClient":71724,"ycopg":71725,"ĠZurich":71726,"ĠProfiles":71727,"Countries":71728,"Ġpict":71729,"Ġrollout":71730,"requencies":71731,"Ġpatched":71732,"Ġcartridges":71733,"Ġshading":71734,"Jar":71735,"Ġsalvage":71736,"ĠTaxes":71737,"Ġstandby":71738,"aporan":71739,"Eigen":71740,".angular":71741,"ĠNested":71742,"享":71743,"ĠisVisible":71744,"ĠDwight":71745,"_BRANCH":71746,".Delay":71747,"Ġkend":71748,"Ġfacilitated":71749,".flatMap":71750,"Ġsanta":71751,"ĉSend":71752,"/messages":71753,"ĠofType":71754,"ĉswap":71755,"#plt":71756,"ĠTurks":71757,"NES":71758,"Ġprogressively":71759,"ĠResidence":71760,"ĠTREE":71761,"Ġnoen":71762,"dio":71763,"Ġnelle":71764,"Ġsogar":71765,"itti":71766,"weekly":71767,"Ġambiguity":71768,"_Settings":71769,"Ware":71770,".neo":71771,"_DST":71772,"Ġæĸ¹":71773,"prep":71774,"lobby":71775,"@email":71776,"/movie":71777,"Ġfunkc":71778,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":71779,"ÂŃs":71780,"Ġguardians":71781,"-pos":71782,"Ġconfiguring":71783,"ĠCPS":71784,"ĠDeus":71785,"Ġvidéos":71786,"_empresa":71787,"Ġslapped":71788,"',Ċ":71820,"_XDECREF":71821,"ĠBuzzFeed":71822,"_MARGIN":71823,"PLOY":71824,".small":71825,"ĠmimeType":71826,"Ġholog":71827,"ĉcamera":71828,"lias":71829,"Ġsuspense":71830,"odynam":71831,"bau":71832,"Ġgraveyard":71833,"_named":71834,"\":\"'":71835,"Ġ************************************************":71836,"ĠgameOver":71837,"ĠLENGTH":71838,"ĉscreen":71839,"ĠdoInBackground":71840,"_dependencies":71841,"Ġrtc":71842,"/up":71843,"_ROM":71844,"Hall":71845,"Ġdeficiencies":71846,"(te":71847,"'#":71848,"_equiv":71849,"Ġpreorder":71850,"ĠAxe":71851,"омÑĥ":71852,".sendFile":71853,"Ġfilt":71854,"ĠLimits":71855,"ĠCavaliers":71856,".discount":71857,"âĨIJ":71858,"ĠWit":71859,"QRSTUV":71860,"Ġij":71861,"Ġtegen":71862,"Ġ:\",":71863,"difficulty":71864,"punkt":71865,"ĠEmails":71866,"chlor":71867,"(fun":71868,".Uint":71869,"ĠStall":71870,"_verified":71871,"uD":71872,"FileType":71873,"Ġpleasures":71874,"Ġjudiciary":71875,"Ġsham":71876,"ipur":71877,"_PLUS":71878,"offers":71879,"(foo":71880,"_GT":71881,"ĉcore":71882,"ENTION":71883,"ĠLiberation":71884,"CommandLine":71885,"_department":71886,".Ar":71887,"_neighbor":71888,"ĠSubmitted":71889,"ĠĊ":96121,"Ġdroits":96122,"Ġhomosexuals":96123,"Ġabduction":96124,"ĉwidget":96125,"$headers":96126,"ĠDAR":96127,"Ġfla":96128,"threat":96129,"Ġlouis":96130,".GetProperty":96131,"\"Just":96132,"(frames":96133,"ryo":96134,"profession":96135,"|i":96136,"íķ´ìĦľ":96137,"(sv":96138,"Ġunrecognized":96139,"Ionic":96140,"Fashion":96141,"ScreenState":96142,"ĠIncoming":96143,"NotNil":96144,"Ġsyncing":96145,"emie":96146,"Ġthermo":96147,"_procs":96148,"Ġinconsistency":96149,"religious":96150,".mj":96151,"Ġpersonn":96152,"Ġmomentos":96153,"orarily":96154,"ĠæĬ":96155,"_neurons":96156,"Illustr":96157,"imoto":96158,"ilik":96159,"ĠWoj":96160,"Trading":96161,"Ġappare":96162,"Ġentreprises":96163,"achat":96164,"Ġ¬":96165,"Ġneigh":96166,"BUTTONDOWN":96167,"ĠMaher":96168,"aghan":96169,"-hash":96170,"\"f":96171,"Ġclientele":96172,".addButton":96173,"ĉSP":96174,"Qi":96175,"Ġgrated":96176,"POSITE":96177,":>":96178,"ĠHowell":96179,"ĠComparative":96180,"ĠISC":96181,"ÂŃi":96182,"Ocean":96183,"Davis":96184,"ĠFilme":96185,"Wins":96186,"ĠJIT":96187,"occer":96188,"ĠCorm":96189,"ENCHMARK":96190,"rchive":96191,"icação":96192,"Ġmata":96193,"Ġchildbirth":96194,"ĠOptionally":96195,"Ens":96196,"Ġxhttp":96197,"Ġelucid":96198,"_OscInitStruct":96199,"))):Ċ":96200,"Ġintuit":96201,"ĠDonate":96202,"Ġcorrelates":96203,">Delete":96204,"Ġequipe":96205,"Ġboca":96206,"Ġinflatable":96207,"erah":96208,"ĠDateTimeKind":96209,"Ġcalves":96210,"\\Lib":96211,"Ġemlrt":96212,"ĠTrilogy":96213,"ĠPanc":96214,"ĠDuis":96215,"ĠpelÃŃcula":96216,"WARDS":96217,"_DETECT":96218,"-sectional":96219,"dhcp":96220,"ForRow":96221,"-destruct":96222,"ĠPresenter":96223,"/slick":96224,",on":96225,"ĠCitadel":96226,"loggedin":96227,"_subtype":96228,"Ġsigue":96229,"Ġcuring":96230,"ĠFirewall":96231,"Ġfluorescence":96232,"ĠItalians":96233,"иÑĤÑģÑı":96234,".getStyle":96235,"InSeconds":96236,"jie":96237,"-Smith":96238,"Ġxlink":96239,"Ġsubmissive":96240,"онÑĤ":96241,"arbonate":96242,"ĠFaul":96243,"_goals":96244,"ĠCommissioners":96245,"chartInstance":96246,"_POSTFIELDS":96247,"Ġmedial":96248,"Ġmanos":96249,"Ġdelt":96250,"svm":96251,".Apis":96252,"ephy":96253,"Ġasympt":96254,"ĠappDelegate":96255,"Ġimprobable":96256,"cka":96257,"simd":96258,"/Error":96259,".âĢĵ":96260,"ĠPTS":96261,"deer":96262,"Ġsina":96263,"magnitude":96264,"IDADE":96265,"']}'":96266,"Ġmayores":96267,"ĉcomment":96268,"/console":96269,"\"@":96270,"volt":96271,".sell":96272,"ĠMacy":96273,"Ġmelod":96274,"Ġimágenes":96275,"_chg":96276,"Ġinout":96277,"idente":96278,")'),Ċ":96279,"dni":96280,".blob":96281,"Ġtypography":96282,"Ġeerie":96283,"_OID":96284,"pesan":96285,"ajan":96286,"Ġchopping":96287,"Ġbluff":96288,"adf":96289,"_bases":96290,".Formatter":96291,"Ġ\\%":96292,"ĠPageInfo":96293,"Carrier":96294,"ĠCalibration":96295,"como":96296,"-bodied":96297,"Ġfinancier":96298,"ĠINA":96299,".ERR":96300,"Ġhoodie":96301,"ĠSanity":96302,"guarded":96303,".opendaylight":96304,"ISMATCH":96305,"Highlights":96306,"ünk":96307,"aniem":96308,"angered":96309,"assignments":96310,"Ġregistrado":96311,"ĠUPPER":96312,"ampilkan":96313,"ashire":96314,"ĠNikola":96315,"ĠCFL":96316,"ĠHDC":96317,"Ġpoids":96318,"ĠIPs":96319,"Ġpreventative":96320,"ipsoid":96321,"ifix":96322,".camel":96323,".ga":96324,"Volumes":96325,"-ste":96326,"Yahoo":96327,"_sibling":96328,"Highest":96329,"optgroup":96330,"Ġkvinna":96331,"âĢĿãĢĤĊĊ":96332,"ĠAppliances":96333,"Ġ\"><":96334,"')\")Ċ":96335,"htt":96336,"ĠIdentified":96337,"Ġpencils":96338,"ĠmemberId":96339,"ĠappendString":96340,".loadData":96341,"ĠmockMvc":96342,"Ġjub":96343,"ĠSlut":96344,"ĠTaipei":96345,"statt":96346,"Polit":96347,"Ġpartager":96348,"DidChange":96349,"Increases":96350,")}.":96351,"ĠBaba":96352,"_CLIP":96353,"[unit":96354,"ĠклÑİÑĩ":96355,"Ġalcuni":96356,"ĠLola":96357,"Ġclinging":96358,"@PostMapping":96359,"(concat":96360,"Ġssid":96361,"ĠFauc":96362,"okit":96363,"ĠRecorded":96364,"ález":96365,"($('<":96366,".assertIsNot":96367,"Ġkali":96368,"Volt":96369,"Ġwarmly":96370,"Ġscares":96371,"getti":96372,"führt":96373,"_does":96374,".EMAIL":96375,"imations":96376,"Ġspringfox":96377,"ĠDecom":96378,"arcy":96379,"Ġglitches":96380,"ĠMoff":96381,"ĠVoll":96382,".between":96383,"Ġcoorden":96384,"ĠParticularly":96385,"GBP":96386,"Ġsemble":96387,"Eastern":96388,"_MSB":96389,"]){čĊ":96390,"morgan":96391,"ĠEVAL":96392,"dere":96393,"HOUSE":96394,"moire":96395,"istique":96396,"_lstm":96397,"-commit":96398,"ysterious":96399,"Ġtwink":96400,"-thumbnails":96401,"enÃŃ":96402,":'',":96403,"Ġblackout":96404,"ĠFloors":96405,"Ġsofas":96406,"Ġoui":96407,"leshoot":96408,"ĠRaq":96409,"-abs":96410,"Ġkra":96411,"Mining":96412,"shaft":96413,".setColumns":96414,"Clazz":96415,"PRETTY":96416,".playlist":96417,"éĸ¢":96418,"-Saharan":96419,"MING":96420,"ĉbl":96421,"è®®":96422,"jf":96423,"DOCKER":96424,"hopefully":96425,"(ignore":96426,"ĠUsersController":96427,"ĠMitarbeiter":96428,"ĠLES":96429,"Hamilton":96430,"-metadata":96431,"ĠKK":96432,"iktig":96433,"Ġwollte":96434,"egrator":96435,"]bool":96436,",current":96437,"ĠvalueType":96438,"Ġexcavation":96439,"oland":96440,"Ġverv":96441,"/filepath":96442,"AuthProvider":96443,"Ġprocrast":96444,"ĉULONG":96445,"_MEMBERS":96446,"Ġuplift":96447,"ĠAutonomous":96448,"Ġartworks":96449,"ĠOutreach":96450,"Ġpore":96451,"Homepage":96452,"DialogTitle":96453,"ĠGenerating":96454,"PARSE":96455,"Ġsemanas":96456,"Ġhumano":96457,"JSGlobalScope":96458,"Ġvolte":96459,"Ġbella":96460,"(isinstance":96461,"Ġplc":96462,"\\Catalog":96463,"Ġesteemed":96464,"鼷":96465,"(suffix":96466,"Ġsweeps":96467,"ĉORDER":96468,"Ġdoivent":96469,"ĠSwarm":96470,"ĠCompiled":96471,"getPage":96472,"ADR":96473,".RichTextBox":96474,"ĠNaming":96475,"agged":96476,"ĠGANG":96477,"rasing":96478,"odeled":96479,"Ġgala":96480,"ĠJSName":96481,"ddf":96482,"Ġillust":96483,"ĠLansing":96484,"[port":96485,"-death":96486,"Ġdinheiro":96487,"ĠEighth":96488,"Ġbian":96489,"stÃ¥":96490,"Ġversión":96491,"ĠLinearGradient":96492,"ĠHarding":96493,".*)":96494,"eczy":96495,"$header":96496,"ĠvÃ¥r":96497,"Unchecked":96498,"Ġkoje":96499,"ĠPaladin":96500,"())),":96501,"Giving":96502,"()})Ċ":96503,"Ġdips":96504,"Friendly":96505,"Ġportrays":96506,"Ġhelium":96507,"Ġinsurgency":96508,"_expiry":96509,"ĠstringByAppendingString":96510,"Ġaantal":96511,"slope":96512,"mast":96513,".getInteger":96514,"Ġ########################":96515,"_PIPELINE":96516,"Ġdensely":96517,"Ġmutating":96518,"midi":96519,"ĠSeit":96520,"ayne":96521,"NOWLED":96522,"ĠDesmond":96523,"ĠFName":96524,"ĠNairobi":96525,"\\Context":96526,"Ġcalcular":96527,"-den":96528,"Ġcott":96529,"]):čĊ":96530,"ĠRecommendation":96531,"ĠRolex":96532,"ĠvalidationResult":96533,".pat":96534,"ĠnÃły":96535,"ĠRestClient":96536,"ĠGPI":96537,"ĠAsheville":96538,"ĠOSP":96539,"ĠPERMISSION":96540,"ÐĶаÑĤа":96541,"/notification":96542,"Knight":96543,"_Word":96544,"ĠBender":96545,"ranking":96546,"Ġpartida":96547,"_reservation":96548,"ÌĢ":96549,"ĠmName":96550,"Ġgetch":96551,"Ġborr":96552,"Ġdiligent":96553,"Discuss":96554,"æŃ£åľ¨":96555,"apeake":96556,"ioned":96557,"-Nazi":96558,".cum":96559,"ĠKron":96560,"=$('#":96561,"/single":96562,"Ġerotisch":96563,"ĠVib":96564,"Ġratified":96565,"Ġconcerted":96566,"ĠREGARD":96567,"Ġdobr":96568,".DriverManager":96569,"'r":96570,"Portable":96571,"ĉsuite":96572,"Ġrelaciones":96573,"ĠDop":96574,"emploi":96575,"DOB":96576,"Ġcrumbs":96577,"Ġxls":96578,"_Application":96579,"(':',":96580,"Ġ------------------------------------------------------------------------Ċ":96581,"mse":96582,"Ġberk":96583,"ĠReturnValue":96584,"ĠBelly":96585,"Ġcamar":96586,"ĠPeek":96587,"elsing":96588,"Ġnotifies":96589,"ĠTristan":96590,"ĠGAR":96591,"emme":96592,"ĠElevated":96593,"_CSV":96594,"(chalk":96595,"Ġtwenties":96596,"ĠSearchResult":96597,"=search":96598,"ĠMixing":96599,"ýt":96600,"Ġrecruiter":96601,"ĠIDEOGRAPH":96602,"ĠAgo":96603,"(Operation":96604,"$values":96605,"Ġworldly":96606,"ĠRosenberg":96607,"ĠConfigureServices":96608,">*Ċ":96705,"Ġsnork":96706,"_opacity":96707,"ĠinitWithNibName":96708,"iado":96709,"AAC":96710,"Ġ]).":96711,";z":96712,"_paragraph":96713,"Ġnoses":96714,"stands":96715,"ifr":96716,"_mE":96717,"Iraq":96718,".Predicate":96719,"enaire":96720,"]]];Ċ":96721,"Ġunidad":96722,"Ġretirees":96723,"_hello":96724,"Ġmodele":96725,"ĠUITableViewController":96726,"fwrite":96727,"_numero":96728,"_visited":96729,"Ġrecebe":96730,"(Notification":96731,"Fantastic":96732,"_submenu":96733,"ĠPEM":96734,"ĠCupertino":96735,"approximately":96736,"classed":96737,".ReadString":96738,"Ġdomicile":96739,"_PW":96740,"Ġballpark":96741,"ĠKale":96742,"contra":96743,"_favorite":96744,"/of":96745,"Quite":96746,"ĠOTA":96747,"Ġaccelerometer":96748,"didn":96749,"|^":96750,"ĠRohingya":96751,"ivicrm":96752,"annabin":96753,"обÑĭÑĤи":96754,"orado":96755,"')+":96756,"Haunted":96757,",ID":96758,"(UIAlertAction":96759,"urv":96760,"_bel":96761,"ĠMexicans":96762,"/terms":96763,"ĠPainter":96764,"InputLabel":96765,"ĠVinci":96766,"ĠRosie":96767,"\\uc":96768,"":96929,"_gs":96930,"Ġcompil":96931,"nard":96932,"-exc":96933,"Ġrhyme":96934,"Ġbutto":96935,"says":96936,"antasy":96937,"ë¸":96938,"ĠcittÃł":96939,"Ġcheg":96940,"TimeString":96941,"Ġpositivity":96942,"ĠDabei":96943,"Ġwang":96944,"Ġescre":96945,"\"c":96946,"ĉvideo":96947,"ĠRanked":96948,".strings":96949,">>>(":96950,"ĠинÑĤеÑĢ":96951,"Ġresta":96952,"[:,:":96953,"Ġrendre":96954,"Ġdeser":96955,"Jos":96956,"Ġdisruptions":96957,"ĠопеÑĢ":96958,"sampling":96959,"suppress":96960,"ĠcontainerView":96961,"ĠSeamless":96962,"Ġairy":96963,"Ġonload":96964,".WindowManager":96965,"ĠPLA":96966,"braco":96967,".setPositiveButton":96968,"Ġpdu":96969,"Ġgsi":96970,"ĠCli":96971,"_gradients":96972,"Ñıд":96973,"ĠWhisper":96974,"cstdint":96975,"Ġläng":96976,"Ġformulations":96977,"énom":96978,"ournemouth":96979,"[$_":96980,"Ġordinarily":96981,".setUsername":96982,"Ġfaculties":96983,"MITTED":96984,"/values":96985,"Ġweir":96986,"ĠApt":96987,"MZ":96988,"ĉcf":96989,"ucken":96990,"ĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉ":96991,"defense":96992,"[iVar":96993,"ĠBusinessException":96994,"Selectors":96995,"(coordinates":96996,"ĠResets":96997,"ĠDrinks":96998,"oleans":96999,"(stypy":97000,"_IOC":97001,".xxx":97002,"ĠSlater":97003,"ĠBelize":97004,"Ġ/************************************************************************":97005,"addin":97006,"_episodes":97007,"Ġischem":97008,"legalArgumentException":97009,"Danny":97010,"Ġpared":97011,".codehaus":97012,"ĠAssy":97013,"ĉRect":97014,"âŀ":97015,".lista":97016,"ĠваÑĪ":97017,"Ġvets":97018,"HWND":97019,"isoner":97020,"Ġxo":97021,"Ġorally":97022,"ĠStmt":97023,".rnn":97024,"ĠDPI":97025,"ĠStrikes":97026,".setViewportView":97027,"ĠèĩªåĬ¨çĶŁæĪIJ":97028,"YELLOW":97029,"GLenum":97030,"partners":97031,"ĠImplicit":97032,"Ġtako":97033,"âĢĻelle":97034,"Ġermög":97035,"totalCount":97036,"Gil":97037,"ĉwork":97038,"Ġpratic":97039,"inati":97040,"abies":97041,"ĠSkinner":97042,"Ġspirited":97043,"Ġpancreatic":97044,"Ġhdf":97045,"'em":97046,"Ġpsychosis":97047,"olicit":97048,"Ġ\"{\"":97049,"_atual":97050,"Ġélect":97051,"TEAM":97052,"Ġdak":97053,"ĠSWAT":97054,".FragmentManager":97055,"Ġprovisioning":97056,"lifetime":97057,"_EXTENSIONS":97058,"ĠCASCADE":97059,"Ġ![":97060,"(KP":97061,"Ġvem":97062,"ĠInterracial":97063,"']},Ċ":97064,"spacer":97065,"_kv":97066,"Warehouse":97067,"RDD":97068,"_fsm":97069,".StretchImage":97070,",Yes":97071,"ĠRefugee":97072,"ĠBringing":97073,"Ġválido":97074,".intersection":97075,"Ġspooky":97076,"_portal":97077,"Ġmoth":97078,"ĠZodiac":97079,"ĠSOCIAL":97080,"MimeType":97081,"']}}":97200,"_Blue":97201,"Ġbotanical":97202,"Ġfrags":97203,"Ġfamilial":97204,"-du":97205,"Ġseizing":97206,"(blocks":97207,".rd":97208,".checkNotNull":97209,"Ġmiser":97210,"Ġmaxx":97211,"ĠKnee":97212,"ViewItem":97213,"InnerHTML":97214,"Danger":97215,"((__":97216,"Ġprzypad":97217,"createUrl":97218,"**,":97219,"ĠDecorating":97220,"ATEGY":97221,"?>/":97222,".Designer":97223,"hexdigest":97224,"ĠEverywhere":97225,"alleries":97226,".TEXTURE":97227,".Blocks":97228,"zell":97229,"Ġpreço":97230,"Suddenly":97231,"inputEmail":97232,"(sync":97233,".bd":97234,"golden":97235,">');":97236,"ĠDickinson":97237,">>(Ċ":97238,"ĠQUEUE":97239,"ĠgetColumn":97240,"ĠSAND":97241,".piece":97242,"licer":97243,"Flutter":97244,"ĠgetVersion":97245,"ĠresourceId":97246,"ogl":97247,"ÅĤaw":97248,".Branch":97249,"ĉweb":97250,"Ġframerate":97251,"PPP":97252,"Ġfray":97253,"CNT":97254,"Ġinformatie":97255,"']čĊčĊ":97256,"neas":97257,"HeaderCode":97258,"Ġæ¸":97259,"Ġtrg":97260,"rawtypes":97261,"Honda":97262,"Ġmarketer":97263,"ĠrequestData":97264,"ĠPg":97265,"ĉnot":97266,"ĠpageInfo":97267,"Ġaktuellen":97268,"ãģķãĤĵ":97269,"ĠAMS":97270,"pushViewController":97271,"ĉAL":97272,"Ġvests":97273,"produce":97274,"-même":97275,"ĠRahman":97276,"Funny":97277,"EZ":97278,"_Valid":97279,"Ġsquadron":97280,"Ġlash":97281,"Ġirm":97282,"iasco":97283,"ĠParan":97284,"Ġpetites":97285,"ĠDecay":97286,"Ġuninitialized":97287,"privileged":97288,"Ġmbedtls":97289,"å¤ĩ注":97290,"Ġ^.":97291,"Ġecstatic":97292,"Detroit":97293,"Ġparten":97294,"Ġsouvenir":97295,".getLogin":97296,"моÑĤÑĢ":97297,"enção":97298,"ĠmÃŃnimo":97299,"ĠAccessed":97300,"rió":97301,"Mic":97302,"ĠVocal":97303,".SetString":97304,"Ġmensajes":97305,"åĢį":97306,"Ġattravers":97307,"ĠAph":97308,"Ġ');čĊ":97309,"ünde":97310,"Ġenchanted":97311,"ĠRootState":97312,"ĠCLOSED":97313,"ĉĉĉĉĉĉĉĉčĊ":97314,"Ġcaliente":97315,"orris":97316,"Ġphysicists":97317,"hwnd":97318,"_vi":97319,"Ġrápido":97320,"Ġcapitalized":97321,"edBy":97322,"Ġmachining":97323,"Ġhubby":97324,"ĠStacy":97325,".Bus":97326,"drink":97327,"Hur":97328,"Ġpropia":97329,"UnitTest":97330,"Ġmisconception":97331,"__));Ċ":97332,"/dc":97333,"ĠMayweather":97334,"_mC":97335,".createFrom":97336,"ĠQPainter":97337,"ropsych":97338,"innitus":97339,"ayas":97340,"Ġgeg":97341,"(dw":97342,"Ġusado":97343,"Ġtrickle":97344,"Ġannihil":97345,"ĠPasta":97346,"Ġ++Ċ":97347,"(ExpectedConditions":97348,".postValue":97349,"icap":97350,"ĠDonetsk":97351,"_soup":97352,"-publish":97353,"ĠPb":97354,"mentions":97355,"ACCEPT":97356,".Pull":97357,",âĢĻâĢĻ":97358,"Ġretarded":97359,"_ATOM":97360,"ĠTerminator":97361,"-court":97362,"ĠCLLocationCoordinate":97363,"Ġreverence":97364,"ĠSSC":97365,"utely":97366,"ĠWON":97367,"ĠGSL":97368,"frei":97369,".getLongitude":97370,"ĠopenFileDialog":97371,".Butter":97372,"-important":97373,"_MANY":97374,"ĠGong":97375,"âĢľHow":97376,"Ġgorge":97377,"=msg":97378,"ĠEzek":97379,"createCommand":97380,":checked":97381,"Ġinfographic":97382,".WEST":97383,"Dirs":97384,"Ġguarda":97385,"Ġbeetle":97386,"Loading":97460,"_mA":97461,".getRandom":97462,"blings":97463,"Ġcheeses":97464,"tti":97465,".âĢ¢":97466,"ĠBurgess":97467,"enderit":97468,".',čĊ":97469,"(\"\"+":97470,"acb":97471,"%p":97472,"indexed":97473,"_predicate":97474,"nesia":97475,"Ġbied":97476,"ĠCIT":97477,"(Pos":97478,"_radi":97479,"ä»·æł¼":97480,"Biz":97481,"ĠAdolescent":97482,"Ġviên":97483,"cycl":97484,"_Cancel":97485,"Ġconclusive":97486,"Ġappellate":97487,"informatics":97488,"SJ":97489,"Ġelective":97490,"roleId":97491,"Fetcher":97492,"ĉCommand":97493,"(\"(%":97494,"Ġfart":97495,"ILA":97496,"getBlock":97497,"AUSE":97498,"Ġдан":97499,"ĠArte":97500,"Ġnotifying":97501,"Ġgele":97502,".same":97503,"ĠRegel":97504,"ĠBaÅŁ":97505,".creation":97506,"ĠVN":97507,"_community":97508,"Ġunsustainable":97509,"SEX":97510,"ĠgridSize":97511,"rescia":97512,"aversable":97513,"(',')[":97514,"ĠPhelps":97515,"á»ķi":97516,"ANCELED":97517,"-IS":97518,".runners":97519,"ĠStokes":97520,".Produ":97521,"Ġwhipping":97522,"_acquire":97523,"Ġinvestigación":97524,"fried":97525,".copyWith":97526,"ĠHardcover":97527,"-Se":97528,"áŀ¶áŀ":97529,"invitation":97530,"lesai":97531,"ĠDorm":97532,"ĠÑģпиÑģка":97533,"Ġconcatenated":97534,"ophil":97535,"Ġthinker":97536,"/fontawesome":97537,"ĠLeopard":97538,"Ġ\"/\");Ċ":97539,"Ġresiduals":97540,"ĠMicrowave":97541,"Ġconforme":97542,"throp":97543,"Ġdisemb":97544,"ĠOMG":97545,"ĠDiscipline":97546,"ĠAcrobat":97547,"/repository":97548,"dfa":97549,"_MED":97550,"bufio":97551,"Ġméthode":97552,"_HOLD":97553,"iasi":97554,"_legacy":97555,")ččĊ":97556,"æ£Ģ":97557,"GetProcAddress":97558,"Ġyay":97559,"otence":97560,"orderid":97561,"-tw":97562,"Ġdearly":97563,"Incoming":97564,"/il":97565,"Ġneurop":97566,"ucz":97567,");čččĊ":97568,"ĠInnovative":97569,"Ġprofund":97570,"igmat":97571,"SelectionMode":97572,"relevant":97573,".GO":97574,"Ġbruises":97575,"Ġsach":97576,"odef":97577,"Ġreimb":97578,"/desktop":97579,"-spot":97580,"undance":97581,"Entropy":97582,"\\core":97583,"Ġsuger":97584,"ĠMvc":97585,"ĠGNOME":97586,"_indx":97587,"ĠYYSTYPE":97588,"ĠMatlab":97589,"ĠCIF":97590,"Ġ*))":97591,"ĠproductList":97592,"ĠAlright":97593,"acemark":97594,"ÑĤив":97595,"modification":97596,"international":97597,"Ġhomers":97598,"Ġdicts":97599,"ĠQFont":97600,".SQLite":97601,"Ġtransplantation":97602,"ĠMessageBoxButton":97603,"ĠElves":97604,"']])Ċ":97605,"(QIcon":97606,"Ġcinemas":97607,"COORD":97608,"-China":97609,"Ġkhẩu":97610,"æĪijçļĦ":97611,"Ġskulls":97612,"Ġpainstaking":97613,"fce":97614,".XRLabel":97615,"Ġspecifier":97616,"Ġpreferring":97617,"/activity":97618,"(Photo":97619,"ált":97620,".lot":97621,"''.":97622,"annonce":97623,".googlecode":97624,"-pdf":97625,"ĠPoke":97626,"_ACL":97627,"Ġendowed":97628,"discover":97629,".omg":97630,"Ġwoodland":97631,".Magic":97632,"Ġvolont":97633,"NotAllowed":97634,"Ġchave":97635,"BMW":97636,"','=',":97637,"ĠSIX":97638,"æĪij们":97639,"Ġkosher":97640,"Ġaspiration":97641,"intl":97642,"_refptr":97643,"'+Ċ":97644,"mentor":97645,".club":97646,"WindowState":97647,".ARR":97648,"Ġzza":97649,"ĠmessageType":97650,".equ":97651,"Thor":97652,"Ġinjust":97653,"Ġgums":97654,"ĠborderSide":97655,"/////":97656,"ĠTransmit":97657,"Ġbufsize":97658,"Ġhak":97659,"Ġellas":97660,"RANDOM":97661,"ĉmc":97662,"Ġpea":97663,"eko":97664,"documento":97665,"Ġhysteria":97666,"Ġarenas":97667,"Ġgunmen":97668,"Ġmike":97669,"Ġimpunity":97670,"atisation":97671,"_Zero":97672,"_COMPANY":97673,"ĠGors":97674,"ĠuseClass":97675,"(redis":97676,"ĠRUNNING":97677,"ĠBair":97678,"velte":97679,"Ġ','.":97680,"аÑĤÑĮÑģÑı":97681,"öst":97682,"encodeURIComponent":97683,"_restrict":97684,"Ġdecals":97685,"ĠPedido":97686,"Ġaltercation":97687,"Displays":97688,"ĠApplicants":97689,"CUS":97690,"Textarea":97691,"ĠAngola":97692,".future":97693,"ĠUSHORT":97694,"Ġsuppressing":97695,"Ġsetzen":97696,"APolynomial":97697,"Ġtoch":97698,"Ġhallmark":97699,"Ġ$$$":97700,"ĠCHARSET":97701,".rpm":97702,"ĠDich":97703,"--------------------":97704,"_parm":97705,"è¿ĺ":97706,"acciones":97707,"hait":97708,"WARDED":97709,"_routing":97710,"ĠNOM":97711,"Ġenclave":97712,"ĠLotto":97713,"ĉfr":97714,"complexContent":97715,"ĠBallard":97716,"kube":97717,"/win":97718,".getColumnModel":97719,"_REPLACE":97720,"HeaderValue":97721,"Ġestudiantes":97722,"Ġapis":97723,"Ġbpm":97724,"ĠTypeName":97725,"AndGet":97726,"rita":97727,"Plans":97728,">Note":97729,"Ġfetisch":97730,"Ġtoned":97731,"_goto":97732,"onsense":97733,"Ġmolds":97734,"Ġinfiltration":97735,"ĠGuerrero":97736,"ubbo":97737,"cki":97738,"($(\".":97739,"_activities":97740,"(changes":97741,"ĠofApp":97742,"ĠKepler":97743,"ĠDemp":97744,"ĠContinent":97745,".Ticks":97746,"ĠUnsigned":97747,"ĠJahres":97748,"Ġfreshmen":97749,"ĠArchived":97750,"ĠкоÑĤоÑĢÑĭй":97751,"Ġ'::":97752,"Tutorial":97753,"Cc":97754,"ĠtableLayoutPanel":97755,"fromJson":97756,".levels":97757,"_transient":97758,"Ġendorsing":97759,"ĠDIC":97760,"lauf":97761,"Ġshred":97762,"_EMIT":97763,"ificantly":97764,"ALA":97765,"/proto":97766,"Ġnarrowing":97767,"Utc":97768,"Factors":97769,"Ġsentient":97770,"æŀIJ":97771,"lixir":97772,"ĠCROSS":97773,"meteor":97774,"Ġgroin":97775,"Ġmdb":97776,"ĠRotterdam":97777,"Ġcomida":97778,"ĠOpCode":97779,"ĠDefaultValue":97780,"PermissionsResult":97781,"Ġheterogeneous":97782,"Ġmoot":97783,"Ġdeceived":97784,"-independent":97785,"ĠObjectOutputStream":97786,"Ġoverpower":97787,".dup":97788,"Ġldb":97789,"Ġdomestically":97790,"Ġbestellen":97791,"Ġlov":97792,"ĠContractors":97793,"Triangles":97794,"Ġfodder":97795,"Ġfilmes":97796,"ä¼ģ":97797,"Ġrevolver":97798,"StartupScript":97799,"/validation":97800,"ĠResourceType":97801,"iÅŁ":97802,"ĠLaz":97803,"fef":97804,"Ġlstm":97805,"{*":97806,".attachment":97807,".hits":97808,"ewith":97809,"DOG":97810,"Alabama":97811,"Ġmediums":97812,".mContext":97813,"-cols":97814,"åıĭ":97815,".notice":97816,"Ġattn":97817,"ĠPacking":97818,"ĠLn":97819,"_COMPLEX":97820,"/Users":97821,".savetxt":97822,"ĠRounds":97823,"?,?,?,?,":97824,"Ġingl":97825,"ĠROC":97826,"_female":97827,"ĠStard":97828,"]];":97829,"Ġwrestlers":97830,"Ġtorrents":97831,"Ġsinh":97832,"ĊĊ":97833,"ë³µ":97834,"sense":97835,"however":97836,".Physics":97837,"Infrastructure":97838,"ĠSacr":97839,"Fel":97840,"ĠDISTRIBUT":97841,"éments":97842,"ĠValidates":97843,"############################################################":97844,"Ġ|/":97845,"Ġesl":97846,"Ġréseau":97847,"ĠBip":97848,"BYTES":97849,"_WATER":97850,"Turning":97851,"ELS":97852,"Ġjuxtap":97853,"Ġlesbische":97854,"ých":97855,"(Unknown":97856,"Neo":97857,"@JsonProperty":97858,"Ġalumnos":97859,"ĠRaqqa":97860,"imei":97861,".getBounds":97862,".MouseEventHandler":97863,"#######":97864,"GenericType":97865,"/cms":97866,"Ġturno":97867,"Ġмин":97868,"Ġfolklore":97869,"ĠEvo":97870,"Ġconductivity":97871,"Ġleben":97872,"Ġgearbox":97873,"-vs":97874,"ĠÏĨ":97875,"Ġdrinkers":97876,"Ġconexao":97877,"ĠTeeth":97878,"ĠgetArguments":97879,"ĠRAT":97880,"entious":97881,"Educ":97882,"+W":97883,"ĠInstitutional":97884,"ĠBord":97885,"isEqual":97886,"(pwd":97887,"Ġignited":97888,"ĠRousse":97889,"Ġimpactful":97890,"ĠMalk":97891,"Ġgeral":97892,"ĠPivot":97893,"Ġazt":97894,"Ġcsvfile":97895,"ĠRope":97896,"ĠSOLUTION":97897,"ĠArbitrary":97898,"Ġletto":97899,".MouseAdapter":97900,"Ġ}}}":97901,"ĠSailor":97902,"dera":97903,"Putting":97904,"Ġconcentrates":97905,"ĠauthDomain":97906,"âĢĿçļĦ":97907,"-finals":97908,",strlen":97909,"Muon":97910,"ĠOrdinary":97911,"firefox":97912,"ĠLaTeX":97913,"ĠHund":97914,"engineering":97915,"/blue":97916,"edTextBox":97917,"(\"\");":97918,"ĠCDDL":97919,"kept":97920,"ĠGetString":97921,"Kir":97922,"()='":97923,"ĠOCD":97924,"antium":97925,"$menu":97926,"ĠAppalachian":97927,"Secretary":97928,"ë¥ĺ":97929,"ีย":97930,"Semantic":97931,"Ġ*[":97932,"estone":97933,"ungkin":97934,"MaxY":97935,"-tone":97936,"\"};čĊ":97937,"_Part":97938,"ĊĊ":98140,"Lic":98141,"ĠMirage":98142,"ĠAssemblyFileVersion":98143,"TeV":98144,"ĠValueEventListener":98145,"-solving":98146,"Tho":98147,"roulette":98148,"_WP":98149,"Ġuninterrupted":98150,"ĠfieldType":98151,".Typed":98152,"Ġamour":98153,"Ġmockery":98154,"(vol":98155,"ĠSubcommittee":98156,"ĠRuf":98157,"erox":98158,":UIButtonTypeCustom":98159,"ĠBlur":98160,"Ġwykon":98161,"nces":98162,"ASHBOARD":98163,"!!\");Ċ":98164,"Ġmurderers":98165,".daily":98166,"ĠDIAG":98167,"jing":98168,"Ġdolphin":98169,"Ġlòng":98170,"Ġbö":98171,"ĠVocabulary":98172,".StObject":98173,"')\">":98174,"Ġzun":98175,"Ġscrimmage":98176,"tréal":98177,"ĠLig":98178,"[vi":98179,"Cole":98180,"Ġfrosting":98181,".Players":98182,"-translate":98183,"Feels":98184,"=\\\"/":98185,".ButterKnife":98186,"Ġ?>;Ċ":98187,"Ġavi":98188,"innie":98189,".Failure":98190,"Ġspindle":98191,"ConfigurationException":98192,"_hop":98193,"Ġposição":98194,"ĠAwait":98195,"UIImagePickerController":98196,"ĉday":98197,"Ġgenom":98198,"Cab":98199,"ĠÑĢезÑĥлÑĮÑĤаÑĤ":98200,"ORIGINAL":98201,"Ġejaculation":98202,"(tcp":98203,"SECOND":98204,"Ġtonic":98205,"ĠListBox":98206,"ĠĉĉĊ":98207,"()>Ċ":98208,"Ġquatre":98209,"ượng":98210,"withErrors":98211,".Maybe":98212,",â̦":98213,"tokenId":98214,"_UNDEF":98215,"Ġfreshness":98216,"ĠAmendments":98217,".mapbox":98218,".CV":98219,"(blog":98220,"_gettime":98221,".quest":98222,"sparse":98223,"Ġresale":98224,"Ġenthusiastically":98225,"ĠProstitutas":98226,"Wa":98227,"Cargo":98228,".Parcelable":98229,"SENSOR":98230,"ĠRyu":98231,"Laughs":98232,"_Native":98233,"/pg":98234,"ysts":98235,"Ġphotoc":98236,"ç®Ģ":98237,"adopt":98238,".species":98239,"conciliation":98240,"Adjusted":98241,".FirebaseAuth":98242,"uttle":98243,"ordination":98244,"Ġmunch":98245,"ĠStake":98246,".ping":98247,"anker":98248,"(QStringLiteral":98249,"Ġsubscript":98250,"ĠĠĉĊ":98251,"ĠMCC":98252,"_Cmd":98253,"sexy":98254,"iou":98255,"ĠMANY":98256,"Ġnanny":98257,"TRAIN":98258,"Ġflourishing":98259,"ĠWatches":98260,"ĠQMap":98261,"ĠFerm":98262,"Ġwasm":98263,"ĠAbed":98264,"_UD":98265,"ĠGlasses":98266,"+v":98267,"Attend":98268,".Chain":98269,"Ġdecency":98270,"ĠSupplementary":98271,"hunter":98272,"-txt":98273,"Ġ\"}\";Ċ":98274,".setWindowTitle":98275,"(\"":98377,"Ġmascara":98378,"(Profile":98379,"åĬŁèĥ½":98380,"imité":98381,"Ġwildfires":98382,"-ROM":98383,".isOn":98384,"(groupId":98385,"Repair":98386,"accumulate":98387,"Ġ<\",":98388,"Ġhandwritten":98389,"Ġacheter":98390,"ĠMGM":98391,"ĠIrma":98392,"->{_":98393,"gee":98394,"criminal":98395,"Ġèĭ¥è¦ģ":98396,"Ġmomentarily":98397,"\")!=":98398,"_lit":98399,"ĠexpiresIn":98400,".\").":98401,"éķ¿åº¦":98402,"Ġfrække":98403,"vlc":98404,"Ġorbs":98405,"),$":98406,"Ġventured":98407,"/>\\":98408,"charm":98409,"Nuitka":98410,"eldig":98411,"atonin":98412,"Witness":98413,"-lat":98414,"ĠsetHidden":98415,"Ġrelics":98416,"Ġconsulate":98417,".IGNORE":98418,"\"After":98419,"ĠsetAddress":98420,"Ġbesteht":98421,"Ġ'')ĊĊ":98422,".xaxis":98423,"Ġserão":98424,"Ġmisled":98425,"_UNIFORM":98426,"ĠVIA":98427,"incr":98428,"Ġzenith":98429,"Ġviscosity":98430,"Ġthinly":98431,".getSharedPreferences":98432,".ErrorCode":98433,"\"),\"":98434,"ĠMillionen":98435,"Ġ/>)Ċ":98436,"ScrollIndicator":98437,"-seeking":98438,"ĠPOLITICO":98439,"asca":98440,"_rl":98441,"Navig":98442,"(fullfile":98443,"Ġsolitude":98444,"Ġjuven":98445,"Ġhauling":98446,"ĠMacros":98447,"ĠGry":98448,"Ġexercitation":98449,"ĠATTACK":98450,"TickCount":98451,"Ġrites":98452,"Ġdoe":98453,"ParticleSystem":98454,"Ġslu":98455,"WindowText":98456,"ĠClassName":98457,"Ġslander":98458,"ĉPort":98459,"jong":98460,"?a":98461,".Dial":98462,"âĢĶat":98463,"$objPHPExcel":98464,"Ġsoar":98465,"ENN":98466,"appeared":98467,"Ġquotid":98468,"emachine":98469,"Ġnip":98470,"Ġmicrotime":98471,"ĠAlma":98472,";!":98473,"------------------------------------------------------------------------------------------------":98474,"ĠPassage":98475,"Ġdumpsters":98476,"ĠExclude":98477,"Ġsuggestive":98478,"ĠCircularProgressIndicator":98479,"_clr":98480,"ArrayType":98481,"ILLA":98482,"ElapsedTime":98483,"Driven":98484,"ĠresourceName":98485,"ĠGarrison":98486,"serir":98487,"-ahead":98488,"Ġpinnacle":98489,"ĠEspresso":98490,"Sparse":98491,"Ġassays":98492,"ĠGirlfriend":98493,"imid":98494,"]='\\":98495,"ONGLONG":98496,"Ġportraying":98497,"Lane":98498,"Ġbúsqueda":98499,"Ġreinforcements":98500,"ĠSpreadsheet":98501,"ĠArrayCollection":98502,",arr":98503,"lightbox":98504,"icana":98505,"<\"":98506,"builders":98507,"Kid":98508,"ĠMatSnackBar":98509,"EXPR":98510,"odcast":98511,"ĠFoundations":98512,"Ġinds":98513,"='${":98514,"Fizz":98515,"-functional":98516,"(workspace":98517,"Ġstemmed":98518,"_patches":98519,"ĠJarvis":98520,"READING":98521,"Ġdisrespectful":98522,"ĠQDom":98523,"Ġ${Ċ":98524,"estatus":98525,"Reached":98526,"!.ĊĊ":98527,"ILT":98528,"ĠNDEBUG":98529,"ĠCourage":98530,"birthdate":98531,"ĠTing":98532,"Ġutilizado":98533,"ánchez":98534,"Outdoor":98535,"Ġhandguns":98536,"RefCount":98537,"ÉĻ":98538,"romo":98539,"Ġtts":98540,".She":98541,"ĠPane":98542,"ãĢij,ãĢIJ":98543,"ĠIOCTL":98544,"/black":98545,"inscription":98546,"Ġbiopsy":98547,"ĠTimeInterval":98548,".TestCheck":98549,"ĠGUIStyle":98550,"ĠCapability":98551,"ĠBeitrag":98552,"donnees":98553,"Treatment":98554,".backup":98555,"Ġsignings":98556,"ĠBoca":98557,"drm":98558,".MAIN":98559,"Ġgoede":98560,"ĠMarkup":98561,"GREE":98562,"ĠBaseService":98563,".Creator":98564,"Ġjails":98565,"ĠKahn":98566,"IpAddress":98567,"ACHI":98568,"Ġinhibited":98569,"Ġ@$_":98570,"ĠAssass":98571,"Ġenviado":98572,"Heroes":98573,"ÐŁÐµÑĢ":98574,"ĠMaven":98575,".ls":98576,"Ġive":98577,"|RF":98578,"ĠresizeMode":98579,"Ġrumpe":98580,"_attachments":98581,"TU":98582,"Ġtactile":98583,"Attempting":98584,"Ġrobin":98585,"yaw":98586,"Ġmercenaries":98587,"ĠHabitat":98588,"enddate":98589,"Ġoxy":98590,"ĉRandom":98591,"ohon":98592,"IsNull":98593,"ĠValidationResult":98594,"ãĥļ":98595,"umbed":98596,"ppv":98597,"Ġarp":98598,"ichick":98599,"_rnn":98600,"ĠTFT":98601,"TexImage":98602,"\"On":98603,"ĠSampler":98604,"topl":98605,"Ġjane":98606,"yling":98607,"ĠUNICODE":98608,"TabIndex":98609,"<{Ċ":98610,"suspend":98611,"uvian":98612,",application":98613,"олиÑĩеÑģÑĤво":98614,"yat":98615,"ezier":98616,"ĠCHUNK":98617,"ĠAdler":98618,"/Add":98619,"ĠKeyValue":98620,"Ġsposób":98621,"Sampling":98622,"chers":98623,"_AMD":98624,"Ru":98625,".MustCompile":98626,"Nation":98627,"Assoc":98628,"Managing":98629,"ĠEngl":98630,"_GB":98631,"Ġsuccinct":98632,"Ġdisliked":98633,"ĠIke":98634,"Bulletin":98635,"_ARCHIVE":98636,"Proposal":98637,"Ġjogging":98638,".CREATED":98639,"Ġchol":98640,"è£ħ":98641,"Į¨":98642,"-push":98643,"Ġreserva":98644,"corev":98645,"ètre":98646,"THR":98647,"Ġincompetence":98648,"Ġcharisma":98649,"æĦŁ":98650,"Ġ\"==":98651,"BTN":98652,"ĠLocator":98653,"ivet":98654,"('.')Ċ":98655,"ĠforIndexPath":98656,"ôme":98657,"Ġcapacit":98658,"waters":98659,"ĠWRONG":98660,"hoa":98661,"ĠMIPS":98662,"Ġemiss":98663,"ĠJacqueline":98664,"(cmp":98665,"Ġeens":98666,"Leo":98667,".timing":98668,"CLUSION":98669,"Ġ(\"-":98670,"åĵĪ":98671,".kode":98672,"ĠUndert":98673,"Ġbewild":98674,"ĠEssen":98675,".hd":98676,"Ġrenegot":98677,"Ġmower":98678,"Ġlsp":98679,"Ġpenchant":98680,"Ġmanoe":98681,"Ġagli":98682,"Ġrecal":98683,"ĠOPERATION":98684,"(^)(":98685,"Ġν":98686,"ĠScoped":98687,"Ġ@\"Ċ":98688,"=label":98689,"[loc":98690,"Intl":98691,"ĠNz":98692,"tablet":98693,".ColumnName":98694,"ĠscreenSize":98695,"DBus":98696,"cooked":98697,"-registration":98698,"âĢľOne":98699,"-non":98700,"ĠwiÄĻc":98701,"Ġcosta":98702,".addTab":98703,".conditions":98704,"ĠHess":98705,"MEMORY":98706,"ĠAvalanche":98707,"()}}Ċ":98708,"Ġtriplet":98709,"Ġlabyrinth":98710,"ĠNodeList":98711,"ĠNYT":98712,"Ġyeni":98713,"dff":98714,".HtmlControls":98715,"AVIS":98716,"/Math":98717,"Ġmemcmp":98718,"اء":98719,"оÑģÑĮ":98720,"crap":98721,"(pages":98722,"Ġlxml":98723,"ĠQDateTime":98724,"_tcb":98725,"Ġopenid":98726,"Ġsynaptic":98727,"ĠMDMA":98728,"(slug":98729,"igmatic":98730,"enor":98731,"Ġcramped":98732,"GOP":98733,"ŃIJ":98734,".isFile":98735,"ĠDifferential":98736,"Ġ=\"\";Ċ":98737,"ĉĉĉĠĠĠĠĉ":98738,"ĠCooke":98739,"ĉUFUNCTION":98740,"Ġperseverance":98741,"RelativeLayout":98742,"IMPORTANT":98743,"Ġexon":98744,"Ġон":98745,"ibase":98746,"(CONT":98747,"novation":98748,"ä½ķ":98749,"[sub":98750,"AdminController":98751,"HTTPHeader":98752,"crear":98753,"ĠNIR":98754,"ĠDropDownList":98755,"Ġvalide":98756,"Ġdehydration":98757,".']":98758,"(WIN":98759,"Ġ...\\":98760,"Ġphotoshop":98761,"ĉInit":98762,"_cou":98763,"ĠtimeZone":98764,"darwin":98765,"romatic":98766,"NavigationItemSelectedListener":98767,"brates":98768,"]--;Ċ":98769,"Ġtragedies":98770,"ĠPediatrics":98771,"SMART":98772,"-API":98773,"ĠMessageLookup":98774,"ĉvo":98775,"Ġprejudices":98776,"ĠmA":98777,"Ups":98778,"ĠMISSING":98779,"ĉad":98780,"Cream":98781,"ĠTb":98782,"ĠMona":98783,"_ghost":98784,"ĉtypes":98785,"Emb":98786,"ĠDocumentary":98787,"');ĊĊĊĊ":98788,"Ġlup":98789,"_Reference":98790,"ĠBATCH":98791,"Ġintertwined":98792,"":98915,"Ġfoyer":98916,"'utilisation":98917,"ĠMüller":98918,"ĠFetish":98919,"ĠdefaultManager":98920,"Ġbacktrack":98921,"Bah":98922,"Explicit":98923,"_ASCII":98924,"ĠmActivity":98925,"(Msg":98926,"Ġê²Į":98927,"ĠTERMS":98928,"ĠAngie":98929,"HSV":98930,"ĠMosque":98931,".Names":98932,"íĬ¼":98933,"reste":98934,"_parms":98935,"Ġgaping":98936,"Ġcropping":98937,"DataFrame":98938,"Ġresponsiveness":98939,"_undo":98940,"_tran":98941,".terminate":98942,"Ġitaliane":98943,"Ġwalkthrough":98944,"Ġattractiveness":98945,"де":98946,"_STS":98947,"_learn":98948,"Ġchocolates":98949,"ierarchical":98950,"-thinking":98951,"Ġ)))":98952,"ishments":98953,".Logf":98954,"ĠTMZ":98955,"ĠCanary":98956,"foil":98957,"ĠVaccine":98958,".vx":98959,"ĠSurround":98960,"Intermediate":98961,"Ġiov":98962,"vais":98963,"';\";Ċ":98964,"ï½ŀĊĊ":98965,"éĢģæĸĻ":98966,"â̦it":98967,"Seats":98968,"Clar":98969,"Wars":98970,"ĠHutchinson":98971,"ĠHasan":98972,"!')ĊĊ":98973,"ĠRichie":98974,"cheiden":98975,"($('":98976,"York":98977,"Ġlids":98978,"Ġalphanumeric":98979,"ĠGlock":98980,".shapes":98981,"Ġsparking":98982,"_epsilon":98983,"uplicated":98984,".dirty":98985,"])==":98986,"ĠìľĦì¹ĺ":98987,"Ġscn":98988,"Ġ/****************************************************************":98989,"_PREVIEW":98990,"_HC":98991,"ielding":98992,"fgets":98993,"ĠAddison":98994,"ĠproductService":98995,"-figure":98996,"(retval":98997,"zano":98998,"Ġautob":98999,"ĉsd":99000,"_numer":99001,"ĠSetLastError":99002,"ĠFior":99003,"ificance":99004,"Untitled":99005,"Ġinfield":99006,"Ġ{}));Ċ":99007,"Ġspac":99008,"Ġrookies":99009,"(describing":99010,"ngen":99011,"ிà®":99012,".rdf":99013,".Mutex":99014,"Ġkneeling":99015,"ĠQE":99016,"setMax":99017,"ReadStream":99018,"Ġventas":99019,"sut":99020,"cmpeq":99021,".WriteAllText":99022,"ĠExperienced":99023,"$__":99024,"Ġkaum":99025,"ĠLIS":99026,"Ġdocumentos":99027,"_HEALTH":99028,"icontains":99029,"Ġartisans":99030,"OWNER":99031,"Ġblinked":99032,"getDisplay":99033,"Ġtoen":99034,"ĠrowNum":99035,"Ġavril":99036,"Ġinvis":99037,"ĠKear":99038,"toBeInTheDocument":99039,"apur":99040,"Ġracked":99041,"ĠMcMaster":99042,"_ATTRIB":99043,"Haz":99044,"Ġfactura":99045,"/ts":99046,"ĠÑĢазмеÑĢ":99047,"Ġzf":99048,"Ġshortfall":99049,".fasta":99050,"ĠCONSTANT":99051,".managed":99052,"gems":99053,"SharedPointer":99054,"Ġblurry":99055,"brightness":99056,"(components":99057,"Ġ...\"ĊĊ":99058,"SELL":99059,"ĠIllustrator":99060,".getChannel":99061,"Ġtrouvé":99062,"ysters":99063,"Ġvois":99064,"ĠLinden":99065,"Ġemojis":99066,"Ġbrawl":99067,"ĠMSR":99068,"ĠElo":99069,"ĠCroatian":99070,"PopupMenu":99071,"Lewis":99072,".JWT":99073,"Ġastonished":99074,"Bush":99075,"(itemId":99076,"Ġdetachment":99077,"ĠEncore":99078,"å°Ķ":99079,"Ġrekl":99080,"Ġcram":99081,")$/":99082,".getHost":99083,"_recommend":99084,"-HT":99085,"_calibration":99086,"Authenticate":99087,".firebaseapp":99088,"UNIX":99089,"ĉCamera":99090,"ĠHEAP":99091,"Ideal":99092,".office":99093,"Ġgoofy":99094,"(Symbol":99095,"Ġjouer":99096,"_partitions":99097,"Ġrapidement":99098,"ĠGNUNET":99099,"idUser":99100,"Ġsupervise":99101,"(Contact":99102,"AWN":99103,"ãģĺ":99104,"Ġnaam":99105,"Ġaust":99106,"åľ¨çº¿":99107,"_softmax":99108,"AllowAnonymous":99109,"ammable":99110,"ROUTE":99111,"*D":99112,"Ġaden":99113,"ĠCristina":99114,"ĠCristiano":99115,"Ġbloodstream":99116,"subclass":99117,"_persona":99118,"CHILD":99119,"-know":99120,"ĠnavigationOptions":99121,"ĠZukunft":99122,"ĠPixar":99123,"Tyler":99124,"Ġunderworld":99125,"Ġsincerity":99126,"Ġdispenser":99127,"Ġkter":99128,"idders":99129,".addNode":99130,"-checked":99131,"Ġkeyst":99132,"ĠWTO":99133,".signals":99134,"Ġadventurer":99135,"ĠPang":99136,"\\R":99137,"=pos":99138,"Ġdispensaries":99139,"ĠCloset":99140,"(\"{\\\"":99141,"ideon":99142,"Ġnécessaire":99143,"()\"Ċ":99144,"_RECEIVED":99145,"Ġrésultats":99146,"Ġmoden":99147,"ĠIcelandic":99148,";d":99149,".allowed":99150,"(newUser":99151,"Ġmerciless":99152,".WaitFor":99153,"Ġdaycare":99154,"ĠConveyor":99155,"çĸ":99156,"ð¬":99157,"çĥ":99158,"çĹ":99159,"çł":99160,"èĦ":99161,"é²":99162,"å¦":99163,"çĿĢ":99164,"å¾Ī":99165,"éħ":99166,"çĭ":99167,"éª":99168,"æĤ":99169,"é¥":99170,"èħ":99171,"æĥ³":99172,"å¨":99173,"é¹":99174,"çĤ":99175,"åĴ":99176,"çĮ":99177,"è´¨":99178,"æ¢":99179,"æ°Ķ":99180,"ð«":99181,"æķĻ":99182,"çŁ":99183,"åĦ":99184,"åıijå±ķ":99185,"åĪĽ":99186,"èij":99187,"æħ":99188,"åŀ":99189,"åģļ":99190,"æĪĺ":99191,"æIJ":99192,"强":99193,"æ·±":99194,"åĩł":99195,"ç¿":99196,"å©":99197,"èŀ":99198,"å§Ķ":99199,"åIJĦ":99200,"èİ":99201,"é¸":99202,"éº":99203,"åıĹ":99204,"èģĮ":99205,"åĺ":99206,"æ½":99207,"é£İ":99208,"èIJ¥":99209,"åħļ":99210,"èľ":99211,"éĤ£":99212,"é¢Ĩ":99213,"çij":99214,"é³":99215,"æľ¯":99216,"ä»Ģ":99217,"æĪ¿":99218,"ç²¾":99219,"åª":99220,"éĨ":99221,"太":99222,"èĤ¡":99223,"èĽ":99224,"åħī":99225,"æŀģ":99226,"åĬŀ":99227,"èĵ":99228,"çĺ":99229,"å´":99230,"åĹ":99231,"èĬ±":99232,"çłĶ":99233,"å¿«":99234,"å¸Ī":99235,"è¶Ĭ":99236,"è§Ĥ":99237,"æ¤":99238,"æ¦":99239,"çŀ":99240,"èĤ²":99241,"çα":99242,"çϽ":99243,"ä¸ĸ":99244,"ä»Ģä¹Ī":99245,"çľ¼":99246,"å³":99247,"èĴ":99248,"æĵ":99249,"被":99250,"å¹²":99251,"çĹħ":99252,"士":99253,"çĴ":99254,"è¸":99255,"æ¾":99256,"å·¥ä½ľ":99257,"让":99258,"çĥŃ":99259,"è¾ĥ":99260,"åĦ¿":99261,"åĬ©":99262,"积":99263,"ç³":99264,"çĵ":99265,"ç£":99266,"åĤ":99267,"è¹":99268,"èļ":99269,"å·±":99270,"çϾ":99271,"åĬ¿":99272,"èµĽ":99273,"æ¨":99274,"æ¿":99275,"èĸ":99276,"æĿij":99277,"带":99278,"å¢ĥ":99279,"æĬ¤":99280,"éŃ":99281,"å«":99282,"èĩªå·±":99283,"æµİ":99284,"ä½İ":99285,"åĮ»":99286,"éĺ²":99287,"åĨľ":99288,"èĨ":99289,"çĨ":99290,"é«":99291,"åĨĽ":99292,"æĪı":99293,"åįĩ":99294,"æĸ¯":99295,"ä½ı":99296,"èIJ½":99297,"åħ»":99298,"èĩ´":99299,"çĬ":99300,"çĩ":99301,"çħ":99302,"èĶ":99303,"ä¼ģä¸ļ":99304,"åĽ¢":99305,"æīį":99306,"æł¡":99307,"åĩĨ":99308,"å¥ĩ":99309,"åī¯":99310,"é¼":99311,"æ¼Ķ":99312,"马":99313,"èµ°":99314,"ç¥ŀ":99315,"åħĭ":99316,"æľĽ":99317,"æ²¹":99318,"è¾¹":99319,"åįĥ":99320,"å¾Ģ":99321,"åĪĩ":99322,"æ©":99323,"ç¶":99324,"åĻ":99325,"éĻħ":99326,"çīĮ":99327,"社ä¼ļ":99328,"游æĪı":99329,"æĸ½":99330,"çħ§":99331,"æİ§":99332,"满":99333,"è¯Ĩ":99334,"éĩįè¦ģ":99335,"è¶³":99336,"çķĻ":99337,"ç»Ĩ":99338,"åįı":99339,"éĢĤ":99340,"æĩ":99341,"æ§":99342,"éĦ":99343,"èĿ":99344,"å¸Ĥåľº":99345,"ç»ıæµİ":99346,"ä¹ł":99347,"æĸĩåĮĸ":99348,"éļ¾":99349,"ä¹IJ":99350,"åĨ³":99351,"欢":99352,"è§ī":99353,"åĽŃ":99354,"åħ´":99355,"åħħ":99356,"举":99357,"æī¹":99358,"èķ":99359,"æĬĬ":99360,"æĬĢæľ¯":99361,"ç©¶":99362,"第ä¸Ģ":99363,"便":99364,"åĵį":99365,"çİ©":99366,"åĿļ":99367,"èŀį":99368,"åįĬ":99369,"åĸľ":99370,"å±Ĥ":99371,"离":99372,"ä»ħ":99373,"éŁ":99374,"åij³":99375,"念":99376,"åŃ£":99377,"ç´§":99378,"ä¹ħ":99379,"é¤":99380,"éŀ":99381,"è¤":99382,"åĢĻ":99383,"åĨµ":99384,"çŁ³":99385,"åģ¥":99386,"æĢİ":99387,"å®Ŀ":99388,"è¡Ģ":99389,"åŁŁ":99390,"æĹ©":99391,"çŁ¥éģĵ":99392,"è´Ł":99393,"åįļ":99394,"å·´":99395,"亲":99396,"å±ŀ":99397,"严":99398,"äºī":99399,"å¯Ł":99400,"èº":99401,"ç°":99402,"建设":99403,"产ä¸ļ":99404,"åIJĥ":99405,"åŃ©":99406,"æĹħ":99407,"æł¹":99408,"æĿIJ":99409,"ä¼Ĺ":99410,"éļı":99411,"å®ĺ":99412,"åºķ":99413,"彩":99414,"å¯Į":99415,"温":99416,"åį«":99417,"åī§":99418,"çĽĬ":99419,"æĬĹ":99420,"è´¢":99421,"纪":99422,"æĨ":99423,"çĶŁæ´»":99424,"红":99425,"çĶŁäº§":99426,"è¿ľ":99427,"éĴ±":99428,"åĶ®":99429,"群":99430,"çıŃ":99431,"楼":99432,"éĩĩ":99433,"èīº":99434,"å±ħ":99435,"åģĩ":99436,"è°Ī":99437,"æĻļ":99438,"é¬":99439,"èĪª":99440,"害":99441,"èĹ":99442,"çį":99443,"åµ":99444,"çİĭ":99445,"康":99446,"èİ·":99447,"ç»Ń":99448,"äºļ":99449,"é£Ł":99450,"åİĭ":99451,"æĭĽ":99452,"èĮĥ":99453,"许":99454,"åĽ´":99455,"é½":99456,"éĻį":99457,"纳":99458,"åĵª":99459,"æķĻèĤ²":99460,"å·²ç»ı":99461,"å¾·":99462,"æŀĹ":99463,"å®īåħ¨":99464,"é¾Ļ":99465,"大家":99466,"éĿĴ":99467,"åºľ":99468,"æ²³":99469,"åı¤":99470,"èį¯":99471,"åĿĩ":99472,"æĻº":99473,"乡":99474,"çķ¥":99475,"åĨ·":99476,"ç¦ı":99477,"室":99478,"ç»´":99479,"æī¿":99480,"å±Ĭ":99481,"è¯ī":99482,"åĪ»":99483,"èŁ":99484,"æª":99485,"å°±æĺ¯":99486,"è¿Ļ个":99487,"ä¸Ńå¿ĥ":99488,"ä¸ĸçķĮ":99489,"åŁİå¸Ĥ":99490,"éĿŀ常":99491,"åĪĴ":99492,"åıĮ":99493,"æĢİä¹Ī":99494,"åΰäºĨ":99495,"æľĥ":99496,"åı²":99497,"ä¾Ĩ":99498,"å¾ĭ":99499,"å¥ĸ":99500,"ç»Ī":99501,"åªĴ":99502,"å®ģ":99503,"课":99504,"èģĮä¸ļ":99505,"åħį":99506,"æµĭ":99507,"æĢ¥":99508,"æķij":99509,"çĭ¬":99510,"èѦ":99511,"é¤IJ":99512,"æĦ¿":99513,"è´«":99514,"çĸij":99515,"åļ":99516,"她":99517,"åıĪ":99518,"åĽłä¸º":99519,"ä¸įæĺ¯":99520,"å¤Ł":99521,"æĸ¹éĿ¢":99522,"éķĩ":99523,"äºĴ":99524,"éħĴ":99525,"讲":99526,"çĸĹ":99527,"æĺ¥":99528,"æ¹ĸ":99529,"å¤ľ":99530,"责任":99531,"人æ°ij":99532,"åħ°":99533,"çŁŃ":99534,"æķħ":99535,"åĩı":99536,"æĻ®":99537,"亮":99538,"ä¾Ŀ":99539,"åį°":99540,"éĿĻ":99541,"åĢĭ":99542,"å¾ģ":99543,"åIJ¸":99544,"缺":99545,"æĶ»":99546,"åĩĢ":99547,"åħ¸":99548,"åĽº":99549,"访":99550,"ç¹":99551,"çĢ":99552,"æıIJä¾Ľ":99553,"ç»ĩ":99554,"å¾Īå¤ļ":99555,"çłĶç©¶":99556,"è·Ł":99557,"主è¦ģ":99558,"æĥħåĨµ":99559,"çŃĸ":99560,"æŃ»":99561,"大åѦ":99562,"æĶ¿åºľ":99563,"å½±åĵį":99564,"ä¹°":99565,"åħŃ":99566,"éĻ©":99567,"åħ«":99568,"æŁIJ":99569,"è´¨éĩı":99570,"åįł":99571,"å·®":99572,"æĽ´å¤ļ":99573,"æľĭ":99574,"éĿ©":99575,"宣":99576,"çł´":99577,"è½»":99578,"座":99579,"æĺ¾":99580,"稳":99581,"è´µ":99582,"èĥĮ":99583,"èī¯":99584,"çĸ«":99585,"æ¯Ĵ":99586,"ä¹İ":99587,"åĢŁ":99588,"è¿·":99589,"çŃĶ":99590,"æ¿Ģ":99591,"åij¼":99592,"äºĨä¸Ģ":99593,"è¶£":99594,"ä¼´":99595,"ä¼Ļ":99596,"è¼":99597,"ð¬Ń":99598,"åĽ½å®¶":99599,"æ´»åĬ¨":99600,"çİ°åľ¨":99601,"ç§ijæĬĢ":99602,"åį¡":99603,"ä¸įåIJĮ":99604,"个人":99605,"è®°èĢħ":99606,"ä¸įæĸŃ":99607,"éĹ»":99608,"ä¹Ŀ":99609,"èijĹ":99610,"综":99611,"ä¸ĥ":99612,"æłij":99613,"æľĭåıĭ":99614,"åįĸ":99615,"伤":99616,"æ²Ļ":99617,"åĸĦ":99618,"å¥Ĺ":99619,"è½®":99620,"ç©¿":99621,"è¡¥":99622,"ä¸Ģå®ļ":99623,"çªģ":99624,"çĿ£":99625,"追":99626,"å¨ģ":99627,"åı¦":99628,"åĽ°":99629,"æŀ¶":99630,"ç»Ŀ":99631,"æķ£":99632,"æİ¢":99633,"æ´Ĺ":99634,"临":99635,"ä¼¼":99636,"è´¸":99637,"丰":99638,"æĺ¯ä¸Ģ":99639,"ç«ŀ":99640,"è¿İ":99641,"èģļ":99642,"è«":99643,"æįŁ":99644,"æī§":99645,"驾":99646,"è¿Ŀ":99647,"è¥":99648,"èł":99649,"ä»ĸ们":99650,"æĹ¶åĢĻ":99651,"å®ĥ":99652,"人åijĺ":99653,"è¿Ļæł·":99654,"å·¥ç¨ĭ":99655,"åĪĽæĸ°":99656,"åŃ©åŃIJ":99657,"å¸Į":99658,"éĥ¨åĪĨ":99659,"éĵ¶":99660,"代表":99661,"é¦Ļ":99662,"帮":99663,"æİ¨è¿Ľ":99664,"çĽĺ":99665,"积æŀģ":99666,"éĥ¨éŨ":99667,"åŁ¹":99668,"æŃ¦":99669,"ä¸įä¼ļ":99670,"çŃij":99671,"éĢĻ":99672,"çݩ家":99673,"æĭ¿":99674,"åİĤ":99675,"æ¯Ľ":99676,"çģµ":99677,"æŃĮ":99678,"绿":99679,"å¦Ī":99680,"缼":99681,"é¦Ĩ":99682,"顺":99683,"èĦ¸":99684,"å°¼":99685,"丽":99686,"奥":99687,"éģĩ":99688,"è¯į":99689,"å°ģ":99690,"ä¸Ŀ":99691,"好çļĦ":99692,"æĭħ":99693,"èĦ±":99694,"æģ¶":99695,"åİļ":99696,"åĬ³":99697,"缣":99698,"æĬĺ":99699,"åı¥":99700,"æĢĢ":99701,"æŁĵ":99702,"书记":99703,"åĨł":99704,"é²ľ":99705,"æ¦Ĥ":99706,"éļIJ":99707,"å¹ħ":99708,"èµŀ":99709,"å¹ķ":99710,"æ¥Ń":99711,"éģĹ":99712,"åΤ":99713,"èĺ":99714,"å¶":99715,"æĬķèµĦ":99716,"è¡Įä¸ļ":99717,"äºij":99718,"çݯå¢ĥ":99719,"åѦçĶŁ":99720,"åIJĪä½ľ":99721,"åģ¥åº·":99722,"é£ŀ":99723,"ä¸ĢæŃ¥":99724,"ä¸Ģ缴":99725,"åıijçĶŁ":99726,"éĺ¿":99727,"é¢Ĩ导":99728,"åĸľæ¬¢":99729,"åºĶ该":99730,"çĤº":99731,"è®Ń":99732,"æĿĢ":99733,"港":99734,"交éĢļ":99735,"éĺ¶":99736,"éĴ¢":99737,"令":99738,"å°½":99739,"æ¯į":99740,"è¡£":99741,"ç²ī":99742,"é¡¶":99743,"ä¹Łä¸į":99744,"æĬĵ":99745,"èĭ¦":99746,"幸":99747,"礼":99748,"第ä¸ī":99749,"大çļĦ":99750,"éģİ":99751,"çĥŁ":99752,"éģ¿":99753,"ä»į":99754,"åºĨ":99755,"æĢķ":99756,"è°¢":99757,"çĽĸ":99758,"å°Ħ":99759,"éľ²":99760,"æĸĹ":99761,"çĬ¶":99762,"åѸ":99763,"æ¯ķ":99764,"å·¨":99765,"çŁ¿":99766,"çļĩ":99767,"å¸Ń":99768,"çĹĩ":99769,"æī¬":99770,"å»¶":99771,"ä¾§":99772,"æ·¡":99773,"çļĦä¸Ģ":99774,"ç¶²":99775,"æ´ģ":99776,"ç¸":99777,"è§Ī":99778,"çѹ":99779,"ç§ĺ":99780,"è¯Ĭ":99781,"çı¾":99782,"èªī":99783,"毫":99784,"ð¨":99785,"åį´":99786,"æĪIJ为":99787,"èĥ½åĬĽ":99788,"é»Ħ":99789,"æĹħ游":99790,"èά":99791,"æ¯Ķè¾ĥ":99792,"èµ·æĿ¥":99793,"äºĨè§£":99794,"èĩªçĦ¶":99795,"ä¸Ģ次":99796,"åŁºæľ¬":99797,"æĽ¾":99798,"综åIJĪ":99799,"èıľ":99800,"è§īå¾Ĺ":99801,"第äºĮ":99802,"è·ij":99803,"æ³¢":99804,"åĢĴ":99805,"ç¡Ģ":99806,"åħµ":99807,"èįī":99808,"çͳ":99809,"çͰ":99810,"æĤ£":99811,"è§Ħå®ļ":99812,"èĥľ":99813,"èµĦ产":99814,"梦":99815,"æľĿ":99816,"è¿ĻéĩĮ":99817,"夫":99818,"æĮ¥":99819,"ä½Ľ":99820,"å®Ī":99821,"鼶":99822,"æĸ¼":99823,"ç¯ĩ":99824,"å²Ľ":99825,"åĵ¥":99826,"éŃĶ":99827,"ä¸įåΰ":99828,"æīĺ":99829,"åºĬ":99830,"欧":99831,"èį£":99832,"æ±ĩ":99833,"æī©":99834,"åģı":99835,"å¢Ļ":99836,"讯":99837,"å©ļ":99838,"æĥł":99839,"æ´ĭ":99840,"å®ľ":99841,"润":99842,"æħ¢":99843,"éĢı":99844,"宽":99845,"顾":99846,"ç´¯":99847,"污":99848,"çĪĨ":99849,"ç§Ł":99850,"æĥĬ":99851,"涨":99852,"饰":99853,"éĺµ":99854,"饮":99855,"æļĸ":99856,"åºŁ":99857,"æĹĹ":99858,"éļĶ":99859,"ç¶ĵ":99860,"åĭĻ":99861,"實":99862,"éĢĶ":99863,"æī«":99864,"çĥĪ":99865,"鼻":99866,"åĪij":99867,"éĹľ":99868,"éĹª":99869,"å¥ĭ":99870,"åĤ¨":99871,"缩":99872,"ä¾µ":99873,"å¬":99874,"ð¬¶":99875,"åĽ½éĻħ":99876,"ç»Ħç»ĩ":99877,"ä¸ĵä¸ļ":99878,"åıijçݰ":99879,"å¸ĮæľĽ":99880,"ç»ıèIJ¥":99881,"åı«":99882,"æĿ¥è¯´":99883,"éļľ":99884,"ä»»ä½ķ":99885,"交æĺĵ":99886,"éĩįçĤ¹":99887,"çļ®":99888,"ç»į":99889,"æ´¾":99890,"ç§ijåѦ":99891,"åºĶç͍":99892,"建çŃij":99893,"èĤī":99894,"æĶ¹éĿ©":99895,"åŁºç¡Ģ":99896,"æ±ī":99897,"åĩºæĿ¥":99898,"è¿Ļä¹Ī":99899,"åĪļ":99900,"åĿIJ":99901,"ä¸įä»ħ":99902,"ä¼ļè®®":99903,"éĿł":99904,"åªĴä½ĵ":99905,"æ°¸":99906,"åĨ²":99907,"èĭı":99908,"央":99909,"çζ":99910,"åłĤ":99911,"å®ŀéĻħ":99912,"è¡Ĺ":99913,"ç«¥":99914,"éĺħ":99915,"äºĭæĥħ":99916,"åİŁåĽł":99917,"éħ¸":99918,"以æĿ¥":99919,"娱":99920,"宫":99921,"åĿĹ":99922,"绩":99923,"éĩİ":99924,"ä¸įå¾Ĺ":99925,"ä¼łå¥ĩ":99926,"硬":99927,"åİħ":99928,"æĹ¢":99929,"ç»ĥ":99930,"èĦij":99931,"å¼±":99932,"æİĮ":99933,"è´´":99934,"æĮĤ":99935,"åħ³éĶ®":99936,"å°ļ":99937,"é¥Ń":99938,"åºĦ":99939,"çϼ":99940,"åľĭ":99941,"æİĪ":99942,"个æľĪ":99943,"äºĪ":99944,"å¸ģ":99945,"è·Ŀ":99946,"æ²ī":99947,"竣":99948,"åĨ¬":99949,"æĬ½":99950,"éĨĴ":99951,"å¼Ł":99952,"触":99953,"èģĺ":99954,"è±Ĩ":99955,"æļ´":99956,"åijĬè¯ī":99957,"豪":99958,"èµ¢":99959,"è·¨":99960,"è³ĩ":99961,"çΏ":99962,"æĬ±":99963,"浪":99964,"麻":99965,"仪":99966,"è¡¡":99967,"奶":99968,"çģ¾":99969,"èµ¶":99970,"èĤ¥":99971,"å§IJ":99972,"åĢº":99973,"éľĩ":99974,"订":99975,"æ¬Ĭ":99976,"ç·":99977,"å»ī":99978,"ä¿Ĺ":99979,"å¿ĺ":99980,"å¦ĩ":99981,"ç¼ĵ":99982,"åŃķ":99983,"漫":99984,"è£ģ":99985,"çĩĥ":99986,"é»ĺ":99987,"çī¢":99988,"çĪ·":99989,"æĬµ":99990,"宾":99991,"æľīä¸Ģ":99992,"迹":99993,"è¿«":99994,"è²Į":99995,"æľīçļĦ":99996,"ð¬ĺ":99997,"è¿ĺæĺ¯":99998,"æīĢ以":99999,"ä¹Łæĺ¯":100000,"è¿ĻäºĽ":100001,"对äºİ":100002,"åIJ§":100003,"缮åīį":100004,"èĩªå·±çļĦ":100005,"èĥ½å¤Ł":100006,"å¦Ĥä½ķ":100007,"æľºæŀĦ":100008,"åıªæĺ¯":100009,"ç½ijç«Ļ":100010,"åħ¨éĿ¢":100011,"为äºĨ":100012,"å¼Ģåıij":100013,"æĸ°éĹ»":100014,"éĩijèŀį":100015,"ç»§":100016,"客æĪ·":100017,"ä¸Ģèµ·":100018,"èĮ¶":100019,"åħ³æ³¨":100020,"æ°´å¹³":100021,"åİĨåı²":100022,"å¢ŀéķ¿":100023,"é±":100024,"åŁºéĩij":100025,"åºŃ":100026,"åı¶":100027,"ä¿ĥ":100028,"鼨":100029,"æ¶Īè´¹":100030,"èι":100031,"çŁ¥è¯Ĩ":100032,"æĪĺçķ¥":100033,"ç»ıéªĮ":100034,"å³°":100035,"æĽ²":100036,"èĦļ":100037,"åĨ°":100038,"å¤ı":100039,"å½Ĵ":100040,"ç¬Ķ":100041,"èĻij":100042,"çͲ":100043,"åľĪ":100044,"è¯Ĺ":100045,"é½IJ":100046,"容æĺĵ":100047,"çłĶåıij":100048,"骨":100049,"纸":100050,"è·µ":100051,"æĹ§":100052,"çķ¶":100053,"åΏ":100054,"è´·":100055,"åı¬":100056,"ç§ĭ":100057,"æ¶²":100058,"è¡ĮæĶ¿":100059,"çĮ®":100060,"èĤ¤":100061,"éĢIJ":100062,"è¶ĬæĿ¥":100063,"è¶ĬæĿ¥è¶Ĭ":100064,"æĦıè§ģ":100065,"èĪŀ":100066,"åīĤ":100067,"æ¶ī":100068,"ç¨ĭ度":100069,"åħ¬åħ±":100070,"械":100071,"æľ«":100072,"纯":100073,"åͱ":100074,"æ´²":100075,"æĬ¢":100076,"æ¤į":100077,"å¿Ļ":100078,"ä¼°":100079,"å¼¹":100080,"æ³ī":100081,"æľĢ大":100082,"è¶ĭ":100083,"å·§":100084,"ç¦ģ":100085,"æī¶":100086,"åį±":100087,"çıł":100088,"çĨŁ":100089,"æĭľ":100090,"主ä¹ī":100091,"æĿĤ":100092,"éĻĦ":100093,"éģį":100094,"æIJŃ":100095,"æĮ¯":100096,"å¤ļå¹´":100097,"æķ¬":100098,"æijĦ":100099,"纷":100100,"å¼ĥ":100101,"湿":100102,"å¨ĺ":100103,"æ¡£":100104,"é©¶":100105,"æľĹ":100106,"æ®ĸ":100107,"æ¦ľ":100108,"åĵ¡":100109,"ä¸Ģä½ĵ":100110,"æŁ¥çľĭ":100111,"ç¹ģ":100112,"æµĵ":100113,"åħ¬å®ī":100114,"æ½ľ":100115,"è´¯":100116,"éªĹ":100117,"æIJľ":100118,"å·¡":100119,"è¬":100120,"éĬ":100121,"å§Ķä¼ļ":100122,"æĤł":100123,"åī©":100124,"æıŃ":100125,"åŃ£åº¦":100126,"ð«ĺ":100127,"ð¬¬":100128,"ä´":100129,"ðª":100130,"ä½Ĩæĺ¯":100131,"éĥ½æĺ¯":100132,"å¹³åı°":100133,"åŃ¦ä¹ł":100134,"åĵģçīĮ":100135,"ä¸Ķ":100136,"è¿Ļç§į":100137,"æĶ¿çŃĸ":100138,"æĭ¬":100139,"认为":100140,"ä¸Ģèά":100141,"æłĩåĩĨ":100142,"æĶ¯æĮģ":100143,"模å¼ı":100144,"åħ³ç³»":100145,"çļĦæĺ¯":100146,"è¿Ļä¸Ģ":100147,"ä¸įè¦ģ":100148,"çĶļ":100149,"ç²¾ç¥ŀ":100150,"æĭ¥":100151,"åĪ©ç͍":100152,"ä¿ĿæĬ¤":100153,"ä½ľç͍":100154,"èĭ¥":100155,"åĽ½åĨħ":100156,"ä»ĭç»į":100157,"ä¸Ģä¸ĭ":100158,"å·¥ä¸ļ":100159,"缮æłĩ":100160,"æľĢåIJİ":100161,"ä»·å̼":100162,"å°į":100163,"éĵģ":100164,"è°ģ":100165,"ç»ĵæŀĦ":100166,"éĽª":100167,"æĻºèĥ½":100168,"ä¼łç»Ł":100169,"ä½ĵèĤ²":100170,"çĶŁæĢģ":100171,"æĭį":100172,"æİª":100173,"åĨľä¸ļ":100174,"çī¹èī²":100175,"è§Ħ模":100176,"æĹ¶ä»£":100177,"è¿ĩç¨ĭ":100178,"éĴĪ":100179,"æĿ¾":100180,"åĶIJ":100181,"åĮ»çĸĹ":100182,"çģ¯":100183,"åζéĢł":100184,"æł¸å¿ĥ":100185,"ä¸įåı¯":100186,"ç³»åĪĹ":100187,"åIJī":100188,"åľ£":100189,"åĢij":100190,"ä½³":100191,"æĿ¥çľĭ":100192,"æ¯ĶèµĽ":100193,"ä¸ĭæĿ¥":100194,"åĩºäºĨ":100195,"å¹²éĥ¨":100196,"微信":100197,"å½ĵåľ°":100198,"åį·":100199,"åį«çĶŁ":100200,"ä¼Ł":100201,"çĸ«æĥħ":100202,"è°·":100203,"åĩłä¸ª":100204,"éĺ´":100205,"çĶŁçī©":100206,"å°¤":100207,"ä¼Ĭ":100208,"èĤ¯":100209,"éĿ¢ç§¯":100210,"åĪĽéĢł":100211,"æı¡":100212,"åľĨ":100213,"æĻĵ":100214,"æĪIJäºĨ":100215,"åĩ¡":100216,"çĸ¾":100217,"ç«ŀäºī":100218,"讨":100219,"主é¢ĺ":100220,"é²ģ":100221,"迪":100222,"ä¿Ħ":100223,"æĢª":100224,"並":100225,"èĻļ":100226,"æ½®":100227,"çĥ§":100228,"è̳":100229,"æ±ł":100230,"éĢĤåIJĪ":100231,"æł¹æľ¬":100232,"åĬłçĽŁ":100233,"ç͵è§Ĩ":100234,"æ··":100235,"ç¼ĺ":100236,"çªĹ":100237,"çĬ¯":100238,"æĥ¯":100239,"æĦıä¹ī":100240,"åĬŀæ³ķ":100241,"ä¼ij":100242,"æ»ij":100243,"åĭĩ":100244,"æķ¢":100245,"寻":100246,"è¦Ĩ":100247,"éĢĥ":100248,"ç»ıçIJĨ":100249,"åĿı":100250,"æ³½":100251,"ä¹ĺ":100252,"åĪº":100253,"å±ı":100254,"é¡¿":100255,"亡":100256,"éĤĢ":100257,"åħ¼":100258,"åĭ¤":100259,"æ®ĭ":100260,"æĺł":100261,"æ¯ķä¸ļ":100262,"æĪª":100263,"è·Į":100264,"å£ģ":100265,"åı¦ä¸Ģ":100266,"羣å®ŀ":100267,"磨":100268,"è¯ļ":100269,"å¿ħè¦ģ":100270,"æģĭ":100271,"æĩĤ":100272,"å¾Ĵ":100273,"è°ĵ":100274,"æķı":100275,"æĻ¨":100276,"èĥ¸":100277,"æĭ¼":100278,"å¦Ļ":100279,"诸":100280,"èģĬ":100281,"æĤī":100282,"麼":100283,"åĩŃ":100284,"èĪĴ":100285,"æ¶Ĥ":100286,"è¿ģ":100287,"沿":100288,"å¡ij":100289,"æĽ¿":100290,"æ¾³":100291,"å¿į":100292,"èĢĹ":100293,"龸":100294,"åĩłå¹´":100295,"åĪĬ":100296,"èĦī":100297,"èħIJ":100298,"æ¡Į":100299,"çºł":100300,"æ»ļ":100301,"æĤ²":100302,"åĨĴ":100303,"妹":100304,"çķħ":100305,"纵":100306,"æijĩ":100307,"夺":100308,"è·¯ä¸Ĭ":100309,"忽":100310,"èĸª":100311,"æģIJ":100312,"æĦıæĢĿ":100313,"å«Į":100314,"æı´":100315,"æ°§":100316,"èĢĢ":100317,"éĺ»":100318,"轨":100319,"å¹»":100320,"æįķ":100321,"åĿ¦":100322,"åĵĪåĵĪ":100323,"çĭIJ":100324,"滨":100325,"è²»":100326,"è¿Ł":100327,"人éĥ½":100328,"ç»ĺ":100329,"åı¹":100330,"çµIJ":100331,"æī°":100332,"æ»ĭ":100333,"å¥ij":100334,"åĭŁ":100335,"確":100336,"ð¦":100337,"éĽĨåĽ¢":100338,"æĿİ":100339,"å¼Ģå±ķ":100340,"æıIJåįĩ":100341,"åħ¨åĽ½":100342,"汽车":100343,"åŃ¦æł¡":100344,"æł¹æį®":100345,"è¿Ļæĺ¯":100346,"åĩºçݰ":100347,"éĻĪ":100348,"ç½Ĺ":100349,"èİ·å¾Ĺ":100350,"åĪĺ":100351,"éĶĢåĶ®":100352,"æľªæĿ¥":100353,"éľĢæ±Ĥ":100354,"å®ŀæĸ½":100355,"åĿļæĮģ":100356,"åħ¨çIJĥ":100357,"éĵ¶è¡Į":100358,"æİ§åζ":100359,"é¡»":100360,"åľ°åĮº":100361,"æīĵéĢł":100362,"çļĦè¯Ŀ":100363,"帮åĬ©":100364,"ä½ĵç³»":100365,"è¾¾åΰ":100366,"è§ĦåĪĴ":100367,"åŁ¹è®Ń":100368,"两个":100369,"æĬ¥åijĬ":100370,"åľ°æĸ¹":100371,"å®Įåħ¨":100372,"æİī":100373,"ç»ĵåIJĪ":100374,"å®£ä¼ł":100375,"æ³ķå¾ĭ":100376,"èīºæľ¯":100377,"ç͵影":100378,"說":100379,"ä¸ĢçĤ¹":100380,"è¶ħè¿ĩ":100381,"ç͵åŃIJ":100382,"æĢĿæĥ³":100383,"æķĻåѦ":100384,"éĺ¶æ®µ":100385,"åķĨä¸ļ":100386,"çµģ":100387,"åĪĽä¸ļ":100388,"æĸ¹æ¡Ī":100389,"çݰ代":100390,"æ¡¥":100391,"èIJ½å®ŀ":100392,"带æĿ¥":100393,"产çĶŁ":100394,"ç§Ģ":100395,"æ³°":100396,"ä¹±":100397,"åħ·ä½ĵ":100398,"åĸĿ":100399,"èĵĿ":100400,"å®Ĺ":100401,"åįĩ级":100402,"æ·±åħ¥":100403,"ä¿ĿéĻ©":100404,"ç®Ģåįķ":100405,"çĹĽ":100406,"稳å®ļ":100407,"è¾Ĩ":100408,"å±ŀäºİ":100409,"å·Ŀ":100410,"ä¸įå°ij":100411,"åĴ¨":100412,"ä¸ľè¥¿":100413,"å½¢å¼ı":100414,"娱ä¹IJ":100415,"æŃ£å¸¸":100416,"鸡":100417,"åħħåĪĨ":100418,"å®ŀè·µ":100419,"éĩĮéĿ¢":100420,"è·³":100421,"èĻİ":100422,"æĪIJéķ¿":100423,"æļĹ":100424,"çĿ¡":100425,"罪":100426,"çIJĨ念":100427,"æĮij":100428,"èµĦæľ¬":100429,"å¤ļå°ij":100430,"ä¸ĭéĿ¢":100431,"å¸Ŀ":100432,"åħ¬å¼Ģ":100433,"æ¸IJ":100434,"éķ·":100435,"å±ĭ":100436,"欢è¿İ":100437,"å¿ĥçIJĨ":100438,"çĤİ":100439,"æ¹¾":100440,"è®ĵ":100441,"éĤĦ":100442,"ç³ĸ":100443,"ä¹Į":100444,"åĬ±":100445,"çīĻ":100446,"èħ¿":100447,"å²Ĺ":100448,"ä¼į":100449,"æĪIJåijĺ":100450,"åŃĶ":100451,"å°ıç¼ĸ":100452,"èij£":100453,"泡":100454,"åħĪè¿Ľ":100455,"åħ§":100456,"åĺ´":100457,"è´Ŀ":100458,"è»":100459,"æIJŀ":100460,"æ³Ľ":100461,"鸣":100462,"ç½²":100463,"èĽĭ":100464,"主任":100465,"缮çļĦ":100466,"ä¹ı":100467,"æ´¥":100468,"æĪ´":100469,"ä¸¥æł¼":100470,"çħ¤":100471,"çĮ«":100472,"å͝":100473,"å°Ĭ":100474,"çĶľ":100475,"åŀĥ":100476,"åľ¾":100477,"æĭŁ":100478,"çĦ¦":100479,"é«Ķ":100480,"å®ı":100481,"æ©Ł":100482,"é©»":100483,"æĹģ":100484,"å½»":100485,"éĥ½ä¸į":100486,"æij©":100487,"ä»ĵ":100488,"ä¹³":100489,"岸":100490,"è°ĭ":100491,"大å¤ļ":100492,"çģŃ":100493,"èħ¾":100494,"æŁľ":100495,"èĪį":100496,"åħļçļĦ":100497,"å°ĺ":100498,"åįģå¹´":100499,"æĭĴ":100500,"裡":100501,"æŁĶ":100502,"å¹¼":100503,"éĶģ":100504,"ä¸ĵ项":100505,"æīİ":100506,"驾驶":100507,"ç¢İ":100508,"è¢ĭ":100509,"éĶĭ":100510,"壮":100511,"å°ĸ":100512,"çĶµæ±ł":100513,"è¿Ķ":100514,"æ¼ı":100515,"循":100516,"èıĮ":100517,"èĥĥ":100518,"è¾ħ":100519,"éĢĴ":100520,"èĥİ":100521,"éĻª":100522,"寿":100523,"å¥Ķ":100524,"çĮĽ":100525,"纹":100526,"çŁ¥åIJį":100527,"å¿Ĩ":100528,"æ¡ĥ":100529,"æ£ĭ":100530,"éĢĨ":100531,"çĤ¼":100532,"ç±į":100533,"çī§":100534,"æł·çļĦ":100535,"è¾Ľ":100536,"åłĨ":100537,"å®ŀåľ¨":100538,"ä¼ı":100539,"宿":100540,"èµı":100541,"è£Ĥ":100542,"åįĬå¹´":100543,"å̾":100544,"满æĦı":100545,"梯":100546,"æĦıåij³":100547,"åѤ":100548,"ç¥Ŀ":100549,"æĻ¶":100550,"èµĶ":100551,"åģ¿":100552,"èĦĤ":100553,"ç½ļ":100554,"ç¢į":100555,"æ²ĥ":100556,"æĵį":100557,"å´ĩ":100558,"æļĤ":100559,"è·ĥ":100560,"æIJ¬":100561,"å©Ĩ":100562,"éī":100563,"éī´":100564,"åħ´è¶£":100565,"èIJ¥ä¸ļ":100566,"è®Ĭ":100567,"èĦı":100568,"è¾Ī":100569,"å·ŀå¸Ĥ":100570,"è´«åĽ°":100571,"ç©·":100572,"ä¸Ńå°ı":100573,"æ¼Ĥ":100574,"çĻĮ":100575,"èľľ":100576,"ä¼Ļä¼´":100577,"çīµ":100578,"æĤŁ":100579,"éĻ·":100580,"èµĽåŃ£":100581,"樣":100582,"åģ¶":100583,"æĺĨ":100584,"è¢Ń":100585,"æįIJ":100586,"èī°":100587,"æĤ¬":100588,"çĶ¢":100589,"èij¡":100590,"çĽĹ":100591,"å©´":100592,"å°İ":100593,"纽":100594,"åĢ¡":100595,"æī®":100596,"è¨Ń":100597,"æĬij":100598,"ç¡ķ":100599,"è¾ĸ":100600,"éĥģ":100601,"辩":100602,"éĤ»":100603,"çݰåĩº":100604,"è¦ı":100605,"å½¹":100606,"éĺĶ":100607,"åīµ":100608,"诱":100609,"æĥij":100610,"æ·Ģ":100611,"é¢Ī":100612,"侦":100613,"æģ°":100614,"æ£Ģå¯Ł":100615,"éĨ«":100616,"çĦ¶æĺ¯":100617,"åĭĥ":100618,"èĮ«":100619,"äĵ":100620,"ð¬¸":100621,"ä½ľä¸º":100622,"çļĦ人":100623,"éĤ£ä¹Ī":100624,"ç¾İåĽ½":100625,"è¿ĺæľī":100626,"æıIJé«ĺ":100627,"èϽ":100628,"åħ·æľī":100629,"åĮħæĭ¬":100630,"æĪĸèĢħ":100631,"ä¸įè¿ĩ":100632,"ä¸Ĭæµ·":100633,"åĮ»éĻ¢":100634,"èµĦéĩij":100635,"çĶļèĩ³":100636,"åĪ¶åº¦":100637,"è§£åĨ³":100638,"èģĶç½ij":100639,"ç»§ç»Ń":100640,"建ç«ĭ":100641,"è¿Ľä¸ĢæŃ¥":100642,"æĿIJæĸĻ":100643,"ä»Ĭ天":100644,"å¿ħé¡»":100645,"åIJĦç§į":100646,"çİ°åľº":100647,"ä»ĸçļĦ":100648,"å¢ŀåĬł":100649,"é¢ĨåŁŁ":100650,"åıĤä¸İ":100651,"æĮģç»Ń":100652,"ä¹ĭä¸Ģ":100653,"çī¹åĪ«":100654,"é±¼":100655,"åħ±åIJĮ":100656,"åĬª":100657,"çİī":100658,"人们":100659,"åħĪçĶŁ":100660,"ä¼ĺåĬ¿":100661,"ä¿ĿæĮģ":100662,"ä½ľåĵģ":100663,"çīĽ":100664,"æĪIJæľ¬":100665,"æĶ¶åħ¥":100666,"åıĬæĹ¶":100667,"è´Łè´£":100668,"æİ¥åıĹ":100669,"èįIJ":100670,"åıªè¦ģ":100671,"羣çļĦ":100672,"导èĩ´":100673,"æľºåζ":100674,"è¡ĮåĬ¨":100675,"æĸ°çļĦ":100676,"å®ĮåĸĦ":100677,"为ä»Ģä¹Ī":100678,"ä¸Ń央":100679,"æĪIJç«ĭ":100680,"æĦŁè§ī":100681,"åıĺåĮĸ":100682,"åıĹåΰ":100683,"å¹¶ä¸į":100684,"åŃĻ":100685,"æĸ½å·¥":100686,"æĺİæĺ¾":100687,"è¿ĩåİ»":100688,"åıijæĮ¥":100689,"羣æŃ£":100690,"åŁºåľ°":100691,"æĺİç¡®":100692,"èĥ¡":100693,"许å¤ļ":100694,"ä¸Ģå¹´":100695,"æĸ¹åIJij":100696,"æģ©":100697,"çĽ¸ä¿¡":100698,"åľ³":100699,"详ç»Ĩ":100700,"äºĭä¸ļ":100701,"çĶŁåij½":100702,"åĴ¨è¯¢":100703,"æĸĩæĺİ":100704,"çijŀ":100705,"绿èī²":100706,"èİ«":100707,"æĦıè¯Ĩ":100708,"æĬķåħ¥":100709,"åĬłå¿«":100710,"æ¢ħ":100711,"ç¿»":100712,"å¼ĢæĶ¾":100713,"æĻ®éĢļ":100714,"åįıä¼ļ":100715,"æĪIJ绩":100716,"ä»Ļ":100717,"å¯Ĵ":100718,"è¯ģåΏ":100719,"认è¯Ĩ":100720,"丹":100721,"大éĩı":100722,"è¿ħ":100723,"åģļåΰ":100724,"设æĸ½":100725,"è´¸æĺĵ":100726,"èĥ½æºIJ":100727,"æĹ¶æľŁ":100728,"ä¸Ģ天":100729,"æ²»çIJĨ":100730,"åĺī":100731,"å®ĩ":100732,"丰å¯Į":100733,"举è¡Į":100734,"æĪIJæŀľ":100735,"èĤ¯å®ļ":100736,"çĭĹ":100737,"åĬ¨åĬĽ":100738,"森":100739,"åĩłä¹İ":100740,"åĽłç´ł":100741,"æ°ijæĹı":100742,"æ´ŀ":100743,"ç½ijåıĭ":100744,"åIJĪçIJĨ":100745,"广大":100746,"æ®Ĭ":100747,"æ´Ľ":100748,"æĿ¯":100749,"èĴĻ":100750,"ç͍äºİ":100751,"èŀįèµĦ":100752,"ç¥ĸ":100753,"æľºæ¢°":100754,"举åĬŀ":100755,"èĩªåĬ¨":100756,"åĬŀåħ¬":100757,"é»ŀ":100758,"éĽĦ":100759,"å̼å¾Ĺ":100760,"çĮª":100761,"以为":100762,"æĺĮ":100763,"è·Ŀ离":100764,"åIJ¸å¼ķ":100765,"ç»ķ":100766,"éļĨ":100767,"计ç®Ĺ":100768,"éĺŁä¼į":100769,"大ä¼ļ":100770,"å¼ķèµ·":100771,"çī¹çĤ¹":100772,"èĥ¶":100773,"å¹´è½»":100774,"æľ¬èº«":100775,"æľºåħ³":100776,"å®ĺæĸ¹":100777,"éĥij":100778,"æµĻ":100779,"è§Ĵèī²":100780,"èij£äºĭ":100781,"为主":100782,"æĹłè®º":100783,"ä¹łæĥ¯":100784,"æ¥ļ":100785,"æĭĵ":100786,"ç»Łè®¡":100787,"åħĦ":100788,"å¹¿æ³Ľ":100789,"åįĢ":100790,"污æŁĵ":100791,"è«ĭ":100792,"èĬĤ缮":100793,"伦":100794,"è¦ĨçĽĸ":100795,"èĢIJ":100796,"æī¶è´«":100797,"ç»ıåİĨ":100798,"éĩįè¦ģçļĦ":100799,"èĤ¡ä¸ľ":100800,"æĭĽèģĺ":100801,"åĽĽä¸ª":100802,"æĩī":100803,"èĥŀ":100804,"æijĨ":100805,"é«ĺéĢŁ":100806,"麦":100807,"åİŁåĪĻ":100808,"èݱ":100809,"æĽ´å¥½":100810,"éķľ":100811,"åĩĮ":100812,"åŀĥåľ¾":100813,"é̲":100814,"çģ°":100815,"éĵº":100816,"äºĭæķħ":100817,"çĶĺ":100818,"空æ°Ķ":100819,"é¾Ħ":100820,"èı²":100821,"çĵ¶":100822,"æĺ¨":100823,"æĹ¥æĬ¥":100824,"æµ®":100825,"åľ°åĽ¾":100826,"åijĪ":100827,"大åĬĽ":100828,"绪":100829,"å¸ħ":100830,"æľįåĭĻ":100831,"ä¸įéĶĻ":100832,"乡æĿij":100833,"å±¥":100834,"å¹³æĸ¹":100835,"éĹ²":100836,"æī£":100837,"ç´łè´¨":100838,"èµ´":100839,"éģŃ":100840,"èIJ¨":100841,"èĩªä¸»":100842,"éĩijå±ŀ":100843,"èī¯å¥½":100844,"两年":100845,"æ³¥":100846,"é¢ľ":100847,"精彩":100848,"ä¸Ńåįİ":100849,"æĻĭ":100850,"ä¹łè¿ij":100851,"ä¹łè¿ijå¹³":100852,"æĪĺ士":100853,"åģļçļĦ":100854,"éªij":100855,"æ»´":100856,"çĵľ":100857,"çīĪæĿĥ":100858,"èĤł":100859,"æľĥåĵ¡":100860,"çıį":100861,"種":100862,"仿":100863,"çī©ä¸ļ":100864,"åĢĭ人":100865,"妻":100866,"伸":100867,"æ±Ĺ":100868,"æĹº":100869,"çIJĨæĥ³":100870,"æij¸":100871,"è¿Ŀæ³ķ":100872,"å®Įæķ´":100873,"åݦ":100874,"è¸ı":100875,"æĸij":100876,"æ¡Ĥ":100877,"ä½ĵåζ":100878,"師":100879,"æĿĨ":100880,"殿":100881,"æ¯ģ":100882,"é¦Ī":100883,"è§Ĵ度":100884,"欣":100885,"çĥ¦":100886,"èĤº":100887,"éĩĩ访":100888,"æijĺ":100889,"æĮ¡":100890,"æ·ĺ":100891,"åħ»èĢģ":100892,"çĤ¸":100893,"è¿Ī":100894,"åİī":100895,"åĿĬ":100896,"è¾£":100897,"åĩĿ":100898,"泪":100899,"çĸı":100900,"æİĺ":100901,"åĥıæĺ¯":100902,"éĽķ":100903,"ç¼Ŀ":100904,"èį·":100905,"æį·":100906,"åł¡":100907,"åı¥è¯Ŀ":100908,"çĸ¼":100909,"æłı":100910,"éģµ":100911,"碳":100912,"å·¥åķĨ":100913,"æIJº":100914,"åĪ¥":100915,"ä¹Ļ":100916,"æĹĭ":100917,"æĥľ":100918,"ä¸Ģ大":100919,"å±Ĥ次":100920,"èµĸ":100921,"æĬ¬":100922,"æ¨Ĥ":100923,"è¯ŀ":100924,"åħĴ":100925,"篮":100926,"èĤĥ":100927,"å§¿":100928,"æĬļ":100929,"çĵ·":100930,"ç͵åĬ¨":100931,"æĸ°åĨł":100932,"æ¶µ":100933,"ç¢ij":100934,"æ·®":100935,"æĹ¨":100936,"踪":100937,"æ¸Ķ":100938,"æĦĪ":100939,"åıĶ":100940,"åįĹçľģ":100941,"義":100942,"å§Ķ书记":100943,"貸":100944,"æ¶Į":100945,"è«ĸ":100946,"èIJĦ":100947,"æıı":100948,"å¿§":100949,"辦":100950,"å¦Ĩ":100951,"æīŃ":100952,"åijµ":100953,"éģ¥":100954,"許":100955,"ä»ĩ":100956,"åįģä¸ī":100957,"åī²":100958,"èªį":100959,"èΰ":100960,"é¢ĩ":100961,"饱":100962,"çĭł":100963,"é«ĺçļĦ":100964,"çµ±":100965,"æħİ":100966,"é¢ģ":100967,"åIJĪéĢĤ":100968,"æµ´":100969,"èµĭ":100970,"æĬ¼":100971,"妥":100972,"éĻ¢éķ¿":100973,"èĢķ":100974,"辨":100975,"æħ°":100976,"åįģåĽĽ":100977,"æľµ":100978,"èĵĦ":100979,"æŀ¢":100980,"å»·":100981,"æĤĦ":100982,"涯":100983,"磩":100984,"åŃIJéĩĮ":100985,"çĬ¹":100986,"å±Ģéķ¿":100987,"éIJ":100988,"å¥ł":100989,"ä¼ļéķ¿":100990,"æĵļ":100991,"ä¸įåıĬ":100992,"åįģä¹Ŀ":100993,"欺":100994,"躺":100995,"éĺIJ":100996,"çºĮ":100997,"註":100998,"åĨĬ":100999,"èŃĺ":101000,"é«ĺçŃī":101001,"èħº":101002,"å¤ķ":101003,"ç»ij":101004,"åͤ":101005,"èķ´":101006,"çķľ":101007,"æħĭ":101008,"åıĻ":101009,"åıĥ":101010,"峡":101011,"人大":101012,"éħ¿":101013,"éģ©":101014,"奢":101015,"åı£æ°Ķ":101016,"éĮĦ":101017,"éı":101018,"åĭĺ":101019,"è´¿":101020,"éļª":101021,"éĭ":101022,"éļ¶":101023,"ð¥":101024,"ð¬£":101025,"ð£":101026,"ð«į":101027,"ð¬³":101028,"ð«ĵ":101029,"ð«Ħ":101030,"ð«Ł":101031,"ð¨±":101032,"äĹ":101033,"以åıĬ":101034,"æľīéĻIJ":101035,"åij¢":101036,"åIJĹ":101037,"çľĭåΰ":101038,"计åĪĴ":101039,"è¿Ľåħ¥":101040,"缴æİ¥":101041,"åĪĨæŀIJ":101042,"åıªæľī":101043,"设å¤ĩ":101044,"åħ¶å®ŀ":101045,"åĬłå¼º":101046,"ä¸ŃçļĦ":101047,"ä¿Ŀéļľ":101048,"èĢģå¸Ī":101049,"人æīį":101050,"å¾Ĺåΰ":101051,"é£İéĻ©":101052,"ä¸Ģç§į":101053,"空éĹ´":101054,"æĪijåĽ½":101055,"ä¹ĭåīį":101056,"ä¸ĵå®¶":101057,"æĿ¨":101058,"æĹ¥æľ¬":101059,"群ä¼Ĺ":101060,"åıĤåĬł":101061,"æķĪæŀľ":101062,"æľīåħ³":101063,"å®¶åºŃ":101064,"åĮºåŁŁ":101065,"åĬªåĬĽ":101066,"éļıçĿĢ":101067,"æĹłæ³ķ":101068,"交æµģ":101069,"è¡Į为":101070,"æ£ĢæŁ¥":101071,"æľŁéĹ´":101072,"å¦ĤæŃ¤":101073,"èĤ¡ä»½":101074,"å½ĵæĹ¶":101075,"è£ħå¤ĩ":101076,"åĩĨå¤ĩ":101077,"éħĴåºĹ":101078,"è¿IJåĬ¨":101079,"æıIJåĩº":101080,"å·¦åı³":101081,"æİªæĸ½":101082,"é£Łåĵģ":101083,"æ¶Īè´¹èĢħ":101084,"åѦéĻ¢":101085,"æĮĩ导":101086,"è¿IJèIJ¥":101087,"éĩį大":101088,"åĨľæĿij":101089,"éĢłæĪIJ":101090,"æĶ¿æ²»":101091,"éĴĪ对":101092,"æŃ£å¼ı":101093,"åıĸå¾Ĺ":101094,"éĤ£ä¸ª":101095,"éĽĨä¸Ń":101096,"åıªèĥ½":101097,"å¿«éĢŁ":101098,"身ä½ĵ":101099,"åħļåijĺ":101100,"èģĶåIJĪ":101101,"åĬĽéĩı":101102,"éĥ½æľī":101103,"æħ§":101104,"å¡Ķ":101105,"åĪ«äºº":101106,"表çݰ":101107,"æķħäºĭ":101108,"ä¸ĢåĪĩ":101109,"å°ĩ":101110,"èµĦæĸĻ":101111,"åŁ¹åħ»":101112,"éĺħ读":101113,"æľī人":101114,"èIJ¥éĶĢ":101115,"çĽijçĿ£":101116,"çݯä¿Ŀ":101117,"èĢĥèĻij":101118,"æ·±åľ³":101119,"严éĩį":101120,"èĮĥåĽ´":101121,"å§Ķåijĺ":101122,"çĽij管":101123,"ä¸ī个":101124,"è£ħä¿®":101125,"åħ¬éĩĮ":101126,"åĪĨåĪ«":101127,"çIJĨè§£":101128,"飩":101129,"åĬłå·¥":101130,"è®¤çľŁ":101131,"ä¸į好":101132,"åݻ年":101133,"éĻįä½İ":101134,"æľºä¼ļ":101135,"åįıè®®":101136,"符åIJĪ":101137,"å¢ŀ强":101138,"æĬĢèĥ½":101139,"é¦ĸåħĪ":101140,"秦":101141,"ä¸ģ":101142,"å°¾":101143,"æľīäºĨ":101144,"åľ°äº§":101145,"æ¸ł":101146,"æĸ¹ä¾¿":101147,"ç§»åĬ¨":101148,"éĢŁåº¦":101149,"å°¤åħ¶":101150,"éĢļçŁ¥":101151,"åĿĽ":101152,"éģ¿åħį":101153,"æģ¢":101154,"è´¡":101155,"èģĮå·¥":101156,"å®ŀåĬĽ":101157,"æĺ¯ä¸Ģç§į":101158,"åIJ¯åĬ¨":101159,"çĸ¾çĹħ":101160,"æĿ¥äºĨ":101161,"çĽ¸å¯¹":101162,"çݰå®ŀ":101163,"èŀįåIJĪ":101164,"åIJĮæł·":101165,"åħ¬åijĬ":101166,"ç®Ĭ":101167,"ç´«":101168,"ä¸ĭåİ»":101169,"ä¼łæĴŃ":101170,"æľĢ好":101171,"ä¼ĺè´¨":101172,"æ²Ĵ":101173,"æĮº":101174,"æĹ¦":101175,"诺":101176,"ä¸ĢåIJį":101177,"éģĵè·¯":101178,"示èĮĥ":101179,"è¿ĩæĿ¥":101180,"åIJĮåѦ":101181,"é¼ĵ":101182,"æĿŃ":101183,"æľ¬æ¬¡":101184,"åIJĮæĦı":101185,"ä¸ĸ纪":101186,"ç¾Ĭ":101187,"欲":101188,"å·¥èīº":101189,"çĵ¦":101190,"人士":101191,"æľīæīĢ":101192,"ä»İäºĭ":101193,"æľīå¾Īå¤ļ":101194,"ä¸įäºĨ":101195,"å²Ĺä½į":101196,"åıĺå¾Ĺ":101197,"åĬ³åĬ¨":101198,"å¤Ħäºİ":101199,"å¹³åĿĩ":101200,"形象":101201,"å¡ŀ":101202,"åħ±äº«":101203,"çĿĽ":101204,"åĪ©æ¶¦":101205,"æŃ£æĺ¯":101206,"å¾Ģå¾Ģ":101207,"缸æ¯Ķ":101208,"横":101209,"åĪ·":101210,"æµĻæ±Ł":101211,"大éĥ¨åĪĨ":101212,"å¤ļ个":101213,"æĤ¨çļĦ":101214,"ç͵åķĨ":101215,"å¾®åįļ":101216,"å§ĭç»Ī":101217,"çĬ¯ç½ª":101218,"æĺ¯åľ¨":101219,"ç»ĦåIJĪ":101220,"åİŁæĿ¥":101221,"æ¸ħæ¥ļ":101222,"åIJĦåľ°":101223,"æĦŁåıĹ":101224,"å½ĵä¸Ń":101225,"è¶ĭåĬ¿":101226,"æĻ¯åĮº":101227,"羣æĺ¯":101228,"ä¾ĽåºĶ":101229,"转åŀĭ":101230,"çĭĤ":101231,"èĨľ":101232,"èĭĹ":101233,"å¿ł":101234,"å¾Ī大":101235,"èĤ¡æĿĥ":101236,"ç¾İåħĥ":101237,"æİĴåIJį":101238,"åĬ¨çī©":101239,"éĶħ":101240,"墨":101241,"主å¸Ń":101242,"å¾Ī好":101243,"ç»Ŀ对":101244,"æĿľ":101245,"转载":101246,"çĴĥ":101247,"æĿijæ°ij":101248,"åIJ¨":101249,"åĽŃåĮº":101250,"é«ĺ度":101251,"çī©è´¨":101252,"è¾ī":101253,"æĹ¥å¸¸":101254,"æıĴ":101255,"ä¸īå¹´":101256,"ä½ĵçݰ":101257,"æīįæĺ¯":101258,"代çIJĨ":101259,"ä¸į管":101260,"æģĴ":101261,"åľ°ä½į":101262,"ç²®":101263,"èĸĦ":101264,"æĺİçϽ":101265,"ä¸Ģèĩ´":101266,"æĽ¼":101267,"åĵŃ":101268,"åĩ¤":101269,"åĬ²":101270,"æķĮ":101271,"æĪĺæĸĹ":101272,"主ä½ĵ":101273,"åħ¬å¸ĥ":101274,"åıĤèĢĥ":101275,"èĪªç©º":101276,"寺":101277,"åѦä¼ļ":101278,"åıįæĺł":101279,"ç¾İ丽":101280,"太éĺ³":101281,"建æĪIJ":101282,"æħ¢æħ¢":101283,"åIJĦ个":101284,"éĤ¦":101285,"ç»ĦæĪIJ":101286,"ä¸ī大":101287,"éͦ":101288,"大å¤ļæķ°":101289,"æ¦Ĥ念":101290,"éŃĤ":101291,"åħ¬çĽĬ":101292,"èįĴ":101293,"身份":101294,"æ·±åĪ»":101295,"åħ©":101296,"ç»ıåħ¸":101297,"åIJĦ项":101298,"èĻķ":101299,"è¿ĽæŃ¥":101300,"åįģäºĮ":101301,"æī§æ³ķ":101302,"æĥ³åΰ":101303,"æĦŁæŁĵ":101304,"åķĨåĬ¡":101305,"å°ıç»Ħ":101306,"èͬ":101307,"çıŃåŃIJ":101308,"åIJĮå¿Ĺ":101309,"éĿ¢ä¸´":101310,"çĤĴ":101311,"å¤ļç§į":101312,"è§ĤçĤ¹":101313,"åĵªéĩĮ":101314,"å°Ŀ":101315,"å§Ĩ":101316,"èħ¹":101317,"åŁİåĮº":101318,"太å¤ļ":101319,"çĹħæ¯Ĵ":101320,"åľ¨äºİ":101321,"æīĢè°ĵ":101322,"æĻ°":101323,"æŀĿ":101324,"æĭĸ":101325,"å®ħ":101326,"æķ´æ²»":101327,"ä½ıæĪ¿":101328,"åģ·":101329,"çĨĬ":101330,"èµģ":101331,"æ°Ľ":101332,"æł¼å±Ģ":101333,"åŁºç¡Ģä¸Ĭ":101334,"èĥĨ":101335,"åħ½":101336,"鼶åĶ®":101337,"åĿ¡":101338,"女åŃ©":101339,"æĴŀ":101340,"åħ¨åĬĽ":101341,"åĴĸ":101342,"èĤ©":101343,"çľī":101344,"èĩ³äºİ":101345,"åħļç»Ħ":101346,"ä¸Ģä»¶":101347,"æĭĨ":101348,"äºĭå®ŀ":101349,"åĤ³":101350,"æ¹ĺ":101351,"ç¶²ç«Ļ":101352,"循çݯ":101353,"åIJĮæ¯Ķ":101354,"æĭĶ":101355,"åĮ»èį¯":101356,"åħ»æ®ĸ":101357,"åĽºå®ļ":101358,"å®ŀéĻħä¸Ĭ":101359,"è®°å¾Ĺ":101360,"åĪ©äºİ":101361,"æĤ¦":101362,"æĭ³":101363,"èĤĿ":101364,"æķĪçĽĬ":101365,"該":101366,"æ°ij主":101367,"çĹĩçĬ¶":101368,"風":101369,"å¹¼åĦ¿":101370,"å§ij":101371,"æĪĴ":101372,"ä¸ĭçļĦ":101373,"渡":101374,"å¹´åºķ":101375,"è®°å¿Ĩ":101376,"åIJIJ":101377,"大å¹ħ":101378,"å¾½":101379,"åħ¬ä¼Ĺ":101380,"ä¿¡å¿ĥ":101381,"çİĽ":101382,"ä¼ļä¸Ĭ":101383,"ä¹Ķ":101384,"æijĦå½±":101385,"æ£ĭçīĮ":101386,"éĻķ":101387,"åºĶæĢ¥":101388,"æĶ¶è´¹":101389,"æİ§èĤ¡":101390,"仪å¼ı":101391,"çŀ¬":101392,"æīĢåľ¨":101393,"碰":101394,"å§ĵ":101395,"é¡Į":101396,"æĶ¯éĥ¨":101397,"使åij½":101398,"çĤī":101399,"å¯Ħ":101400,"翼":101401,"åľ°ä¸ĭ":101402,"è¾ŀ":101403,"俱":101404,"主æĮģ":101405,"è´§å¸ģ":101406,"æģ¨":101407,"èĤĮ":101408,"çĽĪ":101409,"éĶ»":101410,"å¿ĹæĦ¿":101411,"类似":101412,"æĮĸ":101413,"éĢ»":101414,"總":101415,"纪念":101416,"åķ¥":101417,"弯":101418,"åIJįåŃĹ":101419,"åģ¥èº«":101420,"çļĦå¿ĥ":101421,"驱":101422,"èĥĮåIJİ":101423,"æ³ķå¸Ī":101424,"ç²Ĵ":101425,"èĥ½éĩı":101426,"è¾°":101427,"èī³":101428,"å½¼":101429,"段æĹ¶éĹ´":101430,"åIJĪæ³ķ":101431,"æĵ¦":101432,"ç¾½":101433,"åݨ":101434,"æĪij说":101435,"äºĭåĬ¡":101436,"åĩłå¤©":101437,"åħģ":101438,"ç¼´":101439,"åįĵ":101440,"两ç§į":101441,"çĭ¬çī¹":101442,"帶":101443,"éĴ»":101444,"æĥ©":101445,"é¢ĨåħĪ":101446,"è¶³å¤Ł":101447,"壳":101448,"æĦıåij³çĿĢ":101449,"åĪĨå¸ĥ":101450,"ä¹ĥ":101451,"éģĭ":101452,"佩":101453,"è°±":101454,"çģ£":101455,"èį¡":101456,"贯彻":101457,"å¹¾":101458,"ç£ģ":101459,"åħ¸åŀĭ":101460,"åīĩ":101461,"åĨ»":101462,"æ¬ł":101463,"ä¸įä¹ħ":101464,"浦":101465,"éŃħ":101466,"å¼ĢäºĨ":101467,"使ç͍èĢħ":101468,"è¿Ļ款":101469,"å°Ī":101470,"èĦ±è´«":101471,"æĶ»åĿļ":101472,"ç®Ĺæĺ¯":101473,"ç¨Ģ":101474,"æĹłäºº":101475,"åłµ":101476,"å¥ı":101477,"éĥ½å¸Ĥ":101478,"åı¯è§ģ":101479,"ä¸įåĩº":101480,"æ·»":101481,"äºı":101482,"ç¾İ好":101483,"èĥĸ":101484,"飵":101485,"æłĩå¿Ĺ":101486,"èĬĤèĥ½":101487,"æĬ«":101488,"å°º":101489,"寸":101490,"ä¸Ģ代":101491,"é¢Ĺ":101492,"è̶":101493,"èĴ¸":101494,"åĸ®":101495,"滿":101496,"çĮľ":101497,"æµĨ":101498,"åŁĥ":101499,"åįĥä¸ĩ":101500,"èµĮ":101501,"èģ²":101502,"ä½ľé£İ":101503,"質":101504,"寨":101505,"年人":101506,"åį°è±¡":101507,"æ¡¶":101508,"æĴ¤":101509,"åįģäºĶ":101510,"æ¯ħ":101511,"沪":101512,"åĽ½æľī":101513,"大éĩıçļĦ":101514,"御":101515,"å¯ĵ":101516,"è¦ĸ":101517,"æ¼Ĥ亮":101518,"çľł":101519,"çĤŃ":101520,"é»İ":101521,"èϹ":101522,"åĪ©äºļ":101523,"èŃī":101524,"æµı":101525,"åįģåħ«":101526,"丢":101527,"è¾½":101528,"æľīä¸ĢäºĽ":101529,"æħĪ":101530,"åģľè½¦":101531,"å®ł":101532,"è§£æĶ¾":101533,"æľīå¤ļ":101534,"éĤĬ":101535,"常è§ģ":101536,"æĬ¹":101537,"纤":101538,"親":101539,"æ¡Ĩ":101540,"èİŀ":101541,"æ°§åĮĸ":101542,"è¿Ļä»¶":101543,"åĩ°":101544,"æŁ´":101545,"åıijç͵":101546,"é¼ł":101547,"转åĮĸ":101548,"å¨ĥ":101549,"æĮ¤":101550,"罩":101551,"å¯ĨåĪĩ":101552,"æĪijä¸į":101553,"é«ĺæĸ°":101554,"ä¸Ģç¯ĩ":101555,"è¿Ľç¨ĭ":101556,"è¡°":101557,"è¿ĺä¸į":101558,"çħĮ":101559,"æĸ°åįİ":101560,"èĤ¿":101561,"滩":101562,"ä¸Ģæµģ":101563,"è¯Ī":101564,"å®ŀä½ĵ":101565,"å¤ĸåĽ½":101566,"躲":101567,"èµł":101568,"覺":101569,"æ¢Ŀ":101570,"ä¸įè§ģ":101571,"è¨Ĭ":101572,"åĮ¹":101573,"åįµ":101574,"çĩ¥":101575,"æħķ":101576,"齿":101577,"å®´":101578,"饼":101579,"èij¡èIJĦ":101580,"å°ıå¿ĥ":101581,"æģ¼":101582,"éĻĮ":101583,"æĺĤ":101584,"åĥ¹":101585,"èĬĿ":101586,"æ¯ı个人":101587,"åīįæıIJ":101588,"ä½ĵä¼ļ":101589,"æ¨Ļ":101590,"æIJľçĭIJ":101591,"对åħ¶":101592,"丧":101593,"èľĤ":101594,"浸":101595,"調":101596,"åĿª":101597,"é¢ĸ":101598,"åIJį为":101599,"笼":101600,"èĪĮ":101601,"æľ¬ä¹¦":101602,"èģ¯":101603,"纺":101604,"ç®Ģ缴":101605,"éĽ¢":101606,"ç¾İçļĦ":101607,"éļ¨":101608,"é«ĺå³°":101609,"è¿Ļå®¶":101610,"åĤ¬":101611,"å°¸":101612,"ç¡ķ士":101613,"èŃ·":101614,"è°¨":101615,"æĺı":101616,"æĶ¿åįı":101617,"è¡Ķ":101618,"ç¿Ĵ":101619,"åľĴ":101620,"åĽ½æ°ij":101621,"主è§Ĵ":101622,"è£ķ":101623,"伪":101624,"åºŀ":101625,"æ°ijèIJ¥":101626,"æĥ§":101627,"ç§ĺ书":101628,"çĹķ":101629,"çϾåĪĨ":101630,"溶":101631,"æĹłçĸij":101632,"çļĦçľ¼":101633,"æĵİ":101634,"ä¼Łå¤§":101635,"å½°":101636,"åħ¬å®īå±Ģ":101637,"ç³ķ":101638,"å¼¥":101639,"åĤĻ":101640,"ä¹¾":101641,"毫ä¸į":101642,"注æĺİ":101643,"å̻":101644,"æĦī":101645,"æķ¦":101646,"馨":101647,"æĶĢ":101648,"éĢĿ":101649,"åı¯éĿł":101650,"夸":101651,"åľĺ":101652,"éĿ¢ä¸Ĭ":101653,"æĬĸ":101654,"èĦĨ":101655,"é©°":101656,"ä¼IJ":101657,"妨":101658,"å®ļäºĨ":101659,"ç³Ĭ":101660,"æŃ¡":101661,"éĥ¨éķ¿":101662,"ç§ī":101663,"èĪĨ":101664,"åĪijäºĭ":101665,"åIJµ":101666,"æ¤Ĵ":101667,"è¡ĵ":101668,"豫":101669,"èı©":101670,"åѵ":101671,"饲":101672,"就好":101673,"åłª":101674,"ä¸īè§Ĵ":101675,"åľºæ¯ĶèµĽ":101676,"ä¸įåģľ":101677,"æĵħ":101678,"åħ¨æĸĩ":101679,"æ³ģ":101680,"åѦä½į":101681,"æ±°":101682,"éłĺ":101683,"åıł":101684,"éļĽ":101685,"å¸IJ":101686,"çľĭåĩº":101687,"åĮł":101688,"å±ĢéĿ¢":101689,"æ³Į":101690,"è°Ĭ":101691,"åIJĮæľŁ":101692,"æĬķæłĩ":101693,"奴":101694,"æĿ¥çľĭçľĭ":101695,"èĦ¾":101696,"èŀº":101697,"æŃī":101698,"çĽ¯":101699,"ç¨İåĬ¡":101700,"å»Ĭ":101701,"æİ©":101702,"æħ¨":101703,"çĽ¼":101704,"èĬĴ":101705,"è®Ģ":101706,"æĮ£":101707,"èĮħ":101708,"æĸ¥":101709,"æ¤ħ":101710,"åΰæĿ¥":101711,"èijĹä½ľ":101712,"çĭ±":101713,"äºĮæīĭ":101714,"ä»İæĿ¥":101715,"çĸ²":101716,"åºĬä¸Ĭ":101717,"æĸ°æµª":101718,"æ³Ħ":101719,"å¢ŀå̼":101720,"丼":101721,"æļij":101722,"ä»İä¸ļ":101723,"æ·ĭ":101724,"å¤ļæł·":101725,"æľ´":101726,"份é¢Ŀ":101727,"æŀ£":101728,"西çľģ":101729,"æľ¬è´¨":101730,"深深":101731,"èīĩ":101732,"绵":101733,"产å̼":101734,"æ¼ł":101735,"èħ»":101736,"çŃĽ":101737,"åİĮ":101738,"æģŃ":101739,"å«Įçĸij":101740,"æĪ¶":101741,"æ»ŀ":101742,"èĨĢ":101743,"åĬ£":101744,"座è°Ī":101745,"常æĢģ":101746,"çļĦæĥħ":101747,"覽":101748,"å¯Ĥ":101749,"åĮĨ":101750,"èĩº":101751,"顯":101752,"çķı":101753,"éģ£":101754,"åįľ":101755,"çŃīå¥ĸ":101756,"責":101757,"溯":101758,"éİ":101759,"çĤ¹å¤´":101760,"èĵ¬":101761,"決":101762,"éħ¬":101763,"éģĬ":101764,"è³¼":101765,"註åĨĬ":101766,"æľ¬æĬ¥":101767,"çµķ":101768,"æ´»æĢ§":101769,"åħij":101770,"éĮ¯":101771,"åĨ¶":101772,"åĸ»":101773,"æºĸ":101774,"èĤ¢":101775,"æºĥ":101776,"æĹ¬":101777,"åīĬ":101778,"çIJĨäºĭ":101779,"å±ł":101780,"æ²§":101781,"èļĢ":101782,"鼻åŃIJ":101783,"为æŃ¢":101784,"常å§Ķ":101785,"çµĤ":101786,"éĬ·":101787,"çĭĢ":101788,"ä¾£":101789,"èĥĢ":101790,"èѰ":101791,"çĶ¨è½¦":101792,"åĻª":101793,"æŃ·":101794,"åįĶ":101795,"åι":101796,"竣æĺ¯":101797,"é©Ĺ":101798,"èIJĿ":101799,"çĻ«":101800,"çĹ«":101801,"æŃ§":101802,"å¼Ĭ":101803,"媽":101804,"çıĬ":101805,"è¡·":101806,"éľī":101807,"åŁºçĿ£":101808,"éļ±":101809,"æ°¨":101810,"绸":101811,"å°¼æĸ¯":101812,"çĥĺ":101813,"æľŁåĨħ":101814,"è°ħ":101815,"éĽĩ":101816,"éļĻ":101817,"åĸī":101818,"åī¥":101819,"çĹĺ":101820,"æĮ½":101821,"çĵ£":101822,"æ¹Ľ":101823,"樱":101824,"æ¾İ":101825,"æ¹ĥ":101826,"åĨ¬å¥¥":101827,"棵":101828,"å®°":101829,"åŀĴ":101830,"æ§ĭ":101831,"ä¾Ī":101832,"èĮĦ":101833,"åĺ¿":101834,"èıĩ":101835,"çĻĤ":101836,"åĬĥ":101837,"éį":101838,"èͽ":101839,"çŀŃ":101840,"æķŀ":101841,"ä¹ĸ":101842,"飧":101843,"è¾ľ":101844,"æĩĪ":101845,"ä½£":101846,"çŀ»":101847,"åŁĶ":101848,"èĪħ":101849,"å®ŀäºĭ":101850,"é¨":101851,"å§¥":101852,"絡":101853,"åĺ»":101854,"çķ¢":101855,"æ²ĥå°Ķ":101856,"è¿Ħ":101857,"èĤĩ":101858,"æħij":101859,"ã§":101860,"äı":101861,"ðł":101862,"ð¬ĩ":101863,"ð«Ń":101864,"ð«IJ":101865,"ã³":101866,"©½":101867,"ð«ł":101868,"ãĽ":101869,"ð¬į":101870,"é¿":101871,"ð¬Ĵ":101872,"ãĻ":101873,"ð¬¤":101874,"ð¬´":101875,"ð«ĸ":101876,"ð¤":101877,"ã¬":101878,"ä²":101879,"ð«Ķ":101880,"ð«ļ":101881,"è¦ģæ±Ĥ":101882,"ä¸ĢäºĽ":101883,"å®ŀçݰ":101884,"èĢĮä¸Ķ":101885,"åĽłæŃ¤":101886,"çͱäºİ":101887,"åħ³äºİ":101888,"çĦ¶åIJİ":101889,"æİ¨åĬ¨":101890,"ä¸Ģæł·":101891,"æĮīçħ§":101892,"è¿Ļæł·çļĦ":101893,"å½¢æĪIJ":101894,"æľīäºĽ":101895,"æĽ´åĬł":101896,"ç»ıè¿ĩ":101897,"建议":101898,"æ²»çĸĹ":101899,"ä½łä»¬":101900,"æīįèĥ½":101901,"ä¿ĥè¿Ľ":101902,"åijĺå·¥":101903,"ä½ĵéªĮ":101904,"èĪĩ":101905,"åģļ好":101906,"ä¿Ŀè¯ģ":101907,"æķ´ä¸ª":101908,"æĺ¯ä¸Ģ个":101909,"éĩĩç͍":101910,"çIJĨ论":101911,"æ¯Ķå¦Ĥ":101912,"ä¸ĬçļĦ":101913,"æİ¨èįIJ":101914,"çĶ³è¯·":101915,"天空":101916,"éĥ¨èIJ½":101917,"åįģåĪĨ":101918,"æĿ¥èĩª":101919,"ä¹ĭéĹ´":101920,"è°ĥæķ´":101921,"æ¯ı天":101922,"è°ĥæŁ¥":101923,"æĤ£èĢħ":101924,"è¿ĩç¨ĭä¸Ń":101925,"é¦Ļ港":101926,"广åijĬ":101927,"éĿ¢å¯¹":101928,"满足":101929,"éķ¿æľŁ":101930,"è§ĦèĮĥ":101931,"æķ´ä½ĵ":101932,"æĶ¹åıĺ":101933,"æĻºæħ§":101934,"å¦Īå¦Ī":101935,"å¦Ĥä»Ĭ":101936,"åIJĪåIJĮ":101937,"éĥ½ä¼ļ":101938,"åĦ¿ç«¥":101939,"åĩıå°ij":101940,"éŁ³ä¹IJ":101941,"ç»ı常":101942,"ä¸Ĭå¸Ĥ":101943,"ä¼ĺç§Ģ":101944,"çļĦéĩįè¦ģ":101945,"ä¸ĢæĿ¡":101946,"æµ·å¤ĸ":101947,"åı¦å¤ĸ":101948,"ä¸Ģå®¶":101949,"åİĭåĬĽ":101950,"大åŀĭ":101951,"çľĭçĿĢ":101952,"åĪĢ":101953,"幸ç¦ı":101954,"æİ¨å¹¿":101955,"åIJĽ":101956,"å¾IJ":101957,"æī¾åΰ":101958,"äºİæĺ¯":101959,"èĩªèº«":101960,"ä¸Ģä½į":101961,"åľŁåľ°":101962,"åĬłåħ¥":101963,"æİ¢ç´¢":101964,"æ¢ģ":101965,"主åĬ¨":101966,"å°±ä¸ļ":101967,"女æĢ§":101968,"çªģçł´":101969,"ä¸įåIJĮçļĦ":101970,"è¿IJè¾ĵ":101971,"èĩªçͱ":101972,"å±ħæ°ij":101973,"æŃ¤æ¬¡":101974,"çļĦæĹ¶éĹ´":101975,"å®¶éķ¿":101976,"ä¸Ģ个人":101977,"æ£Ģæµĭ":101978,"åĨħéĥ¨":101979,"广å·ŀ":101980,"缴æĴŃ":101981,"ä»İèĢĮ":101982,"贷款":101983,"åı¬å¼Ģ":101984,"æĶ¹éĢł":101985,"人çĶŁ":101986,"å±ķ示":101987,"æ¯ıå¹´":101988,"女人":101989,"çļĦæĸ¹å¼ı":101990,"æķĪçİĩ":101991,"å±±ä¸ľ":101992,"æ¸łéģĵ":101993,"ä¼¼ä¹İ":101994,"æ¡Īä»¶":101995,"åĪ©çĽĬ":101996,"çľĭçľĭ":101997,"å¿ĥéĩĮ":101998,"ç»´æĬ¤":101999,"å®Ŀå®Ŀ":102000,"ç½ijä¸Ĭ":102001,"论åĿĽ":102002,"å°±åı¯ä»¥":102003,"ä¸įè¶³":102004,"æģ¢å¤į":102005,"å¸ĥå±Ģ":102006,"è´¡çĮ®":102007,"ä¸ĭéĻį":102008,"æİĮæı¡":102009,"çļ®èĤ¤":102010,"å·¥åħ·":102011,"éĩįåºĨ":102012,"åĵģè´¨":102013,"æİ¨åĩº":102014,"çĶ·äºº":102015,"æī¿æĭħ":102016,"çªģåĩº":102017,"èĢĮè¨Ģ":102018,"æ²Ł":102019,"åįıè°ĥ":102020,"æĺ¯ä»Ģä¹Ī":102021,"汤":102022,"æĴij":102023,"çĭ¬ç«ĭ":102024,"çݯèĬĤ":102025,"æī©å¤§":102026,"æ´ª":102027,"æĿ°":102028,"çĽIJ":102029,"ä»ģ":102030,"æ¶īåıĬ":102031,"èĢģ人":102032,"åį³ä½¿":102033,"åįĹ京":102034,"éħįåIJĪ":102035,"鬼":102036,"çĪ¶äº²":102037,"ç½Ĺæĸ¯":102038,"å°ıåĮº":102039,"æķĻæİĪ":102040,"åĨ³çŃĸ":102041,"é¢Ħ计":102042,"æľ¬äºº":102043,"伯":102044,"竹":102045,"åΰåºķ":102046,"å¸Ĥæ°ij":102047,"åĩºåı£":102048,"éĩĩè´Ń":102049,"æĢ»ç»ĵ":102050,"æŃ¦æ±ī":102051,"åĬłå¤§":102052,"å¹¿ä¸ľ":102053,"æµģç¨ĭ":102054,"人åı£":102055,"å¦Ĥæŀľä½ł":102056,"åĩºåİ»":102057,"åĩī":102058,"åĨľæ°ij":102059,"çݰ象":102060,"åĬĽåº¦":102061,"ç»ĻäºĪ":102062,"åħļå§Ķ":102063,"è¯Ńè¨Ģ":102064,"线ä¸Ĭ":102065,"æĢİæł·":102066,"åĦ¿åŃIJ":102067,"ç¡®å®ŀ":102068,"ä¹ĭå¤ĸ":102069,"éĥ½åľ¨":102070,"èī¾":102071,"çļĦæĥħåĨµ":102072,"éĩĮçļĦ":102073,"åĽ´ç»ķ":102074,"æĽ´å¤ļçļĦ":102075,"ä¾Ŀæ³ķ":102076,"åħ¬åĽŃ":102077,"å®¶éĩĮ":102078,"æ¯į亲":102079,"ä¸įåĨį":102080,"èĭ¹":102081,"æ³ķéĻ¢":102082,"éŁ©åĽ½":102083,"缸å½ĵ":102084,"ä¸įçŁ¥":102085,"è¯Ħä¼°":102086,"ä¸įç͍":102087,"顺åĪ©":102088,"éĩįè§Ĩ":102089,"è´¢åĬ¡":102090,"ä»ĸåĢij":102091,"åıijè¡Į":102092,"ä¸ĵéŨ":102093,"åħ·å¤ĩ":102094,"å¹¶ä¸įæĺ¯":102095,"è¶³çIJĥ":102096,"éŀĭ":102097,"åıij表":102098,"æ°¸è¿ľ":102099,"èIJ¥åħ»":102100,"éħįå¥Ĺ":102101,"æķ´åIJĪ":102102,"è´º":102103,"åĽŀçŃĶ":102104,"æĶ¶çĽĬ":102105,"ä¹Łè®¸":102106,"è»Ĭ":102107,"æİ¥è§¦":102108,"æĶ»åĩ»":102109,"åĽĽå·Ŀ":102110,"æĢ§èĥ½":102111,"åĽŀåΰ":102112,"èħ°":102113,"ä¹Łæ²¡æľī":102114,"å¼Ħ":102115,"设ç«ĭ":102116,"éĺ²æİ§":102117,"æĬĢå·§":102118,"éĢļ常":102119,"è´¢æĶ¿":102120,"éĥ¨ç½²":102121,"åľºæĻ¯":102122,"æ±Łèĭı":102123,"表达":102124,"åĸ·":102125,"女åĦ¿":102126,"èζ":102127,"給":102128,"ä¼ļåijĺ":102129,"æĪĸ许":102130,"亩":102131,"举æĸ¹":102132,"天津":102133,"è¿ijå¹´":102134,"çľĭæĿ¥":102135,"æ¯Ķä¾ĭ":102136,"岩":102137,"éĵľ":102138,"çİ»":102139,"å®ŀéªĮ":102140,"æĢĿç»´":102141,"æĭħå¿ĥ":102142,"æ²Ī":102143,"身边":102144,"æ·±åĮĸ":102145,"ç²¾åĩĨ":102146,"ç§ģæľį":102147,"æ¶Īéĺ²":102148,"åİ»äºĨ":102149,"ç»Ĩèĥŀ":102150,"çIJĥéĺŁ":102151,"æĺİæĺŁ":102152,"é£Łçī©":102153,"å¾Īå¿«":102154,"è®©ä½ł":102155,"ä¿¡ç͍":102156,"å͝ä¸Ģ":102157,"åħ¶å®ĥ":102158,"çŃīæĸ¹éĿ¢":102159,"å¾ĭå¸Ī":102160,"æŃ»äº¡":102161,"æŁ³":102162,"ä¸Ģæī¹":102163,"ä¸Ĭ涨":102164,"æľºåľº":102165,"å½¢åĬ¿":102166,"æĦ¿æĦı":102167,"éĽĨä½ĵ":102168,"æĸ°åŀĭ":102169,"æįŁå¤±":102170,"æĽ¸":102171,"ä¸ĭåįĪ":102172,"æ¯ı次":102173,"æĪIJå°±":102174,"åħ¬è·¯":102175,"èĻ«":102176,"åĴ±":102177,"西å®ī":102178,"æľĢä½³":102179,"ç§ijçłĶ":102180,"å¤įæĿĤ":102181,"æľºåύ":102182,"çαæĥħ":102183,"çħ§çīĩ":102184,"å¹´é¾Ħ":102185,"è³ĩæĸĻ":102186,"ç²Ĺ":102187,"åĩĨç¡®":102188,"åĬłä¸Ĭ":102189,"åĩºçīĪ":102190,"è°IJ":102191,"å®¶å±ħ":102192,"èĥĮæĻ¯":102193,"ä¸Ģ线":102194,"äºĭ项":102195,"åĬ¨ä½ľ":102196,"祥":102197,"æĢ»ä½ĵ":102198,"æĪ¿åŃIJ":102199,"ä¹Łå°±æĺ¯":102200,"大æ¦Ĥ":102201,"é«ĺæķĪ":102202,"åIJ¹":102203,"æİĪæĿĥ":102204,"éĻĦè¿ij":102205,"æ¡Īä¾ĭ":102206,"éĹ¹":102207,"çΏçΏ":102208,"彩票":102209,"æĢĴ":102210,"举æĬ¥":102211,"æĻ®éģį":102212,"çķĻä¸ĭ":102213,"è¡£æľį":102214,"æĹłè®ºæĺ¯":102215,"åħħ满":102216,"深度":102217,"æ¡ij":102218,"æĪªèĩ³":102219,"带æĿ¥çļĦ":102220,"éϵ":102221,"æĦŁæĥħ":102222,"èµļ":102223,"åĵªäºĽ":102224,"æķ´æĶ¹":102225,"æĪIJçĨŁ":102226,"å¨ľ":102227,"é¼»":102228,"磼":102229,"çĽ¾":102230,"好好":102231,"ç¬¬åĽĽ":102232,"åĨłåĨĽ":102233,"è´¢å¯Į":102234,"æľĢ好çļĦ":102235,"车åŀĭ":102236,"éĸĢ":102237,"åį³å°Ĩ":102238,"åĪĨ为":102239,"éĿĴå²Ľ":102240,"纷纷":102241,"ä»ĬæĹ¥":102242,"平衡":102243,"å¹³æĸ¹ç±³":102244,"éĤ£ç§į":102245,"åĩºçĶŁ":102246,"éĿĴæĺ¥":102247,"人群":102248,"人工":102249,"ä¹ĭä¸ĭ":102250,"æ¹ĸåĮĹ":102251,"åľ¨æŃ¤":102252,"åįļ士":102253,"æĹ¶åĪ»":102254,"æ²³åĮĹ":102255,"æĶ¾å¼ĥ":102256,"éĢļéģĵ":102257,"森æŀĹ":102258,"çĸĨ":102259,"æķ¸":102260,"èĬ³":102261,"æīĵåĩ»":102262,"æĽ¹":102263,"åĮĸåѦ":102264,"æĥ³è±¡":102265,"ä¸ĩ人":102266,"è´¢ç»ı":102267,"åħĥç´ł":102268,"ä¼ļ计":102269,"åħ¨ä½ĵ":102270,"æĦĽ":102271,"é«ĺä¸Ń":102272,"æľºéģĩ":102273,"å£°éŁ³":102274,"æĹħè¡Į":102275,"浩":102276,"æŁ±":102277,"å°ijå¹´":102278,"åĽ½å¤ĸ":102279,"èijĹåIJį":102280,"çĶŁåŃĺ":102281,"å§ľ":102282,"带é¢Ĩ":102283,"é¢ľèī²":102284,"ä¸Ĭä¸ĭ":102285,"产ä¸ļéĵ¾":102286,"æĽ´å¥½çļĦ":102287,"å²Ń":102288,"ä¼ĺæĥł":102289,"便æĺ¯":102290,"åħ§å®¹":102291,"ä¸Ģåıª":102292,"çIJ´":102293,"梦æĥ³":102294,"ç§Łèµģ":102295,"å¼ĢåIJ¯":102296,"è´Ńçī©":102297,"åĮħåIJ«":102298,"åĪ©çİĩ":102299,"èµ·äºĨ":102300,"æľīåĬĽ":102301,"éĤ£éĩĮ":102302,"审æī¹":102303,"对æīĭ":102304,"çݰéĩij":102305,"天çĦ¶":102306,"çĽĴ":102307,"çν":102308,"å¿ħçĦ¶":102309,"åĮĸå·¥":102310,"ä¸ĵåĪ©":102311,"åķ¡":102312,"å¼Ģå¿ĥ":102313,"人ä½ĵ":102314,"éģĵ士":102315,"æĢģ度":102316,"空è°ĥ":102317,"æĭĽåķĨ":102318,"å§»":102319,"第äºĶ":102320,"æ£Ĵ":102321,"ä¸Ģç³»åĪĹ":102322,"å᱿ľº":102323,"转åıĺ":102324,"åľºæīĢ":102325,"鸣":102326,"æĪ¿éĹ´":102327,"é̼":102328,"è¯ķçĤ¹":102329,"对å¤ĸ":102330,"åĩºåı°":102331,"åľ¨è¿Ļ":102332,"åİĤå®¶":102333,"巨大":102334,"ç®Ģä»ĭ":102335,"çľĭäºĨ":102336,"åħļ建":102337,"æĮĩæĮ¥":102338,"çŁ³æ²¹":102339,"ä¸įåı¯èĥ½":102340,"èݲ":102341,"ä¸į太":102342,"åĪĽæĦı":102343,"第ä¸Ģ个":102344,"è´µå·ŀ":102345,"è¿ĩäºĨ":102346,"æľ¬æĿ¥":102347,"éģĵå¾·":102348,"çŃĶæ¡Ī":102349,"é϶":102350,"ä¸Ģè·¯":102351,"èĤĸ":102352,"æ¸ħæ´ģ":102353,"æľīæľº":102354,"åIJįåįķ":102355,"æĿ±":102356,"åij¼åIJ¸":102357,"ä¸Ī":102358,"ç¦ı建":102359,"è¯ķéªĮ":102360,"å¼ķåıij":102361,"ä¹Łæ²¡":102362,"ä¸įä½ı":102363,"çĨŁæĤī":102364,"èIJ¬":102365,"ä¸įèī¯":102366,"çłĸ":102367,"èĩ´åĬĽ":102368,"çŃ¾è®¢":102369,"åIJĬ":102370,"侯":102371,"çĺ¦":102372,"å§ijå¨ĺ":102373,"æĸ¤":102374,"妻åŃIJ":102375,"æĺ¥èĬĤ":102376,"çά":102377,"æĽĿ":102378,"çĥŃæĥħ":102379,"éķ¿æ²Ļ":102380,"èIJ¥éĢł":102381,"éħ·":102382,"éĵĿ":102383,"åŁºæľ¬ä¸Ĭ":102384,"åij¨åĽ´":102385,"ä»Ģ麼":102386,"认åı¯":102387,"åĪĨåŃIJ":102388,"ä¸Ģæĸ¹éĿ¢":102389,"è½´":102390,"å¼·":102391,"马ä¸Ĭ":102392,"éĽ¾":102393,"èĩ£":102394,"å°¿":102395,"çĶŁæĦı":102396,"å®īå¾½":102397,"ç¥ŀç»ı":102398,"åĩºå¸Ń":102399,"èį¯åĵģ":102400,"çIJĨçͱ":102401,"åįıåIJĮ":102402,"æµģåĬ¨":102403,"åıijåĬ¨":102404,"åĿļå®ļ":102405,"表æĺİ":102406,"åIJİéĿ¢":102407,"ä¹īåĬ¡":102408,"å¦ĸ":102409,"æľīåı¯èĥ½":102410,"年轻人":102411,"大éĻĨ":102412,"å²³":102413,"ä¸įèµ·":102414,"çŀ¬éĹ´":102415,"ä¸įå¾Ĺä¸į":102416,"çŃ¾çº¦":102417,"åIJĪæł¼":102418,"åħļæĶ¯éĥ¨":102419,"æµİåįĹ":102420,"便åĪ©":102421,"éļıæĹ¶":102422,"å¥ī":102423,"称为":102424,"产æĿĥ":102425,"åIJķ":102426,"çĽĨ":102427,"课åłĤ":102428,"ç·ļ":102429,"æ£ī":102430,"线ä¸ĭ":102431,"èĩªè¡Į":102432,"举æİª":102433,"åݦéŨ":102434,"èĩªä¿¡":102435,"å½±è§Ĩ":102436,"ä»Ķ":102437,"çĶŁæ´»ä¸Ń":102438,"æĿĥçĽĬ":102439,"çϽèī²":102440,"å°±ä¸į":102441,"è¿Ľå±ķ":102442,"æ¯ıæĹ¥":102443,"ä¾Ľç»Ļ":102444,"æĿĥåĪ©":102445,"æĹłæķ°":102446,"çIJĨè´¢":102447,"ä¾ĿæĹ§":102448,"ä¸ĬåįĪ":102449,"è¯ĨåĪ«":102450,"çĽĪåĪ©":102451,"çłĤ":102452,"许åı¯":102453,"åIJĮäºĭ":102454,"åĺĽ":102455,"éģ¸":102456,"çĿĢåĬĽ":102457,"éŨåı£":102458,"ä¸įå¤ļ":102459,"åħ¶æ¬¡":102460,"碧":102461,"çī©çIJĨ":102462,"åĨħå¿ĥ":102463,"çϾå§ĵ":102464,"æĢ»ç»Ł":102465,"å¹²åĩĢ":102466,"积累":102467,"åıįé¦Ī":102468,"æłijç«ĭ":102469,"社交":102470,"ç§©":102471,"åįģä¸Ģ":102472,"éĤĵ":102473,"驱åĬ¨":102474,"å±ķè§Ī":102475,"èĪĴéĢĤ":102476,"åŁºåĽł":102477,"å·®å¼Ĥ":102478,"转让":102479,"å°ıå§IJ":102480,"æł·åŃIJ":102481,"ç¿Ķ":102482,"é«ĺåħ´":102483,"å½±åĵįåĬĽ":102484,"æīĭç»Ń":102485,"缸åIJĮ":102486,"缸åºĶ":102487,"æĻĴ":102488,"è§Ģ":102489,"å¸Ĥå§Ķ":102490,"èĬ¯":102491,"å±ķçݰ":102492,"åľ°çIJĥ":102493,"éĤª":102494,"ä¸Ģå®ļçļĦ":102495,"åħģ许":102496,"ä¿¡ä»»":102497,"æīij":102498,"éĻ¢æł¡":102499,"ç®Ģç§°":102500,"åģļæ³ķ":102501,"ä¹ĭè·¯":102502,"æĹĹä¸ĭ":102503,"èħĶ":102504,"æ¶Ī失":102505,"ä¸ĸçķĮä¸Ĭ":102506,"åŁİ乡":102507,"èĪŀåı°":102508,"å¾Ī大çļĦ":102509,"绣çѹ":102510,"åħ¬å¹³":102511,"èĤ¾":102512,"çļĦ好":102513,"æ±ģ":102514,"çľ¼åīį":102515,"éĽ£":102516,"å¹½":102517,"åħ±äº§":102518,"主åĬŀ":102519,"å¤Ħç½ļ":102520,"åºĻ":102521,"éģĵçIJĨ":102522,"å¼µ":102523,"æİ¥çĿĢ":102524,"çĮİ":102525,"çģĮ":102526,"çͱæŃ¤":102527,"人åĬĽ":102528,"æµģè¡Į":102529,"ä¾ł":102530,"åı¯ä»¥è¯´":102531,"èĴĭ":102532,"å½¢æĢģ":102533,"æĹ¥åŃIJ":102534,"æ¼Ĩ":102535,"çķĻåѦ":102536,"缸éĹľ":102537,"æľĢå¤ļ":102538,"åĩŃåĢŁ":102539,"åħ¬äº¤":102540,"æĮĸæİĺ":102541,"æĿĤå¿Ĺ":102542,"主人":102543,"éļľç¢į":102544,"æł¡éķ¿":102545,"æĸ¹ä½į":102546,"ä¸ĬçıŃ":102547,"å¤ļåħĥ":102548,"èĥģ":102549,"éŃħåĬĽ":102550,"èĮĤ":102551,"åħħç͵":102552,"强大":102553,"çĥ¤":102554,"å¥ĭæĸĹ":102555,"å®ŀç͍":102556,"éĺģ":102557,"ç»ĻäºĨ":102558,"æľ¬ç§ij":102559,"æłĭ":102560,"æĭ¨":102561,"æķĻç»ĥ":102562,"éĥ½çŁ¥éģĵ":102563,"æ¯ķä¸ļçĶŁ":102564,"ç¢Ĺ":102565,"åŀĤ":102566,"讼":102567,"å®ģæ³¢":102568,"åѦèĢħ":102569,"谢谢":102570,"åŁİéķĩ":102571,"æĢİä¹ĪåĬŀ":102572,"éģĶ":102573,"æĪIJ交":102574,"æ½ľåĬĽ":102575,"åį§":102576,"æĸ°å¼Ģ":102577,"éħįå¤ĩ":102578,"主åĬĽ":102579,"åij³éģĵ":102580,"çĥĤ":102581,"é£ŀè¡Į":102582,"å«ģ":102583,"大大":102584,"ç»Ļ大家":102585,"å¤ĸéĿ¢":102586,"éĨī":102587,"åıijè¨Ģ":102588,"æĹ©é¤IJ":102589,"åIJĦèĩª":102590,"å®Ļ":102591,"èį£èªī":102592,"æĬ«éľ²":102593,"é¡ŀ":102594,"åĨħçļĦ":102595,"èĤª":102596,"è¾IJ":102597,"æ³µ":102598,"æĬĽ":102599,"æĺŁæľŁ":102600,"ä¸Ģ带":102601,"çĶŁç´ł":102602,"ç»ıéĶĢ":102603,"åĩ¶":102604,"åľ°ä¸Ĭ":102605,"åij½è¿IJ":102606,"åĵ²":102607,"ä¸Ĭåİ»":102608,"æĸĩçī©":102609,"è¯ij":102610,"æĮ¯åħ´":102611,"éķ¿æĹ¶éĹ´":102612,"ç¥Ń":102613,"åIJĪèĤ¥":102614,"è¿Ŀè§Ħ":102615,"èģª":102616,"ä½İäºİ":102617,"éĢĤå½ĵ":102618,"æľīåºı":102619,"æľ¬ç½ij":102620,"çķĻè¨Ģ":102621,"æĥ³æ³ķ":102622,"çŃ¾ç½²":102623,"å§ļ":102624,"æĢ§æł¼":102625,"èĴĻåı¤":102626,"æŁı":102627,"åŀ«":102628,"åѦåİĨ":102629,"ä»ħä»ħ":102630,"讲è¯Ŀ":102631,"éĶIJ":102632,"æĢĸ":102633,"åīª":102634,"èĭį":102635,"åIJĵ":102636,"强çĥĪ":102637,"åģ¥åħ¨":102638,"çĸ¯":102639,"åı¤ä»£":102640,"å¥Ī":102641,"ä¸įçĦ¶":102642,"乡éķĩ":102643,"æľĭåıĭ们":102644,"åĤħ":102645,"èģ½":102646,"个æĢ§":102647,"æ³ķè§Ħ":102648,"å°ıéķĩ":102649,"çĶ»éĿ¢":102650,"第åħŃ":102651,"網路":102652,"åīįæĻ¯":102653,"åIJ¬è¯´":102654,"ä¼łåªĴ":102655,"æĿ¡ä¾ĭ":102656,"åĪ«çļĦ":102657,"ä¸įæĩĤ":102658,"顾éĹ®":102659,"强度":102660,"éĺ¿éĩĮ":102661,"èµ°åĬ¿":102662,"帽":102663,"çļĦç¡®":102664,"åĮºåĪ«":102665,"éĮ¢":102666,"主管":102667,"ä¸Ģçľĭ":102668,"æĸľ":102669,"åŃĺåľ¨çļĦ":102670,"仲":102671,"åį±å®³":102672,"éĵŃ":102673,"游æĪıä¸Ń":102674,"éħ±":102675,"é¾Ļ头":102676,"人å¿ĥ":102677,"éĢĢä¼ij":102678,"æµıè§Ī":102679,"åĬ«":102680,"éĺ²æ²»":102681,"ç®Ń":102682,"å±Ī":102683,"è¾½å®ģ":102684,"壤":102685,"è¿İæĿ¥":102686,"éŀį":102687,"ç͍æĿ¥":102688,"å¤§åľ°":102689,"ä»°":102690,"éĢļ讯":102691,"å¼Ģå·¥":102692,"裤":102693,"å¦ĤåIJĮ":102694,"骤":102695,"éĺŁåijĺ":102696,"轩":102697,"ç¾İæľ¯":102698,"èĻŁ":102699,"åIJĮä¸Ģ":102700,"åľĸ":102701,"书æ³ķ":102702,"æīĵåį°":102703,"åIJ«æľī":102704,"éĽĨæĪIJ":102705,"éĹ·":102706,"å¸Ĥåľºä¸Ĭ":102707,"æĹģè¾¹":102708,"åľ°æĿ¿":102709,"产çĶŁçļĦ":102710,"粤":102711,"éĩįç»Ħ":102712,"è¡Ģæ¶²":102713,"çŃĭ":102714,"åĬŀäºĭ":102715,"常è§ģçļĦ":102716,"ä¸ĬåįĬå¹´":102717,"å±ıå¹ķ":102718,"åIJīæŀĹ":102719,"å·©":102720,"åĸľçα":102721,"ç¿ł":102722,"ä¸īç§į":102723,"æ¡Ĩæŀ¶":102724,"举èİŀ":102725,"çĶĺèĤĥ":102726,"èĬ¬":102727,"åĽ¾ä¹¦":102728,"åĩ¤åĩ°":102729,"æ°ĶåĢĻ":102730,"å°´":102731,"å°¬":102732,"两天":102733,"è¾ħ导":102734,"åĢŁæ¬¾":102735,"æĹ¥èµ·":102736,"æ´Ĵ":102737,"ä¸Ģ度":102738,"è¹Ī":102739,"æ½Ń":102740,"æīĩ":102741,"çĻľ":102742,"æĸ°åħ´":102743,"åĤ²":102744,"诸å¤ļ":102745,"è´ª":102746,"éĻ·åħ¥":102747,"èĪŁ":102748,"èĤºçĤİ":102749,"ä¸Ģæł·çļĦ":102750,"åİĺ":102751,"åľ°çIJĨ":102752,"æĬķæ³¨":102753,"éļĬ":102754,"åħīä¼ı":102755,"ä¿Ŀåģ¥":102756,"åħĶ":102757,"åħ¬åĬ¡":102758,"æīĵçł´":102759,"çĶ·åŃ©":102760,"åĬ³åĬ¡":102761,"ä½łä¼ļ":102762,"çĶ¨åľ°":102763,"溢":102764,"åıijè¾¾":102765,"èĤļ":102766,"è¿ĩäºİ":102767,"èĩĤ":102768,"éĢĻæ¨£":102769,"轻轻":102770,"ä¸Ńåħ±":102771,"åIJĦåĽ½":102772,"åĶĩ":102773,"å®ŀä¹ł":102774,"èϾ":102775,"æ§½":102776,"ä¸įä¸Ĭ":102777,"åħįçĸ«":102778,"åįłæį®":102779,"å·¥ä¼ļ":102780,"åĽĬ":102781,"èĪªå¤©":102782,"åı¯çα":102783,"æĸĹäºī":102784,"çĺ¤":102785,"å¦Ĥæľī":102786,"éĽĸ":102787,"对æĪij":102788,"åĩºç§Ł":102789,"好çľĭ":102790,"太大":102791,"æ°´åĪ©":102792,"åĬ¿åĬĽ":102793,"åħ¨æ°ij":102794,"ç½¢":102795,"èµ¢å¾Ĺ":102796,"çĶµä¿¡":102797,"车éĹ´":102798,"æĻĤåĢĻ":102799,"å°ijæķ°":102800,"éĵ¸":102801,"åħ³èģĶ":102802,"ä¸įä»ħä»ħ":102803,"为æĤ¨":102804,"åĴ¸":102805,"æľºåĬ¨":102806,"è£Ļ":102807,"åĵįåºĶ":102808,"éģł":102809,"è²·":102810,"ç©´":102811,"å¢ħ":102812,"éĶ¡":102813,"çµĦ":102814,"çģ«è½¦":102815,"è³ĩè¨Ĭ":102816,"åĨ³èµĽ":102817,"污水":102818,"èªŀ":102819,"å´Ľ":102820,"ç´§å¯Ĩ":102821,"缺å°ij":102822,"å¤ļ人":102823,"æĢ»ä¹¦è®°":102824,"éĶĪ":102825,"èijĽ":102826,"å¿ĺè®°":102827,"éĻĮçĶŁ":102828,"éķ¿å¤§":102829,"åħĪè¿ĽçļĦ":102830,"ç¡ħ":102831,"åıijæĺİ":102832,"å©´åĦ¿":102833,"æīİå®ŀ":102834,"èĽĭçϽ":102835,"ä¸ĢçϾ":102836,"缮åħī":102837,"æħĮ":102838,"åĬłæ²¹":102839,"åIJŀ":102840,"ä¸Ģ群":102841,"ä¸Ńä»ĭ":102842,"å¸ĸ":102843,"å¿Į":102844,"èģĮèĥ½":102845,"广æĴŃ":102846,"çĽijå¯Ł":102847,"ç§ĺå¯Ĩ":102848,"çĭ®":102849,"è¿ĻæĿ¡":102850,"éĢ¢":102851,"æĢ¨":102852,"åįģåħŃ":102853,"試":102854,"说åΰ":102855,"åĩĿèģļ":102856,"æĮĩ示":102857,"æ°¢":102858,"å¼ĺ":102859,"éĺĢ":102860,"æĸ©":102861,"éłħ":102862,"ä¸Ģå¼Ģå§ĭ":102863,"æİĴè¡Į":102864,"åľ¨æĪij":102865,"纪å½ķ":102866,"æĬĦ":102867,"æłª":102868,"说æ³ķ":102869,"ä¸Ńèį¯":102870,"好å¤ļ":102871,"åıªä¸įè¿ĩ":102872,"çķĻåľ¨":102873,"个å°ıæĹ¶":102874,"è®¤çŁ¥":102875,"çķ«":102876,"è§ģè¿ĩ":102877,"å°ıå¾®":102878,"ä½Ľå±±":102879,"çľ¾":102880,"讲述":102881,"梳":102882,"ç§°åı·":102883,"æĹ¥æĻļ":102884,"è¢ĸ":102885,"åķ¤":102886,"æľªç»ı":102887,"æľĢæĹ©":102888,"æī®æ¼Ķ":102889,"è¡Ģ管":102890,"纱":102891,"æĥħèĬĤ":102892,"第ä¸ĥ":102893,"æį§":102894,"ä»Ĺ":102895,"æ¿ĢçĥĪ":102896,"æĹłçº¿":102897,"ä¸į容æĺĵ":102898,"å¼Ģå¹ķ":102899,"æĸ°çĶŁ":102900,"ä¸ĵ注":102901,"èij±":102902,"åįĹæµ·":102903,"çĩŁ":102904,"èµ·ä¾Ĩ":102905,"æ´¾åĩº":102906,"åĦĴ":102907,"侨":102908,"è¼ĥ":102909,"åįļè§Ī":102910,"é̾":102911,"åĮĢ":102912,"ç»ıæµİåѦ":102913,"æ¸Ĺ":102914,"ä¿ĿèŃ·":102915,"çīº":102916,"çī²":102917,"çİ«":102918,"çij°":102919,"æľĢåIJİä¸Ģ":102920,"æĶ¿åĬ¡":102921,"æ§Ľ":102922,"èĻķçIJĨ":102923,"éļIJæĤ£":102924,"æī¿åĮħ":102925,"極":102926,"æ¡©":102927,"çĽ²":102928,"导åIJij":102929,"èĩ´å¯Į":102930,"ç¼Ĩ":102931,"æģĭçα":102932,"ä¸įåĬ¨":102933,"ç»Ļ人":102934,"å·¢":102935,"表æĥħ":102936,"举åįĹ":102937,"åĨħå¤ĸ":102938,"è¾ĪåŃIJ":102939,"åıī":102940,"åįļä¼ļ":102941,"åĬŁæķĪ":102942,"渴":102943,"屬":102944,"æİĴéϤ":102945,"éĢĽ":102946,"ä¸Ģä¼ļ":102947,"ä¸įå¼Ģ":102948,"å¼Ģå¥ĸ":102949,"é»ijé¾Ļ":102950,"é»ijé¾Ļæ±Ł":102951,"å¿«ä¸ī":102952,"度åģĩ":102953,"åĿ¤":102954,"éĤ®ä»¶":102955,"æĩĴ":102956,"ä¾Ľç͵":102957,"廣":102958,"好è¯Ħ":102959,"ç§ĺ书éķ¿":102960,"æĪĺåľº":102961,"好å¥ĩ":102962,"ä¾µæĿĥ":102963,"æĨ¾":102964,"æľĢåĪĿ":102965,"æī¹åıij":102966,"åİķ":102967,"è¼ķ":102968,"æŀ¯":102969,"ä¸ļåĨħ":102970,"è´ŃæĪ¿":102971,"ä¸įåľ¨":102972,"纪å§Ķ":102973,"æīĢéľĢ":102974,"å¸Ĥéķ¿":102975,"è³½":102976,"å¼ķæĵİ":102977,"çģµéŃĤ":102978,"éĬĢ":102979,"滤":102980,"çĿIJ":102981,"å¤ļ项":102982,"åĽŀ头":102983,"èīĺ":102984,"å¤įå·¥":102985,"éĥ¨ä»¶":102986,"ç´§ç´§":102987,"æŁIJç§į":102988,"使åħ¶":102989,"æĸ°äºº":102990,"æŀļ":102991,"æ³ķå®ļ":102992,"å·´å·´":102993,"æ¶µçĽĸ":102994,"稻":102995,"æĭ¾":102996,"æĻķ":102997,"轿":102998,"éĢļè¡Į":102999,"åĵĢ":103000,"æ³Ĭ":103001,"温馨":103002,"éĽĨèģļ":103003,"çĨĻ":103004,"åĩij":103005,"åįģä¸ĥ":103006,"æ°Ķæģ¯":103007,"æıIJä¾ĽçļĦ":103008,"æ³³":103009,"奥è¿IJ":103010,"çģ¾å®³":103011,"åĩĢåĮĸ":103012,"è·¨è¶Ĭ":103013,"åĵªæĢķ":103014,"éŁ¿":103015,"å¢ŀæ·»":103016,"çĦĬ":103017,"æ®ĭçĸ¾":103018,"ç¢Į":103019,"æĤĶ":103020,"è§ģè¯ģ":103021,"è¾ĸåĮº":103022,"å¿ĥèĦı":103023,"éļ§":103024,"åį¸":103025,"åı¯èĥ½æĢ§":103026,"æľīè¶£":103027,"åī¯ä¹¦è®°":103028,"åĮĸå¦Ĩ":103029,"ä¿Ĥ":103030,"æ£ļ":103031,"éĨĩ":103032,"带头":103033,"éłĪ":103034,"追究":103035,"æijĶ":103036,"è¿Ļéĥ¨":103037,"ä¸į论":103038,"祸":103039,"å³»":103040,"éģķ":103041,"çĶŁèĤ²":103042,"å¤ł":103043,"å¤ĸ交":103044,"è¯Ħ为":103045,"ä»İå°ı":103046,"å°ıå°ı":103047,"饿":103048,"æĴ¼":103049,"è·¨å¢ĥ":103050,"被åijĬ":103051,"åįĹå®ģ":103052,"身å¿ĥ":103053,"åĨįçĶŁ":103054,"æīĢ说":103055,"æĹ¶éĹ´åĨħ":103056,"åĪĹåħ¥":103057,"éĿĴæµ·":103058,"çα好":103059,"çªĦ":103060,"èĪĪ":103061,"è¿ĩ渡":103062,"æ¿Ł":103063,"éĽĢ":103064,"审议":103065,"åĽ½èµĦ":103066,"æŃ¥ä¼IJ":103067,"轨éģĵ":103068,"信念":103069,"ä¸īåĪĨ":103070,"çĨ¬":103071,"åѵåĮĸ":103072,"ç¼ł":103073,"éĥĬ":103074,"èĪĴæľį":103075,"纪æ£Ģ":103076,"ä¸Ģä¸ĭåŃIJ":103077,"éĽ»è©±":103078,"è²ł":103079,"éĴ¥":103080,"åĮĻ":103081,"çĹ´":103082,"è¶ģ":103083,"绣":103084,"çε":103085,"è½°":103086,"éªĦ":103087,"姨":103088,"æĭĺ":103089,"çĮ´":103090,"è®¶":103091,"è¿Ļ座":103092,"çį¨":103093,"æ·ĺæ±°":103094,"çĹħä¾ĭ":103095,"æ²Ļåıij":103096,"è§Ĩ为":103097,"头æĿ¡":103098,"å¿ħè¦ģçļĦ":103099,"åı¯è°ĵ":103100,"è¯Ŀ说":103101,"ç¯Ħ":103102,"æĹ©çĤ¹":103103,"æŀ¢çº½":103104,"羡":103105,"çĪ±åĽ½":103106,"çªģåıij":103107,"éĢĬ":103108,"æ½į":103109,"èį£èĢĢ":103110,"èŁ¹":103111,"æ¦Ĥçİĩ":103112,"å¾Īä¹ħ":103113,"æĥķ":103114,"訴":103115,"åľĨ满":103116,"çļ±":103117,"åĪĨæ³Į":103118,"åħħè¶³":103119,"çľĭæ³ķ":103120,"è¾Ł":103121,"æĭ¦":103122,"æĭ©":103123,"对åºĶ":103124,"ä¸ºæł¸å¿ĥ":103125,"èħĬ":103126,"å¤ļä¹Ī":103127,"æµij":103128,"å®ıè§Ĥ":103129,"èĦĸ":103130,"åIJĪèµĦ":103131,"çĶŁæ¶¯":103132,"å®ŀè´¨":103133,"ä¼ĺçĤ¹":103134,"çĶ¨æ°´":103135,"寿åij½":103136,"沫":103137,"åIJģ":103138,"詹":103139,"åĽ½éĺ²":103140,"å´©":103141,"åĿİ":103142,"èĨı":103143,"ä¸Ģè½®":103144,"éģĹ产":103145,"æ¹¾åĮº":103146,"ç»İ":103147,"åįķ纯":103148,"æ¾Ħ":103149,"åīįåĪĹ":103150,"身影":103151,"é»ĺé»ĺ":103152,"æįī":103153,"çĴ°":103154,"èıĬ":103155,"æĢľ":103156,"åħĭæĢĿ":103157,"æĢ»å±Ģ":103158,"çĩĥæĸĻ":103159,"ä¸ļæĢģ":103160,"åIJĦæł·":103161,"åĴ½":103162,"åĩºèī²":103163,"åĪĿå¿ĥ":103164,"åıĽ":103165,"çłĶ讨":103166,"è¡«":103167,"åİĨç¨ĭ":103168,"禽":103169,"è¶³å¤ŁçļĦ":103170,"èįĨ":103171,"çľĭå¾ħ":103172,"è´©":103173,"åĨ³å¿ĥ":103174,"裹":103175,"å¸ĪèĮĥ":103176,"åŀĦ":103177,"æĿł":103178,"åĩ¸":103179,"çĬ¹è±«":103180,"çĥŃè¡Ģ":103181,"åIJĪä¼Ļ":103182,"éħµ":103183,"èIJ½åľ¨":103184,"åįłåľ°":103185,"衬":103186,"èĵī":103187,"æĦ¤":103188,"æ¸Ĭ":103189,"åĪĨæķ°":103190,"ç¬ijçĿĢ":103191,"太平":103192,"çĤ«":103193,"æİ¨ä»ĭ":103194,"æĸ¯åĿ¦":103195,"形容":103196,"æĵĬ":103197,"æĦŁåħ´è¶£":103198,"åĨĽäºº":103199,"åĩĮæĻ¨":103200,"对çħ§":103201,"åıijçĹħ":103202,"å·¾":103203,"èĪī":103204,"檢":103205,"ç¬ijäºĨ":103206,"ç¡®è¯Ĭ":103207,"è´ŁåĢº":103208,"壮大":103209,"æĪļ":103210,"äºĴèģĶ":103211,"課":103212,"èħ¦":103213,"æĹ±":103214,"åıĹæ¬¢è¿İ":103215,"åįī":103216,"éϢ士":103217,"æ©¡":103218,"ä¸Ģ对":103219,"è¾±":103220,"æ²Ĥ":103221,"åı²ä¸Ĭ":103222,"æIJı":103223,"å´ĸ":103224,"代谢":103225,"磷":103226,"é¡ĺ":103227,"æµĩ":103228,"常ç͍":103229,"åįij":103230,"åĩºåĽ½":103231,"è¯ł":103232,"稳æŃ¥":103233,"ç»ı纪":103234,"å¤ļå¤ļ":103235,"æīĢå¾Ĺ":103236,"为主é¢ĺ":103237,"ä¸ĢåĪĨ":103238,"æł½":103239,"é¡§":103240,"纲":103241,"åĥħ":103242,"å£ĵ":103243,"åĦª":103244,"ç¿°":103245,"æİĢ":103246,"人为":103247,"媳":103248,"æ´½":103249,"èĿ¶":103250,"å¤įåħ´":103251,"ä¼ļå½±åĵį":103252,"åIJĦçķĮ":103253,"éĤ£ä¸Ģ":103254,"颤":103255,"çĢı":103256,"çĢı覽":103257,"å¯ŀ":103258,"åı¯æĢķ":103259,"åį³æĹ¶":103260,"çķ´":103261,"ä¸ĭåįĬå¹´":103262,"ç¬Ķè®°":103263,"éĻĦåĬł":103264,"çĥŃæ°´":103265,"奸":103266,"ç£ħ":103267,"æĿī":103268,"æ¸ħåįİ":103269,"éĸ±":103270,"ç°¡":103271,"å¤Ħå¤Ħ":103272,"åIJĪéĩij":103273,"æ²³æµģ":103274,"ç´°":103275,"è´ŁéĿ¢":103276,"çļĦ羣å®ŀ":103277,"åĻ¨æ¢°":103278,"èĴIJ":103279,"西äºļ":103280,"å·ħ":103281,"ç²¹":103282,"åİŁæĸĩ":103283,"æŀķ":103284,"è¡Ģåİĭ":103285,"åļ´":103286,"å¸ĺ":103287,"åĨĢ":103288,"æĮ«":103289,"çĶµè·¯":103290,"å°ıä¼Ļä¼´":103291,"èĿ´":103292,"æľĢå¿«":103293,"æĭĮ":103294,"宪":103295,"æĸ·":103296,"ç¿ħ":103297,"åĴ³":103298,"åĹ½":103299,"ç¾ŀ":103300,"èººåľ¨":103301,"èµĽè½¦":103302,"æ²IJ":103303,"éĻIJ度":103304,"为ä¸Ģä½ĵ":103305,"èĴľ":103306,"幫":103307,"æIJħ":103308,"åĭĭ":103309,"åīĸ":103310,"纳ç¨İ":103311,"éķ¿æķĪ":103312,"ç½ķ":103313,"åľ¬":103314,"ç©į":103315,"éĴ©":103316,"ç¹¼":103317,"åĽ½åľŁ":103318,"è¼ī":103319,"ä¸įå¿ĺ":103320,"èŃ¦ç¤º":103321,"çģ¿":103322,"å¿ĥå¾Ĺ":103323,"æĦļ":103324,"忽çķ¥":103325,"åĽŀäºĭ":103326,"åįłæľī":103327,"æ·Ħ":103328,"çī¡":103329,"çĽijäºĭ":103330,"ç¿¡":103331,"éĴĪ对æĢ§":103332,"çªĥ":103333,"製":103334,"èĨĿ":103335,"ç³Ł":103336,"港澳":103337,"太太":103338,"澡":103339,"ç»ĨåĮĸ":103340,"åĶ®åIJİ":103341,"å®ŀåľ¨æĺ¯":103342,"ç«£":103343,"çį²":103344,"å̾åIJij":103345,"å¼ķç͍":103346,"é¹ħ":103347,"ç¬ij容":103348,"ä¹IJè¶£":103349,"æ°ijæĶ¿":103350,"éŨæĪ·":103351,"å±ģ":103352,"迷失":103353,"éĶĮ":103354,"å°ı康":103355,"åĭī":103356,"æ³¼":103357,"ä¾ĭåŃIJ":103358,"ä¸īä½į":103359,"å»ł":103360,"èĶĵ":103361,"广éĺĶ":103362,"èĢį":103363,"èĢģèĻİ":103364,"åĭŁéĽĨ":103365,"èĦļæŃ¥":103366,"æĭ¯":103367,"åŃĹåı·":103368,"çĦ°":103369,"é¢ł":103370,"èļĤ":103371,"èļģ":103372,"飯":103373,"人æĢ§":103374,"æĴ°":103375,"åİ¢":103376,"å±ĢéĻIJ":103377,"æľªæĪIJ":103378,"åĵªåĦ¿":103379,"大åıij":103380,"ä¸įå®ļ":103381,"å¾ģæ±Ĥ":103382,"éĥµ":103383,"åĢºæĿĥ":103384,"çĪ±ä½ł":103385,"èºģ":103386,"ä»ħä¾Ľ":103387,"è¿ľå¤Ħ":103388,"éĨĽ":103389,"åĥµ":103390,"积æŀģæĢ§":103391,"æİ¡":103392,"åīįä¸ī":103393,"äºİä¸Ģä½ĵ":103394,"çŀĦ":103395,"çĿģ":103396,"沸":103397,"åħ±èµ¢":103398,"éĢĢå½¹":103399,"è´Ŀå°Ķ":103400,"æİı":103401,"æĪ²":103402,"è¡į":103403,"éĶĤ":103404,"ä¸ĩä½Ļ":103405,"ç§ijåĪĽ":103406,"æ¼Ķåͱ":103407,"欧åħĥ":103408,"æ·¡æ·¡":103409,"éĿĴå±±":103410,"èĹĿ":103411,"绽":103412,"令çīĮ":103413,"éĽĨ群":103414,"ä½ľçī©":103415,"çĢij":103416,"夯":103417,"ç½ij游":103418,"åħ«å¤§":103419,"éªļ":103420,"èªĵ":103421,"ä¼ļå±ķ":103422,"åħļåı²":103423,"æ£Ģå¯ŁéĻ¢":103424,"åĸĺ":103425,"éĺ±":103426,"èĢĮåĩº":103427,"éĢļ车":103428,"éĴĵ":103429,"æĥħ人":103430,"æ¸Ľ":103431,"ä¸Ńç§ĭ":103432,"çĪŃ":103433,"åıªåī©":103434,"æĺĶ":103435,"éĩİçĶŁ":103436,"ç¡«":103437,"èIJĿåįľ":103438,"æĬµæĬĹ":103439,"çĻ«çĹ«":103440,"éĻĢ":103441,"èĶļ":103442,"å¸ľ":103443,"满满":103444,"èı±":103445,"éļĨéĩį":103446,"æĺŁçº§":103447,"æ½ĩ":103448,"åħ¬åħĥ":103449,"è°£":103450,"æ¯Ķäºļ":103451,"æ¡ĮåŃIJ":103452,"èµ£":103453,"è²¼":103454,"æĦ¿æľĽ":103455,"顽":103456,"æ´¾éģ£":103457,"ç¥Ľ":103458,"åªļ":103459,"éĺľ":103460,"èij«":103461,"èĬ¦":103462,"æ³»":103463,"å¡Į":103464,"çĭŃ":103465,"å»īæĶ¿":103466,"å¥ijæľº":103467,"æĹĹèΰ":103468,"æĥ«":103469,"严åİī":103470,"åıĭæĥħ":103471,"å¦Ĭ":103472,"å¨ł":103473,"åĵªå®¶":103474,"èĨ¨":103475,"è¶Ł":103476,"æĮª":103477,"èĻIJ":103478,"éłģ":103479,"çŀ©":103480,"éºŁ":103481,"稣":103482,"èģĶéĢļ":103483,"åı®":103484,"çİĭèĢħ":103485,"ä¸įç¡®å®ļ":103486,"çijľ":103487,"è°İ":103488,"çī¢è®°":103489,"碼":103490,"æĬ¤èĤ¤":103491,"é¡·":103492,"çĦķ":103493,"åģļ强":103494,"éļ±ç§ģ":103495,"éļ±ç§ģæ¬Ĭ":103496,"åıĹ害":103497,"ä¸įçͱ":103498,"çĥ¹":103499,"饪":103500,"驳":103501,"ä¼½":103502,"ä¸Ŀ绸":103503,"è¥Ħ":103504,"åįģä½Ļ":103505,"éºĹ":103506,"æ¬ĬåĪ©":103507,"èģŀ":103508,"åı¤èĢģ":103509,"éģı":103510,"åIJĦå¼ı":103511,"å°±è¡Į":103512,"åħ¥å¢ĥ":103513,"çĥģ":103514,"èľĺ":103515,"èĽĽ":103516,"纬":103517,"磫":103518,"è»Ł":103519,"æ´Ĺè¡£":103520,"æĦ§":103521,"é¢Ħæ¡Ī":103522,"éľĨ":103523,"æ·±åİļ":103524,"éĺ¿æĭī":103525,"åĨĻåŃĹ":103526,"åį¦":103527,"éķĢ":103528,"æ¨¡æł·":103529,"åĤį":103530,"æIJį":103531,"èĸ¯":103532,"åłħ":103533,"åħ¬ç§¯":103534,"è¨İ":103535,"ä¼łæŁĵ":103536,"毯":103537,"çIJĨå·¥":103538,"åĨ·éĵ¾":103539,"ç«ĭæĸ¹":103540,"æ¢Ń":103541,"åľ£è¯ŀ":103542,"综èīº":103543,"çİ©ç¬ij":103544,"æĥ³ä¸įåΰ":103545,"æijĩ头":103546,"æ·¹":103547,"åģĩæĹ¥":103548,"åĢĺ":103549,"è̽":103550,"èİĵ":103551,"åŁ·":103552,"èĩªè´¸":103553,"åįĬ天":103554,"æªĶ":103555,"æ¾İæ¹ĥ":103556,"éķij":103557,"丫":103558,"éĩĮç¨ĭ":103559,"å¼ĢèįĴ":103560,"èıı":103561,"å®Ŀè´µ":103562,"èѬ":103563,"åķŁ":103564,"æŁł":103565,"檬":103566,"é©Ń":103567,"æ±Ľ":103568,"çĨĬçĮ«":103569,"èķī":103570,"éļıä¹ĭ":103571,"å±ij":103572,"è¾ĥ强":103573,"èĥ³":103574,"èĨĬ":103575,"éĿĻéĿĻ":103576,"åĴª":103577,"æĭĽåij¼":103578,"代è¨Ģ":103579,"ä¿¡ç®±":103580,"è£ħéħį":103581,"æĤį":103582,"åįķ车":103583,"èIJİ":103584,"å¤ļ彩":103585,"éϏ":103586,"ä»İ严":103587,"æ©Ħ":103588,"æ¦Ħ":103589,"éĢ®":103590,"éĩĮæĸ¯":103591,"å§¿æĢģ":103592,"太æŀģ":103593,"éĩĿ":103594,"æºī":103595,"è¿Ń":103596,"秸":103597,"ç§Ĩ":103598,"å·¥å§Ķ":103599,"æ±ķ":103600,"èģĨ":103601,"佬":103602,"ç¼ħ":103603,"ç͏":103604,"åī¯å±Ģéķ¿":103605,"éĹº":103606,"誤":103607,"è¤IJ":103608,"ä¸įéĻIJ":103609,"èħķ":103610,"åijķ":103611,"磶":103612,"åĨľå®¶":103613,"管å§Ķä¼ļ":103614,"饺":103615,"èĬľ":103616,"æ¾Ī":103617,"è©¢":103618,"å¨ģå°¼æĸ¯":103619,"ä½ķåĨµ":103620,"å°ıä¼Ļ":103621,"奢ä¾Ī":103622,"è¿Ļç¯ĩ":103623,"诵":103624,"竳ç¨ĭ":103625,"ç´Ģ":103626,"éIJĺ":103627,"éĤ¢":103628,"ç³Ļ":103629,"ç¼Ģ":103630,"ä¹Ĵ":103631,"ä¹ĵ":103632,"çī¢åĽº":103633,"åĿŀ":103634,"å¼Ī":103635,"ä¾ĭå¤ĸ":103636,"廳":103637,"è§Ħ竳":103638,"èĬĻ":103639,"篷":103640,"躯":103641,"æłĪ":103642,"åĿļå®ŀ":103643,"åŁºå»º":103644,"çĿĢçľ¼":103645,"ç·´":103646,"èij©":103647,"ç¼ļ":103648,"æ¦Ĩ":103649,"主åĭķ":103650,"ç¥Ģ":103651,"äºĴéĢļ":103652,"尤为":103653,"å®Ľ":103654,"骼":103655,"æ±²":103656,"ä¾ĥ":103657,"æĤłä¹ħ":103658,"æij§":103659,"æĭĩ":103660,"é«ĵ":103661,"éºĴ":103662,"éĻĽ":103663,"æŀ¸":103664,"æĿŀ":103665,"è´¬":103666,"å°ıé¾Ļ":103667,"åĵ®":103668,"èĵ¬åĭĥ":103669,"åĮĪ":103670,"çķľçī§":103671,"娩":103672,"个å¤ļ":103673,"æ²¥":103674,"æĺ§":103675,"çĦļ":103676,"æĬijéĥģ":103677,"çĸ¡":103678,"èĺij":103679,"éģİç¨ĭ":103680,"橱":103681,"éĿĵ":103682,"大çIJĨ":103683,"髦":103684,"åĪĨ辨":103685,"渤":103686,"çĸ¤":103687,"åĬ¨èĥ½":103688,"å¼łå®¶":103689,"ä¸ĩåįĥ":103690,"滥":103691,"饥":103692,"åºŁå¼ĥ":103693,"帳":103694,"æ¼³":103695,"è±IJ":103696,"ä»ij":103697,"å«ī":103698,"å¦Ĵ":103699,"çŀĴ":103700,"è¡ħ":103701,"çĭ¸":103702,"å¾ģç¨ĭ":103703,"éĤ¯":103704,"éĥ¸":103705,"ç¥Ī":103706,"祷":103707,"è¶´":103708,"ç»ĵæŀĦæĢ§":103709,"è§ĨåIJ¬":103710,"è¬Ŀ":103711,"çĴĢ":103712,"çĴ¨":103713,"åĩºå¤Ħ":103714,"è¯Ģ":103715,"å¾ĺ":103716,"å¾Ĭ":103717,"羨":103718,"åĸĩ":103719,"åıŃ":103720,"åĺ²":103721,"çķ¸":103722,"å¹²äºĭ":103723,"æļ§":103724,"æ²Ľ":103725,"åĦĦ":103726,"å»ĵ":103727,"åİ¿éķ¿":103728,"èĥļ":103729,"çIJ¢":103730,"çŃ·":103731,"éĩĭ":103732,"ä¾®":103733,"åIJ©":103734,"åĴIJ":103735,"åĮ¿":103736,"æĬ¬èµ·":103737,"æ³£":103738,"涤":103739,"麽":103740,"æĽĻ":103741,"åī¯éĻ¢éķ¿":103742,"åħļåĴĮ":103743,"æķ£åıij":103744,"润æ»ij":103745,"åĵº":103746,"æĥ¬":103747,"漫éķ¿":103748,"ä¸įæĩĪ":103749,"åŁł":103750,"åĹĵ":103751,"èĢģçĪ·":103752,"讽":103753,"æĪĺç»ĦåIJĪ":103754,"æ£ł":103755,"åħ¨åŁŁ":103756,"èł¢":103757,"诡":103758,"åīįçŀ»":103759,"æķĽ":103760,"ä¸Ģå°ģ":103761,"å¹Ĥ":103762,"èİĨ":103763,"è¯Ŀè¯Ń":103764,"ç»ĨåĪĻ":103765,"屿":103766,"åµĮ":103767,"éĢį":103768,"åĺ±":103769,"渲":103770,"çĥ¯":103771,"çĿ¹":103772,"é¦Ĵ":103773,"èħ¥":103774,"æĬĹåĩ»":103775,"çĿ«":103776,"èįĶ":103777,"éļİ":103778,"æ³īæ°´":103779,"è¬Ĥ":103780,"çĤ¬":103781,"åĩıæİĴ":103782,"è¸Ĭ":103783,"è·»":103784,"æ·Į":103785,"éľ¾":103786,"å¥ĩ纳":103787,"å¯Ŀ":103788,"æ¤İ":103789,"æŁ¬":103790,"æĸ¯åŁº":103791,"åħ¬ç«ĭ":103792,"è¨ĵ":103793,"é£Ļ":103794,"é©¿":103795,"åĤµ":103796,"èĽĻ":103797,"ç¯ĩ竳":103798,"åĪĨæĶ¯":103799,"ä¸Ĭå¹´":103800,"çŃĿ":103801,"缤":103802,"èĢģæĹ§":103803,"åϬ":103804,"æľ¦":103805,"èĥ§":103806,"æ¶Īè²»":103807,"æĵĶ":103808,"榴":103809,"æ¿Ĵ":103810,"糯":103811,"泸":103812,"æįĨ":103813,"ç»ļ":103814,"èµİ":103815,"çIJIJ":103816,"èµĤ":103817,"æħ®":103818,"æ²Į":103819,"çĦĻ":103820,"æĴŃæĬ¥":103821,"æ·ĩ":103822,"åĪĩåħ¥":103823,"çijķ":103824,"çĸµ":103825,"éģ´":103826,"ç¨ļ":103827,"ç©©":103828,"èŀĥ":103829,"æ£ķ":103830,"æĨ§":103831,"æĨ¬":103832,"伺":103833,"æ¯Ĺ":103834,"æįį":103835,"æĬī":103836,"ç´Ĭ":103837,"å¼Ľ":103838,"æĭŃ":103839,"æĹıèĩªæ²»":103840,"åĿ·":103841,"ç«¶":103842,"詳":103843,"è¿Ħä»Ĭ":103844,"è°´":103845,"çŀŃè§£":103846,"æŁ¿":103847,"é¢Ĭ":103848,"ç°§":103849,"çĥŁèĬ±":103850,"ä¾¥":103851,"çĿ¦":103852,"éħĿ":103853,"æ°ĵ":103854,"çIJī":103855,"å§Ĭ":103856,"æ²®":103857,"æħ·":103858,"èľķ":103859,"çijļ":103860,"éĩĩçŁ¿":103861,"åł°":103862,"åºķèķ´":103863,"èĨ³":103864,"è¾ķ":103865,"éŁŃ":103866,"åĴĻ":103867,"ç²½":103868,"åīĶ":103869,"沦":103870,"èĤ´":103871,"éķ¶":103872,"æĺ¼":103873,"è¾Ĺ":103874,"婪":103875,"åĮ®":103876,"æĸĵ":103877,"æ±¶":103878,"éĥ´":103879,"éł»":103880,"çªĴ":103881,"袱":103882,"åĽ±":103883,"èĢĺ":103884,"èļĮ":103885,"çĭĻ":103886,"çĹ¹":103887,"ç¥ī":103888,"æı®":103889,"æ·Ĩ":103890,"ç£ĭ":103891,"éĺª":103892,"æ«":103893,"ã¸":103894,"϶":103895,"ãij":103896,"ð£²":103897,"ä¢":103898,"ãŃ":103899,"ð¬¨":103900,"ð¬Ģ":103901,"ð¬®":103902,"ð¬¯":103903,"ð¬ľ":103904,"ðª¨":103905,"ð«Ĺ":103906,"ð¬Ĭ":103907,"ð¬±":103908,"ð¬Ł":103909,"äİ":103910,"ð¡":103911,"äĥ":103912,"ãł":103913,"ð©":103914,"ð©¾":103915,"ð¬º":103916,"ð¬Ļ":103917,"ãĢĶ":103918,"ãĢķ":103919,"çļĦæĹ¶åĢĻ":103920,"æľīéĻIJåħ¬åı¸":103921,"ä¹ĭåIJİ":103922,"ä¸ļåĬ¡":103923,"åķĬ":103924,"èϽçĦ¶":103925,"æĭ¥æľī":103926,"äºĴèģĶç½ij":103927,"éĤ£äºĽ":103928,"ä½łçļĦ":103929,"åĨ³å®ļ":103930,"éϤäºĨ":103931,"åĽ¢éĺŁ":103932,"åı¯æĺ¯":103933,"以åIJİ":103934,"社åĮº":103935,"çļĦéĹ®é¢ĺ":103936,"å¹¶ä¸Ķ":103937,"æķĻå¸Ī":103938,"å°±ä¼ļ":103939,"天空éĥ¨èIJ½":103940,"æľĢç»Ī":103941,"å½ĵçĦ¶":103942,"ä¹Łæľī":103943,"ç¡®ä¿Ŀ":103944,"æĥ³è¦ģ":103945,"è´Ńä¹°":103946,"人çļĦ":103947,"åIJ´":103948,"çļĦåıijå±ķ":103949,"ä¸įçŁ¥éģĵ":103950,"软件":103951,"æĪij们çļĦ":103952,"çζæ¯į":103953,"åīij":103954,"èĢĮæĺ¯":103955,"å®īæİĴ":103956,"åIJİæĿ¥":103957,"çļĦåľ°æĸ¹":103958,"èµµ":103959,"èĢĥè¯ķ":103960,"çªģçĦ¶":103961,"ä¸Ģå®ļè¦ģ":103962,"åĪ¶ä½ľ":103963,"è¯Ħä»·":103964,"åħįè´¹":103965,"è´¹ç͍":103966,"绣ä¸Ģ":103967,"çĦ¶èĢĮ":103968,"è¿Ļ次":103969,"éĿĴå¹´":103970,"人类":103971,"亦":103972,"让人":103973,"è´Łè´£äºº":103974,"éĩĩåıĸ":103975,"çļĦäºĭæĥħ":103976,"ä¹Łä¼ļ":103977,"车è¾Ĩ":103978,"æĽ´æĺ¯":103979,"强åĮĸ":103980,"æĪijåĢij":103981,"以åīį":103982,"ä¼ĺåĮĸ":103983,"å§Ķåijĺä¼ļ":103984,"åĽ°éļ¾":103985,"年度":103986,"ä½įäºİ":103987,"æĮĩåĩº":103988,"åĨῬ¡":103989,"åĬŀçIJĨ":103990,"æ¯ı个":103991,"对æĸ¹":103992,"è¿Ľè¡ĮäºĨ":103993,"æľĢé«ĺ":103994,"课ç¨ĭ":103995,"身ä¸Ĭ":103996,"æĽ¾ç»ı":103997,"åĮ»çĶŁ":103998,"å®īè£ħ":103999,"æľ±":104000,"è¿IJè¡Į":104001,"åıĮæĸ¹":104002,"æľĢ大çļĦ":104003,"æŀĦ建":104004,"è¿ŀç»Ń":104005,"çļĦå°ı":104006,"她çļĦ":104007,"çŃīçŃī":104008,"æĶ¹åĸĦ":104009,"åIJĦç±»":104010,"éģĩåΰ":104011,"æľīçĿĢ":104012,"人çī©":104013,"æĢ»æĺ¯":104014,"è¿ħéĢŁ":104015,"åζå®ļ":104016,"å®ĥ们":104017,"å®ĺç½ij":104018,"è¿ĺè¦ģ":104019,"ç»Īäºİ":104020,"æĪ¿åľ°äº§":104021,"è¯ģæĺİ":104022,"èĤ¡ç¥¨":104023,"åºĶå½ĵ":104024,"èĭ±åĽ½":104025,"è¿IJç͍":104026,"æľĢæĸ°":104027,"享åıĹ":104028,"让æĪij":104029,"æĻļä¸Ĭ":104030,"å¾ŀ":104031,"å°ı说":104032,"å°¤åħ¶æĺ¯":104033,"è®Ńç»ĥ":104034,"åħ¨å¸Ĥ":104035,"æĮijæĪĺ":104036,"æľīçĤ¹":104037,"带çĿĢ":104038,"çļĦä¸ľè¥¿":104039,"é£İæł¼":104040,"é»Ħéĩij":104041,"å¼ķ导":104042,"æŃ¤å¤ĸ":104043,"æľĢè¿ij":104044,"追æ±Ĥ":104045,"强è°ĥ":104046,"ä¹Łåı¯ä»¥":104047,"æĦŁåΰ":104048,"èĩªæĪij":104049,"çī¹åĪ«æĺ¯":104050,"æĪIJéĥ½":104051,"éĢIJæ¸IJ":104052,"å¿«ä¹IJ":104053,"ä¹ĭä¸Ń":104054,"æĬķèµĦèĢħ":104055,"ä»ĸ们çļĦ":104056,"æ°ı":104057,"å·¥ä½ľäººåijĺ":104058,"äºĨä¸Ģ个":104059,"åķ¦":104060,"ä¸ĢåĢĭ":104061,"åŁºå±Ĥ":104062,"æ²ŁéĢļ":104063,"第ä¸Ģ次":104064,"并没æľī":104065,"çļĦå·¥ä½ľ":104066,"åľ¨è¿ĻéĩĮ":104067,"æŀª":104068,"æĶ¯æĴij":104069,"æĹ¶å°ļ":104070,"æĿ¥åΰ":104071,"æĶ¶è´Ń":104072,"éĿ©åij½":104073,"æĺ¯ä¸įæĺ¯":104074,"讨论":104075,"ä¸ļ绩":104076,"å°±èĥ½":104077,"ç«ĭåį³":104078,"è¡Ĺéģĵ":104079,"åľ¨ä¸Ģèµ·":104080,"æľĪ份":104081,"é«ĺ端":104082,"å¾Īéļ¾":104083,"ä¿Ħç½Ĺæĸ¯":104084,"æīĭ段":104085,"åģļåĩº":104086,"ä¼Ĺå¤ļ":104087,"å®ŀè¡Į":104088,"æīĵå¼Ģ":104089,"游客":104090,"ä¾ĿçĦ¶":104091,"å°±åĥı":104092,"离å¼Ģ":104093,"说éģĵ":104094,"æĸ°èĥ½æºIJ":104095,"溪":104096,"äºķ":104097,"令人":104098,"ä¸Ģåľº":104099,"æĪijæĥ³":104100,"两人":104101,"èĩ³å°ij":104102,"çļĦçĶŁæ´»":104103,"æĺ¯ä¸ª":104104,"èĭ±è¯Ń":104105,"æ²Ĵæľī":104106,"æĢĿèĢĥ":104107,"éĻIJåζ":104108,"åı°æ¹¾":104109,"ä¸ĢæĹ¦":104110,"çļĦä¸Ģ个":104111,"é«ĺ级":104112,"åĬŀåħ¬å®¤":104113,"å¾·åĽ½":104114,"æĪijå°±":104115,"å®ļä½į":104116,"éĢĤåºĶ":104117,"æĮĩæłĩ":104118,"åħ¨çľģ":104119,"ä¸Ĭè¿°":104120,"å®ĥçļĦ":104121,"åĽŀå®¶":104122,"欧洲":104123,"éĵģè·¯":104124,"é¼ĵåĬ±":104125,"çļĦå½±åĵį":104126,"é«ĺæł¡":104127,"天ä¸ĭ":104128,"é«ĺè´¨éĩı":104129,"æĿŃå·ŀ":104130,"èµĦ讯":104131,"æĶ¾åľ¨":104132,"æľīä¸Ģ个":104133,"å°±è¦ģ":104134,"ä¸ĬéĿ¢":104135,"è§£éĩĬ":104136,"éĢIJæŃ¥":104137,"尽管":104138,"æľīä»Ģä¹Ī":104139,"çļĦäºĭ":104140,"çĻ»è®°":104141,"人æ°ijå¸ģ":104142,"è§Ĥä¼Ĺ":104143,"è§Ĥå¯Ł":104144,"ç͵èĦij":104145,"çļĦåIJĮæĹ¶":104146,"ä½ľä¸ļ":104147,"宣å¸ĥ":104148,"çļĦä½ľç͍":104149,"åĽŀæĿ¥":104150,"éļ¾ä»¥":104151,"æīĢæľīçļĦ":104152,"å°ıåѦ":104153,"æıIJåīį":104154,"æ¤įçī©":104155,"åĩ¯":104156,"ä¸ĬäºĨ":104157,"å°±åľ¨":104158,"åħĪåIJİ":104159,"æīĭæľ¯":104160,"éĥŃ":104161,"éĿ¢åīį":104162,"æ¯ķ竣":104163,"äºĮæĺ¯":104164,"红èī²":104165,"éĺ³åħī":104166,"èĭ¹æŀľ":104167,"å¾Īå¤ļ人":104168,"ç»ĻæĪij":104169,"åĵ¦":104170,"çľ¼çĿĽ":104171,"éłŃ":104172,"ä¸Ģæĺ¯":104173,"åıijå±ķçļĦ":104174,"åıįåºĶ":104175,"æĪ¿å±ĭ":104176,"æľŁå¾ħ":104177,"ç§įæ¤į":104178,"æĸĩåѦ":104179,"åį³åı¯":104180,"é¦ĸ次":104181,"èĭ±éĽĦ":104182,"å¤ļ次":104183,"åĮħè£ħ":104184,"æ²³åįĹ":104185,"ä¹ĭéĹ´çļĦ":104186,"ä»įçĦ¶":104187,"åIJ¬åΰ":104188,"èij£äºĭéķ¿":104189,"è§ĦåĪĻ":104190,"ä¸Ģ份":104191,"大ä¼Ĺ":104192,"使å¾Ĺ":104193,"è¿Ľåı£":104194,"ä¸Ģçīĩ":104195,"æĢ§çļĦ":104196,"çļĦ大":104197,"æĪijæĺ¯":104198,"äºĴåĬ¨":104199,"æ°£":104200,"çļĨ":104201,"åħ¬åı¸çļĦ":104202,"ä¸Ģè¾¹":104203,"åıĬåħ¶":104204,"èī¯å¥½çļĦ":104205,"æĭĵå±ķ":104206,"å½ĵå¹´":104207,"å¹¿åľº":104208,"åģļäºĨ":104209,"åŁºäºİ":104210,"æıIJéĨĴ":104211,"åħĦå¼Ł":104212,"èĢģæĿ¿":104213,"è¿ijæĹ¥":104214,"çĬ¶åĨµ":104215,"注éĩį":104216,"åĪļåĪļ":104217,"è°ĥçłĶ":104218,"å¿ĥä¸Ń":104219,"æĬĬæı¡":104220,"éļıåIJİ":104221,"ä¸įå¤Ł":104222,"åĪĽä½ľ":104223,"ç«Ļåľ¨":104224,"缸äºĴ":104225,"çĸ«æĥħéĺ²æİ§":104226,"年代":104227,"带åĬ¨":104228,"伤害":104229,"竣çĦ¶":104230,"å¼ķè¿Ľ":104231,"累计":104232,"让æĪij们":104233,"åĽŀæĶ¶":104234,"æĬ¥åIJį":104235,"åĬ©åĬĽ":104236,"èģĶ缣":104237,"çŃĸçķ¥":104238,"åij¨è¾¹":104239,"åĭĴ":104240,"è¿ĺåľ¨":104241,"æµģéĩı":104242,"寻æī¾":104243,"ç͵åĬĽ":104244,"èιèζ":104245,"è¿ĺèĥ½":104246,"æĭħä»»":104247,"çļĦæĥħåĨµä¸ĭ":104248,"çļĦåİŁåĽł":104249,"缺ä¹ı":104250,"çIJĥåijĺ":104251,"å²ģçļĦ":104252,"çĶ·åŃIJ":104253,"å·¥èµĦ":104254,"è¿ijå¹´æĿ¥":104255,"åijĢ":104256,"æıIJä¾ĽäºĨ":104257,"她们":104258,"å®¶åħ·":104259,"çĩķ":104260,"è½»æĿ¾":104261,"æł¡åĽŃ":104262,"èĢĥæł¸":104263,"åį±éĻ©":104264,"åħļç»Ħç»ĩ":104265,"æĢ»ç»ıçIJĨ":104266,"çļĦæĸ°":104267,"çİ»çĴĥ":104268,"è¿Ļä½į":104269,"对æŃ¤":104270,"家人":104271,"çļĦè¦ģæ±Ĥ":104272,"温度":104273,"æĮĩæķ°":104274,"缴åΰ":104275,"æŃ¤æĹ¶":104276,"æ¹ĸåįĹ":104277,"éĥ½è¦ģ":104278,"ä½ľåĩº":104279,"åIJĦä½į":104280,"èĢĥçĶŁ":104281,"ä¾Ŀæį®":104282,"说è¯Ŀ":104283,"æĪijä¹Ł":104284,"å·¥åİĤ":104285,"åıĺæĪIJ":104286,"ä»ĸ人":104287,"æĪijè§īå¾Ĺ":104288,"åIJĦ级":104289,"ä¼łå¥ĩç§ģæľį":104290,"ä¸Ĭåįĩ":104291,"好åĥı":104292,"åĬłéĢŁ":104293,"äºĮåįģ":104294,"è¢ģ":104295,"è£ħ饰":104296,"éĥ½èĥ½":104297,"ä¸Ģå¼ł":104298,"åĬ¨æĢģ":104299,"å¹´çļĦ":104300,"è¿Ļå°±æĺ¯":104301,"ä¹Łè¦ģ":104302,"èµĦæł¼":104303,"æĪĺäºī":104304,"æĦŁè°¢":104305,"åŁ¹èĤ²":104306,"天æ°Ķ":104307,"女士":104308,"åı¯èĥ½ä¼ļ":104309,"çļĦ产åĵģ":104310,"ä¹Łå°±":104311,"主è¦ģæĺ¯":104312,"åĪºæ¿Ģ":104313,"ç»Ļä½ł":104314,"大æķ°æį®":104315,"åĮ»åѦ":104316,"åΤæĸŃ":104317,"ä»ĸ说":104318,"表æ¼Ķ":104319,"äºļæ´²":104320,"ä¸ĵé¢ĺ":104321,"ç«ŀäºīåĬĽ":104322,"éĤ£æł·":104323,"å±ķå¼Ģ":104324,"å¹³æĹ¶":104325,"æİ¥ä¸ĭæĿ¥":104326,"æī¿è¯º":104327,"æ³ķåĽ½":104328,"åħ³å¿ĥ":104329,"ä¼ļæľī":104330,"éĤĢ请":104331,"é¢Ħéĺ²":104332,"对æİ¥":104333,"好äºĨ":104334,"åĴ±ä»¬":104335,"çļĦæĦŁè§ī":104336,"æĢĿè·¯":104337,"éĥ½æ²¡æľī":104338,"çļĦæĸ¹æ³ķ":104339,"女åŃIJ":104340,"åı¸æ³ķ":104341,"è¿ĺä¼ļ":104342,"è¶ĬæĿ¥è¶Ĭå¤ļ":104343,"åĽłçĤº":104344,"æµ·åįĹ":104345,"人æķ°":104346,"å°Ĩä¼ļ":104347,"ä¸ļ主":104348,"é¤IJ饮":104349,"å±ħä½ı":104350,"åıijåĩº":104351,"è¿ijæľŁ":104352,"å¼ķé¢Ĩ":104353,"æľºåĻ¨äºº":104354,"åĩºæĿ¥çļĦ":104355,"çľĭè§ģ":104356,"ä¿Ĭ":104357,"让ä»ĸ":104358,"ä¸įæĥ³":104359,"å·¥ä½ľçļĦ":104360,"è¡¥åħħ":104361,"æµħ":104362,"çī¹å¾ģ":104363,"ä¸Ĭå¸Ĥåħ¬åı¸":104364,"ç¾İé£Ł":104365,"广西":104366,"æ¯ıä¸Ģ个":104367,"èIJ½åľ°":104368,"åĵģç§į":104369,"åĴĮè°IJ":104370,"å½»åºķ":104371,"é«ĺèĢĥ":104372,"æĺ¨å¤©":104373,"åīįå¾Ģ":104374,"çĽijæµĭ":104375,"çĻ¾åº¦":104376,"åľ¨ä¸ŃåĽ½":104377,"çļĦéľĢæ±Ĥ":104378,"亿ç¾İåħĥ":104379,"åŃ¦æľ¯":104380,"æĶ¶åΰ":104381,"æĿ¿åĿĹ":104382,"ä¸Ģ段":104383,"æŀĦæĪIJ":104384,"ä¼ģä¸ļçļĦ":104385,"表éĿ¢":104386,"æķ´çIJĨ":104387,"ç»ĵå©ļ":104388,"人家":104389,"åģľæŃ¢":104390,"åѦç§ij":104391,"æĺ¾å¾Ĺ":104392,"ä¼ijæģ¯":104393,"é¢ĦæľŁ":104394,"æĪĸæĺ¯":104395,"çļĦ主è¦ģ":104396,"åºĶ对":104397,"èµ°äºĨ":104398,"ä¸ŃéĹ´":104399,"èµ°è¿Ľ":104400,"åijĪçݰ":104401,"æIJŃéħį":104402,"é¹ı":104403,"æĺ¯åĽłä¸º":104404,"æĥħ绪":104405,"å®ļæľŁ":104406,"社ä¼ļ主ä¹ī":104407,"çŃī级":104408,"çŁĽçĽ¾":104409,"é£ŀæľº":104410,"èĩ³ä»Ĭ":104411,"æĶ¶éĽĨ":104412,"çļĦæķħäºĭ":104413,"åĪĩå®ŀ":104414,"å®ŀçݰäºĨ":104415,"å½¢æĪIJäºĨ":104416,"åįĹæĸ¹":104417,"ä¸ŃåѦ":104418,"æµ·æ´ĭ":104419,"åIJ¦åĪĻ":104420,"æĭįæijĦ":104421,"大åѦçĶŁ":104422,"åĩºçݰäºĨ":104423,"æĦıå¤ĸ":104424,"ä¹Łèĥ½":104425,"çļĦèĥ½åĬĽ":104426,"åĿIJåľ¨":104427,"åĪĻæĺ¯":104428,"èĢĥå¯Ł":104429,"å°Ĭéĩį":104430,"éĺ²æŃ¢":104431,"ç´§å¼ł":104432,"读书":104433,"åĩºè¡Į":104434,"å°±æľī":104435,"å±¥è¡Į":104436,"çݰ代åĮĸ":104437,"åĽ½åĬ¡":104438,"åĽ½åĬ¡éĻ¢":104439,"ç»´ä¿®":104440,"åİŁåĪĽ":104441,"æĺ¯æĮĩ":104442,"ä¼ijéĹ²":104443,"çĤ®":104444,"æĸ°æĹ¶ä»£":104445,"éĢĻåĢĭ":104446,"ä¸įæķ¢":104447,"å®Įç¾İ":104448,"ç»ĨèĬĤ":104449,"éŃı":104450,"èͬèıľ":104451,"é¢Ĩ导çıŃåŃIJ":104452,"è¶ħ级":104453,"è¡Įæĥħ":104454,"人工æĻºèĥ½":104455,"åį°åº¦":104456,"åŁºç¡Ģ设æĸ½":104457,"åıĪæĺ¯":104458,"èį¯çī©":104459,"åIJ¸æĶ¶":104460,"åį´æĺ¯":104461,"éĥİ":104462,"å¥ĸåĬ±":104463,"çļĦæľĭåıĭ":104464,"ä¿ĿçķĻ":104465,"è§Ħå¾ĭ":104466,"æĸ°çĸĨ":104467,"è¿ĺåı¯ä»¥":104468,"æİ¥è¿ij":104469,"æŃ¤åīį":104470,"æī¹åĩĨ":104471,"æĢİä¹Īæł·":104472,"çļĦä½įç½®":104473,"ä¸ĢåĿĹ":104474,"æĭĴç»Ŀ":104475,"顾客":104476,"ä¹Łåľ¨":104477,"ä¸ĢçĶŁ":104478,"éĥ¨éĺŁ":104479,"å¹´åīį":104480,"æĸ¹éĿ¢çļĦ":104481,"å°Ŀè¯ķ":104482,"羣æŃ£çļĦ":104483,"ç¦ģæŃ¢":104484,"è¿ĺ没æľī":104485,"æ°ijçĶŁ":104486,"èµ°åIJij":104487,"èĦ¸ä¸Ĭ":104488,"å½ĵ天":104489,"éĽĨåĽ¢åħ¬åı¸":104490,"çļĦä¸Ģç§į":104491,"西æĸ¹":104492,"åĽŀåºĶ":104493,"ä¸Ģ声":104494,"常常":104495,"æıIJåΰ":104496,"èħ¾è®¯":104497,"æľįè£ħ":104498,"为ä½ķ":104499,"äºijåįĹ":104500,"å°±ç®Ĺ":104501,"ä¼łæī¿":104502,"åıįèĢĮ":104503,"ä¸ĩåIJ¨":104504,"财产":104505,"å¦Ĥä¸ĭ":104506,"æĹ¥åīį":104507,"åİŁæľ¬":104508,"æľĢéĩįè¦ģçļĦ":104509,"认è¯ģ":104510,"ä¸Ģéģĵ":104511,"ä¿¡æģ¯åĮĸ":104512,"å¾ĹåΰäºĨ":104513,"é̲è¡Į":104514,"æĪijè¦ģ":104515,"éĢļä¿¡":104516,"室åĨħ":104517,"èµļéĴ±":104518,"æĶ¶èĹı":104519,"è§£åĨ³æĸ¹æ¡Ī":104520,"æĪ¿äº§":104521,"çĭ¼":104522,"æ´»åĬĽ":104523,"ç»ıæµİåıijå±ķ":104524,"çŃīå¾ħ":104525,"ä¹Łå¾Ī":104526,"åĿij":104527,"å¾Ī好çļĦ":104528,"éļ¾åº¦":104529,"ä¸įå¦Ĥ":104530,"人æ°ijæĶ¿åºľ":104531,"åĩºåıij":104532,"åīįæľŁ":104533,"æ¼Ķåijĺ":104534,"女çĶŁ":104535,"èģļçĦ¦":104536,"审计":104537,"é¢Ħæµĭ":104538,"ä¾Ŀæīĺ":104539,"äºĶå¹´":104540,"补贴":104541,"æ¸ħæĻ°":104542,"éªĤ":104543,"çľĭèµ·æĿ¥":104544,"çļĦåŃ©åŃIJ":104545,"é¢ijéģĵ":104546,"ä½ıå®ħ":104547,"éĿ¢åIJij":104548,"æľĢä½İ":104549,"æĹ¢çĦ¶":104550,"ä¸Ģå¥Ĺ":104551,"æķ°åѦ":104552,"群ä½ĵ":104553,"åĮĹ京å¸Ĥ":104554,"å±ħçĦ¶":104555,"æ°ĽåĽ´":104556,"éĢĶå¾Ħ":104557,"çļĦåŁºç¡Ģä¸Ĭ":104558,"èģĮè´£":104559,"åı¯èĥ½æĺ¯":104560,"åĨĽäºĭ":104561,"æĪIJæķĪ":104562,"åŃ©åŃIJ们":104563,"计ç®Ĺæľº":104564,"赤":104565,"产ä¸ļåıijå±ķ":104566,"巨大çļĦ":104567,"工人":104568,"çĶŁéķ¿":104569,"éĥ½åı¯ä»¥":104570,"çļĦæľºä¼ļ":104571,"èµĦè´¨":104572,"çĹĽèĭ¦":104573,"ç²īä¸Ŀ":104574,"å¢ĵ":104575,"å¹³å®ī":104576,"管éģĵ":104577,"è·ŁçĿĢ":104578,"é¥®é£Ł":104579,"åķĨå®¶":104580,"å¤ļå®¶":104581,"åı¸æľº":104582,"åºĶ该æĺ¯":104583,"éĢıéľ²":104584,"认å®ļ":104585,"è¡Įä¸ļçļĦ":104586,"çļĦä¼ģä¸ļ":104587,"æ¯ıä¸Ģ":104588,"èĮĥåĽ´åĨħ":104589,"è¾ĥ大":104590,"è´¤":104591,"å¤§èµĽ":104592,"å¤ļäºĨ":104593,"鸿":104594,"临åºĬ":104595,"åľ¨è¿Ļ个":104596,"çļĦåĨħ容":104597,"éĶĢéĩı":104598,"å¾Īå°ij":104599,"åŃŁ":104600,"ç»´æĮģ":104601,"åĴĸåķ¡":104602,"æľ¬åľ°":104603,"èī²å½©":104604,"å¹¶éĿŀ":104605,"èĢĮå·²":104606,"温æļĸ":104607,"èIJ§":104608,"æĬĵä½ı":104609,"èĢĮä¸įæĺ¯":104610,"åĸĬ":104611,"çļĦåħ³ç³»":104612,"çī©åĵģ":104613,"éĤ£æĺ¯":104614,"åĨľäº§åĵģ":104615,"è¿ĻæĹ¶":104616,"å©ļå§»":104617,"æ°´æŀľ":104618,"æĶ¶èİ·":104619,"ä»ĺåĩº":104620,"客æĪ·ç«¯":104621,"æ¼Ķåĩº":104622,"åħ¨æĸ°":104623,"è¿Ļä¹Łæĺ¯":104624,"æĺ¯çͱ":104625,"è§Ĥ念":104626,"æľī个":104627,"éĢłåŀĭ":104628,"èĥľåĪ©":104629,"ä¸īæĺ¯":104630,"è¶ħå¸Ĥ":104631,"åħļå»ºå·¥ä½ľ":104632,"æĶ¾å¿ĥ":104633,"线路":104634,"æĭĽçĶŁ":104635,"åIJĥé¥Ń":104636,"è½ī":104637,"å°½éĩı":104638,"è§ģåΰ":104639,"åIJĮæ¯Ķå¢ŀéķ¿":104640,"åįİ为":104641,"æĪijå¸Ĥ":104642,"æıIJåĩºäºĨ":104643,"æ°ijèѦ":104644,"åįļçī©":104645,"åįļçī©é¦Ĩ":104646,"è¯ļä¿¡":104647,"åīįéĿ¢":104648,"山西":104649,"è¾ħåĬ©":104650,"转移":104651,"æĽ´ä¸º":104652,"丰å¯ĮçļĦ":104653,"åį¢":104654,"å¿«éĢĴ":104655,"æĺ¾èijĹ":104656,"çī©èµĦ":104657,"åĪ°è¾¾":104658,"æľīåĪ©äºİ":104659,"åijĨ":104660,"åŃ©åŃIJçļĦ":104661,"ä¸įä½Ĩ":104662,"çłĶç©¶éĻ¢":104663,"çͳæĬ¥":104664,"æļ¨":104665,"æ°ijéĹ´":104666,"åį»":104667,"çļĦå£°éŁ³":104668,"å¸ĤåľºçļĦ":104669,"ä¸Ģåı¥":104670,"çľģ级":104671,"æĿ¥çļĦ":104672,"åĵªä¸ª":104673,"æīįä¼ļ":104674,"åĪĨéħį":104675,"èĶ¡":104676,"ä»ĸåľ¨":104677,"åħ±æľī":104678,"å¡ĺ":104679,"èĴĤ":104680,"éľį":104681,"åıĤè§Ĥ":104682,"ä¸Ī夫":104683,"ä¾ĿéĿł":104684,"æľīæĹ¶":104685,"äºĨå¾Īå¤ļ":104686,"ä¸ĸçķĮæĿ¯":104687,"å®¶æĹı":104688,"ä¸įéľĢè¦ģ":104689,"大å¸Ī":104690,"èŀįåħ¥":104691,"éĿŀæ³ķ":104692,"çĹħ人":104693,"åIJİæľŁ":104694,"大家éĥ½":104695,"ç½ijåĿĢ":104696,"åİŁæĸĻ":104697,"ä¾¿å®ľ":104698,"æ¶Ľ":104699,"ä»¿ä½Ľ":104700,"å·®è·Ŀ":104701,"åı¦ä¸Ģæĸ¹éĿ¢":104702,"产åĵģçļĦ":104703,"赫":104704,"æĥħåĨµä¸ĭ":104705,"éĴ¢éĵģ":104706,"æľ¬ç«Ļ":104707,"纳åħ¥":104708,"å·²æľī":104709,"æľī没æľī":104710,"估计":104711,"é£ĺ":104712,"æľŁè´§":104713,"åĢĭ人è³ĩæĸĻ":104714,"ä¸ĵä¸ļçļĦ":104715,"çĪĨåıij":104716,"èĩ´åĬĽäºİ":104717,"çİ°åľ¨çļĦ":104718,"æľīåĵªäºĽ":104719,"çł´åĿı":104720,"æķ°åŃĹåĮĸ":104721,"åľ°éĿ¢":104722,"é»ijèī²":104723,"å¹¼åĦ¿åĽŃ":104724,"çļĦç²¾ç¥ŀ":104725,"äºŃ":104726,"导æ¼Ķ":104727,"çݰæľī":104728,"æŃ¦åύ":104729,"èĭıå·ŀ":104730,"çİĦ":104731,"æ±Łè¥¿":104732,"延伸":104733,"论æĸĩ":104734,"è¾ĥ为":104735,"çİ©æ³ķ":104736,"é¼İ":104737,"åIJĮæŃ¥":104738,"éĩĬæĶ¾":104739,"æĽĿåħī":104740,"åĿļåĨ³":104741,"å§Ķæīĺ":104742,"å°Ĩåľ¨":104743,"äºĪ以":104744,"ä½ľæĸĩ":104745,"èĢĮåľ¨":104746,"ä¼ĺåħĪ":104747,"åĽŀåİ»":104748,"ä¿®å¤į":104749,"åĽ½åĨħå¤ĸ":104750,"çŃĸåĪĴ":104751,"åıijæĶ¾":104752,"å¿ĥæĥħ":104753,"çļĦåİĨåı²":104754,"éĿ¢è¯ķ":104755,"举åĮĹ":104756,"ä¿¡åı·":104757,"ç²®é£Ł":104758,"è¯ģ书":104759,"æŁIJäºĽ":104760,"è¿IJä½ľ":104761,"åĨ²åĩ»":104762,"çĥŃçĤ¹":104763,"æĹ¶æĹ¶":104764,"æĹ¶æĹ¶å½©":104765,"åľ°çĤ¹":104766,"ä¸Ģä½ĵåĮĸ":104767,"éļ¾é¢ĺ":104768,"æĽ°":104769,"ç«ĭåĪ»":104770,"æĺ¯éĿŀ常":104771,"åħ±åĴĮ":104772,"åħ±åĴĮåĽ½":104773,"æ¿ĢåĬ±":104774,"æľīæķĪçļĦ":104775,"å¤Ħç½®":104776,"该åħ¬åı¸":104777,"æ£ĢéªĮ":104778,"èѦæĸ¹":104779,"è´¾":104780,"äºĨä¸Ģä¸ĭ":104781,"ä»ĬåIJİ":104782,"çħ®":104783,"ç͍åĵģ":104784,"读èĢħ":104785,"æĪijåľ¨":104786,"åĽŀå¤į":104787,"ä¸Ģ座":104788,"è¿ĺ没":104789,"å®ļåζ":104790,"没æĥ³åΰ":104791,"夹":104792,"ä¼łéĢĴ":104793,"ä¸Ģ款":104794,"强大çļĦ":104795,"çļĦè¡Į为":104796,"å¤ı天":104797,"åıijåĬ¨æľº":104798,"é¢ĨåŁŁçļĦ":104799,"å®ŀéªĮ室":104800,"ä¸ĢæĬĬ":104801,"æĺ¯ä¸ºäºĨ":104802,"éĻķ西":104803,"æĭħä¿Ŀ":104804,"è¾¾æĪIJ":104805,"è¦ģæĺ¯":104806,"æĺİ天":104807,"ç»Ļä»ĸ":104808,"建ç«ĭäºĨ":104809,"ä¸įè¡Į":104810,"ä¸Ńæĸĩ":104811,"åľ°è¯´":104812,"åIJİçļĦ":104813,"çĽijæİ§":104814,"é̏":104815,"æĢ»éĥ¨":104816,"æľ¬æĸĩ":104817,"鹿":104818,"æĻ¯è§Ĥ":104819,"çļĦ缮æłĩ":104820,"èĽĩ":104821,"åĨ¯":104822,"ä¸ŃåĮ»":104823,"æķĪåºĶ":104824,"产éĩı":104825,"åŃĿ":104826,"è´¦æĪ·":104827,"è¿Ŀåıį":104828,"èij£äºĭä¼ļ":104829,"äº¬ä¸ľ":104830,"责任ç¼ĸè¾ij":104831,"åķıé¡Į":104832,"çαå¿ĥ":104833,"èŃ¦å¯Ł":104834,"é¤IJåİħ":104835,"å¸ĤæĶ¿åºľ":104836,"天天":104837,"æĸ°é²ľ":104838,"éĥijå·ŀ":104839,"è¶ħè¶Ĭ":104840,"å½Ń":104841,"çŁ¥è¯Ĩ产æĿĥ":104842,"åĽŀå¿Ĩ":104843,"路线":104844,"å»īæ´ģ":104845,"éĿĴå°ijå¹´":104846,"åıĸå¾ĹäºĨ":104847,"çľĭåΰäºĨ":104848,"馬":104849,"ç²¾åĵģ":104850,"åľ°éĵģ":104851,"æĮģæľī":104852,"ä¸ĭäºĨ":104853,"æľīæĹ¶åĢĻ":104854,"ä¸Ģ人":104855,"æĴĴ":104856,"ä»Ķç»Ĩ":104857,"èĢģåħ¬":104858,"äºĭå®ŀä¸Ĭ":104859,"èģĶèµĽ":104860,"ä¾ĽåºĶéĵ¾":104861,"é¢Ħç®Ĺ":104862,"åζéĢłä¸ļ":104863,"å®īåħ¨çĶŁäº§":104864,"俱ä¹IJ":104865,"俱ä¹IJéĥ¨":104866,"çļĦæł¸å¿ĥ":104867,"æīĵç®Ĺ":104868,"å½±çīĩ":104869,"æIJŃ建":104870,"ä¹Łä¸įä¼ļ":104871,"æĭħå½ĵ":104872,"å±ĤéĿ¢":104873,"åѦåijĺ":104874,"临æĹ¶":104875,"缸ç»ĵåIJĪ":104876,"对æ¯Ķ":104877,"ä»ĸæĺ¯":104878,"æĸ°åĮº":104879,"è¿Ľåİ»":104880,"çϾ年":104881,"ä¿©":104882,"尽快":104883,"ç͵åŃIJåķĨåĬ¡":104884,"æĽ´æľī":104885,"æ¸ħçIJĨ":104886,"åı¦ä¸Ģ个":104887,"åĤ»":104888,"ä»Ģä¹Īæł·çļĦ":104889,"æĺ¯æľĢ":104890,"åij¨å¹´":104891,"å¾Ī容æĺĵ":104892,"åĽ¢ç»ĵ":104893,"ç´Ħ":104894,"æĹ©å·²":104895,"çļĦåıĺåĮĸ":104896,"éľŀ":104897,"æĹ¥ä¸ĬåįĪ":104898,"失åİ»":104899,"ä¸Ńåľĭ":104900,"çļĦä¸ĢäºĽ":104901,"å°ıåŃ©":104902,"ä¸ĭè·Į":104903,"éĶ»çĤ¼":104904,"éij":104905,"éij«":104906,"å¿ĹæĦ¿èĢħ":104907,"èĤ¡å¸Ĥ":104908,"èµĽäºĭ":104909,"许åı¯è¯ģ":104910,"åı¯æĮģç»Ń":104911,"åijĬè¯īè®°èĢħ":104912,"éĢ»è¾ij":104913,"å¼ķåħ¥":104914,"çļĦè¿ĩç¨ĭä¸Ń":104915,"è§Ĩè§ī":104916,"èĩªæ²»åĮº":104917,"è¯ģæį®":104918,"è£ħç½®":104919,"第ä¸īæĸ¹":104920,"å¹´æĿ¥":104921,"å¹¿ä¸ľçľģ":104922,"带æĿ¥äºĨ":104923,"éķ¿æ±Ł":104924,"访éĹ®":104925,"å·®ä¸įå¤ļ":104926,"æĺ¯æĪij":104927,"éģŃéģĩ":104928,"æĬĵ好":104929,"é«ĺè¾¾":104930,"å¹¶åľ¨":104931,"èĩªè§ī":104932,"ä¾ĽåºĶåķĨ":104933,"æĥħæĦŁ":104934,"ä½ıäºĨ":104935,"çļĦèģĮä¸ļ":104936,"çļĩå¸Ŀ":104937,"西éĥ¨":104938,"åĴĮå¹³":104939,"çļĦåĬĽéĩı":104940,"汪":104941,"åħħåĪĨåıijæĮ¥":104942,"æĬķè¯ī":104943,"èµ·åΰ":104944,"äºĴ缸":104945,"æ¾³éŨ":104946,"æİ¥åΰ":104947,"æ°´æ³¥":104948,"模åŀĭ":104949,"ä¸ĢåįĬ":104950,"ç§©åºı":104951,"æĪijä»¬åľ¨":104952,"æī¿è®¤":104953,"ä¸Ģéĥ¨åĪĨ":104954,"åįłæ¯Ķ":104955,"å¦ĩ女":104956,"ç²ĺ":104957,"äºĨè§£åΰ":104958,"ä¸Ģå®ļä¼ļ":104959,"åIJĦ大":104960,"èµ°åĩº":104961,"为大家":104962,"é«ĺéĵģ":104963,"åı¯ä»¥åľ¨":104964,"ä½Ĩåľ¨":104965,"çĶŁæĢģçݯå¢ĥ":104966,"èı¯":104967,"çļĦä»·æł¼":104968,"麻çĥ¦":104969,"æ¿Ģåıij":104970,"éĤ£å°±":104971,"çļĦæł·åŃIJ":104972,"为æŃ¤":104973,"å¤©åľ°":104974,"çļĦ缮çļĦ":104975,"åĢºåΏ":104976,"å·²ç¶ĵ":104977,"åĽĽå¤§":104978,"åIJĮæĹ¶ä¹Ł":104979,"å½¼æŃ¤":104980,"æĭ¿åΰ":104981,"åIJ«éĩı":104982,"åįģ大":104983,"éļ¾éģĵ":104984,"å¼Ĺ":104985,"ä¸Ģ段æĹ¶éĹ´":104986,"çħ§é¡¾":104987,"æķ°æį®æĺ¾ç¤º":104988,"æĪIJ为äºĨ":104989,"èµ°åΰ":104990,"æľ¬åħ¬åı¸":104991,"ç»Ī端":104992,"ä¹Łä¸įæĺ¯":104993,"头åıij":104994,"大约":104995,"é£İæĻ¯":104996,"æ¶ĪèĢĹ":104997,"å®¡æŁ¥":104998,"äºīåıĸ":104999,"æ³ķæ²»":105000,"äºĭçī©":105001,"ç¼ĵè§£":105002,"æĥ¨":105003,"缸åºĶçļĦ":105004,"çļĦæķĪæŀľ":105005,"åıįå¤į":105006,"åıijçĶŁäºĨ":105007,"éĢĻäºĽ":105008,"ç»ĥä¹ł":105009,"åݨæĪ¿":105010,"å¼Ģæĭĵ":105011,"欣èµı":105012,"夫妻":105013,"ä¸įä¸Ģæł·":105014,"产èĥ½":105015,"èĬ¯çīĩ":105016,"è¦ģç´ł":105017,"åıį对":105018,"çİĩåħĪ":105019,"è´§çī©":105020,"æĹ¥ç͵":105021,"ä½ľå®¶":105022,"æĶ¹è¿Ľ":105023,"æĪIJåĪĨ":105024,"åĽłèĢĮ":105025,"åĩıèĤ¥":105026,"æ½ĺ":105027,"å±±ä¸ľçľģ":105028,"åĬĿ":105029,"åŁĭ":105030,"æŃ¦è£ħ":105031,"æ±ĩæĬ¥":105032,"ä¸Ģ个æľĪ":105033,"çĥŃéŨ":105034,"大éģĵ":105035,"æ´»åĭķ":105036,"éĥ½å¾Ī":105037,"çĶµæ¢¯":105038,"ç´§æĢ¥":105039,"åĢºåĬ¡":105040,"客æľį":105041,"ä¸Ģéĥ¨":105042,"ä½łæĺ¯":105043,"çݰçĬ¶":105044,"æŃ£ç¡®çļĦ":105045,"ä¹ĭå¤Ħ":105046,"ç¼ĸåζ":105047,"ä½łåı¯ä»¥":105048,"çŃīåľ°":105049,"èİī":105050,"对è¯Ŀ":105051,"æ·ĺå®Ŀ":105052,"è°ĥèĬĤ":105053,"æİĴæĶ¾":105054,"åºĵåŃĺ":105055,"ç´ļ":105056,"çļĦä¼ĺåĬ¿":105057,"æĿĥå¨ģ":105058,"以ä¸ĭç®Ģç§°":105059,"ä¸Ģ项":105060,"èģļéĽĨ":105061,"ä¼łç»ŁçļĦ":105062,"æ··åIJĪ":105063,"è¿Ļä¸ĢçĤ¹":105064,"ä¸Ģçľ¼":105065,"æĹłéĻIJ":105066,"èİ·å¾ĹäºĨ":105067,"éĢīæīĭ":105068,"åζåĵģ":105069,"åįıä½ľ":105070,"çĭ¬çī¹çļĦ":105071,"ä¸Ģ级":105072,"è¿Ļ个éĹ®é¢ĺ":105073,"æĸĮ":105074,"æĺ¯æĪij们":105075,"æķĮ人":105076,"æ¸ħæ´Ĺ":105077,"ä¸ĢçĽ´åľ¨":105078,"å°ıç±³":105079,"çļĦè¿ĩç¨ĭ":105080,"åľ¨åĮĹ京":105081,"ä¸ĢæĶ¯":105082,"æĹ©ä¸Ĭ":105083,"æĸĩèīº":105084,"ç¦ıåĪ©":105085,"é£Łç͍":105086,"æĦŁåĬ¨":105087,"åħ¨ç¨ĭ":105088,"æĶ¯åĩº":105089,"æĸ°å»º":105090,"å¸ķ":105091,"æĺ¾çĦ¶":105092,"羣çļĦæĺ¯":105093,"æĸ°éĹ»ç½ij":105094,"èĥ½åIJ¦":105095,"åįıåĬ©":105096,"亲èĩª":105097,"å¾Īæľī":105098,"çϼå±ķ":105099,"æĦı大":105100,"æĦı大åĪ©":105101,"ç͵ç½ij":105102,"æĹ¥çĽĬ":105103,"çĨ±":105104,"èĤĮèĤ¤":105105,"çĶ·æĢ§":105106,"ç»Ħ建":105107,"çŃīéĹ®é¢ĺ":105108,"æ¶ĪéϤ":105109,"æĬ¤çIJĨ":105110,"å¡ijæĸĻ":105111,"ä¹Įåħĭ":105112,"ä¹Įåħĭåħ°":105113,"åķĨæłĩ":105114,"çIJ³":105115,"æĸ°æīĭ":105116,"çļĦçī¹çĤ¹":105117,"åĴ¬":105118,"å½ĵä¸ĭ":105119,"设计å¸Ī":105120,"èµĶåģ¿":105121,"第åįģ":105122,"æĻºèĥ½åĮĸ":105123,"å¼ĢåıijåĮº":105124,"åı¯ä»¥éĢļè¿ĩ":105125,"åħ±äº§åħļ":105126,"åİī害":105127,"ç쵿´»":105128,"æĹ¶åħī":105129,"éĥ¨ä½į":105130,"人æĸĩ":105131,"è¿ĽæĿ¥":105132,"ä¹ĭæīĢ以":105133,"ä¸īåįģ":105134,"çļĦåѦçĶŁ":105135,"éĺ²æĬ¤":105136,"åĽ½äº§":105137,"æ·±åľ³å¸Ĥ":105138,"éĤ£å°±æĺ¯":105139,"åΰä½į":105140,"çľĹ":105141,"çľĹæĻ®":105142,"å®ŀæĹ¶":105143,"åı°çģ£":105144,"èĢĮä¸į":105145,"æĮĩå®ļ":105146,"åĿĿ":105147,"èħIJè´¥":105148,"çī¹å®ļ":105149,"å¢ŀéĢŁ":105150,"æłĩçѾ":105151,"æĪ¿ä»·":105152,"æĦģ":105153,"贯彻èIJ½å®ŀ":105154,"æĢ§è´¨":105155,"çłĶç©¶çĶŁ":105156,"ç¾İ容":105157,"æī¹è¯Ħ":105158,"究竣":105159,"人åĬĽèµĦæºIJ":105160,"éĸĭå§ĭ":105161,"åĽŀå½Ĵ":105162,"èIJ¥åķĨ":105163,"èIJ¥åķĨçݯå¢ĥ":105164,"ä¸ŃåĽ½äºº":105165,"çļĦåŁºæľ¬":105166,"è¯Ŀé¢ĺ":105167,"æłĩåĩĨåĮĸ":105168,"西èĹı":105169,"åĭ¾":105170,"çļĦ设计":105171,"ç®ĢåįķçļĦ":105172,"å¤įåζ":105173,"æ¸IJæ¸IJ":105174,"以å¤ĸ":105175,"èģĶåĬ¨":105176,"两次":105177,"æĢ§åĴĮ":105178,"æĽ´å¤§":105179,"çļĦåIJįåŃĹ":105180,"飦":105181,"ä½łè¦ģ":105182,"å¢ĥå¤ĸ":105183,"æĹ©æľŁ":105184,"åĪĿæŃ¥":105185,"è´¦åı·":105186,"害æĢķ":105187,"æĺ¨æĹ¥":105188,"åĪļæīį":105189,"ç¥ŀç§ĺ":105190,"ç²¾å¿ĥ":105191,"æµģéĢļ":105192,"åħ¨æĸ¹ä½į":105193,"以å¾Ģ":105194,"ä¹Łå°Ĩ":105195,"æĺ¯ä¸ŃåĽ½":105196,"åĽ½å®¶çº§":105197,"å°ĨåĨĽ":105198,"æijĬ":105199,"æľĢ为":105200,"第ä¸ĢæĹ¶éĹ´":105201,"æ¶Īæ¯Ĵ":105202,"å°Ĩäºİ":105203,"å¨ģèĥģ":105204,"èĭ±æĸĩ":105205,"æīĭä¸Ń":105206,"çIJĥè¿·":105207,"è§Ĥçľĭ":105208,"离å©ļ":105209,"æľ¬åľŁ":105210,"åĪĨæķ£":105211,"æĻ´":105212,"è¦ģ注æĦı":105213,"浪费":105214,"管æİ§":105215,"åĩºåĶ®":105216,"æĢ»è£ģ":105217,"ä¸Ģéĺµ":105218,"å¨ĩ":105219,"äºĶ个":105220,"å½ĵåĪĿ":105221,"çºłçº·":105222,"ä¸ĵç͍":105223,"å¤ĩæ¡Ī":105224,"åĪĿæľŁ":105225,"å®ĥæĺ¯":105226,"åĮºåĿĹ":105227,"åĮºåĿĹéĵ¾":105228,"大è¿ŀ":105229,"è¿Ļç±»":105230,"åıĺæĪIJäºĨ":105231,"éĤĦæĺ¯":105232,"åįļ客":105233,"çı¾åľ¨":105234,"ä¸Ģæĸ¹":105235,"å®ĮæĪIJäºĨ":105236,"è¿Ļ个æĹ¶åĢĻ":105237,"åħ¨å¹´":105238,"ä¸Ĭ线":105239,"ç½IJ":105240,"ç«ŀèµĽ":105241,"åĩºçīĪ社":105242,"åĵ¥åĵ¥":105243,"寫":105244,"å¾Ĺ以":105245,"èĬ±åĽŃ":105246,"äºĨèµ·æĿ¥":105247,"èĦ±è´«æĶ»åĿļ":105248,"çļĦåİŁåĪĻ":105249,"讲解":105250,"æ¶ĪåĮĸ":105251,"æįŁå®³":105252,"æļĤæĹ¶":105253,"å¾ĹçŁ¥":105254,"éĢĤç͍":105255,"éŨåºĹ":105256,"解读":105257,"æĻ®åıĬ":105258,"人æ°ijæ³ķéĻ¢":105259,"åī¯ä¸»ä»»":105260,"å¿ĥçģµ":105261,"è¯ĬæĸŃ":105262,"ç¾İ女":105263,"æŁ¯":105264,"年以æĿ¥":105265,"æ´»è·ĥ":105266,"åĢŁåĬ©":105267,"åħ±å»º":105268,"è¯ī讼":105269,"æĶ¾æĿ¾":105270,"çªĹåı£":105271,"ä¼ģæ¥Ń":105272,"åĬłæĭ¿":105273,"åĬłæĭ¿å¤§":105274,"ä¹°äºĨ":105275,"主æµģ":105276,"æĩĤå¾Ĺ":105277,"å°Ĩåħ¶":105278,"éĢıæĺİ":105279,"å·¥ä½ľä¸Ń":105280,"èĤ¡ä»·":105281,"æ¡£æ¡Ī":105282,"没æľīä»»ä½ķ":105283,"åijĬçŁ¥":105284,"å¹´åĪĿ":105285,"æĹ¥ä¸ĭåįĪ":105286,"åİĤåķĨ":105287,"èĬĤå¥ı":105288,"主导":105289,"è£Ŀ":105290,"åħ³éĶ®è¯į":105291,"èģĬ天":105292,"åĨĻä½ľ":105293,"æĶ¹éĿ©å¼ĢæĶ¾":105294,"æľīæľĽ":105295,"éĢļæĬ¥":105296,"èIJĮ":105297,"æĢ»é¢Ŀ":105298,"çŁŃæľŁ":105299,"ä¸Ģçķª":105300,"çĶŁæ´»çļĦ":105301,"åĮĸçļĦ":105302,"æĺ¥å¤©":105303,"è¿Ļåľº":105304,"æĸ°å¼Ģä¼łå¥ĩ":105305,"æĺ¯è¦ģ":105306,"å°ļæľª":105307,"åıĺæĽ´":105308,"ä¸Ģåij¨":105309,"客è§Ĥ":105310,"æĹ¥èĩ³":105311,"é¹°":105312,"çݲ":105313,"å°ĨæĿ¥":105314,"客人":105315,"åıĺéĿ©":105316,"说äºĨ":105317,"åİŁçIJĨ":105318,"èģĮåĬ¡":105319,"åıĪæľī":105320,"ä¸Ģåı¥è¯Ŀ":105321,"æĦŁåıĹåΰ":105322,"ç¬ĶèĢħ":105323,"ç§»æ°ij":105324,"西åįĹ":105325,"ä¹ĥèĩ³":105326,"æŃ£è§Ħ":105327,"åĪĿä¸Ń":105328,"çĬ¬":105329,"å½ĵäºĭ":105330,"å½ĵäºĭ人":105331,"æĪij们è¦ģ":105332,"åħ¥åı£":105333,"éĤ£æĹ¶":105334,"æľīéĻIJ责任":105335,"å°ij女":105336,"è¿Ļä¹Īå¤ļ":105337,"åĪĨåħ¬åı¸":105338,"å®ĩå®Ļ":105339,"çļĦéĢīæĭ©":105340,"å§IJå§IJ":105341,"åıijèµ·":105342,"è»į":105343,"æĽ´å¥½åľ°":105344,"éĻĨç»Ń":105345,"æľ¬æľįåĭĻ":105346,"å«©":105347,"èµ¶ç´§":105348,"èĦĤèĤª":105349,"第äºĮ天":105350,"æĪijä¼ļ":105351,"两ä½į":105352,"æķ²":105353,"åħ¬å®īæľºåħ³":105354,"ç§ijæĬĢåĪĽæĸ°":105355,"尺寸":105356,"è¾IJå°Ħ":105357,"å®ĹæķĻ":105358,"转æį¢":105359,"åĩºçİ°åľ¨":105360,"ä¸Ģé¢Ĺ":105361,"æľŁéĻIJ":105362,"åIJĮåѦ们":105363,"åĮĹæĸ¹":105364,"ä½łå°±":105365,"ä¸Ģ带ä¸Ģè·¯":105366,"èĢģå©Ĩ":105367,"游æĪıçݩ家":105368,"çļĦç»ĵæŀľ":105369,"è¡¥åģ¿":105370,"å¤ĸè´¸":105371,"对å¾ħ":105372,"ç»´çĶŁç´ł":105373,"ç»ıéĶĢåķĨ":105374,"è¿ĺå°Ĩ":105375,"åŃIJ女":105376,"æĽ´é«ĺ":105377,"ä¸į大":105378,"éī´å®ļ":105379,"让ä»ĸ们":105380,"æīĢè°ĵçļĦ":105381,"æŃ»äºĨ":105382,"帮æī¶":105383,"åĵ²åѦ":105384,"以ä¸ĬçļĦ":105385,"çļĦåħ³éĶ®":105386,"æĹ©å°±":105387,"æĬ¥ä»·":105388,"éģµå®Ī":105389,"æī©å¼ł":105390,"æĺ¯å¾Ī":105391,"å¼ĢéĢļ":105392,"æĸ°åĬł":105393,"æĸ°åĬłåĿ¡":105394,"ç¿»è¯ij":105395,"询éĹ®":105396,"é¸Ń":105397,"ä½ĵåĨħ":105398,"两个人":105399,"çι":105400,"éľľ":105401,"乡æĿijæĮ¯åħ´":105402,"çĿ¡è§ī":105403,"å®ĺåijĺ":105404,"åĪĽå§ĭ":105405,"åĪĽå§ĭ人":105406,"ä¼Ĺ人":105407,"åį³ä¾¿":105408,"çĸ«èĭĹ":105409,"ä¼ģä¸ļå®¶":105410,"渣":105411,"ç²¾åĬĽ":105412,"å¤ĸéĥ¨":105413,"èģªæĺİ":105414,"è¿Ļä¹Ł":105415,"å½ķåıĸ":105416,"åĨ²çªģ":105417,"åħ¨èº«":105418,"åŃ£èĬĤ":105419,"忽çĦ¶":105420,"çļĦæĢģ度":105421,"åĤ¨å¤ĩ":105422,"ä¿Ŀåħ»":105423,"çļĦæĥ³æ³ķ":105424,"ä¸Ĭæµ·å¸Ĥ":105425,"æIJºæīĭ":105426,"çļĦä¿¡æģ¯":105427,"åķĨåľº":105428,"çļĦæĢĿæĥ³":105429,"æĿĥåĬĽ":105430,"毫æĹł":105431,"æĢĢåŃķ":105432,"硬件":105433,"åĨħèĴĻåı¤":105434,"æİ¢è®¨":105435,"åħ»çĶŁ":105436,"çļĦ表çݰ":105437,"空ä¸Ń":105438,"æģIJæĢĸ":105439,"å¾Īé«ĺ":105440,"ç»ıæµİ社ä¼ļ":105441,"ä¸ĬæĿ¥":105442,"å»¶ç»Ń":105443,"éĩįå¤į":105444,"éĺ²èĮĥ":105445,"çļĦå½¢å¼ı":105446,"æľĪåºķ":105447,"èĢģ年人":105448,"绿åĮĸ":105449,"å±±åĮº":105450,"æĭ¿åĩº":105451,"æĹħ客":105452,"æĽ´æį¢":105453,"åħ¬ä¸»":105454,"èĬĤ约":105455,"åħ¨åİ¿":105456,"åĽŀæĬ¥":105457,"çIJĨæĢ§":105458,"çĸ¯çĭĤ":105459,"æ¶īå«Į":105460,"åī§æĥħ":105461,"åĨ¬åŃ£":105462,"åIJİç»Ń":105463,"è¿Ļæĺ¯ä¸Ģ个":105464,"æ¼Ķ讲":105465,"ä¸Ģå±Ĥ":105466,"æľīåħ³éĥ¨éŨ":105467,"æĹłå¥Ī":105468,"ç§įç±»":105469,"缸åħ³çļĦ":105470,"æĪĸèĢħæĺ¯":105471,"æī¶æĮģ":105472,"å¤ļæķ°":105473,"çļĦä½ľåĵģ":105474,"ä¸ĭä¸ĢæŃ¥":105475,"å¸ĪåĤħ":105476,"é«ĺéĢŁåħ¬è·¯":105477,"好åıĭ":105478,"ä¼ĺç§ĢçļĦ":105479,"è¿ĽäºĨ":105480,"æģIJæĢķ":105481,"äºĨåIJ§":105482,"大è§Ħ模":105483,"çļĦä¸ĸçķĮ":105484,"æĢĢçĸij":105485,"å··":105486,"åħ´å¥ĭ":105487,"æĪ°":105488,"æĿijéĩĮ":105489,"æľĭåıĭåľĪ":105490,"åĨ¬å¤©":105491,"ä¸Ńåįİ人æ°ij":105492,"åįıåķĨ":105493,"è¯ĦéĢī":105494,"æĹŃ":105495,"å¢ŀåĬłäºĨ":105496,"åıĹ伤":105497,"ä¸ĢèĤ¡":105498,"便æį·":105499,"ä¸ij":105500,"鹤":105501,"å¤ĸè§Ĥ":105502,"å·¥ç¨ĭå¸Ī":105503,"åĴĮåħ¶ä»ĸ":105504,"è¿Ļå°±":105505,"ä¸Ńå°ıä¼ģä¸ļ":105506,"西åĮĹ":105507,"åĽ½æľīä¼ģä¸ļ":105508,"èĭ¥æĺ¯":105509,"åı¯æĥľ":105510,"çĶŁæĹ¥":105511,"åĩ½":105512,"ä¹°åįĸ":105513,"ç¥Ŀç¦ı":105514,"人æ°ij群ä¼Ĺ":105515,"åħīæĺİ":105516,"åħ¬å¯ĵ":105517,"æĺ¯è°ģ":105518,"æĪijçŁ¥éģĵ":105519,"è¯Ńæĸĩ":105520,"æķıæĦŁ":105521,"ä¸įéĶĻçļĦ":105522,"æĿ¥è®²":105523,"æ³¢åĬ¨":105524,"çļĦ第ä¸Ģ":105525,"åľ°éľĩ":105526,"åľ¨åħ¨åĽ½":105527,"骨干":105528,"å®īç½®":105529,"å®¶ç͵":105530,"ä¸İæŃ¤":105531,"ä¸İæŃ¤åIJĮæĹ¶":105532,"åıĹçģ¾":105533,"çĥŃ线":105534,"çļĦæĬĢæľ¯":105535,"æµĭéĩı":105536,"ä¾Ŀèµĸ":105537,"ä¸ŃåĽ½çļĦ":105538,"ç̧":105539,"è¾ĥé«ĺ":105540,"踩":105541,"ä¼ļåľ¨":105542,"建éĢł":105543,"导èĪª":105544,"æĥ³èµ·":105545,"åħ¨ä¸ĸçķĮ":105546,"建æĿIJ":105547,"ç¯Ģ":105548,"çļĦåŁºç¡Ģ":105549,"èĩªåĬ¨åĮĸ":105550,"åīįåIJİ":105551,"çĿ¡çľł":105552,"æİ¨è¡Į":105553,"æį®äºĨè§£":105554,"ä»Ģä¹ĪæĹ¶åĢĻ":105555,"ä¸įåĸľæ¬¢":105556,"çħ¤çĤŃ":105557,"éĤ£ä¹Īå¤ļ":105558,"å¸ĤåľºåĮĸ":105559,"ä¸į管æĺ¯":105560,"ç«ĭåľº":105561,"éĥ½æ²¡":105562,"课é¢ĺ":105563,"æĪij们å°Ĩ":105564,"è¿ĩçļĦ":105565,"åĨįåĬłä¸Ĭ":105566,"çξ":105567,"身æĿIJ":105568,"çͷ女":105569,"è¿ľè¿ľ":105570,"çĶ·çĶŁ":105571,"èĩªèº«çļĦ":105572,"è´Łæĭħ":105573,"çϾä¸ĩ":105574,"西çıŃ":105575,"西çıŃçīĻ":105576,"åĩĢåĪ©æ¶¦":105577,"澳大":105578,"澳大åĪ©äºļ":105579,"ä¸įåİ»":105580,"æī¿åıĹ":105581,"楼çĽĺ":105582,"å¢ĥåĨħ":105583,"æ··åĩĿ":105584,"æ··åĩĿåľŁ":105585,"æĢĿæĥ³æĶ¿æ²»":105586,"å¸ĤåĮº":105587,"æĭĽæłĩ":105588,"åĽ¢ä½ĵ":105589,"è¿Ľåº¦":105590,"åĨĽéĺŁ":105591,"åıįå¼¹":105592,"äºĨä¸ĢäºĽ":105593,"æİ¥å¾ħ":105594,"çļĦåŃ¦ä¹ł":105595,"éħįéĢģ":105596,"é£Łåĵģå®īåħ¨":105597,"æĽ¿ä»£":105598,"æĺ¯ä»¥":105599,"éĢļç͍":105600,"çłĶç©¶æīĢ":105601,"ç¦ħ":105602,"æīĶ":105603,"éļĶ离":105604,"ä¸ĩå¹³æĸ¹ç±³":105605,"çļĦè§Ħå®ļ":105606,"ç»ĻæĪij们":105607,"æ¿Ģåħī":105608,"ä¼ļåĩºçݰ":105609,"çŁŃä¿¡":105610,"ç©¿çĿĢ":105611,"æ²Īéĺ³":105612,"æķĻæĿIJ":105613,"éĺ²çĸ«":105614,"ä¼ĺèī¯":105615,"约å®ļ":105616,"æĪijçľģ":105617,"åħ¬æ°ij":105618,"é쏿ĵ":105619,"é쏿ĵĩ":105620,"å·²æĪIJ为":105621,"ä¸įå¿ħ":105622,"ç¥ĸåĽ½":105623,"å¹¶æľª":105624,"åľŁå£¤":105625,"å¾®ç¬ij":105626,"äºĭä¸ļåįķä½į":105627,"çļĦ游æĪı":105628,"åħ¬ç¤º":105629,"åIJĪçIJĨçļĦ":105630,"çªĿ":105631,"æ°Ķ象":105632,"å®¶ä¸Ń":105633,"äº®çĽ¸":105634,"å᫿ĺŁ":105635,"è®°è½½":105636,"è§Ĩéĩİ":105637,"åľ°åĮºçļĦ":105638,"ä½Ĩä»ĸ":105639,"èĤĮèĤī":105640,"äºıæįŁ":105641,"åĬŀåѦ":105642,"ä¸Ģè¡Į":105643,"è¯ŀçĶŁ":105644,"åıijå¸ĥçļĦ":105645,"çļĦæľįåĬ¡":105646,"çļĦçłĶç©¶":105647,"åij¨æľ«":105648,"产ä¸ļåĽŃ":105649,"é«ĺ温":105650,"æĪIJåĬŁçļĦ":105651,"æŃ¥éª¤":105652,"åŃĺåĤ¨":105653,"åŃIJåħ¬åı¸":105654,"让她":105655,"ä¸Ńæľī":105656,"åĺī宾":105657,"妮":105658,"æĺİå¹´":105659,"äºĨåIJĹ":105660,"äºīè®®":105661,"æĪĪ":105662,"ä¸Ģæľ¬":105663,"ç¾İ丽çļĦ":105664,"ä½łè¯´":105665,"大人":105666,"æĶ»çķ¥":105667,"ä¸įæľĥ":105668,"å¾ħéģĩ":105669,"ä¸Ģè¾Ĩ":105670,"çīĪæĿĥæīĢæľī":105671,"æ°ijä¼Ĺ":105672,"åĬŁå¤«":105673,"å±ķä¼ļ":105674,"大èĦij":105675,"æ¯ıæľĪ":105676,"å°ı麦":105677,"æµĻæ±Łçľģ":105678,"çļĦæīĢæľī":105679,"ä¸ĭæ»ij":105680,"èĵĿèī²":105681,"è¦ģæĥ³":105682,"åѦçĶŁçļĦ":105683,"å½ĵä½ł":105684,"ä½ľæĪĺ":105685,"家乡":105686,"å¤ļåIJį":105687,"é«ĺäºİ":105688,"åĿļ强":105689,"è¿ŀéĶģ":105690,"åIJİæŀľ":105691,"人äºĭ":105692,"ç´ħ":105693,"æ¿ĢåĬ¨":105694,"è¿ĽæĶ»":105695,"ç©Ĩ":105696,"ä¸ĺ":105697,"让èĩªå·±":105698,"以æŃ¤":105699,"夫人":105700,"å¼Ģ设":105701,"æ°Ķè´¨":105702,"鸡èĽĭ":105703,"çĦ¡æ³ķ":105704,"åIJĥäºĨ":105705,"åĪĨåĪ«ä¸º":105706,"èģĶåIJĪåĽ½":105707,"å½ĵ代":105708,"å¦Ĥæŀľæĺ¯":105709,"è¿ľç¨ĭ":105710,"åĸĤ":105711,"è®°ä½ı":105712,"æ¸ħåįķ":105713,"åIJĪä½ľä¼Ļä¼´":105714,"åİ»åģļ":105715,"æķħéļľ":105716,"模æĭŁ":105717,"å¸ĪçĶŁ":105718,"åīįæĿ¥":105719,"ç͵è§Ĩåī§":105720,"çĥŃçα":105721,"éľ²åĩº":105722,"é«ĺå±Ĥ":105723,"ç͵åύ":105724,"纪å¾ĭ":105725,"å¼ĢåıijåķĨ":105726,"éķ¿å®ī":105727,"è½½ä½ĵ":105728,"çļĦå°±æĺ¯":105729,"被人":105730,"åıĹçIJĨ":105731,"篮çIJĥ":105732,"èİİ":105733,"交ç»Ļ":105734,"æľªæĿ¥çļĦ":105735,"两大":105736,"åIJķå¸ĥ":105737,"çŃī人":105738,"çļĦæĹ¥åŃIJ":105739,"åIJĪä½ľç¤¾":105740,"æĮijéĢī":105741,"åŃĺæ¬¾":105742,"ç³»ç»ŁçļĦ":105743,"æĬĬå®ĥ":105744,"没æľīä»Ģä¹Ī":105745,"ä»İæŃ¤":105746,"ä¸ŃåįĪ":105747,"çĸ¼çĹĽ":105748,"å·©åĽº":105749,"浪漫":105750,"缸åħ³éĥ¨éŨ":105751,"éķ¿åŁİ":105752,"纤维":105753,"ä¸ĬéŨ":105754,"çĪĨçĤ¸":105755,"èµ·çĤ¹":105756,"çļĦéĢļçŁ¥":105757,"èĢĮæĿ¥":105758,"çļĦèĢģ":105759,"æīĭéĩĮ":105760,"è¯ŃéŁ³":105761,"è¾Ľèĭ¦":105762,"æ±Łèĭıçľģ":105763,"ç͍äºĨ":105764,"身份è¯ģ":105765,"æľīåĬ©":105766,"æľīåĬ©äºİ":105767,"çī©èģĶç½ij":105768,"åĩºéŨ":105769,"å¼ŁåŃIJ":105770,"æĥ¹":105771,"è¿Ļä»¶äºĭ":105772,"æĪij们åı¯ä»¥":105773,"çļĦçĶŁåij½":105774,"æľīä¸Ģç§į":105775,"åºĹéĵº":105776,"åıĮæīĭ":105777,"çļĦæ¶Īæģ¯":105778,"èĢIJå¿ĥ":105779,"å°´å°¬":105780,"éĤ£å¤©":105781,"é¦ĸæī¹":105782,"æĺ¯ä¸Ģå®¶":105783,"人æ°Ķ":105784,"åıįæŃ£":105785,"æĪijåĴĮ":105786,"å®łçī©":105787,"ä¸į对":105788,"寻æ±Ĥ":105789,"çĽ¸ä¼¼":105790,"åľ¨ç¾İåĽ½":105791,"åı«åģļ":105792,"åĹİ":105793,"ç«ĭè¶³":105794,"ç͍éĢĶ":105795,"åħĨ":105796,"大æ°Ķ":105797,"åIJijä¸Ĭ":105798,"ä»ĸå°±":105799,"é¡¹çĽ®å»ºè®¾":105800,"èĭ¥å¹²":105801,"æĺ¯æľī":105802,"æ¿Ģæĥħ":105803,"çļĦæĦıä¹ī":105804,"æĺŃ":105805,"严éĩįçļĦ":105806,"å¯ĨéĽĨ":105807,"èĪŀè¹Ī":105808,"èį£èİ·":105809,"èİ·æĤī":105810,"æ±ŁåįĹ":105811,"åģĩå¦Ĥ":105812,"æĪ·å¤ĸ":105813,"线索":105814,"ç§ģ人":105815,"转åŀĭåįĩ级":105816,"çļĦä»·å̼":105817,"åįķçĭ¬":105818,"èĢģçϾå§ĵ":105819,"å°įæĸ¼":105820,"åĽ½éĻħåĮĸ":105821,"ä¼°å̼":105822,"æľįåĬ¡ä¸ļ":105823,"èĩŃ":105824,"æİīäºĨ":105825,"è§£åĨ³äºĨ":105826,"ä¹Łä¸įèĥ½":105827,"åħ¹":105828,"æĸ¯çī¹":105829,"æķħæĦı":105830,"è¿ĩ度":105831,"èĬĤæĹ¥":105832,"çϽçĻľ":105833,"çϽçĻľé£İ":105834,"ç»§æī¿":105835,"äºĨä¸įå°ij":105836,"äºĮ人":105837,"è§ģéĿ¢":105838,"æĥ³æĥ³":105839,"å¤įåIJĪ":105840,"康å¤į":105841,"åİ¿åŁİ":105842,"åľ¨åĽ½åĨħ":105843,"åľºåľ°":105844,"é϶çĵ·":105845,"è¿Ļ项":105846,"çľ¼ä¸Ń":105847,"糸":105848,"æĦŁè§īåΰ":105849,"æŀľçĦ¶":105850,"æĶ¾åħ¥":105851,"约æĿŁ":105852,"æİĴæŁ¥":105853,"车主":105854,"çļĦæĦıæĢĿ":105855,"æĸ°åŁİ":105856,"æĥ³çĿĢ":105857,"éģĤ":105858,"èĮ¶åı¶":105859,"ä¹°æĪ¿":105860,"åĨľæĪ·":105861,"é«ĺæīĭ":105862,"çİīç±³":105863,"æĸ°åĨłèĤºçĤİ":105864,"çħ§æĺİ":105865,"æĮĩåįĹ":105866,"踢":105867,"æķijæı´":105868,"æĻ¯çĤ¹":105869,"ç¨İæĶ¶":105870,"çļĦæīĭ":105871,"æŃ£å¥½":105872,"è¦ģæĬĬ":105873,"éļıæĦı":105874,"åħ¶å®ŀæĺ¯":105875,"ç»Ļèĩªå·±":105876,"è°ĪåΤ":105877,"æ¯ı天éĥ½":105878,"æĢģåĬ¿":105879,"é¢Ħ约":105880,"åİĨåı²ä¸Ĭ":105881,"å®Ŀè´Ŀ":105882,"åīįè¿Ľ":105883,"ä¹Łå°±æĺ¯è¯´":105884,"çļĦæĦıè§ģ":105885,"åı£ç½©":105886,"åİĺç±³":105887,"èĬ±è´¹":105888,"ä½ĵèĤ²æĬķæ³¨":105889,"åħ¬ä¼Ĺåı·":105890,"èijĹåIJįçļĦ":105891,"å¼ĢæĪ·":105892,"æĭįåįĸ":105893,"å²ģæľĪ":105894,"åĨħæ¶µ":105895,"å®Įæķ´çļĦ":105896,"é«ĺåİĭ":105897,"åħ¬åĬ¡åijĺ":105898,"使ç͍çļĦ":105899,"çĶŁäº§çº¿":105900,"妹妹":105901,"走访":105902,"æĺ¯åı¯ä»¥":105903,"åľ¨å®¶":105904,"æļ´åĬĽ":105905,"æ³°åĽ½":105906,"è´¨çĸij":105907,"ä¸įéģİ":105908,"天çĦ¶æ°Ķ":105909,"缺çĤ¹":105910,"å°ıåŀĭ":105911,"ä¸įä»ħæĺ¯":105912,"é»ijæļĹ":105913,"梨":105914,"æĸĩæĹħ":105915,"è¦ģæľī":105916,"ä¸Ńå±±":105917,"çļĦæķ°æį®":105918,"å¾Ĺå¾Ī":105919,"以便":105920,"对ä»ĸ":105921,"åĬłä»¥":105922,"çϼçı¾":105923,"设å®ļ":105924,"èĤļåŃIJ":105925,"éĿĸ":105926,"å¥īçĮ®":105927,"ä¸įåıĺ":105928,"åı£ç¢ij":105929,"åľ¨åĵªéĩĮ":105930,"ä½IJ":105931,"è¿Ļ两个":105932,"çļĦæĸ¹åIJij":105933,"æŀ«":105934,"äºĮ次":105935,"çīĩåĮº":105936,"éłIJ":105937,"ç£Ĭ":105938,"æĭ¿çĿĢ":105939,"å·²ç»ıæĪIJ为":105940,"ä¹ĭä¸Ĭ":105941,"å®ĹæĹ¨":105942,"奶奶":105943,"é«ĺæĸ°åĮº":105944,"社æľĥ":105945,"è·Łè¸ª":105946,"æľįåĬ¡ä¸Ńå¿ĥ":105947,"æī¯":105948,"æīĭæĮĩ":105949,"礼çī©":105950,"宿èĪį":105951,"ç͍å¿ĥ":105952,"æıIJé«ĺäºĨ":105953,"亮çĤ¹":105954,"ä¸įæĦ¿æĦı":105955,"æĴѿ;":105956,"å¤ļå°ijéĴ±":105957,"没ä»Ģä¹Ī":105958,"æķ°åįģ":105959,"æĢ»çĽij":105960,"çļĦåŁİå¸Ĥ":105961,"æī¾åΰäºĨ":105962,"åĨħåľ°":105963,"åΰçİ°åľ¨":105964,"æĪĺæĸĹåĬĽ":105965,"åİŁå§ĭ":105966,"åĥ§":105967,"åĢĴæĺ¯":105968,"æľĢåħ·":105969,"è´«åĽ°æĪ·":105970,"éĢģåΰ":105971,"级åĪ«":105972,"åĩºèµĦ":105973,"æĪªæŃ¢":105974,"ç§įåŃIJ":105975,"èĥ½ä¸įèĥ½":105976,"幸è¿IJ":105977,"èĸĩ":105978,"项éĵ¾":105979,"æĮĤçīĮ":105980,"ä¸Ģ樣":105981,"ä¹ĺ客":105982,"èIJ½åIJİ":105983,"ä½ĨæĪij":105984,"æĹ©åľ¨":105985,"åĬ¨æ¼«":105986,"å¹³çŃī":105987,"å¯¹ä½ł":105988,"ä¸įæĢķ":105989,"å¤ĸçķĮ":105990,"å¤ļå¹´æĿ¥":105991,"é¦ĸ个":105992,"æ²³åįĹçľģ":105993,"æĪĸåħ¶ä»ĸ":105994,"éķľå¤´":105995,"åįĹæĺĮ":105996,"ä¸ĢéĿ¢":105997,"éĢłæĪIJçļĦ":105998,"å´Ķ":105999,"çŃĴ":106000,"æķĻèĤ²éĥ¨":106001,"åľ°åŁŁ":106002,"æĺĨæĺİ":106003,"å·´é»İ":106004,"æīĭ游":106005,"ä¸ĢæĹ¶":106006,"çłį":106007,"顶级":106008,"åħ±è®¡":106009,"åİŁæ²¹":106010,"è¾īçħĮ":106011,"说æĺ¯":106012,"æĸ°åįİ社":106013,"ç»ıåİĨäºĨ":106014,"ä¸įæŃ¢":106015,"è¦ģä¹Ī":106016,"èĢħçļĦ":106017,"æĢ»æĬķèµĦ":106018,"è¡Įé©¶":106019,"ä¸Ĭå¸Ŀ":106020,"年纪":106021,"çIJ¼":106022,"ä¼łè¯´":106023,"ç²¾èĭ±":106024,"æĸ¹éĴĪ":106025,"æ±Łæ¹ĸ":106026,"æĪIJçĤº":106027,"æĢ»éĩı":106028,"æĬķæĶ¾":106029,"åĬ¨çĶ»":106030,"èŤ":106031,"ç͵æºIJ":106032,"éĴĻ":106033,"åIJĮè¡Į":106034,"æĻ®éĢļçļĦ":106035,"åĽ¾ä¹¦é¦Ĩ":106036,"è¯ĪéªĹ":106037,"æħĪåĸĦ":106038,"è¿Ļ份":106039,"主æĮģ人":106040,"å°±è¿Ļæł·":106041,"èĢĮæĪIJ":106042,"èĩªè¡Į车":106043,"ä¸ŃåĽ½çī¹èī²":106044,"èĤ¿çĺ¤":106045,"åIJ¾":106046,"å¼Łå¼Ł":106047,"åıĹçĽĬ":106048,"éĢīæĭ©äºĨ":106049,"æĺİæĺ¾çļĦ":106050,"æĬ¥èĢĥ":106051,"ç¬ijéģĵ":106052,"éĽĸçĦ¶":106053,"温å·ŀ":106054,"éĿŀæ´²":106055,"ç§įç§į":106056,"åıĤåĬłäºĨ":106057,"è´§è¿IJ":106058,"éļı便":106059,"就没æľī":106060,"縣":106061,"央è§Ĩ":106062,"ç©¿è¶Ĭ":106063,"çļĦçݰ象":106064,"åĩłæ¬¡":106065,"çļĦé£İéĻ©":106066,"æŃĮæĽ²":106067,"æľ¬å±Ĭ":106068,"å¹´åĨħ":106069,"ä¸įè¶ħè¿ĩ":106070,"è¿ĩå¤ļ":106071,"å¿ħé¡»è¦ģ":106072,"ç»ĵ论":106073,"åĢŁéī´":106074,"ç¥ŀå¥ĩ":106075,"æľŁæľĽ":106076,"ä¸ĵ享":106077,"éĿŀ常éĩįè¦ģ":106078,"æĦıè¯Ĩåΰ":106079,"åIJĪå¹¶":106080,"æĬĬèĩªå·±":106081,"å¥Ĺè£ħ":106082,"éŃĶæ³ķ":106083,"å¤ıåŃ£":106084,"ä¸įåĥı":106085,"å¢ĥçķĮ":106086,"æĥĬåĸľ":106087,"æľīä¸Ģ天":106088,"çĦ¦çĤ¹":106089,"æĪij认为":106090,"åħ°å·ŀ":106091,"ç͵æ°Ķ":106092,"èģĶç³»æĪij们":106093,"ç§ijæĻ®":106094,"她说":106095,"çļĦæĸĩ竳":106096,"å¥ĩæĢª":106097,"åıĭ好":106098,"饮æĸĻ":106099,"çļĦæĶ¯æĮģ":106100,"çŃĶåºĶ":106101,"éĩįéĩı":106102,"çij¶":106103,"åĩıè½»":106104,"ç§ijåѦ家":106105,"巴西":106106,"éĩijèŀįæľºæŀĦ":106107,"åħļå§Ķ书记":106108,"貸款":106109,"ç²¾èĩ´":106110,"ä»İæľª":106111,"åį°åĪ·":106112,"åĽŀ顾":106113,"é¦ĸéĥ½":106114,"åıijèĤ²":106115,"éĹ®éģĵ":106116,"è¾¾åΰäºĨ":106117,"å¿įä¸įä½ı":106118,"æīįæľī":106119,"æįIJèµł":106120,"ä½ĽæķĻ":106121,"ä¸įæ¸ħ":106122,"éĺŁéķ¿":106123,"缸åıį":106124,"æĬ¥èѦ":106125,"大åħ¨":106126,"æ¬§çĽŁ":106127,"帮å¿Ļ":106128,"çļĦæĻĤåĢĻ":106129,"缮å½ķ":106130,"足以":106131,"èī°éļ¾":106132,"ä»ĸä¹Ł":106133,"å·¥ä½ľèĢħ":106134,"头èĦij":106135,"缺éĻ·":106136,"æĪIJç«ĭäºĨ":106137,"å°±å¼Ģå§ĭ":106138,"认åIJĮ":106139,"é»Ħèī²":106140,"çĹħæĥħ":106141,"覺å¾Ĺ":106142,"è¿Ļ两":106143,"ä¿¡ä»°":106144,"åľĭå®¶":106145,"ä¸įä»ħä»ħæĺ¯":106146,"çĭ¬å®¶":106147,"èάçļĦ":106148,"æĿIJè´¨":106149,"æµ·ä¸Ĭ":106150,"çĤºäºĨ":106151,"æľºåĬ¨è½¦":106152,"缸å½ĵäºİ":106153,"å¤ļåħĥåĮĸ":106154,"æĽ´å¤§çļĦ":106155,"èĽ®":106156,"åģĩæľŁ":106157,"å¼ıçļĦ":106158,"交éĢļè¿IJè¾ĵ":106159,"çľģå§Ķ":106160,"ä¸įç®Ĺ":106161,"æĶ¾ä¸ĭ":106162,"éĹ¯":106163,"äººåľ¨":106164,"港åı£":106165,"æĹ¨åľ¨":106166,"åij½ä»¤":106167,"æŁIJ个":106168,"平稳":106169,"åıªå¥½":106170,"人人":106171,"äºŀ":106172,"äºĮç»´":106173,"äºĮç»´çłģ":106174,"æŀģ为":106175,"åĪ«å¢ħ":106176,"åħ¶ä½Ļ":106177,"大äºĭ":106178,"主管éĥ¨éŨ":106179,"æĹłéĶ¡":106180,"éŵ":106181,"éģŃåΰ":106182,"说è¿ĩ":106183,"ä¸ºä½ł":106184,"è§£çŃĶ":106185,"éªĮæĶ¶":106186,"çļĦç»ıéªĮ":106187,"åĮ¹éħį":106188,"çģ«ç®Ń":106189,"豪åįİ":106190,"æŁIJæŁIJ":106191,"çļĦæĹ¶ä»£":106192,"书éĿ¢":106193,"æģĴ大":106194,"å»¶éķ¿":106195,"ä¸ĢåIJĮ":106196,"æľªèĥ½":106197,"交æį¢":106198,"çĶ¢åĵģ":106199,"çŃīåΰ":106200,"åĪĨ离":106201,"æīĵç͵è¯Ŀ":106202,"å¹²çĩ¥":106203,"è¾ĥå¤ļ":106204,"å¤ļå¹´çļĦ":106205,"èĥĮæĻ¯ä¸ĭ":106206,"为ä¾ĭ":106207,"æijĺè¦ģ":106208,"å´Ľèµ·":106209,"æŃ¤åĪ»":106210,"æľīæľºä¼ļ":106211,"æĿ¡æ¬¾":106212,"é¢Ĩ导å°ıç»Ħ":106213,"çļĦ身ä½ĵ":106214,"åįķä¸Ģ":106215,"央è¡Į":106216,"ä¸įæĸŃæıIJé«ĺ":106217,"ä»·å̼è§Ĥ":106218,"èĬ½":106219,"èIJį":106220,"æ³ķå¾ĭæ³ķè§Ħ":106221,"ä¸įéĶĪ":106222,"ä¸įéĶĪéĴ¢":106223,"åĩºäºİ":106224,"èĻļæĭŁ":106225,"æį®æĤī":106226,"çĥ¦æģ¼":106227,"åħ¨æĸ°çļĦ":106228,"æī«æıı":106229,"çĻ»éĻĨ":106230,"èīºæľ¯å®¶":106231,"çļĦé£Łçī©":106232,"çļĦåŃĺåľ¨":106233,"客åİħ":106234,"æĪij们就":106235,"æŁ¥çľĭæĽ´å¤ļ":106236,"è¯Ħ审":106237,"å¸Ĥåł´":106238,"è¬Ľ":106239,"巨头":106240,"ä¸ŃåĽ½ç»ıæµİ":106241,"äºĨèĩªå·±çļĦ":106242,"åĨ³è®®":106243,"çĽijçĿ£ç®¡çIJĨ":106244,"æĬķ票":106245,"åĨį度":106246,"è¡ĮçĤº":106247,"注åħ¥":106248,"ä½ľä¸ºä¸Ģ个":106249,"æ¯ı个人éĥ½":106250,"åįķåħĥ":106251,"è¦ģçŁ¥éģĵ":106252,"被称为":106253,"ä¹ĭéĻħ":106254,"è§£éϤ":106255,"丸":106256,"溫":106257,"ä¸īæĺŁ":106258,"é²ľæĺİ":106259,"ä¹Łéĥ½":106260,"æĹ¶æľº":106261,"åĩºæīĭ":106262,"æĥħå½¢":106263,"åķĨè´¸":106264,"éĢī举":106265,"对èĩªå·±":106266,"çĶŁåĬ¨":106267,"åħĭæľį":106268,"个ä½ĵ":106269,"èĭij":106270,"稱":106271,"大åݦ":106272,"æĺ¯å¯¹":106273,"åĪ©æģ¯":106274,"è¿IJåĬ¨åijĺ":106275,"åĮĸè§£":106276,"åīįæ²¿":106277,"æĦŁæģ©":106278,"æĢ»ä¹ĭ":106279,"é«ĺæĸ°æĬĢæľ¯":106280,"åĿĩ为":106281,"åħ¨åĮº":106282,"æ°Ķæ°Ľ":106283,"åı¯ä»¥è¯´æĺ¯":106284,"ä½ı宿":106285,"åħļåijĺå¹²éĥ¨":106286,"åĹ¯":106287,"è·µè¡Į":106288,"çļĦä¸ĵä¸ļ":106289,"èĢĥéªĮ":106290,"èķ¾":106291,"åħ¬åŃIJ":106292,"çļĦçĬ¶æĢģ":106293,"æ½®æµģ":106294,"ä¿¡æīĺ":106295,"è´¼":106296,"åIJĦæĸ¹":106297,"æķijåĬ©":106298,"éĿŀ常çļĦ":106299,"æ¡¥æ¢ģ":106300,"åħ¬æĸ¤":106301,"ä¼¼çļĦ":106302,"çľĭ好":106303,"å±Ģéĥ¨":106304,"å®īéĿĻ":106305,"éħįä»¶":106306,"常è§Ħ":106307,"å¼Ģ车":106308,"第äºĮ次":106309,"ä¸Ĭ级":106310,"åıĤèµĽ":106311,"å®¶å±ŀ":106312,"强åĬ¿":106313,"åľ¨ä»ĸ":106314,"åIJijåīį":106315,"ä¹ĭåľ°":106316,"éĥ¡":106317,"è¡Įç¨ĭ":106318,"èѦåijĬ":106319,"è§Ħå®ļçļĦ":106320,"åķĨåŁİ":106321,"äºĶ大":106322,"æķĻ室":106323,"åįģè¶³":106324,"æīĢä»¥åľ¨":106325,"å°Ĩç»§ç»Ń":106326,"çŃīæĸ¹å¼ı":106327,"å®¶ä¼ģä¸ļ":106328,"交ä»ĺ":106329,"çĤ¹è¯Ħ":106330,"ç»ĵç®Ĺ":106331,"ä¹Łåı¯":106332,"å¤ĸæ±ĩ":106333,"è¿Ļç§įæĥħåĨµ":106334,"æİĪäºĪ":106335,"å¸ĥç½®":106336,"æĪIJç«ĭäºİ":106337,"é¢ĦèѦ":106338,"管çIJĨ人åijĺ":106339,"å©ļ礼":106340,"ç»ĵæĿŁåIJİ":106341,"åħ¥éĢī":106342,"æĹłæ¯Ķ":106343,"åĴĮåıijå±ķ":106344,"çϽéħĴ":106345,"çİ©åħ·":106346,"ä¸ĩç¾İåħĥ":106347,"çļĦæĪIJ绩":106348,"æĭįçħ§":106349,"èĢĥèĻijåΰ":106350,"ä¼ģä¸ļåıijå±ķ":106351,"äºĨ个":106352,"çĶŁæ°Ķ":106353,"çļĦ女人":106354,"äºĶåįģ":106355,"çĪ·çĪ·":106356,"纽约":106357,"éĥ½è¢«":106358,"ä¸Ĭ课":106359,"çĽ¡":106360,"ä¼łç»ŁæĸĩåĮĸ":106361,"æ½ľåľ¨":106362,"åıijå°Ħ":106363,"ä¸Ģ身":106364,"éĺ²å®Ī":106365,"åĪ®":106366,"é¢ĺ缮":106367,"åľ¨åĨħçļĦ":106368,"ç¾İ好çļĦ":106369,"è¿ĻéĩĮçļĦ":106370,"ä¸Ģä¸Ŀ":106371,"人åĿĩ":106372,"å̡坼":106373,"身åIJİ":106374,"æī©å±ķ":106375,"大éŨ":106376,"就被":106377,"è¯¥é¡¹çĽ®":106378,"æŀ¶æŀĦ":106379,"ä¸Ģåı£":106380,"ä¿¡æģ¯æĬĢæľ¯":106381,"å¼Ģä¸ļ":106382,"æĶ¶åıĸ":106383,"ç½ij页":106384,"æĶ¯æı´":106385,"å°ģéĹŃ":106386,"å¡ijéĢł":106387,"大èĥĨ":106388,"å¿«éĢŁåıijå±ķ":106389,"çľĭä¼¼":106390,"æ¸Ŀ":106391,"è¿Ļæł·ä¸Ģ个":106392,"模åĿĹ":106393,"注æĦıåΰ":106394,"çł´è§£":106395,"èĩªä»İ":106396,"åijµåijµ":106397,"ä¹ĭå¾Į":106398,"ä¹ĭæĹħ":106399,"è·ŁæĪij":106400,"æ³ķ人":106401,"æİĴè¡Įæ¦ľ":106402,"åĿļå®Ī":106403,"好å¤Ħ":106404,"çŁ³å¤´":106405,"å¹¶å°Ĩ":106406,"èα":106407,"æŃĩ":106408,"两岸":106409,"å¤ļä¹ħ":106410,"象å¾ģ":106411,"个æĢ§åĮĸ":106412,"çļĦè§Ĵ度":106413,"å¸Ĩ":106414,"ç¦ıå·ŀ":106415,"æŁ¥å¤Ħ":106416,"ä¸¤åĽ½":106417,"åIJ¸å¼ķäºĨ":106418,"é¦ĸå¸Ń":106419,"大åĵ¥":106420,"é¤Ĭ":106421,"涨å¹ħ":106422,"éĢīç͍":106423,"許å¤ļ":106424,"èIJ½æĪ·":106425,"åĵĪå°Ķ":106426,"åĵĪå°Ķ滨":106427,"åģļä»Ģä¹Ī":106428,"以åħį":106429,"é¾į":106430,"æĹłéľĢ":106431,"åΰåºķæĺ¯":106432,"æĢ¡":106433,"åijĬè¯īä½ł":106434,"éĺ²æ°´":106435,"è¿ĻæĹ¶åĢĻ":106436,"欢ä¹IJ":106437,"转åIJij":106438,"è¿Ļä¸ªåľ°åĽ¾":106439,"åħ¥é©»":106440,"èįīåİŁ":106441,"æĹ¶ä»£çļĦ":106442,"åıĺåĬ¨":106443,"åĬłå¼ºå¯¹":106444,"åģ¶å°Ķ":106445,"å®ĪæĬ¤":106446,"æ°Ķ温":106447,"人éĹ´":106448,"æľĿé²ľ":106449,"ç»ıè´¹":106450,"åĽŃæŀĹ":106451,"å·¥åľ°":106452,"è§Ħæł¼":106453,"åĩłåįģ":106454,"è¯ķåĽ¾":106455,"å¦ĥ":106456,"éĤ£æĹ¶åĢĻ":106457,"å¼ĺæī¬":106458,"ä¸ļçķĮ":106459,"çļĦéĢŁåº¦":106460,"ä¼ļä¸įä¼ļ":106461,"èIJ¥æĶ¶":106462,"å°ıå¾®ä¼ģä¸ļ":106463,"çľĭè¿ĩ":106464,"æĬĬä»ĸ":106465,"éģµå¾ª":106466,"è¿Ļè¾¹":106467,"没æľī人":106468,"壶":106469,"æ¹ĸåįĹçľģ":106470,"æŀģåħ¶":106471,"çļĦ人çĶŁ":106472,"ä»ĸè¿ĺ":106473,"转åĮĸ为":106474,"èµ°è¿ĩ":106475,"æĬ±çĿĢ":106476,"çīĽå¥¶":106477,"ä¸ĩ亩":106478,"å¿ĥæĢģ":106479,"æĹ¥å¸¸çĶŁæ´»":106480,"ä½ĵæ£Ģ":106481,"æĻĥ":106482,"çŃīé¢ĨåŁŁ":106483,"æĩī該":106484,"åı¯ä»¥çľĭåΰ":106485,"æī¾ä¸įåΰ":106486,"èĢģå¹´":106487,"æĬĬæĪij":106488,"积åĪĨ":106489,"梳çIJĨ":106490,"绳":106491,"çļĦæĶ¿æ²»":106492,"å¸ĿåĽ½":106493,"éĻªä¼´":106494,"æ´Ľéĺ³":106495,"åħ¬æŃ£":106496,"å¼Ģåı£":106497,"çī¹èī²çļĦ":106498,"åĽ°å¢ĥ":106499,"ä¸Ĭæľī":106500,"ç«ĭä½ĵ":106501,"æīĵå·¥":106502,"åķ¤éħĴ":106503,"åľ¨éĤ£éĩĮ":106504,"éĤ£è¾¹":106505,"个åĪ«":106506,"ä¸Ģå®ļæĺ¯":106507,"çļĦéĩįè¦ģæĢ§":106508,"ä¸»å¼ł":106509,"åĴĮæľįåĬ¡":106510,"ä¸Ĭç½ij":106511,"è¡¥åĬ©":106512,"åıªéľĢ":106513,"弦":106514,"éģ®":106515,"åĬĽäºī":106516,"度è¿ĩ":106517,"èij¬":106518,"é¡¿æĹ¶":106519,"éĦī":106520,"纺ç»ĩ":106521,"åľ°åĿĹ":106522,"ä¿¡ç͍åį¡":106523,"ç½ļ款":106524,"åijĬè¯īæĪij":106525,"éĽĻ":106526,"书çĶ»":106527,"è¨Ńè¨Ī":106528,"æĢ»ä¼ļ":106529,"åΤåĨ³":106530,"ä¿¡èªī":106531,"个èĤ¡":106532,"平常":106533,"æĢİ麼":106534,"ä½ĵçİ°åľ¨":106535,"é»Ħæ²³":106536,"åĽĽå·Ŀçľģ":106537,"羣缸":106538,"åIJĦé¡¹å·¥ä½ľ":106539,"åĬ¨åijĺ":106540,"å³°ä¼ļ":106541,"ä¸ĢæľŁ":106542,"æľīä¸Ģå®ļçļĦ":106543,"é«ĺ度éĩįè§Ĩ":106544,"ç¹ģèį£":106545,"åıijçݰäºĨ":106546,"ç½ij红":106547,"æīĭæ³ķ":106548,"å®¶åĽŃ":106549,"仪åύ":106550,"è¾ĥä½İ":106551,"çļĦå®īåħ¨":106552,"æ¡IJ":106553,"ä»ĺ款":106554,"æĬijåζ":106555,"åįĵè¶Ĭ":106556,"æŃ£éĿ¢":106557,"åĵij":106558,"强åζ":106559,"ä»Ĭ天çļĦ":106560,"æĪĺèĥľ":106561,"楼å¸Ĥ":106562,"æĭ¿ä¸ĭ":106563,"é¢ľå̼":106564,"举éĥ¨":106565,"çłĶåζ":106566,"çļĦæĪĺçķ¥":106567,"åľ¨ä¸Ģ个":106568,"ä¸ī人":106569,"å®ĮäºĨ":106570,"æĸ°æĬĢæľ¯":106571,"ç»ıæµİæķĪçĽĬ":106572,"å¯Įæľī":106573,"澳洲":106574,"åĬ©çIJĨ":106575,"é¢Ĩåıĸ":106576,"è°Ń":106577,"çĩĥçĥ§":106578,"ç´łåħ»":106579,"éĤĦæľī":106580,"è¿ĽèĢĮ":106581,"ä»Ģä¹Īæĺ¯":106582,"çłĶç©¶ä¸Ńå¿ĥ":106583,"éĢĤç͍äºİ":106584,"æİ¥æĶ¶":106585,"å¤±æľĽ":106586,"äºĮ级":106587,"éĹ´çļĦ":106588,"åİŁæłĩé¢ĺ":106589,"èªįçĤº":106590,"æį¡":106591,"对çĿĢ":106592,"对éĿ¢":106593,"ä¸ŃåİŁ":106594,"éĵĥ":106595,"çĶŁäº§çļĦ":106596,"åıijå¸ĥä¼ļ":106597,"士åħµ":106598,"è¿Ļåı¥è¯Ŀ":106599,"缴纳":106600,"ä¸Ģ个个":106601,"åѸçĶŁ":106602,"çĸijéĹ®":106603,"交èѦ":106604,"示èĮĥåĮº":106605,"天使":106606,"åľ¨ä¸Ĭæµ·":106607,"åIJĮæĻĤ":106608,"è½»æĺĵ":106609,"å͝ä¸ĢçļĦ":106610,"çĥŃéĹ¹":106611,"ä¹IJè§Ĥ":106612,"çļĦ身份":106613,"åĸĦäºİ":106614,"大åİħ":106615,"èĤ¯å®ļæĺ¯":106616,"éĺ²çģ«":106617,"å¤ĸåĩº":106618,"æį®è¯´":106619,"é¡¹çĽ®çļĦ":106620,"ä¸Ģåı°":106621,"èĻļåģĩ":106622,"ä¸Ģç¬Ķ":106623,"ç«ĭæ³ķ":106624,"严èĤĥ":106625,"æī¿åĬŀ":106626,"åįģåĩł":106627,"çļĦ空éĹ´":106628,"æľ¬ç½ijç«Ļ":106629,"åģļå¾Ĺ":106630,"ä¿Ŀ温":106631,"æľĪåĪĿ":106632,"åľ¨ç½ijä¸Ĭ":106633,"åIJĦæĸ¹éĿ¢":106634,"ä¸ī天":106635,"交æĺĵæīĢ":106636,"è§£æŀIJ":106637,"åħļä¸Ń央":106638,"è¿Ľåĩºåı£":106639,"åĴĮ社ä¼ļ":106640,"次æķ°":106641,"ä¹ĭå®¶":106642,"维度":106643,"æ´¾åĩºæīĢ":106644,"产çĶŁäºĨ":106645,"带æľī":106646,"å¾Ī强":106647,"æľīäºĽäºº":106648,"å¹´åIJİ":106649,"äºĨ许å¤ļ":106650,"å¯Ĩ度":106651,"åŃ¦æľŁ":106652,"çıłæµ·":106653,"æľĢå¤ļçļĦ":106654,"è¾¹ç¼ĺ":106655,"容éĩı":106656,"第äºĮ个":106657,"ä¸Ģ缴æĺ¯":106658,"ä¸įç¦ģ":106659,"æŃ²":106660,"ä»ĭç»įäºĨ":106661,"ä¼ĺéĽħ":106662,"æ¯Ķè¼ĥ":106663,"èģĮä½į":106664,"温æŁĶ":106665,"æľīéĴ±":106666,"æľĢé«ĺçļĦ":106667,"åįļè§Īä¼ļ":106668,"ä¸įæĪIJ":106669,"éĶĻäºĨ":106670,"è¯ģçĽij":106671,"è¯ģçĽijä¼ļ":106672,"æĪIJ人":106673,"åĿĩåĮĢ":106674,"æľīåĪ©":106675,"è¶ĬåįĹ":106676,"æīĵäºĨ":106677,"好åIJĥ":106678,"系統":106679,"è·Łéļı":106680,"çļĦåľ°ä½į":106681,"æŃ£å¦Ĥ":106682,"ç¨įå¾®":106683,"åį°åıij":106684,"åĪĽç«ĭ":106685,"é£İåħī":106686,"å°ĨæĪIJ为":106687,"ä¸įé«ĺ":106688,"é¢ijç¹ģ":106689,"设æľī":106690,"ä¼ŀ":106691,"æĭĨéϤ":106692,"å½±åĥı":106693,"æ¸ĹéĢı":106694,"å¹´å¼Ģå§ĭ":106695,"ç½ijæĺĵ":106696,"è¦ģåģļ":106697,"ç͵åĬ¨è½¦":106698,"羣å¿ĥ":106699,"æµ·åĨĽ":106700,"ä¼łæĿ¥":106701,"å·®åĪ«":106702,"è°¨æħİ":106703,"çĥŁåı°":106704,"åįĥå¹´":106705,"è¯ģå®ŀ":106706,"çIJª":106707,"çļĦåħ·ä½ĵ":106708,"åΰå¤Ħ":106709,"ä¸įå®ľ":106710,"èľĢ":106711,"èĥ½åĬĽåĴĮ":106712,"çīºçī²":106713,"çļĦéĴ±":106714,"大éĺŁ":106715,"é¦ĸè¦ģ":106716,"ä¸įæĦ¿":106717,"çİ«çij°":106718,"人æ°ijç½ij":106719,"è¿ĺæĺ¯è¦ģ":106720,"åĽĽå¹´":106721,"æįŁä¼¤":106722,"çļĦåģļæ³ķ":106723,"éĿĪ":106724,"è¡Ķæİ¥":106725,"åIJĪæĪIJ":106726,"没人":106727,"éĹ¨æ§Ľ":106728,"ä¿¡è´·":106729,"çļĦ缸åħ³":106730,"举é£İ":106731,"社ä¿Ŀ":106732,"ä¸ĭ游":106733,"åĿĹéĴ±":106734,"è¿ĩåIJİ":106735,"çļĦåºĶç͍":106736,"饶":106737,"é¢ģåıij":106738,"ä¸Ģå¤Ħ":106739,"åįİå¤ı":106740,"为ä¼ģä¸ļ":106741,"åıªä¼ļ":106742,"侵害":106743,"çļĦåĬŁèĥ½":106744,"åѸç¿Ĵ":106745,"ä¸Ńåįİæ°ijæĹı":106746,"åıijå¸ĥäºĨ":106747,"è¿İæİ¥":106748,"æĪijèĩªå·±":106749,"è¿ĺéľĢè¦ģ":106750,"太éĺ³èĥ½":106751,"åİ»ä¸ĸ":106752,"æĺ¯ä½ł":106753,"åIJĪåĬĽ":106754,"ç»ĺçĶ»":106755,"åı°åĮĹ":106756,"çĿ£ä¿ĥ":106757,"åĮĹéĥ¨":106758,"æľīå¤ļå°ij":106759,"å¾Īéĩįè¦ģ":106760,"åĪĴåĪĨ":106761,"åı·çº¿":106762,"æĶ¾å¤§":106763,"ä¼ļ被":106764,"èİ·å¥ĸ":106765,"ä¹ĭåĨħ":106766,"失åİ»äºĨ":106767,"çݩ家们":106768,"éĩĩéĽĨ":106769,"壹":106770,"å®¶ä¼Ļ":106771,"çϽ天":106772,"åĽłä¸ºä»ĸ":106773,"社ä¼ļæ²»çIJĨ":106774,"å¼ĢåĪĽ":106775,"ç͵ç¼Ĩ":106776,"æĸ°ä¸Ģ代":106777,"å¹¶è´Ń":106778,"就已ç»ı":106779,"çļĦ社ä¼ļ":106780,"éϤéĿŀ":106781,"åı¯ä»¥ç͍":106782,"å©ī":106783,"æ¯Ķè¾ĥ好":106784,"å®ŀä¸ļ":106785,"åĪĽåĬŀ":106786,"æıIJèµ·":106787,"é»ĥ":106788,"ä½ıåľ¨":106789,"å¸ĤæĶ¿":106790,"éĿ¢ä¸´çļĦ":106791,"èĥ½åľ¨":106792,"çŁŃçŁŃ":106793,"çľŁäºº":106794,"æĺİæĺİ":106795,"èµĦåĬ©":106796,"çļĦä¸įåIJĮ":106797,"å°ıæľĭåıĭ":106798,"é¢ĺæĿIJ":106799,"ç¾İåij³":106800,"æĺŁåº§":106801,"ä¸įä¸Ģæł·çļĦ":106802,"çľĭä¸Ĭåİ»":106803,"ä¸Ģæł¹":106804,"广å·ŀå¸Ĥ":106805,"åıijçĶŁçļĦ":106806,"é«ĺç§ijæĬĢ":106807,"ä¸Ģè¾ĪåŃIJ":106808,"交åıī":106809,"ä½ĵ系建设":106810,"åĽłä¸ºæĪij":106811,"çıįæĥľ":106812,"ä¸ĬåѦ":106813,"æĪĺæľ¯":106814,"æŃ¤ç±»":106815,"交å¾Ģ":106816,"æĮīæij©":106817,"人们çļĦ":106818,"åħ¶å¯¦":106819,"åİŁæĿIJæĸĻ":106820,"æ¸´æľĽ":106821,"缸å¤Ħ":106822,"微微":106823,"æ®·":106824,"ä¹ĺåĿIJ":106825,"å¼Ģå±ķäºĨ":106826,"é«ĺåĵģè´¨":106827,"æĹłäººæľº":106828,"ä¸įæĺ¯å¾Ī":106829,"çļĦæĬķèµĦ":106830,"èĬĤçľģ":106831,"èĩī":106832,"ç²¾éĢī":106833,"çļĦæłĩåĩĨ":106834,"åįĹéĥ¨":106835,"认è¯Ĩåΰ":106836,"å¹³éĿĻ":106837,"èĹ¥":106838,"æī«é»ij":106839,"æī«é»ijéϤ":106840,"æī«é»ijéϤæģ¶":106841,"éĢĻ種":106842,"建çŃijéĿ¢ç§¯":106843,"ç¡®ç«ĭ":106844,"管çIJĨåĬŀæ³ķ":106845,"æĦıå¿Ĺ":106846,"丨":106847,"让åŃ©åŃIJ":106848,"æķijçģ¾":106849,"å½ĵä»Ĭ":106850,"çģ«çģ¾":106851,"åIJĦéĥ¨éŨ":106852,"ä¾µçĬ¯":106853,"æ¯ıåij¨":106854,"æı½":106855,"ä¸Ģ次æĢ§":106856,"åħ¶ä»ĸ人":106857,"éĶĻè¿ĩ":106858,"ä¸İåħ¶":106859,"åĭĩæ°Ķ":106860,"çĩĥæ°Ķ":106861,"é¦ĸå±Ĭ":106862,"æľį饰":106863,"ç²¥":106864,"å®Įæ¯ķ":106865,"å°±æĬĬ":106866,"åĬŀäºĭå¤Ħ":106867,"ä¸Ģä¼ļåĦ¿":106868,"离ä¸įå¼Ģ":106869,"å¦ĤæŀľæĤ¨":106870,"ä»ĵåºĵ":106871,"导å¸Ī":106872,"åIJĪéĢĤçļĦ":106873,"毫米":106874,"å®īåħ¨æĢ§":106875,"ä¾Ŀçħ§":106876,"产ä¸ļåĮĸ":106877,"ä½łçľĭ":106878,"羣çļĦå¾Ī":106879,"åѤçĭ¬":106880,"éĺ²å¾¡":106881,"å¾Īç®Ģåįķ":106882,"é£İæ°´":106883,"ä½Ĩä¹Ł":106884,"æİ¨åĩºäºĨ":106885,"æ°ijèIJ¥ä¼ģä¸ļ":106886,"çłģ头":106887,"å¤įæĿĤçļĦ":106888,"ç»ĦæĪIJéĥ¨åĪĨ":106889,"åħħ满äºĨ":106890,"è¿ijåĩłå¹´":106891,"çľģæĶ¿åºľ":106892,"æľīå¿ħè¦ģ":106893,"éϳ":106894,"ä¹ĭç±»":106895,"ä¹ĭç±»çļĦ":106896,"æĢ§ä»·":106897,"æĢ§ä»·æ¯Ķ":106898,"åķĨåºĹ":106899,"å¸Ĥå̼":106900,"人æīįåŁ¹åħ»":106901,"æ·±åıĹ":106902,"管çIJĨå±Ģ":106903,"æģIJæĥ§":106904,"ä»ħæľī":106905,"æĬµè¾¾":106906,"æµ·åħ³":106907,"èµĭäºĪ":106908,"äºĭåĦ¿":106909,"ä»·éĴ±":106910,"æīĭä¸Ĭ":106911,"èĩªå¾ĭ":106912,"åħ³çα":106913,"享æľī":106914,"éģĹæĨ¾":106915,"å¾Īå¿«å°±":106916,"æĽ´å¿«":106917,"æłĩè¯Ĩ":106918,"åºĨç¥Ŀ":106919,"ä¹Łå¥½":106920,"ä¸įæĺĵ":106921,"æĪijå¾Ī":106922,"æĶ¹éĿ©åıijå±ķ":106923,"å¤ĸåľ°":106924,"æĬµæĬ¼":106925,"è¯Ĺ人":106926,"åİķæīĢ":106927,"æĸ°åªĴä½ĵ":106928,"èĸĽ":106929,"è°Īè¯Ŀ":106930,"ä¸Ģå®ļç¨ĭ度":106931,"èµ°åľ¨":106932,"æľĢ强":106933,"åĬŁçİĩ":106934,"åħ±è¯Ĩ":106935,"大桥":106936,"ä¸ĭæĸ¹":106937,"å¤ĸèµĦ":106938,"碱":106939,"å·¡è§Ĩ":106940,"æ¹ĸåĮĹçľģ":106941,"个çϾåĪĨ":106942,"个çϾåĪĨçĤ¹":106943,"çļĦ责任":106944,"çļĦåĵģçīĮ":106945,"åĬ©æİ¨":106946,"åĪĽéĢłäºĨ":106947,"ä»»èģĮ":106948,"å¿«æį·":106949,"æĿijåºĦ":106950,"åİ»çľĭ":106951,"æīįèĥ½å¤Ł":106952,"層":106953,"æĪijå®¶":106954,"æĺ¯ä¸Ģ款":106955,"ç¾ħ":106956,"åĨ°éĽª":106957,"æŀģ大":106958,"çģ¯åħī":106959,"éĨĭ":106960,"ä¸İåħ¶ä»ĸ":106961,"æıIJåĩºçļĦ":106962,"éĿłè¿ij":106963,"è°ĥåĬ¨":106964,"å°½åı¯èĥ½":106965,"åıijåĬĽ":106966,"ç»Ļ她":106967,"éĢĤéĩı":106968,"è·¨åĽ½":106969,"åħĪè¡Į":106970,"æĸ°æĿIJæĸĻ":106971,"ä½ľäºĨ":106972,"满äºĨ":106973,"ä¸į满":106974,"çļĦçľ¼çĿĽ":106975,"çľĭå¾Ĺ":106976,"è¿Ļä¸Ģ次":106977,"é½IJåħ¨":106978,"çļĦä¸Ģéĥ¨åĪĨ":106979,"ä¸Ļ":106980,"æ¸ħæĸ°":106981,"說æĺİ":106982,"身边çļĦ":106983,"æīĢæľī人":106984,"å½°æĺ¾":106985,"è±¹":106986,"åį¿":106987,"è¿IJ转":106988,"æĮĩå¼ķ":106989,"å¸Ĥåħ¬å®īå±Ģ":106990,"åıĤå±ķ":106991,"ä¹ĭæĹ¶":106992,"éĩijèŀįæľįåĬ¡":106993,"èµĦæľ¬å¸Ĥåľº":106994,"èĥ½è®©":106995,"å¿ĺäºĨ":106996,"天åłĤ":106997,"æ¯Ķå¦Ĥ说":106998,"éĬĢè¡Į":106999,"èĽĭç³ķ":107000,"çĶ©":107001,"æł¸å®ŀ":107002,"æĻ®äº¬":107003,"ä¼ĺç¾İ":107004,"åı£èħĶ":107005,"漫çĶ»":107006,"çľ¼éĩĮ":107007,"äºĨä¸ĭæĿ¥":107008,"æĪijä»¬ä¹Ł":107009,"ä¾į":107010,"为ä¸Ńå¿ĥ":107011,"å¥ĩ迹":107012,"éĿĴçĿIJ":107013,"æĪªèĩ³çĽ®åīį":107014,"åĩºä¾Ĩ":107015,"æĢ»åħ¬åı¸":107016,"弥补":107017,"ç®Ĺæ³ķ":107018,"å·¥ä½ľå®¤":107019,"æīĢ以æĪij":107020,"æ°´åĪĨ":107021,"æīĢå±ŀ":107022,"ä¸į说":107023,"ä½Ĩæĺ¯åľ¨":107024,"è¦ģåİ»":107025,"åĪĽä¸ļèĢħ":107026,"ä¸įæ¸ħæ¥ļ":107027,"åĽĽåij¨":107028,"æĺ¯ä»İ":107029,"çļĦæł¹æľ¬":107030,"çģ¶":107031,"æ¯Ľæ³½":107032,"æ¯Ľæ³½ä¸ľ":107033,"æµ·åı£":107034,"åĽĽåįģ":107035,"ä¹Łè¢«":107036,"èģ·":107037,"ä¸Ģæīĭ":107038,"绩æķĪ":107039,"çļĦçĶ·äºº":107040,"书ç±į":107041,"ä¸ĢèĦ¸":107042,"大äºİ":107043,"鼶éĥ¨ä»¶":107044,"åħ³æĢĢ":107045,"平米":107046,"æļ´éľ²":107047,"å¾Ĺå¤ļ":107048,"ä¸ī级":107049,"æľ¬åij¨":107050,"两èĢħ":107051,"对ä¸ŃåĽ½":107052,"åıªè§ģ":107053,"欧ç¾İ":107054,"å¦Ĥæŀľæľī":107055,"å·²ç»ıæĺ¯":107056,"çľĭå®Į":107057,"çģ«éĶħ":107058,"èµIJ":107059,"ä¸Ģéģį":107060,"æĦŁåĨĴ":107061,"ç»ĵå±Ģ":107062,"ä»ĵåĤ¨":107063,"å®ŀåľ°":107064,"å̻ç»ıçIJĨ":107065,"ä¹Łä¸įçŁ¥éģĵ":107066,"碰åΰ":107067,"åIJĪ计":107068,"客æĪ·çļĦ":107069,"ç½Ĺ马":107070,"æĦīå¿«":107071,"é£Ľ":107072,"çĥŃçĥĪ":107073,"伦æķ¦":107074,"åĮ»ä¿Ŀ":107075,"éĺ¿éĩĮå·´å·´":107076,"åĨį说":107077,"ä¸ºåŁºç¡Ģ":107078,"çĶŁäº§ç»ıèIJ¥":107079,"è¿ĻäºĽäºº":107080,"åĪĹ车":107081,"æ²³åĮĹçľģ":107082,"è¿Ļ段":107083,"æ´»åĬ¨ä¸Ń":107084,"å©·":107085,"çĶŁçIJĨ":107086,"ä¸ŃåĽ½äººæ°ij":107087,"éĦĤ":107088,"åIJ¬åıĸ":107089,"å¤įä¹ł":107090,"æľīçĽĬ":107091,"æĶ¶æĭ¾":107092,"å¾Īåı¯èĥ½":107093,"ç½ijç»ľæ¸¸æĪı":107094,"们çļĦ":107095,"èµĭèĥ½":107096,"éļ¾å¾Ĺ":107097,"åĪĨæīĭ":107098,"羣è¯ļ":107099,"åħ¬åı¸åľ¨":107100,"åĿĩè¡¡":107101,"åı£åij³":107102,"çīµå¤´":107103,"ä¸ĢèάçļĦ":107104,"轿车":107105,"çŃīäºİ":107106,"æ²īé»ĺ":107107,"æĪijéĥ½":107108,"å°ıç¨ĭåºı":107109,"ä¸Ģåī¯":107110,"æī¿è½½":107111,"åľ°è´¨":107112,"çķĮéĿ¢":107113,"çĶµæľº":107114,"çĦ¦èĻij":107115,"éĶĢåĶ®é¢Ŀ":107116,"æĸ°è½¦":107117,"ä¸Ĭ游":107118,"主æ¼Ķ":107119,"éļIJç§ģ":107120,"åıijå±ķæĪĺçķ¥":107121,"çļĦåĬªåĬĽ":107122,"å¼Ģåħ³":107123,"è§£åĨ³éĹ®é¢ĺ":107124,"çĿ£å¯¼":107125,"对æĬĹ":107126,"å¾Īå¤ļ人éĥ½":107127,"æĹłæķĪ":107128,"产åĵģè´¨éĩı":107129,"å®īå¿ĥ":107130,"åįİ人":107131,"ä¸į符åIJĪ":107132,"èĩªå®¶":107133,"éĺµå®¹":107134,"çļĦåIJĦç§į":107135,"çļĦçIJĨ念":107136,"çļĦæĸĩåĮĸ":107137,"为èĩªå·±":107138,"山水":107139,"游泳":107140,"éľĩèį¡":107141,"çĶŁæ´»æĸ¹å¼ı":107142,"è¿ľç¦»":107143,"çŁ³åĮĸ":107144,"æŃ¤äºĭ":107145,"æĺ¯çľŁçļĦ":107146,"çļĦæ¯Ķä¾ĭ":107147,"ç͍ç͵":107148,"奥è¿IJä¼ļ":107149,"ä¿Ŀå®ī":107150,"èĽĭçĻ½è´¨":107151,"çļĦå¿ĥçIJĨ":107152,"å·«":107153,"åı·çłģ":107154,"æ°Ķä½ĵ":107155,"åıijæĶ¹":107156,"åıijæĶ¹å§Ķ":107157,"åĮ»å¸Ī":107158,"æ¶ĤæĸĻ":107159,"æĺĬ":107160,"å¸Ĥ级":107161,"ä¸ĸçķĮçļĦ":107162,"åĪĨåĪ«æĺ¯":107163,"çł´äº§":107164,"ä¸ĢæĿ¯":107165,"æĭīå¼Ģ":107166,"å¹³åĩ¡":107167,"çļĦåıijçĶŁ":107168,"åĬ¨æīĭ":107169,"ä¸ĢçĽ´ä»¥æĿ¥":107170,"æīĭå·¥":107171,"éĩĮéĿ¢çļĦ":107172,"æĹłåħ³":107173,"ä»ĭåħ¥":107174,"èµ°ä¸Ĭ":107175,"å°±æĺ¯è¦ģ":107176,"å¹´éĹ´":107177,"åĩºçı¾":107178,"å½±éŁ¿":107179,"å¹ħ度":107180,"éĽģ":107181,"éģĵåħ·":107182,"缮çļĦåľ°":107183,"åIJİèĢħ":107184,"ä¸Ĭæ¼Ķ":107185,"äºĨåĩł":107186,"æ®ĭçĸ¾äºº":107187,"å¿Ļç¢Į":107188,"æĺ¯åIJ¦æľī":107189,"并对":107190,"ä¼ļ导èĩ´":107191,"æ°´åºĵ":107192,"ç»Ĩèĩ´":107193,"åIJİæĤĶ":107194,"å¿ĥæĢĿ":107195,"åģļäºĭ":107196,"åİĤæĪ¿":107197,"çĿ¿":107198,"è¿IJèIJ¥åķĨ":107199,"头éĥ¨":107200,"çļĦè§Ĵèī²":107201,"æĺ¯ä»ĸ":107202,"æĹ¢æľī":107203,"å°ıæĹ¶åĢĻ":107204,"强åĬ²":107205,"主æĴŃ":107206,"åħ¨åĽ½åIJĦåľ°":107207,"æįı":107208,"æįŁåĿı":107209,"åķĨä¼ļ":107210,"ä¿Ŀç½Ĺ":107211,"çľģå¸Ĥ":107212,"éļ§éģĵ":107213,"æľīä¸įå°ij":107214,"è¦ģåľ¨":107215,"å»ºè®¾é¡¹çĽ®":107216,"ç³ĸå°¿":107217,"ç³ĸå°¿çĹħ":107218,"æĿ¡ä»¶ä¸ĭ":107219,"ä¼ĺè´¨çļĦ":107220,"é¦ĸåıij":107221,"å½ĵæĹ¶çļĦ":107222,"丰çͰ":107223,"大çĽĺ":107224,"缸继":107225,"å®ģå¤ı":107226,"åħ¥ä½ı":107227,"æĪijè¿ĺ":107228,"åħĭæĸ¯":107229,"å®ļä»·":107230,"å¹³æĸ¹åħ¬éĩĮ":107231,"çļĦçŁ¥è¯Ĩ":107232,"æĪij们ä¼ļ":107233,"åħĥå®Ŀ":107234,"ä½ĵéĩį":107235,"è³£":107236,"对æĪij们":107237,"çŁ³å®¶":107238,"çŁ³å®¶åºĦ":107239,"ç²¾åįİ":107240,"å½¢çĬ¶":107241,"åıĹåΰäºĨ":107242,"修订":107243,"ç¾İåľĭ":107244,"é«ĺæ¸ħ":107245,"çľ¼éķľ":107246,"è§īå¾Ĺèĩªå·±":107247,"带ç»Ļ":107248,"åͮ价":107249,"éĹ¨ç¥¨":107250,"åŃķå¦ĩ":107251,"ç͵è§Ĩåı°":107252,"åıijä½ľ":107253,"çļĦåij³éģĵ":107254,"éķ¿è¿ľ":107255,"åħ¬åħ±æľįåĬ¡":107256,"æŃ£å¸¸çļĦ":107257,"æľīè¿ĩ":107258,"é£İæĥħ":107259,"æ¯Ķéĩį":107260,"åIJ»":107261,"管çIJĨå·¥ä½ľ":107262,"综åIJο̧":107263,"已被":107264,"说起":107265,"æİĴæ°´":107266,"ä¸įæĸŃåľ°":107267,"æĥħæĢĢ":107268,"è¾ĵéĢģ":107269,"è¿ĩæķı":107270,"çļĦåı¯èĥ½æĢ§":107271,"æľįç͍":107272,"æľī许å¤ļ":107273,"å§Ķåī¯ä¹¦è®°":107274,"åĮĸå¦Ĩåĵģ":107275,"æļĤåģľ":107276,"æĬķèµĦ人":107277,"çıŃ级":107278,"说çĿĢ":107279,"åįĹåĮĹ":107280,"åĪĨè¡Į":107281,"çıłå®Ŀ":107282,"寶":107283,"å¢ŀå¤ļ":107284,"被åĬ¨":107285,"ç®ĬçļĦ":107286,"éĹľä¿Ĥ":107287,"çļĦèĦ¸":107288,"æĥŁ":107289,"ä¸įä¸Ģå®ļ":107290,"ç¶Ń":107291,"çģ«çĪĨ":107292,"ç§Łéĩij":107293,"çŀ§":107294,"éĩį建":107295,"è·ª":107296,"ä¸Ģ種":107297,"çļĦåIJĪä½ľ":107298,"å®īæħ°":107299,"ä»įæĺ¯":107300,"ä¸ĵä¸ļåĮĸ":107301,"è°ĥè§£":107302,"ä¸į妨":107303,"éĢĻæĺ¯":107304,"å¿ħéłĪ":107305,"ä¼ĬæľĹ":107306,"å¾ĹäºĨ":107307,"æľįåĬ¡å¹³åı°":107308,"姬":107309,"åħĪéĶĭ":107310,"çİĭåŃIJ":107311,"çļĦä¸ĢåĪĩ":107312,"æĢ»çIJĨ":107313,"åĵ¼":107314,"çªij":107315,"çļĦå¿ĥæĥħ":107316,"çļĦéĩį大":107317,"çijŁ":107318,"ä¸Ģç¬ij":107319,"åıijå±ķä¸Ń":107320,"åģ¥åº·åıijå±ķ":107321,"åĵģçīĮçļĦ":107322,"禮":107323,"ä½Ļ人":107324,"ä»Ĭ年以æĿ¥":107325,"æķ°çłģ":107326,"çѾè¯ģ":107327,"åİ»æī¾":107328,"åŁºéĩijä¼ļ":107329,"æĬ±æĢ¨":107330,"æŃ£å½ĵ":107331,"çıŃåŃIJæĪIJåijĺ":107332,"ä¸įåIJĪæł¼":107333,"åζå®ļäºĨ":107334,"ç¼ĵæħ¢":107335,"åĪ¶çº¦":107336,"æłı缮":107337,"å¸Ĥåľºç»ıæµİ":107338,"ç»ĦæĪIJçļĦ":107339,"严峻":107340,"æĹ¥è®¯":107341,"ä¸ĢçĤ¹çĤ¹":107342,"æĺ¯æĢİä¹Ī":107343,"çļĦçħ§çīĩ":107344,"éĺ»æŃ¢":107345,"模ç³Ĭ":107346,"缸":107347,"éģķåıį":107348,"æIJ¬è¿ģ":107349,"éĩijéĴ±":107350,"彬":107351,"ä¸įå®ī":107352,"æĪĺçķ¥åIJĪä½ľ":107353,"å¡«åĨĻ":107354,"讲究":107355,"åħħåĪĨåĪ©ç͍":107356,"èĥ½å¤ł":107357,"èij¡èIJĦéħĴ":107358,"éĩĩç͍äºĨ":107359,"åľ¨ä»Ĭå¹´":107360,"ä¸Ńå°ıåѦ":107361,"åľ¨æĦı":107362,"çļĦåİĭåĬĽ":107363,"ä¸į幸":107364,"åζèį¯":107365,"åı¯ä»¥è®©":107366,"被è¯Ħ为":107367,"ç»ĨèıĮ":107368,"æĪıåī§":107369,"åįĬ导":107370,"åįĬ导ä½ĵ":107371,"è§Ĩè§Ĵ":107372,"åĸľæŃ¡":107373,"å¾ģæĶ¶":107374,"è°ĭåĪĴ":107375,"æŀģ大çļĦ":107376,"çĤ¹èµŀ":107377,"è®°èĢħä»İ":107378,"两åIJį":107379,"èĩªåĬ©":107380,"èµ·æŃ¥":107381,"æĬ¤å£«":107382,"å®Ŀ马":107383,"太åŃIJ":107384,"å°ıå°ıçļĦ":107385,"温æ³ī":107386,"åĩºç§Łè½¦":107387,"ç§ŁæĪ¿":107388,"两家":107389,"éľĩæĴ¼":107390,"ç§īæī¿":107391,"ä¸Ģä»¶äºĭ":107392,"çĥĪ士":107393,"å®ĺåħµ":107394,"转身":107395,"ä¹IJåĽŃ":107396,"çĻĮçĹĩ":107397,"模èĮĥ":107398,"æĦ£":107399,"è¿ĩåİ»çļĦ":107400,"代价":107401,"çļĦæ¦Ĥ念":107402,"åĩłçϾ":107403,"è´µéĺ³":107404,"æĭħå¿§":107405,"éĢĤå®ľ":107406,"çݯå¢ĥä¿ĿæĬ¤":107407,"çĥ«":107408,"ä½łæĥ³":107409,"æŃ¤åIJİ":107410,"ä½łä¹Ł":107411,"çįİ":107412,"éϤæŃ¤":107413,"éϤæŃ¤ä¹ĭå¤ĸ":107414,"è°ĥ度":107415,"ç§ij缮":107416,"æīĢ说çļĦ":107417,"åĬĩ":107418,"忽è§Ĩ":107419,"ä¸ī次":107420,"ä¸ĢæĹ¥":107421,"åŀĤ缴":107422,"ç«ŀæĬĢ":107423,"éĿ¢åĮħ":107424,"大æĪĺ":107425,"æIJºå¸¦":107426,"å¦Ĥæŀľæ²¡æľī":107427,"åħ»æĪIJ":107428,"åĩºè¡Ģ":107429,"çα好èĢħ":107430,"æīĵéĢļ":107431,"èµ·è¯ī":107432,"åijĪçݰåĩº":107433,"æŃĮæīĭ":107434,"åľ¨å¤ĸ":107435,"é¢Ĩ导干éĥ¨":107436,"åĨ¥":107437,"èĪĨ论":107438,"æıIJåıĸ":107439,"éĺ¿å°Ķ":107440,"æľĽçĿĢ":107441,"ä¸īäºļ":107442,"財":107443,"åĪ·æĸ°":107444,"æĻļæĬ¥":107445,"è¿ĺæľīä¸Ģ个":107446,"åĨ°ç®±":107447,"ç½ijçĤ¹":107448,"åĩºåħ·":107449,"强çĥĪçļĦ":107450,"æĪijçĽ¸ä¿¡":107451,"å¸ĮæľĽèĥ½":107452,"çīĻ齿":107453,"äºĭå®ľ":107454,"ä¸ļåĨħ人士":107455,"ä»£æĽ¿":107456,"åıĺå½¢":107457,"éĽ²":107458,"è°ĥæİ§":107459,"åĪĽæĸ°åĪĽä¸ļ":107460,"æĭĨè¿ģ":107461,"æł¸æŁ¥":107462,"éĢĹ":107463,"åħ¥åѦ":107464,"æĦıåIJij":107465,"æıĽ":107466,"ä¸ĭ次":107467,"ä¼łè¾ĵ":107468,"ä»ĸä»¬åľ¨":107469,"èĢĮä¸Ķè¿ĺ":107470,"æĹ¥åľ¨":107471,"æķĻè®Ń":107472,"æ´»çĿĢ":107473,"çļĦæľīæķĪ":107474,"å¤įå·¥å¤į":107475,"å¤įå·¥å¤į产":107476,"æĺ¯ä¸Ģä»¶":107477,"çŃīçĿĢ":107478,"復":107479,"åĭĩæķ¢":107480,"éģŃåıĹ":107481,"å¥Ķé©°":107482,"讲座":107483,"说å®Į":107484,"ç»Ļåĩº":107485,"è°¦":107486,"è¯ĬçĸĹ":107487,"çĽ²çĽ®":107488,"客è¿IJ":107489,"å°±è¿ŀ":107490,"å¼Ģåħĥ":107491,"å¼Ģåħĥæ£ĭçīĮ":107492,"ä¸įæĸŃæıIJåįĩ":107493,"ç͍æĪ·çļĦ":107494,"æĴķ":107495,"ä¾Ľæ°´":107496,"ç¶ĵæ¿Ł":107497,"ä¸ŃåĮ»èį¯":107498,"èģĶæĥ³":107499,"åħ¬äº¤è½¦":107500,"èĪªçıŃ":107501,"æĬĢè¡ĵ":107502,"å¼ķèµ·çļĦ":107503,"å°¹":107504,"èµĦæ·±":107505,"åĽ½èµĦå§Ķ":107506,"èĺŃ":107507,"é¼»åŃIJ":107508,"éĹ½":107509,"æİĴéĺŁ":107510,"è§Ĥåħī":107511,"éģĹåĿĢ":107512,"ä¸ľäº¬":107513,"é¥ŃåºĹ":107514,"ä¸įæĸŃçļĦ":107515,"å°±æĺ¯ä¸Ģ个":107516,"éķ¿ä¹ħ":107517,"çļĦè§ĤçĤ¹":107518,"娶":107519,"æĪijçİ°åľ¨":107520,"çķ°":107521,"å¾Ĺåĩº":107522,"å¿ħå®ļ":107523,"ä¸įåıĹ":107524,"åıªéľĢè¦ģ":107525,"åĽ°æī°":107526,"ç§ijåѦæĬĢæľ¯":107527,"çīĽèĤī":107528,"è¾ĥé«ĺçļĦ":107529,"è·ijæŃ¥":107530,"æ²¾":107531,"èı©èIJ¨":107532,"æľĢå¾Į":107533,"ä¿Ŀå¯Ĩ":107534,"æ²»å®ī":107535,"éĤ±":107536,"常è¯Ĩ":107537,"èĦ¸èī²":107538,"åĮĹ大":107539,"æ±ĩèģļ":107540,"æijĨèĦ±":107541,"é¾Ļ头ä¼ģä¸ļ":107542,"女åıĭ":107543,"çŃīå·¥ä½ľ":107544,"ä¸Ńç¾İ":107545,"èģĮåľº":107546,"èĦijè¢ĭ":107547,"åĨĻçļĦ":107548,"饲æĸĻ":107549,"åĬ³åĬ¨åĬĽ":107550,"屯":107551,"æĮģèĤ¡":107552,"åĽ¾åĥı":107553,"è¿ĩåİ»äºĨ":107554,"貨":107555,"è¾²":107556,"éĹ®æĪij":107557,"è·Łä½ł":107558,"çĶŁæŃ»":107559,"审ç¾İ":107560,"é¢Ĺç²Ĵ":107561,"ä¸Ńæĸ¹":107562,"åĬłçĥŃ":107563,"æĹħè¡Į社":107564,"çϼçĶŁ":107565,"ä¸įåłª":107566,"åĤ·":107567,"æ¥ł":107568,"åĬŀæ¡Ī":107569,"æŁĦ":107570,"æĹ¢æĺ¯":107571,"å¤ĦåĪĨ":107572,"羣å®ŀçļĦ":107573,"æĬ¥çº¸":107574,"å¸Īçζ":107575,"å®īå¾½çľģ":107576,"åī¯ä¸»å¸Ń":107577,"ä¹ĭéģĵ":107578,"导弹":107579,"åŃ¦æł¡çļĦ":107580,"åŁİå¸ĤçļĦ":107581,"è°Īåΰ":107582,"æ¢Ĺ":107583,"å¹³éĿ¢":107584,"说ä»Ģä¹Ī":107585,"é¢ijçİĩ":107586,"éķ¿ä¸īè§Ĵ":107587,"çļĦåĪ©çĽĬ":107588,"黨":107589,"è±ĨèħIJ":107590,"å®ŀéĻħæĥħåĨµ":107591,"æŀĹä¸ļ":107592,"纪æ£ĢçĽijå¯Ł":107593,"ä½ıéĻ¢":107594,"çļĦæķ´ä½ĵ":107595,"åīįè¡Į":107596,"æĮ¨":107597,"çħ¤çŁ¿":107598,"å̻è£ģ":107599,"å°ıåIJĥ":107600,"æŀģ端":107601,"å©Ĩå©Ĩ":107602,"çݰ货":107603,"è¯ĹæŃĮ":107604,"éĴ¥åĮĻ":107605,"缩çŁŃ":107606,"ä½Ĩè¿Ļ":107607,"æĸ°åĵģ":107608,"è¿Ļ对":107609,"çŁ¥åIJį度":107610,"å¿ĹæĦ¿æľįåĬ¡":107611,"大å±Ģ":107612,"è¡¡éĩı":107613,"ä½ĵçݰäºĨ":107614,"æ¡ĥèĬ±":107615,"åIJ¸å¼ķåĬĽ":107616,"åł¤":107617,"æĵħéķ¿":107618,"åĴĴ":107619,"çĽ¸æľº":107620,"ä¸Ģç«Ļ":107621,"ä¸Ģç«Ļå¼ı":107622,"æľĢç¾İ":107623,"æ°¸ä¹ħ":107624,"çļĦéĥ¨åĪĨ":107625,"åĪĨå·¥":107626,"å·¥ç¨ĭ建设":107627,"æIJŃè½½":107628,"æ°´ä¸Ń":107629,"èĮ¨":107630,"çļĦæĵįä½ľ":107631,"ç»Łæ²»":107632,"çķħéĢļ":107633,"åħļçļĦåįģ":107634,"輸":107635,"測":107636,"ç¾İè§Ĥ":107637,"ä¸įåĪ©":107638,"åıįæĢĿ":107639,"éªĦåĤ²":107640,"æłĩçļĦ":107641,"æĿĢ人":107642,"éĺ¿å§¨":107643,"é£ŁæĿIJ":107644,"åIJĥçļĦ":107645,"åIJİåĨį":107646,"çŁ£":107647,"两侧":107648,"æ¸ħæ°´":107649,"è¿ĽçIJĥ":107650,"å¼Ģå§ĭäºĨ":107651,"åIJ¬äºĨ":107652,"çĦĬæİ¥":107653,"磮":107654,"å¨Ł":107655,"为人":107656,"éĢģç»Ļ":107657,"åĨĴéĻ©":107658,"æķ·":107659,"ç»ĪæŃ¢":107660,"æīįçŁ¥éģĵ":107661,"è¿IJæ°Ķ":107662,"éĢļé£İ":107663,"æĥĬè®¶":107664,"ç§ijåѦéĻ¢":107665,"æıIJéĹ®":107666,"太åİŁ":107667,"缸åIJĮçļĦ":107668,"ä»ķ":107669,"èģĸ":107670,"æĥħæ³ģ":107671,"é¢Ĩ导人":107672,"åĩºæĿ¥äºĨ":107673,"沿线":107674,"éϽ":107675,"æĦŁè¦º":107676,"ä»įåľ¨":107677,"æ©Ļ":107678,"约为":107679,"åĸĿéħĴ":107680,"ç͍èį¯":107681,"ä¸ĭä¸Ģ":107682,"æ³ķå®ĺ":107683,"顺åºı":107684,"åģļä¸Ģ个":107685,"åĭ¢":107686,"æŃª":107687,"ç͵ç«ŀ":107688,"ä¼´éļıçĿĢ":107689,"ä¹ĭåĬĽ":107690,"ä¹ĭ人":107691,"äºij计ç®Ĺ":107692,"åĪ«äººçļĦ":107693,"ç§ijåѦåıijå±ķ":107694,"第åħ«":107695,"å¹²æī°":107696,"女ç¥ŀ":107697,"è¿Ļæł·åģļ":107698,"å¤Ħåľ¨":107699,"æ°´è´¨":107700,"éķ¿æĺ¥":107701,"å¸ĤåľºéľĢæ±Ĥ":107702,"ç»´æĿĥ":107703,"èĢ³æľµ":107704,"æĸĩåĮĸçļĦ":107705,"奶ç²ī":107706,"ä¼łè¾¾":107707,"æīĭæľºçīĪ":107708,"æĽ¾åľ¨":107709,"äºĮæľŁ":107710,"åİŁåĽłæĺ¯":107711,"æºIJ头":107712,"åıĪèĥ½":107713,"裸":107714,"æĬĢæľ¯åĪĽæĸ°":107715,"æĸĩåĮĸæĹħ游":107716,"åıij票":107717,"年级":107718,"ä½łä¸į":107719,"ä¹ĭå¿ĥ":107720,"æķ°çϾ":107721,"åIJijå¾Ģ":107722,"èĢģå®¶":107723,"åľĭéļĽ":107724,"çļĦé«ĺ度":107725,"æľĿéĺ³":107726,"æ¸ħéϤ":107727,"èĩªæľī":107728,"书ä¸Ń":107729,"游æĪıè£ħå¤ĩ":107730,"ä¸ĩå¤ļ":107731,"驾驶åijĺ":107732,"ä½łçŁ¥éģĵ":107733,"åĽ½åºĨ":107734,"é£ŁåłĤ":107735,"æİ¥åı£":107736,"æĢ»æķ°":107737,"åħ¶ä»ĸçļĦ":107738,"çĶŁåij½çļĦ":107739,"ä½łåľ¨":107740,"çļĦ缮åħī":107741,"è¿Ļæĸ¹éĿ¢":107742,"éĥ½è¯´":107743,"çĸĹæ³ķ":107744,"åĭĩ士":107745,"åľ¨åħ¨çIJĥ":107746,"ä¿ĿéĻ©åħ¬åı¸":107747,"çĿ£æŁ¥":107748,"åĸĦèī¯":107749,"表彰":107750,"è¹²":107751,"路段":107752,"æľĥåĵ¡è¦ı":107753,"æľĥåĵ¡è¦ıç¯Ħ":107754,"æĪ·åŀĭ":107755,"ä¿ĥ使":107756,"修建":107757,"é«ĺæ°´å¹³":107758,"åģļåĩºäºĨ":107759,"ä¸»åľº":107760,"è¡Įèµ°":107761,"空çϽ":107762,"æľī人说":107763,"è¿Ļ个ä¸ĸçķĮ":107764,"åIJįä¹ī":107765,"å®Įç¾İçļĦ":107766,"羡æħķ":107767,"åıĬåħ¶ä»ĸ":107768,"åı¯ç͍":107769,"æĭIJ":107770,"è¾ĥ大çļĦ":107771,"æĬĢæľ¯åĴĮ":107772,"å°¼äºļ":107773,"çĻ¾è´§":107774,"æıī":107775,"éĢīè´Ń":107776,"éĺŁåıĭ":107777,"ä¼łæĦŁ":107778,"ä¼łæĦŁåύ":107779,"åıªè¦ģä½ł":107780,"为ä»Ģä¹Īè¦ģ":107781,"ä¸ĵ注äºİ":107782,"ä½Ļé¢Ŀ":107783,"åħ¸åŀĭçļĦ":107784,"缮åīįå·²":107785,"æ¬²æľĽ":107786,"èģĶ绾":107787,"æµģä¼ł":107788,"çļĦå®¶åºŃ":107789,"åı·åı¬":107790,"çıįè´µ":107791,"ä¼Łå¤§çļĦ":107792,"éī´äºİ":107793,"è·Łä»ĸ":107794,"产çī©":107795,"ä¸įå·²":107796,"è¿Ŀæ³ķè¡Į为":107797,"头ä¸Ĭ":107798,"åĪĨè§£":107799,"åı¯ä»¥çľĭåĩº":107800,"æł¡åĮº":107801,"åŃĹä½ĵ":107802,"ä¿®çĤ¼":107803,"çĶļèĩ³æĺ¯":107804,"微信åħ¬ä¼Ĺ":107805,"åıĸ代":107806,"èIJ¥ä¸ļæĶ¶åħ¥":107807,"æ½įåĿĬ":107808,"ä½łèĥ½":107809,"社ä¼ļä¿Ŀéļľ":107810,"æ¯ĶèµĽä¸Ń":107811,"污水å¤ĦçIJĨ":107812,"夫å¦ĩ":107813,"ä¸Ģå¹ħ":107814,"沿海":107815,"åı£æĦŁ":107816,"ä½Ĩåį´":107817,"å½ĵæĹ¥":107818,"çļĦæľĢ大":107819,"æ¯ıä¸Ģä½į":107820,"没äºĭ":107821,"çī¹åĪ¥":107822,"å¼ĢåѦ":107823,"è·¯éĿ¢":107824,"å¿ĥçIJĨåѦ":107825,"æĶ¾ç½®":107826,"éĩįåºĨå¸Ĥ":107827,"ä½łèĩªå·±":107828,"æ¶Īè´¹èĢħçļĦ":107829,"ä¸Ģæ³¢":107830,"èѦæĥķ":107831,"åį§å®¤":107832,"注å°Ħ":107833,"é£İ鼨":107834,"沿çĿĢ":107835,"åijĬ訴":107836,"表çݰåĩº":107837,"åĽĽæĺ¯":107838,"åı¤åħ¸":107839,"æĽ´éĩįè¦ģçļĦ":107840,"好äºĭ":107841,"çľ¼æ³ª":107842,"æ¨ĵ":107843,"审åΤ":107844,"碰æĴŀ":107845,"车ç«Ļ":107846,"è¿Ľåħ¥äºĨ":107847,"éĽĨåIJĪ":107848,"æł¼å¤ĸ":107849,"宾é¦Ĩ":107850,"æĶ¯ä»ĺå®Ŀ":107851,"她æĺ¯":107852,"æĺ¯å¦Ĥä½ķ":107853,"人次":107854,"çļĦæĪIJåĬŁ":107855,"æĹłåĬĽ":107856,"æµ·æĭĶ":107857,"æĺ¥åŃ£":107858,"éĥ½ä¸įä¼ļ":107859,"çŃīå¤ļç§į":107860,"ä¸Ģ个å°ı":107861,"åģľè½¦åľº":107862,"è®©æĽ´å¤ļ":107863,"è¿ĻçĤ¹":107864,"æĪIJåĵģ":107865,"éĴī":107866,"éģĩè§ģ":107867,"çıŃ主任":107868,"æĦıæĦ¿":107869,"çļĦåIJĮåѦ":107870,"游è§Ī":107871,"åİĭ缩":107872,"åľ¨ä¼łå¥ĩ":107873,"å¼¹æĢ§":107874,"æĹ¥åĨħ":107875,"ç¦ı建çľģ":107876,"è§ĴèIJ½":107877,"åĪĨå¼Ģ":107878,"ä¼ļ让":107879,"å¤ĸåĽ´":107880,"çĨŁæĤīçļĦ":107881,"çĨĶ":107882,"ä¸ĩè¾Ĩ":107883,"å¤ľéĹ´":107884,"车身":107885,"ä¸ŃæľŁ":107886,"å®ĮåĸĦçļĦ":107887,"åĵģç±»":107888,"åıĭè°Ĭ":107889,"éĢīæĭĶ":107890,"éªij士":107891,"彦":107892,"çļĦçľĭæ³ķ":107893,"åĽ½çİĭ":107894,"è¾£æ¤Ĵ":107895,"åıijå¸ĥæĹ¶éĹ´":107896,"åı¤åŁİ":107897,"éļıæľº":107898,"ç«ĸ":107899,"å¼Ģè¾Ł":107900,"ä¼ĹçĶŁ":107901,"没åĬŀæ³ķ":107902,"åįĥéĩĮ":107903,"æĿ¥æºIJäºİ":107904,"çļĦæĿĥåĪ©":107905,"æ¯ĶåĪĨ":107906,"满æĦıçļĦ":107907,"ä¿®è¡Į":107908,"åĿł":107909,"大海":107910,"èݹ":107911,"åĩºèº«":107912,"è«ĩ":107913,"åħ³èĬĤ":107914,"åIJį人":107915,"éľĢè¦ģ注æĦı":107916,"æĹ©æĻ¨":107917,"å¤ĸåįĸ":107918,"åıĪè¦ģ":107919,"æ¶īæ¡Ī":107920,"çĶ³è¯·äºº":107921,"éĻĦè¿ijçļĦ":107922,"åĬłå¿«æİ¨è¿Ľ":107923,"æĸ°å¹´":107924,"大è¡Ĺ":107925,"ä¸Ģé»ŀ":107926,"èĭıå®ģ":107927,"æĤĦæĤĦ":107928,"èĦ¾æ°Ķ":107929,"å¸ĮèħĬ":107930,"éļıåį³":107931,"æķ¢äºİ":107932,"å®ŀè·µä¸Ń":107933,"æĺ¯æ²¡æľī":107934,"æľīè¶£çļĦ":107935,"æĿ¥èĩªäºİ":107936,"è£ģåΤ":107937,"女åŃ©åŃIJ":107938,"èĩ³åħ³":107939,"èĩ³åħ³éĩįè¦ģ":107940,"æĻºåĬĽ":107941,"èµ°åĩºåİ»":107942,"çŁŃæĿ¿":107943,"å¤§åĽ½":107944,"çļĦ认è¯Ĩ":107945,"å¹´å¤ľ":107946,"åĨįåΰ":107947,"åIJĮæł·çļĦ":107948,"å¯Ĩå°ģ":107949,"å¤ĸ交éĥ¨":107950,"çĶŁæķĪ":107951,"æĤ¨åı¯ä»¥":107952,"ä½łåĢij":107953,"è¿ĩå¹´":107954,"å¼ĵ":107955,"è¡ĮæĿİ":107956,"æ¯Ķèµ·":107957,"身é«ĺ":107958,"è¿Ļ个人":107959,"ä¸Ńå¤ĸ":107960,"éģĵæŃī":107961,"çĽ¯çĿĢ":107962,"亲åŃIJ":107963,"éŸ":107964,"çϽäºij":107965,"èĦĸåŃIJ":107966,"ä¸ĢåĪĩéĥ½":107967,"æ·ij":107968,"è°ľ":107969,"åģ¶çĦ¶":107970,"éĿłè°±":107971,"é«ĺ管":107972,"ä¸ĭåıij":107973,"æĶ¾åΰ":107974,"ç±»åĪ«":107975,"ä¸ĭåĪĹ":107976,"æ··ä¹±":107977,"åIJĪæ³ķæĿĥçĽĬ":107978,"çݯçIJĥ":107979,"æľīæķĪåľ°":107980,"åķĨæĪ·":107981,"æ¹ĸ人":107982,"海岸":107983,"æĬķ产":107984,"两个æľĪ":107985,"éĥ½éĿŀ常":107986,"å¢ŀ强äºĨ":107987,"æĿ¥åΰäºĨ":107988,"åī©ä½Ļ":107989,"æĤ¨çļĦåŃ©åŃIJ":107990,"æµģæ°´":107991,"æŃ£ä¹ī":107992,"天çĮ«":107993,"åģļè¿ĩ":107994,"ä½ķæĹ¶":107995,"æĪijåİ»":107996,"çľģ份":107997,"å¥ĸéĩij":107998,"该å¦Ĥä½ķ":107999,"ä¸ĭçıŃ":108000,"åģ¶åĥı":108001,"æijĨæĶ¾":108002,"æĸ°æ¨¡å¼ı":108003,"æĬķè³ĩ":108004,"è·¯åı£":108005,"åĨľæ°ijå·¥":108006,"大åѸ":108007,"ä»¶äºĭ":108008,"æł¹æľ¬ä¸į":108009,"æµĵ度":108010,"æµĵåİļ":108011,"è½®èĥİ":108012,"æĪ¿ä¼ģ":108013,"éĿŀ常好":108014,"ä»İä¸Ń":108015,"äººæł¼":108016,"ç¿ģ":108017,"æĹ¶éĹ´åĴĮ":108018,"è¿Ļä¸įæĺ¯":108019,"åΏåķĨ":108020,"æĥĬ人":108021,"åύå®ĺ":108022,"åĩĨåĪĻ":108023,"æĥħæĻ¯":108024,"æĽ´é«ĺçļĦ":108025,"åѦ家":108026,"泡沫":108027,"åľ°æĸ¹æĶ¿åºľ":108028,"å°±çŁ¥éģĵ":108029,"åij¼åIJģ":108030,"ç»ıè´¸":108031,"èĬ±éĴ±":108032,"æľīä¸Ģ次":108033,"æĦŁæħ¨":108034,"ä¸Ģåįĥ":108035,"å¤ľæĻļ":108036,"詹å§Ĩ":108037,"詹å§Ĩæĸ¯":108038,"è¦ģéĹ»":108039,"ç»Ĵ":108040,"æºIJäºİ":108041,"çļĦè´¨éĩı":108042,"注æĦıäºĭ项":108043,"æħ¢æĢ§":108044,"稳å®ļçļĦ":108045,"建设åĴĮ":108046,"æĻ¯è±¡":108047,"éĩıåĮĸ":108048,"çļĦ話":108049,"è¯Ħ级":108050,"æºľ":108051,"红åĮħ":108052,"éĢļéģİ":108053,"社ä¼ļ责任":108054,"æĸ°äº§åĵģ":108055,"åĨ·éĿĻ":108056,"çľĭä¸įåΰ":108057,"èģĶéĤ¦":108058,"éŃĦ":108059,"çļĦåīįæıIJ":108060,"çļĦåīįæıIJä¸ĭ":108061,"è¾ĥ好":108062,"çļĦæĦŁæĥħ":108063,"客æĪ·æıIJä¾Ľ":108064,"çĭ¬èĩª":108065,"å¢ŀæĶ¶":108066,"æĸĩçĮ®":108067,"æĭ¼åij½":108068,"管çIJĨåĴĮ":108069,"æµģåĬ¨æĢ§":108070,"åħ¨å®¶":108071,"ä¸Ĭæĸ¹":108072,"æİ¨åĩºçļĦ":108073,"ä¸īåĽ½":108074,"ä¸Ģ个æĺ¯":108075,"æĸ°ä¸Ģè½®":108076,"æĸĩåĮĸéģĹ产":108077,"殺":108078,"大湾åĮº":108079,"éĥ½éľĢè¦ģ":108080,"çļĦå®ŀéĻħ":108081,"ç·Ĭ":108082,"大å¥ĸ":108083,"åħīèĬĴ":108084,"便äºİ":108085,"çļĦ表æĥħ":108086,"æ¼Ķç»İ":108087,"红åĨĽ":108088,"å½ĵæĪij":108089,"æ²»æĦĪ":108090,"é¢Ŀ度":108091,"éĿľ":108092,"ä»»ä½ķ人":108093,"è¡Ĺ头":108094,"çĸ¯":108095,"çĸ¯æĭī":108096,"åĮ»çĸĹæľºæŀĦ":108097,"ç»ĻåŃ©åŃIJ":108098,"è§Ħ磩":108099,"è£ľ":108100,"çļĦ身影":108101,"ä¸ĵæłı":108102,"æĿ¥ä¸´":108103,"童年":108104,"å¤įèĭı":108105,"è¨Ĥ":108106,"åŀĭåı·":108107,"åĽ¾æ¡Ī":108108,"ç®ĢåİĨ":108109,"æĭ±":108110,"èį·åħ°":108111,"ä»»æĦı":108112,"æī¿æİ¥":108113,"è¿Ļæīį":108114,"客车":108115,"æľĿçĿĢ":108116,"éłħ缮":108117,"åı°é£İ":108118,"çļĦæĪ¿åŃIJ":108119,"éªı":108120,"æĿ±è¥¿":108121,"éģĹä¼ł":108122,"è¶Ĭå¤ļ":108123,"äºĨä»ĸçļĦ":108124,"ä¸Ĭåij¨":108125,"管çIJĨåĪ¶åº¦":108126,"失ä¸ļ":108127,"çĶ·åıĭ":108128,"æİ¥ç§į":108129,"å¨ģåIJį":108130,"çĴ°å¢ĥ":108131,"åıijçĶŁåľ¨":108132,"ä¸ªåĽ½å®¶":108133,"åĪĽæĸ°åıijå±ķ":108134,"æĶ¹åıĺäºĨ":108135,"åģ¥åº·çļĦ":108136,"å̼å¾Ĺä¸Ģ":108137,"å̼å¾Ĺä¸ĢæıIJ":108138,"åĽ¢ä¼Ļ":108139,"åģĩ设":108140,"åı°ä¸Ĭ":108141,"è§ĦèĮĥåĮĸ":108142,"éĻªåIJĮ":108143,"座æ¤ħ":108144,"åı¯æĢľ":108145,"åħĭæĢĿ主ä¹ī":108146,"æ³ķå¾ĭ责任":108147,"ä¸Ģé¡¿":108148,"æĬ¬å¤´":108149,"为éĩįçĤ¹":108150,"è¿ľæ´ĭ":108151,"éĢıè¿ĩ":108152,"åħ¨çIJĥåĮĸ":108153,"è¶£åij³":108154,"票æĪ¿":108155,"æ¯ı人":108156,"åIJĦç§įåIJĦæł·":108157,"äºĨåĩºæĿ¥":108158,"ç»Ŀ对æĺ¯":108159,"ä¸ĭå±ŀ":108160,"ä¸ĢåıĮ":108161,"è¿ĻåĿĹ":108162,"æĬĹçĸ«":108163,"è¦ģçĤ¹":108164,"å½¢æĪIJçļĦ":108165,"æĪijçľĭ":108166,"ä¸ĩéĩĮ":108167,"èĢĥçłĶ":108168,"为åħ¶":108169,"æ°ij宿":108170,"å¤ļä½į":108171,"大èĩ´":108172,"ä»ĺè´¹":108173,"åħ¥æīĭ":108174,"å±ħå®¶":108175,"æīĢåľ¨åľ°":108176,"人身":108177,"è¿ĩå¾Ĺ":108178,"è¯ķè¯ķ":108179,"访è°Ī":108180,"åĬłéĩį":108181,"å°±ä¸įä¼ļ":108182,"çĶŁäº§ä¼ģä¸ļ":108183,"åĽŀåĽ½":108184,"åºķ线":108185,"èµ¶åΰ":108186,"æĶ¯éĺŁ":108187,"æĪij们éĥ½":108188,"éĤ®æĶ¿":108189,"缴èĩ³":108190,"éĴ¢çIJ´":108191,"åħľ":108192,"çłĶ讨ä¼ļ":108193,"æľĪ亮":108194,"åĿļæĮģ以":108195,"åħ¬å®īéĥ¨":108196,"éĴ¢ç®¡":108197,"å°ıçϽ":108198,"ç½®ä¸ļ":108199,"èģĭ":108200,"书åĨĻ":108201,"æĿı":108202,"éħįæĸ¹":108203,"èĢĮåıĪ":108204,"çijŀ士":108205,"çķĮçļĦ":108206,"èĢģ大":108207,"æĪIJçĨŁçļĦ":108208,"å¹²ä»Ģä¹Ī":108209,"ä¸ĵ项æĸĹäºī":108210,"çŃīå¤ļ个":108211,"èĦ±ç¦»":108212,"ä¸ī个æľĪ":108213,"çłĶç©¶åijĺ":108214,"æĹĭ转":108215,"æŀģèĩ´":108216,"åħįè´£":108217,"åħį责声æĺİ":108218,"å¾Īå¤ļçݩ家":108219,"车ä¸Ĭ":108220,"交äºĴ":108221,"å·²æĺ¯":108222,"ä¸Ģå°ı":108223,"çļĦéĩįçĤ¹":108224,"èĬ±äºĨ":108225,"ä¸įæĺİ":108226,"æľīåħ³è§Ħå®ļ":108227,"çĬ¹å¦Ĥ":108228,"羸":108229,"寡":108230,"çļĦè¡£æľį":108231,"åĮħ裹":108232,"身åŃIJ":108233,"å¸ĪèĮĥ大åѦ":108234,"äºĭåħĪ":108235,"线æĿ¡":108236,"æ³ķåζ":108237,"åħ»æĬ¤":108238,"稳å®ļæĢ§":108239,"éĤµ":108240,"åŀĦæĸŃ":108241,"é¡į":108242,"èĢĥåı¤":108243,"æĿłæĿĨ":108244,"èĭıèģĶ":108245,"æ°´ç͵":108246,"åħ·ä½ĵçļĦ":108247,"æ¿Ģæ´»":108248,"æĪijæł¡":108249,"åĪļå¼Ģå§ĭ":108250,"åĩ¸æĺ¾":108251,"禾":108252,"åħ¼èģĮ":108253,"éĢıéģİ":108254,"åľ¨æ¸¸æĪıä¸Ń":108255,"社ä¼ļåıijå±ķ":108256,"好çİ©":108257,"å¹»æĥ³":108258,"ä¸į代表":108259,"注æĦıåĬĽ":108260,"æ£į":108261,"ç͍æīĭ":108262,"ç¾İ人":108263,"许å¤ļ人":108264,"å¾Īæĺ¯":108265,"çļĦçłĶåıij":108266,"æīĵåĩº":108267,"åIJĪä¼Ļ人":108268,"ä¸Ģå¤ľ":108269,"ç¼ĵç¼ĵ":108270,"ä¿®æŃ£":108271,"æĦŁçŁ¥":108272,"ç»Ī身":108273,"æ¿Ģç´ł":108274,"çݯå¢ĥä¸ĭ":108275,"次ä¼ļè®®":108276,"ç»ıæµİå¢ŀéķ¿":108277,"æīĽ":108278,"åıijéħµ":108279,"åĪĨæŀIJå¸Ī":108280,"åľ¨æľªæĿ¥":108281,"主è¦ģæľī":108282,"ä¸ĢåŃ£åº¦":108283,"çļĦ说æ³ķ":108284,"ä»İæĿ¥æ²¡æľī":108285,"货车":108286,"缩å°ı":108287,"太è¿ĩ":108288,"æķĪåĬĽ":108289,"ä¸įä¸ĭ":108290,"æĬķ稿":108291,"èį¯ä¸ļ":108292,"ç»Ħéķ¿":108293,"ç«ĻçĤ¹":108294,"å¾Īåĸľæ¬¢":108295,"éIJµ":108296,"åĬ¿å¤´":108297,"æ¼ıæ´ŀ":108298,"æĦ¤æĢĴ":108299,"åħħå®ŀ":108300,"åĪĽä¸ļæĿ¿":108301,"çĪª":108302,"æľªå¿ħ":108303,"åºķéĥ¨":108304,"å¾ĹåĪĨ":108305,"人æ°ijåĮ»éĻ¢":108306,"äºĮæīĭæĪ¿":108307,"å·²ç»ı被":108308,"大楼":108309,"æĸ°æĪ¿":108310,"辦æ³ķ":108311,"ç͍åĬĽ":108312,"æĭĵ宽":108313,"åĨħåľ¨":108314,"æĴŃåĩº":108315,"饰æ¼Ķ":108316,"ä¹Łè®©":108317,"ä½ľçĤº":108318,"çī©ä¸ļ管çIJĨ":108319,"åį´ä¸į":108320,"为ä¸ŃåĽ½":108321,"å±ĢåĬ¿":108322,"ä¸įèĤ¯":108323,"æľĢæĸ°çļĦ":108324,"åı¯ä»¥éĢīæĭ©":108325,"æĺ¾çݰ":108326,"å°±ç®Ĺæĺ¯":108327,"åľ¨æł¡":108328,"é¾Ł":108329,"两æĿ¡":108330,"çļĦå®ŀåĬĽ":108331,"è¶Ĭ好":108332,"å¥¹åľ¨":108333,"å¿łè¯ļ":108334,"ä¹ŁéľĢè¦ģ":108335,"游æĪıæĵįä½ľ":108336,"è¶ħåĩº":108337,"å¦Ĥæŀľä¸į":108338,"æīĢåľ¨çļĦ":108339,"ä½łè¿ĺ":108340,"以åĨħ":108341,"æľīä¸Ģå®ļ":108342,"åı¯è¾¾":108343,"è·ijåΰ":108344,"åīĽ":108345,"建ç«ĭåģ¥åħ¨":108346,"æķ´è½¦":108347,"åīįæĸ¹":108348,"éĹ´æİ¥":108349,"çѹå¤ĩ":108350,"çĸ²åĬ³":108351,"离å¼ĢäºĨ":108352,"æ±Ŀ":108353,"éĿ¢éĥ¨":108354,"ä¹ĭåīįçļĦ":108355,"åıĺ为":108356,"å¦Ĥæŀľè¯´":108357,"对ä»ĺ":108358,"åĿĩåı¯":108359,"被åijĬ人":108360,"ç²¾ç¾İ":108361,"èģļä¼ļ":108362,"çĿ̥̿":108363,"è°·æŃĮ":108364,"ä¸Ģåı·":108365,"红åĪ©":108366,"ä¼łå¥ĩ游æĪı":108367,"å»ĸ":108368,"è´ŀ":108369,"ä¹°åΰ":108370,"éŃļ":108371,"ä½ĵè´¨":108372,"å°ijäºĨ":108373,"æ³īå·ŀ":108374,"åIJŁ":108375,"ç»Ŀä¸į":108376,"é»ijæģ¶":108377,"é»ijæģ¶åĬ¿åĬĽ":108378,"ä¸Ĭæĺł":108379,"çļĦè¯Ŀé¢ĺ":108380,"ä¸ĩ人次":108381,"ä¸ĸéĹ´":108382,"ç͍工":108383,"贯穿":108384,"å®ĿçŁ³":108385,"ä½łå¥½":108386,"åĪĩåī²":108387,"å¼ºåĽ½":108388,"åĽŀèIJ½":108389,"æ°´æĻ¶":108390,"模仿":108391,"洪水":108392,"éĢĻ麼":108393,"åįģä¸īäºĶ":108394,"ä½ij":108395,"éĻĦä»¶":108396,"çļĦå¢ŀéķ¿":108397,"éĻĦå±ŀ":108398,"çݰ已":108399,"å¸®ä½ł":108400,"éĩijçīĮ":108401,"é«ĺåİŁ":108402,"åľ¨å®¶éĩĮ":108403,"éĺ²èħIJ":108404,"ç¡®å®ŀæĺ¯":108405,"宣讲":108406,"天æīį":108407,"ç»ıèIJ¥ç®¡çIJĨ":108408,"éĶħçĤī":108409,"åIJĪä¸Ģ":108410,"è§Ĥèµı":108411,"éķ¿è¾¾":108412,"主ä¹īæĢĿæĥ³":108413,"éĤ£éº¼":108414,"é£İäºij":108415,"为主çļĦ":108416,"æļijåģĩ":108417,"æĮģä¹ħ":108418,"å¼Ĥåľ°":108419,"å¼ĢéŨ":108420,"模æĿ¿":108421,"æī¹æ¬¡":108422,"ä¸į便":108423,"天çĶŁ":108424,"åĩłä¸ªæľĪ":108425,"ä¸ĵç§ij":108426,"åı¦æľī":108427,"åħ¬å¸ĥçļĦ":108428,"æĩ·":108429,"åľºåIJĪ":108430,"çļĦå¿ĥæĢģ":108431,"è¿ĺ好":108432,"å®ŀæĪĺ":108433,"èĢģå¸ĪçļĦ":108434,"åħ©åĢĭ":108435,"åı¯åľ¨":108436,"éĤ£ä½į":108437,"å¥łå®ļäºĨ":108438,"ä¿ĥéĶĢ":108439,"æı´åĬ©":108440,"ä¸ĩçī©":108441,"æĥħæĬ¥":108442,"é¦ĸåħĪè¦ģ":108443,"æĸĩåĮĸåĴĮ":108444,"éĥ½å·²ç»ı":108445,"ä¸Ĭä¸ĸ纪":108446,"åĨľåľº":108447,"大æī¹":108448,"æĺİçϽäºĨ":108449,"çļĦæĪIJéķ¿":108450,"çļĦæ¯ĶèµĽ":108451,"失误":108452,"åģļæĪIJ":108453,"ä»Ĭ天å°ıç¼ĸ":108454,"é¢Ĩè¢ĸ":108455,"æıIJåįĩäºĨ":108456,"å¾IJå·ŀ":108457,"ä»įæľī":108458,"è¿ĩ滤":108459,"å¹½é»ĺ":108460,"çĥŃéĩı":108461,"ä¸Ģé¦ĸ":108462,"æ¼Ĥ亮çļĦ":108463,"åĩłç§į":108464,"åĢ¡è®®":108465,"å°±åı¯ä»¥äºĨ":108466,"æİĴåĪĹ":108467,"éĩįéĩį":108468,"ä¼ģä¸ļåĴĮ":108469,"ä¸ĵå±ŀ":108470,"çħİ":108471,"亲æĪļ":108472,"çϾåĪĨä¹ĭ":108473,"稿件":108474,"è¿ĺå¾Ĺ":108475,"人åĵ¡":108476,"äºī夺":108477,"æĽ´å®¹æĺĵ":108478,"大èĩªçĦ¶":108479,"鼻èħ¦":108480,"太空":108481,"åľ°å¤Ħ":108482,"夢":108483,"ä»ĸ对":108484,"å¿ħå°Ĩ":108485,"ä¸įå½ĵ":108486,"严谨":108487,"åĩºåľº":108488,"å·²ç»ıæľī":108489,"é¢ĨåĨĽ":108490,"é«ĺæ¡£":108491,"ä¸ĢæīĢ":108492,"æłĹ":108493,"让åѦçĶŁ":108494,"æĽ¹æĵį":108495,"æŁIJä¸Ģ":108496,"伸åĩº":108497,"èĬ±åįī":108498,"æ¸ħéĨĴ":108499,"èģĶç³»æĸ¹å¼ı":108500,"åĪĨå±Ģ":108501,"èħ³":108502,"æ©¡èĥ¶":108503,"éķ¿å¾Ĺ":108504,"ç»¿åľ°":108505,"è¢į":108506,"çļĦèīºæľ¯":108507,"女æľĭåıĭ":108508,"ä¸Ńè¶ħ":108509,"离åŃIJ":108510,"å¤ļæł·åĮĸ":108511,"éĺ³åı°":108512,"ä½İ碳":108513,"ä¸Ģç±»":108514,"çŃīæĸ¹éĿ¢çļĦ":108515,"å¾Ĺ好":108516,"模åħ·":108517,"ä¸ĩ亿":108518,"çķĻæĦı":108519,"临æ²Ĥ":108520,"å°ijéĩı":108521,"çľĭåIJij":108522,"ç»ıèIJ¥èĢħ":108523,"çķĻä¸ĭäºĨ":108524,"åĿıäºĨ":108525,"åijĬåĪ«":108526,"羣çIJĨ":108527,"ç¼´è´¹":108528,"æĬĬä½ł":108529,"çļĦä»»åĬ¡":108530,"æĪij对":108531,"ä¹°åħ¥":108532,"çĻ»ä¸Ĭ":108533,"æľī两个":108534,"ä¸Ģ头":108535,"æĵįæİ§":108536,"åħ¨è¦ĨçĽĸ":108537,"çĿĢæīĭ":108538,"å¢ĻéĿ¢":108539,"å¤ļæĸ¹":108540,"åı¯çαçļĦ":108541,"ä¹Łåı¯èĥ½":108542,"æľĢæľī":108543,"è¿ĻäºĽéĥ½æĺ¯":108544,"æĥ¡":108545,"å®®":108546,"å¾Īå°ı":108547,"éĹ®é¢ĺæĺ¯":108548,"åĿĩæľī":108549,"å¾ģéĽĨ":108550,"说åĩº":108551,"æľīæĦı":108552,"é¢Ĥ":108553,"æī¬å·ŀ":108554,"åķĨä¸ļ模å¼ı":108555,"çĶŁèĤĸ":108556,"æįIJ款":108557,"å²Ĥ":108558,"ç¾İæĻ¯":108559,"è¿ĺ羣":108560,"æĭ¥æĬ±":108561,"身ä½ĵåģ¥åº·":108562,"æ·±å¤Ħ":108563,"çľ¼ç¥ŀ":108564,"çļĦ形象":108565,"ä¼ĺè¶Ĭ":108566,"å½ĵæĪIJ":108567,"åĮºåĪĨ":108568,"åİ»éϤ":108569,"注å®ļ":108570,"å§IJ妹":108571,"åĮºåĨħ":108572,"é©ļ":108573,"æļĹ示":108574,"æĺİ亮":108575,"æħ°éĹ®":108576,"å¸Ĥåľºä»½é¢Ŀ":108577,"çĮªèĤī":108578,"çļĦèµĦéĩij":108579,"åİĨç»ı":108580,"å§ĭç»ĪåĿļæĮģ":108581,"çĶŁæľº":108582,"ä¸į顾":108583,"éĩijåĪļ":108584,"大声":108585,"éĻķ西çľģ":108586,"é²į":108587,"åĨľä¸ļåĨľæĿij":108588,"æľī害":108589,"éŨè¯Ĭ":108590,"æ¯ıä¸Ģ次":108591,"çļĦåĽłç´ł":108592,"é¢Ŀå¤ĸ":108593,"åݿ级":108594,"çļĩåIJİ":108595,"åĽ½ä¼ģ":108596,"é¦ĸéĢī":108597,"ç¼ĸåĨĻ":108598,"æĭ¿èµ·":108599,"åģ·åģ·":108600,"ä¸İä¸ŃåĽ½":108601,"åįĸå®¶":108602,"ç»Ļä»ĸ们":108603,"ç¥ŀè¯Ŀ":108604,"åŃ¸æł¡":108605,"æĪijä¸Ģ缴":108606,"çŁ¥éģĵäºĨ":108607,"åįĴ":108608,"åĴĮåľ°åĮº":108609,"ä»Ģä¹Īéĥ½":108610,"çͻ家":108611,"æľ¬çĿĢ":108612,"ä½ĻåIJį":108613,"审çIJĨ":108614,"ä¸ĢåIJij":108615,"åıijå±ķè¶ĭåĬ¿":108616,"åĮºéĹ´":108617,"注åĨĮèµĦæľ¬":108618,"çIJ¦":108619,"ä¸įåı¯ä»¥":108620,"çļĦåĦ¿åŃIJ":108621,"å̼çıŃ":108622,"ä¸¥æł¼çļĦ":108623,"å®ŀä½ĵç»ıæµİ":108624,"æľīæĿĥ":108625,"æĪijåıĪ":108626,"éĵ¶æ²³":108627,"ç«ĭ马":108628,"æĿĢäºĨ":108629,"åĮħ容":108630,"管家":108631,"身é«Ķ":108632,"éĵħ":108633,"å°ıåŃIJ":108634,"管çIJĨç³»ç»Ł":108635,"æľīçļĦ人":108636,"é£İç͵":108637,"æĻºèĥ½åζéĢł":108638,"精确":108639,"æĭĽåķĨå¼ķ":108640,"æĭĽåķĨå¼ķèµĦ":108641,"äºĮæīĭ车":108642,"åİ¿å§Ķ":108643,"èīºäºº":108644,"å¥ķ":108645,"è¿İæĿ¥äºĨ":108646,"ç»ĵæĿŁäºĨ":108647,"çļĦä¼łç»Ł":108648,"æĭ¼æIJı":108649,"奥迪":108650,"çĸijæĥij":108651,"ä¹ĭæĹ¥èµ·":108652,"æłĩå¿ĹçĿĢ":108653,"åľ°åįĢ":108654,"è¯łéĩĬ":108655,"åĪ°æľŁ":108656,"åħ¨éĥ½":108657,"çŁŃæļĤ":108658,"æĺ¯æĪijåĽ½":108659,"æĪijå·²ç»ı":108660,"æ»´æ»´":108661,"天èµĭ":108662,"对她":108663,"åį«çĶŁéĹ´":108664,"çĶŁäº§åŁºåľ°":108665,"æĹ¥è®°":108666,"çļĦæķĻåѦ":108667,"åĵĩ":108668,"æ°ijäºĭ":108669,"è¿ĺåİŁ":108670,"æīĭä¸ŃçļĦ":108671,"çļĦèī¯å¥½":108672,"æ·«":108673,"ä¸Ńåħ±ä¸Ń央":108674,"åĪĥ":108675,"åĵĦ":108676,"åľ¨ä»ĸçļĦ":108677,"å°Īæ¥Ń":108678,"åľºéĿ¢":108679,"éĤ»å±ħ":108680,"çĹĴ":108681,"å¦Ħ":108682,"å¤ĸç§ij":108683,"ä¸įéĢĤ":108684,"举åĬŀçļĦ":108685,"éĤ¹":108686,"åħļçļĦ建设":108687,"çĻ¼è¡¨":108688,"è·¨çķĮ":108689,"æ²īæ·Ģ":108690,"大çīĩ":108691,"è¶Ĭé«ĺ":108692,"å°Ĩæĺ¯":108693,"è§īéĨĴ":108694,"åĤ¨åŃĺ":108695,"å¢ŀ大":108696,"ä¸į让":108697,"æķ´å½¢":108698,"å¹³åı°ä¸Ĭ":108699,"åĩłä½į":108700,"è¯īæ±Ĥ":108701,"好ä¸į好":108702,"åľį":108703,"æĸĩæľ¬":108704,"é̲åħ¥":108705,"ç´į":108706,"æł¹æĵļ":108707,"èįīæ¡Ī":108708,"åħŃ个":108709,"åĭ¿":108710,"åζæĪIJ":108711,"饮水":108712,"æ°¸æģĴ":108713,"èĩªæĿĢ":108714,"åı¸é©¬":108715,"éļ¾çĤ¹":108716,"为æĪij们":108717,"å¼§":108718,"åī©ä¸ĭçļĦ":108719,"åĩĨå¤ĩ好":108720,"çļĦæľĢä½³":108721,"èģĶåIJĪä¼ļ":108722,"æĤ£èĢħçļĦ":108723,"æĪijä¸įçŁ¥éģĵ":108724,"ä¸ĭä¸Ģ个":108725,"åıijå±ķæĸ¹åIJij":108726,"笨":108727,"æīĢ以æĪij们":108728,"åĨĻäºĨ":108729,"éĢłæĪIJäºĨ":108730,"æ²Ļæ¼ł":108731,"çŃĽéĢī":108732,"çģ¾åĮº":108733,"ä¸Ĭçľĭ":108734,"éħ¶":108735,"æ»ļåĬ¨":108736,"éļ¾åħį":108737,"åIJīåĪ©":108738,"ä¸Ģä¸Ģ":108739,"ç²¾å¯Ĩ":108740,"伸æīĭ":108741,"礼仪":108742,"åħ¨æĺ¯":108743,"è¶Ĭ大":108744,"ä¸Ńæłĩ":108745,"åıĸåĨ³":108746,"åıĸåĨ³äºİ":108747,"éĢĶä¸Ń":108748,"讨åİĮ":108749,"æīĭåĨĮ":108750,"第ä¹Ŀ":108751,"åŃĶåŃIJ":108752,"çĦ¶å¾Į":108753,"ä¸Ģåħ±":108754,"æµ·æĬ¥":108755,"款å¼ı":108756,"æķ´å¤©":108757,"è¾¹çķĮ":108758,"路边":108759,"æĻĭ级":108760,"åIJIJæ§½":108761,"çļĦåħ³æ³¨":108762,"æĪij没æľī":108763,"å°±æĺ¯åľ¨":108764,"缮çļĦæĺ¯":108765,"åį³ä½¿æĺ¯":108766,"é¡¶å°ĸ":108767,"å·²ç»ıåľ¨":108768,"å®īåħ¨éļIJæĤ£":108769,"æłĩæĿĨ":108770,"åįĹéĢļ":108771,"ä¼ļ对":108772,"座ä½į":108773,"èµ¢å¾ĹäºĨ":108774,"åİŁæĿ¥çļĦ":108775,"身为":108776,"书åºĹ":108777,"è¢Ńåĩ»":108778,"ä»ĬæĻļ":108779,"以èī²":108780,"以èī²åĪĹ":108781,"æĬĸéŁ³":108782,"åį´æ²¡æľī":108783,"丧失":108784,"çļĦå±ĢéĿ¢":108785,"åįģåĽĽäºĶ":108786,"çŃī缸åħ³":108787,"æ±ĩæĢ»":108788,"å¤ĸ表":108789,"为æ°ij":108790,"éľĩæĥĬ":108791,"å¥Ĺè·¯":108792,"çĬ¯ç½ªå«Įçĸij":108793,"å°Ĩ以":108794,"çİĩé¢Ĩ":108795,"éħĴåIJ§":108796,"è¡Įä¸ļåıijå±ķ":108797,"å¹´èĩ³":108798,"åύæĿIJ":108799,"åĴĮæĬĢæľ¯":108800,"æľĢå°ı":108801,"è¿Ļä¸ĢåĪĩ":108802,"èģĮç§°":108803,"å½ĵä½ľ":108804,"æİĢèµ·":108805,"åĴĭ":108806,"ä¸Ńéĥ¨":108807,"æīĭèĩĤ":108808,"ç½¢äºĨ":108809,"媳å¦ĩ":108810,"æ´½è°Ī":108811,"æĹ¶ä»£ä¸ŃåĽ½":108812,"人çĶŁçļĦ":108813,"æŀģéĻIJ":108814,"ç¦Ħ":108815,"åĮºæĶ¿åºľ":108816,"æľ¬éĴ±":108817,"礼åĵģ":108818,"çļĦéĤ£ä¸ª":108819,"ä¾¦æŁ¥":108820,"太å¤ļçļĦ":108821,"å®ŀæĸ½æĸ¹æ¡Ī":108822,"é«ĺæłĩåĩĨ":108823,"æĮĩæĮ¥éĥ¨":108824,"å̾æĸľ":108825,"çī¹èī²ç¤¾ä¼ļ":108826,"çµIJæŀľ":108827,"éĴ»çٳ":108828,"ç§»æ¤į":108829,"çī¹ç§į":108830,"èĩªæĦ¿":108831,"æĭľçĻ»":108832,"åįķ身":108833,"åį´åıĪ":108834,"åĪ¥äºº":108835,"åIJĪè§Ħ":108836,"æľºç͵":108837,"çĦı":108838,"å½ĵåīįä½įç½®":108839,"ä¹°å®¶":108840,"åIJĪ约":108841,"èĤ©èĨĢ":108842,"为åĩĨ":108843,"å®¶è£ħ":108844,"çļĦçĥŃæĥħ":108845,"éĿŀéģĹ":108846,"çļĦéŃħåĬĽ":108847,"åİŁåijĬ":108848,"社ä¼ļåIJĦçķĮ":108849,"ä¹°çļĦ":108850,"å¤ļåIJĥ":108851,"éĽķå¡ij":108852,"èµ·ä¹ī":108853,"åĬłåī§":108854,"éĤ£ä¸ĢåĪ»":108855,"å°Ĩè¿Ľä¸ĢæŃ¥":108856,"æ¡ĤæŀĹ":108857,"æĽ´å¼º":108858,"对ä¼ģä¸ļ":108859,"æĹłæĦı":108860,"ä¹łè¿ijå¹³æĸ°":108861,"æµģ失":108862,"微软":108863,"çĽ¸å¯¹äºİ":108864,"座è°Īä¼ļ":108865,"主èIJ¥ä¸ļ":108866,"主èIJ¥ä¸ļåĬ¡":108867,"ç§ģåĭŁ":108868,"å±ķ示äºĨ":108869,"常æĢģåĮĸ":108870,"è²´":108871,"符åı·":108872,"å¹´è½»çļĦ":108873,"å°±éľĢè¦ģ":108874,"ä¹ŁæĽ¾":108875,"çļĦæĥħ绪":108876,"è¾¾æłĩ":108877,"èĩ¨":108878,"ä½įå±ħ":108879,"ä»ħ为":108880,"é¦ĸå®¶":108881,"éĺ´éĺ³":108882,"ä¸įåĨįæĺ¯":108883,"åĽłä¸ºå®ĥ":108884,"ä¼ģä¸ļåľ¨":108885,"çĺ¾":108886,"åIJ¬è§ģ":108887,"åİŁæľī":108888,"åζè£ģ":108889,"å¯Ĥå¯ŀ":108890,"éĢļè¿ĩ对":108891,"æ»ijéĽª":108892,"è¿Ļå¼ł":108893,"çļĦçIJĨè§£":108894,"æĸ°ä¸ŃåĽ½":108895,"è¿ĻåĦ¿":108896,"ä½İä»·":108897,"æĥ³è¿ĩ":108898,"çļĦä¿¡å¿ĥ":108899,"建çŃijçī©":108900,"çļĦé¢ľèī²":108901,"ä¸įåºĶ该":108902,"æĹłçĸijæĺ¯":108903,"å¼ķèµ·äºĨ":108904,"åħ¨åijĺ":108905,"æĿ°åĩº":108906,"è¿Ļæĺ¯æĪij":108907,"誰":108908,"èĺĩ":108909,"éĺµåľ°":108910,"åħħå̼":108911,"çŁ¿ä¸ļ":108912,"çĿĢä»ĸ":108913,"信访":108914,"ä¸ĩè¾¾":108915,"æij©æĵ¦":108916,"å¼Ģ端":108917,"èı²å¾ĭ":108918,"èı²å¾ĭ宾":108919,"车åŃIJ":108920,"æľ¬èº«çļĦ":108921,"çģ«è½¦ç«Ļ":108922,"常å·ŀ":108923,"为代表":108924,"为代表çļĦ":108925,"广ç͵":108926,"亲人":108927,"åı³æīĭ":108928,"éĽĨè£ħ":108929,"éĽĨè£ħç®±":108930,"çļĦåį°è±¡":108931,"æ©Łæľĥ":108932,"åĮĨåĮĨ":108933,"åħīç͵":108934,"大æĸ¹":108935,"è¿ĺæľª":108936,"åΩ好":108937,"ç»Ŀ大å¤ļæķ°":108938,"åľ¨è¿Ļç§į":108939,"ä¸Ģç»Ħ":108940,"æĸ°èĤ¡":108941,"转åıij":108942,"æ³ķåºŃ":108943,"æĹłæīĢ":108944,"éģĵè·¯ä¸Ĭ":108945,"çŁ¿å±±":108946,"èijī":108947,"æĶ¶åĽŀ":108948,"ç§°ä¹ĭ":108949,"ç§°ä¹ĭ为":108950,"æıŃéľ²":108951,"åı£å²¸":108952,"åIJ¼":108953,"å¿ĥæĥ³":108954,"çļĦ梦æĥ³":108955,"éĽ¯":108956,"ä¹ĭåĪĿ":108957,"å¥ĸ项":108958,"订éĺħ":108959,"èĵĿ天":108960,"åĿ¦åħĭ":108961,"ç«ĭæ¡Ī":108962,"èģĶæīĭ":108963,"ä½Ĩæĺ¯æĪij":108964,"帮æĪij":108965,"ä»ħ代表":108966,"说æĪij":108967,"çļĦè¶ĭåĬ¿":108968,"æ¯Ķè¾ĥ大":108969,"èµ°å»Ĭ":108970,"éĩįçĤ¹é¡¹çĽ®":108971,"èµĮåľº":108972,"åIJįçīĩ":108973,"æĦŁåı¹":108974,"åľ¨åľ°ä¸Ĭ":108975,"åıijçĥŃ":108976,"èĮĥçķ´":108977,"çļĦéģĵè·¯":108978,"éĩijèī²":108979,"ä»ĸåıĪ":108980,"ä¼ļ产çĶŁ":108981,"æ°ijåĽ½":108982,"å®ĺæĸ¹ç½ijç«Ļ":108983,"æĶ¶çĽĬçİĩ":108984,"çļĦåΰæĿ¥":108985,"çļĦåĬŀæ³ķ":108986,"æĶ¹åζ":108987,"ä¸ĩç§ij":108988,"ä¸įäºĪ":108989,"è¿ĻäºĽéĹ®é¢ĺ":108990,"çαä¸Ĭ":108991,"çIJĥåľº":108992,"责令":108993,"æİĪ课":108994,"åľ¨é¦Ļ港":108995,"ç»Ĩèħ»":108996,"å¤ļä¸ĩ":108997,"åIJĮå¹´":108998,"大使":108999,"æĸĭ":109000,"ä¹Łä¸º":109001,"æĥłå·ŀ":109002,"åIJī祥":109003,"çͰåĽŃ":109004,"åĽ½å®¶éĺŁ":109005,"éĩįçĶŁ":109006,"åľ¨åħ¶":109007,"é¦Ļåij³":109008,"è´Łèį·":109009,"亲åĪĩ":109010,"èĩªè±ª":109011,"没éĶĻ":109012,"åĽłä¸ºåľ¨":109013,"æĺŁæĺŁ":109014,"éĤij":109015,"è¿ĺæľīå¾Īå¤ļ":109016,"æij©æīĺ":109017,"æij©æīĺ车":109018,"æŃ¥è¡Į":109019,"管çIJĨä½ĵç³»":109020,"èĦļä¸ĭ":109021,"éģİåİ»":109022,"æ±īè¯Ń":109023,"对ä¸įèµ·":109024,"çļĦç»ıåİĨ":109025,"åıĬ缸åħ³":109026,"ä¸įå°ij人":109027,"éĩįç£ħ":109028,"åĬ³åĬ¨èĢħ":109029,"大åĬĽåıijå±ķ":109030,"æĢİä¹Īåģļ":109031,"çĭĹçĭĹ":109032,"举åįĹäºļ":109033,"åĭĩäºİ":109034,"åħ¬éĸĭ":109035,"çĵ·çłĸ":109036,"åıĤçħ§":109037,"广æĴŃç͵è§Ĩ":109038,"举åĬ¨":109039,"æ±Łè¥¿çľģ":109040,"æķĪèĥ½":109041,"å͝æľī":109042,"éĿ¢è²Į":109043,"èĩªåĬ¨é©¾é©¶":109044,"æ¦ľåįķ":109045,"å½ĵæĪij们":109046,"仲è£ģ":109047,"æľ¨æĿIJ":109048,"ç±³åħ°":109049,"çϽéĵ¶":109050,"çļĦ人éĥ½":109051,"å°±åĥıæĺ¯":109052,"æŃ¥åħ¥":109053,"åįłç͍":109054,"åĩ»è´¥":109055,"让大家":109056,"ä¼ļè®©ä½ł":109057,"åİ¿æĶ¿åºľ":109058,"è¦ģç͍":109059,"çŃīå½¢å¼ı":109060,"åįĩé«ĺ":109061,"责任æĦŁ":109062,"å¤ĩç͍":109063,"ä»ĸ认为":109064,"æ¸ħåįİ大åѦ":109065,"ä»ĸèĩªå·±":109066,"éĸ±è®Ģ":109067,"太平æ´ĭ":109068,"éĶģå®ļ":109069,"çŃĨ":109070,"è¿Ļçīĩ":109071,"æī§æĶ¿":109072,"è¿ĶåĽŀæIJľçĭIJ":109073,"å°±æŃ¤":109074,"éģĩåΰäºĨ":109075,"å¼Ģå¹ķå¼ı":109076,"管çIJĨéĥ¨éŨ":109077,"å§¿åĬ¿":109078,"设æĥ³":109079,"åĽĽåŃ£":109080,"æĬĢæľ¯äººåijĺ":109081,"å·®çĤ¹":109082,"è¾ŀèģĮ":109083,"èĢģ師":109084,"çļĦæĦŁåıĹ":109085,"ä¹ŁéĿŀ常":109086,"å¹´ä¸ĬåįĬå¹´":109087,"æĢªçī©":109088,"èĮĥæĸĩ":109089,"æĪĺå½¹":109090,"åIJ«ä¹ī":109091,"åħ¨è¿ĩç¨ĭ":109092,"èĢĮéĿŀ":109093,"éĢļ讯åijĺ":109094,"è¿Ļæł·æīįèĥ½":109095,"æľºç»Ħ":109096,"è£ı":109097,"çķ¶çĦ¶":109098,"èµĮåįļ":109099,"åIJĦæľī":109100,"å·¥ä½ľæľºåζ":109101,"äºĭåIJİ":109102,"åī§éĻ¢":109103,"å±ĬæĹ¶":109104,"åĺ´éĩĮ":109105,"主线":109106,"ä¸ĢåľĪ":109107,"主è¦ģåİŁåĽł":109108,"å°¸ä½ĵ":109109,"åĮ»çĸĹåĻ¨æ¢°":109110,"ä½łæĢİä¹Ī":109111,"ä½Ĩçͱäºİ":109112,"æĹ¶ç©º":109113,"çĶ·æľĭåıĭ":109114,"çĶľèľľ":109115,"é«ĺåľ°":109116,"æĻĸ":109117,"èĴIJéĽĨ":109118,"åĩĿèģļåĬĽ":109119,"å¤ĩåıĹ":109120,"æĸĩåĪĽ":109121,"马æĿ¥":109122,"马æĿ¥è¥¿äºļ":109123,"æŁ´æ²¹":109124,"使人":109125,"æķĻä¼ļ":109126,"ç§ĭ天":109127,"æĺİçıł":109128,"åħŃåįģ":109129,"çݯå¢ĥä¸Ń":109130,"æ¸ħæĻ¨":109131,"积æŀģåıĤä¸İ":109132,"å·ħå³°":109133,"ä¸ºæľŁ":109134,"çѾåŃĹ":109135,"æĦŁæ¿Ģ":109136,"ç§ĭåŃ£":109137,"æĿijåŃIJ":109138,"æ¢ħ西":109139,"æļ´éĽ¨":109140,"çĶŁæ´»åľ¨":109141,"çªĹæĪ·":109142,"æģ¶åĬ£":109143,"纯粹":109144,"åľ¨æİ¥åıĹ":109145,"没èĥ½":109146,"è¡Į人":109147,"åĭº":109148,"æĭ¨æīĵ":109149,"ä½ľåĩºäºĨ":109150,"çļĦ主é¢ĺ":109151,"æľªä¾Ĩ":109152,"ä¸ŃæľĢ":109153,"æ¾ľ":109154,"é«ĺè¡Ģåİĭ":109155,"åħ´èµ·":109156,"æŃ£èĥ½éĩı":109157,"åŁ¹è®ŃçıŃ":109158,"æİ¥åħ¥":109159,"çĦ¶åIJİåĨį":109160,"åѦçĶŁä»¬":109161,"é¢ĨåħĪçļĦ":109162,"çģ«çĥŃ":109163,"ä¸ĵèģĮ":109164,"æĪĸèĢħ说":109165,"建è¨Ń":109166,"é»ı":109167,"对åħ¬åı¸":109168,"çľīçļĦ":109169,"åħīèį£":109170,"å½ĵåľº":109171,"éĿ¢åŃIJ":109172,"èµĦ产管çIJĨ":109173,"æĹ¶æľŁçļĦ":109174,"çŀİ":109175,"åįİ举":109176,"åıĪä¸Ģ次":109177,"èĥİåĦ¿":109178,"å®ļçĤ¹":109179,"头çĹĽ":109180,"æ¶²ä½ĵ":109181,"æĺ¯ä¸Ģä½į":109182,"帽åŃIJ":109183,"å¹´èµ·":109184,"ä¸įä½İäºİ":109185,"è¾ĥå°ij":109186,"éĿ¢ä¸´çĿĢ":109187,"å±Ĥå±Ĥ":109188,"èĿ´èĿ¶":109189,"èī°èĭ¦":109190,"éĺ¿æł¹":109191,"éĺ¿æł¹å»·":109192,"æ¦Ĥæĭ¬":109193,"请éĹ®":109194,"èµ·åºĬ":109195,"å±Ģå±Ģéķ¿":109196,"稳åģ¥":109197,"å¦ĤæŀľæĪij们":109198,"éħĴç²¾":109199,"æĪ·åı£":109200,"æĦŁæĤŁ":109201,"æĪij们éľĢè¦ģ":109202,"æĬĢèīº":109203,"èĩªåªĴä½ĵ":109204,"è¿ĽåĮĸ":109205,"æ¿ĢçĥĪçļĦ":109206,"ä½ĵ温":109207,"èļķ":109208,"èĩ´è¾ŀ":109209,"宪æ³ķ":109210,"ä¸ĢçŃīå¥ĸ":109211,"çĵ¶é¢Ī":109212,"æĥłæ°ij":109213,"èµ°è·¯":109214,"çݰ任":109215,"åķĨéĩı":109216,"ä¸ĭ车":109217,"åĪł":109218,"責任":109219,"èŀįåIJĪåıijå±ķ":109220,"ç´łæĿIJ":109221,"油价":109222,"åģļ人":109223,"çŀª":109224,"æĶ¹éĿ©åĪĽæĸ°":109225,"çļĦåĮºåĪ«":109226,"è·¨å¢ĥç͵åķĨ":109227,"æ¶īåıĬåΰ":109228,"æīĺ管":109229,"æĪijè¿ĺæĺ¯":109230,"åĿIJæłĩ":109231,"ç½ij讯":109232,"å½ĵåľ°çļĦ":109233,"追溯":109234,"åľŁè̳":109235,"åľŁè̳åħ¶":109236,"åºķä¸ĭ":109237,"åĩłåįģå¹´":109238,"ç©¿è¿ĩ":109239,"çĶŁæĢģæĸĩæĺİ":109240,"æİ¨èĸ":109241,"æİ¨èĸ¦":109242,"éłĨ":109243,"åĴ³åĹ½":109244,"åĪĨæĪIJ":109245,"çĹķ迹":109246,"æĪ·ç±į":109247,"éĥ½ä¸įèĥ½":109248,"æĻļä¼ļ":109249,"åĢ©":109250,"ä½ĵåĬĽ":109251,"è¿Ļ个èģĮä¸ļ":109252,"æĹłå½¢":109253,"åıªæĥ³":109254,"è¿Ľåıĸ":109255,"æĿ̿ѻ":109256,"èĦĬ":109257,"äºijåįĹçľģ":109258,"æľªçŁ¥":109259,"ç¾İèģĶ":109260,"ç¾İèģĶåĤ¨":109261,"å¤ĸå½¢":109262,"诱æĥij":109263,"çĽ£":109264,"è¡Į使":109265,"åłĨ积":109266,"çĨŁç»ĥ":109267,"éĺIJè¿°":109268,"æľĢ大éĻIJ度":109269,"å·¡æŁ¥":109270,"夺åĨł":109271,"ä¼ģä¸ļæĸĩåĮĸ":109272,"çĭ®åŃIJ":109273,"ä¿Ŀå®Ī":109274,"ä¸ºæł¸å¿ĥçļĦ":109275,"æī©æķ£":109276,"åζéĢłåķĨ":109277,"æŁĶ软":109278,"为ä¸Ģä½ĵçļĦ":109279,"游çİ©":109280,"çĶŁçĹħ":109281,"幫åĬ©":109282,"åͱæŃĮ":109283,"æīįåı¯ä»¥":109284,"宽æĿ¾":109285,"è¦ģæ¯Ķ":109286,"æĺ¯æĢİæł·":109287,"çģ°èī²":109288,"çİĭåĽ½":109289,"æIJħæĭĮ":109290,"计éĩı":109291,"åij¨åĽ´çļĦ":109292,"æĻºèĥ½æīĭæľº":109293,"常åĬ¡":109294,"常åĬ¡åī¯":109295,"é©´":109296,"å°Ĩè¿ij":109297,"寻常":109298,"ä¸ŃåĽ½å¸Ĥåľº":109299,"容åύ":109300,"å±±ä¸Ĭ":109301,"èĥĮåIJİçļĦ":109302,"亲å¯Ĩ":109303,"æīĢ以说":109304,"éİ®":109305,"çļĦçIJĨçͱ":109306,"大åŁİå¸Ĥ":109307,"常年":109308,"æĹħ游ä¸ļ":109309,"å°±æĺ¯è¿Ļæł·":109310,"åĨįæĿ¥":109311,"é«ĺä½į":109312,"åĨħ饰":109313,"æŀĦéĢł":109314,"ä¸Ģèµ·æĿ¥":109315,"çͳè«ĭ":109316,"å·²ç»ıå¼Ģå§ĭ":109317,"çļĦåĬ¨ä½ľ":109318,"被迫":109319,"éģįå¸ĥ":109320,"åīĸæŀIJ":109321,"å°ıäºĭ":109322,"å¿ĥä¸ŃçļĦ":109323,"ä½ĵåζæĶ¹éĿ©":109324,"çļĩå®¶":109325,"æķĻåłĤ":109326,"åIJĥå®Į":109327,"åĽ½æ°ijåħļ":109328,"æĺİç¡®äºĨ":109329,"åıijå±ķè§ĦåĪĴ":109330,"第ä¸ĢæŃ¥":109331,"å¾Ĺèµ·":109332,"åľ¨åĵª":109333,"çļĦè·¯ä¸Ĭ":109334,"é»Ķ":109335,"çķ¶æĻĤ":109336,"大åĬĽæĶ¯æĮģ":109337,"åıĮéĩį":109338,"çŁ¥éģĵèĩªå·±":109339,"åIJĪä½ľåįıè®®":109340,"æ°ĶåĬ¿":109341,"éķ¿æķĪæľºåζ":109342,"ç½ķè§ģ":109343,"åĽŀæĿ¥äºĨ":109344,"ä»ĸä¼ļ":109345,"ä¸Ńæĸ°":109346,"ä¸Ńæĸ°ç½ij":109347,"çļĦåķĨåĵģ":109348,"èµłéĢģ":109349,"決å®ļ":109350,"å¸ĤåľºçĽij管":109351,"çķĻåѦçĶŁ":109352,"ç͵åİĭ":109353,"äºļ马":109354,"äºļ马éĢĬ":109355,"è¿ĺæĺ¯æ¯Ķè¾ĥ":109356,"ä¿ĥè¿ĽäºĨ":109357,"æµģåħ¥":109358,"æijĦåĥı":109359,"æijĦåĥı头":109360,"æıIJåıĬ":109361,"åıijæİĺ":109362,"æī¾åĩº":109363,"æ¢Ŀä»¶":109364,"ç¹¼çºĮ":109365,"æĪijåĸľæ¬¢":109366,"å¥İ":109367,"æ¦ľæł·":109368,"å¼ĢèĬ±":109369,"æ²īéĩį":109370,"åŁºåĩĨ":109371,"ä»ħä»ħæĺ¯":109372,"轨éģĵ交éĢļ":109373,"åĶIJå±±":109374,"çŃīä¸Ģç³»åĪĹ":109375,"ä¸įè¿ĩæĺ¯":109376,"åŃĺåľ¨çĿĢ":109377,"èĬ±çĶŁ":109378,"夷":109379,"ç»Īç©¶":109380,"ä¹Łæĺ¯ä¸Ģ个":109381,"åįģåŃĹ":109382,"èĸªéħ¬":109383,"伤å¿ĥ":109384,"æĺ¥ç§ĭ":109385,"åĨ·åį´":109386,"ç²¾çģµ":109387,"çļĦåľ°åĽ¾":109388,"æ¯Ķçī¹":109389,"æ¯Ķçī¹å¸ģ":109390,"æĢ§åĪ«":109391,"ä½Ļä¸ĩåħĥ":109392,"ä¸įå¿ĺåĪĿå¿ĥ":109393,"å¿ĥçĸ¼":109394,"æĽ²çº¿":109395,"é«ĺä½İ":109396,"è¦ıå®ļ":109397,"æĻ¯èī²":109398,"è¦ģ说":109399,"åħ¬åı¸å°Ĩ":109400,"æ¶²åİĭ":109401,"è¿Ŀ约":109402,"åİļ度":109403,"åºŀ大çļĦ":109404,"è¿ĺæĺ¯å¾Ī":109405,"é¦ĸåħĪæĺ¯":109406,"çµ²":109407,"åĬ¡å®ŀ":109408,"並ä¸Ķ":109409,"å¢ŀè¿Ľ":109410,"ç»Ħç»ĩå¼Ģå±ķ":109411,"èµ·æĿ¥äºĨ":109412,"è¾ĥå°ı":109413,"导游":109414,"ä¸¤åľ°":109415,"ç¿ĺ":109416,"çģ¿çĥĤ":109417,"é£İéĩĩ":109418,"æĶ¯çº¿":109419,"æĶ¯çº¿ä»»åĬ¡":109420,"娱ä¹IJåľĪ":109421,"天津å¸Ĥ":109422,"åĮħåĽ´":109423,"æľ¬èµĽåŃ£":109424,"éĩįè¦ģ讲è¯Ŀ":109425,"åıĮåIJij":109426,"åįİ丽":109427,"éͤ":109428,"åĦ¿å¥³":109429,"åįĸåĩº":109430,"ä¾Ĩ說":109431,"ä»ĭç»įä¸Ģä¸ĭ":109432,"åIJ¦è®¤":109433,"åĭĿ":109434,"æĻ®éĢļ人":109435,"çļĦåĬ¨åĬĽ":109436,"涨åģľ":109437,"åŁºéĩij管çIJĨ":109438,"ä¸Ģ个éĩįè¦ģ":109439,"è¿IJæ²³":109440,"çħŀ":109441,"è´¢æĶ¿éĥ¨":109442,"è¡Įä¸ļåįıä¼ļ":109443,"éĥ½å°Ĩ":109444,"è¨Ģ论":109445,"ä¸ĭä¾Ĩ":109446,"墨西":109447,"墨西åĵ¥":109448,"åĽłä¸ºä»ĸ们":109449,"æĢİä¹ĪåĽŀäºĭ":109450,"åĬłå¤§å¯¹":109451,"èĬŃ":109452,"çīĮåŃIJ":109453,"ä¼ļ使":109454,"妹åŃIJ":109455,"ç«Ļéķ¿":109456,"å¿ħå¤ĩ":109457,"æłijæľ¨":109458,"æģ¶æĦı":109459,"æ²³éģĵ":109460,"å¯Įè£ķ":109461,"ç¹ģåįİ":109462,"ä»£è¡¨åĽ¢":109463,"æµij身":109464,"é¦ĸä½į":109465,"èĪªç©ºåħ¬åı¸":109466,"éĽ»å½±":109467,"ä¸ĵè¾ij":109468,"æ°´æºIJ":109469,"ä¸Ńæ¯Ĵ":109470,"並ä¸į":109471,"èĢĮåİ»":109472,"éĥĿ":109473,"äºİæŃ¤":109474,"æĸĩåĮĸ建设":109475,"èĤ¯å®ļä¼ļ":109476,"å¸ĮæľĽå¤§å®¶":109477,"æııåĨĻ":109478,"ä½İè°ĥ":109479,"æĸ°åħ´äº§ä¸ļ":109480,"æ·Ħåįļ":109481,"æĶ¾å¼Ģ":109482,"çļĦæĢ§æł¼":109483,"çĸ¾çĹħçļĦ":109484,"æķ´é¡¿":109485,"线ä¸Ĭ线ä¸ĭ":109486,"éĢī项":109487,"çļĦ认åı¯":109488,"æķ´é½IJ":109489,"çĶļä¹Ī":109490,"çľģåĨħ":109491,"åı¤äºº":109492,"æ°ijä¿Ĺ":109493,"çī¡ä¸¹":109494,"éŨçªĹ":109495,"éĤ£æł·çļĦ":109496,"çĽijäºĭä¼ļ":109497,"ç¿¡ç¿ł":109498,"禹":109499,"åįĥä¸ĩä¸įè¦ģ":109500,"æĶ¶ç¼©":109501,"çļĦæĸĩåŃĹ":109502,"åĴĮå°ļ":109503,"æĮĩ令":109504,"åħ±äº§åħļåijĺ":109505,"çļĦçĪ¶äº²":109506,"å®Įå·¥":109507,"åĬ¡å·¥":109508,"马æĭī":109509,"马æĭīæĿ¾":109510,"æµĭè¯Ħ":109511,"å²ļ":109512,"ä¸įåģļ":109513,"ä¸ĥå¹´":109514,"åĿĩä»·":109515,"主è§Ĥ":109516,"å¾Īä¸įéĶĻ":109517,"èĤ¡ä¸ľå¤§ä¼ļ":109518,"äºĶä¸Ģ":109519,"é£İåIJ¹":109520,"å¼Ģéĩĩ":109521,"è¿Ļä¹Ī大":109522,"èĥ½çľĭåΰ":109523,"èĢĥè¯Ħ":109524,"åį³ä¾¿æĺ¯":109525,"çݰ代åĨľä¸ļ":109526,"æ¯Ķè¾ĥé«ĺ":109527,"è¦ģçľĭ":109528,"没äºĨ":109529,"解決":109530,"çݯæ¯Ķ":109531,"åĨ²åĬ¨":109532,"æ·±å¤ľ":109533,"åĩłåįĥ":109534,"ä¿ı":109535,"ç½ijæ°ij":109536,"就没":109537,"ä»ĸ表示":109538,"éĩıåŃIJ":109539,"æĹ©é¤IJåĬłçĽŁ":109540,"åįĬå²Ľ":109541,"æIJŀç¬ij":109542,"ä¸ĬæĬ¥":109543,"審":109544,"é¢Ħ订":109545,"èľĤèľľ":109546,"æŁ¥æī¾":109547,"ä¼ĹæīĢ":109548,"ä¼ĹæīĢåij¨":109549,"ä¼ĹæīĢåij¨çŁ¥":109550,"æĹ©æĹ¥":109551,"åıijæī¬":109552,"åĴĮ个人":109553,"åĬłåħ¥äºĨ":109554,"åĸ®ä½į":109555,"åĪĨæĺİ":109556,"第ä¸Ģæī¹":109557,"ç¾İåĨĽ":109558,"æĿĢæīĭ":109559,"éŨå¤ĸ":109560,"åķĨåľĪ":109561,"ä¸ĢåĪ»":109562,"çļĦçľ¼ç¥ŀ":109563,"éľĦ":109564,"äºĽä»Ģä¹Ī":109565,"åĬłæ·±":109566,"æ¯ıä½į":109567,"å¸ĤéĿ¢ä¸Ĭ":109568,"åıĶåıĶ":109569,"çļĦéĤ£ç§į":109570,"粤港澳":109571,"è´´å¿ĥ":109572,"æĸĩåĮĸ产ä¸ļ":109573,"红æĹĹ":109574,"åĺīåħ´":109575,"æĶ¶çĽĺ":109576,"å®ĮæĪIJåIJİ":109577,"ä¼ģä¸ļ管çIJĨ":109578,"纵横":109579,"ä¸įä¿¡":109580,"æĪIJéĥ½å¸Ĥ":109581,"æ´Ĺ澡":109582,"举è¡ĮçļĦ":109583,"çĶ¢çĶŁ":109584,"ç©¿ä¸Ĭ":109585,"åĪļ好":109586,"åħī线":109587,"æīĵæŀ¶":109588,"è¿Ļæľ¬ä¹¦":109589,"åĶ®åIJİæľįåĬ¡":109590,"åĩłåĪĨ":109591,"ä¸Ĭ次":109592,"ä¸įåĪĨ":109593,"产åIJİ":109594,"éģ¿å¼Ģ":109595,"ç»Īæŀģ":109596,"代表大ä¼ļ":109597,"æ¼ĶæĬĢ":109598,"åĽŀè´Ń":109599,"åŃ¦è´¹":109600,"éĺ»ç¢į":109601,"ä¸Ģ大æī¹":109602,"竣工":109603,"åĨ³å®ļäºĨ":109604,"ä½Ĩå¦Ĥæŀľ":109605,"ç͵æµģ":109606,"ä¸Ŀ毫":109607,"èĥ½å¤Łåľ¨":109608,"éĶĢåĶ®æĶ¶åħ¥":109609,"åľ¨åŃ¦æł¡":109610,"æ°´åĩĨ":109611,"è§Ĩ线":109612,"èĩªåľ¨":109613,"åķĨä¸ļéĵ¶è¡Į":109614,"为äºĨ让":109615,"çį²å¾Ĺ":109616,"çݩ家æľĭåıĭ":109617,"éĿ¢èĨľ":109618,"åĪĨåī²":109619,"åī§æľ¬":109620,"ç«Ń":109621,"说å¾Ĺ":109622,"æĥ³çŁ¥éģĵ":109623,"çļĦ人çī©":109624,"èĮħåı°":109625,"åIJĮä¸Ģ个":109626,"æķ°æį®ä¸Ńå¿ĥ":109627,"çĶĦ":109628,"åĸľæĤ¦":109629,"ä¸ĭæĿ¥çļĦ":109630,"å®ļåIJij":109631,"æŀģåħ·":109632,"çļĦåľŁåľ°":109633,"éĤ£åĢĭ":109634,"æijĦåħ¥":109635,"äºĨæĪijçļĦ":109636,"马路":109637,"åħ¨ç¤¾ä¼ļ":109638,"è®®æ¡Ī":109639,"å±ĭåŃIJ":109640,"åIJįåı«":109641,"åĮª":109642,"åľ¨å¤ĸéĿ¢":109643,"åįİåįĹ":109644,"åıijè´§":109645,"å¯ĴåĨ·":109646,"é«ĺçŃīæķĻèĤ²":109647,"详ç»ĨçļĦ":109648,"ä¸ªé¡¹çĽ®":109649,"çĶŁäº§åĬĽ":109650,"æĹ¶å¸¸":109651,"å°±æľĥ":109652,"ä¸ĩèĤ¡":109653,"éĻĮçĶŁäºº":109654,"æııç»ĺ":109655,"å½ĵçĦ¶æĺ¯":109656,"æĭīåĬ¨":109657,"éĵ¾æĿ¡":109658,"æī£éϤ":109659,"ä¸Ģ缴éĥ½":109660,"å°ıåŃ©åŃIJ":109661,"伤åı£":109662,"第äºĮå±Ĭ":109663,"è´Ńç½®":109664,"çļĩ马":109665,"æĹłèģĬ":109666,"表åĨ³":109667,"诸å¦Ĥ":109668,"åĵįèµ·":109669,"é£İæļ´":109670,"ä¸ĢæµģçļĦ":109671,"ç·¨":109672,"è§£æĶ¾åĨĽ":109673,"室å¤ĸ":109674,"å°±è¿Ļä¹Ī":109675,"å³¶":109676,"æīĢæľī人éĥ½":109677,"æIJľç´¢å¼ķæĵİ":109678,"çļĦæĪIJæľ¬":109679,"åħļæĶ¿":109680,"åıijè¡Į人":109681,"çļĦäºĭå®ŀ":109682,"对该":109683,"åıĹæįŁ":109684,"ä¿Ħä¹Į":109685,"é²ľèĬ±":109686,"åĨľèį¯":109687,"æŀģéĢŁ":109688,"æĢ¥æĢ§":109689,"两ä¼ļ":109690,"ä¸ĢèάæĿ¥è¯´":109691,"æµ·é²ľ":109692,"åĨĪ":109693,"çĶ¨äºº":109694,"çĶ¨äººåįķä½į":109695,"åĢª":109696,"åĦªæĥł":109697,"æł¹æºIJ":109698,"åĽ¢è´Ń":109699,"ç¾İæ´²":109700,"ä¸ĭè¡Į":109701,"å¹´æľ«":109702,"èľ¡":109703,"è¯ģä»¶":109704,"åľ¨æĪijåĽ½":109705,"ä¸įåºĶ":109706,"æĮīæĹ¶":109707,"åłªç§°":109708,"åľºä¸Ĭ":109709,"å¹²éĥ¨èģĮå·¥":109710,"æľīå¾Ī大çļĦ":109711,"æķ°åŃĹç»ıæµİ":109712,"æ¼Ķç»ĥ":109713,"æį®ç»Łè®¡":109714,"å¾ĢæĿ¥":109715,"广åijĬæľįåĬ¡":109716,"çļĦè·Ŀ离":109717,"æŃ¸":109718,"è¨Ģè¯Ń":109719,"被èªī":109720,"被èªī为":109721,"åĭī强":109722,"å°Ĭæķ¬":109723,"ä¸ĩ亿åħĥ":109724,"ä¸ŃåĽ½åĽ½éĻħ":109725,"å¹²é¢Ħ":109726,"年产":109727,"èĢķåľ°":109728,"èĮİ":109729,"å᳿ĺ¯":109730,"æĺ¨æĻļ":109731,"æĪIJ为ä¸Ģ个":109732,"çºłæŃ£":109733,"åij½åIJį":109734,"é¢ģå¸ĥ":109735,"çĮľæµĭ":109736,"ä¿ĿèŃ·æĶ¿çŃĸ":109737,"æĭ¢":109738,"活泼":109739,"çŃīéĥ¨éŨ":109740,"åѦåΰ":109741,"å¢ŀå̼ç¨İ":109742,"èĪªçº¿":109743,"åĨ¤":109744,"åįģåĩłå¹´":109745,"æİ§èĤ¡èĤ¡ä¸ľ":109746,"ä¸ĢéŨ":109747,"ä¸ªå·¥ä½ľ":109748,"ä¸ªå·¥ä½ľæĹ¥":109749,"æĸ°è¥¿":109750,"æĸ°è¥¿åħ°":109751,"论è¯ģ":109752,"ä»Ĩ":109753,"åı¦å¤ĸä¸Ģ个":109754,"æĶ¹ç¼ĸ":109755,"严ç¦ģ":109756,"åĸľå¥½":109757,"个人信æģ¯":109758,"满æĦı度":109759,"åĵ¨":109760,"å¸ĪèµĦ":109761,"æĶ¹ä¸º":109762,"ç«ŀäºī对æīĭ":109763,"åĩºçĤī":109764,"åķĨ人":109765,"大æ£ļ":109766,"æĮĩ导ä¸ĭ":109767,"å¦ĩç§ij":109768,"輪":109769,"æīģ":109770,"åIJĮæĹ¶è¿ĺ":109771,"å¹¶éĢļè¿ĩ":109772,"æĪĺéĺŁ":109773,"èĶĵå»¶":109774,"ä¿ŀ":109775,"éĢĤå½ĵçļĦ":109776,"åīįè¾Ī":109777,"åĵģåij³":109778,"æ¹¿åľ°":109779,"æĪIJåŀĭ":109780,"ä¸įåıªæĺ¯":109781,"æĥ©ç½ļ":109782,"åĩºåı°äºĨ":109783,"çݩ游æĪı":109784,"æīįåıijçݰ":109785,"åºĶèģĺ":109786,"å¤ĸæĿ¥":109787,"åįłé¢Ĩ":109788,"å±ķæľĽ":109789,"å«Ĥ":109790,"港èĤ¡":109791,"æ¡Įä¸Ĭ":109792,"æĶ¯æŁ±":109793,"çļĦæĥħå½¢":109794,"广éĺĶçļĦ":109795,"æĶ¯è¡Į":109796,"å´©æºĥ":109797,"æľĪä¸Ń":109798,"æľĪä¸ŃæĹ¬":109799,"ç»įåħ´":109800,"临è¿ij":109801,"æĬ¤æłı":109802,"æļ®":109803,"åįķèģĮä¸ļ":109804,"è¾¹å¢ĥ":109805,"æĹ¥çħ§":109806,"ä¸ĢåłĨ":109807,"缴å¾Ħ":109808,"åħ±åIJĮä½ĵ":109809,"æĸ°åįİç½ij":109810,"æīĵ好":109811,"ç͵åĬ¨æ±½è½¦":109812,"ä¸įæĺİçϽ":109813,"éĢĻ裡":109814,"çĽĽå¤§":109815,"çİĭæľĿ":109816,"åĨįä¸Ģ次":109817,"åĬŀåħ¬åİħ":109818,"è´¨æĬ¼":109819,"åIJĪåĩ»":109820,"人们对":109821,"éĽ¶é£Ł":109822,"éĥ½ä¸įçŁ¥éģĵ":109823,"çļĦè¯Ńè¨Ģ":109824,"åĭŁéĽĨèµĦéĩij":109825,"åĬ¨èĦī":109826,"彤":109827,"è¿Ļåĩłå¹´":109828,"çŁŃè§Ĩé¢ij":109829,"太é«ĺ":109830,"常å§Ķä¼ļ":109831,"åĬłçıŃ":109832,"éĩįå¿ĥ":109833,"åªĴä½ĵæĬ¥éģĵ":109834,"没æ³ķ":109835,"éĹ»åIJį":109836,"çĥŃ度":109837,"å¹¿æ³ĽçļĦ":109838,"åħŃ大":109839,"çī©ä½ĵ":109840,"ä¸į该":109841,"é¢ĺ主":109842,"精彩çļĦ":109843,"ä¸ºè¿Ľä¸ĢæŃ¥":109844,"èĻŀ":109845,"åĽºçĦ¶":109846,"è´µå·ŀçľģ":109847,"çºłç»ĵ":109848,"代çIJĨ人":109849,"æ³ķå®ļ代表":109850,"åı¦ä¸Ģç§į":109851,"ä¸įåIJ«":109852,"æĭ¯æķij":109853,"ä¼ļç»Ļ":109854,"è¯Ĺè¯į":109855,"åIJĮç±»":109856,"å¾Ĺä¸įåΰ":109857,"æĬĵç´§":109858,"以åħ¶":109859,"åħ¥åħļ":109860,"è¿ĺåı¯":109861,"æľŁåĪĬ":109862,"å¾Īå¤ļæĹ¶åĢĻ":109863,"æĹ¥åIJİ":109864,"åħ¬çº¦":109865,"ä¸Ģ举":109866,"æ¯Ķè¾ĥå¤ļ":109867,"éĩijæ²Ļ":109868,"æįŀ":109869,"æİĴåĩº":109870,"æŃ¦æľ¯":109871,"ä¸įæĸ·":109872,"ä¸ŃèĢĥ":109873,"ä¿¡èµĸ":109874,"ä»İä¸ļ人åijĺ":109875,"çģ«çĦ°":109876,"éĨĴæĿ¥":109877,"ä½İ温":109878,"éĢ¾æľŁ":109879,"åĬ±å¿Ĺ":109880,"éħ¥":109881,"åı¯è°ĵæĺ¯":109882,"è¿ĻæĦıåij³çĿĢ":109883,"é¢łè¦Ĩ":109884,"åĮĹ京大åѦ":109885,"ä¸ĵ线":109886,"åıĬ以ä¸Ĭ":109887,"訪":109888,"èĢĮåIJİ":109889,"çŁ¥ä¹İ":109890,"ä¸Ģ对ä¸Ģ":109891,"å¨ĥå¨ĥ":109892,"çģ¾éļ¾":109893,"åħ¨å±Ģ":109894,"æīĢå¾Ĺç¨İ":109895,"å®ŀæĥł":109896,"èļĤèļģ":109897,"ä¹ŁçŁ¥éģĵ":109898,"温åĴĮ":109899,"èIJ½ä¸ĭ":109900,"åŀĭä¼ģä¸ļ":109901,"åĨįä¹Ł":109902,"ä¾ĽçĥŃ":109903,"é«ĺæ½®":109904,"çĢı覽åύ":109905,"çļĦ巨大":109906,"åħĪ天":109907,"å¹´ä¸ŃåĽ½":109908,"类似çļĦ":109909,"çIJĨäºĭä¼ļ":109910,"空éĸĵ":109911,"ç쵿ĦŁ":109912,"åĬĽæ°Ķ":109913,"带ä¸Ĭ":109914,"ä¸į好æĦıæĢĿ":109915,"æľīä½ķ":109916,"å·²åľ¨":109917,"åıĸåĩº":109918,"è¿Ŀæ³ķçĬ¯ç½ª":109919,"åŃ¦ä¹łè´¯å½»":109920,"åľ°å¸¦":109921,"楼梯":109922,"çŃīæĥħåĨµ":109923,"ä»İåīį":109924,"çļĦä¹łæĥ¯":109925,"ç³Łç³ķ":109926,"å°±èĥ½å¤Ł":109927,"è©ķ":109928,"ä¸Ģå¾ĭ":109929,"æĮ«æĬĺ":109930,"åİŁæĸĩåľ°åĿĢ":109931,"å½ĵå±Ģ":109932,"ä¸įéĢļ":109933,"æķ°åįĥ":109934,"éĺŁä¼į建设":109935,"æĹ¶èĬĤ":109936,"åģļèµ·":109937,"çļĦè®°å¿Ĩ":109938,"ç½ij绾å®īåħ¨":109939,"åĩ¡æĺ¯":109940,"æ°¯":109941,"éĽķåĪ»":109942,"åŁĥåıĬ":109943,"æĪijåı¯ä»¥":109944,"çĽijçIJĨ":109945,"æĽ´åħ·":109946,"åŁİ管":109947,"èĭ¯":109948,"åı¥åŃIJ":109949,"èĭ¥æľī":109950,"ä»İæĿ¥ä¸į":109951,"缸åħ³è´Łè´£":109952,"å®īåħ¨æĦŁ":109953,"æĽ´è¦ģ":109954,"çļĦæĥħæĦŁ":109955,"çī¢çī¢":109956,"è¾ĥ好çļĦ":109957,"æ°®":109958,"ç¬ijè¯Ŀ":109959,"车å±ķ":109960,"ä¹ĭç¾İ":109961,"ç®Ģ约":109962,"ç±»åŀĭçļĦ":109963,"èĢģåĮĸ":109964,"çľĭä½ł":109965,"è¿ĩåĪĨ":109966,"éŨåīį":109967,"ä¸ĢéĹ´":109968,"æĥ³åİ»":109969,"åªĽ":109970,"åľŁè±Ĩ":109971,"åıĪç§°":109972,"ä¸Ńä¿¡":109973,"åŃĺéĩı":109974,"马äºij":109975,"èĩ´ä½¿":109976,"åħĪåīį":109977,"èĢģåŃIJ":109978,"æīĵæī®":109979,"æ¯ķä¸ļäºİ":109980,"æ¯ķä¸ļåIJİ":109981,"ç¾İ好çĶŁæ´»":109982,"å·¥ä¸ļä¼ģä¸ļ":109983,"就好äºĨ":109984,"èħIJèļĢ":109985,"çıįçıł":109986,"åΰè¿ĻéĩĮ":109987,"æīĢéľĢçļĦ":109988,"è¿Ļæĺ¯åĽłä¸º":109989,"çIJĨæĥ³çļĦ":109990,"å·®å¼ĤåĮĸ":109991,"é®":109992,"é®®":109993,"äºļ太":109994,"æĹłç©·":109995,"æıIJçݰ":109996,"ä¸ĵä¸ļæĬĢæľ¯":109997,"çĶ¢æ¥Ń":109998,"åѦåŃIJ":109999,"ç§ijå¹»":110000,"åįłåľ°éĿ¢ç§¯":110001,"ä¸įåĩĨ":110002,"æľªæĪIJ年人":110003,"æĶ¶å½ķ":110004,"è¿ĺ款":110005,"éĴ¢çŃĭ":110006,"æ¼¢":110007,"å¾ĹæĦı":110008,"综åIJĪä½ĵ":110009,"æŀģé«ĺ":110010,"åįķè¯į":110011,"é«ĺæķĪçļĦ":110012,"骨头":110013,"æī§çĿĢ":110014,"缼ä¸ĸ":110015,"模çī¹":110016,"æĽ´èĥ½":110017,"ç»ĿæľĽ":110018,"对åºĶçļĦ":110019,"æ¨Ĭ":110020,"æĸ°ä¸ī":110021,"æĸ°ä¸īæĿ¿":110022,"æģ°æģ°":110023,"åIJįå®¶":110024,"æł¸å¿ĥæĬĢæľ¯":110025,"个å°ı":110026,"æĢİä¹Īä¼ļ":110027,"说ä¸įå®ļ":110028,"西çĵľ":110029,"åĵİ":110030,"ç¢Ł":110031,"å¿ħä¸įåı¯":110032,"å¿ħä¸įåı¯å°ij":110033,"ä¹ĭéĸĵ":110034,"åĪĨ管":110035,"交éĢļäºĭæķħ":110036,"å¼ĢåĬŀ":110037,"å¾ģæ±ĤæĦıè§ģ":110038,"亨":110039,"鼻åŃIJéĥµ":110040,"鼻åŃIJéĥµä»¶":110041,"ä¿¡æģ¯æľįåĬ¡":110042,"ä½łè§īå¾Ĺ":110043,"缴è§Ĥ":110044,"å·²å®ĮæĪIJ":110045,"åĪĨä¼ļ":110046,"åĽŀåįĩ":110047,"éļ»":110048,"好人":110049,"äºĨè§£ä¸Ģä¸ĭ":110050,"å᫿µ´":110051,"æľĢçα":110052,"åºŀ大":110053,"客æĪ¿":110054,"çijŀåħ¸":110055,"éĥ½ä¸įæĺ¯":110056,"館":110057,"èĹī":110058,"çļĦåIJĦ项":110059,"ä¸ºçĽ®æłĩ":110060,"çļĦè®¤çŁ¥":110061,"å½±åĵįåĬĽçļĦ":110062,"å¤¸å¼ł":110063,"佩æĪ´":110064,"æ±ĩçİĩ":110065,"çļĦçαæĥħ":110066,"æĺ¥é£İ":110067,"æĺ¯æĪijçļĦ":110068,"樹":110069,"åįĬå°ıæĹ¶":110070,"å±±åİ¿":110071,"山西çľģ":110072,"èĢĮè¿Ļ":110073,"æĽ´å¤ļä¿¡æģ¯":110074,"è¿ĺæľīä¸ĢäºĽ":110075,"ç²¾ç»ĨåĮĸ":110076,"ç¾İåѦ":110077,"çͱæĸ¼":110078,"ä»ħä¾ĽåıĤèĢĥ":110079,"å¾Īé«ĺçļĦ":110080,"åıłåĬł":110081,"è¿Ļä¹Ī说":110082,"å±ķåĩº":110083,"åĽĽå¤Ħ":110084,"ä¸ĩå®¶":110085,"æĭĽåĭŁ":110086,"çļĦ强大":110087,"æĤ£æľī":110088,"å°ıäºİ":110089,"ä¹Łè®¸æĺ¯":110090,"对èĩªå·±çļĦ":110091,"èģĮä¸ļæķĻèĤ²":110092,"æĿ¥è¿Ľè¡Į":110093,"档次":110094,"æīĵèµ¢":110095,"éĥ½æľīçĿĢ":110096,"庸":110097,"è¯Ńæ°Ķ":110098,"çͲéĨĽ":110099,"空åĨĽ":110100,"车åĨħ":110101,"åĽłä¸ºä½ł":110102,"å®ŀæķĪ":110103,"æĥħä¾£":110104,"åıijè¾¾åĽ½å®¶":110105,"éķľåŃIJ":110106,"æ¯įå©´":110107,"ä½Ĩæĺ¯ä»ĸ":110108,"积æŀģæİ¨è¿Ľ":110109,"大å¹ħ度":110110,"çļĦ女åĦ¿":110111,"é¤IJæ¡Į":110112,"åIJ¬å¾Ĺ":110113,"çļĦ积æŀģæĢ§":110114,"好åIJ§":110115,"æĹ¥æ¶Īæģ¯":110116,"æľīä»»ä½ķ":110117,"æ¯Ĵåĵģ":110118,"æĹ©çĤ¹åĬłçĽŁ":110119,"第ä¸Ģ天":110120,"å°½åĬĽ":110121,"æłĸ":110122,"主æīĵ":110123,"æĺ¯ä¸ĢåIJį":110124,"çĪĨæĸĻ":110125,"äºĭä¸ļåıijå±ķ":110126,"å¾®åķĨ":110127,"äºİä¸Ģä½ĵçļĦ":110128,"çĶŁçĮª":110129,"èĩªçĦ¶èµĦæºIJ":110130,"çŀĦåĩĨ":110131,"è§Ħ模åĮĸ":110132,"å¹¶ä¸İ":110133,"èĤ¥èĥĸ":110134,"å®¶ç͍":110135,"大çĪ·":110136,"é¢ĦåijĬ":110137,"æĿ¥åģļ":110138,"éĺ³åİ¿":110139,"æŀĦçŃij":110140,"é¢ģå¥ĸ":110141,"åİĨåı²æĸĩåĮĸ":110142,"æľįåĭĻæĪĸ":110143,"æĢ»åĨ³èµĽ":110144,"åıijåŀĭ":110145,"æĪij羣çļĦ":110146,"æĽ¦":110147,"åıĤä¼ļ":110148,"èĦĨå¼±":110149,"åĩĨåħ¥":110150,"èħ¹éĥ¨":110151,"åı¸ä»¤":110152,"æĤ²åī§":110153,"天ä¸Ĭ":110154,"åı£ä¸Ń":110155,"ä¸ĩ个":110156,"åѦä¸ļ":110157,"æıIJåĢ¡":110158,"两边":110159,"大èĤ¡ä¸ľ":110160,"åı¤éķĩ":110161,"è¡Ģç³ĸ":110162,"çļĦç¨ĭ度":110163,"æ£īèĬ±":110164,"åIJİåı°":110165,"å°±åĮ»":110166,"æķ´æķ´":110167,"èĴ²":110168,"çĽĪåĪ©èĥ½åĬĽ":110169,"ç±½":110170,"èĦ«":110171,"çľĭéĩį":110172,"å®¶éķ·":110173,"èģĺç͍":110174,"èµĽéģĵ":110175,"åīįèĢħ":110176,"建èѰ":110177,"å¾ĭå¸ĪäºĭåĬ¡":110178,"èīºæľ¯åĵģ":110179,"æľīèĩªå·±çļĦ":110180,"åIJ¦å®ļ":110181,"ç¤¾åĽ¢":110182,"åij¨äºĶ":110183,"带åΰ":110184,"å·¥ä½ľä¼ļè®®":110185,"èĤ¡æľ¬":110186,"å¤ĸåĮħ":110187,"å®¶åħ¬åı¸":110188,"çĽijçĭ±":110189,"èĪĬ":110190,"åIJįæł¡":110191,"西æ¹ĸ":110192,"è¶ħè¿ĩäºĨ":110193,"åįĹå±±":110194,"ç»Ħä»¶":110195,"å̼å¾Ĺ注æĦı":110196,"æĮ£æīİ":110197,"äºĭ迹":110198,"ç¶ĵçĩŁ":110199,"ç§ij室":110200,"好åIJĹ":110201,"æ¤ħåŃIJ":110202,"åľĪåŃIJ":110203,"ä½Ĩ她":110204,"æµģçķħ":110205,"åIJĦèĩªçļĦ":110206,"èģĮåijĺ":110207,"è¡įçĶŁ":110208,"åħ¨åľº":110209,"æĴ¤éĶĢ":110210,"åį´è¢«":110211,"å®ģéĿĻ":110212,"åīįæīĢ":110213,"åīįæīĢæľª":110214,"åīįæīĢæľªæľī":110215,"主ä¸ļ":110216,"åĮĹç¾İ":110217,"è¯Ħå®ļ":110218,"åĵģå°Ŀ":110219,"大家éĥ½åľ¨":110220,"主å¸ħ":110221,"ç»Ĩå¿ĥ":110222,"ä¿¡æģ¯æĬ«éľ²":110223,"çļĦç«ŀäºī":110224,"éĢĻæ¨£çļĦ":110225,"ç§ijåĪĽæĿ¿":110226,"éĩĩæijĺ":110227,"票æį®":110228,"éĢIJå¹´":110229,"èĭ±è¶ħ":110230,"è¡Įä¸ļåĨħ":110231,"人寿":110232,"åIJİåĭ¤":110233,"å¦ĤæĦı":110234,"ç¬Ķè¯ķ":110235,"æ·¡æ·¡çļĦ":110236,"ä¸įèĪĴæľį":110237,"ä½ĵ积":110238,"ä¹Łä¸įè¦ģ":110239,"éĿ¢æĸĻ":110240,"æł·æľ¬":110241,"ç¥ģ":110242,"æĮīè§Ħå®ļ":110243,"大æ¦Ĥæĺ¯":110244,"æĥħåĨµè¿Ľè¡Į":110245,"åIJĦåįķä½į":110246,"çļĦç¬ij容":110247,"åĩºèī²çļĦ":110248,"代表æĢ§":110249,"çļĦç¾İ好":110250,"éĴ¦":110251,"å¾®çĶŁçī©":110252,"è¶Ĭæĺ¯":110253,"æĸ¹åı¯":110254,"å¹²èĦĨ":110255,"éģĬæĪ²":110256,"çļĦåħ´è¶£":110257,"éĹ®è´£":110258,"åĽłä¸ºæĪij们":110259,"èĢĥéĩı":110260,"çĶŁçĶŁ":110261,"éĺ»åĬĽ":110262,"ä¸įåħģ许":110263,"æıIJè®®":110264,"åĩıæĮģ":110265,"åıªæĺ¯ä¸Ģ个":110266,"æĪijæĬĬ":110267,"åıijçݰèĩªå·±":110268,"å¢ŀå¹ħ":110269,"å¦į":110270,"èĹĿè¡ĵ":110271,"ä¸Ģ家人":110272,"åĪĨ级":110273,"çļĦæķ°éĩı":110274,"è½®èŀįèµĦ":110275,"çŃīåĽłç´ł":110276,"大夫":110277,"èģĺ请":110278,"é£İæľº":110279,"绽æĶ¾":110280,"ä»»ä½ķä¸Ģ个":110281,"éłĤ":110282,"éĺ¶çº§":110283,"æĬĬ她":110284,"è¿ĽåĨĽ":110285,"èĥ½åģļåΰ":110286,"åŁ¹è®ŃæľºæŀĦ":110287,"çĸĻ":110288,"ç«¥è¯Ŀ":110289,"æĮĩ导æĦıè§ģ":110290,"éĺ®":110291,"æ·±åħ¥æİ¨è¿Ľ":110292,"ä¸»æľº":110293,"æ¸Ķä¸ļ":110294,"ä¸įæľį":110295,"æµĵéĥģ":110296,"è¡Ĺä¸Ĭ":110297,"ä¾Ŀ次":110298,"æĹ¶æ®µ":110299,"梵":110300,"çļĦåĸľçα":110301,"å¾Īéķ¿":110302,"åĪĿ级":110303,"æŀľæĸŃ":110304,"æĬ¢æķij":110305,"é¼ĵèĪŀ":110306,"ä¾ĽéľĢ":110307,"æ·±åħ¥å¼Ģå±ķ":110308,"产ä¸ļéĽĨ群":110309,"åĻªéŁ³":110310,"åIJ¬çĿĢ":110311,"æ·±åĪ»çļĦ":110312,"å¿įåıĹ":110313,"ç͵ç£ģ":110314,"强èĢħ":110315,"æ»ĭåij³":110316,"æĽ¼èģĶ":110317,"åı¯ä»¥çĽ´æİ¥":110318,"大米":110319,"æŃ·åı²":110320,"æĶ¿åĬ¡æľįåĬ¡":110321,"åħ¬å¼ı":110322,"社群":110323,"éģĵ士èģĮä¸ļ":110324,"ä¹ĭæĥħ":110325,"æµ·æ°´":110326,"æ¼Ķå¥ı":110327,"åºĹéĩĮ":110328,"迹象":110329,"åıijå±ķçIJĨ念":110330,"é«ĺ空":110331,"åij¨åĪĬ":110332,"åĽŀåΰäºĨ":110333,"ä¸įéĢĤåIJĪ":110334,"åłµå¡ŀ":110335,"åĬĪ":110336,"æ°´ä¸Ĭ":110337,"çĢijå¸ĥ":110338,"纳ç¨İ人":110339,"çĩĥæ²¹":110340,"å·¥ç¨ĭé¡¹çĽ®":110341,"峡谷":110342,"æľīéĴĪ对æĢ§":110343,"åľĨå½¢":110344,"æľ¬å¸Ĥ":110345,"è¿Ļè¯Ŀ":110346,"管çIJĨèĢħ":110347,"ç¡®è¯ĬçĹħä¾ĭ":110348,"æĬĬæīĭ":110349,"彩èī²":110350,"ä¸Ĭåīį":110351,"夯å®ŀ":110352,"ç¾ĬèĤī":110353,"å¾Ģå¹´":110354,"æĵħèĩª":110355,"迷人":110356,"èĪªæ¯į":110357,"ç²¾ç»Ĩ":110358,"åľ¨æĪijçļĦ":110359,"åĪĽæĬķ":110360,"麦åħĭ":110361,"æľĪç»ı":110362,"åĮĹæµ·":110363,"ä¹ĭæĺŁ":110364,"åı¶åŃIJ":110365,"å¸Ĥåľºç«ŀäºī":110366,"è¿Ļäºĭ":110367,"åıĥèĪĩ":110368,"äº§åľ°":110369,"åĶī":110370,"åķĨåĵģæĪ¿":110371,"èĪªè¿IJ":110372,"ä¼ĺå¼Ĥ":110373,"ä»ĸ们æĺ¯":110374,"éĽ¨æ°´":110375,"è¯įæ±ĩ":110376,"åĨľçͰ":110377,"欧éĺ³":110378,"çŁŃ线":110379,"管ç½ij":110380,"æł¹åŁº":110381,"åıªæľīä¸Ģ个":110382,"éŀĭåŃIJ":110383,"å¸Ĥå§Ķ书记":110384,"åĪ»æĦı":110385,"è¡Į车":110386,"åıĪ被":110387,"åı¯éĿłæĢ§":110388,"è´±":110389,"ä»»åij½":110390,"åºĶåľ¨":110391,"å°±å¾Ĺ":110392,"æľįåĬ¡ä½ĵç³»":110393,"æĶ¿æĿĥ":110394,"åıijè¨Ģ人":110395,"è¿ĩå¾Ģ":110396,"两åıª":110397,"èĻ½è¯´":110398,"éĢģä¸Ĭ":110399,"ä»Ģä¹Īäºĭ":110400,"æķ£æĸĩ":110401,"æİĮæİ§":110402,"èĸĦå¼±":110403,"ä¸ĭéĿ¢å°±":110404,"主è¦ģåĨħ容":110405,"å¾Īéĩįè¦ģçļĦ":110406,"就说":110407,"çϽèī²çļĦ":110408,"éĤ£ä¸ªæĹ¶åĢĻ":110409,"ç»ı纪人":110410,"çļĦæ¯į亲":110411,"ç¬Ķè®°æľ¬":110412,"åºķå±Ĥ":110413,"è¿ij代":110414,"解说":110415,"è²łè²¬":110416,"æľĢ大åĮĸ":110417,"åķĨéĵº":110418,"æł¡åıĭ":110419,"æ²ģ":110420,"ä¸įåĩºæĿ¥":110421,"éĻ·éĺ±":110422,"ç¨ħ":110423,"åħ¬å¸ĥäºĨ":110424,"åĩĢå̼":110425,"çĽ¸å¯¹è¾ĥ":110426,"笼":110427,"æł¸ç®Ĺ":110428,"åįİ侨":110429,"æĢ¥æķij":110430,"æĮºå¥½":110431,"åħĴç«¥":110432,"äºĮèĥİ":110433,"åĩºèĩª":110434,"åĿŁ":110435,"æīĭä¸ĭ":110436,"屡":110437,"åĪĽéĢłæĢ§":110438,"ä¸¥æł¼æĮīçħ§":110439,"åĨįåİ»":110440,"举缣":110441,"人æµģ":110442,"äºĨä¸Ģ声":110443,"å°ıæĹ¶åīį":110444,"è´µæĹı":110445,"éľĸ":110446,"ä¹Łæĺ¯éĿŀ常":110447,"é̱":110448,"çľĭäºĨçľĭ":110449,"ç¹ģæ®ĸ":110450,"èĩ³æŃ¤":110451,"é¢Ħå¤ĩ":110452,"å¾Īæĺİæĺ¾":110453,"æ¼Ķèīº":110454,"åĿIJçĿĢ":110455,"ä¿ĦåĨĽ":110456,"åľ¨è¿ĩåİ»":110457,"ä¹ĭäºĭ":110458,"æĬĵèİ·":110459,"åĿIJä¸ĭ":110460,"çͱä¸ŃåĽ½":110461,"ä¹Łå¼Ģå§ĭ":110462,"çŃĶå¤į":110463,"åŀĥåľ¾åĪĨç±»":110464,"éĴĵé±¼":110465,"åIJĦ種":110466,"缸éģĩ":110467,"ä¸įåģľçļĦ":110468,"æī¹éĩı":110469,"éĩįè¦ģä½ľç͍":110470,"å§Ķå±Ī":110471,"åħŃå¹´":110472,"ä¸ĥåįģ":110473,"ä¹ĭæĪĺ":110474,"é£İéĻ©ç®¡çIJĨ":110475,"éŁ³æ¨Ĥ":110476,"è¡ĮæĶ¿å¤Ħç½ļ":110477,"æľ¬äºĭ":110478,"æĴ°åĨĻ":110479,"èģļåIJĪ":110480,"éĢĤæĹ¶":110481,"æIJ¬å®¶":110482,"ç¢İçīĩ":110483,"çĽĽå®´":110484,"ç®Ģæ´ģ":110485,"åı¬éĽĨ":110486,"ç®ĢåĮĸ":110487,"åĮĹ京æĹ¶éĹ´":110488,"第ä¸īå±Ĭ":110489,"æĿ¥åĽŀ":110490,"常ç͍çļĦ":110491,"京津":110492,"京津åĨĢ":110493,"梦幻":110494,"è¯ķè¡Į":110495,"æľºåºĬ":110496,"åΰæľĢåIJİ":110497,"åĬ©æīĭ":110498,"åĪĨ彩":110499,"åĩºåĵģ":110500,"åĪ¹è½¦":110501,"åIJ¯åıij":110502,"ä¾§éĿ¢":110503,"æ¯ıå½ĵ":110504,"缸åħ³è§Ħå®ļ":110505,"ä¸ĸ人":110506,"è´Ń车":110507,"å¿ĥ缮":110508,"å¿ĥ缮ä¸Ń":110509,"äºĶéĩij":110510,"è¿ĺè®°å¾Ĺ":110511,"ä¾ĿçĦ¶æĺ¯":110512,"æıIJæ¡Ī":110513,"ç͵åķĨå¹³åı°":110514,"åģļåΰäºĨ":110515,"æĿľç»Ŀ":110516,"å®īåįĵ":110517,"ä¸ĸçķĮåIJĦåľ°":110518,"åīįéĢĶ":110519,"æ´ĹåĩĢ":110520,"å¥ĭåĬĽ":110521,"åŁİå¸Ĥ建设":110522,"å¤ļåĬŁèĥ½":110523,"ä¼ļéĢłæĪIJ":110524,"åıijå¸ĥä¼ļä¸Ĭ":110525,"究竣æĺ¯":110526,"åĪĨ红":110527,"çŁ¥èŃĺ":110528,"éĿ¢æĿ¿":110529,"æĹłå£°":110530,"æĢ¥éľĢ":110531,"å¤±çľł":110532,"çΏå¦Ī":110533,"äºĤ":110534,"åħ¨æĻ¯":110535,"ç»ıåħ¸çļĦ":110536,"åī§ä¸Ń":110537,"é¢Ĩ导ä¸ĭ":110538,"åħļåĨħ":110539,"åħ¥ä¾µ":110540,"æĭīæĸ¯":110541,"ä¸Ģå¹ķ":110542,"åĬłä¹ĭ":110543,"èĤĨ":110544,"èĭ±æł¼":110545,"èĭ±æł¼åħ°":110546,"å·§åħĭ":110547,"å·§åħĭåĬĽ":110548,"ä¸Ģå¿ĥ":110549,"èģĤ":110550,"å¾Ģå¾Ģæĺ¯":110551,"管çIJĨå±Ĥ":110552,"çĻ»åħ¥":110553,"建ç«ĭèµ·":110554,"å»ºåĽ½":110555,"åŃIJ宫":110556,"åºĶä»ĺ":110557,"æİ¢ç©¶":110558,"第ä¸Ģä½į":110559,"ä½Ļå®¶":110560,"çŃīæ´»åĬ¨":110561,"æīĢèĩ´":110562,"è¾ĥå¿«":110563,"æĺ¯éĿŀ":110564,"æıIJåIJį":110565,"äºĮèĢħ":110566,"åıªåī©ä¸ĭ":110567,"åħ¶ä¸ŃåĮħæĭ¬":110568,"ç¼ĸç¨ĭ":110569,"çł´ç¢İ":110570,"ä¸Ń举":110571,"å·¥ä½ľæĬ¥åijĬ":110572,"çѾåIJį":110573,"éħĴä¸ļ":110574,"çŁ¥æĻĵ":110575,"çĥŃå¿ĥ":110576,"éĿŀåĩ¡":110577,"èIJ¥ä¸ļæī§":110578,"èIJ¥ä¸ļæī§çħ§":110579,"人大代表":110580,"ä¸Ģ个æĸ°çļĦ":110581,"å¨ģæµ·":110582,"éĤ£äºº":110583,"涨价":110584,"æ¶ĪçģŃ":110585,"éļ¾å¿ĺ":110586,"ç¶ĵé©Ĺ":110587,"åı£è¢ĭ":110588,"ç³»æķ°":110589,"æĸĩä¸Ń":110590,"好转":110591,"æĸ°éĽ¶åĶ®":110592,"讲述äºĨ":110593,"å¼ĢçĽĺ":110594,"çķĻç»Ļ":110595,"æħ¢æħ¢çļĦ":110596,"æĤ²ä¼¤":110597,"æľ¬æľŁ":110598,"äºĨå¤ļå°ij":110599,"è¿Ļ让":110600,"åIJĮçŃī":110601,"æ¸ħæĺİ":110602,"个åŁİå¸Ĥ":110603,"æºĸåĤĻ":110604,"åĩłä¹İæĺ¯":110605,"强åĬĽ":110606,"俯":110607,"水稻":110608,"åĽºå®ļçļĦ":110609,"æł¸åĩĨ":110610,"说æľį":110611,"顯示":110612,"è¿Ļå¥Ĺ":110613,"æĻºæħ§åŁİå¸Ĥ":110614,"å±ĭé¡¶":110615,"ä¸įæĿ¥":110616,"çĶŁé²ľ":110617,"çŁ¥æĥħ":110618,"æĬķ身":110619,"åijĬè¯īæĪij们":110620,"ä¸īåĽĽ":110621,"ä¸ĩä¸Ģ":110622,"è¾Ĩ车":110623,"为ä¹ĭ":110624,"åΰæĹ¶åĢĻ":110625,"è¿Ļæīįæĺ¯":110626,"åIJįçīĮ":110627,"åºŁæ°´":110628,"åݻ年åIJĮæľŁ":110629,"å¹´éĻIJ":110630,"éģĭåĭķ":110631,"åıĮçľ¼":110632,"è¦ģç´§":110633,"对çŃĸ":110634,"åľºé¦Ĩ":110635,"çϾç§ij":110636,"è¶Ĭéĩİ":110637,"å¯ĮåIJ«":110638,"大å¤ļæķ°äºº":110639,"æľĢå°ij":110640,"åı¬åͤ":110641,"åħ¸èĮĥ":110642,"åĨľæľº":110643,"æŃ£æĸĩ":110644,"åºĶç͍äºİ":110645,"æ·±èĢķ":110646,"ä¿Ń":110647,"ä»Ģä¹Īä¸ľè¥¿":110648,"å¥Ĺé¤IJ":110649,"å½ĵéĢī":110650,"å·¦æīĭ":110651,"è°ĥçIJĨ":110652,"æĻļé¤IJ":110653,"éļ¾åħ³":110654,"åĩŃè¯ģ":110655,"çĪ±äºº":110656,"æĮĩè´£":110657,"è´£ç¼ĸ":110658,"çļĦä¸Ģ款":110659,"éĵ²":110660,"åįģ个":110661,"èĢ»":110662,"æľįåĬ¡åķĨ":110663,"åľ°çĭ±":110664,"è¿ŀå¿Ļ":110665,"åĽ°æĥij":110666,"çļĵ":110667,"ä¸įåIJĥ":110668,"çİ°åľ¨å·²ç»ı":110669,"çĽĺçĤ¹":110670,"ä¸įåģľåľ°":110671,"管çIJĨ模å¼ı":110672,"è¿Ļ段æĹ¶éĹ´":110673,"椰":110674,"礼åĮħ":110675,"æµģ转":110676,"æī«çłģ":110677,"éĽĨä¸Ńåľ¨":110678,"æ±ĤåĬ©":110679,"åįĬ个":110680,"å¿«éĢŁå¢ŀéķ¿":110681,"å¾Ģä¸ĭ":110682,"è¯ĦåĪĨ":110683,"å°±æĥ³":110684,"åķĨåĬ¡éĥ¨":110685,"æľīéĹ®é¢ĺ":110686,"èİ·åĪ©":110687,"æ¯ĽçĹħ":110688,"æĦŁåºĶ":110689,"è̧":110690,"åĪĨæŃ§":110691,"åĨī":110692,"æĪij们çİ°åľ¨":110693,"è¦ģåĬłå¼º":110694,"å·§å¦Ļ":110695,"èŀºæĹĭ":110696,"åĪĩæį¢":110697,"çĭĦ":110698,"顺çķħ":110699,"å°¤åħ¶æĺ¯åľ¨":110700,"èĬĿ麻":110701,"éļ¾è¿ĩ":110702,"æĹĹå¸ľ":110703,"å¤įåį°":110704,"å¤įåį°ä»¶":110705,"å¿ħéľĢ":110706,"对å¤ĸå¼ĢæĶ¾":110707,"éļ¾åıĹ":110708,"åİŁæĿ¥æĺ¯":110709,"ç®ĹäºĨ":110710,"é«ĺå±±":110711,"离èģĮ":110712,"çµĦç¹":110713,"çµĦç¹Ķ":110714,"å±ģèĤ¡":110715,"çϾ家":110716,"éģĩä¸Ĭ":110717,"æĺĶæĹ¥":110718,"ä¸į容":110719,"çĽij管éĥ¨éŨ":110720,"主æĦı":110721,"æµģåŁŁ":110722,"è·Įå¹ħ":110723,"èĩ³ä¸Ĭ":110724,"åĪ«è¯´":110725,"æĺ¯æ¯Ķè¾ĥ":110726,"å®ıè§Ĥç»ıæµİ":110727,"å¸Ĥåľºä¸»ä½ĵ":110728,"污æŁĵçī©":110729,"æķijæ²»":110730,"丰æĶ¶":110731,"åŃĺæĶ¾":110732,"åĩĦ":110733,"éĩijå±±":110734,"æį¢äºĨ":110735,"ä¸ĵ人":110736,"éĹľæĸ¼":110737,"æĹ¢è¦ģ":110738,"åĽ½è¶³":110739,"éļĭ":110740,"åıįåĩ»":110741,"起身":110742,"åħĪæĺ¯":110743,"å¸ĮæľĽèĥ½å¤Ł":110744,"åĪ¶è®¢":110745,"åºĹéĿ¢":110746,"åĸĢ":110747,"æķĻä½ł":110748,"éĻ῏©":110749,"åĬĽæ±Ĥ":110750,"ä¸īçϾ":110751,"çī©ä»·":110752,"丢失":110753,"å¢Ļä¸Ĭ":110754,"éĥ¨ä»½":110755,"æł·æĿ¿":110756,"ä¹ĭæĦı":110757,"ç½ijå°ıç¼ĸ":110758,"ä¸ĸä¸Ĭ":110759,"è°ĥè¯ķ":110760,"污æŁĵéĺ²æ²»":110761,"å½±éĻ¢":110762,"å®Įåħ¨åı¯ä»¥":110763,"éĢļåħ³":110764,"ä¹īåĬ¡æķĻèĤ²":110765,"没æľīåĬŀæ³ķ":110766,"èĢ¿":110767,"妳":110768,"æĹłæĥħ":110769,"å¾ĹçĽĬ":110770,"å¾ĹçĽĬäºİ":110771,"æľŁçĽ¼":110772,"娱ä¹IJåľº":110773,"çͲæĸ¹":110774,"ä¸Ģæ±½":110775,"çŰ":110776,"çĸijä¼¼":110777,"æĸ°æµªå¾®åįļ":110778,"强è¡Į":110779,"å½ĵä»ĸ":110780,"èĥº":110781,"ç͍æĪ·æıIJä¾Ľ":110782,"åĮºå§Ķ":110783,"æĦ¿æĻ¯":110784,"æĬĺæī£":110785,"失踪":110786,"è¿«åĪĩ":110787,"åŃĹæ¯į":110788,"åĴ¯":110789,"èªįèŃĺ":110790,"ä»Ģä¹ĪæĦıæĢĿ":110791,"çĽĴåŃIJ":110792,"å½ķéŁ³":110793,"建设工ç¨ĭ":110794,"ä¸ļä½Ļ":110795,"å®ŀ践活åĬ¨":110796,"çľŁç©º":110797,"çĤĸ":110798,"åľ¨è·¯ä¸Ĭ":110799,"主è¦ģåĮħæĭ¬":110800,"该æĢİä¹Ī":110801,"æĢ»æľī":110802,"æĢ§æĦŁ":110803,"æ°ijèĪª":110804,"å¼ĢåºĹ":110805,"欺éªĹ":110806,"çªģåĩ»":110807,"缺失":110808,"æī§ä¸ļ":110809,"åľ°éģĵ":110810,"å¹¶æĹł":110811,"æ°ijåĬŀ":110812,"ç»Ħç»ĩçĶŁæ´»":110813,"æĪijå¦Ī":110814,"è¨ĺèĢħ":110815,"管åζ":110816,"æī¾ä¸ª":110817,"èĹ»":110818,"çĤİçĹĩ":110819,"äºĴåĬ©":110820,"æµıè§Īåύ":110821,"çݩ家æĿ¥è¯´":110822,"éĻįä½İäºĨ":110823,"è£Ķ":110824,"æĮ£éĴ±":110825,"åķĨæľº":110826,"æĶ¹è£ħ":110827,"æµģ浪":110828,"æĶ¿æ³ķ":110829,"èĢģ头":110830,"çĶŁäº§åĴĮ":110831,"ç©Ĺ":110832,"亲çα":110833,"亲çαçļĦ":110834,"å±¥èģĮ":110835,"åŁİéĩĮ":110836,"ç»ĨåĪĨ":110837,"åĬ³åĬ¨åIJĪåIJĮ":110838,"åľ¨æĹ¥æľ¬":110839,"å¨ģå°Ķ":110840,"åį«è§Ĩ":110841,"éĢ£çµIJ":110842,"çĿĢéĩį":110843,"æĬĺ磨":110844,"åĽ¾ä¸º":110845,"çľ·":110846,"å·¥åºı":110847,"æĵģ":110848,"æĵģæľī":110849,"ç½ijç«Ļåľ°åĽ¾":110850,"çļĦä¸Ģ大":110851,"ç»Ħç»ĩå®ŀæĸ½":110852,"æĬĽå¼ĥ":110853,"åĴĮæĶ¯æĮģ":110854,"æ³ķåĪĻ":110855,"浪潮":110856,"çݰæľīçļĦ":110857,"åĩłçİĩ":110858,"为客æĪ·":110859,"åįģä¸ĩ":110860,"è¹Ħ":110861,"çªģåĩºéĹ®é¢ĺ":110862,"åıĥåĬł":110863,"éĥ½ä¼ļæľī":110864,"缤":110865,"è°ģéĥ½":110866,"æīĭåĬ¨":110867,"çĽ´è¾¾":110868,"çĤ¹å¤ļ":110869,"éĺ¶å±Ĥ":110870,"ä¸įä½³":110871,"éĤ£æ®µ":110872,"滨海":110873,"æĺ¯åĽ½åĨħ":110874,"æĪijå¸ĮæľĽ":110875,"åIJĽåŃIJ":110876,"è§ĤéŁ³":110877,"åģļé¥Ń":110878,"æ±½è»Ĭ":110879,"åħ³ç¨İ":110880,"çľ¼åīįçļĦ":110881,"æ°´éĿ¢":110882,"èĢ³æľº":110883,"追踪":110884,"æİ¨éĢģ":110885,"éĴ±åĮħ":110886,"æģ¶å¿ĥ":110887,"æµ·åŁŁ":110888,"å·į":110889,"å¼ĢæĿ¥":110890,"表æĢģ":110891,"仪表":110892,"å¹³åİŁ":110893,"åįģå¤ļå¹´":110894,"ä¹ŁæĹłæ³ķ":110895,"åħ¼é¡¾":110896,"è¡£æŁľ":110897,"æł½åŁ¹":110898,"æĪ¿æºIJ":110899,"设ç«ĭäºĨ":110900,"ä¸ĩåIJį":110901,"æķ°é¢Ŀ":110902,"è¦ģåĿļæĮģ":110903,"åIJīæŀĹçľģ":110904,"请èģĶç³»":110905,"ç»ıåİĨè¿ĩ":110906,"çļĦæľ¬è´¨":110907,"åħ¥éŨ":110908,"æľ¬æ¡Ī":110909,"çİĩè¾¾åΰ":110910,"åı°éĺ¶":110911,"éĴŀ":110912,"æĪijèĥ½":110913,"èݲèĬ±":110914,"éĴł":110915,"ä¸Ģäºĭ":110916,"åİŁæľīçļĦ":110917,"æ¯ıåĢĭ":110918,"æ¯Ķäºļ迪":110919,"æ£ĭçīĮ游æĪı":110920,"ä¸įä¼ļæľī":110921,"å½ĴæĿ¥":110922,"äºĶçϾ":110923,"è¿ĩé«ĺ":110924,"éĽ·è¾¾":110925,"ä¸Ģèµ·åİ»":110926,"æķĻ导":110927,"å°±è¯Ĭ":110928,"å°±å¾Ī":110929,"ä¸įåIJĮäºİ":110930,"俺":110931,"å¸ĸåŃIJ":110932,"æĶ¿åįıå§Ķåijĺ":110933,"çĸ«æĥħå½±åĵį":110934,"åĪĨè£Ĥ":110935,"为ä»Ģä¹Īä¼ļ":110936,"äºĶæĺŁ":110937,"å°ijåĦ¿":110938,"æĬ¢éĻ©":110939,"梦è§ģ":110940,"è®°èĢħéĩĩ访":110941,"山路":110942,"æĪij个人":110943,"æ²Ļ滩":110944,"è¹Ń":110945,"æĶ¹è®Ĭ":110946,"æĸ°åŀĭåĨł":110947,"æĸ°åŀĭåĨłçĬ¶":110948,"åĮ»æĬ¤":110949,"åĮ»æĬ¤äººåijĺ":110950,"æµ·å°Ķ":110951,"åħ³äºİæĪij们":110952,"éϤå¤ĸ":110953,"åºļ":110954,"宣åijĬ":110955,"ä¸īåįĥ":110956,"榨":110957,"ç§ijæĬĢ大åѦ":110958,"ä¸ĥåħ«":110959,"顺åºĶ":110960,"çΏçΏå¦Īå¦Ī":110961,"éĢīåıĸ":110962,"åī§çĥĪ":110963,"乡æĿijæĹħ游":110964,"积æŀģæİ¢ç´¢":110965,"表çݰ为":110966,"å¾Īæ¸ħæ¥ļ":110967,"大åĨĽ":110968,"æĿ¥ç͵":110969,"å¥ĹæĪ¿":110970,"çݰè¡Į":110971,"享åıĹåΰ":110972,"çľĭçĤ¹":110973,"åĽºå®ļèµĦ产":110974,"以人为":110975,"ä»¥äººä¸ºæľ¬":110976,"ä¸įå®Į":110977,"éĻį鼨":110978,"åģļçļĦäºĭæĥħ":110979,"å¹¶äºİ":110980,"顽强":110981,"è̏":110982,"åĺ´å·´":110983,"缸åħ³ä¿¡æģ¯":110984,"æĪij没":110985,"æĪĺçķ¥æĢ§":110986,"æĢĿ念":110987,"åĪĺå¤ĩ":110988,"åĬ©æĶ»":110989,"é£İè²Į":110990,"éĿ¢å¯¹éĿ¢":110991,"积æŀģå¼Ģå±ķ":110992,"çĸĹæķĪ":110993,"çľĭ书":110994,"缺åı£":110995,"åĽ½æ°ijç»ıæµİ":110996,"使ç͍æĿĥ":110997,"éģ¥è¿ľ":110998,"å¡«è¡¥":110999,"第ä¸ī人":111000,"åįĬå¤ľ":111001,"æŃ¦æ±īå¸Ĥ":111002,"æĪijåıijçݰ":111003,"ä¼ĺæĥłæĶ¿çŃĸ":111004,"é£İåı£":111005,"å°±ä¸įèĥ½":111006,"为主è¦ģ":111007,"æµģåĩº":111008,"å´ĩæĭľ":111009,"å¹¶ä¸įèĥ½":111010,"é«ĺä¸ī":111011,"ä¸ĸçķĮä¸ĬæľĢ":111012,"æĥ³å¿ħ":111013,"åħ¶æīĢ":111014,"åĢĻéĢī":111015,"åĢĻéĢī人":111016,"ä¸įçα":111017,"åī¯ä½ľç͍":111018,"人æ°ijæĹ¥æĬ¥":111019,"æĪijä¸įæĺ¯":111020,"å®ŀçī©":111021,"ç͵åİĤ":111022,"ä¹Łç®Ĺæĺ¯":111023,"æľīéĹľ":111024,"æľīèĥ½åĬĽ":111025,"æĮĤåľ¨":111026,"çľ¼ä¸ĭ":111027,"约翰":111028,"å°ıåѦçĶŁ":111029,"èµ·åΰäºĨ":111030,"工夫":111031,"åIJĮå¿ĥ":111032,"åĿ¦è¨Ģ":111033,"çłĮ":111034,"åıijæĮ¥äºĨ":111035,"èģĮä¸ļéģĵå¾·":111036,"è¿ĻäºĽå¹´":111037,"念头":111038,"èĢģé¼ł":111039,"åħ¨èµĦ":111040,"åħ¨èµĦåŃIJ":111041,"ä¸Ģåij³":111042,"å¤ļä¸ĩåħĥ":111043,"æł¼æľĥ":111044,"éķ¿éĢĶ":111045,"带走":111046,"èĭ±å¯¸":111047,"æĸĩä½ĵ":111048,"对ä»ĸ们":111049,"åĵŃäºĨ":111050,"å¡«æĬ¥":111051,"çīĪæĿĥ声æĺİ":111052,"çĶµçº¿":111053,"è´Ńçī©ä¸Ńå¿ĥ":111054,"饱满":111055,"ä½İ头":111056,"强迫":111057,"ä¿Ŀæ´ģ":111058,"欧åĨł":111059,"缸è¿ŀ":111060,"认è´Ń":111061,"ç쫿ĺŁ":111062,"é«ĺå°Ķ":111063,"é«ĺå°Ķ夫":111064,"èij«èĬ¦":111065,"æłĩ注":111066,"çļĦçIJĨæĥ³":111067,"æł¸éħ¸":111068,"æł¸éħ¸æ£Ģæµĭ":111069,"åĬī":111070,"ä¸Ģèάæĺ¯":111071,"æĢĿç´¢":111072,"轨迹":111073,"çĥŃ带":111074,"éĻ£":111075,"åĩĨç¡®æĢ§":111076,"æĪ´çĿĢ":111077,"åľ¨çĶŁæ´»ä¸Ń":111078,"æīĢèĥ½":111079,"æľ¯åIJİ":111080,"å¸¦ä½ł":111081,"ç¥ł":111082,"æ®ĭéħ·":111083,"ä¹Łåıªæĺ¯":111084,"çͳè´Ń":111085,"举åĬŀäºĨ":111086,"æľīæĦıä¹ī":111087,"æĹºçĽĽ":111088,"åľ¨ç¶²":111089,"åľ¨ç¶²è·¯ä¸Ĭ":111090,"å¾Ī大ç¨ĭ度":111091,"管è¾ĸ":111092,"çĸ«æĥħæľŁéĹ´":111093,"触æij¸":111094,"éĺ¶æ®µæĢ§":111095,"ä¼ļè§īå¾Ĺ":111096,"çļĦçĶ»éĿ¢":111097,"æİ¥åıĹäºĨ":111098,"表达äºĨ":111099,"éĤĵå°ı":111100,"éĤĵå°ıå¹³":111101,"åħļé£İ":111102,"åħļé£İå»īæĶ¿":111103,"åķĨåѦéĻ¢":111104,"åħijæį¢":111105,"é£Łåĵģèį¯åĵģ":111106,"éĿŀ常好çļĦ":111107,"çľ¯":111108,"纳米":111109,"åĬ¨æijĩ":111110,"åĽŀéģ¿":111111,"çľĭèijĹ":111112,"款项":111113,"åħ«å¹´":111114,"åģļ个":111115,"æĸĩæ¡£":111116,"éĩijèŀįç§ijæĬĢ":111117,"åħ¶ä¸Ńæľī":111118,"äºĨä¸Ģç³»åĪĹ":111119,"æĹĹèΰåºĹ":111120,"ç§°èµŀ":111121,"éĽ¢éĸĭ":111122,"åζåĨ·":111123,"å®¶éŨåı£":111124,"åįģå¤ļ":111125,"ä¼´ä¾£":111126,"çľĭçĹħ":111127,"æĭīçĿĢ":111128,"æīĴ":111129,"çĸ²æĥ«":111130,"å°ijæķ°æ°ijæĹı":111131,"åĽ¾å½¢":111132,"è½§":111133,"å¢ŀéĩı":111134,"饲åħ»":111135,"çģ«å±±":111136,"æ¯ı个æľĪ":111137,"ä½ľä¸ºä¸ĢåIJį":111138,"è½´æī¿":111139,"æĸĩ书":111140,"ç¼ķ":111141,"åħ·ä½ĵæĥħåĨµ":111142,"çĹĽçĤ¹":111143,"缴éĶĢ":111144,"å¡Ĭ":111145,"ä¹Łæľĥ":111146,"çĥŃæ½®":111147,"å¹³æ°ij":111148,"æ¼Ķåͱä¼ļ":111149,"æķĻçłĶ":111150,"éĢĥéģ¿":111151,"ä¸Ģè´¯":111152,"å°±è¶Ĭ":111153,"å®ŀå®ŀåľ¨":111154,"å®ŀå®ŀåľ¨åľ¨":111155,"ä¹łè¿ijå¹³æĢ»":111156,"溺":111157,"å¿ĥåºķ":111158,"éķ¿å¾ģ":111159,"媽媽":111160,"第ä¸ī次":111161,"åĩºæ¼Ķ":111162,"çĭĢæ³ģ":111163,"å°Ķæĸ¯":111164,"代çIJĨåķĨ":111165,"çĨı":111166,"çļĦ对象":111167,"ç͵éĩı":111168,"è¡ĮåĪĹ":111169,"åĽ½äºº":111170,"è·ijäºĨ":111171,"åįĶåĬ©":111172,"èIJ¥è¿IJ":111173,"å¸ĪåħĦ":111174,"榮":111175,"æĥ³åĥı":111176,"æĢ§å¼º":111177,"ç§ijåѦçłĶç©¶":111178,"å»¶å®ī":111179,"ä¸¥æł¼èIJ½å®ŀ":111180,"é¢Ĩä¼ļ":111181,"çĽ¸å·®":111182,"路人":111183,"çĶ«":111184,"æľīä»·å̼":111185,"æľīä»·å̼çļĦ":111186,"ç¾İåĽ¢":111187,"æ°ij主çĶŁæ´»":111188,"æĪijæīį":111189,"ç¾İåĽ½äºº":111190,"æ°Ķåij³":111191,"åıįå°Ħ":111192,"çļĦåĨ³å¿ĥ":111193,"大è±Ĩ":111194,"交代":111195,"è¿Ľåĩº":111196,"åıįæĬĹ":111197,"æĮĩçļĦæĺ¯":111198,"ä»·ä½į":111199,"è¿Ľé©»":111200,"ä¸ĬçϾ":111201,"ä½įåĪĹ":111202,"ä¸ŃåĽ½ä¼ģä¸ļ":111203,"çļĦ好å¤Ħ":111204,"主ç¼ĸ":111205,"汽油":111206,"ä½ĨæĪij们":111207,"æĢİä¹Īçľĭ":111208,"é»Ħå±±":111209,"å¤ļåªĴä½ĵ":111210,"åIJİåį«":111211,"èİ·å¾ĹæĽ´å¤ļ":111212,"åĬ¡å¿ħ":111213,"为å¥ijæľº":111214,"é¦ĸ饰":111215,"ä¸ĩåįļ":111216,"è¶ĬæĿ¥è¶Ĭ大":111217,"ä¸ĵ项è¡ĮåĬ¨":111218,"å¥ĭè¿Ľ":111219,"ä»įçĦ¶æĺ¯":111220,"è´¨æĦŁ":111221,"å¦Ĥæŀľä¸įæĺ¯":111222,"ç«Ļèµ·æĿ¥":111223,"ä¹¾éļĨ":111224,"åı¯æĢķçļĦ":111225,"å¯Įè´µ":111226,"æ¸ħç®Ĺ":111227,"åIJijä¸ĭ":111228,"åĢļ":111229,"çļĦçŃĶæ¡Ī":111230,"èιä¸Ĭ":111231,"çļĦ羣å®ŀæĢ§":111232,"çŃīåĬŁèĥ½":111233,"åĸľåī§":111234,"å¨ģåĬĽ":111235,"æĸ°é¢ĸ":111236,"æł¸ç͵":111237,"æĬ¥éĶĢ":111238,"æķħ乡":111239,"ä¼´éļı":111240,"éŀŃ":111241,"å¦Ĭå¨ł":111242,"åĪĨåĮĸ":111243,"æľīå¾Ī大":111244,"æĢİä¹Ī说":111245,"æĻĤ代":111246,"产åĩº":111247,"ä»ĭç»į说":111248,"å¤ĦçIJĨåύ":111249,"èĨ¨èĥĢ":111250,"åī¯å¸Ĥéķ¿":111251,"çļĦ妻åŃIJ":111252,"æł·åĵģ":111253,"åIJĮæ¯Ķä¸ĭéĻį":111254,"åħĥå·¦åı³":111255,"ç͍èĩªå·±çļĦ":111256,"é«ĺéĽĦ":111257,"æĺ¥æĻļ":111258,"ä¹Łæľīå¾Īå¤ļ":111259,"çľ¼çIJĥ":111260,"æķ£æŃ¥":111261,"ä»ĸ们éĥ½":111262,"第ä¸Ģå®¶":111263,"åĬŀ好":111264,"å®īéĺ²":111265,"ä¸Ģä¸ĩ":111266,"åľ¨éĩĮéĿ¢":111267,"éŁ³é¢ij":111268,"åı£åı·":111269,"ä¸Ģè¶Ł":111270,"ç¦ıçī¹":111271,"é³ŀ":111272,"æĥĬèī³":111273,"æĸ°å¨ĺ":111274,"绿èī²åıijå±ķ":111275,"ä¸Ńå¼ı":111276,"ä¹Łåıªæľī":111277,"çݰ身":111278,"åı¯ä¾Ľ":111279,"æ¯ıä¸Ģ个人":111280,"第ä¸īèĢħ":111281,"åľ°å½¢":111282,"éĴ¢ç»ĵæŀĦ":111283,"çĽijçĿ£æ£ĢæŁ¥":111284,"åı«æĪij":111285,"èĩ´æķ¬":111286,"æ´Ĺæīĭ":111287,"ä¸ĭè°ĥ":111288,"康çĨĻ":111289,"æĪIJ交éĩı":111290,"ä¹ŁæĪIJ为":111291,"åħīæ»ij":111292,"å®Įæķ´æĢ§":111293,"çģ¼":111294,"ç¶²éłģ":111295,"éķ¿å¯¿":111296,"éģ©ç͍":111297,"çļĦä¸Ģ项":111298,"çŀ©çĽ®":111299,"æĬĬèĩªå·±çļĦ":111300,"éĵ¶è¡Įåį¡":111301,"å°±å¿ħé¡»":111302,"ç¾İçϽ":111303,"éŀįå±±":111304,"æľ¬é¢Ĩ":111305,"ä¸Ģç¢Ĺ":111306,"æīĵæ³ķ":111307,"æĤ¨å¥½":111308,"对åŃ©åŃIJ":111309,"æĬ¥éģĵç§°":111310,"ä¼łåĩº":111311,"大èĩ£":111312,"ç¬ĭ":111313,"çĽı":111314,"é¾ļ":111315,"çĽ´çº¿":111316,"æĻºåºĵ":111317,"ç§Łè½¦":111318,"é£İåij³":111319,"çľĭä¸Ģä¸ĭ":111320,"æİ¨éĶĢ":111321,"éĥ¨éĥ¨éķ¿":111322,"è´¨éĩıåĴĮ":111323,"åĪĬçĻ»":111324,"å·¥ä¸ļåĮĸ":111325,"çİĩ为":111326,"鼶件":111327,"硬åĮĸ":111328,"ä¸Ĭåįĥ":111329,"ç»ıéªĮå̼":111330,"å¹³è¡Į":111331,"声éģĵ":111332,"æľįåĬ¡è´¨éĩı":111333,"çĶŁçĶ¢":111334,"æľĢ容æĺĵ":111335,"ä¸Ģæŀļ":111336,"å¹´æĬ¥":111337,"åħ¬ç½ij":111338,"åħ¬ç½ijå®ī":111339,"åħ¬ç½ijå®īå¤ĩ":111340,"çļĦèĥ½éĩı":111341,"å®ŀéĻħè¡ĮåĬ¨":111342,"è¦ģä¸įè¦ģ":111343,"æĹ¥æľ¬äºº":111344,"èĢ¶ç¨£":111345,"ç¼ĸåī§":111346,"æ¶©":111347,"åį°å°¼":111348,"ä¸Ĭä¸ĭ游":111349,"åĩłåı¥":111350,"ä¸Ńéĵģ":111351,"ç°¡åĸ®":111352,"èĩªå¸¦":111353,"çĶŁäºİ":111354,"ä¸Ģåı£æ°Ķ":111355,"åĭ¤å¥ĭ":111356,"éĻįä»·":111357,"å±ķçݰäºĨ":111358,"å¸ĥæĭī":111359,"ä¼ļéĢīæĭ©":111360,"çļĦç»ıåħ¸":111361,"好æľĭåıĭ":111362,"车éģĵ":111363,"æķ´åĢĭ":111364,"åľĵ":111365,"éķ¿æľŁä»¥æĿ¥":111366,"æĬķå½±":111367,"çļĩåĨł":111368,"è¿ĩ大":111369,"åijĬè¯īä»ĸ":111370,"ä¼ģä¸ļæıIJä¾Ľ":111371,"æĬ½è±¡":111372,"éĢĤ度":111373,"çļĦ女åŃ©":111374,"èµ·ä¼ı":111375,"çļĦåĬŁæķĪ":111376,"ä¸ĵ项æķ´æ²»":111377,"åı¯éĢļè¿ĩ":111378,"ä¸įåIJĮç¨ĭ度":111379,"å¼Ĥè®®":111380,"åĩĢèµĦ产":111381,"åijĹ":111382,"ä»Ģä¹Īåij¢":111383,"å·¡éĢ»":111384,"è¸ıä¸Ĭ":111385,"ä½Ĩå®ĥ":111386,"精度":111387,"管å±Ģ":111388,"第ä¸ĢåIJį":111389,"åĨħåŃĺ":111390,"æijĨåľ¨":111391,"åī©ä¸ĭ":111392,"主ä½ĵ责任":111393,"çĤ¹åįĬ":111394,"以èĩ³äºİ":111395,"åħ»èĢģä¿ĿéĻ©":111396,"æĦŁåıĹåΰäºĨ":111397,"çŁ¥åIJįçļĦ":111398,"å¯Į豪":111399,"妥åĸĦ":111400,"åŃĻåŃIJ":111401,"éĵĤ":111402,"说èĩªå·±":111403,"让æĤ¨":111404,"æķ°æİ§":111405,"çļĦçľ¼åħī":111406,"注éĶĢ":111407,"çļĦçģµéŃĤ":111408,"è¿ĺä¸įéĶĻ":111409,"éĹ®ä»ĸ":111410,"èĩªä¸»çłĶåıij":111411,"èĵĭ":111412,"ç´«èī²":111413,"åĽ½å®¶å®īåħ¨":111414,"è¾½å®ģçľģ":111415,"ä¹Łæ¯Ķè¾ĥ":111416,"ç¾İèĤ¡":111417,"ä¸įç¡®å®ļæĢ§":111418,"å¿ĥ头":111419,"æĪ³":111420,"级åĪ«çļĦ":111421,"论述":111422,"çļĦåĽŀçŃĶ":111423,"ä¿Ŀè¯ģéĩij":111424,"çŃīè¡Įä¸ļ":111425,"幸ç¦ıæĦŁ":111426,"æŃ§è§Ĩ":111427,"æľºç¥¨":111428,"派人":111429,"èĩ´åij½":111430,"åĺ´è§Ĵ":111431,"æĸ°éĹ»ä¸Ńå¿ĥ":111432,"æĶ¾å¼ĥäºĨ":111433,"å®ľå±ħ":111434,"åĨĻä¸ĭ":111435,"éĹ®çŃĶ":111436,"è¿ĻéĩĮæĺ¯":111437,"å¤ļåľ°":111438,"åĮºåŁŁåĨħ":111439,"åĸ°":111440,"çľĭä»ĸ":111441,"æī§æ³ķ人åijĺ":111442,"åĬ¨æľº":111443,"éŁ³åĵį":111444,"çļĦåij½è¿IJ":111445,"é¡¶éĥ¨":111446,"åĵŁ":111447,"éĥ½æľĥ":111448,"æīĵéĢłæĪIJ":111449,"æĦıåĽ¾":111450,"çļĸ":111451,"åĢĴåħ¥":111452,"å·´èIJ¨":111453,"åĬ©åѦ":111454,"å¤įåı¤":111455,"åIJ¯ç͍":111456,"åĽ½éĻħå¸Ĥåľº":111457,"åĤ¨èĥ½":111458,"é»ijé¾Ļæ±Łçľģ":111459,"ä¹ĺ车":111460,"è¿IJåĬ¨ä¼ļ":111461,"ä¿ĿåĪ©":111462,"çŁ³æĿIJ":111463,"çµ®":111464,"çĤĴä½ľ":111465,"çļĦä¿¡ä»»":111466,"å°±æĪIJäºĨ":111467,"åı¯è§Ĥ":111468,"çļĩä¸Ĭ":111469,"è¿Ļåĩłå¤©":111470,"ä¸ĢéĶ®":111471,"åĨ·åĨ»":111472,"ä¿Ŀåį«":111473,"æł¸æ¡ĥ":111474,"åIJĪä½ľåħ³ç³»":111475,"éĢģåĩº":111476,"æĹĹä¸ĭçļĦ":111477,"åľ¨ä¹İ":111478,"为广大":111479,"åįĪé¤IJ":111480,"ä¸ĵ访":111481,"æĪĸå°Ĩ":111482,"éĿĴå²Ľå¸Ĥ":111483,"å¥Ķè·ij":111484,"æĹ¥æĬ¥éģĵ":111485,"å¥ijåIJĪ":111486,"æĸ°æĺ¥":111487,"ä¸įå°ıå¿ĥ":111488,"两ä¸ī":111489,"æĦıæĢĿæĺ¯":111490,"åĨ·èĹı":111491,"çļĦçĹĩçĬ¶":111492,"æĢ§åij½":111493,"è¶ħæłĩ":111494,"å¯Ĩ碼":111495,"ç§ijæĬĢèĤ¡ä»½":111496,"äºĨä¸Ģæī¹":111497,"çĿ£å¯Ł":111498,"åªĴä»ĭ":111499,"å°Ħæīĭ":111500,"ä¿®åħ»":111501,"çīĩåĪ»":111502,"éĢĤåIJĪèĩªå·±":111503,"åıªè¦ģæĺ¯":111504,"åIJĥè¿ĩ":111505,"éĩijéĵ¶":111506,"缴å±ŀ":111507,"åѦéĹ®":111508,"åİĭåζ":111509,"çªĹå¤ĸ":111510,"æĶ¶åΰäºĨ":111511,"åħ¨åĽ½äººå¤§":111512,"ä½Ĩæĺ¯å¯¹äºİ":111513,"åľ¨æķ´ä¸ª":111514,"çļĦèĥĮåIJİ":111515,"åĩıå°ijäºĨ":111516,"åıįèħIJ":111517,"åıįèħIJåĢ¡":111518,"åıįèħIJåĢ¡å»ī":111519,"æĹ·":111520,"åĪĨæľŁ":111521,"åľ¨æ·±åľ³":111522,"æīĵçĿĢ":111523,"æī«ä¸Ģ":111524,"æī«ä¸Ģæī«":111525,"æĶ¿åºľéĥ¨éŨ":111526,"æİ¥è¿ŀ":111527,"å±ŀäºİèĩªå·±":111528,"åŃIJå¼¹":111529,"åIJĮæł·æĺ¯":111530,"æĢ»åħ±":111531,"车ä¼ģ":111532,"æ¢ĵ":111533,"åħ¬é¡·":111534,"åıij声":111535,"éĴĽ":111536,"èµ°åĬ¿åĽ¾":111537,"主èIJ¥":111538,"åĸĶ":111539,"æķ°æį®åĪĨæŀIJ":111540,"ä¸įè¿ľ":111541,"æľīåIJį":111542,"æľīåIJįçļĦ":111543,"åģ¿è¿ĺ":111544,"å¾Īä½İ":111545,"è®ĵ人":111546,"èĿī":111547,"é«ĺè´µ":111548,"å°ij许":111549,"æ°Ł":111550,"å¹¢":111551,"亲æĥħ":111552,"è¿Ļä»¶äºĭæĥħ":111553,"ç͍é¤IJ":111554,"缸åħ³æĸ°éĹ»":111555,"å°±åºĶ该":111556,"ç»ĪçĤ¹":111557,"æĺ¯å¤ļå°ij":111558,"çĻ»åľº":111559,"è¯ķ管":111560,"è¯ķ管婴åĦ¿":111561,"åģļ大":111562,"åģļ大åģļ强":111563,"çļĦä¾ĭåŃIJ":111564,"åħ«ä¸ª":111565,"æĺİæĹ¥":111566,"çĤ³":111567,"èµ°åİ»":111568,"éģº":111569,"墩":111570,"ä½ĵä¼ļåΰ":111571,"åĴı":111572,"ä¸ĭè¾¾":111573,"å¤įåıij":111574,"追éĢIJ":111575,"æīĵåĵį":111576,"çļĦéļ±ç§ģæ¬Ĭ":111577,"åħ·æľīä¸Ģå®ļ":111578,"è¿Ļä¹Īå¤ļå¹´":111579,"æłijæŀĹ":111580,"æľĢéķ¿":111581,"åIJĮèĥŀ":111582,"åħīæ³½":111583,"åŁŁåIJį":111584,"æĮĩåIJij":111585,"åıĹ害èĢħ":111586,"æłijèĦĤ":111587,"æľīå¤ļ大":111588,"大éĿ¢ç§¯":111589,"æĹłç¼Ŀ":111590,"æĶ¹æŃ£":111591,"æĽ´å¤ļçļĦæĺ¯":111592,"æľŁæľ«":111593,"æŃ¼":111594,"ä¹īä¹Į":111595,"éĤ£ä½ł":111596,"çļĦ第ä¸Ģ个":111597,"èĮµ":111598,"å°§":111599,"èį«":111600,"ä¸įä»ħåı¯ä»¥":111601,"æ¶Įçݰ":111602,"æĢ»éĿ¢ç§¯":111603,"æĸ°éĹ»åıijå¸ĥ":111604,"æ°ijç͍":111605,"就读":111606,"æīĵè´¥":111607,"å¤ĸè¯Ń":111608,"æĪij们ä¸Ģèµ·":111609,"é¢Ħå®ļ":111610,"çĥ¹é¥ª":111611,"æľĢ主è¦ģ":111612,"æľĢ主è¦ģçļĦ":111613,"çīĮçħ§":111614,"åĽłåħ¶":111615,"ä½İä¸ĭ":111616,"ä¼ļåIJĮ":111617,"è§ģè§£":111618,"éĹ´éļĶ":111619,"æķĻç¨ĭ":111620,"å°ī":111621,"å¸Ĥä¸Ńå¿ĥ":111622,"åħ³éĶ®æĺ¯":111623,"æµ·åįĹçľģ":111624,"çī¹åĪ«æĺ¯åľ¨":111625,"ä¸ŃåĽ½å¤§éĻĨ":111626,"åħħè¶³çļĦ":111627,"æĹ¢èĥ½":111628,"åĤ³çµ±":111629,"çijľä¼½":111630,"åħ¥åĽ´":111631,"æħ¢æħ¢åľ°":111632,"æĬ¥éħ¬":111633,"æī¹å¤į":111634,"å·¥ä¸ļåĽŃåĮº":111635,"ä¸İåıijå±ķ":111636,"èĥ¸éĥ¨":111637,"åľ¨ç½ij绾":111638,"åľ¨ç½ij绾ä¸Ĭ":111639,"交è°Ī":111640,"æĽ´æĶ¹":111641,"åįłæľīçİĩ":111642,"ä¸Ŀ绸ä¹ĭè·¯":111643,"è¡Ľ":111644,"çłĶåΤ":111645,"åĪª":111646,"åĪªéϤ":111647,"è¿Ļåıª":111648,"çļĦæ°Ķæģ¯":111649,"åĬłå·ŀ":111650,"éĴ§":111651,"çIJĨäºĭéķ¿":111652,"ä¸ĸå®¶":111653,"æµģè¡ĮçļĦ":111654,"å¾Īæľīåı¯èĥ½":111655,"们éĥ½":111656,"ç»ıèIJ¥æ¨¡å¼ı":111657,"è¡Įä¸ļä¸Ń":111658,"éĢļçŁ¥ä¹¦":111659,"åij½é¢ĺ":111660,"æľ¬ç¶²ç«Ļ":111661,"æ²Ļçī¹":111662,"åıijåħī":111663,"é«ĺä»·":111664,"å·²çĦ¶":111665,"åıĮåįģä¸Ģ":111666,"ä¸Ĭè¯ī":111667,"ç¿ħèĨĢ":111668,"è¿Ļä¸Ģå¹´":111669,"大ä¼ļä¸Ĭ":111670,"éĩī":111671,"å®Įåħ¨æĺ¯":111672,"å¾Ĺ太":111673,"ä¸ĢèĪ¬äºº":111674,"è¿ĺç®Ĺ":111675,"æĬĺåıł":111676,"æĬķæľº":111677,"çĤ¹çĩĥ":111678,"çݰéĩijæµģ":111679,"åħĶåŃIJ":111680,"ç½ijæł¼":111681,"æİ¥è¿ĩ":111682,"ä¾Ľè´§":111683,"éĺ´å½±":111684,"åİŁåħĪ":111685,"æį£":111686,"左侧":111687,"åħĭæĭī":111688,"æīĵåį¡":111689,"ç§ijæ¯Ķ":111690,"æ±ĩéĽĨ":111691,"åľ°çIJĨä½įç½®":111692,"è¯Ħå§Ķ":111693,"ç»ĵåIJĪèµ·æĿ¥":111694,"è¿Ľåħ¥åΰ":111695,"åı¯è¡Į":111696,"åı¯è¡ĮæĢ§":111697,"让å®ĥ":111698,"åĪ¶åº¦æĶ¹éĿ©":111699,"çĶĺèĤĥçľģ":111700,"åĵĹ":111701,"åģıåģı":111702,"è¡£çī©":111703,"ç¥Ŀè´º":111704,"æºIJèĩª":111705,"å¹¶ä¸į代表":111706,"åĽ½åº¦":111707,"好åĿı":111708,"æĿĸ":111709,"æĿŃå·ŀå¸Ĥ":111710,"湿度":111711,"鲸":111712,"åįļ彩":111713,"æ³°å±±":111714,"æĿijèIJ½":111715,"æĸ°èģŀ":111716,"èĤĭ":111717,"åı¤èĢģçļĦ":111718,"çļĦç§ĺå¯Ĩ":111719,"ä¸Ģ个éĹ®é¢ĺ":111720,"éģıåζ":111721,"åįĥ亿":111722,"è¿ĩ硬":111723,"å°Ħåĩ»":111724,"èĩªçĦ¶æĺ¯":111725,"产åĮº":111726,"çĤ¹çĤ¹å¤´":111727,"åı¯ä»¥å¸®åĬ©":111728,"说å®ŀ":111729,"说å®ŀè¯Ŀ":111730,"æĪijåıªæĺ¯":111731,"ä¹ĭä½Ļ":111732,"åIJĮæĹ¶ä¹Łæĺ¯":111733,"ä¸ŃåĽ½éĺŁ":111734,"建æĪIJåIJİ":111735,"ä¹IJè§Ĩ":111736,"åij¨å²ģ":111737,"èį¯åºĹ":111738,"éĩijåįİ":111739,"严éĩįå½±åĵį":111740,"è´¨åľ°":111741,"æĹħéģĬ":111742,"åħµåύ":111743,"æķĻèĤ²æķĻåѦ":111744,"离åİ»":111745,"åIJĦå¼ıåIJĦæł·":111746,"ä»ĭç´":111747,"ä»ĭç´¹":111748,"å¼Ģ头":111749,"å°Ĩèĩªå·±çļĦ":111750,"åIJ¬åĬĽ":111751,"ä¿¡æģ¯ç³»ç»Ł":111752,"ä»İæł¹æľ¬":111753,"ä»İæł¹æľ¬ä¸Ĭ":111754,"æİĮ声":111755,"欢åĸľ":111756,"å±ķåĮº":111757,"åķ¸":111758,"太å¤ļäºĨ":111759,"éĹ²ç½®":111760,"èĥ¡èIJĿåįľ":111761,"å§Ķå®£ä¼ł":111762,"å§Ķå®£ä¼łéĥ¨":111763,"åįĹéĺ³":111764,"å·ŀåĮº":111765,"ä¸İæĹ¶":111766,"ä¸İæĹ¶ä¿±":111767,"ä¸İæĹ¶ä¿±è¿Ľ":111768,"å«Įçĸij人":111769,"èī¯å¿ĥ":111770,"头顶":111771,"è´¢æĬ¥":111772,"ä½Ľæ³ķ":111773,"å¾µ":111774,"åİŁä»¶":111775,"åĭŀ":111776,"çĶ·ç¯®":111777,"å¤ĸåĽ½äºº":111778,"è¿Ŀ纪":111779,"æī¾äºĨ":111780,"æįķæįī":111781,"缸è¯Ĩ":111782,"æIJľéĽĨ":111783,"çļĦä¼Łå¤§":111784,"ä¸īç»´":111785,"å°±è¡ĮäºĨ":111786,"çĭIJæľĪ":111787,"çĭIJæľĪå±±":111788,"å¸ĮæľĽéĢļè¿ĩ":111789,"èĢĮ对äºİ":111790,"éĿ¢å°į":111791,"åĨĽåĽ¢":111792,"è¡ĹåĮº":111793,"æĤ¬æĮĤ":111794,"便ç§ĺ":111795,"æľīä¸ĢçĤ¹":111796,"ä¼ļè®®ä¸Ĭ":111797,"ä¸ĭæīĭ":111798,"廣åijĬ":111799,"äºĶè¡Į":111800,"çŃīåĢĻ":111801,"ç´§ç´§åĽ´ç»ķ":111802,"æĭ¿äºĨ":111803,"æ¡ĮéĿ¢":111804,"ç¥ŀæĥħ":111805,"éĽĦåİļ":111806,"çŀ³":111807,"楼ä¸ĭ":111808,"彪":111809,"äºĭåıij":111810,"åĨįè§ģ":111811,"é¤ĺ":111812,"é¢ĦåĶ®":111813,"åİ»çľĭçľĭ":111814,"æĪij们åºĶ该":111815,"ä¸īå®¶":111816,"æµĬ":111817,"ä¹IJéĺŁ":111818,"çľĭä¸įè§ģ":111819,"èĦijåŃIJ":111820,"æĮģæľīçļĦ":111821,"çϽèıľ":111822,"éĹªçĥģ":111823,"åĸĿæ°´":111824,"æİ§åĪ¶ç³»ç»Ł":111825,"ä¸ĵåĮº":111826,"æľĿå»·":111827,"æĪijå¿ĥéĩĮ":111828,"å±ķåİħ":111829,"èľĺèĽĽ":111830,"åĨ»ç»ĵ":111831,"粪":111832,"åºIJ":111833,"åIJij社ä¼ļ":111834,"åĨ³çŃĸéĥ¨ç½²":111835,"çŁŃæľŁåĨħ":111836,"æĸ°ä¸ļæĢģ":111837,"æľĶ":111838,"æĹ¶æĬ¥":111839,"使ä¹ĭ":111840,"åĽłåŃIJ":111841,"åıĤä¸İèĢħ":111842,"çļĦ年轻人":111843,"æīĭ表":111844,"å°ģéĶģ":111845,"为ä»Ģä¹Īä¸į":111846,"åIJ¸çĥŁ":111847,"æ¯Ĵç´ł":111848,"åĪijæ³ķ":111849,"磫æŃ£":111850,"身æĹģ":111851,"åİŁè°ħ":111852,"çĽijæĬ¤":111853,"æŃ¤å¤Ħ":111854,"éĻĤ":111855,"æŀľå®ŀ":111856,"åĮ»çĸĹæľįåĬ¡":111857,"ä¸įåIJĪçIJĨ":111858,"æIJŀ好":111859,"çļĦèĦļæŃ¥":111860,"å¤ĸå¥Ĺ":111861,"ç¶ĵéģİ":111862,"æĶ¾ç¼ĵ":111863,"åģľçķĻ":111864,"æĺŁçIJĥ":111865,"çļĦä¸ĢéĿ¢":111866,"åĩłä½ķ":111867,"è½®åĽŀ":111868,"æ¯Ľå·¾":111869,"ä¿®çIJĨ":111870,"ä¸įçŁ¥ä¸į":111871,"ä¸įçŁ¥ä¸įè§ī":111872,"æķ´ä¸ªäºº":111873,"æ¯ģçģŃ":111874,"åı°å·ŀ":111875,"使çĶ¨å¯¿åij½":111876,"é»ijçϽ":111877,"æij¸ç´¢":111878,"é¼łæłĩ":111879,"éĿ©æĸ°":111880,"麵":111881,"ä¸ĵéĹ¨ä¸º":111882,"å¾Īå¤ļæľĭåıĭ":111883,"å·¥ä½ľç»Ħ":111884,"åIJĪå½±":111885,"çĤºä»Ģ麼":111886,"æŀģ度":111887,"çļĦè¿ĽæŃ¥":111888,"å½ĵä¹ĭ":111889,"å½ĵä¹ĭæĹł":111890,"å½ĵä¹ĭæĹłæĦ§":111891,"è´´è¿ij":111892,"尺度":111893,"åľ¨çİ°åľº":111894,"éĻį临":111895,"åħ»èĢģéĩij":111896,"ç£ķ":111897,"åı¯ä»¥ä½¿":111898,"管çIJĨæ°´å¹³":111899,"æľ¬æĬ¥è®°èĢħ":111900,"æ³ķ令":111901,"åį¡è½¦":111902,"ä¸ľæµ·":111903,"å¤ļéĩį":111904,"åħ¶éĹ´":111905,"ç´Ļ":111906,"éĩįå¤§é¡¹çĽ®":111907,"æ±Ĺæ°´":111908,"ç»Ħå§Ķä¼ļ":111909,"ä¿¡æģ¯åħ¬å¼Ģ":111910,"ä¸į论æĺ¯":111911,"ä¸ĢåIJ¬":111912,"èĴ¸æ±½":111913,"æıŃç§ĺ":111914,"è¶ħéģİ":111915,"触åıij":111916,"婦":111917,"åħ³èģĶ交æĺĵ":111918,"å°±ç»Ļ大家":111919,"好ä¹ħ":111920,"åĢŁè´·":111921,"游æĪıè§Ĵèī²":111922,"å¼ĢåIJ¯äºĨ":111923,"æİł":111924,"åħļçļĦåįģä¹Ŀ":111925,"ä¸ĭ鼨":111926,"çŁŃæĹ¶éĹ´åĨħ":111927,"å¯ħ":111928,"导åħ¥":111929,"å·¥ä½ľç»ıéªĮ":111930,"ä¹Łåıªèĥ½":111931,"鼷éľĨ":111932,"è·Łè¿Ľ":111933,"åį¡éĢļ":111934,"é¢ĩæľī":111935,"æľºä½ĵ":111936,"æĪĺ士èģĮä¸ļ":111937,"女主":111938,"ä½ĵåĪ¶æľºåζ":111939,"è¶³åįı":111940,"èĪĴéĢĤçļĦ":111941,"åĢŁåı£":111942,"æī¹åΤ":111943,"æķ°å̼":111944,"諾":111945,"éĺ¿æĭī伯":111946,"åĺİ":111947,"æħ¶":111948,"达人":111949,"å¼Ģæ°´":111950,"å¤§éĽ¨":111951,"温室":111952,"ä½İè¿·":111953,"ä»įæĹ§":111954,"éªĹåŃIJ":111955,"亲å±ŀ":111956,"çIJĨæĻº":111957,"æľ¬åŁºéĩij":111958,"å¨ħ":111959,"åĨĻåŃĹæ¥¼":111960,"å¢Ļå£ģ":111961,"宵":111962,"èϽçĦ¶æĺ¯":111963,"顺çĿĢ":111964,"åħ«åį¦":111965,"åķĨç͍":111966,"ä¸į失":111967,"è¿·èĮ«":111968,"顺便":111969,"æļijæľŁ":111970,"æ¬ºè´Ł":111971,"é¢ijé¢ij":111972,"è¯¥æł¡":111973,"æĸĻçIJĨ":111974,"æ·±æĥħ":111975,"åīįéĶĭ":111976,"ä¿ĿèŃī":111977,"èģĮä¸ļçĶŁæ¶¯":111978,"åħ¬å¼Ģåıij":111979,"åħ¬å¼Ģåıijè¡Į":111980,"åħ¥æĪ·":111981,"éłĵ":111982,"å̾åIJ¬":111983,"éŃģ":111984,"æĦīæĤ¦":111985,"åĽŀåIJĪ":111986,"åħ¨åĬĽä»¥":111987,"åħ¨åĬĽä»¥èµ´":111988,"åĥ¹å̼":111989,"èĥ½åĬĽå¼º":111990,"ç»ıå¼Ģ":111991,"ç»ıå¼ĢåĮº":111992,"è¿ľæĸ¹":111993,"çļĦéģĵçIJĨ":111994,"缴åįĩ":111995,"缴åįĩæľº":111996,"为主é¢ĺçļĦ":111997,"ç»ĻæĤ¨":111998,"è¿ĺæĥ³":111999,"æ¯ĶæĪij":112000,"åĨľçī§":112001,"æµ·åºķ":112002,"çŃ¾è®¢äºĨ":112003,"对äºİæĪij们":112004,"æĹ¶è®¸":112005,"éĶ®çĽĺ":112006,"å®ŀéĻħæİ§åζ":112007,"çļĦæ¨¡æł·":112008,"åıįæĺłäºĨ":112009,"代åĬŀ":112010,"åĮ»ç͍":112011,"éĽĨç»ĵ":112012,"åıijå±ķåīįæĻ¯":112013,"æĮĩçĿĢ":112014,"åįİåĮĹ":112015,"è¿Ļåĩłä¸ª":112016,"åIJįæ°Ķ":112017,"åĤįæĻļ":112018,"èĩªåıij":112019,"æ³¢åħ°":112020,"大åĬĽæİ¨è¿Ľ":112021,"èĩªç§°":112022,"èįĨå·ŀ":112023,"æIJį害":112024,"äºĨä¸Ģåı¥":112025,"æľĢåĪĿçļĦ":112026,"éĩijèŀįå᱿ľº":112027,"æĢĢ念":112028,"è¡Įåĭķ":112029,"女æİĴ":112030,"ä¸įè§£":112031,"ä¼łéĶĢ":112032,"转载请":112033,"饰åĵģ":112034,"åıªä¸º":112035,"ä¸İä¼Ĺ":112036,"ä¸İä¼Ĺä¸įåIJĮ":112037,"èĥ½èĢĹ":112038,"èı©æıIJ":112039,"è¿ij两年":112040,"è¿Ķ乡":112041,"马ä¸Ĭå°±":112042,"äºĮçŃīå¥ĸ":112043,"水管":112044,"æ³ķåѦ":112045,"çģŃçģ«":112046,"大å§IJ":112047,"åij¨è½¬":112048,"æľīæľŁ":112049,"æľīæľŁå¾Ĵ":112050,"æľīæľŁå¾ĴåĪij":112051,"å°įæĸ¹":112052,"ç¥ŀèī²":112053,"æ²¹èĦĤ":112054,"ä¸īçĤ¹":112055,"ä¸įåĪ©äºİ":112056,"äºĭä¸ļéĥ¨":112057,"å°±è·Ł":112058,"å¼ĢæĶ¯":112059,"å°ı女åŃ©":112060,"åħ±åIJĮåĬªåĬĽ":112061,"çĶļèĩ³è¿ĺ":112062,"è¿ĻåIJį":112063,"è¿Ļç¬Ķ":112064,"çݯåį«":112065,"æľīç§į":112066,"è§ĨåĬĽ":112067,"çĨŁçŁ¥":112068,"åħ¬ç§¯éĩij":112069,"æ¶Īéĺ²å®īåħ¨":112070,"é¢ĩ为":112071,"大èħ¿":112072,"éĿ¶":112073,"çķĪ":112074,"æľįåĬ¡åĮº":112075,"å¼Ģåĩº":112076,"深度èŀįåIJĪ":112077,"æĹłå¿§":112078,"æŁ¥éĺħ":112079,"ç»Īç»ĵ":112080,"ä¿Ŀç¨İ":112081,"è¨İè«ĸ":112082,"å½ĵåģļ":112083,"è·³èĪŀ":112084,"寧":112085,"女çİĭ":112086,"è®°èĢħåľ¨":112087,"åħ¨äº§ä¸ļéĵ¾":112088,"è´¯éĢļ":112089,"åħ´ä¸ļ":112090,"éĻįåΰ":112091,"å°ģéĿ¢":112092,"åħ¨éĿ¢æİ¨è¿Ľ":112093,"奶èĮ¶":112094,"éĢīåĿĢ":112095,"äºĨä¸Ģåľº":112096,"åIJĮä¼´":112097,"议论":112098,"æIJĵ":112099,"诸èijĽ":112100,"诸èijĽäº®":112101,"å¹²åĺĽ":112102,"æµģæĦŁ":112103,"ä¸ĵä¸ļçŁ¥è¯Ĩ":112104,"ç͵ç«Ļ":112105,"åĩıå¼±":112106,"åĩºåħ¥":112107,"åIJĦçľģ":112108,"éĿŀ常é«ĺ":112109,"åľ°æ¯¯":112110,"åıijæĸĩ":112111,"çĦī":112112,"çĥ§çĥ¤":112113,"å£ģ纸":112114,"æģ¶åĮĸ":112115,"èĬ¸":112116,"èĥĸåŃIJ":112117,"çĩĴ":112118,"çľģéĴ±":112119,"çĻ¾å¼º":112120,"çIJĨ工大åѦ":112121,"éĴ¢æĿIJ":112122,"åĽ½æľīèµĦ产":112123,"æĪĺæľº":112124,"æ³Ħéľ²":112125,"åIJİéĿ¢çļĦ":112126,"æ°´èµĦæºIJ":112127,"æ¢ħèĬ±":112128,"åĨĻçĿĢ":112129,"ä¹ĭ声":112130,"æĹłåı¯":112131,"æĺİæľĿ":112132,"ç«ĭæĸ¹ç±³":112133,"ç·£":112134,"æĶ¾è¿ĩ":112135,"ç¦ıçͰ":112136,"å¾Ĺä½ı":112137,"åıĹä¼Ĺ":112138,"ä¸Ń级":112139,"çĹħåıĺ":112140,"ä¸Ģçŀ¬éĹ´":112141,"æĿĥéĩį":112142,"人æĢ§åĮĸ":112143,"åĮ»çĸĹåį«çĶŁ":112144,"ä¸įåΰä½į":112145,"æĻºèĥ½å®¶å±ħ":112146,"饮ç͍":112147,"æ¼Ķåıĺ":112148,"é«ĺç´łè´¨":112149,"ä¹Ļæĸ¹":112150,"åģľçķĻåľ¨":112151,"èİ·æī¹":112152,"ç©¿æ¢Ń":112153,"å®¢åľº":112154,"æĮ½åĽŀ":112155,"京åŁİ":112156,"çĶŁåij½åĬĽ":112157,"實éļĽ":112158,"çĩĪ":112159,"åĨįçݰ":112160,"çݰå®ŀä¸Ń":112161,"æľīä¿¡å¿ĥ":112162,"çĸıéĢļ":112163,"åĺ´åĶĩ":112164,"鼷éĶĭ":112165,"èıľåįķ":112166,"éħ¯":112167,"è¶ħé«ĺ":112168,"å¾Īé«ĺåħ´":112169,"çĶŁæ®ĸ":112170,"éĢłä»·":112171,"误åĮº":112172,"æĨĭ":112173,"好æ¶Īæģ¯":112174,"å´Ń":112175,"以èĩ´":112176,"å¼Ģçİ©ç¬ij":112177,"çĽijè§Ĩ":112178,"å·¡å¯Ł":112179,"å¾·å·ŀ":112180,"æĹ©æĹ©":112181,"éĹªç͵":112182,"æĪªåĽ¾":112183,"åı¯ä»¥æł¹æį®":112184,"æīĭèīº":112185,"æİ¥è½¨":112186,"ç§įæĹı":112187,"æĢĢéĩĮ":112188,"åİ»åĮ»éĻ¢":112189,"ä¸ĢäºĮ":112190,"å¼ĢéĺĶ":112191,"åĩıéĢŁ":112192,"ä½Ĩä»İ":112193,"éĢĻä¸Ģ":112194,"åĩıåħį":112195,"主é¢ĺæķĻèĤ²":112196,"å¼Ģ工建设":112197,"蹦":112198,"æľĪ饼":112199,"ä¸ĭæ²ī":112200,"å°Ĭ严":112201,"éĻĩ":112202,"å®ŀæľ¨":112203,"å»łåķĨ":112204,"声称":112205,"èĢĥåľº":112206,"å¸ĥé²ģ":112207,"èĩªæĿ¥":112208,"èĩªæĿ¥æ°´":112209,"éĴ¾":112210,"年以ä¸Ĭ":112211,"大åıĶ":112212,"ä»ĸå·²ç»ı":112213,"åħ¨æĿij":112214,"èģĶç³»ç͵è¯Ŀ":112215,"为导åIJij":112216,"åΤå¤Ħ":112217,"对éĺµ":112218,"缮æ¨Ļ":112219,"åIJįé¢Ŀ":112220,"客æ°Ķ":112221,"横åIJij":112222,"çŃīåĨħ容":112223,"åĩłçĤ¹":112224,"è°Ī论":112225,"ä¸įä¹ı":112226,"å±ķçݰåĩº":112227,"è¾ĥéķ¿":112228,"éĢĨ转":112229,"å°ıæĻĤ":112230,"æĺ¯å¤ļä¹Ī":112231,"æľ¬æľĪ":112232,"è¿ijè§Ĩ":112233,"æĪIJç«ĭ以æĿ¥":112234,"代表çĿĢ":112235,"æĬ¥å¤į":112236,"æĪıæĽ²":112237,"è¨ŃåĤĻ":112238,"åħ¥èĤ¡":112239,"å¾ģæľį":112240,"é«ĺåĩº":112241,"èĪŀåı°ä¸Ĭ":112242,"å¿ĥåĬ¨":112243,"两çĤ¹":112244,"缸çķ¶":112245,"èĻĽ":112246,"主页":112247,"åĩłå®¶":112248,"æĹłä¸į":112249,"åįıå®ļ":112250,"æĸIJ":112251,"å¯ĵæĦı":112252,"åħ¨çº¿":112253,"æįķé±¼":112254,"åı¯ä»¥ä»İ":112255,"æľīè¿Ļæł·çļĦ":112256,"æģ¶éŃĶ":112257,"åĮħåŃIJ":112258,"æģ¤":112259,"å¼Ģå¥ĸç»ĵæŀľ":112260,"ä¸įæŃ»":112261,"èĹį":112262,"å¼¯æĽ²":112263,"海峡":112264,"éĶĢæ¯ģ":112265,"çļĦçĭ¬çī¹":112266,"示æĦı":112267,"ä¸įèĥ½åĨį":112268,"èĥ½æĬĬ":112269,"éĺ²çº¿":112270,"ä¸įå°ijäºİ":112271,"æ±Ģ":112272,"çļĦéĤ£ä¸Ģ":112273,"羣æĥħ":112274,"åŀ®":112275,"被æīĵ":112276,"åĽ½å®ī":112277,"ç¾İå¦Ļ":112278,"è¿Ļåĩł":112279,"åĩºéģĵ":112280,"æľįåĬ¡äºİ":112281,"æĪIJæŀľè½¬åĮĸ":112282,"æīįåįİ":112283,"天é¹ħ":112284,"åĩłä¸ªäºº":112285,"åĢĺèĭ¥":112286,"èĢ½è¯¯":112287,"æĬĹæĪĺ":112288,"è¡ĮéĬ·":112289,"æĿ¥è¢Ń":112290,"åĢŁéĮ¢":112291,"èįīèİĵ":112292,"ä¸¥æł¼æī§è¡Į":112293,"举è¡ĮäºĨ":112294,"å¤ĸç±į":112295,"已达":112296,"æĿijåħļæĶ¯éĥ¨":112297,"è¡Ŀ":112298,"éĻįèĩ³":112299,"æµ·éĩı":112300,"é¤IJé¦Ĩ":112301,"æĢ¥å¿Ļ":112302,"æ·±è¿ľ":112303,"å¾Ģè¿Ķ":112304,"ç¨İåĬ¡å±Ģ":112305,"å¹¿æ³ĽåºĶç͍":112306,"è®®åijĺ":112307,"æĹłæķĮ":112308,"çľ¼åħī":112309,"çĥŃè¡Ģä¼łå¥ĩ":112310,"æŃIJ":112311,"äºĨäºĽ":112312,"è¿ĿèĥĮ":112313,"è¿Ļæĺ¯ä¸Ģç§į":112314,"ä¸į稳å®ļ":112315,"大家åĪĨ享":112316,"表çı¾":112317,"åīįåįģ":112318,"è·¯è¿ĩ":112319,"æĴ©":112320,"åIJĮæĥħ":112321,"ä¹łä¿Ĺ":112322,"åıijè´¢":112323,"åºĶæľīçļĦ":112324,"æĿİæŁIJ":112325,"èĤĽ":112326,"马åħĭ":112327,"éĢļåijĬ":112328,"巨人":112329,"ä¸ĢåĽ¢":112330,"éĢĻæ¬¡":112331,"ä¸įäºĨè§£":112332,"æĸ½è¡Į":112333,"èij¡èIJĦçīĻ":112334,"åıĺå¾ĹæĽ´åĬł":112335,"æı£":112336,"åĪĽæĸ°èĥ½åĬĽ":112337,"çķħéĶĢ":112338,"表æī¬":112339,"æ¯ĶåĪ©":112340,"æ¯ĶåĪ©æĹ¶":112341,"åĮ»çĸĹä¿ĿéĻ©":112342,"æĵį纵":112343,"伤亡":112344,"æµİå®ģ":112345,"åıĺäºĨ":112346,"æľ¬æ¬¡æ´»åĬ¨":112347,"åľŁè±ª":112348,"æĥ³åĬŀæ³ķ":112349,"æĺķ":112350,"å½ĵæĻļ":112351,"åĩºå±Ģ":112352,"çĥŃè®®":112353,"è°Īè°Ī":112354,"æĻĭåįĩ":112355,"åĬ¿å¿ħ":112356,"çϻ山":112357,"éĤ£åĦ¿":112358,"åIJĥåΰ":112359,"ä¹ĭåŁİ":112360,"å¿«æĿ¥":112361,"æ¹Ľæ±Ł":112362,"第ä¸ī个":112363,"åħ¨éĿ¢æıIJåįĩ":112364,"å¥ĸåѦ":112365,"å¥ĸåѦéĩij":112366,"æĬķåħ¥ä½¿ç͍":112367,"é½IJé²ģ":112368,"åı¯ä»¥æĬĬ":112369,"åĴĮä»ĸçļĦ":112370,"è´ŃæĪ¿èĢħ":112371,"æŃ£å¼ıåIJ¯åĬ¨":112372,"åįİæ¶¦":112373,"ä¸įæĸŃå®ĮåĸĦ":112374,"éĴ¢æĿ¿":112375,"累积":112376,"满èĦ¸":112377,"åĽĽæĸ¹":112378,"è´¢çī©":112379,"ä»ĸ们ä¼ļ":112380,"å¤ıæĹ¥":112381,"éĤ£ä¸ªäºº":112382,"éĿłçĿĢ":112383,"çĤ¹äºĨ":112384,"çĤ¹äºĨçĤ¹å¤´":112385,"æ©ĭ":112386,"åıĪ好":112387,"åıĪ好åıĪ":112388,"åıĪ好åıĪå¿«":112389,"éĺµéĺµ":112390,"å°ģ建":112391,"æľ¬çͰ":112392,"çī©ä¸ļæľįåĬ¡":112393,"èĩªè´¸åĮº":112394,"åIJı":112395,"便åĪ©åºĹ":112396,"åĽ½å®¶æłĩåĩĨ":112397,"éĿ¢ç²ī":112398,"èī°è¾Ľ":112399,"æĶ»åħ³":112400,"æīĵåĮħ":112401,"车éĺŁ":112402,"人éĢī":112403,"åı¯ä¸įæĺ¯":112404,"äºĮåįģå¹´":112405,"åIJįå¸Ī":112406,"æµ¦ä¸ľ":112407,"åħ¬è¯ģ":112408,"è¿IJéĢģ":112409,"æĺ¯æľĢ好çļĦ":112410,"æŁĶåĴĮ":112411,"çİĭæŁIJ":112412,"çĹħæĪ¿":112413,"åĨ¶éĩij":112414,"ä¸Ģä»¶äºĭæĥħ":112415,"åį¤":112416,"åı¯æİ§":112417,"çīŁ":112418,"æĭĤ":112419,"å·²äºİ":112420,"人éĢł":112421,"çĶŁçī©åĮ»èį¯":112422,"ä½ĵçݰåĩº":112423,"èĤ²åĦ¿":112424,"èĢģå®ŀ":112425,"åľĸçīĩ":112426,"諸":112427,"ç´¯äºĨ":112428,"æĦŁåħ´è¶£çļĦ":112429,"åĽ¾çīĩæĿ¥æºIJ":112430,"ä¹Łæĺ¯ä¸Ģç§į":112431,"æ¾İæ¹ĥæĸ°éĹ»":112432,"æĹ¶è¡¨ç¤º":112433,"åħīè¾ī":112434,"æĬ¥åºŁ":112435,"å²ģæĹ¶":112436,"éħ®":112437,"æ£Ģä¿®":112438,"åıĺéĢŁ":112439,"åıĺéĢŁç®±":112440,"åľ¨èģĮ":112441,"éı¡":112442,"æįĤ":112443,"çĿ£åĬŀ":112444,"æ°¸ä¸į":112445,"åģļä¸ĢäºĽ":112446,"åİĨæĹ¶":112447,"å·¥ç¨ĭæľºæ¢°":112448,"æģ°å½ĵ":112449,"å°±åľ¨äºİ":112450,"ç§°åij¼":112451,"éĢļ常æĺ¯":112452,"æł·å¼ı":112453,"åij¨ä¸Ģ":112454,"èĭ±éķij":112455,"åĿĩ线":112456,"ä¼łéĹ»":112457,"ç͍æĪ·ä½ĵéªĮ":112458,"èµŀåIJĮ":112459,"骨æĬĺ":112460,"为主ä½ĵ":112461,"æ±Łå±±":112462,"æ¸ħæľĿ":112463,"æĶĢåįĩ":112464,"ä¸įçĽ¸ä¿¡":112465,"éĿ´":112466,"æŃ¦åĬŁ":112467,"åĭ¤åĬ³":112468,"æĿ¥æī¾":112469,"å°ĨæĮģç»Ń":112470,"丫头":112471,"æ¨Ļæºĸ":112472,"裴":112473,"深深çļĦ":112474,"åŃķèĤ²":112475,"è§ĦåĪĴ建设":112476,"æ¸ħçν":112477,"ç²¾åĩĨæī¶è´«":112478,"æīĵçł´äºĨ":112479,"è¿Ļä¸Ģ天":112480,"å·¥ä½ľæĢ»ç»ĵ":112481,"æĹħç¨ĭ":112482,"举èIJ¥":112483,"æĶ¾å°Ħ":112484,"æľīåĩłä¸ª":112485,"éĿŀçī©è´¨":112486,"åIJĥå¾Ĺ":112487,"åŨ":112488,"ä¼ļåıijçĶŁ":112489,"篮æĿ¿":112490,"å¼Ģå°ģ":112491,"麻å°Ĩ":112492,"èııæ³½":112493,"ä¸įåIJĪ":112494,"ç³»åĪĹ产åĵģ":112495,"èѬå¦Ĥ":112496,"ç¾İèªī":112497,"èĩªå·±åĸľæ¬¢":112498,"交æĺĵä¸Ńå¿ĥ":112499,"åIJĪåͱ":112500,"使æĪij":112501,"åĥıç´ł":112502,"带éĺŁ":112503,"ä½Ĩ对äºİ":112504,"æĬĬè¿Ļ个":112505,"èĤĿèĦı":112506,"åįķ纯çļĦ":112507,"æĶ»åĿļæĪĺ":112508,"缼ä¼ļ":112509,"åijµæĬ¤":112510,"æªĢ":112511,"èµ¶ä¸Ĭ":112512,"æ¥Ĭ":112513,"ä¹ħäºĨ":112514,"ç¡Ŀ":112515,"çŃĶé¢ĺ":112516,"ä¿ĿæĮģçĿĢ":112517,"è§ģè¯Ĩ":112518,"çĤ¹åĦ¿":112519,"åįĬ个æľĪ":112520,"æ»ĩ":112521,"浸泡":112522,"ä¼łéĢģ":112523,"åľ¨å¸Ĥåľºä¸Ĭ":112524,"ä¹ĭ乡":112525,"çī¹éķ¿":112526,"éĽŀ":112527,"èªł":112528,"身å¤Ħ":112529,"æŁłæª¬":112530,"身穿":112531,"çľģåħ¬å®ī":112532,"çľģåħ¬å®īåİħ":112533,"åıĻåĪ©äºļ":112534,"åĩłåĪĨéĴŁ":112535,"人åĢij":112536,"åľ°æ®µ":112537,"èĩªåѦ":112538,"ä¹Łè¶ĬæĿ¥è¶Ĭ":112539,"èģĮæĿĥ":112540,"æĸ§":112541,"èĩ»":112542,"å½Ĵ纳":112543,"驾é©Ń":112544,"éĥ¨åĪĨåľ°åĮº":112545,"没æľīæĥ³åΰ":112546,"æĴĩ":112547,"ä¹Įé²ģ":112548,"ä¹Įé²ģæľ¨":112549,"ä¹Įé²ģæľ¨é½IJ":112550,"èĤ²äºº":112551,"çļĦæŃ¥ä¼IJ":112552,"å»¶æľŁ":112553,"æ²¹æ°Ķ":112554,"åģļå®Į":112555,"åľ£åľ°":112556,"丰åİļ":112557,"宽带":112558,"åı¯éĿłçļĦ":112559,"åºŃéĻ¢":112560,"åŃľ":112561,"å°ı康社ä¼ļ":112562,"å®īåħ¨ç®¡çIJĨ":112563,"年第":112564,"æİĴ污":112565,"èĥĮåĮħ":112566,"å®¶ä½ı":112567,"åħ¶å®ŀå°±æĺ¯":112568,"ä¼ļè§ģ":112569,"帮åĬ©ä¼ģä¸ļ":112570,"ç½ijè´Ń":112571,"æĺ¯ä¸įä¼ļ":112572,"飯åºĹ":112573,"æŃ»åİ»":112574,"åħįçĸ«åĬĽ":112575,"æľķ":112576,"åĸĿäºĨ":112577,"轻微":112578,"个æľĪåĨħ":112579,"ç»ĦåĽ¢":112580,"åĴĮå®ĮåĸĦ":112581,"鸽":112582,"æıIJéĢŁ":112583,"西å®īå¸Ĥ":112584,"ä¸Ńå¿ĥ主任":112585,"æĹ¶éĹ´ä¸º":112586,"æľŁæĿĥ":112587,"è¶ķ":112588,"ä¸įä»ħè¦ģ":112589,"æľįä»İ":112590,"é¡ĺæĦı":112591,"ä¸įå°ı":112592,"ä¸įå°ıçļĦ":112593,"ç°ĩ":112594,"窦":112595,"åĪĩæĪIJ":112596,"åĵĪåĪ©":112597,"å¤©çľŁ":112598,"ä¸Ģ次次":112599,"éĩijå¸ģ":112600,"æĢİä¹Īèĥ½":112601,"ç½ijè´·":112602,"ä¼ļ计å¸Ī":112603,"çŁŃ缺":112604,"对æłĩ":112605,"åıĺå¾ĹæĽ´":112606,"åīįåĩłå¤©":112607,"éĺ²æ±Ľ":112608,"彩èϹ":112609,"åĵģä½į":112610,"è¡¨æł¼":112611,"严å¯Ĩ":112612,"æ¯ĽåĪ©çİĩ":112613,"çļĦåį±å®³":112614,"å½ķåζ":112615,"æ°´åĬ¡":112616,"èĥ½å¤Łè®©":112617,"å¹³æĿ¿":112618,"ä¹³æĪ¿":112619,"è¸ıå®ŀ":112620,"é¦ĸåĪĽ":112621,"é¦Ļèķī":112622,"æĬ¥è¡¨":112623,"ä¸ĢæĬ¹":112624,"åĩºçĶŁäºİ":112625,"è²»ç͍":112626,"åĩºè®©":112627,"åIJĪæ³ķæĢ§":112628,"å°¼åħĭ":112629,"åĨ°åĨ·":112630,"é¦Ļæ°Ķ":112631,"åı·ç§°":112632,"èµ·çłģ":112633,"åŁİåİ¿":112634,"çİ©èĢį":112635,"ä¸ĬéĻIJ":112636,"ä¼ļ议精ç¥ŀ":112637,"æĹģè¾¹çļĦ":112638,"便ä¼ļ":112639,"æıŃæĻĵ":112640,"çİ©æĦı":112641,"éĽªå±±":112642,"åIJijçĿĢ":112643,"ä½ĵèĤ²åľ¨çº¿":112644,"说æĺİ书":112645,"åĮĸèĤ¥":112646,"åħļç»Ħ书记":112647,"åĬ¨äºº":112648,"ä¹ĭæīĢ":112649,"æľĪèĩ³":112650,"æľĢå¿«çļĦ":112651,"èĬĤåģĩæĹ¥":112652,"ä¸ĵåľº":112653,"èĢĥä¸Ĭ":112654,"çªŁ":112655,"é²ľè¡Ģ":112656,"è¾ĥ强çļĦ":112657,"æĤĦçĦ¶":112658,"å¤ļä¸ªåĽ½å®¶":112659,"çªĹå¸ĺ":112660,"æŀģå¤§åľ°":112661,"ä¸įç͍æĭħå¿ĥ":112662,"è¿Ļä¹Īåģļ":112663,"åĥ¹æł¼":112664,"ç¾İ丽乡æĿij":112665,"å°ıæĹ¶åĨħ":112666,"ç´§è¿«":112667,"大çģ«":112668,"èĥ³èĨĬ":112669,"æĵįä½ľç³»ç»Ł":112670,"æ®ĭçķĻ":112671,"åĨĻåĩº":112672,"ç¦ģå¿Į":112673,"åĬłçĽŁåºĹ":112674,"è¿ijçϾ":112675,"便åı¯":112676,"æķ´æĶ¹æİªæĸ½":112677,"éĩĩ访æĹ¶":112678,"åĶIJ代":112679,"æ·±åĮĸæĶ¹éĿ©":112680,"çŁ¢":112681,"éĥ½åĸľæ¬¢":112682,"è¶ĬæĿ¥è¶Ĭé«ĺ":112683,"èĬ±æľµ":112684,"头çĸ¼":112685,"å®ī康":112686,"å¢ŀéķ¿çİĩ":112687,"çľ¼çľĭ":112688,"å°±æĺ¯ä¸ºäºĨ":112689,"èĢĮ导èĩ´":112690,"åĬłå¿«å»ºè®¾":112691,"èĬ±æł·":112692,"åĨħå¿ĥçļĦ":112693,"æĺĨå±±":112694,"è³ĩæºIJ":112695,"åĽŀåΰ家":112696,"èıĬèĬ±":112697,"æ°´éĩı":112698,"å¾ģä¿¡":112699,"è¡ĮæĶ¿åĮº":112700,"ä¹ĥæĺ¯":112701,"æĬķèµĦé¡¹çĽ®":112702,"å«ģç»Ļ":112703,"ç¥ŀåľ£":112704,"稳":112705,"æľ¬æĿ¥å°±":112706,"éĢIJä¸Ģ":112707,"èģĮä¸ļæĬĢæľ¯":112708,"ä¸įèī¯ä¿¡æģ¯":112709,"æīĺè¿IJ":112710,"åIJ¯ç¤º":112711,"ä¹ĭåħ§å®¹":112712,"飶":112713,"奢åįİ":112714,"æıŃ示":112715,"æĪIJ为ä¸ŃåĽ½":112716,"æ¶Īè´¹åĵģ":112717,"åħ¬ç͍":112718,"æIJŀå®ļ":112719,"è¯·ä½ł":112720,"æŁļ":112721,"åĨħè¡£":112722,"ä½Ĩä»ĸ们":112723,"ä¿Ŀ湿":112724,"该åİ¿":112725,"饱åĴĮ":112726,"æİ¨åIJij":112727,"èµĦæĸĻæĺ¾ç¤º":112728,"ä¸įå½±åĵį":112729,"人人éĥ½":112730,"åıijå±ķ壮大":112731,"åħ»èĢģæľįåĬ¡":112732,"çĶŁæ´»æ°´å¹³":112733,"åIJĦåİ¿":112734,"ä½łéľĢè¦ģ":112735,"说çļĦæĺ¯":112736,"å¤ĸåªĴ":112737,"æŃ¤äºº":112738,"次è¦ģ":112739,"追赶":112740,"åºĶ该å¦Ĥä½ķ":112741,"æĹ¥åĩĮæĻ¨":112742,"çķ¥æľī":112743,"éĥ½æĥ³":112744,"游ä¹IJ":112745,"è¿Ļ款游æĪı":112746,"平淡":112747,"æĺ¯ä¸ĢåĢĭ":112748,"å¤ĩèĢĥ":112749,"åζæŃ¢":112750,"ä¸Ģå®ļèĥ½":112751,"å¾Ĵå¼Ł":112752,"以çĤº":112753,"åįĥåħĥ":112754,"äºĶåħŃ":112755,"迪士":112756,"迪士尼":112757,"éĺ³æĢ§":112758,"åĨ¬å¥¥ä¼ļ":112759,"å°±æĺ¯åĽłä¸º":112760,"æĮĤéĴ©":112761,"æ¦ĤåĨµ":112762,"åıªè¦ģæľī":112763,"æ²¹çĶ»":112764,"åľ°æłĩ":112765,"ä¸Ĭè°ĥ":112766,"产ä¸ļåĽŃåĮº":112767,"åħ«åįģ":112768,"棱":112769,"æ¶²æĻ¶":112770,"æĿijå§Ķä¼ļ":112771,"çŃ¾çº¦ä»ªå¼ı":112772,"è¿Ļåħ¶ä¸Ń":112773,"åĨĻéģĵ":112774,"示èĮĥåŁºåľ°":112775,"éĩİçĶŁåĬ¨çī©":112776,"鼻åŃIJä¿¡ç®±":112777,"åĽ½éĻħè´¸æĺĵ":112778,"人æĿĥ":112779,"ä¿Ŀ管":112780,"èĭ¥æĤ¨":112781,"åİĭæĬij":112782,"黼":112783,"åľ°çľĭçĿĢ":112784,"éϰ":112785,"ä¸Ģå¹´å¤ļ":112786,"ä»İ容":112787,"ä¸ŃæĸŃ":112788,"å¯Łè§ī":112789,"移交":112790,"é͝":112791,"æĪĸ许æĺ¯":112792,"ç¶ł":112793,"两项":112794,"æľĢåĸľæ¬¢":112795,"æľĢåĸľæ¬¢çļĦ":112796,"å¤ľéĩĮ":112797,"åIJĮä»ģ":112798,"åĪĽæĸ°é©±åĬ¨":112799,"è°ģèĥ½":112800,"飾":112801,"åħīåѦ":112802,"åİĦ":112803,"èĦ±é¢ĸ":112804,"èĦ±é¢ĸèĢĮåĩº":112805,"迦":112806,"æĺ¯ä¸įåı¯èĥ½":112807,"窥":112808,"èĥ½æ»¡è¶³":112809,"宽度":112810,"伦çIJĨ":112811,"åı¯ä»¥èİ·å¾Ĺ":112812,"转ä¼ļ":112813,"å±±æĿij":112814,"éĵºè®¾":112815,"åĩºåĩ»":112816,"æĸĩåĮĸèīºæľ¯":112817,"ä¼ļ议室":112818,"æŃĮ声":112819,"æ»Ķ":112820,"èIJİ缩":112821,"æľįåĬ¡åijĺ":112822,"åıij表äºĨ":112823,"æĸ¼æĺ¯":112824,"æĺİç¡®è§Ħå®ļ":112825,"ç»´å¥ĩ":112826,"水产":112827,"æĬķä¿Ŀ":112828,"éĺ´éģĵ":112829,"èµ¶å¿«":112830,"夺å¾Ĺ":112831,"ä¸ĭåįķ":112832,"çµģåħ¬åı¸":112833,"çݯç»ķ":112834,"å½Ī":112835,"ä½ľé£İ建设":112836,"æĹħ游æĻ¯åĮº":112837,"æľīæĽ´å¤ļçļĦ":112838,"丰å¯Įå¤ļ彩":112839,"çIJĨ财产åĵģ":112840,"åĩºå·®":112841,"ä»İ严治":112842,"ä»İ严治åħļ":112843,"çĽ¸å¹²":112844,"æ»ĭ润":112845,"主åĬŀæĸ¹":112846,"åī§åľº":112847,"æ»ļçIJĥ":112848,"æ©Ħæ¦Ħ":112849,"èĩªä¸»åĪĽæĸ°":112850,"éĢļå¾Ģ":112851,"æł¼å°Ķ":112852,"çļĦä¼ĺçĤ¹":112853,"èĥĮä¸Ĭ":112854,"çªľ":112855,"çĪĨåĩº":112856,"å¹³æķ´":112857,"ä¸ĢèĦļ":112858,"åħ¨ä½ĵåijĺå·¥":112859,"éĻIJå®ļ":112860,"åŁİéķĩåĮĸ":112861,"æ·³":112862,"éĢ®æįķ":112863,"è¡ĮåĬ¨è®¡åĪĴ":112864,"æīĵå¾Ĺ":112865,"åİļéĩį":112866,"纪å½ķçīĩ":112867,"åĿļä¿¡":112868,"央ä¼ģ":112869,"åĨįä¹Łä¸į":112870,"天涯":112871,"åıĤèĢĥèµĦæĸĻ":112872,"æľīæ¯Ĵ":112873,"åIJ¸çº³":112874,"è¶Ĭåıij":112875,"éĩįè¦ģæĦıä¹ī":112876,"åĽ½éĺ²éĥ¨":112877,"è¿Ļ个è¡Įä¸ļ":112878,"æĻ®æŁ¥":112879,"å¼ĤæĢ§":112880,"å»¶è¿Ł":112881,"å°ıå¹ħ":112882,"èĥħ":112883,"综åIJĪæ²»çIJĨ":112884,"æŃ£æĺ¯åĽłä¸º":112885,"产ä¸ļç»ĵæŀĦ":112886,"çłĶç©¶æĬ¥åijĬ":112887,"åģľä¸ĭ":112888,"éķ¿èĢģ":112889,"éĩĿå°į":112890,"åįĹ京å¸Ĥ":112891,"çģĮæºī":112892,"转è¿IJ":112893,"欺è¯Ī":112894,"éĢłåģĩ":112895,"åĪĨå¸ĥå¼ı":112896,"æĦŁè§¦":112897,"æĪijå½ĵæĹ¶":112898,"åıijè§ī":112899,"åĽ¾çº¸":112900,"æĶ¹èī¯":112901,"çĭłçĭł":112902,"åĨ²åĪº":112903,"æĸ°äº¬":112904,"æĸ°äº¬æĬ¥":112905,"ç¥ŀåύ":112906,"秸ç§Ĩ":112907,"çĪº":112908,"å°Ĩè¿İæĿ¥":112909,"工信":112910,"工信éĥ¨":112911,"éĻIJéĩı":112912,"æŃ¢æįŁ":112913,"åѦä¼ļäºĨ":112914,"åįİ缼":112915,"åįİçĽĽé¡¿":112916,"å¾Įä¾Ĩ":112917,"ä¸ĭéĿ¢æĺ¯":112918,"ä¸ĭéĿ¢æĺ¯å°ı":112919,"æIJ¬è¿IJ":112920,"ç¾İæľ¯é¦Ĩ":112921,"æ¸ħåĩī":112922,"å¤ļå¹´åīį":112923,"è©ŀ":112924,"åįĥç±³":112925,"表述":112926,"æ±ŁéŨ":112927,"åĬłæ²¹ç«Ļ":112928,"æľ¬èĥ½":112929,"导读":112930,"åĽ´è§Ĥ":112931,"å¹¶åIJij":112932,"åŁºæľ¬æĥħåĨµ":112933,"æīĵå¼ĢäºĨ":112934,"è¿Ļä¸ī个":112935,"æ±ķ头":112936,"强æľīåĬĽ":112937,"强æľīåĬĽçļĦ":112938,"è¿Ľåľº":112939,"ä¹Ŀæ±Ł":112940,"çIJĥæĺŁ":112941,"好çľĭçļĦ":112942,"大æĪ·":112943,"湯":112944,"å¥ĩå¦Ļ":112945,"ä¹IJåύ":112946,"æĪijçļĦå¿ĥ":112947,"çľī头":112948,"åĨľä¸ļçĶŁäº§":112949,"ç¼ĸçłģ":112950,"åŁºç¤":112951,"åŁºç¤İ":112952,"天æĸĩ":112953,"åĢĭ人è³ĩè¨Ĭ":112954,"åİ»è¿ĩ":112955,"èģĨåIJ¬":112956,"æĶ¾åģĩ":112957,"ä¸įåħ·å¤ĩ":112958,"æ·Ģç²ī":112959,"大佬":112960,"åħ¨å¤©":112961,"åħ¨éĿ¢å»ºæĪIJ":112962,"éļIJå½¢":112963,"ç¼ħç͏":112964,"åIJ³":112965,"è¡ĮæĶ¿æī§æ³ķ":112966,"åŁİåł¡":112967,"èİ«æĸ¯":112968,"èİ«æĸ¯ç§ij":112969,"æīĢæľīæĿĥ":112970,"éĽĨåľĺ":112971,"å±Ģåī¯å±Ģéķ¿":112972,"åĩłä¹İ没æľī":112973,"æ´ģåĩĢ":112974,"ç͵影èĬĤ":112975,"åŃ©ç«¥":112976,"æīĢåģļçļĦ":112977,"æ¸ħ代":112978,"æĸ°çīĪ":112979,"éĵĿåIJĪéĩij":112980,"为æĬĵ":112981,"为æĬĵæīĭ":112982,"åΤå®ļ":112983,"çī¹äº§":112984,"æīĭæ©Ł":112985,"ä¸įåı¯æĪĸ":112986,"ä¸įåı¯æĪĸ缺":112987,"å¸Ĥåľºè§Ħ模":112988,"åĿ¯":112989,"åĮ»åѦéĻ¢":112990,"å¿«è¦ģ":112991,"èĮľ":112992,"æĬĺèħ¾":112993,"äºĨè¿ĩæĿ¥":112994,"æĬ¥åijĬæľŁåĨħ":112995,"çī©ç§į":112996,"ç»Łè®¡å±Ģ":112997,"æī©å»º":112998,"æ¶ħ":112999,"责任人":113000,"éĺİ":113001,"è¯Ħè®®":113002,"å¾Ģäºĭ":113003,"æīĢ示":113004,"æķ´æ´ģ":113005,"éĹºèľľ":113006,"æĹħéĢĶ":113007,"å®ŀè®Ń":113008,"ä¹ĭç§°":113009,"巴士":113010,"éĢŁåº¦å¿«":113011,"ä¸įä»ħå¦ĤæŃ¤":113012,"å®Ŀè´µçļĦ":113013,"åºŁçī©":113014,"河水":113015,"æİ¥çº³":113016,"ç²¾æ¹Ľ":113017,"åħ¶æ¬¡æĺ¯":113018,"顺德":113019,"åħ¬åħ±åį«çĶŁ":113020,"è¤IJèī²":113021,"ä¸įæĥľ":113022,"æĬĢæľ¯æľįåĬ¡":113023,"æİ·":113024,"æ±ĤèģĮ":113025,"ä¸ī峡":113026,"æĬķåħ¥åΰ":113027,"太åIJİ":113028,"åIJ¯åĬ¨ä»ªå¼ı":113029,"缴æİ¥å½±åĵį":113030,"æĸ°æ¬¾":113031,"个乡éķĩ":113032,"çĻ¾äº¿":113033,"庫":113034,"ä¹ŁæŃ£æĺ¯":113035,"åı¶çīĩ":113036,"æľĢæĹ©çļĦ":113037,"æĪĺ绩":113038,"å·¥æľŁ":113039,"æĻļæľŁ":113040,"è¿Ļæł·è¯´":113041,"è¯įè¯Ń":113042,"ä¾Ħ":113043,"æķ£çĥŃ":113044,"éĽĨæĪIJçĶµè·¯":113045,"åIJįè¯į":113046,"æĻºåķĨ":113047,"æĭ¥åłµ":113048,"çĭĤ欢":113049,"è¿Ļèά":113050,"浴室":113051,"åijķåIJIJ":113052,"æľªæĿ¥åıijå±ķ":113053,"ä¸īä½įä¸Ģä½ĵ":113054,"åªĴé«Ķ":113055,"ä¸įå¾Ĺ转载":113056,"åĽłä¸ºå¥¹":113057,"æĺ¾ç¤ºå±ı":113058,"ä¾Ľæļĸ":113059,"éĨ«éĻ¢":113060,"æľīæĦıæĢĿ":113061,"æľīæĦıæĢĿçļĦ":113062,"娱ä¹IJåŁİ":113063,"åįµå·¢":113064,"åĪĽéĢłåĬĽ":113065,"竳èĬĤ":113066,"人大常å§Ķ":113067,"èĢĮçİ°åľ¨":113068,"å¤ĸå©Ĩ":113069,"å¢ŀæĮģ":113070,"äºĶåįĥ":113071,"èĢģå¸Ī们":113072,"æ´ĽæĿī":113073,"æ´ĽæĿī磶":113074,"æİĮæı¡äºĨ":113075,"ä¸ŃåĽ½æĸĩåĮĸ":113076,"æĸ°æĶ¿":113077,"主è¦ģç͍äºİ":113078,"åıijçĥ§":113079,"类似äºİ":113080,"åĮĹæŀģ":113081,"æĪij们认为":113082,"弥漫":113083,"åħ¨çIJĥç»ıæµİ":113084,"é¢IJ":113085,"ä¸Ģèµ·è£ħä¿®":113086,"æĶĴ":113087,"æĭīèIJ¨":113088,"帶ä¾Ĩ":113089,"åĨ·æ°´":113090,"ä¸īåĨľ":113091,"æĿ¿æĿIJ":113092,"è¿ŀè¿ŀ":113093,"éĵ®":113094,"ç»ıèIJ¥çIJĨ念":113095,"山顶":113096,"å¾Īæĥ³":113097,"çĺ«":113098,"å§ĭç»Īä¿ĿæĮģ":113099,"åľ¨å¹¿å·ŀ":113100,"ä¸įåIJĮæĦı":113101,"åıĺåİĭ":113102,"åıĺåİĭåύ":113103,"产éĶĢ":113104,"表éĿ¢ä¸Ĭ":113105,"æīĢ以ä»ĸ":113106,"ç»ıéªĮ丰å¯Į":113107,"éĥ¨å§Ķ":113108,"åħµåĽ¢":113109,"æīĢè¿°":113110,"æķ¦çħĮ":113111,"ç»ıèIJ¥èĮĥåĽ´":113112,"åı£è¯Ń":113113,"失信":113114,"æ¯ı个人çļĦ":113115,"æīĭæĮģ":113116,"æģIJæħĮ":113117,"åł¡åŀĴ":113118,"é¦ħ":113119,"éĵ¸éĢł":113120,"æĭ¿åĩºæĿ¥":113121,"æİ¢æµĭ":113122,"大家ä¸Ģèµ·":113123,"奧":113124,"å®ŀè´¨æĢ§":113125,"å°ıåĦ¿":113126,"èĩºåįĹ":113127,"èĩºåįĹå¸Ĥ":113128,"å¼ĢåıijèĢħ":113129,"åı¯æł¹æį®":113130,"ç®±åŃIJ":113131,"饺åŃIJ":113132,"å¿ĻçĿĢ":113133,"æĿ¥ä¸įåıĬ":113134,"çĽ¸ä¼ł":113135,"åĽ½ç½ij":113136,"èħ¹æ³»":113137,"è¿ĻéĩĮæľī":113138,"é£İæĻ¯åĮº":113139,"åıĤä¿Ŀ":113140,"æŃ»èĢħ":113141,"æĪ´ä¸Ĭ":113142,"æ©Łæ§ĭ":113143,"è¯ķéªĮåĮº":113144,"ä¼łæİĪ":113145,"æµ·è¾¹":113146,"泪水":113147,"缸åħ³åĨħ容":113148,"éĥijå·ŀå¸Ĥ":113149,"åħijçݰ":113150,"两åij¨":113151,"èĬľæ¹ĸ":113152,"ç͵åŃIJä¿¡æģ¯":113153,"红å¤ĸ":113154,"æĹħ游å±Ģ":113155,"å¾Ģå¾Ģä¼ļ":113156,"è¿ħçĮĽ":113157,"ä¼łçľŁ":113158,"æ¸ħæ¾Ī":113159,"å°±è¿ij":113160,"微信群":113161,"ç³»åĪĹæ´»åĬ¨":113162,"ç»ı常ä¼ļ":113163,"è§Ĥæµĭ":113164,"å¿ĥå¾Ĺä½ĵä¼ļ":113165,"éĻĪåĪĹ":113166,"åĮĹæĸĹ":113167,"è«®":113168,"諮詢":113169,"è¿ĺæĺ¯ä¼ļ":113170,"æµĭç®Ĺ":113171,"æĺŁç©º":113172,"宽容":113173,"çī©ä¸ļåħ¬åı¸":113174,"æĪĴæĮĩ":113175,"å¸ħæ°Ķ":113176,"ä¸ĢæŃ¥æŃ¥":113177,"åħ±é¸£":113178,"åĨ³ä¸į":113179,"æİ¥ç®¡":113180,"å¦ĩèģĶ":113181,"æ¯Ķåĸ»":113182,"é²ģè¿ħ":113183,"æĮģçºĮ":113184,"çĽ¸äº²":113185,"å¨ģå°¼æĸ¯äºº":113186,"ç«ĭ项":113187,"åĪĿå§ĭ":113188,"èĩªåζ":113189,"è¿Īè¿Ľ":113190,"ä¸Ĭæ±½":113191,"å®ıä¼Ł":113192,"æł¹æľ¬æ²¡æľī":113193,"æĸ°åĨłçĹħæ¯Ĵ":113194,"åĵªç§į":113195,"康åħ»":113196,"è¡°èĢģ":113197,"å½ķåĥı":113198,"é«Ķé©Ĺ":113199,"ç»ijå®ļ":113200,"é¢Ŀ头":113201,"äºĶæľĪ":113202,"èĬ±å¼Ģ":113203,"ä¸Ģ线åŁİå¸Ĥ":113204,"åĪ°åľº":113205,"æĬķéĻį":113206,"çĹĺçĹĺ":113207,"åıĹä¸įäºĨ":113208,"æīİæł¹":113209,"æĽ´ä½ķåĨµ":113210,"æĬ½æŁ¥":113211,"åĩºè·¯":113212,"审议éĢļè¿ĩ":113213,"ä¸įåĥħ":113214,"èī²è°ĥ":113215,"çϾä½Ļ":113216,"èĤłéģĵ":113217,"æ·±åİļçļĦ":113218,"马åĬĽ":113219,"æĹ©æĻļ":113220,"æŃĮèĪŀ":113221,"éĺ²æĻĴ":113222,"æľĢåIJİä¸Ģ个":113223,"樱èĬ±":113224,"å°ıä¼ĻåŃIJ":113225,"åľ¨å½ĵåľ°":113226,"å°ıä¼Ļ伴们":113227,"èµ·æºIJ":113228,"åħ¨åªĴä½ĵ":113229,"ç°½":113230,"éħ±æ²¹":113231,"æĹłè®ºå¦Ĥä½ķ":113232,"裤åŃIJ":113233,"åģľäº§":113234,"ä¸įçͱå¾Ĺ":113235,"çīµå¼ķ":113236,"ä¼łåĬ¨":113237,"ä¹Ŀé¾Ļ":113238,"åĬłåĽº":113239,"ä¹Łä¸įæķ¢":113240,"æĬĢæľ¯æĶ¯æĮģ":113241,"ä¸Ĭå²Ĺ":113242,"ç»ıéªĮåĴĮ":113243,"æł¼æŀĹ":113244,"åIJ¸éĻĦ":113245,"æľªæĪIJå¹´":113246,"奢ä¾Īåĵģ":113247,"追æį§":113248,"好ä¸į容æĺĵ":113249,"èķ´åIJ«":113250,"ä¿Ŀå®ļ":113251,"æĬ¥ä¸ļ":113252,"æµ·åĨħå¤ĸ":113253,"ä½łçİ°åľ¨":113254,"æ²¹èĢĹ":113255,"è´¨éĩı管çIJĨ":113256,"æ½ľæ°´":113257,"ä¸½æ±Ł":113258,"转åħ¥":113259,"è¿Ļä¹Īä¹ħ":113260,"æĺİ代":113261,"责任åζ":113262,"éĩįå·¥":113263,"大巴":113264,"触åıĬ":113265,"èµ·åĪĿ":113266,"大å¦Ī":113267,"æĸ¯å¡Ķ":113268,"åĨĽå·¥":113269,"书éĻ¢":113270,"峨":113271,"æİ¨çIJĨ":113272,"è¿Ļç¯ĩæĸĩ竳":113273,"è¿ģç§»":113274,"åľ¨åIJĮä¸Ģ":113275,"ç»Ĩç»Ĩ":113276,"åīĬå¼±":113277,"书æĪ¿":113278,"ç¶ĵ常":113279,"è¯ķé¢ĺ":113280,"æĤ£ä¸Ĭ":113281,"çĻ«çĹ«çĹħ":113282,"åĨ²æ´Ĺ":113283,"å¤ĸæı´":113284,"åħĭåζ":113285,"åįģæľĪ":113286,"åģļä¸įåΰ":113287,"ç¾İåĮĸ":113288,"å¦ĤæľŁ":113289,"è¿ĺéľĢ":113290,"å¤©åºľ":113291,"å°±æĦıåij³çĿĢ":113292,"çļĦç¡®æĺ¯":113293,"éªĹå±Ģ":113294,"å°ıç»ĦèµĽ":113295,"è©©":113296,"ä¹Ŀå¹´":113297,"æĻĵå¾Ĺ":113298,"çłĶ究人åijĺ":113299,"大éħĴåºĹ":113300,"ç§ijåѸ":113301,"åħŃåIJĪ":113302,"çķĮå®ļ":113303,"车载":113304,"å¼ĢçĿĢ":113305,"毫æĹłçĸij":113306,"毫æĹłçĸijéĹ®":113307,"è¿IJç»´":113308,"ç¦ģåĮº":113309,"èĦ±èIJ½":113310,"讲å¸Ī":113311,"产ä¸ļåŁºåľ°":113312,"é«ĺæĢ§èĥ½":113313,"åħī彩":113314,"çݰéĺ¶æ®µ":113315,"åĩ¿":113316,"è¾ĥå·®":113317,"饮çĶ¨æ°´":113318,"éĸĭçϼ":113319,"ç½ijåIJ§":113320,"çĮ´åŃIJ":113321,"æŃ¦æŀĹ":113322,"å®īåİ¿":113323,"ä¸įåı¯æĢĿ":113324,"ä¸įåı¯æĢĿè®®":113325,"éĬ·åĶ®":113326,"è´«ç©·":113327,"为åķ¥":113328,"éºĵ":113329,"å¹¾åĢĭ":113330,"è§Ħ模以ä¸Ĭ":113331,"æıļ":113332,"è¢«åĽ°":113333,"缺å¸Ń":113334,"å¿«é¤IJ":113335,"æĬ¢åįł":113336,"æĻŁ":113337,"å¤įæ´»":113338,"æľ¬æĬ¥è®¯":113339,"åĪĽä¸ĭ":113340,"海滩":113341,"éĩı产":113342,"å¦Ĥä½ķåİ»":113343,"车ä½į":113344,"å¯ĩ":113345,"äºĮåįģåĽĽ":113346,"ç»ıæµİæįŁå¤±":113347,"éħįå¥Ĺ设æĸ½":113348,"åŁºæľ¬éĿ¢":113349,"äºī论":113350,"就好åĥı":113351,"çłĶç©¶æĪIJæŀľ":113352,"éĻĪè¿°":113353,"æīĵåĬ¨":113354,"ä¸ĭå·´":113355,"ç§ĴéĴŁ":113356,"对人ä½ĵ":113357,"æĬĢæľ¯çłĶåıij":113358,"åİŁåŃIJ":113359,"æĺ¯ä¸Ģ项":113360,"äºĨä¸Ģ份":113361,"æĮĩçͲ":113362,"ç͍éĩı":113363,"è¿ĺä¸įå¤Ł":113364,"æĶ¿åºľéĩĩè´Ń":113365,"çŁ¥è¯ĨçĤ¹":113366,"ä¸ŃåĽ½æ¢¦":113367,"å¾Īå¼Ģå¿ĥ":113368,"礼è²Į":113369,"éĿŀ常å¤ļ":113370,"éĿŀ常å¤ļçļĦ":113371,"åĽļ":113372,"æĹħé¦Ĩ":113373,"å°½æĥħ":113374,"æŃĮåͱ":113375,"æ²Ļé¾Ļ":113376,"车åİ¢":113377,"客æµģ":113378,"åģıå·®":113379,"积累äºĨ":113380,"æ¡Ķ":113381,"çĶ»çĶ»":113382,"ä¹ŁåºĶ该":113383,"åºĶç͍ç¨ĭåºı":113384,"èĥĥèĤł":113385,"以å¾Į":113386,"豪å®ħ":113387,"æ·±åĬłå·¥":113388,"缴è¨Ģ":113389,"åĮĸçŁ³":113390,"åĽ½éģĵ":113391,"ä¸ĥ个":113392,"ä»İèĢĮ使":113393,"èĤłèĥĥ":113394,"æĹ¥è¶ĭ":113395,"çζåŃIJ":113396,"ç·©":113397,"æĭĽçīĮ":113398,"产å¦ĩ":113399,"çķªèĮĦ":113400,"æĪijéĻ¢":113401,"建çŃijå·¥ç¨ĭ":113402,"å±ķè§Īä¼ļ":113403,"å®¶éķ¿ä»¬":113404,"åĨľä½ľçī©":113405,"æĹ¥å¤ľ":113406,"æĶ»æĵĬ":113407,"è§Ħéģ¿":113408,"èĪŁå±±":113409,"便æ°ij":113410,"åħ«åŃĹ":113411,"ä¸įæĽ¾":113412,"æĶ¯éħį":113413,"çĨ¬å¤ľ":113414,"人é¡ŀ":113415,"ç´ĢéĮĦ":113416,"ç»ıèIJ¥æ´»åĬ¨":113417,"大涨":113418,"å¸Ĥå§Ķ常å§Ķ":113419,"åĪĨéIJĺ":113420,"ä¸Ģ个èģĮä¸ļ":113421,"çĹħåĽł":113422,"è¿Ļ对äºİ":113423,"ä¸įå¾Ĺä¸į说":113424,"åıijçĶµæľº":113425,"æľīæīĢ帮åĬ©":113426,"缮æłĩä»»åĬ¡":113427,"åĽłåľ°":113428,"åĽłåľ°åζ":113429,"åĽłåľ°åĪ¶å®ľ":113430,"å°Ĩè¾¾åΰ":113431,"ç²Ĺç³Ļ":113432,"ç¨³åĽº":113433,"å«£":113434,"çİ°åľ¨å¾Īå¤ļ":113435,"ä¸ĸçķĮ级":113436,"å¼łæŁIJ":113437,"çĤ¹ç¼Ģ":113438,"èijµ":113439,"社ä¼ļç»Ħç»ĩ":113440,"å¾ĢåIJİ":113441,"åĬłæģ¯":113442,"åĻªå£°":113443,"æľīåħ´è¶£":113444,"为æĤ¨æıIJä¾Ľ":113445,"æ²¹æ¼Ĩ":113446,"ç¬¬åĽĽå±Ĭ":113447,"çļĩ宫":113448,"ä¹Ĵä¹ĵ":113449,"ä¹Ĵä¹ĵçIJĥ":113450,"éļ¨èijĹ":113451,"éģ©åIJĪ":113452,"åįĹéĿŀ":113453,"æĵ´":113454,"西æ´ĭ":113455,"åĬłå¯Ĩ":113456,"æĪIJåĬŁä¸¾åĬŀ":113457,"åı£æ°´":113458,"æĪIJ年人":113459,"æīĢæıIJä¾ĽçļĦ":113460,"éļĶå£ģ":113461,"åľ¨äº¬":113462,"å½ĵåľ°æĹ¶éĹ´":113463,"çŃīåIJĦç§į":113464,"é£İæ°Ķ":113465,"å±ĭéĩĮ":113466,"ä¸ĢåŃĹ":113467,"çļĦæĹ¶éĹ´éĩĮ":113468,"åĺ¿åĺ¿":113469,"快讯":113470,"ä¸Ńåľº":113471,"ä¸Ģçĵ¶":113472,"æ»ķ":113473,"é¢Ĩè·ij":113474,"好èݱ":113475,"好èݱåĿŀ":113476,"没åħ³ç³»":113477,"åĩºå¢ĥ":113478,"ä¸įæĺ¯ä¸Ģ个":113479,"éĥ½æĺ¯éĿŀ常":113480,"éľĩåĬ¨":113481,"èİ·èĥľ":113482,"åįļå¼Ī":113483,"æĬļåħ»":113484,"对ç«ĭ":113485,"æľįåĬ¡æľºæŀĦ":113486,"è°£è¨Ģ":113487,"社ä¼ļç§ijåѦ":113488,"åIJ¬è¯´è¿ĩ":113489,"æī³":113490,"æīĵ磨":113491,"åı£æľį":113492,"好åĥıæĺ¯":113493,"以åıĬåħ¶ä»ĸ":113494,"çī¹è´¨":113495,"亲è¿ij":113496,"ä¸Ģç»ı":113497,"æ¶Ŀ":113498,"éŃĶæľ¯":113499,"éģĵ路交éĢļ":113500,"è§Ħ模æľĢ大":113501,"å®ŀæĸ½æĦıè§ģ":113502,"ä¹ŀ":113503,"ä¸Ģä¸ĸ":113504,"åŁ·è¡Į":113505,"è±Ĩçĵ£":113506,"åĪĹ为":113507,"æķħ宫":113508,"çĶŁåij½åij¨æľŁ":113509,"ä¸īç§įèģĮä¸ļ":113510,"详ç»Ĩä»ĭç»į":113511,"å®Įå¤ĩ":113512,"å²©çŁ³":113513,"éļıæīĭ":113514,"飲":113515,"æķĪæŀľåĽ¾":113516,"ç§ĭåĨ¬":113517,"åĬŁå¾·":113518,"è§Ħ竳åĪ¶åº¦":113519,"æĹ¥æ¸IJ":113520,"æīĢéľĢè¦ģ":113521,"æīĢéľĢè¦ģçļĦ":113522,"å²Ľä¸Ĭ":113523,"åĩºåľŁ":113524,"åĽ¾æĸĩ":113525,"ç§ijæĬĢè¿ĽæŃ¥":113526,"éĢļèĥĢ":113527,"èĢģ太太":113528,"èĭĹæľ¨":113529,"éĵ¶å·Ŀ":113530,"å¸IJ篷":113531,"éĿŀè¦ģ":113532,"éħįç͵":113533,"å¤Ħå¢ĥ":113534,"èĤ¡æĿĥæĬķèµĦ":113535,"ä¸Ģ缴åΰ":113536,"åĿĩçͱ":113537,"æĬĹæĹ¥":113538,"æį®ä»ĭç»į":113539,"ä½łåĸľæ¬¢":113540,"åĪĽæĸ°åŀĭ":113541,"åıĺè¿ģ":113542,"è§Ĩå¯Ł":113543,"å®Įåħ¨æ²¡æľī":113544,"åħĥæĹ¦":113545,"åı¯ä¿¡":113546,"åı¦è¡Į":113547,"æĿij级":113548,"åħ¥åľº":113549,"æIJŃæ¡£":113550,"ä¹ŁåĽłæŃ¤":113551,"æį¢æĪIJ":113552,"ä¸įè´Ł":113553,"äºĨ大éĩıçļĦ":113554,"éģĶåΰ":113555,"å¸Ĥåİ¿":113556,"å¹´è¼ķ":113557,"å¿«æīĭ":113558,"å¸Įå°Ķ":113559,"èĩªèIJ¥":113560,"éĽªèĬ±":113561,"æIJģ":113562,"çľ¼ç§ij":113563,"æŃ£ç¢º":113564,"çļĦå§¿æĢģ":113565,"åĿļå®ŀçļĦ":113566,"æĮĩ纹":113567,"æªĶæ¡Ī":113568,"ç½®äºİ":113569,"佩æľį":113570,"豪éŨ":113571,"åĵĴ":113572,"æģ°å¥½":113573,"æª¢æŁ¥":113574,"åĪĿè¡·":113575,"大åĶIJ":113576,"约ä¼ļ":113577,"èĴ¸åıij":113578,"çѹåĪĴ":113579,"å¹´ç»Ī":113580,"è¡Įæ¥Ń":113581,"åħ±éĿĴ":113582,"åħ±éĿĴåĽ¢":113583,"ä¼ļå¼ķèµ·":113584,"ä¸Ńç§ij":113585,"ä¸Ńç§ijéĻ¢":113586,"æĮ¯åĬ¨":113587,"åį´åıijçݰ":113588,"ä¸įåĬ¨äº§":113589,"èĮ¹":113590,"æĪ¿éĹ´éĩĮ":113591,"è´§å¸ģæĶ¿çŃĸ":113592,"æ²»çĻĤ":113593,"æħİéĩį":113594,"å¡ŀå°Ķ":113595,"åĽ½ç±į":113596,"åĽłæŀľ":113597,"çŃīçī¹çĤ¹":113598,"山谷":113599,"ä¸ĭè¼ī":113600,"è®ĵæĪij":113601,"饮éħĴ":113602,"è¿Ļ个游æĪı":113603,"ç»Ŀ大éĥ¨åĪĨ":113604,"åĴ¨è¯¢æľįåĬ¡":113605,"干活":113606,"è®®ä¼ļ":113607,"æ¦Ĥè¿°":113608,"åĪĨåĮº":113609,"æŃ»åIJİ":113610,"ç«ĻçĿĢ":113611,"主è¦ģé¢Ĩ导":113612,"åIJĮåŁİ":113613,"大æłij":113614,"对åѦçĶŁ":113615,"社ä¼ļä¿ĿéĻ©":113616,"å¢ŀèµĦ":113617,"主人åħ¬":113618,"å®£ä¼łæķĻèĤ²":113619,"æĸĩåĮĸ交æµģ":113620,"客æĪ¶":113621,"çŁ¥åIJįåĵģçīĮ":113622,"æ»ŀåIJİ":113623,"äºĴè¡¥":113624,"æĦŁäºº":113625,"åī¿":113626,"åIJİ代":113627,"äºī龸":113628,"æķĻèĤ²åٹè®Ń":113629,"éĿĻèĦī":113630,"ä¹ıåĬĽ":113631,"说åĩºæĿ¥":113632,"çİĭèĢħèį£èĢĢ":113633,"åĢ«":113634,"åįĩèµ·":113635,"éķģ":113636,"åĩºæ¸¸":113637,"éĢļè¡Įè¯ģ":113638,"å·¥ä½ľå²Ĺä½į":113639,"åĮłå¿ĥ":113640,"æĭ¿æĿ¥":113641,"æ´Ĺè¡£æľº":113642,"æĪijä¸įæĥ³":113643,"é¢Ħè§ģ":113644,"æ¼Ķ示":113645,"ä¸ĢçĽ´æ²¡æľī":113646,"è·Łå¥¹":113647,"对çħ§æ£ĢæŁ¥":113648,"ç°¿":113649,"ä¸ĵå¿ĥ":113650,"è®®äºĭ":113651,"åīį端":113652,"åį¡å°Ķ":113653,"è¨Ńå®ļ":113654,"设置äºĨ":113655,"å©ļ纱":113656,"åľ¨åĽ½å¤ĸ":113657,"åı³ä¾§":113658,"è³¼çī©":113659,"å¥ĩèij©":113660,"å¢ŀåĬłå̼":113661,"好è¿IJ":113662,"åĽ½éĻħæľºåľº":113663,"ä¸ĭç§°":113664,"缮åīį为æŃ¢":113665,"ç¥ŀä»Ļ":113666,"å®ĥåı¯ä»¥":113667,"æ¾Ħæ¸ħ":113668,"èĥ½ä½¿":113669,"游åĩ»":113670,"游åĩ»éĺŁ":113671,"åĩ¹":113672,"ä¸įè¦ģåĨį":113673,"åĨ³èĥľ":113674,"åĨ³æĪĺ":113675,"æĭ½":113676,"缼åħ¸":113677,"å¾Īå¥½åľ°":113678,"æľĢç¾İçļĦ":113679,"åĥļ":113680,"å·´åŁº":113681,"å·´åŁºæĸ¯åĿ¦":113682,"æľĢéĢĤåIJĪ":113683,"é«ĺèģĮ":113684,"ä¿Ŀå§Ĩ":113685,"æİĪæ¬Ĭ":113686,"说åΰè¿ĻéĩĮ":113687,"æİ¨å¼Ģ":113688,"çİĩè¾¾":113689,"ä¸īåĪĨä¹ĭä¸Ģ":113690,"管çIJĨä¸Ńå¿ĥ":113691,"交æ±ĩ":113692,"森æŀĹåħ¬åĽŃ":113693,"å¾Ģä¸Ĭ":113694,"éªijè¡Į":113695,"æį®æŃ¤":113696,"纽带":113697,"ç»ŀ":113698,"ä¸īæĸ¹":113699,"æĦıä¹īä¸ĬçļĦ":113700,"æİ¨è¿Ł":113701,"å¤ļæł·æĢ§":113702,"æĥ³èµ·äºĨ":113703,"æİĴåIJį第":113704,"å·¨é¢Ŀ":113705,"æĿŁç¼ļ":113706,"å®īå®ļ":113707,"äºĭ實":113708,"çļĦæĦ¿æľĽ":113709,"è£ħå¤ĩåζéĢł":113710,"人å±ħ":113711,"人å±ħçݯå¢ĥ":113712,"å¿ĺè®°äºĨ":113713,"该游æĪı":113714,"楼ä¸Ĭ":113715,"å¼Ģä¼ļ":113716,"æģ³":113717,"åıĭæĥħéĵ¾æİ¥":113718,"ç¡Ĵ":113719,"ç»ĻäºĪäºĨ":113720,"åģı好":113721,"åĵī":113722,"交éĢļå®īåħ¨":113723,"éĽĮ":113724,"æ²»çĹħ":113725,"è§īå¾Ĺå¾Ī":113726,"衬衫":113727,"å¿ĥæĦ¿":113728,"æ´ŀå¯Ł":113729,"æ°ijæ£Ģå¯ŁéĻ¢":113730,"æıIJçĤ¼":113731,"è¦ģè¿Ľä¸ĢæŃ¥":113732,"驾车":113733,"æĻ®æĥł":113734,"æķĸ":113735,"ç¦ıéŁ³":113736,"éĢģè¾¾":113737,"è§ĦåĪĴ设计":113738,"æīĭå¥Ĺ":113739,"å®īä¿Ŀ":113740,"è¿ĺä¸įå¦Ĥ":113741,"åīįè¿°":113742,"æłĩè®°":113743,"ç´§æİ¥çĿĢ":113744,"æ§IJ":113745,"æ·±æ·±åľ°":113746,"满满çļĦ":113747,"æĺ¥è¿IJ":113748,"æĹ¥äº§":113749,"çαæĬ¤":113750,"åħ¨æĹ¥":113751,"åħ¨æĹ¥åζ":113752,"转åĬ¨":113753,"ç¥Ńç¥Ģ":113754,"ä¹°ä¸ľè¥¿":113755,"å¯¹æľªæĿ¥":113756,"æ¶Ī失äºĨ":113757,"åļ´éĩį":113758,"ä¸īæĿ¡":113759,"éħ¸å¥¶":113760,"éĽĨåĽ¢èĤ¡ä»½":113761,"西路":113762,"åıªå¾Ĺ":113763,"éĢģåİ»":113764,"çĭłæĬĵ":113765,"åĪ©ç͍çİĩ":113766,"ä¸ĭåij¨":113767,"å¥ĭæĪĺ":113768,"æĺ¥èĬĤæľŁéĹ´":113769,"è´Łè´£ä»»":113770,"æĺĤè´µ":113771,"尾巴":113772,"ç¯ĩæĸĩ竳":113773,"åħ®":113774,"è®ĬæĪIJ":113775,"å¹¹":113776,"çĻ»éĮĦ":113777,"ä½Ī":113778,"å·¥åĮł":113779,"åĵªæĢķæĺ¯":113780,"åıįåĵį":113781,"ç§ĥ":113782,"åĩºè½¨":113783,"æĹ¥åĨĽ":113784,"åIJįèªī":113785,"æķıéĶIJ":113786,"æľįåĬ¡æ°´å¹³":113787,"çħ§å°Ħ":113788,"ä¼Ĭæĭī":113789,"ä¼Ĭæĭīåħĭ":113790,"åĨħéĺģ":113791,"èĬĴæŀľ":113792,"ä¸ĩåĪĨ":113793,"éĢĢæ¬¾":113794,"缴æĴŃéĹ´":113795,"æĭ¿åΰäºĨ":113796,"å°İèĩ´":113797,"空æ°Ķä¸Ń":113798,"客æĪ·æľįåĬ¡":113799,"è¿IJåĬ¿":113800,"ç»ĵçŁ³":113801,"ä¸įå¿ħè¦ģçļĦ":113802,"èĥ¶åĽĬ":113803,"çIJĨä¼ļ":113804,"æĬ½åĩº":113805,"空æ°Ķè´¨éĩı":113806,"æ¯ķ竣æĺ¯":113807,"åĨ·æ¼ł":113808,"ä¸Ģå¦Ĥ":113809,"ä¸Ģå¦ĤæĹ¢":113810,"ä¸Ģå¦ĤæĹ¢å¾Ģ":113811,"æĤ£çĹħ":113812,"åĬłæĮģ":113813,"èµŀåĬ©":113814,"é«®":113815,"åij½ä¸Ń":113816,"æĦıä¹īä¸Ĭ":113817,"ä¸įèĪį":113818,"å쬦":113819,"æīĵæī«":113820,"æĺŁåħī":113821,"æĸŃè£Ĥ":113822,"åħ¨å¥Ĺ":113823,"è£ģå®ļ":113824,"马åħĭæĢĿ":113825,"骨骼":113826,"ä¸Ģè·¯ä¸Ĭ":113827,"å®ļæĹ¶":113828,"å·¥ç¨ĭæĬĢæľ¯":113829,"å½¼å¾Ĺ":113830,"æ±²åıĸ":113831,"ä¸Ģè§Ī":113832,"åIJµæŀ¶":113833,"ä¿Ĺç§°":113834,"æłªæ´²":113835,"åºŁæĹ§":113836,"è¡ĮæĺŁ":113837,"åıijçĶŁåıĺåĮĸ":113838,"é¦ĸä»ĺ":113839,"åįģåĪĨéĩįè¦ģ":113840,"æĬĬè¿ĻäºĽ":113841,"ç¥ŀå·ŀ":113842,"æıIJä¾ĽåķĨ":113843,"楷":113844,"å±İ":113845,"çĬ¶åħĥ":113846,"åŁİå¢Ļ":113847,"çľĭä¸Ģçľĭ":113848,"çĶŁäº§èĥ½åĬĽ":113849,"åŁºæľ¬ä¸Ĭéĥ½":113850,"æīĵæī°":113851,"åĪĿ次":113852,"åĩºç¤º":113853,"åħ¶ä¸Ńä¸Ģ个":113854,"çĶŁæĢģç³»ç»Ł":113855,"æīĭæİĮ":113856,"æµİåįĹå¸Ĥ":113857,"åľĭåħ§":113858,"æŃ£å̼":113859,"å¹¾ä¹İ":113860,"æİ¨èįIJéĺħ读":113861,"è¿Ń代":113862,"è°ĥä¾ĥ":113863,"饮åĵģ":113864,"å¢Ļä½ĵ":113865,"åıĺçݰ":113866,"äºĨ好":113867,"äºĨ好åĩł":113868,"ä¸įçķĻ":113869,"çβ":113870,"å°½æĹ©":113871,"æŃ£åľ¨è¿Ľè¡Į":113872,"åĩºéĻ¢":113873,"æĿĢ害":113874,"æıIJ款":113875,"åıijå±ķ空éĹ´":113876,"åīį身":113877,"ä¸įæĸŃå¢ŀ强":113878,"æ·±å±Ĥ次":113879,"容纳":113880,"éĤ£ä»½":113881,"å·¥ä½ľæķĪçİĩ":113882,"æľ¬åĽ½":113883,"失èIJ½":113884,"æŃ£åĽłä¸º":113885,"èĬĤæ°´":113886,"ä¸ĭä¸Ģ代":113887,"çłĶåıijä¸Ńå¿ĥ":113888,"ä¸įçIJĨ":113889,"å®Į好":113890,"ä¿ĿæĬ¤åĮº":113891,"ç»ĵæŀĦè°ĥæķ´":113892,"å¥łå®ļ":113893,"宣称":113894,"éĺ»æĮ¡":113895,"æĴ¤ç¦»":113896,"ä¸įæĸ¹ä¾¿":113897,"åĴķ":113898,"ç¬ijäºĨç¬ij":113899,"çݯå¢ĥ污æŁĵ":113900,"ä½ıæĪ·":113901,"ç»Ŀç¼ĺ":113902,"éϤå°ĺ":113903,"é«ĺå°ļ":113904,"æĢİä¹Īåı¯èĥ½":113905,"éĿ¢èī²":113906,"åķĨæ¥Ń":113907,"çĸ¹":113908,"èµĦæºIJä¼ĺåĬ¿":113909,"è¾ĸåĮºåĨħ":113910,"èĢĢçľ¼":113911,"æij§æ¯ģ":113912,"ä¸ĸçķĮç»ıæµİ":113913,"å¼ķæĿ¥":113914,"ä¸ĢåĪĻ":113915,"æĭĩæĮĩ":113916,"æĬµå¾¡":113917,"éĽį":113918,"åĩĨå¤ĩå·¥ä½ľ":113919,"çıłä¸īè§Ĵ":113920,"ç¨ĢåľŁ":113921,"èİ·å¾ĹæĦŁ":113922,"æĪIJåĬŁçİĩ":113923,"ç½ij约":113924,"ç½ij约车":113925,"èĦIJ":113926,"æķ¬ä¸ļ":113927,"éĩijä»·":113928,"ç²¾é«ĵ":113929,"买车":113930,"åħ³åı£":113931,"åĨįå¤ļ":113932,"æŀģåĵģ":113933,"åIJĦå®¶":113934,"举æĬ¥ç͵è¯Ŀ":113935,"èļĬ":113936,"æĸ¹å½¢":113937,"ç§ijæĬĢæĪIJæŀľ":113938,"æľĢ好æĺ¯":113939,"éĹ®åĢĻ":113940,"红éħĴ":113941,"åĽĽç§į":113942,"ç¿Ĵæħ":113943,"ç¿Ĵæħ£":113944,"åŀ¦":113945,"éĤ£åıª":113946,"é¢ĨæĤŁ":113947,"çľ¼éĥ¨":113948,"æ³°å®ī":113949,"ä»»æľŁ":113950,"磨æįŁ":113951,"æĽ¿æį¢":113952,"åħ¸ç¤¼":113953,"符åIJĪæĿ¡ä»¶":113954,"è¿ĺæľīä»Ģä¹Ī":113955,"åħ±äº«åįķ车":113956,"åı¯åĪĨ为":113957,"åŃ£åIJİ":113958,"åŃ£åIJİèµĽ":113959,"举èİŀå¸Ĥ":113960,"å¿ĥæĦı":113961,"æīŃæĽ²":113962,"ä½ľä¸ºä¸Ģç§į":113963,"è¿Ļéĥ¨åĪĨ":113964,"åıĤä¸İåΰ":113965,"ç½ijçIJĥ":113966,"實çı¾":113967,"ç»Ħè£ħ":113968,"åIJijå¤ĸ":113969,"å·¥ä½ľæĸ¹æ¡Ī":113970,"åįģæĿ¡":113971,"課ç¨ĭ":113972,"颤æĬĸ":113973,"åĵ©":113974,"éĤ®å¯Ħ":113975,"亢":113976,"åħįè²»":113977,"秤":113978,"åºĶæĢ¥ç®¡çIJĨ":113979,"åĽĽäºĶ":113980,"éºĴéºŁ":113981,"å¾ĴæŃ¥":113982,"è¨ĺå¾Ĺ":113983,"çĴIJ":113984,"æĺ¯åIJ¦ä¼ļ":113985,"æĦıè§ģåıįé¦Ī":113986,"éļ¾æĢª":113987,"çªį":113988,"交æİ¥":113989,"两åįĥ":113990,"æĩīç͍":113991,"æľŁéĸĵ":113992,"æIJ¬åΰ":113993,"è®®é¢ĺ":113994,"碧æ¡Ĥ":113995,"碧æ¡ĤåĽŃ":113996,"åģļçĶŁæĦı":113997,"éĻĽä¸ĭ":113998,"è·ĭ":113999,"èĢģ人家":114000,"带åĽŀ":114001,"æŀ¸æĿŀ":114002,"è¡Įéķ¿":114003,"åĨħ容ç®Ģä»ĭ":114004,"梢":114005,"æĮĩæİ§":114006,"éĩįçĹĩ":114007,"ç½ijåıĭ们":114008,"çı¾ä»£":114009,"类产åĵģ":114010,"å¥Ķæ³¢":114011,"渺":114012,"ç²īç¢İ":114013,"è¿Ļåıªæĺ¯":114014,"æ£Ģå¯Łæľºåħ³":114015,"é½Ĭ":114016,"æĪ¿ç§Ł":114017,"å¾·æĭī":114018,"å²ģ以ä¸Ĭ":114019,"纯åĩĢ":114020,"åĪĨå¸ĥåľ¨":114021,"èĥ½å¾Ĺåΰ":114022,"ä¸įå°½":114023,"ç«ŀä»·":114024,"çļĦ带é¢Ĩ":114025,"çļĦ带é¢Ĩä¸ĭ":114026,"ä¸Ńè᝿ĿIJ":114027,"æĿijéķĩ":114028,"ä¸įåı¯éģ¿åħį":114029,"éľ²å¤©":114030,"å°ıå§ijå¨ĺ":114031,"çī©ä»¶":114032,"èijĹä½ľæĿĥ":114033,"æĭĺçķĻ":114034,"éĥ½è§īå¾Ĺ":114035,"æĽ²æĬĺ":114036,"æ·»åĬłåīĤ":114037,"åı¬åĽŀ":114038,"æīİå®ŀæİ¨è¿Ľ":114039,"æĬĦè¢Ń":114040,"åĮĸ身":114041,"缴èIJ¥":114042,"ä¹Łå¸ĮæľĽ":114043,"èį£èªīç§°åı·":114044,"åįĸç»Ļ":114045,"æľīä¸įåIJĮçļĦ":114046,"å¥ĩçī¹":114047,"éĥ½è®¤ä¸º":114048,"å¦ŀ":114049,"æĪIJéķ¿ä¸º":114050,"辩æĬ¤":114051,"主æķĻç»ĥ":114052,"æ³ķå¸ĪèģĮä¸ļ":114053,"æ¤įåħ¥":114054,"索尼":114055,"åIJ¬è¿ĩ":114056,"ä¹łæĥ¯äºĨ":114057,"夺åıĸ":114058,"éŁĵ":114059,"æľ¬è´¨ä¸Ĭ":114060,"æİ¥åĬĽ":114061,"äºij端":114062,"è¦ģåģļ好":114063,"è·¯çģ¯":114064,"åįıåIJĮåıijå±ķ":114065,"æľīå¾ħ":114066,"æ°´åŁŁ":114067,"æIJľçĭIJé¦ĸ页":114068,"è´¨éĩıå®īåħ¨":114069,"åįģäºĮäºĶ":114070,"åĵ®åĸĺ":114071,"èĵ¬åĭĥåıijå±ķ":114072,"åIJį声":114073,"身亡":114074,"çİĭåºľ":114075,"åİŁåĪĻä¸Ĭ":114076,"çĥĺå¹²":114077,"éģĹæ¼ı":114078,"éĿ¢çĽ®":114079,"åĽ½ä¼ļ":114080,"ä¸Ģ缴éĥ½æĺ¯":114081,"æľīä¸Ģä½į":114082,"éħįæľī":114083,"éĻªçĿĢ":114084,"ä¼ģåĽ¾":114085,"æĮīä¸ĭ":114086,"èĵĿåĽ¾":114087,"æ©ĺ":114088,"大å¤ļæĺ¯":114089,"辩论":114090,"æĹĭå¾ĭ":114091,"æĬ¥éĢģ":114092,"æĿ¡è§Ħå®ļ":114093,"åĬ¨éĿĻ":114094,"åĮĪ奴":114095,"æĭľè®¿":114096,"ä¸ĢåĪĢ":114097,"ä»ĸçŁ¥éģĵ":114098,"主æĿĥ":114099,"ä»ĸæĽ¾":114100,"æĴŃç§į":114101,"å£ģåŀĴ":114102,"çī¢è®°ä½¿åij½":114103,"åľ¨è¿Ļæĸ¹éĿ¢":114104,"æīĭèħķ":114105,"æĶ¯æŀ¶":114106,"ä¾Ĩèĩª":114107,"éĩįå¡ij":114108,"å¤ļå±Ĥ次":114109,"ä»ĭè´¨":114110,"éĿ¢åŃĶ":114111,"潮湿":114112,"åİ¿åŁŁ":114113,"游æĪıå½ĵä¸Ń":114114,"å£ŀ":114115,"åĪĹåĩº":114116,"èµĽåĮº":114117,"å¤ļåįĬ":114118,"éĩįçĤ¹å·¥ä½ľ":114119,"æĪij们å¿ħé¡»":114120,"æŁıæŀĹ":114121,"é²ģèĥ½":114122,"æĸ½å±ķ":114123,"åIJĦåĮº":114124,"åħįç¨İ":114125,"èµĽåIJİ":114126,"æľĢéĩįè¦ģ":114127,"ä¸Ģ个好çļĦ":114128,"è¿Ŀæ³ķè¿Ŀè§Ħ":114129,"äºĨè§£æĽ´å¤ļ":114130,"æķ¬è¯·":114131,"ç¬ijçĿĢ说":114132,"ä¸įæĸŃåıijå±ķ":114133,"æijĦå½±å¸Ī":114134,"以éĺ²":114135,"çĤ¸å¼¹":114136,"声åĵį":114137,"ç¤ģ":114138,"æĩ¿":114139,"èĪĨæĥħ":114140,"èĩªçĶ±è´¸æĺĵ":114141,"æķıæį·":114142,"ä¸ī大éĺ¶æ®µ":114143,"èĭĶ":114144,"æĹºåŃ£":114145,"ä¸į满æĦı":114146,"微信åı·":114147,"修为":114148,"çł´è£Ĥ":114149,"éĢĥ离":114150,"æ¯ıèĤ¡":114151,"è¾¾ä¸įåΰ":114152,"æ¯ıå¹´éĥ½":114153,"çģ¯ç¬¼":114154,"æŃ¤åŁºç¡Ģä¸Ĭ":114155,"åĥı个":114156,"åĪĨ娩":114157,"æĻ¾":114158,"ä¸įèĩ³äºİ":114159,"红线":114160,"误解":114161,"ä¸ľè·¯":114162,"æ·®å®ī":114163,"产åѦ":114164,"产åѦçłĶ":114165,"è»ĭ":114166,"è»ĭçĹħ":114167,"åīįæıIJæĺ¯":114168,"æ¯ıä¸Ģ天":114169,"ä¸ĥ大":114170,"æłijåı¶":114171,"èµ°å¾Ĺ":114172,"è¿Ļ两ç§į":114173,"æİıåĩº":114174,"æİIJ":114175,"é¢Ĩ导èĢħ":114176,"ä¸Ģæľµ":114177,"个å¤ļæľĪ":114178,"ä¸Ńåħ³":114179,"ä¸Ńåħ³æĿij":114180,"课åłĤæķĻåѦ":114181,"大åĴĸ":114182,"éģĭç͍":114183,"è¯ļæĦı":114184,"ç»ĦåĽ¾":114185,"è¯ķçĿĢ":114186,"ä¹Ķæ²»":114187,"è¿ĺä¸įæĺ¯":114188,"æľīæĽ´å¥½çļĦ":114189,"åIJİå¤ĩ":114190,"æĸ°çĶŁåĦ¿":114191,"æ°Ķè¡Ģ":114192,"æ²¥éĿĴ":114193,"å±ıéļľ":114194,"æ¥ŃåĭĻ":114195,"æĪij以为":114196,"éķ¿çĽ¸":114197,"èĢģçΏ":114198,"éķĩæ±Ł":114199,"æľºæ¢°è®¾å¤ĩ":114200,"ä½Ĩæĺ¯å¦Ĥæŀľ":114201,"åĿļå®ļä¸į":114202,"åĿļå®ļä¸įç§»":114203,"åĨ²éĶĭ":114204,"ç®Ģ缴æĺ¯":114205,"åĤ¨èĵĦ":114206,"纯ç͵åĬ¨":114207,"漫æŃ¥":114208,"举起":114209,"æģ¶æĢ§":114210,"è¨ĺéĮĦ":114211,"èģĮèĥ½éĥ¨éŨ":114212,"åħ¨éķ¿":114213,"鼻è¦ĸ":114214,"ä¹³èħº":114215,"ä½ķå¤Ħ":114216,"æ¶Īæŀģ":114217,"æŃ£å¤Ħäºİ":114218,"å®īå®ģ":114219,"æĪIJéķ·":114220,"åıĻè¿°":114221,"æºĥçĸ¡":114222,"ä½Ĩçİ°åľ¨":114223,"女æĺŁ":114224,"å©´å¹¼åĦ¿":114225,"æĬķèŀįèµĦ":114226,"éĹ®éĹ®":114227,"æıŃå¼Ģ":114228,"è¯ı":114229,"åIJįå½ķ":114230,"èĺijèıĩ":114231,"åIJĬé¡¶":114232,"æ¹ĸåĮº":114233,"åįĸåľº":114234,"建ç¯":114235,"建ç¯ī":114236,"èݽ":114237,"åIJ¬åIJ¬":114238,"ç«ŀäºīä¼ĺåĬ¿":114239,"åĩºä»»":114240,"æľī两ç§į":114241,"æ©±æŁľ":114242,"褪":114243,"è¯ķåį·":114244,"ç»ıæµİæĬĢæľ¯":114245,"æ·±å±Ĥ":114246,"éĩįè¦ģåĨħ容":114247,"é£İæİ§":114248,"çĬ¶æĢģä¸ĭ":114249,"éĥ¨éĸĢ":114250,"广汽":114251,"è§Ĥæij©":114252,"éģĹçķĻ":114253,"转账":114254,"æĮģä»ĵ":114255,"æĢ»è®¡":114256,"åľĺéļĬ":114257,"æĪ¿ä¸ľ":114258,"éĺĢéŨ":114259,"åħ¬åħ³":114260,"åħ³åĪĩ":114261,"èĤĺ":114262,"æķ¸æĵļ":114263,"ä¸īåįģå¹´":114264,"è§ģè¯ģäºĨ":114265,"å±Ĩ":114266,"çģ°å°ĺ":114267,"æ¦ľé¦ĸ":114268,"è¦ĨçĽĸçİĩ":114269,"ä»Ļ女":114270,"çĶŁäº§æĢ»":114271,"çĶŁäº§æĢ»å̼":114272,"æĪ¿è´·":114273,"æ±ŁåĮº":114274,"åħħçĶµæ¡©":114275,"çϾåIJĪ":114276,"確èªį":114277,"转移åΰ":114278,"éĥ½æĹłæ³ķ":114279,"纪念é¦Ĩ":114280,"çŃ¾ç½²äºĨ":114281,"å¹¶ä¸įå¤ļ":114282,"æĮł":114283,"ä¸į太好":114284,"ä¸ĸ代":114285,"误导":114286,"é«ĺ峰论åĿĽ":114287,"åħ¼å®¹":114288,"龸æ°Ķ":114289,"æĿ¥è®¿":114290,"æīĢ带æĿ¥çļĦ":114291,"æĺ¯ä¸Ģéĥ¨":114292,"æĻļé¥Ń":114293,"åİĨ代":114294,"åIJ¦åīĩ":114295,"ä¹ħä¹ħ":114296,"æľīæķĪæľŁ":114297,"诱åıij":114298,"æĢ»èµĦ产":114299,"æľ¬èº«å°±æĺ¯":114300,"çĶŁäº§åİĤå®¶":114301,"æĹ¶é«¦":114302,"èĢIJç͍":114303,"ä»İå°ıå°±":114304,"æĿ¡çº¦":114305,"èĭ±åĭĩ":114306,"ä¿Ĺè¯Ŀ说":114307,"寺åºĻ":114308,"å¿ĥçIJĨåģ¥åº·":114309,"ä»Ģä¹Īäºĭæĥħ":114310,"æ±īåŃĹ":114311,"çķĻä½ı":114312,"åįĹè·¯":114313,"ä¸ī项":114314,"丢äºĨ":114315,"æĥ³åΰäºĨ":114316,"çѹéĽĨ":114317,"éĻĦåĬłå̼":114318,"西è£ħ":114319,"ä¹ĭä½ľ":114320,"åģļçļĦäºĭ":114321,"çķ¶æĤ¨":114322,"çķ¶æĤ¨åľ¨":114323,"é¦ĸ款":114324,"ä¸įåľ¨ä¹İ":114325,"å·¥ç¨ĭæĸ½å·¥":114326,"éļIJéļIJ":114327,"åıĺ身":114328,"沿éĢĶ":114329,"æĤłæĤł":114330,"ä¿Ŀæļĸ":114331,"çĶŁæ´»åŀĥåľ¾":114332,"渤海":114333,"æŃ¦ä¾ł":114334,"女主è§Ĵ":114335,"举ä¾ĭ":114336,"æ·¨":114337,"çϽé¢Ĩ":114338,"è£ĻåŃIJ":114339,"è¿Ķè¿ĺ":114340,"è¿Īåĩº":114341,"é¾ĻéŨ":114342,"ç»ıæµİä½ĵ":114343,"æĶ¶å®ĺ":114344,"çķĮéĻIJ":114345,"è·³åĩº":114346,"åįĩå̼":114347,"绵éĺ³":114348,"çĸ¤çĹķ":114349,"çľĭæ¸ħ":114350,"æĭĴçµķ":114351,"è¥Ħéĺ³":114352,"课å¤ĸ":114353,"åŃIJåŃĻ":114354,"æŃĮè¯į":114355,"æĪIJåIJį":114356,"溶液":114357,"åĦĴå®¶":114358,"åķĨä¸ļåĮĸ":114359,"辨åĪ«":114360,"å¤ļè¾¾":114361,"ç½ijåºĹ":114362,"ä¹Ŀ大":114363,"ä¹Ŀ大精ç¥ŀ":114364,"æŃ¤ä¸¾":114365,"è¿ŀè½½":114366,"ä¸ĢåĢĭ人":114367,"è³½":114368,"æ¶µçĽĸäºĨ":114369,"è¦ıåĬĥ":114370,"åĽ½æĥħ":114371,"åį«çĶŁåģ¥åº·":114372,"积æŀģåĵįåºĶ":114373,"æĭĻ":114374,"åζåĬ¨":114375,"æĥ³è±¡åĬĽ":114376,"çļĦä¹IJè¶£":114377,"å¼łå®¶çķĮ":114378,"å´İ":114379,"éĩįåŀĭ":114380,"å¤ĸå¢Ļ":114381,"æĶ¾åѦ":114382,"è®¤çľŁåŃ¦ä¹ł":114383,"è´¬å̼":114384,"æ³ķæ¡Ī":114385,"æĬ¤èĤ¤åĵģ":114386,"éĻ·åħ¥äºĨ":114387,"请æĤ¨":114388,"åŀ¢":114389,"æķĻèĤ²èµĦæºIJ":114390,"交æĺĵå¹³åı°":114391,"æĹ¶è£ħ":114392,"ä¼łæŁĵçĹħ":114393,"æ¹ĸæ³Ĭ":114394,"èµĦ管":114395,"åݨå¸Ī":114396,"éĹľéį":114397,"éĹľéįµ":114398,"åĵĪåĵĪåĵĪ":114399,"çĽĹçªĥ":114400,"çĶľç¾İ":114401,"åºĦåĽŃ":114402,"缮åīįå·²ç»ı":114403,"è¾¹ä¸Ĭ":114404,"çģ«èĬ±":114405,"æĬ¥è®°èĢħ":114406,"æģĭæĥħ":114407,"ç´§åĩij":114408,"æ°´æµģ":114409,"è¿Ļæĺ¯æĪij们":114410,"æ³¥åľŁ":114411,"æĽ¾ä»»":114412,"æĸ¹è¨Ģ":114413,"åij¨åħŃ":114414,"åı·æ¥¼":114415,"ä¼ijåģĩ":114416,"误ä¼ļ":114417,"åĽ½åĢº":114418,"åīįå¤ķ":114419,"ä¸¤å¼ł":114420,"éĹ«":114421,"éŃĶ鬼":114422,"æĬĬæĮģ":114423,"èĬĤèĥ½çݯä¿Ŀ":114424,"æ¸ħæ´ģèĥ½æºIJ":114425,"èĤ¥æĸĻ":114426,"é«ĺé¢ij":114427,"å°±æľīäºĨ":114428,"交ä¼ļ":114429,"没éĴ±":114430,"éĽħæĢĿ":114431,"è¦ģåıĬæĹ¶":114432,"åŁ¹åħ»åѦçĶŁ":114433,"欣åĸľ":114434,"çĥŃæ°´åύ":114435,"é¾Ļæ¹ĸ":114436,"äºĮ楼":114437,"æĸ°æµªè´¢ç»ı":114438,"æĸ°åĬ¨èĥ½":114439,"èµ£å·ŀ":114440,"æĭ³å¤´":114441,"æµģåIJij":114442,"ä¹Łæĺ¯å¾Ī":114443,"åıijåĶ®":114444,"ä¸ŃåIJ«æľī":114445,"åIJĵå¾Ĺ":114446,"å·¨æĺŁ":114447,"æĹłæīĢè°ĵ":114448,"æ¯ĽåŃĶ":114449,"åħ¬åħ±äº¤éĢļ":114450,"çĤİçĥŃ":114451,"èµ·èįī":114452,"åĬłçĽŁåķĨ":114453,"说ä¸įåĩº":114454,"大åѦæ¯ķä¸ļ":114455,"å·¥ä¸ļåĽŃ":114456,"éłĺåŁŁ":114457,"åºĨåħ¸":114458,"æµģ产":114459,"èģ²éٳ":114460,"ä¼¼ä¹İæĺ¯":114461,"è´§æºIJ":114462,"æ·±åĪĩ":114463,"æ²»çĸĹæĸ¹æ³ķ":114464,"èµĦæºIJéħįç½®":114465,"ç¶²åıĭ":114466,"çĶ£":114467,"亥":114468,"èº²åľ¨":114469,"社ç§ij":114470,"è»Łé«Ķ":114471,"女è£ħ":114472,"æŃ¡è¿İ":114473,"综åIJĪå®ŀåĬĽ":114474,"æł¼å°ĩ":114475,"åħļåı²åŃ¦ä¹ł":114476,"æľĢåŁºæľ¬":114477,"æľĢåŁºæľ¬çļĦ":114478,"çľĭæľĽ":114479,"åıĹè´¿":114480,"ä¸įä»ħèĥ½":114481,"ä½ķå¿ħ":114482,"ä¸Ģ个å°ıæĹ¶":114483,"ç¾Į":114484,"æĭĽæĶ¶":114485,"çĤĴèĤ¡":114486,"æĿijå¹²éĥ¨":114487,"缸çα":114488,"æ½ľèĥ½":114489,"ä¹į":114490,"æĹ¶è¾°":114491,"欣æħ°":114492,"éĵ¶è¡Įä¸ļ":114493,"çĭŃçªĦ":114494,"éĩįçĤ¹é¢ĨåŁŁ":114495,"çݰå®ŀçĶŁæ´»":114496,"éĮ¯èª¤":114497,"æĸ°è§Ħ":114498,"滥ç͍":114499,"æĹ¶ä¸į":114500,"æĹ¶ä¸įæĹ¶":114501,"帳èĻŁ":114502,"ç¨Ģ缺":114503,"åIJij举":114504,"ä¿Ŀåģ¥åĵģ":114505,"çıŃéķ¿":114506,"äºĴåĭķ":114507,"笼罩":114508,"æ½Ľ":114509,"æļĸå¿ĥ":114510,"è½°çĤ¸":114511,"åºĨ幸":114512,"è²Įä¼¼":114513,"æĵº":114514,"èĢIJ磨":114515,"ä¸ĵä¸ļ人士":114516,"ä¸Ģèάéĥ½æĺ¯":114517,"æ¼³å·ŀ":114518,"åħ¨èĩªåĬ¨":114519,"å½ķç͍":114520,"大è·Į":114521,"æľīæķο̧":114522,"èĩªåĭķ":114523,"ä¸ī个æĸ¹éĿ¢":114524,"港åĮº":114525,"信貸":114526,"éĢļè¯Ŀ":114527,"é«ĺ涨":114528,"æ³Ħæ¼ı":114529,"éħįä¸Ĭ":114530,"åħļå·¥å§Ķ":114531,"被认为":114532,"被认为æĺ¯":114533,"ä¸įä¼ļåĨį":114534,"è°ĥåīĤ":114535,"åıĤèĤ¡":114536,"èĦ±åıij":114537,"å¿łå®ŀ":114538,"åĨħåĪĨæ³Į":114539,"ç¹ģå¿Ļ":114540,"åıĮåĪĽ":114541,"é©»æĿij":114542,"åĪĴç®Ĺ":114543,"éģİä¾Ĩ":114544,"åľ£ç»ı":114545,"èıľé¸Ł":114546,"æĭ¼å¤ļå¤ļ":114547,"ä¸ŃåĽ½æ±½è½¦":114548,"çĥŁèįī":114549,"缴æµģ":114550,"äºĨä¸Ģåı£æ°Ķ":114551,"ä½İæĪIJæľ¬":114552,"æī¾åĽŀ":114553,"èĩªåįij":114554,"總æĺ¯":114555,"æĸĩåĮĸåĪĽæĦı":114556,"天河":114557,"樱æ¡ĥ":114558,"éªijåħµ":114559,"éĩĮéĿ¢æľī":114560,"çİ®":114561,"èĥ½æī¾åΰ":114562,"éĢĥè·ij":114563,"åĪĩå°Ķ":114564,"åĪĩå°Ķ西":114565,"以ä¸ĭæĺ¯":114566,"å²³éĺ³":114567,"çļĦæ¦Ĥçİĩ":114568,"æĬµåζ":114569,"å¸ĪäºĭåĬ¡":114570,"å¸ĪäºĭåĬ¡æīĢ":114571,"åĩĨæĹ¶":114572,"屬æĸ¼":114573,"订è´Ń":114574,"åįłæį®äºĨ":114575,"ä¸ŃéĢĶ":114576,"å°ĭ":114577,"é»ij马":114578,"åİ¿åħ¬å®īå±Ģ":114579,"ä¸ĥæľĪ":114580,"èī²ç´ł":114581,"å¿ĥèĦıçĹħ":114582,"æĹ¶éĻIJ":114583,"æ¯įåħ¬åı¸":114584,"å¹ķåIJİ":114585,"ä¸Ĭæ¦ľ":114586,"å̾åIJijäºİ":114587,"纸ä¸Ĭ":114588,"æ¡ĵ":114589,"éĽĨä½ĵç»ıæµİ":114590,"æĥħå¢ĥ":114591,"è¦ģåģļåΰ":114592,"ç©į極":114593,"åıªæĢķ":114594,"æ¹ĺ西":114595,"çļ±çº¹":114596,"åħ¨åľĭ":114597,"çĦ¡è«ĸ":114598,"好æĦŁ":114599,"åįķä»·":114600,"è¿Ľç¨ĭä¸Ń":114601,"æĺĨä»ij":114602,"åĪĽå®¢":114603,"åħħæĸ¥":114604,"åħĪæĬĬ":114605,"该æĢİä¹ĪåĬŀ":114606,"åĵģå¾·":114607,"åħ¨éĿ¢åıijå±ķ":114608,"è¨ĪåĬĥ":114609,"æĢ»å·¥ä¼ļ":114610,"ä½Ľå±±å¸Ĥ":114611,"æĬĹè¡¡":114612,"å¼Ģåľº":114613,"éĴ±å¸ģ":114614,"åıĭ们":114615,"å«īå¦Ĵ":114616,"ç´¢èµĶ":114617,"è®ĬåĮĸ":114618,"æĮ¤åİĭ":114619,"æĮijè¡ħ":114620,"çŃīä¸Ģæī¹":114621,"æĿ¨æ¬¢":114622,"ä¸ĵå®¶åѦèĢħ":114623,"èĥ½è¾¾åΰ":114624,"èµ°è¿ij":114625,"è´«åĽ°åľ°åĮº":114626,"éĻIJæľŁ":114627,"ä¸į平衡":114628,"åĽ½åĨħå¸Ĥåľº":114629,"èµĽåľº":114630,"éħįèµĦ":114631,"è¦ģèĢĥèĻij":114632,"ä¸ĩåı°":114633,"æľĪæľ«":114634,"éĶ¥":114635,"åŃ«":114636,"æİ¥è§¦åΰ":114637,"åĩºäº§":114638,"æķĻåѸ":114639,"ä½ľå¼Ĭ":114640,"çļĦæľĢåIJİä¸Ģ":114641,"ä¿ĥæĪIJ":114642,"åIJ¸åıĸ":114643,"æ½ľèīĩ":114644,"被éªĹ":114645,"è¾ĵäºĨ":114646,"çĭIJçĭ¸":114647,"åįĩéĻį":114648,"è¿ĻäºĽä¸ľè¥¿":114649,"æĬķèµĦåŁºéĩij":114650,"çĶŁçī©åѦ":114651,"ç½ij绾èIJ¥éĶĢ":114652,"åIJijè®°èĢħ":114653,"èįīåľ°":114654,"æĢ¯":114655,"æľįåĬ¡èĥ½åĬĽ":114656,"éĥģéĹ·":114657,"åįķåĵģ":114658,"å¾Ĺ罪":114659,"æĺĵäºİ":114660,"个å¤ļå°ıæĹ¶":114661,"éĩįä»»":114662,"ä¸Ĭå®ĺ":114663,"æľ¬éĩij":114664,"çı¾åł´":114665,"溢价":114666,"æĺŁè¾°":114667,"æ´»åĬ¨çİ°åľº":114668,"丹麦":114669,"å¸Ŀçİĭ":114670,"æŁ¥æĺİ":114671,"åŃĺåľ¨äºİ":114672,"é¦Ļæ°´":114673,"æĬ½æ£Ģ":114674,"å®ŀéĻħä¸Ĭæĺ¯":114675,"æĸ°å¾ģç¨ĭ":114676,"è´¢åĬ¡ç®¡çIJĨ":114677,"æİĽ":114678,"åĨľåİĨ":114679,"éĥ½èĥ½å¤Ł":114680,"éĤ¯éĥ¸":114681,"çľŁå¯¦":114682,"ç»Ĭ":114683,"åĨµä¸Ķ":114684,"置身":114685,"ç¥Ī祷":114686,"çĿģå¼Ģ":114687,"æĮĩçĤ¹":114688,"å¼Ģæľº":114689,"西å®ģ":114690,"åĮĹ约":114691,"积水":114692,"åĩºåĬ¨":114693,"åıijå±ķ模å¼ı":114694,"转æĬĺ":114695,"èĢĥçĤ¹":114696,"æľīç½ijåıĭ":114697,"è´«åĽ°æĿij":114698,"æĪijä»¬çŁ¥éģĵ":114699,"åĪĨéĶĢ":114700,"å±±èĦī":114701,"æ¯ĶæĭŁ":114702,"ä¼°ç®Ĺ":114703,"æĶ¹å»º":114704,"壮è§Ĥ":114705,"ç§īæĮģ":114706,"æıª":114707,"ç¦Ģ":114708,"åĮĸåѦåĵģ":114709,"ä¸ŃåĽ½åζéĢł":114710,"ä¸Ģæŀ¶":114711,"æīįè¡Į":114712,"æĭĽå¾ħ":114713,"åıĺæį¢":114714,"åīį线":114715,"幸好":114716,"è¿Ļæł·çļĦè¯Ŀ":114717,"å¿ĥè¡Ģ管":114718,"æĢ§çĸ¾çĹħ":114719,"åħ¨èĥ½":114720,"åĪij侦":114721,"ä¿¡æģ¯åıijå¸ĥ":114722,"æĺ¾çĦ¶æĺ¯":114723,"éĿĴéĵľ":114724,"åIJĥä»Ģä¹Ī":114725,"ç͵价":114726,"æ³ķå¾ĭè§Ħå®ļ":114727,"çħ²":114728,"çĵ·åύ":114729,"èĤīç±»":114730,"æıĴåħ¥":114731,"åĹľ":114732,"è¿Łè¿Ł":114733,"ä¸ĢçĤ¹éĥ½ä¸į":114734,"è¿ĺåĮħæĭ¬":114735,"èĪįä¸įå¾Ĺ":114736,"æłĩå¿ĹæĢ§":114737,"æľĪ以æĿ¥":114738,"ç³ĸæŀľ":114739,"éĥ½åºĶ该":114740,"çݯå¢ĥåį«çĶŁ":114741,"èĪªè¡Į":114742,"éĥijéĩį":114743,"ç½ijæĬķ":114744,"åįģä½³":114745,"ç§ģä¸ĭ":114746,"æļ´è·Į":114747,"åĬłå¿«åıijå±ķ":114748,"产åĵģçłĶåıij":114749,"åĪĽéĢłåĩº":114750,"æĢ»è§īå¾Ĺ":114751,"åºķçĽĺ":114752,"èķĬ":114753,"åĩºå¸Ńä¼ļè®®":114754,"主æĿ¿":114755,"æĹ¥æĻļéĹ´":114756,"å®ĺæĸ¹å¾®åįļ":114757,"å¼ķç͍æĹ¥æľŁ":114758,"åķĻæİĪ":114759,"ç͵åŃIJ产åĵģ":114760,"è¡°éĢĢ":114761,"çķĻåŃĺ":114762,"çģ«åĬĽ":114763,"çĴ§":114764,"çļĤ":114765,"åħ¼åħ·":114766,"éĩįè¿Ķ":114767,"é¢Ĩçķ¥":114768,"åĪĩéϤ":114769,"åĨįçĶŁèĥ½æºIJ":114770,"å®ŀåľ¨å¤ª":114771,"çIJĨ论ä¸Ĭ":114772,"ä¸īå±Ĥ":114773,"ä¸ĸçķĮåIJĦåĽ½":114774,"å®ľæĺĮ":114775,"èĢ³è¾¹":114776,"宽æķŀ":114777,"æ±īæĹı":114778,"çϽçϽ":114779,"è¿ĻéĩĮéĿ¢":114780,"çĶŁæ´»ä¹łæĥ¯":114781,"èµŀèµı":114782,"çͷ士":114783,"ä¸Ńä¿Ħ":114784,"车祸":114785,"åīĤéĩı":114786,"éϤåİ»":114787,"左边":114788,"çŃijçī¢":114789,"çīĽå¸Ĥ":114790,"å®¶åĬ¡":114791,"åķĥ":114792,"ç½®æį¢":114793,"ç´«å¤ĸ":114794,"ç´«å¤ĸ线":114795,"å¾Ģåīį":114796,"åĬĽåѦ":114797,"ç´§è·Ł":114798,"缮çļĦåľ¨äºİ":114799,"ç»®":114800,"ç¥Ĥ":114801,"宣è¨Ģ":114802,"äºĮæ°§åĮĸ":114803,"äºĮæ°§åĮĸ碳":114804,"æĹłç¼ĺ":114805,"ç²¾éĢļ":114806,"診":114807,"å¼ķåıijäºĨ":114808,"æľĢåħĪ":114809,"派驻":114810,"ä¸įå¿į":114811,"æĪijçΏ":114812,"å¹´ä¸ĭåįĬå¹´":114813,"æ·ĭå·´":114814,"没éĹ®é¢ĺ":114815,"åºĹåĨħ":114816,"è·ŁæĪij说":114817,"çĶŁäº§çĶŁæ´»":114818,"è§ĤæľĽ":114819,"æ¸į":114820,"被æī§è¡Į":114821,"被æī§è¡Į人":114822,"èĪľ":114823,"æİº":114824,"ä¸Ģç§Ĵ":114825,"èįīåĿª":114826,"åij¼åĴĮ":114827,"åij¼åĴĮ浩":114828,"åij¼åĴĮ浩çī¹":114829,"人æ°ijéĵ¶è¡Į":114830,"çĦķåıij":114831,"è¯ģåĪ¸äº¤æĺĵ":114832,"çķĶ":114833,"æľºèĥ½":114834,"妾":114835,"æĻļå¹´":114836,"å·¥åķĨèģĶ":114837,"åİŁåŀĭ":114838,"è§Ĵ度çľĭ":114839,"æĬ¥ç¤¾":114840,"è¯įæĿ¡":114841,"躲éģ¿":114842,"éĩįåIJ¯":114843,"å¤ķéĺ³":114844,"èĤ¡æĿĥ转让":114845,"åľ¨ä¸Ģ":114846,"åľ¨ä¸ĢæĹģ":114847,"社ä¼ļåĮĸ":114848,"åıijå±ķåİĨç¨ĭ":114849,"æĭĸæ¬ł":114850,"使èĢħ":114851,"ä¸İåIJ¦":114852,"æĸ°å±ĢéĿ¢":114853,"ä»Ĭ天æĪij们":114854,"é½IJèģļ":114855,"对æĪij说":114856,"éĢĴ交":114857,"æľªæĽ¾":114858,"èİĬ":114859,"éĸī":114860,"亲æīĭ":114861,"è§ĴéĢIJ":114862,"æľīé»ŀ":114863,"ç¨İçİĩ":114864,"ä½İ声":114865,"é»ĺå¥ij":114866,"æĻ®æ³ķ":114867,"大ä¸ĵ":114868,"第äºĮ大":114869,"ä½ıåĿĢ":114870,"æĶ¾è¿Ľ":114871,"äºĮæĪĺ":114872,"亲身":114873,"åĽºåĮĸ":114874,"ä¸ĭ乡":114875,"åħ³éĶ®æĬĢæľ¯":114876,"åĽŀæĥ³":114877,"æĬ¥åĪĬ":114878,"æ¶ĤæĬ¹":114879,"èĹıçĿĢ":114880,"ç¥ĿæĦ¿":114881,"åįĩ温":114882,"çĶļèĩ³è¿ŀ":114883,"åħ¬åħĥåīį":114884,"ç¾İæĸ¹":114885,"è¯ļå®ŀ":114886,"æĹłåģ¿":114887,"å¥Ń":114888,"å°ıå¿ĥ翼":114889,"å°ıå¿ĥ翼翼":114890,"两æīĭ":114891,"温馨æıIJ示":114892,"ä»¿çľŁ":114893,"æĥ¶":114894,"èĥ¡åŃIJ":114895,"å·¥ä½ľç«Ļ":114896,"硬çĽĺ":114897,"ç«¿":114898,"åĤ³éĢģ":114899,"åħ¨æł¡":114900,"é²ľæ´»":114901,"çĴĢçĴ¨":114902,"ç»ĵå°¾":114903,"æį¢æĿ¥":114904,"æĪĢ":114905,"ä½İä½į":114906,"ä¸ĩåħĥ以ä¸Ĭ":114907,"åĬłåĪĨ":114908,"æİ¨ä»ĭä¼ļ":114909,"çIJĨèµĶ":114910,"å¾·å°Ķ":114911,"æĬĹè®®":114912,"æ´¼":114913,"åĸ§":114914,"åŁİéĻħ":114915,"å¾Īæ£Ĵ":114916,"人æŃ»äº¡":114917,"ä¼ļå±ķä¸Ńå¿ĥ":114918,"äºĴèģĶäºĴéĢļ":114919,"èĸĦèĨľ":114920,"éĩįé»ŀ":114921,"ç¦ģæ¯Ĵ":114922,"åĨ·ç¬ij":114923,"大家åı¯ä»¥":114924,"é¦ĸ缸":114925,"è¿ijè·Ŀ离":114926,"æµ®çݰ":114927,"ç§ĺè¯Ģ":114928,"èµ·é£ŀ":114929,"æIJ¶":114930,"羣åģĩ":114931,"æģķ":114932,"å°ıåºĹ":114933,"æ°ijçľ¾":114934,"åıijå¸ĥåħ¬åijĬ":114935,"ä¾§éĩį":114936,"å¾ĺå¾Ĭ":114937,"æĢĶ":114938,"æªIJ":114939,"æķ°çĽ®":114940,"åī¯ç§ĺ书éķ¿":114941,"两åı¥":114942,"éļIJçŀĴ":114943,"åıĮåıĮ":114944,"æīĭæĦŁ":114945,"èij¡äº¬":114946,"éģĹå¿ĺ":114947,"鬥":114948,"è¿Ļä¸ªåľ°æĸ¹":114949,"说çļĦè¯Ŀ":114950,"å·¡åĽŀ":114951,"è¿Ŀ竳":114952,"æī¾å·¥ä½ľ":114953,"æĶ¯çIJĥéĺŁ":114954,"裡éĿ¢":114955,"æĺ¾ç¤ºåĩº":114956,"èĩ³å°Ĭ":114957,"两级":114958,"åīįæ®µæĹ¶éĹ´":114959,"çĺ¦èº«":114960,"èĤ¢ä½ĵ":114961,"æ¯į親":114962,"æīĭç»Ńè´¹":114963,"汽车è¡Įä¸ļ":114964,"æİ©çĽĸ":114965,"æİ§èĤ¡éĽĨåĽ¢":114966,"åı£å¾Ħ":114967,"æĶ¿çŃĸæİªæĸ½":114968,"海绵":114969,"åħ¨éķĩ":114970,"äºĭåħ³":114971,"å¸Ńæī§è¡Į":114972,"å¸Ńæī§è¡Įå®ĺ":114973,"éĤ£æ¬¡":114974,"åı¯èĥ½åĩºçݰ":114975,"ä¸Ńå¿ĥåŁİå¸Ĥ":114976,"翻身":114977,"ä¹Łç®Ĺ":114978,"ä¾µçķ¥":114979,"åĸĩåıŃ":114980,"æ¯ı次éĥ½":114981,"è§ħ":114982,"éĻ¢éĻ¢éķ¿":114983,"å§ĭäºİ":114984,"èѦåĬ¡":114985,"è᝿ĿIJ":114986,"å±łæĿĢ":114987,"æľ¬èº«å°±":114988,"éļıæĹ¶éļı":114989,"éļıæĹ¶éļıåľ°":114990,"åĶ®åįĸ":114991,"æĹłäººé©¾é©¶":114992,"é¢ħ":114993,"åĵģ質":114994,"åĺ²ç¬ij":114995,"è·ijåİ»":114996,"åħĭéĩĮæĸ¯":114997,"çķ¸å½¢":114998,"修饰":114999,"磩éĺµ":115000,"éŁ³ä¹IJä¼ļ":115001,"æŁ³å·ŀ":115002,"齡":115003,"ä¼ļè°Ī":115004,"æŃ£çīĪ":115005,"ä¹ŁåIJĮæł·":115006,"æļ§æĺ§":115007,"è¡ĮæĶ¿éĥ¨éŨ":115008,"ä¹ĸä¹ĸ":115009,"èĤ¤èī²":115010,"æĹ¶ä»»":115011,"羣åĪĩ":115012,"æľĪä¸ĭ":115013,"æľĪä¸ĭæĹ¬":115014,"举æĸ¹è´¢å¯Į":115015,"è£ħä¿®åħ¬åı¸":115016,"éĢĢè¿ĺ":115017,"åĭĺå¯Ł":115018,"åĵ¥ä¼¦":115019,"åĵ¥ä¼¦æ¯Ķäºļ":115020,"çĭ¬ä¸Ģ":115021,"çĭ¬ä¸ĢæĹł":115022,"çĭ¬ä¸ĢæĹłäºĮ":115023,"è°ĥåij³":115024,"åİĭè¿«":115025,"åħ¨çIJĥæľĢ大":115026,"åł¡éķ¿":115027,"æĽ´ä½İ":115028,"åĪĨéĴŁåIJİ":115029,"åĽŀä¾Ĩ":115030,"åζåīĤ":115031,"åijĬè¯ī大家":115032,"çĤ¹éĴŁ":115033,"åįģä¸īå±Ĭ":115034,"åij¨åĽĽ":115035,"è¿Ļæł·ä¸Ģ":115036,"è¿Ļæł·ä¸ĢæĿ¥":115037,"èĭŁ":115038,"æľĽåİ»":115039,"æĪIJè¯Ń":115040,"å½ĵåį³":115041,"ç¬ij声":115042,"ä¹ĭåĬ¿":115043,"åĪijäºĭæ¡Īä»¶":115044,"æĮĤçĿĢ":115045,"ä½ķç§į":115046,"å°ı游æĪı":115047,"åĽ½å®¶æĪĺçķ¥":115048,"åĨ·åĨ·":115049,"å®ľå®¾":115050,"æIJºç¨ĭ":115051,"è¶ĭäºİ":115052,"åıįçľģ":115053,"常说":115054,"ä¸ĩæĪ·":115055,"åĥµå°¸":115056,"åįĥä¸ĩåĪ«":115057,"åıijçݰéĹ®é¢ĺ":115058,"åı¯çŁ¥":115059,"éŨæĪ·ç½ijç«Ļ":115060,"åģ¥åº·äº§ä¸ļ":115061,"åı³è¾¹":115062,"æµ·è¿IJ":115063,"è¿ijä¹İ":115064,"åĮ»æ²»":115065,"æĢ»ç®Ĺ":115066,"ä¸ĢåĪĨéĴŁ":115067,"æĭ§":115068,"ä¹Łæľīä¸ĢäºĽ":115069,"ä¾Ľç͵åħ¬åı¸":115070,"å»īä»·":115071,"帮ä»ĸ":115072,"æŃ¤æ¬¡æ´»åĬ¨":115073,"åıªèĥ½è¯´":115074,"èĬĭ":115075,"çīĩ段":115076,"åŃĺåľ¨éĹ®é¢ĺ":115077,"ä½łä¼ļåıijçݰ":115078,"è½®å»ĵ":115079,"ç½ijéĢļ":115080,"æ»¨æ±Ł":115081,"æİĪä¿¡":115082,"é»İæĺİ":115083,"ä¸įå±ŀäºİ":115084,"约åįł":115085,"éķ¿æ²Ļå¸Ĥ":115086,"èĥļèĥİ":115087,"åħĥä»¶":115088,"éĻĨåĨĽ":115089,"購買":115090,"æĮĩæľĽ":115091,"å®ŀä¹łçĶŁ":115092,"çī¹çĤ¹æĺ¯":115093,"çıłæ±Ł":115094,"çľĭä¸įåĩº":115095,"ä¸įè§ģäºĨ":115096,"ç¼ī":115097,"éĺµèIJ¥":115098,"åĶIJæľĿ":115099,"没å¿ħè¦ģ":115100,"åĽ½åľŁèµĦæºIJ":115101,"ç»ıæµİåѦ家":115102,"åIJĪèĤ¥å¸Ĥ":115103,"çIJ¢ç£¨":115104,"ç¡®åĪĩ":115105,"åŁİå¸Ĥåıijå±ķ":115106,"çŃ·åŃIJ":115107,"人æ°ijæľįåĬ¡":115108,"满åĪĨ":115109,"è¿·ä¿¡":115110,"ä½ľèĢħæľ¬äºº":115111,"æĸĩ竳æĿ¥æºIJ":115112,"ç«Ļç«ĭ":115113,"æŀĦæĪIJäºĨ":115114,"è¾Ľåĭ¤":115115,"è¶ħ强":115116,"éĶļ":115117,"åīįä¸īåŃ£åº¦":115118,"å°±è§īå¾Ĺ":115119,"å´ĩé«ĺ":115120,"è¶Ĭä¾Ĩ":115121,"è¶Ĭä¾Ĩè¶Ĭ":115122,"å¸ĤåľºèIJ¥éĶĢ":115123,"综åIJĪç´łè´¨":115124,"åŃļ":115125,"侮辱":115126,"äºĮåŃĹ":115127,"å·¥ä½ľä»»åĬ¡":115128,"åı²ä¸ĬæľĢ":115129,"æľĢä¼ĺ":115130,"åIJ©åĴIJ":115131,"表çϽ":115132,"èİ«åIJį":115133,"èİ«åIJįåħ¶":115134,"èİ«åIJįåħ¶å¦Ļ":115135,"å¹£":115136,"åIJĮå¿Ĺ们":115137,"建设çĶ¨åľ°":115138,"åĦĢ":115139,"éħįåģ¶":115140,"弩":115141,"åͱçīĩ":115142,"æīĭèĦļ":115143,"åħ¼ä»»":115144,"åģľæĶ¾":115145,"æŃ£å®Ĺ":115146,"æĸ°åĨľæĿij":115147,"åĤ¬çĶŁ":115148,"æīĢåŃ¦æł¡":115149,"å¿µä½Ľ":115150,"åͤéĨĴ":115151,"åħ±åĪĽ":115152,"æĭīä¸ģ":115153,"èĥĮçĿĢ":115154,"çĶŁæĢģä¿ĿæĬ¤":115155,"åı£å¤´":115156,"æĸ¹åIJijçĽĺ":115157,"調æķ´":115158,"æĭĽèģĺä¿¡æģ¯":115159,"åħ¶ä»ĸåĽ½å®¶":115160,"ç®Ģæĺĵ":115161,"åĮ¿åIJį":115162,"è¯Ħæµĭ":115163,"æĺ¯ä¸Ģ座":115164,"çīĭ":115165,"足迹":115166,"çIJĨè§£åĴĮ":115167,"æľĢåıĹ":115168,"å¿ĥè·³":115169,"çĪ¶è¦ª":115170,"éĿŀ常åĸľæ¬¢":115171,"èĭ¦éļ¾":115172,"æĬĢå¸Ī":115173,"æ°ijæĦı":115174,"æĪĺåĽ½":115175,"æĽ¿è¡¥":115176,"津贴":115177,"ä¸ŃåĽ½ä¼łç»Ł":115178,"åIJĦè¡Į":115179,"åIJĦè¡ĮåIJĦ":115180,"åIJĦè¡ĮåIJĦä¸ļ":115181,"第äºĶå±Ĭ":115182,"èį·èĬ±":115183,"æĦıèŃĺ":115184,"票价":115185,"åĪĨæµģ":115186,"æĿİçϽ":115187,"æ±ŁåĮĹ":115188,"æİĴæĸ¥":115189,"ä½ĵéĩı":115190,"åĮħåIJ«äºĨ":115191,"åĪĺæŁIJ":115192,"çݰå¦Ĥä»Ĭ":115193,"å·¥èīºåĵģ":115194,"è¿Ļç§įæĸ¹æ³ķ":115195,"åĬŀåħ¬æ¥¼":115196,"ç͵工":115197,"çħĻ":115198,"åį¡çīĩ":115199,"å¹´å¹´åºķ":115200,"ä¸ĵ项èµĦéĩij":115201,"åĮ»ç§ij":115202,"åĮ»ç§ij大åѦ":115203,"åĽŀ头çľĭ":115204,"ä¸įå±ij":115205,"èĩªé©¾":115206,"没æĶ¶":115207,"æīĵçĮİ":115208,"èĦ¸éĥ¨":115209,"åıĥèĢĥ":115210,"å°Ĩ士":115211,"è´«åĽ°äººåı£":115212,"çIJĨæĥ³ä¿¡å¿µ":115213,"é£İå°ļ":115214,"人æīįéĺŁä¼į":115215,"çij¾":115216,"æĿ¥è¿ĻéĩĮ":115217,"æ´Ĺ涤":115218,"å¹´èĸª":115219,"èĭįçϽ":115220,"ä¸ĩäºĭ":115221,"è¯¾æľ¬":115222,"åºĵéĩĮ":115223,"ç´¾":115224,"ç´¾åijĺ":115225,"èµŀç¾İ":115226,"ç©¿æĪ´":115227,"è£½ä½ľ":115228,"èµŀæĪIJ":115229,"ä¸Ģä¾§":115230,"å½ĵåľ°äºº":115231,"æĭİ":115232,"纸质":115233,"ä½Ļ个":115234,"éĶĤçĶµæ±ł":115235,"æľºåŀĭ":115236,"éĻ¢éϢ士":115237,"åģļå·¥":115238,"å¼łè´´":115239,"ç¥Ľæĸij":115240,"æ®ĸæ°ij":115241,"å¥ij约":115242,"æ¹ĺæ½Ń":115243,"æIJĸ":115244,"åŃĺè´§":115245,"交éĢļ大åѦ":115246,"è¶ģçĿĢ":115247,"æĸĩçī©ä¿ĿæĬ¤":115248,"å¤ĩæĪĺ":115249,"éĩĩ纳":115250,"åįĬæľĪ":115251,"æľĢåħ³éĶ®":115252,"æľĢåħ³éĶ®çļĦ":115253,"æİ¥éĢģ":115254,"æĶ¶åī²":115255,"åıįåĢĴ":115256,"çĥĽ":115257,"æ½Ķ":115258,"ä¼Łå¤§å¤įåħ´":115259,"çļĦè¯Ŀè¯Ń":115260,"容å¿į":115261,"å®ļéĩı":115262,"æķĹ":115263,"åĵģçīĮ形象":115264,"æīŃ转":115265,"åĽ½å®¶éĩįçĤ¹":115266,"èĨĿçĽĸ":115267,"ä¸Ģ楼":115268,"大éϏ":115269,"éĤªæģ¶":115270,"åĽŀåij³":115271,"çĮ¿":115272,"çĿ¡åīį":115273,"æĹłè¾ľ":115274,"çĹħæ¯ĴæĦŁæŁĵ":115275,"æľºæ¢°åĮĸ":115276,"çĤ¹äº®":115277,"溶解":115278,"åĩłä¹İæīĢæľī":115279,"è·ijéģĵ":115280,"ç͵è§Ĩæľº":115281,"åı¨":115282,"æijĩäºĨ":115283,"æijĩäºĨæijĩ头":115284,"èĩªè´Ł":115285,"综åIJĪåĪ©ç͍":115286,"èĩªå¦Ĥ":115287,"åİŁä¾Ĩ":115288,"ä¹Łä¸įæĥ³":115289,"èĬĤ课":115290,"è¿ĩåī©":115291,"çͲçĬ¶":115292,"çͲçĬ¶èħº":115293,"æĸ°ä¸ĸ纪":115294,"èĩªä¸»åĵģçīĮ":115295,"é«ĺå±Ĥ次":115296,"ä¸Ģè§Ĵ":115297,"è¡Įäºĭ":115298,"ç¥ĸåħĪ":115299,"å©ļåIJİ":115300,"éĹ´éļĻ":115301,"ç¼ĿéļĻ":115302,"è¿ĻæĶ¯":115303,"ä¸įæĸŃåĪĽæĸ°":115304,"å¾®åŀĭ":115305,"æĽĻåħī":115306,"享ç͍":115307,"ä¸ŃåĽ½ç§»åĬ¨":115308,"éĹŃçݯ":115309,"æī§æĦı":115310,"åıijå±ķæł¼å±Ģ":115311,"æł¸å¿ĥåĮº":115312,"éªļæī°":115313,"åħļåĴĮåĽ½å®¶":115314,"ä¸ŃåĽ½æĶ¿åºľ":115315,"帶èijĹ":115316,"ä¸ĩåįĥçĵ¦":115317,"åħ©äºº":115318,"äºİæĺ¯æĪij":115319,"åĽºä½ĵ":115320,"çªģå¦Ĥ":115321,"çªģå¦Ĥåħ¶":115322,"çªģå¦Ĥåħ¶æĿ¥":115323,"éĩĮç¨ĭç¢ij":115324,"çαç¾İ":115325,"æŁ¥éªĮ":115326,"åıĮèµ¢":115327,"éĹªåħī":115328,"楼å®ĩ":115329,"æĻı":115330,"æľīè¶³å¤ŁçļĦ":115331,"æŁĶæĢ§":115332,"ä¿¡æģ¯å®īåħ¨":115333,"管线":115334,"å¹¶ä¸įä¼ļ":115335,"åύ件":115336,"ä½łåºĶ该":115337,"çĿĢå®ŀ":115338,"æĺİæ¸ħ":115339,"æĬĹçĶŁç´ł":115340,"æīĵæŃ»":115341,"å®Įåħ¨ä¸įåIJĮ":115342,"èĬ±æ¤Ĵ":115343,"æĶ¾å®½":115344,"ä½İ端":115345,"åĽĽèĤ¢":115346,"åĮĹäº¬èµĽè½¦":115347,"éĽĨå¸Ĥ":115348,"æľªå©ļ":115349,"大å¹ħæıIJåįĩ":115350,"建çŃij设计":115351,"çĭ¬æľīçļĦ":115352,"æİ¢éĻ©":115353,"æ²³æµģåŁŁ":115354,"æħķ容":115355,"被çĽĹ":115356,"åĵºä¹³":115357,"èıģ":115358,"æĥ¬æĦı":115359,"è¶ĬæĿ¥è¶Ĭ好":115360,"广大群ä¼Ĺ":115361,"å¾·èĤ²":115362,"å¸Ĥåľºä»·æł¼":115363,"奥巴":115364,"奥巴马":115365,"èĬĤ缮ä¸Ń":115366,"两款":115367,"ä¸ĩä½Ļåħĥ":115368,"ç»´å°Ķ":115369,"çĶŁçī©ç§ijæĬĢ":115370,"åIJ¬èµ·æĿ¥":115371,"çłļ":115372,"æĭŁå®ļ":115373,"æ²¹çͰ":115374,"声èªī":115375,"建çŃijä¸ļ":115376,"éĻIJè´Ń":115377,"çīĩåŃIJ":115378,"çķľç¦½":115379,"ç½ijé¦ĸ页":115380,"ä¼Ĺçѹ":115381,"æĴŀåĩ»":115382,"åīįä¸įä¹ħ":115383,"åīįä¸ĸ":115384,"åĽĽä¸ªæĦıè¯Ĩ":115385,"æµĭç»ĺ":115386,"éĺ²ç©º":115387,"漫éķ¿çļĦ":115388,"æ²IJæµ´":115389,"æ¯Ķè¾ĥç®Ģåįķ":115390,"æµĭå®ļ":115391,"åĽŀè°ĥ":115392,"让人们":115393,"èĴĭä»ĭ":115394,"èĴĭä»ĭçŁ³":115395,"ç»ĵæĻ¶":115396,"å¢ŀæ·»äºĨ":115397,"æĿ¡è¯Ħ论":115398,"åī¯ä¼ļéķ¿":115399,"ä½ıæīĢ":115400,"ç»ĻåĩºäºĨ":115401,"è°ĥéħį":115402,"æ²ĸ":115403,"æľīç͍":115404,"æľīç͍çļĦ":115405,"ä¸ĢæĿ¡é¾Ļ":115406,"éĩİå¤ĸ":115407,"ç¼ĺåĪĨ":115408,"æ°¸è¿ľä¸įä¼ļ":115409,"æŀľæłij":115410,"大åıijå¿«ä¸ī":115411,"麻éĨī":115412,"äºijéĽĨ":115413,"åİ»åĵªéĩĮ":115414,"åħ¥å¸Ĥ":115415,"ä»»æĢ§":115416,"建档":115417,"建档ç«ĭ":115418,"建档ç«ĭåį¡":115419,"ä¸Ģ棵":115420,"社åįĢ":115421,"çĽ¸ä¼´":115422,"åļ·":115423,"å¡«åħħ":115424,"ä¸ĢæĹı":115425,"ç¾ģ":115426,"åıĸè¯ģ":115427,"èΰéĺŁ":115428,"åİĤåĮº":115429,"è¡·å¿ĥ":115430,"åıijå±ķéĺ¶æ®µ":115431,"é«ĺ强度":115432,"åĹĵåŃIJ":115433,"é¢Ĩè¡Ķ":115434,"楼主":115435,"大èĴľ":115436,"æŀķ头":115437,"粮油":115438,"é»Ħçĵľ":115439,"æĵĴ":115440,"å°ıçĭĹ":115441,"æĶ¹éĿ©å§Ķ":115442,"åįģåĪĨéĴŁ":115443,"é²ľèī³":115444,"åħ³ç¾½":115445,"çĭĢæħĭ":115446,"å®ŀç͍æĢ§":115447,"å°ijè§ģ":115448,"é£ŀæī¬":115449,"çͰéĩİ":115450,"æIJĤ":115451,"è¿Ļ个è¯į":115452,"åºĶæĢ¥é¢Ħæ¡Ī":115453,"è§Ĵ度æĿ¥çľĭ":115454,"æķ¬çķı":115455,"æ³ķå®Ŀ":115456,"åĸĦæĦı":115457,"æīĵæĸŃ":115458,"对åĨ³":115459,"çµķå°į":115460,"åĢŁæŃ¤":115461,"å¼ĢæºIJ":115462,"å°ı說":115463,"祺":115464,"å²ģ以ä¸ĭ":115465,"éĢĢå½¹åĨĽäºº":115466,"ä¸įä¹ħåīį":115467,"åĩºåİĤ":115468,"讽åĪº":115469,"æĿ¥çľĭçľĭåIJ§":115470,"éŃĶåħ½":115471,"çķĻä¸ĭæĿ¥":115472,"å±ħ室":115473,"åłħæĮģ":115474,"çľĭäºĨä¸Ģ":115475,"çľĭäºĨä¸Ģçľ¼":115476,"éĽĨåĽ¢æĹĹä¸ĭ":115477,"æĪĺæĪĺç»ĦåIJĪ":115478,"è®¤çľŁèIJ½å®ŀ":115479,"汽车产ä¸ļ":115480,"çī©çIJĨåѦ":115481,"æķµ":115482,"éĴĿ":115483,"åĽ¢éķ¿":115484,"ä¸įæĸŃæī©å¤§":115485,"èĤ©è´Ł":115486,"åıijå±ķ缮æłĩ":115487,"è³ĩéĩij":115488,"åīįç½®":115489,"ä¸ŃåĽ½åı¤ä»£":115490,"æŃ»åĪij":115491,"åħħåĪĨä½ĵçݰ":115492,"åħ³éŨ":115493,"ç¾İæĦŁ":115494,"æīĵåħ¥":115495,"æĬijéĥģçĹĩ":115496,"å°ijçĪ·":115497,"æłijæŀĿ":115498,"æ¶Īæģ¯ç§°":115499,"æ´Ľåħĭ":115500,"åį¯":115501,"è¿ĪåIJij":115502,"æİ¨åĭķ":115503,"ä»İä¸ļèĢħ":115504,"åݻ买":115505,"欢快":115506,"æĭ¥æĮ¤":115507,"马桶":115508,"æĬĬæİ§":115509,"æĶ¿åħļ":115510,"å¼łæī¬":115511,"客æłĪ":115512,"红æĺŁ":115513,"éĢģæĿ¥":115514,"åħ¨åŁŁæĹħ游":115515,"èĩªç§ģ":115516,"åįģäºĮæĿ¡":115517,"åı¹æģ¯":115518,"ä¸Ģèīĺ":115519,"ä¿Ŀè´¹":115520,"æĸ½å·¥çİ°åľº":115521,"æľī幸":115522,"ç»ŃèĪª":115523,"åı¯èĥ½æľĥ":115524,"èĥĮåıĽ":115525,"ä½£éĩij":115526,"ä¸īçŃīå¥ĸ":115527,"å¾Ī满æĦı":115528,"游æĪıåľ¬":115529,"群éĩĮ":115530,"æŀĦä»¶":115531,"åºıå¹ķ":115532,"太æ¹ĸ":115533,"æľ¨è´¨":115534,"æĻĭæ±Ł":115535,"çµĤæĸ¼":115536,"è·³è·ĥ":115537,"åĢºæĿĥ人":115538,"çŃī诸å¤ļ":115539,"æĶ¾åĩº":115540,"åħ³éĶ®æĹ¶åĪ»":115541,"æĦŁæŁĵèĢħ":115542,"é£ŀè¡Įåijĺ":115543,"èĥĨåĽº":115544,"èĥĨåĽºéĨĩ":115545,"æĬ±æŃī":115546,"åij¨äºĮ":115547,"æĸ°æĹ¶æľŁ":115548,"åĨ·éĵ¾çµģ":115549,"è¿Ļç§įæĸ¹å¼ı":115550,"该æĿij":115551,"åĽŀé¦Ī":115552,"åŁºçĿ£æķĻ":115553,"人åıĤ":115554,"æŀ¯çĩ¥":115555,"æī¹åıijå¸Ĥåľº":115556,"åħħåĪĨèĤ¯å®ļ":115557,"å¸ĤæĶ¿åįı":115558,"äºĭæ¥Ń":115559,"龸çİĭ":115560,"çĥŃæIJľ":115561,"åįģä¹Ŀ大":115562,"ä¼´æľī":115563,"ç¾İåĽ½æĢ»ç»Ł":115564,"åŁİå¸Ĥ管çIJĨ":115565,"ä¸ĭ令":115566,"èĥ¸åı£":115567,"åıªçŁ¥éģĵ":115568,"åij¨ä¸ī":115569,"ç͍æĪ¶":115570,"éѝ":115571,"å¿ĥè¡Ģ":115572,"带头人":115573,"åĮ»åĬ¡":115574,"åĮ»åĬ¡äººåijĺ":115575,"æİ§åζåύ":115576,"ä½ľåĵģåĨħ容":115577,"æĪĺåıĭ":115578,"åİĨå¹´":115579,"ä¸įåħĭ":115580,"ä¸įåħĭä¸įåıĬ":115581,"æĹ¥æŃ£å¼ı":115582,"è±IJå¯Į":115583,"ç¨İè´¹":115584,"æĹ¶æķĪ":115585,"å±ķä½į":115586,"è¡¡éĺ³":115587,"æĪ¿è²¸":115588,"çĪĨ款":115589,"ä¹IJæĦı":115590,"çͷ䏻":115591,"寬":115592,"æľĥèѰ":115593,"ä¹ĭå¤ľ":115594,"åIJĮ樣":115595,"ä¸įè¦ģ太":115596,"ä¼Ĭæĸ¯":115597,"ä¼Ĭæĸ¯åħ°":115598,"åŁºæľ¬åİŁåĪĻ":115599,"åİ»æİī":115600,"ä½İä¿Ŀ":115601,"个交æĺĵ":115602,"个交æĺĵæĹ¥":115603,"èģĬèģĬ":115604,"åĽĽä½į":115605,"åħļç»ĦæĪIJåijĺ":115606,"主è¦ģä»İäºĭ":115607,"å½±éŁ³":115608,"åĨĴåĩº":115609,"åij¼åIJ¸éģĵ":115610,"è¾¾å°Ķ":115611,"æľ¨åľ°æĿ¿":115612,"诡å¼Ĥ":115613,"çģ¯åħ·":115614,"çģ«çĥ§":115615,"è§£èĦ±":115616,"æĦĪåıij":115617,"æ¹ĸå·ŀ":115618,"é£İä¿Ĺ":115619,"æĸ°å½¢åĬ¿":115620,"æĸ°å½¢åĬ¿ä¸ĭ":115621,"è²Ŀ":115622,"èĦĵ":115623,"åĬ¨åĬĽçĶµæ±ł":115624,"é£ŀèι":115625,"飧æĢ§":115626,"åĪ©çī©":115627,"åĪ©çµ¦":115628,"ä¸į认è¯Ĩ":115629,"ç¼ĸç»ĩ":115630,"ä½ľåĿĬ":115631,"èģĮä¸ļæĬĢèĥ½":115632,"çľĭè¦ĭ":115633,"åĽ´æ£ĭ":115634,"æĺıè¿·":115635,"å½Ĵå±ŀäºİ":115636,"æĤ¬å´ĸ":115637,"éĨ«çĻĤ":115638,"å®ĭ代":115639,"åºĦæĿij":115640,"èĹķ":115641,"çĮĽçĦ¶":115642,"çĩĥæĸĻçĶµæ±ł":115643,"å®ŀä½ĵåºĹ":115644,"ä¸į足以":115645,"æĥħç·":115646,"æĥħç·Ĵ":115647,"å»ĬåĿĬ":115648,"ç͵åı°":115649,"åºĶåĬĽ":115650,"ä¸Ńå°ıåѦçĶŁ":115651,"èĥ¡åIJĮ":115652,"éī´åĪ«":115653,"åĨħç½®":115654,"乱象":115655,"æ¬ĬçĽĬ":115656,"å¼ĢæĶ¾å¼ı":115657,"åįļæĸĩ":115658,"讲课":115659,"çŃīåİŁåĽł":115660,"穷人":115661,"äº¤æĽ¿":115662,"æĬ¤çħ§":115663,"åıijå±ķæľºéģĩ":115664,"客åķĨ":115665,"åıįä¹ĭ":115666,"ç±³é¥Ń":115667,"å¹¶åıij":115668,"å¹¶åıijçĹĩ":115669,"æ±īåŃIJ":115670,"æŀľåĽŃ":115671,"对æĪijæĿ¥è¯´":115672,"åģıåIJij":115673,"æī¹ç¤º":115674,"读åIJİ":115675,"读åIJİæĦŁ":115676,"æĺİæĻº":115677,"åĽ´çĿĢ":115678,"åıį转":115679,"æĿ¨å¹Ĥ":115680,"ä¸ĵåįĸ":115681,"ä¸ĵåįĸåºĹ":115682,"åıĹéĻIJ":115683,"åºŁè¯Ŀ":115684,"æŀģå°ij":115685,"åįĪåIJİ":115686,"è¿Ľä¿®":115687,"åīĬåĩı":115688,"æľ¬ç§ijçĶŁ":115689,"ä¼ĺéĢī":115690,"åħīçħ§":115691,"åıĻäºĭ":115692,"åıĸæļĸ":115693,"åĮĹè·¯":115694,"æ¦ķ":115695,"èİĨçͰ":115696,"楼å±Ĥ":115697,"天èĬ±":115698,"天èĬ±æĿ¿":115699,"çĤľ":115700,"å·²ç»ıæľīäºĨ":115701,"è¶¾":115702,"çͳåįļ":115703,"ç͵éĺ»":115704,"åĬŁè¯¾":115705,"æŃ¥æŃ¥":115706,"éĤ£ä¹Ī容æĺĵ":115707,"æŃ¤æĸĩ":115708,"ä½°":115709,"计è¾ĥ":115710,"çīĩéĿ¢":115711,"ç͵影éĻ¢":115712,"ä¸įåħ¬å¹³":115713,"ä¸īæľŁ":115714,"æĹħ游èµĦæºIJ":115715,"å¤ļç§įå½¢å¼ı":115716,"è£Ĥç¼Ŀ":115717,"åIJİæİĴ":115718,"硬度":115719,"åĽŀæļĸ":115720,"éģĵæķĻ":115721,"è´«è¡Ģ":115722,"æ¸ħé¦Ļ":115723,"伤çĹħ":115724,"æĦı義":115725,"çļĦç¼ĺ":115726,"çļĦç¼ĺæķħ":115727,"åºĦ严":115728,"åıªæĺ¯ä¸ºäºĨ":115729,"æīĵæĬĺ":115730,"以ä¾Ĩ":115731,"滿足":115732,"çİĽä¸½":115733,"風éļª":115734,"æĸĩç§ij":115735,"éħįå¤ĩäºĨ":115736,"è¿Ľé£Ł":115737,"æ¶¡":115738,"è·¯ç¨ĭ":115739,"åı«å£°":115740,"ä¸Ńå¿ĥåŁİåĮº":115741,"æľīæīĢä¸įåIJĮ":115742,"張貼":115743,"é¢ĦæĬ¥":115744,"æľīå¤ļä¹Ī":115745,"è¿Ľè¡Įåħ¨éĿ¢":115746,"æĽ¾ç¶ĵ":115747,"ä¸ī代":115748,"å®ı大":115749,"æ¸ħæī«":115750,"éĢīåĩº":115751,"åĵªä¸Ģ个":115752,"主義":115753,"ä¾Ŀæĵļ":115754,"çļ®éĿ©":115755,"èµ¶æĿ¥":115756,"çŃĽæŁ¥":115757,"æ¨Ł":115758,"ä¿ĿèįIJ":115759,"åIJĥæĥĬ":115760,"æľĭåıĭ们对":115761,"ä»ĸæĺ¯ä¸Ģ个":115762,"åºŁæ°Ķ":115763,"æ»ħ":115764,"è´¢ç¨İ":115765,"æĿijæĿijæ°ij":115766,"èµĦäº§è´ŁåĢº":115767,"å®īå¨ľ":115768,"缮åīįåĽ½åĨħ":115769,"æĦŁè§īèĩªå·±":115770,"çµIJåIJĪ":115771,"éͦæłĩ":115772,"éͦæłĩèµĽ":115773,"æĽ´æ·±":115774,"åŁºæķ°":115775,"éħ¿éħĴ":115776,"çī¹èī²äº§ä¸ļ":115777,"åİĭå®ŀ":115778,"ä¾Ŀæ³ķ追究":115779,"æ·¡å®ļ":115780,"ç®ĢçĽ´å°±æĺ¯":115781,"å£ĵåĬĽ":115782,"æ°ijå¿ĥ":115783,"ä¸įåIJĪéĢĤ":115784,"çͱæŃ¤åı¯è§ģ":115785,"èµŀèªī":115786,"澤":115787,"åĩłå¹´åīį":115788,"åIJīä»ĸ":115789,"çł´æįŁ":115790,"è½»è½»åľ°":115791,"å²Ľå±¿":115792,"æĦıå¢ĥ":115793,"ä»Ģä¹Īåı«":115794,"åģĩè£ħ":115795,"éĢģè´§":115796,"å¹ķå¢Ļ":115797,"妥åįı":115798,"åĽ½æĹĹ":115799,"äºĨå¾Īä¹ħ":115800,"åĪĨ辨çİĩ":115801,"ç´Ķ":115802,"éĺ³åĮº":115803,"åĩŃçĿĢ":115804,"åģľè½¦ä½į":115805,"京éĥ½":115806,"éĶ£":115807,"æĵ¾":115808,"è¿ĽéŨ":115809,"åĪĺæµ·":115810,"åĽĽçº§":115811,"女足":115812,"è¡ĮæĶ¿å®¡æī¹":115813,"éģ¥æİ§":115814,"ä¸įéĮ¯":115815,"å¾Ĺå¾Ī好":115816,"ä¸ºçĽ®çļĦ":115817,"ä»įæľª":115818,"ç²¾è£ħ":115819,"éĢįéģ¥":115820,"尽头":115821,"çºłç¼ł":115822,"éłĺå°İ":115823,"æĭħè´Ł":115824,"æĪĸèĢħåħ¶ä»ĸ":115825,"åıªä¸įè¿ĩæĺ¯":115826,"åı®åĺ±":115827,"åģĩåĨĴ":115828,"æļĸæ°Ķ":115829,"çĽIJåŁİ":115830,"被è§Ĩ为":115831,"诺è´Ŀå°Ķ":115832,"ç»ĻäºĨæĪij":115833,"è¿ijåįĥ":115834,"éĩįåĽŀ":115835,"éĨĴäºĨ":115836,"çĶµè§£":115837,"忽çķ¥äºĨ":115838,"èĥĮéĥ¨":115839,"æĸĩæĺİåŁİå¸Ĥ":115840,"æºħ":115841,"è²ĵ":115842,"æĬµæĮ¡":115843,"åĸľæ¬¢åIJĥ":115844,"éĿĻéĿĻåľ°":115845,"å¾Īæ·±":115846,"åŁºç¡ĢçŁ¥è¯Ĩ":115847,"è¿ĩéĶĻ":115848,"çIJĨç§ij":115849,"交æµģåIJĪä½ľ":115850,"èĪĶ":115851,"èª¿æŁ¥":115852,"æħĪæĤ²":115853,"éĴ°":115854,"èĩ´ç͵":115855,"å®£ä¼łæ´»åĬ¨":115856,"åıĺéĩı":115857,"çļĦ人æĿ¥è¯´":115858,"æĹ¶éļĶ":115859,"ä¸įç®¡ä½ł":115860,"缸è¿ij":115861,"è´µéĩijå±ŀ":115862,"ä¹Łä¸įåı¯èĥ½":115863,"ç²īæľ«":115864,"åįĹçĵľ":115865,"çϽ马":115866,"åħīæºIJ":115867,"éĩijå¥ĸ":115868,"çĭ¬è§Ĵ":115869,"çĭ¬è§Ĵåħ½":115870,"妨ç¢į":115871,"ç»ĻåĬĽ":115872,"ä½Ĩä»į":115873,"å¼łå®¶åı£":115874,"èIJ¬åħĥ":115875,"渲æŁĵ":115876,"éķ¿å¤§äºĨ":115877,"è®°èĢħäºĨè§£":115878,"æĢĢçĿĢ":115879,"è¦ģåѦä¼ļ":115880,"游æĪı代":115881,"游æĪı代ç»ĥ":115882,"äºĮçϾ":115883,"æĦıè¯Ĩå½¢æĢģ":115884,"çݺ":115885,"计åĪĴçĶŁèĤ²":115886,"æī¾åĩĨ":115887,"åħ°èĬ±":115888,"è¿Ļ座åŁİå¸Ĥ":115889,"污泥":115890,"å®ĺæĸ¹å¾®ä¿¡":115891,"å½Ĵå±ŀ":115892,"æ°§æ°Ķ":115893,"éģİç¨ĭä¸Ń":115894,"åį°è±¡æ·±åĪ»":115895,"稳妥":115896,"çµIJæĿŁ":115897,"åŃķæľŁ":115898,"çĿĥ":115899,"åĿļåĽº":115900,"顺åĬ¿":115901,"æŀľèͬ":115902,"éĨ«å¸«":115903,"åİ®":115904,"ä¹Łæĺ¯å¦ĤæŃ¤":115905,"é¦Ĵ头":115906,"缸åĬ©":115907,"干线":115908,"ä¸Ģæľ¬ä¹¦":115909,"绥":115910,"æĮ¯å¥ĭ":115911,"èĤ¾èĦı":115912,"åĭķçī©":115913,"é£ŀè·ĥ":115914,"èıľåĵģ":115915,"å¤ļä½Ļ":115916,"å¤ļä½ĻçļĦ":115917,"éĢĿä¸ĸ":115918,"æģĭ人":115919,"å¼ĢåıijåĪ©ç͍":115920,"顺丰":115921,"éĩİå¿ĥ":115922,"æł¡å¤ĸ":115923,"æģIJé¾Ļ":115924,"éĿ¢åħ·":115925,"éķ¿è¾Ī":115926,"éļıå¤Ħ":115927,"éļıå¤Ħåı¯è§ģ":115928,"紧缺":115929,"éĩįä¸Ń":115930,"éĩįä¸Ńä¹ĭ":115931,"éĩįä¸Ńä¹ĭéĩį":115932,"奥æĸ¯":115933,"奥æĸ¯åį¡":115934,"ä¸Ģ个å¤ļ":115935,"ä¸Ģ个å¤ļæľĪ":115936,"ä¸įåı¯ç¼ºå°ij":115937,"æĸ°æł¼å±Ģ":115938,"æıIJæĮ¯":115939,"è¡Įè´¿":115940,"æ¼Ĥæµģ":115941,"èģĬåŁİ":115942,"åħ´å»º":115943,"è´¨æ£Ģ":115944,"ç§ģæľį游æĪı":115945,"æĽ´éĩįè¦ģ":115946,"è´®":115947,"çħľ":115948,"转åıĺ为":115949,"è¿Ļ两年":115950,"ä¿Ŀé²ľ":115951,"æī§æķĻ":115952,"çĥ¨":115953,"å¼Ģåıij建设":115954,"è¿IJèIJ¥ç®¡çIJĨ":115955,"误差":115956,"京åī§":115957,"å¸IJåı·":115958,"å·¥ä½ľä½ľé£İ":115959,"ä¸ĸä¿Ĺ":115960,"çϽ宫":115961,"å¤©åĽ½":115962,"å¤©åĽ½ç»§ç»Ń":115963,"å·´æĸ¯":115964,"èIJ¥åĪ©":115965,"åĵģæł¼":115966,"æĿijæ°ij们":115967,"æĪ¿è½¦":115968,"çŃīçĹĩçĬ¶":115969,"å¦Ĥå®ŀ":115970,"宸":115971,"å±Ĥ级":115972,"éĶĻè¿ĩäºĨ":115973,"ç»ĵå®ŀ":115974,"ç¬ijèĦ¸":115975,"羣å®ŀæĢ§":115976,"éĥ½å¸ĤæĬ¥":115977,"é¥Ńèıľ":115978,"åºĶ注æĦı":115979,"æĬ½çĥŁ":115980,"伪éĢł":115981,"åīįä¸Ģ天":115982,"éŃĶé¾Ļ":115983,"éŃĶé¾Ļ令çīĮ":115984,"约è°Ī":115985,"绣çѹæİ¨è¿Ľ":115986,"让ç͍æĪ·":115987,"åħ¨éĿ¢èIJ½å®ŀ":115988,"å¼Ħå¾Ĺ":115989,"è°Īæģĭçα":115990,"鸣æĪIJéķ¿":115991,"鸣æĪIJéķ¿è®°":115992,"æ´ĭæ´ĭ":115993,"çĸıæķ£":115994,"éĿ¢ç§¯çº¦":115995,"æµĵ缩":115996,"æĸ¯é¡¿":115997,"çĶŁæĢģåľĪ":115998,"æī§å¯¼":115999,"ç§»éĢģ":116000,"齿轮":116001,"æł¹æľ¬å°±ä¸į":116002,"缩åĩı":116003,"èµ°ä¸ĭåİ»":116004,"çĿ«æ¯Ľ":116005,"ä¹Łä¸įéĶĻ":116006,"åıįæĺłåĩº":116007,"èĭ¦æģ¼":116008,"缸åħ³æĶ¿çŃĸ":116009,"é«ĺ楼":116010,"ç²īèī²":116011,"æĬķèµĦé¢Ŀ":116012,"ä¸įç»ı":116013,"ä¸įç»ıæĦı":116014,"å®ģæĦ¿":116015,"èĪĮ头":116016,"æ»ĭçĶŁ":116017,"å®ģåİ¿":116018,"åīįåĪĹèħº":116019,"åĩ³":116020,"é£Łæ¬²":116021,"åıĸèĥľ":116022,"éĻ¢åŃIJ":116023,"ç´łè´¨æķĻèĤ²":116024,"滨å·ŀ":116025,"æĬ¢æĬĵ":116026,"å¼Ĥåij³":116027,"åĴļ":116028,"åĬį":116029,"宽éĺĶ":116030,"æļ´æ¶¨":116031,"æĥłåıĬ":116032,"è§Ħç¨ĭ":116033,"ä¾Ľåħ»":116034,"éĢģå¾Ģ":116035,"å±±åºĦ":116036,"举äºļ":116037,"å±ķé¦Ĩ":116038,"è§£éĶģ":116039,"æĹłè§Ĩ":116040,"éĻįèIJ½":116041,"è¿ŀäºij":116042,"è¿ŀäºij港":116043,"åıĤè°ĭ":116044,"çİĸ":116045,"ç¬ĥ":116046,"èĢĹè´¹":116047,"æī¿å¾·":116048,"社ä¼ļæķĪçĽĬ":116049,"åįĹæµ·ç½ij":116050,"åĪĽä¼¤":116051,"èIJ±":116052,"åħħæ²Ľ":116053,"ç½ijç«Ļ建设":116054,"大åºĨ":116055,"åĨįéĢł":116056,"åŃĹæł·":116057,"åħ¨æ°ijåģ¥èº«":116058,"èĮ«èĮ«":116059,"æµ®åĬ¨":116060,"åīįåı°":116061,"å¢ŀ设":116062,"éĢĽè¡Ĺ":116063,"åĢĴéĹŃ":116064,"æ³ķå¾ĭ顾éĹ®":116065,"çĸ®":116066,"çĹħçĹĩ":116067,"空åīį":116068,"请æķĻ":116069,"èĥľä»»":116070,"æĿĢèıĮ":116071,"æĪĺæĸĹæľº":116072,"ç»ĺåζ":116073,"å¤Ħæĸ¹":116074,"çªģåĽ´":116075,"çĮ«åĴª":116076,"æĬ¥åijĬæĺ¾ç¤º":116077,"ç¿Ł":116078,"çķ¶åľ°":116079,"æľĢéļ¾":116080,"纪å§Ķ书记":116081,"ä½İåİĭ":116082,"èĻļ空":116083,"è¿Ļéĥ¨ç͵影":116084,"产ä¸ļåįĩ级":116085,"è°·çα":116086,"è°·çαåĩĮ":116087,"æĬ¼éĩij":116088,"女æĸ¹":116089,"éĴ»çłĶ":116090,"æļĹæļĹ":116091,"è¿·ä½ł":116092,"æīĢè¬Ĥ":116093,"å¨ģå»ī":116094,"å¼ĢæľĹ":116095,"å²Ķ":116096,"çģ«çĤ¬":116097,"åIJĪçIJĨæĢ§":116098,"åħ¬åĬŀ":116099,"ä¼ļä¼ļéķ¿":116100,"éĺ´è°ĭ":116101,"å¼Ģå±Ģ":116102,"æĻ®éĢļè¯Ŀ":116103,"å᡿ĭī":116104,"å°ijåIJĥ":116105,"éĹªèĢĢ":116106,"æŀľæ±ģ":116107,"æī§è¡ĮåĬĽ":116108,"è°Ľ":116109,"æĬ¢åĬ«":116110,"é«ĺéĢŁåıijå±ķ":116111,"飬":116112,"åįĹæ²Ļ":116113,"é«ĺçŃīåŃ¦æł¡":116114,"æį¢ä¸ª":116115,"åı¯èĥ½åŃĺåľ¨":116116,"æĬĴ":116117,"è°±åĨĻ":116118,"被æĬĵ":116119,"æĿ¯åŃIJ":116120,"èĬĤèĥ½åĩıæİĴ":116121,"æ°ĶåĢĻåıĺåĮĸ":116122,"åĪĨåĪ¥":116123,"ä¸Ńæŀ¢":116124,"欢åij¼":116125,"åħī纤":116126,"è¿Ļ群":116127,"çľ¼çķĮ":116128,"åħ±åIJĮåıijå±ķ":116129,"çݰä»Ĭ":116130,"éĹ»è¨Ģ":116131,"çī¹èī²å°ıéķĩ":116132,"æķij人":116133,"éĻįæ°´":116134,"ä¸ĸçķĮä¸Ģæµģ":116135,"å°±é¤IJ":116136,"çŀ¥":116137,"å¤įä»ĩ":116138,"ç¾½æ¯Ľ":116139,"ç¾½æ¯ĽçIJĥ":116140,"è´©åįĸ":116141,"æºIJæ³ī":116142,"æĢ»ä½ĵè§ĦåĪĴ":116143,"åĬ¨æĦŁ":116144,"ä¸Ģ审":116145,"åĢŁéĴ±":116146,"è§ģæķĪ":116147,"èĬ±èįī":116148,"åIJĮä¸ļ":116149,"æŁ¥è©¢":116150,"åĽ½éĻħåIJĪä½ľ":116151,"ä¾ĽåĽ¾":116152,"åģ´":116153,"æłĵ":116154,"缸éĢļ":116155,"è°ĪåıĬ":116156,"è¿ĩç¨ĭå½ĵä¸Ń":116157,"é¦Ļèıĩ":116158,"åįģåĽĽæĿ¡":116159,"ä¸Ģå¼Ģå§ĭå°±":116160,"ä¸ĵåijĺ":116161,"æĺİ顯":116162,"æīĵéĢłåĩº":116163,"ä¸ĭéĿ¢æĪij们":116164,"æľºæ²¹":116165,"åı°è¯į":116166,"åŃIJå¼Ł":116167,"æľĢ常è§ģçļĦ":116168,"æĪijè®°å¾Ĺ":116169,"ç»°":116170,"æĤ¬æµ®":116171,"è¿ĺ羣æĺ¯":116172,"æĮĤåı·":116173,"åıĭåĸĦ":116174,"éĩį伤":116175,"çħ§äº®":116176,"æŃ¦èѦ":116177,"åĩºçݰéĹ®é¢ĺ":116178,"è¸Ĭè·ĥ":116179,"åľ°çIJĥä¸Ĭ":116180,"å¸Ĥ人大":116181,"åıĹ害人":116182,"å²IJ":116183,"åIJĮåѸ":116184,"éĩijèŀįå¸Ĥåľº":116185,"æľīçļĦçݩ家":116186,"å¸ĤæķĻèĤ²":116187,"å¸ĤæķĻèĤ²å±Ģ":116188,"åIJĦå¼Ĥ":116189,"ç·ļä¸Ĭ":116190,"æģº":116191,"æľī大éĩıçļĦ":116192,"åķĨæĬ¥":116193,"åįķåįķ":116194,"åħ¨é¢Ŀ":116195,"ä¾ĿæĹ§æĺ¯":116196,"好åĩłä¸ª":116197,"åĸµ":116198,"éĩįæķ´":116199,"çĶŁæ´»è´¨éĩı":116200,"æİ¢è®¿":116201,"åį°èĬ±":116202,"缼è¡Į":116203,"å¾®è§Ĥ":116204,"èĪįå¾Ĺ":116205,"åºŁå¼ĥçī©":116206,"积èĵĦ":116207,"å®ļå±ħ":116208,"æĤ¼":116209,"èĮ¸":116210,"çļĦ帮åĬ©":116211,"çļĦ帮åĬ©ä¸ĭ":116212,"亿åIJ¨":116213,"åŃĶéĽĢ":116214,"è¿ĻæĿ¡è·¯":116215,"饵":116216,"æĦĪåĬł":116217,"éķį":116218,"ä½ľæ¡Ī":116219,"èįĶæŀĿ":116220,"太å°ij":116221,"跻身":116222,"åħ¬çĽĬæ´»åĬ¨":116223,"çϽæĸij":116224,"æĬĢæľ¯æ°´å¹³":116225,"帧":116226,"æĹłçŁ¥":116227,"åºĶ该æĢİä¹Ī":116228,"éĢĢå¸Ĥ":116229,"æ¸Ń":116230,"åħ»çĮª":116231,"驼":116232,"ç¾¤å²Ľ":116233,"大åį«":116234,"ä¹ĺçĶ¨è½¦":116235,"èı²å°Ķ":116236,"è´´åIJ§":116237,"åģľä¸ĭæĿ¥":116238,"æľīæľºç»ĵåIJĪ":116239,"åĪ»èĭ¦":116240,"çļĦåľ°":116241,"çļĦåľ°æŃ¥":116242,"è¯ĬæīĢ":116243,"å¼ĢæĪĺ":116244,"èĢģçīĮ":116245,"çѹçłģ":116246,"åħ«å¤§ä»¥æĿ¥":116247,"楼æĪ¿":116248,"åŃĻæĤŁ":116249,"åŃĻæĤŁç©º":116250,"åħĴåŃIJ":116251,"第ä¸ĢæĿ¡":116252,"社交åªĴä½ĵ":116253,"æĥ³èµ·æĿ¥":116254,"大æ´ĭ":116255,"æĭ¼éٳ":116256,"è¿Ľåįļä¼ļ":116257,"è¿ĩåħ³":116258,"æ²¼":116259,"ç©¿æIJŃ":116260,"éĤ£ä¸Ģ天":116261,"çł´éŨ":116262,"æĬķæłĩ人":116263,"赢家":116264,"èĻļå¼±":116265,"æ¿ĥ":116266,"å®īæ£Ģ":116267,"客家":116268,"çĭ¬ç«ĭèij£äºĭ":116269,"æīĭåĬ¿":116270,"åīµéĢł":116271,"åľĨ满å®ĮæĪIJ":116272,"为主线":116273,"好å¥ĩå¿ĥ":116274,"é¢ĨåľŁ":116275,"çªĸ":116276,"åħ¸åŀĭæ¡Īä¾ĭ":116277,"çªģåıijäºĭä»¶":116278,"åºķæ°Ķ":116279,"头æĻķ":116280,"å®Ľå¦Ĥ":116281,"觸":116282,"æ¸ħæ·¡":116283,"åļ¼":116284,"åģľç͵":116285,"ç²īå°ĺ":116286,"éĻįä½İæĪIJæľ¬":116287,"æĶ¾æīĭ":116288,"è®°èĢħ表示":116289,"æĭĸå»¶":116290,"éªĩ":116291,"æ®ĭå¿į":116292,"çľģæķĻèĤ²":116293,"çľģæķĻèĤ²åİħ":116294,"é«ĺé¢Ŀ":116295,"éĦĻ":116296,"æ¥ŀ":116297,"åĨħç§ij":116298,"èIJ¥ä¸ļé¢Ŀ":116299,"åŁºçŁ³":116300,"æµģæ·Į":116301,"主æĹ¨":116302,"éĺIJéĩĬ":116303,"建åįİ":116304,"æĥĬåı¹":116305,"çī¢åĽºæłijç«ĭ":116306,"æĺ¯åIJ¦åŃĺåľ¨":116307,"建åĨĽ":116308,"éĽ¾éľ¾":116309,"åħ¬è®¤":116310,"åħ¬è®¤çļĦ":116311,"æ°¨åŁº":116312,"æ°¨åŁºéħ¸":116313,"åīįåĩłå¹´":116314,"åιéĤ£":116315,"æ±Łä¸ľ":116316,"å·¥æ¥Ń":116317,"ä¸ĢçĤ¹ä¹Łä¸į":116318,"修士":116319,"äºĨä¸Ģéģį":116320,"åĪģ":116321,"æ»ļæ»ļ":116322,"åĪĨæł¡":116323,"羣çα":116324,"è¡ĢèĦī":116325,"æĢ¥åī§":116326,"ä¸Ģ群人":116327,"羯":116328,"æĪIJé¾Ļ":116329,"ç²¾ç¥ŀçĹħ":116330,"缸åħ³äººåijĺ":116331,"éĿĵ丽":116332,"ä¸īåŃ£åº¦":116333,"åĪĴå®ļ":116334,"ä¸ĸçķĮ第ä¸Ģ":116335,"éĢļä¿Ĺ":116336,"åķĨä¸ļåľ°äº§":116337,"åĬŁèĥ½æĢ§":116338,"èµĦæľ¬ä¸»ä¹ī":116339,"详è§ģ":116340,"æĬĵæįķ":116341,"æĸĩæĺĮ":116342,"å®Ŀå®ī":116343,"è£ħéħįå¼ı":116344,"æºIJæºIJ":116345,"æºIJæºIJä¸įæĸŃ":116346,"çĶŁæĢķ":116347,"纵åIJij":116348,"壽":116349,"çľ¼è¢ĭ":116350,"èĤīä½ĵ":116351,"åı¤ä»Ĭ":116352,"èŀįåªĴä½ĵ":116353,"åģī":116354,"æł¼æľĥåĵ¡":116355,"çĥ·":116356,"åĬŁç͍":116357,"æīŃ磩":116358,"绿èī²éĢļéģĵ":116359,"åī§ç»Ħ":116360,"å¼±åĬ¿":116361,"è´¨éĩıéĹ®é¢ĺ":116362,"éĻIJé¢Ŀ":116363,"éªĨ":116364,"éģµä¹ī":116365,"å¯Ŀ室":116366,"æĥ³å¿µ":116367,"åł±åijĬ":116368,"ä»ħ次":116369,"ä»ħ次äºİ":116370,"èŀįåĪĽ":116371,"æĭĽèģĺä¼ļ":116372,"åºĬåŀ«":116373,"转åŀĭåıijå±ķ":116374,"ä¸ŃåĽ½çĶµä¿¡":116375,"åIJ¬è¯Ŀ":116376,"è«ĭæ±Ĥ":116377,"大éĥ¨åĪĨ人":116378,"æ´»å¾Ĺ":116379,"åĵŃæ³£":116380,"è¶Ļ":116381,"åıijçĹħçİĩ":116382,"ä¸į符":116383,"åĨĽå®ĺ":116384,"é¢Īæ¤İ":116385,"æĸ°åĨłçĸ«æĥħ":116386,"æŁ¬åŁĶ":116387,"æŁ¬åŁĶ寨":116388,"ä»»ä½ķå½¢å¼ı":116389,"人éĻħ":116390,"人éĻħåħ³ç³»":116391,"æĢ»æī¿åĮħ":116392,"å¹³åĿĩæ¯ı":116393,"æģŃåĸľ":116394,"åĦĺ":116395,"åħµé©¬":116396,"è¿Łåΰ":116397,"工伤":116398,"çīĪæĿĥå½Ĵ":116399,"çīĪæĿĥå½ĴåİŁ":116400,"æĭ¥æĬ¤":116401,"ç³Ĭæ¶Ĥ":116402,"å¹²æ¶ī":116403,"å°ijä¸įäºĨ":116404,"æĥ³æī¾":116405,"è´¹çİĩ":116406,"该éĻ¢":116407,"èŀįåĮĸ":116408,"è¿İåIJĪ":116409,"è§ĨåIJ¬èĬĤ缮":116410,"æł¼ç¶²ç«Ļ":116411,"çľīæ¯Ľ":116412,"欢è¿İ大家":116413,"å®¶åºŃæķĻèĤ²":116414,"ä¾µèļĢ":116415,"ç»Ļä½łä»¬":116416,"è¡Ģ液循çݯ":116417,"å¯Ħæīĺ":116418,"å°ĸåı«":116419,"以ä¸ĭåĩłä¸ª":116420,"è¿ĺ以为":116421,"åħ¶ä»ĸçݩ家":116422,"ç¬ijç¬ij":116423,"æīĵåIJ¬":116424,"èĩªçĦ¶ç§ijåѦ":116425,"åŁºç«Ļ":116426,"ä¹Ŀå·ŀ":116427,"ä¿Ŀ驾":116428,"ä¿Ŀ驾æĬ¤":116429,"ä¿Ŀ驾æĬ¤èĪª":116430,"æĶ¾çľ¼":116431,"çŁ¥åIJįä¼ģä¸ļ":116432,"縮":116433,"稽":116434,"æļĩ":116435,"使çĶ¨ç¶²è·¯":116436,"é¢ĦçķĻ":116437,"大象":116438,"åıijæĺİä¸ĵåĪ©":116439,"æĸĩ娱":116440,"éĢłç¦ı":116441,"湿润":116442,"éĿ¢æĿ¡":116443,"æ¶Īè´¹åįĩ级":116444,"è®Ĭå¾Ĺ":116445,"åĩłåIJį":116446,"ä»Ħ":116447,"认æ¸ħ":116448,"è¿ľæĻ¯":116449,"æıĴ座":116450,"诸侯":116451,"åıĺæĢģ":116452,"ç¦ı彩":116453,"è´§æŀ¶":116454,"失æİ§":116455,"ç§»åĬ¨ç«¯":116456,"ä¸Ĭåı¸":116457,"éĢłçº¸":116458,"å¸ĥæľĹ":116459,"çĴĩ":116460,"åı°åįĹ":116461,"åĮĹ京åĨ¬å¥¥":116462,"èĵĿçīĻ":116463,"éķ¿çŁŃ":116464,"æĬĺå°Ħ":116465,"ç»ijæŀ¶":116466,"å¯Ĵåģĩ":116467,"è½¬åŁºåĽł":116468,"æĢ¥äºİ":116469,"æŃ£åĵģ":116470,"åħħ滿":116471,"大纲":116472,"æĬĹä½ĵ":116473,"è¨ĵç·´":116474,"æĶ¶ç´§":116475,"æ¯Ķè³½":116476,"åħµåĬĽ":116477,"æľ¬æĽ¸":116478,"äºĮ代":116479,"æĢ¥è¯Ĭ":116480,"æĸĩæ¡Ī":116481,"ç»ıåķĨ":116482,"æĻ¨æĬ¥":116483,"æ£ĺ":116484,"æĢ»ä¹¦è®°åľ¨":116485,"åıĹéĤĢ":116486,"äºĶåĽĽ":116487,"å²ŃåįĹ":116488,"çαåIJĥ":116489,"åŁĥå°Ķ":116490,"å¿ĥå¢ĥ":116491,"è¦ĨçĽĸéĿ¢":116492,"å®ŀåľ¨æĺ¯å¤ª":116493,"æł¹åºķ":116494,"纷纷表示":116495,"åĹħ":116496,"éļıçĿĢæĹ¶éĹ´":116497,"åİĨåı²æĤłä¹ħ":116498,"éħī":116499,"æĢ»éĺŁ":116500,"主é¢ĺæ´»åĬ¨":116501,"éĹ®åį·":116502,"é©¿ç«Ļ":116503,"æı¡ä½ı":116504,"åı¯èĥ½å¯¼èĩ´":116505,"æ°ijéĸĵ":116506,"éĸĭåķŁ":116507,"ä½Ĩä¸įéĻIJ":116508,"ä½Ĩä¸įéĻIJäºİ":116509,"åįģéĩĮ":116510,"娥":116511,"æįŁèĢĹ":116512,"çĸı导":116513,"çݯ氧":116514,"ç¥ŀéĢļ":116515,"çαå°Ķ":116516,"çαå°Ķåħ°":116517,"æľ´å®ŀ":116518,"å¿«æĬ¥":116519,"æĶ¶åıĹ":116520,"æĪĸ許":116521,"èĥĮéĿ¢":116522,"æĸĩåĮĸä¼łåªĴ":116523,"ä¸īåĢĭ":116524,"æĶ»åĬ¿":116525,"å®ī举":116526,"å®īä¸ľå°¼":116527,"åĿĩå·²":116528,"顾èĻij":116529,"éĦŃ":116530,"è¿Ļå®¶åħ¬åı¸":116531,"åħ¬åijĬç§°":116532,"æıIJä¾Ľä¼ĺè´¨":116533,"稳æŃ¥æİ¨è¿Ľ":116534,"å¤įè¯ķ":116535,"å°Ĩé¢Ĩ":116536,"è°Īèµ·":116537,"å¨Ħ":116538,"è¿ŀ线":116539,"æ©ŁéĹľ":116540,"åºĶçĶ¨åľºæĻ¯":116541,"çĶ»åĥı":116542,"è´¢è¿IJ":116543,"ä¿Ŀéļª":116544,"çĹħçIJĨ":116545,"æ¯Ľä¸»å¸Ń":116546,"ä¸Ŀ毫ä¸į":116547,"çαå¥ĩ":116548,"çαå¥ĩèīº":116549,"ä¸ĵå®¶ç»Ħ":116550,"åij¼åͤ":116551,"éĭ¼":116552,"çģ¸":116553,"é¢ĨåħĪåľ°ä½į":116554,"æıIJæĭĶ":116555,"龸éģĵ":116556,"å±±åĿ¡":116557,"èĿİ":116558,"沸èħ¾":116559,"该项":116560,"ä»ĬçĶŁ":116561,"ä¸Ģç¯ĩæĸĩ竳":116562,"æĸ¹å¼ıè¿Ľè¡Į":116563,"é»ij客":116564,"æĶ¹åĬ¨":116565,"主é¡Į":116566,"æķ£å¸ĥ":116567,"ä»Ģä¹Īåľ°æĸ¹":116568,"åĮĸåIJĪ":116569,"åĮĸåIJĪçī©":116570,"éĿĻç͵":116571,"æĢ»æĶ¶åħ¥":116572,"å§Ķç»Ħç»ĩ":116573,"å§Ķç»Ħç»ĩéĥ¨":116574,"éĿĻæĢģ":116575,"èĢģåŃĹåı·":116576,"室åıĭ":116577,"éĥ½ä¸įæķ¢":116578,"æŀ¶åŃIJ":116579,"ç쵿ķı":116580,"审è§Ĩ":116581,"æĤ£åĦ¿":116582,"山寨":116583,"èĸªèµĦ":116584,"é©°æı´":116585,"éĥ¨åĪĨåĨħ容":116586,"好似":116587,"æĪIJåijĺåĽ½":116588,"åľ¨æĪijçľĭæĿ¥":116589,"åħ³æ³¨åº¦":116590,"éĻĪæŁIJ":116591,"è¿Ļç§įäºĭæĥħ":116592,"éĢīå®ļ":116593,"ç²¾åŃIJ":116594,"å£ģçĶ»":116595,"æ±Łæ·®":116596,"é«ĺæĺĤ":116597,"æł¼åĬĽ":116598,"輩":116599,"åѦåłĤ":116600,"æĤ¨åIJĮæĦı":116601,"ä¸ĢåĪĩéĥ½æĺ¯":116602,"潤":116603,"éĸĥ":116604,"å¸ĮæľĽèĩªå·±":116605,"ä¿ĺ":116606,"æ±Łåİ¿":116607,"æ³¾":116608,"ç§ijæķĻ":116609,"æīĵè¿Ľ":116610,"ä¸įæħİ":116611,"å¯ĴåĨ¬":116612,"æ¸Ķæ°ij":116613,"鼷æĸ¯":116614,"主宰":116615,"æĹħ游度åģĩ":116616,"ç͵åŃIJéĤ®ä»¶":116617,"æ±Ĥå©ļ":116618,"éļİæ®µ":116619,"åģ¥èº«æĪ¿":116620,"注æĺİåĩºå¤Ħ":116621,"äºĭæķħåıijçĶŁ":116622,"级以ä¸Ĭ":116623,"åŃĺæ´»":116624,"æĸ½èĤ¥":116625,"èľľèľĤ":116626,"嵩":116627,"æĮĸæİĺæľº":116628,"æĬĹæĭĴ":116629,"ä¼łå¯¼":116630,"æĺ¯ä»Ģä¹Īåij¢":116631,"ä¸Ĭå¹´åIJĮæľŁ":116632,"建åħļ":116633,"çĶŁæħĭ":116634,"ä¿Ŀä½ı":116635,"款车åŀĭ":116636,"人èĦī":116637,"éļIJèͽ":116638,"失æķĪ":116639,"éģ¿åŃķ":116640,"ç®Ģ便":116641,"è°¢è°¢ä½ł":116642,"å®Īä½ı":116643,"æĶ¾æĺł":116644,"è¨Īçķ«":116645,"çݰ代çµģ":116646,"é¤IJ廳":116647,"æķħå±ħ":116648,"大大å°ı":116649,"大大å°ıå°ı":116650,"çī¹åΫ声æĺİ":116651,"éģįåıĬ":116652,"å¿ĥçIJĨåĴ¨è¯¢":116653,"è³´":116654,"çĮ®è¡Ģ":116655,"å·²ç»ıè¾¾åΰ":116656,"æīĵæĭĽåij¼":116657,"åıĮè¾¹":116658,"ä¸Ģæĸ¹éĿ¢æĺ¯":116659,"å´ĩå°ļ":116660,"éĺ¿å¯Į":116661,"éĺ¿å¯Įæ±Ĺ":116662,"æĮģæľī人":116663,"è±ģ":116664,"é£İçŃĿ":116665,"åĬ¨èį¡":116666,"äºĨä¸Ģä¼ļ":116667,"äºĨä¸Ģä¼ļåĦ¿":116668,"ä¸ĩ象":116669,"çľĭç͵è§Ĩ":116670,"åįģä¸īæĿ¡":116671,"çĮĽçĥĪ":116672,"è¦ģä¸įçĦ¶":116673,"太æŀģæĭ³":116674,"å¼ķçĪĨ":116675,"ç»ıè¿ĩå¤ļå¹´":116676,"游æĪıéĩĮçļĦ":116677,"é¾Ļæ³ī":116678,"æłĩéħį":116679,"è®ĵä»ĸåĢij":116680,"éĢłæŀĹ":116681,"åĮºåŁŁæĢ§":116682,"亿ä¸ĩ":116683,"æĪĺçķ¥å¸ĥå±Ģ":116684,"éķĩæĶ¿åºľ":116685,"åĶ®ç¥¨":116686,"çĶŁäº§å·¥èīº":116687,"éķĩåħļå§Ķ":116688,"ä¸Ńå°ıåŀĭ":116689,"æľ¨è̳":116690,"河边":116691,"èĦ¾èĥĥ":116692,"欢è¿İæĤ¨":116693,"åıĺå¼Ĥ":116694,"缤纷":116695,"åŀĥåľ¾æ¡¶":116696,"辩è¯ģ":116697,"车åºĵ":116698,"æ¯Ķçİĩ":116699,"åħ´æĹº":116700,"详ç»ĨäºĨè§£":116701,"å®īå±ħ":116702,"çħ§æĸĻ":116703,"æĸ¹æīį":116704,"赦":116705,"åĨķ":116706,"å¥Ķèµ´":116707,"å®Ŀ鸡":116708,"åľºåĿĩ":116709,"缮åīįæŃ£åľ¨":116710,"åIJŀåϬ":116711,"è¿°èģĮ":116712,"æĩµ":116713,"å¥ĩçijŀ":116714,"ä»įå°Ĩ":116715,"èĪī辦":116716,"å·¥åķĨå±Ģ":116717,"å¡ijèĥ¶":116718,"åĬŀå®ŀäºĭ":116719,"æĸ¹æĸ¹éĿ¢":116720,"æĸ¹æĸ¹éĿ¢éĿ¢":116721,"æĸĩåĮĸèĬĤ":116722,"åħ¥èģĮ":116723,"鸥":116724,"ç©¿éĢı":116725,"ä»¥ä¹łè¿ijå¹³":116726,"åį±éļª":116727,"æľ¦èĥ§":116728,"åİĨåı²æĢ§":116729,"æķŀå¼Ģ":116730,"ä¼Ļä¼´åħ³ç³»":116731,"çŁ¿åĮº":116732,"åĽ½éĻħåľ¨çº¿":116733,"ä¼łå¥ĩéĩĮéĿ¢":116734,"è¿ijäºĽ":116735,"è¿ijäºĽå¹´":116736,"åĬ£åĬ¿":116737,"æĶ»åĩ»åĬĽ":116738,"æĻºéĢł":116739,"禧":116740,"çİĭåħĪçĶŁ":116741,"éĨ«çĶŁ":116742,"åĽĽé¡¹":116743,"å®ŀæĻ¯":116744,"åĪĿåĪĽ":116745,"å¿ĥ裡":116746,"æĻ¶ä½ĵ":116747,"交éĻħ":116748,"让æ¶Īè´¹èĢħ":116749,"课æĸĩ":116750,"æİĴæ°Ķ":116751,"å¹¶ä¸įæĦıåij³":116752,"çĽ¸å£°":116753,"第ä¸Ģå±Ĭ":116754,"åİŁèijĹ":116755,"鼾":116756,"没æľī太大":116757,"补水":116758,"çµģä¼ģä¸ļ":116759,"第äºĮæī¹":116760,"åħ¶å®ĥéĹ®é¢ĺ":116761,"æİĮéŨ":116762,"责任å¿ĥ":116763,"é¤IJåħ·":116764,"ç¾Ĭæ¯Ľ":116765,"没æľīå¿ħè¦ģ":116766,"ä¹IJåĽ¢":116767,"è¿ĽåŁİ":116768,"ä¸ĢçĤ¹åĦ¿":116769,"身形":116770,"çļ®èĤ¤çĹħ":116771,"æĺ±":116772,"å¢ŀèĩ³":116773,"è첿ĺİ":116774,"æıIJè´¨":116775,"ä½ĵèĤ²åľº":116776,"çŃ¹å»º":116777,"é¬Ĩ":116778,"车çīĮ":116779,"éļĶéŁ³":116780,"è´Łè´£åIJĮå¿Ĺ":116781,"丰ç¡ķ":116782,"ä½ĽéĻĢ":116783,"äºīåIJµ":116784,"庶":116785,"æ·¡æ°´":116786,"å°ıçĶ·åŃ©":116787,"ç§ģèĩª":116788,"åĮĸè¿Ľç¨ĭ":116789,"æĪĺ士æĿ¥è¯´":116790,"æ²¹èħ»":116791,"èĦ±è´«èĩ´å¯Į":116792,"æĹ¥å¸¸å·¥ä½ľ":116793,"交èŀį":116794,"åĨľè´¸":116795,"åĨľè´¸å¸Ĥåľº":116796,"åĵĪçĻ»":116797,"çĶµè´¹":116798,"èµĺ":116799,"åıĮèħ¿":116800,"æĵĶå¿ĥ":116801,"æĿ¥å½¢å®¹":116802,"使åij½æĦŁ":116803,"éĤ£ä¹Īç®Ģåįķ":116804,"èĬĻèĵī":116805,"åĢŁæ¬¾äºº":116806,"ç§Ģ丽":116807,"è®ĵä»ĸ":116808,"严åİīæīĵåĩ»":116809,"è³ŀ":116810,"æļ«":116811,"çħ¤æ°Ķ":116812,"çάä¸Ĭ":116813,"æ½ĩæ´Ĵ":116814,"太ä¹ħ":116815,"åij½åIJį为":116816,"è·¯çͱ":116817,"è·¯çͱåύ":116818,"驯":116819,"æıIJæĹ©":116820,"æĬĹåĩ»çĸ«æĥħ":116821,"åĩĽ":116822,"交åıĭ":116823,"éĶĢåĶ®æ¸łéģĵ":116824,"毫ä¸įçĬ¹è±«":116825,"èIJ¥åľ°":116826,"çłĶ究表æĺİ":116827,"鱼类":116828,"æį¢å±Ĭ":116829,"æİ¡åıĸ":116830,"çīĨ":116831,"缼å¼Ģ":116832,"æ²§æ¡ij":116833,"åºŃ审":116834,"ç»ıæŁ¥":116835,"åĬłå¼·":116836,"缸æ¯Ķäºİ":116837,"ä¸ĵçıŃ":116838,"ä½ĵåŀĭ":116839,"被害":116840,"被害人":116841,"æĶ¶æ¬¾":116842,"åħ·æľīèī¯å¥½":116843,"é«ĺå³°æľŁ":116844,"åģıä½İ":116845,"åĦŁ":116846,"åĨľä¸ļç§ijæĬĢ":116847,"ç®ĬæĥħåĨµ":116848,"å¦Ĥæŀľçݩ家":116849,"éķ¿çº¦":116850,"第åħŃå±Ĭ":116851,"åħ¬å¼ĢæĭĽèģĺ":116852,"åĪĩæĸŃ":116853,"迫使":116854,"çĸĹç¨ĭ":116855,"第äºĮç§į":116856,"ä¸įåħį":116857,"å¹²èѦ":116858,"çŁ³æ¦´":116859,"åĹ£":116860,"两类":116861,"çε士":116862,"åŁİ乡å±ħæ°ij":116863,"æŃ¤é¡¹":116864,"缴è¾ĸ":116865,"缴è¾ĸå¸Ĥ":116866,"åij¼åºĶ":116867,"éĴ¯":116868,"ç¦ıå¾·":116869,"æľºèº«":116870,"æĵįåľº":116871,"æ¿Ĵ临":116872,"人群ä¸Ń":116873,"èĤ¡æ°ij":116874,"åѽ":116875,"æ³ķåħ°":116876,"é¨İ":116877,"糯米":116878,"æĢ»çļĦ":116879,"æĢ»çļĦæĿ¥è¯´":116880,"åħ¸éĽħ":116881,"æĸ°éĻĪ":116882,"æĸ°éĻĪ代谢":116883,"缮çĿ¹":116884,"é¢Ħè¨Ģ":116885,"è·Įçł´":116886,"æĸ°ç¯ĩ竳":116887,"æ¯ĴæĢ§":116888,"åĸĿèĮ¶":116889,"æŁ¥èİ·":116890,"亮丽":116891,"çĶŁäº§åķĨ":116892,"æĶ¹æĪIJ":116893,"为äºĨæĽ´å¥½":116894,"深交":116895,"深交æīĢ":116896,"æİĥ":116897,"ä¹ĻèĤĿ":116898,"泸å·ŀ":116899,"åħĪè¿ĽæĬĢæľ¯":116900,"è¾ĵç»Ļ":116901,"æķ£æĪ·":116902,"æĢĿç»´æĸ¹å¼ı":116903,"åºĹ主":116904,"è°ĭæ±Ĥ":116905,"游æĪıæĬĢå·§":116906,"ä¸Ģ年级":116907,"çľ¼è§Ĵ":116908,"ä¸Ńä»ĭæľºæŀĦ":116909,"å·§åIJĪ":116910,"éĺ²çĽĹ":116911,"导è´Ń":116912,"æĪĬ":116913,"æĽ´éĢĤåIJĪ":116914,"åŁºæľ¬ä¿¡æģ¯":116915,"马ä¸ģ":116916,"åħ»æ®ĸåľº":116917,"åıįè¿ĩæĿ¥":116918,"æİ¨å´ĩ":116919,"å¯ĨåĪĩåħ³æ³¨":116920,"åŁºéĩijç»ıçIJĨ":116921,"æĮīéĶ®":116922,"åĨħéĥ¨æİ§åζ":116923,"æĪIJåijĺåįķä½į":116924,"æľ¯è¯Ń":116925,"åζæľį":116926,"åĪļéľĢ":116927,"æ£Ģç´¢":116928,"大大æıIJé«ĺ":116929,"åģ¥åº·ç®¡çIJĨ":116930,"èĩªæŃ¤":116931,"客æĪ·éľĢæ±Ĥ":116932,"丰èĥ¸":116933,"èµ·éĩį":116934,"èµ·éĩįæľº":116935,"æ¬łç¼º":116936,"æ¡ĪåŃIJ":116937,"æĥħ人èĬĤ":116938,"åħļæł¡":116939,"è¢ľ":116940,"该åī§":116941,"è¿·å¤±ä¼łå¥ĩ":116942,"ç»ļ丽":116943,"åķª":116944,"æĹłç§ģ":116945,"é̲ä¸ĢæŃ¥":116946,"第ä¸Ģ竳":116947,"åύåħ·":116948,"åĨľèµĦ":116949,"確實":116950,"åºıåĪĹ":116951,"娱ä¹IJå¹³åı°":116952,"èŀįèµĦç§Łèµģ":116953,"èµĦæºIJåħ±äº«":116954,"èģ½åΰ":116955,"æIJŀå¾Ĺ":116956,"ç»§ç»Ńä¿ĿæĮģ":116957,"åIJ¯èĴĻ":116958,"çľº":116959,"ä¸Ŀè·¯":116960,"设æĸ½å»ºè®¾":116961,"æİ¥åľ°":116962,"æİ¥åľ°æ°Ķ":116963,"第ä¸īåŃ£åº¦":116964,"åŁºè°ĥ":116965,"åıijéŁ³":116966,"社ä¼ļèµĦæľ¬":116967,"éĽĩ主":116968,"è¿ŀèĥľ":116969,"没åķ¥":116970,"廢":116971,"èµ¶èµ´":116972,"æ¼ĶåĮĸ":116973,"åı¤æĢª":116974,"çİĭçĪ·":116975,"é¢ĦåħĪ":116976,"å¼Ģåħ·":116977,"åĽŀé¦ĸ":116978,"åľ°ä¸ĭæ°´":116979,"å°ıç¼ĸä¸Ģèµ·":116980,"èµİåĽŀ":116981,"åľ°è²Į":116982,"åĪĿä¸ī":116983,"åı¯ç͍äºİ":116984,"éģĹ迹":116985,"è¿Ļæī¹":116986,"èĸªæ°´":116987,"å¿ħçĦ¶ä¼ļ":116988,"æ²½":116989,"éįĭ":116990,"第ä¸Ģéĥ¨":116991,"åĪĬçī©":116992,"å®ŀä¾ĭ":116993,"æ¸ħåĩĢ":116994,"ä¸ĬèµĽåŃ£":116995,"åĽ¾è¡¨":116996,"éĤ®è½®":116997,"åĵªè£¡":116998,"缸è§ģ":116999,"æī°ä¹±":117000,"æ¯ıæ¯ı":117001,"è¿Ļè¾ĪåŃIJ":117002,"ç¡«éħ¸":117003,"äºī缸":117004,"溯æºIJ":117005,"åĩºä¼Ĺ":117006,"çİīçŁ³":117007,"åħ±çĶŁ":117008,"æĹ¶éĹ´æ®µ":117009,"éĩįè¦ģæĮĩ示":117010,"æ¶Īè´¹éľĢæ±Ĥ":117011,"éķ¿éķ¿":117012,"éķ¿éķ¿çļĦ":117013,"å®īæĬļ":117014,"å¢ŀé«ĺ":117015,"æľ¬è½®":117016,"äº²çľ¼":117017,"é£İæ³¢":117018,"èĢģå¦Ī":117019,"æĶ¶è´¹æłĩåĩĨ":117020,"åĨħéĻĨ":117021,"æĮ¥åıij":117022,"åįĩåѦ":117023,"èĥ¸åīį":117024,"åģıè¿ľ":117025,"纯æ´ģ":117026,"æĸ½å·¥åįķä½į":117027,"身价":117028,"è´¢åĬĽ":117029,"纶":117030,"è£ħçͲ":117031,"æĺ¾ç¤ºåύ":117032,"毫åįĩ":117033,"æ·±çŁ¥":117034,"è̶ç©":117035,"è̶ç©Į":117036,"è¾ĥéĩı":117037,"åľ¨è¿ĩ渡":117038,"åľ¨è¿ĩæ¸¡æľŁ":117039,"èĮĹ":117040,"ä¸Ģ个æĺŁæľŁ":117041,"èĬ·":117042,"è´¿èµĤ":117043,"æ¿ķ":117044,"æĩĤäºĭ":117045,"ç§§":117046,"åħħå½ĵ":117047,"åĽ½ç«ĭ":117048,"èĬ±çĵ£":117049,"éĤĦè¦ģ":117050,"åħ¬åľĴ":117051,"触åĬ¨":117052,"æ³°å·ŀ":117053,"ä»Ģä¹Īæł·":117054,"æ»ĭåħ»":117055,"è¯ĦåΤ":117056,"æĮ¥æīĭ":117057,"èĦĪ":117058,"姥姥":117059,"è¿IJè´¹":117060,"æ¯ħåĬĽ":117061,"å¿ĥæĻº":117062,"ä¸įæİĴéϤ":117063,"第ä¸ī代":117064,"éĢĢè´§":117065,"æĺŁéĻħ":117066,"æ°¸åĪ©":117067,"æĬ¤åį«":117068,"çıŃ车":117069,"è¨Ģè¡Į":117070,"繪":117071,"主åĬ¨æĢ§":117072,"å·¥ç¨ĭè´¨éĩı":117073,"éĥĬåĮº":117074,"ä¸Ģæłĭ":117075,"ä½Ĩå®ŀéĻħä¸Ĭ":117076,"ä¸ī大èģĮä¸ļ":117077,"åij¼åı«":117078,"女åħĴ":117079,"è¯ģåΏæĬķèµĦ":117080,"èĢĥæħ®":117081,"çĤ«èĢĢ":117082,"治好":117083,"åĺ¶":117084,"èĥ¤":117085,"åħīä¼ıåıijç͵":117086,"åĩłæŃ¥":117087,"æīĢæīĢ":117088,"æīĢæīĢéķ¿":117089,"çħ§æł·":117090,"åĵ¥ä»¬":117091,"è¯Ľ":117092,"è¿Ļä¸ĢåĪ»":117093,"çŁ¿çī©è´¨":117094,"ä¸įå¾Ĺå·²":117095,"åIJĮ缣":117096,"ç»Ĩå¾®":117097,"è·¯èĻİ":117098,"çϾèĬ±":117099,"æ··æ²Į":117100,"ä¸Ĭæµ·è¯ģåΏ":117101,"éĢĢç¨İ":117102,"èµŀåı¹":117103,"æī®æ¼Ķ游æĪı":117104,"åIJįåĪĹ":117105,"åIJįåĪĹåīį":117106,"åIJįåĪĹåīįèĮħ":117107,"ç±³å°Ķ":117108,"ä»Ģä¹ĪåİŁåĽł":117109,"å®īåħ¨ä¿Ŀéļľ":117110,"ä¸Ģåıªæīĭ":117111,"ä¹³ä¸ļ":117112,"ä¸įçĶĺ":117113,"æĥħåķĨ":117114,"æĮ¡ä½ı":117115,"åİŁåĽłä¹ĭä¸Ģ":117116,"è¿Ļ两天":117117,"çĥĺçĦĻ":117118,"豬":117119,"ä½łä»¥ä¸º":117120,"没è§ģè¿ĩ":117121,"åĵªå®¶å¥½":117122,"åīįä»»":117123,"è¿Ľè´§":117124,"éĢĢåĽŀ":117125,"串èģĶ":117126,"èĩ³æĸ¼":117127,"åĨ°æ·ĩ":117128,"åĨ°æ·ĩæ·ĭ":117129,"æŁ¥çľĭ详æĥħ":117130,"çı¾å¯¦":117131,"æİ¨æµĭ":117132,"æİ¥æīĭ":117133,"éļ¶å±ŀäºİ":117134,"åŁİå¸Ĥ群":117135,"æĿİåħĪçĶŁ":117136,"çŁ¿æ³īæ°´":117137,"çī¹ä»·":117138,"æĽ´å¤ļ精彩":117139,"ç¨ĭå¼ı":117140,"读æĩĤ":117141,"å±ıèͽ":117142,"奥æŀĹ":117143,"奥æŀĹåĮ¹":117144,"奥æŀĹåĮ¹åħĭ":117145,"红èĸ¯":117146,"奮":117147,"å®Ŀçİī":117148,"網絡":117149,"è²§":117150,"欧å¼ı":117151,"çϽç³ĸ":117152,"èĩªçĦ¶çģ¾å®³":117153,"åijĬè¯ī她":117154,"å»ļ":117155,"çĤ¹åĩ»æŁ¥çľĭ":117156,"é£İ湿":117157,"èµĦ产éĩįç»Ħ":117158,"ä¹Łä¸įä¾ĭå¤ĸ":117159,"åįĬ个å°ıæĹ¶":117160,"åIJ¸å¼ķæĽ´å¤ļ":117161,"æĹ¶éĹ´èĬĤçĤ¹":117162,"æĶ¶çº³":117163,"åIJ¸æ¯Ĵ":117164,"èĢģ乡":117165,"çIJħ":117166,"æľĢçµĤ":117167,"åıįæĦŁ":117168,"çĶ¨å¾®ä¿¡":117169,"çĶ¨å¾®ä¿¡æī«":117170,"éĢŁçİĩ":117171,"大çĨĬçĮ«":117172,"åı¯æĥ³":117173,"åı¯æĥ³èĢĮ":117174,"åı¯æĥ³èĢĮçŁ¥":117175,"åĴ§":117176,"èµ°åħ¥":117177,"碳éħ¸":117178,"èĮĥåĨ°":117179,"èĮĥåĨ°åĨ°":117180,"被åΤ":117181,"积æŀģæİ¨åĬ¨":117182,"足足":117183,"ç²ĴåŃIJ":117184,"大å®Ĺ":117185,"大å®ĹåķĨåĵģ":117186,"ç½ij绾ç§ijæĬĢ":117187,"æĽ¼åŁİ":117188,"å·²ä¹ħ":117189,"å·²ä¹ħçļĦ":117190,"秦çļĩ":117191,"秦çļĩå²Ľ":117192,"ä»»æķĻ":117193,"å͝ç¾İ":117194,"æ·¡åĮĸ":117195,"æ¡ĤèĬ±":117196,"çŁ¥è¯ĨåĪĨåŃIJ":117197,"æĩĴå¾Ĺ":117198,"主åħ¬":117199,"设计çIJĨ念":117200,"賺":117201,"æīĢæıIJä¾Ľ":117202,"æīĢæıIJä¾Ľä¹ĭ":117203,"æĶ»åħĭ":117204,"åĤ¾":117205,"è¯Ńæ³ķ":117206,"åįĥåı¤":117207,"éĸĭæĶ¾":117208,"第ä¸ĢèĬĤ":117209,"éĤĦæ²Ĵ":117210,"éĢĥçĶŁ":117211,"æ³Ĺ":117212,"åİ¿å§Ķ书记":117213,"ä½ľèĢħæīĢæľī":117214,"çħ½":117215,"ç»ħ":117216,"æłħ":117217,"æľ´ç´ł":117218,"çijķçĸµ":117219,"åĮħåĮħ":117220,"æ°ij主åħļ":117221,"ä¸įè¿ľå¤Ħ":117222,"å¥ĩå¼Ĥ":117223,"åĺ»åĺ»":117224,"æī¼":117225,"ç¿»å¼Ģ":117226,"æĢİèĥ½":117227,"éģ´éĢī":117228,"è§£éĩĭ":117229,"å¹¼ç¨ļ":117230,"è¦ģ好好":117231,"è¶´åľ¨":117232,"ç´¢åıĸ":117233,"ç»ĪçĶŁ":117234,"åħ¨æµģç¨ĭ":117235,"éģ©çķ¶":117236,"åįıè°ĥåıijå±ķ":117237,"æĬ¥ä»ĩ":117238,"ç§ijæĬĢåĽŃ":117239,"ä»Ģä¹Īéĥ½ä¸į":117240,"æľĢåIJİä¸Ģ次":117241,"ç»Ļ人ä¸Ģç§į":117242,"æł¸å®ļ":117243,"被åĪĹåħ¥":117244,"æĦıæĥ³ä¸įåΰ":117245,"èĢĥæŁ¥":117246,"åľ¨æŃ¤ä¹ĭåīį":117247,"æīĵçIJĥ":117248,"è¶ĬæĿ¥è¶Ĭå°ij":117249,"å®ļå¾ĭ":117250,"è¡ĮæĶ¿æľºåħ³":117251,"ä½ıæĪ¿åħ¬ç§¯":117252,"å°ıå§IJå§IJ":117253,"ä¸īèı±":117254,"修补":117255,"èŀĥèŁ¹":117256,"西çͲ":117257,"æĢł":117258,"çŃīå¤ļ项":117259,"产ä¸ļéĽĨèģļ":117260,"ä»·æł¼ä¸Ĭ涨":117261,"åħ¬åħ±åľºæīĢ":117262,"è¢ĭåŃIJ":117263,"æĨ§æĨ¬":117264,"çļĦæĸ¹å¼ıæĿ¥":117265,"åĪ°è´¦":117266,"çģ½":117267,"å·´èı²":117268,"å·´èı²çī¹":117269,"æ¼Ķä¹ł":117270,"èŃ¦ç¤ºæķĻèĤ²":117271,"çķıæĥ§":117272,"å¼ķæµģ":117273,"æĶ¶æĶ¯":117274,"å±Ĥåĩº":117275,"å±Ĥåĩºä¸į":117276,"å±Ĥåĩºä¸įç©·":117277,"æijĩæ»ļ":117278,"辦çIJĨ":117279,"纵è§Ĥ":117280,"æķijæµİ":117281,"å®¶éĥ½çŁ¥éģĵ":117282,"åĮ¯":117283,"å°ı鸣":117284,"ä»»åĭĻ":117285,"计åħ¥":117286,"ç«ŀéĢī":117287,"å¼ĢèįĴæĹ¶æľŁ":117288,"åij¨æģ©":117289,"åij¨æģ©æĿ¥":117290,"交ç»ĩ":117291,"çķ¢æ¥Ń":117292,"æł¹æį®èĩªå·±":117293,"æĸ°äººçݩ家":117294,"åѵåĮĸåύ":117295,"éĩĩæļĸ":117296,"å¹³åĿĩæ°´å¹³":117297,"åħ¬å¼Ģ课":117298,"失åĪ©":117299,"伺æľį":117300,"çĬģ":117301,"忽æĤł":117302,"主è¦ģéĽĨä¸Ń":117303,"æ¤įæłij":117304,"æ¯ĹéĤ»":117305,"èĩºçģ£":117306,"åĩºåĽ½çķĻåѦ":117307,"æĬĹéľĩ":117308,"æĥ©æĪĴ":117309,"å¹´åºķåīį":117310,"åĴ¸éĺ³":117311,"æ°ijå±ħ":117312,"大çIJĨçŁ³":117313,"éĿ³":117314,"éķĸ":117315,"æ¸ħè¿ľ":117316,"è£ħè½½":117317,"èĩĢ":117318,"å½±ä¸ļ":117319,"å¼ŁåħĦ":117320,"æĤ²è§Ĥ":117321,"çĿĢçľ¼äºİ":117322,"æįįåį«":117323,"åī¥å¤º":117324,"ç¯Ĩ":117325,"å¾Īéķ¿æĹ¶éĹ´":117326,"è¥Ł":117327,"第ä¸ĢçϾ":117328,"ä¸ĢåĪĨéĴ±":117329,"æĸ°éĹ»è®°èĢħ":117330,"éķ·æľŁ":117331,"æ³ķæĪĺç»ĦåIJĪ":117332,"è°ģçŁ¥éģĵ":117333,"èħ°éĥ¨":117334,"æ±īåł¡":117335,"åħ¥çĿ¡":117336,"åįĸæİī":117337,"æ¶Īè²»èĢħ":117338,"æĥ¯ä¾ĭ":117339,"æĥ³äºĨ":117340,"æĥ³äºĨæĥ³":117341,"èĢģæĹ§å°ıåĮº":117342,"ä¼łè¨Ģ":117343,"åĪĨæķ°çº¿":117344,"æµģ泪":117345,"ç»Ħç»ĩé¢Ĩ导":117346,"äºļåĨĽ":117347,"å¢ŀå̼æľįåĬ¡":117348,"å¾¹":117349,"ä¼¶":117350,"äºĽè®¸":117351,"å¸ĥèݱ":117352,"强æĤį":117353,"宫廷":117354,"绿èĮ¶":117355,"åĮ¡":117356,"å¾ĪæŃ£å¸¸":117357,"æĺ¥å¤ı":117358,"æ¯Ļ":117359,"è¯Ħæ¯Ķ":117360,"åĩ¡äºĭ":117361,"æĬīæĭ©":117362,"åĢĴéľī":117363,"éĩį度":117364,"åįıä¼ļä¼ļéķ¿":117365,"å¿§èĻij":117366,"ä¸ĭä¸Ģç¯ĩ":117367,"沪深":117368,"æĪİ":117369,"æīĵä»Ĺ":117370,"åįĪé¥Ń":117371,"å¹´é¾Ħ段":117372,"ä¸ŃåĽ½è¶³çIJĥ":117373,"设计æĸ¹æ¡Ī":117374,"åºĶçĶ¨æŁ¥çľĭ":117375,"é¢ĦæĸĻ":117376,"åĹ¡":117377,"ç¥ĸçζ":117378,"çļĦä¸Ģåijĺ":117379,"æ´Ĺå¹²åĩĢ":117380,"åİĨåı²æĸ°":117381,"åİĨåı²æĸ°é«ĺ":117382,"çĭ¬åħ·":117383,"æħĭ度":117384,"æīĵ交":117385,"æīĵ交éģĵ":117386,"é»ĦçŁ³":117387,"çĽ¼æľĽ":117388,"çī§åľº":117389,"转弯":117390,"åįĩåįİ":117391,"åĨįä¹Łæ²¡æľī":117392,"èĭ±æīį":117393,"æĽ´åIJį为":117394,"åĢŁç͍":117395,"çºłéĶĻ":117396,"ç»Ŀ对ä¸įä¼ļ":117397,"çİĭçīĮ":117398,"çĽĨåľ°":117399,"失è°ĥ":117400,"好象":117401,"é³¥":117402,"ä¿Ŀä¿®":117403,"åĽĽä¸ªèĩªä¿¡":117404,"头çļ®":117405,"åİŁåīĩ":117406,"æĬ¥æ¡Ī":117407,"奴éļ¶":117408,"å³Ļ":117409,"è°ĥæĸĻ":117410,"ä¹Łè¨±":117411,"èIJ½åΰ":117412,"èIJ½åΰå®ŀ":117413,"èIJ½åΰå®ŀå¤Ħ":117414,"çĦļçĥ§":117415,"çĶŁæ´»çݯå¢ĥ":117416,"åºĶåıĬæĹ¶":117417,"è¶Ĭè¿ĩ":117418,"æĦŁè¬Ŀ":117419,"æĻ¯å¾·":117420,"æĻ¯å¾·éķĩ":117421,"çĬĢ":117422,"身éĤĬ":117423,"ç¨İåĬ¡æĢ»å±Ģ":117424,"åĩĢåľŁ":117425,"ä¾µåįł":117426,"åĬ¨å·¥":117427,"å¹´ä¹ĭ":117428,"å¹´ä¹ĭä¹ħ":117429,"第äºĮèĬĤ":117430,"åĬ¨çī©åĽŃ":117431,"第ä¸Ģ书记":117432,"éħļ":117433,"çĶŁäº§è®¾å¤ĩ":117434,"æŁIJç§įç¨ĭ度":117435,"åľŃ":117436,"åĩŃåĢŁçĿĢ":117437,"éĺħè§Ī":117438,"çϽæ²Ļ":117439,"æ²¹çĥŁ":117440,"çªģçł´åı£":117441,"åıĹå½±åĵį":117442,"åı¯ä»¥æĽ´å¥½":117443,"å³°å̼":117444,"æĿĤè´¨":117445,"宿è¿ģ":117446,"çĽĺæ´»":117447,"æ¿Ģèµ·":117448,"åĦ¿ç§ij":117449,"åĿIJèIJ½åľ¨":117450,"æĮªå¨ģ":117451,"æµ·å²Ľ":117452,"绣绣":117453,"éύ":117454,"ä¼ĺäºİ":117455,"å°Īå®¶":117456,"ä¸ĢéĤĬ":117457,"èIJĬ":117458,"äºĨä¸Ģåı£":117459,"æ²ĥå°Ķæ²ĥ":117460,"æŃ£å¸¸ä½¿ç͍":117461,"æĻ®éģįåŃĺåľ¨":117462,"丰满":117463,"çĶ»åį·":117464,"åºĶæĶ¶":117465,"åºĶæĶ¶è´¦":117466,"åºĶæĶ¶è´¦æ¬¾":117467,"å®Įæķ´çĥŃ":117468,"å®Įæķ´çĥŃæ¦ľ":117469,"注è§Ĩ":117470,"çĨĦ":117471,"躬":117472,"éĶĢåĶ®äººåijĺ":117473,"è¶ĭåIJij":117474,"çĦ¦æĢ¥":117475,"åįģå¹´åīį":117476,"ä¼łç»Łäº§ä¸ļ":117477,"質éĩı":117478,"åĩ¤åĩ°ç½ij":117479,"èµĦæºIJæķ´åIJĪ":117480,"æ¶Įåħ¥":117481,"æĸĩåĮĸä¼łæĴŃ":117482,"çķĮ第ä¸Ģ":117483,"æ°´æ³µ":117484,"宫殿":117485,"æİ¢å¯»":117486,"ä¿®åīª":117487,"æĦıè¦ĭ":117488,"ç´Ĭä¹±":117489,"æĽī":117490,"çĻ½è¡£":117491,"èĻİåį«":117492,"ç´§æī£":117493,"å¤Ħå¤Ħéķ¿":117494,"åĪĽå»ºå·¥ä½ľ":117495,"红æŀ£":117496,"饼干":117497,"äºĨåįĬ天":117498,"ä¼ļå½±åĵįåΰ":117499,"çĽ¸ä¿¡å¤§å®¶":117500,"èħ¾é£ŀ":117501,"å°±å¦ĤåIJĮ":117502,"ä¸ĭéĿ¢å°ıç¼ĸ":117503,"æ°ijèIJ¥ç»ıæµİ":117504,"æĻ¦":117505,"è£ħæī®":117506,"é»ijå¤ľ":117507,"常德":117508,"å·¥ä¸ļ大åѦ":117509,"æĺİçŁ¥":117510,"éĺŁåijĺ们":117511,"åIJ¬è¯¾":117512,"æ¯ıéļĶ":117513,"羣æĺ¯å¤ª":117514,"åIJĪä½ľåħ±èµ¢":117515,"çIJĨåıij":117516,"æīįå¹²":117517,"çľĭèµ·ä¾Ĩ":117518,"殿ä¸ĭ":117519,"å®īéĺ³":117520,"æīĢ产çĶŁçļĦ":117521,"éĽĩä½£":117522,"æĬ¬èµ·å¤´":117523,"æį®æĬ¥éģĵ":117524,"éļĨéĩį举è¡Į":117525,"交éĶĻ":117526,"è¶ħé¢Ŀ":117527,"åĮĸçĸĹ":117528,"é¡Ĩ":117529,"纵深":117530,"çĪ±åĽ½ä¸»ä¹ī":117531,"éĻ¢åī¯éĻ¢éķ¿":117532,"讳":117533,"羣æŃ£åģļåΰ":117534,"åѤåįķ":117535,"èĩªçĦ¶èĢĮ":117536,"èĩªçĦ¶èĢĮçĦ¶":117537,"修身":117538,"èĬ¹":117539,"æģ¯æģ¯":117540,"æģ¯æģ¯çĽ¸åħ³":117541,"é©¾æł¡":117542,"æİ©é¥°":117543,"æ³½è¿ŀ":117544,"æ³½è¿ŀæĸ¯åŁº":117545,"举æŃ¢":117546,"管çIJĨä½ĵåζ":117547,"åħ¶ä¸Ńä¹ĭä¸Ģ":117548,"æĿ¾å¼Ľ":117549,"æĭ¦æĪª":117550,"åį«åģ¥":117551,"åį«åģ¥å§Ķ":117552,"ä»İåݻ年":117553,"åĤ¢":117554,"è´Ń票":117555,"åĽ¾æłĩ":117556,"河西":117557,"æ°ijæĶ¿å±Ģ":117558,"ç§ģèIJ¥":117559,"å¤ĸåĽ½è¯Ń":117560,"干货":117561,"æĵ¦æĭŃ":117562,"åľ°ä¸Ń":117563,"åľ°ä¸Ńæµ·":117564,"æµĵæµĵ":117565,"æµĵæµĵçļĦ":117566,"å§ĭ建":117567,"å§ĭ建äºİ":117568,"ç¶ĵæŃ·":117569,"è·¯æ¼Ķ":117570,"æļ´é£İ":117571,"åŁºè¾ħ":117572,"æī¶è´«å·¥ä½ľ":117573,"ä¸Ģ缴å¤Ħäºİ":117574,"æĥħè¶£":117575,"äºĮåŃ£åº¦":117576,"åİĮæģ¶":117577,"顺åĪ©å®ĮæĪIJ":117578,"æŁ¥å°ģ":117579,"顶端":117580,"ä¸įåŃķ":117581,"ä¸Ģ大åłĨ":117582,"被æ·ĺæ±°":117583,"æĺ¯ç͍æĿ¥":117584,"æľĢåIJĪéĢĤ":117585,"äº®çľ¼":117586,"å¹¶ä¸įæĺ¯å¾Ī":117587,"ç§ijçłĶéĻ¢":117588,"ç§ijçłĶéĻ¢æīĢ":117589,"ç²Ł":117590,"é¢Īéĥ¨":117591,"é»ĺé»ĺåľ°":117592,"é«ĺä¸ŃçĶŁ":117593,"æĹıèĩªæ²»åİ¿":117594,"æķĻåŃ¦è´¨éĩı":117595,"æĪĺçģ«":117596,"åĿİåĿ·":117597,"æIJŃä¹ĺ":117598,"è¯ĹæĦı":117599,"åĪijèѦ":117600,"åĩºæ±Ĺ":117601,"åįģåħŃæĿ¡":117602,"请åıĬæĹ¶":117603,"åĨľä¸ļ大åѦ":117604,"èIJ½åı¶":117605,"æĢ»èĢĮè¨Ģ":117606,"æĢ»èĢĮè¨Ģä¹ĭ":117607,"æĿľåħ°":117608,"æĿľåħ°çī¹":117609,"éĻªä½ł":117610,"åħ¬æĬ¥":117611,"çķĻè¨ĢæĿ¿":117612,"éĺħåİĨ":117613,"ç«¶çĪŃ":117614,"ç»ĻåĪ«äºº":117615,"æĹ¥æĬ¥ç¤¾":117616,"åĿIJèIJ½":117617,"åĿIJèIJ½äºİ":117618,"éĩijåŃĹ":117619,"éĩijåŃĹå¡Ķ":117620,"åĽ¤":117621,"è¯Ŀåī§":117622,"æĮģç»Ńæİ¨è¿Ľ":117623,"æ¼ıæ°´":117624,"詳細":117625,"æĢĢæĬ±":117626,"åıĺå¹»":117627,"饥饿":117628,"éļIJ身":117629,"ä¸ªèµĽåŃ£":117630,"åĵ¡å·¥":117631,"æģ¢å¤įæŃ£å¸¸":117632,"äºĨ好å¤ļ":117633,"æĺŁå·´":117634,"æĺŁå·´åħĭ":117635,"åħīçݯ":117636,"å¸ħåĵ¥":117637,"çĻ½éĽª":117638,"ç¨įç¨į":117639,"计æıIJ":117640,"æĦĽæĥħ":117641,"éİĸ":117642,"ä¿¡éĺ³":117643,"è§Ģå¯Ł":117644,"å¦Ĥæŀľä½łæĥ³":117645,"缸æ¯Ķä¹ĭä¸ĭ":117646,"è§£å¼Ģ":117647,"æīĵåį°æľº":117648,"身躯":117649,"ç²¾ç¥ŀæĸĩæĺİ":117650,"èĤ¡æĮĩ":117651,"å¾®åĪĽ":117652,"红èĮ¶":117653,"èĩ´çĻĮ":117654,"æģ©æĸ½":117655,"èħ¿éĥ¨":117656,"大åŀĭå¤ļ人":117657,"å®īåĢį":117658,"è¾ħ导åijĺ":117659,"èĪªéģĵ":117660,"å¸ĥå°Ķ":117661,"åįĹå®ģå¸Ĥ":117662,"ä¸ĬçıŃæĹı":117663,"ä¾§ç»ĵæŀĦæĢ§":117664,"追éļı":117665,"å½ĵåľ°æĶ¿åºľ":117666,"èµ°åĩºæĿ¥":117667,"éĩijèŀįä¸ļ":117668,"ä¸Ľä¹¦":117669,"é¡¹çĽ®ç»ıçIJĨ":117670,"è¿ĩæĪ·":117671,"骨æŀ¶":117672,"è¡Ļ":117673,"ä»Ģ麽":117674,"èħĭ":117675,"è¦ģ害":117676,"åľ¨åºĬä¸Ĭ":117677,"代è¨Ģ人":117678,"並å°ĩ":117679,"åIJĦ个æĸ¹éĿ¢":117680,"è°´è´£":117681,"åħ±æĮ¯":117682,"åį³å°ĨåΰæĿ¥":117683,"èĤºçĻĮ":117684,"ä¾ĽéĶĢ":117685,"丼æŀĹ":117686,"èµĥ":117687,"åįģä½Ļå¹´":117688,"åĭĺæİ¢":117689,"飵åij³":117690,"èĭ¦ç¬ij":117691,"æľĢ大ç¨ĭ度":117692,"éĩįçĤ¹åħ³æ³¨":117693,"ä¹ĭ举":117694,"满æĢĢ":117695,"åıĹåΰ影åĵį":117696,"æĭĽæĬķæłĩ":117697,"è¡¥é½IJ":117698,"西红":117699,"è¥¿çº¢æŁ¿":117700,"鬧":117701,"è£ħåį¸":117702,"éĤ»éĩĮ":117703,"èĤĩäºĭ":117704,"æİĴæ¯Ĵ":117705,"åѤåĦ¿":117706,"鼶è·Ŀ离":117707,"å®ŀå¹²":117708,"çľĭæŁ¥çľĭ":117709,"æĶ¶è´¹ç«Ļ":117710,"ç»·":117711,"åħ¬çĽĬæĢ§":117712,"éĢĴç»Ļ":117713,"æĶ»æīĵ":117714,"æĺŁçº§éħĴåºĹ":117715,"æĺİåªļ":117716,"çį¨ç«ĭ":117717,"è¯Ŀè¯ŃæĿĥ":117718,"ä¸ĢæŃ¥ä¸ĢæŃ¥":117719,"书æ³ķå®¶":117720,"æľªç»ıæİĪæĿĥ":117721,"çŁ³èĨı":117722,"åĩŃä»Ģä¹Ī":117723,"çļĦæĹ¥":117724,"çļĦæĹ¥åŃIJéĩĮ":117725,"诱人":117726,"çϾåĪĨçϾ":117727,"èĪĪè¶£":117728,"å¼łåħĪçĶŁ":117729,"èĢģçĪ·åŃIJ":117730,"æ³¢çī¹":117731,"åŁºéĩij份é¢Ŀ":117732,"æ²Ļåıijä¸Ĭ":117733,"å¥ĭæĸĹ缮æłĩ":117734,"æ°¢èĥ½":117735,"æ²ĥå°ĶçİĽ":117736,"義åĭĻ":117737,"éŁ³ç®±":117738,"æ²ī浸":117739,"æ²īæµ¸åľ¨":117740,"èĭ±åľĭ":117741,"çģ¯çģ«":117742,"è¿Ľé¡¹":117743,"两端":117744,"ä¹Ķ丹":117745,"èĦ¸é¢Ĭ":117746,"åıijå±ķæ½ľåĬĽ":117747,"åĭķä½ľ":117748,"åĵĪä½Ľ":117749,"å®´ä¼ļ":117750,"æ§į":117751,"ç«ĭå¿Ĺ":117752,"ç¡ķ士åѦä½į":117753,"åĭĭ竳":117754,"è¿Ļåľºæ¯ĶèµĽ":117755,"æĮģå¹³":117756,"éķĢéĶĮ":117757,"èĭ±çī¹":117758,"èĭ±çī¹å°Ķ":117759,"æķĻèģĮå·¥":117760,"åĬŁåĬĽ":117761,"该æ¡Ī":117762,"ä¸Ģæ¢Ŀ":117763,"åĺīå¹´":117764,"åĺīå¹´åįİ":117765,"è¿«ä¸įåıĬ":117766,"è¿«ä¸įåıĬå¾ħ":117767,"è¿Ļ个æĹ¶ä»£":117768,"精彩æĴŃæĬ¥":117769,"人èĦ¸":117770,"人èĦ¸è¯ĨåĪ«":117771,"æ£Ģå¯Łå®ĺ":117772,"å°ıèħ¿":117773,"éĨĴ缮":117774,"åħļæĢ»":117775,"åħļæĢ»æĶ¯":117776,"æĪŁ":117777,"èĮ«çĦ¶":117778,"è±ĨæµĨ":117779,"主治":117780,"éĿĴæµ·çľģ":117781,"åĪijäºĭ责任":117782,"çł°":117783,"ä¹ĭæ¬ĬåĪ©":117784,"äºĶå®ĺ":117785,"è¿·æĥij":117786,"åħ¥åºĵ":117787,"家纺":117788,"弹簧":117789,"åįģäºĶæĿ¡":117790,"ç»Ļå®Ŀå®Ŀ":117791,"èĪªç©ºèĪªå¤©":117792,"å¾Ģå¤ĸ":117793,"å¼ķåĬĽ":117794,"çľ¼çļ®":117795,"æ¶īè¶³":117796,"æĿ¥å®¾":117797,"åľ¨çº¿è§Ĵèī²":117798,"çĥŃéĶĢ":117799,"æµģéĢĿ":117800,"泡泡":117801,"éĻįå¹ħ":117802,"è´ŁéĿ¢å½±åĵį":117803,"红楼":117804,"红楼梦":117805,"éļĶçĿĢ":117806,"侥幸":117807,"许ä¹ħ":117808,"åĴĮçĿ¦":117809,"èѽ":117810,"使ç͍èĢħæĪĸ":117811,"ä¹°åįķ":117812,"è¿´":117813,"é£İæīĩ":117814,"æķĻ師":117815,"æ¡ĮåŃIJä¸Ĭ":117816,"å¾Īæ¼Ĥ亮":117817,"åł±å°İ":117818,"第ä¸ĢåŃ£åº¦":117819,"ç©©å®ļ":117820,"æĤ²åĵĢ":117821,"çĿĢåĬĽæīĵéĢł":117822,"æĮŁ":117823,"路桥":117824,"åijIJ":117825,"åľ£è¯ŀèĬĤ":117826,"çļĩåŃIJ":117827,"ä»ĩæģ¨":117828,"éħĿéħ¿":117829,"ä¸įéĹ´":117830,"ä¸įéĹ´æĸŃ":117831,"æĮĩå°ĸ":117832,"ä¸ŃåĽ½ç½ij游":117833,"åŀ£":117834,"æĦıè§ģ建议":117835,"æ¯ħçĦ¶":117836,"亮度":117837,"èģĶè°Ĭ":117838,"å½ķåħ¥":117839,"åĦ²":117840,"å¨ĺå®¶":117841,"ç§ijå°Ķ":117842,"ä¹Łæ²¡ä»Ģä¹Ī":117843,"æł¹æį®ä¸įåIJĮ":117844,"åı¶ä¿®":117845,"å̼å®Ī":117846,"æľ«ç«¯":117847,"å΍":117848,"åĤµåĭĻ":117849,"èģ¯åIJĪ":117850,"å¥ĩå¹»":117851,"èĻļæŀĦ":117852,"é»Ħæĺı":117853,"å¹³åĿ¦":117854,"æµģæ°ĵ":117855,"æĸ°åŁºå»º":117856,"æĮ½æķij":117857,"åįİå°Ķ":117858,"åįİå°Ķè¡Ĺ":117859,"æľĢåıĹæ¬¢è¿İ":117860,"ç»Ń约":117861,"å¼Ĭ端":117862,"éŃĶæ³ķå¸Ī":117863,"éŃĶæ³ķå¸ĪåĴĮ":117864,"åħ·ä½ĵåĨħ容":117865,"çIJīçĴĥ":117866,"æī©å®¹":117867,"èĮ¶åĽŃ":117868,"主ä¹īèĢħ":117869,"ç«ĭéĿ¢":117870,"æİ¥åıĹéĩĩ访":117871,"åĩºåħ¥å¢ĥ":117872,"ç§ijåįı":117873,"éĴ³":117874,"çµIJæ§ĭ":117875,"ç»ĵæŀľæĺ¾ç¤º":117876,"åı°è´¦":117877,"å°±æĿ¥çľĭçľĭ":117878,"èĩªæķij":117879,"åıįæĩī":117880,"åİ»åĵªåĦ¿":117881,"è¿Ļé¦ĸ":117882,"è¿Ļé¦ĸæŃĮ":117883,"åIJ¬ä¼Ĺ":117884,"å¤ĸ壳":117885,"ä½ĵèĤ²é¦Ĩ":117886,"實æĸ½":117887,"èŀºä¸Ŀ":117888,"æĭīåįĩ":117889,"çĮĽåľ°":117890,"åħ¨åĽ½äººæ°ij":117891,"æĤīå°¼":117892,"æĹı群":117893,"åĽ¢åijĺ":117894,"两个å°ıæĹ¶":117895,"åľ¨çݩ家":117896,"åľ¨çݩ家ä¸Ń":117897,"çĶľçĶľ":117898,"æĬķè¡Į":117899,"åįĶæľĥ":117900,"éĻ¡":117901,"åĬłå·¥åİĤ":117902,"æ¦ĨæŀĹ":117903,"æŃ»è§Ĵ":117904,"åĨħå¹ķ":117905,"æīĢæľīæĥħèĬĤ":117906,"åĪ·åį¡":117907,"æ°´èĤ¿":117908,"èĥĥåı£":117909,"å«Įå¼ĥ":117910,"沮丧":117911,"ä¸ī年级":117912,"æ¶Ĥå±Ĥ":117913,"å¿ĥ仪":117914,"å¿ĥ仪çļĦ":117915,"å¤Ń":117916,"é¦ĸè½®":117917,"æĹłè®ºæĺ¯åħ¶":117918,"éĢıæ°Ķ":117919,"äºĮåįģäºĶ":117920,"箫":117921,"åĬŁåĬ³":117922,"çѾä¸ĭ":117923,"æ²īè¿·":117924,"æķijåij½":117925,"éĹªéĹª":117926,"åIJĥäºı":117927,"å±ķåĵģ":117928,"åį³æĹ¶åıijçĶŁ":117929,"ç¶ľ":117930,"ç¶ľåIJĪ":117931,"æłĩæĺİ":117932,"çľĭç͵影":117933,"åħ¬ç«ł":117934,"éĺ¿æ£®":117935,"éĺ¿æ£®çº³":117936,"身åĪĽéĢł":117937,"身åĪĽéĢłçļĦ":117938,"æ¸Ľå°ij":117939,"å̼å¾Ĺåħ³æ³¨":117940,"鼶åĶ®åķĨ":117941,"æįĨç»ij":117942,"è¸ıåħ¥":117943,"èĽŁ":117944,"æŁ´çº³":117945,"èĢģåħµ":117946,"绿èī²çݯä¿Ŀ":117947,"é¹Ń":117948,"éº»æľ¨":117949,"æıŃçīĮ":117950,"è¿Ļ款车":117951,"ç¾İå¾·":117952,"ç¾İå¾·åħ¬åı¸":117953,"æ¶§":117954,"è°ģçŁ¥":117955,"æ´ĭèij±":117956,"æ¯įæł¡":117957,"ä¸ĢéĹª":117958,"çͷ䏻è§Ĵ":117959,"æĹłçº¿ç͵":117960,"å±łå®°":117961,"æĺ¯éŁ©åĽ½":117962,"æĺ¯éŁ©åĽ½å¨±":117963,"容è²Į":117964,"åĿĩ使åħ¶":117965,"太快":117966,"å¹´çͱ":117967,"å¹´çĶ±çĽĽ":117968,"èĭ¦èĭ¦":117969,"åĬĽè¿ĺæĺ¯":117970,"åĬĽè¿ĺæĺ¯èĩª":117971,"æĨ©":117972,"èģ¯çµ¡":117973,"å;":117974,"åħ·æľīæĪĺ士":117975,"追éĹ®":117976,"åłĨæĶ¾":117977,"åıį驳":117978,"å®ŀäºĭæ±Ĥ":117979,"å®ŀäºĭæ±Ĥæĺ¯":117980,"åѸéĻ¢":117981,"åįģåĩłä¸ª":117982,"æķijæĬ¤":117983,"æķijæĬ¤è½¦":117984,"ç½ijç»ľä¼łæĴŃ":117985,"åįģåħ«å±Ĭ":117986,"éĥ¨åī¯":117987,"éĥ¨åī¯éĥ¨éķ¿":117988,"çĹ´è¿·":117989,"管çIJĨæĿ¡ä¾ĭ":117990,"èŀį为ä¸Ģä½ĵ":117991,"æĢ»äº§å̼":117992,"è³ĵ":117993,"ä¸ĥæĺŁ":117994,"çıŃç»Ħ":117995,"绣é¢Ĩ":117996,"请大家":117997,"éĩijéϵ":117998,"èĪħèĪħ":117999,"æµ·æ¹¾":118000,"æĸ½çŃĸ":118001,"享èªī":118002,"麥":118003,"端åįĪ":118004,"绿åŁİ":118005,"確ä¿Ŀ":118006,"å·´æĭī":118007,"åĨĴçĿĢ":118008,"æħ·æħ¨":118009,"个人è§ĤçĤ¹":118010,"ä¹Ļçĥ¯":118011,"ç¡ħè°·":118012,"éĸĭå±ķ":118013,"å°ļ书":118014,"åĿļ飧":118015,"庵":118016,"èĢģé¾Ħ":118017,"èĢģé¾ĦåĮĸ":118018,"çľ¨çľ¼":118019,"绿水":118020,"绿水éĿĴå±±":118021,"书é¦Ļ":118022,"主åĬĽåĨĽ":118023,"æīįæĺ¯çľŁæŃ£":118024,"æĬ¢åħĪ":118025,"æĪIJå°±æĦŁ":118026,"éĩįæŀĦ":118027,"éĴ¢åİĤ":118028,"æĪIJ份":118029,"èĬ±çº¹":118030,"ä¹ĭäºī":118031,"å¹²ç»Ĩèĥŀ":118032,"æĹ¢åı¯ä»¥":118033,"ç¹ģçIJIJ":118034,"æĦļèł¢":118035,"éĿŀ常æĺİæĺ¾":118036,"ä½ĵ彩":118037,"æĬĢæ³ķ":118038,"æĿĨèıĮ":118039,"å¹¿æ³Ľåħ³æ³¨":118040,"åĮĹå®ĭ":118041,"å§Ĭ妹":118042,"åįıåĬŀ":118043,"æ·®åįĹ":118044,"çĥı":118045,"æ´ĹèĦ¸":118046,"åıĹ访":118047,"åıĹ访èĢħ":118048,"éĩįè¦ģåĽłç´ł":118049,"å½±è§Ĩåī§":118050,"综èīºèĬĤ缮":118051,"èľķåıĺ":118052,"äºĮ线":118053,"äºĮ线åŁİå¸Ĥ":118054,"ä¼Ĭå§ĭ":118055,"çıĬçijļ":118056,"èĩªæŁ¥":118057,"åħ¥åĽŃ":118058,"åĩ¶æīĭ":118059,"åħ¬è¯ī":118060,"éģĩéļ¾":118061,"éĩĩçŁ¿çŃī":118062,"èĩªçIJĨ":118063,"åĸ·æ¶Ĥ":118064,"æī©åħħ":118065,"éĢıè§Ĩ":118066,"é«ĺéĢŁå¢ŀéķ¿":118067,"åĽ¾çĶ»":118068,"ç¾¹":118069,"èĤĩåºĨ":118070,"è¾ľè´Ł":118071,"èµĶä»ĺ":118072,"è·¡":118073,"åģ¥åº·æĪIJéķ¿":118074,"以ä¸ĬåѦåİĨ":118075,"åıĸå¾Ĺ以åıĬ":118076,"æ²ī积":118077,"åįģä¹Ŀå±Ĭ":118078,"缸éĹľæľįåĭĻ":118079,"æī§åĭ¤":118080,"åī¯åİ¿éķ¿":118081,"寰":118082,"åģľæ»ŀ":118083,"淹没":118084,"çŁ³çģ°":118085,"çį¸":118086,"å̦":118087,"ç¾İåªĴ":118088,"æķĻæ¡Ī":118089,"åĬłçĽĸ":118090,"åħ¬å¼ĢèµĽ":118091,"å¥łåŁº":118092,"æĺĨèĻ«":118093,"çŀħ":118094,"磷éħ¸":118095,"äºīåĪĽ":118096,"çİĭæĻĵ":118097,"ç¼ĵåĨ²":118098,"åİļåİļ":118099,"åİļåİļçļĦ":118100,"æŀ£åºĦ":118101,"ç²¾çĽĬ":118102,"ç²¾çĽĬæ±Ĥ":118103,"ç²¾çĽĬæ±Ĥç²¾":118104,"åĪĨæĶ¯æľºæŀĦ":118105,"å®ŀæĸ½ç»ĨåĪĻ":118106,"æĸ°èµĽåŃ£":118107,"總統":118108,"éĢłè¡Ģ":118109,"é¢ĩåħ·":118110,"é»ĦåŁĶ":118111,"è¡ĢèĦĤ":118112,"交éĢļå·¥åħ·":118113,"å³¥":118114,"æĹıèĩªæ²»å·ŀ":118115,"寺éĻ¢":118116,"確å®ļ":118117,"æ¦Ĥ念èĤ¡":118118,"æĦŁå®ĺ":118119,"æŁľåı°":118120,"åĶĶ":118121,"çŀŃ解並":118122,"æĢ»ä»·":118123,"åIJ¸åħ¥":118124,"æĢ¼":118125,"æĻļéĹ´":118126,"å±Ĭæ¯ķä¸ļçĶŁ":118127,"çĶŁå§ľ":118128,"éĺħ读åħ¨æĸĩ":118129,"å¾ĹåΰæľīæķĪ":118130,"æIJľæķij":118131,"åİĨæĿ¥":118132,"èŃīæĺİ":118133,"åĥ»":118134,"èĨ³é£Ł":118135,"åĦĦåħĥ":118136,"æīĵåİĭ":118137,"宾客":118138,"åķ¼":118139,"ä¸ĢçϾå¤ļ":118140,"æ·±åħ¥äººå¿ĥ":118141,"æ¢ħå·ŀ":118142,"çłĶåѦ":118143,"åħ³ä¹İ":118144,"è¼Ľ":118145,"亲åıĭ":118146,"éħįæĸĻ":118147,"æĪijçĪ±ä½ł":118148,"è´¸æĺĵæĪĺ":118149,"æľīèī²":118150,"æľīèī²éĩijå±ŀ":118151,"æįIJåĬ©":118152,"为é¦ĸ":118153,"为é¦ĸçļĦ":118154,"å¯ĮåĬĽ":118155,"çĶ·ç¥ŀ":118156,"é³³":118157,"æµĩæ°´":118158,"åIJ±":118159,"æĺİç¡®æıIJåĩº":118160,"åı¹äºĨ":118161,"åı¹äºĨåı£æ°Ķ":118162,"礼æĭľ":118163,"è¿Ļ个åIJįåŃĹ":118164,"ä¿¡å¾Ĵ":118165,"å¿Ĺ强":118166,"éĻIJæĹ¶":118167,"æĶ¶è²»":118168,"åĨľå®¶ä¹IJ":118169,"å°ıé¾ĻèϾ":118170,"èIJ½å¹ķ":118171,"æ§Ł":118172,"åѦ龸":118173,"æĪĸå¤ļ":118174,"æĪĸå¤ļæĪĸ":118175,"æĪĸå¤ļæĪĸå°ij":118176,"座è°Īä¼ļä¸Ĭ":118177,"æ¶¼":118178,"éŃĶçİĭ":118179,"å²±":118180,"é¡¶å±Ĥ":118181,"é¡¶å±Ĥ设计":118182,"èĦijåŃIJéĩĮ":118183,"éĻ¢åŃIJéĩĮ":118184,"轩è¾ķ":118185,"身å¿ĥåģ¥åº·":118186,"èħij":118187,"éĹľæ³¨":118188,"åıĤåĬłä¼ļè®®":118189,"ä¸ŃåįİæĸĩåĮĸ":118190,"追寻":118191,"å®īçĦ¶":118192,"é£Ļåįĩ":118193,"éŁŃèıľ":118194,"鸦":118195,"åĤ¨éĩı":118196,"çĶ·æĸ¹":118197,"å¤ĩ份":118198,"æijĶåĢĴ":118199,"润æ»ijæ²¹":118200,"é̼è¿ij":118201,"çͳè¯ī":118202,"鸣类":118203,"çŁ³æ²¹åĮĸå·¥":118204,"åĿļæŀľ":118205,"è¿Ļå®¶ä¼Ļ":118206,"æĭĴä¸į":118207,"羣çļ®":118208,"è·ĿéĽ¢":118209,"è¿ĺæĮº":118210,"éĽķåĥı":118211,"åĪĿæģĭ":118212,"æıIJä¾ĽæĽ´å¤ļ":118213,"æŁ¥çľĭåħ¨æĸĩ":118214,"æķ°åŃĹè´§å¸ģ":118215,"åĸīåĴĻ":118216,"åı¦ä¸Ģä½į":118217,"åĤ¬åĮĸ":118218,"åĤ¬åĮĸåīĤ":118219,"ä»İæĿ¥æ²¡":118220,"å¯ĨåĪĩ缸åħ³":118221,"éĥ¨ä¸»ä»»":118222,"产åĵģç»ıçIJĨ":118223,"並åIJĮæĦı":118224,"èIJ½åħ¥":118225,"å±ıå¹ķä¸Ĭ":118226,"åħ¬åı¸ç«łç¨ĭ":118227,"æį¢åı¥è¯Ŀ":118228,"æį¢åı¥è¯Ŀ说":118229,"ä½įæĸ¼":118230,"ä½Ķ":118231,"åĩ»æĿĢ":118232,"缸è¾ĥ":118233,"缸è¾ĥäºİ":118234,"ç²½åŃIJ":118235,"åįĹæŀģ":118236,"宫é¢Ī":118237,"è£ģåijĺ":118238,"æĺİç»Ĩ":118239,"ä»·å̼éĵ¾":118240,"åĽĽä¸ªæĸ¹éĿ¢":118241,"æĥħåĨµæĿ¥çľĭ":118242,"æĮijåīĶ":118243,"æ®ĺ":118244,"æŀģåĬĽ":118245,"çĸijéļ¾":118246,"æĬµæĬĹåĬĽ":118247,"æĢ¥éĢŁ":118248,"æĪĮ":118249,"ä½İä¼°":118250,"éĹªè¿ĩ":118251,"æģ¬":118252,"èµŀæī¬":118253,"ä»ĸå¦Ī":118254,"æĪIJ为ä¸ĢåIJį":118255,"æ´Ĺ礼":118256,"é¢Ħ计å°Ĩ":118257,"åħĪè¿Ľåįķä½į":118258,"è¼Ķ":118259,"éĢĥèĦ±":118260,"çݰåŃĺ":118261,"èĢģèĻİæľº":118262,"åįģä¸ĥæĿ¡":118263,"åı¦ä¸ĢåįĬ":118264,"温æĥħ":118265,"åī¥ç¦»":118266,"ä¸ĸè´¸":118267,"å®ĺåı¸":118268,"å¾Īå·®":118269,"éĹ´è·Ŀ":118270,"请注æĦı":118271,"åı²è¯Ĺ":118272,"åĪ©åύ":118273,"è¿IJç®Ĺ":118274,"沦为":118275,"該使ç͍èĢħ":118276,"èĮ¬":118277,"éĶ¦ç»£":118278,"åı²æĸĻ":118279,"ç쵿´»æĢ§":118280,"èģĶ社":118281,"æĹłåĬ©":118282,"æĬĹæ°§åĮĸ":118283,"èıľèĤ´":118284,"éĢłèι":118285,"æİīèIJ½":118286,"å¤įæŁ¥":118287,"åĭĥåĭĥ":118288,"åij¼å£°":118289,"給äºĪ":118290,"åIJĮäºĭ们":118291,"ç½°":118292,"è¯ķæİ¢":118293,"åħ³éĶ®åŃĹ":118294,"æįIJçĮ®":118295,"ç»Łè®¡æķ°æį®":118296,"åĪĽä½ľèĢħ":118297,"ä¸ĭåįĬ":118298,"ä¸ĭåįĬåľº":118299,"æī¿æĭħ责任":118300,"端æŃ£":118301,"ç©¿è¡£":118302,"ä¼łçIJĥ":118303,"åĬ©éķ¿":118304,"åĩ±":118305,"éķ¶åµĮ":118306,"é£ŀç¿Ķ":118307,"è¾ĵåįµ":118308,"è¾ĵåįµç®¡":118309,"ä¸ĩåħ¬éĩĮ":118310,"æİ¨å¹¿åºĶç͍":118311,"å¿«æ¨Ĥ":118312,"ç§½":118313,"èī°å·¨":118314,"åIJ¬å®Į":118315,"åĿļ硬":118316,"å¥¥åľ°":118317,"å¥¥åľ°åĪ©":118318,"é¢ĵ":118319,"èĻIJå¾ħ":118320,"ä¾Ľæ±Ĥ":118321,"éľīç´ł":118322,"伪è£ħ":118323,"ä¹¡åľŁ":118324,"åĩ¡æľ¬ç½ij":118325,"åĩ¡æľ¬ç½ij注":118326,"ä¼ĬåĪ©":118327,"è¡¡æ°´":118328,"æĽ´åĥıæĺ¯":118329,"åĪĨéĴŁå·¦åı³":118330,"è¦ı模":118331,"äºĶåĪĨéĴŁ":118332,"åºĹåĬłçĽŁ":118333,"åĽ°éĽ£":118334,"åħ³åģľ":118335,"æĢĿ绪":118336,"åĴ½åĸī":118337,"缸符":118338,"çĥ¦èºģ":118339,"æĻĤæľŁ":118340,"åijĪçı¾":118341,"è§£æķ£":118342,"诱导":118343,"éļĶçĥŃ":118344,"çĮ¶":118345,"åįĹå®ĭ":118346,"æ·±åħ¥äºĨè§£":118347,"çŃĶçĸij":118348,"æĺ¼å¤ľ":118349,"åįĥä¼ı":118350,"åĬ³åĬ¡æ´¾éģ£":118351,"红è±Ĩ":118352,"åĿıäºĭ":118353,"çĤ¹æ»´":118354,"å°±ä¸ļå²Ĺä½į":118355,"约åIJĪ":118356,"åħįéϤ":118357,"éĢĨåĬ¿":118358,"éĩįéĩijå±ŀ":118359,"å®ĺ宣":118360,"ä½İå»ī":118361,"æģ¨ä¸įå¾Ĺ":118362,"å¾Ĺ天":118363,"å¾Ĺ天çĭ¬":118364,"å¾Ĺ天çĭ¬åİļ":118365,"ä¸Ģå°ģä¿¡":118366,"æĬ½å¥ĸ":118367,"è¾Ĺ转":118368,"çķĻå®Ī":118369,"çķĻå®ĪåĦ¿ç«¥":118370,"çŃĶåį·":118371,"å·¨åŀĭ":118372,"æľĢ好ä¸įè¦ģ":118373,"æµĻæ±Łå¤§åѦ":118374,"æĨ¨":118375,"æı¡æīĭ":118376,"éĴĪç»ĩ":118377,"æİĴ骨":118378,"çĤ½":118379,"å°ģè£ħ":118380,"åįĢåŁŁ":118381,"空æ°ĶåĩĢåĮĸ":118382,"åħīå½±":118383,"åĢĴå¡Į":118384,"å§ļæĺİ":118385,"æ¤į被":118386,"åѦåīį":118387,"åѦåīįæķĻèĤ²":118388,"èĬĿåĬł":118389,"èĬĿåĬłåĵ¥":118390,"缩水":118391,"ä½Ł":118392,"åľ¨çº¿åĴ¨è¯¢":118393,"èµıæŀIJ":118394,"éĿĴèĽĻ":118395,"æĬ±ä½ı":118396,"èĮĤåIJį":118397,"åħ¨åĬĽæīĵéĢł":118398,"åįļ士åѦä½į":118399,"æ²§å·ŀ":118400,"åĻ¢":118401,"æĿĤçī©":118402,"åĪ»çĶ»":118403,"æįħ":118404,"å¾®éĩı":118405,"å¾®éĩıåħĥç´ł":118406,"ä¸ĢåĽŀäºĭ":118407,"鸡èĤī":118408,"åĪ©æ¶¦çİĩ":118409,"æīįç®Ĺ":118410,"å¾®å¦Ļ":118411,"棵æłij":118412,"贪婪":118413,"åĩıå̼":118414,"梦å¢ĥ":118415,"åı¯è§Ĩ":118416,"åı¯è§ĨåĮĸ":118417,"广大å¸Ĥæ°ij":118418,"ä¸ĵä¸ļä»İäºĭ":118419,"ç»ı纬":118420,"ç´§çĽ¯":118421,"çŁ¥å·±":118422,"è¤ļ":118423,"æĸĩåĮĸåºķèķ´":118424,"åݦéŨå¸Ĥ":118425,"临港":118426,"对åħ¶çľŁå®ŀ":118427,"岸边":118428,"è¦ĸçĤº":118429,"æĬĹçĻĮ":118430,"åĶIJå®ĩ":118431,"ä¸įå¾Ĺè¶ħè¿ĩ":118432,"å¨ģæħij":118433,"æ¡Ĩæŀ¶åįıè®®":118434,"èµ°ç§ģ":118435,"åĽ¢å§Ķ":118436,"夸大":118437,"æ¬Ħ":118438,"ç¥ŀç»ıç³»ç»Ł":118439,"æijĦå½±ä½ľåĵģ":118440,"èĬ¥":118441,"å®īåºĨ":118442,"海滨":118443,"æŀĦæĢĿ":118444,"çĮĤ":118445,"åı©":118446,"éĺIJæĺİ":118447,"éģģ":118448,"精油":118449,"ç©´ä½į":118450,"æĬ¤èº«":118451,"æĬ¤èº«ç¬¦":118452,"æĮĩå°İ":118453,"åŃĺåľ¨ä¸Ģå®ļ":118454,"å¯ĤéĿĻ":118455,"æµ·å¤ĸå¸Ĥåľº":118456,"éĿ¡":118457,"综åIJĪå¾ģ":118458,"ä¿IJ":118459,"è¨Īç®Ĺ":118460,"æĺİæľĹ":118461,"äºļè¿IJ":118462,"äºļè¿IJä¼ļ":118463,"åīįçŀ»æĢ§":118464,"åĮ®ä¹ı":118465,"产ä¸ļæī¶è´«":118466,"èĦijæµ·":118467,"èĦijæµ·ä¸Ń":118468,"åħļçļĦé¢Ĩ导":118469,"åĪĺéĤ¦":118470,"æµģæĺŁ":118471,"æĵĤ":118472,"æĶĢçĻ»":118473,"åĴĶ":118474,"ä¸Ģä¸ĭåŃIJå°±":118475,"è¯Ĭæ²»":118476,"使åĬ²":118477,"åīµä½ľ":118478,"éĵŃè®°":118479,"éĴ±è´¢":118480,"æĹ¥æĬ¥è®°èĢħ":118481,"çĥŁçģ«":118482,"èĥľè´Ł":118483,"åįļ主":118484,"ä¸ŃåĽ½èģĶéĢļ":118485,"ç½ijç«Ļé¦ĸ页":118486,"å°±å¤Ł":118487,"å°±å¤ŁäºĨ":118488,"æīijåħĭ":118489,"å±ħå§Ķä¼ļ":118490,"è°¬":118491,"å®īåħ¨äºĭæķħ":118492,"åķĨçĶ¨è½¦":118493,"循çݯç»ıæµİ":118494,"æ·¤":118495,"èĢĥè¯ģ":118496,"å®ĿèĹı":118497,"å®Įç»ĵ":118498,"çłĶåıijæĬķåħ¥":118499,"å²ij":118500,"æģŃæķ¬":118501,"离éĢĢä¼ij":118502,"水墨":118503,"å©¶":118504,"è¯Ĺåı¥":118505,"å®ģæ³¢å¸Ĥ":118506,"å¼±çĤ¹":118507,"åģľçīĮ":118508,"奶油":118509,"å¥ĩ纳河":118510,"æĨĤ":118511,"社ä¼ļå®ŀè·µ":118512,"è´Ŀ壳":118513,"çłĤæµĨ":118514,"èιåıª":118515,"宣æī¬":118516,"综åIJĪæķ´æ²»":118517,"åĤij":118518,"æ°ijæĹıæĸĩåĮĸ":118519,"éĩįçݰ":118520,"积æ·Ģ":118521,"åħ¬çĦ¶":118522,"çħī":118523,"缸èģļ":118524,"æ±¾":118525,"纹çIJĨ":118526,"çĩĥçħ¤":118527,"æŃ¤ç§į":118528,"ç¾İå¦Ĩ":118529,"åįĥçĵ¦":118530,"çIJĽ":118531,"驾驶è¯ģ":118532,"éĺ¶æ¢¯":118533,"ä¸Ŀä¸Ŀ":118534,"å¾Īå¤ļäºĭæĥħ":118535,"åħīéĺ´":118536,"èijĹä½ľæ¬Ĭ":118537,"åħ§éĥ¨":118538,"çĽ¸å¯¹æĿ¥è¯´":118539,"éĸĴ":118540,"éľĩæħij":118541,"說話":118542,"æĨij":118543,"ç«¥è£ħ":118544,"ä½ıæĪ¿åĴĮ":118545,"ä½ıæĪ¿åĴĮåŁİ":118546,"å·²ç»ıè¶ħè¿ĩ":118547,"ä¾¦å¯Ł":118548,"çŁ¿çī©":118549,"ä¾Ľå¤§å®¶":118550,"çī¹éĤĢ":118551,"ç¨ĭåºıåijĺ":118552,"çķľçī§ä¸ļ":118553,"æ°ª":118554,"çijª":118555,"åĢĴåľ¨":118556,"åĢĴåľ¨åľ°":118557,"æ¯Ģ":118558,"梯éĺŁ":118559,"æİ¥èijĹ":118560,"æĬĹèıĮ":118561,"è¤ĩ":118562,"ç¬Ļ":118563,"æ¯Ķä¸Ĭå¹´":118564,"鸡汤":118565,"åŃ¦ä¹łæĪIJ绩":118566,"æĸijæĸĵ":118567,"åħĪ导":118568,"åĪĹ举":118569,"è°ĥæŁ¥æĺ¾ç¤º":118570,"æ©«":118571,"ä¹Ŀåįģ":118572,"è°¢éŁµ":118573,"è·¨è¶Ĭå¼ı":118574,"女æĢ§æľĭåıĭ":118575,"èIJ¥åħ»ä»·å̼":118576,"å®ŀè·µç»ıéªĮ":118577,"èĭıå·ŀå¸Ĥ":118578,"çĵ¶åŃIJ":118579,"æĸ°çļĦä¸Ģ":118580,"æĸ°çļĦä¸Ģå¹´":118581,"æĺİæĻ°":118582,"å®łçα":118583,"åŃĹ第":118584,"æľĹ诵":118585,"纳æĸ¯":118586,"éĢĨè¡Į":118587,"è«ĭæĤ¨":118588,"è«ĭæĤ¨æıIJä¾Ľ":118589,"èĥ¸æĢĢ":118590,"第ä¸ĥå±Ĭ":118591,"强壮":118592,"代åŃķ":118593,"æ±¶å·Ŀ":118594,"å®¶åĸ»":118595,"å®¶åĸ»æĪ·":118596,"å®¶åĸ»æĪ·æĻĵ":118597,"èħ®":118598,"åIJ¯è¿ª":118599,"æĹłéļľç¢į":118600,"èĻķçIJĨåıĬ":118601,"æĿ¥åİĨ":118602,"å®ŀåĬ¡":118603,"ä¹Łéļıä¹ĭ":118604,"æĬĢèĥ½åٹè®Ń":118605,"åѤç«ĭ":118606,"åīģ":118607,"éĥ´å·ŀ":118608,"æĶ¶æķĽ":118609,"éł»éģĵ":118610,"èį£å¹¸":118611,"èİ«è¿ĩäºİ":118612,"æŃ¤æĻĤ":118613,"纪å§ĶçĽij":118614,"纪å§ĶçĽijå§Ķ":118615,"缸éĤ»":118616,"åı¦ä¸Ģè¾¹":118617,"çªĴæģ¯":118618,"æľīå¾Īå¤ļç§į":118619,"æ¯ıéĢ¢":118620,"éĹ®ä¸ĸ":118621,"累累":118622,"éĿĴæĺ¥æľŁ":118623,"è·¯åĨµ":118624,"åħĭèݱ":118625,"è¿Ħä»Ĭ为æŃ¢":118626,"æĥĬå¥ĩ":118627,"跨度":118628,"éħ¿éĢł":118629,"åĩĭ":118630,"è¿ijä¸īå¹´":118631,"åĨħ马":118632,"åĨħ马å°Ķ":118633,"æıį":118634,"è¿Ľå±ķæĥħåĨµ":118635,"èĮ§":118636,"æľīåºıæİ¨è¿Ľ":118637,"æĢ»åĨłåĨĽ":118638,"æĪIJ绩åįķ":118639,"éĽ»è©±åıĬ":118640,"ç´§å¯Ĩç»ĵåIJĪ":118641,"åºĬä½į":118642,"é¹Ĭ":118643,"æķ£åıijçĿĢ":118644,"åĭŁèµĦ":118645,"æ°¨éħ¸":118646,"彩ç¥ŀ":118647,"è®Ģåıĸ":118648,"éĩ῏©":118649,"ä¸ŃåŃĺåľ¨çļĦ":118650,"ç¾İéºĹ":118651,"ä¸įæĸŃå¢ŀåĬł":118652,"è½®æµģ":118653,"æİ¥åIJ¬":118654,"年产å̼":118655,"åįĥåħĭ":118656,"æĪĺåľºä¸Ĭ":118657,"çħ§é¡§":118658,"å¹²éĥ¨éĺŁä¼į":118659,"åį°ç«ł":118660,"ä¸Ģèĩ´æĢ§":118661,"è¿ŀå¤ľ":118662,"åħħè£ķ":118663,"é»ijåIJįåįķ":118664,"åĩĢæ°´":118665,"ä¸Ģ大æĹ©":118666,"åĮħ袱":118667,"çĬ¯è§Ħ":118668,"çIJĨè«ĸ":118669,"æŀģæĺĵ":118670,"骸":118671,"å¨ĺå¨ĺ":118672,"åĽ¢åľĨ":118673,"亿åħĥ以ä¸Ĭ":118674,"åĪ©ç͍æĤ¨çļĦ":118675,"带æĿ¥æĽ´å¤ļ":118676,"ä¸Ń央空è°ĥ":118677,"æľĪèĸª":118678,"çĮľæĥ³":118679,"åĪºå®¢":118680,"ä½ľæģ¯":118681,"åįķè°ĥ":118682,"äºĴåĪ©":118683,"å¦Ĥæľīä¾µæĿĥ":118684,"å°ıå·§":118685,"åįģåł°":118686,"åĵĪåĵĪåĵĪåĵĪ":118687,"è¾¹éĻħ":118688,"æłĩè¯Ń":118689,"åĪĩåħ¥çĤ¹":118690,"éĢĨè¢Ń":118691,"è¯ķåīĤ":118692,"绿è±Ĩ":118693,"è®ļ":118694,"åŁºçĿ£å¾Ĵ":118695,"壬":118696,"åħ¨æĺİæĺŁ":118697,"éĢīç§Ģ":118698,"èĪĮå°ĸ":118699,"ä¸įåIJĮç±»åŀĭ":118700,"çĥŁåĽ±":118701,"ç쵿°Ķ":118702,"åĮºç®¡å§Ķä¼ļ":118703,"åĨľåī¯":118704,"åĨľåī¯äº§åĵģ":118705,"èĶļæĿ¥":118706,"沪æĮĩ":118707,"åħ»æ®ĸæĪ·":118708,"æĸĹå¿Ĺ":118709,"é¦ĸé¢Ĩ":118710,"è¡Ģèħ¥":118711,"åĬłç´§":118712,"ä¸Ģèĩ´å¥½è¯Ħ":118713,"第ä¸īèĬĤ":118714,"æī¬å°ĺ":118715,"交éĢļæŀ¢çº½":118716,"鼶ç¢İ":118717,"é»ijæ´ŀ":118718,"çľĭä¸įæĩĤ":118719,"å±ŀå®ŀ":118720,"主åŁİåĮº":118721,"å¨Ľ":118722,"å¨Ľæ¨Ĥ":118723,"ç¬ijæĦı":118724,"èĻ¹æ¡¥":118725,"åIJĦ个çݯèĬĤ":118726,"çķ¥å¾®":118727,"èĢķèĢĺ":118728,"æľ¬åľºæ¯ĶèµĽ":118729,"æĪIJè´¥":118730,"éĢīèĤ¡":118731,"èªŀè¨Ģ":118732,"çŃĶ辩":118733,"èĩªä¹ł":118734,"棺":118735,"ä¸ĩ欧åħĥ":118736,"åģľå·¥":118737,"对åħ¶è¿Ľè¡Į":118738,"积æŀģéħįåIJĪ":118739,"ä¹¾åĿ¤":118740,"å¦ĸæĢª":118741,"èļĮåŁł":118742,"èµĦ产è¯Ħä¼°":118743,"è°ĥçļ®":118744,"éϤå¤ķ":118745,"åĽ´å¢Ļ":118746,"æľįå½¹":118747,"æ·±æ¸Ĭ":118748,"é¢Ħåζ":118749,"çĥ½":118750,"å®ī稳":118751,"建æŀĦ":118752,"çĭĻåĩ»":118753,"主åĭķ註åĨĬ":118754,"éĥ½æľīèĩªå·±":118755,"æİĴåIJį第ä¸Ģ":118756,"麻辣":118757,"çĢļ":118758,"çĥŁèĬ±çĪĨ":118759,"çĥŁèĬ±çĪĨ竹":118760,"èĩªçĦ¶ä¿ĿæĬ¤":118761,"ä»Ļå¢ĥ":118762,"为äºĨéģ¿åħį":118763,"åĨ·åºĵ":118764,"è§£æĶ¾æĢĿæĥ³":118765,"åĪĿäºĮ":118766,"ä½ĵè´´":118767,"é¦ĸå¯Į":118768,"迪æĭľ":118769,"æļĤç¼ĵ":118770,"æĶ¯æĮģåĬĽåº¦":118771,"侦æİ¢":118772,"马åĪº":118773,"åĮĹæ±½":118774,"ç¹ŀ":118775,"è°İè¨Ģ":118776,"éĢ£çºĮ":118777,"å·³":118778,"ä»»ä½ķæĹ¶åĢĻ":118779,"车èģĶç½ij":118780,"åįķ项":118781,"å¸Ńåį·":118782,"建çŃijæĿIJæĸĻ":118783,"ä¸Ńç§ĭèĬĤ":118784,"ç¡ķ士çłĶç©¶":118785,"ç§ģç«ĭ":118786,"åħļåĴĮæĶ¿åºľ":118787,"æľ¬æ¬¡äº¤æĺĵ":118788,"èººåľ¨åºĬä¸Ĭ":118789,"ç½ijåıĭè¯Ħ论":118790,"å¦Ŀ":118791,"害ç¾ŀ":118792,"åħ¬ç«ĭåĮ»éĻ¢":118793,"ä¸ŀ":118794,"çĶŁçī©è´¨":118795,"åºĶéĤĢ":118796,"æĬ½åıĸ":118797,"åĩłå¼ł":118798,"æijĺç¼ĸ":118799,"ç»ĺæľ¬":118800,"详解":118801,"强硬":118802,"æľĢåħĪè¿ĽçļĦ":118803,"æĭĽèĤ¡":118804,"æĭĽèĤ¡ä¹¦":118805,"åįĥæĸ¹":118806,"åįĥæĸ¹çϾ":118807,"åįĥæĸ¹çĻ¾è®¡":118808,"éħįéŁ³":118809,"驾çħ§":118810,"å¾ģæĪĺ":118811,"èªĵè¨Ģ":118812,"æĭľå¸Ī":118813,"æĭľå¸ĪåѦ":118814,"æĭľå¸ĪåѦèīº":118815,"æĬ±åĽ¢":118816,"ç±³ç²ī":118817,"éĿŀ常éĢĤåIJĪ":118818,"èĪªæµ·":118819,"履约":118820,"åįģåħ«æĿ¡":118821,"éĶ»éĢł":118822,"éĩįè¦ģ举æİª":118823,"åıijæĮ¥ä½ľç͍":118824,"æ·ļ":118825,"人社":118826,"人社å±Ģ":118827,"è¯ķçĤ¹å·¥ä½ľ":118828,"éĺľéĺ³":118829,"æ¡ĥåľĴ":118830,"æ°ijä¼ģ":118831,"æ´ģçϽ":118832,"贵宾":118833,"åħ¬ç¤¾":118834,"è§īæĤŁ":118835,"è®°å¿ĨåĬĽ":118836,"æľĥåĵ¡è¨»åĨĬ":118837,"æŃ¤æ¡Ī":118838,"麻çĹ¹":118839,"çıĢ":118840,"æĸ©èİ·":118841,"çĶ·åŃ©åŃIJ":118842,"å±ĢéĻIJäºİ":118843,"åĭĺæŁ¥":118844,"åIJĥ饱":118845,"èĬ¬åħ°":118846,"æ£ķèī²":118847,"ç¦ıç¥ī":118848,"çͳèĬ±":118849,"æµ·çĽĹ":118850,"èĶij":118851,"æĸĩåѸ":118852,"æ´»æĢ§çĤŃ":118853,"缴éĢļ车":118854,"è°¢éĤĢ":118855,"躺çĿĢ":118856,"åľĥ":118857,"æ¯ıæĹ¥ç»ıæµİ":118858,"åħ¬åħ±æĸĩåĮĸ":118859,"讲æķħäºĭ":118860,"å¯Łçľĭ":118861,"æĤłéĹ²":118862,"åľ°åĿª":118863,"æ¶Įçݰåĩº":118864,"é«ĺçŃīéĻ¢æł¡":118865,"èĮĦåŃIJ":118866,"éĺ²åį«":118867,"ä¾ĭè¡Į":118868,"æĺ¾éľ²":118869,"æĸ°å¸¸æĢģ":118870,"ç»Ŀä½³":118871,"å¯Įæ°ij":118872,"以人æ°ij":118873,"以人æ°ij为":118874,"éĤ¢åı°":118875,"å±ķæ¼Ķ":118876,"çϼå¸ĥ":118877,"è´Łè½½":118878,"åģı离":118879,"æ°¸éģł":118880,"éĩįè¦ģåİŁåĽł":118881,"åįıä¼ļä¼ļåijĺ":118882,"é﾿°ij":118883,"çĶŁäº§è½¦éĹ´":118884,"çģµåĬ¨":118885,"两年åīį":118886,"æĸ¹åľĨ":118887,"æ´»ä¸ĭåİ»":118888,"ä¸ĸçķĮè§Ĥ":118889,"éªĹåıĸ":118890,"ç¾İè²Į":118891,"èĥ½çľĭåĩº":118892,"çϼæı®":118893,"è§Ĥå½±":118894,"åīĥ":118895,"åIJĪèµĦåħ¬åı¸":118896,"å©§":118897,"å¹²æĹ±":118898,"åħŃ个æľĪ":118899,"尤为éĩįè¦ģ":118900,"èĤ½":118901,"ç§¦åĽ½":118902,"æīĺç¦ı":118903,"建çŃijå¸Ī":118904,"åįĩ级æĶ¹éĢł":118905,"å°ıé¢Ŀ":118906,"å°ıé¢Ŀ贷款":118907,"两个维æĬ¤":118908,"æĭįæĭį":118909,"åı¯çĸij":118910,"æį¢åıĸ":118911,"æŃ¦å£«":118912,"èµĸ以":118913,"èµĸ以çĶŁåŃĺ":118914,"æĮļ":118915,"殿åłĤ":118916,"èĩªçĦ¶çķĮ":118917,"ç£ģåľº":118918,"å¦Ĥä½ķçľĭå¾ħ":118919,"ä»ĬæĹ¥å¤´æĿ¡":118920,"è¥¿åŁŁ":118921,"èİ·è¯Ħ":118922,"é¢¨æł¼":118923,"ä¿ĦåĽ½":118924,"æīĵæĭ¼":118925,"å®£ä¼łçīĩ":118926,"å¾Īæĸ¹ä¾¿":118927,"ä¾Ľç»Ļä¾§":118928,"纪念ç¢ij":118929,"毫åħĭ":118930,"èĬ³é¦Ļ":118931,"å·¥åķĨéĵ¶è¡Į":118932,"请çĤ¹åĩ»":118933,"缪":118934,"æĹłæķ°æ¬¡":118935,"èį¯å¸Ī":118936,"èħ¸":118937,"游èīĩ":118938,"åĮ¾":118939,"å·¡èĪª":118940,"æ²»çIJĨä½ĵç³»":118941,"èIJ¥éĢłèī¯å¥½":118942,"æ··æ·Ĩ":118943,"éĢļçķħ":118944,"åĬ³ç´¯":118945,"ä»ĵä½į":118946,"å¢ŀéķ·":118947,"éļIJ约":118948,"æĿĤå¿Ĺ社":118949,"åħ»èĤ²":118950,"åı¯èĥ½åıijçĶŁ":118951,"èĢĥ試":118952,"西侧":118953,"åĬłåĢį":118954,"主æĮģåı¬å¼Ģ":118955,"çķ¢ç«Ł":118956,"éĹ®è¯¢":118957,"æµ·æ£ł":118958,"èĹ©":118959,"注æĺİæĿ¥æºIJ":118960,"æ£Ģçĸ«":118961,"请åģĩ":118962,"æĬļæij¸":118963,"èĵĦçĶµæ±ł":118964,"è·Łä¸įä¸Ĭ":118965,"çݰ代社ä¼ļ":118966,"çѹèµĦ":118967,"ä½ĵèĤ²å½©ç¥¨":118968,"延误":118969,"è¾Ľè¾£":118970,"éĿ¢å®¹":118971,"åį°è®°":118972,"çģŃ亡":118973,"ç´łé£Ł":118974,"åħ´èĩ´":118975,"éľĢè¦ģç͍":118976,"éľĢè¦ģç͍åΰ":118977,"å®Ŀå¦Ī":118978,"ç£ĭåķĨ":118979,"éļ¶å±ŀ":118980,"è´¡çĮ®åĬĽéĩı":118981,"åħ¬åħ±èµĦæºIJ":118982,"大éĺª":118983,"åĨĽè®Ń":118984,"æĤ¬å¿µ":118985,"社ä¼ļ稳å®ļ":118986,"å¹²äºĭåĪĽä¸ļ":118987,"æľīæĿ¡ä»¶":118988,"æľīæĿ¡ä»¶çļĦ":118989,"ä¸Ģå¹´ä¸Ģ度":118990,"åİ¥":118991,"强奸":118992,"豪车":118993,"æİĮæŁľ":118994,"æ°´åΩ工ç¨ĭ":118995,"峪":118996,"积æŀģä½ľç͍":118997,"æµ·æ·Ģ":118998,"æµ·æ·ĢåĮº":118999,"çĥŃæĴŃ":119000,"åĿļæĮģä¸įæĩĪ":119001,"åıĮèĦļ":119002,"绣æĪĺ":119003,"ä»»ä½ķ人éĥ½":119004,"åľ°ä¸ĭ室":119005,"åĨ¶çĤ¼":119006,"è°ħè§£":119007,"æ¸Ķèι":119008,"太éĺ³åŁİ":119009,"被æįķ":119010,"计ç®Ĺåύ":119011,"西åĮ»":119012,"èĪĴå¿ĥ":119013,"桦":119014,"éģ²":119015,"åĬij":119016,"è¨Ĺ":119017,"èݺ":119018,"åĸ¬":119019,"çĵ¯":119020,"åĺĺ":119021,"åłķ":119022,"æķĿ":119023,"åij¦":119024,"èĭŀ":119025,"æŃ¹":119026,"æĵ¬":119027,"æ£Ħ":119028,"èε":119029,"奪":119030,"çļĭ":119031,"æĶ¸":119032,"åľ©":119033,"ç¤Ļ":119034,"ç¢ĺ":119035,"éıĪ":119036,"æĦķ":119037,"ç¹³":119038,"èĺ¸":119039,"è²Ĥ":119040,"æ¼²":119041,"æij¹":119042,"æĶĿ":119043,"åŃ¢":119044,"èķŃ":119045,"騰":119046,"æ½¼":119047,"éħ°":119048,"æĴ¥":119049,"蹬":119050,"é¨Ļ":119051,"踹":119052,"éģIJ":119053,"çĺĢ":119054,"èĽ¤":119055,"æĤĸ":119056,"çĴŀ":119057,"ç£IJ":119058,"æİ°":119059,"è¾Ĭ":119060,"å¾ij":119061,"æİĸ":119062,"éģŀ":119063,"éĤ¸":119064,"éĽı":119065,"æĨİ":119066,"æľ½":119067,"çį»":119068,"ç®Ķ":119069,"褶":119070,"æļ¢":119071,"æĺµ":119072,"çıĤ":119073,"æĤ¸":119074,"åģµ":119075,"åĻľ":119076,"壯":119077,"æĴ®":119078,"æģį":119079,"å©ķ":119080,"篱":119081,"éĺĻ":119082,"çīł":119083,"è£ĺ":119084,"è³¢":119085,"éĩľ":119086,"éĵł":119087,"èİĺ":119088,"æ®Ĩ":119089,"çϏ":119090,"è´ı":119091,"ç²±":119092,"å«¡":119093,"åĨ¢":119094,"è¤Ĵ":119095,"æĩĬ":119096,"éľĵ":119097,"塵":119098,"æĭ£":119099,"å»Ł":119100,"飽":119101,"é¢Į":119102,"åļİ":119103,"æ·º":119104,"èĨł":119105,"åİŃ":119106,"åļĩ":119107,"åijĥ":119108,"çĴĭ":119109,"çѱ":119110,"æĭ·":119111,"èį§":119112,"éͰ":119113,"åѰ":119114,"èĵĵ":119115,"èĨ½":119116,"æŀī":119117,"åĸ½":119118,"çĽĶ":119119,"çŃIJ":119120,"ç¾ļ":119121,"èħĮ":119122,"辫":119123,"æ³ĵ":119124,"çͬ":119125,"èŁ²":119126,"åĸª":119127,"å¦ĵ":119128,"è¬Ģ":119129,"çĤĬ":119130,"æĽľ":119131,"æ±IJ":119132,"è´Ī":119133,"èįĢ":119134,"æĬł":119135,"碾":119136,"æ«ĥ":119137,"éŀł":119138,"èijĨ":119139,"祯":119140,"å½Ŀ":119141,"é¦į":119142,"åĮ£":119143,"æľŃ":119144,"åĿĤ":119145,"ä¿ij":119146,"èĵ®":119147,"çijĽ":119148,"æīī":119149,"èĩŁ":119150,"貫":119151,"çİ¥":119152,"æ·¼":119153,"åݲ":119154,"é³Į":119155,"å³Ń":119156,"åijĽ":119157,"é§":119158,"é§IJ":119159,"éģ·":119160,"俪":119161,"æĢĤ":119162,"è¾į":119163,"å±į":119164,"åĭģ":119165,"å¥ļ":119166,"éļħ":119167,"éĴ´":119168,"è¼Ŀ":119169,"宦":119170,"èIJĥ":119171,"çĺĭ":119172,"æĨ¶":119173,"æĤħ":119174,"è¾Ļ":119175,"åijľ":119176,"çłº":119177,"éĢŀ":119178,"æµļ":119179,"éĸ£":119180,"èĸ©":119181,"éĻĭ":119182,"çĤĻ":119183,"èªķ":119184,"丣":119185,"é¹½":119186,"ç±Į":119187,"è´°":119188,"éĭª":119189,"çľ©":119190,"æĴIJ":119191,"èĨº":119192,"éŀĺ":119193,"ç¾²":119194,"窮":119195,"ç´IJ":119196,"æ®´":119197,"纾":119198,"èºį":119199,"ç´ĭ":119200,"çĦĸ":119201,"çĶº":119202,"çī½":119203,"çĤ¯":119204,"ç¼Ķ":119205,"æ¯ĵ":119206,"嬰":119207,"梧":119208,"äºŁ":119209,"è¢ħ":119210,"çįĦ":119211,"è¿¥":119212,"æ¼¾":119213,"çĿij":119214,"績":119215,"é¦ĭ":119216,"é¤ħ":119217,"æ¹Ħ":119218,"æĺĩ":119219,"æŀŃ":119220,"èĸ°":119221,"æŁij":119222,"榻":119223,"åĻĹ":119224,"åĻ´":119225,"棣":119226,"åͧ":119227,"çĨ¹":119228,"輯":119229,"å¢Ł":119230,"é²²":119231,"æĪĽ":119232,"èī¦":119233,"èĬ®":119234,"åĺŁ":119235,"帥":119236,"å¿»":119237,"çĮĿ":119238,"寵":119239,"賦":119240,"èĽ¾":119241,"滾":119242,"çĤķ":119243,"éĵ¬":119244,"èĴ¿":119245,"éĴ¨":119246,"çĥĻ":119247,"ç²ķ":119248,"æĥ¦":119249,"溧":119250,"é¢į":119251,"éħ£":119252,"峦":119253,"ç±ģ":119254,"çĥĥ":119255,"åĨĹ":119256,"åıģ":119257,"缧":119258,"ç½µ":119259,"éĴĹ":119260,"å¬ī":119261,"è°ı":119262,"ç³§":119263,"è¾Ń":119264,"æ·¬":119265,"èŁĴ":119266,"诩":119267,"è¦ĥ":119268,"çĻĸ":119269,"é½Ĵ":119270,"çĪIJ":119271,"ç®į":119272,"ç¼İ":119273,"磺":119274,"诫":119275,"褲":119276,"æĵł":119277,"èIJ¦":119278,"çĿ¬":119279,"è°į":119280,"éĦ°":119281,"æł¾":119282,"é¡ı":119283,"縱":119284,"桨":119285,"éĨ¬":119286,"襲":119287,"讪":119288,"婺":119289,"èįŁ":119290,"åĮĿ":119291,"çĨł":119292,"èĽĬ":119293,"æ¸ļ":119294,"å´½":119295,"鲤":119296,"åķ°":119297,"åĮķ":119298,"ä¸IJ":119299,"讥":119300,"åı½":119301,"åı¼":119302,"çļ¿":119303,"è¿Ĥ":119304,"åIJĨ":119305,"å±¹":119306,"èĩ¼":119307,"讹":119308,"é©®":119309,"纫":119310,"æ±ŀ":119311,"æĬ¡":119312,"èĭĩ":119313,"åIJł":119314,"åIJŃ":119315,"åIJ®":119316,"å²ĸ":119317,"ä½ĥ":119318,"çĭĪ":119319,"åºĩ":119320,"åIJĿ":119321,"éŰ":119322,"æ±¹":119323,"忱":119324,"æĭĦ":119325,"æĭĹ":119326,"èĮī":119327,"èĭĽ":119328,"èĮģ":119329,"çŁ¾":119330,"èĻı":119331,"åij»":119332,"åĴĦ":119333,"å¿¿":119334,"èĤ®":119335,"çĭŀ":119336,"çĸŁ":119337,"çĸĻ":119338,"çĸļ":119339,"æ³ŀ":119340,"å¸ļ":119341,"å±ī":119342,"è¿¢":119343,"驹":119344,"çİ·":119345,"çıĬó":119346,"çıĬół":119347,"çıĬółĦ":119348,"çıĬółĦģ":119349,"æĮİ":119350,"æĭ´":119351,"åŀĽ":119352,"èį¤":119353,"æ®ĥ":119354,"çĽ¹":119355,"åĵĨ":119356,"è´»":119357,"毡":119358,"çĭ°":119359,"çĭ¡":119360,"æŁĴ":119361,"æģĥ":119362,"诬":119363,"è¢Ħ":119364,"诲":119365,"èļ¤":119366,"èĢĻ":119367,"åŁĤ":119368,"æįİ":119369,"æįĮ":119370,"æ¢Ĩ":119371,"éħĮ":119372,"çł¾":119373,"æ®ī":119374,"åĶł":119375,"æĻĮ":119376,"èļ£":119377,"èļª":119378,"èļĵ":119379,"鸯":119380,"åĶģ":119381,"åĶĨ":119382,"åĢĶ":119383,"èĪĢ":119384,"豺":119385,"èĥ°":119386,"鸵":119387,"鸳":119388,"é¦ģ":119389,"ç¾Ķ":119390,"æ¶£":119391,"æ¶ķ":119392,"æĤ¯":119393,"诽":119394,"è°Ĩ":119395,"ç¥Ł":119396,"绢":119397,"æįº":119398,"æį¶":119399,"æį»":119400,"æİĤ":119401,"èıł":119402,"èIJ¤":119403,"éħĹ":119404,"çľ¶":119405,"åķĦ":119406,"èļ¯":119407,"èĽĢ":119408,"åͬ":119409,"帷":119410,"éĵIJ":119411,"éĵĽ":119412,"åģİ":119413,"å¾Ļ":119414,"èĦ¯":119415,"è±ļ":119416,"çĮĸ":119417,"çĹĬ":119418,"æ¶®":119419,"æĥŃ":119420,"æĤ´":119421,"æĥĭ":119422,"è°ļ":119423,"æı©":119424,"æIJĢ":119425,"æIJĶ":119426,"æ¦Ķ":119427,"æ¤Ń":119428,"éĽ³":119429,"åĸ³":119430,"è·Ľ":119431,"èľĵ":119432,"èľĴ":119433,"é¹ĥ":119434,"éĶĦ":119435,"çĶ¥":119436,"çŃı":119437,"çĮ©":119438,"çĮ¬":119439,"çĮ¾":119440,"çĹ¢":119441,"çĹª":119442,"æĥ°":119443,"çªĺ":119444,"è°¤":119445,"éļĺ":119446,"å©¿":119447,"é¹ī":119448,"çijĻ":119449,"æĸŁ":119450,"椿":119451,"éħª":119452,"éĽ¹":119453,"åŦ":119454,"è··":119455,"è·º":119456,"è·¤":119457,"èľĪ":119458,"èľĹ":119459,"å¹Į":119460,"é¦ı":119461,"èªĬ":119462,"æ¼ĵ":119463,"è¤Ĥ":119464,"èĶĹ":119465,"èͼ":119466,"åħ¢":119467,"裳":119468,"èľ»":119469,"èĿĩ":119470,"åĺĢ":119471,"é͹":119472,"ç®ķ":119473,"箩":119474,"çĺ©":119475,"çĺŁ":119476,"æ¼±":119477,"寥":119478,"骡":119479,"æĴµ":119480,"æĴ¬":119481,"è±Į":119482,"åĺ¹":119483,"èĿł":119484,"èĿĮ":119485,"èĿĹ":119486,"èĿĻ":119487,"éķIJ":119488,"稼":119489,"ç¯ĵ":119490,"èĨĽ":119491,"鲫":119492,"çĺª":119493,"鲨":119494,"æĨĶ":119495,"ç¿©":119496,"褥":119497,"ç¼Ń":119498,"åĻ©":119499,"çĵ¢":119500,"éľİ":119501,"踱":119502,"è¹Ĥ":119503,"èŁĨ":119504,"鹦":119505,"篡":119506,"çĺ¸":119507,"窿":119508,"ç¼°":119509,"èĹIJ":119510,"è¹ĭ":119511,"èŁĭ":119512,"èŁĢ":119513,"赡":119514,"èĩĬ":119515,"é³Ħ":119516,"ç³ł":119517,"æĩ¦":119518,"åļ£":119519,"éķ°":119520,"é³į":119521,"ç°¸":119522,"çĻ£":119523,"é³ĸ":119524,"é¬ĵ":119525,"èłķ":119526,"éľ¹":119527,"èºı":119528,"黯":119529,"çĵ¤":119530,"çŁĹ":119531,"ä¹Ĥ":119532,"ä¹ľ":119533,"åħĢ":119534,"å¼ĭ":119535,"åŃij":119536,"åŃĵ":119537,"幺":119538,"äºĵ":119539,"廿":119540,"ä¸ı":119541,"åįħ":119542,"ä»ĥ":119543,"ä»ī":119544,"ä»Ĥ":119545,"åĪĪ":119546,"çĪ»":119547,"åįŀ":119548,"éĹ©":119549,"讣":119550,"夬":119551,"çĪ¿":119552,"æ¯ĭ":119553,"éĤĹ":119554,"éĤĽ":119555,"èī½":119556,"èī¿":119557,"åıµ":119558,"ä¸ķ":119559,"åĮľ":119560,"åĬ¢":119561,"åįŁ":119562,"åı±":119563,"åı»":119564,"仨":119565,"代":119566,"仡":119567,"仫":119568,"ä»ŀ":119569,"åį®":119570,"æ°IJ":119571,"çĬ°":119572,"åĪį":119573,"éĤĿ":119574,"éĤĻ":119575,"讦":119576,"è®§":119577,"讫":119578,"å°»":119579,"éĺ¡":119580,"å°ķ":119581,"å¼ģ":119582,"èĢĴ":119583,"çİİ":119584,"çİij":119585,"åľ¬":119586,"æī¦":119587,"åľª":119588,"åľ¹":119589,"æīª":119590,"åľ®":119591,"åľ¯":119592,"èĬĬ":119593,"èĬį":119594,"èĬĦ":119595,"èĬ¨":119596,"èĬij":119597,"èĬİ":119598,"èĬĹ":119599,"äºĺ":119600,"åİį":119601,"夼":119602,"æĪį":119603,"å°¥":119604,"乩":119605,"æĹ¯":119606,"æĽ³":119607,"å²Į":119608,"屺":119609,"åĩ¼":119610,"åĽ¡":119611,"éĴĩ":119612,"ç¼¶":119613,"æ°ĺ":119614,"æ°ĸ":119615,"çīĿ":119616,"ä¼İ":119617,"ä¼Ľ":119618,"ä¼¢":119619,"佤":119620,"仵":119621,"ä¼¥":119622,"ä¼§":119623,"ä¼ī":119624,"伫":119625,"åĽŁ":119626,"æ±Ĩ":119627,"åĪĸ":119628,"å¤Ļ":119629,"æĹ®":119630,"åĪİ":119631,"çĬ·":119632,"çĬ¸":119633,"èĪĽ":119634,"åĩ«":119635,"éĤ¬":119636,"饧":119637,"æ±Ķ":119638,"æ±ľ":119639,"æ±Ĭ":119640,"å¿ĸ":119641,"å¿ı":119642,"è®´":119643,"讵":119644,"è®·":119645,"èģ¿":119646,"èī®":119647,"åݾ":119648,"å¦ģ":119649,"纡":119650,"纣":119651,"纥":119652,"纨":119653,"çİķ":119654,"çİĻ":119655,"æĬŁ":119656,"æĬĶ":119657,"åľ»":119658,"åĿį":119659,"æĬĥ":119660,"ã§IJ":119661,"èĬ«":119662,"èĬ¾":119663,"èĭĪ":119664,"èĭ£":119665,"èĭĭ":119666,"èĬ¼":119667,"èĭĮ":119668,"èĭģ":119669,"èĬ©":119670,"èĬª":119671,"èĬ¡":119672,"èĬŁ":119673,"èĭĦ":119674,"èĭİ":119675,"èĭ¡":119676,"æĿĮ":119677,"æĿĵ":119678,"æĿĪ":119679,"å¿ij":119680,"åŃĽ":119681,"éĤ´":119682,"éĤ³":119683,"å¥ģ":119684,"è±ķ":119685,"å¿Ĵ":119686,"欤":119687,"轫":119688,"è¿ĵ":119689,"éĤ¶":119690,"å¿IJ":119691,"åį£":119692,"éĤº":119693,"æĹ°":119694,"åijĭ":119695,"åijĴ":119696,"åijĵ":119697,"åijĶ":119698,"åijĸ":119699,"æĹ¸":119700,"åIJ¡":119701,"èϬ":119702,"åIJ½":119703,"åIJ£":119704,"åIJ²":119705,"å¸ı":119706,"å²Ī":119707,"å²ĺ":119708,"åħķ":119709,"åĽµ":119710,"åĽ«":119711,"éĴĬ":119712,"éĴĭ":119713,"éĴĮ":119714,"è¿ķ":119715,"æ°Ļ":119716,"æ°ļ":119717,"çī¤":119718,"ä½ŀ":119719,"ä½ļ":119720,"ä½Ŀ":119721,"ä½Ĺ":119722,"å½·":119723,"ä½ĺ":119724,"ä½¥":119725,"豸":119726,"åĿĮ":119727,"èĤŁ":119728,"å¥Ĥ":119729,"åĬ¬":119730,"çĭģ":119731,"鸳":119732,"饨":119733,"饩":119734,"饫":119735,"饬":119736,"åºij":119737,"åºĭ":119738,"çĸĶ":119739,"çĸĸ":119740,"èĤĵ":119741,"éű":119742,"éĹ³":119743,"çĤĢ":119744,"æ²£":119745,"æ²ħ":119746,"æ²Ķ":119747,"沤":119748,"æ²ı":119749,"æ²ļ":119750,"汩":119751,"汨":119752,"沨":119753,"æ±´":119754,"æ²Ĩ":119755,"沩":119756,"æ³IJ":119757,"æĢĥ":119758,"æĢĦ":119759,"å¿¡":119760,"忤":119761,"忾":119762,"æĢħ":119763,"忪":119764,"æĢĨ":119765,"å¿Ń":119766,"忸":119767,"è¯Ĥ":119768,"è¯ĥ":119769,"è¯ħ":119770,"è¯ĭ":119771,"è¯Į":119772,"è¯Ĵ":119773,"éĻĤ":119774,"éĻī":119775,"妩":119776,"妪":119777,"妣":119778,"å¦Ĺ":119779,"妫":119780,"å§Ĵ":119781,"妤":119782,"åĬŃ":119783,"åĪŃ":119784,"éĤ°":119785,"çºŃ":119786,"纰":119787,"纴":119788,"çİ¡":119789,"çİŃ":119790,"çİł":119791,"çİ¢":119792,"çݦ":119793,"çĽĤ":119794,"å¿Ŀ":119795,"åĮ¦":119796,"åĿ©":119797,"æĬ¨":119798,"æĭ¤":119799,"åĿ«":119800,"æĭĪ":119801,"åŀĨ":119802,"æĬ»":119803,"åĬ¼":119804,"æĭĥ":119805,"æĭĬ":119806,"åĿ¼":119807,"åĿ»":119808,"ã§Ł":119809,"åĿ¨":119810,"åĿŃ":119811,"æĬ¿":119812,"åĿ³":119813,"èĭ·":119814,"èĭ¤":119815,"èĮı":119816,"èĭ«":119817,"èĭľ":119818,"èĭ´":119819,"èĭĴ":119820,"èĭĺ":119821,"èĮĮ":119822,"èĭ»":119823,"èĭĵ":119824,"èĮļ":119825,"èĮĨ":119826,"èĮij":119827,"èĮĵ":119828,"èĮĶ":119829,"èĮķ":119830,"èĮĢ":119831,"èĭķ":119832,"æŀ¥":119833,"æŀĩ":119834,"æĿª":119835,"æĿ³":119836,"æŀ§":119837,"æĿµ":119838,"æŀ¨":119839,"æŀŀ":119840,"æŀĭ":119841,"æĿ»":119842,"æĿ·":119843,"æĿ¼":119844,"磸":119845,"çłĢ":119846,"åγ":119847,"å¥Ħ":119848,"æ®ģ":119849,"éĥı":119850,"è½Ń":119851,"éĥħ":119852,"鸢":119853,"缱":119854,"æĺĻ":119855,"æĿ²":119856,"æĺĥ":119857,"åĴĤ":119858,"åij¸":119859,"æĺĢ":119860,"æĹ»":119861,"æĺī":119862,"çĤħ":119863,"çķĢ":119864,"èĻ®":119865,"åĴĢ":119866,"åij·":119867,"黾":119868,"åij±":119869,"åij¤":119870,"åĴĨ":119871,"åĴĽ":119872,"åij¶":119873,"åij£":119874,"åĴĿ":119875,"å²¢":119876,"岿":119877,"岬":119878,"岫":119879,"å¸Ļ":119880,"å²£":119881,"å³ģ":119882,"åĪ¿":119883,"å²·":119884,"åīĢ":119885,"å¸Ķ":119886,"å³Ħ":119887,"æ²ĵ":119888,"åĽ¹":119889,"ç½Ķ":119890,"éĴį":119891,"éĴİ":119892,"éĴı":119893,"éĴĴ":119894,"éĴķ":119895,"éĤ¾":119896,"è¿®":119897,"çī¦":119898,"竺":119899,"迤":119900,"ä½¶":119901,"ä¾ij":119902,"ä¾ī":119903,"èĩ¾":119904,"ä¾Ĺ":119905,"ä¾ı":119906,"侩":119907,"ä½»":119908,"ä½¾":119909,"侪":119910,"ä½¼":119911,"佯":119912,"侬":119913,"å¸Ľ":119914,"ä¾Ķ":119915,"å¾Ĥ":119916,"åν":119917,"éĥĦ":119918,"ç±´":119919,"çĵ®":119920,"æĪĹ":119921,"èĤ¼":119922,"äıĿ":119923,"èĤ±":119924,"èĤ«":119925,"è¿©":119926,"éĥĩ":119927,"çĭİ":119928,"çĭį":119929,"çĭĴ":119930,"åĴİ":119931,"饯":119932,"饴":119933,"åĨ½":119934,"åĨ¼":119935,"åºĸ":119936,"çĸł":119937,"çĸĿ":119938,"åħĸ":119939,"åĬ¾":119940,"ð¬ī":119941,"ð¬ī¼":119942,"çĤĺ":119943,"çĤĿ":119944,"çĤĶ":119945,"æ³Ķ":119946,"æ²Ń":119947,"æ³·":119948,"æ³±":119949,"æ³ħ":119950,"æ³ł":119951,"泺":119952,"æ³ĸ":119953,"泫":119954,"æ³®":119955,"æ²±":119956,"泯":119957,"æĢĻ":119958,"æĢµ":119959,"æĢ¦":119960,"æĢĽ":119961,"æĢı":119962,"æĢį":119963,"ã¤":119964,"ã¤ĺ":119965,"æĢ©":119966,"æĢ«":119967,"æĢ¿":119968,"å®ķ":119969,"穹":119970,"å®ĵ":119971,"è¯ĵ":119972,"è¯Ķ":119973,"è¯ĸ":119974,"è¯ĺ":119975,"æĪ¾":119976,"è¯Ļ":119977,"æĪ½":119978,"éĥĵ":119979,"è¡©":119980,"ç¥Ĩ":119981,"ç¥İ":119982,"ç¥ĩ":119983,"è¯ľ":119984,"è¯Ł":119985,"诣":119986,"诤":119987,"诧":119988,"诨":119989,"æĪķ":119990,"éĻĶ":119991,"妲":119992,"妯":119993,"å§Ĺ":119994,"å¸ij":119995,"åŃ¥":119996,"驽":119997,"èϱ":119998,"迨":119999,"ç»Ģ":120000,"ç»ģ":120001,"ç»Ĥ":120002,"é©·":120003,"驸":120004,"ç»ī":120005,"ç»Į":120006,"éªĢ":120007,"ç;":120008,"çıı":120009,"çıIJ":120010,"çıij":120011,"çݳ":120012,"顸":120013,"çıī":120014,"çıĪ":120015,"æĭ®":120016,"åŀŃ":120017,"æĮĿ":120018,"æĮŀ":120019,"åŀ¤":120020,"èµ³":120021,"è´²":120022,"åŀ±":120023,"åŀĮ":120024,"åŀ§":120025,"åŀĵ":120026,"æĮ¦":120027,"åŀł":120028,"èįļ":120029,"èįij":120030,"è´³":120031,"èįľ":120032,"èİĴ":120033,"èĮ¼":120034,"èĮ´":120035,"èĮ±":120036,"èİĽ":120037,"èįŀ":120038,"èĮ¯":120039,"èįı":120040,"èįĩ":120041,"èįĥ":120042,"èįł":120043,"èĮŃ":120044,"åŀ©":120045,"èį¥":120046,"èį¦":120047,"èį¨":120048,"èį©":120049,"åīĭ":120050,"èįª":120051,"èį¬":120052,"èį®":120053,"æŁ°":120054,"æłī":120055,"æŁĺ":120056,"æłĬ":120057,"æŁ©":120058,"æŀ°":120059,"æłĮ":120060,"æŁĻ":120061,"æŀµ":120062,"æŀ³":120063,"æŁŀ":120064,"æŁĿ":120065,"æłĢ":120066,"æŁ¢":120067,"æłİ":120068,"æŁĪ":120069,"æŁģ":120070,"æŀ·":120071,"æŁ½":120072,"åīĮ":120073,"éħĬ":120074,"éĥ¦":120075,"çĶŃ":120076,"çłĹ":120077,"çłĺ":120078,"çłĴ":120079,"æĸ«":120080,"çłŃ":120081,"çłľ":120082,"èĢ·":120083,"èĻº":120084,"æ®Ĥ":120085,"æ®ĩ":120086,"æ®Ħ":120087,"è½±":120088,"è½²":120089,"è½³":120090,"è½¶":120091,"轸":120092,"èĻ¿":120093,"æ¯ĸ":120094,"è§ĩ":120095,"å°ľ":120096,"åĵIJ":120097,"çľĦ":120098,"çľį":120099,"ðł³":120100,"ðł³IJ":120101,"éĥ¢":120102,"çľĩ":120103,"çľĬ":120104,"çľĪ":120105,"禺":120106,"åĵĤ":120107,"åĴ´":120108,"æĽ·":120109,"æĺ´":120110,"åĴ¦":120111,"åĵĵ":120112,"åĵĶ":120113,"çķİ":120114,"åij²":120115,"èĥĦ":120116,"çķĭ":120117,"çķĪ":120118,"èϼ":120119,"èĻ»":120120,"çĽħ":120121,"åĴ£":120122,"åĵķ":120123,"åīIJ":120124,"éĥ§":120125,"åĴ»":120126,"åĽ¿":120127,"åĴ¿":120128,"åĵĮ":120129,"åĵĻ":120130,"åĵļ":120131,"åĴ©":120132,"åĴ¤":120133,"åĵĿ":120134,"åĵı":120135,"åĵŀ":120136,"å³£":120137,"ç½ĺ":120138,"å³Ĵ":120139,"峤":120140,"å³ĭ":120141,"è´¶":120142,"éĴļ":120143,"éĴ¡":120144,"éĴ£":120145,"éĴ¤":120146,"éĴ«":120147,"æ°¡":120148,"çī¯":120149,"éĥľ":120150,"ç§ķ":120151,"ç§Ń":120152,"竽":120153,"ç¬Ī":120154,"俦":120155,"俨":120156,"ä¿ħ":120157,"åıŁ":120158,"åŀ¡":120159,"çī®":120160,"ä¿£":120161,"ä¿ļ":120162,"çļĪ":120163,"ä¿Ł":120164,"éĢħ":120165,"å¾ĩ":120166,"å¾ī":120167,"èĪ¢":120168,"éĥĹ":120169,"ä¿İ":120170,"éĥ¤":120171,"çΰ":120172,"éĥĽ":120173,"çĵ´":120174,"èĥ¨":120175,"èĥª":120176,"èĥĽ":120177,"èĥĤ":120178,"èĥĻ":120179,"èĥį":120180,"èĥĹ":120181,"èĥĿ":120182,"æľIJ":120183,"èĥ«":120184,"鸨":120185,"åĮį":120186,"çĭ¨":120187,"çĭ¯":120188,"é£ij":120189,"çĭ©":120190,"çĭ²":120191,"è¨ĩ":120192,"éĢĦ":120193,"æĺĿ":120194,"饷":120195,"饸":120196,"饹":120197,"åŃª":120198,"å¨Ī":120199,"庥":120200,"çĸ¬":120201,"çĸ£":120202,"çĸ¥":120203,"çĸŃ":120204,"åºł":120205,"ç«ij":120206,"é£Ĵ":120207,"éĹ¼":120208,"éĹ¾":120209,"éĹ¿":120210,"éĺĤ":120211,"ç¾ij":120212,"迸":120213,"ç±¼":120214,"éħĭ":120215,"çĤ»":120216,"çĥĢ":120217,"çĤ·":120218,"æ´±":120219,"æ´¹":120220,"æ´§":120221,"æ´Į":120222,"æµĥ":120223,"æ´ĩ":120224,"æ´Ħ":120225,"æ´Ļ":120226,"æ¶İ":120227,"æ´İ":120228,"æ´«":120229,"æµį":120230,"æ´®":120231,"æ´µ":120232,"æµĴ":120233,"æµĶ":120234,"æµķ":120235,"æ´³":120236,"æģ¸":120237,"æģĵ":120238,"æģ¹":120239,"æģ«":120240,"æģ»":120241,"æģĤ":120242,"æģª":120243,"æģ½":120244,"宥":120245,"æīĥ":120246,"衲":120247,"衽":120248,"è¡¿":120249,"è¢Ĥ":120250,"ç¥ľ":120251,"ç¥ĵ":120252,"ç¥ļ":120253,"诮":120254,"ç¥Ĺ":120255,"祢":120256,"诰":120257,"诳":120258,"鸩":120259,"æĺ¶":120260,"åĴ«":120261,"å¼Ń":120262,"çīģ":120263,"èĥ¥":120264,"éĻŁ":120265,"å§®":120266,"å¨Ĩ":120267,"å§Ŀ":120268,"å§£":120269,"å§ĺ":120270,"å§¹":120271,"羿":120272,"çĤ±":120273,"磾":120274,"ç»Ķ":120275,"éªģ":120276,"éªħ":120277,"ç»Ĺ":120278,"综":120279,"éªĪ":120280,"èĢĸ":120281,"æĮĪ":120282,"çı¥":120283,"çıĻ":120284,"顼":120285,"çı°":120286,"çı©":120287,"çı§":120288,"çı£":120289,"çıŀ":120290,"çIJ¤":120291,"çı²":120292,"æģļ":120293,"åŁķ":120294,"åŁĺ":120295,"åŁĻ":120296,"åŁļ":120297,"æĮ¹":120298,"èĢĨ":120299,"èĢĦ":120300,"åŁĴ":120301,"æįĭ":120302,"è´½":120303,"åŀ¸":120304,"æįĥ":120305,"çĽį":120306,"èį¸":120307,"èݳ":120308,"èİ´":120309,"èݪ":120310,"èİł":120311,"èİľ":120312,"èİħ":120313,"èį¼":120314,"èİ©":120315,"èį½":120316,"èݸ":120317,"èį»":120318,"èݨ":120319,"鸪":120320,"èݼ":120321,"æł²":120322,"æł³":120323,"æ¡¡":120324,"æ¡İ":120325,"æ¡¢":120326,"桤":120327,"æ¢ĥ":120328,"æłĿ":120329,"æ¡ķ":120330,"æ¡ģ":120331,"æ¡§":120332,"æ¡ħ":120333,"æłŁ":120334,"æ¡ī":120335,"æł©":120336,"éĢij":120337,"éĢĭ":120338,"å½§":120339,"鬲":120340,"è±ĩ":120341,"éħIJ":120342,"é̦":120343,"åİĿ":120344,"åѬ":120345,"çłĿ":120346,"çł¹":120347,"çł§":120348,"çł·":120349,"糣":120350,"çł¼":120351,"çł¥":120352,"çł£":120353,"åīŀ":120354,"çł»":120355,"è½¼":120356,"è½¾":120357,"è¾Ĥ":120358,"鸫":120359,"趸":120360,"é¾Ģ":120361,"鸬":120362,"èĻĶ":120363,"羬":120364,"åĶĽ":120365,"çľĻ":120366,"åĵ§":120367,"åĵ½":120368,"æĻģ":120369,"鸮":120370,"è¶µ":120371,"è¶¿":120372,"çķĽ":120373,"èļ¨":120374,"èļľ":120375,"èļį":120376,"èļĭ":120377,"èļ¬":120378,"èļĿ":120379,"èļ§":120380,"åĶ¢":120381,"åľĦ":120382,"åĶ£":120383,"åĶı":120384,"çĽİ":120385,"åĶij":120386,"å´Ĥ":120387,"å´ĥ":120388,"罡":120389,"ç½Ł":120390,"è§Ĭ":120391,"èµħ":120392,"éĴ²":120393,"éĴµ":120394,"éĴ¹":120395,"éĴº":120396,"éĴ½":120397,"éĴ¼":120398,"éĴ¿":120399,"éĵĢ":120400,"éĵĦ":120401,"éĵĨ":120402,"éĵĪ":120403,"éĵī":120404,"éĵĬ":120405,"éĵĭ":120406,"éĵĮ":120407,"éĵį":120408,"ä¥":120409,"䥽":120410,"éĵİ":120411,"æ°©":120412,"æ°¤":120413,"æ°¦":120414,"毪":120415,"èĪIJ":120416,"ç§£":120417,"ç§«":120418,"çĽī":120419,"ç¬Ħ":120420,"ç¬ķ":120421,"ç¬Ĭ":120422,"ç¬ı":120423,"ç¬Ĩ":120424,"俸":120425,"俵":120426,"åģĮ":120427,"俳":120428,"ä¿¶":120429,"å̬":120430,"åĢı":120431,"æģģ":120432,"åĢŃ":120433,"俾":120434,"åĢľ":120435,"éļ¼":120436,"éļ½":120437,"åĢĮ":120438,"åĢ¥":120439,"èĩ¬":120440,"éĥ«":120441,"å̍":120442,"è¡Ħ":120443,"é¢Ģ":120444,"å¾ķ":120445,"èĪ«":120446,"衾":120447,"èĥ¯":120448,"èĥ±":120449,"èĥ´":120450,"èĥŃ":120451,"èĦį":120452,"èĥ¼":120453,"èĦĴ":120454,"鸱":120455,"鸲":120456,"çĭ·":120457,"çĮģ":120458,"çĭ³":120459,"çĮĥ":120460,"çĭº":120461,"éĢĸ":120462,"æ¡Ģ":120463,"饽":120464,"åĩĩ":120465,"æĮĽ":120466,"亳":120467,"çĸ³":120468,"çĸ´":120469,"çĸ¸":120470,"çĸ½":120471,"çĹĪ":120472,"çĸ±":120473,"çĹĤ":120474,"çĹī":120475,"è¡®":120476,"é¢ĥ":120477,"æģ£":120478,"æĹĨ":120479,"æĹĦ":120480,"æĹĥ":120481,"éĺĥ":120482,"éĺĦ":120483,"è¨ļ":120484,"éĺĨ":120485,"æģĻ":120486,"ç²ij":120487,"çĥľ":120488,"çĥ©":120489,"çĥĬ":120490,"åī¡":120491,"éĥ¯":120492,"çĥ¬":120493,"æ¶ij":120494,"浯":120495,"æ¶ŀ":120496,"æ¶Ł":120497,"å¨ij":120498,"æ¶ł":120499,"æµŀ":120500,"æ¶ĵ":120501,"æµ¥":120502,"æ¶Ķ":120503,"æµľ":120504,"æµł":120505,"æµ£":120506,"æĤļ":120507,"æĤŃ":120508,"æĤĿ":120509,"æĤĴ":120510,"æĤĮ":120511,"æĤĽ":120512,"çªĪ":120513,"åīľ":120514,"诹":120515,"诼":120516,"è¢Ĵ":120517,"袢":120518,"诿":120519,"è°Ģ":120520,"è°Ĥ":120521,"è°Ħ":120522,"è°ĩ":120523,"å±IJ":120524,"å±Ļ":120525,"éϬ":120526,"åĭIJ":120527,"å¥ĺ":120528,"çīĤ":120529,"èļ©":120530,"éϲ":120531,"å¨Į":120532,"å¨ī":120533,"娲":120534,"娴":120535,"娣":120536,"å¨ĵ":120537,"å©Ģ":120538,"çķļ":120539,"éĢ¡":120540,"绳":120541,"éªĬ":120542,"绡":120543,"éªĭ":120544,"绦":120545,"绨":120546,"éªİ":120547,"éĤķ":120548,"鸶":120549,"å½Ĺ":120550,"èĢľ":120551,"çĦĺ":120552,"èĪĤ":120553,"çIJı":120554,"çIJĩ":120555,"麸":120556,"æı¶":120557,"åŁ´":120558,"åŁ¯":120559,"æį¯":120560,"æİ³":120561,"æİ´":120562,"åŁ¸":120563,"åŁµ":120564,"èµ§":120565,"åŁ¤":120566,"æįŃ":120567,"é̵":120568,"åŁĿ":120569,"åłĭ":120570,"åłį":120571,"æİ¬":120572,"鸷":120573,"æį½":120574,"æİĬ":120575,"åłī":120576,"æİ¸":120577,"æį©":120578,"æİ®":120579,"æĤ«":120580,"åŁŃ":120581,"åŁ½":120582,"æİĩ":120583,"æİ¼":120584,"èģĥ":120585,"èIJģ":120586,"èıĺ":120587,"åłĩ":120588,"èIJĺ":120589,"èIJĭ":120590,"èı½":120591,"èıĸ":120592,"èIJľ":120593,"èIJ¸":120594,"èIJij":120595,"棻":120596,"èıĶ":120597,"èıŁ":120598,"èIJı":120599,"èı¹":120600,"èıª":120601,"èıħ":120602,"èıĢ":120603,"èı°":120604,"èı¡":120605,"梿":120606,"æ¢ı":120607,"è§ĭ":120608,"æ¡´":120609,"æ¡·":120610,"æ£ģ":120611,"æ¡«":120612,"æ£Ĥ":120613,"åķ¬":120614,"éĥ¾":120615,"æķķ":120616,"è±ī":120617,"éĦĦ":120618,"éħŀ":120619,"ç¡İ":120620,"ç¡Ń":120621,"ç¡ĸ":120622,"ç¡Ĺ":120623,"ç¡IJ":120624,"ç¡ĩ":120625,"ç¡Į":120626,"鸸":120627,"çĵł":120628,"åĮı":120629,"åİ©":120630,"æ®Ĵ":120631,"æ®ĵ":120632,"æ®į":120633,"èµī":120634,"鼩":120635,"è¾Ħ":120636,"åłij":120637,"çľŃ":120638,"羦":120639,"åķ§":120640,"æĻ¡":120641,"æĻ¤":120642,"çľµ":120643,"åľĬ":120644,"åĸı":120645,"åķī":120646,"åĭĸ":120647,"æĻŀ":120648,"å͵":120649,"æĻĹ":120650,"åķŃ":120651,"çķ¦":120652,"趺":120653,"åķ®":120654,"è·Ħ":120655,"èļ¶":120656,"èĽĦ":120657,"èĽİ":120658,"èĽĨ":120659,"èļ°":120660,"åľī":120661,"èļ±":120662,"èĽī":120663,"èĽı":120664,"èļ´":120665,"åķģ":120666,"åķķ":120667,"åĶ¿":120668,"åķIJ":120669,"åͼ":120670,"åĶ·":120671,"åķĸ":120672,"åķµ":120673,"åķ¶":120674,"åķ·":120675,"åͳ":120676,"åͰ":120677,"åķľ":120678,"帻":120679,"å´ļ":120680,"å´¦":120681,"帼":120682,"å´®":120683,"å´¤":120684,"å´Ĩ":120685,"èµĩ":120686,"èµĪ":120687,"èµĬ":120688,"éĵij":120689,"éĵĴ":120690,"éĵĹ":120691,"éĵĻ":120692,"éĵŁ":120693,"éĵ¡":120694,"éĵ¢":120695,"éĵ£":120696,"éĵ¤":120697,"éĵ§":120698,"éĵ¨":120699,"éĵ©":120700,"éĵª":120701,"éĵ«":120702,"éĵ¯":120703,"éĵ°":120704,"éĵ±":120705,"éĵ³":120706,"éĵµ":120707,"éĵ·":120708,"çī¾":120709,"鸹":120710,"ç§¾":120711,"é̶":120712,"笺":120713,"çŃĩ":120714,"笸":120715,"笪":120716,"笮":120717,"笳":120718,"笥":120719,"笤":120720,"笳":120721,"笾":120722,"ç¬ŀ":120723,"åģ¾":120724,"åģĥ":120725,"åģķ":120726,"åģĪ":120727,"åĤĢ":120728,"åģ¬":120729,"åģ»":120730,"çļij":120731,"çļİ":120732,"鸻":120733,"å¾ľ":120734,"èΏ":120735,"èĪ»":120736,"èĪ´":120737,"èĪ·":120738,"é¾Ľ":120739,"ç¿İ":120740,"èĦ¬":120741,"èĦĺ":120742,"èĦ²":120743,"åĮIJ":120744,"çĮĹ":120745,"çĮ¡":120746,"çĮŀ":120747,"æĸĽ":120748,"çĮķ":120749,"é¦Ĺ":120750,"é¦ĥ":120751,"é¦Ħ":120752,"鸾":120753,"庹":120754,"庾":120755,"çĹĶ":120756,"çĹį":120757,"ç¿Ĭ":120758,"æĹĮ":120759,"æĹİ":120760,"袤":120761,"éĺĩ":120762,"éĺĪ":120763,"éĺī":120764,"éĺĬ":120765,"éĺĭ":120766,"éĺį":120767,"éĺı":120768,"ç¾Ł":120769,"ç²Ŀ":120770,"çĦIJ":120771,"çĦĵ":120772,"çĦĹ":120773,"æ·ħ":120774,"æ·ŀ":120775,"æ¸İ":120776,"æ¶¿":120777,"æ·ĸ":120778,"æĮ²":120779,"æ·ł":120780,"涸":120781,"æ¸ij":120782,"æ·¦":120783,"æ·Ŀ":120784,"涪":120785,"æ·Ļ":120786,"æ¶«":120787,"æ¸Į":120788,"æĤ»":120789,"æĤ±":120790,"æĥĿ":120791,"æĥĺ":120792,"æĥĨ":120793,"æĥļ":120794,"æĥĩ":120795,"æĥ®":120796,"çªķ":120797,"è°Į":120798,"æīĪ":120799,"çļ²":120800,"è°ij":120801,"è£Ĩ":120802,"袷":120803,"è£ī":120804,"è°Ĵ":120805,"è°Ķ":120806,"è°ķ":120807,"è°ĸ":120808,"è°Ĺ":120809,"è°Ļ":120810,"è°Ŀ":120811,"é̝":120812,"éĥ¿":120813,"éļĪ":120814,"ç²ľ":120815,"éļį":120816,"éļĹ":120817,"å©Ĭ":120818,"娼":120819,"å©¢":120820,"婵":120821,"èĥ¬":120822,"è¢Ī":120823,"ç¿Į":120824,"æģ¿":120825,"欸":120826,"绫":120827,"éªIJ":120828,"绯":120829,"ç»±":120830,"éªĴ":120831,"绲":120832,"éªĵ":120833,"ç»¶":120834,"绺":120835,"ç»»":120836,"绾":120837,"éªĸ":120838,"ç¼ģ":120839,"èĢł":120840,"çIJ«":120841,"çIJµ":120842,"çIJ¶":120843,"çIJ¥":120844,"çIJ¨":120845,"çIJ°":120846,"çIJ®":120847,"çIJ¯":120848,"çIJ¬":120849,"çIJļ":120850,"è¾ĩ":120851,"é¼ĭ":120852,"æı³":120853,"åłŀ":120854,"æIJ½":120855,"æı¸":120856,"æıł":120857,"åłĻ":120858,"è¶Ħ":120859,"æıĸ":120860,"é¢ī":120861,"å¡Ħ":120862,"æı¿":120863,"èĢĭ":120864,"æıĦ":120865,"èĽ©":120866,"èĽ°":120867,"å¡Ĩ":120868,"æijĴ":120869,"æıĨ":120870,"æİ¾":120871,"èģĴ":120872,"èijij":120873,"èijļ":120874,"éĿ°":120875,"éĿ¸":120876,"èij³":120877,"èijº":120878,"èij¸":120879,"èIJ¼":120880,"èij¶":120881,"èĴĮ":120882,"èijŃ":120883,"楮":120884,"棼":120885,"æ¤Ł":120886,"棹":120887,"椤":120888,"棰":120889,"èµį":120890,"æ¤ĭ":120891,"æ¤ģ":120892,"椪":120893,"æ¤IJ":120894,"é¹ģ":120895,"éħ¤":120896,"éħ¢":120897,"éħ¡":120898,"é¹Ĥ":120899,"æ®ļ":120900,"æ®Ľ":120901,"鼱":120902,"è¾ĭ":120903,"æ¤ł":120904,"è¾İ":120905,"çĿĦ":120906,"çĿĩ":120907,"çĿĥ":120908,"æĪ¢":120909,"åĸĭ":120910,"åĹĴ":120911,"åĸĥ":120912,"åĸ±":120913,"åĸ¹":120914,"æĻ·":120915,"åĸĪ":120916,"è·ĸ":120917,"è·Ĺ":120918,"è·ŀ":120919,"è·ļ":120920,"è·İ":120921,"è·ı":120922,"è·Ĩ":120923,"èĽ±":120924,"èĽ²":120925,"èĽŃ":120926,"èĽ³":120927,"èĽIJ":120928,"èĽĶ":120929,"èĽŀ":120930,"èĽ´":120931,"èĽĺ":120932,"åĸģ":120933,"åĸŁ":120934,"åķ¾":120935,"åĹĸ":120936,"åĸij":120937,"åĹŁ":120938,"åĹŀ":120939,"åĸĻ":120940,"åµĺ":120941,"åµĸ":120942,"å´´":120943,"éģĦ":120944,"è©Ī":120945,"åµİ":120946,"嵬":120947,"åµĽ":120948,"嵯":120949,"åµĿ":120950,"嵫":120951,"å¹Ħ":120952,"åµĭ":120953,"èµķ":120954,"éĵ»":120955,"éĵ¼":120956,"éĵ¿":120957,"éĶĥ":120958,"éĶĨ":120959,"éĶĩ":120960,"éĶī":120961,"éĶı":120962,"éĶij":120963,"éĶĴ":120964,"éĶĶ":120965,"éĶķ":120966,"æİ£":120967,"磬":120968,"æ°°":120969,"毳":120970,"毽":120971,"çĬĬ":120972,"çĬĦ":120973,"çĬĭ":120974,"é¹Ħ":120975,"çĬį":120976,"åµĩ":120977,"é»į":120978,"ç¨ĥ":120979,"ç¨Ĥ":120980,"çŃļ":120981,"çѵ":120982,"çŃĮ":120983,"åĤ£":120984,"åĤĪ":120985,"èĪĦ":120986,"çīį":120987,"åĤ¥":120988,"åĤ§":120989,"éģij":120990,"åĤ©":120991,"徨":120992,"åªŃ":120993,"çķ²":120994,"å¼ij":120995,"ç¿ķ":120996,"é¹Ĩ":120997,"èħĪ":120998,"èħĵ":120999,"èħĨ":121000,"èħ´":121001,"èħļ":121002,"èħ±":121003,"鱿":121004,"é²Ģ":121005,"é²Ĥ":121006,"çĮ¢":121007,"çĮ¹":121008,"çĮ¥":121009,"é£ĵ":121010,"è§ŀ":121011,"è§ļ":121012,"çĮ±":121013,"é¢İ":121014,"飧":121015,"é¦ĩ":121016,"é¦Ĭ":121017,"亵":121018,"èĦĶ":121019,"è£Ĵ":121020,"çĹ£":121021,"çŨ":121022,"çŦ":121023,"çĹŀ":121024,"çŤ":121025,"çŧ":121026,"èµĵ":121027,"竦":121028,"çĵ¿":121029,"åķ»":121030,"é¢ı":121031,"é¹ĩ":121032,"éĺij":121033,"éĺĴ":121034,"éĺķ":121035,"ç²ŀ":121036,"éģĴ":121037,"åѳ":121038,"çĦ¯":121039,"çĦľ":121040,"çĦ±":121041,"é¹Ī":121042,"渫":121043,"æ¹®":121044,"æ¹İ":121045,"æ¹ľ":121046,"æ¹į":121047,"湫":121048,"溲":121049,"æ¹Ł":121050,"æºĨ":121051,"æ¹²":121052,"æ¹Ķ":121053,"æ¹ī":121054,"渥":121055,"æ»ģ":121056,"æĦł":121057,"æĥº":121058,"æĦ¦":121059,"æĥ´":121060,"æĦĢ":121061,"æĦİ":121062,"æĦĶ":121063,"åĸ¾":121064,"å¯IJ":121065,"è°Ł":121066,"裢":121067,"è£İ":121068,"裥":121069,"祾":121070,"è°ł":121071,"è°¡":121072,"è°¥":121073,"è°§":121074,"åѱ":121075,"å¼¼":121076,"å·½":121077,"éªĺ":121078,"媪":121079,"å·¯":121080,"ç¿ļ":121081,"çļ´":121082,"éªĽ":121083,"ç¼Ĥ":121084,"ç¼ĥ":121085,"ç¼Ħ":121086,"å½ĺ":121087,"ç¼ĩ":121088,"ç¼Ī":121089,"ç¼Į":121090,"ç¼ij":121091,"ç¼Ĵ":121092,"ç¼Ĺ":121093,"飨":121094,"èĢ¢":121095,"çijģ":121096,"çijĹ":121097,"çijĦ":121098,"éģ¨":121099,"éªľ":121100,"飫":121101,"é«¡":121102,"塬":121103,"éĦ¢":121104,"è¶Ķ":121105,"è¶ij":121106,"æijħ":121107,"æijģ":121108,"èľĩ":121109,"æIJĭ":121110,"æIJª":121111,"æIJIJ":121112,"æIJĽ":121113,"æIJł":121114,"æijĪ":121115,"å½Ģ":121116,"æ¯Ĥ":121117,"æIJ¦":121118,"æIJ¡":121119,"èĵģ":121120,"æĪ¡":121121,"èĵį":121122,"éĦŀ":121123,"èĵIJ":121124,"èĵ¦":121125,"é¹ĭ":121126,"èĴ½":121127,"èĵĸ":121128,"èĵĬ":121129,"èĴ¯":121130,"èĵŁ":121131,"èĵij":121132,"èĴº":121133,"èĵł":121134,"èĴŁ":121135,"èĴ¡":121136,"èĴ¹":121137,"èĴ´":121138,"èĴĹ":121139,"èĵ¥":121140,"æ¥Ķ":121141,"æ¥Ĥ":121142,"æ¥Ŀ":121143,"楫":121144,"楸":121145,"椴":121146,"æ§Į":121147,"楯":121148,"çļĻ":121149,"æ¦Ī":121150,"æ§İ":121151,"æ¦ī":121152,"楦":121153,"楣":121154,"楹":121155,"椽":121156,"åī½":121157,"éħ©":121158,"èľĥ":121159,"ç¢Ľ":121160,"ç¢ĵ":121161,"硼":121162,"ç¢ī":121163,"ç¢ļ":121164,"ç¢ĩ":121165,"ç¢ľ":121166,"é¹Į":121167,"è¾ı":121168,"é¾ĥ":121169,"é¾ħ":121170,"訾":121171,"ç²²":121172,"çĿļ":121173,"åĹª":121174,"éŁª":121175,"åĹ·":121176,"åĹī":121177,"çĿ¨":121178,"çĿ¢":121179,"éĽİ":121180,"çĿ¥":121181,"åĹij":121182,"åĹ«":121183,"åŬ":121184,"åĹĶ":121185,"åĹĿ":121186,"æĪ¥":121187,"åĹĦ":121188,"çħ¦":121189,"æļĦ":121190,"éģ¢":121191,"æļĮ":121192,"è·¬":121193,"è·¶":121194,"è·¸":121195,"è·IJ":121196,"è·£":121197,"è·¹":121198,"èĽ¸":121199,"èľĬ":121200,"èľį":121201,"èľī":121202,"èľ£":121203,"çķ¹":121204,"èĽ¹":121205,"åĹ¥":121206,"åĹ²":121207,"åĹ³":121208,"åĹĮ":121209,"åĹį":121210,"åĹIJ":121211,"åŤ":121212,"åŵ":121213,"罨":121214,"åµĬ":121215,"åµ´":121216,"骰":121217,"éĶĹ":121218,"éĶĽ":121219,"éĶľ":121220,"éĶĿ":121221,"éĶŀ":121222,"éĶŁ":121223,"éĶ¢":121224,"é͍":121225,"éĶ©":121226,"éĶŃ":121227,"éͱ":121228,"éĽī":121229,"æ°²":121230,"çĬı":121231,"æŃĥ":121232,"ç¨ŀ":121233,"ç¨Ĺ":121234,"ç¨Ķ":121235,"çŃł":121236,"çŃ¢":121237,"çŃ®":121238,"çѲ":121239,"çīĴ":121240,"æķ«":121241,"å¾Ń":121242,"æĦĨ":121243,"èīĦ":121244,"è§İ":121245,"毹":121246,"è²Ĭ":121247,"è²ħ":121248,"è²ī":121249,"é¢Ķ":121250,"èħł":121251,"èħ©":121252,"èħ¼":121253,"èħŃ":121254,"èħ§":121255,"å¡į":121256,"媵":121257,"é²ħ":121258,"é²Ĩ":121259,"é²ĩ":121260,"é²Ī":121261,"é²ĭ":121262,"é²IJ":121263,"èĤĦ":121264,"é¹IJ":121265,"é£ķ":121266,"è§¥":121267,"éģĽ":121268,"é¦IJ":121269,"é¹ij":121270,"亶":121271,"çĺĥ":121272,"çű":121273,"çĹ¼":121274,"çĹ¿":121275,"çĺIJ":121276,"çĺģ":121277,"çĺĨ":121278,"éºĤ":121279,"æŃĨ":121280,"æĹĴ":121281,"éĺĸ":121282,"éĺĹ":121283,"ç¾§":121284,"è±¢":121285,"ç²³":121286,"çĮ·":121287,"çħ³":121288,"çħ¨":121289,"çħħ":121290,"çħĬ":121291,"çħ¸":121292,"çħº":121293,"æ»Ł":121294,"溱":121295,"æºĺ":121296,"æ¼Ń":121297,"滢":121298,"溥":121299,"溽":121300,"è£Ł":121301,"溻":121302,"溷":121303,"æ»Ĺ":121304,"滫":121305,"溴":121306,"æ»ı":121307,"æ»ĥ":121308,"滦":121309,"æºı":121310,"æ»Ĥ":121311,"æ»ĵ":121312,"æºŁ":121313,"滪":121314,"æĦ«":121315,"æħĬ":121316,"é²İ":121317,"éªŀ":121318,"çªł":121319,"窣":121320,"裱":121321,"裨":121322,"裾":121323,"裰":121324,"ç¦Ĭ":121325,"è°©":121326,"è°ª":121327,"媾":121328,"å««":121329,"媲":121330,"å«Ĵ":121331,"å«Ķ":121332,"媸":121333,"ç¼Ļ":121334,"ç¼ľ":121335,"ç¼Ľ":121336,"è¾Ķ":121337,"éªĿ":121338,"ç¼Ł":121339,"缡":121340,"ç¼¢":121341,"ç¼£":121342,"éªŁ":121343,"èĢ¥":121344,"çĴĪ":121345,"çijŃ":121346,"çįĴ":121347,"è§ı":121348,"æħĿ":121349,"å«ł":121350,"åıĨ":121351,"æij½":121352,"å¢ģ":121353,"æĴĤ":121354,"æijŀ":121355,"æĴĦ":121356,"ç¿¥":121357,"è¸ħ":121358,"æijŃ":121359,"å¢ī":121360,"å¢Ĵ":121361,"æ¦ĸ":121362,"綦":121363,"èĶ«":121364,"èĶ·":121365,"éĿº":121366,"éĿ¼":121367,"éŀħ":121368,"éĿ¿":121369,"çĶį":121370,"è͏":121371,"èĶŁ":121372,"èĶº":121373,"æĪ¬":121374,"èķĸ":121375,"èĶ»":121376,"èĵ¿":121377,"æĸ¡":121378,"é¹ķ":121379,"èĵ¼":121380,"æ¦Ľ":121381,"榧":121382,"榫":121383,"æ¦Ń":121384,"æ§Ķ":121385,"榱":121386,"æ§ģ":121387,"æ§ł":121388,"榷":121389,"åĥ°":121390,"éħ½":121391,"éħ¹":121392,"碡":121393,"碴":121394,"碣":121395,"碲":121396,"èĩ§":121397,"豨":121398,"殡":121399,"éľģ":121400,"èľļ":121401,"é¾ĩ":121402,"é¾Ī":121403,"äģ":121404,"äģĸ":121405,"çĿ½":121406,"åĺŀ":121407,"åĺĪ":121408,"åĺĮ":121409,"åĺģ":121410,"æļĿ":121411,"è¸Į":121412,"è¸ī":121413,"èľŀ":121414,"èľ¥":121415,"èľ®":121416,"èĿĪ":121417,"èľ´":121418,"èľ±":121419,"èľ©":121420,"èľ·":121421,"èľ¿":121422,"èŀĤ":121423,"èľ¢":121424,"åĺ¡":121425,"é¹Ĺ":121426,"åĺ£":121427,"åĺ¤":121428,"åĺļ":121429,"åĹ¾":121430,"åĺ§":121431,"ç½´":121432,"ç½±":121433,"å¹Ķ":121434,"å¶Ĥ":121435,"å¹Ľ":121436,"èµĻ":121437,"ç½Ĥ":121438,"骷":121439,"骶":121440,"é¹ĺ":121441,"éͲ":121442,"éĶ´":121443,"éͶ":121444,"éĶ·":121445,"é͏":121446,"é͵":121447,"éķĤ":121448,"çĬĴ":121449,"ç®IJ":121450,"箦":121451,"ç®§":121452,"箸":121453,"箬":121454,"ç®ħ":121455,"箪":121456,"箾":121457,"箢":121458,"ç®ĵ":121459,"åĥĸ":121460,"åĦĨ":121461,"åĥ³":121462,"åĥŃ":121463,"åĬģ":121464,"åĥ®":121465,"éŃĥ":121466,"éŃĨ":121467,"çĿ¾":121468,"èīĭ":121469,"éĦ±":121470,"èĨĪ":121471,"èĨij":121472,"é²ij":121473,"é²Ķ":121474,"é²ļ":121475,"é²Ľ":121476,"é²Ł":121477,"çįIJ":121478,"è§«":121479,"éĽĴ":121480,"夤":121481,"é¦ij":121482,"éĬ®":121483,"塾":121484,"çĺĮ":121485,"çĺĬ":121486,"çĺĺ":121487,"çĺĻ":121488,"æĹĸ":121489,"èĨĤ":121490,"éĺļ":121491,"éĦ¯":121492,"é²ŀ":121493,"粿":121494,"ç²¼":121495,"ç³ģ":121496,"æ§Ĭ":121497,"é¹ļ":121498,"çĨĺ":121499,"çĨ¥":121500,"æ½¢":121501,"æ¼ķ":121502,"滹":121503,"漯":121504,"æ¼¶":121505,"æ½ĭ":121506,"æ½´":121507,"漪":121508,"æ¼ī":121509,"漩":121510,"æ¾ī":121511,"æħµ":121512,"æIJ´":121513,"窨":121514,"寤":121515,"ç¶®":121516,"è°®":121517,"褡":121518,"è¤Ļ":121519,"è¤ĵ":121520,"è¤Ľ":121521,"è¤Ĭ":121522,"è°¯":121523,"è°°":121524,"è°²":121525,"å±£":121526,"é¹Ľ":121527,"嫱":121528,"å«ĸ":121529,"嫦":121530,"å«ļ":121531,"å«ĺ":121532,"é¼IJ":121533,"çŀĢ":121534,"é¹ľ":121535,"éªł":121536,"ç¼¥":121537,"缦":121538,"ç¼§":121539,"缨":121540,"骢":121541,"缫":121542,"è̦":121543,"ȩ̀":121544,"çĴľ":121545,"çĴİ":121546,"çĴģ":121547,"å¥Ń":121548,"髯":121549,"é««":121550,"æĴ·":121551,"æĴħ":121552,"èµŃ":121553,"æĴ¸":121554,"éĭĨ":121555,"æĴĻ":121556,"æĴº":121557,"å¢Ģ":121558,"èģ©":121559,"è§IJ":121560,"éŀij":121561,"èķĻ":121562,"éŀĴ":121563,"èķĪ":121564,"èķ¨":121565,"èķ¤":121566,"èķŀ":121567,"èķº":121568,"çŀ¢":121569,"èķĥ":121570,"èķ²":121571,"èµľ":121572,"æ§¿":121573,"樯":121574,"æ§Ń":121575,"æ¨Ĺ":121576,"æ¨ĺ":121577,"æ§²":121578,"éĨĮ":121579,"éĨħ":121580,"éĿ¥":121581,"éŃĩ":121582,"é¤į":121583,"ç£Ķ":121584,"ç£Ļ":121585,"éľĪ":121586,"è¾ĺ":121587,"é¾ī":121588,"é¾Ĭ":121589,"è§ij":121590,"çŀĮ":121591,"çŀĭ":121592,"çŀij":121593,"åĺŃ":121594,"åĻİ":121595,"å϶":121596,"é¢Ļ":121597,"æļ¹":121598,"åĻĺ":121599,"è¸Ķ":121600,"è¸Ŀ":121601,"è¸Ł":121602,"è¸Ĵ":121603,"踬":121604,"踮":121605,"踯":121606,"踺":121607,"è¸ŀ":121608,"èĿ½":121609,"èĿ¾":121610,"èĿ»":121611,"èĿ°":121612,"èĿ®":121613,"èŀĭ":121614,"èĿĵ":121615,"èĿ£":121616,"èĿ¼":121617,"åĺ¬":121618,"é¢ļ":121619,"åĻį":121620,"åĻĻ":121621,"åĻĮ":121622,"åĻĶ":121623,"é¢Ľ":121624,"å¹ŀ":121625,"幡":121626,"å¶Ļ":121627,"å¶Ŀ":121628,"骺":121629,"éķĬ":121630,"éķī":121631,"éķĮ":121632,"éķı":121633,"éķĴ":121634,"éķĵ":121635,"éķĶ":121636,"稷":121637,"ç®´":121638,"ç¯ij":121639,"ç¯ģ":121640,"ç¯Į":121641,"çīĸ":121642,"åĦĭ":121643,"èĻ¢":121644,"é¹ŀ":121645,"èĨĺ":121646,"é²ł":121647,"鲡":121648,"é²¢":121649,"é²£":121650,"é²¥":121651,"é²§":121652,"鲩":121653,"çįĹ":121654,"çįł":121655,"觯":121656,"é¦ĵ":121657,"é¦Ķ":121658,"麾":121659,"å»Ľ":121660,"çĺĽ":121661,"çĺ¼":121662,"çĺ¢":121663,"çĺł":121664,"é½ij":121665,"ç¾°":121666,"ð¥»":121667,"ð¥»Ĺ":121668,"ç³Į":121669,"ç³į":121670,"ç³ħ":121671,"çĨľ":121672,"çĨµ":121673,"æ¾į":121674,"æ¾Į":121675,"潸":121676,"潦":121677,"æ½²":121678,"éĭĪ":121679,"æ½Ł":121680,"潺":121681,"寮":121682,"窳":121683,"è°³":121684,"褴":121685,"è¤Ł":121686,"褫":121687,"è°µ":121688,"çĨ¨":121689,"屦":121690,"åĭ°":121691,"æĪ®":121692,"èĿ¥":121693,"缬":121694,"ç¼®":121695,"缯":121696,"骣":121697,"çķ¿":121698,"èĢ©":121699,"è̍":121700,"èĢª":121701,"çĴŁ":121702,"éĿĽ":121703,"çĴł":121704,"çĴĺ":121705,"èģ±":121706,"èŀ¯":121707,"é«»":121708,"é«Ń":121709,"髹":121710,"æĵĢ":121711,"çĶı":121712,"æĵŀ":121713,"縳":121714,"磬":121715,"é¢ŀ":121716,"èķ»":121717,"é¢Ł":121718,"èĸ¤":121719,"èĸ¨":121720,"æªł":121721,"èĸı":121722,"èĸ®":121723,"èĸľ":121724,"èĸħ":121725,"樾":121726,"æ©Ľ":121727,"æ©ĩ":121728,"樵":121729,"æªİ":121730,"橹":121731,"樽":121732,"樨":121733,"橼":121734,"墼":121735,"æ©IJ":121736,"ç¿®":121737,"éĨIJ":121738,"éĨį":121739,"éĨļ":121740,"磲":121741,"èµĿ":121742,"殪":121743,"éľı":121744,"éĮ¾":121745,"è¾ļ":121746,"éģ½":121747,"æ°ħ":121748,"çŀŁ":121749,"çŀł":121750,"çŀ°":121751,"åļĦ":121752,"åļĨ":121753,"åϤ":121754,"æļ¾":121755,"è¹Ģ":121756,"踵":121757,"踽":121758,"è¹ī":121759,"è¹ģ":121760,"èŀ¨":121761,"èŀĪ":121762,"èŀħ":121763,"èŀŃ":121764,"èŀł":121765,"èŀŁ":121766,"åϱ":121767,"åĻ«":121768,"åĻ»":121769,"åϼ":121770,"ç½¹":121771,"åľľ":121772,"ä¦":121773,"ä¦ĥ":121774,"éķĹ":121775,"éķĺ":121776,"éķļ":121777,"éķĽ":121778,"éķĿ":121779,"éķŀ":121780,"éķł":121781,"æ°ĩ":121782,"æ°Ĩ":121783,"ç©ij":121784,"ç¯Ŀ":121785,"篥":121786,"篦":121787,"篪":121788,"ç¯Ļ":121789,"çĽ¥":121790,"åĬĵ":121791,"翱":121792,"éŃī":121793,"éŃĪ":121794,"å¾¼":121795,"æŃĻ":121796,"èĨ¦":121797,"èĨĻ":121798,"é²®":121799,"é²±":121800,"é²³":121801,"é²´":121802,"é²µ":121803,"é²·":121804,"é²»":121805,"çį´":121806,"çįŃ":121807,"çį¬":121808,"éĤĤ":121809,"é¹§":121810,"廨":121811,"èµŁ":121812,"çĺ°":121813,"廪":121814,"çĺ¿":121815,"çĺµ":121816,"çĺ´":121817,"çĻĥ":121818,"çĺ³":121819,"éºĩ":121820,"éºĪ":121821,"嬴":121822,"å£ħ":121823,"ç³Ĺ":121824,"çĶij":121825,"çĩİ":121826,"çĩł":121827,"çĩĶ":121828,"çĩ§":121829,"æ¿ij":121830,"æ¿ī":121831,"æ½ŀ":121832,"æ¾§":121833,"æ¾¹":121834,"æ¾¥":121835,"æ¾¶":121836,"æ¿Ĥ":121837,"褰":121838,"窸":121839,"å¬ĸ":121840,"çĬŁ":121841,"éļ°":121842,"å¬Ĺ":121843,"颡":121844,"ç¼±":121845,"ç¼²":121846,"ç¼³":121847,"çĴ©":121848,"çĴª":121849,"èŀ«":121850,"æĵ¤":121851,"å£ķ":121852,"è§³":121853,"ç½Ħ":121854,"æĵ¢":121855,"èĸ¹":121856,"éŀ¡":121857,"éŀ¬":121858,"èĸ·":121859,"èĹĵ":121860,"èĹģ":121861,"æªĦ":121862,"檩":121863,"æĩĭ":121864,"éĨ¢":121865,"翳":121866,"ç¤ħ":121867,"磴":121868,"鹩":121869,"é¾ĭ":121870,"é¾Į":121871,"è±³":121872,"å£ij":121873,"é»»":121874,"åļı":121875,"åļħ":121876,"è¹ij":121877,"è¹Ĵ":121878,"è¹Ĭ":121879,"èŁ¥":121880,"èŀ¬":121881,"èŀµ":121882,"çĸĥ":121883,"èŀ³":121884,"èŁij":121885,"åļĵ":121886,"ç½½":121887,"ç½¾":121888,"å¶·":121889,"黾":121890,"é»Ŀ":121891,"é«ģ":121892,"é«Ģ":121893,"éķ¡":121894,"éķ¢":121895,"éķ£":121896,"éķ¦":121897,"éķ§":121898,"éķ©":121899,"éķª":121900,"éķ«":121901,"ç½ħ":121902,"ç°Į":121903,"篾":121904,"篼":121905,"ç°ĸ":121906,"ç°ĭ":121907,"é¼¢":121908,"åĦ¡":121909,"鹪":121910,"é¼¾":121911,"çļ¤":121912,"éŃį":121913,"é¾ł":121914,"ç¹ĩ":121915,"è²ĺ":121916,"éĤĪ":121917,"è²Ķ":121918,"èĩĮ":121919,"èĨ»":121920,"èĩĨ":121921,"èĩĥ":121922,"é²¼":121923,"é²½":121924,"é³Ģ":121925,"é³ĥ":121926,"é³ħ":121927,"é³ĩ":121928,"é³Ĭ":121929,"èŀ½":121930,"çĩ®":121931,"鹫":121932,"ç³ľ":121933,"縻":121934,"çĻį":121935,"éºĭ":121936,"æĩij":121937,"æ¿¡":121938,"æ¿®":121939,"æ¿ŀ":121940,"æ¿ł":121941,"濯":121942,"è¹ĩ":121943,"è¬ĩ":121944,"éĤĥ":121945,"è¥ģ":121946,"æªĹ":121947,"æĵĺ":121948,"åŃº":121949,"éļ³":121950,"嬷":121951,"èŁĬ":121952,"鹬":121953,"éįª":121954,"éıĬ":121955,"é¬Ī":121956,"é¬ĥ":121957,"çŀ½":121958,"éŀ¯":121959,"éŀ¨":121960,"éŀ«":121961,"éŀ§":121962,"éŀ£":121963,"èĹľ":121964,"èĹł":121965,"éĨª":121966,"è¹Ļ":121967,"ç¤ĵ":121968,"çĩ¹":121969,"餮":121970,"çŀ¿":121971,"æĽĽ":121972,"颢":121973,"èºĩ":121974,"è¹ļ":121975,"èŁĽ":121976,"èŁª":121977,"èŁł":121978,"èŁ®":121979,"é¹®":121980,"黳":121981,"黣":121982,"é«ħ":121983,"é«Ĥ":121984,"éķ¬":121985,"éķŃ":121986,"éķ¯":121987,"馥":121988,"ç°Ł":121989,"ç°ª":121990,"鼬":121991,"鼳":121992,"èīŁ":121993,"é³İ":121994,"é³ı":121995,"é³IJ":121996,"çĻŀ":121997,"çĻĶ":121998,"糨":121999,"蹩":122000,"éİı":122001,"éĤĭ":122002,"é¬ı":122003,"æĶī":122004,"éŀ²":122005,"éŀ´":122006,"èĹ¿":122007,"èĺ§":122008,"èĺħ":122009,"éĨ®":122010,"éĨ¯":122011,"éħĥ":122012,"éľª":122013,"éľŃ":122014,"龨":122015,"黼":122016,"åļ¯":122017,"è¹°":122018,"è¹¶":122019,"è¹½":122020,"è¹¼":122021,"è¹´":122022,"è¹¾":122023,"蹿":122024,"èłĸ":122025,"èłĵ":122026,"èŁ¾":122027,"èłĬ":122028,"黢":122029,"é«ĭ":122030,"é«Į":122031,"éķ²":122032,"ç±Ģ":122033,"é½ģ":122034,"éŃij":122035,"èī¨":122036,"é³ĵ":122037,"é³Ķ":122038,"é³ķ":122039,"é³Ĺ":122040,"é³Ļ":122041,"éıĸ":122042,"羸":122043,"ã¸Ĩ":122044,"çĢ£":122045,"çĢĽ":122046,"襦":122047,"è°¶":122048,"è¥ŀ":122049,"骥":122050,"ç¼µ":122051,"çĵĴ":122052,"æĶĺ":122053,"èĺ©":122054,"èĺĸ":122055,"éĨ´":122056,"éľ°":122057,"éħĨ":122058,"çŁį":122059,"èºħ":122060,"é¼į":122061,"å·ī":122062,"黩":122063,"黥":122064,"黪":122065,"éķ³":122066,"éķ´":122067,"é»§":122068,"çºĤ":122069,"çĴº":122070,"鼯":122071,"èĩľ":122072,"é³ľ":122073,"é³Ŀ":122074,"é³Ł":122075,"çį¾":122076,"åŃĢ":122077,"骧":122078,"çĵĺ":122079,"é¼Ļ":122080,"éĨº":122081,"礴":122082,"颦":122083,"æĽ©":122084,"é³¢":122085,"éºĿ":122086,"å¤Ķ":122087,"çĪĿ":122088,"çģı":122089,"禳":122090,"éIJ¾":122091,"ç¾¼":122092,"èł¡":122093,"è̱":122094,"é¹³":122095,"æ°į":122096,"é¥ķ":122097,"èºIJ":122098,"é«ij":122099,"éķµ":122100,"ç©°":122101,"é¥Ķ":122102,"鬻":122103,"鬣":122104,"è¶±":122105,"æĶ«":122106,"æĶ¥":122107,"颧":122108,"èºľ":122109,"é¼¹":122110,"çϝ":122111,"èł²":122112,"èł¹":122113,"èºŀ":122114,"è¡¢":122115,"çģŀ":122116,"襻":122117,"çºĽ":122118,"鬣":122119,"æĶ®":122120,"åĽĶ":122121,"é¦ķ":122122,"æĪĨ":122123,"ç΍":122124,"é½ī":122125,"äºį":122126,"å°¢":122127,"å½³":122128,"åį¬":122129,"殳":122130,"ðłĻ¶":122131,"æ¯Į":122132,"éĤĺ":122133,"æĪĭ":122134,"åľ¢":122135,"æ°ķ":122136,"ä¼ĭ":122137,"ä»Ŀ":122138,"åĨ®":122139,"æ°¿":122140,"æ±Ī":122141,"æ°¾":122142,"å¿ī":122143,"å®Ħ":122144,"ð¬£Ļ":122145,"è®±":122146,"æīŀ":122147,"åľ²":122148,"åľ«":122149,"èĬı":122150,"èĬĥ":122151,"æľ³":122152,"æľ¸":122153,"ð¨Ļ":122154,"ð¨Ļ¸":122155,"éĤ¨":122156,"åIJĴ":122157,"åIJĸ":122158,"å±¼":122159,"å±¾":122160,"辿":122161,"éĴĨ":122162,"仳":122163,"ä¼£":122164,"ä¼Ī":122165,"çĻ¿":122166,"çĶª":122167,"éĤł":122168,"çĬ´":122169,"åĨ±":122170,"éĤ¡":122171,"ð¬ĩķ":122172,"æ±ĭ":122173,"äľ":122174,"äľ£":122175,"è®»":122176,"ð¬£ŀ":122177,"åŃĸ":122178,"ð¬ĺĵ":122179,"纩":122180,"çİĴ":122181,"çİĵ":122182,"çİĺ":122183,"çİļ":122184,"åά":122185,"ð«ŃŁ":122186,"åĿľ":122187,"åĿī":122188,"æī½":122189,"ð«Ń¢":122190,"åĿĭ":122191,"æīº":122192,"ã§ij":122193,"æ¯IJ":122194,"èĬ°":122195,"èĬ£":122196,"èĭĬ":122197,"èĭī":122198,"èĬĺ":122199,"èĬ´":122200,"èĬł":122201,"ð«ĩ":122202,"ð«ĩŃ":122203,"èĬ¤":122204,"æĿķ":122205,"æĿĻ":122206,"æĿĦ":122207,"æĿ§":122208,"æĿ©":122209,"å°ª":122210,"å°¨":122211,"轪":122212,"ð«IJĦ":122213,"åĿĴ":122214,"èĬĪ":122215,"æĹ´":122216,"æĹµ":122217,"åijĻ":122218,"ãķ":122219,"ãķ®":122220,"å²į":122221,"ð«µ":122222,"𫵷":122223,"å²ł":122224,"å²ľ":122225,"åijĩ":122226,"åĨı":122227,"è§ĥ":122228,"å²Ļ":122229,"ä¼¾":122230,"ãijĩ":122231,"ä¼Ń":122232,"ä½ĸ":122233,"ä¼²":122234,"ä½ģ":122235,"é£ı":122236,"çĭĥ":122237,"éŶ":122238,"æ±§":122239,"汫":122240,"ð£²ĺ":122241,"ð£²Ĺ":122242,"æ²Ħ":122243,"æ²ĺ":122244,"ð¬ĩĻ":122245,"æ±Ń":122246,"ã³ĩ":122247,"æ²ĩ":122248,"å¿®":122249,"忳":122250,"忺":122251,"𬣡":122252,"ç¥ĥ":122253,"è¯ĩ":122254,"éĤ²":122255,"è¯İ":122256,"è¯IJ":122257,"å±ĥ":122258,"ð«¸":122259,"𫸩":122260,"å²Ĭ":122261,"éĺ½":122262,"䢺":122263,"éĺ¼":122264,"妧":122265,"å¦ĺ":122266,"ð¨ļ":122267,"ð¨ļķ":122268,"纮":122269,"驲":122270,"ð«ĺľ":122271,"纻":122272,"ð¬ĺĺ":122273,"ð«ĺĿ":122274,"纼":122275,"çݤ":122276,"çİŀ":122277,"çݱ":122278,"çİŁ":122279,"éĤ½":122280,"éĤ¿":122281,"åĿ¥":122282,"åĿ°":122283,"åĿ¬":122284,"åĿ½":122285,"å¼Ĩ":122286,"è̵":122287,"䢼":122288,"ð¦Ń":122289,"ð¦Ńľ":122290,"èĮĭ":122291,"èĭ§":122292,"èĭ¾":122293,"èĭł":122294,"æŀħ":122295,"ãŃİ":122296,"æŀĺ":122297,"æŀį":122298,"çŁ¼":122299,"磻":122300,"åĮ¼":122301,"ð¬¨Ĥ":122302,"ð¬Ģ©":122303,"ð¬Ģª":122304,"æĹ¿":122305,"æĺĦ":122306,"æĺĴ":122307,"æĺĪ":122308,"åĴī":122309,"åĴĩ":122310,"åĴį":122311,"å²µ":122312,"å²½":122313,"岨":122314,"å²ŀ":122315,"å³Ĥ":122316,"ãŁ":122317,"ãŁĥ":122318,"åĽ·":122319,"𬬩":122320,"éĴIJ":122321,"éĴĶ":122322,"éĴĸ":122323,"çī¥":122324,"ä½´":122325,"åŀĪ":122326,"ä¾ģ":122327,"ä¾¹":122328,"佸":122329,"佺":122330,"éļ¹":122331,"ãijĬ":122332,"ä¾Ĥ":122333,"ä½½":122334,"ä¾ĺ":122335,"éĥĪ":122336,"èĪł":122337,"éĥIJ":122338,"éĥĥ":122339,"æĶ½":122340,"èĤŃ":122341,"èĤ¸":122342,"èĤ·":122343,"çĭī":122344,"çĭĿ":122345,"饳":122346,"å¿ŀ":122347,"çĤĮ":122348,"çĤĨ":122349,"æ³Ļ":122350,"沺":122351,"æ³Ĥ":122352,"æ³ľ":122353,"æ³ĥ":122354,"æ³ĩ":122355,"æĢĬ":122356,"å³ĥ":122357,"穸":122358,"ç¥ĭ":122359,"ç¥Ĭ":122360,"ð«į£":122361,"𬣳":122362,"𬩽":122363,"鸤":122364,"å¼¢":122365,"弨":122366,"éĻij":122367,"𬮿":122368,"éĻİ":122369,"ð¬¯Ģ":122370,"åįº":122371,"乸":122372,"å¦Ń":122373,"å§Ī":122374,"ð«°":122375,"ð«°Ľ":122376,"迳":122377,"åıķ":122378,"𬳵":122379,"驵":122380,"𬳶":122381,"äĮ":122382,"äĮ¹":122383,"驺":122384,"ð«łĬ":122385,"ç»ĭ":122386,"ç»IJ":122387,"çłī":122388,"èĢĶ":122389,"ãĽĥ":122390,"çݶ":122391,"çıĩ":122392,"çıħ":122393,"ð¬įĽ":122394,"çıĭ":122395,"çݹ":122396,"çıĮ":122397,"çİ¿":122398,"飨":122399,"åŀļ":122400,"åŀ¯":122401,"åŀĻ":122402,"åŀ²":122403,"åŁı":122404,"åŀį":122405,"èĢĩ":122406,"é¿į":122407,"åŀİ":122408,"åŀ´":122409,"åŀŁ":122410,"åŀŀ":122411,"æĮĵ":122412,"åŀµ":122413,"åŀı":122414,"æĭ¶":122415,"èįĸ":122416,"èįģ":122417,"èįĻ":122418,"èįĽ":122419,"èĮĪ":122420,"èĮ½":122421,"èįĦ":122422,"èĮº":122423,"ð¬ľ¬":122424,"èįĵ":122425,"èĮ³":122426,"ð¦°":122427,"𦰡":122428,"èĮĽ":122429,"èįŃ":122430,"ãŃķ":122431,"æŁ·":122432,"æŁĥ":122433,"æŁĬ":122434,"æŀ¹":122435,"æłIJ":122436,"æŁĸ":122437,"éĥļ":122438,"åīħ":122439,"ä´ĵ":122440,"迺":122441,"åİĸ":122442,"çłĨ":122443,"çłij":122444,"çłĦ":122445,"èĢı":122446,"å¥ĵ":122447,"ä¶":122448,"ä¶®":122449,"è½µ":122450,"è½·":122451,"è½¹":122452,"轺":122453,"æĺº":122454,"ðª¾":122455,"𪾢":122456,"æĺ½":122457,"缷":122458,"åĴ¡":122459,"åĴº":122460,"æĺ³":122461,"æĺ£":122462,"æĺ¤":122463,"æĺ«":122464,"æĺ¡":122465,"åĴ¥":122466,"æĺª":122467,"èĻ·":122468,"èϏ":122469,"åĵĥ":122470,"å³ĺ":122471,"èĢij":122472,"å³Ľ":122473,"𪨰":122474,"å³Ĺ":122475,"å³§":122476,"帡":122477,"éĴĺ":122478,"ð«ĵ§":122479,"éĴľ":122480,"𬬮":122481,"𬬱":122482,"ð¬¬Ń":122483,"éĴª":122484,"éĴ¬":122485,"éĴŃ":122486,"磧":122487,"秬":122488,"ä¿«":122489,"èĪģ":122490,"ä¿ľ":122491,"ä¿Ļ":122492,"ä¿į":122493,"åŀķ":122494,"è¡İ":122495,"èĪ£":122496,"å¼ĩ":122497,"ä¾´":122498,"鸧":122499,"äı¡":122500,"èĥł":122501,"ð¦Ļ¶":122502,"èĥĪ":122503,"èĥ©":122504,"èĥ£":122505,"æľı":122506,"é£IJ":122507,"è¨Ħ":122508,"饻":122509,"庤":122510,"çĸ¢":122511,"çĤ£":122512,"çĤŁ":122513,"ã¶":122514,"ã¶²":122515,"æ´Ń":122516,"æ´ĺ":122517,"æ´ĵ":122518,"æ´¿":122519,"ã³ļ":122520,"æ³ļ":122521,"æµĪ":122522,"æµī":122523,"æ´¸":122524,"æ´ij":122525,"æ´¢":122526,"æ´Ī":122527,"æ´ļ":122528,"æ´º":122529,"æ´¨":122530,"æµIJ":122531,"ã³ĺ":122532,"æ´´":122533,"æ´£":122534,"æģĶ":122535,"宬":122536,"çªĢ":122537,"æīĤ":122538,"è¢Ĩ":122539,"ç¥ı":122540,"ç¥IJ":122541,"ç¥ķ":122542,"åıļ":122543,"éϧ":122544,"éĻŀ":122545,"å¨Ģ":122546,"å§ŀ":122547,"å§±":122548,"姤":122549,"å§¶":122550,"å§½":122551,"æŀ²":122552,"ç»ĸ":122553,"éªĥ":122554,"ð¬ĺ¡":122555,"𬳽":122556,"ð¬ĺ©":122557,"ð«Ħ§":122558,"å½ĸ":122559,"éªī":122560,"æģĿ":122561,"çıª":122562,"çıĽ":122563,"çı¹":122564,"çIJĬ":122565,"çݼ":122566,"çıĸ":122567,"ðªŁ":122568,"ðªŁĿ":122569,"çı½":122570,"çı¦":122571,"çı«":122572,"çıĴ":122573,"ð¬į¤":122574,"çı¢":122575,"çıķ":122576,"çıĿ":122577,"ð«Ń¼":122578,"åŁĹ":122579,"åŀ¾":122580,"åŀº":122581,"åŁĨ":122582,"åŀ¿":122583,"åŁĮ":122584,"åŁĩ":122585,"èݰ":122586,"èĮĿ":122587,"ð¬ľ¯":122588,"éĦĢ":122589,"èݶ":122590,"èİĿ":122591,"äĵĸ":122592,"èİĻ":122593,"æł»":122594,"æ¡ł":122595,"ð¬Ĥ":122596,"ð¬Ĥ©":122597,"æ¡Ħ":122598,"æ¢ł":122599,"æł´":122600,"梴":122601,"æłĴ":122602,"éħİ":122603,"éħı":122604,"ð«łĨ":122605,"çłµ":122606,"çłł":122607,"çł«":122608,"糬":122609,"ç¡ģ":122610,"æģ§":122611,"ç¿ĥ":122612,"éĥª":122613,"ð¨IJ":122614,"ð¨IJĪ":122615,"è¾Ģ":122616,"è¾ģ":122617,"ð¬Į":122618,"ð¬ĮĹ":122619,"åīķ":122620,"èµĢ":122621,"åĵ¢":122622,"æĻħ":122623,"æĻĬ":122624,"åĶĿ":122625,"åĵ³":122626,"åĵ±":122627,"åĨĶ":122628,"æĻĶ":122629,"æĻIJ":122630,"çķĸ":122631,"èļĦ":122632,"èļĨ":122633,"ð«ij":122634,"ð«ij¡":122635,"帱":122636,"å´ģ":122637,"峿":122638,"𪨶":122639,"å´Ħ":122640,"帨":122641,"å´Ģ":122642,"èµĨ":122643,"𬬸":122644,"éĴ·":122645,"𬬻":122646,"𬬹":122647,"𬬿":122648,"ð¬Ńģ":122649,"çľļ":122650,"çĶ¡":122651,"笫":122652,"åĢ»":122653,"åĢ´":122654,"èĦ©":122655,"åĢ®":122656,"åĢķ":122657,"åĢŀ":122658,"ð«¢":122659,"𫢸":122660,"åĢĵ":122661,"å̧":122662,"è¡ĥ":122663,"èĻĴ":122664,"èĪŃ":122665,"èΝ":122666,"èĪ¥":122667,"çĵŀ":122668,"鬯":122669,"鸰":122670,"èĦİ":122671,"æľĵ":122672,"èĥ²":122673,"èĻĵ":122674,"é±½":122675,"çĭ´":122676,"å³±":122677,"çĭ»":122678,"çľ¢":122679,"ð«Ĺ§":122680,"åĭį":122681,"çĹĦ":122682,"çĸ°":122683,"çĹĥ":122684,"ç«ĺ":122685,"ç¾ĸ":122686,"ç¾ĵ":122687,"æ¡Ĭ":122688,"æķī":122689,"çĥł":122690,"çĥĶ":122691,"çĥ¶":122692,"çĥ»":122693,"ð¬ĬĪ":122694,"æ¶į":122695,"浡":122696,"æµŃ":122697,"浬":122698,"æ¶Ħ":122699,"æ¶¢":122700,"æ¶IJ":122701,"æµ°":122702,"æµŁ":122703,"æµĽ":122704,"æµ¼":122705,"æµ²":122706,"æ¶ĺ":122707,"æĤĪ":122708,"æĤĥ":122709,"æĤ¢":122710,"ð¬ĴĪ":122711,"å®§":122712,"çªħ":122713,"çªĬ":122714,"çªİ":122715,"æīħ":122716,"æīĨ":122717,"袪":122718,"è¢Ĺ":122719,"袯":122720,"祧":122721,"éļº":122722,"åł²":122723,"çĸį":122724,"ð¨º":122725,"ð¨ºĻ":122726,"éĻ´":122727,"çĥĿ":122728,"çł®":122729,"ãĽļ":122730,"åĵ¿":122731,"ç¿Ģ":122732,"ç¿Ĥ":122733,"åīŁ":122734,"𬳿":122735,"ð«Ħ¨":122736,"绤":122737,"éªį":122738,"ð¬ĺ«":122739,"äĤ":122740,"äĤ®":122741,"çIJİ":122742,"çı¸":122743,"çıµ":122744,"çIJĦ":122745,"çIJĪ":122746,"çIJĢ":122747,"çıº":122748,"æİŃ":122749,"åłİ":122750,"åłIJ":122751,"åŁ¼":122752,"æİİ":122753,"åŁ«":122754,"åłĮ":122755,"æĻ¢":122756,"ð«®":122757,"ð«®ĥ":122758,"æİŀ":122759,"åŁª":122760,"壸":122761,"ãĻį":122762,"èģį":122763,"èıĿ":122764,"èIJļ":122765,"èı¥":122766,"èİ¿":122767,"äĵ«":122768,"åĭļ":122769,"äĵ¬":122770,"èIJĨ":122771,"èıĤ":122772,"èıį":122773,"èı¼":122774,"èIJ£":122775,"äĵ¨":122776,"èıī":122777,"äĵĽ":122778,"梼":122779,"梽":122780,"桲":122781,"梾":122782,"桯":122783,"梣":122784,"æ¢Į":122785,"桹":122786,"æķĶ":122787,"åİ£":122788,"ç¡Ķ":122789,"é¿İ":122790,"ç¡Ļ":122791,"ç¡ļ":122792,"ç¡Ĭ":122793,"ç¡į":122794,"åĭĶ":122795,"ä´ķ":122796,"é¾ģ":122797,"éĢ´":122798,"åĶª":122799,"åķ«":122800,"ç¿Ī":122801,"ã«":122802,"ã«°":122803,"æĻĻ":122804,"çķ¤":122805,"ð¬±ĸ":122806,"è¶¼":122807,"è·Ĥ":122808,"èĽĥ":122809,"èļ²":122810,"ð¬Ł½":122811,"èļº":122812,"åķ´":122813,"äİĥ":122814,"å´§":122815,"å´Ł":122816,"å´ŀ":122817,"å´Ĵ":122818,"å´Į":122819,"å´¡":122820,"éĵı":122821,"ð«ĵ¯":122822,"ð«Ł¹":122823,"éĵķ":122824,"ð«Ł¼":122825,"éĵĸ":122826,"éĵĺ":122827,"éĵļ":122828,"éĵŀ":122829,"éĵ¥":122830,"éĵ´":122831,"çī»":122832,"çī¿":122833,"ç¨Ĩ":122834,"笱":122835,"笯":122836,"åģ°":122837,"åģ¡":122838,"鸺":122839,"åģŃ":122840,"åģ²":122841,"åģģ":122842,"ã¿":122843,"ã¿ł":122844,"éĦħ":122845,"åģĵ":122846,"å¾Ľ":122847,"è¡Ĵ":122848,"èγ":122849,"èβ":122850,"鸼":122851,"æĤĨ":122852,"éĦĥ":122853,"çĵ»":122854,"äĿ":122855,"äĿĻ":122856,"èĦ¶":122857,"èĦŀ":122858,"èĦŁ":122859,"äı²":122860,"é±¾":122861,"çĮĩ":122862,"çĮĬ":122863,"çĮĦ":122864,"è§ĸ":122865,"ðłħ":122866,"ðłħ¤":122867,"庱":122868,"庼":122869,"庳":122870,"çĹĵ":122871,"ä´Ķ":122872,"ç««":122873,"åłĥ":122874,"éĺĮ":122875,"ç¾Ŀ":122876,"ç¾ķ":122877,"çĦĨ":122878,"çĥº":122879,"çĦĮ":122880,"æ·ı":122881,"ð¬ĩ¹":122882,"æ·Ł":122883,"æ·ľ":122884,"æ·´":122885,"æ·¯":122886,"æ¹´":122887,"æ¶´":122888,"ð¬į¡":122889,"ã¥":122890,"ã¥Ħ":122891,"æĥĽ":122892,"æĥĶ":122893,"æĤ°":122894,"æĥĻ":122895,"å¯ģ":122896,"éĢŃ":122897,"ð¬¤ĩ":122898,"ð«į¯":122899,"袼":122900,"è£Ī":122901,"祲":122902,"ð¬¤Ĭ":122903,"ð«į²":122904,"è°ŀ":122905,"èī´":122906,"弸":122907,"å¼¶":122908,"ð¬¯İ":122909,"éļĥ":122910,"å©ŀ":122911,"娵":122912,"婼":122913,"åªĸ":122914,"婳":122915,"å©į":122916,"å©Į":122917,"å©«":122918,"婤":122919,"å©ĺ":122920,"å©ł":122921,"ð¬ĺ¬":122922,"ð¬ĺŃ":122923,"ð¬´Ĥ":122924,"ð«ĺ¦":122925,"绹":122926,"ð«Łħ":122927,"ð¬ĺ¯":122928,"éªķ":122929,"ð«ĺ§":122930,"絾":122931,"çı·":122932,"çIJ²":122933,"çIJ¡":122934,"çIJŁ":122935,"çIJĶ":122936,"çIJŃ":122937,"åł¾":122938,"åł¼":122939,"æıķ":122940,"ãĻĺ":122941,"åł§":122942,"åĸĨ":122943,"åł¨":122944,"å¡ħ":122945,"åłł":122946,"çµ·":122947,"ðª£":122948,"𪣻":122949,"ð¡İ":122950,"ð¡İļ":122951,"èijľ":122952,"æĥİ":122953,"èIJ³":122954,"èijĻ":122955,"éĿ¬":122956,"èij´":122957,"èĴĩ":122958,"èĴĪ":122959,"éĦļ":122960,"èĴī":122961,"èĵĩ":122962,"èIJ©":122963,"èij°":122964,"èijİ":122965,"éĦij":122966,"èĴİ":122967,"èijĸ":122968,"èĴĦ":122969,"èIJ¹":122970,"棤":122971,"棽":122972,"棫":122973,"æ¤ĵ":122974,"æ¤ij":122975,"ð¬ĥ":122976,"ð¬ĥĬ":122977,"é¹Ģ":122978,"æ¤Ĩ":122979,"æ£ĵ":122980,"棬":122981,"棪":122982,"æ¤Ģ":122983,"æ¥Ĺ":122984,"ð¬·":122985,"ð¬·ķ":122986,"çͦ":122987,"éħ¦":122988,"è§Į":122989,"奡":122990,"çļķ":122991,"硪":122992,"欹":122993,"è©Ł":122994,"ð«IJIJ":122995,"è¾Į":122996,"æ£IJ":122997,"é¾Ĥ":122998,"ð¬¹":122999,"𬹼":123000,"黹":123001,"çīļ":123002,"çĿİ":123003,"æĻ«":123004,"æĻª":123005,"æĻ±":123006,"ð§":123007,"ð§¿":123008,"ð§¿¹":123009,"èĽij":123010,"çķ¯":123011,"æĸĿ":123012,"åĸ¤":123013,"å´¶":123014,"åµģ":123015,"ð«¶":123016,"ð«¶ĩ":123017,"å´¾":123018,"åµħ":123019,"å´¿":123020,"åµļ":123021,"ç¿Ļ":123022,"ð«ĸ®":123023,"åľĮ":123024,"åľIJ":123025,"èµij":123026,"èµĴ":123027,"é¿ı":123028,"éĵ¹":123029,"ð¬ŃĬ":123030,"éĵ½":123031,"ð¨±ĩ":123032,"ð«ĵ¶":123033,"éĶĬ":123034,"éĶį":123035,"éĶİ":123036,"ð¬Ńİ":123037,"éĶĵ":123038,"çĬĩ":123039,"é¢ĭ":123040,"ç¨Į":123041,"çŃĢ":123042,"çŃĺ":123043,"çŃľ":123044,"çŃ¥":123045,"çŃħ":123046,"åĤĥ":123047,"åĤī":123048,"ç¿Ľ":123049,"åĤĴ":123050,"åĤķ":123051,"èξ":123052,"çķ¬":123053,"ð«ĸ¯":123054,"èĦ¿":123055,"èħĺ":123056,"äIJ":123057,"äIJĥ":123058,"èħĻ":123059,"èħĴ":123060,"ð¬±Ł":123061,"é²ĥ":123062,"çĮ°":123063,"ð«Ľ":123064,"ð«ĽŃ":123065,"çĮ¯":123066,"ãº":123067,"ãºĦ":123068,"é¦ī":123069,"åĩĵ":123070,"éĦĹ":123071,"ð«·":123072,"ð«··":123073,"å»ĭ":123074,"å»Ĩ":123075,"éĦĮ":123076,"ç²¢":123077,"éģĨ":123078,"æĹIJ":123079,"𬮱":123080,"çĦŀ":123081,"ð¬Ĭ¤":123082,"欻":123083,"ð£¸":123084,"𣸣":123085,"æºļ":123086,"æºģ":123087,"æ¹Ŀ":123088,"渰":123089,"æ¹ĵ":123090,"ã´":123091,"ã´Ķ":123092,"æ¸Ł":123093,"æºł":123094,"渼":123095,"æºĩ":123096,"æ¹£":123097,"æ¹ij":123098,"æºŀ":123099,"æĦIJ":123100,"æĦĥ":123101,"æķ©":123102,"ç͝":123103,"棨":123104,"æīĬ":123105,"裣":123106,"祼":123107,"å©»":123108,"åªĨ":123109,"åªŀ":123110,"ãĽ¹":123111,"åªĵ":123112,"åªĤ":123113,"åªĦ":123114,"毵":123115,"çŁŀ":123116,"ð¬´ĥ":123117,"ð«ĺ¨":123118,"ç¼Ĭ":123119,"ç¼IJ":123120,"éªĻ":123121,"çijĥ":123122,"çijĵ":123123,"çijħ":123124,"çijĨ":123125,"ä´ĸ":123126,"çijĸ":123127,"çijĿ":123128,"çijĶ":123129,"çijĢ":123130,"ð¤§":123131,"ð¤§Ľ":123132,"çij³":123133,"çijĤ":123134,"å¶ħ":123135,"çijij":123136,"éģĺ":123137,"é«¢":123138,"å¡¥":123139,"åł½":123140,"赪":123141,"æijĽ":123142,"å¡Ŀ":123143,"æIJĴ":123144,"æIJĮ":123145,"èĴ±":123146,"èĴ¨":123147,"èĵı":123148,"èĶĢ":123149,"èĵ¢":123150,"èĵĤ":123151,"èĴ»":123152,"èĵ£":123153,"椹":123154,"楪":123155,"æ¦ĥ":123156,"æ¦ħ":123157,"æ¥Ĵ":123158,"楩":123159,"æ¦ĩ":123160,"椸":123161,"æ¥Ļ":123162,"æŃħ":123163,"ð¬ª":123164,"𬪩":123165,"ç¢ĥ":123166,"ç¢ı":123167,"ð¬ĴĶ":123168,"ç¢Ī":123169,"äĥħ":123170,"ç¡¿":123171,"éĦł":123172,"è¾Ĵ":123173,"ð¬¨İ":123174,"ð«IJĵ":123175,"é¾Ĩ":123176,"è§ľ":123177,"ä£":123178,"ä£ĺ":123179,"æļķ":123180,"é¹į":123181,"ð««":123182,"ð««ĩ":123183,"ã¬Ĭ":123184,"æļħ":123185,"è·±":123186,"èľIJ":123187,"èľİ":123188,"åµ²":123189,"èµĹ":123190,"骱":123191,"éĶĸ":123192,"ð«ĵ¹":123193,"éĶĺ":123194,"éͳ":123195,"éͧ":123196,"éĶª":123197,"ð¬Ńļ":123198,"éĶ«":123199,"éͬ":123200,"ð¬ŃĽ":123201,"ç¨ij":123202,"ç¨Ļ":123203,"äħ":123204,"äħŁ":123205,"ð¬ķ":123206,"ð¬ķĤ":123207,"çŃ»":123208,"çѼ":123209,"çѶ":123210,"çѦ":123211,"çѤ":123212,"åĤº":123213,"é¹İ":123214,"åĥĩ":123215,"èīħ":123216,"èīī":123217,"è°¼":123218,"è²Ĩ":123219,"èħ½":123220,"èħ¨":123221,"èħ¯":123222,"é²ī":123223,"é²Ĭ":123224,"é²Į":123225,"ä²Ł":123226,"ð¬¶ĭ":123227,"ð¬¶į":123228,"é²ı":123229,"éĽĬ":123230,"çĮº":123231,"é£Ķ":123232,"è§Ł":123233,"ð¦Ŀ¼":123234,"é¦Į":123235,"è£Ľ":123236,"å»Ĵ":123237,"çĺħ":123238,"éĦĺ":123239,"é¹Ĵ":123240,"éĦľ":123241,"éºĢ":123242,"éĦ£":123243,"éĺĺ":123244,"ð«Ķ¶":123245,"çħģ":123246,"çħĥ":123247,"çħ´":123248,"çħĭ":123249,"çħŁ":123250,"çħĵ":123251,"æ»ł":123252,"æºį":123253,"溹":123254,"æ»Ĩ":123255,"æ»ī":123256,"溦":123257,"溵":123258,"æ¼·":123259,"æ»§":123260,"æ»ĺ":123261,"æ»į":123262,"æĦŃ":123263,"æħ¥":123264,"æħĨ":123265,"塱":123266,"ð«ĮĢ":123267,"裼":123268,"ç¦ĭ":123269,"ç¦Ķ":123270,"ç¦ĺ":123271,"ç¦Ĵ":123272,"è°«":123273,"é¹Ķ":123274,"ð«ĸ³":123275,"æĦį":123276,"å«Ħ":123277,"媱":123278,"æĪ¤":123279,"åĭł":123280,"æĪ£":123281,"ð«ĺª":123282,"ð«ĺ¬":123283,"ç¼ŀ":123284,"è̤":123285,"çij§":123286,"ð«ŀ":123287,"ð«ŀ©":123288,"çij¨":123289,"çij±":123290,"çij·":123291,"çij¢":123292,"æĸł":123293,"æijı":123294,"å¢ķ":123295,"å¢Ī":123296,"å¢IJ":123297,"å¢ĺ":123298,"æij´":123299,"éĬİ":123300,"ð¡IJ":123301,"ð¡IJĵ":123302,"å¢ļ":123303,"æĴĸ":123304,"ðª¤":123305,"ðª¤Ĺ":123306,"éĿ½":123307,"éŀģ":123308,"èĶĮ":123309,"èĶĪ":123310,"èĵ°":123311,"è͹":123312,"èĶĬ":123313,"åĺı":123314,"榰":123315,"æ¦ij":123316,"æ§ļ":123317,"ð£Ĺ":123318,"ð£Ĺĭ":123319,"æ§ľ":123320,"æ¦į":123321,"çĸIJ":123322,"ð¬¸ĺ":123323,"éħº":123324,"éħ¾":123325,"éħ²":123326,"éħ´":123327,"碶":123328,"äĥİ":123329,"ð¬ĴĹ":123330,"碨":123331,"ð¥Ķ":123332,"ð¥Ķ²":123333,"碹":123334,"碥":123335,"åĬĤ":123336,"ð«ļĸ":123337,"ä´Ĺ":123338,"夥":123339,"çŀį":123340,"é¹ĸ":123341,"ã¬İ":123342,"è·½":123343,"èľ¾":123344,"å¹ĸ":123345,"å¶į":123346,"åľĻ":123347,"ð¨±ı":123348,"éĶº":123349,"éͼ":123350,"éͽ":123351,"ð¬Ń¤":123352,"é;":123353,"éĶ¿":123354,"éķĥ":123355,"éķĦ":123356,"éķħ":123357,"é¦Ŀ":123358,"é¹Ļ":123359,"箨":123360,"ç®ĸ":123361,"åĬĦ":123362,"åĥ¬":123363,"åĥ¦":123364,"åĥĶ":123365,"åĥİ":123366,"æ§ĥ":123367,"ãϦ":123368,"é²Ĵ":123369,"é²ķ":123370,"ð«ļķ":123371,"é²ĸ":123372,"é²Ĺ":123373,"é²ĺ":123374,"é²Ļ":123375,"ð¬¶IJ":123376,"ð¬¶ı":123377,"ð©½":123378,"𩽾":123379,"å¤IJ":123380,"çįį":123381,"é£Ĺ":123382,"ð¬¸ļ":123383,"åĩĺ":123384,"å»ij":123385,"å»Ļ":123386,"çĺĹ":123387,"çĺ¥":123388,"çĺķ":123389,"é²Ŀ":123390,"éĦ«":123391,"çĨĩ":123392,"æ¼¹":123393,"æ¼ĸ":123394,"æ½Ĩ":123395,"漤":123396,"潩":123397,"æ¼¼":123398,"æ¼´":123399,"ã½":123400,"ã½ı":123401,"æ¼Ī":123402,"æ¼ĭ":123403,"æ¼»":123404,"æħ¬":123405,"窬":123406,"çªŃ":123407,"ã®":123408,"㮾":123409,"ð¬¤Ŀ":123410,"è¤ķ":123411,"禼":123412,"ç¦ļ":123413,"éļ©":123414,"å«ķ":123415,"å«Ń":123416,"å«ľ":123417,"嫪":123418,"ð¬ĻĤ":123419,"ã»":123420,"㻬":123421,"麹":123422,"çĴĨ":123423,"漦":123424,"åıĩ":123425,"墣":123426,"墦":123427,"墡":123428,"åĬIJ":123429,"èĸģ":123430,"èķ°":123431,"èĶĥ":123432,"é¼Ĵ":123433,"æ§±":123434,"é¹Ŀ":123435,"ç£ı":123436,"ç£ī":123437,"殣":123438,"æħŃ":123439,"éľħ":123440,"æļµ":123441,"æļ²":123442,"æļ¶":123443,"踦":123444,"踣":123445,"äĹĸ":123446,"èĿĺ":123447,"èĿ²":123448,"èĿ¤":123449,"åĻĩ":123450,"åĻĤ":123451,"åĻĢ":123452,"ç½¶":123453,"å¶²":123454,"å¶ĵ":123455,"ãłĩ":123456,"å¶Ł":123457,"å¶Ĵ":123458,"éķĨ":123459,"éķĪ":123460,"éķĭ":123461,"éķİ":123462,"ð¬Ń©":123463,"éķķ":123464,"稹":123465,"åĦĩ":123466,"çļŀ":123467,"çļĽ":123468,"ä´ĺ":123469,"èīİ":123470,"èīı":123471,"é¹Ł":123472,"ð©¾ĥ":123473,"鲦":123474,"鲪":123475,"鲬":123476,"æ©¥":123477,"è§Ń":123478,"é¹ł":123479,"鹡":123480,"ç³ĩ":123481,"ç³Ī":123482,"翦":123483,"é¹¢":123484,"é¹£":123485,"çĨĽ":123486,"æ½ĸ":123487,"æ½µ":123488,"ãµ":123489,"ãµIJ":123490,"æ¾Ĥ":123491,"æ¾Ľ":123492,"çij¬":123493,"æ½½":123494,"æ½¾":123495,"æ½ı":123496,"æĨŃ":123497,"æĨķ":123498,"𬸣":123499,"æĪŃ":123500,"褯":123501,"禤":123502,"ð«į½":123503,"嫽":123504,"éģ¹":123505,"ð¬´Ĭ":123506,"çĴ¥":123507,"çĴ²":123508,"çĴĴ":123509,"æĨĻ":123510,"æĵIJ":123511,"éĦ¹":123512,"èĸ³":123513,"éŀĶ":123514,"é»ĩ":123515,"ð¬ŀ":123516,"ð¬ŀŁ":123517,"èķĹ":123518,"èĸ¢":123519,"èķ¹":123520,"æ©ŀ":123521,"æ©ij":123522,"橦":123523,"éĨij":123524,"è§±":123525,"磡":123526,"ð¥ķ":123527,"ð¥ķ¢":123528,"ç£ľ":123529,"è±®":123530,"ð«Ł¦":123531,"ð¬ºĪ":123532,"ð«łľ":123533,"é¹¾":123534,"èϤ":123535,"æļ¿":123536,"æĽĮ":123537,"æĽĪ":123538,"ã¬ļ":123539,"è¹ħ":123540,"踶":123541,"äĹĽ":123542,"èŀĹ":123543,"çĸģ":123544,"ãłĵ":123545,"幪":123546,"ðª©":123547,"ðª©ĺ":123548,"嶦":123549,"ð¬Ń¬":123550,"ð¨±ij":123551,"ð¬Ń¯":123552,"é¦ŀ":123553,"ç©Ħ":123554,"ç¯ļ":123555,"篯":123556,"ç°ī":123557,"é¼½":123558,"è¡ł":123559,"缦":123560,"èŀ£":123561,"縢":123562,"é²Ń":123563,"鲯":123564,"é²°":123565,"鲺":123566,"é²¹":123567,"ð«Ĺ´":123568,"亸":123569,"çĻĢ":123570,"çĺŃ":123571,"𬸦":123572,"ç¾±":123573,"ç³Ĵ":123574,"çĩĭ":123575,"çĨ»":123576,"çĩĬ":123577,"çĩļ":123578,"çĩı":123579,"æ¿©":123580,"æ¿ĭ":123581,"澪":123582,"æ¾½":123583,"æ¾´":123584,"æ¾Ń":123585,"æ¾¼":123586,"æĨ·":123587,"æĨº":123588,"æĩĶ":123589,"é»ī":123590,"å¬Ľ":123591,"鹨":123592,"翯":123593,"ð«Ħ·":123594,"çĴ±":123595,"𤩽":123596,"çĴ¬":123597,"çĴ®":123598,"髽":123599,"æĵ¿":123600,"èĸ¿":123601,"èĸ¸":123602,"æªij":123603,"æ«Ĩ":123604,"æªŀ":123605,"éĨ¨":123606,"ç¹Ħ":123607,"磹":123608,"磻":123609,"çŀ«":123610,"çŀµ":123611,"è¹IJ":123612,"èŁı":123613,"ãĺ":123614,"ãĺİ":123615,"ð¬Ń³":123616,"éķ¤":123617,"ð¬Ń¶":123618,"ð«Ķį":123619,"éķ¥":123620,"éķ¨":123621,"ð¬Ń¸":123622,"ð¨±Ķ":123623,"ð¬Ń¼":123624,"ð«Ķİ":123625,"磰":123626,"ç©Ļ":123627,"穾":123628,"穣":123629,"ç°ķ":123630,"ç°ĥ":123631,"ç°ı":123632,"åĦ¦":123633,"éŃĭ":123634,"æĸ¶":123635,"èīļ":123636,"𬸪":123637,"è°¿":123638,"ä²ł":123639,"ð¬¶Ł":123640,"é²¾":123641,"ð¬¶ł":123642,"鲿":123643,"é³ģ":123644,"é³Ĥ":123645,"é³Ī":123646,"é³ī":123647,"çį¯":123648,"äĹª":123649,"é¦ĺ":123650,"è¥ķ":123651,"è¥ļ":123652,"𬶨":123653,"èŀ±":123654,"çĶĵ":123655,"嬬":123656,"嬥":123657,"ð¦Ī":123658,"ð¦Ī¡":123659,"ð«Ħ¸":123660,"çĵĢ":123661,"éĩIJ":123662,"鬶":123663,"çĪĩ":123664,"éŀ³":123665,"éŀ®":123666,"ð¬Łģ":123667,"èĹŁ":123668,"èŦ":123669,"èŨ":123670,"é¹²":123671,"檫":123672,"黡":123673,"ç¤ŀ":123674,"ç¤Į":123675,"ð¥ĸ":123676,"ð¥ĸ¨":123677,"è¹¢":123678,"è¹ľ":123679,"èŁ«":123680,"äĹ´":123681,"åļļ":123682,"é«ĥ":123683,"éķ®":123684,"éķ±":123685,"éħĤ":123686,"馧":123687,"ç°ł":123688,"ç°Ŀ":123689,"ç°°":123690,"鼫":123691,"鼩":123692,"çļ¦":123693,"èĩij":123694,"ä²¢":123695,"é³ij":123696,"é³Ĵ":123697,"é¹±":123698,"鹯":123699,"çĻĹ":123700,"ð¦Ĵ":123701,"ð¦Ĵį":123702,"æĹŀ":123703,"ç¿·":123704,"åĨģ":123705,"äİĸ":123706,"çĢĶ":123707,"çĢį":123708,"çĢĮ":123709,"è¥ľ":123710,"ä´Ļ":123711,"ð¬ĻĬ":123712,"åļŃ":123713,"ã°":123714,"ã°Ģ":123715,"鬷":123716,"éĨŃ":123717,"蹯":123718,"èłĭ":123719,"翾":123720,"é³ĺ":123721,"åĦ³":123722,"åĦ´":123723,"é¼Ĺ":123724,"ð¬¶Ń":123725,"ð©¾Į":123726,"é³ļ":123727,"é³Ľ":123728,"éºij":123729,"éºĸ":123730,"èłĥ":123731,"å½Ł":123732,"嬿":123733,"é¬Ĵ":123734,"èĺĺ":123735,"æ¬Ĥ":123736,"éĨµ":123737,"颥":123738,"çĶĹ":123739,"ð¨Ł":123740,"ð¨Łł":123741,"å·ĩ":123742,"éħħ":123743,"é«İ":123744,"çĬ¨":123745,"𬶮":123746,"ð¨Ń":123747,"ð¨Ńī":123748,"ã¸Į":123749,"çĪĶ":123750,"ç̱":123751,"ç̹":123752,"ç̼":123753,"ç̵":123754,"襫":123755,"åŃħ":123756,"骦":123757,"ð¬Ļĭ":123758,"ḛ̀":123759,"ð¤«":123760,"ð¤«ī":123761,"çĵĸ":123762,"é¬ĺ":123763,"趯":123764,"ð¬ºĵ":123765,"ç½į":123766,"é¼±":123767,"é³ł":123768,"鳡":123769,"é³£":123770,"çĪŁ":123771,"çĪļ":123772,"çģĪ":123773,"éŁĤ":123774,"ç³µ":123775,"èĺ¼":123776,"礵":123777,"é¹´":123778,"èºĶ":123779,"çļŃ":123780,"é¾¢":123781,"鳤":123782,"亹":123783,"ç±¥":123784,"é¼·":123785,"ð«ļŃ":123786,"çİĥ":123787,"éĨ¾":123788,"é½ĩ":123789,"è§¿":123790,"èł¼":123791,"×§":123792,"פ":123793,"׼":123794,"×ķת":123795,"ס":123796,"×Ļ×Ŀ":123797,"צ":123798,"×Ĵ":123799,"×ĺ":123800,"×ķר":123801,"×Ŀ":123802,"×ķ׾":123803,"×ĸ":123804,"à¹Ĥ":123805,"ïº":123806,"ðŁį":123807,"ðŁIJ":123808,"×Ļר":123809,"ï»":123810,"ðŁij":123811,"ðĿIJ":123812,"ðŁı":123813,"ðŁĶ":123814,"ðŁĮ":123815,"ðŁİ":123816,"ðŁĵ":123817,"ף":123818,"ðĿij":123819,"×ķ×ĵ":123820,"ï¦":123821,"Ġ×ķ":123822,"×ķ×ij":123823,"à¸Ńà¸ĩ":123824,"ðĿĺ":123825,"×Ļת":123826,"ðĿķ":123827,"à¸Ĺีà¹Ī":123828,"ائ":123829,"ð٤":123830,"×ķף":123831,"رÙĬ":123832,"×Ļ׾":123833,"ระ":123834,"าย":123835,"ï¯":123836,"ï®":123837,"าม":123838,"âĩ":123839,"ðŁ¥":123840,"ïŃ":123841,"ðĿĻ":123842,"×ķ׳":123843,"á½":123844,"Ġ׼":123845,"ðŁļ":123846,"âļ":123847,"ï§":123848,"×ijר":123849,"×Ļ׳":123850,"á´":123851,"Ġ×Ĺ":123852,"á¼":123853,"ðĿĹ":123854,"Ġ×¢":123855,"×Ļ×Ķ":123856,"ãģ£ãģŁ":123857,"ãģĵãģ¨":123858,"á¸":123859,"ÙĬÙĨ":123860,"ãģªãģĦ":123861,"اع":123862,"ศ":123863,"à¹Īà¸ĩ":123864,"×Ļ×ĵ":123865,"×ŀש":123866,"áĪ":123867,"׳×Ļ":123868,"×Ļ×ij":123869,"ï¥":123870,"ðĿĵ":123871,"Ġ×Ļ":123872,"×ļ":123873,"ัà¸ĩ":123874,"âĵ":123875,"ï¤":123876,"ĠاÙĦØ£":123877,"าà¸ģ":123878,"à¹īà¸Ļ":123879,"à¹Ģร":123880,"×ķ×Ŀ":123881,"á¹":123882,"ึ":123883,"×Ļ×§":123884,"à¸ĭ":123885,"à¸Ħร":123886,"à¸ĺ":123887,"ัà¸ģ":123888,"ðŁķ":123889,"ÙĪÙĨ":123890,"à¸Ńย":123891,"âĬ":123892,"ðĿĴ":123893,"ĠاÙĦع":123894,"าà¸Ļ":123895,"×Ļף":123896,"ÙĦÙĬ":123897,"×Ļש":123898,"à¸Ľà¸£à¸°":123899,"à¹Ģà¸Ľ":123900,"Ġ׳":123901,"×ķס":123902,"à¸ł":123903,"ÙħÙĨ":123904,"×ķ×¢":123905,"×ķ×ŀ":123906,"âĮ":123907,"ð٧":123908,"à¹ĩà¸Ļ":123909,"à¸į":123910,"ãİ":123911,"áµ":123912,"ĠاÙĦس":123913,"×ķ×§":123914,"หล":123915,"ðŁĩ":123916,"âı":123917,"ð٦":123918,"Ġ×Ķ×ŀ":123919,"ÙĪØ§":123920,"Ġת":123921,"ר×IJ":123922,"à¸Ńà¸Ļ":123923,"ษ":123924,"à¹Īว":123925,"×ķצ":123926,"íĹ":123927,"ãĦ":123928,"ï¨":123929,"ï¹":123930,"âİ":123931,"ï²":123932,"ðĿļ":123933,"ðIJ":123934,"à¸Ħว":123935,"หà¸Ļ":123936,"Ġר":123937,"بÙĬ":123938,"รà¹Į":123939,"را":123940,"شر":123941,"×ķ×Ĺ":123942,"×ķפ":123943,"×ķש":123944,"×ķ×Ĵ":123945,"íĿ":123946,"âĽ":123947,"à¸ķิ":123948,"à¹Ģà¸ģ":123949,"ï³":123950,"ï±":123951,"à¸Ķà¹ī":123952,"ë¹":123953,"ï¬":123954,"á¿":123955,"ðŁĽ":123956,"ðĿĸ":123957,"à¹Īาà¸ĩ":123958,"ูà¹ī":123959,"Ġ×Ķ×IJ":123960,"ĠاÙĦØŃ":123961,"פר":123962,"ÙĪÙħ":123963,"à¹Ģล":123964,"íĸ":123965,"×Ļ×¢":123966,"ìĪ":123967,"íĵ":123968,"ðŁħ":123969,"áł":123970,"à¸Ħวาม":123971,"à¸Īะ":123972,"׳×Ķ":123973,"Ġ×§":123974,"à¸Ł":123975,"à¹īà¸ĩ":123976,"หม":123977,"تÙħ":123978,"׾×Ļ":123979,"ÙĬد":123980,"à¹Īà¸Ļ":123981,"×Ĺר":123982,"שר":123983,"à¹Ģà¸Ĺ":123984,"×ŀר":123985,"ëĸ":123986,"عÙĦ":123987,"×ŀ×¢":123988,"â²":123989,"׾×Ķ":123990,"Ġפ":123991,"à¸Ńà¸ģ":123992,"سÙĦ":123993,"×Ļ×ŀ":123994,"ÙĤÙĬ":123995,"íİ":123996,"تØŃ":123997,"×Ļס":123998,"×Ļ×Ĺ":123999,"íĽ":124000,"ï°":124001,"â½":124002,"áī":124003,"áĬ":124004,"á¨":124005,"Ùĩا":124006,"Ġ׾×Ķ":124007,"×ķ×IJ":124008,"Ùħا":124009,"à¹īà¸Ńà¸ĩ":124010,"رب":124011,"ĠاÙĦج":124012,"×ŀ×ĵ":124013,"ÙħÙĦ":124014,"تر":124015,"à¹Ģà¸Ķ":124016,"קר":124017,"íħ":124018,"ì¼":124019,"ê¿":124020,"ãĪ":124021,"áIJ":124022,"ðŁĹ":124023,"ê¦":124024,"áĭ":124025,"ðĿĶ":124026,"à¹Ģà¸Ľà¹ĩà¸Ļ":124027,"à¹ĥห":124028,"มา":124029,"วà¹Īา":124030,"มี":124031,"ีà¹ī":124032,"à¹Ħมà¹Ī":124033,"ÙĨÙĬ":124034,"ؤ":124035,"รา":124036,"×ķ×Ļ":124037,"ãĤĪãģĨ":124038,"ิà¸Ķ":124039,"×Ļפ":124040,"×Ĺ׾":124041,"ÙĤد":124042,"à¹Ģส":124043,"×Ļ×ĺ":124044,"à¸ģล":124045,"ר׼":124046,"×ķ׼":124047,"×Ļ׼":124048,"ëĪ":124049,"ëĥ":124050,"ðŁĸ":124051,"áħ":124052,"â¼":124053,"ãī":124054,"à¹Ħà¸Ķà¹ī":124055,"ת×Ļ":124056,"×Ļ×IJ":124057,"ĠاÙĦØ¥":124058,"à¸łà¸²":124059,"ริ":124060,"ÙĤØ©":124061,"ØŃد":124062,"ê»":124063,"ì±":124064,"ת×Ĺ":124065,"ìº":124066,"âĭ":124067,"áĦ":124068,"á¾":124069,"âµ":124070,"â¾":124071,"ĠÙĪØ§ÙĦ":124072,"׳×ķ":124073,"ÙĢ":124074,"ÙĬا":124075,"à¸ģà¹ĩ":124076,"×ŀ×Ķ":124077,"ãģĦãĤĭ":124078,"عد":124079,"ĠاÙĦÙĨ":124080,"Ġ×Ķש":124081,"ئ":124082,"ัà¹īà¸ĩ":124083,"รัà¸ļ":124084,"ÙĪÙĤ":124085,"ãģ§ãģį":124086,"à¹Ģà¸ŀ":124087,"׼׾":124088,"×ĺר":124089,"ัà¸Ķ":124090,"à¸Ńา":124091,"ì¢":124092,"à¸Ńà¸ļ":124093,"à¸ķร":124094,"à¹Ģà¸Ĭ":124095,"ìĶ":124096,"ãģĹãģ¾":124097,"ëģ":124098,"ëķ":124099,"ðŁĻ":124100,"âĴ":124101,"á¶":124102,"à¹ģล":124103,"ÙĨا":124104,"à¹ĥหà¹ī":124105,"à¹Ħà¸Ľ":124106,"×£":124107,"ัว":124108,"าà¸ĩ":124109,"×ĵר":124110,"×ij׾":124111,"פ×Ļ":124112,"Ġ×ĵ":124113,"ĠاÙĦÙģ":124114,"à¹Ģà¸Ĥ":124115,"ש×Ķ":124116,"×IJר":124117,"ë¬":124118,"ãģ«ãģª":124119,"ÑĢо":124120,"วิ":124121,"Ùħر":124122,"×IJת":124123,"Ùĥر":124124,"سب":124125,"ÙĨت":124126,"ãģĹãģĦ":124127,"اج":124128,"à¸Ńรà¹Į":124129,"ÙĥÙĦ":124130,"سÙħ":124131,"สิ":124132,"×Ļצ":124133,"ëĿ":124134,"íľ":124135,"ìī":124136,"áĨ":124137,"ÙĩÙħ":124138,"à¸Ļีà¹ī":124139,"ãģĤãĤĭ":124140,"ãģĦãģ¦":124141,"سÙĬ":124142,"׾×IJ":124143,"در":124144,"ãģļ":124145,"ÙĪØ¬":124146,"ĠاÙĦØ®":124147,"صر":124148,"íı":124149,"à¹īาà¸ĩ":124150,"ุà¸Ķ":124151,"×ķ×ĺ":124152,"×ij×¢":124153,"íĨ":124154,"à¸Ĭา":124155,"รม":124156,"ש×ŀ":124157,"×ŀס":124158,"ê´":124159,"ì´":124160,"ëľ":124161,"ì¿":124162,"ì©":124163,"ë»":124164,"â¤":124165,"ðŁĨ":124166,"áĮ":124167,"áķ":124168,"ذا":124169,"à¸Ĺำ":124170,"à¸ķà¹Ī":124171,"ĠاÙĦÙĤ":124172,"ÙĦÙĥ":124173,"ูà¹Ī":124174,"à¸Ħุ":124175,"ÙĬÙħ":124176,"׳×Ļ×Ŀ":124177,"ืà¹Īà¸Ń":124178,"ÙĪØ¹":124179,"ãĤĩ":124180,"اÙĤ":124181,"Ġ×ij×¢":124182,"à¹Ģม":124183,"جÙħ":124184,"ừ":124185,"ãģĵãģ¨ãģĮ":124186,"بد":124187,"×ķ×Ķ":124188,"ש׾":124189,"Ùĩر":124190,"à¹Ģà¸Ļ":124191,"ãģ¹":124192,"íĭ":124193,"ì»":124194,"ì½":124195,"ëŃ":124196,"ìĮ":124197,"íĢ":124198,"ëĮ":124199,"ëº":124200,"ãĬ":124201,"à¹ĥà¸Ļ":124202,"Ġ×Ĵ":124203,"à¹Ĩ":124204,"à¸Īาà¸ģ":124205,"วย":124206,"à¹ĥà¸Ĭ":124207,"à¸ĩาà¸Ļ":124208,"ĠاÙĦØ´":124209,"اØŃ":124210,"à¹īาà¸Ļ":124211,"ืà¹Īà¸Ńà¸ĩ":124212,"×IJ×Ļ":124213,"بÙĦ":124214,"ã썿ĢĿ":124215,"×ł×¡":124216,"ãģ¾ãģĽ":124217,"ÙĥÙĨ":124218,"ער":124219,"ĠاÙĦد":124220,"שת":124221,"íŀ":124222,"Ùħس":124223,"صÙĦ":124224,"×ķ׳×Ķ":124225,"ارة":124226,"ÙĦÙħ":124227,"สม":124228,"Ø£ÙĨ":124229,"תר":124230,"×IJ×ŀ":124231,"عب":124232,"خت":124233,"ãĤĥ":124234,"ì¡":124235,"ì£":124236,"ива":124237,"สั":124238,"ึà¸ģ":124239,"ì¸":124240,"ëĨ":124241,"алÑĮн":124242,"ì³":124243,"ìį":124244,"ê¼":124245,"ê½":124246,"ìı":124247,"ãĮ":124248,"ãı":124249,"ï©":124250,"êª":124251,"áİ":124252,"Ġ×ĸ":124253,"à¸ģัà¸Ļ":124254,"×Ļ×ķ":124255,"à¸Ħà¸Ļ":124256,"׳×ķת":124257,"à¸ľà¸¹à¹ī":124258,"à¹ĥà¸Ī":124259,"ãģĦãģŁ":124260,"Ù쨱":124261,"×ĺ×Ļ":124262,"צ×Ļ":124263,"ãĤĤãģ®":124264,"ĠاÙĦص":124265,"ãģ¾ãģĽãĤĵ":124266,"دة":124267,"×ij×Ļ":124268,"ĠاÙĦر":124269,"Ġ×ŀ×IJ":124270,"สำ":124271,"à¹Ģห":124272,"عر":124273,"ãģªãģı":124274,"à¸ģระ":124275,"×ij×ĵ":124276,"à¹Ģà¸Ī":124277,"×Ļ×ļ":124278,"×Ĺ×Ļ":124279,"ÙĬع":124280,"ש×ij":124281,"ÙĨØ©":124282,"ÙĪØ¶":124283,"ÙĦÙģ":124284,"ÙĢÙĢ":124285,"פע":124286,"íĪ":124287,"×ŀ×§":124288,"à¸IJ":124289,"ØŃØ©":124290,"اص":124291,"Ñĭва":124292,"à¸Ħม":124293,"วั":124294,"à¸Ľà¸¥":124295,"ìŁ":124296,"íļ":124297,"ë´":124298,"ëij":124299,"ëī":124300,"ëĩ":124301,"ì¨":124302,"ë±":124303,"ëİ":124304,"â¬":124305,"á¥":124306,"áĹ":124307,"áĽ":124308,"áį":124309,"Å©":124310,"à¸Ķี":124311,"ôi":124312,"Ġס":124313,"׾×ķ":124314,"á»Ŀi":124315,"à¸Ħุà¸ĵ":124316,"ây":124317,"à¸Ļา":124318,"×Ĺ×ĵ":124319,"×ĵ×Ļ":124320,"หา":124321,"جÙĦ":124322,"à¹Ģว":124323,"ãĤĩãģĨ":124324,"ÙħØ©":124325,"ĠاÙĦÙĥ":124326,"Ġ×Ķ×¢":124327,"جر":124328,"×ĸר":124329,"اط":124330,"×Ľ×ª":124331,"×ķ׳×Ļ×Ŀ":124332,"ØŃÙħ":124333,"ê¶":124334,"رÙĥ":124335,"Ġ×ľ×¢":124336,"×ķ×ĸ":124337,"สร":124338,"צ׾":124339,"Ø¢":124340,"است":124341,"à¹Īม":124342,"خر":124343,"צע":124344,"×Ļר×ķת":124345,"ادة":124346,"شار":124347,"×ŀ×Ĺ":124348,"íĴ":124349,"à¹Ģรีย":124350,"×Ĺ×§":124351,"اث":124352,"รà¸ĩ":124353,"à¹Ģà¸ķ":124354,"à¸Īำ":124355,"à¸Ŀ":124356,"à¹Īาย":124357,"à¸Ħล":124358,"ÙĤÙĪ":124359,"иÑĩеÑģк":124360,"à¸ĵà¹Į":124361,"ัย":124362,"Ùħع":124363,"ë¨":124364,"ë¿":124365,"ë®":124366,"ï´":124367,"ì¥":124368,"ì«":124369,"ëµ":124370,"á¡":124371,"âį":124372,"ðĵ":124373,"â°":124374,"à¸Ĥà¸Ńà¸ĩ":124375,"Ùĭ":124376,"à¸ģัà¸ļ":124377,"ãģ®ãģ§":124378,"à¹īว":124379,"à¸Ńยà¹Īาà¸ĩ":124380,"ãģŃ":124381,"á»ĩt":124382,"à¸ķà¹īà¸Ńà¸ĩ":124383,"×ŀ×Ļ":124384,"à¹ģà¸ļ":124385,"×Ĵר":124386,"ÙĪÙģ":124387,"ÙĤÙĦ":124388,"à¸łà¸²à¸ŀ":124389,"ר×Ļ":124390,"ลา":124391,"ÙĬس":124392,"Ġצ":124393,"ÙĬÙģ":124394,"Ġ×ĺ":124395,"à¸ľà¸¥":124396,"áng":124397,"รว":124398,"Ġ×ŀש":124399,"×IJ×ķת":124400,"×ĸ×Ķ":124401,"ูà¸ģ":124402,"à¸Ļัà¸ģ":124403,"اÙĨÙĬ":124404,"دا":124405,"ãģ³":124406,"׼ף":124407,"ãĤīãĤĮ":124408,"ãĤĮãģ°":124409,"תק":124410,"úc":124411,"ÙĪØ²":124412,"×Ļר×Ķ":124413,"Ġngh":124414,"ánh":124415,"Ġ×ķ×IJ":124416,"á»ħ":124417,"สุà¸Ķ":124418,"ëį°":124419,"اض":124420,"اÙĦÙĬ":124421,"بار":124422,"عÙħ":124423,"à¸ļา":124424,"تج":124425,"à¸ŀร":124426,"×ķר×Ķ":124427,"ảng":124428,"Ø®ÙĦ":124429,"à¸ī":124430,"ắc":124431,"ש×Ļ×Ŀ":124432,"íĶ":124433,"Ù쨳":124434,"×Ļ×Ĵ":124435,"пÑĢ":124436,"ĠاÙĦØ«":124437,"سط":124438,"รูà¹ī":124439,"ีà¹Īย":124440,"à¸Ńà¸Ķ":124441,"ãģªãĤĬ":124442,"×Ĵ×ĵ":124443,"ãģĦãģ¾ãģĹãģŁ":124444,"סק":124445,"خص":124446,"laÅŁ":124447,"енно":124448,"بØŃ":124449,"สà¸Ļ":124450,"ฮ":124451,"ר×IJש":124452,"ÙħÙĪ":124453,"دÙĬد":124454,"ษา":124455,"×ķ×ļ":124456,"ãĥ§ãĥ³":124457,"à¸ķุ":124458,"Ġêµ":124459,"ĠÑģво":124460,"צ×ij":124461,"à¸Ńม":124462,"à¸Ľà¸£":124463,"تع":124464,"×Ķת":124465,"اÙħÙĦ":124466,"×ŀ׳":124467,"ç¶ļ":124468,"ฤ":124469,"íį":124470,"ëĺ":124471,"ë¤":124472,"ìij":124473,"â´":124474,"ãĭ":124475,"ĠباÙĦ":124476,"á»ģu":124477,"ĠاÙĦÙĦ":124478,"à¸ķัว":124479,"ذÙĩ":124480,"ึà¸ĩ":124481,"à¹ĥà¸Ĭà¹ī":124482,"á»ĵng":124483,"à¸Ļั":124484,"มาà¸ģ":124485,"ãĥŁ":124486,"×ŀ×ķ":124487,"à¸Ĺย":124488,"á»Ļi":124489,"ằ":124490,"ảo":124491,"à¹Ĥà¸Ķ":124492,"×IJ׾":124493,"สาม":124494,"ÙĪØ¨":124495,"à¸Ĺุ":124496,"ยัà¸ĩ":124497,"עת":124498,"×ķ׳×ķת":124499,"à¸Ĥึ":124500,"à¸Ĥึà¹īà¸Ļ":124501,"à¸ģà¹Ī":124502,"ẫ":124503,"á»ijc":124504,"ãģĹãĤĩãģĨ":124505,"á»ĭch":124506,"Ġ×IJ×ķת":124507,"Ġש×IJ":124508,"׼×ķ׾":124509,"á»Ļc":124510,"عة":124511,"à¸Ĺี":124512,"à¹Ģà¸Ń":124513,"Ùĥت":124514,"ãģ»":124515,"ẻ":124516,"ìĹħ":124517,"à¸Ńà¸Ńà¸ģ":124518,"اÙĨت":124519,"à¹Ħร":124520,"Ġ×IJ×Ĺר":124521,"طر":124522,"ÙĨد":124523,"ืà¹īà¸Ń":124524,"Ø·ÙĦ":124525,"×IJ×Ķ":124526,"uyên":124527,"íĸī":124528,"×ij×Ķ":124529,"à¸Ħà¹Ī":124530,"à¸Ĭà¹Īว":124531,"ãģĤãĤĬãģ¾ãģĻ":124532,"ÙĬب":124533,"ק׾":124534,"ãĥĻ":124535,"Ä©":124536,"سر":124537,"าว":124538,"ãĤ±":124539,"à¸ļริ":124540,"ר×Ĵ":124541,"á»ĥu":124542,"ØŃت":124543,"×ķ×ŀ×Ļ":124544,"بÙĨ":124545,"êµIJ":124546,"ÄŁu":124547,"ãģªãĤĵ":124548,"×ij×§":124549,"Ġפר":124550,"ắn":124551,"ØŃÙĦ":124552,"×ij×Ĺ":124553,"ấu":124554,"×ij×ķ×ĵ":124555,"ãĥ¯":124556,"Ġ׾ק":124557,"ัà¸į":124558,"à¸ŀิ":124559,"×Ĺ×Ķ":124560,"×ĸ׼":124561,"ãĥ¼ãĥł":124562,"ÑĤелÑĮ":124563,"×ŀ×Ļ×ĵ":124564,"ÙĬØ®":124565,"ẳ":124566,"تص":124567,"à¸ĺิ":124568,"è¾¼":124569,"ìĵ":124570,"ÙĥØ©":124571,"ÙĤب":124572,"à¸Ħà¹Į":124573,"à¹īาย":124574,"à¸ĵะ":124575,"าะ":124576,"ëĴ":124577,"ê¾":124578,"ë·":124579,"ìĩ":124580,"êº":124581,"ìģ":124582,"ëĢ":124583,"ì¾":124584,"ë½":124585,"ëļ":124586,"ìŃ":124587,"ìİ":124588,"áij":124589,"ëĹ":124590,"êĴ":124591,"à¡":124592,"à¬":124593,"ðIJĮ":124594,"ãĩ":124595,"ðĿĦ":124596,"Ġ׾×IJ":124597,"ãģ¨ãģĦãģĨ":124598,"Ġnhi":124599,"×Ļ×ķת":124600,"Ġש×Ķ":124601,"à¹ģลà¹īว":124602,"Æ°á»Ľc":124603,"à¸Ķà¹īวย":124604,"à¸Ĺาà¸ĩ":124605,"×ł×ª":124606,"פת":124607,"à¹ģà¸ķà¹Ī":124608,"ưng":124609,"à¸Ńยูà¹Ī":124610,"à¹īำ":124611,"Ġ×IJ׾":124612,"ÙĥÙħ":124613,"ấp":124614,"ลà¸ĩ":124615,"ãģŁãĤģ":124616,"×Ĵ׾":124617,"หร":124618,"ĠÑĢе":124619,"à¹Ģà¸Ĥà¹īา":124620,"ÙĤر":124621,"Ġ×Ķס":124622,"ÙĪÙĬ":124623,"สามาร":124624,"สามารà¸ĸ":124625,"Äĥn":124626,"à¸Ńี":124627,"פ×ķ":124628,"×Ļ׳×ķ":124629,"วัà¸Ļ":124630,"ặc":124631,"íķĻ":124632,"×ŀת":124633,"êu":124634,"ẹ":124635,"ÙģÙĬ":124636,"×ŀצ":124637,"à¸Ħา":124638,"ãģĿãģĨ":124639,"ãĢħ":124640,"از":124641,"اÙĩ":124642,"ר×Ļ×Ŀ":124643,"ấn":124644,"หาร":124645,"ạt":124646,"ÙĨÙĩ":124647,"à¹Ģà¸Ħร":124648,"جÙĩ":124649,"׼×Ļ":124650,"ắt":124651,"à¸Ħà¹īา":124652,"رة":124653,"ãĥı":124654,"ÙĥÙĪÙĨ":124655,"ứng":124656,"Ġìļ°":124657,"ยà¹Į":124658,"à¹Īวà¸Ļ":124659,"à¸ģำ":124660,"ثر":124661,"Ñģи":124662,"ĠاÙĦØ·":124663,"Ġ×Ķצ":124664,"ĠØ·":124665,"ĠاÙĦÙĪ":124666,"ê¹Į":124667,"ØŃÙĬ":124668,"ارات":124669,"à¹Ģà¸ĭ":124670,"با":124671,"гÑĢ":124672,"รี":124673,"ืà¸Ńà¸Ļ":124674,"عت":124675,"ÙĤاÙĦ":124676,"دÙħ":124677,"Ø¡":124678,"Ġ×ŀ×§":124679,"×ĵ×Ļ×Ŀ":124680,"×¢×ľ":124681,"ãģĴ":124682,"ëĭĺ":124683,"×¢×Ķ":124684,"Ġìĸ´":124685,"ÑģÑĮ":124686,"ÙĤØ·":124687,"ãĥĽ":124688,"èĢĥãģĪ":124689,"à¹ģà¸Ļ":124690,"ÙĪØ§Øª":124691,"âu":124692,"ĠìĤ¬ëŀ":124693,"หว":124694,"ĠاÙĦØ£Ùħ":124695,"Ġ×Ķ×ŀש":124696,"بÙĪ":124697,"à¸Ĭà¸Ļ":124698,"ãĤĵãģ§ãģĻ":124699,"วà¸Ļ":124700,"à¸ģรรม":124701,"×ŀ×ķ×ĵ":124702,"ÙĥاÙĨ":124703,"×ķ×£":124704,"олог":124705,"تÙĨ":124706,"à¸ķà¹Į":124707,"ê²ĥ":124708,"ר×ĺ":124709,"ừng":124710,"×ķ×ij×Ķ":124711,"ÙħØŃ":124712,"ĠЧ":124713,"פ×Ĵ":124714,"สà¸ĸ":124715,"ãģĭãĤĬ":124716,"ınız":124717,"à¹Ģย":124718,"ãĥ¼ãĥ³":124719,"ãģĬãĤĬ":124720,"פש":124721,"ิà¸ķ":124722,"Ø·ÙĨ":124723,"×Ļת×Ļ":124724,"×IJ׳":124725,"çek":124726,"ìª":124727,"×ŀ×ij":124728,"ศา":124729,"ãĤ¹ãĤ¿":124730,"à¸ļุ":124731,"×ĵ×ijר":124732,"ãģĦãģı":124733,"สะ":124734,"à¹Ģหล":124735,"ิà¸ĩ":124736,"à¸ŀัà¸Ļ":124737,"ãģĦãģŁãģł":124738,"ãĤĤãĤī":124739,"à¹īม":124740,"ãģĵãģ¨ãģĮãģ§ãģį":124741,"ารà¹Į":124742,"ุà¸ĩ":124743,"íij":124744,"ì¯":124745,"ë¼":124746,"íĤ":124747,"ì·":124748,"ê¡":124749,"áı":124750,"áĴ":124751,"ðĿľ":124752,"á©":124753,"ðŁĦ":124754,"ðIJ¤":124755,"Ġש׾":124756,"Ġ×ŀ×Ķ":124757,"à¹ģละ":124758,"Ġ׼׾":124759,"ẽ":124760,"á»Ļng":124761,"ذÙĬ":124762,"ле":124763,"×¥":124764,"ãģªãģ©":124765,"ĠÙĪØ£":124766,"หà¸Ļà¹īา":124767,"ãģ¾ãģ§":124768,"à¸ķà¹Īà¸Ń":124769,"à¸Ĺัà¹īà¸ĩ":124770,"ãģłãģij":124771,"à¹ģà¸ļà¸ļ":124772,"à¹Ģรา":124773,"פ׾":124774,"ãģŁãģĦ":124775,"à¹Ģลย":124776,"ãģ£ãģ¦ãģĦãĤĭ":124777,"ếp":124778,"ึà¹Īà¸ĩ":124779,"ê´Ģ":124780,"ê³Ħ":124781,"׼×ķ":124782,"à¹Ģรืà¹Īà¸Ńà¸ĩ":124783,"×§×Ļ":124784,"êµŃ":124785,"פס":124786,"تÙĬ":124787,"ãĥĦ":124788,"Ġ×Ķ×Ĺ":124789,"ги":124790,"ר×IJ׾":124791,"×ŀ׾":124792,"ĠØ£ÙĬ":124793,"ĠعÙĦÙĬ":124794,"ãģĭãģ£ãģŁ":124795,"ש×Ļ":124796,"дÑĥ":124797,"×ŀף":124798,"׳×ĺ":124799,"׳×Ļת":124800,"miÅŁ":124801,"׼×Ŀ":124802,"Ġ×ijר":124803,"Ġ׾×ij":124804,"ĠÐĽ":124805,"çe":124806,"×ķ׳×Ļ":124807,"ãĤĪãģĨãģ«":124808,"פ×ķר":124809,"ãĥį":124810,"ÙĥÙĬ":124811,"×Ĺת":124812,"ÙģÙĦ":124813,"Ġ×Ķ×§":124814,"Ġ×Ķ×ij":124815,"Ġ×ŀס":124816,"à¹Īาà¸Ļ":124817,"пеÑĢ":124818,"à¹Īาว":124819,"Ġ×ij×IJ":124820,"ĠÙĪÙĩ":124821,"à¸Ļำ":124822,"Ġ×ijש":124823,"׳ק":124824,"ãģ©ãģĨ":124825,"ש×ķת":124826,"×ĵ×Ķ":124827,"à¹Ģà¸ļ":124828,"ÙĨس":124829,"Ġìļ°ë¦¬":124830,"สà¹Īวà¸Ļ":124831,"ลัà¸ĩ":124832,"جز":124833,"Ġ×Ĺ×Ļ":124834,"Ùĥثر":124835,"ละ":124836,"Ùĩد":124837,"ĠÙĪØ¨":124838,"اÙĦÙħ":124839,"à¹ģม":124840,"Æ¡i":124841,"Ġ×ij×Ĺ":124842,"ữa":124843,"à¹Ģà¸Ĺศ":124844,"à¸ķัà¹īà¸ĩ":124845,"огда":124846,"׾ק":124847,"دد":124848,"สรà¹īาà¸ĩ":124849,"à¸Ĭี":124850,"Ù쨶":124851,"à¹ģห":124852,"uyá»ĩn":124853,"รัà¸ģ":124854,"á»ĩm":124855,"สา":124856,"פק":124857,"ียà¸ĩ":124858,"à¸ķà¹Īาà¸ĩ":124859,"à¸Ħรัà¹īà¸ĩ":124860,"ØŃÙĤ":124861,"à¹Ģà¸Ńà¸ĩ":124862,"ائÙĬ":124863,"×ĺ×¢":124864,"اÙĦØ©":124865,"ิà¹Īม":124866,"ãĤ½":124867,"دÙī":124868,"Ġר×IJ":124869,"ãģ£ãģ¨":124870,"ãĥĥãĥĹ":124871,"ÙĬرة":124872,"ê±´":124873,"×ŀ×IJ":124874,"×ķ×ķ":124875,"بع":124876,"ãģ²":124877,"ราย":124878,"×ĵ×Ŀ":124879,"تÙģ":124880,"à¸ķà¸ģ":124881,"ạng":124882,"ãĤĴè¦ĭ":124883,"à¸Ĭั":124884,"Æ°á»Ł":124885,"Æ°á»Łng":124886,"جب":124887,"×ķ×ŀר":124888,"ĠìĤ¬ëŀĮ":124889,"óng":124890,"รั":124891,"Ġ×Ķ×ĸ":124892,"רצ":124893,"Ġ×Ĺ×ĵ":124894,"ذÙĦÙĥ":124895,"×ķר×Ļ":124896,"ãģ¡ãĤĥ":124897,"Ù쨹":124898,"Ġ׾צ":124899,"ái":124900,"à¹ĩà¸ļ":124901,"ãģİ":124902,"à¸ģิ":124903,"ạc":124904,"ë©°":124905,"ãģªãĤĭ":124906,"×ķ׾×Ŀ":124907,"à¹ģà¸Ĺ":124908,"×ķ×¥":124909,"меÑĤ":124910,"Ã¼ÅŁ":124911,"ÑĢÑı":124912,"à¸Ĵ":124913,"ÑģÑĤоÑı":124914,"عÙĪØ¯":124915,"Ùħار":124916,"طة":124917,"à¸ŀื":124918,"кÑĢ":124919,"à¹ģà¸ģ":124920,"à¹Ĥรà¸ĩ":124921,"×ij×Ļ×ĺ":124922,"ê²ł":124923,"×ķ׾×Ķ":124924,"ØŃر":124925,"ืà¹Īà¸Ńà¸Ļ":124926,"×ķ×ijר":124927,"×Ĺש":124928,"ãĥķãĤ¡":124929,"×ŀ×ĺ":124930,"út":124931,"Ġdön":124932,"ắng":124933,"ëłĩ":124934,"ẳng":124935,"วà¸ģ":124936,"صد":124937,"خط":124938,"à¸Ńั":124939,"ãĤıãĤĮ":124940,"سÙĦاÙħ":124941,"à¹Ģรà¹ĩ":124942,"×Ļש×Ļ":124943,"جاÙĦ":124944,"ãģijãĤĭ":124945,"à¸Ĭาà¸ķิ":124946,"ÙĪØ§ÙĤ":124947,"à¹Ĥà¸Ļ":124948,"ãģ¦ãģĹãģ¾":124949,"اعة":124950,"ãĤŃãĥ£":124951,"à¸įา":124952,"ÙĦاÙĤ":124953,"ิà¸ģ":124954,"ĠÑģов":124955,"ÑĢак":124956,"×Ļ׳×Ļ":124957,"Ã¼ÄŁ":124958,"Ã¼ÄŁÃ¼":124959,"×§×ij":124960,"à¹Īà¸Ńà¸ĩ":124961,"Ġgerçek":124962,"à¸Ĺั":124963,"ованиÑı":124964,"×ŀ׼":124965,"سة":124966,"×Ļ×£":124967,"leÅŁ":124968,"Ùħؤ":124969,"ĠìĿĺ":124970,"à¸IJาà¸Ļ":124971,"ĠÑģоб":124972,"ĠêµŃ":124973,"עצ":124974,"зв":124975,"สà¸ĩ":124976,"زÙĦ":124977,"ãģıãĤĮ":124978,"иÑĢÑĥ":124979,"تأ":124980,"полн":124981,"ìĺĢ":124982,"ÙĨØ´":124983,"׼×IJ":124984,"ÙħØ´":124985,"à¸Ķà¹Į":124986,"ÙĪÙĬÙĦ":124987,"à¹ģà¸Ĥ":124988,"ãģ£ãģ¦ãģĹãģ¾":124989,"ноÑģÑĤ":124990,"вл":124991,"ÙħÙĤ":124992,"راج":124993,"å¤ī":124994,"ëĽ":124995,"â¸":124996,"ìIJ":124997,"à»":124998,"áļ":124999,"â»":125000,"êĻ":125001,"â§":125002,"ðĴ":125003,"ðĿĩ":125004,"Ġ×IJת":125005,"ĠÙĦÙĦ":125006,"ĠØ£ÙĨ":125007,"Ġ×ķ×Ķ":125008,"ãģ«ãģ¯":125009,"Ġ×Ļש":125010,"تÙĩ":125011,"ÃŃnh":125012,"ÙĬات":125013,"Ġ×ij×ŀ":125014,"à¸Ļัà¹īà¸Ļ":125015,"à¸Ļà¹īำ":125016,"Ãło":125017,"à¸ķาม":125018,"ãģ®ãģ¯":125019,"dır":125020,"Ġnghi":125021,"ặt":125022,"×ŀ×Ļ×Ŀ":125023,"ãģ¦ãģĦãĤĭ":125024,"Ġ×ijת":125025,"หรืà¸Ń":125026,"ĠسÙĬ":125027,"ãģªãĤī":125028,"à¹Ĥà¸Ķย":125029,"ıyor":125030,"à¸Ńีà¸ģ":125031,"á»ĩnh":125032,"Ñĭм":125033,"à¸Ĺุà¸ģ":125034,"Ġ׾×Ĺ":125035,"Ġ×Ķר":125036,"Ġ×Ķ×Ļ":125037,"à¸ŀระ":125038,"à¹Ģวลา":125039,"Ġغ":125040,"ẫn":125041,"mÄ±ÅŁ":125042,"׼×Ķ":125043,"á»ijn":125044,"ãģ§ãģĹãĤĩãģĨ":125045,"ãĥ¢":125046,"à¸Ľà¸µ":125047,"ס×Ļ":125048,"ãģĵãĤį":125049,"Ġ׾פ":125050,"รà¸ĸ":125051,"ê¸Ī":125052,"à¸ģวà¹Īา":125053,"무":125054,"á»įng":125055,"ãĤĵãģ§":125056,"ãĤĪãģĨãģª":125057,"á»ĵi":125058,"ãĤ¬":125059,"สà¹Īà¸ĩ":125060,"×Ļ׳×Ķ":125061,"à¸ĸูà¸ģ":125062,"à¸Īัà¸Ķ":125063,"Ġ×Ķ×Ĵ":125064,"ãĥľ":125065,"×ŀ×ķת":125066,"ÙĪÙĥ":125067,"ëĭ¨":125068,"ĠØ«":125069,"ãģ®ãģĮ":125070,"à¹Ģหà¹ĩà¸Ļ":125071,"عا":125072,"à¸Ļิ":125073,"Åŀ":125074,"à¸Ńะ":125075,"ãģĪãĤĭ":125076,"Ø«ÙĦ":125077,"ØŃÙħد":125078,"à¹Ģà¸ģิà¸Ķ":125079,"פשר":125080,"פ×Ķ":125081,"มิ":125082,"ئÙĬس":125083,"à¸Ĺำà¹ĥหà¹ī":125084,"×¢×ĵ":125085,"ìĭ¤":125086,"à¸Ĭà¹Īวย":125087,"ĠاÙĦÙħÙĨ":125088,"زÙĬ":125089,"عÙĬ":125090,"Ġ׼×IJ":125091,"ạnh":125092,"ỹ":125093,"ãĤĵãģª":125094,"สู":125095,"צר":125096,"Æ°á»Ľng":125097,"×ķ×ķ×Ķ":125098,"à¹Ĥล":125099,"ĠاÙĦÙĩ":125100,"วา":125101,"หลาย":125102,"Ñīе":125103,"à¸Ĥà¹īà¸Ń":125104,"à¹īà¸Ńย":125105,"بط":125106,"каÑı":125107,"ĠØ¢":125108,"ĠиÑģ":125109,"ĠاÙĦغ":125110,"à¸ģา":125111,"à¸Ļà¹Īา":125112,"ÙĬÙĪ":125113,"×ij×ķר":125114,"á»ħn":125115,"วà¸ĩ":125116,"×Ļ×ĸ":125117,"ì²Ń":125118,"ним":125119,"룰":125120,"×Ĵ×ķר":125121,"صØŃ":125122,"ÙĦÙĪ":125123,"×Ĺ×ķת":125124,"สุ":125125,"رÙĬÙĤ":125126,"ס×ĺ":125127,"Ġ×ŀ×¢":125128,"ãĥĨãĤ£":125129,"à¸Ħิà¸Ķ":125130,"ãĤįãģĨ":125131,"à¹Ħล":125132,"à¸Ļà¹Į":125133,"á»ıi":125134,"ÑģÑĤÑĢо":125135,"สà¸Ķ":125136,"สาร":125137,"ÙĪÙĦØ©":125138,"ầm":125139,"รà¹Īว":125140,"รà¹Īวม":125141,"รุ":125142,"ĠاÙĦسÙĬ":125143,"ìĺģ":125144,"Ġ×ŀ×ij":125145,"פ×ĺ":125146,"à¸ķิà¸Ķ":125147,"×ĺ×Ļ×Ŀ":125148,"Ġ무":125149,"ÙĤدÙħ":125150,"ĠdÃ¼ÅŁ":125151,"ائÙĦ":125152,"мÑĭ":125153,"ØŃس":125154,"ÙĪØµ":125155,"×Ļ×§×Ķ":125156,"ãģ§ãģ¯ãģªãģĦ":125157,"à¹Ģหม":125158,"оÑĢÑĤ":125159,"íĨµ":125160,"ãģIJ":125161,"кÑĢа":125162,"ียว":125163,"عار":125164,"ئة":125165,"íĥĢ":125166,"ãģ«ãģªãĤĬ":125167,"جة":125168,"ÙĪÙĤع":125169,"ÑĮÑı":125170,"×ķצ×Ķ":125171,"ש×Ŀ":125172,"بÙĤ":125173,"Ġ×Ļ×Ķ":125174,"ÙĬØ·":125175,"ımız":125176,"деÑĢж":125177,"×Ļשר×IJ׾":125178,"غÙĬر":125179,"รà¸Ńà¸ĩ":125180,"à¹Ģรียà¸Ļ":125181,"Ġ×Ķ×ĺ":125182,"หมาย":125183,"ÙħÙĩ":125184,"اÙ쨩":125185,"ĠоÑĢг":125186,"ÙĪÙī":125187,"ãĥ©ãĤ¤":125188,"×ŀ׳×Ķ":125189,"ĠÄijo":125190,"ĠгоÑĢ":125191,"اÙħØ©":125192,"楽":125193,"Ø«ÙĬر":125194,"à¸ģิà¸Ī":125195,"á»ĵn":125196,"ÙĨب":125197,"ÑĢÑĥд":125198,"ìĹĪ":125199,"Ġ×Ĺ×ijר":125200,"ÑĢаж":125201,"ạch":125202,"تÙĪ":125203,"à¹Ĥม":125204,"×ij×Ļ×ij":125205,"ĠíĨµ":125206,"acaģı":125207,"جÙĦس":125208,"à¹Ģà¸Ľà¸¥":125209,"วà¸Ķ":125210,"à¸Ńล":125211,"ãģŁãĤĬ":125212,"à¸Ľà¸±à¸į":125213,"ĠìķĮ":125214,"عرÙģ":125215,"à¹Ħà¸Ł":125216,"أخ":125217,"å¤ļãģĦ":125218,"à¸Ķัà¸ĩ":125219,"Ø´Ùģ":125220,"ãģ£ãģ¦ãģĦãģ¾ãģĻ":125221,"×Ľ×ł×¡":125222,"ÑĨе":125223,"еÑģп":125224,"ÙħاÙħ":125225,"à¸ŀืà¹īà¸Ļ":125226,"иÑĩеÑģки":125227,"خد":125228,"ÙĥÙĪÙħ":125229,"Ġ×Ķר×IJש":125230,"تاب":125231,"é£Łãģ¹":125232,"ืà¸Ļ":125233,"оÑĢо":125234,"Ġböl":125235,"×ķ×Ĺ×ĵ":125236,"دÙĬر":125237,"ắm":125238,"دع":125239,"ãģķãģĽ":125240,"à¸ĺร":125241,"à¸ĺรรม":125242,"ãģĭãĤĤ":125243,"å¤ļãģı":125244,"rä":125245,"سع":125246,"×Ļ׾×Ķ":125247,"ضر":125248,"ĠاÙĦشر":125249,"×ĸ×ķר":125250,"×¢×ijר":125251,"ạm":125252,"алÑĮно":125253,"رÙĨ":125254,"اÙħج":125255,"׼×ļ":125256,"dıģ":125257,"ден":125258,"ضا":125259,"ÙĦÙĬÙħ":125260,"Ġê·¸ëŁ¬":125261,"تÙħاع":125262,"ارÙĬØ®":125263,"à¹Ĥà¸ķ":125264,"ĠÑģÑĢед":125265,"Ġ׳×ķס":125266,"ÙĤبÙĦ":125267,"оÑĤов":125268,"leÅŁtir":125269,"ĠмеÑģÑĤ":125270,"سÙĦÙħ":125271,"Ġעצ":125272,"ĠاÙĦسÙĦ":125273,"еÑĤÑĮ":125274,"ابة":125275,"нак":125276,"สà¸ĸาà¸Ļ":125277,"Ġ×ij׳":125278,"à¸ļัà¸Ļ":125279,"׼׳":125280,"ĠÃ¶ÄŁ":125281,"ãģ¨è¨Ģ":125282,"uyến":125283,"diÄŁ":125284,"áºŃu":125285,"ÑĢаÑģ":125286,"ãĤ·ãĥ§ãĥ³":125287,"nız":125288,"×ķ×ĵ×Ķ":125289,"تس":125290,"ÙħاÙĦ":125291,"à¹Ģหà¸ķุ":125292,"ยว":125293,"à¸ŀัà¸ģ":125294,"ãģĦãģªãģĦ":125295,"ĠкаÑĩ":125296,"ลà¹Į":125297,"×¨×Ľ×ª":125298,"ÅŁtur":125299,"×ŀ×ķס":125300,"ãģ¥":125301,"бол":125302,"عÙħاÙĦ":125303,"×ķרת":125304,"ÑĨион":125305,"ศึà¸ģ":125306,"à¸ı":125307,"ÑĢен":125308,"اسÙĬ":125309,"ائر":125310,"à¹Ĥà¸Ľà¸£":125311,"Ġseç":125312,"غÙĬ":125313,"ÑįÑĤ":125314,"енн":125315,"ãģªãģ®":125316,"×Ļש×Ķ":125317,"×Ļפ×ķר":125318,"ãģŁãĤģãģ«":125319,"زة":125320,"Ġçoc":125321,"ãĤ¯ãĥª":125322,"ÑĪен":125323,"ãĤıãģij":125324,"رÙĬد":125325,"ĠÑĢаÑģÑģ":125326,"Ùĥات":125327,"สà¸Ńà¸ļ":125328,"ceÄŁi":125329,"ãĤ¿ãĤ¤":125330,"à¸ļร":125331,"ĠاÙĦبر":125332,"׳×ķ×¢":125333,"rün":125334,"راض":125335,"ศาส":125336,"à¸ķรà¹Į":125337,"ãģįãģŁ":125338,"×ķ׾×ĵ":125339,"еÑĢи":125340,"íĹĺ":125341,"ắp":125342,"تعÙĦ":125343,"Ùĥد":125344,"иÑĤелÑĮно":125345,"Ø·Ùģ":125346,"ĠавÑĤом":125347,"Ġ×ŀצ":125348,"ÑĪиÑħ":125349,"اتÙģ":125350,"ĠÑħоÑĤ":125351,"ÙİØ§":125352,"ãģıãĤĭ":125353,"×Ķפ":125354,"à¹Ĥà¸Ĺ":125355,"à¹ģà¸ŀ":125356,"à¹Īà¸Ńย":125357,"ĠاÙĦÙħØ´":125358,"à¸ģารà¸ĵà¹Į":125359,"аниз":125360,"×Ķ׾":125361,"ظÙħ":125362,"ยุ":125363,"liÄŁ":125364,"à¹Ħà¸Ĥ":125365,"à¸ĸืà¸Ń":125366,"öz":125367,"ãģijãģ¦":125368,"à¹Ģà¸ľ":125369,"ุม":125370,"ãĥĹãĥ¬":125371,"Ġ×Ķ×IJ×Ĺר":125372,"ختÙĦÙģ":125373,"à¸İ":125374,"ÙĦاØŃ":125375,"Ġdüzen":125376,"צ×Ķ":125377,"ساء":125378,"×ķר×ļ":125379,"×ķ×ĵ×Ļ":125380,"ÑĢаÑĦ":125381,"ÅŁtır":125382,"ãģ«åħ¥":125383,"ãģĪãģ°":125384,"صÙĪÙĦ":125385,"ĠÐľÐ¾Ñģ":125386,"اÙĩر":125387,"ãģ£ãģ":125388,"ĠлÑİб":125389,"×Ļ×¢×Ķ":125390,"Ġ×Ķ×ŀ×§":125391,"สิà¸Ĺ":125392,"สิà¸Ĺà¸ĺิ":125393,"×Ļ׳×Ŀ":125394,"ÙĦاÙģ":125395,"à¸ŀัà¸Ļà¸ĺ":125396,"×ķ×IJ×Ķ":125397,"มั":125398,"à¸Ĥà¸ĵะ":125399,"доÑĢ":125400,"ãģ¨ãģª":125401,"à¸ģระà¸Ĺ":125402,"acı":125403,"×ķ׾×ķ×Ĵ":125404,"ÑĥÑĪ":125405,"ãĥ¥ãĥ¼":125406,"ãĥ¦":125407,"Ùħست":125408,"ĠaÅŁ":125409,"שק":125410,"פת×Ĺ":125411,"ายà¸Ļ":125412,"íĩ":125413,"ë¢":125414,"ï·":125415,"íī":125416,"ìµ":125417,"ì¬":125418,"ðĿĽ":125419,"ìĴ":125420,"ëĻ":125421,"ê§":125422,"áĸ":125423,"â¨":125424,"â±":125425,"áĺ":125426,"ðĸ":125427,"àł":125428,"áĶ":125429,"ðIJŃ":125430,"ững":125431,"Å©ng":125432,"Ġ×Ķת":125433,"ĠاÙĦا":125434,"Ġ×ŀת":125435,"à¸ĸึà¸ĩ":125436,"òn":125437,"á»ĭnh":125438,"нÑĭм":125439,"Ġcả":125440,"à¸Ķู":125441,"Ġà¹ģà¸ķà¹Ī":125442,"Ġ×ij×Ķ":125443,"ói":125444,"ãģ¨ãģĹãģ¦":125445,"úng":125446,"Ġذ":125447,"Ġ×Ķ׳":125448,"ĠبÙĨ":125449,"ÙĦاÙĦ":125450,"à¹Ħà¸Ĺย":125451,"á»ĩp":125452,"tı":125453,"มัà¸Ļ":125454,"ằng":125455,"á»ijt":125456,"ком":125457,"à¸ĭึà¹Īà¸ĩ":125458,"à¸Ħรัà¸ļ":125459,"à¸ļà¹īาà¸Ļ":125460,"ĠاÙĦÙĬ":125461,"lü":125462,"ÙĪØ³":125463,"ãģłãģ£ãģŁ":125464,"à¹Ģà¸ĩ":125465,"Ġê³µ":125466,"нÑĥ":125467,"ãĤĪãĤĬ":125468,"мÑĥ":125469,"à¹Ģà¸Ĥา":125470,"ãĤĢ":125471,"ние":125472,"ãģ«ãģªãĤĭ":125473,"áºŃy":125474,"ĠÙĪØ§":125475,"볤":125476,"ש×ķ":125477,"áp":125478,"×ĵ×ķ":125479,"ãģ§ãģĹãģŁ":125480,"عض":125481,"Ñģкой":125482,"æĦŁãģĺ":125483,"ÑİÑĤÑģÑı":125484,"Ġ×Ļ׼×ķ׾":125485,"ãĤĵãģł":125486,"ви":125487,"à¹Ģลà¹Īà¸Ļ":125488,"ìĿ´ëĭ¤":125489,"ĠÙĦÙĩ":125490,"à¸Ħืà¸Ń":125491,"تÙĥ":125492,"ÙħÙĥÙĨ":125493,"aģı":125494,"׳×ĵ":125495,"민":125496,"à¹Ħว":125497,"สำห":125498,"สำหรัà¸ļ":125499,"Ñģлед":125500,"tır":125501,"ĠÙĦÙĬ":125502,"ĠاÙĦعÙħÙĦ":125503,"×ij×ķת":125504,"×ij×Ļ×Ŀ":125505,"à¸Ħำ":125506,"à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩ":125507,"lıģı":125508,"ืà¸Ńà¸ĩ":125509,"جد":125510,"íŀĪ":125511,"ìĭ¬":125512,"×¢×ķת":125513,"สิà¸Ļ":125514,"Ñĩи":125515,"رض":125516,"à¹Ģà¸Ľà¸´à¸Ķ":125517,"à¸Ħà¹Īา":125518,"ìĦł":125519,"ÙĪØ±Ø©":125520,"×§×ĺ":125521,"ìľł":125522,"عÙħÙĦ":125523,"×IJ×Ļ×Ŀ":125524,"׾×Ļ×Ŀ":125525,"à¹ĥหà¸į":125526,"à¹ĥหà¸įà¹Ī":125527,"ừa":125528,"á»įi":125529,"ãģ¶":125530,"ÃŃch":125531,"ãĥĩãĤ£":125532,"×ķר×Ļ×Ŀ":125533,"Ñģо":125534,"ìķ½":125535,"ова":125536,"ÑĩаÑģÑĤ":125537,"à¹Ģà¸Īà¹īา":125538,"пÑĢо":125539,"Ġ×ŀ×Ĺ":125540,"ãĥİ":125541,"×ķ×Ļ×ķת":125542,"Ġде":125543,"ë§Ī":125544,"ì§ģ":125545,"×Ļפ×Ķ":125546,"ĠاÙĦعاÙĦÙħ":125547,"르":125548,"ר×IJ×Ķ":125549,"uyá»ĥn":125550,"×¢×Ļ":125551,"มืà¸Ń":125552,"Ø¥ÙĨ":125553,"รู":125554,"Ġز":125555,"×Ļ×ķ×Ŀ":125556,"à¸ķà¹īà¸Ļ":125557,"ãģ¦ãģĦãģ¾ãģĻ":125558,"ÙħاÙĨ":125559,"ĠÐ¥":125560,"à¸Ľà¸£à¸°à¹Ģà¸Ĺศ":125561,"ỳ":125562,"׾×ij":125563,"à¹Ģà¸Ķà¹ĩ":125564,"ãģŁãģ¡":125565,"à¸Ĺีม":125566,"à¸Ļะ":125567,"ìŰ":125568,"ĠìłĢ":125569,"ÙĦÙĩ":125570,"ợi":125571,"ĠاÙĦز":125572,"دار":125573,"ãĤ³ãĥ³":125574,"мин":125575,"à¹ģหà¹Īà¸ĩ":125576,"à¸Ķัà¸ļ":125577,"׼ר":125578,"жа":125579,"íĸĪ":125580,"×ŀ×ĸ":125581,"ợi":125582,"à¸Ķา":125583,"Ġعبد":125584,"à¹ģร":125585,"×IJתר":125586,"×¢×ł×Ļ":125587,"à¹Ģà¸Ħ":125588,"×ķצר":125589,"ì§Ģë§Į":125590,"ائÙħ":125591,"أس":125592,"uyá»ģn":125593,"Ġ×IJ׳":125594,"×Ĺ׳×ķ":125595,"×ĸ×Ļ":125596,"รà¹īาà¸Ļ":125597,"ĠÐłÐ¾Ñģ":125598,"ĠÐłÐ¾ÑģÑģ":125599,"ربÙĬØ©":125600,"tür":125601,"ãĤĭãģĵãģ¨":125602,"ظر":125603,"бÑĭ":125604,"à¸Ĺีà¹Īสุà¸Ķ":125605,"Ġצר":125606,"èĩªåĪĨ":125607,"лаÑģ":125608,"ĠÑıв":125609,"ĠÑıвлÑı":125610,"à¸ŀรà¹īà¸Ńม":125611,"à¸Ńาà¸Ī":125612,"à¸ļริà¸ģาร":125613,"Ġçı":125614,"ëįĺ":125615,"ĠاÙĦÙħست":125616,"تش":125617,"ש×ķ×ij":125618,"ãĤ´":125619,"Ġyapıl":125620,"ĠاÙĦذ":125621,"ุà¹Īม":125622,"à¸ĸà¹īา":125623,"ìĦ¤":125624,"ì°¨":125625,"ваÑĢ":125626,"à¹Ģà¸ŀิà¹Īม":125627,"Æ°á»Ľi":125628,"Ùĥس":125629,"à¸Ńยาà¸ģ":125630,"ãģ¦ãĤĤ":125631,"Ġгод":125632,"ÙĬار":125633,"à¸ķà¸Ńà¸Ļ":125634,"ĠигÑĢ":125635,"à¹Ħà¸Ķà¹īรัà¸ļ":125636,"ĠاÙĦÙħر":125637,"ÙĤت":125638,"Ġëĺ":125639,"ĠëĺIJ":125640,"ẩn":125641,"ãģĻãĤĭãģĵãģ¨":125642,"×Ĵ×Ŀ":125643,"Ġ×ij×ij":125644,"تد":125645,"ÙĪØ§Ø±":125646,"ãĤ®":125647,"пол":125648,"Ġмог":125649,"ترÙĥ":125650,"ÙĪØ«":125651,"Ġçık":125652,"اة":125653,"à¹Ģà¸Ķียว":125654,"มีà¸Ħวาม":125655,"Ġ×ŀ×Ĵ":125656,"صÙģ":125657,"ĠТак":125658,"Ġ×Ľ×ª":125659,"×Ļ×ĵ×Ļ":125660,"овоÑĢ":125661,"ầy":125662,"สิà¹Īà¸ĩ":125663,"بت":125664,"ürü":125665,"ÙĨج":125666,"หลัà¸ģ":125667,"×Ļ×Ķ×Ŀ":125668,"ÙĤص":125669,"зÑĭ":125670,"×Ľ×ª×ij":125671,"ưu":125672,"mız":125673,"ĠìĦ¸":125674,"лог":125675,"ÙħÙĬÙĦ":125676,"ÙĬج":125677,"íĴĪ":125678,"à¸ŀà¸ļ":125679,"หัว":125680,"зна":125681,"רק":125682,"à¹Ĥร":125683,"Ġ×ijס":125684,"ĠBaÅŁkan":125685,"ĠëͰ":125686,"à¸Ńัà¸Ļ":125687,"ีà¹Īยว":125688,"неÑģ":125689,"à¹Ģà¸Ķิà¸Ļ":125690,"ÙĬاÙĨ":125691,"×ķ׾×Ļ":125692,"اخت":125693,"צ×ķת":125694,"ãģĵãģĵ":125695,"ĠاÙĦاÙĨ":125696,"ĠпÑĢоÑĨ":125697,"ãģ¾ãģł":125698,"×Ľ×¡":125699,"ĠاÙĦØ¢":125700,"ÙĬز":125701,"ĠاÙĦدÙĪÙĦ":125702,"ĠíķĺëĤĺ":125703,"ضع":125704,"ê»ĺ":125705,"ÅĽwi":125706,"ยิ":125707,"ãģ¡ãĤĥãĤĵ":125708,"ĠÙħØ´":125709,"à¸ĺี":125710,"ãģ¨ãģį":125711,"׳×Ļ×ķת":125712,"Ġë¯":125713,"Ġ미":125714,"Ġsı":125715,"ëĭĪê¹Į":125716,"Ġпл":125717,"غÙĦ":125718,"à¹ģรà¸ĩ":125719,"بÙĬر":125720,"ãģĤãĤĬãģ¾ãģĽãĤĵ":125721,"ê·¼":125722,"Ġyüz":125723,"ĠdeÄŁer":125724,"åł´åIJĪ":125725,"ỡ":125726,"маÑĤ":125727,"ราà¸Ĭ":125728,"ÙĪØ±ÙĬ":125729,"жен":125730,"ãģ¾ãĤĬ":125731,"ãģ®ä¸Ń":125732,"×Ļ×ĵ×¢":125733,"à¸Ńุ":125734,"à¸ļà¸Ńล":125735,"à¸Ľà¸±à¸įหา":125736,"زÙħ":125737,"ÄŁa":125738,"à¸Ńืà¹Ī":125739,"à¸Ńืà¹Īà¸Ļ":125740,"пл":125741,"ĠнеобÑħодим":125742,"׼×ij":125743,"à¹Ģศ":125744,"קר×Ķ":125745,"ì²ĺ":125746,"볨":125747,"×ŀ×§×ķ×Ŀ":125748,"jÄħc":125749,"ÙĩÙĦ":125750,"Ġ×¢×ij×ķ×ĵ":125751,"à¹Ħมà¹ī":125752,"à¸ģลัà¸ļ":125753,"×ķ׼׾":125754,"×§×ĵ":125755,"اÙĦÙĬØ©":125756,"رÙĩ":125757,"ãģijãĤĮãģ°":125758,"ĠÙĨÙ쨳":125759,"ãĤ¢ãĥ«":125760,"ìĹĪëĭ¤":125761,"×§×ķר":125762,"неÑĢ":125763,"باب":125764,"ãĤ¶":125765,"سبب":125766,"ÙĦÙĬÙĦ":125767,"صÙĨ":125768,"صدر":125769,"ếm":125770,"à¸Ĭà¹Īวà¸ĩ":125771,"ØŃÙĨ":125772,"Ġ×ij×Ĵ":125773,"×ŀ×ķ×¢":125774,"׾×Ĺ":125775,"大ãģį":125776,"تب":125777,"неÑĤ":125778,"×Ļ×ij×Ķ":125779,"бл":125780,"ãĥĹãĥª":125781,"اصة":125782,"ãģ¤ãģij":125783,"×Ļ×ŀ×ķש":125784,"ãģĮãģĤ":125785,"ëĭ´":125786,"ãģĭãĤĤãģĹ":125787,"ãģĭãĤĤãģĹãĤĮ":125788,"ãģ¡ãĤī":125789,"×ij×ĺ":125790,"ĠbaÄŁ":125791,"×Ļ×Ĺס":125792,"×ij×ķ×¢":125793,"ลี":125794,"פע×Ļ׾":125795,"ими":125796,"gÅĤ":125797,"Ġиме":125798,"خداÙħ":125799,"×IJ×Ļר":125800,"Ġyapt":125801,"ãģ¨ãģĦ":125802,"à¸ĩà¹Īาย":125803,"׾×Ļ×ķ":125804,"ØŃدث":125805,"راÙĤ":125806,"ĠÄIJi":125807,"ادر":125808,"ãģĵãģ¨ãĤĤ":125809,"×ij×Ļר":125810,"Ġвз":125811,"ضاÙģ":125812,"ת×ķ׼":125813,"ÑĢом":125814,"رات":125815,"à¹Ģà¸Ĺà¹Īา":125816,"ãģĺãĤĥ":125817,"ãģĿãģĵ":125818,"اجتÙħاع":125819,"à¹īà¸Ńà¸Ļ":125820,"ÙĤÙħ":125821,"본":125822,"Äŀ":125823,"ש×Ļ×ķ":125824,"×ij׳×Ļ":125825,"ìľĦìĽIJ":125826,"à¹ģà¸Ī":125827,"×Ĺ×ķר":125828,"دÙĬÙĨØ©":125829,"تط":125830,"ằm":125831,"òa":125832,"ยà¸Ńà¸Ķ":125833,"Ġëĭ¹":125834,"สุà¸Ĥ":125835,"×ĵר×ļ":125836,"دÙĨ":125837,"سÙĬÙĨ":125838,"ÙĪÙĤÙģ":125839,"ÑĨÑĭ":125840,"гоÑĤов":125841,"еждÑĥ":125842,"à¸ŀวà¸ģ":125843,"اÙĤتص":125844,"اÙĤتصاد":125845,"czÄĻ":125846,"niÄĻ":125847,"ÑĢеб":125848,"ØŃÙĪ":125849,"à¸Ĺà¹Į":125850,"ãĤĪãģŃ":125851,"дж":125852,"à¸ģลà¹Īาว":125853,"دÙĬØ«":125854,"ãĤ³ãĥŁ":125855,"ÙĤÙĪÙħ":125856,"ĠتØŃ":125857,"à¹Ģà¸ķิ":125858,"اÙ쨏":125859,"à¸Īุ":125860,"رÙĬاض":125861,"×ŀש×ļ":125862,"à¹Ĥย":125863,"еÑĢе":125864,"ãģ¿ãģŁãģĦ":125865,"ìĿ´ëĿ¼":125866,"ĠاÙĦÙħÙĪ":125867,"ĠÑģÑĤо":125868,"à¹Ģรà¹ĩว":125869,"ĠдеÑĤ":125870,"ĠÑģдел":125871,"à¹Ģà¸Ĭืà¹Īà¸Ń":125872,"פ׳×Ļ":125873,"ÙĪØ¶ÙĪØ¹":125874,"×ijס":125875,"à¹ģà¸Ķ":125876,"óc":125877,"ริม":125878,"ÑĢад":125879,"ìĪł":125880,"ãĥ¼ãĤº":125881,"ãģ«ãģĬ":125882,"ино":125883,"פ×Ļ׾":125884,"à¸Ĭัà¹Īà¸Ļ":125885,"×Ĺ×ĵש":125886,"à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ":125887,"׳×Ļס":125888,"غرب":125889,"ãĤ¸ãĥ£":125890,"สัà¸ĩ":125891,"à¹Ģà¸Ĺีà¹Ī":125892,"à¹Ģà¸Ĺีà¹Īยว":125893,"ëŁ¼":125894,"à¹ģà¸Ł":125895,"ãĥ¼ãĤ·":125896,"ãĥ¼ãĤ·ãĥ§ãĥ³":125897,"Ġвозмож":125898,"جÙħÙĪØ¹":125899,"×ijר×Ļ×Ŀ":125900,"ãĥĪãĥ©":125901,"ĠкаÑĩеÑģÑĤв":125902,"Ø·ÙĬ":125903,"ÑĤÑı":125904,"צ×ķ×¢":125905,"ģını":125906,"عÙĦÙī":125907,"اذ":125908,"ÙĪØ§ÙĤع":125909,"ÙħÙĪØ§":125910,"ائÙĬÙĦ":125911,"кол":125912,"á»ģm":125913,"à¸ľà¸¥à¸´à¸ķ":125914,"×Ļ׳×ĺר":125915,"سÙĥ":125916,"ש×Ļר":125917,"ศึà¸ģษา":125918,"à¸ļั":125919,"ÑĩаÑģ":125920,"×ķפ×Ķ":125921,"×Ļפ×ķ׾":125922,"ĠاÙĦساب":125923,"رÙĬب":125924,"ĠاÙĦبÙĬ":125925,"ãĤ¹ãĥĨ":125926,"Ñĩен":125927,"à¹ģà¸ľ":125928,"Ġ׳ש":125929,"زÙĬد":125930,"ØŃاد":125931,"ëįĶ":125932,"رÙĪØ¹":125933,"à¸Ĺุà¸Ļ":125934,"สมา":125935,"czeÅĦ":125936,"×Ļ×ĵ×Ķ":125937,"ãģ§ãģĤ":125938,"Ġçocuk":125939,"خب":125940,"à¸ļาย":125941,"à¸Ľà¸£à¸°à¸Ĭา":125942,"×ŀש׾":125943,"ãģªãģĭ":125944,"à¸ģาย":125945,"ãĥģãĥ£":125946,"аÑĢи":125947,"ĠÑĩа":125948,"à¸Ķำ":125949,"à¸Ĺัà¹Īว":125950,"ÑĥÑħ":125951,"Ġöz":125952,"Ġì¢ĭ":125953,"جرÙĬ":125954,"ائÙĤ":125955,"à¸łà¸±à¸¢":125956,"طار":125957,"دارة":125958,"Ä©nh":125959,"Ø«ÙĨ":125960,"zellik":125961,"اÙĦت":125962,"Ġgeli":125963,"ãĥķãĤ©":125964,"олод":125965,"ربع":125966,"שת×ŀש":125967,"à¸ļรร":125968,"íĿ¬":125969,"Ġürün":125970,"Ġê·¸ëłĩ":125971,"ศาสà¸ķรà¹Į":125972,"ãģľ":125973,"×Ļ×ij׾":125974,"ĠпÑĢедÑģÑĤав":125975,"سطÙĬÙĨ":125976,"ãĤĴ使":125977,"ĠпомоÑī":125978,"×ķקר":125979,"ãĥ¯ãĥ¼":125980,"Ġyönet":125981,"×Ļקר":125982,"à¸Ĥา":125983,"еÑĢиал":125984,"ØŃÙģ":125985,"Ġ×Ļצ":125986,"à¸Ĺิ":125987,"売":125988,"à¸Ļà¸Ńà¸ģ":125989,"×ķ׼ר":125990,"íĻľ":125991,"á»§y":125992,"ĠاÙĦÙĤر":125993,"×Ļ×ij×ķת":125994,"ÅĽni":125995,"Ùħشار":125996,"ượt":125997,"ĠÙĦدÙĬ":125998,"ÑĤел":125999,"ĠØ¥ÙĦÙĬ":126000,"عÙĦÙĪÙħ":126001,"ìķĺ":126002,"виÑĤ":126003,"à¸Ħะ":126004,"yrı":126005,"ãģ¨ãģ£ãģ¦":126006,"à¹Ģà¸ī":126007,"à¸ĸาม":126008,"ÙĤار":126009,"عÙĦاÙħ":126010,"ặng":126011,"ÙħÙĴ":126012,"×Ļ×ŀת":126013,"سبة":126014,"ãĤ¯ãĥ©":126015,"×ķסף":126016,"ĠпÑĢин":126017,"ãģĦãĤį":126018,"ساس":126019,"عتبر":126020,"วิà¸Ĺย":126021,"วิà¸Ĺยา":126022,"سÙĥر":126023,"ãĤ·ãĥ§":126024,"ãģģ":126025,"ัà¸ģษ":126026,"×ij×ķ×Ķ":126027,"หย":126028,"ãģ¾ãĤĮ":126029,"ĠоÑĢганиз":126030,"казал":126031,"ĠÑģвÑıз":126032,"uyết":126033,"ĠпÑĢоиз":126034,"Ġ×§×ĺ":126035,"à¹ģà¸ģà¹ī":126036,"пÑĥÑģ":126037,"Ġê·¸ê²ĥ":126038,"ëĬIJ":126039,"лекÑģ":126040,"ãĥ¼ãĥĹ":126041,"à¸ķำ":126042,"ת×Ĺ×Ļ׾":126043,"à¸Ńà¸ĩà¸Ħà¹Į":126044,"ẵ":126045,"׳צ":126046,"أش":126047,"Ø´Ùĩ":126048,"ยะ":126049,"à¸ģà¸İ":126050,"ĠاÙĦإسÙĦاÙħ":126051,"едÑĮ":126052,"ãģ²ãģ¨":126053,"ëıĦë¡Ŀ":126054,"ãģ©ãģ®":126055,"Ñĥв":126056,"еÑĩение":126057,"ĠاÙĦتج":126058,"ãģ«è¡Į":126059,"Ġпозв":126060,"ãĤıãĤĬ":126061,"ÙĦاث":126062,"íķĺìĺĢ":126063,"ĠмаÑĢ":126064,"ĠkonuÅŁ":126065,"ãĥ¬ãĤ¹":126066,"ãĤĴæĮģ":126067,"ĠоÑģнов":126068,"×Ĺ×ij":126069,"ÙĪØ¬ÙĪØ¯":126070,"פ×ķף":126071,"воÑĢ":126072,"Ġник":126073,"ãģĭãĤĭ":126074,"ÅŁtırma":126075,"×Ļס×ĺ":126076,"Ø£ÙĦ":126077,"หà¹Į":126078,"иона":126079,"лÑĮн":126080,"ĠгоÑģ":126081,"ĠÐľÐ¾Ñģк":126082,"ÑĢоб":126083,"×ķ×IJ×Ļ":126084,"ãģĬãĤĬãģ¾ãģĻ":126085,"ãģ£ãģ±":126086,"кл":126087,"à¸Ļà¸Ķà¹Į":126088,"رÙĬÙģ":126089,"اسب":126090,"ĠÑĢеÑĪ":126091,"Ġдол":126092,"ãģ¹ãģį":126093,"×Ļ×ij×ķר":126094,"меÑī":126095,"ĠнаÑĪ":126096,"à¹ģà¸Ľà¸¥":126097,"ÑĢиÑĤ":126098,"кÑĥÑģ":126099,"иÑĢа":126100,"аÑĤÑĥÑĢ":126101,"ÙĪØ§ØµÙĦ":126102,"à¹Ģà¸ľà¸¢":126103,"à¸Ńำ":126104,"à¹Ģà¸ģิà¸Ļ":126105,"غÙħ":126106,"ãģĻãģİ":126107,"lıkl":126108,"ÅĦsk":126109,"견":126110,"×Ļ׼×Ķ":126111,"×Ĺש×ij":126112,"ÙĪØ±ÙĬØ©":126113,"ĠдейÑģÑĤв":126114,"×Ĺ׾×ĺ":126115,"Ġ׾×ŀ×¢":126116,"צ׾×Ļ×Ĺ":126117,"еÑĩа":126118,"ÙģØ§Ø¹":126119,"×Ĵ×Ļ×ĵ":126120,"áºŃm":126121,"ÄĻb":126122,"شع":126123,"ãģıãĤĬ":126124,"à¸ŀุ":126125,"едеÑĢ":126126,"à¸Ĥà¸Ļ":126127,"à¸Ħาร":126128,"ĠболÑĮÑĪ":126129,"ãģıãģªãĤĬ":126130,"à¸ĵา":126131,"×ĵ×ķ×Ĵ":126132,"Ġмн":126133,"ä¸ĬãģĮ":126134,"ç¶ļãģį":126135,"ฤษ":126136,"à¸Ĩ":126137,"Ø®ÙĬ":126138,"à¹Ģà¸Ĺà¸ŀ":126139,"สัม":126140,"à¹Ģสà¸Ļ":126141,"à¹Ģสà¸Ļà¸Ń":126142,"ãĥ´":126143,"ĠиÑģÑĤ":126144,"باشر":126145,"ĠÑĥÑĢов":126146,"×ŀ×ķ×ĸ":126147,"abı":126148,"waż":126149,"×ķצ×IJ×Ķ":126150,"ÑĤвеÑĢ":126151,"à¸ŀัà¸Ļà¸ĺà¹Į":126152,"׳×Ĵ×ĵ":126153,"ãĤĭãģĵãģ¨ãģĮãģ§ãģį":126154,"ĠÑĤÑĢеб":126155,"à¸ģรุà¸ĩ":126156,"ØŃتاج":126157,"à¹Ģà¸Ħล":126158,"ãĨ":126159,"ÄĻtr":126160,"Ġszczeg":126161,"Ġרש":126162,"à¸Ĺà¸ĺ":126163,"Ġнек":126164,"ĠнекоÑĤоÑĢ":126165,"вÑĪ":126166,"Ь":126167,"à¹Īวย":126168,"ลุ":126169,"бÑĢÑı":126170,"หมูà¹Ī":126171,"à¹ģà¸ķà¸ģ":126172,"ר׼×Ļ×Ŀ":126173,"Ġíĸī":126174,"ãi":126175,"Ùĥرة":126176,"âŃ":126177,"íIJ":126178,"ãį":126179,"áģ":126180,"â®":126181,"â¥":126182,"ì®":126183,"à¿":126184,"â¿":126185,"áĤ":126186,"á¤":126187,"âł":126188,"íŁ":126189,"ðIJį":126190,"ðIJ°":126191,"ðĿĨ":126192,"ðŁĪ":126193,"Ġ×¢×ľ":126194,"ĠعÙĨ":126195,"ĠÙħع":126196,"Ġ×ĸ×Ķ":126197,"ĠÙħا":126198,"ĠmÃł":126199,"Ġdụ":126200,"á»ĩc":126201,"аÑħ":126202,"sı":126203,"íķĺê³ł":126204,"Ġ×ķ×ij":126205,"ĠÐŁÐ¾":126206,"×ķתר":126207,"ĠÙĦÙħ":126208,"Ġ×ķ׾":126209,"ãģĹãģ¦ãģĦãĤĭ":126210,"Ġ×ŀ×Ļ":126211,"ĠبÙĬÙĨ":126212,"за":126213,"ĠÙĥاÙĨ":126214,"Ġ×Ķ×Ļ×Ķ":126215,"ëħĦ":126216,"×IJ×ķ":126217,"ди":126218,"ĠпеÑĢе":126219,"dı":126220,"Ġ׾ש":126221,"Ġש×ŀ":126222,"ãģĮãģĤãĤĭ":126223,"ãģĦãģĦ":126224,"ÑĢе":126225,"×§×ķ":126226,"или":126227,"ме":126228,"ÙĬت":126229,"ãģ§ãģĤãĤĭ":126230,"Ġво":126231,"à¹ĥหม":126232,"à¹ĥหมà¹Ī":126233,"Ġש×ij":126234,"Ġà¹Ĥà¸Ķย":126235,"ÙĬÙĩ":126236,"ãģ§ãģĻãģĮ":126237,"ãģ¨ãģ¯":126238,"ר×ķ":126239,"Ġà¸ĭึà¹Īà¸ĩ":126240,"ãģ§ãģįãĤĭ":126241,"мо":126242,"à¹Ģà¸ŀืà¹Īà¸Ń":126243,"צ×ķ":126244,"×ĺ×ķ":126245,"ìķĪ":126246,"Ġhá»į":126247,"à¹Ģà¸ĩิà¸Ļ":126248,"ĠاÙĦب":126249,"Ġมี":126250,"물":126251,"Ñģе":126252,"ëĵ¤ìĿ´":126253,"Ġë§IJ":126254,"ĠlỼ":126255,"aÅĤ":126256,"×Ĺ×ijר":126257,"Ġdá»±":126258,"ÙĬØ«":126259,"Ġthá»ĭ":126260,"à¸ģà¹Īà¸Ńà¸Ļ":126261,"Ġ×ij׼׾":126262,"ãģ¸":126263,"ã썿ĢĿãģĦãģ¾ãģĻ":126264,"ảnh":126265,"ยา":126266,"Ù쨧":126267,"สี":126268,"à¸ķา":126269,"ë²ķ":126270,"ãĥªãĥ¼":126271,"ราà¸Ħา":126272,"Ġ×ķ׾×IJ":126273,"ãģ¨ãģĵãĤį":126274,"à¹Ģลืà¸Ń":126275,"diÄŁi":126276,"ÙĪØ§ÙĨ":126277,"Ġ׾×Ķת":126278,"รวม":126279,"פ×Ļ×Ŀ":126280,"à¸ľà¸¡":126281,"жи":126282,"cı":126283,"ÑĢод":126284,"ĠkarÅŁÄ±":126285,"×Ĵ×ķ":126286,"ãģ«ãģ¤":126287,"ãģ«ãģ¤ãģĦãģ¦":126288,"rÃł":126289,"×Ļ×ķתר":126290,"ĠìĨĮ":126291,"×§×Ķ":126292,"ÑģÑĤво":126293,"ãģijãģ©":126294,"gé":126295,"à¸Ķà¹īาà¸Ļ":126296,"çļĦãģ«":126297,"ĠÙĬÙħÙĥÙĨ":126298,"ìĨį":126299,"ÙĬÙĥ":126300,"à¹Ħวà¹ī":126301,"Ñģкий":126302,"ìm":126303,"Ġ׾×IJ×Ĺר":126304,"à¸Ńาหาร":126305,"Ġà¹Ģà¸ŀ":126306,"ราะ":126307,"ลูà¸ģ":126308,"ÑģÑĤа":126309,"Ġìľł":126310,"ÙĤÙĪÙĦ":126311,"боÑĢ":126312,"Ñģкого":126313,"หลัà¸ĩ":126314,"à¸Ĥà¹Īาว":126315,"à¹Ģมืà¸Ńà¸ĩ":126316,"ê°ģ":126317,"tÃł":126318,"ÙĬÙĬÙĨ":126319,"عرض":126320,"ë°©":126321,"ĠëıĻ":126322,"Ġà¹Ģà¸Ľ":126323,"Ġà¹Ģà¸Ľà¹ĩà¸Ļ":126324,"çi":126325,"liÄŁi":126326,"ìĹIJê²Į":126327,"ãĤ¿ãĥ¼":126328,"Ġ×ľ×ª":126329,"פ×ķת":126330,"à¸Ĥà¸Ń":126331,"رس":126332,"ìłIJ":126333,"à¸ľà¹Īาà¸Ļ":126334,"ÑĦи":126335,"جÙĨ":126336,"ì¢ħ":126337,"Ġ×Ķפ":126338,"Ġngo":126339,"á»ĭa":126340,"Ġtá»ķ":126341,"Ġ그리":126342,"à¹Ģมืà¹Īà¸Ń":126343,"ذÙĥر":126344,"ìĸij":126345,"ìĹŃ":126346,"×ĺ׾":126347,"kı":126348,"ĠعÙħÙĦ":126349,"ĠعÙĨد":126350,"à¸ĭืà¹īà¸Ń":126351,"Ġê±°":126352,"ве":126353,"rü":126354,"à¹Ģà¸Ńา":126355,"สà¹Į":126356,"à¸Īà¸Ļ":126357,"סת":126358,"Ġgiả":126359,"ãĤĭãģ¨":126360,"à¸ģำลัà¸ĩ":126361,"ней":126362,"à¸Īริ":126363,"à¸Īริà¸ĩ":126364,"Ġëį":126365,"ĠëįĶ":126366,"à¸Ħà¹Īะ":126367,"ìn":126368,"Ġsüre":126369,"Ġquy":126370,"à¸ļาà¸ĩ":126371,"åıĸãĤĬ":126372,"ר×Ĺ":126373,"×ijת":126374,"ãģĮãģĤãĤĬãģ¾ãģĻ":126375,"רש":126376,"ìĹIJëĬĶ":126377,"Ġ×IJפשר":126378,"ayı":126379,"ãģĮãĤī":126380,"ØŃب":126381,"анÑģ":126382,"سÙĪ":126383,"ĠпÑĢе":126384,"دÙĪ":126385,"ãģ«ãĤĪ":126386,"à¹Ģà¸ģม":126387,"สูà¸ĩ":126388,"makt":126389,"maktad":126390,"maktadır":126391,"Ġönem":126392,"×Ļ×ŀ×Ļ×Ŀ":126393,"бо":126394,"ÙĪÙĬØ©":126395,"à¸£à¸¹à¸Ľ":126396,"à¹Ĥลà¸ģ":126397,"ÙħÙĬع":126398,"ÑģÑĤÑĥп":126399,"à¹Ĥà¸Ń":126400,"دÙĬÙĨ":126401,"ì¤ij":126402,"ãģĹãģı":126403,"à¹Ģสีย":126404,"вÑĭ":126405,"Ùħت":126406,"íĺĦ":126407,"ãĥIJãĥ¼":126408,"اش":126409,"קס":126410,"Ġtụ":126411,"ลà¸Ķ":126412,"Ù쨩":126413,"íijľ":126414,"رج":126415,"kÅĤad":126416,"ĠÅŁey":126417,"ĠØ£Ùħ":126418,"Ġà¹Ģม":126419,"ĠبÙĦ":126420,"ÑģкаÑı":126421,"ãģ¨ãģ®":126422,"Ġìĭ¤":126423,"ấm":126424,"หà¹īà¸Ńà¸ĩ":126425,"à¸Ĭม":126426,"dü":126427,"Ġçek":126428,"Ġê³ł":126429,"×Ĵ×ij":126430,"à¸Ĭีวิ":126431,"à¸Ĭีวิà¸ķ":126432,"Ù쨶ÙĦ":126433,"ฯ":126434,"çı":126435,"Ġبش":126436,"ĠÙĩÙĨا":126437,"ãģįãģ¾ãģĹãģŁ":126438,"tü":126439,"Ġìĺģ":126440,"ĠTürk":126441,"кÑĤ":126442,"פרס":126443,"ãģ¨ãģĦãģĨãģĵãģ¨":126444,"íĶĦ":126445,"à¹ģรà¸ģ":126446,"ר×ķף":126447,"Ġaras":126448,"×ŀצ×IJ":126449,"Ġtá»ī":126450,"سا":126451,"à¸ŀà¸Ń":126452,"ĠاÙĦÙħØŃ":126453,"ãĥ¤":126454,"ĠاÙĦاست":126455,"ÙģÙĨ":126456,"×Ļ×ŀ×Ķ":126457,"رت":126458,"ãģ¨ãĤĤ":126459,"ĠнаÑģ":126460,"пÑĢи":126461,"Ġ×Ĺ×ķ":126462,"ила":126463,"ÙĬØ´":126464,"Ġgöz":126465,"Ġ×ij׳×Ļ":126466,"ımı":126467,"ĠÑĤеÑħ":126468,"Ġhá»Ļ":126469,"غر":126470,"кон":126471,"اØŃت":126472,"Ġà¸ŀ":126473,"à¸Ńà¸Ńà¸Ļ":126474,"à¸Ńà¸Ńà¸Ļà¹Ħล":126475,"à¸Ńà¸Ńà¸Ļà¹Ħลà¸Ļà¹Į":126476,"Ñħо":126477,"Ñıв":126478,"à¹ģสà¸Ķ":126479,"à¹ģสà¸Ķà¸ĩ":126480,"à¹Ģà¸ŀียà¸ĩ":126481,"ÑĤов":126482,"اÙĬ":126483,"Ġ×Ķ×ĵ":126484,"Ġ×ķ׼":126485,"ãĤīãģĦ":126486,"×ķפף":126487,"Ġë¶Ī":126488,"ลà¸Ńà¸ĩ":126489,"طاÙĦ":126490,"Ġни":126491,"ĠÙħست":126492,"ếc":126493,"Ġש׼":126494,"ĠëķĮ문":126495,"วัà¸Ļà¸Ĺีà¹Ī":126496,"×Ļ׾×ĵ":126497,"ØŃا":126498,"еÑĨ":126499,"Ġcứ":126500,"×ĵ×ķר":126501,"ĠÙħØŃ":126502,"ר׼×ij":126503,"بÙĬع":126504,"нии":126505,"ĠاÙĦØ£ÙĪÙĦ":126506,"à¸Ħวร":126507,"ã썿ĢĿãģĨ":126508,"ĠСо":126509,"ائÙĬØ©":126510,"راء":126511,"оÑģоб":126512,"ĠبأÙĨ":126513,"×¢×ķ×ĵ":126514,"ĠÑĤе":126515,"ãģĵãģĨ":126516,"ÑģÑĤÑĢа":126517,"айн":126518,"Ġsöz":126519,"تÙĨا":126520,"à¸Ńิ":126521,"ặp":126522,"ĠìķĦëĭĪ":126523,"íķŃ":126524,"Ġר×IJש":126525,"Ġà¹Ħà¸Ķà¹ī":126526,"Ġ×Ĵ×ĵ":126527,"Ġספר":126528,"обÑīе":126529,"ĠÙĪØ¥":126530,"adaÅŁ":126531,"ãģ¡ãĤĩ":126532,"×§×ķ׾":126533,"ÑĢез":126534,"ĠdÃ¼ÅŁÃ¼n":126535,"Ġ×ij×IJ×ŀ":126536,"Ġìĸ´ëĸ":126537,"ער×ij":126538,"нее":126539,"ĠÑģÑĤÑĢан":126540,"ساÙĨ":126541,"ynı":126542,"ĠاÙĦرئÙĬس":126543,"ãģĹãģª":126544,"Ġ×ł×ª":126545,"ãģ«ãģªãģ£ãģŁ":126546,"gü":126547,"åıĹãģij":126548,"×ľ×ª":126549,"ìłĪ":126550,"ëĬĶëį°":126551,"Ø®ÙĬر":126552,"à¸ķà¹īà¸Ńà¸ĩà¸ģาร":126553,"ĠÙĦØ£ÙĨ":126554,"Ġchá»ĭ":126555,"ÙĪØ©":126556,"à¹ĥส":126557,"ë¶ĢíĦ°":126558,"íķĺë©´":126559,"ữu":126560,"à¹Ģหมืà¸Ńà¸Ļ":126561,"беÑĢ":126562,"ĠìĿ´ìļ©":126563,"ĠÑģеб":126564,"wiÄĻks":126565,"Ġ×ł×¢":126566,"ÑĤÑĥÑĢ":126567,"ĠnghÄ©":126568,"ש×ķ×ĺ":126569,"tiÄŁi":126570,"ĠdeÄŁi":126571,"×IJ×ij":126572,"Ġ×ŀ×ŀ":126573,"ãĥĹãĥŃ":126574,"waÅĤ":126575,"à¸Īึà¸ĩ":126576,"خدÙħ":126577,"×IJ×Ŀ":126578,"Ä±ÅŁÄ±":126579,"czÄħ":126580,"ר×ĵ":126581,"ĠÑĢÑĥб":126582,"خرÙī":126583,"ã쮿ĸ¹":126584,"ĠденÑĮ":126585,"×Ĺ×Ļ×Ŀ":126586,"еÑĤе":126587,"ëĤľ":126588,"×IJ×Ĵ":126589,"×¢×ķר":126590,"ë³Ħ":126591,"åIJĮãģĺ":126592,"ãĤ²":126593,"ר×ļ":126594,"×ķש×IJ":126595,"ìľ¡":126596,"اخ":126597,"צ×Ļ×Ķ":126598,"á»±a":126599,"ãģĪãģ¦":126600,"ש×Ķ×ķ":126601,"анÑĤ":126602,"ลาà¸Ķ":126603,"инг":126604,"ë¡ł":126605,"اعد":126606,"ÙĪØ³Ø·":126607,"Ġвоп":126608,"ĠвопÑĢоÑģ":126609,"ÙħÙĬÙĨ":126610,"à¸Ħà¸ĩ":126611,"×Ļר×Ļ×Ŀ":126612,"ców":126613,"격":126614,"Ġê·¸ëŁ°":126615,"Ġì§Ħ":126616,"Ġש׾×Ķ":126617,"à¹Ģริà¹Īม":126618,"à¸Ĭà¸Ńà¸ļ":126619,"деÑĤ":126620,"ÑİÑīиÑħ":126621,"à¸ļà¸Ńà¸ģ":126622,"æĢĿãģĦ":126623,"عÙĬد":126624,"ס×ŀ":126625,"×Ĵ×Ļ×¢":126626,"צ×ĵ":126627,"بات":126628,"ĠëͰëĿ¼":126629,"à¸Īัà¸ĩ":126630,"ãģłãģijãģ§":126631,"×¢×Ļר":126632,"ĠÑĩел":126633,"ĠÑĩелов":126634,"ĠÑĩеловек":126635,"ãĥĥãĥģ":126636,"à¹Ģà¸ģีà¹Īยว":126637,"à¸Ķิ":126638,"Ġפע":126639,"×Ļ×ŀ×Ļ":126640,"ë°ĺ":126641,"خار":126642,"×ij×Ļת":126643,"×¢×Ļ×Ŀ":126644,"üyor":126645,"ãĤģãģ¦":126646,"клад":126647,"Ġà¸Īาà¸ģ":126648,"à¹Ģà¸Ħย":126649,"สà¸Ńà¸ĩ":126650,"à¹ģà¸Ħà¹Ī":126651,"ẫu":126652,"หà¸Ļัà¸ĩ":126653,"ש׾×ķ×Ŀ":126654,"اÙĨÙĬØ©":126655,"åĩºä¼ļ":126656,"åĩºä¼ļãģĦ":126657,"à¸łà¸²à¸¢":126658,"à¸ļาà¸Ĺ":126659,"à¸Ĭาว":126660,"muÅŁ":126661,"Ġ׾ק×ij׾":126662,"ãĤ·ãĥ£":126663,"ĠÄ°ÅŁ":126664,"×Ĵ×ĵ×ķ׾":126665,"جعÙĦ":126666,"ë³Ģ":126667,"ยิà¹Īà¸ĩ":126668,"à¸Ļาย":126669,"à¸Ļีà¹Ī":126670,"วิà¸ĺี":126671,"ãĤīãģªãģĦ":126672,"ëłĪ":126673,"Ġë¬¸ìłľ":126674,"Ġà¸ģ":126675,"à¸Ĺำà¸ĩาà¸Ļ":126676,"à¹Ģวà¹ĩà¸ļ":126677,"ÑĦе":126678,"楽ãģĹ":126679,"สำà¸Ħ":126680,"สำà¸Ħัà¸į":126681,"رÙħ":126682,"ãģķãĤĮãģ¦":126683,"Ġобла":126684,"ר×IJ×Ļ":126685,"หมà¸Ķ":126686,"ÙĨÙĬØ©":126687,"лин":126688,"ĠeÄŁ":126689,"itim":126690,"ëł¹":126691,"صاÙĦ":126692,"ÅĽl":126693,"à¸ľà¸´à¸Ķ":126694,"ãĥŀãĥ³":126695,"åħ¥ãĤĮ":126696,"à¹Ģà¸ķà¸Ńรà¹Į":126697,"ارÙĬ":126698,"ĠЦ":126699,"dür":126700,"สวย":126701,"립":126702,"رÙĥØ©":126703,"Ġhã":126704,"×Ļת×Ķ":126705,"à¸Ĥà¸Ļา":126706,"à¸Ĥà¸Ļาà¸Ķ":126707,"à¸Īำà¸Ļ":126708,"à¸Īำà¸Ļวà¸Ļ":126709,"ש×ķ×§":126710,"Ġдом":126711,"ì±ħ":126712,"ãģĭãģij":126713,"פ×ķ׾":126714,"à¸Ĭาย":126715,"ÑģмоÑĤÑĢ":126716,"ÑģлÑĥж":126717,"ש×IJ׾":126718,"кÑĢÑĭÑĤ":126719,"Ġìŀĺ":126720,"é«ĺãģĦ":126721,"ĠÑĢÑĥк":126722,"ÙĨص":126723,"дав":126724,"ưỡ":126725,"ưỡng":126726,"راÙħ":126727,"×Ļ׳×Ļ×Ŀ":126728,"ãĥ©ãĥ¼":126729,"ëĦ¤":126730,"Ġتع":126731,"lke":126732,"好ãģį":126733,"æĮģãģ¡":126734,"Ġë§İ":126735,"Ġyük":126736,"ĠÑģоÑģÑĤав":126737,"енÑĤÑĢ":126738,"peÅĤ":126739,"à¹Ģà¸Ľà¸¥à¸µà¹Īย":126740,"à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļ":126741,"íıī":126742,"ãĤĦãģĻ":126743,"×Ĺ×ĸ":126744,"×ijר×Ķ":126745,"루":126746,"ìĶĢ":126747,"بØŃØ«":126748,"à¹Ģà¸ķà¹ĩ":126749,"ówi":126750,"بÙĩ":126751,"ãģįãģ¾ãģĻ":126752,"Ġ×¢×ŀ":126753,"×Ĵ×ķ׾":126754,"езд":126755,"ÙĬÙ쨩":126756,"สà¸Ļà¹ĥà¸Ī":126757,"Ġ×ª×ľ":126758,"ÑıÑī":126759,"ĠسÙĨ":126760,"ĠÙĪØ§ØŃد":126761,"ĠÑģм":126762,"ladı":126763,"ıld":126764,"×Ļרת":126765,"ียà¸Ļ":126766,"ת×Ĺת":126767,"Ġжиз":126768,"à¸ŀั":126769,"à¸ŀัà¸Ĵ":126770,"à¸ŀัà¸Ĵà¸Ļา":126771,"à¸Ĭิ":126772,"اخÙĦ":126773,"ãģ£ãģ¦ãģĦãģŁ":126774,"รัà¸IJ":126775,"ãĤģãĤĭ":126776,"à¹Ĥà¸ģ":126777,"ĠTá»ķ":126778,"Ġhakk":126779,"رÙģ":126780,"ìłĢ":126781,"Ñģоб":126782,"ãģªãģijãĤĮãģ°":126783,"ÙĩÙĪ":126784,"Ġë²ķ":126785,"ãĤĨ":126786,"ĠاÙĦسعÙĪØ¯":126787,"Ġ×IJתר":126788,"اغ":126789,"Ġ׾×ĵ":126790,"à¹ģà¸ķ":126791,"à¹ģà¸ķà¹Īà¸ĩ":126792,"íĮĮ":126793,"ÑĥпиÑĤÑĮ":126794,"à¸ŀืà¹īà¸Ļà¸Ĺีà¹Ī":126795,"×ijת×Ļ":126796,"à¹ĩà¸ģ":126797,"ÅĤat":126798,"Ġê°ľìĿ¸":126799,"ìłķë³´":126800,"ÑĤал":126801,"Ġgüven":126802,"Ġİl":126803,"Ġê°ģ":126804,"Ġبت":126805,"×ŀ×ķ׳×Ķ":126806,"ĠاÙĦØŃÙĥÙĪÙħ":126807,"ÙĤات":126808,"à¹ģà¸ģà¹Ī":126809,"หาà¸ģ":126810,"нÑĮ":126811,"à¸Ľà¸£à¸±à¸ļ":126812,"มาà¸ĵ":126813,"ĠнеÑģк":126814,"Ġض":126815,"สมั":126816,"สมัà¸Ħร":126817,"ãģĮãģĤãĤĬ":126818,"меÑģÑĤ":126819,"Ġ×IJצ׾":126820,"Ġкомпани":126821,"סר":126822,"ÙĬÙħØ©":126823,"ĠÑħоÑĢо":126824,"ĠÑħоÑĢоÑĪ":126825,"Ġ×Ļ×ķ×ĵ":126826,"üs":126827,"×Ĵ×Ļש":126828,"à¸ļà¸Ĺ":126829,"تÙĨظ":126830,"วาà¸ĩ":126831,"มหา":126832,"Ġ׼×ķ׾":126833,"à¸Ĥà¹īาà¸ĩ":126834,"ë°ľ":126835,"год":126836,"дан":126837,"ãģĭãĤĤãģĹãĤĮãģ¾ãģĽãĤĵ":126838,"ãģĵãģ¡ãĤī":126839,"ãĥIJãĤ¤":126840,"eceÄŁi":126841,"دÙĬدة":126842,"ÙĨÙī":126843,"Ġëĭ¤ìĿĮ":126844,"วี":126845,"غا":126846,"лиз":126847,"à¹Ģà¸Ķิ":126848,"à¹Ģà¸Ķิม":126849,"ĠÙĬست":126850,"Ġyılı":126851,"koÅĦ":126852,"ãģ§ãģĹãĤĩãģĨãģĭ":126853,"ãģĤãģª":126854,"ãģĤãģªãģŁ":126855,"ÑĨен":126856,"ĠÙĪØ²":126857,"×IJ×Ļש":126858,"à¹Īà¸Ń":126859,"رØŃ":126860,"ê´ij":126861,"ÑĢаÑģÑĤ":126862,"Ġ×Ķ׾":126863,"ãģĹãģ¦ãĤĤ":126864,"×ŀר׼":126865,"×ŀר׼×ĸ":126866,"éģķãģĦ":126867,"ãģŁãģı":126868,"ĠÑģÑĥд":126869,"веÑģÑĤи":126870,"ĠíķĦìļĶ":126871,"ãĥķãĤ§":126872,"ÑĤелÑĮно":126873,"à¹Ģà¸ŀืà¹Īà¸Ńà¸Ļ":126874,"ÅĤuż":126875,"à¹Ģà¸Ķิà¸Ļà¸Ĺาà¸ĩ":126876,"ש×ķר":126877,"Ġ×ŀ×ĵ":126878,"×ķ×¢×ľ":126879,"ÙĦاÙħ":126880,"à¹Ħà¸ĭ":126881,"лей":126882,"кÑĥÑĢ":126883,"Ả":126884,"à¸Ĺาà¸Ļ":126885,"ì§ij":126886,"ĠгоÑĢод":126887,"רס":126888,"׾×ķ×Ĵ":126889,"masını":126890,"ĠлÑĥÑĩ":126891,"ลà¹Īา":126892,"ìļ¸":126893,"ש×ĺ":126894,"ĠÐĺн":126895,"íĤ¤":126896,"ÙĪÙĦا":126897,"ìķł":126898,"ĠØ£ÙĬضا":126899,"Ùĥار":126900,"ĠاÙĦتع":126901,"สูà¹Ī":126902,"ãĤ¼":126903,"×ij×Ļ×IJ":126904,"ยà¸ģ":126905,"ĠØŃÙĤ":126906,"ربÙĬ":126907,"ãģĺãĤĥãģªãģĦ":126908,"รัà¸ģษา":126909,"ÑħодиÑĤ":126910,"à¸ķà¸Ńà¸ļ":126911,"׳×ĺ×Ļ":126912,"ĠاÙĦÙħج":126913,"تÙħع":126914,"оваÑĤÑĮ":126915,"ÙĦÙĬÙĨ":126916,"×Ļ×ŀ×ķת":126917,"Ġmù":126918,"nÄĻ":126919,"ĠدÙĬ":126920,"׼ש×Ļ×ķ":126921,"Ġhiç":126922,"ëijIJ":126923,"ÙĪØ§Ø¡":126924,"ÙĪØ·":126925,"ĠاÙĦبÙĦ":126926,"à¹ģมà¹ī":126927,"×§×ķת":126928,"ÙĪØ¬Ø¯":126929,"å§ĭãĤģ":126930,"ÙĬئة":126931,"Ġ매":126932,"صبØŃ":126933,"פ×IJ":126934,"гоÑĢ":126935,"ס×Ķ":126936,"بÙĬÙĤ":126937,"ยาà¸ģ":126938,"Ġнад":126939,"ÙĬÙij":126940,"ĠبÙĪ":126941,"ס×ķר":126942,"ÙħÙĥاÙĨ":126943,"ר×ij":126944,"×Ĵ×ĸ":126945,"צת":126946,"bilit":126947,"лаг":126948,"ĠNgo":126949,"×IJ×ķר":126950,"à¸ķà¸Ļ":126951,"íĬ¹":126952,"à¸Ĺีà¹Īà¸Ķี":126953,"à¸Ľà¸£à¸°à¸Īำ":126954,"ование":126955,"ãģĦãģ¤":126956,"ãĥĥãĤ¯ãĤ¹":126957,"åIJĪãĤı":126958,"åIJĪãĤıãģĽ":126959,"×Ļ׳×ķ×Ļ":126960,"ạy":126961,"Ø«ÙĤ":126962,"ĠпÑĢоб":126963,"ĠпÑĢоблем":126964,"ÅŁeh":126965,"ÅŁehir":126966,"عادة":126967,"اÙĨÙĪÙĨ":126968,"à¸ķัวà¹Ģà¸Ńà¸ĩ":126969,"ì¶ķ":126970,"ılan":126971,"бан":126972,"ãĥ³ãĥī":126973,"à¸Īี":126974,"Ġ×Ķש׳×Ļ":126975,"поÑĤ":126976,"×ķ׾×Ļ×Ŀ":126977,"ลัà¸ļ":126978,"ĠÑįÑĤи":126979,"×ijקש":126980,"ë¹ĦìĬ¤":126981,"à¸Ńยà¹Īาà¸ĩà¹Ħร":126982,"×Ļ׾×Ļ":126983,"à¹ĥà¸Ĭà¹Ī":126984,"ĠاÙĦÙĥÙĦ":126985,"ãĥļãĥ¼ãĤ¸":126986,"صة":126987,"ÑĤиÑĢ":126988,"ãĤĵãģ©":126989,"зÑĭк":126990,"wyż":126991,"ÙĩÙĬ":126992,"ĠÙħÙĦÙĬ":126993,"Ġвиде":126994,"ظاÙħ":126995,"داÙĪÙĦ":126996,"×ŀת×Ļ":126997,"Ġsık":126998,"à¹Ģà¸ķิม":126999,"ãĤ¢ãĤ¤":127000,"каÑħ":127001,"צ×Ļ׾":127002,"à¹Ģà¸Ĭà¹Īà¸Ļ":127003,"маг":127004,"магаз":127005,"магазин":127006,"à¸Ľà¸±":127007,"à¸Ľà¸±à¸Ī":127008,"Ġש×Ļר×ķת":127009,"ียม":127010,"ãĥĸãĥ«":127011,"ĠدÙĪÙĦ":127012,"קר×Ļ×Ŀ":127013,"ÙĩÙı":127014,"ово":127015,"Ġüret":127016,"دÙĪÙĨ":127017,"à¹ģà¸Ļว":127018,"à¹Ģà¸Ļืà¹īà¸Ń":127019,"ĠÑĦоÑĤ":127020,"ãĥĺ":127021,"ãģ¤ãģĭ":127022,"ÑıÑģ":127023,"ĠíķĺëĤĺëĭĺ":127024,"ائع":127025,"ĠплаÑĤ":127026,"ìĺĪ":127027,"ĠdostÄĻp":127028,"ÙĪØ¬Ùĩ":127029,"Ġ×Ķ×Ĺ×Ļ":127030,"׳×Ļ×§":127031,"дей":127032,"íĽĦ":127033,"ıy":127034,"بØŃر":127035,"à¹Ģสริม":127036,"Ġ׾×Ĵ":127037,"ذÙĩب":127038,"جÙĬÙĦ":127039,"رÙĥز":127040,"Ġëħ":127041,"Ġëħ¸":127042,"פ×Ļ׾×ķ":127043,"ãģ¾ãģļ":127044,"iriÅŁ":127045,"ĠÙĥÙĬÙģ":127046,"Ġ×ijצ":127047,"ĠêµIJ":127048,"ÑĢоÑģÑģ":127049,"ĠØ´ÙĬ":127050,"Ġiçer":127051,"×Ĵ×ķ×ij×Ķ":127052,"менно":127053,"×¢×ij×Ļר":127054,"×ķ×ŀ×Ķ":127055,"ãĤīãģĹãģĦ":127056,"ãģ¼":127057,"Ñīин":127058,"è²·ãģĦ":127059,"جÙħÙĪØ¹Ø©":127060,"Ġdönem":127061,"Ġ×ij×IJר":127062,"веÑģÑĤ":127063,"×ķר×ķת":127064,"سÙģ":127065,"à¹ģà¸Ĺà¸Ļ":127066,"ĠдокÑĥменÑĤ":127067,"ĠاÙĬ":127068,"جاÙĨ":127069,"צ×ķ×¢×Ļ":127070,"ĠоÑģоб":127071,"ĠاÙĦÙħس":127072,"ÑĢаб":127073,"à¸łà¸¹":127074,"à¸Ķาว":127075,"лекÑĤ":127076,"عÙĤ":127077,"×ķ×ĵ×ķת":127078,"Ġolu":127079,"ĠoluÅŁtur":127080,"ãģ¾ãģ¾":127081,"един":127082,"à¹Ģà¸Ńà¸ģ":127083,"ãĤµãĤ¤":127084,"ëĦĪ":127085,"Ø·ÙĨÙĬ":127086,"Ø·ÙĤØ©":127087,"ĠÐłÐ°Ð·":127088,"ÙĦÙij":127089,"Ñĩем":127090,"Ġ׾×ĺ":127091,"สัà¹Īà¸ĩ":127092,"سرائÙĬÙĦ":127093,"Ġפר×ĺ×Ļ":127094,"деÑģÑĮ":127095,"Ġ׳׼":127096,"اÙĨب":127097,"ÙĬاة":127098,"Ùħبر":127099,"Ġkı":127100,"à¸Ľà¸ı":127101,"à¸Ľà¸ıิ":127102,"à¸ļัà¸ķิ":127103,"×ł×ª×Ļ":127104,"ìĨ¡":127105,"راب":127106,"à¹ĥà¸ķ":127107,"à¹ĥà¸ķà¹ī":127108,"×Ļ×ł×ª":127109,"ÙĪÙĬر":127110,"Ġ×Ķ×ŀ×Ļ":127111,"ейÑĩаÑģ":127112,"×§×ķ×ij":127113,"دراس":127114,"ĠÙħÙĤ":127115,"رÙĬÙĨ":127116,"خاص":127117,"ãģĬéĩij":127118,"Ġجدا":127119,"ãģĨãģ¡":127120,"ëħ¸":127121,"ırım":127122,"æ§ĺ":127123,"ãģ«å¯":127124,"ãģ«å¯¾":127125,"ÑĨев":127126,"Ġvard":127127,"ĠÐIJн":127128,"eÄŁ":127129,"ÑģÑĤвенно":127130,"Ш":127131,"سد":127132,"à¸ģุ":127133,"à¹ģà¸ľà¸Ļ":127134,"รูà¹īส":127135,"รูà¹īสึà¸ģ":127136,"اتØŃاد":127137,"ÑijÑĤ":127138,"×Ĺ×ķ×§":127139,"ãģĻãģIJ":127140,"Ø·ÙĦاÙĤ":127141,"Ġ×§×ķ×ĵ":127142,"à¹ĥà¸Ĭà¹īà¸ĩ":127143,"à¹ĥà¸Ĭà¹īà¸ĩาà¸Ļ":127144,"ãĥ¼ãĤ¿":127145,"Ġsür":127146,"ÑĢок":127147,"ë³ij":127148,"สมาà¸Ĭ":127149,"สมาà¸Ĭิà¸ģ":127150,"ãĥķãĥ¬":127151,"è¾¼ãģ¿":127152,"ãĤ»ãĥ³":127153,"Ġê°Ģì§Ģ":127154,"à¸ľà¹īา":127155,"ÑįÑĤомÑĥ":127156,"иÑĤел":127157,"à¸łà¸±":127158,"à¸ij":127159,"ãĥĸãĥ©":127160,"×Ľ×ª×ķ×ij":127161,"׳×Ŀ":127162,"еннÑĭе":127163,"×¢×¨×Ľ×ª":127164,"ĠìĤ":127165,"ĠìĤ´":127166,"à¸Ĥà¹īา":127167,"׳×ķס":127168,"ãĥ¬ãĥĵ":127169,"ÑĢеÑģ":127170,"à¹Ģลà¸Ĥ":127171,"ثاÙĦ":127172,"ìĹĨ":127173,"ĠÑĩаÑģÑĤ":127174,"าศ":127175,"ãĥªãĤ¢":127176,"uç":127177,"×Ļ׼×ķת":127178,"ลà¹īาà¸Ļ":127179,"ië":127180,"ãĤ¸ãĤ§":127181,"à¸Īà¸Ń":127182,"ÙĪØŃØ¯":127183,"×Ļצ×ķ×ij":127184,"Ġ×ijש׾":127185,"око":127186,"ضة":127187,"ذر":127188,"ĠÑĥд":127189,"İL":127190,"×ķצ×Ļ×Ŀ":127191,"×ĸ×ŀף":127192,"à¸Ľà¸ģ":127193,"íķĻêµIJ":127194,"ساÙħ":127195,"à¹Ħà¸Ķ":127196,"ละà¹Ģà¸Ń":127197,"ละà¹Ģà¸Ńีย":127198,"ละà¹Ģà¸Ńียà¸Ķ":127199,"ảy":127200,"аÑĨион":127201,"ãĤ¹ãĤ¯":127202,"פ×ķס":127203,"รà¹Īาà¸ĩ":127204,"еннÑĭй":127205,"عÙĨ":127206,"عÙĦÙĨ":127207,"ائÙģ":127208,"dÄĻ":127209,"ؤÙĪÙĦ":127210,"׾×ķ×ķ":127211,"Ġ×ijש×ij":127212,"ä»ĬåĽŀ":127213,"ĠاÙĦجÙĨ":127214,"داد":127215,"waÄĩ":127216,"ãĥªãĥ³":127217,"ĠìŀIJìĭł":127218,"اÙĨÙĬا":127219,"ãĥ¡ãĥª":127220,"ÙĦÙĪÙĨ":127221,"à¸Ĺà¹Īà¸Ńà¸ĩ":127222,"à¸Ĺà¹Īà¸Ńà¸ĩà¹Ģà¸Ĺีà¹Īยว":127223,"اÙģÙĬ":127224,"ĠлиÑĪ":127225,"ÙħÙĬØ©":127226,"оÑĤвеÑĤ":127227,"Ñĩин":127228,"ÃĬ":127229,"ãĥ¡ãĥ³":127230,"å®Ł":127231,"éļĽãģ«":127232,"ĠÑĢай":127233,"ãĤ¦ãĥ³":127234,"×Ļר×ķש":127235,"×Ļר×ķש׾×Ļ×Ŀ":127236,"มะ":127237,"Ġara":127238,"казаÑĤÑĮ":127239,"à¸ķัà¸Ķ":127240,"ÑĥÑİÑĤ":127241,"Ġüst":127242,"×Ĵ×ķ×ij":127243,"×Ĵ×ķ×ij×ķת":127244,"malı":127245,"егод":127246,"егоднÑı":127247,"اÙģÙĤ":127248,"à¸Ĭà¹Īà¸Ńà¸ĩ":127249,"Ġözellik":127250,"×Ļצ×ķר":127251,"ĠmiÄĻd":127252,"ĠiliÅŁ":127253,"ĠнаÑħод":127254,"×¢×ĸר":127255,"×ľ×Ľ×ª":127256,"ÙĨتاج":127257,"ĠÑģем":127258,"à¸Īà¹Īาย":127259,"à¸ķรว":127260,"à¸ķรวà¸Ī":127261,"פר×ķ":127262,"à¸Ĥัà¸ļ":127263,"ãģŀ":127264,"Ġпло":127265,"колÑĮ":127266,"×ŀ×¢×ĺ":127267,"íķĺìĭľ":127268,"jÄħce":127269,"ÙĨاÙĨ":127270,"ลีà¸ģ":127271,"нÑĥÑĤ":127272,"ĠобÑĢаз":127273,"Ùĥبر":127274,"ĠاÙĦÙĪØ·ÙĨ":127275,"ãģķãģĽãģ¦":127276,"ÙĤاء":127277,"×ŀ×ĵ×Ļ׳":127278,"yü":127279,"פ×Ļת":127280,"׳×ķף":127281,"ÙħÙĨظ":127282,"หà¸Ļัà¸ģ":127283,"ìŀĪ":127284,"ãĤ«ãĥ¼ãĥī":127285,"عÙĨÙĬ":127286,"под":127287,"ضاء":127288,"à¸Ļà¸ķà¹Į":127289,"×ŀשפ":127290,"วà¹Į":127291,"ר×ķ×§":127292,"สืà¹Īà¸Ń":127293,"פק×Ļ×ĵ":127294,"ãģªãĤīãģªãģĦ":127295,"ĠìŬ룬":127296,"ÙĦج":127297,"ÑīиÑĤ":127298,"ãĥĥãĤ·":127299,"ÙĦÙĬس":127300,"ĠÙĦÙħا":127301,"ìłij":127302,"×ij×Ļף":127303,"ãĥģãĤ§":127304,"Ġgüç":127305,"Ġchứ":127306,"×ķצ×IJ":127307,"קר×ij":127308,"à¹Ĥà¸ŀ":127309,"оÑĩно":127310,"סק×Ļ":127311,"ש׾×Ŀ":127312,"صرÙģ":127313,"ĠLÃł":127314,"×¢×Ļת":127315,"á»·":127316,"à¹Ĥà¸Ńà¸ģ":127317,"à¹Ĥà¸Ńà¸ģา":127318,"à¹Ĥà¸Ńà¸ģาส":127319,"Ġ×Ķ×ĵ×ijר":127320,"à¸Ļัà¹Īà¸Ļ":127321,"زر":127322,"нако":127323,"íļį":127324,"ãĤĤãģ¡":127325,"ãĤĤãģ¡ãĤį":127326,"ãĤĤãģ¡ãĤįãĤĵ":127327,"اÙħت":127328,"عداد":127329,"инÑĭ":127330,"ÅĤyw":127331,"à¸Ħà¸ĵะ":127332,"à¸Ĺะ":127333,"ktör":127334,"×Ļ×Ĺ×Ķ":127335,"Ġме":127336,"ĠмеÑģÑı":127337,"׳×Ķ×Ĵ":127338,"ĠÑģÑĥÑīеÑģÑĤв":127339,"à¸Ļัà¸Ļ":127340,"ÑĦÑĦ":127341,"екÑĤив":127342,"عÙĦÙĪÙħات":127343,"бÑĥд":127344,"à¸Ļัà¸ģà¸ĩาà¸Ļ":127345,"หà¸Ļà¹īาà¸Ĺีà¹Ī":127346,"ÙĤÙĬÙĤ":127347,"ãĤ·ãĥ³":127348,"ãģ«éĸ¢":127349,"×IJר×Ĵ":127350,"ĠпÑĢоÑĤ":127351,"ĠпÑĢоÑĤив":127352,"ĠìŀĪìĸ´":127353,"ÙĤÙĬÙĤØ©":127354,"ìĹĩ":127355,"kür":127356,"ãģ«ãģªãĤĬãģ¾ãģĹãģŁ":127357,"ĠдеÑıÑĤ":127358,"ĠдеÑıÑĤелÑĮ":127359,"פ×ķר×ĺ":127360,"à¸Łà¹īา":127361,"à¹Ģà¸ł":127362,"ĠавÑĤомаÑĤ":127363,"×ĸ×Ļ×§":127364,"Ġolduk":127365,"عاÙħ":127366,"ĠÑĤоÑĢ":127367,"yrıca":127368,"êÌ":127369,"ãĤŃãĥ³ãĤ°":127370,"ãģ«ãģ¨ãģ£ãģ¦":127371,"à¹Ģà¸īà¸ŀ":127372,"à¹Ģà¸īà¸ŀาะ":127373,"ãģ¯ãģļ":127374,"×ŀ×IJ×Ļ":127375,"สะà¸Ķ":127376,"สะà¸Ķวà¸ģ":127377,"ìľ¼ë©°":127378,"à¸ģี":127379,"ฬ":127380,"Ġ×¢×ķש":127381,"à¸łà¸²à¸©à¸²":127382,"à¸Ĺัà¸Ļ":127383,"acakt":127384,"acaktır":127385,"اعدة":127386,"ĠÑĥÑģлÑĥг":127387,"סר×ĺ":127388,"×ķ×ŀ×ķת":127389,"×Ķ×ķר":127390,"×ŀ×ķ×ij":127391,"×ŀ×ķ×ijף":127392,"سÙĬاس":127393,"اتÙ쨧ÙĤ":127394,"×Ķצ׾":127395,"Ùħؤس":127396,"Ġpó":127397,"Ġкни":127398,"×Ļ׼×ķ׾":127399,"à¹Ģหลืà¸Ń":127400,"׼׾׼":127401,"׳×ĸ":127402,"ÑĪие":127403,"rès":127404,"ĠاÙĦØŃÙĤ":127405,"лÑıÑĢ":127406,"หà¸į":127407,"หà¸įิà¸ĩ":127408,"ר×Ĵ×Ļש":127409,"à¹Ģสà¹īà¸Ļ":127410,"ש×ij×ķף":127411,"ôtel":127412,"апÑĢ":127413,"апÑĢимеÑĢ":127414,"ابÙĦ":127415,"ĠÑĢазвиÑĤ":127416,"ĠполÑĮз":127417,"ĠСеÑĢ":127418,"×ķ×ij×Ļ":127419,"róż":127420,"ìĭŃ":127421,"ãĤ¯ãĥĪ":127422,"ãģĹãĤĪãģĨ":127423,"à¸ģรม":127424,"ØŃÙĥÙĪÙħ":127425,"à¹Ĥà¸ļ":127426,"à¸Ĺà¹īาย":127427,"ĠMá":127428,"ĠÑĤÑĭ":127429,"à¸Ħรัว":127430,"ÑĢÑĥб":127431,"ạp":127432,"ĠmÅĤ":127433,"ĠmÅĤod":127434,"ĠgörÃ¼ÅŁ":127435,"ĠgeliÅŁ":127436,"ươi":127437,"×ŀשק":127438,"ÙĢÙĢÙĢÙĢ":127439,"ราว":127440,"ãģĹãģ£":127441,"ãģĹãģ£ãģĭãĤĬ":127442,"ĠÐļон":127443,"Ġkê":127444,"à¹Ĥà¸Ĺร":127445,"èIJ½ãģ¡":127446,"åĩºãģ¦":127447,"ลัà¸ģษ":127448,"Ġ×Ĵ×ij×ķ×Ķ":127449,"ãĥĻãĥ«":127450,"ê±°ëĤĺ":127451,"ë§IJ":127452,"×Ļ׾×ĵ×Ļ×Ŀ":127453,"ĠëĦĪ":127454,"×ŀר×Ļ":127455,"รส":127456,"ãĥŃãĥ³":127457,"ило":127458,"ноÑģÑĤÑĮÑİ":127459,"×ĸר×Ĺ":127460,"пон":127461,"Ġ×Ķש׾":127462,"ê²łìĬµëĭĪëĭ¤":127463,"ĠkiÅŁ":127464,"ĠÐļи":127465,"วร":127466,"داع":127467,"ÅŁim":127468,"ÙĨÙij":127469,"ваÑĤ":127470,"راÙĥ":127471,"باÙĦ":127472,"иде":127473,"Ġ×Ķ×ŀ×Ĺ":127474,"ìĸµ":127475,"تÙģØ§Ø¹":127476,"أت":127477,"ëĬĺ":127478,"ש×Ļת":127479,"ستÙħر":127480,"ĠÑĦак":127481,"ĠاÙĦØ£ÙħرÙĬ":127482,"ëŀ¨":127483,"اسÙħ":127484,"ĠaÄŁ":127485,"Ġçev":127486,"ÙĥÙĪØ±":127487,"ãģķãģ¾":127488,"Ġçöz":127489,"Ġرس":127490,"Äħda":127491,"สà¸Ļุ":127492,"ãģĹãģ¦ãģıãĤĮ":127493,"нÑİ":127494,"leÅŁme":127495,"ãĤªãĥ³":127496,"ãģ¨ãģªãĤĬ":127497,"avaÅŁ":127498,"×ĺ×Ļ×ij":127499,"ØŃض":127500,"×ķצ×IJ×ķת":127501,"ÙĨÙħÙĪ":127502,"ıt":127503,"ĠÑħа":127504,"ĠÑħаÑĢак":127505,"ĠÑħаÑĢакÑĤеÑĢ":127506,"ĠdÅĤ":127507,"ãĥĹãĥ©":127508,"à¸Ĭุม":127509,"à¹Īà¸Ńà¸Ļ":127510,"×ķ×ij׾":127511,"Ñģол":127512,"×ĵ×Ĵ":127513,"аÑĢаÑĤ":127514,"nivers":127515,"ĠgerçekleÅŁtir":127516,"ĠاÙĦÙĦÙĬ":127517,"ระยะ":127518,"ĠÙħختÙĦÙģ":127519,"Ġgönder":127520,"ÙģØ§Ø±":127521,"doÄŁ":127522,"doÄŁan":127523,"صÙĦاØŃ":127524,"Ġyayın":127525,"ãĥĨãĥ³":127526,"รวà¸Ī":127527,"×Ļ×Ĺ×Ļ×ĵ":127528,"ünkü":127529,"ÑĨиалÑĮн":127530,"à¸ļู":127531,"มุ":127532,"hä":127533,"Ø®Ùģ":127534,"å¢Ĺ":127535,"å¢ĹãģĪ":127536,"еÑĩно":127537,"ĠاÙĦسÙĨ":127538,"à¸Ĥาว":127539,"imdi":127540,"Ы":127541,"à¸Ļà¸Ńà¸ģà¸Īาà¸ģ":127542,"à¸ļาล":127543,"תש":127544,"Ġdüzenle":127545,"мÑĭÑģл":127546,"ãģıãģª":127547,"żu":127548,"ĠwspóÅĤ":127549,"Ġназ":127550,"ındaki":127551,"ترة":127552,"ÅŁek":127553,"Ġöd":127554,"ĠÙĪÙĥ":127555,"ĠпозволÑı":127556,"Ġת×ķ׼":127557,"ÙħÙĨتج":127558,"ë§ī":127559,"ĠاÙĦØ«ÙĦاث":127560,"аÑĨиÑİ":127561,"ÙĪØ±ÙĪ":127562,"ÑĭваеÑĤ":127563,"خصص":127564,"ĠاÙĦÙģÙĦ":127565,"ĠاÙĦÙģÙĦسطÙĬÙĨ":127566,"إجر":127567,"إجراء":127568,"اÙĨتخ":127569,"اÙĨتخاب":127570,"ارÙĬØ©":127571,"×ķÖ":127572,"Ø¢ÙĨ":127573,"×ŀ×¢×ķת":127574,"Ġмал":127575,"Ġ×IJ×Ĺ":127576,"à¸Ĺà¹īà¸Ńà¸ĩ":127577,"zeÅĽ":127578,"Ġë§Įëĵ¤":127579,"رÙĬع":127580,"äºĭãĤĴ":127581,"à¸ļริหาร":127582,"׾×ŀ×Ļ×ĵ":127583,"ĠмÑĥж":127584,"ترÙĪ":127585,"ĠباÙĦØ¥":127586,"פ×Ļ×§":127587,"زÙħØ©":127588,"ĠÃ¶ÄŁrenc":127589,"ãĥ¶":127590,"اÙħعة":127591,"×§×ij×ķצ":127592,"×ŀ׳×ķת":127593,"رÙĬÙħ":127594,"Ġоказ":127595,"ãģłãģijãģ©":127596,"Ġhız":127597,"Ġש×IJת":127598,"ãĤ¢ãĥ¼":127599,"Ġmożliwo":127600,"ìĦ¼":127601,"ÙĪØ§Ø¨":127602,"огÑĢаÑĦ":127603,"ĠعبداÙĦ":127604,"ãĤĴè¡Į":127605,"بÙĬÙĦ":127606,"Ġİç":127607,"ยาย":127608,"ĠÑĥÑĩаÑģÑĤ":127609,"ÑĦеÑģÑģ":127610,"ÑĦеÑģÑģиона":127611,"Ấ":127612,"ÙĨÙĬÙĨ":127613,"عدÙĦ":127614,"สรร":127615,"دÙĬÙĦ":127616,"×ij×Ļ×§":127617,"czyÅĤ":127618,"ÑĢоме":127619,"Ġмед":127620,"ìĻĶ":127621,"ãĥ©ãĤ¤ãĥ³":127622,"ĠÑĤеп":127623,"еÑĢÑĮ":127624,"iÄŁi":127625,"вели":127626,"ÑĢиÑģÑĤ":127627,"ס×ķפ":127628,"×ŀ׾×Ĺ":127629,"ĠاÙĦØ¥ÙĨ":127630,"Ġ׾×Ķש":127631,"è¶ĬãģĹ":127632,"ĠÑĢÑĭ":127633,"×ķ×IJר":127634,"رÙĩاب":127635,"פ×ķ×IJ×Ļ":127636,"ĠгоÑģÑĥд":127637,"ĠгоÑģÑĥдаÑĢ":127638,"ĠгоÑģÑĥдаÑĢÑģÑĤв":127639,"ĠاÙĦØ£ÙħÙĬر":127640,"Ùħج":127641,"à¹Ģหมาะ":127642,"ÑĢев":127643,"à¸Ĭีà¸ŀ":127644,"ãĥķãĥĪ":127645,"иÑĩно":127646,"ĠاÙĦÙħؤ":127647,"Ġiht":127648,"íħľ":127649,"دÙĨÙĬ":127650,"رص":127651,"лаÑģÑĤ":127652,"à¹Ģหลà¹Īา":127653,"ılır":127654,"รà¸ĵà¹Į":127655,"×ŀש×Ļ×ļ":127656,"Ġdá»ĭ":127657,"Ø·Ù쨧ÙĦ":127658,"×ĺ×ķף":127659,"Ġ×ij×Ļ׳":127660,"ãģ¾ãģ£ãģŁ":127661,"ложениÑı":127662,"تØŃر":127663,"باØŃ":127664,"à¹Ģสืà¹īà¸Ń":127665,"ãģĻãģĶ":127666,"ltür":127667,"à¸ĩาม":127668,"Ġtü":127669,"ĠпÑĢим":127670,"ĠпÑĢимен":127671,"Ġhayat":127672,"ëĥIJ":127673,"ëĭĮ":127674,"׳×Ļ×ķ":127675,"веден":127676,"ìħ¨":127677,"à¸Īัย":127678,"à¸ģà¹Īà¸Ń":127679,"Ġвод":127680,"оÑģÑĤоÑı":127681,"наÑĤ":127682,"à¹ģหล":127683,"سÙħÙĬ":127684,"à¸Ķำà¹Ģà¸Ļ":127685,"à¸Ķำà¹Ģà¸Ļิà¸Ļ":127686,"wód":127687,"öyle":127688,"ãĥĢãĤ¤":127689,"ÑĪий":127690,"меÑīен":127691,"ãģĹãģ¾ãģĨ":127692,"ãĥīãĥ©":127693,"ÙĪØ¶ØŃ":127694,"à¸Ńà¸Ļุ":127695,"ĠاÙĦاجتÙħاع":127696,"laÅŁma":127697,"à¸Ħà¸Ńà¸Ļ":127698,"×ŀר×Ļ×Ŀ":127699,"ÙĨاÙħج":127700,"שר×ķת":127701,"اÙĦØ£":127702,"ĠksiÄħż":127703,"Ġан":127704,"ÑĢай":127705,"اÙĩرة":127706,"×ŀ×ĵ×Ķ":127707,"ä¸Ģç·":127708,"ä¸Ģç·Ĵ":127709,"ä¸Ģç·Ĵãģ«":127710,"ÑĢиÑĤоÑĢ":127711,"dıkl":127712,"à¹ģà¸ĸ":127713,"à¹ģà¸Ĥà¹Īà¸ĩ":127714,"екÑĤоÑĢ":127715,"×ŀסע":127716,"ÑĢакÑĤи":127717,"uÄŁu":127718,"×ķ×ijת":127719,"สูà¸ķร":127720,"ĠçalÄ±ÅŁm":127721,"ĠçalÄ±ÅŁmalar":127722,"Ġана":127723,"ãĥĽãĥ¼ãĥł":127724,"Ġbölüm":127725,"Ġبص":127726,"олоÑģ":127727,"ĠìķĬëĬĶ":127728,"à¹Īะ":127729,"ÙĪØªØ±":127730,"ä¹Ĺ":127731,"ستخداÙħ":127732,"פ×Ļ×Ļס":127733,"פ×Ļ×Ļס×ij":127734,"פ×Ļ×Ļס×ij×ķ×§":127735,"ĠкÑĢаÑģ":127736,"лик":127737,"رÙĬØŃ":127738,"×ŀש׾×Ķ":127739,"à¹Ģยีà¹Īย":127740,"à¹Ģยีà¹Īยม":127741,"виÑģ":127742,"омн":127743,"ÄŁun":127744,"ãĥŃãĥ¼ãĥ³":127745,"أتÙĬ":127746,"à¸ķรี":127747,"çͳãģĹ":127748,"تÙħر":127749,"ìĹĪìĬµëĭĪëĭ¤":127750,"ĠÙĪØºÙĬر":127751,"redni":127752,"ĠاÙĦصÙģ":127753,"ĠнаÑģÑĤоÑı":127754,"ĠнаÑģÑĤоÑıÑī":127755,"à¸ķรา":127756,"ĠÑĥÑģлов":127757,"ĠÑĥÑģловиÑı":127758,"ÑĨеп":127759,"×Ķ×Ĺ׾×ĺ":127760,"Ø·ÙĬع":127761,"ĠBakan":127762,"ĠاÙĦرÙĪ":127763,"илÑĮно":127764,"ĠмеÑĤ":127765,"à¸Ķà¸Ńà¸ģ":127766,"ãģĭãĤīãģªãģĦ":127767,"ĠпоÑģÑĤоÑı":127768,"ĠпоÑģÑĤоÑıн":127769,"ĠÑĩаÑģ":127770,"üc":127771,"wró":127772,"бÑĥÑĢ":127773,"ãĥIJãĥĥãĤ¯":127774,"ãĥ©ãĥ³ãĥī":127775,"ĠогÑĢ":127776,"สัà¸į":127777,"สัà¸įà¸įา":127778,"มัà¹Īà¸Ļ":127779,"à¸Ħà¸Ńม":127780,"alık":127781,"Ġнед":127782,"ümüz":127783,"ĠÅĽwie":127784,"ério":127785,"×Ļ×IJ×Ķ":127786,"دÙħات":127787,"ırl":127788,"ĠоÑĤз":127789,"ĠоÑĤзÑĭв":127790,"ä»ĺãģį":127791,"Ġkażde":127792,"миниÑģÑĤ":127793,"ãĤ°ãĥ«":127794,"ë°ĸ":127795,"езн":127796,"اÙĦÙģ":127797,"Ġשק׾":127798,"Ùħض":127799,"ãĥĿãĥ¼ãĥĪ":127800,"ÙħÙĨت":127801,"ÙĤÙĬاÙħ":127802,"Ø´ÙĨ":127803,"×Ļר×ķ×¢":127804,"ãĤŃãĥ£ãĥ³":127805,"доÑĢов":127806,"×ŀ×Ļת×Ļ":127807,"ÙĪÙĦÙĪØ¬":127808,"ÙĥاÙģ":127809,"ĠÑĢазлиÑĩ":127810,"иÑĤеÑĤ":127811,"нолог":127812,"ลà¸ĩà¸Ĺุà¸Ļ":127813,"ĠyaklaÅŁ":127814,"ãĥ¬ãĤ¤":127815,"ê²łëĭ¤":127816,"æ±ĤãĤģ":127817,"رÙĪÙģ":127818,"ĠíĬ":127819,"ĠíĬ¹":127820,"ãģ£ãģıãĤĬ":127821,"à¸Ħวามà¸Ħิà¸Ķ":127822,"×Ķ×Ļס×ĺ":127823,"Ø¥ÙĤ":127824,"ãģ¦ãģĦ":127825,"à¹Ĥà¸Ĭ":127826,"ĠBüyük":127827,"ĠФедеÑĢ":127828,"ÑĨин":127829,"ÑĢова":127830,"ĠاÙĦاÙĤتصاد":127831,"Ġchá":127832,"à¸ĺาà¸Ļ":127833,"ë¥ł":127834,"à¹Ħà¸ķ":127835,"ÃŃpio":127836,"Ùĭا":127837,"ĠобÑıз":127838,"Ùĩج":127839,"Ġì¤ijìļĶ":127840,"ãģ®ãģ§ãģ¯ãģªãģĦ":127841,"باراة":127842,"ãĤ¤ãĥ«":127843,"ĠноÑĢм":127844,"á»īnh":127845,"mö":127846,"möglich":127847,"ÑĨип":127848,"ãĤ¢ãĤ¯":127849,"×Ķ×Ļ":127850,"ÑĨиалÑĮно":127851,"ĠÅĽwi":127852,"تÙĤ":127853,"ĠÑģÑĤоим":127854,"بÙĬعÙĬ":127855,"Ġ׾ש×ŀ":127856,"глÑı":127857,"глÑıд":127858,"ãģ¦ãģıãĤĮ":127859,"ÄĻdzi":127860,"à¸Ĥั":127861,"à¸Ĥัà¹īà¸Ļ":127862,"Ø·ÙĤ":127863,"ĠìĹŃ":127864,"ãģ£ãģ¦ãģĹãģ¾ãģĨ":127865,"ĠdeÄŁerl":127866,"ĠdeÄŁerlendir":127867,"Ġülk":127868,"Ġмног":127869,"à¹ĭ":127870,"ë¿IJ":127871,"ĠУкÑĢа":127872,"ÄŁini":127873,"Ġбезоп":127874,"ĠбезопаÑģ":127875,"à¸Ńà¸Ńà¸ģà¹ģà¸ļà¸ļ":127876,"اظ":127877,"ØŃداث":127878,"леÑĢ":127879,"×Ļ×¥":127880,"×Ļ׳×ĺר׳×ĺ":127881,"larınız":127882,"ØŃÙĬØŃ":127883,"żeli":127884,"à¸Ńัà¸ĩ":127885,"à¸Ńัà¸ĩà¸ģ":127886,"à¸Ńัà¸ĩà¸ģฤษ":127887,"ĠоÑĤлиÑĩ":127888,"ัส":127889,"ëŀį":127890,"ожно":127891,"ãĤ¹ãĥĿ":127892,"ĠÑħоÑĩ":127893,"Ġкап":127894,"еÑĩен":127895,"ØŃÙĦØ©":127896,"ÙĬاÙĩ":127897,"нал":127898,"×ķצר×Ļ×Ŀ":127899,"Ġkald":127900,"åĥį":127901,"ĠاÙĦشخص":127902,"Ġзна":127903,"Ġwzgl":127904,"życz":127905,"ê°Ŀ":127906,"à¸ŀลัà¸ĩ":127907,"íģ¼":127908,"Ġöl":127909,"Ġbụ":127910,"Ø´Ùĩر":127911,"Ġзам":127912,"Ġдев":127913,"×Ļ×ĺת":127914,"تعÙĦÙĤ":127915,"ÙĪÙħØ©":127916,"ãĤĴä½ľ":127917,"ãģįãģ¦":127918,"íĥĿ":127919,"rasında":127920,"ãĤĴæİ¢":127921,"ĠÙħباشر":127922,"راجع":127923,"Ġвозд":127924,"ÙħØŃا":127925,"×ķשר":127926,"ĠиÑģÑĤоÑĢ":127927,"มัà¸ģ":127928,"tıģ":127929,"ثار":127930,"ترÙĨت":127931,"à¹ģà¸Ĥà¹ĩ":127932,"à¹ģà¸Ĥà¹ĩà¸ĩ":127933,"поÑĩ":127934,"Ġ×ij×IJ×ķת":127935,"ë¯Ģ":127936,"ëĿ¼ëıĦ":127937,"à¸Ĭัà¸Ķ":127938,"สà¸ķà¹Į":127939,"ãĥĭãĥĥãĤ¯":127940,"иденÑĤ":127941,"ĠгÑĢÑĥпп":127942,"تخ":127943,"áºł":127944,"ยืà¸Ļ":127945,"ยัà¸Ļ":127946,"óry":127947,"TÃľ":127948,"ãģĹãĤĥ":127949,"ĠпÑĢовед":127950,"лÑıеÑĤ":127951,"ÙħØ®":127952,"ยà¸Ńม":127953,"×Ľ×ł×¡×ª":127954,"ĠاÙĦÙħÙĨت":127955,"Ġolmad":127956,"ר׼×ĸ×Ļ":127957,"ĠвÑģÑĤÑĢ":127958,"ĠиÑģÑģлед":127959,"ÑĤвеÑĢж":127960,"بدÙĪ":127961,"еÑĢÑĤ":127962,"ï»·":127963,"±ħ":127964,"สัมà¸ŀัà¸Ļà¸ĺà¹Į":127965,"ิà¹Īà¸Ļ":127966,"צ×Ļ×ij":127967,"wiÄĻt":127968,"Ġì°¸":127969,"ĠzwiÄħz":127970,"سبÙĪØ¹":127971,"ãĥĥãĤ°":127972,"à¸Ľà¸¥à¸Ńà¸Ķ":127973,"à¸Ľà¸¥à¸Ńà¸Ķà¸łà¸±à¸¢":127974,"ãĤĤãĤĬ":127975,"ÙĤدس":127976,"Ġsprz":127977,"Ġsprzeda":127978,"Ġistedi":127979,"Ġkhu":127980,"Ġден":127981,"ĠkoÅĦ":127982,"Ġ×ij×Ĺ×Ļ":127983,"à¹Ģà¸Ĺà¹īา":127984,"×ķס×Ļ×£":127985,"ãĥĭãĥ¥ãĥ¼":127986,"ĠпÑĢедоÑģÑĤ":127987,"ĠпÑĢедоÑģÑĤав":127988,"à¹Ĥà¸Ł":127989,"év":127990,"ĠاÙĦصØŃ":127991,"صØŃاب":127992,"à¹Ģà¸Īà¹ĩà¸ļ":127993,"влек":127994,"วัà¸ķ":127995,"à¸ĸุ":127996,"ãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ":127997,"ÙĤÙĬÙĤÙĬ":127998,"×ķ×Ĺר":127999,"ÑĭÑĪ":128000,"ĠоÑĤно":128001,"ĠоÑĤноÑĪ":128002,"обилÑĮ":128003,"ÙģØŃ":128004,"ınt":128005,"ıntı":128006,"Ġ׾×ij×ĵ":128007,"íİĺìĿ´ì§Ģ":128008,"ãĥĬãĥ«":128009,"ĠÙħساء":128010,"×Ļ×ĺ×ij":128011,"ÑĮеÑĢ":128012,"ëĦ·":128013,"ÑĭÑĤа":128014,"ĠоÑĩеÑĢ":128015,"à¸Ķืà¹Ī":128016,"à¸Ķืà¹Īม":128017,"ĠNgh":128018,"تعب":128019,"ÙĦاÙĤات":128020,"×ķ׾×ķ×Ĵ×Ļ×Ķ":128021,"ĠìĿ´ê²ĥ":128022,"Ġ×Ķ×ijר":128023,"ìľµ":128024,"à¹Ģà¸Ħลืà¹Īà¸Ńà¸Ļ":128025,"ÙĩØ©":128026,"à¸Īำà¹Ģà¸Ľà¹ĩà¸Ļ":128027,"å¤īãģĪ":128028,"wiÅĽcie":128029,"chod":128030,"chodzÄħ":128031,"вÑĢо":128032,"×ŀ×Ĺ×Ļר":128033,"Ġyı":128034,"Ġyıll":128035,"ì¡Į":128036,"à¹Ħหว":128037,"ãģªãģıãģª":128038,"ĠзавиÑģ":128039,"ĠìĺĪìĪĺ":128040,"Ù쨰":128041,"á»§ng":128042,"à¸ŀุà¸Ĺà¸ĺ":128043,"зн":128044,"layan":128045,"ãĤ¡":128046,"à¸ģà¹ĩà¸ķาม":128047,"ĠsaÄŁlam":128048,"รà¸ĵ":128049,"ĠÑģиÑĤ":128050,"ĠÑģиÑĤÑĥ":128051,"ĠاÙĦتÙĨ":128052,"×Ķ×ĸ":128053,"ĠØ·ÙĪÙĬÙĦ":128054,"taÅĤ":128055,"Ġgörd":128056,"å¤īãĤı":128057,"ëĥ¥":128058,"à¸Ħà¹Īà¸Ńย":128059,"×IJ×ķ×ĺ":128060,"ëħIJ":128061,"ãĥ©ãĥ³ãĤ¹":128062,"วัà¸Ĵ":128063,"วัà¸Ĵà¸Ļ":128064,"ĠoluÅŁ":128065,"פע×ķ׾":128066,"ĠszczegóÅĤ":128067,"à¸Ħาสิ":128068,"à¸Ħาสิà¹Ĥà¸Ļ":128069,"powied":128070,"ĠÑĤеб":128071,"หà¸Ļà¹Īวย":128072,"Ġмил":128073,"ØŃÙĥ":128074,"à¸Ĺà¸Ķ":128075,"ĠмаÑĤеÑĢиал":128076,"ÅĤow":128077,"à¹Ģà¸ģีย":128078,"ĠÑģовеÑĢ":128079,"ãĤ©":128080,"à¸Ľà¸£à¸´":128081,"ĠиÑİ":128082,"наÑĩен":128083,"ÑĢенд":128084,"muÅŁtur":128085,"ĠпÑĢодÑĥк":128086,"зд":128087,"ÑıÑĤи":128088,"ÑıÑĤиÑı":128089,"à¹Ģมีย":128090,"راتÙĬج":128091,"Ġamacı":128092,"ש×ķ׾":128093,"ש×ķ׾×Ĺ":128094,"สะà¸Ńา":128095,"สะà¸Ńาà¸Ķ":128096,"פ×Ĵ×¢":128097,"عبة":128098,"dın":128099,"íħĶ":128100,"Ġ×ŀש×Ĺ×§":128101,"Ġfiyat":128102,"ĠзаÑı":128103,"ĠзаÑıв":128104,"à¹Ĥหล":128105,"à¹Ĥหลà¸Ķ":128106,"à¸ģรุà¸ĩà¹Ģà¸Ĺà¸ŀ":128107,"צ×Ļ×Ļף":128108,"ìļ±":128109,"Ùħب":128110,"Ùħباد":128111,"landır":128112,"ĠвеÑģÑĮ":128113,"Ġhük":128114,"ĠÐĴоз":128115,"ÑĩиÑĤÑĭва":128116,"วล":128117,"×ķצע":128118,"à¸Ĥà¸ĵะà¸Ĺีà¹Ī":128119,"ĠaÅŁaģı":128120,"׾×IJ×ķ×ŀ×Ļ":128121,"trzym":128122,"Ã¤ÃŁig":128123,"owoÅĽci":128124,"ãģĿãĤĤ":128125,"ĠrozwiÄħz":128126,"ĠgÅĤówn":128127,"монÑĤ":128128,"×ŀ×ķ×ŀ":128129,"ĠÑģÑĤан":128130,"ÙĦاÙĤØ©":128131,"prowad":128132,"prowadzi":128133,"ĠÑģоÑģÑĤоÑı":128134,"×Ļ×IJ×ķת":128135,"rı":128136,"gı":128137,"ãĥijãĥij":128138,"ĠналиÑĩ":128139,"×Ķצע":128140,"Ġ׳×Ķ":128141,"à¸Ħัà¸ļ":128142,"عراض":128143,"иж":128144,"ÙĩائÙĬ":128145,"ãĤīãģı":128146,"ожеÑĤ":128147,"ĠобоÑĢ":128148,"ĠобоÑĢÑĥд":128149,"أسÙĦ":128150,"à¹ĩà¸Ķ":128151,"ÑĢÑĥÑĤ":128152,"دÙĬÙħÙĤ":128153,"دÙĬÙħÙĤرا":128154,"Ġjeste":128155,"×ķ×ķ×Ļר":128156,"×ij×ĵ×Ļ×§":128157,"деÑĢжива":128158,"ãģĬãģı":128159,"ewnÄĻtr":128160,"ewnÄĻtrzn":128161,"à¸ŀฤ":128162,"Ġ×IJ×ķ×Ķ":128163,"ת×Ĺ×ķש":128164,"Ġzob":128165,"дÑĥм":128166,"ĠÑģÑĭ":128167,"ÙĬرا":128168,"ĠwiÄĻks":128169,"à¹ģà¸ķà¸ģà¸ķà¹Īาà¸ĩ":128170,"lararas":128171,"lararası":128172,"íĺĢ":128173,"ëī´":128174,"×ķ×Ĵ׾":128175,"ĠоÑĤмеÑĤ":128176,"ĠÑĢан":128177,"تÙĥÙĦ":128178,"иÑĤелÑĮн":128179,"à¸Ľà¸£à¸°à¸§à¸±":128180,"à¸Ľà¸£à¸°à¸§à¸±à¸ķิ":128181,"ìŀĸ":128182,"можно":128183,"pieczeÅĦ":128184,"pieczeÅĦst":128185,"못":128186,"ìĬ¨":128187,"×ŀס×ŀ":128188,"Ủ":128189,"ศิ":128190,"ศิล":128191,"à¸¨à¸´à¸¥à¸Ľ":128192,"ĠÅļw":128193,"ãĥĥãĤ·ãĥ§ãĥ³":128194,"unitÃł":128195,"Ġmieszka":128196,"ĠmieszkaÅĦ":128197,"przed":128198,"przedsi":128199,"przedsiÄĻb":128200,"przedsiÄĻbior":128201,"à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺิ":128202,"à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺà¸´à¸łà¸²à¸ŀ":128203,"ยà¹Ī":128204,"ìķĻ":128205,"รวà¸Ķ":128206,"รวà¸Ķà¹Ģรà¹ĩว":128207,"å½ĵãģŁãĤĬ":128208,"älle":128209,"ÑĥеÑĤÑģÑı":128210,"ãn":128211,"ëłµ":128212,"thè":128213,"ãĤĴåĪ©ç͍":128214,"ìµľ":128215,"íĵ¨":128216,"à¸Ĺัà¸ļ":128217,"าà¸Ħม":128218,"ãģĩ":128219,"ëĤĮ":128220,"à¹Ģà¸Ľà¸¥à¹Īา":128221,"â¦":128222,"ë¾":128223,"êĢ":128224,"êĩ":128225,"â¡":128226,"ðŁŁ":128227,"ãIJ":128228,"âº":128229,"áŃ":128230,"áĻ":128231,"áĵ":128232,"á²":128233,"ðĵı":128234,"á¬":128235,"â¯":128236,"ä¨":128237,"êĿ":128238,"ê«":128239,"ðij":128240,"ðĵĥ":128241,"ðĿħ":128242,"":128244,"":128245,"":128247,"ĠعÙĦÙī":128248,"Ġmá»Ļt":128249,"ĠvỼi":128250,"Ġngưá»Ŀi":128251,"ĠØ¥ÙĦÙī":128252,"Ġnhững":128253,"Ġthá»ĥ":128254,"Ġ×IJ×ķ":128255,"Ġ×¢×Ŀ":128256,"اÙĭ":128257,"Ġà¹ģละ":128258,"ĠÙĦا":128259,"Ġnhư":128260,"ĠاÙĦتÙĬ":128261,"Ġ×Ķ×ķ×IJ":128262,"ĠÄijến":128263,"ĠØ£ÙĪ":128264,"Ġvá»ģ":128265,"ĠlÃłm":128266,"Ġsẽ":128267,"ĠcÅ©ng":128268,"Ġợ":128269,"ĠÄijó":128270,"Ġnhiá»ģu":128271,"Ġtại":128272,"Ġtrên":128273,"Ġ×Ĵ×Ŀ":128274,"ĠnhÃł":128275,"Ġ׼×Ļ":128276,"Ġsá»±":128277,"ĠÄijầu":128278,"Ġbá»ĭ":128279,"ĠÙĩذا":128280,"Ġnhất":128281,"Ġphải":128282,"Ġhiá»ĩn":128283,"Ġdụng":128284,"ĠÄijá»Ļng":128285,"ĠاÙĦÙĦÙĩ":128286,"ĠØĮ":128287,"ĠÙĥÙĦ":128288,"Ġviá»ĩc":128289,"ĠnÄĥm":128290,"Ġthì":128291,"Ġhá»įc":128292,"ĠÙĪØª":128293,"té":128294,"ĠاÙĨ":128295,"Ġtôi":128296,"Ġ×IJ׳×Ļ":128297,"Ġ׾×Ļ":128298,"Ġ×ŀ×ķ":128299,"ĠngÃły":128300,"ĠnÆ°á»Ľc":128301,"Ġ×Ķ×Ļ×IJ":128302,"Ġ×IJ×Ļ":128303,"ĠhÆ¡n":128304,"ĠÙĩذÙĩ":128305,"ĠÙĪÙĬ":128306,"ĠاÙĦذÙĬ":128307,"Ġ×ķ×ŀ":128308,"Ġgiá":128309,"Ġnhân":128310,"ĠchÃŃnh":128311,"Ġmình":128312,"ĠÐĿа":128313,"Ġthế":128314,"Ġ×Ļ×ķתר":128315,"Ġ×IJ×Ŀ":128316,"Ġnên":128317,"Ġhợ":128318,"Ġhợp":128319,"Ġcòn":128320,"ĠÙĩÙĪ":128321,"ĠcÆ¡":128322,"Ġrất":128323,"ĠViá»ĩt":128324,"Ġبعد":128325,"Ġש×Ļ":128326,"Ġthá»Ŀi":128327,"Ġcách":128328,"ĠÄijá»ĵng":128329,"Ġно":128330,"Ġtrưá»Ŀng":128331,"ØŁ":128332,"ĠÄijá»ĭnh":128333,"ĠÄijiá»ģu":128334,"×Ļ×Ļ×Ŀ":128335,"Ġthá»±c":128336,"nın":128337,"Ġhình":128338,"Ġnói":128339,"Ġcùng":128340,"Ġ×Ķ×Ķ":128341,"ĠØ¥ÙĨ":128342,"Ġ×IJ×ij׾":128343,"Ġnhưng":128344,"Ġbiết":128345,"Ġже":128346,"Ġchúng":128347,"ĠÄijang":128348,"ĠذÙĦÙĥ":128349,"Ġlên":128350,"Ġkhách":128351,"ĠnÃło":128352,"Ġsá»Ń":128353,"Ġkhác":128354,"Ġë°ı":128355,"Ġlý":128356,"×Ļ×Ļ":128357,"ĠÄijây":128358,"Ġ׾×ŀ":128359,"Ġcần":128360,"Ġtrình":128361,"Ġphát":128362,"ãģ«ãĤĤ":128363,"по":128364,"ĠnÄĥng":128365,"Ġbá»Ļ":128366,"Ġvụ":128367,"ĠÄijá»Ļ":128368,"Ñĩе":128369,"ĠnháºŃn":128370,"ĠtrÆ°á»Ľc":128371,"Ġ×¢×ĵ":128372,"ĠhÃłnh":128373,"ĠØ®ÙĦاÙĦ":128374,"Ġlượng":128375,"Ġcấp":128376,"Ġtá»±":128377,"Ġvì":128378,"Ġtư":128379,"Ġchất":128380,"Ġ׼×ŀ×ķ":128381,"Ġgì":128382,"Ġש׳":128383,"Ġtế":128384,"ת×ķ":128385,"Ġnghiá»ĩp":128386,"Ġmặt":128387,"ĠÙĥÙħا":128388,"Ġ×ij×Ļף":128389,"Ġרק":128390,"Ġthấy":128391,"Ġmáy":128392,"ĠÙģÙī":128393,"Ġdân":128394,"Ġ×IJ×Ĺ×ĵ":128395,"Ġtâm":128396,"Ġ׼×ļ":128397,"Ġ׾×ķ":128398,"во":128399,"Ġtác":128400,"ĠtoÃłn":128401,"ĠÙĪÙħ":128402,"Ġkết":128403,"Ġหรืà¸Ń":128404,"ĠÙĪØ§ÙĦÙħ":128405,"ĠÄijiá»ĥm":128406,"Ġ×ĸ×ķ":128407,"Ġ×ij×ķ":128408,"׼×ķת":128409,"Ġhá»Ļi":128410,"Ġbằng":128411,"تÙĩا":128412,"Ġ׼×ĵ×Ļ":128413,"Ġ×Ķ×Ŀ":128414,"Ġxuất":128415,"ĠÙĤد":128416,"Ġbảo":128417,"Ġtá»ijt":128418,"Ġtình":128419,"ĠÙĩÙĬ":128420,"ĠÄijá»iji":128421,"Ġthiết":128422,"Ġhiá»ĩu":128423,"Ġtiếp":128424,"Ġtạo":128425,"ת×Ķ":128426,"Ġchá»§":128427,"oÅĽÄĩ":128428,"Ġgiú":128429,"Ġgiúp":128430,"Ġý":128431,"Ġquả":128432,"Ġloại":128433,"Ġcô":128434,"Ġô":128435,"Ġông":128436,"Ġ×Ķ×ķ":128437,"ĠاÙĦÙĬÙĪÙħ":128438,"ĠtÃŃnh":128439,"га":128440,"Ġphòng":128441,"ĠÄĥn":128442,"ĠعاÙħ":128443,"Ġvá»ĭ":128444,"larını":128445,"rÃŃa":128446,"ĠtỼi":128447,"ĠÄijưá»Ŀng":128448,"ĠgiỼi":128449,"Ġbản":128450,"Ġcầu":128451,"Ġnhiên":128452,"Ġbá»ĩnh":128453,"Ġthưá»Ŀng":128454,"Ġ×IJ×Ļף":128455,"ĠÄijá»ģ":128456,"Ġhá»ĩ":128457,"Ġ×Ļשר×IJ׾":128458,"Ġquá":128459,"ĠÐĹа":128460,"ãģ®ãģ§ãģĻãģĮ":128461,"ĠÐŁÑĢи":128462,"Ġphần":128463,"ĠÙĪÙĦا":128464,"ĠlỼn":128465,"Ġtrá»ĭ":128466,"Ġcảm":128467,"Ġмо":128468,"Ġdùng":128469,"ĠاÙĦÙī":128470,"ĠعÙĦÙĬÙĩ":128471,"ĠìŀĪìĬµëĭĪëĭ¤":128472,"ÙĬÙĤ":128473,"ĠÙĤبÙĦ":128474,"Ġhoặc":128475,"ĠØŃÙĬØ«":128476,"Ġà¸Ĺีà¹Ī":128477,"ĠغÙĬر":128478,"ĠÄijại":128479,"Ġsá»ijng":128480,"нÑĭми":128481,"Ġthức":128482,"Ġפ×Ļ":128483,"ĠÄijiá»ĩn":128484,"ãģªãģĭãģ£ãģŁ":128485,"Ġgiải":128486,"Ġvẫn":128487,"ĠиÑħ":128488,"Ġönce":128489,"ĠváºŃy":128490,"Ġmuá»ijn":128491,"Ġảnh":128492,"à¹ĥà¸Ļà¸ģาร":128493,"ĠQuá»ijc":128494,"Ġkế":128495,"׳×IJ":128496,"Ġס×Ļ":128497,"Ġyêu":128498,"ãģ®ãģĭ":128499,"ĠÄijẹ":128500,"ĠÄijẹp":128501,"Ġchức":128502,"Ġyıl":128503,"ĠTürkiye":128504,"dé":128505,"ĠÙĤاÙĦ":128506,"Ġdá»ĭch":128507,"ĠolduÄŁu":128508,"Ġchá»įn":128509,"ĠتÙħ":128510,"หà¸Ļึà¹Īà¸ĩ":128511,"ãģķãĤĮãģŁ":128512,"Ġpháp":128513,"ìĽĶ":128514,"Ġtiá»ģn":128515,"ãģĹãģ¾ãģĹãģŁ":128516,"Ġש׾×IJ":128517,"ÙĦØ©":128518,"Ġ׾פ׳×Ļ":128519,"Ġ×ij×Ļת":128520,"ĠHÃł":128521,"ĠØŃت":128522,"ĠØŃتÙī":128523,"Ġ×¢×ķ×ĵ":128524,"Ġnó":128525,"Ġtháng":128526,"à¹Ģลืà¸Ńà¸ģ":128527,"ר×Ķ":128528,"ĠtÄĥng":128529,"Ġcái":128530,"Ġtriá»ĥn":128531,"Ġ×IJ×ķת×ķ":128532,"ìłģìĿ¸":128533,"ĠCông":128534,"Ġ׾×Ķ×Ļ×ķת":128535,"Ġгода":128536,"иÑİ":128537,"Ġبعض":128538,"Ġà¸ģาร":128539,"èī¯ãģĦ":128540,"ÙĪØª":128541,"Ġliên":128542,"ĠÐĿо":128543,"ĠÐĿе":128544,"çļĦãģª":128545,"ĠÙħت":128546,"ĠÑĤакже":128547,"ĠкоÑĤоÑĢÑĭе":128548,"Ġ×Ļ×ĵ×Ļ":128549,"Ġtrá»įng":128550,"ãĤµãĤ¤ãĥĪ":128551,"ìłģìľ¼ë¡ľ":128552,"ĠtáºŃp":128553,"Ġש׾×Ļ":128554,"íķĺê²Į":128555,"ĠtÃłi":128556,"ĠЯ":128557,"Ġrá»ĵi":128558,"اÙĥ":128559,"Ġthương":128560,"Ġ×Ķ×ĸ×Ķ":128561,"ĠÙĪÙħÙĨ":128562,"à¸Ĺีà¹Īมี":128563,"Ġcuá»Ļc":128564,"Ġbüyük":128565,"ãģ¨ãģĭ":128566,"Ġ×ij×Ļ×ķתר":128567,"Ġlần":128568,"Ġgöre":128569,"Ġtrợ":128570,"Ġ×ĺ×ķ×ij":128571,"ÑĤÑĮÑģÑı":128572,"Ġthá»ijng":128573,"Ġ׼ש":128574,"Ġtiêu":128575,"Ġ×ŀ×IJ×ķ×ĵ":128576,"ØĽ":128577,"kÄħ":128578,"Ġà¹ĥà¸Ļ":128579,"Ġvấn":128580,"Ġש׾×ķ":128581,"ĠÄijá»ģu":128582,"ÙģØª":128583,"Ġê²ĥìĿ´":128584,"Ġhóa":128585,"ĠاÙĦعاÙħ":128586,"ĠÙĬÙĪÙħ":128587,"кой":128588,"Ġbiá»ĩt":128589,"ÑģÑĤо":128590,"Ġ×Ķ×Ļ×ķ":128591,"à¸Ĺีà¹Īà¸Īะ":128592,"Ġ×ĵ×Ļ":128593,"Ġ×IJ×ļ":128594,"Ġán":128595,"صÙĪØ±":128596,"ĠtrÃŃ":128597,"ĠÐŁÑĢо":128598,"Ġlá»±c":128599,"ãģĹãģ¦ãģĦãģ¾ãģĻ":128600,"ĠbÃłi":128601,"Ġ×ĸ×IJת":128602,"Ġbáo":128603,"à¸ļà¸Ļ":128604,"ĠëĮĢíķľ":128605,"Ġtiế":128606,"Ġtiếng":128607,"Ġbên":128608,"ãģķãĤĮãĤĭ":128609,"sión":128610,"Ġtìm":128611,"×¢×ķ":128612,"mé":128613,"ниÑı":128614,"ãģ»ãģ©":128615,"Ġà¹Ģà¸ŀราะ":128616,"بة":128617,"Ġë¶Ħ":128618,"Ġ×IJ×ĸ":128619,"à¸Ĺà¹Īาà¸Ļ":128620,"ת×Ŀ":128621,"Ġthêm":128622,"Ġhoạt":128623,"yı":128624,"×ĸ×ķ":128625,"Ġgiá»Ŀ":128626,"Ġbán":128627,"à¸Ĥาย":128628,"Ñĩа":128629,"Ġà¹Ĩ":128630,"ĠاÙĦÙħت":128631,"ĠоÑĩенÑĮ":128632,"Ġbất":128633,"Ġtrẻ":128634,"ÑĤÑĢ":128635,"ĠØ£ÙĨÙĩ":128636,"ĠØ«Ùħ":128637,"Ġ׼×ŀ×Ķ":128638,"Ġkhó":128639,"Ġrằng":128640,"ĠÙĪÙģÙĬ":128641,"ний":128642,"ĠhoÃłn":128643,"tó":128644,"Ġ×IJשר":128645,"ĠìĥĿê°ģ":128646,"Ñģа":128647,"Ġ׼×ijר":128648,"ĠÑįÑĤом":128649,"larının":128650,"Ġchưa":128651,"зи":128652,"Ġdẫn":128653,"ĠÐļак":128654,"جÙĪ":128655,"ĠбÑĭло":128656,"ĠÙĬت":128657,"nı":128658,"ÅĤam":128659,"ĠÙĪÙĩÙĪ":128660,"×ij×ķ":128661,"пи":128662,"רת":128663,"Ġquá»ijc":128664,"жд":128665,"ĠÄijÆ¡n":128666,"Ùĥتب":128667,"Ġmắt":128668,"ระà¸ļ":128669,"ระà¸ļà¸ļ":128670,"ĠÙĥاÙĨت":128671,"Ġthân":128672,"สิà¸Ļà¸Ħà¹īา":128673,"×Ĵ×Ļ":128674,"Ġphương":128675,"à¹Ħมà¹Īà¹Ħà¸Ķà¹ī":128676,"ĠìĦ±":128677,"ĠCác":128678,"Ġ×Ķ×ŀ×ķ":128679,"ĠÑĤем":128680,"Ġ×ĵ×ķ":128681,"à¸Ńะà¹Ħร":128682,"ĠvÄĥn":128683,"ãģªãģ®ãģ§":128684,"ĠNá»Ļi":128685,"Ġ×¢×ķ":128686,"ãĤīãĤĮãĤĭ":128687,"Ġsáng":128688,"Ġgöster":128689,"ãģĵãģ¨ãĤĴ":128690,"Ġtarafından":128691,"Ġма":128692,"ĠпоÑģле":128693,"Ġ׳×Ļת":128694,"Ġ׳×Ļ×ª×Ł":128695,"ĠлеÑĤ":128696,"Ġ׾׳×ķ":128697,"ÑģÑģ":128698,"Ġ×Ļ×ķ":128699,"пе":128700,"ĠÙĪÙĦÙĥ":128701,"ĠÙĪÙĦÙĥÙĨ":128702,"ĠngoÃłi":128703,"ĠÄijá»ĭa":128704,"rzÄħd":128705,"dziaÅĤ":128706,"ĠÙħر":128707,"иÑĤÑĮÑģÑı":128708,"Ġ×IJ×Ĺר×Ļ":128709,"Ġ׾׼׾":128710,"à¸Ĥà¹īà¸Ńม":128711,"à¸Ĥà¹īà¸Ńมูล":128712,"Ġбол":128713,"Ġболее":128714,"جÙħع":128715,"леÑĤ":128716,"Ġlá»ĭch":128717,"ĠÙħØ«ÙĦ":128718,"Ġê·¸ë¦¬ê³ł":128719,"Ġthứ":128720,"ĠdeÄŁil":128721,"ÙĪØŃ":128722,"Ġש׾×ļ":128723,"ĠÙħØŃÙħد":128724,"Ġnếu":128725,"ĠÄijá»ķi":128726,"Ġvừa":128727,"Ġmá»įi":128728,"Ġони":128729,"Ġlúc":128730,"ĠÙĬÙĥÙĪÙĨ":128731,"ì§Ī":128732,"Ġש׾׳×ķ":128733,"ĠÐĶо":128734,"Ġש׳×Ļ":128735,"ลิ":128736,"×IJפשר":128737,"Ġsức":128738,"ê¶Į":128739,"Ġứng":128740,"à¹Ħมà¹Īมี":128741,"Ø·ÙĦب":128742,"ĠÑĩем":128743,"Ġchuyên":128744,"ĠthÃŃch":128745,"Ġ×ķ×Ļ":128746,"íķ©":128747,"ĠÙħصر":128748,"до":128749,"ĠÄijất":128750,"Ġchế":128751,"à¸Ĭืà¹Īà¸Ń":128752,"Ġìĭł":128753,"Ġإذا":128754,"ĠرئÙĬس":128755,"Ġש×Ļש":128756,"Ġgiảm":128757,"Ñģка":128758,"larında":128759,"Ġsợ":128760,"ĠtÃŃch":128761,"ĠÙĦÙĥÙĨ":128762,"ĠبÙħ":128763,"×¢×ķ×ij":128764,"×¢×ķ×ij×ĵ":128765,"ÅĤÄħcz":128766,"larına":128767,"Ġש×Ŀ":128768,"ĠÙĦت":128769,"Ġש×Ķ×ķ×IJ":128770,"tów":128771,"Ġëĭ¤ë¥¸":128772,"ĠØ£Ùĥثر":128773,"ãģ®ãģ§ãģĻ":128774,"׼×Ļ×Ŀ":128775,"ĠolduÄŁunu":128776,"ãģĭãģª":128777,"ãĤĤãģĨ":128778,"ÙĬØŃ":128779,"Ġnhìn":128780,"Ġnghá»ĩ":128781,"ãģ«ãģªãģ£ãģ¦":128782,"па":128783,"Ġquyết":128784,"ÙĦÙĤ":128785,"tá":128786,"Ġluôn":128787,"ĠÄijặc":128788,"Ġ×IJר":128789,"Ġtuá»ķi":128790,"são":128791,"ìϏ":128792,"رد":128793,"ĠبÙĩا":128794,"Ġ×Ķ×Ļ×ķ×Ŀ":128795,"×ķ×ķ×Ļ":128796,"ãģ§ãģĻãģŃ":128797,"ĠÑĤого":128798,"Ġthá»§":128799,"ãģĹãģŁãģĦ":128800,"رÙĤ":128801,"Ġbắt":128802,"гÑĥ":128803,"Ġtá»Ń":128804,"ÑĪа":128805,"Ġà¸Ľà¸µ":128806,"Ġ×Ķ×IJ×Ŀ":128807,"íı¬":128808,"ża":128809,"Ġ×IJת×Ķ":128810,"Ġná»Ļi":128811,"ĠphÃŃ":128812,"ĠÅŁekilde":128813,"Ġlá»Ŀi":128814,"dıģı":128815,"Ġ׼×IJף":128816,"Ġtüm":128817,"Ġmạnh":128818,"ĠMỹ":128819,"ãģĿãĤĵãģª":128820,"Ġnhá»ı":128821,"ãģªãģĮãĤī":128822,"Ġbình":128823,"ıp":128824,"à¸ŀา":128825,"ĠÄijánh":128826,"ĠÙĪÙĦ":128827,"ר×ķת":128828,"Ġ×IJ×Ļ×ļ":128829,"Ġchuyá»ĥn":128830,"Ùĥا":128831,"ãĤĮãĤĭ":128832,"à¹ģมà¹Ī":128833,"ãĤĪãģı":128834,"ĠÙĪÙĤد":128835,"íĸĪëĭ¤":128836,"ĠnÆ¡i":128837,"ãģ«ãĤĪãģ£ãģ¦":128838,"Ġviết":128839,"Ġà¹Ģà¸ŀืà¹Īà¸Ń":128840,"ëIJĺëĬĶ":128841,"ادÙĬ":128842,"ĠÙ쨥ÙĨ":128843,"ì¦Ŀ":128844,"ĠÄijặt":128845,"ĠhÆ°á»Ľng":128846,"Ġxã":128847,"Ġönemli":128848,"ãģłãģ¨":128849,"Ġmẹ":128850,"Ġ×ij×Ļ":128851,"Ġ×ĵ×ijר":128852,"ĠváºŃt":128853,"ĠÄijạo":128854,"Ġdá»±ng":128855,"ĠÑĤом":128856,"ĠÙģÙĬÙĩا":128857,"ĠجÙħÙĬع":128858,"ĠthuáºŃt":128859,"stÄĻp":128860,"Ġtiết":128861,"Ø´ÙĬ":128862,"ĠеÑīе":128863,"ãģĻãĤĭãģ¨":128864,"ĠmÃłu":128865,"ĠÑįÑĤого":128866,"Ġvô":128867,"ĠÐŃÑĤо":128868,"ĠtháºŃt":128869,"Ġnữa":128870,"Ġbiến":128871,"Ġnữ":128872,"Ġ׾׼×Ŀ":128873,"×Ļ×Ļף":128874,"Ġست":128875,"ĠÐŀÑĤ":128876,"Ġphụ":128877,"ê¹Įì§Ģ":128878,"Ġ׾×ļ":128879,"Ġkỳ":128880,"à¹ĥà¸Ħร":128881,"Ġgây":128882,"ĠÙĦÙĦÙħ":128883,"Ġtục":128884,"تÙĬÙĨ":128885,"Ġtrợ":128886,"Ġ׾פ×Ļ":128887,"Ġbá»ij":128888,"ĠÐļа":128889,"ĠÄijình":128890,"owÄħ":128891,"sında":128892,"Ġkhiến":128893,"sız":128894,"Ġкогда":128895,"×¡×ľ":128896,"ĠбÑĭл":128897,"à¸Ļà¹īà¸Ńย":128898,"обÑĢаз":128899,"Ġê²ĥìĿ´ëĭ¤":128900,"ëĵ¤ìĿĢ":128901,"ãģ¸ãģ®":128902,"Ġà¹Ģมืà¹Īà¸Ń":128903,"Ġphục":128904,"Ġ×Ĺ׾ק":128905,"Ġhết":128906,"ĠÄija":128907,"à¹Ģà¸Ķà¹ĩà¸ģ":128908,"íĺķ":128909,"lÃŃ":128910,"ê¸ī":128911,"Ġعدد":128912,"ĠÄijá»ĵ":128913,"Ġgần":128914,"Ġ×Ļ×ķ×Ŀ":128915,"ĠsÄ©":128916,"ÑĢÑıд":128917,"Ġquyá»ģn":128918,"Ġ×IJ׾×IJ":128919,"ÙĩÙħا":128920,"׳×Ļ×Ķ":128921,"׾×ķת":128922,"Ġ×Ķר×ij×Ķ":128923,"Ġtiên":128924,"Ġalın":128925,"Ġdá»ħ":128926,"人ãģĮ":128927,"ноÑģ":128928,"лÑģÑı":128929,"ĠÄijưa":128930,"สาว":128931,"иÑĢован":128932,"Ġ×ŀספר":128933,"×Ĵף":128934,"Ġkiến":128935,"ĠШ":128936,"pé":128937,"бÑĥ":128938,"овой":128939,"ба":128940,"ĠØ¥ÙĦا":128941,"×IJ׾×Ļ":128942,"Ġxây":128943,"Ġbợi":128944,"Ġש×ķ":128945,"人ãģ®":128946,"×§×Ļ×Ŀ":128947,"à¹Ģà¸Ķืà¸Ńà¸Ļ":128948,"Ġkhá":128949,"Ġ×ķ׾×Ķ":128950,"×ĵ×ķת":128951,"Ġ×¢×ij×ķר":128952,"ĠبشÙĥÙĦ":128953,"ĠÙĩÙĨاÙĥ":128954,"ÑĤÑĢа":128955,"ĠíķĺëĬĶ":128956,"รà¸Ńà¸ļ":128957,"owaÅĤ":128958,"hé":128959,"Ġdiá»ħn":128960,"Ġ×Ķ׼׾":128961,"Ġأس":128962,"Ġchuyá»ĩn":128963,"ระà¸Ķัà¸ļ":128964,"ĠNhững":128965,"Ġ×IJ×Ĺת":128966,"ĠØŃÙĪÙĦ":128967,"лов":128968,"׳ר":128969,"Ġ×ķ׳":128970,"ĠchÆ¡i":128971,"Ġiçinde":128972,"ÑģÑĤвÑĥ":128973,"Ġphá»ij":128974,"ĠÑģÑĥ":128975,"ç§ģãģ¯":128976,"Ġchứng":128977,"Ġvá»±c":128978,"à¹ģà¸Ń":128979,"ĠláºŃp":128980,"Ġtừng":128981,"å°ijãģĹ":128982,"ĠNguy":128983,"ĠNguyá»ħn":128984,"ĠÙģÙĬÙĩ":128985,"Ġба":128986,"×Ļ×Ļת":128987,"Ġ×ľ×¢×©×ķת":128988,"Ġ×ŀ׼":128989,"Ġnghiá»ĩm":128990,"Ġмного":128991,"Ġее":128992,"ëIJĺìĸ´":128993,"Ġlợi":128994,"Ġ׾׾×IJ":128995,"Ġ׼ף":128996,"ĠchÃŃ":128997,"ãģ§ãģ®":128998,"×Ĺ×ķ":128999,"ש×ķ×Ŀ":129000,"Ġ×ŀר":129001,"ĠÐĶлÑı":129002,"Åģ":129003,"Ġ׼×IJשר":129004,"ĠMá»Ļt":129005,"ĠÙĪØ§ÙĦت":129006,"ĠìĿ´ëٰ":129007,"ÅŁa":129008,"Ġchiến":129009,"Ġarasında":129010,"Ġ×ij×IJתר":129011,"ãģķãĤĮãģ¦ãģĦãĤĭ":129012,"Ø´ÙĥÙĦ":129013,"Ġtượng":129014,"Ġتت":129015,"ĠCó":129016,"Ġbá»ı":129017,"Ġtá»īnh":129018,"ĠkhÃŃ":129019,"ĠпÑĢоÑģÑĤ":129020,"ĠпÑĢоÑģÑĤо":129021,"ĠÙĪÙĤاÙĦ":129022,"Ġgiáo":129023,"ĠNếu":129024,"×IJ×ŀר":129025,"×¢×ł×Ļ×Ļף":129026,"íݸ":129027,"ÙĩدÙģ":129028,"ĠBá»Ļ":129029,"ĠbÃłn":129030,"Ġnguyên":129031,"Ġgüzel":129032,"สาย":129033,"ì²ľ":129034,"×ŀ×ķר":129035,"Ġphân":129036,"ספק":129037,"×§×ij׾":129038,"ĠاÙĦÙħتØŃ":129039,"ĠاÙĦÙħتØŃدة":129040,"ائد":129041,"Ġ×IJ×ŀר":129042,"ĠkiÅŁi":129043,"ì¤Ģ":129044,"Ġtruyá»ģn":129045,"ĠÙĦÙĩا":129046,"ĠÐľÐ°":129047,"à¸ļริษ":129048,"à¸ļริษั":129049,"à¸ļริษัà¸Ĺ":129050,"Ġש׳×Ļ×Ŀ":129051,"ĠменÑı":129052,"ÅŁe":129053,"Ġdiá»ĩn":129054,"Ġ×IJ׳×Ĺ׳×ķ":129055,"kü":129056,"Ġcá»ķ":129057,"Ġmá»Ĺi":129058,"wä":129059,"ÙħÙĬ":129060,"Ġhiá»ĥu":129061,"ëĭ¬":129062,"Ġ×Ķ×Ĺ׾":129063,"Ġtên":129064,"Ġkiá»ĩn":129065,"ÙĨÙĤÙĦ":129066,"Ġvá»ĩ":129067,"×ĵת":129068,"ĠÐłÐ¾ÑģÑģии":129069,"лÑĥ":129070,"ĠاÙĦعربÙĬØ©":129071,"ĠطرÙĬÙĤ":129072,"Ġ×Ķ×ij×Ļת":129073,"ÑģеÑĢ":129074,"Ġмне":129075,"äu":129076,"Ġtriá»ĩu":129077,"ĠÄijá»§":129078,"Ġר×ij":129079,"تÙĩÙħ":129080,"à¸ĭี":129081,"Ġì§Ģê¸Ī":129082,"liÅĽmy":129083,"دعÙħ":129084,"ãģłãĤįãģĨ":129085,"Ñģкие":129086,"Ġhá»ıi":129087,"Ġ×§×ķ":129088,"ÑĢÑĥÑģ":129089,"ÙĨظر":129090,"ãģ®ãĤĤ":129091,"Ġ×Ķ׼×Ļ":129092,"ĠìĽIJ":129093,"ÙĪÙĩ":129094,"ĠÙĪÙİ":129095,"ĠBạn":129096,"плаÑĤ":129097,"Ġ×ŀ×ŀש":129098,"лÑİб":129099,"ĠнÑĥжно":129100,"Ġthư":129101,"ãģµ":129102,"ãģıãĤīãģĦ":129103,"رش":129104,"ר×ķ×Ĺ":129105,"ĠÙĬتÙħ":129106,"Ġצר×Ļ×ļ":129107,"Ġphá":129108,"มà¸Ńà¸ĩ":129109,"Ġ×ij×IJ×ķפף":129110,"Ġcảnh":129111,"Ġíķľëĭ¤":129112,"Ġ×Ķ×ŀת":129113,"à¸ķà¹Īาà¸ĩà¹Ĩ":129114,"มีà¸ģาร":129115,"ÑģкиÑħ":129116,"ĠÐĴÑģе":129117,"ĠاÙĪ":129118,"جÙĬ":129119,"ãģĵãģ¨ãģ¯":129120,"ĠdÃłi":129121,"Ġhá»ĵ":129122,"èĩªåĪĨãģ®":129123,"à¹Ħหà¸Ļ":129124,"ëĵ¤ìĿĦ":129125,"ĠVÄĥn":129126,"Ġдаж":129127,"Ġдаже":129128,"Ñĭми":129129,"лаÑģÑĮ":129130,"ÙĬÙĪÙĨ":129131,"ÙĨÙĪ":129132,"có":129133,"ãģĹãģ¦ãģĦãģŁ":129134,"ãģłãģĭãĤī":129135,"طاÙĦب":129136,"Ġcá»Ńa":129137,"пÑĢоÑģ":129138,"ãģªãģ©ãģ®":129139,"รุà¹Īà¸Ļ":129140,"Ġchiếc":129141,"лÑĭ":129142,"ĠÑıвлÑıеÑĤÑģÑı":129143,"Ġná»ķi":129144,"ãģ®ãģĬ":129145,"Ġ×IJת×Ŀ":129146,"ĠëķĮ문ìĹIJ":129147,"à¸ģลาà¸ĩ":129148,"ĠbaÅŁka":129149,"ìĦĿ":129150,"ĠÑĨел":129151,"ÙģÙĤ":129152,"ãģ«ãĤĪãĤĭ":129153,"ÙĤا":129154,"Ġçıkar":129155,"Ġcứu":129156,"طا":129157,"Ġשת":129158,"à¹Ĥà¸Ħ":129159,"Ġ×ŀ׾":129160,"Ġ×Ķפר":129161,"Ġгде":129162,"Ġخط":129163,"åīįãģ«":129164,"cjÄĻ":129165,"Ġ×Ĺש×ķ×ij":129166,"ר×Ĵ×¢":129167,"Ġkhoảng":129168,"ĠÄijá»Ŀi":129169,"ĠÐłÐµ":129170,"Ġона":129171,"Ġ×IJ׳×ķ":129172,"ãģ®ãģ«":129173,"ĠاÙĦذÙĬÙĨ":129174,"кÑĥп":129175,"ãĤµãĥ¼ãĥ":129176,"ãĤµãĥ¼ãĥĵ":129177,"ãĤµãĥ¼ãĥĵãĤ¹":129178,"вал":129179,"ге":129180,"Ġgiữa":129181,"ĠKhông":129182,"ĠâĹĭ":129183,"à¸ģลุà¹Īม":129184,"ĠÙħÙĨذ":129185,"à¸Ńà¹Īาà¸Ļ":129186,"ĠÑģпоÑģоб":129187,"ĠÄijá»Ļi":129188,"ĠdiÄŁer":129189,"Ġà¸ĸà¹īา":129190,"ÙħØ«ÙĦ":129191,"Ġ×Ķ×IJ×Ļ":129192,"ĠدÙĪÙĨ":129193,"ÙĬراÙĨ":129194,"Ñīи":129195,"بÙĨاء":129196,"Ġآخر":129197,"ظÙĩر":129198,"Ġ×ij׼":129199,"ĠاÙĦÙħع":129200,"ãĥĴ":129201,"Ġtất":129202,"Ġmục":129203,"ĠdoÄŁru":129204,"ãģŁãĤī":129205,"Ġס×ķ":129206,"Ġxác":129207,"รà¸Ń":129208,"ĠcÄĥn":129209,"Ġонл":129210,"Ġонлайн":129211,"Ġký":129212,"Ġchân":129213,"Ġà¹Ħมà¹Ī":129214,"اØŃØ©":129215,"rán":129216,"׳×Ļ×Ļ×Ŀ":129217,"Ġ×ijף":129218,"ĠÐĸ":129219,"à¸ķรà¸ĩ":129220,"дÑĭ":129221,"Ġsắc":129222,"ÙĦت":129223,"ãĥŃãĥ¼":129224,"ĠÙĦÙĨ":129225,"Ġר×ķ":129226,"ĠdÆ°á»Ľi":129227,"à¹Ģà¸ĺ":129228,"à¹Ģà¸ĺà¸Ń":129229,"eÄŁi":129230,"Ġ×ķש":129231,"ĠÙĦØ£":129232,"Ġgặp":129233,"Ġcá»ij":129234,"ãģ¨ãģ¦ãĤĤ":129235,"رÙĪØ³":129236,"Ġ׾×Ķ×Ļ":129237,"Ġ본":129238,"ä¸ĬãģĴ":129239,"Ġmức":129240,"Ñħа":129241,"Ġìŀ¬":129242,"à¸īัà¸Ļ":129243,"ÑĢÑĥж":129244,"Ġaçık":129245,"ÙĪØ§ÙĦ":129246,"Ġ×ĸ×ŀף":129247,"人ãģ¯":129248,"عÙĬÙĨ":129249,"ÑıÑħ":129250,"Ġ×Ĵ×ĵ×ķ׾":129251,"ר×ķ×ij":129252,"gó":129253,"ëĿ¼ê³ł":129254,"ĠarkadaÅŁ":129255,"ÙĨشر":129256,"ĠгодÑĥ":129257,"ĠболÑĮÑĪе":129258,"ãģ¡ãĤĩãģ£ãģ¨":129259,"Ġcâu":129260,"Ġsát":129261,"íͼ":129262,"Ġtiến":129263,"íķ´ìķ¼":129264,"ĠÙĪØ£ÙĨ":129265,"à¸Ļาà¸Ļ":129266,"Ġ×ij×IJ×ŀצע":129267,"Ġ×ij×IJ×ŀצע×ķת":129268,"Ġ׾ר":129269,"Ġquản":129270,"ĠÙĪØ§ÙĦØ£":129271,"Ġ×IJ×ķת×Ķ":129272,"Ġìĸ´ëĸ¤":129273,"Ġê²ĥìĿĢ":129274,"ØŃسÙĨ":129275,"Ġmất":129276,"à¸Ħูà¹Ī":129277,"ãĥ¬ãĥ¼":129278,"ĠÐĶа":129279,"Ġolması":129280,"Ġthuá»Ļc":129281,"׳×Ĺ":129282,"íĨł":129283,"Ġsöyle":129284,"ãģĿãģĨãģ§ãģĻ":129285,"ĠتÙĥÙĪÙĨ":129286,"лÑĥÑĩ":129287,"׾×Ļ×ļ":129288,"ĠØ£ØŃد":129289,"лиÑģÑĮ":129290,"ĠвÑģего":129291,"Ġ×Ķר×ij":129292,"Ġ못":129293,"oÄŁ":129294,"oÄŁlu":129295,"ĠìĦł":129296,"ĠкаÑĢ":129297,"à¸łà¸²à¸Ħ":129298,"eÅĦ":129299,"Ġà¸ģà¹ĩ":129300,"Ġaynı":129301,"ĠbÃł":129302,"ãģªãĤĵãģ¦":129303,"Ġ모ëĵł":129304,"ÙĤرار":129305,"ãģĹãģªãģĦ":129306,"ĠÐĴо":129307,"ĠÙĪÙĩÙĬ":129308,"ники":129309,"ãĤĮãģŁ":129310,"Ġchuẩn":129311,"רע":129312,"Ù쨱ÙĬÙĤ":129313,"ãĤĴåıĹãģij":129314,"ĠÄijúng":129315,"бе":129316,"׼×ķ×Ĺ":129317,"пÑĥ":129318,"Ġ×ķ×Ĵ×Ŀ":129319,"×ŀ׳×Ļ":129320,"íĸ¥":129321,"צ×Ļ×Ŀ":129322,"à¸ĭิ":129323,"ÙĩÙĨ":129324,"нем":129325,"Ġ×ij×ij×Ļת":129326,"رع":129327,"Ġส":129328,"ĠÄIJÃł":129329,"íķĺëĭ¤":129330,"Ġấy":129331,"×Ĺ×ķ×ĵ":129332,"×Ĺ×ķ×ĵש":129333,"ĠÑĩеÑĢез":129334,"Ñĥл":129335,"ĠBình":129336,"Ġê²ĥìĿĦ":129337,"Ġ×Ĵר":129338,"ä»ĺãģij":129339,"×Ĺ׾ק":129340,"ĠتÙĦÙĥ":129341,"à¹ĥสà¹Ī":129342,"szÄħ":129343,"ÙĤاÙħ":129344,"دÙĪØ±":129345,"ĠÙģÙĤØ·":129346,"Ġhữu":129347,"ĠмогÑĥÑĤ":129348,"Ġgá»įi":129349,"Ġקר":129350,"à¸Īะมี":129351,"تÙĤدÙħ":129352,"Ġعبر":129353,"Ġ׾×Ķ×Ŀ":129354,"ĠÑģамо":129355,"ס×ĵר":129356,"ĠcÃłng":129357,"rÃŃ":129358,"Ġìŀ¥":129359,"ëĵ¤ìĿĺ":129360,"ĠÙĦÙĥ":129361,"поÑĢÑĤ":129362,"Ġkhả":129363,"ĠÑģебÑı":129364,"׳ף":129365,"ĠدÙĪØ±":129366,"Ġmợ":129367,"Ġcây":129368,"Ġfark":129369,"Ġfarklı":129370,"аÑİÑĤ":129371,"Ġtrá»±c":129372,"wiÄĻksz":129373,"Ġthuá»ijc":129374,"ĠتØŃت":129375,"تÙĦ":129376,"овÑĭе":129377,"ëĤł":129378,"Ġвам":129379,"بÙĦغ":129380,"Ġê°ĻìĿĢ":129381,"íĮIJ":129382,"ÙĦب":129383,"Ġnasıl":129384,"Ġодин":129385,"ман":129386,"ĠعÙĦÙĬÙĩا":129387,"би":129388,"Ġפש×ķ×ĺ":129389,"×ijר×Ļ":129390,"Ġש׳×Ķ":129391,"ĠëıĦ":129392,"ĠÄIJại":129393,"Ġ×IJ×ķת×Ŀ":129394,"ĠاÙĦØŃر":129395,"Ġбо":129396,"à¸Īุà¸Ķ":129397,"Ġrõ":129398,"ĠdeÄŁiÅŁ":129399,"Ġëĭ¨":129400,"ĠÑģлÑĥÑĩа":129401,"ĠÑģлÑĥÑĩае":129402,"Ġ×IJ׳ש×Ļ×Ŀ":129403,"×ĵ×£":129404,"ש×ijת":129405,"Ġש׾׼×Ŀ":129406,"Ġchú":129407,"ników":129408,"Ġtanı":129409,"Ġcáo":129410,"ĠÄijá":129411,"Ġ×IJ×ĵ×Ŀ":129412,"Ġê°ķ":129413,"Ġnhiá»ĩm":129414,"Ġ×ľ×¡":129415,"Ġ×Ľ×ª×ij":129416,"Ġ×Ķספר":129417,"ĠÄijÄĥng":129418,"ĠëijIJ":129419,"à¸ľà¸´":129420,"à¸ľà¸´à¸§":129421,"جا":129422,"Ġê°IJ":129423,"رأ":129424,"ستخدÙħ":129425,"ãģ«ãģªãĤĬãģ¾ãģĻ":129426,"Ġtá»·":129427,"×ĺ×ķר":129428,"говоÑĢ":129429,"ĠвоÑģ":129430,"ĠÙħÙĨÙĩا":129431,"иÑĢоваÑĤÑĮ":129432,"ĠÄijầy":129433,"׳×Ĵ":129434,"ĠÙħÙĪ":129435,"ĠÙħÙĪÙĤع":129436,"ר׼×Ļ":129437,"تÙı":129438,"모":129439,"Ġת×ķ":129440,"ÙĬاÙĭ":129441,"à¹ĥà¸Ķ":129442,"ãĤĬãģ¾ãģĻ":129443,"à¸Ńยูà¹Īà¹ĥà¸Ļ":129444,"ĠØ£ÙĪÙĦ":129445,"ĠأخرÙī":129446,"Ġcư":129447,"صار":129448,"×ŀ×Ĺש×ij":129449,"бÑĢа":129450,"ÅĦski":129451,"бÑĢ":129452,"ĠÙĬÙı":129453,"à¸ģิà¸Ļ":129454,"Ġchá»ijng":129455,"ÙħÙı":129456,"Ġà¸Ħืà¸Ń":129457,"ĠتÙĨ":129458,"tÃŃ":129459,"yÄĩ":129460,"Ġmạng":129461,"ÙģÙĪ":129462,"Ġdünya":129463,"קר×IJ":129464,"Ġק׾":129465,"ĠØŃاÙĦ":129466,"cÃŃa":129467,"Ġà¹Ģรา":129468,"Ġר×ķצ×Ķ":129469,"Ġáp":129470,"ë°ķ":129471,"اÙĤØ©":129472,"ниÑİ":129473,"Ġ×IJ׾×ķ":129474,"Ġ×ŀס×ķ":129475,"ãģ§ãģ¯ãģªãģı":129476,"Ġtrả":129477,"Ġקשר":129478,"miÅŁtir":129479,"Ġlưu":129480,"Ġhá»Ĺ":129481,"ĠбÑĭли":129482,"Ġlấy":129483,"عÙĦÙħ":129484,"Ġözel":129485,"æ°ĹãģĮ":129486,"Ġ×ĵר×ļ":129487,"Ùħد":129488,"sını":129489,"׳×ķש×IJ":129490,"rów":129491,"ÑĩеÑĢ":129492,"êµIJìľ¡":129493,"ĠÐľÐ¾":129494,"лег":129495,"ĠVỼi":129496,"วัà¸Ļà¸Ļีà¹ī":129497,"ÑİÑīие":129498,"ãģĬãģĻ":129499,"ãģĬãģĻãģĻ":129500,"ãģĬãģĻãģĻãĤģ":129501,"ëıħ":129502,"Ġ×Ļ×Ķ×Ļ×Ķ":129503,"×ŀ×ĺר":129504,"Ñıми":129505,"Ġlá»±a":129506,"ĠÄijấu":129507,"à¹Ģสียà¸ĩ":129508,"Ġtương":129509,"ëĵ±":129510,"ĠÑģÑĤаÑĢ":129511,"à¹ĥà¸ļ":129512,"วัà¸Ķ":129513,"Ġİstanbul":129514,"Ġà¸Īะ":129515,"à¸ķลาà¸Ķ":129516,"ĠبÙĬ":129517,"à¹ģà¸Ļะ":129518,"à¹ģà¸Ļะà¸Ļำ":129519,"ساعد":129520,"Ġبأ":129521,"Ġkiá»ĥm":129522,"ØŃسب":129523,"à¸Ĭัà¹īà¸Ļ":129524,"Ġ×ķ×¢×ķ×ĵ":129525,"овÑĭÑħ":129526,"оÑģнов":129527,"ĠtrÆ°á»Łng":129528,"צ×ij×¢":129529,"ĠÃŃt":129530,"Ġkỹ":129531,"cré":129532,"Ñıм":129533,"êµ°":129534,"ãģĮãģªãģĦ":129535,"ÙĬÙĦØ©":129536,"ãĥķãĤ£":129537,"رÙī":129538,"ĠÙĬجب":129539,"Ġ×IJ×£":129540,"Ġcá»±c":129541,"ãĤīãĤĮãģŁ":129542,"Ġà¸ľà¸¹à¹ī":129543,"Ġà¸Ń":129544,"larımız":129545,"Ġkadın":129546,"Ġê·¸ëŀĺ":129547,"Ġê·¸ëŀĺìĦľ":129548,"ĠëĺIJëĬĶ":129549,"ĠÄijả":129550,"ĠÄijảm":129551,"Ġ×IJ×ķ×ŀר":129552,"Ġyếu":129553,"ciÄħ":129554,"ciÄħg":129555,"Ġtá»ij":129556,"Ġש×IJ׳×Ļ":129557,"ĠdziaÅĤa":129558,"Ñīа":129559,"ĠÄijÃłn":129560,"sına":129561,"ãģĵãĤĮãģ¯":129562,"Ġ×ij׾×Ļ":129563,"Ġ×ij×Ļשר×IJ׾":129564,"лоÑģÑĮ":129565,"Ġgiữ":129566,"ê°IJ":129567,"ÑĢон":129568,"تجار":129569,"глав":129570,"вин":129571,"Ġhạn":129572,"Ġyapılan":129573,"بس":129574,"Ġà¸ŀรà¹īà¸Ńม":129575,"ê´Ģ리":129576,"mÄ±ÅŁtır":129577,"bü":129578,"rück":129579,"ĠBaÅŁkanı":129580,"ĠÙĦÙĬس":129581,"ĠsÆ¡":129582,"à¸Īัà¸ĩหว":129583,"à¸Īัà¸ĩหวัà¸Ķ":129584,"داء":129585,"Ġ×Ķ׼":129586,"vÃŃ":129587,"ש×IJר":129588,"ĠhÆ°á»Łng":129589,"Ġbóng":129590,"ĠChÃŃnh":129591,"Äħc":129592,"à¹Ģà¸ģีà¹Īยวà¸ģัà¸ļ":129593,"Ġtứ":129594,"Ġtức":129595,"ĠÑĨвеÑĤ":129596,"Ġtá»iji":129597,"ĠnghÄ©a":129598,"ÙĦاعب":129599,"دÙĦ":129600,"Ġפע×Ŀ":129601,"hör":129602,"à¸Ĭุà¸Ķ":129603,"à¸ŀู":129604,"à¸ŀูà¸Ķ":129605,"паÑģ":129606,"ĠÅŁu":129607,"ĠtÆ°á»Łng":129608,"خارج":129609,"Ġâm":129610,"ĠинÑĤеÑĢеÑģ":129611,"еннÑĭÑħ":129612,"×IJ׳×Ļ":129613,"بدأ":129614,"ëĿ¼ëĬĶ":129615,"ì¹´":129616,"æĸ¹ãģĮ":129617,"лив":129618,"Ġà¸Ħà¸Ļ":129619,"ער×ļ":129620,"à¸Ĥà¸Ńà¸ĩà¸Ħุà¸ĵ":129621,"пад":129622,"Ġcạnh":129623,"ĠëĤ¨":129624,"ĠÄijâu":129625,"Ġbiá»ĥu":129626,"ãĤĤãģĤãĤĭ":129627,"׾×Ĵ":129628,"Ġสำหรัà¸ļ":129629,"Ġxuá»ijng":129630,"ס×ķ":129631,"Ġذات":129632,"ĠÐľÐµ":129633,"عاÙĦÙħ":129634,"×IJס":129635,"بÙĬØ©":129636,"شا":129637,"ием":129638,"ĠNgưá»Ŀi":129639,"íĺij":129640,"Ñģлов":129641,"Ġпа":129642,"Ġmẫu":129643,"ĠпÑĢоÑĨеÑģÑģ":129644,"ĠNhÃł":129645,"пÑĢоиз":129646,"пÑĢоизвод":129647,"à¸łà¸²à¸¢à¹ĥà¸Ļ":129648,"Ġà¸ļาà¸Ĺ":129649,"×ŀ׳×ķ":129650,"ĠоÑĢган":129651,"רצ×ķ":129652,"×ķ×ŀ×Ļ×Ŀ":129653,"Ġyazı":129654,"Ġdù":129655,"ãĥ¬ãĥ³":129656,"ÙĪÙĦÙĬ":129657,"ยู":129658,"Ġtrò":129659,"à¹Ģà¸ŀลà¸ĩ":129660,"Ġ×ŀ׾×IJ":129661,"à¸ķล":129662,"à¸ķลà¸Ńà¸Ķ":129663,"ĠÄijạt":129664,"Ġ×Ĺ×ĵש":129665,"póÅĤ":129666,"Ġ×ŀ×ĵ×Ļ":129667,"ujÄħc":129668,"×ŀ׳×Ķ׾":129669,"Ġש×ij×ķ":129670,"Ġ×Ķ×ŀשפ×ĺ":129671,"Ġ×IJ׾×Ķ":129672,"ĠÙĪØ°ÙĦÙĥ":129673,"à¹Ģà¸ŀราะ":129674,"ĠÄijoÃłn":129675,"Ġíķ¨ê»ĺ":129676,"Ġdục":129677,"شت":129678,"Ġula":129679,"ĠulaÅŁ":129680,"Ġquý":129681,"Ġ×Ķ×Ĵ×ĵ×ķ׾":129682,"à¸ķัà¹īà¸ĩà¹ģà¸ķà¹Ī":129683,"Ġשר":129684,"Ø´Ùĩد":129685,"׳ש×Ļ×Ŀ":129686,"à¸ŀล":129687,"رÙĪØ§":129688,"ãĤĮãģ¦":129689,"ĠниÑħ":129690,"Ġдела":129691,"ãģ§ãģįãģªãģĦ":129692,"ÅĤoż":129693,"×IJ×Ĺר":129694,"ì½Ķ":129695,"ãĤ¢ãĥĥãĥĹ":129696,"دÙ쨹":129697,"Ġtiá»ĩn":129698,"Ġkhá»ı":129699,"Ġkhá»ıe":129700,"ĠاÙĦعاÙħØ©":129701,"ãģ«ãģĤãĤĭ":129702,"ĠÄijá»Ļc":129703,"족":129704,"Ġcụ":129705,"йÑĤе":129706,"Ġзакон":129707,"ĠпÑĢоекÑĤ":129708,"ìĸ¸":129709,"ÙĦØŃ":129710,"ĠçalÄ±ÅŁma":129711,"ãĤĴãģĻãĤĭ":129712,"Ñħи":129713,"عاد":129714,"Ġ׳×ŀצ×IJ":129715,"Ġר×Ļ":129716,"à¸Ńà¸Ńà¸ģมา":129717,"ĠTôi":129718,"Ġthần":129719,"ĠÙĬا":129720,"ลาย":129721,"ĠавÑĤо":129722,"Ġsıra":129723,"ĠÙĥØ«ÙĬر":129724,"ÙħÙĬز":129725,"ĠاÙĦعÙĦÙħ":129726,"æĸ¹ãģ¯":129727,"×ķ×¢×ĵ":129728,"ĠоблаÑģÑĤи":129729,"×Ļ׾×Ļ×Ŀ":129730,"ãģĮåĩº":129731,"à¸ĺุ":129732,"à¸ĺุร":129733,"à¸ĺุรà¸ģิà¸Ī":129734,"ÙĤتÙĦ":129735,"ר×IJ×ķ":129736,"Ġngu":129737,"Ġnguá»ĵn":129738,"Ġมา":129739,"Ġплан":129740,"tório":129741,"Ġcuá»iji":129742,"Ñģком":129743,"ĠاÙĦÙħاض":129744,"ĠاÙĦÙħاضÙĬ":129745,"Ġ×ij×¢×ľ":129746,"Ġר×ij×Ļ×Ŀ":129747,"ĠluáºŃn":129748,"ÙĥÙĪ":129749,"à¸Ĺัà¹īà¸ĩหมà¸Ķ":129750,"ван":129751,"Ġthoại":129752,"à¹Ħà¸Ń":129753,"биÑĢ":129754,"ĠاÙĦض":129755,"تا":129756,"ĠÑĢод":129757,"ĠVÃł":129758,"×ŀ×Ļף":129759,"ĠбÑĭла":129760,"ками":129761,"ĠÐĶе":129762,"tık":129763,"קר×Ļ":129764,"ĠeÄŁitim":129765,"ĠÙĥبÙĬر":129766,"بÙĥ":129767,"ĠÙĦÙĪ":129768,"вой":129769,"Ġãģĵãģ®":129770,"ĠÑĤÑĢÑĥд":129771,"myÅĽl":129772,"Ġsư":129773,"à¸ŀีà¹Ī":129774,"Ġà¹ģลà¹īว":129775,"×¢×§":129776,"Ġ×Ĺ×ijרת":129777,"ระหว":129778,"ระหวà¹Īาà¸ĩ":129779,"×Ļ×Ļ×Ķ":129780,"ĠاÙĦÙĨاس":129781,"ünü":129782,"Ġ׾×ŀ×Ķ":129783,"Ġchương":129784,"ĠHá»ĵ":129785,"ارت":129786,"ãĤĪãģĨãģ§ãģĻ":129787,"lá":129788,"×§×Ļ×Ļ×Ŀ":129789,"æľ¬å½ĵ":129790,"æľ¬å½ĵãģ«":129791,"ãģĵãĤĵãģª":129792,"Ñģов":129793,"Ġ×ķ×Ĺ":129794,"à¹Ģà¸ģà¹ĩà¸ļ":129795,"ĠкÑĤо":129796,"à¹Ĥรà¸Ħ":129797,"ĠشرÙĥØ©":129798,"عزÙĬ":129799,"عزÙĬز":129800,"Ø·ÙĦÙĤ":129801,"пÑĥÑģÑĤ":129802,"ÙģØªØŃ":129803,"ëŀĢ":129804,"Ġhãy":129805,"ضÙħ":129806,"린":129807,"åł´åIJĪãģ¯":129808,"ãĤªãĥ¼":129809,"Ġhắn":129810,"Ġ×IJ×ij×Ļ×ij":129811,"Ġש׾×Ķ×Ŀ":129812,"Ġ×Ķ×Ļ×Ļת×Ķ":129813,"ĠاÙĦدÙĪÙĦØ©":129814,"ĠاÙĦÙĪÙĤ":129815,"ĠاÙĦÙĪÙĤت":129816,"ãģĤãģ¾ãĤĬ":129817,"ĠtaÅŁÄ±":129818,"İN":129819,"עסק":129820,"ãģ¦ãģĦãģŁ":129821,"Ġtá»ķng":129822,"ĠاÙĦØ¥ÙĨس":129823,"ĠاÙĦØ¥ÙĨساÙĨ":129824,"ÑĢеÑĪ":129825,"Ġgái":129826,"ĠÑĨен":129827,"ĠÙģÙĤد":129828,"Ùħات":129829,"ãģķãĤĵãģ®":129830,"Ġphù":129831,"×ĺ×Ķ":129832,"ĠÙĪØ§ÙĦتÙĬ":129833,"ĠبÙĥ":129834,"ìĿ´ëĤĺ":129835,"кÑģ":129836,"ÙħÙĬر":129837,"Ġvùng":129838,"ĠاÙĦشعب":129839,"ĠNhưng":129840,"ãĥĢãĥ¼":129841,"Ġ×Ĺ×Ļ×Ļ×Ŀ":129842,"Ġشخص":129843,"×§×ķ×ĵ":129844,"ê²Ģ":129845,"עש":129846,"×¢×ķ׾×Ŀ":129847,"צ×ķר":129848,"عÙĤد":129849,"ĠiÅŁlem":129850,"Ġ×Ķ×ij×IJ":129851,"Ġdưỡng":129852,"à¸Łà¸£à¸µ":129853,"ĠphÃŃa":129854,"ãģ®ä¸Ńãģ§":129855,"Ġпи":129856,"ĠngÃłnh":129857,"нима":129858,"ĠÙĩÙĦ":129859,"Ġ×ķ×IJת":129860,"ĠÄijáng":129861,"équipe":129862,"ĠÑįÑĤоÑĤ":129863,"Ġgörev":129864,"매":129865,"Ġquân":129866,"å¼ķãģį":129867,"æĻĤãģ«":129868,"ĠبÙħا":129869,"×ŀ×Ļת":129870,"Ġülke":129871,"Ġ×ŀ×§×ķ×Ŀ":129872,"×ijף":129873,"æ°ĹæĮģãģ¡":129874,"Ġë§İìĿĢ":129875,"Ġyüksek":129876,"ÑĨенÑĤÑĢ":129877,"ĠÙħجÙĦس":129878,"ç§ģãģ®":129879,"ÙĤدر":129880,"Ġë¶Ģë¶Ħ":129881,"Ġì°¨":129882,"خرج":129883,"ãģĭãģªãĤĬ":129884,"ë³´ëĭ¤":129885,"Ġ×ŀ×Ļ×ĵ×¢":129886,"peÅĤni":129887,"Ġxá»Ń":129888,"ìĹIJìĦľëĬĶ":129889,"ĠباÙĦÙħ":129890,"ĠÙĪÙħا":129891,"ĠÑįÑĤой":129892,"بÙĬÙĨ":129893,"nü":129894,"ØŃز":129895,"ØŃزب":129896,"ĠÑĢабоÑĤа":129897,"ĠNháºŃt":129898,"ÙĦاء":129899,"Ġëĵ¤":129900,"Ġëĵ¤ìĸ´":129901,"ãĤĦãģĻãģĦ":129902,"×Ĺ×ĸ×§":129903,"Ġ×Ķ×Ĺ×ijר×Ķ":129904,"пиÑĤ":129905,"ãģĭãĤīãģ®":129906,"Ġë§IJìĶĢ":129907,"Ġפ×ķ":129908,"ÙĦÙİ":129909,"à¹Ģà¸ķà¹ĩม":129910,"ĠÐļо":129911,"Ġmówi":129912,"ĠtÃŃn":129913,"ר×Ĵש":129914,"פרק":129915,"Ġtrạng":129916,"ĠÐŀн":129917,"×Ĺ×ķ×¥":129918,"ĠعÙĨدÙħا":129919,"Ġبر":129920,"使ãģĦ":129921,"Ġrá»Ļng":129922,"ëĮĢë¡ľ":129923,"íά":129924,"Ġktórych":129925,"вид":129926,"ลูà¸ģà¸Ħà¹īา":129927,"ĠmogÄħ":129928,"Ġש×Ĺ":129929,"×ij×Ĺר":129930,"ãĥĸãĥŃãĤ°":129931,"ĠThÃłnh":129932,"Ġ×Ķר×Ļ":129933,"ĠÑģÑĤаÑĤÑĮ":129934,"ĠHá»Ļi":129935,"à¸ļà¹īาà¸ĩ":129936,"çī¹ãģ«":129937,"ĠÄIJức":129938,"èĢħãģ®":129939,"×¢×ŀ×ķ×ĵ":129940,"×ĺר×Ķ":129941,"Ð¥":129942,"ĠÙħÙħا":129943,"ĠeÅŁ":129944,"ĠнеобÑħодимо":129945,"ников":129946,"Ġüzerinde":129947,"aÅĤa":129948,"Ġchá»ĭu":129949,"ĠاÙĦدÙĬÙĨ":129950,"أخبار":129951,"ĠÄijau":129952,"ãģĮå¤ļãģĦ":129953,"jÄħcych":129954,"دخÙĦ":129955,"larınd":129956,"larından":129957,"Ġsẻ":129958,"à¸ŀิà¹Ģศ":129959,"à¸ŀิà¹Ģศษ":129960,"×ª×Ł":129961,"tıģı":129962,"ĠluáºŃt":129963,"ĠÅŀe":129964,"ãĤ«ãĥ¼":129965,"ãģ®ãģĤãĤĭ":129966,"Ġ×Ķ×IJתר":129967,"ĠاÙĦØ¢ÙĨ":129968,"ıldı":129969,"Ġáo":129970,"ĠнаÑĩал":129971,"Ġviá»ĩn":129972,"Ġ×ij×¢×ķ׾×Ŀ":129973,"знаÑĩ":129974,"×Ļ×ĺ×Ķ":129975,"кам":129976,"ĠÐĺз":129977,"à¹Ģà¸Ĥียà¸Ļ":129978,"à¸Ļà¹īà¸Ńà¸ĩ":129979,"ÑĤÑĢо":129980,"à¹Ģà¸Ł":129981,"Ġжизни":129982,"Ġสà¹Īวà¸Ļ":129983,"ĠváºŃn":129984,"Ġê´Ģ볨":129985,"Ġlâu":129986,"ס×ĺר":129987,"קש":129988,"سÙĬر":129989,"Ġ×IJ×ķת×Ļ":129990,"Ġmôi":129991,"ائب":129992,"ĠоÑģÑĤа":129993,"Ġmón":129994,"Ġ×ij×ŀ×§×ķ×Ŀ":129995,"ĠداخÙĦ":129996,"Ġ×IJ×ķר":129997,"ĠваÑģ":129998,"ÙĥØ´Ùģ":129999,"ìĺ¨":130000,"à¸ĸà¹Īาย":130001,"Ġkullanıl":130002,"Ġtô":130003,"ãģ«ãĤĪãĤĬ":130004,"ĠëĺIJíķľ":130005,"Ġ×¢×ij×ķ×ĵ×Ķ":130006,"Ġriê":130007,"Ġriêng":130008,"Ġyakın":130009,"زا":130010,"Å»":130011,"×IJ×ķ׼׾":130012,"شارÙĥ":130013,"ĠбеÑģ":130014,"×´":130015,"ĠابÙĨ":130016,"ĠTá»ķng":130017,"ÙĨظ":130018,"ÅĽwiad":130019,"ãĤµãĥ¼":130020,"หาย":130021,"ĠGün":130022,"Ġhakkında":130023,"à¹Ģà¸Ĥà¹īามา":130024,"زÙĨ":130025,"ĠÐłÐ¾":130026,"Ġbiá»ĥn":130027,"ãģ©ãģĵ":130028,"Ù쨹ÙĦ":130029,"زع":130030,"פר×ĺ":130031,"Ġ×Ķף":130032,"Ø£ÙĩÙĦ":130033,"Ġthất":130034,"ØŃÙħÙĦ":130035,"ÑĩÑĥ":130036,"ĠìĤ¬ìĭ¤":130037,"ì°¸":130038,"ĠìľĦíķ´":130039,"ÙĪØ¸":130040,"ĠÐŁÐ¾Ð´":130041,"Ġkhoản":130042,"ÑĤен":130043,"ĠÙ쨧ÙĦ":130044,"Ñģад":130045,"à¸Ļà¸Ńà¸Ļ":130046,"ĠاÙĦسعÙĪØ¯ÙĬØ©":130047,"\"ØĮ":130048,"ĠاÙĦÙĴ":130049,"ãĤīãģļ":130050,"Ġtoán":130051,"Ġchắc":130052,"׼×Ļר":130053,"méd":130054,"média":130055,"زÙĪ":130056,"Ġyanı":130057,"פ׳×Ļ×Ŀ":130058,"ØŃظ":130059,"ĠбеÑģп":130060,"ĠбеÑģплаÑĤ":130061,"ĠбеÑģплаÑĤно":130062,"ĠØ£ÙħاÙħ":130063,"à¸Ńาย":130064,"à¸Ńายุ":130065,"רשת":130066,"Ġgá»ĵ":130067,"Ġgá»ĵm":130068,"Ġuá»ijng":130069,"صب":130070,"kır":130071,"ãĥijãĥ¼":130072,"Ġ׾×ĵעת":130073,"ĠкÑĥпиÑĤÑĮ":130074,"׾×ķ×Ĺ":130075,"ÙĪØ¶Ø¹":130076,"ÙĤÙĬÙħ":130077,"à¸Ľà¸²":130078,"жив":130079,"à¸Ķิà¸Ļ":130080,"×IJ×ķפ":130081,"à¹Ģลà¹ĩà¸ģ":130082,"ãĥĥãĥī":130083,"иÑĩеÑģкиÑħ":130084,"ĠChá»§":130085,"кÑĢаÑģ":130086,"ÙĪØµÙĦ":130087,"pÅĤat":130088,"моÑĢ":130089,"Ġ×Ķ×IJ×ķ":130090,"à¸Ńิà¸Ļ":130091,"ĠíķľêµŃ":130092,"гÑĢе":130093,"Ġìłľê³µ":130094,"ì°½":130095,"Ġê°ľìĿ¸ìłķë³´":130096,"Ġnghá»ĭ":130097,"à¸ĭา":130098,"ØŃساب":130099,"ĠbyÅĤa":130100,"ÙħÙĦÙĥ":130101,"иÑĩеÑģкие":130102,"Ġbác":130103,"ضØŃ":130104,"길":130105,"ש×ŀ×¢":130106,"Ġìĸ´ëĸ»":130107,"Ġìĸ´ëĸ»ê²Į":130108,"ìĽĮ":130109,"اتÙĩ":130110,"à¹Ĥรà¸ĩà¹ģ":130111,"à¹Ĥรà¸ĩà¹ģรม":130112,"خدÙħØ©":130113,"ĠÐłÐ°":130114,"׼×ķ׾×Ŀ":130115,"×ŀש×Ĺ×§":130116,"ĠÙĪÙĥاÙĨ":130117,"ס×ķ×£":130118,"ĠاÙĦØŃÙĥÙĪÙħØ©":130119,"Ġ×ij×ĺ":130120,"ĠtráºŃn":130121,"Ġ×Ķ×¢×ķ׾×Ŀ":130122,"ĠÃŃch":130123,"tÄħ":130124,"ש×ŀ×ķ":130125,"Ġ×Ķר×IJש×ķף":130126,"Ġíķĺê³ł":130127,"ãģķãĤī":130128,"ãģķãĤīãģ«":130129,"ãģ«ãģĹãģ¦":130130,"Ġà¸ľà¸¡":130131,"ãģ®ãĤĪãģĨãģª":130132,"ĠÙĪÙĤت":130133,"ãĥįãĥĥãĥĪ":130134,"ÙĦعب":130135,"ÙĪØ´":130136,"ìĺ¬":130137,"Ġหาà¸ģ":130138,"ĠmiaÅĤ":130139,"à¸Ĺà¸Ńà¸ĩ":130140,"иÑĤа":130141,"اصر":130142,"илÑģÑı":130143,"зе":130144,"à¸Ľà¸£à¸°à¸¡à¸²à¸ĵ":130145,"ãģĿãĤĮãģ¯":130146,"Ġbır":130147,"Ġbırak":130148,"صÙĨاع":130149,"Ю":130150,"شعر":130151,"Ġ׳×Ĵ×ĵ":130152,"Ġبسبب":130153,"ãĥĿãĤ¤":130154,"ãĥĿãĤ¤ãĥ³ãĥĪ":130155,"ĠاÙĦجÙĪ":130156,"ĠнеÑģколÑĮко":130157,"Ġkiếm":130158,"ÙģÙİ":130159,"Ġضد":130160,"×ij×Ļ×ĺ×ķ×Ĺ":130161,"تابع":130162,"ÙĨز":130163,"ĠBản":130164,"Ġaçıkl":130165,"Ġaçıklama":130166,"Ġà¸Ħุà¸ĵ":130167,"à¸Ĺา":130168,"ÅĤów":130169,"طب":130170,"ÙĨØŃÙĨ":130171,"Ġ×ŀ×§×ķר":130172,"Ġİs":130173,"Ġдома":130174,"Ġวัà¸Ļ":130175,"ĠdÃłnh":130176,"Ñıн":130177,"миÑĢ":130178,"Ġmô":130179,"ĠvÃłng":130180,"صاب":130181,"sının":130182,"à¸Ħืà¸Ļ":130183,"خبر":130184,"×ĸ׼×ķ":130185,"Ġ×ŀש×Ķ×ķ":130186,"mü":130187,"Ġкомпании":130188,"Ġ×Ķ×¢×Ļר":130189,"ĠÙĥÙĪ":130190,"ÙĤÙĦب":130191,"ĠlỼp":130192,"ики":130193,"׳×ij":130194,"à¹Ĥà¸Ħร":130195,"à¹Ĥà¸Ħรà¸ĩ":130196,"à¹Ĥà¸Ħรà¸ĩà¸ģาร":130197,"×ŀ×ķ×¢×ĵ":130198,"ÑıÑĤÑģÑı":130199,"หลัà¸ĩà¸Īาà¸ģ":130200,"ениÑİ":130201,"Ġשע":130202,"ĠbÆ°á»Ľc":130203,"ãĥ¡ãĥ¼ãĥ«":130204,"ãĤĦãĤĬ":130205,"Ġ×Ļ×ķ×ĵ×¢":130206,"Ġê´Ģíķľ":130207,"ĠاÙĦØ£Ùħر":130208,"Ġbölge":130209,"ĠÑģвой":130210,"ÙĦس":130211,"Ġ×ŀ×Ļ×ķ×Ĺ×ĵ":130212,"ĠëĤ´ìļ©":130213,"ĠأجÙĦ":130214,"ĠÄIJông":130215,"Ġ×ŀ×ł×ª":130216,"Ġìĭľê°Ħ":130217,"ÙĥÙİ":130218,"ãģ¨ãģĦãģĨãģ®ãģ¯":130219,"Ġnależy":130220,"تÙĨظÙĬÙħ":130221,"ĠÑģозда":130222,"Ġphé":130223,"Ġphép":130224,"ãģ§ãģįãģ¾ãģĻ":130225,"ĠعÙĦÙħ":130226,"大ãģįãģª":130227,"ãĤ²ãĥ¼ãĥł":130228,"íħĮ":130229,"Ġ׼×ķ׾׾":130230,"ĠинÑĤеÑĢнеÑĤ":130231,"ĠTừ":130232,"ãģ¨ãģªãĤĭ":130233,"زاÙĦ":130234,"Ġktórym":130235,"Ġnhé":130236,"ìĪľ":130237,"нев":130238,"деÑĢ":130239,"ãĤ¢ãĥĹãĥª":130240,"iá»ĩu":130241,"×ij×Ļ׾":130242,"Ġتس":130243,"ĠÄIJây":130244,"ĠاÙĦخاصة":130245,"Ġà¹Ģà¸Ĭ":130246,"Ġà¹Ģà¸Ĭà¹Īà¸Ļ":130247,"صاد":130248,"Ġdạng":130249,"سعر":130250,"Ġש×Ļ×ŀ×ķש":130251,"×Ĵ×Ļ×Ŀ":130252,"ãģĮãģĤãģ£ãģŁ":130253,"пÑĢов":130254,"пÑĢовод":130255,"Ġ×IJ×Ļ׳×ķ":130256,"Ġ׾ר×IJ":130257,"Ġ׾ר×IJ×ķת":130258,"ĠØ£Ù쨶ÙĦ":130259,"ĠØŃÙĦ":130260,"ĠأبÙĪ":130261,"ê°ķ":130262,"Ġì§ij":130263,"ãģ®ãĤĪãģĨãģ«":130264,"Ġפ׳×Ļ":130265,"ס×Ļ×Ŀ":130266,"ĠÙĪÙĩذا":130267,"Ġkaç":130268,"Ġéén":130269,"Ġê±´":130270,"ë°Ķ":130271,"Ñĥз":130272,"à¸Ĥà¸Ńà¸ĩà¹Ģรา":130273,"iÅĤ":130274,"ĠÐľÑĭ":130275,"Ġchết":130276,"ĠاÙĦثاÙĨÙĬ":130277,"×IJ×§":130278,"Ġ×ķ×¢×ľ":130279,"ĠاÙĦطب":130280,"×ij×ĺ×Ĺ":130281,"ĠجدÙĬدة":130282,"ĠعدÙħ":130283,"عز":130284,"สิà¹Īà¸ĩà¸Ĺีà¹Ī":130285,"ãģĻãĤĮãģ°":130286,"ĠÄijô":130287,"ì£ł":130288,"دÙĤ":130289,"номÑĥ":130290,"Ġká»ĥ":130291,"ãĤ¢ãĥ³":130292,"å¤ļãģıãģ®":130293,"à¸Ľà¸£à¸°à¸ģ":130294,"à¸Ľà¸£à¸°à¸ģà¸Ńà¸ļ":130295,"פע×Ļ׾×ķת":130296,"ĠÑģÑĤол":130297,"mayı":130298,"ãģ¤ãģĦ":130299,"Ġyılında":130300,"Ġà¸Īึà¸ĩ":130301,"koÅĦcz":130302,"ĠThông":130303,"ĠакÑĤив":130304,"нÑģÑĤ":130305,"нÑģÑĤÑĢÑĥ":130306,"ĠÃĸz":130307,"Ġת×ŀ×Ļ×ĵ":130308,"ĠÙĥÙĨت":130309,"ÑģиÑģÑĤем":130310,"prés":130311,"présent":130312,"Ġnâ":130313,"Ġnâng":130314,"gÅĤos":130315,"ĠÙĪØ²ÙĬر":130316,"ØŃصÙĦ":130317,"ĠимееÑĤ":130318,"ØŃرÙĥØ©":130319,"à¸ŀà¹Īà¸Ń":130320,"ãĤĴãģĬ":130321,"ĠاستخداÙħ":130322,"×IJ×Ļר×ķ×¢":130323,"ä»ĸãģ®":130324,"Ġש×Ķ×Ŀ":130325,"ãģĹãģŁãĤī":130326,"ש×ŀ×Ļ":130327,"Ñģла":130328,"mı":130329,"Ġbazı":130330,"Ġíķĺì§Ģë§Į":130331,"×ĵ׾":130332,"Ġyaptıģı":130333,"ãĥĬãĥ¼":130334,"׾×Ļ׾×Ķ":130335,"ãģ¨ãģĦãģ£ãģŁ":130336,"ändig":130337,"ĠÅŁa":130338,"ĠÙģÙĬÙħا":130339,"иÑĤелÑı":130340,"×ŀ×ķש":130341,"à¸Ĥà¸Ńà¸ļ":130342,"lük":130343,"Ġhá»ĵi":130344,"Ġëªħ":130345,"ĠاÙĦÙĥØ«ÙĬر":130346,"צ×IJ":130347,"Ġhazır":130348,"طرÙģ":130349,"اÙĬا":130350,"ĠÄijôi":130351,"енд":130352,"ÙĦغ":130353,"×Ĺ×ĸ×ķר":130354,"ĠвÑģег":130355,"ĠвÑģегда":130356,"ëIJĺê³ł":130357,"×ĵ×ķ×ĵ":130358,"ана":130359,"دÙĪÙĦØ©":130360,"Ġhoạch":130361,"عÙĦا":130362,"عÙĦاج":130363,"Ġ×ķ×¢×ĵ":130364,"×Ķ×Ŀ":130365,"кий":130366,"ÙĦÙIJ":130367,"Ġ×¢×ľ×Ļ×ķ":130368,"ÑİÑīий":130369,"Ġngá»§":130370,"صÙĨع":130371,"ĠاÙĦعراÙĤ":130372,"à¸ķà¹Īà¸Ńà¹Ħà¸Ľ":130373,"ãģŁãģıãģķãĤĵ":130374,"Ġphạm":130375,"ÙĦاÙĨ":130376,"اتÙĩا":130377,"Ġböyle":130378,"تÙĨÙģÙĬ":130379,"تÙĨÙģÙĬذ":130380,"Ġש×Ķ×Ļ×IJ":130381,"ÑģÑĥ":130382,"ยาว":130383,"Ġש×ķ׳×Ļ×Ŀ":130384,"Ġ×ŀ×ķ׾":130385,"ĠÑģил":130386,"Ġ×IJ×Ĺר×Ļ×Ŀ":130387,"Ġphá»§":130388,"ÙĤطع":130389,"ĠThá»§":130390,"à¸Ľà¸£à¸°à¹Ģà¸Ĺศà¹Ħà¸Ĺย":130391,"ÙĨÙĤ":130392,"ĠÄijoạn":130393,"Ġبإ":130394,"пÑĢедел":130395,"×ķת×ķ":130396,"Ġyarı":130397,"пÑĢе":130398,"ĠczÄĻÅĽci":130399,"ØŃÙĥÙħ":130400,"×ķ׳×Ļת":130401,"×¤×¢×ľ":130402,"ãĤĴãģĹãģ¦":130403,"Ġktórzy":130404,"׾×Ŀ":130405,"ĠÄIJiá»ģu":130406,"ĠкоÑĤоÑĢаÑı":130407,"ĠìĿ´ìĥģ":130408,"ãģĤãģ£ãģŁ":130409,"Ġ×ŀ×ĵ×ķ×ijר":130410,"פ×ķ×¢×ľ":130411,"dım":130412,"éĢļãĤĬ":130413,"ĠбÑĥдÑĥÑĤ":130414,"à¹Ģวà¹ĩà¸ļà¹Ħà¸ĭ":130415,"à¹Ģวà¹ĩà¸ļà¹Ħà¸ĭà¸ķà¹Į":130416,"اخر":130417,"×Ĺ×Ļ׾":130418,"Ġ×Ļ׾":130419,"Ġ×Ļ׾×ĵ×Ļ×Ŀ":130420,"×Ĺ×Ļפ":130421,"×Ĺ×Ļפ×ķש":130422,"Ġdòng":130423,"Ġש×ĸ×Ķ":130424,"ÑĮе":130425,"ãģĤãģ¨":130426,"ìŀIJê°Ģ":130427,"×IJ×ĵ":130428,"Ġüz":130429,"Ġüzere":130430,"ظÙĦ":130431,"Ġ×IJ×ķ׾×Ļ":130432,"Ġ×ij×Ļ×ķ×Ŀ":130433,"ÙĦات":130434,"Ġmê":130435,"침":130436,"تØŃد":130437,"تØŃدث":130438,"Ġخاصة":130439,"ĠبرÙĨ":130440,"ĠبرÙĨاÙħج":130441,"ĠHÃłn":130442,"×Ĺס":130443,"ĠÙĪÙĦÙħ":130444,"×¢×Ŀ":130445,"Ġmı":130446,"à¸Łà¸±à¸ĩ":130447,"שע×Ķ":130448,"ÙĪÙģÙĤ":130449,"ס×ij×Ļר":130450,"алÑĮнÑĭй":130451,"×Ĺש×ķ×ij":130452,"ĠnÃłng":130453,"ë³¼":130454,"ĠкоÑĤоÑĢÑĭÑħ":130455,"Ġ×Ĺ×ķ×§":130456,"tör":130457,"ĠлÑĥÑĩÑĪе":130458,"ãĥijãĥ³":130459,"ลà¹Īาสุà¸Ķ":130460,"ĠجدÙĬد":130461,"ÙĬدة":130462,"à¸Ĺรà¸ĩ":130463,"ãĤĪãĤĬãĤĤ":130464,"ÙĦÙĦ":130465,"ãĤĤãģ£ãģ¨":130466,"ש×ĺ×Ĺ":130467,"Ġ×ķ×IJ×Ļ":130468,"Ġgiá»ijng":130469,"إضاÙģ":130470,"קת":130471,"ë§Ŀ":130472,"ĠzostaÅĤ":130473,"ÑĢоз":130474,"×Ļפ×Ļ×Ŀ":130475,"Ġ׼׾׾":130476,"ת×ķ׼ף":130477,"dıģını":130478,"ÙĤسÙħ":130479,"ĠÑģÑĩиÑĤ":130480,"ĠÑģÑĩиÑĤа":130481,"×ĺ×ķת":130482,"Ġưu":130483,"ĠØ¢ÙĦ":130484,"Ġмом":130485,"ĠмоменÑĤ":130486,"ĠاÙĦتعÙĦÙĬÙħ":130487,"×¢×ľ×ķת":130488,"Ġchữa":130489,"Ġyön":130490,"ĠtrÃł":130491,"ĠØŃÙĬÙĨ":130492,"à¸ĭั":130493,"ĠCá":130494,"×¢×ĸ":130495,"ĠاÙĦØ£ÙħÙĨ":130496,"cÃŃ":130497,"Ġvá»ijn":130498,"Ġà¸Ļาย":130499,"обÑĢа":130500,"×§×IJ":130501,"Ġthiếu":130502,"ãĥŀãĥ¼":130503,"สวà¸Ļ":130504,"Ġgá»Ń":130505,"Ġgá»Ńi":130506,"Ġê¹":130507,"Ġê¹Ģ":130508,"Ġthiá»ĩn":130509,"ÙĤع":130510,"wÄĻ":130511,"Ġнам":130512,"ÑĤол":130513,"Ġsân":130514,"ס×ķ×Ĵ":130515,"Ġgeçir":130516,"ÑĤон":130517,"ева":130518,"ĠÙĪØ¶Ø¹":130519,"Ġعشر":130520,"Ñģло":130521,"à¸Īัà¸ļ":130522,"ãĤ·ãĥ¼":130523,"ãĤĤãģĤãĤĬãģ¾ãģĻ":130524,"Ġvẻ":130525,"ĠÄIJá»ĥ":130526,"رÙ쨹":130527,"ĠاÙĦØ£ÙĪÙĦÙī":130528,"ÑĤаÑĢ":130529,"ãģªãģıãģ¦":130530,"ÙħÙİ":130531,"quÃŃ":130532,"×¢×ł×Ļ×Ļ׳":130533,"ген":130534,"Ġhôm":130535,"à¸Īา":130536,"ĠnhỼ":130537,"ĠاÙĦعربÙĬ":130538,"×IJף":130539,"Ġlá»Ļ":130540,"ĠjeÅĽli":130541,"à¹Ģà¸Ĺà¹Īาà¸Ļัà¹īà¸Ļ":130542,"ĠØ£ÙĨÙĩا":130543,"Ġtuy":130544,"Ġtuyá»ĩt":130545,"Ġتص":130546,"ĠتصÙĨÙĬ":130547,"ĠتصÙĨÙĬÙģ":130548,"Ġê·¸ëŁ¬ëĤĺ":130549,"оÑĨен":130550,"à¸ģิà¸Īà¸ģรรม":130551,"ãĤĦãģ£ãģ¦":130552,"Ġkhá»ıi":130553,"Ġlá»ĩ":130554,"ĠاÙĦÙħجتÙħع":130555,"à¸Ńาà¸Īà¸Īะ":130556,"à¸Īะà¹Ģà¸Ľà¹ĩà¸Ļ":130557,"овÑĭй":130558,"ר×Ŀ":130559,"รà¹īà¸Ńà¸Ļ":130560,"ש×ŀש":130561,"人ãģ«":130562,"Ġüzerine":130563,"פר×Ļ":130564,"duÄŁu":130565,"Ñĩик":130566,"Ġmùa":130567,"Ġ×ŀת×ķ×ļ":130568,"ĠcáºŃp":130569,"ĠتارÙĬØ®":130570,"×ij×ľ×ª×Ļ":130571,"Ġì¢Ģ":130572,"ÙĦع":130573,"باÙĨ":130574,"Ġchút":130575,"Ġ×Ķ×ĸ×ŀף":130576,"née":130577,"ĠLiên":130578,"ĠÙĦÙĦØ£":130579,"ØŃدÙĪØ¯":130580,"Ġ×¢×Ľ×©×Ļ×ķ":130581,"воз":130582,"Ġyaptı":130583,"Ġобо":130584,"à¹ĥหà¹īà¸ģัà¸ļ":130585,"Ġ×ij×Ķ×Ŀ":130586,"ãģıãģ¦":130587,"رأس":130588,"ĠÑģÑĢедÑģÑĤв":130589,"ĠBÃłi":130590,"ãģĵãģ¨ãģ«":130591,"ĠìĤ¬íļĮ":130592,"Ġ모ëijIJ":130593,"×ij×IJ":130594,"Ġtrắng":130595,"ĠاÙĦبÙĦد":130596,"ĠHoÃłng":130597,"либо":130598,"ĠдÑĢÑĥгиÑħ":130599,"İR":130600,"Ñĥма":130601,"ĠJeÅĽli":130602,"ãĤĤãģĹ":130603,"Ġvòng":130604,"Ġ×IJתר×Ļ×Ŀ":130605,"ĠÄijá»įc":130606,"ĠвоÑĤ":130607,"ãģłãģĮ":130608,"ë°°":130609,"à¸Ķูà¹ģล":130610,"Ġ×ŀ׼׾":130611,"ìĹIJëıĦ":130612,"газ":130613,"Ġ׳×ķספ×Ļ×Ŀ":130614,"ãģĵãģ¨ãģ§":130615,"ĠتÙĪ":130616,"ãģ§ãģĤãĤĬ":130617,"à¸Ļัà¹Īà¸ĩ":130618,"ĠможеÑĤе":130619,"szÄĻ":130620,"ãģ®ãģł":130621,"ĠÙħÙĨÙĩ":130622,"Ġbá»ķ":130623,"Ġbüt":130624,"Ġbütün":130625,"ë³´ê³ł":130626,"Ġchá»ĵng":130627,"à¹ģà¸Īà¹īà¸ĩ":130628,"ĠVì":130629,"ĠØŃر":130630,"Ġgiản":130631,"ĠÙħدÙĬÙĨØ©":130632,"تطبÙĬÙĤ":130633,"à¸Īิ":130634,"æĹ¥ãģ®":130635,"бил":130636,"à¸ģà¸Ńà¸ĩ":130637,"ê³³":130638,"ĠØ£Ùħا":130639,"ìĨIJ":130640,"Ġtrái":130641,"ĠвÑģем":130642,"ĠسÙĨØ©":130643,"ĠÑģайÑĤ":130644,"ĠгоÑĤов":130645,"пÑĭ":130646,"ĠëIJł":130647,"ĠاÙĦخط":130648,"ĠاÙĦرئÙĬسÙĬØ©":130649,"Ġíķ©ëĭĪëĭ¤":130650,"ĠìķĦëĭĪëĿ¼":130651,"ĠìĿ´ëłĩ":130652,"ĠìĿ´ëłĩê²Į":130653,")ØĮ":130654,"hält":130655,"ĠØ£Ùħر":130656,"ĠعÙħر":130657,"à¸ģà¹ĩà¸Īะ":130658,"Ġà¸Ĺำà¹ĥหà¹ī":130659,"Ġcân":130660,"Ġ×ij׾":130661,"Ġ×ij׾×ij×ĵ":130662,"פסק":130663,"ĠÙĬÙĤÙĪÙĦ":130664,"нÑĥÑĤÑĮ":130665,"à¹ģà¸Ħ":130666,"Ġקצת":130667,"Ġnằm":130668,"Ġhòa":130669,"bilitÃł":130670,"ĠìĹĨëĭ¤":130671,"Ġ׼פ×Ļ":130672,"ÑĢож":130673,"лага":130674,"Ġ×Ķש×Ļ":130675,"ĠNgoÃłi":130676,"ĠÙĪØ¬":130677,"ĠÙĪØ¬ÙĪØ¯":130678,"ĠìľĦíķľ":130679,"ĠusÅĤug":130680,"Ġtuần":130681,"dź":130682,"×ŀ×ķף":130683,"ĠاÙĦعدÙĬد":130684,"Ġchẳng":130685,"สุà¸Ĥà¸łà¸²à¸ŀ":130686,"Ġ×ij×ĵר×ļ":130687,"ĠÑģебе":130688,"ĠìŀĪìĿĦ":130689,"ĠاÙĦØŃاÙĦ":130690,"Ġdá":130691,"Ġcưá»Ŀi":130692,"Ġnghiên":130693,"ieÅĦ":130694,"ĠDương":130695,"ï¼ħ":130696,"شد":130697,"ãģĦãģ¤ãĤĤ":130698,"ĠвÑĭбоÑĢ":130699,"Ġcá»Ļng":130700,"ש×Ļ׳×ķ×Ļ":130701,"Ġchạy":130702,"Ġ×ij×¢×ľ×Ļ":130703,"اخبار":130704,"íķĺë©°":130705,"żÄħ":130706,"جاز":130707,"Ġ׳ר×IJ×Ķ":130708,"ศู":130709,"ศูà¸Ļ":130710,"ศูà¸Ļยà¹Į":130711,"×Ĵ×¢":130712,"Ġ×¢×ĵ×Ļ":130713,"Ġ×¢×ĵ×Ļ×Ļף":130714,"برا":130715,"ÑĨий":130716,"ĠÄIJá»ĵng":130717,"ÙĤاÙĨÙĪÙĨ":130718,"ĠÄijứng":130719,"ãģĹãģŁãĤĬ":130720,"Ġ×Ĺ×Ļ×Ļ":130721,"ĠëIJľ":130722,"ĠëIJľëĭ¤":130723,"ĠмеждÑĥ":130724,"à¸ŀวà¸ģà¹Ģà¸Ĥา":130725,"ĠBắc":130726,"ลำ":130727,"ë°±":130728,"ĠíĻķ":130729,"มาà¸ģม":130730,"มาà¸ģมาย":130731,"банк":130732,"à¸Ńาà¸ģาร":130733,"ĠhÃł":130734,"Ġ׾׳":130735,"à¸Ńà¸Ń":130736,"Ġë°Ķë¡ľ":130737,"лом":130738,"mática":130739,"ĠØŃد":130740,"ابت":130741,"à¸Ĺีà¹Īà¸Ļีà¹Ī":130742,"ĠcoÅĽ":130743,"ÙģÙĬدÙĬ":130744,"ÙģÙĬدÙĬÙĪ":130745,"ĠмеÑģÑĤо":130746,"Ġphút":130747,"มาà¸ģà¸ģวà¹Īา":130748,"×IJפ":130749,"بÙIJ":130750,"ĠPhú":130751,"ì±Ħ":130752,"ĠÙĪØ³ÙĦÙħ":130753,"à¸Īีà¸Ļ":130754,"поÑĤÑĢеб":130755,"Ġ×Ĺ×ĵש×ķת":130756,"Ø´ÙĪ":130757,"Ġעצ×ŀ×ķ":130758,"ĠعÙħÙĦÙĬØ©":130759,"à¸Ħุà¸ĵà¸łà¸²à¸ŀ":130760,"ãģ¾ãģĻãģĮ":130761,"دعÙĪ":130762,"طرÙĤ":130763,"à¹Ħมà¹Īà¸ķà¹īà¸Ńà¸ĩ":130764,"ë²Ķ":130765,"ìĬ¹":130766,"ĠkÃŃch":130767,"ĠìĹĨëĬĶ":130768,"ĠÑĤам":130769,"ĠÙĨØŃÙĪ":130770,"ĠاÙĦÙĤاÙĨÙĪÙĨ":130771,"×Ĺ×ķ×Ŀ":130772,"Ġkız":130773,"Ġ×ĵ×Ļף":130774,"ĠвÑĢемени":130775,"ãģ£ãģŁãĤĬ":130776,"ĠØ´Ùĩر":130777,"ĠìĦľë¹ĦìĬ¤":130778,"עש×Ķ":130779,"Ġgiác":130780,"ĠاÙĦسÙĦاÙħ":130781,"Ġ×IJש":130782,"ĠполÑĥÑĩа":130783,"à¸Īัà¸Ķà¸ģาร":130784,"коÑĢ":130785,"Ġ×Ķ×ĺ×ķ×ij":130786,"รายà¸ģาร":130787,"주ìĿĺ":130788,"à¹ģà¸ķà¹Īละ":130789,"Ġê·¸ëŁ°ëį°":130790,"à¸Ĺีà¹Īà¹Ģà¸Ľà¹ĩà¸Ļ":130791,"Ġת×ķ×ļ":130792,"بÙĬاÙĨ":130793,"ÐĻ":130794,"oÅĽciÄħ":130795,"ÑĤок":130796,"ĠÃĶ":130797,"ĠÃĶng":130798,"à¹Ħมà¹Īà¹ĥà¸Ĭà¹Ī":130799,"ãģ¿ãģ¦":130800,"ÐŁÐ¾":130801,"ĠЧÑĤо":130802,"íĻ©":130803,"×ĺ×ij×¢":130804,"меÑĤÑĢ":130805,"Ġ×ij×ŀ×Ķ":130806,"Ġ×ij×ŀ×Ķ׾":130807,"Ġ×ij×ŀ×Ķ׾×ļ":130808,"ÑĩÑĮ":130809,"קש×Ķ":130810,"знак":130811,"знаком":130812,"ujÄĻ":130813,"×Ļצר":130814,"ĠاÙĦÙħÙĦÙĥ":130815,"ıyla":130816,"×IJ×ŀת":130817,"à¸Ľà¸´à¸Ķ":130818,"×IJ×Ĺ×ĵ":130819,"راد":130820,"ĠmáºŃt":130821,"ëĭ¤ëĬĶ":130822,"Ġlạnh":130823,"ש׾×ķש":130824,"ØŃدÙĬØ«":130825,"تز":130826,"å¹´ãģ®":130827,"ĠкваÑĢ":130828,"ĠкваÑĢÑĤиÑĢ":130829,"ä½ľãĤĬ":130830,"رÙĪØ¨":130831,"ован":130832,"ĠТе":130833,"à¸Īำà¸ģ":130834,"à¸Īำà¸ģัà¸Ķ":130835,"باط":130836,"×Ĵת":130837,"ĠмаÑĪ":130838,"ĠмаÑĪин":130839,"×Ļצ×Ķ":130840,"ãģ»ãģ¨":130841,"ãģ»ãģ¨ãĤĵãģ©":130842,"ÃŃdo":130843,"ĠÑıзÑĭк":130844,"à¸ļิà¸Ļ":130845,"สà¸ĸาà¸Ļà¸Ĺีà¹Ī":130846,"ĠìĹ´":130847,"ãĤ¦ãĤ§":130848,"ĠcÃł":130849,"пан":130850,"åı£ãĤ³ãĥŁ":130851,"Ġرد":130852,"اÙĤت":130853,"ĠÙĥب":130854,"ĠÙĥبÙĬرة":130855,"ÑģÑĤал":130856,"ש×ŀ×Ĺ":130857,"posición":130858,"ĠÙħÙĦÙĬÙĪÙĨ":130859,"ĠìĿ´ìķ¼":130860,"ĠìĿ´ìķ¼ê¸°":130861,"Ġhút":130862,"ĠÅĽwiat":130863,"Ġë°©ë²ķ":130864,"ĠÑģвеÑĤ":130865,"Ġвидео":130866,"ĠاÙĦÙĨظاÙħ":130867,"Ġtrá»Ŀi":130868,"ĠëĮĢíķ´ìĦľ":130869,"ר×ŀת":130870,"تداÙĪÙĦ":130871,"×ķר×ĵ":130872,"ת×ŀ":130873,"ת×ŀ×ķ׳×ķת":130874,"Ġ×ŀף":130875,"Ġдва":130876,"Ġ×Ķ×§×ķ":130877,"æĹ¥ãģ«":130878,"Ġ×Ķ×Ĵ×Ļ×¢":130879,"à¹Ģà¸ŀิà¹Īมà¹Ģà¸ķิม":130880,"Ùħارس":130881,"Ġê²ĥìŀħëĭĪëĭ¤":130882,"ãģªãģĦãģ¨":130883,"Ġnhiá»ĩt":130884,"ëIJ©ëĭĪëĭ¤":130885,"Ġ×ij׳×ķש×IJ":130886,"Ġê°Ģìŀ¥":130887,"Ġvợ":130888,"ĠÄijóng":130889,"צ×Ļ׾×ķ×Ŀ":130890,"ê´Ģê³Ħ":130891,"ваÑı":130892,"×IJ×Ļ×ĸ":130893,"×IJ×Ļ×ĸ×Ķ":130894,"ĠÙĨظاÙħ":130895,"ÙħØŃاÙ쨏":130896,"Ġtải":130897,"기ëıĦ":130898,"à¸Ľà¸±à¸Īà¸Īุ":130899,"à¸Ľà¸±à¸Īà¸Īุà¸ļัà¸Ļ":130900,"׼×ĵ×ķר":130901,"ĠìķĦìĿ´":130902,"׼׳×Ļס":130903,"à¹Ģà¸ķร":130904,"à¹Ģà¸ķรียม":130905,"Ġngoại":130906,"ĠدÙĪÙĦار":130907,"Ġrẻ":130908,"ĠkhÄĥn":130909,"عدد":130910,"شعب":130911,"czyÄĩ":130912,"ĠاÙĦÙĥر":130913,"ĠÑĩеловека":130914,"ĠÙĪØ¥ÙĨ":130915,"×IJ×ĺ":130916,"ĠthÆ¡":130917,"ĠاÙĦرÙĬاض":130918,"опÑĢедел":130919,"опÑĢеделен":130920,"×Ķ×ŀש×ļ":130921,"ĠÐĿово":130922,"зÑĭва":130923,"ĠاÙĦدÙĪÙĦÙĬ":130924,"ĠÄijáp":130925,"ĠкÑĢед":130926,"ĠкÑĢедиÑĤ":130927,"ового":130928,"Ġmôn":130929,"à¸Ľà¸£à¸°à¹Ĥย":130930,"à¸Ľà¸£à¸°à¹Ĥยà¸Ĭà¸Ļ":130931,"à¸Ľà¸£à¸°à¹Ĥยà¸Ĭà¸Ļà¹Į":130932,"ÑģÑĤе":130933,"ĠThá»ĭ":130934,"دÙĬØ©":130935,"×ŀצ×ķ":130936,"ÙģØ§Øª":130937,"×§×ĵ×Ŀ":130938,"ìĿ´ëĿ¼ê³ł":130939,"ÙĪØ®":130940,"Ġ×Ĺ×ĸ":130941,"ĠÑĦоÑĤо":130942,"׾×Ļת":130943,"تÙİ":130944,"ÙĪØ¨Ø±":130945,"йÑĤи":130946,"ĠÃ¶ÄŁren":130947,"Ġ×Ķ×ĸ×ķ":130948,"Ġvá»įng":130949,"ÙĤÙĪØ©":130950,"ĠTây":130951,"ĠÐĿи":130952,"Ġש×ķ×ij":130953,"ãģ¨è¨ĢãĤıãĤĮ":130954,"ãģ©ãĤĵãģª":130955,"×Ĺצ×Ļ":130956,"ï½ľ":130957,"Ġ×ķ×Ķ×ķ×IJ":130958,"ä¸Ģãģ¤":130959,"ĠÑģÑĤоиÑĤ":130960,"niÄħ":130961,"×ĺר×Ļ":130962,"ĠдеÑĤей":130963,"нÑıÑĤÑĮ":130964,"ĠÑģделаÑĤÑĮ":130965,"Ġë§İìĿ´":130966,"ä½ķãģĭ":130967,"ãģĽãĤĭ":130968,"à¹Ħหม":130969,"à¸ķิà¸Ķà¸ķà¹Īà¸Ń":130970,"Ġ×ijת×Ĺ":130971,"Ġ×ijת×Ĺ×ķ×Ŀ":130972,"ìĻĦ":130973,"ì§ĢëĬĶ":130974,"ÑģÑĤаÑĤ":130975,"ÑıÑģн":130976,"üb":130977,"Ġthả":130978,"Ġ×ij×IJ×ŀת":130979,"Ġtuyến":130980,"×ĵ×Ļר×Ķ":130981,"Ġ×IJ×Ļש×Ļ":130982,"×ĸ׼ר":130983,"ãģ°ãģĭãĤĬ":130984,"Ġxét":130985,"׼×Ļ×ķ":130986,"׼×Ļ×ķ×ķף":130987,"diÄŁini":130988,"ĠاÙĦÙħÙĪØ¶ÙĪØ¹":130989,"ĠháºŃu":130990,"à¸Īาà¸ģà¸ģาร":130991,"×ijס×Ļס":130992,"Ġ×ŀ×Ĵ×Ļ×¢":130993,"×ij×Ļ×¢":130994,"ĠÙĪØ¬Ùĩ":130995,"à¹ģà¸Ķà¸ĩ":130996,"à¸Ļาà¸ĩ":130997,"ĠÅŀa":130998,"ì¡´":130999,"ë¡Ģ":131000,"à¸ķะ":131001,"Ġ×Ķ×Ĺ×Ļ×Ļ×Ŀ":131002,"ÙģÙĬد":131003,"ãģ§ãģĻãģĭãĤī":131004,"ê·ľ":131005,"źni":131006,"ĠлÑİдей":131007,"Ġyüzde":131008,"ıyorum":131009,"ĠاÙĦبØŃر":131010,"eño":131011,"паÑĢ":131012,"ÙĬÙĤØ©":131013,"обÑĢ":131014,"ר×ķ×ļ":131015,"تÙĪÙĤع":131016,"ĠاÙĦØ´ÙĬØ®":131017,"åĪĿãĤģãģ¦":131018,"ĠÑĤелеÑĦ":131019,"ĠÑĤелеÑĦон":131020,"Ġthôi":131021,"Ġ×Ļ׼×ķ׾×Ļ×Ŀ":131022,"ĠÅŁirk":131023,"ĠÅŁirket":131024,"Ġìļ°ë¦¬ê°Ģ":131025,"ĠÄijông":131026,"Ġת×ķ×ĵ×Ķ":131027,"ÑģмоÑĤÑĢеÑĤÑĮ":131028,"ĠÙĦÙĩÙħ":131029,"Ġ׾׼":131030,"ĠNó":131031,"ĠØŃاÙĦØ©":131032,"ãģĦãģij":131033,"קר×ķ":131034,"azı":131035,"ãĤ³ãĥ¼":131036,"ĠÙĦÙĦت":131037,"sınız":131038,"ĠHải":131039,"기ìĪł":131040,"ยัà¸ĩà¹Ħมà¹Ī":131041,"ëĭ¤ê³ł":131042,"פ×Ĺ":131043,"Ġ׾×Ĵ×ij×Ļ":131044,"ĠعÙĨÙĩ":131045,"Ġказ":131046,"Ġказино":131047,"بÙĪØ±":131048,"ÑĦеÑĢ":131049,"Ġê°ĻìĿ´":131050,"تسجÙĬÙĦ":131051,"ĠاÙĦÙħرÙĥز":131052,"ĠThái":131053,"даÑĤÑĮ":131054,"×ŀ×Ļ×Ļ׾":131055,"ĠpaylaÅŁ":131056,"ãģ¤ãģ®":131057,"à¹Ģรืà¸Ń":131058,"nça":131059,"׳×ķ×Ĺ":131060,"Ġ×IJפ×Ļ׾×ķ":131061,"ãģ¨èĢĥãģĪ":131062,"ãģ¨ãģĹãģ¦ãģ¯":131063,"à¹Ģà¸Īà¸Ń":131064,"×ŀפ":131065,"ĠgiriÅŁ":131066,"лиÑĤ":131067,"ÑĤелÑı":131068,"Ñijн":131069,"æ°Ĺãģ«":131070,"Ġgó":131071,"Ġgóp":131072,"åĪĩãĤĬ":131073,"Ġ×Ķ×Ĺ×ĵש":131074,"жал":131075,"Ġ×ĵעת":131076,"éģķãģĨ":131077,"à¹Ģà¸Ĥà¹īาà¹Ħà¸Ľ":131078,"Ġסר×ĺ":131079,"eña":131080,"æĸ°ãģĹãģĦ":131081,"رÙİ":131082,"ĠÐIJÑĢ":131083,"Ġphản":131084,"à¸Īะà¹Ħà¸Ķà¹ī":131085,"Ġ×ijצ×ķר×Ķ":131086,"شاÙĩ":131087,"شاÙĩد":131088,"ÙĪØ±Ø¯":131089,"à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩà¸Īาà¸ģ":131090,"илиÑģÑĮ":131091,"à¹ģละà¸ģาร":131092,"Ġ×Ķ×ĸ׼":131093,"Ġ×Ķ×ĸ׼×ķ×Ļ×ķת":131094,"eiÃŁ":131095,"ãĥ¨":131096,"ìĥĪ":131097,"ĠÃĩa":131098,"Ư":131099,"ש×Ĵ":131100,"ÙĬÙĨØ©":131101,"รà¹īà¸Ńà¸ĩ":131102,"ãĤµãĥ³":131103,"ÑĢоÑģÑģий":131104,"ÑĢоÑģÑģийÑģк":131105,"aÄŁa":131106,"ĠнаÑĩина":131107,"ĠصÙĦÙī":131108,"à¸Ĺุà¸ģà¸Ħà¸Ļ":131109,"íļĮìĤ¬":131110,"ĠлиÑĨ":131111,"Ø´ÙĬر":131112,"ĠØ´ÙĬØ¡":131113,"ÙĬÙĨا":131114,"Ġפ×Ĺ×ķת":131115,"Ġiçeris":131116,"Ġiçerisinde":131117,"ĠØ£ØŃÙħد":131118,"Ġżeby":131119,"ì´Ŀ":131120,"Ġпоказ":131121,"Ġименно":131122,"หà¸Ļัà¸ĩส":131123,"หà¸Ļัà¸ĩสืà¸Ń":131124,"ĠÑĤÑĢе":131125,"สัà¸ĩà¸Ħม":131126,"Ø¥ÙIJ":131127,"ãģĮå¿ħè¦ģ":131128,"ÙĬÙijØ©":131129,"פצ":131130,"íĭ°":131131,"ĠÙħجاÙĦ":131132,"׳פש":131133,"кан":131134,"×Ĺ×ķפ":131135,"×Ĺ×ķפש":131136,"ì²ĺëŁ¼":131137,"оваÑı":131138,"зов":131139,"Ġhạ":131140,"ĠdziÄĻki":131141,"×Ļר×ķ":131142,"Ġ׾×ŀצ":131143,"Ġ׾×ŀצ×ķ×IJ":131144,"×Ļ×ĵ×ķ":131145,"Ġsợ":131146,"Ġ׾×Ķ×Ĵ×Ļ×¢":131147,"×§×ij×¢":131148,"Ġchiá»ģu":131149,"ãĥŀãĤ¤":131150,"ĠdÃłng":131151,"à¹ģà¸Łà¸Ļ":131152,"Ġüye":131153,"×Ļ׳×Ĵ":131154,"à¹Ģรียà¸ģ":131155,"ç§ģãģĮ":131156,"thé":131157,"ĠÑĦилÑĮ":131158,"ĠÑĦилÑĮм":131159,"ĠNgÃły":131160,"Ġжен":131161,"ĠженÑīин":131162,"جÙĬد":131163,"nç":131164,"à¸Ľà¸£à¸²":131165,"×Ļ×ŀ×ķ":131166,"Ġná»ģn":131167,"×IJ×ķ׾×Ŀ":131168,"ĠвозможноÑģÑĤÑĮ":131169,"Ġëĭ¤ìĭľ":131170,"è¦ĭãģŁ":131171,"à¸ĸà¸Ļ":131172,"à¸ĸà¸Ļà¸Ļ":131173,"mızı":131174,"ĠÙħجÙħÙĪØ¹Ø©":131175,"cjÄħ":131176,"ĠÐłÐ¤":131177,"à¸ģำหà¸Ļ":131178,"à¸ģำหà¸Ļà¸Ķ":131179,"ĠìĹ¬ê¸°":131180,"landı":131181,"ниÑĨ":131182,"ÑģÑĤве":131183,"Ġ×ĵ×ijר×Ļ×Ŀ":131184,"ĠskÅĤad":131185,"ãĤĬãģ¾ãģĹãģŁ":131186,"ĠоÑĤкÑĢÑĭÑĤ":131187,"нÑıÑĤ":131188,"ĠÑģвоей":131189,"à¸Īิà¸ķ":131190,"ĠкаÑĩеÑģÑĤве":131191,"ĠettiÄŁi":131192,"ìĤ¬íķŃ":131193,"ĠاÙĦÙĬÙħÙĨ":131194,"иÑĩеÑģкий":131195,"ë¸Į":131196,"Ġ×ij×IJרץ":131197,"ĠاسÙħ":131198,"ĠизвеÑģÑĤ":131199,"rão":131200,"ĠattivitÃł":131201,"à¹Ģà¸Ľà¹ĩà¸Ļà¸ģาร":131202,"ĠاÙĦدÙĥت":131203,"ĠاÙĦدÙĥتÙĪØ±":131204,"ĠÙĪØ§ØŃدة":131205,"ĠÑģÑĩеÑĤ":131206,"ĠпÑĢиÑĩ":131207,"ĠпÑĢиÑĩин":131208,"ĠÙĪØ²Ø§Ø±Ø©":131209,"Ġhuyá»ĩn":131210,"ĠÙĥتاب":131211,"à¹ģà¸Ļà¹Īà¸Ļ":131212,"à¹ģà¸Ļà¹Īà¸Ļà¸Ńà¸Ļ":131213,"Ġgünü":131214,"гÑĢÑĥз":131215,"ĠاÙĦخاص":131216,"Ġgörül":131217,"׾×ŀ×ĵ":131218,"ĠìłķëıĦ":131219,"×ķ×ij×Ļ׾":131220,"Ġ×ŀקצ×ķ×¢×Ļ":131221,"ĠоÑģобенно":131222,"à¸Ľà¸£à¸°à¸ģา":131223,"à¸Ľà¸£à¸°à¸ģาศ":131224,"acaģını":131225,"ë¶ģ":131226,"à¸łà¸¹à¸¡à¸´":131227,"ĠÑįлекÑĤ":131228,"ĠÑįлекÑĤÑĢо":131229,"Ġקש×Ķ":131230,"سÙĦØ·":131231,"à¸Ĭà¸Ļะ":131232,"×¢×Ļ׾":131233,"ĠЧе":131234,"à¹ģà¸Ļà¹Ī":131235,"lıģ":131236,"lıģın":131237,"Ġ×ŀ×¢×¨×Ľ×ª":131238,"好ãģįãģª":131239,"มาà¸ģà¸Ĥึà¹īà¸Ļ":131240,"×ŀ×¢×ijר":131241,"ĠاÙĦÙħغرب":131242,"ĠпеÑĢи":131243,"ĠпеÑĢиод":131244,"Ġnhạc":131245,"اÙĪÙĬ":131246,"ĠÙĪØ¹ÙĦÙī":131247,"أخذ":131248,"ĠCô":131249,"תר×ij×ķת":131250,"×Ĵ×Ķ":131251,"Ġktórej":131252,"×IJ×Ļת":131253,"×ij×ķ×IJ":131254,"делÑĮ":131255,"รีวิ":131256,"รีวิว":131257,"жÑĥ":131258,"Ġ×ij×Ĺ×ķ":131259,"еÑĪÑĮ":131260,"ĠØ£ÙĦÙģ":131261,"ĠاÙĦÙĪØ·ÙĨÙĬ":131262,"ĠاÙĦÙħÙĨØ·ÙĤØ©":131263,"nÄħÄĩ":131264,"Ġthiên":131265,"иÑĩеÑģкой":131266,"ĠاÙĦÙħÙĦ":131267,"ĠعÙħ":131268,"ספר":131269,"Ġnhóm":131270,"ÙĪØµÙģ":131271,"ĠChúng":131272,"ĠرÙĤÙħ":131273,"ãģ¾ãģĹãģŁãģĮ":131274,"alité":131275,"ลม":131276,"ĠëĤ´ê°Ģ":131277,"׾ק×ķ×Ĺ":131278,"ĠSÆ¡n":131279,"posição":131280,"miÄĻ":131281,"Ġtránh":131282,"ĠÄIJá»Ļ":131283,"׼×Ĺ":131284,"ãģĤãģ£ãģ¦":131285,"à¸Ńยà¹Īา":131286,"Ġ×ŀ×Ĺ×Ļר":131287,"Ġ×Ķ×Ļת×Ķ":131288,"à¸Ľà¹Īา":131289,"à¸Ńืà¹Īà¸Ļà¹Ĩ":131290,"Ø´ÙĤ":131291,"×ł×¡×Ļ":131292,"림":131293,"ãģ¦ãģĹãģ¾ãģĨ":131294,"Ġ×ŀצ×ij":131295,"ãģ«åĩº":131296,"ÙħÙĪØ§Ø·ÙĨ":131297,"ยัà¸ĩมี":131298,"алÑĮнÑĭе":131299,"sanız":131300,"إسرائÙĬÙĦ":131301,"ĠvÃłi":131302,"ì¤Ħ":131303,"ã썿ĢĿãģ£ãģ¦":131304,"×Ļ×ķ׳×Ļ":131305,"çĶŁãģį":131306,"Ġsâu":131307,"ÑĩиÑģÑĤ":131308,"Ġlá»ħ":131309,"ĠGiá":131310,"à¸Ńà¸¸à¸Ľ":131311,"à¸Ńà¸¸à¸Ľà¸ģร":131312,"à¸Ńà¸¸à¸Ľà¸ģรà¸ĵà¹Į":131313,"Ġnhẹ":131314,"rö":131315,"ס×ĺ×Ļ":131316,"ãģķãĤĵãģĮ":131317,"Ġdầu":131318,"عÙİ":131319,"ترا":131320,"×Ĵ×ĵ׾":131321,"Ġtécnica":131322,"׼׳×Ļ×Ŀ":131323,"תקש":131324,"תקש×ķרת":131325,"Ġнего":131326,"était":131327,"Ġmá»ģm":131328,"ÑģеÑĤ":131329,"ĠnháºŃt":131330,"Ġ×ŀ×¢×ľ":131331,"Ġ×Ķ×¢×ij×ķ×ĵ":131332,"Ġ×Ķ×¢×ij×ķ×ĵ×Ķ":131333,"Ġ×Ĵ×Ļ׾":131334,"ãģ¯ãģªãģĦ":131335,"ائØŃ":131336,"ĠздеÑģÑĮ":131337,"×IJ×Ļ׳×ĺר":131338,"ÙħÙIJ":131339,"Ġ×Ļ×Ĺ×ĵ":131340,"راÙģ":131341,"ì²ĺ리":131342,"×ĵ×¢×ķת":131343,"ì¹ľ":131344,"ĠТо":131345,"ĠThế":131346,"ì¶©":131347,"Ġ׳׼×ķף":131348,"عÙĬØ´":131349,"низ":131350,"ĠجاÙĨب":131351,"×ŀקצ×ķ×¢":131352,"à¹Ĥà¸ĭ":131353,"ÑģÑĥÑĤ":131354,"ìĸ´ìļĶ":131355,"ãĤĴè¦ĭãģ¦":131356,"ارد":131357,"Ġaçıl":131358,"ĠاÙĦØŃÙĬاة":131359,"à¸ģà¹ĩà¹Ħà¸Ķà¹ī":131360,"ãģĿãĤĮãĤĴ":131361,"عضÙĪ":131362,"ĠгÑĢаж":131363,"ĠгÑĢаждан":131364,"à¸Īะà¸ķà¹īà¸Ńà¸ĩ":131365,"ĠìĿ´ë٬":131366,"ĠìĿ´ë٬íķľ":131367,"Ġtrách":131368,"ÙĨÙİ":131369,"Ġkısa":131370,"ÃĶ":131371,"ÑĪка":131372,"ãģ®äºº":131373,"ĠÐŁÐ¾Ñģ":131374,"ĠÐŁÐ¾Ñģле":131375,"ÑĥлÑĮ":131376,"ÙĪØ§Ø¬Ùĩ":131377,"ÙĤرب":131378,"à¸Ľà¸ıิà¸ļัà¸ķิ":131379,"ê°Ļ":131380,"Ġ×ŀ׳":131381,"ĠÑģвои":131382,"براÙħج":131383,"ĠرÙĪ":131384,"пÑĢод":131385,"пÑĢодаж":131386,"ĠbyÅĤy":131387,"วัย":131388,"Ġgörün":131389,"ĠÃĪ":131390,"ÑİÑīим":131391,"ĠÑĤакой":131392,"ÙģÙĪØ±":131393,"ĠÙ쨹ÙĦ":131394,"Ġбел":131395,"ëIJł":131396,"erÃŃa":131397,"ĠÑģвоÑİ":131398,"Ġlã":131399,"Ġlãnh":131400,"à¹Ģà¸ŀืà¹Īà¸Ńà¹ĥหà¹ī":131401,"ÙĤÙĨ":131402,"تطÙĪÙĬر":131403,"Ġsayı":131404,"ĠÑģейÑĩаÑģ":131405,"Ġ×IJ×Ĺרת":131406,"×§×ķפ×Ķ":131407,"×§×ķרס":131408,"ĠسÙħ":131409,"Ġ×ĺ×Ļפ×ķ׾":131410,"ìĿ´ëĿ¼ëĬĶ":131411,"دراسة":131412,"èµ·ãģĵ":131413,"×Ĺ×Ļ׳":131414,"×Ĺ×Ļ׳×ķ×ļ":131415,"×ĵ×§":131416,"Ġë§ŀ":131417,"Ġкоманд":131418,"ĠÐijо":131419,"ĠигÑĢÑĭ":131420,"à¸ļี":131421,"ĠØ£Ùİ":131422,"вен":131423,"ĠاÙĦجدÙĬد":131424,"ĠÙĦØ¥":131425,"Ġ×ķ×IJ׳×Ļ":131426,"Ġ×Ķס×Ļ":131427,"иÑĩеÑģкого":131428,"رÙĪØŃ":131429,"à¸ģารศึà¸ģษา":131430,"ĠTrưá»Ŀng":131431,"игÑĢа":131432,"ılması":131433,"ĠмаÑģÑģ":131434,"ãģ¨ãģįãģ«":131435,"à¸Ĺีà¹Īà¸ľà¹Īาà¸Ļ":131436,"à¸Ĺีà¹Īà¸ľà¹Īาà¸Ļมา":131437,"ĠاÙĦسابÙĤ":131438,"Ġ×ŀ×¢×ĺ":131439,"ваÑĤÑĮ":131440,"mÃ¼ÅŁ":131441,"Ġ׾׼×ļ":131442,"Ġtá»ĭch":131443,"ÙģÙĩÙħ":131444,"تدرÙĬب":131445,"Ø´Ùĥ":131446,"Ġ×ij×ŀ×Ļ":131447,"Ġ×ij×ŀ×Ļ×ķ×Ĺ×ĵ":131448,"ÙĤطاع":131449,"ãģªãģĹ":131450,"×ķצ×Ļ×IJ":131451,"ĠÙĪØ³ÙĬ":131452,"зÑĥ":131453,"Ġyat":131454,"Ġyatırım":131455,"ë§İ":131456,"Ġthắng":131457,"ãģĬ客":131458,"ãģĬ客æ§ĺ":131459,"ĠThiên":131460,"ãģ«å¯¾ãģĹãģ¦":131461,"ÑĢиÑģ":131462,"ÙĨتائ":131463,"ÙĨتائج":131464,"Ġ×ŀשר":131465,"Ġ×ŀשר×ĵ":131466,"ĠتعاÙĦ":131467,"ĠتعاÙĦÙī":131468,"ש׳×Ļ":131469,"ÙĩاÙħ":131470,"×IJ׳ש×Ļ×Ŀ":131471,"Ġżycia":131472,"ĠÑĢÑĥблей":131473,"ÙĬض":131474,"Ġkatıl":131475,"ĠÙħÙĪØ¶ÙĪØ¹":131476,"Ġvardır":131477,"ĠÙħÙĨØ·ÙĤØ©":131478,"ĠTrần":131479,"ĠвеÑģ":131480,"üp":131481,"ÙħÙĪÙĨ":131482,"ÑĪли":131483,"Ġnóng":131484,"Ø®ÙĦÙģ":131485,"ĠСÑĤа":131486,"ĠдоÑĢ":131487,"ĠдоÑĢог":131488,"ĠwÅĤaÅĽnie":131489,"eÄŁin":131490,"Ġhiá»ĥm":131491,"ĠСам":131492,"ê»ĺìĦľ":131493,"ĠÑĦа":131494,"ãģ»ãģĨ":131495,"ãģ»ãģĨãģĮ":131496,"×ķפ×Ļ×¢":131497,"ê°Ī":131498,"دÙĪÙĦ":131499,"Ġthuê":131500,"Ġchá»Ĺ":131501,"Ġëĭ¹ìĭł":131502,"ãģijãĤĮ":131503,"ãģijãĤĮãģ©":131504,"ë³´íĺ¸":131505,"ãģķãĤĮãģ¦ãģĦãģ¾ãģĻ":131506,"Ġнадо":131507,"ĠìĤ¬ëŀĮëĵ¤":131508,"à¹Ģà¸Ĥà¸ķ":131509,"สมัย":131510,"zÅĤ":131511,"تÙĪØ±":131512,"Ġשת×Ļ":131513,"vê":131514,"Ġ×ijת×ķ×ļ":131515,"à¸Ĭัย":131516,"ãģĦãģ£ãģŁ":131517,"ìĿij":131518,"Ġtầ":131519,"Ġtầng":131520,"ש׼ר":131521,"Ġê¸Ģ":131522,"Ġ×Ķש׳×Ķ":131523,"ĠاÙĨÙĩ":131524,"ç«ĭãģ¡":131525,"rés":131526,"führen":131527,"رØŃÙħ":131528,"ê·¹":131529,"ĠâĢ«":131530,"Ġsuất":131531,"à¸Łà¸´":131532,"ÙĬÙĩا":131533,"ĠاÙĦاتØŃاد":131534,"Ġtuyá»ĥn":131535,"ãģ¾ãĤĭ":131536,"Ġmại":131537,"Ġngân":131538,"ãĤ°ãĥ©":131539,"欲ãģĹãģĦ":131540,"سار":131541,"ãĤĤãģ®ãģ§ãģĻ":131542,"кие":131543,"Ġseçim":131544,"åħ¥ãĤĬ":131545,"ãģªãģ©ãĤĴ":131546,"ÑĤÑĢи":131547,"ĠÑģпеÑĨ":131548,"Ġأد":131549,"Ġодно":131550,"ÑĪел":131551,"ãĥĩãĥ¼ãĤ¿":131552,"ãĤ·ãĤ¹ãĥĨ":131553,"ãĤ·ãĤ¹ãĥĨãĥł":131554,"è¡Įãģį":131555,"ã썿ĢĿãģ£ãģŁ":131556,"à¹Ģà¸ģิà¸Ķà¸Ĥึà¹īà¸Ļ":131557,"ĠÑĤож":131558,"ĠÑĤоже":131559,"Ġsạch":131560,"ĠÑģÑĢок":131561,"ĠклиенÑĤ":131562,"ĠÙħشرÙĪØ¹":131563,"Ġaltında":131564,"Ġì·¨":131565,"ä¸Ńãģ®":131566,"ãģķãģĽãĤĭ":131567,"ãģĻãģ¹":131568,"ãģĻãģ¹ãģ¦":131569,"ê°ľë°ľ":131570,"ĠÄijêm":131571,"ãģªãģĦãģ®ãģ§":131572,"ì²ł":131573,"×¢×ij×ĵ":131574,"Ġdấu":131575,"à¸Ħà¸Ļà¸Ĺีà¹Ī":131576,"ĠCách":131577,"تعÙĦÙĬÙħ":131578,"Ġhại":131579,"ãĤ»ãĥķãĥ¬":131580,"ĠÙĨÙ쨳Ùĩ":131581,"ĠíĨµíķ´":131582,"ÑĪло":131583,"ĠнапÑĢав":131584,"ĠнапÑĢавлен":131585,"ÑĢÑĥÑĩ":131586,"íĶĮ":131587,"Ġ×ijר×Ļ×IJ":131588,"ãģ®ãģ¿":131589,"ãģ«ãģĬãģĦãģ¦":131590,"×ij׳ק":131591,"ãĤ¨ãĥ³":131592,"Ø«ÙĦاث":131593,"Ġmỹ":131594,"ĠÑģайÑĤе":131595,"ĠемÑĥ":131596,"تغÙĬ":131597,"تغÙĬÙĬر":131598,"خصÙĪØµ":131599,"ÑĤели":131600,"Ġ×ķ׾׼ף":131601,"פע×Ŀ":131602,"ĠпоÑįÑĤомÑĥ":131603,"راÙĨ":131604,"иÑĤелей":131605,"пиÑģан":131606,"×¢×¥":131607,"ĠìĤ¬ìĹħ":131608,"Ùħز":131609,"جÙħÙĬع":131610,"ë©´ìĦľ":131611,"à¸ľà¸¥à¸´à¸ķà¸łà¸±":131612,"à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵ":131613,"à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵà¸ij":131614,"à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵà¸ijà¹Į":131615,"ĠпÑĢимеÑĢ":131616,"ãĤŃãĥ¼":131617,"lâ":131618,"ĠchÄĥm":131619,"缮ãģ®":131620,"ãģĦãģĭ":131621,"ãģ¨è¨ĢãģĨ":131622,"×ĸ×ķ×Ĵ":131623,"Ġ×ij×ĵ×Ļ":131624,"Ġ×ij×ĵ×Ļ×ķ×§":131625,"ãģĬåºĹ":131626,"à¸ķà¸Ńà¸Ļà¸Ļีà¹ī":131627,"Ġphá»iji":131628,"пÑĤ":131629,"สà¸Ļาม":131630,"Ø·ÙĪ":131631,"صاØŃ":131632,"صاØŃب":131633,"ĠDü":131634,"ĠDünya":131635,"Ġпока":131636,"пал":131637,"ĠÄijảo":131638,"ĠاÙĦÙģÙĪØ±":131639,"ĠاÙĦÙģÙĪØ±Ùĥس":131640,"Ġmáu":131641,"кÑĢеп":131642,"ĠاÙĦساعة":131643,"ĠгоÑĢода":131644,"Ù쨵ÙĦ":131645,"айÑĤе":131646,"Ġдог":131647,"ĠдоговоÑĢ":131648,"Ġإذ":131649,"Ġ×ij׼׾׾":131650,"ÙĬتÙĩ":131651,"×Ĵ×ijר":131652,"Ġbirç":131653,"Ġbirçok":131654,"문íĻĶ":131655,"ãģĿãģĨãģª":131656,"راØŃ":131657,"ĠÙħرة":131658,"ĠденÑĮги":131659,"fä":131660,"à¸Ĥà¹īาว":131661,"ĠÑģовÑĢем":131662,"ĠÑģовÑĢеменн":131663,"׾×Ĺ×¥":131664,"èī¯ãģı":131665,"ĠÙ쨣":131666,"Ġ×ķ×ĸ×Ķ":131667,"Ġзани":131668,"Ġзанима":131669,"Ġê°Ģì§Ģê³ł":131670,"ĠhÆ¡i":131671,"ãģªãģ®ãģĭ":131672,"ãĥĨãĥ¬ãĥĵ":131673,"Ġר×ij×ķת":131674,"à¸ķี":131675,"Ġ×ij×©×ł×ª":131676,"ĠTại":131677,"ĠthuáºŃn":131678,"Ñģел":131679,"Ñijм":131680,"dziÄĩ":131681,"ĠÑģка":131682,"ĠÑģкаÑĩ":131683,"ĠÑģкаÑĩаÑĤÑĮ":131684,"×ķ×ŀ×ķ":131685,"гла":131686,"ĠминÑĥÑĤ":131687,"åĩºãģĻ":131688,"Ġ×Ĺ×Ļ×Ļ×ij":131689,"Ġת×Ĵ×ķ×ij×Ķ":131690,"à¸£à¸¹à¸Ľà¹ģà¸ļà¸ļ":131691,"ниÑĨа":131692,"Ġİn":131693,"Ġأع":131694,"ĠضÙħÙĨ":131695,"ÙħثاÙĦ":131696,"ĠyaÅŁan":131697,"ĠìĹ°êµ¬":131698,"ĠLê":131699,"ש׾×Ĺ":131700,"ãģıãģªãĤĭ":131701,"ìĹĨìĿ´":131702,"ĠÑĤÑĢи":131703,"ĠÑĩаÑģÑĤо":131704,"ĠобÑĢаÑĤ":131705,"пло":131706,"دخ":131707,"دخÙĪÙĦ":131708,"سÙĩ":131709,"à¸Ńาà¸ģ":131710,"à¸Ńาà¸ģาศ":131711,"Ġ׼×ĸ×Ķ":131712,"Ġ×Ķעסק":131713,"ĠاÙĦØ£ÙĨ":131714,"å¹´ãģ«":131715,"עש×ķ":131716,"Ġשע×ķת":131717,"ĠmÃłn":131718,"×IJר×Ļ":131719,"sıyla":131720,"Ù쨱ÙĤ":131721,"ниÑħ":131722,"Ġتست":131723,"è¦ĭãģ¦":131724,"ØŃاÙĪÙĦ":131725,"×IJ×Ļ׼×ķת":131726,"ĠbaÅŁladı":131727,"stÄħ":131728,"stÄħpi":131729,"à¸Ĺีà¹Īà¹Ģรา":131730,"ÙĤرر":131731,"جاب":131732,"Ġ×ijר×ķר":131733,"à¹Ģà¸Ĥà¹īาà¹ĥà¸Ī":131734,"×ŀ×Ĺקר":131735,"alım":131736,"Ġס×Ļפ×ķר":131737,"ãģ§ãģĤãĤĮãģ°":131738,"Ġש×ŀ×ķר×ķת":131739,"Ġ×ķ×ŀ×Ķ":131740,"ãģĵãģĿ":131741,"idée":131742,"ä¸ĭãģķãģĦ":131743,"تÙĨاÙĪÙĦ":131744,"Ġลà¹īาà¸Ļ":131745,"Ġìļ°ë¦¬ëĬĶ":131746,"اÙĨا":131747,"ÑģÑĤой":131748,"боÑĤ":131749,"ĠyaÅŁam":131750,"köy":131751,"Ø¥ÙĦ":131752,"ÑĢÑĭв":131753,"기ìĹħ":131754,"Ġ×Ķ×ŀ×ĵ":131755,"Ġ×Ķ×ŀ×ĵ×Ļ׳×Ķ":131756,"دب":131757,"×¢×Ļ׳×Ļ":131758,"×ŀת×Ĺ":131759,"Ġפר×Ļ":131760,"ãĥĭãĥ¼":131761,"اÙħÙĬ":131762,"Ġnhằm":131763,"ãĤĮãģªãģĦ":131764,"تعرÙģ":131765,"Ġë§ĪìĿĮ":131766,"ìĵ°":131767,"Ġhấp":131768,"ר×Ĵ×Ļ׾":131769,"بÙİ":131770,"ĠrÄĥng":131771,"glÄħd":131772,"ĠÑģиÑģÑĤемÑĭ":131773,"Ġkhóa":131774,"ãģ§ãģĻãĤĪãģŃ":131775,"大ãģįãģı":131776,"기를":131777,"Ġkéo":131778,"ÙĪØ¡":131779,"جاÙħ":131780,"جاÙħع":131781,"Ġ×¢×Ļצ×ķ×ij":131782,"téri":131783,"Ġתש":131784,"Ġ×IJ×ij×Ļ":131785,"ĠChương":131786,"à¸ļริà¹Ģว":131787,"à¸ļริà¹Ģวà¸ĵ":131788,"ãģ¤ãģı":131789,"Ġ×Ĺ×ķ׾":131790,"עת×Ļ×ĵ":131791,"ש×Ļ×ŀ×Ķ":131792,"ëĤ¨":131793,"Ġש×IJ×Ļף":131794,"ĠÙĪØ§ÙĦØ¥":131795,"ÑĦа":131796,"Ġkhám":131797,"Ġ×ĺ×ķ×ij×Ķ":131798,"ĠвÑĭÑģ":131799,"ĠвÑĭÑģоко":131800,"ĠاÙĦØŃدÙĬØ«":131801,"人ãĤĤ":131802,"dÃ¼ÄŁÃ¼":131803,"×Ļ×Ĺ×ķ×ĵ":131804,"تعÙĦÙĬ":131805,"تعÙĦÙĬÙĤ":131806,"lö":131807,"تØŃدÙĬد":131808,"него":131809,"ĠÑĥдоб":131810,"Ġ׾×ŀ×Ļ":131811,"Ġר×ķצ×Ļ×Ŀ":131812,"Ġجاء":131813,"Ġ×ij×ĸ×ŀף":131814,"à¸Ľà¸ģà¸ķิ":131815,"é«ĺãģı":131816,"à¸Ľà¸¥à¸²":131817,"Ġartık":131818,"Ġbugün":131819,"ק׳×Ļ":131820,"Ġkhoá":131821,"ĠÙħرÙĥز":131822,"ĠìŀIJ기":131823,"درجة":131824,"×ŀשר×ĵ":131825,"Ġgiấy":131826,"Ġchóng":131827,"קפ":131828,"ÙĬبة":131829,"ĠczÄĻsto":131830,"вали":131831,"Ùĥب":131832,"ìŁģ":131833,"สà¸ļาย":131834,"à¸Ľà¸£à¸°à¸Ĭาà¸Ĭà¸Ļ":131835,"×Ĵ×ķ×£":131836,"ëŁī":131837,"ãģ®ãģĵãģ¨":131838,"ลà¸Ń":131839,"Ġnghá»ī":131840,"åŃIJãģ©":131841,"åŃIJãģ©ãĤĤ":131842,"à¹Ħà¸Ķà¹īà¸Ńย":131843,"à¹Ħà¸Ķà¹īà¸Ńยà¹Īาà¸ĩ":131844,"×ĵ×¢":131845,"ĠاÙĦتÙī":131846,"ĠÑģовеÑĤ":131847,"ĠqualitÃł":131848,"åĩºãģĹ":131849,"ĠÑĢÑĥков":131850,"ĠÑĢÑĥковод":131851,"รายละà¹Ģà¸Ńียà¸Ķ":131852,"ãģªãģĭãģªãģĭ":131853,"기ê´Ģ":131854,"Ġ×Ĺ×ķש":131855,"Ġ×Ĺ×ķש×ij":131856,"лоÑĤ":131857,"à¸Ļะà¸Ħรัà¸ļ":131858,"×§×ij×ķצ×Ķ":131859,"Ġthái":131860,"Ġש×ij×Ķ":131861,"ĠÑĪкол":131862,"ĠÙĦÙĥÙĦ":131863,"à¹ĥà¸Ļà¸Ĭà¹Īวà¸ĩ":131864,"ĠÙħÙĥاÙĨ":131865,"ëķĮ":131866,"Ġcải":131867,"ĠChÃŃ":131868,"ÑĥÑĩа":131869,"ìĿµ":131870,"Ġxảy":131871,"à¸Ĭà¸Ļิà¸Ķ":131872,"ĠcáºŃu":131873,"кÑĢов":131874,"ssé":131875,"ĠÙĨÙĪØ¹":131876,"ĠТа":131877,"Ø®Ùħس":131878,"פ×ķס×ĺ":131879,"Ġmắc":131880,"ĠÄijem":131881,"à¸ģารà¹ĥà¸Ĭà¹ī":131882,"ר×ķס":131883,"ĠÐĽÐµ":131884,"Ġthá»Ń":131885,"รà¹Īาà¸ĩà¸ģาย":131886,"üzü":131887,"æĹ¥æľ¬ãģ®":131888,"ê³¼ìłķ":131889,"ש×Ļ×IJ":131890,"ĠìŀĪê³ł":131891,"×ij×ķ׾":131892,"ìķħ":131893,"ĠÙĪØ§ÙĦا":131894,"ĠÐĽÐ¸":131895,"ĠвÑģÑij":131896,"Ġużytkow":131897,"×Ĺ×ķ׾":131898,"رÙ쨶":131899,"Ġsonuç":131900,"ãģĦãģ¾ãģĽãĤĵ":131901,"ìĤ¬ìĹħ":131902,"ëĪĦ":131903,"ÑĤек":131904,"ĠudziaÅĤ":131905,"лез":131906,"Ġ×Ķ×Ļ×Ļת×Ļ":131907,"ãĤīãĤĮãģ¦":131908,"ÙħسؤÙĪÙĦ":131909,"رار":131910,"ÑĤан":131911,"ĠÄijÃło":131912,"Ġר×ķ×ij":131913,"Ġ×ijש×ij×Ļ׾":131914,"ä»ĬåĽŀãģ¯":131915,"ãĤ¸ãĥ¥":131916,"Ġ×¢×ijר":131917,"ãģĽãģ¦":131918,"полÑĮ":131919,"aklı":131920,"ĠkÃŃnh":131921,"دت":131922,"ложение":131923,"ĠاÙĦÙħص":131924,"ĠاÙĦÙħصرÙĬ":131925,"à¸Īริà¸ĩà¹Ĩ":131926,"ĠاÙĦشرÙĥØ©":131927,"ĠÄijá»ı":131928,"ãĥĽãĥĨ":131929,"ãĥĽãĥĨãĥ«":131930,"Ñįкон":131931,"Ñįконом":131932,"ĠÙĪØ¹ÙĨ":131933,"Ġ×ª×ł":131934,"Ġ×ª×ł×IJ×Ļ":131935,"ĠاÙĦدÙĪÙĦÙĬØ©":131936,"Ġì§ĢìĹŃ":131937,"ãģ§ãģĻãģĭ":131938,"ĠваÑĢи":131939,"ĠваÑĢианÑĤ":131940,"ĠاÙĦعرب":131941,"ела":131942,"ĠtÆ°á»Ľng":131943,"skÄħ":131944,"Ġmặc":131945,"สัà¸ģ":131946,"ãĥĵãĥ¼":131947,"Ġ×ij×Ĵ׾":131948,"Ġ×ij×Ĵ׾׾":131949,"ãĥķãĤ¡ãĥ³":131950,"×ij×Ļצ":131951,"×ij×Ļצ×ķ×¢":131952,"лиÑģÑĤ":131953,"à¸Łà¸¸":131954,"à¸Łà¸¸à¸ķ":131955,"à¸Łà¸¸à¸ķà¸ļà¸Ńล":131956,"à¸Ŀà¹Īาย":131957,"ìŀIJìĿĺ":131958,"ĠسÙĪÙģ":131959,"Ġש×Ķת":131960,"Ġ걸":131961,"×¢×ij×ķ×ĵ":131962,"ãģĻãĤĭãģĵãģ¨ãģĮ":131963,"ĠÑĩаÑģÑĤÑĮ":131964,"ãĤ¢ãĥ¡ãĥª":131965,"ãĤ¢ãĥ¡ãĥªãĤ«":131966,"Ġtakım":131967,"ĠsỼ":131968,"ĠsỼm":131969,"שר×Ķ":131970,"è¨ĢãģĨ":131971,"лан":131972,"커":131973,"׼׳×Ķ":131974,"ÙĪÙģÙĬ":131975,"íĹĪ":131976,"luÄŁu":131977,"ĠëĮĢíķ´":131978,"Ġ׾×ij×Ļת":131979,"Ġ×Ķר×IJש×ķ׳×Ķ":131980,"صÙħ":131981,"Ġsöyled":131982,"Ġsöyledi":131983,"à¸Ľà¸²à¸ģ":131984,"Ġardından":131985,"ãģĪãģŁ":131986,"à¸Ĺัà¹Īวà¹Ħà¸Ľ":131987,"Ġ׳×ķסף":131988,"болÑĮ":131989,"ãĤĵãģ§ãģĻãģijãģ©":131990,"ĠлиÑĪÑĮ":131991,"Ġ×ij×IJ×Ļ":131992,"ĠбÑĭÑģÑĤÑĢо":131993,"สัà¸Ļ":131994,"Ġ×ijפ׳×Ļ":131995,"леÑĩ":131996,"ĠاÙĦخبر":131997,"Ġsóc":131998,"Ġthú":131999,"ĠпÑıÑĤ":132000,"ãģĬé¡ĺ":132001,"ãģĬé¡ĺãģĦ":132002,"ÑĤин":132003,"ãģ«ãģ¤ãģĦãģ¦ãģ¯":132004,"פף":132005,"ĠдвÑĥÑħ":132006,"à¸įีà¹Ī":132007,"à¸įีà¹Īà¸Ľ":132008,"à¸įีà¹Īà¸Ľà¸¸":132009,"à¸įีà¹Īà¸Ľà¸¸à¹Īà¸Ļ":132010,"опеÑĢ":132011,"ĠاÙĦبشر":132012,"ĠاÙĦÙħاÙĦ":132013,"ıyoruz":132014,"تØŃÙħÙĬÙĦ":132015,"à¸ģะ":132016,"éĸĵãģ«":132017,"×Ĺ×ķש":132018,"ĠNguyên":132019,"ãģĦãģ¦ãģĦãĤĭ":132020,"дÑĥÑĪ":132021,"שפע":132022,"ÑĪÑĥ":132023,"å®ŁéļĽãģ«":132024,"ĠÑĢайон":132025,"ĠChá»ī":132026,"ÙĨصر":132027,"Ġìļ´":132028,"Ġìļ´ìĺģ":132029,"Ġ×Ķ×ĵ×Ļף":132030,"ØŃدد":132031,"رز":132032,"ĠاÙĦدÙħ":132033,"ĠPháp":132034,"ÑĤÑģÑı":132035,"è¦ĭãģĪ":132036,"Ġtiá»ĥu":132037,"Ġsá»Ńa":132038,"аÑİÑĤÑģÑı":132039,"ĠBá":132040,"Ġ×ķ׼׾":132041,"Ðĸ":132042,"ÑĪим":132043,"ìĿ´ëĬĶ":132044,"лев":132045,"dık":132046,"Ġprésente":132047,"Ġaraç":132048,"صدÙĤ":132049,"Ġпомог":132050,"ĠاÙĦشرÙĤ":132051,"ĠÙĪØ§ÙĦذÙĬ":132052,"رÙĬا":132053,"×ij׳×ķת":132054,"Ġngá»ĵi":132055,"ר×ķפ":132056,"ר×ķפ×IJ":132057,"Ġthấp":132058,"ãĤĦãģ¯":132059,"ãĤĦãģ¯ãĤĬ":132060,"ĠاÙĦجدÙĬدة":132061,"éĿŀ常ãģ«":132062,"ÙĬÙĦÙĬ":132063,"쪽":132064,"تعاÙħÙĦ":132065,"ãģłã썿ĢĿãģĦãģ¾ãģĻ":132066,"ÙħÙħ":132067,"иÑĤели":132068,"ãĤµãĤ¤ãĤº":132069,"ادات":132070,"ĠاÙĦÙħاÙĦÙĬØ©":132071,"Ùĥاتب":132072,"кли":132073,"веÑĢÑħ":132074,"ниÑĩ":132075,"Ġ×ľ×¢×ij×ķ×ĵ":132076,"׾×Ļ×Ķ":132077,"ØŃÙİ":132078,"ãĤ¤ãĥĻ":132079,"ãĤ¤ãĥĻãĥ³ãĥĪ":132080,"Ġת×Ĵ×ķ×ij×ķת":132081,"ÑĦон":132082,"ĠдÑĢÑĥгие":132083,"×IJ×ĸ×ķר":132084,"Ġperò":132085,"ìķŀ":132086,"åĢŁãĤĬ":132087,"רצ×Ļ":132088,"×IJ×ĸ":132089,"алÑĮнÑĭÑħ":132090,"Ġê²ĥìľ¼ë¡ľ":132091,"ĠпÑĢаво":132092,"ĠاÙĦأرض":132093,"à¹Ģà¸Ĺà¸Ħ":132094,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļ":132095,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥล":132096,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥลย":132097,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥลยี":132098,"צר×Ļ":132099,"ĠÐļÑĥ":132100,"ılma":132101,"決ãĤģ":132102,"اÙĪ":132103,"Ġ×ĵ×§×ķת":132104,"à¸Ħรู":132105,"ĠÙħستÙĪÙī":132106,"à¸Ľà¹īà¸Ńà¸ĩ":132107,"à¸Ľà¹īà¸Ńà¸ĩà¸ģัà¸Ļ":132108,"×ĵ×ķ×ŀ×Ķ":132109,"ĠÑģегоднÑı":132110,"سÙĪÙĤ":132111,"ר×Ĺ×ķ×ij":132112,"Ġإدارة":132113,"Ñħож":132114,"éģİãģİ":132115,"à¸Ħà¸Ń":132116,"нÑĥл":132117,"×ķ׼×Ķ":132118,"ÙĪØ§ÙģÙĤ":132119,"׼׾׾":132120,"Ġ×Ķ×ĵ×ķ":132121,"ĠlÄ©nh":132122,"Ġkhảo":132123,"×IJ×ŀצע":132124,"머":132125,"Ġ׼×Ļצ":132126,"Ġ׼×Ļצ×ĵ":132127,"ĠдолжнÑĭ":132128,"หวัà¸ĩ":132129,"ãĥĩãĤ¶":132130,"ãĥĩãĤ¶ãĤ¤ãĥ³":132131,"Ġngá»Ŀ":132132,"ä¸Ńãģ«":132133,"à¸ģลัà¸ļมา":132134,"جÙħاÙĦ":132135,"à¸Ķัà¸ĩà¸ģลà¹Īาว":132136,"سÙĥÙĨ":132137,"سÙĨ":132138,"Ġözellikle":132139,"зеÑĢ":132140,"rzÄĻ":132141,"×ŀ×ķר×Ķ":132142,"Ġlạ":132143,"×ŀ×Ļ׳×Ļ":132144,"ר×Ļת":132145,"ãģĿãĤĮãģĮ":132146,"ãģĭãĤĮ":132147,"ĠÙĬÙħÙĥÙĨÙĥ":132148,"öffentlich":132149,"ган":132150,"ĠاÙĦØŃÙĦ":132151,"ĠmiÄĻdzy":132152,"ĠÑĩаÑģÑĤи":132153,"ujÄħcy":132154,"ĠbaÄŁlı":132155,"ĠiliÅŁki":132156,"ÙģØ§Ø¡":132157,"ãĥªãĥ³ãĤ°":132158,"Ġhãng":132159,"ĠконÑĤÑĢ":132160,"ĠконÑĤÑĢол":132161,"коп":132162,"ש×Ļ×¢":132163,"ש×Ļ×¢×ķר":132164,"ĠÐĴаÑĪ":132165,"Ġ×Ķתק":132166,"ÙħÙĨع":132167,"ĠpolÃŃtico":132168,"Ġголов":132169,"ĠØ¥ÙĬ":132170,"Ø¥ÙĨتاج":132171,"à¸ļิ":132172,"ĠговоÑĢ":132173,"ĠговоÑĢиÑĤ":132174,"Ġphá»ķ":132175,"ĠÑģемÑĮ":132176,"ãģ¯ãģĤãĤĬãģ¾ãģĽãĤĵ":132177,"ĠÙĪØ§Ø³Øª":132178,"×ŀשפ×ĺ":132179,"зем":132180,"×ŀ×ĵ×ijר":132181,"Ġíģ°":132182,"ĠìĿ´ë²Ī":132183,"ê°ĢëĬĶ":132184,"Ġì§ĢìĽIJ":132185,"ĠcaÅĤy":132186,"ĠgeliÅŁtir":132187,"Ñģкое":132188,"posé":132189,"Ġkhô":132190,"à¸ķิà¸Ķà¸ķาม":132191,"missão":132192,"Ġ׾×ŀר":132193,"Ġ׾×ŀר×ķת":132194,"Ġbó":132195,"à¸ķรวà¸Īสà¸Ńà¸ļ":132196,"Ġnghá»ģ":132197,"Ġбиз":132198,"ĠбизнеÑģ":132199,"ÑģÑĤеÑĢ":132200,"ÙĪÙİ":132201,"楽ãģĹãģ":132202,"楽ãģĹãģ¿":132203,"ãģĵãĤĮãģĭãĤī":132204,"wiÄħzan":132205,"สà¸Ńà¸Ļ":132206,"ÙħÙĪØ±":132207,"׳×ĵ׾":132208,"Ġ×Ķ×IJ×ĵ×Ŀ":132209,"Ġмолод":132210,"ØŃÙħا":132211,"ØŃÙħاÙĬØ©":132212,"ÑģÑĤÑĢан":132213,"Ġbuá»ķi":132214,"ת×Ļ×Ļ×Ŀ":132215,"abileceÄŁi":132216,"Lİ":132217,"à¹Ģยà¸Ńะ":132218,"à¸Īร":132219,"سÙĥاÙĨ":132220,"à¸Ļัà¸Ķ":132221,"Ġmấy":132222,"ĠÐijа":132223,"sÅĤaw":132224,"ĠÙģÙĦا":132225,"ĠкоÑĤоÑĢой":132226,"ĠплоÑī":132227,"ĠплоÑīад":132228,"ãĤĤãģĤãĤĬ":132229,"szczÄĻ":132230,"×Ļפ×ķ":132231,"ש×ŀת":132232,"owaÅĤa":132233,"Ġnông":132234,"צ×ij×IJ":132235,"ĠìŀĪìĹĪ":132236,"ãģ¾ãģ¨":132237,"ãģ¾ãģ¨ãĤģ":132238,"ÙĤÙĪØ§Øª":132239,"ãģ¿ãĤĵãģª":132240,"Ġ׼×ŀ×¢×ĺ":132241,"Ġxúc":132242,"ï¼Ĩ":132243,"rÄĻ":132244,"rÄĻcz":132245,"×ĵ×ŀ×Ļ":132246,"ĠtáºŃn":132247,"à¸Ķวà¸ĩ":132248,"ê²½ìłľ":132249,"пÑĥÑĤ":132250,"أربع":132251,"Ġ×ŀשת×ŀש":132252,"ãĤ¿ãĤ¤ãĥĹ":132253,"Ġìłľê°Ģ":132254,"Ġ׾׼ף":132255,"ĠобÑĢазом":132256,"ÙĬÙĥا":132257,"wÅĤ":132258,"wÅĤasn":132259,"ĠاÙĦÙĪØ·ÙĨÙĬØ©":132260,"بÙĬب":132261,"×ŀ׾×Ļ":132262,"кÑĢаÑĤ":132263,"기ìĹIJ":132264,"ÙĤاد":132265,"ĠÙĦدÙī":132266,"à¸Ħวามรูà¹ī":132267,"×ŀ×ĵ×Ļ׳×Ļ×ķת":132268,"겨":132269,"ĠíĺĦìŀ¬":132270,"שת×Ļ":132271,"мол":132272,"Ġmái":132273,"à¸ŀิม":132274,"à¸ŀิมà¸ŀ":132275,"à¸ŀิมà¸ŀà¹Į":132276,"หลวà¸ĩ":132277,"Ġxuyên":132278,"×Ĺסר":132279,"رÙĪÙĨ":132280,"ãģĿãģĨãģĦãģĨ":132281,"ãģĿãĤĮãģŀ":132282,"ãģĿãĤĮãģŀãĤĮ":132283,"Ġ׼ש×Ķ":132284,"ÐŁÑĢав":132285,"×ŀ×ijצע":132286,"عرب":132287,"Ġbüyü":132288,"פ×Ļת×ķ×Ĺ":132289,"à¸Īà¸ļ":132290,"ĠØ£Ùĥبر":132291,"שרת":132292,"×ŀ׼ש×Ļר":132293,"ĠÙĪÙħع":132294,"ãģ®ãģŁãĤģãģ«":132295,"à¸Ļัà¸ļ":132296,"ì°°":132297,"ãĥªãĥķãĤ©":132298,"ãĥªãĥķãĤ©ãĥ¼ãĥł":132299,"Ġcưá»Ŀng":132300,"ĠìłĢíĿ¬":132301,"ÙħÙĨظÙħØ©":132302,"Ġhiçbir":132303,"ãģ§ãģ¯ãģĤãĤĬãģ¾ãģĽãĤĵ":132304,"รà¸Ńย":132305,"ëIJľëĭ¤":132306,"ãģĻãģIJãģ«":132307,"кла":132308,"Ġürünler":132309,"Ġkiá»ĥu":132310,"ĠëĤĺëĬĶ":132311,"ÑĤки":132312,"Ñģим":132313,"Ġchá»īnh":132314,"ãĤĤãģªãģĦ":132315,"ศรี":132316,"æĽ¿ãģĪ":132317,"taÅŁ":132318,"ĠبÙĥÙĦ":132319,"Ġ×ķ×Ļש":132320,"visão":132321,"ä¼Ŀ":132322,"ä¼ĿãģĪ":132323,"ÙĦد":132324,"׾×Ļ×ŀ":132325,"׾×Ļ×ŀ×ķ×ĵ":132326,"tória":132327,"دÙij":132328,"اÙħر":132329,"Ġê·¸ëłĩê²Į":132330,"ĠmateriaÅĤ":132331,"à¸Ĺรา":132332,"à¸Ĺราà¸ļ":132333,"ã쮿ĸ¹ãģĮ":132334,"ãģ¦ãģįãģŁ":132335,"ضغ":132336,"ضغط":132337,"ĠÙĬعÙĨÙĬ":132338,"ело":132339,"×IJ×Ķ×ij×Ķ":132340,"×¢×ŀ":132341,"ÅŁÄ±k":132342,"ìŀIJëĬĶ":132343,"ãĤ¿ãĥ³":132344,"ĠbáºŃt":132345,"×ŀשפ×Ĺ×Ķ":132346,"кÑĢи":132347,"бли":132348,"สัà¸ķ":132349,"สัà¸ķวà¹Į":132350,"ĠسÙĨÙĪØ§Øª":132351,"ĠPhương":132352,"ãģ¦ãģĹãģ¾ãģ£ãģŁ":132353,"ãģªãģľ":132354,"Ġ×ij×IJ×ķ":132355,"Ġcán":132356,"سجÙĦ":132357,"Ġlẽ":132358,"ãĤ±ãĥ¼ãĤ¹":132359,"Ġ×§×Ļ×ij׾":132360,"à¸ļà¸Ĺà¸Ħวาม":132361,"Ġ×ķ׼ף":132362,"ĠпÑĢедÑģÑĤавлен":132363,"Ġná»iji":132364,"Ġcomentário":132365,"ением":132366,"Ġtá»ı":132367,"lÃł":132368,"Ġש×Ķ×Ļ×Ķ":132369,"Ñģлав":132370,"ĠاÙĦÙĪÙĦا":132371,"ĠاÙĦÙĪÙĦاÙĬات":132372,"ÙĦجÙĨØ©":132373,"×§×ķר×IJ":132374,"бÑĭÑĤ":132375,"Ġì¦":132376,"Ġì¦ī":132377,"ãģ§ãģĻãģĹ":132378,"หรืà¸Ńà¹Ħมà¹Ī":132379,"заÑīиÑĤ":132380,"ÙģÙĦسطÙĬÙĨ":132381,"Ġmiá»ħn":132382,"à¹Ģยà¹ĩà¸Ļ":132383,"ĠçalÄ±ÅŁan":132384,"×Ļ×Ĵ×Ķ":132385,"ĠEÄŁ":132386,"ĠEÄŁitim":132387,"ãĥĥãĤ·ãĥ¥":132388,"ĠопÑĭ":132389,"ĠопÑĭÑĤ":132390,"رغ":132391,"رغب":132392,"ĠÑģвоиÑħ":132393,"à¸Ľà¸£à¸°à¸ķ":132394,"à¸Ľà¸£à¸°à¸ķู":132395,"Ġ×ŀ×IJ×ĵ":132396,"׼×ķ׳×Ļ×Ŀ":132397,"à¸Ļี":132398,"ĠвÑĭÑħод":132399,"ãģ®ä¸Ńãģ«":132400,"פ׾×IJ":132401,"ĠÙĪÙĦÙĬس":132402,"פ×ķרס":132403,"פ×ķרס×Ŀ":132404,"ÙħسÙĦÙħ":132405,"Ġngôi":132406,"×ĵ×ŀ×ķת":132407,"ãĤĴ使ãģ£ãģ¦":132408,"ĠпомоÑīÑĮÑİ":132409,"أسر":132410,"блок":132411,"ÙĤÙĩ":132412,"ãģĹãģ¾ãģĦ":132413,"ãģ¨ãģĹãģŁ":132414,"ĠпеÑģ":132415,"ãĥīãĥ«":132416,"×Ĺ×Ŀ":132417,"ãģĹãģªãģĮãĤī":132418,"ĠÐŁÑĢед":132419,"ãĥģãĤ§ãĥĥãĤ¯":132420,"å¼·ãģĦ":132421,"ש×Ļר×ķת":132422,"даеÑĤ":132423,"×Ļ×ij×ķ":132424,"Ġgenç":132425,"илаÑģ":132426,"илаÑģÑĮ":132427,"ĠبÙĦد":132428,"æĤª":132429,"æĤªãģĦ":132430,"Ġ×ŀשת":132431,"æ§ĺãĢħ":132432,"æ§ĺãĢħãģª":132433,"à¸ĺรรมà¸Ĭาà¸ķิ":132434,"ĠÙĥاÙħÙĦ":132435,"ĠاÙĦسÙħ":132436,"×ij×ĺ×Ļ×Ĺ":132437,"cá":132438,"gência":132439,"ãĤ¹ãĤ¿ãĥ¼":132440,"à¸Ĺำà¸ģาร":132441,"×Ļ×ľ×ª":132442,"Ġ×Ļ×ķצ×IJ":132443,"wój":132444,"à¸ļุà¸Ħ":132445,"à¸ļุà¸Ħà¸Ħล":132446,"عتÙħ":132447,"عتÙħد":132448,"ãģĿãĤĮãģ«":132449,"ĠاÙĦتارÙĬØ®":132450,"ÙĤراء":132451,"Ġyönetim":132452,"קשר":132453,"ĠÑģпоÑĢÑĤ":132454,"Ġר×IJש×ķף":132455,"Ġseñal":132456,"Ġchắn":132457,"çĦ¡ãģĦ":132458,"ĠдоÑģÑĤаÑĤ":132459,"ĠдоÑģÑĤаÑĤоÑĩно":132460,"Ġágua":132461,"à¸ģรà¸ĵ":132462,"à¸ģรà¸ĵี":132463,"Ġ×ŀש×ķ":132464,"Ġtrải":132465,"ë²Į":132466,"ujÄħcych":132467,"ÙģØ±Ø¯":132468,"à¹ĥà¸ģล":132469,"à¹ĥà¸ģลà¹ī":132470,"ãĤĭãģ®ãģ¯":132471,"ר×ķ×ķ×Ĺ":132472,"ÙĨÙĥ":132473,"ĠاÙĦÙĨÙĤ":132474,"ãģ®ãģ§ãģĹãĤĩãģĨ":132475,"ãģ®ãģ§ãģĹãĤĩãģĨãģĭ":132476,"ÙħعرÙģ":132477,"ÙħعرÙ쨩":132478,"ÑĥÑīе":132479,"Ġ×ij×¢×Ļקר":132480,"تصÙĦ":132481,"Ġ×Ķ×IJר":132482,"Ġ×Ķ×IJרץ":132483,"ĠÅŀi":132484,"à¸Ĥาà¸Ķ":132485,"íŀĺ":132486,"ãģªãĤĵãģ¨":132487,"ĠìĤ¬ëŀij":132488,"lÃ¼ÄŁÃ¼":132489,"باء":132490,"ĠاÙĦآخر":132491,"ĠfamÃŃlia":132492,"ĠTháng":132493,"ÑīениÑı":132494,"ãĤ¯ãĥŃ":132495,"ĠThứ":132496,"æĽ¸ãģį":132497,"енной":132498,"ìŀ¡":132499,"благ":132500,"благо":132501,"пов":132502,"à¹ģว":132503,"à¸ĩà¸Ħà¹Į":132504,"à¸Ńัà¸Ļà¸Ķัà¸ļ":132505,"ãģĤãģĴ":132506,"รà¹īาย":132507,"ünün":132508,"Ġ×Ļ׼×ķ׾×Ķ":132509,"зон":132510,"ĠÐľÐ¸":132511,"маÑĤеÑĢиал":132512,"Ġë³´ë©´":132513,"ØŃÙ쨏":132514,"êÌģ":132515,"ãģ«ãģĻãĤĭ":132516,"Ġת×IJ":132517,"Ġ×Ķס×ķ":132518,"ĠÑģÑĤоÑĢ":132519,"ĠÑģÑĤоÑĢон":132520,"ãĥĪãĥĥãĥĹ":132521,"ÅĤoÅĽÄĩ":132522,"ëħ¼":132523,"ëĵĿ":132524,"ĠÙĪØ§ÙĦع":132525,"ì¶Ķ":132526,"Ġ×Ļצ×IJ":132527,"ĠÑĢаздел":132528,"алÑĮнаÑı":132529,"×IJ׳ש×Ļ":132530,"spoÅĤ":132531,"spoÅĤec":132532,"spoÅĤeczn":132533,"إعÙĦ":132534,"إعÙĦاÙĨ":132535,"ÙĤÙĪÙī":132536,"íķĺë©´ìĦľ":132537,"تطÙĪØ±":132538,"Ġsiêu":132539,"Ỽt":132540,"дви":132541,"движ":132542,"Ġquần":132543,"kıl":132544,"ĠпÑĢизна":132545,"ĠHã":132546,"ĠHãy":132547,"ĠباÙĦت":132548,"manın":132549,"ãĤ«ãĥ«":132550,"Ġká»·":132551,"ק׾×Ļ":132552,"ëIJĺì§Ģ":132553,"تعÙĦÙħ":132554,"ìĭľìĦ¤":132555,"ìĭ¶":132556,"íĺ¼":132557,"ÙĥÙĬÙģ":132558,"売ãĤĬ":132559,"วิà¸Ĭา":132560,"бал":132561,"ĠØ£ØŃ":132562,"Ġдолжен":132563,"ราà¸ĩ":132564,"ราà¸ĩวั":132565,"ราà¸ĩวัล":132566,"Ùħاء":132567,"جار":132568,"Åļ":132569,"Ġ×ŀ×IJ×ĸ":132570,"ר×ŀ×Ķ":132571,"ãģĭãĤĤãģĹãĤĮãģªãģĦ":132572,"étude":132573,"czÄħc":132574,"Ġgór":132575,"×ł×¡×Ķ":132576,"ÙħÙĬد":132577,"ĠÐŁÐµÑĢе":132578,"أخر":132579,"ãģĿãģ®å¾Į":132580,"à¹Ģà¸Ķียวà¸ģัà¸Ļ":132581,"×ŀ×Ĵ×ķ":132582,"×ŀ×Ĵ×ķ×ķף":132583,"дов":132584,"masına":132585,"×¢×ł×Ķ":132586,"ãĤ±ãĥĥãĥĪ":132587,"סע":132588,"סע×Ļ×£":132589,"ĠTư":132590,"Ġtóc":132591,"íĻľëıĻ":132592,"ĠÐŀд":132593,"ĠÐŀднако":132594,"Ġdolayı":132595,"ؤÙĥد":132596,"ê³Ħíļį":132597,"׾ר":132598,"веÑĩ":132599,"Ġkhợi":132600,"Ġthá»§y":132601,"×ĵף":132602,"รà¸ģ":132603,"à¸ļัà¸ķร":132604,"à¹Ģà¸ģà¹Īา":132605,"ĠاÙĦثاÙĦ":132606,"ĠاÙĦثاÙĦØ«":132607,"Ġpodrá":132608,"ער×Ļ":132609,"ÙĨجاØŃ":132610,"Ġkhắc":132611,"측":132612,"İM":132613,"ãĤ»ãĥĥãĥĪ":132614,"żenia":132615,"Ġ׾×Ĺ×ijר":132616,"erÃł":132617,"ì´Ī":132618,"Ġküç":132619,"Ġküçük":132620,"اتÙĩÙħ":132621,"à¸ĭà¹Į":132622,"ÙħشارÙĥØ©":132623,"ĠاÙĦبط":132624,"Ġdây":132625,"еннÑĭм":132626,"à¸Ĺีà¹Īà¹Ħมà¹Ī":132627,"ÙĤÙİ":132628,"Ġvượt":132629,"Ġtrì":132630,"ĠwpÅĤyw":132631,"AÅŀ":132632,"зо":132633,"ĠاÙĦسÙĬد":132634,"à¸Ĺะà¹Ģล":132635,"ĠÑģодеÑĢжа":132636,"عطÙĬ":132637,"ĠاÙĦعÙĨ":132638,"èĢħãģĮ":132639,"à¹Ģหà¸Ļ":132640,"à¹Ģหà¸Ļืà¸Ń":132641,"ĠbÃŃ":132642,"Ġüzerinden":132643,"ĠVÅ©":132644,"Ġnuôi":132645,"ÙĨÙħ":132646,"алÑĮного":132647,"×¢×Ļף":132648,"ØŃضر":132649,"ĠоÑĤдел":132650,"ëªĩ":132651,"ìķ¡":132652,"ĠÙĦدÙĬÙĩ":132653,"ìĻľ":132654,"Ġsektör":132655,"Ġвозможно":132656,"ĠÐĶж":132657,"Ġhô":132658,"äºĭãģĮ":132659,"иÑĢование":132660,"алÑĮной":132661,"Ġ미êµŃ":132662,"رØŃÙĦ":132663,"ĠÑįкÑģ":132664,"пÑĢавлÑı":132665,"Ġnhá»Ŀ":132666,"ĠÄijẩ":132667,"ĠÄijẩy":132668,"ÙģÙĥر":132669,"ĠÙĪØ£Ø¶Ø§Ùģ":132670,"ãĥIJãĤ¹":132671,"ת×ķ׼׳×Ļת":132672,"ÑĤелей":132673,"ĠØ¥ÙĦÙĬÙĩ":132674,"ãģ¨è¨Ģãģ£ãģ¦":132675,"Ġдве":132676,"Ġchấp":132677,"ĠLö":132678,"à¸Ħลิ":132679,"à¸Ħà¸¥à¸´à¸Ľ":132680,"ĠسÙĪØ±":132681,"ĠسÙĪØ±ÙĬا":132682,"×ŀ×Ĺ×ķ":132683,"stä":132684,"доб":132685,"Ġniá»ĩm":132686,"ãģ®å¤§":132687,"פר×ķ×Ļ×§":132688,"פר×ķ×Ļ×§×ĺ":132689,"ĠChâu":132690,"Ġ×ŀ×Ķ×Ŀ":132691,"Ñģким":132692,"ĠполÑĥÑĩиÑĤÑĮ":132693,"ÙĬÙĪÙħ":132694,"Ø«ÙĪØ±":132695,"פ×ķ׾×Ļ×ĺ":132696,"פ×ķ׾×Ļ×ĺ×Ļ":132697,"ĠмеÑģÑıÑĨ":132698,"åħ¨ãģ¦":132699,"ĠاÙĦÙħجÙĦس":132700,"ĠاÙĦتاÙĦÙĬ":132701,"Ġ×Ĺר":132702,"åIJijãģij":132703,"׼×ŀ×Ķ":132704,"бед":132705,"أعض":132706,"أعضاء":132707,"ÙĪÙĦد":132708,"วà¹Īาà¸Īะ":132709,"Ġbánh":132710,"à¸Ļิย":132711,"à¸Ļิยม":132712,"à¸Ľà¸£à¸°à¸ģัà¸Ļ":132713,"ÑģÑĤавиÑĤÑĮ":132714,"à¸ŀà¸Ļัà¸Ļ":132715,"ĠÑįÑĦÑĦ":132716,"ĠÑįÑĦÑĦекÑĤив":132717,"ĠавÑĤоÑĢ":132718,"ĠÄIJÄĥng":132719,"ĠthÆ°á»Łng":132720,"ãĤĴæĦŁãģĺ":132721,"à¸ģัà¸ļà¸ģาร":132722,"å¾Įãģ«":132723,"ĠyaÄŁ":132724,"ستاÙĨ":132725,"Ġliá»ģn":132726,"ãģĦãģ¾":132727,"iêu":132728,"à¹Ĥà¸Ķà¸Ļ":132729,"ĠÙĦذÙĦÙĥ":132730,"à¹Ĥรà¸ĩà¹Ģรียà¸Ļ":132731,"צ×Ļ×Ĵ":132732,"ĠاÙĦÙħعÙĦÙĪÙħات":132733,"ç§ģãģŁãģ¡":132734,"à¸Ĺีà¹Īà¸Ħุà¸ĵ":132735,"ãģ«ãģªãģ£ãģ¦ãģĦãĤĭ":132736,"×ŀ×ĵ×Ļ׳×Ķ":132737,"×¡×Ľ×Ŀ":132738,"Ġвне":132739,"à¸ŀà¸Ļัà¸ģà¸ĩาà¸Ļ":132740,"ÑĢей":132741,"à¹Ģà¸Īà¹īาหà¸Ļà¹īาà¸Ĺีà¹Ī":132742,"ĠHiá»ĩn":132743,"Ġmédico":132744,"ĠتØŃÙĤÙĬÙĤ":132745,"ÑĮÑĤе":132746,"miÅŁti":132747,"ÙĤÙĬادة":132748,"ãĤıãģĭãĤĬ":132749,"มาà¸Īาà¸ģ":132750,"ëħĢ":132751,"ãģ«éĸ¢ãģĻãĤĭ":132752,"×IJר×Ĵ×ķף":132753,"mètre":132754,"Ġעצ×ŀ×Ļ":132755,"ĠChúa":132756,"รูà¹īà¸Ī":132757,"รูà¹īà¸Īัà¸ģ":132758,"ì£Ħ":132759,"ëĭµ":132760,"à¹ģà¸Ĺà¹ī":132761,"Ġgeçen":132762,"Ġlança":132763,"ĠاÙĦبØŃØ«":132764,"×ĵ×ŀ×ķ":132765,"ãģ¯ãģĺ":132766,"ãģ¯ãģĺãĤģ":132767,"ĠdönÃ¼ÅŁ":132768,"è¿ijãģı":132769,"à¹Ģสม":132770,"à¹Ģสมà¸Ń":132771,"ëĿ½":132772,"Ġüç":132773,"á»ŀ":132774,"ÑĪаÑı":132775,"à¸Ĺร":132776,"ØŃÙĤÙĬÙĤØ©":132777,"à¸Ĥà¸Ńà¸ĩà¸ģาร":132778,"Ġ무ìĹĩ":132779,"Ġ×Ķ׼ר":132780,"ĠاÙĦصÙĬÙĨ":132781,"ĠлÑİди":132782,"à¸ķาย":132783,"بÙĪÙĦ":132784,"Ġviêm":132785,"Ġthiá»ĩu":132786,"à¸ģà¸Ķ":132787,"Ġ׾×ĵ×ijר":132788,"פ׳×Ķ":132789,"×IJר×ij×¢":132790,"سÙī":132791,"ĠاÙĦسÙĬاس":132792,"ĠاÙĦسÙĬاسÙĬØ©":132793,"ydı":132794,"ÙĪØŃØ¯Ø©":132795,"ĠдеÑıÑĤелÑĮноÑģÑĤи":132796,"Ġ×ķ×Ķ×ŀ":132797,"пеÑĩ":132798,"пеÑĩаÑĤ":132799,"иÑĢованиÑı":132800,"ĠÑģог":132801,"ĠÑģоглаÑģ":132802,"Ġ׼×ĵ":132803,"Ġ׼×ĵ×IJ×Ļ":132804,"ĠиÑģполÑĮзоваÑĤÑĮ":132805,"ספ×ķר×ĺ":132806,"Ġilçe":132807,"expérience":132808,"ĠThá»Ŀi":132809,"İK":132810,"à¹Ħà¸Łà¸Łà¹īา":132811,"ëĵ¤ìĹIJê²Į":132812,"à¸Ľà¸£à¸°à¹Ģà¸ł":132813,"à¸Ľà¸£à¸°à¹Ģà¸łà¸Ĺ":132814,"Ġmümk":132815,"Ġmümkün":132816,"Ġ×IJ×ķ×ª×ł×ķ":132817,"ìĦ±ìĿĦ":132818,"ĠìĿ´ìľł":132819,"زÙĬارة":132820,"Ġoldukça":132821,"rób":132822,"ĠØ£ÙĨا":132823,"Ġ×Ķ×ij×Ļ":132824,"Ñģен":132825,"×¢×Ļקר":132826,"×Ļ×ĵ×ķ×¢":132827,"dzÄħ":132828,"ÙħعÙĦÙĪÙħات":132829,"شاب":132830,"Ġparça":132831,"à¸Ļะà¸Ħะ":132832,"باس":132833,"ĠÑĤоÑĢг":132834,"ĠÑĤоÑĢгов":132835,"Ġ×Ĺ×ĵר":132836,"׼ר×ĺ":132837,"׼ר×ĺ×Ļס":132838,"ĠAyrıca":132839,"ệ":132840,"ìľ¨":132841,"ĠÑĤакие":132842,"Ġ×ŀצ×ķ×Ļ":132843,"ãĥ©ãĥ³ãĤŃãĥ³ãĤ°":132844,"ש×Ļ×ķ×ķ×§":132845,"åīįãģ®":132846,"ĠBảo":132847,"ÑīÑĥ":132848,"æĹ©ãģı":132849,"ĠPhòng":132850,"à¸ŀระราà¸Ĭ":132851,"פ×Ĺ×ķת":132852,"Ġгл":132853,"Ġглаз":132854,"à¸Ĺà¹Īา":132855,"Ġdạy":132856,"ÑĢоÑģÑĤ":132857,"à¹Ĥà¸Ķยà¹Ģà¸īà¸ŀาะ":132858,"ĠquáºŃn":132859,"Ġ×Ĺ×ijר×ķת":132860,"même":132861,"mÄ±ÅŁtı":132862,"ĠاÙĦتداÙĪÙĦ":132863,"Ġnạn":132864,"Ġ×Ķ×ĵ×Ļ":132865,"ĠاÙĦطرÙĬÙĤ":132866,"×Ĵ×ķת":132867,"Ġ×Ķ×ĵר×ļ":132868,"ujÄħce":132869,"Ġchữ":132870,"ãĤĤãģ®ãģ®":132871,"ë°Ľ":132872,"ãģķãĤĵãģ¯":132873,"Ġyardım":132874,"ĠاÙĦعÙħ":132875,"Ġì§Ħíĸī":132876,"Ġ×Ļ×Ĺ":132877,"Ġ×Ļ×Ĺס×Ļ":132878,"ĠاÙĦÙħدÙĬÙĨØ©":132879,"Ġcú":132880,"à¸ģีฬ":132881,"à¸ģีฬา":132882,"Ġniên":132883,"misión":132884,"׳×Ļס×Ļ":132885,"׳×Ļס×Ļ×ķף":132886,"ĠвозÑĢаÑģÑĤ":132887,"Ġ×¢×ķש×Ķ":132888,"ĠÙħدÙĬر":132889,"ÑıÑģÑĮ":132890,"ØŃجÙħ":132891,"íĻĺê²½":132892,"ĠاÙĦأخرÙī":132893,"uÃŁer":132894,"ĠاÙĦعاÙĦÙħÙĬØ©":132895,"ĠNgá»įc":132896,"êµIJíļĮ":132897,"ä¸Ĭãģ§":132898,"×Ļ×Ķ×ķ×ĵ":132899,"×Ļ×Ķ×ķ×ĵ×Ļ×Ŀ":132900,"Ùħساعدة":132901,"ĠжизнÑĮ":132902,"ĠпоÑĤомÑĥ":132903,"ĠاÙĦÙħÙħÙĦ":132904,"ĠاÙĦÙħÙħÙĦÙĥØ©":132905,"ĠGör":132906,"رÙIJ":132907,"×ŀ×§×ķ×ŀ×ķת":132908,"åĩºæĿ¥ãĤĭ":132909,"ÑĦÑĤ":132910,"ĠìĿ´ìłľ":132911,"ĠÑĢем":132912,"ĠÑĢемонÑĤ":132913,"ת×ķ×ļ":132914,"æĻĤãģ¯":132915,"ãĤīãĤĮãģªãģĦ":132916,"altı":132917,"å®¶ãģ®":132918,"ĠاÙĦإعÙĦاÙħ":132919,"리ëĬĶ":132920,"ãģĭãĤīãģ¯":132921,"ĠHạ":132922,"ãģĤãģ®":132923,"×ĵ×Ļ×ķף":132924,"رÙĬس":132925,"ĠsocietÃł":132926,"ĠاÙĦÙĥبÙĬر":132927,"Ġ×ij×ŀס":132928,"Ġ×ij×ŀס×Ĵר":132929,"Ġ×ij×ŀס×Ĵרת":132930,"ĠìŀĪìľ¼ë©°":132931,"Ġnặng":132932,"ÙĩÙī":132933,"ĠBÃł":132934,"×ŀר×ķ":132935,"ĠjÄĻ":132936,"ĠjÄĻzy":132937,"ĠjÄĻzyk":132938,"Ġ׼×ŀ×ķ×ijף":132939,"×¢×ľ×Ķ":132940,"à¸Ĺีà¹Īà¹Ħà¸Ķà¹ī":132941,"ãģ¾ãģĹãĤĩãģĨ":132942,"×ŀספר":132943,"ТÐŀ":132944,"سÙĬاسة":132945,"ĠкаждÑĭй":132946,"ë²ł":132947,"tım":132948,"yá»ĩn":132949,"รีà¹Ī":132950,"ĠдеÑĤÑģк":132951,"วิà¸ĺีà¸ģาร":132952,"mówi":132953,"×ĺ×¢×Ŀ":132954,"×Ķצ׾×Ĺ×Ķ":132955,"ضÙĬÙģ":132956,"ĠÑħоÑĤÑı":132957,"ãĤĵãģ§ãģĦãĤĭ":132958,"à¸Ħาà¸Ķ":132959,"à¸Ħรà¸ļ":132960,"ĠкÑĥÑĢÑģ":132961,"ĠbaÅŁarı":132962,"×ijר×ķ":132963,"ÙĬعة":132964,"ĠÐĿÑĥ":132965,"à¸Ħวามà¹Ģà¸Ľà¹ĩà¸Ļ":132966,"Ġ׾×ŀש׾":132967,"Ġì¢ĭìĿĢ":132968,"Ùħؤسس":132969,"Ùħؤسسات":132970,"Ġprécis":132971,"Ġthảo":132972,"à¸ģà¹ĩà¸Ħืà¸Ń":132973,"Ġש׼׾":132974,"führung":132975,"ãģĦãģ§":132976,"à¹ģละมี":132977,"à¸ģà¹ĩมี":132978,"Ġשש":132979,"мел":132980,"Ġкниг":132981,"ĠباÙĦÙĨ":132982,"ĠباÙĦÙĨسبة":132983,"Ġaldı":132984,"ÑĤай":132985,"Ġ×Ĺ×ĵש×Ļ×Ŀ":132986,"å®Łãģ¯":132987,"عÙĪØ§":132988,"ĠìĿĺ미":132989,"изм":132990,"ÑĢабоÑĤаÑĤÑĮ":132991,"Ù쨵":132992,"Ġ×ij׳×ķסף":132993,"ãģ¨ãģĹãģ¦ãĤĤ":132994,"à¹Ģà¸Ľà¹ĩà¸Ļà¸Ĺีà¹Ī":132995,"ĠÑģледÑĥеÑĤ":132996,"èĢĥãģĪãģ¦":132997,"Ġ׼×Ļ×ķ×Ŀ":132998,"ÑģÑĤÑĭ":132999,"׼׾׼׾×Ļ":133000,"æµģãĤĮ":133001,"ãĤĴãģ¤ãģij":133002,"ÑĩаÑĤ":133003,"×Ļ׼×ķף":133004,"×Ļר×Ļ":133005,"larıyla":133006,"ãĤ¤ãĥ¡":133007,"ãĤ¤ãĥ¡ãĥ¼ãĤ¸":133008,"׳×ĸ×§":133009,"Ġciò":133010,"Ġsın":133011,"Ġsınır":133012,"à¸Ļà¸Ħร":133013,"каÑĤ":133014,"Ġlá»Ĺi":133015,"ëŀĮ":133016,"تÙģØ§Øµ":133017,"تÙģØ§ØµÙĬÙĦ":133018,"ëĨĵ":133019,"ĠÙħض":133020,"ilmiÅŁ":133021,"بارÙĥ":133022,"ÐĿÐĺ":133023,"Ġthẩm":133024,"Ġ×IJ×ķת×ļ":133025,"ĠпÑĢиним":133026,"ĠпÑĢинима":133027,"Ġyönt":133028,"Ġyöntem":133029,"Ġ×ŀ×§×ij׾":133030,"Ġktórego":133031,"ê·Ģ":133032,"شرÙģ":133033,"داÙħ":133034,"ãģĦãĤįãģĦãĤį":133035,"ĠAlém":133036,"Ġgörü":133037,"Ġgörünt":133038,"Ġgörüntü":133039,"دس":133040,"ÑĪки":133041,"гÑĢад":133042,"Ġlạc":133043,"Ġsữa":133044,"ãĤīãĤĮãģ¾ãģĻ":133045,"oÃłi":133046,"Ñīен":133047,"ãģĭãģªãģĦ":133048,"Ġпоп":133049,"ĠпопÑĥ":133050,"ĠпопÑĥлÑıÑĢ":133051,"ĠاÙĦÙħÙĪÙĤع":133052,"räg":133053,"A":133054,"íķĦ":133055,"ãĤĴè¦ĭãĤĭ":133056,"اÙħا":133057,"ĠاÙĦØŃرب":133058,"ĠÐŁÐ°":133059,"Ġ׾×IJתר":133060,"Ġtá»ijc":133061,"×ij׾×Ķ":133062,"رئÙĬس":133063,"вÑĥ":133064,"ÙĬدÙĬ":133065,"казан":133066,"Ġ×Ĺש×ij×ķף":133067,"hôtel":133068,"×¢×ķ׳×Ķ":133069,"بÙĨÙĬ":133070,"×ŀ×ķ׾":133071,"ĠднÑı":133072,"éĽ£ãģĹãģĦ":133073,"ведениÑı":133074,"Ġ×ķ×ŀת":133075,"напÑĢимеÑĢ":133076,"ÙĤابÙĦ":133077,"Ġrésultat":133078,"ĠÑĢазвиÑĤиÑı":133079,"رÙij":133080,"ìłĦ문":133081,"ĠاÙĦÙħزÙĬد":133082,"ĠìľĦíķ´ìĦľ":133083,"ëĨį":133084,"íĻķ":133085,"ĠThiết":133086,"íĮ¨":133087,"malıdır":133088,"ĠczÅĤ":133089,"ĠczÅĤowie":133090,"ĠczÅĤowiek":133091,"ĠÙĦبÙĨ":133092,"ĠÙĦبÙĨاÙĨ":133093,"üsü":133094,"ãģªãĤĵãģł":133095,"Ġżycie":133096,"ĠÑħоÑĢоÑĪо":133097,"æĸ¹ãģ«":133098,"ëĭ¤ë©´":133099,"иÑĩеÑģкаÑı":133100,"ער×Ļ׼":133101,"ער×Ļ×Ľ×ª":133102,"ãģ¾ãģĽãĤĵãģ§ãģĹãģŁ":133103,"ĠÑģобой":133104,"Ġgá»Ĺ":133105,"ĠделаÑĤÑĮ":133106,"daÄĩ":133107,"аÑĢа":133108,"różni":133109,"à¹Ģลีà¹ī":133110,"à¹Ģลีà¹īย":133111,"à¹Ģลีà¹īยà¸ĩ":133112,"à¸Ŀาà¸ģ":133113,"ĠتÙĤ":133114,"ĠتÙĤدÙĬ":133115,"ĠتÙĤدÙĬÙħ":133116,"หà¸Ļุà¹Īม":133117,"Ġmücade":133118,"Ġmücadele":133119,"ì§Ģ를":133120,"ãĤ¤ãĤ¹":133121,"Ġأساس":133122,"jÄħcego":133123,"ĠÅŁeh":133124,"нÑĤеÑĢ":133125,"ÑĨиÑİ":133126,"ï»»":133127,"ÑİÑīего":133128,"à¹Ĥà¸Ľà¸£à¹ģ":133129,"à¹Ĥà¸Ľà¸£à¹ģà¸ģรม":133130,"ĠmieÄĩ":133131,"ØŃÙĥÙĪÙħØ©":133132,"ãģ§ãģĹãģŁãģĮ":133133,"×Ļס×Ķ":133134,"ãĤĤãģ®ãĤĴ":133135,"Ġ×ŀ×IJת":133136,"สุà¸Ķà¸Ĺà¹īาย":133137,"ĠcÅ©":133138,"ÙĨسب":133139,"ĠпÑĢоÑĩ":133140,"Ġдней":133141,"ĠÑįÑĤиÑħ":133142,"׾×ŀת":133143,"нÑıÑı":133144,"Ñįк":133145,"Ġì§ĢëĤľ":133146,"มหาวิà¸Ĺยา":133147,"มหาวิà¸Ĺยาล":133148,"มหาวิà¸Ĺยาลัย":133149,"dão":133150,"ĠMáy":133151,"ĠêµŃê°Ģ":133152,"à¸ļุรี":133153,"×Ĵ×Ļ׾":133154,"ĠÑĤÑĭÑģÑı":133155,"ĠÑĤÑĭÑģÑıÑĩ":133156,"ÙģÙĥ":133157,"ĠÐĺÑģ":133158,"è¡ĮãĤıãĤĮ":133159,"פר×ĵ":133160,"ãģ¤ãģį":133161,"à¸Ħรà¸Ńà¸ļ":133162,"à¸Ħรà¸Ńà¸ļà¸Ħรัว":133163,"à¸Ĥึà¹īà¸Ļมา":133164,"ä»ĬæĹ¥ãģ¯":133165,"ĠìĤ¬ëŀĮìĿ´":133166,"עצ×ŀ×Ķ":133167,"поÑĢ":133168,"ĠKỳ":133169,"ĠÆ¡n":133170,"ĠthÄĥm":133171,"Ù쨧ÙĤ":133172,"ãģļãģ«":133173,"Ġ׾קר":133174,"Ġ׾קר×ķ×IJ":133175,"اÙģÙĬØ©":133176,"ÙħÙİØ§":133177,"гаÑĢ":133178,"صÙĦا":133179,"صÙĦاة":133180,"Ġ×ŀ×ĸ×Ķ":133181,"lıģını":133182,"Ġ×IJ×Ļ׳×Ķ":133183,"кÑĢо":133184,"Ġngươi":133185,"Ġвним":133186,"Ġвнимание":133187,"jÄħcy":133188,"ÙĢÙĢÙĢÙĢÙĢ":133189,"ÑģÑħод":133190,"ãģªãĤĵãģĭ":133191,"×ŀ×Ļ׾":133192,"Ġ×Ķ×IJ×Ĺ":133193,"ãĤıãģªãģĦ":133194,"عسÙĥر":133195,"ĠìĦ¸ê³Ħ":133196,"ĠÑĩего":133197,"ĠÑģÑĢедÑģÑĤва":133198,"ĠÐłÐ°Ñģ":133199,"ãģªãģģ":133200,"ÙĨÙ쨳":133201,"ר×Ļ×ķף":133202,"ÑģÑĥд":133203,"ĠìĿ¸ê°Ħ":133204,"ĠاÙĦÙħÙĤبÙĦ":133205,"ÙĨعÙħ":133206,"تÙĪÙ쨱":133207,"ש×ij×¢":133208,"ılm":133209,"ılmÄ±ÅŁ":133210,"Ġ×ľ×ª×ª":133211,"تصÙģ":133212,"×Ķפ×ķ×ļ":133213,"à¹ĥà¸Ļà¸Ľà¸µ":133214,"ìĿ´ê³ł":133215,"ÙģÙĪØ²":133216,"à¸ľà¸¥à¸ĩาà¸Ļ":133217,"ĠGiáo":133218,"à¸ļà¸Ńà¸ģวà¹Īา":133219,"ĠdÄ±ÅŁ":133220,"ĠdÄ±ÅŁÄ±nda":133221,"죽":133222,"ĠdzieÅĦ":133223,"кÑĨии":133224,"иÑĨе":133225,"ãģ®ä¸Ģ":133226,"عش":133227,"пÑĢеÑģÑģ":133228,"หà¸Ļà¹Īà¸Ńย":133229,"ลัà¸ģษà¸ĵะ":133230,"ĠpossibilitÃł":133231,"à¹Ħà¸Ķà¹īรัà¸ļà¸ģาร":133232,"หยุà¸Ķ":133233,"Ġphiên":133234,"çĶŁãģ¾ãĤĮ":133235,"Ø·ÙĪÙĦ":133236,"ÑĦин":133237,"für":133238,"ØŃÙĬاة":133239,"íĸĪìĬµëĭĪëĭ¤":133240,"׼׳×ķת":133241,"à¸Ľà¸£à¸°à¸ª":133242,"à¸Ľà¸£à¸°à¸ªà¸ļ":133243,"à¸Ľà¸£à¸°à¸ªà¸ļà¸ģารà¸ĵà¹Į":133244,"ëIJĺìĹĪ":133245,"Ġkażdy":133246,"Ġluyá»ĩn":133247,"ĠоÑĢганизаÑĨии":133248,"å°ijãģªãģı":133249,"ÑģÑĤÑĢоен":133250,"Ġtécnico":133251,"×§×Ķ׾":133252,"Ġ×ķ×IJ×Ĺ":133253,"ĠعÙĦÙĬÙĥ":133254,"Ñīение":133255,"Ġ×Ķ×Ļ׾×ĵ×Ļ×Ŀ":133256,"ÙĪØ³Ø§Ø¦ÙĦ":133257,"Ġ×ķ×Ķת":133258,"تÙħÙĬز":133259,"ĠÑģказал":133260,"Ġполи":133261,"Ġ×Ķ×ŀס":133262,"ÙĦÙijÙİ":133263,"Ùħؤسسة":133264,"Ġ×ŀ×Ļ×ĵ":133265,"ãģ£ãģ¡":133266,"ĠëĦĪ무":133267,"à¸ŀี":133268,"Ġtặng":133269,"Ġtấn":133270,"רש×Ŀ":133271,"Ġmédica":133272,"Ġ×¢×ķ×ŀ":133273,"Ġ×¢×ķ×ŀ×ĵ":133274,"ÑĦоÑĢ":133275,"Ùħرة":133276,"Ġvatanda":133277,"ĠvatandaÅŁ":133278,"Ġдело":133279,"à¸Ļม":133280,"ãģ¨åIJĮãģĺ":133281,"ÙģÙī":133282,"ÑģоÑĢ":133283,"Ġ×Ķסר×ĺ":133284,"Ġépoca":133285,"ìłķì±ħ":133286,"ĠÑģвÑıзан":133287,"ضرب":133288,"ĠÙĦÙĨا":133289,"Ġużywa":133290,"ĠاÙĦجÙĬØ´":133291,"ÑİÑĢ":133292,"×ijס×ķ×£":133293,"ĠмÑĥ":133294,"ĠмÑĥзÑĭк":133295,"bilité":133296,"Ġmaç":133297,"سÙİ":133298,"تÙĦÙĥ":133299,"ãģ¬":133300,"ÙĬÙĦا":133301,"ÑĪла":133302,"ÙĢÙĢÙĢ":133303,"Ġодной":133304,"зван":133305,"ĠÑģÑĢаз":133306,"ĠÑģÑĢазÑĥ":133307,"ÙĨظÙħ":133308,"راÙĩ":133309,"ĠÙĦÙĩذا":133310,"׼×ķר":133311,"Ġ×Ķש×ij×ķ×¢":133312,"Ġ×Ķשת":133313,"ĠQuảng":133314,"ãĥ«ãĥ¼":133315,"ãģĪãģªãģĦ":133316,"×ĺ×IJ":133317,"Ġmiá»ģn":133318,"ĠPháºŃt":133319,"ĠاÙĦسÙĪÙĤ":133320,"ÄĤ":133321,"ĠاÙĦجÙħع":133322,"ĠاÙĦجÙħعة":133323,"ÑİÑīей":133324,"aÅĤem":133325,"عتÙĤد":133326,"Ø£ÙĦÙħ":133327,"Ñģке":133328,"ĠìĿ´íķ´":133329,"ÙĨسخ":133330,"è¨ĢãģĦ":133331,"добав":133332,"سبÙĤ":133333,"×¢×ķרר":133334,"ÑĤип":133335,"ãģĿãģĵãģ§":133336,"visión":133337,"عÙĪØ¯Ø©":133338,"먹":133339,"×ŀ×ĸר×Ĺ":133340,"ĠØ¥ØŃ":133341,"Ġ׾×ij×Ļף":133342,"Ġ׾צ×IJת":133343,"Ġyardı":133344,"Ġyardımc":133345,"Ġyardımcı":133346,"İZ":133347,"קפ×Ķ":133348,"tré":133349,"liÄŁini":133350,"клÑİÑĩа":133351,"Ġüretim":133352,"Ġayrı":133353,"ĠkiÅŁiler":133354,"à¸Ħà¹īà¸Ļ":133355,"à¸Ħà¹īà¸Ļหา":133356,"ĠSá»±":133357,"Ġ×Ľ×¡":133358,"Ġ×Ľ×¡×£":133359,"ĠÑĤакиÑħ":133360,"ĠXuân":133361,"Ġлег":133362,"Ġлегко":133363,"Ø«ÙĤاÙ쨩":133364,"ÐĿÐŀ":133365,"ãĤ¹ãĤ¿ãĥĥ":133366,"ãĤ¹ãĤ¿ãĥĥãĥķ":133367,"åIJĪãģĦ":133368,"Ġ×Ķש×Ļ×ŀ×ķש":133369,"manız":133370,"ĠÐĴаÑģ":133371,"gün":133372,"ìľĦìĽIJíļĮ":133373,"Ġwspóln":133374,"ĠÑģвое":133375,"íĥģ":133376,"à¹Ģà¸Ļีย":133377,"ÙĪØ¨Ø©":133378,"вÑıз":133379,"ıdır":133380,"ëIJĺìĹĪëĭ¤":133381,"ĠdeÄŁiÅŁtir":133382,"ãĤĭãģĵãģ¨ãģĮ":133383,"Ġ×Ĺ×ĵש×Ķ":133384,"ãĤīãĤĮãģ¦ãģĦãĤĭ":133385,"×Ĺ×Ļ×Ļ×ij":133386,"ĠÐļаÑĢ":133387,"׳×Ļת×ķ×Ĺ":133388,"Ġ×§×ĺף":133389,"ר×ĸ":133390,"ÙĪØº":133391,"èªŃãģ¿":133392,"ĠتÙĤÙĪÙħ":133393,"ĠÙĥاÙĦ":133394,"à¸Ŀึà¸ģ":133395,"Ġë°ľìĥĿ":133396,"ológico":133397,"راع":133398,"à¹ģà¸ģà¹īà¹Ħà¸Ĥ":133399,"ĠÑĢабоÑĤÑĥ":133400,"ÙĨÙijÙİ":133401,"à¸Ńยูà¹Īà¸Ĺีà¹Ī":133402,"ĠاÙĦثاÙĨÙĬØ©":133403,"ĠNhân":133404,"ÑħваÑĤ":133405,"öne":133406,"Ġعدة":133407,"à¹ģสà¸ĩ":133408,"ÑĤоп":133409,"пÑĥÑģка":133410,"شراء":133411,"ĠÐļом":133412,"Ġפע×ķ׾×Ķ":133413,"ìĤ¬ìĿ´":133414,"ìĤ¬ìĿ´íĬ¸":133415,"è¡Įãģ£ãģ¦":133416,"Ġ×Ķ×Ķת":133417,"ĠÑģÑĤоÑĢо":133418,"ĠÑģÑĤоÑĢонÑĭ":133419,"درس":133420,"à¸ĭู":133421,"à¸ķà¹Īำ":133422,"ĠأبÙĬ":133423,"подоб":133424,"ãģ«ãģ¦":133425,"ارتÙģØ§Ø¹":133426,"ĠÙħؤ":133427,"иков":133428,"geführt":133429,"มืà¸Ńà¸ĸืà¸Ń":133430,"ĠÙĦÙĤد":133431,"ĠØ£ÙĨÙij":133432,"سÙĬطر":133433,"ãģ¾ãģļãģ¯":133434,"ס×ĵ":133435,"ÑģколÑĮко":133436,"ãģ¿ãģŁãģĦãģª":133437,"×ĵר×Ĵ":133438,"×¢×Ļ×ĵ":133439,"à¹ĥหà¹īà¸ļริà¸ģาร":133440,"ĠÐĶи":133441,"×ij×¢×Ļ×ķת":133442,"Ġ×Ķ×Ĺ×ķ":133443,"пиÑģÑĮ":133444,"ĠاÙĦØ®ÙĦ":133445,"бав":133446,"Ġİlk":133447,"ĠاÙĦØ®Ùħ":133448,"ĠاÙĦØ®ÙħÙĬس":133449,"ĠÙĬÙĤÙĪÙħ":133450,"æĻĤãģ®":133451,"ĠsÅĤow":133452,"ĠØ£ÙĩÙħ":133453,"Ø®ÙĦÙĤ":133454,"ĠأصبØŃ":133455,"Ġchứa":133456,"Ġthác":133457,"Ù쨧ÙĦ":133458,"Ġchá»Ŀ":133459,"ĠاÙĦخار":133460,"ĠاÙĦخارج":133461,"ĠاÙĦخارجÙĬØ©":133462,"طائر":133463,"ĠtÃł":133464,"ĠtÃłu":133465,"à¸ģลà¹īà¸Ńà¸ĩ":133466,"ĠاÙĦÙħرأ":133467,"ĠاÙĦÙħرأة":133468,"åħ¨ãģı":133469,"ĠÃĸn":133470,"çļĦãģ«ãģ¯":133471,"Ġpièce":133472,"×Ĵ×Ļ×ij":133473,"ĠاÙĦÙĪØ§ÙĤع":133474,"ä»Ĭãģ®":133475,"ĠاÙĦÙħÙĤ":133476,"cznÄħ":133477,"ÙģØ¹Ø§ÙĦ":133478,"енного":133479,"ĠÑĦакÑĤ":133480,"ìĭłì²Ń":133481,"ĠÐŀни":133482,"ĠاÙĦبÙĦاد":133483,"овиÑĩ":133484,"ëıĮ":133485,"ÑĦÑĥнкÑĨи":133486,"Ġìĸ´ëĬIJ":133487,"ãĥķãĤ©ãĥ¼":133488,"dÃŃ":133489,"илоÑģÑĮ":133490,"ÙħÙī":133491,"ĠاÙĦØ£ÙħرÙĬÙĥ":133492,"ĠاÙĦØ£ÙħرÙĬÙĥÙĬØ©":133493,"×ĺ×Ļפ×ķ׾":133494,"íĶĦë¡ľê·¸":133495,"íĶĦë¡ľê·¸ëŀ¨":133496,"Ġש×ķ׳×ķת":133497,"Ø´ÙħÙĦ":133498,"ĠпаÑĢа":133499,"Ġ×Ķ×Ĺ×ķ×§":133500,"ÙĪØ²Ø§Ø±Ø©":133501,"ãģ¨ãģĻãĤĭ":133502,"Ġquảng":133503,"Ġaģır":133504,"ĠاÙĦÙĦج":133505,"ĠاÙĦÙĦجÙĨØ©":133506,"긴":133507,"ĠTân":133508,"جÙħÙĦ":133509,"дол":133510,"à¹ģà¸ŀà¸Ĺย":133511,"à¹ģà¸ŀà¸Ĺยà¹Į":133512,"Ġר×IJש×Ļ":133513,"Ñīей":133514,"Ġçevre":133515,"ĠкомплекÑģ":133516,"Ġ×ij×ŀש×ļ":133517,"Ġaltın":133518,"ĠأعÙħاÙĦ":133519,"ĠÑģвоего":133520,"ãĤĪãģĦ":133521,"×Ĺ׾×Ļ×ĺ":133522,"×ŀ×ł×¢":133523,"Ġר×ij×Ķ":133524,"ĠØ£ÙĬضاÙĭ":133525,"×ĸ׾":133526,"ĠاÙĦسÙĬاسÙĬ":133527,"æĢĿãģĨ":133528,"קרק":133529,"קרקע":133530,"ĠاÙĦÙ쨱ÙĬÙĤ":133531,"биÑĤ":133532,"ק׳×Ķ":133533,"ĠØ¥ÙĨÙĩ":133534,"ĠÐĴам":133535,"ÐłÐŀ":133536,"ãĥĪãĥª":133537,"å¿ħè¦ģãģª":133538,"Ġchâu":133539,"ç¶ļãģij":133540,"Ġçözüm":133541,"gÅĤow":133542,"عÙĤÙĦ":133543,"売ãĤĭ":133544,"iết":133545,"à¸Ĭิà¹īà¸Ļ":133546,"ĠØŃÙĤÙĪÙĤ":133547,"Ø·ÙĦع":133548,"ĠÄijen":133549,"ĠÙĥاÙ쨩":133550,"ãģ®ãģĶ":133551,"Ġë¬":133552,"Ġ물":133553,"Ġë¬¼ë¡ł":133554,"ĠرسÙĪÙĦ":133555,"зам":133556,"замен":133557,"Ġkullanıcı":133558,"×¢×ķ׾":133559,"èī²ãĢħ":133560,"ÑĪиÑĢ":133561,"Ġ×Ĺש":133562,"Ġwygl":133563,"ĠwyglÄħda":133564,"ש×Ļ×ŀ×ķש":133565,"å¿ĺãĤĮ":133566,"×¢×Ļצ×ķ×ij":133567,"ĠاÙĦسÙĪØ±ÙĬ":133568,"å°ijãģªãģĦ":133569,"ĠпоиÑģк":133570,"สำà¸Ļัà¸ģà¸ĩาà¸Ļ":133571,"Ġ×ŀצ×ĵ":133572,"ĠmÃ¼ÅŁ":133573,"ĠmÃ¼ÅŁter":133574,"ĠmÃ¼ÅŁteri":133575,"ĠÙħÙĨÙĩÙħ":133576,"à¸ķำà¹ģ":133577,"à¸ķำà¹ģหà¸Ļ":133578,"à¸ķำà¹ģหà¸Ļà¹Īà¸ĩ":133579,"ÅĽmie":133580,"Ġ×©×ł×ª":133581,"Ġ×Ķפ×Ļ":133582,"פרש":133583,"×¢×ijר×Ļת":133584,"สà¸Ļัà¸ļ":133585,"สà¸Ļัà¸ļสà¸Ļุ":133586,"สà¸Ļัà¸ļสà¸Ļุà¸Ļ":133587,"è¨Ģãģ£ãģ¦":133588,"à¸ģารà¸Īัà¸Ķ":133589,"ĠMoże":133590,"изаÑĨии":133591,"ứt":133592,"ĠÙĪØ¨Ø¹Ø¯":133593,"ĠdeÄŁild":133594,"ĠdeÄŁildir":133595,"Ġת×ŀ":133596,"Ġ×ŀ×ŀ׳×ķ":133597,"話ãĤĴ":133598,"ĠÑĨена":133599,"Ġthúc":133600,"×Ļ×ŀ×ķף":133601,"ĠBáo":133602,"ãĤĴåıĸãĤĬ":133603,"å®īãģĦ":133604,"Ġ×¢×ķש×Ļ×Ŀ":133605,"èĩªåĪĨãģĮ":133606,"lée":133607,"ãĤĭãģ®ãģ§":133608,"иÑĢÑĥеÑĤ":133609,"ãģ¦ãĤĭ":133610,"ستر":133611,"ĠاÙĦØŃÙĬ":133612,"×Ļ׾×ķת":133613,"Ġ×Ĺ×ij":133614,"ÙĤرأ":133615,"تÙħÙĥÙĨ":133616,"سائÙĦ":133617,"prüf":133618,"ãģĭãģijãģ¦":133619,"ĠÑģобÑģÑĤвенно":133620,"ĠìľĦíķĺìŬ":133621,"׾×Ļ×ĺ":133622,"ãģĮå¤ļãģı":133623,"ÙĬتÙĩا":133624,"ç«ĭãģ¦":133625,"มà¸Ńà¸ļ":133626,"ìĭľìŀ¥":133627,"оÑĢа":133628,"ĠsavaÅŁ":133629,"×ĺ×Ļ×ij×Ļ":133630,"×ij׳×ķ":133631,"Ùħاذا":133632,"기ê°Ħ":133633,"ãģªãģ©ãģ§":133634,"Ġ×ŀת×Ĺ×Ļ׾":133635,"Ġnhiá»ħ":133636,"Ġnhiá»ħm":133637,"каÑĢ":133638,"каÑĢÑĤ":133639,"Ġ׾×Ķשת×ŀש":133640,"׳×Ļ×Ĺ":133641,"ادÙĬØ©":133642,"รายà¸ĩาà¸Ļ":133643,"ĠprzykÅĤad":133644,"Ñīий":133645,"ØŃضÙĪØ±":133646,"Ġhôn":133647,"ÃĿ":133648,"ת×ķצ×IJ×ķת":133649,"رابط":133650,"Ġbếp":133651,"ĠполÑĥÑĩи":133652,"åĩºä¼ļãģĦç³»":133653,"à¸Ľà¸¥à¹Īà¸Ńย":133654,"ĠاÙĦشباب":133655,"اÙĩÙĦ":133656,"ä»Ĭãģ¾ãģ§":133657,"رجع":133658,"ãĤ¶ãĥ¼":133659,"ÙĤÙģ":133660,"ĠGroÃŁ":133661,"ĠíļĮìĽIJ":133662,"اجر":133663,"Ġ×ij×ŀקר×Ķ":133664,"Ġsegurança":133665,"fühl":133666,"ãģ¦ãģĦãģı":133667,"หมà¸Ń":133668,"ĠкоÑĤоÑĢом":133669,"ĠNÄĥm":133670,"ĠdÅĤugo":133671,"ÙħÙĨØŃ":133672,"ש×ķ×ķ×Ļ":133673,"ĠØ£ÙĬاÙħ":133674,"à¸ªà¸łà¸²à¸ŀ":133675,"rzÄħ":133676,"شرÙĥات":133677,"ãĤĴèĢĥãģĪ":133678,"даÑĢ":133679,"à¸Ľà¸£à¸°à¸Ĭุม":133680,"Ġ×ķ×IJ×ĸ":133681,"iá»ĩn":133682,"Ġtươi":133683,"ש×Ļ×Ĺ":133684,"à¸Ńà¹Īà¸Ńà¸Ļ":133685,"æĽ¸ãģĦãģ¦":133686,"Ġngữ":133687,"×ij×Ļ×ĺ×Ĺ":133688,"×ij×Ļ×ĺ×Ĺ×ķף":133689,"Ġsẵ":133690,"Ġsẵn":133691,"ì§ĢëıĦ":133692,"ĠпÑĢеп":133693,"ĠпÑĢепаÑĢаÑĤ":133694,"ĠнаÑĥÑĩ":133695,"ĠÃľnivers":133696,"ĠÃľniversites":133697,"ĠÃľniversitesi":133698,"Ġ×Ĵ×ĵ×ķ׾×Ķ":133699,"Ġ×Ķ×ł×ª":133700,"Ġ×Ķ×ł×ª×ij×¢":133701,"ãģ§ãģĤãģ£ãģŁ":133702,"ĠmiesiÄħ":133703,"ĠmiesiÄħc":133704,"гÑĢам":133705,"гÑĢамм":133706,"ĠبشأÙĨ":133707,"ĠÑħÑĢ":133708,"×§×Ļ×ĵ":133709,"×§×Ļ×ĵ×ķ×Ŀ":133710,"Ø´Ùĥر":133711,"Ġá»ķ":133712,"Ġá»ķn":133713,"ãģĮãģĤãģ£ãģ¦":133714,"ãģķãĤĮãģ¾ãģĻ":133715,"Ġ×Ĺ×ķ×ĵ":133716,"Ġ×Ĺ×ķ×ĵש×Ļ×Ŀ":133717,"ÙħÙĪØ§Ø¬Ùĩ":133718,"ÙħÙĪØ§Ø¬ÙĩØ©":133719,"أشخاص":133720,"بغ":133721,"à¹Ģรียà¸Ļรูà¹ī":133722,"ãģĹãģ¦ãģĦãģı":133723,"Ġsạn":133724,"å¿ħãģļ":133725,"׳×Ļ×Ĵ":133726,"׳×Ļ×Ĵ×ķ×ĵ":133727,"باÙĦغ":133728,"×Ĺש×ŀ":133729,"×Ĺש×ŀ׾":133730,"Ġnapraw":133731,"ĠnaprawdÄĻ":133732,"Ø´Ùĩاد":133733,"×IJ×ķ×Ķ":133734,"×IJ×ķ×Ķ×ij":133735,"иÑĨÑĭ":133736,"Ġ×Ķר׼×ij":133737,"ëŀij":133738,"Ġתע":133739,"Ġ×Ķ×Ļש":133740,"Ġ×Ķ×Ļשר×IJ":133741,"Ġ×Ķ×Ļשר×IJ׾×Ļ":133742,"Ø£ÙħÙĨ":133743,"ÑİÑīаÑı":133744,"skór":133745,"LERİ":133746,"Ġ×Ķ×IJ×Ĺר×ķף":133747,"×¢×ł×§":133748,"ĠÙĪÙĥÙĦ":133749,"ãģĵãģĵãģ§":133750,"Ġquán":133751,"liÄŁin":133752,"à¸ģà¸İหมาย":133753,"Ø·Ùħ":133754,"أجÙĩ":133755,"أجÙĩزة":133756,"ĠErdoÄŁan":133757,"ãģ§ãģĬ":133758,"ĠвÑĢа":133759,"ĠвÑĢаÑĩ":133760,"ĠPhó":133761,"à¸Ĭัà¹Īว":133762,"à¸Ĭัà¹Īวà¹Ĥม":133763,"à¸Ĭัà¹Īวà¹Ĥมà¸ĩ":133764,"Ġphúc":133765,"×Ļפ×ķת":133766,"×¢×Ļ×ķף":133767,"Ġdużo":133768,"ãĥģãĥ¼ãĥł":133769,"ĠÙĬÙİ":133770,"ĠзадаÑĩ":133771,"Ġ×Ĵ×ij×ķ×Ķ×Ķ":133772,"Ġ׼׼׾":133773,"ложен":133774,"état":133775,"ĠngÄĥn":133776,"èµ·ãģį":133777,"ĠTiến":133778,"صعب":133779,"Ġexperiência":133780,"Ø®Ùħ":133781,"à¸ģารà¸Ĺำà¸ĩาà¸Ļ":133782,"سÙĬد":133783,"ĠDá»±":133784,"ĠкоÑĤоÑĢого":133785,"ladıģı":133786,"Ġkhá»ķ":133787,"Ġê³ĦìĨį":133788,"Ñīик":133789,"สà¹Īวà¸Ļà¸ķัว":133790,"зоÑĢ":133791,"ÙĨÙı":133792,"Ġà¸Ķัà¸ĩ":133793,"Ġà¸Ķัà¸ĩà¸Ļัà¹īà¸Ļ":133794,"Ġcấu":133795,"ĠÄijá»ijc":133796,"оÑĦ":133797,"ĠاÙĦأعÙħاÙĦ":133798,"ãģªãģıãģ¦ãĤĤ":133799,"×ķ׼×Ļ×Ŀ":133800,"à¹ģà¸Ľ":133801,"ĠBên":133802,"ãĥ¯ãĥ³":133803,"Ġgiám":133804,"ĠÅŀu":133805,"Ġdáng":133806,"عÙĦÙĬ":133807,"à¹Ģà¸ģษ":133808,"à¹Ģà¸ģษà¸ķร":133809,"ÙĪØ¬Ø¨":133810,"ннÑĭе":133811,"ÙĤضاء":133812,"à¸Ħวà¸ļ":133813,"à¸Ħวà¸ļà¸Ħุ":133814,"à¸Ħวà¸ļà¸Ħุม":133815,"ãģ¤ãģ¤":133816,"ĠViá»ĩc":133817,"×ŀ×ij×ĺ":133818,"ש×Ļת×ķ×£":133819,"ĠведÑĮ":133820,"kaza":133821,"kazaÅĤ":133822,"à¸ķำรวà¸Ī":133823,"ãĤ¿ãĥ«":133824,"ĠповÑĭ":133825,"ĠповÑĭÑĪен":133826,"ĠSợ":133827,"ĠìĦ¤ëªħ":133828,"ĠÃĩünkü":133829,"ìĥĿíĻľ":133830,"Ö¾":133831,"ãĤĮãģ¦ãģĦãĤĭ":133832,"Ġ×ijר×IJש":133833,"ר×ķ×Ĵ":133834,"ĠоÑĦи":133835,"ĠоÑĦиÑĨиалÑĮн":133836,"ĠÑĥÑģÑĤанов":133837,"ĠÑĥÑģÑĤановлен":133838,"ĠاÙĦÙħصر":133839,"ĠاÙĦÙħصرÙĬØ©":133840,"ĠÐŁÐ¾ÑįÑĤомÑĥ":133841,"ÙĨصÙģ":133842,"ĠÙĪØ§ÙĦÙĨ":133843,"ĠhÃłi":133844,"à¸Ħิ":133845,"ĠAprès":133846,"ì³IJ":133847,"à¹Ģà¸ĭีย":133848,"×ĵ×ŀ×Ķ":133849,"activité":133850,"à¸Ħิà¸Ķวà¹Īา":133851,"ÑĤÑĢен":133852,"à¹Ģฮ":133853,"ãĥıãĤ¤":133854,"ãģĮå¢ĹãģĪ":133855,"еннаÑı":133856,"Ġìĺ¤ëĬĺ":133857,"ãĥ¢ãĥ³":133858,"ĠконеÑĩно":133859,"ĠÙħÙĤابÙĦ":133860,"clé":133861,"Ġhü":133862,"Ġthẳng":133863,"ìłģìĿ´":133864,"ĠÐIJлекÑģ":133865,"ĠÐIJлекÑģан":133866,"ĠÐIJлекÑģандÑĢ":133867,"ãĥŀãĥ³ãĤ·ãĥ§ãĥ³":133868,"ãģ²ãģ¨ãģ¤":133869,"ãģªãģĬ":133870,"à¹Ģà¸Īà¹īาà¸Ĥà¸Ńà¸ĩ":133871,"ëĵľë¦¬":133872,"شاء":133873,"ĠsaÄŁlık":133874,"ĠÅŁimdi":133875,"×Ļ×IJ׾":133876,"تأثÙĬر":133877,"أسب":133878,"أسباب":133879,"ĠвÑĭполнен":133880,"лок":133881,"ש×Ļ×ij×Ķ":133882,"Ġlắm":133883,"ĠTrÆ°á»Ľc":133884,"Ġ×Ķ×¢×ľ":133885,"리를":133886,"ĠÑĢеж":133887,"ĠÑĢежим":133888,"inté":133889,"intégr":133890,"×Ĵ׳×Ļ":133891,"ĠاÙĦشعر":133892,"Ġmilhões":133893,"Ġpequeño":133894,"ãĤ³ãĥ¼ãĤ¹":133895,"×ķ׼×Ĺ":133896,"à¹Ģà¸Ĭà¹īา":133897,"شرÙĤ":133898,"Ġhương":133899,"รัà¸IJà¸ļาล":133900,"à¸ģลาย":133901,"à¸ģลายà¹Ģà¸Ľà¹ĩà¸Ļ":133902,"ĠподÑħод":133903,"תש×ķ×ij×Ķ":133904,"ãģıãģªãģ£ãģ¦":133905,"ĠاÙĦØ£ÙħÙħ":133906,"ĠHá»įc":133907,"ĠwspóÅĤpr":133908,"ĠwspóÅĤprac":133909,"ÑĩÑĥв":133910,"ÑĩÑĥвÑģÑĤв":133911,"ÃŃstico":133912,"à¹Ģà¸ģาะ":133913,"ìĽĢ":133914,"Ġназад":133915,"ãĤĭãĤĪãģĨãģ«":133916,"ĠСШ":133917,"ĠСШÐIJ":133918,"мон":133919,"ĠAsÃŃ":133920,"×ķר×Ĵ":133921,"полнен":133922,"×ŀ×¡×ľ":133923,"×ŀ×¡×ľ×ķ׾":133924,"à¹Ģลืà¸Ńà¸Ķ":133925,"à¹Ģริà¹Īมà¸ķà¹īà¸Ļ":133926,"ĠاÙĦØ¥Ùħ":133927,"ĠاÙĦØ¥Ùħارات":133928,"צ×Ķר":133929,"ãĥ¡ãĥªãĥĥãĥĪ":133930,"ĠпоÑĤом":133931,"виз":133932,"ĠÙģØªØ±Ø©":133933,"å¾Įãģ®":133934,"ÐĿÐIJ":133935,"×ŀסר":133936,"ÙĬرÙĬ":133937,"pré":133938,"ĠteÅŁek":133939,"ĠteÅŁekkür":133940,"Ġödeme":133941,"داÙĨ":133942,"ãģ¾ãģĹãģ¦":133943,"缮ãģ«":133944,"ĠÑĤеÑĩение":133945,"lard":133946,"lardır":133947,"à¹Ģราà¸Īะ":133948,"ספ×Ļ":133949,"ĠÙĪÙĥذÙĦÙĥ":133950,"Ġhát":133951,"Ġtá»Ļc":133952,"à¸Ħุย":133953,"Ġbức":133954,"ØŃÙĬÙĨ":133955,"èģŀãģĦãģ¦":133956,"Ùħؤشر":133957,"ĠNhư":133958,"Ġменее":133959,"ละà¸Ħร":133960,"Ñģин":133961,"ĠÑĢек":133962,"ĠÑĢекл":133963,"ĠÑĢеклам":133964,"ĠÙģÙĩÙĪ":133965,"Ġ׾×ĸ":133966,"×Ļ׳×ķת":133967,"ĠÅŁart":133968,"ÑģÑĤавка":133969,"Ġíı¬íķ¨":133970,"ãģ«è¡Įãģı":133971,"ï¼Ŀ":133972,"ĠпозволÑıеÑĤ":133973,"Ġת×ķ׼׾×ķ":133974,"овал":133975,"صÙĦØ©":133976,"Ġ׾ש׳×ķת":133977,"ĠÐĺгÑĢ":133978,"ÙħÙĨتجات":133979,"ĠsatÄ±ÅŁ":133980,"Ñģко":133981,"ĠاÙĦØ«ÙĦاثاء":133982,"Ġ×Ķ×ĵ×ijר×Ļ×Ŀ":133983,"ãģĹãģ¾ãģĹãĤĩãģĨ":133984,"بÙĤÙī":133985,"åĬĽãĤĴ":133986,"ĠÃĩok":133987,"ãĥģãĥ¥":133988,"à¹Ģà¸Ĭืà¹īà¸Ń":133989,"ยุà¸Ħ":133990,"ศาล":133991,"Ġ×§×ķ×ĵ×Ŀ":133992,"×ĸר×Ļ×Ŀ":133993,"ãģ®åł´åIJĪ":133994,"ĠìķĬìķĺ":133995,"ãģĤãĤĬãģ¾ãģĻãģĮ":133996,"×IJשר":133997,"è¡Įãģı":133998,"ãģ»ãģĭ":133999,"æ°Ĺãģ«ãģªãĤĭ":134000,"йдеÑĤ":134001,"íķĺìĺĢëĭ¤":134002,"ستÙħرار":134003,"ĠÐŁÑĢе":134004,"ĠÑģбоÑĢ":134005,"ĠìķĦ무":134006,"ç§ģãĤĤ":134007,"عص":134008,"ĠниÑĩ":134009,"ĠниÑĩего":134010,"ĠпÑĢием":134011,"×§×ķ×ŀ":134012,"ĠìĪĺëıĦ":134013,"Ġì¡´":134014,"Ġì¡´ìŀ¬":134015,"ĠأثÙĨ":134016,"ĠأثÙĨاء":134017,"ĠÙĪØ§ÙĦØŃ":134018,"ãģĮãģ§ãģįãĤĭ":134019,"Ġת×Ķ":134020,"Ġת×Ķ×Ļ×Ķ":134021,"רף":134022,"ĠÑģвÑıзи":134023,"×Ĵשת":134024,"ÑģпекÑĤ":134025,"ס×ij×Ļ×ij":134026,"ס×ij×Ļ×ij×Ķ":134027,"ĠíķĦìļĶíķľ":134028,"تخصص":134029,"Ġжив":134030,"ĠживоÑĤ":134031,"ĠMayıs":134032,"تعا":134033,"تعاÙĪÙĨ":134034,"ĠعÙĨÙĩا":134035,"ówki":134036,"ĠاÙĦÙģÙĦسطÙĬÙĨÙĬ":134037,"ãģłãģijãģ§ãģªãģı":134038,"ìĿ¸ì§Ģ":134039,"ĠاÙĦسÙĪØ¯":134040,"ĠاÙĦسÙĪØ¯Ø§ÙĨ":134041,"إجراءات":134042,"Ġkötü":134043,"Ġ×Ļתר":134044,"×Ĵ×Ļש×Ķ":134045,"Ġצ×ķר×ļ":134046,"รà¸ĸย":134047,"รà¸ĸยà¸Ļà¸ķà¹Į":134048,"ÑħоÑĤ":134049,"ÐłÐIJ":134050,"ÙĪØ·ÙĨ":134051,"Ġsayısı":134052,"ס×Ĺר":134053,"ÙħÙĪÙĦ":134054,"ãĤĴæĮģãģ£ãģ¦":134055,"عاÙĨ":134056,"Ġtá»Ļi":134057,"ĠвÑĭÑĪе":134058,"Ġtầm":134059,"ãĥĪãĥ¬":134060,"×Ļצ×ķ":134061,"มุม":134062,"سÙĪØ¯":134063,"ìłĦìŀIJ":134064,"ãĤµãĥŃãĥ³":134065,"ìĤ°ìĹħ":134066,"ĠоÑģнован":134067,"Ø®Ù쨶":134068,"רצ×Ķ":134069,"بÙĬض":134070,"×ķÖ¹":134071,"ס×Ļ×Ļ×¢":134072,"Ġש×IJ×Ļ":134073,"ĠاÙĦÙĤرآÙĨ":134074,"ĠТакже":134075,"×ŀש×ŀ×¢×ķת":134076,"سÙĩÙĦ":134077,"Ġ×Ķ׳×Ķ":134078,"ãĤĴãģĹãģ¦ãģĦãĤĭ":134079,"×Ļ×Ļס":134080,"×Ķ×ķ×IJ":134081,"ĠBÃŃ":134082,"Ġмало":134083,"ĠëͰëĿ¼ìĦľ":134084,"Ġר×Ĺ×ij":134085,"ãģĮé«ĺãģĦ":134086,"ÙĪØ§Ø³":134087,"ìĤ¼":134088,"×ł×¢":134089,"ãģ£ãģ¡ãĤĥ":134090,"ĠTüm":134091,"à¸Ńีà¸ģà¸Ķà¹īวย":134092,"ãģĹãģ¦ãģıãģłãģķãģĦ":134093,"ÙĨشاط":134094,"ãĥĹãĥ©ãĥ³":134095,"алиÑģÑĮ":134096,"×ĵ×ľ×ª":134097,"ĠwczeÅĽ":134098,"ĠwczeÅĽniej":134099,"ĠÑįÑĤим":134100,"Ġthá»ĭt":134101,"à¸ļัà¸į":134102,"à¸ļัà¸įà¸Ĭี":134103,"ãģļãģ£ãģ¨":134104,"ÑĢин":134105,"ĠswojÄħ":134106,"íķĺëĬĶëį°":134107,"Ġë§Įëĵ¤ìĸ´":134108,"تشÙĥ":134109,"تشÙĥÙĬÙĦ":134110,"ائÙĩ":134111,"Ġ׾פ×Ĺ×ķת":134112,"ãĥĭãĥ¥":134113,"ãĥĭãĥ¥ãĥ¼ãĤ¹":134114,"׼×IJף":134115,"ãģ§ãģįãģŁ":134116,"звон":134117,"ĠstaÅĤ":134118,"×Ĺ×ijרת×Ļ":134119,"ĠأعÙĦÙĨ":134120,"à¹ģà¸ļà¸ļà¸Ļีà¹ī":134121,"بدء":134122,"ãĤģãģŁ":134123,"Ġ×ŀש×ŀ×¢×ķת":134124,"Ġ×ŀש×ŀ×¢×ķת×Ļ":134125,"örü":134126,"Ġhạnh":134127,"zähl":134128,"ĠLý":134129,"Ġ×ij×Ķת":134130,"Ġ×ij×Ķת×IJ×Ŀ":134131,"баÑĢ":134132,"ì¦Ī":134133,"ä»ĬåĽŀãģ®":134134,"Ġyü":134135,"Ġyüks":134136,"Ġyüksel":134137,"ãĤ½ãĥ¼":134138,"ãģĤãĤĮ":134139,"×ª×ľ×ŀ×Ļ×ĵ":134140,"ãģ¤ãģª":134141,"×ij׳×Ļ×Ŀ":134142,"Ġxếp":134143,"ĠмÑĥжÑĩин":134144,"ĠاÙĦÙĥتاب":134145,"׼×ŀ×ķת":134146,"Ġçe":134147,"ĠçeÅŁ":134148,"ĠçeÅŁit":134149,"ĠçeÅŁitli":134150,"×ĵ×Ļר×ķת":134151,"à¸ļุà¸į":134152,"ĠاÙĦØ¥ÙĦÙĥ":134153,"ĠاÙĦØ¥ÙĦÙĥترÙĪ":134154,"ĠاÙĦØ¥ÙĦÙĥترÙĪÙĨÙĬ":134155,"ĠباÙĦإض":134156,"ĠباÙĦإضاÙ쨩":134157,"Ġyönel":134158,"Ġyönelik":134159,"mysÅĤ":134160,"à¸Ķà¹īวยà¸ģาร":134161,"à¸ģารà¸Ĺำ":134162,"овÑĭм":134163,"أزÙħØ©":134164,"æİ¢ãģĹ":134165,"íļ¨":134166,"Ġ×ķ×IJ×Ŀ":134167,"Ġnghiêm":134168,"ÑĪин":134169,"кал":134170,"Ġcrianças":134171,"èĩªåĪĨãģ§":134172,"Ġнай":134173,"ĠнайÑĤи":134174,"ĠSá»ij":134175,"ĠÃ¶ÄŁrenciler":134176,"ãĥ¶æľĪ":134177,"Ñģан":134178,"ĠJá":134179,"ĠkonuÅŁma":134180,"شرط":134181,"ëĪĪ":134182,"arrière":134183,"ضرÙĪØ±Ø©":134184,"ãĥĶãĥ³":134185,"עשר":134186,"аÑĢÑĮ":134187,"جÙħاع":134188,"Ġdéco":134189,"Ġ×Ļ×Ķ×ķ×ĵ×Ļ":134190,"à¸ŀลาà¸Ķ":134191,"ĠÙĬÙĥÙĨ":134192,"ĠجاÙħعة":134193,"طبÙĤ":134194,"ĠboÅŁ":134195,"×ķ×ķ×IJ":134196,"×ŀ×ĵ×¢":134197,"×§×ij×ķצת":134198,"פ×Ļר":134199,"jÄħcym":134200,"Ùħشا":134201,"ÙħشاÙĥÙĦ":134202,"צפ×ķף":134203,"إست":134204,"×ŀ׼ר":134205,"سÙħع":134206,"Ġкакой":134207,"ÑĤвоÑĢ":134208,"ØŃج":134209,"ÙģØ±Ø¶":134210,"пÑĢавлен":134211,"Ġникак":134212,"Ġmiá»ĩ":134213,"Ġmiá»ĩng":134214,"Ã¼ÃŁ":134215,"иÑĢовал":134216,"׾×ŀ×ķת":134217,"次ãģ®":134218,"ÙĦØ·":134219,"à¸ķัà¸Ļ":134220,"×Ķת×Ĺ×Ļ׾":134221,"ĠfotoÄŁ":134222,"ĠfotoÄŁraf":134223,"طرØŃ":134224,"à¸Ńà¸Ńà¸ģà¹Ħà¸Ľ":134225,"Ġyên":134226,"Ġпок":134227,"ĠпокÑĥп":134228,"ĠпокÑĥпа":134229,"ÑĨÑĥ":134230,"ĠкомпÑĮÑİ":134231,"ĠкомпÑĮÑİÑĤеÑĢ":134232,"ĠاÙĦÙĥرÙĬÙħ":134233,"تصÙħ":134234,"تصÙħÙĬÙħ":134235,"Ġоказа":134236,"Ġzarówn":134237,"Ġzarówno":134238,"ëĮĢì¶ľ":134239,"ãĤ»ãĥ³ãĤ¿ãĥ¼":134240,"ĠjakoÅĽci":134241,"æĤ©":134242,"æĤ©ãģ¿":134243,"Ø£ÙĨÙĪ":134244,"Ø£ÙĨÙĪØ§Ø¹":134245,"ë¹ł":134246,"Ġìłķë§IJ":134247,"Ġkẻ":134248,"ĠÑģайÑĤа":134249,"Ġ×Ķער×ij":134250,"Ùĩز":134251,"presión":134252,"ĠÑģÑĤен":134253,"ãģ£ãģ¦ãĤĭ":134254,"Ġhızlı":134255,"ÐļÐIJ":134256,"×ŀשפ×Ĺת":134257,"ĠÙĨÙĩا":134258,"ĠÙĨÙĩاÙĬØ©":134259,"ãģ¾ãģĦ":134260,"оÑħÑĢан":134261,"รà¹īà¸Ńย":134262,"ลึà¸ģ":134263,"ĠÙĪØ¨Ø§ÙĦ":134264,"ãĤĤãģ®ãģĮ":134265,"ר׼×Ļ×ij":134266,"ãĤ¤ãĥ¤":134267,"سؤ":134268,"سؤاÙĦ":134269,"ĠÙĦØ£ÙĨÙĩ":134270,"ĠkonuÅŁtu":134271,"ÐļÑĥпиÑĤÑĮ":134272,"Ġש×IJת×Ķ":134273,"ĠÙĪØ§ÙĦس":134274,"ĠmożliwoÅĽci":134275,"Ġprób":134276,"ëͰ":134277,"ãģ©ãĤĮ":134278,"ĠÐľÐ¸Ð½":134279,"ĠоÑĢганизм":134280,"ãģ«å¯¾ãģĻãĤĭ":134281,"ĠPré":134282,"Ġprivé":134283,"chè":134284,"ãģĦãģŁãģłãģį":134285,"สà¸Ļุà¸ģ":134286,"ajÄħce":134287,"ĠDzi":134288,"ĠDziÄĻki":134289,"ÅĤatw":134290,"rän":134291,"ränk":134292,"æĿ¥ãģŁ":134293,"Ġ×Ķ×Ļ×Ķ×ķ×ĵ×Ļ":134294,"ãĤ¬ãĥ¼":134295,"ĠÑĢад":134296,"ĠÑĢади":134297,"кÑĤив":134298,"Ø£Ùĩد":134299,"Ø£ÙĩداÙģ":134300,"ש×IJ×Ļר":134301,"ãģ¦ãģĦãģªãģĦ":134302,"Ġfrüh":134303,"Ġокол":134304,"Ġоколо":134305,"Ġregião":134306,"ĠÑĩиÑģле":134307,"Ġponiew":134308,"Ġponieważ":134309,"ìĦ¼íĦ°":134310,"Ġbầu":134311,"Ġê·":134312,"Ġê·ľ":134313,"Ġê·ľìłķ":134314,"ĠHòa":134315,"ĠÑĤоÑĤ":134316,"ãĤĤå¤ļãģĦ":134317,"ĠاÙĦإسÙĦاÙħÙĬØ©":134318,"ãģĭãģĦ":134319,"Ñįн":134320,"ĠÑĥказан":134321,"ĠÑĤакое":134322,"ï¼³":134323,"ëĮĢíķĻ":134324,"ĠgeniÅŁ":134325,"ĠاÙĦØ®ÙĬ":134326,"ĠاÙĦØ®ÙĬارات":134327,"ãĤĴè¡ĮãģĨ":134328,"ש×ŀ×Ķ":134329,"ĠLÃłm":134330,"ÙĪÙĨÙĬ":134331,"Ġ×IJ׾×Ļ×ķ":134332,"Äĺ":134333,"à¹Ħมà¹Īสามารà¸ĸ":134334,"人ãģ¨":134335,"برز":134336,"×Ļס×ķ×ĵ":134337,"×Ĵ׾×Ļ":134338,"ĠÙĬÙĨا":134339,"ĠÙĬÙĨاÙĬر":134340,"ĠкаÑĢÑĤин":134341,"Ġtôn":134342,"à¹Ģà¸ģร":134343,"à¸Ħà¸Ķี":134344,"Ġ׾×IJ×ķר×ļ":134345,"ãĤĤãĤīãģĨ":134346,"ãģĭãģĭãĤĭ":134347,"ании":134348,"ĠaraÅŁtırma":134349,"ÙĦاØŃظ":134350,"ãģĦãĤĦ":134351,"ĠTÃłi":134352,"Ġà¸Ļà¸Ńà¸ģà¸Īาà¸ģ":134353,"Ġà¸Ļà¸Ńà¸ģà¸Īาà¸ģà¸Ļีà¹ī":134354,"ĠÄIJảng":134355,"ãģ£ãģ¦ãģįãģŁ":134356,"Ġà¸ĭึà¹Īà¸ĩà¹Ģà¸Ľà¹ĩà¸Ļ":134357,"Ġtả":134358,"ĠmożliwoÅĽÄĩ":134359,"ĠSản":134360,"Ġİki":134361,"Ġcắt":134362,"سأÙĦ":134363,"Ġbakım":134364,"شب":134365,"à¸ķีà¹ī":134366,"à¸ŀยาย":134367,"à¸ŀยายาม":134368,"à¸ªà¸±à¸Ľ":134369,"à¸ªà¸±à¸Ľà¸Ķา":134370,"à¸ªà¸±à¸Ľà¸Ķาหà¹Į":134371,"ë°Ģ":134372,"еÑĢÑĭ":134373,"Ġcánh":134374,"Ġthuế":134375,"تبع":134376,"ãģ«åħ¥ãĤĮ":134377,"ÑİÑģÑĮ":134378,"íļĮìĿĺ":134379,"ç°¡åį":134380,"ç°¡åįĺ":134381,"ç°¡åįĺãģ«":134382,"Ġtrúc":134383,"ĠاÙĦÙĥÙĪÙĬ":134384,"ĠاÙĦÙĥÙĪÙĬت":134385,"ãĤıãģijãģ§ãģĻ":134386,"ĠÑģвоб":134387,"ĠÑģвобод":134388,"ĠÑĥÑĩаÑģÑĤник":134389,"สิà¹īà¸Ļ":134390,"ĠпÑĢоÑĦеÑģÑģиона":134391,"ĠпÑĢоÑĦеÑģÑģионалÑĮн":134392,"ÑģпоÑĢ":134393,"×Ĺ×ķ×ij×Ķ":134394,"ÙħعÙĨÙī":134395,"ĠاÙĦÙģØªØ±Ø©":134396,"สูà¸ĩสุà¸Ķ":134397,"ãĤıãģļ":134398,"ĠÄijè":134399,"ĠÄijèn":134400,"æ¯Ķãģ¹":134401,"าà¸ĺิ":134402,"Ġmożemy":134403,"à¹ģà¸ĭ":134404,"à¸Īะà¹Ħมà¹Ī":134405,"Ġsắp":134406,"ÐļÐŀ":134407,"Ġpráctica":134408,"ÙĪÙĥاÙĦØ©":134409,"è¾¼ãĤĵãģ§":134410,"ológica":134411,"ĠеÑī":134412,"ĠеÑīÑij":134413,"تعدÙĬÙĦ":134414,"ĠØ£Ùĥد":134415,"Ġצר×Ļ׼":134416,"Ġצר×Ļ׼×Ļ×Ŀ":134417,"Ø«Ùħ":134418,"ĠкÑĢÑĥ":134419,"ĠкÑĢÑĥп":134420,"×ij×Ļ×§×ķרת":134421,"Ġì¡°ê¸Ī":134422,"ãģ¨ãģįãģ¯":134423,"Ġbạc":134424,"ĠÑĢаÑģпол":134425,"ĠÑĢаÑģполож":134426,"ĠÑĢаÑģположен":134427,"زÙĬÙĨ":134428,"ĠÐļÑĢоме":134429,"ĠاÙĦÙĨظر":134430,"×Ķ×ķ×ĵ":134431,"ĠاÙĦسبت":134432,"ã썿ĢĿãģĦ":134433,"ĠpaÅĦst":134434,"ĠpaÅĦstw":134435,"ĠÙĦÙĬست":134436,"ĠбÑĥдÑĥ":134437,"à¸Ĺัà¸Ļà¸Ĺี":134438,"ราม":134439,"ØŃصÙĪÙĦ":134440,"ãģĹãģ¦ãģıãĤĮãĤĭ":134441,"ĠاÙĦإسرائÙĬÙĦ":134442,"ĠاÙĦإسرائÙĬÙĦÙĬ":134443,"ãģĵãĤĮãģ¾ãģ§":134444,"ìĤ¬ë¥¼":134445,"Ġsürü":134446,"à¹Ģวà¸Ńรà¹Į":134447,"à¹Ģà¸ĭà¸Ńรà¹Į":134448,"Ġutilisé":134449,"ĠÑģиÑģÑĤема":134450,"Ġdwó":134451,"Ġdwóch":134452,"Ġpróprio":134453,"Ġëĵ±ìĿĦ":134454,"arrêt":134455,"ĠЧа":134456,"×IJ×ŀ׳×ķת":134457,"عارض":134458,"à¹Ģà¸ģมสà¹Į":134459,"Ġ׾×Ķ×ij×Ļף":134460,"Ġ׾×ij×Ĺ":134461,"Ġ׾×ij×Ĺ×ķר":134462,"สาà¸Ĥา":134463,"ĠÐľÐ¾Ñģкве":134464,"بعد":134465,"ĠاÙĦÙĤرار":134466,"ĠÄIJá»ĭa":134467,"Ġ×Ĺ×Ĵ":134468,"ÙģØªØ±":134469,"ÙĪÙĨØ©":134470,"Ġ×Ķ×ĸ×IJת":134471,"å¸Ĥãģ®":134472,"ãģ»ãģĹãģĦ":134473,"Ġ×ij×¢×Ļר":134474,"ĠÑĤепеÑĢÑĮ":134475,"ìĬµëĭĪê¹Į":134476,"à¹Ħมà¹Īว":134477,"à¹Ħมà¹Īวà¹Īา":134478,"à¹Ħมà¹Īวà¹Īาà¸Īะ":134479,"×ŀ×IJ×Ķ":134480,"æĥħåł±":134481,"æĥħåł±ãĤĴ":134482,"غÙĨ":134483,"ĠпоÑı":134484,"ĠпоÑıви":134485,"éģİãģĶ":134486,"تشغ":134487,"تشغÙĬÙĦ":134488,"вел":134489,"Ġ×Ĺ×ŀ":134490,"ãģ¨ãģªãĤĬãģ¾ãģĻ":134491,"ĠraÄŁ":134492,"ĠraÄŁmen":134493,"ãģĭãģ©ãģĨ":134494,"ãģĭãģ©ãģĨãģĭ":134495,"енко":134496,"ì§Ģê³ł":134497,"Ġ×IJ׾×Ļ×Ķ":134498,"ĠØ£ÙĦ":134499,"à¸Īำหà¸Ļ":134500,"à¸Īำหà¸Ļà¹Īาย":134501,"nızı":134502,"Ġ׾ק×Ĺת":134503,"Ø£ÙĩÙħ":134504,"Ø£ÙĩÙħÙĬØ©":134505,"تغÙĬر":134506,"ש×Ĺר":134507,"ס×ķפר":134508,"×ĵ×Ļר":134509,"èī¯ãģĭãģ£ãģŁ":134510,"×ŀ׾×Ĺ×ŀ×Ķ":134511,"ÑģÑĤвие":134512,"ÑĤÑĢаÑĤ":134513,"ĠاÙĦأخ":134514,"ĠاÙĦأخÙĬرة":134515,"ĠاÙĦØŃصÙĪÙĦ":134516,"Ġcrédito":134517,"צ×Ļ×¢":134518,"ãĥ¬ãĥĻãĥ«":134519,"برÙĬ":134520,"ëIJIJ":134521,"ãģłãģ£ãģ¦":134522,"ĠrealtÃł":134523,"سÙ쨱":134524,"×ķ׳×ķ":134525,"×Ĵ×ķ×ĵ":134526,"×Ĵ×ķ×ĵ׾":134527,"ฮา":134528,"ãģĹãģ¦ãģĬãĤĬãģ¾ãģĻ":134529,"ĠgÃł":134530,"Ġ׾×ijצע":134531,"å¼ķè¶ĬãģĹ":134532,"Ġ×ŀ×Ļ׾×Ļ":134533,"Ġ×ŀ×Ļ׾×Ļ×ķף":134534,"Ùħدر":134535,"Ùħدرسة":134536,"פ×ķ×ĺ":134537,"à¸Ļà¹īำมัà¸Ļ":134538,"ëģĿ":134539,"عÙĥس":134540,"ĠÙĤض":134541,"ĠÑĢÑĭб":134542,"خطط":134543,"×ŀ×ķס×ĵ":134544,"Ġ׼׾׾×Ļ":134545,"ĠкоÑĤоÑĢое":134546,"צ×Ļ×ķף":134547,"ĠмеÑģÑĤа":134548,"ãģĭãģ¤":134549,"гÑĢÑĥпп":134550,"׾×Ļ׾":134551,"ת×ķ×IJר":134552,"ë³µì§Ģ":134553,"à¹ģà¸ľà¹Īà¸Ļ":134554,"Ġ×ijעת":134555,"æĻĤéĸĵãĤĴ":134556,"ï¼£":134557,"ãģ¨ãģĦãģĨãģĵãģ¨ãģ§":134558,"Ġ׾×Ķ×§":134559,"Ġ׾×ĸ×Ķ":134560,"ĠìłĢëĬĶ":134561,"ĠاÙĦإرÙĩاب":134562,"ĠìŀĪëĬĶëį°":134563,"ĠÑĤогда":134564,"Ġ×Ķצ×Ļ":134565,"×ķ׾×ĺ":134566,"Ġרפ×ķ×IJ×Ļ":134567,"ãģĵãģ¨ãģ§ãģĻ":134568,"ĠÄijÃŃch":134569,"ØŃÙĬا":134570,"Ġ×Ķ×ŀש×Ĺ×§":134571,"ãģľãģ²":134572,"Ġ×ŀ×IJפשר":134573,"ãģ¿ãģ¾ãģĹãģŁ":134574,"ĠاÙĦØ£ÙħÙĬرÙĥÙĬ":134575,"ÙħجتÙħع":134576,"Ġساب":134577,"ĠسابÙĤ":134578,"׼×Ļ׾":134579,"Ế":134580,"ãĥªãĤ¹ãĥĪ":134581,"Ġìĥ":134582,"ĠìĥĪ":134583,"ĠìĥĪë¡ľ":134584,"ĠìĥĪë¡ľìļ´":134585,"ĠDá»ĭch":134586,"à¹Ģหมาะสม":134587,"ĠاÙĦÙĨبÙĬ":134588,"׾׾":134589,"ÙĨع":134590,"Ðĵлав":134591,"ÐĵлавнаÑı":134592,"Ùħرض":134593,"Ġ×ķ×ĵ":134594,"تÙĤÙĬ":134595,"تÙĤÙĬÙĬÙħ":134596,"Ġbảng":134597,"ĠÙģÙĤاÙĦ":134598,"×¢×ŀ×Ļ":134599,"дÑĢа":134600,"Ġsuá»ijt":134601,"سرعة":134602,"Ġcá»Ń":134603,"Ġ×Ķ×Ļ×Ĺ×Ļ×ĵ":134604,"سعÙĬد":134605,"à¸Ńาà¸Ĭีà¸ŀ":134606,"ĠسÙĪØ§Ø¡":134607,"ãĤ½ãĥķãĥĪ":134608,"ĠлиÑĩно":134609,"ĠÐļоÑĢ":134610,"اÙĩتÙħ":134611,"اÙĩتÙħاÙħ":134612,"à¸Ńà¸Ķี":134613,"à¸Ńà¸Ķีà¸ķ":134614,"ãģIJãĤīãģĦ":134615,"Ġihtiya":134616,"Ġihtiyaç":134617,"ãģ¾ãģ§ãģ®":134618,"ìĭľìĬ¤":134619,"ìĭľìĬ¤íħľ":134620,"ÑĢÑĥÑĪ":134621,"ãĤĦãģ£ãģ±":134622,"ãĤĦãģ£ãģ±ãĤĬ":134623,"кеÑĢ":134624,"Ġży":134625,"Ġżyw":134626,"клон":134627,"Ġlượt":134628,"þ":134629,"даÑĩи":134630,"türk":134631,"غÙĪ":134632,"ĠигÑĢок":134633,"Ġphê":134634,"Ġ×©×¢×ľ":134635,"ĠاÙĦÙħدÙĨÙĬ":134636,"ĠìŬ룬ë¶Ħ":134637,"ער×Ļ×Ŀ":134638,"ÑħодÑıÑĤ":134639,"Ġxứ":134640,"ÐĹа":134641,"ĠÙģØ±Øµ":134642,"à¸Īะà¸Ĺำà¹ĥหà¹ī":134643,"íģ´":134644,"×¢×ij×ķר":134645,"à¹Ģหลà¹Īาà¸Ļีà¹ī":134646,"èĢĥãģĪãĤĭ":134647,"ÑĢеÑģÑĤ":134648,"ннÑĭй":134649,"Ġcầm":134650,"داخÙĦ":134651,"ĠÙħÙĦÙĬار":134652,"ĠÐIJл":134653,"ĠвÑĢемен":134654,"à¸Ĭà¹Īวยà¹ĥหà¹ī":134655,"ר×Ļ×ķת":134656,"ëĵ¯":134657,"飲ãģ¿":134658,"׳׾":134659,"שתף":134660,"ĠاÙĦسعÙĪØ¯ÙĬ":134661,"uÃŁ":134662,"ìĿ¸ëį°":134663,"ĠìĿ¼ë°ĺ":134664,"ÅĤÄĻ":134665,"Ġmá»iji":134666,"×ŀ×Ļ׳":134667,"ĠاÙĦأطÙ쨧ÙĦ":134668,"Ġçıkan":134669,"école":134670,"×§×Ļש":134671,"×§×Ļש×ķר":134672,"ĠоÑģÑĥÑīеÑģÑĤв":134673,"ĠоÑģÑĥÑīеÑģÑĤвлÑı":134674,"×ij×IJר":134675,"à¹Ħà¸Ľà¸Ķà¹īวย":134676,"Ġ×¢×ķ׾×Ķ":134677,"à¸ģà¹ĩà¹Ħมà¹Ī":134678,"ãĥ¢ãĥĩ":134679,"ãĥ¢ãĥĩãĥ«":134680,"تØŃÙĪÙĦ":134681,"Ġодного":134682,"ת×Ĺ×Ļ×ľ×ª":134683,"Ġتخ":134684,"Ġchcia":134685,"ĠchciaÅĤ":134686,"ãĥIJãĥ³":134687,"èĢħãģ¯":134688,"ĠÙħØŃÙĦ":134689,"Ñģлож":134690,"Ñģложн":134691,"ĠtÄĻ":134692,"Ġçıkt":134693,"Ġçıktı":134694,"ĠCÆ¡":134695,"à¹Ħà¸Ķà¹īà¹Ģลย":134696,"ırken":134697,"à¹Ģà¸Ĥà¹īาสูà¹Ī":134698,"ÙħØŃÙĥ":134699,"ÙħØŃÙĥÙħØ©":134700,"à¸Ħุà¹īม":134701,"à¸Ļà¹Īาà¸Īะ":134702,"лÑİд":134703,"деÑģÑı":134704,"деÑģÑıÑĤ":134705,"ĠлÑİбой":134706,"تØŃرÙĬر":134707,"צע×ĵ":134708,"ĠеÑij":134709,"ĠاÙĦØŃÙĥÙħ":134710,"ĠصباØŃ":134711,"à¹Ģà¸ļà¸Ńรà¹Į":134712,"Ġróżnych":134713,"гиб":134714,"ĠÑģоÑĤ":134715,"ĠÑģоÑĤÑĢÑĥд":134716,"ĠÑģоÑĤÑĢÑĥдник":134717,"ĠобÑĬем":134718,"פ×ĺר":134719,"ãģĻãģĶãģı":134720,"ãģ«éĸ¢ãģĹãģ¦":134721,"вол":134722,"Ø«ÙħاÙĨ":134723,"Ġdần":134724,"æĬľ":134725,"æĬľãģij":134726,"Ġעש":134727,"Ġעש×ķ×Ļ":134728,"ס×ķף":134729,"ãģªãģ®ãģ§ãģĻ":134730,"ãģ¯ãģ©ãģĨ":134731,"×ŀער×ij":134732,"ï¼°":134733,"Ùħصر":134734,"ÙħÙĨاسب":134735,"ÙħÙĨاسبة":134736,"ä¸Ĭãģ®":134737,"×IJ×Ļש×ķר":134738,"ĠìĦ¤ì¹ĺ":134739,"×ŀ×ĵ×Ļ׳×ķת":134740,"×ŀרת":134741,"ãĤĭãģ®ãģĮ":134742,"دÙİ":134743,"ĠاÙĦشرÙĥات":134744,"ìĭľê°Ħ":134745,"ĠÑĢеÑĪение":134746,"ãģĻãĤĭãģ®ãģ¯":134747,"ĠìŀIJìĭłìĿĺ":134748,"׾×ŀ×ķ":134749,"ãģ¨ãģĵãĤįãģ§":134750,"Ġקצר":134751,"Ġmãi":134752,"Ġkültür":134753,"ãĥ©ãĤ¤ãĥĸ":134754,"à¸ľà¸¹à¹īหà¸įิà¸ĩ":134755,"æĻĤéĸĵãģĮ":134756,"клÑİÑĩи":134757,"diÄŁiniz":134758,"มาà¸ģà¹Ĩ":134759,"تØŃÙħÙĦ":134760,"Ġhạt":134761,"ãĤ¦ãĤ£":134762,"пле":134763,"×ŀ׾×IJ":134764,"ÅĤó":134765,"Ġgá»ijc":134766,"Ġ×IJ×ķ×ĵ×ķת":134767,"หวาà¸Ļ":134768,"ĠاÙĦÙĪØ²":134769,"ĠاÙĦÙĪØ²Ø±Ø§Ø¡":134770,"ëĵ¤ê³¼":134771,"ĠصØŃ":134772,"ĠصØŃÙĬÙ쨩":134773,"Ġмм":134774,"تدخÙĦ":134775,"Ġpersönlich":134776,"ĠزÙĬ":134777,"ĠزÙĬادة":134778,"ãĤ·ãĤ¢":134779,"Ġngắn":134780,"à¸Ħลิà¸ģ":134781,"Ġsông":134782,"Ġtüket":134783,"ÑįÑĦÑĦ":134784,"ÑįÑĦÑĦекÑĤ":134785,"ש×Ļ×ij":134786,"Ġاعت":134787,"تض":134788,"تضÙħÙĨ":134789,"ĠاÙĦÙħشرÙĪØ¹":134790,"Ġprodução":134791,"ĠпÑĢименÑı":134792,"ниÑĨÑĭ":134793,"주ëĬĶ":134794,"رÙı":134795,"ĠmÆ¡":134796,"Ġhayatı":134797,"ëŁ½":134798,"Ġücret":134799,"Ġyanında":134800,"Ġprática":134801,"×ij×Ļ×§×ķר":134802,"ÃľN":134803,"ÑģоÑĤ":134804,"ãĤıãģijãģ§":134805,"Ġдолго":134806,"×ª×Ľ×ķ":134807,"ĠìķĦëĭĮ":134808,"ëį°ìĿ´":134809,"Ġçiz":134810,"ĠchoÄĩ":134811,"Ġ×Ķ×Ļת":134812,"Ġ×Ķ×Ļתר":134813,"Ġsoát":134814,"׼×ij×ĵ":134815,"à¹Ģลà¹Īา":134816,"ĠдеÑĢ":134817,"ĠдеÑĢев":134818,"ãĤĴåħ¥ãĤĮ":134819,"×Ĺ×ķס":134820,"×Ĺ×ķסר":134821,"جÙĬÙĨ":134822,"tón":134823,"onné":134824,"ĠполноÑģÑĤÑĮÑİ":134825,"人ãģŁãģ¡":134826,"Ġprêt":134827,"본":134828,"Ġdécembre":134829,"cılar":134830,"Ġתת":134831,"Ġê²½ìļ°ìĹIJëĬĶ":134832,"ÙĪØ¹Ø¯":134833,"è¦ĭãĤĭ":134834,"วิà¸Īัย":134835,"ë¶Ī":134836,"زÙĪØ§":134837,"زÙĪØ§Ø¬":134838,"dì":134839,"ãģ§ãģĻãĤĪ":134840,"Ġводо":134841,"ĠÙĬÙĪØ¬Ø¯":134842,"ÑģоÑģÑĤоÑı":134843,"ÐŀС":134844,"ĠÄIJó":134845,"×Ĺפש":134846,"Ġצ×Ļ×ij×ķר":134847,"ĠاÙĦÙĤØ·":134848,"ĠاÙĦÙĤطاع":134849,"ĠимеÑİÑĤ":134850,"ĠpháºŃn":134851,"×Ľ×¡×¤×Ļ":134852,"полниÑĤелÑĮ":134853,"éĻIJãĤĬ":134854,"ĠÑģÑĢав":134855,"ĠÑģÑĢавн":134856,"ÙħاÙĦÙĥ":134857,"×ĵר×ķ×Ŀ":134858,"çļĨãģķãĤĵ":134859,"ØŃÙĤÙĤ":134860,"à¹ģหลà¹Īà¸ĩ":134861,"ĠاÙĦرسÙħÙĬ":134862,"оÑĩки":134863,"×ĺ×ij×Ĺ":134864,"Ġcanlı":134865,"Ġ׾׾":134866,"Ġ׾׾×ŀ×ķ×ĵ":134867,"×ŀ×ij×ķ":134868,"×ª×Ľ":134869,"×ª×Ľ×ł×Ļת":134870,"ĠاÙĦÙħشار":134871,"ĠاÙĦÙħشارÙĥØ©":134872,"İÅŀ":134873,"ĠسÙĬاسÙĬ":134874,"волÑĮ":134875,"ĠÑģпÑĢав":134876,"æĿ¥ãģ¦":134877,"פ×ķר×ķ×Ŀ":134878,"สำà¹Ģรà¹ĩ":134879,"สำà¹Ģรà¹ĩà¸Ī":134880,"ĠÅŁÃ¶yle":134881,"ĠzostaÅĤa":134882,"ĠHü":134883,"ר×ķש":134884,"دÙĦÙĬÙĦ":134885,"ÑĢид":134886,"שף":134887,"×ŀ×§×ķר":134888,"ĠÑĥÑĩ":134889,"ĠÑĥÑĩеб":134890,"ĠÑįÑĤа":134891,"кова":134892,"à¸ķà¸Ļà¹Ģà¸Ńà¸ĩ":134893,"ÙĨÙIJ":134894,"à¸Ńีà¸ģà¸Ħรัà¹īà¸ĩ":134895,"ระà¸ļุ":134896,"Ġdữ":134897,"ĠاÙĦØŃاÙĦÙĬ":134898,"׼×ķ׼":134899,"׼×ķ׼×ij":134900,"Ġ×ŀ×IJשר":134901,"Ġtrụ":134902,"ÑĤелем":134903,"Ġвли":134904,"ĠвлиÑı":134905,"Ġש×IJת×Ŀ":134906,"Ġuwag":134907,"ĠuwagÄĻ":134908,"×ĺ×Ļת":134909,"×IJ×ĵ×Ŀ":134910,"à¸Ķุ":134911,"Ġ×Ķ×IJ׾×Ķ":134912,"ĠkarÄ±ÅŁ":134913,"ĠÄIJá»iji":134914,"даÑİÑĤ":134915,"ãģªãģ®ãģ«":134916,"Äħcych":134917,"à¹Ģà¸Ļà¹īà¸Ļ":134918,"ãģĹãģ¦ãģĹãģ¾ãģĨ":134919,"intérieur":134920,"ĠfÃŃsica":134921,"ĠÐŁÐ¾Ð»":134922,"ãģĹãģķ":134923,"à¸Ĺำà¹Ħม":134924,"ĠLâm":134925,"ĠاÙĦÙħسÙĦÙħ":134926,"ĠاÙĦÙħسÙĦÙħÙĬÙĨ":134927,"صØŃØ©":134928,"ìĹĦ":134929,"à¹Ģà¸Ķà¹ĩà¸Ķ":134930,"ĠÑĥÑĩеÑĤ":134931,"âÌģ":134932,"ĠبÙĦا":134933,"ĠاÙĦاجتÙħاعÙĬ":134934,"פרס×Ŀ":134935,"ãĥķãĥ©":134936,"ĠÐļогда":134937,"mieÅĽci":134938,"ĠبÙĬÙĨÙħا":134939,"Ġ×ŀ×IJ×ŀר×Ļ×Ŀ":134940,"Ġ×ij×IJ×ĸ×ķר":134941,"×ķש×Ļ×Ŀ":134942,"ĠÑģдела":134943,"entrée":134944,"à¹Ģà¸Ħà¹īา":134945,"Ñĥгл":134946,"ĠاÙĦÙģÙĨÙĬ":134947,"ĠÐĴоÑĤ":134948,"à¸Ĺีà¹Īมา":134949,"×ķצ×Ĵ":134950,"ÙĤدرة":134951,"Ġ목":134952,"Ġ목ìłģ":134953,"íıīê°Ģ":134954,"ĠاÙĦأربع":134955,"ĠاÙĦأربعاء":134956,"פס×Ļ×§":134957,"ĠÑıвлÑıÑİÑĤÑģÑı":134958,"بÙĪÙĨ":134959,"ì°¾":134960,"×ŀ×¢×¨×Ľ":134961,"×ŀ×¢×¨×Ľ×ķת":134962,"ãĤ·ãĤ§":134963,"ĠباÙĦØ£":134964,"íĸĪëįĺ":134965,"ĠاÙĦبرÙĨاÙħج":134966,"ĠاÙĦØ£ØŃد":134967,"ĠmÅ©":134968,"ĠmÅ©i":134969,"паÑĤ":134970,"بث":134971,"ĠÑĨенÑĭ":134972,"Ġ×ij×ª×ľ":134973,"è¨ĢãĤıãĤĮ":134974,"ĠاÙĦÙħجاÙĦ":134975,"ĠìĦ¸ìĥģ":134976,"Ġ×Ĵ×ķפ":134977,"ĠнаÑĪей":134978,"ĠкомпаниÑı":134979,"бин":134980,"ölü":134981,"×Ļ×Ļ×ĺ":134982,"Ġ×ŀספ×Ļ×§":134983,"ยัà¸ĩà¸Ħà¸ĩ":134984,"ĠЧи":134985,"ĠанÑĤи":134986,"ĠÑģÑĢеди":134987,"สà¹Īวà¸Ļà¹ĥหà¸įà¹Ī":134988,"оÑĩка":134989,"íĬ¹ë³Ħ":134990,"วà¹Īาà¸ĩ":134991,"гоÑĢод":134992,"باÙĥ":134993,"à¹Ģสีà¹Īย":134994,"à¹Ģสีà¹Īยà¸ĩ":134995,"ãĤĤãĤīãģĦ":134996,"×§×ķ×Ŀ":134997,"ãģĽãģļ":134998,"ĠاÙĦÙĤاÙĩرة":134999,"Ġ×ij׼×ļ":135000,"ÙħشارÙĬع":135001,"باØŃØ«":135002,"ĠпоÑĩ":135003,"ĠпоÑĩÑĤи":135004,"ĠÑĦоÑĢма":135005,"Sİ":135006,"Ġ×ŀצ×Ļ×¢":135007,"ลื":135008,"ลืม":135009,"ĠÑĤеÑĢ":135010,"ĠÑĤеÑĢÑĢиÑĤоÑĢ":135011,"ĠÑĤеÑĢÑĢиÑĤоÑĢии":135012,"ĠвмеÑģÑĤ":135013,"ĠвмеÑģÑĤе":135014,"dıkları":135015,"opération":135016,"à¹Ĥห":135017,"صدÙĬ":135018,"صدÙĬÙĤ":135019,"íĸīìłķ":135020,"تجا":135021,"تجاÙĪØ²":135022,"Ġsuç":135023,"Ġarty":135024,"Ġartyku":135025,"ĠartykuÅĤ":135026,"ãĤ·ãĥ§ãĥĥãĥĹ":135027,"שפ":135028,"שפ×Ļ×¢":135029,"Ġ×Ķש×Ļר×ķת":135030,"à¹ģà¸ĸม":135031,"ë¸Ķ":135032,"ĠukÅĤad":135033,"Ġ×ķ׼×Ļ":135034,"หลาà¸ģ":135035,"หลาà¸ģหลาย":135036,"æĸ¹ãĤĤ":135037,"Ġpodróż":135038,"ĠEÄŁer":135039,"ĠкомнаÑĤ":135040,"ĠÑģамÑĭÑħ":135041,"ĠвкÑĥÑģ":135042,"беж":135043,"Ġ×ij×§×ķ":135044,"æİĽãģij":135045,"ãģ¿ãĤĭãģ¨":135046,"ĠiliÅŁkin":135047,"ĠÙĬعÙħÙĦ":135048,"ĠподаÑĢ":135049,"Ġyazılı":135050,"ãĤĴå¾Ĺ":135051,"ĠwystÄĻp":135052,"à¸Ĺีà¹Īà¹ĥà¸Ĭà¹ī":135053,"ØŃادث":135054,"ÙĪÙĬد":135055,"кÑĥлÑĮÑĤ":135056,"кÑĥлÑĮÑĤÑĥÑĢ":135057,"à¸ģารà¹ģà¸Ĥà¹Īà¸ĩ":135058,"à¸ģารà¹ģà¸Ĥà¹Īà¸ĩà¸Ĥ":135059,"à¸ģารà¹ģà¸Ĥà¹Īà¸ĩà¸Ĥัà¸Ļ":135060,"ÙħÙĪØ¸":135061,"ÙħÙĪØ¸Ùģ":135062,"ÙĬÙħÙĬ":135063,"ãĤĵãģ§ãģĻãģĮ":135064,"diÄŁim":135065,"diÄŁimiz":135066,"ĠÐŁÐµÑĢ":135067,"ĠÐŁÐµÑĢв":135068,"Ġmão":135069,"ĠÑģез":135070,"ĠÑģезон":135071,"Ġ×Ķ×ŀ×¢":135072,"ÙħجÙħÙĪØ¹Ø©":135073,"ĠинÑĦоÑĢмаÑĨии":135074,"iếc":135075,"ãng":135076,"ĠÄijấy":135077,"ãģĶç´":135078,"ãģĶç´¹":135079,"ãģĶç´¹ä»ĭ":135080,"Ġadım":135081,"à¹Ħหล":135082,"ĠпÑĢакÑĤи":135083,"ĠпÑĢакÑĤиÑĩ":135084,"ĠпÑĢакÑĤиÑĩеÑģ":135085,"ĠпÑĢакÑĤиÑĩеÑģки":135086,"ĠاÙĦÙĨÙ쨳":135087,"ĠÑĢабоÑĤе":135088,"ÙĦÙĬÙģ":135089,"ĠاÙĦجÙĨÙĪØ¨":135090,"ĠводÑĭ":135091,"ì¹Ļ":135092,"ĠмиÑĢа":135093,"ĠÄijừng":135094,"ĠпÑĢоÑĤиво":135095,"ĠÑģÑĤÑĢанÑĭ":135096,"ลู":135097,"ìĤ¶":135098,"kreÅĽl":135099,"Ġbulund":135100,"ĠbulunduÄŁu":135101,"à¹ģสà¸Ļ":135102,"ãĤ±ãĤ¢":135103,"ת×Ĺ×ķ×ŀ×Ļ":135104,"ר׼×Ķ":135105,"Ġ׾ק×ķ×Ĺ":135106,"Ġ׾ק×ķ×Ĺ×ķת":135107,"Ġ×Ľ×ª×ķ×ijת":135108,"ĠÙĦÙĥÙħ":135109,"بشر":135110,"ĠrÃłng":135111,"Ġ×ŀ×Ķ×ŀ":135112,"Ġ×IJ×Ĺר×ķת":135113,"Ġбон":135114,"ĠбонÑĥÑģ":135115,"ï½Ĺ":135116,"à¹ģยà¸ģ":135117,"ãģĤãģªãģŁãģ®":135118,"ĠÑĥÑĩаÑģÑĤие":135119,"ĠEyl":135120,"ĠEylül":135121,"ĠçalÄ±ÅŁmaları":135122,"خطر":135123,"ìĿ½":135124,"à¸ģารà¹ĥà¸Ĭà¹īà¸ĩาà¸Ļ":135125,"Ġанализ":135126,"תק×ij׾":135127,"нием":135128,"Ġİns":135129,"Ġİnsan":135130,"ĠبÙĪØ§Ø³":135131,"ĠبÙĪØ§Ø³Ø·Ø©":135132,"Ġ×ł×Ľ×ł×¡":135133,"Ġ×Ķ×ŀ×Ļ×ĵ×¢":135134,"Ġço":135135,"ĠçoÄŁu":135136,"á»ĺ":135137,"ĠêµŃ민":135138,"ãĤĤãģĦãģĦ":135139,"Ġ׼׾×Ļ":135140,"ĠÑģÑĢедне":135141,"gÅĤo":135142,"gÅĤoÅĽ":135143,"Ġnegó":135144,"Ġnegócio":135145,"ĠÑĢегиÑģÑĤ":135146,"ĠÑĢегиÑģÑĤÑĢа":135147,"ĠÑĢегиÑģÑĤÑĢаÑĨии":135148,"Ġtrá»ĵng":135149,"ĠпÑĢÑı":135150,"ĠпÑĢÑıмо":135151,"ëłĪìĿ´":135152,"Ġkém":135153,"кле":135154,"à¸Ļำมา":135155,"ĠÑĦин":135156,"ĠÑĦинанÑģ":135157,"ĠÑĦинанÑģов":135158,"Ġkiá»ĩm":135159,"ยัà¸ĩà¹Ħ":135160,"ยัà¸ĩà¹Ħà¸ĩ":135161,"ยิà¸ĩ":135162,"à¹Ĥà¸Ľ":135163,"ĠполÑĥÑĩил":135164,"×Ļ×ĸ×Ŀ":135165,"à¹ģละà¸Ħวาม":135166,"ĠвообÑīе":135167,"صÙĬر":135168,"ãĥıãĥ³":135169,"ĠاÙĦÙĤاد":135170,"ĠاÙĦÙĤادÙħ":135171,"ĠبدÙĪÙĨ":135172,"عظÙħ":135173,"×ª×ł×ķ×¢":135174,"×ª×ł×ķ×¢×Ķ":135175,"Ø£ÙħÙĦ":135176,"ãģķãģĪ":135177,"ÑĤем":135178,"ÑĤемпеÑĢ":135179,"ÑĤемпеÑĢаÑĤÑĥÑĢ":135180,"Ġ׾×Ļצ×ķר":135181,"ĠrÄĻk":135182,"رسÙĦ":135183,"ìŀIJ를":135184,"Ġ×Ļצ×Ļרת":135185,"ÙĨبÙĬ":135186,"ÑĩнаÑı":135187,"تØŃÙĦÙĬÙĦ":135188,"Ġмик":135189,"ĠмикÑĢо":135190,"ĠSöz":135191,"Ġforça":135192,"Ñģон":135193,"ĠاÙĦعرا":135194,"ĠاÙĦعراÙĤÙĬ":135195,"ĠHá»ĵng":135196,"ãģĻãĤĭãģŁãĤģãģ«":135197,"à¸Ĺีà¹Īà¸Ńยูà¹Ī":135198,"Ġ×ķ×IJ×£":135199,"صÙĬد":135200,"ĠìķĬê³ł":135201,"รัà¸ĩ":135202,"ĠاÙĦتÙĪØ§ØµÙĦ":135203,"à¹Ģมà¸ķร":135204,"ÑĥÑģÑĤÑĢой":135205,"ÑĥÑģÑĤÑĢойÑģÑĤв":135206,"mıyor":135207,"ĠباسÙħ":135208,"Ġ×ķ׼×ķ":135209,"ĠGül":135210,"á»IJ":135211,"Ãītat":135212,"غاÙĦ":135213,"Ø¥ÙĨØ´":135214,"Ø¥ÙĨشاء":135215,"Tİ":135216,"à¸Ĥà¹īาม":135217,"Ġtroch":135218,"ĠtrochÄĻ":135219,"إص":135220,"إصابة":135221,"ĠثاÙĨÙĬ":135222,"ĠاÙĦصØŃØ©":135223,"Ġ×ĸ×Ķ×ķ":135224,"jÄħcej":135225,"ãĥĢãĥ³":135226,"ìĿ¸ìĿ´":135227,"ĠволоÑģ":135228,"ëIJĺë©´":135229,"ĠzakÅĤad":135230,"ãģĻãģĵãģ¨":135231,"以ä¸Ĭãģ®":135232,"Ġ×Ķ×ŀ×§×ķ×Ŀ":135233,"ÙħشاÙĩ":135234,"ÙħشاÙĩدة":135235,"Ñĩив":135236,"بش":135237,"ยà¹īาย":135238,"Ġsürdür":135239,"ĠNẵ":135240,"ĠNẵng":135241,"ĠигÑĢаÑĤÑĮ":135242,"Ġê·¸ëŁ¬ë©´":135243,"ãĥķãĥ«":135244,"ลà¹Īะ":135245,"Ġtendrá":135246,"ĠbÃły":135247,"à¹Ģà¸Ľà¹ĩà¸Ļà¸ľà¸¹à¹ī":135248,"Ġoko":135249,"ĠokoÅĤo":135250,"wÅĤa":135251,"wÅĤaÅĽci":135252,"wÅĤaÅĽciw":135253,"æĢĿãĤı":135254,"ĠYaÅŁ":135255,"ĠBá»ĩnh":135256,"íıŃ":135257,"بÙĬد":135258,"קרף":135259,"à¹Ģศร":135260,"à¹Ģศรษ":135261,"à¹Ģศรษà¸IJ":135262,"à¹Ģศรษà¸IJà¸ģิà¸Ī":135263,"ĠاÙĦØ£ÙĪØ±ÙĪ":135264,"ĠاÙĦØ£ÙĪØ±ÙĪØ¨ÙĬ":135265,"fläche":135266,"ä¹ĹãĤĬ":135267,"Ġbá»ģn":135268,"Ùĩب":135269,"æľĢãĤĤ":135270,"Ġsaç":135271,"à¸Ńำà¹Ģà¸ł":135272,"à¸Ńำà¹Ģà¸łà¸Ń":135273,"Ġأج":135274,"ĠاÙĦداخÙĦ":135275,"ĠاÙĦداخÙĦÙĬØ©":135276,"×ĺ×ķ×ij":135277,"ãĤĤãģªãģı":135278,"ĠлиÑĨа":135279,"à¹ģลà¹īวà¸ģà¹ĩ":135280,"×ĸ׼×Ļר":135281,"ĠquÃł":135282,"ĠÙĥذÙĦÙĥ":135283,"صØŃÙģ":135284,"ĠÃĤu":135285,"ÙĪØ¨Ø§":135286,"à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļà¹ģà¸Ľà¸¥":135287,"à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļà¹ģà¸Ľà¸¥à¸ĩ":135288,"à¸ķัวà¸Ńยà¹Īาà¸ĩ":135289,"Ġrápida":135290,"Ġtasar":135291,"Ġtasarım":135292,"ĠعÙĦÙĬÙĩÙħ":135293,"ס×ķ׾":135294,"cılı":135295,"cılık":135296,"ĠرغÙħ":135297,"ìĭľíĤ¤":135298,"Ġ×IJ׾ק":135299,"Ġ×IJ׾ק×ĺר":135300,"Ġ×IJ׾ק×ĺר×ķ׳×Ļ":135301,"à¹ģà¸ļà¹Īà¸ĩ":135302,"Ġhạng":135303,"ãģ£ãģ¦ãģıãĤĮ":135304,"ĠÙĨتÙĬ":135305,"ĠÙĨتÙĬجة":135306,"ıklı":135307,"غاÙĨ":135308,"à¸Ĥà¹īà¸Ńà¸Ħวาม":135309,"à¸Ľà¸¥à¸²à¸¢":135310,"ĠØ£Ùħس":135311,"à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยว":135312,"à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยวà¸Ĥ":135313,"à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยวà¸Ĥà¹īà¸Ńà¸ĩ":135314,"Ġdéfin":135315,"Ġdéfini":135316,"ÙģÙĨاد":135317,"ÙģÙĨادÙĤ":135318,"à¹Ħà¸Ķà¹īวà¹Īา":135319,"ãģªãģĦãĤĪãģĨãģ«":135320,"Ġprópria":135321,"ĠPhát":135322,"ãĤĦãģĻãģı":135323,"สวยà¸ĩาม":135324,"ê³łìļĶ":135325,"ÑıеÑĤ":135326,"ãģĭãĤĤãģĹãĤĮãģ¾ãģĽãĤĵãģĮ":135327,"ترجÙħ":135328,"ĠкÑĢаÑģив":135329,"Ġ×ŀר×IJש":135330,"деж":135331,"ĠÙĬÙĪÙĨ":135332,"ĠÙĬÙĪÙĨÙĬÙĪ":135333,"ÑģкоÑĢ":135334,"ĠKasım":135335,"ê³Ħìķ½":135336,"коÑģ":135337,"ĠнаÑĢÑĥ":135338,"ĠнаÑĢÑĥÑĪен":135339,"Ġduże":135340,"accès":135341,"Ġhá»ĵng":135342,"ĠvÅ©":135343,"ãģĦãģŁãģĹãģ¾ãģĻ":135344,"Ġ×ĺ×Ļ":135345,"Ġ×ĺ×Ļ×ķ׾":135346,"lıkları":135347,"Ġquê":135348,"ëħ¸ëıĻ":135349,"ìķĶ":135350,"CIÃĵN":135351,"Ġtắc":135352,"pressão":135353,"ĠìŀĪìľ¼":135354,"สิà¸Ĺà¸ĺิà¹Į":135355,"íĥĦ":135356,"Ġ×Ķ×ŀ×ŀש׾×Ķ":135357,"å¬īãģĹãģĦ":135358,"ĠÄIJặc":135359,"ÙĨزÙĦ":135360,"ĠдÑĢÑĥгой":135361,"дÑĥÑĤ":135362,"ìĪĻ":135363,"Ġthụ":135364,"à¹Ģสร":135365,"à¹Ģสรà¹ĩ":135366,"à¹Ģสรà¹ĩà¸Ī":135367,"Ġtoplant":135368,"Ġtoplantı":135369,"×IJ×ŀף":135370,"×ķ×ľ×ª":135371,"помн":135372,"ĠyoÄŁun":135373,"ÅĦskiego":135374,"ì°©":135375,"ĠØ«ÙĦاث":135376,"ĠØ«ÙĦاثة":135377,"Ġlắng":135378,"릴":135379,"ราà¸Ĭà¸ģาร":135380,"ĠÑģлова":135381,"á»Ĩ":135382,"à¸Ķีà¸ģวà¹Īา":135383,"ãģĶãģĸãģĦãģ¾ãģĻ":135384,"Ġдиз":135385,"Ġдизайн":135386,"férence":135387,"lıklar":135388,"ãģªãĤĵãģ§ãģĻ":135389,"ajÄħcy":135390,"Ġëĭ¤ìĸij":135391,"Ġëĭ¤ìĸijíķľ":135392,"×§×Ļר":135393,"ØŃار":135394,"สูà¹ī":135395,"Ġzro":135396,"Ġzrobi":135397,"ĠzrobiÄĩ":135398,"×ŀ×Ļ׼×Ķ":135399,"à¸Ĭà¹Īวยà¹Ģหลืà¸Ń":135400,"ĠÑįÑĤÑĥ":135401,"ë´ī":135402,"楽ãģĹãģĦ":135403,"سÙĪØ±":135404,"íķĺê±°ëĤĺ":135405,"ÙħؤتÙħر":135406,"ĠpoczÄħ":135407,"ĠpoczÄħtk":135408,"ĠpoczÄħtku":135409,"ĠعربÙĬ":135410,"اÙĦأر":135411,"اÙĦأردÙĨ":135412,"à¸Ķร":135413,"Åĵuvre":135414,"ĠÙĪÙĥاÙĨت":135415,"ĠÅĽredni":135416,"خضر":135417,"Ġchuyến":135418,"нÑĤ":135419,"ĠìķĮê³ł":135420,"Ġvá»Ŀi":135421,"Ġ×ij×Ļ×ĵ×Ļ":135422,"×ŀ×ĵ×ķ×ijר":135423,"ÙĪÙ쨱":135424,"ÙĬØ¡":135425,"×ł×Ľ×¡":135426,"ĠÐĽÐ°":135427,"лон":135428,"Ġxấu":135429,"ÙģÙĬÙĨ":135430,"Ġfévrier":135431,"ĠÐŀна":135432,"ĠVá»ģ":135433,"ĠÅŁeyler":135434,"ĠполÑĥÑĩен":135435,"зад":135436,"Ġnét":135437,"à¹Ħà¸Ľà¸¢à¸±à¸ĩ":135438,"×Ĺש×ij×ķ":135439,"à¸ļัà¸Ļà¸Ĺ":135440,"à¸ļัà¸Ļà¸Ĺึà¸ģ":135441,"ĠgerçekleÅŁ":135442,"иÑĩеÑģкое":135443,"ìĪĺê°Ģ":135444,"ثبت":135445,"ãģ¤ãģ¾ãĤĬ":135446,"ĠÑĥÑģловиÑıÑħ":135447,"ëĭ¤ê°Ģ":135448,"รายà¹Ħà¸Ķà¹ī":135449,"׼×IJ×ij":135450,"à¹Ĥà¸Ľà¸£à¹Ĥม":135451,"à¹Ĥà¸Ľà¸£à¹Ĥมà¸Ĭัà¹Īà¸Ļ":135452,"jähr":135453,"jährige":135454,"ק׳×Ļ×Ŀ":135455,"×ŀ×ķ×§":135456,"×ŀ×ķ×§×ĵ":135457,"ãģ«è¡Įãģ£ãģ¦":135458,"Ø¢ÙĦ":135459,"ведение":135460,"Ġ×ľ×Ľ×ª×ķ×ij":135461,"جÙħÙĩ":135462,"جÙħÙĩÙĪØ±ÙĬØ©":135463,"à¸īà¸ļ":135464,"à¸īà¸ļัà¸ļ":135465,"ĠCòn":135466,"à¸ľà¸ªà¸¡":135467,"ãģªãģ©ãģĮ":135468,"×IJ×Ķ×ij":135469,"ĠдейÑģÑĤвиÑı":135470,"yız":135471,"à¹Ħมà¹Īà¹Ģà¸Ħย":135472,"جÙĪØ²":135473,"×Ķ×Ĺ׾×ĺ×Ķ":135474,"fällt":135475,"ãĥĵãĤ¸":135476,"ãĥĵãĤ¸ãĥį":135477,"ãĥĵãĤ¸ãĥįãĤ¹":135478,"Ġ×IJ×Ļ׳×Ŀ":135479,"ĠнаÑħодиÑĤÑģÑı":135480,"ĠdziÅĽ":135481,"ستطÙĬع":135482,"׾×Ļף":135483,"Ø®ÙĦاÙģ":135484,"ÙĩÙIJ":135485,"Ġatrás":135486,"íĺģ":135487,"ãĤĴãģĶ":135488,"Ġ×Ķ×ŀ×ķצר":135489,"ĠBakanlıģı":135490,"ÑİÑīее":135491,"ÙħÙĨاط":135492,"ÙħÙĨاطÙĤ":135493,"Ù쨝":135494,"à¸Ļำà¹Ħà¸Ľ":135495,"Ġваж":135496,"Ġважно":135497,"Ġmạch":135498,"׼׳×ķ":135499,"بعث":135500,"lanması":135501,"Ġayr":135502,"Ġayrıl":135503,"ìĤ¬íļĮ":135504,"dÃŃa":135505,"pÅĤyw":135506,"اÙħÙĬØ©":135507,"íĺľ":135508,"×IJ׳×Ĵ׾":135509,"×IJ׳×Ĵ׾×Ļת":135510,"ĠìŀĪëĭ¤ëĬĶ":135511,"Ġساعة":135512,"ĠëĤĺíĥĢ":135513,"bö":135514,"à¸Ħัà¸Ļ":135515,"ĠdziaÅĤania":135516,"Ø©Ùĭ":135517,"ĠngÅ©":135518,"׳צ×Ĺ":135519,"ãģ¯ãģĤãĤĭ":135520,"ĠyaÅŁÄ±nda":135521,"stück":135522,"caracter":135523,"caracterÃŃsticas":135524,"Ġrá»Ńa":135525,"ĠÙħختÙĦÙ쨩":135526,"ãģ«ãģĬãģijãĤĭ":135527,"à¹ģà¸ŀà¸ĩ":135528,"วิà¹Īà¸ĩ":135529,"תפ×ķ":135530,"ساÙĩÙħ":135531,"使ãģĨ":135532,"ÙĥرÙĬ":135533,"×IJפ×Ļ":135534,"...............":135535,"ĠÑĤаким":135536,"×Ļ׼×ķ×Ļ":135537,"شبÙĩ":135538,"جÙĬر":135539,"ãģĿãģ®ãģ¾ãģ¾":135540,"acjÄĻ":135541,"ĠاÙĦترÙĥ":135542,"ĠاÙĦترÙĥÙĬ":135543,"ĠпÑĢавилÑĮно":135544,"ĠتعÙħÙĦ":135545,"à¸ģลà¹īา":135546,"Ġbiên":135547,"Ġ×ij׳×Ļ×Ļת":135548,"ĠклÑĥб":135549,"Ġ×ŀש×Ķ":135550,"вÑĪий":135551,"ãģĵãģ¨ãģĮãģ§ãģįãĤĭ":135552,"à¸ŀัà¸Ļà¸ĺุ":135553,"à¸ŀัà¸Ļà¸ĺุà¹Į":135554,"ר×ķ×Ŀ":135555,"ĠاÙĦÙ쨱ÙĨ":135556,"ĠاÙĦÙ쨱ÙĨسÙĬ":135557,"à¹Ģà¸Ľà¹ĩà¸Ļà¸Ħà¸Ļ":135558,"ãģĹãģ¦ãģĬãĤĬ":135559,"Ġthầy":135560,"ãĤĵãģłãģijãģ©":135561,"ì͍":135562,"ÙħدÙĨ":135563,"تÙĪÙĨ":135564,"ĠмеÑĤал":135565,"ĠмеÑĤалл":135566,"ĠinÃŃcio":135567,"à¸Ńà¸Ńà¸ģà¸Īาà¸ģ":135568,"ëĴ¤":135569,"Ġcuá»ijn":135570,"Ġbuá»Ļc":135571,"ÙĨسÙĬ":135572,"ächt":135573,"×ŀ×Ļ׳×Ļ×Ŀ":135574,"ãģķãģ¦":135575,"ãģĮãģ§ãģį":135576,"ÑĬем":135577,"Ġtái":135578,"ĠЧÑĤ":135579,"ĠЧÑĤобÑĭ":135580,"à¸Ľà¸¥à¸¹à¸ģ":135581,"à¸Ĭุมà¸Ĭà¸Ļ":135582,"нÑģкий":135583,"Ġvững":135584,"Ġ×Ķ׾×ij":135585,"ële":135586,"Ġשע×ijר":135587,"ваÑĤÑĮÑģÑı":135588,"бой":135589,"عÙĪÙĨ":135590,"à¹ģà¸Ķà¸Ļ":135591,"Ġספר×Ļ×Ŀ":135592,"Ġtuyên":135593,"Ġnhiêu":135594,"ĠQuý":135595,"Ġhuyết":135596,"ãĤıãģĭãĤīãģªãģĦ":135597,"Ġ×ŀ׼ף":135598,"Ġ×Ķק׾":135599,"Ġ׾×IJ×ķר":135600,"ĠÄIJiá»ĩn":135601,"شؤ":135602,"شؤÙĪÙĨ":135603,"Ġ×ŀ×Ĺפש":135604,"ĠпоÑģÑĤоÑıнно":135605,"×ŀ×Ļר":135606,"ìħĶ":135607,"ÐŀÑģ":135608,"ÐŀÑģнов":135609,"×ĸ×Ļת":135610,"ĠHá":135611,"ĠÑĩаÑģов":135612,"×IJ×ķ׾×Ļ":135613,"Ġmát":135614,"خرÙĪ":135615,"خرÙĪØ¬":135616,"ÙĤضا":135617,"ÙĤضاÙĬا":135618,"à¹Ģà¸Ľà¸Ńรà¹Į":135619,"ĠÙĬÙĪÙĦ":135620,"ĠÙĬÙĪÙĦÙĬÙĪ":135621,"à¹Ĥà¸Ĺษ":135622,"׳פ׾":135623,"ת×ķש":135624,"ת×ķש×ij×Ļ":135625,"Ġvários":135626,"×ŀר×IJ×Ķ":135627,"ëĿ¼ìĿ´":135628,"ÙĨغ":135629,"×ijצע":135630,"гон":135631,"ĠÄIJược":135632,"عÙı":135633,"пÑĥÑģк":135634,"ĠÙĪØ§ÙĦÙģ":135635,"ücü":135636,"×Ļ×§×Ļ×Ŀ":135637,"ĠسبÙĬÙĦ":135638,"׾×ijף":135639,"ĠاÙĦÙĤرÙĨ":135640,"ס×ķת":135641,"ĠQuáºŃn":135642,"ãģĵãĤĮãģĮ":135643,"ãĥĸãĥ©ãĥ³ãĥī":135644,"×Ĵ×ŀר":135645,"ĠwartoÅĽci":135646,"ĠÙĪØ¨ÙĬÙĨ":135647,"Ġdạ":135648,"ÐIJв":135649,"ÐIJвÑĤо":135650,"Ġolacaktır":135651,"à¸Ļà¸Ĺà¹Į":135652,"Ùħطار":135653,"Ġ×¢×§×ij":135654,"Ġתפ":135655,"ãģĹãģ¦ãģĦãģ¦":135656,"צ×ŀ×Ĺ":135657,"à¸Īà¸Ńà¸ĩ":135658,"Ġöde":135659,"ìį¨":135660,"ÙĨاس":135661,"調ãģ¹":135662,"ĠогÑĢомн":135663,"ë³´íĹĺ":135664,"×ĺ×§":135665,"×ĺקס×ĺ":135666,"ĠbaÅŁv":135667,"ĠbaÅŁvuru":135668,"Ġpomys":135669,"ĠpomysÅĤ":135670,"ãģ«ä¹Ĺ":135671,"Ġש׼ף":135672,"ĠاÙĦÙħسؤÙĪÙĦ":135673,"Ġзан":135674,"ĠзанÑıÑĤ":135675,"Ġdương":135676,"ãĥĹãĥ¬ãĤ¤":135677,"ลà¸ļ":135678,"ÑĤика":135679,"ĠAralık":135680,"Ġнедо":135681,"Ġmá»Ļ":135682,"Ġoran":135683,"Ġoranı":135684,"Ġktór":135685,"ĠktórÄħ":135686,"Ġ×Ķ×IJ×Ĺר×ķ׳×ķת":135687,"ائÙĨ":135688,"ÅĦs":135689,"ÅĦska":135690,"åĽ½ãģ®":135691,"×ŀ×ĺ×Ļ":135692,"ĠвопÑĢоÑģÑĭ":135693,"à¸Ńà¸ĩà¸Ħà¹Įà¸ģร":135694,"×ŀ×ķצ×IJ":135695,"Ġpóź":135696,"Ġpóźniej":135697,"ש×ŀ×IJ׾":135698,"Ġkaps":135699,"Ġkapsam":135700,"Ġkapsamında":135701,"Ġmáquina":135702,"ĠÅĽwiecie":135703,"ĠhoÃłng":135704,"Ġözgü":135705,"×Ĵ×ķר×Ŀ":135706,"ãģĤãģŁãĤĬ":135707,"à¸ķัà¸Ķสิà¸Ļ":135708,"à¸ķัà¸Ķสิà¸Ļà¹ĥà¸Ī":135709,"бÑĢи":135710,"ãģ«ãģªãĤĭãģ¨":135711,"تÙĥÙĪÙĨ":135712,"Ġ×ķ×Ķ×Ļ×IJ":135713,"Ġchiếu":135714,"ÑģÑĤанав":135715,"ÑģÑĤанавли":135716,"ÑģÑĤанавлива":135717,"×ŀ×ķ×Ĵ":135718,"cité":135719,"ĠKörper":135720,"Ġש×Ĵ×Ŀ":135721,"عظ":135722,"عظÙĬÙħ":135723,"Ġ×Ķ×IJ×Ļש×Ļ":135724,"Ġmatière":135725,"ĠÙģÙĪÙĤ":135726,"Ġkto":135727,"ĠktoÅĽ":135728,"à¸Ļà¹Ĥย":135729,"à¸Ļà¹Ĥยà¸ļาย":135730,"å¾ħãģ¡":135731,"à¹Ģมà¸Ļ":135732,"à¹Ģมà¸Ļู":135733,"AÃĩÃĥO":135734,"Ġtù":135735,"Ġtùy":135736,"ãĥĪãĥ³":135737,"ĠоÑĤказ":135738,"Ġ×ŀ×ķצר":135739,"ülü":135740,"ãģķãĤĵãģ«":135741,"Ġ×Ĺ×ķ×ij":135742,"קר×Ļ×IJ×Ķ":135743,"ĠاÙĦخدÙħات":135744,"ĠÙĦÙħدة":135745,"رؤ":135746,"رؤÙĬØ©":135747,"ãĤĴè¦ĭãģ¤ãģij":135748,"à¸Łà¸²":135749,"Ġréussi":135750,"à¸Ļัà¸ģà¹Ģรียà¸Ļ":135751,"ĠÑĩиÑģл":135752,"à¸ģารà¹Ģลà¹Īà¸Ļ":135753,"Ġhazırl":135754,"Ġhazırlan":135755,"ĠпеÑĢвÑĭй":135756,"лим":135757,"ĠоÑĤзÑĭвÑĭ":135758,"ĠwyjÄħ":135759,"ĠwyjÄħtk":135760,"ĠØ£ÙĤÙĦ":135761,"ס×ļ":135762,"Ġê²°ìłķ":135763,"Ġ׾×ŀעש×Ķ":135764,"Ġlắp":135765,"à¹ģà¸ļร":135766,"à¹ģà¸ļรà¸Ļà¸Ķà¹Į":135767,"วà¹Īาà¹Ģà¸Ľà¹ĩà¸Ļ":135768,"Ġبدا":135769,"ĠبداÙĬØ©":135770,"ãģ¨ãģĦãģĨãģ®ãģĮ":135771,"иÑĩеÑģким":135772,"à¸ģารà¸ŀัà¸Ĵà¸Ļา":135773,"ĠbÃło":135774,"ĠmiaÅĤa":135775,"ywaÄĩ":135776,"ĠMärz":135777,"ĠÙĨسبة":135778,"Ġéconomique":135779,"×ĸ×ŀ":135780,"×ĸ×ŀ׳×Ļ×Ŀ":135781,"æŃ¢ãĤģ":135782,"Ġtá»§":135783,"íķĺìĭł":135784,"Ġkażdego":135785,"straÃŁe":135786,"à¸Ĭีà¹ī":135787,"à¹Ģà¸ļา":135788,"ÑĢеÑģÑĥÑĢÑģ":135789,"евой":135790,"شباب":135791,"à¸ķà¹Īาà¸ĩà¸Ľà¸£à¸°à¹Ģà¸Ĺศ":135792,"Ġ×IJ×Ļש":135793,"Ġ×IJ×Ļש×Ļת":135794,"×Ļ×ķפ":135795,"×Ļ×ķפ×Ļ":135796,"ĠìļĶ구":135797,"ì¡°ìĤ¬":135798,"ãģ£ãģŁãĤī":135799,"׾×Ļ×§":135800,"миниÑģÑĤÑĢ":135801,"ãĤĤãģ®ãģ¯":135802,"Ġlương":135803,"Ġнаи":135804,"Ġнаибол":135805,"Ġнаиболее":135806,"íİĺ":135807,"à¹ģà¸ŀà¹ī":135808,"ãĤŃãĥ¥":135809,"ĠкоÑĤоÑĢÑĭм":135810,"à¹ģà¸Ĺà¸ĩ":135811,"à¹ģà¸Ĺà¸ĩà¸ļà¸Ńล":135812,"Ġ׳×Ļ×Ķ":135813,"Ġ׳×Ļ×Ķ×ķ׾":135814,"âĤª":135815,"ĠGiải":135816,"ĠиÑģполÑĮзова":135817,"ëł¥ìĿĦ":135818,"ãģĹãģĭãĤĤ":135819,"à¸ģà¹ĩà¸ķà¹īà¸Ńà¸ĩ":135820,"ĠÑĢеб":135821,"ĠÑĢебен":135822,"ĠÑĢебенка":135823,"تÙĪØ§ØµÙĦ":135824,"ãĤ°ãĥ«ãĥ¼ãĥĹ":135825,"ãĤĦãĤī":135826,"à¹Ģà¸Ľà¸´à¸Ķà¸ķัว":135827,"бÑĢо":135828,"ë°ĸìĹIJ":135829,"ÙĨÙİØ§":135830,"×Ķ×Ĵ":135831,"×Ķ×Ĵ׳×Ķ":135832,"à¸Ĺรั":135833,"à¸Ĺรัà¸ŀ":135834,"à¸Ĺรัà¸ŀยà¹Į":135835,"Ġkhá»iji":135836,"עצ×ŀ×ķ":135837,"болезн":135838,"Ġë°ĽìķĦ":135839,"มà¸Ļ":135840,"มà¸Ļุ":135841,"มà¸Ļุษ":135842,"มà¸Ļุษยà¹Į":135843,"âĹĨ":135844,"×ŀצ׾×Ļ×Ĺ":135845,"Ñıвление":135846,"ÙħØ·ÙĦ":135847,"ÙħØ·ÙĦÙĪØ¨":135848,"خاÙĦÙģ":135849,"تÙĪÙĤÙģ":135850,"ãģ§ãģįãģ¾ãģĽãĤĵ":135851,"оÑģÑĤей":135852,"меÑĩа":135853,"기ëĬĶ":135854,"תשע":135855,"صÙĬب":135856,"Ġ×ij×¢×ķ×ĵ":135857,"à¸Ĥà¸Ńà¸ĩà¹Ģà¸Ĥา":135858,"ÑĤÑıж":135859,"ĠÑĥпÑĢав":135860,"ĠÑĥпÑĢавлениÑı":135861,"Ġgénér":135862,"ĠthÃŃ":135863,"פ×ļ":135864,"ĠرÙħض":135865,"ĠرÙħضاÙĨ":135866,"Ġtruyá»ĩn":135867,"إعداد":135868,"ãĤµãĥĿãĥ¼ãĥĪ":135869,"Ġполно":135870,"خاÙħ":135871,"ÐŁÐµÑĤ":135872,"ÐŁÐµÑĤеÑĢ":135873,"ÐŁÐµÑĤеÑĢбÑĥÑĢ":135874,"ÐŁÐµÑĤеÑĢбÑĥÑĢг":135875,"ÙħÙĨتدÙī":135876,"ãģķãĤĮãģ¾ãģĹãģŁ":135877,"ĠëĮĢíķĺìŬ":135878,"à¸ľà¸¹à¹īà¸Ĺีà¹Ī":135879,"Ġ×ŀ×IJ×ķ":135880,"׾׳×ĵ":135881,"оÑĩнÑĭе":135882,"ĠнаÑĩала":135883,"Ġ׾×Ļ׾×ĵ×Ļ×Ŀ":135884,"овое":135885,"ãģĻãĤĭãģĵãģ¨ãģ§":135886,"ĠاÙĦÙĨÙģ":135887,"ĠاÙĦÙĨÙ쨷":135888,"ìŀĪëĬĶ":135889,"غÙĨÙĬ":135890,"פ×ĵ":135891,"ãĤ¾":135892,"ĠCré":135893,"ãģ©ãģ¡ãĤī":135894,"ثاÙĨ":135895,"ÑĢабаÑĤ":135896,"ÑĢабаÑĤÑĭва":135897,"Ġê°Ļëĭ¤":135898,"à¸Īั":135899,"à¸Īัà¸ģร":135900,"Ġchụ":135901,"Ġchụp":135902,"ĠмаÑģÑĤ":135903,"ĠмаÑģÑĤеÑĢ":135904,"Ġnắm":135905,"ĠÑģÑĤали":135906,"Ġ×Ķ×IJ×Ļר×ķ×¢":135907,"ãĤ½ãĥ³":135908,"åĪĨãģĭãĤĬ":135909,"طبع":135910,"بدا":135911,"gráfico":135912,"геÑĢ":135913,"à¸Ķำà¹Ģà¸Ļิà¸Ļà¸ģาร":135914,"Ġsaldır":135915,"Ġsaldırı":135916,"вÑĪиÑħ":135917,"ãģĭãģ£ãģŁãģ§ãģĻ":135918,"Ġyapıyor":135919,"ĠاÙĦÙģØª":135920,"צרפת":135921,"здоÑĢов":135922,"×ij×¢×ľ":135923,"Ġ×IJ×ŀ×Ļת×Ļ":135924,"ĠобÑĭ":135925,"ĠобÑĭÑĩ":135926,"ĠобÑĭÑĩно":135927,"Ġ׾×ķ×ŀר":135928,"تÙĥÙĨ":135929,"تÙĥÙĨÙĪÙĦÙĪØ¬":135930,"تÙĥÙĨÙĪÙĦÙĪØ¬ÙĬا":135931,"Ġhakkı":135932,"ĠÑĢав":135933,"ĠÑĢавно":135934,"رÙĬÙĥ":135935,"Ġ×ij×ŀ×Ļ×ĵ":135936,"Ġ×ij×ŀ×Ļ×ĵ×Ķ":135937,"à¹ģà¸ģà¹īว":135938,"Ġìĸĺ":135939,"Ġìĸĺ기":135940,"ãģĹãģ¦ãģĦãģ¾ãģĹãģŁ":135941,"Ġkısm":135942,"Ġkısmı":135943,"걸":135944,"åĨħãģ®":135945,"ì§ķ":135946,"à¹Ģหมืà¸Ńà¸Ļà¸ģัà¸Ļ":135947,"ĠÙģÙIJ":135948,"ĠÙģÙIJÙĬ":135949,"ÙĤاعدة":135950,"Ġmożesz":135951,"ÙħصاÙĦ":135952,"ÙħصاÙĦØŃ":135953,"ãģ¾ãģŁãģ¯":135954,"бег":135955,"Ġsıc":135956,"Ġsıcak":135957,"ÑĩиÑģ":135958,"ÑĩиÑģлен":135959,"Ġног":135960,"ãĥģãĥ£ãĥ³":135961,"ãĥ«ãĥī":135962,"Ġgió":135963,"Ġsını":135964,"Ġsınıf":135965,"иваÑĤÑĮ":135966,"Ġquên":135967,"Ġìłģ":135968,"Ġìłģìļ©":135969,"ĠJoão":135970,"ÙģØ§Ø¯":135971,"ĠGlück":135972,"à¸Ĺà¸Ńà¸Ķ":135973,"Ġgói":135974,"ï¼Ĭ":135975,"Ġdétail":135976,"ĠدÙĬسÙħ":135977,"ĠدÙĬسÙħبر":135978,"ë¡ľìĦľ":135979,"×ŀ×ķ×Ĺ":135980,"à¹Ħฮ":135981,"ĠоÑĤд":135982,"ĠоÑĤдÑĭÑħ":135983,"Ġkhuyến":135984,"à¸Ħà¸Ńย":135985,"ĠجÙĨÙĬ":135986,"ĠجÙĨÙĬÙĩ":135987,"ĠاÙĦدÙģØ§Ø¹":135988,"à¸Ļà¹īำหà¸Ļัà¸ģ":135989,"ĠìĤ¬ëŀĮëĵ¤ìĿ´":135990,"Ġthừa":135991,"ĠÃ¶ÄŁrenci":135992,"ĠпомоÑīи":135993,"ĠczÄĻÅĽÄĩ":135994,"ש×ĺר":135995,"ĠNhi":135996,"ĠNhiá»ģu":135997,"׳צ×Ļ":135998,"ĠнаÑĪем":135999,"ĠkarÅŁÄ±laÅŁ":136000,"Ġ×Ķש׳×Ļ×Ŀ":136001,"ĠÄIJưá»Ŀng":136002,"Ġtrú":136003,"ĠÑĢазлиÑĩнÑĭÑħ":136004,"ĠاÙĦØ´Ùĩر":136005,"Ġ×ľ×¢×ķ׾×Ŀ":136006,"ØŃجر":136007,"ĠÄijá»ķ":136008,"ĠìĿĺíķ´":136009,"à¸ļà¹Īà¸Ńย":136010,"Ġ×Ķ×Ļ׾×ĵ":136011,"ãģ¨ãģªãģ£ãģŁ":136012,"Ġ×Ĺ×ķ×ķת":136013,"Ġש×Ļר×ķת×Ļ":136014,"Äħcy":136015,"سرÙĬ":136016,"Kİ":136017,"פ׳×ķ":136018,"ÑģÑĤÑĢÑĥкÑĤÑĥÑĢ":136019,"ÑĤÑĢÑĥд":136020,"Ġ×Ķקר":136021,"Ġ×Ķקר×ķ×ij":136022,"ĠtháºŃm":136023,"èģŀãģį":136024,"ÙĤÙĪÙĬ":136025,"клÑİÑĩен":136026,"ÑĤеÑħ":136027,"ÑĤеÑħнолог":136028,"è¡Įãģ£ãģŁ":136029,"Ġ×ķ×IJ×Ļף":136030,"ĠÅŁeklin":136031,"ĠÅŁeklinde":136032,"rô":136033,"ÑĢог":136034,"ĠновÑĭе":136035,"Ġס×ij×Ļ×ij":136036,"ĠtecnologÃŃa":136037,"×¡×Ľ":136038,"×¡×Ľ×ķ×Ŀ":136039,"ĠÅŀub":136040,"ĠÅŀubat":136041,"Ġ×Ķ×ŀ׾×IJ":136042,"Ġwypos":136043,"Ġwyposaż":136044,"ãģ¯ä½ķ":136045,"ãĤ¬ãĥ³":136046,"ê°ĸ":136047,"Ġкакие":136048,"Ġçocuklar":136049,"Ġ׾צ×ĵ":136050,"Ġkayıt":136051,"ĠмеÑģÑĤе":136052,"ÙħدÙĬÙĨØ©":136053,"Ġ׼×Ĵ":136054,"Ġ׼×Ĵ×ķף":136055,"ãģĹãģ¦ãĤĭ":136056,"ĠÙħاÙĬÙĪ":136057,"ãģ£ãģ¦ãģĹãģ¾ãģ£ãģŁ":136058,"ĠпÑĢогÑĢаммÑĭ":136059,"à¹ģลà¸Ļà¸Ķà¹Į":136060,"ãĥ¯ãĤ¤":136061,"ער×ķ×¥":136062,"Ñģид":136063,"ĠBöyle":136064,"Ġì²ĺìĿĮ":136065,"Ġתפק×Ļ×ĵ":136066,"ĠTrên":136067,"íĥĪ":136068,"ĠÐłÐ¾ÑģÑģий":136069,"ĠÐłÐ¾ÑģÑģийÑģкой":136070,"ĠsÃłn":136071,"Ġrègle":136072,"ĠyaklaÅŁÄ±k":136073,"à¹Ģลิà¸ģ":136074,"ĠدائÙħ":136075,"Ġ×ķ×Ĵ":136076,"ابر":136077,"Ġbè":136078,"ĠاÙĦÙĤدÙħ":136079,"ĠÑĢеÑĪениÑı":136080,"hiên":136081,"ÑĤик":136082,"ÄĦ":136083,"à¸ļรรยาà¸ģ":136084,"à¸ļรรยาà¸ģาศ":136085,"רצ×ķף":136086,"åĭķãģį":136087,"ĠGäste":136088,"Ġ기본":136089,"ĠÙĬعرÙģ":136090,"ĠSá»Ń":136091,"gÅĤÄĻb":136092,"à¹Ģà¸Ńส":136093,"×IJ×ŀ×Ļף":136094,"ĠпÑĥнк":136095,"ĠпÑĥнкÑĤ":136096,"Ġ×Ļ×ķ×ĵ×¢×Ļ×Ŀ":136097,"ãĤ«ãĥ©ãĥ¼":136098,"Ġ×ijס×ĵר":136099,"Ġbuá»ĵn":136100,"йÑĤ":136101,"йÑĤеÑģÑĮ":136102,"ãĤĴæ±ĤãĤģ":136103,"Ġ×IJ×ª×Ľ×Ŀ":136104,"Ġ모르":136105,"ظرÙĪÙģ":136106,"ÑĩеÑģÑĤво":136107,"ìĸ´ìĦľ":136108,"Ġодна":136109,"Ġkapı":136110,"Ġëħ¸ëł¥":136111,"ĠKüche":136112,"ĠاÙĦتش":136113,"Ø·ÙĬب":136114,"ĠíĬ¹íŀĪ":136115,"ĠвÑĭпÑĥÑģ":136116,"ĠвÑĭпÑĥÑģк":136117,"×ĵת×Ļ":136118,"ĠuÄŁ":136119,"ĠuÄŁra":136120,"ائÙĩا":136121,"Ġthoát":136122,"ãģªãĤĤãģ®":136123,"ÑijÑĢ":136124,"기ê°Ģ":136125,"ĠgeliÅŁme":136126,"تØŃÙĤ":136127,"تØŃÙĤÙĤ":136128,"ĠопаÑģ":136129,"бÑĢоÑģ":136130,"หุ":136131,"หุà¹īà¸Ļ":136132,"ì¼Ģ":136133,"ãĤ¹ãĥŀ":136134,"ãĤ¹ãĥŀãĥĽ":136135,"Ø£Ù쨱":136136,"Ø£ÙģØ±Ø§Ø¯":136137,"ĠThá»±c":136138,"Ġthắ":136139,"ãĥªãĥ³ãĤ¯":136140,"Ġniá»ģm":136141,"ĠHöhe":136142,"عÙħار":136143,"ÙĥÙĪØ±ÙĪÙĨ":136144,"ÙĥÙĪØ±ÙĪÙĨا":136145,"ĠÄIJến":136146,"ĠÑģамом":136147,"ĠÑĤеле":136148,"ĠÄijoán":136149,"à¸Ħวามà¸Ħิà¸Ķà¹Ģหà¹ĩà¸Ļ":136150,"ĠдиÑģк":136151,"أطÙ쨧ÙĦ":136152,"มารà¹Į":136153,"à¸Ĺหาร":136154,"à¸Ĺà¸Ļ":136155,"ĠبعÙĬد":136156,"ĠاÙĦÙĩÙĨد":136157,"åĩºãģĹãģ¦":136158,"Ġkarde":136159,"ĠkardeÅŁ":136160,"×Ķ×Ļס×ĺ×ķר":136161,"×Ķ×Ļס×ĺ×ķר×Ļ×Ķ":136162,"éģ¸ãģ³":136163,"عاÙħÙĦ":136164,"à¸Ĥยาย":136165,"Ġtürl":136166,"Ġtürlü":136167,"ĠìĿ¼ìĿ´":136168,"Ġmatéria":136169,"Ġ׼׾×ķ×ŀר":136170,"ãĥģãĥ£ãĥ¼":136171,"جÙħاعة":136172,"ĠÑģвоим":136173,"Ø¥ÙĤاÙħØ©":136174,"ä¾ĭãģĪãģ°":136175,"ساب":136176,"آخر":136177,"ÙĤدÙĬر":136178,"×IJ×ŀ×Ļ":136179,"ìĸ»":136180,"Ġ׳×ķספת":136181,"ĠÐĴлад":136182,"ĠÐĴладим":136183,"ĠÐĴладимиÑĢ":136184,"Ġestará":136185,"ãģĵãģĨãģĦãģĨ":136186,"ãĤĴ使ç͍":136187,"มาà¸ķร":136188,"มาà¸ķรà¸IJาà¸Ļ":136189,"ãģ£ãģ½":136190,"Ġnú":136191,"Ġnúi":136192,"ยาà¸ĩ":136193,"ĠاÙĦجÙĨس":136194,"Ġüstün":136195,"ëľ»":136196,"ãĤ»ãĥ«":136197,"ãģ¦ãģĦãģįãģ¾ãģĻ":136198,"Ġ×Ĺ×ķ×ĸ":136199,"Ġ×Ĺ×ķ×ĸר":136200,"ĠÐĵлав":136201,"à¹Ĥà¸Ĭà¸Ħ":136202,"íıIJ":136203,"ÙĨتظر":136204,"Ġ×Ĵ×ij×Ļ":136205,"عÙĤب":136206,"intér":136207,"intérêt":136208,"×ŀפ×Ĵ":136209,"×ŀפ×Ĵש":136210,"Ġthù":136211,"اÙģØª":136212,"Ġ×ŀשפ":136213,"Ġ×ŀשפ×ĺ×Ļ":136214,"ĠÙħÙĪØ§ÙĤع":136215,"è¦ļ":136216,"è¦ļãģĪ":136217,"×ĵ×Ļף":136218,"à¹Ģรืà¹Īà¸Ńà¸ĩราว":136219,"ãģ¾ãģĤ":136220,"Ġghế":136221,"иÑĢÑĥÑİÑĤ":136222,"à¸ģว":136223,"à¸ģวà¹īาà¸ĩ":136224,"ĠповеÑĢ":136225,"ĠповеÑĢÑħ":136226,"ĠповеÑĢÑħноÑģÑĤ":136227,"׳×ĵר":136228,"ĠконÑĨе":136229,"Ġдолжна":136230,"Ġ×Ļש×Ļר":136231,"acaģız":136232,"ìĹĶ":136233,"ĠnÃŃvel":136234,"Ġör":136235,"Ġörnek":136236,"ÙĥÙģ":136237,"ĠФедеÑĢаÑĨии":136238,"Ġ구ìĦ±":136239,"หัวà¹ĥà¸Ī":136240,"ĠVáºŃy":136241,"мед":136242,"меди":136243,"медиÑĨин":136244,"медиÑĨинÑģк":136245,"ازÙĬ":136246,"×Ĵ×ij×ķ׾":136247,"ÑĦÑĢ":136248,"Ġzusätzlich":136249,"à¸ģà¸ģ":136250,"ĠاÙĦاÙĤتصادÙĬØ©":136251,"Ġhè":136252,"luÄŁun":136253,"جÙİ":136254,"à¹Ħà¸Łà¸¥à¹Į":136255,"ÄIJT":136256,"ãģĿãģ®ä»ĸ":136257,"à¸Ĺิà¹īà¸ĩ":136258,"ĠاÙĦØ£ÙĪ":136259,"رسÙħ":136260,"æ°Ĺãģ¥":136261,"ìĿ´ë©°":136262,"ÑĮев":136263,"صط":136264,"ĠاÙĦاستث":136265,"ĠاÙĦاستثÙħار":136266,"à¸Ńาà¸Ħาร":136267,"ĠÑĤоÑĩно":136268,"ĠVân":136269,"à¸Ńร":136270,"à¸Ńรà¹Īà¸Ńย":136271,"ĠاÙĦسÙĨØ©":136272,"ĠcÆ°á»Ľi":136273,"×Ļ×Ķף":136274,"íį¼":136275,"話ãģĹ":136276,"âĹĭ":136277,"ĠìķĬìĿĢ":136278,"ãĥ¡ãĥ¼ãĤ":136279,"ãĥ¡ãĥ¼ãĤ«":136280,"ãĥ¡ãĥ¼ãĤ«ãĥ¼":136281,"ĠÑĤепло":136282,"å½¼ãĤī":136283,"Ġİz":136284,"Ġİzmir":136285,"íĻį":136286,"Ġrượ":136287,"Ġrượu":136288,"æĢĿãģĦåĩº":136289,"ĠPhạm":136290,"Ġcháu":136291,"צ×Ļ×ķת":136292,"ĠìĿ¼ë³¸":136293,"ìĤ¬ëĬĶ":136294,"ĠÑģоздан":136295,"Ġaracı":136296,"Ġער":136297,"Ġער×Ļ׼×Ķ":136298,"ĠíķĺëĤĺëĭĺìĿĺ":136299,"dziÅĤ":136300,"à¸Ľà¸£à¸°à¸ĺาà¸Ļ":136301,"ĠserÃŃa":136302,"ĠìŀĪëıĦë¡Ŀ":136303,"درج":136304,"íķľëĭ¤ëĬĶ":136305,"à¸Ńาà¸Ĺ":136306,"à¸Ńาà¸Ĺิà¸ķ":136307,"à¸Ńาà¸Ĺิà¸ķยà¹Į":136308,"ÑĤелÑĮнÑĭй":136309,"ĠخدÙħات":136310,"×ŀ׳×ĺ":136311,"Ġlược":136312,"ĠSÃłi":136313,"ĠÙĪØ§Ø¶":136314,"ĠÙĪØ§Ø¶ØŃ":136315,"غاز":136316,"ĠdoÄŁal":136317,"Ġ×ijש×Ŀ":136318,"Ġдлин":136319,"Ġإطار":136320,"Ġ×ijספר":136321,"ãĤĴä¸İ":136322,"ãĤĴä¸İãģĪ":136323,"Ġë²ķë¥ł":136324,"ĠÑĥвели":136325,"ĠÑĥвелиÑĩи":136326,"สà¹Ħà¸ķ":136327,"สà¹Ħà¸ķลà¹Į":136328,"à¹Ħà¸ģล":136329,"×ij×Ĺף":136330,"ĠìĿ´íĽĦ":136331,"Ġmunic":136332,"ĠmunicÃŃpio":136333,"تÙħØ«ÙĦ":136334,"ĠÄijáo":136335,"Hôtel":136336,"Ġlá»Ńa":136337,"ĠÄijẳng":136338,"Ñĩки":136339,"شرÙĪ":136340,"شرÙĪØ·":136341,"ĠìĿ´ë¥¼":136342,"ÙĬÙĭا":136343,"×ŀ׾×ļ":136344,"×ŀ×Ķ×Ļר×ķת":136345,"ĠобÑıзаÑĤелÑĮ":136346,"ĠобÑıзаÑĤелÑĮно":136347,"énergie":136348,"Ġmudança":136349,"Ġmụ":136350,"Ġmụn":136351,"Ġnº":136352,"ĠاÙĦتعا":136353,"ĠاÙĦتعاÙĪÙĨ":136354,"ĠاÙĦاجتÙħاعÙĬØ©":136355,"ĠплаÑģÑĤ":136356,"Ġëĵ±ìĿĺ":136357,"ãĥIJãĤ¤ãĤ¯":136358,"ÙĩجÙĪÙħ":136359,"ĠSaúde":136360,"Ġì¤ijìļĶíķľ":136361,"Ġ×Ķצ×Ļ×ij×ķר":136362,"×ª×§×Ł":136363,"ĠاÙĦعاÙĦÙħÙĬ":136364,"ĠболÑĮÑĪой":136365,"ĠÙĥÙĦÙħ":136366,"ĠÙĥÙĦÙħØ©":136367,"ãģ®ãģ§ãģ¯ãģªãģĦãģ§ãģĹãĤĩãģĨãģĭ":136368,"ĠÙħباراة":136369,"Ġש×IJ׳":136370,"Ġש×IJ׳×Ĺ׳×ķ":136371,"ãĤ¹ãĤ¿ãĤ¤ãĥ«":136372,"ĠSaÄŁ":136373,"ĠSaÄŁlık":136374,"Ġhư":136375,"׳×Ĺ×Ķ":136376,"Ġ×ijקר×ij":136377,"طعÙħ":136378,"หิà¸Ļ":136379,"à¸Ĺุà¸ģวัà¸Ļ":136380,"à¸Ħรัà¹īà¸ĩà¸Ĺีà¹Ī":136381,"ĠlÃłnh":136382,"Ġdonné":136383,"ãģĽãģĦ":136384,"جزÙĬرة":136385,"доÑĢож":136386,"ì¼ľ":136387,"تÙĨظÙĬÙģ":136388,"ãĥģãĥ§":136389,"Ġaldıģı":136390,"جاج":136391,"ĠÑĤомÑĥ":136392,"à¸Ľà¸´":136393,"Ġ×ijרשת":136394,"ãģıãģªãĤĬãģ¾ãģĻ":136395,"ĠпÑĢинÑĨип":136396,"Ġ×Ĺ׾×ķ":136397,"ëı¼":136398,"×ķ×Ĵש":136399,"سس":136400,"à¸Ľà¸¹":136401,"Ġhầu":136402,"æĦŁãģĺãĤĭ":136403,"ï¼´":136404,"دÙĪØ§":136405,"ĠÑģмог":136406,"scrição":136407,"ĠtháºŃn":136408,"Ġר×ķ×IJ×Ķ":136409,"обÑĢажен":136410,"ĠاÙĦتجارÙĬØ©":136411,"طبÙĬع":136412,"jÄħcÄħ":136413,"íĸīìľĦ":136414,"ĠновÑĭй":136415,"Ġ×ŀ×Ĺ×ĵש":136416,"æĮ¯ãĤĬ":136417,"gué":136418,"Ġ×IJ×Ļר×ķ×¢":136419,"Ġ×IJ×Ļר×ķ×¢×Ļ×Ŀ":136420,"ĠاÙĦذÙĩب":136421,"×ĵ×IJ":136422,"تاÙĨ":136423,"ãģłãģĹ":136424,"à¸Ńัà¸ķรา":136425,"à¹Ĥà¸Ī":136426,"بÙĦاد":136427,"×Ķ×Ļ×Ļ׳×ķ":136428,"ĠÑģпе":136429,"ĠÑģпеÑĨиалÑĮно":136430,"ĠÅĽwiata":136431,"ãĤĵãģ§ãģĻãĤĪ":136432,"شرÙĥØ©":136433,"ĠpÅĤyt":136434,"Ġsitué":136435,"Ġ׼×IJ׾×Ķ":136436,"ס×ijר":136437,"Ġkażd":136438,"Ġkażdym":136439,"ãĤĴæĮģãģ¤":136440,"׾×Ķ׾":136441,"׾×Ķ׾ף":136442,"ĠwÅĤas":136443,"ĠwÅĤasne":136444,"ĠsaÄŁlan":136445,"×ŀ×¢×ľ×Ķ":136446,"ĠاÙĦاÙĪÙĦ":136447,"ìĹIJìĦľëıĦ":136448,"×IJ×Ļר×ķפ×Ķ":136449,"تÙĤÙĨÙĬØ©":136450,"Ùħائ":136451,"Ùħائة":136452,"ĠcompañÃŃa":136453,"Ġsürek":136454,"Ġsürekli":136455,"ĠиÑģкÑĥÑģ":136456,"ĠиÑģкÑĥÑģÑģÑĤв":136457,"ĠBürger":136458,"ת×Ĺר":136459,"ת×Ĺר×ķת":136460,"à¸ŀรà¹īà¸Ńมà¸ģัà¸ļ":136461,"Ø´Ùħ":136462,"à¸ĸืà¸Ńวà¹Īา":136463,"è¾¼ãĤĢ":136464,"ä¼ijãģ¿":136465,"ĠاÙĦأب":136466,"ĠÑģÑĤоимоÑģÑĤÑĮ":136467,"ĠпÑĢава":136468,"mayın":136469,"หวย":136470,"ĠاÙĦطبÙĬعÙĬ":136471,"à¸Ĺีà¹Īà¸ŀัà¸ģ":136472,"ĠEstá":136473,"ÑĭваÑİÑĤ":136474,"بسÙĬ":136475,"بسÙĬØ·":136476,"Ġ×ij×¢×ijר":136477,"åı¯èĥ½ãģ§ãģĻ":136478,"Ġ×ĵ×ķ׾":136479,"Ġ×ĵ×ķ׾ר":136480,"ÙĩÙİØ§":136481,"воÑĢоÑĤ":136482,"ãģ¦ãģĦãģ¾ãģĹãģŁ":136483,"à¹Ĥà¸Ĺรศ":136484,"à¹Ĥà¸Ĺรศั":136485,"à¹Ĥà¸Ĺรศัà¸ŀ":136486,"à¹Ĥà¸Ĺรศัà¸ŀà¸Ĺà¹Į":136487,"Ġק׳":136488,"ĠاÙĦØ«ÙĨ":136489,"ĠاÙĦØ«ÙĨائÙĬØ©":136490,"Ġcoût":136491,"à¸ķิà¸Ķà¸ķัà¹īà¸ĩ":136492,"Ġörg":136493,"Ġörgüt":136494,"ĠاÙĦØ®ÙĦÙĬ":136495,"ĠاÙĦØ®ÙĦÙĬج":136496,"Ġbá»įn":136497,"×ķ׾×ķ×Ĵ×Ļ":136498,"ëŀľ":136499,"ĠÐijолÑĮ":136500,"ĠÐijолÑĮÑĪ":136501,"×Ĵ×ijר×Ļ×Ŀ":136502,"ÙĤÙĬد":136503,"×ij×Ļ×ĺ×ķ×Ļ":136504,"æīĵãģ¡":136505,"ĠolmuÅŁ":136506,"fäh":136507,"fähig":136508,"ลาà¸Ļ":136509,"ĠÙĤطر":136510,"שפ×Ķ":136511,"èªŃãĤĵãģ§":136512,"à¸Ĥวา":136513,"Ġchiếm":136514,"ãĤ¤ãĥ³ãĤ¿":136515,"ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥ":136516,"ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥį":136517,"ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥįãĥĥãĥĪ":136518,"Ġ׾ש×ŀ×ķר":136519,"ĠترÙĥ":136520,"ĠترÙĥÙĬا":136521,"ר×ķ×ĺ":136522,"ã썿ĢĿãģĦãģ¾ãģĹãģŁ":136523,"ĠاÙĦتÙĤ":136524,"Ġdư":136525,"ãģ¦ãģıãĤĮãĤĭ":136526,"ãģĹãģŁãģĵãģ¨":136527,"Ġróżne":136528,"ĠاÙĦØ·ÙģÙĦ":136529,"ĠPosté":136530,"Ġ×ŀש×ķ×Ŀ":136531,"ÑįÑĢ":136532,"ĠÑĢабоÑĤаеÑĤ":136533,"ãĤ·ãĥª":136534,"ãĤ·ãĥªãĥ¼ãĤº":136535,"Ġ×ij×Ķ×Ĺ׾×ĺ":136536,"×§×Ķ×Ļ׾×Ķ":136537,"ãĤ«ãĥ¡":136538,"ãĤ«ãĥ¡ãĥ©":136539,"O":136540,"ĠìĤ¬ìĿ´":136541,"Ġkì":136542,"ĠthÆ°á»Ľc":136543,"ضبط":136544,"ÙĤبÙĪÙĦ":136545,"åĪ¥ãģ®":136546,"Ġparticulière":136547,"ĠÑģвоем":136548,"Ġעסק":136549,"Ġעסק×Ļ×Ŀ":136550,"×ij×Ĺ×Ļר×ķת":136551,"×ij×Ļ׳×ķ":136552,"à¸ĭà¸Ń":136553,"Ġ×¢×ķ×ijר":136554,"ãģłãģ£ãģŁãģ®ãģ§":136555,"ıldıģı":136556,"Ùħدار":136557,"Ùħدارس":136558,"주ìĭľ":136559,"à¸Ńาศ":136560,"à¸Ńาศัย":136561,"Ġtấm":136562,"à¸ŀิà¸Ī":136563,"à¸ŀิà¸Īาร":136564,"à¸ŀิà¸Īารà¸ĵา":136565,"ÑĤелÑĮнÑĭе":136566,"ÑģкÑĥÑİ":136567,"ÐľÐĺ":136568,"à¹Ģà¸ģา":136569,"à¹Ģà¸ģาหล":136570,"à¹Ģà¸ģาหลี":136571,"×ĵ×Ĺ":136572,"à¹Ģà¸Ĭิà¸ĩ":136573,"ĠدÙĤÙĬÙĤØ©":136574,"íķĻìĥĿ":136575,"Ġש×IJ׾×Ķ":136576,"Ġcontrôle":136577,"Ġsituação":136578,"à¸Ĥà¸Ńà¸ĩà¸ľà¸¹à¹ī":136579,"ÙĨØ·ÙĤ":136580,"ê³¼íķĻ":136581,"หลายà¸Ħà¸Ļ":136582,"Ġnắng":136583,"ÙĤÙı":136584,"ì¡°ê±´":136585,"Ñķ":136586,"ãĥĥãģ¨":136587,"×ŀ×Ļ׾×Ķ":136588,"Grün":136589,"×Ļ×Ļ×¢":136590,"×Ļ×Ļ×¢×ķ×¥":136591,"×ŀ׳׼":136592,"ëŃIJ":136593,"×ŀ×¢×ŀ×ĵ":136594,"สำà¸Ļัà¸ģ":136595,"جدد":136596,"à¸Ħัà¸Ķ":136597,"Ġ×Ķ×ŀשפ":136598,"Ġ×Ķ×ŀשפ×Ĺ×Ķ":136599,"×ŀשק׾":136600,"ÙĦÙı":136601,"Ġtytu":136602,"ĠtytuÅĤ":136603,"ÑĪей":136604,"ĠìĿ¼ë¶Ģ":136605,"ÑĪение":136606,"Ġphóng":136607,"ĠìĹŃìĤ¬":136608,"ãĤ«ãĥ³":136609,"Ġtúi":136610,"ĠÙĨÙĪÙģ":136611,"ĠÙĨÙĪÙģÙħبر":136612,"grün":136613,"ĠاÙĦØ´ÙħاÙĦ":136614,"ÅĽwiadc":136615,"ÅĽwiadczenie":136616,"ער×Ķ":136617,"Ġ×¢×ķ×ij":136618,"Ġ×¢×ķ×ij×ĵ×Ļ×Ŀ":136619,"×ĵ×ķ×Ĵ×ŀ×IJ":136620,"ä»Ĭãģ¯":136621,"Ġvão":136622,"ĠТем":136623,"ÑģилÑĮ":136624,"Ġchợ":136625,"Ùħرا":136626,"ÙħراÙĤب":136627,"à¹Ħมà¹Īรูà¹ī":136628,"Ġرائع":136629,"×IJ׳×Ĺ׳×ķ":136630,"สà¹Īà¸ĩà¹Ģสริม":136631,"צ×Ĺ":136632,"ĠìŀĪìĸ´ìĦľ":136633,"Ġkurulu":136634,"ĠkuruluÅŁ":136635,"ĠÃĸzellik":136636,"ĠÃĸzellikle":136637,"Ġת×Ļ×§":136638,"Ġghé":136639,"ĠsprzÄĻ":136640,"ĠsprzÄĻt":136641,"ער×ķת":136642,"راØŃØ©":136643,"ãģ£ãģį":136644,"ãģ£ãģįãĤĬ":136645,"ĠìķĦëŀĺ":136646,"stituição":136647,"Ġдолжно":136648,"×Ķרש":136649,"×Ķרש×ŀ×Ķ":136650,"×Ķ׾×ļ":136651,"ãģ¡ãģª":136652,"ãģ¡ãģªãģ¿":136653,"ãģ¡ãģªãģ¿ãģ«":136654,"פ×Ĺ×ĵ":136655,"ĠاÙĦجÙħÙĬع":136656,"×ij×¢×ľ×Ļ":136657,"Ġtrùng":136658,"Ġפת×Ĺ":136659,"×ŀ׾×Ĺ×ŀת":136660,"ãĥĨãĥ¼ãĥ":136661,"ãĥĨãĥ¼ãĥŀ":136662,"Ùħتاب":136663,"Ùħتابعة":136664,"Ġ모ìĬµ":136665,"ÙĬص":136666,"åIJĪãģĨ":136667,"ĠYap":136668,"ĠYapı":136669,"ĠÑģказаÑĤÑĮ":136670,"몰":136671,"à¸Ĺีà¹Īสำà¸Ħัà¸į":136672,"ĠìĹĨìĬµëĭĪëĭ¤":136673,"Ġnhắc":136674,"Ġülkeler":136675,"Ġмногие":136676,"íķĺìħ¨":136677,"มาà¸ģà¸Ĺีà¹Īสุà¸Ķ":136678,"à¸ģà¹īา":136679,"à¸ģà¹īาว":136680,"Ġİyi":136681,"леж":136682,"лежа":136683,"ãĤ¸ãĥ§":136684,"à¸Ĺัà¸ŀ":136685,"اÙĪØ±":136686,"Ġ×Ĺ×ijר×Ļ":136687,"Ġ׾ש×Ŀ":136688,"첫":136689,"ĠTá»Ń":136690,"×ŀ×ķ׳×Ļ":136691,"ÙĤÙĪØ¯":136692,"à¸ģระà¹Ģà¸Ľ":136693,"à¸ģระà¹Ģà¸Ľà¹ĭ":136694,"à¸ģระà¹Ģà¸Ľà¹ĭา":136695,"ĠпÑĢоблемÑĭ":136696,"Ġaçıs":136697,"Ġaçısından":136698,"Ġ×Ķ×ŀ׼":136699,"ĠÙħعظÙħ":136700,"ÙĤÙĬاس":136701,"ĠпÑĢодолж":136702,"ĠпÑĢодолжа":136703,"ĠverdiÄŁi":136704,"ĠпÑĢедмеÑĤ":136705,"ãģĦãģ¾ãģĻãģĮ":136706,"ĠëĶ°ë¥¸":136707,"ĠاÙĦÙĤÙĬاÙħ":136708,"ĠØ¥ÙĦÙĬÙĩا":136709,"ТÐIJ":136710,"поз":136711,"ãĤ·ãĥ¥":136712,"ä¸ĬãģĮãĤĬ":136713,"à¹Ģà¸Ķิมà¸ŀัà¸Ļ":136714,"à¸ģุล":136715,"ØŃرÙĬØ©":136716,"×§×ij×ķצ×ķת":136717,"믿":136718,"ĠاÙĦÙħÙĨا":136719,"ĠاÙĦÙħÙĨاطÙĤ":136720,"ĠвÑĭпол":136721,"ĠвÑĭполнÑı":136722,"ãĥĭãĤ¢":136723,"Ġê²°êµŃ":136724,"×Ĺ×ķ×ŀ":136725,"×Ĺ×ķ×ŀר×Ļ×Ŀ":136726,"ĠУкÑĢаинÑĭ":136727,"หà¸Ńม":136728,"ר×Ļס":136729,"ĠÑħоÑĤел":136730,"ĠобÑĢазованиÑı":136731,"Ġkhẳng":136732,"Ġmưa":136733,"Ġgörme":136734,"Ġgüçlü":136735,"سعÙī":136736,"มัà¹Īà¸Ļà¹ĥà¸Ī":136737,"íķĺê²łìĬµëĭĪëĭ¤":136738,"ĠполÑĥ":136739,"Ġfünf":136740,"ã썿ĢĿãģ£ãģ¦ãģĦãģ¾ãģĻ":136741,"Ġê·¸ê²ĥìĿĢ":136742,"ĠdÃ¼ÅŁÃ¼nce":136743,"ìŀł":136744,"ĠHÆ°á»Ľng":136745,"ĠTiá»ĥu":136746,"Ġçift":136747,"ãģijãģ°":136748,"à¸Īà¸Ļà¸ĸึà¸ĩ":136749,"à¸Ĺำà¹Ħà¸Ķà¹ī":136750,"ĠìŀIJì²´":136751,"Ġdõ":136752,"Ġdõi":136753,"à¸Īัà¸Ļ":136754,"à¸Īัà¸Ļà¸Ĺ":136755,"à¸Īัà¸Ļà¸Ĺรà¹Į":136756,"eceÄŁini":136757,"׳×ķער":136758,"غار":136759,"ĠاÙĦØ£ÙħرÙĬÙĥÙĬ":136760,"داعش":136761,"ĠбезопаÑģноÑģÑĤи":136762,"ĠбÑİ":136763,"ĠбÑİдж":136764,"ĠбÑİджеÑĤ":136765,"ãĥĬãĤ¤":136766,"à¸ŀà¸ļวà¹Īา":136767,"daÄŁ":136768,"×IJ×ķפף":136769,"íĹĮ":136770,"ãĥĢãĤ¤ãĤ¨":136771,"ãĥĢãĤ¤ãĤ¨ãĥĥãĥĪ":136772,"ĠëĮĢíĨµ":136773,"ĠëĮĢíĨµëł¹":136774,"Dİ":136775,"Ø£ØŃداث":136776,"ĠAÄŁ":136777,"ĠAÄŁust":136778,"ĠAÄŁustos":136779,"ØŃÙĦÙĪÙĦ":136780,"ĠwÅĽ":136781,"ĠwÅĽród":136782,"ĠÑģооÑĤвеÑĤ":136783,"ĠÑģооÑĤвеÑĤÑģÑĤв":136784,"ĠÑģооÑĤвеÑĤÑģÑĤвии":136785,"ĠLuáºŃt":136786,"Ġ׼׾פ×Ļ":136787,"ĠвеÑī":136788,"ĠвеÑīеÑģÑĤв":136789,"×§×Ļ×¥":136790,"ĠبÙĩذا":136791,"عاش":136792,"à¹Ģà¸Ľà¹ĩà¸Ļà¹Ģรืà¹Īà¸Ńà¸ĩ":136793,"ТÐķ":136794,"Ġ×ij×IJ×Ļ׳×ĺר׳×ĺ":136795,"سعد":136796,"Ġ×Ķ×ĺ×Ļפ×ķ׾":136797,"פ×Ļס":136798,"à¸ĩà¹Īายà¹Ĩ":136799,"ĠGerät":136800,"׾×Ļ×ĵ×Ķ":136801,"ĠÑĢиÑģк":136802,"׾ק×Ĺ":136803,"ннаÑı":136804,"ר×Ļ×ĵ":136805,"пÑĢакÑĤи":136806,"пÑĢакÑĤик":136807,"à¸Ĥัà¹īà¸Ļà¸ķà¸Ńà¸Ļ":136808,"à¸Ļà¹Īารัà¸ģ":136809,"larınızı":136810,"à¸Ńà¸Ļุà¸įา":136811,"à¸Ńà¸Ļุà¸įาà¸ķ":136812,"ĠzdjÄĻcia":136813,"Ġbây":136814,"ÑģÑĢ":136815,"ÑģÑĢоÑĩ":136816,"ãĥĭãĥ³ãĤ°":136817,"Ġöner":136818,"Ġöneri":136819,"ĠновÑĭÑħ":136820,"دعÙĪØ©":136821,"Ġgắn":136822,"ĠاÙĦÙĦبÙĨ":136823,"ĠاÙĦÙĦبÙĨاÙĨÙĬ":136824,"ãĥĨãĤ£ãĥ¼":136825,"ĠصØŃÙĬØŃ":136826,"емÑĭÑħ":136827,"çĸ²ãĤĮ":136828,"ĠпÑĢоиÑģ":136829,"ĠпÑĢоиÑģÑħодиÑĤ":136830,"สà¸ķิ":136831,"ĠTết":136832,"Ġ×Ķ׾׾×ķ":136833,"à¹Ģรืà¹Īà¸Ńà¸ĩà¸Ļีà¹ī":136834,"×ŀ×ij׳×Ķ":136835,"Ġconteúdo":136836,"Ġاخت":136837,"ĠاختÙĬار":136838,"ÙħسÙĦ":136839,"ÙħسÙĦسÙĦ":136840,"ëıĪ":136841,"Ġ׾×Ļ×ĵ":136842,"à¸ŀิà¸ĺี":136843,"ĠÑģовÑģ":136844,"ĠÑģовÑģем":136845,"ãģĮãģĤãĤĬãģ¾ãģĹãģŁ":136846,"Ġsóng":136847,"إصÙĦاØŃ":136848,"ë§ģ":136849,"ÙģÙĬر":136850,"ĠJeżeli":136851,"ìłľëıĦ":136852,"dÅĤug":136853,"ìĥģìĿĦ":136854,"ĠcáºŃn":136855,"Ġhá»įp":136856,"أست":136857,"أستاذ":136858,"Ġ×ŀ×Ļש×Ķ":136859,"Ġ×ŀ×Ļש×Ķ×ķ":136860,"ĠdÃły":136861,"ĠchÃłng":136862,"ãģ¡ãĤĥãĤĵãģ¨":136863,"ĠÄijám":136864,"Ġswój":136865,"Ġpoderá":136866,"ĠоÑĤлиÑĩа":136867,"Ġpériode":136868,"ündig":136869,"×ĺ×¢×Ł":136870,"ÑģÑĤÑĢоиÑĤелÑĮ":136871,"רת×Ļ":136872,"Ġ×Ļ×Ķ×Ļ×ķ":136873,"×ľ×¡":136874,"ĠاÙĦÙħÙĨزÙĦ":136875,"à¸Ļิà¹īว":136876,"иÑĦика":136877,"иÑĦикаÑĨи":136878,"ðŁĺī":136879,"Ġadına":136880,"ãĢĤãĢĤãĢĤ":136881,"×IJ×Ļף":136882,"ס×Ļר":136883,"ĠÙĬعد":136884,"çŃĶãģĪ":136885,"اÙĦجز":136886,"اÙĦجزائر":136887,"енÑĮк":136888,"รห":136889,"รหัส":136890,"ĠTürkçe":136891,"꾸":136892,"Ġ×Ļ×ķ׼׾":136893,"Ġש×ķ׳×Ķ":136894,"Ġ×ij×ŀצ×ij":136895,"ĠдейÑģÑĤвиÑĤелÑĮно":136896,"ĠبأÙĨÙĩ":136897,"×ŀ×§×ĵ":136898,"Ġ×Ķשק":136899,"Ø®ÙĬارات":136900,"Ġfı":136901,"Ġfırs":136902,"Ġfırsat":136903,"ëijĺ":136904,"ĠìĦľìļ¸":136905,"Ġ×Ķ×Ĵ×ķ×£":136906,"رعا":136907,"رعاÙĬØ©":136908,"ĠKết":136909,"кÑģи":136910,"ĠÑĥÑģлÑĥги":136911,"ноÑģÑĤей":136912,"ìļ´ëıĻ":136913,"ĠобÑĬÑı":136914,"ĠобÑĬÑıвл":136915,"неж":136916,"×Ķפ×ļ":136917,"Ġ×ij×¢×Ļ׳×Ļ":136918,"ëĨĴ":136919,"ĠпÑĢоÑĨед":136920,"ĠпÑĢоÑĨедÑĥÑĢ":136921,"Ġihtiy":136922,"Ġihtiyacı":136923,"Ġë°Ķëŀį":136924,"Ġë°ĶëŀįëĭĪëĭ¤":136925,"à¸ģลัว":136926,"ĠÑģложно":136927,"×§×Ļ×Ļ×ŀת":136928,"ĠÄIJình":136929,"ĠÙħÙĦÙģ":136930,"Ġà¹Ĥà¸Ķยมี":136931,"Ġkatkı":136932,"تØŃÙĪÙĬÙĦ":136933,"à¹Ħà¸ŀ":136934,"ĠHá»į":136935,"ñe":136936,"ĠдоÑħод":136937,"Ġthoải":136938,"íķĺìŬìķ¼":136939,"ãĤ¹ãĥĿãĥ¼ãĥ":136940,"ãĤ¹ãĥĿãĥ¼ãĥĦ":136941,"ĠGòn":136942,"Ġkè":136943,"Ġkèm":136944,"é̲ãĤģ":136945,"ãĤ¹ãĥ¼ãĥ":136946,"ãĤ¹ãĥ¼ãĥij":136947,"ãĤ¹ãĥ¼ãĥijãĥ¼":136948,"ĠgiÃłu":136949,"Ġإعادة":136950,"Ġ׾×ķ×§":136951,"Ġ׾×ķ×§×Ĺ":136952,"ĠÑħоÑĩеÑĤ":136953,"×ĺ׾×ķ×ķ":136954,"×ĺ׾×ķ×ķ×Ļ×ĸ":136955,"×ĺ׾×ķ×ķ×Ļ×ĸ×Ļ×Ķ":136956,"Ġthuyết":136957,"ãģĿãĤĮãģ§":136958,"Ġvardı":136959,"à¹Ħรà¹ī":136960,"عبد":136961,"ĠRepública":136962,"ãĥ¼ãĤ¿ãĥ¼":136963,"Ġ×ŀ×IJ×ķת":136964,"à¹Ħà¸Ľà¹ģลà¹īว":136965,"Ġyapılacak":136966,"ãĤ¹ãĤ¿ãĥ¼ãĥĪ":136967,"ãģ»ãģ¼":136968,"ĠkoÅŁ":136969,"ĠмаÑĤеÑĢи":136970,"Ġsiècle":136971,"ĠاÙĦÙħختÙĦÙģ":136972,"ĠاÙĦÙħختÙĦÙ쨩":136973,"Ġ׾קר×IJ":136974,"Ġ׾קר×IJת":136975,"Ġ×Ķפ×ķ×¢×ľ":136976,"Ġtòa":136977,"ĠrÆ¡i":136978,"åij¨ãĤĬ":136979,"à¸Ŀà¸Ļ":136980,"jÅĽÄĩ":136981,"ĠìķĬìĿĦ":136982,"اÙĨتÙĤاÙĦ":136983,"ëĸł":136984,"иваеÑĤ":136985,"ãĥĪãĥ«":136986,"ĠاÙĦÙģÙĦسطÙĬÙĨÙĬØ©":136987,"à¸ģลà¹Īาววà¹Īา":136988,"اÙĥت":136989,"ĠÃĸl":136990,"ĠÑĢеÑĪи":136991,"ĠÑĢеÑĪил":136992,"Ġ׳×ķספ×ķת":136993,"Ġìłķì¹ĺ":136994,"влеÑĩен":136995,"ÙħرØŃÙĦØ©":136996,"Ġcomeça":136997,"Ġyık":136998,"ìĤ´":136999,"à¸ĺà¸Ļา":137000,"à¸ĺà¸Ļาà¸Ħาร":137001,"à¸Ńà¸Ļา":137002,"à¸Ńà¸Ļาà¸Ħ":137003,"à¸Ńà¸Ļาà¸Ħà¸ķ":137004,"Ġpequeña":137005,"ä»ķäºĭãĤĴ":137006,"ĠبذÙĦÙĥ":137007,"Ġнового":137008,"ãģĹãģ¦ãģĦãģªãģĦ":137009,"ĠاÙĦÙħÙĬاÙĩ":137010,"à¸ģà¹ĩà¹Ģà¸Ľà¹ĩà¸Ļ":137011,"ĠжÑĥÑĢ":137012,"ĠжÑĥÑĢнал":137013,"веÑģ":137014,"ختار":137015,"Ġ매ìļ°":137016,"ĠMã":137017,"ĠавÑĤомаÑĤÑĭ":137018,"ضعÙģ":137019,"ĠاÙĦÙģÙĥر":137020,"ãģ§ãģĻãģ®ãģ§":137021,"ãĥ¡ãĥ³ãĥIJãĥ¼":137022,"ĠкÑĢÑĥг":137023,"ĠاÙĦسÙĦطة":137024,"à¸Ħรัà¹īà¸ĩà¹ģรà¸ģ":137025,"à¸ģระà¸Ĺรว":137026,"à¸ģระà¸Ĺรวà¸ĩ":137027,"ÑĨов":137028,"éķ·ãģĦ":137029,"大ãģįãģĦ":137030,"ĠgeçmiÅŁ":137031,"ìĦ±ìĿ´":137032,"Ġצר×Ļ׼×Ķ":137033,"ĠмоÑī":137034,"ĠмоÑīн":137035,"Ġ×§×Ļש":137036,"Ġ×§×Ļש×ķר×Ļ×Ŀ":137037,"ĠNasıl":137038,"гÑĢан":137039,"Ġ×ŀ×ķצר×Ļ×Ŀ":137040,"Ġ×ŀס×ķ×Ĵ":137041,"Ġyür":137042,"Ġyürüt":137043,"Ġ׾×Ĺצ×ķ":137044,"×ķÖ¼":137045,"ĠìŀĪìĹĪëĭ¤":137046,"Ġterör":137047,"ĠThương":137048,"ĠÙĪÙĬÙħ":137049,"ĠÙĪÙĬÙħÙĥÙĨ":137050,"جÙĪÙĨ":137051,"ĠÙĪØºÙĬرÙĩا":137052,"×ŀפ×ķ":137053,"×Ĵ×ķר×ŀ×Ļ×Ŀ":137054,"׼×ij×Ļש":137055,"ĠاÙĦÙĦغ":137056,"ĠاÙĦÙĦغة":137057,"شرÙĥ":137058,"ĠاÙĦراب":137059,"ĠاÙĦرابع":137060,"ĠпÑĢек":137061,"ĠпÑĢекÑĢаÑģ":137062,"ĠпÑĢекÑĢаÑģн":137063,"ĠenergÃŃa":137064,"×§×ĵ×ŀ×Ļ":137065,"ãģıãģªãģ£ãģŁ":137066,"ĠÄijứ":137067,"ĠÄijứa":137068,"Servi":137069,"Serviço":137070,"Ġkaldır":137071,"åĥįãģį":137072,"Ġодеж":137073,"Ġодежд":137074,"물ìĿĦ":137075,"ãģĿãģĨãģ§":137076,"ãģĮãģĤãĤĮãģ°":137077,"ìĻķ":137078,"צ×ĵ×§":137079,"Ġartır":137080,"Ġileti":137081,"ĠiletiÅŁim":137082,"ãĤĪãģĨãģ§":137083,"ãĥĪãĥ¼":137084,"ãĤ¢ãĥĭ":137085,"ãĤ¢ãĥĭãĥ¡":137086,"×ĺ×Ļ×Ļ׾":137087,"ãĥķãĥªãĥ¼":137088,"ãĥĿãĥ³":137089,"ÐŁÑĢо":137090,"ĠعاÙĦÙĬØ©":137091,"ĠÃ¶ÄŁret":137092,"ĠÃ¶ÄŁretmen":137093,"ĠкаÑĩеÑģÑĤва":137094,"Ġ×Ķ×ĺ×ij×¢":137095,"ĠзнаÑİ":137096,"ãģ¦ãģıãĤĭ":137097,"Ġmừng":137098,"ÙħÙĪØª":137099,"ש×ķ×ŀר":137100,"×Ĺ׾×ij":137101,"ĠwzglÄĻ":137102,"ĠwzglÄĻdu":137103,"ë²Ī째":137104,"Ġtá»ĵ":137105,"Ġtá»ĵn":137106,"ãĥ¯ãĥ¼ãĤ¯":137107,"Ġpożycz":137108,"Ġpożyczk":137109,"×Ļ×ķצר×Ļ×Ŀ":137110,"ÙĥرÙħ":137111,"ĠгаÑĢ":137112,"ĠгаÑĢан":137113,"ĠгаÑĢанÑĤи":137114,"ลà¹īาà¸ĩ":137115,"ĠìĺģíĻĶ":137116,"×ĺ×Ļס":137117,"Ġthẻ":137118,"ĠìŀĪëĭ¤ê³ł":137119,"اÙĦتز":137120,"اÙĦتزاÙħ":137121,"ĠнаÑĪи":137122,"isée":137123,"ãģĵãĤĮãĤĴ":137124,"Ġmẽ":137125,"ضÙĦ":137126,"بÙĪØª":137127,"Ġ׼׼×Ķ":137128,"hợ":137129,"ĠاÙĦسÙĪØ±ÙĬØ©":137130,"Ġ×ľ×¢×ķ×ŀ":137131,"Ġ×ľ×¢×ķ×ŀת":137132,"ĠbaÅŁar":137133,"ĠbaÅŁarılı":137134,"еÑģÑĤÑĮ":137135,"à¸Ħรี":137136,"à¸Ħรีม":137137,"ĠìłĦì²´":137138,"ĠسÙĬÙĥÙĪÙĨ":137139,"Ġ×ŀ×ĵ×ķ×¢":137140,"ĠëķĮ문ìĿ´ëĭ¤":137141,"Ġcứng":137142,"gerät":137143,"ĠмиÑĢ":137144,"ĠмиÑĢе":137145,"ĠÙĥÙĬÙģÙĬØ©":137146,"Ġפר×ĺ×Ļ×Ŀ":137147,"ĠgoÅĽci":137148,"иÑĤеÑģÑĮ":137149,"ÑĥÑĪки":137150,"ؤÙħÙĨ":137151,"Ġ×IJ׼ף":137152,"ĠاÙĦرجÙĦ":137153,"Ġlá»įc":137154,"à¹Ģรียà¸ģวà¹Īา":137155,"ãģĵãģ®ãĤĪãģĨãģª":137156,"ë§Įíģ¼":137157,"ĠпеÑĩ":137158,"ÙĪÙĦات":137159,"ĠÃľye":137160,"liÄŁinde":137161,"à¸Ħะà¹ģà¸Ļ":137162,"à¸Ħะà¹ģà¸Ļà¸Ļ":137163,"ãĤĭãģĵãģ¨ãģ¯":137164,"วิà¹Ģà¸Ħร":137165,"วิà¹Ģà¸Ħราะ":137166,"วิà¹Ģà¸Ħราะหà¹Į":137167,"ĠвозможноÑģÑĤи":137168,"ĠاÙĦÙĨساء":137169,"ãĥīãĥ©ãĥŀ":137170,"Ġgüc":137171,"Ġgücü":137172,"Ġtưá»Ŀng":137173,"Ġacompaña":137174,"ãĤ¤ãĥ©":137175,"קצ×ij":137176,"ĠYö":137177,"ĠYönet":137178,"ĠYönetim":137179,"à¸ªà¸±à¸¡à¸ľ":137180,"à¸ªà¸±à¸¡à¸ľà¸±à¸ª":137181,"à¸Ļาม":137182,"ĠÄijợi":137183,"à¹ģหà¹Īà¸ĩà¸Ĭาà¸ķิ":137184,"ãģĿãĤĮãģ§ãĤĤ":137185,"ätig":137186,"ת×ķ×Ŀ":137187,"ĠbaÅŁlat":137188,"ĠвÑģей":137189,"ת×Ļ×§":137190,"ת×Ļ×§×ķף":137191,"ĠNgô":137192,"ĠGeschä":137193,"ĠGeschäfts":137194,"Ø£Ùħ":137195,"Ø£Ùħراض":137196,"à¹Ģà¸Ĺà¸Ħà¸Ļ":137197,"à¹Ģà¸Ĺà¸Ħà¸Ļิ":137198,"à¹Ģà¸Ĺà¸Ħà¸Ļิà¸Ħ":137199,"ĠменÑĮ":137200,"ĠменÑĮÑĪе":137201,"Ġölç":137202,"Ġölçü":137203,"ĠÙĬجعÙĦ":137204,"ĠÄijỡ":137205,"ש×Ļ׾":137206,"ש×Ļ׾×ķ×ij":137207,"ĠGrÃ¶ÃŁe":137208,"ĠÙĩاتÙģ":137209,"รà¹īาà¸Ļà¸Ńาหาร":137210,"×Ķ׾×Ļ׼":137211,"×Ķ׾×Ļ׼×Ļ":137212,"иÑĢÑĥÑİÑī":137213,"èĭ¥ãģĦ":137214,"ĠÃĸzel":137215,"ãģĦãģŁãĤī":137216,"à¸Ħำà¸ĸาม":137217,"ĠzostaÅĤy":137218,"Ġ×Ķס×Ļפ×ķר":137219,"×Ķ×ķ׾":137220,"×Ķ×ķ׾×ļ":137221,"à¹Ģà¸Ĭà¹Īà¸Ļà¸ģัà¸Ļ":137222,"à¹Ĥà¸Ĩ":137223,"à¹Ĥà¸Ĩษ":137224,"à¹Ĥà¸Ĩษà¸ĵา":137225,"×IJרצ×ķת":137226,"×Ĵרפ×Ļ":137227,"Ġaoût":137228,"ĠÙĬرÙĬد":137229,"تÙĪØ¬":137230,"تÙĪØ¬ÙĬÙĩ":137231,"ĠÑįÑĤап":137232,"ãĤ¹ãĤ¿ãĥ³":137233,"Ġkró":137234,"Ġkrótk":137235,"ãĤĴ使ãģĨ":137236,"ì·¨":137237,"éĸ¢ãĤı":137238,"à¸Ķà¹īวยà¸Ħวาม":137239,"à¸Ļำà¹Ģสà¸Ļà¸Ń":137240,"Ġayrıca":137241,"à¸Īà¹īาà¸ĩ":137242,"ĠÑĦоÑĤогÑĢаÑĦ":137243,"ĠвеÑĩ":137244,"ĠвеÑĩеÑĢ":137245,"åĩºãģĹãģŁ":137246,"ĠХо":137247,"Ġ×ŀר×Ĵ×Ļש":137248,"à¹ĥหà¹īà¹Ģà¸Ľà¹ĩà¸Ļ":137249,"ãĤĴ缮":137250,"ãĤĴ缮æĮĩ":137251,"׾×ŀ×Ļ×Ŀ":137252,"nÄħÅĤ":137253,"ĠÑģÑĤанд":137254,"ĠÑģÑĤандаÑĢÑĤ":137255,"ĠSüd":137256,"ĠTâm":137257,"اختبار":137258,"à¹Ģà¸ģà¸Ńรà¹Į":137259,"ÙħسرØŃ":137260,"Ġbiá»ĩn":137261,"بÙı":137262,"ĠصاÙĦ":137263,"ĠصاÙĦØŃ":137264,"ĠPhụ":137265,"íľ´":137266,"ãĥ¬ãĥĵãĥ¥ãĥ¼":137267,"Ġbụng":137268,"Ġrégime":137269,"ĠأشÙĩر":137270,"ĠÑĢабоÑĤник":137271,"à¸Ŀัà¸Ļ":137272,"اعتÙħ":137273,"اعتÙħاد":137274,"ĠзамеÑĤ":137275,"ãģ¾ãģ£ãģ¦":137276,"Ġchặt":137277,"æĿ¥ãĤĭ":137278,"ĠاÙĦÙĤÙĪØ§Øª":137279,"ãģ«åħ¥ãģ£ãģ¦":137280,"تØŃاÙĦÙģ":137281,"ÙħزÙĬد":137282,"ĠÙĬصÙĦ":137283,"ìĹ¼":137284,"à¹Ģà¸Ĭà¹ĩ":137285,"à¹Ģà¸Ĭà¹ĩà¸Ħ":137286,"Ġká»ĭ":137287,"Ġká»ĭp":137288,"ĠìķĦì§ģ":137289,"×IJ׳×Ĵ":137290,"ĠоблаÑģÑĤÑĮ":137291,"ĠpomocÄħ":137292,"Ġ×ķש׾":137293,"ëĵłì§Ģ":137294,"ĠGiám":137295,"ĠStück":137296,"Ġcháy":137297,"ĠëĤĺìĺ¤":137298,"ש×Ļ×ĺת":137299,"×ŀ×ĵר":137300,"×ŀ×ĵר×Ļ×ļ":137301,"Ġsüreç":137302,"ква":137303,"×ij׾×Ļ×Ŀ":137304,"×Ķת×Ļ":137305,"×Ķת×Ļ×Ļ×Ĺס":137306,"ÙĤباÙĦ":137307,"Ġס×ķ×Ĵ":137308,"Ġס×ķ×Ĵ×Ļ":137309,"ÑģÑĤолÑĮ":137310,"ä½ķãĤĤ":137311,"×ĸ׼×ķר":137312,"è²·ãģĨ":137313,"å®īãģı":137314,"à¸Ħรัà¹īà¸ĩà¸Ļีà¹ī":137315,"köp":137316,"ĠÑģеÑĢвиÑģ":137317,"оÑĩнÑĭÑħ":137318,"ê±°ëŀĺ":137319,"تأÙĥ":137320,"تأÙĥÙĬد":137321,"×ĵ׾ק":137322,"ĠпоÑĩем":137323,"ĠпоÑĩемÑĥ":137324,"пиÑģаÑĤÑĮ":137325,"×ijשר":137326,"ĠHÃłng":137327,"ĠTìm":137328,"Ġtrừ":137329,"ãĤ»ãĥĥãĤ¯ãĤ¹":137330,"×ķ׳×Ĵ":137331,"mızda":137332,"пÑģи":137333,"ĠìŀĪ기":137334,"Ġrút":137335,"زاÙĨ":137336,"تÙĨÙĪØ¹":137337,"ÙħÙĤا":137338,"ÙħÙĤاÙĪÙħØ©":137339,"Ġ׾צ×ķר×ļ":137340,"Ġ×ij×Ļר×ķש׾×Ļ×Ŀ":137341,"ãĥ´ãĤ£":137342,"ebile":137343,"ebileceÄŁi":137344,"ãĥ¦ãĥ¼ãĤ":137345,"ãĥ¦ãĥ¼ãĤ¶":137346,"ãĥ¦ãĥ¼ãĤ¶ãĥ¼":137347,"ãĤĴä½ľãĤĭ":137348,"ÑģмеÑĢ":137349,"ÑģмеÑĢÑĤ":137350,"Ġì§ģ":137351,"Ġì§ģìłij":137352,"ĠÐŁÐ°ÑĢ":137353,"ØŃاض":137354,"ØŃاضر":137355,"ÙħÙĥاÙģ":137356,"ÙħÙĥاÙģØŃØ©":137357,"ลิà¸Ļ":137358,"ãģ¦ãģįãģ¦":137359,"ÑĢоÑģл":137360,"ĠÄ°ÅŁte":137361,"ÙĤصÙĬر":137362,"Ġ×ij×Ĵ×Ļ׾":137363,"Ġ×ŀת×IJ×Ļ×Ŀ":137364,"Ġ×Ķ×Ĺ×ĵ":137365,"Ġ×Ķ×Ĺ×ĵש×Ķ":137366,"ר×ķ×¢":137367,"Ġproduktów":137368,"ĠÙħصدر":137369,"неÑĨ":137370,"ĠاÙĦعÙħÙĦات":137371,"Ġçıkma":137372,"ĠدبÙĬ":137373,"×§×Ļף":137374,"ת×IJר":137375,"ת×IJר×Ļ×ļ":137376,"׳×Ļ×Ļ×ĵ":137377,"صراع":137378,"lève":137379,"צ×Ļר":137380,"à¸Ķัà¸Ļ":137381,"à¹ĥหà¹īà¹Ħà¸Ķà¹ī":137382,"ãĤ¿ãĤ¤ãĥł":137383,"Ġgiảng":137384,"Ð¡ÐŁ":137385,"ĠاÙĦÙħØŃÙĦ":137386,"ĠاÙĦÙħØŃÙĦÙĬØ©":137387,"ĠTất":137388,"׾×ķ×ĺ":137389,"há»ķ":137390,"Ġaméric":137391,"Ġaméricain":137392,"Ġ×ijש׾×ij":137393,"Ġ׾×IJ×ķ×ŀ×Ļ":137394,"Ġpeça":137395,"ĠÑĢазнÑĭÑħ":137396,"ãģĦãĤĭãģ¨":137397,"ãĥĩãĥ³":137398,"סקר":137399,"Ġ×Ķ×ŀ×Ĺ×Ļר":137400,"ãģ¨ãģĦãģĨãĤĤãģ®":137401,"رتبط":137402,"ĠиÑģÑĤоÑĩ":137403,"ĠиÑģÑĤоÑĩник":137404,"สมัà¸Ħรสมาà¸Ĭิà¸ģ":137405,"Ġà¸Ĺัà¹īà¸ĩ":137406,"Ġà¸Ĺัà¹īà¸ĩà¸Ļีà¹ī":137407,"ĠTáºŃp":137408,"ãģ£ãģ¦ãģĦãģĨ":137409,"ĠاÙĦÙĪØµÙĪÙĦ":137410,"Ġdécada":137411,"ĠоÑĦоÑĢм":137412,"ĠоÑĦоÑĢмлен":137413,"สำหรัà¸ļà¸ģาร":137414,"Ġogóln":137415,"ãģĨãģ¡ãģ«":137416,"Ġvárias":137417,"ãģĻãģİãĤĭ":137418,"ÙĪÙĩا":137419,"à¹Ĥà¸Ľà¸£à¸Ķ":137420,"ĠÐłÐ¾ÑģÑģиÑı":137421,"人ãĢħ":137422,"ãģĹãģ¦ãģįãģŁ":137423,"Ġsırasında":137424,"Ġngôn":137425,"سÙĨØ©":137426,"تÙħتع":137427,"×ŀ׼×ij×Ļ":137428,"Ġnhấn":137429,"×¢×ŀ×Ļ×ĵ":137430,"Ứ":137431,"жиÑĤÑĮ":137432,"ãĤīãģĽ":137433,"gráf":137434,"gráfica":137435,"ĠÙĤÙĪÙĦ":137436,"ĠÙĤÙĪÙĦÙĩ":137437,"ëĭ¨ì²´":137438,"หà¹īา":137439,"หà¹īาม":137440,"使ãģ£ãģ¦":137441,"ת×Ļ×ij":137442,"ת×Ļ×ijת":137443,"iá»ĥu":137444,"à¹ģà¸Ĭม":137445,"à¹ģà¸Ĭà¸¡à¸Ľ":137446,"à¹ģà¸Ĭà¸¡à¸Ľà¹Į":137447,"Ậ":137448,"ĠëĤĺëĿ¼":137449,"ĠÙħباشرة":137450,"ĠtrÄĥm":137451,"سÙĥÙĪ":137452,"ĠاÙĦذÙī":137453,"Ġbiç":137454,"Ġbiçim":137455,"تراجع":137456,"ĠобеÑģп":137457,"ĠобеÑģпеÑĩ":137458,"ĠобеÑģпеÑĩива":137459,"ĠвоздÑĥÑħ":137460,"ÑĭваÑĤÑĮ":137461,"ÙĦØŃÙĤ":137462,"ĠMüdü":137463,"ĠMüdürl":137464,"ĠMüdürlÃ¼ÄŁÃ¼":137465,"Ġyaptır":137466,"Ġפרס":137467,"Ġפרס×ķ×Ŀ":137468,"Ø·ÙĪØ±":137469,"ÑģÑĤвоваÑĤÑĮ":137470,"ìŀ¥ìĿĦ":137471,"à¸Ĺีà¹Īà¸Ķีà¸Ĺีà¹Īสุà¸Ķ":137472,"à¸Ńัล":137473,"ÑĢÑİ":137474,"ÙħستÙĤبÙĦ":137475,"ÑģлÑĥÑĪ":137476,"ÑģлÑĥÑĪа":137477,"èªįãĤģ":137478,"Ġ׾×Ļ×ŀ":137479,"Ġ׾×Ļ×ŀ×ķ×ĵ×Ļ":137480,"תש×ķ×ij":137481,"תש×ķ×ij×ķת":137482,"ĠgerçekleÅŁtiril":137483,"ĠاÙĦاتÙ쨧ÙĤ":137484,"ĠÑĥÑĢовне":137485,"ĠÑĤÑĢав":137486,"Ġ×Ķ×ŀ×ķף":137487,"ØŃÙģØ§Ø¸":137488,"ĠÙħÙIJ":137489,"ĠÙħÙIJÙĨ":137490,"ĠÙħÙIJÙĨÙĴ":137491,"Ġdemás":137492,"×ŀ×ķ×ĸ×Ļ×§×Ķ":137493,"ש×Ļ×Ĺ×Ķ":137494,"Ġbú":137495,"алÑĮнÑĭм":137496,"ãĤıãģŁ":137497,"ãĤıãģŁãģĹ":137498,"ĠاÙĦÙħÙĪØ§Ø¯":137499,"×ª×Ľ×ł":137500,"×ª×Ľ×ł×ķף":137501,"ãĥŃãĥĥãĤ¯":137502,"hiếu":137503,"ĠÑĥме":137504,"ÙħØŃاÙĪÙĦØ©":137505,"×IJ×ķשר":137506,"ĠконкÑĥÑĢ":137507,"ĠконкÑĥÑĢÑģ":137508,"Ġ×ŀ×ij×Ĺ":137509,"Ġ×ŀ×ij×Ĺ×Ļ×ł×ª":137510,"Ġanlam":137511,"Ġanlamı":137512,"Ġliá»ĩt":137513,"ĠвÑħод":137514,"ĠHình":137515,"ĠÙĨÙĬ":137516,"ĠÙĨÙĬÙĪØ²":137517,"ãĤ¸ãĥ£ãĥ¼":137518,"×ij×Ļ×¥":137519,"ÑĤелÑĮнÑĭÑħ":137520,"à¸Ĺุà¸ģà¸Ńยà¹Īาà¸ĩ":137521,"ĠkiÅŁinin":137522,"Ø£Ùĥثر":137523,"ĠиÑģÑĤоÑĢии":137524,"Ġë³ĢíĻĶ":137525,"×¤×ľ×¡×ĺ":137526,"×¤×ľ×¡×ĺ×Ļ׳×Ļ":137527,"ĠÑģеÑĤ":137528,"ĠÑģеÑĤи":137529,"dıģımız":137530,"íķĺëıĦë¡Ŀ":137531,"×Ķר":137532,"×Ķר×ij×Ķ":137533,"ãģĻãĤĭãģĵãģ¨ãģ¯":137534,"Ġphiếu":137535,"تØŃسÙĬÙĨ":137536,"ĠÅĽrod":137537,"ĠÅĽrodow":137538,"ĠÅĽrodowisk":137539,"ĠÑĢаÑģÑħод":137540,"برÙĬد":137541,"ĠرÙĬ":137542,"ĠرÙĬاÙĦ":137543,"Ġ×ķ׼×ļ":137544,"ì§ĢìļĶ":137545,"׼×ŀ×ķ":137546,"Ġ×¢×ľ×Ļ×Ķ×Ŀ":137547,"fÃŃcio":137548,"Ġkararı":137549,"tıģını":137550,"ĠСов":137551,"ĠСовеÑĤ":137552,"ãģĬéĩijãĤĴ":137553,"междÑĥ":137554,"междÑĥна":137555,"междÑĥнаÑĢод":137556,"междÑĥнаÑĢодн":137557,"Ġmá»Ŀi":137558,"ĠاÙĦØ¥ÙĬر":137559,"ĠاÙĦØ¥ÙĬراÙĨÙĬ":137560,"ĠاÙĦرÙĪØ³ÙĬ":137561,"صÙĨد":137562,"صÙĨدÙĪÙĤ":137563,"ĠاÙĦØ¥ÙĨترÙĨت":137564,"Ġtắm":137565,"ĠÑĤакого":137566,"Ġ×ij׾×ķ×Ĵ":137567,"Ġücrets":137568,"Ġücretsiz":137569,"×Ĺ×ĸ×Ļר":137570,"ìĸ´ìķ¼":137571,"ĠPhần":137572,"ï¼ľ":137573,"Ġ×ĺ×ij×¢":137574,"Ġ×ĺ×ij×¢×Ļ":137575,"×IJ×ŀ×IJ":137576,"اÙĤÙĦ":137577,"Ġcondições":137578,"ÙĤاتÙĦ":137579,"ĠÑĢезÑĥлÑĮÑĤаÑĤе":137580,"ĠÑģвоими":137581,"צ×ij×Ļ×¢":137582,"géni":137583,"Ġzes":137584,"Ġzespo":137585,"ĠzespoÅĤ":137586,"ÑĪив":137587,"Ġפר×ĺ×Ļ×ķת":137588,"ÙħستشÙģ":137589,"ÙħستشÙģÙī":137590,"شرع":137591,"ĠkoÅĽci":137592,"Ġ×Ķ×IJ×Ļ׳×ĺר׳×ĺ":137593,"ĠЧеÑĢ":137594,"поÑĩÑĤ":137595,"Ġactivités":137596,"çŁ¥ãģ£ãģ¦":137597,"Ġ×ij×ĸ×Ķ":137598,"Ġyüzden":137599,"ãģªãĤĬãģ¾ãģĽãĤĵ":137600,"Ġíĺ¹":137601,"Ġíĺ¹ìĿĢ":137602,"Ġ×ŀש׳×Ķ":137603,"ĠÐĴеÑĢ":137604,"Ġ×ij×IJ×ķת×ķ":137605,"éĿ¢çϽ":137606,"éĿ¢çϽãģĦ":137607,"شرØŃ":137608,"gründe":137609,"Ù쨴":137610,"Ù쨴ÙĦ":137611,"Ġséjour":137612,"ë´IJ":137613,"Ġrôle":137614,"شعار":137615,"емÑĭе":137616,"ĠاÙĦجسÙħ":137617,"алÑĮное":137618,"Ġìĥģíĥľ":137619,"D":137620,"ë¯Ģë¡ľ":137621,"ĠÙĨÙĤØ·":137622,"ĠÙĨÙĤطة":137623,"ãģĿãģĨãģł":137624,"ãģĻãĤĭãģ®ãģĮ":137625,"หู":137626,"Ġnhá»ĭ":137627,"Ġeconómica":137628,"ס×ĺ×ķ×ĵ":137629,"ס×ĺ×ķ×ĵ׳×ĺ":137630,"มีà¹Ĥà¸Ńà¸ģาส":137631,"Ġgestão":137632,"รูà¹īวà¹Īา":137633,"Ġloạt":137634,"ĠاÙĦÙħÙı":137635,"ĠاÙĦØŃÙħÙĦ":137636,"ĠاÙĦعÙħÙĦÙĬØ©":137637,"Ġê²ĥëıĦ":137638,"ĠÐľÐ¾Ñģква":137639,"×§×ĺ×ķר":137640,"ĠподÑĢоб":137641,"ĠподÑĢобн":137642,"Ġlưng":137643,"تÙ쨳":137644,"تÙ쨳ÙĬر":137645,"ĠاÙĦبع":137646,"ĠاÙĦبعض":137647,"ئت":137648,"ÐķÐĿ":137649,"ìĹ°êµ¬":137650,"à¹ĥหà¹īà¸Ħุà¸ĵ":137651,"ãģĤãĤĬãģ¾ãģĹãģŁ":137652,"Ġbirka":137653,"Ġbirkaç":137654,"Ġİsl":137655,"Ġİslam":137656,"çĹĽãģ¿":137657,"Ġhảo":137658,"ĠмаÑı":137659,"ĠiÅŁÃ§i":137660,"ש×":137661,"ש×ģ":137662,"à¸ģารà¹Ģมืà¸Ńà¸ĩ":137663,"×ķ×Ķר":137664,"Ġchó":137665,"ëĨĢ":137666,"Ġyanlı":137667,"ĠyanlÄ±ÅŁ":137668,"幸ãģĽ":137669,"×IJר×Ĵ×ķ׳×Ļ":137670,"à¸Ńาà¸Īาร":137671,"à¸Ńาà¸Īารยà¹Į":137672,"ĠинÑĦоÑĢмаÑĨиÑİ":137673,"ÐĵÐŀ":137674,"׳×Ĺש":137675,"ĠìķĮìķĦ":137676,"ĠÑħаÑĢакÑĤеÑĢиÑģÑĤ":137677,"ĠÑħаÑĢакÑĤеÑĢиÑģÑĤик":137678,"à¸Ħุà¸ĵสามารà¸ĸ":137679,"è¦ĭãģĪãĤĭ":137680,"à¸Ĭัà¸Ķà¹Ģà¸Ī":137681,"à¸Ĭัà¸Ķà¹Ģà¸Īà¸Ļ":137682,"ĠdziaÅĤal":137683,"ĠdziaÅĤalnoÅĽci":137684,"à¹Ĥà¸ŀสà¸ķà¹Į":137685,"ĠÐļол":137686,"ĠÙģÙĩÙĬ":137687,"Ġ×ŀפ׳×Ļ":137688,"Ġ×Ķקשר":137689,"ÙħرÙĥ":137690,"ÙħرÙĥز":137691,"Ġhoá":137692,"Ġапп":137693,"ĠаппаÑĢаÑĤ":137694,"Ġpami":137695,"ĠpamiÄĻ":137696,"ĠpamiÄĻta":137697,"Ġçünkü":137698,"×ĵ×ķף":137699,"ãģ¯ãģĵãģ¡ãĤī":137700,"ĠMÃł":137701,"ĠÙĬÙĤدÙħ":137702,"ĠпÑĢез":137703,"ĠпÑĢезиденÑĤ":137704,"à¸Ńุà¸ķ":137705,"à¸Ńุà¸ķสา":137706,"à¸Ńุà¸ķสาห":137707,"à¸Ńุà¸ķสาหà¸ģรรม":137708,"ì§ĢìĽIJ":137709,"Ġ×IJפשר×ķת":137710,"schüt":137711,"schütz":137712,"ĠTiên":137713,"Ġsayılı":137714,"ĠгÑĢÑĥппÑĭ":137715,"оÑĩнÑĭй":137716,"Ġ×ľ×¢×ŀ×ķ×ĵ":137717,"ĠwrzeÅĽ":137718,"ĠwrzeÅĽnia":137719,"ĠÄIJầu":137720,"à¹Ģà¸Ĥà¹īารà¹Īวม":137721,"nızda":137722,"Ø®ÙĬص":137723,"Ġgünc":137724,"Ġgüncel":137725,"ĠÙĦÙĩذÙĩ":137726,"ĠÙĬعتبر":137727,"légi":137728,"ãĤıãģĭãĤĭ":137729,"Ġrừng":137730,"ظÙĩ":137731,"ظÙĩÙĪØ±":137732,"Ġ×ŀ×ij×Ļף":137733,"Ġ기íĥĢ":137734,"åĪĩãĤĮ":137735,"lanmÄ±ÅŁ":137736,"à¸Ĺีà¹Īมีà¸Ħวาม":137737,"Ġhá»ģ":137738,"تÙĪØ¬Ùĩ":137739,"ĠاÙĦإدارة":137740,"Ġútil":137741,"ספ×ķ":137742,"à¸Ħวามรัà¸ģ":137743,"à¹Ĥฮ":137744,"ĠполиÑĤ":137745,"ĠполиÑĤик":137746,"Ġsatın":137747,"ĠÅŀimdi":137748,"×ŀ×ķר×Ļ×Ŀ":137749,"ìķĺëĭ¤":137750,"×Ĺ×ķ×ķ":137751,"×Ĺ×ķ×ķ×Ļ×Ķ":137752,"à¸Ħà¸Ńมà¸ŀิ":137753,"à¸Ħà¸Ńมà¸ŀิว":137754,"à¸Ħà¸Ńมà¸ŀิวà¹Ģà¸ķà¸Ńรà¹Į":137755,"Ġاذا":137756,"تخاذ":137757,"ãĤ¨ãĥ«":137758,"Ġpossibilité":137759,"ยืà¸Ļยัà¸Ļ":137760,"Ġünivers":137761,"Ġüniversite":137762,"ĠاÙĦدÙĪØ±ÙĬ":137763,"ĠìķĬëĬĶëĭ¤":137764,"ĠìĦľë¡ľ":137765,"ØŃاÙĦ":137766,"Ġë¨":137767,"Ġ먼":137768,"Ġ먼ìłĢ":137769,"à¸Ĺีà¹Īà¸ĸูà¸ģ":137770,"ì§ľ":137771,"Ġskóry":137772,"лÑĮÑĨ":137773,"à¹ĥà¸Ĭà¹īà¹Ģวลา":137774,"×ijקשת":137775,"ĠذÙĪ":137776,"æĹ¥ãĢħ":137777,"ĠкоÑĤоÑĢÑĥÑİ":137778,"ĠÑĥÑĢовенÑĮ":137779,"깨":137780,"à¹Ħà¸Ĺ":137781,"ãĤµãĥĹãĥª":137782,"ãĤ¸ãĥ§ãĥ³":137783,"ãģĻãģ¹ãģį":137784,"ĠGór":137785,"ãĥĪãĤ¤":137786,"ãĥĪãĤ¤ãĥ¬":137787,"ĠyaÅŁama":137788,"Ġdá»ĭp":137789,"Ġbữa":137790,"à¸ĭุ":137791,"Ġölüm":137792,"ãģ£ãģ¦ãģıãĤĭ":137793,"à¸ģารà¸Ħà¹īา":137794,"שער":137795,"ĠÑĤипа":137796,"ĠгеÑĢ":137797,"ĠгеÑĢо":137798,"רקע":137799,"Ġuważ":137800,"Ġuważa":137801,"ש×ŀף":137802,"Ġhastalık":137803,"ãĤıãĤĮãĤĭ":137804,"baÅŁÄ±":137805,"ÑĩÑĤо":137806,"Ġ×ij×ŀר׼×ĸ":137807,"Ġìļ°ë¦¬ìĿĺ":137808,"ĠÙĥاÙĨÙĪØ§":137809,"Ġأبر":137810,"ĠأبرÙĬÙĦ":137811,"층":137812,"à¹Ħà¸Ĥà¹Ī":137813,"ĠÙĪÙĦÙĪ":137814,"à¸Ĺัว":137815,"à¸Ĺัวรà¹Į":137816,"ĠÙĪØ£Ùĥد":137817,"à¸Ĭวà¸Ļ":137818,"׾×ķ×§":137819,"æį¨":137820,"æį¨ãģ¦":137821,"Ġİçin":137822,"péri":137823,"Ġyal":137824,"Ġyalnız":137825,"ÑĮÑıн":137826,"Ġgắng":137827,"à¸ģà¹ĩยัà¸ĩ":137828,"ĠУкÑĢаин":137829,"ĠÑģами":137830,"ĠпÑĢоведен":137831,"à¸ķà¸ģà¹ģà¸ķà¹Īà¸ĩ":137832,"ĠQuân":137833,"éparation":137834,"ĠbaÅŁÄ±nda":137835,"Ġznale":137836,"Ġznaleź":137837,"ĠznaleźÄĩ":137838,"ãĤ±ãĥ¼":137839,"ãĥİãĥ¼":137840,"à¸ĸูà¸ģà¸ķà¹īà¸Ńà¸ĩ":137841,"몸":137842,"ĠëıĮ":137843,"ĠëıĮìķĦ":137844,"ĠSchüler":137845,"ĠподгоÑĤов":137846,"ĠподгоÑĤовк":137847,"عرÙĪ":137848,"عرÙĪØ¶":137849,"laÅŁtır":137850,"ĠÑģоÑģÑĤавлÑıеÑĤ":137851,"ĠпÑĢоизвод":137852,"ĠпÑĢоизводÑģÑĤва":137853,"ĠоÑģнове":137854,"ĠØ´ÙħاÙĦ":137855,"à¸ģรี":137856,"ĠgörÃ¼ÅŁme":137857,"оÑĩек":137858,"Ġ×Ĺ×ijר×Ļ×Ŀ":137859,"Ùħخاط":137860,"Ùħخاطر":137861,"ï¼Ń":137862,"רפ×IJ":137863,"ĠMẹ":137864,"ยà¸Ńมรัà¸ļ":137865,"Ġvết":137866,"خذ":137867,"ĠاÙĦتط":137868,"ĠاÙĦتطبÙĬÙĤ":137869,"à¸Ļึà¸ģ":137870,"Ġ×Ķ×Ľ×ł×¡×ª":137871,"ĠогÑĢани":137872,"ĠогÑĢаниÑĩен":137873,"ĠÃĩalÄ±ÅŁ":137874,"ĠاÙĦÙħÙĨتدÙī":137875,"à¸Īำà¸Ļวà¸Ļมาà¸ģ":137876,"ĠÑĤоÑĢÑĢ":137877,"ĠÑĤоÑĢÑĢенÑĤ":137878,"ĠìĤ´ìķĦ":137879,"à¸ŀลัà¸ĩà¸ĩาà¸Ļ":137880,"à¸Ĭัà¸Ļ":137881,"ĠÐIJндÑĢ":137882,"Ġréalisé":137883,"×ŀש×IJ":137884,"à¹ģà¸Ĭ":137885,"à¹ģà¸Ĭรà¹Į":137886,"Ġбог":137887,"มาà¹ģลà¹īว":137888,"ĠاÙĦÙĨار":137889,"Ġolmadıģı":137890,"×ĵ×¢×Ķ":137891,"ĠÑĥвеÑĢ":137892,"ĠÑĥвеÑĢен":137893,"ãĤĭãĤĤãģ®":137894,"أد":137895,"أدÙĪØ§Øª":137896,"Ġ×Ķ×ĸ×ķ×Ĵ":137897,"إعÙĦاÙħ":137898,"há»ı":137899,"ĠNähe":137900,"ĠÑĤеÑģÑĤ":137901,"Ġ×ŀ×ķ׼ר":137902,"Ġë¬¸ìłľê°Ģ":137903,"ת×ķצ×IJ×Ķ":137904,"mó":137905,"móvel":137906,"ĠاÙĦتجارة":137907,"ĠмногиÑħ":137908,"обÑīа":137909,"Ġעסק×Ļ":137910,"ĠEducação":137911,"קש×Ļ×Ŀ":137912,"établ":137913,"établissement":137914,"Ġделе":137915,"иÑĢÑĥеÑĤÑģÑı":137916,"آثار":137917,"Ġ×Ķ×ŀר׼×ĸ×Ļ":137918,"ãĥIJãĥ«":137919,"ĠвÑģÑĤÑĢеÑĩ":137920,"ãģĴãĤĭ":137921,"ĠciÄħ":137922,"ĠciÄħgu":137923,"ÙĬست":137924,"à¸łà¸²à¸§":137925,"à¸łà¸²à¸§à¸°":137926,"Ø£Ùħر":137927,"Ġожи":137928,"Ġожида":137929,"Ġá»§y":137930,"ãĥŀãĥ«":137931,"راس":137932,"оÑĩной":137933,"ת×Ĵ×ķ×ij×ķת":137934,"تعرÙĬÙģ":137935,"ĠÑģоÑĨиалÑĮно":137936,"ãĤĴéĸĭ":137937,"ĠиÑģÑģледова":137938,"Ġdú":137939,"Ġdúvida":137940,"ĠskÅĤ":137941,"ĠskÅĤada":137942,"Ġhäufig":137943,"ĠвÑĭбÑĢ":137944,"ĠвÑĭбÑĢаÑĤÑĮ":137945,"ãģ®ãģ§ãģ¯ãģªãģĦãģĭ":137946,"ĠÑģилÑĮно":137947,"ÑĤвеÑĢжден":137948,"רפ":137949,"רפ×ķ×IJ×Ķ":137950,"æĢĿãģĦãģ¾ãģĻ":137951,"ØŃرص":137952,"ש×ķתף":137953,"Ùħسجد":137954,"à¹Ĥà¸Ĭวà¹Į":137955,"емÑģÑı":137956,"вÑĪие":137957,"Ġмл":137958,"Ġмлн":137959,"Ġ׾×Ķ×ij×Ļ×IJ":137960,"ĠÙĬتعÙĦÙĤ":137961,"à¸ķูà¹ī":137962,"ĠпÑĢаз":137963,"ĠпÑĢазд":137964,"ĠпÑĢаздник":137965,"Ġнем":137966,"Ġнемного":137967,"ĠsÃłng":137968,"تÙĨسÙĬ":137969,"تÙĨسÙĬÙĤ":137970,"Ġtá»Ŀ":137971,"Ġмеди":137972,"ã쫿Ī":137973,"ã쫿λ":137974,"à¸Ħวà¹īา":137975,"ãģĭãģijãĤĭ":137976,"×ij׾×ķת":137977,"ĠÑįкÑģп":137978,"ĠÑįкÑģпеÑĢÑĤ":137979,"ĠдевÑĥÑĪ":137980,"ĠдевÑĥÑĪк":137981,"ĠØŃص":137982,"ÙĨشأ":137983,"ãģĮãģĤãĤĭãģ®ãģ§":137984,"ĠتراÙħ":137985,"ĠتراÙħب":137986,"أسÙĪØ§ÙĤ":137987,"Ġ׾פ׳×ķת":137988,"Ġاﻷ":137989,"ãģ«ãģı":137990,"ãģ«ãģıãģĦ":137991,"ĠأعÙĦÙī":137992,"Ġ׾×Ķ×ŀש×Ļ×ļ":137993,"räu":137994,"ש×ŀ×Ļ×Ŀ":137995,"åĪĨãģij":137996,"ãģĻãģ§":137997,"ãģĻãģ§ãģ«":137998,"×Ķ׾׼×Ķ":137999,"×Ĺ׾×Ļ×£":138000,"Ġì±ħ":138001,"Ġì±ħìŀĦ":138002,"à¹Ģà¸Īริ":138003,"à¹Ģà¸Īริà¸į":138004,"éģĬãģ³":138005,"جسد":138006,"สาà¸ĺ":138007,"สาà¸ĺาร":138008,"สาà¸ĺารà¸ĵ":138009,"Ġbasın":138010,"ÑĢаг":138011,"гад":138012,"ĠhoÅŁ":138013,"íķµ":138014,"×ij×Ĺ×Ļר×Ķ":138015,"×ŀס×ļ":138016,"ĠìłľíĴĪ":138017,"تÙħÙĪÙĬÙĦ":138018,"ĠLưu":138019,"ë¡ľë¶ĢíĦ°":138020,"Ġпоб":138021,"Ġпобед":138022,"ÙħÙĨذ":138023,"常ãģ«":138024,"ÙĤس":138025,"ĠاÙĦÙħصدر":138026,"ĠÙĪØ§ÙĦاست":138027,"Ġkhắp":138028,"ĠاÙĦجاÙĨب":138029,"Ġnguyá»ĩn":138030,"éĸĵéģķãģĦ":138031,"ĠÑģÑĤÑĢа":138032,"ĠÑģÑĤÑĢаÑħ":138033,"ĠÑģÑĤÑĢаÑħов":138034,"รีà¸ļ":138035,"Ġxương":138036,"Ġì°¾":138037,"Ġì°¾ìķĦ":138038,"Ġngại":138039,"гал":138040,"à¸ĭีà¹Ī":138041,"Ġ×ijפ×Ļ×Ļס×ij×ķ×§":138042,"ЦенÑĤÑĢ":138043,"Ġavaliação":138044,"Ġeconómico":138045,"×ĸף":138046,"ĠÐľÐ°Ðº":138047,"Ġinterés":138048,"à¸ģลิà¹Īà¸Ļ":138049,"ÑģÑĤÑĮÑİ":138050,"ĠÄijương":138051,"å¼·ãģı":138052,"ĠKhách":138053,"à¹Ģà¸Ļืà¹īà¸Ńหา":138054,"ĠYazı":138055,"è²·ãģ£ãģ¦":138056,"ÐłÐķ":138057,"à¹Ģà¸ŀิà¹Īมà¸Ĥึà¹īà¸Ļ":138058,"สมà¸ļู":138059,"สมà¸ļูรà¸ĵà¹Į":138060,"ĠмиÑĢов":138061,"×Ĵ׳×Ļ×Ŀ":138062,"ĠÄijức":138063,"à¸Ńารà¹Į":138064,"صاص":138065,"ãģĬãĤĪ":138066,"ãģĬãĤĪãģ³":138067,"êÌī":138068,"ĠاÙĦÙħؤتÙħر":138069,"ĠاÙĦÙħرØŃÙĦØ©":138070,"สà¸Ńà¸ļà¸ĸาม":138071,"Ġà¸Īาà¸ģà¸Ļัà¹īà¸Ļ":138072,"Ġتعد":138073,"ãģĿãģ®ãģŁãĤģ":138074,"Ġkháng":138075,"à¸Ļิà¸Ķ":138076,"ãĥĬãĥ³":138077,"ëĦ¤ìļĶ":138078,"ĠاÙĦاØŃت":138079,"ĠاÙĦاØŃتÙĦاÙĦ":138080,"ìļķ":138081,"Ġмодели":138082,"ĠпÑĢоÑĨенÑĤ":138083,"à¸ŀวà¸ģà¹Ģรา":138084,"Ġ×Ķצ×ĵ":138085,"Ġ×Ķצ×ĵ×ĵ×Ļ×Ŀ":138086,"stände":138087,"׳×Ĵר":138088,"Ġdotyc":138089,"ĠdotyczÄħ":138090,"ĠdotyczÄħce":138091,"ĠÅĽwiÄĻt":138092,"×ŀר×Ķ":138093,"ãģĻãģĶãģĦ":138094,"ãĥĩãĤ£ãĥ³ãĤ°":138095,"à¸ģารสรà¹īาà¸ĩ":138096,"ëĤ¬":138097,"Ġì°¸ìŬ":138098,"ÑģÑħ":138099,"ÑģÑħем":138100,"ÙħÙĪØ³":138101,"Ġnấu":138102,"Ġ׾×ŀ×¢×ľ×Ķ":138103,"à¹Ģà¸Ľà¹īา":138104,"à¹Ģà¸Ľà¹īาหมาย":138105,"Ġmùi":138106,"ائز":138107,"íĽĪ":138108,"×Ĺ×ij×ķר×Ķ":138109,"à¸ľà¸¹à¹īà¹ĥà¸Ĭà¹ī":138110,"Ġpaź":138111,"Ġpaździ":138112,"Ġpaździern":138113,"Ġpaździernika":138114,"ลà¸ĩà¹Ħà¸Ľ":138115,"ÙĤاع":138116,"ĠcháºŃm":138117,"Ġözellikleri":138118,"ĠÄIJo":138119,"ĠÄIJoÃłn":138120,"жение":138121,"Ġhẳ":138122,"Ġhẳn":138123,"ĠaÅŁk":138124,"ï½į":138125,"ãĥijãĤ¹":138126,"×Ķ×ķר×IJ×ķת":138127,"ĠÅ»":138128,"ĠÅ»y":138129,"×ŀ×ĸ׾":138130,"ĠÑĥкÑĢа":138131,"ĠÑĥкÑĢаин":138132,"à¹Ģà¸Ĭิ":138133,"à¹Ģà¸Ĭิà¸į":138134,"ÐłÐĺ":138135,"ĠzwiÄħzku":138136,"×Ķ×Ĺ׾×ĺת":138137,"ãĤĵãģ§ãģĻãĤĪãģŃ":138138,"ãģ¦ãģĬãĤĬ":138139,"ложиÑĤÑĮ":138140,"×ŀ×ķ׳×Ļ×Ŀ":138141,"ฮิ":138142,"ì°¬":138143,"ĠاÙĦÙħشترÙĥ":138144,"ĠdÃ¼ÅŁÃ¼k":138145,"агенÑĤ":138146,"ĠاÙĦأسبÙĪØ¹":138147,"ĠÙĤرÙĬب":138148,"инд":138149,"индив":138150,"индивид":138151,"индивидÑĥ":138152,"индивидÑĥалÑĮн":138153,"förder":138154,"Ġseçen":138155,"Ġseçenek":138156,"Ġétant":138157,"ĠлÑİбим":138158,"казÑĭваеÑĤ":138159,"วิà¸Ļ":138160,"Ġ×Ķ×ij×IJ×Ļ×Ŀ":138161,"Ġдов":138162,"ĠдоволÑĮ":138163,"ĠдоволÑĮно":138164,"×¢×ĵ×Ļ×£":138165,"Ġokre":138166,"ĠokreÅĽ":138167,"ĠokreÅĽlon":138168,"ĠترÙĬد":138169,"à¹Ģมืà¹Īà¸Ńวัà¸Ļà¸Ĺีà¹Ī":138170,"ãĤĪãģĭãģ£ãģŁ":138171,"Cumh":138172,"Cumhur":138173,"Cumhurba":138174,"CumhurbaÅŁ":138175,"CumhurbaÅŁkan":138176,"CumhurbaÅŁkanı":138177,"Ġnợ":138178,"à¸ľà¸¹à¹īà¹Ģลà¹Īà¸Ļ":138179,"Ġcomplète":138180,"à¹Ģà¸ŀศ":138181,"دÙIJ":138182,"Ġdüz":138183,"Ġdüzey":138184,"ãģ§ãģĤãĤĭãģĵãģ¨":138185,"extérieur":138186,"׳":138187,"Ġinformação":138188,"ãĤ¯ãĥªãĥĭãĥĥãĤ¯":138189,"ĠPubli":138190,"ĠPublié":138191,"ר×ķ×ĵ":138192,"à¸Ħà¸§à¸²à¸¡à¸Ľà¸¥à¸Ńà¸Ķà¸łà¸±à¸¢":138193,"ĠØ£ÙĬض":138194,"ĠØ£ÙĬضÙĭا":138195,"تسبب":138196,"ãģ¤ãĤĤãĤĬ":138197,"изма":138198,"à¸Ĥึà¹īà¸Ļà¹Ħà¸Ľ":138199,"ÙĥÙIJ":138200,"ÙĦÙĪÙħ":138201,"Ġשצר":138202,"Ġשצר×Ļ×ļ":138203,"ãģ¯ãĤĤãģ¡ãĤįãĤĵ":138204,"Ġкан":138205,"Ġканал":138206,"ãģ«ãģªãģ£ãģ¦ãģĦãģ¾ãģĻ":138207,"ĠاÙĦØ£Ùĥثر":138208,"تاØŃ":138209,"ÙĨتÙĩ":138210,"ÙĨتÙĩاء":138211,"اÙĪÙĬØ©":138212,"ĠBugün":138213,"нÑģкого":138214,"à¸Ķà¹Īวà¸Ļ":138215,"évolution":138216,"ãģ£ãģ¦ãģĦãģ¾ãģĹãģŁ":138217,"ãĤħ":138218,"ĠVương":138219,"à¸łà¸²à¸ŀย":138220,"à¸łà¸²à¸ŀยà¸Ļ":138221,"à¸łà¸²à¸ŀยà¸Ļà¸ķรà¹Į":138222,"Ġ×Ķצ׾×Ļ×Ĺ":138223,"ĠاÙĦإسÙĦاÙħÙĬ":138224,"ÙĦÙĬب":138225,"Ġedição":138226,"ÑģÑĤÑĢел":138227,"Ġkhúc":138228,"ÙĨÙħÙĪØ°":138229,"ÙĨÙħÙĪØ°Ø¬":138230,"׾צ×Ķ":138231,"ÑģÑĤавил":138232,"à¸ĸา":138233,"สรà¹īาà¸ĩà¸Ħวาม":138234,"ãģĦãģ£ãģ±":138235,"ãģĦãģ£ãģ±ãģĦ":138236,"ÑģÑĤавлен":138237,"ĠاÙĦÙĤدس":138238,"Ġngược":138239,"بخ":138240,"สหร":138241,"สหรั":138242,"สหรัà¸IJ":138243,"Ġأغ":138244,"Ġأغسط":138245,"Ġأغسطس":138246,"ãģĨãģ¾":138247,"ãģĨãģ¾ãģı":138248,"ĠêµŃìłľ":138249,"ØŃضار":138250,"Ġdừng":138251,"æĬ¼ãģĹ":138252,"تÙĪØ§":138253,"تÙĪØ§Ø¬Ø¯":138254,"ש×ŀ×Ĺ×Ķ":138255,"ãģıãĤĵ":138256,"Ġ×ijעצ":138257,"Ġ×ijעצ×Ŀ":138258,"×ŀ׳×Ļ×ķת":138259,"×ķ×Ļ×ĵ":138260,"×ķ×Ļ×ĵ×IJ×ķ":138261,"à¸Ĭิà¸ĩ":138262,"ĠpracÄĻ":138263,"ĠзаÑĤ":138264,"ĠзаÑĤем":138265,"ĠìŀIJìľł":138266,"Ġì¤Ģ":138267,"Ġì¤Ģë¹Ħ":138268,"ĠbáºŃ":138269,"ĠbáºŃc":138270,"Ġ×Ķ×ŀצ×ij":138271,"ĠÙĤÙĬÙħØ©":138272,"à¹Ģà¸Ńà¹Ģà¸Ĭ":138273,"à¹Ģà¸Ńà¹Ģà¸Ĭีย":138274,"Ġperchè":138275,"ĠاÙĦعسÙĥر":138276,"ĠاÙĦعسÙĥرÙĬØ©":138277,"جÙĬب":138278,"ëŀµ":138279,"ÙħÙĩر":138280,"ÙħÙĩرجاÙĨ":138281,"ÙħراÙĥ":138282,"ÙħراÙĥز":138283,"Ġоднако":138284,"à¸Ķีà¹Ĩ":138285,"Ġצפ×ķ":138286,"Ġkullanılan":138287,"Ġкино":138288,"ãĥĨãĤ£ãĥ³ãĤ°":138289,"ĠGiỼi":138290,"تÙĪØ²":138291,"تÙĪØ²ÙĬع":138292,"ยิà¸Ļ":138293,"ยิà¸Ļà¸Ķี":138294,"ĠcÅĵur":138295,"ĠiÅŁaret":138296,"Ġ×ij×¢×ĸר":138297,"Ġ×ij×¢×ĸרת":138298,"ĠпаÑĨи":138299,"ĠпаÑĨиенÑĤ":138300,"ãģ¿ãģŁãģĦãģ§ãģĻ":138301,"вез":138302,"лина":138303,"оде":138304,"Ġ×IJ×ķ×ª×Ł":138305,"dıģınız":138306,"ĠÐIJв":138307,"ĠÐIJвÑĤоÑĢ":138308,"ï¼®":138309,"ĠCần":138310,"ĠاÙĦاخ":138311,"ĠاÙĦاخبار":138312,"Ġê±°ìĿĺ":138313,"Ġatenção":138314,"ĠgeldiÄŁi":138315,"ãĤªãĤ¹":138316,"ãĤªãĤ¹ãĤ¹":138317,"ãĤªãĤ¹ãĤ¹ãĥ¡":138318,"евÑĭе":138319,"кÑĢÑĭл":138320,"à¹Ģà¸Ĭียà¸ĩ":138321,"à¹Ģà¸Ĭียà¸ĩà¹ĥหมà¹Ī":138322,"Ġmarço":138323,"ĠاÙĦÙħادة":138324,"Ġгол":138325,"Ġsprzedaży":138326,"Ġíķ´ê²°":138327,"ĠÐķго":138328,"ê¹Ģ":138329,"Ġ׾ק×ij×ľ×ª":138330,"ĠاÙĦÙģÙĨاÙĨ":138331,"Ġcomunicación":138332,"à¹Ģสà¹īà¸Ļà¸Ĺาà¸ĩ":138333,"íĺ¹":138334,"à¸Ĭำ":138335,"à¸Ĭำระ":138336,"Ġ׼×IJ×ŀ":138337,"Ġ׼×IJ×ŀ×ķר":138338,"à¸Ĭà¹Īาà¸ĩ":138339,"زÙĩر":138340,"Ġklientów":138341,"иваÑİÑĤ":138342,"анг":138343,"׳×ļ":138344,"Ġgá»įn":138345,"ÃľR":138346,"ìĺģìĥģ":138347,"Ġغزة":138348,"ìĿĮìĿĦ":138349,"Ġbezpo":138350,"ĠbezpoÅĽ":138351,"ĠbezpoÅĽredni":138352,"ĠاÙĦÙħÙĪØ§":138353,"ĠاÙĦÙħÙĪØ§Ø·ÙĨ":138354,"ĠاÙĦÙħÙĪØ§Ø·ÙĨÙĬÙĨ":138355,"ãĤĮãģ¾ãģĻ":138356,"ĠмаÑĤÑĩ":138357,"×IJ×ķף":138358,"ĠرسÙħÙĬ":138359,"ĠÑįкон":138360,"ĠÑįконом":138361,"ĠÑįкономиÑĩеÑģк":138362,"ãĥľãĥ¼":138363,"ĠдиÑĢ":138364,"ĠдиÑĢекÑĤоÑĢ":138365,"ĠÑģкоÑĢо":138366,"à¸ļำ":138367,"à¸ļำร":138368,"à¸ļำรุà¸ĩ":138369,"ĠÑĦÑĥÑĤ":138370,"ĠÑĦÑĥÑĤбол":138371,"Ġ×IJ×Ļ׾":138372,"Ġì¤ijêµŃ":138373,"ìľ¤":138374,"eÄŁe":138375,"à¹Ħà¸ģà¹Ī":138376,"traî":138377,"traîn":138378,"ĠÑĤÑĢÑĥб":138379,"à¹Ģà¸ļื":138380,"à¹Ģà¸ļืà¹īà¸Ńà¸ĩ":138381,"à¹ģมà¸Ļ":138382,"ĠتØŃدÙĬØ«":138383,"Ġ×Ľ×¢×ª":138384,"ØŃاسب":138385,"lıģa":138386,"×§×Ļ×Ļ×ŀ×Ļ×Ŀ":138387,"оÑģÑĤÑĮÑİ":138388,"à¸Ŀั":138389,"à¸Ŀัà¹Īà¸ĩ":138390,"شغÙĦ":138391,"ìĽ¹":138392,"Ġкаждого":138393,"Ġbölümü":138394,"หà¸Ļี":138395,"ĠistediÄŁi":138396,"Ġtrưng":138397,"ãĥĮ":138398,"ฮà¸Ń":138399,"Ø£ÙĨØ´":138400,"Ø£ÙĨشطة":138401,"ĠاÙĦÙħسÙĬ":138402,"ĠاÙĦÙħسÙĬØŃ":138403,"ลัà¸ģษà¸ĵà¹Į":138404,"Ġná»Ńa":138405,"à¸Ĺีà¹Īà¸ķà¹īà¸Ńà¸ĩà¸ģาร":138406,"ÑĪек":138407,"лÑij":138408,"Ġש×Ļ×Ķ":138409,"Ġש×Ļ×Ķ×Ļ×Ķ":138410,"Ġkhuôn":138411,"ĠÑĤÑĢебованиÑı":138412,"Ġ×ľ×¢×ĸ×ķר":138413,"ĠاÙĦعÙħر":138414,"ราà¸Ħาà¸ĸูà¸ģ":138415,"ÙĩÙıÙħÙĴ":138416,"üst":138417,"üstü":138418,"Ġденег":138419,"Ġnạ":138420,"à¸Ĥà¸Ļม":138421,"Ġблаг":138422,"Ġблагод":138423,"ĠблагодаÑĢ":138424,"ĠблагодаÑĢÑı":138425,"إسÙĦاÙħ":138426,"à¸Ļิว":138427,"çŁ¥ãĤīãģªãģĦ":138428,"Ø«ÙĤØ©":138429,"ĠголоÑģ":138430,"×IJ×ķר×Ĺ":138431,"Ġtrứng":138432,"Ġодном":138433,"ĠkoÅĦcu":138434,"Ġ×ķרק":138435,"WiÄĻ":138436,"WiÄĻcej":138437,"Ġ×IJ×Ļ׼×ķת":138438,"Ġ×IJ×Ļ׼×ķת×Ļ":138439,"ÑģоÑģ":138440,"Ġjeżeli":138441,"以ä¸ĭãģ®":138442,"å°ıãģķ":138443,"å°ıãģķãģª":138444,"ологии":138445,"ĠобÑģлÑĥж":138446,"ĠобÑģлÑĥжива":138447,"Ùĥتابة":138448,"Ġê´Ģìĭ¬":138449,"עש×Ļר":138450,"Ġarasındaki":138451,"ĠÑĢайона":138452,"ÙĪØ§Ø¬Ø¨":138453,"Ġ×ij×Ĺ×Ļ×Ļ":138454,"íķ´ì£¼":138455,"Ġgóc":138456,"айл":138457,"ĠTình":138458,"æļ®ãĤī":138459,"æļ®ãĤīãģĹ":138460,"æĻĤãģ«ãģ¯":138461,"ĠгоÑĢоде":138462,"Ġ׼×IJ×Ļ׾":138463,"Ġ׼×IJ×Ļ׾×ķ":138464,"ĠCá»Ļng":138465,"ãģ©ãģĨãģĹãģ¦ãĤĤ":138466,"×Ĺ×ķ×£":138467,"تØŃرÙĥ":138468,"ĠÑģловам":138469,"à¸Īะà¸Ĭà¹Īวย":138470,"ĠاÙĦÙħستÙĤبÙĦ":138471,"ÙĤض":138472,"ÙĤضÙĬ":138473,"×ijס×ķפ":138474,"×ijס×ķפ×ķ":138475,"iÄĻÄĩ":138476,"ĠYıl":138477,"Ø´ÙĬØ®":138478,"à¸Ħุà¸ĵà¸Īะ":138479,"ש×ŀ×ķת":138480,"Ġتعرض":138481,"Ġanálise":138482,"ĠÑģобиÑĢа":138483,"à¹Ģà¸ŀà¸Ĭ":138484,"à¹Ģà¸ŀà¸Ĭร":138485,"Ġвели":138486,"Ġвелик":138487,"สัà¹īà¸Ļ":138488,"Ġpopulação":138489,"รà¹Īวมà¸ģัà¸Ļ":138490,"×Ĺ×ŀ":138491,"×Ĺ×ŀ×Ļש×Ļ":138492,"ס×Ļס":138493,"åĨħãģ§":138494,"ĠsobÄħ":138495,"ĠYay":138496,"ĠYayın":138497,"ãĥ¡ãĥĭãĥ¥ãĥ¼":138498,"ĠпÑĢедоÑģÑĤавлÑı":138499,"ãģłã썿ĢĿãģĨ":138500,"Ġê³łê°Ŀ":138501,"Ġодним":138502,"à¹ĥà¸Ļà¹Ģรืà¹Īà¸Ńà¸ĩ":138503,"Ġsá»ķ":138504,"ĠÐĹдеÑģÑĮ":138505,"ĠизменениÑı":138506,"ĠìĿ¼ìĿĦ":138507,"ãģªãģ®ãģł":138508,"кладÑĭва":138509,"ÑĢма":138510,"Ġ×ķ×ij׼׾":138511,"تأÙħÙĬÙĨ":138512,"ĠпÑĢиÑıÑĤ":138513,"ĠпÑĢиÑıÑĤн":138514,"ÙħÙħار":138515,"ÙħÙħارسة":138516,"ãģ¨ãģªãģ£ãģ¦":138517,"ĠجÙħÙĬÙĦ":138518,"Ġì§Ī":138519,"Ġì§Ī문":138520,"Ġquestão":138521,"ié":138522,"iéndo":138523,"หà¹īà¸Ńà¸ĩà¸ŀัà¸ģ":138524,"ãĥijãĥ¼ãĥĪ":138525,"ÑĤвеÑĢжда":138526,"нÑģкой":138527,"зал":138528,"มุà¹Īà¸ĩ":138529,"á»Ĭ":138530,"Ġ×Ķ×IJ×Ĺר×ķ׳×Ķ":138531,"ĠThư":138532,"주민":138533,"ĠاÙĦعب":138534,"évén":138535,"événement":138536,"ÙĤÙĪØ§Ø¹Ø¯":138537,"دÙı":138538,"ĠìķĬìĬµëĭĪëĭ¤":138539,"Ġ보기":138540,"Ġyapılması":138541,"à¹Ģราà¸ģ":138542,"à¹Ģราà¸ģà¹ĩ":138543,"ØŃذر":138544,"ÙĤصر":138545,"ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĹãģŁ":138546,"Ġà¹Ģà¸Ľà¹ĩà¸Ļà¸ķà¹īà¸Ļ":138547,"ãģ¨ãģ«":138548,"ãģ¨ãģ«ãģĭ":138549,"ãģ¨ãģ«ãģĭãģı":138550,"нÑĨе":138551,"звÑĥк":138552,"ãģĹãĤĪãģĨãģ¨":138553,"ĠاÙĦصØŃÙĬØ©":138554,"Ġש×Ķ×Ļ×ķ":138555,"ĠDiÄŁer":138556,"ÙĤÙĦÙĤ":138557,"ãĤ¸ãĥ£ãĥ³":138558,"Ġrá»Ŀi":138559,"ĠлеÑĩ":138560,"ĠлеÑĩениÑı":138561,"تباد":138562,"تبادÙĦ":138563,"צפ×Ķ":138564,"à¸Ħวามà¹Ģหà¹ĩà¸Ļ":138565,"Ġشب":138566,"ĠشبÙĥØ©":138567,"ר×Ļ×§":138568,"Ùħعد":138569,"Ùħعدات":138570,"dıģında":138571,"Ġ×ijש׳×Ļ×Ŀ":138572,"Ġ×Ķ×Ļשר×IJ׾":138573,"Ġ×Ķ×Ļשר×IJ׾×Ļת":138574,"Ġsınav":138575,"׳צ×Ļ×Ĵ":138576,"วัà¸ķà¸ĸุ":138577,"ĠاÙĦبرÙĦÙħ":138578,"ĠاÙĦبرÙĦÙħاÙĨ":138579,"tivitÃł":138580,"ãĤĵãģłãĤįãģĨ":138581,"×§×Ļ×Ļ×ŀ":138582,"ÙĦÙĬÙĥ":138583,"ĠÄijò":138584,"ĠÄijòi":138585,"ĠÐĺнÑĤеÑĢ":138586,"ĠÐĺнÑĤеÑĢнеÑĤ":138587,"ãģ«ãģ¨ãģ£ãģ¦ãģ¯":138588,"ãģ£ãģĵ":138589,"×§×ķס":138590,"ستØŃÙĤ":138591,"æķĻãģĪãģ¦":138592,"ãĥĢãĥ¡":138593,"ĠÙħÙĨزÙĦ":138594,"à¹Ģà¸ĭà¹ĩà¸Ļ":138595,"使ãģĪãĤĭ":138596,"è¦ĭç©į":138597,"è¦ĭç©įãĤĤãĤĬ":138598,"Ø£Ùģ":138599,"Ø£ÙģÙĥار":138600,"ĠигÑĢов":138601,"ĠигÑĢовÑĭе":138602,"ĠmÄĻż":138603,"ĠmÄĻżczy":138604,"ĠmÄĻżczyzn":138605,"ĠاÙĦØŃÙĤÙĬÙĤÙĬ":138606,"عبر":138607,"׼×ķ׾׳×ķ":138608,"íĿ¥":138609,"×ŀ×IJ×ķ×Ĺר":138610,"ختص":138611,"ãĥŀãĥŀ":138612,"Ġ×IJ×Ĺ×ķ×ĸ":138613,"íĮĢ":138614,"Ġrá»iji":138615,"ĠвÑĤоÑĢ":138616,"ĠвÑĤоÑĢой":138617,"Ġlẫn":138618,"пÑĢом":138619,"пÑĢомÑĭÑĪ":138620,"пÑĢомÑĭÑĪлен":138621,"пÑĢомÑĭÑĪленн":138622,"ĠоÑĤноÑĪениÑı":138623,"Ġsứ":138624,"ĠмобилÑĮ":138625,"ĠмобилÑĮн":138626,"ĠÑįÑĤомÑĥ":138627,"Ġtạp":138628,"ĠìĤ¬ê±´":138629,"ĠìķĮ볤":138630,"ÙĥÙı":138631,"ÙĥÙıÙħÙĴ":138632,"Ġ×§×ķר×Ķ":138633,"ĠÑĦиÑĢ":138634,"ĠÑĦиÑĢм":138635,"Ġsıkıntı":138636,"׳׼":138637,"׳׼×ķף":138638,"ÙĪÙĦÙĪØ¬ÙĬ":138639,"ØŃاÙĨ":138640,"Ġloạn":138641,"Ġ×IJ×ľ×£":138642,"Ġmắn":138643,"abhäng":138644,"abhängig":138645,"ĠÑĥÑĢовнÑı":138646,"Ġ׾×ij×ĵ×ķ×§":138647,"ÙĬÙħÙĨ":138648,"layın":138649,"Ġhải":138650,"Ġзавод":138651,"ĠìķĦ주":138652,"สà¸ĸา":138653,"สà¸ĸาà¸ļัà¸Ļ":138654,"Ġgüvenlik":138655,"à¹Ģà¸Ķà¹Īà¸Ļ":138656,"×ij×ĵ×§":138657,"ĠëĪ":138658,"ĠëĪĦ":138659,"ĠëĪĦ구":138660,"éĩįè¦ģãģª":138661,"รà¸Ńà¸ĩรัà¸ļ":138662,"schlie":138663,"schlieÃŁen":138664,"Ġìĸ¼":138665,"Ġìĸ¼ë§Ī":138666,"Ġìĸ¼ë§ĪëĤĺ":138667,"ÑĤики":138668,"íķľëĭ¤ê³ł":138669,"ãģłãģ£ãģŁãĤī":138670,"Ġ×Ķ×Ļ×ĺ×ij":138671,"ãģªãģijãĤĮãģ°ãģªãĤīãģªãģĦ":138672,"âÌ":138673,"ậ":138674,"Ġphạt":138675,"akÄ±ÅŁ":138676,"ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĻ":138677,"à¹Ģà¸ĭà¹ĩ":138678,"ĠСегоднÑı":138679,"Ġinsanların":138680,"Ġdéveloppe":138681,"תפר":138682,"תפר×Ļ×ĺ":138683,"اÙĨتشار":138684,"ê°ij":138685,"François":138686,"Ø£ÙĦع":138687,"Ø£ÙĦعاب":138688,"ãĤĴè¶ħ":138689,"ãĤĴè¶ħãģĪ":138690,"Ġê°ĻìĬµëĭĪëĭ¤":138691,"ãĤ³ãĥ¬":138692,"ĠмеÑģÑıÑĨев":138693,"íĮħ":138694,"ĠاÙĦجاÙħعة":138695,"ìĿ¸íĦ°":138696,"ìĿ¸íĦ°ëĦ·":138697,"×ĵר×ķש":138698,"ĠÙĪØ£Ø´Ø§Ø±":138699,"ĠпÑĢавила":138700,"ãģĿãģĵãģ«":138701,"×Ĺ×ŀ×ĵ":138702,"à¹Ģหà¸ķุà¸ģารà¸ĵà¹Į":138703,"Ġê²½íĹĺ":138704,"ãģ¶ãĤĬ":138705,"׾ש":138706,"׾ש×ķף":138707,"à¹Ģà¸ĸ":138708,"ĠDoÄŁu":138709,"ĠиÑģполÑĮзование":138710,"ĠçocuÄŁu":138711,"магазине":138712,"ĠÄijiá»ĥn":138713,"Ġaslı":138714,"Ġaslında":138715,"Ġdoença":138716,"Ġساع":138717,"Ġساعات":138718,"ĠиÑģполÑĮзованиÑı":138719,"ר×ķצ×Ļ×Ŀ":138720,"ĠзнаÑĩиÑĤ":138721,"ĠÑĢам":138722,"ĠÑĢамкаÑħ":138723,"거리":138724,"ĠпÑĭÑĤа":138725,"ãĥģãĥ³":138726,"ĠпоÑģк":138727,"ĠпоÑģколÑĮ":138728,"ĠпоÑģколÑĮкÑĥ":138729,"إبر":138730,"إبراÙĩ":138731,"إبراÙĩÙĬÙħ":138732,"ĠÑĤÑĢеÑħ":138733,"ĠGenç":138734,"سÙĪÙģ":138735,"ĠveÃŃculo":138736,"ĠNgân":138737,"ĠоÑĩеÑĢедÑĮ":138738,"à¸Ħรึà¹Īà¸ĩ":138739,"×IJ×ij×Ļ":138740,"à¸ķà¹īม":138741,"ãĤĴè¡ĮãģĦ":138742,"ĠاÙĦسابÙĤØ©":138743,"наÑĨи":138744,"наÑĨиона":138745,"наÑĨионалÑĮн":138746,"Ġgestión":138747,"تÙĤد":138748,"ĠاÙĦبÙĬاÙĨ":138749,"ĠاÙĦبÙĬاÙĨات":138750,"ĠاÙĦاÙĨتخاب":138751,"ĠاÙĦاÙĨتخابات":138752,"à¹Ģà¸Ĭà¹Īา":138753,"×ĵ×IJ×Ĵ":138754,"Ġ׾×Ĵ×ŀר×Ļ":138755,"ĠتØŃتاج":138756,"Ġthôn":138757,"à¸ķà¹īà¸Ńà¸Ļ":138758,"à¸ķà¹īà¸Ńà¸Ļรัà¸ļ":138759,"女ãģ®":138760,"女ãģ®åŃIJ":138761,"Ġthợ":138762,"Ø·ØŃÙĨ":138763,"ารà¹Įà¸Ķ":138764,"ת×ŀ×Ļ×ĵ":138765,"ĠÑģамÑĭм":138766,"Ġìĭľíĸī":138767,"إصد":138768,"إصدار":138769,"ĠNghá»ĩ":138770,"ìķķ":138771,"سئ":138772,"سئÙĦ":138773,"à¸Ńาร":138774,"à¸Ńารม":138775,"à¸Ńารมà¸ĵà¹Į":138776,"à¹ģฮ":138777,"׳×ĺ׾":138778,"Ġì¢ĭìķĦ":138779,"×ķ׾׾":138780,"Ġ×ij×Ľ×ª×ij":138781,"ãĤ«ãĥ©":138782,"צע×Ļר×Ļ×Ŀ":138783,"تعبÙĬر":138784,"Ġ×ŀקר×Ķ":138785,"ĠÑĦакÑĤоÑĢ":138786,"ĠتÙħاÙħ":138787,"ĠتÙħاÙħا":138788,"ëįķ":138789,"Ġvưá»Ŀ":138790,"Ġvưá»Ŀn":138791,"ĠdÄ±ÅŁÄ±":138792,"ãģĦãģ¡":138793,"Ġ׾ק׳×ķת":138794,"ĠاÙĦعÙĦاÙĤات":138795,"пÑĥб":138796,"пÑĥбли":138797,"Ø¥ÙĬÙħ":138798,"Ø¥ÙĬÙħاÙĨ":138799,"à¸Ńำà¸Ļา":138800,"à¸Ńำà¸Ļาà¸Ī":138801,"åIJ«ãģ¾ãĤĮ":138802,"ãĤĭãģŁãĤģãģ«":138803,"ס×Ĵ":138804,"ס×Ĵ׳×ķף":138805,"تØŃدÙĬ":138806,"Ġauprès":138807,"ĠاÙĦجÙĩا":138808,"ĠاÙĦجÙĩاز":138809,"Ġ×ŀת×Ĺת":138810,"еннÑĥÑİ":138811,"Ġзим":138812,"à¸ģาà¹ģà¸Ł":138813,"Ġ×ijת×ķר":138814,"Ġnghè":138815,"Ġnghèo":138816,"ĠÐĽÑİ":138817,"ĠÐĽÑİб":138818,"תקצ×Ļ×ij":138819,"×ŀעש×Ķ":138820,"ĠاÙĦبÙĬت":138821,"צ×Ļפ":138822,"ĠобÑıзан":138823,"ĠMá»Ĺi":138824,"ĠТÑĥÑĢ":138825,"ĠÙĪØ¨Ø§ÙĦت":138826,"ĠÙĪØ¨Ø§ÙĦتاÙĦÙĬ":138827,"Ġdécision":138828,"Ġبد":138829,"Ġبدأت":138830,"Ġcục":138831,"Ġbask":138832,"Ġbaskı":138833,"Ġhatırl":138834,"Ġhatırla":138835,"å°ıãģķãģĦ":138836,"Ġgerçekten":138837,"à¸ľà¸±à¸ģ":138838,"åı¯èĥ½ãģª":138839,"×ŀ×IJס":138840,"ĠcrÃŃtica":138841,"ĠìĿĺìĽIJ":138842,"عÙĤÙĪØ¯":138843,"×ĺ׼׳":138844,"×ĺ׼׳×ķ׾×ķ×Ĵ×Ļ×Ķ":138845,"è¨ĢãģĪãģ°":138846,"ĠÙĤÙĨا":138847,"ĠÙĤÙĨاة":138848,"ĠìĿ´ê²ĥìĿĢ":138849,"تصر":138850,"à¸Łà¸±à¸Ļ":138851,"ĠÑĢеÑĨеп":138852,"ĠÑĢеÑĨепÑĤ":138853,"ĠبÙĨÙ쨳":138854,"ÑĢоÑĪ":138855,"ĠмаÑĢÑĤа":138856,"Ġsonras":138857,"Ġsonrası":138858,"×ķ×ijש":138859,"ãĥªãĤ¹ãĤ¯":138860,"ĠFrançais":138861,"á»ļ":138862,"ê°Ķ":138863,"Ġ×Ķ×ijר×Ļת":138864,"פ×Ļצ":138865,"פ×Ļצ×ķ×Ļ":138866,"ĠÙĦÙħاذا":138867,"ĠÐļиев":138868,"ĠÑģмÑĭÑģл":138869,"ê¸Īìľµ":138870,"ãĤ·ãĥ£ãĥ«":138871,"ãĥ©ãĤ¤ãĥĪ":138872,"ìĽĥ":138873,"×ŀ×Ĺר":138874,"ãĨį":138875,"Ġkullanım":138876,"Ġ×IJצ׾׳×ķ":138877,"ĠtÃłn":138878,"ãĥıãĥ¼":138879,"ãģ¨ãģ¨ãĤĤ":138880,"ãģ¨ãģ¨ãĤĤãģ«":138881,"ÑĢег":138882,"ÑĢеги":138883,"ÑĢегион":138884,"ãģªãģıãģªãĤĭ":138885,"Ġchảy":138886,"ĠجÙĩØ©":138887,"ÅĦskiej":138888,"à¸Ńีà¹Ģม":138889,"à¸Ńีà¹Ģมล":138890,"ãģįãģ£ãģ¨":138891,"ĠìĺĪìĤ°":138892,"Ġkitabı":138893,"Ġeducação":138894,"ĠbuluÅŁ":138895,"ологиÑı":138896,"ĠконкÑĢ":138897,"ĠконкÑĢеÑĤ":138898,"×Ĵ×Ļר":138899,"ĠпÑĢедлаг":138900,"ĠпÑĢедлагаеÑĤ":138901,"ĠYên":138902,"Ġíķľë²Ī":138903,"Ġ×ŀר׼×ĸ×Ļ":138904,"à¹Ģà¸Ľà¸´à¸Ķà¹Ģà¸ľà¸¢":138905,"ÑĤвеÑĢд":138906,"ĠHá»ĩ":138907,"ĠÐĵÑĢ":138908,"à¸Ŀà¹īา":138909,"×Ķשק":138910,"×Ķשקע×Ķ":138911,"ĠнаÑĥк":138912,"ìłIJìĿĦ":138913,"ĠнелÑĮ":138914,"ĠнелÑĮз":138915,"ĠнелÑĮзÑı":138916,"гин":138917,"ĠBöl":138918,"ĠBölge":138919,"Ġвла":138920,"ĠвлаÑģÑĤи":138921,"à¹Ģà¸Ļà¹ĩ":138922,"à¹Ģà¸Ļà¹ĩà¸ķ":138923,"골":138924,"Ġöld":138925,"Ġöldür":138926,"×Ľ×ł×¢":138927,"ĠاÙĦÙĩÙĬئة":138928,"تارÙĬØ®":138929,"ĠÐijÑĢ":138930,"ĠÑģмож":138931,"ĠÑģможеÑĤе":138932,"ĠLúc":138933,"à¹Ħà¸Ľà¸ĸึà¸ĩ":138934,"ĠBakanı":138935,"Ġerklärt":138936,"ĠÐIJна":138937,"Ġscène":138938,"åķıãģĦ":138939,"åķıãģĦåIJĪãĤıãģĽ":138940,"ÙħÙĩÙĨد":138941,"ÙħÙĩÙĨدس":138942,"Ġназвание":138943,"иваниÑı":138944,"ãĤĴå¤īãģĪ":138945,"ä»ĺãģįåIJĪ":138946,"ãĥijãĤ½":138947,"ãĥijãĤ½ãĤ³ãĥ³":138948,"æĺİãĤī":138949,"æĺİãĤīãģĭ":138950,"à¹Ģà¸Ńà¸ģสาร":138951,"à¹Ģà¸ģิà¸Ļà¹Ħà¸Ľ":138952,"леп":138953,"ãģĹãģŁãĤĤãģ®":138954,"ĠCâm":138955,"ĠCâmara":138956,"×§×ķ׾׳×ķ×¢":138957,"Ġ×ij×Ĵ×Ļף":138958,"Ġoczy":138959,"ĠoczywiÅĽcie":138960,"attivitÃł":138961,"ãĥĵãĥ¥ãĥ¼":138962,"Ġeducación":138963,"İYE":138964,"ê¹ĮìļĶ":138965,"ãĤ¨ãĥªãĤ¢":138966,"неÑģÑĤи":138967,"Ġmóg":138968,"ĠmógÅĤ":138969,"Ġ×§×ĺ׳×Ļ×Ŀ":138970,"ĠPrä":138971,"Ġ×ľ×¢×ij×ķר":138972,"بÙĨÙī":138973,"зол":138974,"золоÑĤ":138975,"ĠwnÄĻtr":138976,"ĠwnÄĻtrz":138977,"Ġconstrução":138978,"รัà¸ļรà¸Ńà¸ĩ":138979,"سجÙĨ":138980,"Ġ×§×ķ׳":138981,"ס×Ļפ×ķר":138982,"ĠÙħدÙī":138983,"رضÙī":138984,"плав":138985,"ï¼¥":138986,"Ġila":138987,"Ġilaç":138988,"ãĤĭãģ¹ãģį":138989,"ĠÙħÙĪÙĤÙģ":138990,"à¸ģรุ":138991,"à¸ģรุà¸ĵา":138992,"chodzÄħc":138993,"ĠÑĤÑĭÑģ":138994,"ÐķвÑĢо":138995,"ĠÙĬØŃدث":138996,"ãĥ¡ãĤ¤ãĥ³":138997,"ĠاÙĦصØŃÙĬ":138998,"ĠÐĶан":138999,"دعاء":139000,"ãĤ´ãĥ¼ãĥ«":139001,"×©×ł×ª×Ļ":139002,"×©×ł×ª×Ļ×Ļ×Ŀ":139003,"à¸Ķà¹īวยà¸ģัà¸Ļ":139004,"Ġolacaģı":139005,"Ġ×ij×ŀ×Ĺ×Ļר":139006,"×Ķ×§":139007,"×Ķ×§×ŀת":139008,"ãĥ¢ãĥİ":139009,"ĠçalÄ±ÅŁtı":139010,"Ġjóvenes":139011,"ãģĦãģıãĤī":139012,"ĠÙħعدÙĦ":139013,"ĠCÅ©ng":139014,"ĠSegún":139015,"Ġdönemde":139016,"Ġ׾×Ļ×ĵ×Ļ":139017,"ãģįãģ¡":139018,"ãģįãģ¡ãĤĵ":139019,"ãģįãģ¡ãĤĵãģ¨":139020,"Ù쨱ÙĨس":139021,"Ù쨱ÙĨسا":139022,"åIJijãģį":139023,"Ġcampaña":139024,"ĠÑģамоÑģÑĤоÑı":139025,"ĠÑģамоÑģÑĤоÑıÑĤелÑĮно":139026,"á»Ģ":139027,"ÙĤÙĪØ§":139028,"سÙĦاØŃ":139029,"à¸ģระà¹ģ":139030,"à¸ģระà¹ģส":139031,"ĠполÑĮзÑĥ":139032,"nqu":139033,"nquête":139034,"รà¹Īวมà¸ģัà¸ļ":139035,"ëĬIJëĥIJ":139036,"à¸Ĺีมà¸Ĭาà¸ķิ":139037,"Ġyıllık":139038,"ìĬ¬":139039,"ĠأصØŃاب":139040,"illé":139041,"Ġdóla":139042,"Ġdólares":139043,"Ġкож":139044,"Ġкожи":139045,"ลà¹īà¸Ń":139046,"à¹Ģรียà¸ļร":139047,"à¹Ģรียà¸ļรà¹īà¸Ńย":139048,"à¹Ģà¸ŀิ":139049,"à¹Ģà¸ŀิà¹Īà¸ĩ":139050,"ÑĢиÑĤоÑĢи":139051,"Ġíijľ":139052,"ĠíijľíĺĦ":139053,"ĠпеÑĢев":139054,"ĠпеÑĢевод":139055,"פ×Ĵ×Ļ×¢×Ķ":139056,"ĠdeÄŁerlendirme":139057,"ÙģØ§Ø¦":139058,"ĠвÑĭгод":139059,"ınızı":139060,"×ķ׼×Ļ×Ĺ":139061,"ĠдоÑģÑĤиг":139062,"ĠngÃłn":139063,"æĢĿãģ£ãģŁ":139064,"ĠÐķÑģÑĤÑĮ":139065,"ĠاÙĦرغÙħ":139066,"ĠzwiÄħzane":139067,"ربط":139068,"à¸Ļึà¸ĩ":139069,"Ġ׾×Ĺ×ķ×§":139070,"Ġszczególn":139071,"Ġszczególnie":139072,"ĠباستخداÙħ":139073,"ĠfÃŃsico":139074,"עס":139075,"עס×ķ×§":139076,"سÙĦÙĪÙĥ":139077,"ĠاØŃد":139078,"ÑĩÑijÑĤ":139079,"×ĸ׼×Ķ":139080,"Ġlá»ĩnh":139081,"ĠÙĪØŃØª":139082,"ĠÙĪØŃØªÙī":139083,"à¸Ħวามสามารà¸ĸ":139084,"à¸Ńยูà¹Īà¹ģลà¹īว":139085,"à¸ģารà¹Ģà¸Ķิà¸Ļà¸Ĺาà¸ĩ":139086,"تخذ":139087,"צ×Ļ×ķ×ĵ":139088,"ĠاÙĦأس":139089,"ĠاÙĦأسÙĩÙħ":139090,"Ġtá»ĩ":139091,"ãģ£ãģ¦ãģĦãģ¦":139092,"สรุ":139093,"à¸ªà¸£à¸¸à¸Ľ":139094,"ĠкомÑĦ":139095,"ĠкомÑĦоÑĢÑĤ":139096,"ìĺ¤ëĬĶ":139097,"ĠÑĢазв":139098,"ĠÑĢазвива":139099,"ланд":139100,"hänge":139101,"ĠبÙĨسبة":139102,"à¹Ģà¸Ĥียว":139103,"עצ×Ŀ":139104,"Ġ×ľ×ľ×Ľ×ª":139105,"ÑģоÑĨиалÑĮн":139106,"Ġëĭ¤ìĿĮê³¼":139107,"Ġרש×ķ×ŀ":139108,"×ŀר×Ĺ×ij":139109,"سÙĤØ·":139110,"Ġalanı":139111,"ĠÄijá»ĩ":139112,"é£Łãģ¹ãĤĭ":139113,"à¸Ķึà¸ĩ":139114,"Ġgegenüber":139115,"ĠبÙĩذÙĩ":139116,"à¸ĸืà¸Ńà¹Ģà¸Ľà¹ĩà¸Ļ":139117,"ëķħ":139118,"à¸Ħà¸Ļà¹Ħà¸Ĺย":139119,"ãĤ¢ãĤ¦":139120,"ãĤ¢ãĤ¦ãĥĪ":139121,"ศัà¸ģ":139122,"ศัà¸ģà¸Ķิ":139123,"ศัà¸ģà¸Ķิà¹Į":139124,"ÙĤÙĪØ§ÙĨ":139125,"ÙĤÙĪØ§ÙĨÙĬÙĨ":139126,"Ġhá»Ļp":139127,"ãģªãģıãģªãģ£ãģ¦":139128,"Ġ×IJ×ŀ׳":139129,"Ġ×IJ×ŀ׳×Ŀ":139130,"à¹Ģà¸ķืà¸Ńà¸Ļ":139131,"ĠзавиÑģим":139132,"ĠзавиÑģимоÑģÑĤи":139133,"ת×Ļ×IJ":139134,"ת×Ļ×IJ×ķר":139135,"å§ĭãĤģãģŁ":139136,"Ġngá»į":139137,"Ġngá»įt":139138,"íĴį":139139,"ê³¼ìŀ¥":139140,"Ġbại":139141,"ãģ§ãģįãģ¦":139142,"Ġcomeçar":139143,"à¸Ľà¸£à¸²à¸ģ":139144,"à¸Ľà¸£à¸²à¸ģà¸ı":139145,"ĠгодÑĭ":139146,"меÑģ":139147,"ĠاÙĦÙħستÙĪÙī":139148,"ĠÑģамÑĭе":139149,"ллеÑĢ":139150,"ãģ£ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĻ":139151,"ãģ¨ãģ®ãģĵãģ¨":139152,"bió":139153,"à¸ģลà¹Īà¸Ńà¸ĩ":139154,"ĠاÙĦزÙĪØ¬":139155,"ãģ«è¡Įãģ£ãģŁ":139156,"à¸Ħà¹Īà¸Ńà¸Ļ":139157,"à¸Ħà¹Īà¸Ńà¸Ļà¸Ĥà¹īาà¸ĩ":139158,"ĠbaÄŁl":139159,"ĠbaÄŁlant":139160,"ĠbaÄŁlantı":139161,"確ãģĭ":139162,"確ãģĭãģ«":139163,"ãĥľãĥ¼ãĥ«":139164,"çµĤãĤıãĤĬ":139165,"ש×ŀר":139166,"à¸Ĺีà¹Īสามารà¸ĸ":139167,"ÙĦزÙħ":139168,"даеÑĤÑģÑı":139169,"รัà¸ļà¸Ľà¸£à¸°":139170,"รัà¸ļà¸Ľà¸£à¸°à¸Ĺาà¸Ļ":139171,"å¤īãĤıãĤĬ":139172,"ï¼¢":139173,"ĠìĺĪìĪĺëĭĺ":139174,"ãĤĪãģĨãģ¨":139175,"มัà¸ģà¸Īะ":139176,"ĠHương":139177,"ÙĨÙ쨰":139178,"×ŀ×ĵ×ĵ":139179,"ĠìĿ¸ìłķ":139180,"ÑħодиÑĤÑĮ":139181,"ĠзавиÑģиÑĤ":139182,"×ķ×ĵ×Ļ×¢":139183,"ãģĵãģ¨ãģĮãģĤãĤĬãģ¾ãģĻ":139184,"عراÙĤ":139185,"سطØŃ":139186,"à¸ģำà¹Ħร":139187,"ëĵ¤ëıĦ":139188,"×Ļצ×Ļר×Ķ":139189,"ãģĨãģĵãģ¨":139190,"ÙĦاØŃÙĤ":139191,"ãģĦãĤĮãģ°":139192,"ĠиÑģполÑĮзÑĥÑİÑĤ":139193,"ĠBợi":139194,"Ġשק׾×Ļ×Ŀ":139195,"ÑĨикл":139196,"ÐIJÐŀ":139197,"Ġ×ijש׳×Ķ":139198,"ÙĨشط":139199,"Ġש×Ļ׳×ķ×Ļ":139200,"Ġש×Ļ׳×ķ×Ļ×Ļ×Ŀ":139201,"Ġpoblación":139202,"ĠHưng":139203,"ระว":139204,"ระวัà¸ĩ":139205,"رÙĬاضة":139206,"رصد":139207,"تÙĤÙĦÙĬ":139208,"تÙĤÙĦÙĬد":139209,"Ġülkem":139210,"Ġülkemiz":139211,"à¸Ĭะ":139212,"ãĤ¯ãĥªãĥ¼ãĥł":139213,"èģŀãģĦãģŁ":139214,"Ġważ":139215,"Ġważne":139216,"ê±°ëĵł":139217,"ê±°ëĵłìļĶ":139218,"×ŀ×IJ×ij×§":139219,"×Ĺ×ĵש×ķת":139220,"ĠWroc":139221,"ĠWrocÅĤaw":139222,"ĠKültür":139223,"sist":139224,"sistência":139225,"×¢×ĸר×Ķ":139226,"Ġgương":139227,"รà¹īาà¸Ļà¸Ħà¹īา":139228,"ĠÙĪØ£ÙĪØ¶ØŃ":139229,"ándose":139230,"ãĤ·ãĥ¼ãĥ³":139231,"×IJ׳ר×Ĵ":139232,"×IJ׳ר×Ĵ×Ļ×Ķ":139233,"ãģªãģĦãģ§ãģĻ":139234,"Ġkhá»§ng":139235,"Ġ문ìĦľ":139236,"Ġ×ij×ĵ×ijר":139237,"×ĵ×Ļ×ķ":139238,"×ĵ×Ļ×ķ×ķ×Ĺ":139239,"Ġrégl":139240,"ÙħÙĪØ§Ø¯":139241,"обоÑĢ":139242,"обоÑĢоÑĤ":139243,"Ġ×Ķ×ij׾":139244,"Ġ×Ķ×ij׾×ķ×Ĵ":139245,"ØŃاÙħ":139246,"ĠاÙĦعاص":139247,"ĠاÙĦعاصÙħØ©":139248,"пеÑĢаÑĤоÑĢ":139249,"تخÙĦ":139250,"تخÙĦص":139251,"ãģŁãģłãģĹ":139252,"تسÙħ":139253,"à¹Ĥรà¸ĩà¸ŀ":139254,"à¹Ĥรà¸ĩà¸ŀยา":139255,"à¹Ĥรà¸ĩà¸ŀยาà¸ļาล":139256,"ĠYük":139257,"ĠYüksek":139258,"Ġש׳×Ļת":139259,"Ġש׳×Ļ×ª×Ł":139260,"liÄŁe":139261,"Ġפת":139262,"Ġפת×ķ×Ĺ":139263,"ĠbeÄŁ":139264,"ĠbeÄŁen":139265,"Ġ×ŀ×ķר":139266,"Ġ×ŀ×ķר׼×ij":139267,"ĠرساÙĦØ©":139268,"íĨµìĭł":139269,"Ġavalia":139270,"Ġavaliações":139271,"Ġmanh":139272,"Ġmanhã":139273,"Ġìķŀ":139274,"Ġìķŀìľ¼ë¡ľ":139275,"ÙĤتر":139276,"ÙĤترØŃ":139277,"à¹Ģà¸ģืà¸Ń":139278,"à¹Ģà¸ģืà¸Ńà¸ļ":139279,"Ġproposé":139280,"Ø£Ùħا":139281,"Ø£ÙħاÙĥÙĨ":139282,"ĠÐŀÐŀ":139283,"ĠÐŀÐŀÐŀ":139284,"ÙħÙĤار":139285,"ÙħÙĤارÙĨØ©":139286,"ëĦIJ":139287,"ãģĦãģŁãģłãģı":139288,"ÙĤÙĬÙĦ":139289,"ĠнаÑĪиÑħ":139290,"ãĤ«ãĥĥãĥĹ":139291,"×Ĺ×ľ×ª":139292,"Ġëĭ¤ë§Į":139293,"à¸Ĺัà¹Īวà¹Ĥลà¸ģ":139294,"ãĥįãĤ¿":139295,"ØŃساس":139296,"ãģ«ãģªãĤĮ":139297,"جائ":139298,"جائزة":139299,"échange":139300,"économ":139301,"économie":139302,"ТÐĺ":139303,"×¡×ª×Ľ×ľ":139304,"à¸Ĺัà¹īà¸ĩสà¸Ńà¸ĩ":139305,"ĠاÙĦخاÙħ":139306,"ĠاÙĦخاÙħس":139307,"×§×ĺ×¢":139308,"auważ":139309,"à¸ľà¸¹à¹īà¸Ĭาย":139310,"à¹ģà¸Ľà¸¥à¸ģ":139311,"åIJĮæĻĤãģ«":139312,"знаниÑı":139313,"ãģĦãģŁãģłãģįãģ¾ãģĹãģŁ":139314,"Ġ×ŀ×ij׾×Ļ":139315,"à¸Ĥà¸Ńà¹ĥหà¹ī":139316,"ĠاÙĦتربÙĬØ©":139317,"Ġdécouvert":139318,"Ġżyciu":139319,"après":139320,"Ġyab":139321,"Ġyabanc":139322,"Ġyabancı":139323,"ĠbaÅŁlayan":139324,"ìĹĪëįĺ":139325,"Ġhesabı":139326,"Ġë§Įìķ½":139327,"ë§Īëĭ¤":139328,"ĠThánh":139329,"ãĥ´ãĤ¡":139330,"à¸Ľà¸£à¸±à¸ļà¸Ľà¸£":139331,"à¸Ľà¸£à¸±à¸ļà¸Ľà¸£à¸¸à¸ĩ":139332,"ĠMặc":139333,"à¹Ģหà¸ķà¸¸à¸ľà¸¥":139334,"ĠÐijез":139335,"ĠcapacitÃł":139336,"ÅĤeÅĽ":139337,"ĠпÑĢеим":139338,"ĠпÑĢеимÑĥÑīеÑģÑĤв":139339,"ĠÅļwiÄĻt":139340,"Ġpublié":139341,"×ŀעצ×ij":139342,"ÙħشارÙĥات":139343,"à¸łà¸²à¸©":139344,"à¸łà¸²à¸©à¸µ":139345,"Ġdeuxième":139346,"ĠÙħØŃاÙ쨏":139347,"ĠÙħØŃاÙģØ¸Ø©":139348,"ĠSchön":139349,"、":139350,"Ġ×Ķ×ij×¢":139351,"Ġ×Ķ×ij×¢×Ļ×Ķ":139352,"ĠÙĪØ§ÙĦÙĦÙĩ":139353,"è¨Ģãģ£ãģŁ":139354,"à¸ķà¹īาà¸Ļ":139355,"วรรà¸ĵ":139356,"à¸Ĺิศ":139357,"ĠbaÅŁÄ±na":139358,"ĠmogÄĻ":139359,"ש×Ļפ×ķר":139360,"ĠÙĪØ¹Ø¯":139361,"ĠÙĪØ¹Ø¯Ùħ":139362,"Ġhistórico":139363,"Ġkısı":139364,"ĠìĿ´ê²Į":139365,"ĠPolÃŃtica":139366,"ĠÑģиÑĤÑĥаÑĨии":139367,"ĠkoÅĦca":139368,"×ij×ĵ×Ļ×§×Ķ":139369,"ĠاÙĦسÙĬارات":139370,"ãģªãĤīãģ°":139371,"ãĤµãĥ©":139372,"ãĤĭãģĵãģ¨ãģĮãģ§ãģįãĤĭ":139373,"Ġdecisão":139374,"×ķ×ķ×ĵ":139375,"läss":139376,"lässig":139377,"Ġ׾×Ļשר×IJ׾":139378,"ĠÙĬأتÙĬ":139379,"ר×ķ×ĸ":139380,"Ã¶ÄŁ":139381,"Ã¶ÄŁret":139382,"Ã¶ÄŁretim":139383,"Ġдек":139384,"Ġдекаб":139385,"ĠдекабÑĢÑı":139386,"Ġש×Ĺ×ķר":139387,"ãģ¦ãģıãĤĮãģŁ":139388,"عبارة":139389,"Ġélectrique":139390,"ĠاÙĦتÙĨÙħÙĬØ©":139391,"جرÙī":139392,"ĠìĪĺíĸī":139393,"à¸Ĺู":139394,"ĠÑĢеалÑĮно":139395,"ÑģпоÑģоб":139396,"à¸Ħลà¹īาย":139397,"ĠسعÙĪØ¯":139398,"önü":139399,"ĠÙģÙħÙĨ":139400,"تÙĥÙĪ":139401,"تÙĥÙĪÙĬÙĨ":139402,"ĠкаÑĩеÑģÑĤво":139403,"ĠконÑĤак":139404,"ĠконÑĤакÑĤ":139405,"ĠsözleÅŁme":139406,"à¸Ńà¹īาà¸ĩ":139407,"ĠتÙĪÙģ":139408,"ĠتÙĪÙģÙĬر":139409,"×Ķ×ĸ×ĵ":139410,"×Ķ×ĸ×ĵ×ŀ׳×ķת":139411,"ĠØ·ÙĪÙĬÙĦØ©":139412,"Ġtérmino":139413,"Ġ×IJ×Ļפ×Ķ":139414,"ãĥĵãĥ«":139415,"สà¹Ĥม":139416,"สà¹Ĥมสร":139417,"ĠاÙĦاث":139418,"ĠاÙĦاثÙĨÙĬÙĨ":139419,"евиÑĩ":139420,"Ġopinión":139421,"à¸Ľà¸§à¸Ķ":139422,"åı¤ãģĦ":139423,"รà¹Īา":139424,"ĠBiaÅĤ":139425,"ĠÑģÑĤал":139426,"ĠÑģÑĤало":139427,"ólogo":139428,"ĠìķĦëĭĪëĭ¤":139429,"Ġ×IJ×Ļת":139430,"Ġ×IJ×Ļת×ķ":139431,"à¹Ģหà¹ĩà¸Ļวà¹Īา":139432,"à¸ļารà¹Į":139433,"çĦ¼":139434,"çĦ¼ãģį":139435,"ĠìĿ´ìļ©ìŀIJ":139436,"ĠнекоÑĤоÑĢÑĭе":139437,"ksz":139438,"ksztaÅĤ":139439,"ksztaÅĤc":139440,"ãĤŃãĥ£ãĥĥãĤ·":139441,"ãĤŃãĥ£ãĥĥãĤ·ãĥ³ãĤ°":139442,"ĠroÅĽ":139443,"ĠroÅĽlin":139444,"ÑĢажа":139445,"×ij׳×Ļ×Ļ×Ķ":139446,"à¸Ľà¸£à¸ªà¸´":139447,"à¸Ľà¸£à¸ªà¸´à¸ķ":139448,"Ġgördü":139449,"×ŀ׳×Ķ×Ļ×Ĵ":139450,"å¤īãĤıãģ£ãģ¦":139451,"Ġ×IJ×Ķ":139452,"Ġ×IJ×Ķ×ijת×Ļ":139453,"à¹Ģรà¹Īà¸ĩ":139454,"Ġönünde":139455,"Ġê·¸ëĥ¥":139456,"полиÑĤ":139457,"полиÑĤиÑĩеÑģк":139458,"ãĥ¡ãĥĩãĤ£":139459,"ãĥ¡ãĥĩãĤ£ãĤ¢":139460,"ĠDetay":139461,"ĠDetaylı":139462,"ĠاÙĦصÙģØŃØ©":139463,"à¸ģารà¹Ģà¸ĩิà¸Ļ":139464,"Ġìµľê·¼":139465,"׼ש׾":139466,"I":139467,"вÑĪего":139468,"íķĺìĭ¤":139469,"ĠÐŃÑĤ":139470,"ĠÐŃÑĤоÑĤ":139471,"สื":139472,"สืà¸ļ":139473,"Ġngừng":139474,"ĠдокÑĥменÑĤов":139475,"даваÑĤÑĮ":139476,"ĠاÙĦشخصÙĬØ©":139477,"Ġצע×Ļר":139478,"درÙĥ":139479,"سØŃب":139480,"à¹Ħมà¹Īà¸Ħà¹Īà¸Ńย":139481,"Ġ×Ķ×ŀ×§×ķ×ŀ×Ļ":139482,"สัà¹Īà¸ĩà¸ĭืà¹īà¸Ń":139483,"Ġê·¸ê²ĥìĿĦ":139484,"ãģĤãĤĭãģĦ":139485,"ãģĤãĤĭãģĦãģ¯":139486,"×IJ×ķ×ĺ×ķ×ij":139487,"×IJ×ķ×ĺ×ķ×ij×ķס":139488,"кÑĨион":139489,"ĠÐľÐ¾Ð¶Ð½Ð¾":139490,"ãģıãģł":139491,"ãģıãģłãģķ":139492,"ĠинÑĦоÑĢмаÑĨиÑı":139493,"ï»Ł":139494,"ĠìŀijìĹħ":139495,"Ġ×Ļ×ķסף":139496,"إدارة":139497,"ĠاÙĦØŃاج":139498,"×ł×¡×Ļ×¢×Ķ":139499,"изаÑĨиÑı":139500,"×IJ׾×ij":139501,"×IJ׾×ij×ķ×Ŀ":139502,"пед":139503,"Ġ×§×ĺ׳×Ķ":139504,"ĠÙĨÙ쨳Ùĩا":139505,"ĠMinistério":139506,"Ġпен":139507,"ĠпенÑģи":139508,"ãĥIJãĥ©ãĥ³ãĤ¹":139509,"Ġ×Ķת×ķר×Ķ":139510,"Ġtạm":139511,"ĠìĹŃìĭľ":139512,"。":139513,"Ġthá»±":139514,"Ġısı":139515,"컨":139516,"ãģĹãģ£ãģĭãĤĬãģ¨":139517,"Ġxưa":139518,"Ġcặp":139519,"×Ĺ×Ļ×ij×ķר":139520,"วัà¸Ĵà¸Ļà¸ĺรรม":139521,"stär":139522,"stärke":139523,"ĠÑģамÑĭй":139524,"pisa":139525,"pisaÄĩ":139526,"ĠoluÅŁan":139527,"ĠاÙĦØ¥ÙħاÙħ":139528,"ĠcÄĥng":139529,"Ġgünl":139530,"Ġgünlük":139531,"Ġ׳ש×IJר":139532,"Ġkhiá»ĥn":139533,"ç¶ļãģijãĤĭ":139534,"stitución":139535,"Ġcapacité":139536,"Ġjaki":139537,"ĠjakiÅĽ":139538,"вÑĪиÑģ":139539,"вÑĪиÑģÑĮ":139540,"פע×ķ׾×ķת":139541,"ĠØŃÙĬات":139542,"ĠØŃÙĬاتÙĩ":139543,"Ġникогда":139544,"ÐĽÐ¬":139545,"Ġ×Ķ×¢×ķ×ij":139546,"Ġ×Ķ×¢×ķ×ij×ĵ×Ķ":139547,"ĠchÃło":139548,"หลายà¹Ĩ":139549,"ĠÑıн":139550,"ĠÑıнваÑĢ":139551,"ĠÑıнваÑĢÑı":139552,"à¸Īำà¹Ģà¸Ľà¹ĩà¸Ļà¸ķà¹īà¸Ńà¸ĩ":139553,"Ġhöher":139554,"ãģķãĤĮãģ¦ãģĦãģŁ":139555,"สà¸ĩสั":139556,"สà¸ĩสัย":139557,"ĠاÙĦاس":139558,"ĠاÙĦاسÙĦاÙħ":139559,"ĠاÙĦØ´Ùħس":139560,"สà¸ĸาà¸Ļี":139561,"ãĤ¯ãĥ©ãĤ¹":139562,"à¸ŀรร":139563,"à¸ŀรรà¸Ħ":139564,"põ":139565,"põe":139566,"Ġporém":139567,"à¸Ľà¸£à¸°à¸ªà¸ĩ":139568,"à¸Ľà¸£à¸°à¸ªà¸ĩà¸Ħà¹Į":139569,"powiedzie":139570,"powiedzieÄĩ":139571,"ĠмогÑĥ":139572,"Ġжел":139573,"Ġжелез":139574,"ĠاÙĦØ«ÙĤ":139575,"ĠاÙĦØ«ÙĤاÙģÙĬ":139576,"ĠпÑĢавило":139577,"Ġgdyż":139578,"פש×ķ×ĺ":139579,"ÑĢабоÑĤка":139580,"ĠÙĥرة":139581,"شدد":139582,"ÙħارÙĥ":139583,"ÙħÙĥØ©":139584,"ĠподпиÑģ":139585,"×ĺ×ķ×ķ×Ĺ":139586,"ĠÅĽc":139587,"ĠÅĽcian":139588,"ĠرجاÙĦ":139589,"Ġ×ª×ľ×ķ×Ļ":139590,"иÑĪ":139591,"иÑĪÑĮ":139592,"Ġmédec":139593,"Ġmédecin":139594,"ëįĶëĿ¼ëıĦ":139595,"ĠÑĤебÑı":139596,"Ġ׾×Ķ×ķס×Ļ×£":139597,"ãģĬ話":139598,"Ġà¹ģà¸ķà¹Īà¸ģà¹ĩ":139599,"داÙģ":139600,"داÙ쨹":139601,"ĠCùng":139602,"ãĥ»ãĥ»ãĥ»ãĥ»":139603,"ê¶ģ":139604,"ĠdeberÃŃa":139605,"หà¸Ļà¹Īวยà¸ĩาà¸Ļ":139606,"ĠvaÌĢ":139607,"Ġעצ×ŀ":139608,"Ġעצ×ŀ×Ŀ":139609,"à¹Ģà¸Ĭืà¹Īà¸Ńวà¹Īา":139610,"שקע":139611,"Ġ×Ķ׼×ķ׾":139612,"Ġ×Ķ׼×ķ׾׾":139613,"нибÑĥд":139614,"нибÑĥдÑĮ":139615,"ĠëĦĪíĿ¬":139616,"ĠобÑĢаÑī":139617,"ĠобÑĢаÑīа":139618,"Ġ×¢×ij×ķ×ĵת":139619,"ĠاÙĦÙħÙĨتخب":139620,"ıyord":139621,"ıyordu":139622,"ÙĪØ°":139623,"×Ĺש×Ļ×ij×ķת":139624,"Ġ×Ķ×¢×Ļ×§":139625,"Ġ×Ķ×¢×Ļקר×Ļ":139626,"ì¢Į":139627,"ยุà¹Ĥร":139628,"ยุà¹Ĥà¸£à¸Ľ":139629,"ĠапÑĢ":139630,"ĠапÑĢелÑı":139631,"szed":139632,"szedÅĤ":139633,"дон":139634,"à¹Ģà¸ķิà¸ļ":139635,"à¹Ģà¸ķิà¸ļà¹Ĥà¸ķ":139636,"коло":139637,"Ġkażdej":139638,"帰":139639,"帰ãĤĬ":139640,"Ġмилли":139641,"Ġмиллион":139642,"ç¾İåij³ãģĹãģĦ":139643,"تÙĤار":139644,"تÙĤارÙĬر":139645,"ĠìĿ´ë£¨":139646,"ĠìĿ´ë£¨ìĸ´":139647,"Ġsprzedaż":139648,"×Ķ×ķצ×IJ×ķת":139649,"ãĤ¢ãĤ¯ãĤ»":139650,"ãĤ¢ãĤ¯ãĤ»ãĤ¹":139651,"ר×ķ×¥":139652,"ĠгоÑģÑĥдаÑĢÑģÑĤвенн":139653,"Ø£ØŃÙĥ":139654,"Ø£ØŃÙĥاÙħ":139655,"ĠoluÅŁu":139656,"ĠAç":139657,"ĠAçık":139658,"ãĤ¸ãĥ¼":139659,"ç´łæĻ´":139660,"ç´łæĻ´ãĤīãģĹãģĦ":139661,"Ġ×ijש×ij×ķ×¢":139662,"بذ":139663,"بذÙĦ":139664,"สาà¹Ģหà¸ķุ":139665,"Ġpozosta":139666,"ĠpozostaÅĤ":139667,"ØŃرÙħ":139668,"Ġimportância":139669,"leÅŁtirme":139670,"ĠдÑĢев":139671,"Ġmóvil":139672,"ĠAynı":139673,"Ġналог":139674,"Ġналогов":139675,"Ġ×Ĺ×Ļפ×Ķ":139676,"ĠÑĦоÑĢмÑĥ":139677,"à¸Ĺà¸Ķสà¸Ńà¸ļ":139678,"ĠksiÄħżki":139679,"ĠmaÅĤe":139680,"ÙħسأÙĦ":139681,"ÙħسأÙĦØ©":139682,"^^":139683,"çãeste":139684,"éviter":139685,"ĠконÑģÑĤÑĢÑĥк":139686,"ĠконÑģÑĤÑĢÑĥкÑĨи":139687,"ï¾ŀ":139688,"Ġת×ķ׼׳":139689,"ãĤ¹ãĥĪãĥ¬ãĤ¹":139690,"ĠاÙĦاÙĤتصادÙĬ":139691,"×ŀ×ĵ×Ļ":139692,"ĠwÅĤad":139693,"ĠwÅĤadz":139694,"Ø®ÙĪÙģ":139695,"ĠмаÑĤеÑĢиалов":139696,"ãģ¨ãģ£ãģ¦ãĤĤ":139697,"Ġznajdu":139698,"ĠznajdujÄħ":139699,"ÙģØ¦Ø©":139700,"ãģ©ãģ®ãĤĪãģĨãģª":139701,"æĬijãģĪ":139702,"׳×Ĺ׾":139703,"Ġdüny":139704,"Ġdünyan":139705,"Ġdünyanın":139706,"гÑĢани":139707,"гÑĢаниÑĩ":139708,"Ġ×Ķש׾×Ļש×Ļ":139709,"Ġ×Ķ×IJש":139710,"åıĬãģ³":139711,"ìĭŃìĭľ":139712,"ìĭŃìĭľìĺ¤":139713,"Ġдолл":139714,"ĠдоллаÑĢ":139715,"ĠповÑĤоÑĢ":139716,"Ġ×Ĺ×Ļ׳×Ŀ":139717,"תפת×Ĺ":139718,"Ñĥвели":139719,"ÑĥвелиÑĩен":139720,"ãĤ«ãĥª":139721,"rawid":139722,"rawidÅĤow":139723,"×ķ×ķ׾":139724,"ãĥŁãĥ¥":139725,"ì½ĺ":139726,"ĠByÅĤ":139727,"ÐľÐIJ":139728,"عÙIJ":139729,"ĠÑģовеÑĢÑĪ":139730,"ĠÑģовеÑĢÑĪенно":139731,"Ġмой":139732,"Ġ×ķ׾×IJ×Ĺר":139733,"æħ£":139734,"æħ£ãĤĮ":139735,"ØŃاÙ쨏":139736,"Ġ무ë£Į":139737,"à¸Ħà¸ĵะà¸ģรรม":139738,"à¸Ħà¸ĵะà¸ģรรมà¸ģาร":139739,"Ġìĸ´ëĶĶ":139740,"Ġdiferen":139741,"Ġdiferença":139742,"ĠاÙĦأساس":139743,"ĠاÙĦأساسÙĬØ©":139744,"Ġ׾×IJ×Ĺר×ķ׳×Ķ":139745,"ê·ł":139746,"Ġ×Ķש׳×Ļ×Ļ×Ķ":139747,"ìľĦìĽIJìŀ¥":139748,"ลุà¸ģ":139749,"çiler":139750,"Ġ×Ķ×IJ׾×ķ":139751,"èģŀãģı":139752,"Ġ×ķ×IJפ×Ļ׾×ķ":139753,"ĠÑĢеализ":139754,"ĠÑĢеализаÑĨи":139755,"ระยะà¹Ģวลา":139756,"ĠجداÙĭ":139757,"تباع":139758,"ĠvehÃŃculo":139759,"Ġдолг":139760,"à¸Ľà¸£à¸´à¸¡à¸²à¸ĵ":139761,"ì¦IJ":139762,"Ġ׾×ŀ×§×ķ×Ŀ":139763,"ĠìĤ¬ì§Ħ":139764,"à¸Ĭà¹īา":139765,"Ġ×ŀ×¢×ķ׾×Ķ":139766,"Ġgörm":139767,"Ġgörmek":139768,"ĠÙĪÙĩذÙĩ":139769,"пеÑĢв":139770,"пеÑĢвÑĭÑħ":139771,"ê·¸ëŀĺ":139772,"ĠاÙĦبرÙĬØ·":139773,"ĠاÙĦبرÙĬطاÙĨÙĬ":139774,"ĠиÑİнÑı":139775,"ĠÐĵоÑĢ":139776,"Ġ׾ש׾×Ŀ":139777,"ÐIJÐĿ":139778,"ĠназнаÑĩен":139779,"ооÑĢ":139780,"ооÑĢÑĥж":139781,"Ġözelli":139782,"ĠözelliÄŁi":139783,"Ġниже":139784,"ç¶ļãģijãģ¦":139785,"ĠаÑĢенд":139786,"Ġkatılı":139787,"Ġkatılım":139788,"ĠإطÙĦاÙĤ":139789,"ĠÙĪØ¥Ø°Ø§":139790,"ĠокÑĤÑı":139791,"ĠокÑĤÑıбÑĢÑı":139792,"à¹Ĥà¸ķà¹":139793,"à¹Ĥà¸ķà¹Ĭ":139794,"à¹Ĥà¸ķà¹Ĭะ":139795,"Ġoldukları":139796,"ÙħÙĪÙĤع":139797,"ëĤ©":139798,"ã썿ĢĿãģ£ãģ¦ãģĦãĤĭ":139799,"Ġש×Ļ׼×ķ׾":139800,"วาà¸Ķ":139801,"سÙĬÙĦ":139802,"à¸Ĥวั":139803,"à¸Ĥวัà¸į":139804,"تØŃÙĥÙħ":139805,"ìĤŃ":139806,"Ġconnaît":139807,"×ł×¤×ª×Ĺ":139808,"Ġchặ":139809,"Ġchặn":139810,"ĠÙħØŃÙħ":139811,"ĠÙħØŃÙħÙĪØ¯":139812,"ãģ´":139813,"ĠпÑĢодÑĥкÑĨии":139814,"здÑĢав":139815,"ãģĶè¦":139816,"ãģĶ覧":139817,"×IJ×ij×IJ":139818,"Ġvéritable":139819,"ĠØ·ÙģÙĦ":139820,"ãĥĪãĥ©ãĥĸãĥ«":139821,"곡":139822,"Ġת×ŀ×ķ׳×Ķ":139823,"Ġkiên":139824,"ĠÙĤادر":139825,"Ø¥ÙĤÙĦÙĬÙħ":139826,"ĠпÑĢедпÑĢи":139827,"ĠпÑĢедпÑĢиÑıÑĤиÑı":139828,"ĠbÄĥng":139829,"Ġayında":139830,"Ġgấp":139831,"еÑħал":139832,"ĠgiÃłnh":139833,"Ġдав":139834,"Ġдавно":139835,"ìĺĢëĭ¤":139836,"à¸Ļัà¸ģà¹Ģà¸ķ":139837,"à¸Ļัà¸ģà¹Ģà¸ķะ":139838,"Ùħستشار":139839,"ستراتÙĬج":139840,"ستراتÙĬجÙĬ":139841,"رÙħز":139842,"ĠtÄ©nh":139843,"ë¡Ń":139844,"ĠÑĩеÑĤ":139845,"ĠÑĩеÑĤÑĭ":139846,"ĠÑĩеÑĤÑĭÑĢе":139847,"ĠEntão":139848,"Ġصغ":139849,"ĠصغÙĬرة":139850,"×ij×Ļ×ĺ×ķ׾":139851,"خطÙĪØ·":139852,"ĠÑĢазвиÑĤие":139853,"Ġamacıyla":139854,"à¸Ĺีวี":139855,"ĠоÑģÑĤ":139856,"ĠоÑģÑĤалÑĮн":139857,"ש×ķ׾×Ĺף":139858,"Ġ׼׳×Ļס":139859,"Ġ׼׳×Ļס×Ķ":139860,"ĠdáºŃy":139861,"ĠyaÅŁayan":139862,"Ġ×ŀ×Ķ×ķ×ķ×Ķ":139863,"ĠÑĥÑģи":139864,"ĠÑĥÑģили":139865,"×ŀפ×Ļ":139866,"ĠпÑĢоведениÑı":139867,"Ġرب":139868,"ĠربÙħا":139869,"ĠاÙĦØ£ÙĪØ³Ø·":139870,"Ġìľłì§Ģ":139871,"Ġpracownik":139872,"Ġpracowników":139873,"×ŀס×ķרת":139874,"ÙĤارب":139875,"à¸Ħวามรูà¹īสึà¸ģ":139876,"à¹ģหละ":139877,"ĠاÙĦÙĨÙĤد":139878,"Ġ×IJ׾פ×Ļ":139879,"Ùħسئ":139880,"ÙħسئÙĪÙĦ":139881,"евÑĭÑħ":139882,"клÑİÑĩениÑı":139883,"×ij×Ļ׳":139884,"×ij×Ļ׳×Ļ×Ķ×Ŀ":139885,"ש×ķ×IJ×Ķ":139886,"ĠÅŁark":139887,"ĠÅŁarkı":139888,"Ġsürec":139889,"Ġsürecin":139890,"à¹Ģà¸Ħรà¸Ķ":139891,"à¹Ģà¸Ħรà¸Ķิà¸ķ":139892,"ãĥIJãĥ¬":139893,"ĠشأÙĨ":139894,"à¹Ģà¸Ńาà¹Ħวà¹ī":139895,"niÄĻcie":139896,"רצ×Ĺ":139897,"ĠaÅŁama":139898,"׳פ×Ĵ×¢":139899,"Ġthá»Ŀ":139900,"Ġkhuẩn":139901,"diÄŁinde":139902,"ÑıÑīиÑħ":139903,"ãĥĺãĥ«":139904,"Ġüberh":139905,"Ġüberhaupt":139906,"ĠÑĤÑĢебова":139907,"ĠdÅĤugi":139908,"×ĺ×Ļף":139909,"à¸Ĥà¸Ļาà¸Ķà¹ĥหà¸įà¹Ī":139910,"ĠاÙĦØ£Ùĩ":139911,"ĠاÙĦØ£ÙĩÙĦÙĬ":139912,"ĠMüd":139913,"ĠMüdürü":139914,"Ġ×Ļ×Ķ×ķ×ĵ×Ķ":139915,"ÑĭваеÑĤÑģÑı":139916,"ساط":139917,"×Ķ×ª×ł×Ķ×Ĵ":139918,"×Ķ×ª×ł×Ķ×Ĵ×ķת":139919,"à¸ģà¸²à¸£à¸ľà¸¥à¸´à¸ķ":139920,"íĴĢ":139921,"สà¸ĸาà¸Ļà¸ģารà¸ĵà¹Į":139922,"ĠоÑĦ":139923,"ĠоÑĦиÑģ":139924,"ĠÙĦعبة":139925,"ĠstronÄĻ":139926,"Ġר×IJ×ķ×Ļ":139927,"×Ĺ×ij׾":139928,"ĠÑĢÑĭн":139929,"ĠÑĢÑĭнке":139930,"Ġ׾×ŀ×¢×Ł":139931,"اسÙĦ":139932,"หัà¸Ļ":139933,"Ġ×IJ×Ĺ×Ļ":139934,"ĠпÑĢодол":139935,"ê°Ģìŀħ":139936,"Ġ×ijר×Ĺ":139937,"Ġ×ijר×Ĺ×ij×Ļ":139938,"джеÑĢ":139939,"Ġ׾×Ĺ׾":139940,"Ġ׾×Ĺ׾×ķ×ĺ":139941,"Ġ׾×Ĺ׾×ķ×ĺ×Ļף":139942,"ศาสà¸Ļา":139943,"ãĤ¢ãĤ¤ãĥĨ":139944,"ãĤ¢ãĤ¤ãĥĨãĥł":139945,"Ġפר×ķפ":139946,"جزاء":139947,"ลà¸Ńย":139948,"ĠciaÅĤa":139949,"Ġgiết":139950,"ĠзнаÑĩиÑĤелÑĮно":139951,"Ġolmadıģ":139952,"Ġolmadıģını":139953,"нд":139954,"ндекÑģ":139955,"تأÙĥد":139956,"Ġìĸ¸":139957,"Ġìĸ¸ìłľ":139958,"aydın":139959,"ãĥīãĥ¬ãĤ¹":139960,"Ġsắt":139961,"Ġíĺ¸íħĶ":139962,"Ġë¶ģ":139963,"Ġë¶ģíķľ":139964,"ãĥijãĤ¤":139965,"Ġ×ŀש×Ĺ×§×Ļ":139966,"à¸Ħà¸Ļà¸Ńืà¹Īà¸Ļ":139967,"ĠизгоÑĤов":139968,"ĠизгоÑĤовлен":139969,"à¹Ģà¸ģียร":139970,"à¹Ģà¸ģียรà¸ķิ":139971,"תקשר":139972,"ĠÑĢаÑģÑĩеÑĤ":139973,"สà¹Ģà¸ķ":139974,"Ġlänger":139975,"ĠiÅŁlet":139976,"ĠiÅŁletme":139977,"ĠعÙĦÙĬÙĨ":139978,"ĠعÙĦÙĬÙĨا":139979,"élection":139980,"ĠاÙĦغربÙĬØ©":139981,"íĭĢ":139982,"ãĤĤãĤīãģĪ":139983,"Ġкниги":139984,"أسÙħ":139985,"أسÙħاء":139986,"Ġthá»ı":139987,"Ġthá»ıa":139988,"หà¸Ļู":139989,"Ġ×ł×¢×©×Ķ":139990,"à¸łà¸²à¸¢à¹ĥà¸ķà¹ī":139991,"à¸ŀืà¸Ĭ":139992,"رÙĬØ·":139993,"ÙģÙĪØ¶":139994,"ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸãģĦãģ¾ãģĹãģŁ":139995,"ש×ĵ×Ķ":139996,"Ġngá»±c":139997,"ĠÑģеÑĢÑĮ":139998,"ĠÑģеÑĢÑĮезн":139999,"Tôi":140000,"Ġfiyatları":140001,"ĠвÑģÑİ":140002,"ĠCódigo":140003,"Ġ×Ķש×IJ":140004,"Ġ×Ķש×IJ׾×Ķ":140005,"ĠPública":140006,"إخ":140007,"إخÙĪØ§ÙĨ":140008,"ĠзаÑıвил":140009,"ãĥ¦ãĥ¼":140010,"ר×IJ×Ļת":140011,"volución":140012,"Ġszko":140013,"ĠszkoÅĤy":140014,"جرÙĬدة":140015,"Ġpensé":140016,"ìī¬":140017,"ĠBüyükÅŁehir":140018,"ĠØ£ÙħرÙĬ":140019,"ĠØ£ÙħرÙĬÙĥÙĬ":140020,"à¸Ļัà¸ģศึà¸ģษา":140021,"Ġtodav":140022,"ĠtodavÃŃa":140023,"ĠСан":140024,"ĠСанкÑĤ":140025,"íķĺìŀIJ":140026,"ØŃÙĪØ§ÙĦ":140027,"׼×ķשר":140028,"à¹Ģลยà¸Ħรัà¸ļ":140029,"Ġalgu":140030,"Ġalguém":140031,"Ù쨲":140032,"Ġçekil":140033,"Ġ×ĵר׼×Ļ×Ŀ":140034,"ãĥIJãĥ©":140035,"à¸ģà¹ĩสามารà¸ĸ":140036,"สà¹Īวà¸Ļลà¸Ķ":140037,"íı°":140038,"ĠPúb":140039,"ĠPúblico":140040,"à¹ģà¸Ļวà¸Ĺาà¸ĩ":140041,"×IJת×Ĵר":140042,"شاش":140043,"شاشة":140044,"ciÅĽni":140045,"ĠÃľrün":140046,"ÙĦÙĪØŃ":140047,"ĠاÙĦبÙĨ":140048,"ĠاÙĦبÙĨÙĥ":140049,"ì¡°ì¹ĺ":140050,"Ġorganización":140051,"ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸãģĦãģ¾ãģĻ":140052,"sätze":140053,"ĠÑģемей":140054,"ÙĤصد":140055,"ÑģÑĤвеннÑĭе":140056,"Ġprécéd":140057,"Ġprécédent":140058,"à¸ģรุà¸ĩà¹Ģà¸Ĺà¸ŀฯ":140059,"ãģ¨è¨ĢãģĦ":140060,"×ij׳×Ļ×Ļף":140061,"ĠØŃÙĪ":140062,"ĠØŃÙĪØ§ÙĦÙĬ":140063,"סקס":140064,"ĠsaÄŁlamak":140065,"Ġ׾צ×Ļ×Ļף":140066,"×§×ĵש":140067,"Ġ×Ķ×ŀ×¢×¨×Ľ×ª":140068,"Ġ׾×Ķ×¢×ij×Ļר":140069,"Ġgünd":140070,"Ġgündem":140071,"ĠнаÑĪего":140072,"à¹ĥà¸Ļà¸ŀืà¹īà¸Ļà¸Ĺีà¹Ī":140073,"à¹Ģà¸Ħรืà¸Ń":140074,"à¹Ģà¸Ħรืà¸Ńà¸Ĥ":140075,"à¹Ģà¸Ħรืà¸Ńà¸Ĥà¹Īาย":140076,"ظاÙĩرة":140077,"ÙħÙĨظÙħ":140078,"ÙħÙĨظÙħات":140079,"Ùħتاز":140080,"追ãģĦ":140081,"dıkt":140082,"dıktan":140083,"ĠëįĶìļ±":140084,"ĠÐĿапÑĢимеÑĢ":140085,"twór":140086,"×ŀ×ķעצ×Ķ":140087,"ÙĥÙĪÙĥ":140088,"Щ":140089,"×ŀ×ĺפ׾":140090,"ólica":140091,"訪ãĤĮ":140092,"ĠëĮĢë¶Ģ":140093,"ĠëĮĢë¶Ģë¶Ħ":140094,"ãĤ¯ãĥªãĥĥãĤ¯":140095,"ãĤĴéģ¸":140096,"ãĤĴéģ¸ãģ¶":140097,"Ġpowsta":140098,"ĠpowstaÅĤ":140099,"Ġrazón":140100,"×ij×ķ×Ĺר":140101,"ĠÑģообÑīил":140102,"Ġ×§×ij×ķ×¢":140103,"rêt":140104,"à¸Ķีà¸Ĥึà¹īà¸Ļ":140105,"×ŀסע×ĵ":140106,"×ŀסע×ĵ×ķת":140107,"ĠÃĸsterreich":140108,"Ġ׳×Ĺש×ij":140109,"Ùħبادرة":140110,"ì´ī":140111,"×Ĵ׳×ĺ×Ļ":140112,"ä¿¡ãģĺ":140113,"duÄŁ":140114,"duÄŁunu":140115,"Ġphú":140116,"ĠاÙĦأخÙĬر":140117,"Ġتعتبر":140118,"landırıl":140119,"ãģ¨ãģ¯ãģĦ":140120,"ãģ¨ãģ¯ãģĦãģĪ":140121,"ĠاÙĦØ·ÙĦ":140122,"ĠاÙĦØ·ÙĦاب":140123,"ĠNº":140124,"éģ¿ãģij":140125,"اÙĦÙħع":140126,"اÙĦÙħعرÙĪÙģ":140127,"à¸ªà¸łà¸²":140128,"éĽ¢ãĤĮ":140129,"ĠпомоÑīÑĮ":140130,"ĠзнаеÑĤ":140131,"ãĥĹãĥ¬ãĤ¼":140132,"ãĥĹãĥ¬ãĤ¼ãĥ³ãĥĪ":140133,"Ġsupérieur":140134,"Ġש׾×Ļש×Ļ":140135,"ĠاÙĦÙĨÙĪØ¹":140136,"ãĤĵãģ§ãģĻãģŃ":140137,"à¸Ńà¸ļรม":140138,"Ġgiá»įng":140139,"ĠwzglÄĻd":140140,"ĠاÙĦÙģÙĤر":140141,"èrent":140142,"Ġ×ŀ×IJ×Ĺ":140143,"Ġ×ŀ×IJ×Ĺ×ķר×Ļ":140144,"×Ĵ×Ĵ":140145,"×Ļ×Ļ×ij":140146,"ÙħÙĦاب":140147,"ÙħÙĦابس":140148,"Ġhükü":140149,"Ġhükümet":140150,"Ġ×ŀ×Ĵ×Ļ×ij":140151,"ĠÐŀÑĩ":140152,"ĠÐŀÑĩенÑĮ":140153,"æĹ©ãģĦ":140154,"Ġconstrucción":140155,"Ġthượng":140156,"ï¼ĭ":140157,"Ġcoração":140158,"à¹Ģหลà¹ĩà¸ģ":140159,"ĠBaÅŁb":140160,"ĠBaÅŁbakan":140161,"éĢ£ãĤĮ":140162,"ãģĻãĤĭãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ":140163,"ĠÙĤاÙħت":140164,"ĠاÙĥثر":140165,"ÙģØ§Ø¹ÙĦ":140166,"ĠÑĦоÑĢ":140167,"ĠÑĦоÑĢÑĥм":140168,"غذÙĬ":140169,"ĠiÅŁle":140170,"ĠiÅŁleml":140171,"ĠiÅŁlemleri":140172,"ĠìĤ¬ëŀĮìĿĢ":140173,"ĠìŀijìĦ±":140174,"Ġë§Ī볨":140175,"ÙħجÙĦس":140176,"หมู":140177,"дв":140178,"двиг":140179,"двига":140180,"à¹Ģสียà¸Ĭีวิà¸ķ":140181,"×Ķתפת×Ĺ":140182,"×Ķתפת×Ĺ×ķת":140183,"ĠмеÑĤÑĢо":140184,"ĠÑģенÑĤ":140185,"ĠÑģенÑĤÑı":140186,"ĠÑģенÑĤÑıбÑĢÑı":140187,"ê³§":140188,"Ġ×ľ×¤×¢":140189,"Ġ×ľ×¤×¢×ŀ×Ļ×Ŀ":140190,"à¹Ģà¸ļีย":140191,"詳ãģĹãģı":140192,"çķ°ãģªãĤĭ":140193,"Ġİlçe":140194,"ĠAtat":140195,"ĠAtatür":140196,"ĠAtatürk":140197,"รุà¹Īà¸ĩ":140198,"Ġkaldı":140199,"Ġ주ìŀ¥":140200,"Ġprésence":140201,"Ġнаб":140202,"ĠнаблÑİ":140203,"ĠнаблÑİда":140204,"ĠÑģамого":140205,"×Ĵ×ķש":140206,"×ŀ×ĺ×ķפ":140207,"×ŀ×ĺ×ķפ׾":140208,"ĠвÑĭбиÑĢа":140209,"ĠìŀIJ리":140210,"åĪĨãģĭãĤīãģªãģĦ":140211,"ĠзÑĥб":140212,"Ġש׼×ijר":140213,"Ġدائ":140214,"ĠدائÙħا":140215,"ĠпаÑĢÑĤи":140216,"ï¼²":140217,"ĠاÙĬضا":140218,"ĠÑħоз":140219,"ĠÑħозÑı":140220,"ĠÑħозÑıй":140221,"ĠÑħозÑıйÑģÑĤв":140222,"ĠاÙĦأج":140223,"ĠاÙĦأجÙĨب":140224,"ĠاÙĦأجÙĨبÙĬØ©":140225,"ĠÐĹна":140226,"ĠApós":140227,"ĠÑįнеÑĢ":140228,"ĠÑįнеÑĢги":140229,"Ġyans":140230,"Ġyansı":140231,"ĠJusti":140232,"ĠJustiça":140233,"Ġprévu":140234,"มวล":140235,"ìŀ¥ëĭĺ":140236,"à¸ģระà¸ļ":140237,"à¸ģระà¸ļวà¸Ļ":140238,"à¸ģระà¸ļวà¸Ļà¸ģาร":140239,"×ŀ×ŀ":140240,"×ŀ×ŀ×ķצע":140241,"Ġhẹ":140242,"Ġhẹn":140243,"здание":140244,"ĠakÅŁ":140245,"ĠakÅŁam":140246,"×ĺ×ķפ":140247,"Ġgerekt":140248,"Ġgerekti":140249,"ĠgerektiÄŁini":140250,"Ġnarz":140251,"ĠnarzÄĻdzi":140252,"épo":140253,"époque":140254,"ĠThần":140255,"Ġwysoko":140256,"ĠwysokoÅĽci":140257,"à¸ľà¸¹à¹īà¸Ľ":140258,"à¸ľà¸¹à¹īà¸Ľà¹Īวย":140259,"ĠÙĬبدÙĪ":140260,"ÑĤелÑĮного":140261,"ĠвзглÑıд":140262,"ĠjednÄħ":140263,"ĠìĿĺ견":140264,"Ġà¸Ĥà¸ĵะà¸Ĺีà¹Ī":140265,"פ×Ļ×ĵ":140266,"ìĥģëĭ´":140267,"Ġmỡ":140268,"×Ķ×ŀ׾":140269,"×Ķ×ŀ׾צ×ķת":140270,"ĠÑģоÑģÑĤо":140271,"ĠÑģоÑģÑĤоиÑĤ":140272,"Ġави":140273,"Ġавиа":140274,"ĠLänder":140275,"تصÙĪÙĬر":140276,"×ŀ×ĵ×Ļ×Ķ":140277,"ìłĪì°¨":140278,"ãģ¨ãĤĬ":140279,"ãģ¨ãĤĬãģĤ":140280,"ãģ¨ãĤĬãģĤãģĪ":140281,"ãģ¨ãĤĬãģĤãģĪãģļ":140282,"ĠÑĢÑıд":140283,"ĠÑĢÑıдом":140284,"ĠNhất":140285,"ĠاÙĦÙĥاÙħÙĦ":140286,"×Ĺ׾׾":140287,"ĠGiấy":140288,"צ×ĺר":140289,"צ×ĺרף":140290,"Ġ׾×ij×ĺ׾":140291,"ĠимеÑĤÑĮ":140292,"ס×ŀ×ķ×ļ":140293,"Ġparticipação":140294,"íķľëĭ¤ë©´":140295,"ÙħÙĨتدÙĬ":140296,"ÙħÙĨتدÙĬات":140297,"ĠeÄŁlen":140298,"gänge":140299,"ربØŃ":140300,"ãĤ®ãĥ£":140301,"ĠاÙĦرÙĤÙħ":140302,"à¸ĭà¹īำ":140303,"ĠHóa":140304,"×ŀר×Ĺ×§":140305,"ØŃÙħاÙħ":140306,"بÙĪÙĥ":140307,"ĠArtÃŃculo":140308,"ãĥĦãĤ¢ãĥ¼":140309,"×Ķפ׼×Ķ":140310,"×Ĺ׾×ķף":140311,"ĠпеÑĢеÑħод":140312,"lenmiÅŁ":140313,"زراعة":140314,"Ġseñor":140315,"ãģ£ãģ¦ãģįãģ¦":140316,"إش":140317,"إشارة":140318,"ĠpodÃŃa":140319,"ĠÃľlke":140320,"нÑģкаÑı":140321,"Ġadapté":140322,"Ġdüzenlen":140323,"Ġdüzenlenen":140324,"ĠÑģÑĤала":140325,"ĠÙĬØŃتاج":140326,"Ġnier":140327,"Ġnieruch":140328,"Ġnieruchomo":140329,"ĠnieruchomoÅĽci":140330,"ãģĵãģ¨ãģĮãģĤãĤĭ":140331,"ยà¸Ńà¸Ķà¹Ģยีà¹Īยม":140332,"ĠÙħج":140333,"ĠÙħجاÙĨÙĬ":140334,"Ġзаб":140335,"Ġзабол":140336,"Ġзаболев":140337,"ĠзаболеваниÑı":140338,"ĠÅĽro":140339,"ĠÅĽrodk":140340,"ĠÅĽrodków":140341,"Ġ×Ķ׾×IJ×ķ×ŀ×Ļ":140342,"ĠdokÅĤad":140343,"ĠdokÅĤadnie":140344,"ãģŁãģıãģªãģĦ":140345,"ãģ¯ãģļãģ§ãģĻ":140346,"ã썿ĢĿãģ£ãģ¦ãģĦãģŁ":140347,"écran":140348,"ìĹħì²´":140349,"trzymaÅĤ":140350,"ÑģÑĤвеннÑĭй":140351,"ĠNotÃŃc":140352,"ĠNotÃŃcias":140353,"ÙħرÙĬ":140354,"ÙħرÙĬض":140355,"æ°Ĺè»":140356,"æ°Ĺ軽":140357,"æ°Ĺ軽ãģ«":140358,"ëĵ£":140359,"Ġ×ĵ×ķ×IJר":140360,"Ġ׾×ŀ׳":140361,"Ġ׾×ŀ׳×ķ×¢":140362,"ĠçalÄ±ÅŁÄ±yor":140363,"ĠÅŁidd":140364,"ĠÅŁiddet":140365,"ĠMặt":140366,"ĠateÅŁ":140367,"ĠполÑĥÑĩениÑı":140368,"à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩมืà¸Ń":140369,"ĠgrÃ¶ÃŁer":140370,"دائ":140371,"دائرة":140372,"Ġbulun":140373,"Ġbulunmaktadır":140374,"à¹Ģหร":140375,"à¹Ģหรีย":140376,"à¹Ģหรียà¸į":140377,"à¸Ļัà¸ģà¸Ĺà¹Īà¸Ńà¸ĩà¹Ģà¸Ĺีà¹Īยว":140378,"Ġalanında":140379,"ĠÑĥзна":140380,"ĠлеÑĩение":140381,"売ãĤĮ":140382,"Ġçevir":140383,"ĠdesteÄŁi":140384,"ĠheiÃŁt":140385,"âĸ²":140386,"ØŃØ·":140387,"à¸Ħำà¸ķà¸Ńà¸ļ":140388,"ãĤªãĥ³ãĥ©ãĤ¤ãĥ³":140389,"Ġ×ij×Ĺ×Ļ×Ļ×Ŀ":140390,"ãĥ¦ãĥĭ":140391,"Ġdüzenleme":140392,"ĠmodalitÃł":140393,"سرط":140394,"سرطاÙĨ":140395,"×ŀ׼×ķף":140396,"ĠданнÑĭй":140397,"ترت":140398,"ترتÙĬب":140399,"à¸ļาà¸ĩà¸Ħà¸Ļ":140400,"ĠÄIJá»ĭnh":140401,"มูล":140402,"มูลà¸Ħà¹Īา":140403,"ÙĨÙĤص":140404,"à¸ģารรัà¸ģษา":140405,"ĠÑĦон":140406,"ĠÑĦонд":140407,"ãĤĪãģĨãģ«ãģªãģ£ãģŁ":140408,"ÙħعاÙĦ":140409,"ÙħعاÙĦجة":140410,"ĠOsman":140411,"ĠOsmanlı":140412,"иÑĩеÑģком":140413,"à¸Ńยาà¸ģà¸Īะ":140414,"ãģķãģ¾ãģĸ":140415,"ãģķãģ¾ãģĸãģ¾":140416,"ãģķãģ¾ãģĸãģ¾ãģª":140417,"Ġת×ķ׼׾":140418,"עצ×ij":140419,"ĠاÙĦعسÙĥ":140420,"ĠاÙĦعسÙĥرÙĬ":140421,"Ġvéhic":140422,"Ġvéhicule":140423,"Ġ×Ļצ×Ĺ×§":140424,"ĠاÙĦÙĪØŃ":140425,"ĠاÙĦÙĪØŃÙĬد":140426,"ĠاÙĦعدÙĪ":140427,"ĠQuản":140428,"Ġê³µëıĻ":140429,"بدÙĦ":140430,"ĠÄijảng":140431,"Ġmá»ĩnh":140432,"Ġniezb":140433,"ĠniezbÄĻ":140434,"ĠniezbÄĻdn":140435,"Ġyayınlan":140436,"обÑīи":140437,"Ġgötür":140438,"צפ":140439,"צפ×ķ×Ļ":140440,"ĠÙĦÙĬبÙĬ":140441,"ĠÙĦÙĬبÙĬا":140442,"ØŃÙĪØ§":140443,"Ġдоб":140444,"ĠдобÑĢо":140445,"иÑĢÑĥем":140446,"ĠاÙĦØŃÙĥÙĪÙħÙĬØ©":140447,"mÃ¤ÃŁig":140448,"Ġedición":140449,"влекаÑĤелÑĮ":140450,"влекаÑĤелÑĮн":140451,"Ġ×ª×©×ľ×ķ×Ŀ":140452,"Ġ×Ķש×ķ׳×Ļ×Ŀ":140453,"มิà¸ĸุ":140454,"มิà¸ĸุà¸Ļ":140455,"มิà¸ĸุà¸Ļายà¸Ļ":140456,"é£Łãģ¹ãģ¦":140457,"ĠìĪĺì§ij":140458,"ס×ij×Ļ":140459,"ĠиÑİлÑı":140460,"Ġà¹Ħà¸Ķà¹īà¹ģà¸ģà¹Ī":140461,"׾×Ĺ×Ŀ":140462,"trä":140463,"trägt":140464,"ãģĿãĤĤãģĿãĤĤ":140465,"ÐĿÐķ":140466,"ĠвнÑĥÑĤ":140467,"ĠвнÑĥÑĤÑĢи":140468,"ãģ¨ä¸Ģç·Ĵãģ«":140469,"ãĤ«ãĥķãĤ§":140470,"Ġ×ij×Ĺ×ĵר":140471,"×Ĺ×ŀש":140472,"ãĤ¨ãĥį":140473,"ãĤ¨ãĥįãĥ«":140474,"ãĤ¨ãĥįãĥ«ãĤ®":140475,"ãĤ¨ãĥįãĥ«ãĤ®ãĥ¼":140476,"à¸Ĥà¸Ńà¸ĩà¸ķัวà¹Ģà¸Ńà¸ĩ":140477,"بÙĤاء":140478,"פס×Ļ׼":140479,"פס×Ļ׼×ķ׾×ķ×Ĵ":140480,"ãĥ¡ãĥĥ":140481,"ãĥ¡ãĥĥãĤ»":140482,"ãĥ¡ãĥĥãĤ»ãĥ¼ãĤ¸":140483,"ÙĦÙĤب":140484,"AÄŀ":140485,"שק×Ļ×¢":140486,"ÙĤساÙħ":140487,"×ĵ×ķ×Ĵ×ŀ×Ķ":140488,"æ·±ãģĦ":140489,"íĸĪëĬĶëį°":140490,"ĠrozwiÄħzanie":140491,"à¸Ļัà¹Īà¸Ļà¹Ģà¸Ńà¸ĩ":140492,"×Ļצ×ij":140493,"Ġtrông":140494,"à¹ĥà¸Ĭà¹īà¸ļริà¸ģาร":140495,"ĠاÙĦÙħÙĪØ³Ùħ":140496,"ĠдеÑĤи":140497,"ãģĹãģĭãģªãģĦ":140498,"ס×Ļף":140499,"Ġréférence":140500,"à¹ģหà¹īà¸ĩ":140501,"ãĤĤãĤīãģ£ãģŁ":140502,"Ġ׾ר׼":140503,"Ġ׾ר׼×ķש":140504,"شعÙĪØ±":140505,"ĠÐijог":140506,"Ġlazım":140507,"Ġ×Ļש׳×Ŀ":140508,"ĠпаÑĢÑĤ":140509,"ĠпаÑĢÑĤнеÑĢ":140510,"ĠÑĥника":140511,"ĠÑĥникалÑĮн":140512,"Ġmatériel":140513,"×ŀרק":140514,"Ġphưá»Ŀng":140515,"Ġзай":140516,"Ġзайм":140517,"ÙģÙĤد":140518,"UniversitÃł":140519,"×¢×¨×Ľ×Ļ×Ŀ":140520,"Ġbaño":140521,"ĠноÑı":140522,"ĠноÑıбÑĢÑı":140523,"à¸Ľà¹īาย":140524,"Ġtats":140525,"Ġtatsäch":140526,"Ġtatsächlich":140527,"ĠÑĤÑĢеÑĤÑĮ":140528,"Ñįм":140529,"ãĥĻãĥ¼ãĤ¹":140530,"Ġnhá»±a":140531,"ìĬ¤íģ¬":140532,"ĠعبداÙĦÙĦÙĩ":140533,"Ġת×ķר×Ķ":140534,"أشÙĬ":140535,"أشÙĬاء":140536,"ĠÙĦÙĦغا":140537,"ĠÙĦÙĦغاÙĬØ©":140538,"ÙħÙĪØ§ÙĤ":140539,"ÙħÙĪØ§ÙĤÙģ":140540,"ĠgÅĤówna":140541,"ĠartÄ±ÅŁ":140542,"Ġ×ŀ×§×ķ×ŀ×Ļ":140543,"ãĤ¯ãĥ©ãĥĸ":140544,"ĠسÙĪÙī":140545,"ĠìŬìĦ±":140546,"اسر":140547,"اسرائÙĬÙĦ":140548,"Ġ×ł×Ľ×ª×ij":140549,"ยà¹īà¸Ńà¸Ļ":140550,"Ġdeberá":140551,"Ġphẫu":140552,"ÑİÑīем":140553,"ĠÙĦدÙĬÙĨا":140554,"×ŀ×ĺ×Ķ":140555,"Ġ׳×ķ׾×ĵ":140556,"ĠвÑģÑĤÑĢеÑĩа":140557,"ãĤīãĤĮãģ¦ãģĦãģ¾ãģĻ":140558,"ĠcaÅĤej":140559,"ยึ":140560,"ยึà¸Ķ":140561,"поÑĤен":140562,"поÑĤенÑĨи":140563,"ĠлиÑĤ":140564,"ĠлиÑĤеÑĢ":140565,"ĠлиÑĤеÑĢаÑĤÑĥÑĢ":140566,"Ġкаждом":140567,"ĠíĮIJ":140568,"ĠíĮIJëĭ¨":140569,"à¸Īู":140570,"Ġpresença":140571,"ãģªãĤĵãģ§":140572,"ÙħÙĬاÙĩ":140573,"инÑĦоÑĢм":140574,"инÑĦоÑĢмаÑĨион":140575,"инÑĦоÑĢмаÑĨионн":140576,"ĠìŀIJìŰ":140577,"ר׼ש":140578,"Ġödül":140579,"ç¶ļãģı":140580,"ĠпÑģ":140581,"ĠпÑģиÑħ":140582,"ĠпÑģиÑħолог":140583,"تذÙĥر":140584,"Ġìŀħìŀ¥":140585,"ลà¸Ķà¹Į":140586,"ìĦłê±°":140587,"ãģ£ãģ¦ãģĬãĤĬãģ¾ãģĻ":140588,"Ġ×Ļ×¢":140589,"Ġ×Ļ×¢×§×ij":140590,"ĠاÙĦطعاÙħ":140591,"ãĥĨãĤ¹ãĥĪ":140592,"ĠTuấn":140593,"Ġparticipación":140594,"×ŀ×ķ×ŀ×Ĺ×Ķ":140595,"×Ĵרס×Ķ":140596,"ĠاÙĦتÙĨÙģÙĬ":140597,"ĠاÙĦتÙĨÙģÙĬذÙĬ":140598,"ĠбезопаÑģн":140599,"gef":140600,"gefähr":140601,"Ø´ÙĪØ±":140602,"ĠmyÅĽli":140603,"ÙĪØ§Ø´ÙĨ":140604,"ÙĪØ§Ø´ÙĨØ·ÙĨ":140605,"׳×ķסע":140606,"ÙĥÙĩ":140607,"ÙĥÙĩرب":140608,"ÙĥÙĩرباء":140609,"ĠmusiaÅĤ":140610,"ìĭ¸":140611,"ãĥĸãĥ©ãĥĥãĤ¯":140612,"Ġcréé":140613,"ÙĨÙĩار":140614,"owoÅĽÄĩ":140615,"ÙħØŃاÙĥÙħ":140616,"ĠwÅĤaÅĽ":140617,"ĠwÅĤaÅĽc":140618,"ĠwÅĤaÅĽciciel":140619,"ĠÙĬؤ":140620,"ĠÙĬؤدÙĬ":140621,"×ŀ×¢×ķ׳":140622,"×IJ×ij׾":140623,"خطأ":140624,"ĠÑħолод":140625,"×ĸ×ķ׾":140626,"ãģĵãĤĮãĤī":140627,"ãģĵãĤĮãĤīãģ®":140628,"Ġbásica":140629,"ฤà¸Ķ":140630,"ฤà¸Ķูà¸ģ":140631,"ฤà¸Ķูà¸ģา":140632,"ฤà¸Ķูà¸ģาล":140633,"èIJ½ãģ¡çĿĢ":140634,"ãģªãģĦãģĵãģ¨":140635,"صÙĪÙħ":140636,"ÙĨجØŃ":140637,"׳ק×ķ×ĵ":140638,"׳ק×ķ×ĵת":140639,"клаÑģÑģ":140640,"íķĺìĭľëĬĶ":140641,"ëĦĺ":140642,"Ġש×IJ×Ļ׳×ķ":140643,"ĠСейÑĩаÑģ":140644,"mayacaģı":140645,"Ġyapılır":140646,"ĠcategorÃŃa":140647,"عباد":140648,"ĠТеп":140649,"ĠТепеÑĢÑĮ":140650,"×Ķ×Ļס×ĺ×ķר×Ļ":140651,"hế":140652,"ãĤ³ãĥ¼ãĥī":140653,"Ġcabeça":140654,"جÙħا":140655,"جÙħاÙĩ":140656,"جÙħاÙĩÙĬر":140657,"ä½İãģĦ":140658,"ĠÑĤоваÑĢов":140659,"à¸Ĭาวà¸ļà¹īาà¸Ļ":140660,"ĠÑģÑĤанов":140661,"ĠÑģÑĤановиÑĤÑģÑı":140662,"ĠавÑĤомобилÑĮ":140663,"ĠÑģлÑĥÑĩай":140664,"à¸Ńัà¸ŀ":140665,"ĠGiriÅŁ":140666,"ĠìĿ¼ëĭ¨":140667,"ĠпÑĢоÑģ":140668,"ĠпÑĢоÑģмоÑĤÑĢ":140669,"ãģªãģıãģªãģ£ãģŁ":140670,"à¸¡à¸µà¸Ľà¸±à¸įหา":140671,"ïºİ":140672,"écoute":140673,"ĠÙħÙĪØ¬ÙĪØ¯":140674,"ĠسرÙĬع":140675,"ĠÙĪÙĩÙĨا":140676,"ĠÙĪÙĩÙĨاÙĥ":140677,"à¸Ħุà¸ĵสม":140678,"à¸Ħุà¸ĵสมà¸ļัà¸ķิ":140679,"Ġìļ°ìĦł":140680,"à¸ŀระà¸ŀุà¸Ĺà¸ĺ":140681,"好ãģ¿":140682,"ظÙĦÙħ":140683,"ĠмакÑģ":140684,"ĠмакÑģималÑĮ":140685,"ĠмакÑģималÑĮно":140686,"ãĥªãĤ¢ãĥ«":140687,"à¹ģมà¹īวà¹Īา":140688,"ĠاÙĦØŃÙĪØ§Ø±":140689,"ãĥĹãĥ©ãĤ¹":140690,"ĠعÙĦاÙĤØ©":140691,"ĠíĸīëıĻ":140692,"Ġgönderil":140693,"Ġlãi":140694,"ĠsaÄŁlıkl":140695,"ĠsaÄŁlıklı":140696,"ĠÑĪаг":140697,"Ġ×ij×IJר×Ķ":140698,"prowadziÄĩ":140699,"ãģĦãģıãģ¤ãģĭ":140700,"ĠبتارÙĬØ®":140701,"Ġ×ij×IJ×ķת×Ķ":140702,"Ġmóc":140703,"ĠÐľÐ½Ðµ":140704,"ãĥĹãĥ¬ãĥ¼":140705,"×IJ×ĸר×Ĺ":140706,"åł´åIJĪãģ«ãģ¯":140707,"使ãģĪ":140708,"à¹Ģรืà¸Ńà¸Ļ":140709,"ĠÐŁÐµÑĤ":140710,"ĠÐŁÐµÑĤÑĢ":140711,"ãģ«åħ¥ãĤĭ":140712,"Ùħادة":140713,"à¹Ģà¸ĩืà¹Īà¸Ńà¸Ļ":140714,"à¹Ģà¸ĩืà¹Īà¸Ńà¸Ļà¹Ħà¸Ĥ":140715,"ĠÑģоÑģÑĤоÑıние":140716,"ônica":140717,"ĠÑĦев":140718,"ĠÑĦевÑĢа":140719,"ĠÑĦевÑĢалÑı":140720,"Ġ×ķ×ĸ":140721,"Ġ×ķ×ĸ×IJת":140722,"à¸Ħริ":140723,"à¸Ħริส":140724,"ĠÐķÑīе":140725,"ãģ£ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĹãģŁ":140726,"ĠпÑĢавиÑĤелÑĮ":140727,"ĠпÑĢавиÑĤелÑĮÑģÑĤв":140728,"Ġtäglich":140729,"Ġëĭ¹ìĭľ":140730,"×ŀ×ķ×¢×ŀ×ĵ":140731,"ĠдвоÑĢ":140732,"æīķ":140733,"æīķãģĦ":140734,"ĠÑģÑĤанеÑĤ":140735,"ĠвоздейÑģÑĤв":140736,"ĠвоздейÑģÑĤви":140737,"Ġfête":140738,"à¹Ģสา":140739,"תק×ķ×ķ×Ķ":140740,"Ġuyar":140741,"Ġuyarı":140742,"à¸ģลัà¸ļà¹Ħà¸Ľ":140743,"Ġgiưá»Ŀng":140744,"Ġва":140745,"ĠваÑĪи":140746,"ĠÄijáºŃu":140747,"ĠSpaÃŁ":140748,"ĠìķĦë§Ī":140749,"à¹Ħà¸Ķà¹īà¸ĩà¹Īาย":140750,"Ġ×Ķ×ŀ×ijקש":140751,"æĸ°ãģŁ":140752,"æĸ°ãģŁãģª":140753,"ılıyor":140754,"план":140755,"Ġ×Ķ×ijר×Ļ×IJ×ķת":140756,"ĠaÄŁrı":140757,"Ġsaygı":140758,"建ãģ¦":140759,"Ġnajwyż":140760,"Ġnajwyższ":140761,"سÙĬاسات":140762,"ãģĬå¾Ĺ":140763,"ĠاÙĦعÙĦÙĬ":140764,"ĠاÙĦعÙĦÙĬا":140765,"Ġcorazón":140766,"ì¹ĺë£Į":140767,"หัวà¸Ĥà¹īà¸Ń":140768,"ĠبØŃÙĬ":140769,"ĠبØŃÙĬØ«":140770,"звезд":140771,"بÙĪØ§Ø¨Ø©":140772,"ÐĽÐĺ":140773,"ÙĦازÙħ":140774,"Ġrozp":140775,"Ġrozpoc":140776,"ĠrozpoczÄĻ":140777,"触ãĤĮ":140778,"ĠاÙĦجÙħÙĩ":140779,"ĠاÙĦجÙħÙĩÙĪØ±":140780,"ĠspÄĻd":140781,"ĠspÄĻdz":140782,"วิà¸Ĺยาศาสà¸ķรà¹Į":140783,"иваеÑĤÑģÑı":140784,"Ġданной":140785,"Ġreprésente":140786,"ĠÄijá»ĭch":140787,"Ġ×¢×ŀ×ķ×§":140788,"à¸Ńัà¸Ļà¸ķร":140789,"à¸Ńัà¸Ļà¸ķราย":140790,"Ġestratég":140791,"Ġestratégia":140792,"padÅĤ":140793,"Ġвполн":140794,"Ġвполне":140795,"ĠпÑĢедоÑģÑĤавлен":140796,"×Ĺ׾×ķ×§":140797,"×Ĺ׾×ķקת":140798,"ãĤ¢ãĥĬ":140799,"ĠاÙĦغذ":140800,"ĠاÙĦغذائÙĬ":140801,"ĠÑĥзн":140802,"ĠÑĥзнаÑĤÑĮ":140803,"à¸ĭà¹īาย":140804,"å½ĵãģ¦":140805,"ØŃÙĬاء":140806,"Ġbásico":140807,"×§×ķ×ij×¢":140808,"ĠاÙĦÙħباراة":140809,"ĠاÙĦÙĩاتÙģ":140810,"Ġ׼׳×Ĵ×ĵ":140811,"à¸Ľà¸£à¸°à¸«à¸¢":140812,"à¸Ľà¸£à¸°à¸«à¸¢à¸±à¸Ķ":140813,"Ðļак":140814,"à¸Ĺีà¹Īà¸Ļà¹Īา":140815,"à¸Ĺีà¹Īà¸Ļà¹Īาสà¸Ļà¹ĥà¸Ī":140816,"ãģ¾ãģģ":140817,"ï½¢":140818,"Ñģкоп":140819,"Ġsonrasında":140820,"ĠurzÄħd":140821,"ĠurzÄħdzenia":140822,"׼×ķ×ķ׳":140823,"׼×ķ×ķ×ł×ª":140824,"Ġ׾×Ķת×ŀ×ķ×ĵ":140825,"Ġ׾×Ķת×ŀ×ķ×ĵ×ĵ":140826,"ĠÑģли":140827,"ĠÑģлиÑĪ":140828,"ĠÑģлиÑĪком":140829,"ĠÑģÑĤÑĥд":140830,"ĠÑģÑĤÑĥденÑĤ":140831,"Ġ×Ķ×ķ×ĵ":140832,"Ġ×Ķ×ķ×ĵ×¢×Ķ":140833,"ë¹Ħìļ©":140834,"à¸Ńยาà¸ģà¹ĥหà¹ī":140835,"Ġbá»ģ":140836,"ยุà¸Ĺà¸ĺ":140837,"ÐĺÐĿ":140838,"سائر":140839,"أصÙĪÙĦ":140840,"ĠاÙĦغرÙģ":140841,"ãģĵãģ¨ãĤĤãģĤãĤĬãģ¾ãģĻ":140842,"è¾¼ãģ¾ãĤĮ":140843,"ĠاÙĦسابع":140844,"Ġcá»§":140845,"ãģĦãģŁãģłãģĦãģŁ":140846,"ì§ĵ":140847,"ìĤ¬ë¬´":140848,"powiedź":140849,"تÙģÙĥ":140850,"تÙģÙĥÙĬر":140851,"иÑĢовки":140852,"ĠíĨµíķ´ìĦľ":140853,"ãĤ¨ãĤ¹ãĥĨ":140854,"ĠдеÑıÑĤелÑĮноÑģÑĤÑĮ":140855,"ĠданнÑĭм":140856,"Ġ×¢×ķר":140857,"Ġ×¢×ķר׼×Ļ":140858,"×ķ×ĵעת":140859,"Ġhayatını":140860,"ĠbÄħd":140861,"ĠbÄħdź":140862,"obsÅĤug":140863,"à¹Ģà¸ŀียà¸ĩà¹ģà¸Ħà¹Ī":140864,"à¸ĭà¹Īา":140865,"è²łãģij":140866,"ĠÑģÑĤÑĢем":140867,"ĠÄijá»īnh":140868,"ĠÐłÑĥÑģ":140869,"ĠNữ":140870,"Ġ׾×Ķש×Ļ×Ĵ":140871,"Ġjednoc":140872,"Ġjednocze":140873,"ĠjednoczeÅĽnie":140874,"Ġ×Ķ×Ĵ×ij×ķ×Ķ":140875,"أخÙĦاÙĤ":140876,"ĠнаÑģел":140877,"ĠнаÑģелениÑı":140878,"ĠÙĬÙĨب":140879,"ĠÙĬÙĨبغÙĬ":140880,"ãģĮãģĭ":140881,"ãģĮãģĭãģĭ":140882,"×Ĵעת":140883,"ÐŀÐł":140884,"ĠналиÑĩии":140885,"Ġë§Īì§Ģ":140886,"Ġë§Īì§Ģë§ī":140887,"ĠíĸīìĤ¬":140888,"ĠtreÅĽci":140889,"Ġê°Ģì¹ĺ":140890,"ì¦ĺ":140891,"Ġаналог":140892,"×Ķצעת":140893,"влад":140894,"владе":140895,"ĠÑģделал":140896,"Ġ׳×Ĵ×Ļש":140897,"Ġ׳×Ĵ×Ļש×ķת":140898,"полнение":140899,"à¸Ĩà¹Īา":140900,"ĠDön":140901,"׼׾׼׾×Ķ":140902,"×ŀ×ĸ×Ĵ":140903,"ÙħÙģ":140904,"ÙħÙģÙĩ":140905,"ÙħÙģÙĩÙĪÙħ":140906,"×Ķ×ĵ":140907,"×Ķ×ĵפס":140908,"×Ķ×ĵפס×Ķ":140909,"ãģĻãģİãģ¦":140910,"ĠгÑĢ":140911,"ĠгÑĢн":140912,"×ŀ×ĺ×ķס":140913,"Ġ기ìĸµ":140914,"ï¾Ł":140915,"ĠpÅĤyn":140916,"ĠGründe":140917,"ĠBücher":140918,"ĠwedÅĤug":140919,"ãģ¾ãģłãģ¾ãģł":140920,"Ġ׳×Ķ×ĵר":140921,"ĠÙĬستطÙĬع":140922,"ĠHiá»ĩp":140923,"ãĤŃãĥ£ãĥ³ãĥļ":140924,"ãĤŃãĥ£ãĥ³ãĥļãĥ¼ãĥ³":140925,"Ġthá»ķ":140926,"Ġeuropéenne":140927,"à¸ļัà¸ĩ":140928,"à¸ļัà¸ĩà¸Ħัà¸ļ":140929,"ĠszczegóÅĤowo":140930,"׳שק":140931,"ãĥķãĥ©ãĥ³ãĤ¹":140932,"×ŀ×ķ×ŀ×Ĺ×Ļ":140933,"Ġcomún":140934,"Ġçarp":140935,"ØŃتÙĬا":140936,"ØŃتÙĬاج":140937,"ØŃتÙĬاجات":140938,"ëĭ´ëĭ¹":140939,"ä½ķ度":140940,"ä½ķ度ãĤĤ":140941,"×ĵ×ij×§":140942,"ãģįãĤĮ":140943,"ãģįãĤĮãģĦ":140944,"Ġкам":140945,"ĠкамеÑĢ":140946,"ĠespecÃŃfico":140947,"Ġteléfono":140948,"à¸ķัà¹īà¸ĩà¸Ńยูà¹Ī":140949,"IÅŀ":140950,"ãģ©ãĤĵãģ©":140951,"ãģ©ãĤĵãģ©ãĤĵ":140952,"עצ×ŀ×IJ×Ļ":140953,"à¸Ķัà¸ĩà¸Ļีà¹ī":140954,"ĠÑĦоÑĢмиÑĢов":140955,"ĠÑĦоÑĢмиÑĢова":140956,"×ķ×ŀ×ij":140957,"Ġkullanımı":140958,"ÐľÐŀ":140959,"עש×Ļ":140960,"עש×Ļ×Ļ×Ķ":140961,"Ġönlem":140962,"à¹Ģà¸Ńà¹ĩ":140963,"à¹Ģà¸Ńà¹ĩม":140964,"×ŀשק×Ļ×¢":140965,"ר×Ļ×Ĺ":140966,"à¸Ĥัà¸Ķ":140967,"ĠíĻľ":140968,"ĠíĻľìļ©":140969,"à¸ĭะ":140970,"ãĤĪãģĨãģ«ãģªãĤĬãģ¾ãģĹãģŁ":140971,"ĠÑĢаÑģпÑĢ":140972,"ĠÑĢаÑģпÑĢоÑģÑĤ":140973,"ĠÑĢаÑģпÑĢоÑģÑĤÑĢан":140974,"ĠÑĢаÑģпÑĢоÑģÑĤÑĢанен":140975,"׼×Ļ×ķף":140976,"ÙĤبض":140977,"تصرÙĬØŃ":140978,"تصرÙĬØŃات":140979,"ĠоÑĢи":140980,"ĠоÑĢиг":140981,"ĠоÑĢигина":140982,"ĠоÑĢигинал":140983,"ĠاÙĦعاÙĦÙĬ":140984,"à¹ģหà¹Īà¸ĩà¸Ļีà¹ī":140985,"ãĥķãĤ¡ãĥ¼":140986,"ãģ¦ãģĦãģį":140987,"ãģ¦ãģĦãģįãģŁãģĦ":140988,"פתר":140989,"פתר×ķ׳×ķת":140990,"Ġ×ij×Ļ×Ĺ":140991,"Ġ×ij×Ļ×Ĺ×ĵ":140992,"Ġodby":140993,"ĠodbyÅĤ":140994,"ĠоÑĩеÑĢед":140995,"Ġtrương":140996,"ãĤŃãĥ³":140997,"×ŀ×ķפ":140998,"×ŀ×ķפע":140999,"ëĵľë¦½":141000,"ëĵľë¦½ëĭĪëĭ¤":141001,"à¸ŀืà¹īà¸Ļà¸IJาà¸Ļ":141002,"ìŀIJ격":141003,"ĠViá»ĩn":141004,"ĠDespués":141005,"Ġ×IJ׾×Ļ׳×ķ":141006,"Ġdurée":141007,"íĩ´":141008,"Ġmüzik":141009,"iếu":141010,"ĠÑĢазмеÑīен":141011,"ĠкÑĥд":141012,"ĠкÑĥда":141013,"غض":141014,"غضب":141015,"ĠTambém":141016,"à¸Īัà¸Ķสà¹Īà¸ĩ":141017,"à¸ģารà¹ģสà¸Ķà¸ĩ":141018,"onomÃŃa":141019,"Ġанг":141020,"Ġангли":141021,"Ġанглий":141022,"ĠанглийÑģк":141023,"Ġznal":141024,"Ġznalaz":141025,"ĠznalazÅĤ":141026,"תר×Ĵ":141027,"תר×Ĵ×ķ×Ŀ":141028,"ĠÑģнов":141029,"ĠÑģнова":141030,"ĠÑĩаÑģа":141031,"Ġcommunauté":141032,"ĠespecÃŃfica":141033,"ĠLá»ĭch":141034,"Ġlié":141035,"ÙģØ¬Ø±":141036,"à¹Ģà¸ģà¹Īà¸ĩ":141037,"عاÙĦ":141038,"عاÙĦج":141039,"Ø£ÙĨظ":141040,"Ø£ÙĨظÙħØ©":141041,"ESİ":141042,"ĠاÙĦØŃدÙĬد":141043,"à¸ŀระà¸Ńà¸ĩà¸Ħà¹Į":141044,"Ġפרשת":141045,"Ġдвиж":141046,"ĠдвижениÑı":141047,"ĠاÙĦجارÙĬ":141048,"à¸ĺาà¸Ļี":141049,"неÑģен":141050,"ĠاÙĦÙĨÙĩائÙĬ":141051,"ĠбеÑĢ":141052,"ĠбеÑĢем":141053,"ĠбеÑĢеменн":141054,"Ġdépartement":141055,"à¹Ģà¸Ĺีย":141056,"à¹Ģà¸Ĺียà¸ļ":141057,"ĠÐľÐ°ÑĢи":141058,"ĠнекоÑĤоÑĢÑĭÑħ":141059,"обеÑģп":141060,"обеÑģпеÑĩен":141061,"×Ĺ×ķ×ĸ":141062,"×Ĺ×ķ×ĸ×Ķ":141063,"ÙĨتج":141064,"à¸Īะà¹Ħà¸Ķà¹īรัà¸ļ":141065,"á»°":141066,"Ġéléments":141067,"عط":141068,"عطاء":141069,"Ġtắt":141070,"iá»ĩm":141071,"ÑİÑīиÑħÑģÑı":141072,"ãģĹãģ°":141073,"ãģĹãģ°ãĤīãģı":141074,"ĠпоможеÑĤ":141075,"à¸Ĥà¸ĵะà¸Ļีà¹ī":141076,"Ġעשר×ķת":141077,"éģķãģ£ãģ¦":141078,"ĠпÑĢог":141079,"ĠпÑĢогн":141080,"ĠпÑĢогноз":141081,"ĠtÅĤ":141082,"ĠtÅĤum":141083,"ĠtÅĤumacz":141084,"Tür":141085,"Türkiye":141086,"ãģįãģ£":141087,"ãģįãģ£ãģĭãģij":141088,"Ġ×Ķ׳×ķ׼":141089,"Ġ×Ķ׳×ķ׼×Ĺ×Ļ":141090,"ĠìĥĿìĤ°":141091,"ĠÑĦоÑĢмÑĭ":141092,"ç¾İãģĹãģĦ":141093,"à¸Ľà¸£à¸¶à¸ģ":141094,"à¸Ľà¸£à¸¶à¸ģษา":141095,"Ġlumière":141096,"ãĤªãĥ¼ãĥĹ":141097,"ãĤªãĥ¼ãĥĹãĥ³":141098,"à¸Ľà¸·à¸Ļ":141099,"วัสà¸Ķ":141100,"วัสà¸Ķุ":141101,"еÑĢÑĤв":141102,"ÙĥÙĦÙģ":141103,"ï½£":141104,"à¸ĺรรมà¸Ķา":141105,"׳×ĺר":141106,"ĠпÑĢедÑģÑĤавлÑıеÑĤ":141107,"Ġanálisis":141108,"Ġbãi":141109,"باÙĤÙĬ":141110,"à¸Ľà¸£à¸°à¹Ģà¸Ķ":141111,"à¸Ľà¸£à¸°à¹Ģà¸Ķà¹ĩà¸Ļ":141112,"ĠÑģлÑĥÑĩаÑı":141113,"ĠÑģлÑĥÑĩаÑıÑħ":141114,"ÐĽÐIJ":141115,"สัà¸ĩà¹Ģà¸ģ":141116,"สัà¸ĩà¹Ģà¸ģà¸ķ":141117,"Ġprzec":141118,"Ġprzecież":141119,"ÙħصÙĦ":141120,"ÙħصÙĦØŃØ©":141121,"ש×ķ×§×ķ׾×ĵ":141122,"ĠобоÑĢÑĥдованиÑı":141123,"ĠtrwaÅĤ":141124,"رÙĪÙħ":141125,"ìķĪëĤ´":141126,"ĠNghá»ĭ":141127,"خش":141128,"à¸ļาà¸Ħาร":141129,"à¸ļาà¸Ħารà¹Īา":141130,"ĠопÑĨион":141131,"ĠÑģозданиÑı":141132,"ãĤ³ãĤ¹ãĥĪ":141133,"Ġ×Ķ×¢×ľ×Ļ":141134,"Ġ×Ķ×¢×ľ×Ļ×ķף":141135,"läuft":141136,"ãĥĻãĤ¹ãĥĪ":141137,"Ġrê":141138,"Ġrêve":141139,"×IJ×ij×Ļ×ij":141140,"×Ļ×Ļ×ļ":141141,"ë¶Ļ":141142,"ãĤ¤ãĥ³ãĥī":141143,"ÅĤoży":141144,"ÅĤożyÄĩ":141145,"عائÙĦ":141146,"عائÙĦØ©":141147,"Ø£ÙĪØ±":141148,"Ø£ÙĪØ±Ø§ÙĤ":141149,"à¸Ĺà¹īà¸Ńà¸ĩà¸ĸ":141150,"à¸Ĺà¹īà¸Ńà¸ĩà¸ĸิà¹Īà¸Ļ":141151,"Ġähn":141152,"Ġähnlich":141153,"ãĥŁãĥĭ":141154,"à¸ľà¸¹":141155,"à¸ľà¸¹à¹īà¸Ļ":141156,"à¸ľà¸¹à¹īà¸Ļำ":141157,"ĠмаÑĤеÑĢиалÑĭ":141158,"ĠкапиÑĤ":141159,"ĠкапиÑĤал":141160,"F":141161,"Ġseçil":141162,"Ġhứng":141163,"Ġintéressant":141164,"ãģ£ãģ¦ãģĦãģı":141165,"ĠeÄŁer":141166,"ëIJĺìĹĪìĬµëĭĪëĭ¤":141167,"ĠanlaÅŁma":141168,"ãģĶåĪ©ç͍":141169,"Ġ×ij×ĸ׼":141170,"Ġ×ij×ĸ׼×ķת":141171,"ëĿ¼ë©´":141172,"ĠÙĬÙĪØ³":141173,"ĠÙĬÙĪØ³Ùģ":141174,"أسÙĦØŃØ©":141175,"ĠGefühl":141176,"ĠноÑĢмалÑĮн":141177,"ãĥĻãĥ³":141178,"ãģķãĤĮãĤĭãģĵãģ¨":141179,"ĠÐijеÑģ":141180,"ãģ¨ãģĦãģĪãģ°":141181,"ĠÙħÙĩÙħ":141182,"ĠÙħÙĩÙħØ©":141183,"ãģ§ãģĹãĤĩãģĨãģŃ":141184,"ĠêµŃëĤ´":141185,"à¹Ģมà¹ĩà¸Ķ":141186,"×ŀ×ijקר":141187,"ĠاÙĦدÙĨÙĬ":141188,"ĠاÙĦدÙĨÙĬا":141189,"à¸Ĭู":141190,"кÑĢÑĥÑĤ":141191,"Ġthoáng":141192,"Ġ׳×ĵר":141193,"Ġ׳×ĵרש":141194,"ĠÑĢаÑģÑģказал":141195,"ĠAuÃŁerdem":141196,"פ×IJר":141197,"פ×IJרק":141198,"Ġ×ŀש×Ĺ×§×Ļ×Ŀ":141199,"צר׼×Ļ×Ŀ":141200,"×ŀ×ĵ×ķ":141201,"×ŀ×ĵ×ķ×Ļ×§":141202,"èĭ¦ãģĹ":141203,"ĠÑģиг":141204,"ĠÑģигнал":141205,"ĠMá»įi":141206,"Ġtrữ":141207,"ĠnastÄĻp":141208,"ĠnastÄĻpnie":141209,"Ġì¶Ķì§Ħ":141210,"ĠاÙĦÙģÙĨد":141211,"ĠاÙĦÙģÙĨدÙĤ":141212,"koÅĦczyÅĤ":141213,"สีà¹Ī":141214,"×§×Ļ×ij":141215,"×§×Ļ×ij×ķ×¥":141216,"ĠнÑĥжнÑĭ":141217,"大åĪĩ":141218,"大åĪĩãģª":141219,"æıĽãģĪ":141220,"ת×ķס":141221,"ת×ķספת":141222,"ãģ£ãģ¦ãģĦãģªãģĦ":141223,"ĠмÑı":141224,"ĠмÑıг":141225,"ĠмÑıгк":141226,"Ġjakie":141227,"ĠjakieÅĽ":141228,"à¸ķำà¸ļ":141229,"à¸ķำà¸ļล":141230,"ĠìŀĪì§Ģ":141231,"×ij×ĺ×IJ":141232,"ĠоÑĤлиÑĩно":141233,"ÙĤÙIJ":141234,"ĠавÑĤомоб":141235,"ĠавÑĤомоби":141236,"ĠавÑĤомобилÑı":141237,"دÙĬÙħÙĤراطÙĬ":141238,"ĠاÙĦÙĪØ§":141239,"ĠاÙĦÙĪØ§ØŃد":141240,"ĠسÙĪØ±ÙĬØ©":141241,"أغÙĦ":141242,"أغÙĦب":141243,"ĠÑįкÑĢан":141244,"ãĥĹãĥ©ãĤ¤":141245,"ĠjesteÅĽ":141246,"ãĥIJãĥª":141247,"Ġ×Ķ×IJ×ķ×ķ×Ļר":141248,"ائÙĥ":141249,"à¸Ńยà¹Īาà¸ĩยิà¹Īà¸ĩ":141250,"ÑĢекÑĤ":141251,"Ġumo":141252,"Ġumoż":141253,"Ġumożli":141254,"Ġumożliw":141255,"Ġumożliwia":141256,"Ġnächste":141257,"ĠìŀĪì§Ģë§Į":141258,"ĠпÑĢедн":141259,"ĠпÑĢедназ":141260,"ĠпÑĢедназнаÑĩен":141261,"Ġmaçı":141262,"Ġpomi":141263,"ĠpomiÄĻd":141264,"ĠpomiÄĻdzy":141265,"ĠاÙĦÙĦÙĤاء":141266,"à¹Ģà¸Ķà¸Ńะ":141267,"ĠновоÑģÑĤи":141268,"×ŀ×Ĺ׾×Ķ":141269,"رÙĬاضÙĬ":141270,"à¸Ķà¸Ļ":141271,"à¸Ķà¸Ļà¸ķรี":141272,"بصر":141273,"ìĬ¤íĥĢ":141274,"scripción":141275,"Ġnapisa":141276,"ĠnapisaÅĤ":141277,"Ġ׳ש×ŀ×¢":141278,"ĠاÙĦÙħØŃÙĦÙĬ":141279,"Ġhiá»ĥn":141280,"×IJ×Ĺ":141281,"×IJ×Ĺר×IJ×Ļ":141282,"ĠгÑĢаниÑĨ":141283,"æīĭç¶ļãģį":141284,"Ùĥسب":141285,"Ġà¹ģà¸ķà¹Īà¸ĸà¹īา":141286,"à¸Ķาวà¸Ļà¹Į":141287,"à¸Ķาวà¸Ļà¹Įà¹Ĥหลà¸Ķ":141288,"ãĤĭãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ":141289,"åŁºæľ¬çļĦãģ«":141290,"ÙĪÙĦاد":141291,"räume":141292,"دÙģØ§Ø¹":141293,"×Ļצע":141294,"ĠOczy":141295,"ĠOczywiÅĽcie":141296,"ĠÅģ":141297,"ĠÅģa":141298,"اÙĦÙĬاب":141299,"اÙĦÙĬاباÙĨ":141300,"áºłI":141301,"ĠBirliÄŁi":141302,"×Ķ×ķצ":141303,"×Ķ×ķצ×IJת":141304,"ĠÄijua":141305,"Ġê·¸ëŁ¬ëĭĪê¹Į":141306,"Ġréalité":141307,"عÙĦاÙĤات":141308,"Jeste":141309,"JesteÅĽ":141310,"Ġмнож":141311,"ĠмножеÑģÑĤво":141312,"K":141313,"ãĥĹãĥŃãĤ¸ãĤ§":141314,"ãĥĹãĥŃãĤ¸ãĤ§ãĤ¯ãĥĪ":141315,"ĠÑĦл":141316,"ظÙĨ":141317,"×Ĵ׾×Ĵ׾":141318,"ĠmÅĤodzie":141319,"ĠmÅĤodzież":141320,"à¸Ļà¹īำà¸ķา":141321,"à¸Ļà¹īำà¸ķาล":141322,"ÐĽÐķ":141323,"×ij×ķ×ĺ":141324,"Ġ׾×Ķ×Ĵ×Ļ×ĵ":141325,"ãģĵãģ¨ãĤĤãģĤãĤĭ":141326,"زاد":141327,"×ŀ×Ļ×ĵ×¢":141328,"ĠgÅĤównie":141329,"ãĥıãĤ¦":141330,"ãĥıãĤ¦ãĤ¹":141331,"бел":141332,"Ġétape":141333,"ðŁĺĢ":141334,"ĠмоделÑĮ":141335,"aģını":141336,"ש×Ĺ×§":141337,"ש×Ĺקף":141338,"Ġniño":141339,"à¸Ĭà¹īาà¸ĩ":141340,"à¹Ģลีย":141341,"ĠÑĦоÑĢме":141342,"ĠاÙĦشرÙĬÙģ":141343,"ĠÑĥдаÑĢ":141344,"arriv":141345,"arrivée":141346,"ĠmiesiÄĻ":141347,"ĠmiesiÄĻcy":141348,"ØŃرÙĥ":141349,"ØŃرÙĥات":141350,"ĠDiá»ħn":141351,"ÐĿЫ":141352,"ãģ¾ãģ£ãģŁãģı":141353,"Ġ×Ļר×ķ×§":141354,"еÑģÑĤеÑģÑĤв":141355,"еÑģÑĤеÑģÑĤвенн":141356,"Ġê·¸ëŁ¼":141357,"ĠاÙĦÙħتÙĪ":141358,"ĠاÙĦÙħتÙĪØ³Ø·":141359,"Ġbénéfic":141360,"Ġbénéficie":141361,"Ġwybra":141362,"ĠwybraÄĩ":141363,"ĠاÙĦزÙħÙĨ":141364,"ĠпÑĢинÑı":141365,"ĠпÑĢинÑıл":141366,"Ù쨱ØŃ":141367,"Ġksz":141368,"ĠksztaÅĤ":141369,"ĠksztaÅĤt":141370,"ק׾×ĺ":141371,"×ij×ĵ×Ļקת":141372,"Ġgiấ":141373,"Ġgiấc":141374,"ĠproprietÃł":141375,"деÑĢжан":141376,"ĠKöln":141377,"ĠGüzel":141378,"×Ļפ×ķ×Ļ":141379,"ĠCuá»Ļc":141380,"ÑįÑĤаж":141381,"ترÙĥÙĬ":141382,"ترÙĥÙĬز":141383,"ложений":141384,"ĠпÑĥ":141385,"ĠпÑĥÑĤи":141386,"اختÙĦاÙģ":141387,"åĩºãģ¦ãģıãĤĭ":141388,"à¸ļุà¸ģ":141389,"âĿ¤":141390,"ÑĦан":141391,"פש×ĺ":141392,"à¸ļัà¸Ļà¹Ģà¸Ĺ":141393,"à¸ļัà¸Ļà¹Ģà¸Ĺิà¸ĩ":141394,"ĠاÙĦساد":141395,"ĠاÙĦسادس":141396,"ĠاÙĦÙĤÙĪÙħ":141397,"ĠاÙĦÙĤÙĪÙħÙĬ":141398,"Ġyönetici":141399,"ÙĩÙĪØ§Øª":141400,"ÙĩÙĪØ§ØªÙģ":141401,"Ġresponsável":141402,"ĠподдеÑĢжива":141403,"ĠاÙĦسÙĦØ·":141404,"ĠاÙĦسÙĦطات":141405,"ãģĹãģ¦ãģĬãģı":141406,"ãĥļãĥĥãĥĪ":141407,"à¸Ľà¸¸à¹Īม":141408,"ĠoglÄħda":141409,"ÙĨاÙĤ":141410,"ÙĨاÙĤØ´":141411,"à¸Ħà¸Ńà¸Ļà¹Ĥà¸Ķ":141412,"ĠMüsl":141413,"ĠMüslü":141414,"ĠMüslüman":141415,"ĠMoż":141416,"ĠMożna":141417,"Ġnumérique":141418,"Ġvá»ı":141419,"ĠسÙĬتÙħ":141420,"ĠyerleÅŁ":141421,"монÑĤаж":141422,"Ġgoût":141423,"ãģ¦ãģĬãĤĬãģ¾ãģĻ":141424,"ĠKhánh":141425,"Ġедин":141426,"ĠединÑģÑĤв":141427,"اÙĨØ®Ùģ":141428,"اÙĨØ®ÙģØ§Ø¶":141429,"ìĭľíĹĺ":141430,"Ġlặng":141431,"ĠÑĢолÑĮ":141432,"à¸ķัวà¹ģà¸Ĺà¸Ļ":141433,"à¸Ħà¹Īาà¹ĥà¸Ĭà¹ī":141434,"à¸Ħà¹Īาà¹ĥà¸Ĭà¹īà¸Īà¹Īาย":141435,"Ġverfüg":141436,"Ġverfügbar":141437,"ìĻĶëĭ¤":141438,"ãģĦãģļ":141439,"ãģĦãģļãĤĮ":141440,"ĠиÑģÑģледованиÑı":141441,"меÑīа":141442,"×Ķ×Ĺ":141443,"×Ķ×Ĺ×ĸר":141444,"à¹ģà¸Łà¸Ĭัà¹Īà¸Ļ":141445,"تصرÙģ":141446,"إرÙĩاب":141447,"ĠexercÃŃcio":141448,"Ġélev":141449,"Ġélevé":141450,"สัà¸įà¸įาà¸ĵ":141451,"ÃĸZ":141452,"ãĥĹãĥŃãĤ°":141453,"ãĥĹãĥŃãĤ°ãĥ©":141454,"ãĥĹãĥŃãĤ°ãĥ©ãĥł":141455,"ĠwewnÄĻtrzn":141456,"Ġhenüz":141457,"é£Ľãģ³":141458,"à¹Ģà¸Ķà¸Ńรà¹Į":141459,"ÑģÑĥж":141460,"ÑģÑĥжден":141461,"شعÙĪØ¨":141462,"ãģ²ãģ¨ãĤĬ":141463,"ĠwyÅĤÄħ":141464,"ĠwyÅĤÄħcznie":141465,"ĠплоÑħо":141466,"ÐĶÐķ":141467,"Ầ":141468,"ÙģØ¹Ø§ÙĦÙĬ":141469,"ÙģØ¹Ø§ÙĦÙĬات":141470,"ĠاÙĦعشر":141471,"ÑģÑĤÑĥпил":141472,"Ġyarg":141473,"Ġyargı":141474,"нÑİÑİ":141475,"×ķ×IJ×ij":141476,"Ġuç":141477,"Ġuçak":141478,"ë²½":141479,"تÙĪÙĤÙĬ":141480,"تÙĪÙĤÙĬع":141481,"Ġì¤ijìĭ¬":141482,"׳×Ļ×ķ×ķ×ĺ":141483,"Ø£ÙĥÙĦ":141484,"ç½®ãģĦãģ¦":141485,"éłĤãģį":141486,"Ġ×Ķת×ij":141487,"Ġ×Ķת×ij×Ļ×¢×Ķ":141488,"Ġdürfen":141489,"ÙħÙĤاÙĦ":141490,"ÙħÙĤاÙĦات":141491,"ĠزÙħÙĨ":141492,"à¸ŀฤศ":141493,"à¸ŀฤศà¸Ī":141494,"à¸ŀฤศà¸Īิà¸ģ":141495,"à¸ŀฤศà¸Īิà¸ģายà¸Ļ":141496,"ĠнеÑģколÑĮ":141497,"ĠнеÑģколÑĮки":141498,"ĠнеÑģколÑĮкиÑħ":141499,"Ġcriança":141500,"มิà¸ķร":141501,"×ŀ׼×Ļר×ķת":141502,"à¸ģารà¸ļริหาร":141503,"Ġtélécharg":141504,"Ġ×IJ×ķ×Ķ×ijת":141505,"ĠBüro":141506,"ä½ľãģ£ãģŁ":141507,"ĠKiÅŁi":141508,"ç¾İåij³ãģĹ":141509,"à¹Ģลยà¸Ħà¹Īะ":141510,"à¸ŀà¸ļà¸ģัà¸ļ":141511,"à¸Īà¹īา":141512,"Ġçer":141513,"Ġçerç":141514,"Ġçerçeve":141515,"ãĤĴä½ľãģ£ãģ¦":141516,"ĠпеÑĢвÑĥÑİ":141517,"×ŀצר×Ļ×Ŀ":141518,"×IJ׾×ķ×Ķ":141519,"×IJ׾×ķ×Ķ×Ļ×Ŀ":141520,"Ġagré":141521,"Ġagréable":141522,"Ġayır":141523,"İLİ":141524,"ãĤ¥":141525,"ĠíĺĦ":141526,"ĠíĺĦìĭ¤":141527,"ثاÙĦØ«":141528,"ת×ĸ":141529,"ת×ĸ×ķ׳×Ķ":141530,"ãģ¨ãģĦãģ£ãģ¦":141531,"ãģ¨ãģĦãģ£ãģ¦ãĤĤ":141532,"ĠابÙĪ":141533,"ĠÑģобак":141534,"é£Łãģ¹ãģŁ":141535,"Ġданном":141536,"à¹Ģลิ":141537,"à¹Ģลิศ":141538,"Ġíļ":141539,"Ġíļ¨":141540,"Ġíļ¨ê³¼":141541,"ãĤĤãĤīãģĪãĤĭ":141542,"׳צ׾":141543,"ÑĦик":141544,"ÑĦикÑģ":141545,"ĠjesteÅĽmy":141546,"ת×Ĺ×ķש×Ķ":141547,"à¹Ħมà¹Īà¸Ħวร":141548,"ĠØŃسÙĬÙĨ":141549,"à¸ģารลà¸ĩà¸Ĺุà¸Ļ":141550,"ë´¤":141551,"ĠÐĺменно":141552,"à¸ļà¸Ńรà¹Į":141553,"à¸ļà¸Ńรà¹Įà¸Ķ":141554,"ĠCảnh":141555,"ìĦľë¹ĦìĬ¤":141556,"Ġполов":141557,"Ġполовин":141558,"ĠзамеÑĩа":141559,"ãģĦãĤįãĤĵãģª":141560,"Ġ×ij×Ļ×§":141561,"Ġ×ij×Ļקש":141562,"лÑĥÑĪ":141563,"ãĤĴè¿İ":141564,"ãĤĴè¿İãģĪ":141565,"جرÙĬÙħØ©":141566,"Ġtây":141567,"ĠاÙĦÙĨÙĪ":141568,"ĠاÙĦÙĨÙĪÙĪÙĬ":141569,"ÃĤN":141570,"ì¿ł":141571,"หà¸Ļาว":141572,"Ġ×ij×Ĺש×ij×ķף":141573,"زار":141574,"à¸Ķาร":141575,"à¸Ķารา":141576,"ĠÅĽl":141577,"ĠÅĽlub":141578,"มีà¸Ħวามสุà¸Ĥ":141579,"Ġnhu":141580,"ĠnhuáºŃn":141581,"ÙħØŃطة":141582,"à¹Ģสืà¹īà¸Ńà¸ľà¹īา":141583,"ĠТолÑĮко":141584,"ĠÙĥس":141585,"ĠÙĥسارة":141586,"ÙħشرÙĪØ¹":141587,"niÄĻcia":141588,"×¢×Ľ×©×Ļ×ķ":141589,"تÙĦÙģ":141590,"تÙĦÙ쨲ÙĬ":141591,"تÙĦÙ쨲ÙĬÙĪÙĨ":141592,"ĠlÆ°á»Ľi":141593,"ĠÐľÐ¾ÑģквÑĭ":141594,"Ġréserve":141595,"ĠanlaÅŁ":141596,"ĠanlaÅŁÄ±l":141597,"ĠedeceÄŁi":141598,"รà¸Ńà¸ĩà¹Ģà¸Ĺà¹īา":141599,"Ġبط":141600,"ĠبطرÙĬ":141601,"ĠبطرÙĬÙĤØ©":141602,"ãģ¦ãģĹãģ¾ãģ£ãģ¦":141603,"ãĤĤãĤīãģ£ãģ¦":141604,"برج":141605,"æ±ļ":141606,"æ±ļãĤĮ":141607,"Ġchoc":141608,"Ġchocia":141609,"Ġchociaż":141610,"Ġzobac":141611,"ĠzobaczyÄĩ":141612,"пÑĢÑı":141613,"пÑĢÑıжен":141614,"ĠÑĨиÑĦ":141615,"ĠÑĨиÑĦÑĢ":141616,"Ġмам":141617,"ĠвзÑıÑĤÑĮ":141618,"Ġchạm":141619,"جسÙħ":141620,"ØŃÙħاس":141621,"à¹Ģลà¹Īม":141622,"à¸ŀิษ":141623,"×Ķפ׼×ķ":141624,"à¸Ĭà¹Īà¸Ńà¸ĩà¸Ĺาà¸ĩ":141625,"Ġвек":141626,"Ġвека":141627,"Æ¡Ìģ":141628,"Æ¡Ìģi":141629,"ĠTiá»ģn":141630,"Ġtrầm":141631,"мÑĭÑĪ":141632,"мÑĭÑĪл":141633,"ĠÑĤÑĥ":141634,"ĠÑĤÑĥÑĢиÑģÑĤ":141635,"Ġchc":141636,"ĠchcÄħ":141637,"Ġавг":141638,"ĠавгÑĥÑģÑĤ":141639,"ĠавгÑĥÑģÑĤа":141640,"ס×IJ×ķת":141641,"Ġר×Ĵ׾":141642,"à¸ľà¸¥à¸ģระà¸Ĺ":141643,"à¸ľà¸¥à¸ģระà¸Ĺà¸ļ":141644,"å¤īãĤıãĤĭ":141645,"Ġ×Ķ×IJ×Ĺר×ķ׳×Ļ×Ŀ":141646,"سÙģÙĬر":141647,"ĠÑĩаÑīе":141648,"ãģĦãĤī":141649,"ãģĦãĤīãģ£":141650,"ãģĦãĤīãģ£ãģĹãĤĥ":141651,"×ķ×ŀ׳×Ļ×Ŀ":141652,"Ġarttır":141653,"ĠChá»ĭ":141654,"Ġì¡°ì§ģ":141655,"ĠÑĥÑģпеÑħ":141656,"Ġ×¢×ķס":141657,"Ġ×¢×ķסק":141658,"ĠìĥĿëªħ":141659,"ÑĨиÑĤ":141660,"Ġregión":141661,"ÐŀÐĿ":141662,"ĠdoÄŁum":141663,"ĠyaÅŁad":141664,"ĠyaÅŁadıģı":141665,"à¸Ĺà¸Ķลà¸Ńà¸ĩ":141666,"Ġgözü":141667,"ש×Ļר×Ķ":141668,"дÑĥмал":141669,"Ġdaģı":141670,"Ġdaģıt":141671,"à¸Ĺีมà¸ĩาà¸Ļ":141672,"Ġtiá»ģm":141673,"ĠاÙĦÙĥبر":141674,"ĠاÙĦÙĥبرÙī":141675,"ì¹Ń":141676,"ĠGünc":141677,"ĠGüncelle":141678,"ĠGüncelleme":141679,"ê¹Ĭ":141680,"ĠобоÑĢÑĥдование":141681,"ĠÑĢеÑĪа":141682,"Ụ":141683,"ĠпиÑĤ":141684,"ĠпиÑĤаниÑı":141685,"à¹Ģรียà¸ļ":141686,"×Ľ×ª×Ļ×ij×Ķ":141687,"Ġпон":141688,"ĠпонÑĢав":141689,"ĠпонÑĢави":141690,"Ġ×Ķ×ķ׾×ĵ":141691,"Ġ×Ķ×ķ׾×ĵת":141692,"Ġê²ģ":141693,"Ġê²ģëĭĪëĭ¤":141694,"ĠпеÑĢвой":141695,"ãĥ©ãĤ¤ãĥķ":141696,"ĠÅŁiir":141697,"krÄĻ":141698,"krÄĻc":141699,"Ġthiá»ĥu":141700,"à¹Ģลยà¸Ĺี":141701,"à¹Ģลยà¸Ĺีà¹Ģà¸Ķียว":141702,"×ĺ×¢×ł×ķת":141703,"ائÙĩÙħ":141704,"Ġ×IJס×ķר":141705,"ĠплаÑĤеж":141706,"تردد":141707,"Ġmożliwe":141708,"ĠkhỼ":141709,"ĠkhỼp":141710,"تÙģØ§Ø¹ÙĦ":141711,"ĠÑĪколÑĮ":141712,"ĠÑĪколÑĮн":141713,"ĠÙĤصة":141714,"Ġmétier":141715,"nÄĻÅĤa":141716,"หลà¹Īà¸Ń":141717,"Ġá»§ng":141718,"Ġprzegl":141719,"ĠprzeglÄħd":141720,"ĠاÙĦÙħتعÙĦ":141721,"ĠاÙĦÙħتعÙĦÙĤØ©":141722,"ĠÑģÑĭн":141723,"Ġволн":141724,"ãĥĩãĥ¼ãĥĪ":141725,"ĠÐŃÑĤи":141726,"ĠкÑĢоме":141727,"à¸Ħารà¹Į":141728,"׳ק×ķ×ĵ×Ķ":141729,"Ġ׾ש×ŀ×ķ×¢":141730,"Ġ×ĸ×ķ׼ר":141731,"ï¼§":141732,"ÙĬÙİØ§":141733,"Ġgiá»ıi":141734,"åĥįãģı":141735,"ĠÑģни":141736,"ĠÑģнижен":141737,"à¹ģà¸Ķà¸Ķ":141738,"รุà¸Ļ":141739,"รุà¸Ļà¹ģรà¸ĩ":141740,"Ġhiá»ĩp":141741,"ografÃŃa":141742,"à¹Ģà¸Īà¸Ńรà¹Į":141743,"Ġдвиг":141744,"ĠдвигаÑĤ":141745,"ĠдвигаÑĤел":141746,"Ġüy":141747,"Ġüyeler":141748,"Ġüyeleri":141749,"ĠбÑĥк":141750,"ĠбÑĥкв":141751,"ãĤĤå¤ļãģı":141752,"Ġthiá»ĩt":141753,"ĠPaÃŃs":141754,"ĠطبÙĬعÙĬ":141755,"à¹ģà¸Īà¸ģ":141756,"ĠاÙĦصØŃÙĬØŃ":141757,"Ġappré":141758,"Ġappréci":141759,"Ġdecisión":141760,"Ġë°ĺëĵľ":141761,"Ġë°ĺëĵľìĭľ":141762,"ĠÑĤебе":141763,"ãĤ·ãĥ¼ãĤº":141764,"ãĤ·ãĥ¼ãĤºãĥ³":141765,"ĠдалÑĮн":141766,"ĠìĬ¤":141767,"ĠìĬ¤ìĬ¤":141768,"ĠìĬ¤ìĬ¤ë¡ľ":141769,"ĠThá»ĥ":141770,"ĠkarÅŁ":141771,"ĠkarÅŁÄ±s":141772,"ĠkarÅŁÄ±sında":141773,"ĠKön":141774,"ĠKönig":141775,"ивание":141776,"×ij×ķצע":141777,"глаÑģ":141778,"Ġtwó":141779,"Ġtwórc":141780,"à¸Ľà¸ģà¸Ħร":141781,"à¸Ľà¸ģà¸Ħรà¸Ńà¸ĩ":141782,"ĠGÅĤ":141783,"ĠGÅĤówn":141784,"ĠUnterstüt":141785,"ĠUnterstützung":141786,"ĠдÑĥÑħ":141787,"ĠдÑĥÑħов":141788,"Ø£ÙħاÙĨ":141789,"×Ĺשש":141790,"تظ":141791,"تظاÙĩر":141792,"ĠлÑİбом":141793,"à¸ķาร":141794,"à¸ķาราà¸ĩ":141795,"Ġkról":141796,"Ø£ØŃدث":141797,"ì¡Įëĭ¤":141798,"ÐļÑĥÑĢÑģ":141799,"ãĥĥãĥĦ":141800,"×ŀ×§×ķ×ij׾":141801,"ĠÑģимвол":141802,"Ġdésorm":141803,"Ġdésormais":141804,"wüns":141805,"wünsche":141806,"Ñĥни":141807,"ÑĥниÑĨип":141808,"ÑĥниÑĨипалÑĮн":141809,"หลัà¸ģสูà¸ķร":141810,"ÙĨتشر":141811,"Ġал":141812,"Ġалк":141813,"Ġалког":141814,"Ġалкогол":141815,"ĠÑĥÑĩиÑĤÑĭва":141816,"à¸ģำà¸ģัà¸ļ":141817,"Ġ×ľ×¤×¢×ķ׾":141818,"ĠìĹ°ê²°":141819,"sÄħd":141820,"ĠاÙĦØ£ÙĬ":141821,"ĠاÙĦØ£ÙĬاÙħ":141822,"غÙĬاب":141823,"ĠнаÑĢ":141824,"ĠнаÑĢко":141825,"×ŀ×ķ×ĵ×¢":141826,"ĠÑģеÑĢии":141827,"пиÑģÑĭва":141828,"สิว":141829,"ç¶ļãģĦãģ¦":141830,"çͳãģĹè¾¼ãģ¿":141831,"Ġ׾×Ĵר":141832,"Ġ׾×Ĵר×ķ×Ŀ":141833,"Ġдем":141834,"Ġдемо":141835,"Ġë³´ëĤ´":141836,"تÙĩدÙĬد":141837,"ĠÙħØ´ÙĬرا":141838,"Ġduy":141839,"Ġduyá»ĩt":141840,"ĠwiÄĻksze":141841,"ÙħعاÙĬ":141842,"ÙħعاÙĬÙĬر":141843,"ĠGda":141844,"ĠGdaÅĦsk":141845,"Ġrah":141846,"Ġrahats":141847,"Ġrahatsız":141848,"ר×ķצ×Ķ":141849,"lös":141850,"lösung":141851,"ĠТаким":141852,"ÑĪед":141853,"ÑĪедÑĪ":141854,"عزÙĦ":141855,"Ġרש×Ļ×ŀת":141856,"Ġ׾×Ķ×Ļ׼":141857,"Ġ׾×Ķ×Ļ×Ľ×ł×¡":141858,"ĠпÑĥÑĤ":141859,"ĠпÑĥÑĤеÑĪ":141860,"ĠпÑĥÑĤеÑĪеÑģÑĤв":141861,"ĠnotÃŃcia":141862,"ĠalÄ±ÅŁ":141863,"ĠalÄ±ÅŁver":141864,"ĠalÄ±ÅŁveriÅŁ":141865,"ĠwÅĤos":141866,"ĠwÅĤosów":141867,"Ġبغ":141868,"Ġبغداد":141869,"Ġveröffent":141870,"Ġveröffentlicht":141871,"ĠKhá":141872,"Ġtán":141873,"ëIJĺ기":141874,"Ġ방문":141875,"ÙģÙĬÙĦ":141876,"à¹Ģà¸ģิà¸Ķà¸Īาà¸ģ":141877,"åı¯æĦĽ":141878,"åı¯æĦĽãģĦ":141879,"à¸ĸุà¸ĩ":141880,"ĠzewnÄĻtrzn":141881,"à¸łà¸²à¸©à¸²à¸Ńัà¸ĩà¸ģฤษ":141882,"Ġmáxima":141883,"Ġulus":141884,"Ġuluslararası":141885,"Ġ׳×Ķ׳":141886,"à¸Ĥà¹Īาวสาร":141887,"ĠìĿĺìĤ¬":141888,"à¹Ģหลืà¸Ńà¸ĩ":141889,"ĠدÙĤ":141890,"ĠدÙĤائÙĤ":141891,"สืà¹Īà¸Ńสาร":141892,"먼":141893,"ĠÑģоÑģÑĤоÑıнии":141894,"สมาà¸Ħม":141895,"á»Ĥ":141896,"ĠÐľÐ¾Ñģков":141897,"ĠÐľÐ¾ÑģковÑģк":141898,"×ŀס×ķ×Ĵ׾":141899,"ãģĭãģĭãĤĬ":141900,"ĠTruyá»ģn":141901,"à¹ģà¸Ĥà¹ĩà¸ĩà¹ģรà¸ĩ":141902,"×ŀ×Ĺ×ĸ×Ļ×§":141903,"à¹Ĥà¸ģà¹ī":141904,"ÙĬسر":141905,"ìĶ©":141906,"×IJ×ķ×§":141907,"×IJ×ķ×§×ĺ":141908,"×IJ×ķ×§×ĺ×ķ×ijר":141909,"Ġproximité":141910,"ÙħÙĨÙĩج":141911,"ĠاÙĦجز":141912,"ĠاÙĦجزائ":141913,"ĠاÙĦجزائرÙĬ":141914,"ĠÄIJiá»ĥm":141915,"Ġденеж":141916,"Ġденежн":141917,"ÙģØŃص":141918,"Ù쨦":141919,"ĠÐijÑĥд":141920,"×Ĵ×Ļ×ĵ×ķ׾":141921,"ĠÐĴедÑĮ":141922,"عÙĦاÙħØ©":141923,"Ġ×IJ×Ĺר×ķ׳×ķת":141924,"ãģĦãģŁãģłãģĦãģ¦":141925,"سÙĦØŃ":141926,"ØŃÙĦÙħ":141927,"زÙĪØ§Ø±":141928,"Ùĥسر":141929,"×ĺקס":141930,"Ġбан":141931,"Ġбанков":141932,"ĠпÑĢож":141933,"ĠпÑĢожива":141934,"liwo":141935,"liwoÅĽci":141936,"ĠTiếp":141937,"ĠاÙĦÙħÙĨاسب":141938,"ĠاÙĦØ®ÙĬار":141939,"ãģĬãģĭ":141940,"ãģĬãģĭãģĴ":141941,"à¸Ķà¸Ńà¸ģà¹Ħมà¹ī":141942,"ämp":141943,"ämpfe":141944,"à¸ķัà¹īà¸ĩà¹ĥà¸Ī":141945,"ĠзаÑīиÑĤ":141946,"ĠзаÑīиÑĤÑĭ":141947,"ĠThưá»Ŀng":141948,"ĠصÙģ":141949,"ĠصÙģØŃØ©":141950,"×Ĺ×ķרף":141951,"ãĥIJãĥĥãĤ°":141952,"Ġ×ĵ×Ļ×Ĵ":141953,"Ġ×ĵ×Ļ×Ĵ×Ļ×ĺ":141954,"Ġ×ĵ×Ļ×Ĵ×Ļ×ĺ׾×Ļ":141955,"Ġ×Ķ×Ĺ×ķ׾×Ļ×Ŀ":141956,"веÑī":141957,"веÑīа":141958,"ĠкÑĥлÑĮÑĤ":141959,"ĠкÑĥлÑĮÑĤÑĥ":141960,"ĠкÑĥлÑĮÑĤÑĥÑĢÑĭ":141961,"ĠاÙĦاÙĨترÙĨت":141962,"Ġhöch":141963,"Ġhöchst":141964,"Ġíĺķ":141965,"Ġíĺķíĥľ":141966,"Ġвой":141967,"ĠвойнÑĭ":141968,"ÐĽÐŀ":141969,"ìĭłìļ©":141970,"Ġ×ŀ×ij×ķס":141971,"Ġ×ŀ×ij×ķסס":141972,"×ŀ׳×Ļ×¢":141973,"Ġfiyatı":141974,"ĠÑģлÑĥж":141975,"ĠÑģлÑĥжбÑĭ":141976,"à¸Ĺัศ":141977,"à¸Ĺัศà¸Ļ":141978,"ãģĵãģ¨ãģĮå¤ļãģĦ":141979,"Ġ×Ķ×ŀשת":141980,"Ġ×Ķ×ŀשת×ŀש":141981,"å¯ĦãģĽ":141982,"×ŀש׾×ķ×Ĺ":141983,"æĻĤçĤ¹":141984,"æĻĤçĤ¹ãģ§":141985,"à¸ŀรี":141986,"à¸ŀรีà¹Ģมีย":141987,"à¸ŀรีà¹Ģมียรà¹Į":141988,"à¸ŀรีà¹Ģมียรà¹Įลีà¸ģ":141989,"Ġdifficolt":141990,"ĠdifficoltÃł":141991,"ãĥ¬ãĤ¹ãĥĪ":141992,"ãĥ¬ãĤ¹ãĥĪãĥ©ãĥ³":141993,"สมà¹Ģà¸Ķà¹ĩ":141994,"สมà¹Ģà¸Ķà¹ĩà¸Ī":141995,"Ġжид":141996,"Ġжидк":141997,"ĠzupeÅĤ":141998,"ĠzupeÅĤnie":141999,"ĠÙħجر":142000,"ĠÙħجرد":142001,"ãģĮå§ĭ":142002,"ãģĮå§ĭãģ¾":142003,"ãĤŃãĥ£ãĥ©":142004,"Ġ×IJ×ķ×ķ×Ļר":142005,"ãģĬäºĴ":142006,"ãģĬäºĴãģĦ":142007,"ĠpotrÃł":142008,"ĠPaÅĦst":142009,"ĠPaÅĦstwo":142010,"ĠبÙĬاÙĨ":142011,"ĠبÙĬاÙĨات":142012,"Ġиногда":142013,"ĠÑĢа":142014,"ĠÑĢаÑģÑĤв":142015,"ĠÑĢаÑģÑĤвоÑĢ":142016,"Ġ×ĸ×ŀ׳":142017,"ยิà¹īม":142018,"ÄĨ":142019,"ãģ¾ãģķ":142020,"ãģ¾ãģķãģ«":142021,"ãĥķãĤ¡ãĤ¤ãĥ«":142022,"ĠgördÃ¼ÄŁÃ¼":142023,"สà¸ĩà¸Ħร":142024,"สà¸ĩà¸Ħราม":142025,"ĠArkadaÅŁ":142026,"ĠrozwiÄħzania":142027,"×ŀ×ķ×ĺ":142028,"piÄĻ":142029,"piÄĻt":142030,"صغر":142031,"สย":142032,"สยาม":142033,"ãĤĨãģ£ãģıãĤĬ":142034,"Ġtrần":142035,"ĠeconomÃŃa":142036,"Ġgehören":142037,"ãĤ·ãĥ§ãĥ¼":142038,"ĠsÅĤucha":142039,"à¸ŀà¸Ńà¹ĥà¸Ī":142040,"ĠоÑĤмеÑĤил":142041,"ÙĨتÙĤÙĦ":142042,"Ġpropósito":142043,"ĠваÑĪего":142044,"Ġnhắn":142045,"à¹ģà¸ĸว":142046,"ĠкомиÑģ":142047,"ĠкомиÑģÑģи":142048,"ważnie":142049,"ĠyavaÅŁ":142050,"×ŀ×Ļ×§":142051,"×ŀ×Ļ×§×ķ×Ŀ":142052,"ש×IJ×ľ×ª":142053,"Ġyıllarda":142054,"ĠЮ":142055,"ĠЮÑĢ":142056,"×ł×¡×Ļ×ij×ķת":142057,"תצ":142058,"תצ×ķ×Ĵ":142059,"ĠоднÑĥ":142060,"Ġà¸Ńยà¹Īาà¸ĩà¹Ħร":142061,"Ġà¸Ńยà¹Īาà¸ĩà¹Ħรà¸ģà¹ĩà¸ķาม":142062,"ëģ¼":142063,"à¹Ħลà¹Ī":142064,"تسÙĦÙĬÙħ":142065,"بÙĦاغ":142066,"Ġìī":142067,"Ġìī½":142068,"Ġìī½ê²Į":142069,"ãĥļãĥ³":142070,"звÑĥÑĩ":142071,"ĠWäh":142072,"ĠWährend":142073,"Ġ×Ļ×Ļת":142074,"Ġ×Ļ×Ļ×ª×Ľ×Ł":142075,"Ġkhuyên":142076,"Ġvẽ":142077,"ĠамеÑĢ":142078,"ĠамеÑĢик":142079,"ĠамеÑĢикан":142080,"ĠамеÑĢиканÑģк":142081,"عجب":142082,"ãĥĽãĥ¼ãĥłãĥļãĥ¼ãĤ¸":142083,"ĠникÑĤо":142084,"ĠÙĤÙİ":142085,"ĠÙĤÙİØ§ÙĦ":142086,"ĠÙĤÙİØ§ÙĦÙİ":142087,"ÐIJÐĹ":142088,"ÙħجÙħÙĪØ¹":142089,"ÙħجÙħÙĪØ¹Ø§Øª":142090,"ĠnecessitÃł":142091,"Ġpobli":142092,"Ġpobliżu":142093,"Ġphấn":142094,"ĠСообÑī":142095,"ÙħÙĤاط":142096,"ÙħÙĤاطع":142097,"Ġ×Ķצ×ķר×ļ":142098,"laÅŁtırma":142099,"วิà¸Ķ":142100,"วิà¸Ķี":142101,"วิà¸Ķีà¹Ĥà¸Ń":142102,"Ġ그리ìĬ¤":142103,"Ġ그리ìĬ¤ëıĦ":142104,"ãĤ¿ãĤ¤ãĥŁ":142105,"ãĤ¿ãĤ¤ãĥŁãĥ³ãĤ°":142106,"×§×ĺ×Ĵ×ķר":142107,"×§×ĺ×Ĵ×ķר×Ļ×Ķ":142108,"Ġ×Ĺ×ķפ":142109,"Ġ×Ĺ×ķפש×Ļ":142110,"أجر":142111,"Ġимени":142112,"ĠÑĢанее":142113,"à¹Ģà¸ŀืà¹Īà¸Ńà¸Ļà¹Ĩ":142114,"ĠJesús":142115,"Ñģоедин":142116,"Ñģоединен":142117,"Ġר×Ĺ×ķ×§":142118,"à¹Ĥà¸ļรา":142119,"à¹Ĥà¸ļราà¸ĵ":142120,"ĠHÆ¡n":142121,"ĠtháºŃp":142122,"تعÙĬÙĬÙĨ":142123,"ĠtartÄ±ÅŁ":142124,"ĠtartÄ±ÅŁma":142125,"ĠGespr":142126,"ĠGespräch":142127,"תר×ķפ":142128,"תר×ķפ×ķת":142129,"Ġcatégorie":142130,"ĠоказÑĭва":142131,"ĠналиÑĩие":142132,"Ġprésenté":142133,"Ġkull":142134,"Ġkulland":142135,"Ġkullandı":142136,"Ġünl":142137,"Ġünlü":142138,"ĠÙģÙĥرة":142139,"изаÑĤоÑĢ":142140,"×IJ×ķ׳":142141,"×IJ×ķ׳×Ļ×ij":142142,"×IJ×ķ׳×Ļ×ijרס":142143,"×IJ×ķ׳×Ļ×ijרס×Ļ×ĺת":142144,"ĠÑĢаÑģÑģмаÑĤ":142145,"ĠÑĢаÑģÑģмаÑĤÑĢ":142146,"ĠÑĢаÑģÑģмаÑĤÑĢива":142147,"تÙĥÙĦÙħ":142148,"ÙĥترÙĪ":142149,"ÙĥترÙĪÙĨÙĬ":142150,"ĠÑģоÑĩеÑĤ":142151,"ĠÑģоÑĩеÑĤа":142152,"ãĤĴè¦ĭãģĽ":142153,"Ġngừa":142154,"ĠÐłÐµÑģп":142155,"ĠÐłÐµÑģпÑĥб":142156,"ĠÐłÐµÑģпÑĥблик":142157,"ãĤ¦ãĤ©":142158,"ãĤ¦ãĤ©ãĥ¼":142159,"ĠÐľÐµÐ¶Ð´Ñĥ":142160,"ĠìŀĪê²Į":142161,"Ġmâ":142162,"ĠìļĶì²Ń":142163,"ضار":142164,"ลุà¹īà¸Ļ":142165,"ëĮĢíķĻêµIJ":142166,"×ĸ×Ļ׼":142167,"×ĸ×Ļ׼ר×ķף":142168,"ãĤ¹ãĥļ":142169,"ãĤ¹ãĥļãĥ¼ãĤ¹":142170,"ĠкÑĢаÑģоÑĤ":142171,"H":142172,"ê¼Ń":142173,"ãĤĴéĽĨ":142174,"ãĤĴéĽĨãĤģ":142175,"ë°Ŀ":142176,"Ġ×Ķ׳×IJ":142177,"Ġ×Ķ׳×IJש×Ŀ":142178,"Ġê°Ģìļ´":142179,"Ġê°Ģìļ´ëį°":142180,"تÙĥÙĦÙ쨩":142181,"ĠØŃÙĤÙĬÙĤÙĬ":142182,"Ġhalk":142183,"Ġhalkın":142184,"ÑİÑīÑĥÑİ":142185,"ĠÑģпин":142186,"סר×ĺף":142187,"ĠпеÑĢвого":142188,"Ġполож":142189,"ĠположиÑĤелÑĮн":142190,"Ġдл":142191,"ĠдлиÑĤелÑĮн":142192,"ĠVÄ©nh":142193,"ê´´":142194,"ĠÑģÑĭÑĢ":142195,"ĠíĨµíķĺìŬ":142196,"ë³ijìĽIJ":142197,"à¹Ĥรà¸ĩà¸ĩาà¸Ļ":142198,"รัà¸ļà¸ľà¸´à¸Ķ":142199,"รัà¸ļà¸ľà¸´à¸Ķà¸Ĭà¸Ńà¸ļ":142200,"تجÙĨب":142201,"sÅĤ":142202,"sÅĤuch":142203,"ãĤ¢ãĥ«ãĥIJ":142204,"ãĤ¢ãĥ«ãĥIJãĥł":142205,"ëī´ìĬ¤":142206,"Ġpatië":142207,"Ġpatiënt":142208,"Ġìĺ¤í":142209,"Ġìĺ¤íŀ":142210,"Ġìĺ¤íŀĪ":142211,"Ġìĺ¤íŀĪ볤":142212,"ĠDerne":142213,"ĠDerneÄŁi":142214,"wróci":142215,"wróciÄĩ":142216,"ĠобÑī":142217,"ĠобÑīеÑģÑĤв":142218,"ĠобÑīеÑģÑĤвенно":142219,"ĠêµIJìĪĺ":142220,"tıģımız":142221,"Ġ×Ķ×ŀש×Ļ×ij":142222,"körper":142223,"Ġпозвол":142224,"ĠпозволиÑĤ":142225,"ĠChiến":142226,"أخÙĪ":142227,"ĠAydın":142228,"à¸Ķà¹īาà¸Ļล":142229,"à¸Ķà¹īาà¸Ļลà¹Īาà¸ĩ":142230,"Ġdru":142231,"Ġdruż":142232,"Ġdrużyn":142233,"Ġë°ľíijľ":142234,"ĠThảo":142235,"جÙĩاد":142236,"à¸ģระà¸Ĺูà¹ī":142237,"ĠкÑĢов":142238,"ĠкÑĢови":142239,"Ġiçerik":142240,"Ġnadzie":142241,"ĠnadziejÄĻ":142242,"ĠСмоÑĤÑĢ":142243,"Ġphức":142244,"جتÙħاع":142245,"جتÙħاعÙĬØ©":142246,"компон":142247,"компоненÑĤ":142248,"Ġбил":142249,"ĠбилеÑĤ":142250,"ãĥIJãĥ³ãĥī":142251,"ĠPolÃŃcia":142252,"اÙĦتÙĩ":142253,"اÙĦتÙĩاب":142254,"ØŃرÙģ":142255,"تخط":142256,"تخطÙĬØ·":142257,"ãĤ³ãĥ¼ãĥ":142258,"ãĤ³ãĥ¼ãĥĴ":142259,"ãĤ³ãĥ¼ãĥĴãĥ¼":142260,"・・・":142261,"à¸ĭà¸Ńย":142262,"Ġcrédit":142263,"è²·ãģ£ãģŁ":142264,"ĠпоÑĢÑıд":142265,"ĠпоÑĢÑıдке":142266,"Ġphó":142267,"Ġwida":142268,"ĠwidaÄĩ":142269,"جرائÙħ":142270,"à¸ľà¸µ":142271,"ĠbÄĻdÄĻ":142272,"Ġ×ŀפת×Ĺ":142273,"ãĥijãĥ¼ãĥ":142274,"ãĥijãĥ¼ãĥĨ":142275,"ãĥijãĥ¼ãĥĨãĤ£":142276,"ãĥijãĥ¼ãĥĨãĤ£ãĥ¼":142277,"ĠKaż":142278,"ĠKażdy":142279,"ĠнеобÑħодимоÑģÑĤи":142280,"à¸Łà¸Ńรà¹Į":142281,"à¸Łà¸Ńรà¹Įม":142282,"ĠмалÑĭÑĪ":142283,"ĠплоÑĤ":142284,"ĠÑĥÑģÑĤÑĢой":142285,"ĠÑĥÑģÑĤÑĢойÑģÑĤва":142286,"à¸ĸà¸Ńà¸Ļ":142287,"ĠoluÅŁturul":142288,"ĠÅĽwiad":142289,"ĠÅĽwiadom":142290,"ÙħعÙĩد":142291,"ĠпÑĢоизведен":142292,"Æł":142293,"ר×Ļש":142294,"Ùħستث":142295,"ÙħستثÙħر":142296,"׳×Ļ×Ļר":142297,"pañ":142298,"Ġ;-)":142299,"Ġë°ľê²¬":142300,"Ġgörüyor":142301,"ÙħؤÙĦÙģ":142302,"ĠÄIJá»ģ":142303,"ĠاÙĦÙĨÙĪØ§Ø¨":142304,"×Ĺ×§×Ļר×Ķ":142305,"Ġmá»ıi":142306,"è¿°ãģ¹":142307,"ÐĿик":142308,"ìŀĸìķĦ":142309,"ìŀĸìķĦìļĶ":142310,"prowadziÅĤ":142311,"lóg":142312,"lógica":142313,"פס×ĺ":142314,"פס×ĺ×Ļ×ij׾":142315,"Ġ×ŀ×ĵ×Ķ":142316,"Ġ×ŀ×ĵ×Ķ×Ļ×Ŀ":142317,"ãģĵãģĵãģ¾ãģ§":142318,"×Ķת×Ĺ":142319,"×Ķת×Ĺ׾×Ķ":142320,"Ġפ×ķס":142321,"Ġפ×ķס×ĺ×Ļ×Ŀ":142322,"Ġнев":142323,"Ġневоз":142324,"Ġневозможно":142325,"ĠdostÄĻpny":142326,"ĠغاÙĦ":142327,"ĠغاÙĦب":142328,"ĠbezpieczeÅĦst":142329,"ĠbezpieczeÅĦstwa":142330,"åĪĨãģĭãĤĭ":142331,"ĠFührung":142332,"à¸ģีà¹ī":142333,"gemÃ¤ÃŁ":142334,"à¸Ĭà¹Īวà¸ĩà¹Ģวลา":142335,"Ġìļ°ë¦¬ëĤĺ":142336,"Ġìļ°ë¦¬ëĤĺëĿ¼":142337,"ãģ¥ãģıãĤĬ":142338,"ĠاÙĦÙħسÙĦ":142339,"ĠاÙĦÙħسÙĦØŃØ©":142340,"Ġliberté":142341,"клÑİÑĩение":142342,"Ġzamów":142343,"Ġzamówienia":142344,"รà¸ĸà¹Ħà¸Ł":142345,"Ø£ÙģÙĦ":142346,"Ø£ÙģÙĦاÙħ":142347,"Ùħراج":142348,"Ùħراجعة":142349,"Ġë¹ĦêµIJ":142350,"ĠاÙĦتاب":142351,"ĠاÙĦتابعة":142352,"Ġë§ĮëĤĺ":142353,"ĠбÑĥм":142354,"ĠбÑĥмаг":142355,"Ġgénero":142356,"Ġìŀĺ못":142357,"×ŀפ×ķר×ĺ":142358,"è²·ãģĦçī©":142359,"ĠÙĦدÙĬÙĥ":142360,"Ġ×ľ×¢×Ļת":142361,"Ġ×ľ×¢×Ļת×Ļ×Ŀ":142362,"ĠsÅĤab":142363,"ĠпÑĢедÑģÑĤавлÑı":142364,"ãĤ¿ãĤ¤ãĥĪ":142365,"ãĤ¿ãĤ¤ãĥĪãĥ«":142366,"Ùħص":142367,"ÙħصطÙģ":142368,"ÙħصطÙģÙī":142369,"Ġdifficulté":142370,"ãĥĨãĤ£ãĥĸ":142371,"ĠpewnoÅĽci":142372,"ĠpewnoÅĽciÄħ":142373,"Ġ무ìĬ¨":142374,"إرس":142375,"إرساÙĦ":142376,"ĠдалÑĮ":142377,"ĠдалÑĮÑĪе":142378,"Ġ×ľ×ł×¡":142379,"Ġ×ľ×ł×¡×ķת":142380,"หมูà¹Īà¸ļà¹īาà¸Ļ":142381,"×ŀס×ŀ׼×Ļ":142382,"أسÙĦÙĪØ¨":142383,"ĠzwÅĤ":142384,"ĠzwÅĤas":142385,"ĠzwÅĤaszc":142386,"ĠzwÅĤaszcza":142387,"ĠпÑĢеж":142388,"ĠпÑĢежде":142389,"ĠоÑĢганизаÑĨиÑı":142390,"Ġdönemin":142391,"Ġdöneminde":142392,"ĠỦ":142393,"ĠỦy":142394,"ä¸ĭãģĴ":142395,"ĠпоÑģледние":142396,"Ġgüne":142397,"ĠgüneÅŁ":142398,"Ġ×IJ×ĸר":142399,"Ġ×IJ×ĸר×Ĺ×Ļ":142400,"ãģ§ãģĤãĤįãģĨ":142401,"ĠÙĨÙĤ":142402,"ĠÙĨÙĤاط":142403,"æŃ£ãģĹãģĦ":142404,"ĠÑĢег":142405,"ĠÑĢегиона":142406,"ĠFörder":142407,"ê²½ìĺģ":142408,"dıklar":142409,"dıklarını":142410,"trzymaÄĩ":142411,"أشÙĥ":142412,"أشÙĥاÙĦ":142413,"×Ķת×IJ":142414,"×Ķת×IJ×ŀ×Ķ":142415,"à¸Ĺำà¹ĥหà¹īà¹Ģà¸ģิà¸Ķ":142416,"ĠGebä":142417,"ĠGebäude":142418,"ĠСеÑĢг":142419,"ĠСеÑĢгей":142420,"ĠздоÑĢов":142421,"ĠздоÑĢовÑĮÑı":142422,"Ġrãi":142423,"ĠпÑĢедÑĥÑģ":142424,"ĠпÑĢедÑĥÑģмоÑĤÑĢ":142425,"ĠпÑĢедÑĥÑģмоÑĤÑĢен":142426,"Ġ×Ķצ×Ļ×ij":142427,"Ġ×Ķצ×Ļ×ij×ķר×Ļ":142428,"Ġdésir":142429,"ĠноÑĩ":142430,"ĠноÑĩÑĮ":142431,"möglichkeiten":142432,"Ġ×IJ×Ĺר×ķ׳×Ļ×Ŀ":142433,"Ġsoirée":142434,"ĠNháºŃn":142435,"Ùª":142436,"à¸Ľà¸£à¸°à¸§à¸±à¸ķิศาสà¸ķรà¹Į":142437,"êµIJíĨµ":142438,"ĠأخÙĬ":142439,"Ġdécid":142440,"Ġdécidé":142441,"Ġwyja":142442,"ĠwyjaÅĽni":142443,"Ġสิ":142444,"Ġสิà¸ĩ":142445,"Ġสิà¸ĩหา":142446,"Ġสิà¸ĩหาà¸Ħม":142447,"à¹ģà¸Ńรà¹Į":142448,"หà¸Ļà¹īาà¸Īà¸Ń":142449,"סתר":142450,"Ġê¶":142451,"Ġê¶Į":142452,"Ġê¶Į리":142453,"plätze":142454,"بطÙĦ":142455,"ê±´ìĦ¤":142456,"Ġ×IJ×Ļ×ŀ×Ļ":142457,"Ġ×IJ×Ļ×ŀ×Ļ×Ļ׾":142458,"ãģ½":142459,"تراث":142460,"×IJ׾×Ļ×ŀ×ķת":142461,"ĠdisponÃŃveis":142462,"Ġzale":142463,"Ġzależy":142464,"à¸Ľà¸£à¸°à¸Ĭาสัมà¸ŀัà¸Ļà¸ĺà¹Į":142465,"ĠÅļwiat":142466,"Ġporówn":142467,"Ġporówna":142468,"Ġ׾×ĺ×ķ×ijת":142469,"×Ķ×ĸ×ŀ׳×Ķ":142470,"Ġ×Ľ×ª×ķצ×IJ×Ķ":142471,"Ġ×ijק׾":142472,"Ġ×ijק׾×ķת":142473,"ĠоÑĤкÑĢ":142474,"ĠоÑĤкÑĢÑĭва":142475,"ãĥijãĥ¯ãĥ¼":142476,"ë¿IJë§Į":142477,"ĠвÑģÑı":142478,"ĠвÑģÑıк":142479,"ãģ¨ãģªãģ£ãģ¦ãģĦãĤĭ":142480,"ĠgiáºŃn":142481,"ĠокÑĢÑĥ":142482,"ĠокÑĢÑĥжа":142483,"ĠокÑĢÑĥжаÑİÑī":142484,"ĠUniversität":142485,"ĠÑĢож":142486,"ĠÑĢожд":142487,"ĠÑĢождениÑı":142488,"Ø®ÙĬÙĦ":142489,"Ġкомпаний":142490,"ĠÑĢазлиÑĩнÑĭе":142491,"ĠЦена":142492,"׳×Ļ×ķ×ĸ":142493,"׳×Ļ×ķ×ĸ׾":142494,"׳×Ļ×ķ×ĸ׾×ĺר":142495,"Ġê³µê°Ħ":142496,"Ġê°ľëħIJ":142497,"landırma":142498,"ĠÑĥдален":142499,"à¸ŀัà¸ģà¸ľ":142500,"à¸ŀัà¸ģà¸ľà¹Īà¸Ńà¸Ļ":142501,"Ġprotección":142502,"ĠbÅĤ":142503,"ĠbÅĤÄĻd":142504,"ÃĪ":142505,"Ġíĸīë³µ":142506,"ĠÅŁÃ¼":142507,"ĠÅŁÃ¼phe":142508,"ĠíĶ":142509,"Ġíͼ":142510,"Ġíͼíķ´":142511,"Ġëĭ¤ë¥´":142512,"à¹Ħมà¹Īà¹Ģà¸ģิà¸Ļ":142513,"ãģ¿ãģª":142514,"ãģ¿ãģªãģķãĤĵ":142515,"ĠпоÑĤÑĢеб":142516,"ĠпоÑĤÑĢебиÑĤел":142517,"ĠاÙĦÙĥÙĦاÙħ":142518,"ìķĦë²Ħ":142519,"ìķĦë²Ħì§Ģ":142520,"ãĤĴ使ãģ£ãģŁ":142521,"Ġbụi":142522,"ĠпоÑĤеÑĢ":142523,"ĠпоÑĤеÑĢÑı":142524,"ĠØ¢ÙĦاÙģ":142525,"ĠнаÑģÑĤоÑıÑīее":142526,"ãģıãģªãĤĬãģ¾ãģĹãģŁ":142527,"clusão":142528,"ãĤ³ãĥĶãĥ¼":142529,"צפ×Ļ":142530,"צפ×Ļ×Ļ×Ķ":142531,"Ø®ÙĦا":142532,"Ø®ÙĦاص":142533,"ลà¹īำ":142534,"ãĥ¯ãĤ¤ãĥ³":142535,"Ġมีà¸Ļา":142536,"Ġมีà¸Ļาà¸Ħม":142537,"شخص":142538,"شخصÙĬات":142539,"Ġ×ĸ×§":142540,"Ġ×ĸ×§×ķ×§":142541,"×Ļ×Ļצ":142542,"×Ļ×Ļצ×Ĵ":142543,"èĢĥãģĪæĸ¹":142544,"Ġürünü":142545,"ĠиÑģпол":142546,"ĠиÑģполни":142547,"Ġcompañero":142548,"קצ×Ķ":142549,"×ŀ×¢×ł×Ļ×§":142550,"ÙħØŃÙħد":142551,"Ġcámara":142552,"Ġпед":142553,"Ġпедаг":142554,"Ġпедагог":142555,"маÑĢ":142556,"маÑĢк":142557,"×Ķ×ª×ł×Ĵ×ĵ":142558,"ĠìĨĮê°ľ":142559,"ĠcomunitÃł":142560,"곤":142561,"ĠNgÃłi":142562,"สà¸ĩà¸ļ":142563,"ĠmieszkaÅĦców":142564,"ĠÙĨÙĩائÙĬ":142565,"ivité":142566,"Ġиде":142567,"ĠидеалÑĮн":142568,"ĠأسبÙĪØ¹":142569,"Ġ×Ļ×¢×ľ":142570,"Ġ׾ר×IJש":142571,"Ġ׾ר×IJש×ķ׳×Ķ":142572,"ĠзапиÑģи":142573,"ĠкоÑĢпÑĥÑģ":142574,"วà¸ĩศ":142575,"วà¸ĩศà¹Į":142576,"ĠÐĶм":142577,"ĠÐĶмиÑĤ":142578,"ĠÐĶмиÑĤÑĢ":142579,"Ġkönnt":142580,"Ġbölges":142581,"Ġbölgesinde":142582,"׼×Ļ׼":142583,"׼×Ļ׼ר":142584,"ĠاÙĦإثÙĨ":142585,"ĠاÙĦإثÙĨÙĬÙĨ":142586,"Ġngá»Ļ":142587,"ì¹ł":142588,"دراج":142589,"Ġuda":142590,"ĠudaÅĤo":142591,"ìºIJ":142592,"برÙĨاÙħج":142593,"ĠÑģÑĥдеб":142594,"ĠÑģÑĥдебн":142595,"Ġzunächst":142596,"ĠEducación":142597,"ãģ¨ãģªãģ£ãģ¦ãģĦãģ¾ãģĻ":142598,"Ġ×Ķ×IJ×ŀ×Ļת×Ļ":142599,"Ġİnt":142600,"Ġİnternet":142601,"ĠcaÅĤego":142602,"ãĥĹãĥªãĥ³":142603,"إبد":142604,"إبداع":142605,"ĠпоÑĢÑĤал":142606,"à¹Ĥà¸ķà¹ī":142607,"Ġ×Ķקש×ķר":142608,"плод":142609,"ĠÙħد":142610,"ĠÙħدرÙĬد":142611,"×ŀסע×ĵ×Ķ":142612,"ĠØ´ÙĬئ":142613,"ĠØ´ÙĬئا":142614,"à¸ģà¹Īà¸Ńสรà¹īาà¸ĩ":142615,"Ġì°¸ê³ł":142616,"à¹Ģà¸Ĺร":142617,"à¹Ģà¸Ĺรà¸Ķ":142618,"Ġ×ij×ŀקר×Ļ×Ŀ":142619,"Ġbât":142620,"Ġbâtiment":142621,"åij¼ãģ³":142622,"ç´łæķµ":142623,"ç´łæķµãģª":142624,"przedsiÄĻbiorst":142625,"przedsiÄĻbiorstw":142626,"Ġ×ł×ª×ķ׳×Ļ×Ŀ":142627,"×Ĺ׾×ķ×Ŀ":142628,"รวย":142629,"ÙħÙĪØ¶ÙĪØ¹":142630,"ĠÑģобÑĢан":142631,"ведÑĥÑī":142632,"ĠÑĤеаÑĤ":142633,"ĠÑĤеаÑĤÑĢ":142634,"meye":142635,"meyeceÄŁi":142636,"ĠpieniÄħ":142637,"ĠpieniÄħd":142638,"ĠpieniÄħdze":142639,"ÑĢезиденÑĤ":142640,"ØŃصر":142641,"ìĺ¥":142642,"à¹Ģยืà¸Ńà¸Ļ":142643,"ĠÑĥни":142644,"ĠÑĥнивеÑĢ":142645,"ĠÑĥнивеÑĢÑģ":142646,"ĠÑĥнивеÑĢÑģиÑĤеÑĤ":142647,"ĠاÙĦرØŃ":142648,"ĠاÙĦرØŃÙħÙĨ":142649,"ĠÑĤеÑħнолог":142650,"ĠÑĤеÑħнологии":142651,"ìĹIJëĦĪ":142652,"ìĹIJëĦĪì§Ģ":142653,"ĠíķŃ":142654,"ĠíķŃìĥģ":142655,"à¸ĺา":142656,"à¸ĺาà¸ķุ":142657,"ĠEspañol":142658,"×ĵ×Ĵש":142659,"Ġêµī":142660,"Ġêµīìŀ¥":142661,"Ġêµīìŀ¥íŀĪ":142662,"ĠÅĤat":142663,"ĠÅĤatwo":142664,"Ġká»ĭch":142665,"إز":142666,"إزاÙĦØ©":142667,"ĠдейÑģÑĤвие":142668,"ĠsaÄŁlayan":142669,"สุà¸Ķยà¸Ńà¸Ķ":142670,"ĠzostaÄĩ":142671,"ĠdisponÃŃvel":142672,"ïºį":142673,"verständ":142674,"verständlich":142675,"twor":142676,"tworzyÄĩ":142677,"عجز":142678,"à¹Ģà¸Ĥà¹īม":142679,"ยà¹Īà¸Ńม":142680,"Ġstratég":142681,"Ġstratégie":142682,"à¸ľà¸¥à¹Ħมà¹ī":142683,"Ġê°ģì¢ħ":142684,"ĠÙħÙĪØ§":142685,"ĠÙħÙĪØ§Ø¶":142686,"ĠÙħÙĪØ§Ø¶ÙĬع":142687,"اØŃتج":142688,"اØŃتجاج":142689,"ĠẤ":142690,"ĠẤn":142691,"×ŀ×ŀש׾×Ķ":142692,"ĠÅŁekil":142693,"×ŀ×Ĺ׾":142694,"×ŀ×Ĺ׾×ķת":142695,"Ġà¸ĺ":142696,"Ġà¸ĺัà¸Ļ":142697,"Ġà¸ĺัà¸Ļวา":142698,"Ġà¸ĺัà¸Ļวาà¸Ħม":142699,"Ġìĭ¤ìłľ":142700,"Ġìĭ¤ìłľë¡ľ":142701,"ì¤ijìķĻ":142702,"ëįĶëĿ¼":142703,"ĠÑĪиÑĢ":142704,"ĠÑĪиÑĢоко":142705,"Ġsolución":142706,"วาà¸ĩà¹ģà¸ľà¸Ļ":142707,"×IJ×ķ×ĺ×ķ×ŀ":142708,"×IJ×ķ×ĺ×ķ×ŀ×ĺ×Ļ":142709,"ĠÑĢеÑģÑĤ":142710,"ĠÑĢеÑģÑĤоÑĢ":142711,"ĠÑĢеÑģÑĤоÑĢан":142712,"ëį¸":142713,"ÑĤÑĢад":142714,"ÑĤÑĢади":142715,"ÑĤÑĢадиÑĨион":142716,"ÑĤÑĢадиÑĨионн":142717,"มะà¹Ģรà¹ĩ":142718,"มะà¹Ģรà¹ĩà¸ĩ":142719,"à¹Ĥส":142720,"Ġolmasını":142721,"×ŀ×ķסר":142722,"ĠоÑĤноÑĪении":142723,"Ġê°ĢëĬ¥ìĦ±":142724,"Ġyuk":142725,"Ġyukarı":142726,"ìĨĶ":142727,"ĠÑģÑĦ":142728,"ĠÑģÑĦеÑĢе":142729,"Ġ×§×ķפ":142730,"ãĤ±ãĥ¼ãĤ":142731,"ãĤ±ãĥ¼ãĤŃ":142732,"âĢķâĢķ":142733,"ĠاÙĦØ£ÙĦÙħ":142734,"ĠاÙĦØ£ÙĦÙħاÙĨÙĬ":142735,"ẢN":142736,"ת×ķ׼׳×Ļ×ķת":142737,"ĠÑģÑĥÑīеÑģÑĤвÑĥеÑĤ":142738,"æĪijãĢħ":142739,"ĠاÙĦصادر":142740,"ĠTrá»įng":142741,"Ġад":142742,"ĠадминиÑģÑĤ":142743,"ĠадминиÑģÑĤÑĢа":142744,"ĠадминиÑģÑĤÑĢаÑĨи":142745,"ĠдÑĢÑĥгими":142746,"ÑģпеÑĪ":142747,"عÙĦاÙħات":142748,"Ġаб":142749,"ĠабÑģол":142750,"ĠабÑģолÑİÑĤ":142751,"ĠабÑģолÑİÑĤно":142752,"ฤà¸Ķู":142753,"étr":142754,"étranger":142755,"нÑıÑĤи":142756,"нÑıÑĤие":142757,"×¢×ķ׳":142758,"×¢×ķ׳ש":142759,"ĠÙĤائ":142760,"ĠÙĤائÙĦا":142761,"ĠмаÑģ":142762,"ĠмаÑģло":142763,"ãĥīãĤ¤":142764,"ãĥīãĤ¤ãĥĦ":142765,"å¿ħè¦ģãģĮãģĤãĤĬãģ¾ãģĻ":142766,"×ŀ×ķ×ĸ×Ļ×IJ":142767,"×ŀ×ķ×ĸ×Ļ×IJ×ķף":142768,"ĠNgoại":142769,"Ġkênh":142770,"à¸ģารà¸Ńà¸Ńà¸ģà¹ģà¸ļà¸ļ":142771,"×ŀפק":142772,"×ŀפק×ĵ":142773,"ÙħÙĨاز":142774,"ÙħÙĨازÙĦ":142775,"ë·°":142776,"íŤ":142777,"ÙħÙĩارات":142778,"Ġpropriété":142779,"פ×Ĵ×Ļש×Ķ":142780,"ÑĩÑĢ":142781,"ÑĩÑĢеж":142782,"ÑĩÑĢежден":142783,"×Ķ×ķצ×IJ×Ķ":142784,"ØŃÙĥÙĬÙħ":142785,"ĠíĻĪ":142786,"ĠíĻĪíİĺìĿ´ì§Ģ":142787,"åݳ":142788,"åݳãģĹãģĦ":142789,"×¢×ŀ×ĵ×Ķ":142790,"ĠAuÃŁen":142791,"سÙĪØ¡":142792,"ë¹Ī":142793,"ĠÙĪØ®":142794,"ĠÙĪØ®Ø§ØµØ©":142795,"инÑĤеÑĢ":142796,"инÑĤеÑĢеÑģ":142797,"èĩ´ãģĹãģ¾ãģĻ":142798,"Ġhüküm":142799,"à¹Ħà¸Ĥมัà¸Ļ":142800,"Ġdavran":142801,"ĠdavranÄ±ÅŁ":142802,"à¹Ģà¸ķียà¸ĩ":142803,"вÑĢем":142804,"вÑĢеменно":142805,"à¹Ģà¸Ĺศà¸ģา":142806,"à¹Ģà¸Ĺศà¸ģาล":142807,"å¼ķãģ£":142808,"å¼ķãģ£è¶ĬãģĹ":142809,"×IJר×ķ×Ĺ":142810,"×IJר×ķ×Ĺת":142811,"à¹Ģวิ":142812,"à¹Ģวิรà¹Į":142813,"à¸Ńยà¹Īาà¸ĩรวà¸Ķà¹Ģรà¹ĩว":142814,"ĠìŬíĸī":142815,"ĠÑĢанÑĮ":142816,"ĠÑĢанÑĮÑĪе":142817,"Ġzobow":142818,"ĠzobowiÄħ":142819,"ĠzobowiÄħz":142820,"Ġ×ķ׼×ŀ×ķ×ijף":142821,"ĠاÙĦÙħÙĩ":142822,"ĠاÙĦÙħÙĩÙĨÙĬ":142823,"ãĤ¢ãĤ¸":142824,"ãĤ¢ãĤ¸ãĤ¢":142825,"ë°©ìĨ¡":142826,"à¸Ńà¸Ńà¸ģà¸ģำลัà¸ĩ":142827,"à¸Ńà¸Ńà¸ģà¸ģำลัà¸ĩà¸ģาย":142828,"améli":142829,"améliorer":142830,"å½ĵãģŁãĤĬåīį":142831,"Ġregelm":142832,"ĠregelmÃ¤ÃŁig":142833,"ãģĬåĭ":142834,"ãģĬåĭ§":142835,"ãģĬåĭ§ãĤģ":142836,"Ġmưá»Ŀi":142837,"برÙħج":142838,"ĠNatürlich":142839,"ĠDÅ©ng":142840,"ĠاÙĦرجاÙĦ":142841,"Ġthép":142842,"ĠolmuÅŁtur":142843,"×ŀ×ķס×Ļ×§×Ķ":142844,"fälle":142845,"주íĥĿ":142846,"ĠاÙĦÙģØ±Øµ":142847,"ĠnajwiÄĻks":142848,"ĠnajwiÄĻkszy":142849,"ĠçaÄŁ":142850,"ĠçaÄŁrı":142851,"ì¸ł":142852,"ĠvÃŃct":142853,"ĠvÃŃctima":142854,"ĠÑģовеÑĢÑĪен":142855,"×Ķ×Ļ×Ļת×Ļ":142856,"à¹Ģà¸Ķี":142857,"à¹Ģà¸Ķีà¹ĭ":142858,"à¹Ģà¸Ķีà¹ĭยว":142859,"üyü":142860,"Ġдоп":142861,"Ġдополн":142862,"ĠдополниÑĤелÑĮно":142863,"à¹ģà¸ķà¸ģà¸ķà¹Īาà¸ĩà¸ģัà¸Ļ":142864,"Ġál":142865,"Ġálbum":142866,"à¸Ľà¸£à¸°à¸Īà¸³à¸Ľà¸µ":142867,"ĠÑĦедеÑĢ":142868,"ĠÑĦедеÑĢалÑĮн":142869,"ĠobsÅĤ":142870,"ĠobsÅĤugi":142871,"à¹Ģรืà¹Ī":142872,"à¹Ģรืà¹Īà¸Ńย":142873,"à¹Ģรืà¹Īà¸Ńยà¹Ĩ":142874,"ëģĮ":142875,"Ġnghìn":142876,"ĠBaÅŁkanlıģı":142877,"تأسÙĬ":142878,"تأسÙĬس":142879,"Ġ×ij×ij×ķקר":142880,"Ġ×¢×ij×ķ×ĵ×ķת":142881,"ĠبصÙĪØ±Ø©":142882,"ãĤıãģijãģ§ãģ¯ãģªãģĦ":142883,"führer":142884,"ãĤ¹ãĤŃ":142885,"ãĤ¹ãĤŃãĥ«":142886,"ĠاÙĦÙĤض":142887,"ĠاÙĦÙĤضÙĬØ©":142888,"ĠдолжноÑģÑĤ":142889,"ÙģØ§Ø±ÙĤ":142890,"Ġcomeçou":142891,"Ġorganisé":142892,"Ġxuân":142893,"ĠÑģообÑīаеÑĤ":142894,"ĠпÑĢид":142895,"ĠпÑĢидеÑĤÑģÑı":142896,"TÃľRK":142897,"ãĥ¬ãĥ¼ãĤ·ãĥ§ãĥ³":142898,"Không":142899,"استÙģ":142900,"استÙģØ§Ø¯Ø©":142901,"ä¸ĬãģĮãģ£ãģ¦":142902,"Ġumie":142903,"ĠumiejÄĻ":142904,"ĠumiejÄĻtn":142905,"ĠumiejÄĻtnoÅĽci":142906,"ëĤ¸":142907,"à¹Ģà¸Ļà¸Ńรà¹Į":142908,"×ĵ×ķ×ķ×Ĺ":142909,"ÃŃsimo":142910,"IÃĬ":142911,"IÃĬN":142912,"Ġalcanç":142913,"Ġà¸ķุ":142914,"Ġà¸ķุลา":142915,"Ġà¸ķุลาà¸Ħม":142916,"ש׾×ĺ×ķף":142917,"Ġélè":142918,"Ġélèves":142919,"ĠÄiju":142920,"ĠÄijuá»ķi":142921,"ĠØ£Ùģ":142922,"ĠØ£Ù쨱ÙĬ":142923,"ĠØ£Ù쨱ÙĬÙĤÙĬ":142924,"ĠØ£Ù쨱ÙĬÙĤÙĬا":142925,"ãĤĴæİ¢ãģĻ":142926,"ĠпÑĢедложениÑı":142927,"جاد":142928,"ĠÑħоÑĤÑĮ":142929,"Ñģал":142930,"Ñģалон":142931,"à¸Ľà¸£à¸°à¹Ģม":142932,"à¸Ľà¸£à¸°à¹Ģมิà¸Ļ":142933,"ãĤŃãĥĥãĥģ":142934,"ãĤŃãĥĥãĥģãĥ³":142935,"×ij×ĵ×Ļ×§×ķת":142936,"Ġchù":142937,"Ġchùa":142938,"ÐĴиде":142939,"ÐĴидео":142940,"иÑĢовка":142941,"ĠÑħоÑĤиÑĤе":142942,"Ġspécifique":142943,"รสà¸Ĭาà¸ķิ":142944,"è¾¼ãĤĵãģł":142945,"伸ãģ³":142946,"×Ķצ׾×Ĺת":142947,"ãģ©ãģ®ãĤĪãģĨãģ«":142948,"سعادة":142949,"Ġлид":142950,"ĠлидеÑĢ":142951,"มà¸ĩ":142952,"มà¸ĩà¸Ħล":142953,"ØŃاÙħÙĦ":142954,"หลุà¸Ķ":142955,"à¸Ńยà¹Īาà¸ĩà¸ķà¹Īà¸Ń":142956,"à¸Ńยà¹Īาà¸ĩà¸ķà¹Īà¸Ńà¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ":142957,"ãģķãģĽãģ¦éłĤ":142958,"تسÙĪÙĬ":142959,"تسÙĪÙĬÙĤ":142960,"ĠaÅŁaģıd":142961,"ĠaÅŁaģıdaki":142962,"ĠÑĨелÑĮ":142963,"ĠÑĨелÑĮÑİ":142964,"ĠAraÅŁtırma":142965,"à¸Ĥัà¸ļรà¸ĸ":142966,"ÙĩذÙĩ":142967,"ลà¸ĩà¸Ĺะ":142968,"ลà¸ĩà¸Ĺะà¹Ģà¸ļ":142969,"ลà¸ĩà¸Ĺะà¹Ģà¸ļียà¸Ļ":142970,"تÙĥاÙħÙĦ":142971,"Ġcio":142972,"Ġcioè":142973,"ãģ¦ãģĬãģı":142974,"ĠاÙĦصØŃÙģÙĬ":142975,"ĠíĬ¹ìłķ":142976,"полниÑĤÑĮ":142977,"ãĤĵãģĺãĤĥãģªãģĦ":142978,"ãĤĵãģĺãĤĥãģªãģĦãģĭ":142979,"ĠاÙĦجÙĩ":142980,"ĠاÙĦجÙĩات":142981,"ĠÑĥÑģпеÑĪно":142982,"Ġвок":142983,"ĠвокÑĢÑĥг":142984,"ĠÑģиÑĤÑĥаÑĨиÑı":142985,"Ġ×Ķ×IJ×ŀר":142986,"Ġ×Ķ×IJ×ŀר×Ļ×§":142987,"Ġ×Ķ×IJ×ŀר×Ļ×§×IJ×Ļ":142988,"×ŀ×Ĵ×ĸ":142989,"×ŀ×Ĵ×ĸ×Ļף":142990,"ĠакÑĤÑĥ":142991,"ĠакÑĤÑĥалÑĮн":142992,"éta":142993,"étais":142994,"ĠmogÅĤa":142995,"ĠÑĤоÑĩки":142996,"Ġ×ŀ×Ķ×ŀ×¢":142997,"Ġ×ŀ×Ķ×ŀ×¢×¨×Ľ×ª":142998,"à¸¡à¸µà¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺà¸´à¸łà¸²à¸ŀ":142999,"×Ļר×Ļ×ĵ×Ķ":143000,"×Ĵר×ŀ׳":143001,"×Ĵר×ŀ׳×Ļ×Ķ":143002,"Ġглав":143003,"Ġглавное":143004,"Ġ미ëŀĺ":143005,"Ġ׳׼×ķ׳×Ķ":143006,"ĠÙĪØ·ÙĨÙĬ":143007,"opport":143008,"opportunitÃł":143009,"Ġhá»§y":143010,"ĠÙĦتØŃ":143011,"ĠÙĦتØŃÙĤÙĬÙĤ":143012,"Ġórg":143013,"Ġórgão":143014,"ãĤ¹ãĥĶ":143015,"ãĤ¹ãĥĶãĥ¼ãĥī":143016,"Ġönü":143017,"Ġönüne":143018,"ÙħعاÙħÙĦ":143019,"ש×ŀ×Ļר×Ķ":143020,"ĠвеÑģÑĮма":143021,"ĠwiÄĻkszo":143022,"ĠwiÄĻkszoÅĽÄĩ":143023,"ĠاستراتÙĬج":143024,"ĠاستراتÙĬجÙĬØ©":143025,"ĠÙ쨥":143026,"ĠÙģØ¥Ø°Ø§":143027,"à¹Ģà¸Ĭืà¹Īà¸Ńม":143028,"à¹Ģà¸Ĭืà¹Īà¸Ńมà¸ķà¹Īà¸Ń":143029,"Ġ׾פר":143030,"Ġ׾פר×ĺ×Ļ×Ŀ":143031,"ÙħضÙĬ":143032,"ĠGerçek":143033,"Ġçocukların":143034,"ÙĪØ«Ø§Ø¦ÙĤ":143035,"ĠÙħساءÙĭ":143036,"Ġunterstützt":143037,"Ġprést":143038,"Ġpréstamo":143039,"ĠÐłÐ°Ð·Ð¼ÐµÑĢ":143040,"ĠÅŁeker":143041,"Ġséculo":143042,"×ij×Ķ×Ļר":143043,"Ø´ÙĩÙĪØ±":143044,"Ġà¸Ńีà¸ģ":143045,"Ġà¸Ńีà¸ģà¸Ĺัà¹īà¸ĩ":143046,"Ġllegó":143047,"à¸¨à¸´à¸¥à¸Ľà¸°":143048,"æĪijãģĮ":143049,"æĪijãģĮå®¶":143050,"عÙĤÙĪ":143051,"عÙĤÙĪØ¨Ø§Øª":143052,"ĠFälle":143053,"ĠsÅĤuż":143054,"ĠsÅĤużb":143055,"ĠاÙĦØŃÙĤÙĪÙĤ":143056,"ĠплиÑĤ":143057,"ĠиноÑģÑĤ":143058,"ĠиноÑģÑĤÑĢан":143059,"ĠиноÑģÑĤÑĢанн":143060,"à¹ĥà¸Ļà¸Ĥà¸ĵะà¸Ĺีà¹Ī":143061,"ãĤ«ãĥĨ":143062,"ãĤ«ãĥĨãĤ´":143063,"ãĤ«ãĥĨãĤ´ãĥª":143064,"à¸Ńิส":143065,"à¸Ńิสระ":143066,"à¹Ģà¸ľà¸¢à¹ģ":143067,"à¹Ģà¸ľà¸¢à¹ģà¸ŀร":143068,"à¹Ģà¸ľà¸¢à¹ģà¸ŀรà¹Ī":143069,"ãģĬãģĦ":143070,"ãģĬãģĦãģĹãģĦ":143071,"استÙĤÙĦ":143072,"استÙĤÙĦاÙĦ":143073,"تØŃض":143074,"تØŃضÙĬر":143075,"åĬ©ãģij":143076,"ÙħراÙģÙĤ":143077,"Ġ×ĵ×ķר":143078,"Ġ×ĵ×ķרש":143079,"×ŀת×Ļ×Ļ×Ĺס":143080,"ס×Ļ׼":143081,"ס×Ļ׼×ķ×Ŀ":143082,"íĮĮíĬ¸":143083,"ĠwyÅĽ":143084,"ĠwyÅĽw":143085,"ĠwyÅĽwiet":143086,"ĠwyÅĽwietl":143087,"ĠاÙĦاÙĨساÙĨ":143088,"ĠStraÃŁen":143089,"L":143090,"ãģ«åŁº":143091,"ãģ«åŁºãģ¥":143092,"ĠcapÃŃtulo":143093,"ลุย":143094,"Ġ×Ķ×ŀקצ×ķ×¢×Ļ":143095,"ãģĤãĤĭç¨ĭ度":143096,"Ợ":143097,"ĠاÙĦÙĦا":143098,"ĠاÙĦÙĦازÙħØ©":143099,"æķĻãģĪ":143100,"Ġרש×IJ×Ļ":143101,"зав":143102,"завиÑģ":143103,"завиÑģим":143104,"à¸Ľà¸±à¸Īà¸Īัย":143105,"à¹Ģà¸ĭล":143106,"à¹Ģà¸ĭลลà¹Į":143107,"Ġdifférence":143108,"ĠAltın":143109,"ĠкÑĢай":143110,"ĠкÑĢайне":143111,"Ġзло":143112,"Ġgünümüz":143113,"ĠнаÑĤÑĥÑĢ":143114,"ĠнаÑĤÑĥÑĢалÑĮн":143115,"×Ĵ×ķ׾ש×Ļ×Ŀ":143116,"ĠкаÑĤегоÑĢ":143117,"ĠкаÑĤегоÑĢии":143118,"Ġзнак":143119,"à¸ģà¹Īà¸Ńà¸Ļหà¸Ļà¹īา":143120,"à¸ģà¹Īà¸Ńà¸Ļหà¸Ļà¹īาà¸Ļีà¹ī":143121,"ĠÙħÙĨت":143122,"ĠÙħÙĨتخب":143123,"ãĥĽãĥ¼ãĥ«":143124,"ĠевÑĢо":143125,"สว":143126,"สวม":143127,"ĠìľĦìĽIJ":143128,"ĠìľĦìĽIJëĭĺ":143129,"ĠاÙĦØŃÙĪØ«":143130,"ĠاÙĦØŃÙĪØ«ÙĬ":143131,"ĠÑģодеÑĢжиÑĤ":143132,"ãĥķãĤ¡ãĥĥãĤ·ãĥ§ãĥ³":143133,"Ġà¸ģัà¸Ļ":143134,"Ġà¸ģัà¸Ļย":143135,"Ġà¸ģัà¸Ļยายà¸Ļ":143136,"ãĤªãĥª":143137,"ãĤªãĥªãĤ¸":143138,"ãĤªãĥªãĤ¸ãĥĬãĥ«":143139,"ĠбÑĢенд":143140,"ãĤĴæĮģãģ£ãģ¦ãģĦãĤĭ":143141,"Ġinversión":143142,"Ġê°ĸ":143143,"Ġê°ĸê³ł":143144,"ĠnovitÃł":143145,"ê´Ģê´ij":143146,"Ġà¸ŀฤษ":143147,"Ġà¸ŀà¸¤à¸©à¸łà¸²":143148,"Ġà¸ŀà¸¤à¸©à¸łà¸²à¸Ħม":143149,"×ķר×Ĺ×Ļ×Ŀ":143150,"׼׾×ķ׾":143151,"Ġngạc":143152,"×Ļ×Ļש":143153,"×Ļ×Ļש×ķ×ij":143154,"fäll":143155,"fällig":143156,"ĠÑĤÑĢебÑĥеÑĤÑģÑı":143157,"Ġcará":143158,"Ġcarácter":143159,"ĠprincÃŃpio":143160,"ĠÅĤaz":143161,"ĠÅĤazien":143162,"ĠÅĤazienk":143163,"Ġgiãn":143164,"ÑģÑĤÑĢаива":143165,"Ùħساب":143166,"ÙħسابÙĤØ©":143167,"à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩà¸Ķืà¹Īม":143168,"ترÙĥÙĬب":143169,"volução":143170,"ĠÐŁÐ¾Ñĩ":143171,"ĠÐŁÐ¾Ñĩем":143172,"ĠÐŁÐ¾ÑĩемÑĥ":143173,"казалоÑģÑĮ":143174,"ĠпÑĢименениÑı":143175,"à¹Ģà¸Ĺียม":143176,"íĮĶ":143177,"à¸Ĥà¹īà¸Ńà¹Ģสà¸Ļà¸Ń":143178,"à¸Ľà¸±à¸įà¸įา":143179,"ĠобÑĥÑĩ":143180,"ĠобÑĥÑĩениÑı":143181,"ĠÑģеÑĢи":143182,"ĠÑģеÑĢиал":143183,"Ġinglés":143184,"ĠÙĦÙĥرة":143185,"Ġ×ĺ׾":143186,"Ġ×ĺ׾פ×ķף":143187,"Ġìłij":143188,"Ġìłijê·¼":143189,"×IJ×ķ×Ĵ":143190,"×IJ×ķ×Ĵ×ķס":143191,"×IJ×ķ×Ĵ×ķס×ĺ":143192,"ĠболÑĮÑĪое":143193,"ĠÐļонеÑĩно":143194,"×¢×Ļת×ķ׳":143195,"×¢×Ļת×ķ׳×IJ×Ļ":143196,"Ġкнопк":143197,"Ġзн":143198,"ĠзнаÑĤÑĮ":143199,"ĠÄijá»±":143200,"ĠÄijá»±ng":143201,"влаж":143202,"влажн":143203,"×ŀ×Ļ×ĺ×ij":143204,"ãĤ¬ãĤ¤":143205,"ãĤ¬ãĤ¤ãĥī":143206,"..........":143207,"Ġà¸ģุม":143208,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀ":143209,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļ":143210,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļà¸ĺ":143211,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļà¸ĺà¹Į":143212,"bez":143213,"bezpieczeÅĦst":143214,"bezpieczeÅĦstw":143215,"ãĥijãĥijæ´»":143216,"عاط":143217,"عاطÙģ":143218,"ĠÄijáºŃm":143219,"ĠзÑĢ":143220,"ĠзÑĢениÑı":143221,"Ġborç":143222,"Ġнедел":143223,"ĠнеделÑİ":143224,"Ġhá»ı":143225,"Ġhá»ıng":143226,"ìŀ¥ìķł":143227,"ìŀ¥ìķłìĿ¸":143228,"ĠاÙĦعÙĦاÙĤØ©":143229,"Ġíģ¬":143230,"Ġíģ¬ê²Į":143231,"à¹Ħรà¹Ī":143232,"à¸ļาà¸Ķ":143233,"à¸ļาà¸Ķà¹Ģà¸Īà¹ĩà¸ļ":143234,"à¸Ŀรั":143235,"à¸Ŀรัà¹Īà¸ĩ":143236,"à¸Ŀรัà¹Īà¸ĩà¹Ģศ":143237,"à¸Ŀรัà¹Īà¸ĩà¹Ģศส":143238,"רע×Ļ":143239,"רע×Ļ×ķ׳×ķת":143240,"ĠëĮ":143241,"ĠëĮĵ":143242,"ĠëĮĵê¸Ģ":143243,"Ġnajb":143244,"Ġnajbli":143245,"Ġnajbliż":143246,"Ġnajbliższ":143247,"ĠиÑģполÑĮзÑĥеÑĤÑģÑı":143248,"ĠcientÃŃf":143249,"ĠcientÃŃfico":143250,"×¢×ŀ×§":143251,"Ġgợi":143252,"Ø´ØŃÙĨ":143253,"ĠÅĽm":143254,"ĠÅĽmier":143255,"ĠÅĽmierci":143256,"à¸Ħาสิà¹Ĥà¸Ļà¸Ńà¸Ńà¸Ļà¹Ħลà¸Ļà¹Į":143257,"×Ĺש×ijת×Ļ":143258,"Ġningu":143259,"Ġninguém":143260,"è¾¼ãĤģ":143261,"ãģ·":143262,"ĠÑĥг":143263,"ĠÑĥгол":143264,"ï½°":143265,"פת×Ļ×Ĺ":143266,"פת×Ļ×Ĺת":143267,"Ġ×Ķר×IJש×ķ׳×Ļ×Ŀ":143268,"pósito":143269,"ãĤŃãĥ¬ãĤ¤":143270,"ãģ©ãģĵãĤį":143271,"à¹Ģà¸Ĺà¹Īาà¹Ħ":143272,"à¹Ģà¸Ĺà¹Īาà¹Ħหร":143273,"à¹Ģà¸Ĺà¹Īาà¹Ħหรà¹Ī":143274,"ĠинÑĤеÑĢÑĮеÑĢ":143275,"ĠØŃاج":143276,"ĠØŃاجة":143277,"สีà¸Ĥาว":143278,"ìĸ¼":143279,"Ġná»Ļ":143280,"Ġná»Ļp":143281,"ĠÃŃnd":143282,"ĠÃŃndice":143283,"สำรวà¸Ī":143284,"Ġкаждой":143285,"Ġhotéis":143286,"ĠnastÄĻ":143287,"ĠnastÄĻpn":143288,"Ġ×Ķ×§×ķ×ĵ":143289,"Ġ×Ķ×§×ķ×ĵ×Ŀ":143290,"פ×ķפ":143291,"פ×ķפ×ķ׾":143292,"פ×ķפ×ķ׾ר×Ļ":143293,"вÑĪей":143294,"ãĤ·ãĥ³ãĥĹ":143295,"ãĤ·ãĥ³ãĥĹãĥ«":143296,"ĠzdjÄĻÄĩ":143297,"ĠгÑĢÑĥппа":143298,"ĠпомеÑī":143299,"ĠпомеÑīениÑı":143300,"ãģ©ãģĨãģĦãģĨ":143301,"ĠиÑģпÑĭÑĤа":143302,"ĠogÅĤ":143303,"ĠogÅĤos":143304,"ĠogÅĤoszen":143305,"ĠogÅĤoszeni":143306,"สรà¹īาà¸ĩสรร":143307,"สรà¹īาà¸ĩสรรà¸Ħà¹Į":143308,"à¸ŀรรà¸ĵ":143309,"ĠçıkÄ±ÅŁ":143310,"ĠÑĩаÑģÑĤноÑģÑĤи":143311,"Ġ×ķ×Ļ×ķתר":143312,"ç¶ļãģįãĤĴ":143313,"ç¶ļãģįãĤĴèªŃ":143314,"ç¶ļãģįãĤĴèªŃãĤĢ":143315,"à¸ģรั":143316,"à¸ģรัม":143317,"гÑĢаÑĦ":143318,"Ġвлад":143319,"ĠвладелÑĮ":143320,"ĠвладелÑĮÑĨ":143321,"ĠistediÄŁ":143322,"ĠistediÄŁiniz":143323,"×ij×ľ×¢":143324,"×ij×ľ×¢×ĵ×Ļ":143325,"ÙħÙĪØ§Ùģ":143326,"ÙħÙĪØ§ÙģÙĤØ©":143327,"Ġ×Ļ×ķר":143328,"Ġ×Ļ×ķרק":143329,"ãĤ«ãĥ¼ãĥīãĥŃãĥ¼ãĥ³":143330,"ĠاÙĦÙħØ´ÙĥÙĦ":143331,"ĠاÙĦÙħØ´ÙĥÙĦØ©":143332,"ĠêµŃíļĮ":143333,"ספ×ĺ":143334,"ספ×ĺ×ŀ":143335,"ספ×ĺ×ŀ×ijר":143336,"Ġìĸ´ëłµ":143337,"ÙĥاÙħ":143338,"ÙĥاÙħÙĬرا":143339,"schlü":143340,"schlüsse":143341,"ĠØ«ÙĨ":143342,"ĠØ«ÙĨائÙĬ":143343,"ìī½":143344,"ĠÐŀÑģоб":143345,"ĠÐŀÑģобенно":143346,"ĠинвеÑģÑĤи":143347,"ĠинвеÑģÑĤиÑĨи":143348,"اØŃتÙħ":143349,"اØŃتÙħاÙĦ":143350,"EÄŀ":143351,"EÄŀİ":143352,"íķĺê²łëĭ¤":143353,"Ġ×IJ×ijר×Ķ":143354,"Ġ×IJ×ijר×Ķ×Ŀ":143355,"Ġ×ij×Ĺ×Ļ׳×Ŀ":143356,"Ø£ÙĪØ¶":143357,"Ø£ÙĪØ¶Ø§Ø¹":143358,"Ġdél":143359,"Ġdélai":143360,"Ġ×IJ×ķ×Ķ×ij×Ļ×Ŀ":143361,"ĠÑģоÑħ":143362,"ĠÑģоÑħÑĢ":143363,"ĠÑģоÑħÑĢани":143364,"ĠдоÑģÑĤиж":143365,"ĠдоÑģÑĤижени":143366,"สิà¹Īà¸ĩà¹ģ":143367,"สิà¹Īà¸ĩà¹ģวà¸Ķ":143368,"สิà¹Īà¸ĩà¹ģวà¸Ķล":143369,"สิà¹Īà¸ĩà¹ģวà¸Ķลà¹īà¸Ńม":143370,"ĠاÙĦÙħباشر":143371,"ĠÑĦиг":143372,"ĠÑĦигÑĥÑĢ":143373,"можем":143374,"׾×ŀ×Ļ×ĵ×Ķ":143375,"Ġciné":143376,"Ġcinéma":143377,"Ġbada":143378,"ĠbadaÅĦ":143379,"جبÙĩØ©":143380,"Ġдеп":143381,"ĠдепÑĥÑĤ":143382,"ĠдепÑĥÑĤаÑĤ":143383,"Ġdistância":143384,"ĠاÙĦÙħعار":143385,"ĠاÙĦÙħعارضة":143386,"thèse":143387,"ünc":143388,"üncü":143389,"Ġданного":143390,"ĠBelgi":143391,"ĠBelgië":143392,"Ġ×ij×ij×§":143393,"Ġ×ij×ijקש×Ķ":143394,"ยà¹Īาà¸Ļ":143395,"Ġsolução":143396,"Ġ×Ķצ×ĺר":143397,"Ġ×Ķצ×ĺרפ×ķ":143398,"ĠØ£ÙĨØŃ":143399,"ĠØ£ÙĨØŃاء":143400,"ĠدÙħØ´":143401,"ĠدÙħØ´ÙĤ":143402,"มัà¹ī":143403,"มัà¹īย":143404,"Ùħغرب":143405,"استعÙħاÙĦ":143406,"ĠSÅĤow":143407,"ĠëıĻìĭľ":143408,"ĠëıĻìĭľìĹIJ":143409,"ĠÑģоÑģ":143410,"ĠÑģоÑģед":143411,"ì²ŃìĨĮ":143412,"ì²ŃìĨĮëħĦ":143413,"ĠгÑĢаÑĦ":143414,"ĠгÑĢаÑĦик":143415,"ĠìŀijìĿĢ":143416,"Ġyeti":143417,"ĠyetiÅŁtir":143418,"ĠìĿ´ê²ĥìĿ´":143419,"หà¹Īาà¸ĩ":143420,"Ø¥ÙħÙĥاÙĨ":143421,"Ø¥ÙħÙĥاÙĨÙĬØ©":143422,"استعراض":143423,"Ùħخدر":143424,"ĠÑĩÑĥÑĤÑĮ":143425,"ÙħدÙĬر":143426,"ÙħدÙĬرÙĬØ©":143427,"Ġà¹Ģมษ":143428,"Ġà¹Ģมษายà¸Ļ":143429,"ĠмеÑħ":143430,"ĠмеÑħаниз":143431,"ĠмеÑħанизм":143432,"ĠÑģÑĥм":143433,"ĠÑģÑĥммÑĥ":143434,"Ġvö":143435,"Ġvöll":143436,"Ġvöllig":143437,"ĠдÑĢÑĥз":143438,"ĠдÑĢÑĥзÑĮÑı":143439,"ãĤĴåĪ©ç͍ãģĹãģ¦":143440,"à¸ļรรà¸Īุ":143441,"pożycz":143442,"×ŀש׼":143443,"×ŀ×©×Ľ×ł×ª":143444,"×ŀ×©×Ľ×ł×ª×IJ":143445,"Ġeuropéen":143446,"Ġproprié":143447,"Ġpropriétaire":143448,"Ġkhấu":143449,"ãģĦãģŁãģłãģijãĤĭ":143450,"Ġtecrü":143451,"Ġtecrübe":143452,"×Ķ×ij":143453,"×Ķ×ij׳×Ķ":143454,"ĠcuÌ":143455,"ĠcuÌī":143456,"ĠcuÌīa":143457,"×IJ×ķ×ķ":143458,"×IJ×ķ×ķ×Ļר×Ķ":143459,"Ġ׼×ķ׾×ķ":143460,"Ulus":143461,"Uluslararası":143462,"Ġ׳×ķת":143463,"Ġ׳×ķ×ª×Ł":143464,"ãģ«åIJij":143465,"ãģ«åIJijãģijãģ¦":143466,"ë¹Ľ":143467,"à¸Ĺัà¸ģษ":143468,"à¸Ĺัà¸ģษะ":143469,"سÙĤÙĪ":143470,"سÙĤÙĪØ·":143471,"Ġвн":143472,"ĠвнеÑĪ":143473,"ĠвнеÑĪне":143474,"Ġurz":143475,"ĠurzÄĻd":143476,"Ġámb":143477,"Ġámbito":143478,"à¸Ńà¸ĺิ":143479,"à¸Ńà¸ĺิà¸ļาย":143480,"ĠÅĤad":143481,"ĠÅĤadn":143482,"ê±´ì¶ķ":143483,"wództ":143484,"wództw":143485,"Ġquestões":143486,"Ġשק":143487,"Ġשק×Ļ×ij׾":143488,"ĠmiejscowoÅĽci":143489,"Ġвал":143490,"ĠвалÑİÑĤ":143491,"häuser":143492,"หà¸Ļà¸Ńà¸ĩ":143493,"ãģ¨åħ±":143494,"ãģ¨åħ±ãģ«":143495,"ãĥıãĥ¼ãĥī":143496,"Ġê°ľìµľ":143497,"ĠоÑģновном":143498,"ĠмÑıÑģ":143499,"اعت":143500,"اعتÙĤاÙĦ":143501,"สà¸ĸิ":143502,"สà¸ĸิà¸ķิ":143503,"Ngu":143504,"Nguá»ĵn":143505,"ĠÙħجÙĦ":143506,"ĠÙħجÙĦØ©":143507,"à¹ģà¸Ĥà¸Ļ":143508,"ĠاÙĦÙĦÙĬبÙĬ":143509,"פע×Ļ׾×ķ×Ļ×ķת":143510,"Ġ×Ķרפ×ķ×IJ×Ļ":143511,"פר×ķפ":143512,"פר×ķפ×Ļ׾":143513,"ק׾×IJ":143514,"ק׾×IJס×Ļ":143515,"ÙĥتشÙģ":143516,"ãģ«ãģªãģ£ãģ¦ãģĹãģ¾ãģĨ":143517,"à¹Ģà¸Ħลà¹ĩà¸Ķ":143518,"à¹Ģà¸Ħลà¹ĩà¸Ķลัà¸ļ":143519,"Ġì»´":143520,"Ġì»´íĵ¨":143521,"Ġì»´íĵ¨íĦ°":143522,"Ġ×Ĺ×Ļ×ķ×ij×Ļ":143523,"Ġnäm":143524,"Ġnämlich":143525,"åij¼ãģ°":143526,"åij¼ãģ°ãĤĮ":143527,"ĠÑĢол":143528,"ĠÑĢоли":143529,"Ġspécialisé":143530,"à¸Ļวัà¸ķ":143531,"à¸Ļวัà¸ķà¸ģรรม":143532,"ÙĨصÙĪØµ":143533,"пеÑĢед":143534,"пеÑĢедаÑĩ":143535,"thèque":143536,"Ġר×IJ×Ļת×Ļ":143537,"ãĥĢãĤ¦ãĥ³":143538,"ãĤıãģĭ":143539,"ãĤıãģĭãģ£ãģ¦":143540,"беÑĢеж":143541,"ĠÑģек":143542,"ĠÑģекÑĢ":143543,"ĠÑģекÑĢеÑĤ":143544,"ĠпоÑģÑĤоÑıнн":143545,"à¸Ĥà¸Ļสà¹Īà¸ĩ":143546,"Ġmük":143547,"Ġmükem":143548,"Ġmükemmel":143549,"еÑĤеÑģÑĮ":143550,"ĠاÙĦسÙĨÙĪØ§Øª":143551,"ĠìłĦíĺĢ":143552,"Ġ×Ķ×ŀ×§×ķר×Ļ":143553,"Ġmüd":143554,"Ġmüdah":143555,"Ġmüdahale":143556,"Ġwyb":143557,"Ġwybór":143558,"Ġtendência":143559,"إدار":143560,"إدارÙĬØ©":143561,"Ġunterstützen":143562,"ת×ijר":143563,"ת×ijרר":143564,"Ġdiá":143565,"Ġdiálogo":143566,"ĠÃĸnce":143567,"ĠÃĸnceki":143568,"ãĤ¹ãĥĿãĥĥãĥĪ":143569,"ëĦ£":143570,"ĠGeli":143571,"ĠGeliÅŁ":143572,"ãĤĴéĢļ":143573,"ãĤĴéĢļãģĹãģ¦":143574,"ĠFuÃŁball":143575,"Ġsalari":143576,"Ġsalarié":143577,"ĠпÑĢодÑĥкÑĤов":143578,"صÙģÙĤØ©":143579,"รวà¸ļ":143580,"รวà¸ļรวม":143581,"à¹ĥà¸Ļà¸IJาà¸Ļ":143582,"à¹ĥà¸Ļà¸IJาà¸Ļะ":143583,"Ġkayna":143584,"Ġkaynaģı":143585,"ĠìŀijíĴĪ":143586,"ĠвÑĭÑĢаж":143587,"ĠвÑĭÑĢажен":143588,"ĠÑģÑĤеп":143589,"ĠÑģÑĤепени":143590,"ĠاÙĦÙħÙĪØ¬ÙĪØ¯":143591,"ĠاÙĦÙħÙĪØ¬ÙĪØ¯Ø©":143592,"ลà¹īม":143593,"ĠnajczÄĻ":143594,"ĠnajczÄĻÅĽcie":143595,"ĠnajczÄĻÅĽciej":143596,"Ġzwy":143597,"Ġzwyk":143598,"ĠzwykÅĤ":143599,"Ġê·¸ëłĩì§Ģ":143600,"à¸ģระà¸Ī":143601,"à¸ģระà¸Īาย":143602,"Ġëĭµ":143603,"Ġëĭµë³Ģ":143604,"ĠÑĢеак":143605,"ĠÑĢеакÑĨи":143606,"ĠÅĽwież":143607,"ĠÑģÑĤоимоÑģÑĤи":143608,"ÙħÙĨاÙĤ":143609,"ÙħÙĨاÙĤØ´":143610,"ÙħÙĨاÙĤشة":143611,"ĠÑħоÑĩÑĥ":143612,"ãĥľãĥ¼ãĥī":143613,"Ġróżnic":143614,"ĠкÑĢÑĭ":143615,"ĠкÑĢÑĭÑĪ":143616,"âľĵ":143617,"ãĤ³ãĥ³ãĥĨãĥ³":143618,"ãĤ³ãĥ³ãĥĨãĥ³ãĥĦ":143619,"ĠпÑĢедпоÑĩ":143620,"×ŀר×ij×Ļת":143621,"ĠØ´Ùĥ":143622,"ĠØ´Ùĥرا":143623,"Ġдал":143624,"Ġдалек":143625,"Ġдалеко":143626,"برÙĬØ·":143627,"برÙĬطاÙĨÙĬا":143628,"عÙĨا":143629,"عÙĨاÙĬØ©":143630,"ĠÑĢаÑģÑģказ":143631,"ĠÑĢаÑģÑģказÑĭва":143632,"Ø£ÙĦÙĪ":143633,"Ø£ÙĦÙĪØ§ÙĨ":143634,"æĮģãģ£ãģ¦":143635,"æĮģãģ£ãģ¦ãģĦ":143636,"Ùħبادئ":143637,"×Ķ×¢×ijר":143638,"×Ķ×¢×ijרת":143639,"Ġyayı":143640,"Ġyayıml":143641,"Ġyayımla":143642,"mát":143643,"máticos":143644,"à¸ģัà¸ĩ":143645,"à¸ģัà¸ĩวล":143646,"Ġ×ľ×¤×ª":143647,"Ġ×ľ×¤×ª×ķ×Ĺ":143648,"à¸ŀฤà¸ķิ":143649,"à¸ŀฤà¸ķิà¸ģรรม":143650,"íĤ¬":143651,"ĠокÑĢÑĥг":143652,"Ġ×ŀצ×ķ×ķ×Ķ":143653,"ÐĽÐµÐ½Ð¸":143654,"ÐĽÐµÐ½Ð¸Ð½":143655,"ĠTriá»ģu":143656,"ãĤ³ãĥŁãĥ¥":143657,"ãĤ³ãĥŁãĥ¥ãĥĭ":143658,"ãĤ³ãĥŁãĥ¥ãĥĭãĤ±":143659,"ãĤ³ãĥŁãĥ¥ãĥĭãĤ±ãĥ¼ãĤ·ãĥ§ãĥ³":143660,"ÙĥÙĨÙĬ":143661,"ÙĥÙĨÙĬسة":143662,"ãĤĴä¸Ńå¿ĥ":143663,"ãĤĴä¸Ńå¿ĥãģ«":143664,"ĠmiÄĻdz":143665,"ĠmiÄĻdzyn":143666,"ĠmiÄĻdzynar":143667,"ĠmiÄĻdzynarod":143668,"ĠmiÄĻdzynarodow":143669,"ÙĦÙĨ":143670,"ÙĦÙĨدا":143671,"برش":143672,"برشÙĦÙĪÙĨ":143673,"برشÙĦÙĪÙĨØ©":143674,"à¸ģระà¸ķุ":143675,"à¸ģระà¸ķุà¹īà¸Ļ":143676,"Ġgı":143677,"Ġgıda":143678,"à¸Ľà¸£à¸°à¸Ĺัà¸ļ":143679,"à¸Ľà¸£à¸°à¸Ĺัà¸ļà¹ĥà¸Ī":143680,"Ġë¶Ī구":143681,"Ġë¶Ī구íķĺê³ł":143682,"ĠÙĨØ·":143683,"ĠÙĨطاÙĤ":143684,"ĠÐľÐ¾Ð¶ÐµÑĤ":143685,"Präs":143686,"Präsident":143687,"ĠÑģкоÑĢ":143688,"ĠÑģкоÑĢоÑģÑĤÑĮ":143689,"Ġ×Ķ×ij×ķקר":143690,"еÑħаÑĤÑĮ":143691,"Ġgạo":143692,"Ġש×IJ×Ļ׳×Ŀ":143693,"Ġ×ij׳×ķ×Ĵ":143694,"Ġ×ij׳×ķ×Ĵ×¢":143695,"ĠопиÑģание":143696,"Ġuczni":143697,"Ġuczniów":143698,"à¹Ģà¸Ńà¹ĩà¸Ļ":143699,"Ġتش":143700,"ĠتشرÙĬÙĨ":143701,"Ġnhãn":143702,"빨":143703,"Ġcaractère":143704,"×¢×ľ×Ļ":143705,"×¢×ľ×Ļ×Ļ×Ķ":143706,"楽ãģĹãĤģãĤĭ":143707,"ĠÑģаÑħ":143708,"ĠÑģаÑħаÑĢ":143709,"дÑĥмаÑĤÑĮ":143710,"ĠÐĴозможно":143711,"صÙĬاÙĨ":143712,"صÙĬاÙĨØ©":143713,"ömür":143714,"สล":143715,"สลà¹ĩ":143716,"สลà¹ĩà¸Ń":143717,"สลà¹ĩà¸Ńà¸ķ":143718,"롯":143719,"Ġthói":143720,"grÃ¶ÃŁe":143721,"ĠksiÄĻ":143722,"ĠksiÄĻg":143723,"ĠÑĢом":143724,"ĠÑĢоман":143725,"ÙĤاسÙħ":143726,"×ŀ×ij×ķ×Ĵ":143727,"×ŀ×ij×ķ×Ĵר×Ļ×Ŀ":143728,"besch":143729,"beschäft":143730,"beschäftig":143731,"×Ķצע×Ķ":143732,"ĠÃģrea":143733,"ĠзаÑıвк":143734,"Ĺ":143735,"ĠлÑİбого":143736,"Ġม":143737,"Ġมà¸ģร":143738,"Ġมà¸ģราà¸Ħม":143739,"ÑĦиз":143740,"ÑĦизиÑĩеÑģк":143741,"инÑĦ":143742,"инÑĦек":143743,"инÑĦекÑĨи":143744,"اÙĦØ·":143745,"اÙĦطائÙģ":143746,"Ġколл":143747,"ĠколлекÑĤив":143748,"езжа":143749,"ĠسبØŃ":143750,"ĠسبØŃاÙĨ":143751,"ĠسبØŃاÙĨÙĩ":143752,"schlä":143753,"schläge":143754,"Ġди":143755,"Ġдиаг":143756,"ĠдиагноÑģÑĤ":143757,"ĠоÑĤмеÑĤиÑĤÑĮ":143758,"ТЬ":143759,"ĠاÙĦدر":143760,"ĠاÙĦدراسÙĬ":143761,"עצ×ŀ":143762,"עצ×ŀ×IJ×ķת":143763,"Ġdémarch":143764,"Ġdémarche":143765,"Ġ×ĺ×ķ×¢":143766,"Ġ×ĺ×ķ×¢×Ł":143767,"Ġfuncionários":143768,"ỵ":143769,"׾׼×IJ":143770,"׾׼×IJ×ķר×Ķ":143771,"à¸ĭà¹Ī":143772,"à¸ĭà¹Īà¸Ńม":143773,"ĠÑĩÑĥв":143774,"ĠÑĩÑĥвÑģÑĤво":143775,"âĸ¼":143776,"пÑĥÑī":143777,"пÑĥÑīен":143778,"ĠмеÑĢ":143779,"ĠмеÑĢоп":143780,"ĠмеÑĢопÑĢи":143781,"ĠмеÑĢопÑĢиÑıÑĤиÑı":143782,"Ġuçu":143783,"ĠuçuÅŁ":143784,"ãĤĴåĪ©ç͍ãģĻãĤĭ":143785,"aÄŁ":143786,"aÄŁlı":143787,"ìĺĪìĪł":143788,"à¹ģยà¹Ī":143789,"ĠاÙĦÙĥÙħ":143790,"ĠاÙĦÙĥÙħبÙĬ":143791,"ĠاÙĦÙĥÙħبÙĬÙĪØªØ±":143792,"تÙĪÙĬ":143793,"تÙĪÙĬتر":143794,"à¹Ģà¸Ĭีà¹Īยว":143795,"à¹Ģà¸Ĭีà¹Īยวà¸Ĭา":143796,"à¹Ģà¸Ĭีà¹Īยวà¸Ĭาà¸į":143797,"á»Ķ":143798,"Ġhiếm":143799,"ذاÙĥرة":143800,"Ġ×Ķ×ŀ×Ļ×ķ×Ĺ×ĵ":143801,"ĠìĪľ":143802,"ĠìĪľê°Ħ":143803,"ĠKı":143804,"ĠKısa":143805,"ĠgeleceÄŁi":143806,"пÑĢоÑĦеÑģÑģиона":143807,"пÑĢоÑĦеÑģÑģионал":143808,"Ġogó":143809,"Ġogóle":143810,"ĠgÅĤów":143811,"ĠgÅĤówne":143812,"ĠÑģÑĤилÑĮ":143813,"×IJפ׾":143814,"×IJפ׾×Ļ×§":143815,"×IJפ׾×Ļקצ×Ļ×Ķ":143816,"สมารà¹Į":143817,"สมารà¹Įà¸Ĺ":143818,"สมารà¹Įà¸Ĺà¹Ĥà¸Ł":143819,"สมารà¹Įà¸Ĺà¹Ĥà¸Łà¸Ļ":143820,"Ġthánh":143821,"ÐŁÐ¾Ð´":143822,"ÐŁÐ¾Ð´ÑĢоб":143823,"ÐŁÐ¾Ð´ÑĢобнее":143824,"ĠاÙĦتÙĪÙĨ":143825,"ĠاÙĦتÙĪÙĨسÙĬ":143826,"Ġbahçe":143827,"à¹ģà¸ģà¹īà¸Ľà¸±à¸įหา":143828,"éducation":143829,"europ":143830,"europä":143831,"europäische":143832,"ĠKsi":143833,"ĠKsiÄĻ":143834,"ĠëĦĺ":143835,"ĠëĦĺìĸ´":143836,"Ġvüc":143837,"Ġvücud":143838,"Ġyayg":143839,"Ġyaygın":143840,"Ġniekt":143841,"Ġniektóry":143842,"Ġniektórych":143843,"ãģŃãģĩ":143844,"Ġкаж":143845,"ĠкажеÑĤÑģÑı":143846,"каж":143847,"кажеÑĤ":143848,"ĠاÙĦدÙĬÙħÙĤرا":143849,"ĠاÙĦدÙĬÙħÙĤراط":143850,"ĠاÙĦدÙĬÙħÙĤراطÙĬØ©":143851,"æŃ©":143852,"æŃ©ãģĦãģ¦":143853,"Ġvaz":143854,"Ġvazge":143855,"Ġvazgeç":143856,"ĠминималÑĮ":143857,"ĠминималÑĮн":143858,"ãĥijãĤ¿":143859,"ãĥijãĤ¿ãĥ¼ãĥ³":143860,"ĠëĬ":143861,"ĠëĬIJ":143862,"ĠëĬIJëĤĮ":143863,"ãģ¡ãĤĩãģĨ":143864,"ãģ¡ãĤĩãģĨãģ©":143865,"Ġà¸ģร":143866,"Ġà¸ģรà¸ģà¸İ":143867,"Ġà¸ģรà¸ģà¸İาà¸Ħม":143868,"تجدÙĬد":143869,"ĠشاÙħÙĦ":143870,"หลัà¸ģà¸IJาà¸Ļ":143871,"ĠмаÑĢÑĪ":143872,"ĠмаÑĢÑĪÑĢÑĥÑĤ":143873,"ĠvÃŃt":143874,"ĠvÃŃtima":143875,"Ġquizá":143876,"aygı":143877,"×ĵ×ijר×Ļ×ķ":143878,"Ġизд":143879,"Ġиздели":143880,"ĠизделиÑı":143881,"пла":143882,"плаÑĩ":143883,"плаÑĩива":143884,"ä»»ãģĽ":143885,"Ġéquipé":143886,"ä¹ħãģĹãģ":143887,"ä¹ħãģĹãģ¶":143888,"ä¹ħãģĹãģ¶ãĤĬ":143889,"ĠкаÑĤ":143890,"ĠкаÑĤал":143891,"ĠкаÑĤалог":143892,"สà¹īม":143893,"ĠÑĢей":143894,"ĠÑĢейÑĤ":143895,"ĠÑĢейÑĤинг":143896,"Ġthuyá»ģn":143897,"ĠاÙĦÙħÙĤدس":143898,"espère":143899,"ãģ«åħ¥ãģ£ãģŁ":143900,"หมายà¹Ģลà¸Ĥ":143901,"ת×Ĺ×ķשת":143902,"à¸Ļà¹Īะ":143903,"ĠpeÅĤ":143904,"ĠpeÅĤne":143905,"Ġpérd":143906,"Ġpérdida":143907,"หมวà¸Ķ":143908,"หมวà¸Ķหมูà¹Ī":143909,"иÑĩеÑģкÑĥÑİ":143910,"çµĤãĤı":143911,"çµĤãĤıãģ£ãģŁ":143912,"Ġ×Ĵ×ķ×Ĵ׾":143913,"à¸Ĺำà¸Ħวาม":143914,"à¸Ĺำà¸Ħวามสะà¸Ńาà¸Ķ":143915,"Hotéis":143916,"ĠзаÑĢ":143917,"ĠзаÑĢегиÑģÑĤ":143918,"ĠзаÑĢегиÑģÑĤÑĢи":143919,"ĠзаÑĢегиÑģÑĤÑĢиÑĢова":143920,"ĠÑģобÑĭÑĤи":143921,"ĠÑģобÑĭÑĤиÑı":143922,"Ġ×ĸ׼×IJ":143923,"ÙħÙĨظÙĪÙħØ©":143924,"Ġ×Ķ×ŀצ":143925,"Ġ×Ķ×ŀצ×Ļ×IJ×ķת":143926,"ÙħÙĥÙĪÙĨ":143927,"ÙħÙĥÙĪÙĨات":143928,"ä¸ĬãģĮãĤĭ":143929,"ĠmÄĻ":143930,"ĠmÄĻsk":143931,"หรืà¸Ńà¹Ģà¸Ľà¸¥à¹Īา":143932,"ëĤ®":143933,"Ġnoktas":143934,"Ġnoktası":143935,"ĠболÑĮÑĪим":143936,"ĠлÑĥÑĩÑĪиÑħ":143937,"Ø´ÙĩÙĬد":143938,"à¸Ńำà¸Ļ":143939,"à¸Ńำà¸Ļวย":143940,"à¸Ńำà¸Ļวยà¸Ħวาม":143941,"à¸Ńำà¸Ļวยà¸Ħวามสะà¸Ķวà¸ģ":143942,"Ġев":143943,"ĠевÑĢ":143944,"ĠевÑĢоп":143945,"ĠевÑĢопей":143946,"à¸īาย":143947,"ìĦŃ":143948,"ÙħÙ쨧":143949,"ÙħÙ쨧ÙĪØ¶":143950,"ÙħÙ쨧ÙĪØ¶Ø§Øª":143951,"ë¹Į":143952,"赤ãģ¡ãĤĥãĤĵ":143953,"ĠÑĥдалоÑģÑĮ":143954,"ĠХоÑĤ":143955,"ĠХоÑĤÑı":143956,"przedsiÄĻbiorc":143957,"ĠHôm":143958,"íķĺìĺĢìĬµëĭĪëĭ¤":143959,"Ġнаг":143960,"ĠнагÑĢÑĥз":143961,"ĠнагÑĢÑĥзк":143962,"Ġ×ij×Ļ׳׾×IJ×ķ×ŀ×Ļ":143963,"Ġê°ĢëĬ¥íķľ":143964,"ĠHữu":143965,"à¸Ńุà¸Ķ":143966,"à¸Ńุà¸Ķม":143967,"ת×ķפ":143968,"ת×ķפע×Ķ":143969,"ĠmiÅĤo":143970,"ĠmiÅĤoÅĽci":143971,"ksiÄħż":143972,"ksiÄħżka":143973,"ĠاÙĦÙĦعبة":143974,"à¸īาà¸ģ":143975,"สะสม":143976,"×ŀתר":143977,"×ŀתר×Ĺש":143978,"Ġlégère":143979,"Ġ׾צפ":143980,"Ġ׾צפ×Ļ×Ķ":143981,"ĠиÑģÑĤоÑĢиÑı":143982,"ĠãĥĪãĥ©":143983,"ĠãĥĪãĥ©ãĥĥãĤ¯":143984,"ĠãĥĪãĥ©ãĥĥãĤ¯ãĥIJãĥĥãĤ¯":143985,"Ġка":143986,"ĠкаÑĦе":143987,"×ŀס×ŀ×ļ":143988,"Ġcüm":143989,"Ġcümle":143990,"à¹Ģà¸Ħลืà¹Īà¸Ńà¸Ļà¹Ħหว":143991,"ãģĬãģĿ":143992,"ãģĬãģĿãĤīãģı":143993,"ìŀIJëıĻ":143994,"ìŀIJëıĻì°¨":143995,"à¸Ńัà¸ķ":143996,"à¸Ńัà¸ķà¹Ĥà¸Ļ":143997,"à¸Ńัà¸ķà¹Ĥà¸Ļมั":143998,"à¸Ńัà¸ķà¹Ĥà¸Ļมัà¸ķิ":143999,"ĠÅŁik":144000,"ĠÅŁikay":144001,"ĠÅŁikayet":144002,"extrême":144003,"krä":144004,"kräfte":144005,"ëĤĻ":144006,"íķij":144007,"ì²Ļ":144008,"íĺĪ":144009,"ì°į":144010,"âĻ¡":144011,"ìŀĶ":144012,"뢰":144013,"íĿĶ":144014,"íĿIJ":144015,"âĩĴ":144016,"ë§Ľ":144017,"ìĬĪ":144018,"á»Ĵ":144019,"ìĺµ":144020,"âĹİ":144021,"íĤ¨":144022,"ê¿Ī":144023,"ì΍":144024,"ìĽ¨":144025,"ë§¥":144026,"ï½Ģ":144027,"J":144028,"Ẩ":144029,"ãħİ":144030,"ÑĹ":144031,"ìĦ¬":144032,"ì¹¼":144033,"ï¼¶":144034,"ìĽł":144035,"룴":144036,"Åĥ":144037,"ëĤ¼":144038,"ëĭIJ":144039,"â̹":144040,"ë¦Ń":144041,"ì§IJ":144042,"â̤":144043,"Ãħ":144044,"뾨":144045,"íĦ¸":144046,"íľĺ":144047,"ê²ģ":144048,"ë´ħ":144049,"Ãĺ":144050,"ëŃĶ":144051,"ëĺij":144052,"âĹĩ":144053,"ìĹĺ":144054,"ï»´":144055,"ë§¹":144056,"ï¾Ŀ":144057,"ìĬ·":144058,"íĥķ":144059,"ï¼ł":144060,"ì»´":144061,"ëłĮ":144062,"ì½ľ":144063,"ﻹ":144064,"ãħł":144065,"졸":144066,"ëħ¹":144067,"âĤº":144068,"âĸ¶":144069,"íĥIJ":144070,"êµ´":144071,"íij¸":144072,"ÑĶ":144073,"íͽ":144074,"Ðħ":144075,"ë°¤":144076,"Ôģ":144077,"첨":144078,"ì¶ĺ":144079,"ë²Ĺ":144080,"멸":144081,"ï¼»":144082,"ï¼½":144083,"ï¼·":144084,"ì°Į":144085,"ÃĴ":144086,"íı´":144087,"ìĵ¸":144088,"ì´Į":144089,"ëģĶ":144090,"ëĶ©":144091,"ëĩĮ":144092,"ë©Ģ":144093,"벨":144094,"ï¼µ":144095,"ë§¡":144096,"ëĭ«":144097,"฿":144098,"ãģ±":144099,"ìĩ¼":144100,"ìºł":144101,"뮤":144102,"ê±±":144103,"컬":144104,"âĦĥ":144105,"ëͱ":144106,"ëĥĪ":144107,"ìĭ±":144108,"íĻĪ":144109,"ëŀIJ":144110,"ìħĢ":144111,"ìłł":144112,"ÐĨ":144113,"ëłī":144114,"ï½ħ":144115,"ï½ı":144116,"íĻĢ":144117,"뼰":144118,"á»®":144119,"íĤ¹":144120,"ê½ĥ":144121,"ﻤ":144122,"ïºĶ":144123,"꺼":144124,"ìķī":144125,"âϦ":144126,"ï½ģ":144127,"ìĵ´":144128,"ãĢī":144129,"ì°®":144130,"ì¤ĺ":144131,"Ừ":144132,"ëģĦ":144133,"ëIJ¨":144134,"ìķĮ":144135,"íĿĺ":144136,"íħIJ":144137,"ãĢĪ":144138,"겪":144139,"ëĭ¥":144140,"ê²¼":144141,"á»Į":144142,"맨":144143,"ëģĬ":144144,"벤":144145,"ëijĶ":144146,"íĿ¡":144147,"Ử":144148,"ë¬ĺ":144149,"ãģī":144150,"ëŀ«":144151,"íĶĪ":144152,"íħį":144153,"ìŀĥ":144154,"ï½ī":144155,"ìģľ":144156,"âĸ½":144157,"묻":144158,"âĸ³":144159,"X":144160,"ìģĺ":144161,"ì¶°":144162,"ìĬ´":144163,"ìķ±":144164,"ìĩĦ":144165,"Ắ":144166,"ï´¿":144167,"ï´¾":144168,"âĤ½":144169,"ëĦĵ":144170,"룩":144171,"쳤":144172,"ê´ľ":144173,"ÃĻ":144174,"Ỿ":144175,"ï¿£":144176,"ëĵŃ":144177,"ë©ĺ":144178,"ê»´":144179,"ëł´":144180,"Ðĥ":144181,"묵":144182,"ì§Ŀ":144183,"ãģº":144184,"ðŁĺĤ":144185,"ëŀ¬":144186,"ìłĬ":144187,"ê´Ħ":144188,"ìŀĬ":144189,"íŀĮ":144190,"ìĦ¯":144191,"âĪĢ":144192,"âĸ¡":144193,"ëĢĮ":144194,"ëŀĻ":144195,"ï½ĥ":144196,"Ặ":144197,"ï¾Ħ":144198,"ïºĺ":144199,"ë¹¼":144200,"ÃĮ":144201,"âĸ·":144202,"ê¸į":144203,"ë©ĭ":144204,"ãģĥ":144205,"ìĺĨ":144206,"ìĺ®":144207,"몬":144208,"롤":144209,"볬":144210,"ëĬ¦":144211,"âĸª":144212,"ì¼ĵ":144213,"ìľĪ":144214,"ì§§":144215,"ï½½":144216,"ëĥī":144217,"ï¾Į":144218,"ëĺIJ":144219,"ï¼ĥ":144220,"á»Ħ":144221,"ì´¬":144222,"춤":144223,"ï¼¹":144224,"ï»Ń":144225,"âĤ«":144226,"ï½ĩ":144227,"ìĺ·":144228,"ëĸ¨":144229,"âī«":144230,"릿":144231,"⾨":144232,"Ù±":144233,"쯤":144234,"ê¹Ķ":144235,"ðŁĺĬ":144236,"ìĪ«":144237,"ê³±":144238,"êµ³":144239,"ï½ĭ":144240,"à¸Į":144241,"Äł":144242,"ë͏":144243,"ë°ij":144244,"ìħĭ":144245,"íİ´":144246,"âľħ":144247,"íĥij":144248,"ëĪĩ":144249,"íı¼":144250,"ðŁĺį":144251,"ìĺĽ":144252,"ﻣ":144253,"Ñĺ":144254,"ì©Į":144255,"ë¦ħ":144256,"ìĿį":144257,"ク":144258,"ëįľ":144259,"ãģħ":144260,"íݼ":144261,"ëĭĿ":144262,"ë¿Į":144263,"ì¼°":144264,"ìĭ«":144265,"ë°¥":144266,"íĽĮ":144267,"ì¨Į":144268,"ë¹Ļ":144269,"ï½İ":144270,"ë´Ħ":144271,"ìĦ¹":144272,"ï½²":144273,"ìĮĵ":144274,"Òij":144275,"ë°į":144276,"ëłĢ":144277,"íĨ¤":144278,"ッ":144279,"ë¤Ħ":144280,"꽤":144281,"ï½Ĵ":144282,"ìķ¨":144283,"ï½¼":144284,"ê¹IJ":144285,"íģIJ":144286,"âĦĸ":144287,"맺":144288,"ﺮ":144289,"ëħģ":144290,"겸":144291,"ï»ł":144292,"íĬľ":144293,"Ź":144294,"ë¥Ń":144295,"ëĪī":144296,"ï½Ķ":144297,"íĮ¬":144298,"ìŀĩ":144299,"ï¬ģ":144300,"ﻨ":144301,"ëij¥":144302,"ëŀĦ":144303,"Ù¬":144304,"íĭ´":144305,"ìŀī":144306,"Ú¾":144307,"ìĽħ":144308,"ï»®":144309,"ëĭī":144310,"âīª":144311,"âĹĦ":144312,"ëĪĮ":144313,"íĽ¼":144314,"ì¤į":144315,"Ÿ":144316,"줬":144317,"ì¾Į":144318,"ï½ĵ":144319,"ï¾Ĭ":144320,"ðŁı»":144321,"ï¾ī":144322,"Ðģ":144323,"íĺIJ":144324,"ï¾Ļ":144325,"꼬":144326,"íŀIJ":144327,"âĢ¥":144328,"ëŁŃ":144329,"ë§ŀ":144330,"ìĥ¤":144331,"ïºĴ":144332,"íĭ±":144333,"ë½ij":144334,"Ãķ":144335,"âĪļ":144336,"ëĤĦ":144337,"ê¹Ŀ":144338,"ëĨĪ":144339,"Ẻ":144340,"ìħĪ":144341,"ìĮį":144342,"âĢ¡":144343,"ï¼±":144344,"ìģ¨":144345,"âĺº":144346,"ëĴ·":144347,"ìĺ³":144348,"ðŁijį":144349,"몽":144350,"ëĤŃ":144351,"ïºŃ":144352,"ë©Ī":144353,"á»Ī":144354,"íķĢ":144355,"ëĭĻ":144356,"ë¦ĩ":144357,"ìķ¤":144358,"ìį¼":144359,"ãĥµ":144360,"Ñ£":144361,"ìľĹ":144362,"âŃIJ":144363,"ï¾ĺ":144364,"íŬ":144365,"ê¾¼":144366,"ìķĹ":144367,"ï»Į":144368,"ê±·":144369,"ëħķ":144370,"롱":144371,"ìķĬ":144372,"ï¾Ģ":144373,"ìĩł":144374,"íĮ©":144375,"ﺪ":144376,"ë§Ļ":144377,"_":144378,"ê¿Ķ":144379,"íİľ":144380,"룸":144381,"íĶĶ":144382,"ﻳ":144383,"ëıķ":144384,"ìĭ¼":144385,"á»İ":144386,"ë§ĺ":144387,"ì¢ĭ":144388,"íĨ¡":144389,"ï½±":144390,"íĿij":144391,"Ỹ":144392,"ì¦Į":144393,"칸":144394,"ëŃĺ":144395,"ï¾Ĺ":144396,"ï»ĭ":144397,"íĬĢ":144398,"ë¥Ļ":144399,"콩":144400,"ëģĹ":144401,"ëį´":144402,"ìħľ":144403,"¸":144404,"ë»IJ":144405,"ìĥµ":144406,"ê²IJ":144407,"ëĵ¬":144408,"룰":144409,"ãħĭ":144410,"ìĹī":144411,"á»ĸ":144412,"ëĦĮ":144413,"ï½¶":144414,"ë´ĩ":144415,"ëĤ³":144416,"ãĤľ":144417,"ëĸ»":144418,"íİĢ":144419,"ëį©":144420,"íķ¸":144421,"÷":144422,"ê¼¼":144423,"ëĶľ":144424,"ë°´":144425,"ë©į":144426,"âĹ¯":144427,"ìĹij":144428,"ìϼ":144429,"ïºij":144430,"ë¶ķ":144431,"롬":144432,"ï½Į":144433,"íĨ¨":144434,"ﺴ":144435,"ëłĺ":144436,"ê°¤":144437,"ìβ":144438,"Ñĵ":144439,"ìħī":144440,"ï»ĵ":144441,"ëĪĶ":144442,"ëį§":144443,"â̼":144444,"ﻲ":144445,"ê°±":144446,"ê¿Ģ":144447,"ëĭ·":144448,"Ẹ":144449,"Ẫ":144450,"ÆĴ":144451,"ëį¤":144452,"ìĪŃ":144453,"ï½Ĥ":144454,"ï½Ī":144455,"Åł":144456,"룬":144457,"ѵ":144458,"ëĸ¡":144459,"ëĥĦ":144460,"ìĦ°":144461,"ëĵĪ":144462,"ï¾ĥ":144463,"ëĩ¨":144464,"ï½IJ":144465,"êµ½":144466,"ìĹ½":144467,"ëĤĢ":144468,"묶":144469,"ï½·":144470,"ìıŁ":144471,"íĺĶ":144472,"ê¼Ī":144473,"ëģĪ":144474,"ì¥IJ":144475,"ïºĹ":144476,"ÄĮ":144477,"ëĪł":144478,"ëĸ¼":144479,"íĢ´":144480,"âī¥":144481,"ëĭŃ":144482,"ì±Ļ":144483,"ê»ı":144484,"멤":144485,"ìĥĺ":144486,"ëį®":144487,"룡":144488,"ìĤ½":144489,"ãĪľ":144490,"Ĩ":144491,"â̧":144492,"コ":144493,"Ä£":144494,"ì¦ī":144495,"ï¼¼":144496,"Û©":144497,"âĪĻ":144498,"ë°ı":144499,"ë¹ħ":144500,"ðŁĺĽ":144501,"íĪ´":144502,"ðŁĴķ":144503,"ãĢĴ":144504,"ìŀĺ":144505,"ﺤ":144506,"ï½ĸ":144507,"멾":144508,"ë²¼":144509,"ëĿĦ":144510,"ëļľ":144511,"ï»ĺ":144512,"ìĥĮ":144513,"ï½Ħ":144514,"ì©Ķ":144515,"ï½Ļ":144516,"ﺩ":144517,"Ûŀ":144518,"âĺİ":144519,"ìł¤":144520,"ëIJ©":144521,"ÅĿ":144522,"âŀ¡":144523,"ï»§":144524,"Ðı":144525,"ì«ĵ":144526,"ê³½":144527,"Éij":144528,"ãĥ²":144529,"ëĤ«":144530,"ë¦ī":144531,"ì¢ģ":144532,"ë°Ń":144533,"ðŁĺģ":144534,"ë¹µ":144535,"첩":144536,"컵":144537,"ðŁĺĺ":144538,"ë±ħ":144539,"âīĪ":144540,"ë¹ļ":144541,"ï»ľ":144542,"ðŁĻı":144543,"íģ°":144544,"ìĦŀ":144545,"ï¾ļ":144546,"ìĺ¹":144547,"ë¼Ī":144548,"ëĤ¯":144549,"ëŀ©":144550,"íļ¡":144551,"ï½ķ":144552,"íĥĵ":144553,"ëĿł":144554,"ê³ģ":144555,"ëĵĢ":144556,"ìĹł":144557,"Z":144558,"ë§ij":144559,"ëĭ¿":144560,"쿨":144561,"ãİ¡":144562,"ÐĬ":144563,"íĦ±":144564,"Ũ":144565,"ﺳ":144566,"ï¾ı":144567,"âĭħ":144568,"ê¼´":144569,"âī¤":144570,"íĮģ":144571,"Ω":144572,"궤":144573,"ìĪį":144574,"âľ¿":144575,"콤":144576,"ëĪħ":144577,"íĨ±":144578,"ãħľ":144579,"áIJħ":144580,"ÅĴ":144581,"ðŁijī":144582,"ﻦ":144583,"Ъ":144584,"ë¥ľ":144585,"íķ«":144586,"ï¾ĭ":144587,"âĻ«":144588,"ê¹ľ":144589,"ë°¸":144590,"ëĶĺ":144591,"íĿī":144592,"ï¾ģ":144593,"ï¾Ľ":144594,"볼":144595,"ê²¹":144596,"쿼":144597,"ﻬ":144598,"âŀ¤":144599,"ðŁĻģ":144600,"ïºł":144601,"ëĨ¨":144602,"믹":144603,"ê¸ĭ":144604,"ë»Ķ":144605,"ê¹ĥ":144606,"ëijij":144607,"íĭ¸":144608,"íİĻ":144609,"âŀĸ":144610,"ãĥ½":144611,"ì§ļ":144612,"ャ":144613,"ﻥ":144614,"íĮ½":144615,"âĢĴ":144616,"ìĮĢ":144617,"ìŃī":144618,"ëļ±":144619,"ãĤŀ":144620,"íĭĪ":144621,"ãĤIJ":144622,"ëīĺ":144623,"Σ":144624,"ê³°":144625,"ë¹Ĺ":144626,"ï¾İ":144627,"ðŁĺŃ":144628,"íĿł":144629,"ìĹ¿":144630,"ê°ļ":144631,"ì¤Į":144632,"ë§µ":144633,"ï½³":144634,"ãģ¢":144635,"ï»Ĺ":144636,"âī¦":144637,"Ú¤":144638,"ëłģ":144639,"ê¼½":144640,"ﻫ":144641,"âī§":144642,"ì´Ľ":144643,"ìłĿ":144644,"Ằ":144645,"âĻ£":144646,"ìºĺ":144647,"âĪĩ":144648,"ê²ī":144649,"ë°Ł":144650,"ï»Ķ":144651,"íĸĩ":144652,"âĸĴ":144653,"ðŁijı":144654,"Ãŀ":144655,"ðŁĺĨ":144656,"ﺼ":144657,"âĿĹ":144658,"ìºĶ":144659,"칩":144660,"ëĸ¤":144661,"ëĥħ":144662,"âĶľ":144663,"ï½»":144664,"ÎĶ":144665,"áĥ¦":144666,"ìŀİ":144667,"âĺĢ":144668,"âμ":144669,"ðŁĶ¥":144670,"ë°Į":144671,"ìłĸ":144672,"íĹĽ":144673,"Îķ":144674,"ïºĥ":144675,"ë¶ī":144676,"âĪŀ":144677,"íĥŃ":144678,"Ãĭ":144679,"âģĦ":144680,"ãħĩ":144681,"ëĦ¥":144682,"ëĭ®":144683,"ëł·":144684,"íĮĿ":144685,"캡":144686,"ë·Ķ":144687,"ì©į":144688,"íĤ´":144689,"ëļ«":144690,"âĵĴ":144691,"íķį":144692,"âĻĤ":144693,"ï¾Ĩ":144694,"âĨ©":144695,"ìį©":144696,"ïºķ":144697,"íĿĻ":144698,"Ñľ":144699,"íĤ·":144700,"íĿ°":144701,"íĥ±":144702,"ëķIJ":144703,"ï¾Ĵ":144704,"×ĥ":144705,"ëĮĦ":144706,"ìĺ´":144707,"ìķµ":144708,"ê¹¥":144709,"ëŀŃ":144710,"쪼":144711,"ãİĿ":144712,"ðŁĺħ":144713,"ëıĭ":144714,"몫":144715,"ﺸ":144716,"뮬":144717,"ë²ħ":144718,"ëijł":144719,"ìħ°":144720,"ì»·":144721,"ëĶª":144722,"ëħĶ":144723,"ãħ¡":144724,"ìĶ»":144725,"íķı":144726,"ëį±":144727,"ﺨ":144728,"ï¾į":144729,"ï½µ":144730,"ì¢Ģ":144731,"íİĮ":144732,"ï»°":144733,"ﺣ":144734,"Æ£":144735,"ðŁ¤£":144736,"ï·º":144737,"ëĤļ":144738,"âĭĨ":144739,"ë³į":144740,"ðŁĺĦ":144741,"ìĸĢ":144742,"ìĻł":144743,"ëĨĶ":144744,"íŨ":144745,"ï»Ľ":144746,"ï»Ŀ":144747,"á»¶":144748,"ìĸĺ":144749,"ìİĦ":144750,"ÚĨ":144751,"ï»ŀ":144752,"ëĢIJ":144753,"ê²Ķ":144754,"ﻵ":144755,"âŦ":144756,"íļŁ":144757,"ê¹ģ":144758,"ê°ĵ":144759,"ëĶ´":144760,"ìıĺ":144761,"ëļĿ":144762,"ỳ":144763,"ëŀ´":144764,"ëĦī":144765,"âĺŀ":144766,"ï½ĺ":144767,"Ž":144768,"ë¦İ":144769,"âĸ¬":144770,"ëŃī":144771,"âĩĽ":144772,"ìį¬":144773,"ïºŁ":144774,"Ëľ":144775,"ë¶ĵ":144776,"ìĽ°":144777,"Åľ":144778,"ëŃĩ":144779,"Ỳ":144780,"Ëļ":144781,"ëķĢ":144782,"âĺij":144783,"ðŁı¼":144784,"ìĸ½":144785,"âĮĴ":144786,"Ðİ":144787,"ɾ":144788,"íĮ¡":144789,"ï¾ħ":144790,"ìŀŃ":144791,"ィ":144792,"칫":144793,"ìľĮ":144794,"ÒĽ":144795,"굿":144796,"ëĭ¦":144797,"âĶĶ":144798,"ï¾ij":144799,"ì§ĸ":144800,"ìºĦ":144801,"ãĢĥ":144802,"ʼ":144803,"ê²Ł":144804,"ï½§":144805,"Ä¢":144806,"íİł":144807,"ë§·":144808,"ê°ĩ":144809,"ìĭ¹":144810,"ðŁĴ¦":144811,"ï¾ľ":144812,"ëĬĻ":144813,"벡":144814,"Å¿":144815,"ðŁĺĭ":144816,"ðŁĴª":144817,"ì¿Ħ":144818,"ë©ķ":144819,"ìѤ":144820,"ëĬĦ":144821,"ðŁĮ¸":144822,"ãĤĿ":144823,"Çİ":144824,"ï½ļ":144825,"ÄĹ":144826,"ëģĵ":144827,"ê¶IJ":144828,"áµī":144829,"ãĥĤ":144830,"ê»į":144831,"ðŁĺ¦":144832,"ãĢĿ":144833,"ð٤Ĺ":144834,"ÑŁ":144835,"ìĹİ":144836,"âľĮ":144837,"ìīIJ":144838,"ÃĨ":144839,"íĹIJ":144840,"ðŁİī":144841,"Îij":144842,"ï½Ń":144843,"ðŁĴĻ":144844,"ìĽ¬":144845,"íĢĺ":144846,"ﻢ":144847,"ðŁĺİ":144848,"íij¼":144849,"íĿ©":144850,"ï»Ħ":144851,"íħĢ":144852,"ëłIJ":144853,"쥬":144854,"Ðĭ":144855,"ìĥ·":144856,"뾬":144857,"ðŁĺĥ":144858,"ëĦ¬":144859,"륨":144860,"ìĽį":144861,"ï½Ĩ":144862,"ï½´":144863,"ãĥħ":144864,"Ãı":144865,"ﻪ":144866,"âĻł":144867,"ëĬ¬":144868,"ë±Ģ":144869,"ë°ĭ":144870,"ìĥĢ":144871,"ï½¾":144872,"ëĤ±":144873,"컸":144874,"ðŁĴĸ":144875,"ðŁijĮ":144876,"Ñŀ":144877,"ì§±":144878,"ËĨ":144879,"ðŁĵļ":144880,"âŃķ":144881,"ï¬Ĥ":144882,"ﻡ":144883,"ëij¬":144884,"íμ":144885,"âĸ¸":144886,"ê°¯":144887,"ê¹ħ":144888,"ï½®":144889,"ëĺ¥":144890,"Ä¡":144891,"íĮŁ":144892,"ÐĮ":144893,"ìĨŁ":144894,"ïºĵ":144895,"ﻼ":144896,"ÃĽ":144897,"ãĥ¾":144898,"ëĮĵ":144899,"íĴĭ":144900,"ìķĵ":144901,"ï½¹":144902,"ëĤ¡":144903,"ðŁijĩ":144904,"Ẽ":144905,"ãĢŁ":144906,"ðŁĮŁ":144907,"íĥł":144908,"ãĢĨ":144909,"âĢŁ":144910,"ë¸IJ":144911,"ðŁĮ¹":144912,"ìł¼":144913,"ðŁĵĮ":144914,"ìͬ":144915,"âĹĢ":144916,"ðŁĴĵ":144917,"ê¹İ":144918,"ìĤIJ":144919,"ìĶĮ":144920,"ÑĽ":144921,"âĶĪ":144922,"ë²³":144923,"ãİŀ":144924,"Õ¡":144925,"íĤµ":144926,"ð٤Ķ":144927,"ëĢĶ":144928,"ìĬIJ":144929,"íĻī":144930,"⾦":144931,"ëľ¯":144932,"ìł¯":144933,"ëͧ":144934,"Φ":144935,"ËĪ":144936,"ìī¼":144937,"âĹĬ":144938,"ëľ©":144939,"ëľ°":144940,"ï¾IJ":144941,"ë¿Ķ":144942,"ìĹ®":144943,"ì·Į":144944,"ﺧ":144945,"ÎĴ":144946,"ëµĻ":144947,"ï»Ĭ":144948,"ì°Ķ":144949,"íİĦ":144950,"ðŁĴĹ":144951,"Ẵ":144952,"ì°¢":144953,"íľ¼":144954,"ê½Ĥ":144955,"ì±Ķ":144956,"ìī´":144957,"âĸ¾":144958,"íΰ":144959,"ëĭĽ":144960,"âĿ£":144961,"ェ":144962,"ðŁĴľ":144963,"Ëĺ":144964,"ãħ¤":144965,"âĨĹ":144966,"íĸĦ":144967,"âϬ":144968,"ìķ°":144969,"ïºľ":144970,"âī¡":144971,"ãĢĵ":144972,"ìij¥":144973,"íĮį":144974,"íīģ":144975,"ë»Ĺ":144976,"íľł":144977,"íľ©":144978,"âľĪ":144979,"íĢĦ":144980,"ìĸĩ":144981,"ì¢ĩ":144982,"íŀĻ":144983,"몹":144984,"ãĤĽ":144985,"ðŁĺ±":144986,"ëįŁ":144987,"à¹ħ":144988,"êµ¶":144989,"Ù«":144990,"ìĶģ":144991,"âľª":144992,"ï¾Ī":144993,"ðŁĻĮ":144994,"âļ¡":144995,"Îļ":144996,"ì¼Ī":144997,"ï¾Ķ":144998,"ï¾Ĥ":144999,"êµī":145000,"ﺻ":145001,"ðŁĴĭ":145002,"á¹£":145003,"ÓĻ":145004,"ìĨľ":145005,"ìĹ£":145006,"âľ©":145007,"ìľĻ":145008,"ﺰ":145009,"Ẳ":145010,"ìŀ£":145011,"âĿĮ":145012,"âĺģ":145013,"ìķİ":145014,"Ľ":145015,"Ûģ":145016,"ãĦ±":145017,"ëŁ¿":145018,"íĮ¸":145019,"ê½ī":145020,"ìıł":145021,"ðŁįĢ":145022,"âĨĶ":145023,"ëŃ¡":145024,"ï»ģ":145025,"ï¼Ħ":145026,"ðŁĴ¥":145027,"âĺĽ":145028,"íĹ·":145029,"ëij¡":145030,"Îł":145031,"Τ":145032,"âĦĵ":145033,"ﺷ":145034,"ÎĻ":145035,"ëıĶ":145036,"짤":145037,"âĶĥ":145038,"ãĦ·":145039,"ÇĴ":145040,"ðŁ¥°":145041,"ëĶķ":145042,"ìļ¥":145043,"ì¸Ħ":145044,"íĽĶ":145045,"ïºĩ":145046,"ﺬ":145047,"ðŁĺ¢":145048,"빡":145049,"ì͹":145050,"ų":145051,"ËĿ":145052,"íİij":145053,"ï¾ĵ":145054,"ðŁĴļ":145055,"ëĬij":145056,"꺾":145057,"íĨ°":145058,"ÿ":145059,"ÐĦ":145060,"ëĮIJ":145061,"ë½Ģ":145062,"ì·Ħ":145063,"ðŁĵį":145064,"ðŁĻĪ":145065,"âĹĪ":145066,"ê¿ĩ":145067,"ì¼Ħ":145068,"íİ«":145069,"ðŁĩ·":145070,"âĶĭ":145071,"âļł":145072,"ë±ī":145073,"ìį°":145074,"ìĻĪ":145075,"ɪ":145076,"ïºĭ":145077,"ðŁĺľ":145078,"ÎŁ":145079,"ðŁĻĤ":145080,"âļ½":145081,"ÅĪ":145082,"ë¹Ķ":145083,"íĮľ":145084,"à¹ı":145085,"ìĸ¹":145086,"íĪŃ":145087,"ðŁ¥ĩ":145088,"ãĦ´":145089,"ëĶ¥":145090,"ìŃĪ":145091,"âĪĨ":145092,"ëĸ³":145093,"ë±ĥ":145094,"ìŀ¦":145095,"ï»IJ":145096,"Îľ":145097,"âľ§":145098,"Ïį":145099,"ìłĵ":145100,"âĹķ":145101,"ëĴĢ":145102,"ï»Ģ":145103,"ðŁĶ´":145104,"ê½ģ":145105,"ëĮĪ":145106,"ëİĮ":145107,"ãĤİ":145108,"â¦ģ":145109,"ì½§":145110,"ﯾ":145111,"âĿ¯":145112,"à¸ħ":145113,"ðŁĻĦ":145114,"âĿĢ":145115,"ðŁĶ¹":145116,"âĩIJ":145117,"êµµ":145118,"âĩĶ":145119,"ë¶IJ":145120,"ðŁĴĽ":145121,"ξ":145122,"íĥ¬":145123,"âĿĦ":145124,"Ò£":145125,"ã̰":145126,"âĪij":145127,"âĺ¼":145128,"âīł":145129,"Ò¯":145130,"ﺯ":145131,"꿨":145132,"âľĸ":145133,"Êĸ":145134,"íĢĢ":145135,"ê¾Ģ":145136,"íĹĿ":145137,"âĶ£":145138,"ãİľ":145139,"ëĶĽ":145140,"뾸":145141,"ﺫ":145142,"ê¿°":145143,"ðŁĩ¹":145144,"ÇIJ":145145,"ÛĴ":145146,"룻":145147,"ïºĸ":145148,"Ñļ":145149,"ëĬł":145150,"Ûķ":145151,"깡":145152,"ë¿ľ":145153,"ì²¼":145154,"ï¨ij":145155,"륵":145156,"ìį¸":145157,"íħħ":145158,"íij¹":145159,"ÖĢ":145160,"ï³Į":145161,"ãħ£":145162,"ìij¤":145163,"ì½ķ":145164,"ëķł":145165,"ðŁĮ¿":145166,"íĥĶ":145167,"ìĽģ":145168,"ζ":145169,"âŀľ":145170,"ìĬĺ":145171,"íĽĹ":145172,"ë©§":145173,"ìīĺ":145174,"Õ¶":145175,"á¹ĩ":145176,"ðŁİģ":145177,"ソ":145178,"ï¼Ĥ":145179,"á¼IJ":145180,"âľķ":145181,"âŀ¢":145182,"ëĦ¨":145183,"컫":145184,"ì¯Ķ":145185,"ì°ľ":145186,"ðŁĴ°":145187,"íħĿ":145188,"ãİı":145189,"ë³¶":145190,"Òĵ":145191,"âĨ³":145192,"ìĥ´":145193,"íģĺ":145194,"âĸĢ":145195,"ë²Ļ":145196,"à¸ĥ":145197,"á½¶":145198,"Äķ":145199,"â¬ĩ":145200,"ë¤ĺ":145201,"ðŁİµ":145202,"âľļ":145203,"ïºı":145204,"Ρ":145205,"âĹī":145206,"ðŁĴ«":145207,"ÐĪ":145208,"ìĸĦ":145209,"ì§Ļ":145210,"ï»ĥ":145211,"ðĿijĴ":145212,"ëŃĦ":145213,"âĿ¥":145214,"âĿĸ":145215,"âĺĿ":145216,"ʹ":145217,"ḥ":145218,"âĢ¿":145219,"ãħħ":145220,"ê¸ģ":145221,"ëķ¡":145222,"ëį¥":145223,"âĪ©":145224,"ê»Ħ":145225,"ë®Į":145226,"Ò±":145227,"âĪĹ":145228,"ëłĻ":145229,"ïºĮ":145230,"ËIJ":145231,"ðŁĺ³":145232,"ðŁij©":145233,"ðŁİ¶":145234,"쿵":145235,"ðŁ¤©":145236,"ê·¤":145237,"ëĮĶ":145238,"ïºIJ":145239,"Ïİ":145240,"ì¶¥":145241,"ï½Ĭ":145242,"á¹Ń":145243,"뤼":145244,"âĸ«":145245,"ì§ł":145246,"á¼Ģ":145247,"ê»ij":145248,"ëĮģ":145249,"í̏":145250,"âĻĽ":145251,"ðŁĴŀ":145252,"âĸ°":145253,"ðĿijĸ":145254,"ëĿ¤":145255,"द":145256,"ì´ĺ":145257,"ðŁĺĩ":145258,"ëͤ":145259,"ÎĹ":145260,"ðŁĻĩ":145261,"ËĽ":145262,"ì©¡":145263,"âΧ":145264,"Õ¥":145265,"ÑĻ":145266,"ëIJ¬":145267,"ëĸĦ":145268,"ðŁĮ·":145269,"ìĹĮ":145270,"ðŁĺ¥":145271,"ëĪ´":145272,"ï»ļ":145273,"ÉĽ":145274,"ïºĦ":145275,"ï»ı":145276,"ÅĮ":145277,"ë²ļ":145278,"ìĭ£":145279,"ïºĢ":145280,"Îĵ":145281,"ðŁĺĮ":145282,"ËĻ":145283,"ëŀı":145284,"ðŁĶ¸":145285,"ðŁĵ·":145286,"ëģ½":145287,"íģ½":145288,"ðŁĴ¡":145289,"ðŁĮ±":145290,"ëºı":145291,"ìģł":145292,"ìĥIJ":145293,"ëıĹ":145294,"츰":145295,"ëĪķ":145296,"ÎĿ":145297,"âģī":145298,"ðŁĮ¼":145299,"íĮł":145300,"âĭ¯":145301,"áĥĺ":145302,"⾤":145303,"ê±Ķ":145304,"íĮİ":145305,"ðŁĴ¯":145306,"ìıĻ":145307,"íĹī":145308,"ÙŃ":145309,"ì½°":145310,"ﺿ":145311,"ï»±":145312,"ì±Į":145313,"âĺķ":145314,"ðŁİĢ":145315,"ÄĿ":145316,"ë°§":145317,"ìĤ¿":145318,"áijķ":145319,"ðŁįĥ":145320,"âĩ¨":145321,"ÎĽ":145322,"ë§´":145323,"ë³ķ":145324,"áijIJ":145325,"âĸĵ":145326,"ðĿijľ":145327,"âĻ»":145328,"íĤ¥":145329,"Õ¸":145330,"ãα":145331,"ëºĢ":145332,"첸":145333,"ïºĽ":145334,"ðŁıĨ":145335,"ðŁĩª":145336,"âĿĵ":145337,"ÄĢ":145338,"ì½¥":145339,"ðŁĩ§":145340,"á½·":145341,"âľĤ":145342,"ìŀ¼":145343,"ï§¡":145344,"ðŁĵ¸":145345,"âϝ":145346,"ÉĶ":145347,"ὸ":145348,"âĮª":145349,"ï»ĸ":145350,"不":145351,"âļ«":145352,"âĶĹ":145353,"ðŁĮĪ":145354,"ﻩ":145355,"ðŁĵ²":145356,"ÏĪ":145357,"ðŁĺ¡":145358,"ðĿijİ":145359,"ìľ½":145360,"짬":145361,"ì§Ĭ":145362,"á½³":145363,"ìĮ¤":145364,"ëĤį":145365,"âīĴ":145366,"ðŁij¨":145367,"âĺĺ":145368,"Ó©":145369,"âĤĵ":145370,"âĪĤ":145371,"ï¹ģ":145372,"ðŁĴIJ":145373,"íħĥ":145374,"ðŁı½":145375,"ê·Ħ":145376,"ðŁĺı":145377,"ðŁĮº":145378,"ðŁĺĶ":145379,"ォ":145380,"âľİ":145381,"ëµĪ":145382,"ðŁĩ¸":145383,"âĢ£":145384,"âŀĶ":145385,"ëĺĺ":145386,"ìĥ¬":145387,"Êĥ":145388,"â¬ħ":145389,"ì©IJ":145390,"ðŁĻĨ":145391,"ðŁİĦ":145392,"ľ":145393,"⣶":145394,"áĥIJ":145395,"âĺ»":145396,"ì±ķ":145397,"ìģ©":145398,"ë½ķ":145399,"캣":145400,"ðŁijĪ":145401,"ðŁĻĭ":145402,"ï¾ĸ":145403,"Òļ":145404,"Õ«":145405,"ìĮĪ":145406,"ë²§":145407,"ðŁĩ®":145408,"ï½Ŀ":145409,"ðŁįģ":145410,"ìĹ¥":145411,"ij":145412,"ë½IJ":145413,"íį½":145414,"íĽij":145415,"âĤ¹":145416,"ãħģ":145417,"ìͽ":145418,"ðŁĶģ":145419,"य":145420,"ê¾¹":145421,"ëīľ":145422,"âĹ¡":145423,"íķĮ":145424,"Îĺ":145425,"룹":145426,"ìĻĵ":145427,"ðŁĩ¦":145428,"ðŁijĢ":145429,"âĶĮ":145430,"ῦ":145431,"ëĦĽ":145432,"ìĦ£":145433,"ìŃĻ":145434,"ï±ł":145435,"Îŀ":145436,"Ê»":145437,"á¿¶":145438,"âĿĿ":145439,"ê±Ģ":145440,"ëĸ´":145441,"ãĦ¹":145442,"ðŁĴİ":145443,"Ϲ":145444,"âĽħ":145445,"ï»ķ":145446,"ãĥ±":145447,"ï½Ľ":145448,"ëĮķ":145449,"ë¹½":145450,"ì¥Ķ":145451,"쿤":145452,"ðŁĸ¤":145453,"ÑĴ":145454,"ê¹į":145455,"ëİĢ":145456,"ìĭ¯":145457,"뻤":145458,"ðŁĵŀ":145459,"ðŁĵ£":145460,"ðŁĺĿ":145461,"ìį¹":145462,"ìĹ¡":145463,"ì°IJ":145464,"á½IJ":145465,"ï»Ī":145466,"âľį":145467,"Äı":145468,"ðŁĮŀ":145469,"âĦ¦":145470,"ê½Ŀ":145471,"ë»ĺ":145472,"ìα":145473,"âĶĺ":145474,"ðŁĮ»":145475,"âĤ´":145476,"âŀ¨":145477,"íIJģ":145478,"ê¶Ī":145479,"âĺ¢":145480,"ðŁĺĪ":145481,"ゥ":145482,"âĦĹ":145483,"ê°Ń":145484,"ê°¸":145485,"ë»ij":145486,"쥴":145487,"컥":145488,"ï¤Ĭ":145489,"ï»Ĵ":145490,"ðŁĺķ":145491,"âĺĶ":145492,"ìĺIJ":145493,"ðŁļĹ":145494,"ëĹĦ":145495,"ë§ı":145496,"Õ½":145497,"âĸ»":145498,"⣵":145499,"ìī°":145500,"ï»ij":145501,"âĻ©":145502,"Î¥":145503,"ðŁĺ£":145504,"âĬĤ":145505,"ãħĤ":145506,"ìħ¸":145507,"íıĦ":145508,"âľ½":145509,"ì¦Ļ":145510,"âĸ£":145511,"ê±į":145512,"ê¿ĭ":145513,"ì«Ħ":145514,"ìºĩ":145515,"ðŁĩµ":145516,"ðŁijij":145517,"âľĺ":145518,"ðĿijĽ":145519,"ìį½":145520,"ìºī":145521,"וּ":145522,"ðŁĶº":145523,"âĦ®":145524,"íĥ¤":145525,"ðŁĩº":145526,"ðŁĴµ":145527,"íħ¨":145528,"ï½ij":145529,"Ψ":145530,"ìĥ¹":145531,"ìĸķ":145532,"ì¹µ":145533,"ðŁĵ±":145534,"व":145535,"ðŁijĬ":145536,"ðŁĴĦ":145537,"ðŁĴĿ":145538,"ãĮĶ":145539,"ìĻģ":145540,"Ðĩ":145541,"à®IJ":145542,"âĸ¹":145543,"á´Ľ":145544,"âĹĺ":145545,"뺨":145546,"íĥī":145547,"ìĸĮ":145548,"ðŁIJ¶":145549,"ãĤij":145550,"Ëĩ":145551,"Åı":145552,"á½¹":145553,"ìħ§":145554,"ï¹°":145555,"ðĿij¡":145556,"ðŁĶĿ":145557,"ðŁĺ»":145558,"ðŁĴĥ":145559,"ðŁ¤¦":145560,"ðŁįĴ":145561,"í̵":145562,"âľĨ":145563,"ë¹´":145564,"理":145565,"ï»Ļ":145566,"á´Ĺ":145567,"ðŁĮ´":145568,";":145569,"ëĮij":145570,"ì¨ĭ":145571,"쵸":145572,"ðŁİĪ":145573,"ðŁıł":145574,"á½±":145575,"ÛĨ":145576,"á¿ĸ":145577,"âĢĽ":145578,"ì°¼":145579,"íķ¥":145580,"íĹ´":145581,"ðŁĩ¬":145582,"ì°Ŀ":145583,"âĪł":145584,"ï¼ĩ":145585,"âĬĻ":145586,"âĿij":145587,"ëĦĭ":145588,"ëŀĹ":145589,"ë°ī":145590,"ìĹĬ":145591,"ì¢Ĩ":145592,"íĮ¥":145593,"ï°²":145594,"ðŁĵĸ":145595,"ðŁĺ®":145596,"âļª":145597,"ðŁĺļ":145598,"âĿŀ":145599,"ðĿijŁ":145600,"ðŁİĤ":145601,"Åķ":145602,"áIJĪ":145603,"꺽":145604,"ì±ł":145605,"ïºĿ":145606,"ê¿ī":145607,"áĥł":145608,"ðŁıĥ":145609,"ðŁĴ¸":145610,"âĿģ":145611,"âĹ¾":145612,"Úª":145613,"á¹ĥ":145614,"íĬ¬":145615,"ðŁĩ±":145616,"íİŃ":145617,"ðŁĺŀ":145618,"ë¾°":145619,"á¹Ľ":145620,"뼸":145621,"âĿĤ":145622,"êĴ³":145623,"âĶIJ":145624,"íĵ°":145625,"âŀł":145626,"ê´ĺ":145627,"ëħĺ":145628,"뻥":145629,"ì¾ħ":145630,"ðŁĺIJ":145631,"âĪª":145632,"ðŁijģ":145633,"âĪ´":145634,"âĹģ":145635,"ëºIJ":145636,"ìŀ¤":145637,"ì±Ĺ":145638,"ðŁı¾":145639,"Χ":145640,"á½»":145641,"âŀ¥":145642,"ìŁĪ":145643,"ï»ī":145644,"âĸĮ":145645,"ãĥ®":145646,"ðŁ¤¤":145647,"âĩĵ":145648,"ì¼ł":145649,"á´ı":145650,"맬":145651,"뻣":145652,"ðŁĴ¬":145653,"ðŁįĵ":145654,"ĸ":145655,"Ù¹":145656,"Ê¿":145657,"á½°":145658,"ëķľ":145659,"ì°¡":145660,"ì°»":145661,"íİį":145662,"ðŁİ¯":145663,"ðŁįĤ":145664,"ðŁij§":145665,"âĻ¢":145666,"áĨŀ":145667,"âϧ":145668,"âļľ":145669,"âľī":145670,"ëĵ¦":145671,"ëŃ£":145672,"ìĪı":145673,"ìĵ±":145674,"ÅŃ":145675,"ÊĬ":145676,"âĴ¸":145677,"âĩ©":145678,"ðŁĴĶ":145679,"Õµ":145680,"Ðī":145681,"Ò»":145682,"ë§£":145683,"ìĽľ":145684,"ì¿¡":145685,"íĽħ":145686,"íĽ¤":145687,"ﺢ":145688,"âľĭ":145689,"âĪĪ":145690,"ðŁĮį":145691,"Êľ":145692,"ëĬª":145693,"ëĴ¹":145694,"ﺲ":145695,"âĸĦ":145696,"ãħĪ":145697,"ëļ¤":145698,"íİ©":145699,"â΍":145700,"ðŁ¤ª":145701,"áĥļ":145702,"ê³¶":145703,"íĬķ":145704,"ðŁĺ¬":145705,"âĪ«":145706,"ðŁijĭ":145707,"ÒIJ":145708,"íĬ¿":145709,"ðŁĶµ":145710,"ðŁĴ¨":145711,"ðŁĮĻ":145712,"ëĩ©":145713,"âľ³":145714,"ë¨ģ":145715,"ëºĦ":145716,"ìĻij":145717,"ìºħ":145718,"íıĪ":145719,"ðĿijĻ":145720,"ðŁĴĺ":145721,"ãİ¥":145722,"âĿı":145723,"âľ°":145724,"ﯿ":145725,"ëµIJ":145726,"ì¼IJ":145727,"ﺱ":145728,"Õ´":145729,"ï¬Ģ":145730,"âľ´":145731,"ð٤Ń":145732,"ðŁijĨ":145733,"âĽĶ":145734,"ê·ĵ":145735,"ìĮĮ":145736,"ðŁ¤·":145737,"ÛĶ":145738,"ðŁ§¡":145739,"ðŁĺĵ":145740,"Îĸ":145741,"âı°":145742,"ê²ľ":145743,"ëĭ³":145744,"ëİħ":145745,"ë°Ī":145746,"ï®IJ":145747,"ðŁı¡":145748,"âĨª":145749,"âĵĶ":145750,"âľĬ":145751,"ϲ":145752,"ÜIJ":145753,"ðŁĩ³":145754,"ÖĤ":145755,"âľı":145756,"ìĸĹ":145757,"ì«Ļ":145758,"ðŁĺ²":145759,"ÄŃ":145760,"âĻŃ":145761,"âĶı":145762,"âĹĮ":145763,"ðŁĺ¯":145764,"áµĴ":145765,"íĬł":145766,"Ä·":145767,"Êģ":145768,"à¤Ł":145769,"á¹ģ":145770,"á¼°":145771,"á¿Ĩ":145772,"â«":145773,"⫸":145774,"ëį«":145775,"ì³ĩ":145776,"켤":145777,"íĽ¨":145778,"ðŁĴŁ":145779,"ÊĢ":145780,"ʳ":145781,"ëĵIJ":145782,"âķ°":145783,"âĿĩ":145784,"ÇĢ":145785,"ÇĶ":145786,"É´":145787,"âĺļ":145788,"âĺľ":145789,"ê¶Ĥ":145790,"ì«Ĵ":145791,"ì±Ī":145792,"ðŁĩ¨":145793,"ðŁİ¥":145794,"ðŁĵĿ":145795,"ħ":145796,"ðĿijIJ":145797,"ÛĪ":145798,"ब":145799,"ì¬IJ":145800,"íĹ¥":145801,"âύ":145802,"ðŁį´":145803,"ï¹ı":145804,"Ëĭ":145805,"ðŁ¥º":145806,"âĸ¨":145807,"íĻĭ":145808,"âĪħ":145809,"ëģĻ":145810,"ëŀł":145811,"ìĨ¥":145812,"âĢĸ":145813,"ð٤ĺ":145814,"ðŁIJ»":145815,"áµķ":145816,"ÇĿ":145817,"âĺı":145818,"ïºļ":145819,"ï»Ĥ":145820,"ðŁļ©":145821,"ìĪŁ":145822,"ËĬ":145823,"⤵":145824,"ðŁĴ§":145825,"ãħį":145826,"ë©©":145827,"Ƭ":145828,"Îĩ":145829,"âĩ§":145830,"âĵļ":145831,"ìĤ¯":145832,"ìΝ":145833,"ëĨĭ":145834,"âľ¯":145835,"ðŁļĢ":145836,"Úĺ":145837,"Ú¨":145838,"âľŃ":145839,"ê²ħ":145840,"íĮ°":145841,"íľĻ":145842,"ðŁĮĬ":145843,"ðŁİĵ":145844,"ðŁĺĻ":145845,"Ëĥ":145846,"ðŁĴģ":145847,"ðŁijİ":145848,"âĺ¹":145849,"ðŁĺ«":145850,"ðŁĴ»":145851,"ëĤµ":145852,"ìĿĬ":145853,"íĮ»":145854,"Ò³":145855,"á½²":145856,"âŀŀ":145857,"ëĤij":145858,"ëĿĪ":145859,"죤":145860,"ﻯ":145861,"ðŁĩ©":145862,"ðŁ¥³":145863,"âĴ¼":145864,"ð٦ĭ":145865,"âĺĤ":145866,"ðŁĺ°":145867,"ðŁĻĥ":145868,"ðŁĺĴ":145869,"Ûİ":145870,"Ïķ":145871,"Ḥ":145872,"룽":145873,"ìĬ¥":145874,"ðĿijī":145875,"ÉIJ":145876,"ðŁįİ":145877,"âķ¯":145878,"âķ¹":145879,"າ":145880,"ï¾ł":145881,"ë¹ķ":145882,"ïºĨ":145883,"ʺ":145884,"Ó§":145885,"âĨł":145886,"ëĥĩ":145887,"ìİĪ":145888,"ìŁ¤":145889,"ï±¢":145890,"âķ¬":145891,"âĺł":145892,"ðŁİĬ":145893,"ãįį":145894,"ãİİ":145895,"âĺ°":145896,"âľĥ":145897,"ãħī":145898,"ë¯Ī":145899,"빤":145900,"ìıŃ":145901,"ðĿij¢":145902,"ðŁIJ¾":145903,"Åĭ":145904,"ðŁij¶":145905,"âĶĽ":145906,"ï¿¢":145907,"áĥ¡":145908,"ļ":145909,"ÅĨ":145910,"ÑIJ":145911,"ìĥĽ":145912,"ìĺĮ":145913,"챤":145914,"íħģ":145915,"íļĥ":145916,"ï³Ĭ":145917,"ðĿijĶ":145918,"ðŁĩ«":145919,"âĭ°":145920,"ðŁĺ¨":145921,"âĤ©":145922,"Õ¬":145923,"á¸į":145924,"á»´":145925,"âĨĺ":145926,"âĺ¯":145927,"ãħı":145928,"ìł¬":145929,"âĻĶ":145930,"ðŁĶĶ":145931,"ðŁĺł":145932,"ðŁĻĬ":145933,"à®ľ":145934,"á¹ħ":145935,"âĹIJ":145936,"âĿĪ":145937,"âŀ½":145938,"ìĥħ":145939,"ðĿijł":145940,"Æ¢":145941,"âĭĻ":145942,"ê°Ľ":145943,"ëĿµ":145944,"ë£Ł":145945,"ìıľ":145946,"ïºģ":145947,"ðŁĴŃ":145948,"âĬĥ":145949,"ðŁIJ°":145950,"ãħĮ":145951,"Üĵ":145952,"âŀķ":145953,"á½ģ":145954,"ìķ³":145955,"ðĿijĿ":145956,"ðŁİ¬":145957,"É¡":145958,"à¤Ĺ":145959,"áIJī":145960,"ì©ľ":145961,"ì¶§":145962,"ï³ī":145963,"ï»ħ":145964,"ðĿIJŀ":145965,"श":145966,"ðŁĵ¢":145967,"ðŁįĭ":145968,"ðŁĴħ":145969,"ï¾ķ":145970,"â¬Ĩ":145971,"âε":145972,"ð٤ij":145973,"áĥ£":145974,"ÆĦ":145975,"ѹ":145976,"á¼Ķ":145977,"ê°ł":145978,"ê´Į":145979,"ê·IJ":145980,"뼴":145981,"ì±ĺ":145982,"ï®Ń":145983,"ﺹ":145984,"ﺾ":145985,"âľĹ":145986,"âĿ¦":145987,"ðŁij¦":145988,"áĥĹ":145989,"Ù²":145990,"á½´":145991,"âĪı":145992,"âľ®":145993,"ê¹°":145994,"ë²µ":145995,"ìĦĢ":145996,"ì©Ŀ":145997,"ïºŀ":145998,"ﺽ":145999,"ðŁĩŃ":146000,"ËĤ":146001,"ðŁįij":146002,"ðŁįĮ":146003,"ðŁĶ»":146004,"깬":146005,"ìĬŃ":146006,"ìľ·":146007,"ðŁĽij":146008,"ǧ":146009,"ë¼Ľ":146010,"ﺡ":146011,"ﺺ":146012,"ðĿijļ":146013,"ðŁĵ¦":146014,"ðŁĶİ":146015,"ðŁĹĵ":146016,"áĥĶ":146017,"âľĴ":146018,"âľ¡":146019,"ðŁĮµ":146020,"âĶķ":146021,"ëĢĿ":146022,"ðŁįĬ":146023,"âĺĥ":146024,"ìĺħ":146025,"ব":146026,"ð٦ģ":146027,"âݯ":146028,"ðŁIJķ":146029,"Ñ¿":146030,"।":146031,"à¼ĭ":146032,"ê·Ī":146033,"ì«Į":146034,"ðŁĩ°":146035,"âĿī":146036,"ì«Ģ":146037,"íĿĦ":146038,"ðĿIJ¢":146039,"ðŁļ¨":146040,"âϤ":146041,"ðŁĺ©":146042,"ðŁįį":146043,"ðŁĺij":146044,"ðŁļļ":146045,"ÖĦ":146046,"ë«":146047,"뫼":146048,"à¤ı":146049,"á¿·":146050,"âĮ©":146051,"âĺIJ":146052,"âŀ£":146053,"긱":146054,"꼿":146055,"ëĦĿ":146056,"ìı´":146057,"ìļ¤":146058,"쿱":146059,"íİIJ":146060,"ðŁĴ¢":146061,"ì´IJ":146062,"âĩij":146063,"âĶĵ":146064,"âģ¾":146065,"ÜĿ":146066,"ðŁį°":146067,"â´°":146068,"Æı":146069,"ÏŁ":146070,"Úº":146071,"Ûĥ":146072,"áĦĴ":146073,"âĪŁ":146074,"âĿį":146075,"ãĦ²":146076,"ìľħ":146077,"ì¤ı":146078,"ðŁĩ²":146079,"êºĦ":146080,"ðŁİ¤":146081,"âľ£":146082,"â¸Ŀ":146083,"︵":146084,"ວ":146085,"áĢĻ":146086,"âķł":146087,"Õ¯":146088,"âı©":146089,"ðĿij£":146090,"ðŁĴ£":146091,"Åĺ":146092,"à¥IJ":146093,"âģĥ":146094,"âĮĺ":146095,"ê»Į":146096,"ìĮĶ":146097,"ðĿijĺ":146098,"ð٤ĵ":146099,"Õ¿":146100,"à¤Ń":146101,"âĮļ":146102,"âľĿ":146103,"ðŁIJ¼":146104,"ËĮ":146105,"âķļ":146106,"ï¦Ĺ":146107,"âĿķ":146108,"âķ£":146109,"ðŁIJ±":146110,"த":146111,"Ѿ":146112,"à¤ļ":146113,"à¤ľ":146114,"ìĪĦ":146115,"ìļľ":146116,"ðŁİ®":146117,"ÉĴ":146118,"Ú·":146119,"àºį":146120,"âĨµ":146121,"âĪĺ":146122,"âĿĬ":146123,"ë¿į":146124,"ìIJĪ":146125,"ìļĺ":146126,"쯧":146127,"íĥ¯":146128,"ìĸı":146129,"︰":146130,"ðŁĩ¯":146131,"ð٧ļ":146132,"ðŁĺµ":146133,"ðŁĺ·":146134,"ðŁĮ³":146135,"ລ":146136,"Äī":146137,"Ä¥":146138,"âľ¶":146139,"῾":146140,"âĬ±":146141,"âĺ¾":146142,"ê°ī":146143,"ê¼°":146144,"ëºij":146145,"ðŁĶĬ":146146,"ðŁĸIJ":146147,"Ť":146148,"Ò«":146149,"à®®":146150,"âĮĪ":146151,"âĹĹ":146152,"ëĦµ":146153,"ëħľ":146154,"ëľ¹":146155,"ðĿij¥":146156,"ðŁĴ¿":146157,"ðŁĽĴ":146158,"ÊĴ":146159,"áŀĵ":146160,"ðŁIJĿ":146161,"ð٦Ħ":146162,"ðŁį·":146163,"âĺŁ":146164,"︶":146165,"ðŁ¤Ł":146166,"Ô±":146167,"âĨ²":146168,"âĪİ":146169,"âľ«":146170,"ëĩ½":146171,"ëıIJ":146172,"ëķĦ":146173,"靈":146174,"ï§Ŀ":146175,"ïºĻ":146176,"ðŁij»":146177,"ðŁĵº":146178,"êµ¼":146179,"ìĮ©":146180,"ðŁĮ²":146181,"ȱ":146182,"íĶķ":146183,"ðŁĺ¤":146184,"ãĮ¢":146185,"ÊĶ":146186,"ड":146187,"á¼Ī":146188,"ëİĥ":146189,"멱":146190,"ë®Ī":146191,"ðĿIJ«":146192,"âĬķ":146193,"ëĥł":146194,"뻬":146195,"íĭĶ":146196,"Õ¤":146197,"á¼±":146198,"âľ¥":146199,"âĺĦ":146200,"âĪ¥":146201,"âļķ":146202,"ðŁijĦ":146203,"ðŁİħ":146204,"àºĻ":146205,"âͬ":146206,"á½µ":146207,"Õ¾":146208,"Öģ":146209,"âĹĶ":146210,"ê¿į":146211,"ëĸµ":146212,"ë©İ":146213,"ë®´":146214,"ìķ´":146215,"áĥľ":146216,"ἡ":146217,"âĶĬ":146218,"âķ®":146219,"âĹ¼":146220,"ðŁį¾":146221,"ðŁĽį":146222,"ðŁijĹ":146223,"ð٤ŀ":146224,"âľĦ":146225,"ÕĢ":146226,"ল":146227,"Ëī":146228,"⣨":146229,"į":146230,"ÏĬ":146231,"á´ľ":146232,"ë¹³":146233,"ï³ĭ":146234,"ï¿ł":146235,"Ī":146236,"âĤ¸":146237,"âľ±":146238,"ê»IJ":146239,"ëĭ»":146240,"맸":146241,"ìŀ¿":146242,"쩨":146243,"ìŃIJ":146244,"ì°¿":146245,"íħŁ":146246,"ðĿIJ§":146247,"ðĿijij":146248,"ðŁĮİ":146249,"ðŁĵ®":146250,"ðŁķĶ":146251,"âĹĻ":146252,"âĹ»":146253,"âŀ§":146254,"ìŁĿ":146255,"⾬":146256,"ãĥ°":146257,"âģĪ":146258,"âĵĺ":146259,"ðŁĴĮ":146260,"ï¬ĥ":146261,"àºĶ":146262,"ìͰ":146263,"ðŁĺª":146264,"×Ģ":146265,"ìĥ¨":146266,"ïŃĭ":146267,"ðŁįķ":146268,"ðŁĺ´":146269,"ϳ":146270,"á¼Ħ":146271,"á½ħ":146272,"âĩ¢":146273,"âķŃ":146274,"ìĺ»":146275,"íĬ¤":146276,"Üĺ":146277,"⤴":146278,"âĹį":146279,"áŀŁ":146280,"ðŁįº":146281,"áŀļ":146282,"ðŁıĬ":146283,"ðŁIJ·":146284,"ÊĮ":146285,"ὺ":146286,"âģ»":146287,"ê½Į":146288,"ëĪĹ":146289,"ëĹı":146290,"ì¿°":146291,"í̼":146292,"íįħ":146293,"ï·²":146294,"ðŁĮı":146295,"ðŁį«":146296,"ðŁį³":146297,"ðŁİ°":146298,"ðŁij°":146299,"ðŁĴ²":146300,"á¥Ļ":146301,"ðŁIJŁ":146302,"ï¿¡":146303,"ðŁĹ£":146304,"ðŁįľ":146305,"âľ²":146306,"ãİ¢":146307,"ðŁĶ°":146308,"Ἰ":146309,"á½ij":146310,"Äİ":146311,"áĦĢ":146312,"âĻķ":146313,"ëłĿ":146314,"ìĪ´":146315,"ïŃŃ":146316,"Óľ":146317,"ÔĢ":146318,"ëĢľ":146319,"ëĥĶ":146320,"ìĬĽ":146321,"ì«ij":146322,"캥":146323,"캬":146324,"ðĿij¦":146325,"ðŁĶ¶":146326,"쾨":146327,"ðĿIJļ":146328,"ðŁį»":146329,"ðŁĴį":146330,"ðŁ¤¡":146331,"ðŁķĬ":146332,"â½ĩ":146333,"âĵIJ":146334,"ðŁįŃ":146335,"ðŁįª":146336,"ðŁĶĨ":146337,"Ò¡":146338,"á´ĩ":146339,"ÉĹ":146340,"ÜĶ":146341,"âĦİ":146342,"âĿĥ":146343,"ëĹĢ":146344,"ï²Ķ":146345,"ïºĪ":146346,"ðĿIJ»":146347,"ðŁĴĬ":146348,"ðŁļ«":146349,"Ѱ":146350,"ѳ":146351,"ष":146352,"âĹł":146353,"ðŁij¤":146354,"ï¾ĩ":146355,"âĺĵ":146356,"ðŁįµ":146357,"ðŁ¤¨":146358,"âĸŃ":146359,"à®´":146360,"Ü¢":146361,"ܬ":146362,"à´®":146363,"ðŁķº":146364,"Ô¹":146365,"Õ£":146366,"à´¯":146367,"á´Ģ":146368,"âĮī":146369,"âľIJ":146370,"âŀ¦":146371,"ê¹½":146372,"ëĮľ":146373,"ðŁı¥":146374,"ðŁĵ©":146375,"Ò¹":146376,"Óĺ":146377,"à¤ħ":146378,"âĿ§":146379,"ÆĹ":146380,"âĹ½":146381,"ðŁij«":146382,"ðŁİ§":146383,"ðŁij£":146384,"âľ»":146385,"ðŁĻħ":146386,"ðŁĺĸ":146387,"ðŁĴ®":146388,"ະ":146389,"ðŁĶľ":146390,"ðŁįĦ":146391,"ð٤Ŀ":146392,"áĥĿ":146393,"áŀĢ":146394,"âĩ¦":146395,"ʾ":146396,"Ò®":146397,"Õ¼":146398,"à¤Ĩ":146399,"âĹħ":146400,"âļĵ":146401,"âļĸ":146402,"ê¿©":146403,"ë¯Ħ":146404,"ìIJIJ":146405,"ìŀ°":146406,"ì§Ń":146407,"íĭĭ":146408,"íݨ":146409,"íϧ":146410,"ï²ij":146411,"ðŁİĹ":146412,"Ù³":146413,"ðŁij¸":146414,"ম":146415,"ðŁijķ":146416,"Úµ":146417,"â̾":146418,"âŀ°":146419,"ðŁij¯":146420,"ðŁİ¼":146421,"ðŁıģ":146422,"ĺ":146423,"Êı":146424,"Ú³":146425,"âı±":146426,"ê½Ī":146427,"ëĿĮ":146428,"ìĮī":146429,"ìĹ·":146430,"ìŀ´":146431,"íĹ¹":146432,"íľ¨":146433,"ðĿĹ²":146434,"ðŁĮIJ":146435,"ðŁİĻ":146436,"ðŁıµ":146437,"íĽĻ":146438,"ðĿijħ":146439,"ðŁĺ¶":146440,"âĵħ":146441,"âķ¥":146442,"ðŁįı":146443,"ï¦İ":146444,"Õ©":146445,"ðĿIJĦ":146446,"Ó£":146447,"Ú¿":146448,"âĻļ":146449,"ðŁĶĹ":146450,"ḫ":146451,"âĭ®":146452,"âĸ¦":146453,"âĽ½":146454,"âľµ":146455,"ãħĨ":146456,"ãħĬ":146457,"ëĦĻ":146458,"ëĿ¨":146459,"ë¥Ħ":146460,"ìĦ¦":146461,"ì§°":146462,"ì§¹":146463,"íīĪ":146464,"ï§ij":146465,"ï»ĩ":146466,"ðŁĮ¾":146467,"ðŁıĸ":146468,"ðŁIJij":146469,"ðŁĴ³":146470,"ðŁĵĨ":146471,"Ûĩ":146472,"Üķ":146473,"á½½":146474,"ëĦľ":146475,"à´²":146476,"à´³":146477,"àºŃ":146478,"áĥĽ":146479,"âĿĶ":146480,"âijħ":146481,"áĥ¥":146482,"ðŁĵħ":146483,"âŀ³":146484,"á´µ":146485,"﹡":146486,"ï¹¶":146487,"ÎĨ":146488,"थ":146489,"áīµ":146490,"âĿĻ":146491,"âĿ±":146492,"ëīł":146493,"ëİł":146494,"ëıĽ":146495,"ë¿ħ":146496,"ì͏":146497,"íij¯":146498,"íŀī":146499,"íŀĽ":146500,"ï§Ħ":146501,"ïŃĺ":146502,"ﺦ":146503,"ﻸ":146504,"ðĿijĤ":146505,"ðĿijı":146506,"Ïij":146507,"Úł":146508,"áĢĶ":146509,"áŀĶ":146510,"á¹¢":146511,"ëĦ¸":146512,"ðĿIJ¨":146513,"ðŁĩ´":146514,"Õ°":146515,"ðŁijł":146516,"ðŁįĨ":146517,"ðŁıĢ":146518,"ðŁijIJ":146519,"ðŁįĩ":146520,"ðŁIJ£":146521,"áĪŃ":146522,"ܪ":146523,"ðŁĮĢ":146524,"áŀĺ":146525,"âĩĦ":146526,"ðĿIJĢ":146527,"ÊĻ":146528,"âͼ":146529,"ðŁı¿":146530,"Æ·":146531,"Èł":146532,"ѽ":146533,"âĤ¨":146534,"ê´Ń":146535,"ê¹»":146536,"ë͍":146537,"ìĪĢ":146538,"ì¾°":146539,"íĨĪ":146540,"ï®§":146541,"ﯽ":146542,"ðŁĶħ":146543,"ðŁĶ®":146544,"Å¢":146545,"ʰ":146546,"Ѹ":146547,"ण":146548,"âĬĹ":146549,"ëªĦ":146550,"ï¹·":146551,"ïºħ":146552,"ðĿIJµ":146553,"ðŁĮ¶":146554,"ðŁĵ°":146555,"ðŁĶ·":146556,"ðŁĸĴ":146557,"ðŁ¤²":146558,"ëī©":146559,"ðŁİĨ":146560,"ð٧IJ":146561,"ðŁį®":146562,"âĨº":146563,"âĿ¢":146564,"ðŁijª":146565,"ðŁij±":146566,"âĨ¡":146567,"áŀı":146568,"Úķ":146569,"ðŁį¹":146570,"ðŁĴĢ":146571,"Ë®":146572,"Ó¨":146573,"Öħ":146574,"à¤ĩ":146575,"âĤ¡":146576,"âĪķ":146577,"âĺī":146578,"ê¹¼":146579,"ê¼IJ":146580,"콸":146581,"ðĿIJ¬":146582,"ðŁıħ":146583,"ðŁijĻ":146584,"ðŁĴī":146585,"ð٤Ļ":146586,"Èĺ":146587,"ɳ":146588,"ɹ":146589,"Ùº":146590,"áĢĦ":146591,"ῳ":146592,"âļĺ":146593,"âĿĨ":146594,"ëĨī":146595,"ìĸį":146596,"ìĺĩ":146597,"ì¥ĺ":146598,"íĸħ":146599,"íĻij":146600,"ï®Ĭ":146601,"ï¿Ń":146602,"ðĿĴIJ":146603,"ðĿĹ¢":146604,"ðŁĶĸ":146605,"ðŁĶ¨":146606,"ðŁļij":146607,"ðŁļ²":146608,"Ƹ":146609,"âĹ¥":146610,"ðĿIJŃ":146611,"ðŁį½":146612,"âĹij":146613,"âĵĩ":146614,"ðŁĶ±":146615,"âľ¼":146616,"ï¹ĥ":146617,"âķ±":146618,"ãĢĹ":146619,"ðŁıĭ":146620,"ðŁļ´":146621,"ðĿIJ®":146622,"Äļ":146623,"Õı":146624,"Ķ":146625,"áĥij":146626,"Ṭ":146627,"ÄĪ":146628,"ÄĴ":146629,"Ò°":146630,"Óķ":146631,"âIJ":146632,"âIJ£":146633,"âĹ¢":146634,"âļĻ":146635,"ãħĹ":146636,"ê°¬":146637,"곪":146638,"ê»Ģ":146639,"ëĦ´":146640,"ëİģ":146641,"ëĿĶ":146642,"묽":146643,"ëŃį":146644,"ìĩ³":146645,"ì°¹":146646,"íĮ¹":146647,"íŀĿ":146648,"ï®ĭ":146649,"ï¶Ī":146650,"ðĿĴĤ":146651,"ðŁ¥Ģ":146652,"ð٦ħ":146653,"Êĺ":146654,"á¼ij":146655,"âģİ":146656,"ðŁįŀ":146657,"âĨĸ":146658,"âĨĻ":146659,"ðŁİĥ":146660,"âĦ¡":146661,"âĭ±":146662,"ðŁĶį":146663,"ನ":146664,"áµĥ":146665,"âĶ«":146666,"⦿":146667,"ðŁĩ»":146668,"Ƥ":146669,"Òı":146670,"Ò·":146671,"Ûī":146672,"à®ķ":146673,"ḳ":146674,"בּ":146675,"ðŁĨĶ":146676,"ÚŃ":146677,"Û¦":146678,"áħ¡":146679,"âĦ¹":146680,"ê¿İ":146681,"ëķĶ":146682,"ë¼ī":146683,"ìļ§":146684,"ì²µ":146685,"ì´¨":146686,"íĬĪ":146687,"íĸIJ":146688,"ðĿĹĺ":146689,"ðŁĩ¿":146690,"ðŁİĸ":146691,"ðŁijħ":146692,"ðŁĵĺ":146693,"ðŁļĻ":146694,"ðŁĽµ":146695,"à¶½":146696,"⼵":146697,"ðĿIJ³":146698,"ðĿIJ¸":146699,"âļĶ":146700,"ðŁijŃ":146701,"Óij":146702,"â͝":146703,"ðŁħ¿":146704,"ðŁĺ¹":146705,"ï¿«":146706,"⼤":146707,"ðŁĴĩ":146708,"ðŁĵİ":146709,"ðŁĸĭ":146710,"স":146711,"ðĿIJį":146712,"IJ":146713,"Ïĭ":146714,"Ѭ":146715,"Ú¬":146716,"ÜĴ":146717,"á´¬":146718,"ï¨Ħ":146719,"É£":146720,"Ëij":146721,"ϵ":146722,"ÒĿ":146723,"Û¥":146724,"Üł":146725,"à¹Ľ":146726,"áĥķ":146727,"áĬķ":146728,"á¾¶":146729,"âĤ·":146730,"âĩ¾":146731,"âķ©":146732,"âĸIJ":146733,"âĺª":146734,"âĺ®":146735,"âĿļ":146736,"âĿŃ":146737,"âŀ±":146738,"âµİ":146739,"ãıĬ":146740,"ë©ĵ":146741,"ìĹ¾":146742,"ìªĦ":146743,"íĵĮ":146744,"íķ¼":146745,"ïѬ":146746,"ðĿijĨ":146747,"ðĿijŀ":146748,"ðĿĸĬ":146749,"ðŁİ¸":146750,"ðŁıĦ":146751,"ðŁijµ":146752,"ðŁĴł":146753,"ðŁĶĺ":146754,"ðŁ¥Ĥ":146755,"Ū":146756,"à·ĥ":146757,"á´¼":146758,"âĬ°":146759,"ë³ı":146760,"ë´£":146761,"ï¥ľ":146762,"ðŁĵĪ":146763,"ðŁķ¯":146764,"ð٧Ģ":146765,"âĻIJ":146766,"ðŁĨĹ":146767,"ðŁĵķ":146768,"ð٧ģ":146769,"Ü«":146770,"âĿIJ":146771,"Õķ":146772,"à½ķ":146773,"âŀĿ":146774,"à¦ķ":146775,"ðĿIJ¶":146776,"É¢":146777,"ÎĦ":146778,"áĨ¢":146779,"âĤ±":146780,"Õį":146781,"à¡ķ":146782,"á´°":146783,"ḩ":146784,"⼷":146785,"âĿ®":146786,"ê¡ĵ":146787,"ëı¤":146788,"ëĹIJ":146789,"ëµĮ":146790,"ìijĪ":146791,"íı¿":146792,"íŵ":146793,"ðĿIJİ":146794,"ðŁĨĺ":146795,"ðŁıŁ":146796,"É¥":146797,"Õ»":146798,"à¡Ķ":146799,"à¤ĸ":146800,"á´¸":146801,"âİĻ":146802,"âİ¥":146803,"âı³":146804,"ëģķ":146805,"ëĬī":146806,"ì¡į":146807,"칡":146808,"禮":146809,"ï¬Ł":146810,"ﮫ":146811,"ﮯ":146812,"ï±ĥ":146813,"ï·»":146814,"ﺵ":146815,"ðĿĹĶ":146816,"ðĿĹ¡":146817,"ðŁİ¨":146818,"ðŁĶĴ":146819,"ÚĽ":146820,"ध":146821,"âŀ¹":146822,"áĢĢ":146823,"ðŁįħ":146824,"âŤ":146825,"à¤ł":146826,"ðŁIJ¥":146827,"áĥĴ":146828,"ðŁıĿ":146829,"ðŁį¼":146830,"ãĮ§":146831,"âĿĽ":146832,"ðŁIJĪ":146833,"য":146834,"áĢŀ":146835,"ãĢĸ":146836,"áŀĻ":146837,"প":146838,"ÕĨ":146839,"âĬĨ":146840,"âľ¾":146841,"ðŁIJĹ":146842,"ﹿ":146843,"Ħ":146844,"ÜŁ":146845,"à²ł":146846,"ಥ":146847,"áŀī":146848,"á´¥":146849,"á´©":146850,"á½Ģ":146851,"ὡ":146852,"âĨķ":146853,"âŀ¯":146854,"ê¡ij":146855,"ëij£":146856,"ë±Į":146857,"ìĪij":146858,"ìľĶ":146859,"ìŀ½":146860,"ì¨į":146861,"ðĿijĢ":146862,"ðŁĮĮ":146863,"ðŁį¦":146864,"ðŁį©":146865,"ðŁIJļ":146866,"ðŁĵĴ":146867,"ðŁĵ¹":146868,"ðŁ¥ij":146869,"Äĭ":146870,"ËĹ":146871,"Ñ«":146872,"Õ¢":146873,"Ú°":146874,"âĮĢ":146875,"âĹĤ":146876,"âĹ£":146877,"⾼":146878,"âĿĴ":146879,"âĿĺ":146880,"âŀĻ":146881,"âŀ²":146882,"ãİį":146883,"ê¡IJ":146884,"ëŀĸ":146885,"ìĬĿ":146886,"ìĽ¤":146887,"ì¡ĭ":146888,"쨰":146889,"íĹĻ":146890,"兩":146891,"ï³į":146892,"ï»İ":146893,"ðĿijĵ":146894,"ðŁĵĬ":146895,"ðŁļ¼":146896,"ï¦ģ":146897,"ðĿķĴ":146898,"ðŁijľ":146899,"ðŁij¿":146900,"ðŁĩ½":146901,"à·Ħ":146902,"âĸ´":146903,"ãįī":146904,"âĬĩ":146905,"ðŁ§¸":146906,"Ú¡":146907,"â¾ĥ":146908,"ðŁĹ»":146909,"âĵij":146910,"ðŁ¤¸":146911,"ðŁ¤¯":146912,"êĴ°":146913,"ðĿIJĵ":146914,"âĶ´":146915,"êĴ±":146916,"áĢĺ":146917,"âĽĦ":146918,"ï¹¹":146919,"ÓĶ":146920,"áĥ±":146921,"Ü¡":146922,"ßŀ":146923,"âĻı":146924,"⾸":146925,"ìij¨":146926,"ðĿIJĿ":146927,"ðĿIJ¥":146928,"ðŁįī":146929,"ðŁij¼":146930,"ðŁ¥Ŀ":146931,"ÆĶ":146932,"ݬ":146933,"फ":146934,"àºļ":146935,"á´´":146936,"á½ĸ":146937,"âĤ¶":146938,"âİ¢":146939,"âĿħ":146940,"⣫":146941,"ãİĽ":146942,"뮨":146943,"ëºĮ":146944,"ë¼ĺ":146945,"ìĨĿ":146946,"ìľ³":146947,"ìŀĮ":146948,"ì£Ĺ":146949,"ìªĺ":146950,"컹":146951,"ï·¼":146952,"ïºĤ":146953,"ðĿIJ´":146954,"ðĿIJ¼":146955,"ðŁĮļ":146956,"ðŁı«":146957,"ðŁĴ¤":146958,"ðŁĴ¶":146959,"ðŁĴ¼":146960,"Êķ":146961,"ʽ":146962,"â²Ł":146963,"ãīł":146964,"ê¡Ĵ":146965,"ëľĢ":146966,"ìĥ¾":146967,"츤":146968,"ï¥ģ":146969,"ðĿļĬ":146970,"ðŁļĥ":146971,"âŀĽ":146972,"ìħ´":146973,"áĦĭ":146974,"âĩĹ":146975,"ï§·":146976,"âĺĸ":146977,"ðŁIJ¦":146978,"⸾":146979,"ðŁĴ´":146980,"ð٤ļ":146981,"ãĬĹ":146982,"âĮĽ":146983,"áĪĽ":146984,"༺":146985,"â½ī":146986,"ðŁı¢":146987,"âĵŀ":146988,"âĺ½":146989,"ãĢĻ":146990,"ðŁ¤®":146991,"ÅIJ":146992,"áĥ¬":146993,"ðĿĹ»":146994,"ðŁįĸ":146995,"ÆĬ":146996,"ÊŁ":146997,"ßĭ":146998,"à¤ĭ":146999,"áµĶ":147000,"á¿ĥ":147001,"âĦī":147002,"âĮĭ":147003,"âı²":147004,"âĵĪ":147005,"âĵ¢":147006,"âķĶ":147007,"âļij":147008,"âĿĭ":147009,"âĿİ":147010,"⵾":147011,"âµ£":147012,"ëĴĪ":147013,"ëľģ":147014,"ë¶ĩ":147015,"ìį»":147016,"ìĺŃ":147017,"ì§¢":147018,"íĹĢ":147019,"ï§Ĭ":147020,"טּ":147021,"ﱡ":147022,"ðĿIJº":147023,"ðĿij§":147024,"ðĿĺ¦":147025,"ðŁĵ¥":147026,"ðŁĺŁ":147027,"ðŁ¥IJ":147028,"Äĸ":147029,"ɨ":147030,"áĢIJ":147031,"áĥĵ":147032,"áºĵ":147033,"á¼¶":147034,"á½Ħ":147035,"âĤ¤":147036,"âĮľ":147037,"âĮŁ":147038,"âİł":147039,"⼸":147040,"âµį":147041,"âµı":147042,"âµĵ":147043,"ãĢĺ":147044,"ë·¸":147045,"íħ¼":147046,"ï¦Į":147047,"ïŃĦ":147048,"ïŃİ":147049,"ðĿĻļ":147050,"ðĿļĺ":147051,"à¼ĵ":147052,"ëŃħ":147053,"áIJĽ":147054,"ãݾ":147055,"ï¨Ģ":147056,"ðŁĹ½":147057,"âĻŀ":147058,"Ëĸ":147059,"âĹŀ":147060,"ðŁ¤«":147061,"ðŁĺĹ":147062,"ヲ":147063,"ðŁ¤¢":147064,"âģĩ":147065,"ã̵":147066,"ðŁįĶ":147067,"áĬł":147068,"ðŁĺ¼":147069,"ðĿĹ®":147070,"ðŁIJ³":147071,"ðĿIJĭ":147072,"ðŁĨļ":147073,"ðŁĶĽ":147074,"Ñ»":147075,"ܨ":147076,"ல":147077,"âľŀ":147078,"âµĻ":147079,"êµ£":147080,"츨":147081,"ðĿIJľ":147082,"ðĿĺ°":147083,"ðŁĶ½":147084,"Ç»":147085,"Ç¿":147086,"Êĩ":147087,"ÎIJ":147088,"ÐĢ":147089,"Ñ¡":147090,"Ѳ":147091,"ÒĴ":147092,"Ù¶":147093,"ßķ":147094,"à¶±":147095,"áIJģ":147096,"âģŀ":147097,"âĸ§":147098,"âĽĪ":147099,"âľľ":147100,"âľ¹":147101,"âŁ¹":147102,"â¤ĩ":147103,"ê²Ĭ":147104,"ê¾ľ":147105,"ë¯IJ":147106,"ë³IJ":147107,"ìħ©":147108,"ìIJ¬":147109,"ìij¹":147110,"ï¤Ķ":147111,"ï¦ļ":147112,"ï¬ł":147113,"ïŃĶ":147114,"ﺶ":147115,"ðĿĴı":147116,"ðĿĸĨ":147117,"ðĿŶ":147118,"ðŁıĤ":147119,"ðŁIJ½":147120,"ðŁĴ©":147121,"ðŁĵ½":147122,"ðŁĹ¨":147123,"ðŁĹº":147124,"ðŁĺ¸":147125,"ðŁ¥§":147126,"ÅĹ":147127,"Êİ":147128,"ÒĻ":147129,"ײ":147130,"à¤Ī":147131,"á¼´":147132,"á¿ij":147133,"âµī":147134,"ãħĵ":147135,"ì½´":147136,"ðĿĸĵ":147137,"ðŁĵĹ":147138,"ðŁĶª":147139,"ðŁĸį":147140,"ÏĴ":147141,"ðŁij¬":147142,"áĥĻ":147143,"âĨ¬":147144,"âͤ":147145,"âĽ¹":147146,"âĻŁ":147147,"ðŁļ¶":147148,"ðŁij¾":147149,"âĪĭ":147150,"ðŁIJ¯":147151,"à¼İ":147152,"âľ·":147153,"ï¨Ļ":147154,"âĶ»":147155,"ðŁij¹":147156,"áĦī":147157,"ສ":147158,"â¾ı":147159,"â½ħ":147160,"ãİĸ":147161,"Ñ´":147162,"Õ®":147163,"Ú¼":147164,"áĢķ":147165,"áĨ¼":147166,"ëŃı":147167,"ðŁIJ¸":147168,"ðŁļ£":147169,"ÆĿ":147170,"Ô»":147171,"áĥ¢":147172,"ðŁį¯":147173,"ɦ":147174,"Õ¦":147175,"âĻĭ":147176,"שׂ":147177,"ðĿŦ":147178,"Çļ":147179,"ɱ":147180,"à¤ī":147181,"á´Ħ":147182,"âĻĵ":147183,"⼰":147184,"âŁª":147185,"ëĥĺ":147186,"뢸":147187,"ìĤij":147188,"ï®Ķ":147189,"ðĿķĸ":147190,"ðĿŧ":147191,"ðŁĩ¼":147192,"ðŁĵĭ":147193,"ðŁļľ":147194,"ðŁ¥¤":147195,"Ä®":147196,"Å·":147197,"ßĬ":147198,"॥":147199,"ப":147200,"áŀĦ":147201,"áµĢ":147202,"á¸ħ":147203,"á¼¢":147204,"âĪĿ":147205,"âĬ¹":147206,"âĴ¶":147207,"âķ´":147208,"⼱":147209,"âĽ³":147210,"âĽº":147211,"âŀŁ":147212,"ãıĦ":147213,"ê¸Ķ":147214,"ê¹Ł":147215,"ëĩ°":147216,"ë¹»":147217,"ìĤ¥":147218,"ìĽ»":147219,"ì°Ł":147220,"íĥ°":147221,"íĨº":147222,"íļ½":147223,"老":147224,"量":147225,"ï³Ŀ":147226,"ðĿIJ¦":147227,"ðĿĴľ":147228,"ðĿĴŁ":147229,"ðĿļĹ":147230,"ðŁİŃ":147231,"ðŁıĵ":147232,"ðŁı³":147233,"ðŁıº":147234,"ðŁIJį":147235,"ðŁijĥ":147236,"ðŁĴı":147237,"ð٤ĸ":147238,"ðŁ¤µ":147239,"Õ²":147240,"âµĶ":147241,"ëĺ¬":147242,"念":147243,"ÊĤ":147244,"áĨ«":147245,"áŀij":147246,"ðĿĸİ":147247,"ðĿĹĸ":147248,"áĦĥ":147249,"âĩł":147250,"áĢ¡":147251,"à½Ħ":147252,"âŀ¸":147253,"ï¦Ļ":147254,"âĩļ":147255,"ðŁIJ¬":147256,"ðŁIJ¢":147257,"â¾Ĵ":147258,"ðŁIJ¤":147259,"ðŁĶ«":147260,"ãĢŀ":147261,"︺":147262,"ðŁĺº":147263,"â½´":147264,"ðŁĨķ":147265,"âģ¿":147266,"ðŁį¨":147267,"à²ķ":147268,"ðŁļĺ":147269,"áŀħ":147270,"à¦ħ":147271,"áŀ¢":147272,"à¨ľ":147273,"âļĮ":147274,"ã̽":147275,"à·´":147276,"âĵĽ":147277,"áĢľ":147278,"ìĨ¨":147279,"Ë©":147280,"ÜĹ":147281,"âĭ¼":147282,"ðŁĻī":147283,"ÅĬ":147284,"Éĵ":147285,"ʲ":147286,"ΰ":147287,"Ѽ":147288,"Ô¿":147289,"à¡IJ":147290,"à¼ľ":147291,"ས":147292,"á¶ľ":147293,"âĤ²":147294,"âĨ¨":147295,"âĬ¥":147296,"âķ§":147297,"âĻľ":147298,"ãĭ¡":147299,"ë´¬":147300,"ë¶ij":147301,"ìī¿":147302,"ìİħ":147303,"ìł±":147304,"ì°§":147305,"ﲡ":147306,"ðĿĴĽ":147307,"ðĿķ£":147308,"ðĿĹľ":147309,"ðŁį²":147310,"ðŁİ©":147311,"ðŁIJIJ":147312,"ðŁIJł":147313,"ðŁij½":147314,"ðŁĴij":147315,"ðŁĵľ":147316,"ðŁķµ":147317,"ðŁļĮ":147318,"ðŁĽ£":147319,"Êĭ":147320,"Ó¯":147321,"Ù¸":147322,"ßĶ":147323,"ßĻ":147324,"à¡ĵ":147325,"á´į":147326,"ḿ":147327,"âıº":147328,"âĸ¥":147329,"뤽":147330,"íľij":147331,"ðĿIJ¹":147332,"ðĿĸĶ":147333,"ðĿļİ":147334,"ðŁĵĦ":147335,"ðŁ¦·":147336,"Æĥ":147337,"à¦Ł":147338,"âĮĤ":147339,"âĺŃ":147340,"â²ļ":147341,"ëĿķ":147342,"ðŁİ£":147343,"à®ĩ":147344,"à½Ĩ":147345,"áħµ":147346,"áĹľ":147347,"â̽":147348,"âĮ£":147349,"âģ½":147350,"ðŁĵ¬":147351,"ðŁ¤§":147352,"âĩª":147353,"â½£":147354,"âĹŁ":147355,"ï¨Ĺ":147356,"êĴª":147357,"ðŁĽĢ":147358,"ÇĤ":147359,"ðŁ¥¶":147360,"ðŁİį":147361,"ï¿©":147362,"ðŁijĴ":147363,"áµĪ":147364,"︿":147365,"áħ©":147366,"⾦":147367,"à°¤":147368,"á´ĸ":147369,"ਬ":147370,"àºĹ":147371,"༻":147372,"Ѻ":147373,"ਪ":147374,"á´³":147375,"ðĿIJĪ":147376,"à»Ģ":147377,"á´¿":147378,"âĤį":147379,"âĩ¡":147380,"âĽª":147381,"ðĿIJĤ":147382,"ðĿĴķ":147383,"ðŁIJľ":147384,"Êį":147385,"ѱ":147386,"à½ĥ":147387,"ë®IJ":147388,"ìĽ¡":147389,"ìľģ":147390,"ðĿIJ¿":147391,"ðĿķł":147392,"ðŁijĽ":147393,"ƪ":147394,"Ϻ":147395,"Ó¬":147396,"Ù¿":147397,"Ý£":147398,"àªī":147399,"ஹ":147400,"à½ij":147401,"áĨ¯":147402,"áµĩ":147403,"âĩ¥":147404,"âıª":147405,"âϰ":147406,"âļŃ":147407,"âļ¾":147408,"ãħĦ":147409,"ḛ̂":147410,"ê°Ĺ":147411,"ê²ĭ":147412,"ê²»":147413,"ê¶ľ":147414,"ê¼ĩ":147415,"ê½¹":147416,"ëĤŁ":147417,"ëħĪ":147418,"ëĭ¢":147419,"ë§Ł":147420,"ëªĨ":147421,"ëµĢ":147422,"ì½±":147423,"íĩĺ":147424,"íľľ":147425,"ï§¾":147426,"ï±µ":147427,"ï²¢":147428,"ﲤ":147429,"ðĿĴĬ":147430,"ðĿĺ¯":147431,"ðŁįĹ":147432,"ðŁıį":147433,"ðŁIJĺ":147434,"ðŁĵ¡":147435,"ðŁĶŀ":147436,"ðŁ¤³":147437,"ðŁ¥ģ":147438,"ðŁ¥Ĺ":147439,"ð٦Ĭ":147440,"ĵ":147441,"Ʀ":147442,"ǵ":147443,"ɯ":147444,"Îı":147445,"ÕĦ":147446,"Ü¥":147447,"à½ģ":147448,"ᨳ":147449,"âķ«":147450,"ãİī":147451,"ë·´":147452,"ìĨİ":147453,"ìİĮ":147454,"죵":147455,"íĽł":147456,"離":147457,"ï³ı":147458,"ﻺ":147459,"ðĿijģ":147460,"ðĿijĩ":147461,"ðĿĴĨ":147462,"ðŁİł":147463,"ðŁIJĶ":147464,"ðŁijŁ":147465,"Åĸ":147466,"à¤Į":147467,"á¾½":147468,"ê¦Ĵ":147469,"à®Ł":147470,"á´±":147471,"ðŁı°":147472,"ðŁIJŀ":147473,"à½Ģ":147474,"áĢħ":147475,"âĬ¿":147476,"ðŁIJ§":147477,"áĽģ":147478,"â¼Ī":147479,"âĶ¿":147480,"ðŁ¥´":147481,"⼿":147482,"ðŁ§ľ":147483,"ãħ¿":147484,"âĦ«":147485,"ã̳":147486,"ãĬĻ":147487,"â¼Ģ":147488,"怜":147489,"ðŁı¬":147490,"ðŁĵ»":147491,"áĬĽ":147492,"áĦħ":147493,"àºĬ":147494,"àºĽ":147495,"áħ³":147496,"ðŁij®":147497,"à®±":147498,"âĺĩ":147499,"ðĿIJı":147500,"à´µ":147501,"à»ģ":147502,"à½ı":147503,"ར":147504,"ᥱ":147505,"âĤ£":147506,"復":147507,"ïŃĻ":147508,"ï´©":147509,"ï¹Ĥ":147510,"ðŁį£":147511,"ðŁķ¹":147512,"Ïĸ":147513,"ම":147514,"ຢ":147515,"áĭŃ":147516,"âİĿ":147517,"âĹĿ":147518,"âĻĪ":147519,"âĻİ":147520,"ê½¥":147521,"ì³Ķ":147522,"ì¼ij":147523,"ï±°":147524,"ðĿijĥ":147525,"ðŁĮª":147526,"ðŁį¡":147527,"Åİ":147528,"ʦ":147529,"ѧ":147530,"Óİ":147531,"Ô´":147532,"ÚĪ":147533,"ßĵ":147534,"ß§":147535,"à¤Ķ":147536,"áĪ«":147537,"áε":147538,"áĹ©":147539,"á´ł":147540,"á¼ł":147541,"âĢĹ":147542,"âģij":147543,"âĦı":147544,"âĸĩ":147545,"â²£":147546,"ãĦ³":147547,"ãī®":147548,"ê³Ĺ":147549,"ëĦĴ":147550,"ëĸ«":147551,"ë¡Ħ":147552,"ë¹°":147553,"ë½ģ":147554,"ìĦģ":147555,"ìĮĺ":147556,"ìŁĮ":147557,"ì³ī":147558,"ì¼ķ":147559,"כּ":147560,"ï³İ":147561,"ﹸ":147562,"ï¹¾":147563,"ðĿIJĨ":147564,"ðĿij·":147565,"ðĿĽ¼":147566,"ðŁİı":147567,"ðŁİŀ":147568,"ðŁIJĻ":147569,"ðŁijĤ":147570,"ðŁĵģ":147571,"ðŁĸ±":147572,"ðŁļį":147573,"ðŁļ§":147574,"ðŁĽ¡":147575,"ð٤Ĵ":147576,"ðŁ¥ŀ":147577,"ðŁ¥©":147578,"ð٦Ģ":147579,"ð٦ĸ":147580,"Ë¢":147581,"Üļ":147582,"வ":147583,"áĢģ":147584,"áī°":147585,"âıŃ":147586,"âĻ¿":147587,"ê³ĺ":147588,"ëıĿ":147589,"ëķĥ":147590,"ìħĮ":147591,"ìĴ¸":147592,"ìĽŁ":147593,"íħĦ":147594,"íľ«":147595,"ï§ĺ":147596,"↓":147597,"ðŁı·":147598,"ðŁĶ§":147599,"ðŁ¥Ī":147600,"Æĸ":147601,"áŀĩ":147602,"áŀĸ":147603,"âģº":147604,"âĹľ":147605,"âŀ©":147606,"ê¦Ń":147607,"ëϤ":147608,"ïѼ":147609,"ðĿĻĸ":147610,"ðĿĻ£":147611,"ðĿϤ":147612,"ðŁĮĿ":147613,"ðŁĶij":147614,"ðŁĽł":147615,"àºĩ":147616,"âĺ£":147617,"ãĦ¨":147618,"ðĿĸĹ":147619,"Óĵ":147620,"âĨ£":147621,"ðŁ¥ī":147622,"ðŁĮł":147623,"ðŁĺ½":147624,"ãİł":147625,"ŧ":147626,"ðŁIJĴ":147627,"ï§IJ":147628,"ðŁĺ¿":147629,"âά":147630,"ðŁIJ®":147631,"⣱":147632,"ಡ":147633,"â¾¼":147634,"à°²":147635,"˶":147636,"âĸ¿":147637,"ÕĪ":147638,"áŀİ":147639,"áħ¥":147640,"áŀĹ":147641,"Õ§":147642,"ð٤IJ":147643,"ðŁįł":147644,"ত":147645,"ය":147646,"âĻį":147647,"ìĺĻ":147648,"íĺĵ":147649,"ﹺ":147650,"ðŁĽ³":147651,"Åī":147652,"á´İ":147653,"âıľ":147654,"âͳ":147655,"긷":147656,"ì¡Ķ":147657,"ðĿĴĪ":147658,"ðĿĴį":147659,"ðĿĴ¹":147660,"ðĿĵĩ":147661,"ðĿķŁ":147662,"ðĿĹ¹":147663,"ðŁĮħ":147664,"ðŁı´":147665,"ÄĶ":147666,"Ĥ":147667,"ŵ":147668,"Ǿ":147669,"Ïŀ":147670,"϶":147671,"Ô³":147672,"ÜĨ":147673,"ß©":147674,"à¡Ĵ":147675,"à¤ĺ":147676,"à¶ļ":147677,"à½ĸ":147678,"áģĬ":147679,"áĥŀ":147680,"áĦĤ":147681,"áĭ«":147682,"á´º":147683,"ḣ":147684,"Ḫ":147685,"á¹Ĥ":147686,"á¼·":147687,"á¿ĩ":147688,"âĩĮ":147689,"âı¬":147690,"âĻĮ":147691,"⮣":147692,"â´»":147693,"ⵣ":147694,"ê¦ķ":147695,"ꦪ":147696,"ꦮ":147697,"ê²Ħ":147698,"ê¾IJ":147699,"ëĥij":147700,"ëķĭ":147701,"롸":147702,"ë¬Ģ":147703,"ìĩ¤":147704,"ìĪ©":147705,"ìľķ":147706,"ìŃĺ":147707,"ì·°":147708,"ì·¸":147709,"íľĢ":147710,"藍":147711,"ï§į":147712,"ï±Ħ":147713,"ï³ij":147714,"ðĿIJ¤":147715,"ðĿĴĵ":147716,"ðĿĴ¶":147717,"ðĿĹ¼":147718,"ðĿĻĬ":147719,"ðŁĩ¾":147720,"ðŁĮĽ":147721,"ðŁĮ®":147722,"ðŁİĩ":147723,"ðŁİ²":147724,"ðŁıĽ":147725,"ðŁij¥":147726,"ðŁij´":147727,"ðŁĴĨ":147728,"ðŁĵĤ":147729,"ðŁĵ§":147730,"ðŁķIJ":147731,"ðŁĸķ":147732,"ðŁĺ§":147733,"ðŁĻĢ":147734,"ðŁļĴ":147735,"ðŁĽ«":147736,"ðŁ¤ł":147737,"ðŁ¥ļ":147738,"ðŁ¥Ľ":147739,"ðŁ¥£":147740,"ǯ":147741,"ȧ":147742,"ÎĬ":147743,"Ò²":147744,"×°":147745,"Ûij":147746,"áĥ©":147747,"áĦĮ":147748,"áĪį":147749,"áī¥":147750,"áıĤ":147751,"âģ±":147752,"âĬ¢":147753,"âĹĵ":147754,"âĿ°":147755,"ë¿¡":147756,"ìĽ©":147757,"íģŃ":147758,"íĨ³":147759,"íĬĦ":147760,"íĵ¸":147761,"北":147762,"若":147763,"ï±IJ":147764,"ﱯ":147765,"ï³ļ":147766,"ðĿĸĺ":147767,"ðĿĺĢ":147768,"ðŁIJĬ":147769,"ðŁIJĮ":147770,"ðŁijļ":147771,"ðŁĵĥ":147772,"ðŁļĽ":147773,"ðŁļª":147774,"ðŁ¤°":147775,"Ä´":147776,"áĥ®":147777,"áŨ":147778,"âĻ®":147779,"â²ŀ":147780,"ãĪĶ":147781,"ìħį":147782,"ãħĥ":147783,"率":147784,"ມ":147785,"Õİ":147786,"Õº":147787,"⬼":147788,"⽤":147789,"ðĿIJ²":147790,"âŀµ":147791,"áĢĽ":147792,"âĶħ":147793,"âĨŁ":147794,"â¼Ĭ":147795,"ðŁĮ½":147796,"ðŁļ¿":147797,"ï¦Ĭ":147798,"ãĦ£":147799,"⼩":147800,"ï©Ľ":147801,"ðŁį±":147802,"⾨":147803,"à´¤":147804,"áŀģ":147805,"àºŀ":147806,"Êļ":147807,"ðĿIJĴ":147808,"à´±":147809,"áŀľ":147810,"ன":147811,"à°Ĺ":147812,"à´ļ":147813,"âĩ£":147814,"ï¦ķ":147815,"Õħ":147816,"Æĺ":147817,"âĤ¦":147818,"âĶĦ":147819,"ï¦Ł":147820,"嶺":147821,"ðĿIJģ":147822,"ðĿIJĥ":147823,"ðŁį¸":147824,"ðŁIJ²":147825,"Ŷ":147826,"Éĸ":147827,"ßĺ":147828,"ฦ":147829,"à½Ķ":147830,"áĨ·":147831,"âģķ":147832,"âĵĤ":147833,"âĿľ":147834,"便":147835,"אַ":147836,"ðĿĹĿ":147837,"ðĿĹ¿":147838,"ðŁİ¾":147839,"ðŁĹĿ":147840,"ð٦Į":147841,"Æħ":147842,"Ǫ":147843,"ÒĹ":147844,"ÜĽ":147845,"ßł":147846,"à¡ij":147847,"áī£":147848,"áĬŃ":147849,"ṡ":147850,"âŀ¼":147851,"âŀ¾":147852,"â´±":147853,"ãī¡":147854,"곯":147855,"ë½Ī":147856,"ìĤĺ":147857,"ìīij":147858,"ì«ĺ":147859,"íĮĥ":147860,"íϰ":147861,"ï¤Ĺ":147862,"ðŁĮ¬":147863,"ðŁĮ°":147864,"ðŁį¤":147865,"Ä»":147866,"Åĩ":147867,"ƨ":147868,"Éķ":147869,"Ò¢":147870,"Òº":147871,"Öį":147872,"×±":147873,"Ú±":147874,"Ú½":147875,"ÛIJ":147876,"à¤Ľ":147877,"à·Ģ":147878,"à¹ļ":147879,"ຫ":147880,"á´¹":147881,"á½Ķ":147882,"á¾³":147883,"âĤĴ":147884,"âĨ´":147885,"âĩĿ":147886,"âīħ":147887,"âĮ¨":147888,"âĵĵ":147889,"âĸ¢":147890,"âļ¬":147891,"âŀŃ":147892,"â²Ĵ":147893,"ãİ¿":147894,"ê¿´":147895,"ëα":147896,"ëį¬":147897,"ëİIJ":147898,"ëIJ«":147899,"ëĶ«":147900,"ë±ģ":147901,"ìĥ¥":147902,"íĮ¼":147903,"ïŃĵ":147904,"ﮥ":147905,"ï²°":147906,"ðĿIJĩ":147907,"ðĿIJij":147908,"ðĿijĮ":147909,"ðĿĵª":147910,"ðĿķļ":147911,"ðĿĺª":147912,"ðĿĺ¼":147913,"ðĿļĽ":147914,"ðŁĩ¶":147915,"ðŁĮĦ":147916,"ðŁĮķ":147917,"ðŁĮ¤":147918,"ðŁĮ§":147919,"ðŁį¬":147920,"ðŁİĭ":147921,"ðŁİ»":147922,"ðŁı¨":147923,"ðŁIJĩ":147924,"ðŁijĵ":147925,"ðŁĵIJ":147926,"ðŁĵĻ":147927,"ðŁĶ¼":147928,"ðŁķĴ":147929,"ðŁĸı":147930,"ðŁĸ¥":147931,"ðŁ¤¬":147932,"ðŁ¥Ĭ":147933,"ðŁ¥Ĵ":147934,"ßĮ":147935,"àºĦ":147936,"á¼µ":147937,"âķ¡":147938,"Ⲥ":147939,"â´¼":147940,"âµ¢":147941,"ãΝ":147942,"ëĵ¸":147943,"ëŁĩ":147944,"ëºį":147945,"ðĿϧ":147946,"ðŁįĪ":147947,"ðŁĶ¬":147948,"ðŁĸĬ":147949,"ðŁ¤¾":147950,"Ë¡":147951,"Ü©":147952,"âĮ¡":147953,"âŃij":147954,"Ⲧ":147955,"ë©ī":147956,"ì¼Ń":147957,"¦":147958,"ðĿĴİ":147959,"ðĿĹ¥":147960,"ðŁIJµ":147961,"ðŁķ¶":147962,"ðŁķ¸":147963,"ðŁ¤ľ":147964,"Õª":147965,"áĪĭ":147966,"ðŁ¥µ":147967,"ï°ģ":147968,"áµIJ":147969,"âķĵ":147970,"áĢĸ":147971,"âĭĪ":147972,"Éŀ":147973,"âŀ®":147974,"॰":147975,"ãĨģ":147976,"ðŁĴ±":147977,"ðŁıŃ":147978,"áĨ¨":147979,"ðŁįļ":147980,"ð٦IJ":147981,"á´»":147982,"âĺĮ":147983,"à´ķ":147984,"Õ±":147985,"áħ®":147986,"ðĿIJĮ":147987,"Ŧ":147988,"àºķ":147989,"âľĻ":147990,"˳":147991,"Ôµ":147992,"âķĴ":147993,"ðĿĹĹ":147994,"ðĿĹł":147995,"Úļ":147996,"ধ":147997,"âĨĿ":147998,"âĻī":147999,"ãĮ»":148000,"ì¹Ĭ":148001,"ðĿĹº":148002,"ð٧ĺ":148003,"ì³£":148004,"ï¬Ŀ":148005,"ðŁijº":148006,"ÇŁ":148007,"ÎĪ":148008,"Ϋ":148009,"Ñ¥":148010,"Ô²":148011,"Õ¨":148012,"ܦ":148013,"à¦Ĩ":148014,"থ":148015,"áIJ¢":148016,"á¼ģ":148017,"á¼ĺ":148018,"ἦ":148019,"âĵĿ":148020,"ãΰ":148021,"ãİĹ":148022,"겡":148023,"ë¨Ģ":148024,"ì£Ķ":148025,"ì´¤":148026,"ìµĿ":148027,"ï§´":148028,"ïŃĬ":148029,"ï²Ł":148030,"ðĿIJ·":148031,"ðĿijĭ":148032,"ðĿĵī":148033,"ðĿĺµ":148034,"ðŁĴ·":148035,"ðŁĽ©":148036,"ðŁ§¹":148037,"ÅĶ":148038,"Êŀ":148039,"Ë¥":148040,"ÎĮ":148041,"Ñ©":148042,"ÓIJ":148043,"Ół":148044,"Úij":148045,"ÚĴ":148046,"ߨ":148047,"àªĪ":148048,"áIJĥ":148049,"ṯ":148050,"âĤĭ":148051,"âĤµ":148052,"âĦħ":148053,"âĦł":148054,"âĪ£":148055,"âīº":148056,"âī»":148057,"âĬĽ":148058,"âĮIJ":148059,"âİĵ":148060,"âĺ¸":148061,"âĻĴ":148062,"âļĴ":148063,"âľĩ":148064,"âľł":148065,"â´·":148066,"âµĸ":148067,"ãĦ¸":148068,"ãī¢":148069,"ãī°":148070,"êĩ´":148071,"ê´¸":148072,"êºł":148073,"ëĤı":148074,"ëĤ¢":148075,"ëIJĢ":148076,"뺴":148077,"ìĥľ":148078,"ìįħ":148079,"줫":148080,"챦":148081,"ìºij":148082,"ì¼ģ":148083,"쿳":148084,"íĤģ":148085,"íħ¡":148086,"íĴĤ":148087,"íĴī":148088,"íľĦ":148089,"ïŃª":148090,"ﮬ":148091,"ﯦ":148092,"ﱪ":148093,"ï²ı":148094,"ï´Ģ":148095,"ï»Ĩ":148096,"₩":148097,"ðĿijĹ":148098,"ðĿĸĻ":148099,"ðŁĮ¡":148100,"ðŁįĿ":148101,"ðŁį§":148102,"ðŁİ«":148103,"ðŁıĺ":148104,"ðŁıª":148105,"ðŁIJĭ":148106,"ðŁIJĽ":148107,"ðŁIJº":148108,"ðŁijĸ":148109,"ðŁijŀ":148110,"ðŁij·":148111,"ðŁĵĢ":148112,"ðŁĶĦ":148113,"ðŁĶĮ":148114,"ðŁķĻ":148115,"ðŁĻį":148116,"ðŁĻİ":148117,"ð٦į":148118,"ǰ":148119,"ÉŁ":148120,"ÊĨ":148121,"Ô¼":148122,"Úľ":148123,"ড":148124,"শ":148125,"áĴĥ":148126,"Ἡ":148127,"âĵķ":148128,"â²Ī":148129,"ê°°":148130,"ê¹ł":148131,"êºħ":148132,"ëĦ¹":148133,"ë¯ĵ":148134,"íIJĪ":148135,"ï§¶":148136,"ï®ij":148137,"ﲨ":148138,"ðĿĴī":148139,"ðĿĴĶ":148140,"ðĿŨ":148141,"ðĿĻŀ":148142,"ðĿļĴ":148143,"ðĿļķ":148144,"ðŁIJİ":148145,"ð٤ķ":148146,"ð٧Ķ":148147,"ϰ":148148,"ÔĿ":148149,"âĮĬ":148150,"âĴ¾":148151,"ãī£":148152,"ïŃ©":148153,"ðĿļŀ":148154,"Êij":148155,"দ":148156,"áĦĩ":148157,"âīĥ":148158,"â²Ģ":148159,"ìŁİ":148160,"ðĿij¶":148161,"ðĿĵ²":148162,"ðŁİ·":148163,"ðŁļ¹":148164,"àºģ":148165,"áłł":148166,"ãĦļ":148167,"ðŁIJ¿":148168,"áĽļ":148169,"âķ³":148170,"ðŁIJŃ":148171,"âĴ¹":148172,"ðĿĸļ":148173,"âĻĸ":148174,"ãβ":148175,"âĨ¾":148176,"áĦĨ":148177,"âķĽ":148178,"ð٤į":148179,"â½¥":148180,"ðŁĮ¨":148181,"âĪ®":148182,"ãĮĺ":148183,"ãįij":148184,"ï¹Ģ":148185,"âĵĹ":148186,"âĬĦ":148187,"ðŁı¹":148188,"ËĴ":148189,"ðŁ¤±":148190,"ãıľ":148191,"ðŁİĮ":148192,"ï¥Ń":148193,"ণ":148194,"ðŁİ¹":148195,"ãĬŁ":148196,"à´°":148197,"ðĿIJĶ":148198,"à´¨":148199,"à½ļ":148200,"âľº":148201,"Õ·":148202,"ðŁij³":148203,"à¦ľ":148204,"âĺĭ":148205,"âĻĬ":148206,"ãĢĽ":148207,"Èĭ":148208,"à®°":148209,"áĥ¨":148210,"âĦķ":148211,"íijĢ":148212,"ðĿĵĥ":148213,"ð٦Ķ":148214,"Ä¿":148215,"ÅĢ":148216,"Ƴ":148217,"Éļ":148218,"Öĥ":148219,"Ü£":148220,"ߣ":148221,"à¦Ń":148222,"à§¡":148223,"à¶»":148224,"ຣ":148225,"à½ĩ":148226,"Ḩ":148227,"á½Ī":148228,"⽬":148229,"ê¡Ķ":148230,"ì³Ħ":148231,"ï¨ī":148232,"ðĿIJ¡":148233,"ðĿĺ¢":148234,"ðŁį¿":148235,"ðŁİŁ":148236,"ðŁıī":148237,"ðŁĶIJ":148238,"ðŁļħ":148239,"ðŁ¤½":148240,"Æį":148241,"Ç«":148242,"ǽ":148243,"Èļ":148244,"Îī":148245,"Ó¤":148246,"Óª":148247,"ÕĬ":148248,"Ù¼":148249,"Ú´":148250,"ßĿ":148251,"à¶ľ":148252,"á¼ķ":148253,"á¿¥":148254,"âİŀ":148255,"ãĢļ":148256,"ãī¤":148257,"곸":148258,"ê·ģ":148259,"ëĵĦ":148260,"ëĵķ":148261,"ì¨Ķ":148262,"챨":148263,"ðĿIJ¾":148264,"ðĿij»":148265,"ðĿͼ":148266,"ðĿķĿ":148267,"ðĿĺŃ":148268,"ðŁĨĻ":148269,"ðŁĵ¤":148270,"ðŁĶŁ":148271,"ðŁĹ¼":148272,"Äľ":148273,"Æģ":148274,"Æ¿":148275,"dz":148276,"Ç·":148277,"Éĥ":148278,"Éł":148279,"Êī":148280,"ʧ":148281,"˲":148282,"Ï´":148283,"Õģ":148284,"Õŀ":148285,"Öĩ":148286,"ÛĤ":148287,"Ûĵ":148288,"ßĹ":148289,"ߦ":148290,"হ":148291,"ள":148292,"à´¸":148293,"à»Ĥ":148294,"áĪĿ":148295,"áĪª":148296,"áĭµ":148297,"áIJĬ":148298,"áĴª":148299,"áļĸ":148300,"áŀĽ":148301,"á´¢":148302,"áµı":148303,"áµŃ":148304,"á¶«":148305,"á¸ı":148306,"áºĴ":148307,"á¼¥":148308,"á½ķ":148309,"á½¼":148310,"âĤĬ":148311,"âĦĤ":148312,"âĦ©":148313,"âĩī":148314,"âī£":148315,"âĮł":148316,"âİŁ":148317,"âı®":148318,"âķĺ":148319,"âĹĸ":148320,"âĺ©":148321,"âĻij":148322,"âϲ":148323,"âļĽ":148324,"ãĦŁ":148325,"ãī±":148326,"ãİļ":148327,"ê¡ķ":148328,"êªĸ":148329,"ê°¹":148330,"ê²Ĩ":148331,"êµĦ":148332,"ëĩ¬":148333,"ëĭ¯":148334,"ëıł":148335,"ëĴ¬":148336,"ëĸĪ":148337,"ëĸ½":148338,"ëĺĶ":148339,"ëŀ¸":148340,"ë¸ħ":148341,"뻳":148342,"ë¿Ł":148343,"ìĤµ":148344,"ìĬī":148345,"ìľ°":148346,"ìłĭ":148347,"ìłĶ":148348,"쥡":148349,"ìŃĿ":148350,"켬":148351,"íĪĩ":148352,"íīľ":148353,"íįĦ":148354,"íĽ¾":148355,"íĿ£":148356,"朗":148357,"勞":148358,"ï¦ľ":148359,"獵":148360,"ï§ľ":148361,"ï¨Ī":148362,"שׁ":148363,"הּ":148364,"ïѽ":148365,"ï®ī":148366,"ï¯ŀ":148367,"ï°Ĵ":148368,"ï±ĩ":148369,"ï¿Ħ":148370,"ðĿIJħ":148371,"ðĿijĦ":148372,"ðĿijº":148373,"ðĿĴĹ":148374,"ðĿĵ®":148375,"ðĿķĽ":148376,"ðĿķŀ":148377,"ðĿĸij":148378,"ðĿĺģ":148379,"ðĿĺĨ":148380,"ðĿĺ¶":148381,"ðĿĻ¢":148382,"ðĿļľ":148383,"ðŁĮĥ":148384,"ðŁĮ¦":148385,"ðŁįŁ":148386,"ðŁİİ":148387,"ðŁıĻ":148388,"ðŁIJ©":148389,"ðŁIJ«":148390,"ðŁIJ´":148391,"ðŁijĶ":148392,"ðŁĵī":148393,"ðŁĵĽ":148394,"ðŁĶī":148395,"ðŁĸ¼":148396,"ðŁĹĥ":148397,"ðŁĹ¯":148398,"ðŁļĩ":148399,"ðŁļIJ":148400,"ðŁļµ":148401,"ðŁ¤¶":148402,"ðŁ¥ĭ":148403,"ðŁ¥ĵ":148404,"ðŁ¥®":148405,"ð٦İ":148406,"ðŁ¦ł":148407,"ð٧Ĵ":148408,"ðŁ§¨":148409,"ÆIJ":148410,"Çį":148411,"ÓĢ":148412,"ÔĽ":148413,"ರ":148414,"à´Ļ":148415,"áĢĴ":148416,"ê²Ŀ":148417,"ê¹¹":148418,"ë©¥":148419,"ìĸĶ":148420,"ï¤ģ":148421,"ï¤ı":148422,"ï¦ī":148423,"ï¦ĵ":148424,"ï§ī":148425,"ï²Ŀ":148426,"ðĿĹŀ":148427,"ðĿű":148428,"ðŁĮĭ":148429,"ðŁį¶":148430,"à¦ļ":148431,"ìķľ":148432,"ðĿIJ¯":148433,"ðĿļĿ":148434,"à°¨":148435,"à½ĺ":148436,"à½ł":148437,"á¡¥":148438,"á¾°":148439,"âģį":148440,"âͰ":148441,"⬾":148442,"ðĿIJł":148443,"ðĿij¯":148444,"ðĿĹĽ":148445,"ðĿĵ»":148446,"ðĿĸĪ":148447,"âŀ»":148448,"áŀł":148449,"⡱":148450,"â»ij":148451,"ðŁ§µ":148452,"廉":148453,"ðŁijĺ":148454,"ãĤĶ":148455,"â¼Ł":148456,"ãĬ¤":148457,"ï¦Ŀ":148458,"ãĮ¦":148459,"â̏":148460,"ðŁĶĻ":148461,"ã¹":148462,"㹦":148463,"ï¹ħ":148464,"ï©Į":148465,"ãī¨":148466,"︽":148467,"âį¥":148468,"ðŁļī":148469,"ðŁ¥ľ":148470,"âĵľ":148471,"â»Ŀ":148472,"ï¨ľ":148473,"ðŁĴĴ":148474,"áĦij":148475,"â¾ŀ":148476,"ï¨ģ":148477,"à´ª":148478,"áĦİ":148479,"âŀ´":148480,"ষ":148481,"áħ¬":148482,"áŀ§":148483,"âĨ¢":148484,"âķ¦":148485,"âľij":148486,"ˬ":148487,"ÕIJ":148488,"à¼Ķ":148489,"ʤ":148490,"˨":148491,"à¤ŀ":148492,"à»ĥ":148493,"à¼ļ":148494,"âĵ¥":148495,"âķľ":148496,"ðŁIJĸ":148497,"á¼Ļ":148498,"ἤ":148499,"ìĨ°":148500,"ÈĤ":148501,"ʱ":148502,"à®ļ":148503,"áĥ§":148504,"á´ĭ":148505,"á´®":148506,"âĿ¡":148507,"âŀ·":148508,"ëĿ¡":148509,"ï§¢":148510,"ﯡ":148511,"ðĿķķ":148512,"ðŁħ°":148513,"ðŁ¦¸":148514,"Ǹ":148515,"Óŀ":148516,"Ô¶":148517,"ÖĨ":148518,"Úģ":148519,"Ûĭ":148520,"áİ¥":148521,"᾿":148522,"âĶŃ":148523,"âĶ®":148524,"êĢĢ":148525,"ê±ĺ":148526,"ëIJŃ":148527,"ë½Ħ":148528,"ìĶIJ":148529,"ì¸Į":148530,"íģł":148531,"íϱ":148532,"ï¥ī":148533,"ï¨ĸ":148534,"ðĿij´":148535,"ðĿĸĴ":148536,"ðĿĺ¨":148537,"ðĿļĮ":148538,"ðŁIJ¡":148539,"ðŁij¢":148540,"ðŁĵĶ":148541,"Åħ":148542,"Æİ":148543,"È©":148544,"Òª":148545,"Ôĥ":148546,"áĥ«":148547,"á¸ĩ":148548,"⼣":148549,"ê»Ń":148550,"ë¨Ħ":148551,"ìŁĢ":148552,"줴":148553,"íļIJ":148554,"盧":148555,"ðŁŁ¢":148556,"Ƨ":148557,"ȼ":148558,"ÊĿ":148559,"ËĦ":148560,"Ëħ":148561,"Ëį":148562,"˧":148563,"Ò¥":148564,"ÕĶ":148565,"Øı":148566,"ؼ":148567,"ßIJ":148568,"ßľ":148569,"à¤ĵ":148570,"à¦Ļ":148571,"à®ĵ":148572,"à¶´":148573,"à¼į":148574,"à¼Ĵ":148575,"ལ":148576,"áĢĤ":148577,"áĢĬ":148578,"áĦĦ":148579,"áĪĺ":148580,"áĭĬ":148581,"áĮį":148582,"áijĭ":148583,"áŀĤ":148584,"áł¢":148585,"á¡Ŀ":148586,"á´¦":148587,"áµį":148588,"ᵨ":148589,"ḡ":148590,"ḯ":148591,"á¼£":148592,"âģĤ":148593,"âĦĺ":148594,"âĦľ":148595,"âĦ³":148596,"âĦµ":148597,"âĨ¦":148598,"âĩĨ":148599,"âĪ·":148600,"âĬļ":148601,"âĮ«":148602,"âĮ¯":148603,"âİĽ":148604,"âİľ":148605,"âݤ":148606,"âݦ":148607,"âİ®":148608,"âijī":148609,"âĶī":148610,"âķĻ":148611,"âĸĤ":148612,"âĹŃ":148613,"âĺĬ":148614,"âĺį":148615,"âĺĴ":148616,"âļĨ":148617,"⼧":148618,"âĽ²":148619,"âŀĺ":148620,"â¥Ħ":148621,"â´³":148622,"â´½":148623,"âµĪ":148624,"ãī¯":148625,"ãİij":148626,"㧬":148627,"êϬ":148628,"ê§ģ":148629,"곬":148630,"ê´ŀ":148631,"ê»ľ":148632,"ëħĵ":148633,"ëĭ¼":148634,"ëįĸ":148635,"ëĸ±":148636,"ëĿ°":148637,"롹":148638,"뢴":148639,"ë£Ģ":148640,"뤳":148641,"ë¨ķ":148642,"ëŃ¥":148643,"ìĦ¶":148644,"ìħ¤":148645,"ìĮķ":148646,"ìįª":148647,"ìı©":148648,"ìĴĢ":148649,"ì͝":148650,"ìĿĶ":148651,"ìĿľ":148652,"ìłŃ":148653,"짦":148654,"쨩":148655,"첬":148656,"ì³¥":148657,"켯":148658,"íĢ«":148659,"íĢŃ":148660,"íĥ¸":148661,"íĵģ":148662,"íķ¬":148663,"íŸ":148664,"íĽķ":148665,"íľŃ":148666,"íĿĹ":148667,"ï¤Į":148668,"浪":148669,"ï§¿":148670,"ï¬Ħ":148671,"ï¬ħ":148672,"ïŃij":148673,"ïŃ«":148674,"ïŃº":148675,"ï®Ĥ":148676,"ﮢ":148677,"ﮨ":148678,"ï°İ":148679,"ï°ł":148680,"ï²£":148681,"ï³IJ":148682,"ï³Ĵ":148683,"ï³ĺ":148684,"ï³ľ":148685,"ï¹¼":148686,"│":148687,"ðĿIJ©":148688,"ðĿĴļ":148689,"ðĿķĶ":148690,"ðĿķ¤":148691,"ðĿĸĮ":148692,"ðĿĹ£":148693,"ðĿŰ":148694,"ðĿĹ´":148695,"ðĿĺĤ":148696,"ðĿĺ¥":148697,"ðĿĺ®":148698,"ðĿĺ¸":148699,"ðĿĻĢ":148700,"ðĿĽ¾":148701,"ðĿľı":148702,"ðŁĮģ":148703,"ðŁĮľ":148704,"ðŁĮ¥":148705,"ðŁĮ¯":148706,"ðŁįIJ":148707,"ðŁİĴ":148708,"ðŁıĶ":148709,"ðŁıķ":148710,"ðŁı®":148711,"ðŁIJĤ":148712,"ðŁIJī":148713,"ðŁIJ¹":148714,"ðŁĶķ":148715,"ðŁĶļ":148716,"ðŁķij":148717,"ðŁķ£":148718,"ðŁĹŀ":148719,"ðŁĹ¡":148720,"ðŁĹ¿":148721,"ðŁļĨ":148722,"ðŁļĬ":148723,"ðŁļĵ":148724,"ðŁļķ":148725,"ðŁļ¾":148726,"ðŁĽģ":148727,"ðŁĽİ":148728,"ðŁĽı":148729,"ðŁ¤´":148730,"ðŁ¥ķ":148731,"ðŁ¥ĸ":148732,"ðŁ¥ł":148733,"ðŁ¥¥":148734,"ð٦Ĩ":148735,"ð٦ī":148736,"ð٦ļ":148737,"ð٧ij":148738,"ðŁ§¥":148739,"ðŁ§¿":148740,"Ű":148741,"ƺ":148742,"ɧ":148743,"àªĩ":148744,"ண":148745,"áĪĪ":148746,"áĬ¤":148747,"áĭ®":148748,"áĮĪ":148749,"áĮµ":148750,"ᥲ":148751,"âĵŁ":148752,"êϳ":148753,"ê°Ĭ":148754,"ëķģ":148755,"ëķ¨":148756,"ìĬģ":148757,"例":148758,"גּ":148759,"ðĿĸį":148760,"ðĿĺĮ":148761,"ðĿĺ³":148762,"ðĿĻ©":148763,"ðŁįĻ":148764,"ðŁĸĸ":148765,"áī³":148766,"áĭ¨":148767,"áĸĩ":148768,"áŀĮ":148769,"á¹§":148770,"âķª":148771,"âŀļ":148772,"â²ĺ":148773,"êķ":148774,"êķ¥":148775,"路":148776,"ﮣ":148777,"ï¯ł":148778,"ðĿĴĸ":148779,"ðĿķĺ":148780,"ðĿĸĩ":148781,"ðĿĹŁ":148782,"ðĿĹª":148783,"ðĿĹ¯":148784,"ðĿĻł":148785,"ðŁĵı":148786,"à¦Ĺ":148787,"âĴ»":148788,"â²ł":148789,"ðĿĵµ":148790,"Ê£":148791,"à°ľ":148792,"áĬ¢":148793,"áŀIJ":148794,"ḷ":148795,"âĦĽ":148796,"âĩĢ":148797,"âĩĬ":148798,"êĴ¦":148799,"ê¦ł":148800,"ﮤ":148801,"ðŁįĽ":148802,"ðŁ¤Ľ":148803,"ᨾ":148804,"âŀº":148805,"áķ¯":148806,"áĽı":148807,"âĩĤ":148808,"â͹":148809,"âĻĹ":148810,"ðŁĸ¨":148811,"ê¦ı":148812,"ર":148813,"áļ¨":148814,"ðŁ¤¥":148815,"ðŁ§¢":148816,"ãIJĤ":148817,"ãĦ¥":148818,"ðŁĸĮ":148819,"â¼Ĵ":148820,"ãĬ§":148821,"âį©":148822,"ð٦ij":148823,"âĶ·":148824,"ï©IJ":148825,"ï©¡":148826,"ðĵĪ":148827,"ðĵĪĴ":148828,"â»Ħ":148829,"ï¨Ĵ":148830,"âĦª":148831,"Ò§":148832,"ÚĮ":148833,"â̶":148834,"âºł":148835,"â»ģ":148836,"âĨ¸":148837,"áĦIJ":148838,"ãħIJ":148839,"à»Ħ":148840,"áĹª":148841,"âĨ¼":148842,"âĩĭ":148843,"âĩĺ":148844,"âĮij":148845,"âĸ©":148846,"ðĿIJĹ":148847,"ÄĬ":148848,"à¦ī":148849,"ìīł":148850,"ɤ":148851,"ßį":148852,"ßı":148853,"áµĹ":148854,"âĤ¥":148855,"âĵī":148856,"âĶł":148857,"â͍":148858,"âķĦ":148859,"ä¤":148860,"ä¤Ģ":148861,"껸":148862,"ï®ģ":148863,"ðĵĤ":148864,"ðĵĤĥ":148865,"ð٦ķ":148866,"ÆĽ":148867,"à¦ĩ":148868,"ãıĺ":148869,"﮼":148870,"Úĵ":148871,"ÚĿ":148872,"à¦ĵ":148873,"ද":148874,"á´ħ":148875,"á½Ļ":148876,"âģ¼":148877,"âĸİ":148878,"⼩":148879,"äĶ":148880,"äĶĢ":148881,"뻡":148882,"ìĽ½":148883,"íģĦ":148884,"良":148885,"ï±ī":148886,"ï¹»":148887,"ðĿĸĭ":148888,"ðĿĻĪ":148889,"ðĿĻª":148890,"ðĿ϶":148891,"ðŁIJĦ":148892,"ðŁIJĨ":148893,"áİ¢":148894,"á¸Į":148895,"âĿ´":148896,"ðŁı¸":148897,"ÈĿ":148898,"ɸ":148899,"Îħ":148900,"Ïľ":148901,"Ó¢":148902,"Õ¹":148903,"à´ħ":148904,"àºĪ":148905,"áĭ°":148906,"áijİ":148907,"áłµ":148908,"á¡ł":148909,"á´ī":148910,"ḵ":148911,"á¿´":148912,"âĵ£":148913,"âͶ":148914,"⽯":148915,"ê²¥":148916,"ê¿ĺ":148917,"ëģİ":148918,"ëİĪ":148919,"ë͝":148920,"ë²°":148921,"ìĺ¯":148922,"ìĽ¸":148923,"ìŀĹ":148924,"ì§ĺ":148925,"쬬":148926,"ì·¬":148927,"íģħ":148928,"íĵĶ":148929,"íĽĿ":148930,"冷":148931,"魯":148932,"沈":148933,"ï¯ĸ":148934,"ðĿĵħ":148935,"ðĿĻĦ":148936,"ðŁĵ¶":148937,"ðŁĹĴ":148938,"ðŁ¥Ķ":148939,"ðŁ¥Ń":148940,"Å®":148941,"Å´":148942,"Æī":148943,"Æ«":148944,"Çģ":148945,"Ç£":148946,"Ǻ":148947,"Ǽ":148948,"Èį":148949,"ȯ":148950,"Éľ":148951,"ʬ":148952,"Ëģ":148953,"ˤ":148954,"˵":148955,"ÏĽ":148956,"Ò¤":148957,"Ò¬":148958,"Óı":148959,"ÓĽ":148960,"Ó¡":148961,"Ó³":148962,"ÔĮ":148963,"Ô¬":148964,"Õ³":148965,"Ù»":148966,"Úī":148967,"Ú§":148968,"Üľ":148969,"ߪ":148970,"à¤Ŀ":148971,"à¦Ľ":148972,"à¨Ĩ":148973,"àªķ":148974,"ડ":148975,"à®İ":148976,"à°¬":148977,"ൻ":148978,"ർ":148979,"à¶ł":148980,"à¶Ń":148981,"à¶¶":148982,"à·Ĩ":148983,"༽":148984,"áĢļ":148985,"áħ¢":148986,"áĨ¸":148987,"áĪĢ":148988,"áĪķ":148989,"áΰ":148990,"áī¡":148991,"áī¤":148992,"áĬ¦":148993,"áĬ«":148994,"áĭĭ":148995,"áĭį":148996,"áݯ":148997,"áijŃ":148998,"áķĹ":148999,"᣼":149000,"á¥Ĵ":149001,"á©ī":149002,"áŃº":149003,"á´¡":149004,"áµĺ":149005,"ᵼ":149006,"á¶ł":149007,"á¸ģ":149008,"á¸ĭ":149009,"á¹Ļ":149010,"á¹Ŀ":149011,"Ṧ":149012,"áºħ":149013,"á¼Ĥ":149014,"á½ĥ":149015,"á½į":149016,"á½§":149017,"á¾·":149018,"â̵":149019,"âĤİ":149020,"âĦĿ":149021,"âħĢ":149022,"âĨŀ":149023,"âĨ§":149024,"âĩħ":149025,"âĪĥ":149026,"âīı":149027,"âī½":149028,"âĬŀ":149029,"âĬ¡":149030,"âĬ§":149031,"âĬ¶":149032,"âĭĦ":149033,"âİĴ":149034,"âİ¡":149035,"âİ£":149036,"âݪ":149037,"âıİ":149038,"âĵĥ":149039,"âĵĸ":149040,"âĵ¨":149041,"âķĭ":149042,"âķĸ":149043,"âķ¢":149044,"âķ²":149045,"âĸĨ":149046,"âĸĬ":149047,"âĸį":149048,"âĸ®":149049,"âĺ¡":149050,"âĺ¦":149051,"âĺ±":149052,"âĺ¿":149053,"âĻĺ":149054,"âĻĿ":149055,"âļ°":149056,"âĽij":149057,"âŀª":149058,"â¤Ŀ":149059,"⤢":149060,"⤷":149061,"â§«":149062,"â¨Ń":149063,"⨯":149064,"â±£":149065,"â²İ":149066,"⵼":149067,"ãħĶ":149068,"ãĪı":149069,"ãī²":149070,"ãī³":149071,"ãĬij":149072,"ãĭĽ":149073,"ãİIJ":149074,"겤":149075,"ê·¿":149076,"ê¹ŀ":149077,"껨":149078,"ê¼į":149079,"꿸":149080,"ëĥ¬":149081,"ëĩIJ":149082,"ëĭł":149083,"ëį¯":149084,"ëĹĮ":149085,"ëĹij":149086,"ë¥Ģ":149087,"ëªĥ":149088,"몯":149089,"뱡":149090,"ë³ĵ":149091,"ë³½":149092,"뵾":149093,"ìĤ³":149094,"ìħ¥":149095,"ìĩ½":149096,"ìı¨":149097,"ìı¸":149098,"ìķį":149099,"ìĸĸ":149100,"ìŁ¨":149101,"ì¢ĥ":149102,"ì¢į":149103,"ì¥ij":149104,"ì§¼":149105,"ì©ĥ":149106,"ì®ľ":149107,"쮸":149108,"ì³ij":149109,"ì´¥":149110,"ì¾ĥ":149111,"íħ¦":149112,"íĪ¿":149113,"íĵ½":149114,"íķ³":149115,"íĸı":149116,"íĹł":149117,"íĿ«":149118,"ï¤ĵ":149119,"ï¤ĺ":149120,"ï¥İ":149121,"略":149122,"ï¦ħ":149123,"尿":149124,"ï§ĩ":149125,"ï¬Ĩ":149126,"דּ":149127,"ï®ĩ":149128,"ï®Ī":149129,"ï®Ŀ":149130,"ﮩ":149131,"ï®±":149132,"ï¯ĺ":149133,"ï¯Ļ":149134,"ﯢ":149135,"ﯣ":149136,"ﯤ":149137,"ﯥ":149138,"ï±Ĥ":149139,"ï²Ĩ":149140,"ﲪ":149141,"ï´¼":149142,"ïºī":149143,"ïºĬ":149144,"ﺥ":149145,"ðĿij¨":149146,"ðĿij©":149147,"ðĿij²":149148,"ðĿĴĮ":149149,"ðĿĴª":149150,"ðĿĴ®":149151,"ðĿĵĤ":149152,"ðĿĵĪ":149153,"ðĿĵ¯":149154,"ðĿ͍":149155,"ðĿķĢ":149156,"ðĿķĨ":149157,"ðĿķ¦":149158,"ðĿķ§":149159,"ðĿķ«":149160,"ðĿķ·":149161,"ðĿŵ":149162,"ðĿŸ":149163,"ðĿĺĦ":149164,"ðĿĺĻ":149165,"ðĿĺł":149166,"ðĿĺ¬":149167,"ðĿĻį":149168,"ðĿĻij":149169,"ðĿĻ¡":149170,"ðĿύ":149171,"ðĿĻ·":149172,"ðĿļį":149173,"ðĿĽ¿":149174,"ðŁĥ":149175,"ðŁĥı":149176,"ðŁħĺ":149177,"ðŁī":149178,"ðŁīij":149179,"ðŁİ¡":149180,"ðŁİª":149181,"ðŁİ±":149182,"ðŁİ³":149183,"ðŁİº":149184,"ðŁıİ":149185,"ðŁıĹ":149186,"ðŁıļ":149187,"ðŁıŀ":149188,"ðŁı¦":149189,"ðŁı§":149190,"ðŁIJģ":149191,"ðŁIJħ":149192,"ðŁIJĵ":149193,"ðŁĴĤ":149194,"ðŁĵij":149195,"ðŁĵĵ":149196,"ðŁĵ¨":149197,"ðŁĵ«":149198,"ðŁĶĭ":149199,"ðŁĶŃ":149200,"ðŁĶ¯":149201,"ðŁķĹ":149202,"ðŁļĤ":149203,"ðŁļ¢":149204,"ðŁļ¦":149205,"ðŁļ¬":149206,"ðŁĽĭ":149207,"ðŁĽĮ":149208,"ðŁĽ¬":149209,"ðŁĽ¶":149210,"ðŁŁ¡":149211,"ðŁ¥ĺ":149212,"ðŁ¥Ł":149213,"ðŁ¥¦":149214,"ð٦ĩ":149215,"ð٦Ī":149216,"ð٧Ĭ":149217,"ð٧Ĺ":149218,"ðŁ§¤":149219,"Ê·":149220,"˹":149221,"á¹ļ":149222,"á½¥":149223,"âĦŁ":149224,"겯":149225,"껫":149226,"ë°·":149227,"ìĥĨ":149228,"ìĽĿ":149229,"ì¨ī":149230,"ì«ı":149231,"ï¯ķ":149232,"ðĿľĭ":149233,"ɲ":149234,"ÒŃ":149235,"ÓĪ":149236,"à½Ľ":149237,"áĭĵ":149238,"áĻŃ":149239,"áł©":149240,"á¹®":149241,"âĦĴ":149242,"âĨ»":149243,"âµĥ":149244,"ë̍":149245,"ëł§":149246,"ìī¥":149247,"ìĮľ":149248,"ìŶ":149249,"ì¨Ī":149250,"쪾":149251,"íı½":149252,"íļĶ":149253,"íĽµ":149254,"露":149255,"ï¦IJ":149256,"ï§Ĺ":149257,"ï§ļ":149258,"אָ":149259,"ðĿIJĬ":149260,"ðĿķĹ":149261,"ðĿĹļ":149262,"ðĿļĸ":149263,"ðŁħ´":149264,"Èĥ":149265,"ÉĿ":149266,"ϱ":149267,"ÓĹ":149268,"ढ":149269,"áħł":149270,"áī¦":149271,"áijĮ":149272,"áĴ¼":149273,"áŀ¡":149274,"᳨":149275,"áłŃ":149276,"á¨ħ":149277,"á¨Ķ":149278,"á´ĺ":149279,"ᶦ":149280,"á¸İ":149281,"á¼ħ":149282,"á¼¹":149283,"âĨ¯":149284,"âĵİ":149285,"ãıĮ":149286,"êī":149287,"êīĤ":149288,"ëĨ§":149289,"ëĿ±":149290,"좡":149291,"íν":149292,"ï¤ĩ":149293,"ï¤Ľ":149294,"ðĿIJķ":149295,"ðĿĵ¸":149296,"ðĿĵ¼":149297,"ðĿĹķ":149298,"ðĿĺĪ":149299,"ðŁı£":149300,"ðŁı¤":149301,"ðŁĹĦ":149302,"Ñ·":149303,"Òł":149304,"áµĸ":149305,"Ἠ":149306,"ë¬Ħ":149307,"ï°´":149308,"âν":149309,"ÕŃ":149310,"Ú¹":149311,"à¥Ł":149312,"áĢĨ":149313,"áŀĴ":149314,"ã̶":149315,"ꦫ":149316,"ï¸ĵ":149317,"ðĿIJĽ":149318,"ðĿĺĹ":149319,"ðŁıľ":149320,"ì«Ń":149321,"ð٧ŀ":149322,"à½Ĥ":149323,"âĨ¿":149324,"âĩı":149325,"âĵģ":149326,"âͧ":149327,"âķģ":149328,"âķ¤":149329,"ê¦Ĺ":149330,"ꦤ":149331,"ðŁıĪ":149332,"áŀķ":149333,"Ô½":149334,"àªĹ":149335,"à¬Ĩ":149336,"âķķ":149337,"ï½ł":149338,"⼦":149339,"⼯":149340,"â¾·":149341,"âĶĸ":149342,"à¬ĵ":149343,"âĺĹ":149344,"âįĭ":149345,"ï¨Ŀ":149346,"â¼¥":149347,"寧":149348,"âĦĬ":149349,"ãĢ´":149350,"âį¢":149351,"ð¡Ī":149352,"ð¡Ī½":149353,"難":149354,"ãĢ»":149355,"ãıĥ":149356,"說":149357,"ï¨ĺ":149358,"ðŁIJĥ":149359,"ðŁĨĸ":149360,"ðŁĹ¾":149361,"ãĦĩ":149362,"Þĭ":149363,"â¼¼":149364,"ï¨Ń":149365,"ÞĢ":149366,"ÞĦ":149367,"ÞĪ":149368,"ÞIJ":149369,"âĮĦ":149370,"â»ĺ":149371,"ãŁ¢":149372,"áħ§":149373,"ðIJĮ¿":149374,"Ë»":149375,"à²Ĺ":149376,"áĢĩ":149377,"áŀĬ":149378,"âķĩ":149379,"ãĩ¼":149380,"ãݰ":149381,"ÕĴ":149382,"ÜĪ":149383,"ߥ":149384,"à¿IJ":149385,"áĢŁ":149386,"âĨ¥":149387,"âķĮ":149388,"â½Ģ":149389,"â½°":149390,"â¾Ĭ":149391,"äĦ":149392,"äĦĢ":149393,"ðĵIJ":149394,"ðĵIJį":149395,"ðŁİ¦":149396,"âĤ¯":149397,"âĬĺ":149398,"âĦį":149399,"ʵ":149400,"Ѷ":149401,"Úĥ":149402,"à¦Ķ":149403,"à´¦":149404,"áݶ":149405,"áĵķ":149406,"Ṩ":149407,"âĤł":149408,"âĩ°":149409,"âĹĴ":149410,"â¿Ĭ":149411,"ê·±":149412,"ì¹ķ":149413,"íĪ©":149414,"ïŃĢ":149415,"ðĿĴ¸":149416,"ðĿĵĬ":149417,"ðĿĺ©":149418,"Ǧ":149419,"É«":149420,"áĬ¨":149421,"ȹ":149422,"ʯ":149423,"Ϊ":149424,"ÚĢ":149425,"áĮ¸":149426,"áİ»":149427,"áıķ":149428,"áı´":149429,"á²Ĥ":149430,"Ὠ":149431,"âıĿ":149432,"âĺĻ":149433,"ëĥ¨":149434,"ëĦ¼":149435,"ëĪĻ":149436,"ë£ħ":149437,"ìͼ":149438,"ìķĿ":149439,"ìļ¬":149440,"ìľ±":149441,"ï¥Ĥ":149442,"惡":149443,"יּ":149444,"ïŃģ":149445,"ï³Ī":149446,"ðĿĶħ":149447,"ðĿĺ¤":149448,"ðĿĻı":149449,"ðĿĻĻ":149450,"ðŁķī":149451,"ð٧Ļ":149452,"á¸ij":149453,"ê´¼":149454,"ëģį":149455,"ëĹ´":149456,"ëĿ³":149457,"ë°ŀ":149458,"ë°¢":149459,"ëµĺ":149460,"ìĤĶ":149461,"ìĦĦ":149462,"ì¼ļ":149463,"íĢł":149464,"íĬ±":149465,"íĮĸ":149466,"ï¤ij":149467,"領":149468,"隸":149469,"ï´į":149470,"ðĿĺ·":149471,"Ĭ":149472,"Ŭ":149473,"ÆĢ":149474,"Æĭ":149475,"Æľ":149476,"Çij":149477,"Çĺ":149478,"Çŀ":149479,"Ç¥":149480,"Ç®":149481,"ɰ":149482,"ɶ":149483,"É·":149484,"ɽ":149485,"ÊĪ":149486,"ÊIJ":149487,"Ëİ":149488,"ËŁ":149489,"˦":149490,"˯":149491,"ÏIJ":149492,"Ïĵ":149493,"Ï¢":149494,"Ϥ":149495,"Ϫ":149496,"ÏŃ":149497,"Ï®":149498,"Ï»":149499,"Ñł":149500,"ÑŃ":149501,"Ò¨":149502,"ÓĿ":149503,"Ô¡":149504,"Ô·":149505,"Õī":149506,"Õĵ":149507,"Õĸ":149508,"Õļ":149509,"ÕĿ":149510,"Öİ":149511,"Ø¿":149512,"Úħ":149513,"Úį":149514,"ÚĶ":149515,"ÛĬ":149516,"Û¾":149517,"ÜĻ":149518,"ÝĴ":149519,"Ýĺ":149520,"ßĴ":149521,"ßĸ":149522,"à¤Ĭ":149523,"à¤IJ":149524,"à¦ı":149525,"à¦ĸ":149526,"à§Ł":149527,"મ":149528,"હ":149529,"à®ħ":149530,"à®Ĩ":149531,"à°¡":149532,"à°°":149533,"à²ļ":149534,"ಮ":149535,"ಯ":149536,"à´Ł":149537,"à´·":149538,"ൾ":149539,"à¶ij":149540,"à¶ŀ":149541,"༼":149542,"à½ĵ":149543,"áĢĵ":149544,"áĤ¦":149545,"áĥĸ":149546,"áĥŃ":149547,"áĥ¯":149548,"áħ¨":149549,"áħª":149550,"áĨ°":149551,"áĪģ":149552,"áĪİ":149553,"áĪĵ":149554,"áĪ¥":149555,"áβ":149556,"áĪ´":149557,"áĪ»":149558,"áīł":149559,"áī²":149560,"áī¶":149561,"áĬ£":149562,"áĬ¥":149563,"áĬª":149564,"áĭĺ":149565,"áĭ²":149566,"áĭ¶":149567,"áĮ£":149568,"áį¡":149569,"áį£":149570,"áݬ":149571,"áݾ":149572,"áIJ¡":149573,"áķķ":149574,"áĸ±":149575,"áĹIJ":149576,"áĹŃ":149577,"áĺī":149578,"áļ±":149579,"ἣ":149580,"áŀ¥":149581,"áŁĶ":149582,"áł£":149583,"áłª":149584,"áł°":149585,"áł´":149586,"á¤ĸ":149587,"ᥣ":149588,"á®":149589,"᮳":149590,"á¯":149591,"á¯Ļ":149592,"á°":149593,"á°į":149594,"á´Ĭ":149595,"á´¾":149596,"áµģ":149597,"áµİ":149598,"áµŀ":149599,"ᵤ":149600,"á¶ħ":149601,"á¶ĺ":149602,"á¶Ł":149603,"á¶¢":149604,"ᶤ":149605,"á¶±":149606,"á¶»":149607,"á¸ī":149608,"á¸ŀ":149609,"Ḻ":149610,"á¹ĵ":149611,"á¹Ĺ":149612,"Ṫ":149613,"áºĬ":149614,"áºı":149615,"áºĽ":149616,"á¼ĥ":149617,"á¼Į":149618,"Ἷ":149619,"á½Ĥ":149620,"á½ĵ":149621,"á½Ĺ":149622,"ὦ":149623,"á¾±":149624,"á¾´":149625,"á¿ĺ":149626,"á¿Ł":149627,"Ὸ":149628,"âģĺ":149629,"âĤij":149630,"âĤĽ":149631,"âĤ¿":149632,"âĦĩ":149633,"âĦŀ":149634,"âĦ±":149635,"âĩŁ":149636,"âĩ²":149637,"âΤ":149638,"âζ":149639,"âīĤ":149640,"âī¾":149641,"âĬ¨":149642,"âĬ³":149643,"âĬ·":149644,"âĭĮ":149645,"âĭĺ":149646,"âĮķ":149647,"âĮ¥":149648,"âĮµ":149649,"âĮº":149650,"âį£":149651,"âį²":149652,"âįµ":149653,"âİĩ":149654,"âıĥ":149655,"âıIJ":149656,"âıł":149657,"âı¤":149658,"âı¶":149659,"âı¸":149660,"âı¹":149661,"âijĤ":149662,"âĴ·":149663,"âĴº":149664,"âĵ¡":149665,"âĵ¤":149666,"â;":149667,"âĸĺ":149668,"âĸµ":149669,"âĹª":149670,"âĹ·":149671,"âĺ¨":149672,"âĺ«":149673,"âĺ²":149674,"âĺ³":149675,"âĻĨ":149676,"âļ¤":149677,"âļ¥":149678,"âĽĵ":149679,"⼴":149680,"âĽ¾":149681,"âŀ«":149682,"âŀ¿":149683,"⣷":149684,"â¤ij":149685,"⤫":149686,"⤶":149687,"⤽":149688,"⧪":149689,"â¨Ģ":149690,"⩽":149691,"⬡":149692,"⬢":149693,"⬤":149694,"â²ĸ":149695,"Ⲫ":149696,"âµĢ":149697,"⸮":149698,"⸽":149699,"ãĢł":149700,"ãĢ·":149701,"ãĦĮ":149702,"ãĦĺ":149703,"ãħij":149704,"ãĪİ":149705,"ãĪIJ":149706,"ãĬľ":149707,"ãĮĵ":149708,"ãĮł":149709,"ãİŁ":149710,"ãݤ":149711,"ãݧ":149712,"㬮":149713,"äĪ":149714,"äĪĢ":149715,"ä°":149716,"ä°Ģ":149717,"êħ":149718,"êħī":149719,"êĩĹ":149720,"êĪ":149721,"êĪį":149722,"ê§Ĥ":149723,"ê§Ĭ":149724,"êªĢ":149725,"ê²Ī":149726,"ê²į":149727,"ê³Ģ":149728,"êµł":149729,"ê½IJ":149730,"ê¾Ī":149731,"꿱":149732,"ëĥı":149733,"ëĦij":149734,"ëħ¤":149735,"ëĩ¸":149736,"ëμ":149737,"ëīħ":149738,"ëĬ£":149739,"ëĭº":149740,"ëįŀ":149741,"ëIJĮ":149742,"ëķ¸":149743,"ëĺł":149744,"ëĻĩ":149745,"ëĻĪ":149746,"ëľ½":149747,"ëŀĶ":149748,"ëłľ":149749,"ë£IJ":149750,"ë§Ģ":149751,"ë§Ĭ":149752,"ëªĢ":149753,"ë¬Ń":149754,"믾":149755,"ë³ľ":149756,"ë´Ĭ":149757,"ëµī":149758,"ë·ľ":149759,"ë¸Ģ":149760,"ë¹ĭ":149761,"ìģĦ":149762,"ìĤ£":149763,"ìĤ»":149764,"ìĦµ":149765,"ìħĴ":149766,"ìīĪ":149767,"ìīĶ":149768,"ìĬĮ":149769,"ìĬĻ":149770,"ìIJ´":149771,"ìĵº":149772,"ìķļ":149773,"ìķº":149774,"ìĸľ":149775,"ìĹª":149776,"ìĺľ":149777,"ìϤ":149778,"ìļĽ":149779,"ìļº":149780,"ìĿħ":149781,"ìĿı":149782,"ìĿŃ":149783,"ìĿ¶":149784,"ìłĽ":149785,"ì¡Ī":149786,"ì¢ī":149787,"ì¢Ķ":149788,"ì©ł":149789,"ìŃĮ":149790,"쯩":149791,"ì´£":149792,"ì¸ķ":149793,"ì¹Ł":149794,"쾡":149795,"ì¿Ļ":149796,"íģĩ":149797,"íģī":149798,"íĩĢ":149799,"íζ":149800,"íĸij":149801,"íĸ¤":149802,"íĹħ":149803,"íľı":149804,"íĿĿ":149805,"ï¤Ĵ":149806,"ï¤ķ":149807,"郎":149808,"ï¥ħ":149809,"ï¥ĩ":149810,"ï¥ı":149811,"ï¥ļ":149812,"ï¥Ł":149813,"ï¦Ħ":149814,"ï¦Ī":149815,"令":149816,"囹":149817,"零":149818,"ï§ģ":149819,"ï§ĥ":149820,"ï§Ķ":149821,"ï§ł":149822,"ï§£":149823,"ï§®":149824,"ïŃIJ":149825,"ïŃĸ":149826,"ïѦ":149827,"ïŃ´":149828,"ïѵ":149829,"ïѶ":149830,"ïѸ":149831,"ï®Į":149832,"ï®İ":149833,"ï®ŀ":149834,"ï®Ł":149835,"ﮡ":149836,"ﮪ":149837,"ï¯Ķ":149838,"ï¯Ĺ":149839,"ï¯ļ":149840,"ï¯Ľ":149841,"ï¯Ŀ":149842,"ï¯Ł":149843,"ﯧ":149844,"ﯨ":149845,"ﯫ":149846,"ﯯ":149847,"ﯰ":149848,"ﯱ":149849,"ﯲ":149850,"ﯳ":149851,"ﯴ":149852,"ﯵ":149853,"ﯶ":149854,"ï°Ģ":149855,"ï±ħ":149856,"ï±Ķ":149857,"ï±´":149858,"ï²ģ":149859,"ï³ķ":149860,"ï·½":149861,"ï¸ķ":149862,"︱":149863,"ï¹£":149864,"ï¹½":149865,"ï»į":149866,"ï¾±":149867,"ðĿIJĻ":149868,"ðĿIJ½":149869,"ðĿij¤":149870,"ðĿij®":149871,"ðĿijµ":149872,"ðĿĴĥ":149873,"ðĿĴĦ":149874,"ðĿĵŃ":149875,"ðĿĵ·":149876,"ðĿĶĸ":149877,"ðĿĶŀ":149878,"ðĿĶ¢":149879,"ðĿͦ":149880,"ðĿͬ":149881,"ðĿķĦ":149882,"ðĿķĬ":149883,"ðĿķİ":149884,"ðĿķĻ":149885,"ðĿķľ":149886,"ðĿķŃ":149887,"ðĿķ³":149888,"ðĿķ¸":149889,"ðĿķ¾":149890,"ðĿĸī":149891,"ðĿĸı":149892,"ðĿĺĩ":149893,"ðĿĺī":149894,"ðĿĺĸ":149895,"ðĿĺĽ":149896,"ðĿĺŀ":149897,"ðĿĺ«":149898,"ðĿĺ¾":149899,"ðĿĻĩ":149900,"ðĿĻī":149901,"ðĿĻĭ":149902,"ðĿĻİ":149903,"ðĿĻĺ":149904,"ðĿĻ¥":149905,"ðĿļĥ":149906,"ðĿļIJ":149907,"ðĿļĶ":149908,"ðĿľĥ":149909,"ðŁĦ·":149910,"ðŁħĿ":149911,"ðŁħ¾":149912,"ðŁĨĤ":149913,"ðŁĨĵ":149914,"ðŁĮĤ":149915,"ðŁĮĨ":149916,"ðŁĮī":149917,"ðŁĮij":149918,"ðŁĮĺ":149919,"ðŁĮ©":149920,"ðŁĮ«":149921,"ðŁį¢":149922,"ðŁį¥":149923,"ðŁİĽ":149924,"ðŁİ¢":149925,"ðŁİ´":149926,"ðŁij¡":149927,"ðŁĴ¾":149928,"ðŁĵŃ":149929,"ðŁĶĪ":149930,"ðŁĶ¦":149931,"ðŁĶ²":149932,"ðŁĶ³":149933,"ðŁķĵ":149934,"ðŁķķ":149935,"ðŁķĺ":149936,"ðŁķŁ":149937,"ðŁķ·":149938,"ðŁĹ³":149939,"ðŁļĦ":149940,"ðŁļĶ":149941,"ðŁļĸ":149942,"ðŁĽIJ":149943,"ðŁĽ¤":149944,"ðŁĽ¸":149945,"ðŁł":149946,"ðŁł³":149947,"ðŁ¤¹":149948,"ðŁ¥ĥ":149949,"ðŁ¥¨":149950,"ðŁ¥ª":149951,"ðŁ¥¾":149952,"ð٦ĥ":149953,"ð٦Ĵ":149954,"ð٦Ļ":149955,"ðŁ¦¶":149956,"ðŁ§ł":149957,"ðŁ§ª":149958,"ð٧Ń":149959,"ðŁ§²":149960,"ð£·":149961,"ð£·Ń":149962,"ð¦ĺ":149963,"ð¦ĺĴ":149964,"Æij":149965,"ÇĻ":149966,"È®":149967,"Øł":149968,"ÚĦ":149969,"ÜĢ":149970,"ߢ":149971,"áīĢ":149972,"áĬIJ":149973,"áİł":149974,"áºŀ":149975,"ëĪŀ":149976,"ëķŁ":149977,"ë£ģ":149978,"ë¤Ĺ":149979,"ìĦ¥":149980,"ìħij":149981,"ìĸIJ":149982,"ìĽĽ":149983,"ì£ķ":149984,"íİı":149985,"íĽĵ":149986,"梁":149987,"ï³Ľ":149988,"ï´«":149989,"ðĸ§":149990,"ðĸ§·":149991,"ðĿķģ":149992,"ðŁIJª":149993,"ðŁĴĪ":149994,"ðŁĵł":149995,"ðŁķĽ":149996,"ðŁķ´":149997,"ÑĿ":149998,"ÓĬ":149999,"ॲ":150000,"પ":150001,"áĥ¤":150002,"áįIJ":150003,"á¶°":150004,"á¼Ŀ":150005,"Ὡ":150006,"âĭĭ":150007,"âĴ½":150008,"âϾ":150009,"â½Ķ":150010,"⾯":150011,"ãĦĴ":150012,"ãħļ":150013,"ëIJį":150014,"ë·ģ":150015,"ìĭĢ":150016,"ìļĿ":150017,"쥰":150018,"캴":150019,"íĭī":150020,"íĿ½":150021,"ï¦Ģ":150022,"樂":150023,"ï§ħ":150024,"ï§ĵ":150025,"ïѝ":150026,"ï®Ĩ":150027,"ðIJ¤ķ":150028,"ðĿIJŁ":150029,"ðĿĴħ":150030,"ðĿĵľ":150031,"ðĿͰ":150032,"ðĿĶ»":150033,"ðĿĺį":150034,"ðĿϝ":150035,"ðŁĦ½":150036,"ðŁħĤ":150037,"ðŁħĶ":150038,"ðŁħ½":150039,"ðŁĵ´":150040,"ð٧ĸ":150041,"ÓĴ":150042,"Ḳ":150043,"ëī¼":150044,"Çı":150045,"Èĵ":150046,"ʸ":150047,"ÕĤ":150048,"Ûħ":150049,"ß¡":150050,"ߣ":150051,"ய":150052,"à°Ī":150053,"ಸ":150054,"ຮ":150055,"à¼ķ":150056,"áĢİ":150057,"áĨ¡":150058,"áIJĭ":150059,"áIJķ":150060,"áij¯":150061,"áŀĨ":150062,"á¨ķ":150063,"á©Ī":150064,"âģħ":150065,"âĨļ":150066,"âĶİ":150067,"âł©":150068,"â²Ĥ":150069,"â²Ķ":150070,"Ⲩ":150071,"ãĬļ":150072,"íĵ²":150073,"ðĿijĪ":150074,"ðĿij¬":150075,"ðĿij¹":150076,"ðĿĴ¾":150077,"ðĿĵ±":150078,"ðĿĵ½":150079,"ðĿķ¯":150080,"ðĿķ»":150081,"ðĿĺ½":150082,"ðĿļĨ":150083,"ðŁĦ°":150084,"ðŁIJ¨":150085,"Òķ":150086,"à²ħ":150087,"ï¨Ĩ":150088,"ðĿij°":150089,"ðŁĦ¸":150090,"Ôİ":150091,"Øį":150092,"Ùµ":150093,"ಶ":150094,"áĢĪ":150095,"áĺĹ":150096,"᳸":150097,"á¡¡":150098,"ᨲ":150099,"á©ģ":150100,"á´·":150101,"áµ§":150102,"âķ¨":150103,"âļģ":150104,"â¾Ŀ":150105,"ã̼":150106,"ãĦı":150107,"êĴ«":150108,"ꦥ":150109,"ꦩ":150110,"ꦲ":150111,"ìĺ¼":150112,"íĵIJ":150113,"ðĵĩ":150114,"ðĵĩ¼":150115,"ðĿķ¿":150116,"ðŁĽ´":150117,"먾":150118,"ವ":150119,"à´İ":150120,"à¼Ģ":150121,"âĩĸ":150122,"ãĪ«":150123,"âĵĢ":150124,"áħ´":150125,"áļ¾":150126,"áĽŀ":150127,"Ἣ":150128,"ᥴ":150129,"âĨĽ":150130,"âĨ¶":150131,"âĩ¤":150132,"âķŁ":150133,"âĺ·":150134,"âļIJ":150135,"ðŁ§´":150136,"á¹³":150137,"âĶį":150138,"âĶĴ":150139,"âĶ©":150140,"âͦ":150141,"â¾µ":150142,"àªľ":150143,"ત":150144,"âĩĻ":150145,"âͱ":150146,"âķĢ":150147,"â½Ĭ":150148,"ï½Ł":150149,"ଡ":150150,"ðł®":150151,"ðł®·":150152,"âķĥ":150153,"â°Ķ":150154,"ãĬ¦":150155,"ðŁİIJ":150156,"ãĩ°":150157,"â¼Ŀ":150158,"â¾Ķ":150159,"â½Ĵ":150160,"âłĴ":150161,"都":150162,"ï©Ĵ":150163,"免":150164,"ï©ĸ":150165,"ðĵı¸":150166,"ãĮĥ":150167,"ðĸ¤":150168,"ðĸ¤IJ":150169,"ï¦Ń":150170,"âĬħ":150171,"â¾³":150172,"ä´¥":150173,"ï©ķ":150174,"ðŁĮĶ":150175,"áŀĭ":150176,"âļį":150177,"â¼ĭ":150178,"ãİĺ":150179,"ðIJĮ²":150180,"É©":150181,"áİij":150182,"âĨ®":150183,"âĩĥ":150184,"âļİ":150185,"ãĩ±":150186,"ãĭ©":150187,"ãĮ¶":150188,"êĻª":150189,"ëݬ":150190,"ï¨IJ":150191,"ï¨Ľ":150192,"ï©Ĭ":150193,"ï©į":150194,"ðĵħ":150195,"ðĵħº":150196,"Ï¡":150197,"Èij":150198,"ÉĤ":150199,"Ôĵ":150200,"ßİ":150201,"à´§":150202,"áĢī":150203,"áĢĭ":150204,"áĢij":150205,"áĢł":150206,"áļĻ":150207,"á¨Ħ":150208,"ᨩ":150209,"ᨹ":150210,"á©ĵ":150211,"ᬾ":150212,"á´Ļ":150213,"áµij":150214,"âĤŃ":150215,"âĨ°":150216,"âľģ":150217,"â½IJ":150218,"ãĭ¯":150219,"ãĮ½":150220,"íĨ¢":150221,"錄":150222,"ðŁĤ":150223,"ðŁĤ»":150224,"ÈĴ":150225,"ͺ":150226,"Ô¥":150227,"Õij":150228,"Ú¶":150229,"à§İ":150230,"à¶®":150231,"àºĸ":150232,"àºľ":150233,"ຽ":150234,"áĥ»":150235,"áħ¯":150236,"áĭŀ":150237,"áĸķ":150238,"á´Ī":150239,"á¶Ĩ":150240,"Ḿ":150241,"á¹¼":150242,"Ῠ":150243,"âĦĭ":150244,"âĦŃ":150245,"âα":150246,"âĮĵ":150247,"âĶĩ":150248,"âĶ¢":150249,"â±®":150250,"â²Ħ":150251,"ãĩ¾":150252,"ãά":150253,"븡":150254,"ìIJī":150255,"íĻĽ":150256,"ðĿķª":150257,"ƹ":150258,"Ͳ":150259,"Óģ":150260,"Û¼":150261,"ফ":150262,"áħŁ":150263,"áīĨ":150264,"áįĪ":150265,"áºĸ":150266,"á½ī":150267,"â͏":150268,"⽩":150269,"êľ":150270,"êľ¥":150271,"êµħ":150272,"ëĤĶ":150273,"ëĦł":150274,"ëĩĹ":150275,"ëĻĿ":150276,"ìļ¯":150277,"ìļ·":150278,"ìŁĽ":150279,"ì·IJ":150280,"íŁ¬":150281,"íŁ®":150282,"íŁ°":150283,"ï¦Ĩ":150284,"鈴":150285,"ï²ŀ":150286,"ﳤ":150287,"ï³¥":150288,"ðIJĮ¸":150289,"ðĿĶı":150290,"ðĿķ®":150291,"ðĿĺ£":150292,"à¦Ī":150293,"âıı":150294,"ãĦĸ":150295,"ê²ĩ":150296,"ëĸĺ":150297,"ëľ·":150298,"ëŀĴ":150299,"ë¡ĵ":150300,"ë¢ī":150301,"ë£ĥ":150302,"ë§ĭ":150303,"ë²ĭ":150304,"ìĤ·":150305,"ìĪķ":150306,"ìĮ¨":150307,"ìĵ»":150308,"ìĸĬ":150309,"ìϬ":150310,"ìĿ»":150311,"ì¦ģ":150312,"쵤":150313,"ì·ĥ":150314,"íĢľ":150315,"íħī":150316,"íįł":150317,"íıħ":150318,"íij±":150319,"íķķ":150320,"íĸł":150321,"íĿķ":150322,"ÆĻ":150323,"Æļ":150324,"Æŀ":150325,"Çĥ":150326,"ÇĬ":150327,"Çľ":150328,"Ǥ":150329,"ÇŃ":150330,"ǹ":150331,"ÈĢ":150332,"Èģ":150333,"Èħ":150334,"Èī":150335,"ÈĹ":150336,"ÈŁ":150337,"Ȥ":150338,"È¥":150339,"Ȩ":150340,"ȵ":150341,"Ⱥ":150342,"È»":150343,"ÉĮ":150344,"É®":150345,"Êħ":150346,"Ê¥":150347,"ʨ":150348,"Ëĵ":150349,"ËĶ":150350,"Ëł":150351,"Ë£":150352,"˸":150353,"Í´":150354,"ÏĹ":150355,"Ïĺ":150356,"ÏĻ":150357,"Ïļ":150358,"ÏĿ":150359,"Ϩ":150360,"Ϭ":150361,"Ͼ":150362,"Ï¿":150363,"Ѫ":150364,"ÒĢ":150365,"Òľ":150366,"Ò¼":150367,"Ò½":150368,"ÓĤ":150369,"Óħ":150370,"Óĩ":150371,"Óį":150372,"Óĸ":150373,"ÓŁ":150374,"Ó«":150375,"Ó±":150376,"ÔĨ":150377,"Ôĩ":150378,"Ôº":150379,"Õĭ":150380,"Öī":150381,"ØĪ":150382,"ØĬ":150383,"ؽ":150384,"ؾ":150385,"Ù·":150386,"ÚĤ":150387,"ÚĬ":150388,"Úĸ":150389,"ÚĹ":150390,"Ú£":150391,"Ú«":150392,"Ú¸":150393,"ÛĢ":150394,"Ûį":150395,"Û½":150396,"Üī":150397,"ܤ":150398,"ݧ":150399,"Ý´":150400,"Þĥ":150401,"Þ¤":150402,"Þ¥":150403,"ßļ":150404,"߼":150405,"ߤ":150406,"àłį":150407,"àłĵ":150408,"àł³":150409,"à¡¢":150410,"à¥ł":150411,"à§ł":150412,"৺":150413,"à¨Ĭ":150414,"à¨IJ":150415,"ਮ":150416,"ਯ":150417,"ਰ":150418,"ਸ":150419,"àªĨ":150420,"ળ":150421,"વ":150422,"ઽ":150423,"à¬Į":150424,"à¬ĺ":150425,"ଽ":150426,"à®ĥ":150427,"ஸ":150428,"à°Ĩ":150429,"à°ķ":150430,"à°¦":150431,"à²Ĩ":150432,"à²Ĭ":150433,"à²Į":150434,"à²IJ":150435,"à²Ľ":150436,"ತ":150437,"ದ":150438,"ಪ":150439,"ಲ":150440,"ಹ":150441,"à´Ĩ":150442,"à´ı":150443,"à´Ĺ":150444,"à´«":150445,"à´¹":150446,"ൺ":150447,"ൽ":150448,"à¶ħ":150449,"à¶Ĭ":150450,"à¶Ķ":150451,"à¶§":150452,"à¶«":150453,"à¶°":150454,"à¼Ħ":150455,"à¼ħ":150456,"à¼Ĭ":150457,"à½Ļ":150458,"ཡ":150459,"ཧ":150460,"à¿Ģ":150461,"à¿Ļ":150462,"áĢĿ":150463,"á̧":150464,"áĢ©":150465,"áĢ¿":150466,"áģµ":150467,"áĤģ":150468,"áĤ½":150469,"áĥĤ":150470,"áĥª":150471,"áĦĬ":150472,"áĦ¢":150473,"áħ¦":150474,"áħŃ":150475,"áĨ®":150476,"áĨ±":150477,"áĨ»":150478,"áĩ":150479,"áĩĤ":150480,"áĪħ":150481,"áĪī":150482,"áĪĮ":150483,"áĪIJ":150484,"áĪĴ":150485,"áĪĻ":150486,"áĪļ":150487,"áĪľ":150488,"áĪŀ":150489,"áĪ©":150490,"áγ":150491,"áĪº":150492,"áν":150493,"áīħ":150494,"áī¢":150495,"áī±":150496,"áī´":150497,"áĬĥ":150498,"áĬį":150499,"áĬĸ":150500,"áĬ®":150501,"áĬ¸":150502,"áĭĽ":150503,"áĭĿ":150504,"áĭ³":150505,"áĮģ":150506,"áĮħ":150507,"áĮ¥":150508,"áĮ¦":150509,"áĮ¨":150510,"áįĬ":150511,"áįį":150512,"áįķ":150513,"áįĸ":150514,"áį¢":150515,"áį¤":150516,"áİĴ":150517,"áݪ":150518,"áıģ":150519,"áıIJ":150520,"áıŁ":150521,"áIJĤ":150522,"áIJĸ":150523,"áIJĿ":150524,"áIJŀ":150525,"áIJŁ":150526,"áIJł":150527,"áijĸ":150528,"áĴĭ":150529,"áĴį":150530,"áĴ¡":150531,"áĵ«":150532,"áĶķ":150533,"áķĭ":150534,"áķij":150535,"áķĻ":150536,"áķļ":150537,"áķĽ":150538,"áķ¤":150539,"áķ¦":150540,"áķ®":150541,"áķ¼":150542,"áĸĵ":150543,"áĹĹ":150544,"áĹ¢":150545,"áĹ¯":150546,"áĹ·":150547,"áĺĦ":150548,"áĺij":150549,"áĽĤ":150550,"áĽĻ":150551,"áŀį":150552,"áłĨ":150553,"áł¡":150554,"᳦":150555,"áł®":150556,"áł¯":150557,"áł²":150558,"áł·":150559,"á¡į":150560,"á¡ŀ":150561,"ᡤ":150562,"á¡´":150563,"ᡵ":150564,"á¤ĵ":150565,"á¥ĸ":150566,"ᥰ":150567,"ᨦ":150568,"ᨧ":150569,"ᨨ":150570,"ᨪ":150571,"ᨬ":150572,"ᨯ":150573,"ᨳ":150574,"ᨵ":150575,"á©ĥ":150576,"á¬ķ":150577,"áŃ£":150578,"á±":150579,"á±ļ":150580,"á²ł":150581,"á´ĵ":150582,"á´¶":150583,"áµĤ":150584,"áµĮ":150585,"áµ¥":150586,"áµ´":150587,"á¶ĩ":150588,"á¸Ī":150589,"ḳ":150590,"ḧ":150591,"Ḵ":150592,"Ḿ":150593,"á¹Ģ":150594,"á¹ĸ":150595,"á¹Ł":150596,"á¹ł":150597,"ṫ":150598,"á¹±":150599,"á¹·":150600,"ṿ":150601,"áºĦ":150602,"áºį":150603,"áºij":150604,"áºĹ":150605,"á¼ī":150606,"á¼ĵ":150607,"á¼Ń":150608,"á½ĭ":150609,"á½Ĵ":150610,"á½ł":150611,"á½£":150612,"á¾Ħ":150613,"á¾ı":150614,"á¾ij":150615,"á¾Ĺ":150616,"ᾦ":150617,"á¾§":150618,"á¾¾":150619,"á¿Ħ":150620,"á¿ĵ":150621,"á¿¡":150622,"Ῥ":150623,"âģļ":150624,"âĤĮ":150625,"âĦģ":150626,"âĦĶ":150627,"âĦ£":150628,"âĦ§":150629,"âĦ¯":150630,"âĦ°":150631,"âĦ´":150632,"âħħ":150633,"âĨľ":150634,"âĨ«":150635,"âĨŃ":150636,"âĨ±":150637,"âĨ¹":150638,"âĨ½":150639,"âĩĩ":150640,"âĩľ":150641,"âĩµ":150642,"âĪī":150643,"âĪĬ":150644,"âĪĸ":150645,"âĪľ":150646,"âξ":150647,"âīĢ":150648,"âīĭ":150649,"âīĮ":150650,"âīĵ":150651,"âīľ":150652,"âī´":150653,"âī¿":150654,"âĬĬ":150655,"âĬĭ":150656,"âĬĶ":150657,"âĬĸ":150658,"âĬ£":150659,"âĬ¦":150660,"âĭİ":150661,"âĭª":150662,"âĭ²":150663,"âĮ¦":150664,"âĮ§":150665,"âįº":150666,"âİĪ":150667,"âݨ":150668,"âݬ":150669,"âݳ":150670,"âݼ":150671,"âݾ":150672,"âıĮ":150673,"âıļ":150674,"âı«":150675,"âı¯":150676,"âıµ":150677,"âĴľ":150678,"âĴĿ":150679,"âĴ«":150680,"âĵĦ":150681,"âĵĬ":150682,"âĵĻ":150683,"âĵ©":150684,"âĶij":150685,"âĶĻ":150686,"âĶļ":150687,"âĶ¥":150688,"âķħ":150689,"âķī":150690,"âķį":150691,"âķı":150692,"âķŀ":150693,"âĸļ":150694,"âĸ¯":150695,"âĹĥ":150696,"âĹļ":150697,"âŬ":150698,"âĹ´":150699,"âĺĪ":150700,"âĺ¤":150701,"âĺ¥":150702,"âĺ§":150703,"âĺ¬":150704,"âĻģ":150705,"âϱ":150706,"âļĥ":150707,"âļĦ":150708,"âļħ":150709,"âļı":150710,"âļļ":150711,"âļŀ":150712,"âļŁ":150713,"âļ±":150714,"âļ²":150715,"âľĢ":150716,"⾣":150717,"âľ¢":150718,"âĿµ":150719,"âŁ¡":150720,"⣦":150721,"⣧":150722,"âŁ³":150723,"âŁ¾":150724,"âŁ¿":150725,"âłĩ":150726,"â¤Ħ":150727,"⤺":150728,"â¥Ĥ":150729,"⥹":150730,"â§ī":150731,"â§¼":150732,"â§½":150733,"â¨į":150734,"â¬Ĭ":150735,"⬣":150736,"âŃŀ":150737,"â®ŀ":150738,"⮳":150739,"â¯Ī":150740,"â¯ij":150741,"ⱳ":150742,"â±±":150743,"â²Ń":150744,"â´¹":150745,"âµķ":150746,"⸾":150747,"⺫":150748,"â¼Ĩ":150749,"â¼ł":150750,"â½Ł":150751,"â½¼":150752,"â¾Ľ":150753,"â¾§":150754,"â¿ĥ":150755,"â¿»":150756,"ãĤķ":150757,"ãĤŁ":150758,"ãĦĽ":150759,"ãĦ¡":150760,"ãĦ¶":150761,"ãĦº":150762,"ãħĴ":150763,"ãħŁ":150764,"ãĨĢ":150765,"ãĩ»":150766,"ãĪij":150767,"ãĪŃ":150768,"ãĪ®":150769,"ãγ":150770,"ãι":150771,"ãī¥":150772,"ãī¦":150773,"ãī¹":150774,"ãī¿":150775,"ãĬŀ":150776,"ãĬ¨":150777,"ãĭij":150778,"ãĭ¥":150779,"ãĭ´":150780,"ãĭº":150781,"ãİĦ":150782,"ãİķ":150783,"ãݯ":150784,"ãıĤ":150785,"ãıĪ":150786,"ãıĵ":150787,"ãıĸ":150788,"ãı±":150789,"ãIJ±":150790,"ãŁģ":150791,"ã¢":150792,"㢨":150793,"ã¨":150794,"㨳":150795,"㫪":150796,"ã«´":150797,"ã¶³":150798,"㺾":150799,"äĢ":150800,"äĢĢ":150801,"äĭ":150802,"äĭĮ":150803,"äĮĢ":150804,"äIJĢ":150805,"äłĢ":150806,"äł":150807,"äł¼":150808,"ä§":150809,"ä§ŀ":150810,"䨰":150811,"䨺":150812,"ä´Ģ":150813,"ä·":150814,"ä·ħ":150815,"ä·¸":150816,"êĤ":150817,"êĤ«":150818,"êĮ":150819,"êĮ¼":150820,"êį":150821,"êį²":150822,"êĴµ":150823,"êĵ":150824,"êĵ½":150825,"êĻŃ":150826,"êĿĽ":150827,"êĿ¥":150828,"êŀ":150829,"êŀĬ":150830,"ê¦Ĩ":150831,"ê¦ĩ":150832,"ê¦Ł":150833,"ꦨ":150834,"ê§Ī":150835,"ê©":150836,"ê©Ł":150837,"êªĭ":150838,"êªij":150839,"êªķ":150840,"êªĹ":150841,"êªľ":150842,"ꪮ":150843,"ꪱ":150844,"ꪻ":150845,"ꪼ":150846,"ê«Ģ":150847,"ê«Ŀ":150848,"ê°ĥ":150849,"ê°ĺ":150850,"ê±ľ":150851,"ê²ĵ":150852,"ê²ļ":150853,"ê³Ļ":150854,"ê³¾":150855,"ê´Ĺ":150856,"ê´Ļ":150857,"êµĽ":150858,"ê¶ĥ":150859,"ê¶ķ":150860,"궨":150861,"긩":150862,"긿":150863,"ê¹Ħ":150864,"ê¹Ĩ":150865,"ê¹ī":150866,"ê¹ĵ":150867,"ê¹¢":150868,"ê¹£":150869,"깸":150870,"꺳":150871,"ê¿ı":150872,"ê¿ķ":150873,"ê¿§":150874,"ëĢ©":150875,"ëģħ":150876,"ëĥµ":150877,"ëĦĸ":150878,"ëĦĹ":150879,"ëĦ¢":150880,"ëħĤ":150881,"ëĨIJ":150882,"ëĩľ":150883,"ëĪĭ":150884,"ëĪļ":150885,"ëīį":150886,"ëī¨":150887,"ëĬļ":150888,"ëĬ¡":150889,"ëĭľ":150890,"ëĭª":150891,"ëĮĺ":150892,"ëĮ¤":150893,"ëĮ¸":150894,"ëİŁ":150895,"ëı¨":150896,"ëIJĦ":150897,"ëIJı":150898,"ëIJ´":150899,"ëIJ¸":150900,"ëijģ":150901,"ëij¿":150902,"ëĴ¨":150903,"ëĵ·":150904,"ëĶ®":150905,"ëͲ":150906,"ëķ§":150907,"ëĸĶ":150908,"ëĸª":150909,"ëĺŃ":150910,"ëļĢ":150911,"ëļł":150912,"ëĽĶ":150913,"뼩":150914,"ëľħ":150915,"ëŀķ":150916,"ëŀ°":150917,"ëŁIJ":150918,"ëł¡":150919,"ë¡ŀ":150920,"ë¡£":150921,"롵":150922,"ë£Ħ":150923,"ë£į":150924,"뤳":150925,"ë¦į":150926,"ë¦ı":150927,"릳":150928,"ë§Ħ":150929,"ë§Ĩ":150930,"ë§į":150931,"ë§ľ":150932,"ë§«":150933,"ë§»":150934,"먮":150935,"ë©Ĥ":150936,"ë©Ń":150937,"몴":150938,"묾":150939,"묳":150940,"묫":150941,"묾":150942,"ëѬ":150943,"ë®ĺ":150944,"뮹":150945,"ë¯ķ":150946,"ë¯ľ":150947,"ë°¨":150948,"ë°ª":150949,"ë±Ķ":150950,"ë²ĺ":150951,"ë²Ľ":150952,"ë²±":150953,"ë²´":150954,"ë´½":150955,"뵤":150956,"뵨":150957,"ë·Ĺ":150958,"ë·ĺ":150959,"ë¸ĵ":150960,"븾":150961,"빪":150962,"ëºĥ":150963,"ëºĺ":150964,"뺵":150965,"ë»´":150966,"ë¼IJ":150967,"ë¾Ķ":150968,"ìģŃ":150969,"ìĤł":150970,"ìĤ®":150971,"ìĥı":150972,"ìĥĻ":150973,"ìĦº":150974,"ìħ¢":150975,"ìĨĢ":150976,"ìĨħ":150977,"ìĨ¤":150978,"ìĨ¦":150979,"ìĨ¬":150980,"ìĩ±":150981,"ìε":150982,"ìĭ¨":150983,"ìĭ´":150984,"ìĮ°":150985,"ìįľ":150986,"ìİĹ":150987,"ìİĺ":150988,"ìݼ":150989,"ìijī":150990,"ìijĿ":150991,"ìij»":150992,"ìĴĶ":150993,"ìĴ¯":150994,"ìĵ©":150995,"ìķIJ":150996,"ìķĸ":150997,"ìĸł":150998,"ìĸ¾":150999,"ìĹĥ":151000,"ìĹĹ":151001,"ìĹľ":151002,"ìŨ":151003,"ìĺĤ":151004,"ìĺĦ":151005,"ìĺı":151006,"ìĺ¾":151007,"ìĺ¿":151008,"ìľ§":151009,"ìĿIJ":151010,"ìĿĸ":151011,"ìĿ·":151012,"ìŀį":151013,"ìŀı":151014,"ìŀ¨":151015,"ìŀª":151016,"ìŀ³":151017,"ìł¡":151018,"ìł´":151019,"ìł¹":151020,"ì¡Ģ":151021,"졪":151022,"졵":151023,"ì¢IJ":151024,"좨":151025,"ì£Į":151026,"ì£Ļ":151027,"죳":151028,"ì¦ij":151029,"ì§¥":151030,"ì§´":151031,"ì§¾":151032,"ì¨ĵ":151033,"ì¨ķ":151034,"ì©°":151035,"ì©»":151036,"쩼":151037,"ìªĹ":151038,"ì¬Ķ":151039,"ì¬ĺ":151040,"ì®®":151041,"ì¯ķ":151042,"ì¯ĺ":151043,"ì°İ":151044,"ì°¯":151045,"ì±ĥ":151046,"ì±µ":151047,"ì²§":151048,"ì²®":151049,"첯":151050,"쳬":151051,"ì´ĭ":151052,"ì´¢":151053,"ìµ¥":151054,"ì¶£":151055,"ì¸Ī":151056,"ì¸Ļ":151057,"캤":151058,"ìºŃ":151059,"컽":151060,"ì¼Ļ":151061,"콬":151062,"ì¾Ģ":151063,"ì¿ħ":151064,"쿽":151065,"íĢħ":151066,"íģ¦":151067,"íĤħ":151068,"íĥ¶":151069,"íĥ¹":151070,"íĦĶ":151071,"íħ£":151072,"íĨĦ":151073,"íĨ§":151074,"íĨ¹":151075,"íĩ¼":151076,"íī¤":151077,"íĬ½":151078,"íĭĤ":151079,"íĭij":151080,"íįĪ":151081,"íįĻ":151082,"íį¿":151083,"íݶ":151084,"íIJĿ":151085,"íĴľ":151086,"íĵĿ":151087,"íĵª":151088,"íĵ±":151089,"íĵ·":151090,"íĵ¼":151091,"íĶĻ":151092,"íĶł":151093,"íķļ":151094,"íķĽ":151095,"íķŀ":151096,"íķŁ":151097,"íķ§":151098,"íķ¶":151099,"íĸĬ":151100,"íĸĭ":151101,"íĸį":151102,"íĸĶ":151103,"íĸĺ":151104,"íĸ¡":151105,"íĸ¬":151106,"íĹ£":151107,"íĹ¿":151108,"íĺĸ":151109,"íĺŃ":151110,"íļ°":151111,"íĽį":151112,"íĽ½":151113,"íĿŁ":151114,"íĿŃ":151115,"íĿ´":151116,"íŀľ":151117,"ï¤ī":151118,"ï¤Ń":151119,"爐":151120,"蘆":151121,"祿":151122,"ï¥Ģ":151123,"ï¥ij":151124,"ï¥Ĵ":151125,"ï¥ķ":151126,"ï¥ĺ":151127,"ï¥Ļ":151128,"參":151129,"塞":151130,"殺":151131,"勵":151132,"ï¦ĭ":151133,"ï¦ı":151134,"ï¦Ķ":151135,"ï¦ĸ":151136,"ï¦ĺ":151137,"ï¦Ľ":151138,"ï¦ł":151139,"瑩":151140,"羚":151141,"了":151142,"僚":151143,"料":151144,"ï§Ĩ":151145,"ï§ĸ":151146,"ï§Ľ":151147,"ï§ŀ":151148,"ï§Ł":151149,"ï§§":151150,"ï§³":151151,"狀":151152,"ï§½":151153,"ï¨ĥ":151154,"ï¨ļ":151155,"諸":151156,"ï©Ł":151157,"ﬤ":151158,"שּׁ":151159,"לּ":151160,"ïŃĴ":151161,"ïŃķ":151162,"ïŃĽ":151163,"ïŃĿ":151164,"ïŃŀ":151165,"ïŃŁ":151166,"ïѤ":151167,"ïѧ":151168,"ïѨ":151169,"ïŃ®":151170,"ïѰ":151171,"ïѱ":151172,"ïŃ·":151173,"ïѹ":151174,"ïŃ»":151175,"ï®Ģ":151176,"ï®ĥ":151177,"ï®Ħ":151178,"ï®ħ":151179,"ï®į":151180,"ï®Ĵ":151181,"ï®ĵ":151182,"ï®ķ":151183,"ﮦ":151184,"ï®®":151185,"ï®°":151186,"ï¯ĵ":151187,"ï¯ľ":151188,"ﯩ":151189,"ﯪ":151190,"ﯬ":151191,"ï¯Ń":151192,"ﯮ":151193,"ﯷ":151194,"ﯹ":151195,"ﯻ":151196,"ﯼ":151197,"ï°ĥ":151198,"ï°Į":151199,"ï°IJ":151200,"ï°ĺ":151201,"ï°Ļ":151202,"ï°ľ":151203,"ï°ŀ":151204,"ï°¢":151205,"ï°®":151206,"ï°°":151207,"ï°¼":151208,"ï°¿":151209,"ï±Ģ":151210,"ï±ģ":151211,"ï±Ī":151212,"ï±ĭ":151213,"ï±ı":151214,"ï±Ń":151215,"ï²Ģ":151216,"ï²ĩ":151217,"ï²Ī":151218,"ï²ĭ":151219,"ï²İ":151220,"ï²Ĵ":151221,"ï²ľ":151222,"ï²ł":151223,"ﲬ":151224,"ï²»":151225,"ï³ĩ":151226,"ï³Ķ":151227,"ï³£":151228,"ﳫ":151229,"ï´ĺ":151230,"ï´°":151231,"ï´½":151232,"ï¶":151233,"ï¶°":151234,"ï¸ĸ":151235,"︴":151236,"︹":151237,"ï¹į":151238,"ï¹Ĺ":151239,"ï¹¢":151240,"﹤":151241,"﹩":151242,"ï¹±":151243,"ï¾°":151244,"ï¿Ĥ":151245,"ï¿®":151246,"ðIJĮ°":151247,"ðIJĮ¹":151248,"ðIJĮº":151249,"ðIJĮ½":151250,"ðIJįĤ":151251,"ðIJįĥ":151252,"ðIJįĦ":151253,"ðIJİ":151254,"ðIJݹ":151255,"ðIJ¤Ĥ":151256,"ðIJ¤į":151257,"ðIJ¤ı":151258,"ðIJ¤ĵ":151259,"ðIJŃī":151260,"ðIJŃį":151261,"ðIJ°ĩ":151262,"ðIJ°°":151263,"ðijĤ":151264,"ðijĤĦ":151265,"ðijĺ":151266,"ðijĺģ":151267,"ðĴĢ":151268,"ðĴ̏":151269,"ðĴģ":151270,"ðĴģº":151271,"ðĴĦ":151272,"ðĴĦ·":151273,"ðĴĬ":151274,"ðĴĬij":151275,"ðĴĭ":151276,"ðĴĭĹ":151277,"ðĴĮ":151278,"ðĴĮ¨":151279,"ðĵĥ¢":151280,"ðĵĥ°":151281,"ðĸł":151282,"ðĸłļ":151283,"ðĿĦĥ":151284,"ðĿĦħ":151285,"ðĿĦķ":151286,"ðĿĦĻ":151287,"ðĿĦ±":151288,"ðĿĦ´":151289,"ðĿĦ¹":151290,"ðĿħİ":151291,"ðĿħª":151292,"ðĿĨ£":151293,"ðĿĨ³":151294,"ðĿĨ¹":151295,"ðĿĩĬ":151296,"ðĿĩĹ":151297,"ðĿĩļ":151298,"ðĿĩľ":151299,"ðĿĩł":151300,"ðĿIJī":151301,"ðĿIJĸ":151302,"ðĿIJĺ":151303,"ðĿIJ£":151304,"ðĿIJ±":151305,"ðĿijĬ":151306,"ðĿijŃ":151307,"ðĿij¼":151308,"ðĿij½":151309,"ðĿĴ°":151310,"ðĿĴ·":151311,"ðĿĴ¿":151312,"ðĿĵģ":151313,"ðĿĵĭ":151314,"ðĿĵİ":151315,"ðĿĵĴ":151316,"ðĿĵĺ":151317,"ðĿĵ¢":151318,"ðĿĵ¦":151319,"ðĿĵ«":151320,"ðĿĵ¿":151321,"ðĿĶİ":151322,"ðĿͱ":151323,"ðĿĶ´":151324,"ðĿĶ·":151325,"ðĿ͏":151326,"ðĿͽ":151327,"ðĿķĤ":151328,"ðĿķĥ":151329,"ðĿķĭ":151330,"ðĿķı":151331,"ðĿķIJ":151332,"ðĿķ¥":151333,"ðĿķ´":151334,"ðĿķº":151335,"ðĿĸIJ":151336,"ðĿĸĽ":151337,"ðĿĸĿ":151338,"ðĿĸŀ":151339,"ðĿĹ©":151340,"ðĿĹ³":151341,"ðĿĹ½":151342,"ðĿĺĬ":151343,"ðĿĺĭ":151344,"ðĿĺĶ":151345,"ðĿĺ±":151346,"ðĿĺ´":151347,"ðĿĺ¿":151348,"ðĿĻĴ":151349,"ðĿĻĿ":151350,"ðĿĻŁ":151351,"ðĿϬ":151352,"ðĿĻŃ":151353,"ðĿĻ»":151354,"ðĿϾ":151355,"ðĿļĪ":151356,"ðĿļĭ":151357,"ðĿļij":151358,"ðĿļŁ":151359,"ðĿļł":151360,"ðĿļ£":151361,"ðĿĽ½":151362,"ðĿľĤ":151363,"ðĿľĶ":151364,"ðĿľĻ":151365,"ðŁĢ":151366,"ðŁĢĦ":151367,"ðŁĦ²":151368,"ðŁĦ¶":151369,"ðŁħIJ":151370,"ðŁħĸ":151371,"ðŁħļ":151372,"ðŁħĽ":151373,"ðŁħ¦":151374,"ðŁħ¶":151375,"ðŁħ»":151376,"ðŁħ¼":151377,"ðŁĨĥ":151378,"ðŁĨĨ":151379,"ðŁĨİ":151380,"ðŁĪ¯":151381,"ðŁĪ²":151382,"ðŁĪ¹":151383,"ðŁĮĩ":151384,"ðŁĮĵ":151385,"ðŁįĺ":151386,"ðŁİij":151387,"ðŁİ¿":151388,"ðŁıı":151389,"ðŁıĴ":151390,"ðŁı©":151391,"ðŁı¯":151392,"ðŁIJĢ":151393,"ðŁijĿ":151394,"ðŁĴ¹":151395,"ðŁĴº":151396,"ðŁĵŁ":151397,"ðŁĵª":151398,"ðŁĵ¼":151399,"ðŁĶĢ":151400,"ðŁĶĤ":151401,"ðŁĶĥ":151402,"ðŁĶĩ":151403,"ðŁĶĵ":151404,"ðŁĶ¢":151405,"ðŁĶ¤":151406,"ðŁĶ©":151407,"ðŁķĸ":151408,"ðŁķļ":151409,"ðŁķľ":151410,"ðŁķĿ":151411,"ðŁķŀ":151412,"ðŁķł":151413,"ðŁķ¢":151414,"ðŁķ³":151415,"ðŁĸĩ":151416,"ðŁĸij":151417,"ðŁĸ¶":151418,"ðŁĹģ":151419,"Ѩ":151420,"Úİ":151421,"á¡Į":151422,"Ḱ":151423,"áºĢ":151424,"á¼®":151425,"á½Ŀ":151426,"âĦ¬":151427,"âļ§":151428,"⼤":151429,"㳬":151430,"êĻĭ":151431,"ê¸ij":151432,"ëĶī":151433,"ëĹį":151434,"ë¡ij":151435,"ë¯ij":151436,"ë»ħ":151437,"ë¼Ŀ":151438,"ìĦIJ":151439,"ìī¡":151440,"ìĭ²":151441,"ìı±":151442,"ìŤ":151443,"ìĿ©":151444,"ìĿ¿":151445,"ìŁĻ":151446,"ìł°":151447,"ì¥ī":151448,"íĬŃ":151449,"íķ®":151450,"ï®ı":151451,"ðŁħ±":151452,"ðŁĨĴ":151453,"ðŁķĭ":151454,"Éĺ":151455,"Êĵ":151456,"Õĥ":151457,"à´´":151458,"à½ħ":151459,"áĨº":151460,"áĪĬ":151461,"á΍":151462,"áξ":151463,"áīIJ":151464,"áĮĥ":151465,"áĮ½":151466,"áĶŃ":151467,"áłĤ":151468,"ᳬ":151469,"ᨸ":151470,"á©ĭ":151471,"á¶ı":151472,"á¾Ķ":151473,"á¿IJ":151474,"á¿ļ":151475,"âĻĻ":151476,"âļĤ":151477,"âļĹ":151478,"â¡¢":151479,"⤦":151480,"ëĸ°":151481,"ë¤Ĥ":151482,"ë§ł":151483,"ë±ĭ":151484,"ë±IJ":151485,"ìĽ¢":151486,"ìľ¾":151487,"ì³ħ":151488,"ì»ģ":151489,"íģ»":151490,"íĥĻ":151491,"íĵĸ":151492,"íĵŃ":151493,"íķ±":151494,"íĽľ":151495,"ï¤ħ":151496,"ï¤Ĩ":151497,"ï¦ĥ":151498,"ï§©":151499,"ï¨Ĥ":151500,"ðIJ¤Ķ":151501,"ðIJŃĵ":151502,"ðIJ°¼":151503,"ðĿĵŀ":151504,"ðĿĵ°":151505,"ðĿĻľ":151506,"ðĿļģ":151507,"ðŁħ¢":151508,"ðŁıĩ":151509,"Ȳ":151510,"ʶ":151511,"ÔĪ":151512,"Ôij":151513,"Ýĵ":151514,"Ý¥":151515,"à¤ij":151516,"ॱ":151517,"à¬ī":151518,"à°³":151519,"à°µ":151520,"à²Ł":151521,"áĢı":151522,"áģ¼":151523,"áī¨":151524,"áĬĴ":151525,"áĭ©":151526,"áĮĦ":151527,"áĮĶ":151528,"áIJ§":151529,"áĴĮ":151530,"áĶħ":151531,"áĶĬ":151532,"áłĦ":151533,"á¨ģ":151534,"á¸ĥ":151535,"ḻ":151536,"âĶŀ":151537,"âĺµ":151538,"âļ£":151539,"â²¢":151540,"ãĪª":151541,"ä¶µ":151542,"ê²Ļ":151543,"ê²´":151544,"ê³Ĥ":151545,"롼":151546,"ìĨĬ":151547,"ì¼ĩ":151548,"íĭį":151549,"íĵ¬":151550,"íĵ®":151551,"íĵ¶":151552,"íĵ»":151553,"臘":151554,"ï¥ł":151555,"辰":151556,"ïѲ":151557,"ðIJŃĬ":151558,"ðIJ±ħ":151559,"ðĸ¥":151560,"ðĸ¥¨":151561,"ðĿij³":151562,"ðĿĵķ":151563,"ðĿĵ¬":151564,"ðĿĵ¹":151565,"ðĿĵ¾":151566,"ðĿĶĵ":151567,"ðĿķį":151568,"ðĿķ¡":151569,"ðĿķ±":151570,"ðĿĸĸ":151571,"ðĿĺı":151572,"ðĿĺIJ":151573,"ðĿĺļ":151574,"ðĿĻ®":151575,"ðĿϰ":151576,"ðĿϏ":151577,"ðĿĻº":151578,"ðĿϼ":151579,"ðĿϽ":151580,"ðĿĻ¿":151581,"ðĿļĦ":151582,"ðĿļı":151583,"ðŁħħ":151584,"ðŁħĵ":151585,"ÆĪ":151586,"àłĮ":151587,"áϳ":151588,"áļĮ":151589,"áĽħ":151590,"áĽIJ":151591,"á¤Ĭ":151592,"á¸Ĭ":151593,"âͽ":151594,"âķĬ":151595,"âĽĩ":151596,"âĽı":151597,"âĿª":151598,"âĿ«":151599,"⣰":151600,"ãĦį":151601,"ãĦĵ":151602,"ãĦ§":151603,"ãħĸ":151604,"ãī«":151605,"ê¦Ķ":151606,"ï±Ĭ":151607,"àºĤ":151608,"áħ£":151609,"á¥Ķ":151610,"ᥤ":151611,"âĨ¤":151612,"âĨ·":151613,"âĩŀ":151614,"âĸ¤":151615,"âŀ¶":151616,"ãμ":151617,"嘆":151618,"ðĵı§":151619,"âͲ":151620,"âĢ´":151621,"âĴŁ":151622,"âĴ¡":151623,"â°Ĥ":151624,"â°į":151625,"â°İ":151626,"â°IJ":151627,"â°ij":151628,"â°Ł":151629,"â°ł":151630,"â°¡":151631,"â¼Ń":151632,"ãĬ¥":151633,"âĴł":151634,"⽺":151635,"ãĩº":151636,"ãĩ½":151637,"ï¨Ĭ":151638,"áķ·":151639,"âį¨":151640,"âºŁ":151641,"â½Ĺ":151642} \ No newline at end of file diff --git a/checkpoint-22635/zero_to_fp32.py b/checkpoint-22635/zero_to_fp32.py new file mode 100644 index 0000000000000000000000000000000000000000..0e759146cadd92ddfefab3680146c2bd6a2b5c04 --- /dev/null +++ b/checkpoint-22635/zero_to_fp32.py @@ -0,0 +1,760 @@ +#!/usr/bin/env python + +# Copyright (c) Microsoft Corporation. +# SPDX-License-Identifier: Apache-2.0 + +# DeepSpeed Team + +# This script extracts fp32 consolidated weights from a zero 1, 2 and 3 DeepSpeed checkpoints. It gets +# copied into the top level checkpoint dir, so the user can easily do the conversion at any point in +# the future. Once extracted, the weights don't require DeepSpeed and can be used in any +# application. +# +# example: +# python zero_to_fp32.py . output_dir/ +# or +# python zero_to_fp32.py . output_dir/ --safe_serialization + +import argparse +import torch +import glob +import math +import os +import re +import gc +import json +import numpy as np +from tqdm import tqdm +from collections import OrderedDict +from dataclasses import dataclass + +# while this script doesn't use deepspeed to recover data, since the checkpoints are pickled with +# DeepSpeed data structures it has to be available in the current python environment. +from deepspeed.utils import logger +from deepspeed.checkpoint.constants import (DS_VERSION, OPTIMIZER_STATE_DICT, SINGLE_PARTITION_OF_FP32_GROUPS, + FP32_FLAT_GROUPS, ZERO_STAGE, PARTITION_COUNT, PARAM_SHAPES, BUFFER_NAMES, + FROZEN_PARAM_SHAPES, FROZEN_PARAM_FRAGMENTS) + + +@dataclass +class zero_model_state: + buffers: dict() + param_shapes: dict() + shared_params: list + ds_version: int + frozen_param_shapes: dict() + frozen_param_fragments: dict() + + +debug = 0 + +# load to cpu +device = torch.device('cpu') + + +def atoi(text): + return int(text) if text.isdigit() else text + + +def natural_keys(text): + ''' + alist.sort(key=natural_keys) sorts in human order + http://nedbatchelder.com/blog/200712/human_sorting.html + (See Toothy's implementation in the comments) + ''' + return [atoi(c) for c in re.split(r'(\d+)', text)] + + +def get_model_state_file(checkpoint_dir, zero_stage): + if not os.path.isdir(checkpoint_dir): + raise FileNotFoundError(f"Directory '{checkpoint_dir}' doesn't exist") + + # there should be only one file + if zero_stage <= 2: + file = os.path.join(checkpoint_dir, "mp_rank_00_model_states.pt") + elif zero_stage == 3: + file = os.path.join(checkpoint_dir, "zero_pp_rank_0_mp_rank_00_model_states.pt") + + if not os.path.exists(file): + raise FileNotFoundError(f"can't find model states file at '{file}'") + + return file + + +def get_checkpoint_files(checkpoint_dir, glob_pattern): + # XXX: need to test that this simple glob rule works for multi-node setup too + ckpt_files = sorted(glob.glob(os.path.join(checkpoint_dir, glob_pattern)), key=natural_keys) + + if len(ckpt_files) == 0: + raise FileNotFoundError(f"can't find {glob_pattern} files in directory '{checkpoint_dir}'") + + return ckpt_files + + +def get_optim_files(checkpoint_dir): + return get_checkpoint_files(checkpoint_dir, "*_optim_states.pt") + + +def get_model_state_files(checkpoint_dir): + return get_checkpoint_files(checkpoint_dir, "*_model_states.pt") + + +def parse_model_states(files): + zero_model_states = [] + for file in files: + state_dict = torch.load(file, map_location=device, weights_only=False) + + if BUFFER_NAMES not in state_dict: + raise ValueError(f"{file} is not a model state checkpoint") + buffer_names = state_dict[BUFFER_NAMES] + if debug: + print("Found buffers:", buffer_names) + + # recover just the buffers while restoring them to fp32 if they were saved in fp16 + buffers = {k: v.float() for k, v in state_dict["module"].items() if k in buffer_names} + param_shapes = state_dict[PARAM_SHAPES] + + # collect parameters that are included in param_shapes + param_names = [] + for s in param_shapes: + for name in s.keys(): + param_names.append(name) + + # update with frozen parameters + frozen_param_shapes = state_dict.get(FROZEN_PARAM_SHAPES, None) + if frozen_param_shapes is not None: + if debug: + print(f"Found frozen_param_shapes: {frozen_param_shapes}") + param_names += list(frozen_param_shapes.keys()) + + # handle shared params + shared_params = [[k, v] for k, v in state_dict["shared_params"].items()] + + ds_version = state_dict.get(DS_VERSION, None) + + frozen_param_fragments = state_dict.get(FROZEN_PARAM_FRAGMENTS, None) + + z_model_state = zero_model_state(buffers=buffers, + param_shapes=param_shapes, + shared_params=shared_params, + ds_version=ds_version, + frozen_param_shapes=frozen_param_shapes, + frozen_param_fragments=frozen_param_fragments) + zero_model_states.append(z_model_state) + + return zero_model_states + + +def parse_optim_states(files, ds_checkpoint_dir): + total_files = len(files) + state_dicts = [] + for f in tqdm(files, desc='Loading checkpoint shards'): + state_dict = torch.load(f, map_location=device, mmap=True, weights_only=False) + # immediately discard the potentially huge 2 optimizer states as we only care for fp32 master weights + # and also handle the case where it was already removed by another helper script + state_dict["optimizer_state_dict"].pop("optimizer_state_dict", None) + state_dicts.append(state_dict) + + if not ZERO_STAGE in state_dicts[0][OPTIMIZER_STATE_DICT]: + raise ValueError(f"{files[0]} is not a zero checkpoint") + zero_stage = state_dicts[0][OPTIMIZER_STATE_DICT][ZERO_STAGE] + world_size = state_dicts[0][OPTIMIZER_STATE_DICT][PARTITION_COUNT] + + # For ZeRO-2 each param group can have different partition_count as data parallelism for expert + # parameters can be different from data parallelism for non-expert parameters. So we can just + # use the max of the partition_count to get the dp world_size. + + if type(world_size) is list: + world_size = max(world_size) + + if world_size != total_files: + raise ValueError( + f"Expected {world_size} of '*_optim_states.pt' under '{ds_checkpoint_dir}' but found {total_files} files. " + "Possibly due to an overwrite of an old checkpoint, or a checkpoint didn't get saved by one or more processes." + ) + + # the groups are named differently in each stage + if zero_stage <= 2: + fp32_groups_key = SINGLE_PARTITION_OF_FP32_GROUPS + elif zero_stage == 3: + fp32_groups_key = FP32_FLAT_GROUPS + else: + raise ValueError(f"unknown zero stage {zero_stage}") + + fp32_flat_groups = [state_dicts[i][OPTIMIZER_STATE_DICT][fp32_groups_key] for i in range(len(state_dicts))] + return zero_stage, world_size, fp32_flat_groups + + +def _get_fp32_state_dict_from_zero_checkpoint(ds_checkpoint_dir, exclude_frozen_parameters): + """ + Returns fp32 state_dict reconstructed from ds checkpoint + + Args: + - ``ds_checkpoint_dir``: path to the deepspeed checkpoint folder (where the optimizer files are) + + """ + print(f"Processing zero checkpoint '{ds_checkpoint_dir}'") + + optim_files = get_optim_files(ds_checkpoint_dir) + zero_stage, world_size, fp32_flat_groups = parse_optim_states(optim_files, ds_checkpoint_dir) + print(f"Detected checkpoint of type zero stage {zero_stage}, world_size: {world_size}") + + model_files = get_model_state_files(ds_checkpoint_dir) + + zero_model_states = parse_model_states(model_files) + print(f'Parsing checkpoint created by deepspeed=={zero_model_states[0].ds_version}') + + if zero_stage <= 2: + return _get_fp32_state_dict_from_zero2_checkpoint(world_size, fp32_flat_groups, zero_model_states, + exclude_frozen_parameters) + elif zero_stage == 3: + return _get_fp32_state_dict_from_zero3_checkpoint(world_size, fp32_flat_groups, zero_model_states, + exclude_frozen_parameters) + + +def _zero2_merge_frozen_params(state_dict, zero_model_states): + if zero_model_states[0].frozen_param_shapes is None or len(zero_model_states[0].frozen_param_shapes) == 0: + return + + frozen_param_shapes = zero_model_states[0].frozen_param_shapes + frozen_param_fragments = zero_model_states[0].frozen_param_fragments + + if debug: + num_elem = sum(s.numel() for s in frozen_param_shapes.values()) + print(f'rank 0: {FROZEN_PARAM_SHAPES}.numel = {num_elem}') + + wanted_params = len(frozen_param_shapes) + wanted_numel = sum(s.numel() for s in frozen_param_shapes.values()) + avail_numel = sum([p.numel() for p in frozen_param_fragments.values()]) + print(f'Frozen params: Have {avail_numel} numels to process.') + print(f'Frozen params: Need {wanted_numel} numels in {wanted_params} params') + + total_params = 0 + total_numel = 0 + for name, shape in frozen_param_shapes.items(): + total_params += 1 + unpartitioned_numel = shape.numel() + total_numel += unpartitioned_numel + + state_dict[name] = frozen_param_fragments[name] + + if debug: + print(f"{name} full shape: {shape} unpartitioned numel {unpartitioned_numel} ") + + print(f"Reconstructed Frozen fp32 state dict with {total_params} params {total_numel} elements") + + +def _has_callable(obj, fn): + attr = getattr(obj, fn, None) + return callable(attr) + + +def _zero2_merge_trainable_params(state_dict, world_size, fp32_flat_groups, zero_model_states): + param_shapes = zero_model_states[0].param_shapes + + # Reconstruction protocol: + # + # XXX: document this + + if debug: + for i in range(world_size): + for j in range(len(fp32_flat_groups[0])): + print(f"{FP32_FLAT_GROUPS}[{i}][{j}].shape={fp32_flat_groups[i][j].shape}") + + # XXX: memory usage doubles here (zero2) + num_param_groups = len(fp32_flat_groups[0]) + merged_single_partition_of_fp32_groups = [] + for i in range(num_param_groups): + merged_partitions = [sd[i] for sd in fp32_flat_groups] + full_single_fp32_vector = torch.cat(merged_partitions, 0) + merged_single_partition_of_fp32_groups.append(full_single_fp32_vector) + avail_numel = sum( + [full_single_fp32_vector.numel() for full_single_fp32_vector in merged_single_partition_of_fp32_groups]) + + if debug: + wanted_params = sum([len(shapes) for shapes in param_shapes]) + wanted_numel = sum([sum(shape.numel() for shape in shapes.values()) for shapes in param_shapes]) + # not asserting if there is a mismatch due to possible padding + print(f"Have {avail_numel} numels to process.") + print(f"Need {wanted_numel} numels in {wanted_params} params.") + + # params + # XXX: for huge models that can't fit into the host's RAM we will have to recode this to support + # out-of-core computing solution + total_numel = 0 + total_params = 0 + for shapes, full_single_fp32_vector in zip(param_shapes, merged_single_partition_of_fp32_groups): + offset = 0 + avail_numel = full_single_fp32_vector.numel() + for name, shape in shapes.items(): + + unpartitioned_numel = shape.numel() if _has_callable(shape, 'numel') else math.prod(shape) + total_numel += unpartitioned_numel + total_params += 1 + + if debug: + print(f"{name} full shape: {shape} unpartitioned numel {unpartitioned_numel} ") + state_dict[name] = full_single_fp32_vector.narrow(0, offset, unpartitioned_numel).view(shape) + offset += unpartitioned_numel + + # Z2 started to align to 2*world_size to improve nccl performance. Therefore both offset and + # avail_numel can differ by anywhere between 0..2*world_size. Due to two unrelated complex + # paddings performed in the code it's almost impossible to predict the exact numbers w/o the + # live optimizer object, so we are checking that the numbers are within the right range + align_to = 2 * world_size + + def zero2_align(x): + return align_to * math.ceil(x / align_to) + + if debug: + print(f"original offset={offset}, avail_numel={avail_numel}") + + offset = zero2_align(offset) + avail_numel = zero2_align(avail_numel) + + if debug: + print(f"aligned offset={offset}, avail_numel={avail_numel}") + + # Sanity check + if offset != avail_numel: + raise ValueError(f"consumed {offset} numels out of {avail_numel} - something is wrong") + + print(f"Reconstructed fp32 state dict with {total_params} params {total_numel} elements") + + +def _get_fp32_state_dict_from_zero2_checkpoint(world_size, fp32_flat_groups, zero_model_states, + exclude_frozen_parameters): + state_dict = OrderedDict() + + # buffers + buffers = zero_model_states[0].buffers + state_dict.update(buffers) + if debug: + print(f"added {len(buffers)} buffers") + + if not exclude_frozen_parameters: + _zero2_merge_frozen_params(state_dict, zero_model_states) + + _zero2_merge_trainable_params(state_dict, world_size, fp32_flat_groups, zero_model_states) + + # recover shared parameters + for pair in zero_model_states[0].shared_params: + if pair[1] in state_dict: + state_dict[pair[0]] = state_dict[pair[1]] + + return state_dict + + +def zero3_partitioned_param_info(unpartitioned_numel, world_size): + remainder = unpartitioned_numel % world_size + padding_numel = (world_size - remainder) if remainder else 0 + partitioned_numel = math.ceil(unpartitioned_numel / world_size) + return partitioned_numel, padding_numel + + +def _zero3_merge_frozen_params(state_dict, world_size, zero_model_states): + if zero_model_states[0].frozen_param_shapes is None or len(zero_model_states[0].frozen_param_shapes) == 0: + return + + if debug: + for i in range(world_size): + num_elem = sum(s.numel() for s in zero_model_states[i].frozen_param_fragments.values()) + print(f'rank {i}: {FROZEN_PARAM_SHAPES}.numel = {num_elem}') + + frozen_param_shapes = zero_model_states[0].frozen_param_shapes + wanted_params = len(frozen_param_shapes) + wanted_numel = sum(s.numel() for s in frozen_param_shapes.values()) + avail_numel = sum([p.numel() for p in zero_model_states[0].frozen_param_fragments.values()]) * world_size + print(f'Frozen params: Have {avail_numel} numels to process.') + print(f'Frozen params: Need {wanted_numel} numels in {wanted_params} params') + + total_params = 0 + total_numel = 0 + for name, shape in zero_model_states[0].frozen_param_shapes.items(): + total_params += 1 + unpartitioned_numel = shape.numel() + total_numel += unpartitioned_numel + + param_frags = tuple(model_state.frozen_param_fragments[name] for model_state in zero_model_states) + state_dict[name] = torch.cat(param_frags, 0).narrow(0, 0, unpartitioned_numel).view(shape) + + partitioned_numel, partitioned_padding_numel = zero3_partitioned_param_info(unpartitioned_numel, world_size) + + if debug: + print( + f"Frozen params: {total_params} {name} full shape: {shape} partition0 numel={partitioned_numel} partitioned_padding_numel={partitioned_padding_numel}" + ) + + print(f"Reconstructed Frozen fp32 state dict with {total_params} params {total_numel} elements") + + +class GatheredTensor: + """ + A pseudo tensor that collects partitioned weights. + It is more memory efficient when there are multiple groups. + """ + + def __init__(self, flat_groups, flat_groups_offset, offset, partitioned_numel, shape): + self.flat_groups = flat_groups + self.flat_groups_offset = flat_groups_offset + self.offset = offset + self.partitioned_numel = partitioned_numel + self.shape = shape + self.dtype = self.flat_groups[0][0].dtype + + def contiguous(self): + """ + Merge partitioned weights from flat_groups into a single tensor. + """ + end_idx = self.offset + self.partitioned_numel + world_size = len(self.flat_groups) + pad_flat_param_chunks = [] + + for rank_i in range(world_size): + # for each rank, we need to collect weights from related group/groups + flat_groups_at_rank_i = self.flat_groups[rank_i] + start_group_id = None + end_group_id = None + for group_id in range(len(self.flat_groups_offset)): + if self.flat_groups_offset[group_id] <= self.offset < self.flat_groups_offset[group_id + 1]: + start_group_id = group_id + if self.flat_groups_offset[group_id] < end_idx <= self.flat_groups_offset[group_id + 1]: + end_group_id = group_id + break + # collect weights from related group/groups + for group_id in range(start_group_id, end_group_id + 1): + flat_tensor = flat_groups_at_rank_i[group_id] + start_offset = self.offset - self.flat_groups_offset[group_id] + end_offset = min(end_idx, self.flat_groups_offset[group_id + 1]) - self.flat_groups_offset[group_id] + pad_flat_param_chunks.append(flat_tensor[start_offset:end_offset]) + + # collect weights from all ranks + pad_flat_param = torch.cat(pad_flat_param_chunks, dim=0) + param = pad_flat_param[:self.shape.numel()].view(self.shape).contiguous() + return param + + +def _zero3_merge_trainable_params(state_dict, world_size, fp32_flat_groups, zero_model_states): + param_shapes = zero_model_states[0].param_shapes + avail_numel = sum([flat_group.numel() for flat_group in fp32_flat_groups[0]]) * world_size + + # Reconstruction protocol: For zero3 we need to zip the partitions together at boundary of each + # param, re-consolidating each param, while dealing with padding if any + + # merge list of dicts, preserving order + param_shapes = {k: v for d in param_shapes for k, v in d.items()} + + if debug: + for i in range(world_size): + print(f"{FP32_FLAT_GROUPS}[{i}].shape={fp32_flat_groups[i].shape}") + + wanted_params = len(param_shapes) + wanted_numel = sum(shape.numel() for shape in param_shapes.values()) + # not asserting if there is a mismatch due to possible padding + avail_numel = fp32_flat_groups[0].numel() * world_size + print(f"Trainable params: Have {avail_numel} numels to process.") + print(f"Trainable params: Need {wanted_numel} numels in {wanted_params} params.") + + # params + # XXX: for huge models that can't fit into the host's RAM we will have to recode this to support + # out-of-core computing solution + offset = 0 + total_numel = 0 + total_params = 0 + flat_groups_offset = [0] + list(np.cumsum([flat_tensor.numel() for flat_tensor in fp32_flat_groups[0]])) + for name, shape in tqdm(param_shapes.items(), desc='Gathering sharded weights'): + unpartitioned_numel = shape.numel() + total_numel += unpartitioned_numel + total_params += 1 + partitioned_numel, partitioned_padding_numel = zero3_partitioned_param_info(unpartitioned_numel, world_size) + + if debug: + print( + f"Trainable params: {total_params} {name} full shape: {shape} partition0 numel={partitioned_numel} partitioned_padding_numel={partitioned_padding_numel}" + ) + + # memory efficient tensor + tensor = GatheredTensor(fp32_flat_groups, flat_groups_offset, offset, partitioned_numel, shape) + state_dict[name] = tensor + offset += partitioned_numel + + offset *= world_size + + # Sanity check + if offset != avail_numel: + raise ValueError(f"consumed {offset} numels out of {avail_numel} - something is wrong") + + print(f"Reconstructed Trainable fp32 state dict with {total_params} params {total_numel} elements") + + +def _get_fp32_state_dict_from_zero3_checkpoint(world_size, fp32_flat_groups, zero_model_states, + exclude_frozen_parameters): + state_dict = OrderedDict() + + # buffers + buffers = zero_model_states[0].buffers + state_dict.update(buffers) + if debug: + print(f"added {len(buffers)} buffers") + + if not exclude_frozen_parameters: + _zero3_merge_frozen_params(state_dict, world_size, zero_model_states) + + _zero3_merge_trainable_params(state_dict, world_size, fp32_flat_groups, zero_model_states) + + # recover shared parameters + for pair in zero_model_states[0].shared_params: + if pair[1] in state_dict: + state_dict[pair[0]] = state_dict[pair[1]] + + return state_dict + + +def to_torch_tensor(state_dict, return_empty_tensor=False): + """ + Convert state_dict of GatheredTensor to torch tensor + """ + torch_state_dict = {} + converted_tensors = {} + for name, tensor in state_dict.items(): + tensor_id = id(tensor) + if tensor_id in converted_tensors: # shared tensors + shared_tensor = torch_state_dict[converted_tensors[tensor_id]] + torch_state_dict[name] = shared_tensor + else: + converted_tensors[tensor_id] = name + if return_empty_tensor: + torch_state_dict[name] = torch.empty(tensor.shape, dtype=tensor.dtype) + else: + torch_state_dict[name] = tensor.contiguous() + return torch_state_dict + + +def get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir, + tag=None, + exclude_frozen_parameters=False, + lazy_mode=False): + """ + Convert ZeRO 2 or 3 checkpoint into a single fp32 consolidated state_dict that can be loaded with + ``load_state_dict()`` and used for training without DeepSpeed or shared with others, for example + via a model hub. + + Args: + - ``checkpoint_dir``: path to the desired checkpoint folder + - ``tag``: checkpoint tag used as a unique identifier for checkpoint. If not provided will attempt to load tag in 'latest' file. e.g., ``global_step14`` + - ``exclude_frozen_parameters``: exclude frozen parameters + - ``lazy_mode``: get state_dict in lazy mode. It returns a dict of pesduo tensor instead of torch tensor, which is more memory efficient. + Convert the pesduo tensor to torch tensor by ``.contiguous()`` + + Returns: + - pytorch ``state_dict`` + + A typical usage might be :: + + from deepspeed.utils.zero_to_fp32 import get_fp32_state_dict_from_zero_checkpoint + # do the training and checkpoint saving + state_dict = get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir) # already on cpu + model = model.cpu() # move to cpu + model.load_state_dict(state_dict) + # submit to model hub or save the model to share with others + + In this example the ``model`` will no longer be usable in the deepspeed context of the same + application. i.e. you will need to re-initialize the deepspeed engine, since + ``model.load_state_dict(state_dict)`` will remove all the deepspeed magic from it. + + If you want it all done for you, use ``load_state_dict_from_zero_checkpoint`` instead. + + Note: the above usage may not work if your application doesn't have sufficient free CPU memory. + You may need to use the offline approach using the ``zero_to_fp32.py`` script that is saved with + the checkpoint. Or you can load state_dict in lazy mode :: + + from deepspeed.utils.zero_to_fp32 import get_fp32_state_dict_from_zero_checkpoint + state_dict = get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir, lazy_mode=True) # not on cpu + for name, lazy_tensor in state_dict.item(): + tensor = lazy_tensor.contiguous() # to cpu + print(name, tensor) + # del tensor to release memory if it no longer in use + """ + if tag is None: + latest_path = os.path.join(checkpoint_dir, 'latest') + if os.path.isfile(latest_path): + with open(latest_path, 'r') as fd: + tag = fd.read().strip() + else: + raise ValueError(f"Unable to find 'latest' file at {latest_path}") + + ds_checkpoint_dir = os.path.join(checkpoint_dir, tag) + + if not os.path.isdir(ds_checkpoint_dir): + raise FileNotFoundError(f"Directory '{ds_checkpoint_dir}' doesn't exist") + + state_dict = _get_fp32_state_dict_from_zero_checkpoint(ds_checkpoint_dir, exclude_frozen_parameters) + if lazy_mode: + return state_dict + else: + return to_torch_tensor(state_dict) + + +def convert_zero_checkpoint_to_fp32_state_dict(checkpoint_dir, + output_dir, + max_shard_size="5GB", + safe_serialization=False, + tag=None, + exclude_frozen_parameters=False): + """ + Convert ZeRO 2 or 3 checkpoint into a single fp32 consolidated ``state_dict`` file that can be + loaded with ``torch.load(file)`` + ``load_state_dict()`` and used for training without DeepSpeed. + + Args: + - ``checkpoint_dir``: path to the desired checkpoint folder. (one that contains the tag-folder, like ``global_step14``) + - ``output_dir``: directory to the pytorch fp32 state_dict output files + - ``max_shard_size``: the maximum size for a checkpoint before being sharded, default value is 5GB + - ``safe_serialization``: whether to save the model using `safetensors` or the traditional PyTorch way (that uses `pickle`). + - ``tag``: checkpoint tag used as a unique identifier for checkpoint. If not provided will attempt to load tag in the file named ``latest`` in the checkpoint folder, e.g., ``global_step14`` + - ``exclude_frozen_parameters``: exclude frozen parameters + """ + + # Dependency pre-check + if safe_serialization: + try: + from safetensors.torch import save_file + except ImportError: + print('If you want to use `safe_serialization`, please `pip install safetensors`') + raise + if max_shard_size is not None: + try: + from huggingface_hub import split_torch_state_dict_into_shards + except ImportError: + print('If you want to use `max_shard_size`, please `pip install huggingface_hub`') + raise + + # Convert zero checkpoint to state_dict + state_dict = get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir, + tag, + exclude_frozen_parameters, + lazy_mode=True) + + # Shard the model if it is too big. + weights_name = "model.safetensors" if safe_serialization else "pytorch_model.bin" + if max_shard_size is not None: + filename_pattern = weights_name.replace(".bin", "{suffix}.bin").replace(".safetensors", "{suffix}.safetensors") + # an memory-efficient approach for sharding + empty_state_dict = to_torch_tensor(state_dict, return_empty_tensor=True) + state_dict_split = split_torch_state_dict_into_shards(empty_state_dict, + filename_pattern=filename_pattern, + max_shard_size=max_shard_size) + else: + from collections import namedtuple + StateDictSplit = namedtuple("StateDictSplit", ["is_sharded", "filename_to_tensors"]) + state_dict_split = StateDictSplit(is_sharded=False, + filename_to_tensors={weights_name: list(state_dict.keys())}) + + # Save the model by shard + os.makedirs(output_dir, exist_ok=True) + filename_to_tensors = state_dict_split.filename_to_tensors.items() + for shard_file, tensors in tqdm(filename_to_tensors, desc="Saving checkpoint shards"): + shard_state_dict = {tensor_name: state_dict[tensor_name] for tensor_name in tensors} + shard_state_dict = to_torch_tensor(shard_state_dict) + output_path = os.path.join(output_dir, shard_file) + if safe_serialization: + save_file(shard_state_dict, output_path, metadata={"format": "pt"}) + else: + torch.save(shard_state_dict, output_path) + # release the memory of current shard + for tensor_name in list(shard_state_dict.keys()): + del state_dict[tensor_name] + del shard_state_dict[tensor_name] + del shard_state_dict + gc.collect() + + # Save index if sharded + if state_dict_split.is_sharded: + index = { + "metadata": state_dict_split.metadata, + "weight_map": state_dict_split.tensor_to_filename, + } + save_index_file = "model.safetensors.index.json" if safe_serialization else "pytorch_model.bin.index.json" + save_index_file = os.path.join(output_dir, save_index_file) + with open(save_index_file, "w", encoding="utf-8") as f: + content = json.dumps(index, indent=2, sort_keys=True) + "\n" + f.write(content) + + +def load_state_dict_from_zero_checkpoint(model, checkpoint_dir, tag=None): + """ + 1. Put the provided model to cpu + 2. Convert ZeRO 2 or 3 checkpoint into a single fp32 consolidated ``state_dict`` + 3. Load it into the provided model + + Args: + - ``model``: the model object to update + - ``checkpoint_dir``: path to the desired checkpoint folder. (one that contains the tag-folder, like ``global_step14``) + - ``tag``: checkpoint tag used as a unique identifier for checkpoint. If not provided will attempt to load tag in the file named ``latest`` in the checkpoint folder, e.g., ``global_step14`` + + Returns: + - ``model`: modified model + + Make sure you have plenty of CPU memory available before you call this function. If you don't + have enough use the ``zero_to_fp32.py`` utility to do the conversion. You will find it + conveniently placed for you in the checkpoint folder. + + A typical usage might be :: + + from deepspeed.utils.zero_to_fp32 import load_state_dict_from_zero_checkpoint + model = load_state_dict_from_zero_checkpoint(trainer.model, checkpoint_dir) + # submit to model hub or save the model to share with others + + Note, that once this was run, the ``model`` will no longer be usable in the deepspeed context + of the same application. i.e. you will need to re-initialize the deepspeed engine, since + ``model.load_state_dict(state_dict)`` will remove all the deepspeed magic from it. + + """ + logger.info(f"Extracting fp32 weights") + state_dict = get_fp32_state_dict_from_zero_checkpoint(checkpoint_dir, tag) + + logger.info(f"Overwriting model with fp32 weights") + model = model.cpu() + model.load_state_dict(state_dict, strict=False) + + return model + + +if __name__ == "__main__": + parser = argparse.ArgumentParser() + parser.add_argument("checkpoint_dir", + type=str, + help="path to the desired checkpoint folder, e.g., path/checkpoint-12") + parser.add_argument("output_dir", + type=str, + help="directory to the pytorch fp32 state_dict output files" + "(e.g. path/checkpoint-12-output/)") + parser.add_argument( + "--max_shard_size", + type=str, + default="5GB", + help="The maximum size for a checkpoint before being sharded. Checkpoints shard will then be each of size" + "lower than this size. If expressed as a string, needs to be digits followed by a unit (like `5MB`" + "We default it to 5GB in order for models to be able to run easily on free-tier google colab instances" + "without CPU OOM issues.") + parser.add_argument( + "--safe_serialization", + default=False, + action='store_true', + help="Whether to save the model using `safetensors` or the traditional PyTorch way (that uses `pickle`).") + parser.add_argument("-t", + "--tag", + type=str, + default=None, + help="checkpoint tag used as a unique identifier for checkpoint. e.g., global_step1") + parser.add_argument("--exclude_frozen_parameters", action='store_true', help="exclude frozen parameters") + parser.add_argument("-d", "--debug", action='store_true', help="enable debug") + args = parser.parse_args() + + debug = args.debug + + convert_zero_checkpoint_to_fp32_state_dict(args.checkpoint_dir, + args.output_dir, + max_shard_size=args.max_shard_size, + safe_serialization=args.safe_serialization, + tag=args.tag, + exclude_frozen_parameters=args.exclude_frozen_parameters) diff --git a/config.json b/config.json new file mode 100644 index 0000000000000000000000000000000000000000..5f63ffa19acb332b018e24bb2c8a9b61bd6dd147 --- /dev/null +++ b/config.json @@ -0,0 +1,29 @@ +{ + "_name_or_path": "Qwen/Qwen2.5-7B-Instruct", + "architectures": [ + "Qwen2ForCausalLM" + ], + "attention_dropout": 0.0, + "bos_token_id": 151643, + "eos_token_id": 151645, + "hidden_act": "silu", + "hidden_size": 3584, + "initializer_range": 0.02, + "intermediate_size": 18944, + "max_position_embeddings": 32768, + "max_window_layers": 28, + "model_type": "qwen2", + "num_attention_heads": 28, + "num_hidden_layers": 28, + "num_key_value_heads": 4, + "rms_norm_eps": 1e-06, + "rope_scaling": null, + "rope_theta": 1000000.0, + "sliding_window": null, + "tie_word_embeddings": false, + "torch_dtype": "bfloat16", + "transformers_version": "4.48.2", + "use_cache": false, + "use_sliding_window": false, + "vocab_size": 152064 +} diff --git a/eval_2025-02-09-14-03-10/all_results.json b/eval_2025-02-09-14-03-10/all_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8ce07b8f041c282766bf2b1496b22a23c663fd6e --- /dev/null +++ b/eval_2025-02-09-14-03-10/all_results.json @@ -0,0 +1,10 @@ +{ + "predict_bleu-4": 78.68414603703702, + "predict_model_preparation_time": 0.0084, + "predict_rouge-1": 90.219668, + "predict_rouge-2": 87.06174974074074, + "predict_rouge-l": 89.22581688888889, + "predict_runtime": 909.0068, + "predict_samples_per_second": 2.97, + "predict_steps_per_second": 1.485 +} \ No newline at end of file diff --git a/eval_2025-02-09-14-03-10/generated_predictions.jsonl b/eval_2025-02-09-14-03-10/generated_predictions.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..289afd172846fe3102293f86336353dc13b653a7 --- /dev/null +++ b/eval_2025-02-09-14-03-10/generated_predictions.jsonl @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:92736eac8ae008e3b9357df2e801a2ef0abdbdbcb4a4e797316f3a211b1c3801 +size 11696749 diff --git a/eval_2025-02-09-14-03-10/llamaboard_config.yaml b/eval_2025-02-09-14-03-10/llamaboard_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..ff053bab9576d3fd9c2fe604e8b253d34f2967f5 --- /dev/null +++ b/eval_2025-02-09-14-03-10/llamaboard_config.yaml @@ -0,0 +1,19 @@ +eval.batch_size: 1 +eval.cutoff_len: 2048 +eval.dataset: +- test_hal_detection_1125 +eval.dataset_dir: data +eval.max_new_tokens: 512 +eval.max_samples: '100000' +eval.output_dir: eval_2025-02-09-14-03-10 +eval.predict: true +eval.temperature: 0.95 +eval.top_p: 0.7 +top.booster: auto +top.checkpoint_path: train_2025-02-07-00-42-22_qwen +top.finetuning_type: full +top.model_name: Qwen2.5-7B-Instruct +top.quantization_bit: none +top.quantization_method: bitsandbytes +top.rope_scaling: none +top.template: qwen diff --git a/eval_2025-02-09-14-03-10/predict_results.json b/eval_2025-02-09-14-03-10/predict_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8ce07b8f041c282766bf2b1496b22a23c663fd6e --- /dev/null +++ b/eval_2025-02-09-14-03-10/predict_results.json @@ -0,0 +1,10 @@ +{ + "predict_bleu-4": 78.68414603703702, + "predict_model_preparation_time": 0.0084, + "predict_rouge-1": 90.219668, + "predict_rouge-2": 87.06174974074074, + "predict_rouge-l": 89.22581688888889, + "predict_runtime": 909.0068, + "predict_samples_per_second": 2.97, + "predict_steps_per_second": 1.485 +} \ No newline at end of file diff --git a/eval_2025-02-09-14-03-10/running_log.txt b/eval_2025-02-09-14-03-10/running_log.txt new file mode 100644 index 0000000000000000000000000000000000000000..418e5e3cfe737984d75672f21f111f1105596599 --- /dev/null +++ b/eval_2025-02-09-14-03-10/running_log.txt @@ -0,0 +1,146 @@ +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file added_tokens.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file special_tokens_map.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file tokenizer_config.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file chat_template.jinja + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2304 >> Special tokens have been added in the vocabulary, make sure the associated word embeddings are fine-tuned or trained. + +[INFO|2025-02-09 14:04:47] configuration_utils.py:694 >> loading configuration file saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/config.json + +[INFO|2025-02-09 14:04:47] configuration_utils.py:768 >> Model config Qwen2Config { + "_name_or_path": "saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen", + "architectures": [ + "Qwen2ForCausalLM" + ], + "attention_dropout": 0.0, + "bos_token_id": 151643, + "eos_token_id": 151645, + "hidden_act": "silu", + "hidden_size": 3584, + "initializer_range": 0.02, + "intermediate_size": 18944, + "max_position_embeddings": 32768, + "max_window_layers": 28, + "model_type": "qwen2", + "num_attention_heads": 28, + "num_hidden_layers": 28, + "num_key_value_heads": 4, + "rms_norm_eps": 1e-06, + "rope_scaling": null, + "rope_theta": 1000000.0, + "sliding_window": null, + "tie_word_embeddings": false, + "torch_dtype": "bfloat16", + "transformers_version": "4.48.2", + "use_cache": false, + "use_sliding_window": false, + "vocab_size": 152064 +} + + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file vocab.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file merges.txt + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file tokenizer.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file added_tokens.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file special_tokens_map.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file tokenizer_config.json + +[INFO|2025-02-09 14:04:47] tokenization_utils_base.py:2032 >> loading file chat_template.jinja + +[INFO|2025-02-09 14:04:48] tokenization_utils_base.py:2304 >> Special tokens have been added in the vocabulary, make sure the associated word embeddings are fine-tuned or trained. + +[INFO|2025-02-09 14:04:48] logging.py:157 >> Add <|im_end|> to stop words. + +[INFO|2025-02-09 14:04:48] logging.py:157 >> Loading dataset ragtruth_base_data/test_hallucination_detection_1125.json... + +[INFO|2025-02-09 14:04:53] configuration_utils.py:694 >> loading configuration file saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/config.json + +[INFO|2025-02-09 14:04:53] configuration_utils.py:768 >> Model config Qwen2Config { + "_name_or_path": "saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen", + "architectures": [ + "Qwen2ForCausalLM" + ], + "attention_dropout": 0.0, + "bos_token_id": 151643, + "eos_token_id": 151645, + "hidden_act": "silu", + "hidden_size": 3584, + "initializer_range": 0.02, + "intermediate_size": 18944, + "max_position_embeddings": 32768, + "max_window_layers": 28, + "model_type": "qwen2", + "num_attention_heads": 28, + "num_hidden_layers": 28, + "num_key_value_heads": 4, + "rms_norm_eps": 1e-06, + "rope_scaling": null, + "rope_theta": 1000000.0, + "sliding_window": null, + "tie_word_embeddings": false, + "torch_dtype": "bfloat16", + "transformers_version": "4.48.2", + "use_cache": false, + "use_sliding_window": false, + "vocab_size": 152064 +} + + +[INFO|2025-02-09 14:04:53] logging.py:157 >> Using KV cache for faster generation. + +[INFO|2025-02-09 14:04:53] modeling_utils.py:3901 >> loading weights file saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/model.safetensors.index.json + +[INFO|2025-02-09 14:04:53] modeling_utils.py:1582 >> Instantiating Qwen2ForCausalLM model under default dtype torch.bfloat16. + +[INFO|2025-02-09 14:04:53] configuration_utils.py:1140 >> Generate config GenerationConfig { + "bos_token_id": 151643, + "eos_token_id": 151645 +} + + +[INFO|2025-02-09 14:04:56] modeling_utils.py:4888 >> All model checkpoint weights were used when initializing Qwen2ForCausalLM. + + +[INFO|2025-02-09 14:04:56] modeling_utils.py:4896 >> All the weights of Qwen2ForCausalLM were initialized from the model checkpoint at saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen. +If your task is similar to the task the model of the checkpoint was trained on, you can already use Qwen2ForCausalLM for predictions without further training. + +[INFO|2025-02-09 14:04:57] configuration_utils.py:1093 >> loading configuration file saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/generation_config.json + +[INFO|2025-02-09 14:04:57] configuration_utils.py:1140 >> Generate config GenerationConfig { + "bos_token_id": 151643, + "do_sample": true, + "eos_token_id": [ + 151645, + 151643 + ], + "pad_token_id": 151643, + "repetition_penalty": 1.05, + "temperature": 0.7, + "top_k": 20, + "top_p": 0.8 +} + + +[INFO|2025-02-09 14:04:57] logging.py:157 >> Using torch SDPA for faster training and inference. + +[INFO|2025-02-09 14:04:57] logging.py:157 >> all params: 7,615,616,512 + +[WARNING|2025-02-09 14:04:57] logging.py:168 >> Batch generation can be very slow. Consider using `scripts/vllm_infer.py` instead. + +[INFO|2025-02-09 14:04:57] trainer.py:4226 >> +***** Running Prediction ***** + +[INFO|2025-02-09 14:04:57] trainer.py:4228 >> Num examples = 2700 + +[INFO|2025-02-09 14:04:57] trainer.py:4231 >> Batch size = 1 + +[INFO|2025-02-09 14:20:06] logging.py:157 >> Saving prediction results to saves/Qwen2.5-7B-Instruct/full/eval_2025-02-09-14-03-10/generated_predictions.jsonl + diff --git a/eval_2025-02-09-14-03-10/trainer_log.jsonl b/eval_2025-02-09-14-03-10/trainer_log.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..f1cfbf6caa8f664b1a37048dcdb93642227d0ea3 --- /dev/null +++ b/eval_2025-02-09-14-03-10/trainer_log.jsonl @@ -0,0 +1,270 @@ +{"current_steps": 5, "total_steps": 1350, "percentage": 0.37, "elapsed_time": "0:00:02", "remaining_time": "0:13:10"} +{"current_steps": 10, "total_steps": 1350, "percentage": 0.74, "elapsed_time": "0:00:04", "remaining_time": "0:10:21"} +{"current_steps": 15, "total_steps": 1350, "percentage": 1.11, "elapsed_time": "0:00:09", "remaining_time": "0:14:07"} +{"current_steps": 20, "total_steps": 1350, "percentage": 1.48, "elapsed_time": "0:00:11", "remaining_time": "0:12:28"} +{"current_steps": 25, "total_steps": 1350, "percentage": 1.85, "elapsed_time": "0:00:13", "remaining_time": "0:11:46"} +{"current_steps": 30, "total_steps": 1350, "percentage": 2.22, "elapsed_time": "0:00:15", "remaining_time": "0:11:24"} +{"current_steps": 35, "total_steps": 1350, "percentage": 2.59, "elapsed_time": "0:00:18", "remaining_time": "0:11:47"} +{"current_steps": 40, "total_steps": 1350, "percentage": 2.96, "elapsed_time": "0:00:21", "remaining_time": "0:11:37"} +{"current_steps": 45, "total_steps": 1350, "percentage": 3.33, "elapsed_time": "0:00:24", "remaining_time": "0:11:36"} +{"current_steps": 50, "total_steps": 1350, "percentage": 3.7, "elapsed_time": "0:00:25", "remaining_time": "0:11:06"} +{"current_steps": 55, "total_steps": 1350, "percentage": 4.07, "elapsed_time": "0:00:28", "remaining_time": "0:11:14"} +{"current_steps": 60, "total_steps": 1350, "percentage": 4.44, "elapsed_time": "0:00:32", "remaining_time": "0:11:44"} +{"current_steps": 65, "total_steps": 1350, "percentage": 4.81, "elapsed_time": "0:00:40", "remaining_time": "0:13:25"} +{"current_steps": 70, "total_steps": 1350, "percentage": 5.19, "elapsed_time": "0:00:42", "remaining_time": "0:12:54"} +{"current_steps": 75, "total_steps": 1350, "percentage": 5.56, "elapsed_time": "0:00:44", "remaining_time": "0:12:35"} +{"current_steps": 80, "total_steps": 1350, "percentage": 5.93, "elapsed_time": "0:00:49", "remaining_time": "0:13:05"} +{"current_steps": 85, "total_steps": 1350, "percentage": 6.3, "elapsed_time": "0:00:51", "remaining_time": "0:12:53"} +{"current_steps": 90, "total_steps": 1350, "percentage": 6.67, "elapsed_time": "0:00:56", "remaining_time": "0:13:06"} +{"current_steps": 95, "total_steps": 1350, "percentage": 7.04, "elapsed_time": "0:00:57", "remaining_time": "0:12:44"} +{"current_steps": 100, "total_steps": 1350, "percentage": 7.41, "elapsed_time": "0:01:06", "remaining_time": "0:13:56"} +{"current_steps": 105, "total_steps": 1350, "percentage": 7.78, "elapsed_time": "0:01:19", "remaining_time": "0:15:37"} +{"current_steps": 110, "total_steps": 1350, "percentage": 8.15, "elapsed_time": "0:01:24", "remaining_time": "0:15:52"} +{"current_steps": 115, "total_steps": 1350, "percentage": 8.52, "elapsed_time": "0:01:36", "remaining_time": "0:17:12"} +{"current_steps": 120, "total_steps": 1350, "percentage": 8.89, "elapsed_time": "0:01:37", "remaining_time": "0:16:43"} +{"current_steps": 125, "total_steps": 1350, "percentage": 9.26, "elapsed_time": "0:01:39", "remaining_time": "0:16:18"} +{"current_steps": 130, "total_steps": 1350, "percentage": 9.63, "elapsed_time": "0:01:41", "remaining_time": "0:15:53"} +{"current_steps": 135, "total_steps": 1350, "percentage": 10.0, "elapsed_time": "0:01:45", "remaining_time": "0:15:48"} +{"current_steps": 140, "total_steps": 1350, "percentage": 10.37, "elapsed_time": "0:01:47", "remaining_time": "0:15:27"} +{"current_steps": 145, "total_steps": 1350, "percentage": 10.74, "elapsed_time": "0:01:49", "remaining_time": "0:15:11"} +{"current_steps": 150, "total_steps": 1350, "percentage": 11.11, "elapsed_time": "0:01:51", "remaining_time": "0:14:55"} +{"current_steps": 155, "total_steps": 1350, "percentage": 11.48, "elapsed_time": "0:01:53", "remaining_time": "0:14:38"} +{"current_steps": 160, "total_steps": 1350, "percentage": 11.85, "elapsed_time": "0:01:58", "remaining_time": "0:14:43"} +{"current_steps": 165, "total_steps": 1350, "percentage": 12.22, "elapsed_time": "0:02:00", "remaining_time": "0:14:26"} +{"current_steps": 170, "total_steps": 1350, "percentage": 12.59, "elapsed_time": "0:02:02", "remaining_time": "0:14:10"} +{"current_steps": 175, "total_steps": 1350, "percentage": 12.96, "elapsed_time": "0:02:08", "remaining_time": "0:14:22"} +{"current_steps": 180, "total_steps": 1350, "percentage": 13.33, "elapsed_time": "0:02:10", "remaining_time": "0:14:11"} +{"current_steps": 185, "total_steps": 1350, "percentage": 13.7, "elapsed_time": "0:02:16", "remaining_time": "0:14:21"} +{"current_steps": 190, "total_steps": 1350, "percentage": 14.07, "elapsed_time": "0:02:18", "remaining_time": "0:14:05"} +{"current_steps": 195, "total_steps": 1350, "percentage": 14.44, "elapsed_time": "0:02:21", "remaining_time": "0:14:00"} +{"current_steps": 200, "total_steps": 1350, "percentage": 14.81, "elapsed_time": "0:02:25", "remaining_time": "0:13:59"} +{"current_steps": 205, "total_steps": 1350, "percentage": 15.19, "elapsed_time": "0:02:27", "remaining_time": "0:13:46"} +{"current_steps": 210, "total_steps": 1350, "percentage": 15.56, "elapsed_time": "0:02:32", "remaining_time": "0:13:47"} +{"current_steps": 215, "total_steps": 1350, "percentage": 15.93, "elapsed_time": "0:02:36", "remaining_time": "0:13:44"} +{"current_steps": 220, "total_steps": 1350, "percentage": 16.3, "elapsed_time": "0:02:39", "remaining_time": "0:13:37"} +{"current_steps": 225, "total_steps": 1350, "percentage": 16.67, "elapsed_time": "0:02:42", "remaining_time": "0:13:32"} +{"current_steps": 230, "total_steps": 1350, "percentage": 17.04, "elapsed_time": "0:02:48", "remaining_time": "0:13:39"} +{"current_steps": 235, "total_steps": 1350, "percentage": 17.41, "elapsed_time": "0:02:50", "remaining_time": "0:13:28"} +{"current_steps": 240, "total_steps": 1350, "percentage": 17.78, "elapsed_time": "0:02:53", "remaining_time": "0:13:21"} +{"current_steps": 245, "total_steps": 1350, "percentage": 18.15, "elapsed_time": "0:02:54", "remaining_time": "0:13:08"} +{"current_steps": 250, "total_steps": 1350, "percentage": 18.52, "elapsed_time": "0:02:57", "remaining_time": "0:13:02"} +{"current_steps": 255, "total_steps": 1350, "percentage": 18.89, "elapsed_time": "0:03:01", "remaining_time": "0:12:59"} +{"current_steps": 260, "total_steps": 1350, "percentage": 19.26, "elapsed_time": "0:03:03", "remaining_time": "0:12:48"} +{"current_steps": 265, "total_steps": 1350, "percentage": 19.63, "elapsed_time": "0:03:05", "remaining_time": "0:12:37"} +{"current_steps": 270, "total_steps": 1350, "percentage": 20.0, "elapsed_time": "0:03:09", "remaining_time": "0:12:36"} +{"current_steps": 275, "total_steps": 1350, "percentage": 20.37, "elapsed_time": "0:03:12", "remaining_time": "0:12:33"} +{"current_steps": 280, "total_steps": 1350, "percentage": 20.74, "elapsed_time": "0:03:14", "remaining_time": "0:12:25"} +{"current_steps": 285, "total_steps": 1350, "percentage": 21.11, "elapsed_time": "0:03:18", "remaining_time": "0:12:21"} +{"current_steps": 290, "total_steps": 1350, "percentage": 21.48, "elapsed_time": "0:03:20", "remaining_time": "0:12:14"} +{"current_steps": 295, "total_steps": 1350, "percentage": 21.85, "elapsed_time": "0:03:25", "remaining_time": "0:12:16"} +{"current_steps": 300, "total_steps": 1350, "percentage": 22.22, "elapsed_time": "0:03:35", "remaining_time": "0:12:32"} +{"current_steps": 305, "total_steps": 1350, "percentage": 22.59, "elapsed_time": "0:03:38", "remaining_time": "0:12:27"} +{"current_steps": 310, "total_steps": 1350, "percentage": 22.96, "elapsed_time": "0:03:41", "remaining_time": "0:12:22"} +{"current_steps": 315, "total_steps": 1350, "percentage": 23.33, "elapsed_time": "0:03:43", "remaining_time": "0:12:14"} +{"current_steps": 320, "total_steps": 1350, "percentage": 23.7, "elapsed_time": "0:03:45", "remaining_time": "0:12:07"} +{"current_steps": 325, "total_steps": 1350, "percentage": 24.07, "elapsed_time": "0:03:47", "remaining_time": "0:11:58"} +{"current_steps": 330, "total_steps": 1350, "percentage": 24.44, "elapsed_time": "0:03:52", "remaining_time": "0:11:59"} +{"current_steps": 335, "total_steps": 1350, "percentage": 24.81, "elapsed_time": "0:03:54", "remaining_time": "0:11:50"} +{"current_steps": 340, "total_steps": 1350, "percentage": 25.19, "elapsed_time": "0:03:59", "remaining_time": "0:11:50"} +{"current_steps": 345, "total_steps": 1350, "percentage": 25.56, "elapsed_time": "0:04:02", "remaining_time": "0:11:45"} +{"current_steps": 350, "total_steps": 1350, "percentage": 25.93, "elapsed_time": "0:04:05", "remaining_time": "0:11:40"} +{"current_steps": 355, "total_steps": 1350, "percentage": 26.3, "elapsed_time": "0:04:07", "remaining_time": "0:11:34"} +{"current_steps": 360, "total_steps": 1350, "percentage": 26.67, "elapsed_time": "0:04:09", "remaining_time": "0:11:25"} +{"current_steps": 365, "total_steps": 1350, "percentage": 27.04, "elapsed_time": "0:04:17", "remaining_time": "0:11:33"} +{"current_steps": 370, "total_steps": 1350, "percentage": 27.41, "elapsed_time": "0:04:20", "remaining_time": "0:11:30"} +{"current_steps": 375, "total_steps": 1350, "percentage": 27.78, "elapsed_time": "0:04:32", "remaining_time": "0:11:48"} +{"current_steps": 380, "total_steps": 1350, "percentage": 28.15, "elapsed_time": "0:04:34", "remaining_time": "0:11:40"} +{"current_steps": 385, "total_steps": 1350, "percentage": 28.52, "elapsed_time": "0:04:37", "remaining_time": "0:11:35"} +{"current_steps": 390, "total_steps": 1350, "percentage": 28.89, "elapsed_time": "0:04:39", "remaining_time": "0:11:27"} +{"current_steps": 395, "total_steps": 1350, "percentage": 29.26, "elapsed_time": "0:04:45", "remaining_time": "0:11:30"} +{"current_steps": 400, "total_steps": 1350, "percentage": 29.63, "elapsed_time": "0:04:47", "remaining_time": "0:11:23"} +{"current_steps": 405, "total_steps": 1350, "percentage": 30.0, "elapsed_time": "0:04:49", "remaining_time": "0:11:16"} +{"current_steps": 410, "total_steps": 1350, "percentage": 30.37, "elapsed_time": "0:04:51", "remaining_time": "0:11:08"} +{"current_steps": 415, "total_steps": 1350, "percentage": 30.74, "elapsed_time": "0:04:53", "remaining_time": "0:11:00"} +{"current_steps": 420, "total_steps": 1350, "percentage": 31.11, "elapsed_time": "0:05:02", "remaining_time": "0:11:09"} +{"current_steps": 425, "total_steps": 1350, "percentage": 31.48, "elapsed_time": "0:05:03", "remaining_time": "0:11:01"} +{"current_steps": 430, "total_steps": 1350, "percentage": 31.85, "elapsed_time": "0:05:05", "remaining_time": "0:10:53"} +{"current_steps": 435, "total_steps": 1350, "percentage": 32.22, "elapsed_time": "0:05:10", "remaining_time": "0:10:52"} +{"current_steps": 440, "total_steps": 1350, "percentage": 32.59, "elapsed_time": "0:05:12", "remaining_time": "0:10:45"} +{"current_steps": 445, "total_steps": 1350, "percentage": 32.96, "elapsed_time": "0:05:15", "remaining_time": "0:10:42"} +{"current_steps": 450, "total_steps": 1350, "percentage": 33.33, "elapsed_time": "0:05:17", "remaining_time": "0:10:35"} +{"current_steps": 455, "total_steps": 1350, "percentage": 33.7, "elapsed_time": "0:05:19", "remaining_time": "0:10:28"} +{"current_steps": 460, "total_steps": 1350, "percentage": 34.07, "elapsed_time": "0:05:22", "remaining_time": "0:10:23"} +{"current_steps": 465, "total_steps": 1350, "percentage": 34.44, "elapsed_time": "0:05:24", "remaining_time": "0:10:17"} +{"current_steps": 470, "total_steps": 1350, "percentage": 34.81, "elapsed_time": "0:05:26", "remaining_time": "0:10:11"} +{"current_steps": 475, "total_steps": 1350, "percentage": 35.19, "elapsed_time": "0:05:29", "remaining_time": "0:10:06"} +{"current_steps": 480, "total_steps": 1350, "percentage": 35.56, "elapsed_time": "0:05:31", "remaining_time": "0:10:01"} +{"current_steps": 485, "total_steps": 1350, "percentage": 35.93, "elapsed_time": "0:05:34", "remaining_time": "0:09:55"} +{"current_steps": 490, "total_steps": 1350, "percentage": 36.3, "elapsed_time": "0:05:36", "remaining_time": "0:09:49"} +{"current_steps": 495, "total_steps": 1350, "percentage": 36.67, "elapsed_time": "0:05:38", "remaining_time": "0:09:44"} +{"current_steps": 500, "total_steps": 1350, "percentage": 37.04, "elapsed_time": "0:05:40", "remaining_time": "0:09:38"} +{"current_steps": 505, "total_steps": 1350, "percentage": 37.41, "elapsed_time": "0:05:45", "remaining_time": "0:09:37"} +{"current_steps": 510, "total_steps": 1350, "percentage": 37.78, "elapsed_time": "0:05:47", "remaining_time": "0:09:32"} +{"current_steps": 515, "total_steps": 1350, "percentage": 38.15, "elapsed_time": "0:05:50", "remaining_time": "0:09:28"} +{"current_steps": 520, "total_steps": 1350, "percentage": 38.52, "elapsed_time": "0:05:53", "remaining_time": "0:09:24"} +{"current_steps": 525, "total_steps": 1350, "percentage": 38.89, "elapsed_time": "0:05:55", "remaining_time": "0:09:19"} +{"current_steps": 530, "total_steps": 1350, "percentage": 39.26, "elapsed_time": "0:05:58", "remaining_time": "0:09:14"} +{"current_steps": 535, "total_steps": 1350, "percentage": 39.63, "elapsed_time": "0:06:01", "remaining_time": "0:09:10"} +{"current_steps": 540, "total_steps": 1350, "percentage": 40.0, "elapsed_time": "0:06:03", "remaining_time": "0:09:05"} +{"current_steps": 545, "total_steps": 1350, "percentage": 40.37, "elapsed_time": "0:06:06", "remaining_time": "0:09:01"} +{"current_steps": 550, "total_steps": 1350, "percentage": 40.74, "elapsed_time": "0:06:10", "remaining_time": "0:08:58"} +{"current_steps": 555, "total_steps": 1350, "percentage": 41.11, "elapsed_time": "0:06:12", "remaining_time": "0:08:52"} +{"current_steps": 560, "total_steps": 1350, "percentage": 41.48, "elapsed_time": "0:06:14", "remaining_time": "0:08:47"} +{"current_steps": 565, "total_steps": 1350, "percentage": 41.85, "elapsed_time": "0:06:15", "remaining_time": "0:08:42"} +{"current_steps": 570, "total_steps": 1350, "percentage": 42.22, "elapsed_time": "0:06:20", "remaining_time": "0:08:40"} +{"current_steps": 575, "total_steps": 1350, "percentage": 42.59, "elapsed_time": "0:06:22", "remaining_time": "0:08:35"} +{"current_steps": 580, "total_steps": 1350, "percentage": 42.96, "elapsed_time": "0:06:24", "remaining_time": "0:08:30"} +{"current_steps": 585, "total_steps": 1350, "percentage": 43.33, "elapsed_time": "0:06:28", "remaining_time": "0:08:28"} +{"current_steps": 590, "total_steps": 1350, "percentage": 43.7, "elapsed_time": "0:06:30", "remaining_time": "0:08:23"} +{"current_steps": 595, "total_steps": 1350, "percentage": 44.07, "elapsed_time": "0:06:33", "remaining_time": "0:08:18"} +{"current_steps": 600, "total_steps": 1350, "percentage": 44.44, "elapsed_time": "0:06:35", "remaining_time": "0:08:14"} +{"current_steps": 605, "total_steps": 1350, "percentage": 44.81, "elapsed_time": "0:06:38", "remaining_time": "0:08:11"} +{"current_steps": 610, "total_steps": 1350, "percentage": 45.19, "elapsed_time": "0:06:41", "remaining_time": "0:08:07"} +{"current_steps": 615, "total_steps": 1350, "percentage": 45.56, "elapsed_time": "0:06:45", "remaining_time": "0:08:04"} +{"current_steps": 620, "total_steps": 1350, "percentage": 45.93, "elapsed_time": "0:06:48", "remaining_time": "0:08:01"} +{"current_steps": 625, "total_steps": 1350, "percentage": 46.3, "elapsed_time": "0:06:51", "remaining_time": "0:07:56"} +{"current_steps": 630, "total_steps": 1350, "percentage": 46.67, "elapsed_time": "0:06:53", "remaining_time": "0:07:52"} +{"current_steps": 635, "total_steps": 1350, "percentage": 47.04, "elapsed_time": "0:06:55", "remaining_time": "0:07:48"} +{"current_steps": 640, "total_steps": 1350, "percentage": 47.41, "elapsed_time": "0:06:57", "remaining_time": "0:07:43"} +{"current_steps": 645, "total_steps": 1350, "percentage": 47.78, "elapsed_time": "0:07:01", "remaining_time": "0:07:40"} +{"current_steps": 650, "total_steps": 1350, "percentage": 48.15, "elapsed_time": "0:07:03", "remaining_time": "0:07:35"} +{"current_steps": 655, "total_steps": 1350, "percentage": 48.52, "elapsed_time": "0:07:05", "remaining_time": "0:07:31"} +{"current_steps": 660, "total_steps": 1350, "percentage": 48.89, "elapsed_time": "0:07:07", "remaining_time": "0:07:27"} +{"current_steps": 665, "total_steps": 1350, "percentage": 49.26, "elapsed_time": "0:07:11", "remaining_time": "0:07:24"} +{"current_steps": 670, "total_steps": 1350, "percentage": 49.63, "elapsed_time": "0:07:13", "remaining_time": "0:07:19"} +{"current_steps": 675, "total_steps": 1350, "percentage": 50.0, "elapsed_time": "0:07:15", "remaining_time": "0:07:15"} +{"current_steps": 680, "total_steps": 1350, "percentage": 50.37, "elapsed_time": "0:07:20", "remaining_time": "0:07:13"} +{"current_steps": 685, "total_steps": 1350, "percentage": 50.74, "elapsed_time": "0:07:22", "remaining_time": "0:07:09"} +{"current_steps": 690, "total_steps": 1350, "percentage": 51.11, "elapsed_time": "0:07:23", "remaining_time": "0:07:04"} +{"current_steps": 695, "total_steps": 1350, "percentage": 51.48, "elapsed_time": "0:07:26", "remaining_time": "0:07:00"} +{"current_steps": 700, "total_steps": 1350, "percentage": 51.85, "elapsed_time": "0:07:28", "remaining_time": "0:06:56"} +{"current_steps": 705, "total_steps": 1350, "percentage": 52.22, "elapsed_time": "0:07:30", "remaining_time": "0:06:52"} +{"current_steps": 710, "total_steps": 1350, "percentage": 52.59, "elapsed_time": "0:07:33", "remaining_time": "0:06:48"} +{"current_steps": 715, "total_steps": 1350, "percentage": 52.96, "elapsed_time": "0:07:34", "remaining_time": "0:06:43"} +{"current_steps": 720, "total_steps": 1350, "percentage": 53.33, "elapsed_time": "0:07:38", "remaining_time": "0:06:41"} +{"current_steps": 725, "total_steps": 1350, "percentage": 53.7, "elapsed_time": "0:07:41", "remaining_time": "0:06:38"} +{"current_steps": 730, "total_steps": 1350, "percentage": 54.07, "elapsed_time": "0:07:44", "remaining_time": "0:06:34"} +{"current_steps": 735, "total_steps": 1350, "percentage": 54.44, "elapsed_time": "0:07:47", "remaining_time": "0:06:30"} +{"current_steps": 740, "total_steps": 1350, "percentage": 54.81, "elapsed_time": "0:07:51", "remaining_time": "0:06:28"} +{"current_steps": 745, "total_steps": 1350, "percentage": 55.19, "elapsed_time": "0:07:53", "remaining_time": "0:06:24"} +{"current_steps": 750, "total_steps": 1350, "percentage": 55.56, "elapsed_time": "0:07:57", "remaining_time": "0:06:21"} +{"current_steps": 755, "total_steps": 1350, "percentage": 55.93, "elapsed_time": "0:08:00", "remaining_time": "0:06:18"} +{"current_steps": 760, "total_steps": 1350, "percentage": 56.3, "elapsed_time": "0:08:02", "remaining_time": "0:06:14"} +{"current_steps": 765, "total_steps": 1350, "percentage": 56.67, "elapsed_time": "0:08:04", "remaining_time": "0:06:10"} +{"current_steps": 770, "total_steps": 1350, "percentage": 57.04, "elapsed_time": "0:08:06", "remaining_time": "0:06:06"} +{"current_steps": 775, "total_steps": 1350, "percentage": 57.41, "elapsed_time": "0:08:09", "remaining_time": "0:06:03"} +{"current_steps": 780, "total_steps": 1350, "percentage": 57.78, "elapsed_time": "0:08:11", "remaining_time": "0:05:58"} +{"current_steps": 785, "total_steps": 1350, "percentage": 58.15, "elapsed_time": "0:08:12", "remaining_time": "0:05:54"} +{"current_steps": 790, "total_steps": 1350, "percentage": 58.52, "elapsed_time": "0:08:15", "remaining_time": "0:05:51"} +{"current_steps": 795, "total_steps": 1350, "percentage": 58.89, "elapsed_time": "0:08:16", "remaining_time": "0:05:46"} +{"current_steps": 800, "total_steps": 1350, "percentage": 59.26, "elapsed_time": "0:08:19", "remaining_time": "0:05:43"} +{"current_steps": 805, "total_steps": 1350, "percentage": 59.63, "elapsed_time": "0:08:22", "remaining_time": "0:05:40"} +{"current_steps": 810, "total_steps": 1350, "percentage": 60.0, "elapsed_time": "0:08:24", "remaining_time": "0:05:36"} +{"current_steps": 815, "total_steps": 1350, "percentage": 60.37, "elapsed_time": "0:08:26", "remaining_time": "0:05:32"} +{"current_steps": 820, "total_steps": 1350, "percentage": 60.74, "elapsed_time": "0:08:29", "remaining_time": "0:05:29"} +{"current_steps": 825, "total_steps": 1350, "percentage": 61.11, "elapsed_time": "0:08:31", "remaining_time": "0:05:25"} +{"current_steps": 830, "total_steps": 1350, "percentage": 61.48, "elapsed_time": "0:08:33", "remaining_time": "0:05:21"} +{"current_steps": 835, "total_steps": 1350, "percentage": 61.85, "elapsed_time": "0:08:35", "remaining_time": "0:05:17"} +{"current_steps": 840, "total_steps": 1350, "percentage": 62.22, "elapsed_time": "0:08:37", "remaining_time": "0:05:14"} +{"current_steps": 845, "total_steps": 1350, "percentage": 62.59, "elapsed_time": "0:08:40", "remaining_time": "0:05:10"} +{"current_steps": 850, "total_steps": 1350, "percentage": 62.96, "elapsed_time": "0:08:41", "remaining_time": "0:05:06"} +{"current_steps": 855, "total_steps": 1350, "percentage": 63.33, "elapsed_time": "0:08:43", "remaining_time": "0:05:03"} +{"current_steps": 860, "total_steps": 1350, "percentage": 63.7, "elapsed_time": "0:08:46", "remaining_time": "0:04:59"} +{"current_steps": 865, "total_steps": 1350, "percentage": 64.07, "elapsed_time": "0:08:48", "remaining_time": "0:04:56"} +{"current_steps": 870, "total_steps": 1350, "percentage": 64.44, "elapsed_time": "0:08:50", "remaining_time": "0:04:52"} +{"current_steps": 875, "total_steps": 1350, "percentage": 64.81, "elapsed_time": "0:08:52", "remaining_time": "0:04:48"} +{"current_steps": 880, "total_steps": 1350, "percentage": 65.19, "elapsed_time": "0:08:54", "remaining_time": "0:04:45"} +{"current_steps": 885, "total_steps": 1350, "percentage": 65.56, "elapsed_time": "0:08:56", "remaining_time": "0:04:41"} +{"current_steps": 890, "total_steps": 1350, "percentage": 65.93, "elapsed_time": "0:08:58", "remaining_time": "0:04:38"} +{"current_steps": 895, "total_steps": 1350, "percentage": 66.3, "elapsed_time": "0:09:01", "remaining_time": "0:04:35"} +{"current_steps": 900, "total_steps": 1350, "percentage": 66.67, "elapsed_time": "0:09:03", "remaining_time": "0:04:31"} +{"current_steps": 905, "total_steps": 1350, "percentage": 67.04, "elapsed_time": "0:09:07", "remaining_time": "0:04:29"} +{"current_steps": 910, "total_steps": 1350, "percentage": 67.41, "elapsed_time": "0:09:11", "remaining_time": "0:04:26"} +{"current_steps": 915, "total_steps": 1350, "percentage": 67.78, "elapsed_time": "0:09:15", "remaining_time": "0:04:24"} +{"current_steps": 920, "total_steps": 1350, "percentage": 68.15, "elapsed_time": "0:09:18", "remaining_time": "0:04:21"} +{"current_steps": 925, "total_steps": 1350, "percentage": 68.52, "elapsed_time": "0:09:22", "remaining_time": "0:04:18"} +{"current_steps": 930, "total_steps": 1350, "percentage": 68.89, "elapsed_time": "0:09:26", "remaining_time": "0:04:15"} +{"current_steps": 935, "total_steps": 1350, "percentage": 69.26, "elapsed_time": "0:09:30", "remaining_time": "0:04:13"} +{"current_steps": 940, "total_steps": 1350, "percentage": 69.63, "elapsed_time": "0:09:33", "remaining_time": "0:04:10"} +{"current_steps": 945, "total_steps": 1350, "percentage": 70.0, "elapsed_time": "0:09:36", "remaining_time": "0:04:07"} +{"current_steps": 950, "total_steps": 1350, "percentage": 70.37, "elapsed_time": "0:09:40", "remaining_time": "0:04:04"} +{"current_steps": 955, "total_steps": 1350, "percentage": 70.74, "elapsed_time": "0:09:44", "remaining_time": "0:04:01"} +{"current_steps": 960, "total_steps": 1350, "percentage": 71.11, "elapsed_time": "0:09:50", "remaining_time": "0:04:00"} +{"current_steps": 965, "total_steps": 1350, "percentage": 71.48, "elapsed_time": "0:09:54", "remaining_time": "0:03:57"} +{"current_steps": 970, "total_steps": 1350, "percentage": 71.85, "elapsed_time": "0:09:59", "remaining_time": "0:03:54"} +{"current_steps": 975, "total_steps": 1350, "percentage": 72.22, "elapsed_time": "0:10:03", "remaining_time": "0:03:52"} +{"current_steps": 980, "total_steps": 1350, "percentage": 72.59, "elapsed_time": "0:10:06", "remaining_time": "0:03:49"} +{"current_steps": 985, "total_steps": 1350, "percentage": 72.96, "elapsed_time": "0:10:12", "remaining_time": "0:03:47"} +{"current_steps": 990, "total_steps": 1350, "percentage": 73.33, "elapsed_time": "0:10:16", "remaining_time": "0:03:44"} +{"current_steps": 995, "total_steps": 1350, "percentage": 73.7, "elapsed_time": "0:10:19", "remaining_time": "0:03:40"} +{"current_steps": 1000, "total_steps": 1350, "percentage": 74.07, "elapsed_time": "0:10:22", "remaining_time": "0:03:37"} +{"current_steps": 1005, "total_steps": 1350, "percentage": 74.44, "elapsed_time": "0:10:26", "remaining_time": "0:03:35"} +{"current_steps": 1010, "total_steps": 1350, "percentage": 74.81, "elapsed_time": "0:10:30", "remaining_time": "0:03:32"} +{"current_steps": 1015, "total_steps": 1350, "percentage": 75.19, "elapsed_time": "0:10:34", "remaining_time": "0:03:29"} +{"current_steps": 1020, "total_steps": 1350, "percentage": 75.56, "elapsed_time": "0:10:40", "remaining_time": "0:03:27"} +{"current_steps": 1025, "total_steps": 1350, "percentage": 75.93, "elapsed_time": "0:10:43", "remaining_time": "0:03:24"} +{"current_steps": 1030, "total_steps": 1350, "percentage": 76.3, "elapsed_time": "0:10:47", "remaining_time": "0:03:21"} +{"current_steps": 1035, "total_steps": 1350, "percentage": 76.67, "elapsed_time": "0:10:53", "remaining_time": "0:03:18"} +{"current_steps": 1040, "total_steps": 1350, "percentage": 77.04, "elapsed_time": "0:10:56", "remaining_time": "0:03:15"} +{"current_steps": 1045, "total_steps": 1350, "percentage": 77.41, "elapsed_time": "0:11:00", "remaining_time": "0:03:12"} +{"current_steps": 1050, "total_steps": 1350, "percentage": 77.78, "elapsed_time": "0:11:05", "remaining_time": "0:03:10"} +{"current_steps": 1055, "total_steps": 1350, "percentage": 78.15, "elapsed_time": "0:11:09", "remaining_time": "0:03:07"} +{"current_steps": 1060, "total_steps": 1350, "percentage": 78.52, "elapsed_time": "0:11:14", "remaining_time": "0:03:04"} +{"current_steps": 1065, "total_steps": 1350, "percentage": 78.89, "elapsed_time": "0:11:18", "remaining_time": "0:03:01"} +{"current_steps": 1070, "total_steps": 1350, "percentage": 79.26, "elapsed_time": "0:11:22", "remaining_time": "0:02:58"} +{"current_steps": 1075, "total_steps": 1350, "percentage": 79.63, "elapsed_time": "0:11:26", "remaining_time": "0:02:55"} +{"current_steps": 1080, "total_steps": 1350, "percentage": 80.0, "elapsed_time": "0:11:32", "remaining_time": "0:02:53"} +{"current_steps": 1085, "total_steps": 1350, "percentage": 80.37, "elapsed_time": "0:11:37", "remaining_time": "0:02:50"} +{"current_steps": 1090, "total_steps": 1350, "percentage": 80.74, "elapsed_time": "0:11:41", "remaining_time": "0:02:47"} +{"current_steps": 1095, "total_steps": 1350, "percentage": 81.11, "elapsed_time": "0:11:45", "remaining_time": "0:02:44"} +{"current_steps": 1100, "total_steps": 1350, "percentage": 81.48, "elapsed_time": "0:11:49", "remaining_time": "0:02:41"} +{"current_steps": 1105, "total_steps": 1350, "percentage": 81.85, "elapsed_time": "0:11:53", "remaining_time": "0:02:38"} +{"current_steps": 1110, "total_steps": 1350, "percentage": 82.22, "elapsed_time": "0:11:56", "remaining_time": "0:02:35"} +{"current_steps": 1115, "total_steps": 1350, "percentage": 82.59, "elapsed_time": "0:12:01", "remaining_time": "0:02:31"} +{"current_steps": 1120, "total_steps": 1350, "percentage": 82.96, "elapsed_time": "0:12:06", "remaining_time": "0:02:29"} +{"current_steps": 1125, "total_steps": 1350, "percentage": 83.33, "elapsed_time": "0:12:11", "remaining_time": "0:02:26"} +{"current_steps": 1130, "total_steps": 1350, "percentage": 83.7, "elapsed_time": "0:12:16", "remaining_time": "0:02:23"} +{"current_steps": 1135, "total_steps": 1350, "percentage": 84.07, "elapsed_time": "0:12:20", "remaining_time": "0:02:20"} +{"current_steps": 1140, "total_steps": 1350, "percentage": 84.44, "elapsed_time": "0:12:23", "remaining_time": "0:02:17"} +{"current_steps": 1145, "total_steps": 1350, "percentage": 84.81, "elapsed_time": "0:12:26", "remaining_time": "0:02:13"} +{"current_steps": 1150, "total_steps": 1350, "percentage": 85.19, "elapsed_time": "0:12:30", "remaining_time": "0:02:10"} +{"current_steps": 1155, "total_steps": 1350, "percentage": 85.56, "elapsed_time": "0:12:35", "remaining_time": "0:02:07"} +{"current_steps": 1160, "total_steps": 1350, "percentage": 85.93, "elapsed_time": "0:12:38", "remaining_time": "0:02:04"} +{"current_steps": 1165, "total_steps": 1350, "percentage": 86.3, "elapsed_time": "0:12:44", "remaining_time": "0:02:01"} +{"current_steps": 1170, "total_steps": 1350, "percentage": 86.67, "elapsed_time": "0:12:48", "remaining_time": "0:01:58"} +{"current_steps": 1175, "total_steps": 1350, "percentage": 87.04, "elapsed_time": "0:12:51", "remaining_time": "0:01:54"} +{"current_steps": 1180, "total_steps": 1350, "percentage": 87.41, "elapsed_time": "0:12:56", "remaining_time": "0:01:51"} +{"current_steps": 1185, "total_steps": 1350, "percentage": 87.78, "elapsed_time": "0:12:59", "remaining_time": "0:01:48"} +{"current_steps": 1190, "total_steps": 1350, "percentage": 88.15, "elapsed_time": "0:13:04", "remaining_time": "0:01:45"} +{"current_steps": 1195, "total_steps": 1350, "percentage": 88.52, "elapsed_time": "0:13:06", "remaining_time": "0:01:42"} +{"current_steps": 1200, "total_steps": 1350, "percentage": 88.89, "elapsed_time": "0:13:10", "remaining_time": "0:01:38"} +{"current_steps": 1205, "total_steps": 1350, "percentage": 89.26, "elapsed_time": "0:13:14", "remaining_time": "0:01:35"} +{"current_steps": 1210, "total_steps": 1350, "percentage": 89.63, "elapsed_time": "0:13:17", "remaining_time": "0:01:32"} +{"current_steps": 1215, "total_steps": 1350, "percentage": 90.0, "elapsed_time": "0:13:22", "remaining_time": "0:01:29"} +{"current_steps": 1220, "total_steps": 1350, "percentage": 90.37, "elapsed_time": "0:13:25", "remaining_time": "0:01:25"} +{"current_steps": 1225, "total_steps": 1350, "percentage": 90.74, "elapsed_time": "0:13:28", "remaining_time": "0:01:22"} +{"current_steps": 1230, "total_steps": 1350, "percentage": 91.11, "elapsed_time": "0:13:32", "remaining_time": "0:01:19"} +{"current_steps": 1235, "total_steps": 1350, "percentage": 91.48, "elapsed_time": "0:13:35", "remaining_time": "0:01:15"} +{"current_steps": 1240, "total_steps": 1350, "percentage": 91.85, "elapsed_time": "0:13:37", "remaining_time": "0:01:12"} +{"current_steps": 1245, "total_steps": 1350, "percentage": 92.22, "elapsed_time": "0:13:44", "remaining_time": "0:01:09"} +{"current_steps": 1250, "total_steps": 1350, "percentage": 92.59, "elapsed_time": "0:13:48", "remaining_time": "0:01:06"} +{"current_steps": 1255, "total_steps": 1350, "percentage": 92.96, "elapsed_time": "0:13:52", "remaining_time": "0:01:03"} +{"current_steps": 1260, "total_steps": 1350, "percentage": 93.33, "elapsed_time": "0:13:55", "remaining_time": "0:00:59"} +{"current_steps": 1265, "total_steps": 1350, "percentage": 93.7, "elapsed_time": "0:13:59", "remaining_time": "0:00:56"} +{"current_steps": 1270, "total_steps": 1350, "percentage": 94.07, "elapsed_time": "0:14:03", "remaining_time": "0:00:53"} +{"current_steps": 1275, "total_steps": 1350, "percentage": 94.44, "elapsed_time": "0:14:08", "remaining_time": "0:00:49"} +{"current_steps": 1280, "total_steps": 1350, "percentage": 94.81, "elapsed_time": "0:14:10", "remaining_time": "0:00:46"} +{"current_steps": 1285, "total_steps": 1350, "percentage": 95.19, "elapsed_time": "0:14:14", "remaining_time": "0:00:43"} +{"current_steps": 1290, "total_steps": 1350, "percentage": 95.56, "elapsed_time": "0:14:17", "remaining_time": "0:00:39"} +{"current_steps": 1295, "total_steps": 1350, "percentage": 95.93, "elapsed_time": "0:14:20", "remaining_time": "0:00:36"} +{"current_steps": 1300, "total_steps": 1350, "percentage": 96.3, "elapsed_time": "0:14:25", "remaining_time": "0:00:33"} +{"current_steps": 1305, "total_steps": 1350, "percentage": 96.67, "elapsed_time": "0:14:29", "remaining_time": "0:00:29"} +{"current_steps": 1310, "total_steps": 1350, "percentage": 97.04, "elapsed_time": "0:14:32", "remaining_time": "0:00:26"} +{"current_steps": 1315, "total_steps": 1350, "percentage": 97.41, "elapsed_time": "0:14:36", "remaining_time": "0:00:23"} +{"current_steps": 1320, "total_steps": 1350, "percentage": 97.78, "elapsed_time": "0:14:40", "remaining_time": "0:00:20"} +{"current_steps": 1325, "total_steps": 1350, "percentage": 98.15, "elapsed_time": "0:14:43", "remaining_time": "0:00:16"} +{"current_steps": 1330, "total_steps": 1350, "percentage": 98.52, "elapsed_time": "0:14:47", "remaining_time": "0:00:13"} +{"current_steps": 1335, "total_steps": 1350, "percentage": 98.89, "elapsed_time": "0:14:50", "remaining_time": "0:00:10"} +{"current_steps": 1340, "total_steps": 1350, "percentage": 99.26, "elapsed_time": "0:14:55", "remaining_time": "0:00:06"} +{"current_steps": 1345, "total_steps": 1350, "percentage": 99.63, "elapsed_time": "0:14:59", "remaining_time": "0:00:03"} +{"current_steps": 1350, "total_steps": 1350, "percentage": 100.0, "elapsed_time": "0:15:03", "remaining_time": "0:00:00"} diff --git a/eval_2025-02-09-14-03-10/training_args.yaml b/eval_2025-02-09-14-03-10/training_args.yaml new file mode 100644 index 0000000000000000000000000000000000000000..0d0991e9044b046dffb2dd4c1a0cd7c6d5458bef --- /dev/null +++ b/eval_2025-02-09-14-03-10/training_args.yaml @@ -0,0 +1,19 @@ +cutoff_len: 2048 +dataset_dir: data +do_predict: true +eval_dataset: test_hal_detection_1125 +finetuning_type: full +flash_attn: auto +max_new_tokens: 512 +max_samples: 100000 +model_name_or_path: saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen +output_dir: saves/Qwen2.5-7B-Instruct/full/eval_2025-02-09-14-03-10 +per_device_eval_batch_size: 1 +predict_with_generate: true +preprocessing_num_workers: 16 +quantization_method: bitsandbytes +stage: sft +temperature: 0.95 +template: qwen +top_p: 0.7 +trust_remote_code: true diff --git a/generation_config.json b/generation_config.json new file mode 100644 index 0000000000000000000000000000000000000000..c093dd9fd9af387f3cddd82983b9e62ecff385ad --- /dev/null +++ b/generation_config.json @@ -0,0 +1,14 @@ +{ + "bos_token_id": 151643, + "do_sample": true, + "eos_token_id": [ + 151645, + 151643 + ], + "pad_token_id": 151643, + "repetition_penalty": 1.05, + "temperature": 0.7, + "top_k": 20, + "top_p": 0.8, + "transformers_version": "4.48.2" +} diff --git a/merges.txt b/merges.txt new file mode 100644 index 0000000000000000000000000000000000000000..31349551d90c7606f325fe0f11bbb8bd5fa0d7c7 --- /dev/null +++ b/merges.txt @@ -0,0 +1,151388 @@ +#version: 0.2 +Ġ Ġ +ĠĠ ĠĠ +i n +Ġ t +ĠĠĠĠ ĠĠĠĠ +e r +ĠĠ Ġ +o n +Ġ a +r e +a t +s t +e n +o r +Ġt h +Ċ Ċ +Ġ c +l e +Ġ s +i t +a n +a r +a l +Ġth e +; Ċ +Ġ p +Ġ f +o u +Ġ = +i s +ĠĠĠĠ ĠĠĠ +in g +e s +Ġ w +i on +e d +i c +Ġ b +Ġ d +e t +Ġ m +Ġ o +ĉ ĉ +r o +a s +e l +c t +n d +Ġ in +Ġ h +en t +i d +Ġ n +a m +ĠĠĠĠĠĠĠĠ ĠĠĠ +Ġt o +Ġ re +- - +Ġ { +Ġo f +o m +) ;Ċ +i m +č Ċ +Ġ ( +i l +/ / +Ġa nd +u r +s e +Ġ l +e x +Ġ S +a d +Ġ " +c h +u t +i f +* * +Ġ } +e m +o l +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠ +t h +) Ċ +Ġ{ Ċ +Ġ g +i g +i v +, Ċ +c e +o d +Ġ v +at e +Ġ T +a g +a y +Ġ * +o t +u s +Ġ C +Ġ st +Ġ I +u n +u l +u e +Ġ A +o w +Ġ ' +e w +Ġ < +at ion +( ) +Ġf or +a b +or t +u m +am e +Ġ is +p e +t r +c k +â Ģ +Ġ y +i st +-- -- +. ĊĊ +h e +Ġ e +l o +Ġ M +Ġb e +er s +Ġ on +Ġc on +a p +u b +Ġ P +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠ +as s +in t +> Ċ +l y +ur n +Ġ $ +; ĊĊ +a v +p ort +i r +- > +n t +ct ion +en d +Ġd e +it h +ou t +t urn +ou r +ĠĠĠĠ Ġ +l ic +re s +p t += = +Ġth is +Ġw h +Ġ if +Ġ D +v er +ag e +Ġ B +h t +ex t += " +Ġth at +** ** +Ġ R +Ġ it +es s +Ġ F +Ġ r +o s +an d +Ġa s +e ct +k e +ro m +Ġ // +c on +Ġ L +( " +q u +l ass +Ġw ith +i z +d e +Ġ N +Ġa l +o p +u p +g et +Ġ} Ċ +i le +Ġa n +at a +o re +r i +Ġp ro +; čĊ +ĉĉ ĉĉ +t er +a in +Ġ W +Ġ E +Ġc om +Ġre turn +ar t +Ġ H +a ck +im port +ub lic +Ġ or +e st +m ent +Ġ G +ab le +Ġ - +in e +il l +in d +er e +: : +it y +Ġ + +Ġt r +el f +ig ht +( ' +or m +ul t +st r +. . +" , +Ġy ou +y pe +p l +Ġn ew +Ġ j +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠ +Ġf rom +Ġ ex +Ġ O +l d +Ġ [ +o c +: Ċ +Ġs e +Ġ le +---- ---- +. s +{ Ċ +' , +an t +Ġa t +as e +. c +Ġc h +< / +av e +an g +Ġa re +Ġin t +âĢ Ļ +_ t +er t +i al +a ct +} Ċ +iv e +od e +o st +Ġc lass +Ġn ot +o g +or d +al ue +al l +f f +( );Ċ +on t +im e +a re +Ġ U +Ġp r +Ġ : +i es +iz e +u re +Ġb y +i re +Ġ} ĊĊ +. p +Ġs h +ic e +a st +pt ion +tr ing +o k +_ _ +c l +# # +Ġh e +ar d +) . +Ġ @ +i ew +ĉĉ ĉ +Ġw as +i p +th is +Ġ u +ĠT he +id e +a ce +i b +a c +r ou +Ġw e +j ect +Ġp ublic +a k +v e +at h +o id +Ġ= > +u st +q ue +Ġre s +) ) +' s +Ġ k +an s +y st +un ction +**** **** +Ġ i +Ġ us +p p +on e +a il +== == +n ame +Ġst r +Ġ / +Ġ & +a ch +d iv +yst em +el l +Ġh ave +er r +ou ld +ul l +p on +Ġ J +_ p +Ġ= = +ig n +S t +. Ċ +Ġp l +) ;ĊĊ +f orm +p ut +ou nt +} ĊĊ +d d +it e +Ġg et +r r +om e +Ġ âĢ +ar am +c c +Ġ* / +E R +I n +le s +_ s +on g +i e +Ġc an +Ġ V +er v +p r +Ġ un +ro w +b er +Ġd o +l l +Ġ el +Ġs elf +at ed +ar y +Ġ . +' ] +u d +Ġ en +ĠT h +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠ +t e +_ c +u ct +Ġa b +or k +. get +Ġ # +a w +res s +o b +N ame +ap p +[ ' +Ġal l +or y +it ion +an ce +e ar +Ġcon t +v ent +i a +Ġw ill +I N +ĠĠĠĠĠĠĠĠ Ġ +re turn +Ġ< / +d ata +) ĊĊ +R e +p le +il d +th er +Ġy our +" Ċ +( $ +Ġ out +) , +Ġh as +S tring +s o +Ġ up +a x +Ġde f +Ġb o +g e +al se +O N +p er +ic h +Ġb ut +Ġ Ċ +Ġ _ +_ m +ad d +que st +od el +s elf +er y +f t +en s +// // +a ke +. C +Ġg o +Ġf unction +Ġ K +iv ate +Ġ im +Ġcon st +. t +Ġ*/ Ċ +) ;čĊ +Ġv oid +Ġs et +ĠS ystem +c ri +( )Ċ +l i +ĉ if +. m +al ly +s et +e p +âĢĻ s +b o +de f +' ,Ċ +Ġm e +Ġ ! +at ch +" > +" ,Ċ +e c +ĠI n +p h +Ġ | +_ f +Ġv ar +en ce +I d +re e +in k +le ct +u g +et h +Ġel se +-------- -------- +con t +Ġs o +at ic +Ġl o +p ro +t on +s s +ow n +ab el +o int +ou s +el d +S T +T he +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +R E +" : +ol or +t p +e g +ke y +u de +ĠS t +ou nd +Ġa r +" );Ċ +en er +s er +b ject +ess age +f er +Ġm ore +ation s +ent s +Ġh is +Ġthe y +. S +Ġ Y +u se +n e +is h +ol d +_ d +i o +i eld +Ġp er +C ont +ing s +## ## +Ġd ata +Ġs a +e f +f o +Ġon e +en g +Ġd is +A T +Ġn ame +Ġtr ue +v al +le d +. f +Ġn e +Ġ end +. T +c re +ar k +lo g +E x +err or +_ id +ur re +ang e +Ġn ull +rr ay +Ġm y +p an +ic t +at or +V iew +L ist +ĉ return +âĢ Ŀ +Ġp re +Ġ x +cl ude +ar g +o v +. h +Ġ > +Ġthe ir +' ) +ir st +ic k +g h +L E +O R +Ġpr ivate +t em +čĊ čĊ +us er +Ġ ) +c om +. A +" ;Ċ +Ġ id +re ad +Ġwh o +_ b +" >Ċ +Ġt ime +Ġm an +r y +==== ==== +rou p +ro p +p ublic +v el +um ber +b le +Ġwh ich +******** ******** +Ġan y +Ġf alse +w e +Ġv alue +Ġl i +" ) +nd er +g r +Ġn o +p aram +f ig +.c om +Ġa pp +_ l +ion s +. D +ĠC h +Ġab out +Ġa dd +Ġs u +Ġstr ing +I D +Ġo ver +str ing +. l +our ce +_ C +] Ċ +Ġ qu +ĠS tring +c a +S E +Ġ ro +s h +u al +T ype +s on +n ew +er n +Ġa g +A R +] ;Ċ +] . +Ġ ? +ic al +Ġd es +ut h +i x +ay s +Ġt ype +' t +a ult +Ġin ter +v ar +. b +Ġp art +. d +urre nt +I T +E N +en c +( f +r a +v alue +ch o +ut ton +o se +Ġ! = +at er +à © +re ate +ol l +p os +y le +n g +A L +us ing +am es +Ġ{ čĊ +at es +el y +Ġw ork +Ġ em +in al +Ġs p +Ġwh en +.s et +ĠĠĠĠ ĠĠ +) :Ċ +t o +qu ire +ind ow +le ment +pe ct +as h +[ i +Ġu se +. F +pe c +Ġa d +o ve +ce ption +eng th +in clude +ad er +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠ +at us +T h +it le +r it +v oid +() . +( Ċ +Ġof f +Ġo ther +Ġ& & +' ;Ċ +m s +Ġbe en +Ġt e +m l +c o +n c +erv ice +Ġ % +** Ċ +an n +ad e +ĊĊ ĊĊ +lo ck +con st +pon se +Ġs up ++ + +d ate +Ġa cc +Ġh ad +Ġb u +ĠR e +Ġw ere +Ġf ile +Ġw ould +ĠâĢ ľ +v en +is s +Ġ our +c lass +r aw +Ġy ear +D ata +Ġv al +Ġs ome +f ter +y s +Ġ// / +rou nd +v iew +Ġp e +Ġth ere +Ġsa id +d u +o f +l ine +/ * +d uct +Ġh er +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠ +R es +Ġc o +Ġcom m +is e +m in +ĠĠĠĠ Ċ +# include +eth od +. P +ut e +Ġas s +I nt +as k +lo c +Ġli ke +od y +Ġle t +lo ad +Ġa m +ro l +Ġg r +y p +Ġal so +ĠI t +ur l +if ic +or s +_ P +_ n +ig h +Ġth an +C om +A N +U L +at ing +ĠTh is +re f +_ S +Ġst atic +ro ll +Ġj ust +Ġres ult +i an +id th +Ġthe m +) );Ċ +d er +re ak +C on +: // +u le +.. . +ar ch +em ent +Ġ< < +us h +en se +ar r +Ġint o +c ess +am p +i ed +um ent +Ġ \ +] , +w o +al s +Ġwh at +an c +V alue += ' +ol um +Ġp os +ag es +ay er +Ġs c +u es +" )Ċ +_ T +Ġl ist +( s +Ġc ase +C h +ĉĉĉĉ ĉ +//// //// +pon ent +Ġ z +Ġk n +le t +D E +re d +Ġf e +Ġ} ,Ċ +Ġ , +( t +Ġf irst +' );Ċ +w ord +Ġ import +Ġa ct +Ġch ar +C T +ĠT r +op le += { +ĉ f +i ent +c ent +. j +le ction +) )Ċ +Ġon ly +Ġpr int +m er +. W +o ck +Ġ -- +T ext +Ġo p +an k +Ġit s +Ġb ack +[ " +Ġne ed +Ġc l +Ġs ub +Ġl a +( ( +. " +O bject +Ġst art +f ile +( self +n er +e y +Ġus er +Ġ ent +ĠC om +it s +ĠC on +ou ble +ow er +it em +ver y +ĠW e +lic k +Ġ Q +ph p +t tp +' : +ic s +Ġu nder +Ġ* Ċ +. L +) ; +ic es +Ġre g +) čĊ +ĉ public +S S +Ġth en +re at +i ous +. G +e k +ire ct +he ck +cri pt +n ing +ĠU n +Ġm ay +ĠW h +B o +I tem +str uct +. st +re am +ib le +lo at +Ġor g +u nd +s um +_ in +.. / +_ M +Ġh ow +r ite +' Ċ +T o +w w +Ġpe ople +ind ex +. n +ht tp +( m +ect or +Ġin d +Ġj av +] ,Ċ +ĠH e +_ st +f ul +o le +) {Ċ +Ġsh ould +op y +el p +i er +_ name +ers on +I ON +ot e +Ġt est +Ġb et +rr or +ul ar +ã Ģ +Ġ Ð +b s +t ing +Ġm ake +T r +Ġa fter +ar get +R O +olum n +r c +_ re +def ine +Ġr ight +r ight +d ay +Ġl ong +[ ] +( p +t d +con d +ĠP ro +Ġre m +ption s +v id +. g +Ġ ext +Ġ __ +' )Ċ +p ace +m p +Ġm in +st ance +a ir +a ction +w h +t ype +ut il +a it +< ? +I C +t ext +Ġp h +Ġf l +. M +cc ess +b r +f ore +ers ion +) ,Ċ +. re +ate g +Ġl oc +in s +- s +tr ib +ĠI nt +Ġa rray +, " +P ro +( c +ess ion +> ĊĊ +Ġs he +" ] +ap h +Ġex p +ert y +ĠS e +Ġp ar +un c +E T +Ġre ad +pr int +Ġre l +Ġfor m +Ġd r +Ex ception +in put +Ġtr ans +#### #### +ord er +B y +Ġa w +it ies +u ff +pl ay +. add +ĠâĢ ĵ +Ġw ant +Ġcom p +ment s +Ġ| | +a z +b e +Ġn umber +Ġre quire +ĠE x +Ġc ol +Ġ key +em ber +Ġt wo +Ġs ize +Ġwh ere +U T +res ult +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ou gh +or ld +o od +u ch +at ive +g er +are nt +Ġ/ * +Ġar g +Ġwh ile +( this +Ġre c +Ġd if +St ate +Ġs pec +r ide +_ F +Ġlo ok +A M +il ity +et er +âĢĻ t +ĊĊ Ċ +ay out +---------------- ---------------- +ag er +Ġc ould +Ġb r +end s +u res +Ġkn ow +et s +ĠI f +ĠS h +. w +b ack +Ġs er +Ġ+ = +Ġf r +() );Ċ +Ġh and +I nd +UL L +I m +() ;ĊĊ +Ġm ost +Ġtr y +Ġn ow +rou gh +> čĊ +ack age +Ġh im +. _ +if y +Ġb reak +Ġ );Ċ +re n +# define +it t +Ġa p +ĉ c +( n +ĠY ou +: ĊĊ +- m +Ġe very +ust om +li ent +oc ument +cri ption +E rror +- b +Ð ¾ +] [ +tr ans +Ġp oint +Ġst d +Ġf il +T ime +Ġm od +Ġ -> +Ġ error +a h +Ġt ext +roll er +lo se +q l +Ġp ol +> < +. B +- c +Ġop en +Ġe st +ĠĠĠĠĠĠĠĠ Ċ +Ġn ext +I M +Ñ Ĥ +O T +à ³ +Ġf ollow +cont ent +ĠĠĠĠĠĠĠĠ ĠĠĠĠ +Ġin clud +H E +ĠR es +Ġh ref +Ð ¸ +Ġc ar +yp es +im age +U n +Ġbo ol +A D +Ġg ame +.F orm +row s +* / +vel op +.D rawing +Ġp ath +is ion +Ġe ach +ĠP l +_t ype +P ath +ne ction +Ġa v +' ). +Ġsup port +EN T +re m +" ). +Ġo wn +Ġc or +c ount +m iss +u ally +Ġm em +st d +i ence +se arch +" ĊĊ +F orm +Ġs ex +en ame +Ġs ign +Ġ et +ĠĠĠĠĠĠĠĠ ĠĠ +', ' +ĠA pp +Ġth ose +o ff +Ġ err +Ġs ystem +Ġbe st +c ode +Ġs ame +Ġd i +us s +Ġc reate +ath er +A rray +. in +f e +S ervice +U N +at s +Ġ Z +al th +Ġm ade +tr ue +A B +Ġm ark +r id +if ied +, čĊ +y n +p ress +Ġg roup +Ġf in +ĠL icense +F ield +eg er +Ġw orld +in ess +t y +Ġpro cess +( b +Ġc re +ar n +iv es +Ġm ain +ide o +_ g +A G +val id +im g +P I +Ġc olor +Ġre port +Ġt ake +ri b +O M +Ġd ay +Re quest +Ġs k +b ers +ĉ s +.A dd +o ot +Im age +Ġcom ple +ol lection +Ġto p +Ġf ree +A S +D e +ĠO n +I G +et a +D ate +Ġa ction +O ver +it or +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +n ot +Ġind ex +h er +ic on +O n +;čĊ čĊ +iv ity +m and +.W indows +O L +Ġre al +Ġm ax +l and +.. .. +r aph +Ġbu ild +le g +ass word +? ĊĊ +âĢ ¦ +o ok +u ck +Ġm essage +t est +iv ers +Ġin put +Ġar t +Ġbet ween +G et +ent er +g round +en e +à ¡ +.l ength +N ode +( i +C lass +f or +ĠâĢ Ķ +t en +o in +Ġ ke +u i +ĠI N +Ġt able +s ub +ĠL e +Ġhe ad +Ġm ust +//////// //////// +. util +Cont ext +Ġor der +Ġm ov +o ver +Ġcont in +Ġs ay +st atic +.T ext +Ġclass Name +pan y +Ġt er +he ad +r g +Ġpro duct +Th is +. âĢĿ +ĠB ut +lo y +Ġd ouble +s g +Ġpl ace +. x +m essage +Ġin formation +pr ivate +Ġo per +c ed +d b +"> +ater ial +ile d +Ġp ut +Q u +Ñ Ģ +un g +m ap +ĉĉĉĉ ĉĉĉĉ +Ġle vel +Com ponent +bo ok +cre en +_ RE +Ġcon fig +ã ģ +O r +. data +Ġd ocument +", " +trib ute +u x +L og +fer ence +p ost +_ e +Ġloc al +and om +ass ert +V al +lect ed +in a +atab ase +A dd +Ġcont ent +.p rint +s igned +r ic +." ĊĊ +Ġf a +! ĊĊ +- f +iv ed +Ġ quest +. ex +Ġf loat +Ġde velop +о Ð +M ap +ad ing +Ġpos s +U E +n amespace +_ O +ĉ b +.G et +> ( +j son +etail s +Ġto o +Ġext ends +ĠN one +Ġf ore +( String +form at +Ġg reat +int er +ca le +Ñ ģ +r on +iv ing +E nt +enc y +x t +o y +Ġmon th +Ġh app +Ġsup er +b ar +def ault +_ de +ord s +l n +( {Ċ +ĠI nd +as es +Ġt itle +Ġcont ext +o h +- p +E m +Ġm et +T est +Ġl ife +_ v +ĠU S +U I +oc ation +m d +Ġ[ Ċ +Ġ ] +s w +Ġin cre +s cript +ent ial +w ays +. de +Ġs rc +Ġc atch +ĠA meric +// Ċ +ĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +Ġp ay +pl it +âĢ Ķ +Ġc oun +ob j +.ph p +Ġch ange +eth ing +' re +ast er +lo s +l ation +ĠĠ Ċ +L e +à ¤ +( { +read y +ĠN o +Ġpos ition +Ġo ld +Ġbo ok +able d +b ug +H and +} ;ĊĊ +is play +av ing +Ġgo ver +Ġv ersion +S ystem +n ect +res ponse +St yle +U p +ang u +Ġth ree +in it +er o +Ġl aw +end if +Ġb ase +em ail +( l +_ V +Ġcon f +AT E +Ġd uring +t es +Ġcon sole +ĠP r +Ġs pe +v es +p ath +ial og +d ition +_t o +ard s +Ġagain st +et work +ĠP h +_ L +c ur +im it +W ith +Ġp ower +i um +' ;ĊĊ +Ġw om +le ft +our ces +at ri +ĠI m +ĠM an +or th +$ { +qu als +es e +_s ize +Ġis s +ot al +- g +i que +r ame +Ġw idth +er g +) ( +itt le +T R +ĠThe y +enc es +r l +on s +Ġl abel +. y +- t +up date +an el +s c +.t o +Ġpro ject +à ¼ +Ġe lement +Ġsu ccess +ĉĉ Ċ +.s h +r am +ch ed +() )Ċ +Ġ( Ċ +Ġd ate +Ġto t +_ ST +A ll +ific ation +ĉ var +Ġt ri +ch em +m y +Ġb ig +ĠA d +ĠA t +ot s +n um +A ct +Ġm ap +er a +co pe +. $ +, âĢĿ +Ġp op +Ġf ew +Ġl en +u id +et ers +u les +Ã Ń +s ource +http s +Ġd em +Ġe ar +######## ######## +Ġm atch +or ies +ac es +ĠC l +Ġn ode +ir c +loc al +un ity +} ;Ċ +Ġan other +< < +og le +Ġs it +ew ork +T E +. I +N S +olog y +ou ght +.C ont +> > +Ġc are +st ate +ĉ private +Ġe ffect +++ ) +_f ile +end ing +L ine +F or +i or +ĠS c +Ġf un +.S ize +ĉ else +] ) +st art +v ious +Ġ} , +our s +Ġle g +Ġs ervice +Ġs ince +ir on +L abel +Ġn on +Ġl os +ict ion +Ġf ull +act er +bo ard +g ress +Ġt urn +ith er +.s ize +Ġb ody +res h +et urn +( _ +y les +orm al +p i +Ġsom ething +! -- +u int +Ġpro du +Ġst and +Ġpro ble +Ġav ailable +m t +ĠB l +Ġ ... +Ġb lock +In put +Ġke ep +C ount +op en +Ġ[ ' +Ġth row +uild er +A ction +Ġth ings +Tr ue +Ġ url +ĠB o +print f +Ġre d +j s +.c reate +ĠO r +St atus +In stance +Ġcont rol +Ġcom e +Ġc ustom +loc ation +m odel +Ġ čĊ +Ġs ource +Ġe as +. out +] ĊĊ +one y +Ġaw ait +Ġpart ic +A P +ub lish +od es +_p ro +p ly +rit er +Ġpro v +Ġm ill +H T +] )Ċ +Ġch ang +Ġas k +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠ +Ġout put +Ġem ail +.p ush +Ġ} čĊčĊ +in ation +atri x +T able +u ccess +] );Ċ +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġdis c +( [ +Ġb usiness +he ight +. html +t a +f ield +Ġrequire d +_ R +Ġgover n +} čĊčĊ +le x +. , +ĠS et +ur ch +// / +t s +a f +Ġm ight +ist ory +S tr +Ġne ver +Res ponse +ar se +ad a +ĠH ow +Ġ* ) +Ġ ; +Ġh ard +A d +Ġinter n +us ed +( data +m od +ann el +Ġn p +ug g +Ġ/ >Ċ +Ġcal led +b ody +Ġch o +( r +_s et +ir d +Ġ> = +Ġ} ;Ċ +Ġo ptions +ĠG ener +Ġhe ight +P oint +Y ou +et y +C lick +Ġsm all +Ġ ide +Ġacc ess +angu age +Ġprot ected +Ġj ob +ĠTh ere +D ef +Ġadd ress +Ġu int +N ot +o o +ap s +< div +ain ed +at ur +Ġs um +- w +ĠD ate +Ġl ittle +Ġf ri +Y PE +Ġp ort +e h +pr ing +_p ath +Ġst atus +a im +bo ol +Ġap pe +Ġo s +. name +ens ion +_ G +Ġup date +Con fig +a ff +ER R +Ġ< = +at ely +# if +u ction +ĠT e +Ġl ink +ĠU ser +.f ind +. org +m e +Ġg iven +O ut +# endif +Ġbet ter +P age +Ġfe el +en n +M L +Ġal ready +Ġinclud ing +o ogle +r u +ic ally +pro p +le an +out er +Ġal ways +ord ing +I f +or age +Ġp arent +v is +ĉĉĉĉ ĉĉĉ +Ġg ot +st and +Ġle ss +/ s +ĠA ss +ap t +ire d +ĠA dd +Ġacc ount +p loy +Ġd er +res ent +Ġl ot +Ġval id +ĉ d +Ġb it +pon ents +Ġfollow ing +_ ex +S ON +Ġs ure +oc ial +Ġp rom +ert ies +he ader +.p ro +Ġbo olean +Ġse arch +k en +Ġor ig +Ġ er +E d +E M +a ut +l ing +al ity +By Id +b ed +ĉc ase +eth er +pos it +Ġinv est +ĠO R +Ġs ays +miss ion +AM E +Ġtem p +o ad +Ġre st +in fo +Ġinter est +A rg +Ġper form +pon s +ĠV iew +Ġv er +l ib +( const +U til +List ener +ar ge +Ġm ult +Ġd ie +Ġs ite +../ ../ +E L +Ġval ues +Ġ} )Ċ +p en +N o +ic ro +Ġbe h +Ġ' ./ +ac y +re c +() -> +ĉ ĠĠĠ +" )) +Cont ent +_ W +ple ment +Ġw on +Ġv ideo +ad i +p oint +% % +Ġg l +erv ed +v iron +I F +ut ed +ã ĥ +' m +Ġc ert +Ġpro f +Ġc ell +ar i +Ġpl ayer +a is +Ġc ost +Ġh um +( R +Ġoff ic +k s +.t ext +at ures +Ġtot al +Ġ*/ ĊĊ +o pe +Ġst at +U M +Ġlo ad +ight s +Ġc lear +u ro +Ġte chn +up port +I R +Ġ row +Ġse em +Ġ q +Ġsh ort +ĠN ot +ip p +G roup +se ction +m ax +ir l +Ġover ride +Ġcom pany +Ġd one +" );čĊ +Ġg re +. Re +Ġbel ie +r ist +Ġhe alth +AN T +() ĊĊ +ĠB e +. value +ĠG r +ott om +Ġarg s +P T +st atus +f unc +um ents +- h +N umber +: čĊ +ĠL og +er ver +Ġ) ,Ċ +am ent +Ġob j +in c +Ġchild ren +ic y +I Z +and s +ab ly +Ġdist rib +Ġc ur +er ial +Ġd ays +re ated +re ct +- l +ir m +idd en +om b +Ġin itial +.j s +Ġ â +Qu ery +Ġon line +im al +. con +a u +U rl +cont rol +ire ction +Ġin stance +OR T +ĠF r +wh ere +Ġjav ax +Ġorg an +ap ter +Ġre ason +o ptions +ĠM ar +( a +Ġwith in +.âĢĿ ĊĊ +O DE +_ DE +ad min +end ed +Ġdes ign +ĠD ata +un e +ĠF ile +ro ot +Ġc ent +Ġa rr +_ add +l en +p age +, ' +_ str +Ġb ro +ab ility +ou th +/ c +p ose +irt ual +ear ch +_ url +arg in +H ttp +Ġs chool +av a +Ġcons ider +.l abel +ĠA rray +we b +o pt +.print ln +ul ation +Ġf unc +P L +Ġ" \ +ĠT ext +act ory +(f unction +n ull +Ġen g +d own +Ġin clude +ĠE n +ĠD r +Ġd b +! ! +s ide +Ġin it +quire d +ĠS he +C olumn +re act +Ġan n +Ġst op +Ġl ater +ĠTh at +ent ion +d f +U G +I LE +Ġc lient +ra ft +ff er +PO ST +el per +Ġlo ve +qu ote +ou d +Ġj son +Ġab le +Ġm en +A X +ĠC opyright +à ¶ +av ig +re q +C lient +} );Ċ +.C om +er c +il t +pec ial +_c om +ro om +. Name +Ġg ive +am b +i ke +Ġcon dition +cl ient +ator s +: " +Ġc opy +ut ure +ivers ity +ern al +{ { +ĠC an +ou nc +d o +Ġo cc +Ġapp ro +th ers +z e +Ġe ither +ĠF l +Ġimport ant +Ġle ad +at tr +AR T +E qual +Ġd a +et ch +ent ity +Ġfam ily +add ing +Ġo ption +Ġex ist +ic a +ĠO bject +' ve +v ers +ition al +out put +ĠTr ue +ĠO F +_t ime +Ġof fer +Ġ} );ĊĊ +H ER +eg in +" " +Ġw ater +Ġc he +ĠM y +ore d +Ġst ep +anc es +C K +A Y +à ¸ +str uction +( C +ou ch +St ream +act ive +am a +Ent ity +pro duct +() {Ċ +Ġgovern ment +ĠI D +aj or +A nd +Ġdis play +Ð » +Ġt imes +Ġf our +Ġf ar +Ġpres ent +ĠN S +Ġ\ Ċ +ue st +Ġb as +e cho +ch ild +if ier +Hand ler +Ġl ib +Prop erty +trans lation +Ġro om +Ġon ce +Ġ[ ] +cent er +================ ================ +Ġresult s +Ġcontin ue +Ġt alk +_ get +Ġg row +.s w +e b +ĠP ublic +O P +ec ute +ol s +Ġ ** +" );ĊĊ +Ġm ass +ure d +.c lass +om ic +Ġme an +ip s +Ġa ut +);čĊ čĊ +Ġun til +Ġmark et +Ġare a +u it +Ġl ength +ĠW ith +struct or +e vent +"> < +ĠS p +I V +Ġm us +if f +Ġk ind +a uthor +ound s +m b +_ key +w idth +posit ory +Ġl ight +u k +R ow +oh n +al f +viron ment +app er +ollection s +Ġs ide +_in fo +Ġex ample +im ary +Ġw r +Ġc amp +cri be +" / +Ġm iss +w ay +Ġb ased +Ġpl an +V is +om ain +un k +Ġaw ay +U P +< T +O S +i od +ĠM on +âĢĻ re +Ġli k +à § +iv ely +. v +im er +iz er +S ub +Ġbut ton +ĠU p +Ġexper ience +C L +Ġre nder +_ value +Ġn ear +UR L +al t +Ġcoun try +ib ility +() ,Ċ +e ad +Ġa uthor +Ġspec ific +b ase +( name +on es +ĠD o +Ġal ong +y ear +Ġexp ress +. ' +en v +Ġbeg in +Ġso ftware +Ġim p +Ġw in +ó n +Ġth ing +Tr ans +ĠT HE +Ġ< ? +Ġwh y +Ġdoes n +i j +g ing +ĉ g +Ġs ingle +off set +ar ning +og raph +le y +_c ount +Ġan al +cre ate +/ m +ĠR eg +un ch += $ +is k +Ġright s +( M +Ġ"" "Ċ +ap er +.m odel +Ġp o +em pty +art ment +Ġa nt +ĠWh en +Ġwom en +ĠE d +Ġse ason +Ġde st +à £ +( h +Ġposs ible +Ġse ver +Ġb tn +Ġdid n +Ġs ent +Ġen c +Ġcomm and +Ġ ],Ċ +_ x +Ġre cent +ol ution +v ector +ĠB y +ĠM ay +ĠA ct +» ¿ +Ġm oney +IN T +bs ite +ĉ p +. čĊ +ï »¿ +s l +atter n +ĠC lass +Ġto ld +ud io +c urrent +Ġe qu +Ġa uto +ĠSt ate +d a +ms g +)) ;ĊĊ +Ġwork ing +Ġqu ery +ĠB r +Ġw indow +a uth +on ly +ĉ t +Ġle ast +ag n +Ġex pl +it ter +ar ing +Ġc olumn +ĠGener al +": " +er al +ri or +Ġrec ord +I B +E X +Ġd at +Ġm aking +u ed +ĠC ar +em p +" . +ĠM ed +Ġc lose +Ġper cent +Ġp ast +( g +: ( +Ġw rite +Ġm ove +Ġp at +Cont rol +.T o +Ġv i +*/ Ċ +in ate +' ll +ag ed +N ull +Ġspec ial +IZ E +Ġc ity +/* Ċ +ĠE ng +ix ed +in ary +p y +Ġe ff +ar io +Ġt ell +av or +Ġse lect +le vel +im um +op er +B uilder +I P +') ,Ċ +es c +Ġf ont +" ;ĊĊ +ĠA m +ish ed +ill s +Int er +O W +Ġcour se +Ġl ate +idd le +Ġam ount +Ġas ync +in o +c ul +Ġ ì +and le +_ user +Ġb en +ĠC al +Ġ$ _ +ĠR ep +Ġen ough +T oken +. user +( j +S c +W idth +n ow +at form +Ġlook ing +Ġh old +M odule +IT Y +v o +is on +.D ata +y c +Ġp ot +ĠTr ump +id ual +id es +r t +Ġprop erty +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠ +am ework +g o +Ġl ow +Ġpar a +Ġpr ice +ur y +Ġto day +ro y +Ġ' / +Ġpol it +Ġ' ' +ym b +P h +Ġad v +Ġatt ack +ĠS te +RO M +an a +Ġme ans +Ġst ory +id s +ak en +Ġme et +Ġm om +ĠâĢ ĺ +Ġ? > +Ġd en +ob ile +ch ange +ĠĠĠĠĠĠĠĠ ĠĠĠĠĊ +ic i +n a +ĠF orm +Ġs ort +Se lect +p are +Ġth ought +_ con +Ġt ask +oc us +ĠD E +ĠM in +Ġo pt +ĉb reak +um er +K E +th en +Ġd et +ĠT est +port s +Ġre view +(' / +m ove +Ġsw itch +ER T +p atch +ann ot +ã Ĥ +Ġab ove +it ive +Ġquest ion +ĠQ u +ãĢĤ ĊĊ +g le +Ġw ord +Ġprov ide +ĠR eturn +Ġre search +ã o +u str +Ġp ublish +chem a +} } +ĠC ON +- in +all back +Ġco ver +\ \ +c olor +ĠI S +Ġwh ether +im ate +is c +B ar +Ġd iv +B e +our n +Ġh aving +le m +pl ayer +ab s +am era +ne y +Ġex c +get her +pl ied +a o +[ $ +Ġ+ + +i pe +sh ow +/ d +[ : +ag ement +le v +_ ID +r ary +ad es +_ se +a use +Ġem ploy +Ġ*/ čĊ +Ġf re +Ġ' @ +Ġcomple t +Ġl arge +r al +\ x +Ġf ac +< String +Ġcre ated +up er +.st ate +Ġh ost +ener ic +/ b +( ! +wh ile +i as +B UG +Ġ );ĊĊ +Ġro le +Re g +ĠC olor +St art +Ġp orn +t op +Ġwe b +Ġde v +Ġde al +++ )Ċ +Int eger +pos ition +. on +Ġ( " +ä ¸ +Ġproble m +s v +Ġp ress +AB LE +AT ION +ĠSe e +an ch +Ġth ough +le ep +Ġ< !-- +Ġpoint s +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠ +. J +Ġ :: +p tr +D B +++ ;Ċ +.p ng +n ode +so ft +pon d +Ġe ver +-------------------------------- -------------------------------- +M enu +(' # +Ġs ervices +p g +} )Ċ +param s +Ġact ually +Ġ" / +Em pty +M ethod +Ġid ent +un ic +Ġmill ion +Ġa ff +st yle +Ġcon c +i os +ign ment +UL T +P r +" ;čĊ +Ġunder stand +u ary +Ġhapp en +Ġser ver +ĠC o +S C +Ġle s +Ġfile s +G rid +s ql +Ġof ten +Ġin fo +_ tr +s rc +on y +Ġsp ace +um b +Ġpass word +Ġst ore +, ĊĊ +ĠWh at +g ed +ĠF alse +U s +sw er +_ index +Ġform at +m ost +s m +N ew +Ġd etails +Ġpro b +ĠAN D +() čĊ +il ar +Ġ$ { +ry pt +.C ollections +$ this +ĠF ree +_ of +(f alse +d ated +Ġ> > +Ġf ace +CT ION +Ġs ave +Ġt yp +de v +(" # +AG E +cont ainer +ed it +Q L +Ġitem s +Ġs ocial +i en +ĠRe act +) .ĊĊ +Ġm ar +Ġre du +ĠR E +.p ut +Ġm ajor +C ell +n ext +Ġexpect ed +Ġy et +Ġin div +trib utes +at is +am ed +Ġf ood +S ource +( string +Ġ+ Ċ +it es +d r +Ġmem bers +Ġcom b +item s +ĠP er +T H += True +Ġb ar +_ SE +com m +( w +)ĊĊ Ċ +Ġs end +Ġin c +un signed +F A +Ġparam s +app ing +ro s +ug in +f a +Ġcon nection +Ġ} ;ĊĊ +Ġbe come +M ode +Ġe v +Ġdif f +ĠUn ited +He ight +ful ly +im ages +Ġm akes +Ġg lobal +Ġcont act +' :Ċ +Ġab s +а Ð +f loat +Ġex cept +ĠP ol +Ch ild +t yp +Ġcert ain +i ón +O UT +Ġim pro +ile s +Ġ-- >Ċ +ĠP art +val ues +os s +/ ** +il it +ĠE vent +cur ity +st er +Ġchar acter +Ġnew s +Ġ" , +Ġde vice +c el +log in +he et +Def ault +@ " +ĉ Ġ +c lick +( value +ĠA b +Ġpre vious +ERR OR +oc al +Ġm aterial +Ġbel ow +ĠCh rist +Ġmed ia +co ver +ĠU I +Ġf ail +Ġbl ack +Ġcom ponent +ĠAmeric an +Ġadd ed +Ġbu y +st it +Ġc ame +Ġde lete +prop erty +od ing +Ġc ard +rop s +Ġhttp s +Ġro ot +Ġhand le +C C +B ack +em plate +Ġget ting +_b y +m ail +_s h +. assert +ĠD ec +( true +Ġcom put +Ġcl aim +' => +ĠS ub +Ġa ir +op s +n av +em ents +( id +Ġent er +ang ed +E nd +Ġloc ation +Ġn ight +Ġdo ing +ĠR ed +l in +}ĊĊ Ċ +vid er +Ġp ick +Ġw atch +ess ages +Ġhum an +Ġd am +p end +d ir +Ġt ax +Ġg irl +re et +Ġbo x +Ġstr ong +( v +re l +Ġinter face +Ġm sg +f ect +_ at +Ġh ouse +Ġtr ack +' );ĊĊ +j e +ĠJ ohn +ist r +( S +ub e +Ġc e +itt ed +V ER +* ) +p arent +Ġapp lication +an y +.sw ing +Ġp ack +\ u +Ġpr act +Ġse ction +ct x +Ġun signed +.P oint +ĠO ne +Ä ± +ip le +a id +Ñ ĥ +V ector +by te +Ġw ait +Ġà ł +à ¥ +Ġto gether +Ġth rows +F O +' )) +h ost +is ing +. view +Ġter ms +fr amework +- r +Ġapp ly +Ġs ession +O ptions +ugg est +Ġo thers +w itter +Ġf und +In it +__ ( +ens or +G ET +Ġsever al +i i +[ j +I O +Ġtem plate +P osition +Ġe con +ach ine +Ġ il +.s pring +m ain +el t +im ent +Re c +m m +ĠUn iversity +urs or +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠ +G L +ict ure +ith ub +c er +c ast +F rom +a les +Ġsub ject +p assword +n y +Ġes c +.w rite +ï¼ Į +Wh at +. H +Ġh istory +ĠF e +Ġindiv idual +un it +Ġ-- > +Ġd u +I ST +Ġus ers +f s +f alse +un t +T itle +Ġm ot +Ġf uture +ach ed +Ġstart ed +Ġm ode +Ġ' < +_ array +Ġa x +'] ;Ċ +i res +Th ere +ug ht +t ml +pos ed +ic ult +Ġto ok +Ġg ames +Ġ} } +Ġ? >Ċ +Ġproduct s +I s +Ġb ad +ĠD es +.p ath +' ĊĊ +ĠP ost +av el +( : +Ġneed s +Ġkn own +F l +Ġex ec +Ġse en +um e +Ġb order +Ġl ive +tem p +P er +Ġvar iable +i et +ĠD ef +Ġg e +em e +_b ack +f irst +Ġprovid ed +//////////////// //////////////// +Ġfil ename +Ġh ope +ul y +a uto +f ind +_ string +b tn +it ude +At tribute +Ġyou ng +.t xt +Ġwe bsite +ĠP rop +Ġe y +> ();Ċ +ion al +AR R +iction ary +ur ther +. +t x +Ġp ur +u el +ymb ol +u ation +ang er +Ġback ground +ec ess +ef ined +.... .... +Ġdes cription +Ġrep resent +") );Ċ +press ion +row ser +Ġser ies +ward s +($ _ +a ise +Ġh ot +ac ity +ri es +action s +C reate +ad io +amp les +Ġorig inal +ens ive +f ont +st ream + using +.spring framework +ser ver +Ġb ill +AC K +il ename +Ġfr ame +Ġ= Ċ +Ed it +adi us +Ġd raw +ank s +Ġd eter +Ġcom es +_ int +Ġfore ach +ang le +Ġe lect +pect ed +He ader +ist ration +F alse +ĠG ame +Ġfil ter +Act ivity +Ġl arg +in ition +Ġ" < +is ed +Ġrem ove +ĠTr ans +m et +se e +Form at +Com mand +ĠE X +N one +Ġfr ont +A SE +ĠR ec +ound ation +Ġv o += \" +( * +Ch ange +.W rite +g roup +i ents +u y +******************************** ******************************** +Ġd ig +h r +( - +Ġg en +n umber +ve c +uro pe +ent ry +L L +Ġst e +Val id +'] , +_p aram +Ġse lected +Ġacc ording +ĠD is +Ġ util +B uffer +_ error +Ġass oci +_S IZE +Ġw or +Ġprint f +r ag + ł +D D +ĠV al +Ġact iv +E ng +et ime +Ġv irtual +a ign +a ur +ĠP res +ĠEx ception +Ġany thing +ĠO ff +Ġh ours +Ġw ar +Arg s +ag ing +Ġmodel s +ĠT ime +O b +am s +j oy +Ġear ly +. read +Ġc enter +ĠIn itial +Ġl anguage +l ength +x y +Ġs n +Ġin f +P ost +Ġag o +Ġeas y +_c ode +ĠAN Y +_ ch +Ġdown load +( T +av ed +âĢ ĵ +Ġstud ents +Ġf ig +l ight +x x +Ġbu ffer +ĠD ep +ĠM ath +IT H +Ġvar i +Ġd ue +F actory +Ġp or +Ġe p +ot ype +Ġcan not +Ġwh ite +< int +ter n +Ġreg ister +Ġpre d +cl us +_d ate +Ġ/ ** +Ġa uth +Ġ[ ]Ċ +Ġper iod +n own +Ġv ot +Ġs creen +' d +T ypes +Ġt mp +е Ð +ur al +Ġben ef +_ y +Ġn et +ĠSt ates +'] [' +ĠN e +ĠN OT +Ġn eg +Ġcomm on +s cope +Ġc red +g es +_T YPE +Ġs uggest +o om +.ĊĊ Ċ +Ġac cept +Ġr andom +er m +ĠV ector +w ith +T ER +( str +Ġres pons +Ġh it +.S et +gr id +ri a +Ġc lick +und le +C ase +ins ert +Util s +Ġ"" " +Ġim plement +at al +tem pt +tem plate +oc r +return s +Ġplay ers +us ers +ed ef +ĠTh ese +Ġam ong +Ġde b +h a +.get Element +Ġc irc +Ġan swer +Ġw alk +Ġt reat +ĠG e +ĠC reate +Ġa ge +Ġre q +O ST +ang ular +Ñ ı +Ġf ive +Ġdistrib uted +Ġfri end +T P +Ġc lean +ow s +.Control s +d is +Ġw ords +. io +z y +Ġhe ader +ĠC heck +âĢĻ m +j ust +h older +=" čĊ +. annot +Ġcol lection +' . +Ġsim ilar +Ġt aken +(" % +Or der +'] Ċ +-m d +ĠT H +ac ed +Ġis n +/ j +Ġs on +gr aph +ĠInt eger +Ġn ecess +re en +Ġ um +Ġ\ < +Ġmom ent +Ġbr ing +Ġind ic +ys is +Le vel +ver se +urre nc +_t est +Ġent ire +D own +Ġ}ĊĊ Ċ +( result +ĠRe ad +à ¨ +M od +Ġtry ing +") ,Ċ +Ġm ember +ĠC or +OD O +- control +un time +ĠS im +D ialog +pl ot +_ on +Ġph ys +} / +Ġn amespace +ĉ čĊ +ac c +Pl ayer +A RE +Ġf oot +Ġbo ard +p art +Ġs us +w ise +ĠM c +Ġp ush +AT A +Ġp lease +ri ed +we et +b it +id ed +V E +ĠS w +U B +Ġt ypes +ed ia +Ġc los +ace book +Wh en +Ġed it +ig ger +Ġen erg +Cont ainer +Ġph ot +ĠC ount +ĠE urope +.I s +ĠR uss +pe ed +ĠS tr +Ġp y +Ġc ult +Ġdef ined +cc ount +Ġob t +.L ocation +Ġth read +il le +Ġinst ead +str ong +ĠS ec +U RE +Ġide a +. se +em y +select ed +Con nection +ac ing +th read +.n ext +Ġc oll +Ġfil m +ist ic +Ġcomp et +Ġcon n +th ough +Ġcom pan +ock et +Ġte ach += ( +Ġph one +Ġact ive +de lete +tr ies +Ġm o +Ġde ath +} );ĊĊ +oc ol +W idget +Ġart icle +ro du +and id +Ñ ĭ +ĠC r +k a +() : +lo od +ĉĉĉ Ċ +Ġal most +Ġs ell +erv let +ri p +Un it +Ġapp lic +Ġcon nect +Ġfe ature +Ġv ia +' ), +Ġl im +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ĠG u +Eng ine +Ġen s +Ġen vironment +b lock +HER E +N ULL +g y +t ag +) ). +ex p +Ġcom pl +Ġinst all +Ġcomple te +que ue +atur al +Ġgener al +th on +Ġask ed +o res +( res +Ġres erved +S P +ĠâĢ ¦ +Å Ĥ +Ġsign ific +O ff +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠ +ĠA g +ĠJ ust +ĠE rror +Ġin fl +ad ata +Ġ icon +ask s +' ' +_ LO +? . +ac count +Ġ( * +' )ĊĊ +r ap +_ var +ĠF OR +Ġpart y +ĠY our +c at +str y +. new +bo ot +ĠN ov +Ġv ector +Ġn ormal +Ġf urther +Re pository +Ġd atabase +att le +Ġmus ic +Ġspe ed +Ġd oc +pro cess +IG HT +.p arse +Ġt aking +Ġvi ol +ce ed +ĠA fter +Ġfor ward +Ġc rit +"/ >Ċ +ro t +Ġfa iled +ef ore +Ġconc ern +o e +b a +Ġs ender +Ġter m +h as +=" # +Ġpot ential +N um +Ġpublish ed +.c lose +ĠIm age +str aint +U D +ĠO b +Ġprob ably +l im +" :Ċ +olum e +Ġcon sum +ag ue +ens ions +Ġinvest ig +- year +') ; +-s m +Ġen joy +or ig +er ing +c p +le ased +ple ments +Ġreturn s +p at +B O +ĠH ouse +.L abel +Ġwe ight +igh b +Ġcondition s +Ġex ception +d escription +Ġtr ad +- to +Ġ{ } +Ġmod ule +EN D +. ap +.p rops +Ġcon structor +av es +Ġf avor +ĠN ow +; i +ĠM ain +_ k +er ies +âĢĻ ll +trans form +imest amp +P re +Ġm er +. res +st ant +L ocation +_N AME +Ġlos s +Ġ ĊĊ +n et +Ġeng ine +B lock +Ġiss ues +Ġpar se +ĠB ar +Ġst ay +ĠJ SON +Ġd om +air s +w ner +Ġl ower +", čĊ +ĠD em +uf act +Ġp s +Ġper fect +R L +Ġed uc +l s +em ory +ARR ANT +u ge +Ġex act +. key +al led +e ch +ie f +\ / +o ke +Ġfor mer +al loc +Ġs ix +id a +Ġm argin +Ġhe art +al d +p ack +.getElement ById +ĠW ARRANT +Ġr ather +Ġbuild ing +er man +lic e +Ġquest ions +iz es +le ge +irect ory +Ġj e +Ġc as +pro ps +ut f +Ġse curity +Ġhow ever +we ight +Ġins ide +Ġpres ident +Ch ar +ĠW ITH +.m ap +Ġgr aph +Ġt ag +_st atus +Ġat tempt +op p +us es +ĉ const +Ġr ound +, $ +Ġfri ends +Em ail +? > +Res ource +KE Y +os p +. query +ĠN orth +able s +ist rib +_c lass +el lo +Th at +Ð º +pecial ly +ĠPres ident +Ġcamp aign +Ġal t +are a +Ġch all +Ġop port +.C on +Ġenerg y +li ke +. string +ing ton +) * +y y +Ġprof ession +ir th +Ġse g +æ ľ +Ġh or +i ers +c an +Ġbeh ind +Pro duct +f g +ĠS k +.j pg +? : +] ;ĊĊ +Ġcall back +ĠH ttp +Ñ Į +l ong +M S +AT H +Ġr aise +Ġwant ed +row n +ut or +l t +] = +el ine +M A +Ġse par +c s +se mb +D is +bs erv +ĠW ill +Ġpol icy +Ġth ird +ph one +Ġb ed +/ g +. __ +ĠIn c +iz ing +.re move +in stance +.t ype +Ġs erv +E ach +Ġh ar +ĠM essage +( key +SE LECT +P os +)) ;čĊ +Ġre comm +Ġtr aining +ĠE nt +ĠCh ar +ic ht +(f ile +Ġp rior +G ame +Ġex it +Param s +.c ore +P C +n es +anc ed +( request +P assword +} >Ċ +Ġm ag +Ġre lease +Ġsh all +ud ent +ĠS outh +and o +: ' +.Tab Index +s k +ann er +is set +Ġout side +led ge +Ġ å +ĠR ob +Ġim m +! Ċ +ĠWe b +D es +B C +anc ial +R oute +D ec +fer ences +Ġp urch +ĠM odel +ct or +g n +_st art +_ un +. * +is es +Ġg round +Ġun ique +Ġbe aut +{ " +Ġp our +ĠO ct +Ġt ree +set s +_ res +') -> +_re g +(" \ +Ġby te +B l +Ġd ating +Ġm atter +ĠR em +Ġ' ../ +ĠA ug +ĠL a +Ġ$ ( +ourn al +i am +Ġshow s +w rite +Ġb all +Ġsim ply +Ġf ast +Ġmem ory +A SS +ĠO f +ov ed +ant e +a ul +ist ry +)) );Ċ +Ġf it +< string +Ġpolit ical +anc el +_ . +c ard +.c urrent +o ch +_ image +\ t +# Ċ +( L +Ġindu stry +com ing +Ġex tra +Ġreport ed +.st art +Ġres ources +Ġim g +fl ow +_E X +(n ull +ĠP re +Ġwr ong +inter face +Param eter +n ers +á » +t ure +ers ist +oun try +Ġseem s +al ance +de st +ĉ String +Ġm aint +Ġun it +act ers +ĠT R +if ul +export s +pro ject +App lication +leg ate +Ġt akes +ter m +Ġet c +ust er +Ġappe ar +add ress +Ġf em +h s +Ġh om +, - +Ġdiff icult +Ġcom ing +O pen +Ġset tings +ĠW ar +ĠTh en +Ġaut om +ĠF oundation +Ġqu ite +D escription +Ġb log +i qu +P S +_f ield +J son +SS ION +ĠS ch +ĠL O +Ġdes cri +Ġevery one +Ġpret ty +Ġlong er +Ġm enu +Ġcurrent ly +se c +Ġrelations hip +################ ################ +ĠM ap +as et +Ġparam eters +Ġcr ush +" čĊ +IL ITY +ig ration +Ġc out +t otal +Ġn ames +nd ef +") ; +ri end +yn amic +Ġeff ort +Ġact ual +Ġfield s +O UN +t ers +Ġf ix +_m odel +Ġc ases +C A +M y +Inter face +ĠS E +] ] +al le +ĠN ational +ĠArray List +in line +. V +ar a +ref ix +as c +Re ader +ĠÐ ¿ +ast ic +( () +C l +.annot ation +Ġperform ance +ail y +.to String +.n et +view s +. end +ay ers +l ate +ĠA pr +ed eral +'] ) +.b ody +Ġhigh er +_f l +c r +al ert +_n ode +ĠG oogle +Ġit self +A uth +urrenc y +Ġsignific ant +app end +Ġres pect +str ap +Ġun a +riter ia +P ORT +.ap ache +Out put +Ġpro gress +Ġm id +ĠM icrosoft +Ġres ource +ab lish +Ġd im +. load +.A pp +Ġd irection +Ġadd itional +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠ +Ġnum bers +Ġcompan ies +.T h +Ġs ound +user name +Ġstat ement +Ġal ert +Ġcon tract +h ome +_l ength +.Com ponent +e v +. Ex +ï¼ ļ +" ; +ĠH igh +Ġ )ĊĊ +ĠP oint +op h +Ġl ines +-> _ +" )ĊĊ +o x +app lication +Ġ ]Ċ +ĊĊĊĊ ĊĊ +Ġso on +ction s +ing er +Ġj oin +ĠP e +Ġ ë +Ġl as +. E +c ss +/ or +ĠSt art +ĠT O +Ġsub s +con n +com ponents +DE BUG +qu are +F unction +end ar +. index +Ġf ill +Ä Ļ +Ġcho ose +h ow +ĠAmeric a +ass ets +-------- ---- +ĠV alue +Ġoff ice +Ġv eh +Ġtrans form +ĠAr t +Ġin de +Ġf n +Ġim plements +ang o +ple te ++ " +t mp +am ily +Ġhas h +miss ions +E ST +g t +Pro vider +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +Ġfl ag +Ġpartic ip +d en +ĠReturn s +Ġnot e +ü r +p m +ide os +Ġspec ified +ĠE N +est er +ol id +Ġup on +( std +ĉ v +Ġ' \ +u z +Ġv ert +Ġv ict +ĉ self +Ġ" $ +. k +Ġgroup s +g ithub +l ang +Ġm ut +T O +Ġv e +ĠP lease +;ĊĊ Ċ +ac cess +Ġ{ " +re a +Ġr isk +ick er +og gle +ĉ while +AN G +.s end +Ġwom an +Ġget s +Ġ ign +ĠI d +_ log +ON E +Ġe vid +ĠH ar +_s ub +Ġend l +Ġinclud ed +() );ĊĊ +ĠA p +ig r +Ġs em +ĠBl ack +d oc +_t able +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +- up +Ġca use +Ġ .. +Ġv an +_d ict +Ġf ocus +IN D +CE SS +.L og +Ġmult iple +id o +Ġreg ard +- M +and ler +our se +Ġde g +. U +Ġadd ition +Ġvar ious +Ġrece ive +е н +ĠH T +Ob j +D F +Ġincre ase +ĠO pen +] ; +Ġcomm it +? Ċ +ateg ories +at ory +sh ip +ĠM ich +Ġh tml +rom ise +Ġle ave +Ġstr ateg +av en +ĠCon sole +k nown +- n +_ LE +.com ponent +Ġb re +S ession +i ance +Ġal ign +typ edef +_ result +ĠW HERE +.s plit +Ġread ing +FA ULT +Ġc lo +Ġnot ice +_p r +ar ter +Ġlo ck +Ġstand ard +et ic +ell ow +Ġp adding +ĠH is +Ġst ates +_c ast +( P +a a +Ġintern al +e an +ĠP RO +ĠK ey +Ġes pecially +m ing +Ġc ross +Ġn ational +_ object +f ilter +Ġs cript +. update +_ i +ĠAss ert +/ core +%% %% +Ġproble ms +ist or +Ġ. = +Ġar ch +Ġwrit ten +Ġm ilit +M ENT +. ch +ca pe +ĠM us +_ config +ĠA PI +fo ot +Ġim ages +end l +. In +F irst +Ġpl atform +.pro t +O ption +st e +ĠT ODO +Ġfor ce +. cont +ĉ echo +ĠD av +P tr +( B +R T +ĠB ase +] [' +Ġann ounc +con sole +ĠP y +d s +. as +Ġpre vent +ap an +Ġ{ ' +} ' +Ġde ad +V AL +Q UE +**************************************************************** ******** +Ġch arg +R eturn +Ġf ul +d om +Ġr ules +Ġmod ify +Ġe val +h am +at ement +\ < +ul a += False +R A +Ġcont ains +Ġst ack +m ar +Ġ{ }Ċ +Ġund efined +A ss +ĠCh ina +ve y +* Ċ +Ġplay ing +) / +act or +Ġb ottom +li er +ĠN umber +Ġcou ple +D C +ĠS O +g or +.set Text +s uccess +com mand +F ilter +ĠO ur +_ item +Ġc tx +Ġro ad +V ersion +c ase +ur t +av ior +y ch +semb ly +ĠPro duct +Ġh eld +a fe +Ġinclud es +< quote +Ġa void +ĠF in +ĠM od +Ġt ab +an o +à ± +ipp ing +- e +Ġins ert +t arget +ch an +.M odel +IM E +\ Ċ +Ġm achine +av y +ĠN O +ĠInt er +Ġoper ation +mod al +T ag +] : +Ġprodu ction +Ġare as +Ġre n +_f rom +n bsp +Ġoper ator +m en +app ed +_p er +z en +(" . +.s ave +=" {{ +Ġt or +( response +Ġc andid +Ġcon v +a iled +ĠL ib +com p +ur a +ï¿ ½ +ĠH ere +Ġarg ument +h ood +Ġest ablish +ograph y +Ġon Click +amb da +Ġs ch +Ġmov ie +Ġse c +Ġact ivity +Ø § +Ġs ql +_ all +inc ip +Ġprovid es +Ġs ys +ack et +Ġwas n +Ġus es +ĠF unction +.g oogle +ĠRes ult +Vis ible +ag ma +el come +ĠS y +ĠC ent +AL SE +ac ión +EX T +Ġl icense +ĠL ong +Ġacc om +Ġab ility +. height +Act ive +olog ical +ol y +)) , +.S e +Ġparam eter +pr ite +AB ILITY +.s ervice +ĠG roup +_ query +ĠI tem +in ing +Ġj ud +im s +f ix +ind er +ag ram +Ġfunction s +Ġexper i +ĠE m +Ġro t +Ġp en +.b tn +ĠA S +#if def +Ġcho ice +ĠP age +_P RO +Q U +å ı +ant ity +Â Ń +word s +Ġread only +Ġf lex +prot ected +ĠAn y +Ġchar acters +enc ed +ĠJ uly +il er +C ard +ur ance +Ġre v +.e vent +al y +Ġwon der +ĠP ort +Ġleg al +ro le +Ġt en +Ġgo es +M P +wh ite +): čĊ +)) čĊ +Ġre ference +Ġm is +ĠPro ject +ick s +> & +C ON +Ġre pl +Ġreg ular +St orage +ram ework +Ġgo al +Ġt ouch +.w idget +Ġbu ilt +d es +P art +( re +Ġw orth +h ib +g ame +ĠÐ ² +ac ion +ĠWh ite +(t ype +( ` +Ġn atural +Ġin j +Ġcal cul +ĠApr il +. List +Ġassoci ated +ĉ System +~ ~ += [ +Ġst orage +Ġby tes +Ġtr avel +Ġs ou +Ġpass ed +! = +as cript +. open +Ġgr id +Ġb us +Ġrec ogn +A b +Ġh on +ĠC enter +Ġpre c +b uild +HT ML +ĠS an +Ġcoun tries +a led +t oken +k t +Ġqu al +L ast +ad ow +Ġman ufact +id ad +j ango +N ext +x f +. a +Ġporn o +ĠP M +er ve +it ing +_ th +c i += None +g s +Ġlog in +at ives +'] );Ċ +Ä ħ +Ġ ill +I A +child ren +D O +Ġlevel s +Ġ{ { +Ġlook s +Ġ" # +To String +Ġnecess ary +ĠĠĠ Ċ +c ell +En try +Ġ' # +Ġext rem +Select or +Ġplace holder +L oad +Ġre leased +O RE +En umer +ĠT V +SE T +in q +P ress +ĠDep artment +Ġprop erties +Ġres pond +S earch +a el +Ġre qu +ĠB ook +/ Ċ +( st +Ġfin ancial +ick et +_in put +Ġth reat +( in +Str ip +ì Ŀ +ç ão +Ġevid ence +)) ; +ĠB ro +Ġ[ ];Ċ +Ġ ou +b uf +S cript +d at +Ġr ule +# import +=" / +S erial +Ġstart ing +[ index +a e +Ġcon trib +s ession +_ new +ut able +o ber +Ġ" ./ +Ġlog ger +Ġrecent ly +Ġreturn ed +č čĊ +)) )Ċ +ition s +Ġse ek +Ġcomm unic +Ġ" . +Ġuser name +E CT +D S +Ġother wise +ĠG erman +. aw +Ad apter +ix el +Ġsystem s +Ġd rop +Ġstruct ure +Ġ$ ("# +enc ies +ann ing +ĠL ink +ĠRes ponse +Ġst ri +Å ¼ +ĠD B +æ Ĺ +and roid +sub mit +ot ion +( @ +.t est +ĊĊĊĊ ĊĊĊĊ +] ;čĊ +Ġdirect ly +Ġ" % +r is +el ta +A IL +) {čĊ +m ine +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠ +( k +b on +as ic +p ite +__ _ +M ax +Ġerror s +ĠWh ile +Ġarg uments +Ġens ure +R ight +-b ased +We b +Ġ- = +Ġint rodu +ĠIn st +ĠW ash +ord in +j oin +D atabase +Ġgr ad +Ġus ually +IT E +Prop s +? >Ċ +ĠG o +@ Override +RE F +Ġ ip +ĠA ustral +Ġ ist +View ById +Ġser ious +Ġcustom er +.prot otype +od o +c or +Ġdo or +ĠWITH OUT +Ġpl ant +Ġbeg an +Ġdist ance +() ). +Ġch ance +Ġor d +c ame +pr agma +Ġprot ect +rag ment +ĠN ode +en ing +Ñ ĩ +Ġr oute +ĠS chool +h i +Ġne ighb +A fter +lic it +Ġcon tr +Ġpr imary +A A +.Write Line +util s +Ġb i +R ed +.L inq +. object +Ġlead ers +un ities +Ġg un +on th +ĠDe v +F ILE +Ġcom ments +_l en +ar row +am ount +R ange +s ert +Grid View +Ġup dated +ĠM o +Ġin form +oci ety +al a +A ccess +Ġh ab +Ġc reat +_ arg +ĠJan uary +ĠD ay +") čĊ +up le +d ocument +gor ith +m enu +ĠO ver +b b +.t itle +_ out +Ġle d +ur i +Ġ? >Ċ +r un +Ġsc ene +( array +de vice +_t itle +ag on +] čĊ +ab y +Ġbe came +bo olean +Ġp ark +ĠC ode +up load +rid ay +ĠSept ember +F e +Ġs en +c ing +F L +C ol +ut s +_p age +in n +Ġim plied +al ing +Ġyour self +.C ount +con f +Ġa ud +_in it +. ) +Ġw rote +N G +. Error +ä » +.f or +Ġe qual +ĠRe quest +Ġser ial +Ġallow s +X X +Ġm iddle +ch or +à ¸ +erv al +.C olumn +read ing +Ġesc ort +ĠAug ust +Ġquick ly +Ġwe ap +ĠC G +rop ri +h o +Ġc op +( struct +ĠB ig +Ġv s +Ġfre qu +. Value +Ġaction s +Ġpro per +Ġin n +Ġobject s +Ġm atrix +av ascript +Ġon es +.g roup +Ġgre en +Ġp aint +ool s +y cl +enc ode +ol t +com ment +. api +D ir +Ġun e +iz ont +.p osition +Ġdes igned +_ val +av i +ir ing +t ab +Ġl ayer +Ġview s +Ġre ve +ra el +ĠO N +r ics +n p +Ġc ore +() );čĊ +M ain +Ġexp ert +ĉĉ čĊ +_ en +Ġ/ > +ut ter +I AL +ail s +ĠK ing +*/ ĊĊ +ĠM et +_ end +add r +or a +Ġ ir +M in +Ġsur pr +Ġre pe +Ġdirect ory +P UT +- S +Ġe lection +h aps +.p re +c m +Val ues +Ġ" Ċ +c olumn +iv il +Log in +in ue +Ġbeaut iful +Ġse cret +(e vent +Ġch at +um s +Ġorig in +Ġeffect s +Ġman agement +ill a +t k +Ġset ting +ĠC our +Ġmass age +ĉ end +Ġhapp y +Ġfin ish +Ġc amera +ĠV er +ĠDem ocr +ĠH er +( Q +con s +it a +Ġ' . +{ } +ĉ C +Ġst uff +Ġ :Ċ +ĠA R +T ask +h idden +er os +IG N +at io +ĠHe alth +ol ute +Ent er +' > +ĠT witter +ĠCount y +s cribe +Ġ= >Ċ +Ġh y +f it +Ġmilit ary +Ġsa le +re quired +n on +boot strap +h old +r im +- old +ĠD own +Ġm ention +cont act +_g roup +od ay +Ġto wn +Ġsol ution +u ate +ell ing +] -> +ot es +ent al +om en +osp ital +ĠS up +_ EN +Ġsl ow +SE SSION +Ġbl ue +ag o +Ġl ives +Ġ ^ +. un +in st +en ge +Ġcustom ers +Ġc ast +ud get +ï¼ ģ +ic ens +Ġdeter min +Se lected +_ pl +ue ue +Ġd ark +// ĊĊ +s i +ther n +ĠJ apan +/ w +P U +ĠE ast +ov ie +Ġp ackage +Ġn or +Ġap i +b ot +" ];Ċ +_p ost +ul ate +Ġcl ub +') );Ċ +Ġlo op +PI O +ion e +sh ot +In itial +Ġplay ed +reg ister +rou ght +_m ax +ac ement +m atch +raph ics +A ST +Ġexist ing +Ġcomple x +D A +.C h +.com mon +m o +Ġ' ../../ +it o +Ġanal ysis +Ġdel iver +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +id x +à ł +ong o +ĠEng lish +< !-- +Ġcomput er +EN SE +Ġp as +Ġr ais +H ash +Ġm obile +Ġo wner +F IG +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +th es +Ġat tr +w d +.t ime +aw n +Ġtreat ment +ĠA c +. View +im pl +m ore +p ass +Ġh a +.f rom +Ġle ading +FF FF +( error +. ui +at ar +ad ers +d ates +Ġz u +Ġfl ow +T arget +Ġinvol ved +Ġi o +par se +$ _ +he st +. int +- item +as y +S p +Ġsh ift +N T +Ġt f +_T R +. web +C S +Ġ} ) +Ġey es +_ z +' );čĊ +if orn +Ġ{ @ +Ġn ice +.l ist +ĠĠĠĠ čĊ +Ġf loor +Ġred irect +ĠU K +( [' +Ġw ish +Ġcap t +leg al +ĠI O +Ġst age +. String +ĠA fr +ig en +ĠS H +De lete +ell s +Ġsol id +Ġmeet ing +Ġwork ed +Ġed itor +in y +Ð ¼ +_ read +. Id +e ff +Off set +ch a +US ER +ĉĉ ĠĠĠ +ipp ed +Ġd ict +ĠR un +.h pp +Ġan g +x ml +im ple +Ġmed ical +_t oken +con nect +Ġh our +Ġcont roller +_m essage +U ID +G r +and ed +_C H +Ġbook s +Ġspe ak +am ing +Ġm ount +Rec ord +ĉ struct +.W eb +ond on +Ġ// Ċ +Ġf elt +.A uto +id ge +_p os +P R +Ġmod ern +C ollection +_m sg +C D +ĠL o +Ġsecond s +ib ly +.e quals +Ġintern ational +# pragma +oo th +W riter +i ate +Ġce le +ĠB it +iv o +iv ery +r d +HE CK +Ġc ache +.c ount +Ġro ll +.Re ad +RE D +Ġset up +izont al +model s +arg v +Ġconsider ed +=" ../ +set tings +ĠR el +Ġgrow th +Ġm ix +ĠWash ington +Ġpl t +ĠI M +á º +Ġturn ed +ĠDate Time +ĠW ed +( url +Ġ" - +Ġlet ter +As ync +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠ +ĠOct ober +_l ine +Ġatt ention +Ġcol lect +ĠH ash +Ġim ag +T ree +Ġsit uation +et te +_n o +IV E +Ġv on +.t arget +Ġknow ledge +Ġdr ive +.p ost +Ġb lood +Ġc it +pr imary +Ġconfig uration +te e +Ġph oto +is ode +Tr ace +Ġg ave +Ġsh ot +ĠA ir +Ġm other +pr ice +Ġmor ning +)) {Ċ +- x +Ġtr ade +Ġdes c +Ġ&& Ċ +Ġparent s +A pi +å Ī +t ed +w er +Ġ æ +Ġs y +ĠK e +Par ser +å ħ +anc y +Ġpie ce +iforn ia +to String +r an +id ing +PT ION +com es +/ lic +.c lient +E l +L ong +Ġprofession al +ru pt +v a +Ġcomplet ely +Ġpract ice +Ġse lection +R em +in i +Ġc am +RE E +Ġsit es +p a +AT US +Ñģ ÑĤ +arr ant +* ( +_ KEY +ĠB utton +ĠF riday +se qu +Ġre ader +Ġm essages +è ¯ +Ġbu f +K e +Ġn ov +H P +M sg +al ign +ar ily +Ġ' , +_w ith +Ġd as +Ġhe ard +at omic +ri al +) [ +Ġdis e +@ end +Ġg old +Ġf air +Ġsa les +. Button +str ict +s ave +Ġme asure +Ġ" + +ec ause +View Controller +ĠT able +.p aram +Ġdec ided +(( ( +IN FO +Ġopport unity +T e +IC ENSE +cc ording +k i +ĠU N +Ġcont ain +Ġman ager +Ġp ain +ĠF ire +rom e +Ġpl ans +F ound +l ay +ĠDec ember +Ġinfl u +à º +ren ch +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ġ +az ing +b rief +c all +wo od +Ġload ed +Ġgr and +/ f +im p +_ U +ST R +âĢ ¢ +Ġcred it +.C olor +or ge +QUE ST +Ġdiffer ence +ĠP C +w args +Ġp ub +und ay +Ġf ra +.m ax +Ġtri ed +ann els +s end +Ġreport s +Ġad ult +ä º +Ġcons ist +ĠSt reet +ĠPro gram +S QL +M atrix +ounc il +- A +ĉ w +Ġwho se +Ġrel ig +ĠS ex +Ġg ives +n one +.m essage +( G +.aw t +- right +ĠNov ember +ell ig +ut ive +Ä ĥ +over n +Ġeas ily +Ġide as +ĠÐ ½ +/c ss +ly ing +el le +C an +_c olor +оР² +Ġp air +ng th +Ġs plit +d rop +art y +on a +Ġcap ital +Ġhe ar +Ġex ists +ĉ log +em o +R un +o i +Ġpar ser +ĠM ethod +Ġeduc ation +[ k +Ġlib rary +> ";Ċ +_ UN +ĉ std +od ed +Ġcall s +h ere +R el +Ġbr and +back ground +g a +_add ress +_param s +C ategory +ĠInd ia +_e vent +Ġ ing +R ender +.c l +ump y +Ġp et +F C +ĠA nt +Ex t +Ġchar ge +en ed +gr ad +E O +Ġdep end +Ġ .ĊĊ +fr ame +Ġd f +Ġh uge +ĠP ART +ed s +; ; +ĠA M +Ġbas ic +ĠL et +lic h +Ġar m +Ġst ar +Ġf ederal +W ork +Ġcar ry +ĠIs rael +( obj +={ { +Ġs aved +Ġs yn +Ġconst ant +V ENT +Ġpos itive +Ġcon duct +Ġsk in +Ġear lier +Ġl ayout +ĠI P +O UR +Ġt im +styles heet +_ cl +ĠC ard +++ ){Ċ +Ġtem per +ĠDav id +ĉ try +.d art +Ġwant s +Ġp icture +Ġv ideos +ĠCom m +is ions +_M AX +M apping +- content +ĠE ar +- de +Ġpre m +br uary +Ġcom ponents +Ġthrough out +Ġp ull +Ġp ages +ent e +res pond +Ġg as +cript or +Ġed ge +Ġb ound +A CT +**** ** +Ġcre ating +ĠC H +Ġnull ptr +B r ++ ' +.c o +> :: +Ġle arning +.L ength +_S H +Ġpat ients +A IN +Ġk ids +Ġcom fort +Ġsh own +ug ins +ĠB ack +ell a +_C L +Ġl at +Ġdis patch +Ġclass es +. at +.b egin +Ġsuccess ful +b an +Ġobt ain +ĠS l +Ġl ack +iter ator +Th read +(s ize +Ġn one +.h as +_ X +s ort +n ap +p et +b in +ĠCan ada +The y +Ġd ans +ĠM at +< td +Ġh air +Ġ' ',Ċ +Ġc u +Ġlaw s +let ed +p ed +Ġp ow +Ġk new +_C OM +_ , +ĠM ag +id ents +( req +Ġ ), +- center +Ġw ide +ĠA uthor +st ants +Ġjob s +Ġm ath +et imes +Bo olean +Ġs cope +_ is +Ġme as +Ġkey s +el ay +Ġexact ly +'=> ' +ĠP aul +m as +ĉ print +(l en +f d +Ġ) ; +. Event +q li +ir it +ield s +om an +ĠT op +Ġv ote +Ġm ask +Ġthem e +- Ċ +Ġpro ps +Ġf ine +Ġwrit er +_ offset +c ar +Ġal tern +Ġc opyright +Ġdest roy +pp er +Ġgener ate +pp ed +âĢĻ d +ĠĠĠĠĠĠ Ċ +m ake +ĠSh ow +Ġb rowser +Ġfavor ite +Ġcare er +Ġhappen ed +( char +Ġrecomm end +Ġl iter +.f ilter +gr ade +Ġ £ +Ph one +om s +Ġn amed +- label +ip o +ĠO ther +Ġp anel +Ġro ck +S cale +ĉ assert +Ð ´ +Ġtr ust +fr ont +Ġdem on +A r +N et +Ġecon omic +foot er +Ġr ace +(n ode +ĠO ption +s plit +Ġphys ical +if est +Ġrem oved +. http +)) ,Ċ +Ġlook ed +' ; +d ing +g est +atur day +/lic enses +Pr ice +Ġd ro +Ġto wards +Ġun s +ĠC L +ĉ static +Ġ rows +Ġdef ine +.re place +Ġf ather +ĠDes ign +ass ign +m ut +De vice +D id +') )Ċ +omet ry +ay load +Ġh istor +ĠP aram +ĠBo olean +Ġn ature +Ġj s +Ġn ation +i h +Ġdis cover +se m +Hand le +ĉ r +ĠTe chn +Ġw all +{ $ +@ property +Ġ" ../ +Ġex am +.d raw +opp ing +Ġnear ly +Ġco ol +Ġinde pend +RE S +Ġhand ler +ĠMon day +Ġs un +St yles +ous ly +Ġ ĉ +v est +D isplay +( y +atic ally +Ġpred ict +y ing +Ġsom etimes +" ]Ċ +Ġdr ink +Ġb ul +ific ations +. insert +.re g +Ġtest s +Al ignment +Ġal leg +Ġat tribute +ĠN ote +Ġmy self +art s +N ow +Ġinterest ing +li ents +Ġpop ulation +ĠCal ifornia +" I +å ¹ +Ġgre ater +ues day +Ġth ous +Ġcost s +Ġla unch +\ Http +k er +b and +ĠPl ay +Ġb and +.sh ape +es ome +art icle +.r f +Ġw er +á s +em bers +us r +B A +ic an +et t +valid ate +ult i +Ġimmedi ately +z er +Ġfig ure +o es +ell er +irc le +ĠS ign +.d b +Ġr ank +By tes +Ġproject s +_re c +UL AR +A PI +ĠL ine +P ort +Ġp oll +Ġg iving +id ence +-- Ċ +Ġpl ot +ic ial +Ġw arrant +IT ION +ĠD ouble +Ġbill ion +gorith m +Ġequ ipment +D ATE +Ġ@ " +E E +Ġp le +i ation +Ġhead ers +Ġpro ced +.Component Model +ĠOb ama +Ġp a +ĠB est +im ately +.get String +. \ +mp loy +Ġr aw +_b lock +und red +" },Ċ +.Group Layout +Ġb rought +NS String +th row +cre ated +.N ew +_ view +C P +ep s +O p +Ġgr atis +Ġ' " +Ġinter view +"" "Ċ +Ġpart ial +Ġa ria +b ing +A uthor +Bo ok +ĠP at +um an +Us ers +pl us +ĠD irect +ven ue +al pha +UC CESS +ĠC all +Ġ );čĊ +im ated +Ġrem ain +Ġant i +ĠL ondon +Ġsaf ety +PO SE +o les +cont roller +By te +ĠCour t +ĠPh il +ĠAss oci +en a +å IJ +_ST R +co in +resh old +Ġb atch +_C lick +entic ation +> ';Ċ +ent y +Ġbegin ning +Ġz ero +ĠCon vert +Ġt err +Ġp aid +Ġincre ased +c atch +-s ize +act ivity +e quals +Ġque ue +Ġ" ' +ĠIntern ational +Ġf ür +urs day +Ġsc ient +all ow +ax is +Ġapp ropri +ed ge +Ġid x +S uccess +ent ifier +: \ +x is +Ġmax imum +ark s +Ġb irth +( index +Ġmay be +.p y +file s +Ġlim ited +_ check +lo ok +pl ies +Ġmov ement +'] . +Ġbro ad +ĠB E +ĠUn ityEngine +.c pp +ĠE very +Ad min +Ġf ans +p ared +Ċ ĠĠĠĠĊ +Ġfore ign +Ġp an +Ġt our +ĠOr der +Ġmov ing +Ġa uf +C all +c b +Å Ł +vent ory +ĠS ql +Ġful ly +Click Listener +W ORD +Ġannounc ed +) čĊčĊ +Ġagre ed +ri e +Ġe arn +_l ink +. array +(t ext +Ġmaterial s +, p +ff ff +v g +Ġ © +Ġun less +aj ax +LO G +Ġsex ual +Ġ\ " +- time +Ġco ach +Ġsupport ed +Ġphot os +if orm +.C reate +) ] +ri er +Ġd ialog +av er +ig e +) + +_id x +: [ +_m in +ĠC ong +Ġpress ure +Ġteam s +S ign +b egin +ri an +NE SS +L S +Ġimpro ve +ĠS unday +Ġdef inition +ig er +roll ers +Ġthink ing +T emplate +- F +Ġem erg +pl ates +ĠUS A +.set State +ĠAl so +re v +Ġen able +ĠC O +PE CT +Ġcon cept +) - +ĠâĢ ¢ +Ġset s +Ġmean ing +em on +ĠCon s +c mp +ed er +ann ed +icens ed +ĠS uper +Ġd aily +Ġmult i +_ u +Ġchall eng +_m ode +ĠP romise +Ġstr ict +j o +int on +( list +On ly +> { +Ġveh icle +í ķ +ĠPl ayer +ĠD el +Ġp ool +. url +nes day +();čĊ čĊ +Ġ" );Ċ +L ocal +. ");Ċ +Ġorgan ization +re nder +ĠApp lication +Ġsum mer +ex pected +N A +Ġr ap +_ obj +Ġsur face +ĠP UR +Ġ}, ĊĊ +Ġvariable s +(m essage +Ġop in +.b ack +а н +Ġwork ers +v m +C o +ught er +Ġm aster +Ġ" ", +Ġst ories +. User +Ġcele br +ines e +B S +ĠCom mand +ash board +Ġo g +k g +. image +.st yle +Ġstep s +ĠB en +( args +ĠP erson +, y +Ġofficial s +| Ċ +Ġsk ills +v c +Ġbuild er +Ġg ar +A ccount +ĠA uth +ç Ķ +'] )Ċ +ĠA T +n n +. Int +SS ERT +Ġeffect ive +LE TE +Ġto ols +AR D +Ġdig ital +D ouble +ĠF ind +R C +Ġin line +/ r +AR AM +AS K +Ġint ent +a ight +_add r +Ġrequest s +.f irst +Ġde bug +Ġsp ent +() ));Ċ +Å Ľ +Ġpr incip +Log ger +clud es +. use +Ġsur v +med ia +ĠFe bruary +ĠM ac +Ġmiss ing +Ġw ife +Ġtalk ing +ĠM ake +Ġc art +Ġloc ated +E nc +- a +ch ron +Ġc ards +Ġgu y +Ġp ers +ĠY es +ate ver +ĠA ng +ol ar +ĠE ven +Ġacc ur +ĠP ower +ĠG old +c lear +Pro cess +Ġrec ords +Ġk illed +.c lear +ĠWARRANT IES +Ġpur pose +pan el +J ECT +ÃŃ a +Ġex erc +W S +/ L +. exports +Ġ__ _ +Ġs in +S ervlet +Ġd é +.de lete +ro ke +S l +ug h +ear s +Ġpoint er +Ġh op +all ery +Ġo bs +co very +ĉ char +ĉĉĉĉ ĉĉĉĉĉĉ +ĉ def +oc ity +itch en +ul ations +ĠF IT +Ġ ). +straint s +vent ion +Ġrequ ires +ĠO per +M E +OUN T +al let +Ġn orm +I RE +ex as +Ġprogram s +Ġwe ak +' .$ +u ing +ĉ ĠĠĠĠĠĠĠ +Ġm il +Ġf irm +init ely +_VAL UE +ap se +atis f +Ġdem and +_m od +Ġdescri bed +Ġpl aces +V ID +Ġal one +Ġex port +Ġv ec +ĠM ax +Ġactiv ities +ict ures +g ener +Ġm a +Ĥ ¬ +Ġexpress ion +C allback +_ content +ĠM ost +Ġtest ing +E C +CH ANT +Ġad just +.Th reading +( ctx +Ġag ree +ig hest +Ġu i +ĠL aw +. Y +> ĊĊ +.ex ample +ber g +Ġmov ed +ĉ e +ĠS aturday +Ġpay load +Ä ĩ +) :ĊĊ +Ġbe y +ur er +< script +Ġs ymbol +Ġass um +Ġp ul +E ffect +Ġh undred +To ol +ak ed +con nection +Ġvo ice +Ġp d +Ġtrans action +Ġlink s +E rr +ĠInd ian +T C +atal og +n i +s ign +<< " +j i +y a +Ġdemon str +ul ated +. St +Ġinst it +Ġbo ost +Ġcell s +ol ic +.P ro +: , +"> \ +Ġth us +ĠReg ister +h ol +ĠCh inese +Ġpost ed +Ġm agn +ab ilities +Ġdise ase +Ġrem ains +ĠPro f +- form +Ġc in +org an +ic ate +Ġst ress +] * +Ġ ---------------------------------------------------------------- +_ context +or ry +Ġd ied +m at +Ġstart s +.M essage +Ġrun s +Ġgu ide +Ġwarrant y +ential s +d ict +ĠS ize +ul er +Ġrespons ible +_SE T +Ġcont aining +ĠPr ice +| | +F S +Ġem p +_b utton +( uint +Ġsu ff +p th +Ġdef initely +put e +Ġmarket ing +ĠW H +ĠS ie ++ = +OL OR +Ġcons ult +Ġs igned +Ġse quence +le e +Ġrequire ments +h y +Ex press +M T +se y +Ġ ult +å ® +ellig ence +Ġanal y +Ġd ress +eng ine +ĠG reat +ĠAnd roid +ĠA lex +m ode +D ictionary +.D ate +ä ½ +V ICE +Ġfam ilies +ĠRuss ian +ĠT imes +.c all +$ ( +Pro file +Ġf older +ch es +Ġleg is +_ row +un es +Ù Ħ +Ġ} ). +Ass ert +ag en +ĠH and +I ter +Ġbig gest +ore ach +Ġpol ic +Ġper missions +Ġshow ed +ĠE lement +Ġtop ic +âĢĶ âĢĶ +ro ad +ĠB ank +rec ord +Ġpart ners +ĠR ef +ess ions +Ġass ess +U ST +ĠPart y +pro du +L C +Ġ ul +. form +h ide +c opy +UT F +ĠSO FTWARE +čĊčĊ čĊ +ĠL in +un a +ug ar +Ġadmin istration +Ġopen ing +Ġsc an +Ġcontin ued +com ponent +.s p +Ġhapp ens +um my +ĠP R +.F ile +ĠDown load +Lo ading +d i +Ġwait ing +_A DD +T ab +.query Selector +Ġecon omy +ĠF rench +t xt +Ġf ant +_ ;Ċ +H older +S H +Ġn umpy +Ġst reet +Ġm ale +\ Model +ang ing +ĠB ill +Ġprevious ly +B I +ĠSec ret +Ġm ist +ĠF ield +up s +ĠPro cess +Ġke pt +ĠO T +Ġtrad itional +. i +am in +Ġhelp s +An y +orig in +ilt ers +j u +d esc +ĠA ccount +Ġ) čĊ +k top +ol ly +Ġf s +Ġ ê +Ġ ut +Ġcent ral +(t est +.A n +Ġs atisf +G R +ĠF ull +Ġhe at +ib er +Ġon to +m os +S chema +Ġfact ory +" .$ +aw s +St atement +(t arget +ĉ new +.b e +Ġg uest +Ġm al +AR Y +Ġre ached +Ġm ouse +Ġchall enge +ĉd ouble +ĠT em +Ġt error +Ġex tract +_T O +Ġsepar ate +Ġm ir +h elp +Ġcap acity +ĠProp erty +k an +_c reate +ĠL ight +.p arent +Ġunderstand ing +Ġeas ier +Ġ| = +Ġen h +Ġf at +Ġprot est +am m +_ AT +- of +il s +ĠO h +Ġps ych +Ġ$ . +ind s +Ġrel ative +sh op +sh ort +ĠS and +uest ion +Ġf ear +/ ĊĊ +. context +Ġschool s +Ġser ve +z one +_d b +Ġmajor ity +ex ample +Ġl ang +ĉ ĠĠ +Reg ister +end o +Ġprocess ing +_t emplate +- user +Ġe g +C OM +ĠBl ue +i ro +Ġrem ote +ĠI T +#! / +Ġred istrib +ra z +ĠS ince +ĠT ur +Back ground +== = +Ġref lect +Ġpro s +c md +Ġwh om +Com pat +ĠA re +Id entifier +ĠTh om +_ port +g u +Ġmon itor +r m +Ġpat ient +ver ter +Ġg ain +- ui +In st +Ġd ies +A rea +_f ilter +Ġgr at +Ġreal ity +ord inate +ol ved +Cont act +Ġcompl iance +_ or +ĠV ar +d l +Ġapp end +G ER +(m ax +.re nder +Ġd ynamic +ordin ates +_ options +_c olumn +Ġb atter +s pace +L a +ĠS ource +/b in +Ġd os +ĠBo ard +ĠTh read +ĠA L +( config +ĠM er +Ġm iles +_ header +ETH OD +iz z +Ġbenef it +Ġinteg r +(c urrent +ul o +. default +ĠD iv +Ġt on +o th +erv ation +ed om +Ġb aby +ce ived +.t op +rior ity +ĠL ocal +ri age +Ġattack s +Ġh ospital +Ġfem ale +ĠLog in +ĠFl or +Ġch ain +ash ion +Text ure +S ave +Ġf arm +.cont ains +.T est +Ġknow s +Ġgener ally +ip eline +Ġme ant +enc ia +Ġn icht +Ġcont ents +P M +ched ule +( line +C G +j ob +ĠRe al +u er +f irm +Ġ Ø +et ro +" `Ċ +Ġspe ech +Ġth r +fore ach +Ġw arn +ĉ l +Ġhe avy +< li +N e +Ġinvestig ation +M ath +- title +Ġch urch +Ġdes pite +ch ain +Ġwh atever +ar ian +f n +Ġm eta +} )ĊĊ +U FF +Ġregard ing +_S UCCESS +m es +ĠInt ent +Ġres olve +pos s +ir a +for ce +o ice +à ¢ +Ġp m +Ġup dates +A rr +Ġ Ñ +test ing +Ġto ward +nt ax +ë ĭ +Ġlist en +Ġgo als +Instance State +D r +Ġr are +Ġtr ail +Ke ys +C al +C ar +ĠPe ople +ĉ local +class es +Re ference +.for Each +em b +act iv +Ġpr im +red ict +Ġr ad +æķ ° +.B ack +Ġsp read +Ġc lock +Ġv ir +ed itor +Ġeffort s +Ġbr anch +Ġind ust +Ġmot or +Ġam b +Ġdat etime +Ġren cont +ĠChrist ian +ĠAmeric ans +f ull +Ġf mt +.m ain +Ġca used +_ update +ĠCont ent +AT CH +Ġb ath +ĠE ach +Ġr adio +ach ment +uz z +Sub mit +Ġre strict +ab in +ĠL oad +Ġext ension +Ġess ay +Ġh at +avi our +to Be +": [ +Ġoffer ed +Ġv ill +(d ouble +æĹ ¥ +b c +_f ree +ĠM iss +ĠB er +Ġ è +ĠL ike +Ġhelp ed +.get Name +_ AL +Ġsp irit +ĠAp ache +w s +Ġthere fore +( params +_ img +Ġpe ace +Ġinc or +ĠEX PECT +Ġmin or +ip es +ĉ data +select or +c ity +tr ie +.b ase +_f rame +Ġopen ed +/ json +L Y +n u +.D e +t f +m argin +.P arse +Ġp i +Ġe q +b d +Field s +ĠT ree +Ġb an +ist an +Ċ ĠĠĠĠĠĠĠĠĊ +ĉg l +Ġprodu ced +s ystem +M ark +_h ash +Ġb g +Ġconst it +ĠLe ague +Ġmiss ion +_ format +([ Ċ +clus ion +! " +Ð · +b reak +ĉs witch +Ġth er +Trans form +Ġfoot ball +- link +r oute +. auth +Ġb ag +ov ers +Ġen abled +Ġr ac +( I +C R +anc ing +Ġman aged +_ q +NG TH +Ġm ac +ĠA uto +ament e +Ġ' ', +.App end +Ġp in +. item +ack ing +Ġocc as +p erson +Ġt i +.Re g +Ġh aven +Ġg lass +Ġ" ) +_ char +res ource +Ġep isode +Ġ' _ +ĠE s +ĠEar th +Âł Âł +UP DATE +ĠS ou +u is +t ypes +Ġm as +Ġf av +Ġcon struct +_r ate +er as +Ġ| Ċ +rop erties +Ġext ernal +Ġap plied +Ġpre fix +ot ed +l ers +Ġc old +ĠS P +ĠCh urch +ĠOut put +los ed +ç ļ +ific ate +oper ation +her it +x FF +. env +_ err +os h +D irection +C ancel +ĠFr ank +Ġfind ing +. )ĊĊ +Ġr outer +ãĥ » +s es +Ġc row +== ' +Ġs and +Ġr id +it ure +Ġent re +Ġo bserv +Ġv ac +ð Ł +- T +A rt +n ight +. search +Ġex change +Ġdistr ict +. os +Ġdep artment +Ġdoc uments +Ġcent ury +ĠN ext +H ost +ĠK IND +Ġsus p +- P +re nd +. em +u ite +ist ers +( json +ĠAn n +w t +at i +ĠHT ML +wh en +D irectory +Ġsh ut +< a +ed y +Ġhealth y +Ġtemper ature +ĠG en +Ġmet al +Ġsub mit +ĠD O +Ġat tract +Ġ{ };Ċ +ĠW ord +Ġl l +Ġseem ed +k o +I ED +Ġl abor +.Cont ext +Ġas set +y ou +Ġc ars +ĠC olumn +Ġr é +Ġs quare +ĠNS String +âĢĿ , +ap es +.. .Ċ +Ġthan ks +( props +Ġt ick +Ġexper iment +Ġpr ison +t ree +- text +ĠIO Exception +-w idth +_ST ATUS +f ast +-b ody +- header +Ġgu ar +cre te +ĠT im +Ġclear ly +ĠRepublic an +Ġjust ify +и ÑĤ +ĉ ĠĠĠĠ +c ache +; // +Ġpres ence +Ġfact ors +Ġemploy ee +] )) +M ember +Ġselect or +b or +ĠM ex +çļ Ħ +ut ex +_t ag +ail ure +ĠN et +Ġre li +E G +Ġf printf +Ġte en +lo ss +Ġle aving +De legate +Ġbe at +Ġmin ute +sub scribe +Ġredistrib ute +Con stants +Ġcan cer +/ { +B L +Ġs pan +ĠCh ild +C enter +Ġear th +Y S +ĠLe vel +Ġse a +.s upport +.in ner +. Item +ill ing +ĠĠĠĠĊ ĠĠĠĠĊ +ĠL abel +ĠE st +( arg +bo Box +ĉf oreach +c os +F ailed +sw ers +Ed itor +r ont +ĠM P +ex pr +ĠL ife +Ġ? ? +ö r +Ġatt end +ĠQ ue +Ġspec ies +- D +Ġa us +Str uct +Ġadvant age +ost on +-b lock +in itial +C RE +Ġtr uly +Ġcomp are +or ney +Ġs pect +F ull +b es +Ġvis ible +Ġm ess +st ances +Ġcl oud +_v ersion +Ġf urn +ic ago +LO W +Ġtraff ic +Ġf ol +rypt o +Ġdecl ar +Ġsl ot +ĠEx t +ĠEng land +ĠU nder +Ġt a +let ter +Ġoffic er +ĠDon ald +Y es +_ json +IT ableView +ĠU SE +mploy ee +Ġopin ion +ĠA ut +b order +Ġad vice +Ġautom atically +is co +Ġm m +. vis +am l +Ġinitial ize +Ġ( { +Ġ ;ĊĊ +Ġgener ation +Ġb its +clip se +Ġun f +ut ors +pl t +Ġdel ta +est roy +is is +< br +Ġlimit ations +Ġend ed +ĠM ad +il m +Th ese +ĠMin ister +Ġch art +F ragment +Ġindepend ent +Y ear +Ġin str +Ġt ags +A VE +ĠAr ch +st op +Pro gress +Ġm i +Ġlearn ed +G e +Ġhot el +S M +T YPE +Ġc y +ERS ION +un ately +l imit +s el +Ġmov ies +Ġste el +o z +g b +ĠC amp +s ite +ĠLog ger +P LE +оР´ +. right +ĠC ore +Ġm ixed +st ep +Ġput s +s uper +R outer +. Http +ly ph +ĠColor s +Ġandroid x +. str +Ġinn ov +Ġde ck +' >Ċ +ap ers +] ( +cont inue +s pec +ĠR oad +AS H +ili ar +Ġcontin ues +Ġapp oint +Ġ# Ċ +ĠV ir +Ġ?> " +Ġb in +} ", +go ing +e ach +B D +ĠA ccess +D oc +ĠMan agement +B ER +ask et +.get Instance +Ġestablish ed +so cket +IN S +ĉv irtual +ĉ result +RE AD +_ height +ĠF ont +Ġ( );Ċ +_ html +Ġneighb or +l or +Ġg ather +Ġ} )ĊĊ +Ġid entity +Ġf ab +p adding +ĠR oute +Enumer able +à ´ +Ġfor ced +/j query +.ĊĊ ĊĊĊĊ +res ents +_ left +.P aram +ĉ throw +ĠH am +Ġevent ually +ac er +p ub +Ġtr a +un ique +d el +ĠFlor ida +ĠC lean +x a +Ġ · +Ġvalid ate +Vis ual +Ex pression +_f unc +m ember +ĉ h +tr l +ĉ G +nap shot +ĠProp Types +v in +] )ĊĊ +ow l +if ies +Ġ$ ('. +ĠCont ext +ĠTo ast +. Key +Ġoffic ers +/ n +s n +und efined +. items +ut ow +am age +Ġaccount s +ook ie +Se ction +ici ans +Ġad vis +( is +[: , +ĠFr ance +F unc +ic ious +Ġto k +Ch annel +ĠA D +_N UM +Ġtime out +lem ma +rem e +u j +.A l +uc lear +( os +(" < +[ Ċ +f etch +Ġb al +Ġgu id +- align +ĠW rite +ĠOn ce +utow ired +OD ULE +Ġp itch +C F +by tes +ĠCom mission +Ġincre d +P ER +_ response +ĠL os +par ser +Ġass ume +. Request +ĠT oken +_p osition +Ġn om +- term +Ġrem aining +i ostream +Ġpie ces +ap y +ĠL ess +r ange +umb n +pr ise +_ option +Im pl +k wargs +Ġbusiness es +Al ert +Ġpart ies +ĠCont ainer +ĠPr ivate +ĠPl an +Ġregister ed +Ġj our +ack er +ен и +/ > +ch at +se ct +Ġcre ation +olut ely +Ġinst ant +Ġdel ivery +ick en +y es +ĠFr anc +bl ing +end a +[ ( +_r ange +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠ +Ġsched ule +Con n +Ġthan k +x d +Ġh ook +Ġdocument ation +Param eters +H ello +v t +Ġart icles +Ġw est +def ined +. select +ok ens +ĠV AL +.f ile +res et +Ġmy s +ĠM A +] ), +Ġc ities +rel ated +å Ľ +Ġappe ared +Ġw id +.p anel +ĠIn s +. entity +Ġde cre +ĠL ou +(t ime +ĠTh ank +.create Element +Ġmention ed +oun ce +ĠT ry +ĠW all +/ images +ĠM enu +' čĊ +ĠE r +Ġcrit ic +ĠY ear +( param +Ġf lo +N N +oot er +Ġ ];Ċ +ĠA ff +" github +room s +Ġh yp +g lobal +Ġa vec +æľ Ī +Ġcomplet ion +Ġcon d +onym ous +( temp +Ġst ars +Ġre levant +Ġcover ed +Ġel im +_t ypes +( bool +Ġt u +_ex ists +Ġsec ure +Ġst ored +] / +x F +ĠCont roller +Ġm igr +M I +ĠD en +Ġann ual +U IL +- and +Ġcr ime +b el +Ġk itchen +@ g +_p h +ourn ament +ĠS ocial +ĠS pecial +log ger +Ġt ail +Ġun known +d ed +Ġapp rec +(d b +c f +Ġass ign +- out +ĠM ont +d p +w idget +Ġst one +- primary +. grid +Result s +az z +Ġda ughter +Ġcur r +Ġl in +Ġs outh +form s +ĠO UT +let te +ak s +ig ure +ĠE U +var iable +Ġb rief +ĠSc ott +Ġcon ference +and a +_ lock +or al +Ġe ine +OR S +//////////////////////////////// //////////////////////////////// +ess o +Ġr is +Ġg ender +est ic +L icense +( out +Ġm s +Se e +Ġwill ing +az e +Ġs ports +Ġy es +l u +Ġp urs +/j avascript +- pro +nav bar +_pro duct +/ bootstrap +Ġdr iving +Ġ Ä +Ġpro pos +ult ip +up lic +. email +Ġappro x +( cl +Ġwe ar +Ġrep ly +ass et +Ġ ice +Ġt x +k r +ĠGerman y +ĠGe orge +Ġc b +ĉ err +M ove +Ġpol y +vo ice +} " +Ġan imal +A v +ĠL ocation +Ġn ative +] [" +< double +Ġm ais +, int +Ġpre par +Ġinter val +plement ation +_ ERR +Ġb ug +> " +st at +Ġ} ,čĊ +< span +Ġfa ith +Ġ rom +pre v +ĠE lect +F ind +Ġg od +ot or +// ---------------------------------------------------------------- +orig inal +C pp +ĠSen ate +Ġposition s +Ġweap ons +Ġco ff +Ġpur poses +p ol +Ġim press +Ġanim als +. Entity +(n p +Ġmur der +Ġ` ` +fl ag +Ġsol utions +ĠAct ive +Ġb right +.d ate +Ġsit u +ï¼ Ī +. ID +Ġs ie +), čĊ +ak t +S pace +.d at +.index Of +h an +az ine +ĠZ e +Ġcr ash +( / +> = +Ð ± +iv a +.Auto Size +ĠL at +_ ext +Initial ize +.reg ister +OP Y +Ġre verse +_d is +'] [ +Ġprom pt +ont o +ĠJ ournal +r outer +Ġmys qli +# else +) " +-x s +let s +ph an +. LE +W ill +Ġaff ord +Ġsk ill +-t oggle +N C +B ind +T S +J ust +iter al +Y P +ĉ unsigned +Ġw ind +)) :Ċ +Ġw arning +ĠW ater +Ġd raft +Ġc m +Ġs am +Ġhold ing +z ip +ĠSc ience +Ġsup posed +G en +Ġdi et +< h +ĠP ass +v i +Ġhus band +� � +n ote +ĠAb out +ĠIn stitute +Ġcl imate +.Form at +Ġn ut +est ed +Ġapp arent +Ġhold s +f i +new s +C M +v ideo +': ' +D ITION +p ing +Ġsen ior +w a +-- >Ċ +_ default +ĠD atabase +re p +E SS +ner gy +.F ind +_m ask +Ġr ise +Ġk ernel +:: $ +. Q +Ġoffer ing +de cl +ĠC S +Ġlist ed +Ġmost ly +eng er +Ġblock s +ol o +Ġgover ning +\ F +Ġcon cent +.get Text +Ġm b +Ġocc urred +Ġchang ing +Sc ene +_C ODE +B eh +" The +Ġt ile +ĠAssoci ation +ĉ P +al ty +_ ad +od ies +i ated +Ġpre pared +poss ible +Ġm ort +TE ST +Ġign ore +Ġcal c +Ġr s +Ġassert Equals +Ġs z +ĠTH IS +. "Ċ +Ġcan vas +j ava +Ġd ut +VAL ID +.s ql +. input +Ġa ux +S up +Ġart ist +V ec +_T IME +.string ify +et ween +ĠC ategory +Ġ[ - +ĠDev Express +ĠJ ul +Ġr ing +. ed +Y Y +L et +Text Field +Ġfl at +_p rint +ĠOT HER +ad ian +Ġcheck ed +e le +Al ign +stand ing +Ġ[ ], +Ġl ab +uck y +ĠChrist mas +( image +.m odule +Ġl ots +Ġslight ly +(f inal +er ge +è ¿ +ĠPol ice +ĠR ight +Ġaw ard +ĠO S +Ġ{ }ĊĊ +Ġp tr +ov es +ic ated +еР¼ +Ġman age +olid ay +Am ount +ool Strip +t body +N av +w rap +B B +Ġwatch ing +ari os +Ġoption al +_ K +ĠL icensed +.M ap +T imer +ĠA P +ĠRe v +( o +, c +um in +eta iled +ĠH y +Ġbl ank +ag ger +ĠS elf +() [ +.m ake +ear n +ch annel +< pre +ble m +_p assword +_s p +ic ing +e z +Ġthe ory +ĠT er +, n +log o +ĠHT TP +() )) +.h andle +> ;Ċ +W orld +Ġpy thon +Ġl if +Ġtr av +Ġcon ven +com pany +ĠCl ub +V er +B tn +Ġz one +product s +ĠE duc +Ġver ify +ĠM il +on o +] );ĊĊ +EN CE +Ġpack et +Ġc er +Ġen umer +Ġpar s +form ed +Ġocc up +t re +Ġexerc ise +D ay +_s um +Ġask ing +apt ion +Ġord ers +Ġsp ending +ĠE RR +.D is +ĠU til +âĢľ I +\ ' +? ) +/ >Ċ +Ġem ot +Ġinflu ence +ĠAfr ica +att ers +Ù ħ +.s ession +Ġch ief +ĉĉĉĉĉĉĉĉ ĉĉĉ +Ġto m +clud ed +ser ial +_h andler +.T ype +ap ed +Ġpolic ies +- ex +- tr +bl ank +mer ce +Ġcover age +Ġr c +_m atrix +_ box +Ġcharg es +ĠB oston +P e +Ġcirc um +Ġfil led +Ġn orth +icture Box +ĉ res +è ® +Ġter min +Ġ[ â̦ +IRE CT +Ġb er +Ġ" ../../ +ret ch +.c ode +_c ol +ĠGovern ment +Ġarg v +ĠL ord +as i +Ex ec +ĉ let +vert is +Ġdiscuss ion +en ance +out ube +type of +Ġs erved +ĠP ut +ĉ x +Ġs weet +B efore +ateg y +. of +ĠM aterial +S ort +ON T +ig ital +Wh y +Ġs ust +Ġ ç +ab et +Ġseg ment +Ġ[ ],Ċ +ĠMus lim +Ġfind ViewById +c ut +_T EXT +ĠM ary +Ġlo ved +Ġl ie +ĠJ O +Ġis set +mon th +Ġpr ime +t i +ĠCar ol +U se +ĠP op +ĠS ave +Int erval +ex ecute +d y +ĠI ran +_ cont +ĉ T +Ġph ase +check box +we ek +Ġh ide +Ġt il +Ġj u +C ustom +b urg +/ M +T ON +Ġqu ant +Ġr ub +ix els +Ġinst alled +Ġd ump +Ġproper ly +( List +Ġdec ide +app ly +H as +Ġkeep ing +Ġcitiz ens +Ġj oint +p ool +S ocket +_ op +Ġweap on +gn ore +ĠEx ec +ott en +ĠM S +Ġ( - +ĠRe view +Ġex amples +Ġt ight +! ( +D P +ĠMessage Box +Ġphot ograph +UR I +é t +l ow +ĠGr and +.p ersistence +Ġmaint ain +Ġnum s +Ġz ip +ial s +ĠG ets +pe g +ĠB uffer +~~ ~~ +ra structure +ĠP L +u en +ob by +size of +Ġp ic +Ġse ed +Ġexperi enced +Ġo dd +Ġk ick +Ġproced ure +avig ator +- on +, j +ĠAl though +Ġuser Id +ac cept +Bl ue +IC olor +l ayer +av ailable +Ġend s +.t able +Ġdat aset +b us +Ġexpl ain +( pro +ĠCommit tee +Ġnot ed +] :Ċ +D im +std io +. ",Ċ +_s ource +ĠWe ek +ĠEd ge +Ġoper ating +Ġest e +i pl +ag ination +Ġpro ceed +Ġanim ation +.Model s +ĠW atch +i at +Ġopp on +/ A +Re port +Ġs ounds +_b uf +IEL D +Ġbu nd +ĉ get +.p r +(t mp +Ġk id +>ĊĊ Ċ +Ġy ang +Not Found +Ñ Ĩ +m ath +@g mail +ĠL IMIT +red ients +Ġv ent +avig ate +L ook +Ġrelig ious +Ġr and +ri o +( GL +_ ip +u an +ici ency +ĠCh ange +> čĊčĊ +ĠEnt ity +Ġrencont re +ĠR et +pl an +é n +BO OL +ur ies +tr ain +Def inition +======== ==== +z z +An imation +ĠO K +_m enu +.b l +_s core +Ġac ad +( System +Ġref resh +'=> $ +.G raphics +ament o +p id +t c +Ġt ips +Ġhom es +Ġf uel +â ĸ +_h elper +ĠĠ čĊ +ĠR oom +.C lose +_ attr +ĠM ount +ĠE v +ar ser +_t op +e ah +ĠDe lete +ãĢ į +u ke +Ġus age +ar ia +_de v +Ġtext ure +Ġconvers ation +e per +Be an +d one +non atomic +ĠSe cond +Ġshoot ing +_p re +Com ponents +Ġ] ĊĊ +__ , +stit ution +.Ch ar +> ();ĊĊ +Ġpresent ed +Ġw a +ok er +- ĊĊ +in er +Ġbe coming +Ġinc ident +At t +Ġreve aled +for c +Ġbo ot +.p age +Enumer ator +_ -> +Ph oto +Ġs pring +. ", +ĠD ictionary +B JECT +Ġloc ations +Ġs amples +Input Stream +ĠB rown +Ġst ats +qual ity +Ñ ħ +-d is +Ġhelp ing +Ġp ed +( se +ĠWh o +al ian +int ernal +Ġf t +> (). +-> { +Ġm ine +Ġs ector +Ġg ro +Ġopport unities +Ġà ¼ +Ġm p +Ġalleg ed +Ġdoub t +M ouse +Ab out +_p art +Ġch air +Ġstop ped +lo op +ent ities +Ġapp s +ans ion +Ġm ental +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠ +F R +Ġdef end +c are +Ġide al +/ api +ur face +Ġe le +ul ator +ĠR ights +angu ages +Ġfund s +Ġad apt +At tributes +Ġdep loy +opt s +Ġvalid ation +Ġconcern s +u ce +.n um +ult ure +il a +Ġc up +Ġp ure +.F ore +ĠHash Map +.value Of +as m +M O +Ġc s +Ġst ores +Ġ ************************************************************************ +Ġcommunic ation +m em +.Event Handler +. Status +_ right +.set On +S heet +Ġident ify +ener ated +order ed +Ġ" [ +Ġs we +Con dition +ĠA ccording +Ġpre pare +Ġro b +P ool +Ġs port +r v +ĠR outer +Ġaltern ative +( [] +ĠCh icago +ip her +is che +ĠDirect or +k l +ĠW il +key s +Ġmy sql +Ġw elcome +k ing +ĠMan ager +Ġca ught +) }Ċ +S core +_P R +Ġsur vey +h ab +He aders +AD ER +Ġdec or +Ġturn s +Ġr adius +err upt +C or +Ġm el +Ġin tr +( q +ĠA C +am os +M AX +ĠG rid +ĠJes us +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠ +.D E +Ġt s +Ġlink ed +f ree +ĠQ t +Ġ/** čĊ +Ġf aster +ct r +_ J +D T +.C heck +Ġcomb ination +Ġint ended +- the +- type +ect ors +am i +ut ing +Ġum a +X ML +U CT +A p +ĠR andom +Ġr an +.s ort +Ġsort ed +. Un +_P ER +it ory +Ġprior ity +ĠG al +ĠO ld +h ot +ĠD isplay +(s ub +_T H +_ Y +ĠC are +load ing +K ind +_h andle +, , +r ase +_re place +.add EventListener +ĠR T +Ġenter ed +g ers +Ġ ich +( start +/ app +Ġbro ther +M emory +Out let +Ġ utf +pre c +Ġn avigation +OR K +Ġd st +D etail +Ġaud ience +Ġd ur +Ġcl uster +un ched +Ġ ], +Ġcomfort able +. values +ĠT otal +Ġsn ap +Ġstand ards +Ġperform ed +h and +(" @ +å Ń +Ġph il +ib r +tr im +Ġfor get +Ġdo ctor +.Text Box +icon s +, s +ĠO p +S m +St op +ĉ List +ĉ u +Com ment +_V ERSION +.X tra +P erson +r b +LO B +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĊ +ĠCent ral +IC K +ra q +Ġput ting +Ġm d +ĠL ove +Pro gram +B order +o or +Ġallow ing +a fter +Ġent ries +ĠMay be +] ). +ĠSh ort +) \ +.n ow +f riend +Ġpre fer +ĠG PIO +os is +ĠGame Object +Ġsk ip +Ġcompet ition +_m atch +lic ations +_CON T +.group Box +Ġal s +" We +_e q +l an +_ search +ĠMus ic +as is +Ġb ind +ĠIs land +r um +( E +Ġse at +V ideo +Ġa ck +ree k +={ () +Ġr ating +Ġrestaur ant +DE X +(b uf +pp ing +ual ity +Ġle ague +Ġfoc used +ap on +$ data +CL UD +CLUD ING +Ġabs olute +( query +Ġtell s +A ng +Ġcomm unities +Ġhon est +ok ing +Ġap art +ar ity +/ $ +_m odule +ĠE nc +. an +.Con fig +C re +Ġsh ock +ĠAr ab +I ENT +/ re +Ġre trie +ycl er +is a +ĠO rgan +. graph +Ġ í +ĠB AS +En um +Ġposs ibly +ÑĢ Ð°Ð +ĠJapan ese +Ġc raft +ĠPl ace +Ġtal ent +Ġfund ing +Ġconf irmed +Ġc ycle +/ x +G E +Ġhe aring +Ġpl ants +Ġm outh +p ages +or ia +ĠRem ove +_t otal +Ġo d +oll apse +do or +Ġb ought +Ġadd r +AR CH +_d im +dd en +Ġdec ades +RE QUEST +Ġvers ions +f ire +Ġmov es +f b +Ġcoff ee +.con nect +ĠR ow +Ġs chema +S cope +- Type +Ġfight ing +Ġret ail +Ġmod ified +T F +File s +n ie +_com mand +st one +Ġ ÑĤ +_ thread +Ġb ond +ĠDevelop ment +Ġp t +F ORM +ple t +Ġident ified +c pp +Ġc oding +ok ed +ĠM aster +ID TH +Ġres idents +red it +ĠPh oto += - +un te +ate ur +_ST ATE +ĠS ing +Ġshe et +. val +or se +Ġh ers +Ġdetermin ed +Com mon +Ġw ed +_ queue +P H +ĠAt l +cre d +/L ICENSE +Ġm es +Ġadv anced +.j ava +.S h +G o +k ill +f p +_set tings +Ġp al +Ġtr uck +Ġcomb ined +Ġ" ${ +ĠCor por +Ġjo ined +ĠJ ose +ĠC up +un s +est ival +lev ision +Ġbro ken +Ġmar riage +ĠWest ern +Ġrep resents +ĠT itle +Ġs s +.A ss +ongo ose +ient o +< >();Ċ +Ġabs olutely +Ġsm ooth +TER N +ĠUn less +W ord +Ġmer ge +ig an +ĠV ol +Ġn n +.get Id +ĠÐ · +Ġsex y +Ġseek ing +S ingle +. this +Ġk om +b ound +; " +Ġfont Size +_d f +Ġinj ury +( H +Ġiss ued +_ END +: self +Ġp atch +Ġle aves +Ġad opt +File Name +ãĢ IJ +Ġexec utive +ĠBy te +] ))Ċ +Ġn u +out ing +clud ing +- R +. options +Ġsub stant +av ax +ĠB UT +Ġtechn ical +Ġtw ice +Ġm ás +Ġun ivers +y r +Ġdr ag +ĠD C +Ġs ed +Ġb ot +ĠP al +ĠH all +forc ement +Ġa uch +.m od +not ation +_file s +.l ine +_fl ag +[ name +Ġres olution +Ġb ott +(" [ +end e +( arr +F ree +( @" +ĠD istrict +PE C +: - +P icker +ĠJ o +ĠĠĠĠĠ Ċ +ĠR iver +_ rows +Ġhelp ful +Ġmass ive +--- Ċ +Ġmeas ures +ĠR untime +Ġwor ry +ĠS pec +ĉ D +ãĢ ij +Ġ) {Ċ +Ġwor se +(f ilename +Ġl ay +Ġmag ic +ĠThe ir +ou l +st roy +ĠWh ere +Ġsu dden +Ġdef e +Ġb inding +Ġfl ight +ĠOn Init +ĠW omen +ĠPol icy +Ġdrug s +ish ing +(' ../ +ĠM el +pe at +t or +Ġpro posed +Ġst ated +_RE S +Ġe ast +ĠCON DITION +_d esc +Ġwin ning +fol io +M apper +ĠP an +ĠAn ge +.s ervlet +Ġcop ies +L M +Ġv m +å į +Ġd ictionary +S eg +el ines +ĠS end +Ġ iron +ĠF ort +.d omain +Ġdeb ate +Not Null +e q +ach er +l f +ĉf mt +Ġlaw y +Ä Ł +ĠM en +Ġtr im +( NULL +Ġ! ! +Ġp ad +Ġfollow s +"] [" +re qu +ĠE p +.g ithub +( img +et o +(' \ +S ervices +umbn ail +_m ain +ple ted +fort unately +Ġw indows +Ġpl ane +ĠCon nection +. local +u ard +} \ +== " +and on +ĠR oy +w est +ig inal +em ies +it z +') :Ċ +ĠP eter +Ġt ough +Ġredu ced +Ġcalcul ate +Ġrap id +c ustomer +Ġeff icient +Ġmed ium +Ġf ell +. ref +ĠC as +Ġfeed back +S peed +( output +aj e +Ġc ategories +Ġfe e +} ; +Ġde leted +re h +Ġpro of +D esc +B uild +Ġs ides +.Array List +- % +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +Ø ± +.m atch +л и +Ġfe els +Ġachie ve +Ġcl im +_ ON +ĠC D +Ġteach er +_c urrent +b n +_P L +ist ing +En able +G EN +Ġt v +Ġso ck +Ġpl ays +Ġdis count +ĠK E +ĠDe bug +F ore +ĠI raq +Ġappear ance +M on +Ġst yled +ĠH uman +i ot +ĠH istory +Ġs ac +ĠC ollection +Ġrecomm ended +.Se lected +Ġorgan izations +Ġdiscover ed +co hol +ad as +ĠThom as +M ay +Ġcons erv +Ġdom in +ĠF ollow +ĠSe ction +ĠTh anks +User name +Ġrec ipe +Ġwonder ful +.s leep +_ if +ĉĊ ĉĊ +orn o +Ġr u +_t arget +." " +à ¦ +Event Args +Ġinput s +Ġf if +Ġv ision +c y +ĠS eries +) ((( +Ġtr ading +Ġmark er +B egin +Ġtyp ically +Ġca uses +drop down +_DE BUG +Ġdet ect +c ountry +! ");Ċ +ĉ R +app y +Ġc ref +(' < +" => +ĠL E +read er +Ġadmin istr +à µ +uck et +Ġf ashion +. char +iz ar +Ġdis able +Ġsu c +ĠL ive +iss ue +Ġmet adata +fl ags +Ġ ðŁ +Ġcomm itted +Ġv a +Ġr ough +Ġ'' 'Ċ +Ġhigh light +_var s +V O +Ġenc oding +- Z +_s ign +$ ("# +Ġr ain +reate st +ĠEN D +Se lection +Ġcandid ates +Ġs av +. Empty +Ġdec isions +Ġcoll abor +rid ge +fe ed +ress ion +Ġperson s +V M +eg a +_B IT +A ccording +ack ed +Ġdoll ars +_lo ss +ĠC ost +} "Ċ +Not ification +Ġpro stit +Ġauthor ity +.re c +Ġsp okes +ĠT oday +ist ant +ĠHe ad +âĢĿ . +ertain ment +ce an +cul ate +Ġv en +How ever +_ arr +Ġtok ens +G raph +ĠJ ud +ĠVir gin +ĠS erial +un ning +M utable +ag ers +.c sv +Ġdevelop ing +Ġinstruction s +Ġprom ise +Ġrequest ed +_ encode +/ " +ĠI con +u ilt +- day +Ġint elligence +. IS +ĠO bservable +ĠH ard +Bo ol +ident ial +.An chor +Ġsell ing +C I +AG ES +t le +b ur +UFF ER +R Y +Ġbig ger +Ġr at +Ġfam ous +Ġtyp ename +Ġexpl ained +} }Ċ +Ġn uclear +- N +Ġcr isis +ĠEnt er +Ġan swers +/ ${ +/ pl +Ġse qu +_n ext +m ask +Ġstand ing +Ġpl enty +ĠC ross +ĉ ret +d ro +ĠC ast += true +ĠCh ris +ic io +ĠM ike +Dec imal +add Component +L en +Ġco ck +Ġ# { +UR N +< tr +Ġauthor ities +Res ources +- H +B ottom +_ qu +put er +ester day +Dis patch +s ince +Ġfam iliar +, i +V C +Ġm ent +, C +Ġfre edom +Ġr outes +ĠB uy +Ġcomm ands +Ġm esh +/ C +ĠSet tings +- style +Ġw itness +Ġc le +Ġun ion +ef ault +are t +Ġthought s +Ġ ---- +_pro cess +_ us +ing ly +U ES +T ouch +ĠÐ ¼ +_ open +ĠV ec +Ġre ward +.C lick +/ : +Ġn ie +Ch anges +M onth +ï¼ Ł +Ġexec ution +Ġbe ach +( Integer +ĉ a +/ ' +.Font Style +Ġab ort +ĠS ingle +( isset +Ġd p +Ġ}} +Ġ* = +ĠP S +Ġdanger ous +[ p +OM E +O ther +ĠString Builder +Point s +head ing +Ġc urrency +Ġpercent age +_A PI +Ġclass ic +the ad +ĠM O +F E +Id x +aw ait +Ġà ¨ +Ġacc ident +Ġvari ant +Ġm yst +ĠL and +ĠB re +Ġh arm +ĠA cc +Ġcharg ed +ion es +Vis ibility +ar ry +ĠL anguage +Ġwalk ing +" .ĊĊ +if er +Ġleaders hip +.F rom +yn am +Ġt imestamp +i pt +ĠH as +REF ER +ĠIt s +Ġlist ener +UT E +_d escription +Ġexperi ences +Ġcre ates +R S +c art +bl ack +Ġcho ices +w ar +Ġ'' ' +Ġorder ed +Ġeven ing +Ġp il +Ġt un +ĠB ad +( app +r andom +Ġexp licit +Ġarr ived +Ġf ly +Ġecon om +-m ail +Ġlist s +Ġarch itect +ĠP ay +Ġd s +ĠS ol +Ġveh icles +H z +- com +Ġk ing +_e qual +ĠH elp +Ġab use +-- ;Ċ +Ġex tr +Ġchem ical +ä ¿ +Ġor ient +Ġbre ath +ĠS pace +(e lement +w ait +DE D +ig ma +Ġent r +Ġs ob +- name +Ġaff ected +ik a +Ġco al +_w ork +Ġhundred s +Ġpolit ics +sub ject +Ġconsum er +ANG E +Ġrepe ated +S end +Ġ# [ +Ġprot ocol +Ġlead s +use um +E very +Im port +(c ount +Ġchalleng es +Ġnov el +Ġdep art +b its +.C urrent +Ġ` ${ +ot ing +( \ +Ġcreat ive +Ġbu ff +Ġintrodu ced +us ic +mod ules +A re +-d oc +l anguage +_c ache +Ġto d +? > {{ +ĠRes ource +ĠSt andard +ĠP rem +up dated +ival ent +Ġas sets +_t emp +Ġinterest s +Ġhard ware +ĠR om +ĠSh are +Ġ' 'Ċ +Ġ* , +ĠT ake +ĠIm ages +_C HECK +(type of +ĠJ un +\< ^ +Ġli qu +Ġwor st +ymb ols +ĉĉĉ ĠĠĠ +Ġdr ivers +ĠD ocument +en o +ĠTechn ology +Ġappro ved +ump s +Ġs now +form ance +_A SSERT +u its +Ù Ĩ +Ġdiffer ences +. Visible +ĉĉĉ čĊ +ĠP s +_f etch +Ġto do +. ',Ċ +Ġs el +ur ers +in valid +Ġt weet +V EL +Ġresearch ers +Ġs printf +ĠR O +Ġp el +.Tr ans +Ġil legal +d ialog +sm arty +l g +_M IN +Ġher o +f inal +Ġp p +.L e +Ġc i +ĉ RT +Ġsuggest ed +p df +ach ing +ĠR o +ĠProp erties +ĠS i +Ġbuy ing +Ġm u +Ġl ands +if iers +ĠF ILE +RO UP +Ġh older +ĠS on +Ġsym pt +.r oute +) ? +Ġarg c +Ġfor t +Ġcas ino +_c ategory +Ġfor um +p refix +apt ure +T ube +em s +im ize +Ġn ue +a us +c ourse +AT OR +() ), +Ad vertis +ING S +Ġack now +ĠKore a +pl ing +Ġwork er +PL IED +h al +ĠRich ard +Element s +ĉĉĉ Ġ +st ar +Ġrelationship s +Ġche ap +AC H +ĠX ML +, & +ĠLou is +Ġr ide +_F AIL +Ġch unk +[ s +_O UT +Ġch osen +_ [ +/ ( +ĠJ eff +_s l +pr iv +ĠCan adian +Ġun able +_F LAG +Ġn os +h igh +Ġl ift +f un +() { +el ly +ycler View +_ as +_L IST +Ġr adi +.get Value +ĠAnge les +ĠS pan +_in stance +it ors +Ġm igration +A K +O h + ® +. selected +ĠG T +Ġadv ance +ĠSt yle +.Data GridView +e ction +Ñ İ +p io +ro g +Ġsh opping +ĠR ect +I lluminate +O U +ĉ array +Ġsubstant ial +Ġpre gn +Ġprom ote +IE W +.L ayout +Ġsign s +/ . +Ġlet ters +Bo ard +ct rl +" \ +ĠJ ones +Ġvert ex +Ġj a +Ġaff ili +Ġwe alth +ĉ default +Ġsignificant ly +Ġe c +Ġx s +act ual +.p er +_st ep +an vas +m ac +Ġtrans l +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Iter ator +Ġo ch +agnost ic +ĠD uring +ĠDE FAULT +Ġt ill +Ġsign ature +Ġb ird +ĠO l +ĠI r +H S +av atar +ESS AGE +Ġe lev +Ġm t +ĠN av +Ġrel ax +Ġpl ate +IT EM +( date +.n ot +Ġgr ade +Ġ} ),Ċ +? "ĊĊ +i ences +H igh +ĠD IS +dis abled +Q UI +Ġno ise +a ux +ĠU P +os a +Ġv oc +Ġ )) +oc om +_O FF +ĠD b +L ock +.e clipse +, d +ĠD raw +Ġ" ( +Ġvis ited +Ġâ Ī +Ġsuc ceed +Ġim possible +a ire +ĠT urn +Ġd ish +F G +Ġs ensor +AN N +ab a +Ġsur g +] );čĊ +Ġf p +_ an +- J +- G +ĠJ ob +Con vert +ĠKE Y +Ġauth ors +_s erver +\ r +Ġ-* - +f lex +Ġs oc +R et +Ġs alt +Ġâ̦ ĊĊ +ĠC lear +(p age +-d anger +Ġroom s +con v +# { +. op +ĠA rea +_S C +h en +Ġbeg ins +- y +Ġexc ited +Ġign ored +Ġbon us +st udent +ĠM ember +Ġrel atively +ĠL ow +ĠPro du +ate way +pos ure +Ġth ick +ani el +( view +ĠCr ush +Ext ension +I l +e ed +LO C +. im +. Items +Ġconflic t +.pre vent +Ġon Create +u v +is er +Ġw ave +M ar +ĠComm unity +ic he +ĠNo thing +[ m +ĠLe e +ri ends +è re +!! ! +an z +. result +ĠS K +_P ARAM +Ġdem ocr +Back Color +.ex ists +" It +( options +ra zy +as er +\ Database +al endar +_ ass +; }Ċ +vert ex +ine craft +W arning +arg o +Ġact or +ĠInst ead +ĠUs ing +S elf +@ interface +Ġspe aking +ĠPar is +ĠL ICENSE +.n ode +ĠF ood +E IF +ĠB i +. Start +ĠI B +Ġun iversity +ĠHe ader +.pro duct +C opy +et c +r ical +Ġ> >> +book s +Ġal gorithm +Ġ' __ +(j avax +Ġnumer ous +Sh are +H ave +Ġrec ru +Ġpro ve +.sub string +he alth +е л +Ġdec imal +Ġcomm ission +s cription +x C +Ġsum mary +att ed +Ġclo ser +fin ished +() ){Ċ +ĠW ood +_field s +k u +_ items +Fl ag +Ġconf idence +ĠF ederal +du x +Ġcomp at +Ġvert ical +Ð ¹ +è s +; ">Ċ +_m anager +() ))Ċ +ID E +: ", +__ Ċ +ĠW ay +Ñ Ī +T emp +ĠS TR +rit ten +S ync +ĠA V +ĠC EO +ĠG uid +Ġenvironment al +Ġcorrespond ing +ĉ console +Ġjust ice +ĠJ S +Ġl ived +g ar +ĠG raph +ĠSt at +Ġi Phone +. al +ĠH D +Ġocc ur +Ġth reshold +Ġon click +RE G +.Graphics Unit +M eta +Å ¾ +Ġc um +.g nu +à « +Ġobt ained +Ġcompl aint +Ġe ating +Ġt ar +_t ask +Ġopt s +( to +P ass +Ġpl astic +t ility +ĠW in +.prevent Default +p ile +ĠG ar +Ġqu antity +_l ast +Ġg reatest +D ao +_D IS +ĠUs ed +ĠH P +rit ing +S ION +bl ue +d omain +Ġs cores +N ormal +_ admin +ĠA SSERT +Th en +** * +d ist +l on +Ġh ate +sh al +Image View +d atabase +Ġp and +Ġlog ic += false +b g +ĠConfig uration +Ġn ur +O G +Ġmar ried +: + +Ġdro pped +Ġreg istration +оР¼ +ult iple +iz ers +sh ape +.c opy +Ġwe aring +ĠC ath +Ġded icated +Ġ.. .Ċ +Ġadv oc +ĠF amily +Ġstat ements +em atic +ampions hip +Ġmot iv +ĠH ave +Ġbl ow +J ob +c ert +_v ector +inst all +ĠC OPY +em bed +D IR +ĠS pring +Ġex hib +cd n +ĠCom ment +ĠOption al +. player +ĠD ark +( pos +ĠSh ould +Ġcent re +ĠGu ard +ó w +Ġtr ouble +EN ER +( unsigned +_s ervice +Ġn s +ul ing +ĠMex ico +ĠN Y +mys ql +Ġl ic +å ľ +M r +- fl +ĠC ustomer +id i +Ġ? >ĊĊ +ri ble +Ġп ÑĢ +Ġs izes +_STR ING +valid ation +ĠJ on +( Http +add Class +N odes +Ġfrag ment +Ġsp oke +Ġw aste +J oin +Ġill ustr +el i +c ient +Ġa id +Ġpro sec +') {Ċ +Ġpass ing +Ġf aces +Sh ape +_ Z +it i +Ġal le +Ġro bot +ĠĠĠĠĠĠĠ Ċ +ĠS pe +Ġrece iving +ĠD etails +Ġ" ) +m g +_RE F +Ġcompar ison +* , +ĠF ound +_s ession +( U +/ F +Ġx xx +N etwork +d ers +Ġcap ture +Ġcor re +ĠL td +ĠAd v +[ @ +Ġcl ip +M ill +ĠPro file +Ġend if +Ġob lig +des cribe +.e lement +riter ion +L D +er ed +Ġfav our +s core +ĠF ilter +at tributes +Ġcheck s +In flater +ĠPl us +Ġscient ific +Ġpriv acy +He ad +Ġfe at +Ġdeg rees +ĠP ale +; "> +Ġfil ms +ĠA udio +ĠT ag +ĠE nergy +it ar +par ator +Ġf ellow +Ġev t +ĠT ri +ĠD AM +cl oud +ĠP assword +ĠDemocr ats +ĠAc ad +$ lang +Ġre b +() )ĊĊ +н Ñĭ +ĠB ur +read cr +Ġh ex +Con sole +ct l +ous el +ĠWill iam +Ġa z +_P ORT +Ġpract ices +Ġany where +ĠP osition +Ġ- >Ċ +i ams +.user name +place holder +Ġo der +ĠSecret ary +Ġi T +mon d +event s +? âĢĿ +.S ub +Ġatt ached +Ġn ão +Ġest ate +. action +Ġfig ures +Ġ} );čĊ +Ġsubs cri +.t ag +n am +. plot +no on +li ament +Char acter +.t ab +Ġw inter +ĠVar iable +Ġtre es +Ġpr oud +( V +_ load +Ġh ier +ĠE con +Ġf d +Ġvict ims +R est +ian a +Ġf ake +.Print ln +Ġstr len +Ġs ad +Ġb le +Pro t +Ġbutton s +Ġte levision +Ġlog o +ext ension +ĉ j +ste in +acion es +Ġ"" "ĊĊ +Ġsim p +Ġrecord ed +Ġbr ings +Ġprincip al +Ġfe es +(s ource +k dir +Ġutil s +Ġcorrect ly +f il +Ġw el +P air +-b utton +s cale +ver ify +[ c +Ġ-- - +Ġes cape +ik es +Lower Case +ic ian +Ġch apter +ĠT YPE +Ġsh adow +Ġaw esome +W E +el if +Ġl ambda +Ġdist inct +Ġb are +- off +Ġcol our +.append Child +ole c +ag a +.f ill +ĉs uper +Ġad j +( position +.get Item +Sh ort +Ġtot ally +V D +ĠT re +_ ep +v ements +ĠS olution +Ġfund ament +F ollow +Ġfac ility +Ġhappen ing +O F +.text Box +S pan +Ġ « +id en +Ġex ceed +(p arent +Ġc p +ç » +Ġhas n +Ġp ri +Ġcon sequ +n en +ĠIN TO +I gnore +ĠF uture +Ġcar bon +ĠSte el +f mt +ok ie +Ġs pl +(t itle +- info +Ġde als +Ġfix ture +e a +D iv +Ġtest ed +_ return +)ĊĊ ĊĊ +upport ed +ĠC ook +Ġpay ing +ĠI ll +Ġarrest ed +ĠPr ime +_c allback +> ,Ċ +dr iver +On ce +ab b +_by tes +ĠS ets +( Object +Ġc c +Ġsh ell +al o +); // +( log +ct ors +) +Ġ$ (". +.p os +Ġbo ys +Ġwed ding +Ġag ents +=" _ +ĠAr my +Ġh int +v ision +Ġte ch +ĠCon nect +Ġleg end +ĠB et +.B ase +Sub ject +Ġl it +Rem ove +Ġ" : +ĠF inal +pear ance +ĠiT unes +Ġparticip ants +ĠPy thon +Ġbus y +i el +vert ices +Ġtemplate Url +ĠC lose +Im g +ĠCorpor ation +t imestamp +Ġext end +Ġwe bsites +Ġposs ibility +о ÑĤ +Ġk ö +Ġme at +Ġrepresent ation +Ġ ĉĉ +_ST ART +.app ly +ĠVal ley +ĠS uccess +H i +Ġn ob +ĠI Enumerable +_ select +ge o +. ")Ċ +Ġturn ing +Ġfab ric +(" ");Ċ +Ġpers pective +é Ĺ +ĠS n +Th ank +; j +.Param eters +ĉ ĠĠĠĠĠĠĠĠĠĠĠ +Ġfact s +Ġun t +.in stance +################################ ################################ +- end +ĠJO IN +ĠH en +Ġur i +åIJ į +Ġн а +ĠIn fo +Ġconduct ed +Ġà ¥ +OUR CE +Ġw ine +J ohn +.Error f +ĠA ge +ound ed +Ġreal ize +Ġ] ; +Ġsub sequ +, m +( User +ian o +Ġaccom pl +is p +.st d +é ĩ +ĠB ed +.set Attribute +B R +ke ep +ĠA LL +Ġis ol +am ma +P ackage +Ġoccas ion +-s uccess +еР´ +ĠLIMIT ED +st rip +() ĊĊĊ +istrib ution +Color s +Ġ+ :+ +Did Load +al er +Ġt id +ĠL ED +ĠLink ed +ĠC art +() )čĊ +_RE AD +Ġkill ing +ĠP HP +fe ction +Ġinst ances +c v +"/ > +Ġs f +Ġtax es +_ location +ĠBit coin +u able +r ank +ign ore +tr ack +к а +Ġshould n +ĠO P +=> {Ċ +Ġk m +Ġh elper +_ head +ĠWh ether +oc o +_b l +Ġstat istics +Ġbeaut y +Ġto g +t ip +ëĭ ¤ +Ġc sv +(s ql +std lib +we ak +Ġlik es +Ä į +Ġrepe at +Ġap artment +Ġem ph +_ edit +Ġv it +ĉ type +E ven +ut en +Ġcircum stances +b ian +Ġs ugar +W indows +ì ŀ +Ġobs erved +/ data +Ġcal endar +Ġstri ke +ĠR ES +_s c +f ony +ore m +( z +p ower +et ect +ĠS at +.d escription +Ġg ang +ĠS ports +ong s +ĠB undle +.s um +on ce +Ġacc used +Ġexplo re +Ġapprox imately +Ġlos ing +thes is +ĠF und +Ġdi agn +A utowired +prop erties +Ġ_ . +Ġc nt +ced ure +Ġy y +Ġgr ant +so ck +.inner HTML +Ġ] );Ċ +ĠCON FIG +=' $ +] ];Ċ +UN D +Ġg lob +Ġd ire +uff le +_M EM +Ġauth entic +> (" +Ġdec ade +ĠIm port +Ġorigin ally +Ġj Query +Ġindic ate +Ġours elves +S w +.l bl +ener ate +Ġbas ically +ĠH om +Ġ+ #+ +ĠBrit ain +ĠK ar +to Equal +.st op +Ġmod al +is i +Ġsuggest s +Ġd type +Ġt ur +b f +Ġconnection s +ĠB efore +ist ed +m ouse +Ġpul led +.b uild +Ġlegis lation +Ġfor th +p ad +eg o +.N ow +Ġexc iting +}ĊĊ ĊĊ +Ġcom pr +Ġsh ares +Ġr ig +g reen +_ vec +Ġenumer ate +A uto +ic ator +ĠR ay +as se +Ġh oliday +Ġnull able +g un +_d etails +Ġwr apper +se q +ĠYou ng +ju ana +Ġ" __ +lic ense +ser ve +^ ( +id ers +.Rem ove +rop down +' S +p in +(t oken +.D efault +Ġreason able +amp ion +ĠS ociety +Ġbe i +erv es +r ad +ĠF ox +_ images +Ġw heel +') [ +Ġc fg +( By +Con structor +Ġv ary +.sw ift +Ġpro xy +ĉ H +ĠAn other +ĠP en +Ġcheck ing +Ġj est +man ager +Or igin +ug s +o ir +>< !-- +Ġexpress ed +Ġmod er +Ġag encies +Ġi h +-h idden +ious ly +ĠR od +Ġso le +M ed +.A ny +Ġp c +b al +Ex ample +ĠS ale +Ġst rip +ĠCom p +Ġpresident ial +M ost +put ation +( ref +ĠF our +_f ilename +Ġen forcement +Ø ¯ +ĠGe org +we ights +/ l +Ġag gress +Ġd rawing +and y +< I +- j +ak a +h ref +Ġteach ers +_ Q +( it +ĠM B +Ġtemp orary +ire base +str a +æĹ ¶ +è ´ +( label +ou p +Ġtop ics +Ġport ion +id os +ĠJew ish +Ġre covery +Ġstand s +# [ +Ġafter noon +ĠArt icle +_ att +Ġexpl an +ĠP ak +.setOn ClickListener +. children +Ġi k ++ ( +l ag +Ġdis k +Ġcont rovers +"> & +as p +Ġw ie +ĠAustral ian +ĠYou Tube +At tr +cont ains +du ce +ĠM att +at ern +Ġvol unte +Ġnew sp +V P +olt ip +Ġde legate +_m eta +Ġaccur ate +ĠEx ample +% , +ĠD aily +Ġc abin +ĠS W +Ġlim its +k ip +Ġar my +Ġend ing +Ġb oss +ĠD ialog +Al so +="# " +ord an +row se +- min +Ġ" & +_ loc +U X +Ġdevelop ers +Ġaccur acy +Ġmaint enance +Ġhe av +Ġfil ters +.T oolStrip +Ġn arr +ĠE mp +ORD ER +ĠM obile +.S erial +.out put +.c ol +M aterial +um a +Ġconsum ers +sh ift +Ġp ued +Ġmin i +c ollection +Ġk an +.c enter +H istory +Ġben ch +() ); +itor ies +Ġcrow d +_c all +Ġpow ers +- E +Ġdis miss +Ġtalk s +ĠCh annel +for ward +_ control +/s rc +i est +**************** ******** +Ġbet a +(c olor +_O BJECT +ĠA pi +Ġeffect ively +C amera +s d +uss y +D ict +ĠE ffect +ib ilities +Ġreturn ing +ĠF ar +Ġ' ') +Ġmod ules +il ation +Ġ( % +TR GL +Ġst orm +on na +ĠEX P +Ġs pons +Ġdis pl +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠ +f all +å Į +ign Key +_ US +et rics +Ġhand les +T L +_ amount +ow a +br and +ĠT ool +Ġus ual +. Z +cre ment +ad ium +st ock +Ġserv ing +ĠB on +Ġline ar +ĠT arget +ĠR adio +H L +Sh ader +om atic +ag ues +in ity +d iff +_ iterator +qu ot +Ġ ,Ċ +c allback +Ġsympt oms +[ _ +ĠB ul +ĠF eb +und o +_ account +Ġtyp edef +и Ñģ +tr as +User Id +ĠP enn +ĠSup reme +} > +user Id +ĠK im +Ġg a +Ġart ists +å ¸ +ĠAb stract +ok emon +Ġh am +o val +Ġch a +at en +å Ĩ +F ixed +Ġvul ner +ĠParam eters +qu antity +.C lear +Servlet Request +Ġy a +Ġsou l +trans action +Ġsol o +Ġp airs +æ Ķ +ĠG re +_ word +ĠC C +Ġg i +z ie +Ġsched uled +rot ation +gy pt +ul ous +:: _ +ĠE ll +< ! +ĉĉ ĠĠ +l p +ah a +C opyright +Ġdr am +Ġdi agram +ĠM em +Ġg arden +Com p +Ġattempt s +uff ix +> () +Ġphil osoph +_re l +å ¼ +Ġs v +.se cond +ant o +.J son +ĠTe le +_ local +_s end +Ġas pects +ì Ĺ +IB LE +Ġr ail +Ġwid ely +ash ed +i ar +in f +up per +d jango +_result s +iss ing +Ġequ ivalent +OUN D +Ġt y +Ġpotential ly +Advertis ement +ĠRec ord +resent ation +_w idget +ound ing +Ġrelig ion +Ġcons c +ĠL im +. am +H tml +Ġ' : +P ATH +_s pec +ort ed +id ades +_sh ape +Ġkeep s +.S ave +ĠL oc +or i +ĠT EST +unic ip +Ġreg ions +Ġbelie ves +/ en +pos ite +{ ' +pre pare +_ const +s ample +ĠWill iams +Ġstr t +_ Get +ĠAnd rew +. active +Ġl ayers +Visual Style +az y +ĠK n +Ġac id +ĠAs ia +Ġex cess +ĉm y +Ġkey board +ens us +Ġcre w +Ġmiss ed +m aster +ĠW ild +Ġnew ly +Ġwin ner +Ġst ub +ic ode +.m ove +D omain +ĠS ar +Ġfore st +LE D +claim er +.ex it +ĠW indow +Ġres istance +ĠC HECK +(" - +ĠR yan +Ġp ipe +Ġco ast +DE F +// ! +_ off +ex it +Ġult imately +imit ive +ĠKe ep +Ġhistor ical +Ġany way +ĠJack son +ock er +ER N +ĠU INT +y ntax +ER Y +is ms +Ġc n +Ġocc urs +Ġ; ; +Text View +A E +/ img +Ġy esterday +- default +Ġt iny +Ġpro c +Ġal ive +ĠRE G +. th +ear ing +.get Logger +< link +_ login +F older +ab c +lyph icon +н о +Ġnot iced +od igo +Ġed ition +im ator +. Enabled +.parse Int +Ġy ards +ĉĉĉĉĉĉĉĉ ĉĉĉĉ +Ġver bose +л Ñı +_B Y +.log in +.* ;Ċ +ĠM id +é es +Ġg lo +Ġbuild ings +Ġz e +ĠI ter +Ġt ube +ĠP ot +\ M +< th +br idge +ĠS cript +ĠM odule +Ġv acc +Ġinstall ation +v y +VisualStyle BackColor +ĠS M +.t otal +b at +Ġfind s +Ġat mos +Sub view +iz ard +Ġrepl acement +lic ated +ap is +Ġlog ged +ĠLe ft +G ui +_ Type +t m +P ad +Ġhouse hold +Ġre le +Ġpropos al +_CL ASS +:: :: +Ġinf rastructure +In ject +/ html +Ġad s +iz za +Ġm g +ctr ine +% Ċ +< html +- image +Ġatt orney +< m +(' , +Ġcan n +Ġprint ln +o ose +Ġy ellow +.ex p +p ayment +Ġtable View +aw ay +Ġopp osition +ĠAg ain +ĠH andle +Ġex clusive +in ar +é r +оР± +ĠC ODE +emp orary +Ġre act +pi pe +c z +. activity +Ġlarg ely +Ġdis s +ax y +es is +ĠR en +Ġc orn +.Use VisualStyleBackColor +d ays +Ġfr uit +In sert +_ enc +E st +_de c +ĠL uc +Ġü ber +param eters +P ERT +ex press +_pro file +Un known +Ġrev olution +.add ress +_re quire +Ġun iform +ĠP ack +l ar +ĠU ITableView +Ġdep ends +Valid ation +conf irm +O wner +Ġt rib +h et +ĠI de +ans as +L anguage +u et +ĠP o +ĠSte ve +Ġcont est +_DE FAULT +Ġapparent ly +RE EN +Ġfrequ ently +Ġtrad ition +ocol ate +S I +ĠArg ument +F ocus +ert e +ĠL ayout +Ġd x +Ġgener ator +ĠW ait +P olicy +l ights +.Ex ecute +P y +Ġbed room +ed a +ra id +ĉs ize +Ġan cient +Ġp ump +Ġd w +Ġ(! ( +Ġspec ify +( status +ĠF BI +.ex ception +Ġrem ark +ly mp +ant ee +Up load +ern et +é ¡ +in ent +ĠR ender +d m +ĠM emory +r ich +ĠT ools +Ġk ne +Ġper m +b ad +Ġd inner +.res et +Ġj Label +Fe ature +.S ervice +Ġ( {Ċ +Ġre ferred +.class List +Ġinit With +ĠText View +Ġne ither +Ġcount y +Ġ" { +ç § +Ġt ack +class Name +ĠUS ER +Ġre new +` ` +get Name +Ġb rown +Err ors +ert o +Ġsust ain +S O +let es +ĠIn valid +Ġen emies +un ge +Ġexist ence +err a +Ċ ĠĠĊ +utor ial +# a +p ay +char ge +ĠI re +ate st +Ġexp los +Ġf ired +N ER +ĠT y +ic ion +U ri +Ġobvious ly +ĠC olum +Ġ' + +ĠDe vice +- related +_ ARG +Ġv or +ĠLess er +_O P +Serial izer +Ġup grade +L ight +Ġc odes +++ ;čĊ +Ġwrit es +fo od +Ġé t +@ section +Ġtrack s +Ġserious ly +ch t +(size of +Ġimmedi ate +Ġscient ists +Ġ{ $ +_ ne +.Anchor Styles +Ġaccom mod +ĠHar ry +Ġs ight +ĠPale st +ersist ent +Ġ Ñĥ +- input +Ġco ordinates + · +W elcome +.con f +Ġgre w +Ġb old +ĠC PU +(m y +Ġperfect ly +Ġmom ents +ĠM ovie +- data +yst al +_W IDTH +ĠS creen +æ Ŀ +Ġdis ap +Ġredu ction +.Get Component +_M ODULE +Ġgener ic +Ġd y +all er +Ġc url +ĠB ody +Ġb anks +, t +av g +Ġev il +Ġmanufact urer +Ġrece iver +Column s +Ġing redients +ĉ out +qu es +.L oad +Ġslow ly +ĠT own +ĠC ell +_n ormal +_p refix +ĠAl ert +(" { +ä r +âĢľ The +ĠM D +Ġcour ses +ath an +é Ļ +oc c +ĠS ER +es ign +Add r += [' +(" ./ +] } +.f ont +ĠInst agram +ĠB order +od a +Ġh all +Ġr um +_b it +Ġs aving +_d own +R andom +_reg ister +( Context +Ġoppos ite +R oom +Y ES +ан и +Ġenjoy ed +_r un +C lear +âĢ ĺ +ĠF ord +on ic +ost en +"] ) +_ auth +// čĊ +Ġsuff icient +LE S +Ġph en +Ġo h +_c sv +Ġrout ine +.Are Equal +ay lor +Ġb asket +_COM M +rypt ed +S im +ĠSh op +Ġstud io +at os +( W +[ string +ä t +og a +Ġsh r +Ġs ick +An other +Ġdo ors +_N E +ĠTH REE +. order +raz il +Ġmap s +_TR UE +trans late +Ġnear by +Ġn ach +LO AT +b atch +Ġl ux +ash es +ang ers +â̦ â̦ +_E VENT +_ UP +Ġact s +in v +_M ETHOD +cc ion +Ġret ain +ut ch +ĠÐ ± +Ġknow ing +Ġrepresent ing +N OT +p ng +Con tract +Ġtr ick +ĠE dition +uplic ate +Ġcontrol led +c fg +j avascript +Ġmil k +Wh ite +Se quence +aw a +Ġdiscuss ed +ĠB ush +ĠY ES +.f actory +t ags +Ġt act +Ġs id +$ $ +ĠE num +Ġfr ames +} ); +Ġreg ul +'] ;čĊ +Reg ion +ff f +Ġc ro +( com +=" + +St udent +Ġdis appoint +RES ULT +Count er +Ġbut ter +ĠH a +ĠD igital +Ġb id +"> {{ +ing ers +ĠC ountry +_t pl +"] )Ċ +/ k +d ating +: # +ĠD ATA +yn chron +_b ody +olly wood +Ġval or +ip ient +o ft +UB L +doc s +Ġsyn chron +Ġform ed +ru ption +Ġlist a +Request Mapping +Ġvill age +Ġkn ock +oc s +" { +_fl ags +Ġtrans actions +Ġhab it +ĠJ e +ed en +Ġa ircraft +ir k +ĠA B +Ġfair ly +. inter +.A ct +Ġinstr ument +remove Class +.com mand +Ñ ī +ĉm em +( min +Ġo t +Ġcol le += s +time out +Ġid s +ĠM atch +ij n +z ero +Ġnetwork s +.g ov +Ġint el +Ġsection s +out ine +(c md +(d ir +ĠLI ABILITY +ĠB log +Ġbr idge +ĠC V +con vert +Ġ" )Ċ +ĠB ern +_P O +e val +( set +to ol +Ġpay ments +Beh aviour +Ġcon crete +Ġel ig +Ġacc eler +Ġh ole +_ o +TE GER +Ġgraph ics +O wn +Form atter +on der +Ġpack ages +/ a +ĠK now +Or Default +Ġdut y +W ait +н а +_rec ord +[ t +M esh +Ġon going +.be ans +Ġt an +Ġinter pret +ast ers +QU AL +Ġleg s +\ Request +- file +_m utex +ĠS aint +// # +Ġpro hib +( info +: = +lin ux +Ġb lo +ot ic +ĉf inal +_ex p +ĠSt op +ap ing +(s aved +_p ush +Ġe ase +_F R +pons ive +str cmp +: ĊĊĊĊ +ä» ¶ +ol i +Ġextrem e +Ġprof essor +Im ages +.IO Exception +Ġaddress es +plement ed +Ġincor por +Ġuse Effect +_O F +ĠD a +n ombre +IR ST +Ġdisc rim +Ġcomp ens +greg ate +anc ell +ach es +ĠC riteria +$ result +D estroy +Ġsecond ary +W atch +ĠS em +ĠMc C +Ġacad emic +U pper +:: ~ +ut ral +ĠD og +ad ed +Valid ator +Ġder ived +Ġset Timeout +ĠK en +Ġtyp ical +ĠB ob +Ġb ounds +ĠSe ason +Ġc razy +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠ +-r outer +itt est +ĠM ir +Ġemot ional +, v +c n +/ st +å ½ +on om +Ġdecl ared +> . +ail ing +Ġ/* <<< +Ġnorm ally +(M e +ev in +lik ely +Ġpoint ed +ĠSt ack +Ġw alls +. Vector +me an +] ]Ċ +Ġlist ening +ad v +Ġsw ap +IF T +Ø ª +. argv +ul s +< option +not ations +Ġemail s +ĠU kr +ast a +ĠTh us +ĠSt one +Ġappe al +. âĢĻ +Ġreg ulations +Pre ferences +ĠPh one +ul f +ĠD R +Ġtechn ologies +Ġpar agraph +Ġnecess arily +.e ach +< float +res a +Ġunder st +Ġf inger +press ed +-b y +if fer +w atch +ĠB a +A IM +Ġwe ights +ĠR on +') }} +[ self +-------- --Ċ +per iment +Ġto String +x ic +ĠC amera +! ĊĊĊĊ +aur ant +P refix +Ġinstit utions +: int +Ġex posure +p attern +ĠLin ux +.n umber +red ient +Argument Exception +ĠCh ief +" }, +Ġelect ronic +r ong +er d +sp Net +ra it +/ ', +ĠOh io +Cont rollers +Ġcontin uing +ĠT emplate +ĠE th +s z +/ env +En v +% . +art ers +) (( +ĠT ABLE +Ġà ® +per ature +pro gress +P res +ê ° +im plementation +Ġb ien +Ġstre ets +_M SG +New s +## # +: / +Ġcut ting +x B +ress ed +_EN ABLE +l ab +Ġca using +] ));Ċ +b ra +x FFFF +il ly +plet ion +w ill +_b ar +Ġstruct ures +ĠI mp +Û Į +Ġ< > +Ġ ---------------- +_B UFFER +.d ir +Ġpl ain +Ġpe er +g g +oint s +Ġsomew hat +Ġw et +Ġemploy ment +Ġtick ets +ir ms +Ġt uple +s is +$ sql +r ig +Ġcon version +Ġg es +Ġconfig ure +eg r +ĠC a +Ġ__ (' +ou ston +.t oken +Bl ack +Ġmag azine +A W +. IN +os ing +Ġbro ke +ĠC ru +DE LETE +Ġdestroy ed +(M ath +Ġappro val +-d om +ĠI II +table View +Ġdesign s +Ġcrush ing +Ġcons ent +dir name +om p +Ġc rypt +? ( +or ough +. o +ĉ list +ams ung +."" "Ċ +err ing +G oogle +_p air +_IN IT +rem arks +Ġg ear +F ill +l ife +} ")Ċ +Ġsuit able +Ġsurpr ised +_RE QUEST +Ġman ifest +att en +Ġfr ustr +ov ement +.c lick +Ġi i +Ġexp ansion +ig s +P arse +.Reg ular +R ob +_l ayout +ì ł +Ġtrans lation +ĠBe aut +B est +_C OLOR +< label +Ġliqu id +IT S +Ġpro d +Ġoper ate +UI Kit +Ġn atur +arg ument +_d etail +ĠCent re +Ġ" -- +Ġ}} " +lo cale +.t v +_se q +Ġup coming +Ch art +ĠDiv ision +Ġclin ical +Com pany +S epar +l as +ĠH un +: s +Ġhead ing +оР³ +Ġ" ");Ċ +[ id +b ia +Ġst retch +ic ide +Ġre produ +.pro ject +leg end +end ers +Ġrespons es +Ġon t +rit ical +Ġref uge +ĠL i +Ġ: ĊĊ +ĠTh ree +.cont roller +_IN DEX +_F OR +\Model s +j ax +ĉex it +Ġâ ĸ +Ġc overs +ĉ y +- . +IND OW +Ġfail s +in cludes +Ġf ault +Ġl y +ñ o +.s lice +ILE D +ĠP ur +ĠAs ian +_b atch +.M ax +v l +ĠCOPY RIGHT +Ġg iant +ĠMan ual +ĠC opy +Class Name +He alth +C ursor +IB Outlet +Ġt we +æ ³ +_label s +Ġcol lected +Ġfurn iture +Ġdeal ing +Control s +ĠHot el +ck s +Ġch ose +âĶ Ģ +od d +S R +Ù Ĭ +ì Ħ +Ġacc ord +ĠM ove +ĠM ode +ĠM ock +Ġthread s +++ ++ +ĠO ptions +Ref resh +ĠD id +'] -> +u cc +_ch annel +. abs +Ġ{ },Ċ +ĠW al +er ior +Ġmain ly +ĠDr iver +NotFound Exception +Ġcount s +e am +Ġ& = +Q uestion +ĠA li +Ġany more +d etail +t ail +Ġm ile +ĠF air +Ġs orry +Ġsurround ing +Ġad m +De v +Ġmari juana +ĠS ound +ĠA sh +F D +Te am +. port +Ġ[ ]ĊĊ +ub ble +Ġas c +Ġint ention +A cc +ch i +ust ers +Ġins pired +se g +CL U +Ġman ip +M etadata +Con nect +ĠB eh +Ġfind ings +Ġas sembly +w orld +Ġrem ained +Ġu id +( . +Ġm x +Lo op +ĊĊĊĊ Ċ +Ġfant astic +wh o +ak i +ĠB asic +ĠY et +ĠUs ers +ik ip +Ġhead s +ĠMich igan +_ it +ĠTor onto +Ġrec ording +Ġsub mitted +_var iable +medi ate +.graph ics +Ġst ood +Ġre ar +vel ocity +_M ESSAGE +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ro les +ĠT our +_ year +end ment +amp s +ĠIre land +m al +Ġyoung er +Ġstrugg le +Ġc able +ĠSD L +(' - +an es +ĠNe ed +.R ow +P ol +ĠP H +_s cript +ag em +ĠB as +_s pace +. loc +: i +ad r +Ġengine ering +it en +) & +Ġu k +ĠL ittle +_C OUNT +x A +Array List +æ į +Ġ" ")Ċ +An chor +Ġh ang +t witter +Ġcompet itive +.s rc +ãģ Ĺ +Ġtrans late +ĠCre ates +ook s +ĠR oll +'' 'Ċ +/ sh +s ome +Enc oding +.res olve +Ġdesign er +ĠSt orage +Ġz a +ĠN ever +Ġsomew here +Ġbox es +.s ource +Ġpy game +Ġgrow n +.t w +() ),Ċ +', [' +Ġoppon ent +(s rc +.l ayer +AP P +ĠAct iv +Ġguest s +ĠVAL UES +};ĊĊ Ċ +.n ative +Ġamount s +. RE +Ġcl one +Ġwer en +Ġ" << +_ ac +Ġbreak ing +Ġreli able +.P OST +ĠSk y +Ġ' & +Ġsaved InstanceState +ast ing +ill ion +com ments +ult y +.m enu +/ config +Ġ ĊĊĊ +T ODO +Ġpurch ased +_c or +ĉ auto +Compat Activity +com plete +_ graph +is odes +Ġsitu ations +ĠH or +Re ceive +âĢľ We +Ġent ities +.assert Equals +оРº +ĠS ans +v ince +rom pt += Ċ +Ġ/ . +.Se lect +yl v +Ġb att +A udio +Ġincreasing ly +.B undle +Ġexpl ains +the ast +. offset +Ġh al +Ġtechn ique +_l imit +Ġdraw n +AY ER +Ġfeature d +yy yy +at in +ph en +ach el +! \ +l ower +ĠG R +Ġp ag +ĠP arse +Ġt ou +ä¸ Ģ +D istance +Index Path +Ġh ell +s im +UT TON +Us age +elen ium +ĠF all +Ġ" .$ +ĠM u +Ġcr uc +Ġs ont +REF IX +Ġinter ior +ĠO lymp +.Auto Scale +par a +Axis Alignment +Ġr iver +D to +Ġwith draw +Re act +- class +b efore +_ alloc +Cont ents +ĠW as +I CT +Ġform ula +Ġindic ates +ĠĠĠĠ ĊĊ +_st ore +it ting +ĠIt alian +_S et +_re port +Ġp id +_V ER +Ġw ins +ĠCl oud +") {Ċ +ch ester +Ġden ied +Ġw ird +ĠSte p +Ġinvest ors +b old +_d isplay +ou ver +or er +Res et +Ġsurg ery +Ġstrateg ies +/m aterial +_ unit +Ġc ouncil +.P er +ĠâĢ ŀ +Ġre form +F ramework +Ġlist ing +_b tn +Ġb is +% d +eg as +Ġsudden ly +_S ER +Ġa o +_d irectory +f as +Ġprem ium +Ġtrack ing +ĠB L +Ġm ature +Ġbath room +Ġ'/ ' +ĠÄ ij +Per formed +Ġsold iers +arn ings +Ġwalk ed +- con +b ottom +Ġsurpr ising +Ġg ene +Us uario +.DE FAULT +ĠM IT +C ODE +ĠE gypt +p icker +ys ql +AT URE +d etails +ĠCon ference +In formation +ĠM ail +-d own +r aries +b ro +Ġsubject s +Ġ' * +è¯ · +or ient +: @ +ver bose +E F +Ġto ler +eng ers +Ġend point +Ġstr ange +Ġcol on +Ġpre ferred +de p +ĠE V +ARR AY +Ġw he +Ġp up +_n odes +Ġtalk ed +Ġinstit ution +db c +Ġex posed +te en +ĠFr ont +T T +_N ONE +\/ \/ +pro gram +Ġencour age +. ` +sh ire +ĠIsl am +e en +N I +' " +.W idth +Ġlik ed +Ġ{ ... +ĠSystem s +Ġvot re +Ġmanufact uring +Con verter +ĠIn f +ì ļ +D TO +Ġin ches +Ġ ठ+à ¹ +ĠChar les +B U +")) ;ĊĊ +ĠL abor +un n +Ġest im +m obile +ĠL earn +_C ALL +â Ħ +Ġind ices +Ġt ub +ikip edia +C ost +row able +ë ¡ +g age +Ġfunction ality +uzz le +em os +.l ib +Ġd ass +еРº +enn a +Ġsh ots +Ġrest ore +/ D +For Key +], [ +al ias +l int +.st ream +æ ł +_FORM AT +Ġsil ver +.re pository +Ġlegis l +.B order +_fe atures +Per mission +Ġhous es +ĠW ars +_COM P +Ġinj uries +Ġconstant ly +fl utter +EN U +ĠCon f +Ġrecogn ized +Ġpract ical +Ġde cent +B J +] ); +ast y +ĠAct ivity +-m ode +Ġsl ide +.IsNullOr Empty +ĠY OU +P ower +ind ices +Ġqual ified +Ġthrow n +h ello +ĠN ick +l ah +as sembly +ĠSm all +old ing +Sh ould +ĠSil ver +(saved InstanceState +Ġtog gle +.N ot +C trl +: nil +ĠCont inue +ĠB oot +æ ī +ĠM ur +d on +ĠF A +S napshot +Ġassoci ation +fo x +, a +az ione +] )čĊ +CT YPE +Ġf ade +ĠD ar +.n avigation +Ġl uck +SC RI +ĠDe ad +Ġterm inal +_LE NGTH +Ġeff iciency +Ġun w +Ġn arrow +iment o +( Color +ĠSe a +_ area +, A +_ opt +ĠHill ary +.t ask +ĠJ ac +ast ed +ĠAd am +ĠIl legal +Ġsearch ing +Instance Of +J ava +ĠForm at +Ġreal ized +ĠChild ren +Ġk il +(f rame +âĢĿ .ĊĊ +Ġscen ario +"] );Ċ +Ġincred ible +li x +IO Exception +ĠQ uest +il ty +Ġun lock +â Ĥ¬ +Ġre ferences +ĠV ert +B inding +eg ative +Ġwr ap +.d atabase +( content +B uf +ĠTr ad +ĠA ud +tr ace +.m ock +Ġther apy +ĉ L +.To Int +ĠKing dom +B us +ha ust +"" "ĊĊ +( end +.draw able +[ ];Ċ +ĠH ospital +Ġph arm +---- - +ĠA G +é d +> ");Ċ +Ġw allet +at able +) $ +Ġmonth ly +Ġdi agnostic +S ymbol +Ġiter ator +un finished +Ġimm igration +s r +RO W +(g ame +Ġclo thes +ĠU nt +Ġactiv ation +_C on +.h ash +Ġinitial ly +.H ash +Ġcut s +f ound +ĠSt ory +ÑĨ и +ac ao +_T YP +pro to +est r +-p age +ah r +Ġincor rect +ĠJose ph +TextBox Column +_st yle +ĠD aniel +s heet +Ġl iv +l ined +Ġr a +R untime +_ empty +sl ug +_ struct +ë Ĭ +m u +Ġper mitted +Ġreg ional +Ġsob re +ĠS uch +Ġ[ _ +Ġro of +.Al ignment +t imes +.m sg +Ġche st +ĠT ab +Ġest a +ä n +Ġsubs cription +( command +s pecial +Ġme al +") :Ċ +_ ctx +Ġclos ely +et ry +- be +ad el +ĠR am +ig est +ĠSpan ish +Ġcommit ment +Ġw ake +* >( +P HP +_ { +ck er +< List +_n ull +ĠRes erved +Ġin her +.Column s +.A spNet +_IN VALID +ĠParam eter +Ġex pr +} { +Cell Style +Ġval uable +Ġfun ny +In v +Ġst able +* t +Ġp ill +pl iers +ĠC SS +ĠCon dition +ĠS peed +ublish er +Ġoff ensive +ce st +ic as +Ġsp ark +ĠPro te +set up +IF Y +ĠT ax +Wh o +F amily +- for +. uk +Ġf asc +sv g +") ). +Ġbirth day +âĸ Ī +ve h +el led +Ġimport s +ĠIsl amic +T A +ĠSt an +we ather +Ġsus pect +e ature +enn es +W M +.m inecraft +av id +è ½ +.se curity +in os +G ood +Ġm arch +Ġposs ess +us uario +Con s +am ber +ched uler +Ġhor se +ç ½ +(b ody +ĠTrans form +_de code +.s vg +Ġf oo +Ġd ella +ext ends +am er +Ġprocess ed +ĠH arr +ĠA I +Ġk o +CH AR +( % +Ġt ap +({ ' +c roll +D OM +Ġte a +Ġre in +Ġworld wide +_f n +sh a +Ġb ir +ç ões +="# "> +Ġrepresent ed +ill er +(ex pected +Ġd ance +Ġvisit ors +.con cat +-b it +UR RE +ĠR og +v p +ip h +ĠL LC +it led +iam i +C oll +_re al +_sh ow +_f older +Ġd ar +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġl atter +arch y +Ġb ow +Ġout come +ĠPost ed +Ġris ks +ĠThere fore +Ġowners hip +Ġpar allel +Ġp ending +ge ometry +Ġrecogn ize +ST EM +ĠC P +Ġimm igr +IT LE +ĠĠĠĠ ĉĉ +conn ected +Ġsm ile +(d ocument +\ Component +vert ical +Ġconsum ption +Ġsh oes +. impl +un ks +. ";Ċ +Ġfood s +_ );Ċ +.assert True +Ġp ipeline +Ġcollection s +Ġearn ed +ĠC ert +Ġpartners hip +( action +Ġc d +ĠV ery +Option al +Ġscre ens +Ġtit les +ener ator +Ġab andon +k ind +IL TER +Ġclos ing +lic a +_ inter +Ġcamp us +set ting +S prite +ãģ ¯ +_re ply +To List +: \/\/ +ed e +Ġfol ks +Ġbo at +( argv +Ġperman ent +Ġcarry ing +Ġconserv ative +import ant +. img +ĠIm m +Ġdim ensions +al and +s ingle +Ex it +-------- -- +ari ant +tern al +Se conds +ĠIt aly +ot lin +.Res ume +=' " +) == +cept or +Ġs ca +/m ain +Sec urity +_d at +Ġlet s +Ġa qu +Ġwhen ever +b erry +Ġact ing +ant i +p d +& gt +æ Ń +Z one +T oday +! . +To Props +ab is +it able +Ġg al +] { +iz ona +Ġin contri +N ET +/// Ċ +[ in +_s ave +Ġex em +ĠK enn +Ġev olution +var s +_st ats +- only +ĠColor ado +Ġwatch ed +b our +Ġsever e +Ġprofession als +port ion +Ġguar ante +Ð ³ +Ġpush ed +ĠG i +ï ½ +Ġt um +ĠA z +ĠEdge Insets +")) ;čĊ +is se +. ac +Set ting +Ġapprec iate +ĠValue Error +Ġsur ve +ĠR ole +. Inter +plot lib +j et +d am +Ġplatform s +te le +UT O +ĠInt ernal ++ : +} ;čĊ +Gener al +\ Entity +Ġlawy er +qu iv +ĠPost s +is o +Ġacc um +ob e +Ġmark s +Ġ] ;ĊĊ +ĉ text +.s uccess +cur r +as a +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠ +Ġth in +_ over +are st +ĠO s +( address +Ġvel ocity +Ġ[] ;ĊĊ +=" ../../ +ĠPr iv +b ow +Ġguar antee +% ĊĊ +Ġeval uate +.LE NGTH +Ġin ventory +q a +_de bug +.On ClickListener +Ġl ies +Ġassess ment +dat etime +.background Color +Ġ*/ čĊčĊ +ra f +un wrap +ĠF oot +Ġnot ify +Ġlow est +DO CTYPE +Ġl anguages +ex tra +- back +Ġein en +tem plates +_p ass +ĠM ust +Ġest á +_c ore +ĠSc ot +A I +Ġb ias +ations hip +Con stant +Ġprogram ming +In s +uspend Layout +ĠPRO VID +ant es +Ġsh irt +in ated +. OK +[ a +Ġthink s +? ĊĊĊĊ +Ġregard less +ĠMag ic +ul ating +ĉ class +add Group +RE ATE +ĠS U +Ġsim pl +c opyright +Ġb unch +Ġun iverse +ĠE rr +Ġpresent ation +c ategories +Ġatt ach +.s ign +_A C +Ġdisc ipl +Ġregular ly +Ġprim arily +ink s +[ [ +.r and +.sh ould +ownt own +=" ' +Ġs ans +Ġsupport ers +se quence +G O +. .ĊĊ +ĠS pr +Ġcare fully +U IColor +dest roy +Ġtod os +ĠOR DER +ott ed +Ġd ont +aud i +_ player +g re +ĠO il +< body +_st ack +.P adding +ĠProduct s +Ġpriv ile +Ġinj ured +ĠF urther +Ġal ias +.Resume Layout +_LE N +Ġs es +'] ;ĊĊ +cre ens +Ġdirect ed +.S uspendLayout +od ge +.A t +mark s +ĠUn ivers +ert s +ĠE sc +Ġnav bar +Ġutil ity +agnost ics +Ġin ject +ĠD NA +Ġ" ," +am ar +Ġe u +Ġrestaur ants +_p ut +ut ers +Tool Strip +t w +ist ro +Ġz oom +Ġleg it +pec ific +ĠC ome +Ġlocal Storage +Ġabs or +.P anel +ĠDesign er +Ġo w +IC AL +_ uri +(f ield +Ġsup erv +Ex ists +Ġrespect ively +ĠSt and +Con f +uss ian +Ġar c +Ġ nd +uck s +Ġre str +Ġseason s +ĠCh apter +ĠSw itch +p ic +Ġh i +load ed +Ġfl uid +-b tn +Ġrun time +. it +B N +Op acity +as ant +ry ption +-n ative +Ġta ught +å ¯ +ag ment +Ġm ul +Reg istry +_ grid +ĠBro ok +: Set +Ġm ongoose +AM ES +inner HTML +Ġs oci +ĠInt el +get Id +C md +Ġaccess ible +r ames +le ton +Ġ__ ( +ĉ delete +ĠS quare +" ĊĊĊ +Ġbu cket +avor ite +ĠB reak +++ ] +Ġbr ush +Ġt ensor +/ http +T ile +Ġfunction al +Ġ" * +wh el +Ġt ent +ĠChar acter +Ġse es +. ST +B ig +Ġext ern +Url s +)) )), +ĠJ r +.B uilder +. ; +n l +_ Init +ĠH ER +ż e +mys qli +_ icon +v an +Ġfeel ings +Ġle an +Ġhop ing +T V +="čĊ +b est +all as +ent ed +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĊ +_con nection +Ġrep o +en abled +аРº +Ġsh a +Ġmembers hip +Status Code +in ating +_s m +_c ustom +_ weight +Ġc ss +St at +_ env +link s +TR L +ĠH it +, r +up id +Ġop ens +Ġg ent +_v is +Ġj oy +< w +_c ost +ĠPy Object +ren ce +ĠGeorg ia +ĠBro ad +m ma +â Ĥ +p f +Ġ" \" +Ġ( & +om o +Ġliter ally +Ī ĺ +met ric +Ġb ars +z ed +(w indow +ĠIsrael i +Ġform al +ident ifier +.d ao +ĠDe ath +% ;Ċ +Ġdecl are +ar ms +RE AM +PERT Y +Ġconsequ ences +to ols +Pe ople +ĠWh ich +> ();čĊ +.de code +_A CT +Button s +.f loat +.F irst +ë ¥ +ĠPol it +ĠX CT +T ags +ĠCG Float += str +Ġle af +- check +ĠI ss +.s ystem +log out +ach t +Ang le +s in +ch art +INT ER +ĠN UM +B asic +.P roperties +ä¸ Ń +_ change +ĠB razil +Ab stract +Ġ: +: +_ use +а л +ĠL y +IB UT +Ġout er +Ġ-- >čĊ +Ġrel ief +l ap +qu er +_p arent +he ap +LO SE +Ġcomb ine +ĠR ose +ow ers +Ġproced ures +ĠS ort +an im +var iant +eh icle +Ġsign ing +Pr imary +c urrency +Ġsex e +o en +th eta +em an +Ġimpress ive +(' _ +ĉ U +ĠText Style +_c nt +Ġs lice +(' : +Ġunderst ood +H is +Ġinform ed +Ġn ick +(T AG +h d +Ġelection s +est ure +ĠS anta +ĠCo ast +.p df +inc iple +.cl one +b orn +ut a +Ġl icensed +C r +Ġb read +ĠH ouston +Ġn od +Ġhop es +ĠCG Rect +Ġgu ilty +.g if +Ġro se +.Com mon +T ip +AN K +ĠF C +D uring +ĠSym fony +Ġdef ensive +k m +) > +arch ive +ĠU RI +ycl ing +- o +ĠWe bsite +AM P +ish ment +Ġdo ctors +D irect +AR I +ĠRed irect +ier en +_d ist +y o +ĠPro gress +Ġz um +Ġmem or +ĠE D +Ġj ur +æį ® +_T ABLE +Ġu uid +Ex pr +. head +(' % +point er +Ġest imate +ĠG reg +Ġlo ader +Ġi OS +Ġm ens +[ y +Ġref used +Ġprec ision +is ch +ĠA CTION +Cl oud +s With +( ret +_ADD R +_con f +(d f +Ġlock ed +Ġr ising +ãĥ» ãĥ» +ĠM s +Ġscen es +_EX T +_ raw +_ the +pe ople +Ġre con +ĠF un +Ġb less +ĠUp dated +ü n +ĠĠĠĠĠĠĠĠĠĠĠĠ čĊ +pe ction +Re lease +.log ger +ĠS Y +Ġcoun sel +ur d +_ true +Ġevery body +iv ot +Ġh ence +ĠN AS +Ġoppos ed +unk nown +ĠDES C +ĠCh air +fa iled +ĠIN CLUDING +Ġwrit ers +{ }Ċ +ÃŃ t +_c opy +} : +ĠB at +Ġconvert ed +ed ing +pl acement +ĠH ost +S ound +и м +Ġs ought +m id +Ġsal ary +og g +âĦ ¢ +b ul +Ġw ir +valid ator +_ST AT +.st ore +ĠB attle +ı n +Ġ-- >ĊĊ +Tr ump +d ot +ĠCON T +.f etch +Ġcontin u +w as +Ġfra ud +_t mp +mit ter +.p ictureBox +G A +Ġt ournament +. Input +[ r +ex ion +cent age +ĠKore an +und ef +ĠAv ailable +resh ape +Ġk it +ĠStr uct +ĠS UB +An swer +_l ib +.t witter +Ġo re +ĠDr agon +.Ex t +, k +Ġexplan ation +ref s +ĠDr ive +ĠTr aining +.H as +int age +b ig +olog ist +enn is +Ù ĩ +Ġch icken +ĠĠĠĠĠĠĠĠĠĠ Ċ +ç Ľ +ãģ § +Ġpe ak +Ġdrink ing +Ġen code +ĠNE W +m alloc +ĉf printf +Ġ= ================================================================ +in cluding +Ġprincip les +ĠM ah +st orage +- key +Ġkey word +% ; +Ġtr ained +.con trib +Ġk v +__ ':Ċ +ĠB oy +param eter +Ġsu ite +Ġthous and +Ġco ordinate +-g enerated +íķ ĺ +gener ated +Ġad mitted +Ġp ussy +# w +Ġsw im +un ion +N a +ĠRoy al +.ch annel +Up dated +_RO OT +Ġv ital +ra ction +ĠCrush er +Ġpre ced +Ġhor izontal +Blue print +Ġattr s +Ġsm oke +Ð Ĵ +. Equals +F B +ĠRes ources +roll ing +Ġpass es +ĠN um +rot ate +et ype +\ ", +Ġsens itive +Ġt all +? âĢĿĊĊ +Pro xy +i y +_ section +âĢĶâĢĶ âĢĶâĢĶ +br id +Ġcirc uit +at an +EN C +Ġdr iven +Ġvot ed +Ġeduc ational +Ġinter action +abet es +Ġt one +ĠInitialize Component +Ġmer ely +Ġì ŀ +co okie +_ div +ĠUIL abel +vel y +} );čĊ +_ ENT +#+ #+ +art icles +ĠSou thern +Ġstrong er +ĠG iven +ĠE ric +ĠI R +ab stract +U nder +n able +Ġincre ment +ov en +Ġco in +_t imer +Ġsuffer ed +ĠF REE +'] ." +ĠQue en +st ats +Ġmeet ings +Ġenter ing +Ġalong side +(s ession +it als +Ġfound ation +ĠC redit +. div +_ ALL +pc ion +_st at +ick ing +Default s +_s rc +Ġoutput s +/ B +Ġent hus +-b l +.Fore Color +ĉ temp +F ace +Ġinter act +Ġwe ird +M ount +re ll +ud ents +Ġrequire ment +ĠS us +I ER +Ġe lected +re ference +ĠM E +Ġserv ers +.w ait +Ġsnap shot +il ton +Ġtri es +Ġt ipo +.T ime +> w +Ġmount ain +Ġp ounds +Ġ[ ... +ex ists +Ġng On +_M AP +Ġf lying +xi ety +ĉ value +_D B +un o +Ġse ats +T URN +. author +! ) +or ce +Ġindic ated +.s in +Ġass ignment +im iento +ĠF rame +_g en +in ery +_ ) +m essages +.set tings +ĠMe an +ĠM useum +ir q +att ach +ĠPalest in +_ QU +_t ags +Ġcas ual +em en +ASS WORD +$ s +ĠC irc +оР¹ +et ric +/ P +Ġep och +< head +_C MD +Ġg it +Ġpen alty +or ph +_ users +ours es +.Date Time +atern ion +_pro ject +Ġsuper ior +ĠD am +ĠSe attle +X Y +> The +ĠA k +Ġgr ass +/* čĊ +(d is +Ġgun s +Ġt b +ĠK evin +. args +ĠA h +op ed +( J +column s +arg uments +ĠWith Events +_f ull +ĠDef ense +S imple +Ġdeath s +Ġext ensive +ĠSt ill +ĠEx pression +ĠAg ency +Ġperform ing +F X +Ġus uario +U AL +S ide +od os +apt op +Ġcred entials +_c ap +at ient +ĠDis ney +Ġa i +Ġch ip +Ġvol t +.make Text +%%%%%%%% %%%%%%%% +Ġbelie f +_LO C +ĠC ivil +N avigation +Ġreve al +Ġviol ent +ĠF il +Ġc atalog +em ed +sc an +. control +Ġconstit ution +C ountry +Separ ator +_A PP +top ic +uet ooth +M IN +Ġdes criptor +y t +ET HER +Ġdistrib ute +' }Ċ +.tr im +.L ine +Ġl bl +assert Equals +ĠD et +omb ok +( width +Ġt ort +ĠEXP RESS +ac o +Us ing +ĠBr and +w all +EM ENT +ĠComm unic +< uint +ĠG UI +EG IN +ĠR ange +/ i +ĠT aylor +c ost +Ġrespond ed +ĠTh eme +n ce +IS H +Ġfeat uring +Return s +ĠK r +Ġ .Ċ +Ġn am +_c b +Test ing +Ġ{ }, +y al +.f ield +Ġ/ = +_SH ORT +m ates +Test Case +ain less +Ġeval uation +_ ITEM +ĠPac ific +ĉ k +Ġc ant +ĠR os +) s +Ġf et +STR ING +ĠDis pose +g al +ĠJ oin +ĠP orn +ĠCath olic +AR GET +cp u +ç łģ +.sc roll +IS ING +ifest yle +anc ement +Ġm erc +ĠB rowser +eter min +Ġover flow +Av ailable +Ġbott le +: UI +ific ial +Ġco ord +clar ation +Ġcon j +G LOBAL +ok u +Ġk wargs +cond itions +ul um +Ġg enu +ĠH ero +å İ +Ġun expected +ĠDAM AGES +Ġk a +ĠC ould +UP PORT +ĠPh otos +Ġconf ident +Ġdet ected +de g +rg b +Ġstrong ly +Ġ} ;čĊ +Ġ) : +Ġle ct +urs ive +RO L +ĠWe ight +Ġent ertainment +Ġ) );Ċ +Ġg onna +Ġb b +.d o +G S +Ġmist ake +D L +ĠPROVID ED +ear ning +L imit +iss ions +[ v +ä¸ į +ir ty +D el +Ġunder lying +pre ne +Ġj aw +ĠD I +pe er +Ġobject ive +Ġde posit +Ġk on +Ġes p +.set Visibility +/ login +< typename +Ġfr anch +/ e +Par allel +Ġsc ored +ĠH on +ĠV ill +ig a +Ġant icip +_ assert +ĠO pt +Ġdescri bes +w an +m ount +Ġmonitor ing +Ġt out +ëĬ Ķ +}, { +................ ................ += int +Ġc ust +---- -- +Ġatmos phere +P AR +ort e +IS IBLE +ĠI ron +ĠNot ification +.log ging +ĠBO OL +-p oint +Ġaf raid +ent a +Ġtom orrow +@ implementation +Ġeng age +ĠAn th +ĠF loor +ĠU l +To ols +Ġb ab +Ġcare ful +ãģ Ħ +Ġcruc ial +Ġcalcul ated +ĠS A +Ġw y +D X +_T AG +ind ed +Ġj et +ĠEngine ering +.M AX +en z +v d +Ġpublic ation +Ġ## # +Ġfac ed +ra ham +ĠC apt +As set +ĠCon stants +Ġlo ans +_ IP +ĠF ish +Red uc +_m at +Date Format +_m e +[] [] +Ġintegr ity +ĠC ourse +lob als +Ġfac ilit +Ġem br +ĠN g +.S ystem +Ġmanufact urers +Ġpro ven +.on Create +Ġal arm +Ġ § +Ġcomm only +ic os +æĸ ° +ĠSt ation +} ). +ĠF ilm +w i +ç ī +Ġeng aged +St ats +Ġgovern ments +Ġafford able +_p roperty +Ġag es +(' -- +Ġf ör +ĠProf essor +Ġhy dro +P ush +Ġorgan ized +Ac cept +é m +_c ell +Ġn b +p b +Art icle +Ġrem oval +Ġauth entication +ĠF R +l ide +Ġple asure +ap ol +Ġpart ition +ĠS ide +Ġcr imes +Ġdem o +hold ers +ĠPak istan +In struction +Ġexpect ations +.sc ene +Ġ' ) +h es +ino is +_P ro +Ġm olec +and al +_sh ort +Ġdefault s +Ġn ations +in en +Ġr t +O CK +P acket +S B +ĠSH ALL +_cont ents +ise conds +vert y +á t +G uid +n om +Ġcon clusion +. Update +Ġlo vely +Ġem it +b ec +ĉĉĉĉ Ġ +Ġintel lect +Ġb rew +ec ycle +F ire +Ġad mit +Ġar bit +Ġarr ang +ĠM IN +M ail +ĠN ative +C ur +Ġcon vent +.R untime +" }Ċ +.R un +Ġprint ed +Ġconven ient +. ar +m ock +ĠAdmin istration +ãģ ¾ +Ġelect ron +fl ate +Ġl ombok +Ġjava fx +n h +Ġsup plies +Ġvisit ing +ah l +Ġpow der +Ġult imate +Ġorient ation +ut as +_s cale +Con firm +ph ones +ĠOper ation +/ T +_IN TER +Ġair port +Ġmet rics +Ġphen omen +a udio +Ġm ai +( K +h u +all ing +rodu ction +ĠTrans port +ĠNOT E +æĸ ĩ +Ġfew er +_T IM +ì § +к и +A ge +F IN +Ġì Ŀ +ĠAt tribute +group s +er k +at to +. define +.AspNet Core +ategor ia +ĠS ir +( form +< User +. round +_d ay +.A ll +Servlet Response +.N o +l arge +IG H +qu ent +Ġvir us +Ġret ro +Ġim per +Bit map +Ġv ice +Ġoff ense +ist e +ĠA UTH +Ġê ° +ToolStrip MenuItem +G u +Ġr ape +ĠDav is +Ġover whel +: flutter +- table +ĠCon structor +Pr ivate +e ven +ch r +Ġap plies +_at tribute +Ġcon tribute +E VER +L ines +ĠAf ghan +Vis itor +ĠS L +se ason +C U +Ġintrodu ction +Ġmat plotlib +Å ij +Ġnewsp aper +âĢĶ and +< tag +Ġin i +Ġd iverse +Ignore Case +ĠU r +Ag ent +Ġb ull +.em it +( Exception +ar Layout +Ġincred ibly +ĠTr ust +={ ( +- nav +Ġe quals +Ġl ady +ĠP od +d isc +al am +ĠI V +â Ļ +iv idual +ph i +add ed +Ġdifficult y +Ġcomp act +ĠAction Result +c ers +_class es +Non Null +Ġqu it +Ġp ou +S witch +ir s +- test +ĠK ind +ĠCal endar +Ġstream ing +} ', +S W +Ġst ead +oc a +Ġprov ince +Ġcol span +Ġperson nel +ĠE mployee +Ġprodu cer +Ġevery where +od b +Ð Ł +bs olute +act ivate +Ġgr inding +ĠBuild ing +ĠSand ers +(s c +ĠOff set +//////// //// +} ;čĊčĊ +({ " +Ġscan f +ĠY Y +ĉdef er +Ġj ew +Ġrestrict ions +.m p +[ l +ä¸ ĭ +label s +red icate +aw esome +Ġw aves +Ġcon front +Ġmeas ured +Ġdat as +_ex it +ot ton +Ġshould er +ask a ++ # +ĠĠĠĠĠĠĠĠĊ ĠĠĠĠĠĠĠĠĊ +Ġtro ops +ĠU nd +_c ard +w ich +Ġn ous +Ġ"/ " +s b +Ġcommunic ations +Ex port +Ġdec ode +th s +inter pret +By Name +ĠSp irit +ed ges +O LE +ĠE M +t it +ĠTh rough +Ġb io +ĠP ackage +or ne +Ġ} . +` ;Ċ +Ġok ay +ĠZe aland +ident ity +(n ext +ĠB ang +Lib rary +Ġheav ily +il on +Ġdi pl +Ġrot ate +put s +) ',Ċ +ĠData Table +Ġmay or +.to LowerCase +Ġsome how +ĠNor thern +al c +Ġcap abilities +Ġv ibr ++ Ċ +ĠS u +ĠRes et +_m ean +Ġc ig +.cl oud +ĠB and +ĠF actory +ĠAr izona +_ io +op her +Ġconsc ious +Ġà ¶ +\ Controllers +_s peed +ĠF ac +_C om +ĠB ible +w en +ED IT +Ġun n +ĠSt aff +ĠIn n +Ġmechan ism +ĠM embers +Ġmigration Builder +'] .' +.get Int +< void +ĉf ree +oid s +\ Support +Ġautom atic +Ġch ances +Ð ¶ +Ġcomp licated +[ row +ah oo +Ġ}ĊĊ ĊĊ +Model s +W in +Ġt ape +ir us +iz on +on omy +(" _ +: . +.st ereotype +( env +_re ct +(w ith +Ġassert That +Ġcon straints +put y +E mployee +T D +Ġgu itar +ĠJew s +.pro cess +Ġf iction +ĠSh ared +âĶĢ âĶĢ +Ġprop ag +.N et +Ġachie ved +ĉ Q +Ġn urs +Sh ared +_FAIL URE +Ġbeh aviour +Ġcol s +ism o +Ġfem in +Ġchalleng ing +Ġpost ing +enc il +Ġcapt ured +ĠD ou +( word +ĠTur key +pan ies +Ġre putation +ORM AL +Ġelig ible +prot ocol +id as +(f rom +Ġfin ance +- per +Ġg otten +H A +d uration +ĠP arent +Ġin vent +Ġre start +ол ÑĮ +r ition +(r s +< bool +i ert +Ġmod ification +ĠT X +readcr umb +b ank +$ / +ĠMill er +] ),Ċ +.Check ed +Ġsac r +se curity +Ġp ose +ĠBr ad +Ġfit ness +Ġannounc ement +ation Token +Ġserv es +ne ed +Ġge ometry +AR S +æ Ģ +andid ate +Ġs prite +_s plit +We ek +ad ies +> (Ċ +?> " +Ġ/// Ċ +Ġein er +Ġweek ly +ĉlog ger +_p op +_m an +Ġmigr ations +Ġask s +Ġb s +Ġfall s +.W here +- height +_fe ature +.M in +Ġhy per +Ġvol atile +Ġtw enty +Typ ography +Un able +D et +, f +-m od +Ġsett lement +Ġcontract s +n ome +B ad +ĠB rian +(user name +!! !! +Ġh ack +.F ield +H R +ĠJ ordan +iz a +Ġ ł +ĠSh er +. header +( other +ĠD ub +( op +ĠR ound +Ġv ie +Ġap pl +ĉ J +ĠIn sert +ĠL P +reg on +ĠM PI +Ġan chor +ac a +ø r +Ġa de +anch or +que e +ĠTree Node +Ġtarget ed +Ġla id +AB EL +v et +ĠOr igin +A nt +. ');Ċ +ex pect +ed Reader +ĠM ajor +Ġin ch +Com par +Ġpre view +Ġill ness +ĠCONTR ACT +ĠInd epend +u uid +Ġn ome +Ġt c +ĠA venue +is an +Ġph rase +_m ove +") [ +Ġprov ision +Ġconcent r +_ IR +ĠU t +() + +Ġn as +! , +ĠRob in +i ations +at itude +Ġp x +ĠWith out +/b ash +ek t +re ement +Ob server +ĠReg ion +UBL IC +Ġ{ // +K N +å · +Game Object +å ¾ +enc oding +Ġ** * +project s +Ġt k +Ġche ese +EM PL +ar o +Ġا ÙĦ +Ġcons ists +ref resh +ure au +ĠSc anner +Ġso il +Ġfl avor +Data Source +Ex ecute +ени е +Ġsh it +åĪ Ĩ +< any +Ġretrie ve +Ġbelong s +.st rip +abs olute +Ġexp anded +bo y +): - +Ġresc ue +.J Label +Ġre ly +Ġal ignment +-f amily +Ġre nd +OLUM N +Ġb orrow +Ġqu otes +ĠL ew +Ġsh ower +ĠDE LETE +_lo op +! "ĊĊ +ĉ re +Ġattempt ed +aver age +ĠP aint +quis ition +ol en +Ġliter ature +ĠRe ference +_TEXT URE +ĠS eg +ĠInd ust +ct ype +D UCT +_H OST +ĠTr ade +Ġpl ugins +Ġbre ast +ul se +Ġcreat ure +ãģ Ļ +ĠW i +Ġsup plied +c oll +! (" +Ġfuck ing +ĠCh rome +ĠU ri +ĠN ation +Ġvert ices +T HE +ĠOr iginal +on de +Ġsh arp +Ġcook ing +Ġ{ /* +ĠPs ych +ĠH ollywood +=$ _ +.D ock +Ġg er +Ġb one +_con n +_se c +ys ics +Ġ= " +S al +s f +Ġdeep ly +ang les +T erm +b ell +ĠQu ick +ener ation +adio Button +åħ ¥ +}čĊčĊ čĊ +Ġcapt ion +l c +ĠE L +, [ +ĠĠĠĠĠĠ čĊ +ret t +(m ethod +ĠFl ash +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +W ISE +.s cale +Ġrough ly +_ child +m emory +ay ing +Ġinitial ized +in ator +а ÑĢ +Ġsc alar +ĠH o +ai res +(c olumn +.de stroy +P ACK +Ġh em +ang el +_S UB +. qu +Ġ × +DE FAULT +pos itories +ĠL ength +ĠF ast +Ġsign als +Ġ// $ +ri ers +Ġd ummy +AN Y +Ġperson ality +Ġa gricult +Pl atform +ER O +ĠT ra +Ġen orm +ĉ W +Action Result +Ġa ver +[ str +Ġ' -- +.S printf +Ġdeb ut +Ġ Ñĩ +h ex +_ utils +Ġp b +U ITableView +Ġz ur +. encode +Ġv ag +.error s +о н +Ġm r +ĠA ward +Ġc pu +Ġpress ed +' est +ĠF estival +' T +Ġa k +res olve +.m e +Ġn ic +Ġgen re +Ġat trib +ĠMo on +Ġarr ive +ĠD ating +Ġt m +.Config uration +. red +Ġgl m +Ġst ations +sw itch +Ġt ied +äº º +Ġ/ >Ċ +Ġsubsequ ent +pos able +-fl uid +Ġth orough +Ġpublic ly +apt ers +ĠWil son +_P RE +y ard +ä ¼ +ĉ in +Ġre vers +Ġbul let +cri bed +nes ota +Ġ($ _ +ann on +c ursor +Ġclo thing +ĠM ulti +: ', +Ġv ess +ordin ator +Ġein em +C annot +Ġar med +ĉ V +ä¸ Ĭ +.F lat +ĠS ep +ĠSub ject +_f ont +Ġcharacter istics +D one +el n +######## #### +PO S +Ġd ensity +ĠPl atform +- items +Ġo vers +Ġpush ing +ç ¤ +.Con nection +_ term +Ġinitial ization +________________ ________________ +ç ¬ +.d ocument +les h +ĉd ocument +ĠP in +ç a +Ġdefinition s +.P ath +_W RITE +Ġ ĉĊ +? >ĊĊ +Ġter rible +be an +ick ets +ĠS V +B uy +(t ask +Ġreg ime +g oogle +Ġcr ack +.vis it +N UM +ener gy +Ġstr uck +_s ample +.p ayload +Ġre vis +ĠSc ene +Ġp g +Ġbreak fast +URRE NT +.char At +_ex ception +ĠAnt on +Ġguid elines +Ġex haust +ĠFin ancial +Ġind ent +Ġdes ktop +H idden +F ailure +Ġpr inciple +Ġ iv +Ġse ks +n etwork +Ġnumber Of +ĠAl bert +ĉ long +, . +Ġz eros +f ade +ĠT yp +ĠT erm +ĠAr ts +.App lication +Ġbeh alf +æĪ · +Ġm ere +(` ${ +Ġaware ness +elp ers +f lix +Ġwe igh +Ġestim ates +. child +/ O +ĠBit map +.b ottom +Ġ************************************************************************ ** +Ex pect +ent o +ĠFor um +ver al +Ġj ail +Ġab ilities +ĠH OLD +ĠC it +Ġd ynam +Ġgr ay +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉ +.next Int +ant ly +ĠAR ISING +( private +Ġreject ed +ĠN ic +Ġle ather += {Ċ +aly tics +th etic +.T op +.P age +={ ` +Ġ ;čĊ +de pth +m ann +W D +ĠS om +.R ight +Ġ) }Ċ +Ġtr ait +Ã Ĺ +i ac +Ġr v +S ample +.X ml +opp ed +ĠÑ Ħ +list s +Ġt ear +ivers ary +.c ollection +ĠCon stitution +ĠHttp Response +Ġbr ill +ĠP rom +h over +ĠM iami +Ġarg ue +_f loat +Ġ ãĤ +Ġn at +ĠT al +Ġinteg ration +(c ur +Ġrem oving +Ġco eff +ĠTh ough +Ġfore cast +ĠV egas +S ite +Ġtr ab +ĠHen ry +- i +Ġinvol ves +B T +Ġs lo +In voke +Ġl ucky +r at +Ġ? Ċ +Ġhand led +(f d +cont ents +ĠO FF +R F +Ġst y +ĠM otor +ter y +t ax +M AP +ĠMr s +Ġph ones +ĠUI View +")) );Ċ +( dev +ĠIr ish +Ġw s +D I +_OFF SET +ĠEvent s +Ġst ages +Ġ} // +Ġhab en +ST ANCE +ĠS in +ĠM oney +(t op +Ġappoint ment +VER SION +met adata +_com ment +Ġcolle agues +map s +â ĺ +Ċ ĉĊ +( al +_re q +Ġf ut +Ġarchitect ure +ĠWH ETHER +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +_s creen +Ġstyle Urls +Ġmon ster +. up +ph ia +Ġprocess or +ĠT err += ', +ĠMan ufact +ĠN T +k el +ib ern +ĉf ile +A li +rient ation +Ġ// ! +ap ore +ane ous +ĠC reat +f older +Ġh ay +Sup press +( left +Ġe uro +Ġdis claimer +ustr y +sh ips +_f d +ĠF a +_in sert +Ġro l +if ting +ĠCom ments +_b r +Ġloss es +ĠAdd ed +ch arg +Ġп о +_s ystem +ĠS ometimes +ĠSp ain +(g roup +ial is +Ġdoll ar +ĠAr gs +qu ires +ĠT en +.s css +Ġsurv ive +us age +Ġj un +im iter +ï¼ģ ĊĊ +Ġfif th +t oggle +Ġdecl ine +($ " +(L ong +ing e +Ġpil ot +-l ight +-r adius +Ġpod cast +Ġnatur ally +P ages +ä¸ º +ĠDes pite +Ġlight ing +Ġcr ate +ĠB inary +Ġredu cing +Ġe leg +ĠM ouse +ĠTest Bed +Ġbefore Each +_ ARRAY +Red irect +Ġf lood +Ġsh ips +Ġelectric ity +)* ( +ê ¸ +ĠV iet +her o +Ġd ia +ĠK ent +he art +Ġthreat s +_ acc +Ġs ymbols +is chen +_in st +C riterion +ĠT IM +. Height +Ġ âĢĻ +();ĊĊ Ċ +Product s +_S P +ĠC y +Ġdepend ent +est e +Ġdat os +d it +аР² +IGN AL +Ġless on +"> ' +ĠC over +ĠH ope +ĠT imer +Ġd ad +vid ers +ĠPh ot +/ ? +rop y +om ing +as ion +Ġ\ ( +ĠE T +ĠRe ading +Ġep isodes +l m +ech a +Ġne uro +Ġhar mon +Ġlib eral +- ind +D ATA +Ġevery day +Ġdiv ided +ĠActive Record +fig ure +U A +ä ¹ +riend ly +te ch +.game Object +иÑĤ ÑĮ +Ġmo on +ft ime +Ġno ch +ĠT ORT +ĠV M +.in itial +( child +Ġmus ical +Ġo c +b as +ĠH ay +_l ong +Ġmem set +ile y +adel phia +S V +ro at +_t x +Ġl on +ĠngOn Init +b p +ĠGold en +AC HE +Ġwor ried +az i +E ar +T ake +(f p +bur gh +_ Data +g res +ĠO nt +p us +Ġtrans parent +Ġp ocket +Ġr am +igr ations +. čĊčĊ +Ġ[ ( +Ġadopt ed +Ġreported ly +ĠD ream +Ġ} ));Ċ +los ing +Ġte eth +ĠBook s +", & +enn y +LE MENT +Ġg el +ĠPl ant +! âĢĿ +.h ost +ĠRep ly +re ngth +Ġrecogn ition +Ġ}} >Ċ +L A +Ġmir ror +Ġassist ant +( device +Ġspirit ual +b uilder + § +Ġou tr +Ġt t +ĠP ER +Ġrad ical +Method s +Ġp ace +ud y +Ġg ut +ĠG reek +Ġnon atomic +ĠP aper +_G PIO +Ġob st +.A d +viron ments +ĠS ov +( con +ĠTrans action +. assign +ĉc atch +el ter +Ġbit coin +_G R +ĠčĊ +met ic +Ġtrans formation +åı · +Ġr gb +istrib utions +Ġimp licit +/ in +dest ination +аÑĤ ÑĮ +Z ero +Ġun set +. where +.g o +Ġform ation +Ġdeclar ation +() čĊčĊ +ĠEx pl +ĉĉĉ ĠĠ +/ pro +.J SON +Ġdes k +.sub str +//---------------------------------------------------------------- ------------ +ly n +p son +dis able +ĠF unc +ĉ Assert +ĠM ARK +Ġdefe at +Ġbl ind +Ġconst ants +. headers +UIL D +Ġexp enses +P ixel +Ġh r +Ġf el +ĠEast ern +_d el +ĠC ub +Ġs q +ĉc ount +ĠD irectory +Ġex clus +Ġhistor ic +Ġ ------------------------------------------------ +Ġcom position +Ġdata GridView +ĠB urn +ĠB C +M aster +Ġsp awn +Ġbe aring +.Set Active +il o +Ġg allery +Ġfound ed +Ġav ailability +.s qrt +Ġp es +ĠD OM +m ate +O ct +Ġmatch ed +it ivity +Ġan xiety +.pr ice +ĠIn stant +ì Ĭ +Ġt ut +IC ollection +.sh ared +_s ql +t bl +lib rary +_de stroy +erm al +ĠNot es +ĠE in +Ġsou thern +ĠOTHER WISE +Ġmac ro +.l ower +cl s +Content View +.l ink +const ant +ĠB es +Ġsome body +n b +"> { +( local +.. ... +ĠN ull +m x +Ġà § +Ġp ause +-------- --- +_M O +ĠC M +Ġfor Key +ĠD VD +Ġclose st +_DE VICE +ĠSte phen +ĠB BC +ĠTr avel +P aint +ĠResult s +ĠR ule +Ġt p +Ġrat ings +c in +c sv +> / +ĠG OP +l ad +Ġ ÑĢ +Ġindex Path +m atrix += f +ars ed +Ġ} ); +ĠC os +ĠS core +Ġt ak +ĠE SP +ĠIN C +_N ULL +-f lex +"] [ +int o +el and +Author ization +_F ALSE +Ġg ate +Ġv id +ist ent +T IME +Ġre write +Ġt ie +Ġarch ive +.event s +.get Parameter +ĠPer mission +Ġprogram me +Ġ é +j ud +Ġcam eras +(s ys +ĠSy rian +Ġimpro vements +Ġh ip +Ġsu icide +Ġsch olar +Ġcompat ible +rem ote +.d own +F UNCTION +Ġman aging +ĠUI Kit +. raw +>> >> +Ġdem ands +ell ite +Ġd ent +ĠM icro +åı ĸ +'] [$ +ĠI E +im ension +Ġt rem +Ġg ained +.w ith +. ok +h ou +Ġb om +amp aign +Ġjoin ing +f ish +Ġadd Subview +Ġnor thern +.c or +ore t +D ie +in ish +_com p +Ġatt ended +Ġcoll apse +ĠS S +ac ent +_E QUAL +ĠDe ep +R GB +ĉ test +ol ves +us et +Un ityEngine +w riter +Res olver +, % +if ference +_re move +ond a +Ġfem me +de code +Br anch +Ġfl ush +Ġinnov ative +Test s +Ġ[' ./ +Ġcover ing +. admin +ultip art +(l ambda + namespace +ĠS port +Ġ! ( +ac les +Ġde pression +ĠK ong +Ġp ert +ĠCon n +ĠOther wise +/ home +s upported +Ġp ink +Ġinv ited +ñ os +_en abled +Ġ- Ċ +F W +en ers +ĠM Y +Ġsuggest ions +Can vas +Ġf er +ĠMarket ing +@ Test +unt u +ĠV en +ĠC ou +iv als +Don ald +lim ited +ĉĉĉĉĉĉ Ċ +Ġanal yst +( entry +Ġrepresent ative +_at tributes +Ġf ur +.h ide +res p +ado res +rid es +ĠJ osh +ro bot +ĠN AT +Ġs esso +Ġintegr ated +: true +part s +Ġst upid +: event +@end section +Ġp u +.T able +ĠY ii +` ;ĊĊ +Ġcl ang +=" "> +eng an +_param eters +.int ernal +ĠMod ern +Ġmet ric +Ġsem i +={ {Ċ +.am azon +ĠB B +aint y +view port +Ġstart Activity +dis patch +**** * +Ġfl av +iffer ent +[ this +Ġst ake +Ġarg ued +vious ly +.w ork +ĠO ak +O ld +( async +not es +Ġfl ip +Ġdis ag +ĠT E +ĉ error +< ' +Ġ» ĊĊ +Ġfilter ed +ĠM ach +Ġh ung +_d ump +_s amples +-dis miss +Ġr ay +Im plemented +D K +Ġj ed +Ġbreak s +Ġf its +. gr +ĠZ ero +or o +Ġequ ally +Ġ' [ +Ġconcern ing +< meta +play ers +_P OS +_s im +J an +Ġyour s +ĉ N +Ġsp ir +Ġch ampion +ĠAn alysis +ap a +ĠNS Log +_l ines +ñ a +ĉĉ ĠĠĠĠĠĠĠ +.S c +Re p +etro it +ur able +M IT +com pat +own ed +_ind ices +], čĊ +Ġdis covery +ĠDie go +ob i +. Index +Ġtrend s +PL AY +.n o +Ġl ens +_c fg +Ġan no +ag an +Ġperiod s +ter ms +y z +Ġattack ed +ib ration +PEC IAL +_ grad +Ġaccord ance +.Read Line +.de vice +ri x +. container +m ay +erc ise +ĠL u +Ġr g +ĠÑģ ÑĤ +ĉĉĊ ĉĉĊ +( un +TERN AL +Ġless ons +Ġalleg ations +Ġtrans mission +.Re f +M obile +ĠT ournament +ĠN ut +ĠG a +ĠCap ital +def inition +- exp +c lean +Ġfant asy +Ġenh ance +ent ence +'] :Ċ +ack ets +Ġcelebr ate +@ ", +Serialize Field +Ġarray s +t b +ĉ st +[ assembly +( reg +.c ategory +Ġimpro ving +Ġsal ope +Byte Array +Or iginal +Ġ[ {Ċ +åĽ ŀ +ĠCl in +oen ix +ĠS amsung +Ġmaint ained +Ġag enda +f ail +Ġpres ents +Ġtim ing +.m ark +' >< +Ġprom ot +Ġin cl +_ only +ë¥ ¼ +ĠAtt orney +- date +Ġlands cape +Ġf u +S Y +.p rop +ĠA rr +p ag +Parallel Group +': čĊ +Ġlog s +a unch +unc i +n ama +Table Cell +iss ues +. { +ec urity +_ex ec +old s +Ġhost s +Ġpro to +_ import +_s ort +ĠB ow +ĠN ormal +ĠF arm +.create ParallelGroup +R otation +. err +Ġp leased +it age +.W h +ĉĉ ĠĠĠĠ +M R +ĠM ORE +ĠN atural +_ transform +B ASE +ener al +ut down +.common s +W T +Ġa an +. Result +d og +Ġclick ing +), ĊĊ +# line +Oper ator +Ġc iv +Ġm erg +ob uf +ng then +Ġ[ { +Ġcan cell +tr igger +. : +W ORK +decl are +Ġdecre ase +ÅĽ ci +lo om +.N one +ĠM I +ĠJ ason +Ġhealth care +iam ond +s ylvania +* x +ĠR a +[ b +Ġprint ing +ph abet +ĠLab our +op per +Ġz ijn +-t arget +_F UNCTION +Ġo ct +ени Ñı +åľ ¨ +Ġwest ern +Ġcomput ers +ĠR ET +Hash Map +[ String +get Value +_D ATE +.N ext +ĠF if +é l +ick ed +æ İ +-M M +Ġ{ ĊĊĊ +Ġcontact s +Ġdig its +Pro du +Ġunus ual +Ġrapid ly +t ures +Ġang ry +c ancel +xx xx +_p arser +id ity +_P REFIX +Ġme hr +Ġrare ly +et he +op es +Ġ% . +work s +Ġthe ta +Ġcontrib ution +ĠT ony +Ġsqu ad +аР¹ +Ġî n +th ere +out ed +ĉ q +Ļ Ĥ +g ood +L I +é¡ µ +ĠL iving +iz abeth +Ġk t +ĠD allas +] ],Ċ +Ġ/ >ĊĊ +Ġrais ing +/r outer +_g ame +ĠC UR +z ens +. es +Ġfont Weight +(f unc +not ification +Ġ'../../ ../ +Ġbl ame +ãĢĤ ĊĊĊĊ +an co +Id entity +f ollow +Ġart s +x s +Ġofficial ly +ĠSt udio +Ġrecommend ations +Ġloc ale +Ġam ateur +ĠEn able +Ġcap s +. End +- add +_g shared +ĠC T +For ce +Ċ ĠĠĠĠĠĠĠĠĠĠĠĠĊ +Ġor ange +Ġl p +Ġanswer ed +.G rid +Ġd ual +Ġstrateg ic +Ġnob ody +Ġf atal +_ est +( el +Ġì ł +ĠB udd +A IT +_f actor +- one +ĠH AVE +" čĊčĊ +Pro f +Ġä r +str ings +Ġdir ty +ĠF ace +ĠB egin +ĠB us +Ġw is +åŃ Ĺ +Ġspe aker +Ġcar rier +ĠO m +Ġhad n +All ow +:: __ +Ġver b +ĠCom plete +ĠE asy +Ġb ills +ĠĠ ĊĊ +Vert ical +Ġpr on +ĠDef ine +Ġlook up +variable s +Ġpand as +um es +Ġinn oc +Ġset Up +ĠCh ampionship +art ist +ĠC Type +F oundation +à¹ Ī +ĠSet up +Ġrec ipes +ĠU IColor +ĠF ight +Ġauthor ized +_c lick +_s uccess +ang an +ĠMount ain +ĠDo ctor +Ġeg g +ĠMedic ine +c les +` .Ċ +[ int +d ashboard +ĠApp ro +-d r +Ġprodu ces +Ġrent al +Ġre load +Ġarr ival +sp ot +Ġund ert +Ġequ ipped +Ġpro ved +Ġcent ers +Ġdef ines +al so +Ġop acity +ĠUn fortunately +ĠIll inois +Ġн е +ĠTem ple +ĠTr ail +ĠK elly +Ġmeasure ment +Ġsepar ated +-c ircle +H ey +ĠRE AD +ig its +Ġ ib +ĠM OD +atter y +аР· +Ġv end +ен ÑĤ +ĠHttp Client +s afe +_A SS +ic it +ĠCon struct +ĠC lo +ĠS ix +_T OKEN +(b lock +Ġwarn ed +/* ! +! Ċ +Ġinnov ation +_ " +Ġ );čĊčĊ +Ġsp ots +Ġcho osing +.c s +Ġflex ible +U Int +Ġscr atch +- al +Ġf estival +Ġout standing +================================ ================ +M ean +ĠO regon +s ymbol +. account +d ney +'' ' +! ", +Ġpart icle +à ĥ +[ MAX +IV ER +ER ENCE +NS Mutable +ĠColum bia +_ ĊĊ +.f r +Ġc ogn +V R +ĠMethod s +ĠM ade +ĠB R +ĠEl se +Ġeg gs +Ġsw ing +ĠIn v +Ġdise ases +Ġf irms +Ġle mma +}` );Ċ +l ings +Ġg ym +umin um +.T rim +M em +Ġcritic ism +ibern ate +_T X +ion i +Ġguid ance +Ġrepeated ly +Ġsup plier +Ġpaint ing +.F ragment +ed Exception +Ġw iring +Ġcour ts +W EB +æľ ī +\ . +ill ance +Ġb rows +ĠP attern +PL ICATION +ĠSum mer +Ch ain +Ġc ute +mer cial +Ġd il +ĠFrank lin +ĉg lobal +IN CLUDING +h istory +Ġl st +Q t +SD L +al ia +i ere +( ... +ĉc in +iff s +vel ope +ĠR oot +cl uster +User Name +ign e +< S +Ġf est +Ġindic ating +ke eper +Ġc ada +é g +cons in +ĠG B +Ġl b +em ony +-icon s +_d oc +Act or +e lem +.De lete +Ġin fection +ĠPriv acy +Ġgreat ly +ĠP os +ĠT reat +Fl ow +Ġattract ive +ĠMar c +s udo +tes y +- an +ab ama +ĠW ould +Ġsu ck +index Path +ĠE t +T imes +Ġclub s +_ass oc +Ġac quired +(" : +Ġint ense +.m aps +Ex pected +T oggle +Ġa y +Ġl ifestyle +-c alled +ĠS now +V olume +Ġcann abis +ĠD irection +ĠLim ited +-s pecific +Ġd owntown +/ icons +Ġre ven +L eg += null +Key board +') ). +Ġ"" ;čĊ +Ġatt itude +.n avigate +- error +AM PLE +ĠJ ay +v r +c ow +.com pile +Ġmem ories +_m ark +ĠMin nesota +Ġk osten +Ġprob ability +w arning +Ġgen etic +F ixture +ĠHash Set +N ombre +_m onth +Æ ° +- start +xy gen +ĉ ft +i agnostics +ĠMat thew +Ġconcept s +Ġcon str +. State +и н +N ov +Î ± +ĠP anel +ä¸ ª +com pare +> ()Ċ +Ġapply ing +Ġprom ised +Ġo x +nc ia +ĠValid ation +ort s +_c ur +e lect +ey e +( Data +Ġreport er +ĠB uff +Ġs r +Ġ" ; +ick y +Ġtemp or +S N +Ġres ident +pi res +ys ical +Ġend orse +ĠS ong +is Empty +le et +_ util +Ġdist ingu +ĠT alk +ĠM ot +( default +.A rg +gorith ms +_ words +im mer +_res et +f amily +W W +Ġsav ings +ĠâĢ Ŀ +_en able +side bar +Run ning +Ġal i +Ġtest im +Ġwarn ings +ĠCh em +ĠEx it +Ġfound er +pect or +Ġr m +_d ataset +ĠD as +Ġh an +Get ty +á l +Ġn y +Ġpo verty +Ġresult ed +.b y +ĠVis it +Ġobt aining +/ '.$ +ĠĠĠĠĠĠĠĠĠĠĠ Ċ +sh all +_LE FT +UI Image +_ Name +h ave +ĠN ob +l r +- footer +Ġn aked +ĠG arden +\F acades +Ġgrad uate +Ġfranch ise +pl ane +Ġcontrib utions +Ġstring With +Ġc rypto +Ġmov ements +ath ers +Ġlif etime +Ġcommunic ate +j ar +ĠFr agment +_ IF +ĠN avy +ĠF igure +Ġsim ulation +_st op +Ġreport ers +Ġvers us +aj a +ĠÎ ± +Ġgovern or +List Item +Ġse aled +.Back ground +ed i +ash ing +Ġl ip +ĠI h +mer ge +Ġn ec +el ocity +ATE G +Ġse eds +Ġflo ating +_F A +w alk +ĉ user +_de pth +Ġw age +@ app +N il +( [" +( vector +Ġsecret ary +Ġj Panel +ve z +³³ ³³ +d irection +ĠE P +Ġh unt +Json Property +ĠP ORT +] ", +аР¿ +ĠFore ign +pan ic +Ġtri als +ĠA le +Ġr ural +- value +author ized +ĠScot land +.d rop +ĠM T +ç ± +row th +File Path +Ġrec all +if le +Ġc el +ĠSE LECT +k n +_c ase +Ġc rop +s ure +p ot +IC S +Ġst em +Ġindust ries +P ut +Ġa ber +road cast +Icon s +) ")Ċ +æĪIJ åĬŁ +g ui +Ġassum ed +Ġr x +E A +è § +EL L +Ġdo se +Ġin e +Ġde eper +l ider +Ġord inary +Ġg olf +_IM AGE +ĠN AME +(m odule +Ġat om +Ġbel t +Ġoff ices +b eta +Ġphilosoph y +( JSON +-f ield +Ġintrodu ce +Ġconven ience +opt im +> "Ċ +ath y +Ġemploy er +qu ate +Ġed ited +Arg uments +ĠN ations +__ ) +Ġno se +ĠS ample +' )ĊĊĊ +Ġc ake +.get Attribute +H D +Mod ified +Ġpredict ed +Å Ħ +an ie +S orry +(d oc +w ind +ie ve +Ġprov isions +AT ER +OT E +M Y +.A utowired +ĠB ath +. Boolean +Ġback end +.M ouse +ater al +p aper +Con st +ĠV R +_ entity +_C TRL +ĠProte ction +ĠG M +ĠStud y +Ġsou p +ot ime +' use +] " +/ users +a ug +ĠH ong +_n orm +ãģ ¨ +Ġse cre +(B uild +ĠCon tract +ol as +Ġsa uce +Ġaggress ive +Ġrac ial +char acter +@ @ +Ġcomp ile +ĠV oid +_re m +_m emory +k k +Ġm ic +S ame +U tility +ĠH tml +ĠX ml +Read y +Ġg all +Ġalleged ly +ĉĉĉĉ ĠĠĠ +ĠMet al +ĠPerson al +Ġborder Radius +rx js +object s +Ġwant ing +Ġb owl +v endor +offset of +ĠR s +ĠR ating +Ġr ally +_N ODE +ĠM ix +Ġadvert is +Ġnarr ative +s al +Ġm c +SE rror +Ġf ingers +Ġaccom pany +Ġt ired +Ġstr ide +Ġgu i +el ist +Loc ale +Ġrele ases +ik ing +Ġan ger +)) )ĊĊ +alle st +Sum mary +( O +(f or +Ġbasket ball +Ġroad s +ĠInst all +ĠF ab +it map +Ġ) )Ċ +Ġinter section +ighb or +ĠB ry +ĠHER E +So ftware +elf are +ac s +Ġtrail er +.get Class +ch ars +Ġreg ulation +Ġref ers +Ġde struction +Ġcontin uous +ĠAust in +é ¢ +ak an +.w indow +ĠTem plates +Ġabs ence +: n +Ġdis order +fl ash +Ġde let +bo ards +ĠĠ ĉ +RO P +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġac qu +Ġlaws uit +ĠRe views +Ġgar age +t imer +Ġe j +ĠRect angle +Ġflow ers +il st +ĠIn stance +S uper +d et +dis posing +ĠE S +ĠI C +ver e +S k +_ch annels +put ed +/ null +nn en +ĠG allery +_g lobal +Auth entication +ĠR ank +Ġblock ed +Ġcal m +mark et +ĉ val +Ġa ug +per iod +ĠCon stant +Ġ?> ">Ċ +Ġl obby +p al +Ġs ink +ia h +Ð ¡ +urn ame +Ġcon ver +Ġinvestig ate +Ch rist +H ub +ĠIN D +ĠP ed +ur as +ĉ url +ĠT ro +Ġpre ferences +Ġguarante ed +` ĊĊ +Ġport ions +Ġeval u +' > ;ĊĊ +.AutoScale Mode +Ġc ats +Ġreg istry +ul us +F I +p ayload +- search +Ġstay ing +ac ious +Dec oration +Re view +In f +Ke ep +it is +, String +Co ord +Ġper o +S ex +ĠAtl anta +uest a +Arg b +> * +} _ +F ooter +Ġemploy ed +_b ound +v ide +.f unc +$ scope +Ġsp o +ĠAn al +ounc ed +ar ound +Ġrestr iction +Ġsh ops +å Ģ +ĠLat in +-c ol +Ġbare ly +ĠE uro +E r +Ġfa ire +_d istance +_un lock +Qu ote +IV ATE +Ġå Ī +Ġaim ed +ĠRet rie +. iter +Ġwr apped +Ġagre ements +str ument +( product +Ġstud ied +.set Value +Ġy e +ĠC ache +MB OL +Ġquarter back +Ġsy ntax +.getElements By +.v ersion +we bsite +Run ner +_s ingle +at iv +ĠAl tern +ĠBeaut iful +right arrow +Ġd iversity +pl ash +( co +.F ill +Ġtyp ing +Ġcl ar +H it +O O +ac co +w orth +Ġscript s +ĠMuslim s +ĠL L +erv ing +( boolean +Ġbase ball +ĠC AN +MA IL +de pend +Ġrespect ive +Ġconst expr +.* ;ĊĊ +'] ))Ċ +Ġy ard +Ġident ical +if ecycle +US H +up iter +. validate +cl i +IST ER +Ind icator +F ail +Ġdemocr acy +. var +Ġsatisf ied +------------ - +enc er +h or +Ġr ounds +DA O +o a +Ġfl ask += c +[ ]Ċ +/d ist +Ġpart e +Ġconfirm ation +er on +aw are + +Ġdepend encies +ĠV ideos +- row +Ġ** /Ċ +Ġn ou +Ġh over +æ ŀ +Ġn in +ĠUS D +M ac +_L oad +Ġout comes +_s ocket +Ġqu eries +w m +Ġhit ting +in ux +M ich +ud ge +AT AB +Ġvulner able +ä ¾ +Ġport folio +: YES +ĉm ap +B ound +Ġiter ation +in cess +Ġact ors +ĠQ ual +_c lean +ãĢij ãĢIJ +MS G +G reen +ĠOff icer +Ġsm oking +> ', +ĠF lo +++ ; +oly gon +Ġbul k +Ġdr ama +Ġexception s +os ed +Ġ+ čĊ +Ġleg acy +C V +Ġcontrib uted +ĠTer ms +Ġb t +Ġunt uk +Ġal ien +=== Ċ +ĉ Vector +Ġl s +On line +.f acebook +num eric +ock ets +A ut +b ury +-re dux +ĠRed istributions +GLOBAL S +urrenc ies +Ġt ons +âĢĻ , +Ġà ª +(c ol +ĠS ymbol +Ġstay ed +ĠM L +Ġm unicip +Ġsex o +S en +n r +Ġg ains +Ġshort ly +.M enu +à ½ +KN OWN +Ġoper ators +- V +ĠPat rick +/ add +_C O +ir ation +(p ost +Post s +/ _ +Ġpl ug +Ġintellect ual +Ġmet ab +Ġpregn ancy +ĠPrem ier +n m +Ġpred iction +ĠMin istry +Th ree +val uate +ĠMin i +b u +оР· +< ul +Ġd d +ol ving +ĠC ut +Ġs chem +.tr ain +it ate +Ġr ice +Ġbird s +ãģ « +m iddle +struction s +Ġn erv +a que +Ġfl u +Ġsurv ival +ĠGal axy +ĠF ant +. Order +At trib +irt s +é c +M ovie +Ġcon ce +qu arters +Ġm ood +.Add Range +Ġres olved +ãĥ Ī +Ġburn ing +ĉĉĉĉ čĊ +ĠW E +Ġhost ing +L AB +Ġman agers +Ġstre ngthen +< const +ĠFire base +on ed +ĠJ ean +' ";čĊ +ĠS av +.B old +Ġen ables +ĉt mp +Ġman ually +ĠS qu +user id +.f unction +.c ache +LO PT +.S ervices +dd it +t im +< img +ĠTh ings +ĠEvery thing +Ġa pt +em and +Ġroll ing +ë ¦ +. level +Ġst om +ĠW inter +Ġview ing +( values +ocom plete +v ia +up o +Ġabort ion +i ère +ï¼ ij +_B UTTON +_d omain +Ġb ra +ĠA st +in as +Ġstat ist +c od +L R +Ġdr ives +Ġfollow ers +Ġall ies +ĉc urrent +ecess ary +Ġdam aged +_ pt +and les +oun tries +Ġsim ult +e u +Ġcontrovers ial +_G ROUP +Ġr ib +. Info +: mm +.n ormal +_ADD RESS +Ġ íķ +add le +ĠD ur +. Element +W arnings +Ġcred its +Ġin hib +Ġem issions +Ġh az +.y outube +ugg ed +Ġbo ther +ĠK ansas +ĠF ixed +ĠTest s +ĠF IX +Un iform +Ġk ont +>> > +st ation +lo re +at ype +ish op +/ **************************************************************** +Com boBox +Ġvac ation +Ġiniti ative +Ġdefault Value +con cat +ĠK h +ĠW elcome +ized Name +M igration +Ġgrad ient +H ot +Ġhard ly +el o +ĠStud ents +Ġlo ose +at z +.S end +' / +Ġunivers al +Ġenter prise +Ġreg ex +Ġvis itor +ĠF ly +Se q +à¸ Ļ +ĠVis ual +Ġlib raries +ato es +P ayment +Ġp ent +Ġgather ed +VRT X +ĠD M +S plit +Ġlet ting +Ð Ŀ +_error s +ep och +P ARAM +c u +ÑģÑĤ в +ol utions +Edit ing +font s +Ġalloc ated +ĠB ased +( Y +ĠJud ge +Ġbro thers +FILE S +ç o +w b +_P I +' ^ +Ġs word +.s ervices +Ġn l +T im +ig g +ĠMo ore +Ġcrypt oc +åĩ º +_post s +ot ate +? ' +... .ĊĊ +Ġk l +=" $ +Ġdec oration +Ạ¡ +ĠD IRECT +G UI +) =>{Ċ +Ġnews letter +Ġprec is +(p oint +ĠEqu ipment +ut y +ĠD ave +Ġparticip ation +u arios +x it +.A s +ET ER +or ous +Ġsh ield +[] > +ilit ary +. origin +Ġprom otion +U nt +Ġc t +TR A +View Holder +Ġsig ma +d elta +are house +con tract +( Vector +Ġcompet e +/ form +/ components +Ġn r +ĠInd ones +Ġо ÑĤ +ĠV olume +.f iles +(res p +/ models +Ġsur f +stand ard +/ o +ĠXCT Assert +V ICES +.C ode +SE D +Ġact ivate +D elta +Ġlimit ation +ri j +Ġpregn ant +: ^( +Ġs our +p ie +Ġexp ense +ic ation +ĠL arge +Ġ ± +ĠB owl +(model s +/ N +P a +.re load +Ġwonder ing +Exec ution +ĉ ĠĠĠĠĠĠ +ĠG raphics +ĠCont in +_j ob +Ġget Name +ĠM agn +ĠD WORD +m ad +Ġn h +fe atures +} ");Ċ +he ets +(tr ain +z n +Ġrecru it +.con nection +Ġbar rel +Ġste am +_set ting +Ġang ular +ane ously +Ġb il +ĠN orm +(! $ +ib t +% ( +Ġpos it +ĠF ather +int endo +L ive +Ġport s +Ġme j +Ġland ing +pon der +Ġc od +_HE ADER +.M argin +Ġball s +Ġdiscuss ions +Ġbl end +H ex +Ġfarm ers +Ġmaint aining +ĠĠĠ čĊ +s yn +[ T +r us +uff ers +Ġcontrib utors +_s ys +.De bug +Ġconstruct ed +om es +? id +sl ider +Ġsup pliers +scri ber +p es +Ð ŀ +": čĊ +\ Controller +)) ĊĊĊ +Ġl ua +M ulti +EN S +S rc +Ġpet ition +Ġsl ave +look ing +V ERT +ĉ vector +S pecial +h h +an ne +ĠN iger +/ views +z ing +end ant +< C +s peed +Ġ{ };ĊĊ +Begin Init +Ġf open +@ RequestMapping +End Init +Ġp unch +S ender +é Ķ +get Message +/t ypes +.P I +(' ');Ċ +oc used +( all +Ġdrop down +). __ +ĠV in +.Fore ignKey +can f +ou red +ĠOrgan ization +ĠÐ ° +ĠC ulture +(cl s +, _ +rg ba +ìĿ ĺ +.data GridView +Ġdo zen +ĠG es +_sh ared +n ick +Ġh osp +om eter +Ġclaim ing +ib les +ri k +æĺ ¯ +en ario +Ġd engan +ob b +m ont +_r ank +('/ ', +Ġap olog +P s +_p ower +ĠG ree +Ġful fill +Ġfire base +Ġf are +ĠH im +Ġbe an +â̦ . +ĠS PI +_R X +Ġper ception +rel ative +comp ile +u um +ut os +a uc +ĠAs k +Ġindic ator +/ th +.set String +ĠWis consin +.D omain +Ġart ificial +De velop +ĠSar ah +Ġl ying +( search +ĠEmp ire +urr ing +æĹ¶ éĹ´ +=" ${ +Ġget Id +ĠP ayment +trans ition +Ġ ]. +ix in +V T +- select +Ġdemonstr ated +Ġlast Name +employ ment +.get Property +Ġf ought +file Name +ĠP ers +-c ard +a str +attr s +Ġprom inent +Des ign +anc ouver +ãģĹ ãģ +ard o +se cret +Ġr ag +Ġpo ison +-m an +, omitempty +ĉ un +it zer +ĠCas ino +ĠR oss +- foot +(result s +Pl an +Ġlas er +ê¸ ° +_D R +F acebook +Ġbo ards +st a +] ], +Ġt iles +S IZE +Ġ= ~ +Ġprem ier +oc ab +Ġenc oded +Ġres erve +ĠAfghan istan +ĠList Node +url s +Ġsub mission +Ġne u +Ġ# +# +_P OST +Ġmo ist +ell i +ellig ent +. alert +ó d +b re +ĠCol lect +Ġgraph ic +Ġlong itude +ĠPro vid +ĠCal culate +x ffff +c riteria +Ġw aters +ro ck +lo quent +ĠT rib +Ġbur st +Ġsuff ix +.Ext ensions +ish es +iv el +ĠLI KE +ĠGet ty +.Action Event +.s lf +ĠH AL +up al +E AR +ud i +_time out +U F +ĠSing apore +ĠAd vent +_int erval +cha ft +ĠE mer +Ġtele phone +ĠTur k +_ interface +ĠO wn +Ġencour aged +< Object +_T ext +ĠOnt ario +ĠApp ly +.f irebase +Ġant ib +P riority +ene z +D ays +c id +urre nce +; / +inn ed +Ñģ Ñı +Ġve z +f w +// $ +att ack +Ġstart up +ain ers +.f ragment +op acity +( conn +he im +.n etwork +( stream +ĠN ON +t ol +ĠX box +ĠD S +Ġc ached +Ġprostit utas +ĠB alt +(' [ +Ġno except +" ' +Ġs d +. valid +_ ag +Ġr aces +Ġro d +itud es +< >( +.Pro duct +Form s +NE W +P ay +ĉ boolean +_ contact +ĠElect ric +sk ip +Ġw ur +Ġch ronic +_d river +ĠS ab +ĠU lt +ĠR ad +ST ATUS +ĠLew is +O B +Ġgift s +.Re c +TR UE +Ġint ensity +Mark er +.com pare +ff ic +C ookie +ĠB aby +ĠBig Decimal +ile t +ĠHOLD ERS +ĠL ady +Ġl ung +ĠAl abama +Ġd ess +` );Ċ +ĠB uilder +_reg ion +Ġne utral +Bo th +Ġh p +Ġh orn +Ġseg ments +ĠE C +"=> " +( rec +ĠP i +G M +Ġl aptop +Sc alar +is d +-d ialog +ĠAnd erson +Ġmist akes +ĠH an +j es +est ination +Ġprom ises +b id +ĠSc ient +G IN +ĠPer formance +b age +. users +le ading +Ġor al +G raphics +_P TR +h ang +Ġin ev +process ing +F actor +ĠN A +$ string +Ġground s +.Save Changes +c lock +cri pcion +ĠNew ton +g c +.in cludes +Ġbl ast +Ġ'- ' +Ġpued e +.S ession +Ġgre p +_f inal +ĠG ay +ĠG ive +ir i +-st ar +ĠUI Image +_ep och +ub b +ent h +Ġel ite +Ġcampaign s +ĠP orno +_ assign +Prot ocol +ĠBe ing +ĠAir port +Ġconvent ional +ĠW at +ĠC I +ET A +ĠAnth ony +Ġtable t +( format +Ġconsist ently +ĠI owa +Ġav atar +.c ursor +! [ +Ġh anging +H er +S uch +';ĊĊ Ċ +orge ous +() == +Ġview Model +Ġ ãĥ +Ġel s +ĠAg ent +F etch +ap or +Ġc x +p read +ĠP ier +oe ff +S n +ĠV irtual +A pr +.Wh ite +_M OD +ĠPoint s +å¤ ± +Ġgen es +Ġv endor +Ġmain stream +< src +ĠEl izabeth +Dec oder +- state +ĠG lass +nc y +adi ans +_m on +ĠRem ote +Ġwire less +ĠM i +å ī +è¡ ¨ +st age +ĠT ile +ll ib +V ariant +== Ċ +Ġgold en +(Q String +.put Extra +ĠD om +ĠAn imation +Ġinter active +if act +éĻ ¤ +LE T +Ġfrequ ent +Ġ< >Ċ +F ilename +Ġs ne +ĠFoot ball +Ġr ival +Ġdis aster +ion ic +ĠD amage +. Resource +- en +ĠT ypes +get String +( board +Ġb ol +pl ain +z ym +ภ² +Ġsc anner +ild er +_msg s +æ ı +(int ent +Ġde struct +Ġb ust +ĠE mploy +on i +ĠUI ViewController +Ġodd s +ear er +Ge ometry +Ġy ii +_EX PORT +ĠAtt ack +Ġn iet +Ġim pression +ĠG il +_pro b +ĠC F +ĠEx perience +/pl ugins +.M ethod +Ġbelie fs +N ative +_b uild +Ġv ig +Ġr anks +cover ed +s uch +G uard +.p ack +add er +iv ia +l ng +Ġв Ñĭ +T imestamp +_n ow +Ġp oker +Ġun c +Ġsh apes +-t ypes +_per iod +p k +Ġveter an +Ġson o +Ġappoint ed +over flow +.d river +_c at +ut t +pl ant +im b +ĠAc cept +Ġconc ert +ĉ node +ĉ z +? >čĊ +Ġb anned +ĉ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġto xic +Ġdisap pe +È Ľ +Ġgr ace +ate ful +Re ply +ĠCru z +Ġsc rap +Ġkey words +s imp +Ġmort gage +Ġcy ber +ĠEx ecute +Ġlat itude +if u +.C OM +d bo +Ġsort s +ĠG as +om ial +.L ocal +Cell s +.Re place +String s +.f it +ĠTh ird +% ",Ċ +Ġ{} ". +ĠS ony +Ġ[ : +Ġfall en +. ')Ċ +in h +ĠM C +Ġred is +C odes +Ġprofile s +h ook +Reduc er +_F UNC +Ġn avigate +str len +Ġh orm +á ŀ +ĠS R +. boot +Ġdig est +ĉ header +.find One +æ ģ +Db Type +n ia +_m erge +Ġdon ne +/ Getty +_CH AR +Ġb ands +. URL +art ial +Ġf req +Ġs ist +N g +Ġrender ing +\ Core +Widget s +ĠV A +Ġactiv ists +St e += _ +all a +St amp +Ġload s +Ġx x +ĠL earning +.M vc +u ir +(" $ +Ġconnect ing +Read Only +ur u +ĠE ag +B IT +_DE L +å § +arr ass +ext ernal +ĠY OUR +ĠB rew +ĠF ive +Ġres ize +ig id +er ation +ĠÑ į +åĬ ł +ĠC atch +Ù ģ +ĠLe on +am il +.B ody +Cl ip +/ list +.b r +Edit Text +ĉ db +.G ame +(Build Context +back end +.R ed +face book +.url s +m r +rol led +---- --- +Ġinter vention +Ġretire ment +ĠK it +ĠP RE +Upper Case +ĠS ocket +Ġ: - +Ġstudy ing +ĠMet ro +ard ed +Ġconvers ations +C alled +Ġexam ine +ert ificate +.g z +-res ponsive +Ġref und +_n etwork +allow ed +em pt +Ġme als +C ategories +Ġtravel ing +Ġk g +Ġsh ame +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġexplicit ly +Ġmath ematic +ĠS uite +ĠR GB +****** / +Ġmix ture +lear ning +.t emplate +att s +w x +ĉ ctx +.p roperties +Ġdrink s +ĠE ither +set Text +.get Data +.z ip +Ġreve als +< table +.Hash Map +ĠH ur +) ");Ċ +.f ramework +ĠST ART +feed back +Ġsaf ely +. icon +config ure +. lock +.l ayers +/> .Ċ +Ġrank ed +_ impl +ĠHand les +Ġhost ed +Ġup dating +al bum +é Ŀ +Ġsh ader +Edit ors +- round +[] { +Ġse p +ĠH i +TE M +look up +.m an +_IN PUT +Ġthreat ened +_IM PORT +Ġd rops +ru it +s id +bo th +ĠEx cel +Ġj er +ord inary +еР¹ +V IEW +re ply +Ġ) :Ċ +color s +ver ified +_T r +_p arse +Ġcon gress +P romise +int s +ĠM other +.A pi +ĠD uration +Ġfirst Name +inherit doc +ĠM ars +Ġa pr +OD Y +Ġvis its +Ġhe aling +let ters +)) );čĊ +f uture +.F ramework +Ġk iss +Ġinv olve +Ġsil ent +ad ows +Ġany body +s ch +Ġsole ly +- img +Ġprop ri +Ġin struct +Ġlic enses +Ġm eth +Ġcond em +ĠD omain +ĠHarr is +Ġs Ã¥ +CE PT +B atch +@ extends +ĠCONTR IBUT +.Data Frame +_p acket +rec ision +Ġfoc using +. ht +__ ":Ċ +: Get +ĠK C +Ġpass age +Seg ment +_c enter +-z A +_B L +Ġconv in +Ġclass ified +ĠNS Mutable +_ ap +t ile +Rect angle +(n ums +v ens +ĠUI Button +ĠF eder +am o +Ġout line +ĠPar ser +Ġâ ī +ĠWork s +.S chema +Ġeng ines +_com mon +_ old +Ġset ContentView +Ġ/// < +ĠB T +f m +Ġd ivers +_ weights +em ark +ĠA CT +Ġpro portion +over lay +.dir name +ĠG it +_REF ERENCE +< > +l b +_r ule +è´ ¥ +ĠPut in +Ġsleep ing +() :čĊ +Ġpres erve +Ġpar liament +ĠLook ing +Ġpick ing +ĠDis patch +Ġsl ip +ë ĵ +ĠL yn +_sign al +config uration +ĠP itt +ad en +pro cedure +Ġenthus i +f ight +ĠCons ider +Ġt orn +Conn ected +.c os +_group s +ĠTh ink +Ġdel iber +Ġres id +work ing +.column s +ĠCal led +Ġes lint +> ", +_D OWN +h ist +ĠAdv anced +Ġre wards +act ors +Ġsil ence +Ġmy th +Ġne ur +Ġa uction +.Get String +ek s +( project +ĉ msg +ĉ output +Ġcomplaint s +, S +Ġt bl +Ġ, ĊĊ +ri ors +ah ren +Ġlawy ers +re dux +_s ymbol +off ee +_RES ULT +( Name +UT C +.current Time +Ġorgan is +. arg +Ġmin im +w ick +Ġrece ives +B alance +Ġspeak s +ĠD ays +ĠBel ow +t ipo +P resent +Ġres erv +h p +Ġr it +_R IGHT +-- ) +Ġchair man +D IS +ĠBO OST +Ġexper iments +__ );Ċ +Ġst amp +Ġf ert +Ġf ond +T er +el ve +ure n ++ i +end ency +Ġvirt ually +... " +ï½ ŀ +- cent +_un ique +Ġpr icing +m ic +RES H +Ġ:: : +Ġan notation +ĠC ircle +ong odb +it as +Ġ% ( +( component +Ġо б +( port +-h our +. obj +L BL +Ġj ury +GB T +Ġsp y +ĠProf essional +Ġ"" ;ĊĊ +Ġstri king +Ġdiscrim ination +Ġp ays +lic t +ent es +Ġthrow ing +ĠPl ugin +( def +ĠRuntime Exception +ĠM igration +Ġd ic +b ag +on ia +Ġcor ruption +( Map +Ġpr z +.d to +Ġac quire +State ToProps +Ġlo ving +оР¶ +_p attern +Ġemot ions +Ġpublish er +_b e +Ġcoup les +o j +ĠCh art +Ġt rop +.t ool +Ġestablish ment +Ġd ol +Ġto wer +Ġl ane +ĠSy dney +Ġfill ing +claim ed +Ġdialog ue +Ġcon vention +book ing +pare ncy +æ ± +ĠGener ic +\ Schema +Ġr anges +/ ch +Ġpan els +Ġr uled +çĶ Ł +.t s +_s ets +Ġclean up +Pre vious +ĠAn imal +($ ( +ĠA ve +oll ar +_e val +ĉ Name +(t ree +Ġ" ] +Ġdut ies +=' / +Click ed +Ġdifferent ly +ĠCl ark +Ġd it +olog ists +Ġsy nd +Ġs ends +- known +k b +ĠMod al +it ative +Ġr acing +Ġhigh lights +ĠSim on +ĠCapt ain +ä¿ ¡ +ĠC B +cont in +ar an +Ġphys ics +ret ty +et al +.m d +ax ios +Ġspeak ers +Ġpre p +Ġaward ed +ì§ Ģ +ĠC orn +ĠN ature +UD IO +Ġpro j +- pre +[ u +Fe atures +Ġis Equal +B inary +s ig +Ġconf usion +ĠH at +Ġkt ó +.config ure +M ON +/ edit +_A dd +, true +Ġc li +Error Message +- loader +Dim ensions +ultip ly +Ġ{ !! +ĠSql Command +Ġsp oken +Ġp ics +Ġto y +( Key +ĠLo op +Ø ¨ +E ATURE +in ction +_set up +w rapper +Ġt ong +c ular +O pt +.P l +=" , +(l ength +um n +Ġch rom +Ġse vent +ĠIllegal ArgumentException +ĉ start +Ġbeg un +CE PTION +dat aset +ĠF ailed +col s +Ġkne e +im ore +.sp lice +sh ell +ig gers +Ġthem es +ĠD J +ĠAss istant +- $ +May be +Ġorder ing +ĠInt elligence +ĠMass achusetts +Ġfail ing +el son +G reat += i +.re st +Ġinv ite +-dis able +.Group Box +âĢĻ est +Ġtack le +g v +et ter +Ġ), čĊ +_r ules +.w arn +function s +ĠChrist ians +Ġback ed +Ġsl ider +Ġenjoy ing +n est +Ġh ij +_m s +// * +An notations +ĠVariable s +< V +( server +ĠOr acle +element s +Ġorgan isation +_point er +ĠHe aders +[ d +Ġdead line +iss a +Ġkn ife +ĠNAS A +ĠHe ight +ĠAs ync +Ġven ue +.d om +bour ne +ĠHaw ai +Ġmem o +ict ions +Ġsurve illance +om i +/ assets +Ġed u +Ä Ľ +Ġro ster +Ġh ired +ĠT ok +Ġpl acement +ur ations +Ġset State +ĠMag azine +Ġhor ror +T ry +Ġl ag +ĠEvery one +th ur +)) ;čĊčĊ +. return +Ġsy mp +âĸĪ âĸĪ +Ġn ights +work er +Ġa le +ennes see +.st ep +Ġsynchron ized +our i +Do es +. change +f on +.set Background +irc ular ++ - +ĠC IA +ĠJ ane +ĠSim ilar +- I +level and +Ġpros pect +_f ound +ĉc olor +.D iagnostics +Ġann ounce +Ġassum es +/ tr +Ġb d +ĠCar bon +Ġanal ys +.de st +n ik +ĠL ie +- index +Draw able +ĠT AG +Ġtri angle +_F LOAT +ĉĉ ĠĠĠĠĠ +.bl ack +v ue +cur acy +Ġaffect s +Ġsure ly +Sl ider +uk i +c ery +Ġun ter +.pro file +ord on +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +le ave +Ġsmart phone +g ie +Ġcons pir +Ġt utorial +ç± » +Ġc ab +ĠSum mary +* ĊĊ +ä h +" This +Ġsl ides +" +c ycle +ĠB ull +path s +Ġun p +Ġview DidLoad +_M odel +Ġassert True +Ġr ated +De cl +vert ed +ĠD at +b rew +Ġpoint ing +M s +ĠPoint er +) ' +_n on +ĠSE C +Ġy eah +g ency +initial ize +f ly +[ pos +, g +Te le +Ġj oke +Ġcl ause +.find ById +en es +( instance + £ +Ġs lic +_h ome +Ġ*/ }Ċ +_p ages +(s ervice +R P +ĠAm ong +.get Current +ãĤ ¹ +Ġs lee += [Ċ +ol er +Ġlib ert +Ġ` Ċ +Ġw enn +l ated +Ġimm une +( Node +ĠPro blem +ĠA bs +log s +Ġ ../ +ĠA DC +Ġ}} ">Ċ +> ');Ċ += b +ĠW ind +lah oma +Ġalloc ate +or ian +Ġpres cription +- quality +ĠMay or +in ely +end foreach +ĠCom plex +k om +T Y +] ]. +. Style +_m any +',' $ +Ġbar rier +ĠF etch +ĠMar vel +Ġres ist +ог о +b idden +ĠRun nable +: false +Ġbuild s +ĠSt age +Ġd ub +emp o +.s ite +;ĊĊ ĊĊ +ĠDen ver +Ġre vel +Ġtrigger ed +Ġd ice +_f ail +Ġg c +ĉ X +ĠTh rowable +.r outer +ĠRev olution +ÑĢ Ð° +_N ON +Ł ¥ +Ġel der +Ġab road +ĠÐ µ +ĠAd ult +bl r +g lyphicon +Ġprom oting +Ġ iz +ĠS olid +_lo ader +ear ly +.en abled +- edit +ĠU L +_ play +ĠInt errupt +Ġadvant ages +uc le +Ġmechan ical +.table LayoutPanel +ĠWork ing +Ġan onymous +R ating +ig ious +_ph one +.addAction Listener +Ġfr an +und en +Ġ*) & +_ bool +ul ative +Ġcon e +ĠM ult +Ġm ö +ĠFor ward +] ):Ċ +Ġconvin ced +act ed +ãģ ĵ +ĠConfig ure +Ġce iling +D er +Ġpass engers +Group s +Ġsoc cer +/ W +avi ors +sw ith +ĠZ one +. Options +ĠM om +ied er +Array s +Ġtreat ments +Ġprotect ing +f ac +Ġpick le +Button Item +Ġblock ing +str ar +à ² +ĠEx port +Ġth rew +ott a +ĠB ASE +.w s +.LE ADING +order By +_d elay +ĠP u +.d ll +ĠCh oose +Pol ice +ĠBE GIN +box es +Ġdiam ond +, l +Ġ ĉĉĉ +Ġcur ious +t v +Ġerot ische +ack ages +ĉ Set +T ick +.b order +static method +Ġch er +in voice +Ġcr u +Ġdef ect +_m etadata +re lation +ik an +[ N +(Q t +( Base +æģ ¯ +be at +ĠEm pty +ĉ o +_sh ift +Ġreg ret +Th ose +C ent +ĠPort ug +ĠIs lands +ĠT IME +Man agement +-s p +ê me +Ġnot ion +un ifu +P K +è¡ Į +ĠCUR LOPT +\" \ +U V +ç º +d ra +c ou += ` +ĠD estroy +r p +.c ancel +G G +r untime +ĠV ue +Ġprogress ive +/s ervices +Ġrun ner +_FR AME +.ToolStrip MenuItem +Ġ' ,' +d elay += utf +Ġscreen ing +Ġpull ing +om as +Ġan th +- new +/ local +Ġi Pad +Ġt witter +Ġd ying +Ġhe aven +ĠU Int +ĠSen ator +Ġpres um +ĠWalk er +Ġover come +ete ction +Ġemb arrass +Ch ina +In clude +RO LL +Ġdata Type +D avid +ภ£ +lo p +-m onth +Ġsc ar +ĠS afe +Ġ **************************************************************** +Ġaccess ories +Ġr amp +_U SE +Ġcontr ad +)) ]Ċ +Ġpre st +ĠH R +ĠR ap +Ġus ize +Ġcap ability +Ġc ort +- next +Ġbur den +_read er +Ġ@ @ +reg ular +ĠK a +M AN +Ġa str +Ġ' ')Ċ +Ġf ed +Ġpars ing +ĠY ears +Ġbro ker +": {" +Ġa kt +In ventory +abe led +Ġarg parse +****** *Ċ +vers ation +Ġc ord +ĠT i +Ġhope fully +Ġa h +ver b +Ġst olen +. Entry +Ġexpect ing +O rientation +Ġpower ed +Ġp ersist +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +'] ); +')) ,Ċ +ĠC ash +ĉ item +gr ades +rop ol +b asic +Ġ" );čĊ +Ġaw ards +(r ange +- all +ĠIB Outlet +ĠInd eed +---------------------------------------------------------------- ------------ +Ġstom ach +Ġfl ower +Ġs ew +_t imes +av is +Q String +ĠR outes +_pro t +Ġcom edy +Ġlog out +Ġwood en +Ġpost er +p iece +.J oin +ĠP ok +cel ona +mut ex +;čĊ čĊčĊ +Ġstri kes +Load ed +) arg +es a +Un ited +E p +PE LL +ĠAtl antic +ul let +app le +Ġsett led +a con +Ġprint er +ĠG C +å® ļ +Ġrender ed +, âĢĻ +he it +s ocial +. ge +ĠR ick +ĠUt ah +g ot +on ical +ĠSc roll +ĠSc iences +Ġj ug +Ġam pl +ent i +LE FT +Ġt abs +Ġenorm ous +.get Key +loc ate +. EX +.st orage +.W e +Ġto ast +ĠAdd itionally +ĠN OW +_ UPDATE +Ġtrans ferred +th a +.D isplay +_ ui +ID EO +Ġmeaning ful +ĠMos cow +, this +ĠVict oria +æĶ ¹ +ĠÐ Ł +.st ack +ĠB arn +pared Statement +: string +Ġb ij +ĠST ATE +Ġemploy ers +ĉ input +( | +Ġle x +in voke +ĉ num +++ , +at ial +ors es +Ġfor k +_t xt +ĠAnton io +Ġ( < +aver se +Ġdev ast +ãĢ Ģ +.D ec +ĠG ard +/ ui +. % +tr i +Ġrol led +Value Pair +itt en +ĠTh er +Ġv rou +ĠFl ow +ĠFin ance +ĠCom b +H C +.set Visible +is l +Ġp k +Ġup set +( raw +ĠV ice +e atures +ĠL ang +Look ing +ĠA ST +Ġtri ps +ĠJust in +b rowser +=" '.$ +. vertices +- co +}/ { +Ġ? , +ĠD omin +ĠBel g +" < +Ġsup pose +add y +Ġwalk s +ERR U +_f ilters +Pre ferred +sc ene +е Ñģ +ĠAff airs +Ġ"# { +Ġon Submit +Ġstock s +/ view +g ree +- get +h it +J o +.get C +Initial ized +ÑĤ и +c uts +( Type +ĠAg reement +ĠViet nam +Ġ/* ! +Ġp izza +- view +_ em +Ġl hs +Ġm uy +ĠId ent +ĠF riends +Ġab und +_A D +.t imestamp +- ' +Ġd uplicate +Ġhun ting +Ġregul atory +ia o +am ous +ĠEnt ertainment +[ A +iat ric +_CL IENT +ĠK ids +/p kg +B reak +)) );ĊĊ +ĠSh ape +Ġrel ating +Int errupt +able Opacity +emb re +Ġmyst ery +Ġjournal ists +rit able +.L ink +Ġstop ping +CRE T +.D B +Ġpopular ity +Ġg ew +Ġim pr +set Value +FL AG +ĉm ax +Ġb ake +w y +ĠEcon omic +Ġen contr +Ġf name +/ de +R ank +Ġbug s +.s m +Ġmed ian +D OWN +ĠS ure +At Index +ĠD ick +Ġ( __ +.d elta +F r +Ġsuggest ing +ĠRec yclerView +, e +ST ART +/************************************************************************ **** +xf ord +Ġrece ipt +CL AIM +read only +Ġeng aging +C a +as ma +Ġens uring +Eng lish +ĠV ancouver +hy th +Ġpurch asing +ĠP I +. word +(s p +.h ome +: def +Ġg ig +ĠV e +for um +ĠM itch +B ay +_F L +Ġs oll +_column s +Ġminor ity +b ird +Ġhand ed +SS L +ST AT +Ġnerv ous +ĥ ½ +Ġfile Path +CRE ATE +A w +Ġp ens +se ed +ĠCom pute +ol k +ĠAs set +re ach +'), čĊ +n avigation +L F +/ util +ĠP ub +Ġâ Ķ +c ion +## Ċ +II I +Tag Name +Ġam id +per mission +if iable +xFFFF FFFF +н и +.B uffer +_ irq +d ark +Ġret val +.f ire +produ ction +.list en +ĠWe ather +Ġbuy ers +. ne +er p +ĠP ent +Ġw elfare +Ġpage Size +ĠSt adium +ert a +Ġle v +amp a +P ager +Ġcharg ing +ĠNet flix +| null +_r andom +.x path +Ġst ere +ĠIS IS +pons es +( loc +ey ond +ĠOff icial +ĠMary land +Data Type +_p ar +{ }, +ĠEn joy +_SH IFT +ĠA wards +_ENT RY +Ġseem ingly +entic ate +Ġheart s +_ ;ĊĊ +ĠH IV +Ġindiv id +ĠFl ag +_ ctrl +ĠC allback +, z +ĠG PU +ĉ obj +ĠPh oenix +ĠB US +Ġrub ber +_A UTH +ĠSol utions +( location +Variable s +.set Enabled +_h igh +W O +G esture +Ġre try +Ġobject ForKey +allow een +Ġm os +ĠC ele +Ġik ke +(c ell +ĠM ODE +ren a +Ġdescri bing +Ġph i +Ġr d +Ġdes erve +Ġwhe els +å¸ Ĥ +Ġcrit ics +N amespace +ĠF ra +Ġ ĊĊĊĊ +Ġall a +Ġrequ iring +æľ Ł +ut ation +Ġdelay ed +Ġadministr ative +Ġb ay +.h idden +T ex +Ġbound aries +Ġ] );ĊĊ +ĠFollow ing +~ / +F i +_con v +_T ITLE +Ġdes de +ICollection View +Ali as +Ġb ite +pat ient +_COMM AND +Com pleted +ĉ elif +( < +B usiness +ĠP ool +Ġpurs ue +ĠB an +_st eps +_DE CL +um ble +Ġcom bo +ĠL ayer +.x r +Ġd up +-------- - +Ġmod ifier +ro b +re z +Ġath letes +Us ed +w ear +Ġlegit imate +Ġ" ĊĊ +Ġh v +St d +ĠH old +Ġsurv iv +ĠAll iance +ĠEar ly +Beh avior +(f ont +/lib s +Ġrect angle +Ġs inger +Ġam p +Equal To +Ġ" ." +Ġgirl friend +å ± +line ar +obs erv +Ġpi ù +Ġcomple ment +With Value +(p assword +t ake +Bl ank +ĠCom par +' ", +_p olicy +m ongoose +_FA ILED +.re port +R atio +.Perform Layout +us able +m ers +_re nder +PE ED +Ġles b +ĉ E +_t ool +Ġl adies +о Ñģ +)) ))Ċ +;; ;; +.d ot +Ġn est +pe ak +uk kit +ec a +_S W +Ġ& ( +ĠOk lahoma +Ġbank ing +ĠN intendo +Ġreprodu ce +_element s +_m ac +pro xy +Ġremark able +}/ ${ +Ġout s +.has Next +M ODE +Ġan ime +.con n +Un ique +D om +Ġimportant ly +itt y +Ġju ice +T w +ĠPart ners +Ġattack ing +Ġport able +am iento +.P ictureBox +.g en +Ġopt imal +Ġre cre +Ġjournal ist +ĠEx tract +ĠMore over +Ġmargin Top +.A p +Ġf iring +Na N +ĉ template +аР´ +. En +Ġdef ence +ĠT el +il en +j an += data +ĠU rl +ĠRe uters +(t otal +ĠFif th +Ġess ays +Ġinterpret ation +Ġchar ity +ĠR ules +Ġsub section +st yled +az er +l ags +L IST +Ġupload ed +Ġtr ash +Ġreg istr +Ġsell er +>' ;čĊ +Ġstart Time +ç Ļ +s y +(Http ServletRequest +Ġtr ap +G C +Ġembed ded +Ġsurround ed +im its +T X +yl inder +ĠF al +Ġsent ences +ĠJ a +IF ICATION +we apon +ov ation +Ġco at +Ġinter pol +Ġl ips +ĠK y +Ġv ectors +_ am +Ġint ake +.w orld +Ġin box +ĠM AC +_ ab +(name of +Ġent ert +Ġgather ing +ĠS IM +++ . +ny a +' }} +ĠUP DATE +Ġp ac +( html +ĠS ant +i ating +ĠIde as +Ġspr ay +ĠH art +Ġver ification +ades h +/ modules +ĠM ind +ĠSized Box +Ġsh elter +Ġher oes +att y +Ġcert ified +s j +Ġê tre +ÅĤ o +Ġpublish ing +ĠMal ays +.get User +ĠPro vider +ĠLinked List +ĠB or +RO UND +d id +t ain +p ire +ĠJ enn +t el +and e +_f ront +ĠMc G +Test Method +à¸ Ń +Ġoccasion ally +ĠW ales +Ġexerc ises +ĠÐ Ĵ +- plus +Ġvalid ator +Ġpr ayer +L ATED +_ author +Ġlab our +++ Ċ +-e quiv +ĠG PL +Ġface book +s imple +g ly +Process or +ip y +Ġ* > +Ġcle ared +ĠP ush +Ġpen is +Struct ure +li j +ĠM organ +Ġhand ful +" .Ċ +| \ +Ġ ******************************** +ĠA qu +_ IC +.load s +Ġm eter +ĠMar ine +:: { +ĠT S +ĠArray s +.T itle +GR AM +ter min +Ġco inc +El se +_st ates +-r un +m embers +ast ro +Ġon Press +Ġbe ings +Ġabandon ed +Ġtax p +own ers +.m ode +Ġdiagn osis +Ġ_ Ċ +ĠK night +ĉ A +Ġob serve +), ' +! ")Ċ +ĠPar a +Ġvari ation +( False +ĠAnt i +Ġg ri +Ġhome less +? v +Ġbe z +.S erver +re lease +ĠP atri +Ġchar s +Ġrank ing +activ ation +Ġw ides +q r +.S ql +ac ular +ĠB ot +_s ync +Ġhapp iness +Ġvolunte ers +Ġs its +/ < +[ e +(file Name +Ġcap ac +ĠMar ia +f ather +Ġgr am +* i +Ġcas o +_d raw +ĠR aw +ĠIter ator +ĠP adding +P D +BO X +ĠS PECIAL +Ġfe cha +Ġv ide +ĠLe ader +ä» ¥ +$ (". +Ġdiam eter +Ġm ild +Ġrock s +app ings +d irectory +.fl ush +ĠJ ess +UN IT +ĠP ear +Ġmand atory +S ur +q t +Ġstream s +Ġco operation +ĠS ac +Ġche aper +ĉ ch +an imation +f are +( height +( True +N Y +Ġw rest +Ġpoll s +Ġencounter ed +ĠMarket able +_P ASSWORD +_SE LECT +ĠArab ia +_c lock +Ġv oy +Ġи з +Ġst ir +is ible +-e ffect +.c reated +Ġto ys +ĠTrad able +Ġr ust +Ġstr cpy +_t imestamp +Ġtalent ed +, null +ĠJ obs +ĠPort land +Ġweak ness +Th row +ĠAng el +ä¿ ® +Ġun cert +ï¼ī Ċ +ĠìĿ ´ +Wh ich +Ġ[- ]: +S omething +Ġconv icted +k le +ed ium +Ġbranch es +Ġb ases +ç ® +Ġcomplex ity +ĠF ig +. reshape +$ db +_CON ST +ĠT es +.r untime +Ġden y +ĠB SD +Ġk r +h att +ĠSt atic +Ġunivers ities +Re place +Ġdro ve +Ġad oles +_pl ugin +ĠL GBT +Ġt ex +du ction +ED I +ĠT ed +_ URI +Ġre ception +art en +.S ingle +r ice +sc ious +_b g +Ġw ages +ĠS ervlet +UIL ayout +Ġform atted +.M od +< class +is en +Ġrepresent atives +"] = +Ġport al +ĠHun ter +Ġh iring +__ )Ċ +ric ulum +u o +li est +Ġt ears +L at +Ġliter al +.In sert +Ġc urs +ĠCom put +Ġterror ism +Ġswe ep +Ġ[] čĊ +Ġpass enger +Ġeast ern +Ġtwe ets +Ġoper ated +w nd +ĠS yn +.t ools +ĠW M +ul ates +Ġbacter ia +( bytes +.set Data +Ġvis ibility +// ================================================================ +el m +Ġgener ating +Ġm v +Ġk h +j en +/ search +Ġaccount ing +se gment +act ic +. ip +Ġdeploy ment +Ġfoot er +> ',Ċ +Ġexpand ing +ĠHam ilton +ĠCon trib +.T ables +Act iv +H H +ocom merce +_ ; +Ġamong st +ow ing +ĠC old +AP H +Ġpsych ological +_t ensor +Ġpack aging +ĠSw eden +Ġp are +Ġag gregate +Ġmoder ate +_h and +Ġdesign ated +Ġdr um +Ġget User +ĠC reek +_s cope +ĠTrans fer +ĠM arg +Ġfight ers +W nd +ĠS el +ĠLa unch +Ġemerg ing +if rame +ĠAdd itional +Ġf ears +Ġsat ellite +_ : +Ġdis posing +Get Value +Http Post +AT IVE +ul ary +View s +Ġatt ending +ĠT ennessee +ĠM ission +Ġmedic ation +ĠW y +ĠAn na +Ø ¹ +ĠVert ex +.t ypes +O rgan +.DataGridView TextBoxColumn +ĠR S +Ġtemp o +( App +Version UID +.p oint +ĠD utch +H ours +L U +Ġqu oted +.b uilder +ĠPer fect +ĠAl ways +_t wo +Ġexclus ively +ĠC ra +ific ar +ĠA WS +ing ham +com plex +k ernel +Ġgr avity +Ġw i +Ġover view +ĠW ant +ĠW P +( sh +. rotation +St ates +ĠTe en +_com ponents +ì Īĺ +Re ceived +Ġly rics +rit es +ĉĉĉĉĉ Ġ +-A merican +[ num +/ python +ĠU ART +Ġapp le +ĠJon athan +Ġmoment um +ภ± +Ĥ ¹ +Ġm ich +and ra +Ġbi ological +ĠM ens +Ġ% % +else a +ĠMex ican +.rand int +Ġt ale +ĠValid ate +Ġdefe ated +.ht m +Ġcop per += / +cos ystem +Ġr ip +dec imal +.V ISIBLE +ĠT a +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉ +Ġdownload ed +en vironment +Ġnom ine +build ing +ĠSp ot +ipher al +Ġal to +qu et +ĠF T +/ get +/m aster +W IN +åħ ĥ +W est +arg c +Ġprodu cers +ĠM uch +_st orage +cred it +CON T +Ġv et +Ġvo ices +(' ', +Ġinstr uments +ĠM SG +es se +re pository +om ics +Ġdeal er +St ill +Ġb anner +asc ii +Ġrem arks +[ js +Ġshort er +g ulp +Ġmyst er +Ġk un +ĠB ird +Ġti ene +n ut +ĠU m +Ġw ise +Y eah +INE SS +_b egin +- heading +C ourse +Ġ čĊčĊ +omb ie +grad ed +ĠG PS +Ġ że +F it +c aption +ö n +/ image +l ia +(m od +Ġle ak +en za +/ H +ĠH appy +D ist +n x +ĠGovern or +(l ast +te acher +ĠS ent +s upport +ject ory +Ġ Ùħ +Reg istration +ĠGr ay +, false +Ġadjust ed +( settings +< R +ĠM age +Ġpl aint +_ )Ċ +ĉ it +omet ric +. bootstrap +Ġcar ries +I p +Ġ! $ +Ġswim ming +ĠMar io +ĠQuest ions +P ACE +æĸ ¹ +e or +}} " +Ġo ven +ĠK on +Ġwis dom +Ġac quisition +ess ment +ag ine +Ġexpress ions +Sequential Group +F ront +ul pt +aw k +'] )ĊĊ +_ AR +Ġanal og +ul in +_PR INT +ĠL G +Ġb lob +ĠFurther more +_com ponent +ĠC ole +L AN +SCRI PTION +Ġl ap +icens ing +_TIME OUT +ĠF ro +Ġli ability +Ġcom posed +.create SequentialGroup +_p erson +Ġbe am +ĉ ĠĠĠĠĠĠĠĠ +ĠNot Found +. 'Ċ +ÃŃ s +.Text View +P DF +Ġk ar +__ (' +Ġ" :" +_m essages +Ġhar vest +.h istory +> 'Ċ +-f old +æ Ĭ +ĠBet ter +Ġ"\ < +sp acing +Ġfurn ished +os er +] }Ċ +Ġ$ " +p ull +.P ost +( ip +Ĺ ı +.f ront +nt e +ĠF M +g uid +Ġnegot iations +agon al +Ġtrem end +unge on +Ad v +car ousel +ÃŁ e +_DE SC +Ġham mer +áº Ń +ĠĠĠĠĠĠĠĠ ĊĊ +-c ore +-s ervice +Ġcorn ers +ĠS F +p red +> A +ĠJ Label +Ġrom antic +Ġtestim ony +os c +ĠGener ation +as ures +_int ernal +Ġprint s +Ġ] )Ċ +ĠC leveland +re po +D isc +Ġ" >Ċ +�� �� +Ġne arest +_t b +( require +EO F +- child +Ġbu dd +.Xtra Editors +alt ies +\": \" +W ords +Ġloc ally +Ġpurch ases +Draw er +ex tract +Ġexec ut +} '. +user data +Ġfocus es +-min ute +ĠP ublish +og o +Ġmount ains +B ot +} >{ +Ġt ension +ro d +m esh +Ġtransform ed +, R +() }Ċ +.l ong +Ġg orgeous +ĠS chedule +Ġol dest +Ġsub process +( IN +y ect +ĠCo oper +arn ess +ĠMon itor +.p art +ĠN BC +Ġc otton +Ġh ol +Ġrg ba +ĠB io +Cont inue +P od +Ġparticip ating +clus ions +(By Val +à ¬ +ĠH OW +_set opt +Ġaccompany ing +at on +Ġ/ \ +ĠAuth entication +i én +ĠBar ack +/* . +Ġe ager +ĠC ancel +< lemma +ep h +ĉ window +Ġinc idents +), ( +.D es +ib e +ĠFunction s +Ġhosp itals +Ġo xygen +root Scope +Ġd rew +ĉ request +not ice +ak u +am ents +f ar +Ġprec ise +_w rapper +Ġlisten ers +A Z +.b ounds +ĠA verage +field set +_ axis +Ġexam ination +' .Ċ +mon s +++) {čĊ +ĠForm s +íķ ľ +Cpp Method +_tr ace +Ġengine er +ĠFl at +Ġrev ision +Ġhe ating +/ profile +.r u +p riority +Ġin fer +_ST REAM +Ġ* )( +> $ +OLE AN +OK IE +IB ILITY +U AGE +ĠSur vey +Ġres ign +w ing +Ġsecre ts +Ġch ips +JSON Object +Des ktop +_SY MBOL +(res ource +ĠĊ +Ġnew est +ul i +Ġdes ert +Ġd ip +ĠP ow +Ġequ ation +Ġposs ibilities +ĠF ed +os ph +Ġ[ % +Ġb ubble +ether lands +Ġc ement +. auto +_ AN +âĢĻ . +se lection +ĠB ond +D en +- O +.get Type +.W indow +p res +Ġsw inger +" })Ċ +Ġp ip +Ġm ice +Ġcomp ound +- plugin +ik o +Ġcent uries +ic ular +-in line +ĉ key +> \< +EN SION +Ġ[ čĊ +Ġprecis ely +Ġét é +ĠP ast +ĠCam bridge +-f ull +Ġanaly ze +ĠSte ven +Ġn em +d ue +ore n +Ġmus cles +ij ing +/ - +ĠKenn edy +R M +oss ible +Ġact ress +Ġd olor +å½ ķ +Ne ed +.t oggle +ĠR ace +w ers +.m aterial +ĠD ue +ĠP el +# print +Ġindepend ence +ex us +Sh adow +Ġenc oder +( level +ĠSw ift +.d oc +_se lection +Ġserial VersionUID +Label s +Ġperform ances +.T ag +ĠN HL +iz en +/ UIKit +_CONT ROL +Ġearn ings +ĠAl t +_H ANDLE +C tx +Ġpers u +Ġtr an +ç ¨ +_CH ANNEL +Ġsatisf action +ĠG P +io x +m itt +land o +Ġp ig +inal s +ê ncia +S urface +ĠU UID +Ġbenef icial +Ġsequ ences +ĉmem set +Ġmag ical + « +Ġw orn +AS C +pop up +COM P +_b efore +en ess +U i +L es +.re quire +.Serial izable +add Gap +Ġauthor ization +.py plot +urr ay +lat itude +fr ames +aj s +Ġcomp ass +Ġobserv ations +_s up +.en viron +Ġtri ple +ĠRub y +Ġdr ain +_F ILTER +S an +UM P +Null Exception +ĠG ab +ow e +ĠTurk ish +_se quence +ĠGr ant +uel a +Ġw o +Ġc ube +i q +Ġdis orders +Ġextra ordinary +Ġc trl +ĠSe q +ent r +Ġsan ctions +uts ch +Re ports +Ġin herit +Per iod +Ġphot ography +ĠF ramework +Ġspecial ist +Ġ? ĊĊ +_ selected +.P layer +Ġal location +( account +Ġstruct ural +v able +- offset +.App CompatActivity +аР¼ +.Add WithValue +Ġicon s +Ġshut down +_l ow +ĠCom pare +ĠC e += head +l am +.p redict +_DE C +ĠS leep +ĠGr atis +Ġsuggest ion +ĠD EL +ca ff +av irus +No thing +ŀ ĭ +Ġwides pread +Ġmechan isms +Ġtext Align +occ up +ĠR ail +: NS +Ġf iber +Ġm k +Ġv intage +-l ong +.re duce +. Entities +( record +Ġple asant +FR ING +.C ells +OT T +ĉelse if +_con firm +ĠView Group +s ym +Ġpr ay +Ġsus pected +Cont ains +Ġb orders +Ġcomponent Did +ASS ERT +Ġinf inite +- order +Ġh ello +ĠGr ade +.currentTime Millis +apol is +z h +ĉ Object +: \\ +H O +val uation +Ġvoc ab +Ġcou pon +atab ases +.Get Type +L earn +] =" +ĠG ary +ot ive +Ġas h +Ġb ib +XX XX +Ġbal anced +VAL UE +ĠN at +_A d +< E +åĮ º +ĠMethod Info +L IB +Ġconsider able +ĠInd ustry +test s +.set Title +ĠBl uetooth +Ġm apped +ĠBru ce +ĠMain Window +ĉ status +Ġr az +ĠM and +Ġclass ification +Per missions +Ġ---------------------------------------------------------------- ------------ +Ġcontain ers +: set +_x ml +Ġwh ilst +Th rough +Ġval ign +Ġworld s +C ORD +ED IA +ÑĢ Ð¾Ð² +Ġsp are +ĠH ad +ĠDE F +(p tr +Ġwarm ing +ठ¾ +Ġcons ensus +ag ne +CT L +Ġì ķ +.M ain +web Element +Ġp ist +Fl ash +App end +.tw img +T ap +Ġveget ables +al g +.s ample +Ġcoach ing +( ind +Cell Value +Check Box +ĠH ell +RO OT +Ġst adium +Ġinvestig ating +) % +st ed +ĠW riting +Ġê ² +Ġun o +Ġ{{ -- +Ġco ords +Ġun ser +organ ization +ĠCr ime +ĠDemocr at +Ġv in +/ file +- api +ĠA y +Ġfund ed +ĠBre xit +ĠG h +ent ina +c ases +Ġd ash +Ġ!! }Ċ +H I +Off ice +Ġcapt ain +Ġwor ship +\ C +Ġglo be +_ board +Ġbab ies +Ġconsec utive +Ġenh anced +ere um +ĠAd vis +Ġgr ain +Ġc raw +ancell ationToken +. alpha +_W ITH +ĠO tt +ĠC ool +.b atch +Ġver ified +(c allback +Ġreg ards +ĠInt Ptr +ouch er +Ġk in +Ġtou ched +it Ãł +ath on +Ġadj acent +Ġaccom panied +LE AR +Ġim plies +Ġh ill +ĠBalt imore +=" - +Fin ally +S am +ic opt +Ġs od +Ġm aj +ĠSh ipping +Ġget All +Ġcoach es +Ġdon ations +il ot +ĠT ar +c err +Ġbad ge +Ġmark ers +ĠR and +ais ed +iss ance +Ġexpl oring +uc ed +ĠIndones ia +Ġbene ath +Ġmagn etic +Ġm useum +match Condition +Ġdis rupt +Ġrem ind +ĠT M +Ġ/ >< +Ġf ool +Ġes k +.N ull +ĠD ies +_OUT PUT +_TYP ED +Ġpaint ed +Ġsoph istic +ĠB ear +* n +_P ACK +Ġdeliver ing +ĠC OUNT +åį ķ +Ġj eg +-c ar +f name +Ġr anging +ĠN eg +/ ******/ +ĠCH AR +Ġul tra +Gr ad += t +Ġjud ges +ĠD ise +ann ers +Ġsc al +_c al +ĠCON NECTION +_ embed +(f n +ĠC raft +ĠP as +") -> +.con vert +.res ource +ĠST ATUS +ô ng +ĠT it +Ġclass room +ĠArch itect +ĠK ings +Ġstead y +/* !Ċ +ĠG ene +) ";Ċ +ic ia +st an +ĠCon struction +um per +w c +ĠC BS +ing ing +-p arty +(d river +M ARK +Ġn ested +ew ard +Ġdepend ency +Ġm ales +ĠO NE +ĠProdu ction +][ $ +ãĥ¼ ãĥ +_LO AD +ĠB ol +el ry +ł éϤ +ĠRe quire +Ġpl acing +xx x +CA LE +Ġth umb +Ch oose +Ġprot otype +VO ID +Ġles bian +Ġtra its +Sh arp +Ġconsum e +Tr uth +Ġaction Performed +ĠEnvironment al +ĠDe an +Ġest ado +s ame +Ġnumer ic +Ġtrans it +. Email +-s ide +_R UN +ĠVill age +_OP EN +è ¦ +.re m +-w arning +any a +Property Changed +Ġ(! _ +( check +il ia +ĠSo ft +st eps +ĠMad rid +Memory Warning +Ġhand lers +Ġexperi encing +Ġins pect +button s +Receive MemoryWarning +chem y +Link s +Ġur llib +.System Colors +ĠE igen +Ġpun ishment +:UI Control +bar a +- set +Ġ}čĊčĊ čĊ +Ġtoler ance +Ġinter faces +. redirect +ighb ors +cs rf +_back ground +. Utils +_H T +ĠInter est +im os +Ġgr ants +Ġexam ined +Ð Ķ +Ġc f +for ge +back s +ĠObject s +_s ent +. entry +ĠTH EN +ell ido +c ia +, res +/std c +. nd +( Int +ĠAuth ors +ĠApp CompatActivity +' { +Ġmed i +M usic +ig m +ce ipt +Ġa uss +Ġtarget ing +ĠKe ys +h n +: ]Ċ +Ġmin eral +à ® +.c a +om ed +Ġshe ets +Ġc amb +Ġdead ly +.in ject +( unit +ĠSe lection +.g ms +( connection +Ġ$ (" +é mon +ĠCurrent ly +pt e +_path s +le af +Ġimp lications +pos al +ä½ į +[ / +anc ia +é Ľ +m ul +c ie +Ġge ile +im als +UI View +Ġs urre +serial ize +IS O +Ġarbit rary +Ġsock addr +.f n +ĠM erc +Ġcast ing +Key Down +Ġnew Value +op ens +T odo +Ġflex ibility +ĉĉĉĉ ĠĠ +V elocity +ú n +row ing +Ġcomput ed +` )Ċ +st atement +Ġr i +_c art +L ow +trans fer +.n av +Ġgr ave +ĠDo or +ĉ alert +.sub scribe +- profile +ĉb ase +ĠâĪ Ĵ +__ ĊĊ +Ġengine ers +Ġexplos ion +Ġd ari +ĉ Log +on al +Ġisol ated +{ i +ĠM sg +F uture +Ġrac ist +-w rap +ĠV ers +b org +IS ION +Ġ ÑĢаР+ĠY an +init With +Ġn omin +( empty +ÃŃ n +ãĤ ¤ +ĉ width +Ġch amber +/ ajax +EM P +Ġnec es +iv os +log ic +*) & +cript s +Row At +ib lings +Ġe ars +Ġcomput ing +Ġm aker +ĠNe ither +b readcrumb +Ġserial ize +ĠWith in +Ġd ell +_TR ACE += a +Ġwish es +-in ch +ĠD or +Ġinnoc ent +ĠD ol +Ġint ens +for ced +ĠB IT +Ġphotograph s +Ġcas a +ĠL en +\F ramework +.S imple +Ġde ar +)/ ( +ip pi +Ġown s +Pl ayers +Ġpropos als +.p i +us alem +D amage +Ġcal ories +ĠCreat ive +Ġ[ $ +Ġ// čĊ +And View +è me +.c ustom +_f actory +command s +_lo ok +Ġstr cmp +Y N +a ired +Ġaud it +о ÑģÑĤ +ĠRe verse +ropri ate +et ics +< vector +.s elenium +. or +Ġpred icate +Ġfinish ing +Ġk le +ĠRep os +ĠK han +ĠM aking +ĠF S +Ġp ute +ĉ state +_S UPPORT +' - +orient ation +Ġexist ed +atur a +Ġexpect s +ĠSh adow +Ġorgan iz +å ŀĭ +Ġsusp ension +Ġu it +Ġsimult aneously +ĠAff ero +: ");Ċ +Ġro cket +c as +eter mine +ace ut +x l +ĠA MD +( graph +ass oci +_C R +.ar ange +(j Label +Ġbe ef +Qu ick +.c ard +] ): +- gr +.G ONE +_C LOSE +ĠNe v +ÃŃ as +Ġste pped +ĠFre edom +ĠW R +NS Array +_r x +_d ialog +Ġhot els +Ġ( \< +ĠD iamond +Ġassum ption +um i +( items +č ččĊ +æ³ ķ +Ġn el +Book s +åİ ¿ +us b +ĠF IN +æ ¬ +Ġcorpor ations +US A +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +.p roperty +ew ise +_ plot +"> ';Ċ +Ġpe pper +Ġsh ed +ĠMed ium +ĠC ookie +Ġoverse as +ed or +asure ment +åŃ ĺ +Ġ' .' +Ġph p +ĠPRO C +Ġexception al +( th +ĠJ et +Ġoccup ied +.set Image +ĠRel ated +uck er +M embers +PR INT +ĠG lo +_V IEW +} ",Ċ +Ġad option +[] )Ċ +ĠMiss ouri +ĠLin coln +eral d +Pop up +Ġf ate +- bootstrap +fe ctions +ĠP oll +_ARG S +in ance +-h ome +. ), +_d one +: ĊĊĊ +Ġdiscuss ing +ĠSQL Exception +Ġelect ro +ĉ req +Ġz w +Ġl ui +Ġover night +$ user +ĠW AY +Ġall erg +Ġdisappoint ed +Ġradi ation +Ġimpress ed +ific ates +Ġto b +CL ASS +Ġc uda +_d et +- post +ul u +Trans lation +-h and +.y ear +ĠM ongo +Ġun clear +. engine +WEB PACK +r ices +_AC CESS +Ġh olidays +per cent +.Id entity +ĠG ov +Ġpassion ate +!! . +ĠGree ce +plus plus +')) ; +G P +Ġexc it +.tab Page +_ cond +Ġspons or +M ODULE +_pro c +Ġ$ Ċ +Ġr ational +.T ool +Ġi hr +cc a +åĵ ģ +ĠE state +IB UTE +Action Performed +ĠS olar +¦ Ĥ +Ġequ ity +t id +Ġrec ip +.s imple +m k +ĠL uke +ĠGuard ian +Ġenc rypted +Ġdomin ant +. place +ĠN V +Ġtong ue +( Get +Ġst ainless +.P lay +Ġe b +ac i +.b uffer +readcr umbs +Ġvacc ine +p rom +Ġuser Info +Ġsl ug +Serial izedName +-w ide +Ġre actions +ĠY ang +ĠAdd s +(user Id +Ġpl ates +ĠM EM +Ġb ail +In side +et ed +Ġels if +Ġs ake +Ġc ycles +Ġì Ĺ +ĉ I +-c ollapse +ĠG MT +De claration +Ġg ros +Ġreach es +Ġcust ody +Unt il +t u +ĠCh en +Ġn x +( addr +ĠO ffer +Ġcol leg +ass ador +Ġm apper +ĠS IGNAL +ĠB loom +ĠH oll +ĠIm per +-d es +_s ite +Pro c +E qu +Ġat omic +ĠW oman +s ent +sc ar +Ġint elligent +ĠGet ting +ĠReg istration +ĠPh ill +Ġkill er +unic ode +Ċ ĉĉĊ +ĠJac ob +ĠCon st +Ġloc ate +Ġca us +ĠSch olar +Ġconstitution al +Ġinfl ation +ĠG ot += array +end um +Ġtransl ated +Ġdiv orce +En tries +Ġs or +ĠQu ote +irl ines +U K +Ġexc el +( opt +ĠAD V +,: , +Ġcontact ed +ĠD A +Ġr ings +ĠIndust rial +.get Context +Ġforg otten +ĠT an +Ġp ants +Ġo v +Ġdec oder +ĠPart ial +Ġv c +Ġbatt les +A rial +FRING EMENT +ir ates +, w +aint enance +ĠO d +ĠTechn ologies +åī į +ĠCar ter +.find All +N ome +B en +ĠUs age +ĠP icture +Ġbad ly +_p anel +Ġpat ent +ĠProt ocol +lot te +ĉ player +je ctions +Ġd ou +_re lease +urn iture +_t ax +ĠF ields +.d ataset +_m aster +CLU DE +ĠPh arm +b st +Ġoper ational +.c ell +Ġident ifying +Ġj wt +t uple +ĠT C +ĠC ro +ix map +- components +gener al +Ġo z +_D e +_d ouble +ĠTo o +.View Group +g ate +d ings +ph otos +Ġgrand e +ol lect +_l in +Ġaw ful +f ilters +Ġaltern ate +es p +Ġcomp ress +e o +ĠS cale +Ġind irect +Ġinv oice +ĊĊĊĊĊĊĊĊ ĊĊĊĊĊĊĊĊ +Start ing +ĠPl ayers +ie le +. then +Or d +ĠT uple +Ġb out +ĠStat istics +Pre view +Ġp uzzle +ĠW idth +ST ATE +Ġover lay +ĉ on +Ġin fr +Ġsm allest +lock ed +ÑĤ о +ss l +Ġde emed +Ġs co +re ck +Ġj Button +Ġmiss ions +ç§ ° +.Selected Index +T ABLE +Se pt +Ġacknow ledge +Ġstrt otime +ĠT ell +ĠD ak +Ġal uminum +Ġf ence +ĠSt ars +CON FIG +Ġretro fit +Ġemph asis +/ header +ĠS omething +in ished +=' ".$ +ĠValid ators +Ġpol ar +section s +.as px +Ġas pir +.M ock +Code Gen +Ġpe ut +Ġaccept ing +Ġback ing +P icture +/ ap +еР³ +_SE C +- use +annot ation +Ġcogn itive +Ġg rip +h our +ĠLeg al +Ġep ic +.t oolStrip +.not ify +.L ast +OR IZ +M iddleware +cri ptions +l ash +_F OUND +ĠLiver pool +Ġ{} ", +Inst all +Ġn it +Ġfig ured +[ len +.W in +.pl atform +Ġgam bling +(d t +av ery +ĉ include +Wh ether +R outing +Ġther ap +Rem ote +ĠL oss +y ll +Ġappro ached +ĠV ehicle +ĠAl pha +Ġvoc ê +ans wers +NS Dictionary +cons ider +un used +ĠF an +or able +f re +ĠDIS CLAIM +ĠAct or +. ] +to Have +.user Id +Ġspeed s +ew ay +Ġrec urs +ĠÐ ³ +_pr iv +! âĢĿĊĊ +Ch oice +Ġsett le +Ġplan es +' }, +T om +IT ER +! "Ċ +å » +achel or +Ġsepar ation +Ġd al +ad j +Ġreg isters +r iz +ĠNot ice +Ġl u +Ġcour age +Ġax es +cell ent +.as ync +Ġcompat ibility +ç « +Ġ! ĊĊ +ĉ title +Y LE +ĉ message +U UID +OLD ER +ĠH H +ĠStyle Sheet +Ġaccess ed +. validation +t asks +Ġpoll ution +.c anvas +Ġing redient +ĠC abin +A h +old own +ĠNO I +ĠÃ Ĺ +[ f +ed uc +y alty +(n ot +_ State +am en +Ġda o +ud ad +ell ers +} & +lic ity +_W INDOW +Ġt atto +val or +.R ange +Ġrefer enced +ĠRes erve +M oney +SCRI PT +/ product +cho ices +Ġt in +ãĤ ĵ +Ġsepar ator +Ġp kg +am med +ĠM AT +! !ĊĊ +Ġr aid +Ġmotiv ation +ĠX P +ĠBack ground +ĠQu aternion +.define Property +ik er +ĉp arent +ĠOrigin ally +ant age +ĠH ans +Ġtim eline +.c ur +op ic +ĠSe qu +m ust +ĠCo al +Ġform atter +_R GB +Ġ_ (" +'} ),Ċ +Ġ= ================ +ĠF UNCTION +Ġl ng +ic ates +l ive +_ engine +Ġtown s +')) ĊĊ +ĠP K +( api +ĉs canf +pack et +.ph one +á Ģ +ĠAnd y +_N AMES +PL Y +Ġmin s +im i +Ġbr ick +Ġbl ade +.std out +}` ;Ċ +Sh ift +ĉs b +ĠCheck s +Ġphenomen on +Av atar +Ġmin istry +ro se +ĉ File +Ġtit led +( LOG +Ġg an +des ign +(), čĊ +Ġb ones +st m +ÅĽ Äĩ +ĠInput Stream +Ġvol unt +ĠSerial izable +Ġfight er +ĠDr ag +T witter +Ġsubs id +ç ¼ +Ġfor ums +.load ing +log ged +_ this +Ġterr ain +Ġir re +ĠIn g +ĠC N +_object s +. uid +Ġconscious ness +T INGS +ĠG all +Ġport ray +ĠDevelop er +Ġparticip ant +Ġ" ;čĊ +/ model +ĠOper ations +^ \ +ĠL ater +Ġrais es +-n one +.m eta +=' .$ +Fin ished +Ġrepl acing +Ġsam pling +ĠJ en +" There +RE AL +A LE +ìĬ ¤ +Or ders +_param eter +ĠOlymp ic +Ġtr ès +Ġare na +i ol +; ?> +Ġimpact s +ĠW S +: get +Ġfl ights +ĠRuss ell +c amera +F n +s igma +Ġfor cing +Ġloc als +Ġdepart ure +Ġcelebr ation +ĠS ay +ï¼ Ĵ +ĠH ills +.has OwnProperty +Ġtyp ings +.A PI +Ġdon ation +Operation Exception +.Act ivity +c plusplus +ĠChar lie +Ġimport ed +Ġd ann +Ġoccas ions +Ġimplement ing +Ġpur ple +.d ialog +SQL Exception +ern o +Ġw ars +Ġpast e +Ġdecre ased +Ġhar sh +Ġel abor +input s +ĠView s +Ġerror Message +_m ul +ĉ write +ĠC op +ĠAnn ual +(b utton +Ġv ida +b ars +ĠHar vard +ĉex pect +Ġindex es +Ġdocument ary +Ġf lesh +OR LD +ĠD elta +M AND +Br ush +-c olumn +Ġdevelop ments +method Visitor +s lice +ĠP DO +Ġinvest ing +ir able +Ġxml ns +ï¼ Ľ +art a +Ġthe ories +_c ity +Ġ$ __ +Cre ating +( pr +D ropdown +ism atch +ĠN ET +'] )){Ċ +ĠVal ues +ĠSE O +ĠST AT +Ġe cosystem +Ġtem pt +Ġ\ \ +Ġ// {Ċ +ĠChrist opher +ĠKent ucky +ĠHttp ServletResponse +Ġhy brid +y on +Ġfeed ing +ĠEx tra +N orm +IT CH +ĠSe an +ĠUp load +m un +p ur +Ġp ersistent +ĠID C +ĠPer form +.m erge +_ room +Mean while +! =' +ĠW el +Args Constructor +.D atabase +Ġcount ing +() * +Ķ åĽŀ +ĠT OP +m ill +ĠD T +IGN ED +ĠK B +Ġcomp ly +S outh +_c ollection +Ch apter +Ġexpl aining +_ AM +_t s +c ards +Ġqu el +Ġp ole +Ġtouch down +ĠO thers +Ġpe ers +ĠType Error +Ġsix th +Ġche er +Ġdis pute +us c +) ], +th umb +Ġh iding +ĠS IG +lik es +ĠP AGE +.Ref lection +Ġhead quarters +T ING +ĠG host +M LE +$ Ċ +Ġcontr ary +ext end +'] ). +FF ECT +ĠP interest +úmer o +ric ane +ĉs ession +Ġcr ystal +- Control +overn ment +og raf +- action +v olume +ft en +Ġun con +Ġan imate +Ġle ase +sc r +Ġref use +ãĢ ĭ +ft p +in formation +Ġeval uated +Ġin jection +Ġj ack +Ġwork shop +æ³ ¨ +PT H +ĠT s +off er +ĉ os +Ġking dom +M issing +Ġlaw makers +ext Field +Ġsing ing +ab i +/ client +.m edia +ATEG ORY +Sign ature +% ',Ċ +ĠF uck +][ : +Ġsens ors +/ com +ĠPr imary +.S QL +_pro gram +Ġp ills +Ġinteg ral +Ġfle et +Ġdro pping +.s l +Be en +Ġp ets +Ġadvis ed +Ġdr agon +_ EDIT +( im +F ER +ĠDr ug +(r andom +Ġcomp ression +ou st +[ % +Ġbuy er +h op +R oles +man age +Ġpain ful +ĠBr anch +-mod al +en ant +ĠM esh +/ font +ĠG raham +Ġâ ĺ +Ġn c +ĠFranc is +Ġspec ification +Ġdam ages +- config +Ġthe oret +sec ure +_m ulti +aceut ical +Ġdemand ing +en ne +IST S +() ));ĊĊ +Re ason +Re cent +ph ase +Ġps y +_M AN +Ġvolunte er +å ¿ +istrib uted +li o +Ġproduct ivity +_com m +S pring +n is +. weight +ĠC ancer +Al loc +ĠT weet +Ġsepar ately +ĉ check +_p roperties +. Unit +_CL K +Ġg t +Ġ( );ĊĊ +Ġhand y +ĠThom pson +Ġunn ecessary +ĠRe ader +G N += request +ĠU tility +.Re pository +ĠA x +hy dr +ie u +Ġth y +Ġl t +_m ail +ä¿® æĶ¹ +ail and +ĠPhil ip +Ġbit ter +Ġbet ting +Ġtim ed +ock s +' a +Ġal gorithms +Ġre interpret +Ġto ss +ro gen +Ġhop ed +( selected +Ġvent ure +TE X +ĠLe ave +.Sub string +Ġgr ateful +uk a +ĠCon sumer +Ġag greg +C ircle +ภģ +_block s +Ġleg ally +Ġ" | +ãĥ ĥ +. board +.A b +Function s +rec ipe +è ĩ +ĠO xford +Ġwho les +.B uild +_ch anged +h ai +Ġdepart ments +I mp +Ġcoal ition +IN FRINGEMENT +Ġemp ower +itch es +N orth +Ġinfl amm +ON SE +Ġmiss ile +ĠR aj +ĠIss ue +Ġat oi +ca led +.Cont rollers +ĠW olf +Ġcrush ers +á» ĩ +.A uth +.add Attribute +h is +Ġbo ots +.c lean +c amp +Ġten ant +Ġt une +Ġ{} '. +Ġwork out +Re po +Ġpartial ly +MI SSION +j amin +ĠS B +Ġdetermin ation +Ġ' ');Ċ +ĠB eng +Ġv os +Ġin hab +/ lang +s burgh +Exec utor +h one +ĠCh allenge +_link s +.Le vel +Ġunder ground +-c ode +Ġoptim ization +log ging +_de st +Ġsn ake +Ġchemical s +_IMPORT ED +ado op +ĠTH AT +man aged +Ġredu ces +ĠRE AL +ĠG uy +_GENER IC +/ ******************************** +. amount +Ġd ere +get Time +Ġp ant +an onymous +Ġharmon y +ĠAl an +Ġscen arios +Ġd irt +ht ags +M c +Sh ell +r in +{ čĊčĊ +.p ow +ĉ client +Ġconspir acy +Ġad mission +ĠReg ional +ĠView Controller +ĠPhilipp ines +Ġde pos +Ġp ap +ĠP ad +P aul +.Com boBox +Ġt utor +ĠRec ipe +w riting +Ġcontrib utor +OT H +Sm all +V I +Ġh acer +e qu +ĠEx amples +h uman +.m essages +ĉt yp +Ġ( čĊ +ĠS SL +LE N +ĠRom ney +( grid +ĉ min +Ġ> ĊĊ +Ġfr uits +Ġvot er +In line +pan e +ĠC ollections +char set +Ġsp am +z b +item ap +Ġsucceed ed +_C OL +Ġel apsed +im eter +Ġrecover ed +T ensor +hatt an +.set up +ist o +( head +ĠS IZE +Ġtact ics +Ġdist ur +Ġpre val +ici os +( Value +_c ols +ĠF at +Ġse al +Ġs ons +Ġens ures +Ġpress ing += & +igen ous +Ġharass ment +_ JSON +Ġign or +yn omial +om er +_st atic +Ġsignific ance +Ġcirc les +_S ystem +Ġdiscipl ine +Ġdress ed +Ġs phere +Ġclim b +_ actions +ĠB ab +Ġ' =', +_s chema +" use +Ġund ers +Ġc ups +.s creen +/ new +Ġappe aring +T OP +vis ed +cl ang +Ġinvestig ators +Ġmyster ious +Ġprom ising +Ġqual ify +Ġc ave +Ġequ ip += x +G T +( link +. velocity +. erase +ot er +++++ ++++ +pro fit +Ġz ones +_ uid +- ser +Ġobject ives +Ġmil f +web kit +(m atch +ne h +ĠAssoci ated +ĠT odo += d +C am +Ġv ocal +Ġs udo +( EX +Ġtr ou +AB C +.b ean +ĠG round +ĠRE ST +we ets +In g +im on +_b us +ĠC OLOR +un to +Ġf oss +ĠLink s +ä ng +/ forms +pr ises +Ġachie vement +C ALL +ел ÑĮ +ĠVer ify +_S OURCE +apt cha +ID D +_re ference +G old +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĊ +Re ceiver +Ġa j +_d irection +} ] +ĠCom pet +Ġb ang +ĠC ass +- url +te chn +ĠJer usalem +long itude +' );čĊčĊ +Ġwin ners +T asks +ĠD MA +Ġtool tip +İ · +ĠB ra +_d uration +cur y +parent s +---- >( +ĠK ir +Ġint ros +Ġsk etch +Ġsk illed +Ġim mer +Ġade quate +_re p +( header +_ like +Ġper ceived +ss h +Ġassum ing +Ġf f +_u uid +ul as +Ġdemocr atic +. entities +S eries +aph ore +Ġnew er +} ( +SE C +ai ro +Ġcomm od +Ġprivile ge +Ġde ux +ĠH op +.' / +ct ic +. ';Ċ + C +ĠWar ren +Ġoptim izer +ĠSER VICES +_ oper +get Attribute +ĠMc K +_s elf +.r s +" )ĊĊĊ +Get Component +er ce +Ġt ous +un its +'] );čĊ +Z oom +/ E +Ġobs c +Ġfast est +on line +Ġpeace ful +ff en +Ġc argo +ĉ pr +Ġseek s +z u +Tr im +Ġw ard +Ġver d +Ġblog s +.exception s +ĠPrem ium +ĠN etherlands +S afe +Fin ish +ĠAl bum +_A CC += this +v irtual +] > +_L ABEL +ĠN ich +_w in +ĠA aron +W P +; $ +aim s +ĠImage View +Ġend less +ER A +_DIS ABLE +Ġcancel led +- us +Ġins pection +em in +ĠG rey +- open +Ġiter ations +. owner +Ġk eras +.P assword +ĠR y +ĠIN S +A ir +ĠSe veral +.Tab Stop +ING LE +ĠH air +ĠCan vas +AA AA +Ġfl aw +ced es +.Re port +í Ĭ +ĠT ips +cript ors +.trans action +.S pring +Ġview er +Ġins ights +è¾ ĵ +ord ion +U INT +se ek +ĠA uf +ìŀ IJ +Ġstr ain +To oltip +Ġd z +ign al +ad t +Ġu c +fin ite +Ġn m +.c md +ĠMy Sql +[ data +.j ackson +.t ree +Request Param +_ agent +") ]čĊ +Ġass ass +( Constants +: ss +ĠM AN ++- +- +ĠB ottom +print s +ĠS ame +@ Autowired +sw ap +ici ón +Ġprotest ers +Ġh oney +ĠV eter +(C alendar +- ad +ĠBrook lyn +L ife +_V AR +ze ch +ĠC ALL +_C AST +ĠE lection +Ġthick ness +V ery +_IN TEGER +- dev +)) )) +ap at +oo oo +d emo +Ġparse Float +ĠR ather +ST IT +m aker +[ current +chron o +Ġch rist +ãģ ª +ĠD etail +ư á» +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġs ul +id ency +Q ue +Ġeleg ant +ap ons +Ġdish es +Ġinteg ers +( read +find ViewById +ĠAm ount +ĠSk ip +Ġhab its +* )( +Ġmon sters +M AC +: end +Ġfr ank +As sembly +Ġd fs +Ġne ut +_TYP ES +e qual +loy d +( uri +Ġch i +Ġdefend ant +Ġconflic ts +Ġv il +- js +ĠPe ace +Ġmut able +) sender +ĠF ocus +å» º +Ġapprec iated +s leep +ĠR ED +C ulture +Ġdesign ers +_g enerator +c odes +/ ex +.Get Value +umb led +.scal ajs +per or +Ġveter ans +Ġ} )čĊ +Ġun fortunately +_C REATE +M ass +ĠCL AIM +ĠMe et +_s upport +B ank +() .Ċ +D ark +_LO W +ĠMin ing +ĠO wner +ier a +Client e +Ġencour aging +> S +Ġboy friend +ĠH alf +ĠA CC +A ff +_ ar +-l ife +c x +.J Button +iz ado +.z ero +.open qa +ot on +.text Content +Ġto ll +at ie +Ġball ot +- number +. Exception +ĉ params +c ircle +-m ap +Ġn ap +ĠRob ot +ĠI ch +reg istration +Am azon +roll ment +( exp +Ġt anks +ĠG ordon +Ġmach inery +Ġbas eline +æ ĭ +Ø © +ĠCon vention +ĉ config +ook ies +m ult +Rec ords +ĠE ST +Ġgar bage +Ġcon form +id al +Ġb arg +Ġsurv ived +Ġinvestig ations +.contains Key +---------------------------------------------------------------- ----------Ċ +ort ion +Ġhor r +_ http +Ġm ant +] ;čĊčĊ +b inary +em pl +Ġin quiry +ĠMean while +Ġcollect ing +.Entity Framework +", ĊĊ +ĠP ic +@ Inject +ick ness +ĠB inding +Ġcont rolling +re verse +Ġch airs +semb led +( add +Dis abled +an as +.trans late +-------- ---Ċ +Ġref lected +"] ĊĊ +Ex ternal +Ar row +Single ton +% x +Ġ Å +Ġan cest +ĠOr leans +ĉc md +Ġprohib ited +ith metic +(ch annel +_c ss +For ward +.s ocket +Ġl uc +â Ĩ +ĠFire fox +ĠM ovies +) _ +. ends +( shape +Ġde alt +Ġs aves +Ġgl ory +Ġmej or +Ġbreath ing +Ġ eller +get Data +Ġang les +Ġtool bar +Ġsp acing +IP S +Ġflo ors +_ACT IVE +Ġsh uffle +/ shared +ĠE le +ed ish +Ġweb cam +.ex pect +il oc +ĠIn cludes +Ġtweet ed +Ġ: ) +ĠEss ay +F ix +-b etween +_ web +.con v +Ġrac ism +Ġreflect s +um m +иÑĤ е +_f ooter +/d ocs +ĠP our +Ng Module +.initial ize +pattern s +_ In +ĠAb b +* čĊ +Ġsent iment +b uff +_count s +Ġre use +ch unk +Ġim posed +Primary Key +Fore ground +Ġconsum ed +? ! +Ġd ick +Ġch ron +ĠF ern +Ġrespons ive +Ġin sect +icult y +Ġr w +Ġal ike +Ġsub set +ĠCook ies +ĠP air +Ġt ier +IF O +av our +ĠQ U +, sizeof +Ġmerg ed +m v +it ol +yl on +Ġjump ed +. role +ens aje +R ules +Ġb rowse +An imator +Ġy oga +Ġvari ants +Ġcour tesy +ur an +p bs +else if +Al t +ĠL ane +CL K +IM ARY +_PRO PERTY +ï¼ IJ +Ġch an +Ġgrad ually +Ġsh ake +Ġbl onde +... ");Ċ +-se x +Ġgame play +ac ies +.ref resh +US B +ĠPl ot +W as +iss ippi +ĠT ensor +Ġcryptoc urrency +Ġdifficult ies +De leted +With out +_ append +_ ver +")) čĊ +Ġhonest ly +Ġp ivot +Ġtem ps +_p s +ĠUn like +[: - +V S +_in f +Ġjun ior +Ġanim ations +Ġfile path +? {{ $ +Ġun icode +pl aces +ĠC offee +.S E +ĠP AR +(t xt +ge bra +Ġf ires +Main Window +med ium +Ġ( âĢľ +Ġl g +Ġc mp +/ base +_l ayers +_ entries +Ġadmin ister +ĠSU CH +B P +ĠScott ish +ĉčĊ ĉčĊ +gu ard +ĠStr ong +In sn +ĠC AP +as ury +ĠSE E +C lock +er ie +\ models +Ġ$ $ +ĠC ab +Ġwur de +Ġsold ier +Ġcl ips +Ġarrang ement +ĠW onder +ĠH orn +Ġsc ared +Ġc ure +m kdir +Ġal igned +ĠP ink +Ġland ed +Dim ension +Scroll Pane +.ch at +.W ith +ĠTr ain +] .Ċ +Ġth irty +Ġdur able +Ġl d +Ġlate init +Ġch arts +Ġins ult +.F atal +_ ct +Ġm asks +CLU DED +Pres ident +Ġcol ours +g ments +.at tributes +ĠF lex +ĠC lock +ÃŃ cul +im en +J O +ĠReg ex +_L INK +Ġc ouch +ĠIN PUT +Ġbe ating +b usiness +pre ced +. unit +ĠF el +N ever +osp el +.start swith +ĠE PA +. only +Ġprevent ing +y er +Column Name +Ġelev ation +fl u +icy cle +Ġoff line +Tool bar +Ġcompet ing +) ]. +Ġm og +Ġis Valid +As k +_ av +_l at +AN C +ĠJ oh +k ers +Ġgu ards +Ġch ains +ĠSimple DateFormat +.st atic +Ġvess el +Ġm ud +Ġst abil +Ġst ret +g m +am ation +ç ľ +-w ith +Ġro s +_P A +Ġresult ado +Ġconf idential +ĠTok yo +ĉ using +ĠMath f +omb ine +ĠESP N +Ġdeal ers +Ġdismiss ed +TR Y +Ġte ens +rec ords +Ġw ings +g allery +account s +_L IB +Ġj acket +ĠNS Object +Ġst ones +ĠDel ivery +ĠD iet +/w atch +Ġto ilet +ĠG uest +.d ay +Ġint val +Vis it +Ġinvestig ated +Ġpent ru +ĠThe atre +andid ates +L ang +ĠS erv +Ġcont rollers +Ġset Title +N P +am y +fl at +( ui +_d ocument +è ĥ½ +ĠC oin +ĠAd ams +pt ic +Ġproduct ive +Ġaccompl ished +čĊčĊ čĊčĊ +Ġdefer red +ient es +Ġs inc +ol ars +Right arrow +Ġvari ations +( offset +.Layout Inflater +Ġsus pend +Ġprevent ion +_pr ivate +_ js +âĺ ħ +Ġw ieder +at um +Ĵ Į +Ġappear ances +.D ocument +Ġvalid ates +cal endar +} ";Ċ +.d emo +con ut +Ġcorre ction +ĠDe al +Ġbatter ies +.d uration +, \ +_m arker +m ulti +Ġh alt +Ġc ms +Ġsh aped +B ro +re duce +Ġ #### +CT OR +ĠBen ef +Ġicon ic +Ġp iano +Ġeffect iveness +| .Ċ +Ġa jax +Ġv olumes +ภ¡ +Ġcl js +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ath s +ra its +å¤ § +Ñ ĸ +_m ult +Ġfasc inating +A verage +Ġpr é +ĠChair man +.find Element +_p in +Ġcomp aring +Ġdark ness +-F i +- server +Ġselect ing +ster dam +ĠPart s +FORM ATION +Ġnot ing +Ġp ile +og s +Ġpa lette +_d o +it ize +() ( +Ġdef ining +Ġremain der +Un its +_T ASK +Http Client +S ocial +Ġfund ra +N R +ch est +C urrency +.ad apter +Ġd op +un ting +ANG UAGE +" He +ĉ index +_p ackage +.I con +Ġrep et +m ass +=" .$ +ĠS ud +Ġl id +pro vince +ì ľ +G PIO +Ð ļ +ĠMy SQL +Ġdoc s +ĠG A +Ġip sum +K ernel +Ġaccept s +Ġfit ting +Ġcu ando +Ġd uplic +ĠBro ther +ĠK le +num s +Ġmor ph +Ġ ######## +ĠCG Point +< unsigned +ä¾ ĭ +ĠD uke +.set Bounds +q s +or ic +j er +Ġregard ed +Http Request +Ġbond s +Ġthorough ly +enc ent +Ġhighlight ed +Ġac res +Ġwork place +ĠL ux +Ġqu ot +.in flate +Ġdocument ed +Ġadd iction +Ġmut ation +.c ity +Ġbott les +ĠRepos itory +on n +err no +ARI ABLE +åº ¦ +_B EGIN +gl as +' })Ċ +ĠMass age +ĠWh it +reg ex +W A +Ġout let +- head +Ġexp ired +ĠTh ai +/ include +grad ient +scan f +Ġse am +w al +ĉb uf +B earer +Ġprec ious +if acts +co ord +Ġexpl oration +.get Y +(h andle +Top ic +ĠV ent +r hs +---- --Ċ +ĠB right +Ġg uild +m other +st orm +Ġmunicip al +Ġin k +.T YPE +w l +... manual +ĠTechn ical +Ġcorpor ation +ĠH W +ank a +T AIL +ist as +Ġperform s +ĠBeh avior +.F or +_ ORDER +ĠK ick +Ġcallback s +_d r +ue go +h ub +uff icient +sk y +Ġb p +ht able +ĠON LY +ĠAUTH ORS +.Arg ument +" };Ċ +ĠTh under +ĠK om +.Sh ould +A UTH +ah u +_p ayment +Ġst arter +ìĦ ľ +ìļ © +B log +.p atch +Ġgovern ed +ass y +-f ound +Ġthe ater +ĠFont Weight +ĠBat man +" If +.R andom +_d elta +ĠC E +Auth enticated +Ġdr one +Ġc ous +r adius +M er +( None +ĠN J +_ headers +Ġam er +py test +ĠA ctions +ĉĉĉ ĠĠĠĠ +Ġet t +Ġh oly +Ġun comfort +ĠN in +ĠDec imal +ĠM essages +.s ender +] ])Ċ +Ġembr ace +Th ough +/ sp +Ġcult ures +Ġhigh way +t ar +.f ail +_h idden +ĠcomponentDid Mount +ĠW right +Ġj ag +_ il +../../ ../ +ig u +F ood +Ġa ce +Ġa ños +US D +Ġmut ual +Log ic +Ġtem ple +Ġbrief ly +ĠT rip +class method +default s +Ġch unks +,, ,, +ĠRe ason +$ id +-up s +Ġdam n +Ġtruck s +Ġun limited +Ġsc ulpt +ĠC ards +Ġaut or +ĠTest ing +Ġdies e +sh ops +ç ´ +(p ayload +ĠP ATH +ĠMem orial +Ġridic ulous +eg ree +-w inning +Ġre hab +Ġsophistic ated +wp db +ĉ path +! ";Ċ +_S YS +.s peed +Ġso ap +s uffix +W rap +Ġenh ancement +à ī +ú b +Ġplay list +Ġmix ing +ant idad +=" ";Ċ +ĠRev ision +ĠBe at +.in c +-w ay +enc ias +ul ers +C at +id el +ĠSh ip +.set Color +Ġthreat ening +.mod ules +Ġafter wards +ĠD ashboard +Ċ ĠĊ +Sign al +Ġpr imer +orne ys +ici ary +Ġl igne +_p redict +Ġa est +_ https +> : +ĠL ex +Ġrencont res +eg ral +sc ala +_f amily +ÃŁ en +_s ym +Ġuncert ainty +ĠVAL UE +Ġ} ;čĊčĊ +Ġbro ader +Ġh orses +ãģ Ŀ +ĠK al +ob a +_IN ET +ĠK ill +j query +am ination +[ @" +Ġm uj +## #Ċ +First OrDefault +then Return +C he +/ footer +Ġpark s +as je +ĠG ulf +Ġmod est +. Init +ï¼Ł ĊĊ +Ġpros pects +Ġs vg +Ġå ı +.D ialog +_N ET +Ġ( ($ +Ġe k +ĠW arning +ĠM K +< LM +Ġ' čĊ +i em +h etic +Ġi x +th ink +-sh adow +ĠE ld +ĠNev ada +ĠLe af +ĠG ROUP +Ġprom o +ent ine +ĉ Map +ĠModel s +ĠK rist +_k ernel +-m ade +Ġc err +As sets +ell ar +Ġinv oked +.v ue +Ġcult iv +C losed +Ġgener ates +ffff ff +thes ize +s qrt +ĠCast le +.c ar +Ġke en +und a +ĠC row +ĠSing h +y thon +Ġbe ans +l arg +æĸĩ ä»¶ +Aw esome +unc ate +Path s +o ji +(c urr +CON DS +Ġm im +Ġshould ers +H ard +ast es +а еÑĤ +Ġconv ince +de cess +m ade +ĠC MD +. Im +Ġcha os +ens ively +Ġcool ing +Ġbur ied +(' @ +_S e +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉĉĉ +.com pany +.sub mit +ph ant +Ġboot strap +_h elp +à § +.d ump +Ġdif er +_m apping +Ġcirc ular +Ġescort s +Ġb ere +Ġgrad u +ĠLeg end +im edia +ĠBar celona +Ġbed s +åĪ ° +ãĢ Ĭ +_v olume +Ġtremend ous +Ġsc aling +Ġp ins +en as +type param +D ashboard +render er +Ġsp i +Ġ& $ +ĠSk in +alm art +Ġh ockey +Ġ'" .$ +Ġerr no +Ġb ew +Follow ing +.M odule +er able +ĠM ilitary +ĠR io +_ available +ĠSur face +Ġst ab +IF IER +ĠL IST +Ġd ashboard +Ġcl usters +.pl ugin +Ġj ou +ĠDec or +F our +Ġdel le +****** /Ċ +ia z +in de +ch ing +Ġget Item +.Add ress +ment ed +A meric +Pl ain +Ġus b +ĠPract ice +_ ment +.bl ue +H int +ÑĢаР² +Ġconn ector +Ġinher ited +и в +Ġinterval s +Ġc ere +Ġu d +Ġin con +.Ex ists +ĠM ic +F K +(c ard +.Set tings +Ġexhib ition +Ġon Pressed +Ġrest ored +eng u +. def +Ġrec v +." );čĊ +enc oder +ather ine +( dest +az ed +# endregion +sem bl +, M +ob y +Ġп еÑĢ +.C all +Ġattend ance +-b order +Ġaddress ing +ê n +ĠLe v +Ġb ash +ben ch +C redentials +Sp acing +( of +_RE SET +ig uous +Ġcr uel +Ġcross ed +Ġle ur +ĠG olf +or rect +Ġpack ets +ĠData Set +Ġpart ly +SEQU ENTIAL +Ġindic ation +ĠS alt +ac ia +Ġ* );Ċ +ĉ info +ĠView Bag +on z +Ġeditor ial +ĠA rena +Ġs ir +_ Static +( socket +s u +cho ose +.m onth +.M y +é ri +; font +do es +Ġcon verter +Ġsal v +Ġl r +Ġinflu enced +(f eature +ĠQue ens +let t +_M ON +& amp +Touch ableOpacity +O FF +Ġmetab ol +( iter +Ġvit amin +ĠIND IRECT +aut om +_p ublic +Ġadjust ment +Ġspecial ized +w indows +.add All +Ġaccording ly +ĠJ OptionPane +Ġcell spacing +Ġqu ad +Ġcre ep +Ġout lets +}` )Ċ +Ġpri est +_TH READ +ĠMar x +ĠBy Val +Ġc ual +éĿ ¢ +Ġtempor arily +An n +ke leton +å ¥ +ĠLO C +au er +der ive +Ġbeh aviors +as ename +ĠCent ury +Ġhor rible +ME SS +_ List +we i +P at +ĠCh oice +_F ROM +ĉ line +.in voke +.B ottom +Ġnow here +." ĊĊĊĊ +_ export +Ġstrugg led +.Ap pearance +ĠJ Button +ĠJer emy +([ [ +Ġkick ed +mar shal +st aff +es ity +Ġqu iz +_e ffect +Ġ} ));ĊĊ +m el +b anner +ĠP IN +Ġin vention +Ġcons olid +Ġop s +ĠB etween +j ack +ern ational +Ġsacr ifice +ag ation +ĠJ oy +Ġam endment +ĠS old +Ġprison ers +ан нÑĭ +Doc uments +) ])Ċ +ust ed +ĠLine arLayout +os o +_E M +.s elf +.M iddle +) // +Ġ\ ' +Ġfuck ed +ĠM urray +Ġprof ound +_E LEMENT +ult a +il ers +port folio +J une +t cp +mod ified +ĠTr ace +ĠK el +aly zer +) => +ĠRep air +_B E +Br and +u art +pre view +Ġiniti atives +run ning +b ang +ĉ update +ĠCo ach +R ich +Ġy outube +Ġrit ual +app a +ĠRobin son +prec ision +//////////////////////////////////////////////////////////////// //////////// +=[ ]Ċ +Ġcelebr ated +OT O +Ġin clusion +J P +' ;čĊčĊ +Ġnot able +(_ . +Man aged +Ġgu ides +& nbsp +ated Route +ĠAd just +Ġcol ored +_s cores +ĠTes la +_pro gress +.in st +[' _ +.fl ags +Ġf close +_O PER +ż y +_n ote +Ġtrans gender +å ķ +RI PT +Ġabs ent +Ġam et +Ġoper and +ë © +Ġh ood +to LowerCase +av o +ĠCirc uit +ĠL ind +-- }}Ċ += m +Ġsup press +ĠM AP +i ang +- admin +Ġside bar +ĠB u +ĠH ex +, F +ĠSign al +Ġtrans parency +ĠFeder ation +/ V +Re q +Ġpul se +Ġt ends +Num bers +% ' +Ġde port +dat as +_U INT +_ tra +ok o +Ġ" ? +comp et +sole te +und ry +Ġover lap +}` ,Ċ +. ly +_sum mary +ĠL ost +.C enter +Ġdis ability +.Serial ization +Ġge om +Ġ? : +ĠW o +Ġsh ipped +Ĥ æķ° +Ġu gly +Ġexcit ement +Ġext erior +Ġcheck out +Ġk ur +, D +ĠAl aska +Ġsyn thetic +ĠB udget +ĠSub scribe +Ġ& Ċ +ÈĻ i +ĠY u +ĉ query +} .Ċ +Ġtr aged +ass en +Ġaccommod ation +Ġphys ician +Ġren amed +Ġtid ak +z Äħ +Ġmin us +ny ch +_EX CEPTION +thread s +Ġt ire +_c reated +ens ure +Ġworth y +Ġexc use +Ġclo th +.parent Node +/pl atform +ĠU FC +ĠG tk +un ny +Ġg ibt +ke ley +h um +(t x +ĉ dev +Ġout fit +do ors +Ġf on +ic ut +vol atile +Ġhom osex +Max imum +Ġexp end +Ġ});ĊĊ Ċ +E q +ond ers +dep artment +ĠPhys ics +" });Ċ +Ġpar ad +.S tr +Ġse le +IF IED +Ġdel ivers +iv an +Ġrespons ibilities +Ġadvoc ates +è µ +ĠR ID +.param eters +M etrics +ron ics +ĠUITableView Cell +A bsolute +ip se +yl um +MLE lement +_VAL ID +< title +D lg +p aces +Ġsynd rome +be ans +_d atabase +oz illa +ĠM eg +DB G +Ġl ub +Bag Constraints +ab ad +Ġproject ed +_BY TE +.Size F +st reet +ĊĊĊĊ ĊĊĊĊĊĊ +ĠLO SS +Ġdirect ors +/ news +Ġnurs ing +ĠD one +. HTTP +dis count +ĠR ot +To Many +Ġen abling +Ġauss i +ost a +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ čĊ +è½ ½ +Ġhel icopt +ĠIn side +ä¿¡ æģ¯ +is per +ĠAll ah +ARCH AR +Ġroll s +Com pare +X P +Index Of +S UM +Ġass ured +ĠPhys ical +End point +.G lobal +.d etail +Ġthe ft +.j upiter +Ġhum or +.R ender +A lex +.c ap +Ġbuff ers +Ġdis pose +t ion +.p resent +z el +, P +Ġdesper ate +.get Column +Ġtw in +ì ĸ +.c an +Ġf lee +ĠIran ian +Ġstick y +ĠU TC +L T +//////////////////////////////// //////////////// +Ġl icensing +_PO INT +ĠM aps +Ġl ol += models +-t ab +ĠN ash +_log ger +tor ch +ĠCON SEQUENTIAL +Not Empty +/ react +Ġp f +Ġassert ion +Ġsubsequ ently +_c an +Ġpand emic +og ue +"+ Ċ +_ ent +_P aram +.ĊĊ ĊĊĊĊĊĊ +Res earch +C apture +Ġbel oved +d em +Ġextract ed +Ġf ights +ER C +(a uth +position s +Ġrevers ed +(st ack +Ġ_ ) +uto ff +_fl ow +ç Ĥ¹ +( Game +Ġex cluded +ĠCS V +c g +ĠT itan +p ause +Ġcer ca +Ġdump ster +L ess +Ġkotlin x +aster xml +Ġpoint ers +Ġfl ows +ĠT un +ĠMain Activity +Ġdis cret +Ġcomb inations +vis it +_b ind +oot ing +d ater +_look up +.n io +Ġswe at +ĠR d +Ġscient ist +ĠP ixel +@ NgModule +Play ing +Ġunf old +Trans late +ĠLaw rence +ĠFIX ME +B ill +ĠR IGHT +Ġwhere ver +Ġo ok +vid ence +Ġ] ]; +ĠSk ill +unist d +ĠðŁ ĻĤ +Ġfem ales +-- )Ċ +İ· åıĸ +ĠF red +Over all +Ù Ĥ +Ġess ence +Ġthere by +Ġw ounded +ĠD OWN +les son +text ure +R ound +Ġautom ated +ĠÐ ¡ +ĠUp dates +Ġsh ade +p ublish +ĠG ear += lambda +Ġle ver +) +" +h ill +Ġrad ar +ry ing +Ġ" ). +f illed +Ġline up +Ġd l +Ġworks pace +V o +_d t +ë ² +_ Item +NS URL +. verify +ĠHawai i +G od +M arch +Ġ[â̦ ] +Ġpel o +ur ious +ĠPitt sburgh +. It +C lean +> \<^ +Ġi os +s ound +"] ; +Ġfre ed +rot tle +ĠL ower +[ count +å Ŀ +Ġp ale +ĠWay ne +ear th +_c ategories +U CK +.m etadata +Ġsum mon +H OME +олÑĮ з +Ġmanufact ured +Ġdo ck +Ġcompet itors +_MODE L +ok ia +ĠH ey +Î ¿ +Ġback ward +ĠPO SS +rop a +Ġc ri +_O BJ +Trans port +-h igh +Ġerot ik +_s lot +Ġart ic +_f ramework +-ser if +ĠSql DbType +') ( ++ "/ +Ġw ore +S il +Ġst oring +ĠPh ase +u ant +Ġb ump +in ho +Ġd ign +Ġback s +q q +(h ash +Ġge o +Ġt ender +Log o +! )Ċ +ĠM X +ĠAr thur +esso a +_C h +Ġbed rooms +="# ">< +Ġth roat +ins ic +.int eger +Ġpr imitive +Truth y +Ġfacilit ate +Ġcreat ivity +ĠD NS +Ġg ra +ue z +Ġcount less +ĠPol and +' M +ĠD ist +Ġv est +Ġcert ification +á» ij +h eld +ext ensions +( static +Ġgr ades +ĠU ber +ãģ Ł +Ġ[ ])Ċ +dat os +Ġget Data +ĠCh arg +ĠB S +.m icrosoft +.v ideo +.d irection +->{ ' +l ua +ape st +Ġbo iler +ere k +Ġdec ides +.j ar +IS C +ĠW ords +(C ON +EMPL ATE +ree ze +sh ots +app s +unt ed +.set Name +:: < +-b old +ê ² +å¯ Ĩ +Long rightarrow +Ġunf air +Ġear ning +Ġsh elf +URE MENT +Ġid le +_M ENU +.C ustom +AG ER +- " +_s witch +b ecause +) view +m are +_ condition +ĠStart ing +M vc +(p re +d ump +_LO CK +at etime +.c allback +ĠC er +op ol +ib rary +Ġres ervation +ĉĉĉĉĉĉĉ Ċ +lect or +grad uate +Ġgener ous +Ġ ion +ric ao +m q +_com plete +(c ursor +ĠForm Control +: center +Ġsub stitute +ĠPl anning +Ġp ension +Ġrecommend ation +ĠT ags +Ġg ef +Ġalbum s +Ġwash ing +ro c +Ġtr ains +at ings +Ġex ponent +ack bar +- ln +á g +.Data Annotations +ĠE IF +ĠMalays ia +ĉ PORT +on us +Ġcle ver +Ġpe u +> ĊĊĊĊ +ĠArg uments +Ġdebug ging +( right +' D +com pute +Ġfin est +OR AGE +Ġspect acular +ph rase +Ġind ia +Ġlegend ary +b irth +Ġcom posite +Ġg rows +ĠT D +Ġep id +Ġlaunch ing +] ][ +Min utes +ĠCh a +Ġclean ed +Ġwitness es +uk an +ĉ Type +Ġhab e +par agraph +ĠJ Panel +ĠH ann +Ġvar ied +ĠP okemon +ĠM UST +åĬ ¨ +.vis ibility +op up +^ [ +.exp and +Ġ" ', +.f asterxml +_ auto +ĠShe et +mark er +Par cel +ew s +ĠStr ategy +-m aking +Ġun ve +Ġtrail ing +Ġclick s +ĠGet Component +ĉ content +IG ENCE +ERN EL +NSMutable Array +Ġb reat +Ġharm ful +¶ Ī +Ġbes ides +Ġb oring +Ġbrut al +v ang +(p arse +qu ick +Ġpy test +Ġswitch ing +() ]Ċ +Ġì Ħ +L ER +ĉf ont +Ġnet t +) ]ĊĊ +(/ \ +æŀ ľ +to Array +Ġbre ed +ĠC AR +ĠWe apon +A bs +t ot +Ġset Name +apt ive +Ġ: , +Ġesc aped +ord en +ĠP ri +th umbnail +Ġdescri ptions +/ styles +ĠPC I +Ġal phabet +astic search +NOT E +Ġc ialis +ĠGr iff +Ġpor que +Ġprote ins +pl ays +Ġst ating +Ġimag ination +Ġfac ial +ĠMe chan +Ġarr anged +_ used +Ġarrang ements +ĠP ipe +host name +Ġprov inc +T it +.Flat Style +ĠS plit +ĠLo ader +.c c +Ġclin ic +---------------- ------------ +Ġb aking +ĠEN T +ne ath +ãĢģ ĊĊ +AN E +.EntityFramework Core +app ers +. ic +ĠNg Module +ĠF ORM +Ġ' ; +-pro fit +h w +en emy +ĠE ye +Ġca ution +t own +Ġur ged +ĠJim my +ynchron ous +-s ized +m aking +, { +] ', +_ Object +ah oma +Ġactiv ist +IN VAL +ĠCom mercial +ĠOr lando +(t ab +ĠØ ¨ +Al gorithm +Ġher itage +Get Mapping +Ġfail ures +ri os +at iva +Ġt et +Ġcar pet +( Z +th ree +Ġdisc losure +. ERROR +_c alled +Ġd ial +Ġoccas ional +.E rr +Ġfunc ion +caff old +Ġrele asing +ï¼ī ĊĊ +_ Value +ĠV ari +y ellow +Ġstrugg les +.c al +ĠDak ota +ĉc lose +Ġsand wich +Ġanaly tics +Ġ** ) +& # +ĠJ os +Ġpass ive +AT TR +Th rowable +ĠM un +ĠU int +(dis posing +ar ak +ĠLe aders +Ġaffect ing +Ġitem View +Ġeconom ics +f v +à¹ Ģ +.r b +ĠOver all +Ġwealth y +Ġev olved +nd a +ĠH us +re strict +um en +ĠA gricult +! ĊĊĊ +Ġexp ires +Ġspokes person +int erval +Ġà ¢ +Ġque en +(n il +ing o +He ap +Ù İ +Ġcompl ain +S ym +ĠCl one +ĠR u +ĠW ILL +ĠCr ystal +/ content +ing en +oint ment +Last Name +av icon +ĠIB M +ĠDim ension +an h +icip ants +ĠAn ne +.pro gress +Ġal go +ob il +ĠV oice +ĠF E +Ġg li +Ġv ed +Ġprevent s +\ Column +Ġfol k +ett i +Ġm n +ĠCL ASS +Ġdisplay ing +ĠK l +ĠF err +d uto +. ib +Ġd ados +' name +-s pace +Ġit alian +Ġin verse +Ġd ense +ut er +ĠI Enumerator +-s ign +Ġnation wide +Ġperson a +Ġsol ved +Ġdram atically +Log out +Ġgr av +Ġanalys es +ol lo +Ġl amp +. team +ĠE rot += [" +Ġd ancing +Ġ?> / +Ġc ater +ff e +ĠSh a +ĠB os +ĠRE QUIRE +ĠMon ster +ĠR B +ĠI DE +Ġsu its +Ġform Data +( theta +Ġsp atial += NULL +ĠSql Connection +Ġ à +ĠV enez +ĠMor ning +Ġpublic ations +ĠNON INFRINGEMENT +first Name +ud s +W ould +_HE AD +Ġinvest ed +st able +f red +Ġcommand er +SE S +âĢĶ a +an che +ĠM ovement +ë ³ +S uite +Ġjur isdiction +ë¦ ¬ +ĠB eth +j Query +ĠIs a +Ġd ental +, * +ĠL imit +ili ation +=" { +b ast +Ġt urb +is y +O OK +Ġadvoc ate +im ag +LE CTION +л ÑĮ +(c ategory +.de c +Ġun iqu +_s n +Ġattract ed +Ġà ī +ĠRun ning +_ edges +ĠDis able +_A S +åĽ ¾ +Ġnetwork ing +_br anch +H aving +toBe Truthy +G I +Ġcamp s +se p +-p art +Ġ)ĊĊ ĊĊĊĊĊĊ +ustral ia +ĠRe ports +rit o +Ġwa ist +_pl us +ĠW W +-p erson +Apr il +Ġs ar +.t ar +Ġagricult ural +t ic +Ġt cp +Ġset Value +agent o +ĠAp pe +p iler +CA DE +Ġan che +atch er +Ġcom ics +Ġl bs +_se gment +'] =$ +itt ers +ich er +G INE +Ġutil ize +ĠC ursor +_ex pression +Ġd ag +< long +Ġr hyth +æı IJ +Ġconsult ation +Y et +")) ĊĊ +_M AC +c ould +Ġ' \\ +ĠV o +ĉ http +Ġg s +ph er +- grid +J ames +J ul +Ġsch on +Ġtensor flow +ĠLOG GER +am as +Ġsc ipy +Ġconv iction +. ag +Ġadministr ator +)) {čĊ +Ġn un +" group +P or +Ġnur se +ex pression +ak y +ĠHe avy +. opt +.get All +Ġover l +/ ", +_c ountry +ç İ +ĠG ENER +_r oute +ĠD al + ´ +ol oad +Ġuncomfort able +(m enu +Ġhost name +' ");Ċ +Ġcalcul ations +-c lick +Ġprotect ive +ãĤ ¯ +_F orm +ung s +Act ual +m f +ĠProcess ing +ĠIn ventory +(m atrix +app ropriate +w eg +ij a +Ġch r +Ġr ifle +-w sj +k ar +Ġindepend ently +I OS +Ġconsist ency +v n +/s ystem +ĠCh anges +Ġexp ose +ici ents +Ġrel ate +ĉ next +è ¨ +ud es +Ġglass es +F XML +.... .. +ĠP df +Ġappro ve +Ġ{ \ +Ġexist e +)) ( +ARE NT +оР¿ +ĠL atest +ĠNiger ia +.Inter faces +Ġrem oves +En emy +Ġen force +vert s +ĉ pos +_text ure +W ARD +ĠINC IDENT +( container +Ġdef ending +ĠR X +ĠH ook +br is +ĠFl ask +Gr ay +. )Ċ +vis ibility +ĠRedirectTo Action +err al +_e lem +Ġres on +front end +_variable s +ater ia +Ġ+ " +ave led +RI X +Ġdef icit +_C heck +YY YY +To One +sp y +Ġun ited +end ent +Ġp ode +ãģ Į +C AT +(f mt +ĠBon us +Ġre ck + º +Mod ules +Ġvac uum +R adio +ĠDAM AGE +P en +ĠPark er +; ;Ċ +ĠRe ally +_n eg +p ending +Ġnomine e +ĠC ategories +ĠUl tra +We apon +Ġdef ender +I ss +ĠG ender +ĠD ress +Ġimpr ison +Ġbank rupt +imension al +PH A +ĠStr ateg +ĠPROF ITS +Ġp atri +//////////////////////////////////////////////////////////////// //////////////// +de legate +Ġfor State +Ġdev oted +_m ake +Ġterror ists +ĠS nap +_n av +ĠA A +ĠI an +ĉ app +Pl acement +_h dr +< K +Ġs ang +st roke +- Q +> x +.T ask +m oney +ib aba +' });Ċ +ĠSpec ific +ĠLine ar +_O PT +Hash Code +( Player +.Contains Key +Ġcoll apsed +trans parent +_R ANGE +View er +(c fg +Ġsort ing +Ġinf ected +ĠN ach +Ġaccommod ate +.element s +_P ART +ĠSex y += get +( year +Ġx hr +: ] +ows ki +Ġsum mar +Ġ ¿ +Ġint e +Ġwork flow +ĠTai wan +vers ions +åı ij +Ġsurprising ly +Ġopt ical +Ġpro ces +Ġdisag ree +Ġnue vo +ĠC AM +sort ed +le ases +ist le +Id ent +ĉ event +ject ed +Ch unk +V ars +.pro vider +Ġproceed ings +Ġin clusive +Ġart work +end ants +ï¼ļ Ċ +se en +Ġl ig +Ġm akers +_f un +Ġlength s +Path Variable +[ item +ภµ +De ad +FFFF FF +ĠUr ban +up les +ich en +(null ptr +.s pec +, System +UR ATION +(j ob +å¼ ı +Ġtrack er +Å Ļ +ĠM R +ĠSQL ite +Ġd to +Ġ; ;Ċ +Ġm int +ĠInt roduction +ca o +Ġquestion ed +Ġf itted +rev ision +s q +Ġm ig +_un its +_ async +Ġf lick +});ĊĊ Ċ +Ġnot re +}` , +F ilters +Ġm undo +_d ays +Ġfr m +ut c +Ġval s +ew idth +ĠGener ator +ĠArt ist +ĠID s +ĠArt icles +re ater +ĠComponent Fixture +. = +Ġr ou +- no +.b ukkit +eg g +ĠD iff +atic s +Ñĥ Ñĩ +âĢĶ ĊĊ +ĠChar lotte +by e +Ġ} );čĊčĊ +ĠV ik +ĠB row +Ġl v +ĠG ib +-w ing +GL IGENCE +(I l +ĠEngine er +.W ait +ĠP ictures +Ġr het +Ġth ermal +Ġpr aise +< >();ĊĊ +ĠSp ider +P ause +ĠB aker +Ġsl ower +Ġ} ]Ċ +_en queue +Ġdisappe ared +ĠT icket +IN UX +_LOC AL +аÑģ Ñģ +@Inject able +comm unity +Gesture Recognizer +åĽ ½ +Ġsca les +Ġ- ( +/ '+ +ĠS it +Ġexecut ives +ard ing +Ġad vers +Ġback wards +ĉ context +ĠH amp +ĠP F +ĠDe ck +ĠCra ig +A merican +Ġb ell +Ġpro l +uf en +Ġr ng +ar shal +ĠSim ply +first name +sh ore +J uly +Ġmort ality +ĠâĨĴ ĊĊ +Help ers +Ġbench mark +em ade +Ġorganis ations +.g son +ĠText Field +Ġciv ilians +.Array s +ĠMiss issippi +Ġinter mediate +get User +_cl uster +Rel ative +fore ign +.querySelector All +Fore ignKey +Ġreason ably +-------- -Ċ +C ards +ĠK am +ĠTh or +Ġroll er +-e lement +ĠC urrency +dd ie +ALL Y +ĠR A +Ġper met +aa aa +Ġhom ework +ĠV it +Ġm old +ĠF er +[ start +Ġstatist ical +Ġsc ary +_H OME +.B egin +Con struct +ogen ic +ĠDEAL INGS +Ġtamb ién +ix on +. ind +ac re +Ġtransform s +ĠN ap +.B lock +uss ia +pir ation +ul ent +Ġce il +Cl ause +na ire +T ES +Ġne at +ST D +ĠReg Exp +per form +: ) +Ġun ions +Ġs ublic +Ġw inds +lo ating +g lich +Ġp agination +S kill +App ly +ĠOper ator +ist ogram +Ġqual ities +C ross +Ġde com +], " +ĠJ uan +.mod al +.Ch ild +ĠRog er +STIT UTE +:CGRect Make +a lette +Ġst a +as ide +Ġbl ur +ĠW a +if etime +re ed +control s +Ġb ins +Ġп ол +*/ ,Ċ +U IS +ĠR ou +ĠDem o +- awesome +ĠCh ain +Ġh asta +ĠB art +. KEY +Ġvend ors +nof ollow +ĠD est +_b uilder +Ġarg ues +_ answer +g oto +ĠRES ULT +ĠM ON +Ġp oder +o ons +_C ASE +Ġrep lic +Ġfin ancing +ĠD ATE +c ern +_tr ack +t ies +/ logo +ĠNE GLIGENCE +get Type +> T +b et +g irl +ĠINCIDENT AL +-s ite +.tr igger +ĠL isa +_input s +Ġrel atives +Logged In +Config ure +I K +. accept +Res ume +ĠD raft +Ġ* >( +ĠW A +ed ian +ern ess +ĠLayout Inflater +*/ čĊčĊ +oth y +Ġoblig ation +Sub scribe +Ġth umbnail +ex ist +Ġins isted +ĠU ICollectionView +ĠAng ular +Ġtable ts +ĠImp act +ãĢį ĊĊ +ah o +Ġcharacter istic +g d +Ġ= ================================================ +our t +` . +App ro +Co ordinate +Rem ember +Ġmar ine +] ==' +ĠAdmin istrator +.get Default +Ġforg ot +ĠStruct ure +V ue +ars ing +m oment +k w +_c ursor +Att ack +Ġath letic +Ġdiagn osed +Ġend e +åĪ łéϤ +H ouse +ĠP ARAM +Ġw iki +ĠO pp +Ġcons ervation +Ġs nd +_t em +sub str +ĠC ape +.s im +UT ION +an an +âĢĻ un +Ġg y +- work +Ġcomp elling +=' # +ĉs ub +Ġdirect ories +íĬ ¸ +Ġtouch es +out ines +.C ollection +s chedule +.l at +ĠDo ctrine +CA A +ĠRe fer +Ġshift s +Ġlik elihood +pre ter +ĠF emale +Ġinter cept +Ġl ou +çĻ » +Ġr ug +ĠC rown +Ġ************************************************************************ **** +- product +Ġprompt ed +ung le +d ocker +ĠT u +ĠUn ique +_ Error +ul os +Ġâ Ħ +Ġ( ` +Get ting +_s cal +ĠEn h +ü t +Ġsust ained +Ġp atches +Ġpros per +ĠG aza +_l ight +Ġin cons +-------- Ċ +ĉĉ ĠĠĠĠĠĠ +S F +C N +: ";Ċ +ĠColl ins +( *) +Ġcomp ilation +'] čĊ +Ġcon sequence +, ... +Ġd m +ĠB LOCK +Cl uster +Ġsk i +(arg c +T uple +Ġjo ins +ĠSher iff +W ar +ind i +Ġcomment ed +H OST +Ġinv itation +apan ese +Ġperm its +preced ented +_z one +ĠA my +_R D +Min imum +Ġinv ocation +.en able +icht en +- owned +" id +_PO INTER +F ac +Ġspecific ations +Ġnom ination +Ġg p +< ( +Ġrob ots +ĠJ erry +Ġhold ers +Ġw and +c ms +Ġ} ))Ċ +.To ast +ĠI List +B ased +z oom +/ style +ĠBe ck +M en +Ġcontrib uting +Ġund o +ĠO H +Ġadd Object +Ġe igen +sign up +éĶ Ļ +Ġdist ant +PAR ATOR +ĠM ari +Ġm á +E mp +ó s +Ġì Īĺ +ev t ++ j +p ark +ĠSt ay +ĠD un +Ġso y +> % +az ines +Ġti empo +(m e +p resent +.Th is +Ġedit ors +F IELD +.W ork +ĠUn iverse +Ġdr unk +.t imer +Ġalter ed +ĠN ar +ëł ¥ +.Act ive +id or +ç Ń +.delta Time +Ġawk ward +& quot +ĠSaf ari +Ġtr icks +MENT S +div ision +Ġvary ing +ĠHigh way +Ġphotograph er +ĠSt ewart +Ġlast ing +.P re +.amazon aws +ĠL uck +.D escription +ĠN az +n eg +Ġc ó +<<" \ +ĠSur v +ĠU nc +Rec ipe +.Border Style +Ġmod ifications +- at +AT FORM +h dr +ak o +Ġsublic ense +ĠJ ump +Ġbe im +ĠMan hattan +. bool +_h w +ÑĤ ÑĮ +B in +Ġg ateway +" ": +ĠU IS +:" + +- def +ĠReg ular +/ testing +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +string stream +Ġdis par +Ġmob il +- read +ĠAd apter +ĠCh ampions +Ġsched uler +Ġk ills +ĠM ultiple +ir ror +Ġgod s +AD O +ak te +ĠUs uario +.c ircular +Ġre cept +ĠEx pr +Ġelder ly +Ġnic ely +Ġbest e +W ant +Ġclass ical +.s prite +obj c +ĠM ason +Ġsist ema +.Bl ack +es o +ĠZe it +Ġdiv id +Ġent ers +_sub ject +ĠPlan et +.w arning +ĠG ram +_t okens +Ġhousehold s +_c ustomer +user Name +c ross +Ġp ione +Ġass ists +_S M +ib o +Ġlo yal +Ġuse less +# elif +ĠUlt imate +C ome +g el +Ġd ich +xy z +ik el +ob ra +_s can +ĠInter ior +ĠN ice +Ġpl ac +ĉt arget +Ġvir al +ass o +() / +und e +ĠAd obe +O s +vis ited +ĠO W +ĠFe ed +ĠSe quence +Ġman ages +in son +ĠLouis iana +{ }) +ĠH ab +ĠL D +Ġb ip +pr ites +(e lem +.h ibernate +él é +Ġoh ne +_trans action +Ġann unci +P ublished +ĠH onda +ĠT am +ĠP acket +_ selector +Ġchalleng ed +Process ing +-h over +Ġtr ainer +_c ancel +ĠNS Dictionary +ab ric +ĠM LS +_s ensor +Ġshr ink +ĠF X +th reshold +ĉH X +-m ark +` .` +S cheme +(f ull +_w riter +ĠS ys +Ġf led +ĠC in +-w idget +ĠPre vious +G ender +_ question +Fe ed +Ġscr ut +(p refix +ãĢĤ ãĢĤ +Ġin fections +Part s +Ġhier archy +_DE LETE +ĠPat ient +_p ay +Ġprom oted +Ġì ĭ +Ġcivil ian +Ġagricult ure +ĠP iece +Ġst ance +uts che +Ass ign +.A CTION +F ig +_r adius +ĠS ync +du cer +f ailure +ens ed +pt ime +B M +_dat etime +qu ivo +QUE UE +èĢ ħ +Ap pear +Ġsum mit +: void +Ġv ine +è® ¤ +on ne +_TR ANS +.g reen +_ cc +Ġhung ry +Ġ" > +() );čĊčĊ +Ex tract +iz ens +Ġsol ver +Not ify +Ġeng lish +ĠSh opping +inter faces +RE Q +Ġil leg +ĠUI ImageView +Ġdis connect +ĠUnt il +ĠConserv ative +@ Column +Ġshift ed +Ġ: čĊ +Ġf ich +Ġd la +Ġsh oe +"), čĊ +ular ity +_RE SP +We ather +UI Application +. iterator +Ġag ing +.P arent +ow ie +(e qual +ĠCon v +/ default +Ġmeas uring +.pre v +.Is Valid +.F at +Ġs Äĥ +key words +with out +Ġso vere +Ġex changes +Ġm elt +Ġis lands +ĠInt egr +Ġjump ing +Ġg le +Ġjournal ism +Ġd ated +Local ized +ĠRef resh +Part icle +Ġa a +ĠSTR ICT +Ġb od +.Pro cess +_A UTO +ĠP ublished +e very +Ġtechn ological +ls x +Ġir rit +Add itional +Ġdel imiter +_l anguage +- area +bo ys +ĠT ube +Ġw at +Ġmechan ics +_ owner +Sp ell +ĠSt ories +.Append Line +Table View +h em +st ick +oll ower +I FF +ĠU V +oll ision +S UB +Ġcompar able +Ġdon de +s ales +ll vm +Ġ} ],Ċ +OTT OM +ĠPur pose +L ab +Ġinterview ed +o is +as il +.set Id +ĠIn struction +-- > +ĠMod ified +ation ally +ĠMe eting +è¯ ¯ +# region +Ġrout ing +.f ocus +ĠYou th +< D +ĠN ag +contact s +Ġform ing +Ġm ie +',[' ../ +ĠB P +Ġapp et +ĠTe acher +ĠT P +Ġann ually +outed EventArgs +ĠSpe aker +Ġre name +CF G +(" // +æİ ¥ +/p ages +Ġpr és +ĠSp ell +.All ow +ĠINT ERRU +Ġ( # +âĢĻ ĊĊ +_G eneric +.im show +_t im +- face +(& ( +atin um +Ġrevolution ary +ĠH ours +r ain +Ġany time +Ġab b +.j sp +Scroll View +ĠTr uth +Ġanticip ated +Ġacc ent +. checked +Ġspec ifies +Ġca f +Ġcell padding +Ġcook ed +ĠH ugh +pe ek +_R ATE +Ġd orm +/ čĊ +IV ITY +.Cont roller +(p art +.con straint +Ġinv asion +MO VE +Ġgl uc +l ename +Ġam en +eng lish +ĠSw itzerland +";ĊĊ Ċ +pe st +.col lect +N ib +ĠD ict +ĠE mb +(sub ject +Ġoutr age +Ġdec iding +Ġsent enced +F echa +" A +Ġqu er +Ġfont Family +Ġqu adr +- Y +_C ACHE +Ġanaly zed +Ġg aining +ĠAgain st +ĠSou l +ta u +Ġlight weight +ĠT F +ĠEffect s +.T ypes +.add Class +Ġv egan +é ģ +.' " +ĠExpl orer +.d etect +.sh ift +Ġoblig ations +last Name +Ġassoci ations +ĠTime Span +un ter +ĠF resh +Compat ible +P ub +id ges +. option +var i +.hash Code +Ġg eb +. section +- not +ĠSub mit +T N +reg istry +_m edia +Ġn aj +ff t +Ġm ate +-th ird +Ġp ockets +est a +Ġb ent +ĠN ord +Ġretail ers +ĠMor ris +."" "ĊĊ +W rong +Ġ ÅĽ +R ay +. ec +ĠB ind +_H AND +(n on +is Valid +Ġsimilar ly +_L IMIT +Ġdynam ics +Ġdist inction +ãģ Ĩ +< N +Ġor th +ĠToy ota +ĠK ate +ĠL S +or ie +ĠSpr ings +Ġf reak +last name +_M ULT +-st ep +" ( +AD DR +Ġentert aining +_CON F +Ġdec oded +Ġst reak +Ġwait ed +Ġnot ified +rodu ced +vis ual +.Layout Params +æ ° +es ian +f its +s pring +ĠBern ie +User Defaults +Ġped est +Ap pearance +ĠW iki +ĠNOT ICE +Ġs sh +Ġdur ante +ĠZ ip +ı r +ĠNAT O +Ġtw elve +Ġro yal +ï ¸ +Ġmer chant +ĠF urniture +'] ),Ċ +, X +Ġfold ers +ĠG ate +ĉf unc +p ick +_us uario +ĠV erm +ment ion +ur pose +Ġalert s +x ious +_s ig +ĠF u +Ġ( : +Ġd umb +åħ ³ +Ġaccur ately +éĩ į +R B +-s creen +ĠV ER +j our +Ġrom ance +uc ceed +. choice +Ġad ip +_d ims +Serial izable +ãĤ ĭ +.j ob +Ġpro g +uch ar +Ġg ently +ĠR SS +ict ured +_ENABLE D +ĉ label +aw ks +ĠEn sure +rem ember +ìł ķ +Ġtrans mit +{{ $ +.Trans action +ur se +_rel ative +Ġs ized +ĠX X +ĠPr incess +ĠL arry +Ġpr ó +ĠÑģÑĤ ÑĢ +Ġs isters +estr uct +Ġcheck point +: length +ĠCar los +/ icon +_T ARGET +T okens +Ġpat ience +ĠSe lected +q ty +.show Message +Ġwild life +ĠP rops +b m +- arrow +Ġpar cel +fire base +ĠBen jamin +cess o +.t im +ĠG arc +. any +ĠHOW EVER +ĠK o +Ġgrab bed +_f rames +Ġobject AtIndex +ĠADV ISED +Ġsub ur +ĉ GL +Ġ}) }Ċ +-l ength +ìĭ ľ +ĠPot ter +_b uff +.g ui +ĠEnc oding +E lect +-m essage +Ġ � +Ġ ÈĻi +ĠArgument NullException +а ÑĨи +Ġmin imize +Ġrespond ing +$_ [' +ĠInd ividual +á c +ĠIN TER +Ġmast urb +ĠB in +(' $ +ëĵ ľ +Ġopen ly +Ġ> < +Ġun to +olog ically +ĠM ul +VID IA +Ġsl im +ĠCommission er +( on +Ġunder neath +/ db +v ote +( Message +ĠP ope +Def ined +Ġsw ift +ur f +Ġadapt ed +SE L +Ġreven ues +Ġdiv ine += y +Grad ient +_ act +Ġ/*! < +Ġpoly gon +ĠF DA +ĠC arr +at ables +(std out +Ġrefr iger +Ġco ordin +avor ites +ÑĪ Ð¸ +Ġcompass ion +ĠPOSS IBILITY +- secondary +ur acy +Ġcomp romise +_A V +_ os +Ġbes ide +ĥ Ŀ +Ġl n +.pl ugins +Cap acity +al ah +.b in +ĠC RC +_b alance +Ġflex Direction +Ġam bit +Ġnick name +ĠFor ces +C LE +ĠSh ell +Ġs ail +ĠW riter +ĠA lice +d w +ĠInd ians +ĠMar shall +_S RC +Ġnormal ized +ĠJ ag +ãĤ Ĵ +ze it +r pc +ÃŃ c +.in line +Ġtrav ers +_n umeric +Ġutil ities +Ġev ac +IN PUT +ĉ register +M X +ĠCamp bell +Ġdatas ets +Ġdem anded +Ġinitial State +g an +Ġe i +Un expected +- web +tr ait +, Y +ĠT odd +Ġske leton +Ġoptim ize +ç¬ ¬ +ĠU pon +ĠSt Object +Ġap lic +.' P +v ron +. UN +Ġpaint er +izar re +Ġl av +Ġp om +p reg += function +( serial +ific a +um ing +åľ ° +ãģ Ĥ +- op +U CH +ĠH end +.prop Types +Ġy o +Ġrout ines +Ġcar ing +S em +Ġres erves +Ġprior ities +red its +IST R +Content Type +ĠSch w +/ media +Ġe str +Ġclim bing +- week +cher che +s ensor +To Array +ĠMont real +Ġcloud s +ĠInject able +ĠR ice +Ġpropag anda +_pro vider +Ġind oor +Ġin aug +Ġdipl om +Ġmess aging +_m ut +å ¦Ĥ +Ġk w +ON S +ari ans +R PC +) ]čĊ +-r ay +ĠS or +m all +Ġmarket place +Ġv tk +M a +og an +ig i +Ġspons ored +ĠD ani +.S EVER +>' .$ +m ultipart +ĠW ol +Ġtable Name +ĠUser name +Background Color +Ġf right +_E MAIL +Sept ember +_val s +op ia +Ġsp otted +- Ch +Ġdata Source +/ "Ċ +ек ÑĤ +ĠRequest Method +ĠRe place +-d o +ah n +ĠPh D +] .ĊĊ +N ON +g ement +ĠTh r +Ġquiet ly +Ġtort ure +Ġte as +ĠC Y +Ġa tr +develop ment +-d etail +Ġlight er +Ġarg uing +Ġdes erves +Ġcur riculum +_CON TEXT +ÅĤ y +H ITE +ĉ ID +/ uploads +Ġt its +re o +_d rop +. UTF +Ġpick up +Ġgro cery +ĠP ure +Ġeas iest +Ph il +.f eature +(" * +Ġinvest or +t ok +Ġj ar +L os +âĢĶâĢĶâĢĶâĢĶ âĢĶâĢĶâĢĶâĢĶ +. queue +-s peed +M al +um blr +ĠCON ST +ĠH RESULT +ĠD ance +(file Path +Ġattrib uted +ॠį +ĠB und +co ins +Ġs ão +Ġp ir +person al +Ġpre lim +Ġprop ose +ĠT L +] ]) +ĠSub scription +ĠK re +, len +.First OrDefault +) -- +_product s +.Get Bytes +Sh ip +Ġenc rypt +ĠS G +ĠM yst +h ir +Ġiter ate +Ġint end +.mock ito +Ġch apters +( angle +ĠV lad +è® ¾ +' .ĊĊ +Response Body +ĠAb d +de al +Ġbar riers +-out line +b ill +ĠF alls +_se cond +. include +. ceil +Ġoccup ation +ph ony +.move To +ĠJenn ifer +AST ER +; ">< +ĠEn abled +Ġtermin ate +ĠI o +l ations +ĠTHE ORY +Ġear liest +Ġr ack +ĠSc ar +sh ake +ch ip +Ġu v +Ġall iance +п иÑģ +ĠGOOD S +z ione +ĠV I +Ġ{ - +Ġfilter ing +Ġmis con +.Dock Style +Ġb ush +Ġj unk +æ Į +ĠQ UE +Ġhook s +Ġfirm ware +Ġmiddle ware +d ic +ĠOak land +Ġarr ives +P ayload +p ixel +] | +Ġstart Date +.P RO +_a udio +Ġmid field +igid body +ĠSw iss +ĠCl ip +ĠD ump +ĠText Box +Ġg eh +y ield +od s +Ġrefer endum +Back end +ĠC ream +Ġdomin ated +ĠArch ive +Ġrid ers +.prepare Statement +Ġqu ando +Ġche f +w iki +in el +am pling +(" \\ +Ġs ag +_pro xy +ãģ ķ +p do +.getElementsBy TagName +Ġdemonstr ation +ĠN PC +Ġarch ivo +end ance +Ġefficient ly +( actual +.t ableView +Ġm ush +Ġbe ars +_thread s +j as +ah un +Ġne ural +Ġdesign ing +ĠG DP +Ġlift ed +çĽ ® +ĠJ oint +ĠIn clude +ĠGi ants +Ġwithdraw al +ĠR ent +n ative +ĠSe ek +gress ion +_C PU +\ S +ĠSh ield +Ġsol ic +Ġbo om +yect o +Ġmanufact ure +ĠâĢ ĭ +Ġb box +Ġearth qu +ollect ors +:@" % +Ġlo ops +J e +alk ing +ĠWh ats +ĠBo ys +. book +ARG E +_p ixel +Ġsus pects +Î ¹ +us p +ĠBM W +ie ces +(p erson +å¼ Ģ +é » +ĠPod cast +Ġb ou +( Item +à » +( Input +Http Get +Ġb urg +) ^ +BO ARD +*/ , +Ġg ulp +ĠB enn +Ġdeck s +.status Code +Ġac ute +Ġh ug +ug u +Ġp led +," % +h ape +Ġз ап +ĠMain e +.re al +Ġd alam +ĠMin or +.F loat +dis p +Ġt l +Ġen count +=> $ +Ġf g +te es +ĠRec omm +ä l +Ġchem istry +Block s +O ID +Ġfore x +ĠApp end +Ġ{ * +ĠSup ply +CG Float +(b l +Ġat e +ador a +Ġg ust +Ass oci +> .Ċ +F ETCH +.s erial +widget s +ard less +ie fs +_F ULL +ernet es +ĠP red +Ø Ń +äº ĭ +ub ernetes +ĠL aura +Ġl abeled +High light +Ġanno ying +/ update +(d escription +Ġintim id +$ c +")) )Ċ +.A P +Ġ[] * +ĠEX IT +.H ost +ĠOP EN +.send Message +_c amera +_t ile +Ġth erm +onom ous +Ġdis adv +Ġna ar +index Of +ĠP P +.prot ocol +AF E +Ġtext ures +################################ ################ +umb ai +.st ats +ĠG E +Ġi e +ĠST D +ĠM ann +.ref lect +K B +Ġd ive +.w av +/* ---------------------------------------------------------------- +/ settings +.l ifecycle +Ġda ughters +or us +ub er +N ING +st ri +ĠT ip +Ġz n +Ġswitch ed +in et +uff y +ĠTransport ation +( conf +fr ica +ĠX L +ĠLe ad +_per cent +< Map +Ġthr ust +or b +ik k +Ġtra uma +Access or +ĠF it +ĠString Buffer +ex pl +(s creen +Ġaud iences +ĠO PTION +_ round +[ node +be h +-> __ +per missions +ĠD etermine +.M an +Ġadv ances +. InputStream +Ġstrong est +Ġe Bay +Ġ# - +Ġdir name +ĠS MS +Ġmedic ations +Ġam ended +Ġchurch es +ĠImper ial +$ row +ĠMad ison +ĠIn sp +Ġaff air +Ġpsych ology +v h +Ġsever ity +âĢ IJ +Ġstri ps +A H +vert ising +Ġcon se +IM AGE +ĠSt ats +ĉs c +.C ursor +Ġfree ze +ss on +(x ml +ĠSus an +.t ile +ed ed +ĠĠĠĠ ĉĉĉ +uel le +ĠMitch ell +b ased +Oper and +½ æķ° +ĠF F +ĉstr cpy +ounc es +ild o +.execute Query +Ġapproach ing +ĠSe ven +Ġn uts +Ġr ic +ass ignment +Ġcalcul ator +ĠMur phy +ĠB ou +í Ħ +Ġbut t +Ġt icks +Project s +il ib +.text Color +m ov +_log o +( template +ĠIN IT +Ġimage View +scri ptions +OR ITY +Con sumer +Ġun precedented +Ġtour ist +Ġbr on +Ġcontract or +Ġlic ence +ĠN am +æ ¯ +( transform +_AT T +P ref +ĠG am +Ġvess els +Ġh av +L ater +.To Lower +Ġurl s +Ġbreak down +Ġpen alties +Ġf oster +ĠU E +Ġcl ue +com ed +åIJį ç§° +-m ain +Ġp ts +Ġcount ed +ict s +/ post +Ġget attr +Ġp ing +ANCE L +Ġp ec +Ñħ од +ant om +ĠBlue print +ĠEvent Emitter +Ġl ä +æ ² +Ġstr aw +( comp +' une +> N +- client +es Module +-b ase +Ġret reat +_s imple +ĉĉĉĉĉĉ Ġ +fe e +') čĊčĊ +Control Item +Ġsubscri bers +ple ase +ĠE ff +Ġp ound +ĠBy tes +ĠTe a +_ activity +Ġmax im +Ġop code +B SD +. constant +; } +omb res +Ġcare ers +) .ĊĊĊĊ +Ġsp reading +-exp anded +ĠOr d +amar in +Ġmob ility +Un fortunately +ak k +N L +_ redirect +ĠP G +ĠS ensor +b ol +t ap +_MEM ORY +ĠUI Alert +plit ude +We bsite +ĠLog o +lo ve +[ ind +Ġalto gether +Ġwonder ed +Ġes per +ĠLib eral +Ġo ss +Ġel it +Ġst iff +od ox +_ment ions +ĠDou glas +_p id +ĠC K +ĠinitWith Frame +.b log +p kg +ang hai +QUI RED +u u +Ġm kdir +AT AL +Ġun h +in ces +st h +Ġhypo thesis +Ġc ata +ĠT B +ĠCl ar +Ġpre decess +Ġsitu ated +-w orld +)) / +Ġhead lines +.st at +Ġout break +sp ath +_FLAG S +ĠServlet Exception +S un +F ROM +ĠD ir +ãĥ»ãĥ» ãĥ» +_co ord +ĠOpt im +Mon itor +.b it +XX X +Ġtod as +f eld +ÑĢ Ð¸ +im ir +Ġpolit ically +Ġmolec ular +Ġtrad ed +Ġ{{ $ +ĠSw edish +Ġ'@ / +_RE AL +Ġw arehouse +t oday +, L +or p +< section +- br +ym e +ĠUser Service +Ġlib erty +Ġmoment o +( Image +< size +S ch +Ġj og +i ology +arent ly +Ġquant um +ĠAb u +Ġr im +Ġman a +Font Size +Build ing +st airs +AIL ABLE +Ġ& ' +Ġs ect +Ġs igh +(b atch +.I Container +p oll +ĠCor ps +Î µ +ar u +ĠK ay +.r ange +_click ed +ĠRobert s +.N etwork +fin ish +- Man +Ġcolleg es +ĠF ine +")) ,Ċ +f ilm +Ġrem inded +Ġgest ure +out il +Ġthread ing +Ġobj et +Ġt ours +activ ated +.m kdir += user +Ġre de +f ü +_SY STEM +p v +Ġcon gr +Ġmass asje +Ġpract ition +Un iversity +Ġtab index +Ð ĺ +S ets +Ġcount ies +g uest +f an +Ġword en +.d i +на Ñĩ + ¿ +ig Decimal +Ġsh ore +Ġg ö +Ġrep airs +Ġhelp ers +Ġcenter ed +OL LOW +Ġmap StateToProps +Ġc ents +< A +Ġexpect ation +Oct ober +Ġbg color +ca les +.C ON +ĠV el +Ġcry ing +-se ason +Ġfunction ing +_LOC ATION +ü ss +ber y +Par a +omin ator +- le +Ġeth ical +has htags +emp lo +Ġn úmero +( activity +.St op +.str ftime +IL D +Ġto e +ĉ Node +") čĊčĊ +ĠPu erto +Ġexec uting +ĠG UID +Ġoppos ing +al ph +Ġexhib it +_fl ash +Ġme ille +Ġjson Object +H ero +aint ed +_D OM +Ġw il +Ġslo pe +Ġm Ã¥ +ĠIraq i +Ġorgan ize +ĉj Query +H UD +sh ine +. we +ĠSk ills +pons or +Ġcon clusions +Ġre forms +Ġrel uct +n amed +ĠOl iver +Ġ// }Ċ +- looking +Ġf og +ĠH O +ĠF ried +Ġinev itable +ĠData GridView +H our +il les +log ical +Ġconnect ivity +.tw ig +ĠK yle +(d st +- Sh +ĠStud ios +( Level +.j et +_PRO TO +-de coration +OT HER +Ġread ily +.Param eter +Ġmultip ly +ĠL IB +ar med +Ġsoon er +æ Ħ +_ ES +Ġfoss il +ĠA nc +âĢľ This +l odash +Py thon +Ġhist ogram +west ern +Ġinf ant +Ġco ordinator +Ġn ib +: m +Ġres pected +Ġdef init +& T +_p ad +ĠTr igger +th al +Ġimage Named +Ġbeat en +ĉ rc +ĠPal ace +Ġhaz ard +Ġisol ation +_ rc +cont re +OUT PUT +Ġre ign +ĠPl ate +AT ES +Ġfl ux +Ġpack s +.get Selected +Ġparticip ated +Ġneed le +-de pth +:::: :: +-l aw +ins pace +on itor += no +ĠAt omic +ĠBr ain +Edit able +-s c +red ential +ĠP erry +k ie +Ġ ----------Ċ +.st roke +( Intent +Ġun ity +um lah +F urther +Ġpr ze +Ġs ø +ãĤ Ĭ +ĠPROC UREMENT +ĠH ousing +Ġatt orneys +Ġcomp ose +atter ing +" What +dra ul +Ġstraight forward +In stant +.J TextField +Ġtr ades +л а +Ġ{ ! +Ġl ately +IM G +ĠA ld +ĠIN NER +Ġcart oon +.S ource +F ALSE +Ġd ough +f en +( rect +Data Table +N ick +ĠBut ter +read s +_com ments +EN V +ĠConnect icut +-F IRST +ĉĉĉ ĠĠĠĠĠ +ach i +.M sg +re ction +Ġrelax ed +Ġsha ft +Ġe f +ĠAdd ing +Ġbre ach +Ġ ï¼ļ +ram a +Ġconduct ing +Ġ( ; +(g l +ĠCA USED +ash i +ĠF LAG +ĠCom merce +ĠIN TEGER +h ours +ĠSchool s +Ġn ucle +Ag ain +pro j +Ġsevent h +EMPL ARY +(m ock +'] ,čĊ +_S PEED +> false +Ġsp a +ĠN ear +ì ķ +Ġintr ig +_m embers +w ave +Ġanalyst s +_O S +ed in +ĠF ri +Ġretrie ved +Reg ular +_ obs +EX PORT +')}} " +" class +__ (( +b ucket +Ġst ro +ĠP atch +yst ick +ful ness +ap os +D a +ĉĉĉĉĉ ĠĠĠ +Ġen rich +un ordered +h ole +C ong +< Product +ĠC urt +( the +_l ower +Ġavoid ing +Ġbu zz +Ġv iable +ub a +- is +are l +Ġact ed +-d etails +ภĩ +ĠThe ory +ĠP un +ĠAn onymous +... "Ċ +è res +åı ¯ +ĠV ision +_se m +ash a +Ġcelebr ity +Ġend Date +Ġpop ulate +Ġcu is +qu ant +f loor +Ġglob ally +Ġcru ise +ĠStan ley +Ġb ikes +.get Connection +Ġpoor ly +_ other +amp ing +." );ĊĊ +od i +_A DMIN +.color s +ĠG aming +> ';ĊĊ +STR UCT +Q R +ID s +(arg uments +_a ux +( Event +_PR IVATE +ĠTre k +Ġdownload s +m utable +_STR UCT +(w x +Ġdom ains +js px +ĠVi agra +Command s +J s +.c fg +Content Pane +ĠEdit Text +à¥į ठ+Att ach +ĠAR M +posit ive +ĠGener ated +Ġse ized += : +Ġelectron ics +ĠApp Component +/ ',Ċ +.equals IgnoreCase +Do ctrine +d isk +ĠPolit ical +CH O +< F +ĉ height +ĠB ug +. le +ik h +Ġmill iseconds +Ġconstit u +m ag +.n l +-r ange +ang gal +', [ +ropol itan +Ġà ľ +ĠU C +.d esc +-L AST +f stream +ib il +Ġf ier +VER Y +Ġë ³ +IR T +_ UI +( abs +Ġkne es +Ġro okie +ĠV ac +are na +comm end +- \ +ĠSUB STITUTE +So ft +Ġpart ir +we alth +è¦ ģ +(d ataset +ĠCl imate +- show +Ġreli ability +_ch unk +ä» £ +_st ock +ĠEX EMPLARY +ï¸ ı +Ġv ÃŃ +Ġsm iled +Ġdr ill +.F unction +ĠS I +Ġreg ression +- X +ĠJ ar +p ref +ĉs uccess +ĠHit ler +Ġinst inct +Ġfem mes +Ġlo ver +< Ċ +Ġmulti plier +r il +Res ize +ĠAuthor ization +ĠK an +Dispatch ToProps +Ġc rops +t okens +ec n +ential ly +ĠINTERRU PTION +f ake +Und efined +ĠA K +ĠTest Case +Ġr ab +Ġtor rent +ĠO t +B ars +Ġlect ure +Ġen jo +Ġrespond s +Ġindex ed +Of Work +_ch ain +)) -> +ĠBeaut y +Ġ` < +Ġtouch ing +Ġ| -- +ĉf lag +normal ize +Ġtr apped +Ġestablish ing +/b uild +A J +f y +- react +av n +RI PTION +Ġk ut +ĠF ashion +ĠIn form +cur ities +< byte +ĠUkr ain +Ġs ug +Ġconsist ing +ood le +. ctx +.To List +Ġcomment ary +Ġtransf ers +Ġn ost +ih ad +ĠU pper +Ġconf using +miss ing +- cl +Ġbound ing +Ġcongress ional +Ġreve aling +d h +r up +Ġt res +re peat +, ĊĊĊĊ +_t ac +Ġexp ed +G irl +h orizontal +Ġ"../../ ../ +( option +Ġwe iter +ĉs ql +Ġ=> {Ċ +Ġgar lic +Ġre pr +Ġrepl ies +( prop +Ġspir its +Ġins pire +Ġbas ement +.re ject +Ġhint s +Ġpoll ing +ĉ ĠĊ +_r ating +Ġc ath +av ier +Ġcomp ressed +ĠV S +] ' +Ġjud icial +ĠT rend +tr aining +EST AMP +ogn ition +Ä ģ +SE NT +vent ions +Ġconsult ant +um ph +Ġuser Service +, NULL +k h +D ear +_B AD +it ations +Ġmet aph +' é +and ise +-f ont +.ch art +Ġs g +_ Controller +.j peg +ĠUL ONG +ĉg ame +( ss +ĠM aj +ĉg o +ĠS ad +ĠB erg +ĠM ine +P ack +Ġres istant +ĠR OM +Ġp eg +ĠStan ford +ĠY ahoo +Ġsca led +Ġl an += [] +"/ > ččĊ +Ġs ud +ĉ background +Ġsch olars +-m uted +ar á +Ġ= ==== +Ġ__ __ +C reat +ene ver +/w p +ĠV PN +Error Code +) ],Ċ +(b uilder +ĠEn emy +S ensor +us a +Ġtr iggers +Ġplayoff s +_RE Q +Ġ( ~ +ĠBar ry +Ġperman ently +ĠR UN +Ġb ure +.Fat alf +Ġch ick +ĉ panic +ps i +ok a +éĢ ī +> [ +Ġunderstand s +ĠJun ior +ĠIN FO += mysqli +ust ain +-s ource +s erv +ĠC REATE +. au +Ġsell s +ĠĠĊ ĠĠĊ +E urope +z w +pre h +ĠNS A +Ġx y +ภ´ +ĠB eyond +Inst ead +Non Query +Ġar ise +Ġavoid ed +.em place +_model s +} ),Ċ +Ġh id +Ġ& _ +.p oints +.get Width +.Ex ec +Ġ// // +ĠS essions +... \ +ĠCol omb +Ġacceler ation +rest ore +Ġ ile +ob ic +< Node +ĠD X +ĠBes ides +. age +ĠCont ains +N ational +ĠIm plementation +Ġeff ic +ĠR M +H y +ĠWed ding +ok ies +Ġrec ursive +Ġprosec utors +.Se lection +ĠForm ula +Been Called +[i i +ĠFr an +Ġtraged y +_F EATURE +Ļ ¨ +comp ass +ĠB h +? ĊĊĊ +.w riter +ĠH our +Db Context +io v +am on +re pr +é ĥ +ĉf i +'] ] +ĠD ry +. ro +ĠO bserv +æł ĩ +Form er +ĠB alance +ĉ json +Ġpr zy +I SS +( sock +ĠL INE +Ġde ce +Ġal ly +Ġtend ency +F un +Ġschem es +Ġinter ven +æĺ İ +Ġad verse +quote lev +Ġsacr ific +_s ide +Ġmut ex +AG IC +Ġocc urring +ĠCommunic ation +um ar +ç¼ ĸ +ĠTreat ment +.p erson +ĠL C +Ġe ch +( (" +ĠDise ase +ä d +ĠA Z +.A ccount +Ġcontinu ously +END ING +ĠRET URN +- string +.f ilename +syn thesize +Res ponder +( opts +reg s +Ġn uest +Pe er +// ------------------------------------------------ +Ġg auge +ĠK in +.s chema +Ġarr ange +ĠBl ake +_Type Info +C over +ĠHamp shire +P aper +-in ner +util ity +Ġcross origin +F OR +Ġign oring +ĠD D +av an +Ġtrad itions +Ġget String +Ġeth ics +ĠMaterial s +DE SC +Ġen zym +io let +ĠCh ip +ĠMc Donald +Ġn erve +ç Ħ +") ] +æ± Ĥ +ĠS ugar +_S IM +j peg +Ġdiscret ion +ĠT N +bo ve +ĠMin imum +ĠForm Group +Ġwork force +ĠExec ution +err er +ĉ ĠĠĠĠĉ +Ġpres cribed +.Text Align +OP EN +ĠP B +im ity +ĠEx ternal +° C +ĠApplication Controller +Ġb arr +imp licit +_d ot +ĠCol on +C OLOR +.Pro ject +* }Ċ +pl aint +get Text +Ġindivid ually +Ġcheck box +U Y +ĠL amb +Ġdys function +ĠL ar +à ° +ĠCre ating +');ĊĊ Ċ +" They +loc ations +_C ORE +Inter action +umbn ails +ĠPart ner +b rit +Ġless er +ĠSl ot +set Attribute +ĠW ave +.p o +/ store +Ġbrows ing +_p d +sum e +s ed +Cur ve +Ġpl asma +Ġsusp icious +ìĿ ¸ +ĠB ah +ĠExp licit +_C C +.Client Size +\ View +Ġsub stit +lo on +ĠG AME +ĠB rid +Ľ 建 +_ User +Ġsqu ares +f one +Ġsac red +ug hs +] interface +ĠTh row +ĠK irk +Ġemp ire +Ġassess ed +T ax +ĠHe aven +-b uffer +_STAT IC +én é +-b ordered +Ġpun ct +(m ode +Ġke ine +S ent +ĠCal cul +ĠE ve +Ġsty lish +Ġoil s +.Test Case +Ġtrad emark +Ġliter ary +Ġconcentr ations +ĠRel ations +( Class +Ġstd in +Ġv æ +back up +. VERSION +.AutoScale Dimensions +st arter +Transaction al +- panel +St udio +k c +ĠCh amber +ĠSpi el +Ġr ho +ا ÙĦ +! ' +.At tributes +Ġmurder ed +apeut ic +Ġint imate +Ġtext Field +ĠBuff alo +d ummy +" % +ĠLib erty +ob ar +ĠT ank +ĠPop ular +erv isor +ĠIn iti +ĠM all +ĠP rior +C AP +ĠCl ay +ĠCert ificate +.L ock +-st rip +-dr iven +/ all +ĠMessageBox Buttons +_SE CRET +_p b +Ġr ats +ा ठ+Ġn t +.R outer +_top ic +Ġt ennis +ĠP UBLIC +ĠActiv atedRoute +Ġ' ,Ċ +Ġcost ume +Ġj okes +. Handle +ĉ byte +Ġflav ors +( cc +Ġperson as +ĉ image +ĠN azi +Ġgram mar +Ġú lt +Ġval ve +Ġv ic +ĠR achel +_in valid +P refs +std int +(r oute +Ġhtml specialchars +Ġpe oples +pl ine +Ġn v +ĠQu ant +opp ers +Ġcurrent User +ĠC atal +Ġrecon c +Ġconj unction +l x +amb urg +Ġinflu ential +d anger +ind ers +Ġ% @", +.config uration +os ome +. identity +Ġpick er +n ost +ĠDI Y +Aug ust +ab lo +Le af +ĠRec o +ck o +DO C +ĠH erm +: any +ĠInt erview +ĠT ex +x fe +( work +Ġle ap +He ading +Ġqu arters +\ Bundle +re b +Per haps +ĠG mbH +B irth +ĉ sum +ĠWat son +.n il +ç ¡ +{ }ĊĊ +ica id +Get ter +" name +Ġ" čĊ +_n one +z m +ac ute +uest o +Ġs ous +Ġre build +Ġnewsp apers +ĠH az +Ġk its +if o +Bl ur +Ġsu ited +- In +à ¯ +ĠKe ith +ĠNor way +IN IT +ire ccion +iet ies +_us age +ĠDou g +r ise +Ġtr illion +im ited +ĠR EL +al ic +Ġcritic ized +the orem +Ġce ase +Ġsid ew +ĠT erry +Ġsubs idi +Ġfirm ly +Ġaw s +Ġh ott +Ġdress ing +bad ge +ĠApp lications +è¿ ĶåĽŀ +Ġlaugh ed +Ġh obby +Ġmus icians +Ġ* . +. placeholder +Ġcount ers +ĠCap itol +SD K +Ġhel met +and box +qu it +Ġcriminal s +Ġteen ager +( update +G l +.se lection +Ġdis charge +Ġpresent ing +ufact urer +_UN KNOWN +Ġstress ed +å ύ +Pro to +_cor rect +ha us +Ġren ov +Ġfire arms +Ġtechn ically +-b rowser +Ġc andy +St roke +Ġexec utor +Ġocc urrence +ĠIP v +_INTER FACE +ĠRetrie ve +.b ad +Ex change +Nav bar +ĠK id +(get ApplicationContext +_ST OP +ĠB oss +List eners +Ġshoot er +ĠAl b +ä ch +Ġp ix +.key Code +al one +Ġabs urd +ĠC um +ĠNewton soft +ik t +Ġlaugh ing +Ġcapital ism +ree Node +T x +_QU ERY +.S leep +( login +Web Element +Ġcelebr ating +Ġde precated +Ġma ar +Ġart istic +_ASS OC +ĠBorder Radius +ĉw p +Ġsurviv ors +In ner +- red +Ġprosec ution +_ pp +(" $ +Ġcomm a +un checked +graph ics +r ors +G ROUND +( public +Ġcustom ized +ĠArk ansas +ĠR ew +Ġexp iration +× ķ +ĠC ul +Ġn ons +.F ilter +Ġsen ator +_def inition +ash ington +ym ph +/ J +Ġf use +ram id +ĠSup plier +Ġaut ocomplete +Ġ} ), +." ĊĊĊ +_function s +ĉ to +.e val +ĠT Object +Re ferences +Ġhe ated +H AL +Ġ)) }Ċ +} $ +ĠB arr +_UN IT ++ $ +Ġget Value +ip ed +ch ied +(v m +c ue +_int eger +_c ourse +th ird +Ġrevis ed +** /Ċ +_D IRECT +Out Of +(" ( +ĠFe el +Ġre ass +Ġsub title +per i +n f +Ġenjo ys +Ġtreat s +) this +-t abs +anc ers +Ġcontin ent +Ġcard io +S er +. question +Ġph rases +Valid ators +Ġpop ul +Ġl ÃŃ +s ong +_IN TERNAL +Ġadvis er +Ġp uzz +Ġambit ious +ĠT ob +ĠD P +Ġpres idency +Ġsurre nder +Ġwatch es +_b inary +ĠSo on +Ġcan ada +(" ")Ċ +] =' +ĠBr andon +eps ilon +r w +.add Child +.C opy +Pr incipal +Ph otos +Ġmarg inal +Ġbas ics +e ing +M ust +_ String +Ġo le +M agento +.c ustomer +(p rev +ภ¥ +Ġlo yalty +C og +Ġprot ocols +ĠCom panies +Ġtheoret ical +Ġaccess ing +ĠZ en +. ones +att ice +_w orld +z es +Ġtatto o +Ġmen os +Ġinter sect +"] ;ĊĊ +bel ie +Ġin active +.read line +-label led +.d one +lick r +ĠW ORK +Ġderiv ative +Ġd atabases +âĤ Ĥ +Ġs x +.is Array +Ġy s +Ġp ada +ĠBul let +(` / +is Active +ĠCG Size +(equal To +ĠColum bus +Ġmar ry +DE V +_l imits +ron es +I AS +Ġt au +min o +_W rite +ĠW ine +Ġ[ [' +ĠP ull +rit ers +ri ents +Ġsh ifting +up p +_TIM ER +ĠCondition s +Ạ¥ +ĠOr ders +ĠSt rength +æī Ģ +Ġvalid ity +Ġf ot +et ur +Ġb olt +åĨ ħ +ĠAl ong +os hi +Ġassum ptions +Ġmag azines +_S PI +Ġp unt +_PRO DUCT +Ġrel ay +ĠJ avascript +. te +- es +Ġwidget s +(f s +< Item +_ex tra +Ġrecru iting +E t +Ġnecess ity +p w +Ġnov els +uss els +Cre ator +ĠM VP +ĠO C +th ood +cl ients +)) * +Ġcharacter ized +_SE ND +ut i +T y +.from Json +@ Service +ãĤ Ĥ +Ch ris +_ Is +ĠJohn ny +Ġclean er +ĠInitial izes +UN K +( axis +еР· +ie val +ĠWar riors +} )( +DM I +âĻ Ģ +ĠTre asury +Ġfe as +Ġsl a +_EN UM +l hs +ĠIn stit +ipp ers +Line ar +Re ading +quir ies +-c ell +ch rome +.S earch +IN A +ç±» åŀĭ +ĠĊ ĠĊ +ĠSam uel +Ġmill s +Ġdon ate +ĠGe o +( rows +Ġshe ep +Ġé l +ä½ ĵ +Ġb em +_UN USED +ĠR CC +Ġintrodu cing +att a +ĠP riority +ĠF B +ĠSer ge +> "; +atch ing +ĠKnow ledge +ĉ The +; margin +less ness +op ard +um atic +() ));čĊ +Ġf als +(c ache +Type Id +éĢ ļ +_ choice +ĠGo th +ĠS ites +M G +_b order +Ind ices +Compar er +ĠRed istribution +Ġclo set +Ġvers atile +Input s +**************** **** +Ġob esity +qu iz +gr a +(g lobal +åĬ ¡ +Ġcollect or +Ġk or +ov able +AD C +ĠEvent Handler +. nc +Ġplay back +ient os +_p erm +_W ARNING +ĠOlymp ics +.n orm +ĠBroad cast +_sm all +dr ive +. iloc +Ġtyp ed +M EM +_con s +DM ETHOD +Ġl un +.d istance +(p ar +po on +Ġb ast +activ ities +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +: čĊčĊ +S ER +) && +_l st +ĠPol ish +Ġknock ed +Ġfrustr ation +au kee +Ġph osph +iqu id +_c oeff +æŃ ¤ +L atest +ĠD ust +T ipo +Ġmaint ains +Ġmar sh +inc inn +l bl +C are +Ġneighborhood s +_g pio +ĠAr senal +D em +ĠW he +_h ook +Ġl dc +ĠHar per +ĠBer keley +Ġgrad uated +Per cent +Ġarr iving +ĠAdvent ure +(s cope +(' * +qu arter +ĠMar ie +Spe aking +_code gen +Ġimm un +c aster +ãĤ Į +åķ Ĩ +ĠDim ensions +.rec ord +Ġtext o +ĠMich elle +P ending +( by +_P AR +uch t +be e +.Th read +amp ire +k now +ĠClin ical +Ġmargin Bottom +Ġdistingu ish +.F ull +. undefined +ĠSequ elize +################################################################ ############ +Ġeduc ated +_O VER +åº ı +ĠÂł ĠÂł +_e ach +Ġur ge +de part +Ġdon ors +ĠA u +Ġbill ions +Ġbelong ing +_ age +_ Int +Ġsub stances +m achine +!! !ĊĊ +Ġjson ify +ib bean +ĠC ad +Ġend Time +Ġc ycling +ĠUIT extField +Ġle verage +Ġvan illa +e at +La unch +( pt +st ates +ĠControl s +ĠRes pons +ĠJ ake +Ġas leep +fort unate +.next Line +Size Mode +ìĿ ¼ +Testing Module +G erman +ĠInvest ig +.re verse +ĠB ACK +( DateTime +Ġnon profit +ĠEx pect +Ġt anto +'] ), +ĉ the +M ultiple +(get Activity +_W AIT +Ġj á +de cor +lev ance +ĠGit Hub +min ation +_qu antity +.Sc anner +ĠL ion +éĶĻ è¯¯ +Ġd re +Ġtan tra +Ġcontent Type +Ġf id +_ alt +NS IndexPath +- pl +åĮ ĸ +Ġantib iot +table s +ac ial +ĠReg istry +Ġol ive +ig ers +Ġsubscri ber +_p res +ĠSy ntax +Ġlo vers +. Byte +old ers +_for ward +al ways +C aption +Pr iv +ĠT ampa +is ateur +-labelled by +ĠTo String +Ġì Ĥ¬ +Ġinit iated +W F +Ġinstitution al +in ject +ĠSc r +Ġdo ctrine +Ġsp acious +is ure +ĠAn a +" time +ess aging +Ġc id +ĠN an +Ġin complete +T AG +-b uild +Dec ember +Ġres idual +(P DO +ĠList en +Ġg lyph +Ġg aps +ne a +.R ect +Ġsa u +ĠPhot ograph +Ġexec utable +ĠExp ert +Cor outine +_s izes +ĠN L +.is Valid +); }Ċ +- reg +Ġc iting +c wd +ĠOtt awa +ĠB att +Ġrenew able +Ġprelim inary +Ġas ylum +Ġw rist +Ġutil iz +Ġdet ention +F ast +Ġan ge +incinn ati +Ġste ering +ĠNa N +ios ity +/ page +Ġè ¿ +ster ol +Ġdis g +( DB +ĠDESC RIPTION +Ġ_ $ +Ġobst acle +Ġb izarre +Ġextr action +_ex pected +Ġlos es +ĠCele br +Ġhtml For +Ġexplo it +олÑĮз ов +XY Z +Ġmagn et +amp ed +Ġat oms +S ources +pect ives +Ñģ ли +Ġ= čĊ +Ġd are +ĠWal ter +Ġbright ness +Ġan notations +ë ı +is ke +S chedule +. images +ros so +Ġ" .. +g amma +Ġin structor +Ġover write +- am +Ġdevast ating +ĠSaint s +Ġh s +Ġbon uses +$ output +ij d +(Action Event +mon itor +Ġmatt ress +Jan uary +.j p +Ġcar acter +Ġim pose +_re st +ĠSign ature +Ġcoron avirus +ãģ Ĭ +_com pare +Me asure +it ated +el ijk +ig os +es ar +Ġrush ed +met ry +_SE PARATOR +_W E +_ATTR IBUTE +Ġy aml +Ġspec s +ĠR ah +ph eric +ĠInvest ment +ä ll +Ġappe aling +Ġview port +ç © +Ġmargin Left +Ġsub tract +ĠED IT +ĉ ArrayList +gr ading +ĠF ailure +as per +EE K +(n ow +< object +ĠAl ignment +ple ado +q tt +( ERROR +ĠIN VALID +Ġuser id +ra ises +ID I +Ġvari ance +ĠN il +/ delete +_M AIN +.T oken +.C ategory +> )Ċ +Coll ision +ĠGre ater +ĠR acing +al an +Ġmon etary +, new +ĠS orry +. Enable +ĠInstant iate +oll en +ë© ´ +ĠCall ing +_h our +AD A +Ġsh y +) ** +Ġ== > +Ġes pecial +Ġinterpre ted +! =" +Ġpharm acy +.s ingle +ĠC ialis +Ġpar as +.to UpperCase +ĠDem on +Pr ime +Ġrank ings +Add ing +_H ASH +ĠEx am +Ú © +ĠVict or +Ok ay +"] ;čĊ +Ġfort une +ĠF ETCH +exp and +.Inter op +Ġb arn +æ ¶Ī +ue vo +Ġspec ulation +âĶĢâĶĢ âĶĢâĶĢ +ĠN u +ĠBl ues +(f name +Ġinhab it +Ġ\" % +C ES +ular io +_c r +Ġvalid ated +Ġmid night +ank ing +Ġincorpor ate +Ġpurs uit +EX P +pr ime +P id +- US +ĠN urs +ĠW heel +é ĺ +Ġin p +Ġsupport ive +.m ember +ĠSh ot +.Check Box +Ġaff irm +T or +Full Year +Ġconsider ably +cred entials +_ opts +R oll +( round +Ġcom ent +_U ART +Ġext ending +R G +result ado +it u +.get Session +Ġattr action +& D +$ html +ĠJess ica +ĠAssoci ate +a ñ +_ ed +ĠL ag +Ġorig ins +()) -> +add EventListener +IAL OG +åIJ ¦ +.Com pare +Al bum +ĠK u +< Q +arg est +Ġpro long +Ġconfig urations +Ġaccident ally +_ph oto +Ġ'' ;čĊ +Ġver se +B ob +Ġfarm ing +del ivery +ĠM ack +Ġuse Selector +.bootstrap cdn +keep ing +en y +. upload +ĠM ETHOD +cre ator +< _ +ĠE aster +. -- +UI Button +ãĤ ī +om eters +Ġsh ine +Ġh ogy +\ s +Ġh arness +.C ell +Ġlif ting +Ġcomb ines +ĠOcc up +ex clude +pat ial +Ġres pir +_f it +Ġfif ty +ĠM ol +Ġtun ed +-d imensional +Ġq s +Ġto ps +> ";ĊĊ +quis ite +ch annels +/ res +ĠAn alytics +.app compat +/ to +Ġon Error +( attr +IR M +Ġrag az +- as +.Se cond +orient ed +Ġdon n +Ġlight ning +f id +ĠP le +ãģ¾ ãģĻ +t ro +.Tr ue +O bservable +× Ļ +umb ing +Ġpros pective +-f ilter +Ġpurs uant +(p oints +.B ind +Ġp alm +clear fix +ö s +ĠG onz +Ġwe aken +Dr ive +en ido +l ld +ob ox +ane an +G ot +ä¿ Ŀ +Reg ex +æ ĥ +Ġsal ad +ass is +" net +inherit Doc +ĠR V +qu ier +Ġcl azz +ı ÅŁ +oster one +Ġair line +.list dir +Ġdownload ing +ĠP alm +w aukee +& lt +.B L +_IN LINE +off s +<< ( +_new s +Ġch ase +/ >< +Ġeuro s +ĠEgypt ian +ĠSt ainless +_BO OL +ĠG uild +ĠD ynam +[index Path +Ġ ï +Ġmemor able +ĠCh ampion +Resource Manager +.Log in +ĠForm er +yp ed +Ġl leg +; ", +D WORD +Ġtax i +Ġbom bs +ra h +.t ags +_test s +st ones +âĢĿ ) +[ g +r type +Ġv u +Ġhost ile +Ch ars +ĠPatri ots +/ status +< B +ĠIn come +ĠD ad +Ġpat rol +_CH ANGE +Ġup graded +Ġch ina +set q +Start ed +.U ndef +Ġcheck sum +Ġfrustr ated +{ o +Ġen f +Ġwood s +ĠAny one +Enc ode +ĠQt Widgets +are as +Ġshe er +sk i +end point +_T est +S oup +~~~~~~~~ ~~~~~~~~ +(f iles +ĉĉĉĉĉ čĊ +.sp ark +Ġval ued +Ġ% Ċ +.control s +ĠXCTAssert Equal +Ġf ame +ĠR ic +D OT +ĠAlbert a +ä½ ¿ +os al +.Web Controls +Ġ ------------ +ĠM is +ĠS YS +Non null += item +Ġexp ire +Dec ode +_ operation +ĠValid ator +.C ENTER +uff s +* m +Ġav ant +æ¬ ¡ +âĢľ You +.per mission +... ) +ĠL ic +_co ords +.n ombre +c lo +.Int ernal +ĠCh o +_s w +ĉ Il +cl k +Ġcast le +(l ayer +p it +Ġgu ided +Ġâĸ Ī +Ġsuper b +Ġsup plements +_c ent +Ġpe ek +IN ARY +.Content Alignment +f alls +")) ; +W all +). čĊ +ĠD anny +irm ingham +IAL IZ +( create +" In +Service Provider +Ġpr iced +mac ro +am ac +. box +---- Ċ +ãĥ « +ĠS uit +ur st +br u +ourn als +num ero +__ ()Ċ +D as +ĠM itt +ud er +? \ +f u +[ B +Ġ: )ĊĊ +(int er +br ains +Ġatt itudes +Ver ify +Ġsign atures +ack Bar +Ġg d +J ack +.c at +Ġz z +war f +FT ER +");ĊĊ Ċ +Al ive +IC LE +ĠWh atever +Ġout lined +s prite +еР² +_A B +_DE PTH +Ġcrush ed +aa a +(e v +æľ º +Ant i +IC O +is EqualTo +.s un +ic ulo +s ale +_h ex +ĠV k +apt or +Un ion +ĠDis count +list a +.Undef Or +Ġautom ation +N or +å¯ ¹ +åı Ĥæķ° +Ġref lex +ĠLa ure +.showMessage Dialog +.t emp +Ġa kan +Ġ__ ____ +.Is True +ARE D +ag le +E nergy +Ġquant ities +âĢĻ Ã© +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġcitizens hip +m outh +Ġin appropriate +ĠOut door +White Space +An onymous +load s +webElement Properties +T en +Ġacc idents +Ġadvertis ement +ĠY emen +(c all +Ġsl avery +Ñģ п +ĠL am +_BIT S +ome ga +ĠO le +Ġkid n +_A n +ĠR aid +Cre ation +s aved +Ġpro port +W ARNING +\ P +Ġp wd +Data Reader +is cher +ade on +ĠP redict +Ġreason ing +Ġdestroy ing +H el +* d +ĠLeg isl +_P r +ĉĉĉ ĠĠĠĠĠĠĠ +Ġsymp ath +Ġch ess +Ġm am +: hover +Ġconvert s +Ġp ela +Ġprogress ion +Ġ"_ " +ĠG ill +ĉ show +Ġsupposed ly +ac curacy +el in +Ġunf olding +ĠHy per +Ġw anna +Ġup s +( # +ĠCr iminal +( Point +at Lng +act ly +Ġcontract ors +'] } +draul ic +ód igo +ĠT T +ĠW ide +ĠAR G +_ ic +FLAG S +S chool +Ġclear ing +-be ing +={ [ +, const +man ent +Over lay +(' " +éĩ ı +ĠT imestamp +Ġmail ing +ĠC ake +.Th at +Ġmed itation +q p +Ġemp resa +ĠL ions +Ġw eld +ĠLinked In +Ġc ush +Ġgen ome +.Index Of +ag ain +Ġf allback +Ġcamp ing +re dd +-strip ed +Ġd v +Fe bruary +ĠPro xy +us k +Ġdies el +W RITE +RE AK +L orem +.In voke +- div +Inter ceptor +ĠD H +ia les +Ġvill ages +Ø ´ +ĠEN V +S ys +.X R +Ġpo em +à Ĥ +c ade +pl ots +Ġ{ ( +.g it +/s vg +nc mp +ĠÄ į +ain es +åĩ ½æķ° +Ġ( )ĊĊ +ops is +ĠRel ationship +_ aut +ĠB omb +ĉ com +* sizeof +off icial +_p ayload +ĉĉĉĉĉ ĠĠ +.m anager +ĠA round +ĉs end +ĠEx ercise +ĠB illy +iv i +Ġneed ing +_url s +_t asks +ĠH em +Ġtear Down +enc rypt +.t ie +Ġas m +IC H +ĠCGRect Make +ìĦ ± +ul ong +Ġit r +ĠG ST +Ġoffer ings +ro be +EE E +oper ators +_PRO P +ind ent +A DE +or f +ë IJ +Ġbless ed +vas cular +Ġcon oc +H appy +B ridge +ilit ation +j oint +ĠAdmin istr +- transform +Ġmeant ime +/ K +ĠBed room +Ġrig id +Ġbrows ers +EM PTY +.S erialize +_ ED +Ġst itch +Ġj an +ell t +Ġbr ace +Ġtr ails +p ublished +å¯Ĩ çłģ +} ')Ċ +Ġac ids +Ġ! !! +_d irect +> ());Ċ +aj Äħ +_O CC +Ġplan ets +æ Ł¥ +ĠDub lin +Ġser ie +.print f +de ep +` ) +Ġ\ $ +ĠÎ ¼ +_V IDEO +end ors +ĠC rypto +F ar +.Trans parent +.T R +ias m +_tr aining +Ġteach es +ĠB elt +Ġlimit ing +ĠK ath +ĠIndex Path +Ġachie vements +Ġser á +interop Require +Ġdis se +.I f +arm ing +uls ion +P o +_DE TAIL +Prot otype +ĠC AL +Ġagre es +.v o +.Execute NonQuery +ĠTop ic +Ġ' {} +Ar m +Ġe cc +M ag +Ġserial ized +ĉ conn +c ached += tf +ĠByte Array +prot obuf +var char +ĉ ASSERT +Ġlist e +_tr igger +· ¸ +Fe el +T ahoma +ĠL ik +Ġstruct ured +erg us +.In itial +_ ge +cl js +.cont act +Ġand ere +$ stmt +_C URRENT +ĠDis cover +$ res +form atter +H a +vang st +Ġem erge +ãĢĤ âĢĿ +ĠCabin et +-s quare +éĥ ¨ +Ġr age +ĠA J +ĠV T +sh adow +ĠFa ith +en ames +pret ty +has il +part y +Ġvar char +Ġf otos +Ġal um +ĠBelg ium +.y label +Ġde j +_num bers +Ġh u +.set Adapter +ĠUs ually +(s ample +.Sh ared +Ġbook ed +Ġ>> = +Ġmin erals +"> +pro g +bo o +_m d +_p ack +(ex press +ut z +\ Auth +, id +ĠCh ile +act ice +Ġrecruit ment +Ġpos es +Ġvulner ability +inst anc +or um +d ess +Ġx l +%%%%%%%%%%%%%%%% %%%%%%%%%%%%%%%% +( fig +Ġdelet ing +.d el +) ')Ċ +ĠWeek ly +?? ? +(str cmp +sm ith +Ġpurs uing +- so +ĠApp s +/ 'Ċ +Ġdec is +FO RE +Every one +Ġl anes +V irtual +. attach +( Log +ĠMed icaid +( Path +ĠTurn er +/ application +Ġport rait +Ġopp ose +check out +Ġfinish es +_M E +Bar rier +S ong +V AR +Ear lier +rell a +Ġh ast +az ar +Ġpull s +ng x +Ġinspir ing +Ñĥ Ñİ +-d irection +Ġexplos ive +Ġcreated At +st o +Ġwhe at +ĠB uilt +' ai +Ġtrack ed +ham mad +RowAt IndexPath +_ heap +D ue +Ġconnect s +.p ublish +em u +Ġbul lets +B AR +ol ate +Ġintern ally +Ġcatch ing +-p assword +ou ched +æĢ § +e ous +Ġx range +Q uality +v v +Man age +( ($ +ac ements +ĠBro thers +ĠHE AD +ĠUn supported +s an +es i +** *Ċ +Ġadapt ation +ĠWork er +'] / +.save fig +( trans +Ø ¬ +ne e +Cor rect +... ")Ċ +Ġsubmit ting +-p ath +ĉ last +iss an +.x label +ĠS epar +/ no +_b est +ĠM ills +_s ock +(f lag +Ġdest inations +em ption +ĠF AIL +å ĴĮ +Ġr p +f act +ĉ len +D AY +Ġse iz +_d st +l ip +.Line ar +ĠB asket +$ t +$ i +- brand +ĠNe il +ĠE q +Ġth ou +og ene +Ġscholar ship +æĽ ´ +Ġs wo +ag inator +en i +( book +Ġbl ink +th us +Ġcancell ationToken +ĠPalestin ians +Ġprofit able +Ġback pack +ens on +< Long +Ġp ools +Ġst icks +Ġspokes woman +Be ing +ĠHer itage +ĠN ike +SH A +ĠNotImplemented Exception +$ core +ĠR ico +/ latest +ĠC zech +ner Radius +(l ines +Ġsem ester +Ġw ounds +Pro cedure +.m ail +() ):Ċ +Ġcor rid +ter ed +ĠN CAA +Ġgal axy +_k ind +il k +Ġtr as +_P OL +ĠH et +Ġrefuge e +Ġteen age +.b inding +post al +Ġiç in +ĠData Type +é ĸ +ycl erview +, value +_id entifier +< b +Ġout file +čĊ ĠĠĠĠčĊ +Ġcr é +Ġrespond ents +ĠBe ast +ce led +Ġinter f +-th eme +g if +ĠR angers +IT AL +Ġauthentic ate +Com pletion +urs ors +Ġcin ema +Ġdisc our +ĠJ aw +OCK ET +Ġpr ayers +ĠL uis +fr ag +=[ Ċ +Ġbr ave +_p ose +C ertificate +- fe +ifer ay +ĠFl ags +Container Gap +ĠC rit +Result Set +ĉc ur +Ġcorrespond s +St aff +.Http ServletRequest +Ġneur ons +ĠMain AxisAlignment +ed ar +Ġg ad +_p arts +ĠÎ ² +Ġf x +/ files +ĠB ros +hip s +Ġgluc ose +Ġfar ms +Ġment ally +rest aurant +Table Name +ĠMer cedes +. Visual +Ġan ch +inal g +_r untime +Ġpropri etary +Ġintent ions +iz i +S lice +; "> true +ĠNY C +Ġb ored +ĠD etect +Ġapp ar +Ġje ans +ĠT ak +I OD +ĠH orse +( FILE +( ? +ri que +optim izer +n at +lo ys +ĉ Token +oub ted +u ess +oco a +Data Member +_P OWER +class List +Push Button +ĠWi Fi +. Stream +.g uild +Ġn og +ĠPortug al +ĠUnt er +Pr imitive +b oss +ĠDe utsch +Ġerot ic +Ġstr conv +.Try Parse +Ġgr ams +.S uccess +_p k +ĠHar vey +-m inded +.c ountry +[] " +Ġang el +Ġbe ats +ĠV or +il io +.m aster +s omething +ĠP ACK +( if +Request Body +Ġant es +/w idget +Ġmod o +ĠA W +find er +Ġoptim ized +Ġmiss iles +N B +ĉint ernal +t ex +ĠS ri +Ġdam aging +ĠM ais +- Allow +ĠZ h +- alt +Ġ ));ĊĊ +è ī +Ġinflu ences +Ġc atal +_REG ISTER +ĠAPI s +-cent ury +Ġbi ology +ĠAct ual +Ġhe els +TR ACE +_D IG +D ataset +ĠM atter +Ġclass ifier +.w ikipedia +ĠRog ers +Ġdon ated +raw ler +en en +Ġcas inos +ort al +Ġpr ive +s pe +duc ers +. ep +Ġgr asp +ac ji +Ġd airy +Ġb uses +.com m +. ins +ĠI RS +ĠBe er +ad c +o ard +_M ET +Ġ' +' +r ans +Ġkind a +ĠâĶ Ĥ +ĠM aur +аР³ +Ġband width +ib us +ĠD ifferent +(m at +ĠRes ume +_UN S +est ablish +Ġfon ction +Sub scription +_com pany +Ġlight ly +.con firm +.y aml +ĠBo ost +Com merce +- template +_DEL AY +ĠH I +Ġn avig +(S ender +ĠH S +_ "+ +ĠRE QUEST +Ġw ifi +=" "Ċ +]) -> +Ġro pe +Ġviol ated +Ġgl ance +ĠK urd +Ġè ® +de ck +ĠIS BN +Ġin fect +ĠF oo +Ġget ter +Ġt ener +ap pe +.h h +_h ot +< AM +p oly +! ",Ċ +Ġconver ting +ĠW WE +RO S +(' { +Com mit +) L +ĠO re +Ġsp arse +Ġdis posal +Ġcan celed +åIJ İ +Ġa er +Ġvin yl +á» ĥ +rec ogn +ark ing +Ġtrick y +* s +Ġproceed s +Ġis o +Ġco conut +Ġcraft ed +IEL DS +Ġquest o +Ġcomm un +_CON NECT +Ġtraff icking +De ep +a ções +c odigo +ve au +Ġbet ray +int a +T ED +æ r +m art +_B US +/ sc +ial ly +Ġcigaret tes +è¯ ģ +(n n +Ġmodel ing +/ products +w arn +Ġmet ro +ĠI v +& ) +ĠC able +Î » +Compar ison +g ary +ĠB A +P ART +Ġp v +_up dated +C redit +orth y +observ able +Ġthe atre +B LE +; }ĊĊ +la unch +_str ings +ug o +ĠR PG +- auth +Ð ł +hol m +ĠP and +U id +Ġim ply +ìľ ¼ +'] =' +/ User +Ġstr cat +нÑĭ й +Data Adapter +Ġland sc +Ġdipl omatic +ï¼ ĵ +************************************************************************ **** +ĠCh icken +Ġbc rypt +.In f +[ col +ĠQu antity +- position +Ġdiet ary +Ġfil mm +Is rael +Pre v +ĠMill ion +Ġrem ed +Ġbill ing +Ġout doors +.t m +Ġn ad +F org +Z Z +Ġs sl +], ' +K T +f req += document +bl ur +¬ ¸ +ĠJeff erson +C s +(s ave +Ġstr ap +Ind ia +Ġide ology +BO SE +ĠF P +( ans +Ġfe ver +ĠY am +K ing +à ² +AT ING +bo hydr +roll back +Ġnew Node +ĠN VIDIA +Ġhon our +ĠCon firm +xb d +Ġsuccess or +/ u +l iv +ourn aments +Att achment +Ġgr up +Ġtri be +Ġca res +e ft +_s ame +' label +Ġ ãĢIJ +M otor +Ġin exp +Ġ" (" +_POS ITION +Ġval ley +ĠResult Set +Ġpres erved +Ġmut ations +Ġquestion ing +mun ition +parse Int +ĠS r +ĠMet adata +âĢĿ ï¼Į +timestamp s +Ġtrans itions +í Ļ +Ñ Ĭ +i om +.D o +Ġp ine +Ġf ung +Ġtrans mitted +ct ime +ĠF am +Re vision +B as +UP ER +D estination +toHave BeenCalled +Ġun fortunate +IN ES +_pro f +Am ong +ĠCy ber +ĠB attery +gen re +ĠView Model +- = +Ġutil ized +p aint +.Integer Field +ern ity +comp iler +âĢĭ ĊĊ +ĠM asters +.To Array +Ġstrt ol +ĠUkrain ian +} ));Ċ +Ġsh emale +" That +for all +/ download +Ġrhet oric +.l atitude +ĠWH EN +Ġshock ing +IF IC +.N ormal +_F OLDER +Ġdr ift +Ġmount ing +- book +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ĠWire less +> ".$ +Ġrel ies +( Console +Int ernational +-> {$ +M id +Ġdis sert +dd s +Ġdepos its +ĉd river +# ga +pr ising +print ln +Ġpres enter +Ġmin es +C SS +ĠD ual +(! ( +Ġk am +Ġis Loading +ĠProt ect +. upper +ar ium +]: ĊĊĊ +Y ii +-sh irt +ĠIM AGE +_color s +Ġur gent +.Cont ainer +! (Ċ +S aturday +Ġsoci eties +ĠTh an +ĠC od += @ +Ġattach ments +.m obile +Ġsp ite +Ġb ounce +raw l +instanc etype +ĠTr uck +Ġmanip ulation +( Config +-in st +Ġst or +it ution +Preferred Gap +Ġmain AxisAlignment +Ġlist ened +'' 'ĊĊ +ott age +- project +.AP PLICATION +ĉ root +Ġwh it +Ġb ilder +Ġk er +Ġappl iances +row ave +ìĿ Ģ +ematic s +ĠO rg +op ing +_SE ARCH +Ġch am +add ContainerGap +Ġ( ). +ĠAr row +Il legal +Current ly +Ġus a +Ġpassword s +Ġre nown +av ern +ĠEv il +Ġconc at +Ġdu o +Ġv ale +ĠBe an +Ġindic ators +cm ath +ĠP ump +Nov ember +ific ant +_DOM AIN +reg ar +ĠPort al +" $ +Ġformer ly +"] :Ċ +ĠVis ibility +.getElementsBy ClassName +_RE D +Ġch ampions +à ´ +Val or +_ es +* a +-re peat +B and +.st age +Ġbure auc +C nt +et en +- function +Ġm uito +P ID +_ editor +Ġcrash ed +de ad +k at +ag h +ĠEX T +ass er +-sm all +Ġreal iz +( Entity +ú s +ĠAct ually +ĠEl ite +Ġhel m +(non atomic +ash er +Comm unity +all eng +ir y +ĠG rowth +Ġs ue +Ġfrequ encies +_des criptor +.At tribute +Ġrecip ients +_N S +/ "+ +ib an +Ġath lete +ĠI gn +_D MA +(d s +ĠRequire ments +AD I +ere z +\ Admin +br aska +ĠR ust +Rel ation +C OD +ĠV ERSION +em ma +)) { +.D uration +ĠC amb +- logo +Ġread able +Ġcre ators +() ];Ċ +Up Down +-h alf +.get Month +(s f +P ic +Ġhun ger +.t x +Ġexceed ed +_se ed +( ^ +_s k +.per form +Ġ> :: +Ġm ongo += float +bind Param +Sm art +if a +Ġse curities +Ġpre jud +Ġ, " +Ġcor ps +Ġv ra +amac are +it err +(M edia +uch e +Ġc ob +Ġlib er +. geometry +Loc ator +Ġsl iding +Ġsurg ical +_C UR +Ġcon sect +[ * +ĠRes ort +St ub +_DO UBLE +ĠS oph +Ġelect oral +_dis able +ĠÑģ о +ĠLight ning +Ġment ions +oc y +Ġle aked +Ġrelax ing +Pres enter +v sp +Ġgu ilt +=- =- +.re ply +ĠMir ror +C amp +Ġ+#+ #+#+ +Ġ+#+#+#+ #+#+ +.A uthor +Ġdirect ive +-h ook +íĦ ° +}ĊĊ ĊĊĊ +@ pytest +_r and +m is +Ġcolor ful +u je +lass es +ĠClass es +.h ave +% ), +é¢ ĺ +Ġdistur bing +sub string +ĠK oh +In vest +p urchase +Ġrec ycling +ĠA RT +ier archy +Ġf ps +.check Box +íķ ´ +_m aterial +duc ation +Ġf w +ud it +Ġreview ing +ĠS id +S yntax +ĠW ritten +arg ar +UM E +/ q +Class ifier +Off icial +Ġj azz +Ġom ega +Ph ysics +Ġl ugar +_access or +.command s +Ab ility +ĠB atch +R AM +Ġencount ers +. Qu +BY TE +ĠD istribution +Ġus o +ĠReco very +appro ved +Ġden ial +/sh are +Linked List +)čĊčĊ čĊ +udd y +Ġf ines +Ġr y +Un icode +ĉ render +Ġprem ises +Ġp on +ali ases +/F oundation +c uda +ĠC ock +,: ) +(f older +Ġm éd +dr ag +Ġtal ents +ĠĠĠ ĊĊ +е ÑģÑĤв +m ob +.y ml +Ġa ster +Ġdis cre +go al +ĠGT X +ĠS UCCESS +ĠL ONG +(f ind +Ġsing ular +_s z +ĠEth ereum +.. Ċ +Ġir res +')) {Ċ +Ġmin isters +St eps +ivers al +ĠNever theless +- led +Ġ( %) +ç¡ ® +Ġtime zone +Ġstr anger +(re nder +Ġsh util +Ġm ph +Ġtri o +pp y +Ġpred omin +Ġend ors +ĠRuss ians +ĉ row +Ġw izard +.s erialize +Ġcompl ained +Ġs ido +Ġdelight ed +-m e +ĠR av +H uman +ad ays +rec v +Work ing +J ump +ĠÃ¥ r +ĠAut omatic +_B ase +æł ¼ +aur ants + ¯ +æ ¸ +(C Type +IF I +( amount +Ġbelie ving += mysql +Ġf ir +Ġrest oration +ere co +Ð ¢ +_ '+ +Ġe book +Ġde bris +(input s +AY OUT +Ġscre aming +av ia +land er +Ġdist ress +Ġas sembled +ĠA void +( thread +ĠR PC +_EX IT +( queue +и ÑģÑĤ +D ll +Ġsk ull +_p ub +che z +min ate +ens en +Ġins ane +b ounds +ĠR osen +Ġcondition ing +process ed +v ideos +f our +.Con v +| ;Ċ +Person al +cer pt +:UIControlState Normal +Ġdos es +ĠKar l +ĠFre qu +.B ASE +ĠV ote +Ġcon current +ĠMessageBox Icon +Ġà ĸ +ĠDub ai +ĠR etail +: number +ĠOb server +ĠBig Integer +_ origin +_W ORK +F rames +Ġnot ably +. âĢľ +Ġtrop ical +Ġn iche +am ina +.s ys +(t okens +mod ify +os it +st rom +ĠCom ics +O PTION +T icket +Ġfact ories +Ġdis put +_F ile +ĠFin n +ee e +ĠDisc ord +_m oney +.t pl +_s afe +L B +Ġgl ut +J K +.fl ow +- cont +g os +Ġhor izon +ĠR ush +:: * +P ipe +ull a +bor ough +he imer +(m ove +( Text +} );čĊčĊ +w elcome +ĠCom ponents +Ġgovern ance +c losed +ĉm argin +Ġla undry +ĠTerm inal +iz ards +. âĢĶ +.rem ote +.r adius +ĠQue bec +Ġd h +T ech +ĠM ist +s eller +_l iteral +Ġgen ius +Ġbr ains +g em +ĠMe asure +Ġcata st +r ance +.Text Field +Ġconsum ing +Ġ'\ '' +oubted ly +ĠC ertain +E v +ert i +be ing +Ex perience +Ġ// [ +ĠArab ic +ĠC rist +ĠAz ure +Ġhor a +l adesh +\ Blueprint +d ar +.re l +Ġsup rem +ĠRe agan +ĠAt tributes +-s idebar +Ġuse Styles +ĠA irlines +Ġh ills +/x html +v inc +_m ock +Ċ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ +ĠP ill +.Layout Style +ĠCommand er +] < +sign ature +Ġ{ }čĊ +Ġhat red +Ġë ĭ +ole sterol +Ġ ******** +ancell or +c rop +T IM +ĉĉ ĊĊ +ys qli +uit ive +ĉun set +_s el +Ġmen us +t ick +Ġconstit ute +ĠElement s +ĠRed is +agg io +_f p +_de pend +em as +CA ST +or ange +j on +ĠEm ily +Ġpot atoes +Ġre ceptor +ĠElect ronic +ĠL ights +Ġcomb ining +ĠSome one +Ġ######## . +ĠT OD +/ show +X d +." ' +af x +Ġtr agic +St yled +ĠMar co +G allery +d ale +.âĢĿ ĊĊĊĊ +é rie +/s ervice +äº Ĩ +Ġamb ient +_SET TINGS +.Ad apter +l ene +Ġtrav els +Not ice +Ġcle ans +ĠF em +ch air +Ñĥ н +/ my +_b ad +ĠEcon omics +IS A +_C NT +(M enu +äº İ +ĠR idge +Ġlength y +D ot +Ġjump s +Ġhe y +$ pdf +Ġw orm +Ġs ut +Ġsh er +iam o +ĠCal c +trie ve +Ġc ops +ĠCh rom +Ġreg ulated +reat ment +ĠHigh er +ok s +Ġde ze +LOC ATION +ongs To +Ġfin ite +Ġvar ies +Ġposition ed +' il +éĩ ij +Ġh ike +(d one +play list +Ġad a +Ġcoast al +ĠN ancy +.DateTime Field +Cpp CodeGen +ĠSimilar ly +re ur +ĠCon tr +ĠH idden +ĠB eta +atch ed +_inst all +. Output +Look up +ĠRich mond +qu ared +Ġm anga +-control s +ĠBern ard +L arge +Ġslic es +Ġoff ence +ĠM ega +Ġest ar +Ġjoint s +Ġsum m +_pl atform +B uff +.add Subview +Ġret ained +Let ter +.d im +Ġess ere +ĠS caffold +EX PECT +ĉ RE +.long itude +ü nd +Ġstat ue +.add Widget +ĠCar ibbean +add PreferredGap +il de +UIL abel +ĠOp port +Ġimper ial +urs ion +Ġmand ate +Ġpromot ional +Ġv k +ia ÅĤ +Ġp yl +ĠCre ation +оз д +Ġsim pler +. what +ĠRec ent +St orm +. quantity +ĠL ov +" - +ubb les +_not ification +(w orld +ur ger +* (- +: "Ċ +h m +ans hip +ĠAl most +Ġmotor cycle +_f ee +Ġabsor b +ĠVin cent +Ġsound ed +ÃŃ st +Ġpharm aceutical +ht ag +ĠKind le +ital ize +ĠEm peror +oust ic +Ġspecial ists +åħ ¬ +Border Style +/ \ +RE LATED +(', ', +(ex pr +Ġh t +åį Ī +_C reate +Ġspecial ly +Ġ[] ;čĊ +Ġhe el +Ġse pt +_ arch +(in itial +% .ĊĊ +\", \" +Ġdiscuss es +Ġu pt +Ġ[ & +Ġman us +.h and +ĠM AIN +ĠDen mark +Ġ], čĊ +Ġcr yst +Ġn ack +Co ords +_in ner +Ġmid st +Ġaw ake +ĠÐ ŀ +-b reak +ÃŃ vel +_P ASS +ĠParam s +Ġdet r +Ġsp ider +ĠCon cept +Ġpre nd +CH ED +.Ex it +Ġpop ulated +Ġvirt ue +_SE SSION +Ġnou vel +o auth +Ġд аннÑĭ +r ink +.Header Text +atur ated +Ġer st +Ġå ħ +ॠĩ +_vis ible +ey er +Ġli able +Ġde be +Ġb w +{- # +_W IN +df s +H over +ĠP UT +- angle +Ġnob le +Ġtr aces +enc v +Ġuser Data +_in s +ĠS uz +Ġnews letters +ĠMod i +Ġentreprene urs +Ġtrib ute +Ġrum ors +Ġr r +ĠQu arter +ê³ ł +Ġfeed s +ó g +Ġen velope +Ġle ar +Ġk ø +develop er +Sim ilar +: ")Ċ +sub scription +Mod ifier +ital ic +Ġn asty +Ġtermin ation +Ġchar ming +Ġâ Ł +ton s +.tr ace +h ots +ĠU R +M ont +Ġjust ified +ĠG ang +ine a +Ġb og +( ap +_ $ +Ġcont amin +.D ot +ĉ Debug +( exports +Ġpa ired +ĠAss ignment +Ġautom obile +ĵ į +Ġph ases +v w +@ SuppressWarnings += \ +r ant +- ed +ĉ await +Ġcert ificates +'> " +Ġint act +CT RL +M ike +greg ation +AT TERN +Ġre public +_up per +ili ary +Ġcomput ation +h ire +ĠSh in +_ ANY +ĠManufact urer +ĠC arm +Ġbear ings +_c omb +c ad +ur istic +Ġwholes ale +Ġdon or +.inter faces +press o +ĠBr un +-c lose +pro ve +_S K +ĉf rame +et ros +ĠP ain +_EX P +ĠL T +_f s +.dat as +ĉ ss +vo ir +ĠA xis +M ajor +=" < +[ h +Ġprof ess +igr ate +(s core +Key word +" os +ĠĠĠĠ ĉĊ +an alysis +Ġre play +.p ass +\ d +t ls +Ġsan ct +.l ight +_m obile +ÑģÑĤ ÑĮ +ĉt otal +u ity +Ġpa used +N AS +Ġen core +lo e +Ġ-* -ĊĊ +.h igh +am pler +ĠSec ure +Ġfrag ments +_ vel +ill ary +ĠSte in +ĠD awn +Ġmax imize +ภ¢ +Ġ/ ^ +Ġcontin ually +Ġsh adows +ĉ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +ĠI ActionResult +Ġinform ación +C HECK +.Selected Item +b undle +ol ley +< Int +AIN ER +ĠW ing +tit les +ount ain +C Y +ĠLoc ale +form er +< context +R adioButton +_s chedule +Ġfab ulous +Rob ert +_PRO FILE +Ġg ates +IM P +ĠPent agon +g old +b ach +employ ees +R otate +Ġch amp +Ġsel bst +Al tern +Ġconvert View +/ , +Ġ~ ( +St reet +_ place +Ġpersonal ized +P ublisher +ĠSO CK +_NAMES PACE +ĠStand ards +so ever +_C ENTER +Inter est +ô t +tem perature +View port +get Resource +Ġeat en +Ġsem pre +Ġab normal +Ġc ylinder +Ġtroub les +n od +Ñĭ в +g ames +_g l +Pl ane +g rey +_t bl +.Component Placement +ĠCh ase +Log ging +man y +ì Ĩ +Ġfl ame +="< +Ġtra jectory +_r ing +Ġhydro gen +tr on +Ġstat ute +Ġcondition al +Ġtr ay +-s chool +(w idget +$ config +Ġrequest ing +. uint +et on +brit ies +Of Type +AD MIN +p redict +Ġg egen +ĠH app +OC UMENT +ĠA part +Ġ---- - +ro e +u ide +just ify +ĠSqu ad +Ġprof es +.b ot +_c urrency +inn en +ĠM umbai +ĠNum bers +avana ugh +agn itude +âĢľ There += http +çī ĩ +Ġv b ++' {{ $ +Ġin ode +s il +Ġh ace +Ġsever ely +ĠOver view +Ġspr aw +Ġbeach es +: left +· » +($ { +ĠF IRST +ĠSp a +- ass +Ġb aise +ĠN ODE +ĠP izza +P et +(se q +\ ">Ċ +CppMethod Pointer +Ġv p +Ġi a +_se conds +em et +/b lob +_TH RESH +... čĊ +D est +ĠN H +.data Source +it és +ĠJ ak +s ell +Ġwork shops +< u +Ġr ivals +ĠEX ISTS +h om +-t oken +compat ible +.J Panel +Ġphys icians +art in +Ġdes irable +Ġdistinct ive +.D ep +g id +ili ate +, max +Ġprem iere +Ġq Debug +Ġadvoc acy +Ġwh isper +P t +Ġun changed +_q ty +请 æ±Ĥ +Se ason +avel ength +ĠP ul +Ġd ÃŃa +'] ]],Ċ +al is +(" & +bor o +Ġb m +ĠR adi +w rong +ĠGo ing +ime Type +ij i +- feedback +ĠN ames +ĠB apt +Ġprob able +ĠE ther +ĠPolit ics +_prot ocol +lin ing +S at +Ġcor rel +.Pr imary +(null able +RI ORITY +Ġcolor ing +Ġutil izing +d as +Ġexport ed +Ġcar riers +Con v +. editor +i ó +(h andles +Ġapprec iation +. import +ĠAust ria +ĠStr ip +il ight +Ġappropri ately +ĠP rest +ĠW ir +ĠUI Application +al chemy +ĠM ob +ĠD etermin +ergus on +register ed +_con vert +ĠVlad imir +.Show Dialog +ref lect +Ġsh ook +Ġass ure +ĠO ften +Ġcivil ization +Ġvocab ulary +fore ground +ĠS cope +Ġunw anted +act ing +Ġ( [] +Ġmark ing +. original +ĠMO VE +Ġsport ing +ception s +NS Number +S izes +Ġprovinc ial +_Tr ans +Ġproblem atic +d igit +ĠEm ma +lock s +ĠC rew +ib a +') : +ish a +Ġm amm +Ġocc ured +w cs +(r ule +Ġmerch andise +es pecially +ĠT win +Ġn aming +Ġs log +Ġimpro ves +Ġad her +: text +.h adoop +_HT TP +.to List +.dis abled +Ġl enses +.in i +ĠR are +ĠUb untu +Ġsc ram +ol ation +tit ulo +Every thing +Ġnod ded +icht ig +_const ant +z c +l ift +ĠNot ify +ond o +ĠIN F +(" + +ĠK az +Ġd read +.m apper +le ur +ĠCome y +ĠN B +ic ers +.P ush +ĠH ack +ĠBrazil ian +_pro d +Ġ// ĊĊ +Ġb icycle +Ġun available +Ġadoles cent +bl k +Ġmit ig +_bl ue +ì ĺ +fade In +ĠUtil ities +ĠM N +; k +< style +- status +ind o +Ġinn ings +Ġg j +Ġ|| = +.e u +: Number +Ġcuis ine +ĠURL s +ie k +Ġw ires +ĉ ps +ie g +.m k +so ap +Ġsom etime +Ġst ap +_s eries +.T arget +æ º +.dest ination +OUN TER +R aises +& A +Ġsmart phones +NI Env +.s dk +Ġhelicopt er +Ġim pe +ĠB irth +A U +b readcrumbs +co ords +Ġexplo red +Ġl od +ĠI p +g able +ian e +Ġart ifacts +Box Layout +ا ر +list ener +.c art +ĠH uff +ĠHind u +ĠData Types +ĠDr upal +IGN ORE +Ġoffset s +ĠR TC +- login +æ ® +ĠQ Object +Ġprosec utor +R ock +_ch at +W ay +ì ² +Ġneg lig +Ġd ude +; < +Ġdeleg ates +_f ailed +/ dev +/ work +( New +et able +() " +( Icons +Ġp ork +ĠModel AndView +ĠV IP +ĠK or +m ix +Ġox id +ĠSC REEN +ĠFour th +/ ",Ċ +Ġte e +ĠSte vens +t icks +Ġp ledge +ib bon +ĠLo an +Ġne o +n umpy +ĠShared Preferences +- oriented +ĠLogger Factory +ĠGraph QL +zen ia +" _ +W omen +.c ast +Ġdeliber ately ++ b +ĠAr n +font Size +Ġm aze +Ġbl amed +.m as +} )čĊ +eler ik +Ġsc anning +ĠWork shop +Ġfind en +Ġca ut +UI Font +( return +al in +cast le +//////////////////////////////////////////////////////////////// //////// +Ġincent ive +op ath +b lob +Ġcigaret te +Ġfert il +*/ ĊĊĊ +ĠSh ar +Ċ ĠĠĠĠĠĠĊ +Ġunc ertain +ĠS ton +Oper ations +ĠSp encer +Ġdef in +ĠS olo +on est +·» åĬł +Ġu omo +G ive +Ġdent ro +; padding +ent ai +ĠC ars +Ġenthus iasm +ĠOper ating +S kip +par ation +Ġprotect s +Ġre ver +d g +ĠC incinnati +Ġconsect etur +Ġm uss +employ ed +a uses +ink le +. Values +£ ¼ +lo v +_W ARN +Ġbook mark +ĠAp ollo +. axis +Ġm ét +Ġop ener +Ġtum or +d an +Ġelement ary +Ġsk ipped +ĠK er +as ia +_res p +Ġdem ol +ĠCan adians +Ġt astes +U Integer +Ġ' ${ +.aw s +RO ID +ri ans +M Q +ord able +Ġcous in +Prop agation +(S ession +ph alt +UL D +ĠSc alar +Ġblo ody +Ġ ঠ+.m ask +, q +ĠUn its +Ġcent res +ĠPr im +. ]ĊĊ +ĠSh aw +P rom +ĠTh ought +Check er +_output s +( chan +E INVAL +Ġb ob +_c mp +P ed +Ġmat rices +Ġvrou wen +Ġgenu inely +high light +(d isplay +) != +Ġdel icate +ĠL uther +ĠM iles +Ġuser ID +% = +ate urs +_B UF +---- ---Ċ +imit ives +Ġsh elves +sl ow +_in formation +LE G +W r +.form s +cel and +/ un +: & +.âĢĻ ĊĊ +=" % +Ġpro st +Ġfont size +uc ión +get ic +am t +=" . +Dec or +B rit +Ġ"" ). +Ġfound ing +.File Name +ĠT ier +Ġdisc lose +á m +.s yn +.View Holder +lic ant +_st age +Mon day +Ġdes erialize +t alk +Ġtradition ally +æĢ ģ +Ø ® +LE X +Ġe h +ĉ ROM +Ġ{ })Ċ +Quest ions +nc py +Ġfix ing +к Ñĥ +_ Key +: x +ĠSTR ING +ĠÑĦ ай +ĉ left +ĠBen ch +ell ij +UR RED +ĠDi agram +} catch +/ time +ĠMiss ing +db name +Ġs ore +ĠW alt +ugg ing +rep resent +ĠG S +ne ys +ĉ page +Ġvol can +(b tn +Ġexceed s +Ġ erg +Ġpil ots +ĠS ed +ers ions +Ġpat ron +R V +/ top +. asset +_c ross +. Editor +.t b +Ġwel coming +SC REEN +) findViewById +C oder + ",Ċ +_P in +ues e +Ġover rides +_ ready +Adv anced +Ġop i +-c art +("/ ", +ĠDe b +CR Y +ĠVert ical +ĠO VER +ĠCorpor ate +Ġ"" ; +Ġste pping +e j +Ġaccus ations +Ġor az +_t ail +Ġindu ced +Ġel astic +Ġbl own +, // +Ġbackground s +âĢĻ une +-s dk +Ġset Interval +Ġincent ives +Ġveget able +_ On +exp anded +p ix +_sh ader +ĠSP DX +@ example +ĠW rapper +.Z ero +Pos itive +Ġsp inner +Ġinvent ed +ĠG ates +оÑĤ оÑĢ +Ġcompar isons +è · +.pr imary +data Provider +add itional +ĉ options +s napshot +.set Horizontal +Ġ" {} +ĠFish er +hal ten +< Type +Ġmax Length +ĠM t +Ġê° Ģ +.jet brains +Ġident ifies +Ġflow ing +ĠDisc ussion +ats by +Ġsch w +ught y +Ġr ivers +.un ique +_PH Y +ed ral +( ll +Ġcs rf +pp ers +ü l +ĠEs pecially +port ed +ĠHarr ison +****** */Ċ +Text Color +ìĬ µ +w ire +Ġstatus Code +ĠFin ish +c ence +ĠMcC ain +ĠW or +( await +Ġ) -> +ĠRegister ed +IN ED +k al +par ison +Ġobj eto +V i +mand a +Ġrenew ed +ĠS of +ess el +.nd array +Ġcr ap +ç® ¡ +.ab spath +( up +Ġclear ance +ĠT W +_C OPY +ĠĠĠĠĠĠĠĠĠĠĠĠ ĉ +Ġforest s +Ġarg uably +ĠA SS +he y +am el +_f ore +ĠSou theast +Ġab used +Ġpract icing +aked irs +ä¸ » +_res ources +Ġp ond +.F ixed +Last Error +ĠPsych ology +Ġ" // +! : +Re usable +Ġmens aje +Ġro spy +Ġb our +Ġvar ieties +Ġem path +(( { +_ org +ĠM es +ĠMag ento +IST ORY +Un less +Ġh j +ĠD uty +J un +, size +Ġpaint ings +Ġdisp ens +d art +Ġbehavior al +Ġr pc +cal culate +fr uit +_m m +ĉp thread +Max Length +Ġc urrencies +_cap acity +ĠO z +Ġfire arm +Ġcoeff icient +Ġbankrupt cy +w art +Ġfat igue +AV A +Ġes pa +_p c +ĠQu otes +_L IGHT +ĠT ickets +Ġrel ates +Ġpublish ers +Ġunlock ed +Ġ// ---------------------------------------------------------------- +ĠInterrupt edException +Ġout look +r n +Ġreb els +W ritten +Ġas ian +ot to +Ġ ĉĉĉĉ +_g pu +T xt +.Image View +Ġsu is +_t ables +.Rec yclerView +Ġwhat soever +è ģ +] ++;Ċ +assert True +_ verify +ĠR ivers +Ġ ][ +J et +id ian +S ibling +Ġgen res +.A ccess +OP S +Ġtr ivial +ภª +al en +в ед +ĠS word +Ġscrut iny +(c b +Ġcomm erce +Ġguarante es +_ad v +ĠL ET +rec io +Ġh ilar +Ġback yard +ãĢ ı +Ġillustr ated +/v endor +. Util +Ġw ow +LO Y +ĠMar shal +"> '.$ +ĠB ak +Ġmod ifiers +d ictionary +ĠSt re +m ultiple +")) , +ĠC ort +'] "). +( admin +ĠCre ator +Int ernet +( ms +log y +DECL ARE +ĠMarc us +<< << +ãģ ł +_m y +(in st +Ġsc iences +ND ER +. enter +Ġit u +Ġbeh ave +P an +omb ies +=' < +')) ;čĊ +ĠM ENU +ĠWork ers +.No Error +Ġbind ings +Ġdis abilities +{ \ +ĠM unicip +Ġco res +ur ple +ĠN okia +us ions +ĠF itness +.handle Change +Ġjav ascript +ìļ Ķ +( dec +Ġpack ing +-de pend +Ġtrans cript +z eros +_ alert +? ",Ċ +lib s +± оÑĤ +Ġ| ĊĊ +tr ained +ĠG ent +ĠR ab +x p +_config uration +å¤ © +_ accept +.rec yclerview +: url +ĠMu hammad +Ġprivile ges +_b ank +uk u +w allet +ĠRO OT +Ġenc uent +? family +ĉ position +Ġc g +Ġprec ip +method s +_f ast +in crement +ĠT iger +_OCC URRED +qu ip +ĠH AS +_d om +Ġw reck +b j +Ġd ern +Ġorg ans +. entries +Ġ_ (' +ram ento +ĠJam ie +Ġp unk +IP P +Ġprogram a +Ġatt ain +Ġpro ves +/s ign +Ġanswer ing +Ġl adder +************************ **** +ĠW almart +ĠCONT ENT +duct or +Ġver bal +ĠP ID +c rypto +_CALL BACK +Ġ= ================================ +Ġpot ent +Ġshort s +.U ri +.un iform +; border +ĠW er +Ġhere in +ll a +ĠI hr +P ixmap +l iteral +! )ĊĊ +g eneric +r ust +_script s +ost o +it us +ĠCoal ition +Ġrem ot +de ploy +ĠEag le +ãĢģ ãĢĮ +Ġimportant e +ĉ object +Ġseason al +ne j +aid u +Bind View +ĠSi erra +-b g +Ġmake Styles +[ offset +G ames +Ġhorm one +AR IO +head s +( select +ĠStart ed +@ param +_de cl +_b log +Ġa ño +\ Api +ĠMil waukee +Pro vid +An imated +Ġcool er +ĠSe ed +. Edit +Ï Ħ +ĠT aking +Ġborder Color +-found er +.Logger Factory +Ġ"" ĊĊ +AL T +ĠL ate +EDI ATE +Ġ);ĊĊ Ċ +af a +Ġcancell ation +At om +ĠB irmingham +emp resa +HE MA +asc al +Ġup side +.V ersion +ĠF older +ĠE ight +ĠV intage +ĠApp Delegate +ĠPre vention +.se parator +ST M +( room +gener ator +Ġc attle +ĉ Z +ĠPart icle +' };Ċ +Ġneighb ours +ĠState less +Ġalt itude +Ġsa int +об ав +Ġconv inc +ĠCont ents +Ġje une +(t s +Serial ization +(c ollection +ĠJ azz +ĠD od +ĠR och +ac io +comm ended +DEF INE +.on load +Ġspecial ty +PL ACE +_MO VE +Ġaccount able +Re uters +Ġf icken +Ġde pr +W ow +V oid +.s pace +à¸ Ĺ +Ġt q +ĠP ets +< $ +(C urrent +ber ries +plan ation +Ġlist Of +ĠTh u +ĠPR INT +Ġm ismo +Ġdo i +ch k +ĠUn icode +( role +Ġvir gin +< Point +_RESP ONSE +-h ouse +ĠVenez uela +EM AIL +Ġp úb +_ex ist +B all +.C L +re ferences +ĠBeautiful Soup +ĉ Expect +TH IS +Ñĥ д +b ane +Ġtemp oral +ER IC +et as +Ġrefresh ing +Ġsec ular +@ synthesize +ac cur +Ġn ella +ĠS OL +.p ipe +Ch annels +èĩ ª +Ġinsert ion +á» ĭ +el ia +Ġadjust able +Can ada +ĠI TEM +Ġcur ves +ĠChe ap +let ing +Ġoptim istic +al lo +Ġpolit ician +_down load += edge +ORT H +Ġmodel o +art o +. rotate +Ġs elenium +æĪ ij +_al ias +Ġrenown ed +.' . +Ġc zy +Ġal les +.Com piler +ĠB ass +Conn ector +.R ole +L INK +Ġc riterion +lem etry +Success fully +/p ng +Ġey eb +asp berry +( gr +Ġd angers +Ġcorrect ed +Ġgl ow +Ġelabor ate +ĠB ears +aw ai +=" '+ +Ġpromot ions +Ġmathematic al +Ġ" ` +_Generic Class +ĠChe f +.S ort +table Name +R IC +Ġvolunt ary +ĠBl ade +-e lect +ĠCom bat +ĠAb ility +Ġab dom +Ġd uck +T mp +åħ ¨ +Ġer ase +.P h +ĠDefault s +p artment +_US B +ê te +; ' +Ġp ads +ĠOb amacare +.T otal +Ġdiv ert +Ġcr icket +Ġrecre ational +( red +ĠC le +R U +Ġmist aken +ĠMont ana +Ġstr ive +_sl ider +ĠPl astic +Ġdecor ated +ĠV P +lic o +ĉf alse +Ġpre fs +( \" +_f alse +i endo +Ġ@ $ +B ucket +act ical +ĠZ hang +.c ols +.B inding +Ġw ax +_ST ORAGE +Ġlaw n +Ġr f +.Sc ene +ĠCal culator +.d esign +Ġres il +л ем +E mploy +ĠPr ices +ĠP WM +ag i +.e valuate +ĉ param +Ġbr ass +bb en +Ġinflamm ation +ull ivan +Ġan not +Ġp H +iam eter +ĠB TC +( box +Story board +Ġcl ay +.assert Raises +| string +.App ly +Ġmatch er +und ed +Ġsatisf ying +Ġìł ķ +Render ing +_app ro +ind rome +AN EL +_f ix +br ush +.M atch +Ġsm iling +on aut +S unday +Ġdelet ion +Ġencour ages +P ull +Ġreven ge +Ġqu arry +tr ade +Ġc ables +(d elta +ites pace +Ġf h +.b unifu +Ġvi el +_IN CLUDED +ĠT ail +ad ar +of s +Ġmet als +g om +_method s +Ġn j +.St d +(w in +$ (' +Ġt urtle +ur on +Ġen rolled +ĠH z +ĠBox Decoration +Ġp ont +rel ationship +B i +³ » +Ġmas cul +Ġsh ades +Ġv r +ĠLog ic +Ġa in +ĠD IST +Ġcoll ar +" profile +Generated Value +ĠP ossible +Ġe ines +ĥ ģ +.time out +ĠE c +Ġjer sey +.D ouble +Ġqual ifying +v or +CRE EN +_A pp +_rec v +Ġali ens +It s +E sc +i ator +ĠE clipse +Ġg h +V ict +ĉ html +to o +. const +Ġant erior +ĠW u +(key s +Ġul tr +_p oly +ĠT ap +ĠB ud +A WS +Ġcrash es +_t ot +Cont in +-h anded +alth ough +ภļ +ific ent +Ġde ve +ut ory +ĠW orth +_M S +Ġfloor ing +Ġsell ers +ĠThank sgiving +Ġp ng +Ġval ores +Ġslee ve +Ġfil le +Ð IJ +Ġappoint ments +Ġv im +User Info +BO OST +Ġpos ed +initial ized +.product s +ĠLeaders hip +man uel +' % +em arks +Per centage +(d ist +. avatar +(h Object +ä» Ĭ +_ iff +ic one +; ) +_n il +Ġab ol +е ÑģÑĤ +Ġven ues +.Con vert +! ')Ċ +.B itmap +sk in +_C OLUMN +Re v +G RESS +g ow +Ġw ished +tract s +.assert False +Ġscreens hot +Ġfo is +Com b +Line Width +ĠGr ab +Ġint ensive +ĉ sh ++ ) +.first Name +_PRO CESS +Ġt ilt +it ored +.L OG +Ġb ak +Ġintention ally +.play ers +(c anvas +)) )čĊ +.Pro vider +_P UBLIC +T alk +ĠL iv +ched ulers +Ġl c +ad ic +feature d +.res ources +Full Name +Ġmean while +B uffers +Ġres olver +ĠS AP +_T E +G NU +ĠForms Module +_ wh +ĠS we +.widget s +Ġcabin ets +Ġsus cept +ĠB ott +activ ex +av ar +ant ics +Ġ" =" +_k wargs +Ġgame Object +ĠAng le +.I ter +mar sh +ĠB irthday +ĠC MS +request s +ĠPear l +_E OL +Ġlin ux +( org +_M ouse +.con structor +Ġz d +Ġk icks +art isan +Ġe ax +K n +pon ge +ĠFin land +Ġmet res +ĠAss essment +part ner +/ pre +! ',Ċ +[ Int +Ġos lo +date picker +/ String +op lay +ĠHe brew +, double +Ġtrab al ++" \ +ĉ EIF +/ text +_F IRST +ĠP ete +Ġe go +Ġextr as +P DO +Ġreg ulate +ĠQ Widget +st s +ĠSh ows +ĠN HS +.c ourse +p thread +ĠF uel +.t imes +Ġ ° +Ġstr ides +($ ('# +( words +Ġrhyth m +Ġsp ont +Ġsens ation +Ġsp ike +C losing +页 éĿ¢ +N umeric +Ġbreat he +Ġfin ale +_F ACT +in ion +Ġch ill +Ġform ally +ANG ED +Ġ' :' +ĠпÑĢ Ð¸ +a q +ĠFab ric +(l at +ĠPr incipal +Ġer ro +oc ale +N om +Ġf ost +_C USTOM +.int ellij +ert ools +Ġcl asse +adi ents +Ġfundra ising +EN E +_OPTION S +_ ob +// }Ċ +Ġprote ctions +.se ed +N V +term inal +;; ; +P redicate +Ġì ¶ +Ġbomb ing +G F +Ġch ew +)) ). +qual ified +] ={ +list en +C ENT +d igest +E ast +Ġd iver +Ġend points +Ġe e +Ġcolle ague +Ġdissert ation +_com mit +_D AT +. rc +Ġbre asts +ĠR ug +ĠP il +Contract s +ĠBry an +Web View +Ġconcent rate +ĠIn ner +Ġ' | +std out +_S ub +> -->Ċ +V ol +ĠS SD +)) ), +. Optional +Ġnurs es +Ġor b +_ pe +);čĊ čĊčĊ +pl aced +ess er +Ġther apeutic +Ġwhites pace +Ġa ston +Success ful +Ġpr aised +ĠW es +Ġe ighth +ir al +Ġvrou w +Ġf action +_b ias +Ġw itch +Ġnp c +(s b +ĠRod rig +_b ig +Dep endency +ĠAb raham +ard i +C AR +n os +Ġabund ance +Ġnut rients +in stein +.V ert +ĠI SS +< U +Ġsum s +_h ist +Ġfar mer +ĠA br +Sh ot +ĠBad Request +Ġh ass +ĠR ails +Ġaffili ated +æĿ ¥ +Ġer f +IN F +ĠView Holder +min i +ĠR oth +Ġfaith ful +ĠPhill ips +AND OM +]. [ +_P AY +ĠAr ctic +f aker +D igit +M ale +std err +se ys +Ġ Å¡ +_rem ote +li que +Ġin def +ĠIndust ries +it ra +_p airs +< iostream +Ġsal aries +ik en +.F rame +PL IC +_S PEC +ĠMed iterr +Ġsystem atic +Ġinter rog +Icon Button +se a +int ro +ĠIss ues +enc rypted +Ġintern ationally +Ġsn printf +Ġpast a +ĠBrad ley +_ Status +AL K +_P AD +.l aunch +< select +Ġhar dest +Ġph y +Ġ(( * +-s lide +ĠNob ody +S u +Ġas ÃŃ +close st +_initial izer +Ġsupport er +-g en +Ġt ales +Ġcor p +_f u +s at +ne ighbor +.M igrations +Ġal gun +Ġsin on +.S pec +? ,Ċ +.G L +m ale +Ġmon itors +yl an +-L icense +.m atches +ĠA BS +ĠM ast +ĠW allet +($ ("# +Dir ty +Ġco pe +Ġinterpol ation +ous ed +ĠJ ets +.F LAG +.C ancel +.Event s +ne ver +ĠM Hz +> D +Ġs ervlet +bast ian +Ġ> & +S ID +_cl k +Ġdiv isions +} ',Ċ +Ġd ildo +Ġpar ade +m ajor +Ġab oard +; ++ +Ġf usion +"}, {" +ĠDialog Result +ĉ arr +- em +_n r +(h andler +.N ET +.Xtra Reports +ĠSh ah +ĠB rief +- , +Ġprec io +ĉĉĉ ĠĠĠĠĠĠ +Ġt ant +ĠGrand e +/ xml +_IC ON +ĠR etro +un que +Ġn ag +to Fixed +X L +Ġdecl aring +ĠCon crete +ĠAm azing +ĉprint k +Ġdeb ates +D ATED +Ġaest hetic +emet ery +Routing Module +ĠNash ville +W AYS +Ġw olf +Ġobserv ers +OT A +ans on +Ġe a +Ġgreen house +ĵį ä½ľ +Ġst air +Ġimmigr ant +_app ly +pe are +ĠBloom berg +_PL AYER +Res p +æŃ £ +Cho oser +ĠI Collection +P eter +Er ro +.detect Changes +Map s +Ġs queeze +ĠHom es +weg ian +Ġformat ting +Ġnegot iate +ul d +ĠN ep +ĠQ B +Ġeconom ies +Ġ*/ , +Ġredu nd +ĠA ber +.IsNullOr WhiteSpace +yc led +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĊ +_S h +Ġske pt +Ġre created +Ġget Type +Ġmarg ins +Ġcolon ial +ch arts +// @ +Ġprocess ors +è¯ ´ +b atis +æĦ ı +ator io +mention ed +P atient +Ġpre y +Check box +_x path +.s kip +ĠMorm on +ĠMemory Stream +CRE MENT +Ġk u +m eld +\ Data +ĠK ernel +il tr +éĢ ģ +( profile +Car bon +RO LE +( pl +] *( +.m emory +Ġmed al +Ġadvis or +it ät +Ġh dr +ier ung +ĠProvid es +( alpha +Ġteen agers +- parser +.L atLng +] ()Ċ +Ġfel ony +ĉĉĉĊ ĉĉĉĊ +BO OK +Ġsl ash +Ġclear fix +ĠPro phet +å® ¹ +right ness +-f i +.k ind +ert on +J im +Ġmanip ulate +Ġworks heet +ol in +st ars +Ġart ifact +_EM PTY +ĉm ain +------------- ' ; +Ġexpress ing +ĠI Q +ĠF act +/************************************************************************ *******Ċ +_m ass +)) : +Ġcon dom +Ġcreate State +omet own +Ġir r +Ġ> ( +> B +iter ation +ãĥ ª +Ġshirt s +ount y +-> $ +_S IGN +ĠD ale +Ġj j +E asy +F re +ĠN y +Ġch lor +match ed +ĠG erm +- UA +ĠN athan +educ ation +-y ard +- che +h ouses +r itional +Ġprox imity +Ġdies em +áºŃ p +Ġd rought +.a udio +ĠLe o +Ġfavor able +in ch +ĠD aw +rib ly +_st udent +id able +O VE +Ġlack s +ounc ing +.b usiness +Ġre open +may be +_G LOBAL +Ġdress es +ĠEd wards +ens ible +ĠHard ware +ĠEx cellent +ĠTime Unit +CTION S +Ġsched ules +Ġseg ue +Op ens +am men +- Identifier +Ġst aring +Ġhapp ily +ĠH ob +' _ +Ġ" ); +ament os +et ched +Ġ/> }Ċ +. Users +Ġinterrupt ed +Contact s +Ġreg istro +in burgh +CH A +_ imp +ph is +s ay +Ġretail er +.N ODE +/ maps +_L AST +ĠCh arge +_g uard +Coll ider +ĠStateless Widget +": [" +(" ../../ +iox ide +ĠS und +Ġ'' ; +un set +add Widget +л Ñİ +el les +alk er +A rc +Ġded uct +G UILayout +ĠV illa +Ġfor bidden +_ where +Ġ\ / +ĠT ib +_A X +] čĊčĊ +ĠB ir +Ġb end +ĠMA KE +ĠM ET +Ġfut ures +Ġweight ed +"" "čĊ +Ġauthor ize +(pro gram +}, {" +Ġcoeff icients +ê s +Per Page +ĠBath room +ĠPublish ing +G PL +Ġsub missions +ĠNUM BER +j Äħ +Ġaddition ally +em pre +ĠSh el +ot yp +S olution +Ġth under +_ ec +ĠĊ ĠĠĠĠĊ +ĠF ellow +Ġk ay +Ġnew State +ONT AL +Im plementation +.L ook +Ġ ents +Ġl ors +ĠB IG +f ab +Ġaver aged +ĠFe edback +ĠW ells +Ġm artial +Ġind ul +ĠComm unist +ĠFore x +ĠAgricult ure +" [ +Ġqu ar +ĠK ont +ĉ view +. Bytes +des ktop +ĠM akes +akes peare +.Null able +Ġspot light +V B +ow y +(t orch +tr idge +_b ounds +Ġapolog ize +.add Item +ant d +* );Ċ +, u +(g en +ç» ĵ +re ator +ĠC ord +ou pper +.m etro +Ġ ew +ĠW ORD +.A fter +Ġdet ained +ĠHam mer +ex isting +Ġo st +Ġmon ument +-c ustom +User ID +ĠN om +Ġre jection +(d im +Ġsingle ton +ĉd ie +ari ance +re ports +] != +eld a +Ġpreval ence +_reg s +." . +Ġfemin ist +Code c +Ġ **Ċ +(label s +_M ARK +FA ILED +Ġadminister ed +W N +ĠĠĠĠĠĠĠĠ ĉĉ +Ġn oun +w ig +Ġg otta +Ġr if +- im +ĠPaul o +ĠCommand Type +] ))ĊĊ +-z ero +Tr aining +Ġl ord +_ art +re ddit +C ert +Ġpes o +R ot +Ġend anger +.d r +user Info +un ts +n v +ĠTrail er +-f irst +(m ake +Ġbenef ici +-bl ack +i ÃŁ +Ġund oubtedly +Ġm ex +ĠAnc ient +( as +Ġdes cent +P ick +Ġrep lica +$ obj +ä hr +Ġar rows +ft y +ĠLib ya +ug a +charg ed +T ur +Ġh omic +iss en +ĠF ake +Ġbe ers +Ġsc attered +( Time +UT IL +Ġbureauc r +/pl ain +Ġstick ing +FA IL +ĠC ovid +Th ird +_p resent +ĠPier re +Ġë ª +Ġ[... ]ĊĊ +Pro b +ĠTra ffic +ica o +do ctor +Ġ), ĊĊ +T abs +al u +ï¼ļ âĢľ +Ġinher ent +_N o +rit is +ĠPro of +.b asename +ä¼ ļ +Ġch im +ĠProt ected +c rit +Ġpr one +Ġк он +ĠHero es +Ġan xious +Ġan os +Ġweek ends +Ġs ext +Ġredu cer += UTF +h alf +ĠS aw +.m m +Ġnue va +.current Target +.l ua +_EXT ENSION +ĉ reg +ĠC trl +_ align +accept able +Ġrush ing +fr ac +Ġbo asts +F ive + ± +ĠTem perature +> ): +Ġchar ter +RE ATED +Ġsubject ed +Ġop c +health y +使 ç͍ +ĠScient ific +Ġfra u +ri ages +à¸ Ķ +.in ventory +ation ale +M ad +min utes +>> ();Ċ +ĠEn v +Ġrecord ings +Ġsusp icion +sql ite +ĉ read +ãģ ¦ +Ġwor ries +.put String +ĠSh anghai +( uid +r er +ĠvÃŃ de +") : +Ġmethod ology +Ġк оÑĤоÑĢ +cc c +av ad +Ġindu ction +ĉ Thread +, string +ạ i +neh men +u ition +Ġ* __ +.em f +Ġì ľ +/th emes +ĠN ine +. One +ĠEm bed +Ġf az +u ations +Ġpriv ately +Ġl ing +[ F +ush i +Ġlaunch es +( KEY +G MT +Ġaim ing +pat ible +ĠB iden +i w +ĠD egree +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġ$ ('< +á rios +to UpperCase +ìł ľ +ĠE UR +Ġovers ight +Ġtable sp +Up dates +.m akedirs +Ġhum idity +/ template +Al ways +( IS +_c ert +D ig +Ġunder way +ort on +ĠHur ricane +Ġsp ends +ĠSeg ment +Ġfl ies +ĠT oggle +ĠLyn ch +Ġs enses +ĠK os +set Enabled +ist ically +Ġtest er +Ġadministr ators +Ġtag ged +Ð ĵ +Ġshort cut +ĠRes olution +Ġsuperv ision +ĠAsh ley +Tr acking +ul atory +and el +ist en +Ġun re +(d iff +ANT S +Ġr ider +Ġs Äħ +.S eries +_ orders +ORIZ ONTAL +Ġret ention +ãĢĤ čĊčĊ +Ġdi agonal +ĠC ancellationToken +_ Internal +Ġru in +.Q t +ocr atic +T el +ĠAn swers +m atic +Ġx p +at em +_j obs +_ any +Ġsen iors +Ġland mark +ĠQ List +Ġman eu +ot ify +/ ";Ċ +/ server +ĠPhil osoph +uten ant +( io +h z +Ġauthentic ated +d v +- Compatible +Origin ally +, function +ãĢĤ čĊ +ĠRepresent ative +as ily +irc uit +.d t +(m ath +.M arshal +[ , +ĠC ities +_ turn +| )Ċ +Ġcant idad +al ter +ĉ ui +ĠNe braska +Ġsk irt +.b g +Shared Preferences +( style +Ġg rief +g ew +Ġsaf eg +ol ang +_l ists +ì Ľ +Ġgran ite +Ġhott est +.j dbc +.C ustomer +Ġâī ¤ +Ġwa ar +_sc ene ++' / +ĠJ TextField +Ġse ating +Ġwe ars +Ġ` / +C ases +ĠY outube +ı m +Ġbal con +, G +Meta Data +- price +SC R +Un ity +Ġtr unk +={` ${ +Ġearthqu ake +Part ial +Ġsub st +Ġelim in +=" '. +//* [@ +Ġsuperv isor +vro let +_ article +Ġp ane +b io +Ġmot ors +N M +F rank +Ġon ion +- word +Item ClickListener +Ġb rit +end encies +Com puter +_r unning +( day +- he +(n amed +ĠS ach +о Ñĩ +c ampaign +.Ab stract +(w rapper +.p ay +Ġu w +Ge o +r ails +/ select +icht e +son s +E VENT +Ġal iment +Pro viders +A wait +_INTER VAL +. off +Ġgl uten +_cl oud +Ġw en +.ex tract +ĉ button +/ MM +Part y +Ġdem ographic +_err no +Ġh iking +(' ')Ċ +", @" +Ġw it +r á +olog ie +ĠSt yles +ĠBrowser Module +.Request Mapping +ic ans +P AGE +cre ation +ĠF erguson +ud ed +num bers +ĠGT K +Ġpresent ations +ĠB obby +_s pan +est yle +Ġilleg ally +abel a +Ġbattle field +cap acity +ter ror +] ");Ċ +Ġwar rior +le ader +ĠDB G +ĠRe venue +Ġvig il +Ġcounter parts +( Error +ACT ER +Ġhe eft +Ġselection s +ze ug +t om +-t wo +. ;Ċ +_st atement +ĠA id +ĠV ul +_r gb +Ġpr izes +Ġedit able +ĉ form +ın ı +.de cor +D emo +lic es +Ġen ctype +rat ulations +ĠR OS +_ch ars +ĠJ ahr +part ial +Ñĥ ÑĤ +ĠRe ceive +ĠL ands +AP TER +Ġch opped +.. " +ĠAn aly +ĠU ID +ĠR adeon +ĠB ee +Ġun m +> M +.find all +Token izer +ĠWH AT +Ġs j +D rawing +E ss +ON D +Ĭ ¶ +(p acket +âĢĶ but +Inv ocation +ĠN uclear +? ;Ċ +Ġgrand es +ĠC rypt +rem ark +Ġ'../../ ../../ +Ġin ability +m agic +c ats +Ġsim ulate +: ${ +in flate +Ġen er +: NO +ip les +Ġmer it +ĠR ated +Ġgl ue +/b log +Ġg ren +Ġthr illed +.C H +unc an +ĠPR IMARY +Ġper sec +Ġfe ared +.M IN +ĠThe ater +é Ĵ +ategor ie +æ® µ +Ġappet ite +s quare +ĠAlex and +.User Id +_g t +_ enter +Ġgradu ates +Fragment Manager +Author ize +-N LS +(M y +Ġtri umph +ust ing +_PARAM S +Char acters +(: ,:, +_B UILD +M Hz +Ġwash ed +Ġun cle +Ste ve +ard own + ${ +_confirm ation +Ġtro phy +Work s +ĠElect ronics +ĠMediterr anean +_m etrics +Ġannounc ing +ĠD AY +_pro to +Ġp ear +base Url +ĉĉĉĉĉĉĉĉ Ċ +Ġcoord ination +: N +.an imate +ĠC otton +_h it +â ľ +Ġjet zt +if ter +(f ields +own load +ific acion +.c uda +ĠLi u +> equals +ĠA ce +ÑĢаР¼ +ĠSuper man +ĠGarc ia +Ġarrest s +ag ar +Ġ{} ) +Ġmac ros +rou pe +ê tre +Ġtw isted +str uments +_ (" +_ vertices +ĠTrans ition +и к +[ max +m ind +Ġaccess Token +Ġun le +m us +c op +ĠF actor +Ġcon ced +Ġre tr +.l inalg +-s lider +ob l +_Static Fields +Ġz ombie +s elling +Ġch ap +Ġsh aking +ĠTrans late +ĠAm sterdam +ĠE TH +_EX TERN +k d +_d isc +Ġpreced ing +Ġpri x +Object Name +_mod ified +ard ware +Ġ?> "> +ĠD W +` ${ +Ġ?> ">ĊĊ +Ġspin ning +_p ending +Match ers +. Keys +ĠP V +en us +ant is +Ġdisc ard +Ġh aul +Ġem pir +Ġpath way +Ġo ak +м ен +-ind uced +Ġimp air +ĠCal gary +.is Hidden +d z +_ include +Ġg m +Ġ' (' +P Y +uggest ions +Ġcommod ity +c ro +/ sub +Ġget Instance +ĠLeg acy +ĠK il +B al +( short +In form ++ x +* r +ĠHope fully +or ate +Ġmach en +Ġtreat y +ĠO ri +.p ublic +-h orizontal +Ġtact ic +Ġb ord +w ares +Ġam mo +ĠL ists +Ġequ ations +/ her +ĠNS W +B ounding +_C ollections +Ġav ail +.Drop Down +è ° +Ġh h +Ġl Ãł +.p b +Ġmemor ial +ĠAT TR +Ġexhaust ed +Ġt sp +ĉ redirect +Ġlik ewise +ST ER +L java +Ġcondem ned +oca ust +(str ict +Ġexem pt +Ġs ms +Ġex agger +S YS +Ġl ounge +: ^ +Ġto dd +de b +ator ial +ĠPort er +Ġtu ition +Ġexem pl +Ġp aren +.line To +Ġkid ney +Ġç a +Ġc ui +ï¼Į 请 +X C +Ġmo ż +Ġnomin ated +l ung +Im Gui +ĠB uzz +Ġstere o +port al +res as +Ġk lass +Ġdraft ed +Ġproject ile +/g pl +(param eters +* )Ċ +Ġassist ed +ĠNS Integer +s itemap +:n th +.View s +.Argument Parser +Ġme er +z ier +ĠD ig +Ċ +Ġpl ag +p ine +Ġblank et +Ġ: - +Ġl cd +------------ --- +(" " +Ġtact ical +ĠRon ald +ex tr +ĠF est +Ġf uer +-n avigation +Ġk b +gh ost +Ġhandle Change +_cl s +() != +Com parator +.v m +ĠCo x +_re view +/ @ +_c ookie +Ġrecogn ised +ld ap +Thread s +ĠSex ual +ĠB earing +(S QL +Ġx r +Ġth igh +URL Connection +ĠSU V +Ġm Context +Ġinc idence +ĠE ste +.s up +_t e +(EX IT +C MD +/ "> +Al most +ĠU ne +Ġand eren +ĠSingle ton +Ġb ore +Th ink +Ġn arc +] initWith +_sh op +(str ategy +! ', +her its +ĠDes k +_m achine +.net ty +ı nda += < +ĠQ R +ĠS idebar +.split Container +Ġon Success +Ġmon key +En joy +(n odes +pect rum +Ġ(* ( +ĉU INT +, height +ĠNetwork s +.t ail +.l inspace +Ġ" ... +List en +Æ ¡ +.Ch annel +- defined +Re peat +ad just +ER M +_ application +.assert NotNull +- stream +Ġr abbit +Ġposition ing +Ġw oke +Ġf ing +Ġmulti player +Ġregister ing +un til +Ã¥ n +( :: +uss ions +Ġpot ato +ĠE quals +.S up +/ap ache +Ġ( = +. ") +.p tr +ĠSpe ech +.cl ip +ĠGab riel +Ġmusic ian +/ issues +.sh op +ĠH ier +_RE T +_b ucket +ãĥ ¡ +av s +Ġro z +fl ower +Write Barrier +ĠMil an +Ġlegisl ature +ĠD oll +Ġprov ing +.concat enate +âķ IJ +Ġg char +cdn js +b les +ĠList ing +л о +.xr Label +ĠS ak +just ice +ĠVal entine +un less +Ġp iger +(r un +Ġtest ified +AN A +ĠRem oves +)) ));Ċ +rec ated +ĠRuntime Method +Ġcon qu +ãĤ ¢ +Ġt issues +ail er +ét é +- Star +Ġfl ames +.set Icon +Ġsup ern +Ġvag ina +- variable +Ġwell ness +C UR +Ġbel le +.get Request +Ġp oco +ben h +ag ens +Ġsp ill +ĠJ ur +Ġdispatch er +н ого +emon ic +(dir name +ĠÐ Ķ +Ġpas se +Ġg anz +ric ing +E U +Ġmuj eres +ess en +.at tribute +j j +ĉĉ ĠĊ +[ ^ +Ġstrtol ower +lex er +ect ar +hot el +.s quare +Ġr all +Ġlower ed +hand led +Mark et +ĠUs es +iv as +.B usiness +ãģĹãģ ¦ +D IV +Ġw asted +Ġav oir +ê m +_ACC OUNT +. et +ĉ SDL +k ap +Ġf ox +up pet +{ },Ċ +", ' +F avorite +P END +ĠA ES +} ), +Ġded uction +Ġpol ÃŃt +Ġcomponent Will +ĠT elerik +_SE LF +Ġm use +C raft +Ġd ens +ठ¿ +( tp +Ġt asty +Ġbal ances +Ġded ication +ĠWall ace +Ġun law +\"> \ +Ġm um +- update +ement e +Ġs oda +Re public +as mine +é ric +( Status +ĠJson Convert +ĠD isk +.Red irect +Ġfilm ing +/m ol +R o +Ġv ille +Ġtrab aj +Ġsyn thesis +reg a +Ġr l +S cheduler +ISH ED +current User +(error s +' h +_b ot +x imo +ĠUS ART +_s uper +_DEC REF +н ой +_RO W +Ġprom otes +ĠT A +Ġhor as +ĠRep resents +Ġname of +ĠEx c +ĠGar age +Ġse ine +, # +Ġher b +/ resources +Ġple aded +.r adioButton +Ġæ ĺ +O ps +ĠN est +c string +ĠDef ence +Ġref ere +_le af +Ġrevel ation +ë § +.execute Update +_W ORLD +Ġexp ans +(" \" +j ab +Ġdoub ts +ĠGe ometry +Ġintrodu ces +Ġsen ators +Ġcan al +.h elper +ĠBi ology +_SE NS +.pre vious +-t ouch +ab it +Ġimpact ed +Ġbr ackets +.d irect +acc um +Ġtest osterone +ĉ action +ĠCh ance +Ġpe aks +CppCodeGen WriteBarrier +Ġun belie +_p ress +.R el +ang led +/ templates +-- >čĊ +l ime +Ġsufficient ly +_ nt +Exp and +.is file +Ġis Empty +Ġq t +Ġmul her +ac ob +Ge orge +å¸ ¸ +Ġass im +as o +Ġcompr ised +O V +(CON FIG +ĉw riter +Ġdes p +Ġten ure +(c r +.p ool +ĠB rend +Ġc ensor +(time out +Ġple a +.W rap +Ġtight ly +ĠW ere +ĠI gnore +abe i +Ġbr idges +Ġcondem n +Ġsimp licity +Ġrout inely +Ġblack s +j b +ĠP it +U tf +Ġ/ Ċ +re load +Ġset Object +/g lobal +Ġf atty +Ġsock s +Could n +Ġerot isk +æĿ ¡ +ĠPress ure +ĠM az +n pos +tol ower +ĠE Q +ute ur +ĠM oment +Ġet a +{{ -- +Ġgraph s +ĠGu ar +r ine +( -- +ĠHttp Status +(st udent +* np +Ġrail way +Ġas ynchronous +_v m +'] ,' +, text +mer chant +(G uid +ĠG ra +ix er +fetch All +.add Listener +fl ip +* $ +> (), +Ġsun light +ass igned +Ġab c +ĠC OLUMN +ĠðŁĻĤ ĊĊ +) ... +Ġen semble +Ġnew line +_S INGLE +ied ad +Ġdark er +orm ap +Ġl ion +pl its +Ġillustr ation +ĠI EEE +Ġv ista +ous ands +****** * +ĠTom my +Ġh ue +S el +Ġa ura +ĠTher apy +Ġanim ator +.con straints +Ġv ague +(" ") +Ġvill ain +Ġbless ing +Ġstring Builder +ĠM isc +ĠD IR +f ax +- node +ĠWalk ing +ĠA U +s ess +Ġgr ill +VERT ISE +ĠF oods +Ġt ournaments +à ĵ +ĠMar sh +Ġw onders +Long itude +.Command Text += input +_enc oder +page Size +Ġget State +> >Ċ +.g rey +p od +Ġread ings +Ġre consider +Start up +Ġexc er +.b alance +_c ycle +_T ime +LOC AL +ĠE FI +ĠRe yn +.set Foreground +by n +Ġdis connected +ACT IVE +Ġembed ding +ick ers +Ġsurround ings +* c +Ġgar ant +Ġb f +Ġw ipe +Ġ ä¸ĭ +_T RA +ado x +ç ķ +Ġsu cks +ĠS ongs +ĠAssoci ates +ĠB ald +ĠB rett +ven ile +Ġv t +Ġin ade +Ġres igned +ĠGl enn +.p attern +.Data Bind +Ñĥ м +Layout Inflater +ch et +ĠTest ament +.m s +Ġp av +ĠReact DOM +ur dy +AD ATA +M u +/ actions +ĠJ s +_ex tract +ĠBr ing +: id +str t +iv ation +Ġoutr ight +az u +loy ment +и Ñı +al do +ĠP ublisher +E ducation +Pa lette +_d rv +Ġ($ ( +ĠAnd a +Ġrem edy +Ġincons istent +te ction +Ġregul ators +Ġshort est +(p air +ĠInstall ation +Ġdefend ants +Ġ( ); +-l arge +M el +Ġthreat en +н Ñı +Ġfet ish +ot ine +_d ic +Ġ< $ +Ġst agger +sp i +$ response +S erv +-b orn +j os +ĉ img +ĉW HERE +_l t +å½ ĵ +.c ost +ĠT ue +.label s +ĠL V +wcs store +ĠJes se +ภ« +Tr ade +Ġpredecess or +ë Ĥ +fin ally +_g eneral +ogg ler +_REG ION +n ement +Ġblog ger +ĠHar bor +ĠD ataset +[ w +Ġattend ees +. ico +max imum +.Un lock +_SY NC +ág ina +Ġdown s +ĠW ii +]) / +Ġkick ing +unic ation +ĠD AC +ĠID S +ĠR ental +Ġcurrent Time +Ġvacc ines +ĠDev il +Ġn ors +_m ouse +urre ction +(n o +Ġ> čĊ +Ġaggress ion +Ġbre eding +.s ymbol +im an +Absolute Path +ĠWH O +_fl ush +- root +arn a +& M +Ġf athers +ĠR ocket +ive au +Ġw ander +Ġcom pos +ĠWar rior +ĠSe at +ĠClin ic +_in voice +(dis patch +Product o +at uring +oss ier +ĠM AY +Ġd agger +Ġsanit ized +ĠR FC +Ġpro ph +Ġur ine +Ġgr ind +ĠExp anded +des cripcion +-f w +ĠK erry += name +Ġch k +Ġnation ally +Ġthe e +In c +Ġ? >> +.R adioButton +.Http ServletResponse +/ Y +ĉf ield +Ġhom me +y per +Ph ysical += v +Ġdr iv +ĠErr ors +Ġc Äĥ +De ath +ĠW INDOW +Ġpo et +ĠSh arp +ĠImm utable +ĉ create +Ġge ht +ĠRe form +ais er +ĠInitial ization +Ġimm unity +.com pose +Ġlat ency +ĠLeban on +ĠPar ad +Ġfu els +ĠEx hib +co h +% ">Ċ +ĠCL I +) initWith +-Z a +_C LEAR +reg n +Ġfin ances +.st andard +_C ATEGORY +.lib rary +Ġtravel ers +_w p +ĠE valuation +start ing +Ġ )),Ċ +ep isode +ĠV ariant +Ġda emon +ĠJul ia +ĠN R +Ġdoub les +< v +/r untime +Ġinterpre ter +ĠIN DEX +ĠHol mes +_D IM +Ġp addle +_ex ample +Ġfore ground +.r outes +Ġs owie +S UCCESS +ĠC DC +ĠB D +_ - +as ured +W riting +Ġcurrent Page +( answer +ĠASC II +à ¨ +Ġsocial ly +yy y +ĠSpecial ist +(c ustomer +ist ani +ke st +ĠM ak +Ġth o +. pt +( comment +ĠCon verter +g am +b ins +. tele +ĠVeter ans +_AL LOC +олÑĮзов аÑĤ +inn amon +; width +oh l +Ġfant as +Ġs ung +ĉ K +( Json +Ġneighbour hood +Ġv ow +Ġs ins +on acci +Ġepoch s +im agen +.Ch ange +.my batis +Se ek +W ER +管 çIJĨ +Ġinter ess +_ Event +eder land +Ġterr itor +Ġci udad +uck ed +Ġsn ack +Ġtransport ed +ĠMan ifest +ĠD AT +_th eta +Ġw ont +.ĊĊ ĊĊĊĊĊĊĊĊ +Ĭ¶ æĢģ +ĠEp ic +De ck +l tra +_Z ERO +Ġ[] ; +/ scripts +Ġ---------------------------------------------------------------- ---------------- +æĥ ħ +Ġwe ed +N BC +Ġrap ed +ĠG ateway +[ M +ĠTime out +ench mark +.View Model +Ġporn os +ĠY a +th ritis +ĠFly nn +Ġme ga +ac in +Ġtrib al +.app le +ĠB lo +â n +ib i +ro v +ĠL ives +^ . +get Request +ĠEst ablish +cont ainers +Ġst arring +Ġcele brities +ĠRel ative +ĠHe ights +Ġtq dm +ĠNorth west +iv ic +ĉ cl +Ġautom otive +ent ric +Ġfort unate +Ġfire place +se ud +nick name +; s +_C AL +h alt +(n s +_de leted +Develop ment +m ovies +Ġident ities +Ġprompt ly +ا ÙĨ +Ġant e +Ġ" ',' +åı £ +imp se +Ġy ap +Type Name +Ġb itch +Ġassoci ates +HE ME +- empty +ĠØ ª +ol vers +Ġpist ol +Sc oped +ag ner +'] ==' +ĠI MP +ex c +Ġo mitted +Ġmind set +Ġ[] ( +Ġor n +_C AM +A vg +Localized String +ĠN atur +Ġcom poser +ĠPlay ing +Ġover d +_ utf +.s k +ĠF ol +$ page +, Object +Ġbe es +al ary +bul let +_lib rary +O ffer +loc ated +Ġ(_ , +âĢľ He +ĠOwn ers +) ).Ċ +Ġb ri +.Ad min +kt ion +лÑİ Ñĩ +Ġerot ici +Cancel led +Ġa gr +re views +_d ma +RI CT +Ġg fx +mp i +pp o +Ġ// @ +Ġupper case +Ġcommit ting +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +User Data +Ġv ai +ĉs ort +Ġcongr at +Ġd ioxide +д а +. area +ĠJosh ua +ĠK och +_b reak +az ure +ist ical +_AL PHA +_ views +Ġelim inating +OM B +en umer +ĠHy dro +(* ( +ERT ICAL +Ġinev itably +Ġst ole +-e ast +ier on +Ġl inger +/d oc +Å º +ĠAl ready +as io +Ġ-- Ċ +Ġabb rev +ĠAt om +h im +ĠINS ERT +s un +âĻ ª +CON NECT +er ator +ĠM anning +Ġ: ( +g as +=> ' +Ġquery set +; }čĊ +ĠPop ulation +uted String +res ident +_F ONT +ĠRes pond +Ġobsc ure +Ġo bservable +ĠContrib utors +k on +ĠMus k +ex ao +ĠT ub +Boot Application +S OR +.H orizontal +.find By +.p ower +Ġposit ively +ven ience +ĠJ ong +Ġwh istle +Ġз наÑĩ +Ġl ending +Ġdestruct ive +Ġon Delete +author ization +(); ?> +_ original +sc ience +at ra +?, ?, +ĠAs c +Ġconvinc ing +$ a +org en +_D ate +ĠPro vide +Ġlon ely +) 'Ċ +ex change +; ?>Ċ +.f ast +S amples +L ondon +'] )čĊ +ĠI onic +Ġp esso +ĠKn ights +ĠR af +_attr s +Ġrepe al +> Main +ĠOrder ed +_N ew +=" "> ";Ċ +ĠS ERVER +ĠHE ADER +_ velocity +ĠIn voke +.timestamp s +Ġs ulf +I QUE +Ġinhabit ants +ph ins +azz o +Ġmon o +Leg end +Ġnon ce +IF E +; ";Ċ +- create +" ",Ċ +per mit +ĠImm igration +Ġpath name +ffect ive +âĻĢ âĻĢ +Ġex ams +- event +ĠT ill +[m id +F IX +; color +( Order +_tra its +Ġorder By +Ġs unt +ĠNich olas +Ø ² +Ġsun ny +in ers +Ġaccess ibility +ĠH B +.com p +ĉ op +Ġminor ities +ethe us +Ġcollabor ative +pr it +H IR +Ġwr aps +ĉd raw +g od +ĠI X +.app s +ĠN M +Ġirre levant +ĠT igers +Ġdi ag +G V +ĠAccess ories +k ont +Ġsimpl ify +ĠF avorite +_t ools +([] );Ċ +Ġtow ers +B es +Ġhun ter +Ġsal on +(b uff +ĉ debug +Ġmal ware +M oving +- options +) +' +ĠLO VE +_S OCKET +_f in +ĠDel aware +Ġsher iff +-in valid +ĠF ULL +Ġп од +el as +" strings +ĠRepresent atives +s urface +res olved +ht docs +)) :čĊ +Ġpress ures +Ġnorm s +Ġpl a +Ġs urname +Ġpost al +ĠDep art +Ġsla ughter +or ida +Ġhe bben +Ġdes ar +comp act +_L ANG +åIJ Ī +op oly +_r ad +ĠST DMETHOD +L azy +ĠĠĠ ĉ +... , +( web +ĠP ont +Ġet was +Ġup ward +_h at +Ġ], ĊĊ +Ġbase Url +Ġworry ing +-add on +(get Class +S PI +Ġcapt uring +) },Ċ +Effect s +Ġcompet ent +Ġf oul +Ġsubscri bing +ĠO BJECT +IX EL +b ucks +( edge +(p ass +ĠPet erson +Ġbo obs +ĠD elay +_s quare +el im +ot ers +_P C +% E +on click +ĠSV G +Ġto pped +Ġf ist +sm art +ĠR alph +( owner +j ours +Ġbron ze +ĠArgument Exception +( original +_S CALE +_c p +Ġrecomm ends +.set Style +S ure +L AND +Ġrepe ating +M att +. Visibility +Ġenter prises +.Set up +(sc ene +ĠRe active +ur ge +b w +.P ut +p ersist +.c ookie +ĠAud i +` s +sup plier +( Form + ¡ +_s o +Į Ģ +ĠLeg ion +t te +N d +L oss +( attrs +.sc atter +Ġg room +Ġgl impse +Ġn ails +Ġcum ulative +Ġf azer +_s ervices +.N um +ib ilit +_res olution +ĠT x +umin ium +op a +.s chedule +sm tp +ภķ +ur ry +ü k +go og +_sign ature +.int o +ĠSte ps +Ġhome owners +ĠNS URL +ĠP AC +ĠĠĠĠĠĠĠĠĠĠĠĠ ĊĊ +> ')Ċ +en h +Ġinc ap +$ MESS +Ġmo ins +ĠF i +Ġoff season +press ions +> .Ċ +ĠGr ass +ĠGo al +_p df +Hand lers +Ġstack s +.get FullYear +=[ ];Ċ +è½ ¦ +, V +(s plit +Ñĥн к +Ġbake ca +Ġ~ /. +pe z +t ails +ĠG len +Ġset Image +ĠCom ic +B LOCK +ĉ This +o ader +Ġcapital ist +_ST EP +( Boolean +ĠCor rect +r ina +Ġconc aten +å® ŀ +() :ĊĊ +Ġun anim +ll i +al ars +- ne +Ġdiv or +ĠKick starter +]. _ +< number +/m enu +GR APH +vis itor +Ġimpro per +_N EXT +Ġb isa +background Color +/ input +Ġmo i +Go al +li qu +Ġmiscon duct +Ġcompr ises +aw ns +ĠP ie +ra is +role um +Ġcur se +y u +_p oll +.current User +ES H +]) [ +Ġstory t +)? ;Ċ +* = +ĠB urg +/ layout +_back end +; ?> * '+ +åĿ Ģ +ac ency +( URL +_h alf += l +Ġlist View +( section +.to Array ++ / +ĠRodrig uez +ist ream +Ġelig ibility +:: - +.new Instance +P B +ĠAs sets +ĠCom posite +ĠL abs +ĠHam as +++ );Ċ +Ġbl k +ĠNe o +L uc +@ login +Ġun aware +.m et +_RE LEASE +( ST +AM IL +ri ke +Ġ( ){Ċ +(s printf +ĠAccount s +ĠV IEW +ĠA j +ãĤ ° +Ġwh isk +Ġid i +Ġro de +Ġih n +ĠElement ary +Q ty +Ġintrig uing +Ġå ¤ +J obs +ĉ offset +ĠAh med +ĠTal iban +Ġè İ·åıĸ +Ġinject ed +.Auth entication +_line ar +.Dec imal +Ġapp les +Ġshare holders +Ġb aked +.d iff +ĠE ddie +ok ers +Ġconfront ed +vo ices +Ġt us +ĠSp in +N ODE +_ Un +CT X +/g oogle +Tem perature +Ġ' '). +Ġmagn ificent +Ġstart Index +semb les +Any one +z k +eh en +ĠD ame +. strict +Ġrepl aces +Ġline back +Ġpush es +Ġche ek +ĠSh i +_BY TES +RE A +ả n +_CON NECTION +G ateway +ĠTr avis +ĠA X +ĠBas ically +ĠUp grade +à ª +th emes +erm o +k or +F emale +_att ach +ĠìĤ¬ ìļ© +Ġpo z +============ ==Ċ +(s ymbol +ĠS ector +__ )ĊĊ +_p adding +ï¼ļ " +Ġf abs +Ġr anged +set Name +Ġp error +â Ĺ +ĠFile Reader +Ġful filled +_C urrent +Ġdom inate +Ġsm ugg +Post Mapping +_for ce +Ġb loc +ĠG iant +(v ideo +ĠC U +System Service +Ġ elf +Ġkont akt +ë ª +ke es +gt k +Ġparam Int +Ġmark up +u ales +Ġaccount ed +Ġgang bang +RY PT +ĠW rong +Ġcred ited +ĠM ESSAGE +Ġfl aws +Ġbb w +Ġmetab olic +ĠO EM +/ event +(C ollectors +mont on +ap pear +Ġopt ed +Ġche at +Ġd av +ĠPro ceed +Ġê ¸ +ank ed +и з +ans k +ĠH ang +ĠC ler +Ġdis gu +Ġc map +.cl js +Ġa ument +le z +ĠJo ined +_re ceived +Ġa erial +ot el +Ġgre et +" s +ĠGen esis +ĠCal if +pan ion +Ġtail ored +m apping +and Expect +.tr ack +at omy +ĠO w +ull ah +.Y es +ĠSimple Name +db h +' en +Ġnons ense +Ġphilosoph ical +(get Context +Ġis so +ĠA CE +start Date +Ġb ÄĻd +ĠAUTH OR +ĠGlo be +Ġinsect s +_A l +ush ing +è® ° +/ Home +ĠLocal Date +need ed +hes ive +Ġill usion +äº Į +Ġtr at +x o +/d etail +_M ATCH +Ġbroad band +Ġw al +ĠIllegal StateException +IRE CTION +Ġnor theast +es ium +ĠClient e +ul ance +nt y +Ġt ecn +Dev ices +Ġgr ains +ĠO g +ĠS EL +ud iant +Ġ++ ;Ċ +Ġexplan ations +oc co +Ġdi ets +Ġco hort +( controller +.Iter ator +-r ich +ro cess +G D +Ġcar bohydr +Ġfri ed +ĠEmploy ment +ìŀ ¥ +ĠLeon ard +_ ${ +qu ares +Ġcompan ions +Ġpar is +Ġstim ulation +ĠZ oo +Ġre levance +ĠCol our +Ġspe ar +ot ional +ĠL ite +ĠK osten +Ġà ³ +_att achment +orph ic +Ġdam it +Ġd lg +Ġthr ive +CH ANGE +ĠApp arently +Ġat ual +Ġroot ed +( images +aw i +ari at +Ġch erry +STAT IC +m nt +ĠUser Id +il let +ĠHis panic +Ġn ak +Ġcent ro +Ġdim s +_initial ize +ı k +ĠCent ers +RE N +Ġevolution ary +ĠTop ics +_d amage +em er +Ġr und +Ġpun ished +Ġcub ic +f air +[] ;ĊĊ +Ġinstant iate +Ġover see +- delete +unte er +start Time +ĠP ipeline +_G AME +ĠC ir +ĉ Null +.Format ting +uc umber +ĠR ide +Ġz oo +Ġcheck er +åIJ Į += C +Ġg rit +"); // +_x y +ĠDe claration +Ġcall able +F oo +ĠList Item +Ġin accur +ml in +ĉ Data +Ġev olving +aw an +Ġca fe +fol k +_ID X +ĠAny thing +ĠPalest ine +ĠGrid View +Ġcol ony +ĠGerm ans +( + +.p id +.js x +ĠSuper ior +Christ ian +ĠL ect +ĉ Game +Ġinstrument al +Anim ations +д ал +ĠMos es +ĉĉčĊ ĉĉčĊ +z s +k te +ä¸ ļ +_D IST +bit map +d B +Ġp ersistence +ÑĢ Ð¾Ñģ +$ l +B ron +Ġ{ | +_ch art +ĠCon sum +Ġh emp +Ġ" ))Ċ +Ġattack ers +Ġknowledge able +Ġc et +Ġvir uses +' I +Ġpitch er +Ġsweep ing += list +apt ops +.de pth +Ġinstruct ed +ĠR us +benh avn +Ġи н +S ports +Ġon set +æĿ ĥ +. RED +_s i +ĠP ST +.on Change +> tag +ĠR oh +_char acter +ĠLaw s +ĠB achelor +_s wap +.re activex +Ġreward ing +Med ium +- [ +ĠRec ently +J oint +part ition +ĠMin utes +Ġind o +Ġabsor bed +ĠG N +_IN D +Ġsab er +Sp awn +output s +ĠJeff rey +Ġmed ieval +h ed +Gu ide +Ġpsy cho +Ġgl am +E lim +äd chen +_pl ain +ĠS au +-f our +Ġanaly zing +QU ERY +Ġtom ato +_button s +V EN +.set Status +. Url ++ ĊĊ +Ġcompl aining +deg ree +conf irmed +Ġsub t +p arsed +Ġtor que +Ġtroub led +ĠT ARGET +Ġtrad emarks +ĠCo ordinate +ĠV iv +Ġ// }ĊĊ +Ġapr ès +.get Position +(Key Code +ĠSil va +Ġmet eor +Ġendorse ment +Over view +ĠP oss +.In ject +Ġeven ly +Ġvisual ization +Ġw char +ĠH DMI +Ġfun ct +ick name +',' ',' +Ġfor wards +Managed Object +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠ +ĉ server +ĠOut look +ĠChron icle +Ġdub bed +Ġd ok +ĠW ear +.A L +pare n +. Interface +Inter faces +.c od +Ġd ib +.Global ization +ĠAcad emic +Ġass ms +Aut om +Ġl w +ĠN W +Ġ&& čĊ +Ġproble ma +ĠManufact uring +lim its +-m obile +Ġfil me +/ map +Ġdo it +ĠIn k +Ġsu ed +. arr +Ġunder min +ĠPro c +croll View +__ $ +Ġsidew alk +( that +ภ· +[ q +gram mar +Ġt ë +qu ito +Ġspir al +ext ended +Ġf ocal +Ġdig ging +p as +ĠT all +.pro xy +it ures +TR ACT +ĠRe alm +Ġf eder +Ġorient ed +ĠAltern ative +Ġo we +Ġsour ced +ink er +.d et +S ep +ĠQ ui +ĠPal mer +(_ , +s amples +oy er +ull an +que z +Ed ges +Ġsh out +ĠA chie +Ġha ar +_Con struct +Ġprem ature +Ġre vert +'). Ċ +Ġs chn +filter ed +null ptr +S aved +itect ure +CL A +Ġv l +st ell +ĉ Me +ĠL ip +n ational +Ġwh olly +Ġspr ings +.T imer +ĉs rc +els en +åħ ¶ +Ġcommunic ating +ĠQu iz +Ġt eng +Ġge z +ĠOut side +.S ign +(c s +Ġdisput es +ĠWe iss +ann es +> No +ĠB ach +.remove All +re fer +/d ashboard +ĠA jax +Index Changed +ĠWe ak +' "Ċ +Ġs ights +access Token +ĠJ oi +(d omain +ĉc v +Ġcontin uation +Ġpl um +ad ir +.set Message +Ġ ï¼Į +Ġsw allow +ĠL amp +Ġq w +Ġu u +C oin +ub ic +ĠDe als +r ace +Ġdict ator +Ġmem e +turn ed +ĠJul ie +.grid Column +Ġpup py +Ġp am +Ġ) {čĊ +Ġinv iting +Ġf rench +v im +Ġwr apping +Ġ#- }Ċ +([ - +Ear ly +Ġsh iny +.f aces +Ġreb ell +abc def +ä lt +Ġest imation +ph ys +los ures +_RE L +Ġex clusion +ĠSk ype +we ise +-st op +no thing +ĠE gg +is ors +Rich ard +Ġcounsel ing +Ġcomm em +ĠQ MessageBox +ĠSy nd +ĠFro st +ĠCompet ition +ĠAw ake +Ġt ed +ic iones +ĠDev Components +VERTISE MENT +ott i +.run ner +Ġuniqu ely +.fl ag +ĉ rs +_g eneric +Ġ`` `Ċ +ACH INE +Ġme in +( Application +( br +Ġrat ios +: , +ĠXCT est +ustain able +- www +it les +_T EMP +Ġs yst +umeric UpDown +ĉassert True +Ġw f +. peek +ĠBul g +Ġterr ifying +.M ODE +ĠG W +á r +Ġf ic +Ġcommit ments +- tech +ĠL iquid +ope z +z heimer +a ña +-m edia +( animated +_go al +Ġg um +yst one +.S ET +ĠW end +set CellValue +Ġmsg s +c ash +AL LOC +/ aws +Ġmic rowave +.Point er +ĉ Console +_s orted +ĠFil ip +Pro d +Ġ//! < +ing roup +Ġk s +_T RI +Ġteas poon +ĠAT T +Ġrecover ing +ĠG LOBAL +.P ar +Ġ/> ;Ċ +Ġmar ble +ul ators +ĠC ycle +Ġher bs +_m etric +) ! +_C LOCK +_ Button +H arry +è¿ Ľ +Ġstr ains +ĠApp Bar +ĠCh an +/v ideo +Ġb am +.Pro gress +$ f +lem en +Ġir regular +ĠD uncan +ĠM int +-v ideo +ঠ¾ +ó wn +ĠEM PTY +Ġstack ed +ĠH A +_c ut +Ġwhere in +ĠW ays +(count er +è¯ ķ +Form Group +Ġble w +c ourses +Ġproduct os +ry s +ĠRest r +Ġsty ling +> s +Ġp iv +Ġit ertools +get Repository +ĠI k +_dev ices +lay ui +Ġhalf way +Ġfran ç +Ġtun ing +O A +_N ode +ar de +Ġfier ce +lic ted +# čĊ +Ġbreak through +ĠE rik +Ġb ride +Ġ. " +cul us +ins ide +ĠIndian apolis +ĠE E +Ġy og +urre t +.f s +. grad +_c ards +_ac curacy +_ep i +qu eda +/ org +é ªĮ +Ġcom pte +)) [ +Out side +G reater +ĠRender er +. actor +Account s +Id le +_h ours +ern er +Jo ined +Ġmen j +requ ires +ĠO PER +.remove Child +ĉs p +Ġes se +r ift +xF E +ĠSh akespeare +________ ____ +Ġbudget s +Model State +fill able +- component +oc os +ĠBUT TON +/ io +, out +s ms +Th omas +ĠAr med +res ume +Ġrot ating +ĠV ault +Ġse us +. (* +Ġa mino +Ġ[] );ĊĊ +Ġprov oc +no x +.Get Enumerator +==== ===Ċ +æĸ Ļ +_sc roll +Ġfil med +ĠS oci +g ap +g ro +V ote +" But +_R C +An imal +Â Ģ +ib ile +Ġaw aken +ore st +in ja +ĠI van +( Command +Ġ ***** +Î · +Ġkv inder +/h elpers +_c ases +t g +ìĦ ¸ +Register ed +ĉp ass +_d igits +Ġcont our +Ġinf ants +Ġjust ification +ĠFort unately +Con tr +ĠonCreate View +_S AMPLE +Ġallow Null +Ġn ud +Ġfet ched +_e qu +ĠUn able +=\" " +> {Ċ +Ġcommit tees +ist ema ++ ". +ÃŃ an +m ant +Ġsou theast +ï¼Į Ċ +dialog s +PRO JECT +charg er +- port +(u uid +. export +S ix +ĠR P +P rem +Ġconsc ience +Ġmargin Right +_d istribution +y aml +res izing +D ock +ĠLoc ations +G Y +Se ed +B UFFER +oss ip +ull en +Th ings +- self +.p oll +PL AYER +Ġå ® +G ROUP +ĠA way +Ġg ospel +xf d +M ary +ĠPort able +T URE +Ġutil is +Ġse it +Ġstr and +Ġtrans c +Ġ( ^ +ĠAl fred +.m em +.c ircle +Ġ~ / +for cing +Ġr iot +pro x +TH ON +iz ación +ĠN I +ro st +Ġdis pro +_in stances +ï¼Į âĢľ +ograph er +end as +ĠIsa ac +ĠP ine +/d is +Ġcolor With +iter ate +_str ide +Ġpun to +.Event Args +( center +Ġneighb oring +ĠPr ison +ĠMess enger +Ġepid emic +da o +_com plex +Ġgr avel +_D IP +é ment +ĠA ri +_bit map +.qu it +( valid +Ġp end +Ġrespir atory +Ġre bound +Default Value +ãĥ Ń +Ġcomm its +.test s +_f r +it et +.s f +Ġspace craft +c ritical +Ġde pressed +ĠAny Object +Ġun b +Ġdisc ern +(m ysql +L atin +ĠB og +ĠWild life +To File +iox id +@ RestController +Ġ"$ ( +Ġ<< " +Ġdefect s +Ġdat um +h in +Ġreal izar +any ahu +ĠS ig +@ Data +ad aptive +ĠC atherine +.c r +ĠCO OKIE +Ġp ictured +ĠFight er +Query able +ĠAny way +ĠGL FW +_n amespace +_ ft +Ġ] ) +Organ ization +Ġconstit utes +Ġqu and +(ch unk +"/ >čĊ +ĠL akes +main window +Car thy +sp in +(c sv +: red +-com merce +ภ¹ +Ġdiscover ing +Ġe co +_f ac +inc eton +ĠGre ens +j wt +Ø µ +ĠBron cos +ĠGood s +(G TK +Ġreturn Value +Ġsi empre +Ġneut r +w ent +ĠN atal +Ġenthusi astic +á» į +F N +/d atabase +C atalog +Ġbr un +ĠK ash +_P l +isc rim +, width +Ġin mates +Ass ignment +ĠH aven +Ġplay ground +ex am +@ Controller +ul iar +.get Parent +Ġ" ;ĊĊ +: size +iss ors +Ġf is +Ġal c +ens ation +ĠN ixon +Ġmight y +- str +_s pecial +_A DC +ĠTw ig +um bling +- address +Ġher oin +Y TE +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĊ +F riend +Ġa ve +ĠP NG +ĠKurd ish +DataSet Changed +Ġbl ades +br al +St eam +Ġsig u +IRT UAL +ac os +UD P +(d atabase +he c +ĠString s +_scal ar +ĉd esc +ĠT LS +; "Ċ +ĠCor byn +Simple Name +u ell +ĠEnt re +ell ites +- place +Ġfrank ly +ĠE rf +CE L +Ġpa ÃŃs +Ġh edge +Ġlat ent +ĠIR Q +ĠH erald +ĠP rec +ë³ ´ +.T EXT +Sal ary +Ġaut umn +Ġtrav ail +.S um +Ġc ared +M or +Ġint uitive +Ġj ournals +_ IT +ĠT rou +ä¼ ł +Has ColumnName +Com posite +Ġsp ice +_d isk +_CODE S +ĠInt roduced +ion a +Ġnue stra +o ct +ĠĠĠĠĊĠĠĠĠĊ ĠĠĠĠĊ +(param eter +Ġstud ios +Ġproject Id +Ġbd sm +.Sql Client +im izer +ĠC ARD ++ t +a an +.s ol +_Ad just +Ġright eous +ĠLog ging +.f ilters +_T AB +ĉs ys +roph ic +other apy +ĠB rowse +key board +R ON ++ \ +ro pped +Ġext ensively +f k +Ġl ime +year s +Ex c +Ġs ph +Ġche ating +and ro +ÃŃ o +Ġpr ince +o ire +ĠD estination +ĠConvert s +Ġup stream +o led +Ġserv ants +Ġsem antic +Ġcr unch +Ġevent ual +run ner +/ error +Sp in +Ġsecret ly +Ġas semble +.P erson +end error +_ < +Ġp endant +S leep +ĠChem istry +Ġboss es +l k +)) ),Ċ +Block ly +DE VICE +Ġreflect ing +Ġam ple +Mill iseconds +ĠPresident ial +Ġus uarios +ĠN Z +ĠSal ary +ĠA manda +_n p +j ury +Ġkö n +Ġtherap ist +Ġhomosex ual +ĠDr ake +-w indow +ĠLoc ated +.D river +ĠV IDEO +Ġmerch ants +ĠC hest +- lock +/ php +Ġmil ano +_ST YLE +arg er +ide a +G UID +adv anced +me al +Options ItemSelected +=' % +ĠCh am +: data +(st at +Will Appear +Ġinform al +aj i +Ġre productive +ĠC AS +ãģ £ +F UNC +ĠR uth +)+ ( +CON ST +ĠF ans +Ġgroup Id +xffff ffff +Ġsam pler +Ġ}} "> +. the +Ġh ollow +W AY +ĠFac ulty +Attrib utedString +ĠLook s +ĠR ex +j k +ĠM IL +Ġb ard +.L ong +Ġliv est +Ġsk al +ic ism +MA IN +Ġmu cho +B ODY +Ġes e +ĉ use +F oot +.SQL Exception +Ġinherit ance +re ceived +Ġput as +ed is +als a +ĠError Message +Book ing +Ġtr act +ac z +ĠC ant +_reg ex +Ġide ological +Ġj ihad +h os +/s ys +col m +(p ool +Ġest án +ĠP ending +em ás +Ġktó ry +));ĊĊ Ċ +trans actions +Ġw ield +it ere +ert ure +_s s +Ġstretch ing +Ġprison er +.Read All +Ġbes ch +-- ;čĊ +Ġcr isp +_SC AN +Ġa e +Str ict +ĠMin neapolis +ĠBo eing +ar is +re k +_p ipe +Ġpri ests +(E IF +eh icles +ĠInter active +b etween +ĉNull Check +ĠBl air +ĠL t +_in line +eth yl + ¼ +_p ackages +Ġbarrel s +_ he +Ġreg exp +_ pts +_H andler +ing ular +ĠN issan +ĠR anch +Ġper ch +Un supported +Sm ith +ĠLeg ends +M i +Ġg f +st eder +Ġacqu iring +Ġsim ulator +() ," +re ceive +Ġin place +A CTION +ĠWeb Driver +files ystem +< Order +lo pen +ĠHE IGHT +.set Border +į ° +__ [" +Ġcl amp +Seg oe +b ands +to List +amb a +>' +Ċ +Ġcred ible +am at +play ing +.setImage Resource +qu el +Ġpod r +ge om +E k +ĠQ atar +Ġg eld +? ',Ċ +Ġc yl +( ax +ĠW I +ur ally +ĠBr asil +Ġsen za +ale y +on en +Ġb ah +Ġmolec ule +R ad +è¿ ° +AN CH +- background +- agent +Ġprol ifer +: boolean +Ġt ide +erial izer +_ ;čĊ +F ee +** ) +erg y +ĠHon or +.Log ging +ir is +Ġunder mine +ĠD y +Ġt yr +Ġde que +Ġdam er +([] )Ċ +.layout ControlItem +pe ated +C AN +rag ments +L and +) ]);Ċ +ĠS ah +ĠDE CL +With in +ĠN amespace +an other +sem bling +.des cribe +Con sum +ĠF ear +g iven +Or ange +< boolean +Ġstead ily +pa Repository +Ġresult Set +_ ENTER +_re peat +Ġt ones +ĠPRO P +n al +part icle +Ġsign aling +Ġaccess ory +ĉĉĉĉĉĉ ĠĠ +Ġvie le +ĠNo ah +- ag +Ġmur ders +Ġa ired +ĠPL AY +ĠS ullivan +_C ore +Ġul ong +Ġblog ging +> This +Ġdata Index +Ġprint able +ĠE yes +_target s +(P y +. over +Ġbr u +am pton +Ġplaint iff +< Key +b ull +Ġ⣠¨ +Iss ue +.cor nerRadius +C ritical +_p hi +. angle +Ġdynam ically +! ");čĊ +> );Ċ +in vest +.* ĊĊ +Ġt élé +Ġsuper f +Ġcas cade +DT D +Ġviv id +Ġsubsid ies +ĠH ass +Ġcoll aps +Ġcer amic +{} ". +ĠLeak age +-tr ash +coll apsed +-s ocial +ĠCh ad +Ġincl ined +Ġst o +Ġstory board +.p ayment +stack overflow +ĠRaid ers +Ġ# ' +olic ies +ìľ¼ ë¡ľ +em ap +Ġk j +Ġqu ota +ĠGard ens +ë² Ī +ĠAng els +Ġof t +Ġlower case +Ġi Param +Ġche apest +un ta +_p kt +ic ators +Ġle urs +Ġdecre ases +ĉ define +PRE C +amm ers +ĠPre paredStatement +(d irection +Ġcre ws +ark ed +ĠMem phis +ĠS ell +G TK +Ġm aid +: disable +éĽ Ĩ +ĠP f +Ġal beit +open h +?> ">Ċ +.get Source +(s cale +D u +ĠP IL +_ref resh +Ġbet s +(c ar +ĠV on +| --------------------------------------------------------------------------Ċ +ĠGr at +M uch +( Dialog +.stop Propagation +Ġte k +Ġex its +'], $ +Ġphone Number +uc s +ec imal +------------ -- +in p +.po jo +Ġcor pus +Ġpractition ers +.p ic +" testing +Ġstring By +.Not Null +Ġr ang +.D ynamic +_R ender +аÑĤ а +Wait ing +ĠW ik +Ġoverwhel med +% "> +ĠA E +}} >Ċ +u w +_t yp +Ġbuck ets +Ġgre eting +Ġla ughter +Ġant agon +uggest ion +- email +ĉt op +Ġer os +_tr i +Ġiss uing +Ġh á +Ġisol ate +Over flow +, E +Ġnut ritional +ĠAbb ott +Ġn f +.t ouch +.fetch all +_z ip +") }Ċ +Ġam at +ĠC isco +Ġn Ã¥ +PLE X +Ġse i +f oto +.to Json +å¤ ļ +ĠKle in +Ġlib c +Ġmin ers +å ¢ +- print +ĠP ride +T odos +Ġmask ed +Ġset Data +Ġtele fon +Ġunh appy +ĠT ables +ge b +( debug +_all owed +- access +Ġlog istics +Ġg ems +ĠM ature +Ġr sp +ĠAl le +.get Bytes +\ web +ynchron ized +Par agraph +Ġth rottle +.sql ite +cons ulta +ĠSe ah +C e +Ġsub mar +ER E +V ous +Ġre ddit +Ġsql alchemy +-m ile +oc ide +P our +}} ">Ċ +st ead +Ġ@ ( +Ġ[ ]) +ĠAd s +Ġover load +r idden +ĠDes ert +ĠW rap +ĠPortug uese +et z +ĉf irst +Ġmile stone +æĹ ł +Ñĥ Ñī +(s uccess +< Vector +co ol +Ġ[ ]);Ċ +erv als +Ġin vert +" io +cur so +fr agment +Ġfeas ible +.set Position +Ġel m +Ġimag in +@ Spring +Ġb ats +pu és +ga lement +ns ic +gi ene +ell ation +ĠBa iley +Sh ar +ĠT ul +ĠH K +Ġfree zing +gl m +ce ans +-c ut +_c ircle +åij ĺ +n egative +Ġind ian +s alt +Ġt ing +ĉm od +Ġs int +ak in +um l +ĠText Input +Ġpop ped +T MP +Ġpark ed +×Ļ × +ĠF usion +Ġhe ater +ET F +ro zen +h all +ĠM ik +lev ard +- heart +ĉ order +M aking +Ġpled ged +Ġdir s +$ post +ĠH err +stant iate +, "Ċ +.get Color +ĠS AT +Ġtimed elta +ĠM ai +ĉm ethod +Ġid iot +ĠTr av +ident ified +ĠDiv ine +.get Path +D ash +Ġinf iltr +Ġhandle Submit +bro ok +.g eneric +.short cuts +................................ ................................ +Ġdat ings +ĠM V + # +} "ĊĊ +Ġimprison ment +ason ic +rou d +uc ion +æĬ ¥ +Ġdia lect +Ġon Mouse +const expr +.label Control +Ġwe aker +Ġman kind +ĠRE CE +Ġd iz +Ġapp Bar +Ġqu é +f ra +_default s +Ġal iqu +_at om +: indexPath +Ġmiss es +Ġvis ually +ĠH ands +STR U +i ates +_ asset +F inder +mid t +Ġsn acks +(__ (' +. uri +ĠIn strument +ven ir +($ __ +.Dot NetBar +Ġconfig s +Ġguess ed +ि ठ+Ġinitial izer +Ġ? ", +ĠVer izon +man ifest +ge ben +.d etails +G ate +pons ible +ĠEl im +, str +Ġwrit ings +ĠD erek +ĠCo ordinator +Ġpill ow +Ġnotice able +R s +Ġduplic ates +ern els +k J +.z z +oll and +ĠSE CTION +_f name +uff led +'].' ")Ċ +ĠD ollar +Ġem oji +Car ousel +- player +Ġadjust ing +Ġjug a +alleng es +g ene +(body Parser +lop edia +ĠBeh ind +Ġslee ves +Ġdrag ging +ĠChe vrolet +Ġb iz +iv ities +ĠFrequ ency +, char +.W HITE +_pre view +) ';Ċ +_ ax +ION S +.c pu +.input s +UB E +_fe ed +ĠSup plement +! ). +es us +ĠU DP +Ġmicro phone +Ġconf irms +.is NotEmpty +":" ",Ċ +_S CREEN +ĉ expected ++-+- +-+- +ĠH ait +fast call +Ġdep ict +v b +_p icture +ĉd escription +ĠW ife +uc i +Ġv icious +ä» ĸ +ue ba +Ġset User +ãģ ¡ +Ġd iving +Ġoper a +user content +ar ah +) }, +y un +vel t +Ġun covered +Ġh ips +Ġosc ill +Ġassert ing +ĠX i +.re store +ke a +Ġsp elling +Ġder ive +ab we +ĠD ow +.set Type +_v s +Ġco zy +.c ategories +O rg +_m gr +Ġd ungeon +collection View +ĠBl ank +ac ias +ä ä +_clean up +_ACT IVITY +Ġtri angles +.Menu Item +Ġip hone +ĠW on +] ]ĊĊ +ĠCompar ison +.D oc +Ġcan onical +ĠSud an +') { +Up Inside +b uiltin +ENC Y +x be +Ġch uck +Ġcontrad ict +Ġnuest ro +Ġarchitect ural +ĠF ib +Ġcomp ares +* k +C fg +çĦ ¡ +nt en +Match es +ĠDOWN LOAD +_HAND LER +man agement +[ S +EN G +ÂĢ Â +f ang +Ġsl ipped +ĠL anka +esc aping +Ġtack les +ĠPed ro +.P rop +.' ' +.G enerated +.New Guid +at rigesimal +ill on +Ġstat istic +spec ies +hold ing +Dr upal +Ġfundament ally +Ġbond age +Ġres olutions +Inline Data +\ Type +est ion +.w rap +Ġwar riors +ĠLOC AL +Arch ive +Ġembr aced +á» § +.V er +ĠAff ordable +oles ale +ĠAp plied +ĠCon version +m ega +_c am +Ġcer emon +aur us +ĠVol k +.op ens +/ about +ĠSt d +j ournal +()) {čĊ +," \ +( Arrays +ĠD ense +ase ña +än ner +/ stat +user Data +Ġg erman +Ġt z +worth y +Format Exception +ph erd +Ġsm iles +ĠWh enever +( adapter +.bad logic +Ġbrief ing +.Grid Column +- char +dim ension +ĠC opper +Ġnin th +Ġ' {{ +Ġr av +_T able +Ġderiv atives +ĠR aise +ĠF ut +arm or +-p adding +Ġre min +ĉ style +ĠMembers hip +Ġspread s +Ġgall eries +ĠClar ke +Ġcon ception +min ute +Ġab usive +_ad j +Ġterr ific +Ġover t +our cing +Ġentr ada +level s +Ġcrit ique +Ġrespect s +ĠM MA +i ene +Ġenc aps +ĠRay mond +Div ider +iv able +b az +Ġ@ _;Ċ +ĠCl aire +Ġur ging +CE E +Ġtransform er +disc ord +ĠJ ourney +t os +Ġcompet itions +ĠO BJ +ĠB is +Ġrelax ation +id y +_IN STANCE +ĠP ref +d ados +ici encies +ĠMedia Query +ĠC ube +ĠStr ange +g pu +(d ays +_Init Struct +Ġfinger print +em at +ĠGe cko +Ġr ails +ĠL um +str action +ig ung +(m ovie +_d ictionary +_int errupt +ĠQ C +ik ed +append Child +rec ipient +r é +V e +Ġtow el +.last IndexOf +Ġplace bo +ĠW ie +.es p +( Debug +oper ative +Ġdece ased +& id +ĉm utex +el ic +Ġb apt +ĉ čĊčĊ +Ġfar ther +H alf +.dis able +.menu Strip +le ccion +Ġresult Code +Ġc ans +-e lection +f emale +_F IX +aus ible +ĠP OWER +Ġrecon struction +Ġsc ans +.Xtra Bars +âĢĺ s +Rem oved +Ġparagraph s +_m argin +Ġl ymph +Ġb os +ling ton +ĠBapt ist +Ġadvertis ements +ĠMan age +/ yyyy +IO US +ENC ES +ĠF iction +ĉm enu +ĠFile OutputStream +ov an +ĠF eng +Ġsk ipping +get Class +ann i +Ġreb ounds +Ġpublic ity +Ġing res +use ment +Ġthought ful +.Ch art +Ġhat te +pass port +Ġhook ed +ĠL ens +Ġflag ship +Ġst ip +ĠG EN +Ġcl ues +ip v +ĠR ise +ĠG ew +tab lename +Ġfore most +_ validate +_an alysis +oll a +Ġqual ifications +Ġdistrib utions +ĠFl ower +Ġt ense +Ġthank ful +Ġcl utch +Ġun ified +ro ads +Ġsit i +Ġst all +_P RIORITY +c stdlib +_USER NAME +.by tes +? page +ermal ink +ĠVe get +/v nd +- author +.N ONE +ĠCon current +ĠC ry +Ġstart ers +ĠInter action +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠ +ĠLE VEL +E ll +Ġcom boBox +ĠTh eresa +te k +_H andle +Ġab y +.g dx +, end +(L ocal +O l +kn ife +ar ial +ĠH off +Ġprostituer ade +Do ctor +Inst ances +.Set Value +ĉf rom +Ġlux urious +Ind ent +Alloc ator +_D RAW +(", ", +ĠFr ances +Ġgroup Box +(s chema +Print f +OR IES +- gradient +Ġre put +ar in +_D ONE +in cre +ig nty +Ġex ert +Ġ- . +/ App +-th rough +Ġdecl ining +Ġdess ert +Ġinc umb +Ġdesign ation +.P ORT +, strong +Ġsand box +Ġw ines +ĠP av +$ str +ask ell +Ġh ö +ĠP Y +Get Instance +Text Input +game Object +/ events +created At +Ġlocal Var +ĠWH ITE +per ed +ile ge +eff icient +, color +c ate +ĠC afe +Ġsimilar ities +Ġp umps +ĠHung ary +.User name +Ġsk ate +Ġtouchdown s +Ġacceler ate +ĠH elen +OM EM +ĠK un +_v ol +Ġfind All +ĠMens chen +a head +); " +kom men +Ġpossess ed +.arg max +.trans ition +AR P +OLUM E +(s cript +ĠÐ ĺ +ĠF inding +on ces +I o +B old +Ġrenew al +_D IALOG +Ġdis reg +INT ERN +Ġt oute +Ġelect r +ĠG ross +ĉ true +.F ields +ĠW IDTH +ĠD ent +Ġà ģ +NS Notification +Ġa os +Ġme lee +. Validation +ĠDE C +-depend ent +Ġsu ic +T raits +$ message +ĠD ear +ĉ FILE +l anguages +.P rot +.add r +-g eneration +IC ON +Ġtrans plant +-d escription +Ġch asing +Ġche es +Ġ} */Ċ +Tr ad +qu eries +/widget s +sub package +Ġes pec +Ġcr acked +Ġcompet itor +P urchase +- team +olec ular +or Thunk +& P +Ġrel ent +/ #{ +Ġproduct Id +Ġè ¾ +ĠL av +ĠAl ter +.M ode +AD IO +gr p +æ ·»åĬł +Qu it +Ġdepth s +-c ategory +ĠD ATABASE +S PELL +ĠFal con +ĠQString List +Ġ'' . +ĠIn stitution +d amage +az or +bel ongsTo +ver ages +ĠN ONE +ipp ets +, \Ċ +Ġfoot print +_ archive +n ak +.get Field +ĠRef lection +Ġ' ] +ĠH BO +_dis count +Ġin cest +ĠD odge +ĠW ade +.N O +" encoding +ĠBlock chain +Ġlaws uits +ĠM aint +ch ten +Ġét ait +Ġktó re +_ ctl +(t imer +B attle +iz o +ay ed +I OR +ĠGlas gow +Ġsyn th +_log s +.p ose +_Adjust orThunk +(( & +Ġuns ure +yst ate +íķĺ ëĬĶ +O ULD +. ng +Ġdefault dict +work space +Ġselect ive +Picker Controller +YNAM IC +.method s +Ġpath ways +ĠF ew +K G +CRY PT +follow ing +ĠD LC +ĠS ara +Ġpres et +estruct or +ĠK urt +Ġair plane +Ġo mp +ĠParent s +ĠMart inez +.com plete +Ġbroad ly +Ġsc are +ĠM é +Ġelim ination +Ġpou red +/ sw +Ġcom un +Ġm asc +ĠOrgan ic +ĠString Utils +il ateral +Ġreluct ant +- age +Ġn z +." \ +Ġpast or +ale z +Ġe fect +pro v +/ init +Ġp enn +und s +Ġs size +ĠPro j +bas ename +Ġsh ells +ĠNe ck +ĠEn forcement +vid ed +st own +S phere +$ r +uss en +af il +ĠTele gram +Ġanaly tical +нÑĭ е +us ually +x n +Ġhistor ian +ĠGreg ory +ol ph +ĠUn a +Ġcon tributes +% - +anti ago +ÑĢ ÐµÐ´ +.reg ion +Ġab rupt +ĠUnsupported OperationException +ĠT ASK +_f inish +Ġnot orious +ĠV s +ĠM Q +Ġsun set +Ġun acceptable +ar cer +Ġill umin +ĠOr b +Ġb h +E ste +_dis patch +Ġr ipped +Ġtou jours +ĠPar cel +_ ll +.user Name +.class es +S OURCE +( Number +ел Ñı +Ġhead phones +(s ide +const itution +ann ah +čĊ ĠĠĠĠĠĠĠĠčĊ +Ġcl iff +- ref +Ġmo strar +ĠPow ell ++ y +ĠB G +_f ragment +.P ort +Ġreal izing +param ref +Ġh ometown +@ Table ++" --}}Ċ +F rench +Entity Manager +ĠPl ain +//////////////////////////////////////////////////////////////// //// + ³ +( RE +c apt +Ġorgan isms +Ġj ets +ol ocation +ĠApp RoutingModule +Ġgl orious +æľ į +Ġdisc arded +ĉĉĉĉ ĠĠĠĠĠ +ĠArn old +l ug +Ġpar l +Ġhorm ones +Ġm ah +ĠSon ic +Ġorgan izers +_PL ATFORM +.in v +Ġch ord +vent ional +ĉ of +Ep isode +. Enum +unk t +ĠD h +ĠJ ared +ĠN ak +Ġint ends +End ian +Ġa ustralia +_c v +(res olve +Ġclin ics +lik ed +ASH INGTON +in ha +' * +ĠN P +_b eh +Ġh f +Ġw ür +c ategoria +$ form +Ġsub way +Ġis Active +pop ular +C our +Ġco oldown +Ġa insi +ĠGL uint +ere al +Ġarray Of +Ġh atch +======== == +ress es +_P P +. ^ +_dec ay +ĠB less +met rics +ĠCOPY ING +ĠDump ster +ĠJos é +ĠDesign s +< +Ġ" }Ċ +time zone +Ġe er +max cdn +ĠE SC +ig aret +_conn ected +_re verse +Ġquestion able +ĠUS C +Ġtut ti +Ġdrop out +ĠActiv ities +ĠW inds +')) );Ċ +Ġcon gest +ÄŁ ı +Ġprolong ed +è¿ Ļ +ĠCross AxisAlignment +LE EP +ĠVAL ID +ĠG az +Ġdepend ence +ĠP rix +.Compiler Services +j ump +Ġstr at +c irc +ĠC USTOM +x aa +Ġb mp +Ġb ureau +Ġw aren +N X +( Window +ĠChrist ie +_F E +Ġt n +ĠOm ega +communic ations +Home Page +com pletion +Ġsupply ing +YP ES +á vel +åĪ ¶ +(c lick +\ Contracts +/ questions +Ġe z +AM S +.m esh +Ġ' \Ċ +Rob ot +Json Object +ĠD F +ĠProcess or +_sh ould +.prot obuf +- users +Ġemb ry +F ONT +Ġstart ups +ĠData Source +) # +uro s +_C olor +Ġstand alone +} [ +j d +Ġforg ive +Ġng x +ĠGener ally +Ġconfig urable +/ order +Ġv as +') ";Ċ +ĠR R +ĠT roy +Ġcomprom ised +ĠSw an +int endent +Cent ral +_ keeper +Ġar quivo +ĠRead Only +_cur ve +k v +ent in +è ± +ĠE y +.im read +ĠP am +if fe +at ivity +xb c +Ġgr im +-f illed +names e +'] : +Ġa ur +ĠGib son +.Mouse Event +Ġl ado +avad oc +Ġfam il +ĠM oder +f ps +ãĢĢ ãĢĢ +- example +ĠAl zheimer +ĠU tf +_arg uments +Con clusion +text Content +rem aining +Ġinterrupt s +ĠBack up +ĠM ong +Ġrecept ors +h istor +.cor outines +Ġsh outed +Al arm +Ġcomb ust +Ġg rote +ult ural +( ids +---------------------------------------------------------------- ---------------- +ipl inary +O pts +ĠY ale +local Storage +Ġequ ival +ĠF leet +\ b +* pi +ĠQ Label +æ ¡ +Ġv x +ĠA CL +Ġsu cesso +Ġper c +ĠNot re +Ġan arch +R ing +sp b +Ġstr pos +st ores +ĠMap le +(Main Activity +(" ")) +Ġview Holder +Qu ad +Ġig ual +ors che +.m argin +Ġind ie +Ġfr anc +ĠForm Builder +ĠPart icip +.fl ash +Ġstorm s +U lt +Ġf en +[ new +E ver +=" Ċ +Ġlocal ized +_f ollow +Ġn ave +Ġdomin ance +(t ile +J ournal +ĠV C +Ġpenet ration +ï¼ ķ +Ġcomp artment +Ġb ids +Form atted +****** /ĊĊ +(c ity +âĢĶ it +[ C +Ġuse Callback +a ub +) ?. +ĠV AR +ĠSe bastian +ĠM oss +Ġabund ant +G reg +ÑĤ а +_c i +Ġbib li +CR M +ĠAt tempt +ism e +d ash +ãĢ İ +_m u +.Formatting Enabled +Ind eed +-d irect +Ġsuck ing +Ġp ne +ocab ulary +ĠPack ers +.N avigation +Ġp ied +cri bing +ĠSt uart +.To Double +ĠSecond ary +S aving +ĠD ut +ĠM add +M agic +, H +.document Element +ĠB ST +Ġdiff ers +Ġmore over +_ nd +SE ARCH +п ÑĢав +æ ´ +to Match +Ġdecre asing +-m ember +amp us +( boost +D aily +Data GridView +ĠHttp Context +Ġh ipp +_work ers +-l anguage +é ĵ +Ġconsist ed +ath ing +ĠMer cury +$ content +Ġpract iced +ĠMod ules +_D AY +Ġweakness es +ĠL odge +Ġn ar +ĠM ate +Ġj p +ĠHttp Headers +Ġsm o +ĠT OKEN +] )( +Ġaqu i +sw agen +Ġs rv +ĉ ans +A round +ĠMan uel +Ġfiction al +ĠIM G +Ġ. ' +ĠB erry +Ġwall paper +sex ual +ier o +Ġ çļĦ +ìĨ Į +Backing Field +ĠAd rian +BASE PATH +Ġrepe ats +Ġbl ues +Ġunp redict +_c oll +st acle +ĠT umblr +ĠEl f +Ġass urance +Ġc ensus +ĠIM PORT +END ER +an os +Ġ= ( +ĠEll is +" ĊĊĊĊ +.w in +ĠA bove +al on +_t ick +Ġrepresent ations +Ġæ ķ +w id +ĠAr ms +List a +_f ailure +_c m +.Flat Appearance +Ġthr one +P atch +ĠV oy +eng l +Ġnegot iating +> ` +Ġshoot s +ĠF PS +.Y ear +ĠK iss +enc ión +reet ing +From File +Ġresign ation +Ø · +Ġtw ins +ưỠ£ +Ġge bru +.get Content +.T ree +ĠEmploy ees +ĠF IFA +Ġcert ainty +(C l +Ġtot als +edit able +à¥ Ģ +.Report ing +M as +qu iet +.r ules +ĠV O +con exion +, K +Ġalloc ator +ĠPow der +\ Repository +Be at +_t ipo +Ġ[' ', +_IN TR +Ġ<< < +< hr +") == +ugg age +ĠC raw +Ġé galement +Ġg inger +Ġprim era +Ġprod uto +lt k +.User Name +Ġstr error +m ith +_n b +Ġdis comfort +']; ?> ");čĊ +drop IfExists +ĠB eg +_H AL +Ġcross AxisAlignment +ĠE vidence +Ġpec uliar +Ġinstit ute +ve is +Ġf ft +à ģ +Ġzo ekt +an aly +ĠHom eland +Ġpen etr +udden ly +ĉ element +ĠB ren +ĠTr udeau +ĠCub an +j am +us lim +_e v +Ġst ems +} % +Ŀ å§ĭ +Ġbrand ing +Ġcorrespond ence +.j query +¢ åįķ +ĠRead s +(Http StatusCode +ass in +(s lot +ĠGrad uate +/// < +Ġinform ations +EN ABLE +Ġp uis +Ġfind er +ĠBr is +Ġnett steder +_m id +Ġo gs +ĠSter ling +Ġar rog +str ftime +| ĊĊ +Ġvo x +ĠReg ardless +Ġes o +ĠCom fort +.Boolean Field +Ġu h +AC Y +Ġsque ez +ĠV ic +cont ro +. lo +Ġ ire +ĠCom edy +ë ¶ +Ġorigin ated +Ġsh ipment +| max +_g uid +lev ation +на Ñı +( undefined +ĠD DR +Ġshoot ings +ĠLat ino +END OR +Ġaver aging +Ġgre eted +Ġthe aters +о е +Ġd B +Ġg st +Ġdef inite +. Storage +.h er +Ġa fore +ĠRe ality +ĠGod s +vers ed +Ġhands ome +Ġex cluding +( ad +Qu otes +ĠS cheme +? q +ĠT amil +T icks +Ġp est +' n +Ġporn ography +_mod al +Ġ ---------- +Ġdis posable +F REE +Ġsh ark +C HE +Ġdep icted +Ġdemonstr ations +ĠK illed +ĠR ULE +Ġobs essed +Ġsimpl ified +Post al +Ġconcept ual +Ġp st +L as +_PRO JECT +ucceed ed +ol u +ÄŁ i +Ġpersonal ities +Ġres hape +Ġenc losed +ĉp tr +Ġtutor ials +Ġexpl oded +_DIRECT ORY +åĨħ 容 +Ġcan on +Ġrecogn ise +P AD +ĠAppro x +ĠRest ore +ĠImport ant +Ġheav ier +.Se quential +Ear th +ĠMil k +.set Request +.t em +Ġre construct +Ġskept ical +_Pr ivate +BU F +qu a +: a +Ġse k +Ġd well +oss a +Ġreward ed +и й +(top ic +_part ition +Ġ__ ________________ +Key words +ĠFr anco +L ite +Ġn aken +Ġз а +O BJECT +Ġcraft s +ĠSw ap +.X na +.Con nect +Ġbalcon y +(re al +ĠBarn es +b ir +ĠTw enty +ay an +at ars +ĠProp el +ĠIh nen +Up grade +Ġcur b +- second +Ġn eph +.p res +ìŀ ħ +.se q +Ġp added +" ? +j l +ãĥ ¬ +') a +Co ordinates +Ġen acted +ENT S +Ġl ac +.f inal +ĠPhp Storm +c alled +Ġin quiries +.m iddleware +ĠD owntown +/ ';Ċ +Ġkil omet +ac cel +Ġqu ien +w string +set Data +Ġman era +Ġmod ular +rim p +Ġtar iffs +âĢĻ il +_TH ROW +/c olor +ĠHT MLElement +Ġcar ro +Ġpr ere +Ġplot ting +ĠPos itive +ĠMach ines +OT ES +á» Ľ +ple asant +Ġal te +Ġa inda +th ese +Ġc ors +ip ay +ĠAdvis ory +ĠRub io +j q +Ġl imestone +Ġdet ached +设 ç½® +ten ant +ĠDep th +al ore +ĠÑģÑĤÑĢ Ð¾Ðº +ĠF ORE +ĠL ay +p resentation +) ');Ċ +.sub plots +Ï ĥ +N OW +G ar +hand les +ab ra +put ies +ĠElect rical +M iddle +rop ic +ĠJ D +ĠD yn +ĠB ristol +ĠMc Carthy +Ġstri ker +Ġenumer able +ĠEv an +.default s +qu ences +) || +ĉt oken +â Ĺı +-d ropdown +ST ORE +ĠGraph ic +( pp +Ex pl +Ġup wards +ĠD istributed +ĠW EB +J er +is NaN +çĶŁ æĪIJ +> R +üss en +ef s +Ġun cover +Ġl ud +.cal culate +Ġint ptr +Ġmidfield er +. Headers +Ġm f +ere f +.M etro +ĠSpe aking +: b +Ġcryptoc urrencies +Ġdem ons +ĉ EXPECT +Ġw icked +y outube +: Int +ĠHind i +ĠC AT +ĠØ ¹ +r ar +om ore +/ per +/lic ense +Ġre im +Ġawait ing +Ġle thal +ĠE F +round ed +ĠPl atinum +ĠвÑģ е +.co ords +.De vice +/ item +ĠW enn +compile Components +ĠK inder +.remove Item +Ġand a +bn b +Ġpr a +( transaction +Ġembarrass ing +ĉ BOOL +.content View +Ġevent data +at ore +Ġprovided In +ir ma +Ġz ona +_H W +æ Ļ +Ġst ove +Ġcounter part +_Pro duct +_MAN AGER +Ġinfr ing +ĠE RA +_p arty +Ñ ij +Ġin ici +_ Request +Ġmir acle +Ġcancel Button +S py +at ó +Ġpol ish +ĠNic ole +.display Name +\Request s +Ġuse History +Router Module +Ġst ared +ID ER +Ñĥнк ÑĨи +Ġnot a +$ arr +pec ified +Ġto pp +_DR IVER +/ ng +å ł +_t m +% timeout +< s +Ġ( *) +ĠHttp Request +_TR ACK +(n ote +ĠExp lore +_s erv +Ġç » +B inder ++ ", +. att +ĠEth i +Ġc ódigo +=' \ +.l ines +( Of +å° Ĩ +miss ible +Ġv é +Ġac oustic +Ġcraft ing +n it +.b a +ĠLuc y +Ġi Pod +Ġpup ils +-m ax +_w r +(c p +ĠRE PORT +Ġd ns +ĠRe ferences +Ġundert aken +Ġkø benhavn +Ġch ai +ĠC roat +_ Log +rown ed +_m ed +ĉ date +# __ +Ġcost umes +ĠRe quires +aff le +ç Ĭ¶æĢģ +-S emit +ela ide +еÑĤ од +Ġp estic +Ġd ra +DOC UMENT +Ġ... čĊ +}` }Ċ +ĠA uction +ĠD ock +xxxx xxxx +(get String +ħ į +Ġborder Width +ĠMach inery +Ġpredict able +.S H +Ġam plitude +.for Root +IN avigation +Table Model +at trib +Ġmaneu ver +Ġexc av +B ERS +Ġd apat +Ġinstall ations +.A sync +Ġr ays += âĢĿ +; ččĊ +.c rypto +_db g +ĠEnum erable +Of Size +_epoch s +m w +M ENU +out line +ĠP apers +============ Ċ +Ġuniform s +ĠG ig +- package +ĠJen kins +ĠHome Page +.is Selected +Ġmechan ic +M K +ĠS ounds +//---------------------------------------------------------------------------- -Ċ +Ġresearch ing +Ġinf os +ograph ics +ers et +([' / +ĠTim ber +. agent +.to JSON +_command s +par ing +_ad just +.n ome +(g lm +Status Bar +file path +? âĢĻ +Ġdetect ive +Ġunser er +ĠTib et +EN DED +(se ed +Ġsne ak +Ġam or +=" // +ĠPan thers +all ax +ĠL IVE +ĉD WORD +]= - +Ġtorn ado +/ min +Ġlung s +-c urrent +ĠBook ing +åĪĹ è¡¨ +Ġenjoy ment +ठ° +J A +typ ed +.B tn +f at +ug al +ĠSh ares +Ġdis gr +ĠB AR +ĠFO X +Op code +ĠS z +key down +iction aries +Ġdetail ing +} ))Ċ +Ġp ok +Ġdemonstr ating +Ġnot ation +l ayers +@ if +ĠN PR +.strict Equal +ĠRec ipes +.T ensor +Ġliqu or +Ġdeb ts +.ends With +W heel +.P os +CS V +$ arity +Ġun stable +( loss +ENS OR +Ġele ven +ĠL opez +ĠHop kins +con om +ĠS eth +Ġpo ems +Qu ant +Ġg sl +Ġsy rup +Ġs ibling +Ġc ass +-v ous +ö t +_P ATTERN +_SE CTION +est imated +up grade +.m ongodb +ĠBo at +_C TX +Ġfetch ing +ust in +pi el +M arg +Ref lection +Ġd uct +ĠMunicip al +Ġb x +.Get Current +ml ink +ĠAccount ing +ĠGene va +_P os +Ġpass er +Ġhear ings +com pan +Ġfrag ile +Initial izer +walk er +.M aterial +ĠHun ting +trys ide +Ġk at +Ġcl erk +á Ł +do ing +ĉg roup +Ġsan ction +.l b +ĠL azy +ĠCon straint +P agination +Ġpou vez +ĠInd icates +M ER +Ġcour s +Ġyear ly +Ġgros se +abb rev +ĠD ON +Ġproceed ed +ent lich +Ġproperty Name +ĠTe aching +st adt +Ġc utoff +orn ers +Ġa frica +Ġrend ers +ĠYan kees +ĠTool bar +sp aces +.fill Style +Ġseg undo +_str len +.F irebase +å¤ Ħ +Ġmention ing +\ ( +ĠVal ve +Set ter +Ġsp ans +ĠAl cohol +ĠLet ters +\x e +ĠT K +_B LE +.get Result +< Player +ĠP att +Ġeas ing +Ġtur key +ĠF en +') " +Ġconf ined +Ġin clus +Sup erview +(with Identifier +enc ial +Ġstuff ed +Th eta +Ġeconom ists +} ));ĊĊ +co okies +ĠRo ose +ĠChe ese +Ġfich ier +Ġen forced +AB B +no ÅĽci +_AL LOW +Ġrecru ited +Ġexpend iture +-n ight +Ġassert NotNull +_ex ecute +ĠØ ¯ +IN DEX +_F MT +Ġresc ued +ĠMonth ly +ĠCons ervation +ĠG eb +Ob ama +Ep och +ic ies +ĠOr t +Ġso it +( icon +F riends +m ol +Ġground ed +ĠC ause +ad ena +WE EN +ĠL un +IT IVE +. loop +_un til +Ġcor r +.ed ges +Ġhyp oth +ched uling +trans lator +ĠÐ ľ +R om +ãĢij ĊĊ +ĠX amarin +Ġviol ating +. anchor +--- ĊĊ +Ġtr ader +AD VERTISEMENT +Ġuns ere +ĠD AO +Ġbl ond +ĠP AT +.g lob +Ġè¾ ĵ +Ġsplit ting +Ġun subscribe +Ġatmos pheric +ĠTr im +Ġcit ation +Ġin ference +ĠF t +ĠDar win +find One +ĠG el +( Convert +Ġaccess or +; text +(s orted +Ġjud ged +); \ +: p +Ġme ine +ĠS lim +.Command s +Ġper ceive +coh olic +< Data +.entry Set +Ġassert False +ĠPat rol +ense m +ÅĤ Äħ +¨ ¡ +W IDTH +ĠRes cue +ĠU IF +_THRESH OLD +ĠMich el +ATER IAL +opens ource +ĠD iana +Ġinv ites +_B ODY +Ġreserv oir +Ġro i +c ust +(t c +ï¼ģ ");Ċ +Ġfest ivals +Ġperform ers +Ġclim bed +Ġj ungle +String Length +Ġunlaw ful +ier re +vertis ement +Ġst akes +Ġh ats +Mod ify +ĠLET TER +.H ide +Ġstat utory +_ white +ĠPer l +uten berg +em ple +.W orld +Ġoverlook ed +Ġcon cludes +/* ================================================================ +-w ise +ĉ stream +pop ulation +Ġevent o +Ġillustr ations +ft s +Ġaut of +ĠPro cedure +Ġdes erved +-t imes +Ġg ol +N SError +cre st +ĠPak istani +any ch +get Current +Ġl ar +nt l +ĠRe becca +Ġm ateria +Ġfind By +/ ad +Callback s +ĠAl s +ĠKat ie +ĠObservable Collection +ĠDocument ation +Typ ed +ĠCulture Info +ĠTim othy +Ġlater al +" type +Ġun authorized +Ġteach ings +Ġdebug ger +[ value +Ġal ors +Ġu z +Ġsc atter +Ġdown ward +Ġmig li +status Code +Ġ( )) +ĠM W +Ġм ож +RO SS +.b uf +Ġfair y +ĠInf rastructure +=> " +t lement +$ (" +From String +ĠB ild +Ġconvent ions +_n ative +ĠIns pector +ĠP ist +ub ar +Ġreg s +ĠP ilot +Th us +>' + +Ġc ela +.new s +( Product +L iving +R ussia +Ġfac et +et ical +Ġ[' $ +/ [ +ĠD ire +Ġg ases +ĠIN FORMATION +ĠE at +ĠFor ums +ĠChar acters +_m et +Ġìĭ ľ +Ġk ings +ach ie +ĠL ambda +Ġtim ers +ĠLight ing +ĠCase y +add ir +and ex +. answer +ĠH ip +ĠPr incip +Start Date +Ġ ãĢĮ +t res +Ġ& # +.Max Value +ĠPro blems +Ġlat ex +Of Class +ĠLyn n +// ' +Ġvoy age +Ġshut tle +ĠRoll er +ĠRuntime Error +uy a +D ic +ĉb uilder +Ġbul lying +Ġsimple st +.c alled +ĠL R +Ġmor ality +Ġst urdy +tr acking +.sw agger +_B IND +IT OR +-url encoded +ĠÑ ħ +ĠTr inity +Ġtr aps +Ġ| - +Ġset Text +Ġbarg ain +Ġbr akes +.get Code +Ġmigr ate +Ġrib bon +) return +Ġcharg er +ac om +ADI US +ĠAmb assador +-a fter +Ġann i +ĉs pin +Con cept +ĠHend erson +ĠH OST +.r ank +ĠNor theast +Ġber lin +Ġrequ is +.f eed +Ġsource Mapping +ĠRen contre +. ajax +nest js +Ġtre k +ĠN acional +Ġ& [ +Ġpay able +ort ex +Ġde pt +field Name +Ġcomple tes +ĠR VA +Ġon ions +al ignment +Form ats +Ġ' {$ +Hash Set +ĠB od +.Invariant Culture +Ġsettlement s +Ġhy dr +. updated +vent h +( seconds +="/ " +Ġweb page +( ĊĊ +Ġt ir +Ġto es +ĠBr ick +Ġamb ition +P ot += max +ET IME +Ġdep ot +c alls +ĠNor wegian +` : +Ġbur ger +Ġprofess ors +ĠAl locate +-third s +-ch art +Ġfor d +* N +.k otlin +Ġpaper work +ĠDE VICE +% @", +res pect +(m p +é «ĺ +- if +Ġcush ion +ob ot +Ġpar c +SP ACE +ĠNet anyahu +Ġself ish +fe at +Ġclient es +-to ols +Ġpor ch +Ġj q +. verbose +Ġlib erals +] )ĊĊĊ +p ies +Not Blank +( term +ÈĽ i +_Param s +.normal ize +B ullet +AS IC +(h ex +_client e ++ , +_D I +Ġforth coming +} ")]Ċ +se o +U m +> Name +Ġcomfort ably +irection al +W ITH +/ pr +ĠP oor +ĠVit amin +v ic +G H +Ġprior it +ĠN N +ĠC losed +¤ í +Ġis Open +\ Console +And Feel +.S UCCESS +_OPER ATION +pol ation +ĠT as +ps z +> '. +C URRENT +V endor +host s +ĠE rd +>tag ger +ĠsourceMapping URL +Ġmar athon +_c losed +Ġexem ption +Ġrecogn izes +ides how +' $ +('/ ');Ċ +m its +war z +ĠCh erry +µ ¬ +n or +port e +Ġw l +_back up +.get Boolean +.get Resource +Ġdefinit ive +. EditText +Ġs ÃŃ +.C ONT +ĠPL AYER +.c ards +ĠSh ore +('/ ')Ċ +cl uir +Web Driver +(m onth +-re lease +Ġins pector +å £ +ĠN F +_cl ip +åŃ IJ +Ġinteract ing +.t mp +Ġ'' 'ĊĊ +Ġde e +Ġfro st +"] ))Ċ +ĠPl aces +Th rows +f ork +/ day +i Phone +ĠM IC +Ġfold ing +Ġcro re +ĠCh iefs +pher ical +( price +.Write String +Ġexit ing +] ',Ċ +ight ing +Ing redient +( vertex +Ġscroll View +h f +: new +SE N +se ctor +Ġsp ins +ĠS cheduler +ote chn +sem icolon +Font OfSize +ĠSpecific ally +fl amm +.Object Id +Ġcont a +_per missions +ĉF ROM +IC ODE +/ kg +ĠHot els +-m ed +ĠD in +Ġn avy +get Param +Ġm end +Ġportray ed +ĠMet ropolitan +Paint er +Ġref erral +_g ood +Ġmar vel +osa ic +> (& +. ur +Ġest os +Will iam +Ġtim ber +Ġquel ques +ĠDoc uments +.X aml +Ġbatch es +éģ ĵ +ĠRe leased +T ail +CO OKIE +he id +_st ation +ĠV ia +S ale +ĠRe peat +Ġprom in +ĠZ o +- forward +ĠI on +it ary +Ġj us +- request +Ġproud ly +ĠStream ing +(Mouse Event +ĠS print +_ rotation +Re positories +Ġt art +ĠÑģ в +Ġm appings +è ª +C u +C ycle +Ġb un +ĉl ua +ãĥ ī +Ġ(( ! +Ġcollect ively +ĠCon d +Ġwsz yst +(l ib +openh agen +_s kip +.Column Header +é Ĥ +peri enced +ı è¿° +_p rops +Ġcontr ace +Ġmatch up +ab etic +.m embers +RE CT +(d at +Ġs og +ren om +_M ethod +Custom ers +full name +Z N +re try +Ġk ap +ĠNe u +è Ĭ +add Child +will Return +_p ermalink +Ġener getic +ĠW et +ĠMor r +Ġg cd +count s +, type +d ig +( Login +Ġcr acks +Ġbacter ial +ĠMe at +ĠArm strong +ĠBron ze +Ġapprox imate +_dir s +lig a +ÅĤ ad +Ġkind ness +Ġcont re +ĠE VERY +M ET +Ġannounc ements +g pio +ĠWaitFor Seconds +ĠPhotos hop +Ġdis contin +/ dd +Ġtop ology +an ical +. interface +auc oup +.Hash Set +ARI ANT +(r outes +ĠT eh +Ġh ype +] "). +Ġsl am +Ġbro th +- inter +ĠR id +-m anager +Cancel ar +ĠP agination +Ġsound track +Ġpost erior +Ġscr ub +cre ating +- * +ir teen +.d y +.s ymmetric +Ġ"" . +============ === +Ġch assis +ĠnumberOf Rows +Develop er +_b ins +ĠO UR +ri eb +Pro s +Ġwi ÄĻ +" d +Ġasync io +ze igen +_s pi +.A LL +Ġscre ws +Ch inese +Ġapi Key +Ġun successful +ĠSeah awks +OR G +ç« ł +Ġprofession ally +ĠCou pon +åŃĹ æ®µ +Con vention +Ġpol ym +æī ĭ +Ġsalv ation +Ġengine ered +ĠW rest +ĠG CC +Ġwar mer +Layout Constraint +Ġag grav +Script s +vent ure +Ġrefriger ator +Ġinnov ations +ĠRun ner +N IC +ĠRoll ing +Control Events +Ġlo os +p ac +ĉ panel +ef e +ĠBudd ha +------------ --Ċ +åº ĵ +(for Key +Ġl umin +Ġ( ? +ĠA IDS +, user +im ientos +content Type +ant lr +é ¦ +ĠW elt +Produ ction +m ight +ĠV II +", ( +Ġobserv ing +Ġdeliber ate +( control +Ġwith d +Ġsem ana +ST ACK +uch en +N ice +ĠDeutsch land +ĠSpec ifies +d ma +iz io +ĠF acts +_pop up +ĠDirect ors +{ : +[ R +ĠÑį леменÑĤ +Ġpl at +Ġdirect ing +ä¸ ī +ĠGil bert +â̦ .ĊĊ +.q ml +Ġthere after +Ġdis position +d raft +Ġsurge on +ĠIns ider +Bl end +ĠT rev +tr insic +Top ics +rie ve +_FILE NAME +Ġaut res +J ose +Produ cer +er us +Ġpet it +ĠN EXT +ĠF ilters +Ġreplic ate +"] ). +Ġl enders +] ",Ċ +; charset +Cpp Object +Ġfl oral +ĠT ipo +Ġcirc uits +e asy +(& $ +itt a +ery l +_COMM ON +'}} >Ċ +-back ed +(var iable +( Index +Ġvo ir +_loc ations +++) { +ĠLouis ville +Ġgrat itude +.Mock ito +ĠP owers +ie urs +Ġge ographic +ra le +Ġc ra +ĠSp urs +iph ertext +AC ION +- common +Ġvict ories +ĠFinal s +.sh uffle +-m illion +_PRO C +ass ume +Ġil s +DB C +Boot Test +Ġl avor +.test ing +. ast +"] / +m oid +Ġqual ification +ges ch +ĉ put +Ġair ports +J I +Te acher +_un iform +Ġn ama +ĠB ast +ert ype +c apture +get All +ĠReyn olds +oo led +.com ments +Ġch in +). * +Ġи ли +t gl +ud os +Ġd ÃŃas +ch ai +.pro gram +Ġps z +ĉ icon +ph il +ent ral +_WR AP +ov i +Ġnost alg +In finity +ĉy ield +Ġvit amins +Qu aternion +S ink +_g oods +Ġ ........ +ĠW ings +ur idad +-st ory +"] )ĊĊ +idel ity +Type Def +G tk +Ġí Į +_M ain +Ġche z +ĠR aven +Ġpay roll +Ġfreel ance +LL U +ĠM end +ed ay +Api ModelProperty +.Form BorderStyle +Ġeconom ist +stan bul +Ġfre ight +-A gent +(m eta +Ġsym metry +Ġ' .. +.C alendar +- aut +g f +p ent +yc lopedia +Ġwish ing +ĊĊĊĊĊĊĊĊ ĊĊĊĊ +Ġgentle man +Ġê ³ += # +Ġlect ures +âĢľ In +Ġ! _ +Ġh b +ĠV endor +Recent ly +_n otes +æıIJ 示 +" My +Headers Height +_S O +Ġunw illing +Ġsuper hero +g io +ps y +ĠPe er +j avax +& apos +ĠCr isis +ord inal +Mem cpy +++++++++ ++++++++ +- val +Ġwork book +- ap += k +Ġmetal lic +_ peer +By PrimaryKey +_S D +u ator +_SH ADER +) Math +.Trans form +Ġc ows +Ph i +ĠC lem +(_ (" +ĠL ud +-d elay +ĠSec urities +ĠOrth odox +Sym fony +(re port +Ġent ertain +E PS +iz oph +ex ual +IR D +ä» İ +Ġl ith +Ġsanit ize +Ġfemin ine +IS BN +.auth entication +_p ipeline +/ constants +ĠCON F +Ġluc r +ric ia +.t tf +.set Content +Ġst an +ore an +ĠL loyd +.raw Value +Ġg or +ĠBrow ns +Re gression +Ġlower ing +na issance +Ġbl ows +Ġam azed +Ġun related +Re views +Ġrub y +ĠMod ifier +Ġgi ants +. thread +Ġcontain ment +ĠStart Coroutine +um at +ore lease +ĠR andy +@ endif +D igest +Ġsubur ban +=" );Ċ +Ġann once +. variable +\F oundation +Ġa cre +V an +Ġt uples +d ns +ĠStand ing +_l arge +Ġbox ing +Support ActionBar +ĠFort une +ĠR um +_m ultiple +arch ical +Ġf write +_ quote +Ġfool ish +Ġcompr ising +Ġо п +- selected +v f +ma id +N ama +(d atetime +Ġindirect ly +g art +fix tures +ch os +ĠH alo +Ġrec urring +- news +v il +ĠNurs ing +- produ +ĠH Q +\Http Foundation +enc i +au en +Ġv y +ocr acy +Ġdeleg ation +Ġas phalt +Ġset Selected +k ok +/ rest +met ics +ĠNS Date +Ġtravel led +Ġrec ib +Ġm ime +CL IENT +ĠG U +ĠH ANDLE +/ Q +[ z +Ġbother ed +ĠBB Q +ç as +_ex amples +_F IN +Ġwhite Color +Ġastr onom +-d ir +Ġsovere ign +Ġb reeze +Ġin ning +ĠEd monton +g li +.blog spot +js x +Ġvers a +ĠMoh ammed +.J ob +-t oggler +Ġп олÑĮзоваÑĤ +ard on +Ġnew born +Ġnav al +note q +Ġtum blr +Ġh entai +ĠTyp ically +Ġlo ot +.S prite +Fl ight +Ġw avelength +-s k +ĠEl le +_ exports +Ġ Ñı +ĠI H +izoph ren +Ġí ģ +_pr imary +Ġmo is +ĠB N +Ġsystem ic +Ġdifer entes +IN CT +Ġ'' ĊĊ +$ q +Widget Item +cl ide +$ file +L emma +/ table +ag rid +ĠMongo DB +int e +Ġapp rent +ÂŃ ing +.D b +Ġà Ĥ +ham mer +=' ';Ċ +Ġbro kers +it lement +sembl ies +E le +{ x +Ġlast name +< - +Ġfl atten +_b and +.R oot +.read FileSync +==== == +.r x +? čĊ +Ġmetaph or +T i +con te +Ġdeb it +Ġcont empt +Cpp Type +æĶ ¯ +Form Field +r atio +os opher +Ġimpl ant +P URE +Ġal ta +_man agement +Ġref ine +ĠCheck Box +ĠChar l +- version +cond itional +ven ues +Ġrif les +Ġoff spring +Ġmill ing +Ġshar ply +Ġunder water +( origin +_ Control +Ġ. $ +Pl ugins +Ġdry ing +Ġillustr ates +- u +Ġveget arian +n pc +He art +; ',Ċ +com ma +te enth +as an +/s pec +_m oves +-m argin +Ġing en +³³ Âł +Ġpro jet +Ġo tra +Ġbr as +. utc +Ġsle pt += sub +ab ilit +post er +Ġs dk +ounc ill +Ġw d +Pre paredStatement +ĠDr um +( attribute +ĠEther net +ĉ DB +Cal ifornia +c ube +[ I +.C reated +ĠH M +Ġtr acing +Forms Module +- you +.c urrency +feed ing +Ġt body +L i +acc ion +n as +Ġtr ouver +N ONE +"} ,čĊ +Ġf tp +With Identifier +pol ate +File Info +Ġpurs ued +ĠĠĠĠčĊ ĠĠĠĠčĊ +DE SCRIPTION +} */Ċ +From Nib +Ġdecor ative +_S SL +(ch at +T LS +Ġsurpr ises +al culate +ĠS plash +( Configuration +ĠS EM +im son +/lib rary +< Double +. robot +³³³³ ³³³³ +ĠCP F +ĠUnder standing +Ġcos metic +ĠX t +t ips ++ k +(" ' +ĠP DT +W AR +.get Object +ĠTrad itional +.sl ug +ĠDi pl +=" ", +ĠFil ms +ĠAn im +.h elp +Ġemb assy +ĠBoot s +Ġb unk +-r isk +Ġp ci +Ġ/ \. +ĠI PT +Ġcrash ing +Ġip v +_ ke +ĠRES P +.Log Error +Ġinade quate +I on +ĠF ür +ric ula +Ġshould Be +al ready +']." +G ED +fa q +Ġoption ally +_D is +ĠSuccess ful +ĠC ensus +Ġinc arcer +_C ARD +Ġav iation +ĠG ym +Author ity +.B ean +sh ader +Not Exist +_Text Changed +ĠST OP +( team +" H +w g +Ġgr inder +Ġstri pe +Ġpres ervation +Cl aim +avers al +ware house +target s +Tr ust +Ġal lev +, www +ous se +_ch an +_S ize +system s +Ġobj ection +ĠK ane +Ġcor ros +ĠD SL +Ġu a +ĠM H +ĠStrateg ic +_t cp +Ġê° Ĵ +Ġborrow ed +ĠA ch +ĉ command +Ġg ps +le ston +iche ver +ĠU A +Ġassault ed +Ġspecial izes +ĉ search +Hot el +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ čĊ +ĠP itch +Ġ Ùģ +READ Y +Ġparent al +Ġg éné +Ġdonn ées +Ġdet ain +T ARGET +Ġprotagon ist +Ġclear Interval +ĠIcon Button +ĠGet All +Type Info +E H +âĢľ They +Ġ{ [ +Ġg ag +Ġ Ú© +ĠD ropdown +.f ree +g one +im ens +Ġinst al +ĉc url +_C AN +ĠB one +ï¼ Ķ +ony ms +-g overnment +.binding Navigator +ĠD ans +ĠMc L +( en +>( _ +ÐĴ Ñĭ +.* ;čĊ += j +-c or +S on +.ToolStrip Item +- around +_X ML +end Date +Ġsl ack +Ġrot ated +Ġno qa +Ġc ottage +Ġencontr ar +_s kill +hou ette +! čĊ +. weather +Ġemphas ized +å® ¶ +ĠÑģ пиÑģ +ĠComp iler +( android +ĠâĢ º +. turn +Ġsup pression +_c alls +Ġ* @ +(str len +.h ex +ĠB ills +ĠR SA +Ï Ĥ +ĠEs cape +ement ia +Ġfront end +Ġp int +_ex c +zz o +[ ],Ċ +Ġ"',' " +. Environment +Ġafore mentioned +Ġend ure +prot otype +ther apy +ss i +D eg +_pl ugins +.user Info +Print er +ĠPRO GRAM +Ġru ins +Ġempir ical +Ġcraw l +ĠBo iler +- comment +.sub plot +_ et +Ġ'. ', +min or +ĠCustom s +Ġy aw +under line +ĠCom o +( (' +(m ean +Ġcha que +ĠBlock s +.r ad +ilib rium +Ġweb driver +Ġmel hor +d ana +ĠAb use +ĠSouth west +ĠP aren +PERT IES +ĉ IL +Ġscre am +v u +Ġin comes +Ġn im +Ġl ace +Ġcompens ate +Re verse +D at +_att ack +Ġn our +ach en +ce k +< Func +w ie +com pressed +-m atch +(" ")]Ċ +im ized +. orientation +.compare To +Ġmass aggi +Ġìľ Ħ +Ġel bow +Ġant ioxid +undred s +/ tools +ĠR OW +an mar +ĠW ow +_t icket +Program ming +Ġthe or +-re view +() )));Ċ +ĠRichard son +ĠP ocket +] [] +am pp +_ health +ĠP OP +ĠNav al +Gu ess +Ġancest or +.Get All +.local Scale +ĠM apper +Ġaccum ulation +Ġsim ulated +ĠDr ivers +Ġd és +cur ring +Ġele phant +Ġadvert ised +Ġmail box +SH IFT +ĠMon ica +Ġan c +Ġward robe +Ing redients +Ġ|| čĊ +ipp y +Ġantibiot ics +av ings +(c x +ĠFerr ari +ĠAn imator +.d type +rem oved +order by +Ġc res +oc ê +Ġp ym +ĠCirc ular +@ index +ĠW arm +S ay +ĠAss istance +Ġcur tain +ĠMont e +IL ER +ĠC VE +ĠD uck +ĠAll ows +_f ire +ĠDer by +Ġre pos +Ġhttp Client +Ġpsych iat +Ġnow adays +Ġcaut ious +ĠComput ing +Ġcompletion Handler +ĠWel sh +ĠB EST +Ġstress ful +_P E +æĹ¥ æľŁ +ĠData Frame +ĉ Integer +_P rint +M oves +Ġtransform ing +.B atch +y ahoo +Position s +ze j +Ġno od +io res +_ * +Ġcl k +ĠF loyd +Ġh ap +font size +Ġn az +.not ification +ĠDep ression +Ġac ne +*** ĊĊ +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĊ +.cont ents +yn th +ĠStra ight +')}} "> "+ +Ġtoken izer +Ġsovere ignty +ĠP ence +() ");Ċ +Ġpesso as +.G e +ĠIn cluded +Ġpag ina +Ġex posing +е ÑĪ +_SC RIPT +/$ ', +Th umbnail +× Ķ +webElement X +webElementX paths +press ure +ĠCur ry +_C P +OL UTION +ILE S +prot ect +ool a +Work space +{ };Ċ +ĠU NS +Ġsymp athy +ro ker +Ġrem odel +ĉc ell +Ġat op +.Full Name +Ġfa ut +ĠE asily +_d ynamic +Ġfr amed +Ġmot ive +è· ¯ +s am +Ġmar ca +ĠText EditingController +Ġde structor +cre am +Ġr ude +ĠB old +ĠInd igenous +Ġg ens +Ġrel acion +(s ystem +ĠUIF ont +_char ge +UST ER +E V +.N amespace +Ġmer ger +Ġcal loc +g ang +Bad Request +Ġs per +-d esign +Ġâ ĩ +Ch an +Ġorgan ism +, ) += id +_pl ane +ĠC ases +elf ast +ĠLegisl ature +ĠF aker +Ġinv oking +- utils +(). ' +.f ace +Ġguard ian +my Modal +Ġclip board +ĠAT M +Ġpe as +ĠS ylv +.c alc +ĠContact s +int Value +Ġmodify ing +ĠBar b +. loss +_per centage +Ask ed +(l st +ategor ical +- files +ĠRoman ia +.A c +Ġh ai +ĠF lying +Ġ ż +j p +ĠTr ainer +. arc +_de g +Ġtrace back +Or Fail +F LOW +. old +oy a +g mt +is empty +Ġvacc ination +Ġob solete +recogn ized +Ġru ined +ĠRe in +ĠTr acking +xf b +ا ÛĮ +Ġvæ re +Ġbr yster +ĠIT S +Ġdest iny +Ġsw ear +Ġred es +Ġcl f +Ġfl ipped +ĉ head +Bl uetooth +ĠOver rides +: Boolean +_ = +_l r +sp awn +: index +VAL UES +is key +? ");Ċ +.syn thetic +ĠCheck ing +struct ures +ip ing +Ġvoc als +- Up +ĠManufact urers +ĠMar riage +代 çłģ +Ġgar ner +_C lient +par allel +RI END +Ġvine gar +seg ue +J B +Ġcontact ing +ĠCar roll +Ġout reach +t ensor +_var iant +Ġthe at +lic able +{ | +t iny +_ letter +Ġp encil +HeadersHeight SizeMode +ilt ro +.auto configure +.d rag +.use State +ĠB MI +h int +Com pile +* \ +en ary +Ġl vl +.C ache ++ =" +_t v +ruit ment +Ġf read +Art icles +f ila +Ġpack aged +âĺ Ĩ +AT HER +ĠPl anned +s cheme +Ġdi ary +Ġoff enses +/ F +ĠSt ick +Ġc erc +ĠS lee +ĉĉ ĠĠĠĠĠĠĠĠ +< Image +Ġè® ¾ +- editor +pie ces +ĠD rama +Ġ// //////////////// +ĠT asks +AR C +g ateway +.get cwd +.M etadata +Ġguess ing +åľ° åĿĢ +Ġsm arter +ĠGet Enumerator +Ġe fter +/ operators +ĠGL float +Ġf ør +Ġop aque +ä¿Ŀ åŃĺ +Sp read +SY STEM +Ġinv ersion +ĠBasket ball +Ġsim ulations +Ġden ies +Ġa vez +_list ener +Ġenh ancing +ĠMy th +ĠL akers +_M D +Nd Ex +D ATABASE +Ġt á» +ar th +[ left +Ġcontest s +st ile +(K ERN +_f c +_p m +Ġpres idents +Ġhospital ity +Ġfade In +RO PERTY +_m aps +ĠDefinition s +Ġassess ing +Ġus ar +Ġquant itative +mo z +Be autiful +[ (( +b ons +f requency +Cont ain +Ġpuzz les +ĠCast ro +Ġv illa +Ġkind ly +Font Awesome +ern a +epoch s +_dat as +ĉ ip +.p adding +ĠCont est +Ġed itions +Ġdispro portion +ĠI CO +Ġcome back += value +ri ad +-s ort +Sub mitted +(n etwork +ĠC el +Ġinstall ment +l ashes +.List View +ĠV atican +(Media Type +IV ED +reach able +: Is +ĠC ITY +äº ¬ +ĠHelp ful +Ġba ÅŁ +% čĊ +Ġpsych iatric +Ġrec ycled +FORM AT +ĠG row +b ine +G it +.s s +ĠWe apons +ĠSt y +_ arrow +* self +ire ment +Ġdeg li +App Delegate +_b anner +Ġcoordin ated +ĠWeb cam +Ġcelebr ations +. act +******************************** **************** +( show +Ġweek day +Ġconc erts +ол н +cl in +Ġcr on +ĠN im +.set Vertical +ĠEll en +س ت +ĠS AM +E ff +g z +ste am +Ġant ique +ph ysical +ĠForm Data +.set ter +ĠPO INT +B on +Ġflav our +erv ention +_ENT ITY +ĉ ĠĠĠĠĠĠĠĠĠĠĠĠ +Ġintr insic +Ġæ İ +append To +aram el +) ]) +ĠRecomm end +) m +OutOf Range +Ġkn ight +Ġsat ellites +ĠTit ans +Ġweigh ed +ĠD ana +e ase +Ġs ip +S IM +ĠDevelop ers +mal ink +/ check +_P LL +n ung +Ġdry er += A +.d w +_S QL +Ġsub plot +D ROP +Ġprot otypes +Ġhour ly +display Name +Ġas i +ĠViol ence +Ġastr onaut +Ġdat atype +Ġinformation al +Ġinvestig ative +etermin ed +ren al +; '> +ĉc ol +V G +_ boolean +re cent +Ġ* )ĊĊ +ĠRain bow +om men +Ġl ur +Ġopp ression +(", ");Ċ +ĠFac ility +DEF INED +Ġne on +Ġoff ender +AF P +ĠClean ing +[] ): +Ġund ocumented +.Re positories +ĠG uitar +аÑģÑģ ив +Sk ills +Ġtestim on +rypt ography +ĠAm ber +ĠSt alin +Ġl one +Ġap enas +Ġdies es +ĠAr duino +è½ ¬ +== - +_A ct +Ġc oded +âĸ ł +amb urger +-link s +Ġarm our +.H igh +get Content +st ag +Ġhe ck +ĠìĹ Ĩ +ĠMc Connell +ĠCon cert +ĠAl loc +ä re +.replace All +Ġpart itions +rot t +ĠF le +_T REE +reason able +ĠReport ing +Ġbillion aire +s cores +min s +- eye +M ORE +ab ort +ĠSW T +Ġin verted +ĠTe achers +; n +Ġast ro +н ов +ани ÑĨ +product o +c ountries +ĠO wen +Ġcont amination +Ġv ibe +ĠEll i +.s cript +ĠOl ive +D MA +v ier +: semicolon +-m odule +gress ive +ag u +_ players +Ġresult ados +start ed +scroll Top +==== = +Ġweigh ing +Ġ[[ [ +z ahl +( NS +ĠAssert ion +le ague +.setText Color +ĉ Message +Ġmom s +_A F +. wh +AL S +Ġaut re +] ĊĊĊĊ +.op acity +ĠBudd hist +Ġde af +ĠOrgan isation +(G lobal +ens ch +Ġhead ache +ĠAli en +_in ode +ĠSt ark +Ġæ ī +-l nd +ore f +_fe at +Ġpedest rian +Ġnom inal +Ġbal loon +Ġspr ites +Prototype Of +ĠA post +ĠF EATURE +O H +Ġre cess +ĠDon na +con sumer +$ GLOBALS +ĠG IF +- frame +In icio +Ġpass ages +Date String +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠ +.by te +B ug +initial izer +p kt +od ium +ĠD ER +. ops +ler i +Ġgift ed +Ġdet ach +ter rain +elt ers +ãģ ı +. loader +ĠN GO +str ncmp +K h +(font Size +ro cket +Ġpreced ent +ĠAur ora +ĠEx periment +is phere +Enc oded +ĠâĢĵ ĊĊ +Ġpy ramid +ĠAnn iversary +of il +ë Ł +( plugin +C oeff +Ġcooper ate +Ġpredomin antly +IS M +Ph rase +_DEF INE +Fl ip +AMIL Y +ĠMark ets +ĠStream Reader +ĠComb ine +Ġmanus cript +z za +, tp +Wh atever +IT ICAL +ighb our +Data Provider +.Text ure +priv acy +.S DK +Ġre charge +Ġc pp +ĠC FG +(h older +(p y +m ot +Ġsav oir +ĠR osa +ĠPC s +Ġí Ļ +.her oku +Ġf ren +ĠR iley +ag ate +Ġs ond +.x lsx +Ġh acked +st ad +G i +Ġsan ity +ĠSql DataAdapter +... ", +ĠP ussy +Ġ **************** +Ġhass le +_P ARENT +ĠU AE +Ġbegin ners +( Client +Ġstatist ically +.h our +ed elta +Ġtr action +uel ve +ar at +Ġsa una +IN VALID +Ġindict ment +AL LE +Ġdiss ent +ĠTyp ography +Ġintention al +s it +ĠAn imals +Ġcoun tryside +Ġu art +} \" +Ġseam less +¾ 示 +Ġaut os +Ġ"' ";Ċ +Fl ush +ANN OT +Ġal gebra +ass oc +ĠW aters +Ġprepar ations +ron ym +[, ] +S ans +Ġarm ies +ipe g +Ġcream y +. art +et re +ĠAn imated +Ġun pleasant +eme an +g reat +i Äħ +ĠEar lier +Ġch ic +Ġpres erving +(ex ec +ĠInvest igation +ĉG PIO +Ġrig orous +ij o += num +Ġtool Strip +) set ++" & +ĠAcc eler +Ġdevelopment al +is posable +Ġflaw ed +re ne +Up dating +Ġwatch dog +Ġden ominator +Ġsubur bs +Ġ... ) +Ġconv ictions +c losure +.I P +Ġtransl ates +.sw t +.Tr ace +Ġmet tre +.is Enabled +ĠEffect ive +.to Int +Ġen chant +Ġst unned +Ġpo i +/ code +ad m +.datab inding +ĠL orem +________________________________ ________________________________ +Ġled ger +Ġcar a +ĠG ir +Ġwa its +Un o +Ġc wd +è¾ ij +ĠT Result +Ġre jo +Ġem itted +ĠWest minster +ä¸Ģ 个 +ne k +_T is +Ġen act +ĉ with +org ia +Ġj ue +Per form +SP ATH +.top ic +ĠD aten +Ạ§ +Ġsit io +_M M +" So +b ial +Ġsc oped +Re quires +ĠT OTAL +ĠCh ancellor +( contents +Ġste alth +dev ices +-p ass +ili h +ĠMal colm +ĠDep ot +Ġconfig ur +a ussian +_con straint +в еÑĤ +G RA +ĠR ates +.dataGridView TextBoxColumn +ĠNob el +it ics +Ġignor ant +ĠReport er +ĠEb ola +ĠSh ock +_re lation +ĠNin ja +) c +Ġt icker +.is Checked +ĠSup pliers +ĠRap id +Level s +âĤ¬ âĦ¢ +ĉ queue +Ġch op +ĠUn ix +re ject +-c alendar +(s ort +è ne +erc icio +Ġh ect +CALL TYPE +rou pon +Ġrent als +auth ors +{ name +ĠF IFO +Ġl assen +ĠN ous +Ġsn apped +Ġfert ility +" log +click ed +Ġplant ing +Ġg b +/ output +PE AT +Ġc ategoria +Ġb ach +Prof essor +in th +"] čĊ +Rec order +ser de +ĠTrans mission +tr ad +Ġtur bo +_VER TEX +\ Event +il ver +Ġbod ily +ĠS ources +Ġkill ings +.xr TableCell +Ġfold ed +/ legal +un er +ĠR ifle +ĠM IDI +_Selected IndexChanged +.Size Type +ĠWeb Socket +Ġsele ccion +S and +ot ros +Ġenv ision +/ etc +ĠMel issa +Sp ot +но е +_ ARM +At tempt +ĠB I +ãģ Ķ +ĠD U +Ġback lash +str ide +/ classes +Ġtext Color +_st aff +ob lin +agent a +.c ollections +ill age +' čĊčĊ +fl atten +_s ales +_M ASTER +T W +_d a +P itch +ph ies +Ġz ombies +ĠV ERY +ĠPharm acy +Ġprogress Bar +Ġhas htag +S idebar +@ stop +(p c +ол ж +MA KE +ĠCor on +Ġkv inner +ĠM aid +b ob +.title Label +Ġsuccess es +ĠDemocr acy +ĠSurg ery +Ġcou gar +Ġcur so +Ġl oro +ist ency +Sen ior +æ k +ĠA AA +ĠBO OK +к о +W STR +Ġ*/ ,Ċ +oy al +.v ector +ĠS PEC +SS F +Ġcomp uls +ĠAppe als +ĠW inston +ĠMock ito +con trib +. available +entity Manager +ari as +_s ale +_r s +Ġdec oding +Ġloc ator +ol ith +Ġk ol +Ġasc ii +ĠR ut +/ interface +ĉĉĉĉĉĉ ĠĠĠ +ĠN umer +.fl ip +-d el +Ġbol ster +on omic +Ġz m +L G +Find By +Ġadapt ive +lo o +Ġv ue +(re verse +_c anvas +. roles +ific ado +ven ient +" As +ĠEn tr +al igned +Ġbere its +/// ĊĊ +.g wt +. employee +_cl i +Ġanticip ate +éĻ IJ +Ġp ik +Ġmush rooms +(t t +Ġo ma +ĠSan chez +_g oogle +. Valid +ĠFile Name +iv ative +k ed +-w ar +Ġm aturity +и д +Ġmin er +Reduc ers +ĠLat Lng +_ST D +D igits +Cal c +-up load +Ġhand ic +ี à¹Ī +egr ated +ĠST M +C lients +ĠTur bo +SY NC +Ġphotograph ers +. Out +.char acter +B UILD +.un lock +Ġar ises +ĠCommand s +(" ");čĊ +_F ORE +; ', ++" ' +. Images +") { +ĠM eyer +Ġneg atively +ĠD LL +Ġex e +Ġdef iciency +Ġwild ly +-s witch +con struction +Ġexception ally +ĠL iz +/j ava +Ġtheir s +ĠCont emporary +l is +.fill Rect +ĠN FC +Ġre he +(num bers +Ġr aster +Ġfig uring +Ġshow c +ĠJ ill +Ġarc ade +ĠConstruct s +md l +(' | +Ġident ifiers +Ġst ellar +( Connection +Ġ" {{ +y or +(m ysqli +Ġdo ve +Of Birth +.dis connect +_h i +Ġzw ischen +ĠGr und +i ros +_A rray +.on click +ans om +An swers +ĉ remove +F a +Ġhur ry +-in f +Ġget Class +ĠReg ulation +ĠFLAG S +m isc +K en +_ heading +G Hz +- entry +Ġbi ography +S ig +-m f +Watch er +âĢľ A +} px +Ġsp icy +_s q +L ost +(tr ack +а ли +Desc ending +< bits +qu ine +ĠAdv oc +_S N +ĠHann ah +PO P +Ġem itter +Ġc yn +ĠC AD +? ). +/ set +ĠS ister +ĠEnd point +Ġmen or +Ġinter p +r k +id le +Ġout fits +. vertex +Ġc lic +ARE N +Ġpost ure +ĠOpport unity +v x +ĠFor bes +.D irection +Ġres ide +Ġremember ing +nest y +Auto resizing +pro viders +ĠA H +Ġhur ting +ĠL ily +eval uate +lij k +p apers +ĠSm ash +ĠL AST +Ġwell s +w asher +_RO LE +ĠD anger +* (( +_re pository +ĠRes olve +ĠRoom s +_R G +ĠQ T +o op +ĠHe ap +Ġslow ing +Ġgrat uite +_c atalog +Ġpol ynomial +L y +pc s +F ox +ĠC yr +Ġdim in +/ month +S alt +Ġh ind +.P ER +For um +c en +_p ol +íĺ ¸ +Ġin ser +( ~ +@ test +ĠGold man +Ġupload ing +F c +Ġkom mer +Ġm itt +_log ged +Ġbu cks +-l ayer +) };Ċ +ĠO M +Ġv eg +col our +Ġоб ÑĬ +Std String +_ que +ĠT ian +Ġspecial ize +и п +Ġк л +tr ial +- edge +Ġm ars +OG LE +Ġempath y +ĠB om +Ġcoll isions +Ġcart e +ĠTe il +ĠM PL +Ġporn ô +Ġa irlines +A ws +N s +ĠSp awn +( use +é» ĺ认 +Ġy acc +st or +Ġconf ess +Ġpe que +r age +? "Ċ +/dat atables +ĠSh ower +__ / +Ġcryst als +Ġbus car +ĠH aus +iz ação +_ entities +ķ Į +ļ Į +x cc +v irt +-che vron +( Result +c ake +COM E +Ġprohib it +ĠCh ess +Ġbe aucoup +ĠÑĩ ÑĤо +R UN +ĠI K +ó ÅĤ +_ Update +Ġsle ek +ĠSpec ify +_c redentials +ÅŁ t +ĠUser Name +ĉ Value +Ġarray List +Ġex changed +ips is +.re lated +ĠSe ite +_B AR +ĠL em +ĠW ATCH +ĠC lients +Ġ. * +ĠEar l +-re port +Ġforeign ers +Ġstrengthen ing +ĉ Description +(g o +.tool bar +Ġcalcul ates +ĉs ource +Ġcz as +Ġre cl +ab o +Ġlocal host +Ġ^ {Ċ +.P op +ĠDes igned +\ Abstract +H old +ĠGuid elines +ipl ine +Ġc aching +.Re ader +_ext ernal +.str ptime +ĠWeek end +-M ar +ĠBe i +Ġ{* } +ĠR ud +Ġexpl or +ĠBou levard +C ash +Ġprep ares +Ġserial ization +ew ater +Ġad c +: ĊĊĊĊĊĊ +Re fer +Ġsc anned +} }ĊĊ +ĠF ul +Ġtour ing +ãĥĥ ãĤ¯ +> (( +sur vey +Ġí ĺ +... ')Ċ +ĠDiv ider +os l +_C ANCEL +_pre pare +st in +ĠHe ath +.Primary Key +ĠâĨ IJ +ĠLocal DateTime +Ġcooper ative +L earning +.en queue +Ġgo og +ĠReg ression +im ates +Ġvoy eur +ĠDr ink +pl ug +Ġl ender +man a +Ġperson nes +yp se +Ġun link +ĠRav ens +Ġhur d +Ġperiod ically +ARG S +ĠG H +char acters +... "ĊĊ +- establish +Ġd n +( condition +ĠGr avity +Ġest as +_f ocus +Creat ure +(s ite +Ġc arr +ĠR L +ĠR I +ĠM oto +AS F +ĠLuck ily +ĉ Route +Ġent ropy +(" ," +Col lect +( contact +ĠFlo rence +Ġpremium s +Ġlif ecycle +Ġb ans +x ef +Web Kit +ĠFlo ating +Ġcos a +Spec ific +ĠLo ans +b read +Ġdes criptors +Ġ{ :. +TH READ +ĠT rent +Ġsc op +Q A +ĠAnt ar +p el +_d ifference +_ch anges +(... ) +ĠR otation +ĠLG PL +ĠJ UST +(T ask +_sub set +ĠTR ANS +åĬ Ľ +ĠSc out +-p opup +Ġsm oked +_C lass +Ġturn over +br akk +ĠRock y +t as +.Regular Expressions +ĠElli ott +ĠSp inner +DU CTION +Ġlib re +Ġmol to +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠ +ĠF TP +m peg +(f eatures +Ġb ald +ĠV id +Ġsh outing +L int +Ġsock ets +Ġpro w +Ġnouvel le +isc ard +ĠS ponsor +Ġconsult a +)) ); +Ind ian +ĠR aspberry +Ġteam mate +ĠJ WT +ĠGh ana +Ġc akes +pr imer +form a +erg arten +_M anager +Ġpre season +G AME +| " +ĠBro ck +Ġoccup y +Ġdecor ations +á nd +Ġc ot +Ġpar an +D isk +rem ain +> ? +Str ong +Ġfr ance +ĠE ra +-c r +.Buffer edReader +ĠParad ise +ĠV AT +ĠAnd ers +Ġlim b +amp oo +Ġimper ative +UT ILITY +ĠRec ognition +Ġragaz ze +Ġpop s +yp ress +Ġemb argo +// {Ċ +Ġsy ll +P TR +åŃĺ åľ¨ +Ġdid nt +Mail er +Ġacad emics +ĠFra uen +ne ider +- rel +Ġrain bow +( In +Ġslic ed +============ =Ċ +(s end +NSMutable Dictionary +v os +(p ackage +Ġord inance +view er +ĠSant os +-s elling +Ġgo v +ett le +Ġfound ers +Ġw aking +sl ashes +-p ound +re cht +ا ت +.on Click +Ġn ord +st änd +_ when +UT ERS +ic c +Ġcaps ule +ĠW id +M arc +ภ¸ +ro red +UG E +LO UD +ĠAud it +ip ients +op ian +ĠS ue +Ġwur den +.H elpers +Ġf actions +[ np +-th an +Ġre co +Ġk as +Ġcmd s +/n etwork +xb f +get Color +Ġbi ased +ĠL ak +D atas +vent s +Ġë ² +_P S +. Validate +Inv oker +Ġne uen +Ġju venile +V ISION +Ġdev ote +Ġlin ha +Ġdiscount ed +\ Config +Ġworth while +Ġskin ny +ĠC ourses +le ys +ĠMort gage +K evin +Ġannounc es +]) * +res ervation +Ġæķ ° +Ġprejud ice +ĠString Comparison +Ġbe ard +-w in +ĠS ão +ĉ ms +j al +ĠE arn +_ ports +ĠN ombre +_C OR +ĠB UILD +.s ound +Y ellow +Ġlineback er +Ġchar itable +j ug +_NON NULL +ĠD ental +"> ${ +ĉm atch +R ussian +Ġvers ch +Ġp inned +Ġadopt ing +Options Menu +P ag +Ġpair ing +Ġt read +erc ises +ĠSp read +) i +ĠB AD +_t f +UI ImageView +pop ulate +b ab +ĠÏ ĥ +[ ++ +Ġopi oid +Ġ## Ċ +d type +ĠStart s +('/ ') +Ġperson als +-mark et +Ġredund ant +ĠEss ential +Ġscrap y +Ġи м +a cl +Ġcre ar +ĠB end +Ġrel ieve +- room +w ife +Ġv Ãł +ĠQ Point +Ġqu asi +Ġmethod Name +\x c +ĠPer u +/ The +. orm +Ġv iz +/p df +Loc ated +Ġconfront ation +ĠChampionship s +Ġhyp ert +Ġd j +ĠUser Info +ĠåĪ Ľå»º +\x b +(s im +Ġ== Ċ +Ġst aging +Ġdr astically +åŃ ¦ +l ords +. less +вед иÑĤе +ĠB ucket +ĠM am +. term +_p i +c zy +.p ub +prec io +ĠV irt +Ġrom an +it at +L ex +_inf os +Ä ° +. other +VE LO +Ġp onder +Ġh anno +( Page +do i +Ġpol ite +Ġprogram mer +D ies +$ d +Ġrep lication +add Column +fr ican +Ġl eng +be er +o it +Ġw asting +yl im +me asure +N eg +Ġpart ie +.con sole +ĠGu inea +TE L +_f act +.ch unk +Ġl ent +Ġall er +Ġठķ +_id le +Ġad missions +JSON Array +Ġv ibration +.h elpers +å¤ ĸ +Ġh en +j ohn +Ġì ĥĿ +Ġjud gement +Ġge en +ter ra +^ { +ĠI z +Ġc â +inst ances +Ġthreat ens +Ġm üssen +Kind OfClass +Ġstoryt elling +_d emo +ri as +Priv acy +h ift +ĠY i +es or +íķ ł +ens itivity +.W riter +ภĤ +D istrict +.get JSONObject +Im pro +(get Resources +ĠS PELL +rodu ce +Ġslow ed +Ġlin ewidth +Ġhonest y +ĠCo ord +ĠF ork +ĠDispatch Queue +ĠCl iff +ĠW iring +_TIM ESTAMP +oll ah +av oid +++ ];Ċ +sem antic +-c ss +Ġv eto +ĠM err +Ġlegisl ators +CEE DED +Ġquestion naire +ĠP ills +Cal culate +(c ore +' e +Ġdis like +ĠPre ferences +_EX TERNAL +è° ĥ +Ġd odge +æľį åĬ¡ +.n ames +.draw Image +_p rom +uck land +Ġ<$ > +ı z +/s ite +é¡ ¹ +rop he +Ġcomp elled +Ġl aptops +Ġun i +C LOSE +Ġcasual ties +ĠUn iform +Term inal +. "," +D AT +(T reeNode +ĠGand hi +(st mt +AX B +* M +Ġumb rella +an imal +Ġgr pc +Ġwhere by +Ġfloat s +ĉ arg +Ġdb g +Ġexceed ing +Event Type +.SaveChanges Async +Ġ{ {{ +Ġow ed +ahren heit +Ġì § +Ġequ ipo +ur ai +Ġid ol +] ")Ċ +_m ajor +Ġentire ty +inger print +ç os +/ account +ĉ right +urs os +ĠE DT +_INS ERT +Ġsh ining +Ġ< : +Edge Insets +Ġcolon ies +. IM +ĉĠ ĉ +RO AD +CC CC +pl acing +Ġget Activity +em acs +' %( +.click ed +ĠTh em +is ia +Bus car +.re name +Ġo ath +Ġafter ward +ĠU FO +AP S +ĠJackson ville +.s ome +Conf irmed +.s can +ig Integer +Decor ator +sh ield +ress ive +.d id +请 è¾ĵåħ¥ +Ġsh utter +D am +Ġparent ing +ey ed +$ item +-de velop +Ġextract s +Ġdecentral ized +ĠEl sa +_sp in +]) + +-in itial +Ġmult itude +Ġsens ory +ĠMODE L +Ġsafeg uard +ì ¹ +Ġhunt ers +ĠT iny +IN O +decor ate +ĠNo Such +H o +( Response +Ġr uler +ĉ short +Ġc aster +Ġclient Id +Ġp db +ëı Ħ +it ic +ĠGame State +Ġnew Item +)ĊĊ ĊĊĊĊ +ou is +n oc +.BL ACK +_V ECTOR +---------- (); +.get P +any e +Ġneur on +if old +ĠK nown +Bit coin +Any way +ay ette +Ġ' [' +Ãł nh +m gr +Ġcor related +Ġn ause +Ġment ality +has Many +ĠF G +amp ie +IT U +F s +.S p +_b etween +Dep endencies +ou g +Place holder += text +ĠMan aging +ocal ypse +åĮ Ĺ +_m ag +f ld +â ij +C AM +ĠHelp ers +Ġd ost +/ out +Ġassass ination +.get Image +ĠKenn y +.' )ĊĊ +){ // +ĠR anger +Ġg ek +Ġsinc ere +< Value +ĠD OT +ĠVict ory +Ġleg ends +Ġpr isons +(ex pression +ĠR abbit +_s entence +Ġbit es +Ġon Failure +ĠâĪ Ī +K im +.g ender +ĠÎ » +Ġ[ . +"] ); +land ing +-d igit +TE MP +ĉ entry +Ġstrt ok +Ġdesc endants +um no +Ġlean ing +Ġspecific s +q n +ĠSp art +Ġpor r +EDIATE K +Ġse per +' aut +ĠSTE P +ĠBorder Layout +Ġret ros +ĠSalv ador +ĠEN GINE +x dc +T weet +v k +Ġì ² +] << +het ics +c oding +Re ach +.re q +gu ide +.s cope +sh irt +rog ate +SET TING +ĠProte in +Ġe ing +. EMPTY +.d f +Ġclear er +Ġc rossover +ĠTo ys +Ġco ated +.M onth +ĠAtt ach +/ run +.t abs +Ġogs Ã¥ +B rown +.D ATE +Ġf os +åŃŠ符 +W ood +-th ree +her ited +Ġ rop +( ac +Ġembod iment +ĠKenn eth +Ġcan non +Ġb idding +čĊ +.get Resources +Ġl ump +_const s +( ext +ĉd ir +â Ŀ +Ġpadding Top +Ġobs ession +Ġb anning +ĠApp Module +Ġpart isan +Ġcatalog ue +Ġmin ors +Ġpitch es +we ep +Ġundert ake +Ġthem ed +aud it +.scroll Top +Ġr er +Ġsympt om +Ġopen ings +.block s +open id +Ġas sh +-s ave +ĠP ig +Ġreg ain +Ġin icial +/f avicon +ĉ exp +Ġsp ices +isk a +claim s +m ak +definition s +Ġcorrespond ent +ĠCann abis +__ ,Ċ +ĠL ucky +ĠGa ussian +ĠN early +C AD +'] ]Ċ +Ġadequ ately +ĠT ITLE +constitution al +-m m +_ override +Ġbl as +.ready State +Ġremin is +Ġrein forced +ĠColl abor +Ġdecor ating +Ġb achelor +ERRU PT +Ġup right +ip ation +ĠNob le +Ġvalue ForKey +Ġset Loading +.I gnore +å ģ +G lobals +ĠM ent +AS SES +Ġlim bs +ĠH UD +inc i +. iv +ĠQ ModelIndex +F use +Ġped al +_F REQ +( verbose +Ġlong itud +ĠChar ter +ê ·¸ +Ġbund les +. ignore +um bo +EM A +.... ... +s x +.C ard +Ġhe ute +Ġste er +j umlah +Ġ{ _ +_Check ed +Ġf ax +ĠG ust +itch ens +Ġ ))ĊĊ +Ġremark ably +/ XML +- remove +_b t +Ġinc ub +.p ackage +.current Thread +ĠHigh lander +.s ide +s plash +Ġ ici += D +Ġp uck +Ġball ots +Ġhug ely +co eff +Ġp Data +.C OLUMN +ĠHe aling +Ġord in +! ), +Ġ' ',čĊ +(m d +ĠS ask +< strong +Ġsurviv or +.s eries +Ġcaffe ine +Ġ` ( +.TRA ILING +_ Input +(" ^ +z d +& );Ċ +ĠP ing +Ġv oucher +.r ating +-sh irts +ĠRetrie ves +.al ibaba +Or acle +_MO V +Old Data +Ġ/* čĊ +Ġg boolean +Ġ=> čĊ +Ġr á +Ġbl unt +ĠImage Icon +if ik +RT C +Ġfib ers +Ġto ile +.s ent +ĠPy Qt +$ app +Ġmed io +Ġgrant ing +Ġtsl int +ĠM ö +(fig size +Ġhur ricane +Ġlif es +Ġà Ħ +rocess ing +_st andard +- option +')) ) +Ġvac ant +å· ¥ +ĠH ollow +handle Change +Ġdiv ider +ĠEngine ers +Ġsv ens +Ġcompl iant +t anggal +ĠC redits +ĠEm irates +Rule Context +Ġreal ization +Ġdistr acted +]+ = +Ġaug ment +ĠD w +ot p +or rent +Edit ar +.st ock +St udy +pe ctions +ĠGame Manager += cut +Ġf lock +ĠRom ans +th em +-h op +Ġscreens hots +Ġ/* !Ċ +Ġconvers ions +Ġnormal ization +(config uration +Ġa eros +_se curity +! 'Ċ +B onus +ĠDR IVER +ĉ Date +t ie +ĠWy oming +St and +it re +Ġsh oppers +Ġdisadv antage +Ġlik ing +ç¬ ij +Ġunderstand able +SE E +Ġh oy +Ġnin ete +Ġcon fer +Ġnow rap +ĠV ern +, čĊčĊ +imest ep +Layout Manager +à · +ĉw ait +PLE TED +J apan +Ġindu ce +Ġå ¯ +оз в +_END POINT +.h orizontal +Ġacceler ated +rim on +IV ES +Trans actions +Le an +ĠSO UR +wh ether +y g +Ġo id +ĠEntity Manager +OUN TRY +Ġfil a +OLUM NS +IN UE +ĠAn chor +TR AN +wo o +block quote +ĠN urse +ĠCar p +Ġrede em +. try +ĠJ P +Ġtimestamp s +Ġ?> ">< +ĠREM OVE +ĠStar bucks +Re ally +Ġflood ed +.C allback +Drop Down +ip ro +Ġt ended +l te +Ġproport ions +- te +ĠR ena +lic ate +for ces +.ex tra +.auth enticate +в од +¡ ° +Ġfor ControlEvents +Ġsen ha +Ġke in +Ġmin ist +ĠPre ference +ĠTele graph +Ñĥ п +str pos +Ġillness es +Ġp igs +Ġget Intent +S ol +Ġ ¡ +(c pu +[ prop +s creens +'); ?> +ĠAct s +Ġstr dup +Ġaver ages +an al +ĠCas ual +Group Box +ĠHand book +/ comments +Ġnumber ed +Ġbroadcast ing +çĽ ij +.native Element +.m u +Ġupdated At +ĠDoes n +.A C +.c oll +Ġrec order +_sh a +B g +b il +Ġbol ts +Ġç ¬ +Ġim posing +ĠInformation en +_flash data +e conomic +Rem ark +uc as +ĠOff icers +ĠT ER +W alk +Ġmerc ado +_g enerate +H Y +Call ing +s nap +script Id +. operation +ĠFl ame +l iness +Ġrent ed +_t oggle +-ch anging +ĠT Y +' util +EE P +Ġgraph ql +ĠUn i +Ġimp ulse +.B asic +Ġenerg ies +M ARY +ĠMar cel +Ġmort al +Ġf res +m ens +m otion +Ġsample d +âĢľ That +id ay +qu ipment +get Int +ĠA bsolute +,' " +un ed +.sh are +Ġ} )( +mm m +ĠR ising +ä» » +Ġun employed +x fa +.f ollow +ĉĉĉĉ ĠĠĠĠĠĠ +sl t +.P hone +Ġkn ives +Ġe ve +on Click +] ))čĊ +ĠW itness +ĉ NS +ĠE OS +ĠSte fan +ĠPri est +âĢĶ which +Get String +. By +Ġup stairs +Ġdetr iment +bro ken +emb ro +Ġnic otine +il ion +Ġaston ishing +_ aff +ĠLess on +Ġaccident al +od or +Ġdec ir +Ġnew Name ++ . +çĽ ¸ +igs list +ĠG ithub +Ġsuccess ive +rac ial +Ġen viron +éªĮ è¯ģ +Ġredirect ed +T OTAL +Ġgrab bing +ĠL ance +Ġfor fe +_C B +å¾ ® +El apsed +_w ay +(Dialog Interface +_me asure +x bb +D og +Dep art +-s rc +res olver +with standing +_sh ell +ĠLast Name +ĠAv iation +Ġbegin ner +("% . +(to ol +Ġн ов +: init +(A PI +ĠMorr ison +vt Color +Ġstap le +/ INFO +Ġsupern atural +Ġste ak +tim eline +zz le +" `ĊĊ +Second ary +ĠNep al +.String Utils +Ġad am +Ġ( ... +Ġsub stitution +Ġboard ing +ĠKey word +ĠAss ault +dbc Template +Ġorder Id +( engine +.assert That +ĠVen us +Ġhomic ide +ĠA val +Ġg utter +ĠSupport ed +/p art +Ġac claimed +H istor +Ġmes es +ü ber +ĠRen ew +Ġgr as +ĠE k +Ġin file +ind y +.m usic +.S croll +ĠA ges +ĠNar uto +ĠG ather +Ġconfirm ing += (" +Ġpitch ed +ole y +Fr ance ++' " +$ total +Ġon de +Ġd itch +_s igma +Ġcontinu ity +re ward +- load +Ġproces o +Lock ed +st aw +Ġsp inal +l azy +! == +j est +Ġd un +ĠRod gers +ĉ grid +Ġlog os +ĠBeng al +.s uper +Provid es +Ġnut rient +.T imestamp +IZ ATION +åĨ Į +Ġf ats +ĠX xx +ct ica +Target s +Ġcont ours +Ġre ordered +: Array +Ġtoler ate +V ir +Ġter ribly +Ġbr icks +(& _ +h b +Port al +ĠB read +. which +ÂŃ t +as InstanceOf +Ġj object +ĉ length +_M T +; ">čĊ +_EX IST +Ġmat ernal +RE L +Ġê²½ ìļ° +he e +Ġlayout s +ĠL ap +ais y +Ġst umbled +ĠU IG +ĠS co +Ġimp aired +RES SED +Ġab uses +V F +AR B +.N AME +r ch +prim ir +_com pleted +Ġp enny +Ch rome +(b egin +ern en +- checkbox +Plain OldData +ĠL PC +r ade +sp ir +Ġcon ceived +T ips +ĠIo T +ĠG an +èģ Ķ +Ġbi ases +Ġconsult ants +ple d +_ ht +associ ated +], ĊĊ +Ġdelight ful +ĠÑĤ ек +Hel vetica +( load +-exp and +_W IDGET +to a +ĠA kt +Ġom n +Ġcl auses +Int el +*/ }Ċ +_reg istration +Ġold Value +Ġrest oring +Ġun real +O VER +ĉĊĉĊ ĉĊ +AT S +_pro be +Ġdiv isor +.update Dynamic +å¹ ³ +Produ ces +st amp +.j boss +ĉt ask +! (: +Ġpsych ic +@ class +M artin +ĠPass ed +clar ations +h el +а Ñĩ +ĉc opy +-b in +z an +ig ram +া ঠ+(s ig +ĠC aval +_ ## +Ġ% = +out lined +ĠAc id +Ġunpredict able +-d ashboard +Hex String ++ c +.P ublic +Ạ© +Ġconvey or +ĠE B +Ġselect s +Ġknock ing +ĠC ec +IBUT ES +owa Äĩ +g atsby +* v +ent ropy +Ġdispatch ed +Ġcam el +ĠSat urn +Ġover weight +( phone +par able +% B +_v ectors +Ġbrew ing +ĠT k +ĠDownload s +ĠS aved +.Pr ice +Ġcur ved +ĠParen thood +è ¶ +.p nl +plet ely +.D ay +Ġadvertis ers +Ġej ec +Ġpr zed +ë ¯ +! ';Ċ +ĠK ush +ĠT AB +Ġquest s +Ġcoinc idence +umm ies +ĠKash mir +ĠEth ics +_g rowth +Ġakt iv +Ġgroup ing +å¢ ŀ +_tr uth +åIJ ¬ +t odos +is et +Tex Coord +ä tt +ĠZ ur +ro ys +_M AGIC +Ġbrew ery +( State +ĠSM ALL +ĠPl ants +it bart +each er +ĠAd elaide +L u +Ġf ick +und les +_load ed +и е +P oll +rit ic +EL Y +Ġ+ ' +ĠProf ession +Ġst amps +ĠS ew +scroll View +Ġcomm unist +/pro blems +}čĊčĊ čĊčĊ +, o +Ġu dp +Ġob ese +appro ve +ancell ation +_G ame +ĠHas htable +adaptive Styles +Ġpossess es +.match er +function al +M rs +ĉs ave +ĠDb Type +Ġk en +get Context +Ġm ans +( rel +ĠBrother hood +) `Ċ +è§ £ +.In formation +OutOfRange Exception +ĠS ek +C as +Ġblog gers +E ither +(" "" +Ġpin ch +Ġco arse +) p +ĠP ulse +Ġlear nt +Ġdent ist +Ġon change +Ġdirect ives +( actions +ny der +ĠSh ir +T rait +_de p +ĠP ET +ĠRE P +.App Settings +cu ador +iden av +Ġenv i +Ġsl ammed +ĠSh oot +Ġdate Format +.j oda +ve ys +Ġ) .ĊĊ +Ġcare g +ĠPar allel +_ translation +.function s +. obs +Runtime Exception +[] = +over view +ĠSch l +Ġno isy +ĠOn PropertyChanged +S ending +Ġunf amiliar +U pon +ĠPrint s +.t yp +Ġflee ing +ĉm ove +( Un +Ġq r +× ľ +_b eta +Ġsk ies +ĉm e +W ND +Ġstick ers +bl as +Ġinsert s +Ġvers es +ĠD ew +Ġtang ible +Ġhe cho +P OL +Ġte ardown +om nia +IB E +.c over +_str ategy +^ - +set Position +u ale +S igned +Ġif ace +as eline +.set Time +ĠMin eral +ĠFight ing +sk ins +Ġdiscrim in +Ġdans k +ĠPr inceton +ac ist +Ġ( ));Ċ +tr acks +imon ial +ad ecimal +EP ROM +ugg le +.Not ification +$ mail +c antidad +ĠJ ung +Ġseek ers +Ġpl ausible +t ier +еР¶ +Ġr apper +ĠMan a +ĠHttp StatusCode +Ġburn t +los es +ĠF oto +ĠJson Object +Inst agram +Ġsys call +Ġreal ities +ĠMAT LAB +:^ {Ċ +TER M +ĠC bd +ĠPar agraph +Ġtrav és +Ġconstruct ing +Ġsw al +Ġp ige +LL LL +-ex isting +G ets +Ġmelt ed +Ġmitig ate +H en +Ġh m +im as +ĠA o +ĠP erez +ĠD AL +Ġëĭ ¤ +Ġdiv is +Storyboard Segue +ĠMod ify +ĠÃľ ber +_O VERRIDE +.p em +unt os +Ġespa ñ +Ġ{ ? +ĠP AY +_ip v +ĠF ury +__ .__ +el ow +-center ed +check s +_ Reg +-J avadoc +ĉ load +ĠLik ewise +ا Ùħ +UN E +.se m +x cb +ĠC ave +_s leep +Ġsil ently +ĠExt reme +.To Upper +ĉC HECK +Ġc ue +ĠQ ByteArray +Ġcorrupt ed +ĠD é +Ġimp ed +Get Name +Ġinaccur ate +Ġso ber +е е +Ġbar code +-- ){Ċ +ink i +Ġé p +Ġd ri +ĠAL T +>>>> >>>> +ont a +[ L +Ġinter es +ver ting +Ġdi agnostics +p dev +è © +ĠIntegr ated +). ' +_g c +$ text +.g ames +ĠT erra +' Re +.trans fer +_F IFO +get Model +Ġbl and +ĠCole man +Ġpr imes +Ġæ Ī +Ġcross es +n k +G ING +Ġ' ^ +ĠB lob +Ġinter course +ĠBl vd +Ġweigh s +_reg ular +ĠPer th +Ġsepar ating +Ġb illed +.tab Control +Ġpup pet +Ġutil ization +Ġâĸ ł +Ġsucc es +Ġl amps +_pro j +E ric +Ġren ovation +ĠFam ilies +ĠB its +part ials +-M en +s olution +Ġd warf +.IN TEGER +ĠLO CK +. ct +Ġexcer pt +ĠP ix +ĠFirst Name +ANT ED +ĠAd mir +-h elp +P rior +ĠAl ign +.IN STANCE +Line Edit +('/ : +Ġin et +od us +.p kl +ĠK Y +up ert +Ġn erves +_grad ient +} ',' +_un ref +Ġs aturated +ĠConn ected +ĠF N +EX IT +Ġtele port +Ġav ait +Page Route +Ġdivor ced +(l ang +f st +ĠT yr +Ġmess enger +if stream +X S +ĠBank ing +Ġinfect ious +ĠM ons +_LO OP +Ġzur ück +Ġobt ener +/re pos +V el +ac ro +Ġuser Repository +style Type +ĠS RC +VML INUX +rec ursive +/ bar +_ch ip +omin ated +ĠN it +âĢĶ to +ĠBudd h +ом еÑĢ +ĠM AG +ĠC HE +_d en +. raises +_de gree +Ġpump kin +_tem plates +_M EDIA +ĠTim eline +Ġb ots +Object Type +Ġbu ys +.post s +C AL +wait ing +ĠDani els +Ġd abei +ĠS igma +il or +ig el +, W +AD S +( panel +ì² ´ +it ating +.p alette +Ġmos quito +Ġt ego +(parse Int +Ġdes pués +p romise +Ġw ij +types cript +ĠT v +_IDENT IFIER +).ĊĊ Ċ +_fl at +its u +US R +ex perience +-f it +ph inx +_th resh +Ġide ally +ĠFre eman +, DB +_r w +çŃ ī +U b +_stat istics +=" ">< +Ġch ore +Ġy ork +inst alled +Add itionally +Ġp stmt +yl ko +:: Ċ +Fore st +Ġhead set +Ġgall on +ÑĢ ÐµÐ¼ +Ġwithdraw n +ĠC andidate +Ġmel ting +Ġfree zer +Ġh l +_HE LP +m ime +( /* +Ġth irst +$ return +member of +еР± +ĠHttp ServletRequest +( ob +_ Result +Ġassert ed +Ġfulfill ing +Ġstret ches +par ated +-f unded +Ġå Ľ +ing les +_c a +. condition +ĠDis plays +Ġor ang +ĠC RE +Ġgl Bind +ĠSelect or +/ type +ĠAlex a +ched ules +ĠPen insula +Ġpar ity +ĉ dest +ĠDo ors +čĊ ĉčĊ +_dim ension +Ġa load +.St oredProcedure +(p aren +ĠBur ke +') ]Ċ +- engine +Ġqu ir +ĠHy brid +ĠDo e +Ġout lines +ĠTrend s +_N V +per iments +ĠH in +? ', +ĉ Text +F UL +Ġsm ells +Ġs lick +Ġmis erable +ĠArray Adapter +Ġparam String +H om +_l iterals +us uarios +Ġprompt ing +_l azy +ĠActiv ation +_ oc +We ak +Ġan ecd +ĠU CLA += re +isse ment +ĠEsc orts +Ex cellent +ĠP ause +Ġre positories +T OR +ari ate +_is o +up dates +hal b +udi ante +ë¡ Ŀ +Ġna ive +ĠP eg +ĠL ounge +ARG IN +(b in +On ClickListener +ĠFA ILED +Ġl ite +Ġd zie +ĠL iteral +iv or +fc ntl +Ġe ats +Ġq ed +Un lock +rid ing +und ai += M +AT TER +Configure Await +ici as +ustom ed +Ġsuccess ion +end Time +ĠJ upiter +Ġjud ging +d ration +_d ocs +.m o +Ġeduc ators +ĠV ine +Con d +[ out +q b +\ Validator +Ġmean ings +Ġpresent ly +Ġdiv iding +otten ham +asc ular +Ġtrail ers +ĠC LOSE +ам и +âĢĻ ai +ĠG ain +w or +Ġpl anner +Ġdistrib uting +v at +month s +x label +H F +V iol +.BASE LINE +еÑĤ ÑģÑı +ĠR otate +Ġtx n +: bold +Ġb loss +Forg ery +( embed +Ġjak o +s printf +the ir +Ġexhib its +- static +he cy +get ActiveSheet +.c lients +ãģ į +_h ide +[ word +C b +add Item +ax e +_r adio +al ion +mod ifier +Ġsat uration +Ġden om +_p ixels +m ess +(f l +at if +Ġse cs +Ġpro stitution +Ġgrand children +Ġparad ise +ĠF eld +_B INARY +it ous +๠Ħ +Ġflash ing +-s ided +Ġcontrad iction +/* ĊĊ +y label +ĠT et +Ġadm ire +res o +Ġlet z +ĠSE ARCH +sl ots +ĠRew ards +ĠH og +ĠNS Data +st ash +F all +ĠA mer +Line arLayout +/ photos +Ġfe ather +Ġ| čĊ +Download s +.Start sWith +Ġ// # +ine Transform +Ġaff id +V tbl +ĠRog ue +scri bed +Ġfa uc +ĠMon roe +Ġdecl ares +mod ern +re on +ay be +P ASS +f ers +_MULT I +ĠMath ematics +Ġsud ah +_ATT ACH +Ġnumber With +ĠSol omon +j in +ograf ia +ö l +_d esign +cul ated +ĠL una +ies z +Ġ=> ' +Ġrevel ations +Al ong +( ed +ĠF ilename +Ġy label +Sec ure +Ġbus ca +agn osis +_RE CE +Ġoverl apping +Ext ent +Ġanticip ation +Check s +ĠALS O +or c +iling ual +it ational +Ġadv ancement +ou ro +ĠP redicate +å¾ Ĺ +er ia +ĠPier ce +or io +Ġmer its +Ġpe anut +.P ackage +ĠCon duct +_SENS OR +Ġbo iling +Ġin tra +ĠI GN +ĠF ur +.Ref resh +ĠRe ach +_dec oder +.Ex p +ĠÑĤ ак +p ill +, Q +ĠGr ill +Ġpop ping +.A g +Ġpro yecto +Ġmile age +Ġec ological +] ]);Ċ +ĠÂ Ń +sub plot +ac ad +ĠTry ing +rec ipes +$ criteria +ĠPers ian +-b ound +M ASK +ĠG esture +Ġk k +ĠP VC +Ġprohib ition +Ġcom ando +ĠLO OK +Sh opping +Ġdist ortion +< Boolean +.Get Length +um pt +\ Product +ell ery +Ġfire wall +form atted +.red is +Ġes a +ĠRh ode +S om +.n on +Ġ' ). +Ġget View +ạ n +pr us +Mat thew +Ġs ia +ĠF ors +G PU +ient ras +_IN ST +Ġol arak +Ġimport ing +T CP +/ ");Ċ +e ither +Ġfresh ly +c ascade +(char acter +ĠJe ep +ot ics +_ UTIL +.Xtra Printing +.first Child +ĠEx cell +Ġd vd +Ġt aller +Ġr as +yp ass +Ġassign s +Ġgri ev +-m ore +J D +ĠBurn s +' >čĊ +.D ependency +.Query String +.O wner +Ġexp iry +Th u +( Vec +Ġhazard ous +Ġr pm +AP ON +Ġadd Target +sv ille +p Net +ĠIm g +ĠTIM ER +.An imation +Ġbe k +Ġass ort +Ġle bih +Ġbody Parser +Ġvibr ating +ID L +Ġbutter knife +int ers +Ġpersu ade +ĠLGBT Q +è ĭ +.s oft +Ġbe ams +_s ur +.D ef +Ġl abs +ĉ plt +Ġsk ins +Ġtransf erring +Ġimag inary +_E nd +; background +Ġl aps +_COM MENT +(S DL +ond s +.Rec ord +ĠIm plements +_t icks +() ))ĊĊ +Ġa rose +] ? +ĠM p +ĠI Command +Ġsculpt ure +Ġcontract ed +< HTML +Ġcal end +at y +/ Sub +Ġkv inn +_ IGNORE +ĠSh ane +ML S +Ġstim ulate +Part ition +Ġm un +ó m +eral a +- account +.B inary +c é +Ġse ize +connection s +ĠĊ ĠĠĠĠĠĠĠĠĊ +ĠDi agnostic +V ISIBLE +ĠRun s +Ġimpress ions +s uite +ob le +~ - +ak ukan +< Person +ĠN os +ĠG ui +.wait For +RE SET +Ġpost pon +Dis cover +arr ison +sh aw +b lood +AJ OR +æĽ´ æĸ° +ĠM use +æĶ ¶ +Ġret aining +ot te +Ġmos que +ĠS ne +Ġstandard ized +Ġmain land +_th ree +unge ons +get Doctrine +Ġwh ale +Ġag g +ĠP orsche +now led +lat ent +ĠRel ation +Ġ// ' +Ġshut ting +ĠRem ix +_c ov +Ġs ailing +Ġv owed +Ġp ots +out u +Ġhair y +cast s +Rel oad +Ġre connect +ter a +.child Nodes +ĠR ack +Ġcurrent Index +Ġall en +Ġ ç͍æĪ· +ĠC ubs +[ X +_SE Q +_RE MOVE +.get Action +(/ ^ +err ar +Ġ ether +cur ve +Ġsl ap +Ġu om +O thers +Ġen gr +Dis position +Ġst aged +E ye +ĠA ux +auth enticate +Ġ$ ? +ĠAndre as +Ġset w +.A rt +Ġforecast s +Ġa unt +-m iddle +Ġmis d +des k +Ġescort e +ĠCas a +rop ical +Ġexem ple +plan et +(U INT +Ġwh ip +ĠPC B +clide an +=" \ +Ġox ide +Ġsucceed s +der ived +ĠEcon om +_co ordinates +ir as +D raft +Ġvisual ize +B rian +_ASS UME +ĠObject Id +Ġtrain ers +_FOR CE +Ġcon soles +- process +lic her +ĠSim mons +T aking +ĠCl aims +Ġdiffé rent +Activity Result +Ġsn s +éĢī æĭ +ĠCr us +Ġll am +r ab +ĠJo an +AA A +ĉf ilter +ish ops +get ting +à µ +Ġquant o +P ast +ov ich +Ġin justice +ĠF LOAT +Ġal right +\ DB +( GameObject +u ish +(b ot +Ġgall ons +ĠR é +ĠS aid +ĠSTDMETHOD CALLTYPE +ais ing +_process or +ell idos +ter dam +ĠBe am +Text Area +Ġret orno +.M ake +Ġ$ ("< +Ġlock down +Ġremed ies +Ġve el +x ee +do ctype +F il +ĠExp and +Ġemp loys +Ġsession Storage +Ph p +P ublish +Ġret al +f abs +ynam ics +Ġtoss ed +ĠnumberOfRows InSection +x path +\ modules +Ġdis astr +ĠM ULT +.M esh +-st age +Ġs df +it ung +ug es +Ġ?> ">' +kin son +Ġк ол +ogn itive +_ li +Ġim minent +Ġaff inity +.sign al +Ġnot ch +ĠSteel ers +max length +K K +ĠEug ene +_P WM +ro i +Ġâ Ĺı +ĠH amburg +.M ust +Ġax e +en ef +Ġamb itions +ĠSpec ies +ĠSt ress +Ġa while +Ġб Ñĥд +Ġwith stand +ĠDec oder +_in ventory +Ġ{ ččĊ +Ġt gt +Ġrail road +W ASHINGTON +Ġnegot iated +N ST +- phone +, U +Ġexerc ising +á» ¥ +_P IXEL +av ors +iter ated +Ġv ampire +ad al +In grese +Ġun g +ject ive +.c ells +Ġn ano +Ġmark down +_R ULE +(event s +Ġl uggage +MESS AGE +ig keit +$ count +Attribute Name +IG INAL +_E nt +ĠB F +ĠCOM MENT +_in i +ĠEurope ans +ĠB elle +åij ½ +) [' +åº Ķ +ĠUse ful +.re ference +() ", +_ grade +ĠK aw +Ġsent encing +Ġsocial ism +mon ster +_L AYER +Ġdee pest +w k +ĠNo ise +### ĊĊ +Ġpr éc +ot le +ÑĤ е +a uf +ib al +Ġcon quer +> Email +Ġamb ulance +O AD +Ġ(" % +ĠF I +.f ixture +Ġter se +ĠĠĠĠ ĉĉĉĉ +Ġsanct uary +ug i +ĠCom parator +Definition s +Ġast hma +Ġl act +Ġhard wood +.c lock +Ġattract ing +ĠM our +(d istance +ic its +Ġbon ne +ĠAC CESS +.Deserialize Object +ĠTyp ed +Ġje u +Ġapp Id +ĠCl ara +ĠH F +ĠRe ich +ipp les +//---------------------------------------------------------------- ---------------- +_del ivery +erial ization +Ġplaint iffs +Sc ient +sh opping +ĠD ummy +ĠW ald +Group Name +Ġins cription +el og +:::: :::: +_ ld +Back Pressed +.R aw +ĠOn Trigger +Ġmuse ums +ĠBe en +ĠAdvent ures +Ġsl ate +Ġlet t +Ġsu nd +ĠG in +ĠMechan ical +.s hip +App Component +Ġdest ined +Ġdw elling +Prof iler +Pre pare +ze ich +Ġsil icon +(h as +Ġ# % +VID EO +Ġcollabor ate +L in +Ġsc opes +( className +(s d +and in +.h am +Service Impl +-des cribed +Ġiron y +st ial +ĠHu awei +(re po +Ġunexpected ly +ĠK ai +.inst all +\x f +Ġexhib ited +_T CP +ĠO x +_CH O +Ġprostitu erte +Ġv ä +Ġsit o +Ġconstitu ents +ĠContin ued +ĠS AVE +r ss +/ message +ub es +Ġmisd emean +Ġtax ation +Ġstory line +h air +ĠFind s +S IG +ver ification +~ = +.h p +Iter able +Ñĭ е +ator i +Ġc tr +R x +_ );ĊĊ +d ag +.p in +Ġp seud +Ġinv o +ÑģÑĤ ÑĢ +_p ix +为 空 +Ġsw orn +âĢĶ or +_reg istry +Ġdis asters +ĠRO I +ĠâĢ ķ +akt u +fore st +be iten +âĢĶ I +ue va +eg t +Ġsp ikes +URE S +ĠRecomm ended +Ġexplo ited +ĠFreder ick +_COMP LETE +ĠDr ugs +!!!! !!!! +ĠR iv +ST OP +RO OM +ĠP ASSWORD +C ookies +.E l +á» Ń +ĠB ert +Ġhash ed +ic ester +Ġdecor ator +Ġquery String +: ;Ċ +Ġ" [" +oto pe +-A meric +ĠMatthew s +UR AL +âĢľ , +Sum mer +f os +_CONT AINER +_A CK +Ġfil tr +_dis p +_ Re +Ġfac ile +а ÑĪ +Ġìķ Ĭ +Ġe ben +Ġspr ink +ĠQ uint +> V +Ġhistor ians +our met +ĠMonitor ing +led ger +c ott +Ġw are +GG LE +c ars +ĠM EDIATEK +Ġvol upt +_ View +HE L +(c opy +(st ats +Ġchrom osome +ĠCurt is +- conf +( asset +Ġhv or +File System +< >();čĊ +oc oder +ĠC annon +) x +ĠSm ooth +ĠS AS +_ ce +ĉ prev +_m ovie +E c +_w all +< Button +ĠF AST +Ġon View +ul an +ĠS UPPORT +Ġgesch ichten +ĠS ons +Im m +$ IFn +Ġfair ness +Ġd pi +ats u +J osh +Equal ity +Ġ} ()Ċ +_ less +ĠR atio +ĠC ats +ĠS tern +Mon ster +Ġmer cury +ü hr +Ġplus ieurs +.des erialize +sc opy +.F alse +) animated +ĠExp erts +Ġ"") {Ċ +.W hen +see also +.un pack +LE M +.select All +Ġperception s +ud ing +ir ling +ĠPrint ing +gram s +ĠFile Stream +erv ille +il og +ic mp +_C ount +Ġlivest ock +- ca +doc uments +Ġpo les +ĉw ant +Ġflu ores +Ġstand point +ĠH uge +Ġradi ans +ĠUIB ar +EDI UM +ĠHistor ic +_h older +ĠMar ines +Ġt ä +.L ight +quir er +ason ry +div ider +ĠFl utter +_f b +restrict ed +ĠEvery body +N ão +Ġkn ot +ĠT witch +Ġhall way +(C ollider +Input Element +? )Ċ +/ off +/ ) +play ed +[ OF +Ġbat ting +_d l +Ġcom edian +Ġé v +ĠD EM +ĠEd en +: white +' ', +Con struction +acer b +Ġtask ed +.man age +Rel ationship +Ġph on +n z +_B GR +Validate AntiForgeryToken +_ air +âĢľ When +Ġgl fw +ĠCon versation +_T OTAL +, Z +Ġg raz +Ġiter able +ĠP ASS +Ġadvert ise +Ġmö glich +/ train +ĠVolk swagen +Ġcreep y +Ġ" )čĊ +QU ENCE +Ġalt ar +Ġed its +comp iled +aw ning +ĠD ungeon +Ġo sg +Navigation Bar +Ġtrend ing +ĠE co +ogg les +cd ot +| - +S ie +ec ret +ĠN egative +ĠL ing +ĠD IM +ĠC WE +ĠCar rier +Ġcar tridge +_us b += os +ĠJack ie +Ġo tras +Ġcommod ities +ĠP resentation +)&& ( +ĠMar tha +ĠCath olics +ĠM ond +об Ñĭ +_ absolute +Ġash amed +pons ors +t al +Ġsad ness +Ġpu ò +F ade +-pre view +ĠRequest s +ĠCal vin +h orn +Reuse Identifier +(pro vider +/app s +ime o +ĉ Class +S amsung +ĠW ORLD +Ġc innamon +dot env +ĠI User +ĠDE V +_C har +.ib atis +et i +/ me +s st +.s ym +ĠRug by +-m aster +aj ar +ĠY EAR +Ġo dp +ĠR oles +Ġbip artisan +ail le +Ġblock er +Ġgre ens +.SE CONDS +Ġbelie vers +ĠL ikes +F LOAT +Ġm ak +Ġg cc +âķIJ âķIJ +(" ~/ +SCRIPT OR +Ġton nes +ĠS ang +Ġtrans pose +enn ai +P red +Ġsoll te +.github usercontent +( print +ĠH ole +çľ ĭ +ad get +Ġprompt s +Ġgen etically +ĠH od +Ġvert ically +_control s +ÑģÑĤ ан +") {čĊ +$ title +Ġ} ),ĊĊ +Ġstate wide +ĠCor respond +ĠAt tr +it ant +Element Type +Ġout ward +Ġfam ilia +( article +Ġbl at +Âł Ċ +Ġgl Get +ĠRe ceiver +Ġ% - +ad am +W inner +Ġtail or +_p wd +ert en +St an +ĉ all +al ive +strt otime +� s +s essions +$ conn +ass ist +Ġchat ting +ĠM ant +Ġ% @ +Ġ"" );ĊĊ +Ġd gv +Ġíķ ¨ +.re peat +_M essage +Ġadvis ers +/ path +Ġk es +) } .ĊĊ +ogen esis +ĠOPTION S +upt ools +Ġmilit ant +Ġex ited +ig ar +ĠCOM M +ĠDis posable +ay cast +Ġrow span +Ġsyn thes +Ġsond ern +ĠĊ +ĠJ acket +R ATION +.getSelected Item +- init +ĠReg isters +_se p +ĠTool kit +.d ict +Ġx label +\ Table +t oc +_com bo +ĠComp act +Ġr ugged +à¥ĩ ठ+-man agement +')}} ">Ċ +ĠSt amp +ı l +ro x +Ġlandsc apes +_NOT E +mon ary +c ab +Ġmo et +x af +rc ode +- cli +_g ate +[ event +SP ORT +g ia +ĠS UPER +/ Login +_sh utdown +int errupt +Ġpret ending +Ġfr inge +ĠRed s +ĠC UDA +ĠUN IX +v it +Ġbr ig +dr v +ĠConn ector +There fore +Ġl ia +D etection +_ actor +Ġtemp file +Ġecc entric +- role +Ġpad x +d ent +West ern +Ġê ·¸ +ĠApplication Record +Ġcampaign ing +_run ner +ĠC ivic +ale igh +Ġdire kt +.s ul +ĠĠ ĉĉĉ +ant en +Ġiss uer +Ġassert ions +( orig +AT IO +Ġlean ed +ä s +.D TO +expl ode +.O bservable +Ġstagger ing +Ġkidn apped +Ġprogram mers +ĠInn ov +.param eter +Ġdom ination +Ġske ptic +Ġæĺ ¯ +Ġavoid s +.Ver ify +ub by +ĠAS N +Ġformat o +ĠBeat les +_b rand +Ġin set +y outu +Ġto c +-f inal +Show ing +ĠD oub +ĠM esa +Ad j +_m edium +Cre ates +(end point +ĉ UP +bb ie +Ġst alk +.datab ind +.S can +ag ents +$ , +ind ividual ++ )/ +ĉv m +(not ification +Ġin ex +ĠClass ification +ren o +Ġo lig +-r ated +Ġform ulation +', { +Ġa cept +_un pack +_C A +.P ow +ĉ im +Ġal uminium +AN O +Ġx n +Ġcó mo +ĠIng redient +Ġseiz ures +åħ ± +ific ador +Ġsigu iente +ĠIn fragistics +Ġduplic ated +ĠDe e +Ġn ø +ĠAC CEPT +(c rate +иÑĤ елÑĮ +- less +Ġinf inity +An alyzer +-D ay +rit t +(c in +ĠG y +Ġmulti plied +uch i +ĠBald win +/ ip +Ġshort cuts +.A DD +Ġvig or +_in struction +( ; +_ eta +è¿ ŀ +utor ials +Ġboost ing +b v +Ġacknowled ges +List ening +FA Q +; b +(( - +Ġarchitect s +Ġz we +Ġpul s +Ġget Count +ver bs +ãĢ ľ +(C ollection +k re +Ġjuris dictions +_b ridge +ĠCr ack +ĠDiff iculty +K O +Res ervation +_re quires +T our +ãģĹãģ Ł +.set Current +Ġk y +ĠAlb any +Ġè § +ll er +agn a +work ers +.bl ank +ĠPr ayer +M IC +Ġresil ience +Te X +ĠL anguages +st udy +ĉc urr +Ġenzym es +Sl ug +ĠíĮ Į +str al +Ġtum ors +Ġseg unda +=' { +in struction +ĠL isp +/ info +Ġ" {$ +,: ), +Ġg v +( ErrorMessage +Ġ' = +}- ${ +.Doc uments +" Well +Ġreminis cent +Ġg az +iro pr +eh r +Ġsup pressed +ers h +.scroll To +Ġcad ena +Ġgame State +ÃŃ m +( conv +ĠTom orrow +ĠC CT +M ongo +ul g +.C amera +.hand lers +m ph +Ġst k +Ġgen etics +AC ING +Tr ivia +ĠB am +(m arker +.St retch +ĠSun ni +ĠBet ty +.t olist +un likely +.Rect angle +ob solete +IL ON +inner Text +emb ourg +a N +ĠV ehicles +un lock +: utf +n ob +ĠSee ing +ĠNE VER +Ġt ls +Ġfil les +Ġbenef ited +ĠCl int +*/ ), +.f old +Ġpos ible +A DED +th ouse +.D AL +ĠO dd +ro kes +ĠSun ny +ĠPartial Eq +_B uffer +ĠLe vi +long rightarrow +eld on +g ages +_w arn +.Create Table +ĠD ip +_ questions +.log ic +Ġ# " +={() => +Ġt ep +Ġju icy +ì Ĥ¬ +en ko +ia lect +Ù ī +Ġon board +Ġæ ı +ĉ rt +_ UTF +ĠQ Action +âĢ ŀ +( Component +(a udio +.h it +g te +Ġprogram med +state Params +Ġpoly ester +f ires +by ss +] =( +_ quality +Of Day +ĠFair y +Ġy elled +op l +(user Name +ĠD ifference +Ġevalu ations +iff any +Ġcycl ists +Ġc idade +Ġtext book +Ġprof iling +__ ), +de a +. activate +Ġindic ations +Ð ķ +Touch UpInside +Ġinval uable +ĠM ASK +Ġcont end +F req +Ġrecru its +(int erval +ĠUser Profile +Ġ'./ ../ +ed u +_C allback +Ġanal ogy +ĠTro phy +app hire +V ideos +ĠCh er +ĠH av +â̦ " +. validator +g fx +ĠU Object +class names +tri angle +ĠEnc oder +.s py +Ġpred ators += status +-s afe +: ",Ċ +ĠIn cluding +Ġ{} ;čĊ +* cos +Ġend ured +.sul ake +Ġnurs ery +Ġfrag rance +Ġre building +Ġn th +ĠFr aser +.set Date +ĠV ince +_RE ST +Ġvent ilation +æµ · +cri bes +.as m +lp Vtbl +ĠA be +uis ine +, array +ĉ className +err als +Ġ' ĊĊ +Check out +Ġsol icit +A ux +_c apture +Ġrib s +rag on +vi ol +top ics +Function Flags +ĠM arty +b ike +ĠT ucker +(k ernel +ĠO ps +Close Operation +/d emo +ild a +ĠlÃŃ nea +APP ING +Ġsu ites +.visit VarInsn +ur us +ĠMin ute +(m anager +Ġbutter fly +Ġap are +Ġw olves +J WT +ĠSal on +ĉd elay +-es lint +is ations +.r pc +)| ( +ĠSnap chat +/m m +M N +cer ies +.text Alignment +ĠFrank furt +Ġad o +(new Value +( access +( Expression +ĠSign In +ĠHait i +_t p +.set Parameter +Min ute +Ġmanual s +ric anes +ĠP TR +ĠOut er +Ġget line +oc ations +_C D +ĠLy on +/g ui +_l ive +id an +.ge om +Ġborder Bottom +im uth +_check point +Ġme u +ĠIr ving +Ġpeu vent +(M AX +ĠAR CH +Ġp ov +.source forge +Ġjam ais +Ġar k +ĠBaghd ad +ĠC LEAR +Menu Bar +Ġtro is +CHED ULE +Ġ# čĊ +(C all +$ order +(M aterial +Ġencontr ado +$ list +ĠMETHOD S +.begin Transaction +_M AG +Style Sheet +Ġmaj ors +Ġindef initely +clean up +Ġhom eland +(d to +D ates +P resentation +ĠD K +={` / +ĉ Key +( Block +_check box +ne eds +Ġon Complete +ric o +Ġgle ich +Ġx m +O OD +B etter +ĠSQL ITE +. Book +x ad +ĠG one +ĉd p +Ġdev otion +Ġst m +Ġobs ess +ĠBack end +Qu eries +I k +// **************************************************************** +Ġdivid ends +.parent Element +} ")ĊĊ +ĠMaterial PageRoute +: num +Ġexp lic +ĠO L +le ast +O ops +iment os +Ġins urers +Ġhero ic +ĉf ields +.img ur +.btn Cancel +ĠDetect ive +(s m +ĠMutable LiveData +.l ab +(( [ +Ġha irst +ĠTrans actions +å¼Ģ å§ĭ +Ġstd Class +uent o +G IS +_c od +Instruction s +C alls +Pointer Type +ĠR w +Ġassort ment +ĠD IG ++ r +_C ERT +Ġinst ability +Ġv ib +on as +Ġro ku +ap ellido +Ġan gl +prene ur +Ġfluid s +ise ase +Ġde ed +qu ist +_CONST ANT +Ġequ ilibrium +_de legate +ĠQuant um +re i +Cap abilities +rect angle +? >< +al ien +ĠJ ug +D NA +T ickets +Occ urs +ĠHaw k +.setHorizontal Group +\ Collection +ff iti +Ġre arr +.setVertical Group +Ġc avity +Ġadult e +Fac ade +- wh +ĠL OL +Ø ° +Ġgrand parents +Sw ift +ĉw x +æīĢ æľī +if en +ff set +B eyond +// }ĊĊ +Ġw ager +Ġb ury +Ġcomm ence +reg istro +sc ient +ĠPer cent +Ġд олж +( identifier +.set Model +Ġs eldom +nt on +Ġappl iance +am us +rys ler +Ġpant ies +engu ins +Ġmim ic +Ġon Changed +Ġal coholic +.reload Data +Ch arge +ĠF ax +Ġj ScrollPane +Emp resa +Ġsh attered +x ba +Font s +? s +Ġpost season +ret ain +_r ates +Ġrequest Code +.t odo +´ s +CH K +ĠKeep ing +enge ance +Ġvs code +IPP ING +Default CloseOperation +_ raise +ĠO culus +ogram s +ra j +pc i +Ġcorros ion +.handle Submit +Access ible +ĠP iano +l ittle +AC L +Äĩ e +.un wrap +ĠCon vers +ĠLe ben +ione er +ĠMer chant +ĠJ orge +Ġembr acing +Ġvent a +á st +Ġvi ene +< QString +Ġexplos ions +Ġdistur bed +." < +m emo +ĠAb original +Ġcomple to +Tex Parameter +Ġuom ini +( agent +Ñĥ ÑĢ +ĠWh olesale +/ am +ĠBook mark +dr agon +Ġglo ve +Ġ" "));Ċ +iv ariate +now rap +In Children +.B r +Ġcon exion +Ġback bone +Ġe clipse +Ġpersec ution +': ĊĊ +/ link +ĠP ero +and as +ĠT ek +. "); +-an alysis +Ġer ad +Mar shal +Ġanch ors +og er +Ġconver gence +st icky +Ġnave g +int ern +_DE SCRIPTOR +ĠConsult ant +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ĠA uch +Ġer re +ÅĽ li +ĠHor izon +col a +Install ation +hot mail +C NN +.C ollectors +ch s +(tr ace +ĠEnc rypt +Ġ---- -- +ĠBase Controller +Ġag ua +Ġre active +id l +Ġclass Names +ĉ Session +ĠDod gers +H ad +_l v +Is Valid +ĠHEL P +ut to +ĠVer ification +Ġget env +_p a +.b mp +: f +ĠLou ise +(' ; +/ socket +Gr anted +.c alendar +( IP +ĠP X +.R oom +Ġprogram m +ens i +Ġtablesp oons +Ġle ve +Ġmo str +.t ipo +/ an +(d i +Ġb iod +Ġdb Context +ĠJS X +ĉ results +. END +ht e +l ify +P recision +èĬ Ĥ +ARS ER +)did ReceiveMemoryWarning +at tempt +IS P +& a +_P OP +ĠT ac +Ġprepared Statement +Ġзап иÑģ +Ġow ing +, start +Ġreview er +Ġr st +Ġprop Types +Ġrock y +_lo cale +ĠStrateg ies +ĠWe ber +.C ascade +_equal To +Ġcos as +ĠDe letes +ĠMax im +Ġsh rimp +re trieve +.In clude +IG IN +ĠO E +] );čĊčĊ +.en umer +Ġco ef +_N ull +R a +ty ard +ĠSh awn +keep ers +Ġq q +_s b +om ens +ĠExec utes +# " +TT Y +ĠValue Type +); */Ċ +ĠAbs olutely +ĠT ottenham +/ art +Ġbless ings +Ġswift ly +b uster +Ġa vid +COM M +, temp +Ġ} ?>Ċ +-g rowing +Ġdeep copy +A ck +egg ies +Ġ__ (" +Ġno ir +terror ism +Ġanth em +ag ency +_PACK AGE +ĠC losure +.reg istry +Ġmamm als +< L +U ICollectionView +ĠLED s +Ġvol ley +( Buffer +_N ATIVE +lib c +impl ode +Scroll Bar +ĠMar ion +.Con tracts +_A t +ĠWe instein +compare To +ĠH ose +en ity +.create Query +_r outer +Ġstim uli +Ġ++ ) +ĠCh amp +ĠBay ern +ass a +.v a +Ġdistrib utors +Ġfile private +Ġdepart ed +cc cc +@ click +ĠL unch +> L +Ġbl uetooth +.De ep +- standing +ác il +Ġro oft +ĠPath s +_iter ations +Invalid ArgumentException +.s pi +ĠUIAlert Action +uy e +sign in +.p riority +ĠEss ays +=' {$ +Ġè¿ ĶåĽŀ +_s igned +.p ersist +Ġred esign +To Lower +ĠNew man += start +ĠIsrael is +asis wa +Spe ech +Ġnum eros +hand lers +ĠW ong +Ġм еÑĤод +We ights +ĠGu jar +te il +ĠNon etheless +_E FFECT +Ġv ect +ĠO sc +Ġco ats +ĠW heat +Ġge ek +ĠPRO PERTY +w orm +_const ants +ĠB oulder +ĠP arm +co le +Ġdefault Center +ĠRou ge +: A +xc f +ĠVen ice +med ian +Ġred emption +F resh +Ġcos m +Ġfig ur +Ġref urb +CO PE +.c d +Ġch ords +ĠS gt +Å į +VP N +ĠS END +ain en +_account s +Ġtent h +Ġdiss olved +< App +ĠCover age +use State +é ro +.. < +Ġì £¼ +Ġdream ing +ĠFore cast +.C ursors +Ġvis as +/ script +_start ed +Ġga str +(P RO +]; // +.T ile +* sin +( Adapter +ĠSand ra +_S IG +ard ash +ĠO val +Ġdescri pcion +(s l +ĠDes criptor +Ġ` $ +/f ree +ĠKey words +Ġt udo +ion ale +(f ound +.x yz +ĠGeneration Type +_DISABLE D +( area +Ġel ites +Ġh ombre +(m essages +ĠR ac +Ġext ingu +ĠEst a +op o +. vel +mouse out +Ġconv olution +ĠHand ling +Ġceil ings +T ek +ĠAre as +.writer ow +< View +ĠCorn ell +_B IN +.in valid +'' 'čĊ +ie ż +_P osition +Ġk idding +PC ODE +Ġwatch er +lo x +Ġâ Ĺ +D ave +_all ow +Ġbis exual +Ġun ordered +ĠSch we +_se gments +Ġt earing +IN LINE +Ġund es +.g oods +.c am +ĠL W +ĉ where +Cal culator +-th reat +- alert +ĠSuz uki +ĠIP A +ĠAtt achment +AC CESS +(d type +O pp +_s ymbols +Ġdans ke +l age +or get +res olution +е Ñĩ +ĠQ Color +ĠBar rett +аÑĨи Ñı += \' +ĠNav Controller +/ ref +(c ountry +_H DR +Ġterse but +pet ition +Ġsu f +cred its +๠Į +x m +ĠDav ies +.re ddit +Ġw oven +ĠO bl +ĠK M +ĠConsider ing +ens ored +.per iod +Ġd dl +$ wp +Ġextrem ist +; \Ċ +Ġk im +al ers +Ġspan ning +Ġco herent +Ġconse gu +.text Label +.g eneral +_d ashboard +л ение +k ick +_P ID +ĠExt ensions +reg exp +ĠCl ause +_m ov +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠ +ĠR eward +ĠLEG O +A k +=-=- =-=- +ĉ parser +Ġon ze +éĢ Ģ +âĢĿ ãĢĤ +_b all +(r hs +Ġch orus +< count +as urable +Ġwirk lich +ĠEr in +ĠMS NBC +Ġet ter +ĠC ron +_F LOW +Ġ, čĊ +Ġcal idad +ĠFile Writer +ĉ stmt +( Byte +_p at +Ġte lescope +Ġgre ed +ĠT ort +(w rite +\ application +ĉRT LR +ĠConfiguration Manager +Un ix +End Time +In cludes +ĠHar vest +en berg +ĠAustral ians +Ġë ĵ +Ġr n +Ġreput able +Ġbl ending +UL ATION +ĠBrend an +d ad +Ġm ø +ĠW oo +_d c +U ne +Ġr ue +with in +ang ep +Ġp ouch +\" ", +ĠS ic +âĢĿ ), +aly ze +ĠG ef +c overs +Ġd bo +replace All +ĉ Logger +Try ing +[ state +-p iece +éĸ ĵ +beh avior +all ows +l rt +_p ython +ert ura +-c ountry +ĠT G +.UI Manager +b ens +ale x +ĠBre itbart +b ac +Ġpredict s +Ġg ab +Ġcard inal +.Time Unit +ĠVis itor +ĠM ing +Ġliv re +Ġparent Id +port un +Ġdimension al +ĠV est +en ic +à ³ +Ġ Ùĩ +ĠBL UE +Ġitem Count +Ġfe athers +ĉp stmt +ĠPol ar +{ // +und i +Ñĥ ж +z ar +Error Response +ì ĥģ +Rep resentation +* _ ++ ] +pre pend +Ġ' > +Ġlegitim acy +Ġo o +S linky +Ġnation als +. words +; p +tr ap +oman ip +Ġc ues +Ġgradu ating +Ġsem aphore +"] );ĊĊ +ace y +RE ET +Gr ab +ĠFel ix +( Id +_ne ighbors +Ġmeaning less +(d el +Ġj eder +ĠContent Values +.abs olute +/ cl +Ġx b +dat um +Ġtort ured +Ġrub bing +S cores +ĠðŁĺ ī +Ġav ons +Ġam sterdam +E OS +H al +Ġtrust worthy +# = +.EX TRA +Ġman o +is icing +-s upport +ĉc ursor +ĠSp o +aim assage +M ission +[] {" +Ġprint ers +G REEN +Ġt eg +Ġabdom inal +! ĊĊĊĊĊĊ +.Sh ort +аз в +ĠGift s +} ") +(b inding +x ce +âĢ ij +inf os +Form Data +Ġd art +Ġele ms +(in v +Y L +t in +GEN ER +á» ¯ +ĠT aken +uck le +: e +Ġspect ral +.b aidu +/ ');Ċ +Ġgre edy +es ion +,,,, ,,,, +Ġ/> ,Ċ +Internal ServerError +NSNotification Center +ĠA i +Ġsp it +Ġaug mented +Ġstandard UserDefaults +FIN ITY +R ace +: C +ĠRE CORD +ĠHigh light +Ġ' ` +Ġdef icits +Ġne i +Ġresearch ed +T a +Ġc opp +.Get HashCode +): čĊčĊ +On Click +ĠWell ington +Ġrev ival +æ¯ Ķ +éĹ ® +ĠN SS +Ġfor n +Ġint é +ĠKu wait +_fl ip +_ bo +_ \ +Ġocc urrences +ĠScient ists +S RC +og ens +igr ant +RE MOTE +ĠS ID +. opts +u ve +() ])Ċ +Ġlibert arian +ĠGl ide +les en +Ġform e +ow ania +Ġannoy ed +Def s +ĠExec utor +Ġcast s +.set Checked +ĠSh aring +.Serialize Object +Ġselect ors +_ OTHER +ë¯ ¸ +(s uper +( OS +_VER IFY +id unt +< header +Ġ/> ';Ċ +Ġvidé o +ĠNeg ro +ĠL ords +ĠT ours +Ġsoft ly +.re ceive +ĠE RC +Ġdata Set +Bad ge +ĉ Event +Ġper l +Ġ{} \ +(s entence +Or Update +Ġdim inish +P IN +(d raw +.To DateTime +.Equal To +(p in +-p encil +lu ent +ĠCall er +Ġplay ful +- '+ +x ca +sw ick +){ }Ċ +}: ${ +ĠM eth +.get Cell +.b reak +Ġy max +=' Ċ +ĠH iro +( TRUE +as urer +Ġcu er +U ber +. Operation +Ġol an +Ġthr illing +< Response +ĠF emin +Ġtravers al +Ġp oc +Ġset Status +decl ar +std afx +Ġaddict ive +ĠB tn +Ġexplos ives +ĠCook ing +ĠPl aint +Ġaccum ulator +ĠApp ointment +, password +ĠF AR +lu et +Further more +decl spec +_Static s +.D ictionary +"> '. +ĉ valid +" ", +In strument +> J +Ġno str +ĠR ift +_P ort +Ġvec es +[ [' +Ġrall ies +- series +Ġv v +. uc +Ġr tn +State Changed +( ins +ĠCl a +------------ Ċ +c us +ĠRel oad +//---------------------------------------------------------------- -------------------------------- +.se conds +_dest ination +Ġscrew ed +> c +Th ickness +Design er +Ġgr ids +n Äħ +( cookie +T rip +-M obile +Ġv oll +Ġgen ital +Ġconf isc +ĠConfeder ate +Ġweb View +Ġm ise +Ġcl er +(se lection +$ date +Ġshar pen +rag en +And Update +Ġrem ix +Ġh tons +R W +M PI +Ġretrie val +Ġric hest +.Dec ode +:init Components +ĠT Value +S aint +@ include +ĠPER SON +.se p +ĠLD AP +g ba +Ġgro ÃŁe +Ġreli ably +ĠD FS +.getItem Id +Ġprés ent +.get Token +Ġch inese +ĠMe al +Y OU +"> >ĊĊ +b ower +Ġsw apped +/ install +Ġs inks +etr ize +Ġdecl ines +ĉm ysql +ĠC String +ĠMotion Event +.L anguage +R oad +ÑĤ еÑĢ +asc imento +')) -> +. about +( editor +ĠR atings +in come +Å¡ e +.de queueReusableCell +ĠAust rian +Ġs ulla +ĠTrib unal +ĠDid n +ов аÑĢ +Ġins pections +B oss +Ġcock tails +Ġapolog ized +_sub plot +op al ++ =( +Ġreson ance +ib u +Ġë ¦¬ +rom a +res erve +pl s +ĠT ah +ax ies +OP LE +ĠDar ren +ĠZ ombie +_M ap +Ġ] )ĊĊ +ĠQ i +ĠS ail +Ġrestrict ive +Ġeros ion +- par +WH ITE +Ġold u +Ġap erture +Ġbit coins +text o +ĠCom cast +Ġtime less +en kins +Ġfeed er +/ tmp +res den ++' _ +.D estroy +Ġç ok +ĠD OCUMENT +.l ng +.tag Name +Ġk ullan +eg rate +Ġ(* . +ç¼ĸ è¾ij +Ġhand shake +s oc +_ geometry +ĠDam ascus +Min or +ĠK afka +ìĹ ¬ +Fl orida +_com pute +.ex pr +Ġpar alle +ĠD iaz +c ir +[ target +Ġj oking +Ġgl or +(set q +_hand lers +H ang +Ġf err +rim inal +ĉĠĠĠĠ ĉĉ +ent ies +def ines +-t ax +json p +ĠU PS +met ro +__ ;Ċ +ĠUg anda +])) :Ċ +_t d +x ae +l w +. OS +ĠLog ged +ac id +ĠMay o +as pect +Ġvag inal +Ġinitial izing +Ġster oids +f iction +G RE +g end +Ġli abilities +ĠL ets +M ech +( nc +( change +Ġconnect ors +: k +Ġt ast +! ");ĊĊ +th ings +ro phy +luet ooth +ĠSign Up +. ctrl +Ġthere in +ord a +. escape +ig ator +Ġpet rol +Ġspec imen +Ġdeb uted +- Pro +Ġcr ises +.add View +ëı Ļ +-d oor +Ġmon et +Ġmill is +Ġv ier +Internal Enumerator +Ġadmin s +ĠL air +z in +get Query +umb les +L IMIT +ĠV ig +_s ong +< Character +:: . +_h om +_b p +ĠSup ervisor +sub mission +ab ile +Ġno i +Or Create +Ġpe el +Ġon Start +Ġsent iments +veh icles +Ġclass rooms +Ġs zer +Ġb ending +Ġlong evity +Ġa cl +ĠAle ppo +ĠU M +ĠR icht +Ġmultip rocessing +DOM AIN +"," + +_Y EAR +Ġsc rape +Ġsol itary +Ġ"] ";Ċ +/ errors +ìŀ ¬ +ľ ëł¥ +b etter +ĉ number +ĠL F +ĠAc ross +Pub Med +\" " +ĠExcell ence +Ġus ando +ĠU IP +Activity Indicator +_V OID +Ġbre eds +ï½ ¥ +uest as +ĠTre asure +ustral ian +(f ace +ĠT ennis +ĉ Int +ĠHans en +ç µ +: I +Ġâľ Ķ +GR AY +O USE +Ġhe pat +ł í +A IR +ó ż +Ġque ued +vinc ia +ĠChrom ium +Ġcompet ence +ung al +ill i +Ġget By +ĠF inder +Ġincap able +Ġs add +Ġc ites +ĠChurch ill +S dk +More over +As pNet +( Float +$ password +ĠConn or +-s ession +_d m +* )) +Ġde utsch +ĠN X +Ġper ks +_S ORT +_TO OL +_V ISIBLE +.as p +æĪ ĸ +ĠBre ath +D etect +ĠD uel +.c mb +[ it +.Set Bool +Ġnarc iss +Ġab ide +Ġej emplo +ĠâĦ ķ +Ġm ornings +Ġcomput es +.s sl +j t +Ġmuch os +_S S +[ end +Ġbas in +Ġalgun os +ĠCroat ia +lin ewidth +(t ags +(h idden +ÃŃc io +Ġap ar +ĠÐ ¶ +ä¸ İ +. food +ĠR ural +Ġbread th +å½ ± +(s ess ++ ") +ĠP aste +Ġserv idor +ĠBit Set +ĠTr an +la us +v ette +ey es +ĠCL ICK +ĠV III +ĠTurn s +ĠLe Bron +ĠM uj +ĠD eg +ĠAdult s +_s uite +process able +ĠPH Y +g hest +.F ail +ĠSl ack +ce j +\ Carbon +Ġsuper star +Ġhold ings +( forms +Ġ'# ' +M ultip +("[ % +-s olid +/ url +-t ier +[ length +ĠStream Writer +ĠMarket place +get text +_T ICK +ĠFor ge +Ġblack jack +ĠDO ES +ĠM atters +w aves +Ġwhisper ed +Ġl ush +ìĺ ¤ +d igital +Ġwr ink +ĠH ogan +Ġrust ic +.Apply Resources +ĠHard y +os omes +A UT +.ST ATE +Ġnarr atives +ĉ store +b ib +ĉ Scanner +ĠC ody +\ Repositories +Ġre union +and um +âĢĻ h +Ġsn iff +NS Bundle +Ġcompreh end +_US AGE +_ occ +URRE NCY +J NI +Ġspecial izing +Ġvis ions +Ġdol ore +Ġv á +ĠChe vy +ĠSt yled +imp act +all en +Ġk art +ĠTable t +st uff +re esome +аÑĤ оÑĢ +//---------------------------------------------------------------- -----------Ċ +_Ad min +Ġcell phone +Ġaut oplay +Ġcamb io +Ġmar itime +_BO OT +- quarter +Ġlat ina +ĠAJ AX +e quiv +ĠFront ier +ĠX Y +} ]Ċ +ĠR ough +.pro to +Ġcorrect ness +Ġfac il +ĠRe ached +ãģĿ ãģ® +V IS +.p s +Ġstr ncpy +Ġdiff usion +.start Activity +�� � +Ġaccom p +AMES PACE +imon ials +ĠBl ast +aby rin +Ġd ome +Ġextr av +Ġy en +Ġcul inary +P RI +ĠComm unities +n id +_oper ations +.h s +ĠMil ton +Ġno ises +Autoresizing Mask +(c id +}ĊĊ ĊĊĊĊ +] },Ċ +ĠD etection +tab la +Ġlib erties +_D YNAMIC +w get +ĠT ür +ĠP ascal +Trans parent +Delay ed +] () +ĠHer bert +< ActionResult +ch allenge +Ġmush room +.insert Before +ĠR in +Ġhum our +Ġf ø +api Key +alloc ated +Ġconf ession +. ",čĊ +ĉassert That +ĠS ORT +ĠL ORD +Ġexport er +.set Level +p okemon +ash tra +Ġf é +ur ator +(M SG +Ġt up +ĠH ull +Ġyield ed +.Sub ject +\ Route +! ? +ĠÑĥ дал +\ Security +- ar +Ġalleg ation +( Settings +ä nder +Ġell ipse +ĠRetro fit +Ġregul ating +ĠM olly +ĠL ok +_C ustom +ĠProm o +is in +Ġres umed +Ġmet ropolitan +.error Message +: ------------- +Ġpas ado +th ank +_De lete +ĠBright on +, unsigned +ä½ľ èĢħ +Ġaspir ations +-h ow +R ose += (( +_ne eded +_pl ural +< Application +ĠW EEK +ĠUn lock +ĠT EMP +S ou +Ġschizophren ia +Ġt roll +Ġcomplement ary +ĠNET WORK +Ġbl ir +Ġprogress Dialog +" %( +ĠAttribute Set +ĉ ts +.iter items +è¯ Ŀ +Ġesc rit +v ous +_pl aces +H K +Ġseg uir +_f w +ĠR ounded +Ġdis posit +è§ Ĩ +par m +w ow +STRU CTION +. allow +ĠChar Sequence +ĉ extern +Ġprosec uted +Ġmort ar +ĠJ uda +- msg +Ġest ud +.get Description +Ġs ow +amb re +Ġrom a +En h +bon us +Ġsqu at +Ġdist ra +ed Image +Ġpe ppers +-per formance +, ĊĊĊ +, file +ĠM IME +_con cat +AB S +-f ashion +Ġunder cover +One ToMany +Ġre claim +C OPY +Ġb inds +ĠT ape +Ġg ossip +ĠEqu ity +/ Card +. activ +' am +Ġdrain age +< Scalars +ĠonBind ViewHolder +() ?. +Ġs orrow +ĠI b +up y +_U UID +ĠCh arm +ĠElection s +.on Destroy +ĠInterest ingly +ounding Box +_d etection +-h eld +_ unknown +Ġrefr ain +Ġmét odo +Ġe Book +EN OMEM +Ġd ang +Prof essional +Ġd ictionaries +/m ysql +ĠST UD +Ġmas se +s cape +Ġdre i +: name +.log o +Sign Up +Ġt ahun +( theme +ĠFem me +Ġbom ber +ĠJ ade +ĠT ay +Ġsubmar ine +_cl ause +zy ch +Ġsimult aneous +Ġcas os +. boolean +(l hs +Ġcontin ental +-s ale +ĉ env +ĠC ute +ĠFactory Girl +ab us +/ value +Ġj adx +Ġst ern +> >ĊĊ +Ġsurf aced +Ġìł Ģìŀ¥ +pl atz +ĉ email +cept ors +"> ( +Ġep ile +è¯ » +ĠDe bt +åij Ĭ +N OP +" https +: j +Form Item +_L ICENSE +.get Double +ĠAg enda +ĉf inally +(f ilters +( av +ç¾ İ +AP ER +Ġl ava +еÑĢ Ð¶ +)) ))ĊĊ +Ġfault y +_n m +Ġtr ava +(B itmap +Ġspeed ing +> '). +Ġscreen ed +_ roll +ĠMac Book +ĠA UD +Ġdiagn ose +.G enerate +Ġ^ ^ +Ġstr s +[ Test +Ġr ansom +ĠDH CP +eld en +Ġinterpret ations +() ]. +flat Map +Ġline Height +_m ount +ĠW izards +Ġsl uts +eh ler +od al +Ġmilit ia +å ² +earn ed +Ġmis ery +int val +f und +Ġh ides +Ġdi arr +ĠWes ley +Ġx mm +Ġqu em +ĠAr abs +if th +ategor ized +Dis posable +P ure +_NOT IFY +sn ippet +ĠGar rett +.run ning +. weights +Ġ( -- +Ġin variant +äºĭ ä»¶ +ĠAll owed +dir s +Ġpass ions +Ġl ad +ĠFl ush +men us +: block +Ġcompr a +.ch omp +alloc ator +Ġcur ated +ĠKnow ing +ĠPatt erson +Ġtel ah +' ex +Ġdo omed +Ġphil anth +ott y +.st yles +Own ed +Ġallerg ies += params +oc ese +it elist +ĠS ending +b ef +orr ar +ĠN ão +ĠF argo +ĠL ub +ĠComb ined +_g iven +ĉĉĉĉĉ ĠĠĠĠ +Ġreconc iliation +Pattern s +az ard +Ġbiom ass +ĠH ouses +resp uesta +cc o +/top ics +ĠY uk +Ġweaken ed +_c alendar +Ġmulher es +ĠMar l +Ġs ine +ĠT il +ĠSou ls +ĠDe utsche +ĠF OLLOW +Ġpip elines +ĠBever ly +_DIP SETTING +" # +ĠPro to +.b ig +ĠSav ings +ĠT anz +j un +ĠG amma +ĠS add +Ġadvis ors +Ġro ast +Ġun ters +ud ies +_l on +-point er +ĠElement Ref +\ Builder +example Input +.web driver +data Type +ĠQu ite +ĠCelt ics +u il +-def ense +b ish +ĠUI Window +ĠS uddenly +.h ot +.re ason +Ġg ör +AM D +.M ulti +auth enticated +reg ions +; ( +а ÑĢам +ĠKir by +$ route +PREC ATED +ĠDur ham +ow o +ĠPer forms +Ġdisreg ard +n st +ĠP ols +Ġget P +"] : +-col ored +( Keys +ĠAl leg +_mod ify +_ loading +str ained +Ġat roc +_p hr +< Sprite +Ġsatisf actory +m anship +.p ipeline +T ony +Ġth ief +pol ator +( lock +bur st +ĠOptim ization +Ġsurf ing +" Yes +Ġdesc ended +æ Ĵ +_C lear +Ġc ries +ĠFro zen +D IRECT +- Con +ĠLe icester +å¥ ³ +O OM += db +Ġget Message +< Student +_b atches +.M ask +_ eth +\ ) +Ġsom a +C atch +[ ch +Own ers +ind le +: auto +. vert +iv r +.set Location +Ġfl uent +_END IAN +ĠCar lo +cept s +add Action +.o auth +< UnityEngine +re ements +.S kip +? )ĊĊ +.default Props +Ġc abe +ĠSh en +eros is +ĠPro fit +Ġpo is +_C REATED +Ġremove From +(w s +? action +( Field +Ġerr one +.min imum +ĠRetrie ved +Ġd ado +ĠPR IVATE +-s pec +Ġg zip +p data +Ġpos Y +(l ow +Ġqual quer +/ cloud +ê² Į +( common +ĠAr beit +organ isation +Ġtid y +ĠRol and +( ph +.z one +Ġgent lemen +ượ c +å± ± +Ġenc losure +ĠMan afort +ĉ Color +St encil +N ic +Ġthe orem +ĠV G +Ġcol oured +V BoxLayout +uls ive +Drag on +c ff +et est +ens a +of day +.A zure +:UIControlEvent TouchUpInside +_up dates +Ġtrend y +ug as +weak Self +Ġr idge +ib ri +Ġì¶ Ķ +(C G +ĠMon key +.write Int +.tim edelta +ViewController Animated +ĠProvid ence +ãģ Ī +Ġbl ends +/Sub threshold +ĠAp pl +Ġat an +Ġreload Data +umb otron +st üt +O Auth +ĠG iving +ĠìĦ ¤ +ĠFinn ish +check ing +. Embed +sequ elize +Ġinitial izes +ĠOs lo +Ø ¶ +get Extension +_AL T +(bl ank +Ġfatal Error +Ġdem ise +**** *Ċ +ĠX S +(A F +ĠEn s +an tha +ĠP OR +Ġn ich +.N amed +Ġgig antic +ĠObserv atory +.Res olve +ĠPay ments +g uild +Ġcurrent State +============ ===Ċ +ĠS ey +p Data +Ġdead lines +Ġcentral ized +ĠScholar ship +_s upported +.ch rome +() ]);Ċ +Ġc yan +ĠC age +Auth ors +_ čĊ +/ os +k im +de e +.t ex +Ġyours elves +Ġm gr +Ġal k +-inst all +Ġdraft ing +Ġrum or +Ġstat ues +Pool ing +ol ina +AAAA AAAA +/* ---------------------------------------------------------------------------- +Ġextrem ists +Cal cul +ighth ouse +In set +(IN PUT +Ġsynchron ization +iv irus +. axes +ĠG ap +- An +_T emplate +Ġgam er +ĠCr icket +Ġl int +Ġauthor itarian +NS UInteger +Ġred o +Ġadip iscing +_F ETCH +che id +ĠF ang +. indices +t one +д ел +Ġ{{-- < +bra him +Ġsal a +get Code +Ġcommunic ated +start sWith +ert z +Read able +Item Id +oref errer +cred ible +á ria +Ġcombine Reducers +** /ĊĊ +Ġbl iss +Ġad orn +dep ends +ĠRO OM +Ġfr aming +Ġ? ', +aut y +_p ot +_t abs +Ex act +, ", +Ġ'} ';Ċ +Ġarbit r +ahr ain +.getString Extra +Ġ$ \ +Ġoutput Stream +Ġcomm enc +an us +ch y +< Employee +Ġhex atrigesimal +Ġn acional +(serial izers +_put char +_S AFE +ential Action +ItemSelected Listener +.Dis patch +Conf lict +_ about +os aur +Bound ary +Ġclear Color +( Location +ĠMON TH +ĠT aste +- General +ĠW AR +Ġer halten +-s aving +Ġcou pling +-tr igger +m otor +Ġy yyy +ĠPat ent +pt o +Ġmisdemean or +vas ion +ĠAdmir al +à¹ī า +_P WR +Ġdevast ated +fol ios +ITU DE +urre ct +Ġrobot ic +ĠSan ct +ĠHawai ian +.R oute +- condition +Ġr k +/**************************************************************************** Ċ +create Element +ĠK op +ign ant +. rollback +Ġsal ud +_ ', +ĠAN SI +Ex cept +ĠDraw able +.Utc Now +":[ {Ċ +Ġk ole +L ua +ĠBel ieve +Com put +Ġhall uc +ĠSign s +r st +.h u +ĠKN OW +W i +ĠBr ass +ĠR as +@ hotmail +Ġsed iment +Ġap k +Ġì ĥģ +_reg ions +Ġpod ium +< Book +ж е +Ġsix teen +ĠAli as +Ġinfr ared +ĠV ander +ĠLe ading +uc ing +,: ,: +_h or +w at +Ġdé cou +_W idget +S ounds +_n avigation +Ġschn ell +(g enerator +uc ene +Ġrem ake +IP v +Ġré al +_IN CREMENT +Ġhypoth etical +_ ang +Ġof s +Ġ! Ċ +.com pleted +Get Type +Ġkom men +ál ido +add On +Ġz ÅĤ +UL A +_ind icator +'] ĊĊĊ +ap ache +_S elect +ĠGre ene +Wh ats +_an im +Ġrepet itive +m uch +ĠTh reshold +Ġl f +(C ategory +con e +M ix +_MET ADATA +ays ia +Ne ighbors +ĉĊ ĉĉĊ +IP HER +ĠFr ag +ĠC ells +Ġnames paces +( back +ĠRest aurants +sv c +Ġл и +ote ch +-s l +¥ ¿ +ĠW T +ĠRed uction +Ġd otted +ĉf ound +ĠTE AM +B orn +ĠM ush +ĠCompar able +Ġh itch +AT O +Ġmax Height +begin Transaction +ÃŃ v +_b n +Ġher d +Ġrevers al +ĠH ond +del imiter +Ġconf use +Ġh ops +Ġcent roid +Ġcourt room +.decor ators +Ġm pi +ĠImpro ved +IN NER +ĠBang alore +ĠT amb +Ġbo ast +() ))čĊ +Ġil licit +ĠMor occo +greg ator +_res ume +Ġcrack down +Ġport raits +/h igh +( \' +Ġay ud +_fe edback +Ġc ate +/ avatar +Ġhe b +Point Cloud +Ġå ĴĮ +Ġ< ![ +Ġget Resources +} :{ +Oper ating +ĠF og +ĉt ab +ĠResearch ers +Ġfabric ation +.datas ets +ĠCamp o +ĠKa uf +Ġd ll +lig t +] ));ĊĊ +st ellen +ACK ET +l vl +ĠGl ory +.date Time +Ġcomm ute +ĠonCreate ViewHolder +ĠX Element +ĠT okens +< thead +_p ick +ì ¤ +v on +depart ure +(render er +phone Number +(P erson +gen es +ĠL ars +Ġ) {ĊĊ +ĠJson Result +Ġmet odo +VO KE +.get UserId +Acc eler +ĉ required +Ġchampionship s +Build Context +/t ask +/re leases +C ategoria +_over lay +Ġscar ce +_l im +n gr +ah len +ĠArt ificial +sp read +Ġbow ling +.an alysis +SM TP +ĉp assword +Ġbath s +] )){Ċ +current ly +ac iente +_se parator +Ġde ber +ĠDis abled +i ères +Ġâ ķ +_process ing +Ġprotest ing +ĠR OT +gr ab +Ġз ак +Ġpro active +word press +ĠSe ver +ind en +Ġw ikipedia +){ čĊčĊ +_w indows +is lation +Ġun rest +Ġdismiss al +.N UM +_F AST +iss ued +ĠF ACE +_u nder +Ġpl ugged +Ġå ° +ĠbÄĻd zie +ĠI CC +Ġcombust ion +Ġkiss ed +Ġstar red +ĠW atts +Ġspi elen +-p urpose +ĠE val +arg es +, result +techn ology +Ġnational ity +ic us +ĠN ug +ĠÑĤ о +ĉĉĉĉĉĉĉ ĠĠ +col o +Ġg astro +ante ed +OL ID +.b ias +_t ele +.ins pect +Ġve il +. footer +Ġneglig ence +Ġjud gments +Room s +yn n +ĉcount er +occup ation +Ġ çĶŁ +un as +Ġ(^ )( +L ambda +f el +.Param s +Ġд обав +set Layout +Ġdeport ation +Ġlocal Object +ĠPharm aceutical +cept ive +ĠN ome +Equ ipment +F an +Un iversal +ĉ socket +Ġgr in +Ġex poses +Ġhab er +Ġsincer ely +Ġc ams +Ġm ü +en ia +E mer +C rypto +Sl ow +(x hr +! =( +-s ervices +ĠP W +Ġprend re +Ġm ädchen +em ons +озв ÑĢаÑī +.M anager +ì Ļ +Ġg raf +- ra +met rical +/ fl +Ġc emetery +g ens +Ġp ÅĻ +ĠMySql Command +- To +Ġv Ã¥ +Ġa irst +oment um +Ġserv o +m illion +ĠMir anda +" She +Ġadvoc ating +-c aption +ĠAt tribution +Ġwel che +_v endor +ĉ Status +arr is +Ġprint k +"," # +Ġrel ativ +if ferences +izz es +Ġdec imals +ĠPro v +.max imum +Ar n +Ġhelicopt ers +_B OTTOM +ch ure +od ings +' ( +")) );čĊ +( bean +.f d +F und +Ġhang s +app id +/k ernel +.p oi +.Min Value +- validation +L uke +c df +ĠFun eral +ĠS amples +ĉ de +Ġto astr +Ġtax able +Ġcl ustering +Ġ'\ ' +Ġre straint +ec ed +ch ains +ãĢĤ ï¼Ī +_GR APH +Ġfue led +éľ Ģ +H p +å¤ į +T iles +Ġa unque +J C +Ġhost age +ĠE sk +Ġm av +Ġgest ion +Ġb anners +} {$ +.int Value +.' "ĊĊ +_M ATRIX +Ġce ased +ĠG OD +_CAM ERA +.Allow User +tr acked +C ook +b airro +( company +Ġview point +.get Writer +ĠN ets +w ives +Ġ( ))Ċ +example Modal +ĉ child +Ġmyth ology +Ġ// " +_ axes +ib old +.D ark +ĠMax well +Ġg pointer +olic itud +B at +ul ner +bal anced +mail er +Ġcont empor +æīĭ æľº +(" __ +Ġ" )" +re ar +ĠHu ang +] ')Ċ +× © +FT A +ĠCalling Convention +ĠOutput s +P k +.Re ference +lect ual +Ġ) :ĊĊ +Ġbrace let +ug er +ĉ Error +S weet +("/ ");Ċ +h x +Ġun reasonable +Inter preter +Ġlo ft +_product o +Ġsoci etal +.P arser +ĠAd apt +. foo +( where +.F eature +ĠYam aha +g lass +For ge +Ġprohib its +Ġcapac ities +Ġíķ¨ ìĪĺ +Ġper mutation +Ġih m +F ld +el ial +======== ===Ċ +@ Configuration +Ġge ared +ios o +iest a +trans lations +Input Change +Pop ular +ĠPL US +Ġv f +_F ree +b box +Ġcaus al +PI LE +Ġsch ö +Ġiron ic +M ir +. @ +åį Ĺ +Ġè ĩ +R ew +ul ence +fl en +Ġcan Activate +- response +Ġacc ents +ign ored +° F +.Dependency Injection +ĉ point +Ġconting ent +Ġsqu ash +Ġpar ms +ĠC emetery +Ġdelta Time +ĠD OS +Ġvan ished +аÑĢам еÑĤ +ĠD PS +t foot +ĠZ us +_IN STALL +G AN +Ġar b +Ġmunicipal ities +Into Constraints +AutoresizingMask IntoConstraints +, image +_ ignore +Ġdanger ously +quis a +pl uck +Ġhar us +up pe +Http Exception +Br acket +.' 'ĊĊ +ĠT ol +ĠView er +zb ollah +.Code Analysis +ì nh +Ġcorrect amente +.d a +ĠAl ger +× IJ +ba um +ĠPan ther +part icipant +å¿ ħ +-s up +Ġem ulator +Ġf ading +ĠW olver +cre ates +Ġbook ings +.Q uestion +§ è¡Į +Ġstress es +Ġre written +.PI PE +ed es +Ġc bd +": "/ +Ġenh ancements +_s y +B IN +ĠSl ip +Ins pect +ĠW eg +Ġcon gregation +Ġ_ : +_r m +Frame buffer +Ġ'& # +ĠFall out +Is Required +ĠPear son +ĠF ACT +Ġrel ie +ĉ box +ĠShe pherd +ĠWiki Leaks +ĠCollect or +Ġres ized +method Name +Ġevent Type +ĠA then +Des criptors +Ġb ers +- oper +ĠInitial ly +å ¡ +_B TN +ĠĠĠĠĠĠĠĠĠ čĊ +á b +_c ampaign +_w atch +F ord +-date picker +Ġvis c +Ġsat u +_s ms +Ġcont ador +-s vg +ĠDO I +$ args +Ġkn ob +.B OLD +Ġdeb ated +img s +sock opt +tr uth +ĠFe es +Ġh Wnd +_f ood +Ġab ras +Ġnot ions +ĠT od +: create +ĠConf lict +Us uarios +OT OS +Ġm sm +K HTML +([ ( +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠ +Ġ} ] +w izard +Ġm ientras +Ġdata List +Ġemerg es +Äĥ ng +.Read Int +PG A +ILL ISE +I Enumerator +(t uple +Christ mas +Look AndFeel +og enerated +Ġ# ĊĊ +control led +Ġex quisite +Ġa cest +Read Write +G ain +ãĢį ãĢĮ +Ġcopyright ed +Ġdo om +.Table LayoutPanel +ĠD ort +Ġch ili +Ġwer k +ĠEVENT S +ĠBe acon +Ġship ments +Ġse bagai +up on +ut om +.con verter +.Drop Table +={ }Ċ +f ic +~ ĊĊ +Ġlesb ians +_n a +Fore ign +ĉ then +/ ms +Ġor i +get Property +ĉsn printf +hes ion +ãģ ¤ +"} ," +Ġac rylic +P ers +@ Enable +I sl +(C ard +. Stack +L icensed +_G UID +: title +Ġh ust +Ġprincipal Table +an itize +/ embed +Ġens ured +ĠE GL +ÙĪ Ø± +ĠåĪ Ĩ +/ ,Ċ +Ġfundra iser +Key Name +Ġmarch ed +_VAL UES +ĠSc enario +Ġmet ic +_ass oci +ĠPast or +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉĉĉĉĉ +er ate +Ġinv itations +quo ise +Ġbl aming +Ġd aring +UM MY +Ġrich er +em aker +ĠIdent ification +ĠìĿ ¸ +ĠBinding Flags +ch as +Ġresil ient +_p g +Ġre leg +ĠI RA +ST E +Ġtr actor +- loading +ĠPre viously +ĠV acc +/ be +Ġn Ã¥r +Ġurl encode +ĠNor folk +.Re lease +ĠNe utral +ä¸Ń åĽ½ +ĠAr lington +Ġalleg es +ĠW riters +Test er +ĠR ally +Ġc á +ĉ Print +Ġâĩ Ĵ +ĠUser Controller +ĠSeek ing +.V AL +List Node +_ ff +ĠPhill ip +FA CT +Ġc aramel +ĠM ultip +ĠCom pared +ĠSer bia +Ł ³ +Ġrev ive +ĠK anye +Ġver ge +ĠBulg aria +get Body +Ġ| > +ce ph +.DateTime Picker +." ;ĊĊ +ĠT ie +, item +Ġm enn +G as +och a +_v irtual +Ġmaster piece +_se quences +L TE +ĠSub mission +Call er +$ \ +S port +ag us +Constraint Maker +Ġcol oc +Ġw ig +ĠÐ £ +ĉ Array +Look s +ĠGT A +.st eps +atch ewan +_r anges +ext Alignment +ĠBren nan +Ġab straction +uler Angles +.m isc +Ġantib odies +Ġexponent ial +ĠCH ANNEL +exp ense +' y +Ġdetect ives +Ġpur ported +Y STEM +Ġradio active +ĠLat ina +.Enc oding +.T AG +x in +D egree +ur acion +pr ices +ĠRefer entialAction +Ġr arity +Ġp iles +g ende +_project s +_g lobals +.start Time +Ġê µ¬ +SE CTION +_p ublish +F ault +DD L +_p rior +M om +Ġth icker +Ġsequ elize +Ġessential s +str as +in tr +>( () +.man agement +e il +éĹ Ń +A ware +.C ity +ĠAr bit +_D M +_key board +L Object +- webpack +ĠNew port +Ġprincipal Column +leg ant +Ġp allet +Ġfract ure +Ġg mail +.M eta +A bove +.Key Event +j it +_mac ro +_P USH +á» © +/ controller +åĬł è½½ +Ġsuperf icial +exter ity +Ġmens agem +W ind +ist on +.open api +и ÑĢов +ĠSerial izer +uct ive +Ġz ar +Pl aces +.St atic +B a +Ġin advert +ĠIndones ian +_IP V +(h orizontal +Ġget Title +ide press +ĠConsole Color +ip ers +$ out +Ġfest ive +Ġeven ings +.Get Data +uit ka +ĠManual s +uss ed +_M ax +.Ch at +ĠA ircraft += com +FO UND +ap ro +Ġtre asures +_al ive +Ġgad get +ek ing +Button Down +B rowsable +.PER MISSION +P ASSWORD +ĠH ASH +f é +\ TestCase +LO SS +o thers +, J +Ġassh ole +wer k +Ġm ã +. ie +ev il +kont akte +//////////////////////////////////////////////////////////////////////////////// Ċ += sys +ĉ lock +-- ;ĊĊ +_F UN +Fill Color +ó a +pre nd +Ġcompress or +M other +ĠAr cher +.g oto +Ġwür de +Ġbam boo +ï¼ İ +ĠT rees +Ġb umper +Ġsa usage +ĠEl asticsearch +Ġhor izontally +ĠG ul +Im mutable +Ġlos er +Ġabort ed +-d emo +ĠH atch +Ġund e +Ġprocess o +-c all +In come +å ĥ +_ returns +']." ' +(s w +C BS +am ilies +ĠYour self +ĠH olt +.M ON +à§ ĩ +ÑĪ Ðµ +an on +ĠFont Awesome +produ cer +j r +Ġm au +ĉint er +Ġdish onest +Ġmagn a +ĠCollect ive +Ġvra iment +Ġcho ix +st ay +Ġweld ing +r ising +, min +ĠF ate +g lob +RGB A +Ġdet te +V en +Ġembarrass ment +.DE LETE +greg ar +-re nder +(b ucket +"> ĊĊĊ +.wait Key +Bus y +Ġdifferent iation +ĠC ST +.Con stant +Ġline Number +(m atches +Ġweb socket +Ġbar red +Ġpued es +M ono +C ORE +I ID +ĠĠĠĠ čĊčĊ +Ġpúb lico +lean ing +Ġcleans ing +Ġcr is +ĠDev ils +_SET TING +unt ary +. );Ċ +Ċ ĠĠĠĊ +[ curr +ts y +ĠAlex is +rit el +Ġpet roleum +.pre processing +m atter +For Result +- license +Ġtrav ellers +ĠDispatch er +enn ifer +Ġdigest ive +P ED +hib ition +MAS ConstraintMaker +ĠW att +Ben ef +.set View +d to +TE E +ĠPel osi +_EX TRA +Ġmed als +x hr +fore cast +Ġn argin +oun s +-f ill +_CUR SOR +Ġsuperv ised +Ġtur f +ĠEd gar +POS ITION +Ġcategory Id +â ī +_ ER +á»§ a +Sh own +. ll +_POL ICY +(), ' +ĠPre v +ĠString Field +ĉG lobal +ass ed +Through out +o stringstream +.awt extra +Ġslo pes +ĠSe quential +Ġgi orn +Ġz elf +Ġvers atility +lene ck +.c gi +Ġdou bling +ĠBang kok +Ġbu urt +Ġusu ário +st udio +Ġje unes +Ġm uted +Ġ ips +_f raction +&& ( +Ġst unt +'); ?>čĊ +Ġev apor +b able +ĠPR ICE +Ġæ ³ +lu cent +Ġv amp +ĠTechn ician +Ġuniqu eness +M es +ur ban +.param etrize +ĠRe play +S essions +em br +-Americ ans +_PRO XY +Ġp ian +Ġtri e +ĠD estructor +Game State +ĠIM F +ch in +Ġport e +ĠSw al +åŁ İ +Sub string +im ing +/L ibrary +Ġfright ened +w rites +Ġrecurs os +ar Result +_INIT IALIZ +ĠBad ge +_c rc +E ight +ĠDIST INCT +Ġth ro +@ Xml +ĠLegend ary +-t witter +_e asy +Ġ+ ++ +(D ATA +.L ocale +Ġk ä +Ġn urt +Ġcr uis +_ ios +Ġsens ing +_L ine +Ċ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ +pon g +ole on +Ġwild card +ç͍æĪ· åIJį +Ġbeg ging +R od +ĠÃ İ +_C ELL +Research ers +. selector +_ ing +Ġaspir ing +Ġimm ortal +Ġy min +_ robot +Ġpl ur +B TC +ĠD ID +Ġpier cing +* u +_DEFIN ED +ĠTh i +ita ire +(m edia +- ons +Ġche fs +Ġ"* . +/ AP +Ġraz or +Ġsearch Data +Ġ= & +Ġ ãĢĤ +Ġm ourn +ting ham +Ġo li +ĠVern on +_R S +ŀ æĢ§ +Ġf ácil +ang en +cel ain +Ġa il +le st +ĠQ COMPARE +g ain +ĠÎ µ +ĠK ob +ĠF ault +_config s +ç»ĵ æŀľ +. + +cal ar +(color s +M ul +_ ART +Ġexperiment ing +erm en +ĠAng lo +.Fixed Single +Se a +Ġc txt +.s lider +C ollapse +G rey +Ġf ld +-pro of +.cap acity +get Parent +ĠCom pliance +Ġburg l +- rec +Ġover written +M U +Ġrout ers +ĉ Model +Ġfantas ies +av ian +_p rec +ĠSc andin +Ġ// < +/o ct +Ġceremon ies +Month s +und y +Ġqu ed +ĠN ou +ĠV ibr +.r gb +Ġcit rus +Ġbr aces +-upper case +get Table +Ġdop o +ĠK err +_CH ILD +- cloud +ĉ Matrix +Ġgard ening +S ing +al most +Require ments +ugu ay +( Property +sub scriber +FA ST +re action +(l p +) })Ċ +` ). +.w allet +_ex change +.Max imum +ĠVer b +âĶ ģ +() < +ï¼Ľ Ċ +RO T +C ARD +ub it +{ @ +_k el +ĠTool tip +My SQL +Main Activity +ar f +Ġm align +Ġse inen +ap ist +Ġ< % +Method Impl +M il +ĠM ick +.de pend +< ID +Ġpredict ive +ĠAP PLICATION +le f +dim ensions +Ġconoc er +/ conf +ĠTr acy +F oto +_rem aining += file +Ġpage Index +ĠPar ish +Ġt exas +ĠM AGIC +ĠH ew +d ifference +Ġalt ura +c um +ĉdata Type +Ġcaracter es +avi ours +ĠV OID +è¿ ij +P UBLIC +B io +ĠstringBy Appending +Parse Exception +ĠS uff +ĠN orton +/d etails +.n ull +>> & +ĉ ok +-l ow +. usuario +n ested +X B +OUR S +.Border Color +Ġb row +ĠÐ ķ +cor r +ĠRed skins +.get Tag +.get Transaction +Ġst igma +hard t +ĠPlayer Prefs +als y +uc son +L anguages +ĠOl ivia +Ġt ac +Ġb li +Ġc aval +Ġconsolid ated +Ġper il +Ġde le +Ġform ulated +Ġhigh ways +.sp awn +== $ +ĠN iet +Ġv eggies +yp o +-r ule +ĠV ie +/e pl +Ġenf ants +string Literal +Ġtou ghest +buy er +Ġcov ariance +Ġil i +ĠSoph ie +ĠB AB +Ġ" ), +ĠU k +current Index +_user data +.code c +ĠPun jab +ĠSN P +l ol +adv ance +Ġcom fy +Json Ignore +Ġfashion able +ĠI CON +Ġor a +ĠP ricing +< num +ĠI RC +ER V +ĠMe in +ĠID ictionary +AD OW +is New +ĠDev on +at l +(request Code +ĉ PreparedStatement +IM PORT +Ġmar ital +_SELECT ED +get Response +ar Down +B V +ib Name +ĠP ATCH +ä än +Ġda ar +ĠFile Mode +Ġm arty +.Spring Application +c ene +amp oline +get Size +Rest art +æķ Ī +.project s +ĠEthi opia +Ġstatus es +T ION +(b g +ĠX unit +Temp orary +ĠEng agement +Ġx f +Ġprox ies +Ġgen esis +Pager Adapter +ĠSl ave +Ġsung lasses +ĠCh loe +Ġko ji +ad em +ĉ JSONObject +Î ³ +Ġh ors +* w +ó r +es ch +Ġcritic ised +z ial +ĠSale m +.Vert ical +ĠR ash +> E +ter ing +/s creens +Ġheight ened +аÑĢ ÑĤ +Author ities +_b box +ün st +.font Size +ĠBO OLEAN +div ide +ĠSlo ven +uc er +Ù Ĵ +st ub +Ġnavig ating +: animated +_N OW +_v ect +} {Ċ +@ ( +Ġtele com +Ġcontract ing +ĠAss ange +Ġextract ing +Ġgr ö +c obra +.D IS +Ġcr ab +Ġtw itch +Ġvert s +Ġreject s +ĉ format +Ġreg eneration +.S ys +s olve +ĉd ialog +sh i +m eter +(b est +valid ators +Ġon wards +Ġg uru +Ġmoder ator +ow ied +ex periment +r ub +Ġm qtt +ĠCa ucas +Ġnational ism +Ġm ange +ĉ ImGui +/ Edit +Ġin h +Ġint ellig +ero kee +ĉ export +Ġdiscrim inate +sub tract +ĠM oodle +ens er +ĠGuid es +R AP +-h ot +_gr p +.p icture +X A +Ġinit View +_Com m +Ġoverd ose +Ġ+ ĊĊ +ĠSil ent +show s +Ġinterpol ate +Form ation +Ġb isc +mark ets +( SC +Z e +ĠNetwork ing +Ġad renal +ĠG uns +ete or +Decl ared +orget own +Ġk arena +/ password +_address es +ITER AL +B uzz +ĠCon way +(c ase +P WD +he iro +( act +** čĊ +());ĊĊ Ċ +Ġan v +Ġ. .ĊĊ +(Menu Item +(m ail +_section s +ĉ net +Ġpl ut +Ġw rench +/ object +ĠI st +ĠV IS +/p ub +al ten +Ġguit ars +Ġantibiot ic +ï¼ ĸ + ¹ +Ġ" +" +form ula +Ġbab es +ĠP rompt +Ġen im +/ player +ĉ ref +Ġby Äĩ +Ġconsum es +ĠH ast +ĠT ao +Ġ' ))Ċ +Ġcl am +Ġthigh s +Ġmot if +Api Operation +ĠW L +get C +ĉf lags +oint ments +Ġeconom ical +need le +x ls +pr actice +ut zer +time ofday +- output +Ġfind ById +ĠBudd y +Ðŀ ÑĤ +Se ven +ĠB ark +Ġenv oy +_al gorithm +åĪ © +Ġball istic +ç§ » +r ades +ĉd oc +rodu cing +ĠE ating +Un mount +/data Tables +_b onus +Ġl itt +pp s +) localObject +per f +ĠHel vetica +sh utdown +/ ml +.t okens +ĠHard core +, row +/b g +Sc aler +âĢĶ as +_log its +âĢĻ int +ĉ App +Imp licit +.F printf +ET O +Ġterr a +Ġpossess ing +.r strip +, ), += yes +ĠStr ipe +? = +ne utral +.g ood +Ġk ennen +ĠS ung +f ault +ystate change +Can adian +',' ".$ +ĠM its +æ nd +ĠSTR UCT +ĠURL WithString +ĠCom pass +Ġ-- ĊĊ +ĠNS LayoutConstraint +| min +-ad just +Ġreb uilt +L IGHT +/ se +-m ount +vp n +valid ated +(Q Object +Ġign ition +ĠCharg ers +RYPT O +]initWith Frame +ĠFl uid +Ġcad re +Ġnomin ations +Ne ill +ĠH ou +Ġcurrent s +_g ene +(in p +Par is +z ÄĻ +ag gregate +Ġass oc +weet ed +err at +âĢĵ ĊĊ +Ġ'/ ',Ċ +fix ture +ĠH ighest +amb ient +Ġch mod +Ġcon te +Ġsens ual +Ġgar ment +z ers +ĠPower ed +dom ains +R eward +i omanip +Ġcock pit +out file +Ġbuilt in +Ġins isting +. vars +zip code +Ġ ���� +f ails +Ġconsolid ation +_ oid +Plan et +Ġ= ", +ĉ el +UIL T +ät z +af ari +ĠMc Cl +Tim eline +Est a +Ġfr am +Y E +Ġcere bral +Of Month +ĠP regn +Ġкл аÑģÑģ +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ +ĠF res +Appro ved +.S pecial +ĠProtest ant +Ġallerg y +_p cm +ĉC opyright +Ġsuper Class +" strconv +ĠMoh amed +Ġ' // +Fore Color +Ar thur +ĠJ ungle +Ġve ins +S ad +Ġback ups +ĠOp inion +û t +Ġinter mitt +ody n +ĠChrist ina +Ġand re +Ġevac uation +pa lette +h orse +ĠRes ident +ĠHass an +.N il +Ġa isle +ĠG rowing +Ġblog info +/s ql +_io ctl +Sc aling +ĠMon ad +_c pp +ĠH utch +ĠApple WebKit +Exp ense +_J OB +Ġpoint less +From Body +ant al +Ġdepict ing +ĠC ELL +Ġref in +ĠC NC +ì¹ ĺ +_dim ensions +ĠS AN +Ġa ft +Ġfoot steps +cc oli +_PH ONE +/m ath +-k ind +ĠMe ans +ich ael +.g una +Ġinaug uration +-dr iving +( delete +Ġtotal Count +_M C +.Ext ension +Com mercial +Ġz Index +< Customer +" g +-sh are +Ġp act +ag ara +ĠS IL +_m odes +ĠM olecular +Ġsystem atically +< G +_s cr +ĠO ro +as ers +Ġb ic +Ġdest roys +PI PE +.Start Position +Ġc á»§a +ire z +.B unifu +_F unction +Ġs ü +_f uture +ĠWe alth +ĠNatur ally +æĢ » +_y es +Ġabrupt ly +String Encoding +ĠCGPoint Make +Ġz h +Ġimp erson +Ġpiv otal +ĠSom alia +Ġsegment ation +_AN AL +ĠLogin Component +Cons ult +Ġtr uncated +] ";Ċ +.get Config +Ġintern ship +B aby +ê° ľ +Ġstrengthen ed +_M I +b asket +Ġnicht s +ĠTV s +ĠSh an +ãĤ µ +rac use +.Re LU +/ interfaces +ĠgetItem Count +Ġret iring +Ġspecial s +Ġentity Manager +bel ief +Ġs older +da ughter +ij kl +Ġutil izes +.f ixed +S U +Ġdr astic +Ġh acks +gr und +ĠM U +ĠSt arter +.Com ponents +_m otor +Gold en +Ġl odge +Ġ )); +ĠCor inth +иÑĩ еÑģÑĤво +ón ico +gre SQL +ĠFl uent +Ġmar c +.Load Scene +.Group s +Ġer h +ĠAut umn +St opped +Ġitalian o +Ġmin ions +ĠAssert ions +Ġm ux +B u +Ġ---------------------------------------------------------------- -------------------------------- +ĉ up +read ystatechange +_M eta +Ġcurrent Date +ĠChap man +Und o +Se an +ap r +Ġpar m +_ icons +ĠSt a +á z +Ġsub division +Ġalter ing +P NG +ponent ial +Ġpost gres +ĠB DS +-ex istent +ĠBrad ford +ĠO MX +_W HITE +_PRO GRAM +q c +Ġtypings Slinky +ĠP ics +_M ETA +IT TER +_sub scription +IRON MENT +ĠHy undai +();ĊĊ ĊĊ +ĠØ ³ +Ġj ac +Ġelimin ates +) });Ċ +Ġcomp rend +ĉ insert +_f aces +"> $ +Ġeb ay +Ġcapt ive +pl iant +ĠCalcul ates +ol ta +est ing +_re vision +Ġm ús ++ m +"," "," +WH AT +Ġcompassion ate +h arga +[ random +Ġmod ulo +(s n +Ġoccup ations +//// Ċ +ĉ board +ĠB alk +wi Äħ +ĠW ifi +.Pro file +:m aj +ĉm at +LOCK S +(j Button +Ġ(' $ +M ur +æĮ ī +b ble +Ġf rog +-h ide +Ġbroad caster +ภŀ +ha led +Ġam using +_predict ions +_in tr +Ġe agle +аÑĤ елÑĮ +Ġget List +ps ilon +Ġcharacter ization +AR DS +Ġre location +Ġr ulers +P AY +ĠDef initely +_A ction +Ġclos ures +Ġfact ual +odyn amic +Ġpreca utions +nie j +ĠPart ies +ĠSub aru +Ġcous ins +ar beit +.m oney +gun ta +( and +get item +.Style Priority +Ġsl id +single ton +Ġg arn +ĠP AS +Ġd azz +a ż +Ġbog us +ĠM og +Ġrival ry +is ol +Ġland marks +ñ as +B ern +ĠSach s +Ġ" )ĊĊ +Ġhost ility +_m ex +m ere +M ot +p ictureBox +Def ense +Ġaffid avit +other wise +.d irectory +_ UnityEngine +-b log +.s kin +ph em +Ap ellido +er chant +[ class +Ġw art +." [ +ale ur +/ back +ĠĠĠĠ ĉĠĠĠ +Ġprecip itation +Ġob struction +Ġp Obj +Ġr upt +UCK ET +ay e +æİ Ĵ +g x +Ġe cl +Ġsecre cy +/ Header +ĠLes b +Ġle i +ĠBullet in +Ġgive away +.H ome +_RO OM +" W +Ġcow ork +_ ra +ĠC ycling +ĠP aw +Ġpup il +/ arch +ĠFile Utils +é¦ ĸ +r sp +Ġfreed oms +ĠL ear +}` ). +Ġbow ls +/b lock +_log ging +Ġmeth ane +Ġhorn s +Ġwonder fully +Ġalter ations +Ġex ile +ls en +_p ause +_L ANGUAGE +ĠUS DA +_m ysql +_AM OUNT +ĠL IFE +Ġyoung sters +Ġri ots +[ E +Ġun forgettable +, },Ċ +Dis posed +ĠAss assin +UN G +ĠNew sp +User Service +: aload ++ ', +Ġsett lers +Ġscre ams +Ġincon venience +.R otate +Ġj ars +ĠP uzzle +Ġm est +ars i +ĠSh arma +| ( +.d s +ĠSac red +_e vt +Ġexpress es +Ġh och +ĠD uch +.c alls +th r +ĠShe ffield +.Alert Dialog +Ġrad ically +Ġtr ous +Ġprev ailing +ĠWW II +âĢĻ n +ens ely +ĠY esterday +ĠSir ius +Ġkill ers +ĠF FT +Ġo val +') :čĊ +Ġìłķ ë³´ +our age +ĠCheck box +Work book +.def er +_f loor +Ġc ouncill +Ġnors ke +mo il +ore a +Ġmarket ed +_S UR +x AA +Ġst ained +e ut +ĠM eng +Ġi eee +. extern +eg ie +Ġr app +ĠPy ongyang +' class +M ob +Ġinitial Value +_w ave +Ġj ab +Ġmascul ine +Ġampl ifier +Ġt ty +Path Component +_ xt +ĠG FP +/ sec +ĉdis patch +mark down +ĠS chn +bo le +· · +mouse move +Ġerr Msg +Ġas ign +_m ono +To Selector +ĠZ u +(R ect +ĠError Code +lat in +ang ible +v tk +CG Size +P okemon +Ġclass mates +Ġattract s +ĠT atto +ult an +ol óg +Ġhalt ed +ठ¨ +ĠK art +Ġ ue +_Init Structure +Test Class +ĠAir bnb +_ ", +Ġchar coal +Ġip c +ĠSt retch +.g lide +lates AutoresizingMaskIntoConstraints +Ġpot ion +ITT LE +Ġcount ert +_h d +pre pared +Ad s +ĠV ampire +rob ots +.Create Index +Status Label +Ġt ucked +af ür +U t +Ġswe ater +_F N +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĉ +ata ka +Ġeyeb rows +ac oes +ud en +.LinearLayout Manager +Ġsw ay +Ġmult in +() )))Ċ +ĠNS UInteger +ĠMy Base +Part ner +uts chen +ĠC ater +.setBackground Color +Ġaccompl ishment +_pro blem +.d td +Ġpage Number +Ġj ackets +Ġcro pped +u els +ĠH ep +Ġc apped +* Math +_callback s +Ġpub b +ĠBrun swick +.res pond +[" _ +Ġbed ding +hyth m +O X +(s peed +Ġpestic ides +Ġ---- --- +.Bl ue +Ġnood les +ĠGo es +Ġs aver +o xy +_com pletion +ĠSw inger +Ġget Date +Ġmind ed +int egration +ĠLot us +(st op +(', ');Ċ +Ġflood s +ĠWork flow +Ġerupt ed +Mac ro +ĠSau ce +Ġevent Name +\ Input +Break ing +ĉ when +_p w +IND ER +ĠWell ness +Ġvox el +ĠM ell +ĠM EDIA +SE NS +ĠFund s +ĠM ild +< Array +- this +ump ed +/f w +ĠDb Context +W I +girl s +H OW +'); ?>Ċ +Ġtempt ing +Ġtest ament +Ġb ible +Ġconsult ed +ĠIndex Error +è¨ ĺ +Ġkey pad +izz o +( ok +Ġwhats app +ĠRemote Exception +Ġteam ed +âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ +» , +Ġget Time +di ag +iss y +Ġh ed +Ġkn ots +j om +Ġfun nel +-m ails +Ġexport ing +ĠV L +ĠK arn +ĠBuddh ism +ĠAll an +_R ADIUS +Ġw ording +ĠFor get +ĠCor ona +ip hy +Ġlim burg +ugg y +ĠUser Repository +im in +(e le +Ġlabel led +ç¤ ¾ +ĠH erman +.q q +Ġ" ));Ċ +ie ber +.Trans late +ry n +Ġdes env +um d +Sim ply +ĉm ode +R pc +ĠVal encia +Ġstaff ers +Ġsel v +ĠSpi ke +Ġdel ic +Ġer u +_D T +J udge +á» ķ +ĠBas in +.m utable +" url +Ġtar iff +ĠSlee ve +Ġfl are +.drop out +Ġbr ides +)) ,čĊ +_con straints +de struct +Out line +Ġdisappe ars +_lock ed +ĠNS LocalizedString +ck e +ĉ null +ad resse +Ġto pping +ĠJ oker +b ishop +но ÑģÑĤÑĮ +and ering +_ amp += time +_S pace +_P ULL +' = +Ġant iqu +Ġc ach +___ ĊĊ +ON ES +о Ñı +Ġun read +.p olicy +oooo oooo +ëŁ ¬ +Ġu sted +ĠRe ce +Ġal lem +ãĥ¼ ãĤ¹ +ĠThought s +ve illance +istr ate +_l ane +Ġfam ed +.Get Name +Ġsmo other +ĠQual ified +az ers +_ geo +F ax +ĠM inds +ĠR aises +Ġtrans cripts +Con versation +Ġremark ed +ëĤ ĺ +d ling +Ġdeploy ing +Ġshared Application +Ġk p +FontAwesome Icon +_d ummy +reib en +ĠJane iro +Direction s +.get Bean +s ass +Ġcommand ers +v ation +error Code +ĠAl loy +.local ized +Ð ij +Ġdish washer +ĠSou p +N u +_D efault +Ġune ven +Ġ/> ";Ċ +-B ased +Ġseam lessly +- null +ĠX C +Ġst ew +(d elay +AT ORS +ĠWhe eler +" H +e ast +. air +âĢľ But +Object Context +success fully +_l and +Ġfold s +_CO ORD +Ġsub po +.get Address +in str +Material s +Ñĥ ÑģÑĤ +de posit +-l ast +_GR AY += find +Ġmut ant +Ġlesb ienne +let cher +RO UGH +ure ka +.c apture +Ġen n +Ġ([ [ +ĠFl u +Ġtask Id +ĠHus sein +.f older +Ġa usterity +ISTR ATION +_ Impl +注 æĦı +Ġdec ree +- chat +Ġimp lication +Ġguess es +ul kan +An alytics +. plus +COM MAND +е ли +» ĊĊ +_S ITE +Ġequal To +Support FragmentManager +ĠRec ording +å®Į æĪIJ +Ġbag gage +Ġpitch ers +ĠE h +o que +ĉc nt +Ġ=> $ +/ foo +IR A +ĠSat ellite +bor ah +Ġ}} "Ċ +ĠEnd s +ĠSpr ay +, param +.Ch rome +* q +th ought +ibr ated +Ġth ieves +Ġbenefici aries +Enter ed +ottes ville +Ġveter in +By ID +qu ipe +um ption +- unit +Execution Context +@ s +ĠG iov +.Tool Tip +_f riend +( attributes +Ġdump ing +ĠJ C +_D OCUMENT +ĠArm our +( insert +.Horizontal Alignment +ĠQ ed +ãģĦ ãģ¾ãģĻ +/g it +ĠY YYY +ĠCard iff +Ġap a +organ ic +ĠWhere as +Ġæ Ŀ +ĠM ia +Ġdemol ition +Ġsc ars +Ġp ai +Ġre tries +Ġr q +ĠDen is +( Utils +Ġallev iate +ĠP IC +id ue +Ġacknowled ging +Ġ// //////////////////////////////// +ç¡® å®ļ +Ä « +\ Json +.b inary +Ġx type +sign als +ĠAp pearance +& r +} s +C i +ĠI llum +por ate +h og +Ġindex Of +\ Command +_par allel +ĠSher lock +í ĥ +Ġ" ")čĊ +//////////////////////////////////////////////////////////////// //////////////////////////////// +Ġcritic ize +ĠSo ap +ĠMatch er +Ġgr illed +* T +Ġad ore +ull ing +Ġjed och +_ref s +lean up +ĠJ AXB +Ġro ses +ĠL iam +size i +Ġget char +Ġtar de +-to oltip +Ġqual ifier +ĠInter mediate +_W indow +ĠMal ta +Dis connect +ew here +Camp o +Ġirr ational +led o +ĠD N +ARG V +Ġout ro +Ġth irteen +Jose ph +M AR +/g l +J ess +ĠPsych iat +Ġpadding Bottom +- loop +/ fonts +_se en +Te ams +React DOM +(m an +(x path +.get SimpleName +>( * +ĠP vt +Ġel ders +Ġp ies +.user Agent +- region +ĠGree ks +(f ragment +st u +Ġcouncil s +Ġst amina +ĠGod dess +è ¥¿ +Ġphilosoph ers +Ġpers one +ĠL ose +ĠCL R +ĠD ocs +Ġso ak +ĠHOLD ER +Ġb ells +hash Code +R ATE +_WE IGHT +in ous +end ra +oph obic +Ġpro se +Ġfin ely +/o auth +(s pace +ad ge +ĠM ama +Ġstring Buffer +Ġst int +Ġmis ma +Ġvill ains +ĠCrime a +Ġdipl oma +Ġпо Ñģл +ĠBe a +(j oin +Ġíķ ´ +CH AT +per ing +ĠC ros +Ġmon keys +Ġpred s +yl a +,, , +Ġvibr ator +ĠN U +åħ Ī +f ant +z et +Ġb ietet +un ft +sw orth +.F low +Ġpsy ched +ĠContin ental +> t +Ġqu ilt +. UP +Ġexpans ive +Dis pose +(l anguage +C aps +_Z ONE +Ġrec ycle +ĠMan aged +current Color +.b roadcast +sign In +.p rom +ll u +ue blo +Ġpunch es +Ġautom at +Ġassign ing +Ġcreate User +ĠAll ied +Ġconduct or +Ĥ ¨ +Ġs addle +Ġd ni +omed ical +-W est +Positive Button +Ġit alic +? [ +(tr igger +Ġele phants +":" "," +Ġcal iber +raft ed +d igits +Ġmar shal +mill iseconds +mark ers +m om +/ place +Ġhol istic +: t +# , +Ġb oto +Ġnause a +ĠSh ooting +ite ch +Ġtext Status +< Class +ĠDes cribe +Ġbuff et +g il +Ġlog its +std call +mod s +ĠSk ull +ĠB are +h ope +ĠIn tr +F air +ĉ pt +Ġacompan h +Ġf kk +_r pc +Inst alled +_ ans +.get Minutes +â̦ "ĊĊ +- thread +Ġpres chool +AIL S +Ġdiff ic +( convert +ĠN ath +ĠDO J +Ġreg imes +Ġenthusi ast +Ġwarrant ies +Ġfasc inated +_b inding +_N ot +oft en +_R W +/m ail +Ġtitle Label +Ġvill agers +ĠJ iang +Ġsw agger +.Row Index +_img s +rap y +VER AGE +. Up +Ġno op +c io +ĉ ST +Ġdecre ment +Ġmagn esium +_ rotate +S it +Ġnieu we +Ġter med +íķ ©ëĭĪëĭ¤ +Ġur g +_t ouch +Ġsw arm +Ġcl ave +th est +ĠL af +H X +ĠH ulk +Ġplaint ext +ĠSof a +get Session +L ed +Ġecosystem s +he i +ĠK ills +Ġhus bands +Ñħ ÑĢан +(d om +_t iles +Nib Name +Ġdon ating +. acc +Ġlifes pan +.b n +_RG CTX +æ ¥ +ans en +Ġmod elling +Layout Params +ĠonChange Text +rs a +- location +.P e +(b us +(s ong +Ġprodu k +ĠSH OULD +ĠC J +Ġs os +ĠHome Controller +.load ed +(D ocument +.s ocial +t iles +Ġl ame += df +.parse Long +Ġpr ac +Ġdet ox +ĠV E +Ġpunt os +Ġdo ctr +Ġan cor +CA PE +Ġc mb +çĦ ¶ +*) " +:// / +Value Type +Ġmort gages +; q +ĠRock ets +s port +UG C +ct s +ãĤ ģ +ie ur +ĠAppe al +(n b +//////////////////////////////////////////////// //////// +IM ATION +ĠC res +ĠMan ip +C ause +at ypes +man ufacturer +# ---------------------------------------------------------------------------- +Ġsp or +es on +Ġpun ched +Ġbook marks +ĠBul k +Complete Listener +ĠTalk ing +ĠEr nest +Ġrub bish +k ills +ĠDE FIN +Ġneighbour ing +ar lo +ĠP CA +ĉm atrix +lo k +Ġat las +ĠG ur +Ġw yn +-n egative +Ġt ul +Ġre lic +ĠV oltage +ĠPre is +ĠJ NICALL +ĠPM ID +ak et +ĉ attr +Ġet iqu +ĠM J +ĠG mail +cl r +_exec ution +éĶ ® +pos itor +. af +N r +Ge orgia +Top ology +Ġperch é +Ġmus lim +Ġepid emi +Ġsab ot +act us +Ġë ĮĢ +ĠIO Error +. est +p refs +ĠKr ish +.Read Key +NAS A +u ção +_D b +umer ator +W ide +(st atement +.end point +.... ..... +Ġ[ * +stream s +m time +P x +at r +Ġt pl +R oman +Ġscen ic +.n z +ĠSe conds +sub menu +Ġìĭ ¤í +_b undle +Ġde ÄŁ +ĠS isters +pre ferences +Ġport a +Ad visor +max Length +ĠG REAT +__ (Ċ +ole st +ĠLabel s +Ġen fer +ĠĠĠĠĠĠ ĊĊ +ĠThe ft +_F ILL +ĠW ise +) application +un ami +> ())Ċ +ADD RESS +B ST +et zt +ĠQ gs +S ense +Exception Handler +ĠCh u +.get OwnProperty +Ġexerc ised +iot ic +ĠRe leases +Ġp interest +ol ie +is oft +Ġsequ encing +Ġpad re +] ));čĊ +(r adius +.m ed +aint ies +.Object Model +Ġem ple +Ġseg uro +St ars +Ġqual itative +lem n +á» ± +> "). +Ġg x +-c ert +ĠAST M +Ġfull name +Ġte lemetry +ĠCamb odia +_ ul +ĠCl are +C USTOM +Q C +ĠUn s +ĠHTTP S +ĠPark inson +ancy box +',' . +T ue +.get Last +Ġab i +Äħ d +A st +ĠEd iting +.Un ity +j mp +Ġm ats +Ġshared Preferences +Capt ain +.page Size +Ġr tl +Ġan meld +Runtime Object +Ġdemand e +(" ; +se ite +-head ed +ĠK ra +ĠF ONT +` \ +Class NotFoundException +. avg +atic al +A j +Ġpermit ting +Pro j +ERR Q +Ġcre ampie +ĠBuy er +-mod ules +ĠSund ays +| `Ċ +Ġday time +Ġ+ ( +Ġgl itch +ĠOper and +Ġtox ins +iny a +D NS +ĠS as +C ake +ĠNation als +.add To +Ġs inking +Ġcompreh ension +Ġsc or +ag ements +Ġt ard +Ġmarch ing +ĠM TV +Ġs ane +Create Info +Ạ¯ +Ġend Index +ĉ layout +ĠåIJ į +S ITE +ĠT HERE +Ġ[ {' +opath ic +Ġtrans mitter +/ body +Ġp und +ĠC losing +Ġset attr +Ġbound ed +At las +sum ing +(t imes +par er +yn om +fe it +Ġf rem +- leg +ĠBr as +> # +Ġì¶ ľëł¥ +ĠIN STANCE +ĠC ouch +_host s +lik elihood +.M arker +ĠM asks +Ġcere al +util ities +Ġelement al +Ġdist orted +in active +c ry +W L +UPPORT ED +.Th rows +/s chema +ser ie +." ', +ĠBened ict +-p icker +ig gs +ĠPir ate +åij¨ æľŁ +ĠTh ema +ĠSouth ampton +Ġarray With +ĠPaul a +Ġpredict or +- Ass +.user id +Ġper i +Ġexagger ated +ur ate +arse ille +ĠCon cent +ĠP ik +Ġ@ _;ĊĊ +Ġform ations +Ġden omin +"/> .Ċ +ended or +Ġpan cre +Ġam t +Ġon Resume +on Delete +ĠB CH +) (" +m ovement +Ġpot assium + čĊčĊ +ĠMah m +} ";ĊĊ +Ġd q +ĠPublish ers +ĠAm pl +ĠDani elle +Ġt ern +èµ · +no ÅĽÄĩ +e in +ĠAsync Storage +un ger +rou w +Ġsc issors +/ assert +.b ucket +/ archive +_M an +Ġint oler +Ġ() => +ĠÐĴ Ñĭ +Ġsa i +.x y +." čĊ +Ġur inary +es ub +IST ICS +ĠÎ º +Ġcompl iments +Ġtypings Japgolly +ih ar +Exp ansion +ĠS erving +_st udents +ĠX BOOLE +( il +Ġì² ĺ +Ġj ó +(t ol +( JS +ĉC G +ĠD RAW +tw ig +Ġo at +_sm ooth +ĠC SL +Ġos ob +Ġens uing +Ġbank er +ĠBack pack +_p ing +Ġwish list += ax +ĉĠĠĠ Ċ +Dis ney +stead y +"> % +Ġproph ets +ĠZ X +Ġminimal ist +.PL AIN +Se attle +. ordinal +ĠPI PE +Ġret orna +Ġjug ador +ĠB ret +ĠâĶ ľ +Ġpl ush +UL ATOR +Sort ing +.grid y +ect omy +_ activ +r ack +Inter active +ĠAntar ctica +Ġv engeance +en so +_k nown +up plier +.Mod ules +ĠConnection State +éļ IJèĹı +@ FindBy +Ġpl acer +\ model +< ()> +.is Successful +-g ood +b z +ĠDr aco +Ass istant +-ex tra +аб лиÑĨ +Ġhyp ocrisy +Ġt st +ĠA gr +$ txt +Ġlog istic +lic ensed +ĠH of +Ġt at +( iv +Ġinto xic +post Id +_st rike +Ġhum iliation +pc odes +" sync +(rec ipe ++ N +rent e +ĉ Client +ycop g +ĠZur ich +ĠPro files +C ountries +Ġp ict +Ġroll out +requ encies +Ġpatch ed +Ġcar tridges +Ġsh ading +J ar +Ġsalv age +ĠTax es +Ġstand by +apor an +E igen +. angular +ĠN ested +äº « +Ġis Visible +ĠDw ight +_BR ANCH +.D elay +Ġk end +Ġfacilit ated +.flat Map +Ġs anta +ĉS end +/m essages +Ġof Type +ĉs wap +# plt +ĠTur ks +N ES +Ġprogress ively +ĠRes idence +ĠT REE +Ġno en +d io +Ġn elle +Ġsog ar +itt i +week ly +Ġambigu ity +_Set tings +W are +.ne o +_D ST +Ġæĸ ¹ +pre p +lob by +@ email +/m ovie +Ġfun kc +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ Ċ +ÂŃ s +Ġguard ians +- pos +Ġconfig uring +ĠC PS +ĠDe us +Ġvidé os +_ empresa +Ġsl apped +< Model +Ġunders cores +U h +.access Token +SET S +ĠS parse +ĠCal d +: path +ĠS ervers += batch +Ġkn itting +Ġx a +Ġsearch Bar +Ġsn ag +Ġinf used +.b am +le ver +Ġtax onomy +Ã İ +Ġatt aching +Ġh ern +_N OP +Click able +(P arse +ĠDynam o +-b uilder +Ġdere g +Ġsc attering +è¿Ľ è¡Į +an zi +ĠShe pard +"> ',Ċ +_X DECREF +ĠBuzz Feed +_M ARGIN +P LOY +.sm all +Ġm imeType +Ġh olog +ĉc amera +li as +Ġsusp ense +ody nam +b au +Ġgrave yard +_n amed +":" ' +Ġ******************************** **************** +Ġgame Over +ĠLENG TH +ĉs creen +Ġdo InBackground +_depend encies +Ġr tc +/ up +_ ROM +H all +Ġdef iciencies +( te +' # +_e quiv +Ġpre order +ĠA xe +ом Ñĥ +.send File +Ġfil t +ĠLim its +ĠCaval iers +.dis count +âĨ IJ +ĠW it +QRST UV +Ġi j +Ġt egen +Ġ: ", +diff iculty +p unkt +ĠEmail s +ch lor +(f un +.U int +ĠSt all +_ verified +u D +File Type +Ġple asures +Ġjud iciary +Ġsh am +ip ur +_PL US +off ers +( foo +_G T +ĉc ore +ENT ION +ĠLib eration +Command Line +_de partment +.A r +_ne ighbor +ĠSub mitted +ĠĊ +Ġdro its +Ġhomosexual s +Ġab duction +ĉw idget +$ headers +ĠD AR +Ġfl a +th reat +Ġlou is +.Get Property +" Just +(f rames +ry o +prof ession +| i +íķ´ ìĦľ +(s v +Ġun recognized +I onic +F ashion +Screen State +ĠIn coming +Not Nil +Ġsync ing +em ie +Ġtherm o +_pro cs +Ġincons istency +rel igious +.m j +Ġperson n +Ġmoment os +or arily +Ġæ Ĭ +_ne urons +Ill ustr +im oto +il ik +ĠW oj +Tr ading +Ġapp are +Ġentre prises +ach at +Ġ ¬ +Ġne igh +BUTTON DOWN +ĠMah er +ag han +-h ash +" f +Ġclient ele +.add Button +ĉ SP +Q i +Ġgr ated +POS ITE +: > +ĠHow ell +ĠCompar ative +ĠIS C +ÂŃ i +O cean +D avis +ĠFil me +W ins +ĠJ IT +oc cer +ĠC orm +ENCH MARK +rch ive +ica ção +Ġm ata +Ġchild birth +ĠOption ally +En s +Ġx http +Ġel ucid +_Osc InitStruct +)) ):Ċ +Ġint uit +ĠDon ate +Ġcorrel ates +> Delete +Ġequ ipe +Ġb oca +Ġinfl atable +er ah +ĠDateTime Kind +Ġcal ves +\ Lib +Ġem lrt +ĠTr ilogy +ĠP anc +ĠD uis +ĠpelÃŃcul a +WAR DS +_DE TECT +-section al +dh cp +For Row +-de struct +ĠPres enter +/s lick +, on +ĠCit adel +logged in +_sub type +Ġsig ue +Ġc uring +ĠFire wall +Ġfluores cence +ĠItal ians +иÑĤ ÑģÑı +.get Style +In Seconds +j ie +-S mith +Ġx link +Ġsub missive +он ÑĤ +arbon ate +ĠF aul +_go als +ĠCommission ers +chart Instance +_POST FIELDS +Ġmed ial +Ġman os +Ġdel t +sv m +.Ap is +ep hy +Ġasym pt +Ġapp Delegate +Ġimpro bable +ck a +sim d +/ Error +. âĢĵ +ĠP TS +de er +Ġs ina +m agnitude +ID ADE +'] }' +Ġmay ores +ĉ comment +/ console +" @ +v olt +.s ell +ĠM acy +Ġmel od +Ġim ágenes +_ch g +Ġin out +ident e +) '),Ċ +d ni +.b lob +Ġtyp ography +Ġe erie +_O ID +pes an +aj an +Ġch opping +Ġbl uff +ad f +_b ases +.Form atter +Ġ\ % +ĠPage Info +Car rier +ĠCal ibration +com o +-b odied +Ġfinanc ier +ĠIN A +. ERR +Ġhood ie +ĠSan ity +gu arded +.opend aylight +ISM ATCH +High lights +ün k +ani em +anger ed +assign ments +Ġregistr ado +ĠU PPER +ampil kan +ash ire +ĠNik ola +ĠC FL +ĠH DC +Ġp oids +ĠIP s +Ġprevent ative +ips oid +if ix +.c amel +.g a +V olumes +- ste +Y ahoo +_s ibling +H ighest +opt group +Ġkvin na +âĢĿ ãĢĤĊĊ +ĠAppl iances +Ġ" >< +') ")Ċ +ht t +ĠIdent ified +Ġpenc ils +Ġmember Id +Ġappend String +.load Data +Ġmock Mvc +Ġj ub +ĠSl ut +ĠTai pei +st att +Pol it +Ġpart ager +Did Change +Incre ases +) }. +ĠB aba +_CL IP +[ unit +Ġк лÑİÑĩ +Ġalc uni +ĠL ola +Ġcl inging +@ PostMapping +(con cat +Ġss id +ĠFa uc +ok it +ĠRecord ed +á lez +($ ('< +.assertIs Not +Ġk ali +V olt +Ġwarm ly +Ġsca res +get ti +füh rt +_d oes +. EMAIL +im ations +Ġspring fox +ĠDec om +arc y +Ġgl itches +ĠM off +ĠV oll +.b etween +Ġcoord en +ĠPart icularly +GB P +Ġsem ble +East ern +_M SB +]) {čĊ +m organ +ĠE VAL +d ere +HO USE +mo ire +ist ique +_l stm +-com mit +yster ious +Ġtw ink +-th umbnails +en ÃŃ +:' ', +Ġblack out +ĠFlo ors +Ġso fas +Ġou i +lesh oot +ĠRa q +- abs +Ġk ra +M ining +sha ft +.set Columns +Cl azz +PRE TTY +.play list +éĸ ¢ +-Sah aran +M ING +ĉ bl +è® ® +j f +DO CKER +hope fully +( ignore +ĠUsers Controller +ĠMitar beiter +ĠL ES +Ham ilton +-m etadata +ĠK K +ikt ig +Ġwoll te +egr ator +] bool +, current +Ġvalue Type +Ġexcav ation +ol and +Ġv erv +/file path +Auth Provider +Ġpro crast +ĉ ULONG +_MEM BERS +Ġup lift +ĠAut onomous +Ġart works +ĠOut reach +Ġp ore +Home page +Dialog Title +ĠGener ating +PAR SE +Ġsem anas +Ġhuman o +JSGlobal Scope +Ġvol te +Ġb ella +(is instance +Ġpl c +\C atalog +Ġeste emed +éĽ · +(s uffix +Ġswe eps +ĉ ORDER +Ġdo ivent +ĠSw arm +ĠComp iled +get Page +AD R +.R ichTextBox +ĠN aming +ag ged +ĠG ANG +r asing +ode led +Ġg ala +ĠJS Name +dd f +Ġill ust +ĠLans ing +[ port +-de ath +Ġdin heiro +ĠE ighth +Ġb ian +st Ã¥ +Ġvers ión +ĠLinear Gradient +ĠHard ing +. *) +ec zy +$ header +Ġv Ã¥r +Un checked +Ġko je +ĠPal adin +() )), +G iving +() })Ċ +Ġd ips +F riendly +Ġport rays +Ġhel ium +Ġinsurg ency +_ex piry +ĠstringByAppending String +Ġa antal +s lope +m ast +.get Integer +Ġ################ ######## +_PIPE LINE +Ġdens ely +Ġmut ating +m idi +ĠSe it +ay ne +NOW LED +ĠDes mond +ĠF Name +ĠN airobi +\ Context +Ġcalc ular +-d en +Ġc ott +] ):čĊ +ĠRecommend ation +ĠRole x +Ġvalidation Result +.p at +Ġn Ãły +ĠRest Client +ĠG PI +ĠAshe ville +ĠO SP +ĠPER MISSION +ÐĶ Ð°ÑĤа +/ notification +K night +_W ord +ĠB ender +rank ing +Ġpart ida +_res ervation +Ì Ģ +Ġm Name +Ġget ch +Ġb orr +Ġdilig ent +Disc uss +æŃ£ åľ¨ +ape ake +ion ed +-N azi +.c um +ĠK ron +=$ ('# +/s ingle +Ġerot isch +ĠV ib +Ġrat ified +Ġconcert ed +ĠREG ARD +Ġdo br +.Driver Manager +' r +Port able +ĉs uite +Ġrel aciones +ĠD op +emplo i +DO B +Ġcr umbs +Ġx ls +_App lication +(': ', +Ġ---------------------------------------------------------------- --------Ċ +m se +Ġber k +ĠReturn Value +ĠBel ly +Ġcam ar +ĠPe ek +els ing +Ġnot ifies +ĠTr istan +ĠG AR +em me +ĠElev ated +_C SV +(ch alk +Ġtw enties +ĠSearch Result += search +ĠMix ing +ý t +Ġrecru iter +ĠIDE OGRAPH +ĠA go +( Operation +$ values +Ġworld ly +ĠRosen berg +ĠConfigure Services +>* Ċ +Ġsn ork +_op acity +ĠinitWith NibName +i ado +A AC +Ġ] ). +; z +_par agraph +Ġnos es +stand s +if r +_m E +I raq +.P redicate +ena ire +]] ];Ċ +Ġun idad +Ġretire es +_h ello +Ġmode le +ĠUIT ableViewController +f write +_num ero +_vis ited +Ġrece be +( Notification +Fant astic +_sub menu +ĠP EM +ĠCup ertino +approx imately +class ed +.Read String +Ġdomic ile +_P W +Ġball park +ĠK ale +con tra +_f avorite +/ of +Qu ite +ĠOT A +Ġacceler ometer +did n +| ^ +ĠRohing ya +ivic rm +ann abin +обÑĭ ÑĤи +or ado +') + +Ha unted +, ID +( UIAlertAction +ur v +_b el +ĠMex icans +/ terms +ĠPaint er +Input Label +ĠV inci +ĠRos ie +\ uc +< Menu +Ġcool ant +(current User +_d ual +) "},Ċ +& p +Ġconver ged +Ġrestr ain +ĠYugosl avia += target +Ġimp uls +ds a +Search Tree +Ġh box +ĠImp ress +§ Ãĥ +get FullYear +(d a +ĠY YS +.al ignment +.Get Text +.token ize +ĠOlymp us +Ġmur ky +ore station +Ġdiss atisfaction +ĉT Array +_ kses +.Add Singleton +ĠStart Time +Ġfan atic +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĉ +Ġentity Type +. override +Ġ ------------- +ĠDat agram +f out +(with Id +Ġ# __ +Ł èĥ½ +ek yll +.f riends +ame leon +Ġz ach +.simple Button +ret orno +Ġkon k +/s mall +ĠQuick ly +un read +Don ate +Detail View +Ġdu a +Ġpenetr ated +OM UX +Ġn ir +_p data +"], [" +Ġlow es +Ġdop ing +Ġas ymmetric +Ġneed less +our cem +Ġup ro +ĠGu zzle +af b +Ġsext reffen +-c ollar +Ġcol ossal +Mon key +n ish +Ġhandle Message +Incre ased +* dx +ĠChatt anooga +f org +ĠOr den +Ġsh ri +ĠV and +Ġ" @" +Image Sharp +ĠWild cats +pon ible +.sc enes +Ġpaint ers +ĠPf izer +ĠZ ah +To Local +ĠFl am +Ġé taient +)) ^ +ĠSand box +ĠTR ADE +Ġchrom ium +Ġac claim +Ġpac man +´ t +) reader +M ari +.Dispatch er +.A DMIN +ĠRem ed +Sw eden +Ġoverl ays +. er +Ġp ang +Ġclean ly +aven port +Toy ota +patch es +Ġv tx +ĠE is +cl ado +ĠR itch +RO LS +Ġh ade +Ġconspic uous +Ġdo cks +(j q +ĠPrem iership +ĠBe z +ĠâĦ ĸ +ĠÑĥ Ñģл +_tot als +Ġprov a +ĠC ue +Ġsa úde +ĠGame Controller +IM IZE +, port +ãĢĤ ( +.C decl +Instant iationException +Ġcoll age +ĠIO C +Ġb ais +Ġon Finish +-st ars +set Size +Ġmog ul +Ġdis illusion +Ġche vy +(S chedulers +( IR +_loc s +Ġcann ons +Ġcancell ing +/b us +Ġbuf io +ĠY ours +ĠPik achu +Ġter me +r Ã¥ +f ahren +Ġowner Id +Ġoblig atory +Ġcul p +Ġacid ity +-m ult +ĠBam boo +Ġ' "> +_g s +Ġcomp il +n ard +-ex c +Ġrh yme +Ġbut to +s ays +ant asy +ë ¸ +Ġcitt Ãł +Ġche g +Time String +Ġpos itivity +ĠD abei +Ġw ang +Ġes cre +" c +ĉv ideo +ĠRank ed +.str ings +>> >( +Ġин ÑĤеÑĢ +Ġrest a +[: ,: +Ġrend re +Ġdes er +J os +Ġdis ruptions +Ġоп еÑĢ +s ampling +sup press +Ġcontainer View +ĠSeam less +Ġair y +Ġon load +.Window Manager +ĠPL A +br aco +.set PositiveButton +Ġp du +Ġg si +ĠC li +_gr adients +Ñı д +ĠWh isper +c stdint +Ġl äng +Ġform ulations +én om +ourn emouth +[$ _ +Ġordin arily +.set Username +Ġfacult ies +MIT TED +/ values +Ġwe ir +ĠA pt +M Z +ĉc f +uck en +ĉĉĉĉĉĉĉĉ ĉĉĉĉĉĉĉĉĉĉĉĉ +def ense +[i Var +ĠBusiness Exception +Select ors +(co ordinates +ĠRes ets +ĠDr inks +ole ans +(st ypy +_IO C +.x xx +ĠSl ater +ĠBel ize +Ġ/ ************************************************************************ +add in +_ep isodes +Ġis chem +legal ArgumentException +D anny +Ġp ared +.code haus +ĠAss y +ĉ Rect +â ŀ +.list a +Ġв аÑĪ +Ġv ets +HW ND +ison er +Ġx o +Ġor ally +ĠSt mt +.r nn +ĠD PI +ĠStr ikes +.setViewport View +Ġèĩª åĬ¨çĶŁæĪIJ +Y ELLOW +GL enum +part ners +ĠImp licit +Ġtak o +âĢĻ elle +Ġerm ög +total Count +G il +ĉ work +Ġpr atic +in ati +ab ies +ĠSk inner +Ġspir ited +Ġpancre atic +Ġh df +' em +Ġpsych osis +olic it +Ġ" {" +_at ual +Ġé lect +TE AM +Ġd ak +ĠSW AT +.Fragment Manager +Ġprovision ing +l ifetime +_EXTENSION S +ĠC ASCADE +Ġ! [ +(K P +Ġv em +ĠInterr acial +'] },Ċ +sp acer +_k v +W arehouse +R DD +_f sm +.Stretch Image +, Yes +ĠRefuge e +ĠBr inging +Ġv álido +.inter section +Ġsp ooky +_port al +Ġmo th +ĠZ odiac +ĠSOC IAL +M imeType +'] }} +_Bl ue +Ġbot anical +Ġfr ags +Ġfamil ial +- du +Ġse izing +(block s +.r d +.check NotNull +Ġmis er +Ġmax x +ĠK nee +View Item +Inner HTML +D anger +(( __ +Ġprz ypad +create Url +** , +ĠDecor ating +ATEG Y +?> / +.Design er +hex digest +ĠEvery where +all eries +.TEXT URE +.Block s +z ell +Ġpre ço +S uddenly +input Email +(s ync +.b d +gold en +> '); +ĠDick inson +>> (Ċ +ĠQUE UE +Ġget Column +ĠS AND +.p iece +lic er +Fl utter +Ġget Version +Ġresource Id +og l +ÅĤ aw +.Br anch +ĉ web +Ġfr amerate +PP P +Ġfr ay +C NT +Ġinformat ie +'] čĊčĊ +ne as +Header Code +Ġæ ¸ +Ġtr g +raw types +H onda +Ġmark eter +Ġrequest Data +ĠP g +ĉ not +Ġpage Info +Ġakt uellen +ãģķ ãĤĵ +ĠA MS +push ViewController +ĉ AL +Ġv ests +produ ce +-m ême +ĠRah man +F unny +E Z +_ Valid +Ġsquad ron +Ġl ash +Ġ irm +ias co +ĠPar an +Ġpet ites +ĠDec ay +Ġun initialized +priv ileged +Ġm bedtls +å¤ĩ 注 +Ġ^ . +Ġec static +D etroit +Ġpart en +Ġsou venir +.get Login +моÑĤ ÑĢ +en ção +ĠmÃŃn imo +ĠAccess ed +ri ó +M ic +ĠV ocal +.Set String +Ġmens ajes +åĢ į +Ġattr avers +ĠA ph +Ġ' );čĊ +ünd e +Ġench anted +ĠRoot State +ĠCLOSE D +ĉĉĉĉĉĉĉĉ čĊ +Ġcal iente +or ris +Ġphysic ists +h wnd +_v i +Ġráp ido +Ġcapital ized +ed By +Ġmach ining +Ġhub by +ĠSt acy +.B us +dr ink +H ur +Ġprop ia +Unit Test +Ġmiscon ception +__ ));Ċ +/d c +ĠMay weather +_m C +.create From +ĠQ Painter +rops ych +inn itus +ay as +Ġg eg +(d w +Ġus ado +Ġtrick le +Ġann ihil +ĠP asta +Ġ++ Ċ +(Expected Conditions +.post Value +ic ap +ĠDon etsk +_s oup +-p ublish +ĠP b +ment ions +AC CEPT +.P ull +,âĢĻ âĢĻ +Ġret arded +_AT OM +ĠTermin ator +-c ourt +ĠCLLocation Coordinate +Ġrever ence +ĠS SC +ut ely +ĠW ON +ĠG SL +fre i +.get Longitude +Ġopen FileDialog +.B utter +- important +_M ANY +ĠG ong +âĢľ How +Ġg orge += msg +ĠEz ek +create Command +: checked +Ġinf ographic +.W EST +Dir s +Ġguard a +Ġbeet le +< small +- android +Ġcred itor +ĠM éd +Ġfinal ist +Ġab l +ne v +_inter action +ĠMonter ey +j ah +Ġcand ies +ĠQu incy +èª Ń +Ġbatch Size +ak it +Ġo be +(p ara +Ġexperiment ed +Ġcouncill ors +Ġcl ashed +s qu +-st rokes +ĠG K +ĠEx pires +Ġprosec utions +ĠCreat ures +Ġy ö +x lim +_IM P +Entry Point +ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ +.Default CellStyle +Ġbre ve +ĠBrit ann +Ġsweat y +Ġle th +Ġflash back +per manent +ĠJ DK +_D etails +E uro +p pt +Ġrich TextBox +/ board +Ġtr ance +.c ycle +'); ");Ċ +Ġtox in +_de init +Ġover arching +Ġconfig parser +ĠKaw asaki +.th umb +Ġplay a +ĠJose f ++ _ +Ġzero es +Ġa up +ĠH ari +comm itted +N it +.file Path +ĠDis abilities +man ufact +-al igned +.RE SET +Ġrust y +E y +Ġou sted +cos a +Struct ured +.get D +Ġs ábado +> Loading +_m A +.get Random +bl ings +Ġchees es +tt i +. âĢ¢ +ĠBurg ess +ender it +. ',čĊ +(" "+ +ac b +% p +index ed +_pred icate +nes ia +Ġb ied +ĠC IT +( Pos +_r adi +ä»· æł¼ +B iz +ĠAdoles cent +Ġvi ên +c ycl +_C ancel +Ġcon clusive +Ġappell ate +inform atics +S J +Ġelect ive +role Id +Fetch er +ĉ Command +(" (% +Ġf art +IL A +get Block +A USE +Ġд ан +ĠAr te +Ġnot ifying +Ġge le +.s ame +ĠReg el +ĠBa ÅŁ +.c reation +ĠV N +_comm unity +Ġuns ustainable +SE X +Ġgrid Size +res cia +avers able +(', ')[ +ĠPh elps +á»ķ i +ANCE LED +- IS +.run ners +ĠSt okes +.P rodu +Ġwh ipping +_ac quire +Ġinvestig ación +f ried +.copy With +ĠHard cover +- Se +áŀ¶ áŀ +inv itation +les ai +ĠD orm +ĠÑģпиÑģ ка +Ġconcaten ated +oph il +Ġthink er +/font awesome +ĠLe opard +Ġ"/ ");Ċ +Ġresidual s +ĠMic rowave +Ġconform e +th rop +Ġdis emb +ĠO MG +ĠDisc ipline +ĠAc robat +/re pository +df a +_M ED +buf io +Ġméth ode +_H OLD +ias i +_ legacy +) ččĊ +æ£ Ģ +Get ProcAddress +Ġy ay +ot ence +order id +-t w +Ġdear ly +In coming +/ il +Ġneu rop +uc z +); čččĊ +ĠInnov ative +Ġprof und +ig mat +Selection Mode +re levant +.G O +Ġbru ises +Ġs ach +ode f +Ġre imb +/d esktop +-s pot +und ance +Ent ropy +\ core +Ġsug er +ĠM vc +ĠGN OME +_ind x +ĠYY STYPE +ĠMat lab +ĠC IF +Ġ* )) +Ġproduct List +ĠAl right +ac emark +ÑĤи в +mod ification +int ernational +Ġhom ers +Ġdict s +ĠQ Font +.SQL ite +Ġtransplant ation +ĠMessageBox Button +ĠEl ves +'] ])Ċ +(Q Icon +Ġcin emas +CO ORD +- China +Ġkh ẩu +æĪij çļĦ +Ġskull s +Ġpain staking +f ce +.XR Label +Ġspec ifier +Ġpref erring +/ activity +( Photo +á lt +.l ot +' '. +ann once +.google code +-p df +ĠP oke +_A CL +Ġend owed +dis cover +.om g +Ġwood land +.M agic +Ġvol ont +Not Allowed +Ġch ave +BM W +',' =', +ĠS IX +æĪij 们 +Ġkos her +Ġaspir ation +int l +_ref ptr +'+ Ċ +ment or +.cl ub +Window State +.A RR +Ġz za +Ġmessage Type +.e qu +Th or +Ġin just +Ġg ums +Ġborder Side +//// / +ĠTrans mit +Ġbuf size +Ġh ak +Ġell as +R ANDOM +ĉm c +Ġpe a +ek o +document o +Ġhyster ia +Ġaren as +Ġgun men +Ġm ike +Ġimp unity +atis ation +_Z ero +_COMP ANY +ĠG ors +Ġuse Class +( redis +ĠRUN NING +ĠB air +vel te +Ġ',' . +аÑĤÑĮ ÑģÑı +ö st +encode URIComponent +_re strict +Ġdec als +ĠPed ido +Ġalter cation +Dis plays +ĠApp licants +C US +Text area +ĠAng ola +.f uture +ĠUS HORT +Ġsuppress ing +Ġset zen +AP olynomial +Ġto ch +Ġhall mark +Ġ$ $$ +ĠCHAR SET +.r pm +ĠD ich +---------------- ---- +_p arm +è¿ ĺ +acc iones +h ait +WAR DED +_r outing +ĠN OM +Ġen clave +ĠLot to +ĉf r +complex Content +ĠBall ard +k ube +/w in +.getColumn Model +_RE PLACE +Header Value +Ġest udiantes +Ġap is +Ġb pm +ĠType Name +And Get +rit a +Pl ans +> Note +Ġfet isch +Ġton ed +_g oto +ons ense +Ġm olds +Ġinfiltr ation +ĠGuerr ero +ub bo +ck i +($ (". +_ activities +(ch anges +Ġof App +ĠKe pler +ĠD emp +ĠCont inent +.T icks +ĠUn signed +ĠJah res +Ġfresh men +ĠArch ived +ĠкоÑĤоÑĢ Ñĭй +Ġ' :: +T utorial +C c +Ġtable LayoutPanel +from Json +.level s +_trans ient +Ġendors ing +ĠD IC +la uf +Ġsh red +_E MIT +ific antly +AL A +/ proto +Ġnarrow ing +U tc +Fact ors +Ġsent ient +æŀ IJ +lix ir +ĠC ROSS +met eor +Ġgro in +Ġm db +ĠRot terdam +Ġcom ida +ĠOp Code +ĠDefault Value +Permissions Result +Ġheter ogeneous +Ġm oot +Ġde ceived +-in dependent +ĠObject OutputStream +Ġover power +.d up +Ġl db +Ġdomest ically +Ġbest ellen +Ġlo v +ĠContract ors +Tri angles +Ġfod der +Ġfilm es +ä¼ ģ +Ġrev olver +Startup Script +/ validation +ĠResource Type +i ÅŁ +ĠL az +f ef +Ġlst m +{ * +. attachment +.h its +ew ith +DO G +Al abama +Ġmedium s +.m Context +-c ols +åı ĭ +.not ice +Ġat tn +ĠP acking +ĠL n +_COM PLEX +/ Users +.sav etxt +ĠR ounds +?,?, ?,?, +Ġing l +ĠR OC +_f emale +ĠSt ard +]] ; +Ġwrest lers +Ġtorrent s +Ġsin h + ĊĊ +ë³ µ +s ense +how ever +.Ph ysics +Inf rastructure +ĠSac r +F el +ĠD ISTRIBUT +é ments +ĠValid ates +################################################ ############ +Ġ| / +Ġes l +Ġré seau +ĠB ip +BY TES +_W ATER +Turn ing +EL S +Ġj uxtap +Ġlesb ische +ý ch +( Unknown +Ne o +@ JsonProperty +Ġal umnos +ĠRaq qa +ime i +.get Bounds +.Mouse EventHandler +#### ### +Generic Type +/c ms +Ġturn o +Ġм ин +Ġfolk lore +ĠE vo +Ġconduct ivity +Ġle ben +Ġgear box +-v s +ĠÏ Ĩ +Ġdrink ers +Ġcon exao +ĠTe eth +Ġget Arguments +ĠR AT +ent ious +E duc ++ W +ĠInstitution al +ĠB ord +is Equal +(p wd +Ġign ited +ĠR ousse +Ġimpact ful +ĠM alk +Ġg eral +ĠP ivot +Ġa zt +Ġcsv file +ĠR ope +ĠSOL UTION +ĠArbit rary +Ġlet to +.Mouse Adapter +Ġ} }} +ĠSail or +der a +Put ting +Ġconcentr ates +Ġauth Domain +âĢĿ çļĦ +-f inals +, strlen +Mu on +ĠOrd inary +fire fox +ĠLa TeX +ĠH und +engine ering +/ blue +ed TextBox +(" "); +ĠC DDL +ke pt +ĠGet String +K ir +() =' +ĠO CD +ant ium +$ menu +ĠAppalach ian +Secret ary +ë¥ ĺ +ี ย +Sem antic +Ġ* [ +est one +ung kin +Max Y +-t one +"} ;čĊ +_P art +< Member +tr am +Ġtrans istor +Ġ---------------------------------------------------------------- ----------Ċ +ĠDes de +Ġright ful +ĠCorn el +æ ij +.H OUR +Ġsidel ined +ref errer +m aze +Ġhol ster +Ġcripp led +ĠDate Formatter +oph age +_m D +Ġdes elect +ra ud +ĠPK K +row Data +Ġlock smith +.res ponses +(product Id +_ST MT +Key Type +.Th en +z ee +Ġcr t +ĠGrand ma +@ Resource +Ġbit wise +-c mpr +ãĢĤ www +zeit ig +& display +Cart Item +- No +Ġnum éro +Ġm aur +Ġinst ancia +ĉd t +_n pc +Ġskate board +âĢľ All +ĠCrow d +Ġä n +Ġb raz +ca e +yn et +/p m +/s creen +OPT ARG +ĠV Box +Ġle opard +_g reater +c pt +< dd +Ġmechan ically +osp els +) f +.l wjgl +.get Port +ĠP REF +.Add Transient +pp ard +Ġí ļĮ +Ether net +Ġsal ine +(level s +Ġservice Provider +.A ngle +alt itude +illa ume +Ġs cape +_CAL C +_ quest +ĠDiss ertation +ĠE DM +-C ds +Ġhon orary +st ops +Ġsub dir +ĠV H +ĠChe at +Ġright fully +Q E +.Write Byte +fig ures +enn ie +( DBG +Ġvoks ne +Ġexp ended +UN ICATION +il inx +ĠRec ap +_ verts +Ġtra umat +Ġget Player +Ġverb ess +Ġcultiv ating +Ġiniti ator +Th ông +find First +_per ms +Ġbu c +Ġ""" čĊčĊ +T YPES +object Manager +(Configuration Manager +Ġtim id +Ġsnap chat +Ġcon seg +ĉd istance +_right s +_D es +ĠF lesh +- ver +Ġa fl +fra uen +Ġblas ph +ĠQual ität +ma f +Monitor ing +.D iff +Ġshore line +Ġresponse Body +mem set +< decimal +Smarty HeaderCode +Ġin sets +ĠBinary Tree +amed a +Ġn ihil +ĠN ay +ym ology +ĠW G +Ġt api +ĠInst alled +m aintenance +)} "Ċ +ĠX O +-per iod +s ar +Ġning una +ORM AT +.set PrototypeOf +ĠK b +ĠHen rik +ét ique +ĠLah ore +ĉ Address +Ġmel ts +N y +_adv ance +Ġveloc idad +Ġalum no +Ġsanit izer +Ġph ishing +ĠCom et +Ġch iar +ĉs pec +trim med +(state arr +on nen +Re venue +L ens +Ġcha ired +ĠAss umes +Tr ash +_un set +\ Bridge +Point Size +ĠPol ic +Ġsex uales +ĉd fs +ĠWide String +Ġaccru ed +Y W +_S CHEDULE +Ġk ite +Ġparach ute +[ table +Ġactive ClassName +.Qu ad +Israel i +ĠÅ ĵ +Ġho og +Ġch á»ī +ew ear +Ġtire lessly +set Error +.get Amount +.set Items +ĠM anson +ĠBay esian +_F lag +AC HER +/ original +Ġimm ac +ĠLos ing +' >ĊĊ +L ic +ĠMir age +ĠAssembly FileVersion +Te V +ĠValue EventListener +-s olving +Th o +rou lette +_W P +Ġunint errupted +Ġfield Type +.T yped +Ġam our +Ġmock ery +(v ol +ĠSub committee +ĠR uf +ero x +:UIButtonType Custom +ĠBl ur +Ġwy kon +nc es +ASH BOARD +!! ");Ċ +Ġmurder ers +.d aily +ĠDI AG +j ing +Ġdol phin +Ġl òng +Ġb ö +ĠV ocabulary +.St Object +') "> +Ġz un +Ġscrim mage +tr éal +ĠL ig +[ vi +C ole +Ġfrost ing +.Pl ayers +- translate +Fe els +=\" / +.Butter Knife +Ġ?> ;Ċ +Ġav i +inn ie +.F ailure +Ġsp indle +Configuration Exception +_h op +Ġpos ição +ĠA wait +UIImage PickerController +ĉ day +Ġgen om +C ab +ĠÑĢ ÐµÐ·ÑĥлÑĮÑĤаÑĤ +OR IGINAL +Ġejac ulation +(t cp +SE COND +Ġton ic +ĠList Box +Ġ ĉĉĊ +() >Ċ +Ġqu atre +ượ ng +with Errors +.M aybe +, â̦ +token Id +_UN DEF +Ġfresh ness +ĠAmend ments +.map box +.C V +(b log +_get time +. quest +s parse +Ġres ale +Ġenthusi astically +ĠProstit utas +W a +C argo +.Parcel able +SENS OR +ĠRy u +La ughs +_N ative +/ pg +yst s +Ġphot oc +ç® Ģ +ado pt +.spec ies +conc iliation +Adjust ed +.Firebase Auth +ut tle +ord ination +Ġm unch +ĠSt ake +.p ing +ank er +(QString Literal +Ġsub script +ĠĠ ĉĊ +ĠM CC +_C md +se xy +i ou +ĠM ANY +Ġn anny +TR AIN +Ġflour ishing +ĠW atches +ĠQ Map +ĠF erm +Ġwas m +ĠA bed +_ UD +ĠGlass es ++ v +Att end +.Ch ain +Ġdec ency +ĠSupplement ary +h unter +-t xt +Ġ" }";Ċ +.set WindowTitle +(" +Ġmasc ara +( Profile +åĬŁ èĥ½ +imit é +Ġwild fires +- ROM +.is On +(group Id +Re pair +accum ulate +Ġ< ", +Ġhand written +Ġach eter +ĠM GM +ĠIr ma +->{ _ +ge e +cr iminal +Ġèĭ¥ è¦ģ +Ġmoment arily +") != +_l it +Ġexpires In +." ). +éķ¿ åº¦ +Ġfr ække +vl c +Ġor bs +), $ +Ġvent ured +/ >\ +char m +N uitka +eld ig +aton in +W itness +-l at +Ġset Hidden +Ġrelic s +Ġcons ulate +. IGNORE +" After +Ġset Address +Ġbeste ht +Ġ'' )ĊĊ +.x axis +Ġser ão +Ġmis led +_UN IFORM +ĠV IA +inc r +Ġzen ith +Ġvis cosity +Ġthin ly +.get SharedPreferences +.Error Code +"), " +ĠMillion en +Ġ/> )Ċ +Scroll Indicator +-se eking +ĠPOLIT ICO +as ca +_r l +N avig +(full file +Ġsol itude +Ġju ven +Ġhaul ing +ĠMac ros +ĠG ry +Ġexerc itation +ĠATT ACK +Tick Count +Ġr ites +Ġdo e +Particle System +Ġsl u +Window Text +ĠClass Name +Ġsl ander +ĉ Port +j ong +? a +.D ial +âĢĶ at +$obj PHPExcel +Ġso ar +EN N +appe ared +Ġquot id +em achine +Ġn ip +Ġmicro time +ĠAl ma +; ! +---------------------------------------------------------------- -------------------------------- +ĠPass age +Ġdump sters +ĠEx clude +Ġsuggest ive +ĠCircularProgress Indicator +_cl r +Array Type +ILL A +Elapsed Time +Dr iven +Ġresource Name +ĠG arrison +ser ir +-a head +Ġp innacle +ĠEs presso +S parse +Ġass ays +ĠGirl friend +im id +]=' \ +ONGL ONG +Ġportray ing +L ane +Ġb úsqueda +Ġrein forcements +ĠSpread sheet +ĠArray Collection +, arr +light box +ic ana +< " +build ers +K id +ĠMat SnackBar +EX PR +od cast +ĠFound ations +Ġind s +=' ${ +F izz +-function al +(work space +Ġstem med +_p atches +ĠJar vis +READ ING +Ġdisrespect ful +ĠQ Dom +Ġ$ {Ċ +est atus +Re ached +! .ĊĊ +IL T +ĠN DEBUG +ĠCour age +birth date +ĠT ing +Ġutil izado +án chez +Out door +Ġhand guns +Ref Count +É Ļ +rom o +Ġt ts +.S he +ĠP ane +ãĢij, ãĢIJ +ĠIO CTL +/ black +ins cription +Ġbi opsy +ĠTime Interval +.Test Check +ĠGUI Style +ĠCap ability +ĠBeit rag +don nees +T reatment +.back up +Ġsign ings +ĠB oca +dr m +.M AIN +Ġgo ede +ĠMark up +G REE +ĠBase Service +.C reator +Ġj ails +ĠK ahn +Ip Address +ACH I +Ġinhib ited +Ġ@ $_ +ĠAss ass +Ġenvi ado +Hero es +ÐŁ еÑĢ +ĠM aven +.l s +Ġ ive +| RF +Ġresize Mode +Ġrum pe +_attach ments +T U +Ġtact ile +Attempt ing +Ġro bin +y aw +Ġmerc enaries +ĠHab itat +end date +Ġo xy +ĉR andom +oh on +Is Null +ĠValidation Result +ãĥ ļ +um bed +pp v +Ġar p +ich ick +_r nn +ĠT FT +Tex Image +" On +ĠSam pler +top l +Ġj ane +y ling +ĠUN ICODE +Tab Index +< {Ċ +s uspend +uv ian +, application +ол иÑĩеÑģÑĤво +y at +ez ier +ĠCH UNK +ĠAd ler +/ Add +ĠKey Value +Ġspos ób +Sam pling +ch ers +_AM D +R u +.Must Compile +N ation +Ass oc +Man aging +ĠEng l +_G B +Ġsucc inct +Ġdis liked +ĠI ke +Bullet in +_ARCH IVE +Prop osal +Ġjog ging +.C REATED +Ġch ol +è£ ħ +Į ¨ +-p ush +Ġreserv a +core v +è tre +TH R +Ġincompet ence +Ġchar isma +æĦ Ł +Ġ" == +BT N +ĠLoc ator +iv et +('. ')Ċ +Ġfor IndexPath +ô me +Ġcapac it +w aters +ĠWR ONG +ho a +ĠM IPS +Ġem iss +ĠJacqu eline +(c mp +Ġe ens +Le o +.tim ing +CLUS ION +Ġ(" - +åĵ Ī +.k ode +ĠUnd ert +Ġbew ild +ĠEss en +.h d +Ġren egot +Ġm ower +Ġl sp +Ġpen chant +Ġman oe +Ġag li +Ġrec al +ĠOPER ATION +(^ )( +ĠÎ ½ +ĠSc oped +Ġ@ "Ċ += label +[ loc +Int l +ĠN z +table t +.Column Name +Ġscreen Size +DB us +co oked +- registration +âĢľ One +-n on +ĠwiÄĻ c +Ġcost a +.add Tab +. conditions +ĠH ess +MEM ORY +ĠAval anche +() }}Ċ +Ġtri plet +Ġl abyrinth +ĠNode List +ĠNY T +Ġy eni +d ff +.Html Controls +AV IS +/ Math +Ġmem cmp +Ø§Ø ¡ +оÑģ ÑĮ +c rap +(p ages +Ġl xml +ĠQ DateTime +_t cb +Ġopen id +Ġsyn aptic +ĠMD MA +(s lug +igm atic +en or +Ġcr amped +G OP +Ń IJ +.is File +ĠD ifferential +Ġ=" ";Ċ +ĉĉĉ ĠĠĠĠĉ +ĠC ooke +ĉU FUNCTION +Ġpersever ance +Relative Layout +IMPORT ANT +Ġex on +Ġо н +ib ase +(C ONT +n ovation +ä½ ķ +[ sub +Admin Controller +HTTP Header +cre ar +ĠN IR +ĠDrop DownList +Ġval ide +Ġde hydration +. '] +(W IN +Ġ... \ +Ġphotos hop +ĉ Init +_c ou +Ġtime Zone +dar win +rom atic +Navigation ItemSelectedListener +br ates +] --;Ċ +Ġtraged ies +ĠPed iatrics +SM ART +-A PI +ĠMessage Lookup +ĉ vo +Ġprejud ices +Ġm A +U ps +ĠMISS ING +ĉ ad +C ream +ĠT b +ĠMon a +_ ghost +ĉt ypes +Em b +ĠDocument ary +');ĊĊ ĊĊ +Ġl up +_ Reference +ĠB ATCH +Ġintertw ined +< Cell +ĠCab r +n ation +Ġis Connected +.remove Listener +Ġcon g +_t i +ĠSil icone +Ġê²° ê³¼ +ĠW AN +ĠG ibraltar +/ response +ĉp erson +ch ants +V IP +em ergency +Pixel Format +- Am +Ġsouth western +_pl l +if ers +_ON CE +ĠF ayette +.nc bi +_P anel +.Q ual +Ġpol ys +Ġcreate StackNavigator +� t +Ġlay offs +ĠBl anco +Fe at +ĠV imeo +_ch i +_l ifetime +POINT S +, private +Ġunb earable +print ing +Ġc gi +.B ACK +Ġintern s +ĠNew ly +inf eld +( IB +ĠK ata +ĠDef endants +Th r +é¢ Ħ +_V F +FFFF FFFF +Ġdavid jl +Ġbitter ly +S uggestions +.set Cancelable +FIN AL +ason s +_rw lock +_WRAP PER +Ġhapp iest +(row Index +ós ito +TOT YPE +Autom ation +Log File +Ġcons olation +ãĥ Ģ +Ġt êm +Ġpr er +rg yz +ĠG eg +ĉd to +.default Value +ĠK ami +ĠA SE +optim ized +Ġíı ¬ +Ġorigin ates +err Msg +Ġespa ço +(S YS +ĠMc B +d ance +_det ected +Ġfr ü +ĉĉ ĠĠĠĠĉĉ +< Date +(com b +ĠDec ide +\ Field +ĠProp osed +R ib +Ġdis likes +ĠW ien +ĉ Document +Ġtr af +Ġst oria +ĠT ells +') == +C ri +( VALUE +ĠBurn ett +, void +Ġdan h +Ġc cp +Block chain +:"- "`Ċ +IC lient +IS ODE +Iss uer +) }čĊ +, but +ĠU ph +( Sub +Ġtélé phone +ĠonData Change +Ġmarsh aller +-an alytics +, content +Ġdeb acle +_Value Changed +Ġfa una +Ġ# => +Ġf oyer +'util isation +ĠMü ller +ĠFet ish +Ġdefault Manager +Ġback track +B ah +Exp licit +_A SCII +Ġm Activity +(M sg +Ġê² Į +ĠTER MS +ĠAng ie +HS V +ĠMos que +.N ames +íĬ ¼ +rest e +_p arms +Ġgap ing +Ġcro pping +Data Frame +Ġrespons iveness +_ undo +_tr an +. terminate +Ġitalian e +Ġwalk through +Ġattract iveness +д е +_ST S +_ learn +Ġchocol ates +ier archical +-th inking +Ġ ))) +ish ments +.Log f +ĠTM Z +ĠCan ary +fo il +ĠVacc ine +.v x +ĠSur round +Inter mediate +Ġi ov +v ais +'; ";Ċ +ï½ŀ ĊĊ +éĢģ æĸĻ +â̦ it +Se ats +Cl ar +W ars +ĠHutch inson +ĠHas an +! ')ĊĊ +ĠRich ie +che iden +($ (' +Y ork +Ġl ids +Ġal phanumeric +ĠG lock +.sh apes +Ġspark ing +_ epsilon +uplic ated +.dir ty +]) == +ĠìľĦ ì¹ĺ +Ġsc n +Ġ/ **************************************************************** +_PRE VIEW +_H C +ield ing +f gets +ĠAdd ison +Ġproduct Service +- figure +(ret val +z ano +Ġaut ob +ĉs d +_n umer +ĠSet LastError +ĠF ior +ific ance +Unt itled +Ġin field +Ġ{} ));Ċ +Ġsp ac +Ġro okies +(des cribing +ng en +ி à® +.r df +.M utex +Ġkne eling +ĠQ E +set Max +Read Stream +Ġvent as +s ut +cm peq +.WriteAll Text +ĠEx perienced +$ __ +Ġka um +ĠL IS +Ġdocument os +_HE ALTH +icont ains +Ġart isans +OWN ER +Ġblink ed +get Display +Ġto en +Ġrow Num +Ġav ril +Ġinv is +ĠK ear +toBe InTheDocument +ap ur +Ġr acked +ĠMc Master +_ATTR IB +H az +Ġfact ura +/ ts +ĠÑĢаз меÑĢ +Ġz f +Ġshort fall +.f asta +ĠCONST ANT +.man aged +g ems +Shared Pointer +Ġblur ry +b rightness +( components +Ġ... "ĊĊ +SE LL +ĠIllustr ator +.get Channel +Ġtrou vé +yst ers +Ġvo is +ĠLind en +Ġem ojis +Ġb rawl +ĠMS R +ĠE lo +ĠCroat ian +Popup Menu +L ewis +.J WT +Ġaston ished +B ush +(item Id +Ġdet achment +ĠEnc ore +å° Ķ +Ġre kl +Ġcr am +)$ / +.get Host +_re commend +- HT +_cal ibration +Auth enticate +.firebase app +UN IX +ĉC amera +ĠHE AP +I deal +. office +Ġgoof y +(S ymbol +Ġjou er +_part itions +Ġrapid ement +ĠGN UNET +id User +Ġsuperv ise +( Contact +AW N +ãģ ĺ +Ġna am +Ġa ust +åľ¨ 线 +_soft max +Allow Anonymous +amm able +RO UTE +* D +Ġad en +ĠCrist ina +ĠCrist iano +Ġblood stream +sub class +_person a +CH ILD +-k now +Ġnavigation Options +ĠZuk unft +ĠPix ar +Ty ler +Ġunder world +Ġsincer ity +Ġdispens er +Ġk ter +idd ers +.add Node +- checked +Ġke yst +ĠW TO +.sign als +Ġadvent urer +ĠP ang +\ R += pos +Ġdispens aries +ĠClo set +("{ \" +ide on +Ġnécess aire +() "Ċ +_RECE IVED +Ġrésult ats +Ġmod en +ĠIceland ic +; d +. allowed +(new User +Ġmerc iless +.Wait For +Ġday care +ĠCon veyor +ç ĸ +ð ¬ +ç ĥ +ç Ĺ +ç ł +è Ħ +é ² +å ¦ +çĿ Ģ +å¾ Ī +é ħ +ç ĭ +é ª +æ Ĥ +é ¥ +è ħ +æĥ ³ +å ¨ +é ¹ +ç Ĥ +å Ĵ +ç Į +è´ ¨ +æ ¢ +æ° Ķ +ð « +æķ Ļ +ç Ł +å Ħ +åıij å±ķ +åĪ Ľ +è ij +æ ħ +å ŀ +åģ ļ +æĪ ĺ +æ IJ +å¼ º +æ· ± +åĩ ł +ç ¿ +å © +è ŀ +å§ Ķ +åIJ Ħ +è İ +é ¸ +é º +åı Ĺ +èģ Į +å ĺ +æ ½ +é£ İ +èIJ ¥ +åħ ļ +è ľ +éĤ £ +é¢ Ĩ +ç ij +é ³ +æľ ¯ +ä» Ģ +æĪ ¿ +ç² ¾ +å ª +é Ĩ +å¤ ª +èĤ ¡ +è Ľ +åħ ī +æŀ ģ +åĬ ŀ +è ĵ +ç ĺ +å ´ +å Ĺ +èĬ ± +çł Ķ +å¿ « +å¸ Ī +è¶ Ĭ +è§ Ĥ +æ ¤ +æ ¦ +ç ŀ +èĤ ² +çĪ ± +çĻ ½ +ä¸ ĸ +ä»Ģ ä¹Ī +çľ ¼ +å ³ +è Ĵ +æ ĵ +è¢ « +å¹ ² +çĹ ħ +å£ « +ç Ĵ +è ¸ +æ ¾ +å·¥ ä½ľ +è® © +çĥ Ń +è¾ ĥ +åĦ ¿ +åĬ © +ç§ ¯ +ç ³ +ç ĵ +ç £ +å Ĥ +è ¹ +è ļ +å· ± +çĻ ¾ +åĬ ¿ +èµ Ľ +æ ¨ +æ ¿ +è ĸ +æĿ ij +å¸ ¦ +å¢ ĥ +æĬ ¤ +é Ń +å « +èĩª å·± +æµ İ +ä½ İ +åĮ » +éĺ ² +åĨ ľ +è Ĩ +ç Ĩ +é « +åĨ Ľ +æĪ ı +åį ĩ +æĸ ¯ +ä½ ı +èIJ ½ +åħ » +èĩ ´ +ç Ĭ +ç ĩ +ç ħ +è Ķ +ä¼ģ ä¸ļ +åĽ ¢ +æī į +æł ¡ +åĩ Ĩ +å¥ ĩ +åī ¯ +é ¼ +æ¼ Ķ +é© ¬ +èµ ° +ç¥ ŀ +åħ ĭ +æľ Ľ +æ² ¹ +è¾ ¹ +åį ĥ +å¾ Ģ +åĪ ĩ +æ © +ç ¶ +å Ļ +éĻ ħ +çī Į +社 ä¼ļ +游 æĪı +æĸ ½ +ç ħ§ +æİ § +æ» ¡ +è¯ Ĩ +éĩį è¦ģ +è¶ ³ +çķ Ļ +ç» Ĩ +åį ı +éĢ Ĥ +æ ĩ +æ § +é Ħ +è Ŀ +å¸Ĥ åľº +ç»ı æµİ +ä¹ ł +æĸĩ åĮĸ +éļ ¾ +ä¹ IJ +åĨ ³ +æ¬ ¢ +è§ ī +åĽ Ń +åħ ´ +åħ ħ +ä¸ ¾ +æī ¹ +è ķ +æĬ Ĭ +æĬĢ æľ¯ +ç© ¶ +第 ä¸Ģ +ä¾ ¿ +åĵ į +çİ © +åĿ ļ +èŀ į +åį Ĭ +åĸ ľ +å± Ĥ +ç¦ » +ä» ħ +é Ł +åij ³ +å¿ µ +åŃ £ +ç´ § +ä¹ ħ +é ¤ +é ŀ +è ¤ +åĢ Ļ +åĨ µ +ç Ł³ +åģ ¥ +æĢ İ +å® Ŀ +è¡ Ģ +åŁ Ł +æĹ © +çŁ¥ éģĵ +è´ Ł +åį ļ +å· ´ +äº ² +å± ŀ +ä¸ ¥ +äº ī +å¯ Ł +è º +ç ° +建 设 +产 ä¸ļ +åIJ ĥ +åŃ © +æĹ ħ +æł ¹ +æĿ IJ +ä¼ Ĺ +éļ ı +å® ĺ +åº ķ +å½ © +å¯ Į +æ¸ © +åį « +åī § +çĽ Ĭ +æĬ Ĺ +è´ ¢ +çº ª +æ Ĩ +çĶŁ æ´» +çº ¢ +çĶŁ 产 +è¿ ľ +éĴ ± +åĶ ® +ç¾ ¤ +çı Ń +æ¥ ¼ +éĩ ĩ +èī º +å± ħ +åģ ĩ +è° Ī +æĻ ļ +é ¬ +èĪ ª +å® ³ +è Ĺ +ç į +å µ +çİ ĭ +åº · +è İ· +ç» Ń +äº ļ +é£ Ł +åİ ĭ +æĭ Ľ +èĮ ĥ +è® ¸ +åĽ ´ +é ½ +éĻ į +çº ³ +åĵ ª +æķĻ èĤ² +å·² ç»ı +å¾ · +æŀ Ĺ +å®ī åħ¨ +é¾ Ļ +大 å®¶ +éĿ Ĵ +åº ľ +æ² ³ +åı ¤ +èį ¯ +åĿ ĩ +æĻ º +ä¹ ¡ +çķ ¥ +åĨ · +ç¦ ı +å® ¤ +ç» ´ +æī ¿ +å± Ĭ +è¯ ī +åĪ » +è Ł +æ ª +å°± æĺ¯ +è¿Ļ 个 +ä¸Ń å¿ĥ +ä¸ĸ çķĮ +åŁİ å¸Ĥ +éĿŀ 常 +åĪ Ĵ +åı Į +æĢİ ä¹Ī +åΰ äºĨ +æľ ĥ +åı ² +ä¾ Ĩ +å¾ ĭ +å¥ ĸ +ç» Ī +åª Ĵ +å® ģ +è¯ ¾ +èģĮ ä¸ļ +åħ į +æµ ĭ +æĢ ¥ +æķ ij +çĭ ¬ +èŃ ¦ +é¤ IJ +æĦ ¿ +è´ « +çĸ ij +å ļ +å¥ ¹ +åı Ī +åĽł 为 +ä¸į æĺ¯ +å¤ Ł +æĸ¹ éĿ¢ +éķ ĩ +äº Ĵ +éħ Ĵ +è® ² +çĸ Ĺ +æĺ ¥ +æ¹ ĸ +å¤ ľ +è´£ ä»» +人 æ°ij +åħ ° +çŁ Ń +æķ ħ +åĩ ı +æĻ ® +äº ® +ä¾ Ŀ +åį ° +éĿ Ļ +åĢ ĭ +å¾ ģ +åIJ ¸ +ç¼ º +æĶ » +åĩ Ģ +åħ ¸ +åĽ º +è® ¿ +ç ¹ +ç Ģ +æıIJ ä¾Ľ +ç» ĩ +å¾Ī å¤ļ +çłĶ ç©¶ +è· Ł +主 è¦ģ +æĥħ åĨµ +çŃ ĸ +æŃ » +大 åѦ +æĶ¿ åºľ +å½± åĵį +ä¹ ° +åħ Ń +éĻ © +åħ « +æŁ IJ +è´¨ éĩı +åį ł +å· ® +æĽ´ å¤ļ +æľ ĭ +éĿ © +å® £ +çł ´ +è½ » +åº § +æĺ ¾ +ç¨ ³ +è´ µ +èĥ Į +èī ¯ +çĸ « +æ¯ Ĵ +ä¹ İ +åĢ Ł +è¿ · +çŃ Ķ +æ¿ Ģ +åij ¼ +äºĨ ä¸Ģ +è¶ £ +ä¼ ´ +ä¼ Ļ +è ¼ +ð¬ Ń +åĽ½ å®¶ +æ´» åĬ¨ +çݰ åľ¨ +ç§ij æĬĢ +åį ¡ +ä¸į åIJĮ +个 人 +è®° èĢħ +ä¸į æĸŃ +éĹ » +ä¹ Ŀ +èij Ĺ +ç» ¼ +ä¸ ĥ +æł ij +æľĭ åıĭ +åį ĸ +ä¼ ¤ +æ² Ļ +åĸ Ħ +å¥ Ĺ +è½ ® +ç© ¿ +è¡ ¥ +ä¸Ģ å®ļ +çª ģ +çĿ £ +è¿ ½ +å¨ ģ +åı ¦ +åĽ ° +æŀ ¶ +ç» Ŀ +æķ £ +æİ ¢ +æ´ Ĺ +ä¸ ´ +ä¼ ¼ +è´ ¸ +ä¸ ° +æĺ¯ ä¸Ģ +ç« ŀ +è¿ İ +èģ ļ +è « +æį Ł +æī § +é© ¾ +è¿ Ŀ +è ¥ +è ł +ä»ĸ 们 +æĹ¶ åĢĻ +å® ĥ +人 åijĺ +è¿Ļ æł· +å·¥ ç¨ĭ +åĪĽ æĸ° +åŃ© åŃIJ +å¸ Į +éĥ¨ åĪĨ +éĵ ¶ +代 表 +é¦ Ļ +å¸ ® +æİ¨ è¿Ľ +çĽ ĺ +积 æŀģ +éĥ¨ éŨ +åŁ ¹ +æŃ ¦ +ä¸į ä¼ļ +çŃ ij +éĢ Ļ +çİ© å®¶ +æĭ ¿ +åİ Ĥ +æ¯ Ľ +çģ µ +æŃ Į +ç »¿ +å¦ Ī +çĽ Ľ +é¦ Ĩ +é¡ º +èĦ ¸ +å° ¼ +ä¸ ½ +å¥ ¥ +éģ ĩ +è¯ į +å° ģ +ä¸ Ŀ +好 çļĦ +æĭ ħ +èĦ ± +æģ ¶ +åİ ļ +åĬ ³ +çĽ Ł +æĬ ĺ +åı ¥ +æĢ Ģ +æŁ ĵ +书 è®° +åĨ ł +é² ľ +æ ¦Ĥ +éļ IJ +å¹ ħ +èµ ŀ +å¹ ķ +æ¥ Ń +éģ Ĺ +åĪ ¤ +è ĺ +å ¶ +æĬķ èµĦ +è¡Į ä¸ļ +äº ij +çݯ å¢ĥ +åѦ çĶŁ +åIJĪ ä½ľ +åģ¥ åº· +é£ ŀ +ä¸Ģ æŃ¥ +ä¸Ģ 缴 +åıij çĶŁ +éĺ ¿ +é¢Ĩ 导 +åĸľ 欢 +åºĶ 该 +çĤ º +è® Ń +æĿ Ģ +æ¸ ¯ +交 éĢļ +éĺ ¶ +éĴ ¢ +ä» ¤ +å° ½ +æ¯ į +è¡ £ +ç² ī +é¡ ¶ +ä¹Ł ä¸į +æĬ ĵ +èĭ ¦ +å¹ ¸ +ç¤ ¼ +第 ä¸ī +大 çļĦ +éģ İ +çĥ Ł +éģ ¿ +ä» į +åº Ĩ +æĢ ķ +è° ¢ +çĽ ĸ +å° Ħ +éľ ² +æĸ Ĺ +ç Ĭ¶ +åŃ ¸ +æ¯ ķ +å· ¨ +çŁ ¿ +çļ ĩ +å¸ Ń +çĹ ĩ +æī ¬ +å» ¶ +ä¾ § +æ· ¡ +çļĦ ä¸Ģ +ç¶ ² +æ´ ģ +ç ¸ +è§ Ī +çŃ ¹ +ç§ ĺ +è¯ Ĭ +çı ¾ +èª ī +æ¯ « +ð ¨ +åį ´ +æĪIJ 为 +èĥ½ åĬĽ +é» Ħ +æĹħ 游 +èĪ ¬ +æ¯Ķ è¾ĥ +èµ· æĿ¥ +äºĨ è§£ +èĩª çĦ¶ +ä¸Ģ 次 +åŁº æľ¬ +æĽ ¾ +综 åIJĪ +èı ľ +è§ī å¾Ĺ +第 äºĮ +è· ij +æ³ ¢ +åĢ Ĵ +ç¡ Ģ +åħ µ +èį ī +çĶ ³ +çĶ ° +æĤ £ +è§Ħ å®ļ +èĥ ľ +èµĦ 产 +æ¢ ¦ +æľ Ŀ +è¿Ļ éĩĮ +å¤ « +æĮ ¥ +ä½ Ľ +å® Ī +éĽ ¶ +æĸ ¼ +ç¯ ĩ +å² Ľ +åĵ ¥ +éŃ Ķ +ä¸į åΰ +æī ĺ +åº Ĭ +æ¬ § +èį £ +æ± ĩ +æī © +åģ ı +å¢ Ļ +è® ¯ +å© ļ +æĥ ł +æ´ ĭ +å® ľ +æ¶ ¦ +æħ ¢ +éĢ ı +å® ½ +é¡ ¾ +ç´ ¯ +æ± ¡ +çĪ Ĩ +ç§ Ł +æĥ Ĭ +æ¶ ¨ +é¥ ° +éĺ µ +é¥ ® +æļ ĸ +åº Ł +æĹ Ĺ +éļ Ķ +ç¶ ĵ +åĭ Ļ +å¯ ¦ +éĢ Ķ +æī « +çĥ Ī +éĽ » +åĪ ij +éĹ ľ +éĹ ª +å¥ ĭ +å Ĥ¨ +ç¼ © +ä¾ µ +å ¬ +𬠶 +åĽ½ éĻħ +ç»Ħ ç»ĩ +ä¸ĵ ä¸ļ +åıij çݰ +å¸Į æľĽ +ç»ı èIJ¥ +åı « +æĿ¥ 说 +éļ ľ +ä»» ä½ķ +交 æĺĵ +éĩį çĤ¹ +çļ ® +ç» į +æ´ ¾ +ç§ij åѦ +åºĶ ç͍ +建 çŃij +èĤ ī +æĶ¹ éĿ© +åŁº ç¡Ģ +æ± ī +åĩº æĿ¥ +è¿Ļ ä¹Ī +åĪ ļ +åĿ IJ +ä¸į ä»ħ +ä¼ļ è®® +éĿ ł +åªĴ ä½ĵ +æ° ¸ +åĨ ² +èĭ ı +å¤ ® +çĪ ¶ +åł Ĥ +å®ŀ éĻħ +è¡ Ĺ +ç« ¥ +éĺ ħ +äºĭ æĥħ +åİŁ åĽł +éħ ¸ +以 æĿ¥ +å¨ ± +å® « +åĿ Ĺ +ç» © +éĩ İ +ä¸į å¾Ĺ +ä¼ł å¥ĩ +ç¡ ¬ +åİ ħ +æĹ ¢ +ç» ĥ +èĦ ij +å¼ ± +æİ Į +è´ ´ +æĮ Ĥ +åħ³ éĶ® +å° ļ +é¥ Ń +åº Ħ +çĻ ¼ +åľ ĭ +æİ Ī +个 æľĪ +äº Ī +å¸ ģ +è· Ŀ +æ² ī +ç« Ł +åĨ ¬ +æĬ ½ +éĨ Ĵ +å¼ Ł +è§ ¦ +èģ ĺ +è± Ĩ +æļ ´ +åijĬ è¯ī +è± ª +èµ ¢ +è· ¨ +è³ ĩ +çĪ ¸ +æĬ ± +æµ ª +éº » +ä» ª +è¡ ¡ +å¥ ¶ +çģ ¾ +èµ ¶ +èĤ ¥ +å§ IJ +åĢ º +éľ ĩ +è® ¢ +æ¬ Ĭ +ç · +å» ī +ä¿ Ĺ +å¿ ĺ +å¦ ĩ +ç¼ ĵ +åŃ ķ +æ¼ « +è£ ģ +çĩ ĥ +é» ĺ +çī ¢ +çĪ · +æĬ µ +å® ¾ +æľī ä¸Ģ +è¿ ¹ +è¿ « +è² Į +æľī çļĦ +ð¬ ĺ +è¿ĺ æĺ¯ +æīĢ ä»¥ +ä¹Ł æĺ¯ +è¿Ļ äºĽ +对 äºİ +åIJ § +缮 åīį +èĩªå·± çļĦ +èĥ½ å¤Ł +å¦Ĥ ä½ķ +æľº æŀĦ +åıª æĺ¯ +ç½ij ç«Ļ +åħ¨ éĿ¢ +为 äºĨ +å¼Ģ åıij +æĸ° éĹ» +éĩij èŀį +ç» § +客 æĪ· +ä¸Ģ èµ· +èĮ ¶ +åħ³ 注 +æ°´ å¹³ +åİĨ åı² +å¢ŀ éķ¿ +é ± +åŁº éĩij +åº Ń +åı ¶ +ä¿ ĥ +éĽ ¨ +æ¶Ī è´¹ +èĪ ¹ +çŁ¥ è¯Ĩ +æĪĺ çķ¥ +ç»ı éªĮ +å³ ° +æĽ ² +èĦ ļ +åĨ ° +å¤ ı +å½ Ĵ +ç¬ Ķ +èĻ ij +çĶ ² +åľ Ī +è¯ Ĺ +é½ IJ +容 æĺĵ +çłĶ åıij +éª ¨ +çº ¸ +è· µ +æĹ § +çķ ¶ +åĪ ¸ +è´ · +åı ¬ +ç§ ĭ +æ¶ ² +è¡Į æĶ¿ +çĮ ® +èĤ ¤ +éĢ IJ +è¶Ĭ æĿ¥ +è¶ĬæĿ¥ è¶Ĭ +æĦı è§ģ +èĪ ŀ +åī Ĥ +æ¶ ī +ç¨ĭ 度 +åħ¬ åħ± +æ¢ ° +æľ « +çº ¯ +åĶ ± +æ´ ² +æĬ ¢ +æ¤ į +å¿ Ļ +ä¼ ° +å¼ ¹ +æ³ ī +æľĢ 大 +è¶ ĭ +å· § +ç¦ ģ +æī ¶ +åį ± +çı ł +çĨ Ł +æĭ ľ +主 ä¹ī +æĿ Ĥ +éĻ Ħ +éģ į +æIJ Ń +æĮ ¯ +å¤ļ å¹´ +æķ ¬ +æij Ħ +çº · +å¼ ĥ +æ¹ ¿ +å¨ ĺ +æ¡ £ +é© ¶ +æľ Ĺ +æ® ĸ +æ¦ ľ +åĵ ¡ +ä¸Ģ ä½ĵ +æŁ¥ çľĭ +ç¹ ģ +æµ ĵ +åħ¬ å®ī +æ½ ľ +è´ ¯ +éª Ĺ +æ IJľ +å· ¡ +è ¬ +é Ĭ +å§Ķ ä¼ļ +æĤ ł +åī © +æı Ń +åŃ£ 度 +ð «ĺ +𬠬 +ä ´ +ð ª +ä½Ĩ æĺ¯ +éĥ½ æĺ¯ +å¹³ åı° +åѦ ä¹ł +åĵģ çīĮ +ä¸ Ķ +è¿Ļ ç§į +æĶ¿ çŃĸ +æĭ ¬ +认 为 +ä¸Ģ èά +æłĩ åĩĨ +æĶ¯ æĮģ +模 å¼ı +åħ³ ç³» +çļĦ æĺ¯ +è¿Ļ ä¸Ģ +ä¸į è¦ģ +çĶ ļ +ç²¾ ç¥ŀ +æĭ ¥ +åĪ© ç͍ +ä¿Ŀ æĬ¤ +ä½ľ ç͍ +èĭ ¥ +åĽ½ åĨħ +ä»ĭ ç»į +ä¸Ģ ä¸ĭ +å·¥ ä¸ļ +缮 æłĩ +æľĢ åIJİ +ä»· å̼ +å° į +éĵ ģ +è° ģ +ç»ĵ æŀĦ +éĽ ª +æĻº èĥ½ +ä¼ł 绣 +ä½ĵ èĤ² +çĶŁ æĢģ +æĭ į +æİ ª +åĨľ ä¸ļ +çī¹ èī² +è§Ħ 模 +æĹ¶ 代 +è¿ĩ ç¨ĭ +éĴ Ī +æĿ ¾ +åĶ IJ +åĮ» çĸĹ +çģ ¯ +åζ éĢł +æł¸ å¿ĥ +ä¸į åı¯ +ç³» åĪĹ +åIJ ī +åľ £ +åĢ ij +ä½ ³ +æĿ¥ çľĭ +æ¯Ķ èµĽ +ä¸ĭ æĿ¥ +åĩº äºĨ +å¹² éĥ¨ +å¾® ä¿¡ +å½ĵ åľ° +åį · +åį« çĶŁ +ä¼ Ł +çĸ« æĥħ +è° · +åĩł 个 +éĺ ´ +çĶŁ çī© +å° ¤ +ä¼ Ĭ +èĤ ¯ +éĿ¢ 积 +åĪĽ éĢł +æı ¡ +åľ Ĩ +æĻ ĵ +æĪIJ äºĨ +åĩ ¡ +çĸ ¾ +ç«ŀ äºī +è® ¨ +主 é¢ĺ +é² ģ +è¿ ª +ä¿ Ħ +æĢ ª +ä¸ ¦ +èĻ ļ +æ½ ® +çĥ § +èĢ ³ +æ± ł +éĢĤ åIJĪ +æł¹ æľ¬ +åĬł 缣 +ç͵ è§Ĩ +æ· · +ç¼ ĺ +çª Ĺ +çĬ ¯ +æĥ ¯ +æĦı ä¹ī +åĬŀ æ³ķ +ä¼ ij +æ» ij +åĭ ĩ +æķ ¢ +å¯ » +è¦ Ĩ +éĢ ĥ +ç»ı çIJĨ +åĿ ı +æ³ ½ +ä¹ ĺ +åĪ º +å± ı +é¡ ¿ +äº ¡ +éĤ Ģ +åħ ¼ +åĭ ¤ +æ® ĭ +æĺ ł +æ¯ķ ä¸ļ +æĪ ª +è· Į +å£ ģ +åı¦ ä¸Ģ +羣 å®ŀ +ç£ ¨ +è¯ ļ +å¿ħ è¦ģ +æģ ĭ +æĩ Ĥ +å¾ Ĵ +è° ĵ +æķ ı +æ ύ +èĥ ¸ +æĭ ¼ +å¦ Ļ +è¯ ¸ +èģ Ĭ +æĤ ī +éº ¼ +åĩ Ń +èĪ Ĵ +æ¶ Ĥ +è¿ ģ +æ² ¿ +å¡ ij +æĽ ¿ +æ¾ ³ +å¿ į +èĢ Ĺ +éľ ¸ +åĩł å¹´ +åĪ Ĭ +èĦ ī +èħ IJ +æ¡ Į +çº ł +æ» ļ +æĤ ² +åĨ Ĵ +å¦ ¹ +çķ ħ +çº µ +æij ĩ +å¤ º +è·¯ ä¸Ĭ +å¿ ½ +èĸ ª +æģ IJ +æĦı æĢĿ +å« Į +æı ´ +æ° § +èĢ Ģ +éĺ » +è½ ¨ +å¹ » +æį ķ +åĿ ¦ +åĵĪ åĵĪ +çĭ IJ +æ» ¨ +è² » +è¿ Ł +人 éĥ½ +ç» ĺ +åı ¹ +çµ IJ +æī ° +æ» ĭ +å¥ ij +åĭ Ł +ç¢ º +ð ¦ +éĽĨ åĽ¢ +æĿ İ +å¼Ģ å±ķ +æıIJ åįĩ +åħ¨ åĽ½ +æ±½ 车 +åѦ æł¡ +æł¹ æį® +è¿Ļ æĺ¯ +åĩº çݰ +éĻ Ī +ç½ Ĺ +èİ· å¾Ĺ +åĪ ĺ +éĶĢ åĶ® +æľª æĿ¥ +éľĢ æ±Ĥ +å®ŀ æĸ½ +åĿļ æĮģ +åħ¨ çIJĥ +éĵ¶ è¡Į +æİ§ åζ +é¡ » +åľ° åĮº +æīĵ éĢł +çļĦ è¯Ŀ +帮 åĬ© +ä½ĵ ç³» +è¾¾ åΰ +è§Ħ åĪĴ +åŁ¹ è®Ń +两 个 +æĬ¥ åijĬ +åľ° æĸ¹ +å®Į åħ¨ +æİ ī +ç»ĵ åIJĪ +宣 ä¼ł +æ³ķ å¾ĭ +èīº æľ¯ +ç͵ å½± +èª ª +ä¸Ģ çĤ¹ +è¶ħ è¿ĩ +ç͵ åŃIJ +æĢĿ æĥ³ +æķĻ åѦ +éĺ¶ æ®µ +åķĨ ä¸ļ +çī© æµģ +åĪĽ ä¸ļ +æĸ¹ æ¡Ī +çݰ 代 +æ¡ ¥ +èIJ½ å®ŀ +带 æĿ¥ +产 çĶŁ +ç§ Ģ +æ³ ° +ä¹ ± +åħ· ä½ĵ +åĸ Ŀ +èĵ Ŀ +å® Ĺ +åįĩ 级 +æ·± åħ¥ +ä¿Ŀ éĻ© +ç®Ģ åįķ +çĹ Ľ +稳 å®ļ +è¾ Ĩ +å±ŀ äºİ +å· Ŀ +ä¸į å°ij +åĴ ¨ +举 西 +å½¢ å¼ı +娱 ä¹IJ +æŃ£ 常 +é¸ ¡ +åħħ åĪĨ +å®ŀ è·µ +éĩĮ éĿ¢ +è· ³ +èĻ İ +æĪIJ éķ¿ +æļ Ĺ +çĿ ¡ +ç½ ª +çIJĨ 念 +æĮ ij +èµĦ æľ¬ +å¤ļ å°ij +ä¸ĭ éĿ¢ +å¸ Ŀ +åħ¬ å¼Ģ +æ¸ IJ +éķ · +å± ĭ +欢 è¿İ +å¿ĥ çIJĨ +çĤ İ +æ¹ ¾ +è® ĵ +éĤ Ħ +ç³ ĸ +ä¹ Į +åĬ ± +çī Ļ +èħ ¿ +å² Ĺ +ä¼ į +æĪIJ åijĺ +åŃ Ķ +å°ı ç¼ĸ +èij £ +æ³ ¡ +åħĪ è¿Ľ +åħ § +åĺ ´ +è´ Ŀ +è » +æIJ ŀ +æ³ Ľ +é¸ Ł +ç½ ² +èĽ ĭ +主 ä»» +缮 çļĦ +ä¹ ı +æ´ ¥ +æĪ ´ +严 æł¼ +çħ ¤ +çĮ « +åĶ ¯ +å° Ĭ +çĶ ľ +åŀ ĥ +åľ ¾ +æĭ Ł +çĦ ¦ +é« Ķ +å® ı +æ© Ł +é© » +æĹ ģ +å½ » +éĥ½ ä¸į +æij © +ä» ĵ +ä¹ ³ +å² ¸ +è° ĭ +大 å¤ļ +çģ Ń +èħ ¾ +æŁ ľ +èĪ į +åħļ çļĦ +å° ĺ +åįģ å¹´ +æĭ Ĵ +è£ ¡ +æŁ Ķ +å¹ ¼ +éĶ ģ +ä¸ĵ 项 +æī İ +驾 é©¶ +ç¢ İ +è¢ ĭ +éĶ ĭ +å£ ® +å° ĸ +ç͵ æ±ł +è¿ Ķ +æ¼ ı +å¾ ª +èı Į +èĥ ĥ +è¾ ħ +éĢ Ĵ +èĥ İ +éĻ ª +å¯ ¿ +å¥ Ķ +çĮ Ľ +çº ¹ +çŁ¥ åIJį +å¿ Ĩ +æ¡ ĥ +æ£ ĭ +éĢ Ĩ +çĤ ¼ +ç± į +çī § +æł· çļĦ +è¾ Ľ +åł Ĩ +å®ŀ åľ¨ +ä¼ ı +å® ¿ +èµ ı +è£ Ĥ +åįĬ å¹´ +åĢ ¾ +满 æĦı +æ¢ ¯ +æĦı åij³ +åŃ ¤ +ç¥ Ŀ +æĻ ¶ +èµ Ķ +åģ ¿ +èĦ Ĥ +ç½ ļ +ç¢ į +æ² ĥ +æ ĵį +å´ ĩ +æļ Ĥ +è· ĥ +æIJ ¬ +å© Ĩ +é ī +éī ´ +åħ´ è¶£ +èIJ¥ ä¸ļ +è® Ĭ +èĦ ı +è¾ Ī +å·ŀ å¸Ĥ +è´« åĽ° +ç© · +ä¸Ń å°ı +æ¼ Ĥ +çĻ Į +èľ ľ +ä¼Ļ ä¼´ +çī µ +æĤ Ł +éĻ · +èµĽ åŃ£ +æ¨ £ +åģ ¶ +æĺ Ĩ +è¢ Ń +æį IJ +èī ° +æ Ĥ¬ +çĶ ¢ +èij ¡ +çĽ Ĺ +å© ´ +å° İ +çº ½ +åĢ ¡ +æī ® +è¨ Ń +æĬ ij +ç¡ ķ +è¾ ĸ +éĥ ģ +è¾ © +éĤ » +çݰ åĩº +è¦ ı +å½ ¹ +éĺ Ķ +åī µ +è¯ ± +æĥ ij +æ· Ģ +é¢ Ī +ä¾ ¦ +æģ ° +æ£Ģ å¯Ł +éĨ « +çĦ¶ æĺ¯ +åĭ ĥ +èĮ « +ä ĵ +𠬸 +ä½ľ 为 +çļĦ 人 +éĤ£ ä¹Ī +ç¾İ åĽ½ +è¿ĺ æľī +æıIJ é«ĺ +èĻ ½ +åħ· æľī +åĮħ æĭ¬ +æĪĸ èĢħ +ä¸į è¿ĩ +ä¸Ĭ æµ· +åĮ» éĻ¢ +èµĦ éĩij +çĶļ èĩ³ +åζ 度 +è§£ åĨ³ +èģĶ ç½ij +ç»§ ç»Ń +建 ç«ĭ +è¿Ľ ä¸ĢæŃ¥ +æĿIJ æĸĻ +ä»Ĭ 天 +å¿ħ é¡» +åIJĦ ç§į +çݰ åľº +ä»ĸ çļĦ +å¢ŀ åĬł +é¢Ĩ åŁŁ +åıĤ ä¸İ +æĮģ ç»Ń +ä¹ĭ ä¸Ģ +çī¹ åĪ« +é± ¼ +åħ± åIJĮ +åĬ ª +çİ ī +人 们 +åħĪ çĶŁ +ä¼ĺ åĬ¿ +ä¿Ŀ æĮģ +ä½ľ åĵģ +çī Ľ +æĪIJ æľ¬ +æĶ¶ åħ¥ +åıĬ æĹ¶ +è´Ł è´£ +æİ¥ åıĹ +èį IJ +åıª è¦ģ +羣 çļĦ +导 èĩ´ +æľº åζ +è¡Į åĬ¨ +æĸ° çļĦ +å®Į åĸĦ +为 ä»Ģä¹Ī +ä¸Ń 央 +æĪIJ ç«ĭ +æĦŁ è§ī +åıĺ åĮĸ +åıĹ åΰ +å¹¶ ä¸į +åŃ Ļ +æĸ½ å·¥ +æĺİ æĺ¾ +è¿ĩ åİ» +åıij æĮ¥ +羣 æŃ£ +åŁº åľ° +æĺİ ç¡® +èĥ ¡ +许 å¤ļ +ä¸Ģ å¹´ +æĸ¹ åIJij +æģ © +缸 ä¿¡ +åľ ³ +详 ç»Ĩ +äºĭ ä¸ļ +çĶŁ åij½ +åĴ¨ 询 +æĸĩ æĺİ +çij ŀ +绿 èī² +èİ « +æĦı è¯Ĩ +æĬķ åħ¥ +åĬł å¿« +æ¢ ħ +ç¿ » +å¼Ģ æĶ¾ +æĻ® éĢļ +åįı ä¼ļ +æĪIJ 绩 +ä» Ļ +å¯ Ĵ +è¯ģ åΏ +认 è¯Ĩ +ä¸ ¹ +大 éĩı +è¿ ħ +åģļ åΰ +设 æĸ½ +è´¸ æĺĵ +èĥ½ æºIJ +æĹ¶ æľŁ +ä¸Ģ 天 +æ²» çIJĨ +åĺ ī +å® ĩ +丰 å¯Į +举 è¡Į +æĪIJ æŀľ +èĤ¯ å®ļ +çĭ Ĺ +åĬ¨ åĬĽ +æ£ ® +åĩł ä¹İ +åĽł ç´ł +æ°ij æĹı +æ´ ŀ +ç½ij åıĭ +åIJĪ çIJĨ +广 大 +æ® Ĭ +æ´ Ľ +æĿ ¯ +èĴ Ļ +ç͍ äºİ +èŀį èµĦ +ç¥ ĸ +æľº 械 +举 åĬŀ +èĩª åĬ¨ +åĬŀ åħ¬ +é» ŀ +éĽ Ħ +å̼ å¾Ĺ +çĮ ª +以 为 +æĺ Į +è·Ŀ 离 +åIJ¸ å¼ķ +ç» ķ +éļ Ĩ +计 ç®Ĺ +éĺŁ ä¼į +大 ä¼ļ +å¼ķ èµ· +çī¹ çĤ¹ +èĥ ¶ +å¹´ è½» +æľ¬ 身 +æľº åħ³ +å®ĺ æĸ¹ +éĥ ij +æµ Ļ +è§Ĵ èī² +èij£ äºĭ +为 主 +æĹł 论 +ä¹ł æĥ¯ +æ¥ ļ +æĭ ĵ +绣 计 +åħ Ħ +广 æ³Ľ +åį Ģ +污 æŁĵ +è« ĭ +èĬĤ 缮 +ä¼ ¦ +è¦Ĩ çĽĸ +èĢ IJ +æī¶ è´« +ç»ı åİĨ +éĩįè¦ģ çļĦ +èĤ¡ 举 +æĭĽ èģĺ +åĽĽ 个 +æĩ ī +èĥ ŀ +æij Ĩ +é«ĺ éĢŁ +éº ¦ +åİŁ åĪĻ +èİ ± +æĽ´ 好 +éķ ľ +åĩ Į +åŀĥ åľ¾ +éĢ ² +çģ ° +éĵ º +äºĭ æķħ +çĶ ĺ +空 æ°Ķ +é¾ Ħ +èı ² +çĵ ¶ +æĺ ¨ +æĹ¥ æĬ¥ +æµ ® +åľ° åĽ¾ +åij Ī +大 åĬĽ +ç» ª +å¸ ħ +æľį åĭĻ +ä¸į éĶĻ +乡 æĿij +å± ¥ +å¹³ æĸ¹ +éĹ ² +æī £ +ç´ł è´¨ +èµ ´ +éģ Ń +èIJ ¨ +èĩª 主 +éĩij å±ŀ +èī¯ å¥½ +两 å¹´ +æ³ ¥ +é¢ ľ +ç²¾ 彩 +ä¸Ń åįİ +æĻ ĭ +ä¹ł è¿ij +ä¹łè¿ij å¹³ +æĪĺ 士 +åģļ çļĦ +éª ij +æ» ´ +çĵ ľ +çīĪ æĿĥ +èĤ ł +æľĥ åĵ¡ +çı į +ç¨ ® +ä »¿ +çī© ä¸ļ +åĢĭ 人 +å¦ » +ä¼ ¸ +æ± Ĺ +æĹ º +çIJĨ æĥ³ +æij ¸ +è¿Ŀ æ³ķ +å®Į æķ´ +åİ ¦ +è¸ ı +æĸ ij +æ¡ Ĥ +ä½ĵ åζ +å¸ « +æĿ Ĩ +æ® ¿ +æ¯ ģ +é¦ Ī +è§Ĵ 度 +æ¬ £ +çĥ ¦ +èĤ º +éĩĩ 访 +æij ĺ +æĮ ¡ +æ· ĺ +åħ» èĢģ +çĤ ¸ +è¿ Ī +åİ ī +åĿ Ĭ +è¾ £ +åĩ Ŀ +æ³ ª +çĸ ı +æİ ĺ +åĥı æĺ¯ +éĽ ķ +ç¼ Ŀ +èį · +æį · +åł ¡ +åı¥ è¯Ŀ +çĸ ¼ +æł ı +éģ µ +ç¢ ³ +å·¥ åķĨ +æIJ º +åĪ ¥ +ä¹ Ļ +æĹ ĭ +æĥ ľ +ä¸Ģ 大 +å±Ĥ 次 +èµ ĸ +æĬ ¬ +æ¨ Ĥ +è¯ ŀ +åħ Ĵ +ç¯ ® +èĤ ĥ +å§ ¿ +æĬ ļ +çĵ · +ç͵ åĬ¨ +æĸ° åĨł +æ¶ µ +ç¢ ij +æ· ® +æĹ ¨ +è¸ ª +æ¸ Ķ +æĦ Ī +åı Ķ +åįĹ çľģ +ç¾ © +å§Ķ 书记 +è² ¸ +æ¶ Į +è« ĸ +èIJ Ħ +æı ı +å¿ § +è¾ ¦ +å¦ Ĩ +æī Ń +åij µ +éģ ¥ +è¨ ± +ä» ĩ +åįģ ä¸ī +åī ² +èª į +èĪ ° +é¢ ĩ +é¥ ± +çĭ ł +é«ĺ çļĦ +çµ ± +æħ İ +é¢ ģ +åIJĪ éĢĤ +æµ ´ +èµ ĭ +æĬ ¼ +å¦ ¥ +éĻ¢ éķ¿ +èĢ ķ +è¾ ¨ +æħ ° +åįģ åĽĽ +æľ µ +èĵ Ħ +æŀ ¢ +å» · +æĤ Ħ +æ¶ ¯ +çŁ © +åŃIJ éĩĮ +çĬ ¹ +å±Ģ éķ¿ +é IJ +å¥ ł +ä¼ļ éķ¿ +æĵ ļ +ä¸į åıĬ +åįģ ä¹Ŀ +æ¬ º +èº º +éĺ IJ +çº Į +è¨ » +åĨ Ĭ +èŃ ĺ +é«ĺ çŃī +èħ º +å¤ ķ +ç» ij +åĶ ¤ +èķ ´ +çķ ľ +æħ ĭ +åı Ļ +åı ĥ +å³ ¡ +人 大 +éħ ¿ +éģ © +å¥ ¢ +åı£ æ°Ķ +éĮ Ħ +é ı +åĭ ĺ +è´ ¿ +éļ ª +é ĭ +éļ ¶ +ð ¥ +𬠣 +ð £ +ð« į +𬠳 +ð« ĵ +ð« Ħ +ð« Ł +𨠱 +ä Ĺ +以 åıĬ +æľī éĻIJ +åij ¢ +åIJ Ĺ +çľĭ åΰ +计 åĪĴ +è¿Ľ åħ¥ +缴 æİ¥ +åĪĨ æŀIJ +åıª æľī +设 å¤ĩ +åħ¶ å®ŀ +åĬł 强 +ä¸Ń çļĦ +ä¿Ŀ éļľ +èĢģ å¸Ī +人 æīį +å¾Ĺ åΰ +é£İ éĻ© +ä¸Ģ ç§į +空 éĹ´ +æĪij åĽ½ +ä¹ĭ åīį +ä¸ĵ å®¶ +æĿ ¨ +æĹ¥ æľ¬ +群 ä¼Ĺ +åıĤ åĬł +æķĪ æŀľ +æľī åħ³ +å®¶ åºŃ +åĮº åŁŁ +åĬª åĬĽ +éļı çĿĢ +æĹł æ³ķ +交 æµģ +è¡Į 为 +æ£Ģ æŁ¥ +æľŁ éĹ´ +å¦Ĥ æŃ¤ +èĤ¡ 份 +å½ĵ æĹ¶ +è£ħ å¤ĩ +åĩĨ å¤ĩ +éħĴ åºĹ +è¿IJ åĬ¨ +æıIJ åĩº +å·¦ åı³ +æİª æĸ½ +é£Ł åĵģ +æ¶Īè´¹ èĢħ +åѦ éĻ¢ +æĮĩ 导 +è¿IJ èIJ¥ +éĩį 大 +åĨľ æĿij +éĢł æĪIJ +æĶ¿ æ²» +éĴΠ坹 +æŃ£ å¼ı +åıĸ å¾Ĺ +éĤ£ 个 +éĽĨ ä¸Ń +åıª èĥ½ +å¿« éĢŁ +身 ä½ĵ +åħļ åijĺ +èģĶ åIJĪ +åĬĽ éĩı +éĥ½ æľī +æ ħ§ +å¡ Ķ +åĪ« 人 +表 çݰ +æķħ äºĭ +ä¸Ģ åĪĩ +å° ĩ +èµĦ æĸĻ +åŁ¹ åħ» +éĺħ 读 +æľī 人 +èIJ¥ éĶĢ +çĽij çĿ£ +çݯ ä¿Ŀ +èĢĥ èĻij +æ·± åľ³ +严 éĩį +èĮĥ åĽ´ +å§Ķ åijĺ +çĽij 管 +ä¸ī 个 +è£ħ ä¿® +åħ¬ éĩĮ +åĪĨ åĪ« +çIJĨ è§£ +éŁ © +åĬł å·¥ +认 羣 +ä¸į 好 +åİ» å¹´ +éĻį ä½İ +æľº ä¼ļ +åįı è®® +符 åIJĪ +å¢ŀ 强 +æĬĢ èĥ½ +é¦ĸ åħĪ +ç§ ¦ +ä¸ ģ +å° ¾ +æľī äºĨ +åľ° 产 +æ¸ ł +æĸ¹ 便 +ç§» åĬ¨ +éĢŁ 度 +å°¤ åħ¶ +éĢļ çŁ¥ +åĿ Ľ +éģ¿ åħį +æģ ¢ +è´ ¡ +èģĮ å·¥ +å®ŀ åĬĽ +æĺ¯ä¸Ģ ç§į +åIJ¯ åĬ¨ +çĸ¾ çĹħ +æĿ¥ äºĨ +缸 对 +çݰ å®ŀ +èŀį åIJĪ +åIJĮ æł· +åħ¬ åijĬ +çī¹ æ®Ĭ +ç´ « +ä¸ĭ åİ» +ä¼ł æĴŃ +æľĢ 好 +ä¼ĺ è´¨ +æ² Ĵ +æĮ º +æĹ ¦ +è¯ º +ä¸Ģ åIJį +éģĵ è·¯ +示 èĮĥ +è¿ĩ æĿ¥ +åIJĮ åѦ +é¼ ĵ +æĿ Ń +æľ¬ 次 +åIJĮ æĦı +ä¸ĸ 纪 +ç¾ Ĭ +æ¬ ² +å·¥ èīº +çĵ ¦ +人 士 +æľī æīĢ +ä»İ äºĭ +æľī å¾Īå¤ļ +ä¸į äºĨ +å²Ĺ ä½į +åıĺ å¾Ĺ +åĬ³ åĬ¨ +å¤Ħ äºİ +å¹³ åĿĩ +å½¢ 象 +å¡ ŀ +åħ± 享 +çĿ Ľ +åĪ© 润 +æŃ£ æĺ¯ +å¾Ģ å¾Ģ +缸 æ¯Ķ +æ¨ ª +åĪ · +æµĻ æ±Ł +大 éĥ¨åĪĨ +å¤ļ 个 +æĤ¨ çļĦ +ç͵ åķĨ +å¾® åįļ +å§ĭ ç»Ī +çĬ¯ 罪 +æĺ¯ åľ¨ +ç»Ħ åIJĪ +åİŁ æĿ¥ +æ¸ħ æ¥ļ +åIJĦ åľ° +æĦŁ åıĹ +å½ĵ ä¸Ń +è¶ĭ åĬ¿ +æĻ¯ åĮº +羣 æĺ¯ +ä¾Ľ åºĶ +转 åŀĭ +çĭ Ĥ +èĨ ľ +èĭ Ĺ +å¿ ł +å¾Ī 大 +èĤ¡ æĿĥ +ç¾İ åħĥ +æİĴ åIJį +åĬ¨ çī© +éĶ ħ +å¢ ¨ +主 å¸Ń +å¾Ī 好 +ç»Ŀ 对 +æĿ ľ +转 è½½ +çĴ ĥ +æĿij æ°ij +åIJ ¨ +åĽŃ åĮº +é«ĺ 度 +çī© è´¨ +è¾ ī +æĹ¥ 常 +æı Ĵ +ä¸ī å¹´ +ä½ĵ çݰ +æīį æĺ¯ +代 çIJĨ +ä¸į 管 +æģ Ĵ +åľ° ä½į +ç² ® +èĸ Ħ +æĺİ çϽ +ä¸Ģ èĩ´ +æĽ ¼ +åĵ Ń +åĩ ¤ +åĬ ² +æķ Į +æĪĺ æĸĹ +主 ä½ĵ +åħ¬ å¸ĥ +åıĤ èĢĥ +èĪª 空 +å¯ º +åѦ ä¼ļ +åıį æĺł +ç¾İ 丽 +太 éĺ³ +建 æĪIJ +æħ¢ æħ¢ +åIJĦ 个 +éĤ ¦ +ç»Ħ æĪIJ +ä¸ī 大 +éĶ ¦ +大å¤ļ æķ° +æ¦Ĥ 念 +éŃ Ĥ +åħ¬ çĽĬ +èį Ĵ +身 份 +æ·± åĪ» +åħ © +ç»ı åħ¸ +åIJĦ 项 +èĻ ķ +è¿Ľ æŃ¥ +åįģ äºĮ +æī§ æ³ķ +æĥ³ åΰ +æĦŁ æŁĵ +åķĨ åĬ¡ +å°ı ç»Ħ +èĶ ¬ +çıŃ åŃIJ +åIJĮ å¿Ĺ +éĿ¢ 临 +çĤ Ĵ +å¤ļ ç§į +è§Ĥ çĤ¹ +åĵª éĩĮ +å° Ŀ +å§ Ĩ +èħ ¹ +åŁİ åĮº +太 å¤ļ +çĹħ æ¯Ĵ +åľ¨ äºİ +æīĢ è°ĵ +æĻ ° +æŀ Ŀ +æĭ ĸ +å® ħ +æķ´ æ²» +ä½ı æĪ¿ +åģ · +çĨ Ĭ +èµ ģ +æ° Ľ +æł¼ å±Ģ +åŁºç¡Ģ ä¸Ĭ +èĥ Ĩ +åħ ½ +鼶 åĶ® +åĿ ¡ +女 åŃ© +æĴ ŀ +åħ¨ åĬĽ +åĴ ĸ +èĤ © +çľ ī +èĩ³ äºİ +åħļ ç»Ħ +ä¸Ģ ä»¶ +æĭ Ĩ +äºĭ å®ŀ +åĤ ³ +æ¹ ĺ +ç¶² ç«Ļ +循 çݯ +åIJĮ æ¯Ķ +æĭ Ķ +åĮ» èᝠ+åħ» æ®ĸ +åĽº å®ļ +å®ŀéĻħ ä¸Ĭ +è®° å¾Ĺ +åĪ© äºİ +æĤ ¦ +æĭ ³ +èĤ Ŀ +æķĪ çĽĬ +è© ² +æ°ij 主 +çĹĩ çĬ¶ +é¢ ¨ +å¹¼ åĦ¿ +å§ ij +æĪ Ĵ +ä¸ĭ çļĦ +æ¸ ¡ +å¹´ åºķ +è®° å¿Ĩ +åIJ IJ +大 å¹ħ +å¾ ½ +åħ¬ ä¼Ĺ +ä¿¡ å¿ĥ +çİ Ľ +ä¼ļ ä¸Ĭ +ä¹ Ķ +æijĦ å½± +æ£ĭ çīĮ +éĻ ķ +åºĶ æĢ¥ +æĶ¶ è´¹ +æİ§ èĤ¡ +仪 å¼ı +çŀ ¬ +æīĢ åľ¨ +ç¢ ° +å§ ĵ +é¡ Į +æĶ¯ éĥ¨ +使 åij½ +çĤ ī +å¯ Ħ +ç¿ ¼ +åľ° ä¸ĭ +è¾ ŀ +ä¿ ± +主 æĮģ +è´§ å¸ģ +æģ ¨ +èĤ Į +çĽ Ī +éĶ » +å¿Ĺ æĦ¿ +ç±» ä¼¼ +æĮ ĸ +éĢ » +ç¸ ½ +纪 念 +åķ ¥ +å¼ ¯ +åIJį åŃĹ +åģ¥ èº« +çļĦ å¿ĥ +é© ± +èĥĮ åIJİ +æ³ķ å¸Ī +ç² Ĵ +èĥ½ éĩı +è¾ ° +èī ³ +å½ ¼ +段 æĹ¶éĹ´ +åIJĪ æ³ķ +æĵ ¦ +ç¾ ½ +åİ ¨ +æĪij 说 +äºĭ åĬ¡ +åĩł 天 +åħ ģ +ç¼ ´ +åį ĵ +两 ç§į +çĭ¬ çī¹ +å¸ ¶ +éĴ » +æĥ © +é¢Ĩ åħĪ +è¶³ å¤Ł +å£ ³ +æĦıåij³ çĿĢ +åĪĨ å¸ĥ +ä¹ ĥ +éģ ĭ +ä½ © +è° ± +çģ £ +èį ¡ +è´¯ å½» +å¹ ¾ +ç£ ģ +åħ¸ åŀĭ +åī ĩ +åĨ » +æ¬ ł +ä¸į ä¹ħ +æµ ¦ +éŃ ħ +å¼Ģ äºĨ +使ç͍ èĢħ +è¿Ļ 款 +å° Ī +èĦ± è´« +æĶ» åĿļ +ç®Ĺ æĺ¯ +ç¨ Ģ +æĹł 人 +åł µ +å¥ ı +éĥ½ å¸Ĥ +åı¯ è§ģ +ä¸į åĩº +æ ·» +äº ı +ç¾İ 好 +èĥ ĸ +éŁ µ +æłĩ å¿Ĺ +èĬĤ èĥ½ +æĬ « +å° º +å¯ ¸ +ä¸Ģ 代 +é¢ Ĺ +èĢ ¶ +èĴ ¸ +åĸ ® +æ »¿ +çĮ ľ +æµ Ĩ +åŁ ĥ +åįĥ ä¸ĩ +èµ Į +èģ ² +ä½ľ é£İ +è³ ª +å¯ ¨ +å¹´ 人 +åį° è±¡ +æ¡ ¶ +æĴ ¤ +åįģ äºĶ +æ¯ ħ +æ² ª +åĽ½ æľī +大éĩı çļĦ +å¾ ¡ +å¯ ĵ +è¦ ĸ +æ¼Ĥ 亮 +çľ ł +ç ĤŃ +é» İ +èĻ ¹ +åĪ© äºļ +èŃ ī +æµ ı +åįģ åħ« +ä¸ ¢ +è¾ ½ +æľīä¸Ģ äºĽ +æħ Ī +åģľ è½¦ +å® ł +è§£ æĶ¾ +æľī å¤ļ +éĤ Ĭ +常 è§ģ +æĬ ¹ +çº ¤ +è¦ ª +æ¡ Ĩ +èİ ŀ +æ°§ åĮĸ +è¿Ļ ä»¶ +åĩ ° +æŁ ´ +åıij ç͵ +é¼ ł +转 åĮĸ +å¨ ĥ +æĮ ¤ +ç½ © +å¯Ĩ åĪĩ +æĪij ä¸į +é«ĺ æĸ° +ä¸Ģ ç¯ĩ +è¿Ľ ç¨ĭ +è¡ ° +è¿ĺ ä¸į +ç ħĮ +æĸ° åįİ +èĤ ¿ +æ» © +ä¸Ģ æµģ +è¯ Ī +å®ŀ ä½ĵ +å¤ĸ åĽ½ +èº ² +èµ ł +è¦ º +æ¢ Ŀ +ä¸į è§ģ +è¨ Ĭ +åĮ ¹ +åį µ +çĩ ¥ +æħ ķ +é½ ¿ +å® ´ +é¥ ¼ +èij¡ èIJĦ +å°ı å¿ĥ +æģ ¼ +éĻ Į +æĺ Ĥ +åĥ ¹ +èĬ Ŀ +æ¯ı 个人 +åīį æıIJ +ä½ĵ ä¼ļ +æ¨ Ļ +æIJľ çĭIJ +对 åħ¶ +ä¸ § +èľ Ĥ +æµ ¸ +èª ¿ +åĿ ª +é¢ ĸ +åIJį 为 +ç¬ ¼ +èĪ Į +æľ¬ 书 +èģ ¯ +çº º +ç®Ģ 缴 +éĽ ¢ +ç¾İ çļĦ +éļ ¨ +é«ĺ å³° +è¿Ļ å®¶ +å Ĥ¬ +å° ¸ +ç¡ķ 士 +èŃ · +è° ¨ +æĺ ı +æĶ¿ åįı +è¡ Ķ +ç¿ Ĵ +åľ Ĵ +åĽ½ æ°ij +主 è§Ĵ +è£ ķ +ä¼ ª +åº ŀ +æ°ij èIJ¥ +æĥ § +ç§ĺ 书 +çĹ ķ +çϾ åĪĨ +æº ¶ +æĹł çĸij +çļĦ çľ¼ +æĵ İ +ä¼Ł 大 +å½ ° +åħ¬å®ī å±Ģ +ç³ ķ +å¼ ¥ +åĤ Ļ +ä¹ ¾ +毫 ä¸į +注 æĺİ +åī¯ æĢ» +æĦ ī +æķ ¦ +é¦ ¨ +æĶ Ģ +éĢ Ŀ +åı¯ éĿł +å¤ ¸ +åľ ĺ +éĿ¢ ä¸Ĭ +æĬ ĸ +èĦ Ĩ +é© ° +ä¼ IJ +å¦ ¨ +å®ļ äºĨ +ç³ Ĭ +æŃ ¡ +éĥ¨ éķ¿ +ç§ ī +èĪ Ĩ +åĪij äºĭ +åIJ µ +æ¤ Ĵ +è¡ ĵ +è± « +èı © +åŃ µ +é¥ ² +å°± 好 +åł ª +ä¸ī è§Ĵ +åľº æ¯ĶèµĽ +ä¸į åģľ +æĵ ħ +åħ¨ æĸĩ +æ³ ģ +åѦ ä½į +æ± ° +éł ĺ +åı ł +éļ Ľ +å¸ IJ +çľĭ åĩº +åĮ ł +å±Ģ éĿ¢ +æ³ Į +è° Ĭ +åIJĮ æľŁ +æĬķ æłĩ +å¥ ´ +æĿ¥çľĭ çľĭ +èĦ ¾ +èŀ º +æŃ ī +çĽ ¯ +ç¨İ åĬ¡ +å» Ĭ +æİ © +æħ ¨ +çĽ ¼ +èĬ Ĵ +è® Ģ +æĮ £ +èĮ ħ +æĸ ¥ +æ¤ ħ +åΰ æĿ¥ +èijĹ ä½ľ +çĭ ± +äºĮ æīĭ +ä»İ æĿ¥ +çĸ ² +åºĬ ä¸Ĭ +æĸ° 浪 +æ³ Ħ +å¢ŀ å̼ +ä¸ Ľ +æļ ij +ä»İ ä¸ļ +æ· ĭ +å¤ļ æł· +æľ ´ +份 é¢Ŀ +æŀ £ +西 çľģ +æľ¬ è´¨ +æ·± æ·± +èī ĩ +ç» µ +产 å̼ +æ¼ ł +èħ » +çŃ Ľ +åİ Į +æģ Ń +å«Į çĸij +æĪ ¶ +æ» ŀ +èĨ Ģ +åĬ £ +座 è°Ī +常 æĢģ +çļĦ æĥħ +è¦ ½ +å¯ Ĥ +åĮ Ĩ +èĩ º +é¡ ¯ +çķ ı +éģ £ +åį ľ +çŃī å¥ĸ +è² ¬ +æº ¯ +é İ +çĤ¹ 头 +èĵ ¬ +æ± º +éħ ¬ +éģ Ĭ +è³ ¼ +註 åĨĬ +æľ¬ æĬ¥ +çµ ķ +æ´» æĢ§ +åħ ij +éĮ ¯ +åĨ ¶ +åĸ » +æº ĸ +èĤ ¢ +æº ĥ +æĹ ¬ +åī Ĭ +çIJĨ äºĭ +å± ł +æ² § +èļ Ģ +鼻 åŃIJ +为 æŃ¢ +常 å§Ķ +çµ Ĥ +éĬ · +çĭ Ģ +ä¾ £ +èĥ Ģ +èŃ ° +ç͍ 车 +åĻ ª +æŃ · +åį Ķ +åĪ ¹ +竣 æĺ¯ +é© Ĺ +èIJ Ŀ +çĻ « +çĹ « +æŃ § +å¼ Ĭ +åª ½ +çı Ĭ +è¡ · +éľ ī +åŁº çĿ£ +éļ ± +æ° ¨ +ç» ¸ +å°¼ æĸ¯ +çĥ ĺ +æľŁ åĨħ +è° ħ +éĽ ĩ +éļ Ļ +å ĸī +åī ¥ +çĹ ĺ +æĮ ½ +çĵ £ +æ¹ Ľ +æ¨ ± +æ¾ İ +æ¹ ĥ +åĨ¬ 奥 +æ£ µ +å® ° +åŀ Ĵ +æ§ ĭ +ä¾ Ī +èĮ Ħ +åĺ ¿ +èı ĩ +ç ĻĤ +åĬ ĥ +é į +èĶ ½ +çŀ Ń +æķ ŀ +ä¹ ĸ +éŁ § +è¾ ľ +æĩ Ī +ä½ £ +çŀ » +åŁ Ķ +èĪ ħ +å®ŀ äºĭ +é ¨ +å§ ¥ +çµ ¡ +åĺ » +çķ ¢ +æ²ĥ å°Ķ +è¿ Ħ +èĤ ĩ +æħ ij +ã § +ä ı +ð ł +ð¬ ĩ +ð« Ń +ð« IJ +ã ³ +© ½ +ð« ł +ã Ľ +ð¬ į +é ¿ +ð¬ Ĵ +ã Ļ +𬠤 +ð ¬´ +ð« ĸ +ð ¤ +ã ¬ +ä ² +ð« Ķ +ð« ļ +è¦ģ æ±Ĥ +ä¸Ģ äºĽ +å®ŀ çݰ +èĢĮ ä¸Ķ +åĽł æŃ¤ +çͱ äºİ +åħ³ äºİ +çĦ¶ åIJİ +æİ¨ åĬ¨ +ä¸Ģ æł· +æĮī çħ§ +è¿Ļæł· çļĦ +å½¢ æĪIJ +æľī äºĽ +æĽ´ åĬł +ç»ı è¿ĩ +建 è®® +æ²» çĸĹ +ä½ł 们 +æīį èĥ½ +ä¿ĥ è¿Ľ +åijĺ å·¥ +ä½ĵ éªĮ +èĪ ĩ +åģļ 好 +ä¿Ŀ è¯ģ +æķ´ 个 +æĺ¯ ä¸Ģ个 +éĩĩ ç͍ +çIJĨ 论 +æ¯Ķ å¦Ĥ +ä¸Ĭ çļĦ +æİ¨ èįIJ +çͳ 请 +天 空 +éĥ¨ èIJ½ +åįģ åĪĨ +æĿ¥ èĩª +ä¹ĭ éĹ´ +è°ĥ æķ´ +æ¯ı 天 +è°ĥ æŁ¥ +æĤ£ èĢħ +è¿ĩç¨ĭ ä¸Ń +é¦Ļ 港 +广 åijĬ +éĿ¢ 对 +满 è¶³ +éķ¿ æľŁ +è§Ħ èĮĥ +æķ´ ä½ĵ +æĶ¹ åıĺ +æĻº æħ§ +å¦Ī å¦Ī +å¦Ĥ ä»Ĭ +åIJĪ åIJĮ +éĥ½ ä¼ļ +åĦ¿ ç«¥ +åĩı å°ij +éŁ³ ä¹IJ +ç»ı 常 +ä¸Ĭ å¸Ĥ +ä¼ĺ ç§Ģ +çļĦ éĩįè¦ģ +ä¸Ģ æĿ¡ +æµ· å¤ĸ +åı¦ å¤ĸ +ä¸Ģ å®¶ +åİĭ åĬĽ +大 åŀĭ +çľĭ çĿĢ +åĪ Ģ +幸 ç¦ı +æİ¨ 广 +åIJ Ľ +å¾ IJ +æī¾ åΰ +äºİ æĺ¯ +èĩª 身 +ä¸Ģ ä½į +åľŁ åľ° +åĬł åħ¥ +æİ¢ ç´¢ +æ¢ ģ +主 åĬ¨ +å°± ä¸ļ +女 æĢ§ +çªģ çł´ +ä¸įåIJĮ çļĦ +è¿IJ è¾ĵ +èĩª çͱ +å±ħ æ°ij +æŃ¤ 次 +çļĦ æĹ¶éĹ´ +å®¶ éķ¿ +ä¸Ģ个 人 +æ£Ģ æµĭ +åĨħ éĥ¨ +广 å·ŀ +缴 æĴŃ +ä»İ èĢĮ +è´· 款 +åı¬ å¼Ģ +æĶ¹ éĢł +人 çĶŁ +å±ķ 示 +æ¯ı å¹´ +女 人 +çļĦ æĸ¹å¼ı +æķĪ çİĩ +å±± 举 +æ¸ł éģĵ +ä¼¼ ä¹İ +æ¡Ī ä»¶ +åĪ© çĽĬ +çľĭ çľĭ +å¿ĥ éĩĮ +ç»´ æĬ¤ +å®Ŀ å®Ŀ +ç½ij ä¸Ĭ +论 åĿĽ +å°± åı¯ä»¥ +ä¸į è¶³ +æģ¢ å¤į +å¸ĥ å±Ģ +è´¡ çĮ® +ä¸ĭ éĻį +æİĮ æı¡ +çļ® èĤ¤ +å·¥ åħ· +éĩį åºĨ +åĵģ è´¨ +æİ¨ åĩº +çĶ· 人 +æī¿ æĭħ +çªģ åĩº +èĢĮ è¨Ģ +æ² Ł +åįı è°ĥ +æĺ¯ ä»Ģä¹Ī +æ± ¤ +æĴ ij +çĭ¬ ç«ĭ +çݯ èĬĤ +æī© 大 +æ´ ª +æĿ ° +çĽ IJ +ä» ģ +æ¶ī åıĬ +èĢģ 人 +åį³ ä½¿ +åįĹ äº¬ +éħį åIJĪ +é¬ ¼ +çζ 亲 +ç½Ĺ æĸ¯ +å°ı åĮº +æķĻ æİĪ +åĨ³ çŃĸ +é¢Ħ 计 +æľ¬ 人 +ä¼ ¯ +ç« ¹ +åΰ åºķ +å¸Ĥ æ°ij +åĩº åı£ +éĩĩ è´Ń +æĢ» ç»ĵ +æŃ¦ æ±ī +åĬł 大 +广 举 +æµģ ç¨ĭ +人 åı£ +å¦Ĥæŀľ ä½ł +åĩº åİ» +åĩ ī +åĨľ æ°ij +çݰ 象 +åĬĽ 度 +ç»Ļ äºĪ +åħļ å§Ķ +è¯Ń è¨Ģ +线 ä¸Ĭ +æĢİ æł· +åĦ¿ åŃIJ +ç¡® å®ŀ +ä¹ĭ å¤ĸ +éĥ½ åľ¨ +èī ¾ +çļĦ æĥħåĨµ +éĩĮ çļĦ +åĽ´ ç»ķ +æĽ´å¤ļ çļĦ +ä¾Ŀ æ³ķ +åħ¬ åĽŃ +å®¶ éĩĮ +æ¯į 亲 +ä¸į åĨį +èĭ ¹ +æ³ķ éĻ¢ +飩 åĽ½ +缸 å½ĵ +ä¸į çŁ¥ +è¯Ħ ä¼° +ä¸į ç͍ +顺 åĪ© +éĩį è§Ĩ +è´¢ åĬ¡ +ä»ĸ åĢij +åıij è¡Į +ä¸ĵ éŨ +åħ· å¤ĩ +å¹¶ ä¸įæĺ¯ +è¶³ çIJĥ +é ŀĭ +åıij 表 +æ°¸ è¿ľ +èIJ¥ åħ» +éħį å¥Ĺ +æķ´ åIJĪ +è´ º +åĽŀ çŃĶ +æĶ¶ çĽĬ +ä¹Ł 许 +è» Ĭ +æİ¥ 触 +æĶ» åĩ» +åĽĽ å·Ŀ +æĢ§ èĥ½ +åĽŀ åΰ +èħ ° +ä¹Ł 没æľī +å¼ Ħ +设 ç«ĭ +éĺ² æİ§ +æĬĢ å·§ +éĢļ 常 +è´¢ æĶ¿ +éĥ¨ ç½² +åľº æĻ¯ +æ±Ł èĭı +表 è¾¾ +åĸ · +女 åĦ¿ +èĪ ¶ +çµ ¦ +ä¼ļ åijĺ +æĪĸ 许 +äº © +举 æĸ¹ +天 æ´¥ +è¿ij å¹´ +çľĭ æĿ¥ +æ¯Ķ ä¾ĭ +å² © +éĵ ľ +çİ » +å®ŀ éªĮ +æĢĿ ç»´ +æĭħ å¿ĥ +æ² Ī +身 è¾¹ +æ·± åĮĸ +ç²¾ åĩĨ +ç§ģ æľį +æ¶Ī éĺ² +åİ» äºĨ +ç»Ĩ èĥŀ +çIJĥ éĺŁ +æĺİ æĺŁ +é£Ł çī© +å¾Ī å¿« +让 ä½ł +ä¿¡ ç͍ +å͝ ä¸Ģ +åħ¶ å®ĥ +çŃī æĸ¹éĿ¢ +å¾ĭ å¸Ī +æŃ» 亡 +æ Ł³ +ä¸Ģ æī¹ +ä¸Ĭ 涨 +æľº åľº +å½¢ åĬ¿ +æĦ¿ æĦı +éĽĨ ä½ĵ +æĸ° åŀĭ +æį٠失 +æĽ ¸ +ä¸ĭ åįĪ +æ¯ı 次 +æĪIJ å°± +åħ¬ è·¯ +èĻ « +åĴ ± +西 å®ī +æľĢ ä½³ +ç§ij çłĶ +å¤į æĿĤ +æľº åύ +çα æĥħ +çħ§ çīĩ +å¹´ é¾Ħ +è³ĩ æĸĻ +ç² Ĺ +åĩĨ ç¡® +åĬł ä¸Ĭ +åĩº çīĪ +è° IJ +å®¶ å±ħ +èĥĮ æĻ¯ +ä¸Ģ 线 +äºĭ 项 +åĬ¨ ä½ľ +ç¥ ¥ +æĢ» ä½ĵ +æĪ¿ åŃIJ +ä¹Ł å°±æĺ¯ +大 æ¦Ĥ +é«ĺ æķĪ +åIJ ¹ +æİ ĪæĿĥ +éĻĦ è¿ij +æ¡Ī ä¾ĭ +éĹ ¹ +çΏ çΏ +彩 票 +æĢ Ĵ +举 æĬ¥ +æĻ® éģį +çķĻ ä¸ĭ +è¡£ æľį +æĹłè®º æĺ¯ +åħħ 满 +æ·± 度 +æ¡ ij +æĪª èĩ³ +带æĿ¥ çļĦ +éĻ µ +æĦŁ æĥħ +èµ ļ +åĵª äºĽ +æķ´ æĶ¹ +æĪIJ çĨŁ +å¨ ľ +é¼ » +çŁ Ľ +çĽ ¾ +好 好 +第 åĽĽ +åĨł åĨĽ +è´¢ å¯Į +æľĢ 好çļĦ +车 åŀĭ +éĸ Ģ +åį³ å°Ĩ +åĪĨ 为 +éĿĴ å²Ľ +纷 纷 +ä»Ĭ æĹ¥ +å¹³ è¡¡ +å¹³æĸ¹ ç±³ +éĤ£ ç§į +åĩº çĶŁ +éĿĴ æĺ¥ +人 群 +人 å·¥ +ä¹ĭ ä¸ĭ +æ¹ĸ åĮĹ +åľ¨ æŃ¤ +åįļ 士 +æĹ¶ åĪ» +æ²³ åĮĹ +æĶ¾ å¼ĥ +éĢļ éģĵ +森 æŀĹ +çĸ Ĩ +æķ ¸ +èĬ ³ +æīĵ åĩ» +æĽ ¹ +åĮĸ åѦ +æĥ³ 象 +ä¸ĩ 人 +è´¢ ç»ı +åħĥ ç´ł +ä¼ļ 计 +åħ¨ ä½ĵ +æĦ Ľ +é«ĺ ä¸Ń +æľº éģĩ +声 éŁ³ +æĹħ è¡Į +æµ © +æŁ ± +å°ij å¹´ +åĽ½ å¤ĸ +èijĹ åIJį +çĶŁ åŃĺ +å§ ľ +带 é¢Ĩ +é¢ľ èī² +ä¸Ĭ ä¸ĭ +产ä¸ļ éĵ¾ +æĽ´ 好çļĦ +å² Ń +ä¼ĺ æĥł +便 æĺ¯ +åħ§ 容 +ä¸Ģ åıª +çIJ ´ +梦 æĥ³ +ç§Ł èµģ +å¼Ģ åIJ¯ +è´Ń çī© +åĮħ åIJ« +åĪ© çİĩ +èµ· äºĨ +æľī åĬĽ +éĤ£ éĩĮ +审 æī¹ +对 æīĭ +çݰ éĩij +天 çĦ¶ +çĽ Ĵ +çĪ ½ +å¿ħ çĦ¶ +åĮĸ å·¥ +ä¸ĵ åĪ© +åķ ¡ +å¼Ģ å¿ĥ +人 ä½ĵ +éģĵ 士 +æĢģ 度 +空 è°ĥ +æĭĽ åķĨ +å§ » +第 äºĶ +æ£ Ĵ +ä¸Ģ ç³»åĪĹ +åį± æľº +转 åıĺ +åľº æīĢ +é¸ £ +æĪ¿ éĹ´ +éĢ ¼ +è¯ķ çĤ¹ +对 å¤ĸ +åĩº åı° +åľ¨ è¿Ļ +åİĤ å®¶ +å·¨ 大 +ç®Ģ ä»ĭ +çľĭ äºĨ +åħļ 建 +æĮĩ æĮ¥ +çŁ³ æ²¹ +ä¸į åı¯èĥ½ +èİ ² +ä¸į 太 +åĪĽ æĦı +第 ä¸Ģ个 +è´µ å·ŀ +è¿ĩ äºĨ +æľ¬ æĿ¥ +éģĵ å¾· +çŃĶ æ¡Ī +éĻ ¶ +ä¸Ģ è·¯ +èĤ ĸ +æ¸ħ æ´ģ +æľī æľº +åIJį åįķ +æĿ ± +åij¼ åIJ¸ +ä¸ Ī +ç¦ı 建 +è¯ķ éªĮ +å¼ķ åıij +ä¹Ł 没 +ä¸į ä½ı +çĨŁ æĤī +èIJ ¬ +ä¸į èī¯ +çł ĸ +èĩ´ åĬĽ +çѾ 订 +åIJ Ĭ +ä¾ ¯ +çĺ ¦ +å§ij å¨ĺ +æĸ ¤ +妻 åŃIJ +æĺ¥ èĬĤ +çĪ ¬ +æĽ Ŀ +çĥŃ æĥħ +éķ¿ æ²Ļ +èIJ¥ éĢł +éħ · +éĵ Ŀ +åŁºæľ¬ ä¸Ĭ +åij¨ åĽ´ +ä»Ģ 麼 +认 åı¯ +åĪĨ åŃIJ +ä¸Ģ æĸ¹éĿ¢ +è½ ´ +å¼ · +马 ä¸Ĭ +éĽ ¾ +èĩ £ +å° ¿ +çĶŁ æĦı +å®ī å¾½ +ç¥ŀ ç»ı +åĩº å¸Ń +èᝠåĵģ +çIJĨ çͱ +åįı åIJĮ +æµģ åĬ¨ +åıij åĬ¨ +åĿļ å®ļ +表 æĺİ +åIJİ éĿ¢ +ä¹ī åĬ¡ +å¦ ĸ +æľī åı¯èĥ½ +å¹´è½» 人 +大 éĻĨ +å² ³ +ä¸į èµ· +çŀ¬ éĹ´ +ä¸įå¾Ĺ ä¸į +çѾ 约 +åIJĪ æł¼ +åħļ æĶ¯éĥ¨ +æµİ åįĹ +便 åĪ© +éļı æĹ¶ +å¥ ī +ç§° 为 +产 æĿĥ +åIJ ķ +çĽ Ĩ +课 åłĤ +ç· ļ +æ£ ī +线 ä¸ĭ +èĩª è¡Į +举 æİª +åݦ éŨ +èĩª ä¿¡ +å½± è§Ĩ +ä» Ķ +çĶŁæ´» ä¸Ń +æĿĥ çĽĬ +çϽ èī² +å°± ä¸į +è¿Ľ å±ķ +æ¯ı æĹ¥ +ä¾Ľ ç»Ļ +æĿĥ åĪ© +æĹł æķ° +çIJĨ è´¢ +ä¾Ŀ æĹ§ +ä¸Ĭ åįĪ +è¯Ĩ åĪ« +çĽĪ åĪ© +çł Ĥ +许 åı¯ +åIJĮ äºĭ +åĺ Ľ +éģ ¸ +çĿĢ åĬĽ +éŨ åı£ +ä¸į å¤ļ +åħ¶ 次 +ç¢ § +çī© çIJĨ +åĨħ å¿ĥ +çϾ å§ĵ +æĢ» 绣 +å¹² åĩĢ +积 ç´¯ +åıį é¦Ī +æłij ç«ĭ +社 交 +ç§ © +åįģ ä¸Ģ +éĤ ĵ +驱 åĬ¨ +å±ķ è§Ī +èĪĴ éĢĤ +åŁº åĽł +å·® å¼Ĥ +转 让 +å°ı å§IJ +æł· åŃIJ +ç¿ Ķ +é«ĺ åħ´ +å½±åĵį åĬĽ +æīĭ ç»Ń +缸 åIJĮ +缸 åºĶ +æĻ Ĵ +è§ Ģ +å¸Ĥ å§Ķ +èĬ ¯ +å±ķ çݰ +åľ° çIJĥ +éĤ ª +ä¸Ģå®ļ çļĦ +åħģ 许 +ä¿¡ ä»» +æī ij +éĻ¢ æł¡ +ç®Ģ ç§° +åģļ æ³ķ +ä¹ĭ è·¯ +æĹĹ ä¸ĭ +èħ Ķ +æ¶Ī 失 +ä¸ĸçķĮ ä¸Ĭ +åŁİ 乡 +èĪŀ åı° +å¾Ī 大çļĦ +绣 çѹ +åħ¬ å¹³ +èĤ ¾ +çļĦ 好 +æ± ģ +çľ¼ åīį +éĽ £ +å¹ ½ +åħ± 产 +主 åĬŀ +å¤Ħ ç½ļ +åº Ļ +éģĵ çIJĨ +å¼ µ +æİ¥ çĿĢ +çĮ İ +çģ Į +çͱ æŃ¤ +人 åĬĽ +æµģ è¡Į +ä¾ ł +åı¯ä»¥ 说 +èĴ ĭ +å½¢ æĢģ +æĹ¥ åŃIJ +æ¼ Ĩ +çķĻ åѦ +缸 éĹľ +æľĢ å¤ļ +åĩŃ åĢŁ +åħ¬ 交 +æĮĸ æİĺ +æĿĤ å¿Ĺ +主 人 +éļľ ç¢į +æł¡ éķ¿ +æĸ¹ ä½į +ä¸Ĭ çıŃ +å¤ļ åħĥ +è ĥģ +éŃħ åĬĽ +èĮ Ĥ +åħħ ç͵ +强 大 +çĥ ¤ +å¥ĭ æĸĹ +å®ŀ ç͍ +éĺ ģ +ç»Ļ äºĨ +æľ¬ ç§ij +æł ĭ +æĭ ¨ +æķĻ ç»ĥ +éĥ½ çŁ¥éģĵ +æ¯ķä¸ļ çĶŁ +ç¢ Ĺ +åŀ Ĥ +è® ¼ +å®ģ æ³¢ +åѦ èĢħ +è°¢ è°¢ +åŁİ éķĩ +æĢİä¹Ī åĬŀ +éģ Ķ +æĪIJ 交 +æ½ľ åĬĽ +åį § +æĸ° å¼Ģ +éħį å¤ĩ +主 åĬĽ +åij³ éģĵ +çĥ Ĥ +é£ŀ è¡Į +å« ģ +大 大 +ç»Ļ 大家 +å¤ĸ éĿ¢ +éĨ ī +åıij è¨Ģ +æĹ© é¤IJ +åIJĦ èĩª +å® Ļ +èᣠèªī +æĬ« éľ² +é¡ ŀ +åĨħ çļĦ +èĤ ª +è¾ IJ +æ³ µ +æĬ Ľ +æĺŁ æľŁ +ä¸Ģ 带 +çĶŁ ç´ł +ç»ı éĶĢ +åĩ ¶ +åľ° ä¸Ĭ +åij½ è¿IJ +åĵ ² +ä¸Ĭ åİ» +æĸĩ çī© +è¯ ij +æĮ¯ åħ´ +éķ¿ æĹ¶éĹ´ +ç¥ Ń +åIJĪ èĤ¥ +è¿Ŀ è§Ħ +èģ ª +ä½İ äºİ +éĢĤ å½ĵ +æľī åºı +æľ¬ ç½ij +çķĻ è¨Ģ +æĥ³ æ³ķ +çѾ ç½² +å§ ļ +æĢ§ æł¼ +èĴĻ åı¤ +æŁ ı +åŀ « +åѦ åİĨ +ä»ħ ä»ħ +讲 è¯Ŀ +éĶ IJ +æĢ ĸ +åī ª +èĭ į +åIJ ĵ +强 çĥĪ +åģ¥ åħ¨ +çĸ ¯ +åı¤ 代 +å¥ Ī +ä¸į çĦ¶ +乡 éķĩ +æľĭåıĭ 们 +åĤ ħ +èģ ½ +个 æĢ§ +æ³ķ è§Ħ +å°ı éķĩ +çĶ» éĿ¢ +第 åħŃ +ç¶² è·¯ +åīį æĻ¯ +åIJ¬ 说 +ä¼ł åªĴ +æĿ¡ ä¾ĭ +åĪ« çļĦ +ä¸į æĩĤ +顾 éĹ® +强 度 +éĺ¿ éĩĮ +èµ° åĬ¿ +å¸ ½ +çļĦ ç¡® +åĮº åĪ« +éĮ ¢ +主 管 +ä¸Ģ çľĭ +æĸ ľ +åŃĺåľ¨ çļĦ +ä» ² +åᱠ害 +éĵ Ń +游æĪı ä¸Ń +éħ ± +é¾Ļ 头 +人 å¿ĥ +éĢĢ ä¼ij +æµı è§Ī +åĬ « +éĺ² æ²» +ç® Ń +å± Ī +è¾½ å®ģ +å£ ¤ +è¿İ æĿ¥ +éŀ į +ç͍ æĿ¥ +大 åľ° +ä» ° +éĢļ 讯 +å¼Ģ å·¥ +è£ ¤ +å¦Ĥ åIJĮ +éª ¤ +éĺŁ åijĺ +è½ © +ç¾İ æľ¯ +èĻ Ł +åIJĮ ä¸Ģ +åľ ĸ +书 æ³ķ +æīĵ åį° +åIJ« æľī +éĽĨ æĪIJ +éĹ · +å¸Ĥåľº ä¸Ĭ +æĹģ è¾¹ +åľ° æĿ¿ +产çĶŁ çļĦ +ç² ¤ +éĩį ç»Ħ +è¡Ģ æ¶² +çŃ ĭ +åĬŀ äºĭ +常è§ģ çļĦ +ä¸Ĭ åįĬå¹´ +å±ı å¹ķ +åIJī æŀĹ +å· © +åĸľ çα +ç¿ ł +ä¸ī ç§į +æ¡Ĩ æŀ¶ +举 èİŀ +çĶĺ èĤĥ +èĬ ¬ +åĽ¾ 书 +åĩ¤ åĩ° +æ°Ķ åĢĻ +å° ´ +å° ¬ +两 天 +è¾ħ 导 +åĢŁ 款 +æĹ¥ èµ· +æ´ Ĵ +ä¸Ģ 度 +è¹ Ī +æ½ Ń +æī ĩ +çĻ ľ +æĸ° åħ´ +åĤ ² +诸 å¤ļ +è´ ª +éĻ· åħ¥ +èĪ Ł +èĤº çĤİ +ä¸Ģ æł·çļĦ +åİ ĺ +åľ° çIJĨ +æĬķ æ³¨ +éļ Ĭ +åħī ä¼ı +ä¿Ŀ åģ¥ +åħ Ķ +åħ¬ åĬ¡ +æīĵ çł´ +çĶ· åŃ© +åĬ³ åĬ¡ +ä½ł ä¼ļ +ç͍ åľ° +æº ¢ +åıij è¾¾ +èĤ ļ +è¿ĩ äºİ +èĩ Ĥ +éĢĻ æ¨£ +è½» è½» +ä¸Ń åħ± +åIJĦ åĽ½ +åĶ ĩ +å®ŀ ä¹ł +èĻ ¾ +æ§ ½ +ä¸į ä¸Ĭ +åħį çĸ« +åįł æį® +å·¥ ä¼ļ +åĽ Ĭ +èĪª 天 +åı¯ çα +æĸĹ äºī +çĺ ¤ +å¦Ĥ æľī +éĽ ĸ +对 æĪij +åĩº ç§Ł +好 çľĭ +太 大 +æ°´ åĪ© +åĬ¿ åĬĽ +åħ¨ æ°ij +ç½ ¢ +èµ¢ å¾Ĺ +ç͵ ä¿¡ +车 éĹ´ +æĻĤ åĢĻ +å°ij æķ° +éĵ ¸ +åħ³ èģĶ +ä¸įä»ħ ä»ħ +为 æĤ¨ +åĴ ¸ +æľº åĬ¨ +è£ Ļ +åĵį åºĶ +éģ ł +è² · +ç© ´ +å¢ ħ +éĶ ¡ +çµ Ħ +çģ« è½¦ +è³ĩ è¨Ĭ +åĨ³ èµĽ +污 æ°´ +èª ŀ +å´ Ľ +ç´§ å¯Ĩ +缺 å°ij +å¤ļ 人 +æĢ» 书记 +éĶ Ī +èij Ľ +å¿ĺ è®° +éĻĮ çĶŁ +éķ¿ å¤§ +åħĪè¿Ľ çļĦ +ç¡ ħ +åıij æĺİ +å©´ åĦ¿ +æīİ å®ŀ +èĽĭ çϽ +ä¸Ģ çϾ +缮 åħī +æ ħĮ +åĬł æ²¹ +åIJ ŀ +ä¸Ģ 群 +ä¸Ń ä»ĭ +å¸ ĸ +å¿ Į +èģĮ èĥ½ +广 æĴŃ +çĽij å¯Ł +ç§ĺ å¯Ĩ +çĭ ® +è¿Ļ æĿ¡ +éĢ ¢ +æĢ ¨ +åįģ åħŃ +è© ¦ +说 åΰ +åĩĿ èģļ +æĮĩ 示 +æ° ¢ +å¼ ĺ +éĺ Ģ +æĸ © +éł ħ +ä¸Ģ å¼Ģå§ĭ +æİĴ è¡Į +åľ¨ æĪij +纪 å½ķ +æĬ Ħ +æł ª +说 æ³ķ +ä¸Ń èᝠ+好 å¤ļ +åıª ä¸įè¿ĩ +çķĻ åľ¨ +个 å°ıæĹ¶ +认 çŁ¥ +çķ « +è§ģ è¿ĩ +å°ı å¾® +ä½Ľ å±± +çľ ¾ +讲 è¿° +æ¢ ³ +ç§° åı· +æĹ¥ æĻļ +è¢ ĸ +åķ ¤ +æľª ç»ı +æľĢ æĹ© +æī® æ¼Ķ +è¡Ģ 管 +çº ± +æĥħ èĬĤ +第 ä¸ĥ +æį § +ä» Ĺ +æ¿Ģ çĥĪ +æĹł 线 +ä¸į 容æĺĵ +å¼Ģ å¹ķ +æĸ° çĶŁ +ä¸ĵ 注 +èij ± +åįĹ æµ· +çĩ Ł +èµ· ä¾Ĩ +æ´¾ åĩº +åĦ Ĵ +ä¾ ¨ +è¼ ĥ +åįļ è§Ī +éĢ ¾ +åĮ Ģ +ç»ıæµİ åѦ +æ¸ Ĺ +ä¿Ŀ èŃ· +çī º +çī ² +çİ « +çij ° +æľĢåIJİ ä¸Ģ +æĶ¿ åĬ¡ +æ§ Ľ +èĻķ çIJĨ +éļIJ æĤ£ +æī¿ åĮħ +æ¥ µ +æ¡ © +çĽ ² +导 åIJij +èĩ´ å¯Į +ç¼ Ĩ +æģĭ çα +ä¸į åĬ¨ +ç»Ļ 人 +å· ¢ +表 æĥħ +举 åįĹ +åĨħ å¤ĸ +è¾Ī åŃIJ +åı ī +åįļ ä¼ļ +åĬŁ æķĪ +æ¸ ´ +å± ¬ +æİĴ éϤ +éĢ Ľ +ä¸Ģ ä¼ļ +ä¸į å¼Ģ +å¼Ģ å¥ĸ +é»ij é¾Ļ +é»ijé¾Ļ æ±Ł +å¿« ä¸ī +度 åģĩ +åĿ ¤ +éĤ® ä»¶ +æĩ Ĵ +ä¾Ľ ç͵ +å» £ +好 è¯Ħ +ç§ĺ书 éķ¿ +æĪĺ åľº +好 å¥ĩ +ä¾µ æĿĥ +æĨ ¾ +æľĢ åĪĿ +æī¹ åıij +åİ ķ +è¼ ķ +æŀ ¯ +ä¸ļ åĨħ +è´Ń æĪ¿ +ä¸į åľ¨ +纪 å§Ķ +æīĢ éľĢ +å¸Ĥ éķ¿ +è³ ½ +å¼ķ æĵİ +çģµ éŃĤ +éĬ Ģ +æ» ¤ +çĿ IJ +å¤ļ 项 +åĽŀ 头 +èī ĺ +å¤į å·¥ +éĥ¨ ä»¶ +ç´§ ç´§ +æŁIJ ç§į +使 åħ¶ +æĸ° 人 +æŀ ļ +æ³ķ å®ļ +å·´ å·´ +æ¶µ çĽĸ +ç¨ » +æĭ ¾ +æĻ ķ +è½ ¿ +éĢļ è¡Į +åĵ Ģ +æ³ Ĭ +温 馨 +éĽĨ èģļ +çĨ Ļ +åĩ ij +åįģ ä¸ĥ +æ°Ķ æģ¯ +æıIJä¾Ľ çļĦ +æ³ ³ +奥 è¿IJ +çģ¾ å®³ +åĩĢ åĮĸ +è·¨ è¶Ĭ +åĵª æĢķ +éŁ ¿ +å¢ŀ æ·» +çĦ Ĭ +æ®ĭ çĸ¾ +ç¢ Į +æĤ Ķ +è§ģ è¯ģ +è¾ĸ åĮº +å¿ĥ èĦı +éļ § +åį ¸ +åı¯èĥ½ æĢ§ +æľī è¶£ +åī¯ ä¹¦è®° +åĮĸ å¦Ĩ +ä¿ Ĥ +æ£ ļ +éĨ ĩ +带 头 +éł Ī +追 ç©¶ +æij Ķ +è¿Ļ éĥ¨ +ä¸į 论 +ç¥ ¸ +å ³» +éģ ķ +çĶŁ èĤ² +å¤ ł +å¤ĸ 交 +è¯Ħ 为 +ä»İ å°ı +å°ı å°ı +é ¥¿ +æĴ ¼ +è·¨ å¢ĥ +被 åijĬ +åįĹ å®ģ +身 å¿ĥ +åĨį çĶŁ +æīĢ è¯´ +æĹ¶éĹ´ åĨħ +åĪĹ åħ¥ +éĿĴ æµ· +çα 好 +çª Ħ +èĪ Ī +è¿ĩ 渡 +æ¿ Ł +éĽ Ģ +审 è®® +åĽ½ èµĦ +æŃ¥ ä¼IJ +轨 éģĵ +ä¿¡ 念 +ä¸ī åĪĨ +çĨ ¬ +åѵ åĮĸ +ç¼ ł +éĥ Ĭ +èĪĴ æľį +纪 æ£Ģ +ä¸Ģä¸ĭ åŃIJ +鼻 話 +è² ł +éĴ ¥ +åĮ Ļ +çĹ ´ +è¶ ģ +ç» £ +çĪ µ +è½ ° +éª Ħ +å§ ¨ +æĭ ĺ +çĮ ´ +è® ¶ +è¿Ļ 座 +çį ¨ +æ·ĺ æ±° +çĹħ ä¾ĭ +æ²Ļ åıij +è§Ĩ 为 +头 æĿ¡ +å¿ħè¦ģ çļĦ +åı¯ è°ĵ +è¯Ŀ 说 +ç¯ Ħ +æĹ© çĤ¹ +æŀ¢ 纽 +ç¾ ¡ +çα åĽ½ +çªģ åıij +éĢ Ĭ +æ½ į +èᣠèĢĢ +èŁ ¹ +æ¦Ĥ çİĩ +å¾Ī ä¹ħ +æĥ ķ +è¨ ´ +åľĨ 满 +çļ ± +åĪĨ æ³Į +åħħ è¶³ +çľĭ æ³ķ +è¾ Ł +æĭ ¦ +æĭ © +对 åºĶ +为 æł¸å¿ĥ +èħ Ĭ +å¤ļ ä¹Ī +æµ ij +å®ı è§Ĥ +èĦ ĸ +åIJĪ èµĦ +çĶŁ 涯 +å®ŀ è´¨ +ä¼ĺ çĤ¹ +ç͍ æ°´ +寿 åij½ +æ² « +åIJ ģ +è© ¹ +åĽ½ éĺ² +å´ © +åĿ İ +èĨ ı +ä¸Ģ è½® +éģĹ äº§ +æ¹¾ åĮº +ç» İ +åįķ 纯 +æ¾ Ħ +åīį åĪĹ +身 å½± +é»ĺ é»ĺ +æį ī +çĴ ° +èı Ĭ +æĢ ľ +åħĭ æĢĿ +æĢ» å±Ģ +çĩĥ æĸĻ +ä¸ļ æĢģ +åIJĦ æł· +åĴ ½ +åĩº èī² +åĪĿ å¿ĥ +åı Ľ +çłĶ 讨 +è¡ « +åİĨ ç¨ĭ +ç¦ ½ +è¶³å¤Ł çļĦ +èį Ĩ +çľĭ å¾ħ +è´ © +åĨ³ å¿ĥ +è£ ¹ +å¸Ī èĮĥ +åŀ Ħ +æĿ ł +åĩ ¸ +çĬ¹ 豫 +çĥŃ è¡Ģ +åIJĪ ä¼Ļ +éħ µ +èIJ½ åľ¨ +åįł åľ° +è¡ ¬ +èĵ ī +æĦ ¤ +æ¸ Ĭ +åĪĨ æķ° +ç¬ij çĿĢ +太 å¹³ +çĤ « +æİ¨ ä»ĭ +æĸ¯ åĿ¦ +å½¢ 容 +æĵ Ĭ +æĦŁ åħ´è¶£ +åĨĽ 人 +åĩĮ æĻ¨ +对 çħ§ +åıij çĹħ +å· ¾ +èĪ ī +æª ¢ +ç¬ij äºĨ +ç¡® è¯Ĭ +è´Ł åĢº +壮 大 +æĪ ļ +äºĴ èģĶ +èª ² +èħ ¦ +æĹ ± +åıĹ æ¬¢è¿İ +åį ī +éĻ¢ 士 +æ© ¡ +ä¸Ģ 对 +è¾ ± +æ² Ĥ +åı² ä¸Ĭ +æIJ ı +å´ ĸ +代 è°¢ +ç£ · +é¡ ĺ +æµ ĩ +常 ç͍ +åį ij +åĩº åĽ½ +è¯ ł +稳 æŃ¥ +ç»ı 纪 +å¤ļ å¤ļ +æīĢ å¾Ĺ +为 主é¢ĺ +ä¸Ģ åĪĨ +æł ½ +é¡ § +çº ² +åĥ ħ +å£ ĵ +åĦ ª +ç¿ ° +æİ Ģ +人 为 +åª ³ +æ´ ½ +èĿ ¶ +å¤į åħ´ +ä¼ļ å½±åĵį +åIJĦ çķĮ +éĤ£ ä¸Ģ +é¢ ¤ +çĢ ı +çĢı 覽 +å¯ ŀ +åı¯ æĢķ +åį³ æĹ¶ +çķ ´ +ä¸ĭ åįĬå¹´ +ç¬Ķ è®° +éĻĦ åĬł +çĥŃ æ°´ +å¥ ¸ +ç£ ħ +æĿ ī +æ¸ħ åįİ +éĸ ± +ç° ¡ +å¤Ħ å¤Ħ +åIJĪ éĩij +æ²³ æµģ +ç´ ° +è´Ł éĿ¢ +çļĦ 羣å®ŀ +åύ 械 +èĴ IJ +西 äºļ +å· ħ +ç² ¹ +åİŁ æĸĩ +æŀ ķ +è¡Ģ åİĭ +åļ ´ +å¸ ĺ +åĨ Ģ +æĮ « +ç͵ è·¯ +å°ı ä¼Ļä¼´ +èĿ ´ +æľĢ å¿« +æĭ Į +å® ª +æĸ · +ç¿ ħ +åĴ ³ +åĹ ½ +ç¾ ŀ +躺 åľ¨ +èµĽ 车 +æ² IJ +éĻIJ 度 +为 ä¸Ģä½ĵ +èĴ ľ +å¹ « +æIJ ħ +åĭ ĭ +åī ĸ +纳 ç¨İ +éķ¿ æķĪ +ç½ ķ +åī¯ æľ¬ +ç© į +éĴ © +ç¹ ¼ +åĽ½ åľŁ +è¼ ī +ä¸į å¿ĺ +èѦ 示 +çģ ¿ +å¿ĥ å¾Ĺ +æĦ ļ +忽 çķ¥ +åĽŀ äºĭ +åįł æľī +æ· Ħ +çī ¡ +çĽij äºĭ +ç¿ ¡ +éĴĪ对 æĢ§ +çª ĥ +è£ ½ +èĨ Ŀ +ç³ Ł +港 æ¾³ +太 太 +æ¾ ¡ +ç»Ĩ åĮĸ +åĶ® åIJİ +å®ŀåľ¨ æĺ¯ +ç« £ +çį ² +å̾ åIJij +å¼ķ ç͍ +é¹ ħ +ç¬ij 容 +ä¹IJ è¶£ +æ°ij æĶ¿ +éŨ æĪ· +å± ģ +è¿· 失 +éĶ Į +å°ı 康 +åĭ ī +æ³ ¼ +ä¾ĭ åŃIJ +ä¸ī ä½į +å» ł +èĶ ĵ +广 éĺĶ +èĢ į +èĢģ èĻİ +åĭŁ éĽĨ +èĦļ æŃ¥ +æĭ ¯ +åŃĹ åı· +çĦ ° +é¢ ł +èļ Ĥ +èļ ģ +é£ ¯ +人 æĢ§ +æĴ ° +åİ ¢ +å±Ģ éĻIJ +æľª æĪIJ +åĵª åĦ¿ +大 åıij +ä¸į å®ļ +å¾ģ æ±Ĥ +éĥ µ +åĢº æĿĥ +çα ä½ł +èº ģ +ä»ħ ä¾Ľ +è¿ľ å¤Ħ +éĨ Ľ +åĥ µ +积æŀģ æĢ§ +æİ ¡ +åīį ä¸ī +äºİ ä¸Ģä½ĵ +çŀ Ħ +çĿ ģ +æ² ¸ +åħ± èµ¢ +éĢĢ å½¹ +è´Ŀ å°Ķ +æİ ı +æĪ ² +è¡ į +éĶ Ĥ +ä¸ĩ ä½Ļ +ç§ij åĪĽ +æ¼Ķ åͱ +欧 åħĥ +æ·¡ æ·¡ +éĿĴ å±± +èĹ Ŀ +ç» ½ +令 çīĮ +éĽĨ 群 +ä½ľ çī© +çĢ ij +å¤ ¯ +ç½ij 游 +åħ« 大 +éª ļ +èª ĵ +ä¼ļ å±ķ +åħļ åı² +æ£Ģå¯Ł éĻ¢ +åĸ ĺ +éĺ ± +èĢĮ åĩº +éĢļ 车 +éĴ ĵ +æĥħ 人 +æ¸ Ľ +ä¸Ń ç§ĭ +çĪ Ń +åıª åī© +æĺ Ķ +éĩİ çĶŁ +ç¡ « +èIJĿ åįľ +æĬµ æĬĹ +çĻ« çĹ« +éĻ Ģ +èĶ ļ +å¸ ľ +满 满 +èı ± +éļĨ éĩį +æĺŁ çº§ +æ½ ĩ +åħ¬ åħĥ +è° £ +æ¯Ķ äºļ +æ¡Į åŃIJ +èµ £ +è² ¼ +æĦ¿ æľĽ +é¡ ½ +æ´¾ éģ£ +ç¥ Ľ +åª ļ +éĺ ľ +èij « +èĬ ¦ +æ³ » +å¡ Į +çĭ Ń +å»ī æĶ¿ +å¥ij æľº +æĹĹ èΰ +æĥ « +严 åİī +åıĭ æĥħ +å¦ Ĭ +å¨ ł +åĵª å®¶ +èĨ ¨ +è¶ Ł +æĮ ª +èĻ IJ +é łģ +çŀ © +éº Ł +ç¨ £ +èģĶ éĢļ +åı ® +çİĭ èĢħ +ä¸į ç¡®å®ļ +ç ijľ +è° İ +çī¢ è®° +ç¢ ¼ +æĬ¤ èĤ¤ +é¡ · +çĦ ķ +åģļ 强 +éļ± ç§ģ +éļ±ç§ģ æ¬Ĭ +åıĹ å®³ +ä¸į çͱ +çĥ ¹ +é¥ ª +é© ³ +ä¼ ½ +ä¸Ŀ 绸 +è¥ Ħ +åįģ ä½Ļ +éº Ĺ +æ¬Ĭ åĪ© +èģ ŀ +åı¤ èĢģ +éģ ı +åIJĦ å¼ı +å°± è¡Į +åħ¥ å¢ĥ +ç ĥģ +èľ ĺ +èĽ Ľ +çº ¬ +çŁ « +è» Ł +æ´Ĺ è¡£ +æĦ § +é¢Ħ æ¡Ī +éľ Ĩ +æ·± åİļ +éĺ¿ æĭī +åĨĻ åŃĹ +åį ¦ +éķ Ģ +模 æł· +åĤ į +æIJ į +èĸ ¯ +åł ħ +åħ¬ 积 +è¨ İ +ä¼ł æŁĵ +æ¯ ¯ +çIJĨ å·¥ +åĨ· éĵ¾ +ç«ĭ æĸ¹ +æ¢ Ń +åľ£ è¯ŀ +综 èīº +çİ© ç¬ij +æĥ³ ä¸įåΰ +æijĩ 头 +æ· ¹ +åģĩ æĹ¥ +åĢ ĺ +èĢ ½ +èİ ĵ +åŁ · +èĩª è´¸ +åįĬ 天 +æª Ķ +æ¾İ æ¹ĥ +éķ ij +ä¸ « +éĩĮ ç¨ĭ +å¼Ģ èįĴ +èı ı +å®Ŀ è´µ +èŃ ¬ +åķ Ł +æŁ ł +æª ¬ +é© Ń +æ± Ľ +çĨĬ çĮ« +èķ ī +éļı ä¹ĭ +å± ij +è¾ĥ 强 +èĥ ³ +èĨ Ĭ +éĿĻ éĿĻ +åĴ ª +æĭĽ åij¼ +代 è¨Ģ +ä¿¡ ç®± +è£ħ éħį +æĤ į +åįķ 车 +èIJ İ +å¤ļ 彩 +éĻ ¸ +ä»İ 严 +æ© Ħ +æ¦ Ħ +éĢ ® +éĩĮ æĸ¯ +å§¿ æĢģ +太 æŀģ +éĩ Ŀ +æº ī +è¿ Ń +ç§ ¸ +ç§ Ĩ +å·¥ å§Ķ +æ± ķ +èģ Ĩ +ä½ ¬ +ç¼ ħ +çĶ ¸ +åī¯ å±Ģéķ¿ +éĹ º +èª ¤ +è¤ IJ +ä¸į éĻIJ +èħ ķ +åij ķ +çŁ ¶ +åĨľ å®¶ +管 å§Ķä¼ļ +é¥ º +èĬ ľ +æ¾ Ī +è© ¢ +å¨ģ å°¼æĸ¯ +ä½ķ åĨµ +å°ı ä¼Ļ +奢 ä¾Ī +è¿Ļ ç¯ĩ +è¯ µ +竳 ç¨ĭ +ç´ Ģ +éIJ ĺ +éĤ ¢ +ç³ Ļ +ç¼ Ģ +ä¹ Ĵ +ä¹ ĵ +çī¢ åĽº +åĿ ŀ +å¼ Ī +ä¾ĭ å¤ĸ +å» ³ +è§Ħ 竳 +èĬ Ļ +ç¯ · +èº ¯ +æł Ī +åĿļ å®ŀ +åŁº 建 +çĿĢ çľ¼ +ç· ´ +èij © +ç¼ ļ +æ¦ Ĩ +主 åĭķ +ç¥ Ģ +äºĴ éĢļ +å°¤ 为 +å® Ľ +éª ¼ +æ± ² +ä¾ ĥ +æĤł ä¹ħ +æij § +æĭ ĩ +é« ĵ +éº Ĵ +éĻ Ľ +æŀ ¸ +æĿ ŀ +è´ ¬ +å°ı é¾Ļ +åĵ ® +èĵ¬ åĭĥ +åĮ Ī +çķľ çī§ +å¨ © +个 å¤ļ +æ² ¥ +æĺ § +çĦ ļ +æĬij éĥģ +çĸ ¡ +èĺ ij +éģİ ç¨ĭ +æ© ± +éĿ ĵ +大 çIJĨ +é« ¦ +åĪĨ 辨 +æ¸ ¤ +çĸ ¤ +åĬ¨ èĥ½ +å¼ł å®¶ +ä¸ĩ åįĥ +æ» ¥ +é¥ ¥ +åºŁ å¼ĥ +å¸ ³ +æ¼ ³ +è± IJ +ä» ij +å« ī +å¦ Ĵ +çŀ Ĵ +è¡ ħ +çĭ ¸ +å¾ģ ç¨ĭ +éĤ ¯ +éĥ ¸ +ç¥ Ī +ç¥ · +è¶ ´ +ç»ĵæŀĦ æĢ§ +è§Ĩ åIJ¬ +è¬ Ŀ +çĴ Ģ +çĴ ¨ +åĩº å¤Ħ +è¯ Ģ +å¾ ĺ +å¾ Ĭ +çľ ¨ +åĸ ĩ +åı Ń +åĺ ² +çķ ¸ +å¹² äºĭ +æļ § +æ² Ľ +åĦ Ħ +å» ĵ +åİ¿ éķ¿ +èĥ ļ +çIJ ¢ +çŃ · +éĩ ĭ +ä¾ ® +åIJ © +åĴ IJ +åĮ ¿ +æĬ¬ èµ· +æ³ £ +æ¶ ¤ +éº ½ +æĽ Ļ +åī¯ éĻ¢éķ¿ +åħļ åĴĮ +æķ£ åıij +润 æ»ij +åĵ º +æĥ ¬ +漫 éķ¿ +ä¸į æĩĪ +åŁ ł +åĹ ĵ +èĢģ çĪ· +è® ½ +æĪĺ ç»ĦåIJĪ +æ£ ł +åħ¨ åŁŁ +èł ¢ +è¯ ¡ +åīį çŀ» +æķ Ľ +ä¸Ģ å°ģ +å¹ Ĥ +èİ Ĩ +è¯Ŀ è¯Ń +ç»Ĩ åĪĻ +å± ¿ +åµ Į +éĢ į +åĺ ± +æ¸ ² +çĥ ¯ +çĿ ¹ +é¦ Ĵ +èħ ¥ +æĬĹ åĩ» +çĿ « +èį Ķ +éļ İ +æ³ī æ°´ +è¬ Ĥ +ç Ĥ¬ +åĩı æİĴ +è¸ Ĭ +è ·» +æ· Į +éľ ¾ +å¥ĩ 纳 +å¯ Ŀ +æ¤ İ +æŁ ¬ +æĸ¯ åŁº +åħ¬ ç«ĭ +è¨ ĵ +é£ Ļ +é© ¿ +åĤ µ +èĽ Ļ +ç¯ĩ 竳 +åĪĨ æĶ¯ +ä¸Ĭ å¹´ +çŃ Ŀ +ç¼ ¤ +èĢģ æĹ§ +åĻ ¬ +æľ ¦ +èĥ § +æ¶Ī è²» +æĵ Ķ +æ¦ ´ +æ¿ Ĵ +ç³ ¯ +æ³ ¸ +æį Ĩ +ç» ļ +èµ İ +çIJ IJ +èµ Ĥ +æħ ® +æ² Į +çĦ Ļ +æĴŃ æĬ¥ +æ· ĩ +åĪĩ åħ¥ +çij ķ +çĸ µ +éģ ´ +ç¨ ļ +ç© © +èŀ ĥ +æ£ ķ +æĨ § +æĨ ¬ +ä¼ º +æ¯ Ĺ +æį į +æĬ ī +ç´ Ĭ +å¼ Ľ +æĭ Ń +æĹı èĩªæ²» +åĿ · +ç« ¶ +è© ³ +è¿Ħ ä»Ĭ +è° ´ +çŀŃ è§£ +æŁ ¿ +é¢ Ĭ +ç° § +çĥŁ èĬ± +ä¾ ¥ +çĿ ¦ +éħ Ŀ +æ° ĵ +çIJ ī +å§ Ĭ +æ² ® +æħ · +èľ ķ +çij ļ +éĩĩ çŁ¿ +åł ° +åºķ èķ´ +èĨ ³ +è¾ ķ +éŁ Ń +åĴ Ļ +ç² ½ +åī Ķ +æ² ¦ +èĤ ´ +éķ ¶ +æĺ ¼ +è¾ Ĺ +å© ª +åĮ ® +æĸ ĵ +æ± ¶ +éĥ ´ +éł » +çª Ĵ +è¢ ± +åĽ ± +èĢ ĺ +è ļĮ +çĭ Ļ +çĹ ¹ +ç¥ ī +æı ® +æ· Ĩ +ç£ ĭ +éĺ ª +æ « +ã ¸ +Ļ ¶ +ã ij +𣠲 +ä ¢ +ã Ń +𬠨 +ð¬ Ģ +𬠮 +𬠯 +ð¬ ľ +𪠨 +ð« Ĺ +ð¬ Ĭ +𬠱 +ð¬ Ł +ä İ +ð ¡ +ä ĥ +ã ł +ð © +ð© ¾ +𬠺 +ð¬ Ļ +ãĢ Ķ +ãĢ ķ +çļĦ æĹ¶åĢĻ +æľīéĻIJ åħ¬åı¸ +ä¹ĭ åIJİ +ä¸ļ åĬ¡ +åķ Ĭ +èϽ çĦ¶ +æĭ¥ æľī +äºĴ èģĶç½ij +éĤ£ äºĽ +ä½ł çļĦ +åĨ³ å®ļ +éϤ äºĨ +åĽ¢ éĺŁ +åı¯ æĺ¯ +以 åIJİ +社 åĮº +çļĦ éĹ®é¢ĺ +å¹¶ ä¸Ķ +æķĻ å¸Ī +å°± ä¼ļ +天空 éĥ¨èIJ½ +æľĢ ç»Ī +å½ĵ çĦ¶ +ä¹Ł æľī +ç¡® ä¿Ŀ +æĥ³ è¦ģ +è´Ń ä¹° +人 çļĦ +åIJ ´ +çļĦ åıijå±ķ +ä¸į çŁ¥éģĵ +软 ä»¶ +æĪij们 çļĦ +çζ æ¯į +åī ij +èĢĮ æĺ¯ +å®ī æİĴ +åIJİ æĿ¥ +çļĦ åľ°æĸ¹ +èµ µ +èĢĥ è¯ķ +çªģ çĦ¶ +ä¸Ģå®ļ è¦ģ +åζ ä½ľ +è¯Ħ ä»· +åħį è´¹ +è´¹ ç͍ +绣 ä¸Ģ +çĦ¶ èĢĮ +è¿Ļ 次 +éĿĴ å¹´ +人 ç±» +äº ¦ +让 人 +è´Łè´£ 人 +éĩĩ åıĸ +çļĦ äºĭæĥħ +ä¹Ł ä¼ļ +车 è¾Ĩ +æĽ´ æĺ¯ +强 åĮĸ +æĪij åĢij +以 åīį +ä¼ĺ åĮĸ +å§Ķåijĺ ä¼ļ +åĽ° éļ¾ +å¹´ 度 +ä½į äºİ +æĮĩ åĩº +åĨį æ¬¡ +åĬŀ çIJĨ +æ¯ı 个 +对 æĸ¹ +è¿Ľè¡Į äºĨ +æľĢ é«ĺ +课 ç¨ĭ +身 ä¸Ĭ +æĽ¾ ç»ı +åĮ» çĶŁ +å®ī è£ħ +æľ ± +è¿IJ è¡Į +åıĮ æĸ¹ +æľĢ 大çļĦ +æŀĦ 建 +è¿ŀ ç»Ń +çļĦ å°ı +她 çļĦ +çŃī çŃī +æĶ¹ åĸĦ +åIJĦ ç±» +éģĩ åΰ +æľī çĿĢ +人 çī© +æĢ» æĺ¯ +è¿ħ éĢŁ +åζ å®ļ +å®ĥ 们 +å®ĺ ç½ij +è¿ĺ è¦ģ +ç»Ī äºİ +æĪ¿ åľ°äº§ +è¯ģ æĺİ +èĤ¡ 票 +åºĶ å½ĵ +èĭ± åĽ½ +è¿IJ ç͍ +æľĢ æĸ° +享 åıĹ +让 æĪij +æĻļ ä¸Ĭ +å¾ ŀ +å°ı 说 +å°¤åħ¶ æĺ¯ +è®Ń ç»ĥ +åħ¨ å¸Ĥ +æĮij æĪĺ +æľī çĤ¹ +带 çĿĢ +çļĦ ä¸ľè¥¿ +é£İ æł¼ +é»Ħ éĩij +å¼ķ 导 +æŃ¤ å¤ĸ +æľĢ è¿ij +追 æ±Ĥ +强 è°ĥ +ä¹Ł åı¯ä»¥ +æĦŁ åΰ +èĩª æĪij +çī¹åĪ« æĺ¯ +æĪIJ éĥ½ +éĢIJ æ¸IJ +å¿« ä¹IJ +ä¹ĭ ä¸Ń +æĬķèµĦ èĢħ +ä»ĸ们 çļĦ +æ° ı +å·¥ä½ľ 人åijĺ +äºĨ ä¸Ģ个 +åķ ¦ +ä¸Ģ åĢĭ +åŁº å±Ĥ +æ²Ł éĢļ +第ä¸Ģ 次 +å¹¶ 没æľī +çļĦ å·¥ä½ľ +åľ¨ è¿ĻéĩĮ +æŀ ª +æĶ¯ æĴij +æĹ¶ å°ļ +æĿ¥ åΰ +æĶ¶ è´Ń +éĿ© åij½ +æĺ¯ ä¸įæĺ¯ +讨 论 +ä¸ļ 绩 +å°± èĥ½ +ç«ĭ åį³ +è¡Ĺ éģĵ +åľ¨ ä¸Ģèµ· +æľĪ 份 +é«ĺ 端 +å¾Ī éļ¾ +ä¿Ħ ç½Ĺæĸ¯ +æīĭ 段 +åģļ åĩº +ä¼Ĺ å¤ļ +å®ŀ è¡Į +æīĵ å¼Ģ +游 客 +ä¾Ŀ çĦ¶ +å°± åĥı +离 å¼Ģ +说 éģĵ +æĸ° èĥ½æºIJ +æº ª +äº ķ +令 人 +ä¸Ģ åľº +æĪij æĥ³ +两 人 +èĩ³ å°ij +çļĦ çĶŁæ´» +æĺ¯ 个 +èĭ± è¯Ń +æ²Ĵ æľī +æĢĿ èĢĥ +éĻIJ åζ +åı° æ¹¾ +ä¸Ģ æĹ¦ +çļĦ ä¸Ģ个 +é«ĺ 级 +åĬŀåħ¬ 室 +å¾· åĽ½ +æĪij å°± +å®ļ ä½į +éĢĤ åºĶ +æĮĩ æłĩ +åħ¨ çľģ +ä¸Ĭ è¿° +å®ĥ çļĦ +åĽŀ å®¶ +欧 æ´² +éĵģ è·¯ +é¼ĵ åĬ± +çļĦ å½±åĵį +é«ĺ æł¡ +天 ä¸ĭ +é«ĺ è´¨éĩı +æĿŃ å·ŀ +èµĦ 讯 +æĶ¾ åľ¨ +æľī ä¸Ģ个 +å°± è¦ģ +ä¸Ĭ éĿ¢ +è§£ éĩĬ +éĢIJ æŃ¥ +å°½ 管 +æľī ä»Ģä¹Ī +çļĦ äºĭ +çĻ» è®° +人æ°ij å¸ģ +è§Ĥ ä¼Ĺ +è§Ĥ å¯Ł +ç͵ èĦij +çļĦ åIJĮæĹ¶ +ä½ľ ä¸ļ +宣 å¸ĥ +çļĦ ä½ľç͍ +åĽŀ æĿ¥ +éļ¾ ä»¥ +æīĢæľī çļĦ +å°ı åѦ +æıIJ åīį +æ¤į çī© +åĩ ¯ +ä¸Ĭ äºĨ +å°± åľ¨ +åħĪ åIJİ +æīĭ æľ¯ +éĥ Ń +éĿ¢ åīį +æ¯ķ 竣 +äºĮ æĺ¯ +红 èī² +éĺ³ åħī +èĭ¹ æŀľ +å¾Īå¤ļ 人 +ç»Ļ æĪij +åĵ ¦ +çľ¼ çĿĽ +éł Ń +ä¸Ģ æĺ¯ +åıijå±ķ çļĦ +åıį åºĶ +æĪ¿ å±ĭ +æľŁ å¾ħ +ç§į æ¤į +æĸĩ åѦ +åį³ åı¯ +é¦ĸ 次 +èĭ± éĽĦ +å¤ļ 次 +åĮħ è£ħ +æ²³ åįĹ +ä¹ĭéĹ´ çļĦ +ä»į çĦ¶ +åIJ¬ åΰ +èij£äºĭ éķ¿ +è§Ħ åĪĻ +ä¸Ģ 份 +大 ä¼Ĺ +使 å¾Ĺ +è¿Ľ åı£ +ä¸Ģ çīĩ +æĢ§ çļĦ +çļĦ 大 +æĪij æĺ¯ +äºĴ åĬ¨ +æ° £ +çļ Ĩ +åħ¬åı¸ çļĦ +ä¸Ģ è¾¹ +åıĬ åħ¶ +èī¯ å¥½çļĦ +æĭĵ å±ķ +å½ĵ å¹´ +广 åľº +åģļ äºĨ +åŁº äºİ +æıIJ éĨĴ +åħĦ å¼Ł +èĢģ æĿ¿ +è¿ij æĹ¥ +çĬ¶ åĨµ +注 éĩį +åĪļ åĪļ +è°ĥ çłĶ +å¿ĥ ä¸Ń +æĬĬ æı¡ +éļı åIJİ +ä¸į å¤Ł +åĪĽ ä½ľ +ç«Ļ åľ¨ +缸 äºĴ +çĸ«æĥħ éĺ²æİ§ +å¹´ 代 +带 åĬ¨ +伤 害 +竣 çĦ¶ +å¼ķ è¿Ľ +ç´¯ 计 +让 æĪij们 +åĽŀ æĶ¶ +æĬ¥ åIJį +åĬ© åĬĽ +èģĶ çĽŁ +çŃĸ çķ¥ +åij¨ è¾¹ +åĭ Ĵ +è¿ĺ åľ¨ +æµģ éĩı +寻 æī¾ +ç͵ åĬĽ +èι èζ +è¿ĺ èĥ½ +æĭħ ä»» +çļĦæĥħåĨµ ä¸ĭ +çļĦ åİŁåĽł +缺 ä¹ı +çIJĥ åijĺ +å²ģ çļĦ +çĶ· åŃIJ +å·¥ èµĦ +è¿ijå¹´ æĿ¥ +åij Ģ +æıIJä¾Ľ äºĨ +她 们 +å®¶ åħ· +çĩ ķ +è½» æĿ¾ +æł¡ åĽŃ +èĢĥ æł¸ +åį± éĻ© +åħļ ç»Ħç»ĩ +æĢ» ç»ıçIJĨ +çļĦ æĸ° +çİ» çĴĥ +è¿Ļ ä½į +对 æŃ¤ +å®¶ 人 +çļĦ è¦ģæ±Ĥ +温 度 +æĮĩ æķ° +缴 åΰ +æŃ¤ æĹ¶ +æ¹ĸ åįĹ +éĥ½ è¦ģ +ä½ľ åĩº +åIJĦ ä½į +èĢĥ çĶŁ +ä¾Ŀ æį® +说 è¯Ŀ +æĪij ä¹Ł +å·¥ åİĤ +åıĺ æĪIJ +ä»ĸ 人 +æĪij è§īå¾Ĺ +åIJĦ 级 +ä¼łå¥ĩ ç§ģæľį +ä¸Ĭ åįĩ +好 åĥı +åĬł éĢŁ +äºĮ åįģ +è¢ ģ +è£ħ 饰 +éĥ½ èĥ½ +ä¸Ģ å¼ł +åĬ¨ æĢģ +å¹´ çļĦ +è¿Ļ å°±æĺ¯ +ä¹Ł è¦ģ +èµĦ æł¼ +æĪĺ äºī +æĦŁ è°¢ +åŁ¹ èĤ² +天 æ°Ķ +女 士 +åı¯èĥ½ ä¼ļ +çļĦ 产åĵģ +ä¹Ł å°± +主è¦ģ æĺ¯ +åĪº æ¿Ģ +ç»Ļ ä½ł +大 æķ°æį® +åĮ» åѦ +åĪ ¤æĸŃ +ä»ĸ 说 +表 æ¼Ķ +äºļ æ´² +ä¸ĵ é¢ĺ +ç«ŀäºī åĬĽ +éĤ£ æł· +å±ķ å¼Ģ +å¹³ æĹ¶ +æİ¥ ä¸ĭæĿ¥ +æī¿ 诺 +æ³ķ åĽ½ +åħ³ å¿ĥ +ä¼ļ æľī +éĤĢ è¯· +é¢Ħ éĺ² +对 æİ¥ +好 äºĨ +åĴ± 们 +çļĦ æĦŁè§ī +æĢĿ è·¯ +éĥ½ 没æľī +çļĦ æĸ¹æ³ķ +女 åŃIJ +åı¸ æ³ķ +è¿ĺ ä¼ļ +è¶ĬæĿ¥è¶Ĭ å¤ļ +åĽł çĤº +æµ· åįĹ +人 æķ° +å°Ĩ ä¼ļ +ä¸ļ 主 +é¤IJ 饮 +å±ħ ä½ı +åıij åĩº +è¿ij æľŁ +å¼ķ é¢Ĩ +æľºåύ 人 +åĩºæĿ¥ çļĦ +çľĭ è§ģ +ä¿ Ĭ +让 ä»ĸ +ä¸į æĥ³ +å·¥ä½ľ çļĦ +è¡¥ åħħ +æµ ħ +çī¹ å¾ģ +ä¸Ĭå¸Ĥ åħ¬åı¸ +ç¾İ é£Ł +广 西 +æ¯ı ä¸Ģ个 +èIJ½ åľ° +åĵģ ç§į +åĴĮ è°IJ +å½» åºķ +é«ĺ èĢĥ +æĺ¨ 天 +åīį å¾Ģ +çĽij æµĭ +çϾ 度 +åľ¨ ä¸ŃåĽ½ +çļĦ éľĢæ±Ĥ +亿 ç¾İåħĥ +åѦ æľ¯ +æĶ¶ åΰ +æĿ¿ åĿĹ +ä¸Ģ 段 +æŀĦ æĪIJ +ä¼ģä¸ļ çļĦ +表 éĿ¢ +æķ´ çIJĨ +ç»ĵ å©ļ +人 å®¶ +åģľ æŃ¢ +åѦ ç§ij +æĺ¾ å¾Ĺ +ä¼ij æģ¯ +é¢Ħ æľŁ +æĪĸ æĺ¯ +çļĦ 主è¦ģ +åºĶ 对 +èµ° äºĨ +ä¸Ń éĹ´ +èµ° è¿Ľ +åijĪ çݰ +æIJŃ éħį +é¹ ı +æĺ¯ åĽłä¸º +æĥħ 绪 +å®ļ æľŁ +社ä¼ļ 主ä¹ī +çŃī 级 +磼 çĽ¾ +é£ŀ æľº +èĩ³ ä»Ĭ +æĶ¶ éĽĨ +çļĦ æķħäºĭ +åĪĩ å®ŀ +å®ŀçݰ äºĨ +å½¢ æĪIJäºĨ +åįĹ æĸ¹ +ä¸Ń åѦ +æµ· æ´ĭ +åIJ¦ åĪĻ +æĭį æijĦ +大åѦ çĶŁ +åĩºçݰ äºĨ +æĦı å¤ĸ +ä¹Ł èĥ½ +çļĦ èĥ½åĬĽ +åĿIJ åľ¨ +åĪĻ æĺ¯ +èĢĥ å¯Ł +å°Ĭ éĩį +éĺ² æŃ¢ +ç´§ å¼ł +读 书 +åĩº è¡Į +å°± æľī +å±¥ è¡Į +çݰ代 åĮĸ +åĽ½ åĬ¡ +åĽ½åĬ¡ éĻ¢ +ç»´ ä¿® +åİŁ åĪĽ +æĺ¯ æĮĩ +ä¼ij éĹ² +çĤ ® +æĸ° æĹ¶ä»£ +éĢĻ åĢĭ +ä¸į æķ¢ +å®Į ç¾İ +ç»Ĩ èĬĤ +éŃ ı +èͬ èıľ +é¢Ĩ导 çıŃåŃIJ +è¶ħ 级 +è¡Į æĥħ +人工 æĻºèĥ½ +åį° åº¦ +åŁºç¡Ģ 设æĸ½ +åıĪ æĺ¯ +èᝠçī© +åIJ¸ æĶ¶ +åį´ æĺ¯ +éĥ İ +å¥ĸ åĬ± +çļĦ æľĭåıĭ +ä¿Ŀ çķĻ +è§Ħ å¾ĭ +æĸ° çĸĨ +è¿ĺ åı¯ä»¥ +æİ¥ è¿ij +æŃ¤ åīį +æī¹ åĩĨ +æĢİä¹Ī æł· +çļĦ ä½įç½® +ä¸Ģ åĿĹ +æĭĴ ç»Ŀ +顾 客 +ä¹Ł åľ¨ +ä¸Ģ çĶŁ +éĥ¨ éĺŁ +å¹´ åīį +æĸ¹éĿ¢ çļĦ +å°Ŀ è¯ķ +羣æŃ£ çļĦ +ç¦ģ æŃ¢ +è¿ĺ 没æľī +æ°ij çĶŁ +èµ° åIJij +èĦ¸ ä¸Ĭ +å½ĵ 天 +éĽĨåĽ¢ åħ¬åı¸ +çļĦä¸Ģ ç§į +西 æĸ¹ +åĽŀ åºĶ +ä¸Ģ 声 +常 常 +æıIJ åΰ +èħ¾ 讯 +æľį è£ħ +为 ä½ķ +äºij åįĹ +å°± ç®Ĺ +ä¼ł æī¿ +åıį èĢĮ +ä¸ĩ åIJ¨ +è´¢ 产 +å¦Ĥ ä¸ĭ +æĹ¥ åīį +åİŁ æľ¬ +æľĢ éĩįè¦ģçļĦ +认 è¯ģ +ä¸Ģ éģĵ +ä¿¡æģ¯ åĮĸ +å¾Ĺ åΰäºĨ +é̲ è¡Į +æĪij è¦ģ +éĢļ ä¿¡ +室 åĨħ +èµļ éĴ± +æĶ¶ èĹı +è§£åĨ³ æĸ¹æ¡Ī +æĪ¿ 产 +çĭ ¼ +æ´» åĬĽ +ç»ıæµİ åıijå±ķ +çŃī å¾ħ +ä¹Ł å¾Ī +åĿ ij +å¾Ī 好çļĦ +éļ¾ åº¦ +ä¸į å¦Ĥ +人æ°ij æĶ¿åºľ +åĩº åıij +åīį æľŁ +æ¼Ķ åijĺ +女 çĶŁ +èģļ çĦ¦ +审 计 +é¢Ħ æµĭ +ä¾Ŀ æīĺ +äºĶ å¹´ +è¡¥ è´´ +æ¸ħ æĻ° +éª Ĥ +çľĭ èµ·æĿ¥ +çļĦ åŃ©åŃIJ +é¢ij éģĵ +ä½ı å®ħ +éĿ¢ åIJij +æľĢ ä½İ +æĹ¢ çĦ¶ +ä¸Ģ å¥Ĺ +æķ° åѦ +群 ä½ĵ +åĮĹ京 å¸Ĥ +å±ħ çĦ¶ +æ°Ľ åĽ´ +éĢĶ å¾Ħ +çļĦ åŁºç¡Ģä¸Ĭ +èģĮ è´£ +åı¯èĥ½ æĺ¯ +åĨĽ äºĭ +æĪIJ æķĪ +åŃ©åŃIJ 们 +计ç®Ĺ æľº +èµ ¤ +产ä¸ļ åıijå±ķ +å·¨ 大çļĦ +å·¥ 人 +çĶŁ éķ¿ +éĥ½ åı¯ä»¥ +çļĦ æľºä¼ļ +èµĦ è´¨ +çĹĽ èĭ¦ +ç²ī ä¸Ŀ +å¢ ĵ +å¹³ å®ī +管 éģĵ +è·Ł çĿĢ +饮 é£Ł +åķĨ å®¶ +å¤ļ å®¶ +åı¸ æľº +åºĶ该 æĺ¯ +éĢı éľ² +认 å®ļ +è¡Įä¸ļ çļĦ +çļĦ ä¼ģä¸ļ +æ¯ı ä¸Ģ +èĮĥåĽ´ åĨħ +è¾ĥ 大 +è´ ¤ +大 èµĽ +å¤ļ äºĨ +é¸ ¿ +临 åºĬ +åľ¨ è¿Ļ个 +çļĦ åĨħ容 +éĶĢ éĩı +å¾Ī å°ij +åŃ Ł +ç»´ æĮģ +åĴĸ åķ¡ +æľ¬ åľ° +èī² å½© +å¹¶ éĿŀ +èĢĮ å·² +温 æļĸ +èIJ § +æĬĵ ä½ı +èĢĮ ä¸įæĺ¯ +åĸ Ĭ +çļĦ åħ³ç³» +çī© åĵģ +éĤ£ æĺ¯ +åĨľ 产åĵģ +è¿Ļ æĹ¶ +å©ļ å§» +æ°´ æŀľ +æĶ¶ èİ· +ä»ĺ åĩº +客æĪ· 端 +æ¼Ķ åĩº +åħ¨ æĸ° +è¿Ļ ä¹Łæĺ¯ +æĺ¯ çͱ +è§Ĥ 念 +æľī 个 +éĢł åŀĭ +èĥľ åĪ© +ä¸ī æĺ¯ +è¶ħ å¸Ĥ +åħļ建 å·¥ä½ľ +æĶ¾ å¿ĥ +线 è·¯ +æĭĽ çĶŁ +åIJĥ é¥Ń +è½ ī +å°½ éĩı +è§ģ åΰ +åIJĮæ¯Ķ å¢ŀéķ¿ +åįİ ä¸º +æĪij å¸Ĥ +æıIJ åĩºäºĨ +æ°ij èѦ +åįļ çī© +åįļçī© é¦Ĩ +è¯ļ ä¿¡ +åīį éĿ¢ +å±± 西 +è¾ħ åĬ© +转 ç§» +æĽ´ 为 +丰å¯Į çļĦ +åį ¢ +å¿« éĢĴ +æĺ¾ èijĹ +çī© èµĦ +åΰ è¾¾ +æľī åĪ©äºİ +åij Ĩ +åŃ©åŃIJ çļĦ +ä¸į ä½Ĩ +çłĶç©¶ éĻ¢ +çͳ æĬ¥ +æļ ¨ +æ°ij éĹ´ +åį » +çļĦ å£°éŁ³ +å¸Ĥåľº çļĦ +ä¸Ģ åı¥ +çľģ 级 +æĿ¥ çļĦ +åĵª 个 +æīį ä¼ļ +åĪĨ éħį +èĶ ¡ +ä»ĸ åľ¨ +åħ± æľī +å¡ ĺ +èĴ Ĥ +éľ į +åıĤ è§Ĥ +ä¸Ī 夫 +ä¾Ŀ éĿł +æľī æĹ¶ +äºĨ å¾Īå¤ļ +ä¸ĸçķĮ æĿ¯ +å®¶ æĹı +ä¸į éľĢè¦ģ +大 å¸Ī +èŀį åħ¥ +éĿŀ æ³ķ +çĹħ 人 +åIJİ æľŁ +大家 éĥ½ +ç½ij åĿĢ +åİŁ æĸĻ +便 å®ľ +æ¶ Ľ +仿 ä½Ľ +å·® è·Ŀ +åı¦ä¸Ģ æĸ¹éĿ¢ +产åĵģ çļĦ +èµ « +æĥħåĨµ ä¸ĭ +éĴ¢ éĵģ +æľ¬ ç«Ļ +纳 åħ¥ +å·² æľī +æľī 没æľī +ä¼° 计 +é£ ĺ +æľŁ è´§ +åĢĭ人 è³ĩæĸĻ +ä¸ĵä¸ļ çļĦ +çĪĨ åıij +èĩ´åĬĽ äºİ +çİ°åľ¨ çļĦ +æľī åĵªäºĽ +çł´ åĿı +æķ°åŃĹ åĮĸ +åľ° éĿ¢ +é»ij èī² +å¹¼åĦ¿ åĽŃ +çļĦ ç²¾ç¥ŀ +äº Ń +导 æ¼Ķ +çݰ æľī +æŃ¦ åύ +èĭı å·ŀ +çİ Ħ +æ±Ł 西 +å»¶ 伸 +论 æĸĩ +è¾ĥ 为 +çİ© æ³ķ +é¼ İ +åIJĮ æŃ¥ +éĩĬ æĶ¾ +æĽĿ åħī +åĿļ åĨ³ +å§Ķ æīĺ +å°Ĩ åľ¨ +äºĪ 以 +ä½ľ æĸĩ +èĢĮ åľ¨ +ä¼ĺ åħĪ +åĽŀ åİ» +ä¿® å¤į +åĽ½åĨħ å¤ĸ +çŃĸ åĪĴ +åıij æĶ¾ +å¿ĥ æĥħ +çļĦ åİĨåı² +éĿ¢ è¯ķ +举 åĮĹ +ä¿¡ åı· +ç²® é£Ł +è¯ģ 书 +æŁIJ äºĽ +è¿IJ ä½ľ +åĨ² åĩ» +çĥŃ çĤ¹ +æĹ¶ æĹ¶ +æĹ¶æĹ¶ 彩 +åľ° çĤ¹ +ä¸Ģä½ĵ åĮĸ +éļ¾ é¢ĺ +æĽ ° +ç«ĭ åĪ» +æĺ¯ éĿŀ常 +åħ± åĴĮ +åħ±åĴĮ åĽ½ +æ¿Ģ åĬ± +æľīæķĪ çļĦ +å¤Ħ ç½® +该 åħ¬åı¸ +æ£Ģ éªĮ +èѦ æĸ¹ +è´ ¾ +äºĨä¸Ģ ä¸ĭ +ä»Ĭ åIJİ +çħ ® +ç͍ åĵģ +读 èĢħ +æĪij åľ¨ +åĽŀ å¤į +ä¸Ģ 座 +è¿ĺ 没 +å®ļ åζ +没 æĥ³åΰ +å¤ ¹ +ä¼ł éĢĴ +ä¸Ģ 款 +强 大çļĦ +çļĦ è¡Į为 +å¤ı 天 +åıijåĬ¨ æľº +é¢ĨåŁŁ çļĦ +å®ŀéªĮ 室 +ä¸Ģ æĬĬ +æĺ¯ 为äºĨ +éĻķ 西 +æĭħ ä¿Ŀ +è¾¾ æĪIJ +è¦ģ æĺ¯ +æĺİ å¤© +ç»Ļ ä»ĸ +建ç«ĭ äºĨ +ä¸į è¡Į +ä¸Ń æĸĩ +åľ° 说 +åIJİ çļĦ +çĽij æİ§ +éĢ ¸ +æĢ» éĥ¨ +æľ¬ æĸĩ +é¹ ¿ +æĻ¯ è§Ĥ +çļĦ 缮æłĩ +èĽ ĩ +åĨ ¯ +ä¸Ń åĮ» +æķĪ åºĶ +产 éĩı +åŃ Ŀ +è´¦ æĪ· +è¿Ŀ åıį +èij£äºĭ ä¼ļ +京 举 +责任 ç¼ĸè¾ij +åķı é¡Į +çα å¿ĥ +èѦ å¯Ł +é¤IJ åİħ +å¸Ĥ æĶ¿åºľ +天 天 +æĸ° é²ľ +éĥij å·ŀ +è¶ħ è¶Ĭ +å½ Ń +çŁ¥è¯Ĩ 产æĿĥ +åĽŀ å¿Ĩ +è·¯ 线 +å»ī æ´ģ +éĿĴ å°ijå¹´ +åıĸå¾Ĺ äºĨ +çľĭ åΰäºĨ +é¦ ¬ +ç²¾ åĵģ +åľ° éĵģ +æĮģ æľī +ä¸ĭ äºĨ +æľī æĹ¶åĢĻ +ä¸Ģ 人 +æĴ Ĵ +ä»Ķ ç»Ĩ +èĢģ åħ¬ +äºĭå®ŀ ä¸Ĭ +èģĶ èµĽ +ä¾ĽåºĶ éĵ¾ +é¢Ħ ç®Ĺ +åζéĢł ä¸ļ +å®īåħ¨ çĶŁäº§ +俱 ä¹IJ +俱ä¹IJ éĥ¨ +çļĦ æł¸å¿ĥ +æīĵ ç®Ĺ +å½± çīĩ +æIJŃ å»º +ä¹Ł ä¸įä¼ļ +æĭħ å½ĵ +å±Ĥ éĿ¢ +åѦ åijĺ +临 æĹ¶ +缸 ç»ĵåIJĪ +对 æ¯Ķ +ä»ĸ æĺ¯ +æĸ° åĮº +è¿Ľ åİ» +çϾ å¹´ +ä¿ © +å°½ å¿« +ç͵åŃIJ åķĨåĬ¡ +æĽ´ æľī +æ¸ħ çIJĨ +åı¦ ä¸Ģ个 +åĤ » +ä»Ģä¹Ī æł·çļĦ +æĺ¯ æľĢ +åij¨ å¹´ +å¾Ī 容æĺĵ +åĽ¢ ç»ĵ +ç´ Ħ +æĹ© å·² +çļĦ åıĺåĮĸ +éľ ŀ +æĹ¥ ä¸ĬåįĪ +失 åİ» +ä¸Ń åľĭ +çļĦä¸Ģ äºĽ +å°ı åŃ© +ä¸ĭ è·Į +éĶ» çĤ¼ +é ij +éij « +å¿ĹæĦ¿ èĢħ +èĤ¡ å¸Ĥ +èµĽ äºĭ +许åı¯ è¯ģ +åı¯ æĮģç»Ń +åijĬè¯ī è®°èĢħ +éĢ» è¾ij +å¼ķ åħ¥ +çļĦ è¿ĩç¨ĭä¸Ń +è§Ĩ è§ī +èĩªæ²» åĮº +è¯ģ æį® +è£ħ ç½® +第ä¸ī æĸ¹ +å¹´ æĿ¥ +å¹¿ä¸ľ çľģ +带æĿ¥ äºĨ +éķ¿ æ±Ł +访 éĹ® +å·® ä¸įå¤ļ +æĺ¯ æĪij +éģŃ éģĩ +æĬĵ 好 +é«ĺ è¾¾ +å¹¶ åľ¨ +èĩª è§ī +ä¾ĽåºĶ åķĨ +æĥħ æĦŁ +ä½ı äºĨ +çļĦ èģĮä¸ļ +çļĩ å¸Ŀ +西 éĥ¨ +åĴĮ å¹³ +çļĦ åĬĽéĩı +æ± ª +åħħåĪĨ åıijæĮ¥ +æĬķ è¯ī +èµ· åΰ +äºĴ 缸 +æ¾³ éŨ +æİ¥ åΰ +æ°´ æ³¥ +模 åŀĭ +ä¸Ģ åįĬ +ç§© åºı +æĪij们 åľ¨ +æī¿ 认 +ä¸Ģ éĥ¨åĪĨ +åįł æ¯Ķ +å¦ĩ 女 +ç² ĺ +äºĨè§£ åΰ +ä¸Ģå®ļ ä¼ļ +åIJĦ 大 +èµ° åĩº +为 大家 +é«ĺ éĵģ +åı¯ä»¥ åľ¨ +ä½Ĩ åľ¨ +çĶŁæĢģ çݯå¢ĥ +èı ¯ +çļĦ ä»·æł¼ +麻 çĥ¦ +æ¿Ģ åıij +éĤ£ å°± +çļĦ æł·åŃIJ +为 æŃ¤ +天 åľ° +çļĦ 缮çļĦ +åĢº åΏ +å·² ç¶ĵ +åĽĽ 大 +åIJĮæĹ¶ ä¹Ł +å½¼ æŃ¤ +æĭ¿ åΰ +åIJ« éĩı +åįģ 大 +éļ¾ éģĵ +å¼ Ĺ +ä¸Ģ 段æĹ¶éĹ´ +çħ§ 顾 +æķ°æį® æĺ¾ç¤º +æĪIJ为 äºĨ +èµ° åΰ +æľ¬ åħ¬åı¸ +ç»Ī 端 +ä¹Ł ä¸įæĺ¯ +头 åıij +大 约 +é£İ æĻ¯ +æ¶Ī èĢĹ +审 æŁ¥ +äºī åıĸ +æ³ķ æ²» +äºĭ çī© +ç¼ĵ è§£ +æĥ ¨ +缸åºĶ çļĦ +çļĦ æķĪæŀľ +åıį å¤į +åıijçĶŁ äºĨ +éĢĻ äºĽ +ç»ĥ ä¹ł +åݨ æĪ¿ +å¼Ģ æĭĵ +欣 èµı +夫 妻 +ä¸į ä¸Ģæł· +产 èĥ½ +èĬ¯ çīĩ +è¦ģ ç´ł +åıį 对 +çİĩ åħĪ +è´§ çī© +æĹ¥ ç͵ +ä½ľ å®¶ +æĶ¹ è¿Ľ +æĪIJ åĪĨ +åĽł èĢĮ +åĩı èĤ¥ +æ½ ĺ +å±±ä¸ľ çľģ +åĬ Ŀ +åŁ ĭ +æŃ¦ è£ħ +æ±ĩ æĬ¥ +ä¸Ģ个 æľĪ +çĥŃ éŨ +大 éģĵ +æ´» åĭķ +éĥ½ å¾Ī +ç͵ 梯 +ç´§ æĢ¥ +åĢº åĬ¡ +客 æľį +ä¸Ģ éĥ¨ +ä½ł æĺ¯ +çݰ çĬ¶ +æŃ£ç¡® çļĦ +ä¹ĭ å¤Ħ +ç¼ĸ åζ +ä½ł åı¯ä»¥ +çŃī åľ° +èİ ī +对 è¯Ŀ +æ·ĺ å®Ŀ +è°ĥ èĬĤ +æİĴ æĶ¾ +åºĵ åŃĺ +ç´ ļ +çļĦ ä¼ĺåĬ¿ +æĿĥ å¨ģ +以ä¸ĭ ç®Ģç§° +ä¸Ģ 项 +èģļ éĽĨ +ä¼łç»Ł çļĦ +æ·· åIJĪ +è¿Ļä¸Ģ çĤ¹ +ä¸Ģ çľ¼ +æĹł éĻIJ +èİ·å¾Ĺ äºĨ +éĢī æīĭ +åζ åĵģ +åįı ä½ľ +çĭ¬çī¹ çļĦ +ä¸Ģ 级 +è¿Ļ个 éĹ®é¢ĺ +æĸ Į +æĺ¯ æĪij们 +æķĮ 人 +æ¸ħ æ´Ĺ +ä¸Ģ缴 åľ¨ +å°ı ç±³ +çļĦ è¿ĩç¨ĭ +åľ¨ åĮĹ京 +ä¸Ģ æĶ¯ +æĹ© ä¸Ĭ +æĸĩ èīº +ç¦ı åĪ© +é£Ł ç͍ +æĦŁ åĬ¨ +åħ¨ ç¨ĭ +æĶ¯ åĩº +æĸ° 建 +å¸ ķ +æĺ¾ çĦ¶ +羣 çļĦæĺ¯ +æĸ°éĹ» ç½ij +èĥ½ åIJ¦ +åįı åĬ© +亲 èĩª +å¾Ī æľī +çϼ å±ķ +æĦı 大 +æĦı大 åĪ© +ç͵ ç½ij +æĹ¥ çĽĬ +çĨ ± +èĤĮ èĤ¤ +çĶ· æĢ§ +ç»Ħ 建 +çŃī éĹ®é¢ĺ +æ¶Ī éϤ +æĬ¤ çIJĨ +å¡ij æĸĻ +ä¹Į åħĭ +ä¹Įåħĭ åħ° +åķĨ æłĩ +çIJ ³ +æĸ° æīĭ +çļĦ çī¹çĤ¹ +åĴ ¬ +å½ĵ ä¸ĭ +设计 å¸Ī +èµĶ åģ¿ +第 åįģ +æĻºèĥ½ åĮĸ +å¼Ģåıij åĮº +åı¯ä»¥ éĢļè¿ĩ +åħ±äº§ åħļ +åİī 害 +çģµ æ´» +æĹ¶ åħī +éĥ¨ ä½į +人 æĸĩ +è¿Ľ æĿ¥ +ä¹ĭ æīĢ以 +ä¸ī åįģ +çļĦ åѦçĶŁ +éĺ² æĬ¤ +åĽ½ 产 +æ·±åľ³ å¸Ĥ +éĤ£ å°±æĺ¯ +åΰ ä½į +çī¹ æľĹ +çľĹ æĻ® +å®ŀ æĹ¶ +åı° çģ£ +èĢĮ ä¸į +æĮĩ å®ļ +åĿ Ŀ +èħIJ è´¥ +çī¹ å®ļ +å¢ŀ éĢŁ +æłĩ çѾ +æĪ¿ ä»· +æĦ ģ +贯彻 èIJ½å®ŀ +æĢ§ è´¨ +çłĶç©¶ çĶŁ +ç¾İ 容 +æī¹ è¯Ħ +ç©¶ 竣 +人åĬĽ èµĦæºIJ +éĸĭ å§ĭ +åĽŀ å½Ĵ +èIJ¥ åķĨ +èIJ¥åķĨ çݯå¢ĥ +ä¸ŃåĽ½ 人 +çļĦ åŁºæľ¬ +è¯Ŀ é¢ĺ +æłĩåĩĨ åĮĸ +西 èĹı +åĭ ¾ +çļĦ 设计 +ç®Ģåįķ çļĦ +å¤į åζ +æ¸IJ æ¸IJ +以 å¤ĸ +èģĶ åĬ¨ +两 次 +æĢ§ åĴĮ +æĽ´ 大 +çļĦ åIJįåŃĹ +éŁ ¦ +ä½ł è¦ģ +å¢ĥ å¤ĸ +æĹ© æľŁ +åĪĿ æŃ¥ +è´¦ åı· +害 æĢķ +æĺ¨ æĹ¥ +åĪļ æīį +ç¥ŀ ç§ĺ +ç²¾ å¿ĥ +æµģ éĢļ +åħ¨ æĸ¹ä½į +以 å¾Ģ +ä¹Ł å°Ĩ +æĺ¯ ä¸ŃåĽ½ +åĽ½å®¶ 级 +å°Ĩ åĨĽ +æij Ĭ +æľĢ 为 +第ä¸Ģ æĹ¶éĹ´ +æ¶Ī æ¯Ĵ +å°Ĩ äºİ +å¨ģ èĥģ +èĭ± æĸĩ +æīĭ ä¸Ń +çIJĥ è¿· +è§Ĥ çľĭ +离 å©ļ +æľ¬ åľŁ +åĪĨ æķ£ +æĻ ´ +è¦ģ 注æĦı +浪 è´¹ +管 æİ§ +åĩº åĶ® +æĢ» è£ģ +ä¸Ģ éĺµ +å¨ ĩ +äºĶ 个 +å½ĵ åĪĿ +çºł 纷 +ä¸ĵ ç͍ +å¤ĩ æ¡Ī +åĪĿ æľŁ +å®ĥ æĺ¯ +åĮº åĿĹ +åĮºåĿĹ éĵ¾ +大 è¿ŀ +è¿Ļ ç±» +åıĺ æĪIJäºĨ +éĤĦ æĺ¯ +åįļ 客 +çı¾ åľ¨ +ä¸Ģ æĸ¹ +å®ĮæĪIJ äºĨ +è¿Ļ个 æĹ¶åĢĻ +åħ¨ å¹´ +ä¸Ĭ 线 +ç½ IJ +ç«ŀ èµĽ +åĩºçīĪ ç¤¾ +åĵ¥ åĵ¥ +å¯ « +å¾Ĺ 以 +èĬ± åĽŃ +äºĨ èµ·æĿ¥ +èĦ±è´« æĶ»åĿļ +çļĦ åİŁåĪĻ +讲 è§£ +æ¶Ī åĮĸ +æį٠害 +æļĤ æĹ¶ +å¾Ĺ çŁ¥ +éĢĤ ç͍ +éŨ åºĹ +è§£ 读 +æĻ® åıĬ +人æ°ij æ³ķéĻ¢ +åī¯ ä¸»ä»» +å¿ĥ çģµ +è¯Ĭ æĸŃ +ç¾İ 女 +æŁ ¯ +å¹´ 以æĿ¥ +æ´» è·ĥ +åĢŁ åĬ© +åħ± 建 +è¯ī 讼 +æĶ¾ æĿ¾ +çªĹ åı£ +ä¼ģ æ¥Ń +åĬł æĭ¿ +åĬłæĭ¿ 大 +ä¹° äºĨ +主 æµģ +æĩĤ å¾Ĺ +å°Ĩ åħ¶ +éĢı æĺİ +å·¥ä½ľ ä¸Ń +èĤ¡ ä»· +æ¡£ æ¡Ī +没æľī ä»»ä½ķ +åijĬ çŁ¥ +å¹´ åĪĿ +æĹ¥ ä¸ĭåįĪ +åİĤ åķĨ +èĬĤ å¥ı +主 导 +è£ Ŀ +åħ³éĶ® è¯į +èģĬ 天 +åĨĻ ä½ľ +æĶ¹éĿ© å¼ĢæĶ¾ +æľī æľĽ +éĢļ æĬ¥ +èIJ Į +æĢ» é¢Ŀ +çŁŃ æľŁ +ä¸Ģ çķª +çĶŁæ´» çļĦ +åĮĸ çļĦ +æĺ¥ 天 +è¿Ļ åľº +æĸ°å¼Ģ ä¼łå¥ĩ +æĺ¯ è¦ģ +å°ļ æľª +åıĺ æĽ´ +ä¸Ģ åij¨ +客 è§Ĥ +æĹ¥ èĩ³ +é¹ ° +çİ ² +å°Ĩ æĿ¥ +客 人 +åıĺ éĿ© +说 äºĨ +åİŁ çIJĨ +èģĮ åĬ¡ +åıĪ æľī +ä¸Ģ åı¥è¯Ŀ +æĦŁ åıĹåΰ +ç¬Ķ èĢħ +ç§» æ°ij +西 åįĹ +ä¹ĥ èĩ³ +æŃ£ è§Ħ +åĪĿ ä¸Ń +çĬ ¬ +å½ĵ äºĭ +å½ĵäºĭ 人 +æĪij们 è¦ģ +åħ¥ åı£ +éĤ£ æĹ¶ +æľīéĻIJ 责任 +å°ij 女 +è¿Ļä¹Ī å¤ļ +åĪĨ åħ¬åı¸ +å®ĩ å®Ļ +çļĦ éĢīæĭ© +å§IJ å§IJ +åıij èµ· +è» į +æĽ´å¥½ åľ° +éĻĨ ç»Ń +æľ¬ æľįåĭĻ +å« © +èµ¶ ç´§ +èĦĤ èĤª +第äºĮ 天 +æĪij ä¼ļ +两 ä½į +æķ ² +åħ¬å®ī æľºåħ³ +ç§ijæĬĢ åĪĽæĸ° +å°º 寸 +è¾IJ å°Ħ +å®Ĺ æķĻ +转 æį¢ +åĩº çİ°åľ¨ +ä¸Ģ é¢Ĺ +æľŁ éĻIJ +åIJĮåѦ 们 +åĮĹ æĸ¹ +ä½ł å°± +ä¸Ģ带 ä¸Ģè·¯ +èĢģ å©Ĩ +游æĪı çݩ家 +çļĦ ç»ĵæŀľ +è¡¥ åģ¿ +å¤ĸ è´¸ +对 å¾ħ +ç»´ çĶŁç´ł +ç»ıéĶĢ åķĨ +è¿ĺ å°Ĩ +åŃIJ 女 +æĽ´ é«ĺ +ä¸į 大 +éī´ å®ļ +让 ä»ĸ们 +æīĢè°ĵ çļĦ +æŃ» äºĨ +帮 æī¶ +åĵ² åѦ +以ä¸Ĭ çļĦ +çļĦ åħ³éĶ® +æĹ© å°± +æĬ¥ ä»· +éģµ å®Ī +æī© å¼ł +æĺ¯ å¾Ī +å¼Ģ éĢļ +æĸ° åĬł +æĸ°åĬł åĿ¡ +ç¿» è¯ij +询 éĹ® +é¸ Ń +ä½ĵ åĨħ +两 个人 +çĪ ¹ +éľ ľ +乡æĿij æĮ¯åħ´ +çĿ¡ è§ī +å®ĺ åijĺ +åĪĽ å§ĭ +åĪĽå§ĭ 人 +ä¼Ĺ 人 +åį³ ä¾¿ +çĸ« èĭĹ +ä¼ģä¸ļ å®¶ +æ¸ £ +ç²¾ åĬĽ +å¤ĸ éĥ¨ +èģª æĺİ +è¿Ļ ä¹Ł +å½ķ åıĸ +åĨ² çªģ +åħ¨ 身 +åŃ£ èĬĤ +忽 çĦ¶ +çļĦ æĢģ度 +åĤ¨ å¤ĩ +ä¿Ŀ åħ» +çļĦ æĥ³æ³ķ +ä¸Ĭæµ· å¸Ĥ +æIJº æīĭ +çļĦ ä¿¡æģ¯ +åķĨ åľº +çļĦ æĢĿæĥ³ +æĿĥ åĬĽ +毫 æĹł +æĢĢ åŃķ +硬 ä»¶ +åĨħ èĴĻåı¤ +æİ¢ 讨 +åħ» çĶŁ +çļĦ 表çݰ +空 ä¸Ń +æģIJ æĢĸ +å¾Ī é«ĺ +ç»ıæµİ 社ä¼ļ +ä¸Ĭ æĿ¥ +å»¶ ç»Ń +éĩį å¤į +éĺ² èĮĥ +çļĦ å½¢å¼ı +æľĪ åºķ +èĢģ 年人 +绿 åĮĸ +å±± åĮº +æĭ¿ åĩº +æĹħ 客 +æĽ´ æį¢ +åħ¬ 主 +èĬĤ 约 +åħ¨ åİ¿ +åĽŀ æĬ¥ +çIJĨ æĢ§ +çĸ¯ çĭĤ +æ¶ī å«Į +åī§ æĥħ +åĨ¬ åŃ£ +åIJİ ç»Ń +è¿Ļæĺ¯ ä¸Ģ个 +æ¼Ķ 讲 +ä¸Ģ å±Ĥ +æľīåħ³ éĥ¨éŨ +æĹł å¥Ī +ç§į ç±» +缸åħ³ çļĦ +æĪĸèĢħ æĺ¯ +æī¶ æĮģ +å¤ļ æķ° +çļĦ ä½ľåĵģ +ä¸ĭ ä¸ĢæŃ¥ +å¸Ī åĤħ +é«ĺéĢŁ åħ¬è·¯ +好 åıĭ +ä¼ĺç§Ģ çļĦ +è¿Ľ äºĨ +æģIJ æĢķ +äºĨ åIJ§ +大 è§Ħ模 +çļĦ ä¸ĸçķĮ +æĢĢ çĸij +å· · +åħ´ å¥ĭ +æĪ ° +æĿij éĩĮ +æľĭåıĭ åľĪ +åĨ¬ 天 +ä¸Ńåįİ äººæ°ij +åįı åķĨ +è¯Ħ éĢī +æĹ Ń +å¢ŀåĬł äºĨ +åıĹ ä¼¤ +ä¸Ģ èĤ¡ +便 æį· +ä¸ ij +é¹ ¤ +å¤ĸ è§Ĥ +å·¥ç¨ĭ å¸Ī +åĴĮ åħ¶ä»ĸ +è¿Ļ å°± +ä¸Ńå°ı ä¼ģä¸ļ +西 åĮĹ +åĽ½æľī ä¼ģä¸ļ +èĭ¥ æĺ¯ +åı¯ æĥľ +çĶŁ æĹ¥ +åĩ ½ +ä¹° åįĸ +ç¥Ŀ ç¦ı +人æ°ij 群ä¼Ĺ +åħī æĺİ +åħ¬ å¯ĵ +æĺ¯ è°ģ +æĪij çŁ¥éģĵ +è¯Ń æĸĩ +æķı æĦŁ +ä¸įéĶĻ çļĦ +æĿ¥ 讲 +æ³¢ åĬ¨ +çļĦ 第ä¸Ģ +åľ° éľĩ +åľ¨ åħ¨åĽ½ +骨 å¹² +å®ī ç½® +å®¶ ç͵ +ä¸İ æŃ¤ +ä¸İæŃ¤ åIJĮæĹ¶ +åıĹ çģ¾ +çĥŃ çº¿ +çļĦ æĬĢæľ¯ +æµĭ éĩı +ä¾Ŀ èµĸ +ä¸ŃåĽ½ çļĦ +çī¹ æĢ§ +è¾ĥ é«ĺ +è¸ © +ä¼ļ åľ¨ +建 éĢł +导 èĪª +æĥ³ èµ· +åħ¨ ä¸ĸçķĮ +建 æĿIJ +ç¯ Ģ +çļĦ åŁºç¡Ģ +èĩªåĬ¨ åĮĸ +åīį åIJİ +çĿ¡ çľł +æİ¨ è¡Į +æį® äºĨè§£ +ä»Ģä¹Ī æĹ¶åĢĻ +ä¸į åĸľæ¬¢ +çħ¤ çĤŃ +éĤ£ä¹Ī å¤ļ +å¸Ĥåľº åĮĸ +ä¸į管 æĺ¯ +ç«ĭ åľº +éĥ½ 没 +课 é¢ĺ +æĪij们 å°Ĩ +è¿ĩ çļĦ +åĨį åĬłä¸Ĭ +çĪ ¾ +身 æĿIJ +çĶ· 女 +è¿ľ è¿ľ +çĶ· çĶŁ +èĩªèº« çļĦ +è´Ł æĭħ +çϾ ä¸ĩ +西 çıŃ +西çıŃ çīĻ +åĩĢ åĪ©æ¶¦ +æ¾³ 大 +澳大 åĪ©äºļ +ä¸į åİ» +æī¿ åıĹ +楼 çĽĺ +å¢ĥ åĨħ +æ·· åĩĿ +æ··åĩĿ åľŁ +æĢĿæĥ³ æĶ¿æ²» +å¸Ĥ åĮº +æĭĽ æłĩ +åĽ¢ ä½ĵ +è¿Ľ 度 +åĨĽ éĺŁ +åıį å¼¹ +äºĨä¸Ģ äºĽ +æİ¥ å¾ħ +çļĦ åŃ¦ä¹ł +éħį éĢģ +é£Łåĵģ å®īåħ¨ +æĽ¿ 代 +æĺ¯ 以 +éĢļ ç͍ +çłĶç©¶ æīĢ +ç¦ ħ +æī Ķ +éļĶ ç¦» +ä¸ĩ å¹³æĸ¹ç±³ +çļĦ è§Ħå®ļ +ç»Ļ æĪij们 +æ¿Ģ åħī +ä¼ļ åĩºçݰ +çŁŃ ä¿¡ +ç©¿ çĿĢ +æ²Ī éĺ³ +æķĻ æĿIJ +éĺ² çĸ« +ä¼ĺ èī¯ +约 å®ļ +æĪij çľģ +åħ¬ æ°ij +éģ¸ æĵ +é쏿ĵ ĩ +å·² æĪIJ为 +ä¸į å¿ħ +ç¥ĸ åĽ½ +å¹¶ æľª +åľŁ 壤 +å¾® ç¬ij +äºĭä¸ļ åįķä½į +çļĦ 游æĪı +åħ¬ 示 +åIJĪçIJĨ çļĦ +çª Ŀ +æ°Ķ 象 +å®¶ ä¸Ń +亮 缸 +åį« æĺŁ +è®° è½½ +è§Ĩ éĩİ +åľ°åĮº çļĦ +ä½Ĩ ä»ĸ +èĤĮ èĤī +äºı æįŁ +åĬŀ åѦ +ä¸Ģ è¡Į +è¯ŀ çĶŁ +åıijå¸ĥ çļĦ +çļĦ æľįåĬ¡ +çļĦ çłĶç©¶ +åij¨ æľ« +产ä¸ļ åĽŃ +é«ĺ 温 +æĪIJåĬŁ çļĦ +æŃ¥ 骤 +åŃĺ åĤ¨ +åŃIJ åħ¬åı¸ +让 她 +ä¸Ń æľī +åĺī 宾 +å¦ ® +æĺİ å¹´ +äºĨ åIJĹ +äºī è®® +æĪ Ī +ä¸Ģ æľ¬ +ç¾İ丽 çļĦ +ä½ł 说 +大 人 +æĶ» çķ¥ +ä¸į æľĥ +å¾ħ éģĩ +ä¸Ģ è¾Ĩ +çīĪæĿĥ æīĢæľī +æ°ij ä¼Ĺ +åĬ٠夫 +å±ķ ä¼ļ +大 èĦij +æ¯ı æľĪ +å°ı 麦 +æµĻæ±Ł çľģ +çļĦ æīĢæľī +ä¸ĭ æ»ij +èĵĿ èī² +è¦ģ æĥ³ +åѦçĶŁ çļĦ +å½ĵ ä½ł +ä½ľ æĪĺ +å®¶ 乡 +å¤ļ åIJį +é«ĺ äºİ +åĿļ 强 +è¿ŀ éĶģ +åIJİ æŀľ +人 äºĭ +ç´ ħ +æ¿Ģ åĬ¨ +è¿Ľ æĶ» +ç© Ĩ +ä¸ ĺ +让 èĩªå·± +以 æŃ¤ +夫 人 +å¼Ģ 设 +æ°Ķ è´¨ +鸡 èĽĭ +çĦ¡ æ³ķ +åIJĥ äºĨ +åĪĨåĪ« 为 +èģĶåIJĪ åĽ½ +å½ĵ 代 +å¦Ĥæŀľ æĺ¯ +è¿ľ ç¨ĭ +åĸ Ĥ +è®° ä½ı +æ¸ħ åįķ +åIJĪä½ľ ä¼Ļä¼´ +åİ» åģļ +æķħ éļľ +模 æĭŁ +å¸Ī çĶŁ +åīį æĿ¥ +ç͵è§Ĩ åī§ +çĥŃ çα +éľ² åĩº +é«ĺ å±Ĥ +ç͵ åύ +纪 å¾ĭ +å¼Ģåıij åķĨ +éķ¿ å®ī +è½½ ä½ĵ +çļĦ å°±æĺ¯ +被 人 +åıĹ çIJĨ +篮 çIJĥ +èİ İ +交 ç»Ļ +æľªæĿ¥ çļĦ +两 大 +åIJķ å¸ĥ +çŃī 人 +çļĦ æĹ¥åŃIJ +åIJĪä½ľ 社 +æĮij éĢī +åŃĺ æ¬¾ +ç³»ç»Ł çļĦ +æĬĬ å®ĥ +没æľī ä»Ģä¹Ī +ä»İ æŃ¤ +ä¸Ń åįĪ +çĸ¼ çĹĽ +å·© åĽº +浪 漫 +缸åħ³ éĥ¨éŨ +éķ¿ åŁİ +纤 ç»´ +ä¸Ĭ éŨ +çĪĨ çĤ¸ +èµ· çĤ¹ +çļĦ éĢļçŁ¥ +èĢĮ æĿ¥ +çļĦ èĢģ +æīĭ éĩĮ +è¯Ń éŁ³ +è¾Ľ èĭ¦ +æ±Łèĭı çľģ +ç͍ äºĨ +身份 è¯ģ +æľī åĬ© +æľīåĬ© äºİ +çī© èģĶç½ij +åĩº éŨ +å¼Ł åŃIJ +æĥ ¹ +è¿Ļä»¶ äºĭ +æĪij们 åı¯ä»¥ +çļĦ çĶŁåij½ +æľīä¸Ģ ç§į +åºĹ éĵº +åıĮ æīĭ +çļĦ æ¶Īæģ¯ +èĢIJ å¿ĥ +å°´ å°¬ +éĤ£ 天 +é¦ĸ æī¹ +æĺ¯ä¸Ģ å®¶ +人 æ°Ķ +åıį æŃ£ +æĪij åĴĮ +å®ł çī© +ä¸į 对 +寻 æ±Ĥ +缸 ä¼¼ +åľ¨ ç¾İåĽ½ +åı« åģļ +åĹ İ +ç«ĭ è¶³ +ç͍ éĢĶ +åħ Ĩ +大 æ°Ķ +åIJij ä¸Ĭ +ä»ĸ å°± +é¡¹çĽ® 建设 +èĭ¥ å¹² +æĺ¯ æľī +æ¿Ģ æĥħ +çļĦ æĦıä¹ī +æĺ Ń +严éĩį çļĦ +å¯Ĩ éĽĨ +èĪŀ è¹Ī +èᣠèİ· +èİ· æĤī +æ±Ł åįĹ +åģĩ å¦Ĥ +æĪ· å¤ĸ +线 ç´¢ +ç§ģ 人 +转åŀĭ åįĩ级 +çļĦ ä»·å̼ +åįķ çĭ¬ +èĢģ çϾå§ĵ +å°į æĸ¼ +åĽ½éĻħ åĮĸ +ä¼° å̼ +æľįåĬ¡ ä¸ļ +èĩ Ń +æİī äºĨ +è§£åĨ³ äºĨ +ä¹Ł ä¸įèĥ½ +åħ ¹ +æĸ¯ çī¹ +æķħ æĦı +è¿ĩ 度 +èĬĤ æĹ¥ +çϽ çĻľ +çϽçĻľ é£İ +ç»§ æī¿ +äºĨ ä¸įå°ij +äºĮ 人 +è§ģ éĿ¢ +æĥ³ æĥ³ +å¤į åIJĪ +康 å¤į +åİ¿ åŁİ +åľ¨ åĽ½åĨħ +åľº åľ° +é϶ çĵ· +è¿Ļ 项 +çľ¼ ä¸Ń +çł ¸ +æĦŁè§ī åΰ +æŀľ çĦ¶ +æĶ¾ åħ¥ +约 æĿŁ +æİĴ æŁ¥ +车 主 +çļĦ æĦıæĢĿ +æĸ° åŁİ +æĥ³ çĿĢ +éģ Ĥ +èĮ¶ åı¶ +ä¹° æĪ¿ +åĨľ æĪ· +é«ĺ æīĭ +çİī ç±³ +æĸ°åĨł èĤºçĤİ +çħ§ æĺİ +æĮĩ åįĹ +è¸ ¢ +æķij æı´ +æĻ¯ çĤ¹ +ç¨İ æĶ¶ +çļĦ æīĭ +æŃ£ 好 +è¦ģ æĬĬ +éļı æĦı +åħ¶å®ŀ æĺ¯ +ç»Ļ èĩªå·± +è°Ī åΤ +æ¯ı天 éĥ½ +æĢģ åĬ¿ +é¢Ħ 约 +åİĨåı² ä¸Ĭ +å®Ŀ è´Ŀ +åīį è¿Ľ +ä¹Łå°±æĺ¯ 说 +çļĦ æĦıè§ģ +åı£ 罩 +åİĺ ç±³ +èĬ± è´¹ +ä½ĵèĤ² æĬķæ³¨ +åħ¬ä¼Ĺ åı· +èijĹåIJį çļĦ +å¼Ģ æĪ· +æĭį åįĸ +å²ģ æľĪ +åĨħ æ¶µ +å®Įæķ´ çļĦ +é«ĺ åİĭ +åħ¬åĬ¡ åijĺ +使ç͍ çļĦ +çĶŁäº§ 线 +妹 妹 +èµ° 访 +æĺ¯ åı¯ä»¥ +åľ¨ å®¶ +æļ´ åĬĽ +æ³° åĽ½ +è´¨ çĸij +ä¸į éģİ +天çĦ¶ æ°Ķ +缺 çĤ¹ +å°ı åŀĭ +ä¸įä»ħ æĺ¯ +é»ij æļĹ +æ¢ ¨ +æĸĩ æĹħ +è¦ģ æľī +ä¸Ń å±± +çļĦ æķ°æį® +å¾Ĺ å¾Ī +以 便 +对 ä»ĸ +åĬł 以 +çϼ çı¾ +设 å®ļ +èĤļ åŃIJ +éĿ ĸ +å¥ī çĮ® +ä¸į åıĺ +åı£ ç¢ij +åľ¨ åĵªéĩĮ +ä½ IJ +è¿Ļ 两个 +çļĦ æĸ¹åIJij +æŀ « +äºĮ 次 +çīĩ åĮº +éł IJ +ç£ Ĭ +æĭ¿ çĿĢ +å·²ç»ı æĪIJ为 +ä¹ĭ ä¸Ĭ +å®Ĺ æĹ¨ +奶 奶 +é«ĺæĸ° åĮº +社 æľĥ +è·Ł 踪 +æľįåĬ¡ ä¸Ńå¿ĥ +æī ¯ +æīĭ æĮĩ +礼 çī© +宿 èĪį +ç͍ å¿ĥ +æıIJé«ĺ äºĨ +亮 çĤ¹ +ä¸į æĦ¿æĦı +æĴŃ æĶ¾ +å¤ļå°ij éĴ± +没 ä»Ģä¹Ī +æķ° åįģ +æĢ» çĽij +çļĦ åŁİå¸Ĥ +æī¾ åΰäºĨ +åĨħ åľ° +åΰ çİ°åľ¨ +æĪĺæĸĹ åĬĽ +åİŁ å§ĭ +åĥ § +åĢĴ æĺ¯ +æľĢ åħ· +è´«åĽ° æĪ· +éĢģ åΰ +级 åĪ« +åĩº èµĦ +æĪª æŃ¢ +ç§į åŃIJ +èĥ½ ä¸įèĥ½ +幸 è¿IJ +èĸ ĩ +项 éĵ¾ +æĮĤ çīĮ +ä¸Ģ 樣 +ä¹ĺ 客 +èIJ½ åIJİ +ä½Ĩ æĪij +æĹ© åľ¨ +åĬ¨ 漫 +å¹³ çŃī +对 ä½ł +ä¸į æĢķ +å¤ĸ çķĮ +å¤ļå¹´ æĿ¥ +é¦ĸ 个 +æ²³ åįĹçľģ +æĪĸ åħ¶ä»ĸ +éķľ å¤´ +åįĹ æĺĮ +ä¸Ģ éĿ¢ +éĢłæĪIJ çļĦ +å´ Ķ +çŃ Ĵ +æķĻèĤ² éĥ¨ +åľ° åŁŁ +æĺĨ æĺİ +å·´ é»İ +æīĭ 游 +ä¸Ģ æĹ¶ +çł į +é¡¶ 级 +åħ± 计 +åİŁ æ²¹ +è¾ī çħĮ +说 æĺ¯ +æĸ°åįİ ç¤¾ +ç»ıåİĨ äºĨ +ä¸į æŃ¢ +è¦ģ ä¹Ī +èĢħ çļĦ +æĢ» æĬķèµĦ +è¡Į é©¶ +ä¸Ĭ å¸Ŀ +å¹´ 纪 +çIJ ¼ +ä¼ł 说 +ç²¾ èĭ± +æĸ¹ éĴĪ +æ±Ł æ¹ĸ +æĪIJ çĤº +æĢ» éĩı +æĬķ æĶ¾ +åĬ¨ çĶ» +èĹ ¤ +ç͵ æºIJ +éĴ Ļ +åIJĮ è¡Į +æĻ®éĢļ çļĦ +åĽ¾ä¹¦ é¦Ĩ +è¯Ī éªĹ +æħĪ åĸĦ +è¿Ļ 份 +主æĮģ 人 +å°± è¿Ļæł· +èĢĮ æĪIJ +èĩªè¡Į 车 +ä¸ŃåĽ½ çī¹èī² +èĤ¿ çĺ¤ +åIJ ¾ +å¼Ł å¼Ł +åıĹ çĽĬ +éĢīæĭ© äºĨ +æĺİæĺ¾ çļĦ +æĬ¥ èĢĥ +ç¬ij éģĵ +éĽĸ çĦ¶ +温 å·ŀ +éĿŀ æ´² +ç§į ç§į +åıĤåĬł äºĨ +è´§ è¿IJ +éļı 便 +å°± 没æľī +ç¸ £ +央 è§Ĩ +ç©¿ è¶Ĭ +çļĦ çݰ象 +åĩł 次 +çļĦ é£İéĻ© +æŃĮ æĽ² +æľ¬ å±Ĭ +å¹´ åĨħ +ä¸į è¶ħè¿ĩ +è¿ĩ å¤ļ +å¿ħé¡» è¦ģ +ç»ĵ 论 +åĢŁ éī´ +ç¥ŀ å¥ĩ +æľŁ æľĽ +ä¸ĵ 享 +éĿŀ常 éĩįè¦ģ +æĦıè¯Ĩ åΰ +åIJĪ å¹¶ +æĬĬ èĩªå·± +å¥Ĺ è£ħ +éŃĶ æ³ķ +å¤ı åŃ£ +ä¸į åĥı +å¢ĥ çķĮ +æĥĬ åĸľ +æľīä¸Ģ 天 +çĦ¦ çĤ¹ +æĪij 认为 +åħ° å·ŀ +ç͵ æ°Ķ +èģĶç³» æĪij们 +ç§ij æĻ® +她 说 +çļĦ æĸĩ竳 +å¥ĩ æĢª +åıĭ 好 +饮 æĸĻ +çļĦ æĶ¯æĮģ +çŃĶ åºĶ +éĩį éĩı +çij ¶ +åĩı è½» +ç§ijåѦ å®¶ +å·´ 西 +éĩijèŀį æľºæŀĦ +åħļ å§Ķ书记 +貸 款 +ç²¾ èĩ´ +ä»İ æľª +åį° åĪ· +åĽŀ 顾 +é¦ĸ éĥ½ +åıij èĤ² +éĹ® éģĵ +è¾¾ åΰäºĨ +å¿į ä¸įä½ı +æīį æľī +æįIJ èµł +ä½Ľ æķĻ +ä¸į æ¸ħ +éĺŁ éķ¿ +缸 åıį +æĬ¥ èѦ +大 åħ¨ +欧 缣 +帮 å¿Ļ +çļĦ æĻĤåĢĻ +缮 å½ķ +è¶³ 以 +èī° éļ¾ +ä»ĸ ä¹Ł +å·¥ ä½ľèĢħ +头 èĦij +缺 éĻ· +æĪIJç«ĭ äºĨ +å°± å¼Ģå§ĭ +认 åIJĮ +é»Ħ èī² +çĹħ æĥħ +覺 å¾Ĺ +è¿Ļ 两 +ä¿¡ ä»° +åľĭ å®¶ +ä¸įä»ħä»ħ æĺ¯ +çĭ¬ å®¶ +èά çļĦ +æĿIJ è´¨ +æµ· ä¸Ĭ +çĤº äºĨ +æľºåĬ¨ 车 +缸å½ĵ äºİ +å¤ļåħĥ åĮĸ +æĽ´ 大çļĦ +èĽ ® +åģĩ æľŁ +å¼ı çļĦ +交éĢļ è¿IJè¾ĵ +çľģ å§Ķ +ä¸į ç®Ĺ +æĶ¾ ä¸ĭ +éĹ ¯ +人 åľ¨ +港 åı£ +æĹ¨ åľ¨ +åij½ 令 +æŁIJ 个 +å¹³ 稳 +åıª 好 +人 人 +äº ŀ +äºĮ ç»´ +äºĮç»´ çłģ +æŀģ 为 +åĪ« å¢ħ +åħ¶ ä½Ļ +大 äºĭ +主管 éĥ¨éŨ +æĹł éĶ¡ +éĹ µ +éģŃ åΰ +说 è¿ĩ +为 ä½ł +è§£ çŃĶ +éªĮ æĶ¶ +çļĦ ç»ıéªĮ +åĮ¹ éħį +çģ« ç®Ń +豪 åįİ +æŁIJ æŁIJ +çļĦ æĹ¶ä»£ +书 éĿ¢ +æģĴ 大 +å»¶ éķ¿ +ä¸Ģ åIJĮ +æľª èĥ½ +交 æį¢ +çĶ¢ åĵģ +çŃī åΰ +åĪĨ 离 +æīĵ ç͵è¯Ŀ +å¹² çĩ¥ +è¾ĥ å¤ļ +å¤ļå¹´ çļĦ +èĥĮæĻ¯ ä¸ĭ +为 ä¾ĭ +æijĺ è¦ģ +å´Ľ èµ· +æŃ¤ åĪ» +æľī æľºä¼ļ +æĿ¡ 款 +é¢Ĩ导 å°ıç»Ħ +çļĦ 身ä½ĵ +åįķ ä¸Ģ +央 è¡Į +ä¸įæĸŃ æıIJé«ĺ +ä»·å̼ è§Ĥ +èĬ ½ +èIJ į +æ³ķå¾ĭ æ³ķè§Ħ +ä¸į éĶĪ +ä¸įéĶĪ éĴ¢ +åĩº äºİ +èĻļ æĭŁ +æį® æĤī +çĥ¦ æģ¼ +åħ¨ æĸ°çļĦ +æī« æıı +çĻ» éĻĨ +èīºæľ¯ å®¶ +çļĦ é£Łçī© +çļĦ åŃĺåľ¨ +客 åİħ +æĪij们 å°± +æŁ¥çľĭ æĽ´å¤ļ +è¯Ħ 审 +å¸Ĥ åł´ +è¬ Ľ +å·¨ 头 +ä¸ŃåĽ½ ç»ıæµİ +äºĨ èĩªå·±çļĦ +åĨ³ è®® +çĽijçĿ£ 管çIJĨ +æĬķ 票 +åĨį 度 +è¡Į çĤº +注 åħ¥ +ä½ľä¸º ä¸Ģ个 +æ¯ı个人 éĥ½ +åįķ åħĥ +è¦ģ çŁ¥éģĵ +被 称为 +ä¹ĭ éĻħ +è§£ éϤ +ä¸ ¸ +æº « +ä¸ī æĺŁ +é²ľ æĺİ +ä¹Ł éĥ½ +æĹ¶ æľº +åĩº æīĭ +æĥħ å½¢ +åķĨ è´¸ +éĢī 举 +对 èĩªå·± +çĶŁ åĬ¨ +åħĭ æľį +个 ä½ĵ +èĭ ij +ç¨ ± +大 åݦ +æĺ¯ 对 +åĪ© æģ¯ +è¿IJåĬ¨ åijĺ +åĮĸ è§£ +åīį æ²¿ +æĦŁ æģ© +æĢ» ä¹ĭ +é«ĺæĸ° æĬĢæľ¯ +åĿĩ 为 +åħ¨ åĮº +æ°Ķ æ°Ľ +åı¯ä»¥è¯´ æĺ¯ +ä½ı 宿 +åħļåijĺ å¹²éĥ¨ +åĹ ¯ +è·µ è¡Į +çļĦ ä¸ĵä¸ļ +èĢĥ éªĮ +èķ ¾ +åħ¬ åŃIJ +çļĦ çĬ¶æĢģ +æ½® æµģ +ä¿¡ æīĺ +è´ ¼ +åIJĦ æĸ¹ +æķij åĬ© +éĿŀ常 çļĦ +æ¡¥ æ¢ģ +åħ¬ æĸ¤ +ä¼¼ çļĦ +çľĭ 好 +å±Ģ éĥ¨ +å®ī éĿĻ +éħį ä»¶ +常 è§Ħ +å¼Ģ 车 +第äºĮ 次 +ä¸Ĭ 级 +åıĤ èµĽ +å®¶ å±ŀ +强 åĬ¿ +åľ¨ ä»ĸ +åIJij åīį +ä¹ĭ åľ° +éĥ ¡ +è¡Į ç¨ĭ +èѦ åijĬ +è§Ħå®ļ çļĦ +åķĨ åŁİ +äºĶ 大 +æķĻ å®¤ +åįģ è¶³ +æīĢ以 åľ¨ +å°Ĩ ç»§ç»Ń +çŃī æĸ¹å¼ı +å®¶ ä¼ģä¸ļ +交 ä»ĺ +çĤ¹ è¯Ħ +ç»ĵ ç®Ĺ +ä¹Ł åı¯ +å¤ĸ æ±ĩ +è¿Ļç§į æĥħåĨµ +æİĪ äºĪ +å¸ĥ ç½® +æĪIJç«ĭ äºİ +é¢Ħ èѦ +管çIJĨ 人åijĺ +å©ļ 礼 +ç»ĵæĿŁ åIJİ +åħ¥ éĢī +æĹł æ¯Ķ +åĴĮ åıijå±ķ +çϽ éħĴ +çİ© åħ· +ä¸ĩ ç¾İåħĥ +çļĦ æĪIJ绩 +æĭį çħ§ +èĢĥèĻij åΰ +ä¼ģä¸ļ åıijå±ķ +äºĨ 个 +çĶŁ æ°Ķ +çļĦ 女人 +äºĶ åįģ +çĪ· çĪ· +纽 约 +éĥ½ 被 +ä¸Ĭ 课 +çĽ ¡ +ä¼łç»Ł æĸĩåĮĸ +æ½ľ åľ¨ +åıij å°Ħ +ä¸Ģ 身 +éĺ² å®Ī +åĪ ® +é¢ĺ 缮 +åľ¨ åĨħçļĦ +ç¾İ 好çļĦ +è¿ĻéĩĮ çļĦ +ä¸Ģ ä¸Ŀ +人 åĿĩ +åĢ¡ 导 +身 åIJİ +æī© å±ķ +大 éŨ +å°± 被 +该 é¡¹çĽ® +æŀ¶ æŀĦ +ä¸Ģ åı£ +ä¿¡æģ¯ æĬĢæľ¯ +å¼Ģ ä¸ļ +æĶ¶ åıĸ +ç½ij 页 +æĶ¯ æı´ +å°ģ éĹŃ +å¡ij éĢł +大 èĥĨ +å¿«éĢŁ åıijå±ķ +çľĭ ä¼¼ +æ¸ Ŀ +è¿Ļæł· ä¸Ģ个 +模 åĿĹ +注æĦı åΰ +çł´ è§£ +èĩª ä»İ +åijµ åijµ +ä¹ĭ å¾Į +ä¹ĭ æĹħ +è·Ł æĪij +æ³ķ 人 +æİĴè¡Į æ¦ľ +åĿļ å®Ī +好 å¤Ħ +çŁ³ 头 +å¹¶ å°Ĩ +èĪ ± +æŃ ĩ +两 岸 +å¤ļ ä¹ħ +象 å¾ģ +个æĢ§ åĮĸ +çļĦ è§Ĵ度 +å¸ Ĩ +ç¦ı å·ŀ +æŁ¥ å¤Ħ +两 åĽ½ +åIJ¸å¼ķ äºĨ +é¦ĸ å¸Ń +大 åĵ¥ +é¤ Ĭ +涨 å¹ħ +éĢī ç͍ +許 å¤ļ +èIJ½ æĪ· +åĵĪ å°Ķ +åĵĪå°Ķ 滨 +åģļ ä»Ģä¹Ī +以 åħį +é¾ į +æĹł éľĢ +åΰåºķ æĺ¯ +æĢ ¡ +åijĬè¯ī ä½ł +éĺ² æ°´ +è¿Ļ æĹ¶åĢĻ +欢 ä¹IJ +转 åIJij +è¿Ļ个 åľ°åĽ¾ +åħ¥ é©» +èįī åİŁ +æĹ¶ä»£ çļĦ +åıĺ åĬ¨ +åĬłå¼º 对 +åģ¶ å°Ķ +å®Ī æĬ¤ +æ°Ķ 温 +人 éĹ´ +æľĿ é²ľ +ç»ı è´¹ +åĽŃ æŀĹ +å·¥ åľ° +è§Ħ æł¼ +åĩł åįģ +è¯ķ åĽ¾ +å¦ ĥ +éĤ£ æĹ¶åĢĻ +å¼ĺ æī¬ +ä¸ļ çķĮ +çļĦ éĢŁåº¦ +ä¼ļ ä¸įä¼ļ +èIJ¥ æĶ¶ +å°ıå¾® ä¼ģä¸ļ +çľĭ è¿ĩ +æĬĬ ä»ĸ +éģµ å¾ª +è¿Ļ è¾¹ +没æľī 人 +å£ ¶ +æ¹ĸ åįĹçľģ +æŀģ åħ¶ +çļĦ人 çĶŁ +ä»ĸ è¿ĺ +转åĮĸ 为 +èµ° è¿ĩ +æĬ± çĿĢ +çīĽ å¥¶ +ä¸ĩ 亩 +å¿ĥ æĢģ +æĹ¥å¸¸ çĶŁæ´» +ä½ĵ æ£Ģ +æĻ ĥ +çŃī é¢ĨåŁŁ +æĩī 該 +åı¯ä»¥ çľĭåΰ +æī¾ ä¸įåΰ +èĢģ å¹´ +æĬĬ æĪij +积 åĪĨ +梳 çIJĨ +ç» ³ +çļĦ æĶ¿æ²» +å¸Ŀ åĽ½ +éĻª ä¼´ +æ´Ľ éĺ³ +åħ¬ æŃ£ +å¼Ģ åı£ +çī¹èī² çļĦ +åĽ° å¢ĥ +ä¸Ĭ æľī +ç«ĭ ä½ĵ +æīĵ å·¥ +åķ¤ éħĴ +åľ¨ éĤ£éĩĮ +éĤ£ è¾¹ +个 åĪ« +ä¸Ģå®ļ æĺ¯ +çļĦéĩįè¦ģ æĢ§ +主 å¼ł +åĴĮ æľįåĬ¡ +ä¸Ĭ ç½ij +è¡¥ åĬ© +åıª éľĢ +å¼ ¦ +éģ ® +åĬĽ äºī +度 è¿ĩ +èij ¬ +é¡¿ æĹ¶ +éĦ ī +纺 ç»ĩ +åľ° åĿĹ +ä¿¡ç͍ åį¡ +ç½ļ 款 +åijĬè¯ī æĪij +éĽ Ļ +书 çĶ» +è¨Ń è¨Ī +æĢ» ä¼ļ +åΤ åĨ³ +ä¿¡ èªī +个 èĤ¡ +å¹³ 常 +æĢİ éº¼ +ä½ĵ çİ°åľ¨ +é»Ħ æ²³ +åĽĽå·Ŀ çľģ +羣 缸 +åIJĦ项 å·¥ä½ľ +åĬ¨ åijĺ +å³° ä¼ļ +ä¸Ģ æľŁ +æľī ä¸Ģå®ļçļĦ +é«ĺ度 éĩįè§Ĩ +ç¹ģ èᣠ+åıijçݰ äºĨ +ç½ij 红 +æīĭ æ³ķ +å®¶ åĽŃ +仪 åύ +è¾ĥ ä½İ +çļĦ å®īåħ¨ +æ¡ IJ +ä»ĺ 款 +æĬij åζ +åįĵ è¶Ĭ +æŃ£ éĿ¢ +åĵ ij +强 åζ +ä»Ĭ天 çļĦ +æĪĺ èĥľ +楼 å¸Ĥ +æĭ¿ ä¸ĭ +é¢ľ å̼ +举 éĥ¨ +çłĶ åζ +çļĦ æĪĺçķ¥ +åľ¨ ä¸Ģ个 +ä¸ī 人 +å®Į äºĨ +æĸ° æĬĢæľ¯ +ç»ıæµİ æķĪçĽĬ +å¯Į æľī +æ¾³ æ´² +åĬ© çIJĨ +é¢Ĩ åıĸ +è° Ń +çĩĥ çĥ§ +ç´ł åħ» +éĤĦ æľī +è¿Ľ èĢĮ +ä»Ģä¹Ī æĺ¯ +çłĶç©¶ ä¸Ńå¿ĥ +éĢĤ ç͍äºİ +æİ¥ æĶ¶ +失 æľĽ +äºĮ 级 +éĹ´ çļĦ +åİŁ æłĩé¢ĺ +èªį çĤº +æį ¡ +对 çĿĢ +对 éĿ¢ +ä¸Ń åİŁ +éĵ ĥ +çĶŁäº§ çļĦ +åıijå¸ĥ ä¼ļ +士 åħµ +è¿Ļ åı¥è¯Ŀ +ç¼´ 纳 +ä¸Ģ个 个 +åѸ çĶŁ +çĸij éĹ® +交 èѦ +示èĮĥ åĮº +天 使 +åľ¨ ä¸Ĭæµ· +åIJĮ æĻĤ +è½» æĺĵ +å͝ä¸Ģ çļĦ +çĥŃ éĹ¹ +ä¹IJ è§Ĥ +çļĦ 身份 +åĸĦ äºİ +大 åİħ +èĤ¯å®ļ æĺ¯ +éĺ² çģ« +å¤ĸ åĩº +æį® 说 +é¡¹çĽ® çļĦ +ä¸Ģ åı° +èĻļ åģĩ +ä¸Ģ ç¬Ķ +ç«ĭ æ³ķ +严 èĤĥ +æī¿ åĬŀ +åįģ åĩł +çļĦ 空éĹ´ +æľ¬ ç½ijç«Ļ +åģļ å¾Ĺ +ä¿Ŀ 温 +æľĪ åĪĿ +åľ¨ ç½ijä¸Ĭ +åIJĦ æĸ¹éĿ¢ +ä¸ī 天 +交æĺĵ æīĢ +è§£ æŀIJ +åħļ ä¸Ń央 +è¿Ľ åĩºåı£ +åĴĮ 社ä¼ļ +次 æķ° +ä¹ĭ å®¶ +ç»´ 度 +æ´¾åĩº æīĢ +产çĶŁ äºĨ +带 æľī +å¾Ī 强 +æľīäºĽ 人 +å¹´ åIJİ +äºĨ 许å¤ļ +å¯Ĩ 度 +åѦ æľŁ +çıł æµ· +æľĢå¤ļ çļĦ +è¾¹ ç¼ĺ +容 éĩı +第äºĮ 个 +ä¸Ģ缴 æĺ¯ +ä¸į ç¦ģ +æŃ ² +ä»ĭç»į äºĨ +ä¼ĺ éĽħ +æ¯Ķ è¼ĥ +èģĮ ä½į +温 æŁĶ +æľī éĴ± +æľĢ é«ĺçļĦ +åįļè§Ī ä¼ļ +ä¸į æĪIJ +éĶĻ äºĨ +è¯ģ çĽij +è¯ģçĽij ä¼ļ +æĪIJ 人 +åĿĩ åĮĢ +æľī åĪ© +è¶Ĭ åįĹ +æīĵ äºĨ +好 åIJĥ +ç³» çµ± +è·Ł éļı +çļĦ åľ°ä½į +æŃ£ å¦Ĥ +ç¨į å¾® +åį° åıij +åĪĽ ç«ĭ +é£İ åħī +å°Ĩ æĪIJ为 +ä¸į é«ĺ +é¢ij ç¹ģ +设 æľī +ä¼ ŀ +æĭĨ éϤ +å½± åĥı +æ¸Ĺ éĢı +å¹´ å¼Ģå§ĭ +ç½ij æĺĵ +è¦ģ åģļ +ç͵åĬ¨ 车 +羣 å¿ĥ +æµ· åĨĽ +ä¼ł æĿ¥ +å·® åĪ« +è°¨ æħİ +çĥŁ åı° +åįĥ å¹´ +è¯ģ å®ŀ +çIJ ª +çļĦ åħ·ä½ĵ +åΰ å¤Ħ +ä¸į å®ľ +èľ Ģ +èĥ½åĬĽ åĴĮ +çīº çī² +çļĦ éĴ± +大 éĺŁ +é¦ĸ è¦ģ +ä¸į æĦ¿ +çİ« çij° +人æ°ij ç½ij +è¿ĺæĺ¯ è¦ģ +åĽĽ å¹´ +æį٠伤 +çļĦ åģļæ³ķ +éĿ Ī +è¡Ķ æİ¥ +åIJĪ æĪIJ +没 人 +éŨ æ§Ľ +ä¿¡ è´· +çļĦ 缸åħ³ +举 é£İ +社 ä¿Ŀ +ä¸ĭ 游 +åĿĹ éĴ± +è¿ĩ åIJİ +çļĦ åºĶç͍ +é¥ ¶ +é¢ģ åıij +ä¸Ģ å¤Ħ +åįİ å¤ı +为 ä¼ģä¸ļ +åıª ä¼ļ +ä¾µ 害 +çļĦ åĬŁèĥ½ +åѸ ç¿Ĵ +ä¸Ńåįİ æ°ijæĹı +åıijå¸ĥ äºĨ +è¿İ æİ¥ +æĪij èĩªå·± +è¿ĺ éľĢè¦ģ +太éĺ³ èĥ½ +åİ» ä¸ĸ +æĺ¯ ä½ł +åIJĪ åĬĽ +ç»ĺ çĶ» +åı° åĮĹ +çĿ£ ä¿ĥ +åĮĹ éĥ¨ +æľī å¤ļå°ij +å¾Ī éĩįè¦ģ +åĪĴ åĪĨ +åı· 线 +æĶ¾ 大 +ä¼ļ 被 +èİ· å¥ĸ +ä¹ĭ åĨħ +失 åİ»äºĨ +çݩ家 们 +éĩĩ éĽĨ +å£ ¹ +å®¶ ä¼Ļ +çϽ 天 +åĽłä¸º ä»ĸ +社ä¼ļ æ²»çIJĨ +å¼Ģ åĪĽ +ç͵ ç¼Ĩ +æĸ° ä¸Ģ代 +å¹¶ è´Ń +å°± å·²ç»ı +çļĦ 社ä¼ļ +éϤ éĿŀ +åı¯ä»¥ ç͍ +å© ī +æ¯Ķè¾ĥ 好 +å®ŀ ä¸ļ +åĪĽ åĬŀ +æıIJ èµ· +é» ĥ +ä½ı åľ¨ +å¸Ĥ æĶ¿ +éĿ¢ä¸´ çļĦ +èĥ½ åľ¨ +çŁŃ çŁŃ +羣 人 +æĺİ æĺİ +èµĦ åĬ© +çļĦ ä¸įåIJĮ +å°ı æľĭåıĭ +é¢ĺ æĿIJ +ç¾İ åij³ +æĺŁ åº§ +ä¸į ä¸Ģæł·çļĦ +çľĭ ä¸Ĭåİ» +ä¸Ģ æł¹ +广 å·ŀå¸Ĥ +åıijçĶŁ çļĦ +é«ĺ ç§ijæĬĢ +ä¸Ģ è¾ĪåŃIJ +交 åıī +ä½ĵç³» 建设 +åĽłä¸º æĪij +çıį æĥľ +ä¸Ĭ åѦ +æĪĺ æľ¯ +æŃ¤ ç±» +交 å¾Ģ +æĮī æij© +人们 çļĦ +åħ¶ 實 +åİŁ æĿIJæĸĻ +渴 æľĽ +缸 å¤Ħ +å¾® å¾® +æ® · +ä¹ĺ åĿIJ +å¼Ģå±ķ äºĨ +é«ĺ åĵģè´¨ +æĹłäºº æľº +ä¸įæĺ¯ å¾Ī +çļĦ æĬķèµĦ +èĬĤ çľģ +èĩ ī +ç²¾ éĢī +çļĦ æłĩåĩĨ +åįĹ éĥ¨ +认è¯Ĩ åΰ +å¹³ éĿĻ +èĹ ¥ +æī« é»ij +æī«é»ij éϤ +æī«é»ijéϤ æģ¶ +éĢĻ ç¨® +建çŃij éĿ¢ç§¯ +ç¡® ç«ĭ +管çIJĨ åĬŀæ³ķ +æĦı å¿Ĺ +ä¸ ¨ +让 åŃ©åŃIJ +æķij çģ¾ +å½ĵ ä»Ĭ +çģ« çģ¾ +åIJĦ éĥ¨éŨ +ä¾µ çĬ¯ +æ¯ı åij¨ +æı ½ +ä¸Ģ次 æĢ§ +åħ¶ä»ĸ 人 +éĶĻ è¿ĩ +ä¸İ åħ¶ +åĭĩ æ°Ķ +çĩĥ æ°Ķ +é¦ĸ å±Ĭ +æľį 饰 +ç² ¥ +å®Į æ¯ķ +å°± æĬĬ +åĬŀäºĭ å¤Ħ +ä¸Ģä¼ļ åĦ¿ +离 ä¸įå¼Ģ +å¦Ĥæŀľ æĤ¨ +ä»ĵ åºĵ +导 å¸Ī +åIJĪéĢĤ çļĦ +毫 ç±³ +å®īåħ¨ æĢ§ +ä¾Ŀ çħ§ +产ä¸ļ åĮĸ +ä½ł çľĭ +羣çļĦ å¾Ī +åѤ çĭ¬ +éĺ² å¾¡ +å¾Ī ç®Ģåįķ +é£İ æ°´ +ä½Ĩ ä¹Ł +æİ¨ åĩºäºĨ +æ°ijèIJ¥ ä¼ģä¸ļ +çłģ 头 +å¤įæĿĤ çļĦ +ç»ĦæĪIJ éĥ¨åĪĨ +åħħ满 äºĨ +è¿ij åĩłå¹´ +çľģ æĶ¿åºľ +æľī å¿ħè¦ģ +éĻ ³ +ä¹ĭ ç±» +ä¹ĭç±» çļĦ +æĢ§ ä»· +æĢ§ä»· æ¯Ķ +åķĨ åºĹ +å¸Ĥ å̼ +人æīį åŁ¹åħ» +æ·± åıĹ +管çIJĨ å±Ģ +æģIJ æĥ§ +ä»ħ æľī +æĬµ è¾¾ +æµ· åħ³ +èµĭ äºĪ +äºĭ åĦ¿ +ä»· éĴ± +æīĭ ä¸Ĭ +èĩª å¾ĭ +åħ³ çα +享 æľī +éģĹ æĨ¾ +å¾Īå¿« å°± +æĽ´ å¿« +æłĩ è¯Ĩ +åºĨ ç¥Ŀ +ä¹Ł 好 +ä¸į æĺĵ +æĪij å¾Ī +æĶ¹éĿ© åıijå±ķ +å¤ĸ åľ° +æĬµ æĬ¼ +è¯Ĺ 人 +åİķ æīĢ +æĸ° åªĴä½ĵ +èĸ Ľ +è°Ī è¯Ŀ +ä¸Ģå®ļ ç¨ĭ度 +èµ° åľ¨ +æľĢ 强 +åĬŁ çİĩ +åħ± è¯Ĩ +大 æ¡¥ +ä¸ĭ æĸ¹ +å¤ĸ èµĦ +ç¢ ± +å·¡ è§Ĩ +æ¹ĸåĮĹ çľģ +个 çϾåĪĨ +个çϾåĪĨ çĤ¹ +çļĦ 责任 +çļĦ åĵģçīĮ +åĬ© æİ¨ +åĪĽéĢł äºĨ +ä»» èģĮ +å¿« æį· +æĿij åºĦ +åİ» çľĭ +æīį èĥ½å¤Ł +å± ¤ +æĪij å®¶ +æĺ¯ä¸Ģ 款 +ç¾ ħ +åĨ° éĽª +æŀģ 大 +çģ¯ åħī +éĨ ĭ +ä¸İ åħ¶ä»ĸ +æıIJåĩº çļĦ +éĿł è¿ij +è°ĥ åĬ¨ +å°½ åı¯èĥ½ +åıij åĬĽ +ç»Ļ 她 +éĢĤ éĩı +è·¨ åĽ½ +åħĪ è¡Į +æĸ° æĿIJæĸĻ +ä½ľ äºĨ +满 äºĨ +ä¸į 满 +çļĦçľ¼ çĿĽ +çľĭ å¾Ĺ +è¿Ļ ä¸Ģ次 +é½IJ åħ¨ +çļĦä¸Ģ éĥ¨åĪĨ +ä¸ Ļ +æ¸ħ æĸ° +說 æĺİ +身边 çļĦ +æīĢæľī 人 +å½° æĺ¾ +è± ¹ +åį ¿ +è¿IJ 转 +æĮĩ å¼ķ +å¸Ĥ åħ¬å®īå±Ģ +åıĤ å±ķ +ä¹ĭ æĹ¶ +éĩijèŀį æľįåĬ¡ +èµĦæľ¬ å¸Ĥåľº +èĥ½ 让 +å¿ĺ äºĨ +天 åłĤ +æ¯Ķå¦Ĥ 说 +éĬĢ è¡Į +èĽĭ ç³ķ +çĶ © +æł¸ å®ŀ +æĻ® 京 +ä¼ĺ ç¾İ +åı£ èħĶ +漫 çĶ» +çľ¼ éĩĮ +äºĨ ä¸ĭæĿ¥ +æĪij们 ä¹Ł +ä¾ į +为 ä¸Ńå¿ĥ +å¥ĩ 迹 +éĿĴ çĿIJ +æĪªèĩ³ 缮åīį +åĩº ä¾Ĩ +æĢ» åħ¬åı¸ +å¼¥ è¡¥ +ç®Ĺ æ³ķ +å·¥ä½ľ 室 +æīĢ以 æĪij +æ°´ åĪĨ +æīĢ å±ŀ +ä¸į 说 +ä½Ĩæĺ¯ åľ¨ +è¦ģ åİ» +åĪĽä¸ļ èĢħ +ä¸į æ¸ħæ¥ļ +åĽĽ åij¨ +æĺ¯ ä»İ +çļĦ æł¹æľ¬ +çģ ¶ +æ¯Ľ æ³½ +æ¯Ľæ³½ 举 +æµ· åı£ +åĽĽ åįģ +ä¹Ł 被 +èģ · +ä¸Ģ æīĭ +绩 æķĪ +çļĦ çĶ·äºº +书 ç±į +ä¸Ģ èĦ¸ +大 äºİ +鼶 éĥ¨ä»¶ +åħ³ æĢĢ +å¹³ ç±³ +æļ´ éľ² +å¾Ĺ å¤ļ +ä¸ī 级 +æľ¬ åij¨ +两 èĢħ +对 ä¸ŃåĽ½ +åıª è§ģ +欧 ç¾İ +å¦Ĥæŀľ æľī +å·²ç»ı æĺ¯ +çľĭ å®Į +çģ« éĶħ +èµ IJ +ä¸Ģ éģį +æĦŁ åĨĴ +ç»ĵ å±Ģ +ä»ĵ åĤ¨ +å®ŀ åľ° +å̻ ç»ıçIJĨ +ä¹Łä¸į çŁ¥éģĵ +碰 åΰ +åIJĪ è®¡ +客æĪ· çļĦ +ç½Ĺ 马 +æĦī å¿« +é£ Ľ +çĥŃ çĥĪ +伦 æķ¦ +åĮ» ä¿Ŀ +éĺ¿éĩĮ å·´å·´ +åĨį 说 +为 åŁºç¡Ģ +çĶŁäº§ ç»ıèIJ¥ +è¿ĻäºĽ 人 +åĪĹ è½¦ +æ²³åĮĹ çľģ +è¿Ļ 段 +æ´»åĬ¨ ä¸Ń +å© · +çĶŁ çIJĨ +ä¸ŃåĽ½ 人æ°ij +éĦ Ĥ +åIJ¬ åıĸ +å¤į ä¹ł +æľī çĽĬ +æĶ¶ æĭ¾ +å¾Ī åı¯èĥ½ +ç½ij绾 游æĪı +们 çļĦ +èµĭ èĥ½ +éļ¾ å¾Ĺ +åĪĨ æīĭ +羣 è¯ļ +åħ¬åı¸ åľ¨ +åĿĩ è¡¡ +åı£ åij³ +çīµ å¤´ +ä¸Ģèά çļĦ +轿 车 +çŃī äºİ +æ²ī é»ĺ +æĪij éĥ½ +å°ı ç¨ĭåºı +ä¸Ģ åī¯ +æī¿ è½½ +åľ° è´¨ +çķĮ éĿ¢ +ç͵ æľº +çĦ¦ èĻij +éĶĢåĶ® é¢Ŀ +æĸ° 车 +ä¸Ĭ 游 +主 æ¼Ķ +éļIJ ç§ģ +åıijå±ķ æĪĺçķ¥ +çļĦ åĬªåĬĽ +å¼Ģ åħ³ +è§£åĨ³ éĹ®é¢ĺ +çĿ£ 导 +对 æĬĹ +å¾Īå¤ļ 人éĥ½ +æĹł æķĪ +产åĵģ è´¨éĩı +å®ī å¿ĥ +åįİ äºº +ä¸į 符åIJĪ +èĩª å®¶ +éĺµ å®¹ +çļĦ åIJĦç§į +çļĦ çIJĨ念 +çļĦ æĸĩåĮĸ +为 èĩªå·± +å±± æ°´ +游 æ³³ +éľĩ èį¡ +çĶŁæ´» æĸ¹å¼ı +è¿ľ 离 +çŁ³ åĮĸ +æŃ¤ äºĭ +æĺ¯ 羣çļĦ +çļĦ æ¯Ķä¾ĭ +ç͍ ç͵ +奥è¿IJ ä¼ļ +ä¿Ŀ å®ī +èĽĭçϽ è´¨ +çļĦ å¿ĥçIJĨ +å· « +åı· çłģ +æ°Ķ ä½ĵ +åıij æĶ¹ +åıijæĶ¹ å§Ķ +åĮ» å¸Ī +æ¶Ĥ æĸĻ +æĺ Ĭ +å¸Ĥ 级 +ä¸ĸçķĮ çļĦ +åĪĨåĪ« æĺ¯ +çł´ 产 +ä¸Ģ æĿ¯ +æĭī å¼Ģ +å¹³ åĩ¡ +çļĦ åıijçĶŁ +åĬ¨ æīĭ +ä¸Ģ缴 以æĿ¥ +æīĭ å·¥ +éĩĮéĿ¢ çļĦ +æĹł åħ³ +ä»ĭ åħ¥ +èµ° ä¸Ĭ +å°±æĺ¯ è¦ģ +å¹´ éĹ´ +åĩº çı¾ +å½± éŁ¿ +å¹ħ 度 +éĽ ģ +éģĵ åħ· +缮çļĦ åľ° +åIJİ èĢħ +ä¸Ĭ æ¼Ķ +äºĨ åĩł +æ®ĭçĸ¾ 人 +å¿Ļ ç¢Į +æĺ¯åIJ¦ æľī +å¹¶ 对 +ä¼ļ 导èĩ´ +æ°´ åºĵ +ç»Ĩ èĩ´ +åIJİ æĤĶ +å¿ĥ æĢĿ +åģļ äºĭ +åİĤ æĪ¿ +çĿ ¿ +è¿IJèIJ¥ åķĨ +头 éĥ¨ +çļĦ è§Ĵèī² +æĺ¯ ä»ĸ +æĹ¢ æľī +å°ıæĹ¶ åĢĻ +强 åĬ² +主 æĴŃ +åħ¨åĽ½ åIJĦåľ° +æį ı +æįŁ åĿı +åķĨ ä¼ļ +ä¿Ŀ ç½Ĺ +çľģ å¸Ĥ +éļ§ éģĵ +æľī ä¸įå°ij +è¦ģ åľ¨ +建设 é¡¹çĽ® +ç³ĸ å°¿ +ç³ĸå°¿ çĹħ +æĿ¡ä»¶ ä¸ĭ +ä¼ĺè´¨ çļĦ +é¦ĸ åıij +å½ĵæĹ¶ çļĦ +丰 çͰ +大 çĽĺ +缸 ç»§ +å®ģ å¤ı +åħ¥ ä½ı +æĪij è¿ĺ +åħĭ æĸ¯ +å®ļ ä»· +å¹³æĸ¹ åħ¬éĩĮ +çļĦ çŁ¥è¯Ĩ +æĪij们 ä¼ļ +åħĥ å®Ŀ +ä½ĵ éĩį +è³ £ +对 æĪij们 +çŁ³ å®¶ +çŁ³å®¶ åºĦ +ç²¾ åįİ +å½¢ çĬ¶ +åıĹ åΰäºĨ +ä¿® 订 +ç¾İ åľĭ +é«ĺ æ¸ħ +çľ¼ éķľ +è§īå¾Ĺ èĩªå·± +带 ç»Ļ +åĶ® ä»· +éŨ 票 +åŃķ å¦ĩ +ç͵è§Ĩ åı° +åıij ä½ľ +çļĦ åij³éģĵ +éķ¿ è¿ľ +åħ¬åħ± æľįåĬ¡ +æŃ£å¸¸ çļĦ +æľī è¿ĩ +é£İ æĥħ +æ¯Ķ éĩį +åIJ » +管çIJĨ å·¥ä½ľ +综åIJĪ æĢ§ +å·² 被 +说 èµ· +æİĴ æ°´ +ä¸įæĸŃ åľ° +æĥħ æĢĢ +è¾ĵ éĢģ +è¿ĩ æķı +çļĦ åı¯èĥ½æĢ§ +æľį ç͍ +æľī 许å¤ļ +å§Ķ åī¯ä¹¦è®° +åĮĸå¦Ĩ åĵģ +æļĤ åģľ +æĬķèµĦ 人 +çıŃ çº§ +说 çĿĢ +åįĹ åĮĹ +åĪĨ è¡Į +çıł å®Ŀ +å¯ ¶ +å¢ŀ å¤ļ +被 åĬ¨ +ç®Ĭ çļĦ +éĹľ ä¿Ĥ +çļĦ èĦ¸ +æĥ Ł +ä¸į ä¸Ģå®ļ +ç¶ Ń +çģ« çĪĨ +ç§Ł éĩij +çŀ § +éĩį 建 +è· ª +ä¸Ģ 種 +çļĦ åIJĪä½ľ +å®ī æħ° +ä»į æĺ¯ +ä¸ĵä¸ļ åĮĸ +è°ĥ è§£ +ä¸į 妨 +éĢĻ æĺ¯ +å¿ħ éłĪ +ä¼Ĭ æľĹ +å¾Ĺ äºĨ +æľįåĬ¡ å¹³åı° +å§ ¬ +åħĪ éĶĭ +çİĭ åŃIJ +çļĦä¸Ģ åĪĩ +æĢ» çIJĨ +åĵ ¼ +çª ij +çļĦå¿ĥ æĥħ +çļĦ éĩį大 +çij Ł +ä¸Ģ ç¬ij +åıijå±ķ ä¸Ń +åģ¥åº· åıijå±ķ +åĵģçīĮ çļĦ +ç¦ ® +ä½Ļ 人 +ä»Ĭå¹´ 以æĿ¥ +æķ° çłģ +çѾ è¯ģ +åİ» æī¾ +åŁºéĩij ä¼ļ +æĬ± æĢ¨ +æŃ£ å½ĵ +çıŃåŃIJ æĪIJåijĺ +ä¸į åIJĪæł¼ +åζ å®ļäºĨ +ç¼ĵ æħ¢ +åζ 约 +æłı 缮 +å¸Ĥåľº ç»ıæµİ +ç»ĦæĪIJ çļĦ +严 å³» +æĹ¥ 讯 +ä¸ĢçĤ¹ çĤ¹ +æĺ¯ æĢİä¹Ī +çļĦ çħ§çīĩ +éĺ» æŃ¢ +模 ç³Ĭ +ç¼ ¸ +éģķ åıį +æIJ¬ è¿ģ +éĩij éĴ± +å½ ¬ +ä¸į å®ī +æĪĺçķ¥ åIJĪä½ľ +å¡« åĨĻ +讲 ç©¶ +åħħåĪĨ åĪ©ç͍ +èĥ½ å¤ł +èij¡èIJĦ éħĴ +éĩĩç͍ äºĨ +åľ¨ ä»Ĭå¹´ +ä¸Ńå°ı åѦ +åľ¨ æĦı +çļĦ åİĭåĬĽ +ä¸į 幸 +åζ èᝠ+åı¯ä»¥ 让 +被 è¯Ħ为 +ç»Ĩ èıĮ +æĪı åī§ +åįĬ 导 +åįĬ导 ä½ĵ +è§Ĩ è§Ĵ +åĸľ æŃ¡ +å¾ģ æĶ¶ +è°ĭ åĪĴ +æŀģ 大çļĦ +çĤ¹ èµŀ +è®°èĢħ ä»İ +两 åIJį +èĩª åĬ© +èµ· æŃ¥ +æĬ¤ 士 +å®Ŀ 马 +太 åŃIJ +å°ıå°ı çļĦ +温 æ³ī +åĩºç§Ł 车 +ç§Ł æĪ¿ +两 å®¶ +éľĩ æĴ¼ +ç§ī æī¿ +ä¸Ģä»¶ äºĭ +çĥΠ士 +å®ĺ åħµ +转 身 +ä¹IJ åĽŃ +çĻĮ çĹĩ +模 èĮĥ +æĦ £ +è¿ĩåİ» çļĦ +代 ä»· +çļĦ æ¦Ĥ念 +åĩł çϾ +è´µ éĺ³ +æĭħ å¿§ +éĢĤ å®ľ +çݯå¢ĥ ä¿ĿæĬ¤ +çĥ « +ä½ł æĥ³ +æŃ¤ åIJİ +ä½ł ä¹Ł +çį İ +éϤ æŃ¤ +éϤæŃ¤ ä¹ĭå¤ĸ +è°ĥ 度 +ç§ij 缮 +æīĢ说 çļĦ +åĬ ĩ +忽 è§Ĩ +ä¸ī 次 +ä¸Ģ æĹ¥ +åŀĤ 缴 +ç«ŀ æĬĢ +éĿ¢ åĮħ +大 æĪĺ +æIJº 带 +å¦Ĥæŀľ 没æľī +åħ» æĪIJ +åĩº è¡Ģ +çα好 èĢħ +æīĵ éĢļ +èµ· è¯ī +åijĪ çݰåĩº +æŃĮ æīĭ +åľ¨ å¤ĸ +é¢Ĩ导 å¹²éĥ¨ +åĨ ¥ +èĪĨ 论 +æıIJ åıĸ +éĺ¿ å°Ķ +æľĽ çĿĢ +ä¸ī äºļ +è² ¡ +åĪ ·æĸ° +æĻļ æĬ¥ +è¿ĺæľī ä¸Ģ个 +åĨ° ç®± +ç½ij çĤ¹ +åĩº åħ· +强çĥĪ çļĦ +æĪij çĽ¸ä¿¡ +å¸ĮæľĽ èĥ½ +çīĻ é½¿ +äºĭ å®ľ +ä¸ļåĨħ 人士 +代 æĽ¿ +åıĺ å½¢ +éĽ ² +è°ĥ æİ§ +åĪĽæĸ° åĪĽä¸ļ +æĭĨ è¿ģ +æł¸ æŁ¥ +éĢ Ĺ +åħ¥ åѦ +æĦı åIJij +æı Ľ +ä¸ĭ 次 +ä¼ł è¾ĵ +ä»ĸ们 åľ¨ +èĢĮä¸Ķ è¿ĺ +æĹ¥ åľ¨ +æķĻ è®Ń +æ´» çĿĢ +çļĦ æľīæķĪ +å¤įå·¥ å¤į +å¤įå·¥å¤į 产 +æĺ¯ä¸Ģ ä»¶ +çŃī çĿĢ +å¾ © +åĭĩ æķ¢ +éģŃ åıĹ +å¥Ķ é©° +讲 座 +说 å®Į +ç»Ļ åĩº +è° ¦ +è¯Ĭ çĸĹ +çĽ² 缮 +客 è¿IJ +å°± è¿ŀ +å¼Ģ åħĥ +å¼Ģåħĥ æ£ĭçīĮ +ä¸įæĸŃ æıIJåįĩ +ç͍æĪ· çļĦ +æĴ ķ +ä¾Ľ æ°´ +ç¶ĵ æ¿Ł +ä¸Ń åĮ»èᝠ+èģĶ æĥ³ +åħ¬äº¤ 车 +èĪª çıŃ +æĬĢ è¡ĵ +å¼ķèµ· çļĦ +å° ¹ +èµĦ æ·± +åĽ½èµĦ å§Ķ +èĺ Ń +é¼» åŃIJ +éĹ ½ +æİĴ éĺŁ +è§Ĥ åħī +éģĹ åĿĢ +举 京 +é¥Ń åºĹ +ä¸įæĸŃ çļĦ +å°±æĺ¯ ä¸Ģ个 +éķ¿ ä¹ħ +çļĦ è§ĤçĤ¹ +å¨ ¶ +æĪij çİ°åľ¨ +çķ ° +å¾Ĺ åĩº +å¿ħ å®ļ +ä¸į åıĹ +åıª éľĢè¦ģ +åĽ° æī° +ç§ijåѦ æĬĢæľ¯ +çīĽ èĤī +è¾ĥ é«ĺçļĦ +è·ij æŃ¥ +æ² ¾ +èı© èIJ¨ +æľĢ å¾Į +ä¿Ŀ å¯Ĩ +æ²» å®ī +éĤ ± +常 è¯Ĩ +èĦ¸ èī² +åĮĹ å¤§ +æ±ĩ èģļ +æijĨ èĦ± +é¾Ļ头 ä¼ģä¸ļ +女 åıĭ +çŃī å·¥ä½ľ +ä¸Ń ç¾İ +èģĮ åľº +èĦij è¢ĭ +åĨĻ çļĦ +饲 æĸĻ +åĬ³ åĬ¨åĬĽ +å± ¯ +æĮģ èĤ¡ +åĽ¾ åĥı +è¿ĩåİ» äºĨ +è² ¨ +è¾ ² +éĹ® æĪij +è·Ł ä½ł +çĶŁ æŃ» +审 ç¾İ +é¢Ĺ ç²Ĵ +ä¸Ń æĸ¹ +åĬł çĥŃ +æĹħè¡Į 社 +çϼ çĶŁ +ä¸į åłª +åĤ · +æ¥ ł +åĬŀ æ¡Ī +æŁ Ħ +æĹ¢ æĺ¯ +å¤Ħ åĪĨ +羣å®ŀ çļĦ +æĬ¥ 纸 +å¸Ī çζ +å®īå¾½ çľģ +åī¯ ä¸»å¸Ń +ä¹ĭ éģĵ +导 å¼¹ +åŃ¦æł¡ çļĦ +åŁİå¸Ĥ çļĦ +è°Ī åΰ +æ¢ Ĺ +å¹³ éĿ¢ +说 ä»Ģä¹Ī +é¢ij çİĩ +éķ¿ ä¸īè§Ĵ +çļĦ åĪ©çĽĬ +é» ¨ +è±Ĩ èħIJ +å®ŀéĻħ æĥħåĨµ +æŀĹ ä¸ļ +纪æ£Ģ çĽijå¯Ł +ä½ı éĻ¢ +çļĦ æķ´ä½ĵ +åīį è¡Į +æĮ ¨ +çħ¤ çŁ¿ +å̻ è£ģ +å°ı åIJĥ +æŀģ 端 +å©Ĩ å©Ĩ +çݰ è´§ +è¯Ĺ æŃĮ +éĴ¥ åĮĻ +缩 çŁŃ +ä½Ĩ è¿Ļ +æĸ° åĵģ +è¿Ļ 对 +çŁ¥åIJį 度 +å¿ĹæĦ¿ æľįåĬ¡ +大 å±Ģ +è¡¡ éĩı +ä½ĵçݰ äºĨ +æ¡ĥ èĬ± +åIJ¸å¼ķ åĬĽ +åł ¤ +æĵħ éķ¿ +åĴ Ĵ +缸 æľº +ä¸Ģ ç«Ļ +ä¸Ģç«Ļ å¼ı +æľĢ ç¾İ +æ°¸ ä¹ħ +çļĦ éĥ¨åĪĨ +åĪĨ å·¥ +å·¥ç¨ĭ 建设 +æIJŃ è½½ +æ°´ ä¸Ń +èĮ ¨ +çļĦ æĵįä½ľ +绣 æ²» +çķħ éĢļ +åħļçļĦ åįģ +è¼ ¸ +æ¸ ¬ +ç¾İ è§Ĥ +ä¸į åĪ© +åıį æĢĿ +éªĦ åĤ² +æłĩ çļĦ +æĿĢ äºº +éĺ¿ å§¨ +é£Ł æĿIJ +åIJĥ çļĦ +åIJİ åĨį +çŁ £ +两 ä¾§ +æ¸ħ æ°´ +è¿Ľ çIJĥ +å¼Ģå§ĭ äºĨ +åIJ¬ äºĨ +çĦĬ æİ¥ +çŁ ® +å¨ Ł +为 人 +éĢģ ç»Ļ +åĨĴ éĻ© +æķ · +ç»Ī æŃ¢ +æīį çŁ¥éģĵ +è¿IJ æ°Ķ +éĢļ é£İ +æĥĬ è®¶ +ç§ijåѦ éĻ¢ +æıIJ éĹ® +太 åİŁ +缸åIJĮ çļĦ +ä» ķ +èģ ĸ +æĥħ æ³ģ +é¢Ĩ导 人 +åĩºæĿ¥ äºĨ +沿 线 +éĻ ½ +æĦŁ è¦º +ä»į åľ¨ +æ© Ļ +约 为 +åĸĿ éħĴ +ç͍ èᝠ+ä¸ĭ ä¸Ģ +æ³ķ å®ĺ +顺 åºı +åģļ ä¸Ģ个 +åĭ ¢ +æŃ ª +ç͵ ç«ŀ +ä¼´ éļıçĿĢ +ä¹ĭ åĬĽ +ä¹ĭ 人 +äºij 计ç®Ĺ +åĪ«äºº çļĦ +ç§ijåѦ åıijå±ķ +第 åħ« +å¹² æī° +女 ç¥ŀ +è¿Ļæł· åģļ +å¤Ħ åľ¨ +æ°´ è´¨ +éķ¿ æĺ¥ +å¸Ĥåľº éľĢæ±Ĥ +ç»´ æĿĥ +è̳ æľµ +æĸĩåĮĸ çļĦ +奶 ç²ī +ä¼ł è¾¾ +æīĭæľº çīĪ +æĽ¾ åľ¨ +äºĮ æľŁ +åİŁåĽł æĺ¯ +æºIJ 头 +åıĪ èĥ½ +è£ ¸ +æĬĢæľ¯ åĪĽæĸ° +æĸĩåĮĸ æĹħ游 +åıij 票 +å¹´ 级 +ä½ł ä¸į +ä¹ĭ å¿ĥ +æķ° çϾ +åIJij å¾Ģ +èĢģ å®¶ +åľĭ éļĽ +çļĦ é«ĺ度 +æľĿ éĺ³ +æ¸ħ éϤ +èĩª æľī +书 ä¸Ń +游æĪı è£ħå¤ĩ +ä¸ĩ å¤ļ +驾驶 åijĺ +ä½ł çŁ¥éģĵ +åĽ½ åºĨ +é£Ł åłĤ +æİ¥ åı£ +æĢ» æķ° +åħ¶ä»ĸ çļĦ +çĶŁåij½ çļĦ +ä½ł åľ¨ +çļĦ 缮åħī +è¿Ļ æĸ¹éĿ¢ +éĥ½ 说 +çĸĹ æ³ķ +åĭĩ 士 +åľ¨ åħ¨çIJĥ +ä¿ĿéĻ© åħ¬åı¸ +çĿ£ æŁ¥ +åĸĦ èī¯ +表 å½° +è¹ ² +è·¯ 段 +æľĥåĵ¡ è¦ı +æľĥåĵ¡è¦ı ç¯Ħ +æĪ· åŀĭ +ä¿ĥ 使 +ä¿® 建 +é«ĺ æ°´å¹³ +åģļ åĩºäºĨ +主 åľº +è¡Į èµ° +空 çϽ +æľī人 说 +è¿Ļ个 ä¸ĸçķĮ +åIJį ä¹ī +å®Į ç¾İçļĦ +羡 æħķ +åıĬ åħ¶ä»ĸ +åı¯ ç͍ +æĭ IJ +è¾ĥ 大çļĦ +æĬĢæľ¯ åĴĮ +å°¼ äºļ +çϾ è´§ +æı ī +éĢī è´Ń +éĺŁ åıĭ +ä¼ł æĦŁ +ä¼łæĦŁ åύ +åıªè¦ģ ä½ł +为ä»Ģä¹Ī è¦ģ +ä¸ĵ注 äºİ +ä½Ļ é¢Ŀ +åħ¸åŀĭ çļĦ +缮åīį å·² +欲 æľĽ +èģĶ ç»ľ +æµģ ä¼ł +çļĦ å®¶åºŃ +åı· åı¬ +çıį è´µ +ä¼Ł 大çļĦ +éī´ äºİ +è·Ł ä»ĸ +产 çī© +ä¸į å·² +è¿Ŀæ³ķ è¡Į为 +头 ä¸Ĭ +åĪĨ è§£ +åı¯ä»¥ çľĭåĩº +æł¡ åĮº +åŃĹ ä½ĵ +ä¿® çĤ¼ +çĶļèĩ³ æĺ¯ +微信 åħ¬ä¼Ĺ +åıĸ 代 +èIJ¥ä¸ļ æĶ¶åħ¥ +æ½į åĿĬ +ä½ł èĥ½ +社ä¼ļ ä¿Ŀéļľ +æ¯ĶèµĽ ä¸Ń +污水 å¤ĦçIJĨ +夫 å¦ĩ +ä¸Ģ å¹ħ +沿 æµ· +åı£ æĦŁ +ä½Ĩ åį´ +å½ĵ æĹ¥ +çļĦ æľĢ大 +æ¯ı ä¸Ģä½į +没 äºĭ +çī¹ åĪ¥ +å¼Ģ åѦ +è·¯ éĿ¢ +å¿ĥçIJĨ åѦ +æĶ¾ ç½® +éĩįåºĨ å¸Ĥ +ä½ł èĩªå·± +æ¶Īè´¹èĢħ çļĦ +ä¸Ģ æ³¢ +èѦ æĥķ +å᧠室 +注 å°Ħ +é£İ 鼨 +沿 çĿĢ +åijĬ 訴 +表 çݰåĩº +åĽĽ æĺ¯ +åı¤ åħ¸ +æĽ´ éĩįè¦ģçļĦ +好 äºĭ +çľ¼ 泪 +æ¨ ĵ +审 åΤ +碰 æĴŀ +车 ç«Ļ +è¿Ľåħ¥ äºĨ +éĽĨ åIJĪ +æł¼ å¤ĸ +宾 é¦Ĩ +æĶ¯ä»ĺ å®Ŀ +她 æĺ¯ +æĺ¯ å¦Ĥä½ķ +人 次 +çļĦ æĪIJåĬŁ +æĹł åĬĽ +æµ· æĭĶ +æĺ¥ åŃ£ +éĥ½ ä¸įä¼ļ +çŃī å¤ļç§į +ä¸Ģ个 å°ı +åģľè½¦ åľº +让 æĽ´å¤ļ +è¿Ļ çĤ¹ +æĪIJ åĵģ +éĴ ī +éģĩ è§ģ +çıŃ ä¸»ä»» +æĦı æĦ¿ +çļĦ åIJĮåѦ +游 è§Ī +åİĭ 缩 +åľ¨ ä¼łå¥ĩ +å¼¹ æĢ§ +æĹ¥ åĨħ +ç¦ı建 çľģ +è§Ĵ èIJ½ +åĪĨ å¼Ģ +ä¼ļ 让 +å¤ĸ åĽ´ +çĨŁæĤī çļĦ +çĨ Ķ +ä¸ĩ è¾Ĩ +å¤ľ éĹ´ +车 身 +ä¸Ń æľŁ +å®ĮåĸĦ çļĦ +åĵģ ç±» +åıĭ è°Ĭ +éĢīæĭ Ķ +éªij 士 +å½ ¦ +çļĦ çľĭæ³ķ +åĽ½ çİĭ +è¾£ æ¤Ĵ +åıijå¸ĥ æĹ¶éĹ´ +åı¤ åŁİ +éļı æľº +ç« ĸ +å¼Ģ è¾Ł +ä¼Ĺ çĶŁ +没 åĬŀæ³ķ +åįĥ éĩĮ +æĿ¥æºIJ äºİ +çļĦ æĿĥåĪ© +æ¯Ķ åĪĨ +满æĦı çļĦ +ä¿® è¡Į +åĿ ł +大 æµ· +èİ ¹ +åĩº 身 +è« ĩ +åħ³ èĬĤ +åIJį 人 +éľĢè¦ģ 注æĦı +æĹ© æĻ¨ +å¤ĸ åįĸ +åıĪ è¦ģ +æ¶ī æ¡Ī +çĶ³è¯· 人 +éĻĦè¿ij çļĦ +åĬłå¿« æİ¨è¿Ľ +æĸ° å¹´ +大 è¡Ĺ +ä¸Ģ é»ŀ +èĭı å®ģ +æĤĦ æĤĦ +èĦ¾ æ°Ķ +å¸Į èħĬ +éļı åį³ +æķ¢ äºİ +å®ŀè·µ ä¸Ń +æĺ¯ 没æľī +æľīè¶£ çļĦ +æĿ¥èĩª äºİ +è£ģ åΤ +女 åŃ©åŃIJ +èĩ³ åħ³ +èĩ³åħ³ éĩįè¦ģ +æĻº åĬĽ +èµ° åĩºåİ» +çŁŃ æĿ¿ +大 åĽ½ +çļĦ 认è¯Ĩ +å¹´ å¤ľ +åĨį åΰ +åIJĮ æł·çļĦ +å¯Ĩ å°ģ +å¤ĸ交 éĥ¨ +çĶŁ æķĪ +æĤ¨ åı¯ä»¥ +ä½ł åĢij +è¿ĩ å¹´ +å¼ ĵ +è¡Į æĿİ +æ¯Ķ èµ· +身 é«ĺ +è¿Ļ个 人 +ä¸Ń å¤ĸ +éģĵ æŃī +çĽ¯ çĿĢ +亲 åŃIJ +éĹ ¸ +çϽ äºij +èĦĸ åŃIJ +ä¸ĢåĪĩ éĥ½ +æ· ij +è° ľ +åģ¶ çĦ¶ +éĿł è°± +é«ĺ 管 +ä¸ĭ åıij +æĶ¾ åΰ +ç±» åĪ« +ä¸ĭ åĪĹ +æ·· ä¹± +åIJĪæ³ķ æĿĥçĽĬ +çݯ çIJĥ +æľīæķĪ åľ° +åķĨ æĪ· +æ¹ĸ 人 +æµ· 岸 +æĬķ 产 +两 个æľĪ +éĥ½ éĿŀ常 +å¢ŀ强 äºĨ +æĿ¥ åΰäºĨ +åī© ä½Ļ +æĤ¨çļĦ åŃ©åŃIJ +æµģ æ°´ +æŃ£ ä¹ī +天 çĮ« +åģļ è¿ĩ +ä½ķ æĹ¶ +æĪij åİ» +çľģ 份 +å¥ĸ éĩij +该 å¦Ĥä½ķ +ä¸ĭ çıŃ +åģ¶ åĥı +æijĨ æĶ¾ +æĸ° 模å¼ı +æĬķ è³ĩ +è·¯ åı£ +åĨľæ°ij å·¥ +大 åѸ +ä»¶ äºĭ +æł¹æľ¬ ä¸į +æµĵ 度 +æµĵ åİļ +è½® èĥİ +æĪ¿ ä¼ģ +éĿŀ常 好 +ä»İ ä¸Ń +人 æł¼ +ç¿ ģ +æĹ¶éĹ´ åĴĮ +è¿Ļ ä¸įæĺ¯ +åΏ åķĨ +æĥĬ 人 +åύ å®ĺ +åĩĨ åĪĻ +æĥħ æĻ¯ +æĽ´ é«ĺçļĦ +åѦ å®¶ +泡 沫 +åľ°æĸ¹ æĶ¿åºľ +å°± çŁ¥éģĵ +åij¼ åIJģ +ç»ı è´¸ +èĬ± éĴ± +æľī ä¸Ģ次 +æĦŁ æħ¨ +ä¸Ģ åįĥ +å¤ľ æĻļ +詹 å§Ĩ +詹å§Ĩ æĸ¯ +è¦ģ éĹ» +ç» Ĵ +æºIJ äºİ +çļĦ è´¨éĩı +注æĦı äºĭ项 +æħ¢ æĢ§ +稳å®ļ çļĦ +建设 åĴĮ +æĻ¯ 象 +éĩı åĮĸ +çļĦ 話 +è¯Ħ 级 +æº ľ +红 åĮħ +éĢļ éģİ +社ä¼ļ 责任 +æĸ° 产åĵģ +åĨ· éĿĻ +çľĭ ä¸įåΰ +èģĶ éĤ¦ +éŃ Ħ +çļĦ åīįæıIJ +çļĦåīįæıIJ ä¸ĭ +è¾ĥ 好 +çļĦ æĦŁæĥħ +客æĪ· æıIJä¾Ľ +çĭ¬ èĩª +å¢ŀ æĶ¶ +æĸĩ çĮ® +æĭ¼ åij½ +管çIJĨ åĴĮ +æµģåĬ¨ æĢ§ +åħ¨ å®¶ +ä¸Ĭ æĸ¹ +æİ¨åĩº çļĦ +ä¸ī åĽ½ +ä¸Ģ个 æĺ¯ +æĸ° ä¸Ģè½® +æĸĩåĮĸ éģĹ产 +æ® º +大 æ¹¾åĮº +éĥ½ éľĢè¦ģ +çļĦ å®ŀéĻħ +ç· Ĭ +大 å¥ĸ +åħī èĬĴ +便 äºİ +çļĦ 表æĥħ +æ¼Ķ ç»İ +红 åĨĽ +å½ĵ æĪij +æ²» æĦĪ +é¢Ŀ 度 +éĿ ľ +ä»»ä½ķ 人 +è¡Ĺ 头 +çī¹ æĸ¯ +çĸ¯ æĭī +åĮ»çĸĹ æľºæŀĦ +ç»Ļ åŃ©åŃIJ +è§Ħ 磩 +è£ ľ +çļĦ 身影 +ä¸ĵ æłı +æĿ¥ 临 +ç«¥ å¹´ +å¤į èĭı +è¨ Ĥ +åŀĭ åı· +åĽ¾ æ¡Ī +ç®Ģ åİĨ +æĭ ± +èį· åħ° +ä»» æĦı +æī¿ æİ¥ +è¿Ļ æīį +客 车 +æľĿ çĿĢ +éłħ 缮 +åı° é£İ +çļĦ æĪ¿åŃIJ +éª ı +æĿ± 西 +éģĹ ä¼ł +è¶Ĭ å¤ļ +äºĨ ä»ĸçļĦ +ä¸Ĭ åij¨ +管çIJĨ åĪ¶åº¦ +失 ä¸ļ +çĶ· åıĭ +æİ¥ ç§į +å¨ģ åIJį +çĴ° å¢ĥ +åıijçĶŁ åľ¨ +个 åĽ½å®¶ +åĪĽæĸ° åıijå±ķ +æĶ¹åıĺ äºĨ +åģ¥åº· çļĦ +å̼å¾Ĺ ä¸Ģ +å̼å¾Ĺä¸Ģ æıIJ +åĽ¢ ä¼Ļ +åģĩ 设 +åı° ä¸Ĭ +è§ĦèĮĥ åĮĸ +éĻª åIJĮ +座 æ¤ħ +åı¯ æĢľ +åħĭæĢĿ 主ä¹ī +æ³ķå¾ĭ 责任 +ä¸Ģ é¡¿ +æĬ¬ 头 +为 éĩįçĤ¹ +è¿ľ æ´ĭ +éĢı è¿ĩ +åħ¨çIJĥ åĮĸ +è¶£ åij³ +票 æĪ¿ +æ¯ı 人 +åIJĦç§į åIJĦæł· +äºĨ åĩºæĿ¥ +ç»Ŀ对 æĺ¯ +ä¸ĭ å±ŀ +ä¸Ģ åıĮ +è¿Ļ åĿĹ +æĬĹ çĸ« +è¦ģ çĤ¹ +å½¢æĪIJ çļĦ +æĪij çľĭ +ä¸ĩ éĩĮ +èĢĥ çłĶ +为 åħ¶ +æ°ij 宿 +å¤ļ ä½į +大 èĩ´ +ä»ĺ è´¹ +åħ¥ æīĭ +å±ħ å®¶ +æīĢåľ¨ åľ° +人 身 +è¿ĩ å¾Ĺ +è¯ķ è¯ķ +访 è°Ī +åĬł éĩį +å°± ä¸įä¼ļ +çĶŁäº§ ä¼ģä¸ļ +åĽŀ åĽ½ +åºķ 线 +èµ¶ åΰ +æĶ¯ éĺŁ +æĪij们 éĥ½ +éĤ® æĶ¿ +缴 èĩ³ +éĴ¢ çIJ´ +åħ ľ +çłĶ讨 ä¼ļ +æľĪ 亮 +åĿļæĮģ 以 +åħ¬å®ī éĥ¨ +éĴ¢ 管 +å°ı çϽ +ç½® ä¸ļ +èģ ĭ +书 åĨĻ +æĿ ı +éħį æĸ¹ +èĢĮ åıĪ +çijŀ 士 +çķĮ çļĦ +èĢģ 大 +æĪIJçĨŁ çļĦ +å¹² ä»Ģä¹Ī +ä¸ĵ项 æĸĹäºī +çŃī å¤ļ个 +èĦ± 离 +ä¸ī 个æľĪ +çłĶç©¶ åijĺ +æĹĭ 转 +æŀģ èĩ´ +åħį è´£ +åħįè´£ 声æĺİ +å¾Īå¤ļ çݩ家 +车 ä¸Ĭ +交 äºĴ +å·² æĺ¯ +ä¸Ģ å°ı +çļĦ éĩįçĤ¹ +èĬ± äºĨ +ä¸į æĺİ +æľīåħ³ è§Ħå®ļ +çĬ¹ å¦Ĥ +çľ ¸ +å¯ ¡ +çļĦ è¡£æľį +åĮħ 裹 +身 åŃIJ +å¸ĪèĮĥ 大åѦ +äºĭ åħĪ +线 æĿ¡ +æ³ķ åζ +åħ» æĬ¤ +稳å®ļ æĢ§ +éĤ µ +åŀĦ æĸŃ +é¡ į +èĢĥ åı¤ +æĿł æĿĨ +èĭı èģĶ +æ°´ ç͵ +åħ·ä½ĵ çļĦ +æ¿Ģ æ´» +æĪij æł¡ +åĪļ å¼Ģå§ĭ +åĩ¸ æĺ¾ +ç¦ ¾ +åħ¼ èģĮ +éĢı éģİ +åľ¨ 游æĪıä¸Ń +社ä¼ļ åıijå±ķ +好 çİ© +å¹» æĥ³ +ä¸į 代表 +注æĦı åĬĽ +æ£ į +ç͍ æīĭ +ç¾İ 人 +许å¤ļ 人 +å¾Ī æĺ¯ +çļĦ çłĶåıij +æīĵ åĩº +åIJĪä¼Ļ 人 +ä¸Ģ å¤ľ +ç¼ĵ ç¼ĵ +ä¿® æŃ£ +æĦŁ çŁ¥ +ç»Ī 身 +æ¿Ģ ç´ł +çݯå¢ĥ ä¸ĭ +次 ä¼ļè®® +ç»ıæµİ å¢ŀéķ¿ +æī Ľ +åıij éħµ +åĪĨæŀIJ å¸Ī +åľ¨ æľªæĿ¥ +主è¦ģ æľī +ä¸Ģ åŃ£åº¦ +çļĦ 说æ³ķ +ä»İæĿ¥ 没æľī +è´§ 车 +缩 å°ı +太 è¿ĩ +æķĪ åĬĽ +ä¸į ä¸ĭ +æĬķ 稿 +èᝠä¸ļ +ç»Ħ éķ¿ +ç«Ļ çĤ¹ +å¾Ī åĸľæ¬¢ +éIJ µ +åĬ¿ 头 +æ¼ı æ´ŀ +æĦ¤ æĢĴ +åħħ å®ŀ +åĪĽä¸ļ æĿ¿ +çĪ ª +æľª å¿ħ +åºķ éĥ¨ +å¾Ĺ åĪĨ +人æ°ij åĮ»éĻ¢ +äºĮæīĭ æĪ¿ +å·²ç»ı 被 +大 楼 +æĸ° æĪ¿ +辦 æ³ķ +ç͍ åĬĽ +æĭĵ 宽 +åĨħ åľ¨ +æĴŃ åĩº +饰 æ¼Ķ +ä¹Ł 让 +ä½ľ çĤº +çī©ä¸ļ 管çIJĨ +åį´ ä¸į +为 ä¸ŃåĽ½ +å±Ģ åĬ¿ +ä¸į èĤ¯ +æľĢ æĸ°çļĦ +åı¯ä»¥ éĢīæĭ© +æĺ¾ çݰ +å°± ç®Ĺæĺ¯ +åľ¨ æł¡ +é¾ Ł +两 æĿ¡ +çļĦ å®ŀåĬĽ +è¶Ĭ 好 +她 åľ¨ +å¿ł è¯ļ +ä¹Ł éľĢè¦ģ +游æĪı æĵįä½ľ +è¶ħ åĩº +å¦Ĥæŀľ ä¸į +æīĢåľ¨ çļĦ +ä½ł è¿ĺ +以 åĨħ +æľī ä¸Ģå®ļ +åı¯ è¾¾ +è·ij åΰ +åī Ľ +建ç«ĭ åģ¥åħ¨ +æķ´ 车 +åīį æĸ¹ +éĹ´ æİ¥ +çѹ å¤ĩ +çĸ² åĬ³ +离 å¼ĢäºĨ +æ± Ŀ +éĿ¢ éĥ¨ +ä¹ĭåīį çļĦ +åıĺ 为 +å¦Ĥæŀľ 说 +对 ä»ĺ +åĿĩ åı¯ +被åijĬ 人 +ç²¾ ç¾İ +èģļ ä¼ļ +çĿĢ æĢ¥ +è°· æŃĮ +ä¸Ģ åı· +红 åĪ© +ä¼łå¥ĩ 游æĪı +å» ĸ +è´ ŀ +ä¹° åΰ +éŃ ļ +ä½ĵ è´¨ +å°ij äºĨ +æ³ī å·ŀ +åIJ Ł +ç»Ŀ ä¸į +é»ij æģ¶ +é»ijæģ¶ åĬ¿åĬĽ +ä¸Ĭ æĺł +çļĦè¯Ŀ é¢ĺ +ä¸ĩ人 次 +ä¸ĸ éĹ´ +ç͍ å·¥ +è´¯ ç©¿ +å®Ŀ çŁ³ +ä½ł 好 +åĪĩ åī² +强 åĽ½ +åĽŀ èIJ½ +æ°´ æĻ¶ +模 仿 +æ´ª æ°´ +éĢĻ éº¼ +åįģä¸ī äºĶ +ä½ ij +éĻ Ħä»¶ +çļĦ å¢ŀéķ¿ +éĻĦ å±ŀ +çݰ å·² +帮 ä½ł +éĩij çīĮ +é«ĺ åİŁ +åľ¨ å®¶éĩĮ +éĺ² èħIJ +ç¡®å®ŀ æĺ¯ +宣 讲 +天 æīį +ç»ıèIJ¥ 管çIJĨ +éĶħ çĤī +åIJĪ ä¸Ģ +è§Ĥ èµı +éķ¿ è¾¾ +主ä¹ī æĢĿæĥ³ +éĤ£ 麼 +é£İ äºij +为主 çļĦ +æļij åģĩ +æĮģ ä¹ħ +å¼Ĥ åľ° +å¼Ģ éŨ +模 æĿ¿ +æī¹ 次 +ä¸į 便 +天 çĶŁ +åĩł 个æľĪ +ä¸ĵ ç§ij +åı¦ æľī +åħ¬å¸ĥ çļĦ +æĩ · +åľº åIJĪ +çļĦå¿ĥ æĢģ +è¿ĺ 好 +å®ŀ æĪĺ +èĢģå¸Ī çļĦ +åħ© åĢĭ +åı¯ åľ¨ +éĤ£ ä½į +å¥ł å®ļäºĨ +ä¿ĥ éĶĢ +æı´ åĬ© +ä¸ĩ çī© +æĥħ æĬ¥ +é¦ĸåħĪ è¦ģ +æĸĩåĮĸ åĴĮ +éĥ½ å·²ç»ı +ä¸Ĭ ä¸ĸ纪 +åĨľ åľº +大 æī¹ +æĺİçϽ äºĨ +çļĦ æĪIJéķ¿ +çļĦ æ¯ĶèµĽ +失 误 +åģļ æĪIJ +ä»Ĭ天 å°ıç¼ĸ +é¢Ĩ è¢ĸ +æıIJåįĩ äºĨ +å¾IJ å·ŀ +ä»į æľī +è¿ĩ 滤 +å¹½ é»ĺ +çĥŃ éĩı +ä¸Ģ é¦ĸ +æ¼Ĥ亮 çļĦ +åĩł ç§į +åĢ¡ è®® +å°±åı¯ä»¥ äºĨ +æİĴ åĪĹ +éĩį éĩį +ä¼ģä¸ļ åĴĮ +ä¸ĵ å±ŀ +çħ İ +亲 æĪļ +çϾåĪĨ ä¹ĭ +稿 ä»¶ +è¿ĺ å¾Ĺ +人 åĵ¡ +äºī 夺 +æĽ´ 容æĺĵ +大 èĩªçĦ¶ +鼻 èħ¦ +太 空 +åľ° å¤Ħ +å¤ ¢ +ä»ĸ 对 +å¿ħ å°Ĩ +ä¸į å½ĵ +严 è°¨ +åĩº åľº +å·²ç»ı æľī +é¢Ĩ åĨĽ +é«ĺ æ¡£ +ä¸Ģ æīĢ +æł Ĺ +让 åѦçĶŁ +æĽ¹ æĵį +æŁIJ ä¸Ģ +伸 åĩº +èĬ± åįī +æ¸ħ éĨĴ +èģĶç³» æĸ¹å¼ı +åĪĨ å±Ģ +èħ ³ +æ©¡ èĥ¶ +éķ¿ å¾Ĺ +绿 åľ° +è¢ į +çļĦ èīºæľ¯ +女 æľĭåıĭ +ä¸Ń è¶ħ +离 åŃIJ +å¤ļæł· åĮĸ +éĺ³ åı° +ä½İ 碳 +ä¸Ģ ç±» +çŃīæĸ¹éĿ¢ çļĦ +å¾Ĺ 好 +模 åħ· +ä¸ĩ 亿 +çķĻ æĦı +临 æ²Ĥ +å°ij éĩı +çľĭ åIJij +ç»ıèIJ¥ èĢħ +çķĻä¸ĭ äºĨ +åĿı äºĨ +åijĬ åĪ« +羣 çIJĨ +ç¼´ è´¹ +æĬĬ ä½ł +çļĦ ä»»åĬ¡ +æĪij 对 +ä¹° åħ¥ +çĻ» ä¸Ĭ +æľī 两个 +ä¸Ģ 头 +æĵį æİ§ +åħ¨ è¦ĨçĽĸ +çĿĢ æīĭ +å¢Ļ éĿ¢ +å¤ļ æĸ¹ +åı¯çα çļĦ +ä¹Ł åı¯èĥ½ +æľĢ æľī +è¿ĻäºĽ éĥ½æĺ¯ +æĥ ¡ +å® ® +å¾Ī å°ı +éĹ®é¢ĺ æĺ¯ +åĿĩ æľī +å¾ģ éĽĨ +说 åĩº +æľī æĦı +é¢ Ĥ +æī¬ å·ŀ +åķĨä¸ļ 模å¼ı +çĶŁ èĤĸ +æįIJ 款 +å² Ĥ +ç¾İ æĻ¯ +è¿ĺ 羣 +æĭ¥ æĬ± +身ä½ĵ åģ¥åº· +æ·± å¤Ħ +çľ¼ ç¥ŀ +çļĦ 形象 +ä¼ĺ è¶Ĭ +å½ĵ æĪIJ +åĮº åĪĨ +åİ» éϤ +注 å®ļ +å§IJ 妹 +åĮº åĨħ +é© ļ +æļĹ ç¤º +æĺİ äº® +æħ° éĹ® +å¸Ĥåľº 份é¢Ŀ +çĮª èĤī +çļĦ èµĦéĩij +åİĨ ç»ı +å§ĭç»Ī åĿļæĮģ +çĶŁ æľº +ä¸į 顾 +éĩij åĪļ +大 声 +éĻķ 西çľģ +é² į +åĨľä¸ļ åĨľæĿij +æľī 害 +éŨ è¯Ĭ +æ¯ı ä¸Ģ次 +çļĦ åĽłç´ł +é¢Ŀ å¤ĸ +åİ¿ 级 +çļĩ åIJİ +åĽ½ ä¼ģ +é¦ĸ éĢī +ç¼ĸ åĨĻ +æĭ¿ èµ· +åģ· åģ· +ä¸İ ä¸ŃåĽ½ +åįĸ å®¶ +ç»Ļ ä»ĸ们 +ç¥ŀ è¯Ŀ +åѸ æł¡ +æĪij ä¸Ģ缴 +çŁ¥éģĵ äºĨ +åį Ĵ +åĴĮ åľ°åĮº +ä»Ģä¹Ī éĥ½ +çĶ» å®¶ +æľ¬ çĿĢ +ä½Ļ åIJį +审 çIJĨ +ä¸Ģ åIJij +åıijå±ķ è¶ĭåĬ¿ +åĮº éĹ´ +注åĨĮ èµĦæľ¬ +çIJ ¦ +ä¸į åı¯ä»¥ +çļĦ åĦ¿åŃIJ +å̼ çıŃ +ä¸¥æł¼ çļĦ +å®ŀä½ĵ ç»ıæµİ +æľī æĿĥ +æĪij åıĪ +éĵ¶ æ²³ +ç«ĭ 马 +æĿĢ äºĨ +åĮħ 容 +管 å®¶ +身 é«Ķ +éĵ ħ +å°ı åŃIJ +管çIJĨ ç³»ç»Ł +æľīçļĦ 人 +é£İ ç͵ +æĻºèĥ½ åζéĢł +ç²¾ ç¡® +æĭĽåķĨ å¼ķ +æĭĽåķĨå¼ķ èµĦ +äºĮæīĭ 车 +åİ¿ å§Ķ +èīº äºº +å¥ ķ +è¿İ æĿ¥äºĨ +ç»ĵæĿŁ äºĨ +çļĦ ä¼łç»Ł +æĭ¼ æIJı +奥 迪 +çĸij æĥij +ä¹ĭ æĹ¥èµ· +æłĩå¿Ĺ çĿĢ +åľ° åįĢ +è¯ł éĩĬ +åΰ æľŁ +åħ¨ éĥ½ +çŁŃ æļĤ +æĺ¯ æĪijåĽ½ +æĪij å·²ç»ı +æ»´ æ»´ +天 èµĭ +对 她 +åį«çĶŁ éĹ´ +çĶŁäº§ åŁºåľ° +æĹ¥ è®° +çļĦ æķĻåѦ +åĵ ĩ +æ°ij äºĭ +è¿ĺ åİŁ +æīĭ ä¸ŃçļĦ +çļĦ èī¯å¥½ +æ· « +ä¸Ńåħ± ä¸Ń央 +åĪ ĥ +åĵ Ħ +åľ¨ ä»ĸçļĦ +å°Ī æ¥Ń +åľº éĿ¢ +éĤ» å±ħ +çĹ Ĵ +å¦ Ħ +å¤ĸ ç§ij +ä¸į éĢĤ +举åĬŀ çļĦ +é Ĥ¹ +åħļçļĦ 建设 +çϼ 表 +è·¨ çķĮ +æ²ī æ·Ģ +大 çīĩ +è¶Ĭ é«ĺ +å°Ĩ æĺ¯ +è§ī éĨĴ +åĤ¨ åŃĺ +å¢ŀ 大 +ä¸į 让 +æķ´ å½¢ +å¹³åı° ä¸Ĭ +åĩł ä½į +è¯ī æ±Ĥ +好 ä¸į好 +åľ į +æĸĩ æľ¬ +é̲ åħ¥ +ç´ į +æł¹ æĵļ +èįī æ¡Ī +åħŃ ä¸ª +åĭ ¿ +åζ æĪIJ +饮 æ°´ +æ°¸ æģĴ +èĩª æĿĢ +åı¸ 马 +éļ¾ çĤ¹ +为 æĪij们 +å¼ § +åī© ä¸ĭçļĦ +åĩĨå¤ĩ 好 +çļĦ æľĢä½³ +èģĶåIJĪ ä¼ļ +æĤ£èĢħ çļĦ +æĪijä¸į çŁ¥éģĵ +ä¸ĭ ä¸Ģ个 +åıijå±ķ æĸ¹åIJij +ç¬ ¨ +æīĢ以 æĪij们 +åĨĻ äºĨ +éĢł æĪIJäºĨ +æ²Ļ æ¼ł +çŃĽ éĢī +çģ¾ åĮº +ä¸Ĭ çľĭ +éħ ¶ +æ»ļ åĬ¨ +éļ¾ åħį +åIJī åĪ© +ä¸Ģ ä¸Ģ +ç²¾ å¯Ĩ +伸 æīĭ +礼 仪 +åħ¨ æĺ¯ +è¶Ĭ 大 +ä¸Ń æłĩ +åıĸ åĨ³ +åıĸåĨ³ äºİ +éĢĶ ä¸Ń +讨 åİĮ +æīĭ åĨĮ +第 ä¹Ŀ +åŃĶ åŃIJ +çĦ¶ å¾Į +ä¸Ģ åħ± +æµ· æĬ¥ +款 å¼ı +æķ´ 天 +è¾¹ çķĮ +è·¯ è¾¹ +æĻĭ 级 +åIJIJ æ§½ +çļĦ åħ³æ³¨ +æĪij 没æľī +å°±æĺ¯ åľ¨ +缮 çļĦæĺ¯ +åį³ä½¿ æĺ¯ +é¡¶ å°ĸ +å·²ç»ı åľ¨ +å®īåħ¨ éļIJæĤ£ +æłĩ æĿĨ +åįĹ éĢļ +ä¼ļ 对 +座 ä½į +èµ¢å¾Ĺ äºĨ +åİŁæĿ¥ çļĦ +身 为 +书 åºĹ +è¢Ń åĩ» +ä»Ĭ æĻļ +以 èī² +以èī² åĪĹ +æĬĸ éŁ³ +åį´ æ²¡æľī +丧 失 +çļĦ å±ĢéĿ¢ +åįģåĽĽ äºĶ +çŃī 缸åħ³ +æ±ĩ æĢ» +å¤ĸ 表 +为 æ°ij +éľĩ æĥĬ +å¥Ĺ è·¯ +çĬ¯ç½ª å«Įçĸij +å°Ĩ 以 +çİĩ é¢Ĩ +éħĴ åIJ§ +è¡Įä¸ļ åıijå±ķ +å¹´ èĩ³ +åύ æĿIJ +åĴĮ æĬĢæľ¯ +æľĢ å°ı +è¿Ļä¸Ģ åĪĩ +èģĮ ç§° +å½ĵ ä½ľ +æİĢ èµ· +åĴ ĭ +ä¸Ń éĥ¨ +æīĭ èĩĤ +ç½¢ äºĨ +媳 å¦ĩ +æ´½ è°Ī +æĹ¶ä»£ ä¸ŃåĽ½ +人çĶŁ çļĦ +æŀģ éĻIJ +ç¦ Ħ +åĮº æĶ¿åºľ +æľ¬ éĴ± +礼 åĵģ +çļĦ éĤ£ä¸ª +侦 æŁ¥ +太å¤ļ çļĦ +å®ŀæĸ½ æĸ¹æ¡Ī +é«ĺ æłĩåĩĨ +æĮĩæĮ¥ éĥ¨ +å̾ æĸľ +çī¹èī² ç¤¾ä¼ļ +çµIJ æŀľ +éĴ» çŁ³ +ç§» æ¤į +çī¹ ç§į +èĩª æĦ¿ +æĭľ çĻ» +åįķ 身 +åį´ åıĪ +åĪ¥ 人 +åIJĪ è§Ħ +æľº ç͵ +çī¹ æĦı +å½ĵåīį ä½įç½® +ä¹° å®¶ +åIJĪ çº¦ +èĤ© èĨĢ +为 åĩĨ +å®¶ è£ħ +çļĦ çĥŃæĥħ +éĿŀ éģĹ +çļĦ éŃħåĬĽ +åİŁ åijĬ +社ä¼ļ åIJĦçķĮ +ä¹° çļĦ +å¤ļ åIJĥ +éĽķ å¡ij +èµ· ä¹ī +åĬł åī§ +éĤ£ä¸Ģ åĪ» +å°Ĩ è¿Ľä¸ĢæŃ¥ +æ¡Ĥ æŀĹ +æĽ´ 强 +对 ä¼ģä¸ļ +æĹł æĦı +ä¹łè¿ijå¹³ æĸ° +æµģ 失 +å¾® 软 +缸 对äºİ +座è°Ī ä¼ļ +主 èIJ¥ä¸ļ +主èIJ¥ä¸ļ åĬ¡ +ç§ģ åĭŁ +å±ķ示 äºĨ +常æĢģ åĮĸ +è² ´ +符 åı· +å¹´è½» çļĦ +å°± éľĢè¦ģ +ä¹Ł æĽ¾ +çļĦæĥħ 绪 +è¾¾ æłĩ +èĩ ¨ +ä½į å±ħ +ä»ħ 为 +é¦ĸ å®¶ +éĺ´ éĺ³ +ä¸įåĨį æĺ¯ +åĽłä¸º å®ĥ +ä¼ģä¸ļ åľ¨ +çĺ ¾ +åIJ¬ è§ģ +åİŁ æľī +åζ è£ģ +å¯Ĥ å¯ŀ +éĢļè¿ĩ 对 +æ»ij éĽª +è¿Ļ å¼ł +çļĦ çIJĨè§£ +æĸ° ä¸ŃåĽ½ +è¿Ļ åĦ¿ +ä½İ ä»· +æĥ³ è¿ĩ +çļĦ ä¿¡å¿ĥ +建çŃij çī© +çļĦ é¢ľèī² +ä¸į åºĶ该 +æĹłçĸij æĺ¯ +å¼ķèµ· äºĨ +åħ¨ åijĺ +æĿ° åĩº +è¿Ļæĺ¯ æĪij +èª ° +èĺ ĩ +éĺµ åľ° +åħħ å̼ +çŁ¿ ä¸ļ +çĿĢ ä»ĸ +ä¿¡ 访 +ä¸ĩ è¾¾ +æij© æĵ¦ +å¼Ģ 端 +èı² å¾ĭ +èı²å¾ĭ 宾 +车 åŃIJ +æľ¬èº« çļĦ +çģ«è½¦ ç«Ļ +常 å·ŀ +为 代表 +为代表 çļĦ +广 ç͵ +亲 人 +åı³ æīĭ +éĽĨ è£ħ +éĽĨè£ħ ç®± +çļĦ åį°è±¡ +æ©Ł æľĥ +åĮĨ åĮĨ +åħī ç͵ +大 æĸ¹ +è¿ĺ æľª +åĪ© 好 +ç»Ŀ 大å¤ļæķ° +åľ¨ è¿Ļç§į +ä¸Ģ ç»Ħ +æĸ° èĤ¡ +转 åıij +æ³ķ åºŃ +æĹł æīĢ +éģĵ è·¯ä¸Ĭ +çŁ¿ å±± +èij ī +æĶ¶ åĽŀ +ç§° ä¹ĭ +ç§°ä¹ĭ 为 +æıŃ éľ² +åı£ 岸 +åIJ ¼ +å¿ĥ æĥ³ +çļĦ 梦æĥ³ +éĽ ¯ +ä¹ĭ åĪĿ +å¥ĸ 项 +订 éĺħ +èĵĿ 天 +åĿ¦ åħĭ +ç«ĭ æ¡Ī +èģĶ æīĭ +ä½Ĩæĺ¯ æĪij +帮 æĪij +ä»ħ 代表 +说 æĪij +çļĦ è¶ĭåĬ¿ +æ¯Ķè¾ĥ 大 +èµ° å»Ĭ +éĩįçĤ¹ é¡¹çĽ® +èµĮ åľº +åIJį çīĩ +æĦŁ åı¹ +åľ¨ åľ°ä¸Ĭ +åıij çĥŃ +èĮĥ çķ´ +çļĦ éģĵè·¯ +éĩij èī² +ä»ĸ åıĪ +ä¼ļ 产çĶŁ +æ°ij åĽ½ +å®ĺæĸ¹ ç½ijç«Ļ +æĶ¶çĽĬ çİĩ +çļĦ åΰæĿ¥ +çļĦ åĬŀæ³ķ +æĶ¹ åζ +ä¸ĩ ç§ij +ä¸į äºĪ +è¿ĻäºĽ éĹ®é¢ĺ +çα ä¸Ĭ +çIJĥ åľº +è´£ 令 +æİĪ è¯¾ +åľ¨ é¦Ļ港 +ç»Ĩ èħ» +å¤ļ ä¸ĩ +åIJĮ å¹´ +大 使 +æĸ ĭ +ä¹Ł 为 +æĥł å·ŀ +åIJī 祥 +çͰ åĽŃ +åĽ½å®¶ éĺŁ +éĩį çĶŁ +åľ¨ åħ¶ +é¦Ļ åij³ +è´Ł èį· +亲 åĪĩ +èĩª 豪 +没 éĶĻ +åĽłä¸º åľ¨ +æĺŁ æĺŁ +éĤ ij +è¿ĺæľī å¾Īå¤ļ +æij© æīĺ +æij©æīĺ 车 +æŃ¥ è¡Į +管çIJĨ ä½ĵç³» +èĦļ ä¸ĭ +éģİ åİ» +æ±ī è¯Ń +对 ä¸įèµ· +çļĦ ç»ıåİĨ +åıĬ 缸åħ³ +ä¸įå°ij 人 +éĩį ç£ħ +åĬ³åĬ¨ èĢħ +大åĬĽ åıijå±ķ +æĢİä¹Ī åģļ +çĭĹ çĭĹ +举åįĹ äºļ +åĭĩ äºİ +åħ¬ éĸĭ +çĵ· çłĸ +åıĤ çħ§ +广æĴŃ ç͵è§Ĩ +举 åĬ¨ +æ±Ł 西çľģ +æķĪ èĥ½ +å͝ æľī +éĿ¢ è²Į +èĩªåĬ¨ 驾驶 +æ¦ľ åįķ +å½ĵ æĪij们 +仲 è£ģ +æľ¨ æĿIJ +ç±³ åħ° +çϽ éĵ¶ +çļĦ 人éĥ½ +å°± åĥıæĺ¯ +æŃ¥ åħ¥ +åįł ç͍ +åĩ» è´¥ +让 大家 +ä¼ļ è®©ä½ł +åİ¿ æĶ¿åºľ +è¦ģ ç͍ +çŃī å½¢å¼ı +åįĩ é«ĺ +责任 æĦŁ +å¤ĩ ç͍ +ä»ĸ 认为 +æ¸ħåįİ å¤§åѦ +ä»ĸ èĩªå·± +éĸ± è®Ģ +太平 æ´ĭ +éĶģ å®ļ +çŃ Ĩ +è¿Ļ çīĩ +æī§ æĶ¿ +è¿ĶåĽŀ æIJľçĭIJ +å°± æŃ¤ +éģĩ åΰäºĨ +å¼Ģå¹ķ å¼ı +管çIJĨ éĥ¨éŨ +å§¿ åĬ¿ +设 æĥ³ +åĽĽ åŃ£ +æĬĢæľ¯ 人åijĺ +å·® çĤ¹ +è¾ŀ èģĮ +èĢģ 師 +çļĦ æĦŁåıĹ +ä¹Ł éĿŀ常 +å¹´ ä¸ĬåįĬå¹´ +æĢª çī© +èĮĥ æĸĩ +æĪĺ å½¹ +åIJ« ä¹ī +åħ¨ è¿ĩç¨ĭ +èĢĮ éĿŀ +éĢļ讯 åijĺ +è¿Ļæł· æīįèĥ½ +æľº ç»Ħ +è£ ı +çķ¶ çĦ¶ +èµĮ åįļ +åIJĦ æľī +å·¥ä½ľ æľºåζ +äºĭ åIJİ +åī§ éĻ¢ +å±Ĭ æĹ¶ +åĺ´ éĩĮ +主 线 +ä¸Ģ åľĪ +主è¦ģ åİŁåĽł +å°¸ ä½ĵ +åĮ»çĸĹ åĻ¨æ¢° +ä½ł æĢİä¹Ī +ä½Ĩ çͱäºİ +æĹ¶ 空 +çĶ· æľĭåıĭ +çĶľ èľľ +é«ĺ åľ° +æĻ ĸ +èĴIJ éĽĨ +åĩĿèģļ åĬĽ +å¤ĩ åıĹ +æĸĩ åĪĽ +马 æĿ¥ +马æĿ¥ 西äºļ +æŁ´ æ²¹ +使 人 +æķĻ ä¼ļ +ç§ĭ 天 +æĺİ çıł +åħŃ åįģ +çݯå¢ĥ ä¸Ń +æ¸ħ æĻ¨ +积æŀģ åıĤä¸İ +å·ħ å³° +为 æľŁ +çѾ åŃĹ +æĦŁ æ¿Ģ +ç§ĭ åŃ£ +æĿij åŃIJ +æ¢ħ 西 +æļ´ 鼨 +çĶŁæ´» åľ¨ +çªĹ æĪ· +æģ¶ åĬ£ +纯 ç²¹ +åľ¨ æİ¥åıĹ +没 èĥ½ +è¡Į 人 +åĭ º +æĭ¨ æīĵ +ä½ľ åĩºäºĨ +çļĦ 主é¢ĺ +æľª ä¾Ĩ +ä¸Ń æľĢ +æ¾ ľ +é«ĺ è¡Ģåİĭ +åħ´ èµ· +æŃ£ èĥ½éĩı +åŁ¹è®Ń çıŃ +æİ¥ åħ¥ +çĦ¶åIJİ åĨį +åѦçĶŁ 们 +é¢ĨåħĪ çļĦ +çģ« çĥŃ +ä¸ĵ èģĮ +æĪĸèĢħ 说 +建 è¨Ń +é» ı +对 åħ¬åı¸ +çī¹ æľīçļĦ +åħī èᣠ+å½ĵ åľº +éĿ¢ åŃIJ +èµĦ产 管çIJĨ +æĹ¶æľŁ çļĦ +çŀ İ +åįİ ä¸ľ +åıĪ ä¸Ģ次 +èĥİ åĦ¿ +å®ļ çĤ¹ +头 çĹĽ +æ¶² ä½ĵ +æĺ¯ä¸Ģ ä½į +帽 åŃIJ +å¹´ èµ· +ä¸į ä½İäºİ +è¾ĥ å°ij +éĿ¢ä¸´ çĿĢ +å±Ĥ å±Ĥ +èĿ´ èĿ¶ +èī° èĭ¦ +éĺ¿ æł¹ +éĺ¿æł¹ å»· +æ¦Ĥ æĭ¬ +请 éĹ® +èµ· åºĬ +å±Ģ å±Ģéķ¿ +稳 åģ¥ +å¦Ĥæŀľ æĪij们 +éħĴ ç²¾ +æĪ· åı£ +æĦŁ æĤŁ +æĪij们 éľĢè¦ģ +æĬĢ èīº +èĩª åªĴä½ĵ +è¿Ľ åĮĸ +æ¿ĢçĥĪ çļĦ +ä½ĵ 温 +èļ ķ +èĩ´ è¾ŀ +宪 æ³ķ +ä¸Ģ çŃīå¥ĸ +çĵ¶ é¢Ī +æĥł æ°ij +èµ° è·¯ +çݰ ä»» +åķĨ éĩı +ä¸ĭ 车 +åĪ ł +責 ä»» +èŀįåIJĪ åıijå±ķ +ç´ł æĿIJ +æ²¹ ä»· +åģļ 人 +çŀ ª +æĶ¹éĿ© åĪĽæĸ° +çļĦ åĮºåĪ« +è·¨å¢ĥ ç͵åķĨ +æ¶īåıĬ åΰ +æīĺ 管 +æĪij è¿ĺæĺ¯ +åĿIJ æłĩ +ç½ij 讯 +å½ĵåľ° çļĦ +追 溯 +åľŁ è̳ +åľŁè̳ åħ¶ +åºķ ä¸ĭ +åĩł åįģå¹´ +ç©¿ è¿ĩ +çĶŁæĢģ æĸĩæĺİ +æİ¨ èĸ +æİ¨èĸ ¦ +éł Ĩ +åĴ³ åĹ½ +åĪĨ æĪIJ +çĹķ 迹 +æĪ· ç±į +éĥ½ ä¸įèĥ½ +æĻļ ä¼ļ +åĢ © +ä½ĵ åĬĽ +è¿Ļ个 èģĮä¸ļ +æĹł å½¢ +åıª æĥ³ +è¿Ľ åıĸ +æĿĢ æŃ» +èĦ Ĭ +äºij åįĹçľģ +æľª çŁ¥ +ç¾İ èģĶ +ç¾İèģĶ åĤ¨ +å¤ĸ å½¢ +诱 æĥij +çĽ £ +è¡Į 使 +åłĨ 积 +çĨŁ ç»ĥ +éĺIJ è¿° +æľĢ大 éĻIJ度 +å·¡ æŁ¥ +夺 åĨł +ä¼ģä¸ļ æĸĩåĮĸ +çĭ® åŃIJ +ä¿Ŀ å®Ī +ä¸ºæł¸å¿ĥ çļĦ +æī© æķ£ +åζéĢł åķĨ +æŁĶ 软 +为ä¸Ģä½ĵ çļĦ +游 çİ© +çĶŁ çĹħ +幫 åĬ© +åͱ æŃĮ +æīį åı¯ä»¥ +宽 æĿ¾ +è¦ģ æ¯Ķ +æĺ¯ æĢİæł· +çģ° èī² +çİĭ åĽ½ +æIJħ æĭĮ +计 éĩı +åij¨åĽ´ çļĦ +æĻºèĥ½ æīĭæľº +常 åĬ¡ +常åĬ¡ åī¯ +é© ´ +å°Ĩ è¿ij +寻 常 +ä¸ŃåĽ½ å¸Ĥåľº +容 åύ +å±± ä¸Ĭ +èĥĮåIJİ çļĦ +亲 å¯Ĩ +æīĢ以 说 +éİ ® +çļĦ çIJĨçͱ +大 åŁİå¸Ĥ +常 å¹´ +æĹħ游 ä¸ļ +å°±æĺ¯ è¿Ļæł· +åĨį æĿ¥ +é«ĺ ä½į +åĨħ 饰 +æŀĦ éĢł +ä¸Ģ èµ·æĿ¥ +çͳ è«ĭ +å·²ç»ı å¼Ģå§ĭ +çļĦ åĬ¨ä½ľ +被 è¿« +éģį å¸ĥ +åīĸ æŀIJ +å°ı äºĭ +å¿ĥ ä¸ŃçļĦ +ä½ĵåζ æĶ¹éĿ© +çļĩ å®¶ +æķĻ åłĤ +åIJĥ å®Į +åĽ½æ°ij åħļ +æĺİç¡® äºĨ +åıijå±ķ è§ĦåĪĴ +第ä¸Ģ æŃ¥ +å¾Ĺ èµ· +åľ¨ åĵª +çļĦ è·¯ä¸Ĭ +é» Ķ +çķ¶ æĻĤ +大åĬĽ æĶ¯æĮģ +åıĮ éĩį +çŁ¥éģĵ èĩªå·± +åIJĪä½ľ åįıè®® +æ°Ķ åĬ¿ +éķ¿æķĪ æľºåζ +ç½ķ è§ģ +åĽŀ æĿ¥äºĨ +ä»ĸ ä¼ļ +ä¸Ń æĸ° +ä¸Ńæĸ° ç½ij +çļĦ åķĨåĵģ +èµł éĢģ +決 å®ļ +å¸Ĥåľº çĽij管 +çķĻ åѦçĶŁ +ç͵ åİĭ +äºļ 马 +äºļ马 éĢĬ +è¿ĺæĺ¯ æ¯Ķè¾ĥ +ä¿ĥè¿Ľ äºĨ +æµģ åħ¥ +æijĦ åĥı +æijĦåĥı 头 +æıIJ åıĬ +åıij æİĺ +æī¾ åĩº +æ¢Ŀ ä»¶ +ç¹¼ çºĮ +æĪij åĸľæ¬¢ +å¥ İ +æ¦ľ æł· +å¼Ģ èĬ± +æ²ī éĩį +åŁº åĩĨ +ä»ħä»ħ æĺ¯ +轨éģĵ 交éĢļ +åĶIJ å±± +çŃī ä¸Ģç³»åĪĹ +ä¸įè¿ĩ æĺ¯ +åŃĺåľ¨ çĿĢ +èĬ± çĶŁ +å¤ · +ç»Ī ç©¶ +ä¹Łæĺ¯ ä¸Ģ个 +åįģ åŃĹ +èĸª éħ¬ +伤 å¿ĥ +æĺ¥ ç§ĭ +åĨ· åį´ +ç²¾ çģµ +çļĦ åľ°åĽ¾ +æ¯Ķ çī¹ +æ¯Ķçī¹ å¸ģ +æĢ§ åĪ« +ä½Ļ ä¸ĩåħĥ +ä¸įå¿ĺ åĪĿå¿ĥ +å¿ĥ çĸ¼ +æĽ² 线 +é«ĺ ä½İ +è¦ı å®ļ +æĻ¯ èī² +è¦ģ 说 +åħ¬åı¸ å°Ĩ +æ¶² åİĭ +è¿Ŀ 约 +åİļ 度 +åºŀ 大çļĦ +è¿ĺæĺ¯ å¾Ī +é¦ĸåħĪ æĺ¯ +çµ ² +åĬ¡ å®ŀ +並 ä¸Ķ +å¢ŀ è¿Ľ +ç»Ħç»ĩ å¼Ģå±ķ +èµ·æĿ¥ äºĨ +è¾ĥ å°ı +导 游 +两 åľ° +ç¿ ĺ +çģ¿ çĥĤ +é£İ éĩĩ +æĶ¯ 线 +æĶ¯çº¿ ä»»åĬ¡ +娱ä¹IJ åľĪ +天津 å¸Ĥ +åĮħ åĽ´ +æľ¬ èµĽåŃ£ +éĩįè¦ģ 讲è¯Ŀ +åıĮ åIJij +åįİ ä¸½ +éĶ ¤ +åĦ¿ 女 +åįĸ åĩº +ä¾Ĩ 說 +ä»ĭç»į ä¸Ģä¸ĭ +åIJ¦ 认 +åĭ Ŀ +æĻ®éĢļ 人 +çļĦ åĬ¨åĬĽ +涨 åģľ +åŁºéĩij 管çIJĨ +ä¸Ģ个 éĩįè¦ģ +è¿IJ æ²³ +çħ ŀ +è´¢æĶ¿ éĥ¨ +è¡Įä¸ļ åįıä¼ļ +éĥ½ å°Ĩ +è¨Ģ 论 +ä¸ĭ ä¾Ĩ +墨 西 +墨西 åĵ¥ +åĽłä¸º ä»ĸ们 +æĢİä¹Ī åĽŀäºĭ +åĬłå¤§ 对 +èĬ Ń +çīĮ åŃIJ +ä¼ļ 使 +妹 åŃIJ +ç«Ļ éķ¿ +å¿ħ å¤ĩ +æłij æľ¨ +æģ¶ æĦı +æ²³ éģĵ +å¯Į è£ķ +ç¹ģ åįİ +代表 åĽ¢ +æµij 身 +é¦ĸ ä½į +èĪªç©º åħ¬åı¸ +鼻 å½± +ä¸ĵ è¾ij +æ°´ æºIJ +ä¸Ń æ¯Ĵ +並 ä¸į +èĢĮ åİ» +é ĥĿ +äºİ æŃ¤ +æĸĩåĮĸ 建设 +èĤ¯å®ļ ä¼ļ +å¸ĮæľĽ 大家 +æıı åĨĻ +ä½İ è°ĥ +æĸ°åħ´ 产ä¸ļ +æ·Ħ åįļ +æĶ¾ å¼Ģ +çļĦ æĢ§æł¼ +çĸ¾çĹħ çļĦ +æķ´ é¡¿ +线ä¸Ĭ 线ä¸ĭ +éĢī 项 +çļĦ 认åı¯ +æķ´ é½IJ +çĶļ ä¹Ī +çľģ åĨħ +åı¤ 人 +æ°ij ä¿Ĺ +çī¡ ä¸¹ +éŨ çªĹ +éĤ£ æł·çļĦ +çĽijäºĭ ä¼ļ +ç¿¡ ç¿ł +ç¦ ¹ +åįĥä¸ĩ ä¸įè¦ģ +æĶ¶ 缩 +çļĦ æĸĩåŃĹ +åĴĮ å°ļ +æĮĩ 令 +åħ±äº§ åħļåijĺ +çļĦ çĪ¶äº² +å®Į å·¥ +åĬ¡ å·¥ +马 æĭī +马æĭī æĿ¾ +æµĭ è¯Ħ +å² ļ +ä¸į åģļ +ä¸ĥ å¹´ +åĿĩ ä»· +主 è§Ĥ +å¾Ī ä¸įéĶĻ +èĤ¡ä¸ľ 大ä¼ļ +äºĶ ä¸Ģ +é£İ åIJ¹ +å¼Ģ éĩĩ +è¿Ļä¹Ī 大 +èĥ½ çľĭåΰ +èĢĥ è¯Ħ +åį³ ä¾¿æĺ¯ +çݰ代 åĨľä¸ļ +æ¯Ķè¾ĥ é«ĺ +è¦ģ çľĭ +没 äºĨ +è§£ 決 +çݯ æ¯Ķ +åĨ² åĬ¨ +æ·± å¤ľ +åĩł åįĥ +ä¿ ı +ç½ij æ°ij +å°± 没 +ä»ĸ 表示 +éĩı åŃIJ +æĹ©é¤IJ åĬłçĽŁ +åįĬ å²Ľ +æIJŀ ç¬ij +ä¸Ĭ æĬ¥ +å¯ © +é¢Ħ 订 +èľĤ èľľ +æŁ¥ æī¾ +ä¼Ĺ æīĢ +ä¼ĹæīĢ åij¨ +ä¼ĹæīĢåij¨ çŁ¥ +æĹ© æĹ¥ +åıij æī¬ +åĴĮ 个人 +åĬłåħ¥ äºĨ +åĸ® ä½į +åĪĨ æĺİ +第ä¸Ģ æī¹ +ç¾İ åĨĽ +æĿĢ æīĭ +éŨ å¤ĸ +åķĨ åľĪ +ä¸Ģ åĪ» +çļĦçľ¼ ç¥ŀ +éľ Ħ +äºĽ ä»Ģä¹Ī +åĬł æ·± +æ¯ı ä½į +å¸Ĥ éĿ¢ä¸Ĭ +åıĶ åıĶ +çļĦ éĤ£ç§į +粤 港澳 +è´´ å¿ĥ +æĸĩåĮĸ 产ä¸ļ +红 æĹĹ +åĺī åħ´ +æĶ¶ çĽĺ +å®ĮæĪIJ åIJİ +ä¼ģä¸ļ 管çIJĨ +纵 横 +ä¸į ä¿¡ +æĪIJ éĥ½å¸Ĥ +æ´Ĺ 澡 +举è¡Į çļĦ +çĶ¢ çĶŁ +ç©¿ ä¸Ĭ +åĪļ 好 +åħī 线 +æīĵ æŀ¶ +è¿Ļ æľ¬ä¹¦ +åĶ®åIJİ æľįåĬ¡ +åĩł åĪĨ +ä¸Ĭ 次 +ä¸į åĪĨ +产 åIJİ +éģ¿ å¼Ģ +ç»Ī æŀģ +代表 大ä¼ļ +æ¼Ķ æĬĢ +åĽŀ è´Ń +åѦ è´¹ +éĺ» ç¢į +ä¸Ģ大 æī¹ +ç«£ å·¥ +åĨ³ å®ļäºĨ +ä½Ĩ å¦Ĥæŀľ +ç͵ æµģ +ä¸Ŀ 毫 +èĥ½å¤Ł åľ¨ +éĶĢåĶ® æĶ¶åħ¥ +åľ¨ åŃ¦æł¡ +æ°´ åĩĨ +è§Ĩ 线 +èĩª åľ¨ +åķĨä¸ļ éĵ¶è¡Į +为äºĨ 让 +çį² å¾Ĺ +çݩ家 æľĭåıĭ +éĿ¢ èĨľ +åĪĨ åī² +åī§ æľ¬ +ç« Ń +说 å¾Ĺ +æĥ³ çŁ¥éģĵ +çļĦ人 çī© +èĮħ åı° +åIJĮ ä¸Ģ个 +æķ°æį® ä¸Ńå¿ĥ +çĶ Ħ +åĸľ æĤ¦ +ä¸ĭæĿ¥ çļĦ +å®ļ åIJij +æŀģ åħ· +çļĦ åľŁåľ° +éĤ£ åĢĭ +æijĦ åħ¥ +äºĨ æĪijçļĦ +马 è·¯ +åħ¨ 社ä¼ļ +è®® æ¡Ī +å±ĭ åŃIJ +åIJį åı« +åĮ ª +åľ¨ å¤ĸéĿ¢ +åįİ åįĹ +åıij è´§ +å¯Ĵ åĨ· +é«ĺçŃī æķĻèĤ² +详ç»Ĩ çļĦ +个 é¡¹çĽ® +çĶŁäº§ åĬĽ +æĹ¶ 常 +å°± æľĥ +ä¸ĩ èĤ¡ +éĻĮçĶŁ 人 +æıı ç»ĺ +å½ĵ çĦ¶æĺ¯ +æĭī åĬ¨ +éĵ¾ æĿ¡ +æī£ éϤ +ä¸Ģ缴 éĥ½ +å°ı åŃ©åŃIJ +伤 åı£ +第äºĮ å±Ĭ +è´Ń ç½® +çļĩ 马 +æĹł èģĬ +表 åĨ³ +诸 å¦Ĥ +åĵį èµ· +é£İ æļ´ +ä¸Ģæµģ çļĦ +ç ·¨ +è§£æĶ¾ åĨĽ +室 å¤ĸ +å°± è¿Ļä¹Ī +å³ ¶ +æīĢæľī 人éĥ½ +æIJľç´¢ å¼ķæĵİ +çļĦ æĪIJæľ¬ +åħļ æĶ¿ +åıijè¡Į 人 +çļĦ äºĭå®ŀ +对 该 +åıĹ æįŁ +ä¿Ħ ä¹Į +é²ľ èĬ± +åĨľ èᝠ+æŀģ éĢŁ +æĢ¥ æĢ§ +两 ä¼ļ +ä¸Ģèά æĿ¥è¯´ +æµ· é²ľ +åĨ Ī +ç͍ 人 +çĶ¨äºº åįķä½į +åĢ ª +åĦª æĥł +æł¹ æºIJ +åĽ¢ è´Ń +ç¾İ æ´² +ä¸ĭ è¡Į +å¹´ æľ« +èľ ¡ +è¯ģ ä»¶ +åľ¨ æĪijåĽ½ +ä¸į åºĶ +æĮī æĹ¶ +åłª ç§° +åľº ä¸Ĭ +å¹²éĥ¨ èģĮå·¥ +æľī å¾Ī大çļĦ +æķ°åŃĹ ç»ıæµİ +æ¼Ķ ç»ĥ +æį® ç»Łè®¡ +å¾Ģ æĿ¥ +广åijĬ æľįåĬ¡ +çļĦ è·Ŀ离 +æŃ ¸ +è¨Ģ è¯Ń +被 èªī +被èªī 为 +åĭī 强 +å°Ĭ æķ¬ +ä¸ĩ 亿åħĥ +ä¸ŃåĽ½ åĽ½éĻħ +å¹² é¢Ħ +å¹´ 产 +èĢķ åľ° +èĮ İ +åį³ æĺ¯ +æĺ¨ æĻļ +æĪIJ为 ä¸Ģ个 +çºł æŃ£ +åij½ åIJį +é¢ģ å¸ĥ +çĮľ æµĭ +ä¿ĿèŃ· æĶ¿çŃĸ +æĭ ¢ +æ´» æ³¼ +çŃī éĥ¨éŨ +åѦ åΰ +å¢ŀå̼ ç¨İ +èĪª 线 +åĨ ¤ +åįģ åĩłå¹´ +æİ§èĤ¡ èĤ¡ä¸ľ +ä¸Ģ éŨ +个 å·¥ä½ľ +ä¸ªå·¥ä½ľ æĹ¥ +æĸ° 西 +æĸ°è¥¿ åħ° +论 è¯ģ +ä» Ĩ +åı¦å¤ĸ ä¸Ģ个 +æĶ¹ ç¼ĸ +严 ç¦ģ +åĸľ 好 +个人 ä¿¡æģ¯ +满æĦı 度 +åĵ ¨ +å¸Ī èµĦ +æĶ¹ 为 +ç«ŀäºī 对æīĭ +åĩº çĤī +åķĨ 人 +大 æ£ļ +æĮĩ导 ä¸ĭ +å¦ĩ ç§ij +è¼ ª +æī ģ +åIJĮæĹ¶ è¿ĺ +å¹¶ éĢļè¿ĩ +æĪĺ éĺŁ +èĶĵ å»¶ +ä¿ ŀ +éĢĤå½ĵ çļĦ +åīį è¾Ī +åĵģ åij³ +湿 åľ° +æĪIJ åŀĭ +ä¸į åıªæĺ¯ +æĥ© ç½ļ +åĩºåı° äºĨ +çİ© 游æĪı +æīį åıijçݰ +åºĶ èģĺ +å¤ĸ æĿ¥ +åįł é¢Ĩ +å±ķ æľĽ +å« Ĥ +港 èĤ¡ +æ¡Į ä¸Ĭ +æĶ¯ æŁ± +çļĦæĥħ å½¢ +广éĺĶ çļĦ +æĶ¯ è¡Į +å´© æºĥ +æľĪ ä¸Ń +æľĪä¸Ń æĹ¬ +ç»į åħ´ +临 è¿ij +æĬ¤ æłı +æļ ® +åįķ èģĮä¸ļ +è¾¹ å¢ĥ +æĹ¥ çħ§ +ä¸Ģ åłĨ +缴 å¾Ħ +åħ±åIJĮ ä½ĵ +æĸ°åįİ ç½ij +æīĵ 好 +ç͵åĬ¨ 汽车 +ä¸į æĺİçϽ +éĢĻ è£¡ +缼 大 +çİĭ æľĿ +åĨį ä¸Ģ次 +åĬŀåħ¬ åİħ +è´¨ æĬ¼ +åIJĪ åĩ» +人们 对 +鼶 é£Ł +éĥ½ä¸į çŁ¥éģĵ +çļĦ è¯Ńè¨Ģ +åĭŁéĽĨ èµĦéĩij +åĬ¨ èĦī +å½ ¤ +è¿Ļ åĩłå¹´ +çŁŃ è§Ĩé¢ij +太 é«ĺ +常 å§Ķä¼ļ +åĬł çıŃ +éĩį å¿ĥ +åªĴä½ĵ æĬ¥éģĵ +没 æ³ķ +éĹ» åIJį +çĥŃ åº¦ +å¹¿æ³Ľ çļĦ +åħŃ å¤§ +çī© ä½ĵ +ä¸į 该 +é¢ĺ 主 +精彩 çļĦ +为 è¿Ľä¸ĢæŃ¥ +èĻ ŀ +åĽº çĦ¶ +è´µå·ŀ çľģ +çºł ç»ĵ +代çIJĨ 人 +æ³ķå®ļ 代表 +åı¦ä¸Ģ ç§į +ä¸į åIJ« +æĭ¯ æķij +ä¼ļ ç»Ļ +è¯Ĺ è¯į +åIJĮ ç±» +å¾Ĺ ä¸įåΰ +æĬĵ ç´§ +以 åħ¶ +åħ¥ åħļ +è¿ĺ åı¯ +æľŁ åĪĬ +å¾Īå¤ļ æĹ¶åĢĻ +æĹ¥ åIJİ +åħ¬ 约 +ä¸Ģ 举 +æ¯Ķè¾ĥ å¤ļ +éĩij æ²Ļ +æį ŀ +æİĴ åĩº +æŃ¦ æľ¯ +ä¸į æĸ· +ä¸Ń èĢĥ +ä¿¡ èµĸ +ä»İä¸ļ 人åijĺ +çģ« çĦ° +éĨĴ æĿ¥ +ä½İ 温 +é̾ æľŁ +åĬ± å¿Ĺ +éħ ¥ +åı¯è°ĵ æĺ¯ +è¿Ļ æĦıåij³çĿĢ +é¢ł è¦Ĩ +åĮĹ京 大åѦ +ä¸ĵ 线 +åıĬ 以ä¸Ĭ +è¨ ª +èĢĮ åIJİ +çŁ¥ ä¹İ +ä¸Ģ对 ä¸Ģ +å¨ĥ å¨ĥ +çģ¾ éļ¾ +åħ¨ å±Ģ +æīĢå¾Ĺ ç¨İ +å®ŀ æĥł +èļĤ èļģ +ä¹Ł çŁ¥éģĵ +温 åĴĮ +èIJ½ ä¸ĭ +åŀĭ ä¼ģä¸ļ +åĨį ä¹Ł +ä¾Ľ çĥŃ +é«ĺ æ½® +çĢı覽 åύ +çļĦ 巨大 +åħΠ天 +å¹´ ä¸ŃåĽ½ +类似 çļĦ +çIJĨäºĭ ä¼ļ +空 éĸĵ +çģµ æĦŁ +åĬĽ æ°Ķ +带 ä¸Ĭ +ä¸į好 æĦıæĢĿ +æľī ä½ķ +å·² åľ¨ +åıĸ åĩº +è¿Ŀæ³ķ çĬ¯ç½ª +åŃ¦ä¹ł 贯彻 +åľ° 带 +楼 梯 +çŃī æĥħåĨµ +ä»İ åīį +çļĦ ä¹łæĥ¯ +ç³Ł ç³ķ +å°± èĥ½å¤Ł +è© ķ +ä¸Ģ å¾ĭ +æĮ« æĬĺ +åİŁæĸĩ åľ°åĿĢ +å½ĵ å±Ģ +ä¸į éĢļ +æķ° åįĥ +éĺŁä¼į 建设 +æĹ¶ èĬĤ +åģļ èµ· +çļĦ è®°å¿Ĩ +ç½ij绾 å®īåħ¨ +åĩ¡ æĺ¯ +æ° ¯ +éĽķ åĪ» +åŁĥ åıĬ +æĪij åı¯ä»¥ +çĽij çIJĨ +æĽ´ åħ· +åŁİ 管 +èĭ ¯ +åı¥ åŃIJ +èĭ¥ æľī +ä»İæĿ¥ ä¸į +缸åħ³ è´Łè´£ +å®īåħ¨ æĦŁ +æĽ´ è¦ģ +çļĦæĥħ æĦŁ +çī¢ çī¢ +è¾ĥ 好çļĦ +æ° ® +ç¬ij è¯Ŀ +车 å±ķ +ä¹ĭ ç¾İ +ç®Ģ 约 +ç±»åŀĭ çļĦ +èĢģ åĮĸ +çľĭ ä½ł +è¿ĩ åĪĨ +éŨ åīį +ä¸Ģ éĹ´ +æĥ³ åİ» +åª Ľ +åľŁ è±Ĩ +åıĪ ç§° +ä¸Ń ä¿¡ +åŃĺ éĩı +马 äºij +èĩ´ 使 +åħĪ åīį +èĢģ åŃIJ +æīĵ æī® +æ¯ķä¸ļ äºİ +æ¯ķä¸ļ åIJİ +ç¾İ好 çĶŁæ´» +å·¥ä¸ļ ä¼ģä¸ļ +就好 äºĨ +èħIJ èļĢ +çıį çıł +åΰ è¿ĻéĩĮ +æīĢéľĢ çļĦ +è¿Ļæĺ¯ åĽłä¸º +çIJĨæĥ³ çļĦ +å·®å¼Ĥ åĮĸ +é ® +é® ® +äºļ 太 +æĹł ç©· +æıIJ çݰ +ä¸ĵä¸ļ æĬĢæľ¯ +çĶ¢ æ¥Ń +åѦ åŃIJ +ç§ij å¹» +åįłåľ° éĿ¢ç§¯ +ä¸į åĩĨ +æľªæĪIJ 年人 +æĶ¶ å½ķ +è¿ĺ 款 +éĴ¢ çŃĭ +æ¼ ¢ +å¾Ĺ æĦı +综åIJĪ ä½ĵ +æŀģ é«ĺ +åįķ è¯į +é«ĺæķĪ çļĦ +骨 头 +æī§ çĿĢ +缼 ä¸ĸ +模 çī¹ +æĽ´ èĥ½ +ç»Ŀ æľĽ +对åºĶ çļĦ +æ¨ Ĭ +æĸ° ä¸ī +æĸ°ä¸ī æĿ¿ +æģ° æģ° +åIJį å®¶ +æł¸å¿ĥ æĬĢæľ¯ +个 å°ı +æĢİä¹Ī ä¼ļ +说 ä¸įå®ļ +西 çĵľ +åĵ İ +ç¢ Ł +å¿ħ ä¸įåı¯ +å¿ħä¸įåı¯ å°ij +ä¹ĭ éĸĵ +åĪĨ 管 +交éĢļ äºĭæķħ +å¼Ģ åĬŀ +å¾ģæ±Ĥ æĦıè§ģ +äº ¨ +鼻åŃIJ éĥµ +鼻åŃIJéĥµ ä»¶ +ä¿¡æģ¯ æľįåĬ¡ +ä½ł è§īå¾Ĺ +缴 è§Ĥ +å·² å®ĮæĪIJ +åĪĨ ä¼ļ +åĽŀ åįĩ +éļ » +好 人 +äºĨè§£ ä¸Ģä¸ĭ +åį« æµ´ +æľĢ çα +åºŀ 大 +客 æĪ¿ +çijŀ åħ¸ +éĥ½ ä¸įæĺ¯ +é¤ ¨ +èĹ ī +çļĦ åIJĦ项 +为 缮æłĩ +çļĦ è®¤çŁ¥ +å½±åĵįåĬĽ çļĦ +夸 å¼ł +佩 æĪ´ +æ±ĩ çİĩ +çļĦ çαæĥħ +æĺ¥ é£İ +æĺ¯ æĪijçļĦ +æ¨ ¹ +åįĬ å°ıæĹ¶ +å±± åİ¿ +å±± 西çľģ +èĢĮ è¿Ļ +æĽ´å¤ļ ä¿¡æģ¯ +è¿ĺ æľīä¸ĢäºĽ +ç²¾ ç»ĨåĮĸ +ç¾İ åѦ +çͱ æĸ¼ +ä»ħä¾Ľ åıĤèĢĥ +å¾Ī é«ĺçļĦ +åıł åĬł +è¿Ļä¹Ī 说 +å±ķ åĩº +åĽĽ å¤Ħ +ä¸ĩ å®¶ +æĭĽ åĭŁ +çļĦ 强大 +æĤ£ æľī +å°ı äºİ +ä¹Łè®¸ æĺ¯ +对 èĩªå·±çļĦ +èģĮä¸ļ æķĻèĤ² +æĿ¥ è¿Ľè¡Į +æ¡£ 次 +æīĵ èµ¢ +éĥ½æľī çĿĢ +åº ¸ +è¯Ń æ°Ķ +çͲ éĨĽ +空 åĨĽ +车 åĨħ +åĽłä¸º ä½ł +å®ŀ æķĪ +æĥħ ä¾£ +åıijè¾¾ åĽ½å®¶ +éķľ åŃIJ +æ¯į å©´ +ä½Ĩæĺ¯ ä»ĸ +积æŀģ æİ¨è¿Ľ +大å¹ħ 度 +çļĦ 女åĦ¿ +é¤IJ æ¡Į +åIJ¬ å¾Ĺ +çļĦ 积æŀģæĢ§ +好 åIJ§ +æĹ¥ æ¶Īæģ¯ +æľī ä»»ä½ķ +æ¯Ĵ åĵģ +æĹ©çĤ¹ åĬłçĽŁ +第ä¸Ģ 天 +å°½ åĬĽ +æł ĸ +主 æīĵ +æĺ¯ä¸Ģ åIJį +çĪĨ æĸĻ +äºĭä¸ļ åıijå±ķ +å¾® åķĨ +äºİä¸Ģä½ĵ çļĦ +çĶŁ çĮª +èĩªçĦ¶ èµĦæºIJ +çŀĦ åĩĨ +è§Ħ模 åĮĸ +å¹¶ ä¸İ +èĤ¥ èĥĸ +å®¶ ç͍ +大 çĪ· +é¢Ħ åijĬ +æĿ¥ åģļ +éĺ³ åİ¿ +æŀĦ çŃij +é¢ģ å¥ĸ +åİĨåı² æĸĩåĮĸ +æľįåĭĻ æĪĸ +æĢ» åĨ³èµĽ +åıij åŀĭ +æĪij 羣çļĦ +æĽ ¦ +åıĤ ä¼ļ +èĦĨ å¼± +åĩĨ åħ¥ +èħ¹ éĥ¨ +åı¸ 令 +æĤ² åī§ +天 ä¸Ĭ +åı£ ä¸Ń +ä¸ĩ 个 +åѦ ä¸ļ +æıIJ åĢ¡ +两 è¾¹ +大 èĤ¡ä¸ľ +åı¤ éķĩ +è¡Ģ ç³ĸ +çļĦ ç¨ĭ度 +æ£ī èĬ± +åIJİ åı° +å°± åĮ» +æķ´ æķ´ +èĴ ² +çĽĪåĪ© èĥ½åĬĽ +ç± ½ +èĦ « +çľĭ éĩį +å®¶ éķ· +èģĺ ç͍ +èµĽ éģĵ +åīį èĢħ +建 èѰ +å¾ĭå¸Ī äºĭåĬ¡ +èīºæľ¯ åĵģ +æľī èĩªå·±çļĦ +åIJ¦ å®ļ +社 åĽ¢ +åij¨ äºĶ +带 åΰ +å·¥ä½ľ ä¼ļè®® +èĤ¡ æľ¬ +å¤ĸ åĮħ +å®¶ åħ¬åı¸ +çĽij çĭ± +èĪ Ĭ +åIJį æł¡ +西 æ¹ĸ +è¶ħè¿ĩ äºĨ +åįĹ å±± +ç»Ħ ä»¶ +å̼å¾Ĺ 注æĦı +æĮ£ æīİ +äºĭ 迹 +ç¶ĵ çĩŁ +ç§ij 室 +好 åIJĹ +æ¤ħ åŃIJ +åľĪ åŃIJ +ä½Ĩ 她 +æµģ çķħ +åIJĦèĩª çļĦ +èģĮ åijĺ +è¡į çĶŁ +åħ¨ åľº +æĴ¤ éĶĢ +åį´ è¢« +å®ģ éĿĻ +åīį æīĢ +åīįæīĢ æľª +åīįæīĢæľª æľī +主 ä¸ļ +åĮĹ ç¾İ +è¯Ħ å®ļ +åĵģ å°Ŀ +大家 éĥ½åľ¨ +主 å¸ħ +ç»Ĩ å¿ĥ +ä¿¡æģ¯ æĬ«éľ² +çļĦ ç«ŀäºī +éĢĻæ¨£ çļĦ +ç§ijåĪĽ æĿ¿ +éĩĩ æijĺ +票 æį® +éĢIJ å¹´ +èĭ± è¶ħ +è¡Įä¸ļ åĨħ +人 寿 +åIJİ åĭ¤ +å¦Ĥ æĦı +ç¬Ķ è¯ķ +æ·¡æ·¡ çļĦ +ä¸į èĪĴæľį +ä½ĵ 积 +ä¹Łä¸į è¦ģ +éĿ¢ æĸĻ +æł· æľ¬ +ç¥ ģ +æĮī è§Ħå®ļ +大æ¦Ĥ æĺ¯ +æĥħåĨµ è¿Ľè¡Į +åIJĦ åįķä½į +çļĦ ç¬ij容 +åĩºèī² çļĦ +代表 æĢ§ +çļĦ ç¾İ好 +éĴ ¦ +å¾® çĶŁçī© +è¶Ĭ æĺ¯ +æĸ¹ åı¯ +å¹² èĦĨ +éģĬ æĪ² +çļĦ åħ´è¶£ +éĹ® è´£ +åĽłä¸º æĪij们 +èĢĥ éĩı +çĶŁ çĶŁ +éĺ» åĬĽ +ä¸į åħģ许 +æıIJ è®® +åĩı æĮģ +åıªæĺ¯ ä¸Ģ个 +æĪij æĬĬ +åıijçݰ èĩªå·± +å¢ŀ å¹ħ +å¦ į +èĹĿ è¡ĵ +ä¸Ģå®¶ 人 +åĪĨ 级 +çļĦ æķ°éĩı +è½® èŀįèµĦ +çŃī åĽłç´ł +大 夫 +èģĺ 请 +é£İ æľº +绽 æĶ¾ +ä»»ä½ķ ä¸Ģ个 +éł Ĥ +éĺ¶ çº§ +æĬĬ 她 +è¿Ľ åĨĽ +èĥ½ åģļåΰ +åŁ¹è®Ń æľºæŀĦ +çī© æĸĻ +ç«¥ è¯Ŀ +æĮĩ导 æĦıè§ģ +éĺ ® +æ·±åħ¥ æİ¨è¿Ľ +主 æľº +æ¸Ķ ä¸ļ +ä¸į æľį +æµĵ éĥģ +è¡Ĺ ä¸Ĭ +ä¾Ŀ 次 +æĹ¶ 段 +æ¢ µ +çļĦ åĸľçα +å¾Ī éķ¿ +åĪĿ 级 +æŀľ æĸŃ +æĬ¢ æķij +é¼ĵ èĪŀ +ä¾Ľ éľĢ +æ·±åħ¥ å¼Ģå±ķ +产ä¸ļ éĽĨ群 +åĻª éŁ³ +åIJ¬ çĿĢ +æ·±åĪ» çļĦ +å¿į åıĹ +ç͵ ç£ģ +强 èĢħ +æ»ĭ åij³ +æĽ¼ èģĶ +åı¯ä»¥ 缴æİ¥ +大 ç±³ +æŃ· åı² +æĶ¿åĬ¡ æľįåĬ¡ +åħ¬ å¼ı +社 群 +éģĵ士 èģĮä¸ļ +ä¹ĭ æĥħ +æµ· æ°´ +æ¼Ķ å¥ı +åºĹ éĩĮ +迹 象 +åıijå±ķ çIJĨ念 +é«ĺ 空 +åij¨ åĪĬ +åĽŀ åΰäºĨ +ä¸į éĢĤåIJĪ +åłµ å¡ŀ +åĬ Ī +æ°´ ä¸Ĭ +çĢij å¸ĥ +纳ç¨İ 人 +çĩĥ æ²¹ +å·¥ç¨ĭ é¡¹çĽ® +峡 è°· +æľī éĴĪ对æĢ§ +åľĨ å½¢ +æľ¬ å¸Ĥ +è¿Ļ è¯Ŀ +管çIJĨ èĢħ +ç¡®è¯Ĭ çĹħä¾ĭ +æĬĬ æīĭ +彩 èī² +ä¸Ĭ åīį +夯 å®ŀ +ç¾Ĭ èĤī +å¾Ģ å¹´ +æĵħ èĩª +è¿· 人 +èĪª æ¯į +ç²¾ ç»Ĩ +åľ¨ æĪijçļĦ +åĪĽ æĬķ +麦 åħĭ +æľĪ ç»ı +åĮĹ æµ· +ä¹ĭ æĺŁ +åı¶ åŃIJ +å¸Ĥåľº ç«ŀäºī +è¿Ļ äºĭ +åıĥ èĪĩ +产 åľ° +åĶ ī +åķĨåĵģ æĪ¿ +èĪª è¿IJ +ä¼ĺ å¼Ĥ +ä»ĸ们 æĺ¯ +鼨 æ°´ +è¯į æ±ĩ +åĨľ çͰ +欧 éĺ³ +çŁŃ 线 +管 ç½ij +æł¹ åŁº +åıªæľī ä¸Ģ个 +éŀĭ åŃIJ +å¸Ĥ å§Ķ书记 +åĪ» æĦı +è¡Į 车 +åıĪ è¢« +åı¯éĿł æĢ§ +è´ ± +ä»» åij½ +åºĶ åľ¨ +å°± å¾Ĺ +æľįåĬ¡ ä½ĵç³» +æĶ¿ æĿĥ +åıijè¨Ģ 人 +è¿ĩ å¾Ģ +两 åıª +èϽ 说 +éĢģ ä¸Ĭ +ä»Ģä¹Ī äºĭ +æķ£ æĸĩ +æİĮ æİ§ +èĸĦ å¼± +ä¸ĭéĿ¢ å°± +主è¦ģ åĨħ容 +å¾Ī éĩįè¦ģçļĦ +å°± 说 +çϽèī² çļĦ +éĤ£ä¸ª æĹ¶åĢĻ +ç»ı纪 人 +çļĦ æ¯į亲 +ç¬Ķè®° æľ¬ +åºķ å±Ĥ +è¿ij 代 +è§£ 说 +è²ł 責 +æľĢ大 åĮĸ +åķĨ éĵº +æł¡ åıĭ +æ² ģ +ä¸į åĩºæĿ¥ +éĻ· éĺ± +ç¨ ħ +åħ¬å¸ĥ äºĨ +åĩĢ å̼ +çĽ¸å¯¹ è¾ĥ +ç¬ Ľ +æł¸ ç®Ĺ +åįİ ä¾¨ +æĢ¥ æķij +æĮº 好 +åħĴ ç«¥ +äºĮ èĥİ +åĩº èĩª +åĿ Ł +æīĭ ä¸ĭ +å± ¡ +åĪĽéĢł æĢ§ +ä¸¥æł¼ æĮīçħ§ +åĨį åİ» +举 缣 +人 æµģ +äºĨä¸Ģ 声 +å°ıæĹ¶ åīį +è´µ æĹı +éľ ĸ +ä¹Łæĺ¯ éĿŀ常 +éĢ ± +çľĭäºĨ çľĭ +ç¹ģ æ®ĸ +èĩ³ æŃ¤ +é¢Ħ å¤ĩ +å¾Ī æĺİæĺ¾ +æ¼Ķ èīº +åĿIJ çĿĢ +ä¿Ħ åĨĽ +åľ¨ è¿ĩåİ» +ä¹ĭ äºĭ +æĬĵ èİ· +åĿIJ ä¸ĭ +çͱ ä¸ŃåĽ½ +ä¹Ł å¼Ģå§ĭ +çŃĶ å¤į +åŀĥåľ¾ åĪĨç±» +éĴĵ é±¼ +åIJĦ 種 +缸 éģĩ +ä¸įåģľ çļĦ +æī¹ éĩı +éĩįè¦ģ ä½ľç͍ +å§Ķ å±Ī +åħŃ å¹´ +ä¸ĥ åįģ +ä¹ĭ æĪĺ +é£İéĻ© 管çIJĨ +éŁ³ æ¨Ĥ +è¡ĮæĶ¿ å¤Ħç½ļ +æľ¬ äºĭ +æĴ° åĨĻ +èģļ åIJĪ +éĢĤ æĹ¶ +æIJ¬ å®¶ +ç¢İ çīĩ +缼 å®´ +ç®Ģ æ´ģ +åı¬ éĽĨ +ç®Ģ åĮĸ +åĮĹ京 æĹ¶éĹ´ +第ä¸ī å±Ĭ +æĿ¥ åĽŀ +常ç͍ çļĦ +京 æ´¥ +京津 åĨĢ +梦 å¹» +è¯ķ è¡Į +æľº åºĬ +åΰ æľĢåIJİ +åĬ© æīĭ +åĪĨ 彩 +åĩº åĵģ +åι 车 +åIJ¯ åıij +ä¾§ éĿ¢ +æ¯ı å½ĵ +缸åħ³ è§Ħå®ļ +ä¸ĸ 人 +è´Ń 车 +å¿ĥ 缮 +å¿ĥ缮 ä¸Ń +äºĶ éĩij +è¿ĺ è®°å¾Ĺ +ä¾Ŀ çĦ¶æĺ¯ +æıIJ æ¡Ī +ç͵åķĨ å¹³åı° +åģļ åΰäºĨ +æĿľ ç»Ŀ +å®ī åįĵ +ä¸ĸçķĮ åIJĦåľ° +åīį éĢĶ +æ´Ĺ åĩĢ +å¥ĭ åĬĽ +åŁİå¸Ĥ 建设 +å¤ļ åĬŁèĥ½ +ä¼ļ éĢłæĪIJ +åıijå¸ĥ ä¼ļä¸Ĭ +ç©¶ 竣æĺ¯ +åĪĨ 红 +çŁ¥ èŃĺ +éĿ¢ æĿ¿ +æĹł 声 +æĢ¥ éľĢ +失 çľł +çΏ å¦Ī +äº Ĥ +åħ¨ æĻ¯ +ç»ıåħ¸ çļĦ +åī§ ä¸Ń +é¢Ĩ导 ä¸ĭ +åħļ åĨħ +åħ¥ ä¾µ +æĭī æĸ¯ +ä¸Ģ å¹ķ +åĬł ä¹ĭ +èĤ Ĩ +èĭ± æł¼ +èĭ±æł¼ åħ° +å·§ åħĭ +å·§åħĭ åĬĽ +ä¸Ģ å¿ĥ +èģ Ĥ +å¾Ģå¾Ģ æĺ¯ +管çIJĨ å±Ĥ +çĻ» åħ¥ +建ç«ĭ èµ· +建 åĽ½ +åŃIJ 宫 +åºĶ ä»ĺ +æİ¢ ç©¶ +第ä¸Ģ ä½į +ä½Ļ å®¶ +çŃī æ´»åĬ¨ +æīĢ èĩ´ +è¾ĥ å¿« +æĺ¯ éĿŀ +æıIJ åIJį +äºĮ èĢħ +åıªåī© ä¸ĭ +åħ¶ä¸Ń åĮħæĭ¬ +ç¼ĸ ç¨ĭ +çł´ ç¢İ +ä¸Ń 举 +å·¥ä½ľ æĬ¥åijĬ +çѾ åIJį +éħĴ ä¸ļ +çŁ¥ æĻĵ +çĥŃ å¿ĥ +éĿŀ åĩ¡ +èIJ¥ä¸ļ æī§ +èIJ¥ä¸ļæī§ çħ§ +人大 代表 +ä¸Ģ个 æĸ°çļĦ +å¨ģ æµ· +éĤ£ 人 +涨 ä»· +æ¶Ī çģŃ +éļ¾ å¿ĺ +ç¶ĵ é©Ĺ +åı£ è¢ĭ +ç³» æķ° +æĸĩ ä¸Ń +好 转 +æĸ° 鼶åĶ® +讲述 äºĨ +å¼Ģ çĽĺ +çķĻ ç»Ļ +æħ¢æħ¢ çļĦ +æĤ² 伤 +æľ¬ æľŁ +äºĨ å¤ļå°ij +è¿Ļ 让 +åIJĮ çŃī +æ¸ħ æĺİ +个 åŁİå¸Ĥ +æºĸ åĤĻ +åĩłä¹İ æĺ¯ +强 åĬĽ +ä¿ ¯ +æ°´ 稻 +åĽºå®ļ çļĦ +æł¸ åĩĨ +说 æľį +顯 示 +è¿Ļ å¥Ĺ +æĻºæħ§ åŁİå¸Ĥ +å±ĭ é¡¶ +ä¸į æĿ¥ +çĶŁ é²ľ +çŁ¥ æĥħ +æĬķ 身 +åijĬè¯ī æĪij们 +ä¸ī åĽĽ +ä¸ĩ ä¸Ģ +è¾Ĩ 车 +为 ä¹ĭ +åΰ æĹ¶åĢĻ +è¿Ļ æīįæĺ¯ +åIJį çīĮ +åºŁ æ°´ +åݻ年 åIJĮæľŁ +å¹´ éĻIJ +éģĭ åĭķ +åıĮ çľ¼ +è¦ģ ç´§ +对 çŃĸ +åľº é¦Ĩ +çϾ ç§ij +è¶Ĭ éĩİ +å¯Į åIJ« +大å¤ļæķ° 人 +æľĢ å°ij +åı¬ åͤ +åħ¸ èĮĥ +åĨľ æľº +æŃ£ æĸĩ +åºĶç͍ äºİ +æ·± èĢķ +ä¿ Ń +ä»Ģä¹Ī ä¸ľè¥¿ +å¥Ĺ é¤IJ +å½ĵ éĢī +å·¦ æīĭ +è°ĥ çIJĨ +æĻļ é¤IJ +éļ¾ åħ³ +åĩŃ è¯ģ +çα 人 +æĮĩ è´£ +è´£ ç¼ĸ +çļĦä¸Ģ 款 +éĵ ² +åįģ 个 +èĢ » +æľįåĬ¡ åķĨ +åľ° çĭ± +è¿ŀ å¿Ļ +åĽ° æĥij +çļ ĵ +ä¸į åIJĥ +çİ°åľ¨ å·²ç»ı +çĽĺ çĤ¹ +ä¸įåģľ åľ° +管çIJĨ 模å¼ı +è¿Ļ 段æĹ¶éĹ´ +æ¤ ° +礼 åĮħ +æµģ 转 +æī« çłģ +éĽĨä¸Ń åľ¨ +æ±Ĥ åĬ© +åįĬ 个 +å¿«éĢŁ å¢ŀéķ¿ +å¾Ģ ä¸ĭ +è¯Ħ åĪĨ +å°± æĥ³ +åķĨåĬ¡ éĥ¨ +æľī éĹ®é¢ĺ +èİ· åĪ© +æ¯Ľ çĹħ +æĦŁ åºĶ +èī¯ æĢ§ +åĪĨ æŃ§ +åĨ ī +æĪij们 çİ°åľ¨ +è¦ģ åĬłå¼º +å·§ å¦Ļ +èŀº æĹĭ +åĪĩ æį¢ +çĭ Ħ +顺 çķħ +å°¤åħ¶ æĺ¯åľ¨ +èĬĿ 麻 +éļ¾ è¿ĩ +æĹĹ å¸ľ +å¤į åį° +å¤įåį° ä»¶ +å¿ħ éľĢ +对å¤ĸ å¼ĢæĶ¾ +éļ¾ åıĹ +åİŁæĿ¥ æĺ¯ +ç®Ĺ äºĨ +é«ĺ å±± +离 èģĮ +çµĦ ç¹ +çµĦç¹ Ķ +å±ģ èĤ¡ +çϾ å®¶ +éģĩ ä¸Ĭ +æĺĶ æĹ¥ +ä¸į 容 +çĽij管 éĥ¨éŨ +主 æĦı +æµģ åŁŁ +è·Į å¹ħ +èĩ³ ä¸Ĭ +åĪ« 说 +æĺ¯ æ¯Ķè¾ĥ +å®ıè§Ĥ ç»ıæµİ +å¸Ĥåľº 主ä½ĵ +污æŁĵ çī© +æķij æ²» +丰 æĶ¶ +åŃĺ æĶ¾ +åĩ Ħ +éĩij å±± +æį¢ äºĨ +ä¸ĵ 人 +éĹľ æĸ¼ +æĹ¢ è¦ģ +åĽ½ è¶³ +éļ ĭ +åıį åĩ» +èµ· 身 +åħĪ æĺ¯ +å¸ĮæľĽ èĥ½å¤Ł +åζ 订 +åºĹ éĿ¢ +åĸ Ģ +æķĻ ä½ł +éĻį æ¸© +åĬĽ æ±Ĥ +ä¸ī çϾ +çī© ä»· +丢 失 +å¢Ļ ä¸Ĭ +éĥ¨ 份 +æł· æĿ¿ +ä¹ĭ æĦı +ç½ij å°ıç¼ĸ +ä¸ĸ ä¸Ĭ +è°ĥ è¯ķ +污æŁĵ éĺ²æ²» +å½± éĻ¢ +å®Įåħ¨ åı¯ä»¥ +éĢļ åħ³ +ä¹īåĬ¡ æķĻèĤ² +没æľī åĬŀæ³ķ +èĢ ¿ +å¦ ³ +æĹł æĥħ +å¾Ĺ çĽĬ +å¾ĹçĽĬ äºİ +æľŁ çĽ¼ +娱ä¹IJ åľº +çͲ æĸ¹ +ä¸Ģ æ±½ +çĹ ° +çĸij ä¼¼ +æĸ°æµª å¾®åįļ +强 è¡Į +å½ĵ ä»ĸ +èĥ º +ç͍æĪ· æıIJä¾Ľ +åĮº å§Ķ +æĦ¿ æĻ¯ +æĬĺ æī£ +失 踪 +è¿« åĪĩ +åŃĹ æ¯į +åĴ ¯ +èªį èŃĺ +ä»Ģä¹Ī æĦıæĢĿ +çĽĴ åŃIJ +å½ķ éŁ³ +建设 å·¥ç¨ĭ +ä¸ļ ä½Ļ +å®ŀè·µ æ´»åĬ¨ +羣 空 +çĤ ĸ +åľ¨ è·¯ä¸Ĭ +主è¦ģ åĮħæĭ¬ +该 æĢİä¹Ī +æĢ» æľī +æĢ§ æĦŁ +æ°ij èĪª +å¼Ģ åºĹ +欺 éªĹ +çªģ åĩ» +缺 失 +æī§ ä¸ļ +åľ° éģĵ +å¹¶ æĹł +æ°ij åĬŀ +ç»Ħç»ĩ çĶŁæ´» +æĪij å¦Ī +è¨ĺ èĢħ +管 åζ +æī¾ 个 +èĹ » +çĤİ çĹĩ +äºĴ åĬ© +æµıè§Ī åύ +çݩ家 æĿ¥è¯´ +éĻįä½İ äºĨ +è£ Ķ +æĮ£ éĴ± +åķĨ æľº +æĶ¹ è£ħ +æµģ 浪 +æĶ¿ æ³ķ +èĢģ 头 +çĶŁäº§ åĴĮ +ç© Ĺ +亲 çα +亲çα çļĦ +å±¥ èģĮ +åŁİ éĩĮ +ç»Ĩ åĪĨ +åĬ³åĬ¨ åIJĪåIJĮ +åľ¨ æĹ¥æľ¬ +å¨ģ å°Ķ +åį« è§Ĩ +éĢ£ çµIJ +çĿĢ éĩį +æĬĺ 磨 +åĽ¾ 为 +çľ · +å·¥ åºı +æĵ ģ +æĵģ æľī +ç½ijç«Ļ åľ°åĽ¾ +çļĦä¸Ģ 大 +ç»Ħç»ĩ å®ŀæĸ½ +æĬĽ å¼ĥ +åĴĮ æĶ¯æĮģ +æ³ķ åĪĻ +浪 æ½® +çݰ æľīçļĦ +åĩł çİĩ +为 客æĪ· +åįģ ä¸ĩ +è ¹Ħ +çªģåĩº éĹ®é¢ĺ +åıĥ åĬł +éĥ½ä¼ļ æľī +çĽ ¤ +è°ģ éĥ½ +æīĭ åĬ¨ +缴 è¾¾ +çĤ¹ å¤ļ +éĺ¶ å±Ĥ +ä¸į ä½³ +éĤ£ 段 +滨 æµ· +æĺ¯ åĽ½åĨħ +æĪij å¸ĮæľĽ +åIJĽ åŃIJ +è§Ĥ éŁ³ +åģļ é¥Ń +æ±½ è»Ĭ +åħ³ ç¨İ +çľ¼åīį çļĦ +æ°´ éĿ¢ +è̳ æľº +追 踪 +æİ¨ éĢģ +éĴ± åĮħ +æģ¶ å¿ĥ +æµ· åŁŁ +å· į +å¼Ģ æĿ¥ +表 æĢģ +仪 表 +å¹³ åİŁ +åįģ å¤ļå¹´ +ä¹Ł æĹłæ³ķ +åħ¼ 顾 +è¡£ æŁľ +æł½ åŁ¹ +æĪ¿ æºIJ +设ç«ĭ äºĨ +ä¸ĩ åIJį +æķ° é¢Ŀ +è¦ģ åĿļæĮģ +åIJīæŀĹ çľģ +请 èģĶç³» +ç»ıåİĨ è¿ĩ +çļĦ æľ¬è´¨ +åħ¥ éŨ +æľ¬ æ¡Ī +çİĩ è¾¾åΰ +åı° éĺ¶ +éĴ ŀ +æĪij èĥ½ +èݲ èĬ± +éĴ ł +ä¸Ģ äºĭ +åİŁ æľīçļĦ +æ¯ı åĢĭ +æ¯Ķäºļ 迪 +æ£ĭçīĮ 游æĪı +ä¸įä¼ļ æľī +å½Ĵ æĿ¥ +äºĶ çϾ +è¿ĩ é«ĺ +鼷 è¾¾ +ä¸Ģèµ· åİ» +æķĻ å¯¼ +å°± è¯Ĭ +å°± å¾Ī +ä¸įåIJĮ äºİ +ä¿ º +å¸ĸ åŃIJ +æĶ¿åįı å§Ķåijĺ +çĸ«æĥħ å½±åĵį +åĪĨ è£Ĥ +为ä»Ģä¹Ī ä¼ļ +äºĶ æĺŁ +å°ij åĦ¿ +æĬ¢ éĻ© +梦 è§ģ +è®°èĢħ éĩĩ访 +å±± è·¯ +æĪij 个人 +æ²Ļ 滩 +è¹ Ń +æĶ¹ è®Ĭ +æĸ°åŀĭ åĨł +æĸ°åŀĭåĨł çĬ¶ +åĮ» æĬ¤ +åĮ»æĬ¤ 人åijĺ +æµ· å°Ķ +åħ³äºİ æĪij们 +éϤ å¤ĸ +åº ļ +宣 åijĬ +ä¸ī åįĥ +æ¦ ¨ +ç§ijæĬĢ å¤§åѦ +ä¸ĥ åħ« +顺 åºĶ +çΏçΏ å¦Īå¦Ī +éĢī åıĸ +åī§ çĥĪ +乡æĿij æĹħ游 +积æŀģ æİ¢ç´¢ +表çݰ 为 +å¾Ī æ¸ħæ¥ļ +大 åĨĽ +æĿ¥ ç͵ +å¥Ĺ æĪ¿ +çݰ è¡Į +享 åıĹåΰ +çľĭ çĤ¹ +åĽºå®ļ èµĦ产 +以 人为 +以人为 æľ¬ +ä¸į å®Į +éĻį 鼨 +åģļçļĦ äºĭæĥħ +å¹¶ äºİ +顽 强 +èĢ ¸ +åĺ´ å·´ +缸åħ³ ä¿¡æģ¯ +æĪij 没 +æĪĺçķ¥ æĢ§ +æĢĿ 念 +åĪĺ å¤ĩ +åĬ© æĶ» +é£İ è²Į +éĿ¢å¯¹ éĿ¢ +积æŀģ å¼Ģå±ķ +çĸĹ æķĪ +çľĭ 书 +缺 åı£ +åĽ½æ°ij ç»ıæµİ +使ç͍ æĿĥ +éģ¥ è¿ľ +å¡« è¡¥ +第ä¸ī 人 +åįĬ å¤ľ +æŃ¦æ±ī å¸Ĥ +æĪij åıijçݰ +ä¼ĺæĥł æĶ¿çŃĸ +é£İ åı£ +å°± ä¸įèĥ½ +为 主è¦ģ +æµģ åĩº +å´ĩ æĭľ +å¹¶ ä¸įèĥ½ +é«ĺ ä¸ī +ä¸ĸçķĮä¸Ĭ æľĢ +æĥ³ å¿ħ +åħ¶ æīĢ +åĢĻ éĢī +åĢĻéĢī 人 +ä¸į çα +åī¯ ä½ľç͍ +人æ°ij æĹ¥æĬ¥ +æĪij ä¸įæĺ¯ +å®ŀ çī© +ç͵ åİĤ +ä¹Ł ç®Ĺæĺ¯ +æľī éĹľ +æľī èĥ½åĬĽ +æĮĤ åľ¨ +çľ¼ ä¸ĭ +约 ç¿° +å°ı åѦçĶŁ +èµ· åΰäºĨ +å·¥ 夫 +åIJĮ å¿ĥ +åĿ¦ è¨Ģ +çł Į +åıijæĮ¥ äºĨ +èģĮä¸ļ éģĵå¾· +è¿ĻäºĽ å¹´ +念 头 +èĢģ é¼ł +åħ¨ èµĦ +åħ¨èµĦ åŃIJ +ä¸Ģ åij³ +å¤ļ ä¸ĩåħĥ +æł¼ æľĥ +éķ¿ éĢĶ +带 èµ° +èĭ± 寸 +æĸĩ ä½ĵ +对 ä»ĸ们 +åĵŃ äºĨ +å¡« æĬ¥ +çīĪæĿĥ 声æĺİ +ç͵ 线 +è´Ńçī© ä¸Ńå¿ĥ +饱 满 +ä½İ 头 +强 è¿« +ä¿Ŀ æ´ģ +欧 åĨł +缸 è¿ŀ +认 è´Ń +çģ« æĺŁ +é«ĺ å°Ķ +é«ĺå°Ķ 夫 +èij« èĬ¦ +æłĩ 注 +çļĦ çIJĨæĥ³ +æł¸ éħ¸ +æł¸éħ¸ æ£Ģæµĭ +åĬ ī +ä¸Ģèά æĺ¯ +æĢĿ ç´¢ +轨 迹 +çĥŃ å¸¦ +éĻ £ +åĩĨç¡® æĢ§ +æĪ´ çĿĢ +åľ¨ çĶŁæ´»ä¸Ń +æīĢ èĥ½ +æľ¯ åIJİ +带 ä½ł +ç¥ ł +æ®ĭ éħ· +ä¹Ł åıªæĺ¯ +çͳ è´Ń +举åĬŀ äºĨ +æľī æĦıä¹ī +æĹº 缼 +åľ¨ ç¶² +åľ¨ç¶² è·¯ä¸Ĭ +å¾Ī大 ç¨ĭ度 +管 è¾ĸ +çĸ«æĥħ æľŁéĹ´ +触 æij¸ +éĺ¶æ®µ æĢ§ +ä¼ļ è§īå¾Ĺ +çļĦ çĶ»éĿ¢ +æİ¥åıĹ äºĨ +表达 äºĨ +éĤĵ å°ı +éĤĵå°ı å¹³ +åħļ é£İ +åħļé£İ å»īæĶ¿ +åķĨ åѦéĻ¢ +åħij æį¢ +é£Łåĵģ èį¯åĵģ +éĿŀ常 好çļĦ +çľ ¯ +纳 ç±³ +åĬ¨ æijĩ +åĽŀ éģ¿ +çľĭ èijĹ +款 项 +åħ« å¹´ +åģļ 个 +æĸĩ æ¡£ +éĩijèŀį ç§ijæĬĢ +åħ¶ä¸Ń æľī +äºĨä¸Ģ ç³»åĪĹ +æĹĹèΰ åºĹ +ç§° èµŀ +éĽ¢ éĸĭ +åζ åĨ· +å®¶ éŨåı£ +åįģ å¤ļ +ä¼´ ä¾£ +çľĭ çĹħ +æĭī çĿĢ +æī Ĵ +çĸ² æĥ« +å°ijæķ° æ°ijæĹı +åĽ¾ å½¢ +è½ § +å¢ŀ éĩı +饲 åħ» +çģ« å±± +æ¯ı 个æľĪ +ä½ľä¸º ä¸ĢåIJį +è½´ æī¿ +æĸĩ 书 +ç¼ ķ +åħ·ä½ĵ æĥħåĨµ +çĹĽ çĤ¹ +缴 éĶĢ +å¡ Ĭ +ä¹Ł æľĥ +çĥŃ æ½® +å¹³ æ°ij +æ¼Ķåͱ ä¼ļ +æķĻ çłĶ +éĢĥ éģ¿ +ä¸Ģ è´¯ +å°± è¶Ĭ +å®ŀ å®ŀåľ¨ +å®ŀå®ŀåľ¨ åľ¨ +ä¹łè¿ijå¹³ æĢ» +æº º +å¿ĥ åºķ +éķ¿ å¾ģ +媽 媽 +第ä¸ī 次 +åĩº æ¼Ķ +çĭĢ æ³ģ +å°Ķ æĸ¯ +代çIJĨ åķĨ +çĨ ı +çļĦ 对象 +ç͵ éĩı +è¡Į åĪĹ +åĽ½ 人 +è·ij äºĨ +åįĶ åĬ© +èIJ¥ è¿IJ +å¸Ī åħĦ +æ¦ ® +æĥ³ åĥı +æĢ§ 强 +ç§ijåѦ çłĶç©¶ +å»¶ å®ī +ä¸¥æł¼ èIJ½å®ŀ +é¢Ĩ ä¼ļ +缸 å·® +è·¯ 人 +çĶ « +æľī ä»·å̼ +æľīä»·å̼ çļĦ +ç¾İ åĽ¢ +æ°ij主 çĶŁæ´» +æĪij æīį +ç¾İåĽ½ 人 +æ°Ķ åij³ +åıį å°Ħ +çļĦ åĨ³å¿ĥ +大 è±Ĩ +交 代 +è¿Ľ åĩº +åıį æĬĹ +æĮĩ çļĦæĺ¯ +ä»· ä½į +è¿Ľ é©» +ä¸Ĭ çϾ +ä½į åĪĹ +ä¸ŃåĽ½ ä¼ģä¸ļ +çļĦ好 å¤Ħ +主 ç¼ĸ +æ±½ æ²¹ +ä½Ĩ æĪij们 +æĢİä¹Ī çľĭ +é»Ħ å±± +å¤ļ åªĴä½ĵ +åIJİ åį« +èİ·å¾Ĺ æĽ´å¤ļ +åĬ¡ å¿ħ +为 å¥ijæľº +é¦ĸ 饰 +ä¸ĩ åįļ +è¶ĬæĿ¥è¶Ĭ 大 +ä¸ĵ项 è¡ĮåĬ¨ +å¥ĭ è¿Ľ +ä»į çĦ¶æĺ¯ +è´¨ æĦŁ +å¦Ĥæŀľ ä¸įæĺ¯ +ç«Ļ èµ·æĿ¥ +ä¹¾ éļĨ +åı¯æĢķ çļĦ +å¯Į è´µ +æ¸ħ ç®Ĺ +åIJij ä¸ĭ +åĢ ļ +çļĦ çŃĶæ¡Ī +èι ä¸Ĭ +çļĦ羣å®ŀ æĢ§ +çŃī åĬŁèĥ½ +åĸľ åī§ +å¨ģ åĬĽ +æĸ° é¢ĸ +æł¸ ç͵ +æĬ¥ éĶĢ +æķħ 乡 +ä¼´ éļı +éŀ Ń +å¦Ĭ å¨ł +åĪĨ åĮĸ +æľī å¾Ī大 +æĢİä¹Ī 说 +æĻĤ 代 +产 åĩº +ä»ĭç»į 说 +å¤ĦçIJĨ åύ +èĨ¨ èĥĢ +åī¯ å¸Ĥéķ¿ +çļĦ 妻åŃIJ +æł· åĵģ +åIJĮæ¯Ķ ä¸ĭéĻį +åħĥ å·¦åı³ +ç͍ èĩªå·±çļĦ +é«ĺ éĽĦ +æĺ¥ æĻļ +ä¹Ł æľīå¾Īå¤ļ +çľ¼ çIJĥ +æķ£ æŃ¥ +ä»ĸ们 éĥ½ +第ä¸Ģ å®¶ +åĬŀ 好 +å®ī éĺ² +ä¸Ģ ä¸ĩ +åľ¨ éĩĮéĿ¢ +éŁ³ é¢ij +åı£ åı· +ä¸Ģ è¶Ł +ç¦ı çī¹ +é³ ŀ +æĥĬ èī³ +æĸ° å¨ĺ +绿èī² åıijå±ķ +ä¸Ń å¼ı +ä¹Ł åıªæľī +çݰ 身 +åı¯ ä¾Ľ +æ¯ı ä¸Ģ个人 +第ä¸ī èĢħ +åľ° å½¢ +éĴ¢ ç»ĵæŀĦ +çĽijçĿ£ æ£ĢæŁ¥ +åı« æĪij +èĩ´ æķ¬ +æ´Ĺ æīĭ +ä¸ĭ è°ĥ +康 çĨĻ +æĪIJ交 éĩı +ä¹Ł æĪIJ为 +åħī æ»ij +å®Įæķ´ æĢ§ +çģ ¼ +ç¶² éłģ +éķ¿ å¯¿ +éģ© ç͍ +çļĦä¸Ģ 项 +çŀ© 缮 +æĬĬ èĩªå·±çļĦ +éĵ¶è¡Į åį¡ +å°± å¿ħé¡» +ç¾İ çϽ +éŀį å±± +æľ¬ é¢Ĩ +ä¸Ģ ç¢Ĺ +æīĵ æ³ķ +æĤ¨ 好 +对 åŃ©åŃIJ +æĬ¥éģĵ ç§° +ä¼ł åĩº +大 èĩ£ +ç¬ ĭ +çĽ ı +é¾ ļ +缴 线 +æĻº åºĵ +ç§Ł 车 +é£İ åij³ +çľĭ ä¸Ģä¸ĭ +æİ¨ éĶĢ +éĥ¨ éĥ¨éķ¿ +è´¨éĩı åĴĮ +åĪĬ çĻ» +å·¥ä¸ļ åĮĸ +çİĩ 为 +鼶 ä»¶ +硬 åĮĸ +ä¸Ĭ åįĥ +ç»ıéªĮ å̼ +å¹³ è¡Į +声 éģĵ +æľįåĬ¡ è´¨éĩı +çĶŁ çĶ¢ +æľĢ 容æĺĵ +ä¸Ģ æŀļ +å¹´ æĬ¥ +åħ¬ ç½ij +åħ¬ç½ij å®ī +åħ¬ç½ijå®ī å¤ĩ +çļĦ èĥ½éĩı +å®ŀéĻħ è¡ĮåĬ¨ +è¦ģ ä¸įè¦ģ +æĹ¥æľ¬ 人 +è̶ 稣 +ç¼ĸ åī§ +æ¶ © +åį° å°¼ +ä¸Ĭä¸ĭ 游 +åĩł åı¥ +ä¸Ń éĵģ +ç°¡ åĸ® +èĩª 带 +çĶŁ äºİ +ä¸Ģ åı£æ°Ķ +åĭ¤ å¥ĭ +éĻį ä»· +å±ķçݰ äºĨ +å¸ĥ æĭī +ä¼ļ éĢīæĭ© +çļĦ ç»ıåħ¸ +好 æľĭåıĭ +车 éģĵ +æķ´ åĢĭ +åľ ĵ +éķ¿æľŁ 以æĿ¥ +æĬķ å½± +çļĩ åĨł +è¿ĩ 大 +åijĬè¯ī ä»ĸ +ä¼ģä¸ļ æıIJä¾Ľ +æĬ½ 象 +éĢĤ 度 +çļĦ 女åŃ© +èµ· ä¼ı +çļĦ åĬŁæķĪ +ä¸ĵ项 æķ´æ²» +åı¯ éĢļè¿ĩ +ä¸įåIJĮ ç¨ĭ度 +å¼Ĥ è®® +åĩĢ èµĦ产 +åij Ĺ +ä»Ģä¹Ī åij¢ +å·¡ éĢ» +è¸ı ä¸Ĭ +ä½Ĩ å®ĥ +ç²¾ 度 +管 å±Ģ +第ä¸Ģ åIJį +åĨħ åŃĺ +æijĨ åľ¨ +åī© ä¸ĭ +主ä½ĵ 责任 +çĤ¹ åįĬ +以 èĩ³äºİ +åħ»èĢģ ä¿ĿéĻ© +æĦŁåıĹ åΰäºĨ +çŁ¥åIJį çļĦ +å¯Į 豪 +妥 åĸĦ +åŃĻ åŃIJ +éĵ Ĥ +说 èĩªå·± +让 æĤ¨ +æķ° æİ§ +çļĦçľ¼ åħī +注 éĶĢ +çļĦ çģµéŃĤ +è¿ĺ ä¸įéĶĻ +éĹ® ä»ĸ +èĩªä¸» çłĶåıij +èĵ ĭ +ç´« èī² +åĽ½å®¶ å®īåħ¨ +è¾½å®ģ çľģ +ä¹Ł æ¯Ķè¾ĥ +ç¾İ èĤ¡ +ä¸įç¡®å®ļ æĢ§ +å¿ĥ 头 +æĪ ³ +级 åĪ«çļĦ +论 è¿° +çļĦ åĽŀçŃĶ +ä¿Ŀè¯ģ éĩij +çŃī è¡Įä¸ļ +幸ç¦ı æĦŁ +æŃ§ è§Ĩ +æľº 票 +æ´¾ 人 +èĩ´ åij½ +åĺ´ è§Ĵ +æĸ°éĹ» ä¸Ńå¿ĥ +æĶ¾å¼ĥ äºĨ +å®ľ å±ħ +åĨĻ ä¸ĭ +éĹ® çŃĶ +è¿ĻéĩĮ æĺ¯ +å¤ļ åľ° +åĮºåŁŁ åĨħ +åīµ æĸ° +çľĭ ä»ĸ +æī§æ³ķ 人åijĺ +åĬ¨ æľº +éŁ³ åĵį +çļĦ åij½è¿IJ +é¡¶ éĥ¨ +åĵ Ł +éĥ½ æľĥ +æīĵéĢł æĪIJ +æĦı åĽ¾ +çļ ĸ +åĢĴ åħ¥ +å·´ èIJ¨ +åĬ© åѦ +å¤į åı¤ +åIJ¯ ç͍ +åĽ½éĻħ å¸Ĥåľº +åĤ¨ èĥ½ +é»ijé¾Ļæ±Ł çľģ +ä¹ĺ 车 +è¿IJåĬ¨ ä¼ļ +ä¿Ŀ åĪ© +çŁ³ æĿIJ +çµ ® +çĤĴ ä½ľ +çļĦ ä¿¡ä»» +å°± æĪIJäºĨ +åı¯ è§Ĥ +çļĩ ä¸Ĭ +è¿Ļ åĩłå¤© +ä¸Ģ éĶ® +åĨ· åĨ» +ä¿Ŀ åį« +æł¸ æ¡ĥ +åIJĪä½ľ åħ³ç³» +éĢģ åĩº +æĹĹ ä¸ĭçļĦ +åľ¨ ä¹İ +为 广大 +åįĪ é¤IJ +ä¸ĵ 访 +æĪĸ å°Ĩ +éĿĴå²Ľ å¸Ĥ +å¥Ķ è·ij +æĹ¥ æĬ¥éģĵ +å¥ij åIJĪ +æĸ° æĺ¥ +ä¸į å°ıå¿ĥ +两 ä¸ī +æĦıæĢĿ æĺ¯ +åĨ· èĹı +çļĦ çĹĩçĬ¶ +æĢ§ åij½ +è¶ħ æłĩ +å¯Ĩ 碼 +ç§ijæĬĢ èĤ¡ä»½ +äºĨä¸Ģ æī¹ +çĿ£ å¯Ł +åªĴ ä»ĭ +å°Ħ æīĭ +ä¿® åħ» +çīĩ åĪ» +éĢĤåIJĪ èĩªå·± +åıªè¦ģ æĺ¯ +åIJĥ è¿ĩ +éĩij éĵ¶ +缴 å±ŀ +åѦ éĹ® +åİĭ åζ +çªĹ å¤ĸ +æĶ¶ åΰäºĨ +åħ¨åĽ½ 人大 +ä½Ĩæĺ¯ 对äºİ +åľ¨ æķ´ä¸ª +çļĦ èĥĮåIJİ +åĩıå°ij äºĨ +åıį èħIJ +åıįèħIJ åĢ¡ +åıįèħIJåĢ¡ å»ī +æĹ · +åĪĨ æľŁ +åľ¨ æ·±åľ³ +æīĵ çĿĢ +æī« ä¸Ģ +æī«ä¸Ģ æī« +æĶ¿åºľ éĥ¨éŨ +æİ¥ è¿ŀ +å±ŀäºİ èĩªå·± +åŃIJ å¼¹ +åIJĮæł· æĺ¯ +æĢ» åħ± +车 ä¼ģ +æ¢ ĵ +åħ¬ é¡· +åıij 声 +éĴ Ľ +èµ°åĬ¿ åĽ¾ +主 èIJ¥ +åĸ Ķ +æķ°æį® åĪĨæŀIJ +ä¸į è¿ľ +æľī åIJį +æľīåIJį çļĦ +åģ¿ è¿ĺ +å¾Ī ä½İ +è®ĵ 人 +èĿ ī +é«ĺ è´µ +å°ij 许 +æ° Ł +å¹ ¢ +亲 æĥħ +è¿Ļä»¶ äºĭæĥħ +ç͍ é¤IJ +缸åħ³ æĸ°éĹ» +å°± åºĶ该 +ç»Ī çĤ¹ +æĺ¯ å¤ļå°ij +çĻ» åľº +è¯ķ 管 +è¯ķ管 å©´åĦ¿ +åģļ 大 +åģļ大 åģļ强 +çļĦ ä¾ĭåŃIJ +åħ« 个 +æĺİ æĹ¥ +çĤ ³ +èµ° åİ» +éģ º +å¢ © +ä½ĵä¼ļ åΰ +åĴ ı +ä¸ĭ è¾¾ +å¤į åıij +追 éĢIJ +æīĵ åĵį +çļĦ éļ±ç§ģæ¬Ĭ +åħ·æľī ä¸Ģå®ļ +è¿Ļä¹Ī å¤ļå¹´ +æłij æŀĹ +æľĢ éķ¿ +åIJĮ èĥŀ +åħī æ³½ +åŁŁ åIJį +æĮĩ åIJij +åıĹ害 èĢħ +æłij èĦĤ +æľīå¤ļ 大 +大 éĿ¢ç§¯ +æĹł ç¼Ŀ +æĶ¹ æŃ£ +æĽ´å¤ļ çļĦæĺ¯ +æľŁ æľ« +æŃ ¼ +ä¹ī ä¹Į +éĤ£ ä½ł +çļĦ 第ä¸Ģ个 +èĮ µ +å° § +èį « +ä¸įä»ħ åı¯ä»¥ +æ¶Į çݰ +æĢ» éĿ¢ç§¯ +æĸ°éĹ» åıijå¸ĥ +æ°ij ç͍ +å°± 读 +æīĵ è´¥ +å¤ĸ è¯Ń +æĪij们 ä¸Ģèµ· +é¢Ħ å®ļ +çĥ¹ 饪 +æľĢ 主è¦ģ +æľĢ主è¦ģ çļĦ +çīĮ çħ§ +åĽł åħ¶ +ä½İ ä¸ĭ +ä¼ļ åIJĮ +è§ģ è§£ +éĹ´ éļĶ +æķĻ ç¨ĭ +å° ī +å¸Ĥ ä¸Ńå¿ĥ +åħ³éĶ® æĺ¯ +æµ· åįĹçľģ +çī¹åĪ« æĺ¯åľ¨ +ä¸ŃåĽ½ 大éĻĨ +åħħè¶³ çļĦ +æĹ¢ èĥ½ +åĤ³ çµ± +çijľ ä¼½ +åħ¥ åĽ´ +æħ¢æħ¢ åľ° +æĬ¥ éħ¬ +æī¹ å¤į +å·¥ä¸ļ åĽŃåĮº +ä¸İ åıijå±ķ +èĥ¸ éĥ¨ +åľ¨ ç½ij绾 +åľ¨ç½ij绾 ä¸Ĭ +交 è°Ī +æĽ´ æĶ¹ +åįłæľī çİĩ +ä¸Ŀ绸 ä¹ĭè·¯ +è¡ Ľ +çłĶ åΤ +åĪ ª +åĪª éϤ +è¿Ļ åıª +çļĦ æ°Ķæģ¯ +åĬł å·ŀ +éĴ § +çIJĨäºĭ éķ¿ +ä¸ĸ å®¶ +æµģè¡Į çļĦ +å¾Ī æľīåı¯èĥ½ +们 éĥ½ +ç»ıèIJ¥ 模å¼ı +è¡Įä¸ļ ä¸Ń +éĢļçŁ¥ 书 +åij½ é¢ĺ +æľ¬ ç¶²ç«Ļ +æ²Ļ çī¹ +åıij åħī +é«ĺ ä»· +å·² çĦ¶ +åıĮ åįģä¸Ģ +ä¸Ĭ è¯ī +ç¿ħ èĨĢ +è¿Ļä¸Ģ å¹´ +大ä¼ļ ä¸Ĭ +éĩ ī +å®Įåħ¨ æĺ¯ +å¾Ĺ 太 +ä¸Ģèά 人 +è¿ĺ ç®Ĺ +æĬĺ åıł +æĬķ æľº +çĤ¹ çĩĥ +çݰéĩij æµģ +åħĶ åŃIJ +ç½ij æł¼ +æİ¥ è¿ĩ +ä¾Ľ è´§ +éĺ´ å½± +åİŁ åħĪ +æį £ +å·¦ ä¾§ +åħĭ æĭī +æīĵ åį¡ +ç§ij æ¯Ķ +æ±ĩ éĽĨ +åľ°çIJĨ ä½įç½® +è¯Ħ å§Ķ +ç»ĵåIJĪ èµ·æĿ¥ +è¿Ľåħ¥ åΰ +åı¯ è¡Į +åı¯è¡Į æĢ§ +让 å®ĥ +åĪ¶åº¦ æĶ¹éĿ© +çĶĺèĤĥ çľģ +åĵ Ĺ +åģı åģı +è¡£ çī© +ç¥Ŀ è´º +æºIJ èĩª +å¹¶ä¸į 代表 +åĽ½ 度 +好 åĿı +æĿ ĸ +æĿŃ å·ŀå¸Ĥ +湿 度 +é² ¸ +åįļ 彩 +æ³° å±± +æĿij èIJ½ +æĸ° èģŀ +èĤ ĭ +åı¤èĢģ çļĦ +çļĦ ç§ĺå¯Ĩ +ä¸Ģ个 éĹ®é¢ĺ +éģı åζ +åįĥ 亿 +è¿ĩ 硬 +å°Ħ åĩ» +èĩªçĦ¶ æĺ¯ +产 åĮº +çĤ¹ çĤ¹å¤´ +åı¯ä»¥ 帮åĬ© +说 å®ŀ +说å®ŀ è¯Ŀ +æĪij åıªæĺ¯ +ä¹ĭ ä½Ļ +åIJĮæĹ¶ ä¹Łæĺ¯ +ä¸ŃåĽ½ éĺŁ +建æĪIJ åIJİ +ä¹IJ è§Ĩ +åij¨ å²ģ +èᝠåºĹ +éĩij åįİ +严éĩį å½±åĵį +è´¨ åľ° +æĹħ éģĬ +åħµ åύ +æķĻèĤ² æķĻåѦ +离 åİ» +åIJĦå¼ı åIJĦæł· +ä»ĭ ç´ +ä»ĭç´ ¹ +å¼Ģ 头 +å°Ĩ èĩªå·±çļĦ +åIJ¬ åĬĽ +ä¿¡æģ¯ ç³»ç»Ł +ä»İ æł¹æľ¬ +ä»İæł¹æľ¬ ä¸Ĭ +æİĮ 声 +欢 åĸľ +å±ķ åĮº +åķ ¸ +太å¤ļ äºĨ +éĹ² ç½® +èĥ¡ èIJĿåįľ +å§Ķ å®£ä¼ł +å§Ķå®£ä¼ł éĥ¨ +åįĹ éĺ³ +å·ŀ åĮº +ä¸İ æĹ¶ +ä¸İæĹ¶ 俱 +ä¸İæĹ¶ä¿± è¿Ľ +å«Įçĸij 人 +èī¯ å¿ĥ +头 é¡¶ +è´¢ æĬ¥ +ä½Ľ æ³ķ +å¾ µ +åİŁ ä»¶ +åĭ ŀ +çĶ· 篮 +å¤ĸåĽ½ 人 +è¿Ŀ 纪 +æī¾ äºĨ +æįķ æįī +缸 è¯Ĩ +æIJľ éĽĨ +çļĦ ä¼Łå¤§ +ä¸ī ç»´ +å°±è¡Į äºĨ +çĭIJ æľĪ +çĭIJæľĪ å±± +å¸ĮæľĽ éĢļè¿ĩ +èĢĮ 对äºİ +éĿ¢ å°į +åĨĽ åĽ¢ +è¡Ĺ åĮº +æĤ¬ æĮĤ +便 ç§ĺ +æľīä¸Ģ çĤ¹ +ä¼ļè®® ä¸Ĭ +ä¸ĭ æīĭ +廣 åijĬ +äºĶ è¡Į +çŃī åĢĻ +ç´§ç´§ åĽ´ç»ķ +æĭ¿ äºĨ +æ¡Į éĿ¢ +ç¥ŀ æĥħ +éĽĦ åİļ +çŀ ³ +楼 ä¸ĭ +å½ ª +äºĭ åıij +åĨį è§ģ +é¤ ĺ +é¢Ħ åĶ® +åİ» çľĭçľĭ +æĪij们 åºĶ该 +ä¸ī å®¶ +æµ Ĭ +ä¹IJ éĺŁ +çľĭ ä¸įè§ģ +èĦij åŃIJ +æĮģ æľīçļĦ +çϽ èıľ +éĹª çĥģ +åĸĿ æ°´ +æİ§åζ ç³»ç»Ł +ä¸ĵ åĮº +æľĿ å»· +æĪij å¿ĥéĩĮ +å±ķ åİħ +èľĺ èĽĽ +åĨ» ç»ĵ +ç² ª +åº IJ +åIJij 社ä¼ļ +åĨ³çŃĸ éĥ¨ç½² +çŁŃ æľŁåĨħ +æĸ° ä¸ļæĢģ +æľ Ķ +æĹ¶ æĬ¥ +使 ä¹ĭ +åĽł åŃIJ +åıĤä¸İ èĢħ +çļĦ 年轻人 +æīĭ 表 +å°ģ éĶģ +为ä»Ģä¹Ī ä¸į +åIJ¸ çĥŁ +æ¯Ĵ ç´ł +åĪij æ³ķ +磫 æŃ£ +身 æĹģ +åİŁ è°ħ +çĽij æĬ¤ +æŃ¤ å¤Ħ +éļ¨ æĻĤ +æŀľ å®ŀ +åĮ»çĸĹ æľįåĬ¡ +ä¸į åIJĪçIJĨ +æIJŀ 好 +çļĦ èĦļæŃ¥ +å¤ĸ å¥Ĺ +ç¶ĵ éģİ +æĶ¾ ç¼ĵ +åģľ çķĻ +æĺŁ çIJĥ +çļĦä¸Ģ éĿ¢ +åĩł ä½ķ +è½® åĽŀ +æ¯Ľ å·¾ +ä¿® çIJĨ +ä¸įçŁ¥ ä¸į +ä¸įçŁ¥ä¸į è§ī +æķ´ 个人 +æ¯ģ çģŃ +åı° å·ŀ +使ç͍ 寿åij½ +é»ij çϽ +æij¸ ç´¢ +é¼ł æłĩ +éĿ© æĸ° +éº µ +ä¸ĵéŨ 为 +å¾Īå¤ļ æľĭåıĭ +å·¥ä½ľ ç»Ħ +åIJĪ å½± +çĤº ä»Ģ麼 +æŀģ 度 +çļĦ è¿ĽæŃ¥ +å½ĵ ä¹ĭ +å½ĵä¹ĭ æĹł +å½ĵä¹ĭæĹł æĦ§ +è´´ è¿ij +å°º 度 +åľ¨ çİ°åľº +éĻį 临 +åħ»èĢģ éĩij +ç£ ķ +åı¯ä»¥ 使 +管çIJĨ æ°´å¹³ +æľ¬æĬ¥ è®°èĢħ +æ³ķ 令 +åį¡ è½¦ +举 æµ· +å¤ļ éĩį +åħ¶ éĹ´ +ç´ Ļ +éĩį大 é¡¹çĽ® +æ±Ĺ æ°´ +ç»Ħ å§Ķä¼ļ +ä¿¡æģ¯ åħ¬å¼Ģ +ä¸į论 æĺ¯ +ä¸Ģ åIJ¬ +èĴ¸ æ±½ +æıŃ ç§ĺ +è¶ħ éģİ +触 åıij +å© ¦ +åħ³èģĶ äº¤æĺĵ +å°± ç»Ļ大家 +好 ä¹ħ +åĢŁ è´· +游æĪı è§Ĵèī² +å¼ĢåIJ¯ äºĨ +æİ ł +åħļçļĦ åįģä¹Ŀ +ä¸ĭ 鼨 +çŁŃ æĹ¶éĹ´åĨħ +å¯ ħ +导 åħ¥ +å·¥ä½ľ ç»ıéªĮ +ä¹Ł åıªèĥ½ +鼷 éľĨ +è·Ł è¿Ľ +åį¡ éĢļ +é¢ĩ æľī +æľº ä½ĵ +æĪĺ士 èģĮä¸ļ +女 主 +ä½ĵåζ æľºåζ +è¶³ åįı +èĪĴéĢĤ çļĦ +åĢŁ åı£ +æī¹ åΤ +æķ° å̼ +è« ¾ +éĺ¿æĭī 伯 +åĺ İ +æħ ¶ +è¾¾ 人 +å¼Ģ æ°´ +大 鼨 +温 室 +ä½İ è¿· +ä»į æĹ§ +éªĹ åŃIJ +亲 å±ŀ +çIJĨ æĻº +æľ¬ åŁºéĩij +å¨ ħ +åĨĻåŃĹ æ¥¼ +å¢Ļ å£ģ +å® µ +èϽ çĦ¶æĺ¯ +顺 çĿĢ +åħ« åᦠ+åķĨ ç͍ +ä¸į 失 +è¿· èĮ« +顺 便 +æļij æľŁ +欺 è´Ł +é¢ij é¢ij +该 æł¡ +æĸĻ çIJĨ +æ·± æĥħ +åīį éĶĭ +ä¿Ŀ èŃī +èģĮä¸ļ çĶŁæ¶¯ +åħ¬ å¼Ģåıij +åħ¬å¼Ģåıij è¡Į +åħ¥ æĪ· +éł ĵ +å̾ åIJ¬ +éŃ ģ +æĦī æĤ¦ +åĽŀ åIJĪ +åħ¨åĬĽ 以 +åħ¨åĬĽä»¥ èµ´ +åĥ¹ å̼ +èĥ½åĬĽ 强 +ç»ı å¼Ģ +ç»ıå¼Ģ åĮº +è¿ľ æĸ¹ +çļĦ éģĵçIJĨ +缴 åįĩ +缴åįĩ æľº +为主é¢ĺ çļĦ +ç»Ļ æĤ¨ +è¿ĺ æĥ³ +æ¯Ķ æĪij +åĨľ çī§ +æµ· åºķ +çŃ¾è®¢ äºĨ +对äºİ æĪij们 +æĹ¶ 许 +éĶ® çĽĺ +å®ŀéĻħ æİ§åζ +çļĦ æ¨¡æł· +åıįæĺł äºĨ +代 åĬŀ +åĮ» ç͍ +éĽĨ ç»ĵ +åıijå±ķ åīįæĻ¯ +æĮĩ çĿĢ +åįİ åĮĹ +è¿Ļ åĩłä¸ª +åIJį æ°Ķ +åĤį æĻļ +èĩª åıij +æ³¢ åħ° +大åĬĽ æİ¨è¿Ľ +èĩª ç§° +èįĨ å·ŀ +æIJį 害 +äºĨä¸Ģ åı¥ +æľĢåĪĿ çļĦ +éĩijèŀį å᱿ľº +æĢĢ å¿µ +è¡Į åĭķ +女 æİĴ +ä¸į è§£ +ä¼ł éĶĢ +转载 请 +饰 åĵģ +åıª 为 +ä¸İ ä¼Ĺ +ä¸İä¼Ĺ ä¸įåIJĮ +èĥ½ èĢĹ +èı© æıIJ +è¿ij 两年 +è¿Ķ 乡 +马ä¸Ĭ å°± +äºĮ çŃīå¥ĸ +æ°´ 管 +æ³ķ åѦ +çģŃ çģ« +大 å§IJ +åij¨ 转 +æľī æľŁ +æľīæľŁ å¾Ĵ +æľīæľŁå¾Ĵ åĪij +å°į æĸ¹ +ç¥ŀ èī² +æ²¹ èĦĤ +ä¸ī çĤ¹ +ä¸į åĪ©äºİ +äºĭä¸ļ éĥ¨ +å°± è·Ł +å¼Ģ æĶ¯ +å°ı 女åŃ© +åħ±åIJĮ åĬªåĬĽ +çĶļèĩ³ è¿ĺ +è¿Ļ åIJį +è¿Ļ ç¬Ķ +çݯ åį« +æľī ç§į +è§Ĩ åĬĽ +çĨŁ çŁ¥ +åħ¬ç§¯ éĩij +æ¶Īéĺ² å®īåħ¨ +é¢ĩ 为 +大 èħ¿ +éĿ ¶ +çī¹ æķĪ +æľįåĬ¡ åĮº +å¼Ģ åĩº +深度 èŀįåIJĪ +æĹł å¿§ +æŁ¥ éĺħ +ç»Ī ç»ĵ +ä¿Ŀ ç¨İ +è¨İ è«ĸ +å½ĵ åģļ +è·³ èĪŀ +å¯ § +女 çİĭ +è®°èĢħ åľ¨ +åħ¨ 产ä¸ļéĵ¾ +è´¯ éĢļ +åħ´ ä¸ļ +éĻį åΰ +å°ģ éĿ¢ +åħ¨éĿ¢ æİ¨è¿Ľ +奶 èĮ¶ +éĢī åĿĢ +äºĨä¸Ģ åľº +åIJĮ ä¼´ +è®® 论 +æIJ ĵ +诸 èijĽ +诸èijĽ 亮 +å¹² åĺĽ +æµģ æĦŁ +ä¸ĵä¸ļ çŁ¥è¯Ĩ +ç͵ ç«Ļ +åĩı å¼± +åĩº åħ¥ +åIJĦ çľģ +éĿŀ常 é«ĺ +åľ° 毯 +åıij æĸĩ +çĦ ī +çĥ§ çĥ¤ +å£ģ 纸 +æģ¶ åĮĸ +èĬ ¸ +èĥĸ åŃIJ +çĩ Ĵ +çľģ éĴ± +çϾ 强 +çIJĨå·¥ 大åѦ +éĴ¢ æĿIJ +åĽ½æľī èµĦ产 +æĪĺ æľº +æ³Ħ éľ² +åIJİéĿ¢ çļĦ +æ°´ èµĦæºIJ +æ¢ħ èĬ± +åĨĻ çĿĢ +ä¹ĭ 声 +æĹł åı¯ +æĺİ æľĿ +ç«ĭæĸ¹ ç±³ +ç· £ +æĶ¾ è¿ĩ +ç¦ı çͰ +å¾Ĺ ä½ı +åıĹ ä¼Ĺ +ä¸Ń 级 +çĹħ åıĺ +ä¸Ģ çŀ¬éĹ´ +æĿĥ éĩį +人æĢ§ åĮĸ +åĮ»çĸĹ åį«çĶŁ +ä¸įåΰ ä½į +æĻºèĥ½ å®¶å±ħ +饮 ç͍ +æ¼Ķ åıĺ +é«ĺ ç´łè´¨ +ä¹Ļ æĸ¹ +åģľ çķĻåľ¨ +èİ· æī¹ +ç©¿ æ¢Ń +客 åľº +æĮ½ åĽŀ +京 åŁİ +çĶŁåij½ åĬĽ +實 éļĽ +çĩ Ī +åĨį çݰ +çݰå®ŀ ä¸Ń +æľī ä¿¡å¿ĥ +çĸı éĢļ +åĺ´ åĶĩ +鼷 éĶĭ +èıľ åįķ +éħ ¯ +è¶ħ é«ĺ +å¾Ī é«ĺåħ´ +çĶŁ æ®ĸ +éĢł ä»· +误 åĮº +æĨ ĭ +好 æ¶Īæģ¯ +å´ Ń +以 èĩ´ +å¼Ģ çİ©ç¬ij +çĽij è§Ĩ +å·¡ å¯Ł +å¾· å·ŀ +æĹ© æĹ© +éĹª ç͵ +æĪª åĽ¾ +åı¯ä»¥ æł¹æį® +æīĭ èīº +æİ¥ 轨 +ç§į æĹı +æĢĢ éĩĮ +åİ» åĮ»éĻ¢ +ä¸Ģ äºĮ +å¼Ģ éĺĶ +åĩı éĢŁ +ä½Ĩ ä»İ +éĢĻ ä¸Ģ +åĩı åħį +主é¢ĺ æķĻèĤ² +å¼Ģå·¥ 建设 +è¹ ¦ +æľĪ 饼 +ä¸ĭ æ²ī +å°Ĭ 严 +éĻ ĩ +å®ŀ æľ¨ +å»ł åķĨ +声 ç§° +èĢĥ åľº +å¸ĥ é²ģ +èĩª æĿ¥ +èĩªæĿ¥ æ°´ +éĴ ¾ +å¹´ 以ä¸Ĭ +大 åıĶ +ä»ĸ å·²ç»ı +åħ¨ æĿij +èģĶç³» ç͵è¯Ŀ +为 导åIJij +åΤ å¤Ħ +对 éĺµ +缮 æ¨Ļ +åIJį é¢Ŀ +客 æ°Ķ +横 åIJij +çŃī åĨħ容 +åĩł çĤ¹ +è°Ī 论 +ä¸į ä¹ı +å±ķ çݰåĩº +è¾ĥ éķ¿ +éĢĨ 转 +å°ı æĻĤ +æĺ¯ å¤ļä¹Ī +æľ¬ æľĪ +è¿ij è§Ĩ +æĪIJç«ĭ 以æĿ¥ +代表 çĿĢ +æĬ¥ å¤į +æĪı æĽ² +è¨Ń åĤĻ +åħ¥ èĤ¡ +å¾ģ æľį +é«ĺ åĩº +èĪŀåı° ä¸Ĭ +å¿ĥ åĬ¨ +两 çĤ¹ +缸 çķ¶ +èĻ Ľ +主 页 +åĩł å®¶ +æĹł ä¸į +åįı å®ļ +æĸ IJ +å¯ĵ æĦı +åħ¨ 线 +æįķ é±¼ +åı¯ä»¥ ä»İ +æľī è¿Ļæł·çļĦ +æģ¶ éŃĶ +åĮħ åŃIJ +æģ ¤ +å¼Ģå¥ĸ ç»ĵæŀľ +ä¸į æŃ» +èĹ į +弯 æĽ² +æµ· 峡 +éĶĢ æ¯ģ +çļĦ çĭ¬çī¹ +示 æĦı +ä¸įèĥ½ åĨį +èĥ½ æĬĬ +éĺ² çº¿ +ä¸įå°ij äºİ +æ± Ģ +çļĦ éĤ£ä¸Ģ +羣 æĥħ +åŀ ® +被 æīĵ +åĽ½ å®ī +ç¾İ å¦Ļ +è¿Ļ åĩł +åĩº éģĵ +æľįåĬ¡ äºİ +æĪIJæŀľ 转åĮĸ +æīį åįİ +天 é¹ħ +åĩł 个人 +åĢĺ èĭ¥ +è̽ 误 +æĬĹ æĪĺ +è¡Į éĬ· +æĿ¥ è¢Ń +åĢŁ éĮ¢ +èįī èİĵ +ä¸¥æł¼ æī§è¡Į +举è¡Į äºĨ +å¤ĸ ç±į +å·² è¾¾ +æĿij åħļæĶ¯éĥ¨ +è¡ Ŀ +éĻį èĩ³ +æµ· éĩı +é¤IJ é¦Ĩ +æĢ¥ å¿Ļ +æ·± è¿ľ +å¾Ģ è¿Ķ +ç¨İåĬ¡ å±Ģ +å¹¿æ³Ľ åºĶç͍ +è®® åijĺ +æĹł æķĮ +çľ¼ åħī +çĥŃè¡Ģ ä¼łå¥ĩ +æŃ IJ +äºĨ äºĽ +è¿Ŀ èĥĮ +è¿Ļ æĺ¯ä¸Ģç§į +ä¸į 稳å®ļ +大家 åĪĨ享 +表 çı¾ +åīį åįģ +è·¯ è¿ĩ +æĴ © +åIJĮ æĥħ +ä¹ł ä¿Ĺ +åıij è´¢ +åºĶ æľīçļĦ +æĿİ æŁIJ +èĤ Ľ +马 åħĭ +éĢļ åijĬ +å·¨ 人 +ä¸Ģ åĽ¢ +éĢĻ æ¬¡ +ä¸į äºĨè§£ +æĸ½ è¡Į +èij¡èIJĦ çīĻ +åıĺå¾Ĺ æĽ´åĬł +æı £ +åĪĽæĸ° èĥ½åĬĽ +çķħ éĶĢ +表 æī¬ +æ¯Ķ åĪ© +æ¯ĶåĪ© æĹ¶ +åĮ»çĸĹ ä¿ĿéĻ© +æĵį 纵 +伤 亡 +æµİ å®ģ +åıĺ äºĨ +æľ¬æ¬¡ æ´»åĬ¨ +åľŁ 豪 +æĥ³ åĬŀæ³ķ +æĺ ķ +å½ĵ æĻļ +åĩº å±Ģ +çĥŃ è®® +è°Ī è°Ī +æĻĭ åįĩ +åĬ¿ å¿ħ +çĻ» å±± +éĤ£ åĦ¿ +åIJĥ åΰ +ä¹ĭ åŁİ +å¿« æĿ¥ +æ¹Ľ æ±Ł +第ä¸ī 个 +åħ¨éĿ¢ æıIJåįĩ +å¥ĸ åѦ +å¥ĸåѦ éĩij +æĬķåħ¥ 使ç͍ +é½IJ é²ģ +åı¯ä»¥ æĬĬ +åĴĮ ä»ĸçļĦ +è´ŃæĪ¿ èĢħ +æŃ£å¼ı åIJ¯åĬ¨ +åįİ æ¶¦ +ä¸įæĸŃ å®ĮåĸĦ +éĴ¢ æĿ¿ +ç´¯ 积 +满 èĦ¸ +åĽĽ æĸ¹ +è´¢ çī© +ä»ĸ们 ä¼ļ +å¤ı æĹ¥ +éĤ£ 个人 +éĿł çĿĢ +çĤ¹ äºĨ +çĤ¹äºĨ çĤ¹å¤´ +æ© ĭ +åıΠ好 +åıĪ好 åıĪ +åıĪ好åıĪ å¿« +éĺµ éĺµ +å°ģ 建 +æľ¬ çͰ +çī©ä¸ļ æľįåĬ¡ +èĩªè´¸ åĮº +åIJ ı +便åĪ© åºĹ +åĽ½å®¶ æłĩåĩĨ +éĿ¢ ç²ī +èī° è¾Ľ +æĶ» åħ³ +æīĵ åĮħ +车 éĺŁ +人 éĢī +åı¯ ä¸įæĺ¯ +äºĮ åįģå¹´ +åIJį å¸Ī +浦 举 +åħ¬ è¯ģ +è¿IJ éĢģ +æĺ¯ æľĢ好çļĦ +æŁĶ åĴĮ +çİĭ æŁIJ +çĹħ æĪ¿ +åĨ¶ éĩij +ä¸Ģä»¶ äºĭæĥħ +åį ¤ +åı¯ æİ§ +çī Ł +æĭ Ĥ +å·² äºİ +人 éĢł +çĶŁçī© åĮ»èᝠ+ä½ĵ çݰåĩº +èĤ² åĦ¿ +èĢģ å®ŀ +åľĸ çīĩ +è« ¸ +ç´¯ äºĨ +æĦŁåħ´è¶£ çļĦ +åĽ¾çīĩ æĿ¥æºIJ +ä¹Ł æĺ¯ä¸Ģç§į +æ¾İæ¹ĥ æĸ°éĹ» +æĹ¶ 表示 +åħī è¾ī +æĬ¥ åºŁ +å²ģ æĹ¶ +éħ ® +æ£Ģ ä¿® +åıĺ éĢŁ +åıĺéĢŁ ç®± +åľ¨ èģĮ +éı ¡ +æį Ĥ +çĿ£ åĬŀ +æ°¸ ä¸į +åģļ ä¸ĢäºĽ +åİĨ æĹ¶ +å·¥ç¨ĭ æľºæ¢° +æģ° å½ĵ +å°± åľ¨äºİ +ç§° åij¼ +éĢļ常 æĺ¯ +æł· å¼ı +åij¨ ä¸Ģ +èĭ± éķij +åĿĩ 线 +ä¼ł éĹ» +ç͍æĪ· ä½ĵéªĮ +èµŀ åIJĮ +骨 æĬĺ +为主 ä½ĵ +æ±Ł å±± +æ¸ħ æľĿ +æĶĢ åįĩ +ä¸į çĽ¸ä¿¡ +éĿ ´ +æŃ¦ åĬŁ +åĭ¤ åĬ³ +æĿ¥ æī¾ +å°Ĩ æĮģç»Ń +丫 头 +æ¨Ļ æºĸ +è£ ´ +深深 çļĦ +åŃķ èĤ² +è§ĦåĪĴ 建设 +æ¸ħ çν +ç²¾åĩĨ æī¶è´« +æīĵçł´ äºĨ +è¿Ļä¸Ģ 天 +å·¥ä½ľ æĢ»ç»ĵ +æĹħ ç¨ĭ +举 èIJ¥ +æĶ¾ å°Ħ +æľī åĩłä¸ª +éĿŀ çī©è´¨ +åIJĥ å¾Ĺ +åĹ ¨ +ä¼ļ åıijçĶŁ +篮 æĿ¿ +å¼Ģ å°ģ +麻 å°Ĩ +èıı æ³½ +ä¸į åIJĪ +ç³»åĪĹ äº§åĵģ +èѬ å¦Ĥ +ç¾İ èªī +èĩªå·± åĸľæ¬¢ +交æĺĵ ä¸Ńå¿ĥ +åIJĪ åͱ +使 æĪij +åĥı ç´ł +带 éĺŁ +ä½Ĩ 对äºİ +æĬĬ è¿Ļ个 +èĤĿ èĦı +åįķ纯 çļĦ +æĶ»åĿļ æĪĺ +缼 ä¼ļ +åijµ æĬ¤ +æª Ģ +èµ¶ ä¸Ĭ +æ¥ Ĭ +ä¹ħ äºĨ +ç¡ Ŀ +çŃĶ é¢ĺ +ä¿ĿæĮģ çĿĢ +è§ģ è¯Ĩ +çĤ¹ åĦ¿ +åįĬ 个æľĪ +æ» ĩ +浸 泡 +ä¼ł éĢģ +åľ¨ å¸Ĥåľºä¸Ĭ +ä¹ĭ 乡 +çī¹ éķ¿ +éĽ ŀ +èª ł +身 å¤Ħ +æŁł 檬 +身 ç©¿ +çľģ åħ¬å®ī +çľģåħ¬å®ī åİħ +åıĻ åĪ©äºļ +åĩł åĪĨéĴŁ +人 åĢij +åľ° 段 +èĩª åѦ +ä¹Ł è¶ĬæĿ¥è¶Ĭ +èģĮ æĿĥ +æĸ § +èĩ » +å½Ĵ 纳 +驾 é©Ń +éĥ¨åĪĨ åľ°åĮº +没æľī æĥ³åΰ +æĴ ĩ +ä¹Į é²ģ +ä¹Įé²ģ æľ¨ +ä¹Įé²ģæľ¨ é½IJ +èĤ² 人 +çļĦ æŃ¥ä¼IJ +å»¶ æľŁ +æ²¹ æ°Ķ +åģļ å®Į +åľ£ åľ° +丰 åİļ +宽 带 +åı¯éĿł çļĦ +åºŃ éĻ¢ +åŃ ľ +å°ı康 社ä¼ļ +å®īåħ¨ 管çIJĨ +å¹´ 第 +æİĴ 污 +èĥĮ åĮħ +å®¶ ä½ı +åħ¶å®ŀ å°±æĺ¯ +ä¼ļ è§ģ +帮åĬ© ä¼ģä¸ļ +ç½ij è´Ń +æĺ¯ ä¸įä¼ļ +飯 åºĹ +æŃ» åİ» +åħįçĸ« åĬĽ +æľ ķ +åĸĿ äºĨ +è½» å¾® +个æľĪ åĨħ +ç»Ħ åĽ¢ +åĴĮ å®ĮåĸĦ +é¸ ½ +æıIJ éĢŁ +西å®ī å¸Ĥ +ä¸Ńå¿ĥ 主任 +æĹ¶éĹ´ 为 +æľŁ æĿĥ +è¶ ķ +ä¸įä»ħ è¦ģ +æľį ä»İ +é¡ĺ æĦı +ä¸į å°ı +ä¸įå°ı çļĦ +ç° ĩ +çª ¦ +åĪĩ æĪIJ +åĵĪ åĪ© +天 羣 +ä¸Ģ次 次 +éĩij å¸ģ +æĢİä¹Ī èĥ½ +ç½ij è´· +ä¼ļ计 å¸Ī +çŁŃ 缺 +对 æłĩ +åıĺå¾Ĺ æĽ´ +åīį åĩłå¤© +éĺ² æ±Ľ +彩 èϹ +åĵģ ä½į +表 æł¼ +严 å¯Ĩ +æ¯Ľ åĪ©çİĩ +çļĦ åį±å®³ +å½ķ åζ +æ°´ åĬ¡ +èĥ½å¤Ł 让 +å¹³ æĿ¿ +ä¹³ æĪ¿ +è¸ı å®ŀ +é¦ĸ åĪĽ +é¦Ļ èķī +æĬ¥ 表 +ä¸Ģ æĬ¹ +åĩºçĶŁ äºİ +è²» ç͍ +åĩº 让 +åIJĪæ³ķ æĢ§ +å°¼ åħĭ +åĨ° åĨ· +é¦Ļ æ°Ķ +åı· ç§° +èµ· çłģ +åŁİ åİ¿ +çİ© èĢį +ä¸Ĭ éĻIJ +ä¼ļè®® ç²¾ç¥ŀ +æĹģè¾¹ çļĦ +便 ä¼ļ +æıŃ æĻĵ +çİ© æĦı +éĽª å±± +åIJij çĿĢ +ä½ĵèĤ² åľ¨çº¿ +说æĺİ ä¹¦ +åĮĸ èĤ¥ +åħļç»Ħ 书记 +åĬ¨ 人 +ä¹ĭ æīĢ +æľĪ èĩ³ +æľĢå¿« çļĦ +èĬĤ åģĩæĹ¥ +ä¸ĵ åľº +èĢĥ ä¸Ĭ +çª Ł +é²ľ è¡Ģ +è¾ĥ强 çļĦ +æĤĦ çĦ¶ +å¤ļ个 åĽ½å®¶ +çªĹ å¸ĺ +æŀģ å¤§åľ° +ä¸įç͍ æĭħå¿ĥ +è¿Ļä¹Ī åģļ +åĥ¹ æł¼ +ç¾İ丽 乡æĿij +å°ıæĹ¶ åĨħ +ç´§ è¿« +大 çģ« +èĥ³ èĨĬ +æĵįä½ľ ç³»ç»Ł +æ®ĭ çķĻ +åĨĻ åĩº +ç¦ģ å¿Į +åĬłçĽŁ åºĹ +è¿ij çϾ +便 åı¯ +æķ´æĶ¹ æİªæĸ½ +éĩĩ访 æĹ¶ +åĶIJ 代 +æ·±åĮĸ æĶ¹éĿ© +çŁ ¢ +éĥ½ åĸľæ¬¢ +è¶ĬæĿ¥è¶Ĭ é«ĺ +èĬ± æľµ +头 çĸ¼ +å®ī 康 +å¢ŀéķ¿ çİĩ +çľ¼ çľĭ +å°±æĺ¯ 为äºĨ +èĢĮ 导èĩ´ +åĬłå¿« 建设 +èĬ± æł· +åĨħå¿ĥ çļĦ +æĺĨ å±± +è³ĩ æºIJ +åĽŀåΰ å®¶ +èıĬ èĬ± +æ°´ éĩı +å¾ģ ä¿¡ +è¡ĮæĶ¿ åĮº +ä¹ĥ æĺ¯ +æĬķèµĦ é¡¹çĽ® +å«ģ ç»Ļ +ç¥ŀ åľ£ +ç¨ ł +æľ¬æĿ¥ å°± +éĢIJ ä¸Ģ +èģĮä¸ļ æĬĢæľ¯ +ä¸įèī¯ ä¿¡æģ¯ +æīĺ è¿IJ +åIJ¯ 示 +ä¹ĭ åħ§å®¹ +éŁ ¶ +奢 åįİ +æıŃ ç¤º +æĪIJ为 ä¸ŃåĽ½ +æ¶Īè´¹ åĵģ +åħ¬ ç͍ +æIJŀ å®ļ +请 ä½ł +æŁ ļ +åĨħ è¡£ +ä½Ĩ ä»ĸ们 +ä¿Ŀ 湿 +该 åİ¿ +饱 åĴĮ +æİ¨ åIJij +èµĦæĸĻ æĺ¾ç¤º +ä¸į å½±åĵį +人 人éĥ½ +åıijå±ķ 壮大 +åħ»èĢģ æľįåĬ¡ +çĶŁæ´» æ°´å¹³ +åIJĦ åİ¿ +ä½ł éľĢè¦ģ +说 çļĦæĺ¯ +å¤ĸ åªĴ +æŃ¤ 人 +次 è¦ģ +追 èµ¶ +åºĶ该 å¦Ĥä½ķ +æĹ¥ åĩĮæĻ¨ +çķ¥ æľī +éĥ½ æĥ³ +游 ä¹IJ +è¿Ļ款 游æĪı +å¹³ æ·¡ +æĺ¯ä¸Ģ åĢĭ +å¤ĩ èĢĥ +åζ æŃ¢ +ä¸Ģå®ļ èĥ½ +å¾Ĵ å¼Ł +以 çĤº +åįĥ åħĥ +äºĶ åħŃ +迪 士 +迪士 å°¼ +éĺ³ æĢ§ +åĨ¬å¥¥ ä¼ļ +å°±æĺ¯ åĽłä¸º +æĮĤ éĴ© +æ¦Ĥ åĨµ +åıªè¦ģ æľī +æ²¹ çĶ» +åľ° æłĩ +ä¸Ĭ è°ĥ +产ä¸ļ åĽŃåĮº +åħ« åįģ +æ£ ± +æ¶² æĻ¶ +æĿij å§Ķä¼ļ +çŃ¾çº¦ 仪å¼ı +è¿Ļ åħ¶ä¸Ń +åĨĻ éģĵ +示èĮĥ åŁºåľ° +éĩİçĶŁ åĬ¨çī© +鼻åŃIJ ä¿¡ç®± +åĽ½éĻħ è´¸æĺĵ +人 æĿĥ +ä¿Ŀ 管 +èĭ¥ æĤ¨ +åİĭ æĬij +é» Ľ +åľ° çľĭçĿĢ +éĻ ° +ä¸Ģå¹´ å¤ļ +ä»İ 容 +ä¸Ń æĸŃ +å¯Ł è§ī +ç§» 交 +éĶ ¯ +æĪĸ许 æĺ¯ +ç¶ ł +两 项 +æľĢ åĸľæ¬¢ +æľĢåĸľæ¬¢ çļĦ +å¤ľ éĩĮ +åIJĮ ä»ģ +åĪĽæĸ° 驱åĬ¨ +è°ģ èĥ½ +é£ ¾ +åħī åѦ +åİ Ħ +èĦ± é¢ĸ +èĦ±é¢ĸ èĢĮåĩº +è¿ ¦ +æĺ¯ ä¸įåı¯èĥ½ +çª ¥ +èĥ½ 满足 +宽 度 +伦 çIJĨ +åı¯ä»¥ èİ·å¾Ĺ +转 ä¼ļ +å±± æĿij +éĵº 设 +åĩº åĩ» +æĸĩåĮĸ èīºæľ¯ +ä¼ļè®® 室 +æŃĮ 声 +æ» Ķ +èIJİ ç¼© +æľįåĬ¡ åijĺ +åıij表 äºĨ +æĸ¼ æĺ¯ +æĺİç¡® è§Ħå®ļ +ç»´ å¥ĩ +æ°´ 产 +æĬķ ä¿Ŀ +éĺ´ éģĵ +èµ¶ å¿« +夺 å¾Ĺ +ä¸ĭ åįķ +çµģ åħ¬åı¸ +çݯ ç»ķ +å½ Ī +ä½ľé£İ 建设 +æĹħ游 æĻ¯åĮº +æľī æĽ´å¤ļçļĦ +丰å¯Į å¤ļ彩 +çIJĨè´¢ 产åĵģ +åĩº å·® +ä»İ严 æ²» +ä»İ严治 åħļ +缸 å¹² +æ»ĭ 润 +主åĬŀ æĸ¹ +åī§ åľº +æ»ļ çIJĥ +æ©Ħ æ¦Ħ +èĩªä¸» åĪĽæĸ° +éĢļ å¾Ģ +æł¼ å°Ķ +çļĦ ä¼ĺçĤ¹ +èĥĮ ä¸Ĭ +çª ľ +çĪĨ åĩº +å¹³ æķ´ +ä¸Ģ èĦļ +åħ¨ä½ĵ åijĺå·¥ +éĻIJ å®ļ +åŁİéķĩ åĮĸ +æ· ³ +éĢ® æįķ +è¡ĮåĬ¨ 计åĪĴ +æīĵ å¾Ĺ +åİļ éĩį +纪å½ķ çīĩ +åĿļ ä¿¡ +央 ä¼ģ +åĨį ä¹Łä¸į +天 涯 +åıĤèĢĥ èµĦæĸĻ +æľī æ¯Ĵ +åIJ¸ 纳 +è¶Ĭ åıij +éĩįè¦ģ æĦıä¹ī +åĽ½éĺ² éĥ¨ +è¿Ļ个 è¡Įä¸ļ +æĻ® æŁ¥ +å¼Ĥ æĢ§ +å»¶ è¿Ł +å°ı å¹ħ +èī² æĥħ +综åIJĪ æ²»çIJĨ +æŃ£æĺ¯ åĽłä¸º +产ä¸ļ ç»ĵæŀĦ +çłĶç©¶ æĬ¥åijĬ +åģľ ä¸ĭ +éķ¿ èĢģ +éĩĿ å°į +åįĹ京 å¸Ĥ +çģĮ æºī +转 è¿IJ +欺 è¯Ī +éĢł åģĩ +åĪĨå¸ĥ å¼ı +æĦŁ è§¦ +æĪij å½ĵæĹ¶ +åıij è§ī +åĽ¾ 纸 +æĶ¹ èī¯ +çĭł çĭł +åĨ² åĪº +æĸ° 京 +æĸ°äº¬ æĬ¥ +ç¥ŀ åύ +秸 ç§Ĩ +çĪ º +å°Ĩ è¿İæĿ¥ +å·¥ ä¿¡ +工信 éĥ¨ +éĻIJ éĩı +æŃ¢ æįŁ +åѦä¼ļ äºĨ +åįİ çĽĽ +åįİ缼 é¡¿ +å¾Į ä¾Ĩ +ä¸ĭéĿ¢ æĺ¯ +ä¸ĭéĿ¢æĺ¯ å°ı +æIJ¬ è¿IJ +ç¾İæľ¯ é¦Ĩ +æ¸ħ åĩī +å¤ļå¹´ åīį +è© ŀ +åįĥ ç±³ +表 è¿° +æ±Ł éŨ +åĬłæ²¹ ç«Ļ +æľ¬ èĥ½ +导 读 +åĽ´ è§Ĥ +å¹¶ åIJij +åŁºæľ¬ æĥħåĨµ +æīĵ å¼ĢäºĨ +è¿Ļ ä¸ī个 +æ±ķ 头 +强 æľīåĬĽ +强æľīåĬĽ çļĦ +è¿Ľ åľº +ä¹Ŀ æ±Ł +çIJĥ æĺŁ +好çľĭ çļĦ +大 æĪ· +æ¹ ¯ +å¥ĩ å¦Ļ +ä¹IJ åύ +æĪijçļĦ å¿ĥ +çľī 头 +åĨľä¸ļ çĶŁäº§ +ç¼ĸ çłģ +åŁº ç¤ +åŁºç¤ İ +天 æĸĩ +åĢĭ人 è³ĩè¨Ĭ +åİ» è¿ĩ +èģĨ åIJ¬ +æĶ¾ åģĩ +ä¸į åħ·å¤ĩ +æ·Ģ ç²ī +大 佬 +åħ¨ 天 +åħ¨éĿ¢ 建æĪIJ +éļIJ å½¢ +ç¼ħ ç͏ +åIJ ³ +è¡ĮæĶ¿ æī§æ³ķ +åŁİ åł¡ +èİ« æĸ¯ +èİ«æĸ¯ ç§ij +æīĢæľī æĿĥ +éĽĨ åľĺ +å±Ģ åī¯å±Ģéķ¿ +åĩłä¹İ 没æľī +æ´ģ åĩĢ +ç͵影 èĬĤ +åŃ© ç«¥ +æīĢ åģļçļĦ +æ¸ħ 代 +æĸ° çīĪ +éĵĿ åIJĪéĩij +为 æĬĵ +为æĬĵ æīĭ +åΤ å®ļ +çī¹ äº§ +æīĭ æ©Ł +ä¸įåı¯ æĪĸ +ä¸įåı¯æĪĸ 缺 +å¸Ĥåľº è§Ħ模 +åĿ ¯ +åĮ» åѦéĻ¢ +å¿« è¦ģ +èĮ ľ +æĬĺ èħ¾ +äºĨ è¿ĩæĿ¥ +æĬ¥åijĬ æľŁåĨħ +çī© ç§į +ç»Łè®¡ å±Ģ +æī© 建 +æ¶ ħ +责任 人 +éĺ İ +è¯Ħ è®® +å¾Ģ äºĭ +æīĢ ç¤º +æķ´ æ´ģ +éĹº èľľ +æĹħ éĢĶ +å®ŀ è®Ń +ä¹ĭ ç§° +å·´ 士 +éĢŁåº¦ å¿« +ä¸įä»ħ å¦ĤæŃ¤ +å®Ŀè´µ çļĦ +åºŁ çī© +æ²³ æ°´ +æİ¥ 纳 +ç²¾ æ¹Ľ +åħ¶æ¬¡ æĺ¯ +顺 å¾· +åħ¬åħ± åį«çĶŁ +è¤IJ èī² +ä¸į æĥľ +æĬĢæľ¯ æľįåĬ¡ +æİ · +æ±Ĥ èģĮ +ä¸ī 峡 +æĬķåħ¥ åΰ +太 åIJİ +åIJ¯åĬ¨ 仪å¼ı +缴æİ¥ å½±åĵį +æĸ° 款 +个 乡éķĩ +çϾ 亿 +åº « +ä¹Ł æŃ£æĺ¯ +åı¶ çīĩ +æľĢæĹ© çļĦ +æĪĺ 绩 +å·¥ æľŁ +æĻļ æľŁ +è¿Ļæł· 说 +è¯į è¯Ń +ä¾ Ħ +æķ£ çĥŃ +éĽĨæĪIJ çĶµè·¯ +åIJį è¯į +æĻº åķĨ +æĭ¥ åłµ +çĭĤ 欢 +è¿Ļ èά +æµ´ 室 +åijķ åIJIJ +æľªæĿ¥ åıijå±ķ +ä¸īä½į ä¸Ģä½ĵ +åªĴ é«Ķ +ä¸įå¾Ĺ 转载 +åĽłä¸º 她 +æĺ¾ç¤º å±ı +ä¾Ľ æļĸ +éĨ« éĻ¢ +æľī æĦıæĢĿ +æľīæĦıæĢĿ çļĦ +娱ä¹IJ åŁİ +åįµ å·¢ +åĪĽéĢł åĬĽ +竳 èĬĤ +人大 常å§Ķ +èĢĮ çİ°åľ¨ +å¤ĸ å©Ĩ +å¢ŀ æĮģ +äºĶ åįĥ +èĢģå¸Ī 们 +æ´Ľ æĿī +æ´ĽæĿī 磶 +æİĮæı¡ äºĨ +ä¸ŃåĽ½ æĸĩåĮĸ +æĸ° æĶ¿ +主è¦ģ ç͍äºİ +åıij çĥ§ +类似 äºİ +åĮĹ æŀģ +æĪij们 认为 +å¼¥ 漫 +åħ¨çIJĥ ç»ıæµİ +é¢ IJ +ä¸Ģèµ· è£ħä¿® +æĶ Ĵ +æĭī èIJ¨ +帶 ä¾Ĩ +åĨ· æ°´ +ä¸ī åĨľ +æĿ¿ æĿIJ +è¿ŀ è¿ŀ +éĵ ® +ç»ıèIJ¥ çIJĨ念 +å±± é¡¶ +å¾Ī æĥ³ +çĺ « +å§ĭç»Ī ä¿ĿæĮģ +åľ¨ 广å·ŀ +ä¸įåIJĮ æĦı +åıĺ åİĭ +åıĺåİĭ åύ +产 éĶĢ +表 éĿ¢ä¸Ĭ +æīĢ以 ä»ĸ +ç»ıéªĮ 丰å¯Į +éĥ¨ å§Ķ +åħµ åĽ¢ +æīĢ è¿° +æķ¦ çħĮ +ç»ıèIJ¥ èĮĥåĽ´ +åı£ è¯Ń +失 ä¿¡ +æ¯ı个人 çļĦ +æīĭ æĮģ +æģIJ æħĮ +åł¡ åŀĴ +é¦ ħ +éĵ¸ éĢł +æĭ¿ åĩºæĿ¥ +æİ¢ æµĭ +大家 ä¸Ģèµ· +å¥ § +å®ŀè´¨ æĢ§ +å°ı åĦ¿ +èĩº åįĹ +èĩºåįĹ å¸Ĥ +å¼Ģåıij èĢħ +åı¯ æł¹æį® +ç®± åŃIJ +饺 åŃIJ +å¿Ļ çĿĢ +æĿ¥ ä¸įåıĬ +缸 ä¼ł +åĽ½ ç½ij +èħ¹ æ³» +è¿ĻéĩĮ æľī +é£İ æĻ¯åĮº +åıĤ ä¿Ŀ +æŃ» èĢħ +æĪ´ ä¸Ĭ +æ©Ł æ§ĭ +è¯ķéªĮ åĮº +ä¼ł æİĪ +æµ· è¾¹ +泪 æ°´ +缸åħ³ åĨħ容 +éĥij å·ŀå¸Ĥ +åħij çݰ +两 åij¨ +èĬľ æ¹ĸ +ç͵åŃIJ ä¿¡æģ¯ +红 å¤ĸ +æĹħ游 å±Ģ +å¾Ģå¾Ģ ä¼ļ +è¿ħ çĮĽ +ä¼ł 羣 +æ¸ħ æ¾Ī +å°± è¿ij +微信 群 +ç³»åĪĹ æ´»åĬ¨ +ç»ı常 ä¼ļ +è§Ĥ æµĭ +å¿ĥå¾Ĺ ä½ĵä¼ļ +éĻĪ åĪĹ +åĮĹ æĸĹ +è« ® +è«® è©¢ +è¿ĺæĺ¯ ä¼ļ +æµĭ ç®Ĺ +æĺŁ ç©º +宽 容 +çī©ä¸ļ åħ¬åı¸ +æĪĴ æĮĩ +å¸ħ æ°Ķ +ä¸ĢæŃ¥ æŃ¥ +åħ± 鸣 +åĨ³ ä¸į +æİ¥ 管 +å¦ĩ èģĶ +æ¯Ķ åĸ» +é²ģ è¿ħ +æĮģ çºĮ +缸 亲 +å¨ģå°¼æĸ¯ 人 +ç«ĭ 项 +åĪ Ŀå§ĭ +èĩª åζ +è¿Ī è¿Ľ +ä¸Ĭ æ±½ +å®ı ä¼Ł +æł¹æľ¬ 没æľī +æĸ°åĨł çĹħæ¯Ĵ +åĵª ç§į +康 åħ» +è¡° èĢģ +å½ķ åĥı +é«Ķ é©Ĺ +ç»ij å®ļ +é¢Ŀ 头 +äºĶ æľĪ +èĬ± å¼Ģ +ä¸Ģ线 åŁİå¸Ĥ +åΰ åľº +æĬķ éĻį +çĹĺ çĹĺ +åıĹ ä¸įäºĨ +æīİ æł¹ +æĽ´ ä½ķåĨµ +æĬ½ æŁ¥ +åĩº è·¯ +审议 éĢļè¿ĩ +ä¸į åĥħ +èī² è°ĥ +çϾ ä½Ļ +èĤł éģĵ +æ·±åİļ çļĦ +马 åĬĽ +æĹ© æĻļ +æŃĮ èĪŀ +éĺ² æĻĴ +æľĢåIJİ ä¸Ģ个 +樱 èĬ± +å°ıä¼Ļ åŃIJ +åľ¨ å½ĵåľ° +å°ıä¼Ļä¼´ 们 +èµ· æºIJ +åħ¨ åªĴä½ĵ +ç° ½ +éħ± æ²¹ +æĹłè®º å¦Ĥä½ķ +裤 åŃIJ +åģľ äº§ +ä¸įçͱ å¾Ĺ +çīµ å¼ķ +ä¼ł åĬ¨ +ä¹Ŀ é¾Ļ +åĬł åĽº +ä¹Łä¸į æķ¢ +æĬĢæľ¯ æĶ¯æĮģ +ä¸Ĭ å²Ĺ +ç»ıéªĮ åĴĮ +æł¼ æŀĹ +åIJ¸ éĻĦ +æľªæĪIJ å¹´ +奢ä¾Ī åĵģ +追 æį§ +好 ä¸į容æĺĵ +èķ´ åIJ« +ä¿Ŀ å®ļ +æĬ¥ ä¸ļ +æµ· åĨħå¤ĸ +ä½ł çİ°åľ¨ +æ²¹ èĢĹ +è´¨éĩı 管çIJĨ +æ½ľ æ°´ +丽 æ±Ł +转 åħ¥ +è¿Ļä¹Ī ä¹ħ +æĺİ ä»£ +责任 åζ +éĩį å·¥ +大 å·´ +触 åıĬ +èµ· åĪĿ +大 å¦Ī +æĸ¯ å¡Ķ +åĨĽ å·¥ +书 éĻ¢ +å³ ¨ +æİ¨ çIJĨ +è¿Ļç¯ĩ æĸĩ竳 +è¿ģ ç§» +åľ¨ åIJĮä¸Ģ +ç»Ĩ ç»Ĩ +åīĬ å¼± +书 æĪ¿ +ç¶ĵ 常 +è¯ķ é¢ĺ +æĤ£ ä¸Ĭ +çĻ«çĹ« çĹħ +åĨ² æ´Ĺ +å¤ĸ æı´ +åħĭ åζ +åįģ æľĪ +åģļ ä¸įåΰ +ç¾İ åĮĸ +å¦Ĥ æľŁ +è¿ĺ éľĢ +天 åºľ +å°± æĦıåij³çĿĢ +çļĦç¡® æĺ¯ +éªĹ å±Ģ +å°ıç»Ħ èµĽ +è© © +ä¹Ŀ å¹´ +æĻĵ å¾Ĺ +çłĶç©¶ 人åijĺ +大 éħĴåºĹ +ç§ij åѸ +åħŃ åIJĪ +çķĮ å®ļ +车 è½½ +å¼Ģ çĿĢ +毫 æĹłçĸij +毫æĹłçĸij éĹ® +è¿IJ ç»´ +ç¦ģ åĮº +èĦ± èIJ½ +讲 å¸Ī +产ä¸ļ åŁºåľ° +é«ĺ æĢ§èĥ½ +åħī 彩 +çݰ éĺ¶æ®µ +åĩ ¿ +è¾ĥ å·® +饮 çĶ¨æ°´ +éĸĭ çϼ +ç½ij åIJ§ +çĮ´ åŃIJ +æŃ¦ æŀĹ +å®ī åİ¿ +ä¸įåı¯ æĢĿ +ä¸įåı¯æĢĿ è®® +éĬ· åĶ® +è´« ç©· +为 åķ¥ +éº ĵ +å¹¾ åĢĭ +è§Ħ模 以ä¸Ĭ +æı ļ +被 åĽ° +缺 å¸Ń +å¿« é¤IJ +æĬ¢ åįł +æĻ Ł +å¤į æ´» +æľ¬æĬ¥ 讯 +åĪĽ ä¸ĭ +æµ· 滩 +éĩı 产 +å¦Ĥä½ķ åİ» +车 ä½į +å¯ ĩ +äºĮ åįģåĽĽ +ç»ıæµİ æįŁå¤± +éħįå¥Ĺ 设æĸ½ +åŁºæľ¬ éĿ¢ +äºī 论 +就好 åĥı +çłĶç©¶ æĪIJæŀľ +éĻĪ è¿° +æīĵ åĬ¨ +ä¸ĭ å·´ +ç§Ĵ éĴŁ +对 人ä½ĵ +æĬĢæľ¯ çłĶåıij +åİŁ åŃIJ +æĺ¯ä¸Ģ 项 +äºĨä¸Ģ 份 +æĮĩ çͲ +ç͍ éĩı +è¿ĺä¸į å¤Ł +æĶ¿åºľ éĩĩè´Ń +çŁ¥è¯Ĩ çĤ¹ +ä¸ŃåĽ½ 梦 +å¾Ī å¼Ģå¿ĥ +礼 è²Į +éĿŀ常 å¤ļ +éĿŀ常å¤ļ çļĦ +åĽ ļ +æĹħ é¦Ĩ +å°½ æĥħ +æŃĮ åͱ +æ²Ļ é¾Ļ +车 åİ¢ +客 æµģ +åģı å·® +积累 äºĨ +æ¡ Ķ +çĶ» çĶ» +ä¹Ł åºĶ该 +åºĶç͍ ç¨ĭåºı +èĥĥ èĤł +以 å¾Į +豪 å®ħ +æ·± åĬłå·¥ +缴 è¨Ģ +åĮĸ çŁ³ +åĽ½ éģĵ +ä¸ĥ 个 +ä»İèĢĮ 使 +èĤł èĥĥ +æĹ¥ è¶ĭ +çζ åŃIJ +ç· © +æĭĽ çīĮ +产 å¦ĩ +çķª èĮĦ +æĪij éĻ¢ +建çŃij å·¥ç¨ĭ +å±ķè§Ī ä¼ļ +å®¶éķ¿ ä»¬ +åĨľ ä½ľçī© +æĹ¥ å¤ľ +æĶ» æĵĬ +è§Ħ éģ¿ +èĪŁ å±± +便 æ°ij +åħ« åŃĹ +ä¸į æĽ¾ +æĶ¯ éħį +çĨ¬ å¤ľ +人 é¡ŀ +ç´Ģ éĮĦ +ç»ıèIJ¥ æ´»åĬ¨ +大 涨 +å¸Ĥå§Ķ 常å§Ķ +åĪĨ éIJĺ +ä¸Ģ个 èģĮä¸ļ +çĹħ åĽł +è¿Ļ 对äºİ +ä¸įå¾Ĺä¸į 说 +åıijç͵ æľº +æľīæīĢ å¸®åĬ© +缮æłĩ ä»»åĬ¡ +åĽł åľ° +åĽłåľ° åζ +åĽłåľ°åζ å®ľ +å°Ĩ è¾¾åΰ +ç²Ĺ ç³Ļ +稳 åĽº +å« £ +çİ°åľ¨ å¾Īå¤ļ +ä¸ĸçķĮ 级 +å¼ł æŁIJ +çĤ¹ ç¼Ģ +èij µ +社ä¼ļ ç»Ħç»ĩ +å¾Ģ åIJİ +åĬł æģ¯ +åĻª 声 +æľī åħ´è¶£ +为æĤ¨ æıIJä¾Ľ +æ²¹ æ¼Ĩ +ç¬¬åĽĽ å±Ĭ +çļĩ 宫 +ä¹Ĵ ä¹ĵ +ä¹Ĵä¹ĵ çIJĥ +éļ¨ èijĹ +éģ© åIJĪ +åįĹ éĿŀ +æĵ ´ +西 æ´ĭ +åĬł å¯Ĩ +æĪIJåĬ٠䏾åĬŀ +åı£ æ°´ +æĪIJ 年人 +æīĢ æıIJä¾ĽçļĦ +éļĶ å£ģ +åľ¨ 京 +å½ĵåľ° æĹ¶éĹ´ +çŃī åIJĦç§į +é£İ æ°Ķ +å±ĭ éĩĮ +ä¸Ģ åŃĹ +çļĦæĹ¶éĹ´ éĩĮ +åĺ¿ åĺ¿ +å¿« 讯 +ä¸Ń åľº +ä¸Ģ çĵ¶ +æ» ķ +é¢Ĩ è·ij +好 èݱ +好èݱ åĿŀ +没 åħ³ç³» +åĩº å¢ĥ +ä¸įæĺ¯ ä¸Ģ个 +éĥ½æĺ¯ éĿŀ常 +éľĩ åĬ¨ +èİ· èĥľ +åįļ å¼Ī +æĬļ åħ» +对 ç«ĭ +æľįåĬ¡ æľºæŀĦ +è°£ è¨Ģ +社ä¼ļ ç§ijåѦ +åIJ¬è¯´ è¿ĩ +æī ³ +æīĵ 磨 +åı£ æľį +好 åĥıæĺ¯ +以åıĬ åħ¶ä»ĸ +çī¹ è´¨ +亲 è¿ij +ä¸Ģ ç»ı +æ¶ Ŀ +éŃĶ æľ¯ +éģĵè·¯ 交éĢļ +è§Ħ模 æľĢ大 +å®ŀæĸ½ æĦıè§ģ +ä¹ ŀ +ä¸Ģ ä¸ĸ +åŁ· è¡Į +è±Ĩ çĵ£ +åĪĹ ä¸º +æķħ 宫 +çĶŁ åij½åij¨æľŁ +ä¸īç§į èģĮä¸ļ +详ç»Ĩ ä»ĭç»į +å®Į å¤ĩ +岩 çŁ³ +éļı æīĭ +é£ ² +æķĪæŀľ åĽ¾ +ç§ĭ åĨ¬ +åĬŁ å¾· +è§Ħ竳 åĪ¶åº¦ +æĹ¥ æ¸IJ +æīĢ éľĢè¦ģ +æīĢéľĢè¦ģ çļĦ +å²Ľ ä¸Ĭ +åĩº åľŁ +åĽ¾ æĸĩ +ç§ijæĬĢ è¿ĽæŃ¥ +éĢļ èĥĢ +èĢģ 太太 +èĭĹ æľ¨ +éĵ¶ å·Ŀ +å¸IJ 篷 +éĿŀ è¦ģ +éħį ç͵ +å¤Ħ å¢ĥ +èĤ¡æĿĥ æĬķèµĦ +ä¸Ģ缴 åΰ +åĿĩ çͱ +æĬĹ æĹ¥ +æį® ä»ĭç»į +ä½ł åĸľæ¬¢ +åĪĽæĸ° åŀĭ +åıĺ è¿ģ +è§Ĩ å¯Ł +å®Įåħ¨ 没æľī +åħĥ æĹ¦ +åı¯ ä¿¡ +åı¦ è¡Į +æĿij 级 +åħ¥ åľº +æIJŃ æ¡£ +ä¹Ł åĽłæŃ¤ +æį¢ æĪIJ +ä¸į è´Ł +äºĨ 大éĩıçļĦ +éģĶ åΰ +å¸Ĥ åİ¿ +å¹´ è¼ķ +å¿« æīĭ +å¸Į å°Ķ +èĩª èIJ¥ +éĽª èĬ± +æIJ ģ +çľ¼ ç§ij +æŃ£ 確 +çļĦ å§¿æĢģ +åĿļå®ŀ çļĦ +æĮĩ 纹 +æªĶ æ¡Ī +ç½® äºİ +佩 æľį +豪 éŨ +åĵ Ĵ +æģ° 好 +檢 æŁ¥ +åĪĿ è¡· +大 åĶIJ +约 ä¼ļ +èĴ¸ åıij +çѹ åĪĴ +å¹´ ç»Ī +è¡Į æ¥Ń +åħ± éĿĴ +åħ±éĿĴ åĽ¢ +ä¼ļ å¼ķèµ· +ä¸Ń ç§ij +ä¸Ńç§ij éĻ¢ +æĮ¯ åĬ¨ +åį´ åıijçݰ +ä¸įåĬ¨ 产 +èĮ ¹ +æĪ¿éĹ´ éĩĮ +è´§å¸ģ æĶ¿çŃĸ +æ²» çĻĤ +æħİ éĩį +å¡ŀ å°Ķ +åĽ½ ç±į +åĽł æŀľ +çŃī çī¹çĤ¹ +å±± è°· +ä¸ĭ è¼ī +è®ĵ æĪij +饮 éħĴ +è¿Ļ个 游æĪı +ç»Ŀ 大éĥ¨åĪĨ +åĴ¨è¯¢ æľįåĬ¡ +å¹² æ´» +è®® ä¼ļ +æ¦Ĥ è¿° +åĪĨ åĮº +æŃ» åIJİ +ç«Ļ çĿĢ +主è¦ģ é¢Ĩ导 +åIJĮ åŁİ +大 æłij +对 åѦçĶŁ +社ä¼ļ ä¿ĿéĻ© +å¢ŀ èµĦ +主人 åħ¬ +å®£ä¼ł æķĻèĤ² +æĸĩåĮĸ 交æµģ +客 æĪ¶ +çŁ¥åIJį åĵģçīĮ +æ»ŀ åIJİ +äºĴ è¡¥ +æĦŁ äºº +åī ¿ +åIJİ ä»£ +äºī 龸 +æķĻèĤ² åŁ¹è®Ń +éĿĻ èĦī +ä¹ı åĬĽ +说 åĩºæĿ¥ +çİĭèĢħ èį£èĢĢ +åĢ « +åįĩ èµ· +éķ ģ +åĩº 游 +éĢļè¡Į è¯ģ +å·¥ä½ľ å²Ĺä½į +åĮł å¿ĥ +æĭ¿ æĿ¥ +æ´Ĺè¡£ æľº +æĪijä¸į æĥ³ +é¢Ħ è§ģ +æ¼Ķ 示 +ä¸Ģ缴 没æľī +è·Ł 她 +对çħ§ æ£ĢæŁ¥ +ç° ¿ +ä¸ĵ å¿ĥ +è®® äºĭ +åīį 端 +åį¡ å°Ķ +è¨Ń å®ļ +设置 äºĨ +å©ļ 纱 +åľ¨ åĽ½å¤ĸ +åı³ ä¾§ +è³¼ çī© +å¥ĩ èij© +å¢ŀåĬł å̼ +好 è¿IJ +åĽ½éĻħ æľºåľº +ä¸ĭ ç§° +缮åīį 为æŃ¢ +ç¥ŀ ä»Ļ +å®ĥ åı¯ä»¥ +æ¾Ħ æ¸ħ +èĥ½ 使 +游 åĩ» +游åĩ» éĺŁ +åĩ ¹ +ä¸įè¦ģ åĨį +åĨ³ èĥľ +åĨ³ æĪĺ +æĭ ½ +缼 åħ¸ +å¾Ī好 åľ° +æľĢ ç¾İçļĦ +åĥ ļ +å·´ åŁº +å·´åŁº æĸ¯åĿ¦ +æľĢ éĢĤåIJĪ +é«ĺ èģĮ +ä¿Ŀ å§Ĩ +æİĪ æ¬Ĭ +说åΰ è¿ĻéĩĮ +æİ¨ å¼Ģ +çİĩ è¾¾ +ä¸īåĪĨ ä¹ĭä¸Ģ +管çIJĨ ä¸Ńå¿ĥ +交 æ±ĩ +森æŀĹ åħ¬åĽŃ +å¾Ģ ä¸Ĭ +éªij è¡Į +æį® æŃ¤ +纽 带 +ç» ŀ +ä¸ī æĸ¹ +æĦıä¹ī ä¸ĬçļĦ +æİ¨ è¿Ł +å¤ļæł· æĢ§ +æĥ³ èµ·äºĨ +æİĴåIJį 第 +å·¨ é¢Ŀ +æĿŁ ç¼ļ +å®ī å®ļ +äºĭ 實 +çļĦ æĦ¿æľĽ +è£ħå¤ĩ åζéĢł +人 å±ħ +人å±ħ çݯå¢ĥ +å¿ĺè®° äºĨ +该 游æĪı +楼 ä¸Ĭ +å¼Ģ ä¼ļ +æģ ³ +åıĭæĥħ éĵ¾æİ¥ +ç¡ Ĵ +ç»ĻäºĪ äºĨ +åģı 好 +åĵ ī +交éĢļ å®īåħ¨ +éĽ Į +æ²» çĹħ +è§īå¾Ĺ å¾Ī +衬 è¡« +å¿ĥ æĦ¿ +æ´ŀ å¯Ł +æ°ij æ£Ģå¯ŁéĻ¢ +æıIJ çĤ¼ +è¦ģ è¿Ľä¸ĢæŃ¥ +驾 车 +æĻ® æĥł +æķ ĸ +ç¦ı éŁ³ +éĢģ è¾¾ +è§ĦåĪĴ 设计 +æīĭ å¥Ĺ +å®ī ä¿Ŀ +è¿ĺä¸į å¦Ĥ +åīį è¿° +æłĩ è®° +ç´§ æİ¥çĿĢ +æ§ IJ +深深 åľ° +满满 çļĦ +æĺ¥ è¿IJ +æĹ¥ 产 +çα æĬ¤ +åħ¨ æĹ¥ +åħ¨æĹ¥ åζ +转 åĬ¨ +ç¥Ń ç¥Ģ +ä¹° ä¸ľè¥¿ +对 æľªæĿ¥ +æ¶Ī失 äºĨ +åļ´ éĩį +ä¸ī æĿ¡ +éħ¸ 奶 +éĽĨåĽ¢ èĤ¡ä»½ +西 è·¯ +åıª å¾Ĺ +éĢģ åİ» +çĭł æĬĵ +åĪ©ç͍ çİĩ +ä¸ĭ åij¨ +å¥ĭ æĪĺ +æĺ¥èĬĤ æľŁéĹ´ +è´Ł 责任 +æĺĤ è´µ +å°¾ å·´ +ç¯ĩ æĸĩ竳 +åħ ® +è®Ĭ æĪIJ +å¹ ¹ +çĻ» éĮĦ +ä½ Ī +å·¥ åĮł +åĵªæĢķ æĺ¯ +åıį åĵį +ç§ ĥ +åĩº 轨 +æĹ¥ åĨĽ +åIJį èªī +æķı éĶIJ +æľįåĬ¡ æ°´å¹³ +çħ§ å°Ħ +ä¼Ĭ æĭī +ä¼Ĭæĭī åħĭ +åĨħ éĺģ +èĬĴ æŀľ +ä¸ĩ åĪĨ +éĢĢ æ¬¾ +缴æĴŃ éĹ´ +æĭ¿ åΰäºĨ +å°İ èĩ´ +空æ°Ķ ä¸Ń +客æĪ· æľįåĬ¡ +è¿IJ åĬ¿ +ç»ĵ çŁ³ +ä¸į å¿ħè¦ģçļĦ +èĥ¶ åĽĬ +çIJĨ ä¼ļ +æĬ½ åĩº +空æ°Ķ è´¨éĩı +æ¯ķ 竣æĺ¯ +åĨ· æ¼ł +ä¸Ģ å¦Ĥ +ä¸Ģå¦Ĥ æĹ¢ +ä¸Ģå¦ĤæĹ¢ å¾Ģ +æĤ£ çĹħ +åĬł æĮģ +èµŀ åĬ© +é« ® +åij½ ä¸Ń +æĦıä¹ī ä¸Ĭ +ä¸į èĪį +åģļ æ¢¦ +æīĵ æī« +æĺŁ åħī +æĸŃ è£Ĥ +åħ¨ å¥Ĺ +è£ģ å®ļ +马 åħĭæĢĿ +骨 骼 +ä¸Ģ è·¯ä¸Ĭ +å®ļ æĹ¶ +å·¥ç¨ĭ æĬĢæľ¯ +å½¼ å¾Ĺ +æ±² åıĸ +ä¸Ģ è§Ī +åIJµ æŀ¶ +ä¿Ĺ ç§° +æłª æ´² +åºŁ æĹ§ +è¡Į æĺŁ +åıijçĶŁ åıĺåĮĸ +é¦ĸ ä»ĺ +åįģåĪĨ éĩįè¦ģ +æĬĬ è¿ĻäºĽ +ç¥ŀ å·ŀ +æıIJä¾Ľ åķĨ +æ¥ · +å± İ +çĬ¶ åħĥ +åŁİ å¢Ļ +çľĭ ä¸Ģçľĭ +çĶŁäº§ èĥ½åĬĽ +åŁºæľ¬ä¸Ĭ éĥ½ +æīĵ æī° +åĪĿ 次 +åĩº 示 +åħ¶ä¸Ń ä¸Ģ个 +çĶŁæĢģ ç³»ç»Ł +æīĭ æİĮ +æµİåįĹ å¸Ĥ +åľĭ åħ§ +æŃ£ å̼ +å¹¾ ä¹İ +æİ¨èįIJ éĺħ读 +è¿Ń 代 +è°ĥ ä¾ĥ +饮 åĵģ +å¢Ļ ä½ĵ +åıĺ çݰ +äºĨ 好 +äºĨ好 åĩł +ä¸į çķĻ +çĪ ² +å°½ æĹ© +æŃ£åľ¨ è¿Ľè¡Į +åĩº éĻ¢ +æĿĢ å®³ +æıIJ 款 +åıijå±ķ 空éĹ´ +åīį 身 +ä¸įæĸŃ å¢ŀ强 +æ·± å±Ĥ次 +容 纳 +éĤ£ 份 +å·¥ä½ľ æķĪçİĩ +æľ¬ åĽ½ +失 èIJ½ +æŃ£ åĽłä¸º +èĬĤ æ°´ +ä¸ĭ ä¸Ģ代 +çłĶåıij ä¸Ńå¿ĥ +ä¸į çIJĨ +å®Į 好 +ä¿ĿæĬ¤ åĮº +ç»ĵæŀĦ è°ĥæķ´ +å¥ł å®ļ +宣 ç§° +éĺ» æĮ¡ +æĴ¤ 离 +ä¸į æĸ¹ä¾¿ +åĴ ķ +ç¬ijäºĨ ç¬ij +çݯå¢ĥ 污æŁĵ +ä½ı æĪ· +ç»Ŀ ç¼ĺ +éϤ å°ĺ +é«ĺ å°ļ +æĢİä¹Ī åı¯èĥ½ +éĿ¢ èī² +åķĨ æ¥Ń +çĸ ¹ +èµĦæºIJ ä¼ĺåĬ¿ +è¾ĸåĮº åĨħ +èĢĢ çľ¼ +æij§ æ¯ģ +ä¸ĸçķĮ ç»ıæµİ +å¼ķ æĿ¥ +ä¸Ģ åĪĻ +æĭĩ æĮĩ +æĬµ 御 +éĽ į +åĩĨå¤ĩ å·¥ä½ľ +çıł ä¸īè§Ĵ +ç¨Ģ åľŁ +èİ·å¾Ĺ æĦŁ +æĪIJåĬŁ çİĩ +ç½ij 约 +ç½ij约 车 +èĦ IJ +æķ¬ ä¸ļ +éĩij ä»· +ç²¾ é«ĵ +ä¹° 车 +åħ³ åı£ +åĨį å¤ļ +æŀģ åĵģ +åIJĦ å®¶ +举æĬ¥ ç͵è¯Ŀ +èļ Ĭ +æĸ¹ å½¢ +ç§ijæĬĢ æĪIJæŀľ +æľĢ好 æĺ¯ +éĹ® åĢĻ +红 éħĴ +åĽĽ ç§į +ç¿Ĵ æħ +ç¿Ĵæħ £ +åŀ ¦ +éĤ£ åıª +é¢Ĩ æĤŁ +çľ¼ éĥ¨ +æ³° å®ī +ä»» æľŁ +磨 æįŁ +æĽ¿ æį¢ +åħ¸ 礼 +符åIJĪ æĿ¡ä»¶ +è¿ĺæľī ä»Ģä¹Ī +åħ±äº« åįķ车 +åı¯ åĪĨ为 +åŃ£ åIJİ +åŃ£åIJİ èµĽ +举èİŀ å¸Ĥ +å¿ĥ æĦı +æīŃ æĽ² +ä½ľä¸º ä¸Ģç§į +è¿Ļ éĥ¨åĪĨ +åıĤä¸İ åΰ +ç½ij çIJĥ +實 çı¾ +ç»Ħ è£ħ +åIJij å¤ĸ +å·¥ä½ľ æĸ¹æ¡Ī +åįģ æĿ¡ +課 ç¨ĭ +颤 æĬĸ +åĵ © +éĤ® å¯Ħ +äº ¢ +åħį è²» +ç§ ¤ +åºĶæĢ¥ 管çIJĨ +åĽĽ äºĶ +éºĴ éºŁ +å¾Ĵ æŃ¥ +è¨ĺ å¾Ĺ +çĴ IJ +æĺ¯åIJ¦ ä¼ļ +æĦıè§ģ åıįé¦Ī +éļ¾ æĢª +çª į +交 æİ¥ +两 åįĥ +æĩī ç͍ +æľŁ éĸĵ +æIJ¬ åΰ +è®® é¢ĺ +碧 æ¡Ĥ +碧æ¡Ĥ åĽŃ +åģļ çĶŁæĦı +éĻĽ ä¸ĭ +è· ĭ +èĢģ人 å®¶ +带 åĽŀ +æŀ¸ æĿŀ +è¡Į éķ¿ +åĨħ容 ç®Ģä»ĭ +æ¢ ¢ +æĮĩ æİ§ +éĩį çĹĩ +ç½ijåıĭ 们 +çı¾ 代 +ç±» 产åĵģ +å¥Ķ æ³¢ +æ¸ º +ç²ī ç¢İ +è¿Ļ åıªæĺ¯ +æ£Ģå¯Ł æľºåħ³ +é½ Ĭ +æĪ¿ ç§Ł +å¾· æĭī +å²ģ 以ä¸Ĭ +纯 åĩĢ +åĪĨå¸ĥ åľ¨ +èĥ½ å¾Ĺåΰ +ä¸į å°½ +ç«ŀ ä»· +çļĦ 带é¢Ĩ +çļĦ带é¢Ĩ ä¸ĭ +ä¸ŃèᝠæĿIJ +æĿij éķĩ +ä¸įåı¯ éģ¿åħį +éľ² 天 +å°ı å§ijå¨ĺ +çī© ä»¶ +èijĹä½ľ æĿĥ +æĭĺ çķĻ +éĥ½ è§īå¾Ĺ +æĽ² æĬĺ +æ·»åĬł åīĤ +åı¬ åĽŀ +æīİå®ŀ æİ¨è¿Ľ +æĬĦ è¢Ń +åĮĸ 身 +缴 èIJ¥ +ä¹Ł å¸ĮæľĽ +èį£èªī ç§°åı· +åįĸ ç»Ļ +æľī ä¸įåIJĮçļĦ +å¥ĩ çī¹ +éĥ½ 认为 +å¦ ŀ +æĪIJéķ¿ ä¸º +辩 æĬ¤ +主 æķĻç»ĥ +æ³ķå¸Ī èģĮä¸ļ +æ¤į åħ¥ +ç´¢ å°¼ +åIJ¬ è¿ĩ +ä¹łæĥ¯ äºĨ +夺 åıĸ +éŁ ĵ +æľ¬è´¨ ä¸Ĭ +æİ¥ åĬĽ +äºij 端 +è¦ģ åģļ好 +è·¯ çģ¯ +åįıåIJĮ åıijå±ķ +æľī å¾ħ +æ°´ åŁŁ +æIJľçĭIJ é¦ĸ页 +è´¨éĩı å®īåħ¨ +åįģäºĮ äºĶ +åĵ® åĸĺ +èĵ¬åĭĥ åıijå±ķ +åIJį 声 +身 亡 +çİĭ åºľ +åİŁåĪĻ ä¸Ĭ +çĥĺ å¹² +éģĹ æ¼ı +éĿ¢ 缮 +åĽ½ ä¼ļ +ä¸Ģ缴 éĥ½æĺ¯ +æľīä¸Ģ ä½į +éħį æľī +éĻª çĿĢ +ä¼ģ åĽ¾ +æĮī ä¸ĭ +èĵĿ åĽ¾ +æ© ĺ +大å¤ļ æĺ¯ +辩 论 +æĹĭ å¾ĭ +æĬ¥ éĢģ +æĿ¡ è§Ħå®ļ +åĬ¨ éĿĻ +åĮΠ奴 +æĭľ 访 +ä¸Ģ åĪĢ +ä»ĸ çŁ¥éģĵ +主 æĿĥ +ä»ĸ æĽ¾ +æĴŃ ç§į +å£ģ åŀĴ +çī¢è®° 使åij½ +åľ¨è¿Ļ æĸ¹éĿ¢ +æīĭ èħķ +æĶ¯ æŀ¶ +ä¾Ĩ èĩª +éĩį å¡ij +å¤ļ å±Ĥ次 +ä»ĭ è´¨ +éĿ¢ åŃĶ +æ½® 湿 +åİ¿ åŁŁ +游æĪı å½ĵä¸Ń +å£ ŀ +åĪĹ åĩº +èµĽ åĮº +å¤ļ åįĬ +éĩįçĤ¹ å·¥ä½ľ +æĪij们 å¿ħé¡» +æŁı æŀĹ +é²ģ èĥ½ +æĸ½ å±ķ +åIJĦ åĮº +åħį ç¨İ +èµĽ åIJİ +æľĢ éĩįè¦ģ +ä¸Ģ个 好çļĦ +è¿Ŀæ³ķ è¿Ŀè§Ħ +äºĨè§£ æĽ´å¤ļ +æķ¬ 请 +ç¬ijçĿĢ è¯´ +ä¸įæĸŃ åıijå±ķ +æijĦå½± å¸Ī +以 éĺ² +çĤ¸ å¼¹ +声 åĵį +ç¤ ģ +æĩ ¿ +èĪĨ æĥħ +èĩªçͱ è´¸æĺĵ +æķı æį· +ä¸ī大 éĺ¶æ®µ +èĭ Ķ +æĹº åŃ£ +ä¸į 满æĦı +微信 åı· +ä¿® 为 +çł´ è£Ĥ +éĢĥ 离 +æ¯ı èĤ¡ +è¾¾ ä¸įåΰ +æ¯ıå¹´ éĥ½ +çģ¯ ç¬¼ +æŃ¤ åŁºç¡Ģä¸Ĭ +åĥı 个 +åĪĨ 娩 +æĻ ¾ +ä¸į èĩ³äºİ +红 线 +误 è§£ +举 è·¯ +æ·® å®ī +产 åѦ +产åѦ çłĶ +èī¾ æ»ĭ +è»ĭ çĹħ +åīįæıIJ æĺ¯ +æ¯ı ä¸Ģ天 +ä¸ĥ 大 +æłij åı¶ +èµ° å¾Ĺ +è¿Ļ 两ç§į +æİı åĩº +æİ IJ +é¢Ĩ导 èĢħ +ä¸Ģ æľµ +个å¤ļ æľĪ +ä¸Ń åħ³ +ä¸Ńåħ³ æĿij +课åłĤ æķĻåѦ +大 åĴĸ +éģĭ ç͍ +è¯ļ æĦı +ç»Ħ åĽ¾ +è¯ķ çĿĢ +ä¹Ķ æ²» +è¿ĺ ä¸įæĺ¯ +æľī æĽ´å¥½çļĦ +åIJİ å¤ĩ +æĸ°çĶŁ åĦ¿ +æ°Ķ è¡Ģ +æ²¥ éĿĴ +å±ı éļľ +æ¥Ń åĭĻ +æĪij 以为 +éķ¿ çĽ¸ +èĢģ çΏ +éķĩ æ±Ł +æľºæ¢° 设å¤ĩ +ä½Ĩæĺ¯ å¦Ĥæŀľ +åĿļå®ļ ä¸į +åĿļå®ļä¸į ç§» +åĨ² éĶĭ +ç®Ģ缴 æĺ¯ +åĤ¨ èĵĦ +纯 ç͵åĬ¨ +漫 æŃ¥ +举 èµ· +æģ¶ æĢ§ +è¨ĺ éĮĦ +èģĮèĥ½ éĥ¨éŨ +åħ¨ éķ¿ +鼻 è¦ĸ +ä¹³ èħº +ä½ķ å¤Ħ +æ¶Ī æŀģ +æŃ£ å¤Ħäºİ +å®ī å®ģ +æĪIJ éķ· +åıĻ è¿° +æºĥ çĸ¡ +ä½Ĩ çİ°åľ¨ +女 æĺŁ +å©´ å¹¼åĦ¿ +æĬķ èŀįèµĦ +éĹ® éĹ® +æıŃ å¼Ģ +è¯ ı +åIJį å½ķ +èĺij èıĩ +åIJĬ é¡¶ +æ¹ĸ åĮº +åįĸ åľº +建 ç¯ +å»ºç¯ ī +èİ ½ +åIJ¬ åIJ¬ +ç«ŀäºī ä¼ĺåĬ¿ +åĩº ä»» +æľī 两ç§į +橱 æŁľ +è¤ ª +è¯ķ åį· +ç»ıæµİ æĬĢæľ¯ +æ·± å±Ĥ +éĩįè¦ģ åĨħ容 +é£İ æİ§ +çĬ¶æĢģ ä¸ĭ +éĥ¨ éĸĢ +广 æ±½ +è§Ĥ æij© +éģĹ çķĻ +转 è´¦ +æĮģ ä»ĵ +æĢ» 计 +åľĺ éļĬ +æĪ¿ 举 +éĺĢ éŨ +åħ¬ åħ³ +åħ³ åĪĩ +èĤ ĺ +æķ¸ æĵļ +ä¸ī åįģå¹´ +è§ģè¯ģ äºĨ +å± Ĩ +çģ° å°ĺ +æ¦ľ é¦ĸ +è¦ĨçĽĸ çİĩ +ä»Ļ 女 +çĶŁäº§ æĢ» +çĶŁäº§æĢ» å̼ +æĪ¿ è´· +æ±Ł åĮº +åħħç͵ æ¡© +çϾ åIJĪ +確 èªį +转 ç§»åΰ +éĥ½ æĹłæ³ķ +纪念 é¦Ĩ +çŃ¾ç½² äºĨ +å¹¶ä¸į å¤ļ +æĮ ł +ä¸į太 好 +ä¸ĸ 代 +误 导 +é«ĺå³° 论åĿĽ +åħ¼ 容 +龸 æ°Ķ +æĿ¥ 访 +æīĢ å¸¦æĿ¥çļĦ +æĺ¯ä¸Ģ éĥ¨ +æĻļ é¥Ń +åİĨ 代 +åIJ¦ åīĩ +ä¹ħ ä¹ħ +æľīæķĪ æľŁ +诱 åıij +æĢ» èµĦ产 +æľ¬èº« å°±æĺ¯ +çĶŁäº§ åİĤå®¶ +æĹ¶ 髦 +èĢIJ ç͍ +ä»İå°ı å°± +æĿ¡ 约 +èĭ± åĭĩ +ä¿Ĺ è¯Ŀ说 +寺 åºĻ +å¿ĥçIJĨ åģ¥åº· +ä»Ģä¹Ī äºĭæĥħ +æ±ī åŃĹ +çķĻ ä½ı +åįĹ è·¯ +ä¸ī 项 +丢 äºĨ +æĥ³ åΰäºĨ +çѹ éĽĨ +éĻĦåĬł å̼ +西 è£ħ +ä¹ĭ ä½ľ +åģļçļĦ äºĭ +çķ¶ æĤ¨ +çķ¶æĤ¨ åľ¨ +é¦ĸ 款 +ä¸įåľ¨ ä¹İ +å·¥ç¨ĭ æĸ½å·¥ +éļIJ éļIJ +åıĺ 身 +沿 éĢĶ +æĤł æĤł +ä¿Ŀ æļĸ +çĶŁæ´» åŀĥåľ¾ +渤 æµ· +æŃ¦ ä¾ł +女 主è§Ĵ +举 ä¾ĭ +æ ·¨ +çϽ é¢Ĩ +è£Ļ åŃIJ +è¿Ķ è¿ĺ +è¿Ī åĩº +é¾Ļ éŨ +ç»ıæµİ ä½ĵ +æĶ¶ å®ĺ +çķĮ éĻIJ +è·³ åĩº +åįĩ å̼ +绵 éĺ³ +çĸ¤ çĹķ +çľĭ æ¸ħ +æĭĴ çµķ +è¥Ħ éĺ³ +课 å¤ĸ +åŃIJ åŃĻ +æŃĮ è¯į +æĪIJ åIJį +溶 æ¶² +åĦĴ å®¶ +åķĨä¸ļ åĮĸ +辨 åĪ« +å¤ļ è¾¾ +ç½ij åºĹ +ä¹Ŀ 大 +ä¹Ŀ大 ç²¾ç¥ŀ +æŃ¤ 举 +è¿ŀ è½½ +ä¸Ģ åĢĭ人 +èī² æ³½ +æ¶µçĽĸ äºĨ +è¦ı åĬĥ +åĽ½ æĥħ +åį«çĶŁ åģ¥åº· +积æŀģ åĵįåºĶ +æĭ Ļ +åζ åĬ¨ +æĥ³è±¡ åĬĽ +çļĦ ä¹IJè¶£ +å¼łå®¶ çķĮ +å´ İ +éĩį åŀĭ +å¤ĸ å¢Ļ +æĶ¾ åѦ +è®¤çľŁ åŃ¦ä¹ł +è´¬ å̼ +æ³ķ æ¡Ī +æĬ¤èĤ¤ åĵģ +éĻ·åħ¥ äºĨ +请 æĤ¨ +åŀ ¢ +æķĻèĤ² èµĦæºIJ +交æĺĵ å¹³åı° +æĹ¶ è£ħ +ä¼łæŁĵ çĹħ +æ¹ĸ æ³Ĭ +èµĦ 管 +åݨ å¸Ī +éĹľ éį +éĹľéį µ +åĵĪåĵĪ åĵĪ +çĽĹ çªĥ +çĶľ ç¾İ +åºĦ åĽŃ +缮åīį å·²ç»ı +è¾¹ ä¸Ĭ +çģ« èĬ± +æĬ¥ è®°èĢħ +æģĭ æĥħ +ç´§ åĩij +æ°´ æµģ +è¿Ļæĺ¯ æĪij们 +æ³¥ åľŁ +æĽ¾ ä»» +æĸ¹ è¨Ģ +åij¨ åħŃ +åı· 楼 +ä¼ij åģĩ +误 ä¼ļ +åĽ½ åĢº +åīį å¤ķ +两 å¼ł +éĹ « +éŃĶ é¬¼ +æĬĬ æĮģ +èĬĤèĥ½ çݯä¿Ŀ +æ¸ħæ´ģ èĥ½æºIJ +èĤ¥ æĸĻ +é«ĺ é¢ij +å°± æľīäºĨ +交 ä¼ļ +没 éĴ± +éĽħ æĢĿ +è¦ģ åıĬæĹ¶ +åŁ¹åħ» åѦçĶŁ +欣 åĸľ +çĥŃæ°´ åύ +é¾Ļ æ¹ĸ +äºĮ 楼 +æĸ°æµª è´¢ç»ı +æĸ° åĬ¨èĥ½ +èµ£ å·ŀ +æĭ³ 头 +æµģ åIJij +ä¹Łæĺ¯ å¾Ī +åıij åĶ® +ä¸Ń åIJ«æľī +åIJĵ å¾Ĺ +å·¨ æĺŁ +æĹł æīĢè°ĵ +æ¯Ľ åŃĶ +åħ¬åħ± 交éĢļ +çĤİ çĥŃ +èµ· èįī +åĬłçĽŁ åķĨ +说 ä¸įåĩº +大åѦ æ¯ķä¸ļ +å·¥ä¸ļ åĽŃ +éłĺ åŁŁ +åºĨ åħ¸ +æµģ 产 +èģ² éŁ³ +ä¼¼ä¹İ æĺ¯ +è´§ æºIJ +æ·± åĪĩ +æ²»çĸĹ æĸ¹æ³ķ +èµĦæºIJ éħįç½® +ç¶² åıĭ +çĶ £ +äº ¥ +躲 åľ¨ +社 ç§ij +è»Ł é«Ķ +女 è£ħ +æŃ¡ è¿İ +综åIJĪ å®ŀåĬĽ +æł¼ å°ĩ +åħļåı² åŃ¦ä¹ł +æľĢ åŁºæľ¬ +æľĢåŁºæľ¬ çļĦ +çľĭ æľĽ +åıĹ è´¿ +ä¸įä»ħ èĥ½ +ä½ķ å¿ħ +ä¸Ģ个 å°ıæĹ¶ +ç¾ Į +æĭĽ æĶ¶ +çĤĴ èĤ¡ +æĿij å¹²éĥ¨ +缸 çα +æ½ľ èĥ½ +ä¹ į +æĹ¶ è¾° +欣 æħ° +éĵ¶ è¡Įä¸ļ +çĭŃ çªĦ +éĩįçĤ¹ é¢ĨåŁŁ +çݰå®ŀ çĶŁæ´» +éĮ¯ 誤 +æĸ° è§Ħ +滥 ç͍ +æĹ¶ ä¸į +æĹ¶ä¸į æĹ¶ +帳 èĻŁ +ç¨Ģ 缺 +åIJij 举 +ä¿Ŀåģ¥ åĵģ +çıŃ éķ¿ +äºĴ åĭķ +笼 罩 +æ½ Ľ +æļĸ å¿ĥ +è½° çĤ¸ +åºĨ 幸 +è²Į ä¼¼ +æĵ º +èĢIJ 磨 +ä¸ĵä¸ļ 人士 +ä¸Ģèά éĥ½æĺ¯ +æ¼³ å·ŀ +åħ¨ èĩªåĬ¨ +å½ķ ç͍ +大 è·Į +æľīæķĪ æĢ§ +èĩª åĭķ +ä¸ī个 æĸ¹éĿ¢ +港 åĮº +ä¿¡ 貸 +éĢļ è¯Ŀ +é«ĺ 涨 +æ³Ħ æ¼ı +éħį ä¸Ĭ +åħļ å·¥å§Ķ +被 认为 +被认为 æĺ¯ +ä¸įä¼ļ åĨį +è°ĥ åīĤ +åıĤ èĤ¡ +èĦ± åıij +å¿ł å®ŀ +åĨħ åĪĨæ³Į +ç¹ģ å¿Ļ +åıĮ åĪĽ +é©» æĿij +åĪĴ ç®Ĺ +éģİ ä¾Ĩ +åľ£ ç»ı +èıľ 鸣 +æĭ¼ å¤ļå¤ļ +ä¸ŃåĽ½ 汽车 +çĥŁ èįī +缴 æµģ +äºĨä¸Ģ åı£æ°Ķ +ä½İ æĪIJæľ¬ +æī¾ åĽŀ +èĩª åįij +總 æĺ¯ +æĸĩåĮĸ åĪĽæĦı +天 æ²³ +樱 æ¡ĥ +éªij åħµ +éĩĮéĿ¢ æľī +çİ ® +èĥ½ æī¾åΰ +éĢĥ è·ij +åĪĩ å°Ķ +åĪĩå°Ķ 西 +以ä¸ĭ æĺ¯ +å²³ éĺ³ +çļĦ æ¦Ĥçİĩ +æĬµ åζ +å¸Ī äºĭåĬ¡ +å¸ĪäºĭåĬ¡ æīĢ +åĩĨ æĹ¶ +屬 æĸ¼ +订 è´Ń +åįłæį® äºĨ +ä¸Ń éĢĶ +å° ĭ +é»ij 马 +åİ¿ åħ¬å®īå±Ģ +ä¸ĥ æľĪ +èī² ç´ł +å¿ĥèĦı çĹħ +æĹ¶ éĻIJ +æ¯į åħ¬åı¸ +å¹ķ åIJİ +ä¸Ĭ æ¦ľ +å̾åIJij äºİ +纸 ä¸Ĭ +æ¡ ĵ +éĽĨä½ĵ ç»ıæµİ +æĥħ å¢ĥ +è¦ģ åģļåΰ +ç©į 極 +åıª æĢķ +æ¹ĺ 西 +çļ± çº¹ +åħ¨ åľĭ +çĦ¡ è«ĸ +好 æĦŁ +åįķ ä»· +è¿Ľç¨ĭ ä¸Ń +æĺĨ ä»ij +åĪĽ 客 +åħħ æĸ¥ +åħĪ æĬĬ +该 æĢİä¹ĪåĬŀ +åĵģ å¾· +åħ¨éĿ¢ åıijå±ķ +è¨Ī åĬĥ +æĢ» å·¥ä¼ļ +ä½Ľå±± å¸Ĥ +æĬĹ è¡¡ +å¼Ģ åľº +éĴ± å¸ģ +åıĭ 们 +å«ī å¦Ĵ +ç´¢ èµĶ +è®Ĭ åĮĸ +æĮ¤ åİĭ +æĮij è¡ħ +çŃī ä¸Ģæī¹ +æĿ¨ 欢 +ä¸ĵå®¶ åѦèĢħ +èĥ½ è¾¾åΰ +èµ° è¿ij +è´«åĽ° åľ°åĮº +éĻIJ æľŁ +ä¸į 平衡 +åĽ½åĨħ å¸Ĥåľº +èµĽ åľº +éħį èµĦ +è¦ģ èĢĥèĻij +ä¸ĩ åı° +æľĪ æľ« +éĶ ¥ +åŃ « +æİ¥è§¦ åΰ +åĩº 产 +æķĻ åѸ +ä½ľ å¼Ĭ +çļĦ æľĢåIJİä¸Ģ +ä¿ĥ æĪIJ +åIJ¸ åıĸ +æ½ľ èīĩ +被 éªĹ +è¾ĵ äºĨ +çĭIJ çĭ¸ +åįĩ éĻį +è¿ĻäºĽ ä¸ľè¥¿ +æĬķèµĦ åŁºéĩij +çĶŁçī© åѦ +ç½ij绾 èIJ¥éĶĢ +åIJij è®°èĢħ +èįī åľ° +æĢ ¯ +æľįåĬ¡ èĥ½åĬĽ +éĥģ éĹ· +åįķ åĵģ +å¾Ĺ 罪 +æĺĵ äºİ +个å¤ļ å°ıæĹ¶ +éĩį ä»» +ä¸Ĭ å®ĺ +æľ¬ éĩij +çı¾ åł´ +溢 ä»· +æĺŁ è¾° +æ´»åĬ¨ çİ°åľº +丹 麦 +å¸Ŀ çİĭ +æŁ¥ æĺİ +åŃĺåľ¨ äºİ +é¦Ļ æ°´ +æĬ½ æ£Ģ +å®ŀéĻħä¸Ĭ æĺ¯ +æĸ° å¾ģç¨ĭ +è´¢åĬ¡ 管çIJĨ +æİ Ľ +åĨľ åİĨ +éĥ½ èĥ½å¤Ł +éĤ¯ éĥ¸ +羣 實 +ç» Ĭ +åĨµ ä¸Ķ +ç½® 身 +ç¥Ī 祷 +çĿģ å¼Ģ +æĮĩ çĤ¹ +å¼Ģ æľº +西 å®ģ +åĮĹ çº¦ +积 æ°´ +åĩº åĬ¨ +åıijå±ķ 模å¼ı +转 æĬĺ +èĢĥ çĤ¹ +æľī ç½ijåıĭ +è´«åĽ° æĿij +æĪij们 çŁ¥éģĵ +åĪĨ éĶĢ +å±± èĦī +æ¯Ķ æĭŁ +ä¼° ç®Ĺ +æĶ¹ 建 +壮 è§Ĥ +ç§ī æĮģ +æı ª +ç¦ Ģ +åĮĸåѦ åĵģ +ä¸ŃåĽ½ åζéĢł +ä¸Ģ æŀ¶ +æīį è¡Į +æĭĽ å¾ħ +åıĺ æį¢ +åīį 线 +幸 好 +è¿Ļæł· çļĦè¯Ŀ +å¿ĥ è¡Ģ管 +æĢ§ çĸ¾çĹħ +åħ¨ èĥ½ +åĪij 侦 +ä¿¡æģ¯ åıijå¸ĥ +æĺ¾ çĦ¶æĺ¯ +éĿĴ éĵľ +åIJĥ ä»Ģä¹Ī +ç͵ ä»· +æ³ķå¾ĭ è§Ħå®ļ +çħ ² +çĵ· åύ +èĤī ç±» +æıĴ åħ¥ +åĹ ľ +è¿Ł è¿Ł +ä¸ĢçĤ¹ éĥ½ä¸į +è¿ĺ åĮħæĭ¬ +èĪį ä¸įå¾Ĺ +æłĩå¿Ĺ æĢ§ +æľĪ 以æĿ¥ +ç³ĸ æŀľ +éĥ½ åºĶ该 +çݯå¢ĥ åį«çĶŁ +èĪª è¡Į +éĥij éĩį +ç½ij æĬķ +åįģ ä½³ +ç§ģ ä¸ĭ +æļ´ è·Į +åĬłå¿« åıijå±ķ +产åĵģ çłĶåıij +åĪĽéĢł åĩº +æĢ» è§īå¾Ĺ +åºķ çĽĺ +èķ Ĭ +åĩºå¸Ń ä¼ļè®® +主 æĿ¿ +æĹ¥æĻļ éĹ´ +å®ĺæĸ¹ å¾®åįļ +å¼ķç͍ æĹ¥æľŁ +åī¯ æķĻæİĪ +ç͵åŃIJ 产åĵģ +è¡° éĢĢ +çķĻ åŃĺ +çģ« åĬĽ +çĴ § +çļ Ĥ +åħ¼ åħ· +éĩį è¿Ķ +é¢Ĩ çķ¥ +åĪĩ éϤ +åĨįçĶŁ èĥ½æºIJ +å®ŀåľ¨ 太 +çIJĨ论 ä¸Ĭ +ä¸ī å±Ĥ +ä¸ĸçķĮ åIJĦåĽ½ +å®ľ æĺĮ +è̳ è¾¹ +宽 æķŀ +æ±ī æĹı +çϽ çϽ +è¿ĻéĩĮ éĿ¢ +çĶŁæ´» ä¹łæĥ¯ +èµŀ èµı +çĶ· 士 +ä¸Ń ä¿Ħ +车 祸 +åīĤ éĩı +éϤ åİ» +å·¦ è¾¹ +çŃij çī¢ +çīĽ å¸Ĥ +å®¶ åĬ¡ +åķ ĥ +ç½® æį¢ +ç´« å¤ĸ +ç´«å¤ĸ 线 +å¾Ģ åīį +åĬĽ åѦ +ç´§ è·Ł +缮çļĦ åľ¨äºİ +ç» ® +ç¥ Ĥ +宣 è¨Ģ +äºĮ æ°§åĮĸ +äºĮæ°§åĮĸ 碳 +æĹł ç¼ĺ +ç²¾ éĢļ +è¨ º +å¼ķåıij äºĨ +æľĢ åħĪ +æ´¾ é©» +ä¸į å¿į +æĪij çΏ +å¹´ ä¸ĭåįĬå¹´ +æ·ĭ å·´ +没 éĹ®é¢ĺ +åºĹ åĨħ +è·Ł æĪij说 +çĶŁäº§ çĶŁæ´» +è§Ĥ æľĽ +æ¸ į +被 æī§è¡Į +被æī§è¡Į 人 +èĪ ľ +æİ º +ä¸Ģ ç§Ĵ +èįī åĿª +åij¼ åĴĮ +åij¼åĴĮ 浩 +åij¼åĴĮ浩 çī¹ +人æ°ij éĵ¶è¡Į +çĦķ åıij +è¯ģåΏ 交æĺĵ +çķ Ķ +æľº èĥ½ +å¦ ¾ +æĻļ å¹´ +å·¥åķĨ èģĶ +åİŁ åŀĭ +è§Ĵ度 çľĭ +æĬ¥ 社 +è¯į æĿ¡ +躲 éģ¿ +éĩį åIJ¯ +å¤ķ éĺ³ +èĤ¡æĿĥ 转让 +åľ¨ ä¸Ģ +åľ¨ä¸Ģ æĹģ +社ä¼ļ åĮĸ +åıijå±ķ åİĨç¨ĭ +æĭĸ æ¬ł +使 èĢħ +ä¸İ åIJ¦ +æĸ° å±ĢéĿ¢ +ä»Ĭ天 æĪij们 +é½IJ èģļ +对 æĪij说 +éĢĴ 交 +æľª æĽ¾ +èİ Ĭ +éĸ ī +亲 æīĭ +è§Ĵ éĢIJ +æľī é»ŀ +ç¨İ çİĩ +ä½İ 声 +é»ĺ å¥ij +æĻ® æ³ķ +大 ä¸ĵ +第äºĮ 大 +ä½ı åĿĢ +æĶ¾ è¿Ľ +äºĮ æĪĺ +亲 身 +åĽº åĮĸ +ä¸ĭ 乡 +åħ³éĶ® æĬĢæľ¯ +åĽŀ æĥ³ +æĬ¥ åĪĬ +æ¶Ĥ æĬ¹ +èĹı çĿĢ +ç¥Ŀ æĦ¿ +åįĩ 温 +çĶļèĩ³ è¿ŀ +åħ¬åħĥ åīį +ç¾İ æĸ¹ +è¯ļ å®ŀ +æĹł åģ¿ +åīµ æ¥Ń +å°ıå¿ĥ 翼 +å°ıå¿ĥ翼 翼 +两 æīĭ +温馨 æıIJ示 +仿 羣 +æĥ ¶ +èĥ¡ åŃIJ +å·¥ä½ľ ç«Ļ +硬 çĽĺ +ç« ¿ +åĤ³ éĢģ +åħ¨ æł¡ +é²ľ æ´» +çĴĢ çĴ¨ +ç»ĵ å°¾ +æį¢ æĿ¥ +æĪ Ģ +ä½İ ä½į +ä¸ĩåħĥ 以ä¸Ĭ +åĬł åĪĨ +æİ¨ä»ĭ ä¼ļ +çIJĨ èµĶ +å¾· å°Ķ +æĬĹ è®® +æ´ ¼ +åĸ § +åŁİ éĻħ +å¾Ī æ£Ĵ +人 æŃ»äº¡ +ä¼ļå±ķ ä¸Ńå¿ĥ +äºĴèģĶ äºĴéĢļ +èĸĦ èĨľ +éĩį é»ŀ +ç¦ģ æ¯Ĵ +åĨ· ç¬ij +大家 åı¯ä»¥ +é¦ĸ 缸 +è¿ij è·Ŀ离 +æµ® çݰ +ç§ĺ è¯Ģ +èµ· é£ŀ +æIJ ¶ +羣 åģĩ +æģ ķ +å°ı åºĹ +æ°ij çľ¾ +åıijå¸ĥ åħ¬åijĬ +ä¾§ éĩį +å¾ĺ å¾Ĭ +æĢ Ķ +æª IJ +æķ° 缮 +åī¯ ç§ĺ书éķ¿ +两 åı¥ +éļIJ çŀĴ +åıĮ åıĮ +æīĭ æĦŁ +èij¡ 京 +éģĹ å¿ĺ +é¬ ¥ +è¿Ļ个 åľ°æĸ¹ +说 çļĦè¯Ŀ +å·¡ åĽŀ +è¿Ŀ 竳 +æī¾ å·¥ä½ľ +æĶ¯ çIJĥéĺŁ +裡 éĿ¢ +æĺ¾ç¤º åĩº +èĩ³ å°Ĭ +两 级 +åīį æ®µæĹ¶éĹ´ +çĺ¦ èº« +èĤ¢ ä½ĵ +æ¯į 親 +æīĭç»Ń è´¹ +汽车 è¡Įä¸ļ +æİ© çĽĸ +æİ§èĤ¡ éĽĨåĽ¢ +åı£ å¾Ħ +æĶ¿çŃĸ æİªæĸ½ +æµ· 绵 +åħ¨ éķĩ +äºĭ åħ³ +å¸Ń æī§è¡Į +å¸Ńæī§è¡Į å®ĺ +éĤ£ 次 +åı¯èĥ½ åĩºçݰ +ä¸Ńå¿ĥ åŁİå¸Ĥ +ç¿» 身 +ä¹Ł ç®Ĺ +ä¾µ çķ¥ +åĸĩ åıŃ +æ¯ı次 éĥ½ +è§ ħ +éĻ¢ éĻ¢éķ¿ +å§ĭ äºİ +èѦ åĬ¡ +èᝠæĿIJ +å±ł æĿĢ +æľ¬èº« å°± +éļıæĹ¶ éļı +éļıæĹ¶éļı åľ° +åĶ® åįĸ +æĹłäºº 驾驶 +é¢ ħ +åĵģ 質 +åĺ² ç¬ij +è·ij åİ» +åħĭ éĩĮæĸ¯ +çķ¸ å½¢ +ä¿® 饰 +磩 éĺµ +éŁ³ä¹IJ ä¼ļ +æŁ³ å·ŀ +é½ ¡ +ä¼ļ è°Ī +æŃ£ çīĪ +ä¹Ł åIJĮæł· +æļ§ æĺ§ +è¡ĮæĶ¿ éĥ¨éŨ +ä¹ĸ ä¹ĸ +èĤ¤ èī² +æĹ¶ ä»» +羣 åĪĩ +æľĪ ä¸ĭ +æľĪä¸ĭ æĹ¬ +举æĸ¹ è´¢å¯Į +è£ħä¿® åħ¬åı¸ +éĢĢ è¿ĺ +åĭĺ å¯Ł +åĵ¥ 伦 +åĵ¥ä¼¦ æ¯Ķäºļ +çĭ¬ ä¸Ģ +çĭ¬ä¸Ģ æĹł +çĭ¬ä¸ĢæĹł äºĮ +è°ĥ åij³ +åİĭ è¿« +åħ¨çIJĥ æľĢ大 +åī¯ æł¡éķ¿ +æĽ´ ä½İ +åĪĨéĴŁ åIJİ +åĽŀ ä¾Ĩ +åζ åīĤ +åijĬè¯ī 大家 +çĤ¹ éĴŁ +åįģä¸ī å±Ĭ +åij¨ åĽĽ +è¿Ļæł· ä¸Ģ +è¿Ļæł·ä¸Ģ æĿ¥ +èĭ Ł +æľĽ åİ» +æĪIJ è¯Ń +å½ĵ åį³ +ç¬ij 声 +ä¹ĭ åĬ¿ +åĪijäºĭ æ¡Īä»¶ +æĮĤ çĿĢ +ä½ķ ç§į +å°ı 游æĪı +åĽ½å®¶ æĪĺçķ¥ +åĨ· åĨ· +å®ľ 宾 +æIJº ç¨ĭ +è¶ĭ äºİ +åıį çľģ +常 说 +ä¸ĩ æĪ· +åĥµ å°¸ +åįĥä¸ĩ åĪ« +åıijçݰ éĹ®é¢ĺ +åı¯ çŁ¥ +éŨæĪ· ç½ijç«Ļ +åģ¥åº· 产ä¸ļ +åı³ è¾¹ +æµ· è¿IJ +è¿ij ä¹İ +åĮ» æ²» +æĢ» ç®Ĺ +ä¸Ģ åĪĨéĴŁ +æĭ § +ä¹Ł æľīä¸ĢäºĽ +ä¾Ľç͵ åħ¬åı¸ +å»ī ä»· +帮 ä»ĸ +æŃ¤æ¬¡ æ´»åĬ¨ +åıªèĥ½ 说 +èĬ ĭ +çīĩ 段 +åŃĺåľ¨ éĹ®é¢ĺ +ä½łä¼ļ åıijçݰ +è½® å»ĵ +ç½ij éĢļ +滨 æ±Ł +æİĪ ä¿¡ +é»İ æĺİ +ä¸į å±ŀäºİ +约 åįł +éķ¿æ²Ļ å¸Ĥ +èĥļ èĥİ +åħĥ ä»¶ +éĻĨ åĨĽ +è³¼ è²· +æĮĩ æľĽ +å®ŀä¹ł çĶŁ +çī¹çĤ¹ æĺ¯ +çıł æ±Ł +çľĭ ä¸įåĩº +ä¸įè§ģ äºĨ +ç¼ ī +éĺµ èIJ¥ +åĶIJ æľĿ +没 å¿ħè¦ģ +åĽ½åľŁ èµĦæºIJ +ç»ıæµİåѦ å®¶ +åIJĪèĤ¥ å¸Ĥ +çIJ¢ 磨 +ç¡® åĪĩ +åŁİå¸Ĥ åıijå±ķ +çŃ· åŃIJ +人æ°ij æľįåĬ¡ +满 åĪĨ +è¿· ä¿¡ +ä½ľèĢħ æľ¬äºº +æĸĩ竳 æĿ¥æºIJ +ç«Ļ ç«ĭ +æŀĦ æĪIJäºĨ +è¾Ľ åĭ¤ +è¶ħ 强 +éĶ ļ +åīįä¸ī åŃ£åº¦ +å°± è§īå¾Ĺ +å´ĩ é«ĺ +è¶Ĭ ä¾Ĩ +è¶Ĭä¾Ĩ è¶Ĭ +å¸Ĥåľº èIJ¥éĶĢ +综åIJĪ ç´łè´¨ +åŃ ļ +ä¾® è¾± +äºĮ åŃĹ +å·¥ä½ľ ä»»åĬ¡ +åı²ä¸Ĭ æľĢ +æľĢ ä¼ĺ +åIJ© åĴIJ +表 çϽ +èİ« åIJį +èİ«åIJį åħ¶ +èİ«åIJįåħ¶ å¦Ļ +å¹ £ +åIJĮå¿Ĺ 们 +建设 çĶ¨åľ° +åĦ Ģ +éħį åģ¶ +å¼ © +åͱ çīĩ +æīĭ èĦļ +åħ¼ ä»» +åģľ æĶ¾ +æŃ£ å®Ĺ +æĸ° åĨľæĿij +åĤ¬ çĶŁ +æīĢ åŃ¦æł¡ +念 ä½Ľ +åͤ éĨĴ +åħ± åĪĽ +æĭī ä¸ģ +èĥĮ çĿĢ +çĶŁæĢģ ä¿ĿæĬ¤ +åı£ 头 +æĸ¹åIJij çĽĺ +調 æķ´ +æĭĽèģĺ ä¿¡æģ¯ +åħ¶ä»ĸ åĽ½å®¶ +ç®Ģ æĺĵ +åĮ¿ åIJį +è¯Ħ æµĭ +æĺ¯ä¸Ģ 座 +çīµ æīĭ +è¶³ 迹 +çIJĨè§£ åĴĮ +æľĢ åıĹ +å¿ĥ è·³ +çζ 親 +éĿŀ常 åĸľæ¬¢ +èĭ¦ éļ¾ +æĬĢ å¸Ī +æ°ij æĦı +æĪĺ åĽ½ +æĽ¿ è¡¥ +æ´¥ è´´ +ä¸ŃåĽ½ ä¼łç»Ł +åIJĦ è¡Į +åIJĦè¡Į åIJĦ +åIJĦè¡ĮåIJĦ ä¸ļ +第äºĶ å±Ĭ +èį· èĬ± +æĦı èŃĺ +票 ä»· +åĪĨ æµģ +æĿİ çϽ +æ±Ł åĮĹ +æİĴ æĸ¥ +ä½ĵ éĩı +åĮħåIJ« äºĨ +åĪĺ æŁIJ +çݰ å¦Ĥä»Ĭ +å·¥èīº åĵģ +è¿Ļç§į æĸ¹æ³ķ +åĬŀåħ¬ 楼 +ç͵ å·¥ +çħ Ļ +åį¡ çīĩ +å¹´ å¹´åºķ +ä¸ĵ项 èµĦéĩij +åĮ» ç§ij +åĮ»ç§ij 大åѦ +åĽŀ头 çľĭ +ä¸į å±ij +èĩª 驾 +没 æĶ¶ +æīĵ çĮİ +èĦ¸ éĥ¨ +åıĥ èĢĥ +å°Ĩ 士 +è´«åĽ° 人åı£ +çIJĨæĥ³ 信念 +é£İ å°ļ +人æīį éĺŁä¼į +çij ¾ +æĿ¥ è¿ĻéĩĮ +æ´Ĺ 涤 +å¹´ èĸª +èĭį çϽ +ä¸ĩ äºĭ +课 æľ¬ +åºĵ éĩĮ +çī¹ æ´¾ +ç´¾ åijĺ +èµŀ ç¾İ +ç©¿ æĪ´ +製 ä½ľ +èµŀ æĪIJ +ä¸Ģ ä¾§ +å½ĵåľ° 人 +æĭ İ +纸 è´¨ +ä½Ļ 个 +éĶĤ çĶµæ±ł +æľº åŀĭ +éĻ¢ éϢ士 +åģļ å·¥ +å¼ł è´´ +ç¥Ľ æĸij +æ®ĸ æ°ij +å¥ij 约 +æ¹ĺ æ½Ń +æIJ ĸ +åŃĺ è´§ +交éĢļ 大åѦ +è¶ģ çĿĢ +æĸĩçī© ä¿ĿæĬ¤ +å¤ĩ æĪĺ +éĩĩ 纳 +åįĬ æľĪ +æľĢ åħ³éĶ® +æľĢåħ³éĶ® çļĦ +æİ¥ éĢģ +æĶ¶ åī² +åıį åĢĴ +çĥ Ľ +æ ½Ķ +ä¼Łå¤§ å¤įåħ´ +çļĦè¯Ŀ è¯Ń +容 å¿į +å®ļ éĩı +æķ Ĺ +åĵģçīĮ 形象 +æīŃ è½¬ +åĽ½å®¶ éĩįçĤ¹ +èĨĿ çĽĸ +ä¸Ģ 楼 +大 éϏ +éĤª æģ¶ +åĽŀ åij³ +çĮ ¿ +çĿ¡ åīį +æĹł è¾ľ +çĹħæ¯Ĵ æĦŁæŁĵ +æľºæ¢° åĮĸ +çĤ¹ 亮 +溶 è§£ +åĩłä¹İ æīĢæľī +è·ij éģĵ +ç͵è§Ĩ æľº +åı ¨ +æijĩ äºĨ +æijĩäºĨ æijĩ头 +èĩª è´Ł +综åIJĪ åĪ©ç͍ +èĩª å¦Ĥ +åİŁ ä¾Ĩ +ä¹Łä¸į æĥ³ +èĬĤ 课 +è¿ĩ åī© +çͲ çĬ¶ +çͲçĬ¶ èħº +æĸ° ä¸ĸ纪 +èĩªä¸» åĵģçīĮ +é«ĺ å±Ĥ次 +ä¸Ģ è§Ĵ +è¡Į äºĭ +ç¥ĸ åħĪ +å©ļ åIJİ +éĹ´ éļĻ +ç¼Ŀ éļĻ +è¿Ļ æĶ¯ +ä¸įæĸŃ åĪĽæĸ° +å¾® åŀĭ +æĽĻ åħī +享 ç͍ +ä¸ŃåĽ½ ç§»åĬ¨ +éĹŃ çݯ +æī§ æĦı +åıijå±ķ æł¼å±Ģ +æł¸å¿ĥ åĮº +éªļ æī° +åħļåĴĮ åĽ½å®¶ +ä¸ŃåĽ½ æĶ¿åºľ +帶 èijĹ +ä¸ĩåįĥ çĵ¦ +åħ© 人 +äºİæĺ¯ æĪij +åĽº ä½ĵ +çªģ å¦Ĥ +çªģå¦Ĥ åħ¶ +çªģå¦Ĥåħ¶ æĿ¥ +éĩĮç¨ĭ ç¢ij +çα ç¾İ +æŁ¥ éªĮ +åıĮ èµ¢ +éĹª åħī +楼 å®ĩ +æĻ ı +æľī è¶³å¤ŁçļĦ +æŁĶ æĢ§ +ä¿¡æģ¯ å®īåħ¨ +管 线 +å¹¶ ä¸įä¼ļ +åύ ä»¶ +ä½ł åºĶ该 +çĿĢ å®ŀ +æĺİ æ¸ħ +æĬĹ çĶŁç´ł +æīĵ æŃ» +å®Įåħ¨ ä¸įåIJĮ +èĬ± æ¤Ĵ +æĶ¾ 宽 +ä½İ 端 +åĽĽ èĤ¢ +åĮĹ京 èµĽè½¦ +éĽĨ å¸Ĥ +æľª å©ļ +大å¹ħ æıIJåįĩ +建çŃij 设计 +çĭ¬ æľīçļĦ +æİ¢ éĻ© +æ²³æµģ åŁŁ +æħķ 容 +被 çĽĹ +åĵº ä¹³ +èı ģ +æĥ¬ æĦı +è¶ĬæĿ¥è¶Ĭ 好 +广大 群ä¼Ĺ +å¾· èĤ² +å¸Ĥåľº ä»·æł¼ +奥 å·´ +奥巴 马 +èĬĤ缮 ä¸Ń +两 款 +ä¸ĩä½Ļ åħĥ +ç»´ å°Ķ +çĶŁçī© ç§ijæĬĢ +åIJ¬ èµ·æĿ¥ +çł ļ +æĭŁ å®ļ +æ²¹ çͰ +声 èªī +建çŃij ä¸ļ +éĻIJ è´Ń +çīĩ åŃIJ +çķľ ç¦½ +ç½ij é¦ĸ页 +ä¼Ĺ çѹ +æĴŀ åĩ» +åīį ä¸įä¹ħ +åīį ä¸ĸ +åĽĽä¸ª æĦıè¯Ĩ +æµĭ ç»ĺ +éĺ² ç©º +漫éķ¿ çļĦ +æ²IJ æµ´ +æ¯Ķè¾ĥ ç®Ģåįķ +æµĭ å®ļ +åĽŀ è°ĥ +让 人们 +èĴĭ ä»ĭ +èĴĭä»ĭ çŁ³ +ç»ĵ æĻ¶ +å¢ŀæ·» äºĨ +æĿ¡ è¯Ħ论 +åī¯ ä¼ļéķ¿ +ä½ı æīĢ +ç»Ļ åĩºäºĨ +è°ĥ éħį +æ² ĸ +æľī ç͍ +æľīç͍ çļĦ +ä¸ĢæĿ¡ é¾Ļ +éĩİ å¤ĸ +ç¼ĺ åĪĨ +æ°¸è¿ľ ä¸įä¼ļ +æŀľ æłij +大åıij å¿«ä¸ī +麻 éĨī +äºij éĽĨ +åİ» åĵªéĩĮ +åħ¥ å¸Ĥ +ä»» æĢ§ +建 æ¡£ +建档 ç«ĭ +建档ç«ĭ åį¡ +ä¸Ģ 棵 +社 åįĢ +缸 ä¼´ +åļ · +å¡« åħħ +ä¸Ģ æĹı +ç¾ ģ +åıĸ è¯ģ +èΰ éĺŁ +åİĤ åĮº +è¡· å¿ĥ +åıijå±ķ éĺ¶æ®µ +é«ĺ 强度 +åĹĵ åŃIJ +é¢Ĩ è¡Ķ +楼 主 +大 èĴľ +æŀķ 头 +ç²® æ²¹ +é»Ħ çĵľ +æĵ Ĵ +å°ı çĭĹ +æĶ¹éĿ© å§Ķ +åįģ åĪĨéĴŁ +é²ľ èī³ +åħ³ ç¾½ +çĭĢ æħĭ +å®ŀç͍ æĢ§ +å°ij è§ģ +é£ŀ æī¬ +çͰ éĩİ +æIJ Ĥ +è¿Ļ个 è¯į +åºĶæĢ¥ é¢Ħæ¡Ī +è§Ĵ度 æĿ¥çľĭ +æķ¬ çķı +æ³ķ å®Ŀ +åĸĦ æĦı +æīĵ æĸŃ +对 åĨ³ +çµķ å°į +åĢŁ æŃ¤ +å¼Ģ æºIJ +å°ı 說 +ç¥ º +å²ģ 以ä¸ĭ +éĢĢå½¹ åĨĽäºº +ä¸įä¹ħ åīį +åĩº åİĤ +讽 åĪº +æĿ¥çľĭçľĭ åIJ§ +éŃĶ åħ½ +çķĻ ä¸ĭæĿ¥ +å±ħ 室 +åłħ æĮģ +çľĭ äºĨä¸Ģ +çľĭäºĨä¸Ģ çľ¼ +éĽĨåĽ¢ æĹĹä¸ĭ +æĪĺ æĪĺç»ĦåIJĪ +è®¤çľŁ èIJ½å®ŀ +汽车 产ä¸ļ +çī©çIJĨ åѦ +æķ µ +éĴ Ŀ +åĽ¢ éķ¿ +ä¸įæĸŃ æī©å¤§ +èĤ© è´Ł +åıijå±ķ 缮æłĩ +è³ĩ éĩij +åīį ç½® +ä¸ŃåĽ½ åı¤ä»£ +æŃ» åĪij +åħħåĪĨ ä½ĵçݰ +åħ³ éŨ +ç¾İ æĦŁ +æīĵ åħ¥ +æĬijéĥģ çĹĩ +å°ij çĪ· +æłij æŀĿ +æ¶Īæģ¯ ç§° +æ´Ľ åħĭ +åį ¯ +è¿Ī åIJij +æİ¨ åĭķ +ä»İä¸ļ èĢħ +åİ» ä¹° +欢 å¿« +æĭ¥ æĮ¤ +马 æ¡¶ +æĬĬ æİ§ +æĶ¿ åħļ +å¼ł æī¬ +客 æłĪ +红 æĺŁ +éĢģ æĿ¥ +åħ¨åŁŁ æĹħ游 +èĩª ç§ģ +åįģäºĮ æĿ¡ +åı¹ æģ¯ +ä¸Ģ èīĺ +ä¿Ŀ è´¹ +æĸ½å·¥ çİ°åľº +æľī 幸 +ç»Ń èĪª +åı¯èĥ½ æľĥ +èĥĮ åıĽ +ä½£ éĩij +ä¸ī çŃīå¥ĸ +å¾Ī 满æĦı +游æĪı åľ¬ +群 éĩĮ +æŀĦ ä»¶ +åºı å¹ķ +太 æ¹ĸ +æľ¨ è´¨ +æĻĭ æ±Ł +çµĤ æĸ¼ +è·³ è·ĥ +åĢºæĿĥ 人 +çŃī 诸å¤ļ +æĶ¾ åĩº +åħ³éĶ® æĹ¶åĪ» +æĦŁæŁĵ èĢħ +é£ŀè¡Į åijĺ +èĥĨ åĽº +èĥĨåĽº éĨĩ +æĬ± æŃī +åij¨ äºĮ +æĸ° æĹ¶æľŁ +åĨ·éĵ¾ çµģ +è¿Ļç§į æĸ¹å¼ı +该 æĿij +åĽŀ é¦Ī +åŁºçĿ£ æķĻ +人 åıĤ +æŀ¯ çĩ¥ +æī¹åıij å¸Ĥåľº +åħħåĪĨ èĤ¯å®ļ +å¸Ĥ æĶ¿åįı +äºĭ æ¥Ń +龸 çİĭ +çĥŃ æIJľ +åįģä¹Ŀ 大 +ä¼´ æľī +ç¾İåĽ½ æĢ»ç»Ł +åŁİå¸Ĥ 管çIJĨ +ä¸ĭ 令 +èĥ¸ åı£ +åıª çŁ¥éģĵ +åij¨ ä¸ī +ç͍ æĪ¶ +éŃ ¯ +å¿ĥ è¡Ģ +带头 人 +åĮ» åĬ¡ +åĮ»åĬ¡ 人åijĺ +æİ§åζ åύ +ä½ľåĵģ åĨħ容 +æĪĺ åıĭ +åİĨ å¹´ +ä¸į åħĭ +ä¸įåħĭ ä¸įåıĬ +æĹ¥ æŃ£å¼ı +è±IJ å¯Į +ç¨İ è´¹ +æĹ¶ æķĪ +å±ķ ä½į +è¡¡ éĺ³ +æĪ¿ 貸 +çĪĨ 款 +ä¹IJ æĦı +çĶ· 主 +å¯ ¬ +æľĥ èѰ +ä¹ĭ å¤ľ +åIJĮ 樣 +ä¸įè¦ģ 太 +ä¼Ĭ æĸ¯ +ä¼Ĭæĸ¯ åħ° +åŁºæľ¬ åİŁåĪĻ +åİ» æİī +ä½İ ä¿Ŀ +个 交æĺĵ +个交æĺĵ æĹ¥ +èģĬ èģĬ +åĽĽ ä½į +åħļç»Ħ æĪIJåijĺ +主è¦ģ ä»İäºĭ +å½± éŁ³ +åĨĴ åĩº +åij¼åIJ¸ éģĵ +è¾¾ å°Ķ +æľ¨ åľ°æĿ¿ +诡 å¼Ĥ +çģ¯ åħ· +çģ« çĥ§ +è§£ èĦ± +æĦĪ åıij +æ¹ĸ å·ŀ +é£İ ä¿Ĺ +æĸ° å½¢åĬ¿ +æĸ°å½¢åĬ¿ ä¸ĭ +è² Ŀ +èĦ ĵ +åĬ¨åĬĽ çĶµæ±ł +é£ŀ èι +飧 æĢ§ +åĪ© çī© +åĪ©çī© æµ¦ +ä¸į 认è¯Ĩ +ç¼ĸ ç»ĩ +ä½ľ åĿĬ +èģĮä¸ļ æĬĢèĥ½ +çľĭ è¦ĭ +åĽ´ æ£ĭ +æĺı è¿· +å½Ĵ å±ŀäºİ +æĤ¬ å´ĸ +éĨ« çĻĤ +å®ĭ 代 +åºĦ æĿij +èĹ ķ +çĮĽ çĦ¶ +çĩĥæĸĻ çĶµæ±ł +å®ŀä½ĵ åºĹ +ä¸įè¶³ 以 +æĥħ ç· +æĥħç· Ĵ +å»Ĭ åĿĬ +ç͵ åı° +åºĶ åĬĽ +ä¸Ńå°ı åѦçĶŁ +èĥ¡ åIJĮ +éī´ åĪ« +åĨħ ç½® +ä¹± 象 +æ¬Ĭ çĽĬ +å¼ĢæĶ¾ å¼ı +åįļ æĸĩ +讲 课 +çŃī åİŁåĽł +ç©· 人 +交 æĽ¿ +æĬ¤ çħ§ +åıijå±ķ æľºéģĩ +客 åķĨ +åıį ä¹ĭ +ç±³ é¥Ń +å¹¶ åıij +å¹¶åıij çĹĩ +æ±ī åŃIJ +æŀľ åĽŃ +对æĪij æĿ¥è¯´ +åģı åIJij +æī¹ 示 +读 åIJİ +读åIJİ æĦŁ +æĺİ æĻº +åĽ´ çĿĢ +åıį 转 +æĿ¨ å¹Ĥ +ä¸ĵ åįĸ +ä¸ĵåįĸ åºĹ +åıĹ éĻIJ +åºŁ è¯Ŀ +æŀģ å°ij +åįĪ åIJİ +è¿Ľ ä¿® +åīĬ åĩı +æľ¬ç§ij çĶŁ +ä¼ĺ éĢī +åħī çħ§ +åıĻ äºĭ +åıĸ æļĸ +åĮĹ è·¯ +æ¦ ķ +èİĨ çͰ +楼 å±Ĥ +天 èĬ± +天èĬ± æĿ¿ +çĤ ľ +å·²ç»ı æľīäºĨ +è¶ ¾ +çͳ åįļ +ç͵ éĺ» +åĬŁ è¯¾ +æŃ¥ æŃ¥ +éĤ£ä¹Ī 容æĺĵ +æŃ¤ æĸĩ +ä½ ° +计 è¾ĥ +çīĩ éĿ¢ +ç͵影 éĻ¢ +ä¸į åħ¬å¹³ +ä¸ī æľŁ +æĹħ游 èµĦæºIJ +å¤ļç§į å½¢å¼ı +è£Ĥ ç¼Ŀ +åIJİ æİĴ +硬 度 +åĽŀ æļĸ +éģĵ æķĻ +è´« è¡Ģ +æ¸ħ é¦Ļ +伤 çĹħ +æĦı 義 +çļĦ ç¼ĺ +çļĦç¼ĺ æķħ +åºĦ 严 +åıªæĺ¯ 为äºĨ +æīĵ æĬĺ +以 ä¾Ĩ +滿 è¶³ +çİĽ 丽 +風 éļª +æĸĩ ç§ij +éħįå¤ĩ äºĨ +è¿Ľ é£Ł +æ¶ ¡ +è·¯ ç¨ĭ +åı« 声 +ä¸Ńå¿ĥ åŁİåĮº +æľīæīĢ ä¸įåIJĮ +å¼µ è²¼ +é¢Ħ æĬ¥ +æľīå¤ļ ä¹Ī +è¿Ľè¡Į åħ¨éĿ¢ +æĽ¾ ç¶ĵ +ä¸ī 代 +å®ı 大 +æ¸ħ æī« +éĢī åĩº +åĵª ä¸Ģ个 +主 義 +ä¾Ŀ æĵļ +çļ® éĿ© +èµ¶ æĿ¥ +çŃĽ æŁ¥ +æ¨ Ł +ä¿Ŀ èįIJ +åIJĥ æĥĬ +æľĭåıĭ们 对 +ä»ĸ æĺ¯ä¸Ģ个 +åºŁ æ°Ķ +æ» ħ +è´¢ ç¨İ +æĿij æĿijæ°ij +èµĦ产 è´ŁåĢº +å®ī å¨ľ +缮åīį åĽ½åĨħ +æĦŁè§ī èĩªå·± +çµIJ åIJĪ +éͦ æłĩ +éͦæłĩ èµĽ +æĽ´ æ·± +åŁº æķ° +éħ¿ éħĴ +çī¹èī² äº§ä¸ļ +åİĭ å®ŀ +ä¾Ŀæ³ķ 追究 +æ·¡ å®ļ +ç®Ģ缴 å°±æĺ¯ +å£ĵ åĬĽ +æ°ij å¿ĥ +ä¸į åIJĪéĢĤ +çͱæŃ¤ åı¯è§ģ +èµŀ èªī +æ¾ ¤ +åĩłå¹´ åīį +åIJī ä»ĸ +çł´ æįŁ +轻轻 åľ° +å²Ľ 屿 +æĦı å¢ĥ +ä»Ģä¹Ī åı« +åģĩ è£ħ +éĢģ è´§ +å¹ķ å¢Ļ +妥 åįı +åĽ½ æĹĹ +äºĨ å¾Īä¹ħ +åĪĨ辨 çİĩ +ç´ Ķ +éĺ³ åĮº +åĩŃ çĿĢ +åģľè½¦ ä½į +京 éĥ½ +éĶ £ +æĵ ¾ +è¿Ľ éŨ +åĪĺ æµ· +åĽĽ 级 +女 è¶³ +è¡ĮæĶ¿ 审æī¹ +éģ¥ æİ§ +ä¸į éĮ¯ +å¾Ĺ å¾Ī好 +为 缮çļĦ +ä»į æľª +ç²¾ è£ħ +éĢį éģ¥ +å°½ 头 +çºł ç¼ł +éłĺ å°İ +æĭħ è´Ł +æĪĸèĢħ åħ¶ä»ĸ +åıªä¸įè¿ĩ æĺ¯ +åı® åĺ± +åģĩ åĨĴ +æļĸ æ°Ķ +çĽIJ åŁİ +被 è§Ĩ为 +诺 è´Ŀå°Ķ +ç»ĻäºĨ æĪij +è¿ij åįĥ +éĩį åĽŀ +éĨĴ äºĨ +ç͵ è§£ +忽çķ¥ äºĨ +èĥĮ éĥ¨ +æĸĩæĺİ åŁİå¸Ĥ +æº ħ +è² ĵ +æĬµ æĮ¡ +åĸľæ¬¢ åIJĥ +éĿĻéĿĻ åľ° +å¾Ī æ·± +åŁºç¡Ģ çŁ¥è¯Ĩ +è¿ĩ éĶĻ +çIJĨ ç§ij +交æµģ åIJĪä½ľ +èĪ Ķ +調 æŁ¥ +æħĪ æĤ² +éĴ ° +èĩ´ ç͵ +å®£ä¼ł æ´»åĬ¨ +åıĺ éĩı +çļĦ人 æĿ¥è¯´ +æĹ¶ éļĶ +ä¸į管 ä½ł +缸 è¿ij +è´µ éĩijå±ŀ +ä¹Łä¸į åı¯èĥ½ +ç²ī æľ« +åįĹ çĵľ +çϽ 马 +åħī æºIJ +éĩij å¥ĸ +çĭ¬ è§Ĵ +çĭ¬è§Ĵ åħ½ +妨 ç¢į +ç»Ļ åĬĽ +ä½Ĩ ä»į +å¼łå®¶ åı£ +èIJ¬ åħĥ +渲 æŁĵ +éķ¿å¤§ äºĨ +è®°èĢħ äºĨè§£ +æĢĢ çĿĢ +è¦ģ åѦä¼ļ +游æĪı 代 +游æĪı代 ç»ĥ +äºĮ çϾ +æĦıè¯Ĩ å½¢æĢģ +çİ º +计åĪĴ çĶŁèĤ² +æī¾ åĩĨ +åħ° èĬ± +è¿Ļ座 åŁİå¸Ĥ +污 æ³¥ +å®ĺæĸ¹ 微信 +å½Ĵ å±ŀ +æ°§ æ°Ķ +éģİç¨ĭ ä¸Ń +åį°è±¡ æ·±åĪ» +稳 妥 +çµIJ æĿŁ +åŃķ æľŁ +çī¹ æĿĥ +åĿļ åĽº +顺 åĬ¿ +æŀľ èͬ +éĨ« 師 +åİ ® +ä¹Łæĺ¯ å¦ĤæŃ¤ +é¦Ĵ 头 +缸 åĬ© +å¹² 线 +ä¸Ģ æľ¬ä¹¦ +ç» ¥ +æĮ¯ å¥ĭ +èĤ¾ èĦı +åĭķ çī© +é£ŀ è·ĥ +èıľ åĵģ +å¤ļ ä½Ļ +å¤ļä½Ļ çļĦ +éĢĿ ä¸ĸ +æģĭ 人 +å¼Ģåıij åĪ©ç͍ +顺 丰 +éĩİ å¿ĥ +æł¡ å¤ĸ +æģIJ é¾Ļ +éĿ¢ åħ· +éķ¿ è¾Ī +éļı å¤Ħ +éļıå¤Ħ åı¯è§ģ +ç´§ 缺 +éĩį ä¸Ń +éĩįä¸Ń ä¹ĭ +éĩįä¸Ńä¹ĭ éĩį +奥 æĸ¯ +奥æĸ¯ åį¡ +ä¸Ģ个 å¤ļ +ä¸Ģ个å¤ļ æľĪ +ä¸įåı¯ 缺å°ij +æĸ° æł¼å±Ģ +æıIJ æĮ¯ +è¡Į è´¿ +æ¼Ĥ æµģ +èģĬ åŁİ +åħ´ 建 +è´¨ æ£Ģ +ç§ģæľį 游æĪı +æĽ´ éĩįè¦ģ +è´ ® +çħ ľ +转åıĺ 为 +è¿Ļ 两年 +ä¿Ŀ é²ľ +æī§ æķĻ +çĥ ¨ +å¼Ģåıij 建设 +è¿IJèIJ¥ 管çIJĨ +误 å·® +京 åī§ +å¸IJ åı· +å·¥ä½ľ ä½ľé£İ +ä¸ĸ ä¿Ĺ +çϽ 宫 +天 åĽ½ +å¤©åĽ½ ç»§ç»Ń +å·´ æĸ¯ +èIJ¥ åĪ© +åĵģ æł¼ +æĿijæ°ij 们 +æĪ¿ 车 +çŃī çĹĩçĬ¶ +å¦Ĥ å®ŀ +å® ¸ +å±Ĥ 级 +éĶĻ è¿ĩäºĨ +ç»ĵ å®ŀ +ç¬ij èĦ¸ +羣å®ŀ æĢ§ +éĥ½å¸Ĥ æĬ¥ +é¥Ń èıľ +åºĶ 注æĦı +æĬ½ çĥŁ +伪 éĢł +åīį ä¸Ģ天 +éŃĶ é¾Ļ +éŃĶé¾Ļ 令çīĮ +约 è°Ī +绣çѹ æİ¨è¿Ľ +让 ç͍æĪ· +åħ¨éĿ¢ èIJ½å®ŀ +å¼Ħ å¾Ĺ +è°Ī æģĭçα +鸣 æĪIJéķ¿ +鸣æĪIJéķ¿ è®° +æ´ĭ æ´ĭ +çĸı æķ£ +éĿ¢ç§¯ 约 +æµĵ 缩 +æĸ¯ é¡¿ +çĶŁæĢģ åľĪ +æī§ 导 +ç§» éĢģ +齿 è½® +æł¹æľ¬ å°±ä¸į +缩 åĩı +èµ° ä¸ĭåİ» +çĿ« æ¯Ľ +ä¹Łä¸į éĶĻ +åıįæĺł åĩº +èĭ¦ æģ¼ +缸åħ³ æĶ¿çŃĸ +é«ĺ 楼 +ç²ī èī² +æĬķèµĦ é¢Ŀ +ä¸į ç»ı +ä¸įç»ı æĦı +å®ģ æĦ¿ +èĪĮ 头 +æ»ĭ çĶŁ +å®ģ åİ¿ +åīįåĪĹ èħº +åĩ ³ +é£Ł 欲 +åıĸ èĥľ +éĻ¢ åŃIJ +ç´łè´¨ æķĻèĤ² +滨 å·ŀ +æĬ¢ æĬĵ +å¼Ĥ åij³ +åĴ ļ +åĬ į +宽 éĺĶ +æļ´ 涨 +æĥł åıĬ +è§Ħ ç¨ĭ +ä¾Ľ åħ» +éĢģ å¾Ģ +å±± åºĦ +举 äºļ +å±ķ é¦Ĩ +è§£ éĶģ +æĹł è§Ĩ +éĻį èIJ½ +è¿ŀ äºij +è¿ŀäºij 港 +åıĤ è°ĭ +çİ ĸ +ç¬ ĥ +èĢĹ è´¹ +æī¿ å¾· +社ä¼ļ æķĪçĽĬ +åįĹæµ· ç½ij +åĪĽ 伤 +èIJ ± +åħħ æ²Ľ +ç½ijç«Ļ 建设 +大 åºĨ +åĨį éĢł +åŃĹ æł· +åħ¨æ°ij åģ¥èº« +èĮ« èĮ« +æµ® åĬ¨ +åīį åı° +å¢ŀ 设 +éĢĽ è¡Ĺ +åĢĴ éĹŃ +æ³ķå¾ĭ 顾éĹ® +çĸ ® +çĹħ çĹĩ +空 åīį +请 æķĻ +èĥľ ä»» +æĿĢ èıĮ +æĪĺæĸĹ æľº +ç»ĺ åζ +å¤Ħ æĸ¹ +çªģ åĽ´ +çĮ« åĴª +æĬ¥åijĬ æĺ¾ç¤º +ç¿ Ł +çķ¶ åľ° +æľĢ éļ¾ +纪 å§Ķ书记 +ä½İ åİĭ +èĻļ 空 +è¿Ļéĥ¨ ç͵影 +产ä¸ļ åįĩ级 +è°· çα +è°·çα åĩĮ +æĬ¼ éĩij +女 æĸ¹ +éĴ» çłĶ +æļĹ æļĹ +è¿· ä½ł +æīĢ è¬Ĥ +å¨ģ å»ī +å¼Ģ æľĹ +å² Ķ +çģ« çĤ¬ +åIJĪçIJĨ æĢ§ +åħ¬ åĬŀ +ä¼ļ ä¼ļéķ¿ +éĺ´ è°ĭ +å¼Ģ å±Ģ +æĻ®éĢļ è¯Ŀ +åį¡ æĭī +å°ij åIJĥ +éĹª èĢĢ +æŀľ æ±ģ +æī§è¡Į åĬĽ +è° Ľ +æĬ¢ åĬ« +é«ĺéĢŁ åıijå±ķ +éŁ ¬ +åįĹ æ²Ļ +é«ĺçŃī åŃ¦æł¡ +æį¢ 个 +åı¯èĥ½ åŃĺåľ¨ +æĬ Ĵ +è°± åĨĻ +被 æĬĵ +æĿ¯ åŃIJ +èĬĤèĥ½ åĩıæİĴ +æ°ĶåĢĻ åıĺåĮĸ +åĪĨ åĪ¥ +ä¸Ń æŀ¢ +欢 åij¼ +åħī 纤 +è¿Ļ 群 +çľ¼ çķĮ +åħ±åIJĮ åıijå±ķ +çݰ ä»Ĭ +éĹ» è¨Ģ +çī¹èī² å°ıéķĩ +æķij 人 +éĻį æ°´ +ä¸ĸçķĮ ä¸Ģæµģ +å°± é¤IJ +çŀ ¥ +å¤į ä»ĩ +ç¾½ æ¯Ľ +ç¾½æ¯Ľ çIJĥ +è´© åįĸ +æºIJ æ³ī +æĢ»ä½ĵ è§ĦåĪĴ +åĬ¨ æĦŁ +ä¸Ģ 审 +åĢŁ éĴ± +è§ģ æķĪ +èĬ± èįī +åIJĮ ä¸ļ +æŁ¥ è©¢ +åĽ½éĻħ åIJĪä½ľ +ä¾Ľ åĽ¾ +åģ ´ +æł ĵ +缸 éĢļ +è°Ī åıĬ +è¿ĩç¨ĭ å½ĵä¸Ń +é¦Ļ èıĩ +åįģåĽĽ æĿ¡ +ä¸Ģå¼Ģå§ĭ å°± +ä¸ĵ åijĺ +æĺİ é¡¯ +æīĵéĢł åĩº +ä¸ĭéĿ¢ æĪij们 +æľº æ²¹ +åı° è¯į +åŃIJ å¼Ł +æľĢ 常è§ģçļĦ +æĪij è®°å¾Ĺ +ç» ° +æĤ¬ æµ® +è¿ĺ 羣æĺ¯ +æĮĤ åı· +åıĭ åĸĦ +éĩį 伤 +çħ§ 亮 +æŃ¦ èѦ +åĩºçݰ éĹ®é¢ĺ +è¸Ĭ è·ĥ +åľ°çIJĥ ä¸Ĭ +å¸Ĥ 人大 +åıĹ害 人 +å² IJ +åIJĮ åѸ +éĩijèŀį å¸Ĥåľº +æľīçļĦ çݩ家 +å¸Ĥ æķĻèĤ² +å¸ĤæķĻèĤ² å±Ģ +åIJĦ å¼Ĥ +ç·ļ ä¸Ĭ +æģ º +æľī 大éĩıçļĦ +åķĨ æĬ¥ +åįķ åįķ +åħ¨ é¢Ŀ +ä¾ĿæĹ§ æĺ¯ +好 åĩłä¸ª +åĸ µ +éĩį æķ´ +çĶŁæ´» è´¨éĩı +æİ¢ 访 +åį° èĬ± +缼 è¡Į +å¾® è§Ĥ +èĪį å¾Ĺ +åºŁå¼ĥ çī© +积 èĵĦ +å®ļ å±ħ +æĤ ¼ +èĮ ¸ +çļĦ 帮åĬ© +çļĦ帮åĬ© ä¸ĭ +亿 åIJ¨ +åŃĶ éĽĢ +è¿ĻæĿ¡ è·¯ +é¥ µ +æĦĪ åĬł +éķ į +ä½ľ æ¡Ī +èįĶ æŀĿ +太 å°ij +è·» 身 +åħ¬çĽĬ æ´»åĬ¨ +çϽ æĸij +æĬĢæľ¯ æ°´å¹³ +å¸ § +æĹł çŁ¥ +åºĶ该 æĢİä¹Ī +éĢĢ å¸Ĥ +æ¸ Ń +åħ» çĮª +é© ¼ +群 å²Ľ +大 åį« +ä¹ĺ çĶ¨è½¦ +èı² å°Ķ +è´´ åIJ§ +åģľ ä¸ĭæĿ¥ +æľīæľº ç»ĵåIJĪ +åĪ» èĭ¦ +çļĦ åľ° +çļĦåľ° æŃ¥ +è¯Ĭ æīĢ +å¼Ģ æĪĺ +èĢģ çīĮ +çѹ çłģ +åħ«å¤§ 以æĿ¥ +楼 æĪ¿ +åŃĻ æĤŁ +åŃĻæĤŁ ç©º +åħĴ åŃIJ +第ä¸Ģ æĿ¡ +社交 åªĴä½ĵ +æĥ³ èµ·æĿ¥ +大 æ´ĭ +æĭ¼ éŁ³ +è¿Ľ åįļä¼ļ +è¿ĩ åħ³ +æ² ¼ +ç©¿ æIJŃ +éĤ£ ä¸Ģ天 +çł´ éŨ +æĬķæłĩ 人 +èµ¢ å®¶ +èĻļ å¼± +æ¿ ĥ +å®ī æ£Ģ +客 å®¶ +çĭ¬ç«ĭ èij£äºĭ +æīĭ åĬ¿ +åīµ éĢł +åľĨ满 å®ĮæĪIJ +为主 线 +好å¥ĩ å¿ĥ +é¢Ĩ åľŁ +çª ĸ +åħ¸åŀĭ æ¡Īä¾ĭ +çªģåıij äºĭä»¶ +åºķ æ°Ķ +头 æĻķ +å®Ľ å¦Ĥ +è§ ¸ +æ¸ħ æ·¡ +åļ ¼ +åģľ ç͵ +ç²ī å°ĺ +éĻįä½İ æĪIJæľ¬ +æĶ¾ æīĭ +è®°èĢħ 表示 +æĭĸ å»¶ +éª ĩ +æ®ĭ å¿į +çľģ æķĻèĤ² +çľģæķĻèĤ² åİħ +é«ĺ é¢Ŀ +éĦ Ļ +æ¥ ŀ +åĨħ ç§ij +èIJ¥ä¸ļ é¢Ŀ +åŁº çŁ³ +æµģ æ·Į +主 æĹ¨ +éĺIJ éĩĬ +建 åįİ +æĥĬ åı¹ +çī¢åĽº æłijç«ĭ +æĺ¯åIJ¦ åŃĺåľ¨ +建 åĨĽ +éĽ¾ éľ¾ +åħ¬ 认 +åħ¬è®¤ çļĦ +æ°¨ åŁº +æ°¨åŁº éħ¸ +åīį åĩłå¹´ +åι éĤ£ +æ±Ł 举 +å·¥ æ¥Ń +ä¸ĢçĤ¹ ä¹Łä¸į +ä¿® 士 +äºĨä¸Ģ éģį +åĪ ģ +æ»ļ æ»ļ +åĪĨ æł¡ +羣 çα +è¡Ģ èĦī +æĢ¥ åī§ +ä¸Ģ群 人 +ç¾ ¯ +æĪIJ é¾Ļ +ç²¾ç¥ŀ çĹħ +缸åħ³ 人åijĺ +éĿĵ 丽 +ä¸ī åŃ£åº¦ +åĪĴ å®ļ +ä¸ĸçķĮ 第ä¸Ģ +éĢļ ä¿Ĺ +åķĨä¸ļ åľ°äº§ +åĬŁèĥ½ æĢ§ +èµĦæľ¬ 主ä¹ī +详 è§ģ +æĬĵ æįķ +æĸĩ æĺĮ +å®Ŀ å®ī +è£ħéħį å¼ı +æºIJ æºIJ +æºIJæºIJ ä¸įæĸŃ +çĶŁ æĢķ +纵 åIJij +å£ ½ +çľ¼ è¢ĭ +èĤī ä½ĵ +åı¤ ä»Ĭ +èŀį åªĴä½ĵ +åģ ī +æł¼ æľĥåĵ¡ +çĥ · +åĬŁ ç͍ +æīŃ çŁ© +绿èī² éĢļéģĵ +åī§ ç»Ħ +å¼± åĬ¿ +è´¨éĩı éĹ®é¢ĺ +éĻIJ é¢Ŀ +éª Ĩ +éģµ ä¹ī +å¯Ŀ 室 +æĥ³ 念 +åł± åijĬ +ä»ħ 次 +ä»ħ次 äºİ +èŀį åĪĽ +æĭĽèģĺ ä¼ļ +åºĬ åŀ« +转åŀĭ åıijå±ķ +ä¸ŃåĽ½ çĶµä¿¡ +åIJ¬ è¯Ŀ +è«ĭ æ±Ĥ +大éĥ¨åĪĨ 人 +æ´» å¾Ĺ +åĵŃ æ³£ +è¶ Ļ +åıijçĹħ çİĩ +ä¸į 符 +åĨĽ å®ĺ +é¢Ī æ¤İ +æĸ°åĨł çĸ«æĥħ +æŁ¬ åŁĶ +æŁ¬åŁĶ 寨 +ä»»ä½ķ å½¢å¼ı +人 éĻħ +人éĻħ åħ³ç³» +æĢ» æī¿åĮħ +å¹³åĿĩ æ¯ı +æģŃ åĸľ +åĦ ĺ +åħµ 马 +è¿Ł åΰ +å·¥ 伤 +çīĪæĿĥ å½Ĵ +çīĪæĿĥå½Ĵ åİŁ +æĭ¥ æĬ¤ +ç³Ĭ æ¶Ĥ +å¹² æ¶ī +å°ij ä¸įäºĨ +æĥ³ æī¾ +è´¹ çİĩ +该 éĻ¢ +èŀį åĮĸ +è¿İ åIJĪ +è§ĨåIJ¬ èĬĤ缮 +æł¼ ç¶²ç«Ļ +çľī æ¯Ľ +欢è¿İ 大家 +å®¶åºŃ æķĻèĤ² +ä¾µ èļĢ +ç»Ļ ä½łä»¬ +è¡Ģæ¶² 循çݯ +å¯Ħ æīĺ +å°ĸ åı« +以ä¸ĭ åĩłä¸ª +è¿ĺ 以为 +åħ¶ä»ĸ çݩ家 +ç¬ij ç¬ij +æīĵ åIJ¬ +èĩªçĦ¶ ç§ijåѦ +åŁº ç«Ļ +ä¹Ŀ å·ŀ +ä¿Ŀ 驾 +ä¿Ŀ驾 æĬ¤ +ä¿Ŀ驾æĬ¤ èĪª +æĶ¾ çľ¼ +çŁ¥åIJį ä¼ģä¸ļ +ç¸ ® +ç¨ ½ +æļ ĩ +使ç͍ 網路 +é¢Ħ çķĻ +大 象 +åıijæĺİ ä¸ĵåĪ© +æĸĩ 娱 +éĢł ç¦ı +湿 润 +éĿ¢ æĿ¡ +æ¶Īè´¹ åįĩ级 +è®Ĭ å¾Ĺ +åĩł åIJį +ä» Ħ +认 æ¸ħ +è¿ľ æĻ¯ +æıĴ 座 +诸 侯 +åıĺ æĢģ +ç¦ı 彩 +è´§ æŀ¶ +失 æİ§ +ç§»åĬ¨ 端 +ä¸Ĭ åı¸ +éĢł 纸 +å¸ĥ æľĹ +çĴ ĩ +åı° åįĹ +åĮĹ京 åĨ¬å¥¥ +èĵĿ çīĻ +éķ¿ çŁŃ +æĬĺ å°Ħ +ç»ij æŀ¶ +å¯Ĵ åģĩ +转 åŁºåĽł +æĢ¥ äºİ +æŃ£ åĵģ +åħħ 滿 +大 纲 +æĬĹ ä½ĵ +è¨ĵ ç·´ +æĶ¶ ç´§ +æ¯Ķ è³½ +åħµ åĬĽ +æľ¬ æĽ¸ +äºĮ 代 +æĢ¥ è¯Ĭ +æĸĩ æ¡Ī +ç»ı åķĨ +æĻ¨ æĬ¥ +æ£ ĺ +æĢ»ä¹¦è®° åľ¨ +åıĹ éĤĢ +äºĶ åĽĽ +å²Ń åįĹ +çα åIJĥ +åŁĥ å°Ķ +å¿ĥ å¢ĥ +è¦ĨçĽĸ éĿ¢ +å®ŀåľ¨æĺ¯ 太 +æł¹ åºķ +纷纷 表示 +åĹ ħ +éļıçĿĢ æĹ¶éĹ´ +åİĨåı² æĤłä¹ħ +éħ ī +æĢ» éĺŁ +主é¢ĺ æ´»åĬ¨ +éĹ® åį· +é©¿ ç«Ļ +æı¡ ä½ı +åı¯èĥ½ 导èĩ´ +æ°ij éĸĵ +éĸĭ åķŁ +ä½Ĩ ä¸įéĻIJ +ä½Ĩä¸įéĻIJ äºİ +åįģ éĩĮ +å¨ ¥ +æįŁ èĢĹ +çĸı 导 +çݯ æ°§ +ç¥ŀ éĢļ +çα å°Ķ +çαå°Ķ åħ° +æľ´ å®ŀ +å¿« æĬ¥ +æĶ¶ åıĹ +æĪĸ 許 +èĥĮ éĿ¢ +æĸĩåĮĸ ä¼łåªĴ +ä¸ī åĢĭ +æĶ» åĬ¿ +å®ī 举 +å®ī举 å°¼ +åĿĩ å·² +顾 èĻij +éĦ Ń +è¿Ļå®¶ åħ¬åı¸ +åħ¬åijĬ ç§° +æıIJä¾Ľ ä¼ĺè´¨ +稳æŃ¥ æİ¨è¿Ľ +å¤į è¯ķ +å°Ĩ é¢Ĩ +è°Ī èµ· +å¨ Ħ +è¿ŀ 线 +æ©Ł éĹľ +åºĶç͍ åľºæĻ¯ +çĶ» åĥı +è´¢ è¿IJ +ä¿Ŀ éļª +çĹħ çIJĨ +æ¯Ľ 主å¸Ń +ä¸Ŀ 毫ä¸į +çα å¥ĩ +çαå¥ĩ èīº +ä¸ĵå®¶ ç»Ħ +åij¼ åͤ +éĭ ¼ +çģ ¸ +é¢ĨåħĪ åľ°ä½į +æıIJ æĭĶ +龸 éģĵ +å±± åĿ¡ +èĿ İ +沸 èħ¾ +该 项 +ä»Ĭ çĶŁ +ä¸Ģç¯ĩ æĸĩ竳 +æĸ¹å¼ı è¿Ľè¡Į +é»ij 客 +æĶ¹ åĬ¨ +主 é¡Į +æķ£ å¸ĥ +ä»Ģä¹Ī åľ°æĸ¹ +åĮĸ åIJĪ +åĮĸåIJĪ çī© +éĿĻ ç͵ +æĢ» æĶ¶åħ¥ +å§Ķ ç»Ħç»ĩ +å§Ķç»Ħç»ĩ éĥ¨ +éĿĻ æĢģ +èĢģ åŃĹåı· +室 åıĭ +éĥ½ä¸į æķ¢ +æŀ¶ åŃIJ +çģµ æķı +审 è§Ĩ +æĤ£ åĦ¿ +å±± 寨 +èĸª èµĦ +é©° æı´ +éĥ¨åĪĨ åĨħ容 +好 ä¼¼ +æĪIJåijĺ åĽ½ +åľ¨æĪij çľĭæĿ¥ +åħ³æ³¨ 度 +éĻĪ æŁIJ +è¿Ļç§į äºĭæĥħ +éĢī å®ļ +ç²¾ åŃIJ +å£ģ çĶ» +æ±Ł æ·® +é«ĺ æĺĤ +æł¼ åĬĽ +è¼ © +åѦ åłĤ +æĤ¨ åIJĮæĦı +ä¸ĢåĪĩ éĥ½æĺ¯ +æ½ ¤ +éĸ ĥ +å¸ĮæľĽ èĩªå·± +ä¿ ĺ +æ±Ł åİ¿ +æ³ ¾ +ç§ij æķĻ +æīĵ è¿Ľ +ä¸į æħİ +å¯Ĵ åĨ¬ +æ¸Ķ æ°ij +鼷 æĸ¯ +主 å®° +æĹħ游 度åģĩ +ç͵åŃIJ éĤ®ä»¶ +æ±Ĥ å©ļ +éļİ æ®µ +åģ¥èº« æĪ¿ +注æĺİ åĩºå¤Ħ +äºĭæķħ åıijçĶŁ +级 以ä¸Ĭ +åŃĺ æ´» +æĸ½ èĤ¥ +èľľ èľĤ +åµ © +æĮĸæİĺ æľº +æĬĹ æĭĴ +ä¼ł 导 +æĺ¯ä»Ģä¹Ī åij¢ +ä¸Ĭå¹´ åIJĮæľŁ +建 åħļ +çĶŁ æħĭ +ä¿Ŀ ä½ı +款 车åŀĭ +人 èĦī +éļIJ èͽ +失 æķĪ +éģ¿ åŃķ +ç®Ģ 便 +谢谢 ä½ł +å®Ī ä½ı +æĶ¾ æĺł +è¨Ī çķ« +çݰ代 çµģ +é¤IJ 廳 +æķħ å±ħ +大 大å°ı +大大å°ı å°ı +çī¹åĪ« 声æĺİ +éģį åıĬ +å¿ĥçIJĨ åĴ¨è¯¢ +è³ ´ +çĮ® è¡Ģ +å·²ç»ı è¾¾åΰ +æīĵ æĭĽåij¼ +åıĮ è¾¹ +ä¸Ģæĸ¹éĿ¢ æĺ¯ +å´ĩ å°ļ +éĺ¿ å¯Į +éĺ¿å¯Į æ±Ĺ +æĮģ æľī人 +è± ģ +é£İ çŃĿ +åĬ¨ èį¡ +äºĨä¸Ģ ä¼ļ +äºĨä¸Ģä¼ļ åĦ¿ +ä¸ĩ 象 +çľĭ ç͵è§Ĩ +åįģä¸ī æĿ¡ +çĮĽ çĥĪ +è¦ģ ä¸įçĦ¶ +太æŀģ æĭ³ +å¼ķ çĪĨ +ç»ıè¿ĩ å¤ļå¹´ +游æĪı éĩĮçļĦ +é¾Ļ æ³ī +æłĩ éħį +è®ĵ ä»ĸåĢij +éĢł æŀĹ +åĮºåŁŁ æĢ§ +亿 ä¸ĩ +æĪĺçķ¥ å¸ĥå±Ģ +éķĩ æĶ¿åºľ +åĶ® 票 +çĶŁäº§ å·¥èīº +éķĩ åħļå§Ķ +ä¸Ńå°ı åŀĭ +æľ¨ è̳ +æ²³ è¾¹ +èĦ¾ èĥĥ +欢è¿İ æĤ¨ +åıĺ å¼Ĥ +缤 纷 +åŀĥåľ¾ æ¡¶ +辩 è¯ģ +车 åºĵ +æ¯Ķ çİĩ +åħ´ æĹº +详ç»Ĩ äºĨè§£ +å®ī å±ħ +çħ§ æĸĻ +æĸ¹ æīį +èµ ¦ +åĨ ķ +å¥Ķ èµ´ +å®Ŀ 鸡 +åľº åĿĩ +缮åīį æŃ£åľ¨ +åIJŀ åϬ +è¿° èģĮ +æĩ µ +å¥ĩ çijŀ +ä»į å°Ĩ +èĪī 辦 +å·¥åķĨ å±Ģ +å¡ij èĥ¶ +åĬŀ å®ŀäºĭ +æĸ¹ æĸ¹éĿ¢ +æĸ¹æĸ¹éĿ¢ éĿ¢ +æĸĩåĮĸ èĬĤ +åħ¥ èģĮ +é¸ ¥ +ç©¿ éĢı +以 ä¹łè¿ijå¹³ +åį± éļª +æľ¦ èĥ§ +åİĨåı² æĢ§ +æķŀ å¼Ģ +ä¼Ļä¼´ åħ³ç³» +çŁ¿ åĮº +åĽ½éĻħ åľ¨çº¿ +ä¼łå¥ĩ éĩĮéĿ¢ +è¿ij äºĽ +è¿ijäºĽ å¹´ +åĬ£ åĬ¿ +æĶ»åĩ» åĬĽ +æĻº éĢł +ç¦ § +çİĭ åħĪçĶŁ +éĨ« çĶŁ +åĽĽ 项 +å®ŀ æĻ¯ +åĪĿ åĪĽ +å¿ĥ 裡 +æĻ¶ ä½ĵ +交 éĻħ +让 æ¶Īè´¹èĢħ +课 æĸĩ +æİĴ æ°Ķ +å¹¶ä¸į æĦıåij³ +缸 声 +第ä¸Ģ å±Ĭ +åİŁ èijĹ +éĽ ľ +没æľī 太大 +è¡¥ æ°´ +çµģ ä¼ģä¸ļ +第äºĮ æī¹ +åħ¶å®ĥ éĹ®é¢ĺ +æİĮ éŨ +责任 å¿ĥ +é¤IJ åħ· +ç¾Ĭ æ¯Ľ +没æľī å¿ħè¦ģ +ä¹IJ åĽ¢ +è¿Ľ åŁİ +ä¸ĢçĤ¹ åĦ¿ +身 å½¢ +çļ®èĤ¤ çĹħ +æĺ ± +å¢ŀ èĩ³ +èģ² æĺİ +æıIJ è´¨ +ä½ĵèĤ² åľº +çѹ 建 +é¬ Ĩ +车 çīĮ +éļĶ éŁ³ +è´Łè´£ åIJĮå¿Ĺ +丰 ç¡ķ +ä½Ľ éĻĢ +äºī åIJµ +åº ¶ +æ·¡ æ°´ +å°ı çĶ·åŃ© +ç§ģ èĩª +åĮĸ è¿Ľç¨ĭ +æĪĺ士 æĿ¥è¯´ +æ²¹ èħ» +èĦ±è´« èĩ´å¯Į +æĹ¥å¸¸ å·¥ä½ľ +交 èŀį +åĨľ è´¸ +åĨľè´¸ å¸Ĥåľº +åĵĪ çĻ» +ç͵ è´¹ +èµ ĺ +åıĮ èħ¿ +æĵĶ å¿ĥ +æĿ¥ 形容 +使åij½ æĦŁ +éĤ£ä¹Ī ç®Ģåįķ +èĬĻ èĵī +åĢŁæ¬¾ 人 +ç§Ģ 丽 +è®ĵ ä»ĸ +严åİī æīĵåĩ» +è³ ŀ +æļ « +çħ¤ æ°Ķ +çά ä¸Ĭ +æ½ĩ æ´Ĵ +太 ä¹ħ +åij½ åIJį为 +è·¯ çͱ +è·¯çͱ åύ +é© ¯ +æıIJ æĹ© +æĬĹåĩ» çĸ«æĥħ +åĩ Ľ +交 åıĭ +éĶĢåĶ® æ¸łéģĵ +毫ä¸į çĬ¹è±« +èIJ¥ åľ° +çłĶç©¶ 表æĺİ +é±¼ ç±» +æį¢ å±Ĭ +æİ¡ åıĸ +çī Ĩ +缼 å¼Ģ +æ²§ æ¡ij +åºŃ 审 +ç»ı æŁ¥ +åĬł å¼· +缸æ¯Ķ äºİ +ä¸ĵ çıŃ +ä½ĵ åŀĭ +被 害 +被害 人 +æĶ¶ 款 +åħ·æľī èī¯å¥½ +é«ĺå³° æľŁ +åģı ä½İ +åĦ Ł +åĨľä¸ļ ç§ijæĬĢ +ç®Ĭ æĥħåĨµ +å¦Ĥæŀľ çݩ家 +éķ¿ çº¦ +第åħŃ å±Ĭ +åħ¬å¼Ģ æĭĽèģĺ +åĪĩ æĸŃ +è¿« 使 +çĸĹ ç¨ĭ +第äºĮ ç§į +ä¸į åħį +å¹² èѦ +çŁ³ 榴 +åĹ £ +两 ç±» +çε 士 +åŁİ乡 å±ħæ°ij +æŃ¤ 项 +缴 è¾ĸ +缴è¾ĸ å¸Ĥ +åij¼ åºĶ +éĴ ¯ +ç¦ı å¾· +æľº 身 +æĵį åľº +æ¿Ĵ 临 +人群 ä¸Ń +èĤ¡ æ°ij +åŃ ½ +æ³ķ åħ° +é¨ İ +糯 ç±³ +æĢ» çļĦ +æĢ»çļĦ æĿ¥è¯´ +åħ¸ éĽħ +æĸ° éĻĪ +æĸ°éĻĪ ä»£è°¢ +缮 çĿ¹ +é¢Ħ è¨Ģ +è·Į çł´ +æĸ° ç¯ĩ竳 +æ¯Ĵ æĢ§ +åĸĿ èĮ¶ +æŁ¥ èİ· +亮 丽 +çĶŁäº§ åķĨ +æĶ¹ æĪIJ +为äºĨ æĽ´å¥½ +æ·± 交 +深交 æīĢ +æİ ĥ +ä¹Ļ èĤĿ +泸 å·ŀ +åħĪè¿Ľ æĬĢæľ¯ +è¾ĵ ç»Ļ +æķ£ æĪ· +æĢĿç»´ æĸ¹å¼ı +åºĹ 主 +è°ĭ æ±Ĥ +游æĪı æĬĢå·§ +ä¸Ģå¹´ 级 +çľ¼ è§Ĵ +ä¸Ńä»ĭ æľºæŀĦ +å·§ åIJĪ +éĺ² çĽĹ +导 è´Ń +æĪ Ĭ +æĽ´ éĢĤåIJĪ +åŁºæľ¬ ä¿¡æģ¯ +马 ä¸ģ +åħ»æ®ĸ åľº +åıį è¿ĩæĿ¥ +æİ¨ å´ĩ +å¯ĨåĪĩ åħ³æ³¨ +åŁºéĩij ç»ıçIJĨ +æĮī éĶ® +åĨħéĥ¨ æİ§åζ +æĪIJåijĺ åįķä½į +æľ¯ è¯Ń +åζ æľį +åĪļ éľĢ +æ£Ģ ç´¢ +大大 æıIJé«ĺ +åģ¥åº· 管çIJĨ +èĩª æŃ¤ +客æĪ· éľĢæ±Ĥ +丰 èĥ¸ +èµ· éĩį +èµ·éĩį æľº +æ¬ł 缺 +æ¡Ī åŃIJ +æĥħ人 èĬĤ +åħļ æł¡ +è¢ ľ +该 åī§ +迷失 ä¼łå¥ĩ +ç»ļ 丽 +åķ ª +æĹł ç§ģ +é̲ ä¸ĢæŃ¥ +第ä¸Ģ 竳 +åύ åħ· +åĨľ èµĦ +確 實 +åºı åĪĹ +娱ä¹IJ å¹³åı° +èŀįèµĦ ç§Łèµģ +èµĦæºIJ åħ±äº« +èģ½ åΰ +æIJŀ å¾Ĺ +ç»§ç»Ń ä¿ĿæĮģ +åIJ¯ èĴĻ +çľ º +ä¸Ŀ è·¯ +设æĸ½ 建设 +æİ¥ åľ° +æİ¥åľ° æ°Ķ +第ä¸ī åŃ£åº¦ +åŁº è°ĥ +åıij éŁ³ +社ä¼ļ èµĦæľ¬ +éĽĩ 主 +è¿ŀ èĥľ +没 åķ¥ +å» ¢ +èµ¶ èµ´ +æ¼Ķ åĮĸ +åı¤ æĢª +çİĭ çĪ· +é¢Ħ åħĪ +å¼Ģ åħ· +åĽŀ é¦ĸ +åľ°ä¸ĭ æ°´ +å°ıç¼ĸ ä¸Ģèµ· +èµİ åĽŀ +åľ° è²Į +åĪĿ ä¸ī +åı¯ ç͍äºİ +éģĹ è¿¹ +è¿Ļ æī¹ +èĸª æ°´ +å¿ħçĦ¶ ä¼ļ +æ² ½ +éį ĭ +第ä¸Ģ éĥ¨ +åĪĬ çī© +å®ŀ ä¾ĭ +æ¸ħ åĩĢ +ä¸Ĭ èµĽåŃ£ +åĽ¾ 表 +éĤ® è½® +åĵª 裡 +缸 è§ģ +æī° ä¹± +æ¯ı æ¯ı +è¿Ļ è¾ĪåŃIJ +ç¡« éħ¸ +äºī 缸 +溯 æºIJ +åĩº ä¼Ĺ +çİī çŁ³ +åħ± çĶŁ +æĹ¶éĹ´ 段 +éĩįè¦ģ æĮĩ示 +æ¶Īè´¹ éľĢæ±Ĥ +éķ¿ éķ¿ +éķ¿éķ¿ çļĦ +å®ī æĬļ +å¢ŀ é«ĺ +æľ¬ è½® +亲 çľ¼ +é£İ æ³¢ +èĢģ å¦Ī +æĶ¶è´¹ æłĩåĩĨ +åĨħ éĻĨ +æĮ¥ åıij +åįĩ åѦ +èĥ¸ åīį +åģı è¿ľ +纯 æ´ģ +æĸ½å·¥ åįķä½į +身 ä»· +è´¢ åĬĽ +çº ¶ +è£ħ çͲ +æĺ¾ç¤º åύ +毫 åįĩ +æ·± çŁ¥ +è̶ ç© +èĢ¶ç© Į +è¾ĥ éĩı +åľ¨ è¿ĩ渡 +åľ¨è¿ĩ渡 æľŁ +èĮ Ĺ +ä¸Ģ个 æĺŁæľŁ +èĬ · +è´¿ èµĤ +æ¿ ķ +æĩĤ äºĭ +ç§ § +åħħ å½ĵ +åĽ½ ç«ĭ +èĬ± çĵ£ +éĤĦ è¦ģ +åħ¬ åľĴ +触 åĬ¨ +æ³° å·ŀ +ä»Ģä¹Ī æł· +æ»ĭ åħ» +è¯Ħ åΤ +æĮ¥ æīĭ +èĦ Ī +å§¥ å§¥ +è¿IJ è´¹ +æ¯ħ åĬĽ +å¿ĥ æĻº +ä¸į æİĴéϤ +第ä¸ī 代 +éĢĢ è´§ +æĺŁ éĻħ +æ°¸ åĪ© +æĬ¤ åį« +çıŃ è½¦ +è¨Ģ è¡Į +ç¹ ª +主åĬ¨ æĢ§ +å·¥ç¨ĭ è´¨éĩı +éĥĬ åĮº +ä¸Ģ æłĭ +ä½Ĩ å®ŀéĻħä¸Ĭ +ä¸ī大 èģĮä¸ļ +åij¼ åı« +女 åħĴ +è¯ģåΏ æĬķèµĦ +èĢĥ æħ® +çĤ« èĢĢ +æ²» 好 +åĺ ¶ +èĥ ¤ +åħīä¼ı åıijç͵ +åĩł æŃ¥ +æīĢ æīĢ +æīĢæīĢ éķ¿ +çħ§ æł· +åĵ¥ 们 +è¯ Ľ +è¿Ļä¸Ģ åĪ» +çŁ¿ çī©è´¨ +ä¸įå¾Ĺ å·² +åIJĮ 缣 +ç»Ĩ å¾® +è·¯ èĻİ +çϾ èĬ± +æ·· æ²Į +ä¸Ĭæµ· è¯ģåΏ +éĢĢ ç¨İ +èµŀ åı¹ +æī®æ¼Ķ 游æĪı +åIJį åĪĹ +åIJįåĪĹ åīį +åIJįåĪĹåīį èĮħ +ç±³ å°Ķ +ä»Ģä¹Ī åİŁåĽł +å®īåħ¨ ä¿Ŀéļľ +ä¸Ģåıª æīĭ +ä¹³ ä¸ļ +ä¸į çĶĺ +æĥħ åķĨ +æĮ¡ ä½ı +åİŁåĽł ä¹ĭä¸Ģ +è¿Ļ 两天 +çĥĺ çĦĻ +è± ¬ +ä½ł 以为 +没 è§ģè¿ĩ +åĵªå®¶ 好 +åīį ä»» +è¿Ľ è´§ +éĢĢ åĽŀ +串 èģĶ +èĩ³ æĸ¼ +åĨ° æ·ĩ +åĨ°æ·ĩ æ·ĭ +æŁ¥çľĭ 详æĥħ +çı¾ 實 +æİ¨ æµĭ +æİ¥ æīĭ +éļ¶ å±ŀäºİ +åŁİå¸Ĥ 群 +æĿİ åħĪçĶŁ +çŁ¿ æ³īæ°´ +çī¹ ä»· +æĽ´å¤ļ 精彩 +ç¨ĭ å¼ı +读 æĩĤ +å±ı èͽ +奥 æŀĹ +奥æŀĹ åĮ¹ +奥æŀĹåĮ¹ åħĭ +红 èĸ¯ +å¥ ® +å®Ŀ çİī +ç¶² 絡 +è² § +欧 å¼ı +çϽ ç³ĸ +èĩªçĦ¶ çģ¾å®³ +åijĬè¯ī 她 +å» ļ +çĤ¹åĩ» æŁ¥çľĭ +é£İ 湿 +èµĦ产 éĩįç»Ħ +ä¹Łä¸į ä¾ĭå¤ĸ +åįĬ 个å°ıæĹ¶ +åIJ¸å¼ķ æĽ´å¤ļ +æĹ¶éĹ´ èĬĤçĤ¹ +æĶ¶ 纳 +åIJ¸ æ¯Ĵ +èĢģ 乡 +çIJ ħ +æľĢ çµĤ +åıį æĦŁ +ç͍ 微信 +çĶ¨å¾®ä¿¡ æī« +éĢŁ çİĩ +大 çĨĬçĮ« +åı¯ æĥ³ +åı¯æĥ³ èĢĮ +åı¯æĥ³èĢĮ çŁ¥ +åĴ § +èµ° åħ¥ +碳 éħ¸ +èĮĥ åĨ° +èĮĥåĨ° åĨ° +被 åΤ +积æŀģ æİ¨åĬ¨ +è¶³ è¶³ +ç²Ĵ åŃIJ +大 å®Ĺ +大å®Ĺ åķĨåĵģ +ç½ij绾 ç§ijæĬĢ +æĽ¼ åŁİ +å·² ä¹ħ +å·²ä¹ħ çļĦ +秦 çļĩ +秦çļĩ å²Ľ +ä»» æķĻ +å͝ ç¾İ +æ·¡ åĮĸ +æ¡Ĥ èĬ± +çŁ¥è¯Ĩ åĪĨåŃIJ +æĩĴ å¾Ĺ +主 åħ¬ +设计 çIJĨ念 +è³ º +æīĢ æıIJä¾Ľ +æīĢæıIJä¾Ľ ä¹ĭ +æĶ» åħĭ +åĤ ¾ +è¯Ń æ³ķ +åįĥ åı¤ +éĸĭ æĶ¾ +第ä¸Ģ èĬĤ +éĤĦ æ²Ĵ +éĢĥ çĶŁ +æ³ Ĺ +åİ¿ å§Ķ书记 +ä½ľèĢħ æīĢæľī +çħ ½ +ç» ħ +æł ħ +æľ´ ç´ł +çijķ çĸµ +åĮħ åĮħ +æ°ij主 åħļ +ä¸į è¿ľå¤Ħ +å¥ĩ å¼Ĥ +åĺ» åĺ» +æī ¼ +ç¿» å¼Ģ +æĢİ èĥ½ +éģ´ éĢī +è§£ éĩĭ +å¹¼ ç¨ļ +è¦ģ 好好 +è¶´ åľ¨ +ç´¢ åıĸ +ç»Ī çĶŁ +åħ¨ æµģç¨ĭ +éģ© çķ¶ +åįıè°ĥ åıijå±ķ +æĬ¥ ä»ĩ +ç§ijæĬĢ åĽŃ +ä»Ģä¹Ī éĥ½ä¸į +æľĢåIJİ ä¸Ģ次 +ç»Ļ人 ä¸Ģç§į +æł¸ å®ļ +被 åĪĹåħ¥ +æĦı æĥ³ä¸įåΰ +èĢĥ æŁ¥ +åľ¨æŃ¤ ä¹ĭåīį +æīĵ çIJĥ +è¶ĬæĿ¥è¶Ĭ å°ij +å®ļ å¾ĭ +è¡ĮæĶ¿ æľºåħ³ +ä½ıæĪ¿ åħ¬ç§¯ +å°ıå§IJ å§IJ +ä¸ī èı± +ä¿® è¡¥ +èŀĥ èŁ¹ +西 çͲ +æĢ ł +çŃī å¤ļ项 +产ä¸ļ éĽĨèģļ +ä»·æł¼ ä¸Ĭ涨 +åħ¬åħ± åľºæīĢ +è¢ĭ åŃIJ +æĨ§ æĨ¬ +çļĦæĸ¹å¼ı æĿ¥ +åΰ è´¦ +çģ ½ +å·´ èı² +å·´èı² çī¹ +æ¼Ķ ä¹ł +èŃ¦ç¤º æķĻèĤ² +çķı æĥ§ +å¼ķ æµģ +æĶ¶ æĶ¯ +å±Ĥ åĩº +å±Ĥåĩº ä¸į +å±Ĥåĩºä¸į ç©· +æijĩ æ»ļ +辦 çIJĨ +纵 è§Ĥ +æķij æµİ +å®¶ éĥ½çŁ¥éģĵ +åĮ ¯ +å°ı 鸣 +ä»» åĭĻ +计 åħ¥ +ç«ŀ éĢī +å¼ĢèįĴ æĹ¶æľŁ +åij¨ æģ© +åij¨æģ© æĿ¥ +交 ç»ĩ +çķ¢ æ¥Ń +æł¹æį® èĩªå·± +æĸ°äºº çݩ家 +åѵåĮĸ åύ +éĩĩ æļĸ +å¹³åĿĩ æ°´å¹³ +åħ¬å¼Ģ 课 +失 åĪ© +伺 æľį +çĬ ģ +忽 æĤł +主è¦ģ éĽĨä¸Ń +æ¤į æłij +æ¯Ĺ éĤ» +èĩº çģ£ +åĩºåĽ½ çķĻåѦ +æĬĹ éľĩ +æĥ© æĪĴ +å¹´åºķ åīį +åĴ¸ éĺ³ +æ°ij å±ħ +大çIJĨ çŁ³ +éĿ ³ +éķ ĸ +æ¸ħ è¿ľ +è£ħ è½½ +èĩ Ģ +å½± ä¸ļ +å¼Ł åħĦ +æĤ² è§Ĥ +çĿĢçľ¼ äºİ +æįį åį« +åī¥ å¤º +ç¯ Ĩ +å¾Ī éķ¿æĹ¶éĹ´ +è¥ Ł +第ä¸Ģ çϾ +ä¸ĢåĪĨ éĴ± +æĸ°éĹ» è®°èĢħ +éķ· æľŁ +æ³ķ æĪĺç»ĦåIJĪ +è°ģ çŁ¥éģĵ +èħ° éĥ¨ +æ±ī åł¡ +åħ¥ çĿ¡ +åįĸ æİī +æ¶Īè²» èĢħ +æĥ¯ ä¾ĭ +æĥ³ äºĨ +æĥ³äºĨ æĥ³ +èĢģæĹ§ å°ıåĮº +ä¼ł è¨Ģ +åĪĨæķ° 线 +æµģ 泪 +ç»Ħç»ĩ é¢Ĩ导 +äºļ åĨĽ +å¢ŀå̼ æľįåĬ¡ +å¾ ¹ +ä¼ ¶ +äºĽ 许 +å¸ĥ èݱ +强 æĤį +宫 å»· +绿 èĮ¶ +åĮ ¡ +å¾Ī æŃ£å¸¸ +æĺ¥ å¤ı +æ¯ Ļ +è¯Ħ æ¯Ķ +åĩ¡ äºĭ +æĬī æĭ© +åĢĴ éľī +éĩį 度 +åįıä¼ļ ä¼ļéķ¿ +å¿§ èĻij +ä¸ĭ ä¸Ģç¯ĩ +沪 æ·± +æĪ İ +æīĵ ä»Ĺ +åįĪ é¥Ń +å¹´é¾Ħ 段 +ä¸ŃåĽ½ è¶³çIJĥ +设计 æĸ¹æ¡Ī +åºĶç͍ æŁ¥çľĭ +é¢Ħ æĸĻ +åĹ ¡ +ç¥ĸ çζ +çļĦä¸Ģ åijĺ +æ´Ĺ å¹²åĩĢ +åİĨåı² æĸ° +åİĨåı²æĸ° é«ĺ +çĭ¬ åħ· +æħĭ 度 +æīĵ 交 +æīĵ交 éģĵ +é»Ħ çŁ³ +çĽ¼ æľĽ +çī§ åľº +转 弯 +åįĩ åįİ +åĨį ä¹Łæ²¡æľī +èĭ± æīį +æĽ´ åIJį为 +åĢŁ ç͍ +çºł éĶĻ +ç»Ŀ对 ä¸įä¼ļ +çİĭ çīĮ +çĽĨ åľ° +失 è°ĥ +好 象 +é³ ¥ +ä¿Ŀ ä¿® +åĽĽä¸ª èĩªä¿¡ +头 çļ® +åİŁ åīĩ +æĬ¥ æ¡Ī +奴 éļ¶ +å³ Ļ +è°ĥ æĸĻ +ä¹Ł 許 +èIJ½ åΰ +èIJ½åΰ å®ŀ +èIJ½åΰå®ŀ å¤Ħ +çĦļ çĥ§ +çĶŁæ´» çݯå¢ĥ +åºĶ åıĬæĹ¶ +è¶Ĭ è¿ĩ +æĦŁ è¬Ŀ +æĻ¯ å¾· +æĻ¯å¾· éķĩ +çĬ Ģ +身 éĤĬ +ç¨İåĬ¡ æĢ»å±Ģ +åĩĢ åľŁ +ä¾µ åįł +åĬ¨ å·¥ +å¹´ ä¹ĭ +å¹´ä¹ĭ ä¹ħ +第äºĮ èĬĤ +åĬ¨çī© åĽŃ +第ä¸Ģ 书记 +éħ ļ +çĶŁäº§ 设å¤ĩ +æŁIJç§į ç¨ĭ度 +åľ Ń +åĩŃåĢŁ çĿĢ +éĺħ è§Ī +çϽ æ²Ļ +æ²¹ çĥŁ +çªģçł´ åı£ +åıĹ å½±åĵį +åı¯ä»¥ æĽ´å¥½ +å³° å̼ +æĿĤ è´¨ +宿 è¿ģ +çĽĺ æ´» +æ¿Ģ èµ· +åĦ¿ ç§ij +åĿIJ èIJ½åľ¨ +æĮª å¨ģ +æµ· å²Ľ +绣 绣 +éĻ ¨ +ä¼ĺ äºİ +å°Ī å®¶ +ä¸Ģ éĤĬ +èIJ Ĭ +äºĨä¸Ģ åı£ +æ²ĥå°Ķ æ²ĥ +æŃ£å¸¸ 使ç͍ +æĻ®éģį åŃĺåľ¨ +丰 满 +çĶ» åį· +åºĶ æĶ¶ +åºĶæĶ¶ è´¦ +åºĶæĶ¶è´¦ 款 +å®Įæķ´ çĥŃ +å®Įæķ´çĥŃ æ¦ľ +注 è§Ĩ +çĨ Ħ +èº ¬ +éĶĢåĶ® 人åijĺ +è¶ĭ åIJij +çĦ¦ æĢ¥ +åįģå¹´ åīį +ä¼łç»Ł 产ä¸ļ +質 éĩı +åĩ¤åĩ° ç½ij +èµĦæºIJ æķ´åIJĪ +æ¶Į åħ¥ +æĸĩåĮĸ ä¼łæĴŃ +çķĮ 第ä¸Ģ +æ°´ æ³µ +宫 殿 +æİ¢ 寻 +ä¿® åīª +æĦı è¦ĭ +ç´Ĭ ä¹± +æĽ ī +çϽ è¡£ +èĻİ åį« +ç´§ æī£ +å¤Ħå¤Ħ éķ¿ +åĪĽå»º å·¥ä½ľ +红 æŀ£ +饼 å¹² +äºĨ åįĬ天 +ä¼ļå½±åĵį åΰ +çĽ¸ä¿¡ 大家 +èħ¾ é£ŀ +å°± å¦ĤåIJĮ +ä¸ĭéĿ¢ å°ıç¼ĸ +æ°ijèIJ¥ ç»ıæµİ +æĻ ¦ +è£ħ æī® +é»ij å¤ľ +常 å¾· +å·¥ä¸ļ 大åѦ +æĺİ çŁ¥ +éĺŁåijĺ 们 +åIJ¬ 课 +æ¯ı éļĶ +羣æĺ¯ 太 +åIJĪä½ľ åħ±èµ¢ +çIJĨ åıij +æīį å¹² +çľĭ èµ·ä¾Ĩ +殿 ä¸ĭ +å®ī éĺ³ +æīĢ äº§çĶŁçļĦ +éĽĩ ä½£ +æĬ¬èµ· 头 +æį® æĬ¥éģĵ +éļĨéĩį 举è¡Į +交 éĶĻ +è¶ħ é¢Ŀ +åĮĸ çĸĹ +é¡ Ĩ +纵 æ·± +çĪ±åĽ½ 主ä¹ī +éĻ¢ åī¯éĻ¢éķ¿ +è® ³ +羣æŃ£ åģļåΰ +åѤ åįķ +èĩªçĦ¶ èĢĮ +èĩªçĦ¶èĢĮ çĦ¶ +ä¿® 身 +èĬ ¹ +æģ¯ æģ¯ +æģ¯æģ¯ 缸åħ³ +驾 æł¡ +æİ© 饰 +æ³½ è¿ŀ +æ³½è¿ŀ æĸ¯åŁº +举 æŃ¢ +管çIJĨ ä½ĵåζ +åħ¶ä¸Ń ä¹ĭä¸Ģ +æĿ¾ å¼Ľ +æĭ¦ æĪª +åį« åģ¥ +åį«åģ¥ å§Ķ +ä»İ åݻ年 +åĤ ¢ +è´Ń 票 +åĽ¾ æłĩ +æ²³ 西 +æ°ijæĶ¿ å±Ģ +ç§ģ èIJ¥ +å¤ĸåĽ½ è¯Ń +å¹² è´§ +æĵ¦ æĭŃ +åľ° ä¸Ń +åľ°ä¸Ń æµ· +æµĵ æµĵ +æµĵæµĵ çļĦ +å§ĭ 建 +å§ĭ建 äºİ +ç¶ĵ æŃ· +è·¯ æ¼Ķ +æļ´ é£İ +åŁº è¾ħ +æī¶è´« å·¥ä½ľ +ä¸Ģ缴 å¤Ħäºİ +æĥħ è¶£ +äºĮ åŃ£åº¦ +åİĮ æģ¶ +顺åĪ© å®ĮæĪIJ +æŁ¥ å°ģ +é¡¶ 端 +ä¸į åŃķ +ä¸Ģ大 åłĨ +被 æ·ĺæ±° +æĺ¯ ç͍æĿ¥ +æľĢ åIJĪéĢĤ +亮 çľ¼ +å¹¶ä¸įæĺ¯ å¾Ī +ç§ijçłĶ éĻ¢ +ç§ijçłĶéĻ¢ æīĢ +ç² Ł +é¢Ī éĥ¨ +é»ĺé»ĺ åľ° +é«ĺä¸Ń çĶŁ +æĹıèĩªæ²» åİ¿ +æķĻåѦ è´¨éĩı +æĪĺ çģ« +åĿİ åĿ· +æIJŃ ä¹ĺ +è¯Ĺ æĦı +åĪij èѦ +åĩº æ±Ĺ +åįģåħŃ æĿ¡ +请 åıĬæĹ¶ +åĨľä¸ļ 大åѦ +èIJ½ åı¶ +æĢ» èĢĮè¨Ģ +æĢ»èĢĮè¨Ģ ä¹ĭ +æĿľ åħ° +æĿľåħ° çī¹ +éĻª ä½ł +åħ¬ æĬ¥ +çķĻè¨Ģ æĿ¿ +éĺħ åİĨ +ç«¶ çĪŃ +ç»Ļ åĪ«äºº +æĹ¥æĬ¥ 社 +åĿIJ èIJ½ +åĿIJèIJ½ äºİ +éĩij åŃĹ +éĩijåŃĹ å¡Ķ +åĽ ¤ +è¯Ŀ åī§ +æĮģç»Ń æİ¨è¿Ľ +æ¼ı æ°´ +詳 ç´° +æĢĢ æĬ± +åıĺ å¹» +饥 饿 +éļIJ 身 +个 èµĽåŃ£ +åĵ¡ å·¥ +æģ¢å¤į æŃ£å¸¸ +äºĨ 好å¤ļ +æĺŁ å·´ +æĺŁå·´ åħĭ +åħī çݯ +å¸ħ åĵ¥ +çϽ éĽª +ç¨į ç¨į +计 æıIJ +æĦĽ æĥħ +éİ ĸ +ä¿¡ éĺ³ +è§Ģ å¯Ł +å¦Ĥæŀľä½ł æĥ³ +缸æ¯Ķ ä¹ĭä¸ĭ +è§£ å¼Ģ +æīĵåį° æľº +身 躯 +ç²¾ç¥ŀ æĸĩæĺİ +èĤ¡ æĮĩ +å¾® åĪĽ +红 èĮ¶ +èĩ´ çĻĮ +æģ© æĸ½ +èħ¿ éĥ¨ +大åŀĭ å¤ļ人 +å®ī åĢį +è¾ħ导 åijĺ +èĪª éģĵ +å¸ĥ å°Ķ +åįĹå®ģ å¸Ĥ +ä¸ĬçıŃ æĹı +ä¾§ ç»ĵæŀĦæĢ§ +追 éļı +å½ĵåľ° æĶ¿åºľ +èµ° åĩºæĿ¥ +éĩijèŀį ä¸ļ +丼 书 +é¡¹çĽ® ç»ıçIJĨ +è¿ĩ æĪ· +骨 æŀ¶ +è¡ Ļ +ä»Ģ 麽 +èħ ĭ +è¦ģ 害 +åľ¨ åºĬä¸Ĭ +代è¨Ģ 人 +並 å°ĩ +åIJĦ个 æĸ¹éĿ¢ +è°´ è´£ +åħ± æĮ¯ +åį³å°Ĩ åΰæĿ¥ +èĤº çĻĮ +ä¾Ľ éĶĢ +丼 æŀĹ +èµ ĥ +åįģä½Ļ å¹´ +åĭĺ æİ¢ +飵 åij³ +èĭ¦ ç¬ij +æľĢ大 ç¨ĭ度 +éĩįçĤ¹ åħ³æ³¨ +ä¹ĭ 举 +满 æĢĢ +åıĹåΰ å½±åĵį +æĭĽ æĬķæłĩ +è¡¥ é½IJ +西 红 +西红 æŁ¿ +é¬ § +è£ħ åᏠ+éĤ» éĩĮ +èĤĩ äºĭ +æİĴ æ¯Ĵ +åѤ åĦ¿ +鼶 è·Ŀ离 +å®ŀ å¹² +çľĭ æŁ¥çľĭ +æĶ¶è´¹ ç«Ļ +ç» · +åħ¬çĽĬ æĢ§ +éĢĴ ç»Ļ +æĶ» æīĵ +æĺŁçº§ éħĴåºĹ +æĺİ åªļ +ç፠ç«ĭ +è¯Ŀè¯Ń æĿĥ +ä¸ĢæŃ¥ ä¸ĢæŃ¥ +书æ³ķ å®¶ +æľªç»ı æİĪæĿĥ +çŁ³ èĨı +åĩŃ ä»Ģä¹Ī +çļĦ æĹ¥ +çļĦæĹ¥ åŃIJéĩĮ +诱 人 +çϾåĪĨ çϾ +èĪĪ è¶£ +å¼ł åħĪçĶŁ +èĢģçĪ· åŃIJ +æ³¢ çī¹ +åŁºéĩij 份é¢Ŀ +æ²Ļåıij ä¸Ĭ +å¥ĭæĸŠ缮æłĩ +æ°¢ èĥ½ +æ²ĥå°Ķ çİĽ +義 åĭĻ +éŁ³ ç®± +æ²ī 浸 +æ²ī浸 åľ¨ +èĭ± åľĭ +çģ¯ çģ« +è¿Ľ 项 +两 端 +ä¹Ķ 丹 +èĦ¸ é¢Ĭ +åıijå±ķ æ½ľåĬĽ +åĭķ ä½ľ +åĵĪ ä½Ľ +å®´ ä¼ļ +æ§ į +ç«ĭ å¿Ĺ +ç¡ķ士 åѦä½į +åĭĭ 竳 +è¿Ļ åľºæ¯ĶèµĽ +æĮģ å¹³ +éķĢ éĶĮ +èĭ± çī¹ +èĭ±çī¹ å°Ķ +æķĻ èģĮå·¥ +åĬŁ åĬĽ +该 æ¡Ī +ä¸Ģ æ¢Ŀ +åĺī å¹´ +åĺīå¹´ åįİ +è¿« ä¸įåıĬ +è¿«ä¸įåıĬ å¾ħ +è¿Ļ个 æĹ¶ä»£ +精彩 æĴŃæĬ¥ +人 èĦ¸ +人èĦ¸ è¯ĨåĪ« +æ£Ģå¯Ł å®ĺ +å°ı èħ¿ +éĨĴ 缮 +åħļ æĢ» +åħļæĢ» æĶ¯ +æĪ Ł +èĮ« çĦ¶ +è±Ĩ æµĨ +主 æ²» +éĿĴæµ· çľģ +åĪijäºĭ 责任 +çł ° +ä¹ĭ æ¬ĬåĪ© +äºĶ å®ĺ +è¿· æĥij +åħ¥ åºĵ +å®¶ 纺 +å¼¹ ç°§ +åįģäºĶ æĿ¡ +ç»Ļ å®Ŀå®Ŀ +èĪªç©º èĪªå¤© +å¾Ģ å¤ĸ +å¼ķ åĬĽ +çľ¼ çļ® +æ¶ī è¶³ +æĿ¥ 宾 +åľ¨çº¿ è§Ĵèī² +çĥŃ éĶĢ +æµģ éĢĿ +泡 泡 +éĻį å¹ħ +è´ŁéĿ¢ å½±åĵį +红 楼 +红楼 梦 +éļĶ çĿĢ +ä¾¥ 幸 +许 ä¹ħ +åĴĮ çĿ¦ +èŃ ½ +使ç͍èĢħ æĪĸ +ä¹° åįķ +è¿ ´ +é£İ æīĩ +æķĻ å¸« +æ¡ĮåŃIJ ä¸Ĭ +å¾Ī æ¼Ĥ亮 +åł± å°İ +第ä¸Ģ åŃ£åº¦ +ç©© å®ļ +æĤ² åĵĢ +çĿĢåĬĽ æīĵéĢł +æĮ Ł +è·¯ æ¡¥ +åij IJ +åľ£è¯ŀ èĬĤ +çļĩ åŃIJ +ä»ĩ æģ¨ +éħĿ éħ¿ +ä¸į éĹ´ +ä¸įéĹ´ æĸŃ +æĮĩ å°ĸ +ä¸ŃåĽ½ ç½ij游 +åŀ £ +æĦıè§ģ 建议 +æ¯ħ çĦ¶ +亮 度 +èģĶ è°Ĭ +å½ķ åħ¥ +åĦ ² +å¨ĺ å®¶ +ç§ij å°Ķ +ä¹Łæ²¡ ä»Ģä¹Ī +æł¹æį® ä¸įåIJĮ +åı¶ ä¿® +å̼ å®Ī +æľ« 端 +åĪ ¨ +åĤµ åĭĻ +èģ¯ åIJĪ +å¥ĩ å¹» +èĻļ æŀĦ +é»Ħ æĺı +å¹³ åĿ¦ +æµģ æ°ĵ +æĸ° åŁºå»º +æĮ½ æķij +åįİ å°Ķ +åįİå°Ķ è¡Ĺ +æľĢ åıĹæ¬¢è¿İ +ç»Ń 约 +å¼Ĭ 端 +éŃĶ æ³ķå¸Ī +éŃĶæ³ķå¸Ī åĴĮ +åħ·ä½ĵ åĨħ容 +çIJī çĴĥ +æī© 容 +èĮ¶ åĽŃ +主ä¹ī èĢħ +ç«ĭ éĿ¢ +æİ¥åıĹ éĩĩ访 +åĩº åħ¥å¢ĥ +ç§ij åįı +éĴ ³ +çµIJ æ§ĭ +ç»ĵæŀľ æĺ¾ç¤º +åı° è´¦ +å°± æĿ¥çľĭçľĭ +èĩª æķij +åıį æĩī +åİ» åĵªåĦ¿ +è¿Ļ é¦ĸ +è¿Ļé¦ĸ æŃĮ +åIJ¬ ä¼Ĺ +å¤ĸ 壳 +ä½ĵèĤ² é¦Ĩ +實 æĸ½ +èŀº ä¸Ŀ +æĭī åįĩ +çĮĽ åľ° +åħ¨åĽ½ 人æ°ij +æĤī å°¼ +æĹı 群 +åĽ¢ åijĺ +两个 å°ıæĹ¶ +åľ¨ çݩ家 +åľ¨çݩ家 ä¸Ń +çĶľ çĶľ +æĬķ è¡Į +åįĶ æľĥ +éĻ ¡ +åĬłå·¥ åİĤ +æ¦Ĩ æŀĹ +æŃ» è§Ĵ +åĨħ å¹ķ +æīĢæľī æĥħèĬĤ +åĪ· åį¡ +æ°´ èĤ¿ +èĥĥ åı£ +å«Į å¼ĥ +æ²® 丧 +ä¸īå¹´ 级 +æ¶Ĥ å±Ĥ +å¿ĥ 仪 +å¿ĥ仪 çļĦ +å¤ Ń +é¦ĸ è½® +æĹłè®ºæĺ¯ åħ¶ +éĢı æ°Ķ +äºĮ åįģäºĶ +ç® « +åĬŁ åĬ³ +çѾ ä¸ĭ +æ²ī è¿· +æķij åij½ +éĹª éĹª +åIJĥ äºı +å±ķ åĵģ +åį³æĹ¶ åıijçĶŁ +ç¶ ľ +ç¶ľ åIJĪ +æłĩ æĺİ +çľĭ ç͵影 +åħ¬ 竳 +éĺ¿ æ£® +éĺ¿æ£® 纳 +身 åĪĽéĢł +身åĪĽéĢł çļĦ +æ¸Ľ å°ij +å̼å¾Ĺ åħ³æ³¨ +鼶åĶ® åķĨ +æįĨ ç»ij +è¸ı åħ¥ +èĽ Ł +æŁ´ 纳 +èĢģ åħµ +绿èī² çݯä¿Ŀ +é¹ Ń +麻 æľ¨ +æıŃ çīĮ +è¿Ļ款 车 +ç¾İ å¾· +ç¾İå¾· åħ¬åı¸ +æ¶ § +è°ģ çŁ¥ +æ´ĭ èij± +æ¯į æł¡ +ä¸Ģ éĹª +çĶ· 主è§Ĵ +æĹłçº¿ ç͵ +å±ł å®° +æĺ¯ éŁ©åĽ½ +æĺ¯éŁ©åĽ½ 娱 +容 è²Į +åĿĩ 使åħ¶ +太 å¿« +å¹´ çͱ +å¹´çͱ 缼 +èĭ¦ èĭ¦ +åĬĽ è¿ĺæĺ¯ +åĬĽè¿ĺæĺ¯ èĩª +æĨ © +èģ¯ çµ¡ +åĶ ¾ +åħ·æľī æĪĺ士 +追 éĹ® +åłĨ æĶ¾ +åıį 驳 +å®ŀäºĭ æ±Ĥ +å®ŀäºĭæ±Ĥ æĺ¯ +åѸ éĻ¢ +åįģ åĩłä¸ª +æķij æĬ¤ +æķijæĬ¤ 车 +ç½ij绾 ä¼łæĴŃ +åįģåħ« å±Ĭ +éĥ¨ åī¯ +éĥ¨åī¯ éĥ¨éķ¿ +çĹ´ è¿· +管çIJĨ æĿ¡ä¾ĭ +èŀį 为ä¸Ģä½ĵ +æĢ» 产å̼ +è³ ĵ +ä¸ĥ æĺŁ +çıŃ ç»Ħ +绣 é¢Ĩ +请 大家 +éĩij éϵ +èĪħ èĪħ +æµ· æ¹¾ +æĸ½ çŃĸ +享 èªī +éº ¥ +端 åįĪ +绿 åŁİ +確 ä¿Ŀ +å·´ æĭī +åĨĴ çĿĢ +æħ· æħ¨ +个人 è§ĤçĤ¹ +ä¹Ļ çĥ¯ +ç¡ħ è°· +éĸĭ å±ķ +å°ļ 书 +åĿļ 飧 +åº µ +èĢģ é¾Ħ +èĢģé¾Ħ åĮĸ +羨 çľ¼ +绿 æ°´ +绿水 éĿĴå±± +书 é¦Ļ +主åĬĽ åĨĽ +æīįæĺ¯ 羣æŃ£ +æĬ¢ åħĪ +æĪIJå°± æĦŁ +éĩį æŀĦ +éĴ¢ åİĤ +æĪIJ 份 +èĬ± 纹 +ä¹ĭ äºī +å¹² ç»Ĩèĥŀ +æĹ¢ åı¯ä»¥ +ç¹ģ çIJIJ +æĦļ èł¢ +éĿŀ常 æĺİæĺ¾ +ä½ĵ 彩 +æĬĢ æ³ķ +æĿĨ èıĮ +å¹¿æ³Ľ åħ³æ³¨ +åĮĹ å®ĭ +å§Ĭ 妹 +åįı åĬŀ +æ·® åįĹ +çĥ ı +æ´Ĺ èĦ¸ +åıĹ è®¿ +åıĹ访 èĢħ +éĩįè¦ģ åĽłç´ł +å½±è§Ĩ åī§ +综èīº èĬĤ缮 +èľķ åıĺ +äºĮ 线 +äºĮ线 åŁİå¸Ĥ +ä¼Ĭ å§ĭ +çıĬ çijļ +èĩª æŁ¥ +åħ¥ åĽŃ +åĩ¶ æīĭ +åħ¬ è¯ī +éģĩ éļ¾ +éĩĩçŁ¿ çŃī +èĩª çIJĨ +åĸ· æ¶Ĥ +æī© åħħ +éĢı è§Ĩ +é«ĺéĢŁ å¢ŀéķ¿ +åĽ¾ çĶ» +ç¾ ¹ +èĤĩ åºĨ +è¾ľ è´Ł +èµĶ ä»ĺ +è· ¡ +åģ¥åº· æĪIJéķ¿ +以ä¸Ĭ åѦåİĨ +åıĸå¾Ĺ 以åıĬ +æ²ī 积 +åįģä¹Ŀ å±Ĭ +缸éĹľ æľįåĭĻ +æī§ åĭ¤ +åī¯ åİ¿éķ¿ +å¯ ° +åģľ æ»ŀ +æ·¹ 没 +çŁ³ çģ° +çį ¸ +åĢ ¦ +ç¾İ åªĴ +æķĻ æ¡Ī +åĬł çĽĸ +åħ¬å¼Ģ èµĽ +å¥ł åŁº +æĺĨ èĻ« +çŀ ħ +磷 éħ¸ +äºī åĪĽ +çİĭ æĻĵ +ç¼ĵ åĨ² +åİļ åİļ +åİļåİļ çļĦ +æŀ£ åºĦ +ç²¾ çĽĬ +ç²¾çĽĬ æ±Ĥ +ç²¾çĽĬæ±Ĥ ç²¾ +åĪĨæĶ¯ æľºæŀĦ +å®ŀæĸ½ ç»ĨåĪĻ +æĸ° èµĽåŃ£ +總 çµ± +éĢł è¡Ģ +é¢ĩ åħ· +é»Ħ åŁĶ +è¡Ģ èĦĤ +交éĢļ å·¥åħ· +å³ ¥ +æĹıèĩªæ²» å·ŀ +寺 éĻ¢ +確 å®ļ +æ¦Ĥ念 èĤ¡ +æĦŁ å®ĺ +æŁľ åı° +åĶ Ķ +çŀŃè§£ 並 +æĢ» ä»· +åIJ¸ åħ¥ +æĢ ¼ +æĻļ éĹ´ +å±Ĭ æ¯ķä¸ļçĶŁ +çĶŁ å§ľ +éĺħ读 åħ¨æĸĩ +å¾Ĺåΰ æľīæķĪ +æIJľ æķij +åİĨ æĿ¥ +èŃī æĺİ +åĥ » +èĨ³ é£Ł +åĦĦ åħĥ +æīĵ åİĭ +宾 客 +åķ ¼ +ä¸ĢçϾ å¤ļ +æ·±åħ¥ 人å¿ĥ +æ¢ħ å·ŀ +çłĶ åѦ +åħ³ ä¹İ +è¼ Ľ +亲 åıĭ +éħį æĸĻ +æĪij çĪ±ä½ł +è´¸æĺĵ æĪĺ +æľī èī² +æľīèī² éĩijå±ŀ +æįIJ åĬ© +为 é¦ĸ +为é¦ĸ çļĦ +å¯Į åĬĽ +çĶ· ç¥ŀ +é³ ³ +æµĩ æ°´ +åIJ ± +æĺİç¡® æıIJåĩº +åı¹ äºĨ +åı¹äºĨ åı£æ°Ķ +礼 æĭľ +è¿Ļ个 åIJįåŃĹ +ä¿¡ å¾Ĵ +å¿Ĺ 强 +éĻIJ æĹ¶ +æĶ¶ è²» +åĨľå®¶ ä¹IJ +å°ıé¾Ļ èϾ +èIJ½ å¹ķ +æ§ Ł +åѦ 龸 +æĪĸ å¤ļ +æĪĸå¤ļ æĪĸ +æĪĸå¤ļæĪĸ å°ij +座è°Ī ä¼ļä¸Ĭ +æ¶ ¼ +éŃĶ çİĭ +å² ± +é¡¶ å±Ĥ +é¡¶å±Ĥ 设计 +èĦij åŃIJéĩĮ +éĻ¢ åŃIJéĩĮ +轩 è¾ķ +身å¿ĥ åģ¥åº· +èħ ij +éĹľ 注 +åıĤåĬł ä¼ļè®® +ä¸Ńåįİ æĸĩåĮĸ +追 寻 +å®ī çĦ¶ +é£Ļ åįĩ +éŁŃ èıľ +é¸ ¦ +åĤ¨ éĩı +çĶ· æĸ¹ +å¤ĩ 份 +æijĶ åĢĴ +润æ»ij æ²¹ +é̼ è¿ij +çͳ è¯ī +鸣 ç±» +çŁ³æ²¹ åĮĸå·¥ +åĿļ æŀľ +è¿Ļå®¶ ä¼Ļ +æĭĴ ä¸į +羣 çļ® +è·Ŀ éĽ¢ +è¿ĺ æĮº +éĽķ åĥı +åĪĿ æģĭ +æıIJä¾Ľ æĽ´å¤ļ +æŁ¥çľĭ åħ¨æĸĩ +æķ°åŃĹ è´§å¸ģ +åĸī åĴĻ +åı¦ä¸Ģ ä½į +åĤ¬ åĮĸ +åĤ¬åĮĸ åīĤ +ä»İæĿ¥ 没 +å¯ĨåĪĩ 缸åħ³ +éĥ¨ 主任 +产åĵģ ç»ıçIJĨ +並 åIJĮæĦı +èIJ½ åħ¥ +å±ıå¹ķ ä¸Ĭ +åħ¬åı¸ 竳ç¨ĭ +æį¢ åı¥è¯Ŀ +æį¢åı¥è¯Ŀ 说 +ä½į æĸ¼ +ä½ Ķ +åĩ» æĿĢ +缸 è¾ĥ +缸è¾ĥ äºİ +ç²½ åŃIJ +åįĹ æŀģ +宫 é¢Ī +è£ģ åijĺ +æĺİ ç»Ĩ +ä»·å̼ éĵ¾ +åĽĽä¸ª æĸ¹éĿ¢ +æĥħåĨµ æĿ¥çľĭ +æĮij åīĶ +æ® ĺ +æŀģ åĬĽ +çĸij éļ¾ +æĬµæĬĹ åĬĽ +æĢ¥ éĢŁ +æĪ Į +ä½İ ä¼° +éĹª è¿ĩ +æģ ¬ +èµŀ æī¬ +ä»ĸ å¦Ī +æĪIJ为 ä¸ĢåIJį +æ´Ĺ 礼 +é¢Ħ计 å°Ĩ +åħĪè¿Ľ åįķä½į +è¼ Ķ +éĢĥ èĦ± +çݰ åŃĺ +èĢģèĻİ æľº +åįģä¸ĥ æĿ¡ +åı¦ä¸Ģ åįĬ +温 æĥħ +åī¥ ç¦» +ä¸ĸ è´¸ +å®ĺ åı¸ +å¾Ī å·® +éĹ´ è·Ŀ +请 注æĦı +åı² è¯Ĺ +åĪ© åύ +è¿IJ ç®Ĺ +沦 为 +該 使ç͍èĢħ +èĮ ¬ +éͦ 绣 +åı² æĸĻ +çģµ æ´»æĢ§ +èģĶ ç¤¾ +æĹł åĬ© +æĬĹ æ°§åĮĸ +èıľ èĤ´ +éĢł èι +æİī èIJ½ +å¤į æŁ¥ +åĭĥ åĭĥ +åij¼ 声 +給 äºĪ +åIJĮäºĭ 们 +ç½ ° +è¯ķ æİ¢ +åħ³éĶ® åŃĹ +æįIJ çĮ® +ç»Łè®¡ æķ°æį® +åĪĽ ä½ľèĢħ +ä¸ĭ åįĬ +ä¸ĭåįĬ åľº +æī¿æĭħ 责任 +端 æŃ£ +ç©¿ è¡£ +ä¼ł çIJĥ +åĬ© éķ¿ +åĩ ± +éķ¶ åµĮ +é£ŀ ç¿Ķ +è¾ĵ åįµ +è¾ĵåįµ ç®¡ +ä¸ĩ åħ¬éĩĮ +æİ¨å¹¿ åºĶç͍ +å¿« æ¨Ĥ +ç§ ½ +èī° å·¨ +åIJ¬ å®Į +åĿļ 硬 +奥 åľ° +å¥¥åľ° åĪ© +é¢ ĵ +èĻIJ å¾ħ +ä¾Ľ æ±Ĥ +éľī ç´ł +伪 è£ħ +乡 åľŁ +åĩ¡ æľ¬ç½ij +åĩ¡æľ¬ç½ij 注 +ä¼Ĭ åĪ© +è¡¡ æ°´ +æĽ´ åĥıæĺ¯ +åĪĨéĴŁ å·¦åı³ +è¦ı 模 +äºĶ åĪĨéĴŁ +åºĹ åĬłçĽŁ +åĽ° éĽ£ +åħ³ åģľ +æĢĿ 绪 +åĴ½ åĸī +缸 符 +çĥ¦ èºģ +æĻĤ æľŁ +åijĪ çı¾ +è§£ æķ£ +诱 导 +éļĶ çĥŃ +çĮ ¶ +åįĹ å®ĭ +æ·±åħ¥ äºĨè§£ +çŃĶ çĸij +æĺ¼ å¤ľ +åįĥ ä¼ı +åĬ³åĬ¡ æ´¾éģ£ +红 è±Ĩ +åĿı äºĭ +çĤ¹ æ»´ +å°±ä¸ļ å²Ĺä½į +约 åIJĪ +åħį éϤ +éĢĨ åĬ¿ +éĩį éĩijå±ŀ +å®ĺ 宣 +ä½İ å»ī +æģ¨ ä¸įå¾Ĺ +å¾Ĺ 天 +å¾Ĺ天 çĭ¬ +å¾Ĺ天çĭ¬ åİļ +ä¸Ģå°ģ ä¿¡ +æĬ½ å¥ĸ +è¾Ĺ 转 +çķĻ å®Ī +çķĻå®Ī åĦ¿ç«¥ +çŃĶ åį· +å·¨ åŀĭ +æľĢ好 ä¸įè¦ģ +æµĻæ±Ł 大åѦ +æĨ ¨ +æı¡ æīĭ +éĴĪ ç»ĩ +æİĴ 骨 +çĤ ½ +å°ģ è£ħ +åįĢ åŁŁ +空æ°Ķ åĩĢåĮĸ +åħī å½± +åĢĴ å¡Į +å§ļ æĺİ +æ¤į 被 +åѦ åīį +åѦåīį æķĻèĤ² +èĬĿ åĬł +èĬĿåĬł åĵ¥ +缩 æ°´ +ä½ Ł +åľ¨çº¿ åĴ¨è¯¢ +èµı æŀIJ +éĿĴ èĽĻ +æĬ± ä½ı +èĮĤ åIJį +åħ¨åĬĽ æīĵéĢł +åįļ士 åѦä½į +æ²§ å·ŀ +åĻ ¢ +æĿĤ çī© +åĪ» çĶ» +æį ħ +å¾® éĩı +å¾®éĩı åħĥç´ł +ä¸Ģ åĽŀäºĭ +鸡 èĤī +åĪ©æ¶¦ çİĩ +æīį ç®Ĺ +å¾® å¦Ļ +棵 æłij +è´ª 婪 +åĩı å̼ +梦 å¢ĥ +åı¯ è§Ĩ +åı¯è§Ĩ åĮĸ +广大 å¸Ĥæ°ij +ä¸ĵä¸ļ ä»İäºĭ +ç»ı 纬 +ç´§ çĽ¯ +çŁ¥ å·± +è¤ ļ +æĸĩåĮĸ åºķèķ´ +åݦéŨ å¸Ĥ +临 港 +对åħ¶ 羣å®ŀ +岸 è¾¹ +è¦ĸ çĤº +æĬĹ çĻĮ +åĶIJ å®ĩ +ä¸įå¾Ĺ è¶ħè¿ĩ +å¨ģ æħij +æ¡Ĩæŀ¶ åįıè®® +èµ° ç§ģ +åĽ¢ å§Ķ +夸 大 +æ¬ Ħ +ç¥ŀç»ı ç³»ç»Ł +æijĦå½± ä½ľåĵģ +èĬ ¥ +å®ī åºĨ +æµ· 滨 +æŀĦ æĢĿ +çīµ æĮĤ +åı © +éĺIJ æĺİ +éģ ģ +ç²¾ æ²¹ +ç©´ ä½į +æĬ¤ 身 +æĬ¤èº« 符 +æĮĩ å°İ +åŃĺåľ¨ ä¸Ģå®ļ +å¯Ĥ éĿĻ +æµ·å¤ĸ å¸Ĥåľº +éĿ ¡ +综åIJĪ å¾ģ +ä¿ IJ +è¨Ī ç®Ĺ +æĺİ æľĹ +äºļ è¿IJ +äºļè¿IJ ä¼ļ +åīįçŀ» æĢ§ +åĮ® ä¹ı +产ä¸ļ æī¶è´« +èĦij æµ· +èĦijæµ· ä¸Ń +åħļçļĦ é¢Ĩ导 +åĪĺ éĤ¦ +æµģ æĺŁ +æĵ Ĥ +æĶĢ çĻ» +åĴ Ķ +ä¸Ģä¸ĭåŃIJ å°± +è¯Ĭ æ²» +使 åĬ² +åīµ ä½ľ +éĵŃ è®° +éĴ± è´¢ +æĹ¥æĬ¥ è®°èĢħ +çĥŁ çģ« +èĥľ è´Ł +åįļ 主 +ä¸ŃåĽ½ èģĶéĢļ +ç½ijç«Ļ é¦ĸ页 +å°± å¤Ł +å°±å¤Ł äºĨ +æīij åħĭ +å±ħ å§Ķä¼ļ +è° ¬ +å®īåħ¨ äºĭæķħ +åķĨ çĶ¨è½¦ +循çݯ ç»ıæµİ +æ· ¤ +èĢĥ è¯ģ +å®Ŀ èĹı +å®Į ç»ĵ +çłĶåıij æĬķåħ¥ +å² ij +æģŃ æķ¬ +离 éĢĢä¼ij +æ°´ 墨 +å© ¶ +è¯Ĺ åı¥ +å®ģæ³¢ å¸Ĥ +å¼± çĤ¹ +åģľ çīĮ +奶 æ²¹ +å¥ĩ纳 æ²³ +æĨ Ĥ +社ä¼ļ å®ŀè·µ +è´Ŀ 壳 +çłĤ æµĨ +èι åıª +宣 æī¬ +综åIJĪ æķ´æ²» +åĤ ij +æ°ijæĹı æĸĩåĮĸ +éĩį çݰ +积 æ·Ģ +åħ¬ çĦ¶ +çħ ī +缸 èģļ +æ± ¾ +纹 çIJĨ +çĩĥ çħ¤ +æŃ¤ ç§į +ç¾İ å¦Ĩ +åįĥ çĵ¦ +çIJ Ľ +驾驶 è¯ģ +éĺ¶ æ¢¯ +ä¸Ŀ ä¸Ŀ +å¾Īå¤ļ äºĭæĥħ +åħī éĺ´ +èijĹä½ľ æ¬Ĭ +åħ§ éĥ¨ +çĽ¸å¯¹ æĿ¥è¯´ +éĸ Ĵ +éľĩ æħij +說 話 +æĨ ij +ç«¥ è£ħ +ä½ıæĪ¿ åĴĮ +ä½ıæĪ¿åĴĮ åŁİ +å·²ç»ı è¶ħè¿ĩ +侦 å¯Ł +çŁ¿ çī© +ä¾Ľ 大家 +çī¹ éĤĢ +ç¨ĭåºı åijĺ +çķľçī§ ä¸ļ +æ° ª +çij ª +åĢĴ åľ¨ +åĢĴåľ¨ åľ° +æ¯ Ģ +梯 éĺŁ +æİ¥ èijĹ +æĬĹ èıĮ +è¤ ĩ +ç¬ Ļ +æ¯Ķ ä¸Ĭå¹´ +鸡 汤 +åŃ¦ä¹ł æĪIJ绩 +æĸij æĸĵ +åħΠ坼 +åĪĹ ä¸¾ +è°ĥæŁ¥ æĺ¾ç¤º +æ© « +ä¹Ŀ åįģ +è°¢ 飵 +è·¨è¶Ĭ å¼ı +女æĢ§ æľĭåıĭ +èIJ¥åħ» ä»·å̼ +å®ŀè·µ ç»ıéªĮ +èĭı å·ŀå¸Ĥ +çĵ¶ åŃIJ +æĸ° çļĦä¸Ģ +æĸ°çļĦä¸Ģ å¹´ +æĺİ æĻ° +å®ł çα +åŃŠ第 +æľĹ 诵 +纳 æĸ¯ +éĢĨ è¡Į +è«ĭ æĤ¨ +è«ĭæĤ¨ æıIJä¾Ľ +èĥ¸ æĢĢ +第ä¸ĥ å±Ĭ +强 壮 +代 åŃķ +æ±¶ å·Ŀ +å®¶ åĸ» +å®¶åĸ» æĪ· +å®¶åĸ»æĪ· æĻĵ +èħ ® +åIJ¯ 迪 +æĹł éļľç¢į +èĻķçIJĨ åıĬ +æĿ¥ åİĨ +å®ŀ åĬ¡ +ä¹Ł éļıä¹ĭ +æĬĢèĥ½ åŁ¹è®Ń +åѤ ç«ĭ +åī ģ +éĥ´ å·ŀ +æĶ¶ æķĽ +éł» éģĵ +èᣠ幏 +èİ« è¿ĩäºİ +æŃ¤ æĻĤ +纪å§Ķ çĽij +纪å§ĶçĽij å§Ķ +缸 éĤ» +åı¦ä¸Ģ è¾¹ +çªĴ æģ¯ +æľīå¾Īå¤ļ ç§į +æ¯ı éĢ¢ +éĹ® ä¸ĸ +ç´¯ ç´¯ +éĿĴæĺ¥ æľŁ +è·¯ åĨµ +åħĭ èݱ +è¿Ħä»Ĭ 为æŃ¢ +æĥĬ å¥ĩ +è·¨ 度 +éħ¿ éĢł +åĩ ĭ +è¿ij ä¸īå¹´ +åĨħ 马 +åĨħ马 å°Ķ +æı į +è¿Ľå±ķ æĥħåĨµ +èĮ § +æľīåºı æİ¨è¿Ľ +æĢ» åĨłåĨĽ +æĪIJ绩 åįķ +éĽ»è©± åıĬ +ç´§å¯Ĩ ç»ĵåIJĪ +åºĬ ä½į +é¹ Ĭ +æķ£åıij çĿĢ +åĭŁ èµĦ +æ°¨ éħ¸ +彩 ç¥ŀ +è®Ģ åıĸ +éĩį æ¸© +ä¸Ń åŃĺåľ¨çļĦ +ç¾İ éºĹ +ä¸įæĸŃ å¢ŀåĬł +è½® æµģ +æİ¥ åIJ¬ +å¹´ 产å̼ +åįĥ åħĭ +æĪĺåľº ä¸Ĭ +çħ§ é¡§ +å¹²éĥ¨ éĺŁä¼į +åį° ç«ł +ä¸Ģèĩ´ æĢ§ +è¿ŀ å¤ľ +åħħ è£ķ +é»ij åIJįåįķ +åĩĢ æ°´ +ä¸Ģ大 æĹ© +åĮħ 袱 +çĬ¯ è§Ħ +çIJĨ è«ĸ +æŀģ æĺĵ +éª ¸ +å¨ĺ å¨ĺ +åĽ¢ åľĨ +亿åħĥ 以ä¸Ĭ +åĪ©ç͍ æĤ¨çļĦ +带æĿ¥ æĽ´å¤ļ +ä¸Ń央 空è°ĥ +æľĪ èĸª +çĮľ æĥ³ +åĪº 客 +ä½ľ æģ¯ +åįķ è°ĥ +äºĴ åĪ© +å¦Ĥæľī ä¾µæĿĥ +å°ı å·§ +åįģ åł° +åĵĪåĵĪ åĵĪåĵĪ +è¾¹ éĻħ +æłĩ è¯Ń +åĪĩåħ¥ çĤ¹ +éĢĨ è¢Ń +è¯ķ åīĤ +绿 è±Ĩ +è® ļ +åŁºçĿ£ å¾Ĵ +å£ ¬ +åħ¨ æĺİæĺŁ +éĢī ç§Ģ +èĪĮ å°ĸ +ä¸įåIJĮ ç±»åŀĭ +çĥŁ åĽ± +çģµ æ°Ķ +åĮº 管å§Ķä¼ļ +åĨľ åī¯ +åĨľåī¯ äº§åĵģ +èĶļ æĿ¥ +沪 æĮĩ +åħ»æ®ĸ æĪ· +æĸĹ å¿Ĺ +é¦ĸ é¢Ĩ +è¡Ģ èħ¥ +åĬł ç´§ +ä¸Ģèĩ´ 好è¯Ħ +第ä¸ī èĬĤ +æī¬ å°ĺ +交éĢļ æŀ¢çº½ +鼶 ç¢İ +é»ij æ´ŀ +çľĭ ä¸įæĩĤ +å±ŀ å®ŀ +主 åŁİåĮº +å¨ Ľ +å¨Ľ æ¨Ĥ +ç¬ij æĦı +èϹ æ¡¥ +åIJĦ个 çݯèĬĤ +çķ¥ å¾® +èĢķ èĢĺ +æľ¬ åľºæ¯ĶèµĽ +æĪIJ è´¥ +éĢī èĤ¡ +èªŀ è¨Ģ +çŃĶ è¾© +èĩª ä¹ł +æ£ º +ä¸ĩ 欧åħĥ +åģľ å·¥ +对åħ¶ è¿Ľè¡Į +积æŀģ éħįåIJĪ +ä¹¾ åĿ¤ +å¦ĸ æĢª +èļĮ åŁł +èµĦ产 è¯Ħä¼° +è°ĥ çļ® +éϤ å¤ķ +åĽ´ å¢Ļ +æľį å½¹ +æ·± æ¸Ĭ +é¢Ħ åζ +ç ĥ½ +å®ī 稳 +建 æŀĦ +çĭĻ åĩ» +主åĭķ 註åĨĬ +éĥ½æľī èĩªå·± +æİĴåIJį 第ä¸Ģ +麻 è¾£ +çĢ ļ +çĥŁèĬ± çĪĨ +çĥŁèĬ±çĪĨ 竹 +èĩªçĦ¶ ä¿ĿæĬ¤ +ä»Ļ å¢ĥ +为äºĨ éģ¿åħį +åĨ· åºĵ +è§£æĶ¾ æĢĿæĥ³ +åĪĿ äºĮ +ä½ĵ è´´ +é¦ĸ å¯Į +迪 æĭľ +æļĤ ç¼ĵ +æĶ¯æĮģ åĬĽåº¦ +侦 æİ¢ +马 åĪº +åĮĹ æ±½ +ç¹ ŀ +è°İ è¨Ģ +éĢ£ çºĮ +å· ³ +ä»»ä½ķ æĹ¶åĢĻ +车 èģĶç½ij +åįķ 项 +å¸Ń åį· +建çŃij æĿIJæĸĻ +ä¸Ńç§ĭ èĬĤ +ç¡ķ士 çłĶç©¶ +ç§ģ ç«ĭ +åħļåĴĮ æĶ¿åºľ +æľ¬æ¬¡ 交æĺĵ +èººåľ¨ åºĬä¸Ĭ +ç½ijåıĭ è¯Ħ论 +å¦ Ŀ +害 ç¾ŀ +åħ¬ç«ĭ åĮ»éĻ¢ +ä¸ ŀ +çĶŁçī© è´¨ +åºĶ éĤĢ +æĬ½ åıĸ +åĩł å¼ł +æijĺ ç¼ĸ +ç»ĺ æľ¬ +详 è§£ +强 硬 +æľĢ åħĪè¿ĽçļĦ +æĭĽ èĤ¡ +æĭĽèĤ¡ 书 +åįĥ æĸ¹ +åįĥæĸ¹ çϾ +åįĥæĸ¹çϾ 计 +éħį éŁ³ +驾 çħ§ +å¾ģ æĪĺ +èªĵ è¨Ģ +æĭľ å¸Ī +æĭľå¸Ī åѦ +æĭľå¸ĪåѦ èīº +æĬ± åĽ¢ +ç±³ ç²ī +éĿŀ常 éĢĤåIJĪ +èĪª æµ· +å±¥ 约 +åįģåħ« æĿ¡ +éĶ» éĢł +éĩįè¦ģ 举æİª +åıijæĮ¥ ä½ľç͍ +æ· ļ +人 社 +人社 å±Ģ +è¯ķçĤ¹ å·¥ä½ľ +éĺľ éĺ³ +æ¡ĥ åľĴ +æ°ij ä¼ģ +æ´ģ çϽ +è´µ 宾 +åħ¬ 社 +è§ī æĤŁ +è®°å¿Ĩ åĬĽ +æľĥåĵ¡ 註åĨĬ +æŃ¤ æ¡Ī +麻 çĹ¹ +çı Ģ +æĸ© èİ· +çĶ· åŃ©åŃIJ +å±ĢéĻIJ äºİ +åĭĺ æŁ¥ +åIJĥ 饱 +èĬ¬ åħ° +æ£ķ èī² +ç¦ı ç¥ī +çͳ èĬ± +æµ· çĽĹ +èĶ ij +æĸĩ åѸ +æ´»æĢ§ çĤŃ +缴 éĢļ车 +è°¢ éĤĢ +躺 çĿĢ +åľ ĥ +æ¯ıæĹ¥ ç»ıæµİ +åħ¬åħ± æĸĩåĮĸ +讲 æķħäºĭ +å¯Ł çľĭ +æĤł éĹ² +åľ° åĿª +æ¶Į çݰåĩº +é«ĺçŃī éĻ¢æł¡ +èĮĦ åŃIJ +éĺ² åį« +ä¾ĭ è¡Į +æĺ¾ éľ² +æĸ° 常æĢģ +ç»Ŀ ä½³ +å¯Į æ°ij +以 人æ°ij +以人æ°ij 为 +éĤ¢ åı° +å±ķ æ¼Ķ +çϼ å¸ĥ +è´Ł è½½ +åģı 离 +æ°¸ éģł +éĩįè¦ģ åİŁåĽł +åįıä¼ļ ä¼ļåijĺ +éļ¾ æ°ij +çĶŁäº§ 车éĹ´ +çģµ åĬ¨ +两年 åīį +æĸ¹ åľĨ +æ´» ä¸ĭåİ» +ä¸ĸçķĮ è§Ĥ +éªĹ åıĸ +ç¾İ è²Į +èĥ½ çľĭåĩº +çϼ æı® +è§Ĥ å½± +åī ĥ +åIJĪèµĦ åħ¬åı¸ +å© § +å¹² æĹ± +åħŃ ä¸ªæľĪ +尤为 éĩįè¦ģ +èĤ ½ +秦 åĽ½ +æīĺ ç¦ı +建çŃij å¸Ī +åįĩ级 æĶ¹éĢł +å°ı é¢Ŀ +å°ıé¢Ŀ 贷款 +两个 ç»´æĬ¤ +æĭį æĭį +åı¯ çĸij +æį¢ åıĸ +æŃ¦ 士 +èµĸ 以 +èµĸ以 çĶŁåŃĺ +æĮ ļ +殿 åłĤ +èĩªçĦ¶ çķĮ +ç£ģ åľº +å¦Ĥä½ķ çľĭå¾ħ +ä»ĬæĹ¥ 头æĿ¡ +西 åŁŁ +èİ· è¯Ħ +風 æł¼ +ä¿Ħ åĽ½ +æīĵ æĭ¼ +å®£ä¼ł çīĩ +å¾Ī æĸ¹ä¾¿ +ä¾Ľç»Ļ ä¾§ +纪念 ç¢ij +毫 åħĭ +èĬ³ é¦Ļ +å·¥åķĨ éĵ¶è¡Į +请 çĤ¹åĩ» +ç¼ ª +æĹłæķ° 次 +èᝠå¸Ī +èħ ¸ +游 èīĩ +åĮ ¾ +å·¡ èĪª +æ²»çIJĨ ä½ĵç³» +èIJ¥éĢł èī¯å¥½ +æ·· æ·Ĩ +éĢļ çķħ +åĬ³ ç´¯ +ä»ĵ ä½į +å¢ŀ éķ· +éļIJ 约 +æĿĤå¿Ĺ 社 +åħ» èĤ² +åı¯èĥ½ åıijçĶŁ +èĢĥ 試 +西 ä¾§ +åĬł åĢį +主æĮģ åı¬å¼Ģ +çķ¢ ç«Ł +éĹ® 询 +æµ· æ£ł +èĹ © +注æĺİ æĿ¥æºIJ +æ£Ģ çĸ« +请 åģĩ +æĬļ æij¸ +èĵĦ çĶµæ±ł +è·Ł ä¸įä¸Ĭ +çݰ代 社ä¼ļ +çѹ èµĦ +ä½ĵèĤ² 彩票 +å»¶ 误 +è¾Ľ è¾£ +éĿ¢ 容 +åį° è®° +çģŃ äº¡ +ç´ł é£Ł +åħ´ èĩ´ +éľĢè¦ģ ç͍ +éľĢè¦ģç͍ åΰ +å®Ŀ å¦Ī +ç£ĭ åķĨ +éļ¶ å±ŀ +è´¡çĮ® åĬĽéĩı +åħ¬åħ± èµĦæºIJ +大 éĺª +åĨĽ è®Ń +æĤ¬ 念 +社ä¼ļ 稳å®ļ +å¹²äºĭ åĪĽä¸ļ +æľī æĿ¡ä»¶ +æľīæĿ¡ä»¶ çļĦ +ä¸Ģå¹´ ä¸Ģ度 +åİ ¥ +强 奸 +豪 车 +æİĮ æŁľ +æ°´åĪ© å·¥ç¨ĭ +å³ ª +积æŀģ ä½ľç͍ +æµ· æ·Ģ +æµ·æ·Ģ åĮº +çĥŃ æĴŃ +åĿļæĮģ ä¸įæĩĪ +åıĮ èĦļ +绣 æĪĺ +ä»»ä½ķ 人éĥ½ +åľ°ä¸ĭ 室 +åĨ¶ çĤ¼ +è°ħ è§£ +æ¸Ķ èι +太éĺ³ åŁİ +被 æįķ +计ç®Ĺ åύ +西 åĮ» +èĪĴ å¿ĥ +æ¡ ¦ +éģ ² +åĬ ij +è¨ Ĺ +èİ º +åĸ ¬ +çĵ ¯ +åĺ ĺ +åł ķ +æķ Ŀ +åij ¦ +èĭ ŀ +æŃ ¹ +æĵ ¬ +æ£ Ħ +èĪ µ +å¥ ª +çļ ĭ +æĶ ¸ +åľ © +ç¤ Ļ +ç¢ ĺ +éı Ī +æĦ ķ +ç¹ ³ +èĺ ¸ +è² Ĥ +æ¼ ² +æij ¹ +æĶ Ŀ +åŃ ¢ +èķ Ń +é¨ ° +æ½ ¼ +éħ ° +æĴ ¥ +è¹ ¬ +é¨ Ļ +è¸ ¹ +éģ IJ +çĺ Ģ +èĽ ¤ +æĤ ĸ +çĴ ŀ +ç£ IJ +æİ ° +è¾ Ĭ +å¾ ij +æİ ĸ +éģ ŀ +éĤ ¸ +éĽ ı +æĨ İ +æľ ½ +çį » +ç® Ķ +è¤ ¶ +æļ ¢ +æĺ µ +çı Ĥ +æĤ ¸ +åģ µ +åĻ ľ +å£ ¯ +æĴ ® +æģ į +å© ķ +ç¯ ± +éĺ Ļ +çī ł +è£ ĺ +è³ ¢ +éĩ ľ +éĵ ł +èİ ĺ +æ® Ĩ +çĻ ¸ +è´ ı +ç² ± +å« ¡ +åĨ ¢ +è¤ Ĵ +æĩ Ĭ +éľ ĵ +å¡ µ +æĭ £ +å» Ł +é£ ½ +é¢ Į +åļ İ +æ· º +èĨ ł +åİ Ń +åļ ĩ +åij ĥ +çĴ ĭ +çŃ ± +æĭ · +èį § +éĶ ° +åŃ ° +èĵ ĵ +èĨ ½ +æŀ ī +åĸ ½ +çĽ Ķ +çŃ IJ +ç¾ ļ +è ħĮ +è¾ « +æ³ ĵ +çĶ ¬ +èŁ ² +åĸ ª +å¦ ĵ +è¬ Ģ +çĤ Ĭ +æĽ ľ +æ± IJ +è´ Ī +èį Ģ +æĬ ł +ç¢ ¾ +æ« ĥ +éŀ ł +èij Ĩ +ç¥ ¯ +å½ Ŀ +é¦ į +åĮ £ +æľ Ń +åĿ Ĥ +ä¿ ij +èĵ ® +çij Ľ +æī ī +èĩ Ł +è² « +çİ ¥ +æ· ¼ +åİ ² +é³ Į +å³ Ń +åij Ľ +é § +é§ IJ +éģ · +ä¿ ª +æĢ Ĥ +è¾ į +å± į +åĭ ģ +å¥ ļ +éļ ħ +éĴ ´ +è¼ Ŀ +å® ¦ +èIJ ĥ +çĺ ĭ +æĨ ¶ +æĤ ħ +è¾ Ļ +åij ľ +çł º +éĢ ŀ +æµ ļ +éĸ £ +èĸ © +éĻ ĭ +çĤ Ļ +èª ķ +ä¸ Ł +é¹ ½ +ç± Į +è´ ° +éĭ ª +çľ © +æĴ IJ +èĨ º +éŀ ĺ +ç¾ ² +çª ® +ç´ IJ +æ® ´ +çº ¾ +èº į +ç´ ĭ +çĦ ĸ +çĶ º +çī ½ +çĤ ¯ +ç¼ Ķ +æ¯ ĵ +å¬ ° +æ¢ § +äº Ł +è¢ ħ +çį Ħ +è¿ ¥ +æ¼ ¾ +çĿ ij +ç¸ ¾ +é¦ ĭ +é¤ ħ +æ ¹Ħ +æĺ ĩ +æŀ Ń +èĸ ° +æŁ ij +æ¦ » +åĻ Ĺ +åĻ ´ +æ£ £ +åĶ § +çĨ ¹ +è¼ ¯ +å¢ Ł +é² ² +æĪ Ľ +èī ¦ +èĬ ® +åĺ Ł +å¸ ¥ +å¿ » +çĮ Ŀ +å¯ µ +è³ ¦ +èĽ ¾ +æ» ¾ +çĤ ķ +éĵ ¬ +èĴ ¿ +éĴ ¨ +çĥ Ļ +ç² ķ +æĥ ¦ +æº § +é¢ į +éħ £ +å³ ¦ +ç± ģ +çĥ ĥ +åĨ Ĺ +åı ģ +çĽ § +ç½ µ +éĴ Ĺ +å¬ ī +è° ı +ç³ § +è¾ Ń +æ· ¬ +èŁ Ĵ +è¯ © +è¦ ĥ +çĻ ĸ +é½ Ĵ +çĪ IJ +ç® į +ç¼ İ +ç£ º +è¯ « +è¤ ² +æĵ ł +èIJ ¦ +çĿ ¬ +è° į +éĦ ° +æł ¾ +é¡ ı +ç¸ ± +æ¡ ¨ +éĨ ¬ +è¥ ² +è® ª +å© º +èį Ł +åĮ Ŀ +çĨ ł +èĽ Ĭ +æ¸ ļ +å´ ½ +é² ¤ +åķ ° +åĮ ķ +ä¸ IJ +è® ¥ +åı ½ +åı ¼ +çļ ¿ +è¿ Ĥ +åIJ Ĩ +å± ¹ +èĩ ¼ +è® ¹ +é© ® +çº « +æ± ŀ +æĬ ¡ +èĭ ĩ +åIJ ł +åIJ Ń +åIJ ® +å² ĸ +ä½ ĥ +çĭ Ī +åº ĩ +åIJ Ŀ +éĹ ° +æ± ¹ +å¿ ± +æĭ Ħ +æĭ Ĺ +èĮ ī +èĭ Ľ +èĮ ģ +çŁ ¾ +èĻ ı +åij » +åĴ Ħ +å¿ ¿ +èĤ ® +çĭ ŀ +çĸ Ł +çĸ Ļ +çĸ ļ +æ³ ŀ +å¸ ļ +å± ī +è¿ ¢ +é© ¹ +ç İ· +çıĬ ó +çıĬó ł +çıĬół Ħ +çıĬółĦ ģ +æĮ İ +æĭ ´ +åŀ Ľ +èį ¤ +æ® ĥ +çĽ ¹ +åĵ Ĩ +è´ » +æ¯ ¡ +çĭ ° +çĭ ¡ +æŁ Ĵ +æģ ĥ +è¯ ¬ +è¢ Ħ +è¯ ² +èļ ¤ +èĢ Ļ +åŁ Ĥ +æį İ +æį Į +æ¢ Ĩ +é ħĮ +çł ¾ +æ® ī +åĶ ł +æĻ Į +èļ £ +èļ ª +èļ ĵ +é¸ ¯ +åĶ ģ +åĶ Ĩ +åĢ Ķ +èĪ Ģ +è± º +èĥ ° +é¸ µ +é¸ ³ +é¦ ģ +ç¾ Ķ +æ¶ £ +æ¶ ķ +æĤ ¯ +è¯ ½ +è° Ĩ +ç¥ Ł +ç» ¢ +æį º +æį ¶ +æį » +æİ Ĥ +èı ł +èIJ ¤ +éħ Ĺ +çľ ¶ +åķ Ħ +èļ ¯ +èĽ Ģ +åĶ ¬ +å¸ · +éĵ IJ +éĵ Ľ +åģ İ +å¾ Ļ +èĦ ¯ +è± ļ +çĮ ĸ +çĹ Ĭ +æ¶ ® +æĥ Ń +æĤ ´ +æĥ ĭ +è° ļ +æı © +æIJ Ģ +æIJ Ķ +æ¦ Ķ +æ¤ Ń +éĽ ³ +åĸ ³ +è· Ľ +èľ ĵ +èľ Ĵ +é¹ ĥ +éĶ Ħ +çĶ ¥ +çŃ ı +çĮ © +çĮ ¬ +çĮ ¾ +çĹ ¢ +çĹ ª +æĥ ° +çª ĺ +è° ¤ +éļ ĺ +å© ¿ +é¹ ī +çij Ļ +æĸ Ł +æ¤ ¿ +éħ ª +éĽ ¹ +åĹ ¦ +è· · +è· º +è· ¤ +èľ Ī +èľ Ĺ +å¹ Į +é¦ ı +èª Ĭ +æ¼ ĵ +è¤ Ĥ +èĶ Ĺ +èĶ ¼ +åħ ¢ +è£ ³ +èľ » +èĿ ĩ +åĺ Ģ +éĶ ¹ +ç® ķ +ç® © +çĺ © +çĺ Ł +æ¼ ± +å¯ ¥ +éª ¡ +æĴ µ +æĴ ¬ +è± Į +åĺ ¹ +èĿ ł +èĿ Į +èĿ Ĺ +èĿ Ļ +éķ IJ +ç¨ ¼ +ç¯ ĵ +èĨ Ľ +é² « +çĺ ª +é² ¨ +æĨ Ķ +ç¿ © +è¤ ¥ +ç¼ Ń +åĻ © +çĵ ¢ +éľ İ +è¸ ± +è¹ Ĥ +èŁ Ĩ +é¹ ¦ +ç¯ ¡ +çĺ ¸ +çª ¿ +ç¼ ° +èĹ IJ +è¹ ĭ +èŁ ĭ +èŁ Ģ +èµ ¡ +èĩ Ĭ +é³ Ħ +ç³ ł +æĩ ¦ +åļ £ +éķ ° +é³ į +ç° ¸ +çĻ £ +é³ ĸ +é¬ ĵ +èł ķ +éľ ¹ +èº ı +é» ¯ +çĵ ¤ +çŁ Ĺ +ä¹ Ĥ +ä¹ ľ +åħ Ģ +å¼ ĭ +åŃ ij +åŃ ĵ +å¹ º +äº ĵ +å »¿ +ä¸ ı +åį ħ +ä» ĥ +ä» ī +ä» Ĥ +åĪ Ī +çĪ » +åį ŀ +éĹ © +è® £ +å¤ ¬ +çĪ ¿ +æ¯ ĭ +éĤ Ĺ +éĤ Ľ +èī ½ +èī ¿ +åı µ +ä¸ ķ +åĮ ľ +åĬ ¢ +åį Ł +åı ± +åı » +ä» ¨ +ä» Ł +ä» ¡ +ä» « +ä» ŀ +åį ® +æ° IJ +çĬ ° +åĪ į +éĤ Ŀ +éĤ Ļ +è® ¦ +è® § +è® « +å° » +éĺ ¡ +å° ķ +å¼ ģ +èĢ Ĵ +çİ İ +çİ ij +åľ ¬ +æī ¦ +åľ ª +åľ ¹ +æī ª +åľ ® +åľ ¯ +èĬ Ĭ +èĬ į +èĬ Ħ +èĬ ¨ +èĬ ij +èĬ İ +èĬ Ĺ +äº ĺ +åİ į +å¤ ¼ +æĪ į +å° ¥ +ä¹ © +æĹ ¯ +æĽ ³ +å² Į +å± º +åĩ ¼ +åĽ ¡ +éĴ ĩ +ç¼ ¶ +æ° ĺ +æ° ĸ +çī Ŀ +ä¼ İ +ä¼ Ľ +ä¼ ¢ +ä½ ¤ +ä» µ +ä¼ ¥ +ä¼ § +ä¼ ī +ä¼ « +åĽ Ł +æ± Ĩ +åĪ ĸ +å¤ Ļ +æĹ ® +åĪ İ +çĬ · +çĬ ¸ +èĪ Ľ +åĩ « +é Ĥ¬ +é¥ § +æ± Ķ +æ± ľ +æ± Ĭ +å¿ ĸ +å¿ ı +è® ´ +è® µ +è® · +èģ ¿ +èī ® +åİ ¾ +å¦ ģ +çº ¡ +çº £ +çº ¥ +çº ¨ +çİ ķ +çİ Ļ +æĬ Ł +æĬ Ķ +åľ » +åĿ į +æĬ ĥ +ã§ IJ +èĬ « +èĬ ¾ +èĭ Ī +èĭ £ +èĭ ĭ +èĬ ¼ +èĭ Į +èĭ ģ +èĬ © +èĬ ª +èĬ ¡ +èĬ Ł +èĭ Ħ +èĭ İ +èĭ ¡ +æĿ Į +æĿ ĵ +æĿ Ī +å¿ ij +åŃ Ľ +éĤ ´ +éĤ ³ +å¥ ģ +è± ķ +å¿ Ĵ +æ¬ ¤ +è½ « +è¿ ĵ +éĤ ¶ +å¿ IJ +åį £ +éĤ º +æĹ ° +åij ĭ +åij Ĵ +åij ĵ +åij Ķ +åij ĸ +æĹ ¸ +åIJ ¡ +èĻ ¬ +åIJ ½ +åIJ £ +åIJ ² +å¸ ı +å² Ī +å² ĺ +åħ ķ +åĽ µ +åĽ « +éĴ Ĭ +éĴ ĭ +é ĴĮ +è¿ ķ +æ° Ļ +æ° ļ +çī ¤ +ä½ ŀ +ä½ ļ +ä½ Ŀ +ä½ Ĺ +å½ · +ä½ ĺ +ä½ ¥ +è± ¸ +åĿ Į +èĤ Ł +å¥ Ĥ +åĬ ¬ +çĭ ģ +é¸ ł +é¥ ¨ +é¥ © +é¥ « +é¥ ¬ +åº ij +åº ĭ +çĸ Ķ +çĸ ĸ +èĤ ĵ +éĹ ± +éĹ ³ +çĤ Ģ +æ² £ +æ² ħ +æ² Ķ +æ² ¤ +æ² ı +æ² ļ +æ± © +æ± ¨ +æ² ¨ +æ± ´ +æ² Ĩ +æ² © +æ³ IJ +æĢ ĥ +æĢ Ħ +å¿ ¡ +å¿ ¤ +å¿ ¾ +æĢ ħ +å¿ ª +æĢ Ĩ +å¿ Ń +å¿ ¸ +è¯ Ĥ +è¯ ĥ +è¯ ħ +è¯ ĭ +è¯ Į +è¯ Ĵ +éĻ Ĥ +éĻ ī +å¦ © +å¦ ª +å¦ £ +å¦ Ĺ +å¦ « +å§ Ĵ +å¦ ¤ +åĬ Ń +åĪ Ń +éĤ ° +çº Ń +çº ° +çº ´ +çİ ¡ +çİ Ń +çİ ł +çİ ¢ +çİ ¦ +çĽ Ĥ +å¿ Ŀ +åĮ ¦ +åĿ © +æĬ ¨ +æĭ ¤ +åĿ « +æĭ Ī +åŀ Ĩ +æĬ » +åĬ ¼ +æĭ ĥ +æĭ Ĭ +åĿ ¼ +åĿ » +ã§ Ł +åĿ ¨ +åĿ Ń +æĬ ¿ +åĿ ³ +èĭ · +èĭ ¤ +èĮ ı +èĭ « +èĭ ľ +èĭ ´ +èĭ Ĵ +èĭ ĺ +èĮ Į +èĭ » +èĭ ĵ +èĮ ļ +èĮ Ĩ +èĮ ij +èĮ ĵ +èĮ Ķ +èĮ ķ +è ĮĢ +èĭ ķ +æŀ ¥ +æŀ ĩ +æĿ ª +æĿ ³ +æŀ § +æĿ µ +æŀ ¨ +æŀ ŀ +æŀ ĭ +æĿ » +æĿ · +æĿ ¼ +çŁ ¸ +ç łĢ +åĪ ³ +å¥ Ħ +æ® ģ +éĥ ı +è½ Ń +éĥ ħ +é¸ ¢ +çĽ ± +æĺ Ļ +æĿ ² +æĺ ĥ +åĴ Ĥ +åij ¸ +æĺ Ģ +æĹ » +æĺ ī +çĤ ħ +çķ Ģ +èĻ ® +åĴ Ģ +åij · +é» ¾ +åij ± +åij ¤ +åĴ Ĩ +åĴ Ľ +åij ¶ +åij £ +åĴ Ŀ +å² ¢ +å² ¿ +å² ¬ +å² « +å¸ Ļ +å² £ +å³ ģ +åĪ ¿ +å² · +åī Ģ +å¸ Ķ +å³ Ħ +æ² ĵ +åĽ ¹ +ç½ Ķ +éĴ į +éĴ İ +éĴ ı +éĴ Ĵ +éĴ ķ +éĤ ¾ +è¿ ® +çī ¦ +ç« º +è¿ ¤ +ä½ ¶ +ä¾ ij +ä¾ ī +èĩ ¾ +ä¾ Ĺ +ä¾ ı +ä¾ © +ä½ » +ä½ ¾ +ä¾ ª +ä½ ¼ +ä½ ¯ +ä¾ ¬ +å¸ Ľ +ä¾ Ķ +å¾ Ĥ +åĪ ½ +éĥ Ħ +ç± ´ +çĵ ® +æĪ Ĺ +èĤ ¼ +äı Ŀ +èĤ ± +èĤ « +è¿ © +éĥ ĩ +çĭ İ +çĭ į +çĭ Ĵ +åĴ İ +é¥ ¯ +é¥ ´ +åĨ ½ +åĨ ¼ +åº ĸ +çĸ ł +çĸ Ŀ +åħ ĸ +åĬ ¾ +ð¬ ī +ð¬ī ¼ +çĤ ĺ +çĤ Ŀ +çĤ Ķ +æ³ Ķ +æ² Ń +æ³ · +æ³ ± +æ³ ħ +æ³ ł +æ³ º +æ³ ĸ +æ³ « +æ³ ® +æ² ± +æ³ ¯ +æĢ Ļ +æĢ µ +æĢ ¦ +æĢ Ľ +æĢ ı +æĢ į +ã ¤ +㤠ĺ +æĢ © +æĢ « +æĢ ¿ +å® ķ +ç© ¹ +å® ĵ +è¯ ĵ +è¯ Ķ +è¯ ĸ +è¯ ĺ +æĪ ¾ +è¯ Ļ +æĪ ½ +éĥ ĵ +è¡ © +ç¥ Ĩ +ç¥ İ +ç¥ ĩ +è¯ ľ +è¯ Ł +è¯ £ +è¯ ¤ +è¯ § +è¯ ¨ +æĪ ķ +éĻ Ķ +å¦ ² +å¦ ¯ +å§ Ĺ +å¸ ij +åŃ ¥ +é© ½ +èĻ ± +è¿ ¨ +ç» Ģ +ç» ģ +ç» Ĥ +é© · +é© ¸ +ç» ī +ç» Į +éª Ģ +çĶ ¾ +çı ı +çı IJ +çı ij +çİ ³ +é¡ ¸ +çı ī +çı Ī +æĭ ® +åŀ Ń +æĮ Ŀ +æĮ ŀ +åŀ ¤ +èµ ³ +è´ ² +åŀ ± +åŀ Į +åŀ § +åŀ ĵ +æĮ ¦ +åŀ ł +èį ļ +èį ij +è´ ³ +èį ľ +èİ Ĵ +èĮ ¼ +èĮ ´ +èĮ ± +èİ Ľ +èį ŀ +èĮ ¯ +èį ı +èį ĩ +èį ĥ +èį ł +èĮ Ń +åŀ © +èį ¥ +èį ¦ +èį ¨ +èį © +åī ĭ +èį ª +èį ¬ +èį ® +æŁ ° +æł ī +æŁ ĺ +æł Ĭ +æŁ © +æŀ ° +æł Į +æŁ Ļ +æŀ µ +æŀ ³ +æŁ ŀ +æŁ Ŀ +æł Ģ +æŁ ¢ +æł İ +æŁ Ī +æŁ ģ +æŀ · +æŁ ½ +åī Į +éħ Ĭ +éĥ ¦ +çĶ Ń +çł Ĺ +çł ĺ +çł Ĵ +æĸ « +çł Ń +çł ľ +èĢ · +èĻ º +æ® Ĥ +æ® ĩ +æ® Ħ +è½ ± +è½ ² +è½ ³ +è½ ¶ +è½ ¸ +èĻ ¿ +æ¯ ĸ +è§ ĩ +å° ľ +åĵ IJ +çľ Ħ +çľ į +ðł ³ +ðł³ IJ +éĥ ¢ +çľ ĩ +çľ Ĭ +çľ Ī +ç¦ º +åĵ Ĥ +åĴ ´ +æĽ · +æĺ ´ +åĴ ¦ +åĵ ĵ +åĵ Ķ +çķ İ +åij ² +èĥ Ħ +çķ ĭ +çķ Ī +èĻ ¼ +èĻ » +çĽ ħ +åĴ £ +åĵ ķ +åī IJ +éĥ § +åĴ » +åĽ ¿ +åĴ ¿ +åĵ Į +åĵ Ļ +åĵ ļ +åĴ © +åĴ ¤ +åĵ Ŀ +åĵ ı +åĵ ŀ +å³ £ +ç½ ĺ +å³ Ĵ +å³ ¤ +å³ ĭ +è´ ¶ +éĴ ļ +éĴ ¡ +éĴ £ +éĴ ¤ +éĴ « +æ° ¡ +çī ¯ +éĥ ľ +ç§ ķ +ç§ Ń +ç« ½ +ç¬ Ī +ä¿ ¦ +ä¿ ¨ +ä¿ ħ +åı Ł +åŀ ¡ +çī ® +ä¿ £ +ä¿ ļ +çļ Ī +ä¿ Ł +éĢ ħ +å¾ ĩ +å¾ ī +èĪ ¢ +éĥ Ĺ +ä¿ İ +éĥ ¤ +çĪ ° +éĥ Ľ +çĵ ´ +èĥ ¨ +èĥ ª +èĥ Ľ +èĥ Ĥ +èĥ Ļ +èĥ į +èĥ Ĺ +è ĥĿ +æľ IJ +èĥ « +é¸ ¨ +åĮ į +çĭ ¨ +çĭ ¯ +é£ ij +çĭ © +çĭ ² +è¨ ĩ +éĢ Ħ +æĺ Ŀ +é¥ · +é¥ ¸ +é¥ ¹ +åŃ ª +å¨ Ī +åº ¥ +çĸ ¬ +çĸ £ +çĸ ¥ +çĸ Ń +åº ł +ç« ij +é£ Ĵ +éĹ ¼ +éĹ ¾ +éĹ ¿ +éĺ Ĥ +ç¾ ij +è¿ ¸ +ç± ¼ +éħ ĭ +çĤ » +çĥ Ģ +çĤ · +æ´ ± +æ´ ¹ +æ´ § +æ´ Į +æµ ĥ +æ´ ĩ +æ´ Ħ +æ´ Ļ +æ¶ İ +æ´ İ +æ´ « +æµ į +æ´ ® +æ´ µ +æµ Ĵ +æµ Ķ +æµ ķ +æ´ ³ +æģ ¸ +æģ ĵ +æģ ¹ +æģ « +æģ » +æģ Ĥ +æģ ª +æģ ½ +å® ¥ +æī ĥ +è¡ ² +è¡ ½ +è¡ ¿ +è¢ Ĥ +ç¥ ľ +ç¥ ĵ +ç¥ ļ +è¯ ® +ç¥ Ĺ +ç¥ ¢ +è¯ ° +è¯ ³ +é¸ © +æĺ ¶ +åĴ « +å¼ Ń +çī ģ +èĥ ¥ +éĻ Ł +å§ ® +å¨ Ĩ +å§ Ŀ +å§ £ +å§ ĺ +å§ ¹ +ç¾ ¿ +çĤ ± +çŁ ľ +ç» Ķ +éª ģ +éª ħ +ç» Ĺ +ç» Ľ +éª Ī +èĢ ĸ +æĮ Ī +çı ¥ +çı Ļ +é¡ ¼ +çı ° +çı © +çı § +çı £ +çı ŀ +çIJ ¤ +çı ² +æģ ļ +åŁ ķ +åŁ ĺ +åŁ Ļ +åŁ ļ +æĮ ¹ +èĢ Ĩ +èĢ Ħ +åŁ Ĵ +æį ĭ +è´ ½ +åŀ ¸ +æį ĥ +çĽ į +èį ¸ +èİ ³ +èİ ´ +èİ ª +èİ ł +èİ ľ +èİ ħ +èį ¼ +èİ © +èį ½ +èİ ¸ +èį » +èİ ¨ +é¸ ª +èİ ¼ +æł ² +æł ³ +æ¡ ¡ +æ¡ İ +æ¡ ¢ +æ¡ ¤ +æ¢ ĥ +æł Ŀ +æ¡ ķ +æ¡ ģ +æ¡ § +æ¡ ħ +æł Ł +æ¡ ī +æł © +éĢ ij +éĢ ĭ +å½ § +é¬ ² +è± ĩ +éħ IJ +éĢ ¦ +åİ Ŀ +åŃ ¬ +çł Ŀ +çł ¹ +çł § +çł · +çł Ł +çł ¼ +çł ¥ +çł £ +åī ŀ +çł » +è½ ¼ +è½ ¾ +è¾ Ĥ +é¸ « +è¶ ¸ +é¾ Ģ +é¸ ¬ +èĻ Ķ +çľ ¬ +åĶ Ľ +çľ Ļ +åĵ § +åĵ ½ +æĻ ģ +é¸ ® +è¶ µ +è¶ ¿ +çķ Ľ +èļ ¨ +èļ ľ +èļ į +èļ ĭ +èļ ¬ +èļ Ŀ +èļ § +åĶ ¢ +åľ Ħ +åĶ £ +åĶ ı +çĽ İ +åĶ ij +å´ Ĥ +å´ ĥ +ç½ ¡ +ç½ Ł +è§ Ĭ +èµ ħ +éĴ ² +éĴ µ +éĴ ¹ +éĴ º +éĴ ½ +éĴ ¼ +éĴ ¿ +éĵ Ģ +éĵ Ħ +éĵ Ĩ +éĵ Ī +éĵ ī +éĵ Ĭ +éĵ ĭ +éĵ Į +é ĵį +ä ¥ +ä¥ ½ +éĵ İ +æ° © +æ° ¤ +æ° ¦ +æ¯ ª +èĪ IJ +ç§ £ +ç§ « +çĽ ī +ç¬ Ħ +ç¬ ķ +ç¬ Ĭ +ç¬ ı +ç¬ Ĩ +ä¿ ¸ +ä¿ µ +åģ Į +ä¿ ³ +ä¿ ¶ +åĢ ¬ +åĢ ı +æģ ģ +åĢ Ń +ä¿ ¾ +åĢ ľ +éļ ¼ +éļ ½ +åĢ Į +åĢ ¥ +èĩ ¬ +éĥ « +åĢ ¨ +è¡ Ħ +é¢ Ģ +å¾ ķ +èĪ « +è¡ ¾ +èĥ ¯ +èĥ ± +èĥ ´ +èĥ Ń +èĦ į +èĥ ¼ +èĦ Ĵ +é¸ ± +é¸ ² +çĭ · +çĮ ģ +çĭ ³ +çĮ ĥ +çĭ º +éĢ ĸ +æ¡ Ģ +é¥ ½ +åĩ ĩ +æĮ Ľ +äº ³ +çĸ ³ +çĸ ´ +çĸ ¸ +çĸ ½ +çĹ Ī +çĸ ± +çĹ Ĥ +çĹ ī +è¡ ® +é¢ ĥ +æģ £ +æĹ Ĩ +æĹ Ħ +æĹ ĥ +éĺ ĥ +éĺ Ħ +è¨ ļ +éĺ Ĩ +æģ Ļ +ç² ij +çĥ ľ +çĥ © +çĥ Ĭ +åī ¡ +éĥ ¯ +çĥ ¬ +æ¶ ij +æµ ¯ +æ¶ ŀ +æ¶ Ł +å¨ ij +æ¶ ł +æµ ŀ +æ¶ ĵ +æµ ¥ +æ¶ Ķ +æµ ľ +æµ ł +æµ £ +æĤ ļ +æ ĤŃ +æĤ Ŀ +æĤ Ĵ +æĤ Į +æĤ Ľ +çª Ī +åī ľ +è¯ ¹ +è¯ ¼ +è¢ Ĵ +è¢ ¢ +è¯ ¿ +è° Ģ +è° Ĥ +è° Ħ +è° ĩ +å± IJ +å± Ļ +éĻ ¬ +åĭ IJ +å¥ ĺ +çī Ĥ +èļ © +éĻ ² +å¨ Į +å¨ ī +å¨ ² +å¨ ´ +å¨ £ +å¨ ĵ +å© Ģ +çķ ļ +éĢ ¡ +ç» ł +éª Ĭ +ç» ¡ +éª ĭ +ç» ¦ +ç» ¨ +éª İ +éĤ ķ +é¸ ¶ +å½ Ĺ +èĢ ľ +çĦ ĺ +èĪ Ĥ +çIJ ı +çIJ ĩ +éº ¸ +æı ¶ +åŁ ´ +åŁ ¯ +æį ¯ +æİ ³ +æİ ´ +åŁ ¸ +åŁ µ +èµ § +åŁ ¤ +æį Ń +éĢ µ +åŁ Ŀ +åł ĭ +åł į +æİ ¬ +é¸ · +æį ½ +æİ Ĭ +åł ī +æİ ¸ +æį © +æİ ® +æĤ « +åŁ Ń +åŁ ½ +æİ ĩ +æİ ¼ +èģ ĥ +èIJ ģ +èı ĺ +åł ĩ +èIJ ĺ +èIJ ĭ +èı ½ +èı ĸ +è IJľ +èIJ ¸ +èIJ ij +æ£ » +èı Ķ +èı Ł +èIJ ı +èı ¹ +èı ª +èı ħ +èı Ģ +èı ° +èı ¡ +æ¢ ¿ +æ¢ ı +è§ ĭ +æ¡ ´ +æ¡ · +æ£ ģ +æ¡ « +æ£ Ĥ +åķ ¬ +éĥ ¾ +æķ ķ +è± ī +éĦ Ħ +éħ ŀ +ç¡ İ +ç¡ Ń +ç¡ ĸ +ç¡ Ĺ +ç¡ IJ +ç¡ ĩ +ç¡ Į +é¸ ¸ +çĵ ł +åĮ ı +åİ © +æ® Ĵ +æ® ĵ +æ® į +èµ ī +éĽ © +è¾ Ħ +åł ij +çľ Ń +çľ ¦ +åķ § +æĻ ¡ +æĻ ¤ +çľ µ +åľ Ĭ +åĸ ı +åķ ī +åĭ ĸ +æĻ ŀ +åĶ µ +æĻ Ĺ +åķ Ń +çķ ¦ +è¶ º +åķ ® +è· Ħ +èļ ¶ +è ĽĦ +èĽ İ +èĽ Ĩ +èļ ° +åľ ī +èļ ± +èĽ ī +èĽ ı +èļ ´ +åķ ģ +åķ ķ +åĶ ¿ +åķ IJ +åĶ ¼ +åĶ · +åķ ĸ +åķ µ +åķ ¶ +åķ · +åĶ ³ +åĶ ° +åķ ľ +å¸ » +å´ ļ +å´ ¦ +å¸ ¼ +å´ ® +å´ ¤ +å´ Ĩ +èµ ĩ +èµ Ī +èµ Ĭ +éĵ ij +éĵ Ĵ +éĵ Ĺ +éĵ Ļ +éĵ Ł +éĵ ¡ +éĵ ¢ +éĵ £ +éĵ ¤ +éĵ § +éĵ ¨ +éĵ © +éĵ ª +éĵ « +éĵ ¯ +éĵ ° +éĵ ± +éĵ ³ +éĵ µ +éĵ · +çī ¾ +é¸ ¹ +ç§ ¾ +éĢ ¶ +ç¬ º +çŃ ĩ +ç¬ ¸ +ç¬ ª +ç¬ ® +ç¬ ł +ç¬ ¥ +ç¬ ¤ +ç¬ ³ +ç¬ ¾ +ç¬ ŀ +åģ ¾ +åģ ĥ +åģ ķ +åģ Ī +åĤ Ģ +åģ ¬ +åģ » +çļ ij +çļ İ +é¸ » +å¾ ľ +èĪ ¸ +èĪ » +èĪ ´ +èĪ · +é¾ Ľ +ç¿ İ +èĦ ¬ +èĦ ĺ +èĦ ² +åĮ IJ +çĮ Ĺ +çĮ ¡ +çĮ ŀ +æĸ Ľ +çĮ ķ +é¦ Ĺ +é¦ ĥ +é¦ Ħ +é¸ ¾ +åº ¹ +åº ¾ +çĹ Ķ +çĹ į +ç¿ Ĭ +æĹ Į +æĹ İ +è¢ ¤ +éĺ ĩ +éĺ Ī +éĺ ī +éĺ Ĭ +éĺ ĭ +éĺ į +éĺ ı +ç¾ Ł +ç² Ŀ +çĦ IJ +çĦ ĵ +çĦ Ĺ +æ· ħ +æ· ŀ +æ¸ İ +æ¶ ¿ +æ· ĸ +æĮ ² +æ· ł +æ¶ ¸ +æ¸ ij +æ· ¦ +æ· Ŀ +æ¶ ª +æ· Ļ +æ¶ « +æ¸ Į +æĤ » +æĤ ± +æ ĥĿ +æĥ ĺ +æĥ Ĩ +æĥ ļ +æĥ ĩ +æĥ ® +çª ķ +è° Į +æī Ī +çļ ² +è° ij +è£ Ĩ +è¢ · +è£ ī +è° Ĵ +è° Ķ +è° ķ +è° ĸ +è° Ĺ +è° Ļ +è° Ŀ +éĢ ¯ +éĥ ¿ +éļ Ī +ç² ľ +éļ į +éļ Ĺ +å© Ĭ +å¨ ¼ +å© ¢ +å© µ +èĥ ¬ +è¢ Ī +ç¿ Į +æģ ¿ +æ¬ ¸ +ç» « +éª IJ +ç» ¯ +ç» ± +éª Ĵ +ç» ² +éª ĵ +ç» ¶ +ç» º +ç» » +ç» ¾ +éª ĸ +ç¼ ģ +èĢ ł +çIJ « +çIJ µ +çIJ ¶ +çIJ ¥ +çIJ ¨ +çIJ ° +çIJ ® +çIJ ¯ +çIJ ¬ +çIJ ļ +è¾ ĩ +é¼ ĭ +æı ³ +åł ŀ +æIJ ½ +æı ¸ +æı ł +åł Ļ +è¶ Ħ +æı ĸ +é¢ ī +å¡ Ħ +æı ¿ +èĢ ĭ +æı Ħ +èĽ © +èĽ ° +å¡ Ĩ +æij Ĵ +æı Ĩ +æİ ¾ +èģ Ĵ +èij ij +èij ļ +éĿ ° +éĿ ¸ +èij ³ +èij º +èij ¸ +èIJ ¼ +èij ¶ +è ĴĮ +èij Ń +æ¥ ® +æ £¼ +æ¤ Ł +æ£ ¹ +æ¤ ¤ +æ£ ° +èµ į +æ¤ ĭ +æ¤ ģ +æ¤ ª +æ¤ IJ +é¹ ģ +éħ ¤ +éħ ¢ +éħ ¡ +é¹ Ĥ +æ® ļ +æ® Ľ +éĽ ± +è¾ ĭ +æ¤ ł +è¾ İ +çĿ Ħ +çĿ ĩ +çĿ ĥ +æĪ ¢ +åĸ ĭ +åĹ Ĵ +åĸ ĥ +åĸ ± +åĸ ¹ +æĻ · +åĸ Ī +è· ĸ +è· Ĺ +è· ŀ +è· ļ +è· İ +è· ı +è· Ĩ +èĽ ± +èĽ ² +èĽ Ń +èĽ ³ +èĽ IJ +èĽ Ķ +èĽ ŀ +èĽ ´ +èĽ ĺ +åĸ ģ +åĸ Ł +åķ ¾ +åĹ ĸ +åĸ ij +åĹ Ł +åĹ ŀ +åĸ Ļ +åµ ĺ +åµ ĸ +å´ ´ +éģ Ħ +è© Ī +åµ İ +å µ¬ +åµ Ľ +åµ ¯ +åµ Ŀ +åµ « +å¹ Ħ +åµ ĭ +èµ ķ +éĵ » +éĵ ¼ +éĵ ¿ +éĶ ĥ +éĶ Ĩ +éĶ ĩ +éĶ ī +éĶ ı +éĶ ij +éĶ Ĵ +éĶ Ķ +éĶ ķ +æİ £ +çŁ ¬ +æ° ° +æ¯ ³ +æ¯ ½ +çĬ Ĭ +çĬ Ħ +çĬ ĭ +é ¹Ħ +çĬ į +åµ ĩ +é» į +ç¨ ĥ +ç¨ Ĥ +çŃ ļ +çŃ µ +çŃ Į +åĤ £ +åĤ Ī +èĪ Ħ +çī į +åĤ ¥ +åĤ § +éģ ij +åĤ © +å¾ ¨ +åª Ń +çķ ² +å¼ ij +ç¿ ķ +é¹ Ĩ +èħ Ī +èħ ĵ +èħ Ĩ +èħ ´ +èħ ļ +èħ ± +é± ¿ +é² Ģ +é² Ĥ +çĮ ¢ +çĮ ¹ +çĮ ¥ +é£ ĵ +è§ ŀ +è§ ļ +çĮ ± +é¢ İ +é£ § +é¦ ĩ +é¦ Ĭ +äº µ +èĦ Ķ +è£ Ĵ +çĹ £ +çĹ ¨ +çĹ ¦ +çĹ ŀ +çĹ ¤ +çĹ § +èµ ĵ +ç« ¦ +çĵ ¿ +åķ » +é¢ ı +é¹ ĩ +éĺ ij +éĺ Ĵ +éĺ ķ +ç² ŀ +éģ Ĵ +åŃ ³ +çĦ ¯ +çĦ ľ +çĦ ± +é¹ Ī +æ¸ « +æ¹ ® +æ¹ İ +æ¹ ľ +æ¹ į +æ¹ « +æº ² +æ¹ Ł +æº Ĩ +æ¹ ² +æ¹ Ķ +æ¹ ī +æ¸ ¥ +æ» ģ +æĦ ł +æĥ º +æĦ ¦ +æĥ ´ +æĦ Ģ +æĦ İ +æĦ Ķ +åĸ ¾ +å¯ IJ +è° Ł +è£ ¢ +è£ İ +è£ ¥ +ç¥ ¾ +è° ł +è° ¡ +è° ¥ +è° § +åŃ ± +å¼ ¼ +å· ½ +éª ĺ +åª ª +å· ¯ +ç¿ ļ +çļ ´ +éª Ľ +ç¼ Ĥ +ç¼ ĥ +ç¼ Ħ +å½ ĺ +ç¼ ĩ +ç¼ Ī +ç¼ Į +ç¼ ij +ç¼ Ĵ +ç¼ Ĺ +é£ ¨ +èĢ ¢ +çij ģ +çij Ĺ +çij Ħ +éģ ¨ +éª ľ +éŁ « +é« ¡ +å¡ ¬ +éĦ ¢ +è¶ Ķ +è¶ ij +æij ħ +æij ģ +èľ ĩ +æIJ ĭ +æIJ ª +æIJ IJ +æIJ Ľ +æIJ ł +æij Ī +å½ Ģ +æ¯ Ĥ +æIJ ¦ +æIJ ¡ +èĵ ģ +æĪ ¡ +è ĵį +éĦ ŀ +èĵ IJ +èĵ ¦ +é¹ ĭ +èĴ ½ +èĵ ĸ +èĵ Ĭ +èĴ ¯ +èĵ Ł +èĵ ij +èĴ º +èĵ ł +èĴ Ł +èĴ ¡ +èĴ ¹ +èĴ ´ +èĴ Ĺ +èĵ ¥ +æ¥ Ķ +æ¥ Ĥ +æ¥ Ŀ +æ¥ « +æ¥ ¸ +æ¤ ´ +æ§ Į +æ¥ ¯ +çļ Ļ +æ¦ Ī +æ§ İ +æ¦ ī +æ¥ ¦ +æ¥ £ +æ¥ ¹ +æ¤ ½ +åī ½ +éħ © +èľ ĥ +ç¢ Ľ +ç¢ ĵ +ç¡ ¼ +ç¢ ī +ç¢ ļ +ç¢ ĩ +ç¢ ľ +é¹ Į +è¾ ı +é¾ ĥ +é¾ ħ +è¨ ¾ +ç² ² +çĿ ļ +åĹ ª +éŁ ª +åĹ · +åĹ ī +çĿ ¨ +çĿ ¢ +éĽ İ +çĿ ¥ +åĹ ij +åĹ « +åĹ ¬ +åĹ Ķ +åĹ Ŀ +æĪ ¥ +åĹ Ħ +çħ ¦ +æļ Ħ +éģ ¢ +æ ļĮ +è· ¬ +è· ¶ +è ·¸ +è· IJ +è· £ +è· ¹ +èĽ ¸ +èľ Ĭ +èľ į +èľ ī +èľ £ +çķ ¹ +èĽ ¹ +åĹ ¥ +åĹ ² +åĹ ³ +åĹ Į +åĹ į +åĹ IJ +åĹ ¤ +åĹ µ +ç½ ¨ +åµ Ĭ +åµ ´ +éª ° +éĶ Ĺ +éĶ Ľ +éĶ ľ +éĶ Ŀ +éĶ ŀ +éĶ Ł +éĶ ¢ +éĶ ¨ +éĶ © +éĶ Ń +éĶ ± +éĽ ī +æ° ² +çĬ ı +æŃ ĥ +ç¨ ŀ +ç¨ Ĺ +ç¨ Ķ +çŃ ł +çŃ ¢ +çŃ ® +çŃ ² +çī Ĵ +æķ « +å¾ Ń +æĦ Ĩ +èī Ħ +è§ İ +æ¯ ¹ +è² Ĭ +è² ħ +è² ī +é¢ Ķ +èħ ł +èħ © +èħ ¼ +èħ Ń +è ħ§ +å¡ į +åª µ +é² ħ +é² Ĩ +é² ĩ +é² Ī +é² ĭ +é² IJ +èĤ Ħ +é¹ IJ +é£ ķ +è§ ¥ +éģ Ľ +é¦ IJ +é¹ ij +äº ¶ +çĺ ĥ +çĹ ± +çĹ ¼ +çĹ ¿ +çĺ IJ +çĺ ģ +çĺ Ĩ +éº Ĥ +æŃ Ĩ +æĹ Ĵ +éĺ ĸ +éĺ Ĺ +ç¾ § +è± ¢ +ç² ³ +çĮ · +çħ ³ +çħ ¨ +çħ ħ +çħ Ĭ +çħ ¸ +çħ º +æ» Ł +æº ± +æº ĺ +æ¼ Ń +æ» ¢ +æº ¥ +æº ½ +è£ Ł +æº » +æº · +æ» Ĺ +æ» « +æº ´ +æ» ı +æ» ĥ +æ» ¦ +æº ı +æ» Ĥ +æ» ĵ +æº Ł +æ» ª +æĦ « +æħ Ĭ +é² İ +éª ŀ +çª ł +çª £ +è£ ± +è£ ¨ +è£ ¾ +è£ ° +ç¦ Ĭ +è° © +è° ª +åª ¾ +å« « +åª ² +å« Ĵ +å« Ķ +åª ¸ +ç¼ Ļ +ç¼ ľ +ç¼ Ľ +è¾ Ķ +éª Ŀ +ç¼ Ł +ç¼ ¡ +ç¼ ¢ +ç¼ £ +éª Ł +èĢ ¥ +çĴ Ī +çij Ń +çį Ĵ +è§ ı +æħ Ŀ +å« ł +åı Ĩ +æij ½ +å¢ ģ +æĴ Ĥ +æij ŀ +æĴ Ħ +ç¿ ¥ +è¸ ħ +æij Ń +å¢ ī +å¢ Ĵ +æ¦ ĸ +ç¶ ¦ +èĶ « +èĶ · +éĿ º +éĿ ¼ +éŀ ħ +éĿ ¿ +çĶ į +èĶ ¸ +èĶ Ł +èĶ º +æĪ ¬ +èķ ĸ +èĶ » +èĵ ¿ +æĸ ¡ +é¹ ķ +èĵ ¼ +æ¦ Ľ +æ¦ § +æ¦ « +æ¦ Ń +æ§ Ķ +æ¦ ± +æ§ ģ +æ§ ł +æ¦ · +åĥ ° +éħ ½ +éħ ¹ +ç¢ ¡ +ç¢ ´ +ç¢ £ +ç¢ ² +èĩ § +è± ¨ +æ® ¡ +éľ ģ +èľ ļ +é¾ ĩ +é¾ Ī +ä ģ +äģ ĸ +çĿ ½ +åĺ ŀ +åĺ Ī +åĺ Į +åĺ ģ +æļ Ŀ +è¸ Į +è¸ ī +èľ ŀ +èľ ¥ +èľ ® +èĿ Ī +èľ ´ +èľ ± +èľ © +èľ · +èľ ¿ +èŀ Ĥ +èľ ¢ +åĺ ¡ +é¹ Ĺ +åĺ £ +åĺ ¤ +åĺ ļ +åĹ ¾ +åĺ § +ç½ ´ +ç½ ± +å¹ Ķ +å¶ Ĥ +å¹ Ľ +èµ Ļ +ç½ Ĥ +éª · +éª ¶ +é¹ ĺ +éĶ ² +éĶ ´ +éĶ ¶ +éĶ · +éĶ ¸ +éĶ µ +éķ Ĥ +çĬ Ĵ +ç® IJ +ç® ¦ +ç® § +ç® ¸ +ç® ¬ +ç® ħ +ç® ª +ç® ľ +ç® ¢ +ç® ĵ +åĥ ĸ +åĦ Ĩ +åĥ ³ +åĥ Ń +åĬ ģ +åĥ ® +éŃ ĥ +éŃ Ĩ +çĿ ¾ +èī ĭ +éĦ ± +èĨ Ī +èĨ ij +é² ij +é² Ķ +é² ļ +é² Ľ +é² Ł +çį IJ +è§ « +éĽ Ĵ +å¤ ¤ +é¦ ij +éĬ ® +å¡ ¾ +çĺ Į +çĺ Ĭ +çĺ ĺ +çĺ Ļ +æĹ ĸ +èĨ Ĥ +éĺ ļ +éĦ ¯ +é² ŀ +ç² ¿ +ç² ¼ +ç³ ģ +æ§ Ĭ +é¹ ļ +çĨ ĺ +çĨ ¥ +æ½ ¢ +æ¼ ķ +æ» ¹ +æ¼ ¯ +æ¼ ¶ +æ½ ĭ +æ½ ´ +æ¼ ª +æ¼ ī +æ¼ © +æ¾ ī +æħ µ +æIJ ´ +çª ¨ +å¯ ¤ +ç¶ ® +è° ® +è¤ ¡ +è¤ Ļ +è¤ ĵ +è¤ Ľ +è¤ Ĭ +è° ¯ +è° ° +è° ² +å± £ +é¹ Ľ +å« ± +å« ĸ +å« ¦ +å« ļ +å «ĺ +é¼ IJ +çŀ Ģ +é¹ ľ +éª ł +ç¼ ¥ +ç¼ ¦ +ç¼ § +ç¼ ¨ +éª ¢ +ç¼ « +èĢ ¦ +èĢ § +çĴ ľ +çĴ İ +çĴ ģ +å¥ Ń +é« ¯ +é« « +æĴ · +æĴ ħ +èµ Ń +æĴ ¸ +éĭ Ĩ +æĴ Ļ +æĴ º +å¢ Ģ +èģ © +è§ IJ +éŀ ij +èķ Ļ +éŀ Ĵ +èķ Ī +èķ ¨ +èķ ¤ +èķ ŀ +èķ º +çŀ ¢ +èķ ĥ +èķ ² +èµ ľ +æ§ ¿ +æ¨ ¯ +æ§ Ń +æ¨ Ĺ +æ¨ ĺ +æ§ ² +éĨ Į +éĨ ħ +éĿ ¥ +éŃ ĩ +é¤ į +ç£ Ķ +ç£ Ļ +éľ Ī +è¾ ĺ +é¾ ī +é¾ Ĭ +è§ ij +çŀ Į +ç ŀĭ +çŀ ij +åĺ Ń +åĻ İ +åĻ ¶ +é¢ Ļ +æļ ¹ +åĻ ĺ +è¸ Ķ +è¸ Ŀ +è¸ Ł +è¸ Ĵ +è¸ ¬ +è¸ ® +è¸ ¯ +è¸ º +è¸ ŀ +èĿ ½ +èĿ ¾ +èĿ » +èĿ ° +èĿ ® +è ŀĭ +èĿ ĵ +èĿ £ +è Ŀ¼ +åĺ ¬ +é¢ ļ +åĻ į +åĻ Ļ +åĻ Į +åĻ Ķ +é¢ Ľ +å¹ ŀ +å¹ ¡ +å¶ Ļ +å¶ Ŀ +éª º +éķ Ĭ +éķ ī +éķ Į +éķ ı +éķ Ĵ +éķ ĵ +éķ Ķ +ç¨ · +ç® ´ +ç¯ ij +ç¯ ģ +ç¯ Į +çī ĸ +åĦ ĭ +èĻ ¢ +é¹ ŀ +èĨ ĺ +é² ł +é² ¡ +é² ¢ +é² £ +é² ¥ +é² § +é² © +çį Ĺ +çį ł +è§ ¯ +é¦ ĵ +é¦ Ķ +éº ¾ +å» Ľ +çĺ Ľ +çĺ ¼ +çĺ ¢ +çĺ ł +é½ ij +ç¾ ° +𥠻 +ð¥» Ĺ +ç³ Į +ç³ į +ç³ ħ +çĨ ľ +ç Ĩµ +æ¾ į +æ¾ Į +æ½ ¸ +æ½ ¦ +æ½ ² +éĭ Ī +æ½ Ł +æ½ º +å¯ ® +çª ³ +è° ³ +è¤ ´ +è¤ Ł +è¤ « +è° µ +çĨ ¨ +å± ¦ +åĭ ° +æĪ ® +èĿ ¥ +ç¼ ¬ +ç¼ ® +ç¼ ¯ +éª £ +çķ ¿ +èĢ © +èĢ ¨ +èĢ ª +çĴ Ł +éĿ Ľ +çĴ ł +çĴ ĺ +èģ ± +èŀ ¯ +é« » +é« Ń +é« ¹ +æĵ Ģ +çĶ ı +æĵ ŀ +ç¸ ł +ç£ ¬ +é¢ ŀ +èķ » +é¢ Ł +èĸ ¤ +èĸ ¨ +æª ł +èĸ ı +èĸ ® +èĸ ľ +èĸ ħ +æ¨ ¾ +æ© Ľ +æ© ĩ +æ¨ µ +æª İ +æ© ¹ +æ¨ ½ +æ¨ ¨ +æ© ¼ +å¢ ¼ +æ© IJ +ç¿ ® +éĨ IJ +éĨ į +éĨ ļ +ç£ ² +èµ Ŀ +æ® ª +éľ ı +éĮ ¾ +è¾ ļ +éģ ½ +æ° ħ +çŀ Ł +çŀ ł +çŀ ° +åļ Ħ +åļ Ĩ +åĻ ¤ +æļ ¾ +è¹ Ģ +è¸ µ +è¸ ½ +è¹ ī +è¹ ģ +èŀ ¨ +èŀ Ī +èŀ ħ +èŀ Ń +èŀ ł +èŀ Ł +åĻ ± +åĻ « +åĻ » +åĻ ¼ +ç½ ¹ +åľ ľ +ä ¦ +ä¦ ĥ +éķ Ĺ +éķ ĺ +éķ ļ +éķ Ľ +éķ Ŀ +éķ ŀ +éķ ł +æ° ĩ +æ° Ĩ +ç© ij +ç¯ Ŀ +ç¯ ¥ +ç¯ ¦ +ç¯ ª +ç¯ Ļ +çĽ ¥ +åĬ ĵ +ç¿ ± +éŃ ī +éŃ Ī +å¾ ¼ +æŃ Ļ +èĨ ¦ +èĨ Ļ +é² ® +é² ± +é² ³ +é² ´ +é² µ +é² · +é² » +çį ´ +çį Ń +çį ¬ +éĤ Ĥ +é¹ § +å» ¨ +èµ Ł +çĺ ° +å» ª +çĺ ¿ +çĺ µ +çĺ ´ +çĻ ĥ +çĺ ³ +éº ĩ +éº Ī +å ¬´ +å£ ħ +ç³ Ĺ +çĶ ij +çĩ İ +çĩ ł +çĩ Ķ +çĩ § +æ¿ ij +æ¿ ī +æ½ ŀ +æ¾ § +æ¾ ¹ +æ¾ ¥ +æ¾ ¶ +æ¿ Ĥ +è¤ ° +çª ¸ +å¬ ĸ +çĬ Ł +éļ ° +å¬ Ĺ +é¢ ¡ +ç¼ ± +ç¼ ² +ç¼ ³ +çĴ © +çĴ ª +èŀ « +æĵ ¤ +å£ ķ +è§ ³ +ç½ Ħ +æĵ ¢ +èĸ ¹ +éŀ ¡ +éŀ ¬ +èĸ · +èĹ ĵ +èĹ ģ +æª Ħ +æª © +æĩ ĭ +éĨ ¢ +ç¿ ³ +ç¤ ħ +ç£ ´ +é¹ © +é¾ ĭ +é¾ Į +è± ³ +å£ ij +é» » +åļ ı +åļ ħ +è¹ ij +è¹ Ĵ +è¹ Ĭ +è Ł¥ +èŀ ¬ +èŀ µ +çĸ ĥ +èŀ ³ +èŁ ij +åļ ĵ +ç½ ½ +ç½ ¾ +å¶ · +é» ľ +é» Ŀ +é« ģ +é« Ģ +éķ ¡ +éķ ¢ +éķ £ +éķ ¦ +éķ § +éķ © +éķ ª +éķ « +ç½ ħ +ç° Į +ç¯ ¾ +ç¯ ¼ +ç° ĸ +ç° ĭ +é¼ ¢ +åĦ ¡ +é¹ ª +é¼ ¾ +çļ ¤ +éŃ į +é¾ ł +ç¹ ĩ +è² ĺ +éĤ Ī +è² Ķ +èĩ Į +èĨ » +èĩ Ĩ +èĩ ĥ +é² ¼ +é² ½ +é³ Ģ +é³ ĥ +é³ ħ +é³ ĩ +é³ Ĭ +èŀ ½ +çĩ ® +é¹ « +ç³ ľ +ç¸ » +çĻ į +éº ĭ +æĩ ij +æ¿ ¡ +æ¿ ® +æ¿ ŀ +æ¿ ł +æ¿ ¯ +è¹ ĩ +è¬ ĩ +éĤ ĥ +è¥ ģ +æª Ĺ +æ ĵĺ +åŃ º +éļ ³ +å¬ · +èŁ Ĭ +é¹ ¬ +éį ª +éı Ĭ +é¬ Ī +é¬ ĥ +çŀ ½ +éŀ ¯ +éŀ ¨ +éŀ « +éŀ § +éŀ £ +èĹ ľ +èĹ ł +éĨ ª +è¹ Ļ +ç¤ ĵ +çĩ ¹ +é¤ ® +çŀ ¿ +æĽ Ľ +é¢ ¢ +èº ĩ +è¹ ļ +èŁ Ľ +èŁ ª +èŁ ł +èŁ ® +é¹ ® +é» ł +é» Ł +é« ħ +é« Ĥ +éķ ¬ +éķ Ń +éķ ¯ +é¦ ¥ +ç° Ł +ç° ª +é¼ ¬ +éĽ ł +èī Ł +é³ İ +é³ ı +é³ IJ +çĻ ŀ +çĻ Ķ +ç³ ¨ +è¹ © +éİ ı +éĤ ĭ +é¬ ı +æĶ ī +éŀ ² +éŀ ´ +èĹ ¿ +èĺ § +èĺ ħ +éĨ ® +éĨ ¯ +éħ ĥ +éľ ª +éľ Ń +éľ ¨ +é» ¼ +åļ ¯ +è¹ ° +è¹ ¶ +è¹ ½ +è¹ ¼ +è¹ ´ +è¹ ¾ +è¹ ¿ +èł ĸ +èł ĵ +èŁ ¾ +èł Ĭ +é» ¢ +é« ĭ +é« Į +éķ ² +ç± Ģ +é½ ģ +éŃ ij +èī ¨ +é³ ĵ +é³ Ķ +é³ ķ +é³ Ĺ +é³ Ļ +éı ĸ +ç¾ ¸ +㸠Ĩ +çĢ £ +çĢ Ľ +è¥ ¦ +è° ¶ +è¥ ŀ +éª ¥ +ç¼ µ +çĵ Ĵ +æĶ ĺ +èĺ © +èĺ ĸ +éĨ ´ +éľ ° +éħ Ĩ +çŁ į +èº ħ +é¼ į +å· ī +é» © +é» ¥ +é» ª +éķ ³ +éķ ´ +é» § +çº Ĥ +çĴ º +é¼ ¯ +èĩ ľ +é³ ľ +é³ Ŀ +é³ Ł +çį ¾ +åŃ Ģ +éª § +ç ĵĺ +é¼ Ļ +éĨ º +ç¤ ´ +é¢ ¦ +æĽ © +é³ ¢ +éº Ŀ +å¤ Ķ +çĪ Ŀ +çģ ı +ç¦ ³ +éIJ ¾ +ç¾ ¼ +èł ¡ +èĢ ± +é¹ ³ +æ° į +é¥ ķ +èº IJ +é« ij +éķ µ +ç© ° +é¥ Ķ +é¬ » +é¬ Ł +è¶ ± +æĶ « +æĶ ¥ +é¢ § +èº ľ +é¼ ¹ +çĻ ¯ +èł ² +èł ¹ +èº ŀ +è¡ ¢ +çģ ŀ +è¥ » +çº Ľ +é¬ £ +æĶ ® +åĽ Ķ +é¦ ķ +æĪ Ĩ +çĪ ¨ +é½ ī +äº į +å° ¢ +å½ ³ +åį ¬ +æ® ³ +ðł ϶ +æ¯ Į +éĤ ĺ +æĪ ĭ +åľ ¢ +æ° ķ +ä¼ ĭ +ä» Ŀ +åĨ ® +æ° ¿ +æ± Ī +æ° ¾ +å¿ ī +å® Ħ +ð¬£ Ļ +è® ± +æī ŀ +åľ ² +åľ « +èĬ ı +èĬ ĥ +æľ ³ +æľ ¸ +ð¨ Ļ +ð¨Ļ ¸ +éĤ ¨ +åIJ Ĵ +åIJ ĸ +å± ¼ +å± ¾ +è¾ ¿ +éĴ Ĩ +ä» ³ +ä¼ £ +ä¼ Ī +çĻ ¿ +çĶ ª +éĤ ł +çĬ ´ +åĨ ± +éĤ ¡ +ð¬ĩ ķ +æ± ĭ +ä ľ +äľ £ +è® » +𬣠ŀ +åŃ ĸ +ð¬ĺ ĵ +çº © +çİ Ĵ +çİ ĵ +çİ ĺ +çİ ļ +åĪ ¬ +ð«Ń Ł +åĿ ľ +åĿ ī +æī ½ +ð«Ń ¢ +åĿ ĭ +æī º +ã§ ij +æ¯ IJ +èĬ ° +èĬ £ +èĭ Ĭ +èĭ ī +èĬ ĺ +èĬ ´ +èĬ ł +ð« ĩ +ð«ĩ Ń +èĬ ¤ +æĿ ķ +æĿ Ļ +æĿ Ħ +æĿ § +æĿ © +å° ª +å° ¨ +è½ ª +ð«IJ Ħ +åĿ Ĵ +èĬ Ī +æĹ ´ +æĹ µ +åij Ļ +ã ķ +ãķ ® +å² į +ð« µ +𫵠· +å² ł +å² ľ +åij ĩ +åĨ ı +è§ ĥ +å² Ļ +ä¼ ¾ +ãij ĩ +ä¼ Ń +ä½ ĸ +ä¼ ² +ä½ ģ +é£ ı +çĭ ĥ +éĹ ¶ +æ± § +æ± « +𣲠ĺ +ð£² Ĺ +æ² Ħ +æ² ĺ +ð¬ĩ Ļ +æ± Ń +ã³ ĩ +æ² ĩ +å¿ ® +å¿ ³ +å¿ º +𬣠¡ +ç¥ ĥ +è¯ ĩ +éĤ ² +è¯ İ +è¯ IJ +å± ĥ +ð« ¸ +𫸠© +å² Ĭ +éĺ ½ +ä¢ º +éĺ ¼ +å¦ § +å¦ ĺ +ð¨ ļ +ð¨ļ ķ +çº ® +é© ² +ð«ĺ ľ +çº » +ð¬ĺ ĺ +ð«ĺ Ŀ +çº ¼ +çİ ¤ +çİ ŀ +çİ ± +çİ Ł +éĤ ½ +éĤ ¿ +åĿ ¥ +åĿ ° +åĿ ¬ +åĿ ½ +å¼ Ĩ +èĢ µ +ä¢ ¼ +ð¦ Ń +ð¦Ń ľ +èĮ ĭ +èĭ § +èĭ ¾ +èĭ ł +æŀ ħ +ãŃ İ +æŀ ĺ +æŀ į +çŁ ¼ +çŁ » +åĮ ¼ +𬨠Ĥ +ð¬Ģ © +ð¬Ģ ª +æĹ ¿ +æĺ Ħ +æĺ Ĵ +æĺ Ī +åĴ ī +åĴ ĩ +åĴ į +å² µ +å² ½ +å² ¨ +å² ŀ +å³ Ĥ +ã Ł +ãŁ ĥ +åĽ · +𬬠© +éĴ IJ +éĴ Ķ +éĴ ĸ +çī ¥ +ä½ ´ +åŀ Ī +ä¾ ģ +ä¾ ¹ +ä½ ¸ +ä½ º +éļ ¹ +ãij Ĭ +ä¾ Ĥ +ä½ ½ +ä¾ ĺ +éĥ Ī +èĪ ł +éĥ IJ +éĥ ĥ +æĶ ½ +èĤ Ń +èĤ ¸ +èĤ · +çĭ ī +çĭ Ŀ +é¥ ³ +å¿ ŀ +çĤ Į +çĤ Ĩ +æ³ Ļ +æ² º +æ³ Ĥ +æ³ ľ +æ³ ĥ +æ³ ĩ +æĢ Ĭ +å³ ĥ +ç© ¸ +ç¥ ĭ +ç¥ Ĭ +ð«į £ +𬣠³ +𬠩½ +é¸ ¤ +å¼ ¢ +å¼ ¨ +éĻ ij +𬮠¿ +éĻ İ +ð¬¯ Ģ +åį º +ä¹ ¸ +å¦ Ń +å§ Ī +ð« ° +ð«° Ľ +è¿ ³ +åı ķ +𬳠µ +é© µ +𬳠¶ +ä Į +äĮ ¹ +é© º +ð«ł Ĭ +ç» ĭ +ç» IJ +çł ī +èĢ Ķ +ãĽ ĥ +çİ ¶ +çı ĩ +çı ħ +ð¬į Ľ +çı ĭ +çİ ¹ +çı Į +çİ ¿ +éŁ ¨ +åŀ ļ +åŀ ¯ +åŀ Ļ +åŀ ² +åŁ ı +åŀ į +èĢ ĩ +é¿ į +åŀ İ +åŀ ´ +åŀ Ł +åŀ ŀ +æĮ ĵ +åŀ µ +åŀ ı +æĭ ¶ +èį ĸ +èį ģ +èį Ļ +èį Ľ +èĮ Ī +èĮ ½ +èį Ħ +èĮ º +ð¬ľ ¬ +èį ĵ +èĮ ³ +𦠰 +𦰠¡ +èĮ Ľ +èį Ń +ãŃ ķ +æŁ · +æŁ ĥ +æŁ Ĭ +æŀ ¹ +æł IJ +æŁ ĸ +éĥ ļ +åī ħ +ä´ ĵ +è¿ º +åİ ĸ +çł Ĩ +çł ij +çł Ħ +èĢ ı +å¥ ĵ +ä ¶ +ä¶ ® +è½ µ +è½ · +è½ ¹ +è½ º +æĺ º +𪠾 +𪾠¢ +æĺ ½ +çĽ · +åĴ ¡ +åĴ º +æĺ ³ +æĺ £ +æĺ ¤ +æĺ « +æĺ ¡ +åĴ ¥ +æĺ ª +èĻ · +èĻ ¸ +åĵ ĥ +å³ ĺ +èĢ ij +å³ Ľ +𪨠° +å³ Ĺ +å³ § +å¸ ¡ +éĴ ĺ +ð«ĵ § +éĴ ľ +𬬠® +𬬠± +ð¬¬ Ń +éĴ ª +éĴ ¬ +éĴ Ń +çŁ § +ç§ ¬ +ä¿ « +èĪ ģ +ä¿ ľ +ä¿ Ļ +ä¿ į +åŀ ķ +è¡ İ +èĪ £ +å¼ ĩ +ä¾ ´ +é¸ § +äı ¡ +èĥ ł +ð¦ ϶ +èĥ Ī +èĥ © +èĥ £ +æľ ı +é£ IJ +è¨ Ħ +é¥ » +åº ¤ +çĸ ¢ +çĤ £ +çĤ Ł +ã ¶ +ã¶ ² +æ´ Ń +æ´ ĺ +æ´ ĵ +æ´ ¿ +ã³ ļ +æ³ ļ +æµ Ī +æµ ī +æ´ ¸ +æ´ ij +æ´ ¢ +æ´ Ī +æ´ ļ +æ´ º +æ´ ¨ +æµ IJ +ã³ ĺ +æ´ ´ +æ´ £ +æģ Ķ +å® ¬ +çª Ģ +æī Ĥ +è¢ Ĩ +ç¥ ı +ç¥ IJ +ç¥ ķ +åı ļ +éĻ § +éĻ ŀ +å¨ Ģ +å§ ŀ +å§ ± +å§ ¤ +å§ ¶ +å§ ½ +æŀ ² +ç» ĸ +éª ĥ +ð¬ĺ ¡ +𬳠½ +ð¬ĺ © +ð«Ħ § +å½ ĸ +éª ī +æģ Ŀ +çı ª +çı Ľ +çı ¹ +çIJ Ĭ +çİ ¼ +çı ĸ +ðª Ł +ðªŁ Ŀ +çı ½ +çı ¦ +çı « +çı Ĵ +ð¬į ¤ +çı ¢ +çı ķ +çı Ŀ +ð«Ń ¼ +åŁ Ĺ +åŀ ¾ +åŀ º +åŁ Ĩ +åŀ ¿ +åŁ Į +åŁ ĩ +èİ ° +èĮ Ŀ +ð¬ľ ¯ +éĦ Ģ +èİ ¶ +èİ Ŀ +äĵ ĸ +èİ Ļ +æł » +æ¡ ł +ð¬ Ĥ +ð¬Ĥ © +æ¡ Ħ +æ¢ ł +æł ´ +æ¢ ´ +æł Ĵ +éħ İ +éħ ı +ð«ł Ĩ +çł µ +çł ł +çł « +çł ¬ +ç¡ ģ +æģ § +ç¿ ĥ +éĥ ª +ð¨ IJ +ð¨IJ Ī +è¾ Ģ +è¾ ģ +ð¬ Į +ð¬Į Ĺ +åī ķ +èµ Ģ +åĵ ¢ +æĻ ħ +æĻ Ĭ +åĶ Ŀ +åĵ ³ +åĵ ± +åĨ Ķ +æĻ Ķ +æĻ IJ +çķ ĸ +èļ Ħ +èļ Ĩ +ð« ij +ð«ij ¡ +å¸ ± +å´ ģ +å³ ¿ +𪨠¶ +å´ Ħ +å¸ ¨ +å ´Ģ +èµ Ĩ +𬠬¸ +éĴ · +𬬠» +𬬠¹ +𬬠¿ +ð¬Ń ģ +çľ ļ +çĶ ¡ +ç¬ « +åĢ » +åĢ ´ +èĦ © +åĢ ® +åĢ ķ +åĢ ŀ +ð« ¢ +ð«¢ ¸ +åĢ ĵ +åĢ § +è¡ ĥ +èĻ Ĵ +èĪ Ń +èĪ ¯ +èĪ ¥ +çĵ ŀ +é¬ ¯ +é¸ ° +èĦ İ +æľ ĵ +èĥ ² +èĻ ĵ +é± ½ +çĭ ´ +å³ ± +çĭ » +çľ ¢ +ð«Ĺ § +åĭ į +çĹ Ħ +çĸ ° +çĹ ĥ +ç« ĺ +ç¾ ĸ +ç¾ ĵ +æ¡ Ĭ +æķ ī +çĥ ł +çĥ Ķ +çĥ ¶ +çĥ » +ð¬Ĭ Ī +æ¶ į +æµ ¡ +æµ Ń +æµ ¬ +æ¶ Ħ +æ¶ ¢ +æ¶ IJ +æµ ° +æµ Ł +æµ Ľ +æµ ¼ +æµ ² +æ¶ ĺ +æĤ Ī +æĤ ĥ +æĤ ¢ +ð¬Ĵ Ī +å® § +çª ħ +çª Ĭ +çª İ +æī ħ +æī Ĩ +è¢ ª +è¢ Ĺ +è¢ ¯ +ç¥ § +éļ º +åł ² +çĸ į +𨠺 +ð¨º Ļ +éĻ ´ +ç ĥĿ +çł ® +ãĽ ļ +åĵ ¿ +ç¿ Ģ +ç¿ Ĥ +åī Ł +𬳠¿ +ð«Ħ ¨ +ç» ¤ +éª į +ð¬ĺ « +ä Ĥ +äĤ ® +çIJ İ +çı ¸ +çı µ +çIJ Ħ +çIJ Ī +çIJ Ģ +çı º +æİ Ń +åł İ +åł IJ +åŁ ¼ +æİ İ +åŁ « +åł Į +æĻ ¢ +ð« ® +ð«® ĥ +æİ ŀ +åŁ ª +å£ ¸ +ãĻ į +èģ į +èı Ŀ +èIJ ļ +èı ¥ +èİ ¿ +äĵ « +åĭ ļ +äĵ ¬ +èIJ Ĩ +èı Ĥ +èı į +èı ¼ +èIJ £ +äĵ ¨ +èı ī +äĵ Ľ +æ¢ ¼ +æ¢ ½ +æ¡ ² +æ¢ ¾ +æ¡ ¯ +æ¢ £ +æ¢ Į +æ¡ ¹ +æķ Ķ +åİ £ +ç¡ Ķ +é¿ İ +ç¡ Ļ +ç¡ ļ +ç¡ Ĭ +ç¡ į +åĭ Ķ +ä´ ķ +é¾ ģ +éĢ ´ +åĶ ª +åķ « +ç¿ Ī +ã « +ã« ° +æĻ Ļ +çķ ¤ +𬱠ĸ +è¶ ¼ +è· Ĥ +èĽ ĥ +èļ ² +ð¬Ł ½ +èļ º +åķ ´ +äİ ĥ +å´ § +å´ Ł +å´ ŀ +å´ Ĵ +å´ Į +å´ ¡ +éĵ ı +ð«ĵ ¯ +ð«Ł ¹ +éĵ ķ +ð«Ł ¼ +éĵ ĸ +éĵ ĺ +éĵ ļ +éĵ ŀ +éĵ ¥ +éĵ ´ +çī » +çī ¿ +ç¨ Ĩ +ç¬ ± +ç¬ ¯ +åģ ° +åģ ¡ +é¸ º +åģ Ń +åģ ² +åģ ģ +ã ¿ +ã¿ ł +éĦ ħ +åģ ĵ +å¾ Ľ +è¡ Ĵ +èĪ ³ +èĪ ² +é¸ ¼ +æĤ Ĩ +éĦ ĥ +çĵ » +ä Ŀ +äĿ Ļ +èĦ ¶ +èĦ ŀ +èĦ Ł +äı ² +é± ¾ +çĮ ĩ +çĮ Ĭ +çĮ Ħ +è§ ĸ +ðł ħ +ðłħ ¤ +åº ± +åº ¼ +åº ³ +çĹ ĵ +ä´ Ķ +ç« « +åł ĥ +éĺ Į +ç¾ Ŀ +ç¾ ķ +çĦ Ĩ +çĥ º +çĦ Į +æ· ı +ð¬ĩ ¹ +æ· Ł +æ· ľ +æ· ´ +æ· ¯ +æ¹ ´ +æ¶ ´ +ð¬į ¡ +ã ¥ +㥠Ħ +æĥ Ľ +æĥ Ķ +æĤ ° +æĥ Ļ +å¯ ģ +éĢ Ń +𬤠ĩ +ð«į ¯ +è¢ ¼ +è£ Ī +ç¥ ² +𬤠Ĭ +ð«į ² +è° ŀ +èī ´ +å¼ ¸ +å¼ ¶ +ð¬¯ İ +éļ ĥ +å© ŀ +å¨ µ +å© ¼ +åª ĸ +å© ³ +å© į +å© Į +å© « +å© ¤ +å© ĺ +å© ł +ð¬ĺ ¬ +ð¬ĺ Ń +𬴠Ĥ +ð«ĺ ¦ +ç» ¹ +ð«Ł ħ +ð¬ĺ ¯ +éª ķ +ð«ĺ § +çµ ľ +çı · +çIJ ² +çIJ ¡ +çIJ Ł +çIJ Ķ +çIJ Ń +åł ¾ +åł ¼ +æı ķ +ãĻ ĺ +åł § +åĸ Ĩ +åł ¨ +å¡ ħ +åł ł +çµ · +𪠣 +𪣠» +ð¡ İ +ð¡İ ļ +è ijľ +æĥ İ +èIJ ³ +èij Ļ +éĿ ¬ +èij ´ +èĴ ĩ +èĴ Ī +éĦ ļ +èĴ ī +èĵ ĩ +èIJ © +èij ° +èij İ +éĦ ij +èĴ İ +èij ĸ +èĴ Ħ +èIJ ¹ +æ£ ¤ +æ£ ½ +æ£ « +æ¤ ĵ +æ¤ ij +ð¬ ĥ +ð¬ĥ Ĭ +é¹ Ģ +æ¤ Ĩ +æ£ ĵ +æ£ ¬ +æ£ ª +æ¤ Ģ +æ¥ Ĺ +𬠷 +𬷠ķ +çĶ ¦ +éħ ¦ +è§ Į +å¥ ¡ +çļ ķ +ç¡ ª +æ¬ ¹ +è© Ł +ð«IJ IJ +è¾ Į +æ£ IJ +é¾ Ĥ +𬠹 +𬹠¼ +é» ¹ +çī ļ +çĿ İ +æĻ « +æĻ ª +æĻ ± +ð § +ð§ ¿ +ð§¿ ¹ +èĽ ij +çķ ¯ +æĸ Ŀ +åĸ ¤ +å´ ¶ +åµ ģ +ð« ¶ +ð«¶ ĩ +å´ ¾ +åµ ħ +å´ ¿ +åµ ļ +ç¿ Ļ +ð«ĸ ® +åľ Į +åľ IJ +èµ ij +èµ Ĵ +é¿ ı +éĵ ¹ +ð¬Ń Ĭ +éĵ ½ +𨱠ĩ +ð«ĵ ¶ +éĶ Ĭ +éĶ į +éĶ İ +ð¬Ń İ +éĶ ĵ +çĬ ĩ +é¢ ĭ +ç¨ Į +çŃ Ģ +çŃ ĺ +çŃ ľ +çŃ ¥ +çŃ ħ +åĤ ĥ +åĤ ī +ç¿ Ľ +åĤ Ĵ +åĤ ķ +èĪ ¾ +çķ ¬ +ð«ĸ ¯ +èĦ ¿ +èħ ĺ +ä IJ +äIJ ĥ +èħ Ļ +èħ Ĵ +ð¬± Ł +é² ĥ +çĮ ° +ð« Ľ +ð«Ľ Ń +çĮ ¯ +ã º +㺠Ħ +é¦ ī +åĩ ĵ +éĦ Ĺ +ð« · +ð«· · +å» ĭ +å» Ĩ +éĦ Į +ç² ¢ +éģ Ĩ +æĹ IJ +𬮠± +çĦ ŀ +ð¬Ĭ ¤ +æ¬ » +𣠸 +𣸠£ +æº ļ +æº ģ +æ¹ Ŀ +æ¸ ° +æ¹ ĵ +ã ´ +ã´ Ķ +æ¸ Ł +æº ł +æ¸ ¼ +æº ĩ +æ¹ £ +æ¹ ij +æº ŀ +æĦ IJ +æĦ ĥ +æķ © +çĶ ¯ +æ£ ¨ +æī Ĭ +è£ £ +ç¥ ¼ +å© » +åª Ĩ +åª ŀ +ãĽ ¹ +åª ĵ +åª Ĥ +åª Ħ +æ¯ µ +çŁ ŀ +𬴠ĥ +ð«ĺ ¨ +ç¼ Ĭ +ç¼ IJ +éª Ļ +çij ĥ +çij ĵ +çij ħ +çij Ĩ +ä´ ĸ +çij ĸ +çij Ŀ +çij Ķ +çij Ģ +𤠧 +𤧠Ľ +çij ³ +çij Ĥ +å¶ ħ +çij ij +éģ ĺ +é« ¢ +å¡ ¥ +åł ½ +èµ ª +æij Ľ +å¡ Ŀ +æIJ Ĵ +æIJ Į +èĴ ± +èĴ ¨ +èĵ ı +èĶ Ģ +èĵ ¢ +èĵ Ĥ +èĴ » +èĵ £ +æ¤ ¹ +æ¥ ª +æ¦ ĥ +æ¦ ħ +æ¥ Ĵ +æ¥ © +æ¦ ĩ +æ¤ ¸ +æ¥ Ļ +æŃ ħ +𬠪 +𬪠© +ç¢ ĥ +ç¢ ı +ð¬Ĵ Ķ +ç¢ Ī +äĥ ħ +ç¡ ¿ +éĦ ł +è¾ Ĵ +ð¬¨ İ +ð«IJ ĵ +é¾ Ĩ +è§ ľ +ä £ +ä£ ĺ +æļ ķ +é¹ į +ð« « +ð«« ĩ +㬠Ĭ +æļ ħ +è· ± +èľ IJ +èľ İ +åµ ² +èµ Ĺ +éª ± +éĶ ĸ +ð«ĵ ¹ +éĶ ĺ +éĶ ³ +éĶ § +éĶ ª +ð¬Ń ļ +éĶ « +éĶ ¬ +ð¬Ń Ľ +ç¨ ij +ç¨ Ļ +ä ħ +äħ Ł +ð¬ ķ +ð¬ķ Ĥ +çŃ » +çŃ ¼ +çŃ ¶ +çŃ ¦ +çŃ ¤ +åĤ º +é¹ İ +åĥ ĩ +èī ħ +èī ī +è° ¼ +è² Ĩ +èħ ½ +èħ ¨ +èħ ¯ +é² ī +é² Ĭ +é² Į +ä² Ł +𬶠ĭ +𬶠į +é² ı +éĽ Ĭ +çĮ º +é£ Ķ +è§ Ł +ð¦ Ŀ¼ +é¦ Į +è£ Ľ +å» Ĵ +çĺ ħ +éĦ ĺ +é¹ Ĵ +éĦ ľ +éº Ģ +éĦ £ +éĺ ĺ +ð«Ķ ¶ +çħ ģ +çħ ĥ +çħ ´ +çħ ĭ +çħ Ł +çħ ĵ +æ» ł +æº į +æº ¹ +æ» Ĩ +æ» ī +æº ¦ +æº µ +æ¼ · +æ» § +æ» ĺ +æ» į +æĦ Ń +æħ ¥ +æħ Ĩ +å¡ ± +ð« ĮĢ +è £¼ +ç¦ ĭ +ç¦ Ķ +ç¦ ĺ +ç¦ Ĵ +è° « +é¹ Ķ +ð«ĸ ³ +æĦ į +å« Ħ +åª ± +æĪ ¤ +åĭ ł +æĪ £ +ð«ĺ ª +ð«ĺ ¬ +ç¼ ŀ +èĢ ¤ +çij § +ð« ŀ +ð«ŀ © +çij ¨ +çij ± +çij · +çij ¢ +æĸ ł +æij ı +å¢ ķ +å¢ Ī +å¢ IJ +å¢ ĺ +æij ´ +éĬ İ +ð¡ IJ +ð¡IJ ĵ +å¢ ļ +æĴ ĸ +𪠤 +ðª¤ Ĺ +éĿ ½ +éŀ ģ +èĶ Į +èĶ Ī +èĵ ° +èĶ ¹ +èĶ Ĭ +åĺ ı +æ¦ ° +æ¦ ij +æ§ ļ +ð£ Ĺ +ð£Ĺ ĭ +æ§ ľ +æ¦ į +çĸ IJ +𬸠ĺ +éħ º +éħ ¾ +éħ ² +éħ ´ +ç¢ ¶ +äĥ İ +ð¬Ĵ Ĺ +ç¢ ¨ +ð¥ Ķ +ð¥Ķ ² +ç¢ ¹ +ç¢ ¥ +åĬ Ĥ +ð«ļ ĸ +ä´ Ĺ +å¤ ¥ +çŀ į +é¹ ĸ +ã¬ İ +è· ½ +èľ ¾ +å¹ ĸ +å¶ į +åľ Ļ +𨱠ı +éĶ º +éĶ ¼ +éĶ ½ +ð¬Ń ¤ +éĶ ¾ +éĶ ¿ +éķ ĥ +éķ Ħ +éķ ħ +é¦ Ŀ +é¹ Ļ +ç® ¨ +ç® ĸ +åĬ Ħ +åĥ ¬ +åĥ ¦ +åĥ Ķ +åĥ İ +æ§ ĥ +ãĻ ¦ +é² Ĵ +é² ķ +ð«ļ ķ +é² ĸ +é² Ĺ +é² ĺ +é² Ļ +𬶠IJ +𬶠ı +ð ©½ +𩽠¾ +å¤ IJ +çį į +é£ Ĺ +𬸠ļ +åĩ ĺ +å» ij +å» Ļ +çĺ Ĺ +çĺ ¥ +çĺ ķ +é² Ŀ +éĦ « +çĨ ĩ +æ¼ ¹ +æ¼ ĸ +æ½ Ĩ +æ¼ ¤ +æ½ © +æ¼ ¼ +æ¼ ´ +ã ½ +ã½ ı +æ¼ Ī +æ¼ ĭ +æ¼ » +æħ ¬ +çª ¬ +çª Ń +ã ® +ã® ¾ +𬤠Ŀ +è¤ ķ +ç¦ Ľ +ç¦ ļ +éļ © +å« ķ +å« Ń +å« ľ +å« ª +ð¬ ĻĤ +ã » +ã» ¬ +éº ¹ +çĴ Ĩ +æ¼ ¦ +åı ĩ +å¢ £ +å¢ ¦ +å¢ ¡ +åĬ IJ +èĸ ģ +èķ ° +èĶ ĥ +é¼ Ĵ +æ§ ± +é¹ Ŀ +ç£ ı +ç£ ī +æ® £ +æħ Ń +éľ ħ +æļ µ +æļ ² +æļ ¶ +è¸ ¦ +è¸ £ +äĹ ĸ +èĿ ĺ +èĿ ² +èĿ ¤ +åĻ ĩ +å ĻĤ +åĻ Ģ +ç½ ¶ +å¶ ² +å¶ ĵ +ãł ĩ +å¶ Ł +å¶ Ĵ +éķ Ĩ +éķ Ī +éķ ĭ +éķ İ +ð¬Ń © +éķ ķ +ç¨ ¹ +åĦ ĩ +çļ ŀ +çļ Ľ +ä´ ĺ +èī İ +èī ı +é¹ Ł +𩾠ĥ +é² ¦ +é² ª +é² ¬ +æ© ¥ +è§ Ń +é¹ ł +é¹ ¡ +ç³ ĩ +ç³ Ī +ç¿ ¦ +é¹ ¢ +é¹ £ +çĨ Ľ +æ½ ĸ +æ½ µ +ã µ +ãµ IJ +æ¾ Ĥ +æ¾ Ľ +çij ¬ +æ½ ½ +æ½ ¾ +æ½ ı +æĨ Ń +æĨ ķ +𬸠£ +æĪ Ń +è¤ ¯ +ç¦ ¤ +ð«į ½ +å« ½ +éģ ¹ +𬴠Ĭ +çĴ ¥ +çĴ ² +çĴ Ĵ +æĨ Ļ +æĵ IJ +éĦ ¹ +èĸ ³ +éŀ Ķ +é» ĩ +ð¬ ŀ +ð¬ŀ Ł +èķ Ĺ +èĸ ¢ +èķ ¹ +æ© ŀ +æ© ij +æ© ¦ +éĨ ij +è§ ± +ç£ ¡ +ð¥ ķ +ð¥ķ ¢ +ç£ ľ +è± ® +ð«Ł ¦ +ð¬º Ī +ð«ł ľ +é¹ ¾ +èĻ ¤ +æļ ¿ +æĽ Į +æĽ Ī +㬠ļ +è¹ ħ +è¸ ¶ +äĹ Ľ +èŀ Ĺ +çĸ ģ +ãł ĵ +å¹ ª +𪠩 +𪩠ĺ +å¶ ¦ +ð¬Ń ¬ +𨱠ij +ð¬Ń ¯ +é¦ ŀ +ç© Ħ +ç¯ ļ +ç¯ ¯ +ç° ī +é¼ ½ +è¡ ł +çĽ ¦ +èŀ £ +ç¸ ¢ +é² Ń +é² ¯ +é² ° +é² º +é² ¹ +ð«Ĺ ´ +äº ¸ +çĻ Ģ +çĺ Ń +𬸠¦ +ç¾ ± +ç³ Ĵ +çĩ ĭ +çĨ » +çĩ Ĭ +çĩ ļ +çĩ ı +æ¿ © +æ¿ ĭ +æ¾ ª +æ¾ ½ +æ¾ ´ +æ¾ Ń +æ¾ ¼ +æĨ · +æĨ º +æĩ Ķ +é» ī +å¬ Ľ +é¹ ¨ +ç¿ ¯ +ð«Ħ · +çĴ ± +𤠩½ +çĴ ¬ +çĴ ® +é« ½ +æĵ ¿ +èĸ ¿ +èĸ ¸ +æª ij +æ« Ĩ +æª ŀ +éĨ ¨ +ç ¹Ħ +ç£ ¹ +ç£ » +çŀ « +çŀ µ +è¹ IJ +èŁ ı +ã ĺ +ãĺ İ +ð¬Ń ³ +éķ ¤ +ð¬Ń ¶ +ð«Ķ į +éķ ¥ +éķ ¨ +ð¬Ń ¸ +ð¨± Ķ +ð¬Ń ¼ +ð«Ķ İ +çŁ ° +ç© Ļ +ç© ľ +ç© Ł +ç° ķ +ç° ĥ +ç° ı +åĦ ¦ +éŃ ĭ +æĸ ¶ +èī ļ +𬸠ª +è° ¿ +ä² ł +ð¬¶ Ł +é² ¾ +𬶠ł +é² ¿ +é³ ģ +é³ Ĥ +é³ Ī +é³ ī +çį ¯ +äĹ ª +é¦ ĺ +è¥ ķ +è¥ ļ +𬶠¨ +èŀ ± +çĶ ĵ +å¬ ¬ +å¬ ¥ +ð¦ Ī +ð¦Ī ¡ +ð«Ħ ¸ +çĵ Ģ +éĩ IJ +é¬ ¶ +çĪ ĩ +éŀ ³ +éŀ ® +ð¬Ł ģ +èĹ Ł +èĹ ¦ +èĹ ¨ +é¹ ² +æª « +é» ¡ +ç¤ ŀ +ç¤ Į +ð¥ ĸ +ð¥ĸ ¨ +è¹ ¢ +è¹ ľ +èŁ « +äĹ ´ +åļ ļ +é« ĥ +éķ ® +éķ ± +éħ Ĥ +é¦ § +ç° ł +ç° Ŀ +ç° ° +é¼ « +é¼ © +çļ ¦ +èĩ ij +ä² ¢ +é³ ij +é³ Ĵ +é¹ ± +é¹ ¯ +çĻ Ĺ +ð¦ Ĵ +ð¦Ĵ į +æĹ ŀ +ç¿ · +åĨ ģ +äİ ĸ +çĢ Ķ +çĢ į +çĢ Į +è¥ ľ +ä´ Ļ +ð¬Ļ Ĭ +åļ Ń +ã ° +ã° Ģ +é¬ · +éĨ Ń +è¹ ¯ +èł ĭ +ç¿ ¾ +é³ ĺ +åĦ ³ +åĦ ´ +é¼ Ĺ +ð¬¶ Ń +𩾠Į +é³ ļ +é³ Ľ +éº ij +éº ĸ +èł ĥ +å½ Ł +å¬ ¿ +é¬ Ĵ +èĺ ĺ +æ¬ Ĥ +é Ĩµ +é¢ ¥ +çĶ Ĺ +ð¨ Ł +ð¨Ł ł +å· ĩ +éħ ħ +é« İ +çĬ ¨ +𬶠® +ð¨ Ń +ð¨Ń ī +㸠Į +çĪ Ķ +çĢ ± +çĢ ¹ +çĢ ¼ +çĢ µ +è¥ « +åŃ ħ +éª ¦ +ð¬Ļ ĭ +èĢ ° +𤠫 +𤫠ī +çĵ ĸ +é¬ ĺ +è¶ ¯ +𬺠ĵ +ç½ į +é¼ ± +é³ ł +é³ ¡ +é³ £ +çĪ Ł +çĪ ļ +çģ Ī +éŁ Ĥ +ç³ µ +èĺ ¼ +ç¤ µ +é¹ ´ +èº Ķ +çļ Ń +é¾ ¢ +é³ ¤ +äº ¹ +ç± ¥ +é¼ · +ð«ļ Ń +çİ ĥ +éĨ ¾ +é½ ĩ +è§ ¿ +èł ¼ +× § +× ¤ +× Ľ +×ķ× ª +× ¡ +×Ļ× Ŀ +× ¦ +× Ĵ +× ĺ +×ķ× ¨ +× Ŀ +×ķ× ľ +× ĸ +๠Ĥ +ï º +ðŁ į +ðŁ IJ +×Ļ× ¨ +ï » +ðŁ ij +ðĿ IJ +ðŁ ı +ðŁ Ķ +ðŁ Į +ðŁ İ +ðŁ ĵ +× Ł +ðĿ ij +×ķ× ĵ +ï ¦ +Ġ× ķ +×ķ× ij +à¸Ń à¸ĩ +ðĿ ĺ +×Ļ× ª +ðĿ ķ +à¸Ĺ ีà¹Ī +Ø§Ø ¦ +ðŁ ¤ +×ķ× Ł +ر ÙĬ +×Ļ× ľ +ร ะ +า ย +ï ¯ +ï ® +า ม +â ĩ +ðŁ ¥ +ï Ń +ðĿ Ļ +×ķ× ł +á ½ +Ġ× Ľ +ðŁ ļ +â ļ +ï § +×ij ר +×Ļ× ł +á ´ +Ġ× Ĺ +á ¼ +ðĿ Ĺ +Ġ× ¢ +×Ļ× Ķ +ãģ£ ãģŁ +ãģĵ ãģ¨ +á ¸ +ÙĬ ÙĨ +ãģª ãģĦ +ا ع +ภ¨ +à¹Ī à¸ĩ +×Ļ× ĵ +×ŀ ש +á Ī +׳ ×Ļ +×Ļ× ij +ï ¥ +ðĿ ĵ +Ġ× Ļ +× ļ +ั à¸ĩ +â ĵ +ï ¤ +ĠاÙĦ Ø£ +า à¸ģ +à¹ī à¸Ļ +à¹Ģ ร +×ķ× Ŀ +á ¹ +ภ¶ +×Ļ× § +ภĭ +à¸Ħ ร +ภĺ +ั à¸ģ +ðŁ ķ +ÙĪ ÙĨ +à¸Ń ย +â Ĭ +ðĿ Ĵ +ĠاÙĦ ع +า à¸Ļ +×Ļ× Ł +ÙĦ ÙĬ +×Ļ× © +à¸Ľ ระ +à¹Ģ à¸Ľ +Ġ× ł +×ķ× ¡ +ภł +Ùħ ÙĨ +×ķ× ¢ +×ķ× ŀ +â Į +ðŁ § +à¹ĩ à¸Ļ +ภį +ã İ +á µ +ĠاÙĦ س +×ķ× § +ห ล +ðŁ ĩ +â ı +ðŁ ¦ +Ġ×Ķ ×ŀ +ÙĪ Ø§ +Ġ× ª +ר ×IJ +à¸Ń à¸Ļ +ภ© +à¹Ī ว +×ķ× ¦ +í Ĺ +ã Ħ +ï ¨ +ï ¹ +â İ +ï ² +ðĿ ļ +ð IJ +à¸Ħ ว +ห à¸Ļ +Ġ× ¨ +ب ÙĬ +ร à¹Į +ر ا +Ø´ ر +×ķ× Ĺ +×ķ× ¤ +×ķ× © +×ķ× Ĵ +í Ŀ +â Ľ +à¸ķ ิ +à¹Ģ à¸ģ +ï ³ +ï ± +à¸Ķ à¹ī +ë ¹ +ï ¬ +á ¿ +ðŁ Ľ +ðĿ ĸ +à¹Īา à¸ĩ +ู à¹ī +Ġ×Ķ ×IJ +ĠاÙĦ ØŃ +פ ר +ÙĪ Ùħ +à¹Ģ ล +í ĸ +×Ļ× ¢ +ì Ī +í ĵ +ðŁ ħ +á ł +à¸Ħว าม +à¸Ī ะ +׳ ×Ķ +Ġ× § +à¸ Ł +à¹ī à¸ĩ +ห ม +ت Ùħ +׾ ×Ļ +ÙĬ د +à¹Ī à¸Ļ +׊ר +ש ר +à¹Ģ à¸Ĺ +×ŀ ר +ë ĸ +ع ÙĦ +×ŀ ×¢ +â ² +׾ ×Ķ +Ġ× ¤ +à¸Ń à¸ģ +س ÙĦ +×Ļ× ŀ +ÙĤ ÙĬ +í İ +ت ØŃ +×Ļ× ¡ +×Ļ× Ĺ +í Ľ +ï ° +â ½ +á ī +á Ĭ +á ¨ +Ùĩ ا +Ġ׾ ×Ķ +×ķ× IJ +Ùħ ا +à¹īà¸Ń à¸ĩ +ر ب +ĠاÙĦ ج +×ŀ ×ĵ +Ùħ ÙĦ +ت ر +à¹Ģ à¸Ķ +×§ ר +í ħ +ì ¼ +ê ¿ +ã Ī +á IJ +ðŁ Ĺ +ê ¦ +á ĭ +ðĿ Ķ +à¹Ģà¸Ľ à¹ĩà¸Ļ +à¹ĥ ห +ม า +ว à¹Īา +ม ี +ี à¹ī +à¹Ħม à¹Ī +ÙĨ ÙĬ +Ø ¤ +ร า +×ķ ×Ļ +ãĤĪ ãģĨ +ิ à¸Ķ +×Ļ× ¤ +׊׾ +ÙĤ د +à¹Ģ ส +×Ļ× ĺ +à¸ģ ล +ר ׼ +×ķ× Ľ +×Ļ× Ľ +ë Ī +ë ĥ +ðŁ ĸ +á ħ +â ¼ +ã ī +à¹Ħ à¸Ķà¹ī +ת ×Ļ +×Ļ× IJ +ĠاÙĦ Ø¥ +à¸ł า +ร ิ +ÙĤ Ø© +ØŃ د +ê » +ì ± +ת ×Ĺ +ì º +â ĭ +á Ħ +á ¾ +â µ +â ¾ +ĠÙĪ Ø§ÙĦ +׳ ×ķ +Ù Ģ +ÙĬ ا +à¸ģ à¹ĩ +×ŀ ×Ķ +ãģĦ ãĤĭ +ع د +ĠاÙĦ ÙĨ +Ġ×Ķ ×© +Ø ¦ +ั à¹īà¸ĩ +ร ัà¸ļ +ÙĪ ÙĤ +ãģ§ ãģį +à¹Ģ à¸ŀ +׼ ׾ +×ĺ ר +ั à¸Ķ +à¸Ń า +ì ¢ +à¸Ń à¸ļ +à¸ķ ร +à¹Ģ à¸Ĭ +ì Ķ +ãģĹ ãģ¾ +ë ģ +ë ķ +ðŁ Ļ +â Ĵ +á ¶ +à¹ģ ล +ÙĨ ا +à¹ĥห à¹ī +à¹Ħ à¸Ľ +× £ +ั ว +า à¸ĩ +×ĵ ר +×ij ׾ +פ ×Ļ +Ġ× ĵ +ĠاÙĦ Ùģ +à¹Ģ à¸Ĥ +ש ×Ķ +×IJ ר +ë ¬ +ãģ« ãģª +ÑĢ Ð¾ +ว ิ +Ùħ ر +×IJ ת +Ùĥ ر +س ب +ÙĨ ت +ãģĹ ãģĦ +ا ج +à¸Ń รà¹Į +Ùĥ ÙĦ +س Ùħ +ส ิ +×Ļ× ¦ +ë Ŀ +í ľ +ì ī +á Ĩ +Ùĩ Ùħ +à¸Ļ ีà¹ī +ãģĤ ãĤĭ +ãģĦ ãģ¦ +س ÙĬ +׾ ×IJ +د ر +ãģ ļ +ÙĪ Ø¬ +ĠاÙĦ Ø® +ص ر +í ı +à¹īา à¸ĩ +ุ à¸Ķ +×ķ× ĺ +×ij ×¢ +í Ĩ +à¸Ĭ า +ร ม +ש ×ŀ +×ŀ ס +ê ´ +ì ´ +ë ľ +ì ¿ +ì © +ë » +â ¤ +ðŁ Ĩ +á Į +á ķ +ذ ا +à¸Ĺ ำ +à¸ķ à¹Ī +ĠاÙĦ ÙĤ +ÙĦ Ùĥ +ู à¹Ī +à¸Ħ ุ +ÙĬ Ùħ +׳ ×Ļ×Ŀ +ืà¹Ī à¸Ń +ÙĪ Ø¹ +ãĤ ĩ +ا ÙĤ +Ġ×ij ×¢ +à¹Ģ ม +ج Ùħ +á» « +ãģĵãģ¨ ãģĮ +ب د +×ķ× Ķ +ש ׾ +Ùĩ ر +à¹Ģ à¸Ļ +ãģ ¹ +í ĭ +ì » +ì ½ +ë Ń +ì Į +í Ģ +ë Į +ë º +ã Ĭ +à¹ĥ à¸Ļ +Ġ× Ĵ +๠Ĩ +à¸Ī าà¸ģ +ว ย +à¹ĥ à¸Ĭ +à¸ĩ าà¸Ļ +ĠاÙĦ Ø´ +ا ØŃ +à¹īา à¸Ļ +ืà¹Ī à¸Ńà¸ĩ +×IJ ×Ļ +ب ÙĦ +ãģ¨ æĢĿ +׳ ס +ãģ¾ ãģĽ +Ùĥ ÙĨ +×¢ ר +ĠاÙĦ د +ש ת +í ŀ +Ùħ س +ص ÙĦ +×ķ׳ ×Ķ +ار Ø© +ÙĦ Ùħ +ส ม +Ø£ ÙĨ +ת ר +×IJ ×ŀ +ع ب +Ø® ت +ãĤ ĥ +ì ¡ +ì £ +ив а +ส ั +ึ à¸ģ +ì ¸ +ë Ĩ +алÑĮ н +ì ³ +ì į +ê ¼ +ê ½ +ì ı +ã Į +ã ı +ï © +ê ª +á İ +Ġ× ĸ +à¸ģ ัà¸Ļ +×Ļ ×ķ +à¸Ħ à¸Ļ +׳ ×ķת +à¸ľ ูà¹ī +à¹ĥ à¸Ī +ãģĦ ãģŁ +Ùģ Ø± +×ĺ ×Ļ +צ ×Ļ +ãĤĤ ãģ® +ĠاÙĦ ص +ãģ¾ãģĽ ãĤĵ +د Ø© +×ij ×Ļ +ĠاÙĦ ر +Ġ×ŀ ×IJ +ส ำ +à¹Ģ ห +ع ر +ãģª ãģı +à¸ģร ะ +×ij ×ĵ +à¹Ģ à¸Ī +×Ļ× ļ +×Ĺ ×Ļ +ÙĬ ع +ש ×ij +ÙĨ Ø© +ÙĪ Ø¶ +ÙĦ Ùģ +ÙĢ ÙĢ +פ ×¢ +í Ī +×ŀ ×§ +ภIJ +ØŃ Ø© +ا ص +Ñĭв а +à¸Ħ ม +ว ั +à¸Ľ ล +ì Ł +í ļ +ë ´ +ë ij +ë ī +ë ĩ +ì ¨ +ë ± +ë İ +â ¬ +á ¥ +á Ĺ +á Ľ +á į +Å © +à¸Ķ ี +ô i +Ġ× ¡ +׾ ×ķ +á»Ŀ i +à¸Ħุ à¸ĵ +â y +à¸Ļ า +×Ĺ ×ĵ +×ĵ ×Ļ +ห า +ج ÙĦ +à¹Ģ ว +ãĤĩ ãģĨ +Ùħ Ø© +ĠاÙĦ Ùĥ +Ġ×Ķ ×¢ +ج ر +×ĸ ר +ا Ø· +׼ ת +×ķ׳ ×Ļ×Ŀ +ØŃ Ùħ +ê ¶ +ر Ùĥ +Ġ׾ ×¢ +×ķ× ĸ +ส ร +צ ׾ +Ø ¢ +ا ست +à¹Ī ม +Ø® ر +צ ×¢ +×Ļר ×ķת +اد Ø© +Ø´ ار +×ŀ ×Ĺ +í Ĵ +à¹Ģร ีย +×Ĺ ×§ +Ø§Ø « +ร à¸ĩ +à¹Ģ à¸ķ +à¸Ī ำ +ภĿ +à¹Īา ย +à¸Ħ ล +ÙĤ ÙĪ +иÑĩеÑģ к +à¸ĵ à¹Į +ั ย +Ùħ ع +ë ¨ +ë ¿ +ë ® +ï ´ +ì ¥ +ì « +ë µ +á ¡ +â į +ð ĵ +â ° +à¸Ĥ à¸Ńà¸ĩ +Ù ĭ +à¸ģ ัà¸ļ +ãģ® ãģ§ +à¹ī ว +à¸Ńย à¹Īาà¸ĩ +ãģ Ń +á»ĩ t +à¸ķ à¹īà¸Ńà¸ĩ +×ŀ ×Ļ +à¹ģ à¸ļ +×Ĵ ר +ÙĪ Ùģ +ÙĤ ÙĦ +à¸łà¸² à¸ŀ +ר ×Ļ +ล า +ÙĬ س +Ġ× ¦ +ÙĬ Ùģ +Ġ× ĺ +à¸ľ ล +á ng +ร ว +Ġ×ŀ ש +×IJ ×ķת +×ĸ ×Ķ +ู à¸ģ +à¸Ļ ัà¸ģ +اÙĨ ÙĬ +د ا +ãģ ³ +׼ ף +ãĤī ãĤĮ +ãĤĮ ãģ° +ת ×§ +ú c +ÙĪ Ø² +×Ļר ×Ķ +Ġn gh +án h +Ġ×ķ ×IJ +á» ħ +ส ุà¸Ķ +ë į° +ا ض +اÙĦ ÙĬ +ب ار +ع Ùħ +à¸ļ า +ت ج +à¸ŀ ร +×ķר ×Ķ +ả ng +Ø® ÙĦ +ภī +ắ c +ש ×Ļ×Ŀ +í Ķ +Ùģ Ø³ +×Ļ× Ĵ +п ÑĢ +ĠاÙĦ Ø« +س Ø· +ร ูà¹ī +ีà¹Ī ย +à¸Ń à¸Ķ +ãģª ãĤĬ +×Ĵ ×ĵ +ãģĦ ãģ¾ãģĹãģŁ +ס ×§ +Ø® ص +la ÅŁ +ен но +ب ØŃ +ส à¸Ļ +ภ® +ר×IJ ש +Ùħ ÙĪ +دÙĬ د +ษ า +×ķ× ļ +ãĥ§ ãĥ³ +à¸ķ ุ +Ġê µ +ĠÑģв о +צ ×ij +à¸Ń ม +à¸Ľ ร +ت ع +×Ķ ×ª +اÙħ ÙĦ +×ŀ ׳ +ç ¶ļ +ภ¤ +í į +ë ĺ +ë ¤ +ì ij +â ´ +ã ĭ +Ġب اÙĦ +á»ģ u +ĠاÙĦ ÙĦ +à¸ķ ัว +ذ Ùĩ +ึ à¸ĩ +à¹ĥà¸Ĭ à¹ī +á»ĵ ng +à¸Ļ ั +ม าà¸ģ +ãĥ Ł +×ŀ ×ķ +à¸Ĺ ย +á»Ļ i +Ạ± +ả o +à¹Ĥ à¸Ķ +×IJ ׾ +ส าม +ÙĪ Ø¨ +à¸Ĺ ุ +ย ัà¸ĩ +×¢ ת +×ķ׳ ×ķת +à¸Ĥ ึ +à¸Ĥึ à¹īà¸Ļ +à¸ģ à¹Ī +Ạ« +á»ij c +ãģĹ ãĤĩãģĨ +á»ĭ ch +Ġ×IJ ×ķת +Ġש ×IJ +׼ ×ķ׾ +á»Ļ c +ع Ø© +à¸Ĺ ี +à¹Ģ à¸Ń +Ùĥ ت +ãģ » +Ạ» +ìĹ ħ +à¸Ń à¸Ńà¸ģ +اÙĨ ت +à¹Ħ ร +Ġ×IJ ×Ĺר +Ø· ر +ÙĨ د +ื à¹īà¸Ń +Ø· ÙĦ +×IJ ×Ķ +uy ên +í ĸī +×ij ×Ķ +à¸Ħ à¹Ī +à¸Ĭ à¹Īว +ãģĤãĤĬ ãģ¾ãģĻ +ÙĬ ب +×§ ׾ +ãĥ Ļ +Ä © +س ر +า ว +ãĤ ± +à¸ļ ริ +ר ×Ĵ +á»ĥ u +ØŃ ت +×ķ×ŀ ×Ļ +ب ÙĨ +êµ IJ +ÄŁ u +ãģª ãĤĵ +×ij ×§ +Ġפ ר +ắ n +ØŃ ÙĦ +×ij ×Ĺ +ấ u +×ij ×ķ×ĵ +ãĥ ¯ +Ġ׾ ×§ +ั à¸į +à¸ŀ ิ +×Ĺ ×Ķ +×ĸ ׼ +ãĥ¼ãĥ ł +ÑĤ елÑĮ +×ŀ ×Ļ×ĵ +ÙĬ Ø® +Ạ³ +ت ص +à¸ĺ ิ +è¾ ¼ +ì ĵ +Ùĥ Ø© +ÙĤ ب +à¸Ħ à¹Į +à¹īา ย +à¸ĵ ะ +า ะ +ë Ĵ +ê ¾ +ë · +ì ĩ +ê º +ì ģ +ë Ģ +ì ¾ +ë ½ +ë ļ +ì Ń +ì İ +á ij +ë Ĺ +ê Ĵ +à ¡ +à ¬ +ðIJ Į +ã ĩ +ðĿ Ħ +Ġ׾ ×IJ +ãģ¨ ãģĦãģĨ +Ġn hi +×Ļ ×ķת +Ġש ×Ķ +à¹ģล à¹īว +Æ°á»Ľ c +à¸Ķà¹ī วย +à¸Ĺ าà¸ĩ +׳ ת +פ ת +à¹ģ à¸ķà¹Ī +ư ng +à¸Ńย ูà¹Ī +à¹ī ำ +Ġ×IJ ׾ +Ùĥ Ùħ +ấ p +ล à¸ĩ +ãģŁ ãĤģ +×Ĵ ׾ +ห ร +ĠÑĢ Ðµ +à¹Ģà¸Ĥ à¹īา +ÙĤ ر +Ġ×Ķ ×¡ +ÙĪ ÙĬ +สาม าร +สามาร à¸ĸ +Äĥ n +à¸Ń ี +פ ×ķ +×Ļ׳ ×ķ +ว ัà¸Ļ +ặ c +íķ Ļ +×ŀ ת +ê u +Ạ¹ +Ùģ ÙĬ +×ŀ צ +à¸Ħ า +ãģĿ ãģĨ +ãĢ ħ +ا ز +ا Ùĩ +ר ×Ļ×Ŀ +ấ n +ห าร +ạ t +ÙĨ Ùĩ +à¹Ģ à¸Ħร +ج Ùĩ +׼ ×Ļ +ắ t +à¸Ħ à¹īา +ر Ø© +ãĥ ı +Ùĥ ÙĪÙĨ +ứ ng +Ġìļ ° +ย à¹Į +à¹Īว à¸Ļ +à¸ģ ำ +Ø« ر +Ñģ и +ĠاÙĦ Ø· +Ġ×Ķ ×¦ +ĠØ · +ĠاÙĦ ÙĪ +ê¹ Į +ØŃ ÙĬ +ار ات +à¹Ģ à¸ĭ +ب ا +г ÑĢ +ร ี +ืà¸Ń à¸Ļ +ع ت +ÙĤ اÙĦ +د Ùħ +Ø ¡ +Ġ×ŀ ×§ +×ĵ ×Ļ×Ŀ +×¢ ׾ +ãģ Ĵ +ëĭ ĺ +×¢ ×Ķ +Ġìĸ ´ +Ñģ ÑĮ +ÙĤ Ø· +ãĥ Ľ +èĢĥ ãģĪ +à¹ģ à¸Ļ +ÙĪ Ø§Øª +â u +ĠìĤ¬ ëŀ +ห ว +ĠاÙĦØ£ Ùħ +Ġ×Ķ ×ŀש +ب ÙĪ +à¸Ĭ à¸Ļ +ãĤĵ ãģ§ãģĻ +ว à¸Ļ +à¸ģร รม +×ŀ ×ķ×ĵ +Ùĥ اÙĨ +×ķ× £ +ол ог +ت ÙĨ +à¸ķ à¹Į +ê² ĥ +ר ×ĺ +ừ ng +×ķ×ij ×Ķ +Ùħ ØŃ +ĠÐ § +פ ×Ĵ +ส à¸ĸ +ãģĭ ãĤĬ +ını z +à¹Ģ ย +ãĥ¼ ãĥ³ +ãģĬ ãĤĬ +פ ש +ิ à¸ķ +Ø· ÙĨ +×Ļת ×Ļ +×IJ ׳ +ç ek +ì ª +×ŀ ×ij +ศ า +ãĤ¹ ãĤ¿ +à¸ļ ุ +×ĵ ×ijר +ãģĦ ãģı +ส ะ +à¹Ģ หล +ิ à¸ĩ +à¸ŀ ัà¸Ļ +ãģĦ ãģŁãģł +ãĤĤ ãĤī +à¹ī ม +ãģĵãģ¨ãģĮ ãģ§ãģį +าร à¹Į +ุ à¸ĩ +í ij +ì ¯ +ë ¼ +í Ĥ +ì · +ê ¡ +á ı +á Ĵ +ðĿ ľ +á © +ðŁ Ħ +ðIJ ¤ +Ġש ׾ +Ġ×ŀ ×Ķ +à¹ģล ะ +Ġ׼ ׾ +Ạ½ +á»Ļ ng +ذ ÙĬ +л е +× ¥ +ãģª ãģ© +ĠÙĪ Ø£ +หà¸Ļ à¹īา +ãģ¾ ãģ§ +à¸ķà¹Ī à¸Ń +à¸Ĺ ัà¹īà¸ĩ +ãģł ãģij +à¹ģà¸ļ à¸ļ +à¹Ģร า +פ ׾ +ãģŁ ãģĦ +à¹Ģล ย +ãģ£ãģ¦ ãģĦãĤĭ +ế p +ึ à¹Īà¸ĩ +ê ´Ģ +ê³ Ħ +׼ ×ķ +à¹Ģร ืà¹Īà¸Ńà¸ĩ +×§ ×Ļ +êµ Ń +פ ס +ت ÙĬ +ãĥ Ħ +Ġ×Ķ ×Ĺ +г и +ר×IJ ׾ +×ŀ ׾ +ĠØ£ ÙĬ +Ġع ÙĦÙĬ +ãģĭ ãģ£ãģŁ +ש ×Ļ +д Ñĥ +×ŀ ף +׳ ×ĺ +׳ ×Ļת +mi ÅŁ +׼ ×Ŀ +Ġ×ij ר +Ġ׾ ×ij +ĠÐ Ľ +ç e +×ķ׳ ×Ļ +ãĤĪãģĨ ãģ« +פ ×ķר +ãĥ į +Ùĥ ÙĬ +×Ĺ ×ª +Ùģ ÙĦ +Ġ×Ķ ×§ +Ġ×Ķ ×ij +Ġ×ŀ ס +à¹Īา à¸Ļ +п еÑĢ +à¹Īา ว +Ġ×ij ×IJ +ĠÙĪ Ùĩ +à¸Ļ ำ +Ġ×ij ש +׳ ×§ +ãģ© ãģĨ +ש ×ķת +×ĵ ×Ķ +à¹Ģ à¸ļ +ÙĨ س +Ġìļ° ë¦¬ +ส à¹Īวà¸Ļ +ล ัà¸ĩ +ج ز +Ġ×Ĺ ×Ļ +Ùĥ ثر +ล ะ +Ùĩ د +ĠÙĪ Ø¨ +اÙĦ Ùħ +à¹ģ ม +Æ¡ i +Ġ×ij ×Ĺ +ữ a +à¹Ģà¸Ĺ ศ +à¸ķ ัà¹īà¸ĩ +ог да +׾ ×§ +د د +สร à¹īาà¸ĩ +à¸Ĭ ี +Ùģ Ø¶ +à¹ģ ห +uy á»ĩn +ร ัà¸ģ +á»ĩ m +ส า +פ ×§ +ีย à¸ĩ +à¸ķ à¹Īาà¸ĩ +à¸Ħร ัà¹īà¸ĩ +ØŃ ÙĤ +à¹Ģ à¸Ńà¸ĩ +ائ ÙĬ +×ĺ ×¢ +اÙĦ Ø© +ิ à¹Īม +ãĤ ½ +د Ùī +Ġר ×IJ +ãģ£ ãģ¨ +ãĥĥ ãĥĹ +ÙĬر Ø© +ê± ´ +×ŀ ×IJ +×ķ ×ķ +ب ع +ãģ ² +ร าย +×ĵ ×Ŀ +ت Ùģ +à¸ķ à¸ģ +ạ ng +ãĤĴ è¦ĭ +à¸Ĭ ั +Æ°á» Ł +Æ°á»Ł ng +ج ب +×ķ×ŀ ר +ĠìĤ¬ëŀ Į +ó ng +ร ั +Ġ×Ķ ×ĸ +ר צ +Ġ×Ĺ ×ĵ +ذ ÙĦÙĥ +×ķר ×Ļ +ãģ¡ ãĤĥ +Ùģ Ø¹ +Ġ׾ צ +á i +à¹ĩ à¸ļ +ãģ İ +à¸ģ ิ +ạ c +ë© ° +ãģª ãĤĭ +×ķ׾ ×Ŀ +à¹ģ à¸Ĺ +×ķ× ¥ +м еÑĤ +ü ÅŁ +ÑĢ Ñı +ภĴ +ÑģÑĤ оÑı +ع ÙĪØ¯ +Ùħ ار +Ø· Ø© +à¸ŀ ื +к ÑĢ +à¹ģ à¸ģ +à¹Ĥ รà¸ĩ +×ij ×Ļ×ĺ +ê² ł +×ķ׾ ×Ķ +ØŃ ر +ืà¹Ī à¸Ńà¸Ļ +×ķ×ij ר +׊ש +ãĥķãĤ ¡ +×ŀ ×ĺ +ú t +Ġd ön +ắ ng +ëł ĩ +ẳ ng +ว à¸ģ +ص د +Ø® Ø· +à¸Ń ั +ãĤı ãĤĮ +سÙĦ اÙħ +à¹Ģร à¹ĩ +×Ļש ×Ļ +ج اÙĦ +ãģij ãĤĭ +à¸Ĭา à¸ķิ +ÙĪØ§ ÙĤ +à¹Ĥ à¸Ļ +ãģ¦ ãģĹãģ¾ +اع Ø© +ãĤŃ ãĥ£ +à¸į า +ÙĦا ÙĤ +ิ à¸ģ +ĠÑģ ов +ÑĢаРº +×Ļ׳ ×Ļ +ü ÄŁ +Ã¼ÄŁ ü +×§ ×ij +à¹Ī à¸Ńà¸ĩ +Ġger çek +à¸Ĺ ั +ов аниÑı +×ŀ ׼ +س Ø© +×Ļ× £ +le ÅŁ +Ùħ ؤ +ĠìĿ ĺ +à¸IJ าà¸Ļ +ĠÑģ об +Ġêµ Ń +×¢ צ +з в +ส à¸ĩ +ز ÙĦ +ãģı ãĤĮ +и ÑĢÑĥ +ت Ø£ +п олн +ìĺ Ģ +ÙĨ Ø´ +׼ ×IJ +Ùħ Ø´ +à¸Ķ à¹Į +ÙĪ ÙĬÙĦ +à¹ģ à¸Ĥ +ãģ£ãģ¦ ãģĹãģ¾ +но ÑģÑĤ +в л +Ùħ ÙĤ +را ج +å¤ ī +ë Ľ +â ¸ +ì IJ +à » +á ļ +â » +ê Ļ +â § +ð Ĵ +ðĿ ĩ +Ġ×IJ ת +ĠÙĦ ÙĦ +ĠØ£ ÙĨ +Ġ×ķ ×Ķ +ãģ« ãģ¯ +Ġ×Ļ ×© +ت Ùĩ +ÃŃ nh +ÙĬ ات +Ġ×ij ×ŀ +à¸Ļั à¹īà¸Ļ +à¸Ļ à¹īำ +Ãł o +à¸ķ าม +ãģ® ãģ¯ +d ır +Ġn ghi +ặ t +×ŀ ×Ļ×Ŀ +ãģ¦ ãģĦãĤĭ +Ġ×ij ת +หร ืà¸Ń +Ġس ÙĬ +ãģª ãĤī +à¹Ĥà¸Ķ ย +ı yor +à¸Ńี à¸ģ +á»ĩ nh +Ñĭ м +à¸Ĺุ à¸ģ +Ġ׾ ×Ĺ +Ġ×Ķ ×¨ +Ġ×Ķ ×Ļ +à¸ŀ ระ +à¹Ģว ลา +ĠØ º +ẫ n +m Ä±ÅŁ +׼ ×Ķ +á»ij n +ãģ§ ãģĹãĤĩãģĨ +ãĥ ¢ +à¸Ľ ี +ס ×Ļ +ãģĵ ãĤį +Ġ׾ פ +ร à¸ĸ +ê¸ Ī +à¸ģ วà¹Īา +ë ¬´ +á»į ng +ãĤĵ ãģ§ +ãĤĪãģĨ ãģª +á»ĵ i +ãĤ ¬ +ส à¹Īà¸ĩ +×Ļ׳ ×Ķ +à¸ĸ ูà¸ģ +à¸Ī ัà¸Ķ +Ġ×Ķ ×Ĵ +ãĥ ľ +×ŀ ×ķת +ÙĪ Ùĥ +ëĭ ¨ +ĠØ « +ãģ® ãģĮ +à¹Ģห à¹ĩà¸Ļ +ع ا +à¸Ļ ิ +Å ŀ +à¸Ń ะ +ãģĪ ãĤĭ +Ø« ÙĦ +ØŃÙħ د +à¹Ģà¸ģ ิà¸Ķ +פ שר +פ ×Ķ +ม ิ +ئ ÙĬس +à¸Ĺำ à¹ĥหà¹ī +×¢ ×ĵ +ìĭ ¤ +à¸Ĭà¹Īว ย +ĠاÙĦÙħ ÙĨ +ز ÙĬ +ع ÙĬ +Ġ׼ ×IJ +ạ nh +á» ¹ +ãĤĵ ãģª +ส ู +צ ר +Æ°á»Ľ ng +×ķ ×ķ×Ķ +à¹Ĥ ล +ĠاÙĦ Ùĩ +ว า +หล าย +Ñī е +à¸Ĥ à¹īà¸Ń +à¹īà¸Ń ย +ب Ø· +ка Ñı +ĠØ ¢ +Ġи Ñģ +ĠاÙĦ غ +à¸ģ า +à¸Ļ à¹Īา +ÙĬ ÙĪ +×ij ×ķר +á»ħ n +ว à¸ĩ +×Ļ× ĸ +ì² Ń +н им +ëŁ ° +×Ĵ ×ķר +ص ØŃ +ÙĦ ÙĪ +×Ĺ ×ķת +ส ุ +رÙĬ ÙĤ +ס ×ĺ +Ġ×ŀ ×¢ +ãĥĨ ãĤ£ +à¸Ħ ิà¸Ķ +ãĤį ãģĨ +à¹Ħ ล +à¸Ļ à¹Į +á»ı i +ÑģÑĤÑĢ Ð¾ +ส à¸Ķ +ส าร +ÙĪÙĦ Ø© +ầ m +ร à¹Īว +รà¹Īว ม +ร ุ +ĠاÙĦس ÙĬ +ìĺ ģ +Ġ×ŀ ×ij +פ ×ĺ +à¸ķิ à¸Ķ +×ĺ ×Ļ×Ŀ +Ġë ¬´ +ÙĤد Ùħ +Ġdü ÅŁ +ائ ÙĦ +м Ñĭ +ØŃ س +ÙĪ Øµ +×Ļ×§ ×Ķ +ãģ§ãģ¯ ãģªãģĦ +à¹Ģ หม +оÑĢ ÑĤ +í Ĩµ +ãģ IJ +к ÑĢа +ีย ว +ع ار +ئ Ø© +íĥ Ģ +ãģ«ãģª ãĤĬ +ج Ø© +ÙĪÙĤ ع +ÑĮ Ñı +×ķצ ×Ķ +ש ×Ŀ +ب ÙĤ +Ġ×Ļ ×Ķ +ÙĬ Ø· +ım ız +д еÑĢж +×Ļש ר×IJ׾ +غ ÙĬر +ร à¸Ńà¸ĩ +à¹Ģรีย à¸Ļ +Ġ×Ķ ×ĺ +หม าย +Ùħ Ùĩ +اÙģ Ø© +Ġо ÑĢг +ÙĪ Ùī +ãĥ© ãĤ¤ +×ŀ ׳×Ķ +ĠÄij o +Ġг оÑĢ +اÙħ Ø© +æ¥ ½ +Ø« ÙĬر +à¸ģิ à¸Ī +á»ĵ n +ÙĨ ب +ÑĢÑĥ д +ìĹ Ī +Ġ×Ĺ ×ijר +ÑĢаР¶ +ạ ch +ت ÙĪ +à¹Ĥ ม +×ij ×Ļ×ij +Ġí Ĩµ +aca ģı +جÙĦ س +à¹Ģà¸Ľ ล +ว à¸Ķ +à¸Ń ล +ãģŁ ãĤĬ +à¸Ľ ัà¸į +Ġìķ Į +عر Ùģ +à¹Ħ à¸Ł +Ø£ Ø® +å¤ļ ãģĦ +à¸Ķ ัà¸ĩ +Ø´ Ùģ +ãģ£ãģ¦ ãģĦãģ¾ãģĻ +׼ ×ł×¡ +ÑĨ е +еÑģ п +Ùħ اÙħ +à¸ŀื à¹īà¸Ļ +иÑĩеÑģ ки +Ø® د +Ùĥ ÙĪÙħ +Ġ×Ķ ×¨×IJש +ت اب +é£Ł ãģ¹ +ื à¸Ļ +оÑĢ Ð¾ +Ġb öl +×ķ×Ĺ ×ĵ +دÙĬ ر +ắ m +د ع +ãģķ ãģĽ +à¸ĺ ร +à¸ĺร รม +ãģĭ ãĤĤ +å¤ļ ãģı +r ä +س ع +×Ļ׾ ×Ķ +ض ر +ĠاÙĦ شر +×ĸ ×ķר +×¢ ×ijר +ạ m +алÑĮ но +ر ÙĨ +اÙħ ج +׼ ×ļ +d ıģ +д ен +ض ا +ÙĦÙĬ Ùħ +Ġê·¸ 룬 +تÙħ اع +ار ÙĬØ® +à¹Ĥ à¸ķ +ĠÑģ ÑĢед +Ġ׳ ×ķס +ÙĤ بÙĦ +оÑĤ ов +le ÅŁtir +Ġм еÑģÑĤ +سÙĦ Ùħ +Ġ×¢ צ +ĠاÙĦس ÙĦ +еÑĤ ÑĮ +اب Ø© +н ак +สà¸ĸ าà¸Ļ +Ġ×ij ׳ +à¸ļ ัà¸Ļ +׼ ׳ +Ġö ÄŁ +ãģ¨ è¨Ģ +uy ến +di ÄŁ +áºŃ u +ÑĢ Ð°Ñģ +ãĤ· ãĥ§ãĥ³ +n ız +×ķ×ĵ ×Ķ +ت س +Ùħ اÙĦ +à¹Ģห à¸ķุ +ย ว +à¸ŀ ัà¸ģ +ãģĦ ãģªãģĦ +Ġк аÑĩ +ล à¹Į +ר׼ ת +ÅŁt ur +×ŀ ×ķס +ãģ ¥ +б ол +عÙħ اÙĦ +×ķר ת +ÑĨи он +ศ ึà¸ģ +ภı +ÑĢ ÐµÐ½ +اس ÙĬ +ائ ر +à¹Ĥ à¸Ľà¸£ +Ġse ç +غ ÙĬ +Ñį ÑĤ +ен н +ãģª ãģ® +×Ļש ×Ķ +×Ļפ ×ķר +ãģŁãĤģ ãģ« +ز Ø© +Ġç oc +ãĤ¯ ãĥª +ÑĪ ÐµÐ½ +ãĤı ãģij +رÙĬ د +ĠÑĢ Ð°ÑģÑģ +Ùĥ ات +ส à¸Ńà¸ļ +ce ÄŁi +ãĤ¿ ãĤ¤ +à¸ļ ร +ĠاÙĦ بر +׳ ×ķ×¢ +r ün +را ض +ศา ส +à¸ķ รà¹Į +ãģį ãģŁ +×ķ׾ ×ĵ +еÑĢ Ð¸ +íĹ ĺ +ắ p +ت عÙĦ +Ùĥ د +иÑĤелÑĮ но +Ø· Ùģ +Ġав ÑĤом +Ġ×ŀ צ +ÑĪи Ñħ +ات Ùģ +ĠÑħ оÑĤ +Ùİ Ø§ +ãģı ãĤĭ +×Ķ ×¤ +à¹Ĥ à¸Ĺ +à¹ģ à¸ŀ +à¹Ī à¸Ńย +ĠاÙĦÙħ Ø´ +à¸ģาร à¸ĵà¹Į +ани з +×Ķ ×ľ +ظ Ùħ +ย ุ +li ÄŁ +à¹Ħ à¸Ĥ +à¸ĸ ืà¸Ń +ö z +ãģij ãģ¦ +à¹Ģ à¸ľ +ุ ม +ãĥĹ ãĥ¬ +Ġ×Ķ×IJ ×Ĺר +خت ÙĦÙģ +à¸ İ +ÙĦا ØŃ +Ġdü zen +צ ×Ķ +س اء +×ķר ×ļ +×ķ×ĵ ×Ļ +ÑĢа ÑĦ +ÅŁt ır +ãģ« åħ¥ +ãģĪ ãģ° +ص ÙĪÙĦ +ĠÐľ оÑģ +ا Ùĩر +ãģ£ ãģ +ĠлÑİ Ð± +×Ļ×¢ ×Ķ +Ġ×Ķ×ŀ ×§ +สิ à¸Ĺ +สิà¸Ĺ à¸ĺิ +×Ļ׳ ×Ŀ +ÙĦا Ùģ +à¸ŀัà¸Ļ à¸ĺ +×ķ×IJ ×Ķ +ม ั +à¸Ĥ à¸ĵะ +д оÑĢ +ãģ¨ ãģª +à¸ģระ à¸Ĺ +ac ı +×ķ׾ ×ķ×Ĵ +Ñĥ ÑĪ +ãĥ¥ ãĥ¼ +ãĥ ¦ +Ùħ ست +Ġa ÅŁ +ש ×§ +פ ת×Ĺ +าย à¸Ļ +í ĩ +ë ¢ +ï · +í ī +ì µ +ì ¬ +ðĿ Ľ +ì Ĵ +ë Ļ +ê § +á ĸ +â ¨ +â ± +á ĺ +ð ĸ +à ł +á Ķ +ðIJ Ń +ữ ng +Å© ng +Ġ×Ķ ×ª +ĠاÙĦ ا +Ġ×ŀ ת +à¸ĸ ึà¸ĩ +ò n +á»ĭ nh +нÑĭ м +Ġc ả +à¸Ķ ู +Ġ à¹ģà¸ķà¹Ī +Ġ×ij ×Ķ +ó i +ãģ¨ ãģĹãģ¦ +ú ng +ĠØ ° +Ġ×Ķ ×ł +Ġب ÙĨ +ÙĦ اÙĦ +à¹Ħ à¸Ĺย +á»ĩ p +t ı +ม ัà¸Ļ +ằ ng +á»ij t +к ом +à¸ĭ ึà¹Īà¸ĩ +à¸Ħร ัà¸ļ +à¸ļ à¹īาà¸Ļ +ĠاÙĦ ÙĬ +l ü +ÙĪ Ø³ +ãģł ãģ£ãģŁ +à¹Ģ à¸ĩ +Ġê³ µ +н Ñĥ +ãĤĪ ãĤĬ +м Ñĥ +à¹Ģà¸Ĥ า +ãĤ Ģ +ни е +ãģ«ãģª ãĤĭ +áºŃ y +ĠÙĪ Ø§ +ëł ¤ +ש ×ķ +á p +×ĵ ×ķ +ãģ§ ãģĹãģŁ +ع ض +Ñģк ой +æĦŁ ãģĺ +ÑİÑĤ ÑģÑı +Ġ×Ļ ×Ľ×ķ׾ +ãĤĵ ãģł +в и +à¹Ģล à¹Īà¸Ļ +ìĿ´ ëĭ¤ +ĠÙĦ Ùĩ +à¸Ħ ืà¸Ń +ت Ùĥ +Ùħ ÙĥÙĨ +a ģı +׳ ×ĵ +ë¯ ¼ +à¹Ħ ว +สำ ห +สำห รัà¸ļ +Ñģл ед +t ır +ĠÙĦ ÙĬ +ĠاÙĦع ÙħÙĦ +×ij ×ķת +×ij ×Ļ×Ŀ +à¸Ħ ำ +à¹Ģà¸Ħร ืà¹Īà¸Ńà¸ĩ +lı ģı +ืà¸Ń à¸ĩ +ج د +íŀ Ī +ìĭ ¬ +×¢ ×ķת +ส ิà¸Ļ +Ñĩ и +ر ض +à¹Ģà¸Ľ ิà¸Ķ +à¸Ħ à¹Īา +ìĦ ł +ÙĪØ± Ø© +×§ ×ĺ +ìľ ł +ع ÙħÙĦ +×IJ ×Ļ×Ŀ +׾ ×Ļ×Ŀ +à¹ĥห à¸į +à¹ĥหà¸į à¹Ī +ừ a +á»į i +ãģ ¶ +ÃŃ ch +ãĥĩ ãĤ£ +×ķר ×Ļ×Ŀ +Ñģ о +ìķ ½ +ов а +Ñĩ аÑģÑĤ +à¹Ģà¸Ī à¹īา +п ÑĢо +Ġ×ŀ ×Ĺ +ãĥ İ +×ķ×Ļ ×ķת +Ġд е +ë§ Ī +ì§ ģ +×Ļפ ×Ķ +ĠاÙĦع اÙĦÙħ +ë¥ ´ +ר×IJ ×Ķ +uy á»ĥn +×¢ ×Ļ +ม ืà¸Ń +Ø¥ ÙĨ +ร ู +ĠØ ² +×Ļ ×ķ×Ŀ +à¸ķ à¹īà¸Ļ +ãģ¦ ãģĦãģ¾ãģĻ +Ùħ اÙĨ +ĠÐ ¥ +à¸Ľà¸£à¸° à¹Ģà¸Ĺศ +á» ³ +׾ ×ij +à¹Ģà¸Ķ à¹ĩ +ãģŁ ãģ¡ +à¸Ĺี ม +à¸Ļ ะ +ìĹ ° +Ġìł Ģ +ÙĦ Ùĩ +ợ i +ĠاÙĦ ز +د ار +ãĤ³ ãĥ³ +м ин +à¹ģห à¹Īà¸ĩ +à¸Ķ ัà¸ļ +׼ ר +ж а +íĸ Ī +×ŀ ×ĸ +ợ i +à¸Ķ า +Ġع بد +à¹ģ ร +×IJת ר +×¢ ׳×Ļ +à¹Ģ à¸Ħ +×ķצ ר +ì§Ģ ë§Į +ائ Ùħ +Ø£ س +uy á»ģn +Ġ×IJ ׳ +׊׳×ķ +×ĸ ×Ļ +ร à¹īาà¸Ļ +ĠÐł оÑģ +ĠÐłÐ¾Ñģ Ñģ +رب ÙĬØ© +t ür +ãĤĭ ãģĵãģ¨ +ظ ر +б Ñĭ +à¸Ĺีà¹Ī สุà¸Ķ +Ġצ ר +èĩª åĪĨ +л аÑģ +ĠÑı в +ĠÑıв лÑı +à¸ŀร à¹īà¸Ńม +à¸Ńา à¸Ī +à¸ļริ à¸ģาร +Ġç ı +ëį ĺ +ĠاÙĦÙħ ست +ت Ø´ +ש ×ķ×ij +ãĤ ´ +Ġyap ıl +ĠاÙĦ ذ +ุ à¹Īม +à¸ĸ à¹īา +ìĦ ¤ +ì° ¨ +в аÑĢ +à¹Ģà¸ŀ ิà¹Īม +Æ°á»Ľ i +Ùĥ س +à¸Ńย าà¸ģ +ãģ¦ ãĤĤ +Ġг од +ÙĬ ار +à¸ķ à¸Ńà¸Ļ +Ġиг ÑĢ +à¹Ħà¸Ķà¹ī รัà¸ļ +ĠاÙĦÙħ ر +ÙĤ ت +Ġë ĺ +Ġëĺ IJ +ẩ n +ãģĻãĤĭ ãģĵãģ¨ +×Ĵ ×Ŀ +Ġ×ij ×ij +ت د +ÙĪ Ø§Ø± +ãĤ ® +п ол +Ġм ог +تر Ùĥ +ÙĪ Ø« +Ġç ık +ا Ø© +à¹Ģà¸Ķ ียว +มี à¸Ħวาม +Ġ×ŀ ×Ĵ +ص Ùģ +ĠТ ак +Ġ׼ ת +×Ļ×ĵ ×Ļ +ов оÑĢ +ầ y +สิ à¹Īà¸ĩ +ب ت +ür ü +ÙĨ ج +หล ัà¸ģ +×Ļ×Ķ ×Ŀ +ÙĤ ص +з Ñĭ +×Ľ×ª ×ij +ư u +m ız +ĠìĦ ¸ +л ог +Ùħ ÙĬÙĦ +ÙĬ ج +íĴ Ī +à¸ŀ à¸ļ +ห ัว +з на +ר ×§ +à¹Ĥ ร +Ġ×ij ס +ĠBaÅŁ kan +ĠëĶ ° +à¸Ń ัà¸Ļ +ีà¹Īย ว +н еÑģ +à¹Ģà¸Ķ ิà¸Ļ +ÙĬ اÙĨ +×ķ׾ ×Ļ +ا خت +צ ×ķת +ãģĵ ãģĵ +ĠاÙĦ اÙĨ +ĠпÑĢо ÑĨ +ãģ¾ ãģł +׼ ס +ĠاÙĦ Ø¢ +ÙĬ ز +ĠاÙĦد ÙĪÙĦ +Ġíķĺ ëĤĺ +ض ع +ê» ĺ +ÅĽ wi +ย ิ +ãģ¡ãĤĥ ãĤĵ +ĠÙħ Ø´ +à¸ĺ ี +ãģ¨ ãģį +׳×Ļ ×ķת +Ġë ¯ +Ġë¯ ¸ +Ġs ı +ëĭĪ ê¹Į +Ġп л +غ ÙĦ +à¹ģ รà¸ĩ +ب ÙĬر +ãģĤãĤĬ ãģ¾ãģĽãĤĵ +ê· ¼ +Ġy üz +ĠdeÄŁ er +åł´ åIJĪ +á» ¡ +м аÑĤ +รา à¸Ĭ +ÙĪØ± ÙĬ +ж ен +ãģ¾ ãĤĬ +ãģ® ä¸Ń +×Ļ×ĵ ×¢ +à¸Ń ุ +à¸ļ à¸Ńล +à¸Ľà¸±à¸į หา +ز Ùħ +ÄŁ a +à¸Ń ืà¹Ī +à¸Ńืà¹Ī à¸Ļ +п л +Ġне обÑħодим +׼ ×ij +à¹Ģ ศ +קר ×Ķ +ì² ĺ +ëł ¨ +×ŀ×§ ×ķ×Ŀ +jÄħ c +Ùĩ ÙĦ +Ġ×¢ ×ij×ķ×ĵ +à¹Ħม à¹ī +à¸ģล ัà¸ļ +×ķ׼ ׾ +×§ ×ĵ +اÙĦ ÙĬØ© +ر Ùĩ +ãģij ãĤĮãģ° +ĠÙĨ Ù쨳 +ãĤ¢ ãĥ« +ìĹ Īëĭ¤ +×§ ×ķר +н еÑĢ +ب اب +ãĤ ¶ +سب ب +ÙĦ ÙĬÙĦ +ص ÙĨ +ص در +ế m +à¸Ĭà¹Īว à¸ĩ +ØŃ ÙĨ +Ġ×ij ×Ĵ +×ŀ ×ķ×¢ +׾ ×Ĺ +大 ãģį +ت ب +н еÑĤ +×Ļ×ij ×Ķ +б л +ãĥĹ ãĥª +اص Ø© +ãģ¤ ãģij +×Ļ×ŀ ×ķש +ãģĮ ãģĤ +ëĭ ´ +ãģĭãĤĤ ãģĹ +ãģĭãĤĤãģĹ ãĤĮ +ãģ¡ ãĤī +×ij ×ĺ +Ġba ÄŁ +×Ļ×Ĺ ×¡ +×ij ×ķ×¢ +ล ี +פע ×Ļ׾ +им и +g ÅĤ +Ġим е +خد اÙħ +×IJ ×Ļר +Ġy apt +ãģ¨ ãģĦ +à¸ĩ à¹Īาย +׾×Ļ ×ķ +ØŃد Ø« +را ÙĤ +ĠÄIJ i +اد ر +ãģĵãģ¨ ãĤĤ +×ij ×Ļר +Ġв з +ض اÙģ +ת ×ķ׼ +ÑĢ Ð¾Ð¼ +ر ات +à¹Ģà¸Ĺ à¹Īา +ãģĺ ãĤĥ +ãģĿ ãģĵ +اج تÙħاع +à¹īà¸Ń à¸Ļ +ÙĤ Ùħ +ë³ ¸ +Ä ŀ +ש ×Ļ×ķ +×ij ׳×Ļ +ìľĦ ìĽIJ +à¹ģ à¸Ī +×Ĺ ×ķר +دÙĬ ÙĨØ© +ت Ø· +ằ m +ò a +ย à¸Ńà¸Ķ +Ġëĭ ¹ +สุ à¸Ĥ +×ĵר ×ļ +د ÙĨ +س ÙĬÙĨ +ÙĪÙĤ Ùģ +ÑĨ Ñĭ +г оÑĤов +еж дÑĥ +à¸ŀ วà¸ģ +اÙĤ تص +اÙĤتص اد +cz ÄĻ +ni ÄĻ +ÑĢ ÐµÐ± +ØŃ ÙĪ +à¸Ĺ à¹Į +ãĤĪ ãģŃ +д ж +à¸ģล à¹Īาว +دÙĬ Ø« +ãĤ³ ãĥŁ +ÙĤ ÙĪÙħ +Ġت ØŃ +à¹Ģ à¸ķิ +اÙģ Ø¸ +à¸Ī ุ +رÙĬ اض +×ŀש ×ļ +à¹Ĥ ย +еÑĢ Ðµ +ãģ¿ ãģŁãģĦ +ìĿ´ ëĿ¼ +ĠاÙĦÙħ ÙĪ +ĠÑģÑĤ о +à¹Ģรà¹ĩ ว +Ġд еÑĤ +ĠÑģ дел +à¹Ģà¸Ĭ ืà¹Īà¸Ń +פ ׳×Ļ +ÙĪØ¶ ÙĪØ¹ +×ij ס +à¹ģ à¸Ķ +ó c +ริ ม +ÑĢаР´ +ìĪ ł +ãĥ¼ãĤ º +ãģ« ãģĬ +и но +פ ×Ļ׾ +à¸Ĭั à¹Īà¸Ļ +×Ĺ×ĵ ש +à¹Ģà¸Ļ ืà¹Īà¸Ńà¸ĩ +׳ ×Ļס +غ رب +ãĤ¸ ãĥ£ +ส ัà¸ĩ +à¹Ģ à¸Ĺีà¹Ī +à¹Ģà¸Ĺีà¹Ī ยว +ëŁ ¼ +à¹ģ à¸Ł +ãĥ¼ãĤ · +ãĥ¼ãĤ· ãĥ§ãĥ³ +Ġвоз мож +جÙħ ÙĪØ¹ +×ijר ×Ļ×Ŀ +ãĥĪ ãĥ© +ĠкаÑĩ еÑģÑĤв +Ø· ÙĬ +ÑĤ Ñı +צ ×ķ×¢ +ÄŁ ını +ع ÙĦÙī +ا ذ +ÙĪØ§ÙĤ ع +Ùħ ÙĪØ§ +ائ ÙĬÙĦ +к ол +á»ģ m +à¸ľà¸¥ ิà¸ķ +×Ļ׳ ×ĺר +س Ùĥ +ש ×Ļר +ศึà¸ģ ษา +à¸ļ ั +Ñĩ аÑģ +×ķפ ×Ķ +×Ļפ ×ķ׾ +ĠاÙĦس اب +رÙĬ ب +ĠاÙĦ بÙĬ +ãĤ¹ ãĥĨ +Ñĩ ен +à¹ģ à¸ľ +Ġ׳ ש +ز ÙĬد +ØŃ اد +ëį Ķ +رÙĪ Ø¹ +à¸Ĺุ à¸Ļ +ส มา +c zeÅĦ +×Ļ×ĵ ×Ķ +ãģ§ ãģĤ +Ġçoc uk +Ø® ب +à¸ļ าย +à¸Ľà¸£à¸° à¸Ĭา +×ŀש ׾ +ãģª ãģĭ +à¸ģ าย +ãĥģ ãĥ£ +аÑĢ Ð¸ +ĠÑĩ а +à¸Ķ ำ +à¸Ĺั à¹Īว +Ñĥ Ñħ +Ġö z +Ġì¢ ĭ +ج رÙĬ +ائ ÙĤ +à¸ł ัย +Ø· ار +د ارة +Ä© nh +Ø« ÙĨ +zell ik +اÙĦ ت +Ġg eli +ãĥķãĤ © +ол од +رب ع +שת ×ŀש +à¸ļร ร +íĿ ¬ +Ġü rün +Ġê·¸ ëłĩ +ศาส à¸ķรà¹Į +ãģ ľ +×Ļ×ij ׾ +ĠпÑĢед ÑģÑĤав +سط ÙĬÙĨ +ãĤĴ 使 +Ġпом оÑī +×ķ×§ ר +ãĥ¯ ãĥ¼ +Ġyö net +×Ļ×§ ר +à¸Ĥ า +еÑĢи ал +ØŃ Ùģ +Ġ×Ļ ×¦ +à¸Ĺ ิ +å£ ² +à¸Ļ à¸Ńà¸ģ +×ķ׼ ר +íĻ ľ +á»§ y +ĠاÙĦÙĤ ر +×Ļ×ij ×ķת +ÅĽ ni +Ùħ شار +ượ t +ĠÙĦ دÙĬ +ÑĤ ел +ĠØ¥ ÙĦÙĬ +عÙĦ ÙĪÙħ +ìķ ĺ +в иÑĤ +à¸Ħ ะ +yr ı +ãģ¨ ãģ£ãģ¦ +à¹Ģ à¸ī +à¸ĸ าม +ÙĤ ار +عÙĦ اÙħ +ặ ng +Ùħ ÙĴ +×Ļ×ŀ ת +سب Ø© +ãĤ¯ ãĥ© +×ķס ×£ +ĠпÑĢ Ð¸Ð½ +ãģĦ ãĤį +س اس +عت بر +วิ à¸Ĺย +วิà¸Ĺย า +س Ùĥر +ãĤ· ãĥ§ +ãģ ģ +ัà¸ģ ษ +×ij ×ķ×Ķ +ห ย +ãģ¾ ãĤĮ +ĠоÑĢг аниз +каз ал +ĠÑģв Ñıз +uy ết +ĠпÑĢо из +Ġ×§ ×ĺ +à¹ģà¸ģ à¹ī +п ÑĥÑģ +Ġê·¸ ê²ĥ +ëĬ IJ +л екÑģ +ãĥ¼ãĥ Ĺ +à¸ķ ำ +ת×Ĺ ×Ļ׾ +à¸Ńà¸ĩ à¸Ħà¹Į +Ạµ +׳ צ +Ø£ Ø´ +Ø´ Ùĩ +ย ะ +à¸ģ à¸İ +ĠاÙĦØ¥ سÙĦاÙħ +ед ÑĮ +ãģ² ãģ¨ +ëıĦ ë¡Ŀ +ãģ© ãģ® +Ñĥ в +еÑĩ ение +ĠاÙĦت ج +ãģ« è¡Į +Ġп озв +ãĤı ãĤĬ +ÙĦ اث +íķĺ ìĺĢ +Ġм аÑĢ +Ġkon uÅŁ +ãĥ¬ ãĤ¹ +ãĤĴ æĮģ +ĠоÑģ нов +×Ĺ ×ij +ÙĪØ¬ ÙĪØ¯ +פ ×ķף +в оÑĢ +Ġн ик +ãģĭ ãĤĭ +ÅŁtır ma +×Ļס ×ĺ +Ø£ ÙĦ +ห à¹Į +и она +лÑĮ н +Ġг оÑģ +ĠÐľÐ¾Ñģ к +ÑĢ Ð¾Ð± +×ķ×IJ ×Ļ +ãģĬãĤĬ ãģ¾ãģĻ +ãģ£ãģ ± +к л +à¸Ļ à¸Ķà¹Į +رÙĬ Ùģ +اس ب +ĠÑĢ ÐµÑĪ +Ġд ол +ãģ¹ ãģį +×Ļ×ij ×ķר +м еÑī +Ġна ÑĪ +à¹ģ à¸Ľà¸¥ +ÑĢ Ð¸ÑĤ +кÑĥ Ñģ +и ÑĢа +аÑĤ ÑĥÑĢ +ÙĪØ§ صÙĦ +à¹Ģà¸ľ ย +à¸Ń ำ +à¹Ģà¸ģ ิà¸Ļ +غ Ùħ +ãģĻ ãģİ +lı kl +ÅĦ sk +ê² ¬ +×Ļ׼ ×Ķ +׊ש×ij +ÙĪØ± ÙĬØ© +Ġд ейÑģÑĤв +×Ĺ׾ ×ĺ +Ġ׾ ×ŀ×¢ +צ׾ ×Ļ×Ĺ +еÑĩ а +Ùģ Ø§Ø¹ +×Ĵ ×Ļ×ĵ +áºŃ m +ÄĻ b +Ø´ ع +ãģı ãĤĬ +à¸ŀ ุ +ед еÑĢ +à¸Ĥ à¸Ļ +à¸Ħ าร +ĠболÑĮ ÑĪ +ãģı ãģªãĤĬ +à¸ĵ า +×ĵ ×ķ×Ĵ +Ġм н +ä¸Ĭ ãģĮ +ç¶ļ ãģį +ฤ ษ +ภĨ +Ø® ÙĬ +à¹Ģà¸Ĺ à¸ŀ +สั ม +à¹Ģส à¸Ļ +à¹Ģสà¸Ļ à¸Ń +ãĥ ´ +Ġи ÑģÑĤ +با شر +ĠÑĥ ÑĢов +×ŀ ×ķ×ĸ +ab ı +wa ż +×ķצ ×IJ×Ķ +ÑĤ веÑĢ +à¸ŀัà¸Ļà¸ĺ à¹Į +׳ ×Ĵ×ĵ +ãĤĭ ãģĵãģ¨ãģĮãģ§ãģį +ĠÑĤÑĢ ÐµÐ± +à¸ģร ุà¸ĩ +ØŃت اج +à¹Ģ à¸Ħล +ã Ĩ +ÄĻ tr +Ġszcz eg +Ġר ש +à¸Ĺ à¸ĺ +Ġн ек +Ġнек оÑĤоÑĢ +в ÑĪ +Ð ¬ +à¹Īว ย +ล ุ +б ÑĢÑı +หม ูà¹Ī +à¹ģ à¸ķà¸ģ +ר׼ ×Ļ×Ŀ +Ġí ĸī +ã i +Ùĥر Ø© +â Ń +í IJ +ã į +á ģ +â ® +â ¥ +ì ® +à ¿ +â ¿ +á Ĥ +á ¤ +â ł +í Ł +ðIJ į +ðIJ ° +ðĿ Ĩ +ðŁ Ī +Ġ×¢ ׾ +Ġع ÙĨ +ĠÙħ ع +Ġ×ĸ ×Ķ +ĠÙħ ا +Ġm Ãł +Ġd ụ +á»ĩ c +а Ñħ +s ı +íķĺ ê³ł +Ġ×ķ ×ij +ĠÐŁ о +×ķת ר +ĠÙĦ Ùħ +Ġ×ķ ׾ +ãģĹãģ¦ ãģĦãĤĭ +Ġ×ŀ ×Ļ +Ġب ÙĬÙĨ +з а +ĠÙĥ اÙĨ +Ġ×Ķ ×Ļ×Ķ +ëħ Ħ +×IJ ×ķ +д и +ĠпеÑĢ Ðµ +d ı +Ġ׾ ש +Ġש ×ŀ +ãģĮ ãģĤãĤĭ +ãģĦ ãģĦ +ÑĢ Ðµ +×§ ×ķ +и ли +м е +ÙĬ ت +ãģ§ ãģĤãĤĭ +Ġв о +à¹ĥ หม +à¹ĥหม à¹Ī +Ġש ×ij +Ġ à¹Ĥà¸Ķย +ÙĬ Ùĩ +ãģ§ãģĻ ãģĮ +ãģ¨ ãģ¯ +ר ×ķ +Ġ à¸ĭึà¹Īà¸ĩ +ãģ§ãģį ãĤĭ +м о +à¹Ģà¸ŀ ืà¹Īà¸Ń +צ ×ķ +×ĺ ×ķ +ìķ Ī +Ġh á»į +à¹Ģà¸ĩ ิà¸Ļ +ĠاÙĦ ب +Ġ มี +ë¬ ¼ +Ñģ е +ëĵ¤ ìĿ´ +Ġë§ IJ +Ġl Ỽ +a ÅĤ +×Ĺ ×ijר +Ġd á»± +ÙĬ Ø« +Ġth á»ĭ +à¸ģà¹Ī à¸Ńà¸Ļ +Ġ×ij ׼׾ +ãģ ¸ +ã썿ĢĿ ãģĦãģ¾ãģĻ +ả nh +ย า +Ùģ Ø§ +ส ี +à¸ķ า +ë² ķ +ãĥª ãĥ¼ +รา à¸Ħา +Ġ×ķ ׾×IJ +ãģ¨ ãģĵãĤį +à¹Ģล ืà¸Ń +di ÄŁi +ÙĪ Ø§ÙĨ +Ġ׾×Ķ ×ª +รว ม +פ ×Ļ×Ŀ +à¸ľ ม +ж и +c ı +ÑĢ Ð¾Ð´ +Ġkar ÅŁÄ± +×Ĵ ×ķ +ãģ« ãģ¤ +ãģ«ãģ¤ ãģĦãģ¦ +r Ãł +×Ļ×ķת ר +ĠìĨ Į +×§ ×Ķ +ÑģÑĤв о +ãģij ãģ© +g é +à¸Ķ à¹īาà¸Ļ +çļĦ ãģ« +ĠÙĬ ÙħÙĥÙĨ +ìĨ į +ÙĬ Ùĥ +à¹Ħว à¹ī +Ñģки й +ì m +Ġ׾×IJ ×Ĺר +à¸Ńา หาร +Ġà¹Ģ à¸ŀ +รา ะ +ล ูà¸ģ +ÑģÑĤ а +Ġìľ ł +ÙĤ ÙĪÙĦ +б оÑĢ +Ñģк ого +หล ัà¸ĩ +à¸Ĥ à¹Īาว +à¹Ģม ืà¸Ńà¸ĩ +ê° ģ +t Ãł +ÙĬ ÙĬÙĨ +عر ض +ë° © +Ġëı Ļ +Ġà¹Ģ à¸Ľ +Ġà¹Ģà¸Ľ à¹ĩà¸Ļ +ç i +li ÄŁi +ìĹIJ ê²Į +ãĤ¿ ãĥ¼ +Ġ׾ ת +פ ×ķת +à¸Ĥ à¸Ń +ر س +ìł IJ +à¸ľ à¹Īาà¸Ļ +ÑĦ и +ج ÙĨ +ì¢ ħ +Ġ×Ķ ×¤ +Ġn go +á»ĭ a +Ġtá» ķ +Ġê·¸ 리 +à¹Ģม ืà¹Īà¸Ń +ذ Ùĥر +ìĸ ij +ìĹ Ń +×ĺ ׾ +k ı +Ġع ÙħÙĦ +Ġع ÙĨد +à¸ĭ ืà¹īà¸Ń +Ġê± ° +в е +r ü +à¹Ģ à¸Ńา +ส à¹Į +à¸Ī à¸Ļ +ס ת +Ġgi ả +ãĤĭ ãģ¨ +à¸ģำ ลัà¸ĩ +н ей +à¸Ī ริ +à¸Īริ à¸ĩ +Ġë į +Ġëį Ķ +à¸Ħà¹Ī ะ +ì n +Ġsü re +Ġqu y +à¸ļ าà¸ĩ +åıĸ ãĤĬ +ר ×Ĺ +×ij ת +ãģĮ ãģĤãĤĬãģ¾ãģĻ +ר ש +ìĹIJ ëĬĶ +Ġ×IJ פשר +ay ı +ãģĮ ãĤī +ØŃ ب +ан Ñģ +س ÙĪ +ĠпÑĢ Ðµ +د ÙĪ +ãģ« ãĤĪ +à¹Ģà¸ģ ม +สู à¸ĩ +m akt +makt ad +maktad ır +Ġön em +×Ļ×ŀ ×Ļ×Ŀ +б о +ÙĪ ÙĬØ© +รู à¸Ľ +à¹Ĥล à¸ģ +Ùħ ÙĬع +ÑģÑĤ Ñĥп +à¹Ĥ à¸Ń +دÙĬ ÙĨ +ì¤ ij +ãģĹãģ ı +à¹Ģส ีย +в Ñĭ +Ùħ ت +íĺ Ħ +ãĥIJ ãĥ¼ +ا Ø´ +×§ ס +Ġtá» ¥ +ล à¸Ķ +Ùģ Ø© +í ijľ +ر ج +k ÅĤad +ĠÅŁ ey +ĠØ£ Ùħ +Ġà¹Ģ ม +Ġب ÙĦ +Ñģ каÑı +ãģ¨ ãģ® +Ġìĭ ¤ +ấ m +ห à¹īà¸Ńà¸ĩ +à¸Ĭ ม +d ü +Ġç ek +Ġê³ ł +×Ĵ ×ij +à¸Ĭี วิ +à¸Ĭีวิ à¸ķ +Ù쨶 ÙĦ +ภ¯ +ç ı +Ġب Ø´ +ĠÙĩ ÙĨا +ãģį ãģ¾ãģĹãģŁ +t ü +Ġìĺ ģ +ĠTür k +к ÑĤ +פר ס +ãģ¨ãģĦãģĨ ãģĵãģ¨ +í ĶĦ +à¹ģร à¸ģ +ר ×ķף +Ġar as +×ŀצ ×IJ +Ġtá» ī +س ا +à¸ŀ à¸Ń +ĠاÙĦÙħ ØŃ +ãĥ ¤ +ĠاÙĦ است +Ùģ ÙĨ +×Ļ×ŀ ×Ķ +ر ت +ãģ¨ ãĤĤ +Ġна Ñģ +п ÑĢи +Ġ×Ĺ ×ķ +и ла +ÙĬ Ø´ +Ġgö z +Ġ×ij ׳×Ļ +ım ı +ĠÑĤ еÑħ +Ġh á»Ļ +غ ر +к он +اØŃ ت +Ġ à¸ŀ +à¸Ń à¸Ńà¸Ļ +à¸Ńà¸Ńà¸Ļ à¹Ħล +à¸Ńà¸Ńà¸Ļà¹Ħล à¸Ļà¹Į +Ñħ о +Ñı в +à¹ģ สà¸Ķ +à¹ģสà¸Ķ à¸ĩ +à¹Ģà¸ŀ ียà¸ĩ +ÑĤ ов +ا ÙĬ +Ġ×Ķ ×ĵ +Ġ×ķ ׼ +ãĤī ãģĦ +×ķפ ף +Ġë ¶Ī +ล à¸Ńà¸ĩ +Ø· اÙĦ +Ġн и +ĠÙħ ست +ế c +Ġש ׼ +ĠëķĮ 문 +วัà¸Ļ à¸Ĺีà¹Ī +×Ļ׾ ×ĵ +ØŃ ا +е ÑĨ +Ġc ứ +×ĵ ×ķר +ĠÙħ ØŃ +ר׼ ×ij +بÙĬ ع +ни и +ĠاÙĦØ£ ÙĪÙĦ +à¸Ħว ร +ã썿ĢĿ ãģĨ +ĠС о +ائ ÙĬØ© +ر اء +оÑģ об +Ġب Ø£ÙĨ +×¢ ×ķ×ĵ +ĠÑĤ е +ãģĵ ãģĨ +ÑģÑĤ ÑĢа +ай н +Ġsö z +ت ÙĨا +à¸Ń ิ +ặ p +ĠìķĦ ëĭĪ +íķ Ń +Ġר×IJ ש +Ġ à¹Ħà¸Ķà¹ī +Ġ×Ĵ ×ĵ +Ġס פר +обÑī е +ĠÙĪ Ø¥ +ada ÅŁ +ãģ¡ ãĤĩ +×§ ×ķ׾ +ÑĢ ÐµÐ· +ĠdÃ¼ÅŁ ün +Ġ×ij ×IJ×ŀ +Ġìĸ´ ëĸ +ער ×ij +н ее +ĠÑģÑĤÑĢ Ð°Ð½ +س اÙĨ +yn ı +ĠاÙĦر ئÙĬس +ãģĹãģ ª +Ġ׳ ת +ãģ«ãģª ãģ£ãģŁ +g ü +åıĹ ãģij +׾ ת +ìł Ī +ëĬĶ ëį° +Ø® ÙĬر +à¸ķà¹īà¸Ńà¸ĩ à¸ģาร +ĠÙĦ Ø£ÙĨ +Ġch á»ĭ +ÙĪ Ø© +à¹ĥ ส +ë¶Ģ íĦ° +íķĺ ë©´ +ữ u +à¹Ģหม ืà¸Ńà¸Ļ +б еÑĢ +ĠìĿ´ ìļ© +ĠÑģ еб +wiÄĻ ks +Ġ׳ ×¢ +ÑĤ ÑĥÑĢ +Ġngh Ä© +ש ×ķ×ĺ +ti ÄŁi +Ġde ÄŁi +×IJ ×ij +Ġ×ŀ ×ŀ +ãĥĹ ãĥŃ +wa ÅĤ +à¸Ī ึà¸ĩ +Ø® دÙħ +×IJ ×Ŀ +Ä±ÅŁ ı +cz Äħ +ר ×ĵ +ĠÑĢ Ñĥб +خر Ùī +ãģ® æĸ¹ +Ġд енÑĮ +×Ĺ ×Ļ×Ŀ +еÑĤ е +ëĤ ľ +×IJ ×Ĵ +×¢ ×ķר +ë³ Ħ +åIJĮ ãģĺ +ãĤ ² +ר ×ļ +×ķש ×IJ +ìľ ¡ +ا Ø® +צ ×Ļ×Ķ +á»± a +ãģĪ ãģ¦ +ש×Ķ ×ķ +ан ÑĤ +ลา à¸Ķ +ин г +ë¡ ł +اع د +ÙĪ Ø³Ø· +Ġв оп +Ġвоп ÑĢоÑģ +Ùħ ÙĬÙĨ +à¸Ħ à¸ĩ +×Ļר ×Ļ×Ŀ +c ów +ê² © +Ġê·¸ 룰 +Ġì§ Ħ +Ġש ׾×Ķ +à¹Ģร ิà¹Īม +à¸Ĭ à¸Ńà¸ļ +д еÑĤ +ÑİÑī иÑħ +à¸ļ à¸Ńà¸ģ +æĢĿ ãģĦ +ع ÙĬد +ס ×ŀ +×Ĵ ×Ļ×¢ +צ ×ĵ +ب ات +ĠëͰ ëĿ¼ +à¸Ī ัà¸ĩ +ãģłãģij ãģ§ +×¢ ×Ļר +ĠÑĩ ел +ĠÑĩел ов +ĠÑĩелов ек +ãĥĥ ãĥģ +à¹Ģà¸ģ ีà¹Īยว +à¸Ķ ิ +Ġפ ×¢ +×Ļ×ŀ ×Ļ +ë° ĺ +Ø® ار +×ij ×Ļת +×¢ ×Ļ×Ŀ +ü yor +ãĤģ ãģ¦ +к лад +Ġ à¸Īาà¸ģ +à¹Ģà¸Ħ ย +ส à¸Ńà¸ĩ +à¹ģ à¸Ħà¹Ī +ẫ u +หà¸Ļ ัà¸ĩ +ש׾ ×ķ×Ŀ +اÙĨ ÙĬØ© +åĩº ä¼ļ +åĩºä¼ļ ãģĦ +à¸ł าย +à¸ļา à¸Ĺ +à¸Ĭา ว +mu ÅŁ +Ġ׾ק ×ij׾ +ãĤ· ãĥ£ +Ġİ ÅŁ +×Ĵ×ĵ ×ķ׾ +ج عÙĦ +ë³ Ģ +ยิ à¹Īà¸ĩ +à¸Ļ าย +à¸Ļ ีà¹Ī +วิ à¸ĺี +ãĤī ãģªãģĦ +ëł Ī +Ġ문 ìłľ +Ġ à¸ģ +à¸Ĺำ à¸ĩาà¸Ļ +à¹Ģว à¹ĩà¸ļ +ÑĦ е +楽 ãģĹ +สำ à¸Ħ +สำà¸Ħ ัà¸į +ر Ùħ +ãģķãĤĮ ãģ¦ +Ġоб ла +ר×IJ ×Ļ +หม à¸Ķ +ÙĨ ÙĬØ© +ли н +Ġe ÄŁ +it im +ëł ¹ +ص اÙĦ +ÅĽ l +à¸ľ ิà¸Ķ +ãĥŀ ãĥ³ +åħ¥ ãĤĮ +à¹Ģà¸ķ à¸Ńรà¹Į +ار ÙĬ +ĠÐ ¦ +d ür +ส วย +ë¦ ½ +رÙĥ Ø© +Ġh ã +×Ļת ×Ķ +à¸Ĥ à¸Ļา +à¸Ĥà¸Ļา à¸Ķ +à¸Īำ à¸Ļ +à¸Īำà¸Ļ วà¸Ļ +ש ×ķ×§ +Ġд ом +ì± ħ +ãģĭ ãģij +פ ×ķ׾ +à¸Ĭ าย +Ñģ моÑĤÑĢ +Ñģл Ñĥж +ש ×IJ׾ +кÑĢÑĭ ÑĤ +Ġìŀ ĺ +é«ĺ ãģĦ +ĠÑĢ Ñĥк +ÙĨ ص +д ав +ưỠ¡ +ưỡ ng +ر اÙħ +×Ļ׳ ×Ļ×Ŀ +ãĥ© ãĥ¼ +ëĦ ¤ +Ġت ع +l ke +好 ãģį +æĮģ ãģ¡ +Ġë§ İ +Ġy ük +ĠÑģоÑģÑĤ ав +енÑĤ ÑĢ +pe ÅĤ +à¹Ģà¸Ľà¸¥ ีà¹Īย +à¹Ģà¸Ľà¸¥à¸µà¹Īย à¸Ļ +íı ī +ãĤĦ ãģĻ +×Ĺ ×ĸ +×ijר ×Ķ +ë£ ¨ +ìĶ Ģ +بØŃ Ø« +à¹Ģà¸ķ à¹ĩ +ów i +ب Ùĩ +ãģį ãģ¾ãģĻ +Ġ×¢ ×ŀ +×Ĵ ×ķ׾ +ез д +ÙĬÙģ Ø© +สà¸Ļ à¹ĥà¸Ī +Ġת ׾ +Ñı Ñī +Ġس ÙĨ +ĠÙĪØ§ ØŃد +ĠÑģ м +lad ı +ı ld +×Ļר ת +ีย à¸Ļ +ת×Ĺ ×ª +Ġж из +à¸ŀ ั +à¸ŀั à¸Ĵ +à¸ŀัà¸Ĵ à¸Ļา +à¸Ĭ ิ +ا Ø®ÙĦ +ãģ£ãģ¦ ãģĦãģŁ +รั à¸IJ +ãĤģ ãĤĭ +à¹Ĥ à¸ģ +ĠT á»ķ +Ġh akk +ر Ùģ +ìł Ģ +Ñģ об +ãģª ãģijãĤĮãģ° +Ùĩ ÙĪ +Ġë² ķ +ãĤ Ĩ +ĠاÙĦس عÙĪØ¯ +Ġ×IJ תר +Ø§Ø º +Ġ׾ ×ĵ +à¹ģ à¸ķ +à¹ģà¸ķ à¹Īà¸ĩ +íĮ Į +Ñĥп иÑĤÑĮ +à¸ŀืà¹īà¸Ļ à¸Ĺีà¹Ī +×ij ת×Ļ +à¹ĩ à¸ģ +ÅĤ at +Ġê°ľ ìĿ¸ +ìłķ ë³´ +ÑĤ ал +Ġgü ven +Ġİ l +Ġê° ģ +Ġب ت +×ŀ ×ķ׳×Ķ +ĠاÙĦØŃ ÙĥÙĪÙħ +ÙĤ ات +à¹ģ à¸ģà¹Ī +ห าà¸ģ +н ÑĮ +à¸Ľ รัà¸ļ +มา à¸ĵ +Ġне Ñģк +ĠØ ¶ +สม ั +สมั à¸Ħร +ãģĮ ãģĤãĤĬ +м еÑģÑĤ +Ġ×IJ צ׾ +Ġкомп ани +ס ר +ÙĬÙħ Ø© +ĠÑħ оÑĢо +ĠÑħоÑĢо ÑĪ +Ġ×Ļ ×ķ×ĵ +ü s +×Ĵ ×Ļש +à¸ļ à¸Ĺ +تÙĨ ظ +ว าà¸ĩ +ม หา +Ġ׼ ×ķ׾ +à¸Ĥ à¹īาà¸ĩ +ë° ľ +г од +д ан +ãģĭãĤĤãģĹãĤĮ ãģ¾ãģĽãĤĵ +ãģĵ ãģ¡ãĤī +ãĥIJ ãĤ¤ +ece ÄŁi +دÙĬ دة +ÙĨ Ùī +Ġëĭ¤ ìĿĮ +ว ี +غ ا +ли з +à¹Ģà¸Ķ ิ +à¹Ģà¸Ķิ ม +ĠÙĬ ست +Ġy ılı +ko ÅĦ +ãģ§ãģĹãĤĩãģĨ ãģĭ +ãģĤ ãģª +ãģĤãģª ãģŁ +ÑĨ ен +ĠÙĪ Ø² +×IJ ×Ļש +à¹Ī à¸Ń +ر ØŃ +ê´ ij +ÑĢа ÑģÑĤ +Ġ×Ķ ×ľ +ãģĹãģ¦ ãĤĤ +×ŀר ׼ +×ŀר׼ ×ĸ +éģķ ãģĦ +ãģŁ ãģı +ĠÑģ Ñĥд +в еÑģÑĤи +ĠíķĦ ìļĶ +ãĥķ ãĤ§ +ÑĤелÑĮ но +à¹Ģà¸ŀ ืà¹Īà¸Ńà¸Ļ +ÅĤu ż +à¹Ģà¸Ķิà¸Ļ à¸Ĺาà¸ĩ +ש ×ķר +Ġ×ŀ ×ĵ +×ķ×¢ ׾ +ÙĦ اÙħ +à¹Ħ à¸ĭ +л ей +кÑĥ ÑĢ +Ạ¢ +à¸Ĺ าà¸Ļ +ì§ ij +ĠгоÑĢ Ð¾Ð´ +ר ס +׾ ×ķ×Ĵ +mas ını +Ġл ÑĥÑĩ +ล à¹Īา +ìļ ¸ +ש ×ĺ +ĠÐĺ н +í Ĥ¤ +ÙĪÙĦ ا +ìķ ł +ĠØ£ÙĬ ضا +Ùĥ ار +ĠاÙĦت ع +ส ูà¹Ī +ãĤ ¼ +×ij ×Ļ×IJ +ย à¸ģ +ĠØŃ ÙĤ +ر بÙĬ +ãģĺãĤĥ ãģªãģĦ +รัà¸ģ ษา +Ñħод иÑĤ +à¸ķ à¸Ńà¸ļ +׳ ×ĺ×Ļ +ĠاÙĦÙħ ج +تÙħ ع +ов аÑĤÑĮ +ÙĦ ÙĬÙĨ +×Ļ×ŀ ×ķת +Ġm ù +n ÄĻ +Ġد ÙĬ +׼ ש×Ļ×ķ +Ġhi ç +ë ijIJ +ÙĪ Ø§Ø¡ +ÙĪ Ø· +ĠاÙĦ بÙĦ +à¹ģม à¹ī +×§ ×ķת +ÙĪØ¬ د +å§ĭ ãĤģ +ÙĬ ئة +Ġë§ ¤ +ص بØŃ +פ ×IJ +г оÑĢ +ס ×Ķ +بÙĬ ÙĤ +ย าà¸ģ +Ġн ад +ÙĬ Ùij +Ġب ÙĪ +ס ×ķר +Ùħ ÙĥاÙĨ +ר ×ij +×Ĵ ×ĸ +צ ת +b ilit +л аг +ĠN go +×IJ ×ķר +à¸ķ à¸Ļ +íĬ ¹ +à¸Ĺีà¹Ī à¸Ķี +à¸Ľà¸£à¸° à¸Īำ +ов ание +ãģĦ ãģ¤ +ãĥĥãĤ¯ ãĤ¹ +åIJĪ ãĤı +åIJĪãĤı ãģĽ +×Ļ׳ ×ķ×Ļ +ạ y +Ø« ÙĤ +ĠпÑĢ Ð¾Ð± +ĠпÑĢоб лем +ÅŁ eh +ÅŁeh ir +ع ادة +اÙĨ ÙĪÙĨ +à¸ķัว à¹Ģà¸Ńà¸ĩ +ì¶ ķ +ı lan +б ан +ãĥ³ ãĥī +à¸Ī ี +Ġ×Ķש ׳×Ļ +п оÑĤ +×ķ׾ ×Ļ×Ŀ +ล ัà¸ļ +ĠÑį ÑĤи +×ij×§ ש +ë¹Ħ ìĬ¤ +à¸Ńยà¹Īาà¸ĩ à¹Ħร +×Ļ׾ ×Ļ +à¹ĥà¸Ĭ à¹Ī +ĠاÙĦ ÙĥÙĦ +ãĥļ ãĥ¼ãĤ¸ +ص Ø© +ÑĤи ÑĢ +ãĤĵ ãģ© +зÑĭ к +wy ż +Ùĩ ÙĬ +ĠÙħ ÙĦÙĬ +Ġвид е +ظ اÙħ +دا ÙĪÙĦ +×ŀ ת×Ļ +Ġs ık +à¹Ģà¸ķิ ม +ãĤ¢ ãĤ¤ +ка Ñħ +צ ×Ļ׾ +à¹Ģà¸Ĭ à¹Īà¸Ļ +м аг +маг аз +магаз ин +à¸Ľ ั +à¸Ľà¸± à¸Ī +Ġש ×Ļר×ķת +ีย ม +ãĥĸ ãĥ« +Ġد ÙĪÙĦ +קר ×Ļ×Ŀ +Ùĩ Ùı +ов о +Ġü ret +د ÙĪÙĨ +à¹ģà¸Ļ ว +à¹Ģà¸Ļ ืà¹īà¸Ń +ĠÑĦ оÑĤ +ãĥ ĺ +ãģ¤ ãģĭ +Ñı Ñģ +ĠíķĺëĤĺ ëĭĺ +ائ ع +Ġп лаÑĤ +ìĺ Ī +Ġdost ÄĻp +ÙĪØ¬ Ùĩ +Ġ×Ķ ×Ĺ×Ļ +׳ ×Ļ×§ +д ей +í ĽĦ +ı y +بØŃ ر +à¹Ģส ริม +Ġ׾ ×Ĵ +ذÙĩ ب +ج ÙĬÙĦ +رÙĥ ز +Ġë ħ +Ġëħ ¸ +פ×Ļ׾ ×ķ +ãģ¾ ãģļ +iri ÅŁ +ĠÙĥ ÙĬÙģ +Ġ×ij צ +Ġêµ IJ +ÑĢоÑģ Ñģ +ĠØ´ ÙĬ +Ġiç er +×Ĵ ×ķ×ij×Ķ +мен но +×¢ ×ij×Ļר +×ķ×ŀ ×Ķ +ãĤī ãģĹãģĦ +ãģ ¼ +Ñī ин +è²· ãģĦ +جÙħÙĪØ¹ Ø© +Ġdön em +Ġ×ij ×IJר +в еÑģÑĤ +×ķר ×ķת +س Ùģ +à¹ģà¸Ĺ à¸Ļ +Ġд окÑĥменÑĤ +Ġا ÙĬ +ج اÙĨ +צ×ķ×¢ ×Ļ +ĠоÑģ об +ĠاÙĦÙħ س +ÑĢаР± +à¸ł ู +à¸Ķ าว +л екÑĤ +ع ÙĤ +×ķ×ĵ ×ķת +Ġol u +Ġolu ÅŁtur +ãģ¾ ãģ¾ +ед ин +à¹Ģ à¸Ńà¸ģ +ãĤµ ãĤ¤ +ëĦ Ī +Ø· ÙĨÙĬ +Ø· ÙĤØ© +ĠÐł аз +ÙĦ Ùij +Ñĩ ем +Ġ׾ ×ĺ +สั à¹Īà¸ĩ +سر ائÙĬÙĦ +Ġפר ×ĺ×Ļ +д еÑģÑĮ +Ġ׳ ׼ +اÙĨ ب +ÙĬا Ø© +Ùħ بر +Ġk ı +à¸Ľ à¸ı +à¸Ľà¸ı ิ +à¸ļั à¸ķิ +׳ ת×Ļ +ìĨ ¡ +ر اب +à¹ĥ à¸ķ +à¹ĥà¸ķ à¹ī +×Ļ׳ ת +ÙĪ ÙĬر +Ġ×Ķ×ŀ ×Ļ +ей ÑĩаÑģ +×§ ×ķ×ij +در اس +ĠÙħ ÙĤ +رÙĬ ÙĨ +Ø® اص +ãģĬ éĩij +Ġج دا +ãģĨ ãģ¡ +ëħ ¸ +ır ım +æ§ ĺ +ãģ« å¯ +ãģ«å¯ ¾ +ÑĨ ев +Ġv ard +ĠÐIJ н +e ÄŁ +ÑģÑĤв енно +Ð ¨ +س د +à¸ģ ุ +à¹ģà¸ľ à¸Ļ +รูà¹ī ส +รูà¹īส ึà¸ģ +ات ØŃاد +Ñij ÑĤ +×Ĺ ×ķ×§ +ãģĻ ãģIJ +Ø· ÙĦاÙĤ +Ġ×§ ×ķ×ĵ +à¹ĥà¸Ĭ à¹īà¸ĩ +à¹ĥà¸Ĭà¹īà¸ĩ าà¸Ļ +ãĥ¼ãĤ ¿ +Ġs ür +ÑĢ Ð¾Ðº +ë³ ij +สมา à¸Ĭ +สมาà¸Ĭ ิà¸ģ +ãĥķ ãĥ¬ +è¾¼ ãģ¿ +ãĤ» ãĥ³ +Ġê°Ģ ì§Ģ +à¸ľ à¹īา +ÑįÑĤ омÑĥ +иÑĤ ел +à¸ł ั +ภij +ãĥĸ ãĥ© +×Ľ×ª ×ķ×ij +׳ ×Ŀ +ен нÑĭе +×¢ ×¨×Ľ×ª +Ġì Ĥ +ĠìĤ ´ +à¸Ĥ à¹īา +׳ ×ķס +ãĥ¬ ãĥĵ +ÑĢ ÐµÑģ +à¹Ģล à¸Ĥ +Ø« اÙĦ +ìĹ Ĩ +ĠÑĩ аÑģÑĤ +า ศ +ãĥª ãĤ¢ +u ç +×Ļ׼ ×ķת +ล à¹īาà¸Ļ +i ë +ãĤ¸ ãĤ§ +à¸Ī à¸Ń +ÙĪ ØŃد +×Ļצ ×ķ×ij +Ġ×ij ש׾ +ок о +ض Ø© +ذ ر +ĠÑĥ д +İ L +×ķצ ×Ļ×Ŀ +×ĸ ×ŀף +à¸Ľ à¸ģ +íķĻ êµIJ +س اÙħ +à¹Ħ à¸Ķ +ละ à¹Ģà¸Ń +ละà¹Ģà¸Ń ีย +ละà¹Ģà¸Ńีย à¸Ķ +ả y +аÑĨи он +ãĤ¹ ãĤ¯ +פ ×ķס +ร à¹Īาà¸ĩ +ен нÑĭй +ع ÙĨ +عÙĦ ÙĨ +ائ Ùģ +d ÄĻ +ؤ ÙĪÙĦ +׾×ķ ×ķ +Ġ×ij ש×ij +ä»Ĭ åĽŀ +ĠاÙĦج ÙĨ +د اد +wa Äĩ +ãĥª ãĥ³ +ĠìŀIJ ìĭł +اÙĨ ÙĬا +ãĥ¡ ãĥª +ÙĦ ÙĪÙĨ +à¸Ĺ à¹Īà¸Ńà¸ĩ +à¸Ĺà¹Īà¸Ńà¸ĩ à¹Ģà¸Ĺีà¹Īยว +اÙģ ÙĬ +Ġли ÑĪ +Ùħ ÙĬØ© +оÑĤ веÑĤ +Ñĩ ин +à Ĭ +ãĥ¡ ãĥ³ +å® Ł +éļĽ ãģ« +ĠÑĢаР¹ +ãĤ¦ ãĥ³ +×Ļר ×ķש +×Ļר×ķש ׾×Ļ×Ŀ +ม ะ +Ġar a +каз аÑĤÑĮ +à¸ķ ัà¸Ķ +ÑĥÑİ ÑĤ +Ġü st +×Ĵ ×ķ×ij +×Ĵ×ķ×ij ×ķת +mal ı +ег од +егод нÑı +اÙģ ÙĤ +à¸Ĭ à¹Īà¸Ńà¸ĩ +Ġö zellik +×Ļצ ×ķר +Ġmi ÄĻd +Ġili ÅŁ +Ġна Ñħод +×¢ ×ĸר +׾ ×Ľ×ª +ÙĨت اج +ĠÑģ ем +à¸Ī à¹Īาย +à¸ķร ว +à¸ķรว à¸Ī +פר ×ķ +à¸Ĥ ัà¸ļ +ãģ ŀ +Ġп ло +к олÑĮ +×ŀ×¢ ×ĺ +íķĺ ìĭľ +jÄħ ce +ÙĨ اÙĨ +ลี à¸ģ +н ÑĥÑĤ +Ġоб ÑĢаз +Ùĥ بر +ĠاÙĦÙĪ Ø·ÙĨ +ãģķãģĽ ãģ¦ +ÙĤ اء +×ŀ×ĵ ×Ļ׳ +y ü +פ ×Ļת +׳ ×ķף +ÙħÙĨ ظ +หà¸Ļ ัà¸ģ +ìŀ Ī +ãĤ« ãĥ¼ãĥī +ع ÙĨÙĬ +п од +ض اء +à¸Ļ à¸ķà¹Į +×ŀש פ +ว à¹Į +ר ×ķ×§ +ส ืà¹Īà¸Ń +פק ×Ļ×ĵ +ãģªãĤī ãģªãģĦ +ĠìŬ 룬 +ÙĦ ج +Ñī иÑĤ +ãĥĥ ãĤ· +ÙĦÙĬ س +ĠÙĦ Ùħا +ìł ij +×ij ×Ļף +ãĥģ ãĤ§ +Ġgü ç +Ġch ứ +×ķצ ×IJ +קר ×ij +à¹Ĥ à¸ŀ +оÑĩ но +סק ×Ļ +ש׾ ×Ŀ +صر Ùģ +ĠL Ãł +×¢ ×Ļת +á» · +à¹Ĥ à¸Ńà¸ģ +à¹Ĥà¸Ńà¸ģ า +à¹Ĥà¸Ńà¸ģา ส +Ġ×Ķ ×ĵ×ijר +à¸Ļั à¹Īà¸Ļ +ز ر +нак о +íļ į +ãĤĤ ãģ¡ +ãĤĤãģ¡ ãĤį +ãĤĤãģ¡ãĤį ãĤĵ +اÙħ ت +عد اد +и нÑĭ +ÅĤy w +à¸Ħ à¸ĵะ +à¸Ĺ ะ +kt ör +×Ļ×Ĺ ×Ķ +Ġм е +Ġме ÑģÑı +׳×Ķ ×Ĵ +ĠÑģ ÑĥÑīеÑģÑĤв +à¸Ļ ัà¸Ļ +ÑĦ ÑĦ +ек ÑĤив +عÙĦÙĪÙħ ات +б Ñĥд +à¸Ļัà¸ģ à¸ĩาà¸Ļ +หà¸Ļà¹īา à¸Ĺีà¹Ī +ÙĤÙĬ ÙĤ +ãĤ· ãĥ³ +ãģ« éĸ¢ +×IJר ×Ĵ +ĠпÑĢ Ð¾ÑĤ +ĠпÑĢоÑĤ ив +ĠìŀĪ ìĸ´ +ÙĤÙĬ ÙĤØ© +ìĹ ĩ +k ür +ãģ«ãģªãĤĬ ãģ¾ãģĹãģŁ +Ġде ÑıÑĤ +ĠдеÑıÑĤ елÑĮ +פ×ķר ×ĺ +à¸Ł à¹īา +à¹Ģ à¸ł +ĠавÑĤом аÑĤ +×ĸ ×Ļ×§ +Ġold uk +ع اÙħ +ĠÑĤ оÑĢ +yrı ca +ê Ì +ãĤŃ ãĥ³ãĤ° +ãģ« ãģ¨ãģ£ãģ¦ +à¹Ģà¸ī à¸ŀ +à¹Ģà¸īà¸ŀ าะ +ãģ¯ ãģļ +×ŀ ×IJ×Ļ +สะ à¸Ķ +สะà¸Ķ วà¸ģ +ìľ¼ ë©° +à¸ģ ี +ภ¬ +Ġ×¢ ×ķש +à¸łà¸² ษา +à¸Ĺ ัà¸Ļ +ac akt +acakt ır +اع دة +ĠÑĥÑģл Ñĥг +ס ר×ĺ +×ķ×ŀ ×ķת +×Ķ ×ķר +×ŀ ×ķ×ij +×ŀ×ķ×ij ף +سÙĬ اس +اتÙģ Ø§ÙĤ +×Ķ ×¦×ľ +Ùħؤ س +Ġp ó +Ġк ни +×Ļ׼ ×ķ׾ +à¹Ģหล ืà¸Ń +׼׾ ׼ +׳ ×ĸ +ÑĪи е +r ès +ĠاÙĦØŃ ÙĤ +лÑı ÑĢ +ห à¸į +หà¸į ิà¸ĩ +ר×Ĵ ×Ļש +à¹Ģส à¹īà¸Ļ +ש×ij ×ķף +ô tel +ап ÑĢ +апÑĢ Ð¸Ð¼ÐµÑĢ +اب ÙĦ +ĠÑĢаз виÑĤ +Ġп олÑĮз +ĠС еÑĢ +×ķ×ij ×Ļ +r óż +ìĭ Ń +ãĤ¯ ãĥĪ +ãģĹ ãĤĪãģĨ +à¸ģร ม +ØŃ ÙĥÙĪÙħ +à¹Ĥ à¸ļ +à¸Ĺ à¹īาย +ĠM á +ĠÑĤ Ñĭ +à¸Ħร ัว +ÑĢÑĥ б +ạ p +Ġm ÅĤ +ĠmÅĤ od +Ġgör Ã¼ÅŁ +Ġgeli ÅŁ +ươ i +×ŀש ×§ +ÙĢÙĢ ÙĢÙĢ +รา ว +ãģĹãģ £ +ãģĹãģ£ ãģĭãĤĬ +ĠÐļ он +Ġk ê +à¹Ĥà¸Ĺ ร +èIJ½ ãģ¡ +åĩº ãģ¦ +ล ัà¸ģษ +Ġ×Ĵ ×ij×ķ×Ķ +ãĥĻ ãĥ« +ê±° ëĤĺ +ë§ IJ +×Ļ׾ ×ĵ×Ļ×Ŀ +ĠëĦ Ī +×ŀר ×Ļ +ร ส +ãĥŃ ãĥ³ +и ло +ноÑģÑĤÑĮ Ñİ +×ĸר ×Ĺ +п он +Ġ×Ķש ׾ +ê²ł ìĬµëĭĪëĭ¤ +Ġki ÅŁ +ĠÐļ и +ว ร +د اع +ÅŁ im +ÙĨ Ùij +в аÑĤ +را Ùĥ +ب اÙĦ +ид е +Ġ×Ķ×ŀ ×Ĺ +ìĸ µ +تÙģ Ø§Ø¹ +Ø£ ت +ëĬ ĺ +ש ×Ļת +ست Ùħر +ĠÑĦ ак +ĠاÙĦØ£Ùħ رÙĬ +ëŀ ¨ +اس Ùħ +Ġa ÄŁ +Ġç ev +Ùĥ ÙĪØ± +ãģķ ãģ¾ +Ġç öz +Ġر س +Äħ da +สà¸Ļ ุ +ãģĹãģ¦ ãģıãĤĮ +н Ñİ +leÅŁ me +ãĤª ãĥ³ +ãģ¨ ãģªãĤĬ +ava ÅŁ +×ĺ ×Ļ×ij +ØŃ ض +×ķצ ×IJ×ķת +ÙĨ ÙħÙĪ +ı t +ĠÑħ а +ĠÑħа ÑĢак +ĠÑħаÑĢак ÑĤеÑĢ +Ġd ÅĤ +ãĥĹ ãĥ© +à¸Ĭ ุม +à¹Ī à¸Ńà¸Ļ +×ķ×ij ׾ +Ñģ ол +×ĵ ×Ĵ +аÑĢ Ð°ÑĤ +n ivers +Ġgerçek leÅŁtir +ĠاÙĦ ÙĦÙĬ +ระ ยะ +ĠÙħ ختÙĦÙģ +Ġgö nder +Ùģ Ø§Ø± +do ÄŁ +doÄŁ an +ص ÙĦاØŃ +Ġyay ın +ãĥĨ ãĥ³ +รว à¸Ī +×Ļ×Ĺ ×Ļ×ĵ +ünk ü +ÑĨи алÑĮн +à¸ļ ู +ม ุ +h ä +Ø® Ùģ +å¢ Ĺ +å¢Ĺ ãģĪ +еÑĩ но +ĠاÙĦس ÙĨ +à¸Ĥ าว +im di +Ð « +à¸Ļà¸Ńà¸ģ à¸Īาà¸ģ +à¸ļา ล +ת ש +Ġdüzen le +мÑĭ Ñģл +ãģı ãģª +ż u +Ġwsp óÅĤ +Ġн аз +ınd aki +تر Ø© +ÅŁ ek +Ġö d +ĠÙĪ Ùĥ +Ġпозв олÑı +Ġת ×ķ׼ +ÙħÙĨ تج +ë§ ī +ĠاÙĦØ« ÙĦاث +аÑĨи Ñİ +ÙĪØ± ÙĪ +Ñĭв аеÑĤ +خص ص +ĠاÙĦÙģ ÙĦ +ĠاÙĦÙģÙĦ سطÙĬÙĨ +Ø¥ جر +إجر اء +اÙĨت Ø® +اÙĨتخ اب +ار ÙĬØ© +×ķ Ö +Ø¢ ÙĨ +×ŀ×¢ ×ķת +Ġм ал +Ġ×IJ ×Ĺ +à¸Ĺ à¹īà¸Ńà¸ĩ +ze ÅĽ +Ġë§Į ëĵ¤ +رÙĬ ع +äºĭ ãĤĴ +à¸ļริ หาร +׾ ×ŀ×Ļ×ĵ +Ġм Ñĥж +ت رÙĪ +ĠباÙĦ Ø¥ +פ ×Ļ×§ +ز ÙħØ© +ĠÃ¶ÄŁ renc +ãĥ ¶ +اÙħ عة +×§×ij ×ķצ +×ŀ ׳×ķת +رÙĬ Ùħ +Ġо каз +ãģłãģij ãģ© +Ġh ız +Ġש ×IJת +ãĤ¢ ãĥ¼ +Ġmożli wo +ìĦ ¼ +ÙĪ Ø§Ø¨ +ог ÑĢаÑĦ +Ġعبد اÙĦ +ãĤĴ è¡Į +ب ÙĬÙĦ +Ġİ ç +ย าย +ĠÑĥ ÑĩаÑģÑĤ +ÑĦ еÑģÑģ +ÑĦеÑģÑģ иона +Ạ¤ +ÙĨ ÙĬÙĨ +عد ÙĦ +สร ร +دÙĬ ÙĦ +×ij ×Ļ×§ +czy ÅĤ +ÑĢом е +Ġм ед +ìĻ Ķ +ãĥ© ãĤ¤ãĥ³ +ĠÑĤ еп +еÑĢ ÑĮ +i ÄŁi +в ели +ÑĢи ÑģÑĤ +ס ×ķפ +×ŀ׾ ×Ĺ +ĠاÙĦØ¥ ÙĨ +Ġ׾×Ķ ×© +è¶Ĭ ãģĹ +ĠÑĢ Ñĭ +×ķ×IJ ר +رÙĩ اب +פ ×ķ×IJ×Ļ +ĠгоÑģ Ñĥд +ĠгоÑģÑĥд аÑĢ +ĠгоÑģÑĥдаÑĢ ÑģÑĤв +ĠاÙĦØ£Ùħ ÙĬر +Ùħ ج +à¹Ģหม าะ +ÑĢ ÐµÐ² +à¸Ĭี à¸ŀ +ãĥķ ãĥĪ +иÑĩ но +ĠاÙĦÙħ ؤ +Ġi ht +íħ ľ +د ÙĨÙĬ +ر ص +ла ÑģÑĤ +à¹Ģหล à¹Īา +ılı r +ร à¸ĵà¹Į +×ŀש ×Ļ×ļ +Ġd á»ĭ +Ø·Ùģ Ø§ÙĦ +×ĺ ×ķף +Ġ×ij ×Ļ׳ +ãģ¾ ãģ£ãģŁ +лож ениÑı +تØŃ ر +ب اØŃ +à¹Ģส ืà¹īà¸Ń +ãģĻ ãģĶ +lt ür +à¸ĩ าม +Ġt ü +ĠпÑĢ Ð¸Ð¼ +ĠпÑĢим ен +Ġhay at +ëĥ IJ +ëĭ Į +׳×Ļ ×ķ +вед ен +ìħ ¨ +à¸Ī ัย +à¸ģà¹Ī à¸Ń +Ġв од +оÑģÑĤ оÑı +н аÑĤ +à¹ģ หล +سÙħ ÙĬ +à¸Ķำ à¹Ģà¸Ļ +à¸Ķำà¹Ģà¸Ļ ิà¸Ļ +w ód +ö yle +ãĥĢ ãĤ¤ +ÑĪи й +меÑī ен +ãģĹãģ¾ ãģĨ +ãĥī ãĥ© +ÙĪØ¶ ØŃ +à¸Ńà¸Ļ ุ +ĠاÙĦ اجتÙħاع +laÅŁ ma +à¸Ħ à¸Ńà¸Ļ +×ŀר ×Ļ×Ŀ +ÙĨ اÙħج +שר ×ķת +اÙĦ Ø£ +Ġksi Äħż +Ġа н +ÑĢаР¹ +اÙĩر Ø© +×ŀ×ĵ ×Ķ +ä¸Ģ ç· +ä¸Ģç· Ĵ +ä¸Ģç·Ĵ ãģ« +ÑĢиÑĤ оÑĢ +d ıkl +à¹ģ à¸ĸ +à¹ģà¸Ĥ à¹Īà¸ĩ +екÑĤ оÑĢ +×ŀס ×¢ +ÑĢак ÑĤи +u ÄŁu +×ķ×ij ת +สู à¸ķร +ĠçalÄ±ÅŁ m +ĠçalÄ±ÅŁm alar +Ġа на +ãĥĽ ãĥ¼ãĥł +Ġböl üm +Ġب ص +ол оÑģ +ĠìķĬ ëĬĶ +à¹Ī ะ +ÙĪ ØªØ± +ä¹ Ĺ +ست خداÙħ +פ×Ļ ×Ļס +פ×Ļ×Ļס ×ij +פ×Ļ×Ļס×ij ×ķ×§ +Ġк ÑĢаÑģ +ли к +رÙĬ ØŃ +×ŀש ׾×Ķ +à¹Ģย ีà¹Īย +à¹Ģยีà¹Īย ม +в иÑģ +ом н +ÄŁ un +ãĥŃ ãĥ¼ãĥ³ +Ø£ تÙĬ +à¸ķร ี +çͳ ãģĹ +تÙħ ر +ìĹ ĪìĬµëĭĪëĭ¤ +ĠÙĪ ØºÙĬر +red ni +ĠاÙĦص Ùģ +Ġна ÑģÑĤоÑı +ĠнаÑģÑĤоÑı Ñī +à¸ķ รา +ĠÑĥÑģл ов +ĠÑĥÑģлов иÑı +ÑĨ еп +×Ķ ×Ĺ׾×ĺ +Ø· ÙĬع +ĠB akan +ĠاÙĦ رÙĪ +илÑĮ но +Ġм еÑĤ +à¸Ķ à¸Ńà¸ģ +ãģĭãĤī ãģªãģĦ +Ġпо ÑģÑĤоÑı +ĠпоÑģÑĤоÑı н +ĠÑĩ аÑģ +ü c +wr ó +б ÑĥÑĢ +ãĥIJ ãĥĥãĤ¯ +ãĥ©ãĥ³ ãĥī +Ġо гÑĢ +สั à¸į +สัà¸į à¸įา +มั à¹Īà¸Ļ +à¸Ħ à¸Ńม +al ık +Ġн ед +üm üz +ĠÅĽ wie +é rio +×Ļ×IJ ×Ķ +دÙħ ات +ı rl +ĠоÑĤ з +ĠоÑĤз Ñĭв +ä»ĺ ãģį +Ġkaż de +мин иÑģÑĤ +ãĤ° ãĥ« +ë° ĸ +ез н +اÙĦ Ùģ +Ġש ק׾ +Ùħ ض +ãĥĿ ãĥ¼ãĥĪ +ÙħÙĨ ت +ÙĤÙĬ اÙħ +Ø´ ÙĨ +×Ļר ×ķ×¢ +ãĤŃãĥ£ ãĥ³ +доÑĢ Ð¾Ð² +×ŀ ×Ļת×Ļ +ÙĪÙĦ ÙĪØ¬ +Ùĥ اÙģ +ĠÑĢаз лиÑĩ +иÑĤ еÑĤ +н олог +ลà¸ĩ à¸Ĺุà¸Ļ +Ġyak laÅŁ +ãĥ¬ ãĤ¤ +ê²ł ëĭ¤ +æ±Ĥ ãĤģ +رÙĪ Ùģ +Ġí Ĭ +ĠíĬ ¹ +ãģ£ ãģıãĤĬ +à¸Ħวาม à¸Ħิà¸Ķ +×Ķ ×Ļס×ĺ +Ø¥ ÙĤ +ãģ¦ ãģĦ +à¹Ĥ à¸Ĭ +ĠBü yük +ĠФ едеÑĢ +ÑĨи н +ÑĢов а +ĠاÙĦ اÙĤتصاد +Ġch á +à¸ĺ าà¸Ļ +ë¥ ł +à¹Ħ à¸ķ +ÃŃ pio +Ùĭ ا +Ġоб Ñıз +Ùĩ ج +Ġì¤ij ìļĶ +ãģ® ãģ§ãģ¯ãģªãģĦ +بار اة +ãĤ¤ ãĥ« +Ġн оÑĢм +á»ī nh +m ö +mö glich +ÑĨи п +ãĤ¢ ãĤ¯ +×Ķ ×Ļ +ÑĨи алÑĮно +ĠÅĽ wi +ت ÙĤ +ĠÑģÑĤо им +بÙĬ عÙĬ +Ġ׾ ש×ŀ +г лÑı +глÑı д +ãģ¦ ãģıãĤĮ +ÄĻd zi +à¸Ĥ ั +à¸Ĥั à¹īà¸Ļ +Ø· ÙĤ +ĠìĹ Ń +ãģ£ãģ¦ãģĹãģ¾ ãģĨ +ĠdeÄŁer l +ĠdeÄŁerl endir +Ġü lk +Ġмн ог +๠ĭ +ë¿ IJ +ĠУ кÑĢа +ÄŁ ini +Ġбез оп +Ġбезоп аÑģ +à¸Ńà¸Ńà¸ģ à¹ģà¸ļà¸ļ +Ø§Ø ¸ +ØŃد اث +л еÑĢ +×Ļ× ¥ +×Ļ׳×ĺר ׳×ĺ +lar ınız +ØŃÙĬ ØŃ +ż eli +à¸Ń ัà¸ĩ +à¸Ńัà¸ĩ à¸ģ +à¸Ńัà¸ĩà¸ģ ฤษ +ĠоÑĤ лиÑĩ +ั ส +ëŀ į +ож но +ãĤ¹ ãĥĿ +ĠÑħ оÑĩ +Ġк ап +еÑĩ ен +ØŃÙĦ Ø© +ÙĬا Ùĩ +на л +×ķצ ר×Ļ×Ŀ +Ġk ald +åĥ į +ĠاÙĦØ´ خص +Ġз на +Ġwz gl +ż ycz +ê° Ŀ +à¸ŀ ลัà¸ĩ +íģ ¼ +Ġö l +Ġb ụ +Ø´ Ùĩر +Ġз ам +Ġд ев +×Ļ×ĺ ת +تعÙĦ ÙĤ +ÙĪÙħ Ø© +ãĤĴ ä½ľ +ãģį ãģ¦ +í ĥĿ +ras ında +ãĤĴ æİ¢ +ĠÙħ باشر +راج ع +Ġв озд +ÙħØŃ ا +×ķש ר +ĠиÑģÑĤ оÑĢ +ม ัà¸ģ +t ıģ +Ø« ار +تر ÙĨت +à¹ģà¸Ĥ à¹ĩ +à¹ģà¸Ĥà¹ĩ à¸ĩ +п оÑĩ +Ġ×ij ×IJ×ķת +ë¯ Ģ +ëĿ¼ ëıĦ +à¸Ĭ ัà¸Ķ +ส à¸ķà¹Į +ãĥĭ ãĥĥãĤ¯ +ид енÑĤ +Ġг ÑĢÑĥпп +ت Ø® +Ạł +ย ืà¸Ļ +ย ัà¸Ļ +ó ry +T Ãľ +ãģĹ ãĤĥ +ĠпÑĢов ед +лÑı еÑĤ +Ùħ Ø® +ย à¸Ńม +×Ľ×ł×¡ ת +ĠاÙĦÙħ ÙĨت +Ġol mad +ר׼ ×ĸ×Ļ +Ġв ÑģÑĤÑĢ +ĠиÑģ Ñģлед +ÑĤвеÑĢ Ð¶ +بد ÙĪ +еÑĢ ÑĤ +ï» · +± ħ +สัม à¸ŀัà¸Ļà¸ĺà¹Į +ิ à¹Īà¸Ļ +צ ×Ļ×ij +wiÄĻ t +Ġì° ¸ +Ġz wiÄħz +سب ÙĪØ¹ +ãĥĥ ãĤ° +à¸Ľà¸¥ à¸Ńà¸Ķ +à¸Ľà¸¥à¸Ńà¸Ķ à¸łà¸±à¸¢ +ãĤĤ ãĤĬ +ÙĤد س +Ġspr z +Ġsprz eda +Ġist edi +Ġk hu +Ġд ен +Ġko ÅĦ +Ġ×ij ×Ĺ×Ļ +à¹Ģà¸Ĺ à¹īา +×ķס ×Ļ×£ +ãĥĭ ãĥ¥ãĥ¼ +ĠпÑĢед оÑģÑĤ +ĠпÑĢедоÑģÑĤ ав +à¹Ĥ à¸Ł +é v +ĠاÙĦص ØŃ +صØŃ اب +à¹Ģà¸Ī à¹ĩà¸ļ +вл ек +วั à¸ķ +à¸ĸ ุ +ãģĵãģ¨ãģĮãģ§ãģį ãģ¾ãģĻ +ÙĤÙĬ ÙĤÙĬ +×ķ׊ר +Ñĭ ÑĪ +ĠоÑĤ но +ĠоÑĤно ÑĪ +об илÑĮ +Ùģ ØŃ +ı nt +ınt ı +Ġ׾ ×ij×ĵ +í İĺìĿ´ì§Ģ +ãĥĬ ãĥ« +ĠÙħ ساء +×Ļ×ĺ ×ij +ÑĮ еÑĢ +ëĦ · +Ñĭ ÑĤа +ĠоÑĩ еÑĢ +à¸Ķ ืà¹Ī +à¸Ķืà¹Ī ม +ĠN gh +ت عب +ÙĦاÙĤ ات +×ķ׾×ķ×Ĵ ×Ļ×Ķ +ĠìĿ´ ê²ĥ +Ġ×Ķ ×ijר +ìľ µ +à¹Ģà¸Ħล ืà¹Īà¸Ńà¸Ļ +Ùĩ Ø© +à¸Īำ à¹Ģà¸Ľà¹ĩà¸Ļ +å¤ī ãģĪ +wi ÅĽcie +ch od +chod zÄħ +в ÑĢо +×ŀ×Ĺ ×Ļר +Ġy ı +Ġyı ll +ì¡ Į +à¹Ħ หว +ãģªãģı ãģª +Ġзав иÑģ +ĠìĺĪ ìĪĺ +Ùģ Ø° +á»§ ng +à¸ŀุ à¸Ĺà¸ĺ +з н +lay an +ãĤ ¡ +à¸ģà¹ĩ à¸ķาม +ĠsaÄŁ lam +ร à¸ĵ +ĠÑģ иÑĤ +ĠÑģиÑĤ Ñĥ +ĠاÙĦت ÙĨ +×Ķ ×ĸ +ĠØ· ÙĪÙĬÙĦ +ta ÅĤ +Ġgö rd +å¤ī ãĤı +ëĥ ¥ +à¸Ħà¹Ī à¸Ńย +×IJ ×ķ×ĺ +ëħ IJ +ãĥ©ãĥ³ ãĤ¹ +วั à¸Ĵ +วัà¸Ĵ à¸Ļ +Ġol uÅŁ +פע ×ķ׾ +Ġszczeg óÅĤ +à¸Ħา สิ +à¸Ħาสิ à¹Ĥà¸Ļ +pow ied +ĠÑĤ еб +หà¸Ļ à¹Īวย +Ġм ил +ØŃ Ùĥ +à¸Ĺ à¸Ķ +ĠмаÑĤ еÑĢиал +ÅĤ ow +à¹Ģà¸ģ ีย +ĠÑģов еÑĢ +ãĤ © +à¸Ľ ริ +Ġи Ñİ +наÑĩ ен +ÑĢен д +mu ÅŁtur +ĠпÑĢод Ñĥк +з д +Ñı ÑĤи +ÑıÑĤи Ñı +à¹Ģม ีย +رات ÙĬج +Ġam acı +ש ×ķ׾ +ש×ķ׾ ×Ĺ +สะ à¸Ńา +สะà¸Ńา à¸Ķ +פ×Ĵ ×¢ +عب Ø© +d ın +íħ Ķ +Ġ×ŀש ×Ĺ×§ +Ġfi yat +Ġз аÑı +ĠзаÑı в +à¹Ĥ หล +à¹Ĥหล à¸Ķ +à¸ģรุà¸ĩ à¹Ģà¸Ĺà¸ŀ +צ×Ļ ×Ļף +ìļ ± +Ùħ ب +Ùħب اد +land ır +Ġв еÑģÑĮ +Ġh ük +ĠÐĴ оз +ÑĩиÑĤ Ñĭва +ว ล +×ķצ ×¢ +à¸Ĥà¸ĵะ à¸Ĺีà¹Ī +ĠaÅŁ aģı +׾×IJ ×ķ×ŀ×Ļ +tr zym +Ã¤ÃŁ ig +owo ÅĽci +ãģĿ ãĤĤ +Ġroz wiÄħz +ĠgÅĤ ówn +м онÑĤ +×ŀ ×ķ×ŀ +ĠÑģÑĤ ан +ÙĦا ÙĤØ© +p rowad +prowad zi +ĠÑģоÑģÑĤ оÑı +×Ļ×IJ ×ķת +r ı +g ı +ãĥij ãĥij +Ġна лиÑĩ +×Ķ ×¦×¢ +Ġ׳ ×Ķ +à¸Ħ ัà¸ļ +ع راض +и ж +Ùĩ ائÙĬ +ãĤī ãģı +ож еÑĤ +Ġоб оÑĢ +ĠобоÑĢ Ñĥд +Ø£ سÙĦ +à¹ĩ à¸Ķ +ÑĢÑĥ ÑĤ +دÙĬ ÙħÙĤ +دÙĬÙħÙĤ را +Ġjest e +×ķ×ķ ×Ļר +×ij×ĵ ×Ļ×§ +деÑĢж ива +ãģĬ ãģı +ewn ÄĻtr +ewnÄĻtr zn +à¸ŀ ฤ +Ġ×IJ ×ķ×Ķ +ת×Ĺ ×ķש +Ġz ob +д Ñĥм +ĠÑģ Ñĭ +ÙĬر ا +ĠwiÄĻ ks +à¹ģà¸ķà¸ģ à¸ķà¹Īาà¸ĩ +lar aras +lararas ı +íĺ Ģ +ëī ´ +×ķ×Ĵ ׾ +ĠоÑĤ меÑĤ +ĠÑĢ Ð°Ð½ +ت ÙĥÙĦ +иÑĤелÑĮ н +à¸Ľà¸£à¸° วั +à¸Ľà¸£à¸°à¸§à¸± à¸ķิ +ìŀ ĸ +мож но +pie czeÅĦ +pieczeÅĦ st +ëª » +ìĬ ¨ +×ŀס ×ŀ +á» ¦ +ศ ิ +ศิ ล +ศิล à¸Ľ +ĠÅļ w +ãĥĥ ãĤ·ãĥ§ãĥ³ +unit Ãł +Ġmiesz ka +Ġmieszka ÅĦ +pr zed +przed si +przedsi ÄĻb +przedsiÄĻb ior +à¸Ľà¸£à¸° สิà¸Ĺà¸ĺิ +à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺิ à¸łà¸²à¸ŀ +ย à¹Ī +ìķ Ļ +รว à¸Ķ +รวà¸Ķ à¹Ģรà¹ĩว +å½ĵ ãģŁãĤĬ +äl le +Ñĥ еÑĤÑģÑı +ã n +ëł µ +th è +ãĤĴ åĪ©ç͍ +ì µľ +íĵ ¨ +à¸Ĺ ัà¸ļ +า à¸Ħม +ãģ ĩ +ëĤ Į +à¹Ģà¸Ľà¸¥ à¹Īา +â ¦ +ë ¾ +ê Ģ +ê ĩ +â ¡ +ðŁ Ł +ã IJ +â º +á Ń +á Ļ +á ĵ +á ² +ðĵ ı +á ¬ +â ¯ +ä ¨ +ê Ŀ +ê « +ð ij +ðĵ ĥ +ðĿ ħ +< unk + + + +Ġع ÙĦÙī +Ġm á»Ļt +Ġv Ỽi +Ġng ưá»Ŀi +ĠØ¥ ÙĦÙī +Ġnh ững +Ġth á»ĥ +Ġ×IJ ×ķ +Ġ×¢ ×Ŀ +ا Ùĭ +Ġ à¹ģละ +ĠÙĦ ا +Ġnh ư +ĠاÙĦت ÙĬ +Ġ×Ķ ×ķ×IJ +ĠÄij ến +ĠØ£ ÙĪ +Ġv á»ģ +ĠlÃł m +Ġs ẽ +Ġc Å©ng +Ġ ợ +ĠÄij ó +Ġnhi á»ģu +Ġt ại +Ġtr ên +Ġ×Ĵ ×Ŀ +Ġnh Ãł +Ġ׼ ×Ļ +Ġs á»± +ĠÄij ầu +Ġb á»ĭ +ĠÙĩ ذا +Ġnh ất +Ġph ải +Ġhi á»ĩn +Ġdụ ng +ĠÄij á»Ļng +ĠاÙĦÙĦ Ùĩ +ĠØ Į +ĠÙĥ ÙĦ +Ġvi á»ĩc +Ġn Äĥm +Ġth ì +Ġh á»įc +ĠÙĪ Øª +t é +Ġا ÙĨ +Ġt ôi +Ġ×IJ ׳×Ļ +Ġ׾ ×Ļ +Ġ×ŀ ×ķ +Ġng Ãły +Ġn Æ°á»Ľc +Ġ×Ķ ×Ļ×IJ +Ġ×IJ ×Ļ +Ġh Æ¡n +ĠÙĩ ذÙĩ +ĠÙĪ ÙĬ +ĠاÙĦ ذÙĬ +Ġ×ķ ×ŀ +Ġgi á +Ġnh ân +Ġch ÃŃnh +Ġm ình +ĠÐĿ а +Ġth ế +Ġ×Ļ ×ķתר +Ġ×IJ ×Ŀ +Ġn ên +Ġh ợ +Ġhợ p +Ġc òn +ĠÙĩ ÙĪ +Ġc Æ¡ +Ġr ất +ĠVi á»ĩt +Ġب عد +Ġש ×Ļ +Ġth á»Ŀi +Ġc ách +ĠÄij á»ĵng +Ġн о +Ġtr ưá»Ŀng +Ø Ł +ĠÄij á»ĭnh +ĠÄiji á»ģu +×Ļ ×Ļ×Ŀ +Ġth á»±c +n ın +Ġh ình +Ġn ói +Ġc ùng +Ġ×Ķ ×Ķ +ĠØ¥ ÙĨ +Ġ×IJ ×ij׾ +Ġnh ưng +Ġbi ết +Ġж е +Ġch úng +ĠÄij ang +Ġذ ÙĦÙĥ +Ġl ên +Ġkh ách +Ġn Ãło +Ġs á»Ń +Ġkh ác +Ġë° ı +Ġl ý +×Ļ ×Ļ +ĠÄij ây +Ġ׾ ×ŀ +Ġc ần +Ġtr ình +Ġph át +ãģ« ãĤĤ +п о +Ġn Äĥng +Ġb á»Ļ +Ġv ụ +ĠÄij á»Ļ +Ñĩ е +Ġnh áºŃn +Ġtr Æ°á»Ľc +Ġ×¢ ×ĵ +Ġh Ãłnh +ĠØ® ÙĦاÙĦ +Ġl ượng +Ġc ấp +Ġtá» ± +Ġv ì +Ġt ư +Ġch ất +Ġ׼ ×ŀ×ķ +Ġg ì +Ġש ׳ +Ġt ế +ת ×ķ +Ġnghi á»ĩp +Ġm ặt +ĠÙĥ Ùħا +Ġ×ij ×Ļף +Ġר ×§ +Ġth ấy +Ġmá y +ĠÙģ Ùī +Ġd ân +Ġ×IJ ×Ĺ×ĵ +Ġt âm +Ġ׼ ×ļ +Ġ׾ ×ķ +в о +Ġt ác +Ġto Ãłn +ĠÙĪ Ùħ +Ġk ết +Ġ หรืà¸Ń +ĠÙĪØ§ÙĦ Ùħ +ĠÄiji á»ĥm +Ġ×ĸ ×ķ +Ġ×ij ×ķ +׼ ×ķת +Ġh á»Ļi +Ġb ằng +ت Ùĩا +Ġ׼ ×ĵ×Ļ +Ġ×Ķ ×Ŀ +Ġxu ất +ĠÙĤ د +Ġb ảo +Ġt á»ijt +Ġt ình +ĠÙĩ ÙĬ +ĠÄij á»iji +Ġthi ết +Ġhi á»ĩu +Ġti ếp +Ġt ạo +ת ×Ķ +Ġch á»§ +o ÅĽÄĩ +Ġgi ú +Ġgiú p +Ġà ½ +Ġqu ả +Ġlo ại +Ġc ô +Ġà ´ +Ġô ng +Ġ×Ķ ×ķ +ĠاÙĦÙĬ ÙĪÙħ +ĠtÃŃ nh +г а +Ġph òng +Ġ Äĥn +Ġع اÙħ +Ġv á»ĭ +lar ını +r ÃŃa +Ġt Ỽi +ĠÄij ưá»Ŀng +Ġgi Ỽi +Ġb ản +Ġc ầu +Ġnhi ên +Ġb á»ĩnh +Ġth ưá»Ŀng +Ġ×IJ ×Ļף +ĠÄij á»ģ +Ġh á»ĩ +Ġ×Ļש ר×IJ׾ +Ġqu á +ĠÐĹ Ð° +ãģ® ãģ§ãģĻãģĮ +ĠÐŁ ÑĢи +Ġph ần +ĠÙĪ ÙĦا +ĠlỼ n +Ġtr á»ĭ +Ġcả m +Ġм о +Ġd ùng +ĠاÙĦ Ùī +ĠعÙĦÙĬ Ùĩ +ĠìŀĪ ìĬµëĭĪëĭ¤ +ÙĬ ÙĤ +ĠÙĤ بÙĦ +Ġho ặc +ĠØŃ ÙĬØ« +Ġ à¸Ĺีà¹Ī +Ġغ ÙĬر +ĠÄij ại +Ġsá»ij ng +нÑĭ ми +Ġth ức +Ġפ ×Ļ +ĠÄiji á»ĩn +ãģª ãģĭãģ£ãģŁ +Ġgi ải +Ġv ẫn +Ġи Ñħ +Ġö nce +Ġv áºŃy +Ġmu á»ijn +Ġ ảnh +à¹ĥà¸Ļ à¸ģาร +ĠQu á»ijc +Ġk ế +׳ ×IJ +Ġס ×Ļ +Ġy êu +ãģ® ãģĭ +ĠÄij ẹ +ĠÄijẹ p +Ġch ức +Ġy ıl +ĠTür kiye +d é +ĠÙĤ اÙĦ +Ġd á»ĭch +ĠolduÄŁ u +Ġch á»įn +Ġت Ùħ +หà¸Ļ ึà¹Īà¸ĩ +ãģķãĤĮ ãģŁ +Ġph áp +ìĽ Ķ +Ġti á»ģn +ãģĹ ãģ¾ãģĹãģŁ +Ġש ׾×IJ +ÙĦ Ø© +Ġ׾פ ׳×Ļ +Ġ×ij ×Ļת +ĠH Ãł +ĠØŃ ت +ĠØŃت Ùī +Ġ×¢ ×ķ×ĵ +Ġn ó +Ġth áng +à¹Ģลืà¸Ń à¸ģ +ר ×Ķ +Ġt Äĥng +Ġcá i +Ġtri á»ĥn +Ġ×IJ×ķת ×ķ +ìłģ ìĿ¸ +ĠC ông +Ġ׾×Ķ ×Ļ×ķת +Ġг ода +и Ñİ +Ġب عض +Ġ à¸ģาร +èī¯ ãģĦ +ÙĪ Øª +Ġli ên +ĠÐĿ о +ĠÐĿ е +çļĦ ãģª +ĠÙħ ت +ĠÑĤак же +ĠкоÑĤоÑĢ Ñĭе +Ġ×Ļ ×ĵ×Ļ +Ġtr á»įng +ãĤµ ãĤ¤ãĥĪ +ìłģ ìľ¼ë¡ľ +Ġt áºŃp +Ġש ׾×Ļ +íķĺ ê²Į +Ġt Ãłi +ĠÐ ¯ +Ġr á»ĵi +ا Ùĥ +Ġth ương +Ġ×Ķ ×ĸ×Ķ +ĠÙĪ ÙħÙĨ +à¸Ĺีà¹Ī มี +Ġcu á»Ļc +Ġbü yük +ãģ¨ ãģĭ +Ġ×ij ×Ļ×ķתר +Ġl ần +Ġgö re +Ġtr ợ +Ġ×ĺ ×ķ×ij +ÑĤÑĮ ÑģÑı +Ġth á»ijng +Ġ׼ ש +Ġti êu +Ġ×ŀ×IJ ×ķ×ĵ +Ø Ľ +k Äħ +Ġ à¹ĥà¸Ļ +Ġv ấn +Ġש ׾×ķ +ĠÄij á»ģu +Ùģ Øª +Ġê²ĥ ìĿ´ +Ġh óa +ĠاÙĦع اÙħ +ĠÙĬ ÙĪÙħ +к ой +Ġbi á»ĩt +ÑģÑĤ о +Ġ×Ķ ×Ļ×ķ +à¸Ĺีà¹Ī à¸Īะ +Ġ×ĵ ×Ļ +Ġ×IJ ×ļ +Ġá n +ص ÙĪØ± +Ġtr ÃŃ +ĠÐŁÑĢ Ð¾ +Ġl á»±c +ãģĹãģ¦ ãģĦãģ¾ãģĻ +Ġb Ãłi +Ġ×ĸ ×IJת +Ġb áo +à¸ļ à¸Ļ +ĠëĮĢ íķľ +Ġti ế +Ġtiế ng +Ġb ên +ãģķãĤĮ ãĤĭ +s ión +Ġt ìm +×¢ ×ķ +m é +ни Ñı +ãģ» ãģ© +Ġà¹Ģà¸ŀ ราะ +ب Ø© +Ġë¶ Ħ +Ġ×IJ ×ĸ +à¸Ĺ à¹Īาà¸Ļ +ת ×Ŀ +Ġth êm +Ġho ạt +y ı +×ĸ ×ķ +Ġgi á»Ŀ +Ġb án +à¸Ĥ าย +Ñĩ а +Ġ à¹Ĩ +ĠاÙĦÙħ ت +ĠоÑĩ енÑĮ +Ġb ất +Ġtr ẻ +ÑĤ ÑĢ +ĠØ£ ÙĨÙĩ +ĠØ« Ùħ +Ġ׼ ×ŀ×Ķ +Ġkh ó +Ġr ằng +ĠÙĪ ÙģÙĬ +ни й +Ġho Ãłn +t ó +Ġ×IJ שר +ĠìĥĿ ê°ģ +Ñģ а +Ġ׼ ×ijר +ĠÑįÑĤ ом +lar ının +Ġch ưa +з и +Ġd ẫn +ĠÐļ ак +ج ÙĪ +ĠбÑĭ ло +ĠÙĬ ت +n ı +ÅĤ am +ĠÙĪÙĩ ÙĪ +×ij ×ķ +п и +ר ת +Ġqu á»ijc +ж д +ĠÄij Æ¡n +Ùĥت ب +Ġm ắt +ระ à¸ļ +ระà¸ļ à¸ļ +ĠÙĥ اÙĨت +Ġth ân +สิà¸Ļ à¸Ħà¹īา +×Ĵ ×Ļ +Ġph ương +à¹Ħมà¹Ī à¹Ħà¸Ķà¹ī +ĠìĦ ± +ĠC ác +Ġ×Ķ×ŀ ×ķ +ĠÑĤ ем +Ġ×ĵ ×ķ +à¸Ńะ à¹Ħร +Ġv Äĥn +ãģª ãģ®ãģ§ +ĠN á»Ļi +Ġ×¢ ×ķ +ãĤīãĤĮ ãĤĭ +Ġs áng +Ġgö ster +ãģĵãģ¨ ãĤĴ +Ġtaraf ından +Ġм а +ĠпоÑģл е +Ġ׳ ×Ļת +Ġ׳×Ļת ף +Ġл еÑĤ +Ġ׾ ׳×ķ +Ñģ Ñģ +Ġ×Ļ ×ķ +п е +ĠÙĪ ÙĦÙĥ +ĠÙĪÙĦÙĥ ÙĨ +Ġngo Ãłi +ĠÄij á»ĭa +r zÄħd +dz iaÅĤ +ĠÙħ ر +иÑĤÑĮ ÑģÑı +Ġ×IJ×Ĺר ×Ļ +Ġ׾ ׼׾ +à¸Ĥ à¹īà¸Ńม +à¸Ĥà¹īà¸Ńม ูล +Ġб ол +Ġбол ее +جÙħ ع +л еÑĤ +Ġl á»ĭch +ĠÙħ Ø«ÙĦ +Ġ그리 ê³ł +Ġth ứ +ĠdeÄŁ il +ÙĪ ØŃ +Ġש׾ ×ļ +ĠÙħ ØŃÙħد +Ġn ếu +ĠÄij á»ķi +Ġv ừa +Ġm á»įi +Ġо ни +Ġl úc +ĠÙĬ ÙĥÙĪÙĨ +ì§ Ī +Ġש׾ ׳×ķ +ĠÐĶ Ð¾ +Ġש ׳×Ļ +ล ิ +×IJ פשר +Ġs ức +ê¶ Į +Ġ ứng +à¹Ħมà¹Ī มี +Ø·ÙĦ ب +ĠÑĩ ем +Ġch uyên +Ġth ÃŃch +Ġ×ķ ×Ļ +íķ © +ĠÙħ صر +д о +ĠÄij ất +Ġch ế +à¸Ĭ ืà¹Īà¸Ń +Ġìĭ ł +ĠØ¥ ذا +Ġر ئÙĬس +Ġש ×Ļש +Ġgiả m +Ñģ ка +lar ında +Ġs ợ +ĠtÃŃ ch +ĠÙĦ ÙĥÙĨ +Ġب Ùħ +×¢ ×ķ×ij +×¢×ķ×ij ×ĵ +ÅĤÄħ cz +ları na +Ġש ×Ŀ +ĠÙĦ ت +Ġש×Ķ ×ķ×IJ +t ów +Ġëĭ¤ 른 +ĠØ£ Ùĥثر +ãģ® ãģ§ãģĻ +׼ ×Ļ×Ŀ +ĠolduÄŁ unu +ãģĭ ãģª +ãĤĤ ãģĨ +ÙĬ ØŃ +Ġnh ìn +Ġngh á»ĩ +ãģ«ãģª ãģ£ãģ¦ +п а +Ġquy ết +ÙĦ ÙĤ +t á +Ġlu ôn +ĠÄij ặc +Ġ×IJ ר +Ġtu á»ķi +s ão +ìĻ ¸ +ر د +ĠبÙĩ ا +Ġ×Ķ×Ļ ×ķ×Ŀ +×ķ ×ķ×Ļ +ãģ§ãģĻ ãģŃ +ĠÑĤ ого +Ġth á»§ +ãģĹãģŁ ãģĦ +ر ÙĤ +Ġb ắt +г Ñĥ +Ġtá» Ń +ÑĪ Ð° +Ġ à¸Ľà¸µ +Ġ×Ķ×IJ ×Ŀ +íı ¬ +ż a +Ġ×IJת ×Ķ +Ġn á»Ļi +Ġph ÃŃ +ĠÅŁek ilde +Ġl á»Ŀi +d ıģı +Ġ׼×IJ ף +Ġt üm +Ġm ạnh +ĠM ỹ +ãģĿ ãĤĵãģª +Ġnh á»ı +ãģª ãģĮãĤī +Ġb ình +ı p +à¸ŀ า +ĠÄij ánh +ĠÙĪ ÙĦ +ר ×ķת +Ġ×IJ ×Ļ×ļ +Ġch uyá»ĥn +Ùĥ ا +ãĤĮ ãĤĭ +à¹ģม à¹Ī +ãĤĪ ãģı +ĠÙĪ ÙĤد +íĸ Īëĭ¤ +Ġn Æ¡i +ãģ«ãĤĪ ãģ£ãģ¦ +Ġvi ết +Ġà¹Ģà¸ŀ ืà¹Īà¸Ń +ëIJĺ ëĬĶ +اد ÙĬ +ĠÙģ Ø¥ÙĨ +ì¦ Ŀ +ĠÄij ặt +Ġh Æ°á»Ľng +Ġx ã +Ġönem li +ãģł ãģ¨ +Ġm ẹ +Ġ×ij ×Ļ +Ġ×ĵ ×ijר +Ġv áºŃt +ĠÄij ạo +Ġdá»± ng +ĠÑĤ ом +ĠÙģÙĬ Ùĩا +Ġج ÙħÙĬع +Ġthu áºŃt +st ÄĻp +Ġti ết +Ø´ ÙĬ +Ġе Ñīе +ãģĻãĤĭ ãģ¨ +ĠmÃł u +ĠÑįÑĤ ого +Ġv ô +ĠÐŃ ÑĤо +Ġth áºŃt +Ġn ữa +Ġbi ến +Ġn ữ +Ġ׾ ׼×Ŀ +×Ļ ×Ļף +Ġس ت +ĠÐŀ ÑĤ +Ġph ụ +ê¹Į ì§Ģ +Ġ׾ ×ļ +Ġk ỳ +à¹ĥ à¸Ħร +Ġg ây +ĠÙĦ ÙĦÙħ +Ġtụ c +ت ÙĬÙĨ +Ġtr ợ +Ġ׾ פ×Ļ +Ġb á»ij +ĠÐļ а +ĠÄij ình +ow Äħ +s ında +Ġkhi ến +s ız +Ġк огда +ס ׾ +ĠбÑĭ л +à¸Ļ à¹īà¸Ńย +обÑĢаР· +Ġê²ĥ ìĿ´ëĭ¤ +ëĵ¤ ìĿĢ +ãģ¸ ãģ® +Ġà¹Ģม ืà¹Īà¸Ń +Ġph ục +Ġ׊׾ק +Ġh ết +ĠÄij a +à¹Ģà¸Ķà¹ĩ à¸ģ +íĺ ķ +l ÃŃ +ê¸ ī +Ġع دد +ĠÄij á»ĵ +Ġg ần +Ġ×Ļ ×ķ×Ŀ +Ġs Ä© +ÑĢ Ñıд +Ġquy á»ģn +Ġ×IJ ׾×IJ +Ùĩ Ùħا +׳ ×Ļ×Ķ +׾ ×ķת +Ġ×Ķר ×ij×Ķ +Ġti ên +Ġal ın +Ġd á»ħ +人 ãģĮ +но Ñģ +л ÑģÑı +ĠÄij ưa +ส าว +иÑĢов ан +Ġ×ŀס פר +×Ĵ ף +Ġki ến +ĠÐ ¨ +p é +б Ñĥ +ов ой +б а +ĠØ¥ ÙĦا +×IJ ׾×Ļ +Ġx ây +Ġb ợi +Ġש ×ķ +人 ãģ® +×§ ×Ļ×Ŀ +à¹Ģà¸Ķ ืà¸Ńà¸Ļ +Ġkh á +Ġ×ķ ׾×Ķ +×ĵ ×ķת +Ġ×¢ ×ij×ķר +Ġبش ÙĥÙĦ +ĠÙĩÙĨا Ùĥ +ÑĤ ÑĢа +Ġ íķĺëĬĶ +ร à¸Ńà¸ļ +owa ÅĤ +h é +Ġdi á»ħn +Ġ×Ķ ×Ľ×ľ +ĠØ£ س +Ġch uyá»ĩn +ระ à¸Ķัà¸ļ +ĠNh ững +Ġ×IJ ×Ĺת +ĠØŃ ÙĪÙĦ +л ов +׳ ר +Ġ×ķ ׳ +Ġch Æ¡i +Ġiç inde +ÑģÑĤв Ñĥ +Ġph á»ij +ĠÑģ Ñĥ +ç§ģ ãģ¯ +Ġch ứng +Ġv á»±c +à¹ģ à¸Ń +Ġl áºŃp +Ġtừ ng +å°ij ãģĹ +ĠNg uy +ĠNguy á»ħn +ĠÙģÙĬ Ùĩ +Ġб а +×Ļ ×Ļת +Ġ×ľ×¢ ש×ķת +Ġ×ŀ ׼ +Ġnghi á»ĩm +Ġм ного +Ġе е +ëIJĺ ìĸ´ +Ġl ợi +Ġ׾ ׾×IJ +Ġ׼ ף +Ġch ÃŃ +ãģ§ ãģ® +×Ĺ ×ķ +ש ×ķ×Ŀ +Ġ×ŀ ר +ĠÐĶ Ð»Ñı +Å ģ +Ġ׼×IJ שר +ĠM á»Ļt +ĠÙĪØ§ÙĦ ت +ĠìĿ´ 룰 +ÅŁ a +Ġchi ến +Ġaras ında +Ġ×ij ×IJתר +ãģķãĤĮ ãģ¦ãģĦãĤĭ +Ø´ ÙĥÙĦ +Ġt ượng +Ġت ت +ĠC ó +Ġb á»ı +Ġtá»ī nh +Ġkh ÃŃ +ĠпÑĢ Ð¾ÑģÑĤ +ĠпÑĢоÑģÑĤ о +ĠÙĪ ÙĤاÙĦ +Ġgi áo +ĠN ếu +×IJ ×ŀר +×¢×ł×Ļ ×Ļף +íİ ¸ +Ùĩد Ùģ +ĠB á»Ļ +Ġb Ãłn +Ġng uyên +Ġgü zel +ส าย +ì² ľ +×ŀ ×ķר +Ġph ân +ס פק +×§ ×ij׾ +ĠاÙĦÙħ تØŃ +ĠاÙĦÙħتØŃ دة +ائ د +Ġ×IJ ×ŀר +Ġki ÅŁi +ì¤ Ģ +Ġtr uyá»ģn +ĠÙĦ Ùĩا +ĠÐľ а +à¸ļริ ษ +à¸ļริษ ั +à¸ļริษั à¸Ĺ +Ġש ׳×Ļ×Ŀ +Ġмен Ñı +ÅŁ e +Ġdi á»ĩn +Ġ×IJ׳ ×Ĺ׳×ķ +k ü +Ġc á»ķ +Ġm á»Ĺi +w ä +Ùħ ÙĬ +Ġhi á»ĥu +ëĭ ¬ +Ġ×Ķ ×Ĺ׾ +Ġt ên +Ġki á»ĩn +ÙĨ ÙĤÙĦ +Ġv á»ĩ +×ĵ ת +ĠÐłÐ¾ÑģÑģ ии +л Ñĥ +ĠاÙĦع ربÙĬØ© +ĠØ· رÙĬÙĤ +Ġ×Ķ×ij ×Ļת +Ñģ еÑĢ +Ġм не +ä u +Ġtri á»ĩu +ĠÄij á»§ +Ġר ×ij +ت ÙĩÙħ +à¸ĭ ี +Ġì§Ģ ê¸Ī +li ÅĽmy +د عÙħ +ãģł ãĤįãģĨ +Ñģки е +Ġh á»ıi +Ġ×§ ×ķ +ÑĢÑĥ Ñģ +ÙĨ ظر +ãģ® ãĤĤ +Ġ×Ķ ×Ľ×Ļ +ĠìĽ IJ +ÙĪ Ùĩ +ĠÙĪ Ùİ +ĠB ạn +п лаÑĤ +Ġ×ŀ ×ŀש +лÑİ Ð± +ĠнÑĥж но +Ġth ư +ãģ µ +ãģı ãĤīãģĦ +ر Ø´ +ר ×ķ×Ĺ +ĠÙĬ تÙħ +Ġצר ×Ļ×ļ +Ġph á +ม à¸Ńà¸ĩ +Ġ×ij×IJ ×ķפף +Ġcả nh +Ġíķľ ëĭ¤ +Ġ×Ķ×ŀ ת +à¸ķà¹Īาà¸ĩ à¹Ĩ +มี à¸ģาร +Ñģки Ñħ +ĠÐĴ Ñģе +Ġا ÙĪ +ج ÙĬ +ãģĵãģ¨ ãģ¯ +Ġd Ãłi +Ġh á»ĵ +èĩªåĪĨ ãģ® +à¹Ħ หà¸Ļ +ëĵ¤ ìĿĦ +ĠV Äĥn +Ġд аж +Ġдаж е +Ñĭ ми +лаÑģ ÑĮ +ÙĬ ÙĪÙĨ +ÙĨ ÙĪ +c ó +ãģĹãģ¦ ãģĦãģŁ +ãģł ãģĭãĤī +طاÙĦ ب +Ġc á»Ńa +п ÑĢоÑģ +ãģªãģ© ãģ® +รุ à¹Īà¸Ļ +Ġchi ếc +л Ñĭ +ĠÑıвлÑı еÑĤÑģÑı +Ġn á»ķi +ãģ® ãģĬ +Ġ×IJת ×Ŀ +ĠëķĮ문 ìĹIJ +à¸ģล าà¸ĩ +ĠbaÅŁ ka +ìĦ Ŀ +ĠÑĨ ел +Ùģ ÙĤ +ãģ«ãĤĪ ãĤĭ +ÙĤ ا +Ġçı kar +Ġcứ u +Ø· ا +Ġש ת +à¹Ĥ à¸Ħ +Ġ×ŀ ׾ +Ġ×Ķ ×¤×¨ +Ġг де +ĠØ® Ø· +åīį ãģ« +c jÄĻ +Ġ׊ש×ķ×ij +ר×Ĵ ×¢ +Ġkho ảng +ĠÄij á»Ŀi +ĠÐł е +Ġо на +Ġ×IJ ׳×ķ +ãģ® ãģ« +ĠاÙĦذ ÙĬÙĨ +кÑĥ п +ãĤµ ãĥ¼ãĥ +ãĤµãĥ¼ãĥ ĵ +ãĤµãĥ¼ãĥĵ ãĤ¹ +в ал +г е +Ġgi ữa +ĠKh ông +ĠâĹ ĭ +à¸ģล ุà¹Īม +ĠÙħÙĨ ذ +à¸Ń à¹Īาà¸Ļ +ĠÑģп оÑģоб +ĠÄij á»Ļi +Ġdi ÄŁer +Ġ à¸ĸà¹īา +Ùħ Ø«ÙĦ +Ġ×Ķ×IJ ×Ļ +Ġد ÙĪÙĨ +ÙĬر اÙĨ +Ñī и +بÙĨ اء +ĠØ¢ خر +ظ Ùĩر +Ġ×ij ׼ +ĠاÙĦÙħ ع +ãĥ Ĵ +Ġt ất +Ġm ục +ĠdoÄŁ ru +ãģŁ ãĤī +Ġס ×ķ +Ġx ác +ร à¸Ń +ĠcÄĥ n +Ġон л +Ġонл айн +Ġk ý +Ġch ân +Ġ à¹Ħมà¹Ī +اØŃ Ø© +r án +׳×Ļ ×Ļ×Ŀ +Ġ×ij ף +ĠÐ ĸ +à¸ķร à¸ĩ +д Ñĭ +Ġs ắc +ÙĦ ت +ãĥŃ ãĥ¼ +ĠÙĦ ÙĨ +Ġר ×ķ +Ġd Æ°á»Ľi +à¹Ģ à¸ĺ +à¹Ģà¸ĺ à¸Ń +e ÄŁi +Ġ×ķ ש +ĠÙĦ Ø£ +Ġg ặp +Ġc á»ij +ãģ¨ ãģ¦ãĤĤ +رÙĪ Ø³ +Ġ׾×Ķ ×Ļ +Ġë³ ¸ +ä¸Ĭ ãģĴ +Ġm ức +Ñħ а +Ġìŀ ¬ +à¸ī ัà¸Ļ +ÑĢÑĥ ж +Ġaç ık +ÙĪ Ø§ÙĦ +Ġ×ĸ ×ŀף +人 ãģ¯ +ع ÙĬÙĨ +Ñı Ñħ +Ġ×Ĵ×ĵ ×ķ׾ +ר ×ķ×ij +g ó +ëĿ¼ ê³ł +Ġark adaÅŁ +ÙĨ شر +Ġгод Ñĥ +ĠболÑĮ ÑĪе +ãģ¡ãĤĩ ãģ£ãģ¨ +Ġcâ u +Ġs át +íĶ ¼ +Ġti ến +íķ´ ìķ¼ +ĠÙĪ Ø£ÙĨ +à¸Ļ าà¸Ļ +Ġ×ij×IJ×ŀ צע +Ġ×ij×IJ×ŀצע ×ķת +Ġ׾ ר +Ġqu ản +ĠÙĪØ§ÙĦ Ø£ +Ġ×IJ×ķת ×Ķ +Ġìĸ´ëĸ ¤ +Ġê²ĥ ìĿĢ +ØŃس ÙĨ +Ġm ất +à¸Ħ ูà¹Ī +ãĥ¬ ãĥ¼ +ĠÐĶ Ð° +Ġol ması +Ġthu á»Ļc +׳ ×Ĺ +íĨ ł +Ġsö yle +ãģĿãģĨ ãģ§ãģĻ +Ġت ÙĥÙĪÙĨ +л ÑĥÑĩ +׾ ×Ļ×ļ +ĠØ£ ØŃد +ли ÑģÑĮ +ĠвÑģ его +Ġ×Ķר ×ij +Ġëª » +o ÄŁ +oÄŁ lu +ĠìĦ ł +Ġк аÑĢ +à¸łà¸² à¸Ħ +e ÅĦ +Ġ à¸ģà¹ĩ +Ġa ynı +Ġb Ãł +ãģªãĤĵ ãģ¦ +Ġ모 ëĵł +ÙĤر ار +ãģĹãģª ãģĦ +ĠÐĴ о +ĠÙĪÙĩ ÙĬ +ни ки +ãĤĮ ãģŁ +Ġchu ẩn +ר ×¢ +Ùģ Ø±ÙĬÙĤ +ãĤĴ åıĹãģij +ĠÄij úng +б е +׼ ×ķ×Ĺ +п Ñĥ +Ġ×ķ ×Ĵ×Ŀ +×ŀ ׳×Ļ +íĸ ¥ +צ ×Ļ×Ŀ +à¸ĭ ิ +Ùĩ ÙĨ +н ем +Ġ×ij×ij ×Ļת +ر ع +Ġ ส +ĠÄIJ Ãł +íķĺ ëĭ¤ +Ġ ấy +×Ĺ ×ķ×ĵ +×Ĺ×ķ×ĵ ש +ĠÑĩеÑĢ ÐµÐ· +Ñĥ л +ĠB ình +Ġê²ĥ ìĿĦ +Ġ×Ĵ ר +ä»ĺ ãģij +×Ĺ׾ ×§ +Ġت ÙĦÙĥ +à¹ĥส à¹Ī +sz Äħ +ÙĤ اÙħ +د ÙĪØ± +ĠÙģ ÙĤØ· +Ġh ữu +Ġмог ÑĥÑĤ +Ġg á»įi +Ġ×§ ר +à¸Īะ มี +ت ÙĤدÙħ +Ġع بر +Ġ׾×Ķ ×Ŀ +ĠÑģам о +ס ×ĵר +Ġc Ãłng +r ÃŃ +Ġìŀ ¥ +ëĵ¤ ìĿĺ +ĠÙĦ Ùĥ +п оÑĢÑĤ +Ġkh ả +ĠÑģеб Ñı +׳ ף +Ġد ÙĪØ± +Ġm ợ +Ġcâ y +Ġf ark +Ġfark lı +а ÑİÑĤ +Ġtr á»±c +wiÄĻks z +Ġthu á»ijc +Ġت ØŃت +ت ÙĦ +ов Ñĭе +ëĤ ł +Ġв ам +بÙĦ غ +Ġê°Ļ ìĿĢ +íĮ IJ +ÙĦ ب +Ġnas ıl +Ġод ин +м ан +ĠعÙĦÙĬ Ùĩا +б и +Ġפ ש×ķ×ĺ +×ijר ×Ļ +Ġש ׳×Ķ +Ġëı Ħ +ĠÄIJ ại +Ġ×IJ×ķת ×Ŀ +ĠاÙĦØŃ ر +Ġб о +à¸Ī ุà¸Ķ +Ġr õ +ĠdeÄŁi ÅŁ +Ġëĭ ¨ +ĠÑģлÑĥÑĩ а +ĠÑģлÑĥÑĩа е +Ġ×IJ׳ ש×Ļ×Ŀ +×ĵ ×£ +ש×ij ת +Ġש׾ ׼×Ŀ +Ġch ú +nik ów +Ġtan ı +Ġcá o +ĠÄij á +Ġ×IJ ×ĵ×Ŀ +Ġê° ķ +Ġnhi á»ĩm +Ġ׾ ס +Ġ×Ľ×ª ×ij +Ġ×Ķס פר +ĠÄij Äĥng +Ġë ijIJ +à¸ľ ิ +à¸ľà¸´ ว +ج ا +Ġê° IJ +ر Ø£ +ست خدÙħ +ãģ«ãģªãĤĬ ãģ¾ãģĻ +Ġtá» · +×ĺ ×ķר +г овоÑĢ +Ġв оÑģ +ĠÙħÙĨ Ùĩا +иÑĢов аÑĤÑĮ +ĠÄij ầy +׳ ×Ĵ +ĠÙħ ÙĪ +ĠÙħ ÙĪÙĤع +ר׼ ×Ļ +ت Ùı +ëª ¨ +Ġת ×ķ +ÙĬا Ùĭ +à¹ĥ à¸Ķ +ãĤĬ ãģ¾ãģĻ +à¸Ńยูà¹Ī à¹ĥà¸Ļ +ĠØ£ ÙĪÙĦ +ĠØ£ خرÙī +Ġc ư +ص ار +×ŀ׊ש×ij +б ÑĢа +ÅĦ ski +б ÑĢ +ĠÙĬ Ùı +à¸ģ ิà¸Ļ +Ġch á»ijng +Ùħ Ùı +Ġ à¸Ħืà¸Ń +Ġت ÙĨ +t ÃŃ +y Äĩ +Ġm ạng +Ùģ ÙĪ +Ġdü nya +×§ ר×IJ +Ġ×§ ׾ +ĠØŃ اÙĦ +c ÃŃa +Ġà¹Ģ รา +Ġר ×ķצ×Ķ +Ġá p +ë° ķ +ا ÙĤØ© +ни Ñİ +Ġ×IJ ׾×ķ +Ġ×ŀס ×ķ +ãģ§ãģ¯ ãģªãģı +Ġtr ả +Ġ×§ שר +mi ÅŁtir +Ġl ưu +Ġh á»Ĺ +ĠбÑĭ ли +Ġl ấy +عÙĦ Ùħ +Ġö zel +æ°Ĺ ãģĮ +Ġ×ĵ ר×ļ +Ùħ د +s ını +׳ ×ķש×IJ +r ów +Ñĩ еÑĢ +êµIJ ìľ¡ +ĠÐľ о +л ег +ĠV Ỽi +วัà¸Ļ à¸Ļีà¹ī +ÑİÑī ие +ãģĬ ãģĻ +ãģĬãģĻ ãģĻ +ãģĬãģĻãģĻ ãĤģ +ëı ħ +Ġ×Ļ×Ķ ×Ļ×Ķ +×ŀ ×ĺר +Ñı ми +Ġl á»±a +ĠÄij ấu +à¹Ģส ียà¸ĩ +Ġt ương +ëĵ ± +ĠÑģÑĤ аÑĢ +à¹ĥ à¸ļ +ว ัà¸Ķ +Ġİ stanbul +Ġ à¸Īะ +à¸ķ ลาà¸Ķ +Ġب ÙĬ +à¹ģà¸Ļ ะ +à¹ģà¸Ļะ à¸Ļำ +س اعد +Ġب Ø£ +Ġki á»ĥm +ØŃ سب +à¸Ĭั à¹īà¸Ļ +Ġ×ķ ×¢×ķ×ĵ +ов ÑĭÑħ +оÑģ нов +Ġtr Æ°á»Łng +צ ×ij×¢ +ĠÃŃ t +Ġk ỹ +cr é +Ñı м +êµ ° +ãģĮ ãģªãģĦ +ÙĬÙĦ Ø© +ãĥķ ãĤ£ +ر Ùī +ĠÙĬ جب +Ġ×IJ ×£ +Ġc á»±c +ãĤīãĤĮ ãģŁ +Ġ à¸ľà¸¹à¹ī +Ġ à¸Ń +lar ımız +Ġkad ın +Ġê·¸ ëŀĺ +Ġê·¸ëŀĺ ìĦľ +ĠëĺIJ ëĬĶ +ĠÄij ả +ĠÄijả m +Ġ×IJ ×ķ×ŀר +Ġy ếu +ci Äħ +ciÄħ g +Ġt á»ij +Ġש×IJ ׳×Ļ +Ġdz iaÅĤa +Ñī а +ĠÄij Ãłn +s ına +ãģĵãĤĮ ãģ¯ +Ġ×ij ׾×Ļ +Ġ×ij ×Ļשר×IJ׾ +л оÑģÑĮ +Ġgi ữ +ê° IJ +ÑĢ Ð¾Ð½ +تج ار +г лав +в ин +Ġh ạn +Ġyapı lan +ب س +Ġ à¸ŀรà¹īà¸Ńม +ê´Ģ 리 +mÄ±ÅŁ tır +b ü +r ück +ĠBaÅŁkan ı +ĠÙĦ ÙĬس +Ġs Æ¡ +à¸Īัà¸ĩ หว +à¸Īัà¸ĩหว ัà¸Ķ +د اء +Ġ×Ķ ×Ľ +v ÃŃ +ש ×IJר +Ġh Æ°á»Łng +Ġb óng +ĠCh ÃŃnh +Äħ c +à¹Ģà¸ģีà¹Īยว à¸ģัà¸ļ +Ġtá» © +Ġtứ c +ĠÑĨ веÑĤ +Ġt á»iji +ĠnghÄ© a +ÙĦا عب +د ÙĦ +Ġפע ×Ŀ +h ör +à¸Ĭ ุà¸Ķ +à¸ŀ ู +à¸ŀู à¸Ķ +п аÑģ +ĠÅŁ u +Ġt Æ°á»Łng +خار ج +Ġâ m +ĠинÑĤеÑĢ ÐµÑģ +ен нÑĭÑħ +×IJ ׳×Ļ +بد Ø£ +ëĿ¼ ëĬĶ +ì¹ ´ +æĸ¹ ãģĮ +ли в +Ġ à¸Ħà¸Ļ +ער ×ļ +à¸Ĥà¸Ńà¸ĩ à¸Ħุà¸ĵ +п ад +Ġc ạnh +ĠëĤ ¨ +ĠÄij âu +Ġbi á»ĥu +ãĤĤ ãģĤãĤĭ +׾ ×Ĵ +Ġ สำหรัà¸ļ +Ġxu á»ijng +ס ×ķ +Ġذ ات +ĠÐľ е +ع اÙĦÙħ +×IJ ס +ب ÙĬØ© +Ø´ ا +и ем +ĠNg ưá»Ŀi +íĺ ij +Ñģл ов +Ġп а +Ġm ẫu +ĠпÑĢоÑĨ еÑģÑģ +ĠNh Ãł +пÑĢо из +пÑĢоиз вод +à¸łà¸²à¸¢ à¹ĥà¸Ļ +Ġ à¸ļาà¸Ĺ +×ŀ ׳×ķ +ĠоÑĢг ан +רצ ×ķ +×ķ×ŀ ×Ļ×Ŀ +Ġyaz ı +Ġd ù +ãĥ¬ ãĥ³ +ÙĪÙĦ ÙĬ +ย ู +Ġtr ò +à¹Ģà¸ŀ ลà¸ĩ +Ġ×ŀ ׾×IJ +à¸ķ ล +à¸ķล à¸Ńà¸Ķ +ĠÄij ạt +Ġ×Ĺ×ĵ ש +p óÅĤ +Ġ×ŀ ×ĵ×Ļ +ujÄħ c +×ŀ׳×Ķ ×ľ +Ġש×ij ×ķ +Ġ×Ķ×ŀש פ×ĺ +Ġ×IJ ׾×Ķ +ĠÙĪ Ø°ÙĦÙĥ +à¹Ģà¸ŀ ราะ +ĠÄijo Ãłn +Ġíķ¨ ê»ĺ +Ġd ục +Ø´ ت +Ġ ula +Ġula ÅŁ +Ġqu ý +Ġ×Ķ ×Ĵ×ĵ×ķ׾ +à¸ķัà¹īà¸ĩ à¹ģà¸ķà¹Ī +Ġש ר +Ø´ Ùĩد +׳ ש×Ļ×Ŀ +à¸ŀ ล +رÙĪ Ø§ +ãĤĮ ãģ¦ +Ġн иÑħ +Ġдел а +ãģ§ãģį ãģªãģĦ +ÅĤo ż +×IJ ×Ĺר +ì ½Ķ +ãĤ¢ ãĥĥãĥĹ +د Ù쨹 +Ġti á»ĩn +Ġkh á»ı +Ġkhá»ı e +ĠاÙĦع اÙħØ© +ãģ« ãģĤãĤĭ +ĠÄij á»Ļc +ì¡ ± +Ġc ụ +й ÑĤе +Ġзак он +ĠпÑĢо екÑĤ +ìĸ ¸ +ÙĦ ØŃ +ĠçalÄ±ÅŁ ma +ãĤĴ ãģĻãĤĭ +Ñħ и +ع اد +Ġ׳ ×ŀצ×IJ +Ġר ×Ļ +à¸Ńà¸Ńà¸ģ มา +ĠT ôi +Ġth ần +ĠÙĬ ا +ล าย +Ġав ÑĤо +Ġsı ra +ĠÙĥ Ø«ÙĬر +Ùħ ÙĬز +ĠاÙĦع ÙĦÙħ +æĸ¹ ãģ¯ +×ķ×¢ ×ĵ +Ġобла ÑģÑĤи +×Ļ׾ ×Ļ×Ŀ +ãģĮ åĩº +à¸ĺ ุ +à¸ĺุ ร +à¸ĺุร à¸ģิà¸Ī +ÙĤت ÙĦ +ר×IJ ×ķ +Ġng u +Ġngu á»ĵn +Ġ มา +Ġпл ан +t ório +Ġcu á»iji +Ñģк ом +ĠاÙĦÙħ اض +ĠاÙĦÙħاض ÙĬ +Ġ×ij×¢ ׾ +Ġר ×ij×Ļ×Ŀ +Ġlu áºŃn +Ùĥ ÙĪ +à¸Ĺัà¹īà¸ĩ หมà¸Ķ +в ан +Ġtho ại +à¹Ħ à¸Ń +б иÑĢ +ĠاÙĦ ض +ت ا +ĠÑĢ Ð¾Ð´ +ĠV Ãł +×ŀ ×Ļף +ĠбÑĭ ла +к ами +ĠÐĶ Ðµ +t ık +קר ×Ļ +ĠeÄŁ itim +ĠÙĥ بÙĬر +ب Ùĥ +ĠÙĦ ÙĪ +в ой +Ġ ãģĵãģ® +ĠÑĤ ÑĢÑĥд +my ÅĽl +Ġs ư +à¸ŀ ีà¹Ī +Ġ à¹ģลà¹īว +×¢ ×§ +Ġ×Ĺ×ijר ת +ระ หว +ระหว à¹Īาà¸ĩ +×Ļ ×Ļ×Ķ +ĠاÙĦÙĨ اس +ün ü +Ġ׾ ×ŀ×Ķ +Ġch ương +ĠH á»ĵ +ار ت +ãĤĪãģĨ ãģ§ãģĻ +l á +×§×Ļ ×Ļ×Ŀ +æľ¬ å½ĵ +æľ¬å½ĵ ãģ« +ãģĵãĤĵ ãģª +Ñģ ов +Ġ×ķ ×Ĺ +à¹Ģà¸ģ à¹ĩà¸ļ +Ġк ÑĤо +à¹Ĥร à¸Ħ +ĠØ´ رÙĥØ© +ع زÙĬ +عزÙĬ ز +Ø·ÙĦ ÙĤ +п ÑĥÑģÑĤ +Ùģ ØªØŃ +ëŀ Ģ +Ġhã y +ض Ùħ +ë¦ ° +åł´åIJĪ ãģ¯ +ãĤª ãĥ¼ +Ġh ắn +Ġ×IJ ×ij×Ļ×ij +Ġש׾×Ķ ×Ŀ +Ġ×Ķ×Ļ ×Ļת×Ķ +ĠاÙĦد ÙĪÙĦØ© +ĠاÙĦ ÙĪÙĤ +ĠاÙĦÙĪÙĤ ت +ãģĤ ãģ¾ãĤĬ +Ġta ÅŁÄ± +İ N +×¢ סק +ãģ¦ ãģĦãģŁ +Ġtá»ķ ng +ĠاÙĦØ¥ ÙĨس +ĠاÙĦØ¥ÙĨس اÙĨ +ÑĢ ÐµÑĪ +Ġg ái +ĠÑĨ ен +ĠÙģ ÙĤد +Ùħ ات +ãģķãĤĵ ãģ® +Ġph ù +×ĺ ×Ķ +ĠÙĪØ§ÙĦ تÙĬ +Ġب Ùĥ +ìĿ´ ëĤĺ +к Ñģ +Ùħ ÙĬر +Ġv ùng +ĠاÙĦØ´ عب +ĠNh ưng +ãĥĢ ãĥ¼ +Ġ×Ĺ×Ļ ×Ļ×Ŀ +ĠØ´ خص +×§ ×ķ×ĵ +ê² Ģ +×¢ ש +×¢ ×ķ׾×Ŀ +צ ×ķר +ع ÙĤد +ĠiÅŁ lem +Ġ×Ķ×ij ×IJ +Ġd ưỡng +à¸Ł รี +Ġph ÃŃa +ãģ®ä¸Ń ãģ§ +Ġп и +Ġng Ãłnh +ним а +ĠÙĩ ÙĦ +Ġ×ķ ×IJת +ĠÄij áng +é quipe +ĠÑįÑĤ оÑĤ +Ġgö rev +ë§ ¤ +Ġqu ân +å¼ķ ãģį +æĻĤ ãģ« +Ġب Ùħا +×ŀ ×Ļת +Ġü lke +Ġ×ŀ×§ ×ķ×Ŀ +×ij ף +æ°Ĺ æĮģãģ¡ +Ġë§İ ìĿĢ +Ġyük sek +ÑĨ енÑĤÑĢ +ĠÙħ جÙĦس +ç§ģ ãģ® +ÙĤد ر +Ġë¶Ģ ë¶Ħ +Ġì° ¨ +خر ج +ãģĭ ãģªãĤĬ +ë³´ ëĭ¤ +Ġ×ŀ ×Ļ×ĵ×¢ +peÅĤ ni +Ġx á»Ń +ìĹIJìĦľ ëĬĶ +ĠباÙĦ Ùħ +ĠÙĪ Ùħا +ĠÑįÑĤ ой +ب ÙĬÙĨ +n ü +ØŃ ز +ØŃز ب +ĠÑĢабоÑĤ а +ĠNh áºŃt +ÙĦ اء +Ġëĵ ¤ +Ġëĵ¤ ìĸ´ +ãĤĦãģĻ ãģĦ +×Ĺ×ĸ ×§ +Ġ×Ķ×Ĺ ×ijר×Ķ +п иÑĤ +ãģĭãĤī ãģ® +Ġë§IJ ìĶĢ +Ġפ ×ķ +ÙĦ Ùİ +à¹Ģà¸ķà¹ĩ ม +ĠÐļ о +Ġm ówi +Ġt ÃŃn +ר×Ĵ ש +פר ×§ +Ġtr ạng +ĠÐŀ н +×Ĺ ×ķ×¥ +ĠعÙĨد Ùħا +Ġب ر +使 ãģĦ +Ġr á»Ļng +ëĮĢ ë¡ľ +íĪ ¬ +Ġktóry ch +в ид +ลูà¸ģ à¸Ħà¹īา +Ġmog Äħ +Ġש ×Ĺ +×ij ×Ĺר +ãĥĸ ãĥŃãĤ° +ĠTh Ãłnh +Ġ×Ķ ×¨×Ļ +ĠÑģÑĤ аÑĤÑĮ +ĠH á»Ļi +à¸ļ à¹īาà¸ĩ +çī¹ ãģ« +ĠÄIJ ức +èĢħ ãģ® +×¢ ×ŀ×ķ×ĵ +×ĺר ×Ķ +Ð ¥ +ĠÙħ Ùħا +Ġe ÅŁ +ĠнеобÑħодим о +ник ов +Ġüzer inde +a ÅĤa +Ġchá»ĭ u +ĠاÙĦ دÙĬÙĨ +أخ بار +ĠÄij au +ãģĮ å¤ļãģĦ +jÄħ cych +د Ø®ÙĦ +ları nd +larınd an +Ġs ẻ +à¸ŀิ à¹Ģศ +à¸ŀิà¹Ģศ ษ +ת ף +t ıģı +Ġlu áºŃt +ĠÅŀ e +ãĤ« ãĥ¼ +ãģ® ãģĤãĤĭ +Ġ×Ķ×IJ תר +ĠاÙĦØ¢ ÙĨ +ıld ı +Ġá o +ĠнаÑĩ ал +Ġvi á»ĩn +Ġ×ij×¢ ×ķ׾×Ŀ +з наÑĩ +×Ļ×ĺ ×Ķ +к ам +ĠÐĺ з +à¹Ģà¸Ĥ ียà¸Ļ +à¸Ļ à¹īà¸Ńà¸ĩ +ÑĤ ÑĢо +à¹Ģ à¸Ł +Ġжиз ни +Ġ สà¹Īวà¸Ļ +Ġv áºŃn +Ġê´Ģ 볨 +Ġl âu +ס ×ĺר +×§ ש +س ÙĬر +Ġ×IJ×ķת ×Ļ +Ġm ôi +ائ ب +Ġо ÑģÑĤа +Ġm ón +Ġ×ij ×ŀ×§×ķ×Ŀ +Ġد اخÙĦ +Ġ×IJ ×ķר +Ġв аÑģ +Ùĥ Ø´Ùģ +ìĺ ¨ +à¸ĸ à¹Īาย +Ġkullan ıl +Ġt ô +ãģ« ãĤĪãĤĬ +ĠëĺIJ íķľ +Ġ×¢×ij×ķ×ĵ ×Ķ +Ġri ê +Ġriê ng +Ġyak ın +ز ا +Å » +×IJ ×ķ׼׾ +شار Ùĥ +Ġб еÑģ +× ´ +Ġا بÙĨ +ĠTá»ķ ng +ÙĨ ظ +ÅĽwi ad +ãĤµ ãĥ¼ +ห าย +ĠG ün +Ġhakk ında +à¹Ģà¸Ĥà¹īา มา +ز ÙĨ +ĠÐł о +Ġbi á»ĥn +ãģ© ãģĵ +Ùģ Ø¹ÙĦ +ز ع +פר ×ĺ +Ġ×Ķ ×Ł +Ø£ ÙĩÙĦ +Ġth ất +ØŃ ÙħÙĦ +Ñĩ Ñĥ +ĠìĤ¬ ìĭ¤ +ì° ¸ +ĠìľĦ íķ´ +ÙĪ Ø¸ +ĠÐŁ од +Ġkho ản +ÑĤ ен +ĠÙģ Ø§ÙĦ +Ñģ ад +à¸Ļ à¸Ńà¸Ļ +ĠاÙĦسعÙĪØ¯ ÙĬØ© +" ØĮ +ĠاÙĦ ÙĴ +ãĤī ãģļ +Ġto án +Ġch ắc +׼ ×Ļר +m éd +méd ia +ز ÙĪ +Ġyan ı +פ ׳×Ļ×Ŀ +ØŃ ظ +Ġб еÑģп +ĠбеÑģп лаÑĤ +ĠбеÑģплаÑĤ но +ĠØ£ ÙħاÙħ +à¸Ń าย +à¸Ńาย ุ +ר שת +Ġg á»ĵ +Ġgá»ĵ m +Ġu á»ijng +ص ب +k ır +ãĥij ãĥ¼ +Ġ׾×ĵ עת +Ġк ÑĥпиÑĤÑĮ +׾ ×ķ×Ĺ +ÙĪØ¶ ع +ÙĤÙĬ Ùħ +à¸Ľ า +ж ив +à¸Ķ ิà¸Ļ +×IJ ×ķפ +à¹Ģล à¹ĩà¸ģ +ãĥĥ ãĥī +иÑĩеÑģки Ñħ +ĠCh á»§ +кÑĢ Ð°Ñģ +ÙĪ ØµÙĦ +p ÅĤat +м оÑĢ +Ġ×Ķ×IJ ×ķ +à¸Ń ิà¸Ļ +Ġíķľ êµŃ +гÑĢ Ðµ +Ġìłľ ê³µ +ì° ½ +Ġê°ľìĿ¸ ìłķë³´ +Ġngh á»ĭ +à¸ĭ า +ØŃس اب +Ġby ÅĤa +ÙħÙĦ Ùĥ +иÑĩеÑģки е +Ġb ác +ض ØŃ +ê¸ ¸ +ש ×ŀ×¢ +Ġìĸ´ëĸ » +Ġìĸ´ëĸ» ê²Į +ìĽ Į +ات Ùĩ +à¹Ĥรà¸ĩ à¹ģ +à¹Ĥรà¸ĩà¹ģ รม +خد ÙħØ© +ĠÐł а +׼×ķ׾ ×Ŀ +×ŀש ×Ĺ×§ +ĠÙĪ ÙĥاÙĨ +ס ×ķ×£ +ĠاÙĦØŃÙĥÙĪÙħ Ø© +Ġ×ij ×ĺ +Ġtr áºŃn +Ġ×Ķ×¢ ×ķ׾×Ŀ +ĠÃŃ ch +t Äħ +ש×ŀ ×ķ +Ġ×Ķר×IJש ×ķף +Ġíķĺ ê³ł +ãģķ ãĤī +ãģķãĤī ãģ« +ãģ« ãģĹãģ¦ +Ġ à¸ľà¸¡ +ãģ® ãĤĪãģĨãģª +ĠÙĪ ÙĤت +ãĥį ãĥĥãĥĪ +ÙĦ عب +ÙĪ Ø´ +ìĺ ¬ +Ġ หาà¸ģ +Ġm iaÅĤ +à¸Ĺ à¸Ńà¸ĩ +иÑĤ а +ا صر +ил ÑģÑı +з е +à¸Ľà¸£à¸° มาà¸ĵ +ãģĿãĤĮ ãģ¯ +Ġb ır +Ġbır ak +صÙĨ اع +Ð ® +Ø´ عر +Ġ׳ ×Ĵ×ĵ +Ġب سبب +ãĥĿ ãĤ¤ +ãĥĿãĤ¤ ãĥ³ãĥĪ +ĠاÙĦج ÙĪ +ĠнеÑģк олÑĮко +Ġki ếm +Ùģ Ùİ +Ġض د +×ij×Ļ×ĺ ×ķ×Ĺ +تاب ع +ÙĨ ز +ĠB ản +Ġaç ıkl +Ġaçıkl ama +Ġ à¸Ħุà¸ĵ +à¸Ĺ า +ÅĤ ów +Ø· ب +ÙĨ ØŃÙĨ +Ġ×ŀ×§ ×ķר +Ġİ s +Ġдом а +Ġ วัà¸Ļ +Ġd Ãłnh +Ñı н +ми ÑĢ +Ġm ô +ĠvÃł ng +ص اب +s ının +à¸Ħ ืà¸Ļ +Ø® بر +×ĸ׼ ×ķ +Ġ×ŀ ש×Ķ×ķ +m ü +Ġкомпани и +Ġ×Ķ×¢ ×Ļר +ĠÙĥ ÙĪ +ÙĤÙĦ ب +ĠlỼ p +и ки +׳ ×ij +à¹Ĥ à¸Ħร +à¹Ĥà¸Ħร à¸ĩ +à¹Ĥà¸Ħรà¸ĩ à¸ģาร +×ŀ×ķ×¢ ×ĵ +ÑıÑĤ ÑģÑı +หลัà¸ĩ à¸Īาà¸ģ +ени Ñİ +Ġש ×¢ +Ġb Æ°á»Ľc +ãĥ¡ ãĥ¼ãĥ« +ãĤĦ ãĤĬ +Ġ×Ļ×ķ×ĵ ×¢ +Ġê´Ģ íķľ +ĠاÙĦØ£ Ùħر +Ġböl ge +ĠÑģв ой +ÙĦ س +Ġ×ŀ×Ļ ×ķ×Ĺ×ĵ +ĠëĤ´ ìļ© +ĠØ£ جÙĦ +ĠÄIJ ông +Ġ×ŀ ×ł×ª +Ġìĭľ ê°Ħ +Ùĥ Ùİ +ãģ¨ãģĦãģĨ ãģ®ãģ¯ +Ġnale ży +تÙĨظ ÙĬÙħ +ĠÑģозд а +Ġph é +Ġphé p +ãģ§ãģį ãģ¾ãģĻ +Ġع ÙĦÙħ +大ãģį ãģª +ãĤ² ãĥ¼ãĥł +í ħĮ +Ġ׼×ķ׾ ׾ +ĠинÑĤеÑĢ Ð½ÐµÑĤ +ĠT ừ +ãģ¨ ãģªãĤĭ +ز اÙĦ +Ġktóry m +Ġnh é +ìĪ ľ +н ев +д еÑĢ +ãĤ¢ ãĥĹãĥª +i á»ĩu +×ij ×Ļ׾ +Ġت س +ĠÄIJ ây +ĠاÙĦØ® اصة +Ġà¹Ģ à¸Ĭ +Ġà¹Ģà¸Ĭ à¹Īà¸Ļ +ص اد +Ġd ạng +س عر +Ġש ×Ļ×ŀ×ķש +×Ĵ ×Ļ×Ŀ +ãģĮãģĤ ãģ£ãģŁ +п ÑĢов +пÑĢов од +Ġ×IJ ×Ļ׳×ķ +Ġ׾ ר×IJ +Ġ׾ר×IJ ×ķת +ĠØ£ Ù쨶ÙĦ +ĠØŃ ÙĦ +ĠØ£ بÙĪ +ê° ķ +Ġì§ ij +ãģ® ãĤĪãģĨãģ« +Ġפ ׳×Ļ +ס ×Ļ×Ŀ +ĠÙĪÙĩ ذا +Ġka ç +Ġé én +Ġê± ´ +ë° Ķ +Ñĥ з +à¸Ĥà¸Ńà¸ĩ à¹Ģรา +i ÅĤ +ĠÐľ Ñĭ +Ġch ết +ĠاÙĦØ« اÙĨÙĬ +×IJ ×§ +Ġ×ķ ×¢×ľ +ĠاÙĦØ· ب +×ij×ĺ ×Ĺ +Ġج دÙĬدة +Ġع دÙħ +ع ز +สิà¹Īà¸ĩ à¸Ĺีà¹Ī +ãģĻ ãĤĮãģ° +ĠÄij ô +ì£ ł +د ÙĤ +н омÑĥ +Ġk á»ĥ +ãĤ¢ ãĥ³ +å¤ļãģı ãģ® +à¸Ľà¸£à¸° à¸ģ +à¸Ľà¸£à¸°à¸ģ à¸Ńà¸ļ +פע×Ļ׾ ×ķת +ĠÑģÑĤ ол +may ı +ãģ¤ ãģĦ +Ġyılı nda +Ġ à¸Īึà¸ĩ +koÅĦ cz +ĠTh ông +Ġак ÑĤив +н ÑģÑĤ +нÑģÑĤ ÑĢÑĥ +ĠÃĸ z +Ġת ×ŀ×Ļ×ĵ +ĠÙĥ ÙĨت +Ñģ иÑģÑĤем +pr és +prés ent +Ġn â +Ġnâ ng +gÅĤ os +ĠÙĪØ² ÙĬر +ØŃ صÙĦ +Ġиме еÑĤ +ØŃ رÙĥØ© +à¸ŀ à¹Īà¸Ń +ãĤĴ ãģĬ +Ġاست خداÙħ +×IJ×Ļר ×ķ×¢ +ä»ĸ ãģ® +Ġש×Ķ ×Ŀ +ãģĹãģŁ ãĤī +ש×ŀ ×Ļ +Ñģ ла +m ı +Ġbaz ı +Ġíķĺ ì§Ģë§Į +×ĵ ׾ +Ġyapt ıģı +ãĥĬ ãĥ¼ +׾ ×Ļ׾×Ķ +ãģ¨ãģĦ ãģ£ãģŁ +änd ig +ĠÅŁ a +ĠÙģÙĬ Ùħا +иÑĤ елÑı +×ŀ ×ķש +à¸Ĥ à¸Ńà¸ļ +l ük +Ġh á»ĵi +Ġëª ħ +ĠاÙĦÙĥ Ø«ÙĬر +צ ×IJ +Ġhaz ır +طر Ùģ +ا ÙĬا +ĠÄij ôi +ен д +ÙĦ غ +×Ĺ ×ĸ×ķר +ĠвÑģ ег +ĠвÑģег да +ëIJĺ ê³ł +×ĵ ×ķ×ĵ +ан а +د ÙĪÙĦØ© +Ġho ạch +ع ÙĦا +عÙĦا ج +Ġ×ķ ×¢×ĵ +×Ķ ×Ŀ +ки й +ÙĦ ÙIJ +Ġ×¢ ׾×Ļ×ķ +ÑİÑī ий +Ġng á»§ +صÙĨ ع +ĠاÙĦع راÙĤ +à¸ķà¹Īà¸Ń à¹Ħà¸Ľ +ãģŁãģı ãģķãĤĵ +Ġph ạm +ÙĦ اÙĨ +ات Ùĩا +Ġbö yle +تÙĨ ÙģÙĬ +تÙĨÙģÙĬ ذ +Ġש×Ķ ×Ļ×IJ +Ñģ Ñĥ +ย าว +Ġש ×ķ׳×Ļ×Ŀ +Ġ×ŀ ×ķ׾ +ĠÑģ ил +Ġ×IJ×Ĺר ×Ļ×Ŀ +Ġph á»§ +ÙĤØ· ع +ĠTh á»§ +à¸Ľà¸£à¸°à¹Ģà¸Ĺศ à¹Ħà¸Ĺย +ÙĨ ÙĤ +ĠÄijo ạn +Ġب Ø¥ +п ÑĢедел +×ķת ×ķ +Ġy arı +пÑĢ Ðµ +ĠczÄĻ ÅĽci +ØŃ ÙĥÙħ +×ķ׳ ×Ļת +פע ׾ +ãĤĴ ãģĹãģ¦ +Ġktó rzy +׾ ×Ŀ +ĠÄIJi á»ģu +ĠкоÑĤоÑĢ Ð°Ñı +ĠìĿ´ ìĥģ +ãģĤ ãģ£ãģŁ +Ġ×ŀ×ĵ ×ķ×ijר +פ ×ķ×¢×ľ +d ım +éĢļ ãĤĬ +ĠбÑĥд ÑĥÑĤ +à¹Ģวà¹ĩà¸ļ à¹Ħà¸ĭ +à¹Ģวà¹ĩà¸ļà¹Ħà¸ĭ à¸ķà¹Į +ا خر +×Ĺ ×Ļ׾ +Ġ×Ļ ×ľ +Ġ×Ļ׾ ×ĵ×Ļ×Ŀ +×Ĺ ×Ļפ +×Ĺ×Ļפ ×ķש +Ġd òng +Ġש ×ĸ×Ķ +ÑĮ е +ãģĤ ãģ¨ +ìŀIJ ê°Ģ +×IJ ×ĵ +Ġü z +Ġüz ere +ظ ÙĦ +Ġ×IJ ×ķ׾×Ļ +Ġ×ij ×Ļ×ķ×Ŀ +ÙĦ ات +Ġm ê +ì¹ ¨ +تØŃ د +تØŃد Ø« +ĠØ® اصة +Ġب رÙĨ +ĠبرÙĨ اÙħج +ĠH Ãłn +×Ĺ ×¡ +ĠÙĪ ÙĦÙħ +×¢ ×Ŀ +Ġm ı +à¸Ł ัà¸ĩ +ש ×¢×Ķ +ÙĪÙģ ÙĤ +ס ×ij×Ļר +алÑĮ нÑĭй +×Ĺש ×ķ×ij +Ġn Ãłng +ë³ ¼ +ĠкоÑĤоÑĢ ÑĭÑħ +Ġ×Ĺ ×ķ×§ +t ör +ĠлÑĥÑĩ ÑĪе +ãĥij ãĥ³ +ลà¹Īา สุà¸Ķ +Ġج دÙĬد +ÙĬد Ø© +à¸Ĺ รà¸ĩ +ãĤĪãĤĬ ãĤĤ +ÙĦ ÙĦ +ãĤĤ ãģ£ãģ¨ +ש×ĺ ×Ĺ +Ġ×ķ ×IJ×Ļ +Ġgi á»ijng +Ø¥ ضاÙģ +×§ ת +ë§ Ŀ +Ġzosta ÅĤ +ÑĢ Ð¾Ð· +×Ļפ ×Ļ×Ŀ +Ġ׼׾ ׾ +ת×ķ׼ ף +dıģ ını +ÙĤ سÙħ +ĠÑģ ÑĩиÑĤ +ĠÑģÑĩиÑĤ а +×ĺ ×ķת +Ġ ưu +ĠØ¢ ÙĦ +Ġм ом +Ġмом енÑĤ +ĠاÙĦتع ÙĦÙĬÙħ +×¢×ľ ×ķת +Ġch ữa +Ġy ön +Ġtr Ãł +ĠØŃ ÙĬÙĨ +à¸ĭ ั +ĠC á +×¢ ×ĸ +ĠاÙĦØ£ ÙħÙĨ +c ÃŃ +Ġv á»ijn +Ġ à¸Ļาย +об ÑĢа +×§ ×IJ +Ġthi ếu +ãĥŀ ãĥ¼ +ส วà¸Ļ +Ġg á»Ń +Ġgá»Ń i +Ġê ¹ +Ġê¹ Ģ +Ġthi á»ĩn +ÙĤ ع +w ÄĻ +Ġн ам +ÑĤ ол +Ġs ân +ס ×ķ×Ĵ +Ġgeç ir +ÑĤ он +ев а +ĠÙĪ Ø¶Ø¹ +Ġع شر +Ñģ ло +à¸Ī ัà¸ļ +ãĤ· ãĥ¼ +ãĤĤ ãģĤãĤĬãģ¾ãģĻ +Ġv ẻ +ĠÄIJ á»ĥ +ر Ù쨹 +ĠاÙĦØ£ÙĪÙĦ Ùī +ÑĤ аÑĢ +ãģªãģı ãģ¦ +Ùħ Ùİ +qu ÃŃ +×¢×ł×Ļ ×Ļ׳ +г ен +Ġh ôm +à¸Ī า +Ġnh Ỽ +ĠاÙĦع ربÙĬ +×IJ ף +Ġl á»Ļ +Ġje ÅĽli +à¹Ģà¸Ĺà¹Īา à¸Ļัà¹īà¸Ļ +ĠØ£ÙĨ Ùĩا +Ġt uy +Ġtuy á»ĩt +Ġت ص +Ġتص ÙĨÙĬ +ĠتصÙĨÙĬ Ùģ +Ġê·¸ëŁ¬ ëĤĺ +о ÑĨен +à¸ģิà¸Ī à¸ģรรม +ãĤĦ ãģ£ãģ¦ +Ġkh á»ıi +Ġl á»ĩ +ĠاÙĦÙħج تÙħع +à¸Ńาà¸Ī à¸Īะ +à¸Īะ à¹Ģà¸Ľà¹ĩà¸Ļ +ов Ñĭй +ר ×Ŀ +ร à¹īà¸Ńà¸Ļ +ש ×ŀש +人 ãģ« +Ġüzer ine +פר ×Ļ +du ÄŁu +Ñĩ ик +Ġmù a +Ġ×ŀת ×ķ×ļ +Ġc áºŃp +Ġت ارÙĬØ® +×ij׾ ת×Ļ +Ġì¢ Ģ +ÙĦ ع +ب اÙĨ +Ġch út +Ġ×Ķ×ĸ ×ŀף +n ée +ĠLi ên +ĠÙĦÙĦ Ø£ +ØŃد ÙĪØ¯ +Ġ×¢ ׼ש×Ļ×ķ +в оз +Ġyapt ı +Ġоб о +à¹ĥหà¹ī à¸ģัà¸ļ +Ġ×ij×Ķ ×Ŀ +ãģı ãģ¦ +ر أس +ĠÑģÑĢед ÑģÑĤв +ĠB Ãłi +ãģĵãģ¨ ãģ« +ĠìĤ¬ íļĮ +Ġ모 ëijIJ +×ij ×IJ +Ġtr ắng +ĠاÙĦبÙĦ د +ĠHo Ãłng +ли бо +ĠдÑĢÑĥг иÑħ +İ R +Ñĥм а +ĠJe ÅĽli +ãĤĤ ãģĹ +Ġv òng +Ġ×IJתר ×Ļ×Ŀ +ĠÄij á»įc +Ġв оÑĤ +ãģł ãģĮ +ë° ° +à¸Ķู à¹ģล +Ġ×ŀ ׼׾ +ìĹIJ ëıĦ +г аз +Ġ׳×ķס פ×Ļ×Ŀ +ãģĵãģ¨ ãģ§ +Ġت ÙĪ +ãģ§ ãģĤãĤĬ +à¸Ļั à¹Īà¸ĩ +ĠможеÑĤ е +sz ÄĻ +ãģ® ãģł +ĠÙħÙĨ Ùĩ +Ġb á»ķ +Ġb üt +Ġbüt ün +ë³´ ê³ł +Ġch á»ĵng +à¹ģà¸Ī à¹īà¸ĩ +ĠV ì +ĠØŃ ر +Ġgi ản +ĠÙħ دÙĬÙĨØ© +تط بÙĬÙĤ +à¸Ī ิ +æĹ¥ ãģ® +б ил +à¸ģ à¸Ńà¸ĩ +ê³ ³ +ĠØ£ Ùħا +ìĨ IJ +Ġtr ái +ĠвÑģ ем +Ġس ÙĨØ© +ĠÑģай ÑĤ +Ġг оÑĤов +п Ñĭ +ĠëIJ ł +ĠاÙĦØ® Ø· +ĠاÙĦرئÙĬس ÙĬØ© +Ġíķ ©ëĭĪëĭ¤ +ĠìķĦëĭĪ ëĿ¼ +ĠìĿ´ ëłĩ +ĠìĿ´ëłĩ ê²Į +) ØĮ +h ält +ĠØ£ Ùħر +Ġع Ùħر +à¸ģà¹ĩ à¸Īะ +Ġ à¸Ĺำà¹ĥหà¹ī +Ġc ân +Ġ×ij ׾ +Ġ×ij׾ ×ij×ĵ +פ סק +ĠÙĬ ÙĤÙĪÙĦ +н ÑĥÑĤÑĮ +à¹ģ à¸Ħ +Ġ×§ צת +Ġn ằm +Ġh òa +bilit Ãł +ĠìĹĨ ëĭ¤ +Ġ׼ פ×Ļ +ÑĢ Ð¾Ð¶ +лаг а +Ġ×Ķש ×Ļ +ĠNgo Ãłi +ĠÙĪ Ø¬ +ĠÙĪØ¬ ÙĪØ¯ +ĠìľĦ íķľ +Ġus ÅĤug +Ġtu ần +d ź +×ŀ ×ķף +ĠاÙĦع دÙĬد +Ġch ẳng +สุà¸Ĥ à¸łà¸²à¸ŀ +Ġ×ij ×ĵר×ļ +ĠÑģеб е +ĠìŀĪ ìĿĦ +ĠاÙĦØŃ اÙĦ +Ġd á +Ġc ưá»Ŀi +Ġnghi ên +ie ÅĦ +ĠD ương +ï¼ ħ +Ø´ د +ãģĦãģ¤ ãĤĤ +ĠвÑĭб оÑĢ +Ġc á»Ļng +ש ×Ļ׳×ķ×Ļ +Ġch ạy +Ġ×ij×¢ ׾×Ļ +اخ بار +íķĺ ë©° +ż Äħ +ج از +Ġ׳ ר×IJ×Ķ +ศ ู +ศู à¸Ļ +ศูà¸Ļ ยà¹Į +×Ĵ ×¢ +Ġ×¢ ×ĵ×Ļ +Ġ×¢×ĵ×Ļ ×Ļף +بر ا +ÑĨи й +ĠÄIJ á»ĵng +ÙĤ اÙĨÙĪÙĨ +ĠÄij ứng +ãģĹãģŁ ãĤĬ +Ġ×Ĺ×Ļ ×Ļ +Ġë IJľ +ĠëIJľ ëĭ¤ +Ġм еждÑĥ +à¸ŀวà¸ģ à¹Ģà¸Ĥา +ĠB ắc +ล ำ +ë° ± +ĠíĻ ķ +มาà¸ģ ม +มาà¸ģม าย +бан к +à¸Ńา à¸ģาร +Ġh Ãł +Ġ׾ ׳ +à¸Ń à¸Ń +Ġë°Ķ ë¡ľ +л ом +m ática +ĠØŃ د +اب ت +à¸Ĺีà¹Ī à¸Ļีà¹Ī +Ġco ÅĽ +ÙģÙĬ دÙĬ +ÙģÙĬدÙĬ ÙĪ +ĠмеÑģÑĤ о +Ġph út +มาà¸ģ à¸ģวà¹Īา +×IJ פ +ب ÙIJ +ĠPh ú +ì± Ħ +ĠÙĪ Ø³ÙĦÙħ +à¸Īี à¸Ļ +поÑĤ ÑĢеб +Ġ×Ĺ×ĵ ש×ķת +Ø´ ÙĪ +Ġעצ ×ŀ×ķ +ĠعÙħÙĦ ÙĬØ© +à¸Ħุà¸ĵ à¸łà¸²à¸ŀ +ãģ¾ãģĻ ãģĮ +دع ÙĪ +طر ÙĤ +à¹Ħมà¹Ī à¸ķà¹īà¸Ńà¸ĩ +ë² Ķ +ìĬ ¹ +Ġk ÃŃch +ĠìĹĨ ëĬĶ +ĠÑĤ ам +ĠÙĨ ØŃÙĪ +ĠاÙĦÙĤ اÙĨÙĪÙĨ +×Ĺ ×ķ×Ŀ +Ġk ız +Ġ×ĵ ×Ļף +ĠвÑĢем ени +ãģ£ãģŁ ãĤĬ +ĠØ´ Ùĩر +ĠìĦľ ë¹ĦìĬ¤ +×¢ ש×Ķ +Ġgi ác +ĠاÙĦسÙĦ اÙħ +Ġ×IJ ש +ĠполÑĥÑĩ а +à¸Īัà¸Ķ à¸ģาร +к оÑĢ +Ġ×Ķ×ĺ ×ķ×ij +ราย à¸ģาร +주 ìĿĺ +à¹ģà¸ķà¹Ī ละ +Ġê·¸ëŁ° ëį° +à¸Ĺีà¹Ī à¹Ģà¸Ľà¹ĩà¸Ļ +Ġת ×ķ×ļ +بÙĬ اÙĨ +Ð Ļ +oÅĽci Äħ +ÑĤ ок +ĠÃ Ķ +ĠÃĶ ng +à¹Ħมà¹Ī à¹ĥà¸Ĭà¹Ī +ãģ¿ ãģ¦ +ÐŁ о +ĠЧ ÑĤо +íĻ © +×ĺ ×ij×¢ +меÑĤ ÑĢ +Ġ×ij ×ŀ×Ķ +Ġ×ij×ŀ×Ķ ×ľ +Ġ×ij×ŀ×Ķ׾ ×ļ +Ñĩ ÑĮ +×§ ש×Ķ +з нак +знак ом +uj ÄĻ +×Ļצ ר +ĠاÙĦÙħ ÙĦÙĥ +ı yla +×IJ×ŀ ת +à¸Ľ ิà¸Ķ +×IJ ×Ĺ×ĵ +ر اد +Ġm áºŃt +ëĭ¤ ëĬĶ +Ġl ạnh +ש׾ ×ķש +ØŃ دÙĬØ« +ت ز +å¹´ ãģ® +Ġк ваÑĢ +ĠкваÑĢ ÑĤиÑĢ +ä½ľ ãĤĬ +رÙĪ Ø¨ +ов ан +ĠТ е +à¸Īำ à¸ģ +à¸Īำà¸ģ ัà¸Ķ +ب اط +×Ĵ ת +Ġм аÑĪ +ĠмаÑĪ Ð¸Ð½ +×Ļצ ×Ķ +ãģ» ãģ¨ +ãģ»ãģ¨ ãĤĵãģ© +ÃŃ do +ĠÑı зÑĭк +à¸ļ ิà¸Ļ +สà¸ĸาà¸Ļ à¸Ĺีà¹Ī +ĠìĹ ´ +ãĤ¦ ãĤ§ +Ġc Ãł +п ан +åı£ ãĤ³ãĥŁ +Ġر د +اÙĤ ت +ĠÙĥ ب +ĠÙĥب ÙĬرة +ÑģÑĤ ал +ש×ŀ ×Ĺ +pos ición +ĠÙħÙĦÙĬ ÙĪÙĨ +ĠìĿ´ ìķ¼ +ĠìĿ´ìķ¼ ê¸° +Ġh út +ĠÅĽw iat +Ġë°© ë²ķ +ĠÑģв еÑĤ +Ġвиде о +ĠاÙĦÙĨ ظاÙħ +Ġtr á»Ŀi +ĠëĮĢ íķ´ìĦľ +ר ×ŀת +ت داÙĪÙĦ +×ķר ×ĵ +ת ×ŀ +ת×ŀ ×ķ׳×ķת +Ġ×ŀ ף +Ġдв а +Ġ×Ķ×§ ×ķ +æĹ¥ ãģ« +Ġ×Ķ×Ĵ ×Ļ×¢ +à¹Ģà¸ŀิà¹Īม à¹Ģà¸ķิม +Ùħار س +Ġê²ĥ ìŀħëĭĪëĭ¤ +ãģªãģĦ ãģ¨ +Ġnhi á»ĩt +ëIJ ©ëĭĪëĭ¤ +Ġ×ij׳ ×ķש×IJ +Ġê°Ģ ìŀ¥ +Ġv ợ +ĠÄij óng +צ×Ļ׾ ×ķ×Ŀ +ê´Ģ ê³Ħ +в аÑı +×IJ ×Ļ×ĸ +×IJ×Ļ×ĸ ×Ķ +ĠÙĨ ظاÙħ +ÙħØŃ اÙ쨏 +Ġt ải +기 ëıĦ +à¸Ľà¸±à¸Ī à¸Īุ +à¸Ľà¸±à¸Īà¸Īุ à¸ļัà¸Ļ +׼ ×ĵ×ķר +ĠìķĦ ìĿ´ +׼׳ ×Ļס +à¹Ģ à¸ķร +à¹Ģà¸ķร ียม +Ġngo ại +ĠدÙĪÙĦ ار +Ġr ẻ +Ġkh Äĥn +عد د +Ø´ عب +czy Äĩ +ĠاÙĦ Ùĥر +ĠÑĩеловек а +ĠÙĪ Ø¥ÙĨ +×IJ ×ĺ +Ġth Æ¡ +ĠاÙĦ رÙĬاض +оп ÑĢедел +опÑĢедел ен +×Ķ ×ŀש×ļ +ĠÐĿ ово +з Ñĭва +ĠاÙĦدÙĪÙĦ ÙĬ +ĠÄij áp +Ġк ÑĢед +ĠкÑĢед иÑĤ +ов ого +Ġm ôn +à¸Ľà¸£à¸° à¹Ĥย +à¸Ľà¸£à¸°à¹Ĥย à¸Ĭà¸Ļ +à¸Ľà¸£à¸°à¹Ĥยà¸Ĭà¸Ļ à¹Į +ÑģÑĤ е +ĠTh á»ĭ +د ÙĬØ© +×ŀצ ×ķ +Ùģ Ø§Øª +×§ ×ĵ×Ŀ +ìĿ´ëĿ¼ ê³ł +ÙĪ Ø® +Ġ×Ĺ ×ĸ +ĠÑĦоÑĤ о +׾ ×Ļת +ت Ùİ +ÙĪ Ø¨Ø± +й ÑĤи +ĠÃ¶ÄŁ ren +Ġ×Ķ×ĸ ×ķ +Ġv á»įng +ÙĤÙĪ Ø© +ĠT ây +ĠÐĿ и +Ġש ×ķ×ij +ãģ¨è¨Ģ ãĤıãĤĮ +ãģ© ãĤĵãģª +׊צ×Ļ +ï½ ľ +Ġ×ķ×Ķ ×ķ×IJ +ä¸Ģ ãģ¤ +ĠÑģÑĤо иÑĤ +ni Äħ +×ĺר ×Ļ +ĠдеÑĤ ей +нÑı ÑĤÑĮ +ĠÑģдел аÑĤÑĮ +Ġë§İ ìĿ´ +ä½ķ ãģĭ +ãģĽ ãĤĭ +à¹Ħ หม +à¸ķิà¸Ķ à¸ķà¹Īà¸Ń +Ġ×ij ת×Ĺ +Ġ×ijת×Ĺ ×ķ×Ŀ +ìĻ Ħ +ì§Ģ ëĬĶ +ÑģÑĤ аÑĤ +ÑıÑģ н +ü b +Ġth ả +Ġ×ij×IJ×ŀ ת +Ġt uyến +×ĵ ×Ļר×Ķ +Ġ×IJ ×Ļש×Ļ +×ĸ׼ ר +ãģ° ãģĭãĤĬ +Ġx ét +׼ ×Ļ×ķ +׼×Ļ×ķ ×ķף +diÄŁ ini +ĠاÙĦÙħ ÙĪØ¶ÙĪØ¹ +Ġh áºŃu +à¸Īาà¸ģ à¸ģาร +×ijס ×Ļס +Ġ×ŀ×Ĵ ×Ļ×¢ +×ij ×Ļ×¢ +ĠÙĪ Ø¬Ùĩ +à¹ģà¸Ķ à¸ĩ +à¸Ļ าà¸ĩ +ĠÅŀ a +ì ¡´ +ë¡ Ģ +à¸ķ ะ +Ġ×Ķ×Ĺ×Ļ ×Ļ×Ŀ +Ùģ ÙĬد +ãģ§ãģĻ ãģĭãĤī +ê· ľ +ź ni +ĠлÑİ Ð´ÐµÐ¹ +Ġyüz de +ıy orum +ĠاÙĦ بØŃر +e ño +п аÑĢ +ÙĬ ÙĤØ© +об ÑĢ +ר ×ķ×ļ +ت ÙĪÙĤع +ĠاÙĦØ´ ÙĬØ® +åĪĿ ãĤģãģ¦ +ĠÑĤ елеÑĦ +ĠÑĤелеÑĦ он +Ġth ôi +Ġ×Ļ׼×ķ׾ ×Ļ×Ŀ +ĠÅŁ irk +ĠÅŁirk et +Ġìļ°ë¦¬ ê°Ģ +ĠÄij ông +Ġת ×ķ×ĵ×Ķ +ÑģмоÑĤÑĢ ÐµÑĤÑĮ +ĠÙĦ ÙĩÙħ +Ġ׾ ׼ +ĠN ó +ĠØŃ اÙĦØ© +ãģĦ ãģij +קר ×ķ +az ı +ãĤ³ ãĥ¼ +ĠÙĦÙĦ ت +s ınız +ĠH ải +기 ìĪł +ยัà¸ĩ à¹Ħมà¹Ī +ëĭ¤ ê³ł +פ ×Ĺ +Ġ׾×Ĵ ×ij×Ļ +Ġع ÙĨÙĩ +Ġк аз +Ġказ ино +ب ÙĪØ± +ÑĦ еÑĢ +Ġê°Ļ ìĿ´ +تس جÙĬÙĦ +ĠاÙĦÙħ رÙĥز +ĠTh ái +д аÑĤÑĮ +×ŀ×Ļ ×Ļ׾ +Ġpay laÅŁ +ãģ¤ ãģ® +à¹Ģร ืà¸Ń +n ça +׳ ×ķ×Ĺ +Ġ×IJ פ×Ļ׾×ķ +ãģ¨ èĢĥãģĪ +ãģ¨ãģĹãģ¦ ãģ¯ +à¹Ģà¸Ī à¸Ń +×ŀ פ +Ġg iriÅŁ +л иÑĤ +ÑĤ елÑı +Ñij н +æ°Ĺ ãģ« +Ġg ó +Ġgó p +åĪĩ ãĤĬ +Ġ×Ķ ×Ĺ×ĵש +ж ал +Ġ×ĵ עת +éģķ ãģĨ +à¹Ģà¸Ĥà¹īา à¹Ħà¸Ľ +Ġס ר×ĺ +e ña +æĸ° ãģĹãģĦ +ر Ùİ +ĠÐIJ ÑĢ +Ġph ản +à¸Īะ à¹Ħà¸Ķà¹ī +Ġ×ijצ ×ķר×Ķ +Ø´ اÙĩ +شاÙĩ د +ÙĪØ± د +à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ à¸Īาà¸ģ +или ÑģÑĮ +à¹ģละ à¸ģาร +Ġ×Ķ ×ĸ׼ +Ġ×Ķ×ĸ׼ ×ķ×Ļ×ķת +ei ÃŁ +ãĥ ¨ +ìĥ Ī +ĠÃĩ a +Æ ¯ +ש ×Ĵ +ÙĬÙĨ Ø© +ร à¹īà¸Ńà¸ĩ +ãĤµ ãĥ³ +ÑĢоÑģÑģ ий +ÑĢоÑģÑģий Ñģк +a ÄŁa +ĠнаÑĩ ина +Ġص ÙĦÙī +à¸Ĺุà¸ģ à¸Ħà¸Ļ +íļĮ ìĤ¬ +Ġли ÑĨ +Ø´ ÙĬر +ĠØ´ÙĬ Ø¡ +ÙĬÙĨ ا +Ġפ ×Ĺ×ķת +Ġiçer is +Ġiçeris inde +ĠØ£ ØŃÙħد +Ġże by +ì´ Ŀ +Ġп оказ +Ġи менно +หà¸Ļัà¸ĩ ส +หà¸Ļัà¸ĩส ืà¸Ń +ĠÑĤÑĢ Ðµ +สัà¸ĩ à¸Ħม +Ø¥ ÙIJ +ãģĮ å¿ħè¦ģ +ÙĬÙij Ø© +פ צ +íĭ ° +ĠÙħ جاÙĦ +׳ פש +к ан +×Ĺ ×ķפ +×Ĺ×ķפ ש +ì²ĺ ëŁ¼ +ов аÑı +з ов +Ġh ạ +Ġdzi ÄĻki +×Ļר ×ķ +Ġ׾ ×ŀצ +Ġ׾×ŀצ ×ķ×IJ +×Ļ×ĵ ×ķ +Ġs ợ +Ġ׾×Ķ ×Ĵ×Ļ×¢ +×§ ×ij×¢ +Ġchi á»ģu +ãĥŀ ãĤ¤ +Ġd Ãłng +à¹ģà¸Ł à¸Ļ +Ġü ye +×Ļ׳ ×Ĵ +à¹Ģรีย à¸ģ +ç§ģ ãģĮ +th é +ĠÑĦ илÑĮ +ĠÑĦилÑĮ м +ĠNg Ãły +Ġж ен +Ġжен Ñīин +ج ÙĬد +n ç +à¸Ľ รา +×Ļ×ŀ ×ķ +Ġn á»ģn +×IJ ×ķ׾×Ŀ +Ġвозмож ноÑģÑĤÑĮ +Ġëĭ¤ ìĭľ +è¦ĭ ãģŁ +à¸ĸ à¸Ļ +à¸ĸà¸Ļ à¸Ļ +mız ı +ĠÙħ جÙħÙĪØ¹Ø© +c jÄħ +ĠÐł Ф +à¸ģำ หà¸Ļ +à¸ģำหà¸Ļ à¸Ķ +ĠìŬ 기 +land ı +ни ÑĨ +ÑģÑĤв е +Ġ×ĵ ×ijר×Ļ×Ŀ +Ġsk ÅĤad +ãĤĬ ãģ¾ãģĹãģŁ +ĠоÑĤ кÑĢÑĭÑĤ +нÑı ÑĤ +ĠÑģво ей +à¸Ī ิà¸ķ +ĠкаÑĩеÑģÑĤв е +Ġet tiÄŁi +ìĤ¬ íķŃ +ĠاÙĦÙĬ ÙħÙĨ +иÑĩеÑģки й +ë¸ Į +Ġ×ij×IJר ×¥ +Ġا سÙħ +Ġиз веÑģÑĤ +r ão +Ġatt ivitÃł +à¹Ģà¸Ľà¹ĩà¸Ļ à¸ģาร +ĠاÙĦد Ùĥت +ĠاÙĦدÙĥت ÙĪØ± +ĠÙĪØ§ØŃد Ø© +ĠÑģ ÑĩеÑĤ +ĠпÑĢ Ð¸Ñĩ +ĠпÑĢиÑĩ ин +ĠÙĪØ² ارة +Ġh uyá»ĩn +ĠÙĥ تاب +à¹ģà¸Ļ à¹Īà¸Ļ +à¹ģà¸Ļà¹Īà¸Ļ à¸Ńà¸Ļ +Ġgün ü +г ÑĢÑĥз +ĠاÙĦØ® اص +Ġgör ül +׾ ×ŀ×ĵ +Ġìłķ ëıĦ +×ķ×ij ×Ļ׾ +Ġ×ŀ×§ צ×ķ×¢×Ļ +ĠоÑģоб енно +à¸Ľà¸£à¸° à¸ģา +à¸Ľà¸£à¸°à¸ģา ศ +aca ģını +ë¶ ģ +à¸łà¸¹ มิ +ĠÑį лекÑĤ +ĠÑįлекÑĤ ÑĢо +Ġ×§ ש×Ķ +سÙĦ Ø· +à¸Ĭà¸Ļ ะ +×¢ ×Ļ׾ +ĠЧ е +à¹ģà¸Ļ à¹Ī +lı ÄŁ +lıģ ın +Ġ×ŀ×¢ ×¨×Ľ×ª +好ãģį ãģª +มาà¸ģ à¸Ĥึà¹īà¸Ļ +×ŀ×¢ ×ijר +ĠاÙĦÙħ غرب +ĠпеÑĢ Ð¸ +ĠпеÑĢи од +Ġnh ạc +ا ÙĪÙĬ +ĠÙĪ Ø¹ÙĦÙī +أخ ذ +ĠC ô +תר ×ij×ķת +×Ĵ ×Ķ +Ġktóre j +×IJ ×Ļת +×ij ×ķ×IJ +д елÑĮ +รี วิ +รีวิ ว +ж Ñĥ +Ġ×ij×Ĺ ×ķ +еÑĪ ÑĮ +ĠØ£ ÙĦÙģ +ĠاÙĦÙĪ Ø·ÙĨÙĬ +ĠاÙĦÙħÙĨ Ø·ÙĤØ© +nÄħ Äĩ +Ġthi ên +иÑĩеÑģк ой +ĠاÙĦÙħ ÙĦ +Ġع Ùħ +ס פר +Ġnh óm +ÙĪØµ Ùģ +ĠCh úng +Ġر ÙĤÙħ +ãģ¾ãģĹãģŁ ãģĮ +al ité +ล ม +ĠëĤ´ ê°Ģ +׾ק ×ķ×Ĺ +ĠS Æ¡n +pos ição +mi ÄĻ +Ġtr ánh +ĠÄIJ á»Ļ +׼ ×Ĺ +ãģĤ ãģ£ãģ¦ +à¸Ńย à¹Īา +Ġ×ŀ×Ĺ ×Ļר +Ġ×Ķ ×Ļת×Ķ +à¸Ľ à¹Īา +à¸Ńืà¹Īà¸Ļ à¹Ĩ +Ø´ ÙĤ +×ł×¡ ×Ļ +ë¦ ¼ +ãģ¦ãģĹãģ¾ ãģĨ +Ġ×ŀ צ×ij +ãģ« åĩº +ÙħÙĪØ§ Ø·ÙĨ +ยัà¸ĩ มี +алÑĮ нÑĭе +san ız +Ø¥ سرائÙĬÙĦ +ĠvÃł i +ì¤ Ħ +ã썿ĢĿ ãģ£ãģ¦ +×Ļ ×ķ׳×Ļ +çĶŁ ãģį +Ġs âu +Ñĩ иÑģÑĤ +Ġl á»ħ +ĠGi á +à¸Ńุ à¸Ľ +à¸Ńà¸¸à¸Ľ à¸ģร +à¸Ńà¸¸à¸Ľà¸ģร à¸ĵà¹Į +Ġnh ẹ +r ö +ס ×ĺ×Ļ +ãģķãĤĵ ãģĮ +Ġd ầu +ع Ùİ +ت را +×Ĵ×ĵ ׾ +Ġtécn ica +׼ ׳×Ļ×Ŀ +תק ש +תקש ×ķרת +Ġн его +ét ait +Ġm á»ģm +Ñģ еÑĤ +Ġnh áºŃt +Ġ×ŀ ×¢×ľ +Ġ×Ķ×¢ ×ij×ķ×ĵ +Ġ×Ķ×¢×ij×ķ×ĵ ×Ķ +Ġ×Ĵ ×Ļ׾ +ãģ¯ ãģªãģĦ +ائ ØŃ +Ġз деÑģÑĮ +×IJ ×Ļ׳×ĺר +Ùħ ÙIJ +Ġ×Ļ ×Ĺ×ĵ +ر اÙģ +ì²ĺ 리 +×ĵ ×¢×ķת +ì¹ ľ +ĠТ о +ĠTh ế +ì¶ © +Ġ׳׼ ×ķף +عÙĬ Ø´ +ни з +Ġج اÙĨب +×ŀ×§ צ×ķ×¢ +à¹Ĥ à¸ĭ +Ñģ ÑĥÑĤ +ìĸ´ ìļĶ +ãĤĴè¦ĭ ãģ¦ +ار د +Ġaç ıl +ĠاÙĦØŃ ÙĬاة +à¸ģà¹ĩ à¹Ħà¸Ķà¹ī +ãģĿãĤĮ ãĤĴ +عض ÙĪ +Ġг ÑĢаж +ĠгÑĢаж дан +à¸Īะ à¸ķà¹īà¸Ńà¸ĩ +ĠìĿ´ 룬 +ĠìĿ´ë٬ íķľ +Ġtr ách +ÙĨ Ùİ +Ġkı sa +Ã Ķ +ÑĪ ÐºÐ° +ãģ® äºº +ĠÐŁ оÑģ +ĠÐŁÐ¾Ñģ ле +Ñĥ лÑĮ +ÙĪØ§ جÙĩ +ÙĤ رب +à¸Ľà¸ıิ à¸ļัà¸ķิ +ê° Ļ +Ġ×ŀ ׳ +ĠÑģво и +بر اÙħج +Ġر ÙĪ +пÑĢ Ð¾Ð´ +пÑĢод аж +Ġby ÅĤy +วั ย +Ġgör ün +ĠÃ Ī +ÑİÑī им +ĠÑĤак ой +Ùģ ÙĪØ± +ĠÙģ Ø¹ÙĦ +Ġб ел +ëIJ ł +er ÃŃa +ĠÑģво Ñİ +Ġl ã +Ġlã nh +à¹Ģà¸ŀืà¹Īà¸Ń à¹ĥหà¹ī +ÙĤ ÙĨ +تط ÙĪÙĬر +Ġsay ı +ĠÑģ ейÑĩаÑģ +Ġ×IJ×Ĺר ת +×§ ×ķפ×Ķ +×§×ķר ס +Ġس Ùħ +Ġ×ĺ ×Ļפ×ķ׾ +ìĿ´ëĿ¼ ëĬĶ +دراس Ø© +èµ· ãģĵ +×Ĺ ×Ļ׳ +×Ĺ×Ļ׳ ×ķ×ļ +×ĵ ×§ +Ġë§ ŀ +Ġком анд +ĠÐij о +Ġиг ÑĢÑĭ +à¸ļ ี +ĠØ£ Ùİ +в ен +ĠاÙĦج دÙĬد +ĠÙĦ Ø¥ +Ġ×ķ×IJ ׳×Ļ +Ġ×Ķס ×Ļ +иÑĩеÑģк ого +رÙĪ ØŃ +à¸ģาร ศึà¸ģษา +ĠTr ưá»Ŀng +иг ÑĢа +ıl ması +Ġм аÑģÑģ +ãģ¨ãģį ãģ« +à¸Ĺีà¹Ī à¸ľà¹Īาà¸Ļ +à¸Ĺีà¹Īà¸ľà¹Īาà¸Ļ มา +ĠاÙĦساب ÙĤ +Ġ×ŀ×¢ ×ĺ +в аÑĤÑĮ +m Ã¼ÅŁ +Ġ׾ ׼×ļ +Ġt á»ĭch +Ùģ ÙĩÙħ +تد رÙĬب +Ø´ Ùĥ +Ġ×ij ×ŀ×Ļ +Ġ×ij×ŀ×Ļ ×ķ×Ĺ×ĵ +ÙĤØ· اع +ãģª ãģĹ +×ķצ ×Ļ×IJ +ĠÙĪ Ø³ÙĬ +з Ñĥ +Ġy at +Ġyat ırım +ë§ İ +Ġth ắng +ãģĬ 客 +ãģĬ客 æ§ĺ +ĠThi ên +ãģ«å¯¾ ãģĹãģ¦ +ÑĢ Ð¸Ñģ +ÙĨت ائ +ÙĨتائ ج +Ġ×ŀ שר +Ġ×ŀשר ×ĵ +Ġتع اÙĦ +ĠتعاÙĦ Ùī +ש ׳×Ļ +Ùĩ اÙħ +×IJ׳ ש×Ļ×Ŀ +Ġżyc ia +ĠÑĢÑĥб лей +ÙĬ ض +Ġkat ıl +ĠÙħ ÙĪØ¶ÙĪØ¹ +Ġvard ır +ĠÙħÙĨ Ø·ÙĤØ© +ĠTr ần +Ġв еÑģ +ü p +Ùħ ÙĪÙĨ +ÑĪ Ð»Ð¸ +Ġn óng +Ø® ÙĦÙģ +ĠС ÑĤа +Ġд оÑĢ +ĠдоÑĢ Ð¾Ð³ +ĠwÅĤa ÅĽnie +eÄŁ in +Ġhi á»ĥm +ĠС ам +ê»ĺ ìĦľ +ĠÑĦ а +ãģ» ãģĨ +ãģ»ãģĨ ãģĮ +×ķפ ×Ļ×¢ +ê° Ī +د ÙĪÙĦ +Ġthu ê +Ġch á»Ĺ +Ġëĭ¹ ìĭł +ãģij ãĤĮ +ãģijãĤĮ ãģ© +ë³´ íĺ¸ +ãģķãĤĮ ãģ¦ãģĦãģ¾ãģĻ +Ġнад о +ĠìĤ¬ëŀĮ ëĵ¤ +à¹Ģà¸Ĥ à¸ķ +สม ัย +z ÅĤ +ت ÙĪØ± +Ġש ת×Ļ +v ê +Ġ×ijת ×ķ×ļ +à¸Ĭ ัย +ãģĦ ãģ£ãģŁ +ìĿ ij +Ġt ầ +Ġtầ ng +ש ׼ר +Ġê¸ Ģ +Ġ×Ķש ׳×Ķ +Ġا ÙĨÙĩ +ç«ĭ ãģ¡ +r és +füh ren +ر ØŃÙħ +ê· ¹ +ĠâĢ « +Ġsu ất +à¸Ł ิ +ÙĬ Ùĩا +ĠاÙĦ اتØŃاد +Ġt uyá»ĥn +ãģ¾ ãĤĭ +Ġm ại +Ġng ân +ãĤ° ãĥ© +欲 ãģĹãģĦ +س ار +ãĤĤãģ® ãģ§ãģĻ +ки е +Ġseç im +åħ¥ ãĤĬ +ãģªãģ© ãĤĴ +ÑĤ ÑĢи +ĠÑģп еÑĨ +ĠØ£ د +Ġод но +ÑĪ ÐµÐ» +ãĥĩ ãĥ¼ãĤ¿ +ãĤ· ãĤ¹ãĥĨ +ãĤ·ãĤ¹ãĥĨ ãĥł +è¡Į ãģį +ã썿ĢĿ ãģ£ãģŁ +à¹Ģà¸ģิà¸Ķ à¸Ĥึà¹īà¸Ļ +ĠÑĤ ож +ĠÑĤож е +Ġs ạch +ĠÑģ ÑĢок +Ġкли енÑĤ +ĠÙħØ´ رÙĪØ¹ +Ġalt ında +Ġì ·¨ +ä¸Ń ãģ® +ãģķãģĽ ãĤĭ +ãģĻ ãģ¹ +ãģĻãģ¹ ãģ¦ +ê°ľ ë°ľ +ĠÄij êm +ãģªãģĦ ãģ®ãģ§ +ì² ł +×¢ ×ij×ĵ +Ġd ấu +à¸Ħà¸Ļ à¸Ĺีà¹Ī +ĠC ách +تع ÙĦÙĬÙħ +Ġh ại +ãĤ» ãĥķãĥ¬ +ĠÙĨÙ쨳 Ùĩ +ĠíĨµ íķ´ +ÑĪ Ð»Ð¾ +Ġнап ÑĢав +ĠнапÑĢав лен +ÑĢÑĥ Ñĩ +íĶ Į +Ġ×ijר ×Ļ×IJ +ãģ® ãģ¿ +ãģ«ãģĬ ãģĦãģ¦ +×ij ׳ק +ãĤ¨ ãĥ³ +Ø«ÙĦ اث +Ġm ỹ +ĠÑģай ÑĤе +Ġе мÑĥ +ت غÙĬ +تغÙĬ ÙĬر +خص ÙĪØµ +ÑĤе ли +Ġ×ķ׾ ׼ף +פע ×Ŀ +Ġпо ÑįÑĤомÑĥ +ر اÙĨ +иÑĤел ей +пиÑģ ан +×¢ ×¥ +ĠìĤ¬ ìĹħ +Ùħ ز +جÙħ ÙĬع +ë©´ ìĦľ +à¸ľà¸¥à¸´à¸ķ à¸łà¸± +à¸ľà¸¥à¸´à¸ķà¸łà¸± à¸ĵ +à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵ à¸ij +à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵà¸ij à¹Į +ĠпÑĢ Ð¸Ð¼ÐµÑĢ +ãĤŃ ãĥ¼ +l â +Ġch Äĥm +缮 ãģ® +ãģĦ ãģĭ +ãģ¨è¨Ģ ãģĨ +×ĸ ×ķ×Ĵ +Ġ×ij ×ĵ×Ļ +Ġ×ij×ĵ×Ļ ×ķ×§ +ãģĬ åºĹ +à¸ķà¸Ńà¸Ļ à¸Ļีà¹ī +Ġph á»iji +п ÑĤ +สà¸Ļ าม +Ø· ÙĪ +ص اØŃ +صاØŃ ب +ĠD ü +ĠDü nya +Ġп ока +п ал +ĠÄij ảo +ĠاÙĦÙģ ÙĪØ± +ĠاÙĦÙģÙĪØ± Ùĥس +Ġmá u +кÑĢ ÐµÐ¿ +ĠاÙĦس اعة +ĠгоÑĢ Ð¾Ð´Ð° +Ùģ ØµÙĦ +ай ÑĤе +Ġд ог +Ġдог овоÑĢ +ĠØ¥ ذ +Ġ×ij׼׾ ׾ +ÙĬ تÙĩ +×Ĵ ×ijר +Ġbir ç +Ġbirç ok +문 íĻĶ +ãģĿãģĨ ãģª +را ØŃ +ĠÙħ رة +ĠденÑĮ ги +f ä +à¸Ĥà¹īา ว +ĠÑģов ÑĢем +ĠÑģовÑĢем енн +׾×Ĺ ×¥ +èī¯ ãģı +ĠÙģ Ø£ +Ġ×ķ ×ĸ×Ķ +Ġз ани +Ġзани ма +Ġê°Ģì§Ģ ê³ł +Ġh Æ¡i +ãģªãģ® ãģĭ +ãĥĨ ãĥ¬ãĥĵ +Ġר ×ij×ķת +à¸ķ ี +Ġ×ijש ×ł×ª +ĠT ại +Ġthu áºŃn +Ñģ ел +Ñij м +dzi Äĩ +ĠÑģ ка +ĠÑģка Ñĩ +ĠÑģкаÑĩ аÑĤÑĮ +×ķ×ŀ ×ķ +г ла +Ġмин ÑĥÑĤ +åĩº ãģĻ +Ġ×Ĺ×Ļ ×Ļ×ij +Ġת ×Ĵ×ķ×ij×Ķ +à¸£à¸¹à¸Ľ à¹ģà¸ļà¸ļ +ни ÑĨа +Ġİ n +ĠØ£ ع +Ġض ÙħÙĨ +Ùħ ثاÙĦ +ĠyaÅŁ an +ĠìŰ 구 +ĠL ê +ש׾ ×Ĺ +ãģı ãģªãĤĭ +ìĹĨ ìĿ´ +ĠÑĤ ÑĢи +ĠÑĩаÑģÑĤ о +Ġоб ÑĢаÑĤ +п ло +د Ø® +دخ ÙĪÙĦ +س Ùĩ +à¸Ń าà¸ģ +à¸Ńาà¸ģ าศ +Ġ׼ ×ĸ×Ķ +Ġ×Ķ×¢ סק +ĠاÙĦØ£ ÙĨ +å¹´ ãģ« +×¢ ש×ķ +Ġש ×¢×ķת +Ġm Ãłn +×IJר ×Ļ +sı yla +Ù쨱 ÙĤ +ни Ñħ +Ġت ست +è¦ĭ ãģ¦ +ØŃا ÙĪÙĦ +×IJ ×Ļ׼×ķת +ĠbaÅŁ ladı +st Äħ +stÄħ pi +à¸Ĺีà¹Ī à¹Ģรา +ÙĤر ر +ج اب +Ġ×ijר ×ķר +à¹Ģà¸Ĥà¹īา à¹ĥà¸Ī +×ŀ׊קר +al ım +Ġס ×Ļפ×ķר +ãģ§ãģĤ ãĤĮãģ° +Ġש×ŀ ×ķר×ķת +Ġ×ķ ×ŀ×Ķ +ãģĵ ãģĿ +id ée +ä¸ĭ ãģķãģĦ +تÙĨا ÙĪÙĦ +Ġ ลà¹īาà¸Ļ +Ġìļ°ë¦¬ ëĬĶ +اÙĨ ا +ÑģÑĤ ой +б оÑĤ +ĠyaÅŁ am +kö y +Ø¥ ÙĦ +ÑĢ Ñĭв +기 ìĹħ +Ġ×Ķ×ŀ ×ĵ +Ġ×Ķ×ŀ×ĵ ×Ļ׳×Ķ +د ب +×¢ ×Ļ׳×Ļ +×ŀ ת×Ĺ +Ġפ ר×Ļ +ãĥĭ ãĥ¼ +اÙħ ÙĬ +Ġnh ằm +ãĤĮ ãģªãģĦ +ت عرÙģ +Ġë§Ī ìĿĮ +ìĵ ° +Ġh ấp +ר×Ĵ ×Ļ׾ +ب Ùİ +Ġr Äĥng +gl Äħd +ĠÑģиÑģÑĤем Ñĭ +Ġkh óa +ãģ§ãģĻ ãĤĪãģŃ +大ãģį ãģı +기 를 +Ġké o +ÙĪ Ø¡ +ج اÙħ +جاÙħ ع +Ġ×¢ ×Ļצ×ķ×ij +t éri +Ġת ש +Ġ×IJ ×ij×Ļ +ĠCh ương +à¸ļริ à¹Ģว +à¸ļริà¹Ģว à¸ĵ +ãģ¤ ãģı +Ġ×Ĺ ×ķ׾ +עת ×Ļ×ĵ +ש ×Ļ×ŀ×Ķ +ëĤ ¨ +Ġש×IJ ×Ļף +ĠÙĪØ§ÙĦ Ø¥ +ÑĦ а +Ġkh ám +Ġ×ĺ ×ķ×ij×Ķ +ĠвÑĭ Ñģ +ĠвÑĭÑģ око +ĠاÙĦØŃ دÙĬØ« +人 ãĤĤ +d Ã¼ÄŁÃ¼ +×Ļ×Ĺ ×ķ×ĵ +تع ÙĦÙĬ +تعÙĦÙĬ ÙĤ +l ö +تØŃ دÙĬد +н его +ĠÑĥд об +Ġ׾ ×ŀ×Ļ +Ġר ×ķצ×Ļ×Ŀ +Ġج اء +Ġ×ij ×ĸ×ŀף +à¸Ľà¸ģ à¸ķิ +é«ĺ ãģı +à¸Ľà¸¥ า +Ġart ık +Ġbug ün +×§ ׳×Ļ +Ġkho á +ĠÙħ رÙĥز +ĠìŀIJ 기 +در جة +×ŀש ר×ĵ +Ġgi ấy +Ġch óng +×§ פ +ÙĬب Ø© +ĠczÄĻ sto +в али +Ùĥ ب +ìŁ ģ +ส à¸ļาย +à¸Ľà¸£à¸°à¸Ĭา à¸Ĭà¸Ļ +×Ĵ ×ķ×£ +ëŁ ī +ãģ® ãģĵãģ¨ +ล à¸Ń +Ġngh á»ī +åŃIJ ãģ© +åŃIJãģ© ãĤĤ +à¹Ħà¸Ķ à¹īà¸Ńย +à¹Ħà¸Ķà¹īà¸Ńย à¹Īาà¸ĩ +×ĵ ×¢ +ĠاÙĦت Ùī +ĠÑģов еÑĤ +Ġqual itÃł +åĩº ãģĹ +ĠÑĢÑĥк ов +ĠÑĢÑĥков од +ราย ละà¹Ģà¸Ńียà¸Ķ +ãģªãģĭ ãģªãģĭ +기 ê´Ģ +Ġ×Ĺ ×ķש +Ġ×Ĺ×ķש ×ij +л оÑĤ +à¸Ļะ à¸Ħรัà¸ļ +×§×ij ×ķצ×Ķ +Ġth ái +Ġש ×ij×Ķ +ĠÑĪ ÐºÐ¾Ð» +ĠÙĦ ÙĥÙĦ +à¹ĥà¸Ļ à¸Ĭà¹Īวà¸ĩ +ĠÙħ ÙĥاÙĨ +ë ķĮ +Ġc ải +ĠCh ÃŃ +ÑĥÑĩ а +ìĿ µ +Ġx ảy +à¸Ĭà¸Ļ ิà¸Ķ +Ġc áºŃu +к ÑĢов +ss é +ĠÙĨ ÙĪØ¹ +ĠТ а +Ø® Ùħس +פ×ķס ×ĺ +Ġm ắc +ĠÄij em +à¸ģาร à¹ĥà¸Ĭà¹ī +ר ×ķס +ĠÐĽ е +Ġth á»Ń +รà¹Īาà¸ĩ à¸ģาย +üz ü +æĹ¥æľ¬ ãģ® +ê³¼ ìłķ +ש ×Ļ×IJ +ĠìŀĪ ê³ł +×ij ×ķ׾ +ìķ ħ +ĠÙĪØ§ÙĦ ا +ĠÐĽ и +ĠвÑģ Ñij +Ġużytk ow +×Ĺ ×ķ׾ +ر Ù쨶 +Ġson uç +ãģĦ ãģ¾ãģĽãĤĵ +ìĤ¬ ìĹħ +ëĪ Ħ +ÑĤ ек +Ġud ziaÅĤ +л ез +Ġ×Ķ×Ļ ×Ļת×Ļ +ãĤīãĤĮ ãģ¦ +Ùħس ؤÙĪÙĦ +ر ار +ÑĤ ан +ĠÄij Ãło +Ġר ×ķ×ij +Ġ×ijש×ij ×Ļ׾ +ä»ĬåĽŀ ãģ¯ +ãĤ¸ ãĥ¥ +Ġ×¢ ×ijר +ãģĽ ãģ¦ +п олÑĮ +ak lı +Ġk ÃŃnh +د ت +лож ение +ĠاÙĦÙħ ص +ĠاÙĦÙħص رÙĬ +à¸Īริà¸ĩ à¹Ĩ +ĠاÙĦشر ÙĥØ© +ĠÄij á»ı +ãĥĽ ãĥĨ +ãĥĽãĥĨ ãĥ« +Ñį кон +Ñįкон ом +ĠÙĪ Ø¹ÙĨ +Ġת ׳ +Ġ×ª×ł ×IJ×Ļ +ĠاÙĦدÙĪÙĦ ÙĬØ© +Ġì§Ģ ìĹŃ +ãģ§ãģĻ ãģĭ +Ġв аÑĢи +ĠваÑĢи анÑĤ +ĠاÙĦع رب +ел а +Ġt Æ°á»Ľng +sk Äħ +Ġm ặc +ส ัà¸ģ +ãĥĵ ãĥ¼ +Ġ×ij ×Ĵ׾ +Ġ×ij×Ĵ׾ ׾ +ãĥķãĤ¡ ãĥ³ +×ij ×Ļצ +×ij×Ļצ ×ķ×¢ +ли ÑģÑĤ +à¸Ł ุ +à¸Łà¸¸ à¸ķ +à¸Łà¸¸à¸ķ à¸ļà¸Ńล +à¸Ŀ à¹Īาย +ìŀIJ ìĿĺ +Ġس ÙĪÙģ +Ġש ×Ķת +Ġê± ¸ +×¢ ×ij×ķ×ĵ +ãģĻãĤĭ ãģĵãģ¨ãģĮ +ĠÑĩа ÑģÑĤÑĮ +ãĤ¢ ãĥ¡ãĥª +ãĤ¢ãĥ¡ãĥª ãĤ« +Ġtak ım +Ġs Ỽ +ĠsỼ m +שר ×Ķ +è¨Ģ ãģĨ +л ан +ì» ¤ +׼ ׳×Ķ +ÙĪÙģ ÙĬ +íĹ Ī +lu ÄŁu +ĠëĮĢ íķ´ +Ġ׾×ij ×Ļת +Ġ×Ķר×IJש ×ķ׳×Ķ +ص Ùħ +Ġsö yled +Ġsöyled i +à¸Ľ าà¸ģ +Ġard ından +ãģĪ ãģŁ +à¸Ĺัà¹Īว à¹Ħà¸Ľ +Ġ׳×ķס ×£ +б олÑĮ +ãĤĵãģ§ãģĻ ãģijãģ© +ĠлиÑĪ ÑĮ +Ġ×ij ×IJ×Ļ +ĠбÑĭ ÑģÑĤÑĢо +ส ัà¸Ļ +Ġ×ij פ׳×Ļ +л еÑĩ +ĠاÙĦØ® بر +Ġsó c +Ġth ú +Ġп ÑıÑĤ +ãģĬ é¡ĺ +ãģĬé¡ĺ ãģĦ +ÑĤ ин +ãģ«ãģ¤ãģĦãģ¦ ãģ¯ +פ ף +Ġдв ÑĥÑħ +à¸į ีà¹Ī +à¸įีà¹Ī à¸Ľ +à¸įีà¹Īà¸Ľ ุ +à¸įีà¹Īà¸Ľà¸¸ à¹Īà¸Ļ +оп еÑĢ +ĠاÙĦب شر +ĠاÙĦÙħ اÙĦ +ıyor uz +تØŃ ÙħÙĬÙĦ +à¸ģ ะ +éĸĵ ãģ« +×Ĺ ×ķש +ĠNg uyên +ãģĦãģ¦ ãģĦãĤĭ +дÑĥ ÑĪ +ש פע +ÑĪ Ñĥ +å®Ł éļĽãģ« +ĠÑĢай он +ĠCh á»ī +ÙĨ صر +Ġìļ ´ +Ġìļ´ ìĺģ +Ġ×Ķ×ĵ ×Ļף +ØŃد د +ر ز +ĠاÙĦد Ùħ +ĠPh áp +ÑĤ ÑģÑı +è¦ĭ ãģĪ +Ġti á»ĥu +Ġs á»Ńa +а ÑİÑĤÑģÑı +ĠB á +Ġ×ķ ׼׾ +Ð ĸ +ÑĪ Ð¸Ð¼ +ìĿ´ ëĬĶ +л ев +d ık +Ġprés ente +Ġara ç +صد ÙĤ +Ġпом ог +ĠاÙĦشر ÙĤ +ĠÙĪØ§ÙĦ ذÙĬ +رÙĬ ا +×ij ׳×ķת +Ġng á»ĵi +ר ×ķפ +ר×ķפ ×IJ +Ġth ấp +ãĤĦ ãģ¯ +ãĤĦãģ¯ ãĤĬ +ĠاÙĦج دÙĬدة +éĿŀ常 ãģ« +ÙĬÙĦ ÙĬ +ìª ½ +تع اÙħÙĦ +ãģł ã썿ĢĿãģĦãģ¾ãģĻ +Ùħ Ùħ +иÑĤе ли +ãĤµãĤ¤ ãĤº +اد ات +ĠاÙĦÙħ اÙĦÙĬØ© +Ùĥات ب +к ли +веÑĢ Ñħ +ни Ñĩ +Ġ×ľ×¢ ×ij×ķ×ĵ +׾ ×Ļ×Ķ +ØŃ Ùİ +ãĤ¤ ãĥĻ +ãĤ¤ãĥĻ ãĥ³ãĥĪ +Ġת ×Ĵ×ķ×ij×ķת +ÑĦ он +ĠдÑĢÑĥг ие +×IJ ×ĸ×ķר +Ġper ò +ìķ ŀ +åĢŁ ãĤĬ +ר צ×Ļ +×IJ ×ĸ +алÑĮ нÑĭÑħ +Ġê²ĥ ìľ¼ë¡ľ +ĠпÑĢав о +ĠاÙĦØ£ رض +à¹Ģà¸Ĺ à¸Ħ +à¹Ģà¸Ĺà¸Ħ à¹Ĥà¸Ļ +à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļ à¹Ĥล +à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥล ย +à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥลย ี +צ ר×Ļ +ĠÐļ Ñĥ +ıl ma +決 ãĤģ +ا ÙĪ +Ġ×ĵ ×§×ķת +à¸Ħร ู +ĠÙħست ÙĪÙī +à¸Ľ à¹īà¸Ńà¸ĩ +à¸Ľà¹īà¸Ńà¸ĩ à¸ģัà¸Ļ +×ĵ ×ķ×ŀ×Ķ +ĠÑģ егоднÑı +س ÙĪÙĤ +ר×Ĺ ×ķ×ij +ĠØ¥ دارة +Ñħ ож +éģİ ãģİ +à¸Ħ à¸Ń +нÑĥ л +×ķ׼ ×Ķ +ÙĪ Ø§ÙģÙĤ +׼׾ ׾ +Ġ×Ķ ×ĵ×ķ +Ġl Ä©nh +Ġkh ảo +×IJ×ŀ צע +ë¨ ¸ +Ġ׼ ×Ļצ +Ġ׼×Ļצ ×ĵ +Ġдолж нÑĭ +หว ัà¸ĩ +ãĥĩ ãĤ¶ +ãĥĩãĤ¶ ãĤ¤ãĥ³ +Ġng á»Ŀ +ä¸Ń ãģ« +à¸ģลัà¸ļ มา +جÙħ اÙĦ +à¸Ķัà¸ĩ à¸ģลà¹Īาว +س ÙĥÙĨ +س ÙĨ +Ġözellik le +з еÑĢ +rz ÄĻ +×ŀ ×ķר×Ķ +Ġl ạ +×ŀ ×Ļ׳×Ļ +ר ×Ļת +ãģĿãĤĮ ãģĮ +ãģĭ ãĤĮ +ĠÙĬÙħÙĥÙĨ Ùĥ +öff entlich +г ан +ĠاÙĦØŃ ÙĦ +ĠmiÄĻd zy +ĠÑĩа ÑģÑĤи +ujÄħ cy +ĠbaÄŁ lı +ĠiliÅŁ ki +Ùģ Ø§Ø¡ +ãĥª ãĥ³ãĤ° +Ġhã ng +ĠконÑĤ ÑĢ +ĠконÑĤÑĢ Ð¾Ð» +к оп +ש ×Ļ×¢ +ש×Ļ×¢ ×ķר +ĠÐĴ аÑĪ +Ġ×Ķ ×ª×§ +ÙħÙĨ ع +ĠpolÃŃt ico +Ġг олов +ĠØ¥ ÙĬ +Ø¥ ÙĨتاج +à¸ļ ิ +Ġг овоÑĢ +ĠговоÑĢ Ð¸ÑĤ +Ġph á»ķ +ĠÑģем ÑĮ +ãģ¯ ãģĤãĤĬãģ¾ãģĽãĤĵ +ĠÙĪ Ø§Ø³Øª +×ŀש פ×ĺ +з ем +×ŀ×ĵ ×ijר +Ġíģ ° +ĠìĿ´ ë²Ī +ê°Ģ ëĬĶ +Ġì§Ģ ìĽIJ +Ġca ÅĤy +Ġgeli ÅŁtir +Ñģк ое +pos é +Ġkh ô +à¸ķิà¸Ķ à¸ķาม +miss ão +Ġ׾ ×ŀר +Ġ׾×ŀר ×ķת +Ġb ó +à¸ķรวà¸Ī สà¸Ńà¸ļ +Ġngh á»ģ +Ġб из +Ġбиз неÑģ +ÑģÑĤ еÑĢ +ÙĪ Ùİ +楽 ãģĹãģ +楽ãģĹãģ ¿ +ãģĵãĤĮ ãģĭãĤī +wiÄħ zan +ส à¸Ńà¸Ļ +Ùħ ÙĪØ± +׳×ĵ ׾ +Ġ×Ķ×IJ ×ĵ×Ŀ +Ġм олод +ØŃ Ùħا +ØŃÙħا ÙĬØ© +ÑģÑĤ ÑĢан +Ġbu á»ķi +ת×Ļ ×Ļ×Ŀ +abile ceÄŁi +L İ +à¹Ģย à¸Ńะ +à¸Ī ร +س ÙĥاÙĨ +à¸Ļ ัà¸Ķ +Ġm ấy +ĠÐij а +s ÅĤaw +ĠÙģ ÙĦا +ĠкоÑĤоÑĢ Ð¾Ð¹ +Ġпло Ñī +ĠплоÑī ад +ãĤĤ ãģĤãĤĬ +sz czÄĻ +×Ļפ ×ķ +ש×ŀ ת +owa ÅĤa +Ġn ông +צ×ij ×IJ +ĠìŀĪ ìĹĪ +ãģ¾ ãģ¨ +ãģ¾ãģ¨ ãĤģ +ÙĤÙĪ Ø§Øª +ãģ¿ ãĤĵãģª +Ġ׼ ×ŀ×¢×ĺ +Ġx úc +ï¼ Ĩ +r ÄĻ +rÄĻ cz +×ĵ ×ŀ×Ļ +Ġt áºŃn +à¸Ķ วà¸ĩ +ê²½ ìłľ +п ÑĥÑĤ +Ø£ ربع +Ġ×ŀ שת×ŀש +ãĤ¿ãĤ¤ ãĥĹ +Ġìłľ ê°Ģ +Ġ׾ ׼ף +ĠобÑĢаз ом +ÙĬÙĥ ا +w ÅĤ +wÅĤ asn +ĠاÙĦÙĪØ·ÙĨ ÙĬØ© +بÙĬ ب +×ŀ ׾×Ļ +к ÑĢаÑĤ +기 ìĹIJ +ÙĤ اد +ĠÙĦ دÙī +à¸Ħวาม รูà¹ī +×ŀ×ĵ×Ļ׳ ×Ļ×ķת +ê² ¨ +Ġíĺ Ħìŀ¬ +ש ת×Ļ +м ол +Ġmá i +à¸ŀิ ม +à¸ŀิม à¸ŀ +à¸ŀิมà¸ŀ à¹Į +หล วà¸ĩ +Ġx uyên +×Ĺ ×¡×¨ +رÙĪ ÙĨ +ãģĿãģĨ ãģĦãģĨ +ãģĿãĤĮ ãģŀ +ãģĿãĤĮãģŀ ãĤĮ +Ġ׼ ש×Ķ +ÐŁ ÑĢав +×ŀ×ij צע +ع رب +Ġbü yü +פ×Ļת ×ķ×Ĺ +à¸Ī à¸ļ +ĠØ£ Ùĥبر +שר ת +×ŀ׼ ש×Ļר +ĠÙĪ Ùħع +ãģ® ãģŁãĤģãģ« +à¸Ļ ัà¸ļ +ì° ° +ãĥª ãĥķãĤ© +ãĥªãĥķãĤ© ãĥ¼ãĥł +Ġc ưá»Ŀng +ĠìłĢ íĿ¬ +ÙħÙĨظ ÙħØ© +Ġhiç bir +ãģ§ãģ¯ ãģĤãĤĬãģ¾ãģĽãĤĵ +ร à¸Ńย +ëIJľ ëĭ¤ +ãģĻãģIJ ãģ« +к ла +Ġürün ler +Ġki á»ĥu +ĠëĤĺ ëĬĶ +ÑĤ ки +Ñģ им +Ġchá»ī nh +ãĤĤ ãģªãģĦ +ศ รี +æĽ¿ ãģĪ +ta ÅŁ +Ġب ÙĥÙĦ +Ġ×ķ ×Ļש +vis ão +ä¼ Ŀ +ä¼Ŀ ãģĪ +ÙĦ د +׾ ×Ļ×ŀ +׾×Ļ×ŀ ×ķ×ĵ +t ória +د Ùij +اÙħ ر +Ġê·¸ëłĩ ê²Į +Ġmateria ÅĤ +à¸Ĺ รา +à¸Ĺรา à¸ļ +ã쮿ĸ¹ ãģĮ +ãģ¦ ãģįãģŁ +ض غ +ضغ Ø· +ĠÙĬ عÙĨÙĬ +ел о +×IJ×Ķ ×ij×Ķ +×¢ ×ŀ +ÅŁ ık +ìŀIJ ëĬĶ +ãĤ¿ ãĥ³ +Ġb áºŃt +×ŀשפ ×Ĺ×Ķ +к ÑĢи +б ли +สั à¸ķ +สัà¸ķ วà¹Į +ĠسÙĨ ÙĪØ§Øª +ĠPh ương +ãģ¦ãģĹãģ¾ ãģ£ãģŁ +ãģª ãģľ +Ġ×ij×IJ ×ķ +Ġc án +س جÙĦ +Ġl ẽ +ãĤ± ãĥ¼ãĤ¹ +Ġ×§ ×Ļ×ij׾ +à¸ļà¸Ĺ à¸Ħวาม +Ġ×ķ ׼ף +ĠпÑĢедÑģÑĤав лен +Ġn á»iji +Ġcoment ário +ени ем +Ġtá» ı +l Ãł +Ġש×Ķ ×Ļ×Ķ +Ñģл ав +ĠاÙĦ ÙĪÙĦا +ĠاÙĦÙĪÙĦا ÙĬات +ÙĦج ÙĨØ© +×§×ķר ×IJ +бÑĭ ÑĤ +Ġì ¦ +Ġì¦ ī +ãģ§ãģĻ ãģĹ +หรืà¸Ń à¹Ħมà¹Ī +за ÑīиÑĤ +ÙģÙĦ سطÙĬÙĨ +Ġmi á»ħn +à¹Ģย à¹ĩà¸Ļ +ĠçalÄ±ÅŁ an +×Ļ×Ĵ ×Ķ +ĠE ÄŁ +ĠEÄŁ itim +ãĥĥãĤ· ãĥ¥ +Ġоп Ñĭ +ĠопÑĭ ÑĤ +ر غ +رغ ب +ĠÑģво иÑħ +à¸Ľà¸£à¸° à¸ķ +à¸Ľà¸£à¸°à¸ķ ู +Ġ×ŀ×IJ ×ĵ +׼ ×ķ׳×Ļ×Ŀ +à¸Ļ ี +ĠвÑĭ Ñħод +ãģ®ä¸Ń ãģ« +פ ׾×IJ +ĠÙĪ ÙĦÙĬس +פ×ķר ס +פ×ķרס ×Ŀ +Ùħ سÙĦÙħ +Ġng ôi +×ĵ ×ŀ×ķת +ãĤĴ使 ãģ£ãģ¦ +ĠпомоÑī ÑĮÑİ +Ø£ سر +бл ок +ÙĤ Ùĩ +ãģĹãģ¾ ãģĦ +ãģ¨ ãģĹãģŁ +Ġп еÑģ +ãĥī ãĥ« +×Ĺ ×Ŀ +ãģĹãģª ãģĮãĤī +ĠÐŁ ÑĢед +ãĥģãĤ§ ãĥĥãĤ¯ +å¼· ãģĦ +ש ×Ļר×ķת +д аеÑĤ +×Ļ×ij ×ķ +Ġgen ç +ил аÑģ +илаÑģ ÑĮ +ĠبÙĦ د +æĤ ª +æĤª ãģĦ +Ġ×ŀ שת +æ§ĺ ãĢħ +æ§ĺãĢħ ãģª +à¸ĺรรม à¸Ĭาà¸ķิ +ĠÙĥ اÙħÙĦ +ĠاÙĦس Ùħ +×ij×ĺ ×Ļ×Ĺ +c á +g ência +ãĤ¹ãĤ¿ ãĥ¼ +à¸Ĺำ à¸ģาร +×Ļ׾ ת +Ġ×Ļ ×ķצ×IJ +w ój +à¸ļุ à¸Ħ +à¸ļุà¸Ħ à¸Ħล +ع تÙħ +عتÙħ د +ãģĿãĤĮ ãģ« +ĠاÙĦت ارÙĬØ® +ÙĤر اء +Ġyönet im +×§ שר +ĠÑģп оÑĢÑĤ +Ġר×IJש ×ķף +Ġseñ al +Ġch ắn +çĦ¡ ãģĦ +ĠдоÑģÑĤ аÑĤ +ĠдоÑģÑĤаÑĤ оÑĩно +Ġá gua +à¸ģร à¸ĵ +à¸ģรà¸ĵ ี +Ġ×ŀש ×ķ +Ġtr ải +ë² Į +ujÄħ cych +Ù쨱 د +à¹ĥ à¸ģล +à¹ĥà¸ģล à¹ī +ãĤĭ ãģ®ãģ¯ +ר×ķ ×ķ×Ĺ +ÙĨ Ùĥ +ĠاÙĦÙĨ ÙĤ +ãģ®ãģ§ ãģĹãĤĩãģĨ +ãģ®ãģ§ãģĹãĤĩãģĨ ãģĭ +Ùħ عرÙģ +ÙħعرÙģ Ø© +ÑĥÑī е +Ġ×ij×¢ ×Ļקר +ت صÙĦ +Ġ×Ķ×IJ ר +Ġ×Ķ×IJר ×¥ +ĠÅŀ i +à¸Ĥา à¸Ķ +íŀ ĺ +ãģªãĤĵ ãģ¨ +ĠìĤ¬ëŀ ij +l Ã¼ÄŁÃ¼ +ب اء +ĠاÙĦØ¢ خر +Ġfam ÃŃlia +ĠTh áng +Ñī ениÑı +ãĤ¯ ãĥŃ +ĠTh ứ +æĽ¸ ãģį +ен ной +ìŀ ¡ +бл аг +благ о +п ов +à¹ģ ว +à¸ĩ à¸Ħà¹Į +à¸Ńัà¸Ļ à¸Ķัà¸ļ +ãģĤ ãģĴ +ร à¹īาย +ün ün +Ġ×Ļ׼×ķ׾ ×Ķ +з он +ĠÐľ и +маÑĤ еÑĢиал +Ġë³´ ë©´ +ØŃÙģ Ø¸ +ê Ìģ +ãģ« ãģĻãĤĭ +Ġת ×IJ +Ġ×Ķס ×ķ +ĠÑģÑĤ оÑĢ +ĠÑģÑĤоÑĢ Ð¾Ð½ +ãĥĪ ãĥĥãĥĹ +ÅĤo ÅĽÄĩ +ëħ ¼ +ëĵ Ŀ +ĠÙĪØ§ÙĦ ع +ì¶ Ķ +Ġ×Ļצ ×IJ +ĠÑĢаз дел +алÑĮ наÑı +×IJ׳ ש×Ļ +spo ÅĤ +spoÅĤ ec +spoÅĤec zn +Ø¥ عÙĦ +إعÙĦ اÙĨ +ÙĤÙĪ Ùī +íķĺë©´ ìĦľ +تط ÙĪØ± +Ġsi êu +Ỽ t +д ви +дви ж +Ġqu ần +k ıl +ĠпÑĢи зна +ĠH ã +ĠHã y +ĠباÙĦ ت +man ın +ãĤ« ãĥ« +Ġk á»· +×§ ׾×Ļ +ëIJĺ ì§Ģ +تعÙĦ Ùħ +ìĭľ ìĦ¤ +ìĭ ¶ +íĺ ¼ +Ùĥ ÙĬÙģ +売 ãĤĬ +วิ à¸Ĭา +б ал +ĠØ£ ØŃ +Ġдолж ен +รา à¸ĩ +ราà¸ĩ วั +ราà¸ĩวั ล +Ùħ اء +ج ار +Å ļ +Ġ×ŀ×IJ ×ĸ +ר ×ŀ×Ķ +ãģĭãĤĤãģĹãĤĮ ãģªãģĦ +ét ude +czÄħ c +Ġg ór +×ł×¡ ×Ķ +Ùħ ÙĬد +ĠÐŁ еÑĢе +Ø£ خر +ãģĿãģ® å¾Į +à¹Ģà¸Ķียว à¸ģัà¸Ļ +×ŀ ×Ĵ×ķ +×ŀ×Ĵ×ķ ×ķף +д ов +mas ına +×¢ ׳×Ķ +ãĤ± ãĥĥãĥĪ +ס ×¢ +סע ×Ļ×£ +ĠT ư +Ġt óc +íĻľ ëıĻ +ĠÐŀ д +ĠÐŀд нако +Ġdol ayı +ؤ Ùĥد +ê³Ħ íļį +׾ ר +в еÑĩ +Ġkh ợi +Ġth á»§y +×ĵ ף +ร à¸ģ +à¸ļั à¸ķร +à¹Ģà¸ģ à¹Īา +ĠاÙĦØ« اÙĦ +ĠاÙĦثاÙĦ Ø« +Ġpod rá +ער ×Ļ +ÙĨج اØŃ +Ġkh ắc +ì¸ ¡ +İ M +ãĤ» ãĥĥãĥĪ +ż enia +Ġ׾×Ĺ ×ijר +er Ãł +ì ´Ī +Ġkü ç +Ġküç ük +ات ÙĩÙħ +à¸ĭ à¹Į +Ùħشار ÙĥØ© +ĠاÙĦ بط +Ġd ây +ен нÑĭм +à¸Ĺีà¹Ī à¹Ħมà¹Ī +ÙĤ Ùİ +Ġv ượt +Ġtr ì +Ġwp ÅĤyw +A Åŀ +з о +ĠاÙĦس ÙĬد +à¸Ĺะ à¹Ģล +ĠÑģодеÑĢж а +ع Ø·ÙĬ +ĠاÙĦع ÙĨ +èĢħ ãģĮ +à¹Ģ หà¸Ļ +à¹Ģหà¸Ļ ืà¸Ń +Ġb ÃŃ +Ġüzer inden +ĠV Å© +Ġnu ôi +ÙĨ Ùħ +алÑĮ ного +×¢ ×Ļף +ØŃ ضر +ĠоÑĤ дел +ëª ĩ +ìķ ¡ +ĠÙĦدÙĬ Ùĩ +ìĻ ľ +Ġse ktör +Ġвозмож но +ĠÐĶ Ð¶ +Ġh ô +äºĭ ãģĮ +иÑĢов ание +алÑĮ ной +Ġ미 êµŃ +ر ØŃÙĦ +ĠÑįк Ñģ +пÑĢав лÑı +Ġnh á»Ŀ +ĠÄij ẩ +ĠÄijẩ y +Ùģ Ùĥر +ĠÙĪØ£ ضاÙģ +ãĥIJ ãĤ¹ +ת×ķ׼ ׳×Ļת +ÑĤел ей +ĠØ¥ÙĦÙĬ Ùĩ +ãģ¨è¨Ģ ãģ£ãģ¦ +Ġдв е +Ġch ấp +ĠL ö +à¸Ħล ิ +à¸Ħลิ à¸Ľ +Ġس ÙĪØ± +ĠسÙĪØ± ÙĬا +×ŀ×Ĺ ×ķ +st ä +д об +Ġni á»ĩm +ãģ® å¤§ +פר×ķ ×Ļ×§ +פר×ķ×Ļ×§ ×ĺ +ĠCh âu +Ġ×ŀ×Ķ ×Ŀ +Ñģк им +ĠполÑĥÑĩ иÑĤÑĮ +ÙĬ ÙĪÙħ +Ø« ÙĪØ± +פ×ķ׾ ×Ļ×ĺ +פ×ķ׾×Ļ×ĺ ×Ļ +ĠмеÑģÑı ÑĨ +åħ¨ ãģ¦ +ĠاÙĦÙħ جÙĦس +ĠاÙĦت اÙĦÙĬ +Ġ׊ר +åIJij ãģij +׼ ×ŀ×Ķ +б ед +Ø£ عض +أعض اء +ÙĪÙĦ د +วà¹Īา à¸Īะ +Ġb ánh +à¸Ļิ ย +à¸Ļิย ม +à¸Ľà¸£à¸° à¸ģัà¸Ļ +ÑģÑĤав иÑĤÑĮ +à¸ŀ à¸Ļัà¸Ļ +ĠÑį ÑĦÑĦ +ĠÑįÑĦÑĦ екÑĤив +Ġав ÑĤоÑĢ +ĠÄIJ Äĥng +Ġth Æ°á»Łng +ãĤĴ æĦŁãģĺ +à¸ģัà¸ļ à¸ģาร +å¾Į ãģ« +Ġya ÄŁ +ست اÙĨ +Ġli á»ģn +ãģĦ ãģ¾ +i êu +à¹Ĥà¸Ķ à¸Ļ +ĠÙĦ ذÙĦÙĥ +à¹Ĥรà¸ĩ à¹Ģรียà¸Ļ +צ ×Ļ×Ĵ +ĠاÙĦÙħ عÙĦÙĪÙħات +ç§ģ ãģŁãģ¡ +à¸Ĺีà¹Ī à¸Ħุà¸ĵ +ãģ«ãģª ãģ£ãģ¦ãģĦãĤĭ +×ŀ×ĵ ×Ļ׳×Ķ +ס ׼×Ŀ +Ġв не +à¸ŀ à¸Ļัà¸ģà¸ĩาà¸Ļ +ÑĢ ÐµÐ¹ +à¹Ģà¸Īà¹īา หà¸Ļà¹īาà¸Ĺีà¹Ī +ĠHi á»ĩn +Ġméd ico +ĠتØŃ ÙĤÙĬÙĤ +ÑĮ ÑĤе +miÅŁ ti +ÙĤÙĬ ادة +ãĤı ãģĭãĤĬ +มา à¸Īาà¸ģ +ëħ Ģ +ãģ«éĸ¢ ãģĻãĤĭ +×IJר×Ĵ ×ķף +m ètre +Ġעצ ×ŀ×Ļ +ĠCh úa +รูà¹ī à¸Ī +รูà¹īà¸Ī ัà¸ģ +ì£ Ħ +ëĭ µ +à¹ģà¸Ĺ à¹ī +Ġgeç en +Ġlan ça +ĠاÙĦ بØŃØ« +×ĵ ×ŀ×ķ +ãģ¯ ãģĺ +ãģ¯ãģĺ ãĤģ +Ġdön Ã¼ÅŁ +è¿ij ãģı +à¹Ģส ม +à¹Ģสม à¸Ń +ëĿ ½ +Ġü ç +á» ŀ +ÑĪ Ð°Ñı +à¸Ĺ ร +ØŃ ÙĤÙĬÙĤØ© +à¸Ĥà¸Ńà¸ĩ à¸ģาร +Ġ무 ìĹĩ +Ġ×Ķ ×Ľ×¨ +ĠاÙĦص ÙĬÙĨ +ĠлÑİ Ð´Ð¸ +à¸ķ าย +ب ÙĪÙĦ +Ġvi êm +Ġthi á»ĩu +à¸ģ à¸Ķ +Ġ׾ ×ĵ×ijר +פ ׳×Ķ +×IJר ×ij×¢ +س Ùī +ĠاÙĦسÙĬ اس +ĠاÙĦسÙĬاس ÙĬØ© +yd ı +ÙĪØŃØ¯ Ø© +ĠдеÑıÑĤелÑĮ ноÑģÑĤи +Ġ×ķ×Ķ ×ŀ +п еÑĩ +пеÑĩ аÑĤ +иÑĢов аниÑı +ĠÑģ ог +ĠÑģог лаÑģ +Ġ׼ ×ĵ +Ġ׼×ĵ ×IJ×Ļ +ĠиÑģполÑĮзов аÑĤÑĮ +ס פ×ķר×ĺ +Ġil çe +exp érience +ĠTh á»Ŀi +İ K +à¹Ħà¸Ł à¸Łà¹īา +ëĵ¤ ìĹIJê²Į +à¸Ľà¸£à¸° à¹Ģà¸ł +à¸Ľà¸£à¸°à¹Ģà¸ł à¸Ĺ +Ġmü mk +Ġmümk ün +Ġ×IJ×ķת ׳×ķ +ìĦ± ìĿĦ +ĠìĿ´ ìľł +زÙĬ ارة +Ġolduk ça +r ób +ĠØ£ ÙĨا +Ġ×Ķ ×ij×Ļ +Ñģ ен +×¢ ×Ļקר +×Ļ×ĵ ×ķ×¢ +d zÄħ +Ùħ عÙĦÙĪÙħات +Ø´ اب +Ġpar ça +à¸Ļะ à¸Ħะ +ب اس +ĠÑĤоÑĢ Ð³ +ĠÑĤоÑĢг ов +Ġ×Ĺ ×ĵר +׼ ר×ĺ +׼ר×ĺ ×Ļס +ĠA yrıca +ÃªÌ £ +ìľ ¨ +ĠÑĤак ие +Ġ×ŀצ ×ķ×Ļ +ãĥ©ãĥ³ ãĤŃãĥ³ãĤ° +ש×Ļ×ķ ×ķ×§ +åīį ãģ® +ĠB ảo +Ñī Ñĥ +æĹ© ãģı +ĠPh òng +à¸ŀระ ราà¸Ĭ +פ ×Ĺ×ķת +Ġг л +Ġгл аз +à¸Ĺ à¹Īา +Ġd ạy +ÑĢ Ð¾ÑģÑĤ +à¹Ĥà¸Ķย à¹Ģà¸īà¸ŀาะ +Ġqu áºŃn +Ġ×Ĺ×ijר ×ķת +m ême +mÄ±ÅŁ tı +ĠاÙĦت داÙĪÙĦ +Ġn ạn +Ġ×Ķ ×ĵ×Ļ +ĠاÙĦØ· رÙĬÙĤ +×Ĵ ×ķת +Ġ×Ķ ×ĵר×ļ +ujÄħ ce +Ġch ữ +ãĤĤãģ® ãģ® +ë° Ľ +ãģķãĤĵ ãģ¯ +Ġyard ım +ĠاÙĦع Ùħ +Ġì§Ħ íĸī +Ġ×Ļ ×Ĺ +Ġ×Ļ×Ĺ ×¡×Ļ +ĠاÙĦÙħ دÙĬÙĨØ© +Ġc ú +à¸ģี ฬ +à¸ģีฬ า +Ġni ên +mis ión +׳×Ļס ×Ļ +׳×Ļס×Ļ ×ķף +Ġвоз ÑĢаÑģÑĤ +Ġ×¢×ķש ×Ķ +ĠÙħ دÙĬر +Ñı ÑģÑĮ +ØŃ جÙħ +íĻĺ ê²½ +ĠاÙĦØ£ خرÙī +u ÃŁer +ĠاÙĦعاÙĦÙħ ÙĬØ© +ĠNg á»įc +êµIJ íļĮ +ä¸Ĭ ãģ§ +×Ļ×Ķ ×ķ×ĵ +×Ļ×Ķ×ķ×ĵ ×Ļ×Ŀ +Ùħس اعدة +Ġжиз нÑĮ +ĠпоÑĤ омÑĥ +ĠاÙĦÙħ ÙħÙĦ +ĠاÙĦÙħÙħÙĦ ÙĥØ© +ĠG ör +ر ÙIJ +×ŀ×§ ×ķ×ŀ×ķת +åĩºæĿ¥ ãĤĭ +ÑĦ ÑĤ +ĠìĿ´ ìłľ +ĠÑĢ ÐµÐ¼ +ĠÑĢем онÑĤ +ת ×ķ×ļ +æĻĤ ãģ¯ +ãĤīãĤĮ ãģªãģĦ +alt ı +å®¶ ãģ® +ĠاÙĦØ¥ عÙĦاÙħ +리 ëĬĶ +ãģĭãĤī ãģ¯ +ĠH ạ +ãģĤ ãģ® +×ĵ×Ļ ×ķף +رÙĬ س +Ġsoci etÃł +ĠاÙĦÙĥ بÙĬر +Ġ×ij ×ŀס +Ġ×ij×ŀס ×Ĵר +Ġ×ij×ŀס×Ĵר ת +ĠìŀĪ ìľ¼ë©° +Ġn ặng +Ùĩ Ùī +ĠB Ãł +×ŀר ×ķ +Ġj ÄĻ +ĠjÄĻ zy +ĠjÄĻzy k +Ġ׼ ×ŀ×ķ×ijף +×¢ ׾×Ķ +à¸Ĺีà¹Ī à¹Ħà¸Ķà¹ī +ãģ¾ ãģĹãĤĩãģĨ +×ŀס פר +Т Ðŀ +سÙĬاس Ø© +Ġкажд Ñĭй +ë² ł +t ım +y á»ĩn +ร ีà¹Ī +ĠдеÑĤ Ñģк +วิà¸ĺี à¸ģาร +m ówi +×ĺ×¢ ×Ŀ +×Ķצ׾ ×Ĺ×Ķ +ض ÙĬÙģ +ĠÑħоÑĤ Ñı +ãĤĵãģ§ ãģĦãĤĭ +à¸Ħา à¸Ķ +à¸Ħร à¸ļ +Ġк ÑĥÑĢÑģ +ĠbaÅŁ arı +×ijר ×ķ +ÙĬع Ø© +ĠÐĿ Ñĥ +à¸Ħวาม à¹Ģà¸Ľà¹ĩà¸Ļ +Ġ׾ ×ŀש׾ +Ġì¢ĭ ìĿĢ +Ùħؤس س +Ùħؤسس ات +Ġpréc is +Ġth ảo +à¸ģà¹ĩ à¸Ħืà¸Ń +Ġש ׼׾ +führ ung +ãģĦ ãģ§ +à¹ģละ มี +à¸ģà¹ĩ มี +Ġש ש +м ел +Ġкни г +ĠباÙĦ ÙĨ +ĠباÙĦÙĨ سبة +Ġald ı +ÑĤ ай +Ġ×Ĺ×ĵ ש×Ļ×Ŀ +å®Ł ãģ¯ +ع ÙĪØ§ +ĠìĿĺ 미 +из м +ÑĢабоÑĤ аÑĤÑĮ +Ùģ Øµ +Ġ×ij׳ ×ķסף +ãģ¨ãģĹãģ¦ ãĤĤ +à¹Ģà¸Ľà¹ĩà¸Ļ à¸Ĺีà¹Ī +ĠÑģлед ÑĥеÑĤ +èĢĥãģĪ ãģ¦ +Ġ׼ ×Ļ×ķ×Ŀ +ÑģÑĤ Ñĭ +׼׾׼ ׾×Ļ +æµģ ãĤĮ +ãĤĴ ãģ¤ãģij +Ñĩ аÑĤ +×Ļ׼ ×ķף +×Ļר ×Ļ +ları yla +ãĤ¤ ãĥ¡ +ãĤ¤ãĥ¡ ãĥ¼ãĤ¸ +׳×ĸ ×§ +Ġci ò +Ġs ın +Ġsın ır +à¸Ļ à¸Ħร +к аÑĤ +Ġl á»Ĺi +ëŀ Į +تÙģ Ø§Øµ +تÙģØ§Øµ ÙĬÙĦ +ëĨ ĵ +ĠÙħ ض +il miÅŁ +بار Ùĥ +ÐĿ Ðĺ +Ġth ẩm +Ġ×IJ×ķת ×ļ +ĠпÑĢин им +ĠпÑĢиним а +Ġyö nt +Ġyönt em +Ġ×ŀ×§ ×ij׾ +Ġktó rego +ê· Ģ +شر Ùģ +د اÙħ +ãģĦãĤį ãģĦãĤį +ĠAl ém +Ġgör ü +Ġgörü nt +Ġgörünt ü +د س +ÑĪ ÐºÐ¸ +г ÑĢад +Ġl ạc +Ġs ữa +ãĤīãĤĮ ãģ¾ãģĻ +o Ãłi +Ñī ен +ãģĭ ãģªãģĦ +Ġп оп +Ġпоп Ñĥ +ĠпопÑĥ лÑıÑĢ +ĠاÙĦÙħ ÙĪÙĤع +rä g +ï¼ ¡ +íķ Ħ +ãĤĴè¦ĭ ãĤĭ +اÙħ ا +ĠاÙĦØŃ رب +ĠÐŁ а +Ġ׾ ×IJתר +Ġt á»ijc +×ij ׾×Ķ +ر ئÙĬس +в Ñĥ +ÙĬ دÙĬ +каз ан +Ġ׊ש×ij×ķף +h ôtel +×¢ ×ķ׳×Ķ +ب ÙĨÙĬ +×ŀ ×ķ׾ +Ġд нÑı +éĽ£ ãģĹãģĦ +вед ениÑı +Ġ×ķ ×ŀת +н апÑĢимеÑĢ +ÙĤ ابÙĦ +Ġrésult at +ĠÑĢазвиÑĤ иÑı +ر Ùij +ìłĦ 문 +ĠاÙĦÙħ زÙĬد +ĠìľĦ íķ´ìĦľ +ëĨ į +íĻ ķ +ĠThi ết +íĮ ¨ +malı dır +Ġcz ÅĤ +ĠczÅĤ owie +ĠczÅĤowie k +ĠÙĦ بÙĨ +ĠÙĦبÙĨ اÙĨ +üs ü +ãģªãĤĵ ãģł +Ġżyc ie +ĠÑħоÑĢоÑĪ Ð¾ +æĸ¹ ãģ« +ëĭ¤ ë©´ +иÑĩеÑģ каÑı +ער ×Ļ׼ +ער×Ļ׼ ת +ãģ¾ãģĽãĤĵ ãģ§ãģĹãģŁ +ĠÑģоб ой +Ġg á»Ĺ +Ġдел аÑĤÑĮ +da Äĩ +аÑĢ Ð° +róż ni +à¹Ģล ีà¹ī +à¹Ģลีà¹ī ย +à¹Ģลีà¹īย à¸ĩ +à¸Ŀ าà¸ģ +Ġت ÙĤ +ĠتÙĤ دÙĬ +ĠتÙĤدÙĬ Ùħ +หà¸Ļ ุà¹Īม +Ġmü cade +Ġmücade le +ì§Ģ 를 +ãĤ¤ ãĤ¹ +ĠØ£ ساس +jÄħce go +ĠÅŁ eh +н ÑĤеÑĢ +ÑĨи Ñİ +ï» » +ÑİÑī его +à¹Ĥà¸Ľà¸£ à¹ģ +à¹Ĥà¸Ľà¸£à¹ģ à¸ģรม +Ġmie Äĩ +ØŃÙĥÙĪÙħ Ø© +ãģ§ãģĹãģŁ ãģĮ +×Ļס ×Ķ +ãĤĤãģ® ãĤĴ +Ġ×ŀ ×IJת +สุà¸Ķ à¸Ĺà¹īาย +Ġc Å© +ÙĨ سب +ĠпÑĢ Ð¾Ñĩ +Ġд ней +ĠÑįÑĤи Ñħ +׾ ×ŀת +нÑı Ñı +Ñį к +Ġì§Ģ ëĤľ +มหา วิà¸Ĺยา +มหาวิà¸Ĺยา ล +มหาวิà¸Ĺยาล ัย +d ão +ĠMá y +ĠêµŃ ê°Ģ +à¸ļุ รี +×Ĵ ×Ļ׾ +ĠÑĤÑĭ ÑģÑı +ĠÑĤÑĭÑģÑı Ñĩ +Ùģ Ùĥ +ĠÐĺ Ñģ +è¡Į ãĤıãĤĮ +פר ×ĵ +ãģ¤ ãģį +à¸Ħร à¸Ńà¸ļ +à¸Ħรà¸Ńà¸ļ à¸Ħรัว +à¸Ĥึà¹īà¸Ļ มา +ä»ĬæĹ¥ ãģ¯ +ĠìĤ¬ëŀĮ ìĿ´ +עצ ×ŀ×Ķ +п оÑĢ +ĠK ỳ +Ġ Æ¡n +Ġth Äĥm +Ùģ Ø§ÙĤ +ãģļ ãģ« +Ġ׾ קר +Ġ׾קר ×ķ×IJ +اÙģ ÙĬØ© +Ùħ ÙİØ§ +г аÑĢ +ص ÙĦا +صÙĦا Ø© +Ġ×ŀ ×ĸ×Ķ +lı ģını +Ġ×IJ ×Ļ׳×Ķ +к ÑĢо +Ġng ươi +Ġв ним +Ġвним ание +jÄħ cy +ÙĢÙĢÙĢÙĢ ÙĢ +Ñģ Ñħод +ãģªãĤĵ ãģĭ +×ŀ ×Ļ׾ +Ġ×Ķ×IJ ×Ĺ +ãĤı ãģªãģĦ +ع سÙĥر +ĠìĦ¸ ê³Ħ +ĠÑĩ его +ĠÑģÑĢед ÑģÑĤва +ĠÐł аÑģ +ãģª ãģģ +ÙĨ Ù쨳 +ר×Ļ ×ķף +Ñģ Ñĥд +ĠìĿ¸ ê°Ħ +ĠاÙĦÙħ ÙĤبÙĦ +ÙĨ عÙħ +تÙĪ Ù쨱 +ש ×ij×¢ +ı lm +ılm Ä±ÅŁ +Ġ×ľ×ª ת +تص Ùģ +×Ķפ ×ķ×ļ +à¹ĥà¸Ļ à¸Ľà¸µ +ìĿ´ ê³ł +Ùģ ÙĪØ² +à¸ľà¸¥ à¸ĩาà¸Ļ +ĠGi áo +à¸ļà¸Ńà¸ģ วà¹Īา +Ġd Ä±ÅŁ +ĠdÄ±ÅŁ ında +ì£ ½ +Ġdzie ÅĦ +к ÑĨии +и ÑĨе +ãģ® ä¸Ģ +ع Ø´ +пÑĢ ÐµÑģÑģ +หà¸Ļ à¹Īà¸Ńย +ลัà¸ģษ à¸ĵะ +Ġpossibilit Ãł +à¹Ħà¸Ķà¹īรัà¸ļ à¸ģาร +หย ุà¸Ķ +Ġphi ên +çĶŁ ãģ¾ãĤĮ +Ø· ÙĪÙĦ +ÑĦ ин +f ür +ØŃ ÙĬاة +íĸ ĪìĬµëĭĪëĭ¤ +׼ ׳×ķת +à¸Ľà¸£à¸° ส +à¸Ľà¸£à¸°à¸ª à¸ļ +à¸Ľà¸£à¸°à¸ªà¸ļ à¸ģารà¸ĵà¹Į +ëIJĺ ìĹĪ +Ġkaż dy +Ġl uyá»ĩn +ĠоÑĢганиз аÑĨии +å°ij ãģªãģı +ÑģÑĤÑĢо ен +Ġtécn ico +×§ ×Ķ׾ +Ġ×ķ×IJ ×Ĺ +ĠعÙĦÙĬ Ùĥ +Ñī ение +Ġ×Ķ ×Ļ׾×ĵ×Ļ×Ŀ +ÙĪØ³ ائÙĦ +Ġ×ķ ×Ķת +تÙħ ÙĬز +ĠÑģ казал +Ġпол и +Ġ×Ķ×ŀ ס +ÙĦÙij Ùİ +Ùħؤس سة +Ġ×ŀ ×Ļ×ĵ +ãģ£ ãģ¡ +ĠëĦĪ ë¬´ +à¸ŀ ี +Ġt ặng +Ġt ấn +ר ש×Ŀ +Ġméd ica +Ġ×¢ ×ķ×ŀ +Ġ×¢×ķ×ŀ ×ĵ +ÑĦ оÑĢ +Ùħر Ø© +Ġvat anda +Ġvatanda ÅŁ +Ġдел о +à¸Ļ ม +ãģ¨ åIJĮãģĺ +Ùģ Ùī +Ñģ оÑĢ +Ġ×Ķס ר×ĺ +Ġép oca +ìłķ ì±ħ +ĠÑģвÑıз ан +ض رب +ĠÙĦ ÙĨا +Ġuży wa +ĠاÙĦج ÙĬØ´ +Ñİ ÑĢ +×ijס ×ķ×£ +Ġм Ñĥ +ĠмÑĥ зÑĭк +bilit é +Ġma ç +س Ùİ +ت ÙĦÙĥ +ãģ ¬ +ÙĬ ÙĦا +ÑĪ Ð»Ð° +ÙĢÙĢ ÙĢ +Ġод ной +зв ан +ĠÑģ ÑĢаз +ĠÑģÑĢаз Ñĥ +ÙĨ ظÙħ +را Ùĩ +ĠÙĦÙĩ ذا +׼ ×ķר +Ġ×Ķש ×ij×ķ×¢ +Ġ×Ķש ת +ĠQu ảng +ãĥ« ãĥ¼ +ãģĪ ãģªãģĦ +×ĺ ×IJ +Ġmi á»ģn +ĠPh áºŃt +ĠاÙĦس ÙĪÙĤ +Ä Ĥ +ĠاÙĦج Ùħع +ĠاÙĦجÙħع Ø© +ÑİÑī ей +a ÅĤem +عت ÙĤد +Ø£ ÙĦÙħ +Ñģ ке +ĠìĿ´ íķ´ +ÙĨس Ø® +è¨Ģ ãģĦ +д обав +سب ÙĤ +×¢×ķר ר +ÑĤи п +ãģĿãģĵ ãģ§ +vis ión +عÙĪØ¯ Ø© +ë¨ ¹ +×ŀ ×ĸר×Ĺ +ĠØ¥ ØŃ +Ġ׾×ij ×Ļף +Ġ׾צ ×IJת +Ġyard ı +Ġyardı mc +Ġyardımc ı +İ Z +×§ פ×Ķ +tr é +liÄŁ ini +клÑİÑĩ а +Ġüret im +Ġa yrı +ĠkiÅŁ iler +à¸Ħ à¹īà¸Ļ +à¸Ħà¹īà¸Ļ หา +ĠS á»± +Ġ׼ ס +Ġ×Ľ×¡ ×£ +ĠÑĤак иÑħ +ĠXu ân +Ġл ег +Ġлег ко +Ø«ÙĤ اÙ쨩 +ÐĿ Ðŀ +ãĤ¹ãĤ¿ ãĥĥ +ãĤ¹ãĤ¿ãĥĥ ãĥķ +åIJĪ ãģĦ +Ġ×Ķש ×Ļ×ŀ×ķש +man ız +ĠÐĴ аÑģ +g ün +ìľĦìĽIJ íļĮ +Ġwsp óln +ĠÑģв ое +í ĥģ +à¹Ģà¸Ļ ีย +ÙĪØ¨ Ø© +в Ñıз +ı dır +ëIJĺ ìĹĪëĭ¤ +ĠdeÄŁi ÅŁtir +ãĤĭ ãģĵãģ¨ãģĮ +Ġ×Ĺ×ĵ ש×Ķ +ãĤīãĤĮ ãģ¦ãģĦãĤĭ +×Ĺ×Ļ ×Ļ×ij +ĠÐļ аÑĢ +׳×Ļת ×ķ×Ĺ +Ġ×§×ĺ ף +ר ×ĸ +ÙĪ Øº +èªŃ ãģ¿ +Ġت ÙĤÙĪÙħ +ĠÙĥ اÙĦ +à¸Ŀ ึà¸ģ +Ġë°ľ ìĥĿ +ológ ico +ر اع +à¹ģà¸ģà¹ī à¹Ħà¸Ĥ +ĠÑĢабоÑĤ Ñĥ +ÙĨÙij Ùİ +à¸Ńยูà¹Ī à¸Ĺีà¹Ī +ĠاÙĦØ« اÙĨÙĬØ© +ĠNh ân +Ñħ ваÑĤ +ö ne +Ġع دة +à¹ģ สà¸ĩ +ÑĤ оп +пÑĥÑģ ка +شر اء +ĠÐļ ом +Ġפע ×ķ׾×Ķ +ìĤ¬ ìĿ´ +ìĤ¬ìĿ´ íĬ¸ +è¡Į ãģ£ãģ¦ +Ġ×Ķ ×Ķת +ĠÑģÑĤ оÑĢо +ĠÑģÑĤоÑĢо нÑĭ +در س +à¸ĭ ู +à¸ķà¹Ī ำ +ĠØ£ بÙĬ +под об +ãģ« ãģ¦ +ار تÙģØ§Ø¹ +ĠÙħ ؤ +ик ов +ge führt +มืà¸Ń à¸ĸืà¸Ń +ĠÙĦ ÙĤد +ĠØ£ÙĨ Ùij +سÙĬ طر +ãģ¾ãģļ ãģ¯ +ס ×ĵ +Ñģк олÑĮко +ãģ¿ãģŁãģĦ ãģª +×ĵר ×Ĵ +×¢ ×Ļ×ĵ +à¹ĥหà¹ī à¸ļริà¸ģาร +ĠÐĶ Ð¸ +×ij×¢ ×Ļ×ķת +Ġ×Ķ×Ĺ ×ķ +пиÑģ ÑĮ +ĠاÙĦØ® ÙĦ +б ав +Ġİ lk +ĠاÙĦØ® Ùħ +ĠاÙĦØ®Ùħ ÙĬس +ĠÙĬ ÙĤÙĪÙħ +æĻĤ ãģ® +ĠsÅĤ ow +ĠØ£ ÙĩÙħ +Ø®ÙĦ ÙĤ +ĠØ£ صبØŃ +Ġchứ a +Ġth ác +Ùģ Ø§ÙĦ +Ġch á»Ŀ +ĠاÙĦØ® ار +ĠاÙĦخار ج +ĠاÙĦخارج ÙĬØ© +Ø· ائر +Ġt Ãł +ĠtÃł u +à¸ģล à¹īà¸Ńà¸ĩ +ĠاÙĦÙħر Ø£ +ĠاÙĦÙħرأ Ø© +åħ¨ ãģı +ĠÃĸ n +çļĦ ãģ«ãģ¯ +Ġpiè ce +×Ĵ ×Ļ×ij +ĠاÙĦ ÙĪØ§ÙĤع +ä»Ĭ ãģ® +ĠاÙĦÙħ ÙĤ +cz nÄħ +Ù쨹 اÙĦ +ен ного +ĠÑĦак ÑĤ +ìĭł ì²Ń +ĠÐŀ ни +ĠاÙĦبÙĦ اد +ов иÑĩ +ëı Į +ÑĦ ÑĥнкÑĨи +Ġìĸ´ ëĬIJ +ãĥķãĤ© ãĥ¼ +d ÃŃ +ил оÑģÑĮ +Ùħ Ùī +ĠاÙĦØ£ÙħرÙĬ Ùĥ +ĠاÙĦØ£ÙħرÙĬÙĥ ÙĬØ© +×ĺ ×Ļפ×ķ׾ +íĶĦ ë¡ľê·¸ +íĶĦë¡ľê·¸ ëŀ¨ +Ġש ×ķ׳×ķת +Ø´ ÙħÙĦ +ĠпаÑĢ Ð° +Ġ×Ķ×Ĺ ×ķ×§ +ÙĪØ² ارة +ãģ¨ ãģĻãĤĭ +Ġqu ảng +ĠaÄŁ ır +ĠاÙĦÙĦ ج +ĠاÙĦÙĦج ÙĨØ© +ê¸ ´ +ĠT ân +ج ÙħÙĦ +д ол +à¹ģà¸ŀ à¸Ĺย +à¹ģà¸ŀà¸Ĺย à¹Į +Ġר×IJ ש×Ļ +Ñī ей +Ġçev re +Ġкомп лекÑģ +Ġ×ij ×ŀש×ļ +Ġalt ın +ĠØ£ عÙħاÙĦ +ĠÑģво его +ãĤĪ ãģĦ +×Ĺ׾ ×Ļ×ĺ +×ŀ׳ ×¢ +Ġר ×ij×Ķ +ĠØ£ÙĬضا Ùĭ +×ĸ ׾ +ĠاÙĦسÙĬ اسÙĬ +æĢĿ ãģĨ +קר ×§ +קרק ×¢ +ĠاÙĦÙģ Ø±ÙĬÙĤ +б иÑĤ +×§ ׳×Ķ +ĠØ¥ ÙĨÙĩ +ĠÐĴ ам +Ðł Ðŀ +ãĥĪ ãĥª +å¿ħè¦ģ ãģª +Ġch âu +ç¶ļ ãģij +Ġçöz üm +gÅĤ ow +ع ÙĤÙĦ +売 ãĤĭ +i ết +à¸Ĭิ à¹īà¸Ļ +ĠØŃÙĤ ÙĪÙĤ +Ø·ÙĦ ع +ĠÄij en +ĠÙĥ اÙ쨩 +ãģ® ãģĶ +Ġë ¬ +Ġë¬ ¼ +Ġ물 ë¡ł +Ġرس ÙĪÙĦ +з ам +зам ен +Ġkullan ıcı +×¢ ×ķ׾ +èī² ãĢħ +ÑĪи ÑĢ +Ġ׊ש +Ġwy gl +Ġwygl Äħda +ש ×Ļ×ŀ×ķש +å¿ĺ ãĤĮ +×¢ ×Ļצ×ķ×ij +ĠاÙĦس ÙĪØ±ÙĬ +å°ij ãģªãģĦ +Ġпо иÑģк +สำ à¸Ļัà¸ģà¸ĩาà¸Ļ +Ġ×ŀצ ×ĵ +Ġmü ÅŁ +ĠmÃ¼ÅŁ ter +ĠmÃ¼ÅŁter i +ĠÙħÙĨ ÙĩÙħ +à¸ķำ à¹ģ +à¸ķำà¹ģ หà¸Ļ +à¸ķำà¹ģหà¸Ļ à¹Īà¸ĩ +ÅĽ mie +Ġש ×ł×ª +Ġ×Ķ ×¤×Ļ +פר ש +×¢×ijר ×Ļת +สà¸Ļ ัà¸ļ +สà¸Ļัà¸ļ สà¸Ļุ +สà¸Ļัà¸ļสà¸Ļุ à¸Ļ +è¨Ģ ãģ£ãģ¦ +à¸ģาร à¸Īัà¸Ķ +ĠMo że +из аÑĨии +ứ t +ĠÙĪØ¨ عد +ĠdeÄŁ ild +ĠdeÄŁild ir +Ġת ×ŀ +Ġ×ŀ×ŀ ׳×ķ +話 ãĤĴ +ĠÑĨ ена +Ġth úc +×Ļ×ŀ ×ķף +ĠB áo +ãĤĴ åıĸãĤĬ +å®ī ãģĦ +Ġ×¢×ķש ×Ļ×Ŀ +èĩªåĪĨ ãģĮ +l ée +ãĤĭ ãģ®ãģ§ +иÑĢÑĥ еÑĤ +ãģ¦ ãĤĭ +ست ر +ĠاÙĦØŃ ÙĬ +×Ļ׾ ×ķת +Ġ×Ĺ ×ij +ÙĤر Ø£ +تÙħ ÙĥÙĨ +س ائÙĦ +prü f +ãģĭ ãģijãģ¦ +ĠÑģоб ÑģÑĤвенно +ĠìľĦ íķĺìŬ +׾ ×Ļ×ĺ +ãģĮ å¤ļãģı +ÙĬت Ùĩا +ç«ĭ ãģ¦ +ม à¸Ńà¸ļ +ìĭľ ìŀ¥ +оÑĢ Ð° +Ġs avaÅŁ +×ĺ×Ļ×ij ×Ļ +×ij ׳×ķ +Ùħا ذا +기 ê°Ħ +ãģªãģ© ãģ§ +Ġ×ŀ ת×Ĺ×Ļ׾ +Ġnhi á»ħ +Ġnhiá»ħ m +ка ÑĢ +каÑĢ ÑĤ +Ġ׾×Ķ ×©×ª×ŀש +׳ ×Ļ×Ĺ +اد ÙĬØ© +ราย à¸ĩาà¸Ļ +Ġprzy kÅĤad +Ñī ий +ØŃض ÙĪØ± +Ġh ôn +à Ŀ +ת ×ķצ×IJ×ķת +راب Ø· +Ġb ếp +ĠполÑĥÑĩ и +åĩºä¼ļãģĦ ç³» +à¸Ľà¸¥ à¹Īà¸Ńย +ĠاÙĦØ´ باب +اÙĩ ÙĦ +ä»Ĭ ãģ¾ãģ§ +رج ع +ãĤ¶ ãĥ¼ +ÙĤ Ùģ +ĠGro ÃŁ +ĠíļĮ ìĽIJ +اج ر +Ġ×ij×ŀ קר×Ķ +Ġseg urança +fü hl +ãģ¦ ãģĦãģı +หม à¸Ń +ĠкоÑĤоÑĢ Ð¾Ð¼ +ĠN Äĥm +ĠdÅĤ ugo +ÙħÙĨ ØŃ +ש×ķ ×ķ×Ļ +ĠØ£ÙĬ اÙħ +ส à¸łà¸²à¸ŀ +r zÄħ +شر Ùĥات +ãĤĴ èĢĥãģĪ +д аÑĢ +à¸Ľà¸£à¸° à¸Ĭุม +Ġ×ķ×IJ ×ĸ +i á»ĩn +Ġt ươi +ש ×Ļ×Ĺ +à¸Ń à¹Īà¸Ńà¸Ļ +æĽ¸ ãģĦãģ¦ +Ġng ữ +×ij×Ļ×ĺ ×Ĺ +×ij×Ļ×ĺ×Ĺ ×ķף +Ġs ẵ +Ġsẵ n +ì§Ģ ëıĦ +ĠпÑĢ ÐµÐ¿ +ĠпÑĢеп аÑĢаÑĤ +Ġна ÑĥÑĩ +ĠÃľ nivers +ĠÃľnivers ites +ĠÃľniversites i +Ġ×Ĵ×ĵ ×ķ׾×Ķ +Ġ×Ķ ×ł×ª +Ġ×Ķ×ł×ª ×ij×¢ +ãģ§ãģĤ ãģ£ãģŁ +Ġmies iÄħ +ĠmiesiÄħ c +г ÑĢам +гÑĢам м +Ġبش Ø£ÙĨ +ĠÑħ ÑĢ +×§ ×Ļ×ĵ +×§×Ļ×ĵ ×ķ×Ŀ +Ø´ Ùĥر +Ġ á»ķ +Ġá»ķ n +ãģĮãģĤ ãģ£ãģ¦ +ãģķãĤĮ ãģ¾ãģĻ +Ġ×Ĺ ×ķ×ĵ +Ġ×Ĺ×ķ×ĵ ש×Ļ×Ŀ +ÙħÙĪØ§ جÙĩ +ÙħÙĪØ§Ø¬Ùĩ Ø© +أش خاص +ب غ +à¹Ģรียà¸Ļ รูà¹ī +ãģĹãģ¦ ãģĦãģı +Ġs ạn +å¿ħ ãģļ +׳ ×Ļ×Ĵ +׳×Ļ×Ĵ ×ķ×ĵ +باÙĦ غ +׊ש×ŀ +×Ĺש×ŀ ׾ +Ġnap raw +Ġnapraw dÄĻ +Ø´Ùĩ اد +×IJ ×ķ×Ķ +×IJ×ķ×Ķ ×ij +и ÑĨÑĭ +Ġ×Ķ ×¨×Ľ×ij +ëŀ ij +Ġת ×¢ +Ġ×Ķ ×Ļש +Ġ×Ķ×Ļש ר×IJ +Ġ×Ķ×Ļשר×IJ ׾×Ļ +Ø£ ÙħÙĨ +ÑİÑī аÑı +sk ór +LER İ +Ġ×Ķ×IJ×Ĺר ×ķף +×¢ ׳ק +ĠÙĪ ÙĥÙĦ +ãģĵãģĵ ãģ§ +Ġqu án +liÄŁ in +à¸ģà¸İ หมาย +Ø· Ùħ +Ø£ جÙĩ +أجÙĩ زة +ĠEr doÄŁan +ãģ§ ãģĬ +Ġв ÑĢа +ĠвÑĢа Ñĩ +ĠPh ó +à¸Ĭั à¹Īว +à¸Ĭัà¹Īว à¹Ĥม +à¸Ĭัà¹Īวà¹Ĥม à¸ĩ +Ġph úc +×Ļפ ×ķת +×¢×Ļ ×ķף +Ġduż o +ãĥģ ãĥ¼ãĥł +ĠÙĬ Ùİ +Ġзад аÑĩ +Ġ×Ĵ×ij×ķ×Ķ ×Ķ +Ġ׼ ׼׾ +лож ен +ét at +Ġng Äĥn +èµ· ãģį +ĠTi ến +ص عب +Ġexperi ência +Ø® Ùħ +à¸ģาร à¸Ĺำà¸ĩาà¸Ļ +س ÙĬد +ĠD á»± +ĠкоÑĤоÑĢ Ð¾Ð³Ð¾ +lad ıģı +Ġkh á»ķ +Ġê³Ħ ìĨį +Ñī ик +สà¹Īวà¸Ļ à¸ķัว +з оÑĢ +ÙĨ Ùı +Ġ à¸Ķัà¸ĩ +Ġà¸Ķัà¸ĩ à¸Ļัà¹īà¸Ļ +Ġc ấu +ĠÄij á»ijc +о ÑĦ +ĠاÙĦØ£ عÙħاÙĦ +ãģªãģı ãģ¦ãĤĤ +×ķ׼ ×Ļ×Ŀ +à¹ģ à¸Ľ +ĠB ên +ãĥ¯ ãĥ³ +Ġgi ám +ĠÅŀ u +Ġd áng +ع ÙĦÙĬ +à¹Ģà¸ģ ษ +à¹Ģà¸ģษ à¸ķร +ÙĪØ¬ ب +н нÑĭе +ÙĤ ضاء +à¸Ħว à¸ļ +à¸Ħวà¸ļ à¸Ħุ +à¸Ħวà¸ļà¸Ħุ ม +ãģ¤ ãģ¤ +ĠVi á»ĩc +×ŀ×ij ×ĺ +ש×Ļת ×ķ×£ +Ġв едÑĮ +k aza +kaza ÅĤ +à¸ķำ รวà¸Ī +ãĤ¿ ãĥ« +Ġпов Ñĭ +ĠповÑĭ ÑĪен +ĠS ợ +ĠìĦ¤ ëªħ +ĠÃĩ ünkü +ìĥĿ íĻľ +Ö ¾ +ãĤĮ ãģ¦ãģĦãĤĭ +Ġ×ij ר×IJש +ר ×ķ×Ĵ +Ġо ÑĦи +ĠоÑĦи ÑĨиалÑĮн +ĠÑĥ ÑģÑĤанов +ĠÑĥÑģÑĤанов лен +ĠاÙĦÙħ صر +ĠاÙĦÙħصر ÙĬØ© +ĠÐŁÐ¾ ÑįÑĤомÑĥ +ÙĨ صÙģ +ĠÙĪØ§ÙĦ ÙĨ +Ġh Ãłi +à¸Ħ ิ +ĠApr ès +ì³ IJ +à¹Ģà¸ĭ ีย +×ĵ ×ŀ×Ķ +activ ité +à¸Ħิà¸Ķ วà¹Īา +ÑĤ ÑĢен +à¹Ģ ฮ +ãĥı ãĤ¤ +ãģĮ å¢ĹãģĪ +ен наÑı +Ġìĺ¤ ëĬĺ +ãĥ¢ ãĥ³ +Ġкон еÑĩно +ĠÙħÙĤ ابÙĦ +cl é +Ġh ü +Ġth ẳng +ìłģ ìĿ´ +ĠÐIJ лекÑģ +ĠÐIJлекÑģ ан +ĠÐIJлекÑģан дÑĢ +ãĥŀãĥ³ ãĤ·ãĥ§ãĥ³ +ãģ²ãģ¨ ãģ¤ +ãģª ãģĬ +à¹Ģà¸Īà¹īา à¸Ĥà¸Ńà¸ĩ +ëĵľ 리 +Ø´ اء +ĠsaÄŁ lık +ĠÅŁ imdi +×Ļ×IJ ׾ +تأ Ø«ÙĬر +Ø£ سب +أسب اب +ĠвÑĭполн ен +л ок +ש ×Ļ×ij×Ķ +Ġl ắm +ĠTr Æ°á»Ľc +Ġ×Ķ×¢ ׾ +리 를 +ĠÑĢ ÐµÐ¶ +ĠÑĢеж им +int é +inté gr +×Ĵ ׳×Ļ +ĠاÙĦØ´ عر +Ġmil hões +Ġpeque ño +ãĤ³ ãĥ¼ãĤ¹ +×ķ׼ ×Ĺ +à¹Ģà¸Ĭ à¹īา +شر ÙĤ +Ġh ương +รัà¸IJ à¸ļาล +à¸ģล าย +à¸ģลาย à¹Ģà¸Ľà¹ĩà¸Ļ +Ġпод Ñħод +תש ×ķ×ij×Ķ +ãģıãģª ãģ£ãģ¦ +ĠاÙĦØ£Ùħ Ùħ +ĠH á»įc +ĠwspóÅĤ pr +ĠwspóÅĤpr ac +Ñĩ Ñĥв +ÑĩÑĥв ÑģÑĤв +ÃŃst ico +à¹Ģà¸ģ าะ +ìĽ Ģ +Ġназ ад +ãĤĭ ãĤĪãģĨãģ« +ĠС Ш +ĠСШ ÐIJ +м он +ĠAs ÃŃ +×ķר ×Ĵ +полн ен +×ŀס ׾ +×ŀ×¡×ľ ×ķ׾ +à¹Ģลืà¸Ń à¸Ķ +à¹Ģริà¹Īม à¸ķà¹īà¸Ļ +ĠاÙĦØ¥ Ùħ +ĠاÙĦØ¥Ùħ ارات +צ×Ķ ×¨ +ãĥ¡ãĥª ãĥĥãĥĪ +ĠпоÑĤ ом +в из +ĠÙģ ØªØ±Ø© +å¾Į ãģ® +ÐĿ ÐIJ +×ŀס ר +ÙĬر ÙĬ +pr é +Ġte ÅŁek +ĠteÅŁek kür +Ġöd eme +د اÙĨ +ãģ¾ ãģĹãģ¦ +缮 ãģ« +ĠÑĤ еÑĩение +l ard +lard ır +à¹Ģรา à¸Īะ +ס פ×Ļ +ĠÙĪÙĥ ذÙĦÙĥ +Ġh át +Ġt á»Ļc +à¸Ħุ ย +Ġb ức +ØŃ ÙĬÙĨ +èģŀ ãģĦãģ¦ +Ùħؤ شر +ĠNh ư +Ġмен ее +ละ à¸Ħร +Ñģ ин +ĠÑĢ ÐµÐº +ĠÑĢек л +ĠÑĢекл ам +ĠÙģ ÙĩÙĪ +Ġ׾ ×ĸ +×Ļ׳ ×ķת +ĠÅŁ art +ÑģÑĤав ка +Ġíı¬ íķ¨ +ãģ«è¡Į ãģı +ï¼ Ŀ +ĠпозволÑı еÑĤ +Ġת×ķ׼ ׾×ķ +ов ал +صÙĦ Ø© +Ġ׾ש ׳×ķת +ĠÐĺ гÑĢ +ÙħÙĨتج ات +Ġsat Ä±ÅŁ +Ñģ ко +ĠاÙĦØ«ÙĦاث اء +Ġ×Ķ×ĵ×ijר ×Ļ×Ŀ +ãģĹãģ¾ ãģĹãĤĩãģĨ +بÙĤ Ùī +åĬĽ ãĤĴ +ĠÃĩ ok +ãĥģ ãĥ¥ +à¹Ģà¸Ĭ ืà¹īà¸Ń +ยุ à¸Ħ +ศา ล +Ġ×§×ķ×ĵ ×Ŀ +×ĸר ×Ļ×Ŀ +ãģ® åł´åIJĪ +ĠìķĬ ìķĺ +ãģĤãĤĬãģ¾ãģĻ ãģĮ +×IJ שר +è¡Į ãģı +ãģ» ãģĭ +æ°Ĺ ãģ«ãģªãĤĭ +й деÑĤ +íķĺìĺĢ ëĭ¤ +ستÙħر ار +ĠÐŁÑĢ Ðµ +ĠÑģ боÑĢ +ĠìķĦ 무 +ç§ģ ãĤĤ +ع ص +Ġн иÑĩ +ĠниÑĩ его +ĠпÑĢи ем +×§ ×ķ×ŀ +ĠìĪĺ ëıĦ +Ġì ¡´ +Ġì¡´ ìŀ¬ +ĠØ£ Ø«ÙĨ +ĠأثÙĨ اء +ĠÙĪØ§ÙĦ ØŃ +ãģĮ ãģ§ãģįãĤĭ +Ġת ×Ķ +Ġת×Ķ ×Ļ×Ķ +ר ף +ĠÑģвÑıз и +×Ĵ שת +Ñģп екÑĤ +ס ×ij×Ļ×ij +ס×ij×Ļ×ij ×Ķ +ĠíķĦìļĶ íķľ +ت خصص +Ġж ив +Ġжив оÑĤ +ĠMay ıs +تع ا +تعا ÙĪÙĨ +ĠعÙĨ Ùĩا +ów ki +ĠاÙĦÙģÙĦسطÙĬÙĨ ÙĬ +ãģłãģijãģ§ ãģªãģı +ìĿ¸ ì§Ģ +ĠاÙĦس ÙĪØ¯ +ĠاÙĦسÙĪØ¯ اÙĨ +إجراء ات +Ġkö tü +Ġ×Ļ ×ª×¨ +×Ĵ ×Ļש×Ķ +Ġצ ×ķר×ļ +รà¸ĸ ย +รà¸ĸย à¸Ļà¸ķà¹Į +Ñħ оÑĤ +Ðł ÐIJ +ÙĪ Ø·ÙĨ +Ġsay ısı +ס ×Ĺר +Ùħ ÙĪÙĦ +ãĤĴæĮģ ãģ£ãģ¦ +ع اÙĨ +Ġt á»Ļi +ĠвÑĭ ÑĪе +Ġt ầm +ãĥĪ ãĥ¬ +×Ļצ ×ķ +ม ุม +س ÙĪØ¯ +ìłĦ ìŀIJ +ãĤµ ãĥŃãĥ³ +ìĤ° ìĹħ +ĠоÑģнов ан +Ø® Ù쨶 +רצ ×Ķ +بÙĬ ض +×ķÖ ¹ +ס×Ļ ×Ļ×¢ +Ġש ×IJ×Ļ +ĠاÙĦÙĤر Ø¢ÙĨ +ĠТак же +×ŀש ×ŀ×¢×ķת +س ÙĩÙĦ +Ġ×Ķ ×ł×Ķ +ãĤĴ ãģĹãģ¦ãģĦãĤĭ +×Ļ ×Ļס +×Ķ ×ķ×IJ +ĠB ÃŃ +Ġмал о +ĠëͰëĿ¼ ìĦľ +Ġר ×Ĺ×ij +ãģĮ é«ĺãģĦ +ÙĪ Ø§Ø³ +ìĤ ¼ +׳ ×¢ +ãģ£ ãģ¡ãĤĥ +ĠT üm +à¸Ńีà¸ģ à¸Ķà¹īวย +ãģĹãģ¦ ãģıãģłãģķãģĦ +ÙĨØ´ اط +ãĥĹ ãĥ©ãĥ³ +али ÑģÑĮ +×ĵ ×ľ×ª +Ġwc zeÅĽ +ĠwczeÅĽ niej +ĠÑįÑĤ им +Ġthá»ĭ t +à¸ļ ัà¸į +à¸ļัà¸į à¸Ĭี +ãģļ ãģ£ãģ¨ +ÑĢ Ð¸Ð½ +Ġswo jÄħ +íķĺëĬĶ ëį° +Ġë§Įëĵ¤ ìĸ´ +تش Ùĥ +تشÙĥ ÙĬÙĦ +ائ Ùĩ +Ġ׾פ ×Ĺ×ķת +ãĥĭ ãĥ¥ +ãĥĭãĥ¥ ãĥ¼ãĤ¹ +׼×IJ ף +ãģ§ãģį ãģŁ +зв он +Ġsta ÅĤ +×Ĺ×ijר ת×Ļ +ĠØ£ عÙĦÙĨ +à¹ģà¸ļà¸ļ à¸Ļีà¹ī +بد Ø¡ +ãĤģ ãģŁ +Ġ×ŀש ×ŀ×¢×ķת +Ġ×ŀש×ŀ×¢×ķת ×Ļ +ör ü +Ġh ạnh +z ähl +ĠL ý +Ġ×ij ×Ķת +Ġ×ij×Ķת ×IJ×Ŀ +б аÑĢ +ì¦ Ī +ä»ĬåĽŀ ãģ® +Ġy ü +Ġyü ks +Ġyüks el +ãĤ½ ãĥ¼ +ãģĤ ãĤĮ +ת ׾×ŀ×Ļ×ĵ +ãģ¤ ãģª +×ij ׳×Ļ×Ŀ +Ġx ếp +ĠмÑĥж Ñĩин +ĠاÙĦÙĥ تاب +׼ ×ŀ×ķת +Ġç e +Ġçe ÅŁ +ĠçeÅŁ it +ĠçeÅŁit li +×ĵ ×Ļר×ķת +à¸ļุ à¸į +ĠاÙĦØ¥ ÙĦÙĥ +ĠاÙĦØ¥ÙĦÙĥ ترÙĪ +ĠاÙĦØ¥ÙĦÙĥترÙĪ ÙĨÙĬ +ĠباÙĦØ¥ ض +ĠباÙĦإض اÙ쨩 +Ġyö nel +Ġyönel ik +mys ÅĤ +à¸Ķà¹īวย à¸ģาร +à¸ģาร à¸Ĺำ +ов Ñĭм +Ø£ زÙħØ© +æİ¢ ãģĹ +íļ ¨ +Ġ×ķ×IJ ×Ŀ +Ġnghi êm +ÑĪ Ð¸Ð½ +ка л +Ġcrian ças +èĩªåĪĨ ãģ§ +Ġн ай +Ġнай ÑĤи +ĠS á»ij +ĠÃ¶ÄŁrenc iler +ãĥ¶ æľĪ +Ñģ ан +ĠJ á +ĠkonuÅŁ ma +شر Ø· +ëĪ Ī +ar rière +ضر ÙĪØ±Ø© +ãĥĶ ãĥ³ +×¢ שר +аÑĢ ÑĮ +جÙħ اع +Ġdé co +Ġ×Ļ×Ķ ×ķ×ĵ×Ļ +à¸ŀ ลาà¸Ķ +ĠÙĬ ÙĥÙĨ +Ġج اÙħعة +Ø· بÙĤ +Ġbo ÅŁ +×ķ ×ķ×IJ +×ŀ×ĵ ×¢ +×§×ij×ķצ ת +פ ×Ļר +jÄħc ym +ÙħØ´ ا +Ùħشا ÙĥÙĦ +צ פ×ķף +Ø¥ ست +×ŀ׼ ר +سÙħ ع +Ġкак ой +ÑĤ воÑĢ +ØŃ ج +Ù쨱 ض +пÑĢав лен +Ġник ак +Ġmi á»ĩ +Ġmiá»ĩ ng +ü ÃŁ +иÑĢов ал +׾ ×ŀ×ķת +次 ãģ® +ÙĦ Ø· +à¸ķ ัà¸Ļ +×Ķ ×ª×Ĺ×Ļ׾ +Ġfoto ÄŁ +ĠfotoÄŁ raf +طر ØŃ +à¸Ńà¸Ńà¸ģ à¹Ħà¸Ľ +Ġy ên +Ġп ок +Ġпок Ñĥп +ĠпокÑĥп а +ÑĨ Ñĥ +Ġкомп ÑĮÑİ +ĠкомпÑĮÑİ ÑĤеÑĢ +ĠاÙĦÙĥ رÙĬÙħ +تص Ùħ +تصÙħ ÙĬÙħ +Ġоказ а +Ġzar ówn +Ġzarówn o +ëĮĢ ì¶ľ +ãĤ»ãĥ³ ãĤ¿ãĥ¼ +Ġjako ÅĽci +æĤ © +æĤ© ãģ¿ +Ø£ÙĨ ÙĪ +Ø£ÙĨÙĪ Ø§Ø¹ +ë¹ ł +Ġìłķ ë§IJ +Ġk ẻ +ĠÑģай ÑĤа +Ġ×Ķ ×¢×¨×ij +Ùĩ ز +pres ión +ĠÑģÑĤ ен +ãģ£ãģ¦ ãĤĭ +Ġhız lı +Ðļ ÐIJ +×ŀשפ ×Ĺת +ĠÙĨ Ùĩا +ĠÙĨÙĩا ÙĬØ© +ãģ¾ ãģĦ +о ÑħÑĢан +ร à¹īà¸Ńย +ล ึà¸ģ +ĠÙĪØ¨ اÙĦ +ãĤĤãģ® ãģĮ +ר׼ ×Ļ×ij +ãĤ¤ ãĥ¤ +س ؤ +سؤ اÙĦ +ĠÙĦØ£ÙĨ Ùĩ +ĠkonuÅŁ tu +Ðļ ÑĥпиÑĤÑĮ +Ġש×IJת ×Ķ +ĠÙĪØ§ÙĦ س +Ġmożliwo ÅĽci +Ġpró b +ëĶ ° +ãģ© ãĤĮ +ĠÐľ ин +ĠоÑĢганиз м +ãģ«å¯¾ ãģĻãĤĭ +ĠPr é +Ġpriv é +ch è +ãģĦãģŁãģł ãģį +สà¸Ļุ à¸ģ +ajÄħ ce +ĠD zi +ĠDzi ÄĻki +ÅĤat w +r än +rän k +æĿ¥ ãģŁ +Ġ×Ķ×Ļ×Ķ ×ķ×ĵ×Ļ +ãĤ¬ ãĥ¼ +ĠÑĢаР´ +ĠÑĢад и +к ÑĤив +Ø£ Ùĩد +Ø£Ùĩد اÙģ +ש ×IJ×Ļר +ãģ¦ ãģĦãģªãģĦ +Ġfr üh +Ġок ол +Ġокол о +Ġreg ião +ĠÑĩиÑģ ле +Ġpon iew +Ġponiew aż +ìĦ¼ íĦ° +Ġb ầu +Ġê · +Ġê· ľ +Ġê·ľ ìłķ +ĠH òa +ĠÑĤ оÑĤ +ãĤĤ å¤ļãģĦ +ĠاÙĦإسÙĦاÙħ ÙĬØ© +ãģĭ ãģĦ +Ñį н +ĠÑĥказ ан +ĠÑĤак ое +ï¼ ³ +ëĮĢ íķĻ +Ġgen iÅŁ +ĠاÙĦØ® ÙĬ +ĠاÙĦØ®ÙĬ ارات +ãĤĴè¡Į ãģĨ +ש ×ŀ×Ķ +ĠLÃł m +ÙĪÙĨ ÙĬ +Ġ×IJ ׾×Ļ×ķ +Ä ĺ +à¹Ħมà¹Ī สามารà¸ĸ +人 ãģ¨ +بر ز +×Ļס ×ķ×ĵ +×Ĵ ׾×Ļ +ĠÙĬ ÙĨا +ĠÙĬÙĨا ÙĬر +ĠкаÑĢÑĤ ин +Ġt ôn +à¹Ģ à¸ģร +à¸Ħ à¸Ķี +Ġ׾×IJ ×ķר×ļ +ãĤĤãĤī ãģĨ +ãģĭ ãģĭãĤĭ +ани и +Ġara ÅŁtırma +ÙĦاØŃ ظ +ãģĦ ãĤĦ +ĠT Ãłi +Ġ à¸Ļà¸Ńà¸ģà¸Īาà¸ģ +Ġà¸Ļà¸Ńà¸ģà¸Īาà¸ģ à¸Ļีà¹ī +ĠÄIJ ảng +ãģ£ãģ¦ ãģįãģŁ +Ġà¸ĭึà¹Īà¸ĩ à¹Ģà¸Ľà¹ĩà¸Ļ +Ġt ả +Ġmożliwo ÅĽÄĩ +ĠS ản +Ġİ ki +Ġc ắt +س Ø£ÙĦ +Ġbak ım +Ø´ ب +à¸ķ ีà¹ī +à¸ŀ ยาย +à¸ŀยาย าม +สั à¸Ľ +à¸ªà¸±à¸Ľ à¸Ķา +à¸ªà¸±à¸Ľà¸Ķา หà¹Į +ë° Ģ +еÑĢ Ñĭ +Ġc ánh +Ġthu ế +ت بع +ãģ«åħ¥ ãĤĮ +Ñİ ÑģÑĮ +íļĮ ìĿĺ +ç°¡ åį +ç°¡åį ĺ +ç°¡åįĺ ãģ« +Ġtr úc +ĠاÙĦÙĥ ÙĪÙĬ +ĠاÙĦÙĥÙĪÙĬ ت +ãĤıãģij ãģ§ãģĻ +ĠÑģв об +ĠÑģвоб од +ĠÑĥÑĩаÑģÑĤ ник +สิ à¹īà¸Ļ +ĠпÑĢо ÑĦеÑģÑģиона +ĠпÑĢоÑĦеÑģÑģиона лÑĮн +Ñģп оÑĢ +×Ĺ ×ķ×ij×Ķ +Ùħع ÙĨÙī +ĠاÙĦÙģ ØªØ±Ø© +สูà¸ĩ สุà¸Ķ +ãĤı ãģļ +ĠÄij è +ĠÄijè n +æ¯Ķ ãģ¹ +า à¸ĺิ +Ġmoż emy +à¹ģ à¸ĭ +à¸Īะ à¹Ħมà¹Ī +Ġs ắp +Ðļ Ðŀ +Ġprá ctica +ÙĪÙĥ اÙĦØ© +è¾¼ ãĤĵãģ§ +ológ ica +Ġе Ñī +ĠеÑī Ñij +تع دÙĬÙĦ +ĠØ£ Ùĥد +Ġצר ×Ļ׼ +Ġצר×Ļ׼ ×Ļ×Ŀ +Ø« Ùħ +Ġк ÑĢÑĥ +ĠкÑĢÑĥ п +×ij×Ļ×§ ×ķרת +Ġì¡° ê¸Ī +ãģ¨ãģį ãģ¯ +Ġb ạc +ĠÑĢаÑģ пол +ĠÑĢаÑģпол ож +ĠÑĢаÑģполож ен +ز ÙĬÙĨ +ĠÐļ ÑĢоме +ĠاÙĦÙĨ ظر +×Ķ ×ķ×ĵ +ĠاÙĦس بت +ã썿ĢĿ ãģĦ +Ġpa ÅĦst +ĠpaÅĦst w +ĠÙĦÙĬ ست +ĠбÑĥд Ñĥ +à¸Ĺัà¸Ļ à¸Ĺี +ร าม +ØŃ صÙĪÙĦ +ãģĹãģ¦ãģıãĤĮ ãĤĭ +ĠاÙĦØ¥ سرائÙĬÙĦ +ĠاÙĦإسرائÙĬÙĦ ÙĬ +ãģĵãĤĮ ãģ¾ãģ§ +ìĤ¬ 를 +Ġs ürü +à¹Ģว à¸Ńรà¹Į +à¹Ģà¸ĭ à¸Ńรà¹Į +Ġutilis é +ĠÑģиÑģÑĤем а +Ġdw ó +Ġdwó ch +Ġpróp rio +Ġëĵ± ìĿĦ +arr êt +ĠЧ а +×IJ×ŀ ׳×ķת +عار ض +à¹Ģà¸ģม สà¹Į +Ġ׾×Ķ ×ij×Ļף +Ġ׾ ×ij×Ĺ +Ġ׾×ij×Ĺ ×ķר +สา à¸Ĥา +ĠÐľÐ¾Ñģк ве +ب عد +ĠاÙĦÙĤر ار +ĠÄIJ á»ĭa +Ġ×Ĺ ×Ĵ +Ùģ ØªØ± +ÙĪÙĨ Ø© +Ġ×Ķ×ĸ ×IJת +å¸Ĥ ãģ® +ãģ» ãģĹãģĦ +Ġ×ij×¢ ×Ļר +ĠÑĤеп еÑĢÑĮ +ìĬµ ëĭĪê¹Į +à¹Ħม à¹Īว +à¹Ħมà¹Īว à¹Īา +à¹Ħมà¹Īวà¹Īา à¸Īะ +×ŀ ×IJ×Ķ +æĥħ åł± +æĥħåł± ãĤĴ +غ ÙĨ +Ġпо Ñı +ĠпоÑı ви +éģİ ãģĶ +تش غ +تشغ ÙĬÙĦ +в ел +Ġ×Ĺ ×ŀ +ãģ¨ãģªãĤĬ ãģ¾ãģĻ +Ġra ÄŁ +ĠraÄŁ men +ãģĭ ãģ©ãģĨ +ãģĭãģ©ãģĨ ãģĭ +ен ко +ì§Ģ ê³ł +Ġ×IJ׾ ×Ļ×Ķ +ĠØ£ ÙĦ +à¸Īำ หà¸Ļ +à¸Īำหà¸Ļ à¹Īาย +nız ı +Ġ׾ק ×Ĺת +Ø£ ÙĩÙħ +Ø£ÙĩÙħ ÙĬØ© +ت غÙĬر +ש ×Ĺר +ס×ķפ ר +×ĵ ×Ļר +èī¯ ãģĭãģ£ãģŁ +×ŀ׾×Ĺ ×ŀ×Ķ +ÑģÑĤв ие +ÑĤ ÑĢаÑĤ +ĠاÙĦØ£ Ø® +ĠاÙĦأخ ÙĬرة +ĠاÙĦØŃ صÙĪÙĦ +Ġcréd ito +צ ×Ļ×¢ +ãĥ¬ ãĥĻãĥ« +بر ÙĬ +ëIJ IJ +ãģł ãģ£ãģ¦ +Ġreal tÃł +س Ù쨱 +×ķ׳ ×ķ +×Ĵ ×ķ×ĵ +×Ĵ×ķ×ĵ ׾ +ฮ า +ãģĹãģ¦ ãģĬãĤĬãģ¾ãģĻ +Ġg Ãł +Ġ׾×ij צע +å¼ķ è¶ĬãģĹ +Ġ×ŀ ×Ļ׾×Ļ +Ġ×ŀ×Ļ׾×Ļ ×ķף +Ùħ در +Ùħدر سة +פ ×ķ×ĺ +à¸Ļà¹īำ มัà¸Ļ +ëģ Ŀ +ع Ùĥس +ĠÙĤ ض +ĠÑĢÑĭ б +خط Ø· +×ŀ×ķס ×ĵ +Ġ׼׾ ׾×Ļ +ĠкоÑĤоÑĢ Ð¾Ðµ +צ×Ļ ×ķף +ĠмеÑģÑĤ а +ãģĭ ãģ¤ +г ÑĢÑĥпп +׾ ×Ļ׾ +ת ×ķ×IJר +ë³µ ì§Ģ +à¹ģà¸ľ à¹Īà¸Ļ +Ġ×ij×¢ ת +æĻĤéĸĵ ãĤĴ +ï¼ £ +ãģ¨ãģĦãģĨãģĵãģ¨ ãģ§ +Ġ׾×Ķ ×§ +Ġ׾ ×ĸ×Ķ +ĠìłĢ ëĬĶ +ĠاÙĦØ¥ رÙĩاب +ĠìŀĪëĬĶ ëį° +ĠÑĤ огда +Ġ×Ķ ×¦×Ļ +×ķ׾ ×ĺ +Ġר פ×ķ×IJ×Ļ +ãģĵãģ¨ ãģ§ãģĻ +ĠÄij ÃŃch +ØŃ ÙĬا +Ġ×Ķ×ŀש ×Ĺ×§ +ãģľ ãģ² +Ġ×ŀ×IJ פשר +ãģ¿ ãģ¾ãģĹãģŁ +ĠاÙĦØ£ÙħÙĬر ÙĥÙĬ +Ùħج تÙħع +Ġس اب +Ġساب ÙĤ +׼ ×Ļ׾ +Ạ¾ +ãĥª ãĤ¹ãĥĪ +Ġì ĥ +Ġìĥ Ī +ĠìĥĪ ë¡ľ +ĠìĥĪë¡ľ ìļ´ +ĠD á»ĭch +à¹Ģหมาะ สม +ĠاÙĦÙĨ بÙĬ +׾ ׾ +ÙĨ ع +Ðĵ лав +Ðĵлав наÑı +Ùħر ض +Ġ×ķ ×ĵ +ت ÙĤÙĬ +تÙĤÙĬ ÙĬÙħ +Ġb ảng +ĠÙģ ÙĤاÙĦ +×¢ ×ŀ×Ļ +д ÑĢа +Ġsu á»ijt +سر عة +Ġc á»Ń +Ġ×Ķ ×Ļ×Ĺ×Ļ×ĵ +سع ÙĬد +à¸Ńา à¸Ĭีà¸ŀ +Ġس ÙĪØ§Ø¡ +ãĤ½ ãĥķãĥĪ +Ġл иÑĩно +ĠÐļ оÑĢ +اÙĩ تÙħ +اÙĩتÙħ اÙħ +à¸Ń à¸Ķี +à¸Ńà¸Ķี à¸ķ +ãģIJ ãĤīãģĦ +Ġiht iya +Ġihtiya ç +ãģ¾ãģ§ ãģ® +ìĭľ ìĬ¤ +ìĭľìĬ¤ íħľ +ÑĢÑĥ ÑĪ +ãĤĦ ãģ£ãģ± +ãĤĦãģ£ãģ± ãĤĬ +к еÑĢ +Ġ ży +Ġży w +кл он +Ġl ượt +à ¾ +да Ñĩи +tür k +غ ÙĪ +ĠигÑĢ Ð¾Ðº +Ġph ê +Ġש ×¢×ľ +ĠاÙĦÙħ دÙĨÙĬ +ĠìŬ룬 ë¶Ħ +ער ×Ļ×Ŀ +Ñħод ÑıÑĤ +Ġx ứ +ÐĹ Ð° +ĠÙģ Ø±Øµ +à¸Īะ à¸Ĺำà¹ĥหà¹ī +íģ ´ +×¢ ×ij×ķר +à¹Ģหลà¹Īา à¸Ļีà¹ī +èĢĥãģĪ ãĤĭ +ÑĢ ÐµÑģÑĤ +н нÑĭй +Ġc ầm +دا Ø®ÙĦ +ĠÙħÙĦÙĬ ار +ĠÐIJ л +ĠвÑĢем ен +à¸Ĭà¹Īวย à¹ĥหà¹ī +ר×Ļ ×ķת +ëĵ ¯ +飲 ãģ¿ +׳ ׾ +שת ×£ +ĠاÙĦسعÙĪØ¯ ÙĬ +u ÃŁ +ìĿ¸ ëį° +ĠìĿ¼ ë°ĺ +ÅĤ ÄĻ +Ġm á»iji +×ŀ ×Ļ׳ +ĠاÙĦØ£ Ø·Ù쨧ÙĦ +Ġçı kan +é cole +×§ ×Ļש +×§×Ļש ×ķר +ĠоÑģ ÑĥÑīеÑģÑĤв +ĠоÑģÑĥÑīеÑģÑĤв лÑı +×ij ×IJר +à¹Ħà¸Ľ à¸Ķà¹īวย +Ġ×¢ ×ķ׾×Ķ +à¸ģà¹ĩ à¹Ħมà¹Ī +ãĥ¢ ãĥĩ +ãĥ¢ãĥĩ ãĥ« +تØŃ ÙĪÙĦ +Ġод ного +ת×Ĺ×Ļ׾ ת +Ġت Ø® +Ġch cia +Ġchcia ÅĤ +ãĥIJ ãĥ³ +èĢħ ãģ¯ +ĠÙħ ØŃÙĦ +Ñģл ож +Ñģлож н +Ġt ÄĻ +Ġçı kt +Ġçıkt ı +ĠC Æ¡ +à¹Ħà¸Ķà¹ī à¹Ģลย +ır ken +à¹Ģà¸Ĥà¹īา สูà¹Ī +ÙħØŃ Ùĥ +ÙħØŃÙĥ ÙħØ© +à¸Ħุ à¹īม +à¸Ļà¹Īา à¸Īะ +лÑİ Ð´ +де ÑģÑı +деÑģÑı ÑĤ +ĠлÑİб ой +تØŃر ÙĬر +צע ×ĵ +Ġе Ñij +ĠاÙĦØŃ ÙĥÙħ +Ġص باØŃ +à¹Ģà¸ļ à¸Ńรà¹Į +Ġróż nych +ги б +ĠÑģ оÑĤ +ĠÑģоÑĤ ÑĢÑĥд +ĠÑģоÑĤÑĢÑĥд ник +ĠобÑĬ ем +פ ×ĺר +ãģĻãģĶ ãģı +ãģ«éĸ¢ ãģĹãģ¦ +в ол +Ø« ÙħاÙĨ +Ġd ần +æĬ ľ +æĬľ ãģij +Ġ×¢ ש +Ġעש ×ķ×Ļ +ס ×ķף +ãģªãģ® ãģ§ãģĻ +ãģ¯ ãģ©ãģĨ +×ŀ×¢ ר×ij +ï¼ ° +Ùħ صر +ÙħÙĨ اسب +ÙħÙĨاسب Ø© +ä¸Ĭ ãģ® +×IJ×Ļש ×ķר +ĠìĦ¤ ì¹ĺ +×ŀ×ĵ×Ļ׳ ×ķת +×ŀר ת +ãĤĭ ãģ®ãģĮ +د Ùİ +ĠاÙĦشر Ùĥات +ìĭľ ê°Ħ +ĠÑĢеÑĪ ÐµÐ½Ð¸Ðµ +ãģĻãĤĭ ãģ®ãģ¯ +ĠìŀIJìĭł ìĿĺ +׾ ×ŀ×ķ +ãģ¨ãģĵãĤį ãģ§ +Ġ×§ צר +Ġmã i +Ġkü ltür +ãĥ©ãĤ¤ ãĥĸ +à¸ľà¸¹à¹ī หà¸įิà¸ĩ +æĻĤéĸĵ ãģĮ +клÑİÑĩ и +diÄŁ iniz +มาà¸ģ à¹Ĩ +تØŃ ÙħÙĦ +Ġh ạt +ãĤ¦ ãĤ£ +п ле +×ŀ ׾×IJ +ÅĤ ó +Ġg á»ijc +Ġ×IJ ×ķ×ĵ×ķת +หว าà¸Ļ +ĠاÙĦ ÙĪØ² +ĠاÙĦÙĪØ² راء +ëĵ¤ ê³¼ +Ġص ØŃ +ĠصØŃ ÙĬÙ쨩 +Ġм м +تد Ø®ÙĦ +Ġpersön lich +Ġز ÙĬ +ĠزÙĬ ادة +ãĤ· ãĤ¢ +Ġng ắn +à¸Ħล ิà¸ģ +Ġs ông +Ġtü ket +Ñį ÑĦÑĦ +ÑįÑĦÑĦ екÑĤ +ש ×Ļ×ij +Ġا عت +ت ض +تض ÙħÙĨ +ĠاÙĦÙħØ´ رÙĪØ¹ +Ġprodu ção +ĠпÑĢимен Ñı +ни ÑĨÑĭ +주 ëĬĶ +ر Ùı +Ġm Æ¡ +Ġhayat ı +ëŁ ½ +Ġü cret +Ġyan ında +Ġpr ática +×ij×Ļ×§ ×ķר +Ãľ N +Ñģ оÑĤ +ãĤıãģij ãģ§ +Ġдол го +ת ׼×ķ +ĠìķĦ ëĭĮ +ë į°ìĿ´ +Ġç iz +Ġcho Äĩ +Ġ×Ķ ×Ļת +Ġ×Ķ×Ļת ר +Ġso át +׼ ×ij×ĵ +à¹Ģล à¹Īา +Ġд еÑĢ +ĠдеÑĢ ÐµÐ² +ãĤĴ åħ¥ãĤĮ +×Ĺ ×ķס +×Ĺ×ķס ר +ج ÙĬÙĨ +t ón +onn é +Ġпол ноÑģÑĤÑĮÑİ +人 ãģŁãģ¡ +Ġpr êt +ëł ¸ +Ġdéc embre +cı lar +Ġת ת +Ġê²½ìļ° ìĹIJëĬĶ +ÙĪ Ø¹Ø¯ +è¦ĭ ãĤĭ +วิ à¸Īัย +ë ¶Ī +ز ÙĪØ§ +زÙĪØ§ ج +d ì +ãģ§ãģĻ ãĤĪ +Ġвод о +ĠÙĬ ÙĪØ¬Ø¯ +Ñģ оÑģÑĤоÑı +Ðŀ С +ĠÄIJ ó +׊פש +Ġצ ×Ļ×ij×ķר +ĠاÙĦÙĤ Ø· +ĠاÙĦÙĤØ· اع +Ġиме ÑİÑĤ +Ġph áºŃn +×Ľ×¡ פ×Ļ +полн иÑĤелÑĮ +éĻIJ ãĤĬ +ĠÑģ ÑĢав +ĠÑģÑĢав н +ÙħاÙĦ Ùĥ +×ĵר ×ķ×Ŀ +çļĨ ãģķãĤĵ +ØŃÙĤ ÙĤ +à¹ģหล à¹Īà¸ĩ +ĠاÙĦر سÙħÙĬ +оÑĩ ки +×ĺ ×ij×Ĺ +Ġcan lı +Ġ׾ ׾ +Ġ׾׾ ×ŀ×ķ×ĵ +×ŀ×ij ×ķ +ת ׼ +×ª×Ľ ׳×Ļת +ĠاÙĦÙħ شار +ĠاÙĦÙħشار ÙĥØ© +İ Åŀ +ĠسÙĬ اسÙĬ +в олÑĮ +ĠÑģ пÑĢав +æĿ¥ ãģ¦ +פ×ķר ×ķ×Ŀ +สำ à¹Ģรà¹ĩ +สำà¹Ģรà¹ĩ à¸Ī +ĠÅŁ öyle +Ġzosta ÅĤa +ĠH ü +ר ×ķש +د ÙĦÙĬÙĦ +ÑĢи д +ש ף +×ŀ×§ ×ķר +ĠÑĥ Ñĩ +ĠÑĥÑĩ еб +ĠÑį ÑĤа +ков а +à¸ķà¸Ļ à¹Ģà¸Ńà¸ĩ +ÙĨ ÙIJ +à¸Ńีà¸ģ à¸Ħรัà¹īà¸ĩ +ระ à¸ļุ +Ġd ữ +ĠاÙĦØŃ اÙĦÙĬ +׼ ×ķ׼ +׼×ķ׼ ×ij +Ġ×ŀ×IJ שר +Ġtr ụ +ÑĤел ем +Ġв ли +Ġвли Ñı +Ġש×IJת ×Ŀ +Ġuw ag +Ġuwag ÄĻ +×ĺ ×Ļת +×IJ ×ĵ×Ŀ +à¸Ķ ุ +Ġ×Ķ×IJ ׾×Ķ +Ġkar Ä±ÅŁ +ĠÄIJ á»iji +да ÑİÑĤ +ãģªãģ® ãģ« +Äħ cych +à¹Ģà¸Ļ à¹īà¸Ļ +ãģĹãģ¦ ãģĹãģ¾ãģĨ +int érieur +ĠfÃŃs ica +ĠÐŁ ол +ãģĹãģ ķ +à¸Ĺำ à¹Ħม +ĠL âm +ĠاÙĦÙħ سÙĦÙħ +ĠاÙĦÙħسÙĦÙħ ÙĬÙĨ +ص ØŃØ© +ìĹ Ħ +à¹Ģà¸Ķà¹ĩ à¸Ķ +ĠÑĥ ÑĩеÑĤ +â Ìģ +Ġب ÙĦا +ĠاÙĦاجتÙħاع ÙĬ +פרס ×Ŀ +ãĥķ ãĥ© +ĠÐļ огда +mie ÅĽci +ĠبÙĬÙĨ Ùħا +Ġ×ŀ×IJ ×ŀר×Ļ×Ŀ +Ġ×ij×IJ ×ĸ×ķר +×ķש ×Ļ×Ŀ +ĠÑģдел а +entr ée +à¹Ģ à¸Ħà¹īา +Ñĥг л +ĠاÙĦÙģ ÙĨÙĬ +ĠÐĴ оÑĤ +à¸Ĺีà¹Ī มา +×ķצ ×Ĵ +ÙĤد رة +Ġëª © +Ġ목 ìłģ +íıī ê°Ģ +ĠاÙĦØ£ ربع +ĠاÙĦأربع اء +פס ×Ļ×§ +ĠÑıвлÑı ÑİÑĤÑģÑı +ب ÙĪÙĨ +ì° ¾ +×ŀ×¢ ר׼ +×ŀ×¢×¨×Ľ ×ķת +ãĤ· ãĤ§ +ĠباÙĦ Ø£ +íĸĪ ëįĺ +ĠاÙĦبر ÙĨاÙħج +ĠاÙĦØ£ ØŃد +Ġm Å© +ĠmÅ© i +п аÑĤ +ب Ø« +ĠÑĨ енÑĭ +Ġ×ijת ׾ +è¨Ģ ãĤıãĤĮ +ĠاÙĦÙħ جاÙĦ +ĠìĦ¸ ìĥģ +Ġ×Ĵ ×ķפ +ĠнаÑĪ ÐµÐ¹ +Ġкомп аниÑı +б ин +öl ü +×Ļ ×Ļ×ĺ +Ġ×ŀס פ×Ļ×§ +ยัà¸ĩ à¸Ħà¸ĩ +ĠЧ и +Ġан ÑĤи +ĠÑģÑĢед и +สà¹Īวà¸Ļ à¹ĥหà¸įà¹Ī +оÑĩ ка +íĬ¹ ë³Ħ +ว à¹Īาà¸ĩ +гоÑĢ Ð¾Ð´ +با Ùĥ +à¹Ģส ีà¹Īย +à¹Ģสีà¹Īย à¸ĩ +ãĤĤãĤī ãģĦ +×§ ×ķ×Ŀ +ãģĽ ãģļ +ĠاÙĦÙĤ اÙĩرة +Ġ×ij ׼×ļ +Ùħشار ÙĬع +باØŃ Ø« +Ġпо Ñĩ +ĠпоÑĩ ÑĤи +ĠÑĦоÑĢм а +S İ +Ġ×ŀצ ×Ļ×¢ +ล ื +ลื ม +ĠÑĤ еÑĢ +ĠÑĤеÑĢ ÑĢиÑĤоÑĢ +ĠÑĤеÑĢÑĢиÑĤоÑĢ Ð¸Ð¸ +Ġв меÑģÑĤ +ĠвмеÑģÑĤ е +dıkl arı +op ération +à¹Ĥ ห +ص دÙĬ +صدÙĬ ÙĤ +íĸī ìłķ +تج ا +تجا ÙĪØ² +Ġsu ç +Ġar ty +Ġarty ku +Ġartyku ÅĤ +ãĤ·ãĥ§ ãĥĥãĥĹ +ש פ +שפ ×Ļ×¢ +Ġ×Ķש ×Ļר×ķת +à¹ģà¸ĸ ม +ë¸ Ķ +Ġuk ÅĤad +Ġ×ķ ׼×Ļ +หล าà¸ģ +หลาà¸ģ หลาย +æĸ¹ ãĤĤ +Ġpodr óż +ĠE ÄŁer +Ġком наÑĤ +ĠÑģам ÑĭÑħ +Ġв кÑĥÑģ +б еж +Ġ×ij ×§×ķ +æİĽ ãģij +ãģ¿ ãĤĭãģ¨ +ĠiliÅŁ kin +ĠÙĬ عÙħÙĦ +Ġпод аÑĢ +Ġyaz ılı +ãĤĴ å¾Ĺ +Ġwyst ÄĻp +à¸Ĺีà¹Ī à¹ĥà¸Ĭà¹ī +ØŃاد Ø« +ÙĪ ÙĬد +кÑĥ лÑĮÑĤ +кÑĥлÑĮÑĤ ÑĥÑĢ +à¸ģาร à¹ģà¸Ĥà¹Īà¸ĩ +à¸ģารà¹ģà¸Ĥà¹Īà¸ĩ à¸Ĥ +à¸ģารà¹ģà¸Ĥà¹Īà¸ĩà¸Ĥ ัà¸Ļ +ÙħÙĪ Ø¸ +ÙħÙĪØ¸ Ùģ +ÙĬÙħ ÙĬ +ãĤĵãģ§ãģĻ ãģĮ +diÄŁ im +diÄŁim iz +ĠÐŁ еÑĢ +ĠÐŁÐµÑĢ Ð² +Ġm ão +ĠÑģ ез +ĠÑģез он +Ġ×Ķ×ŀ ×¢ +Ùħ جÙħÙĪØ¹Ø© +ĠинÑĦоÑĢм аÑĨии +i ếc +ã ng +ĠÄij ấy +ãģĶ ç´ +ãģĶç´ ¹ +ãģĶç´¹ ä»ĭ +Ġad ım +à¹Ħ หล +Ġп ÑĢакÑĤи +ĠпÑĢакÑĤи Ñĩ +ĠпÑĢакÑĤиÑĩ еÑģ +ĠпÑĢакÑĤиÑĩеÑģ ки +ĠاÙĦÙĨ Ù쨳 +ĠÑĢабоÑĤ е +ÙĦÙĬ Ùģ +ĠاÙĦجÙĨ ÙĪØ¨ +Ġвод Ñĭ +ì¹ Ļ +Ġм иÑĢа +ĠÄij ừng +ĠпÑĢоÑĤив о +ĠÑģÑĤÑĢан Ñĭ +ล ู +ìĤ ¶ +kre ÅĽl +Ġbul und +Ġbulund uÄŁu +à¹ģ สà¸Ļ +ãĤ± ãĤ¢ +ת×Ĺ ×ķ×ŀ×Ļ +ר׼ ×Ķ +Ġ׾ק ×ķ×Ĺ +Ġ׾ק×ķ×Ĺ ×ķת +Ġ×Ľ×ª ×ķ×ijת +ĠÙĦ ÙĥÙħ +ب شر +Ġr Ãłng +Ġ×ŀ×Ķ ×ŀ +Ġ×IJ×Ĺר ×ķת +Ġб он +Ġбон ÑĥÑģ +ï½ Ĺ +à¹ģ ยà¸ģ +ãģĤãģªãģŁ ãģ® +ĠÑĥÑĩаÑģÑĤ ие +ĠE yl +ĠEyl ül +ĠçalÄ±ÅŁmalar ı +Ø® طر +ìĿ ½ +à¸ģาร à¹ĥà¸Ĭà¹īà¸ĩาà¸Ļ +Ġана лиз +תק ×ij׾ +ни ем +Ġİ ns +Ġİns an +ĠبÙĪ Ø§Ø³ +ĠبÙĪØ§Ø³ طة +Ġ׳ ×Ľ×ł×¡ +Ġ×Ķ×ŀ ×Ļ×ĵ×¢ +Ġç o +Ġço ÄŁu +á» ĺ +ĠêµŃ 민 +ãĤĤ ãģĦãģĦ +Ġ׼ ׾×Ļ +ĠÑģÑĢед не +g ÅĤo +gÅĤo ÅĽ +Ġneg ó +Ġnegó cio +ĠÑĢ ÐµÐ³Ð¸ÑģÑĤ +ĠÑĢегиÑģÑĤ ÑĢа +ĠÑĢегиÑģÑĤÑĢа ÑĨии +Ġtr á»ĵng +ĠпÑĢ Ñı +ĠпÑĢÑı мо +ëłĪ ìĿ´ +Ġk ém +к ле +à¸Ļำ มา +ĠÑĦ ин +ĠÑĦин анÑģ +ĠÑĦинанÑģ ов +Ġki á»ĩm +ยัà¸ĩ à¹Ħ +ยัà¸ĩà¹Ħ à¸ĩ +ย ิà¸ĩ +à¹Ĥ à¸Ľ +ĠполÑĥÑĩ ил +×Ļ×ĸ ×Ŀ +à¹ģละ à¸Ħวาม +Ġво обÑīе +ص ÙĬر +ãĥı ãĥ³ +ĠاÙĦÙĤ اد +ĠاÙĦÙĤاد Ùħ +Ġب دÙĪÙĨ +ع ظÙħ +ת ׳×ķ×¢ +×ª×ł×ķ×¢ ×Ķ +Ø£ ÙħÙĦ +ãģķ ãģĪ +ÑĤ ем +ÑĤем пеÑĢ +ÑĤемпеÑĢ Ð°ÑĤÑĥÑĢ +Ġ׾ ×Ļצ×ķר +Ġr ÄĻk +ر سÙĦ +ìŀIJ 를 +Ġ×Ļצ ×Ļרת +ÙĨ بÙĬ +Ñĩ наÑı +تØŃ ÙĦÙĬÙĦ +Ġм ик +Ġмик ÑĢо +ĠS öz +Ġfor ça +Ñģ он +ĠاÙĦع را +ĠاÙĦعرا ÙĤÙĬ +ĠH á»ĵng +ãģĻãĤĭ ãģŁãĤģãģ« +à¸Ĺีà¹Ī à¸Ńยูà¹Ī +Ġ×ķ×IJ ×£ +ص ÙĬد +ĠìķĬ ê³ł +ร ัà¸ĩ +ĠاÙĦت ÙĪØ§ØµÙĦ +à¹Ģม à¸ķร +Ñĥ ÑģÑĤÑĢой +ÑĥÑģÑĤÑĢой ÑģÑĤв +m ıyor +Ġبا سÙħ +Ġ×ķ ׼×ķ +ĠG ül +á» IJ +Ãī tat +غ اÙĦ +Ø¥ ÙĨØ´ +Ø¥ÙĨØ´ اء +T İ +à¸Ĥà¹īา ม +Ġtro ch +Ġtroch ÄĻ +Ø¥ ص +إص ابة +ĠØ« اÙĨÙĬ +ĠاÙĦص ØŃØ© +Ġ×ĸ×Ķ ×ķ +jÄħ cej +ãĥĢ ãĥ³ +ìĿ¸ ìĿ´ +Ġв олоÑģ +ëIJĺ ë©´ +Ġzak ÅĤad +ãģĻ ãģĵãģ¨ +以ä¸Ĭ ãģ® +Ġ×Ķ×ŀ×§ ×ķ×Ŀ +ÙħØ´ اÙĩ +ÙħشاÙĩ دة +Ñĩ ив +ب Ø´ +ย à¹īาย +Ġsür dür +ĠN ẵ +ĠNẵ ng +ĠигÑĢ Ð°ÑĤÑĮ +Ġê·¸ëŁ¬ ë©´ +ãĥķ ãĥ« +ล à¹Īะ +Ġtend rá +Ġb Ãły +à¹Ģà¸Ľà¹ĩà¸Ļ à¸ľà¸¹à¹ī +Ġok o +Ġoko ÅĤo +w ÅĤa +wÅĤa ÅĽci +wÅĤaÅĽci w +æĢĿ ãĤı +ĠYa ÅŁ +ĠB á»ĩnh +íı Ń +بÙĬ د +קר ף +à¹Ģศ ร +à¹Ģศร ษ +à¹Ģศรษ à¸IJ +à¹Ģศรษà¸IJ à¸ģิà¸Ī +ĠاÙĦØ£ ÙĪØ±ÙĪ +ĠاÙĦØ£ÙĪØ±ÙĪ Ø¨ÙĬ +fl äche +ä¹Ĺ ãĤĬ +Ġb á»ģn +Ùĩ ب +æľĢ ãĤĤ +Ġsa ç +à¸Ńำ à¹Ģà¸ł +à¸Ńำà¹Ģà¸ł à¸Ń +ĠØ£ ج +ĠاÙĦد اخÙĦ +ĠاÙĦداخÙĦ ÙĬØ© +×ĺ ×ķ×ij +ãĤĤ ãģªãģı +Ġли ÑĨа +à¹ģลà¹īว à¸ģà¹ĩ +×ĸ׼ ×Ļר +Ġqu Ãł +ĠÙĥ ذÙĦÙĥ +صØŃ Ùģ +ĠÃĤ u +ÙĪØ¨ ا +à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļ à¹ģà¸Ľà¸¥ +à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļà¹ģà¸Ľà¸¥ à¸ĩ +à¸ķัว à¸Ńยà¹Īาà¸ĩ +Ġráp ida +Ġtas ar +Ġtasar ım +ĠعÙĦÙĬ ÙĩÙħ +ס ×ķ׾ +c ılı +cılı k +Ġر غÙħ +ìĭľ íĤ¤ +Ġ×IJ׾ ×§ +Ġ×IJ׾ק ×ĺר +Ġ×IJ׾ק×ĺר ×ķ׳×Ļ +à¹ģà¸ļ à¹Īà¸ĩ +Ġh ạng +ãģ£ãģ¦ ãģıãĤĮ +ĠÙĨ تÙĬ +ĠÙĨتÙĬ جة +ıkl ı +غ اÙĨ +à¸Ĥà¹īà¸Ń à¸Ħวาม +à¸Ľà¸¥ าย +ĠØ£ Ùħس +à¸Ĺีà¹Ī à¹Ģà¸ģีà¹Īยว +à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยว à¸Ĥ +à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยวà¸Ĥ à¹īà¸Ńà¸ĩ +Ġdé fin +Ġdéfin i +ÙģÙĨ اد +ÙģÙĨاد ÙĤ +à¹Ħà¸Ķà¹ī วà¹Īา +ãģªãģĦ ãĤĪãģĨãģ« +Ġpróp ria +ĠPh át +ãĤĦãģĻ ãģı +สวย à¸ĩาม +ê³ł ìļĶ +Ñı еÑĤ +ãģĭãĤĤãģĹãĤĮãģ¾ãģĽãĤĵ ãģĮ +تر جÙħ +ĠкÑĢаÑģ ив +Ġ×ŀ ר×IJש +д еж +ĠÙĬ ÙĪÙĨ +ĠÙĬÙĪÙĨ ÙĬÙĪ +Ñģк оÑĢ +ĠKas ım +ê³Ħ ìķ½ +к оÑģ +Ġна ÑĢÑĥ +ĠнаÑĢÑĥ ÑĪен +Ġdu że +acc ès +Ġh á»ĵng +Ġv Å© +ãģĦãģŁ ãģĹãģ¾ãģĻ +Ġ×ĺ ×Ļ +Ġ×ĺ×Ļ ×ķ׾ +lıkl arı +Ġqu ê +ëħ¸ ëıĻ +ìķ Ķ +CI ÃĵN +Ġt ắc +press ão +ĠìŀĪ ìľ¼ +สิà¸Ĺà¸ĺิ à¹Į +íĥ Ħ +Ġ×Ķ×ŀ ×ŀש׾×Ķ +å¬ī ãģĹãģĦ +ĠÄIJ ặc +ÙĨ زÙĦ +ĠдÑĢÑĥг ой +д ÑĥÑĤ +ìĪ Ļ +Ġth ụ +à¹Ģส ร +à¹Ģสร à¹ĩ +à¹Ģสรà¹ĩ à¸Ī +Ġto plant +Ġtoplant ı +×IJ×ŀ ף +×ķ׾ ת +п омн +Ġyo ÄŁun +ÅĦsk iego +ì° © +ĠØ« ÙĦاث +ĠØ«ÙĦاث Ø© +Ġl ắng +ë¦ ´ +ราà¸Ĭ à¸ģาร +ĠÑģлов а +á» Ĩ +à¸Ķี à¸ģวà¹Īา +ãģĶãģĸ ãģĦãģ¾ãģĻ +Ġд из +Ġдиз айн +fé rence +lıkl ar +ãģªãĤĵ ãģ§ãģĻ +ajÄħ cy +Ġëĭ¤ ìĸij +Ġëĭ¤ìĸij íķľ +×§ ×Ļר +ØŃ ار +ส ูà¹ī +Ġz ro +Ġzro bi +Ġzrobi Äĩ +×ŀ ×Ļ׼×Ķ +à¸Ĭà¹Īวย à¹Ģหลืà¸Ń +ĠÑįÑĤ Ñĥ +ë´ ī +楽 ãģĹãģĦ +س ÙĪØ± +íķĺ ê±°ëĤĺ +Ùħؤ تÙħر +Ġpoc zÄħ +ĠpoczÄħ tk +ĠpoczÄħtk u +Ġع ربÙĬ +اÙĦØ£ ر +اÙĦأر دÙĨ +à¸Ķ ร +Åĵ uvre +ĠÙĪÙĥ اÙĨت +ĠÅĽ redni +Ø® ضر +Ġch uyến +н ÑĤ +ĠìķĮ ê³ł +Ġv á»Ŀi +Ġ×ij ×Ļ×ĵ×Ļ +×ŀ×ĵ ×ķ×ijר +ÙĪ Ù쨱 +ÙĬ Ø¡ +׳ ×Ľ×¡ +ĠÐĽ а +л он +Ġx ấu +Ùģ ÙĬÙĨ +Ġfé vrier +ĠÐŀ на +ĠV á»ģ +ĠÅŁey ler +ĠполÑĥÑĩ ен +з ад +Ġn ét +à¹Ħà¸Ľ ยัà¸ĩ +×Ĺש×ij ×ķ +à¸ļัà¸Ļ à¸Ĺ +à¸ļัà¸Ļà¸Ĺ ึà¸ģ +Ġgerçek leÅŁ +иÑĩеÑģк ое +ìĪĺ ê°Ģ +Ø« بت +ãģ¤ ãģ¾ãĤĬ +ĠÑĥÑģловиÑı Ñħ +ëĭ¤ ê°Ģ +ราย à¹Ħà¸Ķà¹ī +׼×IJ ×ij +à¹Ĥà¸Ľà¸£ à¹Ĥม +à¹Ĥà¸Ľà¸£à¹Ĥม à¸Ĭัà¹Īà¸Ļ +j ähr +jähr ige +×§ ׳×Ļ×Ŀ +×ŀ ×ķ×§ +×ŀ×ķ×§ ×ĵ +ãģ«è¡Į ãģ£ãģ¦ +Ø¢ ÙĦ +вед ение +Ġ׾ ×Ľ×ª×ķ×ij +جÙħ Ùĩ +جÙħÙĩ ÙĪØ±ÙĬØ© +à¸ī à¸ļ +à¸īà¸ļ ัà¸ļ +ĠC òn +à¸ľ สม +ãģªãģ© ãģĮ +×IJ×Ķ ×ij +ĠдейÑģÑĤв иÑı +y ız +à¹Ħมà¹Ī à¹Ģà¸Ħย +ج ÙĪØ² +×Ķ×Ĺ׾×ĺ ×Ķ +f ällt +ãĥĵ ãĤ¸ +ãĥĵãĤ¸ ãĥį +ãĥĵãĤ¸ãĥį ãĤ¹ +Ġ×IJ ×Ļ׳×Ŀ +ĠнаÑħод иÑĤÑģÑı +Ġdzi ÅĽ +ست Ø·ÙĬع +׾ ×Ļף +Ø® ÙĦاÙģ +Ùĩ ÙIJ +Ġatr ás +íĺ ģ +ãĤĴ ãģĶ +Ġ×Ķ×ŀ ×ķצר +ĠBakan lıģı +ÑİÑī ее +ÙħÙĨ اط +ÙħÙĨاط ÙĤ +Ùģ Ø¯ +à¸Ļำ à¹Ħà¸Ľ +Ġв аж +Ġваж но +Ġm ạch +׼ ׳×ķ +بع Ø« +lan ması +Ġa yr +Ġayr ıl +ìĤ¬ íļĮ +d ÃŃa +p ÅĤyw +اÙħ ÙĬØ© +íĺ ľ +×IJ׳ ×Ĵ׾ +×IJ׳×Ĵ׾ ×Ļת +ĠìŀĪëĭ¤ ëĬĶ +Ġس اعة +ĠëĤĺ íĥĢ +b ö +à¸Ħ ัà¸Ļ +ĠdziaÅĤ ania +Ø© Ùĭ +Ġng Å© +׳צ ×Ĺ +ãģ¯ ãģĤãĤĭ +ĠyaÅŁ ında +st ück +car acter +caracter ÃŃsticas +Ġr á»Ńa +ĠÙħختÙĦÙģ Ø© +ãģ«ãģĬ ãģijãĤĭ +à¹ģà¸ŀ à¸ĩ +วิ à¹Īà¸ĩ +ת פ×ķ +سا ÙĩÙħ +使 ãģĨ +Ùĥ رÙĬ +×IJ פ×Ļ +........ ....... +ĠÑĤак им +×Ļ׼ ×ķ×Ļ +Ø´ بÙĩ +ج ÙĬر +ãģĿãģ® ãģ¾ãģ¾ +ac jÄĻ +ĠاÙĦت رÙĥ +ĠاÙĦترÙĥ ÙĬ +ĠпÑĢав илÑĮно +Ġت عÙħÙĦ +à¸ģล à¹īา +Ġbi ên +Ġ×ij׳×Ļ ×Ļת +Ġкл Ñĥб +Ġ×ŀ ש×Ķ +в ÑĪий +ãģĵãģ¨ãģĮãģ§ãģį ãĤĭ +à¸ŀัà¸Ļà¸ĺ ุ +à¸ŀัà¸Ļà¸ĺุ à¹Į +ר ×ķ×Ŀ +ĠاÙĦÙģ Ø±ÙĨ +ĠاÙĦÙ쨱ÙĨ سÙĬ +à¹Ģà¸Ľà¹ĩà¸Ļ à¸Ħà¸Ļ +ãģĹãģ¦ ãģĬãĤĬ +Ġth ầy +ãĤĵ ãģłãģijãģ© +ìĶ ¨ +Ùħ دÙĨ +ت ÙĪÙĨ +ĠмеÑĤ ал +ĠмеÑĤал л +Ġin ÃŃcio +à¸Ńà¸Ńà¸ģ à¸Īาà¸ģ +ëĴ ¤ +Ġcu á»ijn +Ġbu á»Ļc +ÙĨ سÙĬ +ä cht +×ŀ ×Ļ׳×Ļ×Ŀ +ãģķ ãģ¦ +ãģĮ ãģ§ãģį +ÑĬ ем +Ġtá i +ĠЧ ÑĤ +ĠЧÑĤ обÑĭ +à¸Ľà¸¥ ูà¸ģ +à¸Ĭุม à¸Ĭà¸Ļ +н Ñģкий +Ġv ững +Ġ×Ķ ×ľ×ij +ë le +Ġש ×¢×ijר +в аÑĤÑĮÑģÑı +б ой +ع ÙĪÙĨ +à¹ģà¸Ķ à¸Ļ +Ġספר ×Ļ×Ŀ +Ġt uyên +Ġnhi êu +ĠQu ý +Ġh uyết +ãĤı ãģĭãĤīãģªãģĦ +Ġ×ŀ ׼ף +Ġ×Ķ ×§×ľ +Ġ׾×IJ ×ķר +ĠÄIJi á»ĩn +Ø´ ؤ +شؤ ÙĪÙĨ +Ġ×ŀ׊פש +ĠпоÑģÑĤоÑıн но +×ŀ ×Ļר +ìħ Ķ +Ðŀ Ñģ +ÐŀÑģ нов +×ĸ ×Ļת +ĠH á +ĠÑĩаÑģ ов +×IJ ×ķ׾×Ļ +Ġm át +Ø® رÙĪ +خرÙĪ Ø¬ +ÙĤ ضا +ÙĤضا ÙĬا +à¹Ģà¸Ľ à¸Ńรà¹Į +ĠÙĬ ÙĪÙĦ +ĠÙĬÙĪÙĦ ÙĬÙĪ +à¹Ĥà¸Ĺ ษ +׳ פ׾ +ת ×ķש +ת×ķש ×ij×Ļ +Ġv ários +×ŀ ר×IJ×Ķ +ëĿ¼ ìĿ´ +ÙĨ غ +×ij צע +г он +ĠÄIJ ược +ع Ùı +пÑĥÑģ к +ĠÙĪØ§ÙĦ Ùģ +üc ü +×Ļ×§ ×Ļ×Ŀ +Ġس بÙĬÙĦ +׾×ij ף +ĠاÙĦÙĤ رÙĨ +ס ×ķת +ĠQu áºŃn +ãģĵãĤĮ ãģĮ +ãĥĸ ãĥ©ãĥ³ãĥī +×Ĵ ×ŀר +Ġwarto ÅĽci +ĠÙĪØ¨ ÙĬÙĨ +Ġd ạ +ÐIJ в +ÐIJв ÑĤо +Ġol acaktır +à¸Ļ à¸Ĺà¹Į +Ùħ طار +Ġ×¢ ×§×ij +Ġת פ +ãģĹãģ¦ ãģĦãģ¦ +צ ×ŀ×Ĺ +à¸Ī à¸Ńà¸ĩ +Ġö de +ìį ¨ +ÙĨ اس +調 ãģ¹ +ĠогÑĢ Ð¾Ð¼Ð½ +ë³´ íĹĺ +×ĺ ×§ +×ĺ×§ ס×ĺ +ĠbaÅŁ v +ĠbaÅŁv uru +Ġpom ys +Ġpomys ÅĤ +ãģ« ä¹Ĺ +Ġש ׼ף +ĠاÙĦÙħس ؤÙĪÙĦ +Ġз ан +Ġзан ÑıÑĤ +Ġd ương +ãĥĹãĥ¬ ãĤ¤ +ล à¸ļ +ÑĤи ка +ĠAr alık +Ġнед о +Ġm á»Ļ +Ġor an +Ġoran ı +Ġktó r +Ġktór Äħ +Ġ×Ķ×IJ×Ĺר ×ķ׳×ķת +ائ ÙĨ +ÅĦ s +ÅĦs ka +åĽ½ ãģ® +×ŀ ×ĺ×Ļ +ĠвопÑĢоÑģ Ñĭ +à¸Ńà¸ĩà¸Ħà¹Į à¸ģร +×ŀ ×ķצ×IJ +Ġpó ź +Ġpóź niej +ש×ŀ ×IJ׾ +Ġk aps +Ġkaps am +Ġkapsam ında +Ġmá quina +ĠÅĽwie cie +Ġho Ãłng +Ġöz gü +×Ĵ×ķר ×Ŀ +ãģĤ ãģŁãĤĬ +à¸ķัà¸Ķ สิà¸Ļ +à¸ķัà¸Ķสิà¸Ļ à¹ĥà¸Ī +б ÑĢи +ãģ«ãģªãĤĭ ãģ¨ +ت ÙĥÙĪÙĨ +Ġ×ķ×Ķ ×Ļ×IJ +Ġchi ếu +ÑģÑĤан ав +ÑģÑĤанав ли +ÑģÑĤанавли ва +×ŀ ×ķ×Ĵ +c ité +ĠK örper +Ġש ×Ĵ×Ŀ +ع ظ +عظ ÙĬÙħ +Ġ×Ķ×IJ ×Ļש×Ļ +Ġmat ière +ĠÙģ ÙĪÙĤ +Ġk to +Ġkto ÅĽ +à¸Ļ à¹Ĥย +à¸Ļà¹Ĥย à¸ļาย +å¾ħ ãģ¡ +à¹Ģม à¸Ļ +à¹Ģมà¸Ļ ู +A ÃĩÃĥO +Ġt ù +Ġtù y +ãĥĪ ãĥ³ +ĠоÑĤ каз +Ġ×ŀ ×ķצר +ül ü +ãģķãĤĵ ãģ« +Ġ×Ĺ ×ķ×ij +קר ×Ļ×IJ×Ķ +ĠاÙĦØ® دÙħات +ĠÙĦÙħ دة +ر ؤ +رؤ ÙĬØ© +ãĤĴè¦ĭ ãģ¤ãģij +à¸Ł า +Ġréuss i +à¸Ļัà¸ģ à¹Ģรียà¸Ļ +ĠÑĩиÑģ л +à¸ģาร à¹Ģลà¹Īà¸Ļ +Ġhaz ırl +Ġhazırl an +ĠпеÑĢв Ñĭй +ли м +ĠоÑĤзÑĭв Ñĭ +Ġwy jÄħ +ĠwyjÄħ tk +ĠØ£ ÙĤÙĦ +ס ×ļ +Ġê²° ìłķ +Ġ׾×ŀ×¢ ש×Ķ +Ġl ắp +à¹ģà¸ļ ร +à¹ģà¸ļร à¸Ļà¸Ķà¹Į +วà¹Īา à¹Ģà¸Ľà¹ĩà¸Ļ +Ġب دا +Ġبدا ÙĬØ© +ãģ¨ãģĦãģĨ ãģ®ãģĮ +иÑĩеÑģк им +à¸ģาร à¸ŀัà¸Ĵà¸Ļา +Ġb Ãło +Ġmia ÅĤa +y waÄĩ +ĠMär z +ĠÙĨ سبة +Ġéconom ique +×ĸ ×ŀ +×ĸ×ŀ ׳×Ļ×Ŀ +æŃ¢ ãĤģ +Ġt á»§ +íķĺ ìĭł +Ġkażde go +stra ÃŁe +à¸Ĭ ีà¹ī +à¹Ģ à¸ļา +ÑĢеÑģ ÑĥÑĢÑģ +ев ой +Ø´ باب +à¸ķà¹Īาà¸ĩ à¸Ľà¸£à¸°à¹Ģà¸Ĺศ +Ġ×IJ ×Ļש +Ġ×IJ×Ļש ×Ļת +×Ļ ×ķפ +×Ļ×ķפ ×Ļ +ĠìļĶ êµ¬ +ì¡° ìĤ¬ +ãģ£ãģŁ ãĤī +׾ ×Ļ×§ +миниÑģÑĤ ÑĢ +ãĤĤãģ® ãģ¯ +Ġl ương +Ġна и +Ġнаи бол +Ġнаибол ее +íİ ĺ +à¹ģà¸ŀ à¹ī +ãĤŃ ãĥ¥ +ĠкоÑĤоÑĢ Ñĭм +à¹ģà¸Ĺ à¸ĩ +à¹ģà¸Ĺà¸ĩ à¸ļà¸Ńล +Ġ׳ ×Ļ×Ķ +Ġ׳×Ļ×Ķ ×ķ׾ +âĤ ª +ĠGi ải +ĠиÑģполÑĮзов а +ëł¥ ìĿĦ +ãģĹãģĭ ãĤĤ +à¸ģà¹ĩ à¸ķà¹īà¸Ńà¸ĩ +ĠÑĢ ÐµÐ± +ĠÑĢеб ен +ĠÑĢебен ка +ت ÙĪØ§ØµÙĦ +ãĤ°ãĥ« ãĥ¼ãĥĹ +ãĤĦ ãĤī +à¹Ģà¸Ľà¸´à¸Ķ à¸ķัว +б ÑĢо +ë°ĸ ìĹIJ +ÙĨ ÙİØ§ +×Ķ ×Ĵ +×Ķ×Ĵ ׳×Ķ +à¸Ĺ รั +à¸Ĺรั à¸ŀ +à¸Ĺรัà¸ŀ ยà¹Į +Ġkh á»iji +עצ ×ŀ×ķ +бол езн +Ġë°Ľ ìķĦ +ม à¸Ļ +มà¸Ļ ุ +มà¸Ļุ ษ +มà¸Ļุษ ยà¹Į +âĹ Ĩ +×ŀ צ׾×Ļ×Ĺ +Ñıв ление +Ùħ Ø·ÙĦ +ÙħØ·ÙĦ ÙĪØ¨ +Ø® اÙĦÙģ +ت ÙĪÙĤÙģ +ãģ§ãģį ãģ¾ãģĽãĤĵ +оÑģÑĤ ей +м еÑĩа +기 ëĬĶ +תש ×¢ +ص ÙĬب +Ġ×ij×¢ ×ķ×ĵ +à¸Ĥà¸Ńà¸ĩ à¹Ģà¸Ĥา +ÑĤÑı ж +ĠÑĥ пÑĢав +ĠÑĥпÑĢав лениÑı +Ġgén ér +Ġth ÃŃ +פ ×ļ +Ġر Ùħض +ĠرÙħض اÙĨ +Ġtr uyá»ĩn +Ø¥ عداد +ãĤµ ãĥĿãĥ¼ãĥĪ +Ġпол но +Ø® اÙħ +ÐŁ еÑĤ +ÐŁÐµÑĤ еÑĢ +ÐŁÐµÑĤеÑĢ Ð±ÑĥÑĢ +ÐŁÐµÑĤеÑĢбÑĥÑĢ Ð³ +ÙħÙĨت دÙī +ãģķãĤĮ ãģ¾ãģĹãģŁ +ĠëĮĢ íķĺìŬ +à¸ľà¸¹à¹ī à¸Ĺีà¹Ī +Ġ×ŀ×IJ ×ķ +׾ ׳×ĵ +оÑĩ нÑĭе +ĠнаÑĩ ала +Ġ׾ ×Ļ׾×ĵ×Ļ×Ŀ +ов ое +ãģĻãĤĭãģĵãģ¨ ãģ§ +ĠاÙĦÙĨ Ùģ +ĠاÙĦÙĨÙģ Ø· +ìŀĪ ëĬĶ +غ ÙĨÙĬ +פ ×ĵ +ãĤ ¾ +ĠCr é +ãģ© ãģ¡ãĤī +Ø« اÙĨ +ÑĢаб аÑĤ +ÑĢабаÑĤ Ñĭва +Ġê°Ļ ëĭ¤ +à¸Ī ั +à¸Īั à¸ģร +Ġch ụ +Ġchụ p +Ġм аÑģÑĤ +ĠмаÑģÑĤ еÑĢ +Ġn ắm +ĠÑģÑĤ али +Ġ×Ķ×IJ ×Ļר×ķ×¢ +ãĤ½ ãĥ³ +åĪĨ ãģĭãĤĬ +Ø· بع +بد ا +gr áfico +г еÑĢ +à¸Ķำà¹Ģà¸Ļิà¸Ļ à¸ģาร +Ġsal dır +Ġsaldır ı +в ÑĪиÑħ +ãģĭãģ£ãģŁ ãģ§ãģĻ +Ġyapı yor +ĠاÙĦÙģ Øª +צר פת +з доÑĢов +×ij×¢ ׾ +Ġ×IJ ×ŀ×Ļת×Ļ +Ġоб Ñĭ +ĠобÑĭ Ñĩ +ĠобÑĭÑĩ но +Ġ׾ ×ķ×ŀר +ت ÙĥÙĨ +تÙĥÙĨ ÙĪÙĦÙĪØ¬ +تÙĥÙĨÙĪÙĦÙĪØ¬ ÙĬا +Ġhakk ı +ĠÑĢаР² +ĠÑĢав но +رÙĬ Ùĥ +Ġ×ij ×ŀ×Ļ×ĵ +Ġ×ij×ŀ×Ļ×ĵ ×Ķ +à¹ģà¸ģ à¹īว +Ġìĸ ĺ +Ġìĸĺ 기 +ãģĹãģ¦ ãģĦãģ¾ãģĹãģŁ +Ġkı sm +Ġkısm ı +ê± ¸ +åĨħ ãģ® +ì§ ķ +à¹Ģหมืà¸Ńà¸Ļ à¸ģัà¸Ļ +ĠÙģ ÙIJ +ĠÙģÙIJ ÙĬ +ÙĤ اعدة +Ġmoż esz +Ùħ صاÙĦ +ÙħصاÙĦ ØŃ +ãģ¾ãģŁ ãģ¯ +б ег +Ġs ıc +Ġsıc ak +Ñĩ иÑģ +ÑĩиÑģ лен +Ġн ог +ãĥģãĥ£ ãĥ³ +ãĥ« ãĥī +Ġgi ó +Ġs ını +Ġsını f +ив аÑĤÑĮ +Ġqu ên +Ġì łģ +Ġìłģ ìļ© +ĠJo ão +Ùģ Ø§Ø¯ +ĠGl ück +à¸Ĺ à¸Ńà¸Ķ +Ġg ói +ï¼ Ĭ +Ġdé tail +ĠدÙĬ سÙħ +ĠدÙĬسÙħ بر +ë¡ľ ìĦľ +×ŀ ×ķ×Ĺ +à¹Ħ ฮ +ĠоÑĤ д +ĠоÑĤд ÑĭÑħ +Ġkh uyến +à¸Ħ à¸Ńย +Ġج ÙĨÙĬ +ĠجÙĨÙĬ Ùĩ +ĠاÙĦد ÙģØ§Ø¹ +à¸Ļà¹īำ หà¸Ļัà¸ģ +ĠìĤ¬ëŀĮ ëĵ¤ìĿ´ +Ġth ừa +ĠÃ¶ÄŁrenc i +ĠпомоÑī и +ĠczÄĻ ÅĽÄĩ +ש ×ĺר +ĠN hi +ĠNhi á»ģu +׳ צ×Ļ +ĠнаÑĪ ÐµÐ¼ +ĠkarÅŁÄ± laÅŁ +Ġ×Ķש ׳×Ļ×Ŀ +ĠÄIJ ưá»Ŀng +Ġtr ú +ĠÑĢазлиÑĩ нÑĭÑħ +ĠاÙĦØ´ Ùĩر +Ġ×ľ×¢ ×ķ׾×Ŀ +ØŃ جر +ĠÄij á»ķ +ĠìĿĺ íķ´ +à¸ļ à¹Īà¸Ńย +Ġ×Ķ ×Ļ׾×ĵ +ãģ¨ãģª ãģ£ãģŁ +Ġ×Ĺ×ķ ×ķת +Ġש×Ļר×ķת ×Ļ +Äħ cy +س رÙĬ +K İ +פ ׳×ķ +ÑģÑĤÑĢÑĥк ÑĤÑĥÑĢ +ÑĤ ÑĢÑĥд +Ġ×Ķ ×§×¨ +Ġ×Ķקר ×ķ×ij +Ġth áºŃm +èģŀ ãģį +ÙĤÙĪ ÙĬ +клÑİÑĩ ен +ÑĤе Ñħ +ÑĤеÑħ нолог +è¡Į ãģ£ãģŁ +Ġ×ķ×IJ ×Ļף +ĠÅŁek lin +ĠÅŁeklin de +r ô +ÑĢ Ð¾Ð³ +Ġнов Ñĭе +Ġס ×ij×Ļ×ij +Ġtecn ologÃŃa +ס ׼ +×¡×Ľ ×ķ×Ŀ +ĠÅŀ ub +ĠÅŀub at +Ġ×Ķ×ŀ ׾×IJ +Ġwy pos +Ġwypos aż +ãģ¯ ä½ķ +ãĤ¬ ãĥ³ +ê° ĸ +Ġкак ие +Ġçocuk lar +Ġ׾צ ×ĵ +Ġkay ıt +ĠмеÑģÑĤ е +Ùħ دÙĬÙĨØ© +Ġ׼ ×Ĵ +Ġ׼×Ĵ ×ķף +ãģĹãģ¦ ãĤĭ +ĠÙħا ÙĬÙĪ +ãģ£ãģ¦ãģĹãģ¾ ãģ£ãģŁ +ĠпÑĢогÑĢамм Ñĭ +à¹ģล à¸Ļà¸Ķà¹Į +ãĥ¯ ãĤ¤ +ער ×ķ×¥ +Ñģ ид +ĠB öyle +Ġì²ĺ ìĿĮ +Ġת פק×Ļ×ĵ +ĠTr ên +íĥ Ī +ĠÐłÐ¾ÑģÑģ ий +ĠÐłÐ¾ÑģÑģий Ñģкой +Ġs Ãłn +Ġrè gle +ĠyaklaÅŁ ık +à¹Ģล ิà¸ģ +Ġد ائÙħ +Ġ×ķ ×Ĵ +اب ر +Ġb è +ĠاÙĦ ÙĤدÙħ +ĠÑĢеÑĪ ÐµÐ½Ð¸Ñı +hi ên +ÑĤи к +Ä Ħ +à¸ļรร ยาà¸ģ +à¸ļรรยาà¸ģ าศ +רצ ×ķף +åĭķ ãģį +ĠGä ste +Ġ기 본 +ĠÙĬ عرÙģ +ĠS á»Ń +gÅĤ ÄĻb +à¹Ģà¸Ń ส +×IJ×ŀ ×Ļף +Ġп Ñĥнк +ĠпÑĥнк ÑĤ +Ġ×Ļ×ķ×ĵ ×¢×Ļ×Ŀ +ãĤ« ãĥ©ãĥ¼ +Ġ×ijס ×ĵר +Ġbu á»ĵn +й ÑĤ +йÑĤ еÑģÑĮ +ãĤĴ æ±ĤãĤģ +Ġ×IJת ׼×Ŀ +Ġ모 르 +ظ رÙĪÙģ +Ñĩ еÑģÑĤво +ìĸ´ ìĦľ +Ġод на +Ġkap ı +Ġëħ¸ ëł¥ +ĠKü che +ĠاÙĦت Ø´ +Ø· ÙĬب +ĠíĬ¹ íŀĪ +ĠвÑĭп ÑĥÑģ +ĠвÑĭпÑĥÑģ к +×ĵ ת×Ļ +Ġu ÄŁ +ĠuÄŁ ra +ائ Ùĩا +Ġtho át +ãģª ãĤĤãģ® +Ñij ÑĢ +기 ê°Ģ +ĠgeliÅŁ me +تØŃ ÙĤ +تØŃÙĤ ÙĤ +Ġоп аÑģ +б ÑĢоÑģ +ห ุ +หุ à¹īà¸Ļ +ì¼ Ģ +ãĤ¹ ãĥŀ +ãĤ¹ãĥŀ ãĥĽ +Ø£ Ù쨱 +Ø£Ù쨱 اد +ĠTh á»±c +Ġth ắ +ãĥªãĥ³ ãĤ¯ +Ġni á»ģm +ĠHö he +عÙħ ار +ÙĥÙĪØ± ÙĪÙĨ +ÙĥÙĪØ±ÙĪÙĨ ا +ĠÄIJ ến +ĠÑģам ом +ĠÑĤ еле +ĠÄijo án +à¸Ħวามà¸Ħิà¸Ķ à¹Ģหà¹ĩà¸Ļ +Ġд иÑģк +Ø£ Ø·Ù쨧ÙĦ +ม ารà¹Į +à¸Ĺ หาร +à¸Ĺ à¸Ļ +Ġب عÙĬد +ĠاÙĦÙĩ ÙĨد +åĩº ãģĹãģ¦ +Ġkar de +Ġkarde ÅŁ +×Ķ×Ļס×ĺ ×ķר +×Ķ×Ļס×ĺ×ķר ×Ļ×Ķ +éģ¸ ãģ³ +ع اÙħÙĦ +à¸Ĥ ยาย +Ġtü rl +Ġtürl ü +ĠìĿ¼ ìĿ´ +Ġmaté ria +Ġ׼׾ ×ķ×ŀר +ãĥģãĥ£ ãĥ¼ +جÙħ اعة +ĠÑģво им +Ø¥ÙĤ اÙħØ© +ä¾ĭ ãģĪãģ° +س اب +Ø¢ خر +ÙĤ دÙĬر +×IJ×ŀ ×Ļ +ìĸ » +Ġ׳×ķס פת +ĠÐĴ лад +ĠÐĴлад им +ĠÐĴладим иÑĢ +Ġest ará +ãģĵãģĨ ãģĦãģĨ +ãĤĴ 使ç͍ +มา à¸ķร +มาà¸ķร à¸IJาà¸Ļ +ãģ£ãģ ½ +Ġn ú +Ġnú i +ย าà¸ĩ +ĠاÙĦج ÙĨس +Ġüst ün +ëľ » +ãĤ» ãĥ« +ãģ¦ãģĦ ãģįãģ¾ãģĻ +Ġ×Ĺ ×ķ×ĸ +Ġ×Ĺ×ķ×ĸ ר +ĠÐĵ лав +à¹Ĥà¸Ĭ à¸Ħ +íı IJ +ÙĨت ظر +Ġ×Ĵ ×ij×Ļ +ع ÙĤب +int ér +intér êt +×ŀ פ×Ĵ +×ŀפ×Ĵ ש +Ġth ù +اÙģ Øª +Ġ×ŀש פ +Ġ×ŀשפ ×ĺ×Ļ +ĠÙħ ÙĪØ§ÙĤع +è¦ ļ +è¦ļ ãģĪ +×ĵ ×Ļף +à¹Ģรืà¹Īà¸Ńà¸ĩ ราว +ãģ¾ ãģĤ +Ġgh ế +иÑĢÑĥ ÑİÑĤ +à¸ģ ว +à¸ģว à¹īาà¸ĩ +Ġпов еÑĢ +ĠповеÑĢ Ñħ +ĠповеÑĢÑħ ноÑģÑĤ +׳ ×ĵר +Ġкон ÑĨе +Ġдолж на +Ġ×Ļש ×Ļר +acaģı z +ìĹ Ķ +Ġn ÃŃvel +Ġö r +Ġör nek +Ùĥ Ùģ +ĠФедеÑĢ Ð°ÑĨии +Ġ구 ìĦ± +หัว à¹ĥà¸Ī +ĠV áºŃy +м ед +мед и +меди ÑĨин +медиÑĨин Ñģк +از ÙĬ +×Ĵ×ij ×ķ׾ +ÑĦ ÑĢ +Ġzus ätzlich +à¸ģ à¸ģ +ĠاÙĦاÙĤتصاد ÙĬØ© +Ġh è +lu ÄŁun +ج Ùİ +à¹Ħà¸Ł ลà¹Į +ÄIJ T +ãģĿãģ® ä»ĸ +à¸Ĺิ à¹īà¸ĩ +ĠاÙĦØ£ ÙĪ +ر سÙħ +æ°Ĺ ãģ¥ +ìĿ´ ë©° +ÑĮ ев +ص Ø· +ĠاÙĦاست Ø« +ĠاÙĦاستث Ùħار +à¸Ńา à¸Ħาร +ĠÑĤоÑĩ но +ĠV ân +à¸Ń ร +à¸Ńร à¹Īà¸Ńย +ĠاÙĦس ÙĨØ© +Ġc Æ°á»Ľi +×Ļ×Ķ ×Ł +íį ¼ +話 ãģĹ +âĹ ĭ +ĠìķĬ ìĿĢ +ãĥ¡ ãĥ¼ãĤ +ãĥ¡ãĥ¼ãĤ « +ãĥ¡ãĥ¼ãĤ« ãĥ¼ +ĠÑĤеп ло +å½¼ ãĤī +Ġİ z +Ġİz mir +íĻ į +Ġr ượ +Ġrượ u +æĢĿãģĦ åĩº +ĠPh ạm +Ġchá u +צ×Ļ ×ķת +ĠìĿ¼ 본 +ìĤ¬ ëĬĶ +ĠÑģозд ан +Ġar acı +Ġ×¢ ר +Ġער ×Ļ׼×Ķ +ĠíķĺëĤĺëĭĺ ìĿĺ +dzi ÅĤ +à¸Ľà¸£à¸° à¸ĺาà¸Ļ +Ġser ÃŃa +ĠìŀĪ ëıĦë¡Ŀ +در ج +íķľëĭ¤ ëĬĶ +à¸Ńา à¸Ĺ +à¸Ńาà¸Ĺ ิà¸ķ +à¸Ńาà¸Ĺิà¸ķ ยà¹Į +ÑĤелÑĮ нÑĭй +ĠØ® دÙħات +×ŀ׳ ×ĺ +Ġl ược +ĠS Ãłi +ĠÙĪ Ø§Ø¶ +ĠÙĪØ§Ø¶ ØŃ +غ از +ĠdoÄŁ al +Ġ×ijש ×Ŀ +Ġд лин +ĠØ¥ طار +Ġ×ijס פר +ãĤĴ ä¸İ +ãĤĴä¸İ ãģĪ +Ġë²ķ ë¥ł +ĠÑĥ вели +ĠÑĥвели Ñĩи +ส à¹Ħà¸ķ +สà¹Ħà¸ķ ลà¹Į +à¹Ħ à¸ģล +×ij׊ף +ĠìĿ´ íĽĦ +Ġm unic +Ġmunic ÃŃpio +تÙħ Ø«ÙĦ +ĠÄij áo +H ôtel +Ġl á»Ńa +ĠÄij ẳng +Ñĩ ки +Ø´ رÙĪ +شرÙĪ Ø· +ĠìĿ´ 를 +ÙĬ Ùĭا +×ŀ׾ ×ļ +×ŀ×Ķ ×Ļר×ķת +ĠобÑıз аÑĤелÑĮ +ĠобÑıзаÑĤелÑĮ но +é nergie +Ġmud ança +Ġm ụ +Ġmụ n +Ġn º +ĠاÙĦت عا +ĠاÙĦتعا ÙĪÙĨ +ĠاÙĦاجتÙħاع ÙĬØ© +Ġп лаÑģÑĤ +Ġëĵ± ìĿĺ +ãĥIJãĤ¤ ãĤ¯ +Ùĩج ÙĪÙħ +ĠSa úde +Ġì¤ijìļĶ íķľ +Ġ×Ķצ ×Ļ×ij×ķר +תק ף +ĠاÙĦعاÙĦÙħ ÙĬ +ĠболÑĮÑĪ Ð¾Ð¹ +ĠÙĥ ÙĦÙħ +ĠÙĥÙĦÙħ Ø© +ãģ®ãģ§ãģ¯ãģªãģĦ ãģ§ãģĹãĤĩãģĨãģĭ +ĠÙħ باراة +Ġש×IJ ׳ +Ġש×IJ׳ ×Ĺ׳×ķ +ãĤ¹ãĤ¿ ãĤ¤ãĥ« +ĠSa ÄŁ +ĠSaÄŁ lık +Ġh ư +׳ ×Ĺ×Ķ +Ġ×ij קר×ij +Ø· عÙħ +ห ิà¸Ļ +à¸Ĺุà¸ģ วัà¸Ļ +à¸Ħรัà¹īà¸ĩ à¸Ĺีà¹Ī +ĠlÃł nh +Ġdonn é +ãģĽ ãģĦ +جز ÙĬرة +доÑĢ Ð¾Ð¶ +ì¼ ľ +تÙĨظ ÙĬÙģ +ãĥģ ãĥ§ +Ġald ıģı +ج اج +ĠÑĤ омÑĥ +à¸Ľ ิ +Ġ×ijר שת +ãģıãģªãĤĬ ãģ¾ãģĻ +ĠпÑĢин ÑĨип +Ġ׊׾×ķ +ëı ¼ +×ķ×Ĵ ש +س س +à¸Ľ ู +Ġh ầu +æĦŁãģĺ ãĤĭ +ï¼ ´ +د ÙĪØ§ +ĠÑģм ог +scri ção +Ġth áºŃn +Ġר ×ķ×IJ×Ķ +обÑĢаж ен +ĠاÙĦتج ارÙĬØ© +Ø· بÙĬع +jÄħc Äħ +íĸī ìľĦ +Ġнов Ñĭй +Ġ×ŀ ×Ĺ×ĵש +æĮ¯ ãĤĬ +gu é +Ġ×IJ ×Ļר×ķ×¢ +Ġ×IJ×Ļר×ķ×¢ ×Ļ×Ŀ +ĠاÙĦ ذÙĩب +×ĵ ×IJ +ت اÙĨ +ãģł ãģĹ +à¸Ńั à¸ķรา +à¹Ĥ à¸Ī +بÙĦ اد +×Ķ×Ļ ×Ļ׳×ķ +ĠÑģп е +ĠÑģпе ÑĨиалÑĮно +ĠÅĽwi ata +ãĤĵãģ§ãģĻ ãĤĪ +شر ÙĥØ© +ĠpÅĤ yt +Ġsitu é +Ġ׼×IJ ׾×Ķ +ס ×ijר +Ġkaż d +Ġkażd ym +ãĤĴæĮģ ãģ¤ +׾×Ķ ×ľ +׾×Ķ׾ ף +ĠwÅĤ as +ĠwÅĤas ne +ĠsaÄŁ lan +×ŀ×¢ ׾×Ķ +ĠاÙĦا ÙĪÙĦ +ìĹIJìĦľ ëıĦ +×IJ×Ļר ×ķפ×Ķ +تÙĤ ÙĨÙĬØ© +Ùħ ائ +Ùħائ Ø© +Ġcompañ ÃŃa +Ġsü rek +Ġsürek li +ĠиÑģ кÑĥÑģ +ĠиÑģкÑĥÑģ ÑģÑĤв +ĠB ürger +ת ×Ĺר +ת×Ĺר ×ķת +à¸ŀรà¹īà¸Ńม à¸ģัà¸ļ +Ø´ Ùħ +à¸ĸืà¸Ń วà¹Īา +è¾¼ ãĤĢ +ä¼ij ãģ¿ +ĠاÙĦØ£ ب +ĠÑģÑĤоим оÑģÑĤÑĮ +ĠпÑĢав а +may ın +ห วย +ĠاÙĦØ· بÙĬعÙĬ +à¸Ĺีà¹Ī à¸ŀัà¸ģ +ĠEst á +Ñĭва ÑİÑĤ +ب سÙĬ +بسÙĬ Ø· +Ġ×ij×¢ ×ijר +åı¯èĥ½ ãģ§ãģĻ +Ġ×ĵ ×ķ׾ +Ġ×ĵ×ķ׾ ר +Ùĩ ÙİØ§ +воÑĢ Ð¾ÑĤ +ãģ¦ ãģĦãģ¾ãģĹãģŁ +à¹Ĥà¸Ĺร ศ +à¹Ĥà¸Ĺรศ ั +à¹Ĥà¸Ĺรศั à¸ŀ +à¹Ĥà¸Ĺรศัà¸ŀ à¸Ĺà¹Į +Ġ×§ ׳ +ĠاÙĦØ« ÙĨ +ĠاÙĦØ«ÙĨ ائÙĬØ© +Ġco ût +à¸ķิà¸Ķ à¸ķัà¹īà¸ĩ +Ġö rg +Ġörg üt +ĠاÙĦØ® ÙĦÙĬ +ĠاÙĦØ®ÙĦÙĬ ج +Ġb á»įn +×ķ׾×ķ×Ĵ ×Ļ +ëŀ ľ +ĠÐij олÑĮ +ĠÐijолÑĮ ÑĪ +×Ĵ ×ijר×Ļ×Ŀ +ÙĤ ÙĬد +×ij×Ļ×ĺ ×ķ×Ļ +æīĵ ãģ¡ +Ġol muÅŁ +f äh +fäh ig +ล าà¸Ļ +ĠÙĤ طر +ש פ×Ķ +èªŃ ãĤĵãģ§ +à¸Ĥ วา +Ġchi ếm +ãĤ¤ãĥ³ ãĤ¿ +ãĤ¤ãĥ³ãĤ¿ ãĥ¼ãĥ +ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥ į +ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥį ãĥĥãĥĪ +Ġ׾ש×ŀ ×ķר +Ġت رÙĥ +ĠترÙĥ ÙĬا +ר ×ķ×ĺ +ã썿ĢĿ ãģĦãģ¾ãģĹãģŁ +ĠاÙĦت ÙĤ +Ġd ư +ãģ¦ãģıãĤĮ ãĤĭ +ãģĹãģŁ ãģĵãģ¨ +Ġróż ne +ĠاÙĦØ· ÙģÙĦ +ĠPost é +Ġ×ŀש ×ķ×Ŀ +Ñį ÑĢ +ĠÑĢабоÑĤ аеÑĤ +ãĤ· ãĥª +ãĤ·ãĥª ãĥ¼ãĤº +Ġ×ij×Ķ ×Ĺ׾×ĺ +×§×Ķ ×Ļ׾×Ķ +ãĤ« ãĥ¡ +ãĤ«ãĥ¡ ãĥ© +ï¼ ¯ +ĠìĤ¬ ìĿ´ +Ġk ì +Ġth Æ°á»Ľc +ض بط +ÙĤب ÙĪÙĦ +åĪ¥ ãģ® +Ġparticul ière +ĠÑģво ем +Ġ×¢ סק +Ġעסק ×Ļ×Ŀ +×ij×Ĺ ×Ļר×ķת +×ij ×Ļ׳×ķ +à¸ĭ à¸Ń +Ġ×¢ ×ķ×ijר +ãģłãģ£ãģŁ ãģ®ãģ§ +ıld ıģı +Ùħ دار +Ùħدار س +주 ìĭľ +à¸Ńา ศ +à¸Ńาศ ัย +Ġt ấm +à¸ŀิ à¸Ī +à¸ŀิà¸Ī าร +à¸ŀิà¸Īาร à¸ĵา +ÑĤелÑĮ нÑĭе +Ñģк ÑĥÑİ +Ðľ Ðĺ +à¹Ģà¸ģ า +à¹Ģà¸ģา หล +à¹Ģà¸ģาหล ี +×ĵ ×Ĺ +à¹Ģà¸Ĭ ิà¸ĩ +Ġد ÙĤÙĬÙĤØ© +íķĻ ìĥĿ +Ġש×IJ ׾×Ķ +Ġcontr ôle +Ġsit uação +à¸Ĥà¸Ńà¸ĩ à¸ľà¸¹à¹ī +ÙĨ Ø·ÙĤ +ê³¼ íķĻ +หลาย à¸Ħà¸Ļ +Ġn ắng +ÙĤ Ùı +ì¡° ê±´ +Ñ ķ +ãĥĥ ãģ¨ +×ŀ ×Ļ׾×Ķ +Gr ün +×Ļ ×Ļ×¢ +×Ļ×Ļ×¢ ×ķ×¥ +×ŀ׳ ׼ +ë ŃIJ +×ŀ×¢ ×ŀ×ĵ +สำ à¸Ļัà¸ģ +ج دد +à¸Ħ ัà¸Ķ +Ġ×Ķ×ŀש פ +Ġ×Ķ×ŀשפ ×Ĺ×Ķ +×ŀש ק׾ +ÙĦ Ùı +Ġty tu +Ġtytu ÅĤ +ÑĪ ÐµÐ¹ +ĠìĿ¼ ë¶Ģ +ÑĪ ÐµÐ½Ð¸Ðµ +Ġph óng +ĠìĹŃ ìĤ¬ +ãĤ« ãĥ³ +Ġtú i +ĠÙĨ ÙĪÙģ +ĠÙĨÙĪÙģ Ùħبر +gr ün +ĠاÙĦØ´ ÙħاÙĦ +ÅĽwi adc +ÅĽwiadc zenie +ער ×Ķ +Ġ×¢ ×ķ×ij +Ġ×¢×ķ×ij ×ĵ×Ļ×Ŀ +×ĵ×ķ×Ĵ ×ŀ×IJ +ä»Ĭ ãģ¯ +Ġv ão +ĠТ ем +Ñģ илÑĮ +Ġch ợ +Ùħ را +Ùħرا ÙĤب +à¹Ħมà¹Ī รูà¹ī +Ġر ائع +×IJ׳ ×Ĺ׳×ķ +สà¹Īà¸ĩ à¹Ģสริม +צ ×Ĺ +ĠìŀĪìĸ´ ìĦľ +Ġkur ulu +Ġkurulu ÅŁ +ĠÃĸ zellik +ĠÃĸzellik le +Ġת ×Ļ×§ +Ġgh é +Ġspr zÄĻ +ĠsprzÄĻ t +ער ×ķת +را ØŃØ© +ãģ£ ãģį +ãģ£ãģį ãĤĬ +ĠìķĦ ëŀĺ +stit uição +Ġдолж но +×Ķ ×¨×© +×Ķרש ×ŀ×Ķ +×Ķ׾ ×ļ +ãģ¡ ãģª +ãģ¡ãģª ãģ¿ +ãģ¡ãģªãģ¿ ãģ« +פ ×Ĺ×ĵ +ĠاÙĦج ÙħÙĬع +×ij×¢ ׾×Ļ +Ġtr ùng +Ġפ ת×Ĺ +×ŀ׾×Ĺ ×ŀת +ãĥĨ ãĥ¼ãĥ +ãĥĨãĥ¼ãĥ ŀ +Ùħ تاب +Ùħتاب عة +Ġ모 ìĬµ +ÙĬ ص +åIJĪ ãģĨ +ĠY ap +ĠYap ı +ĠÑģ казаÑĤÑĮ +ëª ° +à¸Ĺีà¹Ī สำà¸Ħัà¸į +ĠìĹĨ ìĬµëĭĪëĭ¤ +Ġnh ắc +Ġülk eler +Ġмног ие +íķĺ ìħ¨ +มาà¸ģ à¸Ĺีà¹Īสุà¸Ķ +à¸ģ à¹īา +à¸ģà¹īา ว +Ġİ yi +л еж +леж а +ãĤ¸ ãĥ§ +à¸Ĺั à¸ŀ +ا ÙĪØ± +Ġ×Ĺ×ijר ×Ļ +Ġ׾ ש×Ŀ +ì² « +ĠT á»Ń +×ŀ ×ķ׳×Ļ +ÙĤ ÙĪØ¯ +à¸ģระ à¹Ģà¸Ľ +à¸ģระà¹Ģà¸Ľ à¹ĭ +à¸ģระà¹Ģà¸Ľà¹ĭ า +ĠпÑĢоблем Ñĭ +Ġaç ıs +Ġaçıs ından +Ġ×Ķ×ŀ ׼ +ĠÙħع ظÙħ +ÙĤÙĬ اس +ĠпÑĢод олж +ĠпÑĢодолж а +Ġver diÄŁi +ĠпÑĢед меÑĤ +ãģĦãģ¾ãģĻ ãģĮ +ĠëͰ 른 +ĠاÙĦ ÙĤÙĬاÙħ +ĠØ¥ÙĦÙĬ Ùĩا +Т ÐIJ +п оз +ãĤ· ãĥ¥ +ä¸ĬãģĮ ãĤĬ +à¹Ģà¸Ķิม à¸ŀัà¸Ļ +à¸ģุ ล +ØŃر ÙĬØ© +×§×ij×ķצ ×ķת +ë¯ ¿ +ĠاÙĦÙħ ÙĨا +ĠاÙĦÙħÙĨا Ø·ÙĤ +ĠвÑĭп ол +ĠвÑĭпол нÑı +ãĥĭ ãĤ¢ +Ġê²° êµŃ +×Ĺ ×ķ×ŀ +×Ĺ×ķ×ŀ ר×Ļ×Ŀ +ĠУкÑĢа инÑĭ +ห à¸Ńม +ר ×Ļס +ĠÑħоÑĤ ел +ĠобÑĢаз ованиÑı +Ġkh ẳng +Ġm ưa +Ġgör me +Ġgüç lü +سع Ùī +มัà¹Īà¸Ļ à¹ĥà¸Ī +íķĺ ê²łìĬµëĭĪëĭ¤ +Ġпол Ñĥ +Ġfün f +ã썿ĢĿ ãģ£ãģ¦ãģĦãģ¾ãģĻ +Ġê·¸ê²ĥ ìĿĢ +ĠdÃ¼ÅŁÃ¼n ce +ìŀ ł +ĠH Æ°á»Ľng +ĠTi á»ĥu +Ġç ift +ãģij ãģ° +à¸Īà¸Ļ à¸ĸึà¸ĩ +à¸Ĺำ à¹Ħà¸Ķà¹ī +ĠìŀIJ ì²´ +Ġd õ +Ġdõ i +à¸Ī ัà¸Ļ +à¸Īัà¸Ļ à¸Ĺ +à¸Īัà¸Ļà¸Ĺ รà¹Į +ece ÄŁini +׳×ķ×¢ ר +غ ار +ĠاÙĦØ£ÙħرÙĬ ÙĥÙĬ +داع Ø´ +ĠбезопаÑģ ноÑģÑĤи +Ġб Ñİ +ĠбÑİ Ð´Ð¶ +ĠбÑİдж еÑĤ +ãĥĬ ãĤ¤ +à¸ŀà¸ļ วà¹Īา +da ÄŁ +×IJ ×ķפף +íĹ Į +ãĥĢãĤ¤ ãĤ¨ +ãĥĢãĤ¤ãĤ¨ ãĥĥãĥĪ +ĠëĮĢ íĨµ +ĠëĮĢíĨµ ëł¹ +D İ +Ø£ ØŃداث +ĠA ÄŁ +ĠAÄŁ ust +ĠAÄŁust os +ØŃÙĦ ÙĪÙĦ +Ġw ÅĽ +ĠwÅĽ ród +ĠÑģо оÑĤвеÑĤ +ĠÑģооÑĤвеÑĤ ÑģÑĤв +ĠÑģооÑĤвеÑĤÑģÑĤв ии +ĠLu áºŃt +Ġ׼׾ פ×Ļ +Ġв еÑī +ĠвеÑī еÑģÑĤв +×§ ×Ļ×¥ +ĠبÙĩ ذا +عا Ø´ +à¹Ģà¸Ľà¹ĩà¸Ļ à¹Ģรืà¹Īà¸Ńà¸ĩ +Т Ðķ +Ġ×ij×IJ ×Ļ׳×ĺר׳×ĺ +س عد +Ġ×Ķ×ĺ ×Ļפ×ķ׾ +פ ×Ļס +à¸ĩà¹Īาย à¹Ĩ +ĠGer ät +׾ ×Ļ×ĵ×Ķ +ĠÑĢ Ð¸Ñģк +׾ק ×Ĺ +н наÑı +ר ×Ļ×ĵ +п ÑĢакÑĤи +пÑĢакÑĤи к +à¸Ĥัà¹īà¸Ļ à¸ķà¸Ńà¸Ļ +à¸Ļà¹Īา รัà¸ģ +larınız ı +à¸Ńà¸Ļุ à¸įา +à¸Ńà¸Ļุà¸įา à¸ķ +ĠzdjÄĻ cia +Ġb ây +Ñģ ÑĢ +ÑģÑĢ Ð¾Ñĩ +ãĥĭ ãĥ³ãĤ° +Ġö ner +Ġöner i +Ġнов ÑĭÑħ +دع ÙĪØ© +Ġg ắn +ĠاÙĦÙĦ بÙĨ +ĠاÙĦÙĦبÙĨ اÙĨÙĬ +ãĥĨãĤ£ ãĥ¼ +Ġص ØŃÙĬØŃ +ем ÑĭÑħ +çĸ² ãĤĮ +ĠпÑĢо иÑģ +ĠпÑĢоиÑģ ÑħодиÑĤ +ส à¸ķิ +ĠT ết +Ġ×Ķ׾ ׾×ķ +à¹Ģรืà¹Īà¸Ńà¸ĩ à¸Ļีà¹ī +×ŀ×ij ׳×Ķ +Ġconte údo +Ġا خت +Ġاخت ÙĬار +Ùħ سÙĦ +ÙħسÙĦ سÙĦ +ëı Ī +Ġ׾ ×Ļ×ĵ +à¸ŀิ à¸ĺี +ĠÑģов Ñģ +ĠÑģовÑģ ем +ãģĮãģĤãĤĬ ãģ¾ãģĹãģŁ +Ġsó ng +Ø¥ صÙĦاØŃ +ë§ ģ +Ùģ ÙĬر +ĠJe żeli +ìłľ ëıĦ +d ÅĤug +ìĥģ ìĿĦ +Ġc áºŃn +Ġhá»į p +Ø£ ست +أست اذ +Ġ×ŀ ×Ļש×Ķ +Ġ×ŀ×Ļש×Ķ ×ķ +Ġd Ãły +Ġch Ãłng +ãģ¡ãĤĥãĤĵ ãģ¨ +ĠÄij ám +Ġsw ój +Ġpoder á +ĠоÑĤлиÑĩ а +Ġpéri ode +ünd ig +×ĺ×¢ ף +ÑģÑĤÑĢо иÑĤелÑĮ +ר ת×Ļ +Ġ×Ļ×Ķ ×Ļ×ķ +׾ ס +ĠاÙĦÙħÙĨ زÙĦ +à¸Ļิ à¹īว +иÑĦ ика +иÑĦика ÑĨи +ðŁĺ ī +Ġad ına +ãĢĤãĢĤ ãĢĤ +×IJ ×Ļף +ס ×Ļר +ĠÙĬ عد +çŃĶ ãģĪ +اÙĦ جز +اÙĦجز ائر +енÑĮ к +ร ห +รห ัส +ĠTürk çe +ê¾ ¸ +Ġ×Ļ ×ķ׼׾ +Ġש ×ķ׳×Ķ +Ġ×ij×ŀ צ×ij +ĠдейÑģÑĤв иÑĤелÑĮно +ĠبأÙĨ Ùĩ +×ŀ×§ ×ĵ +Ġ×Ķש ×§ +Ø®ÙĬ ارات +Ġf ı +Ġfı rs +Ġfırs at +ëij ĺ +ĠìĦľ ìļ¸ +Ġ×Ķ×Ĵ ×ķ×£ +ر عا +رعا ÙĬØ© +ĠK ết +к Ñģи +ĠÑĥÑģлÑĥг и +ноÑģÑĤ ей +ìļ´ ëıĻ +ĠобÑĬ Ñı +ĠобÑĬÑı вл +н еж +×Ķפ ×ļ +Ġ×ij×¢ ×Ļ׳×Ļ +ëĨ Ĵ +ĠпÑĢоÑĨ ед +ĠпÑĢоÑĨед ÑĥÑĢ +Ġiht iy +Ġihtiy acı +Ġë°Ķ ëŀį +Ġë°Ķëŀį ëĭĪëĭ¤ +à¸ģล ัว +ĠÑģл ожно +×§×Ļ ×Ļ×ŀת +ĠÄIJ ình +ĠÙħ ÙĦÙģ +Ġà¹Ĥà¸Ķย มี +Ġkat kı +تØŃ ÙĪÙĬÙĦ +à¹Ħ à¸ŀ +ĠH á»į +ñ e +Ġдо Ñħод +Ġtho ải +íķĺìŬ ìķ¼ +ãĤ¹ãĥĿ ãĥ¼ãĥ +ãĤ¹ãĥĿãĥ¼ãĥ Ħ +ĠG òn +Ġk è +Ġkè m +é̲ ãĤģ +ãĤ¹ ãĥ¼ãĥ +ãĤ¹ãĥ¼ãĥ ij +ãĤ¹ãĥ¼ãĥij ãĥ¼ +ĠgiÃł u +ĠØ¥ عادة +Ġ׾ ×ķ×§ +Ġ׾×ķ×§ ×Ĺ +ĠÑħоÑĩ еÑĤ +×ĺ ׾×ķ×ķ +×ĺ׾×ķ×ķ ×Ļ×ĸ +×ĺ׾×ķ×ķ×Ļ×ĸ ×Ļ×Ķ +Ġth uyết +ãģĿãĤĮ ãģ§ +Ġvard ı +à¹Ħร à¹ī +ع بد +ĠRep ública +ãĥ¼ãĤ¿ ãĥ¼ +Ġ×ŀ×IJ ×ķת +à¹Ħà¸Ľ à¹ģลà¹īว +Ġyapıl acak +ãĤ¹ãĤ¿ ãĥ¼ãĥĪ +ãģ» ãģ¼ +Ġko ÅŁ +ĠмаÑĤ еÑĢи +Ġsiè cle +ĠاÙĦÙħ ختÙĦÙģ +ĠاÙĦÙħختÙĦÙģ Ø© +Ġ׾ק ר×IJ +Ġ׾קר×IJ ת +Ġ×Ķפ ×ķ×¢×ľ +Ġt òa +Ġr Æ¡i +åij¨ ãĤĬ +à¸Ŀ à¸Ļ +j ÅĽÄĩ +ĠìķĬ ìĿĦ +اÙĨت ÙĤاÙĦ +ëĸ ł +ив аеÑĤ +ãĥĪ ãĥ« +ĠاÙĦÙģÙĦسطÙĬÙĨ ÙĬØ© +à¸ģลà¹Īาว วà¹Īา +ا Ùĥت +ĠÃĸ l +ĠÑĢе ÑĪи +ĠÑĢеÑĪи л +Ġ׳×ķס פ×ķת +Ġìłķ ì¹ĺ +вл еÑĩен +Ùħر ØŃÙĦØ© +Ġcome ça +Ġy ık +ìĤ ´ +à¸ĺ à¸Ļา +à¸ĺà¸Ļา à¸Ħาร +à¸Ńà¸Ļ า +à¸Ńà¸Ļา à¸Ħ +à¸Ńà¸Ļาà¸Ħ à¸ķ +Ġpeque ña +ä»ķ äºĭãĤĴ +Ġب ذÙĦÙĥ +Ġнов ого +ãģĹãģ¦ ãģĦãģªãģĦ +ĠاÙĦÙħ ÙĬاÙĩ +à¸ģà¹ĩ à¹Ģà¸Ľà¹ĩà¸Ļ +Ġж ÑĥÑĢ +ĠжÑĥÑĢ Ð½Ð°Ð» +в еÑģ +خت ار +Ġ매 ìļ° +ĠM ã +ĠавÑĤомаÑĤ Ñĭ +ضع Ùģ +ĠاÙĦÙģ Ùĥر +ãģ§ãģĻ ãģ®ãģ§ +ãĥ¡ãĥ³ ãĥIJãĥ¼ +Ġк ÑĢÑĥг +ĠاÙĦسÙĦ طة +à¸Ħรัà¹īà¸ĩ à¹ģรà¸ģ +à¸ģระà¸Ĺ รว +à¸ģระà¸Ĺรว à¸ĩ +ÑĨ ов +éķ· ãģĦ +大ãģį ãģĦ +Ġgeç miÅŁ +ìĦ± ìĿ´ +Ġצר ×Ļ׼×Ķ +Ġм оÑī +ĠмоÑī н +Ġ×§ ×Ļש +Ġ×§×Ļש ×ķר×Ļ×Ŀ +ĠNas ıl +г ÑĢан +Ġ×ŀ ×ķצר×Ļ×Ŀ +Ġ×ŀס ×ķ×Ĵ +Ġy ür +Ġyür üt +Ġ׾׊צ×ķ +×ķÖ ¼ +ĠìŀĪ ìĹĪëĭ¤ +Ġter ör +ĠTh ương +ĠÙĪ ÙĬÙħ +ĠÙĪÙĬÙħ ÙĥÙĨ +ج ÙĪÙĨ +ĠÙĪØºÙĬر Ùĩا +×ŀ פ×ķ +×Ĵ×ķר ×ŀ×Ļ×Ŀ +׼×ij ×Ļש +ĠاÙĦÙĦ غ +ĠاÙĦÙĦغ Ø© +شر Ùĥ +ĠاÙĦر اب +ĠاÙĦراب ع +ĠпÑĢ ÐµÐº +ĠпÑĢек ÑĢаÑģ +ĠпÑĢекÑĢаÑģ н +Ġenerg ÃŃa +×§×ĵ ×ŀ×Ļ +ãģıãģª ãģ£ãģŁ +ĠÄij ứ +ĠÄijứ a +Serv i +Servi ço +Ġkald ır +åĥį ãģį +Ġод еж +Ġодеж д +물 ìĿĦ +ãģĿãģĨ ãģ§ +ãģĮãģĤ ãĤĮãģ° +ìĻ ķ +צ×ĵ ×§ +Ġart ır +Ġile ti +Ġileti ÅŁim +ãĤĪãģĨ ãģ§ +ãĥĪ ãĥ¼ +ãĤ¢ ãĥĭ +ãĤ¢ãĥĭ ãĥ¡ +×ĺ×Ļ ×Ļ׾ +ãĥķ ãĥªãĥ¼ +ãĥĿ ãĥ³ +ÐŁÑĢ Ð¾ +Ġع اÙĦÙĬØ© +ĠÃ¶ÄŁ ret +ĠÃ¶ÄŁret men +ĠкаÑĩеÑģÑĤв а +Ġ×Ķ×ĺ ×ij×¢ +Ġзна Ñİ +ãģ¦ ãģıãĤĭ +Ġm ừng +ÙħÙĪ Øª +ש ×ķ×ŀר +×Ĺ׾ ×ij +Ġwzgl ÄĻ +ĠwzglÄĻ du +ë²Ī 째 +Ġtá» ĵ +Ġtá»ĵ n +ãĥ¯ãĥ¼ ãĤ¯ +Ġpo życz +Ġpożycz k +×Ļ ×ķצר×Ļ×Ŀ +Ùĥر Ùħ +Ġг аÑĢ +ĠгаÑĢ Ð°Ð½ +ĠгаÑĢан ÑĤи +ล à¹īาà¸ĩ +Ġìĺģ íĻĶ +×ĺ ×Ļס +Ġth ẻ +ĠìŀĪëĭ¤ ê³ł +اÙĦت ز +اÙĦتز اÙħ +Ġна ÑĪи +is ée +ãģĵãĤĮ ãĤĴ +Ġm ẽ +ض ÙĦ +بÙĪ Øª +Ġ׼ ׼×Ķ +h ợ +ĠاÙĦس ÙĪØ±ÙĬØ© +Ġ×ľ×¢ ×ķ×ŀ +Ġ×ľ×¢×ķ×ŀ ת +ĠbaÅŁ ar +ĠbaÅŁar ılı +е ÑģÑĤÑĮ +à¸Ħร ี +à¸Ħรี ม +ĠìłĦ ì²´ +ĠسÙĬ ÙĥÙĪÙĨ +Ġ×ŀ×ĵ ×ķ×¢ +ĠëķĮ문 ìĿ´ëĭ¤ +Ġc ứng +ger ät +Ġм иÑĢ +ĠмиÑĢ Ðµ +ĠÙĥÙĬÙģ ÙĬØ© +Ġפר ×ĺ×Ļ×Ŀ +Ġgo ÅĽci +иÑĤ еÑģÑĮ +ÑĥÑĪ ÐºÐ¸ +ؤ ÙħÙĨ +Ġ×IJ ׼ף +ĠاÙĦر جÙĦ +Ġl á»įc +à¹Ģรีย à¸ģวà¹Īา +ãģĵãģ® ãĤĪãģĨãģª +ë§Į íģ¼ +Ġп еÑĩ +ÙĪÙĦ ات +ĠÃľ ye +liÄŁ inde +à¸Ħะ à¹ģà¸Ļ +à¸Ħะà¹ģà¸Ļ à¸Ļ +ãĤĭãģĵãģ¨ ãģ¯ +วิ à¹Ģà¸Ħร +วิà¹Ģà¸Ħร าะ +วิà¹Ģà¸Ħราะ หà¹Į +Ġвозмож ноÑģÑĤи +ĠاÙĦÙĨ ساء +ãĥīãĥ© ãĥŀ +Ġgü c +Ġgüc ü +Ġt ưá»Ŀng +Ġacomp aña +ãĤ¤ ãĥ© +×§ צ×ij +ĠY ö +ĠYö net +ĠYönet im +สัม à¸ľ +à¸ªà¸±à¸¡à¸ľ ัส +à¸Ļ าม +ĠÄij ợi +à¹ģหà¹Īà¸ĩ à¸Ĭาà¸ķิ +ãģĿãĤĮ ãģ§ãĤĤ +ät ig +ת ×ķ×Ŀ +ĠbaÅŁ lat +ĠвÑģ ей +ת ×Ļ×§ +ת×Ļ×§ ×ķף +ĠNg ô +ĠGesch ä +ĠGeschä fts +Ø£ Ùħ +Ø£Ùħ راض +à¹Ģà¸Ĺ à¸Ħà¸Ļ +à¹Ģà¸Ĺà¸Ħà¸Ļ ิ +à¹Ģà¸Ĺà¸Ħà¸Ļิ à¸Ħ +Ġм енÑĮ +ĠменÑĮ ÑĪе +Ġöl ç +Ġölç ü +ĠÙĬ جعÙĦ +ĠÄij ỡ +ש ×Ļ׾ +ש×Ļ׾ ×ķ×ij +ĠGr Ã¶ÃŁe +ĠÙĩ اتÙģ +รà¹īาà¸Ļ à¸Ńาหาร +×Ķ׾ ×Ļ׼ +×Ķ׾×Ļ׼ ×Ļ +иÑĢÑĥ ÑİÑī +èĭ¥ ãģĦ +ĠÃĸ zel +ãģĦãģŁ ãĤī +à¸Ħำ à¸ĸาม +Ġzosta ÅĤy +Ġ×Ķס ×Ļפ×ķר +×Ķ ×ķ׾ +×Ķ×ķ׾ ×ļ +à¹Ģà¸Ĭà¹Īà¸Ļ à¸ģัà¸Ļ +à¹Ĥ à¸Ĩ +à¹Ĥà¸Ĩ ษ +à¹Ĥà¸Ĩษ à¸ĵา +×IJר צ×ķת +×Ĵר פ×Ļ +Ġao ût +ĠÙĬ رÙĬد +ت ÙĪØ¬ +تÙĪØ¬ ÙĬÙĩ +ĠÑįÑĤ ап +ãĤ¹ãĤ¿ ãĥ³ +Ġkr ó +Ġkró tk +ãĤĴ使 ãģĨ +ì ·¨ +éĸ¢ ãĤı +à¸Ķà¹īวย à¸Ħวาม +à¸Ļำ à¹Ģสà¸Ļà¸Ń +Ġa yrıca +à¸Ī à¹īาà¸ĩ +ĠÑĦоÑĤ огÑĢаÑĦ +Ġв еÑĩ +ĠвеÑĩ еÑĢ +åĩº ãģĹãģŁ +ĠÐ¥ о +Ġ×ŀ ר×Ĵ×Ļש +à¹ĥหà¹ī à¹Ģà¸Ľà¹ĩà¸Ļ +ãĤĴ 缮 +ãĤĴ缮 æĮĩ +׾ ×ŀ×Ļ×Ŀ +nÄħ ÅĤ +ĠÑģÑĤ анд +ĠÑģÑĤанд аÑĢÑĤ +ĠSü d +ĠT âm +اخت بار +à¹Ģà¸ģ à¸Ńรà¹Į +Ùħس رØŃ +Ġbi á»ĩn +ب Ùı +Ġص اÙĦ +ĠصاÙĦ ØŃ +ĠPh ụ +íľ ´ +ãĥ¬ãĥĵ ãĥ¥ãĥ¼ +Ġbụ ng +Ġrég ime +ĠØ£ Ø´Ùĩر +ĠÑĢабоÑĤ ник +à¸Ŀ ัà¸Ļ +اع تÙħ +اعتÙħ اد +Ġзам еÑĤ +ãģ¾ ãģ£ãģ¦ +Ġch ặt +æĿ¥ ãĤĭ +ĠاÙĦÙĤ ÙĪØ§Øª +ãģ«åħ¥ ãģ£ãģ¦ +تØŃ اÙĦÙģ +Ùħ زÙĬد +ĠÙĬ صÙĦ +ìĹ ¼ +à¹Ģà¸Ĭ à¹ĩ +à¹Ģà¸Ĭà¹ĩ à¸Ħ +Ġk á»ĭ +Ġká»ĭ p +ĠìķĦ ì§ģ +×IJ׳ ×Ĵ +Ġобла ÑģÑĤÑĮ +Ġpomoc Äħ +Ġ×ķ ש׾ +ëĵł ì§Ģ +ĠGi ám +ĠSt ück +Ġchá y +ĠëĤĺ ìĺ¤ +ש ×Ļ×ĺת +×ŀ×ĵ ר +×ŀ×ĵר ×Ļ×ļ +Ġsüre ç +к ва +×ij׾ ×Ļ×Ŀ +×Ķ ×ª×Ļ +×Ķת×Ļ ×Ļ×Ĺס +ÙĤب اÙĦ +Ġס ×ķ×Ĵ +Ġס×ķ×Ĵ ×Ļ +ÑģÑĤ олÑĮ +ä½ķ ãĤĤ +×ĸ׼ ×ķר +è²· ãģĨ +å®ī ãģı +à¸Ħรัà¹īà¸ĩ à¸Ļีà¹ī +kö p +ĠÑģеÑĢ Ð²Ð¸Ñģ +оÑĩ нÑĭÑħ +ê±° ëŀĺ +تأ Ùĥ +تأÙĥ ÙĬد +×ĵ ׾ק +Ġпо Ñĩем +ĠпоÑĩем Ñĥ +пиÑģ аÑĤÑĮ +×ij שר +ĠH Ãłng +ĠT ìm +Ġtr ừ +ãĤ» ãĥĥãĤ¯ãĤ¹ +×ķ׳ ×Ĵ +mız da +п Ñģи +ĠìŀĪ ê¸° +Ġr út +ز اÙĨ +تÙĨ ÙĪØ¹ +ÙħÙĤ ا +ÙħÙĤا ÙĪÙħØ© +Ġ׾צ ×ķר×ļ +Ġ×ij ×Ļר×ķש׾×Ļ×Ŀ +ãĥ´ ãĤ£ +eb ile +ebile ceÄŁi +ãĥ¦ ãĥ¼ãĤ +ãĥ¦ãĥ¼ãĤ ¶ +ãĥ¦ãĥ¼ãĤ¶ ãĥ¼ +ãĤĴä½ľ ãĤĭ +Ñģ меÑĢ +ÑģмеÑĢ ÑĤ +Ġì§ ģ +Ġì§ģ ìłij +ĠÐŁ аÑĢ +ØŃ اض +ØŃاض ر +Ùħ ÙĥاÙģ +ÙħÙĥاÙģ ØŃØ© +ล ิà¸Ļ +ãģ¦ ãģįãģ¦ +ÑĢоÑģ л +ĠÄ°ÅŁ te +ÙĤص ÙĬر +Ġ×ij×Ĵ ×Ļ׾ +Ġ×ŀת ×IJ×Ļ×Ŀ +Ġ×Ķ ×Ĺ×ĵ +Ġ×Ķ×Ĺ×ĵ ש×Ķ +ר ×ķ×¢ +Ġprodukt ów +ĠÙħ صدر +не ÑĨ +ĠاÙĦعÙħÙĦ ات +Ġçık ma +Ġد بÙĬ +×§ ×Ļף +ת ×IJר +ת×IJר ×Ļ×ļ +׳×Ļ ×Ļ×ĵ +صر اع +l ève +צ ×Ļר +à¸Ķ ัà¸Ļ +à¹ĥหà¹ī à¹Ħà¸Ķà¹ī +ãĤ¿ãĤ¤ ãĥł +Ġgi ảng +С ÐŁ +ĠاÙĦÙħ ØŃÙĦ +ĠاÙĦÙħØŃÙĦ ÙĬØ© +ĠT ất +׾ ×ķ×ĺ +h á»ķ +Ġam éric +Ġaméric ain +Ġ×ijש׾ ×ij +Ġ׾×IJ ×ķ×ŀ×Ļ +Ġpe ça +ĠÑĢаз нÑĭÑħ +ãģĦãĤĭ ãģ¨ +ãĥĩ ãĥ³ +ס קר +Ġ×Ķ×ŀ×Ĺ ×Ļר +ãģ¨ãģĦãģĨ ãĤĤãģ® +رت بط +ĠиÑģÑĤ оÑĩ +ĠиÑģÑĤоÑĩ ник +สมัà¸Ħร สมาà¸Ĭิà¸ģ +Ġ à¸Ĺัà¹īà¸ĩ +Ġà¸Ĺัà¹īà¸ĩ à¸Ļีà¹ī +ĠT áºŃp +ãģ£ãģ¦ ãģĦãģĨ +ĠاÙĦÙĪ ØµÙĪÙĦ +Ġdéc ada +Ġо ÑĦоÑĢм +ĠоÑĦоÑĢм лен +สำหรัà¸ļ à¸ģาร +Ġog óln +ãģĨãģ¡ ãģ« +Ġvá rias +ãģĻãģİ ãĤĭ +ÙĪ Ùĩا +à¹Ĥà¸Ľà¸£ à¸Ķ +ĠÐłÐ¾ÑģÑģ иÑı +人 ãĢħ +ãģĹãģ¦ ãģįãģŁ +Ġsı rasında +Ġng ôn +س ÙĨØ© +تÙħ تع +×ŀ׼ ×ij×Ļ +Ġnh ấn +×¢ ×ŀ×Ļ×ĵ +á» ¨ +ж иÑĤÑĮ +ãĤī ãģĽ +gr áf +gráf ica +ĠÙĤ ÙĪÙĦ +ĠÙĤÙĪÙĦ Ùĩ +ëĭ¨ ì²´ +ห à¹īา +หà¹īา ม +使 ãģ£ãģ¦ +ת ×Ļ×ij +ת×Ļ×ij ת +i á»ĥu +à¹ģ à¸Ĭม +à¹ģà¸Ĭม à¸Ľ +à¹ģà¸Ĭà¸¡à¸Ľ à¹Į +Ạ¬ +ĠëĤĺ ëĿ¼ +ĠÙħباشر Ø© +Ġtr Äĥm +سÙĥ ÙĪ +ĠاÙĦذ Ùī +Ġbi ç +Ġbiç im +ت راجع +Ġоб еÑģп +ĠобеÑģп еÑĩ +ĠобеÑģпеÑĩ ива +Ġвозд ÑĥÑħ +Ñĭв аÑĤÑĮ +ÙĦ ØŃÙĤ +ĠMü dü +ĠMüdü rl +ĠMüdürl Ã¼ÄŁÃ¼ +Ġyapt ır +Ġפר ס +Ġפרס ×ķ×Ŀ +Ø· ÙĪØ± +ÑģÑĤв оваÑĤÑĮ +ìŀ¥ ìĿĦ +à¸Ĺีà¹Īà¸Ķี à¸Ĺีà¹Īสุà¸Ķ +à¸Ńั ล +ÑĢ Ñİ +Ùħست ÙĤبÙĦ +Ñģл ÑĥÑĪ +ÑģлÑĥÑĪ Ð° +èªį ãĤģ +Ġ׾ ×Ļ×ŀ +Ġ׾×Ļ×ŀ ×ķ×ĵ×Ļ +ת ש×ķ×ij +תש×ķ×ij ×ķת +ĠgerçekleÅŁtir il +ĠاÙĦ اتÙ쨧ÙĤ +ĠÑĥÑĢов не +ĠÑĤ ÑĢав +Ġ×Ķ×ŀ ×ķף +ØŃÙģ Ø§Ø¸ +ĠÙħ ÙIJ +ĠÙħÙIJ ÙĨ +ĠÙħÙIJÙĨ ÙĴ +Ġdem ás +×ŀ×ķ×ĸ ×Ļ×§×Ķ +ש ×Ļ×Ĺ×Ķ +Ġb ú +алÑĮ нÑĭм +ãĤı ãģŁ +ãĤıãģŁ ãģĹ +ĠاÙĦÙħÙĪ Ø§Ø¯ +ת ׼׳ +×ª×Ľ×ł ×ķף +ãĥŃ ãĥĥãĤ¯ +hi ếu +ĠÑĥ ме +ÙħØŃا ÙĪÙĦØ© +×IJ ×ķשר +Ġкон кÑĥÑĢ +ĠконкÑĥÑĢ Ñģ +Ġ×ŀ ×ij×Ĺ +Ġ×ŀ×ij×Ĺ ×Ļ×ł×ª +Ġan lam +Ġanlam ı +Ġli á»ĩt +Ġв Ñħод +ĠH ình +ĠÙĨ ÙĬ +ĠÙĨÙĬ ÙĪØ² +ãĤ¸ãĥ£ ãĥ¼ +×ij ×Ļ×¥ +ÑĤелÑĮ нÑĭÑħ +à¸Ĺุà¸ģ à¸Ńยà¹Īาà¸ĩ +ĠkiÅŁ inin +Ø£ Ùĥثر +ĠиÑģÑĤоÑĢ Ð¸Ð¸ +Ġë³Ģ íĻĶ +פ׾ ס×ĺ +×¤×ľ×¡×ĺ ×Ļ׳×Ļ +ĠÑģ еÑĤ +ĠÑģеÑĤ и +dıģ ımız +íķĺ ëıĦë¡Ŀ +×Ķ ×¨ +×Ķר ×ij×Ķ +ãģĻãĤĭãģĵãģ¨ ãģ¯ +Ġphi ếu +تØŃ سÙĬÙĨ +ĠÅĽ rod +ĠÅĽrod ow +ĠÅĽrodow isk +ĠÑĢаÑģ Ñħод +بر ÙĬد +Ġر ÙĬ +ĠرÙĬ اÙĦ +Ġ×ķ ׼×ļ +ì§Ģ ìļĶ +׼ ×ŀ×ķ +Ġ×¢×ľ ×Ļ×Ķ×Ŀ +f ÃŃcio +Ġkar arı +tıģ ını +ĠС ов +ĠСов еÑĤ +ãģĬéĩij ãĤĴ +м еждÑĥ +междÑĥ на +междÑĥна ÑĢод +междÑĥнаÑĢод н +Ġm á»Ŀi +ĠاÙĦØ¥ ÙĬر +ĠاÙĦØ¥ÙĬر اÙĨÙĬ +ĠاÙĦرÙĪ Ø³ÙĬ +ص ÙĨد +صÙĨد ÙĪÙĤ +ĠاÙĦØ¥ÙĨ ترÙĨت +Ġt ắm +ĠÑĤак ого +Ġ×ij ׾×ķ×Ĵ +Ġü crets +Ġücrets iz +×Ĺ×ĸ ×Ļר +ìĸ´ ìķ¼ +ĠPh ần +ï¼ ľ +Ġ×ĺ ×ij×¢ +Ġ×ĺ×ij×¢ ×Ļ +×IJ×ŀ ×IJ +اÙĤ ÙĦ +Ġcondi ções +ÙĤات ÙĦ +ĠÑĢезÑĥлÑĮÑĤаÑĤ е +ĠÑģво ими +צ×ij ×Ļ×¢ +gé ni +Ġz es +Ġzes po +Ġzespo ÅĤ +ÑĪ Ð¸Ð² +Ġפר×ĺ×Ļ ×ķת +Ùħست Ø´Ùģ +ÙħستشÙģ Ùī +شر ع +Ġko ÅĽci +Ġ×Ķ×IJ ×Ļ׳×ĺר׳×ĺ +ĠЧ еÑĢ +поÑĩ ÑĤ +Ġactiv ités +çŁ¥ ãģ£ãģ¦ +Ġ×ij ×ĸ×Ķ +Ġyüz den +ãģªãĤĬ ãģ¾ãģĽãĤĵ +Ġíĺ ¹ +Ġíĺ¹ ìĿĢ +Ġ×ŀש ׳×Ķ +ĠÐĴ еÑĢ +Ġ×ij×IJ×ķת ×ķ +éĿ¢ çϽ +éĿ¢çϽ ãģĦ +شر ØŃ +gr ünde +Ùģ Ø´ +Ù쨴 ÙĦ +Ġsé jour +ë´ IJ +Ġr ôle +Ø´ عار +ем Ñĭе +ĠاÙĦج سÙħ +алÑĮ ное +Ġìĥģ íĥľ +ï¼ ¤ +ë¯Ģ ë¡ľ +ĠÙĨ ÙĤØ· +ĠÙĨÙĤØ· Ø© +ãģĿãģĨ ãģł +ãģĻãĤĭ ãģ®ãģĮ +ห ู +Ġnh á»ĭ +Ġeconóm ica +ס×ĺ ×ķ×ĵ +ס×ĺ×ķ×ĵ ׳×ĺ +มี à¹Ĥà¸Ńà¸ģาส +Ġgest ão +รูà¹ī วà¹Īา +Ġlo ạt +ĠاÙĦÙħ Ùı +ĠاÙĦØŃ ÙħÙĦ +ĠاÙĦعÙħÙĦ ÙĬØ© +Ġê²ĥ ëıĦ +ĠÐľÐ¾Ñģк ва +×§×ĺ ×ķר +Ġпод ÑĢоб +ĠподÑĢоб н +Ġl ưng +ت Ù쨳 +تÙ쨳 ÙĬر +ĠاÙĦ بع +ĠاÙĦبع ض +ئ ت +Ðķ ÐĿ +ìŰ 구 +à¹ĥหà¹ī à¸Ħุà¸ĵ +ãģĤãĤĬ ãģ¾ãģĹãģŁ +Ġbir ka +Ġbirka ç +Ġİ sl +Ġİsl am +çĹĽ ãģ¿ +Ġh ảo +Ġм аÑı +ĠiÅŁ çi +ש × +×©× ģ +à¸ģาร à¹Ģมืà¸Ńà¸ĩ +×ķ×Ķ ×¨ +Ġch ó +ëĨ Ģ +Ġyan lı +Ġyanlı ÅŁ +幸 ãģĽ +×IJר×Ĵ ×ķ׳×Ļ +à¸Ńาà¸Ī าร +à¸Ńาà¸Īาร ยà¹Į +ĠинÑĦоÑĢм аÑĨиÑİ +Ðĵ Ðŀ +׳ ×Ĺש +ĠìķĮ ìķĦ +ĠÑħаÑĢакÑĤеÑĢ Ð¸ÑģÑĤ +ĠÑħаÑĢакÑĤеÑĢиÑģÑĤ ик +à¸Ħุà¸ĵ สามารà¸ĸ +è¦ĭ ãģĪãĤĭ +à¸Ĭัà¸Ķ à¹Ģà¸Ī +à¸Ĭัà¸Ķà¹Ģà¸Ī à¸Ļ +ĠdziaÅĤ al +ĠdziaÅĤal noÅĽci +à¹Ĥà¸ŀ สà¸ķà¹Į +ĠÐļ ол +ĠÙģ ÙĩÙĬ +Ġ×ŀ פ׳×Ļ +Ġ×Ķ×§ שר +Ùħر Ùĥ +ÙħرÙĥ ز +Ġho á +Ġа пп +Ġапп аÑĢаÑĤ +Ġp ami +Ġpami ÄĻ +ĠpamiÄĻ ta +Ġç ünkü +×ĵ ×ķף +ãģ¯ ãģĵãģ¡ãĤī +ĠM Ãł +ĠÙĬ ÙĤدÙħ +ĠпÑĢ ÐµÐ· +ĠпÑĢез иденÑĤ +à¸Ńุ à¸ķ +à¸Ńุà¸ķ สา +à¸Ńุà¸ķสา ห +à¸Ńุà¸ķสาห à¸ģรรม +ì§Ģ ìĽIJ +Ġ×IJפשר ×ķת +sch üt +schüt z +ĠTi ên +Ġsay ılı +ĠгÑĢÑĥпп Ñĭ +оÑĩ нÑĭй +Ġ×ľ×¢ ×ŀ×ķ×ĵ +Ġwr zeÅĽ +ĠwrzeÅĽ nia +ĠÄIJ ầu +à¹Ģà¸Ĥà¹īา รà¹Īวม +nız da +Ø®ÙĬ ص +Ġgü nc +Ġgünc el +ĠÙĦÙĩ ذÙĩ +ĠÙĬ عتبر +lé gi +ãĤı ãģĭãĤĭ +Ġr ừng +ظ Ùĩ +ظÙĩ ÙĪØ± +Ġ×ŀ×ij ×Ļף +Ġ기 íĥĢ +åĪĩ ãĤĮ +lan mÄ±ÅŁ +à¸Ĺีà¹Ī มีà¸Ħวาม +Ġh á»ģ +ت ÙĪØ¬Ùĩ +ĠاÙĦØ¥ دارة +Ġú til +ס פ×ķ +à¸Ħวาม รัà¸ģ +à¹Ĥ ฮ +Ġпол иÑĤ +ĠполиÑĤ ик +Ġsat ın +ĠÅŀ imdi +×ŀ ×ķר×Ļ×Ŀ +ìķĺ ëĭ¤ +×Ĺ ×ķ×ķ +×Ĺ×ķ×ķ ×Ļ×Ķ +à¸Ħà¸Ńม à¸ŀิ +à¸Ħà¸Ńมà¸ŀิ ว +à¸Ħà¸Ńมà¸ŀิว à¹Ģà¸ķà¸Ńรà¹Į +Ġا ذا +تخ اذ +ãĤ¨ ãĥ« +Ġpossibilit é +ยืà¸Ļ ยัà¸Ļ +Ġü nivers +Ġünivers ite +ĠاÙĦد ÙĪØ±ÙĬ +ĠìķĬëĬĶ ëĭ¤ +ĠìĦľ ë¡ľ +ØŃ اÙĦ +Ġë ¨ +Ġë¨ ¼ +Ġ먼 ìłĢ +à¸Ĺีà¹Ī à¸ĸูà¸ģ +ì§ ľ +Ġsk óry +лÑĮ ÑĨ +à¹ĥà¸Ĭà¹ī à¹Ģวลา +×ij×§ שת +Ġذ ÙĪ +æĹ¥ ãĢħ +ĠкоÑĤоÑĢ ÑĥÑİ +ĠÑĥÑĢов енÑĮ +ê¹ ¨ +à¹Ħ à¸Ĺ +ãĤµ ãĥĹãĥª +ãĤ¸ ãĥ§ãĥ³ +ãģĻ ãģ¹ãģį +ĠG ór +ãĥĪ ãĤ¤ +ãĥĪãĤ¤ ãĥ¬ +ĠyaÅŁ ama +Ġdá»ĭ p +Ġb ữa +à¸ĭ ุ +Ġöl üm +ãģ£ãģ¦ ãģıãĤĭ +à¸ģาร à¸Ħà¹īา +ש ער +ĠÑĤип а +Ġг еÑĢ +ĠгеÑĢ Ð¾ +רק ×¢ +Ġu waż +Ġuważ a +ש×ŀ ף +Ġhast alık +ãĤıãĤĮ ãĤĭ +ba ÅŁÄ± +Ñĩ ÑĤо +Ġ×ij ×ŀר׼×ĸ +Ġìļ°ë¦¬ ìĿĺ +ĠÙĥاÙĨ ÙĪØ§ +ĠØ£ بر +Ġأبر ÙĬÙĦ +ì¸ µ +à¹Ħà¸Ĥ à¹Ī +ĠÙĪ ÙĦÙĪ +à¸Ĺ ัว +à¸Ĺัว รà¹Į +ĠÙĪØ£ Ùĥد +à¸Ĭ วà¸Ļ +׾ ×ķ×§ +æį ¨ +æį¨ ãģ¦ +Ġİç in +p éri +Ġy al +Ġyal nız +ÑĮÑı н +Ġg ắng +à¸ģà¹ĩ ยัà¸ĩ +ĠУкÑĢа ин +ĠÑģ ами +ĠпÑĢовед ен +à¸ķà¸ģ à¹ģà¸ķà¹Īà¸ĩ +ĠQu ân +é paration +ĠbaÅŁ ında +Ġzn ale +Ġznale ź +Ġznaleź Äĩ +ãĤ± ãĥ¼ +ãĥİ ãĥ¼ +à¸ĸูà¸ģ à¸ķà¹īà¸Ńà¸ĩ +ëª ¸ +Ġëı Į +ĠëıĮ ìķĦ +ĠSch üler +Ġпод гоÑĤов +ĠподгоÑĤов к +ع رÙĪ +عرÙĪ Ø¶ +la ÅŁtır +ĠÑģоÑģÑĤав лÑıеÑĤ +ĠпÑĢоиз вод +ĠпÑĢоизвод ÑģÑĤва +ĠоÑģнов е +ĠØ´ ÙħاÙĦ +à¸ģร ี +ĠgörÃ¼ÅŁ me +оÑĩ ек +Ġ×Ĺ×ijר ×Ļ×Ŀ +ÙħØ® اط +Ùħخاط ر +ï¼ Ń +ר פ×IJ +ĠM ẹ +ยà¸Ńม รัà¸ļ +Ġv ết +Ø® ذ +ĠاÙĦت Ø· +ĠاÙĦتط بÙĬÙĤ +à¸Ļ ึà¸ģ +Ġ×Ķ ×Ľ×ł×¡×ª +ĠогÑĢ Ð°Ð½Ð¸ +ĠогÑĢани Ñĩен +ĠÃĩ alÄ±ÅŁ +ĠاÙĦÙħÙĨت دÙī +à¸Īำà¸Ļวà¸Ļ มาà¸ģ +ĠÑĤоÑĢ ÑĢ +ĠÑĤоÑĢÑĢ ÐµÐ½ÑĤ +ĠìĤ´ ìķĦ +à¸ŀลัà¸ĩ à¸ĩาà¸Ļ +à¸Ĭ ัà¸Ļ +ĠÐIJн дÑĢ +Ġréalis é +×ŀש ×IJ +à¹ģ à¸Ĭ +à¹ģà¸Ĭ รà¹Į +Ġб ог +มา à¹ģลà¹īว +ĠاÙĦÙĨ ار +Ġolmad ıģı +×ĵ ×¢×Ķ +ĠÑĥ веÑĢ +ĠÑĥвеÑĢ ÐµÐ½ +ãĤĭ ãĤĤãģ® +Ø£ د +أد ÙĪØ§Øª +Ġ×Ķ×ĸ ×ķ×Ĵ +Ø¥ عÙĦاÙħ +h á»ı +ĠNä he +ĠÑĤ еÑģÑĤ +Ġ×ŀ ×ķ׼ר +Ġë¬¸ìłľ ê°Ģ +ת ×ķצ×IJ×Ķ +m ó +mó vel +ĠاÙĦتج ارة +Ġмног иÑħ +обÑī а +Ġ×¢ סק×Ļ +ĠEdu cação +×§ ש×Ļ×Ŀ +é tabl +établ issement +Ġд еле +иÑĢÑĥ еÑĤÑģÑı +Ø¢ ثار +Ġ×Ķ×ŀ ר׼×ĸ×Ļ +ãĥIJ ãĥ« +ĠвÑģÑĤÑĢ ÐµÑĩ +ãģĴ ãĤĭ +Ġci Äħ +ĠciÄħ gu +ÙĬ ست +à¸łà¸² ว +à¸łà¸²à¸§ ะ +Ø£ Ùħر +Ġо жи +Ġожи да +Ġ á»§y +ãĥŀ ãĥ« +ر اس +оÑĩ ной +ת ×Ĵ×ķ×ij×ķת +تع رÙĬÙģ +ĠÑģо ÑĨиалÑĮно +ãĤĴ éĸĭ +ĠиÑģÑģлед ова +Ġd ú +Ġdú vida +Ġsk ÅĤ +ĠskÅĤ ada +Ġhä ufig +ĠвÑĭб ÑĢ +ĠвÑĭбÑĢ Ð°ÑĤÑĮ +ãģ®ãģ§ãģ¯ãģªãģĦ ãģĭ +ĠÑģ илÑĮно +ÑĤвеÑĢж ден +ר פ +רפ ×ķ×IJ×Ķ +æĢĿ ãģĦãģ¾ãģĻ +ØŃر ص +ש×ķת ×£ +Ùħس جد +à¹Ĥà¸Ĭ วà¹Į +ем ÑģÑı +в ÑĪие +Ġм л +Ġмл н +Ġ׾×Ķ ×ij×Ļ×IJ +ĠÙĬ تعÙĦÙĤ +à¸ķ ูà¹ī +Ġп ÑĢаз +ĠпÑĢаз д +ĠпÑĢазд ник +Ġн ем +Ġнем ного +Ġs Ãłng +تÙĨ سÙĬ +تÙĨسÙĬ ÙĤ +Ġtá» Ŀ +Ġмед и +ãģ« æĪ +ã쫿Π» +à¸Ħว à¹īา +ãģĭ ãģijãĤĭ +×ij׾ ×ķת +ĠÑįк Ñģп +ĠÑįкÑģп еÑĢÑĤ +Ġдев ÑĥÑĪ +ĠдевÑĥÑĪ Ðº +ĠØŃ ص +ÙĨØ´ Ø£ +ãģĮãģĤãĤĭ ãģ®ãģ§ +Ġت راÙħ +ĠتراÙħ ب +أس ÙĪØ§ÙĤ +Ġ׾פ ׳×ķת +Ġا ï»· +ãģ« ãģı +ãģ«ãģı ãģĦ +ĠØ£ عÙĦÙī +Ġ׾×Ķ ×ŀש×Ļ×ļ +rä u +ש×ŀ ×Ļ×Ŀ +åĪĨ ãģij +ãģĻ ãģ§ +ãģĻãģ§ ãģ« +×Ķ׾ ׼×Ķ +×Ĺ׾ ×Ļ×£ +Ġì ±ħ +Ġì±ħ ìŀĦ +à¹Ģà¸Ī ริ +à¹Ģà¸Īริ à¸į +éģĬ ãģ³ +ج سد +สา à¸ĺ +สาà¸ĺ าร +สาà¸ĺาร à¸ĵ +Ġbas ın +ÑĢаР³ +г ад +Ġho ÅŁ +íķ µ +×ij×Ĺ ×Ļר×Ķ +×ŀס ×ļ +Ġìłľ íĴĪ +تÙħ ÙĪÙĬÙĦ +ĠL ưu +ë¡ľ ë¶ĢíĦ° +Ġп об +Ġпоб ед +ÙħÙĨ ذ +常 ãģ« +ÙĤ س +ĠاÙĦÙħ صدر +ĠÙĪØ§ÙĦ است +Ġkh ắp +ĠاÙĦج اÙĨب +Ġng uyá»ĩn +éĸĵ éģķãģĦ +ĠÑģÑĤ ÑĢа +ĠÑģÑĤÑĢа Ñħ +ĠÑģÑĤÑĢаÑħ ов +รี à¸ļ +Ġx ương +Ġì° ¾ +Ġì°¾ ìķĦ +Ġng ại +г ал +à¸ĭ ีà¹Ī +Ġ×ij פ×Ļ×Ļס×ij×ķ×§ +Ц енÑĤÑĢ +Ġaval iação +Ġeconóm ico +×ĸ ף +ĠÐľ ак +Ġinter és +à¸ģล ิà¹Īà¸Ļ +ÑģÑĤÑĮ Ñİ +ĠÄij ương +å¼· ãģı +ĠKh ách +à¹Ģà¸Ļืà¹īà¸Ń หา +ĠYaz ı +è²· ãģ£ãģ¦ +Ðł Ðķ +à¹Ģà¸ŀิà¹Īม à¸Ĥึà¹īà¸Ļ +สม à¸ļู +สมà¸ļู รà¸ĵà¹Į +Ġм иÑĢов +×Ĵ ׳×Ļ×Ŀ +ĠÄij ức +à¸Ń ารà¹Į +ص اص +ãģĬ ãĤĪ +ãģĬãĤĪ ãģ³ +ÃªÌ ī +ĠاÙĦÙħؤ تÙħر +ĠاÙĦÙħر ØŃÙĦØ© +สà¸Ńà¸ļ à¸ĸาม +Ġà¸Īาà¸ģ à¸Ļัà¹īà¸Ļ +Ġت عد +ãģĿãģ® ãģŁãĤģ +Ġkh áng +à¸Ļ ิà¸Ķ +ãĥĬ ãĥ³ +ëĦ¤ ìļĶ +ĠاÙĦ اØŃت +ĠاÙĦاØŃت ÙĦاÙĦ +ìļ ķ +Ġмод ели +ĠпÑĢоÑĨ енÑĤ +à¸ŀวà¸ģ à¹Ģรา +Ġ×Ķצ ×ĵ +Ġ×Ķצ×ĵ ×ĵ×Ļ×Ŀ +ständ e +׳ ×Ĵר +Ġdot yc +Ġdotyc zÄħ +ĠdotyczÄħ ce +ĠÅĽ wiÄĻt +×ŀר ×Ķ +ãģĻãģĶ ãģĦ +ãĥĩãĤ£ ãĥ³ãĤ° +à¸ģาร สรà¹īาà¸ĩ +ë Ĥ¬ +Ġì°¸ ìŬ +Ñģ Ñħ +ÑģÑħ ем +ÙħÙĪ Ø³ +Ġn ấu +Ġ׾×ŀ×¢ ׾×Ķ +à¹Ģà¸Ľ à¹īา +à¹Ģà¸Ľà¹īา หมาย +Ġmù i +ائ ز +íĽ Ī +×Ĺ×ij ×ķר×Ķ +à¸ľà¸¹à¹ī à¹ĥà¸Ĭà¹ī +Ġpa ź +Ġpaź dzi +Ġpaździ ern +Ġpaździern ika +ลà¸ĩ à¹Ħà¸Ľ +ÙĤ اع +Ġch áºŃm +Ġözellik leri +ĠÄIJ o +ĠÄIJo Ãłn +ж ение +Ġh ẳ +Ġhẳ n +ĠaÅŁ k +ï½ į +ãĥij ãĤ¹ +×Ķ×ķר ×IJ×ķת +ĠÅ » +ĠÅ» y +×ŀ×ĸ ׾ +ĠÑĥ кÑĢа +ĠÑĥкÑĢа ин +à¹Ģà¸Ĭ ิ +à¹Ģà¸Ĭิ à¸į +Ðł Ðĺ +ĠzwiÄħz ku +×Ķ×Ĺ׾×ĺ ת +ãĤĵãģ§ãģĻ ãĤĪãģŃ +ãģ¦ ãģĬãĤĬ +лож иÑĤÑĮ +×ŀ ×ķ׳×Ļ×Ŀ +ฮ ิ +ì° ¬ +ĠاÙĦÙħØ´ ترÙĥ +ĠdÃ¼ÅŁ ük +аг енÑĤ +ĠاÙĦØ£ سبÙĪØ¹ +ĠÙĤ رÙĬب +ин д +инд ив +индив ид +индивид Ñĥ +индивидÑĥ алÑĮн +för der +Ġseç en +Ġseçen ek +Ġét ant +ĠлÑİб им +каз ÑĭваеÑĤ +ว ิà¸Ļ +Ġ×Ķ×ij ×IJ×Ļ×Ŀ +Ġд ов +Ġдов олÑĮ +ĠдоволÑĮ но +×¢×ĵ ×Ļ×£ +Ġok re +Ġokre ÅĽ +ĠokreÅĽ lon +Ġت رÙĬد +à¹Ģมืà¹Īà¸Ń วัà¸Ļà¸Ĺีà¹Ī +ãĤĪ ãģĭãģ£ãģŁ +Cum h +Cumh ur +Cumhur ba +Cumhurba ÅŁ +CumhurbaÅŁ kan +CumhurbaÅŁkan ı +Ġn ợ +à¸ľà¸¹à¹ī à¹Ģลà¹Īà¸Ļ +Ġcompl ète +à¹Ģà¸ŀ ศ +د ÙIJ +Ġdü z +Ġdüz ey +ãģ§ãģĤãĤĭ ãģĵãģ¨ +ext érieur +× ³ +Ġinform ação +ãĤ¯ãĥª ãĥĭãĥĥãĤ¯ +ĠPub li +ĠPubli é +ר ×ķ×ĵ +à¸Ħวาม à¸Ľà¸¥à¸Ńà¸Ķà¸łà¸±à¸¢ +ĠØ£ÙĬ ض +ĠØ£ÙĬض Ùĭا +ت سبب +ãģ¤ ãĤĤãĤĬ +из ма +à¸Ĥึà¹īà¸Ļ à¹Ħà¸Ľ +Ùĥ ÙIJ +ÙĦ ÙĪÙħ +Ġש צר +Ġשצר ×Ļ×ļ +ãģ¯ ãĤĤãģ¡ãĤįãĤĵ +Ġк ан +Ġкан ал +ãģ«ãģª ãģ£ãģ¦ãģĦãģ¾ãģĻ +ĠاÙĦØ£ Ùĥثر +ت اØŃ +ÙĨت Ùĩ +ÙĨتÙĩ اء +ا ÙĪÙĬØ© +ĠBug ün +н Ñģкого +à¸Ķ à¹Īวà¸Ļ +é volution +ãģ£ãģ¦ ãģĦãģ¾ãģĹãģŁ +ãĤ ħ +ĠV ương +à¸łà¸²à¸ŀ ย +à¸łà¸²à¸ŀย à¸Ļ +à¸łà¸²à¸ŀยà¸Ļ à¸ķรà¹Į +Ġ×Ķ ×¦×ľ×Ļ×Ĺ +ĠاÙĦإسÙĦاÙħ ÙĬ +ÙĦÙĬ ب +Ġed ição +ÑģÑĤÑĢ ÐµÐ» +Ġkh úc +ÙĨÙħÙĪ Ø° +ÙĨÙħÙĪØ° ج +׾ צ×Ķ +ÑģÑĤав ил +à¸ĸ า +สรà¹īาà¸ĩ à¸Ħวาม +ãģĦ ãģ£ãģ± +ãģĦãģ£ãģ± ãģĦ +ÑģÑĤав лен +ĠاÙĦ ÙĤدس +Ġng ược +ب Ø® +ส หร +สหร ั +สหรั à¸IJ +ĠØ£ غ +Ġأغ سط +Ġأغسط س +ãģĨ ãģ¾ +ãģĨãģ¾ ãģı +ĠêµŃ ìłľ +ØŃض ار +Ġd ừng +æĬ¼ ãģĹ +ت ÙĪØ§ +تÙĪØ§ جد +ש×ŀ ×Ĺ×Ķ +ãģı ãĤĵ +Ġ×ij×¢ צ +Ġ×ijעצ ×Ŀ +×ŀ ׳×Ļ×ķת +×ķ ×Ļ×ĵ +×ķ×Ļ×ĵ ×IJ×ķ +à¸Ĭ ิà¸ĩ +Ġprac ÄĻ +Ġз аÑĤ +ĠзаÑĤ ем +ĠìŀIJ ìľł +Ġì¤ Ģ +Ġì¤Ģ ë¹Ħ +Ġb áºŃ +ĠbáºŃ c +Ġ×Ķ×ŀ צ×ij +ĠÙĤ ÙĬÙħØ© +à¹Ģà¸Ń à¹Ģà¸Ĭ +à¹Ģà¸Ńà¹Ģà¸Ĭ ีย +Ġperch è +ĠاÙĦع سÙĥر +ĠاÙĦعسÙĥر ÙĬØ© +ج ÙĬب +ëŀ µ +Ùħ Ùĩر +ÙħÙĩر جاÙĨ +Ùħ راÙĥ +ÙħراÙĥ ز +Ġод нако +à¸Ķี à¹Ĩ +Ġצ פ×ķ +Ġkullan ılan +Ġк ино +ãĥĨãĤ£ ãĥ³ãĤ° +ĠGi Ỽi +ت ÙĪØ² +تÙĪØ² ÙĬع +ย ิà¸Ļ +ยิà¸Ļ à¸Ķี +Ġc Åĵur +ĠiÅŁ aret +Ġ×ij×¢ ×ĸר +Ġ×ij×¢×ĸר ת +Ġп аÑĨи +ĠпаÑĨи енÑĤ +ãģ¿ãģŁãģĦ ãģ§ãģĻ +в ез +ли на +од е +Ġ×IJ×ķת ף +dıģ ınız +ĠÐIJ в +ĠÐIJв ÑĤоÑĢ +ï¼ ® +ĠC ần +ĠاÙĦا Ø® +ĠاÙĦاخ بار +Ġê±° ìĿĺ +Ġat enção +Ġgeld iÄŁi +ãĤª ãĤ¹ +ãĤªãĤ¹ ãĤ¹ +ãĤªãĤ¹ãĤ¹ ãĥ¡ +ев Ñĭе +кÑĢÑĭ л +à¹Ģà¸Ĭ ียà¸ĩ +à¹Ģà¸Ĭียà¸ĩ à¹ĥหมà¹Ī +Ġmar ço +ĠاÙĦÙħ ادة +Ġг ол +Ġsprzeda ży +Ġíķ´ ê²° +ĠÐķ го +ê¹ Ģ +Ġ׾ק×ij׾ ת +ĠاÙĦÙģ ÙĨاÙĨ +Ġcomunic ación +à¹Ģสà¹īà¸Ļ à¸Ĺาà¸ĩ +íĺ ¹ +à¸Ĭ ำ +à¸Ĭำ ระ +Ġ׼ ×IJ×ŀ +Ġ׼×IJ×ŀ ×ķר +à¸Ĭ à¹Īาà¸ĩ +ز Ùĩر +Ġklient ów +ива ÑİÑĤ +ан г +׳ ×ļ +Ġg á»įn +Ãľ R +ìĺģ ìĥģ +Ġغ زة +ìĿĮ ìĿĦ +Ġbez po +Ġbezpo ÅĽ +ĠbezpoÅĽ redni +ĠاÙĦÙħ ÙĪØ§ +ĠاÙĦÙħÙĪØ§ Ø·ÙĨ +ĠاÙĦÙħÙĪØ§Ø·ÙĨ ÙĬÙĨ +ãĤĮ ãģ¾ãģĻ +ĠмаÑĤ Ñĩ +×IJ ×ķף +Ġر سÙħÙĬ +ĠÑįк он +ĠÑįкон ом +ĠÑįконом иÑĩеÑģк +ãĥľ ãĥ¼ +Ġд иÑĢ +ĠдиÑĢ ÐµÐºÑĤоÑĢ +ĠÑģк оÑĢо +à¸ļ ำ +à¸ļำ ร +à¸ļำร ุà¸ĩ +ĠÑĦ ÑĥÑĤ +ĠÑĦÑĥÑĤ бол +Ġ×IJ ×Ļ׾ +Ġì¤ij êµŃ +ìľ ¤ +eÄŁ e +à¹Ħ à¸ģà¹Ī +tra î +traî n +ĠÑĤ ÑĢÑĥб +à¹Ģà¸ļ ื +à¹Ģà¸ļื à¹īà¸Ńà¸ĩ +à¹ģม à¸Ļ +ĠتØŃ دÙĬØ« +Ġ׼ עת +ØŃ اسب +lı ÄŁa +×§×Ļ ×Ļ×ŀ×Ļ×Ŀ +оÑģÑĤ ÑĮÑİ +à¸Ŀ ั +à¸Ŀั à¹Īà¸ĩ +Ø´ غÙĦ +ìĽ ¹ +Ġкажд ого +Ġbölüm ü +หà¸Ļ ี +Ġistedi ÄŁi +Ġtr ưng +ãĥ Į +ฮ à¸Ń +Ø£ÙĨ Ø´ +Ø£ÙĨØ´ طة +ĠاÙĦÙħ سÙĬ +ĠاÙĦÙħسÙĬ ØŃ +ลัà¸ģษ à¸ĵà¹Į +Ġn á»Ńa +à¸Ĺีà¹Ī à¸ķà¹īà¸Ńà¸ĩà¸ģาร +ÑĪ ÐµÐº +л Ñij +Ġש ×Ļ×Ķ +Ġש×Ļ×Ķ ×Ļ×Ķ +Ġkhu ôn +ĠÑĤÑĢеб ованиÑı +Ġ×ľ×¢ ×ĸ×ķר +ĠاÙĦع Ùħر +ราà¸Ħา à¸ĸูà¸ģ +ÙĩÙı ÙħÙĴ +ü st +üst ü +Ġден ег +Ġn ạ +à¸Ĥà¸Ļ ม +Ġбл аг +Ġблаг од +Ġблагод аÑĢ +ĠблагодаÑĢ Ñı +Ø¥ سÙĦاÙħ +à¸Ļิ ว +çŁ¥ ãĤīãģªãģĦ +Ø« ÙĤØ© +Ġг олоÑģ +×IJ×ķר ×Ĺ +Ġtr ứng +Ġод ном +ĠkoÅĦ cu +Ġ×ķ רק +Wi ÄĻ +WiÄĻ cej +Ġ×IJ ×Ļ׼×ķת +Ġ×IJ×Ļ׼×ķת ×Ļ +Ñģ оÑģ +Ġje żeli +以ä¸ĭ ãģ® +å°ı ãģķ +å°ıãģķ ãģª +олог ии +Ġоб ÑģлÑĥж +ĠобÑģлÑĥж ива +Ùĥت ابة +Ġê´Ģ ìĭ¬ +×¢ ש×Ļר +Ġaras ındaki +ĠÑĢай она +ÙĪØ§ جب +Ġ×ij×Ĺ×Ļ ×Ļ +íķ´ ì£¼ +Ġg óc +ай л +ĠT ình +æļ® ãĤī +æļ®ãĤī ãģĹ +æĻĤ ãģ«ãģ¯ +ĠгоÑĢод е +Ġ׼×IJ ×Ļ׾ +Ġ׼×IJ×Ļ׾ ×ķ +ĠC á»Ļng +ãģ©ãģĨ ãģĹãģ¦ãĤĤ +×Ĺ ×ķ×£ +تØŃ رÙĥ +ĠÑģлов ам +à¸Īะ à¸Ĭà¹Īวย +ĠاÙĦÙħست ÙĤبÙĦ +ÙĤ ض +ÙĤض ÙĬ +×ijס ×ķפ +×ijס×ķפ ×ķ +iÄĻ Äĩ +ĠY ıl +Ø´ ÙĬØ® +à¸Ħุà¸ĵ à¸Īะ +ש×ŀ ×ķת +Ġت عرض +Ġanál ise +ĠÑģоб иÑĢа +à¹Ģà¸ŀ à¸Ĭ +à¹Ģà¸ŀà¸Ĭ ร +Ġв ели +Ġвели к +สั à¹īà¸Ļ +Ġpop ulação +รà¹Īวม à¸ģัà¸Ļ +×Ĺ ×ŀ +×Ĺ×ŀ ×Ļש×Ļ +ס ×Ļס +åĨħ ãģ§ +Ġsob Äħ +ĠY ay +ĠYay ın +ãĥ¡ ãĥĭãĥ¥ãĥ¼ +ĠпÑĢедоÑģÑĤав лÑı +ãģł ã썿ĢĿãģĨ +Ġê³ł ê°Ŀ +Ġод ним +à¹ĥà¸Ļ à¹Ģรืà¹Īà¸Ńà¸ĩ +Ġs á»ķ +ĠÐĹ Ð´ÐµÑģÑĮ +Ġизмен ениÑı +ĠìĿ¼ ìĿĦ +ãģªãģ® ãģł +клад Ñĭва +ÑĢ Ð¼Ð° +Ġ×ķ×ij ׼׾ +تأ ÙħÙĬÙĨ +ĠпÑĢи ÑıÑĤ +ĠпÑĢиÑıÑĤ н +Ùħ Ùħار +ÙħÙħار سة +ãģ¨ãģª ãģ£ãģ¦ +Ġج ÙħÙĬÙĦ +Ġì§ Ī +Ġì§Ī 문 +Ġquest ão +i é +ié ndo +หà¹īà¸Ńà¸ĩ à¸ŀัà¸ģ +ãĥij ãĥ¼ãĥĪ +ÑĤвеÑĢж да +н Ñģкой +з ал +มุ à¹Īà¸ĩ +á» Ĭ +Ġ×Ķ×IJ×Ĺר ×ķ׳×Ķ +ĠTh ư +주 민 +ĠاÙĦع ب +év én +évén ement +ÙĤÙĪ Ø§Ø¹Ø¯ +د Ùı +ĠìķĬ ìĬµëĭĪëĭ¤ +Ġë³´ 기 +Ġyapıl ması +à¹Ģร าà¸ģ +à¹Ģราà¸ģ à¹ĩ +ØŃ ذر +ÙĤ صر +ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĹãģŁ +Ġà¹Ģà¸Ľà¹ĩà¸Ļ à¸ķà¹īà¸Ļ +ãģ¨ ãģ« +ãģ¨ãģ« ãģĭ +ãģ¨ãģ«ãģĭ ãģı +н ÑĨе +зв Ñĥк +ãģĹãĤĪãģĨ ãģ¨ +ĠاÙĦصØŃ ÙĬØ© +Ġש×Ķ ×Ļ×ķ +ĠDi ÄŁer +ÙĤÙĦ ÙĤ +ãĤ¸ãĥ£ ãĥ³ +Ġr á»Ŀi +Ġл еÑĩ +ĠлеÑĩ ениÑı +تب اد +تباد ÙĦ +צ פ×Ķ +à¸Ħวาม à¹Ģหà¹ĩà¸Ļ +ĠØ´ ب +Ġشب ÙĥØ© +ר ×Ļ×§ +Ùħ عد +Ùħعد ات +dıģ ında +Ġ×ijש ׳×Ļ×Ŀ +Ġ×Ķ ×Ļשר×IJ׾ +Ġ×Ķ×Ļשר×IJ׾ ×Ļת +Ġsı nav +׳צ ×Ļ×Ĵ +วัà¸ķ à¸ĸุ +ĠاÙĦبر ÙĦÙħ +ĠاÙĦبرÙĦÙħ اÙĨ +t ivitÃł +ãĤĵãģł ãĤįãģĨ +×§×Ļ ×Ļ×ŀ +ÙĦÙĬ Ùĥ +ĠÄij ò +ĠÄijò i +ĠÐĺн ÑĤеÑĢ +ĠÐĺнÑĤеÑĢ Ð½ÐµÑĤ +ãģ«ãģ¨ãģ£ãģ¦ ãģ¯ +ãģ£ ãģĵ +×§ ×ķס +ست ØŃÙĤ +æķĻ ãģĪãģ¦ +ãĥĢ ãĥ¡ +ĠÙħÙĨ زÙĦ +à¹Ģà¸ĭ à¹ĩà¸Ļ +使 ãģĪãĤĭ +è¦ĭ ç©į +è¦ĭç©į ãĤĤãĤĬ +Ø£ Ùģ +Ø£Ùģ Ùĥار +Ġиг ÑĢов +ĠигÑĢов Ñĭе +Ġm ÄĻż +ĠmÄĻż czy +ĠmÄĻżczy zn +ĠاÙĦØŃ ÙĤÙĬÙĤÙĬ +ع بر +׼×ķ׾ ׳×ķ +íĿ ¥ +×ŀ×IJ ×ķ×Ĺר +خت ص +ãĥŀ ãĥŀ +Ġ×IJ×Ĺ ×ķ×ĸ +í ĮĢ +Ġr á»iji +Ġв ÑĤоÑĢ +ĠвÑĤоÑĢ Ð¾Ð¹ +Ġl ẫn +пÑĢ Ð¾Ð¼ +пÑĢом ÑĭÑĪ +пÑĢомÑĭÑĪ Ð»ÐµÐ½ +пÑĢомÑĭÑĪлен н +ĠоÑĤноÑĪ ÐµÐ½Ð¸Ñı +Ġs ứ +Ġм обилÑĮ +ĠмобилÑĮ н +ĠÑįÑĤ омÑĥ +Ġt ạp +ĠìĤ¬ ê±´ +ĠìķĮ 볤 +Ùĥ Ùı +ÙĥÙı ÙħÙĴ +Ġ×§ ×ķר×Ķ +ĠÑĦ иÑĢ +ĠÑĦиÑĢ Ð¼ +Ġsık ıntı +׳ ׼ +׳׼ ×ķף +ÙĪÙĦÙĪØ¬ ÙĬ +ØŃ اÙĨ +Ġlo ạn +Ġ×IJ׾ ×£ +Ġm ắn +abh äng +abhäng ig +ĠÑĥÑĢов нÑı +Ġ׾×ij×ĵ ×ķ×§ +ÙĬ ÙħÙĨ +lay ın +Ġh ải +Ġзав од +ĠìķĦ 주 +สà¸ĸ า +สà¸ĸา à¸ļัà¸Ļ +Ġgüven lik +à¹Ģà¸Ķ à¹Īà¸Ļ +×ij×ĵ ×§ +Ġë Ī +ĠëĪ Ħ +ĠëĪĦ 구 +éĩįè¦ģ ãģª +รà¸Ńà¸ĩ รัà¸ļ +sch lie +schlie ÃŁen +Ġìĸ ¼ +Ġìĸ¼ ë§Ī +Ġìĸ¼ë§Ī ëĤĺ +ÑĤи ки +íķľëĭ¤ ê³ł +ãģłãģ£ãģŁ ãĤī +Ġ×Ķ ×Ļ×ĺ×ij +ãģªãģijãĤĮãģ° ãģªãĤīãģªãģĦ +â Ì +Ã¢Ì £ +Ġph ạt +ak Ä±ÅŁ +ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĻ +à¹Ģà¸ĭ à¹ĩ +ĠС егоднÑı +Ġinsan ların +Ġdévelop pe +ת פר +תפר ×Ļ×ĺ +اÙĨت شار +ê° ij +Fran çois +Ø£ÙĦ ع +Ø£ÙĦع اب +ãĤĴ è¶ħ +ãĤĴè¶ħ ãģĪ +Ġê°Ļ ìĬµëĭĪëĭ¤ +ãĤ³ ãĥ¬ +ĠмеÑģÑı ÑĨев +íĮ ħ +ĠاÙĦج اÙħعة +ìĿ¸ íĦ° +ìĿ¸íĦ° ëĦ· +×ĵר ×ķש +ĠÙĪØ£ شار +ĠпÑĢав ила +ãģĿãģĵ ãģ« +×Ĺ ×ŀ×ĵ +à¹Ģหà¸ķุ à¸ģารà¸ĵà¹Į +Ġê²½ íĹĺ +ãģ¶ ãĤĬ +׾ ש +׾ש ×ķף +à¹Ģ à¸ĸ +ĠDo ÄŁu +ĠиÑģполÑĮзов ание +Ġçoc uÄŁu +магазин е +ĠÄiji á»ĥn +Ġas lı +Ġaslı nda +Ġdoen ça +Ġس اع +Ġساع ات +ĠиÑģполÑĮзов аниÑı +ר ×ķצ×Ļ×Ŀ +ĠзнаÑĩ иÑĤ +ĠÑĢаР¼ +ĠÑĢам каÑħ +ê±° 리 +Ġп ÑĭÑĤа +ãĥģ ãĥ³ +Ġпо Ñģк +ĠпоÑģк олÑĮ +ĠпоÑģколÑĮ кÑĥ +Ø¥ بر +إبر اÙĩ +إبراÙĩ ÙĬÙħ +ĠÑĤÑĢ ÐµÑħ +ĠGen ç +س ÙĪÙģ +Ġve ÃŃculo +ĠNg ân +ĠоÑĩеÑĢ ÐµÐ´ÑĮ +à¸Ħร ึà¹Īà¸ĩ +×IJ ×ij×Ļ +à¸ķ à¹īม +ãĤĴè¡Į ãģĦ +ĠاÙĦساب ÙĤØ© +на ÑĨи +наÑĨи она +наÑĨиона лÑĮн +Ġgest ión +ت ÙĤد +ĠاÙĦبÙĬ اÙĨ +ĠاÙĦبÙĬاÙĨ ات +ĠاÙĦ اÙĨتخاب +ĠاÙĦاÙĨتخاب ات +à¹Ģà¸Ĭ à¹Īา +×ĵ ×IJ×Ĵ +Ġ׾×Ĵ ×ŀר×Ļ +Ġت ØŃتاج +Ġth ôn +à¸ķ à¹īà¸Ńà¸Ļ +à¸ķà¹īà¸Ńà¸Ļ รัà¸ļ +女 ãģ® +女ãģ® åŃIJ +Ġth ợ +Ø· ØŃÙĨ +ารà¹Į à¸Ķ +ת ×ŀ×Ļ×ĵ +ĠÑģам Ñĭм +Ġìĭľ íĸī +Ø¥ صد +إصد ار +ĠNgh á»ĩ +ìķ ķ +س ئ +سئ ÙĦ +à¸Ń าร +à¸Ńาร ม +à¸Ńารม à¸ĵà¹Į +à¹ģ ฮ +׳×ĺ ׾ +Ġì¢ĭ ìķĦ +×ķ׾ ׾ +Ġ×ij ×Ľ×ª×ij +ãĤ« ãĥ© +צע ×Ļר×Ļ×Ŀ +تعب ÙĬر +Ġ×ŀ קר×Ķ +ĠÑĦак ÑĤоÑĢ +Ġت ÙħاÙħ +ĠتÙħاÙħ ا +ëį ķ +Ġv ưá»Ŀ +Ġvưá»Ŀ n +Ġd Ä±ÅŁÄ± +ãģĦ ãģ¡ +Ġ׾ק ׳×ķת +ĠاÙĦع ÙĦاÙĤات +п Ñĥб +пÑĥб ли +Ø¥ ÙĬÙħ +Ø¥ÙĬÙħ اÙĨ +à¸Ńำ à¸Ļา +à¸Ńำà¸Ļา à¸Ī +åIJ« ãģ¾ãĤĮ +ãĤĭ ãģŁãĤģãģ« +ס ×Ĵ +ס×Ĵ ׳×ķף +تØŃ دÙĬ +Ġaup rès +ĠاÙĦج Ùĩا +ĠاÙĦجÙĩا ز +Ġ×ŀ ת×Ĺת +ен нÑĥÑİ +Ġз им +à¸ģา à¹ģà¸Ł +Ġ×ijת ×ķר +Ġngh è +Ġnghè o +ĠÐĽ Ñİ +ĠÐĽÑİ Ð± +תק צ×Ļ×ij +×ŀ×¢ ש×Ķ +ĠاÙĦبÙĬ ت +צ ×Ļפ +ĠобÑıз ан +ĠM á»Ĺi +ĠТ ÑĥÑĢ +ĠÙĪØ¨ اÙĦت +ĠÙĪØ¨Ø§ÙĦت اÙĦÙĬ +Ġdéc ision +Ġب د +Ġبد أت +Ġc ục +Ġb ask +Ġbask ı +Ġhat ırl +Ġhatırl a +å°ı ãģķãģĦ +Ġgerçek ten +à¸ľ ัà¸ģ +åı¯èĥ½ ãģª +×ŀ×IJ ס +Ġcr ÃŃtica +ĠìĿĺ ìĽIJ +عÙĤ ÙĪØ¯ +×ĺ ׼׳ +×ĺ׼׳ ×ķ׾×ķ×Ĵ×Ļ×Ķ +è¨Ģ ãģĪãģ° +ĠÙĤ ÙĨا +ĠÙĤÙĨا Ø© +ĠìĿ´ê²ĥ ìĿĢ +ت صر +à¸Ł ัà¸Ļ +ĠÑĢе ÑĨеп +ĠÑĢеÑĨеп ÑĤ +ĠبÙĨ Ù쨳 +ÑĢо ÑĪ +ĠмаÑĢ ÑĤа +Ġson ras +Ġsonras ı +×ķ×ij ש +ãĥª ãĤ¹ãĤ¯ +ĠFranç ais +á» ļ +ê° Ķ +Ġ×Ķ×ijר ×Ļת +פ ×Ļצ +פ×Ļצ ×ķ×Ļ +ĠÙĦÙħا ذا +ĠÐļи ев +ĠÑģ мÑĭÑģл +ê¸Ī ìľµ +ãĤ·ãĥ£ ãĥ« +ãĥ© ãĤ¤ãĥĪ +ìĽ ĥ +×ŀ ×Ĺר +ãĨ į +Ġkullan ım +Ġ×IJצ׾ ׳×ķ +Ġt Ãłn +ãĥı ãĥ¼ +ãģ¨ ãģ¨ãĤĤ +ãģ¨ãģ¨ãĤĤ ãģ« +ÑĢ ÐµÐ³ +ÑĢег и +ÑĢеги он +ãģªãģı ãģªãĤĭ +Ġch ảy +Ġج ÙĩØ© +ÅĦsk iej +à¸Ńี à¹Ģม +à¸Ńีà¹Ģม ล +ãģį ãģ£ãģ¨ +ĠìĺĪ ìĤ° +Ġkit abı +Ġedu cação +Ġbul uÅŁ +олог иÑı +Ġкон кÑĢ +ĠконкÑĢ ÐµÑĤ +×Ĵ ×Ļר +ĠпÑĢед лаг +ĠпÑĢедлаг аеÑĤ +ĠY ên +Ġíķľ ë²Ī +Ġ×ŀ ר׼×ĸ×Ļ +à¹Ģà¸Ľà¸´à¸Ķ à¹Ģà¸ľà¸¢ +ÑĤвеÑĢ Ð´ +ĠH á»ĩ +ĠÐĵ ÑĢ +à¸Ŀ à¹īา +×Ķ ×©×§ +×Ķשק ×¢×Ķ +Ġна Ñĥк +ìłIJ ìĿĦ +Ġн елÑĮ +ĠнелÑĮ з +ĠнелÑĮз Ñı +г ин +ĠB öl +ĠBöl ge +Ġв ла +Ġвла ÑģÑĤи +à¹Ģà¸Ļ à¹ĩ +à¹Ģà¸Ļà¹ĩ à¸ķ +ê³ ¨ +Ġö ld +Ġöld ür +׼׳ ×¢ +ĠاÙĦÙĩ ÙĬئة +ت ارÙĬØ® +ĠÐij ÑĢ +ĠÑģ мож +ĠÑģмож еÑĤе +ĠL úc +à¹Ħà¸Ľ à¸ĸึà¸ĩ +ĠBakan ı +Ġerklä rt +ĠÐIJ на +Ġsc ène +åķı ãģĦ +åķıãģĦ åIJĪãĤıãģĽ +ÙħÙĩ ÙĨد +ÙħÙĩÙĨد س +Ġн азвание +ив аниÑı +ãĤĴ å¤īãģĪ +ä»ĺãģį åIJĪ +ãĥij ãĤ½ +ãĥijãĤ½ ãĤ³ãĥ³ +æĺİ ãĤī +æĺİãĤī ãģĭ +à¹Ģà¸Ńà¸ģ สาร +à¹Ģà¸ģิà¸Ļ à¹Ħà¸Ľ +л еп +ãģĹãģŁ ãĤĤãģ® +ĠC âm +ĠCâm ara +×§×ķ׾ ׳×ķ×¢ +Ġ×ij×Ĵ ×Ļף +Ġoc zy +Ġoczy wiÅĽcie +att ivitÃł +ãĥĵ ãĥ¥ãĥ¼ +Ġeduc ación +İ YE +ê¹Į ìļĶ +ãĤ¨ ãĥªãĤ¢ +н еÑģÑĤи +Ġm óg +Ġmóg ÅĤ +Ġ×§×ĺ ׳×Ļ×Ŀ +ĠPr ä +Ġ×ľ×¢ ×ij×ķר +بÙĨ Ùī +з ол +зол оÑĤ +Ġwn ÄĻtr +ĠwnÄĻtr z +Ġconstr ução +รัà¸ļ รà¸Ńà¸ĩ +س جÙĨ +Ġ×§ ×ķ׳ +ס ×Ļפ×ķר +ĠÙħ دÙī +رض Ùī +п лав +ï¼ ¥ +Ġil a +Ġila ç +ãĤĭ ãģ¹ãģį +ĠÙħ ÙĪÙĤÙģ +à¸ģร ุ +à¸ģรุ à¸ĵา +chodzÄħ c +ĠÑĤÑĭ Ñģ +Ðķ вÑĢо +ĠÙĬ ØŃدث +ãĥ¡ ãĤ¤ãĥ³ +ĠاÙĦص ØŃÙĬ +ĠÐĶ Ð°Ð½ +دع اء +ãĤ´ ãĥ¼ãĥ« +ש ×ł×ª×Ļ +×©×ł×ª×Ļ ×Ļ×Ŀ +à¸Ķà¹īวย à¸ģัà¸Ļ +Ġol acaģı +Ġ×ij ×ŀ×Ĺ×Ļר +×Ķ ×§ +×Ķ×§ ×ŀת +ãĥ¢ ãĥİ +ĠçalÄ±ÅŁ tı +Ġjó venes +ãģĦãģı ãĤī +ĠÙħ عدÙĦ +ĠC Å©ng +ĠSeg ún +Ġdönem de +Ġ׾ ×Ļ×ĵ×Ļ +ãģį ãģ¡ +ãģįãģ¡ ãĤĵ +ãģįãģ¡ãĤĵ ãģ¨ +Ù쨱 ÙĨس +Ù쨱ÙĨس ا +åIJij ãģį +Ġcamp aña +ĠÑģам оÑģÑĤоÑı +ĠÑģамоÑģÑĤоÑı ÑĤелÑĮно +á» Ģ +ÙĤ ÙĪØ§ +س ÙĦاØŃ +à¸ģระ à¹ģ +à¸ģระà¹ģ ส +ĠполÑĮз Ñĥ +n qu +nqu ête +รà¹Īวม à¸ģัà¸ļ +ëĬIJ ëĥIJ +à¸Ĺีม à¸Ĭาà¸ķิ +Ġyıll ık +ìĬ ¬ +ĠØ£ صØŃاب +ill é +Ġdó la +Ġdóla res +Ġк ож +Ġкож и +ล à¹īà¸Ń +à¹Ģรีย à¸ļร +à¹Ģรียà¸ļร à¹īà¸Ńย +à¹Ģà¸ŀ ิ +à¹Ģà¸ŀิ à¹Īà¸ĩ +ÑĢиÑĤоÑĢ Ð¸ +Ġí ijľ +Ġíijľ íĺĦ +ĠпеÑĢ ÐµÐ² +ĠпеÑĢев од +פ×Ĵ ×Ļ×¢×Ķ +ĠdeÄŁerlendir me +Ùģ Ø§Ø¦ +ĠвÑĭ год +ınız ı +×ķ׼ ×Ļ×Ĺ +ĠдоÑģÑĤ иг +Ġng Ãłn +æĢĿ ãģ£ãģŁ +ĠÐķ ÑģÑĤÑĮ +ĠاÙĦر غÙħ +ĠzwiÄħz ane +رب Ø· +à¸Ļ ึà¸ĩ +Ġ׾×Ĺ ×ķ×§ +Ġszczeg óln +Ġszczególn ie +Ġبا ستخداÙħ +ĠfÃŃs ico +×¢ ס +עס ×ķ×§ +سÙĦ ÙĪÙĥ +Ġا ØŃد +Ñĩ ÑijÑĤ +×ĸ׼ ×Ķ +Ġl á»ĩnh +ĠÙĪ ØŃت +ĠÙĪØŃØª Ùī +à¸Ħวาม สามารà¸ĸ +à¸Ńยูà¹Ī à¹ģลà¹īว +à¸ģาร à¹Ģà¸Ķิà¸Ļà¸Ĺาà¸ĩ +تخ ذ +צ×Ļ ×ķ×ĵ +ĠاÙĦØ£ س +ĠاÙĦأس ÙĩÙħ +Ġt á»ĩ +ãģ£ãģ¦ ãģĦãģ¦ +สร ุ +สรุ à¸Ľ +Ġком ÑĦ +ĠкомÑĦ оÑĢÑĤ +ìĺ¤ ëĬĶ +ĠÑĢаз в +ĠÑĢазв ива +л анд +h änge +ĠبÙĨ سبة +à¹Ģà¸Ĥ ียว +עצ ×Ŀ +Ġ׾ ×ľ×Ľ×ª +Ñģо ÑĨиалÑĮн +Ġëĭ¤ìĿĮ ê³¼ +Ġרש ×ķ×ŀ +×ŀר ×Ĺ×ij +س ÙĤØ· +Ġalan ı +ĠÄij á»ĩ +é£Łãģ¹ ãĤĭ +à¸Ķ ึà¸ĩ +Ġgegen über +ĠبÙĩ ذÙĩ +à¸ĸืà¸Ń à¹Ģà¸Ľà¹ĩà¸Ļ +ëķ ħ +à¸Ħà¸Ļ à¹Ħà¸Ĺย +ãĤ¢ ãĤ¦ +ãĤ¢ãĤ¦ ãĥĪ +ศ ัà¸ģ +ศัà¸ģ à¸Ķิ +ศัà¸ģà¸Ķิ à¹Į +ÙĤÙĪ Ø§ÙĨ +ÙĤÙĪØ§ÙĨ ÙĬÙĨ +Ġhá»Ļ p +ãģªãģıãģª ãģ£ãģ¦ +Ġ×IJ ×ŀ׳ +Ġ×IJ×ŀ׳ ×Ŀ +à¹Ģà¸ķ ืà¸Ńà¸Ļ +ĠзавиÑģ им +ĠзавиÑģим оÑģÑĤи +ת ×Ļ×IJ +ת×Ļ×IJ ×ķר +å§ĭãĤģ ãģŁ +Ġng á»į +Ġngá»į t +íĴ į +ê³¼ ìŀ¥ +Ġb ại +ãģ§ãģį ãģ¦ +Ġcomeç ar +à¸Ľà¸£ าà¸ģ +à¸Ľà¸£à¸²à¸ģ à¸ı +Ġгод Ñĭ +м еÑģ +ĠاÙĦÙħست ÙĪÙī +ĠÑģам Ñĭе +л леÑĢ +ãģ£ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĻ +ãģ¨ãģ® ãģĵãģ¨ +bi ó +à¸ģล à¹Īà¸Ńà¸ĩ +ĠاÙĦز ÙĪØ¬ +ãģ«è¡Į ãģ£ãģŁ +à¸Ħà¹Ī à¸Ńà¸Ļ +à¸Ħà¹Īà¸Ńà¸Ļ à¸Ĥà¹īาà¸ĩ +ĠbaÄŁ l +ĠbaÄŁl ant +ĠbaÄŁlant ı +確 ãģĭ +確ãģĭ ãģ« +ãĥľ ãĥ¼ãĥ« +çµĤ ãĤıãĤĬ +ש ×ŀר +à¸Ĺีà¹Ī สามารà¸ĸ +ÙĦ زÙħ +д аеÑĤÑģÑı +รัà¸ļ à¸Ľà¸£à¸° +รัà¸ļà¸Ľà¸£à¸° à¸Ĺาà¸Ļ +å¤ī ãĤıãĤĬ +ï¼ ¢ +ĠìĺĪìĪĺ ëĭĺ +ãĤĪãģĨ ãģ¨ +มัà¸ģ à¸Īะ +ĠH ương +ÙĨ Ù쨰 +×ŀ×ĵ ×ĵ +ĠìĿ¸ ìłķ +Ñħод иÑĤÑĮ +ĠзавиÑģ иÑĤ +×ķ×ĵ ×Ļ×¢ +ãģĵãģ¨ãģĮ ãģĤãĤĬãģ¾ãģĻ +ع راÙĤ +سط ØŃ +à¸ģำ à¹Ħร +ëĵ¤ ëıĦ +×Ļצ ×Ļר×Ķ +ãģĨ ãģĵãģ¨ +ÙĦا ØŃÙĤ +ãģĦ ãĤĮãģ° +ĠиÑģполÑĮз ÑĥÑİÑĤ +ĠB ợi +Ġשק׾ ×Ļ×Ŀ +ÑĨи кл +ÐIJ Ðŀ +Ġ×ijש ׳×Ķ +ÙĨØ´ Ø· +Ġש ×Ļ׳×ķ×Ļ +Ġש×Ļ׳×ķ×Ļ ×Ļ×Ŀ +Ġpobl ación +ĠH ưng +ระ ว +ระว ัà¸ĩ +رÙĬاض Ø© +ر صد +تÙĤ ÙĦÙĬ +تÙĤÙĦÙĬ د +Ġülk em +Ġülkem iz +à¸Ĭ ะ +ãĤ¯ãĥª ãĥ¼ãĥł +èģŀ ãģĦãģŁ +Ġwa ż +Ġważ ne +ê±° ëĵł +ê±°ëĵł ìļĶ +×ŀ×IJ ×ij×§ +×Ĺ×ĵ ש×ķת +ĠW roc +ĠWroc ÅĤaw +ĠKü ltür +s ist +sist ência +×¢×ĸר ×Ķ +Ġg ương +รà¹īาà¸Ļ à¸Ħà¹īา +ĠÙĪØ£ ÙĪØ¶ØŃ +ánd ose +ãĤ· ãĥ¼ãĥ³ +×IJ׳ ר×Ĵ +×IJ׳ר×Ĵ ×Ļ×Ķ +ãģªãģĦ ãģ§ãģĻ +Ġkh á»§ng +Ġ문 ìĦľ +Ġ×ij ×ĵ×ijר +×ĵ ×Ļ×ķ +×ĵ×Ļ×ķ ×ķ×Ĺ +Ġré gl +ÙħÙĪ Ø§Ø¯ +об оÑĢ +обоÑĢ Ð¾ÑĤ +Ġ×Ķ ×ij׾ +Ġ×Ķ×ij׾ ×ķ×Ĵ +ØŃ اÙħ +ĠاÙĦع اص +ĠاÙĦعاص ÙħØ© +пеÑĢ Ð°ÑĤоÑĢ +ت Ø®ÙĦ +تخÙĦ ص +ãģŁãģł ãģĹ +ت سÙħ +à¹Ĥรà¸ĩ à¸ŀ +à¹Ĥรà¸ĩà¸ŀ ยา +à¹Ĥรà¸ĩà¸ŀยา à¸ļาล +ĠY ük +ĠYük sek +Ġש ׳×Ļת +Ġש׳×Ļת ף +liÄŁ e +Ġפ ת +Ġפת ×ķ×Ĺ +Ġbe ÄŁ +ĠbeÄŁ en +Ġ×ŀ ×ķר +Ġ×ŀ×ķר ׼×ij +Ġرس اÙĦØ© +íĨµ ìĭł +Ġaval ia +Ġavalia ções +Ġman h +Ġmanh ã +Ġìķ ŀ +Ġìķŀ ìľ¼ë¡ľ +ÙĤ تر +ÙĤتر ØŃ +à¹Ģà¸ģ ืà¸Ń +à¹Ģà¸ģืà¸Ń à¸ļ +Ġpropos é +Ø£ Ùħا +Ø£Ùħا ÙĥÙĨ +ĠÐŀ Ðŀ +ĠÐŀÐŀ Ðŀ +ÙħÙĤ ار +ÙħÙĤار ÙĨØ© +ëĦ IJ +ãģĦãģŁãģł ãģı +ÙĤ ÙĬÙĦ +Ġна ÑĪиÑħ +ãĤ« ãĥĥãĥĹ +×Ĺ׾ ת +Ġëĭ¤ ë§Į +à¸Ĺัà¹Īว à¹Ĥลà¸ģ +ãĥį ãĤ¿ +ØŃس اس +ãģ«ãģª ãĤĮ +ج ائ +جائ زة +é change +é conom +économ ie +Т Ðĺ +סת ׼׾ +à¸Ĺัà¹īà¸ĩ สà¸Ńà¸ĩ +ĠاÙĦØ® اÙħ +ĠاÙĦخاÙħ س +×§ ×ĺ×¢ +au waż +à¸ľà¸¹à¹ī à¸Ĭาย +à¹ģà¸Ľà¸¥ à¸ģ +åIJĮæĻĤ ãģ« +зн аниÑı +ãģĦãģŁãģł ãģįãģ¾ãģĹãģŁ +Ġ×ŀ×ij ׾×Ļ +à¸Ĥà¸Ń à¹ĥหà¹ī +ĠاÙĦت ربÙĬØ© +Ġdécou vert +Ġżyc iu +apr ès +Ġy ab +Ġyab anc +Ġyabanc ı +ĠbaÅŁ layan +ìĹĪ ëįĺ +Ġhes abı +Ġë§Į ìķ½ +ë§ Īëĭ¤ +ĠTh ánh +ãĥ´ ãĤ¡ +à¸Ľà¸£à¸±à¸ļ à¸Ľà¸£ +à¸Ľà¸£à¸±à¸ļà¸Ľà¸£ ุà¸ĩ +ĠM ặc +à¹Ģหà¸ķุ à¸ľà¸¥ +ĠÐij ез +Ġcapac itÃł +ÅĤe ÅĽ +ĠпÑĢе им +ĠпÑĢеим ÑĥÑīеÑģÑĤв +ĠÅļ wiÄĻt +Ġpubli é +×ŀ×¢ צ×ij +Ùħشار Ùĥات +à¸łà¸² ษ +à¸łà¸²à¸© ี +Ġdeux ième +ĠÙħØŃ اÙ쨏 +ĠÙħØŃاÙ쨏 Ø© +ĠSch ön +ï½ ¤ +Ġ×Ķ ×ij×¢ +Ġ×Ķ×ij×¢ ×Ļ×Ķ +ĠÙĪØ§ÙĦ ÙĦÙĩ +è¨Ģ ãģ£ãģŁ +à¸ķ à¹īาà¸Ļ +วร รà¸ĵ +à¸Ĺิ ศ +ĠbaÅŁ ına +Ġmog ÄĻ +ש ×Ļפ×ķר +ĠÙĪ Ø¹Ø¯ +ĠÙĪØ¹Ø¯ Ùħ +Ġhistó rico +Ġk ısı +ĠìĿ´ ê²Į +ĠPol ÃŃtica +ĠÑģиÑĤÑĥ аÑĨии +ĠkoÅĦ ca +×ij×ĵ ×Ļ×§×Ķ +ĠاÙĦسÙĬ ارات +ãģªãĤī ãģ° +ãĤµ ãĥ© +ãĤĭãģĵãģ¨ãģĮãģ§ãģį ãĤĭ +Ġdecis ão +×ķ ×ķ×ĵ +lä ss +läss ig +Ġ׾ ×Ļשר×IJ׾ +ĠÙĬ أتÙĬ +ר ×ķ×ĸ +ö ÄŁ +Ã¶ÄŁ ret +Ã¶ÄŁret im +Ġд ек +Ġдек аб +Ġдекаб ÑĢÑı +Ġש ×Ĺ×ķר +ãģ¦ãģıãĤĮ ãģŁ +عب ارة +Ġélect rique +ĠاÙĦتÙĨ ÙħÙĬØ© +جر Ùī +ĠìĪĺ íĸī +à¸Ĺ ู +ĠÑĢе алÑĮно +Ñģп оÑģоб +à¸Ħล à¹īาย +Ġس عÙĪØ¯ +ön ü +ĠÙģ ÙħÙĨ +تÙĥ ÙĪ +تÙĥÙĪ ÙĬÙĨ +ĠкаÑĩ еÑģÑĤво +ĠконÑĤ ак +ĠконÑĤак ÑĤ +Ġsöz leÅŁme +à¸Ń à¹īาà¸ĩ +Ġت ÙĪÙģ +ĠتÙĪÙģ ÙĬر +×Ķ×ĸ ×ĵ +×Ķ×ĸ×ĵ ×ŀ׳×ķת +ĠØ·ÙĪÙĬÙĦ Ø© +Ġtér mino +Ġ×IJ ×Ļפ×Ķ +ãĥĵ ãĥ« +ส à¹Ĥม +สà¹Ĥม สร +ĠاÙĦ اث +ĠاÙĦاث ÙĨÙĬÙĨ +ев иÑĩ +Ġopin ión +à¸Ľ วà¸Ķ +åı¤ ãģĦ +ร à¹Īา +ĠB iaÅĤ +ĠÑģÑĤ ал +ĠÑģÑĤал о +ó logo +ĠìķĦ ëĭĪëĭ¤ +Ġ×IJ ×Ļת +Ġ×IJ×Ļת ×ķ +à¹Ģหà¹ĩà¸Ļ วà¹Īา +à¸ļ ารà¹Į +çĦ ¼ +çĦ¼ ãģį +ĠìĿ´ìļ© ìŀIJ +ĠнекоÑĤоÑĢ Ñĭе +ks z +ksz taÅĤ +ksztaÅĤ c +ãĤŃãĥ£ ãĥĥãĤ· +ãĤŃãĥ£ãĥĥãĤ· ãĥ³ãĤ° +Ġro ÅĽ +ĠroÅĽ lin +ÑĢаж а +×ij׳×Ļ ×Ļ×Ķ +à¸Ľà¸£ สิ +à¸Ľà¸£à¸ªà¸´ à¸ķ +Ġgörd ü +×ŀ׳×Ķ ×Ļ×Ĵ +å¤īãĤı ãģ£ãģ¦ +Ġ×IJ ×Ķ +Ġ×IJ×Ķ ×ijת×Ļ +à¹Ģร à¹Īà¸ĩ +Ġön ünde +Ġê·¸ ëĥ¥ +пол иÑĤ +полиÑĤ иÑĩеÑģк +ãĥ¡ ãĥĩãĤ£ +ãĥ¡ãĥĩãĤ£ ãĤ¢ +ĠDet ay +ĠDetay lı +ĠاÙĦصÙģ ØŃØ© +à¸ģาร à¹Ģà¸ĩิà¸Ļ +Ġìµľ ê·¼ +׼ ש׾ +ï¼ © +вÑĪ ÐµÐ³Ð¾ +íķĺ ìĭ¤ +ĠÐŃ ÑĤ +ĠÐŃÑĤ оÑĤ +ส ื +สื à¸ļ +Ġng ừng +ĠдокÑĥменÑĤ ов +дав аÑĤÑĮ +ĠاÙĦشخص ÙĬØ© +Ġצ ×¢×Ļר +در Ùĥ +س ØŃب +à¹Ħมà¹Ī à¸Ħà¹Īà¸Ńย +Ġ×Ķ×ŀ×§ ×ķ×ŀ×Ļ +สัà¹Īà¸ĩ à¸ĭืà¹īà¸Ń +Ġê·¸ê²ĥ ìĿĦ +ãģĤãĤĭ ãģĦ +ãģĤãĤĭãģĦ ãģ¯ +×IJ×ķ×ĺ ×ķ×ij +×IJ×ķ×ĺ×ķ×ij ×ķס +к ÑĨион +ĠÐľ ожно +ãģı ãģł +ãģıãģł ãģķ +ĠинÑĦоÑĢм аÑĨиÑı +ï» Ł +Ġìŀij ìĹħ +Ġ×Ļ ×ķסף +Ø¥ دارة +ĠاÙĦØŃ اج +×ł×¡ ×Ļ×¢×Ķ +из аÑĨиÑı +×IJ׾ ×ij +×IJ׾×ij ×ķ×Ŀ +п ед +Ġ×§×ĺ ׳×Ķ +ĠÙĨÙ쨳 Ùĩا +ĠMinist ério +Ġп ен +Ġпен Ñģи +ãĥIJ ãĥ©ãĥ³ãĤ¹ +Ġ×Ķת ×ķר×Ķ +Ġt ạm +ĠìĹŃ ìĭľ +ï½ ¡ +Ġth á»± +Ġ ısı +ì» ¨ +ãģĹãģ£ãģĭãĤĬ ãģ¨ +Ġx ưa +Ġc ặp +×Ĺ ×Ļ×ij×ķר +วัà¸Ĵà¸Ļ à¸ĺรรม +st är +stär ke +ĠÑģам Ñĭй +p isa +pisa Äĩ +ĠoluÅŁ an +ĠاÙĦØ¥ ÙħاÙħ +ĠcÄĥ ng +Ġgü nl +Ġgünl ük +Ġ׳ש ×IJר +Ġkhi á»ĥn +ç¶ļ ãģijãĤĭ +stit ución +Ġcapac ité +Ġj aki +Ġjaki ÅĽ +вÑĪ Ð¸Ñģ +вÑĪиÑģ ÑĮ +פע×ķ׾ ×ķת +ĠØŃ ÙĬات +ĠØŃÙĬات Ùĩ +Ġник огда +ÐĽ Ь +Ġ×Ķ×¢ ×ķ×ij +Ġ×Ķ×¢×ķ×ij ×ĵ×Ķ +Ġch Ãło +หลาย à¹Ĩ +ĠÑı н +ĠÑıн ваÑĢ +ĠÑıнваÑĢ Ñı +à¸Īำà¹Ģà¸Ľà¹ĩà¸Ļ à¸ķà¹īà¸Ńà¸ĩ +Ġhö her +ãģķãĤĮãģ¦ ãģĦãģŁ +สà¸ĩ สั +สà¸ĩสั ย +ĠاÙĦ اس +ĠاÙĦاس ÙĦاÙħ +ĠاÙĦØ´ Ùħس +สà¸ĸาà¸Ļ ี +ãĤ¯ãĥ© ãĤ¹ +à¸ŀร ร +à¸ŀรร à¸Ħ +p õ +põ e +Ġpor ém +à¸Ľà¸£à¸° สà¸ĩ +à¸Ľà¸£à¸°à¸ªà¸ĩ à¸Ħà¹Į +powied zie +powiedzie Äĩ +Ġмог Ñĥ +Ġж ел +Ġжел ез +ĠاÙĦØ« ÙĤ +ĠاÙĦØ«ÙĤ اÙģÙĬ +ĠпÑĢав ило +Ġgdy ż +פש ×ķ×ĺ +ÑĢабоÑĤ ка +ĠÙĥ رة +Ø´ دد +Ùħار Ùĥ +Ùħ ÙĥØ© +Ġпод пиÑģ +×ĺ×ķ ×ķ×Ĺ +ĠÅĽ c +ĠÅĽc ian +Ġر جاÙĦ +Ġ×ª×ľ ×ķ×Ļ +и ÑĪ +иÑĪ ÑĮ +Ġmé dec +Ġmédec in +ëįĶ ëĿ¼ëıĦ +ĠÑĤеб Ñı +Ġ׾×Ķ ×ķס×Ļ×£ +ãģĬ 話 +Ġà¹ģà¸ķà¹Ī à¸ģà¹ĩ +د اÙģ +داÙģ Ø¹ +ĠC ùng +ãĥ»ãĥ» ãĥ»ãĥ» +ê¶ ģ +Ġdeber ÃŃa +หà¸Ļà¹Īวย à¸ĩาà¸Ļ +Ġva ÌĢ +Ġעצ ×ŀ +Ġעצ×ŀ ×Ŀ +à¹Ģà¸Ĭืà¹Īà¸Ń วà¹Īา +שק ×¢ +Ġ×Ķ ×Ľ×ķ׾ +Ġ×Ķ׼×ķ׾ ׾ +ни бÑĥд +нибÑĥд ÑĮ +ĠëĦĪ íĿ¬ +Ġоб ÑĢаÑī +ĠобÑĢаÑī а +Ġ×¢×ij×ķ×ĵ ת +ĠاÙĦÙħÙĨت خب +ıy ord +ıyord u +ÙĪ Ø° +×Ĺש ×Ļ×ij×ķת +Ġ×Ķ×¢ ×Ļ×§ +Ġ×Ķ×¢×Ļ×§ ר×Ļ +ì¢ Į +ยุ à¹Ĥร +ยุà¹Ĥร à¸Ľ +Ġа пÑĢ +ĠапÑĢ ÐµÐ»Ñı +sz ed +szed ÅĤ +д он +à¹Ģà¸ķิ à¸ļ +à¹Ģà¸ķิà¸ļ à¹Ĥà¸ķ +кол о +Ġkażde j +å¸ ° +帰 ãĤĬ +Ġмил ли +Ġмилли он +ç¾İåij³ ãģĹãģĦ +ت ÙĤار +تÙĤار ÙĬر +ĠìĿ´ 루 +ĠìĿ´ë£¨ ìĸ´ +Ġsprzeda ż +×Ķ ×ķצ×IJ×ķת +ãĤ¢ãĤ¯ ãĤ» +ãĤ¢ãĤ¯ãĤ» ãĤ¹ +ר ×ķ×¥ +ĠгоÑģÑĥдаÑĢÑģÑĤв енн +Ø£ ØŃÙĥ +Ø£ØŃÙĥ اÙħ +ĠoluÅŁ u +ĠA ç +ĠAç ık +ãĤ¸ ãĥ¼ +ç´ł æĻ´ +ç´łæĻ´ ãĤīãģĹãģĦ +Ġ×ijש×ij ×ķ×¢ +ب ذ +بذ ÙĦ +สา à¹Ģหà¸ķุ +Ġpoz osta +Ġpozosta ÅĤ +ØŃر Ùħ +Ġimport ância +leÅŁtir me +Ġд ÑĢев +Ġmó vil +ĠA ynı +Ġна лог +Ġналог ов +Ġ×Ĺ ×Ļפ×Ķ +ĠÑĦоÑĢм Ñĥ +à¸Ĺà¸Ķ สà¸Ńà¸ļ +ĠksiÄħż ki +Ġma ÅĤe +Ùħس Ø£ÙĦ +ÙħسأÙĦ Ø© +ï¼¾ ï¼¾ +ç ãeste +év iter +Ġкон ÑģÑĤÑĢÑĥк +ĠконÑģÑĤÑĢÑĥк ÑĨи +ï¾ ŀ +Ġת×ķ׼ ׳ +ãĤ¹ãĥĪ ãĥ¬ãĤ¹ +ĠاÙĦاÙĤتصاد ÙĬ +×ŀ×ĵ ×Ļ +Ġw ÅĤad +ĠwÅĤad z +Ø® ÙĪÙģ +ĠмаÑĤеÑĢиал ов +ãģ¨ãģ£ãģ¦ ãĤĤ +Ġznaj du +Ġznajdu jÄħ +Ùģ Ø¦Ø© +ãģ©ãģ® ãĤĪãģĨãģª +æĬij ãģĪ +׳ ×Ĺ׾ +Ġdü ny +Ġdüny an +Ġdünyan ın +гÑĢ Ð°Ð½Ð¸ +гÑĢани Ñĩ +Ġ×Ķש׾ ×Ļש×Ļ +Ġ×Ķ×IJ ש +åıĬ ãģ³ +ìĭŃ ìĭľ +ìĭŃìĭľ ìĺ¤ +Ġдол л +Ġдолл аÑĢ +Ġпов ÑĤоÑĢ +Ġ×Ĺ ×Ļ׳×Ŀ +ת פת×Ĺ +Ñĥв ели +Ñĥвели Ñĩен +ãĤ« ãĥª +raw id +rawid ÅĤow +×ķ ×ķ׾ +ãĥŁ ãĥ¥ +ì½ ĺ +ĠBy ÅĤ +Ðľ ÐIJ +ع ÙIJ +ĠÑģовеÑĢ ÑĪ +ĠÑģовеÑĢÑĪ ÐµÐ½Ð½Ð¾ +Ġм ой +Ġ×ķ׾×IJ ×Ĺר +æħ £ +æħ£ ãĤĮ +ØŃ اÙ쨏 +Ġ무 ë£Į +à¸Ħà¸ĵะ à¸ģรรม +à¸Ħà¸ĵะà¸ģรรม à¸ģาร +Ġìĸ´ ëĶĶ +Ġdif eren +Ġdiferen ça +ĠاÙĦØ£ ساس +ĠاÙĦأساس ÙĬØ© +Ġ׾×IJ×Ĺר ×ķ׳×Ķ +ê· ł +Ġ×Ķש׳×Ļ ×Ļ×Ķ +ìľĦìĽIJ ìŀ¥ +ลุ à¸ģ +ç iler +Ġ×Ķ×IJ ׾×ķ +èģŀ ãģı +Ġ×ķ×IJ פ×Ļ׾×ķ +ĠÑĢе ализ +ĠÑĢеализ аÑĨи +ระยะ à¹Ģวลา +Ġجدا Ùĭ +تب اع +Ġveh ÃŃculo +Ġдол г +à¸Ľà¸£à¸´ มาà¸ĵ +ì¦ IJ +Ġ׾ ×ŀ×§×ķ×Ŀ +ĠìĤ¬ ì§Ħ +à¸Ĭ à¹īา +Ġ×ŀ×¢ ×ķ׾×Ķ +Ġgö rm +Ġgörm ek +ĠÙĪÙĩ ذÙĩ +пеÑĢ Ð² +пеÑĢв ÑĭÑħ +ê·¸ ëŀĺ +ĠاÙĦبر ÙĬØ· +ĠاÙĦبرÙĬØ· اÙĨÙĬ +ĠиÑİ Ð½Ñı +ĠÐĵ оÑĢ +Ġ׾ ש׾×Ŀ +ÐIJ ÐĿ +Ġназ наÑĩен +о оÑĢ +ооÑĢ Ñĥж +Ġöz elli +Ġözelli ÄŁi +Ġни же +ç¶ļ ãģijãģ¦ +Ġа ÑĢенд +Ġkat ılı +Ġkatılı m +ĠØ¥ Ø·ÙĦاÙĤ +ĠÙĪØ¥ ذا +Ġок ÑĤÑı +ĠокÑĤÑı бÑĢÑı +à¹Ĥà¸ķ ๠+à¹Ĥà¸ķ๠Ĭ +à¹Ĥà¸ķà¹Ĭ ะ +Ġolduk ları +Ùħ ÙĪÙĤع +ëĤ © +ã썿ĢĿ ãģ£ãģ¦ãģĦãĤĭ +Ġש ×Ļ׼×ķ׾ +วา à¸Ķ +س ÙĬÙĦ +à¸Ĥ วั +à¸Ĥวั à¸į +تØŃ ÙĥÙħ +ì ĤŃ +Ġconna ît +׳ פת×Ĺ +Ġch ặ +Ġchặ n +ĠÙħ ØŃÙħ +ĠÙħØŃÙħ ÙĪØ¯ +ãģ ´ +ĠпÑĢодÑĥк ÑĨии +зд ÑĢав +ãģĶ è¦ +ãģĶè¦ § +×IJ×ij ×IJ +Ġvé ritable +ĠØ· ÙģÙĦ +ãĥĪãĥ© ãĥĸãĥ« +ê³ ¡ +Ġת ×ŀ×ķ׳×Ķ +Ġki ên +ĠÙĤ ادر +Ø¥ÙĤ ÙĦÙĬÙħ +ĠпÑĢед пÑĢи +ĠпÑĢедпÑĢи ÑıÑĤиÑı +Ġb Äĥng +Ġay ında +Ġg ấp +еÑħ ал +Ġgi Ãłnh +Ġд ав +Ġдав но +ìĺĢ ëĭ¤ +à¸Ļัà¸ģ à¹Ģà¸ķ +à¸Ļัà¸ģà¹Ģà¸ķ ะ +Ùħست شار +ست راتÙĬج +ستراتÙĬج ÙĬ +رÙħ ز +Ġt Ä©nh +ë¡ Ń +ĠÑĩ еÑĤ +ĠÑĩеÑĤ Ñĭ +ĠÑĩеÑĤÑĭ ÑĢе +ĠEnt ão +Ġص غ +Ġصغ ÙĬرة +×ij×Ļ×ĺ ×ķ׾ +خط ÙĪØ· +ĠÑĢазвиÑĤ ие +Ġamacı yla +à¸Ĺี วี +Ġо ÑģÑĤ +ĠоÑģÑĤ алÑĮн +ש×ķ׾׊ף +Ġ׼ ׳×Ļס +Ġ׼׳×Ļס ×Ķ +Ġd áºŃy +ĠyaÅŁ ayan +Ġ×ŀ×Ķ ×ķ×ķ×Ķ +ĠÑĥ Ñģи +ĠÑĥÑģи ли +×ŀ פ×Ļ +ĠпÑĢовед ениÑı +Ġر ب +Ġرب Ùħا +ĠاÙĦØ£ ÙĪØ³Ø· +Ġìľł ì§Ģ +Ġprac ownik +Ġpracownik ów +×ŀס ×ķרת +ÙĤار ب +à¸Ħวาม รูà¹īสึà¸ģ +à¹ģหล ะ +ĠاÙĦÙĨ ÙĤد +Ġ×IJ׾ פ×Ļ +Ùħس ئ +Ùħسئ ÙĪÙĦ +ев ÑĭÑħ +клÑİÑĩ ениÑı +×ij ×Ļ׳ +×ij×Ļ׳ ×Ļ×Ķ×Ŀ +ש ×ķ×IJ×Ķ +ĠÅŁ ark +ĠÅŁark ı +Ġsü rec +Ġsürec in +à¹Ģà¸Ħร à¸Ķ +à¹Ģà¸Ħรà¸Ķ ิà¸ķ +ãĥIJ ãĥ¬ +ĠØ´ Ø£ÙĨ +à¹Ģà¸Ńา à¹Ħวà¹ī +niÄĻ cie +רצ ×Ĺ +ĠaÅŁ ama +׳ פ×Ĵ×¢ +Ġth á»Ŀ +Ġkhu ẩn +diÄŁ inde +ÑıÑī иÑħ +ãĥĺ ãĥ« +Ġüber h +Ġüberh aupt +ĠÑĤÑĢеб ова +ĠdÅĤ ugi +×ĺ ×Ļף +à¸Ĥà¸Ļาà¸Ķ à¹ĥหà¸įà¹Ī +ĠاÙĦØ£ Ùĩ +ĠاÙĦØ£Ùĩ ÙĦÙĬ +ĠMü d +ĠMüd ürü +Ġ×Ļ×Ķ ×ķ×ĵ×Ķ +Ñĭв аеÑĤÑģÑı +س اط +×Ķת ׳×Ķ×Ĵ +×Ķ×ª×ł×Ķ×Ĵ ×ķת +à¸ģาร à¸ľà¸¥à¸´à¸ķ +íĴ Ģ +สà¸ĸาà¸Ļ à¸ģารà¸ĵà¹Į +Ġо ÑĦ +ĠоÑĦ иÑģ +ĠÙĦ عبة +Ġstron ÄĻ +Ġר×IJ ×ķ×Ļ +×Ĺ ×ij׾ +ĠÑĢÑĭ н +ĠÑĢÑĭн ке +Ġ׾×ŀ×¢ ף +اس ÙĦ +ห ัà¸Ļ +Ġ×IJ ×Ĺ×Ļ +ĠпÑĢод ол +ê°Ģ ìŀħ +Ġ×ijר ×Ĺ +Ġ×ijר×Ĺ ×ij×Ļ +дж еÑĢ +Ġ׾ ×Ĺ׾ +Ġ׾×Ĺ׾ ×ķ×ĺ +Ġ׾×Ĺ׾×ķ×ĺ ×Ļף +ศาส à¸Ļา +ãĤ¢ãĤ¤ ãĥĨ +ãĤ¢ãĤ¤ãĥĨ ãĥł +Ġפר ×ķפ +جز اء +ล à¸Ńย +Ġc iaÅĤa +Ġgi ết +ĠзнаÑĩ иÑĤелÑĮно +Ġolmad ıģ +Ġolmadıģ ını +н д +нд екÑģ +تأ Ùĥد +Ġìĸ ¸ +Ġìĸ¸ ìłľ +ay dın +ãĥī ãĥ¬ãĤ¹ +Ġs ắt +Ġíĺ¸ íħĶ +Ġë¶ ģ +Ġë¶ģ íķľ +ãĥij ãĤ¤ +Ġ×ŀש×Ĺ×§ ×Ļ +à¸Ħà¸Ļ à¸Ńืà¹Īà¸Ļ +Ġиз гоÑĤов +ĠизгоÑĤов лен +à¹Ģà¸ģีย ร +à¹Ģà¸ģียร à¸ķิ +תק שר +ĠÑĢаÑģ ÑĩеÑĤ +ส à¹Ģà¸ķ +Ġl änger +ĠiÅŁ let +ĠiÅŁlet me +Ġع ÙĦÙĬÙĨ +ĠعÙĦÙĬÙĨ ا +é lection +ĠاÙĦغ ربÙĬØ© +íĭ Ģ +ãĤĤãĤī ãģĪ +Ġкни ги +Ø£ سÙħ +أسÙħ اء +Ġth á»ı +Ġthá»ı a +หà¸Ļ ู +Ġ×ł×¢ ש×Ķ +à¸łà¸²à¸¢ à¹ĥà¸ķà¹ī +à¸ŀื à¸Ĭ +رÙĬ Ø· +Ùģ ÙĪØ¶ +ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸ ãģĦãģ¾ãģĹãģŁ +ש ×ĵ×Ķ +Ġng á»±c +ĠÑģеÑĢ ÑĮ +ĠÑģеÑĢÑĮ езн +T ôi +Ġfiyat ları +ĠвÑģ Ñİ +ĠC ódigo +Ġ×Ķש ×IJ +Ġ×Ķש×IJ ׾×Ķ +ĠP ública +Ø¥ Ø® +إخ ÙĪØ§ÙĨ +ĠзаÑıв ил +ãĥ¦ ãĥ¼ +ר×IJ ×Ļת +vol ución +Ġsz ko +Ġszko ÅĤy +جرÙĬ دة +Ġpens é +ìī ¬ +ĠBüyük ÅŁehir +ĠØ£Ùħ رÙĬ +ĠØ£ÙħرÙĬ ÙĥÙĬ +à¸Ļัà¸ģ ศึà¸ģษา +Ġtod av +Ġtodav ÃŃa +ĠС ан +ĠСан кÑĤ +íķĺ ìŀIJ +ØŃÙĪ Ø§ÙĦ +׼ ×ķשר +à¹Ģลย à¸Ħรัà¸ļ +Ġal gu +Ġalgu ém +Ùģ Ø² +Ġçek il +Ġ×ĵ ר׼×Ļ×Ŀ +ãĥIJ ãĥ© +à¸ģà¹ĩ สามารà¸ĸ +สà¹Īวà¸Ļ ลà¸Ķ +íı ° +ĠP úb +ĠPúb lico +à¹ģà¸Ļว à¸Ĺาà¸ĩ +×IJת ×Ĵר +Ø´ اش +شاش Ø© +ci ÅĽni +ĠÃľ rün +ÙĦÙĪ ØŃ +ĠاÙĦ بÙĨ +ĠاÙĦبÙĨ Ùĥ +ì¡° ì¹ĺ +Ġorganiz ación +ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸ ãģĦãģ¾ãģĻ +s ätze +ĠÑģем ей +ÙĤ صد +ÑģÑĤв еннÑĭе +Ġpréc éd +Ġprécéd ent +à¸ģรุà¸ĩà¹Ģà¸Ĺà¸ŀ ฯ +ãģ¨è¨Ģ ãģĦ +×ij׳×Ļ ×Ļף +ĠØŃ ÙĪ +ĠØŃÙĪ Ø§ÙĦÙĬ +סק ס +ĠsaÄŁlam ak +Ġ׾ צ×Ļ×Ļף +×§×ĵ ש +Ġ×Ķ×ŀ ×¢×¨×Ľ×ª +Ġ׾×Ķ ×¢×ij×Ļר +Ġg ünd +Ġgünd em +ĠнаÑĪ ÐµÐ³Ð¾ +à¹ĥà¸Ļ à¸ŀืà¹īà¸Ļà¸Ĺีà¹Ī +à¹Ģà¸Ħร ืà¸Ń +à¹Ģà¸Ħรืà¸Ń à¸Ĥ +à¹Ģà¸Ħรืà¸Ńà¸Ĥ à¹Īาย +ظ اÙĩرة +ÙħÙĨ ظÙħ +ÙħÙĨظÙħ ات +Ùħت از +追 ãģĦ +dı kt +dıkt an +ĠëįĶ ìļ± +ĠÐĿ апÑĢимеÑĢ +tw ór +×ŀ×ķ×¢ צ×Ķ +Ùĥ ÙĪÙĥ +Ð © +×ŀ×ĺ פ׾ +ó lica +訪 ãĤĮ +ĠëĮĢ ë¶Ģ +ĠëĮĢë¶Ģ ë¶Ħ +ãĤ¯ãĥª ãĥĥãĤ¯ +ãĤĴ éģ¸ +ãĤĴéģ¸ ãģ¶ +Ġpow sta +Ġpowsta ÅĤ +Ġraz ón +×ij ×ķ×Ĺר +ĠÑģообÑī ил +Ġ×§ ×ij×ķ×¢ +r êt +à¸Ķี à¸Ĥึà¹īà¸Ļ +×ŀס ×¢×ĵ +×ŀסע×ĵ ×ķת +ĠÃĸ sterreich +Ġ׳ ×Ĺש×ij +Ùħباد رة +ì´ ī +×Ĵ ׳×ĺ×Ļ +ä¿¡ ãģĺ +du ÄŁ +duÄŁ unu +Ġph ú +ĠاÙĦØ£ Ø®ÙĬر +Ġت عتبر +landır ıl +ãģ¨ãģ¯ ãģĦ +ãģ¨ãģ¯ãģĦ ãģĪ +ĠاÙĦ Ø·ÙĦ +ĠاÙĦØ·ÙĦ اب +ĠN º +éģ¿ ãģij +اÙĦ Ùħع +اÙĦÙħع رÙĪÙģ +ส à¸łà¸² +éĽ¢ ãĤĮ +ĠпомоÑī ÑĮ +Ġзна еÑĤ +ãĥĹãĥ¬ ãĤ¼ +ãĥĹãĥ¬ãĤ¼ ãĥ³ãĥĪ +Ġsup érieur +Ġש׾ ×Ļש×Ļ +ĠاÙĦÙĨ ÙĪØ¹ +ãĤĵãģ§ãģĻ ãģŃ +à¸Ńà¸ļ รม +Ġgi á»įng +Ġwzgl ÄĻd +ĠاÙĦÙģ ÙĤر +è rent +Ġ×ŀ×IJ ×Ĺ +Ġ×ŀ×IJ×Ĺ ×ķר×Ļ +×Ĵ ×Ĵ +×Ļ ×Ļ×ij +ÙħÙĦ اب +ÙħÙĦاب س +Ġhük ü +Ġhükü met +Ġ×ŀ×Ĵ ×Ļ×ij +ĠÐŀ Ñĩ +ĠÐŀÑĩ енÑĮ +æĹ© ãģĦ +Ġconstr ucción +Ġth ượng +ï¼ ĭ +Ġcor ação +à¹Ģหล à¹ĩà¸ģ +ĠBaÅŁ b +ĠBaÅŁb akan +éĢ£ ãĤĮ +ãģĻãĤĭ ãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ +ĠÙĤ اÙħت +Ġا Ùĥثر +ÙģØ§Ø¹ ÙĦ +ĠÑĦ оÑĢ +ĠÑĦоÑĢ Ñĥм +غ ذÙĬ +ĠiÅŁ le +ĠiÅŁle ml +ĠiÅŁleml eri +ĠìĤ¬ëŀĮ ìĿĢ +Ġìŀij ìĦ± +Ġë§Ī 볨 +Ùħ جÙĦس +หม ู +д в +дв иг +двиг а +à¹Ģสีย à¸Ĭีวิà¸ķ +×Ķת פת×Ĺ +×Ķתפת×Ĺ ×ķת +ĠмеÑĤ ÑĢо +ĠÑģ енÑĤ +ĠÑģенÑĤ Ñı +ĠÑģенÑĤÑı бÑĢÑı +ê³ § +Ġ׾ פע +Ġ×ľ×¤×¢ ×ŀ×Ļ×Ŀ +à¹Ģà¸ļ ีย +詳 ãģĹãģı +çķ° ãģªãĤĭ +Ġİl çe +ĠAt at +ĠAtat ür +ĠAtatür k +รุ à¹Īà¸ĩ +Ġkald ı +Ġ주 ìŀ¥ +Ġprés ence +Ġн аб +Ġнаб лÑİ +ĠнаблÑİ Ð´Ð° +ĠÑģам ого +×Ĵ ×ķש +×ŀ×ĺ ×ķפ +×ŀ×ĺ×ķפ ׾ +ĠвÑĭб иÑĢа +ĠìŀIJ 리 +åĪĨ ãģĭãĤīãģªãģĦ +Ġз Ñĥб +Ġש׼ ×ijר +Ġد ائ +Ġدائ Ùħا +ĠпаÑĢ ÑĤи +ï¼ ² +ĠاÙĬ ضا +ĠÑħ оз +ĠÑħоз Ñı +ĠÑħозÑı й +ĠÑħозÑıй ÑģÑĤв +ĠاÙĦØ£ ج +ĠاÙĦأج ÙĨب +ĠاÙĦأجÙĨب ÙĬØ© +ĠÐĹ Ð½Ð° +ĠAp ós +ĠÑį неÑĢ +ĠÑįнеÑĢ Ð³Ð¸ +Ġy ans +Ġyans ı +ĠJust i +ĠJusti ça +Ġpré vu +ม วล +ìŀ¥ ëĭĺ +à¸ģระ à¸ļ +à¸ģระà¸ļ วà¸Ļ +à¸ģระà¸ļวà¸Ļ à¸ģาร +×ŀ ×ŀ +×ŀ×ŀ ×ķצע +Ġh ẹ +Ġhẹ n +зд ание +Ġak ÅŁ +ĠakÅŁ am +×ĺ ×ķפ +Ġgere kt +Ġgerekt i +Ġgerekti ÄŁini +Ġnar z +Ġnarz ÄĻdzi +é po +épo que +ĠTh ần +Ġwys oko +Ġwysoko ÅĽci +à¸ľà¸¹à¹ī à¸Ľ +à¸ľà¸¹à¹īà¸Ľ à¹Īวย +ĠÙĬ بدÙĪ +ÑĤелÑĮ ного +Ġвз глÑıд +Ġjed nÄħ +ĠìĿĺ 견 +Ġ à¸Ĥà¸ĵะà¸Ĺีà¹Ī +פ ×Ļ×ĵ +ìĥģ ëĭ´ +Ġm ỡ +×Ķ ×ŀ׾ +×Ķ×ŀ׾ צ×ķת +ĠÑģоÑģÑĤ о +ĠÑģоÑģÑĤо иÑĤ +Ġав и +Ġави а +ĠL änder +تص ÙĪÙĬر +×ŀ×ĵ ×Ļ×Ķ +ìłĪ ì°¨ +ãģ¨ ãĤĬ +ãģ¨ãĤĬ ãģĤ +ãģ¨ãĤĬãģĤ ãģĪ +ãģ¨ãĤĬãģĤãģĪ ãģļ +ĠÑĢ Ñıд +ĠÑĢÑıд ом +ĠNh ất +ĠاÙĦÙĥ اÙħÙĦ +×Ĺ׾ ׾ +ĠGi ấy +צ ×ĺר +צ×ĺר ×£ +Ġ׾×ij ×ĺ׾ +Ġим еÑĤÑĮ +ס×ŀ ×ķ×ļ +Ġparticip ação +íķľëĭ¤ ë©´ +ÙħÙĨت دÙĬ +ÙħÙĨتدÙĬ ات +ĠeÄŁ len +g änge +رب ØŃ +ãĤ® ãĥ£ +ĠاÙĦر ÙĤÙħ +à¸ĭ à¹īำ +ĠH óa +×ŀר ×Ĺ×§ +ØŃÙħ اÙħ +بÙĪ Ùĥ +ĠArt ÃŃculo +ãĥĦ ãĤ¢ãĥ¼ +×Ķפ ׼×Ķ +×Ĺ׾ ×ķף +ĠпеÑĢе Ñħод +len miÅŁ +زر اعة +Ġseñ or +ãģ£ãģ¦ ãģįãģ¦ +Ø¥ Ø´ +إش ارة +Ġpod ÃŃa +ĠÃľ lke +н ÑģкаÑı +Ġadapt é +Ġdüzen len +Ġdüzenlen en +ĠÑģÑĤ ала +ĠÙĬ ØŃتاج +Ġn ier +Ġnier uch +Ġnieruch omo +Ġnieruchomo ÅĽci +ãģĵãģ¨ãģĮ ãģĤãĤĭ +ยà¸Ńà¸Ķ à¹Ģยีà¹Īยม +ĠÙħ ج +ĠÙħج اÙĨÙĬ +Ġз аб +Ġзаб ол +Ġзабол ев +Ġзаболев аниÑı +ĠÅĽ ro +ĠÅĽro dk +ĠÅĽrodk ów +Ġ×Ķ ×ľ×IJ×ķ×ŀ×Ļ +Ġdok ÅĤad +ĠdokÅĤad nie +ãģŁãģı ãģªãģĦ +ãģ¯ãģļ ãģ§ãģĻ +ã썿ĢĿ ãģ£ãģ¦ãģĦãģŁ +é cran +ìĹħ ì²´ +trzym aÅĤ +ÑģÑĤв еннÑĭй +ĠNot ÃŃc +ĠNotÃŃc ias +Ùħ رÙĬ +ÙħرÙĬ ض +æ°Ĺ è» +æ°Ĺè» ½ +æ°Ĺ軽 ãģ« +ëĵ £ +Ġ×ĵ ×ķ×IJר +Ġ׾ ×ŀ׳ +Ġ׾×ŀ׳ ×ķ×¢ +ĠçalÄ±ÅŁ ıyor +ĠÅŁ idd +ĠÅŁidd et +ĠM ặt +Ġate ÅŁ +ĠполÑĥÑĩ ениÑı +à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩ มืà¸Ń +Ġgrö ÃŁer +د ائ +دائ رة +Ġbul un +Ġbulun maktadır +à¹Ģห ร +à¹Ģหร ีย +à¹Ģหรีย à¸į +à¸Ļัà¸ģ à¸Ĺà¹Īà¸Ńà¸ĩà¹Ģà¸Ĺีà¹Īยว +Ġalan ında +ĠÑĥ зна +Ġл еÑĩение +売 ãĤĮ +Ġçev ir +Ġdeste ÄŁi +ĠheiÃŁ t +âĸ ² +ØŃ Ø· +à¸Ħำ à¸ķà¸Ńà¸ļ +ãĤªãĥ³ ãĥ©ãĤ¤ãĥ³ +Ġ×ij×Ĺ×Ļ ×Ļ×Ŀ +ãĥ¦ ãĥĭ +Ġdüzenle me +Ġmodal itÃł +سر Ø· +سرط اÙĨ +×ŀ׼ ×ķף +ĠданнÑĭ й +تر ت +ترت ÙĬب +à¸ļาà¸ĩ à¸Ħà¸Ļ +ĠÄIJ á»ĭnh +ม ูล +มูล à¸Ħà¹Īา +ÙĨ ÙĤص +à¸ģาร รัà¸ģษา +ĠÑĦ он +ĠÑĦон д +ãĤĪãģĨ ãģ«ãģªãģ£ãģŁ +Ùħع اÙĦ +ÙħعاÙĦ جة +ĠOs man +ĠOsman lı +иÑĩеÑģк ом +à¸Ńยาà¸ģ à¸Īะ +ãģķãģ¾ ãģĸ +ãģķãģ¾ãģĸ ãģ¾ +ãģķãģ¾ãģĸãģ¾ ãģª +Ġת ×ķ׼׾ +×¢ צ×ij +ĠاÙĦع سÙĥ +ĠاÙĦعسÙĥ رÙĬ +Ġvé hic +Ġvéhic ule +Ġ×Ļצ ×Ĺ×§ +ĠاÙĦÙĪ ØŃ +ĠاÙĦÙĪØŃ ÙĬد +ĠاÙĦع دÙĪ +ĠQu ản +Ġê³µ ëıĻ +بد ÙĦ +ĠÄij ảng +Ġm á»ĩnh +Ġnie zb +Ġniezb ÄĻ +ĠniezbÄĻ dn +Ġyayın lan +обÑī и +Ġgö tür +צ פ +צפ ×ķ×Ļ +ĠÙĦÙĬ بÙĬ +ĠÙĦÙĬبÙĬ ا +ØŃ ÙĪØ§ +Ġд об +Ġдоб ÑĢо +иÑĢÑĥ ем +ĠاÙĦØŃÙĥÙĪÙħ ÙĬØ© +m Ã¤ÃŁig +Ġed ición +влек аÑĤелÑĮ +влекаÑĤелÑĮ н +Ġת ש׾×ķ×Ŀ +Ġ×Ķש ×ķ׳×Ļ×Ŀ +มิ à¸ĸุ +มิà¸ĸุ à¸Ļ +มิà¸ĸุà¸Ļ ายà¸Ļ +é£Łãģ¹ ãģ¦ +ĠìĪĺ ì§ij +ס ×ij×Ļ +ĠиÑİ Ð»Ñı +Ġà¹Ħà¸Ķà¹ī à¹ģà¸ģà¹Ī +׾×Ĺ ×Ŀ +tr ä +trä gt +ãģĿãĤĤ ãģĿãĤĤ +ÐĿ Ðķ +Ġв нÑĥÑĤ +ĠвнÑĥÑĤ ÑĢи +ãģ¨ ä¸Ģç·Ĵãģ« +ãĤ« ãĥķãĤ§ +Ġ×ij×Ĺ ×ĵר +×Ĺ ×ŀש +ãĤ¨ ãĥį +ãĤ¨ãĥį ãĥ« +ãĤ¨ãĥįãĥ« ãĤ® +ãĤ¨ãĥįãĥ«ãĤ® ãĥ¼ +à¸Ĥà¸Ńà¸ĩ à¸ķัวà¹Ģà¸Ńà¸ĩ +بÙĤ اء +פס ×Ļ׼ +פס×Ļ׼ ×ķ׾×ķ×Ĵ +ãĥ¡ ãĥĥ +ãĥ¡ãĥĥ ãĤ» +ãĥ¡ãĥĥãĤ» ãĥ¼ãĤ¸ +ÙĦ ÙĤب +A Äŀ +שק ×Ļ×¢ +ÙĤ ساÙħ +×ĵ×ķ×Ĵ ×ŀ×Ķ +æ·± ãģĦ +íĸĪ ëĬĶëį° +ĠrozwiÄħz anie +à¸Ļัà¹Īà¸Ļ à¹Ģà¸Ńà¸ĩ +×Ļצ ×ij +Ġtr ông +à¹ĥà¸Ĭà¹ī à¸ļริà¸ģาร +ĠاÙĦÙħÙĪ Ø³Ùħ +ĠдеÑĤ и +ãģĹãģĭ ãģªãģĦ +ס ×Ļף +Ġréfé rence +à¹ģห à¹īà¸ĩ +ãĤĤãĤī ãģ£ãģŁ +Ġ׾ ר׼ +Ġ׾ר׼ ×ķש +شع ÙĪØ± +ĠÐij ог +Ġlaz ım +Ġ×Ļש ׳×Ŀ +Ġп аÑĢÑĤ +ĠпаÑĢÑĤ неÑĢ +ĠÑĥ ника +ĠÑĥника лÑĮн +Ġmaté riel +×ŀר ×§ +Ġph ưá»Ŀng +Ġз ай +Ġзай м +Ùģ ÙĤد +Univers itÃł +×¢ ר׼×Ļ×Ŀ +Ġba ño +Ġн оÑı +ĠноÑı бÑĢÑı +à¸Ľ à¹īาย +Ġt ats +Ġtats äch +Ġtatsäch lich +ĠÑĤÑĢ ÐµÑĤÑĮ +Ñį м +ãĥĻ ãĥ¼ãĤ¹ +Ġnh á»±a +ìĬ¤ íģ¬ +ĠعبداÙĦ ÙĦÙĩ +Ġת ×ķר×Ķ +أش ÙĬ +أشÙĬ اء +ĠÙĦÙĦ غا +ĠÙĦÙĦغا ÙĬØ© +Ùħ ÙĪØ§ÙĤ +ÙħÙĪØ§ÙĤ Ùģ +ĠgÅĤówn a +Ġart Ä±ÅŁ +Ġ×ŀ×§ ×ķ×ŀ×Ļ +ãĤ¯ãĥ© ãĥĸ +Ġس ÙĪÙī +ĠìŬ ìĦ± +اس ر +اسر ائÙĬÙĦ +Ġ׳ ×Ľ×ª×ij +ย à¹īà¸Ńà¸Ļ +Ġdeber á +Ġph ẫu +ÑİÑī ем +ĠÙĦدÙĬ ÙĨا +×ŀ×ĺ ×Ķ +Ġ׳ ×ķ׾×ĵ +ĠвÑģÑĤÑĢ ÐµÑĩа +ãĤīãĤĮ ãģ¦ãģĦãģ¾ãģĻ +ĠcaÅĤ ej +ย ึ +ยึ à¸Ķ +поÑĤ ен +поÑĤен ÑĨи +Ġл иÑĤ +ĠлиÑĤ еÑĢ +ĠлиÑĤеÑĢ Ð°ÑĤÑĥÑĢ +Ġкажд ом +ĠíĮ IJ +ĠíĮIJ ëĭ¨ +à¸Ī ู +Ġpres ença +ãģªãĤĵ ãģ§ +Ùħ ÙĬاÙĩ +ин ÑĦоÑĢм +инÑĦоÑĢм аÑĨион +инÑĦоÑĢмаÑĨион н +ĠìŀIJ ìŰ +ר׼ ש +Ġöd ül +ç¶ļ ãģı +Ġп Ñģ +ĠпÑģ иÑħ +ĠпÑģиÑħ олог +ت ذÙĥر +Ġìŀħ ìŀ¥ +ล à¸Ķà¹Į +ìĦł ê±° +ãģ£ãģ¦ ãģĬãĤĬãģ¾ãģĻ +Ġ×Ļ ×¢ +Ġ×Ļ×¢ ×§×ij +ĠاÙĦØ· عاÙħ +ãĥĨ ãĤ¹ãĥĪ +ĠTu ấn +Ġparticip ación +×ŀ×ķ×ŀ ×Ĺ×Ķ +×Ĵר ס×Ķ +ĠاÙĦتÙĨ ÙģÙĬ +ĠاÙĦتÙĨÙģÙĬ ذÙĬ +ĠбезопаÑģ н +ge f +gef ähr +Ø´ ÙĪØ± +Ġmy ÅĽli +ÙĪØ§ Ø´ÙĨ +ÙĪØ§Ø´ÙĨ Ø·ÙĨ +׳×ķס ×¢ +Ùĥ Ùĩ +ÙĥÙĩ رب +ÙĥÙĩرب اء +Ġmus iaÅĤ +ìĭ ¸ +ãĥĸãĥ© ãĥĥãĤ¯ +Ġcré é +ÙĨÙĩ ار +owo ÅĽÄĩ +ÙħØŃا ÙĥÙħ +ĠwÅĤa ÅĽ +ĠwÅĤaÅĽ c +ĠwÅĤaÅĽc iciel +ĠÙĬ ؤ +ĠÙĬؤ دÙĬ +×ŀ×¢ ×ķ׳ +×IJ ×ij׾ +خط Ø£ +ĠÑħ олод +×ĸ ×ķ׾ +ãģĵãĤĮ ãĤī +ãģĵãĤĮãĤī ãģ® +Ġbás ica +ฤ à¸Ķ +ฤà¸Ķ ูà¸ģ +ฤà¸Ķูà¸ģ า +ฤà¸Ķูà¸ģา ล +èIJ½ãģ¡ çĿĢ +ãģªãģĦ ãģĵãģ¨ +ص ÙĪÙħ +ÙĨج ØŃ +׳ק ×ķ×ĵ +׳ק×ķ×ĵ ת +кл аÑģÑģ +íķĺìĭľ ëĬĶ +ëĦ ĺ +Ġש×IJ ×Ļ׳×ķ +ĠС ейÑĩаÑģ +may acaģı +Ġyap ılır +Ġcategor ÃŃa +عب اد +ĠТ еп +ĠТеп еÑĢÑĮ +×Ķ×Ļס×ĺ ×ķר×Ļ +h ế +ãĤ³ ãĥ¼ãĥī +Ġcabe ça +ج Ùħا +جÙħا Ùĩ +جÙħاÙĩ ÙĬر +ä½İ ãģĦ +ĠÑĤоваÑĢ Ð¾Ð² +à¸Ĭาว à¸ļà¹īาà¸Ļ +ĠÑģÑĤан ов +ĠÑģÑĤанов иÑĤÑģÑı +ĠавÑĤом обилÑĮ +ĠÑģлÑĥÑĩ ай +à¸Ńั à¸ŀ +ĠG iriÅŁ +ĠìĿ¼ ëĭ¨ +ĠпÑĢ Ð¾Ñģ +ĠпÑĢоÑģ моÑĤÑĢ +ãģªãģıãģª ãģ£ãģŁ +มี à¸Ľà¸±à¸įหา +ïº İ +éc oute +ĠÙħ ÙĪØ¬ÙĪØ¯ +Ġس رÙĬع +ĠÙĪÙĩ ÙĨا +ĠÙĪÙĩÙĨا Ùĥ +à¸Ħุà¸ĵ สม +à¸Ħุà¸ĵสม à¸ļัà¸ķิ +Ġìļ° ìĦł +à¸ŀระ à¸ŀุà¸Ĺà¸ĺ +好 ãģ¿ +ظ ÙĦÙħ +Ġм акÑģ +ĠмакÑģ ималÑĮ +ĠмакÑģималÑĮ но +ãĥª ãĤ¢ãĥ« +à¹ģมà¹ī วà¹Īา +ĠاÙĦØŃ ÙĪØ§Ø± +ãĥĹãĥ© ãĤ¹ +Ġع ÙĦاÙĤØ© +Ġíĸī ëıĻ +Ġgönder il +Ġl ãi +ĠsaÄŁ lıkl +ĠsaÄŁlıkl ı +ĠÑĪ Ð°Ð³ +Ġ×ij×IJר ×Ķ +prowadzi Äĩ +ãģĦãģı ãģ¤ãģĭ +Ġبت ارÙĬØ® +Ġ×ij×IJ×ķת ×Ķ +Ġmó c +ĠÐľ не +ãĥĹãĥ¬ ãĥ¼ +×IJ ×ĸר×Ĺ +åł´åIJĪ ãģ«ãģ¯ +使 ãģĪ +à¹Ģร ืà¸Ńà¸Ļ +ĠÐŁ еÑĤ +ĠÐŁÐµÑĤ ÑĢ +ãģ«åħ¥ ãĤĭ +Ùħ ادة +à¹Ģà¸ĩ ืà¹Īà¸Ńà¸Ļ +à¹Ģà¸ĩืà¹Īà¸Ńà¸Ļ à¹Ħà¸Ĥ +ĠÑģоÑģÑĤоÑı ние +ôn ica +ĠÑĦ ев +ĠÑĦев ÑĢа +ĠÑĦевÑĢа лÑı +Ġ×ķ ×ĸ +Ġ×ķ×ĸ ×IJת +à¸Ħร ิ +à¸Ħริ ส +ĠÐķ Ñīе +ãģ£ãģ¦ãģĹãģ¾ ãģĦãģ¾ãģĹãģŁ +ĠпÑĢав иÑĤелÑĮ +ĠпÑĢавиÑĤелÑĮ ÑģÑĤв +Ġtä glich +Ġëĭ¹ ìĭľ +×ŀ×ķ×¢ ×ŀ×ĵ +Ġдв оÑĢ +æī ķ +æīķ ãģĦ +ĠÑģÑĤан еÑĤ +Ġвозд ейÑģÑĤв +ĠвоздейÑģÑĤв и +Ġf ête +à¹Ģส า +תק ×ķ×ķ×Ķ +Ġu yar +Ġuyar ı +à¸ģลัà¸ļ à¹Ħà¸Ľ +Ġgi ưá»Ŀng +Ġв а +Ġва ÑĪи +ĠÄij áºŃu +ĠSpa ÃŁ +ĠìķĦ ë§Ī +à¹Ħà¸Ķà¹ī à¸ĩà¹Īาย +Ġ×Ķ×ŀ ×ijקש +æĸ° ãģŁ +æĸ°ãģŁ ãģª +ılı yor +пл ан +Ġ×Ķ×ijר ×Ļ×IJ×ķת +ĠaÄŁ rı +Ġsay gı +建 ãģ¦ +Ġnaj wyż +Ġnajwyż sz +سÙĬاس ات +ãģĬ å¾Ĺ +ĠاÙĦع ÙĦÙĬ +ĠاÙĦعÙĦÙĬ ا +Ġcoraz ón +ì¹ĺ ë£Į +หัว à¸Ĥà¹īà¸Ń +Ġب ØŃÙĬ +ĠبØŃÙĬ Ø« +зв езд +بÙĪ Ø§Ø¨Ø© +ÐĽ Ðĺ +ÙĦا زÙħ +Ġroz p +Ġrozp oc +Ġrozpoc zÄĻ +触 ãĤĮ +ĠاÙĦج ÙħÙĩ +ĠاÙĦجÙħÙĩ ÙĪØ± +Ġsp ÄĻd +ĠspÄĻd z +วิà¸Ĺยา ศาสà¸ķรà¹Į +ив аеÑĤÑģÑı +Ġдан ной +Ġreprés ente +ĠÄij á»ĭch +Ġ×¢×ŀ ×ķ×§ +à¸Ńัà¸Ļ à¸ķร +à¸Ńัà¸Ļà¸ķร าย +Ġestr atég +Ġestratég ia +pad ÅĤ +Ġв полн +Ġвполн е +ĠпÑĢедоÑģÑĤав лен +×Ĺ׾ ×ķ×§ +×Ĺ׾×ķ×§ ת +ãĤ¢ ãĥĬ +ĠاÙĦغ ذ +ĠاÙĦغذ ائÙĬ +ĠÑĥ зн +ĠÑĥзн аÑĤÑĮ +à¸ĭ à¹īาย +å½ĵ ãģ¦ +ØŃÙĬ اء +Ġbás ico +×§×ķ×ij ×¢ +ĠاÙĦÙħ باراة +ĠاÙĦÙĩ اتÙģ +Ġ׼ ׳×Ĵ×ĵ +à¸Ľà¸£à¸° หย +à¸Ľà¸£à¸°à¸«à¸¢ ัà¸Ķ +Ðļ ак +à¸Ĺีà¹Ī à¸Ļà¹Īา +à¸Ĺีà¹Īà¸Ļà¹Īา สà¸Ļà¹ĥà¸Ī +ãģ¾ ãģģ +ï½ ¢ +Ñģк оп +Ġson rasında +Ġur zÄħd +ĠurzÄħd zenia +׼×ķ ×ķ׳ +׼×ķ×ķ׳ ת +Ġ׾×Ķת ×ŀ×ķ×ĵ +Ġ׾×Ķת×ŀ×ķ×ĵ ×ĵ +ĠÑģ ли +ĠÑģли ÑĪ +ĠÑģлиÑĪ ÐºÐ¾Ð¼ +ĠÑģÑĤ Ñĥд +ĠÑģÑĤÑĥд енÑĤ +Ġ×Ķ ×ķ×ĵ +Ġ×Ķ×ķ×ĵ ×¢×Ķ +ë¹Ħ ìļ© +à¸Ńยาà¸ģ à¹ĥหà¹ī +Ġb á»ģ +ยุ à¸Ĺà¸ĺ +Ðĺ ÐĿ +س ائر +Ø£ صÙĪÙĦ +ĠاÙĦغ رÙģ +ãģĵãģ¨ãĤĤ ãģĤãĤĬãģ¾ãģĻ +è¾¼ ãģ¾ãĤĮ +ĠاÙĦساب ع +Ġc á»§ +ãģĦãģŁãģł ãģĦãģŁ +ì§ ĵ +ìĤ¬ 무 +powied ź +تÙģ Ùĥ +تÙģÙĥ ÙĬر +иÑĢов ки +ĠíĨµ íķ´ìĦľ +ãĤ¨ ãĤ¹ãĥĨ +ĠдеÑıÑĤелÑĮ ноÑģÑĤÑĮ +ĠданнÑĭ м +Ġ×¢ ×ķר +Ġ×¢×ķר ׼×Ļ +×ķ×ĵ עת +Ġhayat ını +Ġb Äħd +ĠbÄħd ź +obs ÅĤug +à¹Ģà¸ŀียà¸ĩ à¹ģà¸Ħà¹Ī +à¸ĭ à¹Īา +è²ł ãģij +ĠÑģÑĤÑĢ ÐµÐ¼ +ĠÄij á»īnh +ĠÐł ÑĥÑģ +ĠN ữ +Ġ׾×Ķש ×Ļ×Ĵ +Ġjed noc +Ġjednoc ze +Ġjednocze ÅĽnie +Ġ×Ķ×Ĵ ×ij×ķ×Ķ +أخ ÙĦاÙĤ +ĠнаÑģ ел +ĠнаÑģел ениÑı +ĠÙĬ ÙĨب +ĠÙĬÙĨب غÙĬ +ãģĮ ãģĭ +ãģĮãģĭ ãģĭ +×Ĵ עת +Ðŀ Ðł +ĠналиÑĩ ии +Ġë§Ī ì§Ģ +Ġë§Īì§Ģ ë§ī +Ġíĸī ìĤ¬ +Ġtre ÅĽci +Ġê°Ģ ì¹ĺ +ì¦ ĺ +Ġана лог +×Ķצע ת +в лад +влад е +ĠÑģдел ал +Ġ׳ ×Ĵ×Ļש +Ġ׳×Ĵ×Ļש ×ķת +полн ение +à¸Ĩ à¹Īา +ĠD ön +׼׾׼ ׾×Ķ +×ŀ×ĸ ×Ĵ +Ùħ Ùģ +ÙħÙģ Ùĩ +ÙħÙģÙĩ ÙĪÙħ +×Ķ ×ĵ +×Ķ×ĵ פס +×Ķ×ĵפס ×Ķ +ãģĻãģİ ãģ¦ +Ġг ÑĢ +ĠгÑĢ Ð½ +×ŀ×ĺ ×ķס +Ġ기 ìĸµ +ï¾ Ł +ĠpÅĤ yn +ĠGr ünde +ĠBü cher +Ġwed ÅĤug +ãģ¾ãģł ãģ¾ãģł +Ġ׳×Ķ ×ĵר +ĠÙĬست Ø·ÙĬع +ĠHi á»ĩp +ãĤŃãĥ£ãĥ³ ãĥļ +ãĤŃãĥ£ãĥ³ãĥļ ãĥ¼ãĥ³ +Ġth á»ķ +Ġeuropé enne +à¸ļ ัà¸ĩ +à¸ļัà¸ĩ à¸Ħัà¸ļ +ĠszczegóÅĤ owo +׳ שק +ãĥķ ãĥ©ãĥ³ãĤ¹ +×ŀ×ķ×ŀ ×Ĺ×Ļ +Ġcom ún +Ġç arp +ØŃت ÙĬا +ØŃتÙĬا ج +ØŃتÙĬاج ات +ëĭ´ ëĭ¹ +ä½ķ 度 +ä½ķ度 ãĤĤ +×ĵ ×ij×§ +ãģį ãĤĮ +ãģįãĤĮ ãģĦ +Ġк ам +Ġкам еÑĢ +ĠespecÃŃf ico +Ġtel éfono +à¸ķัà¹īà¸ĩ à¸Ńยูà¹Ī +I Åŀ +ãģ© ãĤĵãģ© +ãģ©ãĤĵãģ© ãĤĵ +עצ ×ŀ×IJ×Ļ +à¸Ķัà¸ĩ à¸Ļีà¹ī +ĠÑĦоÑĢм иÑĢов +ĠÑĦоÑĢмиÑĢов а +×ķ×ŀ ×ij +Ġkullan ımı +Ðľ Ðŀ +×¢ ש×Ļ +עש×Ļ ×Ļ×Ķ +Ġön lem +à¹Ģà¸Ń à¹ĩ +à¹Ģà¸Ńà¹ĩ ม +×ŀשק ×Ļ×¢ +ר ×Ļ×Ĺ +à¸Ĥ ัà¸Ķ +ĠíĻ ľ +ĠíĻľ ìļ© +à¸ĭ ะ +ãĤĪãģĨ ãģ«ãģªãĤĬãģ¾ãģĹãģŁ +ĠÑĢаÑģ пÑĢ +ĠÑĢаÑģпÑĢ Ð¾ÑģÑĤ +ĠÑĢаÑģпÑĢоÑģÑĤ ÑĢан +ĠÑĢаÑģпÑĢоÑģÑĤÑĢан ен +׼×Ļ ×ķף +ÙĤب ض +تص رÙĬØŃ +تصرÙĬØŃ ات +Ġо ÑĢи +ĠоÑĢи г +ĠоÑĢиг ина +ĠоÑĢигина л +ĠاÙĦع اÙĦÙĬ +à¹ģหà¹Īà¸ĩ à¸Ļีà¹ī +ãĥķãĤ¡ ãĥ¼ +ãģ¦ãģĦ ãģį +ãģ¦ãģĦãģį ãģŁãģĦ +פ תר +פתר ×ķ׳×ķת +Ġ×ij ×Ļ×Ĺ +Ġ×ij×Ļ×Ĺ ×ĵ +Ġod by +Ġodby ÅĤ +ĠоÑĩеÑĢ ÐµÐ´ +Ġtr ương +ãĤŃ ãĥ³ +×ŀ ×ķפ +×ŀ×ķפ ×¢ +ëĵľ 립 +ëĵľë¦½ ëĭĪëĭ¤ +à¸ŀืà¹īà¸Ļ à¸IJาà¸Ļ +ìŀIJ 격 +ĠVi á»ĩn +ĠDes pués +Ġ×IJ׾ ×Ļ׳×ķ +Ġdur ée +íĩ ´ +Ġmü zik +i ếu +ĠÑĢаз меÑīен +Ġк Ñĥд +ĠкÑĥд а +غ ض +غض ب +ĠTamb ém +à¸Īัà¸Ķ สà¹Īà¸ĩ +à¸ģาร à¹ģสà¸Ķà¸ĩ +onom ÃŃa +Ġан г +Ġанг ли +Ġангли й +Ġанглий Ñģк +Ġzn al +Ġznal az +Ġznalaz ÅĤ +תר ×Ĵ +תר×Ĵ ×ķ×Ŀ +ĠÑģ нов +ĠÑģнов а +ĠÑĩаÑģ а +Ġcommun auté +ĠespecÃŃf ica +ĠL á»ĭch +Ġli é +Ùģ Ø¬Ø± +à¹Ģà¸ģ à¹Īà¸ĩ +ع اÙĦ +عاÙĦ ج +Ø£ÙĨ ظ +Ø£ÙĨظ ÙħØ© +ES İ +ĠاÙĦØŃ دÙĬد +à¸ŀระ à¸Ńà¸ĩà¸Ħà¹Į +Ġפר שת +Ġдв иж +Ġдвиж ениÑı +ĠاÙĦج ارÙĬ +à¸ĺาà¸Ļ ี +неÑģ ен +ĠاÙĦÙĨ ÙĩائÙĬ +Ġб еÑĢ +ĠбеÑĢ ÐµÐ¼ +ĠбеÑĢем енн +Ġdépart ement +à¹Ģà¸Ĺ ีย +à¹Ģà¸Ĺีย à¸ļ +ĠÐľ аÑĢи +ĠнекоÑĤоÑĢ ÑĭÑħ +об еÑģп +обеÑģп еÑĩен +×Ĺ ×ķ×ĸ +×Ĺ×ķ×ĸ ×Ķ +ÙĨت ج +à¸Īะ à¹Ħà¸Ķà¹īรัà¸ļ +á» ° +Ġél éments +ع Ø· +عط اء +Ġt ắt +i á»ĩm +ÑİÑīиÑħ ÑģÑı +ãģĹãģ ° +ãģĹãģ° ãĤīãģı +Ġпом ожеÑĤ +à¸Ĥà¸ĵะ à¸Ļีà¹ī +Ġ×¢ שר×ķת +éģķ ãģ£ãģ¦ +ĠпÑĢ Ð¾Ð³ +ĠпÑĢог н +ĠпÑĢогн оз +Ġt ÅĤ +ĠtÅĤ um +ĠtÅĤum acz +T ür +Tür kiye +ãģį ãģ£ +ãģįãģ£ ãģĭãģij +Ġ×Ķ׳ ×ķ׼ +Ġ×Ķ׳×ķ׼ ×Ĺ×Ļ +ĠìĥĿ ìĤ° +ĠÑĦоÑĢм Ñĭ +ç¾İ ãģĹãģĦ +à¸Ľà¸£ ึà¸ģ +à¸Ľà¸£à¸¶à¸ģ ษา +Ġlum ière +ãĤª ãĥ¼ãĥĹ +ãĤªãĥ¼ãĥĹ ãĥ³ +à¸Ľ ืà¸Ļ +วั สà¸Ķ +วัสà¸Ķ ุ +еÑĢÑĤ в +ÙĥÙĦ Ùģ +ï½ £ +à¸ĺรรม à¸Ķา +׳ ×ĺר +ĠпÑĢедÑģÑĤав лÑıеÑĤ +Ġanál isis +Ġb ãi +با ÙĤÙĬ +à¸Ľà¸£à¸° à¹Ģà¸Ķ +à¸Ľà¸£à¸°à¹Ģà¸Ķ à¹ĩà¸Ļ +ĠÑģлÑĥÑĩ аÑı +ĠÑģлÑĥÑĩаÑı Ñħ +ÐĽ ÐIJ +สัà¸ĩ à¹Ģà¸ģ +สัà¸ĩà¹Ģà¸ģ à¸ķ +Ġprz ec +Ġprzec ież +Ùħ صÙĦ +ÙħصÙĦ ØŃØ© +ש×ķ×§ ×ķ׾×ĵ +ĠобоÑĢÑĥд ованиÑı +Ġtr waÅĤ +رÙĪ Ùħ +ìķĪ ëĤ´ +ĠNgh á»ĭ +Ø® Ø´ +à¸ļา à¸Ħาร +à¸ļาà¸Ħาร à¹Īา +Ġоп ÑĨион +ĠÑģозд аниÑı +ãĤ³ ãĤ¹ãĥĪ +Ġ×Ķ×¢ ׾×Ļ +Ġ×Ķ×¢×ľ×Ļ ×ķף +lä uft +ãĥĻ ãĤ¹ãĥĪ +Ġr ê +Ġrê ve +×IJ ×ij×Ļ×ij +×Ļ ×Ļ×ļ +ë¶ Ļ +ãĤ¤ãĥ³ ãĥī +ÅĤo ży +ÅĤoży Äĩ +ع ائÙĦ +عائÙĦ Ø© +Ø£ ÙĪØ± +Ø£ÙĪØ± اÙĤ +à¸Ĺà¹īà¸Ńà¸ĩ à¸ĸ +à¸Ĺà¹īà¸Ńà¸ĩà¸ĸ ิà¹Īà¸Ļ +Ġä hn +Ġähn lich +ãĥŁ ãĥĭ +à¸ľ ู +à¸ľà¸¹ à¹īà¸Ļ +à¸ľà¸¹à¹īà¸Ļ ำ +ĠмаÑĤеÑĢиал Ñĭ +Ġкап иÑĤ +ĠкапиÑĤ ал +ï¼ ¦ +Ġseç il +Ġh ứng +Ġintéress ant +ãģ£ãģ¦ ãģĦãģı +Ġe ÄŁer +ëIJĺ ìĹĪìĬµëĭĪëĭ¤ +Ġan laÅŁma +ãģĶ åĪ©ç͍ +Ġ×ij ×ĸ׼ +Ġ×ij×ĸ׼ ×ķת +ëĿ¼ ë©´ +ĠÙĬ ÙĪØ³ +ĠÙĬÙĪØ³ Ùģ +أسÙĦ ØŃØ© +ĠGef ühl +ĠноÑĢм алÑĮн +ãĥĻ ãĥ³ +ãģķãĤĮ ãĤĭãģĵãģ¨ +ĠÐij еÑģ +ãģ¨ãģĦ ãģĪãģ° +ĠÙħ ÙĩÙħ +ĠÙħÙĩÙħ Ø© +ãģ§ãģĹãĤĩãģĨ ãģŃ +ĠêµŃ ëĤ´ +à¹Ģม à¹ĩà¸Ķ +×ŀ×ij קר +ĠاÙĦد ÙĨÙĬ +ĠاÙĦدÙĨÙĬ ا +à¸Ĭ ู +к ÑĢÑĥÑĤ +Ġtho áng +Ġ׳ ×ĵר +Ġ׳×ĵר ש +ĠÑĢаÑģÑģ казал +ĠAu ÃŁerdem +פ ×IJר +פ×IJר ×§ +Ġ×ŀש×Ĺ×§ ×Ļ×Ŀ +צ ר׼×Ļ×Ŀ +×ŀ×ĵ ×ķ +×ŀ×ĵ×ķ ×Ļ×§ +èĭ¦ ãģĹ +ĠÑģ иг +ĠÑģиг нал +ĠM á»įi +Ġtr ữ +Ġnast ÄĻp +ĠnastÄĻp nie +Ġì¶Ķ ì§Ħ +ĠاÙĦÙģ ÙĨد +ĠاÙĦÙģÙĨد ÙĤ +koÅĦ czyÅĤ +ส ีà¹Ī +×§ ×Ļ×ij +×§×Ļ×ij ×ķ×¥ +ĠнÑĥж нÑĭ +大 åĪĩ +大åĪĩ ãģª +æıĽ ãģĪ +ת ×ķס +ת×ķס פת +ãģ£ãģ¦ ãģĦãģªãģĦ +Ġм Ñı +ĠмÑı г +ĠмÑıг к +Ġjak ie +Ġjakie ÅĽ +à¸ķำ à¸ļ +à¸ķำà¸ļ ล +ĠìŀĪ ì§Ģ +×ij×ĺ ×IJ +ĠоÑĤлиÑĩ но +ÙĤ ÙIJ +ĠавÑĤом об +ĠавÑĤомоб и +ĠавÑĤомоби лÑı +دÙĬÙħÙĤرا Ø·ÙĬ +ĠاÙĦ ÙĪØ§ +ĠاÙĦÙĪØ§ ØŃد +Ġس ÙĪØ±ÙĬØ© +Ø£ غÙĦ +أغÙĦ ب +ĠÑįк ÑĢан +ãĥĹ ãĥ©ãĤ¤ +Ġjeste ÅĽ +ãĥIJ ãĥª +Ġ×Ķ×IJ ×ķ×ķ×Ļר +ائ Ùĥ +à¸Ńยà¹Īาà¸ĩ ยิà¹Īà¸ĩ +ÑĢ ÐµÐºÑĤ +Ġum o +Ġumo ż +Ġumoż li +Ġumożli w +Ġumożliw ia +Ġnäch ste +ĠìŀĪ ì§Ģë§Į +ĠпÑĢед н +ĠпÑĢедн аз +ĠпÑĢедназ наÑĩен +Ġma çı +Ġp omi +Ġpomi ÄĻd +ĠpomiÄĻd zy +ĠاÙĦÙĦ ÙĤاء +à¹Ģà¸Ķ à¸Ńะ +Ġнов оÑģÑĤи +×ŀ׊׾×Ķ +رÙĬاض ÙĬ +à¸Ķ à¸Ļ +à¸Ķà¸Ļ à¸ķรี +ب صر +ìĬ¤ íĥĢ +scri pción +Ġnap isa +Ġnapisa ÅĤ +Ġ׳ש ×ŀ×¢ +ĠاÙĦÙħØŃ ÙĦÙĬ +Ġhi á»ĥn +×IJ ×Ĺ +×IJ׊ר×IJ×Ļ +Ġг ÑĢаниÑĨ +æīĭ ç¶ļãģį +Ùĥ سب +Ġà¹ģà¸ķà¹Ī à¸ĸà¹īา +à¸Ķาว à¸Ļà¹Į +à¸Ķาวà¸Ļà¹Į à¹Ĥหลà¸Ķ +ãĤĭãģĵãģ¨ãģĮãģ§ãģį ãģ¾ãģĻ +åŁºæľ¬ çļĦãģ« +ÙĪÙĦ اد +rä ume +د ÙģØ§Ø¹ +×Ļצ ×¢ +ĠO czy +ĠOczy wiÅĽcie +ĠÅ ģ +ĠÅģ a +اÙĦÙĬ اب +اÙĦÙĬاب اÙĨ +áºł I +ĠBir liÄŁi +×Ķ ×ķצ +×Ķ×ķצ ×IJת +ĠÄij ua +Ġê·¸ëŁ¬ ëĭĪê¹Į +Ġréal ité +ع ÙĦاÙĤات +J este +Jeste ÅĽ +Ġмн ож +Ġмнож еÑģÑĤво +ï¼ « +ãĥĹãĥŃ ãĤ¸ãĤ§ +ãĥĹãĥŃãĤ¸ãĤ§ ãĤ¯ãĥĪ +ĠÑĦ л +ظ ÙĨ +×Ĵ׾ ×Ĵ׾ +ĠmÅĤod zie +ĠmÅĤodzie ż +à¸Ļà¹īำ à¸ķา +à¸Ļà¹īำà¸ķา ล +ÐĽ Ðķ +×ij ×ķ×ĺ +Ġ׾×Ķ ×Ĵ×Ļ×ĵ +ãģĵãģ¨ãĤĤ ãģĤãĤĭ +ز اد +×ŀ×Ļ×ĵ ×¢ +ĠgÅĤówn ie +ãĥı ãĤ¦ +ãĥıãĤ¦ ãĤ¹ +б ел +Ġét ape +ðŁĺ Ģ +Ġмод елÑĮ +a ģını +ש ×Ĺ×§ +ש×Ĺ×§ ף +Ġni ño +à¸Ĭ à¹īาà¸ĩ +à¹Ģล ีย +ĠÑĦоÑĢм е +ĠاÙĦØ´ رÙĬÙģ +ĠÑĥд аÑĢ +arr iv +arriv ée +Ġmies iÄĻ +ĠmiesiÄĻ cy +ØŃ رÙĥ +ØŃرÙĥ ات +ĠDi á»ħn +ÐĿ Ы +ãģ¾ãģ£ãģŁ ãģı +Ġ×Ļ ×¨×ķ×§ +еÑģÑĤ еÑģÑĤв +еÑģÑĤеÑģÑĤв енн +Ġê·¸ ëŁ¼ +ĠاÙĦÙħ تÙĪ +ĠاÙĦÙħتÙĪ Ø³Ø· +Ġbéné fic +Ġbénéfic ie +Ġwy bra +Ġwybra Äĩ +ĠاÙĦز ÙħÙĨ +ĠпÑĢин Ñı +ĠпÑĢинÑı л +Ù쨱 ØŃ +Ġk sz +Ġksz taÅĤ +ĠksztaÅĤ t +ק׾ ×ĺ +×ij×ĵ×Ļ×§ ת +Ġgi ấ +Ġgiấ c +Ġpropriet Ãł +деÑĢж ан +ĠKö ln +ĠGü zel +×Ļפ ×ķ×Ļ +ĠCu á»Ļc +ÑįÑĤ аж +تر ÙĥÙĬ +ترÙĥÙĬ ز +лож ений +Ġп Ñĥ +ĠпÑĥ ÑĤи +اخت ÙĦاÙģ +åĩºãģ¦ ãģıãĤĭ +à¸ļุ à¸ģ +âĿ ¤ +ÑĦ ан +פש ×ĺ +à¸ļัà¸Ļ à¹Ģà¸Ĺ +à¸ļัà¸Ļà¹Ģà¸Ĺ ิà¸ĩ +ĠاÙĦس اد +ĠاÙĦساد س +ĠاÙĦÙĤ ÙĪÙħ +ĠاÙĦÙĤÙĪÙħ ÙĬ +Ġyönet ici +Ùĩ ÙĪØ§Øª +ÙĩÙĪØ§Øª Ùģ +Ġrespons ável +Ġпод деÑĢжива +ĠاÙĦسÙĦ Ø· +ĠاÙĦسÙĦØ· ات +ãģĹãģ¦ ãģĬãģı +ãĥļ ãĥĥãĥĪ +à¸Ľ ุà¹Īม +Ġogl Äħda +ÙĨا ÙĤ +ÙĨاÙĤ Ø´ +à¸Ħà¸Ńà¸Ļ à¹Ĥà¸Ķ +ĠMü sl +ĠMüsl ü +ĠMüslü man +ĠMo ż +ĠMoż na +Ġnum érique +Ġv á»ı +ĠسÙĬ تÙħ +Ġyer leÅŁ +монÑĤ аж +Ġgo ût +ãģ¦ ãģĬãĤĬãģ¾ãģĻ +ĠKh ánh +Ġе дин +Ġедин ÑģÑĤв +اÙĨ Ø®Ùģ +اÙĨØ®Ùģ Ø§Ø¶ +ìĭľ íĹĺ +Ġl ặng +ĠÑĢ Ð¾Ð»ÑĮ +à¸ķัว à¹ģà¸Ĺà¸Ļ +à¸Ħà¹Īา à¹ĥà¸Ĭà¹ī +à¸Ħà¹Īาà¹ĥà¸Ĭà¹ī à¸Īà¹Īาย +Ġver füg +Ġverfüg bar +ìĻĶ ëĭ¤ +ãģĦ ãģļ +ãģĦãģļ ãĤĮ +ĠиÑģÑģлед ованиÑı +меÑī а +×Ķ ×Ĺ +×Ķ×Ĺ ×ĸר +à¹ģà¸Ł à¸Ĭัà¹Īà¸Ļ +ت صرÙģ +Ø¥ رÙĩاب +Ġexerc ÃŃcio +Ġé lev +Ġélev é +สัà¸įà¸įา à¸ĵ +Ãĸ Z +ãĥĹ ãĥŃãĤ° +ãĥĹãĥŃãĤ° ãĥ© +ãĥĹãĥŃãĤ°ãĥ© ãĥł +Ġw ewnÄĻtrzn +Ġhen üz +é£Ľ ãģ³ +à¹Ģà¸Ķ à¸Ńรà¹Į +Ñģ Ñĥж +ÑģÑĥж ден +شع ÙĪØ¨ +ãģ²ãģ¨ ãĤĬ +Ġwy ÅĤÄħ +ĠwyÅĤÄħ cznie +Ġпло Ñħо +ÐĶ Ðķ +Ạ¦ +Ù쨹 اÙĦÙĬ +ÙģØ¹Ø§ÙĦÙĬ ات +ĠاÙĦع شر +ÑģÑĤÑĥп ил +Ġy arg +Ġyarg ı +нÑİ Ñİ +×ķ×IJ ×ij +Ġu ç +Ġuç ak +ë² ½ +تÙĪ ÙĤÙĬ +تÙĪÙĤÙĬ ع +Ġì¤ij ìĭ¬ +׳×Ļ×ķ ×ķ×ĺ +Ø£ ÙĥÙĦ +ç½® ãģĦãģ¦ +éłĤ ãģį +Ġ×Ķת ×ij +Ġ×Ķת×ij ×Ļ×¢×Ķ +Ġdür fen +Ùħ ÙĤاÙĦ +ÙħÙĤاÙĦ ات +Ġز ÙħÙĨ +à¸ŀฤ ศ +à¸ŀฤศ à¸Ī +à¸ŀฤศà¸Ī ิà¸ģ +à¸ŀฤศà¸Īิà¸ģ ายà¸Ļ +ĠнеÑģк олÑĮ +ĠнеÑģколÑĮ ки +ĠнеÑģколÑĮки Ñħ +Ġcrian ça +มิ à¸ķร +×ŀ׼ ×Ļר×ķת +à¸ģาร à¸ļริหาร +Ġtélé charg +Ġ×IJ×ķ×Ķ ×ijת +ĠBü ro +ä½ľ ãģ£ãģŁ +ĠKi ÅŁi +ç¾İåij³ ãģĹ +à¹Ģลย à¸Ħà¹Īะ +à¸ŀà¸ļ à¸ģัà¸ļ +à¸Ī à¹īา +Ġç er +Ġçer ç +Ġçerç eve +ãĤĴä½ľ ãģ£ãģ¦ +ĠпеÑĢв ÑĥÑİ +×ŀצ ר×Ļ×Ŀ +×IJ׾ ×ķ×Ķ +×IJ׾×ķ×Ķ ×Ļ×Ŀ +Ġagr é +Ġagré able +Ġay ır +İL İ +ãĤ ¥ +Ġíĺ Ħ +ĠíĺĦ ìĭ¤ +ثاÙĦ Ø« +ת ×ĸ +ת×ĸ ×ķ׳×Ķ +ãģ¨ãģĦ ãģ£ãģ¦ +ãģ¨ãģĦãģ£ãģ¦ ãĤĤ +Ġا بÙĪ +ĠÑģоб ак +é£Łãģ¹ ãģŁ +Ġдан ном +à¹Ģล ิ +à¹Ģลิ ศ +Ġí ļ +Ġíļ ¨ +Ġíļ¨ ê³¼ +ãĤĤãĤī ãģĪãĤĭ +׳ צ׾ +ÑĦ ик +ÑĦик Ñģ +Ġjeste ÅĽmy +ת×Ĺ×ķש ×Ķ +à¹Ħมà¹Ī à¸Ħวร +ĠØŃ سÙĬÙĨ +à¸ģาร ลà¸ĩà¸Ĺุà¸Ļ +ë´ ¤ +ĠÐĺ менно +à¸ļ à¸Ńรà¹Į +à¸ļà¸Ńรà¹Į à¸Ķ +ĠC ảnh +ìĦľ ë¹ĦìĬ¤ +Ġпол ов +Ġполов ин +Ġзам еÑĩа +ãģĦãĤį ãĤĵãģª +Ġ×ij ×Ļ×§ +Ġ×ij×Ļ×§ ש +л ÑĥÑĪ +ãĤĴ è¿İ +ãĤĴè¿İ ãģĪ +جرÙĬ ÙħØ© +Ġt ây +ĠاÙĦÙĨ ÙĪ +ĠاÙĦÙĨÙĪ ÙĪÙĬ +ÃĤ N +ì¿ ł +หà¸Ļ าว +Ġ×ij׊ש×ij×ķף +ز ار +à¸Ķ าร +à¸Ķาร า +ĠÅĽ l +ĠÅĽl ub +มีà¸Ħวาม สุà¸Ĥ +Ġn hu +Ġnhu áºŃn +ÙħØŃ طة +à¹Ģสืà¹īà¸Ń à¸ľà¹īา +ĠТ олÑĮко +ĠÙĥ س +ĠÙĥس ارة +ÙħØ´ رÙĪØ¹ +niÄĻ cia +×¢ ׼ש×Ļ×ķ +ت ÙĦÙģ +تÙĦÙģ Ø²ÙĬ +تÙĦÙ쨲ÙĬ ÙĪÙĨ +Ġl Æ°á»Ľi +ĠÐľÐ¾Ñģк вÑĭ +Ġré serve +Ġan laÅŁ +ĠanlaÅŁ ıl +Ġed eceÄŁi +รà¸Ńà¸ĩ à¹Ģà¸Ĺà¹īา +Ġب Ø· +Ġبط رÙĬ +ĠبطرÙĬ ÙĤØ© +ãģ¦ãģĹãģ¾ ãģ£ãģ¦ +ãĤĤãĤī ãģ£ãģ¦ +بر ج +æ± ļ +æ±ļ ãĤĮ +Ġch oc +Ġchoc ia +Ġchocia ż +Ġzob ac +Ġzobac zyÄĩ +пÑĢ Ñı +пÑĢÑı жен +ĠÑĨ иÑĦ +ĠÑĨиÑĦ ÑĢ +Ġм ам +Ġвз ÑıÑĤÑĮ +Ġch ạm +ج سÙħ +ØŃÙħ اس +à¹Ģล à¹Īม +à¸ŀิ ษ +×Ķפ ׼×ķ +à¸Ĭà¹Īà¸Ńà¸ĩ à¸Ĺาà¸ĩ +Ġв ек +Ġвек а +Æ¡ Ìģ +Æ¡Ìģ i +ĠTi á»ģn +Ġtr ầm +мÑĭ ÑĪ +мÑĭÑĪ Ð» +ĠÑĤ Ñĥ +ĠÑĤÑĥ ÑĢиÑģÑĤ +Ġch c +Ġchc Äħ +Ġав г +Ġавг ÑĥÑģÑĤ +ĠавгÑĥÑģÑĤ а +ס ×IJ×ķת +Ġר ×Ĵ׾ +à¸ľà¸¥ à¸ģระà¸Ĺ +à¸ľà¸¥à¸ģระà¸Ĺ à¸ļ +å¤īãĤı ãĤĭ +Ġ×Ķ×IJ×Ĺר ×ķ׳×Ļ×Ŀ +سÙģ ÙĬر +ĠÑĩа Ñīе +ãģĦ ãĤī +ãģĦãĤī ãģ£ +ãģĦãĤīãģ£ ãģĹãĤĥ +×ķ×ŀ ׳×Ļ×Ŀ +Ġart tır +ĠCh á»ĭ +Ġì¡° ì§ģ +ĠÑĥÑģп еÑħ +Ġ×¢ ×ķס +Ġ×¢×ķס ×§ +ĠìĥĿ ëªħ +ÑĨ иÑĤ +Ġreg ión +Ðŀ ÐĿ +ĠdoÄŁ um +ĠyaÅŁ ad +ĠyaÅŁad ıģı +à¸Ĺà¸Ķ ลà¸Ńà¸ĩ +Ġgöz ü +ש ×Ļר×Ķ +дÑĥм ал +Ġda ģı +Ġdaģı t +à¸Ĺีม à¸ĩาà¸Ļ +Ġti á»ģm +ĠاÙĦÙĥ بر +ĠاÙĦÙĥبر Ùī +ì¹ Ń +ĠGü nc +ĠGünc elle +ĠGüncelle me +ê¹ Ĭ +ĠобоÑĢÑĥд ование +ĠÑĢеÑĪ Ð° +á» ¤ +Ġп иÑĤ +ĠпиÑĤ аниÑı +à¹Ģรีย à¸ļ +×Ľ×ª ×Ļ×ij×Ķ +Ġп он +Ġпон ÑĢав +ĠпонÑĢав и +Ġ×Ķ ×ķ׾×ĵ +Ġ×Ķ×ķ׾×ĵ ת +Ġê² ģ +Ġê²ģ ëĭĪëĭ¤ +ĠпеÑĢв ой +ãĥ©ãĤ¤ ãĥķ +ĠÅŁi ir +kr ÄĻ +krÄĻ c +Ġthi á»ĥu +à¹Ģลย à¸Ĺี +à¹Ģลยà¸Ĺี à¹Ģà¸Ķียว +×ĺ×¢ ׳×ķת +ائ ÙĩÙħ +Ġ×IJ ס×ķר +ĠплаÑĤ еж +تر دد +Ġmożli we +Ġkh Ỽ +ĠkhỼ p +تÙģØ§Ø¹ ÙĦ +ĠÑĪ ÐºÐ¾Ð»ÑĮ +ĠÑĪколÑĮ н +ĠÙĤ صة +Ġmét ier +nÄĻ ÅĤa +หล à¹Īà¸Ń +Ġ á»§ng +Ġprz egl +Ġprzegl Äħd +ĠاÙĦÙħ تعÙĦ +ĠاÙĦÙħتعÙĦ ÙĤØ© +ĠÑģÑĭ н +Ġв олн +ãĥĩ ãĥ¼ãĥĪ +ĠÐŃ ÑĤи +Ġк ÑĢоме +à¸Ħ ารà¹Į +׳ק ×ķ×ĵ×Ķ +Ġ׾ש×ŀ ×ķ×¢ +Ġ×ĸ ×ķ׼ר +ï¼ § +ÙĬ ÙİØ§ +Ġgi á»ıi +åĥį ãģı +ĠÑģ ни +ĠÑģни жен +à¹ģà¸Ķ à¸Ķ +รุ à¸Ļ +รุà¸Ļ à¹ģรà¸ĩ +Ġhi á»ĩp +ograf ÃŃa +à¹Ģà¸Ī à¸Ńรà¹Į +Ġдв иг +Ġдвиг аÑĤ +ĠдвигаÑĤ ел +Ġü y +Ġüy eler +Ġüyeler i +Ġб Ñĥк +ĠбÑĥк в +ãĤĤ å¤ļãģı +Ġthi á»ĩt +ĠPa ÃŃs +ĠØ· بÙĬعÙĬ +à¹ģà¸Ī à¸ģ +ĠاÙĦص ØŃÙĬØŃ +Ġapp ré +Ġappré ci +Ġdecis ión +Ġë°ĺ ëĵľ +Ġë°ĺëĵľ ìĭľ +ĠÑĤеб е +ãĤ· ãĥ¼ãĤº +ãĤ·ãĥ¼ãĤº ãĥ³ +Ġд алÑĮн +ĠìĬ ¤ +ĠìĬ¤ ìĬ¤ +ĠìĬ¤ìĬ¤ ë¡ľ +ĠTh á»ĥ +Ġkar ÅŁ +ĠkarÅŁ ıs +ĠkarÅŁÄ±s ında +ĠK ön +ĠKön ig +ив ание +×ij ×ķצע +г лаÑģ +Ġtw ó +Ġtwó rc +à¸Ľà¸ģ à¸Ħร +à¸Ľà¸ģà¸Ħร à¸Ńà¸ĩ +ĠG ÅĤ +ĠGÅĤ ówn +ĠUnter stüt +ĠUnterstüt zung +Ġд ÑĥÑħ +ĠдÑĥÑħ ов +Ø£ ÙħاÙĨ +×Ĺש ש +ت ظ +تظ اÙĩر +ĠлÑİб ом +à¸ķ าร +à¸ķาร าà¸ĩ +Ġkr ól +Ø£ ØŃدث +ì¡Į ëĭ¤ +Ðļ ÑĥÑĢÑģ +ãĥĥ ãĥĦ +×ŀ×§ ×ķ×ij׾ +ĠÑģимв ол +Ġdés orm +Ġdésorm ais +w üns +wüns che +Ñĥ ни +Ñĥни ÑĨип +ÑĥниÑĨип алÑĮн +หลัà¸ģ สูà¸ķร +ÙĨت شر +Ġа л +Ġал к +Ġалк ог +Ġалког ол +ĠÑĥ ÑĩиÑĤÑĭва +à¸ģำ à¸ģัà¸ļ +Ġ׾ פע×ķ׾ +ĠìŰ ê²° +s Äħd +ĠاÙĦØ£ ÙĬ +ĠاÙĦØ£ÙĬ اÙħ +غÙĬ اب +Ġна ÑĢ +ĠнаÑĢ ÐºÐ¾ +×ŀ×ķ×ĵ ×¢ +ĠÑģеÑĢ Ð¸Ð¸ +пиÑģ Ñĭва +สิ ว +ç¶ļ ãģĦãģ¦ +çͳãģĹ è¾¼ãģ¿ +Ġ׾ ×Ĵר +Ġ׾×Ĵר ×ķ×Ŀ +Ġд ем +Ġдем о +Ġë³´ ëĤ´ +تÙĩ دÙĬد +ĠÙħØ´ ÙĬرا +Ġdu y +Ġduy á»ĩt +ĠwiÄĻks ze +Ùħع اÙĬ +ÙħعاÙĬ ÙĬر +ĠG da +ĠGda ÅĦsk +Ġr ah +Ġrah ats +Ġrahats ız +ר ×ķצ×Ķ +l ös +lös ung +ĠТак им +ÑĪ ÐµÐ´ +ÑĪед ÑĪ +ع زÙĦ +Ġרש ×Ļ×ŀת +Ġ׾×Ķ ×Ļ׼ +Ġ׾×Ķ×Ļ׼ ×ł×¡ +Ġп ÑĥÑĤ +ĠпÑĥÑĤ еÑĪ +ĠпÑĥÑĤеÑĪ ÐµÑģÑĤв +Ġnot ÃŃcia +Ġal Ä±ÅŁ +ĠalÄ±ÅŁ ver +ĠalÄ±ÅŁver iÅŁ +ĠwÅĤ os +ĠwÅĤos ów +Ġب غ +Ġبغ داد +Ġver öffent +Ġveröffent licht +ĠKh á +Ġt án +ëIJĺ 기 +Ġë°© 문 +Ùģ ÙĬÙĦ +à¹Ģà¸ģิà¸Ķ à¸Īาà¸ģ +åı¯ æĦĽ +åı¯æĦĽ ãģĦ +à¸ĸ ุà¸ĩ +Ġz ewnÄĻtrzn +à¸łà¸²à¸©à¸² à¸Ńัà¸ĩà¸ģฤษ +Ġmá xima +Ġul us +Ġulus lararası +Ġ׳×Ķ ×ł +à¸Ĥà¹Īาว สาร +ĠìĿĺ ìĤ¬ +à¹Ģหล ืà¸Ńà¸ĩ +Ġد ÙĤ +ĠدÙĤ ائÙĤ +สืà¹Īà¸Ń สาร +ë¨ ¼ +ĠÑģоÑģÑĤоÑı нии +สมา à¸Ħม +á» Ĥ +ĠÐľÐ¾Ñģ ков +ĠÐľÐ¾Ñģков Ñģк +×ŀס ×ķ×Ĵ׾ +ãģĭ ãģĭãĤĬ +ĠTr uyá»ģn +à¹ģà¸Ĥà¹ĩà¸ĩ à¹ģรà¸ĩ +×ŀ×Ĺ ×ĸ×Ļ×§ +à¹Ĥà¸ģ à¹ī +ÙĬس ر +ìĶ © +×IJ ×ķ×§ +×IJ×ķ×§ ×ĺ +×IJ×ķ×§×ĺ ×ķ×ijר +Ġprox imité +ÙħÙĨ Ùĩج +ĠاÙĦج ز +ĠاÙĦجز ائ +ĠاÙĦجزائ رÙĬ +ĠÄIJi á»ĥm +Ġден еж +Ġденеж н +ÙģØŃ ص +Ùģ Ø¦ +ĠÐij Ñĥд +×Ĵ×Ļ×ĵ ×ķ׾ +ĠÐĴ едÑĮ +عÙĦ اÙħØ© +Ġ×IJ×Ĺר ×ķ׳×ķת +ãģĦãģŁãģł ãģĦãģ¦ +سÙĦ ØŃ +ØŃ ÙĦÙħ +ز ÙĪØ§Ø± +Ùĥ سر +×ĺ קס +Ġб ан +Ġбан ков +ĠпÑĢ Ð¾Ð¶ +ĠпÑĢож ива +li wo +liwo ÅĽci +ĠTi ếp +ĠاÙĦÙħÙĨ اسب +ĠاÙĦØ® ÙĬار +ãģĬ ãģĭ +ãģĬãģĭ ãģĴ +à¸Ķà¸Ńà¸ģ à¹Ħมà¹ī +ä mp +ämp fe +à¸ķัà¹īà¸ĩ à¹ĥà¸Ī +Ġза ÑīиÑĤ +ĠзаÑīиÑĤ Ñĭ +ĠTh ưá»Ŀng +Ġص Ùģ +ĠصÙģ ØŃØ© +×Ĺ×ķר ×£ +ãĥIJ ãĥĥãĤ° +Ġ×ĵ ×Ļ×Ĵ +Ġ×ĵ×Ļ×Ĵ ×Ļ×ĺ +Ġ×ĵ×Ļ×Ĵ×Ļ×ĺ ׾×Ļ +Ġ×Ķ×Ĺ ×ķ׾×Ļ×Ŀ +в еÑī +веÑī а +Ġк ÑĥлÑĮÑĤ +ĠкÑĥлÑĮÑĤ Ñĥ +ĠкÑĥлÑĮÑĤÑĥ ÑĢÑĭ +ĠاÙĦاÙĨ ترÙĨت +Ġhö ch +Ġhöch st +Ġíĺ ķ +Ġíĺķ íĥľ +Ġв ой +Ġвой нÑĭ +ÐĽ Ðŀ +ìĭł ìļ© +Ġ×ŀ×ij ×ķס +Ġ×ŀ×ij×ķס ס +×ŀ׳ ×Ļ×¢ +Ġfiyat ı +ĠÑģл Ñĥж +ĠÑģлÑĥж бÑĭ +à¸Ĺั ศ +à¸Ĺัศ à¸Ļ +ãģĵãģ¨ãģĮ å¤ļãģĦ +Ġ×Ķ×ŀש ת +Ġ×Ķ×ŀשת ×ŀש +å¯Ħ ãģĽ +×ŀש׾ ×ķ×Ĺ +æĻĤ çĤ¹ +æĻĤçĤ¹ ãģ§ +à¸ŀร ี +à¸ŀรี à¹Ģมีย +à¸ŀรีà¹Ģมีย รà¹Į +à¸ŀรีà¹Ģมียรà¹Į ลีà¸ģ +Ġdiffic olt +Ġdifficolt Ãł +ãĥ¬ ãĤ¹ãĥĪ +ãĥ¬ãĤ¹ãĥĪ ãĥ©ãĥ³ +สม à¹Ģà¸Ķà¹ĩ +สมà¹Ģà¸Ķà¹ĩ à¸Ī +Ġж ид +Ġжид к +Ġzu peÅĤ +ĠzupeÅĤ nie +ĠÙħ جر +ĠÙħجر د +ãģĮ å§ĭ +ãģĮå§ĭ ãģ¾ +ãĤŃãĥ£ ãĥ© +Ġ×IJ ×ķ×ķ×Ļר +ãģĬ äºĴ +ãģĬäºĴ ãģĦ +Ġpot rÃł +ĠPa ÅĦst +ĠPaÅĦst wo +Ġب ÙĬاÙĨ +ĠبÙĬاÙĨ ات +Ġин огда +ĠÑĢ Ð° +ĠÑĢа ÑģÑĤв +ĠÑĢаÑģÑĤв оÑĢ +Ġ×ĸ ×ŀ׳ +ยิ à¹īม +Ä Ĩ +ãģ¾ ãģķ +ãģ¾ãģķ ãģ« +ãĥķãĤ¡ ãĤ¤ãĥ« +Ġgörd Ã¼ÄŁÃ¼ +สà¸ĩ à¸Ħร +สà¸ĩà¸Ħร าม +ĠArk adaÅŁ +ĠrozwiÄħz ania +×ŀ ×ķ×ĺ +pi ÄĻ +piÄĻ t +ص غر +ส ย +สย าม +ãĤĨ ãģ£ãģıãĤĬ +Ġtr ần +Ġeconom ÃŃa +Ġgeh ören +ãĤ·ãĥ§ ãĥ¼ +ĠsÅĤ ucha +à¸ŀà¸Ń à¹ĥà¸Ī +ĠоÑĤмеÑĤ ил +ÙĨت ÙĤÙĦ +Ġprop ósito +ĠваÑĪ ÐµÐ³Ð¾ +Ġnh ắn +à¹ģà¸ĸ ว +Ġком иÑģ +ĠкомиÑģ Ñģи +waż nie +Ġy avaÅŁ +×ŀ ×Ļ×§ +×ŀ×Ļ×§ ×ķ×Ŀ +ש×IJ׾ ת +Ġyıll arda +ĠÐ ® +ĠЮ ÑĢ +×ł×¡ ×Ļ×ij×ķת +ת צ +תצ ×ķ×Ĵ +Ġод нÑĥ +Ġ à¸Ńยà¹Īาà¸ĩà¹Ħร +Ġà¸Ńยà¹Īาà¸ĩà¹Ħร à¸ģà¹ĩà¸ķาม +ëģ ¼ +à¹Ħล à¹Ī +تس ÙĦÙĬÙħ +بÙĦ اغ +Ġì ī +Ġìī ½ +Ġìī½ ê²Į +ãĥļ ãĥ³ +зв ÑĥÑĩ +ĠW äh +ĠWäh rend +Ġ×Ļ ×Ļת +Ġ×Ļ×Ļת ׼ף +Ġkh uyên +Ġv ẽ +Ġа меÑĢ +ĠамеÑĢ Ð¸Ðº +ĠамеÑĢик ан +ĠамеÑĢикан Ñģк +ع جب +ãĥĽãĥ¼ãĥł ãĥļãĥ¼ãĤ¸ +Ġник ÑĤо +ĠÙĤ Ùİ +ĠÙĤÙİ Ø§ÙĦ +ĠÙĤÙİØ§ÙĦ Ùİ +ÐIJ ÐĹ +Ùħ جÙħÙĪØ¹ +ÙħجÙħÙĪØ¹ ات +Ġnecess itÃł +Ġpob li +Ġpobli żu +Ġph ấn +ĠСо обÑī +ÙħÙĤ اط +ÙħÙĤاط ع +Ġ×Ķצ ×ķר×ļ +la ÅŁtırma +ว ิà¸Ķ +วิà¸Ķ ี +วิà¸Ķี à¹Ĥà¸Ń +Ġ그리 ìĬ¤ +Ġ그리ìĬ¤ ëıĦ +ãĤ¿ãĤ¤ ãĥŁ +ãĤ¿ãĤ¤ãĥŁ ãĥ³ãĤ° +×§×ĺ ×Ĵ×ķר +×§×ĺ×Ĵ×ķר ×Ļ×Ķ +Ġ×Ĺ ×ķפ +Ġ×Ĺ×ķפ ש×Ļ +Ø£ جر +Ġим ени +ĠÑĢан ее +à¹Ģà¸ŀืà¹Īà¸Ńà¸Ļ à¹Ĩ +ĠJes ús +Ñģо един +Ñģоедин ен +Ġר ×Ĺ×ķ×§ +à¹Ĥà¸ļ รา +à¹Ĥà¸ļรา à¸ĵ +ĠH Æ¡n +Ġth áºŃp +تع ÙĬÙĬÙĨ +Ġtart Ä±ÅŁ +ĠtartÄ±ÅŁ ma +ĠGes pr +ĠGespr äch +תר ×ķפ +תר×ķפ ×ķת +Ġcat égorie +Ġоказ Ñĭва +ĠналиÑĩ ие +Ġprésent é +Ġk ull +Ġkull and +Ġkulland ı +Ġü nl +Ġünl ü +ĠÙģ Ùĥرة +из аÑĤоÑĢ +×IJ ×ķ׳ +×IJ×ķ׳ ×Ļ×ij +×IJ×ķ׳×Ļ×ij רס +×IJ×ķ׳×Ļ×ijרס ×Ļ×ĺת +ĠÑĢаÑģÑģ маÑĤ +ĠÑĢаÑģÑģмаÑĤ ÑĢ +ĠÑĢаÑģÑģмаÑĤÑĢ Ð¸Ð²Ð° +تÙĥÙĦ Ùħ +Ùĥت رÙĪ +ÙĥترÙĪ ÙĨÙĬ +ĠÑģо ÑĩеÑĤ +ĠÑģоÑĩеÑĤ а +ãĤĴè¦ĭ ãģĽ +Ġng ừa +ĠÐł еÑģп +ĠÐłÐµÑģп Ñĥб +ĠÐłÐµÑģпÑĥб лик +ãĤ¦ ãĤ© +ãĤ¦ãĤ© ãĥ¼ +ĠÐľ еждÑĥ +ĠìŀĪ ê²Į +Ġm â +ĠìļĶ ì²Ń +ض ار +ลุ à¹īà¸Ļ +ëĮĢ íķĻêµIJ +×ĸ ×Ļ׼ +×ĸ×Ļ׼ ר×ķף +ãĤ¹ ãĥļ +ãĤ¹ãĥļ ãĥ¼ãĤ¹ +ĠкÑĢаÑģ оÑĤ +ï¼ ¨ +ê¼ Ń +ãĤĴ éĽĨ +ãĤĴéĽĨ ãĤģ +ë° Ŀ +Ġ×Ķ׳ ×IJ +Ġ×Ķ׳×IJ ש×Ŀ +Ġê°Ģ ìļ´ +Ġê°Ģìļ´ ëį° +تÙĥÙĦ Ù쨩 +ĠØŃ ÙĤÙĬÙĤÙĬ +Ġh alk +Ġhalk ın +ÑİÑī ÑĥÑİ +ĠÑģп ин +סר×ĺ ף +ĠпеÑĢв ого +Ġпол ож +Ġполож иÑĤелÑĮн +Ġд л +Ġдл иÑĤелÑĮн +ĠV Ä©nh +ê´ ´ +ĠÑģÑĭ ÑĢ +ĠíĨµ íķĺìŬ +ë³ij ìĽIJ +à¹Ĥรà¸ĩ à¸ĩาà¸Ļ +รัà¸ļ à¸ľà¸´à¸Ķ +รัà¸ļà¸ľà¸´à¸Ķ à¸Ĭà¸Ńà¸ļ +تج ÙĨب +s ÅĤ +sÅĤ uch +ãĤ¢ãĥ« ãĥIJ +ãĤ¢ãĥ«ãĥIJ ãĥł +ëī´ ìĬ¤ +Ġpat ië +Ġpatië nt +Ġìĺ ¤í +Ġìĺ¤í ŀ +Ġìĺ¤íŀ Ī +Ġìĺ¤íŀĪ ëł¤ +ĠDer ne +ĠDerne ÄŁi +wró ci +wróci Äĩ +Ġоб Ñī +ĠобÑī еÑģÑĤв +ĠобÑīеÑģÑĤв енно +ĠêµIJ ìĪĺ +tıģ ımız +Ġ×Ķ×ŀש ×Ļ×ij +k örper +Ġпозв ол +Ġпозвол иÑĤ +ĠChi ến +أخ ÙĪ +ĠAy dın +à¸Ķà¹īาà¸Ļ ล +à¸Ķà¹īาà¸Ļล à¹Īาà¸ĩ +Ġdr u +Ġdru ż +Ġdruż yn +Ġë°ľ íijľ +ĠTh ảo +جÙĩ اد +à¸ģระà¸Ĺ ูà¹ī +Ġк ÑĢов +ĠкÑĢов и +Ġiçer ik +Ġnad zie +Ġnadzie jÄĻ +ĠС моÑĤÑĢ +Ġph ức +ج تÙħاع +جتÙħاع ÙĬØ© +ком пон +компон енÑĤ +Ġб ил +Ġбил еÑĤ +ãĥIJ ãĥ³ãĥī +ĠPol ÃŃcia +اÙĦ تÙĩ +اÙĦتÙĩ اب +ØŃر Ùģ +ت خط +تخط ÙĬØ· +ãĤ³ ãĥ¼ãĥ +ãĤ³ãĥ¼ãĥ Ĵ +ãĤ³ãĥ¼ãĥĴ ãĥ¼ +・・ ï½¥ +à¸ĭ à¸Ńย +Ġcréd it +è²· ãģ£ãģŁ +ĠпоÑĢ Ñıд +ĠпоÑĢÑıд ке +Ġph ó +Ġw ida +Ġwida Äĩ +جر ائÙħ +à¸ľ ี +ĠbÄĻd ÄĻ +Ġ×ŀ פת×Ĺ +ãĥij ãĥ¼ãĥ +ãĥijãĥ¼ãĥ Ĩ +ãĥijãĥ¼ãĥĨ ãĤ£ +ãĥijãĥ¼ãĥĨãĤ£ ãĥ¼ +ĠKa ż +ĠKaż dy +ĠнеобÑħодим оÑģÑĤи +à¸Ł à¸Ńรà¹Į +à¸Łà¸Ńรà¹Į ม +Ġмал ÑĭÑĪ +Ġпл оÑĤ +ĠÑĥ ÑģÑĤÑĢой +ĠÑĥÑģÑĤÑĢой ÑģÑĤва +à¸ĸ à¸Ńà¸Ļ +ĠoluÅŁtur ul +ĠÅĽwi ad +ĠÅĽwiad om +Ùħع Ùĩد +ĠпÑĢоиз веден +Æ ł +ר ×Ļש +Ùħست Ø« +Ùħستث Ùħر +׳×Ļ ×Ļר +pa ñ +Ġ; -) +Ġë°ľ 견 +Ġgör üyor +Ùħؤ ÙĦÙģ +ĠÄIJ á»ģ +ĠاÙĦÙĨ ÙĪØ§Ø¨ +×Ĺ×§ ×Ļר×Ķ +Ġm á»ıi +è¿° ãģ¹ +ÐĿ ик +ìŀĸ ìķĦ +ìŀĸìķĦ ìļĶ +prowadzi ÅĤ +l óg +lóg ica +פס ×ĺ +פס×ĺ ×Ļ×ij׾ +Ġ×ŀ ×ĵ×Ķ +Ġ×ŀ×ĵ×Ķ ×Ļ×Ŀ +ãģĵãģĵ ãģ¾ãģ§ +×Ķ ×ª×Ĺ +×Ķת׊׾×Ķ +Ġפ ×ķס +Ġפ×ķס ×ĺ×Ļ×Ŀ +Ġн ев +Ġнев оз +Ġневоз можно +ĠdostÄĻp ny +Ġغ اÙĦ +ĠغاÙĦ ب +Ġbez pieczeÅĦst +ĠbezpieczeÅĦst wa +åĪĨ ãģĭãĤĭ +ĠF ührung +à¸ģ ีà¹ī +gem Ã¤ÃŁ +à¸Ĭà¹Īวà¸ĩ à¹Ģวลา +Ġìļ°ë¦¬ ëĤĺ +Ġìļ°ë¦¬ëĤĺ ëĿ¼ +ãģ¥ ãģıãĤĬ +ĠاÙĦÙħ سÙĦ +ĠاÙĦÙħسÙĦ ØŃØ© +Ġlibert é +клÑİÑĩ ение +Ġzam ów +Ġzamów ienia +รà¸ĸ à¹Ħà¸Ł +Ø£ ÙģÙĦ +Ø£ÙģÙĦ اÙħ +Ùħ راج +Ùħراج عة +Ġë¹Ħ êµIJ +ĠاÙĦت اب +ĠاÙĦتاب عة +Ġë§Į ëĤĺ +Ġб Ñĥм +ĠбÑĥм аг +Ġgé nero +Ġìŀĺ 못 +×ŀ פ×ķר×ĺ +è²·ãģĦ çī© +ĠÙĦدÙĬ Ùĥ +Ġ×ľ×¢ ×Ļת +Ġ×ľ×¢×Ļת ×Ļ×Ŀ +ĠsÅĤ ab +ĠпÑĢедÑģÑĤав лÑı +ãĤ¿ ãĤ¤ãĥĪ +ãĤ¿ãĤ¤ãĥĪ ãĥ« +Ùħ ص +Ùħص Ø·Ùģ +ÙħصطÙģ Ùī +Ġdifficult é +ãĥĨãĤ£ ãĥĸ +Ġpew noÅĽci +ĠpewnoÅĽci Äħ +Ġ무 ìĬ¨ +Ø¥ رس +إرس اÙĦ +Ġд алÑĮ +ĠдалÑĮ ÑĪе +Ġ׾ ×ł×¡ +Ġ×ľ×ł×¡ ×ķת +หมูà¹Ī à¸ļà¹īาà¸Ļ +×ŀס×ŀ ׼×Ļ +أسÙĦ ÙĪØ¨ +Ġzw ÅĤ +ĠzwÅĤ as +ĠzwÅĤas zc +ĠzwÅĤaszc za +ĠпÑĢ ÐµÐ¶ +ĠпÑĢеж де +ĠоÑĢганиз аÑĨиÑı +Ġdön emin +Ġdönemin de +Ġ Ủ +ĠỦ y +ä¸ĭ ãģĴ +ĠпоÑģлед ние +Ġgü ne +Ġgüne ÅŁ +Ġ×IJ ×ĸר +Ġ×IJ×ĸר ×Ĺ×Ļ +ãģ§ãģĤ ãĤįãģĨ +ĠÙĨ ÙĤ +ĠÙĨÙĤ اط +æŃ£ ãģĹãģĦ +ĠÑĢ ÐµÐ³ +ĠÑĢег иона +ĠFör der +ê²½ ìĺģ +dıkl ar +dıklar ını +trzym aÄĩ +أش Ùĥ +أشÙĥ اÙĦ +×Ķת ×IJ +×Ķת×IJ ×ŀ×Ķ +à¸Ĺำà¹ĥหà¹ī à¹Ģà¸ģิà¸Ķ +ĠGeb ä +ĠGebä ude +ĠСеÑĢ Ð³ +ĠСеÑĢг ей +Ġз доÑĢов +ĠздоÑĢов ÑĮÑı +Ġr ãi +ĠпÑĢед ÑĥÑģ +ĠпÑĢедÑĥÑģ моÑĤÑĢ +ĠпÑĢедÑĥÑģмоÑĤÑĢ ÐµÐ½ +Ġ×Ķצ ×Ļ×ij +Ġ×Ķצ×Ļ×ij ×ķר×Ļ +Ġdés ir +Ġн оÑĩ +ĠноÑĩ ÑĮ +möglich keiten +Ġ×IJ×Ĺר ×ķ׳×Ļ×Ŀ +Ġsoir ée +ĠNh áºŃn +Ù ª +à¸Ľà¸£à¸°à¸§à¸±à¸ķิ ศาสà¸ķรà¹Į +êµIJ íĨµ +ĠØ£ Ø®ÙĬ +Ġdé cid +Ġdécid é +Ġwy ja +Ġwyja ÅĽni +Ġ สิ +Ġสิ à¸ĩ +Ġสิà¸ĩ หา +Ġสิà¸ĩหา à¸Ħม +à¹ģ à¸Ńรà¹Į +หà¸Ļà¹īา à¸Īà¸Ń +ס תר +Ġê ¶ +Ġê¶ Į +Ġê¶Į 리 +pl ätze +ب Ø·ÙĦ +ê±´ ìĦ¤ +Ġ×IJ ×Ļ×ŀ×Ļ +Ġ×IJ×Ļ×ŀ×Ļ ×Ļ׾ +ãģ ½ +تر اث +×IJ׾ ×Ļ×ŀ×ķת +Ġdispon ÃŃveis +Ġz ale +Ġzale ży +à¸Ľà¸£à¸°à¸Ĭา สัมà¸ŀัà¸Ļà¸ĺà¹Į +ĠÅļw iat +Ġpor ówn +Ġporówn a +Ġ׾×ĺ ×ķ×ijת +×Ķ×ĸ ×ŀ׳×Ķ +Ġ×Ľ×ª ×ķצ×IJ×Ķ +Ġ×ij ק׾ +Ġ×ijק׾ ×ķת +ĠоÑĤ кÑĢ +ĠоÑĤкÑĢ Ñĭва +ãĥij ãĥ¯ãĥ¼ +ë¿IJ ë§Į +Ġв ÑģÑı +ĠвÑģÑı к +ãģ¨ãģª ãģ£ãģ¦ãģĦãĤĭ +Ġgi áºŃn +Ġок ÑĢÑĥ +ĠокÑĢÑĥ жа +ĠокÑĢÑĥжа ÑİÑī +ĠUnivers ität +ĠÑĢ Ð¾Ð¶ +ĠÑĢож д +ĠÑĢожд ениÑı +Ø® ÙĬÙĦ +Ġкомпани й +ĠÑĢазлиÑĩ нÑĭе +ĠЦ ена +׳×Ļ ×ķ×ĸ +׳×Ļ×ķ×ĸ ׾ +׳×Ļ×ķ×ĸ׾ ×ĺר +Ġê³µ ê°Ħ +Ġê°ľ ëħIJ +landır ma +ĠÑĥдал ен +à¸ŀัà¸ģ à¸ľ +à¸ŀัà¸ģà¸ľ à¹Īà¸Ńà¸Ļ +Ġprote cción +Ġb ÅĤ +ĠbÅĤ ÄĻd +Ã Ī +Ġíĸī ë³µ +ĠÅŁ ü +ĠÅŁÃ¼ phe +Ġí Ķ +ĠíĶ ¼ +Ġíͼ íķ´ +Ġëĭ¤ 르 +à¹Ħมà¹Ī à¹Ģà¸ģิà¸Ļ +ãģ¿ ãģª +ãģ¿ãģª ãģķãĤĵ +ĠпоÑĤ ÑĢеб +ĠпоÑĤÑĢеб иÑĤел +ĠاÙĦÙĥÙĦ اÙħ +ìķĦ ë²Ħ +ìķĦë²Ħ ì§Ģ +ãĤĴ使 ãģ£ãģŁ +Ġbụ i +ĠпоÑĤ еÑĢ +ĠпоÑĤеÑĢ Ñı +ĠØ¢ ÙĦاÙģ +ĠнаÑģÑĤоÑıÑī ее +ãģıãģªãĤĬ ãģ¾ãģĹãģŁ +clus ão +ãĤ³ ãĥĶãĥ¼ +צ פ×Ļ +צפ×Ļ ×Ļ×Ķ +Ø® ÙĦا +Ø®ÙĦا ص +ล à¹īำ +ãĥ¯ ãĤ¤ãĥ³ +Ġมี à¸Ļา +Ġมีà¸Ļา à¸Ħม +Ø´ خص +شخص ÙĬات +Ġ×ĸ ×§ +Ġ×ĸ×§ ×ķ×§ +×Ļ ×Ļצ +×Ļ×Ļצ ×Ĵ +èĢĥãģĪ æĸ¹ +Ġürün ü +ĠиÑģп ол +ĠиÑģпол ни +Ġcompañ ero +×§ צ×Ķ +×ŀ×¢ ׳×Ļ×§ +Ùħ ØŃÙħد +Ġc ámara +Ġп ед +Ġпед аг +Ġпедаг ог +м аÑĢ +маÑĢ Ðº +×Ķת ׳×Ĵ×ĵ +ĠìĨĮ ê°ľ +Ġcom unitÃł +ê³ ¤ +ĠNg Ãłi +สà¸ĩ à¸ļ +ĠmieszkaÅĦ ców +ĠÙĨ ÙĩائÙĬ +iv ité +Ġи де +Ġиде алÑĮн +ĠØ£ سبÙĪØ¹ +Ġ×Ļ ×¢×ľ +Ġ׾ ר×IJש +Ġ׾ר×IJש ×ķ׳×Ķ +ĠзапиÑģ и +ĠкоÑĢ Ð¿ÑĥÑģ +วà¸ĩ ศ +วà¸ĩศ à¹Į +ĠÐĶ Ð¼ +ĠÐĶм иÑĤ +ĠÐĶмиÑĤ ÑĢ +Ġkön nt +Ġböl ges +Ġbölges inde +׼ ×Ļ׼ +׼×Ļ׼ ר +ĠاÙĦØ¥ Ø«ÙĨ +ĠاÙĦإثÙĨ ÙĬÙĨ +Ġng á»Ļ +ì¹ ł +د راج +Ġu da +Ġuda ÅĤo +ìº IJ +بر ÙĨاÙħج +ĠÑģÑĥд еб +ĠÑģÑĥдеб н +Ġzun ächst +ĠEduc ación +ãģ¨ãģª ãģ£ãģ¦ãģĦãģ¾ãģĻ +Ġ×Ķ×IJ ×ŀ×Ļת×Ļ +Ġİ nt +Ġİnt ernet +ĠcaÅĤ ego +ãĥĹãĥª ãĥ³ +Ø¥ بد +إبد اع +ĠпоÑĢ ÑĤал +à¹Ĥà¸ķ à¹ī +Ġ×Ķ×§ ש×ķר +пл од +ĠÙħ د +ĠÙħد رÙĬد +×ŀסע ×ĵ×Ķ +ĠØ´ÙĬ ئ +ĠØ´ÙĬئ ا +à¸ģà¹Īà¸Ń สรà¹īาà¸ĩ +Ġì°¸ ê³ł +à¹Ģà¸Ĺ ร +à¹Ģà¸Ĺร à¸Ķ +Ġ×ij×ŀ קר×Ļ×Ŀ +Ġb ât +Ġbât iment +åij¼ ãģ³ +ç´ł æķµ +ç´łæķµ ãģª +przedsiÄĻbior st +przedsiÄĻbiorst w +Ġ×ł×ª ×ķ׳×Ļ×Ŀ +×Ĺ׾ ×ķ×Ŀ +ร วย +Ùħ ÙĪØ¶ÙĪØ¹ +ĠÑģоб ÑĢан +вед ÑĥÑī +ĠÑĤе аÑĤ +ĠÑĤеаÑĤ ÑĢ +m eye +meye ceÄŁi +Ġpien iÄħ +ĠpieniÄħ d +ĠpieniÄħd ze +ÑĢез иденÑĤ +ØŃ صر +ìĺ ¥ +à¹Ģย ืà¸Ńà¸Ļ +ĠÑĥ ни +ĠÑĥни веÑĢ +ĠÑĥнивеÑĢ Ñģ +ĠÑĥнивеÑĢÑģ иÑĤеÑĤ +ĠاÙĦر ØŃ +ĠاÙĦرØŃ ÙħÙĨ +ĠÑĤеÑħ нолог +ĠÑĤеÑħнолог ии +ìĹIJ ëĦĪ +ìĹIJëĦĪ ì§Ģ +Ġíķ Ń +ĠíķŃ ìĥģ +à¸ĺ า +à¸ĺา à¸ķุ +ĠEspañ ol +×ĵ×Ĵ ש +Ġêµ ī +Ġêµī ìŀ¥ +Ġêµīìŀ¥ íŀĪ +ĠÅĤ at +ĠÅĤat wo +Ġk á»ĭch +Ø¥ ز +إز اÙĦØ© +ĠдейÑģÑĤв ие +ĠsaÄŁ layan +สุà¸Ķ ยà¸Ńà¸Ķ +Ġzosta Äĩ +Ġdispon ÃŃvel +ïº į +ver ständ +verständ lich +tw or +twor zyÄĩ +ع جز +à¹Ģà¸Ĥ à¹īม +ยà¹Ī à¸Ńม +Ġstrat ég +Ġstratég ie +à¸ľà¸¥ à¹Ħมà¹ī +Ġê°ģ ì¢ħ +ĠÙħ ÙĪØ§ +ĠÙħÙĪØ§ ض +ĠÙħÙĪØ§Ø¶ ÙĬع +اØŃ تج +اØŃتج اج +Ġ Ấ +ĠẤ n +×ŀ ×ŀש׾×Ķ +ĠÅŁek il +×ŀ ×Ĺ׾ +×ŀ×Ĺ׾ ×ķת +Ġ à¸ĺ +Ġà¸ĺ ัà¸Ļ +Ġà¸ĺัà¸Ļ วา +Ġà¸ĺัà¸Ļวา à¸Ħม +Ġìĭ¤ ìłľ +Ġìĭ¤ìłľ ë¡ľ +ì¤ij ìķĻ +ëįĶ ëĿ¼ +ĠÑĪ Ð¸ÑĢ +ĠÑĪиÑĢ Ð¾ÐºÐ¾ +Ġsol ución +วาà¸ĩ à¹ģà¸ľà¸Ļ +×IJ×ķ×ĺ ×ķ×ŀ +×IJ×ķ×ĺ×ķ×ŀ ×ĺ×Ļ +ĠÑĢ ÐµÑģÑĤ +ĠÑĢеÑģÑĤ оÑĢ +ĠÑĢеÑģÑĤоÑĢ Ð°Ð½ +ëį ¸ +ÑĤ ÑĢад +ÑĤÑĢад и +ÑĤÑĢади ÑĨион +ÑĤÑĢадиÑĨион н +มะ à¹Ģรà¹ĩ +มะà¹Ģรà¹ĩ à¸ĩ +à¹Ĥ ส +Ġol masını +×ŀ×ķס ר +ĠоÑĤноÑĪ ÐµÐ½Ð¸Ð¸ +Ġê°ĢëĬ¥ ìĦ± +Ġy uk +Ġyuk arı +ìĨ Ķ +ĠÑģ ÑĦ +ĠÑģÑĦ еÑĢе +Ġ×§ ×ķפ +ãĤ± ãĥ¼ãĤ +ãĤ±ãĥ¼ãĤ Ń +âĢķ âĢķ +ĠاÙĦØ£ ÙĦÙħ +ĠاÙĦØ£ÙĦÙħ اÙĨÙĬ +Ả N +ת×ķ׼ ׳×Ļ×ķת +ĠÑģÑĥÑīеÑģÑĤв ÑĥеÑĤ +æĪij ãĢħ +ĠاÙĦص ادر +ĠTr á»įng +Ġа д +Ġад миниÑģÑĤ +ĠадминиÑģÑĤ ÑĢа +ĠадминиÑģÑĤÑĢа ÑĨи +ĠдÑĢÑĥг ими +Ñģп еÑĪ +عÙĦاÙħ ات +Ġа б +Ġаб Ñģол +ĠабÑģол ÑİÑĤ +ĠабÑģолÑİÑĤ но +ฤ à¸Ķู +é tr +étr anger +нÑı ÑĤи +нÑıÑĤи е +×¢ ×ķ׳ +×¢×ķ׳ ש +ĠÙĤ ائ +ĠÙĤائ ÙĦا +Ġм аÑģ +ĠмаÑģ ло +ãĥī ãĤ¤ +ãĥīãĤ¤ ãĥĦ +å¿ħè¦ģ ãģĮãģĤãĤĬãģ¾ãģĻ +×ŀ×ķ×ĸ ×Ļ×IJ +×ŀ×ķ×ĸ×Ļ×IJ ×ķף +ĠNgo ại +Ġkê nh +à¸ģาร à¸Ńà¸Ńà¸ģà¹ģà¸ļà¸ļ +×ŀ פק +×ŀפק ×ĵ +ÙħÙĨ از +ÙħÙĨاز ÙĦ +ë· ° +íĹ ¤ +ÙħÙĩ ارات +Ġpropri été +פ×Ĵ ×Ļש×Ķ +Ñĩ ÑĢ +ÑĩÑĢ ÐµÐ¶ +ÑĩÑĢеж ден +×Ķ ×ķצ×IJ×Ķ +ØŃÙĥ ÙĬÙħ +ĠíĻ Ī +ĠíĻĪ íİĺìĿ´ì§Ģ +åİ ³ +åݳ ãģĹãģĦ +×¢ ×ŀ×ĵ×Ķ +ĠAu ÃŁen +سÙĪ Ø¡ +ë¹ Ī +ĠÙĪ Ø® +ĠÙĪØ® اصة +ин ÑĤеÑĢ +инÑĤеÑĢ ÐµÑģ +èĩ´ ãģĹãģ¾ãģĻ +Ġhük üm +à¹Ħà¸Ĥ มัà¸Ļ +Ġdav ran +Ġdavran Ä±ÅŁ +à¹Ģà¸ķ ียà¸ĩ +в ÑĢем +вÑĢем енно +à¹Ģà¸Ĺศ à¸ģา +à¹Ģà¸Ĺศà¸ģา ล +å¼ķ ãģ£ +å¼ķãģ£ è¶ĬãģĹ +×IJר ×ķ×Ĺ +×IJר×ķ×Ĺ ×ª +à¹Ģ วิ +à¹Ģวิ รà¹Į +à¸Ńยà¹Īาà¸ĩ รวà¸Ķà¹Ģรà¹ĩว +ĠìŬ íĸī +ĠÑĢан ÑĮ +ĠÑĢанÑĮ ÑĪе +Ġzob ow +Ġzobow iÄħ +ĠzobowiÄħ z +Ġ×ķ׼ ×ŀ×ķ×ijף +ĠاÙĦÙħ Ùĩ +ĠاÙĦÙħÙĩ ÙĨÙĬ +ãĤ¢ ãĤ¸ +ãĤ¢ãĤ¸ ãĤ¢ +ë°© ìĨ¡ +à¸Ńà¸Ńà¸ģ à¸ģำลัà¸ĩ +à¸Ńà¸Ńà¸ģà¸ģำลัà¸ĩ à¸ģาย +am éli +améli orer +å½ĵãģŁãĤĬ åīį +Ġreg elm +Ġregelm Ã¤ÃŁig +ãģĬ åĭ +ãģĬåĭ § +ãģĬåĭ§ ãĤģ +Ġm ưá»Ŀi +بر Ùħج +ĠNat ürlich +ĠD Å©ng +ĠاÙĦر جاÙĦ +Ġthé p +Ġol muÅŁtur +×ŀ×ķס ×Ļ×§×Ķ +f älle +주 íĥĿ +ĠاÙĦÙģ Ø±Øµ +Ġnaj wiÄĻks +ĠnajwiÄĻks zy +Ġça ÄŁ +ĠçaÄŁ rı +ì¸ ł +ĠvÃŃ ct +ĠvÃŃct ima +ĠÑģовеÑĢ ÑĪен +×Ķ×Ļ ×Ļת×Ļ +à¹Ģà¸Ķ ี +à¹Ģà¸Ķี à¹ĭ +à¹Ģà¸Ķีà¹ĭ ยว +ü yü +Ġд оп +Ġдоп олн +Ġдополн иÑĤелÑĮно +à¹ģà¸ķà¸ģà¸ķà¹Īาà¸ĩ à¸ģัà¸Ļ +Ġá l +Ġál bum +à¸Ľà¸£à¸°à¸Īำ à¸Ľà¸µ +ĠÑĦ едеÑĢ +ĠÑĦедеÑĢ Ð°Ð»ÑĮн +Ġobs ÅĤ +ĠobsÅĤ ugi +à¹Ģร ืà¹Ī +à¹Ģรืà¹Ī à¸Ńย +à¹Ģรืà¹Īà¸Ńย à¹Ĩ +ëģ Į +Ġngh ìn +ĠBaÅŁkan lıģı +تأ سÙĬ +تأسÙĬ س +Ġ×ij×ij ×ķקר +Ġ×¢×ij×ķ×ĵ ×ķת +Ġبص ÙĪØ±Ø© +ãĤıãģij ãģ§ãģ¯ãģªãģĦ +führ er +ãĤ¹ ãĤŃ +ãĤ¹ãĤŃ ãĥ« +ĠاÙĦÙĤ ض +ĠاÙĦÙĤض ÙĬØ© +Ġдолж ноÑģÑĤ +ÙģØ§Ø± ÙĤ +Ġcomeç ou +Ġorganis é +Ġxu ân +ĠÑģообÑī аеÑĤ +ĠпÑĢи д +ĠпÑĢид еÑĤÑģÑı +TÃľ RK +ãĥ¬ ãĥ¼ãĤ·ãĥ§ãĥ³ +Kh ông +است Ùģ +استÙģ Ø§Ø¯Ø© +ä¸ĬãģĮ ãģ£ãģ¦ +Ġum ie +Ġumie jÄĻ +ĠumiejÄĻ tn +ĠumiejÄĻtn oÅĽci +ëĤ ¸ +à¹Ģà¸Ļ à¸Ńรà¹Į +×ĵ×ķ ×ķ×Ĺ +ÃŃs imo +I ÃĬ +IÃĬ N +Ġalcan ç +Ġ à¸ķุ +Ġà¸ķุ ลา +Ġà¸ķุลา à¸Ħม +ש׾ ×ĺ×ķף +Ġél è +Ġélè ves +ĠÄij u +ĠÄiju á»ķi +ĠØ£ Ùģ +ĠØ£Ùģ Ø±ÙĬ +ĠØ£Ù쨱ÙĬ ÙĤÙĬ +ĠØ£Ù쨱ÙĬÙĤÙĬ ا +ãĤĴæİ¢ ãģĻ +ĠпÑĢед ложениÑı +ج اد +ĠÑħоÑĤ ÑĮ +Ñģ ал +Ñģал он +à¸Ľà¸£à¸° à¹Ģม +à¸Ľà¸£à¸°à¹Ģม ิà¸Ļ +ãĤŃ ãĥĥãĥģ +ãĤŃãĥĥãĥģ ãĥ³ +×ij×ĵ×Ļ×§ ×ķת +Ġch ù +Ġchù a +ÐĴ иде +ÐĴиде о +иÑĢов ка +ĠÑħоÑĤ иÑĤе +Ġspéc ifique +รส à¸Ĭาà¸ķิ +è¾¼ ãĤĵãģł +伸 ãģ³ +×Ķצ׾ ×Ĺת +ãģ©ãģ® ãĤĪãģĨãģ« +سع ادة +Ġл ид +Ġлид еÑĢ +ม à¸ĩ +มà¸ĩ à¸Ħล +ØŃ اÙħÙĦ +หล ุà¸Ķ +à¸Ńยà¹Īาà¸ĩ à¸ķà¹Īà¸Ń +à¸Ńยà¹Īาà¸ĩà¸ķà¹Īà¸Ń à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ +ãģķãģĽãģ¦ éłĤ +تس ÙĪÙĬ +تسÙĪÙĬ ÙĤ +ĠaÅŁaģı d +ĠaÅŁaģıd aki +ĠÑĨ елÑĮ +ĠÑĨелÑĮ Ñİ +ĠAra ÅŁtırma +à¸Ĥัà¸ļ รà¸ĸ +Ùĩ ذÙĩ +ลà¸ĩ à¸Ĺะ +ลà¸ĩà¸Ĺะ à¹Ģà¸ļ +ลà¸ĩà¸Ĺะà¹Ģà¸ļ ียà¸Ļ +تÙĥ اÙħÙĦ +Ġc io +Ġcio è +ãģ¦ ãģĬãģı +ĠاÙĦصØŃ ÙģÙĬ +ĠíĬ¹ ìłķ +полн иÑĤÑĮ +ãĤĵ ãģĺãĤĥãģªãģĦ +ãĤĵãģĺãĤĥãģªãģĦ ãģĭ +ĠاÙĦج Ùĩ +ĠاÙĦجÙĩ ات +ĠÑĥÑģпеÑĪ Ð½Ð¾ +Ġв ок +Ġвок ÑĢÑĥг +ĠÑģиÑĤÑĥ аÑĨиÑı +Ġ×Ķ×IJ ×ŀר +Ġ×Ķ×IJ×ŀר ×Ļ×§ +Ġ×Ķ×IJ×ŀר×Ļ×§ ×IJ×Ļ +×ŀ ×Ĵ×ĸ +×ŀ×Ĵ×ĸ ×Ļף +Ġак ÑĤÑĥ +ĠакÑĤÑĥ алÑĮн +é ta +éta is +Ġmog ÅĤa +ĠÑĤоÑĩ ки +Ġ×ŀ×Ķ ×ŀ×¢ +Ġ×ŀ×Ķ×ŀ×¢ ×¨×Ľ×ª +มี à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺà¸´à¸łà¸²à¸ŀ +×Ļר ×Ļ×ĵ×Ķ +×Ĵר ×ŀ׳ +×Ĵר×ŀ׳ ×Ļ×Ķ +Ġг лав +Ġглав ное +Ġ미 ëŀĺ +Ġ׳׼ ×ķ׳×Ķ +ĠÙĪ Ø·ÙĨÙĬ +op port +opport unitÃł +Ġh á»§y +ĠÙĦ تØŃ +ĠÙĦتØŃ ÙĤÙĬÙĤ +Ġó rg +Ġórg ão +ãĤ¹ ãĥĶ +ãĤ¹ãĥĶ ãĥ¼ãĥī +Ġön ü +Ġönü ne +Ùħع اÙħÙĦ +ש×ŀ ×Ļר×Ķ +ĠвеÑģÑĮ ма +ĠwiÄĻks zo +ĠwiÄĻkszo ÅĽÄĩ +Ġاست راتÙĬج +ĠاستراتÙĬج ÙĬØ© +ĠÙģ Ø¥ +ĠÙ쨥 ذا +à¹Ģà¸Ĭืà¹Īà¸Ń ม +à¹Ģà¸Ĭืà¹Īà¸Ńม à¸ķà¹Īà¸Ń +Ġ׾ פר +Ġ׾פר ×ĺ×Ļ×Ŀ +Ùħض ÙĬ +ĠGer çek +Ġçocuk ların +ÙĪØ« ائÙĤ +ĠÙħساء Ùĭ +Ġunterstüt zt +Ġpré st +Ġprést amo +ĠÐłÐ°Ð· меÑĢ +ĠÅŁ eker +Ġsé culo +×ij×Ķ ×Ļר +Ø´Ùĩ ÙĪØ± +Ġ à¸Ńีà¸ģ +Ġà¸Ńีà¸ģ à¸Ĺัà¹īà¸ĩ +Ġlleg ó +à¸¨à¸´à¸¥à¸Ľ ะ +æĪij ãģĮ +æĪijãģĮ å®¶ +ع ÙĤÙĪ +عÙĤÙĪ Ø¨Ø§Øª +ĠF älle +Ġs ÅĤuż +ĠsÅĤuż b +ĠاÙĦØŃÙĤ ÙĪÙĤ +Ġпл иÑĤ +Ġи ноÑģÑĤ +ĠиноÑģÑĤ ÑĢан +ĠиноÑģÑĤÑĢан н +à¹ĥà¸Ļ à¸Ĥà¸ĵะà¸Ĺีà¹Ī +ãĤ« ãĥĨ +ãĤ«ãĥĨ ãĤ´ +ãĤ«ãĥĨãĤ´ ãĥª +à¸Ńิ ส +à¸Ńิส ระ +à¹Ģà¸ľà¸¢ à¹ģ +à¹Ģà¸ľà¸¢à¹ģ à¸ŀร +à¹Ģà¸ľà¸¢à¹ģà¸ŀร à¹Ī +ãģĬ ãģĦ +ãģĬãģĦ ãģĹãģĦ +است ÙĤÙĦ +استÙĤÙĦ اÙĦ +تØŃ ض +تØŃض ÙĬر +åĬ© ãģij +Ùħر اÙģÙĤ +Ġ×ĵ ×ķר +Ġ×ĵ×ķר ש +×ŀת×Ļ ×Ļ×Ĺס +ס ×Ļ׼ +ס×Ļ׼ ×ķ×Ŀ +íĮĮ íĬ¸ +Ġwy ÅĽ +ĠwyÅĽ w +ĠwyÅĽw iet +ĠwyÅĽwiet l +ĠاÙĦاÙĨ ساÙĨ +ĠStra ÃŁen +ï¼ ¬ +ãģ« åŁº +ãģ«åŁº ãģ¥ +Ġcap ÃŃtulo +ลุ ย +Ġ×Ķ×ŀ×§ צ×ķ×¢×Ļ +ãģĤãĤĭ ç¨ĭ度 +á» ¢ +ĠاÙĦ ÙĦا +ĠاÙĦÙĦا زÙħØ© +æķĻ ãģĪ +Ġרש ×IJ×Ļ +з ав +зав иÑģ +завиÑģ им +à¸Ľà¸±à¸Ī à¸Īัย +à¹Ģà¸ĭ ล +à¹Ģà¸ĭล ลà¹Į +Ġdiffé rence +ĠAlt ın +Ġк ÑĢай +ĠкÑĢай не +Ġз ло +Ġgün ümüz +Ġн аÑĤÑĥÑĢ +ĠнаÑĤÑĥÑĢ Ð°Ð»ÑĮн +×Ĵ×ķ׾ ש×Ļ×Ŀ +Ġк аÑĤегоÑĢ +ĠкаÑĤегоÑĢ Ð¸Ð¸ +Ġз нак +à¸ģà¹Īà¸Ńà¸Ļ หà¸Ļà¹īา +à¸ģà¹Īà¸Ńà¸Ļหà¸Ļà¹īา à¸Ļีà¹ī +ĠÙħÙĨ ت +ĠÙħÙĨت خب +ãĥĽ ãĥ¼ãĥ« +Ġе вÑĢо +ส ว +สว ม +ĠìľĦ ìĽIJ +ĠìľĦìĽIJ ëĭĺ +ĠاÙĦØŃ ÙĪØ« +ĠاÙĦØŃÙĪØ« ÙĬ +ĠÑģодеÑĢж иÑĤ +ãĥķãĤ¡ ãĥĥãĤ·ãĥ§ãĥ³ +Ġ à¸ģัà¸Ļ +Ġà¸ģัà¸Ļ ย +Ġà¸ģัà¸Ļย ายà¸Ļ +ãĤª ãĥª +ãĤªãĥª ãĤ¸ +ãĤªãĥªãĤ¸ ãĥĬãĥ« +Ġб ÑĢенд +ãĤĴæĮģ ãģ£ãģ¦ãģĦãĤĭ +Ġinvers ión +Ġê° ĸ +Ġê°ĸ ê³ł +Ġnov itÃł +ê´Ģ ê´ij +Ġà¸ŀ ฤษ +Ġà¸ŀฤษ à¸łà¸² +Ġà¸ŀà¸¤à¸©à¸łà¸² à¸Ħม +×ķר ×Ĺ×Ļ×Ŀ +׼׾ ×ķ׾ +Ġng ạc +×Ļ ×Ļש +×Ļ×Ļש ×ķ×ij +f äll +fäll ig +ĠÑĤÑĢеб ÑĥеÑĤÑģÑı +Ġcar á +Ġcará cter +Ġprinc ÃŃpio +ĠÅĤ az +ĠÅĤaz ien +ĠÅĤazien k +Ġgi ãn +ÑģÑĤÑĢа ива +Ùħس اب +Ùħساب ÙĤØ© +à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩ à¸Ķืà¹Īม +ترÙĥ ÙĬب +vol ução +ĠÐŁ оÑĩ +ĠÐŁÐ¾Ñĩ ем +ĠÐŁÐ¾Ñĩем Ñĥ +казал оÑģÑĮ +ĠпÑĢимен ениÑı +à¹Ģà¸Ĺ ียม +íĮ Ķ +à¸Ĥà¹īà¸Ń à¹Ģสà¸Ļà¸Ń +à¸Ľà¸±à¸į à¸įา +Ġоб ÑĥÑĩ +ĠобÑĥÑĩ ениÑı +ĠÑģеÑĢ Ð¸ +ĠÑģеÑĢи ал +Ġingl és +ĠÙĦ Ùĥرة +Ġ×ĺ ׾ +Ġ×ĺ׾ פ×ķף +Ġìł ij +Ġìłij ê·¼ +×IJ ×ķ×Ĵ +×IJ×ķ×Ĵ ×ķס +×IJ×ķ×Ĵ×ķס ×ĺ +ĠболÑĮÑĪ Ð¾Ðµ +ĠÐļон еÑĩно +×¢×Ļת ×ķ׳ +×¢×Ļת×ķ׳ ×IJ×Ļ +Ġкноп к +Ġз н +Ġзн аÑĤÑĮ +ĠÄij á»± +ĠÄijá»± ng +вл аж +влаж н +×ŀ ×Ļ×ĺ×ij +ãĤ¬ ãĤ¤ +ãĤ¬ãĤ¤ ãĥī +........ .. +Ġà¸ģ ุม +Ġà¸ģุม à¸łà¸²à¸ŀ +Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀ ัà¸Ļ +Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļ à¸ĺ +Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļà¸ĺ à¹Į +be z +bez pieczeÅĦst +bezpieczeÅĦst w +ãĥijãĥij æ´» +ع اط +عاط Ùģ +ĠÄij áºŃm +Ġз ÑĢ +ĠзÑĢ ÐµÐ½Ð¸Ñı +Ġbor ç +Ġнед ел +Ġнедел Ñİ +Ġh á»ı +Ġhá»ı ng +ìŀ¥ ìķł +ìŀ¥ìķł ìĿ¸ +ĠاÙĦع ÙĦاÙĤØ© +Ġíģ ¬ +Ġíģ¬ ê²Į +à¹Ħร à¹Ī +à¸ļา à¸Ķ +à¸ļาà¸Ķ à¹Ģà¸Īà¹ĩà¸ļ +à¸Ŀ รั +à¸Ŀรั à¹Īà¸ĩ +à¸Ŀรัà¹Īà¸ĩ à¹Ģศ +à¸Ŀรัà¹Īà¸ĩà¹Ģศ ส +ר ×¢×Ļ +רע×Ļ ×ķ׳×ķת +Ġë Į +ĠëĮ ĵ +ĠëĮĵ ê¸Ģ +Ġnaj b +Ġnajb li +Ġnajbli ż +Ġnajbliż sz +ĠиÑģполÑĮз ÑĥеÑĤÑģÑı +Ġcient ÃŃf +ĠcientÃŃf ico +×¢ ×ŀ×§ +Ġg ợi +Ø´ ØŃÙĨ +ĠÅĽ m +ĠÅĽm ier +ĠÅĽmier ci +à¸Ħาสิà¹Ĥà¸Ļ à¸Ńà¸Ńà¸Ļà¹Ħลà¸Ļà¹Į +×Ĺש×ij ת×Ļ +Ġn ingu +Ġningu ém +è¾¼ ãĤģ +ãģ · +ĠÑĥ г +ĠÑĥг ол +ï½ ° +פת ×Ļ×Ĺ +פת×Ļ×Ĺ ×ª +Ġ×Ķר×IJש ×ķ׳×Ļ×Ŀ +p ósito +ãĤŃ ãĥ¬ãĤ¤ +ãģ© ãģĵãĤį +à¹Ģà¸Ĺà¹Īา à¹Ħ +à¹Ģà¸Ĺà¹Īาà¹Ħ หร +à¹Ģà¸Ĺà¹Īาà¹Ħหร à¹Ī +ĠинÑĤеÑĢ ÑĮеÑĢ +ĠØŃ اج +ĠØŃاج Ø© +สี à¸Ĥาว +ìĸ ¼ +Ġn á»Ļ +Ġná»Ļ p +ĠÃŃ nd +ĠÃŃnd ice +สำ รวà¸Ī +Ġкажд ой +Ġhot éis +Ġnast ÄĻ +ĠnastÄĻ pn +Ġ×Ķ×§ ×ķ×ĵ +Ġ×Ķ×§×ķ×ĵ ×Ŀ +פ ×ķפ +פ×ķפ ×ķ׾ +פ×ķפ×ķ׾ ר×Ļ +вÑĪ ÐµÐ¹ +ãĤ·ãĥ³ ãĥĹ +ãĤ·ãĥ³ãĥĹ ãĥ« +ĠzdjÄĻ Äĩ +ĠгÑĢÑĥпп а +Ġпом еÑī +ĠпомеÑī ениÑı +ãģ©ãģĨ ãģĦãģĨ +ĠиÑģп ÑĭÑĤа +Ġog ÅĤ +ĠogÅĤ os +ĠogÅĤos zen +ĠogÅĤoszen i +สรà¹īาà¸ĩ สรร +สรà¹īาà¸ĩสรร à¸Ħà¹Į +à¸ŀร รà¸ĵ +Ġçık Ä±ÅŁ +ĠÑĩаÑģÑĤ ноÑģÑĤи +Ġ×ķ ×Ļ×ķתר +ç¶ļãģį ãĤĴ +ç¶ļãģįãĤĴ èªŃ +ç¶ļãģįãĤĴèªŃ ãĤĢ +à¸ģร ั +à¸ģรั ม +г ÑĢаÑĦ +Ġв лад +Ġвлад елÑĮ +ĠвладелÑĮ ÑĨ +Ġistedi ÄŁ +ĠistediÄŁ iniz +×ij׾ ×¢ +×ij×ľ×¢ ×ĵ×Ļ +ÙħÙĪ Ø§Ùģ +ÙħÙĪØ§Ùģ ÙĤØ© +Ġ×Ļ ×ķר +Ġ×Ļ×ķר ×§ +ãĤ«ãĥ¼ãĥī ãĥŃãĥ¼ãĥ³ +ĠاÙĦÙħØ´ ÙĥÙĦ +ĠاÙĦÙħØ´ÙĥÙĦ Ø© +ĠêµŃ íļĮ +ס פ×ĺ +ספ×ĺ ×ŀ +ספ×ĺ×ŀ ×ijר +Ġìĸ´ ëłµ +Ùĥ اÙħ +ÙĥاÙħ ÙĬرا +sch lü +schlü sse +ĠØ« ÙĨ +ĠØ«ÙĨ ائÙĬ +ìī ½ +ĠÐŀ Ñģоб +ĠÐŀÑģоб енно +Ġин веÑģÑĤи +ĠинвеÑģÑĤи ÑĨи +اØŃ تÙħ +اØŃتÙħ اÙĦ +E Äŀ +EÄŀ İ +íķĺ ê²łëĭ¤ +Ġ×IJ ×ijר×Ķ +Ġ×IJ×ijר×Ķ ×Ŀ +Ġ×ij×Ĺ ×Ļ׳×Ŀ +Ø£ ÙĪØ¶ +Ø£ÙĪØ¶ اع +Ġdé l +Ġdél ai +Ġ×IJ×ķ×Ķ ×ij×Ļ×Ŀ +ĠÑģо Ñħ +ĠÑģоÑħ ÑĢ +ĠÑģоÑħÑĢ Ð°Ð½Ð¸ +ĠдоÑģÑĤ иж +ĠдоÑģÑĤиж ени +สิà¹Īà¸ĩ à¹ģ +สิà¹Īà¸ĩà¹ģ วà¸Ķ +สิà¹Īà¸ĩà¹ģวà¸Ķ ล +สิà¹Īà¸ĩà¹ģวà¸Ķล à¹īà¸Ńม +ĠاÙĦÙħ باشر +ĠÑĦ иг +ĠÑĦиг ÑĥÑĢ +мож ем +׾×ŀ×Ļ×ĵ ×Ķ +Ġcin é +Ġciné ma +Ġb ada +Ġbada ÅĦ +جب ÙĩØ© +Ġд еп +Ġдеп ÑĥÑĤ +ĠдепÑĥÑĤ аÑĤ +Ġdist ância +ĠاÙĦÙħ عار +ĠاÙĦÙħعار ضة +thè se +ü nc +ünc ü +Ġдан ного +ĠBel gi +ĠBelgi ë +Ġ×ij ×ij×§ +Ġ×ij×ij×§ ש×Ķ +ย à¹Īาà¸Ļ +Ġsol ução +Ġ×Ķצ ×ĺר +Ġ×Ķצ×ĺר פ×ķ +ĠØ£ÙĨ ØŃ +ĠØ£ÙĨØŃ اء +Ġد ÙħØ´ +ĠدÙħØ´ ÙĤ +มั à¹ī +มัà¹ī ย +Ùħ غرب +است عÙħاÙĦ +ĠS ÅĤow +ĠëıĻ ìĭľ +ĠëıĻìĭľ ìĹIJ +ĠÑģ оÑģ +ĠÑģоÑģ ед +ì²Ń ìĨĮ +ì²ŃìĨĮ ëħĦ +Ġг ÑĢаÑĦ +ĠгÑĢаÑĦ ик +Ġìŀij ìĿĢ +Ġyet i +Ġyeti ÅŁtir +ĠìĿ´ê²ĥ ìĿ´ +ห à¹Īาà¸ĩ +Ø¥ ÙħÙĥاÙĨ +Ø¥ÙħÙĥاÙĨ ÙĬØ© +است عراض +ÙħØ® در +ĠÑĩ ÑĥÑĤÑĮ +Ùħ دÙĬر +ÙħدÙĬر ÙĬØ© +Ġà¹Ģม ษ +Ġà¹Ģมษ ายà¸Ļ +Ġм еÑħ +ĠмеÑħ аниз +ĠмеÑħаниз м +ĠÑģ Ñĥм +ĠÑģÑĥм мÑĥ +Ġv ö +Ġvö ll +Ġvöll ig +Ġд ÑĢÑĥз +ĠдÑĢÑĥз ÑĮÑı +ãĤĴåĪ©ç͍ ãģĹãģ¦ +à¸ļรร à¸Īุ +po życz +×ŀש ׼ +×ŀש׼ ×ł×ª +×ŀ×©×Ľ×ł×ª ×IJ +Ġeuropé en +Ġpropri é +Ġproprié taire +Ġkh ấu +ãģĦãģŁãģł ãģijãĤĭ +Ġtec rü +Ġtecrü be +×Ķ ×ij +×Ķ×ij ׳×Ķ +Ġcu Ì +ĠcuÌ ī +ĠcuÌī a +×IJ ×ķ×ķ +×IJ×ķ×ķ ×Ļר×Ķ +Ġ׼×ķ׾ ×ķ +U lus +Ulus lararası +Ġ׳ ×ķת +Ġ׳×ķת ף +ãģ« åIJij +ãģ«åIJij ãģijãģ¦ +ë¹ Ľ +à¸Ĺ ัà¸ģษ +à¸Ĺัà¸ģษ ะ +س ÙĤÙĪ +سÙĤÙĪ Ø· +Ġв н +Ġвн еÑĪ +ĠвнеÑĪ Ð½Ðµ +Ġur z +Ġurz ÄĻd +Ġá mb +Ġámb ito +à¸Ń à¸ĺิ +à¸Ńà¸ĺิ à¸ļาย +Ġ ÅĤad +ĠÅĤad n +ê±´ ì¶ķ +wód zt +wództ w +Ġquest ões +Ġש ×§ +Ġשק ×Ļ×ij׾ +Ġmiejsc owoÅĽci +Ġв ал +Ġвал ÑİÑĤ +hä user +หà¸Ļ à¸Ńà¸ĩ +ãģ¨ åħ± +ãģ¨åħ± ãģ« +ãĥı ãĥ¼ãĥī +Ġê°ľ ìµľ +ĠоÑģнов ном +Ġм ÑıÑģ +اع ت +اعت ÙĤاÙĦ +สà¸ĸ ิ +สà¸ĸิ à¸ķิ +N gu +Ngu á»ĵn +ĠÙħ جÙĦ +ĠÙħجÙĦ Ø© +à¹ģà¸Ĥ à¸Ļ +ĠاÙĦÙĦÙĬ بÙĬ +פע×Ļ׾ ×ķ×Ļ×ķת +Ġ×Ķר פ×ķ×IJ×Ļ +פר ×ķפ +פר×ķפ ×Ļ׾ +×§ ׾×IJ +ק׾×IJ ס×Ļ +Ùĥت Ø´Ùģ +ãģ«ãģª ãģ£ãģ¦ãģĹãģ¾ãģĨ +à¹Ģà¸Ħล à¹ĩà¸Ķ +à¹Ģà¸Ħลà¹ĩà¸Ķ ลัà¸ļ +Ġì» ´ +Ġì»´ íĵ¨ +Ġì»´íĵ¨ íĦ° +Ġ×Ĺ×Ļ ×ķ×ij×Ļ +Ġnä m +Ġnäm lich +åij¼ ãģ° +åij¼ãģ° ãĤĮ +ĠÑĢ Ð¾Ð» +ĠÑĢол и +Ġspécial isé +à¸Ļ วัà¸ķ +à¸Ļวัà¸ķ à¸ģรรม +ÙĨص ÙĪØµ +пеÑĢ ÐµÐ´ +пеÑĢед аÑĩ +thè que +Ġר×IJ ×Ļת×Ļ +ãĥĢ ãĤ¦ãĥ³ +ãĤı ãģĭ +ãĤıãģĭ ãģ£ãģ¦ +беÑĢ ÐµÐ¶ +ĠÑģ ек +ĠÑģек ÑĢ +ĠÑģекÑĢ ÐµÑĤ +ĠпоÑģÑĤоÑıн н +à¸Ĥà¸Ļ สà¹Īà¸ĩ +Ġm ük +Ġmük em +Ġmükem mel +еÑĤ еÑģÑĮ +ĠاÙĦسÙĨ ÙĪØ§Øª +ĠìłĦ íĺĢ +Ġ×Ķ×ŀ×§ ×ķר×Ļ +Ġmü d +Ġmüd ah +Ġmüdah ale +Ġwy b +Ġwyb ór +Ġtend ência +Ø¥ دار +إدار ÙĬØ© +Ġunterstüt zen +ת ×ijר +ת×ijר ר +Ġdi á +Ġdiá logo +ĠÃĸ nce +ĠÃĸnce ki +ãĤ¹ãĥĿ ãĥĥãĥĪ +ëĦ £ +ĠG eli +ĠGeli ÅŁ +ãĤĴ éĢļ +ãĤĴéĢļ ãģĹãģ¦ +ĠFuÃŁ ball +Ġsal ari +Ġsalari é +ĠпÑĢодÑĥк ÑĤов +صÙģ ÙĤØ© +รว à¸ļ +รวà¸ļ รวม +à¹ĥà¸Ļ à¸IJาà¸Ļ +à¹ĥà¸Ļà¸IJาà¸Ļ ะ +Ġkay na +Ġkayna ģı +Ġìŀij íĴĪ +ĠвÑĭ ÑĢаж +ĠвÑĭÑĢаж ен +ĠÑģÑĤ еп +ĠÑģÑĤеп ени +ĠاÙĦÙħ ÙĪØ¬ÙĪØ¯ +ĠاÙĦÙħÙĪØ¬ÙĪØ¯ Ø© +ล à¹īม +Ġnaj czÄĻ +ĠnajczÄĻ ÅĽcie +ĠnajczÄĻÅĽcie j +Ġz wy +Ġzwy k +Ġzwyk ÅĤ +Ġê·¸ëłĩ ì§Ģ +à¸ģระ à¸Ī +à¸ģระà¸Ī าย +Ġëĭ µ +Ġëĭµ ë³Ģ +ĠÑĢе ак +ĠÑĢеак ÑĨи +ĠÅĽwie ż +ĠÑģÑĤоим оÑģÑĤи +ÙħÙĨ اÙĤ +ÙħÙĨاÙĤ Ø´ +ÙħÙĨاÙĤØ´ Ø© +ĠÑħоÑĩ Ñĥ +ãĥľ ãĥ¼ãĥī +Ġróż nic +Ġк ÑĢÑĭ +ĠкÑĢÑĭ ÑĪ +âľ ĵ +ãĤ³ãĥ³ ãĥĨãĥ³ +ãĤ³ãĥ³ãĥĨãĥ³ ãĥĦ +ĠпÑĢед поÑĩ +×ŀר ×ij×Ļת +ĠØ´ Ùĥ +ĠØ´Ùĥ را +Ġд ал +Ġдал ек +Ġдалек о +بر ÙĬØ· +برÙĬØ· اÙĨÙĬا +ع ÙĨا +عÙĨا ÙĬØ© +ĠÑĢаÑģÑģ каз +ĠÑĢаÑģÑģказ Ñĭва +Ø£ ÙĦÙĪ +Ø£ÙĦÙĪ Ø§ÙĨ +æĮģ ãģ£ãģ¦ +æĮģãģ£ãģ¦ ãģĦ +Ùħباد ئ +×Ķ ×¢×ijר +×Ķ×¢×ijר ת +Ġyay ı +Ġyayı ml +Ġyayıml a +m át +mát icos +à¸ģ ัà¸ĩ +à¸ģัà¸ĩ วล +Ġ׾ פת +Ġ×ľ×¤×ª ×ķ×Ĺ +à¸ŀฤ à¸ķิ +à¸ŀฤà¸ķิ à¸ģรรม +í Ĥ¬ +Ġок ÑĢÑĥг +Ġ×ŀצ ×ķ×ķ×Ķ +ÐĽ ени +ÐĽÐµÐ½Ð¸ н +ĠTri á»ģu +ãĤ³ãĥŁ ãĥ¥ +ãĤ³ãĥŁãĥ¥ ãĥĭ +ãĤ³ãĥŁãĥ¥ãĥĭ ãĤ± +ãĤ³ãĥŁãĥ¥ãĥĭãĤ± ãĥ¼ãĤ·ãĥ§ãĥ³ +Ùĥ ÙĨÙĬ +ÙĥÙĨÙĬ سة +ãĤĴ ä¸Ńå¿ĥ +ãĤĴä¸Ńå¿ĥ ãģ« +ĠmiÄĻd z +ĠmiÄĻdz yn +ĠmiÄĻdzyn ar +ĠmiÄĻdzynar od +ĠmiÄĻdzynarod ow +ÙĦ ÙĨ +ÙĦÙĨ دا +بر Ø´ +برش ÙĦÙĪÙĨ +برشÙĦÙĪÙĨ Ø© +à¸ģระ à¸ķุ +à¸ģระà¸ķุ à¹īà¸Ļ +Ġg ı +Ġgı da +à¸Ľà¸£à¸° à¸Ĺัà¸ļ +à¸Ľà¸£à¸°à¸Ĺัà¸ļ à¹ĥà¸Ī +Ġë¶Ī 구 +Ġë¶Ī구 íķĺê³ł +ĠÙĨ Ø· +ĠÙĨØ· اÙĤ +ĠÐľ ожеÑĤ +Pr äs +Präs ident +ĠÑģк оÑĢ +ĠÑģкоÑĢ Ð¾ÑģÑĤÑĮ +Ġ×Ķ×ij ×ķקר +еÑħ аÑĤÑĮ +Ġg ạo +Ġש×IJ ×Ļ׳×Ŀ +Ġ×ij׳ ×ķ×Ĵ +Ġ×ij׳×ķ×Ĵ ×¢ +Ġо пиÑģание +Ġucz ni +Ġuczni ów +à¹Ģà¸Ń à¹ĩà¸Ļ +Ġت Ø´ +Ġتش رÙĬÙĨ +Ġnh ãn +ë¹ ¨ +Ġcaract ère +×¢ ׾×Ļ +×¢×ľ×Ļ ×Ļ×Ķ +楽ãģĹ ãĤģãĤĭ +ĠÑģ аÑħ +ĠÑģаÑħ аÑĢ +дÑĥм аÑĤÑĮ +ĠÐĴоз можно +ص ÙĬاÙĨ +صÙĬاÙĨ Ø© +öm ür +ส ล +สล à¹ĩ +สลà¹ĩ à¸Ń +สลà¹ĩà¸Ń à¸ķ +ë¡ ¯ +Ġth ói +gr Ã¶ÃŁe +Ġksi ÄĻ +ĠksiÄĻ g +ĠÑĢ Ð¾Ð¼ +ĠÑĢом ан +ÙĤ اسÙħ +×ŀ×ij ×ķ×Ĵ +×ŀ×ij×ķ×Ĵ ר×Ļ×Ŀ +bes ch +besch äft +beschäft ig +×Ķצע ×Ķ +ĠÃģ rea +ĠзаÑıв к +Ä ¹ +ĠлÑİб ого +Ġ ม +Ġม à¸ģร +Ġมà¸ģร าà¸Ħม +ÑĦ из +ÑĦиз иÑĩеÑģк +ин ÑĦ +инÑĦ ек +инÑĦек ÑĨи +اÙĦ Ø· +اÙĦØ· ائÙģ +Ġкол л +Ġколл екÑĤив +ез жа +Ġس بØŃ +ĠسبØŃ اÙĨ +ĠسبØŃاÙĨ Ùĩ +sch lä +schlä ge +Ġд и +Ġди аг +Ġдиаг ноÑģÑĤ +ĠоÑĤмеÑĤ иÑĤÑĮ +Т Ь +ĠاÙĦ در +ĠاÙĦدر اسÙĬ +עצ ×ŀ +עצ×ŀ ×IJ×ķת +Ġdém arch +Ġdémarch e +Ġ×ĺ ×ķ×¢ +Ġ×ĺ×ķ×¢ ף +Ġfuncion ários +á» µ +׾ ׼×IJ +׾׼×IJ ×ķר×Ķ +à¸ĭ à¹Ī +à¸ĭà¹Ī à¸Ńม +ĠÑĩ Ñĥв +ĠÑĩÑĥв ÑģÑĤво +âĸ ¼ +п ÑĥÑī +пÑĥÑī ен +Ġм еÑĢ +ĠмеÑĢ Ð¾Ð¿ +ĠмеÑĢоп ÑĢи +ĠмеÑĢопÑĢи ÑıÑĤиÑı +Ġu çu +Ġuçu ÅŁ +ãĤĴåĪ©ç͍ ãģĻãĤĭ +a ÄŁ +aÄŁ lı +ìĺĪ ìĪł +à¹ģ ยà¹Ī +ĠاÙĦÙĥ Ùħ +ĠاÙĦÙĥÙħ بÙĬ +ĠاÙĦÙĥÙħبÙĬ ÙĪØªØ± +ت ÙĪÙĬ +تÙĪÙĬ تر +à¹Ģà¸Ĭ ีà¹Īยว +à¹Ģà¸Ĭีà¹Īยว à¸Ĭา +à¹Ģà¸Ĭีà¹Īยวà¸Ĭา à¸į +á» Ķ +Ġhi ếm +ذا Ùĥرة +Ġ×Ķ×ŀ×Ļ ×ķ×Ĺ×ĵ +ĠìĪ ľ +ĠìĪľ ê°Ħ +ĠK ı +ĠKı sa +Ġgele ceÄŁi +пÑĢо ÑĦеÑģÑģиона +пÑĢоÑĦеÑģÑģиона л +Ġog ó +Ġogó le +ĠgÅĤ ów +ĠgÅĤów ne +ĠÑģÑĤ илÑĮ +×IJ פ׾ +×IJפ׾ ×Ļ×§ +×IJפ׾×Ļ×§ צ×Ļ×Ķ +สม ารà¹Į +สมารà¹Į à¸Ĺ +สมารà¹Įà¸Ĺ à¹Ĥà¸Ł +สมารà¹Įà¸Ĺà¹Ĥà¸Ł à¸Ļ +Ġth ánh +ÐŁ од +ÐŁÐ¾Ð´ ÑĢоб +ÐŁÐ¾Ð´ÑĢоб нее +ĠاÙĦت ÙĪÙĨ +ĠاÙĦتÙĪÙĨ سÙĬ +Ġbah çe +à¹ģà¸ģà¹ī à¸Ľà¸±à¸įหา +é ducation +eu rop +europ ä +europä ische +ĠK si +ĠKsi ÄĻ +ĠëĦ ĺ +ĠëĦĺ ìĸ´ +Ġv üc +Ġvüc ud +Ġyay g +Ġyayg ın +Ġnie kt +Ġniekt óry +Ġniektóry ch +ãģŃ ãģĩ +Ġк аж +Ġкаж еÑĤÑģÑı +к аж +каж еÑĤ +ĠاÙĦ دÙĬÙħÙĤرا +ĠاÙĦدÙĬÙħÙĤرا Ø· +ĠاÙĦدÙĬÙħÙĤراط ÙĬØ© +æŃ © +æŃ© ãģĦãģ¦ +Ġv az +Ġvaz ge +Ġvazge ç +Ġмин ималÑĮ +ĠминималÑĮ н +ãĥij ãĤ¿ +ãĥijãĤ¿ ãĥ¼ãĥ³ +Ġë Ĭ +ĠëĬ IJ +ĠëĬIJ ëĤĮ +ãģ¡ ãĤĩãģĨ +ãģ¡ãĤĩãģĨ ãģ© +Ġ à¸ģร +Ġà¸ģร à¸ģà¸İ +Ġà¸ģรà¸ģà¸İ าà¸Ħม +تج دÙĬد +ĠØ´ اÙħÙĦ +หลัà¸ģ à¸IJาà¸Ļ +ĠмаÑĢ ÑĪ +ĠмаÑĢÑĪ ÑĢÑĥÑĤ +Ġv ÃŃt +ĠvÃŃt ima +Ġquiz á +ay gı +×ĵ×ijר ×Ļ×ķ +Ġиз д +Ġизд ели +Ġиздели Ñı +п ла +пла Ñĩ +плаÑĩ ива +ä»» ãģĽ +Ġéquip é +ä¹ħ ãģĹãģ +ä¹ħãģĹãģ ¶ +ä¹ħãģĹãģ¶ ãĤĬ +Ġк аÑĤ +ĠкаÑĤ ал +ĠкаÑĤал ог +ส à¹īม +ĠÑĢ ÐµÐ¹ +ĠÑĢей ÑĤ +ĠÑĢейÑĤ инг +Ġth uyá»ģn +ĠاÙĦÙħ ÙĤدس +esp ère +ãģ«åħ¥ ãģ£ãģŁ +หมาย à¹Ģลà¸Ĥ +ת×Ĺ×ķש ת +à¸Ļ à¹Īะ +Ġpe ÅĤ +ĠpeÅĤ ne +Ġpé rd +Ġpérd ida +หม วà¸Ķ +หมวà¸Ķ หมูà¹Ī +иÑĩеÑģк ÑĥÑİ +çµĤ ãĤı +çµĤãĤı ãģ£ãģŁ +Ġ×Ĵ ×ķ×Ĵ׾ +à¸Ĺำ à¸Ħวาม +à¸Ĺำà¸Ħวาม สะà¸Ńาà¸Ķ +Hot éis +Ġз аÑĢ +ĠзаÑĢ ÐµÐ³Ð¸ÑģÑĤ +ĠзаÑĢегиÑģÑĤ ÑĢи +ĠзаÑĢегиÑģÑĤÑĢи ÑĢова +ĠÑģ обÑĭÑĤи +ĠÑģобÑĭÑĤи Ñı +Ġ×ĸ ׼×IJ +ÙħÙĨظ ÙĪÙħØ© +Ġ×Ķ×ŀ צ +Ġ×Ķ×ŀצ ×Ļ×IJ×ķת +Ùħ ÙĥÙĪÙĨ +ÙħÙĥÙĪÙĨ ات +ä¸ĬãģĮ ãĤĭ +Ġm ÄĻ +ĠmÄĻ sk +หรืà¸Ń à¹Ģà¸Ľà¸¥à¹Īา +ëĤ ® +Ġnok tas +Ġnoktas ı +ĠболÑĮÑĪ Ð¸Ð¼ +ĠлÑĥÑĩ ÑĪиÑħ +Ø´Ùĩ ÙĬد +à¸Ńำ à¸Ļ +à¸Ńำà¸Ļ วย +à¸Ńำà¸Ļวย à¸Ħวาม +à¸Ńำà¸Ļวยà¸Ħวาม สะà¸Ķวà¸ģ +Ġе в +Ġев ÑĢ +ĠевÑĢ Ð¾Ð¿ +ĠевÑĢоп ей +à¸ī าย +ìĦ Ń +Ùħ Ù쨧 +ÙħÙ쨧 ÙĪØ¶ +ÙħÙ쨧ÙĪØ¶ ات +ë¹ Į +赤 ãģ¡ãĤĥãĤĵ +ĠÑĥдал оÑģÑĮ +ĠÐ¥ оÑĤ +ĠХоÑĤ Ñı +przedsiÄĻbior c +ĠH ôm +íķĺìĺĢ ìĬµëĭĪëĭ¤ +Ġн аг +Ġнаг ÑĢÑĥз +ĠнагÑĢÑĥз к +Ġ×ij×Ļ׳ ׾×IJ×ķ×ŀ×Ļ +Ġê°ĢëĬ¥ íķľ +ĠH ữu +à¸Ń ุà¸Ķ +à¸Ńุà¸Ķ ม +ת ×ķפ +ת×ķפ ×¢×Ķ +Ġmi ÅĤo +ĠmiÅĤo ÅĽci +ksi Äħż +ksiÄħż ka +ĠاÙĦÙĦ عبة +à¸ī าà¸ģ +สะ สม +×ŀ תר +×ŀתר ×Ĺש +Ġlég ère +Ġ׾צ פ +Ġ׾צפ ×Ļ×Ķ +ĠиÑģÑĤоÑĢ Ð¸Ñı +Ġ ãĥĪãĥ© +ĠãĥĪãĥ© ãĥĥãĤ¯ +ĠãĥĪãĥ©ãĥĥãĤ¯ ãĥIJãĥĥãĤ¯ +Ġк а +Ġка ÑĦе +×ŀס×ŀ ×ļ +Ġc üm +Ġcüm le +à¹Ģà¸Ħลืà¹Īà¸Ńà¸Ļ à¹Ħหว +ãģĬ ãģĿ +ãģĬãģĿ ãĤīãģı +ìŀIJ ëıĻ +ìŀIJëıĻ ì°¨ +à¸Ńั à¸ķ +à¸Ńัà¸ķ à¹Ĥà¸Ļ +à¸Ńัà¸ķà¹Ĥà¸Ļ มั +à¸Ńัà¸ķà¹Ĥà¸Ļมั à¸ķิ +ĠÅŁ ik +ĠÅŁik ay +ĠÅŁikay et +extr ême +kr ä +krä fte +ëĤ Ļ +íķ ij +ì² Ļ +íĺ Ī +ì° į +âĻ ¡ +ìŀ Ķ +ë¢ ° +íĿ Ķ +íĿ IJ +âĩ Ĵ +ë§ Ľ +ìĬ Ī +á» Ĵ +ìĺ µ +âĹ İ +í Ĥ¨ +ê¿ Ī +ìĪ ¨ +ìĽ ¨ +ë§ ¥ +ï½ Ģ +ï¼ ª +Ạ¨ +ãħ İ +Ñ Ĺ +ìĦ ¬ +ì¹ ¼ +ï¼ ¶ +ìĽ ł +ëŁ ´ +Å ĥ +ëĤ ¼ +ëĭ IJ +âĢ ¹ +ë¦ Ń +ì§ IJ +âĢ ¤ +à ħ +ëľ ¨ +íĦ ¸ +íľ ĺ +ê² ģ +ë´ ħ +à ĺ +ëŃ Ķ +ëĺ ij +âĹ ĩ +ìĹ ĺ +ï» ´ +ë§ ¹ +ï¾ Ŀ +ìĬ · +íĥ ķ +ï¼ ł +ì» ´ +ëł Į +ì½ ľ +ï» ¹ +ãħ ł +ì¡ ¸ +ëħ ¹ +âĤ º +âĸ ¶ +íĥ IJ +êµ ´ +íij ¸ +Ñ Ķ +íĶ ½ +Ð ħ +ë° ¤ +Ô ģ +ì² ¨ +ì¶ ĺ +ë² Ĺ +ë© ¸ +ï¼ » +ï¼ ½ +ï¼ · +ì° Į +à Ĵ +íı ´ +ìĵ ¸ +ì´ Į +ëģ Ķ +ëĶ © +ëĩ Į +ë© Ģ +ë² ¨ +ï¼ µ +ë§ ¡ +ëĭ « +ภ¿ +ãģ ± +ìĩ ¼ +ìº ł +ë® ¤ +ê± ± +ì» ¬ +âĦ ĥ +ëĶ ± +ëĥ Ī +ìĭ ± +íĻ Ī +ëŀ IJ +ìħ Ģ +ìł ł +Ð Ĩ +ëł ī +ï½ ħ +ï½ ı +íĻ Ģ +ëĽ ° +á» ® +í Ĥ¹ +ê½ ĥ +ï» ¤ +ïº Ķ +êº ¼ +ìķ ī +âĻ ¦ +ï½ ģ +ìĵ ´ +ãĢ ī +ì° ® +ì¤ ĺ +á» ª +ëģ Ħ +ëIJ ¨ +ìķ Į +íĿ ĺ +íħ IJ +ãĢ Ī +ê² ª +ëĭ ¥ +ê² ¼ +á» Į +ë§ ¨ +ëģ Ĭ +ë² ¤ +ëij Ķ +íĿ ¡ +á» ¬ +ë¬ ĺ +ãģ ī +ëŀ « +íĶ Ī +í ħį +ìŀ ĥ +ï½ ī +ìģ ľ +âĸ ½ +ë¬ » +âĸ ³ +ï¼ ¸ +ìģ ĺ +ì¶ ° +ìĬ ´ +ìķ ± +ìĩ Ħ +Ạ® +ï´ ¿ +ï´ ¾ +âĤ ½ +ëĦ ĵ +ë£ © +ì³ ¤ +ê´ ľ +Ã Ļ +á» ľ +ï¿ £ +ëĵ Ń +ë© ĺ +ê» ´ +ëł ´ +Ð ĥ +ë¬ µ +ì§ Ŀ +ãģ º +ðŁĺ Ĥ +ëŀ ¬ +ìł Ĭ +ê´ Ħ +ìŀ Ĭ +íŀ Į +ìĦ ¯ +âĪ Ģ +âĸ ¡ +ëĢ Į +ëŀ Ļ +ï½ ĥ +Ạ¶ +ï¾ Ħ +ïº ĺ +ë¹ ¼ +à Į +âĸ · +ê¸ į +ë© ĭ +ãģ ĥ +ìĺ Ĩ +ìĺ ® +ëª ¬ +ë¡ ¤ +ëł ¬ +ëĬ ¦ +âĸ ª +ì¼ ĵ +ìľ Ī +ì§ § +ï½ ½ +ëĥ ī +ï¾ Į +ëĺ IJ +ï¼ ĥ +á» Ħ +ì´ ¬ +ì¶ ¤ +ï¼ ¹ +ï» Ń +âĤ « +ï½ ĩ +ìĺ · +ëĸ ¨ +âī « +ë¦ ¿ +âľ ¨ +Ù ± +ì¯ ¤ +ê¹ Ķ +ðŁĺ Ĭ +ìĪ « +ê³ ± +êµ ³ +ï½ ĭ +ภĮ +Ä ł +ëĶ ¸ +ë° ij +ìħ ĭ +íİ ´ +âľ ħ +íĥ ij +ëĪ ĩ +íı ¼ +ðŁĺ į +ìĺ Ľ +ï» £ +Ñ ĺ +ì© Į +ë¦ ħ +ìĿ į +ï½ ¸ +ëį ľ +ãģ ħ +íİ ¼ +ëĭ Ŀ +ë¿ Į +ì¼ ° +ìĭ « +ë° ¥ +íĽ Į +ì¨ Į +ë¹ Ļ +ï½ İ +ë´ Ħ +ìĦ ¹ +ï½ ² +ìĮ ĵ +Ò ij +ë° į +ëł Ģ +íĨ ¤ +ï½ ¯ +ë¤ Ħ +ê½ ¤ +ï½ Ĵ +ìķ ¨ +ï½ ¼ +ê¹ IJ +íģ IJ +âĦ ĸ +ë§ º +ïº ® +ëħ ģ +ê² ¸ +ï» ł +íĬ ľ +Å ¹ +ë¥ Ń +ëĪ ī +ï½ Ķ +íĮ ¬ +ìŀ ĩ +ï ¬ģ +ï» ¨ +ëij ¥ +ëŀ Ħ +Ù ¬ +íĭ ´ +ìŀ ī +Ú ¾ +ìĽ ħ +ï» ® +ëĭ ī +âī ª +âĹ Ħ +ëĪ Į +íĽ ¼ +ì¤ į +Å ¸ +ì¤ ¬ +ì¾ Į +ï½ ĵ +ï¾ Ĭ +ðŁı » +ï¾ ī +Ð ģ +íĺ IJ +ï¾ Ļ +ê¼ ¬ +íŀ IJ +âĢ ¥ +ëŁ Ń +ë§ ŀ +ìĥ ¤ +ïº Ĵ +íĭ ± +ë½ ij +à ķ +âĪ ļ +ëĤ Ħ +ê¹ Ŀ +ëĨ Ī +Ạº +ìħ Ī +ìĮ į +âĢ ¡ +ï¼ ± +ìģ ¨ +âĺ º +ëĴ · +ìĺ ³ +ðŁij į +ëª ½ +ëĤ Ń +ïº Ń +ë© Ī +á» Ī +íķ Ģ +ëĭ Ļ +ë¦ ĩ +ìķ ¤ +ìį ¼ +ãĥ µ +Ñ £ +ìľ Ĺ +â ŃIJ +ï¾ ĺ +íĹ ¬ +ê¾ ¼ +ìķ Ĺ +ï» Į +ê± · +ëħ ķ +ë¡ ± +ìķ Ĭ +ï¾ Ģ +ìĩ ł +íĮ © +ïº ª +ë§ Ļ +ï¼ ¿ +ê¿ Ķ +íİ ľ +ë£ ¸ +íĶ Ķ +ï» ³ +ëı ķ +ìĭ ¼ +á» İ +ë§ ĺ +ì¢ ĭ +íĨ ¡ +ï½ ± +íĿ ij +á» ¸ +ì¦ Į +ì¹ ¸ +ëŃ ĺ +ï¾ Ĺ +ï» ĭ +íĬ Ģ +ë¥ Ļ +ì½ © +ëģ Ĺ +ëį ´ +ìħ ľ + ¸ +ë» IJ +ìĥ µ +ê² IJ +ëĵ ¬ +ë£ ° +ãħ ĭ +ìĹ ī +á» ĸ +ëĦ Į +ï½ ¶ +ë´ ĩ +ëĤ ³ +ãĤ ľ +ëĸ » +íİ Ģ +ëį © +íķ ¸ +à · +ê¼ ¼ +ëĶ ľ +ë° ´ +ë© į +âĹ ¯ +ìĹ ij +ìĻ ¼ +ïº ij +ë¶ ķ +ë¡ ¬ +ï½ Į +íĨ ¨ +ïº ´ +ëł ĺ +ê° ¤ +ìĪ ² +Ñ ĵ +ìħ ī +ï» ĵ +ëĪ Ķ +ëį § +âĢ ¼ +ï» ² +ê° ± +ê¿ Ģ +ëĭ · +Ạ¸ +Ạª +Æ Ĵ +ëį ¤ +ìĪ Ń +ï½ Ĥ +ï½ Ī +Å ł +ë£ ¬ +Ñ µ +ëĸ ¡ +ëĥ Ħ +ìĦ ° +ëĵ Ī +ï¾ ĥ +ëĩ ¨ +ï½ IJ +êµ ½ +ìĹ ½ +ëĤ Ģ +ë¬ ¶ +ï½ · +ìı Ł +íĺ Ķ +ê¼ Ī +ëģ Ī +ì¥ IJ +ïº Ĺ +Ä Į +ëĪ ł +ëĸ ¼ +íĢ ´ +âī ¥ +ëĭ Ń +ì± Ļ +ê» ı +ë© ¤ +ìĥ ĺ +ëį ® +ë£ ¡ +ìĤ ½ +ãĪ ľ +Ä ¨ +âĢ § +ï½ º +Ä £ +ì¦ ī +ï¼ ¼ +Û © +âĪ Ļ +ë° ı +ë¹ ħ +ðŁĺ Ľ +íĪ ´ +ðŁĴ ķ +ãĢ Ĵ +ìŀ ĺ +ïº ¤ +ï½ ĸ +ë© ľ +ë² ¼ +ëĿ Ħ +ëļ ľ +ï» ĺ +ìĥ Į +ï½ Ħ +ì© Ķ +ï½ Ļ +ïº © +Û ŀ +âĺ İ +ìł ¤ +ëIJ © +Å Ŀ +âŀ ¡ +ï» § +Ð ı +ì« ĵ +ê³ ½ +É ij +ãĥ ² +ëĤ « +ë¦ ī +ì¢ ģ +ë° Ń +ðŁĺ ģ +ë¹ µ +ì² © +ì» µ +ðŁĺ ĺ +ë± ħ +âī Ī +ë¹ ļ +ï» ľ +ðŁĻ ı +íģ ° +ìĦ ŀ +ï¾ ļ +ìĺ ¹ +ë¼ Ī +ëĤ ¯ +ëŀ © +íļ ¡ +ï½ ķ +íĥ ĵ +ëĿ ł +ê³ ģ +ëĵ Ģ +ìĹ ł +ï¼ º +ë§ ij +ëĭ ¿ +ì¿ ¨ +ãİ ¡ +Ð Ĭ +íĦ ± +Å ¨ +ïº ³ +ï¾ ı +âĭ ħ +ê¼ ´ +âī ¤ +íĮ ģ +Î © +ê¶ ¤ +ìĪ į +âľ ¿ +ì½ ¤ +ëĪ ħ +íĨ ± +ãħ ľ +áIJ ħ +Å Ĵ +ðŁij ī +ï» ¦ +Ð ª +ë¥ ľ +íķ « +ï¾ ĭ +âĻ « +ê¹ ľ +ë° ¸ +ëĶ ĺ +íĿ ī +ï¾ ģ +ï¾ Ľ +ëł Ľ +ê² ¹ +ì¿ ¼ +ï» ¬ +âŀ ¤ +ðŁĻ ģ +ïº ł +ëĨ ¨ +ë¯ ¹ +ê¸ ĭ +ë» Ķ +ê¹ ĥ +ëij ij +íĭ ¸ +íİ Ļ +âŀ ĸ +ãĥ ½ +ì§ ļ +ï½ ¬ +ï» ¥ +íĮ ½ +âĢ Ĵ +ì ĮĢ +ìŃ ī +ëļ ± +ãĤ ŀ +íĭ Ī +ãĤ IJ +ëī ĺ +Î £ +ê³ ° +ë¹ Ĺ +ï¾ İ +ðŁĺ Ń +íĿ ł +ìĹ ¿ +ê° ļ +ì¤ Į +ë§ µ +ï½ ³ +ãģ ¢ +ï» Ĺ +âī ¦ +Ú ¤ +ë łģ +ê¼ ½ +ï» « +âī § +ì´ Ľ +ìł Ŀ +Ạ° +âĻ £ +ìº ĺ +âĪ ĩ +ê² ī +ë° Ł +ï» Ķ +íĸ ĩ +âĸ Ĵ +ðŁij ı +à ŀ +ðŁĺ Ĩ +ïº ¼ +âĿ Ĺ +ìº Ķ +ì¹ © +ëĸ ¤ +ëĥ ħ +âĶ ľ +ï½ » +Î Ķ +áĥ ¦ +ìŀ İ +âĺ Ģ +âĪ ¼ +ðŁĶ ¥ +ë° Į +ìł ĸ +íĹ Ľ +Î ķ +ïº ĥ +ë¶ ī +âĪ ŀ +íĥ Ń +à ĭ +âģ Ħ +ãħ ĩ +ëĦ ¥ +ëĭ ® +ëł · +íĮ Ŀ +ìº ¡ +ë· Ķ +ì© į +íĤ ´ +ëļ « +âĵ Ĵ +íķ į +âĻ Ĥ +ï¾ Ĩ +âĨ © +ìį © +ïº ķ +íĿ Ļ +Ñ ľ +íĤ · +íĿ ° +íĥ ± +ëķ IJ +ï¾ Ĵ +× ĥ +ëĮ Ħ +ìĺ ´ +ìķ µ +ê¹ ¥ +ëŀ Ń +ìª ¼ +ãİ Ŀ +ðŁĺ ħ +ëı ĭ +ëª « +ïº ¸ +ë® ¬ +ë² ħ +ëij ł +ìħ ° +ì» · +ëĶ ª +ëħ Ķ +ãħ ¡ +ìĶ » +íķ ı +ëį ± +ïº ¨ +ï¾ į +ï½ µ +ì¢ Ģ +íİ Į +ï» ° +ïº £ +Æ £ +ðŁ¤ £ +ï· º +ëĤ ļ +âĭ Ĩ +ë³ į +ðŁĺ Ħ +ìĸ Ģ +ìĻ ł +ëĨ Ķ +íĹ ¨ +ï» Ľ +ï» Ŀ +á» ¶ +ìĸ ĺ +ìİ Ħ +Ú Ĩ +ï» ŀ +ëĢ IJ +ê² Ķ +ï» µ +âĹ ¦ +íļ Ł +ê¹ ģ +ê° ĵ +ëĶ ´ +ìı ĺ +ëļ Ŀ +á» ł +ëŀ ´ +ëĦ ī +âĺ ŀ +ï½ ĺ +Å ½ +ë¦ İ +âĸ ¬ +ëŃ ī +âĩ Ľ +ìį ¬ +ïº Ł +Ë ľ +ë¶ ĵ +ìĽ ° +Å ľ +ëŃ ĩ +á» ² +Ë ļ +ëķ Ģ +âĺ ij +ðŁı ¼ +ìĸ ½ +âĮ Ĵ +Ð İ +É ¾ +íĮ ¡ +ï¾ ħ +ìŀ Ń +ï½ ¨ +ì¹ « +ìľ Į +Ò Ľ +êµ ¿ +ëĭ ¦ +âĶ Ķ +ï¾ ij +ì§ ĸ +ìº Ħ +ãĢ ĥ +Ê ¼ +ê² Ł +ï½ § +Ä ¢ +íİ ł +ë§ · +ê° ĩ +ìĭ ¹ +ðŁĴ ¦ +ï¾ ľ +ëĬ Ļ +ë² ¡ +Å ¿ +ðŁĺ ĭ +ðŁĴ ª +ì¿ Ħ +ë© ķ +ìŃ ¤ +ëĬ Ħ +ðŁĮ ¸ +ãĤ Ŀ +Ç İ +ï½ ļ +Ä Ĺ +ëģ ĵ +ê¶ IJ +áµ ī +ãĥ Ĥ +ê» į +ðŁĺ ¦ +ãĢ Ŀ +ðŁ¤ Ĺ +Ñ Ł +ìĹ İ +âľ Į +ìī IJ +à Ĩ +íĹ IJ +ðŁİ ī +Î ij +ï½ Ń +ðŁĴ Ļ +ìĽ ¬ +íĢ ĺ +ï» ¢ +ðŁĺ İ +íij ¼ +íĿ © +ï» Ħ +íħ Ģ +ëł IJ +ì¥ ¬ +Ð ĭ +ìĥ · +ëľ ¬ +ðŁĺ ĥ +ëĦ ¬ +ë¥ ¨ +ìĽ į +ï½ Ĩ +ï½ ´ +ãĥ ħ +à ı +ï» ª +âĻ ł +ëĬ ¬ +ë± Ģ +ë° ĭ +ìĥ Ģ +ï½ ¾ +ëĤ ± +ì» ¸ +ðŁĴ ĸ +ðŁij Į +Ñ ŀ +ì§ ± +Ë Ĩ +ðŁĵ ļ +âŃ ķ +ï¬ Ĥ +ï» ¡ +ëij ¬ +íĪ ¼ +âĸ ¸ +ê° ¯ +ê¹ ħ +ï½ ® +ëĺ ¥ +Ä ¡ +íĮ Ł +Ð Į +ìĨ Ł +ïº ĵ +ï» ¼ +à Ľ +ãĥ ¾ +ëĮ ĵ +íĴ ĭ +ìķ ĵ +ï½ ¹ +ëĤ ¡ +ðŁij ĩ +Ạ¼ +ãĢ Ł +ðŁĮ Ł +íĥ ł +ãĢ Ĩ +âĢ Ł +ë¸ IJ +ðŁĮ ¹ +ìł ¼ +ðŁĵ Į +ìĶ ¬ +âĹ Ģ +ðŁĴ ĵ +ê¹ İ +ìĤ IJ +ìĶ Į +Ñ Ľ +âĶ Ī +ë² ³ +ãİ ŀ +Õ ¡ +íĤ µ +ðŁ¤ Ķ +ëĢ Ķ +ìĬ IJ +íĻ ī +âľ ¦ +ëľ ¯ +ìł ¯ +ëĶ § +Î ¦ +Ë Ī +ìī ¼ +âĹ Ĭ +ëľ © +ëľ ° +ï¾ IJ +ë¿ Ķ +ìĹ ® +ì· Į +ïº § +Î Ĵ +ëµ Ļ +ï» Ĭ +ì° Ķ +íİ Ħ +ðŁĴ Ĺ +Ạ´ +ì° ¢ +íľ ¼ +ê½ Ĥ +ì± Ķ +ìī ´ +âĸ ¾ +íĪ ° +ëĭ Ľ +âĿ £ +ï½ ª +ðŁĴ ľ +Ë ĺ +ãħ ¤ +âĨ Ĺ +íĸ Ħ +âĻ ¬ +ìķ ° +ïº ľ +âī ¡ +ãĢ ĵ +ìij ¥ +íĮ į +íī ģ +ë» Ĺ +íľ ł +íľ © +âľ Ī +íĢ Ħ +ìĸ ĩ +ì¢ ĩ +íŀ Ļ +ëª ¹ +ãĤ Ľ +ðŁĺ ± +ëį Ł +๠ħ +êµ ¶ +Ù « +ìĶ ģ +âľ ª +ï¾ Ī +ðŁĻ Į +âļ ¡ +Î ļ +ì¼ Ī +ï¾ Ķ +ï¾ Ĥ +êµ ī +ïº » +ðŁĴ ĭ +á¹ £ +Ó Ļ +ìĨ ľ +ìĹ £ +âľ © +ìľ Ļ +ïº ° +Ạ² +ìŀ £ +âĿ Į +âĺ ģ +ìķ İ +Ä ½ +Û ģ +ãĦ ± +ëŁ ¿ +íĮ ¸ +ê½ ī +ìı ł +ðŁį Ģ +âĨ Ķ +ëŃ ¡ +ï» ģ +ï¼ Ħ +ðŁĴ ¥ +âĺ Ľ +íĹ · +ëij ¡ +Î ł +Î ¤ +âĦ ĵ +ïº · +Î Ļ +ëı Ķ +ì§ ¤ +âĶ ĥ +ãĦ · +Ç Ĵ +ðŁ¥ ° +ëĶ ķ +ìļ ¥ +ì¸ Ħ +íĽ Ķ +ïº ĩ +ïº ¬ +ðŁĺ ¢ +ë¹ ¡ +ìĶ ¹ +Å ³ +Ë Ŀ +íİ ij +ï¾ ĵ +ðŁĴ ļ +ëĬ ij +êº ¾ +íĨ ° +à ¿ +Ð Ħ +ëĮ IJ +ë½ Ģ +ì· Ħ +ðŁ ĵį +ðŁĻ Ī +âĹ Ī +ê¿ ĩ +ì¼ Ħ +íİ « +ðŁĩ · +âĶ ĭ +âļ ł +ë± ī +ì į° +ìĻ Ī +É ª +ïº ĭ +ðŁĺ ľ +Î Ł +ðŁ ĻĤ +âļ ½ +Å Ī +ë¹ Ķ +íĮ ľ +๠ı +ìĸ ¹ +íĪ Ń +ðŁ¥ ĩ +ãĦ ´ +ëĶ ¥ +ìŃ Ī +âĪ Ĩ +ëĸ ³ +ë± ĥ +ìŀ ¦ +ï» IJ +Î ľ +âľ § +Ï į +ìł ĵ +âĹ ķ +ëĴ Ģ +ï» Ģ +ðŁĶ ´ +ê½ ģ +ëĮ Ī +ëİ Į +ãĤ İ +⦠ģ +ì½ § +ï¯ ¾ +âĿ ¯ +ภħ +ðŁĻ Ħ +âĿ Ģ +ðŁĶ ¹ +âĩ IJ +êµ µ +âĩ Ķ +ë¶ IJ +ðŁĴ Ľ +Î ¾ +íĥ ¬ +âĿ Ħ +Ò £ +ãĢ ° +âĪ ij +âĺ ¼ +âī ł +Ò ¯ +ïº ¯ +ê¿ ¨ +âľ ĸ +Ê ĸ +íĢ Ģ +ê¾ Ģ +íĹ Ŀ +âĶ £ +ãİ ľ +ëĶ Ľ +ëľ ¸ +ï º« +ê¿ ° +ðŁĩ ¹ +Ç IJ +Û Ĵ +ë£ » +ïº ĸ +Ñ ļ +ëĬ ł +Û ķ +ê¹ ¡ +ë¿ ľ +ì² ¼ +ï¨ ij +ë¥ µ +ìį ¸ +íħ ħ +íij ¹ +Ö Ģ +ï³ Į +ãħ £ +ìij ¤ +ì½ ķ +ëķ ł +ðŁĮ ¿ +íĥ Ķ +ìĽ ģ +Î ¶ +âŀ ľ +ìĬ ĺ +íĽ Ĺ +ë© § +ìī ĺ +Õ ¶ +á¹ ĩ +ðŁİ ģ +ï½ ¿ +ï¼ Ĥ +á¼ IJ +âľ ķ +âŀ ¢ +ëĦ ¨ +ì» « +ì¯ Ķ +ì° ľ +ðŁĴ ° +íħ Ŀ +ãİ ı +ë³ ¶ +Ò ĵ +âĨ ³ +ìĥ ´ +íģ ĺ +âĸ Ģ +ë² Ļ +ภĥ +á½ ¶ +Ä ķ +⬠ĩ +ë¤ ĺ +ðŁİ µ +âľ ļ +ïº ı +Î ¡ +âĹ ī +ðŁĴ « +Ð Ī +ìĸ Ħ +ì§ Ļ +ï» ĥ +ðĿij Ĵ +ëŃ Ħ +âĿ ¥ +âĿ ĸ +âĺ Ŀ +Ê ¹ +Ḡ¥ +âĢ ¿ +ãħ ħ +ê¸ ģ +ëķ ¡ +ëį ¥ +âĪ © +ê» Ħ +ë® Į +Ò ± +âĪ Ĺ +ëł Ļ +ïº Į +Ë IJ +ðŁĺ ³ +ðŁij © +ðŁİ ¶ +ì¿ µ +ðŁ¤ © +ê· ¤ +ëĮ Ķ +ïº IJ +Ï İ +ì¶ ¥ +ï½ Ĭ +á¹ Ń +ë¤ ¼ +âĸ « +ì§ ł +á¼ Ģ +ê» ij +ëĮ ģ +íĢ ¸ +âĻ Ľ +ðŁĴ ŀ +âĸ ° +ðĿij ĸ +ëĿ ¤ +ठ¦ +ì´ ĺ +ðŁĺ ĩ +ëĶ ¤ +Î Ĺ +ðŁĻ ĩ +Ë Ľ +ì© ¡ +âĪ § +Õ ¥ +Ñ Ļ +ëIJ ¬ +ëĸ Ħ +ðŁĮ · +ìĹ Į +ðŁĺ ¥ +ëĪ ´ +ï» ļ +É Ľ +ïº Ħ +ï» ı +Å Į +ë² ļ +ìĭ £ +ïº Ģ +Î ĵ +ðŁĺ Į +Ë Ļ +ëŀ ı +ðŁĶ ¸ +ðŁĵ · +ëģ ½ +íģ ½ +ðŁĴ ¡ +ðŁĮ ± +ëº ı +ìģ ł +ìĥ IJ +ëı Ĺ +ì¸ ° +ëĪ ķ +Î Ŀ +âģ ī +ðŁĮ ¼ +íĮ ł +âĭ ¯ +áĥ ĺ +âľ ¤ +ê± Ķ +íĮ İ +ðŁĴ ¯ +ìı Ļ +íĹ ī +Ù Ń +ì½ ° +ïº ¿ +ï» ± +ì± Į +âĺ ķ +ðŁİ Ģ +Ä Ŀ +ë° § +ìĤ ¿ +áij ķ +ðŁį ĥ +âĩ ¨ +Î Ľ +ë§ ´ +ë³ ķ +á ijIJ +âĸ ĵ +ðĿ ijľ +âĻ » +íĤ ¥ +Õ ¸ +ãĪ ± +ëº Ģ +ì² ¸ +ïº Ľ +ðŁı Ĩ +ðŁĩ ª +âĿ ĵ +Ä Ģ +ì½ ¥ +ðŁĩ § +á½ · +âľ Ĥ +ìŀ ¼ +ï§ ¡ +ðŁĵ ¸ +âĻ ¯ +É Ķ +á½ ¸ +âĮ ª +ï» ĸ +ï¥ § +âļ « +âĶ Ĺ +ðŁĮ Ī +ï» © +ðŁĵ ² +Ï Ī +ðŁĺ ¡ +ðĿij İ +ìľ ½ +ì§ ¬ +ì§ Ĭ +á½ ³ +ìĮ ¤ +ëĤ į +âī Ĵ +ðŁij ¨ +âĺ ĺ +Ó © +âĤ ĵ +âĪ Ĥ +ï¹ ģ +ðŁĴ IJ +íħ ĥ +ðŁı ½ +ê· Ħ +ðŁĺ ı +ðŁĮ º +ðŁĺ Ķ +ï½ « +âľ İ +ëµ Ī +ðŁĩ ¸ +âĢ £ +âŀ Ķ +ëĺ ĺ +ìĥ ¬ +Ê ĥ +⬠ħ +ì© IJ +ðŁĻ Ĩ +ðŁİ Ħ +Ä ¾ +⣠¶ +áĥ IJ +âĺ » +ì± ķ +ìģ © +ë½ ķ +ìº £ +ðŁij Ī +ðŁĻ ĭ +ï¾ ĸ +Ò ļ +Õ « +ìĮ Ī +ë² § +ðŁĩ ® +ï½ Ŀ +ðŁį ģ +ìĹ ¥ +Ä ³ +ë½ IJ +íį ½ +íĽ ij +âĤ ¹ +ãħ ģ +ìĶ ½ +ðŁĶ ģ +ठ¯ +ê¾ ¹ +ëī ľ +âĹ ¡ +íķ Į +Î ĺ +ë£ ¹ +ìĻ ĵ +ðŁĩ ¦ +ðŁij Ģ +âĶ Į +á¿ ¦ +ëĦ Ľ +ìĦ £ +ìŃ Ļ +ï± ł +Î ŀ +Ê » +á¿ ¶ +âĿ Ŀ +ê± Ģ +ëĸ ´ +ãĦ ¹ +ðŁĴ İ +Ï ¹ +⼠ħ +ï» ķ +ãĥ ± +ï½ Ľ +ëĮ ķ +ë¹ ½ +ì¥ Ķ +ì¿ ¤ +ðŁĸ ¤ +Ñ Ĵ +ê¹ į +ëİ Ģ +ìĭ ¯ +ë» ¤ +ðŁĵ ŀ +ðŁĵ £ +ðŁĺ Ŀ +ìį ¹ +ìĹ ¡ +ì° IJ +á½ IJ +ï» Ī +âľ į +Ä ı +ðŁĮ ŀ +âĦ ¦ +ê½ Ŀ +ë» ĺ +ìĪ ± +âĶ ĺ +ðŁĮ » +âĤ ´ +âŀ ¨ +íIJ ģ +ê ¶Ī +âĺ ¢ +ðŁĺ Ī +ï½ © +âĦ Ĺ +ê° Ń +ê° ¸ +ë» ij +ì¥ ´ +ì» ¥ +ï¤ Ĭ +ï» Ĵ +ðŁĺ ķ +âĺ Ķ +ìĺ IJ +ðŁļ Ĺ +ëĹ Ħ +ë§ ı +Õ ½ +âĸ » +⣠µ +ìī ° +ï» ij +âĻ © +Î ¥ +ðŁĺ £ +âĬ Ĥ +ãħ Ĥ +ìħ ¸ +íı Ħ +âľ ½ +ì¦ Ļ +âĸ £ +ê± į +ê¿ ĭ +ì« Ħ +ìº ĩ +ðŁĩ µ +ðŁij ij +âľ ĺ +ðĿij Ľ +ìį ½ +ìº ī +ï¬ µ +ðŁĶ º +âĦ ® +íĥ ¤ +ðŁĩ º +ðŁĴ µ +íħ ¨ +ï½ ij +Î ¨ +ìĥ ¹ +ìĸ ķ +ì¹ µ +ðŁĵ ± +ठµ +ðŁij Ĭ +ðŁĴ Ħ +ðŁĴ Ŀ +ãĮ Ķ +ìĻ ģ +Ð ĩ +à® IJ +âĸ ¹ +á´ Ľ +âĹ ĺ +ëº ¨ +íĥ ī +ìĸ Į +ðŁIJ ¶ +ãĤ ij +Ë ĩ +Å ı +á½ ¹ +ìħ § +ï¹ ° +ðĿij ¡ +ðŁĶ Ŀ +ðŁĺ » +ðŁĴ ĥ +ðŁ¤ ¦ +ðŁį Ĵ +íĢ µ +âľ Ĩ +ë¹ ´ +ï§ ¤ +ï» Ļ +á´ Ĺ +ðŁĮ ´ +Í ¾ +ëĮ ij +ì¨ ĭ +ìµ ¸ +ðŁİ Ī +ðŁı ł +á½ ± +Û Ĩ +á¿ ĸ +âĢ Ľ +ì° ¼ +íķ ¥ +íĹ ´ +ðŁĩ ¬ +ì° Ŀ +âĪ ł +ï¼ ĩ +âĬ Ļ +âĿ ij +ëĦ ĭ +ëŀ Ĺ +ë° ī +ìĹ Ĭ +ì¢ Ĩ +íĮ ¥ +ï° ² +ðŁĵ ĸ +ðŁĺ ® +âļ ª +ðŁĺ ļ +âĿ ŀ +ðĿij Ł +ðŁİ Ĥ +Å ķ +áIJ Ī +êº ½ +ì± ł +ïº Ŀ +ê¿ ī +áĥ ł +ðŁı ĥ +ðŁĴ ¸ +âĿ ģ +âĹ ¾ +Ú ª +á¹ ĥ +íĬ ¬ +ðŁĩ ± +íİ Ń +ðŁĺ ŀ +ë¾ ° +á¹ Ľ +ëĽ ¸ +âĿ Ĥ +êĴ ³ +âĶ IJ +íĵ ° +âŀ ł +ê´ ĺ +ëħ ĺ +ë» ¥ +ì¾ ħ +ðŁĺ IJ +âĪ ª +ðŁij ģ +âĪ ´ +âĹ ģ +ëº IJ +ìŀ ¤ +ì± Ĺ +ðŁı ¾ +Î § +á½ » +âŀ ¥ +ìŁ Ī +ï» ī +âĸ Į +ãĥ ® +ðŁ¤ ¤ +âĩ ĵ +ì¼ ł +á´ ı +ë§ ¬ +ë» £ +ðŁĴ ¬ +ðŁį ĵ +Ä ¸ +Ù ¹ +Ê ¿ +á½ ° +ëķ ľ +ì° ¡ +ì° » +íİ į +ðŁİ ¯ +ðŁį Ĥ +ðŁij § +âĻ ¢ +áĨ ŀ +âĻ § +âļ ľ +âľ ī +ëĵ ¦ +ëŃ £ +ìĪ ı +ìĵ ± +Å Ń +Ê Ĭ +âĴ ¸ +âĩ © +ðŁĴ Ķ +Õ µ +Ð ī +Ò » +ë§ £ +ìĽ ľ +ì¿ ¡ +íĽ ħ +íĽ ¤ +ïº ¢ +âľ ĭ +âĪ Ī +ðŁĮ į +Ê ľ +ëĬ ª +ëĴ ¹ +ïº ² +âĸ Ħ +ãħ Ī +ëļ ¤ +íİ © +âĪ ¨ +ðŁ¤ ª +áĥ ļ +ê³ ¶ +íĬ ķ +ðŁĺ ¬ +âĪ « +ðŁij ĭ +Ò IJ +íĬ ¿ +ðŁĶ µ +ðŁĴ ¨ +ðŁĮ Ļ +ëĩ © +âľ ³ +ë¨ ģ +ëº Ħ +ìĻ ij +ìº ħ +íı Ī +ðĿij Ļ +ðŁĴ ĺ +ãİ ¥ +âĿ ı +âľ ° +ï¯ ¿ +ëµ IJ +ì¼ IJ +ïº ± +Õ ´ +ï¬ Ģ +âľ ´ +ðŁ¤ Ń +ðŁij Ĩ +âĽ Ķ +ê· ĵ +ìĮ Į +ðŁ¤ · +Û Ķ +ðŁ§ ¡ +ðŁĺ ĵ +Î ĸ +âı ° +ê² ľ +ëĭ ³ +ëİ ħ +ë° Ī +ï® IJ +ðŁı ¡ +âĨ ª +âĵ Ķ +âľ Ĭ +Ï ² +Ü IJ +ðŁĩ ³ +Ö Ĥ +âľ ı +ìĸ Ĺ +ì« Ļ +ðŁĺ ² +Ä Ń +âĻ Ń +âĶ ı +âĹ Į +ðŁĺ ¯ +áµ Ĵ +íĬ ł +Ä · +Ê ģ +à¤ Ł +á¹ ģ +á¼ ° +á¿ Ĩ +â « +â« ¸ +ëį « +ì³ ĩ +ì¼ ¤ +íĽ ¨ +ðŁĴ Ł +Ê Ģ +Ê ³ +ëĵ IJ +âķ ° +âĿ ĩ +Ç Ģ +Ç Ķ +É ´ +âĺ ļ +âĺ ľ +ê¶ Ĥ +ì« Ĵ +ì± Ī +ðŁĩ ¨ +ðŁİ ¥ +ðŁĵ Ŀ +Ä § +ðĿ ijIJ +Û Ī +ठ¬ +ì¬ IJ +íĹ ¥ +âĻ ¨ +ðŁį ´ +ï¹ ı +Ë ĭ +ðŁ¥ º +âĸ ¨ +íĻ ĭ +âĪ ħ +ëģ Ļ +ëŀ ł +ìĨ ¥ +âĢ ĸ +ðŁ¤ ĺ +ðŁIJ » +áµ ķ +Ç Ŀ +âĺ ı +ïº ļ +ï» Ĥ +ðŁļ © +ìĪ Ł +Ë Ĭ +⤠µ +ðŁĴ § +ã ħį +ë© © +Æ ¬ +Î ĩ +âĩ § +âĵ ļ +ìĤ ¯ +ìĪ ¯ +ëĨ ĭ +âľ ¯ +ðŁļ Ģ +Ú ĺ +Ú ¨ +âľ Ń +ê² ħ +íĮ ° +íľ Ļ +ðŁĮ Ĭ +ðŁİ ĵ +ðŁĺ Ļ +Ë ĥ +ðŁĴ ģ +ðŁij İ +âĺ ¹ +ðŁĺ « +ðŁĴ » +ëĤ µ +ìĿ Ĭ +íĮ » +Ò ³ +á½ ² +âŀ ŀ +ëĤ ij +ëĿ Ī +ì£ ¤ +ï» ¯ +ðŁĩ © +ðŁ¥ ³ +âĴ ¼ +ðŁ¦ ĭ +âĺ Ĥ +ðŁĺ ° +ðŁĻ ĥ +ðŁĺ Ĵ +Û İ +Ï ķ +Ḡ¤ +ë£ ½ +ìĬ ¥ +ðĿij ī +É IJ +ðŁį İ +âķ ¯ +âķ ¹ +ຠ² +ï¾ ł +ë¹ ķ +ïº Ĩ +Ê º +Ó § +âĨ ł +ëĥ ĩ +ìİ Ī +ìŁ ¤ +ï± ¢ +âķ ¬ +âĺ ł +ðŁİ Ĭ +ãį į +ãİ İ +âĺ ° +âľ ĥ +ãħ ī +ë¯ Ī +ë¹ ¤ +ìı Ń +ðĿij ¢ +ðŁIJ ¾ +Å ĭ +ðŁij ¶ +âĶ Ľ +ï¿ ¢ +áĥ ¡ +Ä ¼ +Å Ĩ +Ñ IJ +ìĥ Ľ +ìĺ Į +ì± ¤ +íħ ģ +íļ ĥ +ï³ Ĭ +ðĿij Ķ +ðŁĩ « +âĭ ° +ðŁĺ ¨ +âĤ © +Õ ¬ +Ḡį +á» ´ +âĨ ĺ +âĺ ¯ +ãħ ı +ìł ¬ +âĻ Ķ +ðŁĶ Ķ +ðŁĺ ł +ðŁĻ Ĭ +à® ľ +á¹ ħ +âĹ IJ +âĿ Ī +âŀ ½ +ìĥ ħ +ðĿij ł +Æ ¢ +âĭ Ļ +ê° Ľ +ëĿ µ +ë£ Ł +ìı ľ +ïº ģ +ðŁĴ Ń +âĬ ĥ +ðŁIJ ° +ãħ Į +Ü ĵ +âŀ ķ +á½ ģ +ìķ ³ +ðĿij Ŀ +ðŁİ ¬ +É ¡ +à¤ Ĺ +áIJ ī +ì© ľ +ì¶ § +ï³ ī +ï» ħ +ðĿIJ ŀ +ठ¶ +ðŁĵ ¢ +ðŁį ĭ +ðŁĴ ħ +ï¾ ķ +⬠Ĩ +âĪ µ +ðŁ¤ ij +áĥ £ +Æ Ħ +Ñ ¹ +á¼ Ķ +ê° ł +ê´ Į +ê· IJ +ëĽ ´ +ì± ĺ +ï® Ń +ïº ¹ +ïº ¾ +âľ Ĺ +âĿ ¦ +ðŁij ¦ +áĥ Ĺ +Ù ² +á½ ´ +âĪ ı +âľ ® +ê¹ ° +ë² µ +ìĦ Ģ +ì© Ŀ +ïº ŀ +ïº ½ +ðŁĩ Ń +Ë Ĥ +ðŁį ij +ðŁį Į +ðŁĶ » +ê¹ ¬ +ìĬ Ń +ìľ · +ðŁĽ ij +Ç § +ë¼ Ľ +ïº ¡ +ïº º +ðĿij ļ +ðŁĵ ¦ +ðŁĶ İ +ðŁĹ ĵ +áĥ Ķ +âľ Ĵ +âľ ¡ +ðŁĮ µ +âĶ ķ +ëĢ Ŀ +ðŁį Ĭ +âĺ ĥ +ìĺ ħ +ঠ¬ +ðŁ¦ ģ +âİ ¯ +ðŁIJ ķ +Ñ ¿ +ॠ¤ +༠ĭ +ê· Ī +ì« Į +ðŁĩ ° +âĿ ī +ì« Ģ +íĿ Ħ +ðĿIJ ¢ +ðŁļ ¨ +âĻ ¤ +ðŁĺ © +ðŁį į +ðŁĺ ij +ðŁļ ļ +Ö Ħ +ë « +ë« ¼ +ठı +á¿ · +âĮ © +âĺ IJ +âŀ £ +ê¸ ± +ê¼ ¿ +ëĦ Ŀ +ìı ´ +ìļ ¤ +ì¿ ± +íİ IJ +ðŁĴ ¢ +ì´ IJ +âĩ ij +âĶ ĵ +âģ ¾ +Ü Ŀ +ðŁ į° +â´ ° +Æ ı +Ï Ł +Ú º +Û ĥ +áĦ Ĵ +âĪ Ł +âĿ į +ãĦ ² +ìľ ħ +ì¤ ı +ðŁĩ ² +êº Ħ +ðŁİ ¤ +âľ £ +⸠Ŀ +ï¸ µ +ຠ§ +áĢ Ļ +âķ ł +Õ ¯ +âı © +ðĿij £ +ðŁĴ £ +Å ĺ +ॠIJ +âģ ĥ +âĮ ĺ +ê» Į +ìĮ Ķ +ðĿij ĺ +ðŁ¤ ĵ +Õ ¿ +à¤ Ń +âĮ ļ +âľ Ŀ +ðŁIJ ¼ +Ë Į +âķ ļ +ï¦ Ĺ +âĿ ķ +âķ £ +ðŁIJ ± +à® ¤ +Ñ ¾ +ठļ +ठľ +ìĪ Ħ +ìļ ľ +ðŁİ ® +É Ĵ +Ú · +ຠį +âĨ µ +â Īĺ +âĿ Ĭ +ë¿ į +ìIJ Ī +ìļ ĺ +ì¯ § +íĥ ¯ +ìĸ ı +ï¸ ° +ðŁĩ ¯ +ðŁ§ ļ +ðŁĺ µ +ðŁĺ · +ðŁĮ ³ +ຠ¥ +Ä ī +Ä ¥ +âľ ¶ +á¿ ¾ +âĬ ± +âĺ ¾ +ê° ī +ê¼ ° +ëº ij +ðŁĶ Ĭ +ðŁĸ IJ +Å ¤ +Ò « +à® ® +âĮ Ī +âĹ Ĺ +ëĦ µ +ëħ ľ +ëľ ¹ +ðĿij ¥ +ðŁĴ ¿ +ðŁĽ Ĵ +Ê Ĵ +áŀ ĵ +ðŁIJ Ŀ +ðŁ¦ Ħ +ðŁį · +âĺ Ł +ï¸ ¶ +ðŁ¤ Ł +Ô ± +âĨ ² +âĪ İ +âľ « +ëĩ ½ +ëı IJ +ëķ Ħ +ï¦ ³ +ï§ Ŀ +ïº Ļ +ðŁij » +ðŁĵ º +êµ ¼ +ìĮ © +ðŁĮ ² +È ± +íĶ ķ +ðŁĺ ¤ +ãĮ ¢ +Ê Ķ +ठ¡ +á¼ Ī +ëİ ĥ +ë© ± +ë® Ī +ðĿIJ « +âĬ ķ +ëĥ ł +ë» ¬ +íĭ Ķ +Õ ¤ +á¼ ± +âľ ¥ +âĺ Ħ +âĪ ¥ +âļ ķ +ðŁij Ħ +ðŁİ ħ +àº Ļ +âĶ ¬ +á½ µ +Õ ¾ +Ö ģ +âĹ Ķ +ê¿ į +ëĸ µ +ë© İ +ë® ´ +ìķ ´ +áĥ ľ +á¼ ¡ +âĶ Ĭ +âķ ® +âĹ ¼ +ðŁį ¾ +ðŁĽ į +ðŁij Ĺ +ðŁ¤ ŀ +âľ Ħ +Õ Ģ +ঠ² +Ë ī +⣠¨ +Ä ¯ +Ï Ĭ +á´ ľ +ë¹ ³ +ï³ ĭ +ï¿ ł +Ä ª +âĤ ¸ +âľ ± +ê» IJ +ëĭ » +ë§ ¸ +ìŀ ¿ +ì© ¨ +ì ŃIJ +ì° ¿ +íħ Ł +ðĿIJ § +ðĿij ij +ðŁĮ İ +ðŁĵ ® +ðŁķ Ķ +âĹ Ļ +âĹ » +âŀ § +ìŁ Ŀ +âľ ¬ +ãĥ ° +âģ Ī +â ĵĺ +ðŁ ĴĮ +ï¬ ĥ +àº Ķ +ìĶ ° +ðŁĺ ª +× Ģ +ìĥ ¨ +ïŃ ĭ +ðŁį ķ +ðŁĺ ´ +Ï ³ +á¼ Ħ +á½ ħ +âĩ ¢ +âķ Ń +ìĺ » +íĬ ¤ +Ü ĺ +⤠´ +âĹ į +áŀ Ł +ðŁį º +áŀ ļ +ðŁı Ĭ +ðŁIJ · +Ê Į +á½ º +âģ » +ê½ Į +ëĪ Ĺ +ë Ĺı +ì¿ ° +íĢ ¼ +íį ħ +ï· ² +ðŁĮ ı +ðŁį « +ðŁį ³ +ðŁİ ° +ðŁij ° +ðŁĴ ² +á¥ Ļ +ðŁIJ Ł +ï¿ ¡ +ðŁĹ £ +ðŁį ľ +âľ ² +ãİ ¢ +ðŁĶ ° +á¼ ¸ +á½ ij +Ä İ +áĦ Ģ +âĻ ķ +ëł Ŀ +ìĪ ´ +ïŃ Ń +Ó ľ +Ô Ģ +ëĢ ľ +ëĥ Ķ +ìĬ Ľ +ì« ij +ìº ¥ +ìº ¬ +ðĿij ¦ +ðŁĶ ¶ +ì¾ ¨ +ðĿIJ ļ +ðŁį » +ðŁĴ į +ðŁ¤ ¡ +ðŁķ Ĭ +â½ ĩ +âĵ IJ +ðŁį Ń +ðŁį ª +ðŁĶ Ĩ +Ò ¡ +á´ ĩ +É Ĺ +Ü Ķ +âĦ İ +âĿ ĥ +ëĹ Ģ +ï² Ķ +ïº Ī +ðĿIJ » +ðŁĴ Ĭ +ðŁļ « +Ñ ° +Ñ ³ +ठ· +âĹ ł +ðŁij ¤ +ï¾ ĩ +âĺ ĵ +ðŁį µ +ðŁ¤ ¨ +âĸ Ń +à® ´ +Ü ¢ +Ü ¬ +à´ ® +ðŁķ º +Ô ¹ +Õ £ +à´ ¯ +á ´Ģ +âĮ ī +âľ IJ +âŀ ¦ +ê¹ ½ +ëĮ ľ +ðŁı ¥ +ðŁĵ © +Ò ¹ +Ó ĺ +ठħ +âĿ § +Æ Ĺ +âĹ ½ +ðŁij « +ðŁİ § +ðŁij £ +âľ » +ðŁĻ ħ +ðŁĺ ĸ +ðŁĴ ® +ຠ° +ðŁĶ ľ +ðŁį Ħ +ðŁ¤ Ŀ +á ĥĿ +áŀ Ģ +âĩ ¦ +Ê ¾ +Ò ® +Õ ¼ +ठĨ +âĹ ħ +âļ ĵ +âļ ĸ +ê¿ © +ë¯ Ħ +ìIJ IJ +ìŀ ° +ì§ Ń +íĭ ĭ +íİ ¨ +íĻ § +ï² ij +ðŁİ Ĺ +Ù ³ +ðŁij ¸ +ঠ® +ðŁij ķ +Ú µ +âĢ ¾ +âŀ ° +ðŁij ¯ +ðŁİ ¼ +ðŁı ģ +Ä º +Ê ı +Ú ³ +âı ± +ê½ Ī +ëĿ Į +ìĮ ī +ìĹ · +ìŀ ´ +íĹ ¹ +íľ ¨ +ðĿĹ ² +ðŁĮ IJ +ðŁİ Ļ +ðŁı µ +íĽ Ļ +ðĿij ħ +ðŁĺ ¶ +âĵ ħ +âķ ¥ +ðŁį ı +ï¦ İ +Õ © +ðĿIJ Ħ +Ó £ +Ú ¿ +âĻ ļ +ðŁĶ Ĺ +Ḡ« +âĭ ® +âĸ ¦ +⼠½ +âľ µ +ãħ Ĩ +ãħ Ĭ +ëĦ Ļ +ëĿ ¨ +ë¥ Ħ +ìĦ ¦ +ì§ ° +ì§ ¹ +íī Ī +ï§ ij +ï» ĩ +ðŁĮ ¾ +ðŁı ĸ +ðŁIJ ij +ðŁĴ ³ +ðŁĵ Ĩ +Û ĩ +Ü ķ +á½ ½ +ëĦ ľ +à´ ² +à´ ³ +àº Ń +áĥ Ľ +âĿ Ķ +âij ħ +áĥ ¥ +ðŁĵ ħ +âŀ ³ +á´ µ +ï¹ ¡ +ï¹ ¶ +Î Ĩ +ठ¥ +áī µ +âĿ Ļ +âĿ ± +ëī ł +ëİ ł +ëı Ľ +ë¿ ħ +ìĶ ¸ +íij ¯ +íŀ ī +íŀ Ľ +ï§ Ħ +ïŃ ĺ +ïº ¦ +ï» ¸ +ðĿij Ĥ +ðĿij ı +Ï ij +Ú ł +áĢ Ķ +áŀ Ķ +á¹ ¢ +ëĦ ¸ +ðĿIJ ¨ +ðŁĩ ´ +Õ ° +ðŁij ł +ðŁį Ĩ +ðŁı Ģ +ðŁ ijIJ +ðŁį ĩ +ðŁIJ £ +áĪ Ń +Ü ª +ðŁ ĮĢ +áŀ ĺ +âĩ Ħ +ðĿIJ Ģ +Ê Ļ +âĶ ¼ +ðŁı ¿ +Æ · +È ł +Ñ ½ +âĤ ¨ +ê´ Ń +ê¹ » +ëĶ ¨ +ìĪ Ģ +ì¾ ° +íĨ Ī +ï® § +ï¯ ½ +ðŁĶ ħ +ðŁĶ ® +Å ¢ +Ê ° +Ñ ¸ +ठ£ +âĬ Ĺ +ëª Ħ +ï¹ · +ïº ħ +ðĿIJ µ +ðŁĮ ¶ +ðŁĵ ° +ðŁĶ · +ðŁĸ Ĵ +ðŁ¤ ² +ëī © +ðŁİ Ĩ +ðŁ§ IJ +ðŁį ® +âĨ º +âĿ ¢ +ðŁij ª +ðŁij ± +âĨ ¡ +áŀ ı +Ú ķ +ðŁį ¹ +ðŁĴ Ģ +Ë ® +Ó ¨ +Ö ħ +ठĩ +âĤ ¡ +âĪ ķ +âĺ ī +ê¹ ¼ +ê¼ IJ +ì½ ¸ +ðĿIJ ¬ +ðŁı ħ +ðŁij Ļ +ðŁĴ ī +ðŁ¤ Ļ +È ĺ +É ³ +É ¹ +Ù º +áĢ Ħ +á¿ ³ +âļ ĺ +âĿ Ĩ +ëĨ ī +ìĸ į +ìĺ ĩ +ì¥ ĺ +íĸ ħ +íĻ ij +ï® Ĭ +ï¿ Ń +ðĿĴ IJ +ðĿĹ ¢ +ðŁĶ ĸ +ðŁĶ ¨ +ðŁļ ij +ðŁļ ² +Æ ¸ +âĹ ¥ +ðĿIJ Ń +ðŁį ½ +âĹ ij +âĵ ĩ +ðŁĶ ± +âľ ¼ +ï¹ ĥ +âķ ± +ãĢ Ĺ +ðŁı ĭ +ðŁļ ´ +ðĿIJ ® +Ä ļ +Õ ı +Ä ¶ +áĥ ij +á¹ ¬ +Ä Ī +Ä Ĵ +Ò ° +Ó ķ +â IJ +âIJ £ +âĹ ¢ +âļ Ļ +ãħ Ĺ +ê° ¬ +ê³ ª +ê» Ģ +ëĦ ´ +ëİ ģ +ëĿ Ķ +ë¬ ½ +ëŃ į +ìĩ ³ +ì° ¹ +íĮ ¹ +íŀ Ŀ +ï® ĭ +ï ¶Ī +ðĿĴ Ĥ +ðŁ¥ Ģ +ðŁ¦ ħ +Ê ĺ +á¼ ij +âģ İ +ðŁį ŀ +âĨ ĸ +âĨ Ļ +ðŁİ ĥ +âĦ ¡ +âĭ ± +ðŁĶ į +ಠ¨ +áµ ĥ +âĶ « +⦠¿ +ðŁĩ » +Æ ¤ +Ò ı +Ò · +Û ī +à® ķ +Ḡ³ +ï¬ ± +ðŁĨ Ķ +Ú Ń +Û ¦ +áħ ¡ +âĦ ¹ +ê¿ İ +ëķ Ķ +ë¼ ī +ìļ § +ì² µ +ì´ ¨ +íĬ Ī +íĸ IJ +ðĿĹ ĺ +ðŁĩ ¿ +ðŁİ ĸ +ðŁij ħ +ðŁ ĵĺ +ðŁļ Ļ +ðŁĽ µ +à¶ ½ +⼠µ +ðĿIJ ³ +ðĿIJ ¸ +âļ Ķ +ðŁij Ń +Ó ij +âĶ ¯ +ðŁħ ¿ +ðŁĺ ¹ +ï¿ « +â¼ ¤ +ðŁĴ ĩ +ðŁĵ İ +ðŁĸ ĭ +ঠ¸ +ðĿIJ į +Ä ² +Ï ĭ +Ñ ¬ +Ú ¬ +Ü Ĵ +á´ ¬ +ï¨ Ħ +É £ +Ë ij +Ï µ +Ò Ŀ +Û ¥ +Ü ł +๠Ľ +áĥ ķ +áĬ ķ +á¾ ¶ +âĤ · +âĩ ¾ +âķ © +âĸ IJ +âĺ ª +âĺ ® +âĿ ļ +âĿ Ń +âŀ ± +âµ İ +ãı Ĭ +ë© ĵ +ìĹ ¾ +ìª Ħ +íĵ Į +íķ ¼ +ïŃ ¬ +ðĿij Ĩ +ðĿij ŀ +ðĿĸ Ĭ +ðŁİ ¸ +ðŁı Ħ +ðŁij µ +ðŁĴ ł +ðŁĶ ĺ +ðŁ¥ Ĥ +Å ª +à· ĥ +á´ ¼ +âĬ ° +ë³ ı +ë´ £ +ï¥ ľ +ðŁĵ Ī +ðŁķ ¯ +ðŁ§ Ģ +âĻ IJ +ðŁĨ Ĺ +ðŁĵ ķ +ðŁ§ ģ +Ü « +âĿ IJ +Õ ķ +འķ +âŀ Ŀ +ঠķ +ðĿIJ ¶ +É ¢ +Î Ħ +áĨ ¢ +âĤ ± +Õ į +à¡ ķ +á´ ° +Ḡ© +⼠· +âĿ ® +ê¡ ĵ +ëı ¤ +ëĹ IJ +ëµ Į +ìij Ī +íı ¿ +íĹ µ +ðĿIJ İ +ðŁĨ ĺ +ðŁı Ł +É ¥ +Õ » +à¡ Ķ +ठĸ +á´ ¸ +âİ Ļ +âİ ¥ +âı ³ +ëģ ķ +ëĬ ī +ì¡ į +ì¹ ¡ +ï¦ ¶ +ï¬ Ł +ï® « +ï® ¯ +ï± ĥ +ï ·» +ïº µ +ðĿĹ Ķ +ðĿĹ ¡ +ðŁİ ¨ +ðŁĶ Ĵ +Ú Ľ +ठ§ +âŀ ¹ +áĢ Ģ +ðŁį ħ +âĹ ¤ +ठł +ðŁIJ ¥ +áĥ Ĵ +ðŁı Ŀ +ðŁį ¼ +ãĮ § +âĿ Ľ +ðŁIJ Ī +ঠ¯ +áĢ ŀ +ãĢ ĸ +áŀ Ļ +ঠª +Õ Ĩ +âĬ Ĩ +âľ ¾ +ðŁIJ Ĺ +ï¹ ¿ +Ä ¦ +Ü Ł +ಠł +ಠ¥ +áŀ ī +á´ ¥ +á´ © +á½ Ģ +á½ ¡ +âĨ ķ +âŀ ¯ +ê¡ ij +ëij £ +ë± Į +ìĪ ij +ìľ Ķ +ìŀ ½ +ì¨ į +ðĿij Ģ +ðŁĮ Į +ðŁį ¦ +ðŁį © +ðŁIJ ļ +ðŁĵ Ĵ +ðŁĵ ¹ +ðŁ¥ ij +Ä ĭ +Ë Ĺ +Ñ « +Õ ¢ +Ú ° +â ĮĢ +âĹ Ĥ +âĹ £ +âľ Ľ +âĿ Ĵ +âĿ ĺ +âŀ Ļ +âŀ ² +ãİ į +ê¡ IJ +ëŀ ĸ +ìĬ Ŀ +ìĽ ¤ +ì¡ ĭ +ì¨ ° +íĹ Ļ +ï¥ ¸ +ï³ į +ï» İ +ðĿij ĵ +ðŁĵ Ĭ +ðŁļ ¼ +ï¦ ģ +ðĿķ Ĵ +ðŁ ijľ +ðŁij ¿ +ðŁĩ ½ +à· Ħ +âĸ ´ +ãį ī +âĬ ĩ +ðŁ§ ¸ +Ú ¡ +â¾ ĥ +ðŁĹ » +âĵ ij +ðŁ¤ ¸ +ðŁ¤ ¯ +êĴ ° +ðĿIJ ĵ +âĶ ´ +êĴ ± +áĢ ĺ +â ĽĦ +ï¹ ¹ +Ó Ķ +áĥ ± +Ü ¡ +ß ŀ +âĻ ı +âľ ¸ +ìij ¨ +ðĿIJ Ŀ +ðĿIJ ¥ +ðŁį ī +ðŁij ¼ +ðŁ¥ Ŀ +Æ Ķ +Ý ¬ +ठ« +ຠļ +á´ ´ +á½ ĸ +âĤ ¶ +âİ ¢ +âĿ ħ +⣠« +ãİ Ľ +ë® ¨ +ëº Į +ë¼ ĺ +ìĨ Ŀ +ìľ ³ +ìŀ Į +ì£ Ĺ +ìª ĺ +ì» ¹ +ï· ¼ +ïº Ĥ +ðĿIJ ´ +ðĿIJ ¼ +ðŁĮ ļ +ðŁı « +ðŁĴ ¤ +ðŁĴ ¶ +ðŁĴ ¼ +Ê ķ +Ê ½ +â² Ł +ãī ł +ê¡ Ĵ +ëľ Ģ +ìĥ ¾ +ì¸ ¤ +ï¥ ģ +ðĿļ Ĭ +ðŁļ ĥ +âŀ Ľ +ìħ ´ +áĦ ĭ +âĩ Ĺ +ï§ · +âĺ ĸ +ðŁIJ ¦ +⸠ľ +ðŁĴ ´ +ðŁ¤ ļ +ãĬ Ĺ +âĮ Ľ +áĪ Ľ +༠º +â½ ī +ðŁı ¢ +âĵ ŀ +âĺ ½ +ãĢ Ļ +ðŁ¤ ® +Å IJ +áĥ ¬ +ðĿĹ » +ðŁį ĸ +Æ Ĭ +Ê Ł +ß ĭ +ठĭ +áµ Ķ +á¿ ĥ +âĦ ī +âĮ ĭ +âı ² +âĵ Ī +âĵ ¢ +âķ Ķ +âļ ij +âĿ ĭ +âĿ İ +â µľ +âµ £ +ëĴ Ī +ëľ ģ +ë¶ ĩ +ìį » +ìĺ Ń +ì§ ¢ +íĹ Ģ +ï§ Ĭ +ï ¬¸ +ï± ¡ +ðĿIJ º +ðĿij § +ðĿĺ ¦ +ðŁĵ ¥ +ðŁĺ Ł +ðŁ¥ IJ +Ä ĸ +É ¨ +áĢ IJ +áĥ ĵ +Ạĵ +á¼ ¶ +á½ Ħ +âĤ ¤ +âĮ ľ +âĮ Ł +âİ ł +⼠¸ +âµ į +âµ ı +âµ ĵ +ãĢ ĺ +ë ·¸ +íħ ¼ +ï¦ Į +ïŃ Ħ +ïŃ İ +ðĿĻ ļ +ðĿļ ĺ +༠ĵ +ëŃ ħ +áIJ Ľ +ãİ ¾ +ï¨ Ģ +ðŁĹ ½ +âĻ ŀ +Ë ĸ +âĹ ŀ +ðŁ¤ « +ðŁĺ Ĺ +ï½ ¦ +ðŁ¤ ¢ +âģ ĩ +ãĢ µ +ðŁį Ķ +áĬ ł +ðŁĺ ¼ +ðĿĹ ® +ðŁIJ ³ +ðĿIJ ĭ +ðŁĨ ļ +ðŁĶ Ľ +Ñ » +Ü ¨ +à® ² +âľ ŀ +âµ Ļ +êµ £ +ì¸ ¨ +ðĿ IJľ +ðĿĺ ° +ðŁĶ ½ +Ç » +Ç ¿ +Ê ĩ +Î IJ +Ð Ģ +Ñ ¡ +Ñ ² +Ò Ĵ +Ù ¶ +ß ķ +à¶ ± +áIJ ģ +âģ ŀ +âĸ § +âĽ Ī +âľ ľ +âľ ¹ +⣠¹ +⤠ĩ +ê² Ĭ +ê¾ ľ +ë¯ IJ +ë³ IJ +ìħ © +ìIJ ¬ +ìij ¹ +ï¤ Ķ +ï¦ ļ +ï¬ ł +ïŃ Ķ +ïº ¶ +ðĿĴ ı +ðĿĸ Ĩ +ðĿĹ ¶ +ðŁı Ĥ +ðŁIJ ½ +ðŁĴ © +ðŁĵ ½ +ðŁĹ ¨ +ðŁĹ º +ðŁĺ ¸ +ðŁ¥ § +Å Ĺ +Ê İ +Ò Ļ +× ² +à¤ Ī +á¼ ´ +á¿ ij +âµ ī +ãħ ĵ +ì½ ´ +ðĿĸ ĵ +ðŁĵ Ĺ +ðŁĶ ª +ðŁĸ į +Ï Ĵ +ðŁij ¬ +áĥ Ļ +âĨ ¬ +âĶ ¤ +⼠¹ +âĻ Ł +ðŁļ ¶ +ðŁij ¾ +âĪ ĭ +ðŁIJ ¯ +à¼ İ +âľ · +ï¨ Ļ +âĶ » +ðŁij ¹ +áĦ ī +ຠª +â¾ ı +â½ ħ +ãİ ĸ +Ñ ´ +Õ ® +Ú ¼ +áĢ ķ +áĨ ¼ +ëŃ ı +ðŁIJ ¸ +ðŁļ £ +Æ Ŀ +Ô » +áĥ ¢ +ðŁį ¯ +É ¦ +Õ ¦ +âĻ ĭ +ï¬ « +ðĿĹ ¦ +Ç ļ +É ± +ठī +á´ Ħ +âĻ ĵ +⼠° +⣠ª +ëĥ ĺ +ë¢ ¸ +ìĤ ij +ï® Ķ +ðĿķ ĸ +ðĿĹ § +ðŁĩ ¼ +ðŁĵ ĭ +ðŁļ ľ +ðŁ¥ ¤ +Ä ® +Å · +ß Ĭ +ॠ¥ +à® ª +áŀ Ħ +áµ Ģ +Ḡħ +á¼ ¢ +âĪ Ŀ +âĬ ¹ +âĴ ¶ +âķ ´ +⼠± +⼠³ +⼠º +âŀ Ł +ãı Ħ +ê¸ Ķ +ê¹ Ł +ëĩ ° +ë¹ » +ìĤ ¥ +ìĽ » +ì° Ł +íĥ ° +íĨ º +íļ ½ +ï¤ ´ +ï¥ ¾ +ï³ Ŀ +ðĿIJ ¦ +ðĿĴ ľ +ðĿĴ Ł +ðĿļ Ĺ +ðŁİ Ń +ðŁı ĵ +ðŁı ³ +ðŁı º +ðŁIJ į +ðŁij ĥ +ðŁĴ ı +ðŁ¤ ĸ +ðŁ¤ µ +Õ ² +âµ Ķ +ëĺ ¬ +ï¦ £ +Ê Ĥ +áĨ « +áŀ ij +ðĿĸ İ +ðĿĹ ĸ +áĦ ĥ +âĩ ł +áĢ ¡ +འĦ +âŀ ¸ +ï¦ Ļ +âĩ ļ +ðŁIJ ¬ +ðŁIJ ¢ +â¾ Ĵ +ðŁIJ ¤ +ðŁĶ « +ãĢ ŀ +ï¸ º +ðŁĺ º +â½ ´ +ðŁĨ ķ +âģ ¿ +ðŁį ¨ +ಠķ +ðŁļ ĺ +áŀ ħ +ঠħ +áŀ ¢ +ਠľ +â ļĮ +ãĢ ½ +à· ´ +âĵ Ľ +áĢ ľ +ìĨ ¨ +Ë © +Ü Ĺ +âĭ ¼ +ðŁĻ ī +Å Ĭ +É ĵ +Ê ² +Î ° +Ñ ¼ +Ô ¿ +à¡ IJ +༠ľ +འ¦ +á¶ ľ +âĤ ² +âĨ ¨ +âĬ ¥ +âķ § +âĻ ľ +ãĭ ¡ +ë´ ¬ +ë¶ ij +ìī ¿ +ìİ ħ +ìł ± +ì° § +ï² ¡ +ðĿĴ Ľ +ðĿķ £ +ðĿĹ ľ +ðŁį ² +ðŁİ © +ðŁIJ IJ +ðŁIJ ł +ðŁij ½ +ðŁĴ ij +ðŁĵ ľ +ðŁķ µ +ðŁ ļĮ +ðŁĽ £ +Ê ĭ +Ó ¯ +Ù ¸ +ß Ķ +ß Ļ +à¡ ĵ +á´ į +Ḡ¿ +âı º +âĸ ¥ +ë¤ ½ +íľ ij +ðĿIJ ¹ +ðĿĸ Ķ +ðĿļ İ +ðŁĵ Ħ +ðŁ¦ · +Æ ĥ +à¦ Ł +âĮ Ĥ +âĺ Ń +â² ļ +ëĿ ķ +ðŁİ £ +à® ĩ +འĨ +áħ µ +áĹ ľ +âĢ ½ +âĮ £ +âģ ½ +ðŁĵ ¬ +ðŁ¤ § +âĩ ª +â½ £ +âĹ Ł +ï¨ Ĺ +êĴ ª +ðŁĽ Ģ +Ç Ĥ +ðŁ¥ ¶ +ðŁİ į +ï¿ © +ðŁij Ĵ +áµ Ī +ï¸ ¿ +áħ © +â¾ ¦ +à° ¤ +á´ ĸ +ਠ¬ +àº Ĺ +༠» +Ñ º +ਠª +á´ ³ +ðĿIJ Ī +à» Ģ +á´ ¿ +âĤ į +âĩ ¡ +⼠ª +ðĿIJ Ĥ +ðĿĴ ķ +ðŁ IJľ +Ê į +Ñ ± +འĥ +ë® IJ +ìĽ ¡ +ìľ ģ +ðĿIJ ¿ +ðĿķ ł +ðŁij Ľ +Æ ª +Ï º +Ó ¬ +Ù ¿ +Ý £ +ઠī +à® ¹ +འij +áĨ ¯ +áµ ĩ +âĩ ¥ +âı ª +âĻ ° +âļ Ń +âļ ¾ +ãħ Ħ +êĢ ° +ê° Ĺ +ê² ĭ +ê² » +ê¶ ľ +ê¼ ĩ +ê½ ¹ +ëĤ Ł +ëħ Ī +ëĭ ¢ +ë§ Ł +ëª Ĩ +ëµ Ģ +ì½ ± +íĩ ĺ +íľ ľ +ï§ ¾ +ï± µ +ï² ¢ +ï² ¤ +ðĿĴ Ĭ +ðĿĺ ¯ +ðŁį Ĺ +ðŁı į +ðŁIJ ĺ +ðŁĵ ¡ +ðŁĶ ŀ +ðŁ¤ ³ +ðŁ¥ ģ +ðŁ¥ Ĺ +ðŁ¦ Ĭ +Ä µ +Æ ¦ +Ç µ +É ¯ +Î ı +Õ Ħ +Ü ¥ +འģ +ᨠł +âķ « +ãİ ī +ë· ´ +ìĨ İ +ìİ Į +ì£ µ +íĽ ł +ï§ ª +ï³ ı +ï» º +ðĿij ģ +ðĿij ĩ +ðĿĴ Ĩ +ðŁİ ł +ðŁIJ Ķ +ðŁij Ł +Å ĸ +ठĮ +á¾ ½ +ê¦ Ĵ +à® Ł +á´ ± +ðŁı ° +ðŁIJ ŀ +à½ Ģ +áĢ ħ +âĬ ¿ +ðŁIJ § +ἠģ +â¼ Ī +âĶ ¿ +ðŁ¥ ´ +â¼ ¿ +ðŁ§ ľ +ãħ ¿ +âĦ « +ãĢ ³ +ãĬ Ļ +â¼ Ģ +ï ¦¬ +ðŁı ¬ +ðŁĵ » +áĬ Ľ +áĦ ħ +ຠĬ +ຠĽ +áħ ³ +ðŁij ® +à® ± +âĺ ĩ +ðĿIJ ı +à´ µ +à» ģ +འı +འ¢ +ᥠ± +âĤ £ +ï¥ ¦ +ïŃ Ļ +ï´ © +ï¹ Ĥ +ðŁį £ +ðŁķ ¹ +Ï ĸ +à¶ ¸ +ຠ¢ +áĭ Ń +âİ Ŀ +âĹ Ŀ +âĻ Ī +âĻ İ +ê½ ¥ +ì³ Ķ +ì¼ ij +ï± ° +ðĿij ĥ +ðŁĮ ª +ðŁį ¡ +Å İ +Ê ¦ +Ñ § +Ó İ +Ô ´ +Ú Ī +ß ĵ +ß § +à¤ Ķ +áĪ « +áĪ µ +áĹ © +á´ ł +á¼ ł +âĢ Ĺ +âģ ij +âĦ ı +âĸ ĩ +â² £ +ãĦ ³ +ãī ® +ê³ Ĺ +ëĦ Ĵ +ëĸ « +ë¡ Ħ +ë¹ ° +ë½ ģ +ìĦ ģ +ìĮ ĺ +ìŁ Į +ì³ ī +ì¼ ķ +ï¬ » +ï³ İ +ï¹ ¸ +ï¹ ¾ +ðĿIJ Ĩ +ðĿij · +ðĿĽ ¼ +ðŁİ ı +ðŁİ ŀ +ðŁIJ Ļ +ðŁij Ĥ +ðŁĵ ģ +ðŁĸ ± +ðŁļ į +ðŁļ § +ðŁĽ ¡ +ðŁ¤ Ĵ +ðŁ¥ ŀ +ðŁ¥ © +ðŁ¦ Ģ +ðŁ¦ ĸ +Ë ¢ +Ü ļ +à® µ +áĢ ģ +áī ° +âı Ń +âĻ ¿ +ê³ ĺ +ëı Ŀ +ëķ ĥ +ìħ Į +ìĴ ¸ +ìĽ Ł +íħ Ħ +íľ « +ï§ ĺ +ï¿ ¬ +ðŁı · +ðŁĶ § +ðŁ¥ Ī +Æ ĸ +áŀ ĩ +áŀ ĸ +âģ º +âĹ ľ +âŀ © +ê¦ Ń +ëĻ ¤ +ïŃ ¼ +ðĿĻ ĸ +ðĿĻ £ +ðĿĻ ¤ +ðŁĮ Ŀ +ðŁĶ ij +ðŁĽ ł +ຠĩ +âĺ £ +ãĦ ¨ +ðĿĸ Ĺ +Ó ĵ +âĨ £ +ðŁ¥ ī +ðŁĮ ł +ðŁĺ ½ +ãİ ł +Å § +ðŁIJ Ĵ +ï§ IJ +ðŁĺ ¿ +âĪ ¬ +ðŁIJ ® +⣠± +ಠ¡ +â¾ ¼ +à° ² +Ë ¶ +âĸ ¿ +Õ Ī +áŀ İ +áħ ¥ +áŀ Ĺ +Õ § +ðŁ¤ IJ +ðŁį ł +ঠ¤ +à¶ º +âĻ į +ìĺ Ļ +íĺ ĵ +ï¹ º +ðŁĽ ³ +Å ī +á´ İ +âı ľ +âĶ ³ +ê¸ · +ì¡ Ķ +ðĿĴ Ī +ðĿĴ į +ðĿĴ ¹ +ðĿĵ ĩ +ðĿķ Ł +ðĿĹ ¹ +ðŁĮ ħ +ðŁı ´ +Ä Ķ +Ä ¤ +Å µ +Ç ¾ +Ï ŀ +Ï ¶ +Ô ³ +Ü Ĩ +ß © +à¡ Ĵ +ठĺ +à¶ ļ +འĸ +áģ Ĭ +áĥ ŀ +áĦ Ĥ +áĭ « +á´ º +Ḡ£ +Ḡª +á¹ Ĥ +á¼ · +á¿ ĩ +âĩ Į +âı ¬ +âĻ Į +â® Ł +â´ » +âµ Ł +ê¦ ķ +ê¦ ª +ê¦ ® +ê² Ħ +ê¾ IJ +ëĥ ij +ëķ ĭ +ë¡ ¸ +ë¬ Ģ +ìĩ ¤ +ìĪ © +ìľ ķ +ìŃ ĺ +ì· ° +ì ·¸ +íľ Ģ +ï¤ £ +ï§ į +ï± Ħ +ï³ ij +ðĿIJ ¤ +ðĿĴ ĵ +ðĿĴ ¶ +ðĿĹ ¼ +ðĿĻ Ĭ +ðŁĩ ¾ +ðŁĮ Ľ +ðŁĮ ® +ðŁİ ĩ +ðŁİ ² +ðŁı Ľ +ðŁij ¥ +ðŁij ´ +ðŁĴ Ĩ +ðŁĵ Ĥ +ðŁĵ § +ðŁķ IJ +ðŁĸ ķ +ðŁĺ § +ðŁĻ Ģ +ðŁļ Ĵ +ðŁĽ « +ðŁ¤ ł +ðŁ¥ ļ +ðŁ¥ Ľ +ðŁ¥ £ +Ç ¯ +È § +Î Ĭ +Ò ² +× ° +Û ij +áĥ © +áĦ Į +áĪ į +áī ¥ +áı Ĥ +âģ ± +âĬ ¢ +âĹ ĵ +âĿ ° +ë¿ ¡ +ìĽ © +íģ Ń +íĨ ³ +íĬ Ħ +íĵ ¸ +ï¥ £ +ï¥ ´ +ï± IJ +ï± ¯ +ï³ ļ +ðĿĸ ĺ +ðĿĺ Ģ +ðŁIJ Ĭ +ðŁIJ Į +ðŁij ļ +ðŁĵ ĥ +ðŁļ Ľ +ðŁļ ª +ðŁ¤ ° +Ä ´ +áĥ ® +áĹ ¨ +âĻ ® +â² ŀ +ãĪ Ķ +ì ħį +ãħ ĥ +ï¥ ¡ +ຠ¡ +Õ İ +Õ º +⬠Ľ +â½ ¤ +ðĿIJ ² +âŀ µ +áĢ Ľ +âĶ ħ +âĨ Ł +â¼ Ĭ +ðŁĮ ½ +ðŁļ ¿ +ï¦ Ĭ +ãĦ £ +⼠© +ï© Ľ +ðŁį ± +â¾ ¨ +à´ ¤ +áŀ ģ +ຠŀ +Ê ļ +ðĿIJ Ĵ +à´ ± +áŀ ľ +à® © +à° Ĺ +à´ ļ +âĩ £ +ï¦ ķ +Õ ħ +Æ ĺ +âĤ ¦ +âĶ Ħ +ï¦ Ł +ï¦ « +ðĿIJ ģ +ðĿIJ ĥ +ðŁį ¸ +ðŁIJ ² +Å ¶ +É ĸ +ß ĺ +ภ¦ +à½ Ķ +áĨ · +âģ ķ +âĵ Ĥ +âĿ ľ +ï¥ ¥ +ï¬ ® +ðĿĹ Ŀ +ðĿĹ ¿ +ðŁİ ¾ +ðŁĹ Ŀ +ðŁ¦ Į +Æ ħ +Ç ª +Ò Ĺ +Ü Ľ +ß ł +à¡ ij +áī £ +áĬ Ń +á¹ ¡ +âŀ ¼ +âŀ ¾ +â´ ± +ãī ¡ +ê³ ¯ +ë½ Ī +ìĤ ĺ +ìī ij +ì «ĺ +íĮ ĥ +íĻ ° +ï¤ Ĺ +ðŁĮ ¬ +ðŁĮ ° +ðŁį ¤ +Ä » +Å ĩ +Æ ¨ +É ķ +Ò ¢ +Ò º +Ö į +× ± +Ú ± +Ú ½ +Û IJ +ठĽ +à· Ģ +๠ļ +ຠ« +á´ ¹ +á ½Ķ +á¾ ³ +âĤ Ĵ +âĨ ´ +âĩ Ŀ +âī ħ +â Į¨ +âĵ ĵ +âĸ ¢ +âļ ¬ +âŀ Ń +â² Ĵ +ãİ ¿ +ê¿ ´ +ëĪ ± +ëį ¬ +ëİ IJ +ëIJ « +ëĶ « +ë± ģ +ìĥ ¥ +íĮ ¼ +ïŃ ĵ +ï® ¥ +ï² ° +ðĿIJ ĩ +ðĿIJ ij +ðĿij Į +ðĿĵ ª +ðĿķ ļ +ðĿĺ ª +ðĿĺ ¼ +ðĿļ Ľ +ðŁĩ ¶ +ðŁĮ Ħ +ðŁĮ ķ +ðŁĮ ¤ +ðŁĮ § +ðŁį ¬ +ðŁİ ĭ +ðŁİ » +ðŁı ¨ +ðŁIJ ĩ +ðŁij ĵ +ðŁĵ IJ +ðŁĵ Ļ +ðŁĶ ¼ +ðŁķ Ĵ +ðŁĸ ı +ðŁĸ ¥ +ðŁ¤ ¬ +ðŁ¥ Ĭ +ðŁ¥ Ĵ +ß Į +ຠĦ +á¼ µ +âķ ¡ +â² ¤ +â´ ¼ +âµ ¢ +ãĪ ¯ +ëĵ ¸ +ëŁ ĩ +ëº į +ðĿĻ § +ðŁį Ī +ðŁĶ ¬ +ðŁĸ Ĭ +ðŁ¤ ¾ +Ë ¡ +Ü © +âĮ ¡ +âŃ ij +â² ¦ +ë© ī +ì¼ Ń +ï¿ ¤ +ðĿĴ İ +ðĿĹ ¥ +ðŁIJ µ +ðŁķ ¶ +ðŁķ ¸ +ðŁ¤ ľ +Õ ª +áĪ ĭ +ðŁ¥ µ +ï° ģ +áµ IJ +âķ ĵ +áĢ ĸ +âĭ Ī +É ŀ +âŀ ® +ॠ° +ãĨ ģ +ðŁĴ ± +ðŁı Ń +áĨ ¨ +ðŁį ļ +ðŁ¦ IJ +á´ » +âĺ Į +à´ ķ +Õ ± +áħ ® +ðĿIJ Į +Å ¦ +ຠķ +âľ Ļ +Ë ³ +Ô µ +âķ Ĵ +ðĿĹ Ĺ +ðĿĹ ł +Ú ļ +ঠ§ +âĨ Ŀ +âĻ ī +ãĮ » +ì¹ Ĭ +ðĿĹ º +ðŁ§ ĺ +ì³ £ +ï¬ Ŀ +ðŁij º +Ç Ł +Î Ī +Î « +Ñ ¥ +Ô ² +Õ ¨ +Ü ¦ +ঠĨ +ঠ¥ +áIJ ¢ +á¼ ģ +á¼ ĺ +á¼ ¦ +âĵ Ŀ +ãĪ ° +ãİ Ĺ +ê² ¡ +ë¨ Ģ +ì£ Ķ +ì´ ¤ +ìµ Ŀ +ï§ ´ +ïŃ Ĭ +ï² Ł +ðĿIJ · +ðĿij ĭ +ðĿĵ ī +ðĿĺ µ +ðŁĴ · +ðŁĽ © +ðŁ§ ¹ +Å Ķ +Ê ŀ +Ë ¥ +Î Į +Ñ © +Ó IJ +Ó ł +Ú ij +Ú Ĵ +ß ¨ +àª Ī +áIJ ĥ +á¹ ¯ +âĤ ĭ +âĤ µ +âĦ ħ +âĦ ł +âĪ £ +âī º +âī » +âĬ Ľ +âĮ IJ +âİ ĵ +âĺ ¸ +âĻ Ĵ +âļ Ĵ +âľ ĩ +âľ ł +â´ · +âµ ĸ +ãĦ ¸ +ãī ¢ +ãī ° +êĩ ´ +ê´ ¸ +êº ł +ëĤ ı +ëĤ ¢ +ëIJ Ģ +ëº ´ +ìĥ ľ +ìį ħ +ì¤ « +ì± ¦ +ìº ij +ì¼ ģ +ì¿ ³ +íĤ ģ +íħ ¡ +íĴ Ĥ +íĴ ī +íľ Ħ +ïŃ ª +ï® ¬ +ï¯ ¦ +ï± ª +ï² ı +ï ´Ģ +ï» Ĩ +ï¿ ¦ +ðĿij Ĺ +ðĿĸ Ļ +ðŁĮ ¡ +ðŁį Ŀ +ðŁį § +ðŁİ « +ðŁı ĺ +ðŁı ª +ðŁIJ ĭ +ðŁIJ Ľ +ðŁIJ º +ðŁij ĸ +ðŁij ŀ +ðŁij · +ðŁĵ Ģ +ðŁ ĶĦ +ðŁĶ Į +ðŁķ Ļ +ðŁĻ į +ðŁĻ İ +ðŁ¦ į +Ç ° +É Ł +Ê Ĩ +Ô ¼ +Ú ľ +ঠ¡ +ঠ¶ +áĴ ĥ +á¼ © +âĵ ķ +â² Ī +ê° ° +ê¹ ł +êº ħ +ëĦ ¹ +ë¯ ĵ +íIJ Ī +ï§ ¶ +ï® ij +ï² ¨ +ðĿĴ ī +ðĿĴ Ķ +ðĿĹ ¨ +ðĿĻ ŀ +ðĿļ Ĵ +ðĿļ ķ +ðŁIJ İ +ðŁ¤ ķ +ðŁ§ Ķ +Ï ° +Ô Ŀ +âĮ Ĭ +âĴ ¾ +ãī £ +ïŃ © +ðĿļ ŀ +Ê ij +ঠ¦ +áĦ ĩ +âī ĥ +â² Ģ +ìŁ İ +ðĿij ¶ +ðĿĵ ² +ðŁ İ· +ðŁļ ¹ +ຠģ +áł ł +ãĦ ļ +ðŁIJ ¿ +ἠļ +âķ ³ +ðŁIJ Ń +âĴ ¹ +ðĿĸ ļ +âĻ ĸ +ãĪ ² +âĨ ¾ +áĦ Ĩ +âķ Ľ +ðŁ¤ į +â½ ¥ +ðŁ Į¨ +âĪ ® +ãĮ ĺ +ãį ij +ï¹ Ģ +âĵ Ĺ +âĬ Ħ +ðŁı ¹ +Ë Ĵ +ðŁ¤ ± +ãı ľ +ðŁİ Į +ï¥ Ń +ঠ£ +ðŁİ ¹ +ãĬ Ł +à´ ° +ðĿIJ Ķ +à´ ¨ +འļ +âľ º +Õ · +ðŁij ³ +ঠľ +âĺ ĭ +âĻ Ĭ +ãĢ Ľ +È ĭ +à® ° +áĥ ¨ +âĦ ķ +íij Ģ +ðĿĵ ĥ +ðŁ¦ Ķ +Ä ¿ +Å Ģ +Æ ³ +É ļ +Ö ĥ +Ü £ +ß Ł +à¦ Ń +à§ ¡ +à¶ » +ຠ£ +འĩ +Ḡ¨ +á½ Ī +â½ ¬ +ê¡ Ķ +ì³ Ħ +ï¨ ī +ðĿIJ ¡ +ðĿĺ ¢ +ðŁį ¿ +ðŁİ Ł +ðŁı ī +ðŁĶ IJ +ðŁļ ħ +ðŁ¤ ½ +Æ į +Ç « +Ç ½ +È ļ +Î ī +Ó ¤ +Ó ª +Õ Ĭ +Ù ¼ +Ú ´ +ß Ŀ +à¶ ľ +á¼ ķ +á¿ ¥ +âİ ŀ +ãĢ ļ +ãī ¤ +ê³ ¸ +ê· ģ +ëĵ Ħ +ëĵ ķ +ì¨ Ķ +ì± ¨ +ðĿIJ ¾ +ðĿij » +ðĿĶ ¼ +ðĿķ Ŀ +ðĿĺ Ń +ðŁĨ Ļ +ðŁĵ ¤ +ðŁĶ Ł +ðŁĹ ¼ +Ä ľ +Æ ģ +Æ ¿ +Ç ³ +Ç · +É ĥ +É ł +Ê ī +Ê § +Ë ² +Ï ´ +Õ ģ +Õ ŀ +Ö ĩ +Û Ĥ +Û ĵ +ß Ĺ +ß ¦ +ঠ¹ +à® ³ +à´ ¸ +à» Ĥ +áĪ Ŀ +áĪ ª +áĭ µ +áIJ Ĭ +áĴ ª +áļ ĸ +áŀ Ľ +á´ ¢ +áµ ı +áµ Ń +á¶ « +Ḡı +ẠĴ +á¼ ¥ +á½ ķ +á½ ¼ +âĤ Ĭ +âĦ Ĥ +âĦ © +âĩ ī +âī £ +âĮ ł +âİ Ł +âı ® +âķ ĺ +âĹ ĸ +âĺ © +âĻ ij +âĻ ² +âļ Ľ +ãĦ Ł +ãī ± +ãİ ļ +ê¡ ķ +êª ĸ +ê° ¹ +ê² Ĩ +êµ Ħ +ëĩ ¬ +ëĭ ¯ +ëı ł +ëĴ ¬ +ëĸ Ī +ëĸ ½ +ëĺ Ķ +ëŀ ¸ +ë¸ ħ +ë» ł +ë¿ Ł +ìĤ µ +ìĬ ī +ìľ ° +ìł ĭ +ìł Ķ +ì¥ ¡ +ìŃ Ŀ +ì¼ ¬ +íĪ ĩ +íī ľ +íį Ħ +íĽ ¾ +íĿ £ +ï¤ © +ï¤ ¯ +ï¦ ľ +ï¦ § +ï§ ľ +ï¨ Ī +ï¬ ª +ï ¬´ +ïŃ ½ +ï® ī +ï¯ ŀ +ï° Ĵ +ï± ĩ +ï¿ Ħ +ðĿIJ ħ +ðĿij Ħ +ðĿij º +ðĿĴ Ĺ +ðĿĵ ® +ðĿķ Ľ +ðĿķ ŀ +ðĿĸ ij +ðĿĺ ģ +ðĿĺ Ĩ +ðĿĺ ¶ +ðĿĻ ¢ +ðĿļ ľ +ðŁĮ ĥ +ðŁĮ ¦ +ðŁį Ł +ðŁİ İ +ðŁı Ļ +ðŁIJ © +ðŁIJ « +ðŁIJ ´ +ðŁij Ķ +ðŁĵ ī +ðŁĵ Ľ +ðŁĶ ī +ðŁĸ ¼ +ðŁĹ ĥ +ðŁĹ ¯ +ðŁļ ĩ +ðŁļ IJ +ðŁļ µ +ðŁ¤ ¶ +ðŁ¥ ĭ +ðŁ¥ ĵ +ðŁ¥ ® +ðŁ¦ İ +ðŁ¦ ł +ðŁ§ Ĵ +ðŁ§ ¨ +Æ IJ +Ç į +Ó Ģ +Ô Ľ +ಠ° +à´ Ļ +áĢ Ĵ +ê² Ŀ +ê¹ ¹ +ë© ¥ +ìĸ Ķ +ï¤ ģ +ï¤ ı +ï¦ ī +ï¦ ĵ +ï§ ī +ï² Ŀ +ðĿĹ ŀ +ðĿĹ ± +ðŁĮ ĭ +ðŁį ¶ +ঠļ +ìķ ľ +ðĿIJ ¯ +ðĿļ Ŀ +à° ¨ +འĺ +འł +á¡ ¥ +á¾ ° +âģ į +âĶ ° +⬠ľ +ðĿIJ ł +ðĿij ¯ +ðĿĹ Ľ +ðĿĵ » +ðĿĸ Ī +âŀ » +áŀ ł +â¡ ± +â» ij +ðŁ§ µ +ï¦ ¢ +ðŁij ĺ +ãĤ Ķ +â¼ Ł +ãĬ ¤ +ï¦ Ŀ +ãĮ ¦ +âĢ ¸ +ðŁĶ Ļ +ã ¹ +ã¹ ¦ +ï¹ ħ +ï© Į +ãī ¨ +ï¸ ½ +âį ¥ +ðŁļ ī +ðŁ¥ ľ +âĵ ľ +â» Ŀ +ï¨ ľ +ðŁĴ Ĵ +áĦ ij +â¾ ŀ +ï¨ ģ +à´ ª +áĦ İ +âŀ ´ +ঠ· +áħ ¬ +áŀ § +âĨ ¢ +âķ ¦ +âľ ij +Ë ¬ +Õ IJ +à¼ Ķ +Ê ¤ +Ë ¨ +ठŀ +à» ĥ +༠ļ +âĵ ¥ +âķ ľ +ðŁIJ ĸ +á¼ Ļ +á¼ ¤ +ìĨ ° +È Ĥ +Ê ± +à® ļ +áĥ § +á´ ĭ +á´ ® +âĿ ¡ +âŀ · +ëĿ ¡ +ï§ ¢ +ï¯ ¡ +ðĿķ ķ +ðŁħ ° +ðŁ¦ ¸ +Ç ¸ +Ó ŀ +Ô ¶ +Ö Ĩ +Ú ģ +Û ĭ +áİ ¥ +á¾ ¿ +âĶ Ń +âĶ ® +êĢ Ģ +ê± ĺ +ëIJ Ń +ë½ Ħ +ìĶ IJ +ì¸ Į +íģ ł +íĻ ± +ï¥ ī +ï¨ ĸ +ðĿij ´ +ðĿĸ Ĵ +ðĿĺ ¨ +ðĿ ļĮ +ðŁIJ ¡ +ðŁij ¢ +ðŁĵ Ķ +Å ħ +Æ İ +È © +Ò ª +Ô ĥ +áĥ « +Ḡĩ +âĽ Ł +ê» Ń +ë¨ Ħ +ìŁ Ģ +ì¤ ´ +íļ IJ +ï¤ ³ +ðŁŁ ¢ +Æ § +È ¼ +Ê Ŀ +Ë Ħ +Ë ħ +Ë į +Ë § +Ò ¥ +Õ Ķ +Ø ı +Ø ¼ +ß IJ +ß ľ +ठĵ +à¦ Ļ +à® ĵ +à¶ ´ +༠į +༠Ĵ +འ£ +áĢ Ĥ +áĢ Ĭ +áĦ Ħ +á Īĺ +áĭ Ĭ +áĮ į +áij ĭ +áŀ Ĥ +áł ¢ +á¡ Ŀ +á´ ¦ +áµ į +áµ ¨ +Ḡ¡ +Ḡ¯ +á¼ £ +âģ Ĥ +âĦ ĺ +âĦ ľ +âĦ ³ +âĦ µ +âĨ ¦ +âĩ Ĩ +âĪ · +âĬ ļ +âĮ « +âĮ ¯ +âİ Ľ +âİ ľ +âİ ¤ +âİ ¦ +âİ ® +âij ī +âĶ ī +âķ Ļ +âĸ Ĥ +âĹ Ń +âĺ Ĭ +âĺ į +âĺ Ĵ +âļ Ĩ +⼠§ +⼠² +âŀ ĺ +⥠Ħ +â´ ³ +â´ ½ +âµ Ī +ãī ¯ +ãİ ij +ã§ ¬ +êĻ ¬ +ê§ ģ +ê³ ¬ +ê´ ŀ +ê» ľ +ëħ ĵ +ëĭ ¼ +ëį ĸ +ëĸ ± +ëĿ ° +ë¡ ¹ +ë¢ ´ +ë£ Ģ +ë¤ ł +ë¨ ķ +ëŃ ¥ +ìĦ ¶ +ìħ ¤ +ìĮ ķ +ìį ª +ìı © +ìĴ Ģ +ìĶ ¯ +ìĿ Ķ +ìĿ ľ +ìł Ń +ì§ ¦ +ì¨ © +ì² ¬ +ì³ ¥ +ì¼ ¯ +íĢ « +íĢ Ń +íĥ ¸ +íĵ ģ +íķ ¬ +íĹ ¸ +íĽ ķ +íľ Ń +íĿ Ĺ +ï¤ Į +ï¤ ª +ï§ ¿ +ï¬ Ħ +ï¬ ħ +ïŃ ij +ïŃ « +ïŃ º +ï® Ĥ +ï® ¢ +ï® ¨ +ï° İ +ï° ł +ï² £ +ï³ IJ +ï³ Ĵ +ï³ ĺ +ï³ ľ +ï¹ ¼ +ï¿ ¨ +ðĿIJ © +ðĿĴ ļ +ðĿķ Ķ +ðĿķ ¤ +ðĿĸ Į +ðĿĹ £ +ðĿĹ ° +ðĿĹ ´ +ðĿĺ Ĥ +ðĿĺ ¥ +ðĿĺ ® +ðĿĺ ¸ +ðĿĻ Ģ +ðĿĽ ¾ +ðĿľ ı +ðŁĮ ģ +ðŁĮ ľ +ðŁĮ ¥ +ðŁĮ ¯ +ðŁį IJ +ðŁİ Ĵ +ðŁı Ķ +ðŁı ķ +ðŁı ® +ðŁIJ Ĥ +ðŁIJ ī +ðŁIJ ¹ +ðŁĶ ķ +ðŁĶ ļ +ðŁķ ij +ðŁķ £ +ðŁĹ ŀ +ðŁĹ ¡ +ðŁĹ ¿ +ðŁļ Ĩ +ðŁļ Ĭ +ðŁļ ĵ +ðŁļ ķ +ðŁļ ¾ +ðŁĽ ģ +ðŁĽ İ +ðŁĽ ı +ðŁ¤ ´ +ðŁ¥ ķ +ðŁ¥ ĸ +ðŁ¥ ł +ðŁ¥ ¥ +ðŁ¦ Ĩ +ðŁ¦ ī +ðŁ¦ ļ +ðŁ§ ij +ðŁ§ ¥ +ðŁ§ ¿ +Å ° +Æ º +É § +ઠĩ +à® £ +áĪ Ī +áĬ ¤ +áĭ ® +áĮ Ī +áĮ µ +ᥠ² +âĵ Ł +êĻ ³ +ê° Ĭ +ëķ ģ +ëķ ¨ +ìĬ ģ +ï¦ µ +ï¬ ² +ðĿĸ į +ðĿĺ Į +ðĿĺ ³ +ðĿĻ © +ðŁį Ļ +ðŁĸ ĸ +áī ³ +áĭ ¨ +áĸ ĩ +áŀ Į +á¹ § +âķ ª +âŀ ļ +â² ĺ +ê ķ +êķ ¥ +ï¤ · +ï® £ +ï¯ ł +ðĿĴ ĸ +ðĿķ ĺ +ðĿĸ ĩ +ðĿĹ Ł +ðĿĹ ª +ðĿĹ ¯ +ðĿĻ ł +ðŁĵ ı +à¦ Ĺ +âĴ » +â² ł +ðĿĵ µ +Ê £ +à° ľ +áĬ ¢ +áŀ IJ +Ḡ· +âĦ Ľ +âĩ Ģ +âĩ Ĭ +êĴ ¦ +ê¦ ł +ï® ¤ +ðŁį Ľ +ðŁ¤ Ľ +ᨠ¾ +âŀ º +áķ ¯ +ἠı +âĩ Ĥ +âĶ ¹ +âĻ Ĺ +ðŁĸ ¨ +ê¦ ı +ઠ° +áļ ¨ +ðŁ¤ ¥ +ðŁ§ ¢ +ãIJ Ĥ +ãĦ ¥ +ðŁĸ Į +â¼ Ĵ +ãĬ § +âį © +ðŁ¦ ij +âĶ · +ï© IJ +ï© ¡ +ðĵ Ī +ðĵĪ Ĵ +â» Ħ +ï¨ Ĵ +âĦ ª +Ò § +Ú Į +âĢ ¶ +⺠ł +â» ģ +âĨ ¸ +áĦ IJ +ãħ IJ +à» Ħ +áĹ ª +âĨ ¼ +âĩ ĭ +âĩ ĺ +âĮ ij +âĸ © +ðĿIJ Ĺ +Ä Ĭ +ঠī +ìī ł +É ¤ +ß į +ß ı +áµ Ĺ +âĤ ¥ +âĵ ī +âĶ ł +âĶ ¨ +âķ Ħ +ä ¤ +ä¤ Ģ +ê» ¸ +ï® ģ +ðĵ Ĥ +ðĵĤ ĥ +ðŁ¦ ķ +Æ Ľ +ঠĩ +ãı ĺ +ï® ¼ +Ú ĵ +Ú Ŀ +ঠĵ +à¶ ¯ +á´ ħ +á½ Ļ +âģ ¼ +âĸ İ +â¼ © +ä Ķ +äĶ Ģ +ë» ¡ +ìĽ ½ +íģ Ħ +ï¥ ¼ +ï± ī +ï¹ » +ðĿĸ ĭ +ðĿĻ Ī +ðĿĻ ª +ðĿ ϶ +ðŁIJ Ħ +ðŁIJ Ĩ +áİ ¢ +ḠĮ +âĿ ´ +ðŁı ¸ +È Ŀ +É ¸ +Î ħ +Ï ľ +Ó ¢ +Õ ¹ +à´ ħ +àº Ī +áĭ ° +áij İ +áł µ +á¡ ł +á´ ī +Ḡµ +á¿ ´ +âĵ £ +âĶ ¶ +â½ ¯ +ê² ¥ +ê¿ ĺ +ëģ İ +ëİ Ī +ëĶ ¯ +ë² ° +ìĺ ¯ +ìĽ ¸ +ìŀ Ĺ +ì§ ĺ +ì¬ ¬ +ì· ¬ +íģ ħ +íĵ Ķ +íĽ Ŀ +ï¤ ® +ï¤ ¹ +ï¥ ² +ï¯ ĸ +ðĿĵ ħ +ðĿĻ Ħ +ðŁĵ ¶ +ðŁĹ Ĵ +ðŁ¥ Ķ +ðŁ¥ Ń +Å ® +Å ´ +Æ ī +Æ « +Ç ģ +Ç £ +Ç º +Ç ¼ +È į +È ¯ +É ľ +Ê ¬ +Ë ģ +Ë ¤ +Ë µ +Ï Ľ +Ò ¤ +Ò ¬ +Ó ı +Ó Ľ +Ó ¡ +Ó ³ +Ô Į +Ô ¬ +Õ ³ +Ù » +Ú ī +Ú § +Ü ľ +ß ª +ठĿ +ঠĽ +ਠĨ +ઠķ +ઠ¡ +à® İ +à° ¬ +ൠ» +ൠ¼ +à¶ ł +à¶ Ń +à¶ ¶ +à· Ĩ +༠½ +áĢ ļ +áħ ¢ +áĨ ¸ +áĪ Ģ +áĪ ķ +áĪ ° +áī ¡ +áī ¤ +áĬ ¦ +áĬ « +áĭ ĭ +áĭ į +áİ ¯ +áij Ń +áķ Ĺ +ᣠĽ +ᥠĴ +á© ī +áŃ º +á´ ¡ +áµ ĺ +áµ Ľ +á¶ ł +Ḡģ +Ḡĭ +á¹ Ļ +á¹ Ŀ +á¹ ¦ +Ạħ +á¼ Ĥ +á½ ĥ +á½ į +á½ § +á¾ · +âĢ µ +âĤ İ +âĦ Ŀ +âħ Ģ +âĨ ŀ +âĨ § +âĩ ħ +âĪ ĥ +âī ı +âī ½ +âĬ ŀ +âĬ ¡ +âĬ § +â Ĭ¶ +âĭ Ħ +âİ Ĵ +âİ ¡ +âİ £ +âİ ª +âı İ +âĵ ĥ +âĵ ĸ +âĵ ¨ +âķ ĭ +âķ ĸ +âķ ¢ +âķ ² +âĸ Ĩ +âĸ Ĭ +âĸ į +âĸ ® +âĺ ¡ +âĺ ¦ +âĺ ± +âĺ ¿ +âĻ ĺ +âĻ Ŀ +âļ ° +⼠ij +âŀ ª +⤠Ŀ +⤠¢ +⤠· +â§ « +â¨ Ń +⨠¯ +â± £ +â² İ +âµ Ľ +ãħ Ķ +ãĪ ı +ãī ² +ãī ³ +ãĬ ij +ãĭ Ľ +ãİ IJ +ê² ¤ +ê· ¿ +ê¹ ŀ +ê» ¨ +ê¼ į +ê¿ ¸ +ëĥ ¬ +ëĩ IJ +ëĭ ł +ëį ¯ +ëĹ Į +ëĹ ij +ë¥ Ģ +ëª ĥ +ëª ¯ +ë± ¡ +ë³ ĵ +ë³ ½ +ë µľ +ìĤ ³ +ìħ ¥ +ìĩ ½ +ìı ¨ +ìı ¸ +ìķ į +ìĸ ĸ +ìŁ ¨ +ì¢ ĥ +ì¢ į +ì¥ ij +ì§ ¼ +ì© ĥ +ì® ľ +ì® ¸ +ì³ ij +ì´ ¥ +ì¾ ĥ +íħ ¦ +íĪ ¿ +íĵ ½ +íķ ³ +íĸ ı +íĹ ł +íĿ « +ï¤ ĵ +ï¤ ĺ +ï¥ İ +ï¥ ¶ +ï¦ ħ +ï¦ ½ +ï§ ĩ +ï¬ Ĩ +ï¬ ³ +ï® ĩ +ï® Ī +ï® Ŀ +ï® © +ï® ± +ï¯ ĺ +ï¯ Ļ +ï¯ ¢ +ï¯ £ +ï¯ ¤ +ï¯ ¥ +ï± Ĥ +ï² Ĩ +ï² ª +ï´ ¼ +ïº ī +ïº Ĭ +ïº ¥ +ðĿij ¨ +ðĿij © +ðĿij ² +ðĿ ĴĮ +ðĿĴ ª +ðĿĴ ® +ðĿĵ Ĥ +ðĿĵ Ī +ðĿĵ ¯ +ðĿĶ ¨ +ðĿķ Ģ +ðĿķ Ĩ +ðĿķ ¦ +ðĿķ § +ðĿķ « +ðĿķ · +ðĿĹ µ +ðĿĹ ¸ +ðĿĺ Ħ +ðĿĺ Ļ +ðĿĺ ł +ðĿĺ ¬ +ðĿĻ į +ðĿĻ ij +ðĿĻ ¡ +ðĿ ύ +ðĿĻ · +ðĿļ į +ðĿĽ ¿ +ðŁ ĥ +ðŁĥ ı +ðŁħ ĺ +ðŁ ī +ðŁī ij +ðŁİ ¡ +ðŁİ ª +ðŁİ ± +ðŁİ ³ +ðŁİ º +ðŁı İ +ðŁı Ĺ +ðŁı ļ +ðŁı ŀ +ðŁı ¦ +ðŁı § +ðŁIJ ģ +ðŁIJ ħ +ðŁIJ ĵ +ðŁĴ Ĥ +ðŁĵ ij +ðŁĵ ĵ +ðŁĵ ¨ +ðŁĵ « +ðŁĶ ĭ +ðŁĶ Ń +ðŁĶ ¯ +ðŁķ Ĺ +ðŁļ Ĥ +ðŁļ ¢ +ðŁļ ¦ +ðŁļ ¬ +ðŁĽ ĭ +ðŁĽ Į +ðŁĽ ¬ +ðŁĽ ¶ +ðŁŁ ¡ +ðŁ¥ ĺ +ðŁ¥ Ł +ðŁ¥ ¦ +ðŁ¦ ĩ +ðŁ¦ Ī +ðŁ§ Ĭ +ðŁ§ Ĺ +ðŁ§ ¤ +Ê · +Ë ¹ +á¹ ļ +á½ ¥ +âĦ Ł +ê² ¯ +ê» « +ë° · +ìĥ Ĩ +ìĽ Ŀ +ì¨ ī +ì« ı +ï¯ ķ +ðĿľ ĭ +É ² +Ò Ń +Ó Ī +འĽ +áĭ ĵ +áĻ Ń +áł © +á¹ ® +âĦ Ĵ +âĨ » +âµ ĥ +ëĢ ¨ +ëł § +ìī ¥ +ìĮ ľ +ìĹ ¶ +ì¨ Ī +ìª ¾ +íı ½ +íļ Ķ +íĽ µ +ï¤ ¸ +ï¦ IJ +ï§ Ĺ +ï§ ļ +ï¬ ¯ +ðĿIJ Ĭ +ðĿķ Ĺ +ðĿĹ ļ +ðĿļ ĸ +ðŁħ ´ +È ĥ +É Ŀ +Ï ± +Ó Ĺ +ठ¢ +áħ ł +áī ¦ +áij Į +áĴ ¼ +áŀ ¡ +áł ¨ +áł Ń +ᨠħ +á¨ Ķ +á´ ĺ +á¶ ¦ +á¸ İ +á¼ ħ +á¼ ¹ +âĨ ¯ +âĵ İ +ãı Į +ê ī +êī Ĥ +ëĨ § +ëĿ ± +ì¢ ¡ +íĪ ½ +ï¤ ĩ +ï¤ Ľ +ðĿIJ ķ +ðĿĵ ¸ +ðĿĵ ¼ +ðĿĹ ķ +ðĿĺ Ī +ðŁı £ +ðŁı ¤ +ðŁĹ Ħ +Ñ · +Ò ł +áµ ĸ +á¼ ¨ +ë¬ Ħ +ï° ´ +âĪ ½ +Õ Ń +Ú ¹ +à¥ Ł +áĢ Ĩ +áŀ Ĵ +ãĢ ¶ +ê¦ « +ï¸ ĵ +ðĿIJ Ľ +ðĿĺ Ĺ +ðŁı ľ +ì« Ń +ðŁ§ ŀ +འĤ +âĨ ¿ +âĩ ı +âĵ ģ +âĶ § +âķ ģ +âķ ¤ +ê¦ Ĺ +ê¦ ¤ +ðŁı Ī +áŀ ķ +Ô ½ +àª Ĺ +ଠĨ +âķ ķ +ï½ ł +â¼ ¦ +â¼ ¯ +â¾ · +âĶ ĸ +ଠĵ +âĺ Ĺ +âį ĭ +ï¨ Ŀ +â¼ ¥ +ï¦ ª +âĦ Ĭ +ãĢ ´ +âį ¢ +ð¡ Ī +ð¡Ī ½ +ï© ¨ +ãĢ » +ãı ĥ +ï¦ ¡ +ï¨ ĺ +ðŁIJ ĥ +ðŁĨ ĸ +ðŁĹ ¾ +ãĦ ĩ +Þ ĭ +â¼ ¼ +ï¨ Ń +Þ Ģ +Þ Ħ +Þ Ī +Þ IJ +âĮ Ħ +â» ĺ +ãŁ ¢ +á ħ§ +ðIJĮ ¿ +Ë » +à² Ĺ +áĢ ĩ +áŀ Ĭ +âķ ĩ +ãĩ ¼ +ãİ ° +Õ Ĵ +Ü Ī +ß ¥ +à¿ IJ +áĢ Ł +âĨ ¥ +âķ Į +â½ Ģ +â½ ° +â¾ Ĭ +ä Ħ +äĦ Ģ +ðĵ IJ +ðĵIJ į +ðŁİ ¦ +âĤ ¯ +âĬ ĺ +âĦ į +Ê µ +Ñ ¶ +Ú ĥ +à¦ Ķ +à´ ¦ +áİ ¶ +áĵ ķ +á¹ ¨ +âĤ ł +âĩ ° +âĹ Ĵ +â¿ Ĭ +ê· ± +ì¹ ķ +íĪ © +ïŃ Ģ +ðĿĴ ¸ +ðĿĵ Ĭ +ðĿĺ © +Ç ¦ +É « +áĬ ¨ +È ¹ +Ê ¯ +Î ª +Ú Ģ +áĮ ¸ +áİ » +áı ķ +áı ´ +á² Ĥ +á½ ¨ +âı Ŀ +âĺ Ļ +ëĥ ¨ +ëĦ ¼ +ëĪ Ļ +ë£ ħ +ìĶ ¼ +ìķ Ŀ +ìļ ¬ +ìľ ± +ï¥ Ĥ +ï¦ ¹ +ï¬ ¹ +ïŃ ģ +ï³ Ī +ðĿĶ ħ +ðĿĺ ¤ +ðĿĻ ı +ðĿĻ Ļ +ðŁķ ī +ðŁ§ Ļ +Ḡij +ê´ ¼ +ëģ į +ëĹ ´ +ëĿ ³ +ë° ŀ +ë° ¢ +ëµ ĺ +ìĤ Ķ +ìĦ Ħ +ì¼ ļ +íĢ ł +íĬ ± +íĮ ĸ +ï¤ ij +ï¦ ´ +ï¦ ¸ +ï´ į +ðĿĺ · +Ä ¬ +Å ¬ +Æ Ģ +Æ ĭ +Æ ľ +Ç ij +Ç ĺ +Ç ŀ +Ç ¥ +Ç ® +É ° +É ¶ +É · +É ½ +Ê Ī +Ê IJ +Ë İ +Ë Ł +Ë ¦ +Ë ¯ +Ï IJ +Ï ĵ +Ï ¢ +Ï ¤ +Ï ª +Ï Ń +Ï ® +Ï » +Ñ ł +Ñ Ń +Ò ¨ +Ó Ŀ +Ô ¡ +Ô · +Õ ī +Õ ĵ +Õ ĸ +Õ ļ +Õ Ŀ +Ö İ +Ø ¿ +Ú ħ +Ú į +Ú Ķ +Û Ĭ +Û ¾ +Ü Ļ +Ý Ĵ +Ý ĺ +ß Ĵ +ß ĸ +ठĬ +ठIJ +ঠı +ঠĸ +à§ Ł +ઠ® +ઠ¹ +à® ħ +à® Ĩ +à° ¡ +à° ° +ಠļ +ಠ® +ಠ¯ +à´ Ł +à´ · +ൠ¾ +à¶ ij +à¶ ŀ +༠¼ +འĵ +áĢ ĵ +áĤ ¦ +áĥ ĸ +áĥ Ń +áĥ ¯ +áħ ¨ +áħ ª +áĨ ° +áĪ ģ +áĪ İ +áĪ ĵ +áĪ ¥ +áĪ ² +áĪ ´ +áĪ » +áī ł +áī ² +áī ¶ +áĬ £ +áĬ ¥ +áĬ ª +áĭ ĺ +áĭ ² +áĭ ¶ +áĮ £ +áį ¡ +áį £ +áİ ¬ +áİ ¾ +áIJ ¡ +áķ ķ +áĸ ± +áĹ IJ +áĹ Ń +áĺ ī +áļ ± +áĽ Ł +áŀ ¥ +áŁ Ķ +áł £ +áł ª +áł ° +áł ´ +ᤠĸ +ᥠ£ +á ® +á® ł +á ¯ +á¯ Ļ +á ° +á° į +á´ Ĭ +á´ ¾ +áµ ģ +áµ İ +áµ ŀ +áµ ¤ +á¶ ħ +á¶ ĺ +á¶ Ł +á¶ ¢ +á¶ ¤ +á¶ ± +á¶ » +Ḡī +Ḡŀ +Ḡº +á¹ ĵ +á¹ Ĺ +á¹ ª +ẠĬ +Ạı +ẠĽ +á¼ ĥ +á¼ Į +á¼ ¿ +á½ Ĥ +á½ ĵ +á½ Ĺ +á½ ¦ +á¾ ± +á¾ ´ +á¿ ĺ +á¿ Ł +á¿ ¸ +âģ ĺ +âĤ ij +âĤ Ľ +âĤ ¿ +âĦ ĩ +âĦ ŀ +âĦ ± +âĩ Ł +âĩ ² +âĪ ¤ +âĪ ¶ +âī Ĥ +âī ¾ +âĬ ¨ +âĬ ³ +âĬ · +âĭ Į +âĭ ĺ +âĮ ķ +âĮ ¥ +âĮ µ +âĮ º +âį £ +âį ² +âį µ +âİ ĩ +âı ĥ +âı IJ +âı ł +âı ¤ +âı ¶ +âı ¸ +âı ¹ +âij Ĥ +âĴ · +âĴ º +âĵ ¡ +âĵ ¤ +âĶ ¾ +âĸ ĺ +âĸ µ +âĹ ª +âĹ · +âĺ ¨ +âĺ « +âĺ ² +âĺ ³ +âĻ Ĩ +âļ ¤ +âļ ¥ +⼠ĵ +⼠´ +⼠¾ +âŀ « +âŀ ¿ +⣠· +⤠ij +⤠« +⤠¶ +⤠½ +â§ ª +â¨ Ģ +â ©½ +⬠¡ +⬠¢ +⬠¤ +â² ĸ +â² ª +âµ Ģ +⸠® +⸠½ +ãĢ ł +ãĢ · +ãĦ Į +ãĦ ĺ +ãħ ij +ãĪ İ +ãĪ IJ +ãĬ ľ +ãĮ ĵ +ãĮ ł +ãİ Ł +ãİ ¤ +ãİ § +㬠® +ä Ī +äĪ Ģ +ä ° +ä° Ģ +ê ħ +êħ ī +êĩ Ĺ +ê Ī +êĪ į +ê§ Ĥ +ê§ Ĭ +êª Ģ +ê² Ī +ê² į +ê³ Ģ +êµ ł +ê½ IJ +ê¾ Ī +ê¿ ± +ëĥ ı +ëĦ ij +ëħ ¤ +ëĩ ¸ +ëĪ ¼ +ëī ħ +ëĬ £ +ëĭ º +ëį ŀ +ëIJ Į +ëķ ¸ +ëĺ ł +ëĻ ĩ +ëĻ Ī +ëľ ½ +ëŀ Ķ +ëł ľ +ë£ IJ +ë§ Ģ +ë§ Ĭ +ëª Ģ +ë¬ Ń +ë¯ ¾ +ë³ ľ +ë´ Ĭ +ëµ ī +ë· ľ +ë¸ Ģ +ë¹ ĭ +ìģ Ħ +ìĤ £ +ìĤ » +ìĦ µ +ìħ Ĵ +ìī Ī +ìī Ķ +ìĬ Į +ìĬ Ļ +ìIJ ´ +ìĵ º +ìķ ļ +ìķ º +ìĸ ľ +ìĹ ª +ìĺ ľ +ìĻ ¤ +ìļ Ľ +ìļ º +ìĿ ħ +ìĿ ı +ìĿ Ń +ìĿ ¶ +ìł Ľ +ì¡ Ī +ì¢ ī +ì¢ Ķ +ì© ł +ìŃ Į +ì¯ © +ì´ £ +ì¸ ķ +ì¹ Ł +ì¾ ¡ +ì¿ Ļ +íģ ĩ +íģ ī +íĩ Ģ +íĪ ¶ +íĸ ij +íĸ ¤ +íĹ ħ +íľ ı +íĿ Ŀ +ï¤ Ĵ +ï¤ ķ +ï¤ ¬ +ï¥ ħ +ï¥ ĩ +ï¥ ı +ï¥ ļ +ï¥ Ł +ï¦ Ħ +ï¦ Ī +ï¦ ¨ +ï¦ © +ï¦ ² +ï§ ģ +ï§ ĥ +ï§ Ķ +ï§ ł +ï§ £ +ï§ ® +ï ŃIJ +ïŃ ĸ +ïŃ ¦ +ïŃ ´ +ïŃ µ +ïŃ ¶ +ïŃ ¸ +ï® Į +ï® İ +ï® ŀ +ï® Ł +ï® ¡ +ï® ª +ï¯ Ķ +ï¯ Ĺ +ï¯ ļ +ï¯ Ľ +ï¯ Ŀ +ï¯ Ł +ï¯ § +ï¯ ¨ +ï¯ « +ï¯ ¯ +ï¯ ° +ï¯ ± +ï¯ ² +ï¯ ³ +ï¯ ´ +ï¯ µ +ï¯ ¶ +ï° Ģ +ï± ħ +ï± Ķ +ï± ´ +ï² ģ +ï³ ķ +ï· ½ +ï¸ ķ +ï¸ ± +ï¹ £ +ï¹ ½ +ï» į +ï¾ ± +ðĿIJ Ļ +ðĿIJ ½ +ðĿij ¤ +ðĿij ® +ðĿij µ +ðĿĴ ĥ +ðĿĴ Ħ +ðĿĵ Ń +ðĿĵ · +ðĿĶ ĸ +ðĿĶ ŀ +ðĿĶ ¢ +ðĿĶ ¦ +ðĿĶ ¬ +ðĿķ Ħ +ðĿķ Ĭ +ðĿķ İ +ðĿķ Ļ +ðĿķ ľ +ðĿķ Ń +ðĿķ ³ +ðĿķ ¸ +ðĿķ ¾ +ðĿ ĸī +ðĿĸ ı +ðĿĺ ĩ +ðĿĺ ī +ðĿĺ ĸ +ðĿĺ Ľ +ðĿĺ ŀ +ðĿĺ « +ðĿĺ ¾ +ðĿĻ ĩ +ðĿĻ ī +ðĿĻ ĭ +ðĿĻ İ +ðĿĻ ĺ +ðĿĻ ¥ +ðĿļ ĥ +ðĿļ IJ +ðĿļ Ķ +ðĿľ ĥ +ðŁĦ · +ðŁħ Ŀ +ðŁħ ¾ +ðŁĨ Ĥ +ðŁĨ ĵ +ðŁĮ Ĥ +ðŁĮ Ĩ +ðŁĮ ī +ðŁĮ ij +ðŁĮ ĺ +ðŁĮ © +ðŁĮ « +ðŁį ¢ +ðŁį ¥ +ðŁİ Ľ +ðŁİ ¢ +ðŁİ ´ +ðŁij ¡ +ðŁĴ ¾ +ðŁĵ Ń +ðŁĶ Ī +ðŁĶ ¦ +ðŁĶ ² +ðŁĶ ³ +ðŁķ ĵ +ðŁķ ķ +ðŁķ ĺ +ðŁķ Ł +ðŁķ · +ðŁĹ ³ +ðŁļ Ħ +ðŁļ Ķ +ðŁļ ĸ +ðŁĽ IJ +ðŁĽ ¤ +ðŁĽ ¸ +ðŁ ł +ðŁł ³ +ðŁ¤ ¹ +ðŁ¥ ĥ +ðŁ¥ ¨ +ðŁ¥ ª +ðŁ¥ ¾ +ðŁ¦ ĥ +ðŁ¦ Ĵ +ðŁ¦ Ļ +ðŁ¦ ¶ +ðŁ§ ł +ðŁ§ ª +ðŁ§ Ń +ðŁ§ ² +𣠷 +ð£· Ń +ð¦ ĺ +ð¦ĺ Ĵ +Æ ij +Ç Ļ +È ® +Ø ł +Ú Ħ +Ü Ģ +ß ¢ +áī Ģ +áĬ IJ +áİ ł +Ạŀ +ëĪ ŀ +ëķ Ł +ë£ ģ +ë¤ Ĺ +ìĦ ¥ +ìħ ij +ìĸ IJ +ìĽ Ľ +ì£ ķ +íİ ı +íĽ ĵ +ï¥ º +ï³ Ľ +ï´ « +ðĸ § +ðĸ§ · +ðĿķ ģ +ðŁIJ ª +ðŁĴ Ī +ðŁĵ ł +ðŁķ Ľ +ðŁķ ´ +Ñ Ŀ +Ó Ĭ +ॠ² +ઠª +áĥ ¤ +áį IJ +á¶ ° +á¼ Ŀ +á½ © +âĭ ĭ +âĴ ½ +âĻ ¾ +â ½Ķ +â¾ ¯ +ãĦ Ĵ +ãħ ļ +ëIJ į +ë· ģ +ìĭ Ģ +ìļ Ŀ +ì¥ ° +ìº ´ +íĭ ī +íĿ ½ +ï¦ Ģ +ï¦ ¿ +ï§ ħ +ï§ ĵ +ïŃ ¯ +ï® Ĩ +ðIJ¤ ķ +ðĿIJ Ł +ðĿĴ ħ +ðĿĵ ľ +ðĿĶ ° +ðĿĶ » +ðĿĺ į +ðĿĻ ¯ +ðŁĦ ½ +ðŁħ Ĥ +ðŁħ Ķ +ðŁħ ½ +ðŁĵ ´ +ðŁ§ ĸ +Ó Ĵ +Ḡ² +ëī ¼ +Ç ı +È ĵ +Ê ¸ +Õ Ĥ +Û ħ +ß ¡ +ß £ +à® ¯ +à° Ī +ಠ¸ +ຠ® +༠ķ +áĢ İ +áĨ ¡ +áIJ ĭ +áIJ ķ +áij ¯ +áŀ Ĩ +ᨠķ +á© Ī +âģ ħ +âĨ ļ +âĶ İ +âł © +â² Ĥ +â² Ķ +â² ¨ +ãĬ ļ +íĵ ² +ðĿij Ī +ðĿij ¬ +ðĿij ¹ +ðĿĴ ¾ +ðĿĵ ± +ðĿĵ ½ +ðĿķ ¯ +ðĿķ » +ðĿĺ ½ +ðĿļ Ĩ +ðŁĦ ° +ðŁIJ ¨ +Ò ķ +ಠħ +ï¨ Ĩ +ðĿij ° +ðŁĦ ¸ +Ô İ +Ø į +Ù µ +ಠ¶ +áĢ Ī +áĺ Ĺ +áł ¸ +á¡ ¡ +ᨠ² +á© ģ +á´ · +áµ § +âķ ¨ +âļ ģ +â¾ Ŀ +ãĢ ¼ +ãĦ ı +êĴ « +ê¦ ¥ +ê¦ © +ê¦ ² +ìĺ ¼ +íĵ IJ +ðĵ ĩ +ðĵĩ ¼ +ðĿķ ¿ +ðŁĽ ´ +ë¨ ľ +ಠµ +à´ İ +à¼ Ģ +âĩ ĸ +ãĪ « +âĵ Ģ +áħ ´ +áļ ¾ +ἠŀ +ἠ« +ᥠ´ +âĨ Ľ +âĨ ¶ +âĩ ¤ +âķ Ł +âĺ · +âļ IJ +ðŁ§ ´ +á¹ ³ +âĶ į +âĶ Ĵ +âĶ © +âĶ ¦ +â¾ µ +ઠľ +ઠ¤ +âĩ Ļ +âĶ ± +âķ Ģ +â½ Ĭ +ï½ Ł +ଠ¡ +ðł ® +ðł® · +âķ ĥ +â° Ķ +ãĬ ¦ +ðŁİ IJ +ãĩ ° +â¼ Ŀ +â¾ Ķ +â½ Ĵ +âł Ĵ +ï¨ ¦ +ï© Ĵ +ï¨ ² +ï© ĸ +ðĵı ¸ +ãĮ ĥ +ðĸ ¤ +ðĸ¤ IJ +ï¦ Ń +âĬ ħ +â¾ ³ +ä´ ¥ +ï© ķ +ðŁĮ Ķ +áŀ ĭ +âļ į +â¼ ĭ +ãİ ĺ +ðIJĮ ² +É © +áİ ij +âĨ ® +âĩ ĥ +âļ İ +ãĩ ± +ãĭ © +ãĮ ¶ +êĻ ª +ëİ ¬ +ï¨ IJ +ï¨ Ľ +ï© Ĭ +ï© į +ðĵ ħ +ðĵħ º +Ï ¡ +È ij +É Ĥ +Ô ĵ +ß İ +à´ § +áĢ ī +áĢ ĭ +áĢ ij +áĢ ł +áļ Ļ +ᨠĦ +ᨠ© +ᨠ¹ +á© ĵ +ᬠľ +á´ Ļ +áµ ij +âĤ Ń +âĨ ° +âľ ģ +â½ IJ +ãĭ ¯ +ãĮ ½ +íĨ ¢ +ï¤ ¿ +ðŁ Ĥ +ðŁĤ » +È Ĵ +Í º +Ô ¥ +Õ ij +Ú ¶ +à§ İ +à¶ ® +ຠĸ +ຠľ +ຠ½ +áĥ » +áħ ¯ +áĭ ŀ +áĸ ķ +á ´Ī +á¶ Ĩ +Ḡľ +á¹ ¼ +á¿ ¨ +âĦ ĭ +âĦ Ń +âĪ ± +âĮ ĵ +âĶ ĩ +âĶ ¢ +â± ® +â² Ħ +ãĩ ¾ +ãĪ ¬ +ë¸ ¡ +ìIJ ī +íĻ Ľ +ðĿķ ª +Æ ¹ +Í ² +Ó ģ +Û ¼ +ঠ« +áħ Ł +áī Ĩ +áį Ī +Ạĸ +á½ ī +âĶ ¸ +â½ © +ê ľ +êľ ¥ +êµ ħ +ëĤ Ķ +ëĦ ł +ëĩ Ĺ +ëĻ Ŀ +ìļ ¯ +ìļ · +ìŁ Ľ +ì· IJ +íŁ ¬ +íŁ ® +íŁ ° +ï¦ Ĩ +ï¦ ± +ï² ŀ +ï³ ¤ +ï³ ¥ +ðIJĮ ¸ +ðĿĶ ı +ðĿķ ® +ðĿĺ £ +à¦ Ī +âı ı +ãĦ ĸ +ê² ĩ +ëĸ ĺ +ëľ · +ëŀ Ĵ +ë¡ ĵ +ë¢ ī +ë£ ĥ +ë§ ĭ +ë² ĭ +ìĤ · +ìĪ ķ +ì Į¨ +ìĵ » +ìĸ Ĭ +ìĻ ¬ +ìĿ » +ì¦ ģ +ìµ ¤ +ì· ĥ +íĢ ľ +íħ ī +íį ł +íı ħ +íij ± +íķ ķ +íĸ ł +íĿ ķ +Æ Ļ +Æ ļ +Æ ŀ +Ç ĥ +Ç Ĭ +Ç ľ +Ç ¤ +Ç Ń +Ç ¹ +È Ģ +È ģ +È ħ +È ī +È Ĺ +È Ł +È ¤ +È ¥ +È ¨ +È µ +È º +È » +É Į +É ® +Ê ħ +Ê ¥ +Ê ¨ +Ë ĵ +Ë Ķ +Ë ł +Ë £ +Ë ¸ +Í ´ +Ï Ĺ +Ï ĺ +Ï Ļ +Ï ļ +Ï Ŀ +Ï ¨ +Ï ¬ +Ï ¾ +Ï ¿ +Ñ ª +Ò Ģ +Ò ľ +Ò ¼ +Ò ½ +Ó Ĥ +Ó ħ +Ó ĩ +Ó į +Ó ĸ +Ó Ł +Ó « +Ó ± +Ô Ĩ +Ô ĩ +Ô º +Õ ĭ +Ö ī +Ø Ī +Ø Ĭ +Ø ½ +Ø ¾ +Ù · +Ú Ĥ +Ú Ĭ +Ú ĸ +Ú Ĺ +Ú £ +Ú « +Ú ¸ +Û Ģ +Û į +Û ½ +Ü ī +Ü ¤ +Ý § +Ý ´ +Þ ĥ +Þ ¤ +Þ ¥ +ß ļ +ß Ľ +ß ¤ +àł į +àł ĵ +àł ³ +à¡ ¢ +ॠł +à§ ł +à§ º +ਠĬ +ਠIJ +ਠ® +ਠ¯ +ਠ° +ਠ¸ +ઠĨ +ઠ³ +ઠµ +ઠ½ +ଠĮ +ଠĺ +ଠ½ +à® ĥ +à® ¸ +à° Ĩ +à° ķ +à° ¦ +ಠĨ +ಠĬ +ಠĮ +ಠIJ +ಠĽ +ಠ¤ +ಠ¦ +ಠª +ಠ² +ಠ¹ +à´ Ĩ +à´ ı +à´ Ĺ +à´ « +à´ ¹ +ൠº +ൠ½ +à¶ ħ +à¶ Ĭ +à¶ Ķ +à¶ § +à¶ « +à¶ ° +༠Ħ +༠ħ +༠Ĭ +à½ Ļ +འ¡ +འ§ +à¿ Ģ +à¿ Ļ +áĢ Ŀ +áĢ § +áĢ © +áĢ ¿ +áģ µ +áĤ ģ +áĤ ½ +áĥ Ĥ +áĥ ª +áĦ Ĭ +áĦ ¢ +áħ ¦ +áħ Ń +áĨ ® +áĨ ± +áĨ » +á ĩ +áĩ Ĥ +áĪ ħ +áĪ ī +áĪ Į +áĪ IJ +áĪ Ĵ +áĪ Ļ +áĪ ļ +áĪ ľ +áĪ ŀ +áĪ © +áĪ ³ +áĪ º +áĪ ½ +áī ħ +áī ¢ +áī ± +áī ´ +áĬ ĥ +áĬ į +áĬ ĸ +áĬ ® +áĬ ¸ +áĭ Ľ +áĭ Ŀ +áĭ ³ +áĮ ģ +áĮ ħ +áĮ ¥ +áĮ ¦ +á Į¨ +áį Ĭ +áį į +áį ķ +áį ĸ +áį ¢ +áį ¤ +áİ Ĵ +áİ ª +áı ģ +áı IJ +áı Ł +áIJ Ĥ +áIJ ĸ +áIJ Ŀ +áIJ ŀ +áIJ Ł +áIJ ł +áij ĸ +áĴ ĭ +áĴ į +áĴ ¡ +áĵ « +áĶ ķ +áķ ĭ +áķ ij +áķ Ļ +áķ ļ +áķ Ľ +áķ ¤ +áķ ¦ +áķ ® +áķ ¼ +áĸ ĵ +áĹ Ĺ +áĹ ¢ +áĹ ¯ +áĹ · +áĺ Ħ +áĺ ij +ἠĤ +áĽ Ļ +áŀ į +áł Ĩ +áł ¡ +áł ¦ +áł ® +áł ¯ +áł ² +áł · +á¡ į +á¡ ŀ +á¡ ¤ +á ¡´ +á¡ µ +ᤠĵ +ᥠĸ +ᥠ° +ᨠ¦ +ᨠ§ +ᨠ¨ +ᨠª +ᨠ¬ +ᨠ¯ +ᨠ³ +ᨠµ +á© ĥ +ᬠķ +áŃ £ +á ± +á± ļ +á² ł +á´ ĵ +á´ ¶ +áµ Ĥ +áµ Į +áµ ¥ +áµ ´ +á¶ ĩ +á¸ Ī +Ḡł +Ḡ§ +Ḡ´ +Ḡ¾ +á¹ Ģ +á¹ ĸ +á¹ Ł +á¹ ł +á¹ « +á¹ ± +á¹ · +á¹ ¿ +ẠĦ +Ạį +Ạij +áº Ĺ +á¼ ī +á¼ ĵ +á¼ Ń +á½ ĭ +á½ Ĵ +á½ ł +á½ £ +á¾ Ħ +á¾ ı +á¾ ij +á¾ Ĺ +á¾ ¦ +á¾ § +á¾ ¾ +á¿ Ħ +á¿ ĵ +á¿ ¡ +á¿ ¬ +âģ ļ +âĤ Į +âĦ ģ +âĦ Ķ +âĦ £ +âĦ § +âĦ ¯ +âĦ ° +âĦ ´ +âħ ħ +âĨ ľ +âĨ « +âĨ Ń +âĨ ± +âĨ ¹ +âĨ ½ +âĩ ĩ +âĩ ľ +âĩ µ +âĪ ī +âĪ Ĭ +âĪ ĸ +âĪ ľ +âĪ ¾ +âī Ģ +âī ĭ +âī Į +âī ĵ +âī ľ +âī ´ +âī ¿ +âĬ Ĭ +âĬ ĭ +âĬ Ķ +âĬ ĸ +âĬ £ +âĬ ¦ +âĭ İ +âĭ ª +âĭ ² +âĮ ¦ +âĮ § +âį º +âİ Ī +âİ ¨ +âİ ¬ +âİ ³ +âİ ¼ +âİ ¾ +âı Į +âı ļ +âı « +âı ¯ +âı µ +âĴ ľ +âĴ Ŀ +âĴ « +âĵ Ħ +âĵ Ĭ +âĵ Ļ +âĵ © +âĶ ij +âĶ Ļ +âĶ ļ +âĶ ¥ +âķ ħ +âķ ī +âķ į +âķ ı +âķ ŀ +âĸ ļ +âĸ ¯ +âĹ ĥ +âĹ ļ +âĹ ¬ +âĹ ´ +âĺ Ī +âĺ ¤ +âĺ ¥ +âĺ § +âĺ ¬ +âĻ ģ +âĻ ± +âļ ĥ +âļ Ħ +âļ ħ +âļ ı +âļ ļ +âļ ŀ +âļ Ł +âļ ± +âļ ² +âľ Ģ +âľ Ł +âľ ¢ +âĿ µ +⣠¡ +⣠¦ +⣠§ +⣠³ +⣠¾ +⣠¿ +âł ĩ +⤠Ħ +⤠º +⥠Ĥ +⥠¹ +â§ ī +â§ ¼ +â§ ½ +⨠į +⬠Ĭ +â¬ Ł +âŃ ŀ +â® ŀ +â® ³ +â¯ Ī +⯠ij +â± ł +â± ± +â² Ń +â´ ¹ +âµ ķ +⸠¾ +â º« +â¼ Ĩ +â¼ ł +â½ Ł +â½ ¼ +â¾ Ľ +â¾ § +â¿ ĥ +â¿ » +ãĤ ķ +ãĤ Ł +ãĦ Ľ +ãĦ ¡ +ãĦ ¶ +ãĦ º +ãħ Ĵ +ãħ Ł +ãĨ Ģ +ãĩ » +ãĪ ij +ãĪ Ń +ãĪ ® +ãĪ ³ +ãĪ ¹ +ãī ¥ +ãī ¦ +ãī ¹ +ãī ¿ +ãĬ ŀ +ãĬ ¨ +ãĭ ij +ãĭ ¥ +ãĭ ´ +ãĭ º +ãİ Ħ +ãİ ķ +ãİ ¯ +ãı Ĥ +ãı Ī +ãı ĵ +ãı ĸ +ãı ± +ãIJ ± +ãŁ ģ +ã ¢ +㢠¨ +ã ¨ +㨠³ +ã« ª +ã« ´ +ã¶ ³ +㺠¾ +ä Ģ +äĢ Ģ +ä ĭ +äĭ Į +ä ĮĢ +äIJ Ģ +ä łĢ +ä ł +äł ¼ +ä § +ä§ ŀ +ä¨ ° +ä¨ º +ä ´Ģ +ä · +ä· ħ +ä ·¸ +ê Ĥ +êĤ « +ê Į +êĮ ¼ +ê į +êį ² +êĴ µ +ê ĵ +êĵ ½ +êĻ Ń +êĿ Ľ +êĿ ¥ +ê ŀ +êŀ Ĭ +ê¦ Ĩ +ê¦ ĩ +ê¦ Ł +ê¦ ¨ +ê§ Ī +ê © +ê© Ł +êª ĭ +êª ij +êª ķ +êª Ĺ +êª ľ +êª ® +êª ± +êª » +êª ¼ +ê« Ģ +ê« Ŀ +ê° ĥ +ê° ĺ +ê± ľ +ê² ĵ +ê² ļ +ê³ Ļ +ê³ ¾ +ê´ Ĺ +ê´ Ļ +êµ Ľ +ê¶ ĥ +ê¶ ķ +ê¶ ¨ +ê¸ © +ê¸ ¿ +ê ¹Ħ +ê¹ Ĩ +ê¹ ī +ê¹ ĵ +ê¹ ¢ +ê¹ £ +ê¹ ¸ +êº ³ +ê¿ ı +ê¿ ķ +ê¿ § +ëĢ © +ëģ ħ +ëĥ µ +ëĦ ĸ +ëĦ Ĺ +ëĦ ¢ +ëħ Ĥ +ëĨ IJ +ëĩ ľ +ëĪ ĭ +ëĪ ļ +ëī į +ëī ¨ +ëĬ ļ +ëĬ ¡ +ëĭ ľ +ëĭ ª +ëĮ ĺ +ëĮ ¤ +ëĮ ¸ +ëİ Ł +ëı ¨ +ëIJ Ħ +ëIJ ı +ëIJ ´ +ëIJ ¸ +ëij ģ +ëij ¿ +ëĴ ¨ +ëĵ · +ëĶ ® +ëĶ ² +ëķ § +ëĸ Ķ +ëĸ ª +ëĺ Ń +ëļ Ģ +ëļ ł +ëĽ Ķ +ëĽ © +ëľ ħ +ëŀ ķ +ëŀ ° +ëŁ IJ +ëł ¡ +ë¡ ŀ +ë¡ £ +ë¡ µ +ë£ Ħ +ë£ į +ë¤ ³ +ë¦ į +ë¦ ı +ë¦ ³ +ë§ Ħ +ë§ Ĩ +ë§ į +ë§ ľ +ë§ « +ë§ » +ë¨ ® +ë© Ĥ +ë© Ń +ëª ´ +ë¬ ľ +ë¬ ł +ë¬ « +ë¬ ¾ +ëŃ ¬ +ë® ĺ +ë® ¹ +ë¯ ķ +ë¯ ľ +ë° ¨ +ë° ª +ë± Ķ +ë² ĺ +ë² Ľ +ë² ± +ë² ´ +ë´ ½ +ëµ ¤ +ëµ ¨ +ë· Ĺ +ë· ĺ +ë¸ ĵ +ë¸ ľ +ë¹ ª +ëº ĥ +ëº ĺ +ëº µ +ë» ´ +ë¼ IJ +ë¾ Ķ +ìģ Ń +ìĤ ł +ìĤ ® +ìĥ ı +ìĥ Ļ +ìĦ º +ìħ ¢ +ìĨ Ģ +ìĨ ħ +ìĨ ¤ +ìĨ ¦ +ìĨ ¬ +ìĩ ± +ìĪ µ +ìĭ ¨ +ìĭ ´ +ìĮ ° +ìį ľ +ìİ Ĺ +ìİ ĺ +ìİ ¼ +ìij ī +ìij Ŀ +ìij » +ìĴ Ķ +ìĴ ¯ +ìĵ © +ìķ IJ +ìķ ĸ +ìĸ ł +ìĸ ¾ +ìĹ ĥ +ìĹ Ĺ +ìĹ ľ +ìĹ ¨ +ìĺ Ĥ +ìĺ Ħ +ìĺ ı +ìĺ ¾ +ìĺ ¿ +ìľ § +ìĿ IJ +ìĿ ĸ +ìĿ · +ìŀ į +ìŀ ı +ìŀ ¨ +ìŀ ª +ìŀ ³ +ìł ¡ +ìł ´ +ìł ¹ +ì¡ Ģ +ì¡ ª +ì¡ µ +ì¢ IJ +ì¢ ¨ +ì£ Į +ì£ Ļ +ì£ ³ +ì¦ ij +ì§ ¥ +ì§ ´ +ì§ ¾ +ì¨ ĵ +ì¨ ķ +ì© ° +ì© » +ì© ¼ +ìª Ĺ +ì¬ Ķ +ì¬ ĺ +ì® ® +ì¯ ķ +ì¯ ĺ +ì° İ +ì° ¯ +ì± ĥ +ì± µ +ì² § +ì² ® +ì² ¯ +ì³ ¬ +ì´ ĭ +ì´ ¢ +ìµ ¥ +ì¶ £ +ì¸ Ī +ì¸ Ļ +ìº ¤ +ìº Ń +ì» ½ +ì¼ Ļ +ì½ ¬ +ì¾ Ģ +ì¿ ħ +ì¿ ½ +íĢ ħ +íģ ¦ +íĤ ħ +íĥ ¶ +íĥ ¹ +íĦ Ķ +íħ £ +íĨ Ħ +íĨ § +íĨ ¹ +íĩ ¼ +íī ¤ +íĬ ½ +íĭ Ĥ +íĭ ij +íį Ī +íį Ļ +íį ¿ +íİ ¶ +íIJ Ŀ +íĴ ľ +íĵ Ŀ +íĵ ª +íĵ ± +íĵ · +íĵ ¼ +íĶ Ļ +íĶ ł +íķ ļ +íķ Ľ +íķ ŀ +íķ Ł +íķ § +íķ ¶ +íĸ Ĭ +íĸ ĭ +íĸ į +íĸ Ķ +íĸ ĺ +íĸ ¡ +íĸ ¬ +íĹ £ +íĹ ¿ +íĺ ĸ +íĺ Ń +íļ ° +íĽ į +íĽ ½ +íĿ Ł +íĿ Ń +íĿ ´ +íŀ ľ +ï¤ ī +ï¤ Ń +ï¤ ² +ï¤ µ +ï¤ ¼ +ï¥ Ģ +ï¥ ij +ï¥ Ĵ +ï¥ ķ +ï¥ ĺ +ï¥ Ļ +ï¥ « +ï¥ ¬ +ï¥ ° +ï ¥¿ +ï¦ ĭ +ï¦ ı +ï¦ Ķ +ï¦ ĸ +ï¦ ĺ +ï¦ Ľ +ï¦ ł +ï¦ ® +ï¦ ¯ +ï¦ º +ï¦ » +ï¦ ¾ +ï§ Ĩ +ï§ ĸ +ï§ Ľ +ï§ ŀ +ï§ Ł +ï§ § +ï§ ³ +ï§ º +ï§ ½ +ï¨ ĥ +ï¨ ļ +ï¨ ¢ +ï© Ł +ï¬ ¤ +ï¬ ¬ +ï¬ ¼ +ïŃ Ĵ +ïŃ ķ +ïŃ Ľ +ïŃ Ŀ +ïŃ ŀ +ïŃ Ł +ïŃ ¤ +ïŃ § +ïŃ ¨ +ïŃ ® +ïŃ ° +ïŃ ± +ïŃ · +ïŃ ¹ +ïŃ » +ï® Ģ +ï® ĥ +ï® Ħ +ï® ħ +ï® į +ï® Ĵ +ï® ĵ +ï® ķ +ï® ¦ +ï® ® +ï® ° +ï¯ ĵ +ï¯ ľ +ï¯ © +ï¯ ª +ï¯ ¬ +ï¯ Ń +ï¯ ® +ï¯ · +ï¯ ¹ +ï¯ » +ï¯ ¼ +ï° ĥ +ï° Į +ï° IJ +ï° ĺ +ï° Ļ +ï° ľ +ï° ŀ +ï° ¢ +ï° ® +ï° ° +ï° ¼ +ï° ¿ +ï± Ģ +ï± ģ +ï± Ī +ï± ĭ +ï± ı +ï± Ń +ï² Ģ +ï² ĩ +ï² Ī +ï² ĭ +ï² İ +ï² Ĵ +ï² ľ +ï² ł +ï² ¬ +ï² » +ï³ ĩ +ï³ Ķ +ï³ £ +ï³ « +ï´ ĺ +ï´ ° +ï´ ½ +ï ¶ +ï¶ ° +ï¸ ĸ +ï¸ ´ +ï¸ ¹ +ï¹ į +ï¹ Ĺ +ï¹ ¢ +ï¹ ¤ +ï¹ © +ï¹ ± +ï¾ ° +ï¿ Ĥ +ï¿ ® +ðIJĮ ° +ðIJĮ ¹ +ðIJĮ º +ðIJĮ ½ +ðIJį Ĥ +ðIJį ĥ +ðIJį Ħ +ðIJ İ +ðIJİ ¹ +ðIJ¤ Ĥ +ðIJ¤ į +ðIJ¤ ı +ðIJ¤ ĵ +ðIJŃ ī +ðIJŃ į +ðIJ° ĩ +ðIJ° ° +ðij Ĥ +ðijĤ Ħ +ðij ĺ +ðijĺ ģ +ðĴ Ģ +ðĴĢ ¸ +ðĴ ģ +ðĴģ º +ðĴ Ħ +ðĴĦ · +ðĴ Ĭ +ðĴĬ ij +ðĴ ĭ +ðĴĭ Ĺ +ð ĴĮ +ðĴĮ ¨ +ðĵĥ ¢ +ðĵĥ ° +ðĸ ł +ðĸł ļ +ðĿĦ ĥ +ðĿĦ ħ +ðĿĦ ķ +ðĿĦ Ļ +ðĿĦ ± +ðĿĦ ´ +ðĿĦ ¹ +ðĿħ İ +ðĿħ ª +ðĿĨ £ +ðĿĨ ³ +ðĿĨ ¹ +ðĿĩ Ĭ +ðĿĩ Ĺ +ðĿĩ ļ +ðĿĩ ľ +ðĿĩ ł +ðĿIJ ī +ðĿIJ ĸ +ðĿIJ ĺ +ðĿIJ £ +ðĿIJ ± +ðĿij Ĭ +ðĿij Ń +ðĿij ¼ +ðĿij ½ +ðĿĴ ° +ðĿĴ · +ðĿĴ ¿ +ðĿĵ ģ +ðĿĵ ĭ +ðĿĵ İ +ðĿĵ Ĵ +ðĿ ĵĺ +ðĿĵ ¢ +ðĿĵ ¦ +ðĿĵ « +ðĿĵ ¿ +ðĿĶ İ +ðĿĶ ± +ðĿĶ ´ +ðĿĶ · +ðĿĶ ¸ +ðĿĶ ½ +ðĿķ Ĥ +ðĿķ ĥ +ðĿķ ĭ +ðĿķ ı +ðĿķ IJ +ðĿķ ¥ +ðĿķ ´ +ðĿķ º +ðĿĸ IJ +ðĿĸ Ľ +ðĿĸ Ŀ +ðĿĸ ŀ +ðĿĹ © +ðĿĹ ³ +ðĿĹ ½ +ðĿĺ Ĭ +ðĿĺ ĭ +ðĿĺ Ķ +ðĿĺ ± +ðĿĺ ´ +ðĿĺ ¿ +ðĿĻ Ĵ +ðĿĻ Ŀ +ðĿĻ Ł +ðĿĻ ¬ +ðĿĻ Ń +ðĿĻ » +ðĿĻ ¾ +ðĿļ Ī +ðĿļ ĭ +ðĿļ ij +ðĿļ Ł +ðĿļ ł +ðĿļ £ +ðĿĽ ½ +ðĿľ Ĥ +ðĿľ Ķ +ðĿľ Ļ +ðŁ Ģ +ðŁĢ Ħ +ðŁĦ ² +ðŁĦ ¶ +ðŁħ IJ +ðŁħ ĸ +ðŁħ ļ +ðŁħ Ľ +ðŁħ ¦ +ðŁħ ¶ +ðŁħ » +ðŁħ ¼ +ðŁĨ ĥ +ðŁĨ Ĩ +ðŁĨ İ +ðŁĪ ¯ +ðŁĪ ² +ðŁĪ ¹ +ðŁĮ ĩ +ðŁĮ ĵ +ðŁį ĺ +ðŁİ ij +ðŁİ ¿ +ðŁı ı +ðŁı Ĵ +ðŁı © +ðŁı ¯ +ðŁIJ Ģ +ðŁij Ŀ +ðŁĴ ¹ +ðŁĴ º +ðŁĵ Ł +ðŁĵ ª +ðŁĵ ¼ +ðŁĶ Ģ +ðŁĶ Ĥ +ðŁĶ ĥ +ðŁĶ ĩ +ðŁĶ ĵ +ðŁĶ ¢ +ðŁĶ ¤ +ðŁĶ © +ðŁķ ĸ +ðŁķ ļ +ðŁķ ľ +ðŁķ Ŀ +ðŁķ ŀ +ðŁķ ł +ðŁķ ¢ +ðŁķ ³ +ðŁĸ ĩ +ðŁĸ ij +ðŁĸ ¶ +ðŁĹ ģ +Ñ ¨ +Ú İ +á¡ Į +Ḡ° +áº Ģ +á¼ ® +á½ Ŀ +âĦ ¬ +âļ § +⼠¤ +ã³ ¬ +êĻ ĭ +ê¸ ij +ëĶ ī +ëĹ į +ë¡ ij +ë¯ ij +ë» ħ +ë¼ Ŀ +ìĦ IJ +ìī ¡ +ìĭ ² +ìı ± +ìĹ ¤ +ìĿ © +ìĿ ¿ +ìŁ Ļ +ìł ° +ì¥ ī +íĬ Ń +íķ ® +ï® ı +ðŁħ ± +ðŁĨ Ĵ +ðŁķ ĭ +É ĺ +Ê ĵ +Õ ĥ +à´ ´ +འħ +áĨ º +áĪ Ĭ +áĪ ¨ +áĪ ¾ +áī IJ +áĮ ĥ +áĮ ½ +áĶ Ń +áł Ĥ +áł ¬ +ᨠ¸ +á© ĭ +á¶ ı +á¾ Ķ +á¿ IJ +á¿ ļ +âĻ Ļ +âļ Ĥ +âļ Ĺ +â¡ ¢ +⤠¦ +ëĸ ° +ë¤ Ĥ +ë§ ł +ë± ĭ +ë± IJ +ìĽ ¢ +ìľ ¾ +ì³ ħ +ì» ģ +íģ » +íĥ Ļ +íĵ ĸ +íĵ Ń +íķ ± +íĽ ľ +ï¤ ħ +ï¤ Ĩ +ï¦ ĥ +ï§ © +ï¨ Ĥ +ðIJ¤ Ķ +ðIJŃ ĵ +ðIJ° ¼ +ðĿĵ ŀ +ðĿĵ ° +ðĿĻ ľ +ðĿļ ģ +ðŁħ ¢ +ðŁı ĩ +È ² +Ê ¶ +Ô Ī +Ô ij +Ý ĵ +Ý ¥ +ठij +ॠ± +ଠī +à° ³ +à° µ +à² Ł +áĢ ı +áģ ¼ +áī ¨ +áĬ Ĵ +áĭ © +áĮ Ħ +áĮ Ķ +áIJ § +á ĴĮ +áĶ ħ +áĶ Ĭ +áł Ħ +ᨠģ +Ḡĥ +Ḡ» +âĶ ŀ +âĺ µ +âļ £ +â² ¢ +ãĪ ª +ä¶ µ +ê² Ļ +ê² ´ +ê³ Ĥ +ë¡ ¼ +ìĨ Ĭ +ì¼ ĩ +íĭ į +íĵ ¬ +íĵ ® +íĵ ¶ +íĵ » +ï¤ ¦ +ï¥ ł +ï¥ ± +ïŃ ² +ðIJŃ Ĭ +ðIJ ±ħ +ðĸ ¥ +ðĸ¥ ¨ +ðĿij ³ +ðĿĵ ķ +ðĿĵ ¬ +ðĿĵ ¹ +ðĿĵ ¾ +ðĿĶ ĵ +ðĿķ į +ðĿķ ¡ +ðĿķ ± +ðĿĸ ĸ +ðĿĺ ı +ðĿĺ IJ +ðĿĺ ļ +ðĿĻ ® +ðĿĻ ° +ðĿĻ ¸ +ðĿĻ º +ðĿĻ ¼ +ðĿĻ ½ +ðĿĻ ¿ +ðĿļ Ħ +ðĿļ ı +ðŁħ ħ +ðŁħ ĵ +Æ Ī +àł Į +áĻ ³ +á ļĮ +ἠħ +ἠIJ +ᤠĬ +ḠĬ +âĶ ½ +âķ Ĭ +⼠ĩ +⼠ı +âĿ ª +âĿ « +⣠° +ãĦ į +ãĦ ĵ +ãĦ § +ãħ ĸ +ãī « +ê¦ Ķ +ï± Ĭ +ຠĤ +áħ £ +á¥ Ķ +ᥠ¤ +âĨ ¤ +âĨ · +âĩ ŀ +âĸ ¤ +âŀ ¶ +ãĪ ¼ +ï¨ · +ðĵı § +âĶ ² +âĢ ´ +âĴ Ł +âĴ ¡ +â° Ĥ +â° į +â° İ +â° IJ +â° ij +â° Ł +â° ł +â° ¡ +â¼ Ń +ãĬ ¥ +âĴ ł +â½ º +ãĩ º +ãĩ ½ +ï¨ Ĭ +áķ · +âį ¨ +âº Ł +â½ Ĺ diff --git a/model-00001-of-00004.safetensors b/model-00001-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..50f012e41828593a6f685ac721b81338895e6b3a --- /dev/null +++ b/model-00001-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ec8893ad23f6b4e25d558b7c3652f30827b46c172197c44cf04d009125dded5e +size 4877660776 diff --git a/model-00002-of-00004.safetensors b/model-00002-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..fb2c892a40fc5921dfe75e47578d74c53dc7d0b9 --- /dev/null +++ b/model-00002-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:96ab2dfbebcc95f38e511e5b0634de91a2856ee9f480edfcd2f88526397892d3 +size 4932751008 diff --git a/model-00003-of-00004.safetensors b/model-00003-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..a49defc2db50f13c5137ecdf4841e38df68de65b --- /dev/null +++ b/model-00003-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e115bd279bb036f5fa3173fe465ab1a27f86506e63fc66e735f6b532b1649223 +size 4330865200 diff --git a/model-00004-of-00004.safetensors b/model-00004-of-00004.safetensors new file mode 100644 index 0000000000000000000000000000000000000000..ce044ffe80e9be67641f8ac9b8b41ed49bbde11b --- /dev/null +++ b/model-00004-of-00004.safetensors @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:481a0d59a11f12bacd51df1a156f2f59b5ff564682a2481c428fa925d81f79cc +size 1089994880 diff --git a/model.safetensors.index.json b/model.safetensors.index.json new file mode 100644 index 0000000000000000000000000000000000000000..6ca5084b88f1a95fef37f1b94c6e87ff69422bb7 --- /dev/null +++ b/model.safetensors.index.json @@ -0,0 +1,346 @@ +{ + "metadata": { + "total_size": 15231233024 + }, + "weight_map": { + "lm_head.weight": "model-00004-of-00004.safetensors", + "model.embed_tokens.weight": "model-00001-of-00004.safetensors", + "model.layers.0.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.0.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.0.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.1.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.1.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.10.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.10.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.10.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.11.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.11.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.12.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.12.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.13.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.13.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.14.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.14.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.15.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.15.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.16.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.16.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.17.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.17.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.18.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.18.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.18.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.18.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.19.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.19.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.19.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.2.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.2.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.2.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.20.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.20.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.20.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.21.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.21.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.22.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.22.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.23.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.23.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.24.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.24.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.25.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.25.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.26.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.26.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.input_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.27.mlp.down_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.mlp.gate_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.mlp.up_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.post_attention_layernorm.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.k_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.k_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.o_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.q_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.q_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.v_proj.bias": "model-00003-of-00004.safetensors", + "model.layers.27.self_attn.v_proj.weight": "model-00003-of-00004.safetensors", + "model.layers.3.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.3.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.3.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.4.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.4.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.5.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.5.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.6.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.6.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.input_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.7.mlp.down_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.mlp.gate_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.mlp.up_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.post_attention_layernorm.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.7.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.8.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.8.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.8.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.8.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.8.self_attn.k_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.k_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.o_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.q_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.q_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.v_proj.bias": "model-00001-of-00004.safetensors", + "model.layers.8.self_attn.v_proj.weight": "model-00001-of-00004.safetensors", + "model.layers.9.input_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.9.mlp.down_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.mlp.gate_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.mlp.up_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.post_attention_layernorm.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.k_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.k_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.o_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.q_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.q_proj.weight": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.v_proj.bias": "model-00002-of-00004.safetensors", + "model.layers.9.self_attn.v_proj.weight": "model-00002-of-00004.safetensors", + "model.norm.weight": "model-00003-of-00004.safetensors" + } +} diff --git a/running_log.txt b/running_log.txt index fc6e367dfef0c06defe59cec118969560a377d63..4b622544bcaefde1888dce57d38cee61fe0259e9 100644 --- a/running_log.txt +++ b/running_log.txt @@ -44582,3 +44582,972 @@ If your task is similar to the task the model of the checkpoint was trained on, [INFO|2025-02-09 12:44:33] logging.py:157 >> {'loss': 0.0269, 'learning_rate': 5.2318e-09, 'epoch': 2.94, 'throughput': 201.07} +[INFO|2025-02-09 12:44:43] logging.py:157 >> {'loss': 0.2277, 'learning_rate': 5.2094e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:44:52] logging.py:157 >> {'loss': 0.0273, 'learning_rate': 5.1870e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:02] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 5.1647e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:11] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.1424e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:21] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.1202e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:31] logging.py:157 >> {'loss': 0.2074, 'learning_rate': 5.0980e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:40] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.0759e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:49] logging.py:157 >> {'loss': 0.0410, 'learning_rate': 5.0538e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:45:58] logging.py:157 >> {'loss': 0.0204, 'learning_rate': 5.0318e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:46:07] logging.py:157 >> {'loss': 0.0695, 'learning_rate': 5.0098e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:46:17] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.9878e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:46:25] logging.py:157 >> {'loss': 0.0009, 'learning_rate': 4.9659e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:46:35] logging.py:157 >> {'loss': 0.3224, 'learning_rate': 4.9441e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:46:45] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 4.9223e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:46:53] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.9005e-09, 'epoch': 2.94, 'throughput': 201.06} + +[INFO|2025-02-09 12:47:03] logging.py:157 >> {'loss': 0.0433, 'learning_rate': 4.8788e-09, 'epoch': 2.94, 'throughput': 201.07} + +[INFO|2025-02-09 12:47:13] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 4.8572e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:47:23] logging.py:157 >> {'loss': 0.0011, 'learning_rate': 4.8356e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:47:32] logging.py:157 >> {'loss': 0.3077, 'learning_rate': 4.8140e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:47:43] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 4.7925e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:47:52] logging.py:157 >> {'loss': 0.0165, 'learning_rate': 4.7711e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:48:01] logging.py:157 >> {'loss': 0.0132, 'learning_rate': 4.7496e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:48:10] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.7283e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:48:19] logging.py:157 >> {'loss': 0.0192, 'learning_rate': 4.7070e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:48:29] logging.py:157 >> {'loss': 0.0018, 'learning_rate': 4.6857e-09, 'epoch': 2.94, 'throughput': 201.08} + +[INFO|2025-02-09 12:48:39] logging.py:157 >> {'loss': 0.2126, 'learning_rate': 4.6645e-09, 'epoch': 2.94, 'throughput': 201.09} + +[INFO|2025-02-09 12:48:49] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 4.6433e-09, 'epoch': 2.94, 'throughput': 201.09} + +[INFO|2025-02-09 12:48:58] logging.py:157 >> {'loss': 0.0016, 'learning_rate': 4.6222e-09, 'epoch': 2.94, 'throughput': 201.09} + +[INFO|2025-02-09 12:49:08] logging.py:157 >> {'loss': 0.0036, 'learning_rate': 4.6011e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:49:19] logging.py:157 >> {'loss': 0.1609, 'learning_rate': 4.5801e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:49:27] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.5591e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:49:37] logging.py:157 >> {'loss': 0.0485, 'learning_rate': 4.5382e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:49:46] logging.py:157 >> {'loss': 0.0075, 'learning_rate': 4.5173e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:49:56] logging.py:157 >> {'loss': 0.1725, 'learning_rate': 4.4965e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:50:06] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.4757e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:50:14] logging.py:157 >> {'loss': 0.1437, 'learning_rate': 4.4549e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:50:24] logging.py:157 >> {'loss': 0.0232, 'learning_rate': 4.4342e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:50:33] logging.py:157 >> {'loss': 0.2381, 'learning_rate': 4.4136e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:50:42] logging.py:157 >> {'loss': 0.0521, 'learning_rate': 4.3930e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:50:51] logging.py:157 >> {'loss': 0.0143, 'learning_rate': 4.3725e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:51:01] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 4.3520e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:51:11] logging.py:157 >> {'loss': 0.0056, 'learning_rate': 4.3315e-09, 'epoch': 2.94, 'throughput': 201.10} + +[INFO|2025-02-09 12:51:20] logging.py:157 >> {'loss': 0.2447, 'learning_rate': 4.3111e-09, 'epoch': 2.94, 'throughput': 201.11} + +[INFO|2025-02-09 12:51:31] logging.py:157 >> {'loss': 0.0752, 'learning_rate': 4.2908e-09, 'epoch': 2.94, 'throughput': 201.12} + +[INFO|2025-02-09 12:51:41] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.2704e-09, 'epoch': 2.94, 'throughput': 201.12} + +[INFO|2025-02-09 12:51:49] logging.py:157 >> {'loss': 0.0647, 'learning_rate': 4.2502e-09, 'epoch': 2.94, 'throughput': 201.12} + +[INFO|2025-02-09 12:52:00] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 4.2300e-09, 'epoch': 2.94, 'throughput': 201.12} + +[INFO|2025-02-09 12:52:09] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 4.2098e-09, 'epoch': 2.94, 'throughput': 201.11} + +[INFO|2025-02-09 12:52:19] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 4.1897e-09, 'epoch': 2.94, 'throughput': 201.11} + +[INFO|2025-02-09 12:52:29] logging.py:157 >> {'loss': 0.0024, 'learning_rate': 4.1696e-09, 'epoch': 2.94, 'throughput': 201.12} + +[INFO|2025-02-09 12:52:38] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 4.1496e-09, 'epoch': 2.94, 'throughput': 201.12} + +[INFO|2025-02-09 12:52:49] logging.py:157 >> {'loss': 0.0597, 'learning_rate': 4.1297e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:52:59] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.1097e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:53:09] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 4.0899e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:53:19] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 4.0700e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:53:29] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 4.0503e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:53:38] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 4.0305e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:53:48] logging.py:157 >> {'loss': 0.0426, 'learning_rate': 4.0109e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:53:58] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.9912e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:54:08] logging.py:157 >> {'loss': 0.0149, 'learning_rate': 3.9716e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:54:18] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 3.9521e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:54:27] logging.py:157 >> {'loss': 0.0262, 'learning_rate': 3.9326e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:54:37] logging.py:157 >> {'loss': 0.0317, 'learning_rate': 3.9132e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:54:46] logging.py:157 >> {'loss': 0.0392, 'learning_rate': 3.8938e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:54:56] logging.py:157 >> {'loss': 0.0008, 'learning_rate': 3.8744e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:55:04] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.8551e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:55:14] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 3.8359e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:55:24] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.8167e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:55:33] logging.py:157 >> {'loss': 0.0733, 'learning_rate': 3.7976e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:55:44] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.7784e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:55:52] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 3.7594e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:56:02] logging.py:157 >> {'loss': 0.0075, 'learning_rate': 3.7404e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:56:12] logging.py:157 >> {'loss': 0.0856, 'learning_rate': 3.7214e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:56:20] logging.py:157 >> {'loss': 0.0888, 'learning_rate': 3.7025e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:56:31] logging.py:157 >> {'loss': 0.0841, 'learning_rate': 3.6837e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:56:40] logging.py:157 >> {'loss': 0.0604, 'learning_rate': 3.6648e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:56:50] logging.py:157 >> {'loss': 0.0017, 'learning_rate': 3.6461e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:57:00] logging.py:157 >> {'loss': 0.0554, 'learning_rate': 3.6274e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:57:09] logging.py:157 >> {'loss': 0.0753, 'learning_rate': 3.6087e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:57:19] logging.py:157 >> {'loss': 0.1406, 'learning_rate': 3.5901e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:57:28] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.5715e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:57:38] logging.py:157 >> {'loss': 0.0037, 'learning_rate': 3.5530e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:57:47] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.5345e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 12:57:56] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.5161e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:58:06] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 3.4977e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:58:16] logging.py:157 >> {'loss': 0.1349, 'learning_rate': 3.4794e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:58:25] logging.py:157 >> {'loss': 0.0048, 'learning_rate': 3.4611e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:58:35] logging.py:157 >> {'loss': 0.0103, 'learning_rate': 3.4428e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:58:45] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 3.4246e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:58:56] logging.py:157 >> {'loss': 0.0027, 'learning_rate': 3.4065e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:59:05] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.3884e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:59:15] logging.py:157 >> {'loss': 0.0267, 'learning_rate': 3.3704e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:59:26] logging.py:157 >> {'loss': 0.0568, 'learning_rate': 3.3524e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:59:35] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.3344e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:59:44] logging.py:157 >> {'loss': 0.0011, 'learning_rate': 3.3165e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 12:59:55] logging.py:157 >> {'loss': 0.0030, 'learning_rate': 3.2987e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:00:05] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.2809e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:00:15] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.2631e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:00:24] logging.py:157 >> {'loss': 0.1412, 'learning_rate': 3.2454e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:00:33] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 3.2278e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:00:44] logging.py:157 >> {'loss': 0.1279, 'learning_rate': 3.2102e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:00:53] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.1926e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:02] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.1751e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:12] logging.py:157 >> {'loss': 0.0123, 'learning_rate': 3.1576e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:21] logging.py:157 >> {'loss': 0.0935, 'learning_rate': 3.1402e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:31] logging.py:157 >> {'loss': 0.0270, 'learning_rate': 3.1228e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:40] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 3.1055e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:49] logging.py:157 >> {'loss': 0.0012, 'learning_rate': 3.0882e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:01:58] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.0710e-09, 'epoch': 2.95, 'throughput': 201.11} + +[INFO|2025-02-09 13:02:08] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.0538e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:02:18] logging.py:157 >> {'loss': 0.0218, 'learning_rate': 3.0367e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:02:26] logging.py:157 >> {'loss': 0.0393, 'learning_rate': 3.0196e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:02:36] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 3.0026e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:02:46] logging.py:157 >> {'loss': 0.0291, 'learning_rate': 2.9856e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:02:55] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 2.9687e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:03:04] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.9518e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:03:13] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.9349e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:03:23] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 2.9181e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:03:33] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.9014e-09, 'epoch': 2.95, 'throughput': 201.13} + +[INFO|2025-02-09 13:03:41] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.8847e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:03:52] logging.py:157 >> {'loss': 0.0238, 'learning_rate': 2.8681e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:00] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 2.8515e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:10] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.8349e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:19] logging.py:157 >> {'loss': 0.0048, 'learning_rate': 2.8184e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:28] logging.py:157 >> {'loss': 0.0437, 'learning_rate': 2.8019e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:38] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.7855e-09, 'epoch': 2.95, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:47] logging.py:157 >> {'loss': 0.0716, 'learning_rate': 2.7692e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:04:57] logging.py:157 >> {'loss': 0.0523, 'learning_rate': 2.7529e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:05:06] logging.py:157 >> {'loss': 0.2490, 'learning_rate': 2.7366e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:05:15] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 2.7204e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:05:26] logging.py:157 >> {'loss': 0.0184, 'learning_rate': 2.7042e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:05:35] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.6881e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:05:44] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.6720e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:05:55] logging.py:157 >> {'loss': 0.0389, 'learning_rate': 2.6560e-09, 'epoch': 2.96, 'throughput': 201.12} + +[INFO|2025-02-09 13:06:04] logging.py:157 >> {'loss': 0.0542, 'learning_rate': 2.6400e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:06:15] logging.py:157 >> {'loss': 0.0775, 'learning_rate': 2.6241e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:06:25] logging.py:157 >> {'loss': 0.2101, 'learning_rate': 2.6082e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:06:34] logging.py:157 >> {'loss': 0.0641, 'learning_rate': 2.5924e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:06:43] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.5766e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:06:54] logging.py:157 >> {'loss': 0.0166, 'learning_rate': 2.5609e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:07:04] logging.py:157 >> {'loss': 0.0239, 'learning_rate': 2.5452e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:07:14] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 2.5296e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:07:23] logging.py:157 >> {'loss': 0.0411, 'learning_rate': 2.5140e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:07:33] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.4985e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:07:43] logging.py:157 >> {'loss': 0.0281, 'learning_rate': 2.4830e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:07:54] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 2.4675e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:08:04] logging.py:157 >> {'loss': 0.0235, 'learning_rate': 2.4521e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:08:14] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 2.4368e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:08:23] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.4215e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:08:33] logging.py:157 >> {'loss': 0.0006, 'learning_rate': 2.4062e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:08:42] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.3910e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:08:52] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.3759e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:09:01] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.3608e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:09:11] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 2.3457e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:09:21] logging.py:157 >> {'loss': 0.0026, 'learning_rate': 2.3307e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:09:31] logging.py:157 >> {'loss': 0.0761, 'learning_rate': 2.3157e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:09:41] logging.py:157 >> {'loss': 0.0549, 'learning_rate': 2.3008e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:09:50] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.2860e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:09:59] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.2711e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:10:08] logging.py:157 >> {'loss': 0.0270, 'learning_rate': 2.2564e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:10:17] logging.py:157 >> {'loss': 0.0796, 'learning_rate': 2.2416e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:10:27] logging.py:157 >> {'loss': 0.1543, 'learning_rate': 2.2270e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:10:38] logging.py:157 >> {'loss': 0.0043, 'learning_rate': 2.2123e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:10:46] logging.py:157 >> {'loss': 0.0172, 'learning_rate': 2.1978e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:10:57] logging.py:157 >> {'loss': 0.0066, 'learning_rate': 2.1832e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:11:07] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.1688e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:11:16] logging.py:157 >> {'loss': 0.0427, 'learning_rate': 2.1543e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:11:25] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.1399e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:11:34] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.1256e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:11:45] logging.py:157 >> {'loss': 0.1574, 'learning_rate': 2.1113e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:11:55] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 2.0971e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:12:05] logging.py:157 >> {'loss': 0.1038, 'learning_rate': 2.0829e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:12:15] logging.py:157 >> {'loss': 0.1581, 'learning_rate': 2.0687e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:12:24] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 2.0547e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:12:34] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.0406e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:12:44] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.0266e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:12:53] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.0127e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:13:04] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.9988e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:13:13] logging.py:157 >> {'loss': 0.0304, 'learning_rate': 1.9849e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:13:22] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.9711e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:13:32] logging.py:157 >> {'loss': 0.0195, 'learning_rate': 1.9573e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:13:42] logging.py:157 >> {'loss': 0.0299, 'learning_rate': 1.9436e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:13:53] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.9300e-09, 'epoch': 2.96, 'throughput': 201.13} + +[INFO|2025-02-09 13:14:03] logging.py:157 >> {'loss': 0.0175, 'learning_rate': 1.9164e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:14:13] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.9028e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:14:23] logging.py:157 >> {'loss': 0.0983, 'learning_rate': 1.8893e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:14:32] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 1.8758e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:14:42] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 1.8624e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:14:52] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.8490e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:01] logging.py:157 >> {'loss': 0.0043, 'learning_rate': 1.8357e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:11] logging.py:157 >> {'loss': 0.1020, 'learning_rate': 1.8224e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:20] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 1.8092e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:30] logging.py:157 >> {'loss': 0.0112, 'learning_rate': 1.7960e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:40] logging.py:157 >> {'loss': 0.0126, 'learning_rate': 1.7829e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:49] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 1.7698e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:15:58] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.7567e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:16:07] logging.py:157 >> {'loss': 0.0014, 'learning_rate': 1.7438e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:16:18] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.7308e-09, 'epoch': 2.96, 'throughput': 201.15} + +[INFO|2025-02-09 13:16:27] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.7179e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:16:37] logging.py:157 >> {'loss': 0.0619, 'learning_rate': 1.7051e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:16:48] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.6923e-09, 'epoch': 2.96, 'throughput': 201.14} + +[INFO|2025-02-09 13:16:57] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.6795e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:17:06] logging.py:157 >> {'loss': 0.0384, 'learning_rate': 1.6668e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:17:15] logging.py:157 >> {'loss': 0.0337, 'learning_rate': 1.6542e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:17:24] logging.py:157 >> {'loss': 0.0213, 'learning_rate': 1.6416e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:17:34] logging.py:157 >> {'loss': 0.0059, 'learning_rate': 1.6290e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:17:44] logging.py:157 >> {'loss': 0.1520, 'learning_rate': 1.6165e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:17:53] logging.py:157 >> {'loss': 0.0384, 'learning_rate': 1.6041e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:18:04] logging.py:157 >> {'loss': 0.0211, 'learning_rate': 1.5917e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:18:13] logging.py:157 >> {'loss': 0.0941, 'learning_rate': 1.5793e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:18:22] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 1.5670e-09, 'epoch': 2.97, 'throughput': 201.14} + +[INFO|2025-02-09 13:18:33] logging.py:157 >> {'loss': 0.2061, 'learning_rate': 1.5547e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:18:42] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.5425e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:18:52] logging.py:157 >> {'loss': 0.0031, 'learning_rate': 1.5303e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:19:02] logging.py:157 >> {'loss': 0.0101, 'learning_rate': 1.5182e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:19:11] logging.py:157 >> {'loss': 0.0364, 'learning_rate': 1.5062e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:19:20] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.4941e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:19:29] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.4822e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:19:39] logging.py:157 >> {'loss': 0.1423, 'learning_rate': 1.4702e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:19:48] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.4583e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:19:57] logging.py:157 >> {'loss': 0.0361, 'learning_rate': 1.4465e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:20:07] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.4347e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:20:15] logging.py:157 >> {'loss': 0.0008, 'learning_rate': 1.4230e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:20:26] logging.py:157 >> {'loss': 0.0911, 'learning_rate': 1.4113e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:20:36] logging.py:157 >> {'loss': 0.0997, 'learning_rate': 1.3997e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:20:44] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 1.3881e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:20:54] logging.py:157 >> {'loss': 0.1293, 'learning_rate': 1.3765e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:21:04] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 1.3650e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:21:13] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.3536e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:21:23] logging.py:157 >> {'loss': 0.0006, 'learning_rate': 1.3422e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:21:32] logging.py:157 >> {'loss': 0.0022, 'learning_rate': 1.3309e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:21:43] logging.py:157 >> {'loss': 0.1092, 'learning_rate': 1.3196e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:21:53] logging.py:157 >> {'loss': 0.0722, 'learning_rate': 1.3083e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:22:02] logging.py:157 >> {'loss': 0.0058, 'learning_rate': 1.2971e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:22:12] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.2859e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:22:22] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 1.2748e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:22:31] logging.py:157 >> {'loss': 0.0159, 'learning_rate': 1.2638e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:22:41] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.2528e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:22:51] logging.py:157 >> {'loss': 0.0019, 'learning_rate': 1.2418e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:01] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.2309e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:11] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.2200e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:20] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.2092e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:29] logging.py:157 >> {'loss': 0.0892, 'learning_rate': 1.1984e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:39] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.1877e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:49] logging.py:157 >> {'loss': 0.0021, 'learning_rate': 1.1770e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:23:58] logging.py:157 >> {'loss': 0.0021, 'learning_rate': 1.1664e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:24:08] logging.py:157 >> {'loss': 0.0255, 'learning_rate': 1.1558e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:24:18] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.1453e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:24:28] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.1348e-09, 'epoch': 2.97, 'throughput': 201.15} + +[INFO|2025-02-09 13:24:38] logging.py:157 >> {'loss': 0.0064, 'learning_rate': 1.1244e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:24:49] logging.py:157 >> {'loss': 0.1398, 'learning_rate': 1.1140e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:24:58] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.1036e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:25:08] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.0934e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:25:18] logging.py:157 >> {'loss': 0.0241, 'learning_rate': 1.0831e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:25:28] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.0729e-09, 'epoch': 2.97, 'throughput': 201.16} + +[INFO|2025-02-09 13:25:38] logging.py:157 >> {'loss': 0.1080, 'learning_rate': 1.0628e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:25:49] logging.py:157 >> {'loss': 0.1110, 'learning_rate': 1.0527e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:25:58] logging.py:157 >> {'loss': 0.0991, 'learning_rate': 1.0426e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:26:09] logging.py:157 >> {'loss': 0.0647, 'learning_rate': 1.0326e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:26:19] logging.py:157 >> {'loss': 0.1327, 'learning_rate': 1.0227e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:26:28] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.0128e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:26:39] logging.py:157 >> {'loss': 0.0006, 'learning_rate': 1.0029e-09, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:26:48] logging.py:157 >> {'loss': 0.0431, 'learning_rate': 9.9311e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:26:58] logging.py:157 >> {'loss': 0.2594, 'learning_rate': 9.8335e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:27:07] logging.py:157 >> {'loss': 0.0051, 'learning_rate': 9.7364e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:27:16] logging.py:157 >> {'loss': 0.0515, 'learning_rate': 9.6397e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:27:26] logging.py:157 >> {'loss': 0.1407, 'learning_rate': 9.5436e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:27:36] logging.py:157 >> {'loss': 0.1695, 'learning_rate': 9.4479e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:27:45] logging.py:157 >> {'loss': 0.0046, 'learning_rate': 9.3527e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:27:54] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 9.2580e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:28:03] logging.py:157 >> {'loss': 0.0596, 'learning_rate': 9.1638e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:28:13] logging.py:157 >> {'loss': 0.0613, 'learning_rate': 9.0701e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:28:22] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 8.9768e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:28:32] logging.py:157 >> {'loss': 0.1559, 'learning_rate': 8.8840e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:28:42] logging.py:157 >> {'loss': 0.0074, 'learning_rate': 8.7917e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:28:51] logging.py:157 >> {'loss': 0.0635, 'learning_rate': 8.6999e-10, 'epoch': 2.97, 'throughput': 201.17} + +[INFO|2025-02-09 13:29:01] logging.py:157 >> {'loss': 0.0020, 'learning_rate': 8.6086e-10, 'epoch': 2.97, 'throughput': 201.18} + +[INFO|2025-02-09 13:29:10] logging.py:157 >> {'loss': 0.2347, 'learning_rate': 8.5177e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:29:19] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 8.4274e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:29:29] logging.py:157 >> {'loss': 0.0012, 'learning_rate': 8.3375e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:29:37] logging.py:157 >> {'loss': 0.2888, 'learning_rate': 8.2481e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:29:48] logging.py:157 >> {'loss': 0.0190, 'learning_rate': 8.1591e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:29:57] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 8.0707e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:30:06] logging.py:157 >> {'loss': 0.0436, 'learning_rate': 7.9827e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:30:17] logging.py:157 >> {'loss': 0.0334, 'learning_rate': 7.8953e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:30:26] logging.py:157 >> {'loss': 0.0158, 'learning_rate': 7.8083e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:30:36] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 7.7218e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:30:45] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 7.6357e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:30:54] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 7.5502e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:31:04] logging.py:157 >> {'loss': 0.0429, 'learning_rate': 7.4651e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:31:13] logging.py:157 >> {'loss': 0.0062, 'learning_rate': 7.3805e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:31:22] logging.py:157 >> {'loss': 0.1086, 'learning_rate': 7.2964e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:31:32] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 7.2128e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:31:41] logging.py:157 >> {'loss': 0.0018, 'learning_rate': 7.1297e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:31:52] logging.py:157 >> {'loss': 0.0773, 'learning_rate': 7.0470e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:32:02] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 6.9648e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:32:10] logging.py:157 >> {'loss': 0.0013, 'learning_rate': 6.8831e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:32:21] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 6.8019e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:32:30] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 6.7212e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:32:39] logging.py:157 >> {'loss': 0.2480, 'learning_rate': 6.6409e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:32:49] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 6.5612e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:32:58] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 6.4819e-10, 'epoch': 2.98, 'throughput': 201.19} + +[INFO|2025-02-09 13:33:08] logging.py:157 >> {'loss': 0.0262, 'learning_rate': 6.4031e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:33:18] logging.py:157 >> {'loss': 0.0834, 'learning_rate': 6.3248e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:33:27] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 6.2469e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:33:37] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 6.1696e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:33:47] logging.py:157 >> {'loss': 0.0006, 'learning_rate': 6.0927e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:33:57] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 6.0163e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:34:07] logging.py:157 >> {'loss': 0.0040, 'learning_rate': 5.9404e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:34:16] logging.py:157 >> {'loss': 0.0158, 'learning_rate': 5.8650e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:34:27] logging.py:157 >> {'loss': 0.0358, 'learning_rate': 5.7900e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:34:37] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 5.7155e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:34:46] logging.py:157 >> {'loss': 0.0778, 'learning_rate': 5.6416e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:34:55] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.5681e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:35:05] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 5.4950e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:35:15] logging.py:157 >> {'loss': 0.0062, 'learning_rate': 5.4225e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:35:24] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 5.3504e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:35:33] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.2789e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:35:44] logging.py:157 >> {'loss': 0.0019, 'learning_rate': 5.2078e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:35:54] logging.py:157 >> {'loss': 0.3176, 'learning_rate': 5.1372e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:36:04] logging.py:157 >> {'loss': 0.0064, 'learning_rate': 5.0670e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:36:14] logging.py:157 >> {'loss': 0.0015, 'learning_rate': 4.9974e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:36:24] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 4.9282e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:36:34] logging.py:157 >> {'loss': 0.0228, 'learning_rate': 4.8595e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:36:44] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 4.7913e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:36:54] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 4.7236e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:37:05] logging.py:157 >> {'loss': 0.1020, 'learning_rate': 4.6564e-10, 'epoch': 2.98, 'throughput': 201.18} + +[INFO|2025-02-09 13:37:14] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.5896e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:37:24] logging.py:157 >> {'loss': 0.0207, 'learning_rate': 4.5234e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:37:35] logging.py:157 >> {'loss': 0.0189, 'learning_rate': 4.4576e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:37:44] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.3923e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:37:54] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 4.3274e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:38:04] logging.py:157 >> {'loss': 0.0209, 'learning_rate': 4.2631e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:38:13] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 4.1992e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:38:23] logging.py:157 >> {'loss': 0.0084, 'learning_rate': 4.1358e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:38:32] logging.py:157 >> {'loss': 0.0361, 'learning_rate': 4.0729e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:38:42] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 4.0105e-10, 'epoch': 2.98, 'throughput': 201.16} + +[INFO|2025-02-09 13:38:52] logging.py:157 >> {'loss': 0.0600, 'learning_rate': 3.9486e-10, 'epoch': 2.98, 'throughput': 201.16} + +[INFO|2025-02-09 13:39:01] logging.py:157 >> {'loss': 0.0085, 'learning_rate': 3.8871e-10, 'epoch': 2.98, 'throughput': 201.16} + +[INFO|2025-02-09 13:39:10] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.8262e-10, 'epoch': 2.98, 'throughput': 201.16} + +[INFO|2025-02-09 13:39:20] logging.py:157 >> {'loss': 0.0249, 'learning_rate': 3.7657e-10, 'epoch': 2.98, 'throughput': 201.16} + +[INFO|2025-02-09 13:39:29] logging.py:157 >> {'loss': 0.0412, 'learning_rate': 3.7057e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:39:40] logging.py:157 >> {'loss': 0.0919, 'learning_rate': 3.6461e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:39:50] logging.py:157 >> {'loss': 0.1375, 'learning_rate': 3.5871e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:39:59] logging.py:157 >> {'loss': 0.2204, 'learning_rate': 3.5285e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:40:09] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 3.4704e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:40:19] logging.py:157 >> {'loss': 0.0713, 'learning_rate': 3.4128e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:40:28] logging.py:157 >> {'loss': 0.0082, 'learning_rate': 3.3557e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:40:38] logging.py:157 >> {'loss': 0.0015, 'learning_rate': 3.2991e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:40:47] logging.py:157 >> {'loss': 0.0451, 'learning_rate': 3.2429e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:40:57] logging.py:157 >> {'loss': 0.2993, 'learning_rate': 3.1873e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:41:07] logging.py:157 >> {'loss': 0.0263, 'learning_rate': 3.1321e-10, 'epoch': 2.98, 'throughput': 201.17} + +[INFO|2025-02-09 13:41:16] logging.py:157 >> {'loss': 0.0732, 'learning_rate': 3.0774e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:41:27] logging.py:157 >> {'loss': 0.0123, 'learning_rate': 3.0232e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:41:35] logging.py:157 >> {'loss': 0.0527, 'learning_rate': 2.9694e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:41:45] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.9161e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:41:54] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.8634e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:02] logging.py:157 >> {'loss': 0.0321, 'learning_rate': 2.8111e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:11] logging.py:157 >> {'loss': 0.1726, 'learning_rate': 2.7593e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:21] logging.py:157 >> {'loss': 0.0026, 'learning_rate': 2.7079e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:31] logging.py:157 >> {'loss': 0.0018, 'learning_rate': 2.6571e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:39] logging.py:157 >> {'loss': 0.1835, 'learning_rate': 2.6067e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:49] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.5568e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:42:59] logging.py:157 >> {'loss': 0.2299, 'learning_rate': 2.5074e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:43:07] logging.py:157 >> {'loss': 0.0087, 'learning_rate': 2.4585e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:43:17] logging.py:157 >> {'loss': 0.0028, 'learning_rate': 2.4100e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:43:26] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 2.3621e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:43:36] logging.py:157 >> {'loss': 0.0072, 'learning_rate': 2.3146e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:43:45] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.2676e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:43:54] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.2211e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:44:04] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.1751e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:44:13] logging.py:157 >> {'loss': 0.0159, 'learning_rate': 2.1295e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:44:23] logging.py:157 >> {'loss': 0.0038, 'learning_rate': 2.0845e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:44:33] logging.py:157 >> {'loss': 0.0016, 'learning_rate': 2.0399e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:44:42] logging.py:157 >> {'loss': 0.0290, 'learning_rate': 1.9958e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:44:53] logging.py:157 >> {'loss': 0.1973, 'learning_rate': 1.9521e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:45:02] logging.py:157 >> {'loss': 0.0165, 'learning_rate': 1.9090e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:45:12] logging.py:157 >> {'loss': 0.0885, 'learning_rate': 1.8663e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:45:21] logging.py:157 >> {'loss': 0.0012, 'learning_rate': 1.8242e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:45:31] logging.py:157 >> {'loss': 0.1119, 'learning_rate': 1.7825e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:45:41] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.7413e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:45:51] logging.py:157 >> {'loss': 0.0004, 'learning_rate': 1.7005e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:46:00] logging.py:157 >> {'loss': 0.0027, 'learning_rate': 1.6603e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:46:11] logging.py:157 >> {'loss': 0.0138, 'learning_rate': 1.6205e-10, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:46:20] logging.py:157 >> {'loss': 0.1212, 'learning_rate': 1.5812e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:46:30] logging.py:157 >> {'loss': 0.0301, 'learning_rate': 1.5424e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:46:40] logging.py:157 >> {'loss': 0.0013, 'learning_rate': 1.5041e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:46:49] logging.py:157 >> {'loss': 0.0217, 'learning_rate': 1.4663e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:46:59] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.4289e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:47:09] logging.py:157 >> {'loss': 0.0118, 'learning_rate': 1.3921e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:47:18] logging.py:157 >> {'loss': 0.0456, 'learning_rate': 1.3557e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:47:28] logging.py:157 >> {'loss': 0.0196, 'learning_rate': 1.3198e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:47:38] logging.py:157 >> {'loss': 0.2508, 'learning_rate': 1.2843e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:47:48] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 1.2494e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:47:58] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.2149e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:48:08] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.1809e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:48:18] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.1474e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:48:28] logging.py:157 >> {'loss': 0.0052, 'learning_rate': 1.1144e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:48:37] logging.py:157 >> {'loss': 0.0010, 'learning_rate': 1.0819e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:48:48] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.0498e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:48:57] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.0183e-10, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:49:07] logging.py:157 >> {'loss': 0.0086, 'learning_rate': 9.8716e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:49:17] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 9.5656e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:49:26] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 9.2643e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:49:37] logging.py:157 >> {'loss': 0.0492, 'learning_rate': 8.9679e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:49:46] logging.py:157 >> {'loss': 0.0009, 'learning_rate': 8.6763e-11, 'epoch': 2.99, 'throughput': 201.18} + +[INFO|2025-02-09 13:49:56] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 8.3895e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:50:06] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 8.1075e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:50:15] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 7.8303e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:50:24] logging.py:157 >> {'loss': 0.0005, 'learning_rate': 7.5580e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:50:33] logging.py:157 >> {'loss': 0.0376, 'learning_rate': 7.2905e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:50:42] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 7.0278e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:50:52] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 6.7699e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:51:01] logging.py:157 >> {'loss': 0.0337, 'learning_rate': 6.5168e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:51:11] logging.py:157 >> {'loss': 0.0174, 'learning_rate': 6.2686e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:51:21] logging.py:157 >> {'loss': 0.0402, 'learning_rate': 6.0252e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:51:30] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.7866e-11, 'epoch': 2.99, 'throughput': 201.17} + +[INFO|2025-02-09 13:51:39] logging.py:157 >> {'loss': 0.0903, 'learning_rate': 5.5528e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:51:48] logging.py:157 >> {'loss': 0.0011, 'learning_rate': 5.3239e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:51:59] logging.py:157 >> {'loss': 0.0902, 'learning_rate': 5.0997e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:52:07] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.8804e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:52:17] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.6659e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:52:27] logging.py:157 >> {'loss': 0.1789, 'learning_rate': 4.4562e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:52:35] logging.py:157 >> {'loss': 0.0072, 'learning_rate': 4.2514e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:52:45] logging.py:157 >> {'loss': 0.0887, 'learning_rate': 4.0513e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:52:54] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 3.8561e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:53:04] logging.py:157 >> {'loss': 0.0030, 'learning_rate': 3.6657e-11, 'epoch': 2.99, 'throughput': 201.16} + +[INFO|2025-02-09 13:53:14] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.4802e-11, 'epoch': 2.99, 'throughput': 201.15} + +[INFO|2025-02-09 13:53:23] logging.py:157 >> {'loss': 0.0901, 'learning_rate': 3.2994e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:53:34] logging.py:157 >> {'loss': 0.0525, 'learning_rate': 3.1235e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:53:44] logging.py:157 >> {'loss': 0.0296, 'learning_rate': 2.9523e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:53:54] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.7861e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:54:04] logging.py:157 >> {'loss': 0.1933, 'learning_rate': 2.6246e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:54:14] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.4679e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:54:24] logging.py:157 >> {'loss': 0.0009, 'learning_rate': 2.3161e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:54:34] logging.py:157 >> {'loss': 0.0103, 'learning_rate': 2.1691e-11, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:54:43] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.0269e-11, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:54:54] logging.py:157 >> {'loss': 0.2132, 'learning_rate': 1.8895e-11, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:55:04] logging.py:157 >> {'loss': 0.0072, 'learning_rate': 1.7570e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:55:15] logging.py:157 >> {'loss': 0.0885, 'learning_rate': 1.6292e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:55:25] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 1.5063e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:55:35] logging.py:157 >> {'loss': 0.0449, 'learning_rate': 1.3882e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:55:45] logging.py:157 >> {'loss': 0.0851, 'learning_rate': 1.2749e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:55:55] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.1665e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:56:05] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 1.0628e-11, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:56:15] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 9.6403e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:56:25] logging.py:157 >> {'loss': 0.0014, 'learning_rate': 8.7004e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:56:35] logging.py:157 >> {'loss': 0.0045, 'learning_rate': 7.8087e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:56:45] logging.py:157 >> {'loss': 0.0670, 'learning_rate': 6.9651e-12, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:56:56] logging.py:157 >> {'loss': 0.2274, 'learning_rate': 6.1698e-12, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:57:05] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 5.4227e-12, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:57:15] logging.py:157 >> {'loss': 0.2020, 'learning_rate': 4.7238e-12, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:57:24] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 4.0730e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:57:34] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 3.4705e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:57:44] logging.py:157 >> {'loss': 0.0003, 'learning_rate': 2.9162e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:57:54] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 2.4101e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:58:03] logging.py:157 >> {'loss': 0.0002, 'learning_rate': 1.9522e-12, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:58:14] logging.py:157 >> {'loss': 0.0007, 'learning_rate': 1.5425e-12, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:58:23] logging.py:157 >> {'loss': 0.0105, 'learning_rate': 1.1809e-12, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:58:33] logging.py:157 >> {'loss': 0.0000, 'learning_rate': 8.6763e-13, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:58:43] logging.py:157 >> {'loss': 0.1049, 'learning_rate': 6.0252e-13, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:58:52] logging.py:157 >> {'loss': 0.0017, 'learning_rate': 3.8561e-13, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:59:01] logging.py:157 >> {'loss': 0.0622, 'learning_rate': 2.1691e-13, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:59:11] logging.py:157 >> {'loss': 0.0457, 'learning_rate': 9.6403e-14, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:59:19] logging.py:157 >> {'loss': 0.0001, 'learning_rate': 2.4101e-14, 'epoch': 3.00, 'throughput': 201.16} + +[INFO|2025-02-09 13:59:30] logging.py:157 >> {'loss': 0.0017, 'learning_rate': 0.0000e+00, 'epoch': 3.00, 'throughput': 201.15} + +[INFO|2025-02-09 13:59:35] trainer.py:3910 >> Saving model checkpoint to saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/checkpoint-22635 + +[INFO|2025-02-09 13:59:35] configuration_utils.py:420 >> Configuration saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/checkpoint-22635/config.json + +[INFO|2025-02-09 13:59:35] configuration_utils.py:909 >> Configuration saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/checkpoint-22635/generation_config.json + +[INFO|2025-02-09 13:59:46] modeling_utils.py:2996 >> The model is bigger than the maximum size per checkpoint (5GB) and is going to be split in 4 checkpoint shards. You can find where each parameters has been saved in the index located at saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/checkpoint-22635/model.safetensors.index.json. + +[INFO|2025-02-09 13:59:46] tokenization_utils_base.py:2491 >> tokenizer config file saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/checkpoint-22635/tokenizer_config.json + +[INFO|2025-02-09 13:59:46] tokenization_utils_base.py:2500 >> Special tokens file saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/checkpoint-22635/special_tokens_map.json + +[INFO|2025-02-09 14:00:41] trainer.py:2643 >> + +Training completed. Do not forget to share your model on huggingface.co/models =) + + + +[INFO|2025-02-09 14:00:46] trainer.py:3910 >> Saving model checkpoint to saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen + +[INFO|2025-02-09 14:00:46] configuration_utils.py:420 >> Configuration saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/config.json + +[INFO|2025-02-09 14:00:46] configuration_utils.py:909 >> Configuration saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/generation_config.json + +[INFO|2025-02-09 14:01:01] modeling_utils.py:2996 >> The model is bigger than the maximum size per checkpoint (5GB) and is going to be split in 4 checkpoint shards. You can find where each parameters has been saved in the index located at saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/model.safetensors.index.json. + +[INFO|2025-02-09 14:01:01] tokenization_utils_base.py:2491 >> tokenizer config file saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/tokenizer_config.json + +[INFO|2025-02-09 14:01:01] tokenization_utils_base.py:2500 >> Special tokens file saved in saves/Qwen2.5-7B-Instruct/full/train_2025-02-07-00-42-22_qwen/special_tokens_map.json + +[WARNING|2025-02-09 14:01:03] logging.py:162 >> No metric eval_loss to plot. + +[WARNING|2025-02-09 14:01:03] logging.py:162 >> No metric eval_accuracy to plot. + +[INFO|2025-02-09 14:01:03] modelcard.py:449 >> Dropping the following result as it does not have all the necessary fields: +{'task': {'name': 'Causal Language Modeling', 'type': 'text-generation'}} + diff --git a/special_tokens_map.json b/special_tokens_map.json new file mode 100644 index 0000000000000000000000000000000000000000..ac23c0aaa2434523c494330aeb79c58395378103 --- /dev/null +++ b/special_tokens_map.json @@ -0,0 +1,31 @@ +{ + "additional_special_tokens": [ + "<|im_start|>", + "<|im_end|>", + "<|object_ref_start|>", + "<|object_ref_end|>", + "<|box_start|>", + "<|box_end|>", + "<|quad_start|>", + "<|quad_end|>", + "<|vision_start|>", + "<|vision_end|>", + "<|vision_pad|>", + "<|image_pad|>", + "<|video_pad|>" + ], + "eos_token": { + "content": "<|im_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false + }, + "pad_token": { + "content": "<|endoftext|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false + } +} diff --git a/tokenizer.json b/tokenizer.json new file mode 100644 index 0000000000000000000000000000000000000000..51ebb3ba93988c73bbd83a3c163a14343fbc5b06 --- /dev/null +++ b/tokenizer.json @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9c5ae00e602b8860cbd784ba82a8aa14e8feecec692e7076590d014d7b7fdafa +size 11421896 diff --git a/tokenizer_config.json b/tokenizer_config.json new file mode 100644 index 0000000000000000000000000000000000000000..fbb0accdce6eb595ec87eb674282b779430138cd --- /dev/null +++ b/tokenizer_config.json @@ -0,0 +1,209 @@ +{ + "add_bos_token": false, + "add_prefix_space": false, + "added_tokens_decoder": { + "151643": { + "content": "<|endoftext|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151644": { + "content": "<|im_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151645": { + "content": "<|im_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151646": { + "content": "<|object_ref_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151647": { + "content": "<|object_ref_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151648": { + "content": "<|box_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151649": { + "content": "<|box_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151650": { + "content": "<|quad_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151651": { + "content": "<|quad_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151652": { + "content": "<|vision_start|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151653": { + "content": "<|vision_end|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151654": { + "content": "<|vision_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151655": { + "content": "<|image_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151656": { + "content": "<|video_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": true + }, + "151657": { + "content": "", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151658": { + "content": "", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151659": { + "content": "<|fim_prefix|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151660": { + "content": "<|fim_middle|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151661": { + "content": "<|fim_suffix|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151662": { + "content": "<|fim_pad|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151663": { + "content": "<|repo_name|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + }, + "151664": { + "content": "<|file_sep|>", + "lstrip": false, + "normalized": false, + "rstrip": false, + "single_word": false, + "special": false + } + }, + "additional_special_tokens": [ + "<|im_start|>", + "<|im_end|>", + "<|object_ref_start|>", + "<|object_ref_end|>", + "<|box_start|>", + "<|box_end|>", + "<|quad_start|>", + "<|quad_end|>", + "<|vision_start|>", + "<|vision_end|>", + "<|vision_pad|>", + "<|image_pad|>", + "<|video_pad|>" + ], + "bos_token": null, + "chat_template": "{%- if tools %}\n {{- '<|im_start|>system\\n' }}\n {%- if messages[0]['role'] == 'system' %}\n {{- messages[0]['content'] }}\n {%- else %}\n {{- 'You are Qwen, created by Alibaba Cloud. You are a helpful assistant.' }}\n {%- endif %}\n {{- \"\\n\\n# Tools\\n\\nYou may call one or more functions to assist with the user query.\\n\\nYou are provided with function signatures within XML tags:\\n\" }}\n {%- for tool in tools %}\n {{- \"\\n\" }}\n {{- tool | tojson }}\n {%- endfor %}\n {{- \"\\n\\n\\nFor each function call, return a json object with function name and arguments within XML tags:\\n\\n{\\\"name\\\": , \\\"arguments\\\": }\\n<|im_end|>\\n\" }}\n{%- else %}\n {%- if messages[0]['role'] == 'system' %}\n {{- '<|im_start|>system\\n' + messages[0]['content'] + '<|im_end|>\\n' }}\n {%- else %}\n {{- '<|im_start|>system\\nYou are Qwen, created by Alibaba Cloud. You are a helpful assistant.<|im_end|>\\n' }}\n {%- endif %}\n{%- endif %}\n{%- for message in messages %}\n {%- if (message.role == \"user\") or (message.role == \"system\" and not loop.first) or (message.role == \"assistant\" and not message.tool_calls) %}\n {{- '<|im_start|>' + message.role + '\\n' + message.content + '<|im_end|>' + '\\n' }}\n {%- elif message.role == \"assistant\" %}\n {{- '<|im_start|>' + message.role }}\n {%- if message.content %}\n {{- '\\n' + message.content }}\n {%- endif %}\n {%- for tool_call in message.tool_calls %}\n {%- if tool_call.function is defined %}\n {%- set tool_call = tool_call.function %}\n {%- endif %}\n {{- '\\n\\n{\"name\": \"' }}\n {{- tool_call.name }}\n {{- '\", \"arguments\": ' }}\n {{- tool_call.arguments | tojson }}\n {{- '}\\n' }}\n {%- endfor %}\n {{- '<|im_end|>\\n' }}\n {%- elif message.role == \"tool\" %}\n {%- if (loop.index0 == 0) or (messages[loop.index0 - 1].role != \"tool\") %}\n {{- '<|im_start|>user' }}\n {%- endif %}\n {{- '\\n\\n' }}\n {{- message.content }}\n {{- '\\n' }}\n {%- if loop.last or (messages[loop.index0 + 1].role != \"tool\") %}\n {{- '<|im_end|>\\n' }}\n {%- endif %}\n {%- endif %}\n{%- endfor %}\n{%- if add_generation_prompt %}\n {{- '<|im_start|>assistant\\n' }}\n{%- endif %}\n", + "clean_up_tokenization_spaces": false, + "eos_token": "<|im_end|>", + "errors": "replace", + "extra_special_tokens": {}, + "model_max_length": 2048, + "pad_token": "<|endoftext|>", + "padding_side": "right", + "split_special_tokens": false, + "tokenizer_class": "Qwen2Tokenizer", + "unk_token": null +} diff --git a/train_results.json b/train_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ad7dbafe8d2d4395088293d4f7d8319f149b8eb5 --- /dev/null +++ b/train_results.json @@ -0,0 +1,9 @@ +{ + "epoch": 3.0, + "num_input_tokens_seen": 44325984, + "total_flos": 1.8804729049283297e+18, + "train_loss": 0.11007208550827785, + "train_runtime": 220429.5839, + "train_samples_per_second": 0.205, + "train_steps_per_second": 0.103 +} \ No newline at end of file diff --git a/trainer_log.jsonl b/trainer_log.jsonl index 225f94fee786ad2c9247ceaeed75c6c856f65863..2610f761a4154d35789dafc44f6294c024c1d384 100644 --- a/trainer_log.jsonl +++ b/trainer_log.jsonl @@ -22167,3 +22167,470 @@ {"current_steps": 22167, "total_steps": 22635, "loss": 0.0005, "lr": 5.27680991920132e-09, "epoch": 2.937972166998012, "percentage": 97.93, "elapsed_time": "2 days, 11:57:22", "remaining_time": "1:15:56", "throughput": 201.06, "total_tokens": 43398416} {"current_steps": 22168, "total_steps": 22635, "loss": 0.1836, "lr": 5.254291435846104e-09, "epoch": 2.938104705102717, "percentage": 97.94, "elapsed_time": "2 days, 11:57:32", "remaining_time": "1:15:47", "throughput": 201.07, "total_tokens": 43401040} {"current_steps": 22169, "total_steps": 22635, "loss": 0.0269, "lr": 5.231821052908981e-09, "epoch": 2.938237243207422, "percentage": 97.94, "elapsed_time": "2 days, 11:57:42", "remaining_time": "1:15:37", "throughput": 201.07, "total_tokens": 43403104} +{"current_steps": 22170, "total_steps": 22635, "loss": 0.2277, "lr": 5.209398770823493e-09, "epoch": 2.9383697813121272, "percentage": 97.95, "elapsed_time": "2 days, 11:57:52", "remaining_time": "1:15:27", "throughput": 201.07, "total_tokens": 43404984} +{"current_steps": 22171, "total_steps": 22635, "loss": 0.0273, "lr": 5.187024590021794e-09, "epoch": 2.9385023194168323, "percentage": 97.95, "elapsed_time": "2 days, 11:58:01", "remaining_time": "1:15:18", "throughput": 201.07, "total_tokens": 43406632} +{"current_steps": 22172, "total_steps": 22635, "loss": 0.0001, "lr": 5.164698510935484e-09, "epoch": 2.9386348575215373, "percentage": 97.95, "elapsed_time": "2 days, 11:58:10", "remaining_time": "1:15:08", "throughput": 201.07, "total_tokens": 43408688} +{"current_steps": 22173, "total_steps": 22635, "loss": 0.0, "lr": 5.142420533995052e-09, "epoch": 2.9387673956262423, "percentage": 97.96, "elapsed_time": "2 days, 11:58:19", "remaining_time": "1:14:58", "throughput": 201.07, "total_tokens": 43409912} +{"current_steps": 22174, "total_steps": 22635, "loss": 0.0, "lr": 5.120190659629598e-09, "epoch": 2.938899933730948, "percentage": 97.96, "elapsed_time": "2 days, 11:58:29", "remaining_time": "1:14:48", "throughput": 201.07, "total_tokens": 43412008} +{"current_steps": 22175, "total_steps": 22635, "loss": 0.2074, "lr": 5.098008888267947e-09, "epoch": 2.939032471835653, "percentage": 97.97, "elapsed_time": "2 days, 11:58:39", "remaining_time": "1:14:39", "throughput": 201.07, "total_tokens": 43414400} +{"current_steps": 22176, "total_steps": 22635, "loss": 0.0, "lr": 5.075875220338089e-09, "epoch": 2.939165009940358, "percentage": 97.97, "elapsed_time": "2 days, 11:58:48", "remaining_time": "1:14:29", "throughput": 201.07, "total_tokens": 43415832} +{"current_steps": 22177, "total_steps": 22635, "loss": 0.041, "lr": 5.05378965626635e-09, "epoch": 2.939297548045063, "percentage": 97.98, "elapsed_time": "2 days, 11:58:57", "remaining_time": "1:14:19", "throughput": 201.07, "total_tokens": 43417576} +{"current_steps": 22178, "total_steps": 22635, "loss": 0.0204, "lr": 5.0317521964787786e-09, "epoch": 2.939430086149768, "percentage": 97.98, "elapsed_time": "2 days, 11:59:07", "remaining_time": "1:14:09", "throughput": 201.07, "total_tokens": 43420160} +{"current_steps": 22179, "total_steps": 22635, "loss": 0.0695, "lr": 5.009762841400034e-09, "epoch": 2.939562624254473, "percentage": 97.99, "elapsed_time": "2 days, 11:59:16", "remaining_time": "1:14:00", "throughput": 201.07, "total_tokens": 43422056} +{"current_steps": 22180, "total_steps": 22635, "loss": 0.0, "lr": 4.9878215914545004e-09, "epoch": 2.939695162359178, "percentage": 97.99, "elapsed_time": "2 days, 11:59:25", "remaining_time": "1:13:50", "throughput": 201.07, "total_tokens": 43423408} +{"current_steps": 22181, "total_steps": 22635, "loss": 0.0009, "lr": 4.9659284470648935e-09, "epoch": 2.9398277004638835, "percentage": 97.99, "elapsed_time": "2 days, 11:59:34", "remaining_time": "1:13:40", "throughput": 201.07, "total_tokens": 43425184} +{"current_steps": 22182, "total_steps": 22635, "loss": 0.3224, "lr": 4.9440834086533775e-09, "epoch": 2.9399602385685886, "percentage": 98.0, "elapsed_time": "2 days, 11:59:44", "remaining_time": "1:13:30", "throughput": 201.07, "total_tokens": 43427024} +{"current_steps": 22183, "total_steps": 22635, "loss": 0.0001, "lr": 4.92228647664128e-09, "epoch": 2.9400927766732936, "percentage": 98.0, "elapsed_time": "2 days, 11:59:53", "remaining_time": "1:13:21", "throughput": 201.07, "total_tokens": 43428888} +{"current_steps": 22184, "total_steps": 22635, "loss": 0.0, "lr": 4.900537651448545e-09, "epoch": 2.9402253147779986, "percentage": 98.01, "elapsed_time": "2 days, 12:00:01", "remaining_time": "1:13:11", "throughput": 201.06, "total_tokens": 43430088} +{"current_steps": 22185, "total_steps": 22635, "loss": 0.0433, "lr": 4.8788369334951126e-09, "epoch": 2.9403578528827037, "percentage": 98.01, "elapsed_time": "2 days, 12:00:12", "remaining_time": "1:13:01", "throughput": 201.07, "total_tokens": 43433848} +{"current_steps": 22186, "total_steps": 22635, "loss": 0.0003, "lr": 4.857184323198705e-09, "epoch": 2.9404903909874087, "percentage": 98.02, "elapsed_time": "2 days, 12:00:21", "remaining_time": "1:12:51", "throughput": 201.08, "total_tokens": 43436752} +{"current_steps": 22187, "total_steps": 22635, "loss": 0.0011, "lr": 4.835579820977043e-09, "epoch": 2.9406229290921138, "percentage": 98.02, "elapsed_time": "2 days, 12:00:31", "remaining_time": "1:12:42", "throughput": 201.08, "total_tokens": 43438840} +{"current_steps": 22188, "total_steps": 22635, "loss": 0.3077, "lr": 4.814023427247017e-09, "epoch": 2.9407554671968192, "percentage": 98.03, "elapsed_time": "2 days, 12:00:41", "remaining_time": "1:12:32", "throughput": 201.08, "total_tokens": 43441104} +{"current_steps": 22189, "total_steps": 22635, "loss": 0.0001, "lr": 4.792515142423848e-09, "epoch": 2.9408880053015243, "percentage": 98.03, "elapsed_time": "2 days, 12:00:51", "remaining_time": "1:12:22", "throughput": 201.08, "total_tokens": 43444024} +{"current_steps": 22190, "total_steps": 22635, "loss": 0.0165, "lr": 4.7710549669222065e-09, "epoch": 2.9410205434062293, "percentage": 98.03, "elapsed_time": "2 days, 12:01:01", "remaining_time": "1:12:12", "throughput": 201.08, "total_tokens": 43445672} +{"current_steps": 22191, "total_steps": 22635, "loss": 0.0132, "lr": 4.749642901156204e-09, "epoch": 2.9411530815109344, "percentage": 98.04, "elapsed_time": "2 days, 12:01:09", "remaining_time": "1:12:03", "throughput": 201.08, "total_tokens": 43447584} +{"current_steps": 22192, "total_steps": 22635, "loss": 0.0, "lr": 4.728278945538289e-09, "epoch": 2.9412856196156394, "percentage": 98.04, "elapsed_time": "2 days, 12:01:18", "remaining_time": "1:11:53", "throughput": 201.08, "total_tokens": 43448784} +{"current_steps": 22193, "total_steps": 22635, "loss": 0.0192, "lr": 4.706963100480633e-09, "epoch": 2.941418157720345, "percentage": 98.05, "elapsed_time": "2 days, 12:01:27", "remaining_time": "1:11:43", "throughput": 201.08, "total_tokens": 43451120} +{"current_steps": 22194, "total_steps": 22635, "loss": 0.0018, "lr": 4.685695366394016e-09, "epoch": 2.9415506958250495, "percentage": 98.05, "elapsed_time": "2 days, 12:01:38", "remaining_time": "1:11:33", "throughput": 201.08, "total_tokens": 43453992} +{"current_steps": 22195, "total_steps": 22635, "loss": 0.2126, "lr": 4.664475743688668e-09, "epoch": 2.941683233929755, "percentage": 98.06, "elapsed_time": "2 days, 12:01:47", "remaining_time": "1:11:24", "throughput": 201.09, "total_tokens": 43456448} +{"current_steps": 22196, "total_steps": 22635, "loss": 0.0003, "lr": 4.643304232773982e-09, "epoch": 2.94181577203446, "percentage": 98.06, "elapsed_time": "2 days, 12:01:57", "remaining_time": "1:11:14", "throughput": 201.09, "total_tokens": 43459360} +{"current_steps": 22197, "total_steps": 22635, "loss": 0.0016, "lr": 4.62218083405741e-09, "epoch": 2.941948310139165, "percentage": 98.06, "elapsed_time": "2 days, 12:02:07", "remaining_time": "1:11:04", "throughput": 201.09, "total_tokens": 43461160} +{"current_steps": 22198, "total_steps": 22635, "loss": 0.0036, "lr": 4.60110554794696e-09, "epoch": 2.94208084824387, "percentage": 98.07, "elapsed_time": "2 days, 12:02:17", "remaining_time": "1:10:54", "throughput": 201.1, "total_tokens": 43464288} +{"current_steps": 22199, "total_steps": 22635, "loss": 0.1609, "lr": 4.5800783748486955e-09, "epoch": 2.942213386348575, "percentage": 98.07, "elapsed_time": "2 days, 12:02:27", "remaining_time": "1:10:45", "throughput": 201.1, "total_tokens": 43467112} +{"current_steps": 22200, "total_steps": 22635, "loss": 0.0, "lr": 4.559099315167848e-09, "epoch": 2.9423459244532806, "percentage": 98.08, "elapsed_time": "2 days, 12:02:36", "remaining_time": "1:10:35", "throughput": 201.1, "total_tokens": 43468408} +{"current_steps": 22201, "total_steps": 22635, "loss": 0.0485, "lr": 4.538168369309093e-09, "epoch": 2.942478462557985, "percentage": 98.08, "elapsed_time": "2 days, 12:02:46", "remaining_time": "1:10:25", "throughput": 201.1, "total_tokens": 43470848} +{"current_steps": 22202, "total_steps": 22635, "loss": 0.0075, "lr": 4.517285537675997e-09, "epoch": 2.9426110006626907, "percentage": 98.09, "elapsed_time": "2 days, 12:02:54", "remaining_time": "1:10:16", "throughput": 201.1, "total_tokens": 43472400} +{"current_steps": 22203, "total_steps": 22635, "loss": 0.1725, "lr": 4.496450820671294e-09, "epoch": 2.9427435387673957, "percentage": 98.09, "elapsed_time": "2 days, 12:03:04", "remaining_time": "1:10:06", "throughput": 201.1, "total_tokens": 43474648} +{"current_steps": 22204, "total_steps": 22635, "loss": 0.0, "lr": 4.4756642186963295e-09, "epoch": 2.9428760768721007, "percentage": 98.1, "elapsed_time": "2 days, 12:03:14", "remaining_time": "1:09:56", "throughput": 201.1, "total_tokens": 43476512} +{"current_steps": 22205, "total_steps": 22635, "loss": 0.1437, "lr": 4.454925732152449e-09, "epoch": 2.9430086149768058, "percentage": 98.1, "elapsed_time": "2 days, 12:03:22", "remaining_time": "1:09:46", "throughput": 201.1, "total_tokens": 43478288} +{"current_steps": 22206, "total_steps": 22635, "loss": 0.0232, "lr": 4.434235361439054e-09, "epoch": 2.943141153081511, "percentage": 98.1, "elapsed_time": "2 days, 12:03:32", "remaining_time": "1:09:37", "throughput": 201.1, "total_tokens": 43480312} +{"current_steps": 22207, "total_steps": 22635, "loss": 0.2381, "lr": 4.413593106955272e-09, "epoch": 2.9432736911862163, "percentage": 98.11, "elapsed_time": "2 days, 12:03:41", "remaining_time": "1:09:27", "throughput": 201.1, "total_tokens": 43481856} +{"current_steps": 22208, "total_steps": 22635, "loss": 0.0521, "lr": 4.392998969098838e-09, "epoch": 2.943406229290921, "percentage": 98.11, "elapsed_time": "2 days, 12:03:51", "remaining_time": "1:09:17", "throughput": 201.1, "total_tokens": 43483912} +{"current_steps": 22209, "total_steps": 22635, "loss": 0.0143, "lr": 4.372452948267214e-09, "epoch": 2.9435387673956264, "percentage": 98.12, "elapsed_time": "2 days, 12:03:59", "remaining_time": "1:09:07", "throughput": 201.1, "total_tokens": 43485280} +{"current_steps": 22210, "total_steps": 22635, "loss": 0.0007, "lr": 4.3519550448561935e-09, "epoch": 2.9436713055003314, "percentage": 98.12, "elapsed_time": "2 days, 12:04:09", "remaining_time": "1:08:58", "throughput": 201.1, "total_tokens": 43488680} +{"current_steps": 22211, "total_steps": 22635, "loss": 0.0056, "lr": 4.331505259261293e-09, "epoch": 2.9438038436050364, "percentage": 98.13, "elapsed_time": "2 days, 12:04:19", "remaining_time": "1:08:48", "throughput": 201.1, "total_tokens": 43490576} +{"current_steps": 22212, "total_steps": 22635, "loss": 0.2447, "lr": 4.311103591876365e-09, "epoch": 2.9439363817097415, "percentage": 98.13, "elapsed_time": "2 days, 12:04:29", "remaining_time": "1:08:38", "throughput": 201.11, "total_tokens": 43494168} +{"current_steps": 22213, "total_steps": 22635, "loss": 0.0752, "lr": 4.2907500430952595e-09, "epoch": 2.9440689198144465, "percentage": 98.14, "elapsed_time": "2 days, 12:04:39", "remaining_time": "1:08:28", "throughput": 201.12, "total_tokens": 43497616} +{"current_steps": 22214, "total_steps": 22635, "loss": 0.0, "lr": 4.2704446133101655e-09, "epoch": 2.944201457919152, "percentage": 98.14, "elapsed_time": "2 days, 12:04:49", "remaining_time": "1:08:19", "throughput": 201.12, "total_tokens": 43499184} +{"current_steps": 22215, "total_steps": 22635, "loss": 0.0647, "lr": 4.2501873029127115e-09, "epoch": 2.9443339960238566, "percentage": 98.14, "elapsed_time": "2 days, 12:04:58", "remaining_time": "1:08:09", "throughput": 201.12, "total_tokens": 43501440} +{"current_steps": 22216, "total_steps": 22635, "loss": 0.0005, "lr": 4.22997811229342e-09, "epoch": 2.944466534128562, "percentage": 98.15, "elapsed_time": "2 days, 12:05:08", "remaining_time": "1:07:59", "throughput": 201.12, "total_tokens": 43503512} +{"current_steps": 22217, "total_steps": 22635, "loss": 0.0001, "lr": 4.209817041841702e-09, "epoch": 2.944599072233267, "percentage": 98.15, "elapsed_time": "2 days, 12:05:18", "remaining_time": "1:07:49", "throughput": 201.11, "total_tokens": 43504464} +{"current_steps": 22218, "total_steps": 22635, "loss": 0.0003, "lr": 4.189704091946411e-09, "epoch": 2.944731610337972, "percentage": 98.16, "elapsed_time": "2 days, 12:05:27", "remaining_time": "1:07:40", "throughput": 201.11, "total_tokens": 43506520} +{"current_steps": 22219, "total_steps": 22635, "loss": 0.0024, "lr": 4.169639262995573e-09, "epoch": 2.944864148442677, "percentage": 98.16, "elapsed_time": "2 days, 12:05:37", "remaining_time": "1:07:30", "throughput": 201.12, "total_tokens": 43509936} +{"current_steps": 22220, "total_steps": 22635, "loss": 0.0002, "lr": 4.149622555375821e-09, "epoch": 2.9449966865473822, "percentage": 98.17, "elapsed_time": "2 days, 12:05:47", "remaining_time": "1:07:20", "throughput": 201.12, "total_tokens": 43511656} +{"current_steps": 22221, "total_steps": 22635, "loss": 0.0597, "lr": 4.1296539694732355e-09, "epoch": 2.9451292246520877, "percentage": 98.17, "elapsed_time": "2 days, 12:05:58", "remaining_time": "1:07:10", "throughput": 201.12, "total_tokens": 43513872} +{"current_steps": 22222, "total_steps": 22635, "loss": 0.0, "lr": 4.109733505672509e-09, "epoch": 2.9452617627567923, "percentage": 98.18, "elapsed_time": "2 days, 12:06:08", "remaining_time": "1:07:01", "throughput": 201.12, "total_tokens": 43515952} +{"current_steps": 22223, "total_steps": 22635, "loss": 0.0007, "lr": 4.089861164358056e-09, "epoch": 2.945394300861498, "percentage": 98.18, "elapsed_time": "2 days, 12:06:17", "remaining_time": "1:06:51", "throughput": 201.12, "total_tokens": 43517608} +{"current_steps": 22224, "total_steps": 22635, "loss": 0.0002, "lr": 4.070036945912903e-09, "epoch": 2.945526838966203, "percentage": 98.18, "elapsed_time": "2 days, 12:06:27", "remaining_time": "1:06:41", "throughput": 201.12, "total_tokens": 43518848} +{"current_steps": 22225, "total_steps": 22635, "loss": 0.0007, "lr": 4.0502608507192454e-09, "epoch": 2.945659377070908, "percentage": 98.19, "elapsed_time": "2 days, 12:06:37", "remaining_time": "1:06:32", "throughput": 201.12, "total_tokens": 43521176} +{"current_steps": 22226, "total_steps": 22635, "loss": 0.0007, "lr": 4.030532879158722e-09, "epoch": 2.945791915175613, "percentage": 98.19, "elapsed_time": "2 days, 12:06:47", "remaining_time": "1:06:22", "throughput": 201.12, "total_tokens": 43523376} +{"current_steps": 22227, "total_steps": 22635, "loss": 0.0426, "lr": 4.010853031611029e-09, "epoch": 2.945924453280318, "percentage": 98.2, "elapsed_time": "2 days, 12:06:57", "remaining_time": "1:06:12", "throughput": 201.12, "total_tokens": 43525152} +{"current_steps": 22228, "total_steps": 22635, "loss": 0.0, "lr": 3.991221308456139e-09, "epoch": 2.9460569913850234, "percentage": 98.2, "elapsed_time": "2 days, 12:07:06", "remaining_time": "1:06:02", "throughput": 201.11, "total_tokens": 43526520} +{"current_steps": 22229, "total_steps": 22635, "loss": 0.0149, "lr": 3.971637710072363e-09, "epoch": 2.9461895294897285, "percentage": 98.21, "elapsed_time": "2 days, 12:07:17", "remaining_time": "1:05:53", "throughput": 201.11, "total_tokens": 43528272} +{"current_steps": 22230, "total_steps": 22635, "loss": 0.0002, "lr": 3.952102236837452e-09, "epoch": 2.9463220675944335, "percentage": 98.21, "elapsed_time": "2 days, 12:07:26", "remaining_time": "1:05:43", "throughput": 201.11, "total_tokens": 43530632} +{"current_steps": 22231, "total_steps": 22635, "loss": 0.0262, "lr": 3.93261488912805e-09, "epoch": 2.9464546056991385, "percentage": 98.22, "elapsed_time": "2 days, 12:07:36", "remaining_time": "1:05:33", "throughput": 201.12, "total_tokens": 43533008} +{"current_steps": 22232, "total_steps": 22635, "loss": 0.0317, "lr": 3.913175667319413e-09, "epoch": 2.9465871438038436, "percentage": 98.22, "elapsed_time": "2 days, 12:07:45", "remaining_time": "1:05:23", "throughput": 201.12, "total_tokens": 43534960} +{"current_steps": 22233, "total_steps": 22635, "loss": 0.0392, "lr": 3.893784571787074e-09, "epoch": 2.9467196819085486, "percentage": 98.22, "elapsed_time": "2 days, 12:07:54", "remaining_time": "1:05:14", "throughput": 201.12, "total_tokens": 43536904} +{"current_steps": 22234, "total_steps": 22635, "loss": 0.0008, "lr": 3.874441602904344e-09, "epoch": 2.9468522200132536, "percentage": 98.23, "elapsed_time": "2 days, 12:08:04", "remaining_time": "1:05:04", "throughput": 201.11, "total_tokens": 43537968} +{"current_steps": 22235, "total_steps": 22635, "loss": 0.0, "lr": 3.855146761044259e-09, "epoch": 2.946984758117959, "percentage": 98.23, "elapsed_time": "2 days, 12:08:13", "remaining_time": "1:04:54", "throughput": 201.11, "total_tokens": 43539104} +{"current_steps": 22236, "total_steps": 22635, "loss": 0.0002, "lr": 3.8359000465793e-09, "epoch": 2.947117296222664, "percentage": 98.24, "elapsed_time": "2 days, 12:08:23", "remaining_time": "1:04:44", "throughput": 201.11, "total_tokens": 43541744} +{"current_steps": 22237, "total_steps": 22635, "loss": 0.0, "lr": 3.816701459880001e-09, "epoch": 2.947249834327369, "percentage": 98.24, "elapsed_time": "2 days, 12:08:32", "remaining_time": "1:04:35", "throughput": 201.11, "total_tokens": 43543160} +{"current_steps": 22238, "total_steps": 22635, "loss": 0.0733, "lr": 3.797551001316624e-09, "epoch": 2.9473823724320742, "percentage": 98.25, "elapsed_time": "2 days, 12:08:42", "remaining_time": "1:04:25", "throughput": 201.12, "total_tokens": 43546168} +{"current_steps": 22239, "total_steps": 22635, "loss": 0.0, "lr": 3.7784486712585946e-09, "epoch": 2.9475149105367793, "percentage": 98.25, "elapsed_time": "2 days, 12:08:52", "remaining_time": "1:04:15", "throughput": 201.11, "total_tokens": 43547784} +{"current_steps": 22240, "total_steps": 22635, "loss": 0.0003, "lr": 3.759394470074229e-09, "epoch": 2.9476474486414843, "percentage": 98.25, "elapsed_time": "2 days, 12:09:01", "remaining_time": "1:04:05", "throughput": 201.11, "total_tokens": 43549192} +{"current_steps": 22241, "total_steps": 22635, "loss": 0.0075, "lr": 3.740388398130734e-09, "epoch": 2.9477799867461894, "percentage": 98.26, "elapsed_time": "2 days, 12:09:10", "remaining_time": "1:03:56", "throughput": 201.11, "total_tokens": 43550616} +{"current_steps": 22242, "total_steps": 22635, "loss": 0.0856, "lr": 3.7214304557944835e-09, "epoch": 2.947912524850895, "percentage": 98.26, "elapsed_time": "2 days, 12:09:20", "remaining_time": "1:03:46", "throughput": 201.11, "total_tokens": 43552808} +{"current_steps": 22243, "total_steps": 22635, "loss": 0.0888, "lr": 3.7025206434312954e-09, "epoch": 2.9480450629556, "percentage": 98.27, "elapsed_time": "2 days, 12:09:29", "remaining_time": "1:03:36", "throughput": 201.11, "total_tokens": 43554880} +{"current_steps": 22244, "total_steps": 22635, "loss": 0.0841, "lr": 3.6836589614056007e-09, "epoch": 2.948177601060305, "percentage": 98.27, "elapsed_time": "2 days, 12:09:39", "remaining_time": "1:03:26", "throughput": 201.11, "total_tokens": 43556528} +{"current_steps": 22245, "total_steps": 22635, "loss": 0.0604, "lr": 3.664845410080997e-09, "epoch": 2.94831013916501, "percentage": 98.28, "elapsed_time": "2 days, 12:09:48", "remaining_time": "1:03:17", "throughput": 201.11, "total_tokens": 43558416} +{"current_steps": 22246, "total_steps": 22635, "loss": 0.0017, "lr": 3.646079989820528e-09, "epoch": 2.948442677269715, "percentage": 98.28, "elapsed_time": "2 days, 12:09:58", "remaining_time": "1:03:07", "throughput": 201.11, "total_tokens": 43560624} +{"current_steps": 22247, "total_steps": 22635, "loss": 0.0554, "lr": 3.6273627009855706e-09, "epoch": 2.94857521537442, "percentage": 98.29, "elapsed_time": "2 days, 12:10:09", "remaining_time": "1:02:57", "throughput": 201.11, "total_tokens": 43563104} +{"current_steps": 22248, "total_steps": 22635, "loss": 0.0753, "lr": 3.608693543937225e-09, "epoch": 2.948707753479125, "percentage": 98.29, "elapsed_time": "2 days, 12:10:18", "remaining_time": "1:02:48", "throughput": 201.12, "total_tokens": 43565280} +{"current_steps": 22249, "total_steps": 22635, "loss": 0.1406, "lr": 3.5900725190357587e-09, "epoch": 2.9488402915838305, "percentage": 98.29, "elapsed_time": "2 days, 12:10:28", "remaining_time": "1:02:38", "throughput": 201.11, "total_tokens": 43566992} +{"current_steps": 22250, "total_steps": 22635, "loss": 0.0, "lr": 3.571499626639496e-09, "epoch": 2.9489728296885356, "percentage": 98.3, "elapsed_time": "2 days, 12:10:37", "remaining_time": "1:02:28", "throughput": 201.11, "total_tokens": 43568344} +{"current_steps": 22251, "total_steps": 22635, "loss": 0.0037, "lr": 3.5529748671070396e-09, "epoch": 2.9491053677932406, "percentage": 98.3, "elapsed_time": "2 days, 12:10:46", "remaining_time": "1:02:18", "throughput": 201.12, "total_tokens": 43571104} +{"current_steps": 22252, "total_steps": 22635, "loss": 0.0001, "lr": 3.534498240795603e-09, "epoch": 2.9492379058979457, "percentage": 98.31, "elapsed_time": "2 days, 12:10:56", "remaining_time": "1:02:09", "throughput": 201.12, "total_tokens": 43572840} +{"current_steps": 22253, "total_steps": 22635, "loss": 0.0, "lr": 3.5160697480610127e-09, "epoch": 2.9493704440026507, "percentage": 98.31, "elapsed_time": "2 days, 12:11:04", "remaining_time": "1:01:59", "throughput": 201.11, "total_tokens": 43574528} +{"current_steps": 22254, "total_steps": 22635, "loss": 0.0003, "lr": 3.497689389258818e-09, "epoch": 2.9495029821073557, "percentage": 98.32, "elapsed_time": "2 days, 12:11:14", "remaining_time": "1:01:49", "throughput": 201.11, "total_tokens": 43576272} +{"current_steps": 22255, "total_steps": 22635, "loss": 0.1349, "lr": 3.4793571647434577e-09, "epoch": 2.9496355202120608, "percentage": 98.32, "elapsed_time": "2 days, 12:11:25", "remaining_time": "1:01:39", "throughput": 201.11, "total_tokens": 43578112} +{"current_steps": 22256, "total_steps": 22635, "loss": 0.0048, "lr": 3.461073074868537e-09, "epoch": 2.9497680583167663, "percentage": 98.33, "elapsed_time": "2 days, 12:11:34", "remaining_time": "1:01:30", "throughput": 201.11, "total_tokens": 43580344} +{"current_steps": 22257, "total_steps": 22635, "loss": 0.0103, "lr": 3.4428371199862755e-09, "epoch": 2.9499005964214713, "percentage": 98.33, "elapsed_time": "2 days, 12:11:44", "remaining_time": "1:01:20", "throughput": 201.11, "total_tokens": 43582160} +{"current_steps": 22258, "total_steps": 22635, "loss": 0.0002, "lr": 3.4246493004486127e-09, "epoch": 2.9500331345261763, "percentage": 98.33, "elapsed_time": "2 days, 12:11:54", "remaining_time": "1:01:10", "throughput": 201.11, "total_tokens": 43584136} +{"current_steps": 22259, "total_steps": 22635, "loss": 0.0027, "lr": 3.4065096166055465e-09, "epoch": 2.9501656726308814, "percentage": 98.34, "elapsed_time": "2 days, 12:12:04", "remaining_time": "1:01:00", "throughput": 201.11, "total_tokens": 43586048} +{"current_steps": 22260, "total_steps": 22635, "loss": 0.0001, "lr": 3.3884180688076308e-09, "epoch": 2.9502982107355864, "percentage": 98.34, "elapsed_time": "2 days, 12:12:14", "remaining_time": "1:00:51", "throughput": 201.11, "total_tokens": 43587912} +{"current_steps": 22261, "total_steps": 22635, "loss": 0.0267, "lr": 3.370374657403197e-09, "epoch": 2.9504307488402914, "percentage": 98.35, "elapsed_time": "2 days, 12:12:24", "remaining_time": "1:00:41", "throughput": 201.11, "total_tokens": 43589856} +{"current_steps": 22262, "total_steps": 22635, "loss": 0.0568, "lr": 3.352379382740578e-09, "epoch": 2.9505632869449965, "percentage": 98.35, "elapsed_time": "2 days, 12:12:34", "remaining_time": "1:00:31", "throughput": 201.11, "total_tokens": 43591248} +{"current_steps": 22263, "total_steps": 22635, "loss": 0.0001, "lr": 3.3344322451661636e-09, "epoch": 2.950695825049702, "percentage": 98.36, "elapsed_time": "2 days, 12:12:44", "remaining_time": "1:00:21", "throughput": 201.11, "total_tokens": 43592904} +{"current_steps": 22264, "total_steps": 22635, "loss": 0.0011, "lr": 3.316533245026343e-09, "epoch": 2.950828363154407, "percentage": 98.36, "elapsed_time": "2 days, 12:12:53", "remaining_time": "1:00:12", "throughput": 201.11, "total_tokens": 43594672} +{"current_steps": 22265, "total_steps": 22635, "loss": 0.003, "lr": 3.298682382665841e-09, "epoch": 2.950960901259112, "percentage": 98.37, "elapsed_time": "2 days, 12:13:03", "remaining_time": "1:00:02", "throughput": 201.11, "total_tokens": 43596576} +{"current_steps": 22266, "total_steps": 22635, "loss": 0.0001, "lr": 3.280879658429381e-09, "epoch": 2.951093439363817, "percentage": 98.37, "elapsed_time": "2 days, 12:13:14", "remaining_time": "0:59:52", "throughput": 201.11, "total_tokens": 43599136} +{"current_steps": 22267, "total_steps": 22635, "loss": 0.0, "lr": 3.263125072660023e-09, "epoch": 2.951225977468522, "percentage": 98.37, "elapsed_time": "2 days, 12:13:23", "remaining_time": "0:59:43", "throughput": 201.11, "total_tokens": 43601392} +{"current_steps": 22268, "total_steps": 22635, "loss": 0.1412, "lr": 3.245418625699992e-09, "epoch": 2.951358515573227, "percentage": 98.38, "elapsed_time": "2 days, 12:13:32", "remaining_time": "0:59:33", "throughput": 201.11, "total_tokens": 43603408} +{"current_steps": 22269, "total_steps": 22635, "loss": 0.0002, "lr": 3.2277603178906826e-09, "epoch": 2.951491053677932, "percentage": 98.38, "elapsed_time": "2 days, 12:13:42", "remaining_time": "0:59:23", "throughput": 201.11, "total_tokens": 43605240} +{"current_steps": 22270, "total_steps": 22635, "loss": 0.1279, "lr": 3.210150149572655e-09, "epoch": 2.9516235917826377, "percentage": 98.39, "elapsed_time": "2 days, 12:13:53", "remaining_time": "0:59:13", "throughput": 201.11, "total_tokens": 43608064} +{"current_steps": 22271, "total_steps": 22635, "loss": 0.0, "lr": 3.1925881210853606e-09, "epoch": 2.9517561298873427, "percentage": 98.39, "elapsed_time": "2 days, 12:14:01", "remaining_time": "0:59:04", "throughput": 201.11, "total_tokens": 43609416} +{"current_steps": 22272, "total_steps": 22635, "loss": 0.0, "lr": 3.175074232767139e-09, "epoch": 2.9518886679920477, "percentage": 98.4, "elapsed_time": "2 days, 12:14:11", "remaining_time": "0:58:54", "throughput": 201.11, "total_tokens": 43610984} +{"current_steps": 22273, "total_steps": 22635, "loss": 0.0123, "lr": 3.1576084849563315e-09, "epoch": 2.952021206096753, "percentage": 98.4, "elapsed_time": "2 days, 12:14:20", "remaining_time": "0:58:44", "throughput": 201.11, "total_tokens": 43613936} +{"current_steps": 22274, "total_steps": 22635, "loss": 0.0935, "lr": 3.1401908779890576e-09, "epoch": 2.952153744201458, "percentage": 98.41, "elapsed_time": "2 days, 12:14:29", "remaining_time": "0:58:34", "throughput": 201.11, "total_tokens": 43615304} +{"current_steps": 22275, "total_steps": 22635, "loss": 0.027, "lr": 3.122821412201438e-09, "epoch": 2.952286282306163, "percentage": 98.41, "elapsed_time": "2 days, 12:14:39", "remaining_time": "0:58:25", "throughput": 201.11, "total_tokens": 43617168} +{"current_steps": 22276, "total_steps": 22635, "loss": 0.0003, "lr": 3.1055000879284815e-09, "epoch": 2.952418820410868, "percentage": 98.41, "elapsed_time": "2 days, 12:14:48", "remaining_time": "0:58:15", "throughput": 201.11, "total_tokens": 43619016} +{"current_steps": 22277, "total_steps": 22635, "loss": 0.0012, "lr": 3.088226905504088e-09, "epoch": 2.9525513585155734, "percentage": 98.42, "elapsed_time": "2 days, 12:14:58", "remaining_time": "0:58:05", "throughput": 201.11, "total_tokens": 43620576} +{"current_steps": 22278, "total_steps": 22635, "loss": 0.0, "lr": 3.0710018652610472e-09, "epoch": 2.9526838966202784, "percentage": 98.42, "elapsed_time": "2 days, 12:15:07", "remaining_time": "0:57:55", "throughput": 201.11, "total_tokens": 43622936} +{"current_steps": 22279, "total_steps": 22635, "loss": 0.0001, "lr": 3.0538249675315935e-09, "epoch": 2.9528164347249835, "percentage": 98.43, "elapsed_time": "2 days, 12:15:16", "remaining_time": "0:57:46", "throughput": 201.12, "total_tokens": 43625712} +{"current_steps": 22280, "total_steps": 22635, "loss": 0.0218, "lr": 3.03669621264685e-09, "epoch": 2.9529489728296885, "percentage": 98.43, "elapsed_time": "2 days, 12:15:26", "remaining_time": "0:57:36", "throughput": 201.12, "total_tokens": 43627824} +{"current_steps": 22281, "total_steps": 22635, "loss": 0.0393, "lr": 3.0196156009373865e-09, "epoch": 2.9530815109343935, "percentage": 98.44, "elapsed_time": "2 days, 12:15:35", "remaining_time": "0:57:26", "throughput": 201.12, "total_tokens": 43629976} +{"current_steps": 22282, "total_steps": 22635, "loss": 0.0003, "lr": 3.0025831327321063e-09, "epoch": 2.953214049039099, "percentage": 98.44, "elapsed_time": "2 days, 12:15:45", "remaining_time": "0:57:16", "throughput": 201.12, "total_tokens": 43631288} +{"current_steps": 22283, "total_steps": 22635, "loss": 0.0291, "lr": 2.985598808359913e-09, "epoch": 2.9533465871438036, "percentage": 98.44, "elapsed_time": "2 days, 12:15:54", "remaining_time": "0:57:07", "throughput": 201.12, "total_tokens": 43633784} +{"current_steps": 22284, "total_steps": 22635, "loss": 0.0003, "lr": 2.968662628147767e-09, "epoch": 2.953479125248509, "percentage": 98.45, "elapsed_time": "2 days, 12:16:03", "remaining_time": "0:56:57", "throughput": 201.12, "total_tokens": 43635528} +{"current_steps": 22285, "total_steps": 22635, "loss": 0.0, "lr": 2.9517745924223517e-09, "epoch": 2.953611663353214, "percentage": 98.45, "elapsed_time": "2 days, 12:16:13", "remaining_time": "0:56:47", "throughput": 201.12, "total_tokens": 43637408} +{"current_steps": 22286, "total_steps": 22635, "loss": 0.0001, "lr": 2.9349347015095175e-09, "epoch": 2.953744201457919, "percentage": 98.46, "elapsed_time": "2 days, 12:16:22", "remaining_time": "0:56:37", "throughput": 201.12, "total_tokens": 43639840} +{"current_steps": 22287, "total_steps": 22635, "loss": 0.0004, "lr": 2.918142955733727e-09, "epoch": 2.953876739562624, "percentage": 98.46, "elapsed_time": "2 days, 12:16:32", "remaining_time": "0:56:28", "throughput": 201.12, "total_tokens": 43642440} +{"current_steps": 22288, "total_steps": 22635, "loss": 0.0, "lr": 2.901399355418888e-09, "epoch": 2.9540092776673292, "percentage": 98.47, "elapsed_time": "2 days, 12:16:41", "remaining_time": "0:56:18", "throughput": 201.13, "total_tokens": 43644424} +{"current_steps": 22289, "total_steps": 22635, "loss": 0.0, "lr": 2.88470390088752e-09, "epoch": 2.9541418157720347, "percentage": 98.47, "elapsed_time": "2 days, 12:16:50", "remaining_time": "0:56:08", "throughput": 201.12, "total_tokens": 43645864} +{"current_steps": 22290, "total_steps": 22635, "loss": 0.0238, "lr": 2.8680565924618653e-09, "epoch": 2.9542743538767393, "percentage": 98.48, "elapsed_time": "2 days, 12:17:00", "remaining_time": "0:55:59", "throughput": 201.12, "total_tokens": 43648088} +{"current_steps": 22291, "total_steps": 22635, "loss": 0.0003, "lr": 2.8514574304627785e-09, "epoch": 2.954406891981445, "percentage": 98.48, "elapsed_time": "2 days, 12:17:08", "remaining_time": "0:55:49", "throughput": 201.12, "total_tokens": 43649544} +{"current_steps": 22292, "total_steps": 22635, "loss": 0.0, "lr": 2.8349064152102812e-09, "epoch": 2.95453943008615, "percentage": 98.48, "elapsed_time": "2 days, 12:17:18", "remaining_time": "0:55:39", "throughput": 201.12, "total_tokens": 43650736} +{"current_steps": 22293, "total_steps": 22635, "loss": 0.0048, "lr": 2.818403547023285e-09, "epoch": 2.954671968190855, "percentage": 98.49, "elapsed_time": "2 days, 12:17:28", "remaining_time": "0:55:29", "throughput": 201.12, "total_tokens": 43652608} +{"current_steps": 22294, "total_steps": 22635, "loss": 0.0437, "lr": 2.801948826220424e-09, "epoch": 2.95480450629556, "percentage": 98.49, "elapsed_time": "2 days, 12:17:37", "remaining_time": "0:55:20", "throughput": 201.12, "total_tokens": 43654536} +{"current_steps": 22295, "total_steps": 22635, "loss": 0.0001, "lr": 2.785542253118667e-09, "epoch": 2.954937044400265, "percentage": 98.5, "elapsed_time": "2 days, 12:17:46", "remaining_time": "0:55:10", "throughput": 201.12, "total_tokens": 43656384} +{"current_steps": 22296, "total_steps": 22635, "loss": 0.0716, "lr": 2.76918382803415e-09, "epoch": 2.9550695825049704, "percentage": 98.5, "elapsed_time": "2 days, 12:17:56", "remaining_time": "0:55:00", "throughput": 201.12, "total_tokens": 43658232} +{"current_steps": 22297, "total_steps": 22635, "loss": 0.0523, "lr": 2.7528735512830085e-09, "epoch": 2.955202120609675, "percentage": 98.51, "elapsed_time": "2 days, 12:18:05", "remaining_time": "0:54:50", "throughput": 201.12, "total_tokens": 43659984} +{"current_steps": 22298, "total_steps": 22635, "loss": 0.249, "lr": 2.736611423178881e-09, "epoch": 2.9553346587143805, "percentage": 98.51, "elapsed_time": "2 days, 12:18:14", "remaining_time": "0:54:41", "throughput": 201.12, "total_tokens": 43661808} +{"current_steps": 22299, "total_steps": 22635, "loss": 0.0003, "lr": 2.7203974440356827e-09, "epoch": 2.9554671968190855, "percentage": 98.52, "elapsed_time": "2 days, 12:18:24", "remaining_time": "0:54:31", "throughput": 201.12, "total_tokens": 43663512} +{"current_steps": 22300, "total_steps": 22635, "loss": 0.0184, "lr": 2.7042316141662195e-09, "epoch": 2.9555997349237906, "percentage": 98.52, "elapsed_time": "2 days, 12:18:34", "remaining_time": "0:54:21", "throughput": 201.12, "total_tokens": 43666384} +{"current_steps": 22301, "total_steps": 22635, "loss": 0.0, "lr": 2.6881139338816307e-09, "epoch": 2.9557322730284956, "percentage": 98.52, "elapsed_time": "2 days, 12:18:43", "remaining_time": "0:54:11", "throughput": 201.12, "total_tokens": 43668424} +{"current_steps": 22302, "total_steps": 22635, "loss": 0.0, "lr": 2.6720444034933347e-09, "epoch": 2.9558648111332007, "percentage": 98.53, "elapsed_time": "2 days, 12:18:53", "remaining_time": "0:54:02", "throughput": 201.12, "total_tokens": 43669440} +{"current_steps": 22303, "total_steps": 22635, "loss": 0.0389, "lr": 2.6560230233105277e-09, "epoch": 2.955997349237906, "percentage": 98.53, "elapsed_time": "2 days, 12:19:03", "remaining_time": "0:53:52", "throughput": 201.12, "total_tokens": 43672344} +{"current_steps": 22304, "total_steps": 22635, "loss": 0.0542, "lr": 2.640049793642685e-09, "epoch": 2.9561298873426107, "percentage": 98.54, "elapsed_time": "2 days, 12:19:12", "remaining_time": "0:53:42", "throughput": 201.13, "total_tokens": 43675760} +{"current_steps": 22305, "total_steps": 22635, "loss": 0.0775, "lr": 2.624124714797338e-09, "epoch": 2.956262425447316, "percentage": 98.54, "elapsed_time": "2 days, 12:19:23", "remaining_time": "0:53:32", "throughput": 201.13, "total_tokens": 43678248} +{"current_steps": 22306, "total_steps": 22635, "loss": 0.2101, "lr": 2.608247787082019e-09, "epoch": 2.9563949635520212, "percentage": 98.55, "elapsed_time": "2 days, 12:19:33", "remaining_time": "0:53:23", "throughput": 201.13, "total_tokens": 43680072} +{"current_steps": 22307, "total_steps": 22635, "loss": 0.0641, "lr": 2.5924190108023164e-09, "epoch": 2.9565275016567263, "percentage": 98.55, "elapsed_time": "2 days, 12:19:42", "remaining_time": "0:53:13", "throughput": 201.13, "total_tokens": 43682152} +{"current_steps": 22308, "total_steps": 22635, "loss": 0.0001, "lr": 2.576638386263541e-09, "epoch": 2.9566600397614313, "percentage": 98.56, "elapsed_time": "2 days, 12:19:52", "remaining_time": "0:53:03", "throughput": 201.13, "total_tokens": 43683896} +{"current_steps": 22309, "total_steps": 22635, "loss": 0.0166, "lr": 2.560905913770173e-09, "epoch": 2.9567925778661364, "percentage": 98.56, "elapsed_time": "2 days, 12:20:02", "remaining_time": "0:52:53", "throughput": 201.13, "total_tokens": 43686896} +{"current_steps": 22310, "total_steps": 22635, "loss": 0.0239, "lr": 2.5452215936255796e-09, "epoch": 2.956925115970842, "percentage": 98.56, "elapsed_time": "2 days, 12:20:12", "remaining_time": "0:52:44", "throughput": 201.13, "total_tokens": 43689000} +{"current_steps": 22311, "total_steps": 22635, "loss": 0.0005, "lr": 2.5295854261317422e-09, "epoch": 2.957057654075547, "percentage": 98.57, "elapsed_time": "2 days, 12:20:22", "remaining_time": "0:52:34", "throughput": 201.14, "total_tokens": 43691888} +{"current_steps": 22312, "total_steps": 22635, "loss": 0.0411, "lr": 2.5139974115906407e-09, "epoch": 2.957190192180252, "percentage": 98.57, "elapsed_time": "2 days, 12:20:32", "remaining_time": "0:52:24", "throughput": 201.14, "total_tokens": 43694016} +{"current_steps": 22313, "total_steps": 22635, "loss": 0.0, "lr": 2.498457550302591e-09, "epoch": 2.957322730284957, "percentage": 98.58, "elapsed_time": "2 days, 12:20:42", "remaining_time": "0:52:15", "throughput": 201.14, "total_tokens": 43695776} +{"current_steps": 22314, "total_steps": 22635, "loss": 0.0281, "lr": 2.4829658425670755e-09, "epoch": 2.957455268389662, "percentage": 98.58, "elapsed_time": "2 days, 12:20:51", "remaining_time": "0:52:05", "throughput": 201.14, "total_tokens": 43697736} +{"current_steps": 22315, "total_steps": 22635, "loss": 0.0002, "lr": 2.467522288683022e-09, "epoch": 2.957587806494367, "percentage": 98.59, "elapsed_time": "2 days, 12:21:02", "remaining_time": "0:51:55", "throughput": 201.14, "total_tokens": 43699432} +{"current_steps": 22316, "total_steps": 22635, "loss": 0.0235, "lr": 2.45212688894797e-09, "epoch": 2.957720344599072, "percentage": 98.59, "elapsed_time": "2 days, 12:21:12", "remaining_time": "0:51:45", "throughput": 201.14, "total_tokens": 43701200} +{"current_steps": 22317, "total_steps": 22635, "loss": 0.0004, "lr": 2.436779643659182e-09, "epoch": 2.9578528827037776, "percentage": 98.6, "elapsed_time": "2 days, 12:21:22", "remaining_time": "0:51:36", "throughput": 201.14, "total_tokens": 43703584} +{"current_steps": 22318, "total_steps": 22635, "loss": 0.0001, "lr": 2.4214805531119767e-09, "epoch": 2.9579854208084826, "percentage": 98.6, "elapsed_time": "2 days, 12:21:32", "remaining_time": "0:51:26", "throughput": 201.14, "total_tokens": 43705704} +{"current_steps": 22319, "total_steps": 22635, "loss": 0.0006, "lr": 2.406229617601674e-09, "epoch": 2.9581179589131876, "percentage": 98.6, "elapsed_time": "2 days, 12:21:42", "remaining_time": "0:51:16", "throughput": 201.14, "total_tokens": 43707848} +{"current_steps": 22320, "total_steps": 22635, "loss": 0.0001, "lr": 2.3910268374222055e-09, "epoch": 2.9582504970178927, "percentage": 98.61, "elapsed_time": "2 days, 12:21:50", "remaining_time": "0:51:06", "throughput": 201.14, "total_tokens": 43709784} +{"current_steps": 22321, "total_steps": 22635, "loss": 0.0, "lr": 2.3758722128669477e-09, "epoch": 2.9583830351225977, "percentage": 98.61, "elapsed_time": "2 days, 12:22:01", "remaining_time": "0:50:57", "throughput": 201.14, "total_tokens": 43711184} +{"current_steps": 22322, "total_steps": 22635, "loss": 0.0, "lr": 2.360765744227889e-09, "epoch": 2.9585155732273027, "percentage": 98.62, "elapsed_time": "2 days, 12:22:10", "remaining_time": "0:50:47", "throughput": 201.13, "total_tokens": 43712456} +{"current_steps": 22323, "total_steps": 22635, "loss": 0.0005, "lr": 2.3457074317961847e-09, "epoch": 2.958648111332008, "percentage": 98.62, "elapsed_time": "2 days, 12:22:20", "remaining_time": "0:50:37", "throughput": 201.13, "total_tokens": 43714544} +{"current_steps": 22324, "total_steps": 22635, "loss": 0.0026, "lr": 2.3306972758621594e-09, "epoch": 2.9587806494367133, "percentage": 98.63, "elapsed_time": "2 days, 12:22:29", "remaining_time": "0:50:27", "throughput": 201.13, "total_tokens": 43716648} +{"current_steps": 22325, "total_steps": 22635, "loss": 0.0761, "lr": 2.3157352767155807e-09, "epoch": 2.9589131875414183, "percentage": 98.63, "elapsed_time": "2 days, 12:22:39", "remaining_time": "0:50:18", "throughput": 201.13, "total_tokens": 43718560} +{"current_steps": 22326, "total_steps": 22635, "loss": 0.0549, "lr": 2.300821434644551e-09, "epoch": 2.9590457256461233, "percentage": 98.63, "elapsed_time": "2 days, 12:22:49", "remaining_time": "0:50:08", "throughput": 201.13, "total_tokens": 43720544} +{"current_steps": 22327, "total_steps": 22635, "loss": 0.0001, "lr": 2.2859557499368966e-09, "epoch": 2.9591782637508284, "percentage": 98.64, "elapsed_time": "2 days, 12:22:58", "remaining_time": "0:49:58", "throughput": 201.13, "total_tokens": 43722256} +{"current_steps": 22328, "total_steps": 22635, "loss": 0.0, "lr": 2.2711382228790547e-09, "epoch": 2.9593108018555334, "percentage": 98.64, "elapsed_time": "2 days, 12:23:07", "remaining_time": "0:49:48", "throughput": 201.13, "total_tokens": 43723568} +{"current_steps": 22329, "total_steps": 22635, "loss": 0.027, "lr": 2.2563688537566298e-09, "epoch": 2.9594433399602385, "percentage": 98.65, "elapsed_time": "2 days, 12:23:17", "remaining_time": "0:49:39", "throughput": 201.13, "total_tokens": 43725224} +{"current_steps": 22330, "total_steps": 22635, "loss": 0.0796, "lr": 2.2416476428546717e-09, "epoch": 2.9595758780649435, "percentage": 98.65, "elapsed_time": "2 days, 12:23:26", "remaining_time": "0:49:29", "throughput": 201.13, "total_tokens": 43727288} +{"current_steps": 22331, "total_steps": 22635, "loss": 0.1543, "lr": 2.226974590456843e-09, "epoch": 2.959708416169649, "percentage": 98.66, "elapsed_time": "2 days, 12:23:36", "remaining_time": "0:49:19", "throughput": 201.13, "total_tokens": 43729784} +{"current_steps": 22332, "total_steps": 22635, "loss": 0.0043, "lr": 2.2123496968459723e-09, "epoch": 2.959840954274354, "percentage": 98.66, "elapsed_time": "2 days, 12:23:46", "remaining_time": "0:49:10", "throughput": 201.14, "total_tokens": 43732112} +{"current_steps": 22333, "total_steps": 22635, "loss": 0.0172, "lr": 2.1977729623040565e-09, "epoch": 2.959973492379059, "percentage": 98.67, "elapsed_time": "2 days, 12:23:55", "remaining_time": "0:49:00", "throughput": 201.13, "total_tokens": 43733752} +{"current_steps": 22334, "total_steps": 22635, "loss": 0.0066, "lr": 2.1832443871125374e-09, "epoch": 2.960106030483764, "percentage": 98.67, "elapsed_time": "2 days, 12:24:05", "remaining_time": "0:48:50", "throughput": 201.14, "total_tokens": 43736048} +{"current_steps": 22335, "total_steps": 22635, "loss": 0.0, "lr": 2.1687639715509136e-09, "epoch": 2.960238568588469, "percentage": 98.67, "elapsed_time": "2 days, 12:24:15", "remaining_time": "0:48:40", "throughput": 201.13, "total_tokens": 43737608} +{"current_steps": 22336, "total_steps": 22635, "loss": 0.0427, "lr": 2.154331715898683e-09, "epoch": 2.960371106693174, "percentage": 98.68, "elapsed_time": "2 days, 12:24:24", "remaining_time": "0:48:31", "throughput": 201.13, "total_tokens": 43739568} +{"current_steps": 22337, "total_steps": 22635, "loss": 0.0, "lr": 2.1399476204345126e-09, "epoch": 2.960503644797879, "percentage": 98.68, "elapsed_time": "2 days, 12:24:34", "remaining_time": "0:48:21", "throughput": 201.13, "total_tokens": 43740744} +{"current_steps": 22338, "total_steps": 22635, "loss": 0.0, "lr": 2.1256116854348472e-09, "epoch": 2.9606361829025847, "percentage": 98.69, "elapsed_time": "2 days, 12:24:43", "remaining_time": "0:48:11", "throughput": 201.13, "total_tokens": 43742320} +{"current_steps": 22339, "total_steps": 22635, "loss": 0.1574, "lr": 2.1113239111769655e-09, "epoch": 2.9607687210072897, "percentage": 98.69, "elapsed_time": "2 days, 12:24:53", "remaining_time": "0:48:01", "throughput": 201.13, "total_tokens": 43744944} +{"current_steps": 22340, "total_steps": 22635, "loss": 0.0004, "lr": 2.0970842979356476e-09, "epoch": 2.9609012591119948, "percentage": 98.7, "elapsed_time": "2 days, 12:25:04", "remaining_time": "0:47:52", "throughput": 201.14, "total_tokens": 43747768} +{"current_steps": 22341, "total_steps": 22635, "loss": 0.1038, "lr": 2.082892845985951e-09, "epoch": 2.9610337972167, "percentage": 98.7, "elapsed_time": "2 days, 12:25:13", "remaining_time": "0:47:42", "throughput": 201.14, "total_tokens": 43750176} +{"current_steps": 22342, "total_steps": 22635, "loss": 0.1581, "lr": 2.068749555601268e-09, "epoch": 2.961166335321405, "percentage": 98.71, "elapsed_time": "2 days, 12:25:24", "remaining_time": "0:47:32", "throughput": 201.14, "total_tokens": 43752368} +{"current_steps": 22343, "total_steps": 22635, "loss": 0.0003, "lr": 2.0546544270544365e-09, "epoch": 2.96129887342611, "percentage": 98.71, "elapsed_time": "2 days, 12:25:33", "remaining_time": "0:47:22", "throughput": 201.13, "total_tokens": 43753536} +{"current_steps": 22344, "total_steps": 22635, "loss": 0.0001, "lr": 2.040607460616906e-09, "epoch": 2.961431411530815, "percentage": 98.71, "elapsed_time": "2 days, 12:25:42", "remaining_time": "0:47:13", "throughput": 201.13, "total_tokens": 43754912} +{"current_steps": 22345, "total_steps": 22635, "loss": 0.0, "lr": 2.0266086565598474e-09, "epoch": 2.9615639496355204, "percentage": 98.72, "elapsed_time": "2 days, 12:25:53", "remaining_time": "0:47:03", "throughput": 201.13, "total_tokens": 43757088} +{"current_steps": 22346, "total_steps": 22635, "loss": 0.0001, "lr": 2.012658015153046e-09, "epoch": 2.9616964877402254, "percentage": 98.72, "elapsed_time": "2 days, 12:26:02", "remaining_time": "0:46:53", "throughput": 201.13, "total_tokens": 43758616} +{"current_steps": 22347, "total_steps": 22635, "loss": 0.0, "lr": 1.998755536665453e-09, "epoch": 2.9618290258449305, "percentage": 98.73, "elapsed_time": "2 days, 12:26:12", "remaining_time": "0:46:43", "throughput": 201.13, "total_tokens": 43760328} +{"current_steps": 22348, "total_steps": 22635, "loss": 0.0304, "lr": 1.9849012213649097e-09, "epoch": 2.9619615639496355, "percentage": 98.73, "elapsed_time": "2 days, 12:26:22", "remaining_time": "0:46:34", "throughput": 201.13, "total_tokens": 43762528} +{"current_steps": 22349, "total_steps": 22635, "loss": 0.0, "lr": 1.97109506951898e-09, "epoch": 2.9620941020543405, "percentage": 98.74, "elapsed_time": "2 days, 12:26:30", "remaining_time": "0:46:24", "throughput": 201.13, "total_tokens": 43764144} +{"current_steps": 22350, "total_steps": 22635, "loss": 0.0195, "lr": 1.9573370813935623e-09, "epoch": 2.9622266401590456, "percentage": 98.74, "elapsed_time": "2 days, 12:26:40", "remaining_time": "0:46:14", "throughput": 201.13, "total_tokens": 43766400} +{"current_steps": 22351, "total_steps": 22635, "loss": 0.0299, "lr": 1.943627257254277e-09, "epoch": 2.9623591782637506, "percentage": 98.75, "elapsed_time": "2 days, 12:26:50", "remaining_time": "0:46:05", "throughput": 201.13, "total_tokens": 43768440} +{"current_steps": 22352, "total_steps": 22635, "loss": 0.0, "lr": 1.9299655973648023e-09, "epoch": 2.962491716368456, "percentage": 98.75, "elapsed_time": "2 days, 12:27:01", "remaining_time": "0:45:55", "throughput": 201.13, "total_tokens": 43771040} +{"current_steps": 22353, "total_steps": 22635, "loss": 0.0175, "lr": 1.916352101989094e-09, "epoch": 2.962624254473161, "percentage": 98.75, "elapsed_time": "2 days, 12:27:11", "remaining_time": "0:45:45", "throughput": 201.14, "total_tokens": 43773704} +{"current_steps": 22354, "total_steps": 22635, "loss": 0.0, "lr": 1.9027867713894422e-09, "epoch": 2.962756792577866, "percentage": 98.76, "elapsed_time": "2 days, 12:27:21", "remaining_time": "0:45:35", "throughput": 201.14, "total_tokens": 43775384} +{"current_steps": 22355, "total_steps": 22635, "loss": 0.0983, "lr": 1.889269605827304e-09, "epoch": 2.962889330682571, "percentage": 98.76, "elapsed_time": "2 days, 12:27:31", "remaining_time": "0:45:26", "throughput": 201.14, "total_tokens": 43777928} +{"current_steps": 22356, "total_steps": 22635, "loss": 0.0002, "lr": 1.8758006055635823e-09, "epoch": 2.9630218687872762, "percentage": 98.77, "elapsed_time": "2 days, 12:27:40", "remaining_time": "0:45:16", "throughput": 201.14, "total_tokens": 43780304} +{"current_steps": 22357, "total_steps": 22635, "loss": 0.0002, "lr": 1.8623797708577918e-09, "epoch": 2.9631544068919813, "percentage": 98.77, "elapsed_time": "2 days, 12:27:50", "remaining_time": "0:45:06", "throughput": 201.14, "total_tokens": 43781864} +{"current_steps": 22358, "total_steps": 22635, "loss": 0.0, "lr": 1.849007101968614e-09, "epoch": 2.9632869449966863, "percentage": 98.78, "elapsed_time": "2 days, 12:28:00", "remaining_time": "0:44:56", "throughput": 201.14, "total_tokens": 43783296} +{"current_steps": 22359, "total_steps": 22635, "loss": 0.0043, "lr": 1.8356825991538985e-09, "epoch": 2.963419483101392, "percentage": 98.78, "elapsed_time": "2 days, 12:28:09", "remaining_time": "0:44:47", "throughput": 201.14, "total_tokens": 43785504} +{"current_steps": 22360, "total_steps": 22635, "loss": 0.102, "lr": 1.8224062626706618e-09, "epoch": 2.963552021206097, "percentage": 98.79, "elapsed_time": "2 days, 12:28:19", "remaining_time": "0:44:37", "throughput": 201.14, "total_tokens": 43787680} +{"current_steps": 22361, "total_steps": 22635, "loss": 0.0007, "lr": 1.8091780927750879e-09, "epoch": 2.963684559310802, "percentage": 98.79, "elapsed_time": "2 days, 12:28:29", "remaining_time": "0:44:27", "throughput": 201.14, "total_tokens": 43789504} +{"current_steps": 22362, "total_steps": 22635, "loss": 0.0112, "lr": 1.7959980897216955e-09, "epoch": 2.963817097415507, "percentage": 98.79, "elapsed_time": "2 days, 12:28:38", "remaining_time": "0:44:17", "throughput": 201.14, "total_tokens": 43791336} +{"current_steps": 22363, "total_steps": 22635, "loss": 0.0126, "lr": 1.7828662537650032e-09, "epoch": 2.963949635520212, "percentage": 98.8, "elapsed_time": "2 days, 12:28:48", "remaining_time": "0:44:08", "throughput": 201.14, "total_tokens": 43792976} +{"current_steps": 22364, "total_steps": 22635, "loss": 0.0002, "lr": 1.7697825851578642e-09, "epoch": 2.9640821736249174, "percentage": 98.8, "elapsed_time": "2 days, 12:28:57", "remaining_time": "0:43:58", "throughput": 201.14, "total_tokens": 43795952} +{"current_steps": 22365, "total_steps": 22635, "loss": 0.0001, "lr": 1.7567470841528545e-09, "epoch": 2.964214711729622, "percentage": 98.81, "elapsed_time": "2 days, 12:29:07", "remaining_time": "0:43:48", "throughput": 201.14, "total_tokens": 43797608} +{"current_steps": 22366, "total_steps": 22635, "loss": 0.0014, "lr": 1.7437597510014391e-09, "epoch": 2.9643472498343275, "percentage": 98.81, "elapsed_time": "2 days, 12:29:16", "remaining_time": "0:43:38", "throughput": 201.14, "total_tokens": 43800080} +{"current_steps": 22367, "total_steps": 22635, "loss": 0.0, "lr": 1.7308205859536965e-09, "epoch": 2.9644797879390326, "percentage": 98.82, "elapsed_time": "2 days, 12:29:26", "remaining_time": "0:43:29", "throughput": 201.15, "total_tokens": 43802880} +{"current_steps": 22368, "total_steps": 22635, "loss": 0.0001, "lr": 1.717929589258871e-09, "epoch": 2.9646123260437376, "percentage": 98.82, "elapsed_time": "2 days, 12:29:36", "remaining_time": "0:43:19", "throughput": 201.14, "total_tokens": 43804032} +{"current_steps": 22369, "total_steps": 22635, "loss": 0.0619, "lr": 1.705086761166208e-09, "epoch": 2.9647448641484426, "percentage": 98.82, "elapsed_time": "2 days, 12:29:46", "remaining_time": "0:43:09", "throughput": 201.14, "total_tokens": 43805592} +{"current_steps": 22370, "total_steps": 22635, "loss": 0.0, "lr": 1.6922921019227323e-09, "epoch": 2.9648774022531477, "percentage": 98.83, "elapsed_time": "2 days, 12:29:56", "remaining_time": "0:43:00", "throughput": 201.14, "total_tokens": 43807192} +{"current_steps": 22371, "total_steps": 22635, "loss": 0.0001, "lr": 1.6795456117757458e-09, "epoch": 2.965009940357853, "percentage": 98.83, "elapsed_time": "2 days, 12:30:05", "remaining_time": "0:42:50", "throughput": 201.14, "total_tokens": 43808696} +{"current_steps": 22372, "total_steps": 22635, "loss": 0.0384, "lr": 1.6668472909703304e-09, "epoch": 2.9651424784625577, "percentage": 98.84, "elapsed_time": "2 days, 12:30:14", "remaining_time": "0:42:40", "throughput": 201.14, "total_tokens": 43811288} +{"current_steps": 22373, "total_steps": 22635, "loss": 0.0337, "lr": 1.6541971397515677e-09, "epoch": 2.9652750165672632, "percentage": 98.84, "elapsed_time": "2 days, 12:30:24", "remaining_time": "0:42:30", "throughput": 201.14, "total_tokens": 43813256} +{"current_steps": 22374, "total_steps": 22635, "loss": 0.0213, "lr": 1.6415951583634293e-09, "epoch": 2.9654075546719683, "percentage": 98.85, "elapsed_time": "2 days, 12:30:32", "remaining_time": "0:42:21", "throughput": 201.14, "total_tokens": 43814656} +{"current_steps": 22375, "total_steps": 22635, "loss": 0.0059, "lr": 1.6290413470487765e-09, "epoch": 2.9655400927766733, "percentage": 98.85, "elapsed_time": "2 days, 12:30:42", "remaining_time": "0:42:11", "throughput": 201.14, "total_tokens": 43816456} +{"current_steps": 22376, "total_steps": 22635, "loss": 0.152, "lr": 1.6165357060499154e-09, "epoch": 2.9656726308813783, "percentage": 98.86, "elapsed_time": "2 days, 12:30:52", "remaining_time": "0:42:01", "throughput": 201.14, "total_tokens": 43818984} +{"current_steps": 22377, "total_steps": 22635, "loss": 0.0384, "lr": 1.6040782356077643e-09, "epoch": 2.9658051689860834, "percentage": 98.86, "elapsed_time": "2 days, 12:31:02", "remaining_time": "0:41:51", "throughput": 201.14, "total_tokens": 43821472} +{"current_steps": 22378, "total_steps": 22635, "loss": 0.0211, "lr": 1.591668935962687e-09, "epoch": 2.965937707090789, "percentage": 98.86, "elapsed_time": "2 days, 12:31:12", "remaining_time": "0:41:42", "throughput": 201.14, "total_tokens": 43823736} +{"current_steps": 22379, "total_steps": 22635, "loss": 0.0941, "lr": 1.5793078073533808e-09, "epoch": 2.9660702451954934, "percentage": 98.87, "elapsed_time": "2 days, 12:31:21", "remaining_time": "0:41:32", "throughput": 201.14, "total_tokens": 43825648} +{"current_steps": 22380, "total_steps": 22635, "loss": 0.0004, "lr": 1.5669948500188215e-09, "epoch": 2.966202783300199, "percentage": 98.87, "elapsed_time": "2 days, 12:31:31", "remaining_time": "0:41:22", "throughput": 201.14, "total_tokens": 43827624} +{"current_steps": 22381, "total_steps": 22635, "loss": 0.2061, "lr": 1.5547300641963192e-09, "epoch": 2.966335321404904, "percentage": 98.88, "elapsed_time": "2 days, 12:31:41", "remaining_time": "0:41:12", "throughput": 201.15, "total_tokens": 43830744} +{"current_steps": 22382, "total_steps": 22635, "loss": 0.0001, "lr": 1.542513450122074e-09, "epoch": 2.966467859509609, "percentage": 98.88, "elapsed_time": "2 days, 12:31:50", "remaining_time": "0:41:03", "throughput": 201.15, "total_tokens": 43833536} +{"current_steps": 22383, "total_steps": 22635, "loss": 0.0031, "lr": 1.5303450080320082e-09, "epoch": 2.966600397614314, "percentage": 98.89, "elapsed_time": "2 days, 12:32:00", "remaining_time": "0:40:53", "throughput": 201.15, "total_tokens": 43835136} +{"current_steps": 22384, "total_steps": 22635, "loss": 0.0101, "lr": 1.5182247381601011e-09, "epoch": 2.966732935719019, "percentage": 98.89, "elapsed_time": "2 days, 12:32:10", "remaining_time": "0:40:43", "throughput": 201.15, "total_tokens": 43837672} +{"current_steps": 22385, "total_steps": 22635, "loss": 0.0364, "lr": 1.5061526407406102e-09, "epoch": 2.9668654738237246, "percentage": 98.9, "elapsed_time": "2 days, 12:32:19", "remaining_time": "0:40:33", "throughput": 201.15, "total_tokens": 43839368} +{"current_steps": 22386, "total_steps": 22635, "loss": 0.0001, "lr": 1.494128716006127e-09, "epoch": 2.966998011928429, "percentage": 98.9, "elapsed_time": "2 days, 12:32:29", "remaining_time": "0:40:24", "throughput": 201.15, "total_tokens": 43841112} +{"current_steps": 22387, "total_steps": 22635, "loss": 0.0, "lr": 1.4821529641884103e-09, "epoch": 2.9671305500331346, "percentage": 98.9, "elapsed_time": "2 days, 12:32:38", "remaining_time": "0:40:14", "throughput": 201.16, "total_tokens": 43843904} +{"current_steps": 22388, "total_steps": 22635, "loss": 0.1423, "lr": 1.4702253855186644e-09, "epoch": 2.9672630881378397, "percentage": 98.91, "elapsed_time": "2 days, 12:32:47", "remaining_time": "0:40:04", "throughput": 201.16, "total_tokens": 43845392} +{"current_steps": 22389, "total_steps": 22635, "loss": 0.0001, "lr": 1.4583459802264278e-09, "epoch": 2.9673956262425447, "percentage": 98.91, "elapsed_time": "2 days, 12:32:56", "remaining_time": "0:39:55", "throughput": 201.15, "total_tokens": 43846792} +{"current_steps": 22390, "total_steps": 22635, "loss": 0.0361, "lr": 1.4465147485406839e-09, "epoch": 2.9675281643472498, "percentage": 98.92, "elapsed_time": "2 days, 12:33:05", "remaining_time": "0:39:45", "throughput": 201.15, "total_tokens": 43848232} +{"current_steps": 22391, "total_steps": 22635, "loss": 0.0001, "lr": 1.4347316906901387e-09, "epoch": 2.967660702451955, "percentage": 98.92, "elapsed_time": "2 days, 12:33:15", "remaining_time": "0:39:35", "throughput": 201.15, "total_tokens": 43849744} +{"current_steps": 22392, "total_steps": 22635, "loss": 0.0008, "lr": 1.4229968069015553e-09, "epoch": 2.9677932405566603, "percentage": 98.93, "elapsed_time": "2 days, 12:33:24", "remaining_time": "0:39:25", "throughput": 201.15, "total_tokens": 43852096} +{"current_steps": 22393, "total_steps": 22635, "loss": 0.0911, "lr": 1.4113100974014193e-09, "epoch": 2.967925778661365, "percentage": 98.93, "elapsed_time": "2 days, 12:33:34", "remaining_time": "0:39:16", "throughput": 201.15, "total_tokens": 43854728} +{"current_steps": 22394, "total_steps": 22635, "loss": 0.0997, "lr": 1.3996715624148282e-09, "epoch": 2.9680583167660703, "percentage": 98.94, "elapsed_time": "2 days, 12:33:44", "remaining_time": "0:39:06", "throughput": 201.16, "total_tokens": 43857104} +{"current_steps": 22395, "total_steps": 22635, "loss": 0.0003, "lr": 1.3880812021660473e-09, "epoch": 2.9681908548707754, "percentage": 98.94, "elapsed_time": "2 days, 12:33:53", "remaining_time": "0:38:56", "throughput": 201.16, "total_tokens": 43858864} +{"current_steps": 22396, "total_steps": 22635, "loss": 0.1293, "lr": 1.3765390168790637e-09, "epoch": 2.9683233929754804, "percentage": 98.94, "elapsed_time": "2 days, 12:34:03", "remaining_time": "0:38:46", "throughput": 201.16, "total_tokens": 43861424} +{"current_steps": 22397, "total_steps": 22635, "loss": 0.0002, "lr": 1.3650450067759224e-09, "epoch": 2.9684559310801855, "percentage": 98.95, "elapsed_time": "2 days, 12:34:12", "remaining_time": "0:38:37", "throughput": 201.16, "total_tokens": 43863568} +{"current_steps": 22398, "total_steps": 22635, "loss": 0.0, "lr": 1.3535991720783903e-09, "epoch": 2.9685884691848905, "percentage": 98.95, "elapsed_time": "2 days, 12:34:21", "remaining_time": "0:38:27", "throughput": 201.16, "total_tokens": 43865104} +{"current_steps": 22399, "total_steps": 22635, "loss": 0.0006, "lr": 1.3422015130074017e-09, "epoch": 2.968721007289596, "percentage": 98.96, "elapsed_time": "2 days, 12:34:32", "remaining_time": "0:38:17", "throughput": 201.16, "total_tokens": 43867616} +{"current_steps": 22400, "total_steps": 22635, "loss": 0.0022, "lr": 1.3308520297822258e-09, "epoch": 2.968853545394301, "percentage": 98.96, "elapsed_time": "2 days, 12:34:41", "remaining_time": "0:38:07", "throughput": 201.16, "total_tokens": 43869520} +{"current_steps": 22401, "total_steps": 22635, "loss": 0.1092, "lr": 1.3195507226221315e-09, "epoch": 2.968986083499006, "percentage": 98.97, "elapsed_time": "2 days, 12:34:51", "remaining_time": "0:37:58", "throughput": 201.16, "total_tokens": 43871736} +{"current_steps": 22402, "total_steps": 22635, "loss": 0.0722, "lr": 1.3082975917450003e-09, "epoch": 2.969118621603711, "percentage": 98.97, "elapsed_time": "2 days, 12:35:01", "remaining_time": "0:37:48", "throughput": 201.16, "total_tokens": 43874032} +{"current_steps": 22403, "total_steps": 22635, "loss": 0.0058, "lr": 1.2970926373676028e-09, "epoch": 2.969251159708416, "percentage": 98.98, "elapsed_time": "2 days, 12:35:10", "remaining_time": "0:37:38", "throughput": 201.16, "total_tokens": 43875632} +{"current_steps": 22404, "total_steps": 22635, "loss": 0.0001, "lr": 1.285935859705878e-09, "epoch": 2.969383697813121, "percentage": 98.98, "elapsed_time": "2 days, 12:35:21", "remaining_time": "0:37:28", "throughput": 201.16, "total_tokens": 43877552} +{"current_steps": 22405, "total_steps": 22635, "loss": 0.0004, "lr": 1.2748272589749311e-09, "epoch": 2.969516235917826, "percentage": 98.98, "elapsed_time": "2 days, 12:35:30", "remaining_time": "0:37:19", "throughput": 201.16, "total_tokens": 43880000} +{"current_steps": 22406, "total_steps": 22635, "loss": 0.0159, "lr": 1.263766835389313e-09, "epoch": 2.9696487740225317, "percentage": 98.99, "elapsed_time": "2 days, 12:35:40", "remaining_time": "0:37:09", "throughput": 201.16, "total_tokens": 43881992} +{"current_steps": 22407, "total_steps": 22635, "loss": 0.0, "lr": 1.2527545891621862e-09, "epoch": 2.9697813121272367, "percentage": 98.99, "elapsed_time": "2 days, 12:35:50", "remaining_time": "0:36:59", "throughput": 201.16, "total_tokens": 43883624} +{"current_steps": 22408, "total_steps": 22635, "loss": 0.0019, "lr": 1.2417905205056036e-09, "epoch": 2.9699138502319418, "percentage": 99.0, "elapsed_time": "2 days, 12:35:59", "remaining_time": "0:36:50", "throughput": 201.16, "total_tokens": 43885576} +{"current_steps": 22409, "total_steps": 22635, "loss": 0.0001, "lr": 1.2308746296310626e-09, "epoch": 2.970046388336647, "percentage": 99.0, "elapsed_time": "2 days, 12:36:09", "remaining_time": "0:36:40", "throughput": 201.16, "total_tokens": 43887304} +{"current_steps": 22410, "total_steps": 22635, "loss": 0.0, "lr": 1.220006916749228e-09, "epoch": 2.970178926441352, "percentage": 99.01, "elapsed_time": "2 days, 12:36:19", "remaining_time": "0:36:30", "throughput": 201.16, "total_tokens": 43889432} +{"current_steps": 22411, "total_steps": 22635, "loss": 0.0001, "lr": 1.2091873820693767e-09, "epoch": 2.970311464546057, "percentage": 99.01, "elapsed_time": "2 days, 12:36:28", "remaining_time": "0:36:20", "throughput": 201.16, "total_tokens": 43891000} +{"current_steps": 22412, "total_steps": 22635, "loss": 0.0892, "lr": 1.198416025800231e-09, "epoch": 2.970444002650762, "percentage": 99.01, "elapsed_time": "2 days, 12:36:38", "remaining_time": "0:36:11", "throughput": 201.16, "total_tokens": 43892912} +{"current_steps": 22413, "total_steps": 22635, "loss": 0.0, "lr": 1.1876928481494021e-09, "epoch": 2.9705765407554674, "percentage": 99.02, "elapsed_time": "2 days, 12:36:48", "remaining_time": "0:36:01", "throughput": 201.16, "total_tokens": 43894584} +{"current_steps": 22414, "total_steps": 22635, "loss": 0.0021, "lr": 1.1770178493236695e-09, "epoch": 2.9707090788601724, "percentage": 99.02, "elapsed_time": "2 days, 12:36:57", "remaining_time": "0:35:51", "throughput": 201.16, "total_tokens": 43896224} +{"current_steps": 22415, "total_steps": 22635, "loss": 0.0021, "lr": 1.1663910295289793e-09, "epoch": 2.9708416169648775, "percentage": 99.03, "elapsed_time": "2 days, 12:37:07", "remaining_time": "0:35:41", "throughput": 201.16, "total_tokens": 43898016} +{"current_steps": 22416, "total_steps": 22635, "loss": 0.0255, "lr": 1.1558123889701679e-09, "epoch": 2.9709741550695825, "percentage": 99.03, "elapsed_time": "2 days, 12:37:16", "remaining_time": "0:35:32", "throughput": 201.16, "total_tokens": 43899608} +{"current_steps": 22417, "total_steps": 22635, "loss": 0.0001, "lr": 1.145281927850961e-09, "epoch": 2.9711066931742875, "percentage": 99.04, "elapsed_time": "2 days, 12:37:27", "remaining_time": "0:35:22", "throughput": 201.16, "total_tokens": 43901712} +{"current_steps": 22418, "total_steps": 22635, "loss": 0.0001, "lr": 1.1347996463748069e-09, "epoch": 2.9712392312789926, "percentage": 99.04, "elapsed_time": "2 days, 12:37:36", "remaining_time": "0:35:12", "throughput": 201.15, "total_tokens": 43903440} +{"current_steps": 22419, "total_steps": 22635, "loss": 0.0064, "lr": 1.1243655447434886e-09, "epoch": 2.9713717693836976, "percentage": 99.05, "elapsed_time": "2 days, 12:37:47", "remaining_time": "0:35:02", "throughput": 201.16, "total_tokens": 43905992} +{"current_steps": 22420, "total_steps": 22635, "loss": 0.1398, "lr": 1.1139796231582346e-09, "epoch": 2.971504307488403, "percentage": 99.05, "elapsed_time": "2 days, 12:37:57", "remaining_time": "0:34:53", "throughput": 201.16, "total_tokens": 43908416} +{"current_steps": 22421, "total_steps": 22635, "loss": 0.0, "lr": 1.1036418818194394e-09, "epoch": 2.971636845593108, "percentage": 99.05, "elapsed_time": "2 days, 12:38:07", "remaining_time": "0:34:43", "throughput": 201.16, "total_tokens": 43910544} +{"current_steps": 22422, "total_steps": 22635, "loss": 0.0001, "lr": 1.0933523209263885e-09, "epoch": 2.971769383697813, "percentage": 99.06, "elapsed_time": "2 days, 12:38:16", "remaining_time": "0:34:33", "throughput": 201.16, "total_tokens": 43912336} +{"current_steps": 22423, "total_steps": 22635, "loss": 0.0241, "lr": 1.0831109406772567e-09, "epoch": 2.971901921802518, "percentage": 99.06, "elapsed_time": "2 days, 12:38:26", "remaining_time": "0:34:23", "throughput": 201.16, "total_tokens": 43914016} +{"current_steps": 22424, "total_steps": 22635, "loss": 0.0001, "lr": 1.0729177412696634e-09, "epoch": 2.9720344599072233, "percentage": 99.07, "elapsed_time": "2 days, 12:38:36", "remaining_time": "0:34:14", "throughput": 201.16, "total_tokens": 43917192} +{"current_steps": 22425, "total_steps": 22635, "loss": 0.108, "lr": 1.0627727229003959e-09, "epoch": 2.9721669980119283, "percentage": 99.07, "elapsed_time": "2 days, 12:38:47", "remaining_time": "0:34:04", "throughput": 201.17, "total_tokens": 43919968} +{"current_steps": 22426, "total_steps": 22635, "loss": 0.111, "lr": 1.0526758857645758e-09, "epoch": 2.9722995361166333, "percentage": 99.08, "elapsed_time": "2 days, 12:38:57", "remaining_time": "0:33:54", "throughput": 201.17, "total_tokens": 43922920} +{"current_steps": 22427, "total_steps": 22635, "loss": 0.0991, "lr": 1.0426272300570471e-09, "epoch": 2.972432074221339, "percentage": 99.08, "elapsed_time": "2 days, 12:39:07", "remaining_time": "0:33:45", "throughput": 201.17, "total_tokens": 43924928} +{"current_steps": 22428, "total_steps": 22635, "loss": 0.0647, "lr": 1.0326267559718217e-09, "epoch": 2.972564612326044, "percentage": 99.09, "elapsed_time": "2 days, 12:39:17", "remaining_time": "0:33:35", "throughput": 201.17, "total_tokens": 43927560} +{"current_steps": 22429, "total_steps": 22635, "loss": 0.1327, "lr": 1.0226744637012453e-09, "epoch": 2.972697150430749, "percentage": 99.09, "elapsed_time": "2 days, 12:39:27", "remaining_time": "0:33:25", "throughput": 201.17, "total_tokens": 43929600} +{"current_steps": 22430, "total_steps": 22635, "loss": 0.0001, "lr": 1.0127703534376643e-09, "epoch": 2.972829688535454, "percentage": 99.09, "elapsed_time": "2 days, 12:39:37", "remaining_time": "0:33:15", "throughput": 201.17, "total_tokens": 43931776} +{"current_steps": 22431, "total_steps": 22635, "loss": 0.0006, "lr": 1.0029144253717593e-09, "epoch": 2.972962226640159, "percentage": 99.1, "elapsed_time": "2 days, 12:39:47", "remaining_time": "0:33:06", "throughput": 201.17, "total_tokens": 43933528} +{"current_steps": 22432, "total_steps": 22635, "loss": 0.0431, "lr": 9.931066796936561e-10, "epoch": 2.973094764744864, "percentage": 99.1, "elapsed_time": "2 days, 12:39:56", "remaining_time": "0:32:56", "throughput": 201.17, "total_tokens": 43934928} +{"current_steps": 22433, "total_steps": 22635, "loss": 0.2594, "lr": 9.833471165923702e-10, "epoch": 2.973227302849569, "percentage": 99.11, "elapsed_time": "2 days, 12:40:06", "remaining_time": "0:32:46", "throughput": 201.17, "total_tokens": 43937064} +{"current_steps": 22434, "total_steps": 22635, "loss": 0.0051, "lr": 9.736357362560844e-10, "epoch": 2.9733598409542745, "percentage": 99.11, "elapsed_time": "2 days, 12:40:16", "remaining_time": "0:32:36", "throughput": 201.17, "total_tokens": 43938656} +{"current_steps": 22435, "total_steps": 22635, "loss": 0.0515, "lr": 9.639725388721488e-10, "epoch": 2.9734923790589796, "percentage": 99.12, "elapsed_time": "2 days, 12:40:25", "remaining_time": "0:32:27", "throughput": 201.17, "total_tokens": 43940976} +{"current_steps": 22436, "total_steps": 22635, "loss": 0.1407, "lr": 9.54357524627081e-10, "epoch": 2.9736249171636846, "percentage": 99.12, "elapsed_time": "2 days, 12:40:35", "remaining_time": "0:32:17", "throughput": 201.17, "total_tokens": 43942992} +{"current_steps": 22437, "total_steps": 22635, "loss": 0.1695, "lr": 9.447906937057327e-10, "epoch": 2.9737574552683896, "percentage": 99.13, "elapsed_time": "2 days, 12:40:44", "remaining_time": "0:32:07", "throughput": 201.18, "total_tokens": 43946656} +{"current_steps": 22438, "total_steps": 22635, "loss": 0.0046, "lr": 9.35272046292679e-10, "epoch": 2.9738899933730947, "percentage": 99.13, "elapsed_time": "2 days, 12:40:53", "remaining_time": "0:31:57", "throughput": 201.18, "total_tokens": 43948272} +{"current_steps": 22439, "total_steps": 22635, "loss": 0.0, "lr": 9.258015825719391e-10, "epoch": 2.9740225314777997, "percentage": 99.13, "elapsed_time": "2 days, 12:41:03", "remaining_time": "0:31:48", "throughput": 201.18, "total_tokens": 43949776} +{"current_steps": 22440, "total_steps": 22635, "loss": 0.0596, "lr": 9.163793027255896e-10, "epoch": 2.9741550695825048, "percentage": 99.14, "elapsed_time": "2 days, 12:41:12", "remaining_time": "0:31:38", "throughput": 201.18, "total_tokens": 43951544} +{"current_steps": 22441, "total_steps": 22635, "loss": 0.0613, "lr": 9.070052069354296e-10, "epoch": 2.9742876076872102, "percentage": 99.14, "elapsed_time": "2 days, 12:41:22", "remaining_time": "0:31:28", "throughput": 201.18, "total_tokens": 43953264} +{"current_steps": 22442, "total_steps": 22635, "loss": 0.0003, "lr": 8.976792953824254e-10, "epoch": 2.9744201457919153, "percentage": 99.15, "elapsed_time": "2 days, 12:41:31", "remaining_time": "0:31:19", "throughput": 201.17, "total_tokens": 43954656} +{"current_steps": 22443, "total_steps": 22635, "loss": 0.1559, "lr": 8.884015682461555e-10, "epoch": 2.9745526838966203, "percentage": 99.15, "elapsed_time": "2 days, 12:41:40", "remaining_time": "0:31:09", "throughput": 201.18, "total_tokens": 43957136} +{"current_steps": 22444, "total_steps": 22635, "loss": 0.0074, "lr": 8.79172025705366e-10, "epoch": 2.9746852220013253, "percentage": 99.16, "elapsed_time": "2 days, 12:41:50", "remaining_time": "0:30:59", "throughput": 201.17, "total_tokens": 43958768} +{"current_steps": 22445, "total_steps": 22635, "loss": 0.0635, "lr": 8.699906679382475e-10, "epoch": 2.9748177601060304, "percentage": 99.16, "elapsed_time": "2 days, 12:41:59", "remaining_time": "0:30:49", "throughput": 201.17, "total_tokens": 43960568} +{"current_steps": 22446, "total_steps": 22635, "loss": 0.002, "lr": 8.608574951218807e-10, "epoch": 2.9749502982107354, "percentage": 99.17, "elapsed_time": "2 days, 12:42:09", "remaining_time": "0:30:40", "throughput": 201.18, "total_tokens": 43963160} +{"current_steps": 22447, "total_steps": 22635, "loss": 0.2347, "lr": 8.517725074322358e-10, "epoch": 2.9750828363154405, "percentage": 99.17, "elapsed_time": "2 days, 12:42:18", "remaining_time": "0:30:30", "throughput": 201.18, "total_tokens": 43964840} +{"current_steps": 22448, "total_steps": 22635, "loss": 0.0, "lr": 8.427357050444506e-10, "epoch": 2.975215374420146, "percentage": 99.17, "elapsed_time": "2 days, 12:42:27", "remaining_time": "0:30:20", "throughput": 201.17, "total_tokens": 43966160} +{"current_steps": 22449, "total_steps": 22635, "loss": 0.0012, "lr": 8.337470881328302e-10, "epoch": 2.975347912524851, "percentage": 99.18, "elapsed_time": "2 days, 12:42:37", "remaining_time": "0:30:10", "throughput": 201.17, "total_tokens": 43967760} +{"current_steps": 22450, "total_steps": 22635, "loss": 0.2888, "lr": 8.248066568708469e-10, "epoch": 2.975480450629556, "percentage": 99.18, "elapsed_time": "2 days, 12:42:46", "remaining_time": "0:30:01", "throughput": 201.17, "total_tokens": 43969400} +{"current_steps": 22451, "total_steps": 22635, "loss": 0.019, "lr": 8.159144114303075e-10, "epoch": 2.975612988734261, "percentage": 99.19, "elapsed_time": "2 days, 12:42:56", "remaining_time": "0:29:51", "throughput": 201.17, "total_tokens": 43972136} +{"current_steps": 22452, "total_steps": 22635, "loss": 0.0001, "lr": 8.070703519832967e-10, "epoch": 2.975745526838966, "percentage": 99.19, "elapsed_time": "2 days, 12:43:05", "remaining_time": "0:29:41", "throughput": 201.17, "total_tokens": 43973480} +{"current_steps": 22453, "total_steps": 22635, "loss": 0.0436, "lr": 7.982744786999563e-10, "epoch": 2.9758780649436716, "percentage": 99.2, "elapsed_time": "2 days, 12:43:15", "remaining_time": "0:29:31", "throughput": 201.17, "total_tokens": 43975848} +{"current_steps": 22454, "total_steps": 22635, "loss": 0.0334, "lr": 7.895267917501503e-10, "epoch": 2.976010603048376, "percentage": 99.2, "elapsed_time": "2 days, 12:43:25", "remaining_time": "0:29:22", "throughput": 201.17, "total_tokens": 43977696} +{"current_steps": 22455, "total_steps": 22635, "loss": 0.0158, "lr": 7.808272913020776e-10, "epoch": 2.9761431411530817, "percentage": 99.2, "elapsed_time": "2 days, 12:43:34", "remaining_time": "0:29:12", "throughput": 201.17, "total_tokens": 43979456} +{"current_steps": 22456, "total_steps": 22635, "loss": 0.0003, "lr": 7.721759775239368e-10, "epoch": 2.9762756792577867, "percentage": 99.21, "elapsed_time": "2 days, 12:43:44", "remaining_time": "0:29:02", "throughput": 201.18, "total_tokens": 43982024} +{"current_steps": 22457, "total_steps": 22635, "loss": 0.0, "lr": 7.63572850582539e-10, "epoch": 2.9764082173624917, "percentage": 99.21, "elapsed_time": "2 days, 12:43:54", "remaining_time": "0:28:52", "throughput": 201.17, "total_tokens": 43983552} +{"current_steps": 22458, "total_steps": 22635, "loss": 0.0001, "lr": 7.550179106433075e-10, "epoch": 2.9765407554671968, "percentage": 99.22, "elapsed_time": "2 days, 12:44:02", "remaining_time": "0:28:43", "throughput": 201.17, "total_tokens": 43985136} +{"current_steps": 22459, "total_steps": 22635, "loss": 0.0429, "lr": 7.465111578716655e-10, "epoch": 2.976673293571902, "percentage": 99.22, "elapsed_time": "2 days, 12:44:12", "remaining_time": "0:28:33", "throughput": 201.18, "total_tokens": 43987672} +{"current_steps": 22460, "total_steps": 22635, "loss": 0.0062, "lr": 7.380525924313709e-10, "epoch": 2.9768058316766073, "percentage": 99.23, "elapsed_time": "2 days, 12:44:22", "remaining_time": "0:28:23", "throughput": 201.18, "total_tokens": 43990008} +{"current_steps": 22461, "total_steps": 22635, "loss": 0.1086, "lr": 7.296422144856263e-10, "epoch": 2.976938369781312, "percentage": 99.23, "elapsed_time": "2 days, 12:44:31", "remaining_time": "0:28:13", "throughput": 201.18, "total_tokens": 43992056} +{"current_steps": 22462, "total_steps": 22635, "loss": 0.0002, "lr": 7.212800241965245e-10, "epoch": 2.9770709078860174, "percentage": 99.24, "elapsed_time": "2 days, 12:44:41", "remaining_time": "0:28:04", "throughput": 201.18, "total_tokens": 43993640} +{"current_steps": 22463, "total_steps": 22635, "loss": 0.0018, "lr": 7.129660217253254e-10, "epoch": 2.9772034459907224, "percentage": 99.24, "elapsed_time": "2 days, 12:44:50", "remaining_time": "0:27:54", "throughput": 201.18, "total_tokens": 43996384} +{"current_steps": 22464, "total_steps": 22635, "loss": 0.0773, "lr": 7.047002072321785e-10, "epoch": 2.9773359840954274, "percentage": 99.24, "elapsed_time": "2 days, 12:45:00", "remaining_time": "0:27:44", "throughput": 201.19, "total_tokens": 43999336} +{"current_steps": 22465, "total_steps": 22635, "loss": 0.0002, "lr": 6.964825808766785e-10, "epoch": 2.9774685222001325, "percentage": 99.25, "elapsed_time": "2 days, 12:45:10", "remaining_time": "0:27:35", "throughput": 201.19, "total_tokens": 44001816} +{"current_steps": 22466, "total_steps": 22635, "loss": 0.0013, "lr": 6.883131428173095e-10, "epoch": 2.9776010603048375, "percentage": 99.25, "elapsed_time": "2 days, 12:45:18", "remaining_time": "0:27:25", "throughput": 201.19, "total_tokens": 44003464} +{"current_steps": 22467, "total_steps": 22635, "loss": 0.0, "lr": 6.801918932111684e-10, "epoch": 2.977733598409543, "percentage": 99.26, "elapsed_time": "2 days, 12:45:29", "remaining_time": "0:27:15", "throughput": 201.19, "total_tokens": 44005768} +{"current_steps": 22468, "total_steps": 22635, "loss": 0.0, "lr": 6.721188322153516e-10, "epoch": 2.9778661365142476, "percentage": 99.26, "elapsed_time": "2 days, 12:45:38", "remaining_time": "0:27:05", "throughput": 201.19, "total_tokens": 44007080} +{"current_steps": 22469, "total_steps": 22635, "loss": 0.248, "lr": 6.640939599852902e-10, "epoch": 2.977998674618953, "percentage": 99.27, "elapsed_time": "2 days, 12:45:47", "remaining_time": "0:26:56", "throughput": 201.19, "total_tokens": 44009144} +{"current_steps": 22470, "total_steps": 22635, "loss": 0.0, "lr": 6.56117276675583e-10, "epoch": 2.978131212723658, "percentage": 99.27, "elapsed_time": "2 days, 12:45:57", "remaining_time": "0:26:46", "throughput": 201.18, "total_tokens": 44010720} +{"current_steps": 22471, "total_steps": 22635, "loss": 0.0003, "lr": 6.481887824399957e-10, "epoch": 2.978263750828363, "percentage": 99.28, "elapsed_time": "2 days, 12:46:06", "remaining_time": "0:26:36", "throughput": 201.19, "total_tokens": 44012648} +{"current_steps": 22472, "total_steps": 22635, "loss": 0.0262, "lr": 6.403084774317392e-10, "epoch": 2.978396288933068, "percentage": 99.28, "elapsed_time": "2 days, 12:46:17", "remaining_time": "0:26:26", "throughput": 201.18, "total_tokens": 44014176} +{"current_steps": 22473, "total_steps": 22635, "loss": 0.0834, "lr": 6.324763618026363e-10, "epoch": 2.978528827037773, "percentage": 99.28, "elapsed_time": "2 days, 12:46:26", "remaining_time": "0:26:17", "throughput": 201.18, "total_tokens": 44015704} +{"current_steps": 22474, "total_steps": 22635, "loss": 0.0, "lr": 6.246924357034001e-10, "epoch": 2.9786613651424787, "percentage": 99.29, "elapsed_time": "2 days, 12:46:36", "remaining_time": "0:26:07", "throughput": 201.18, "total_tokens": 44017280} +{"current_steps": 22475, "total_steps": 22635, "loss": 0.0005, "lr": 6.169566992844656e-10, "epoch": 2.9787939032471833, "percentage": 99.29, "elapsed_time": "2 days, 12:46:46", "remaining_time": "0:25:57", "throughput": 201.18, "total_tokens": 44019264} +{"current_steps": 22476, "total_steps": 22635, "loss": 0.0006, "lr": 6.092691526948801e-10, "epoch": 2.9789264413518888, "percentage": 99.3, "elapsed_time": "2 days, 12:46:55", "remaining_time": "0:25:47", "throughput": 201.18, "total_tokens": 44021336} +{"current_steps": 22477, "total_steps": 22635, "loss": 0.0004, "lr": 6.016297960828588e-10, "epoch": 2.979058979456594, "percentage": 99.3, "elapsed_time": "2 days, 12:47:06", "remaining_time": "0:25:38", "throughput": 201.18, "total_tokens": 44023696} +{"current_steps": 22478, "total_steps": 22635, "loss": 0.004, "lr": 5.940386295955058e-10, "epoch": 2.979191517561299, "percentage": 99.31, "elapsed_time": "2 days, 12:47:16", "remaining_time": "0:25:28", "throughput": 201.18, "total_tokens": 44025456} +{"current_steps": 22479, "total_steps": 22635, "loss": 0.0158, "lr": 5.864956533793709e-10, "epoch": 2.979324055666004, "percentage": 99.31, "elapsed_time": "2 days, 12:47:25", "remaining_time": "0:25:18", "throughput": 201.18, "total_tokens": 44027192} +{"current_steps": 22480, "total_steps": 22635, "loss": 0.0358, "lr": 5.790008675798931e-10, "epoch": 2.979456593770709, "percentage": 99.32, "elapsed_time": "2 days, 12:47:35", "remaining_time": "0:25:09", "throughput": 201.18, "total_tokens": 44029272} +{"current_steps": 22481, "total_steps": 22635, "loss": 0.0005, "lr": 5.715542723414014e-10, "epoch": 2.9795891318754144, "percentage": 99.32, "elapsed_time": "2 days, 12:47:45", "remaining_time": "0:24:59", "throughput": 201.18, "total_tokens": 44030920} +{"current_steps": 22482, "total_steps": 22635, "loss": 0.0778, "lr": 5.641558678079473e-10, "epoch": 2.9797216699801194, "percentage": 99.32, "elapsed_time": "2 days, 12:47:54", "remaining_time": "0:24:49", "throughput": 201.18, "total_tokens": 44033720} +{"current_steps": 22483, "total_steps": 22635, "loss": 0.0, "lr": 5.568056541213618e-10, "epoch": 2.9798542080848245, "percentage": 99.33, "elapsed_time": "2 days, 12:48:04", "remaining_time": "0:24:39", "throughput": 201.18, "total_tokens": 44035200} +{"current_steps": 22484, "total_steps": 22635, "loss": 0.0007, "lr": 5.495036314243085e-10, "epoch": 2.9799867461895295, "percentage": 99.33, "elapsed_time": "2 days, 12:48:13", "remaining_time": "0:24:30", "throughput": 201.18, "total_tokens": 44037048} +{"current_steps": 22485, "total_steps": 22635, "loss": 0.0062, "lr": 5.422497998569532e-10, "epoch": 2.9801192842942346, "percentage": 99.34, "elapsed_time": "2 days, 12:48:24", "remaining_time": "0:24:20", "throughput": 201.18, "total_tokens": 44038696} +{"current_steps": 22486, "total_steps": 22635, "loss": 0.0001, "lr": 5.350441595591837e-10, "epoch": 2.9802518223989396, "percentage": 99.34, "elapsed_time": "2 days, 12:48:33", "remaining_time": "0:24:10", "throughput": 201.18, "total_tokens": 44040680} +{"current_steps": 22487, "total_steps": 22635, "loss": 0.0, "lr": 5.278867106700558e-10, "epoch": 2.9803843605036446, "percentage": 99.35, "elapsed_time": "2 days, 12:48:42", "remaining_time": "0:24:00", "throughput": 201.18, "total_tokens": 44042072} +{"current_steps": 22488, "total_steps": 22635, "loss": 0.0019, "lr": 5.20777453327792e-10, "epoch": 2.98051689860835, "percentage": 99.35, "elapsed_time": "2 days, 12:48:52", "remaining_time": "0:23:51", "throughput": 201.18, "total_tokens": 44043920} +{"current_steps": 22489, "total_steps": 22635, "loss": 0.3176, "lr": 5.137163876689499e-10, "epoch": 2.980649436713055, "percentage": 99.35, "elapsed_time": "2 days, 12:49:02", "remaining_time": "0:23:41", "throughput": 201.18, "total_tokens": 44045968} +{"current_steps": 22490, "total_steps": 22635, "loss": 0.0064, "lr": 5.067035138300869e-10, "epoch": 2.98078197481776, "percentage": 99.36, "elapsed_time": "2 days, 12:49:12", "remaining_time": "0:23:31", "throughput": 201.18, "total_tokens": 44048048} +{"current_steps": 22491, "total_steps": 22635, "loss": 0.0015, "lr": 4.997388319463726e-10, "epoch": 2.9809145129224652, "percentage": 99.36, "elapsed_time": "2 days, 12:49:22", "remaining_time": "0:23:21", "throughput": 201.18, "total_tokens": 44049928} +{"current_steps": 22492, "total_steps": 22635, "loss": 0.0001, "lr": 4.928223421518663e-10, "epoch": 2.9810470510271703, "percentage": 99.37, "elapsed_time": "2 days, 12:49:32", "remaining_time": "0:23:12", "throughput": 201.17, "total_tokens": 44051712} +{"current_steps": 22493, "total_steps": 22635, "loss": 0.0228, "lr": 4.859540445803501e-10, "epoch": 2.9811795891318753, "percentage": 99.37, "elapsed_time": "2 days, 12:49:42", "remaining_time": "0:23:02", "throughput": 201.18, "total_tokens": 44054040} +{"current_steps": 22494, "total_steps": 22635, "loss": 0.0003, "lr": 4.791339393636629e-10, "epoch": 2.9813121272365803, "percentage": 99.38, "elapsed_time": "2 days, 12:49:53", "remaining_time": "0:22:52", "throughput": 201.18, "total_tokens": 44056880} +{"current_steps": 22495, "total_steps": 22635, "loss": 0.0001, "lr": 4.723620266336437e-10, "epoch": 2.981444665341286, "percentage": 99.38, "elapsed_time": "2 days, 12:50:03", "remaining_time": "0:22:42", "throughput": 201.18, "total_tokens": 44058200} +{"current_steps": 22496, "total_steps": 22635, "loss": 0.102, "lr": 4.6563830652102127e-10, "epoch": 2.981577203445991, "percentage": 99.39, "elapsed_time": "2 days, 12:50:13", "remaining_time": "0:22:33", "throughput": 201.18, "total_tokens": 44060352} +{"current_steps": 22497, "total_steps": 22635, "loss": 0.0, "lr": 4.5896277915513655e-10, "epoch": 2.981709741550696, "percentage": 99.39, "elapsed_time": "2 days, 12:50:23", "remaining_time": "0:22:23", "throughput": 201.17, "total_tokens": 44061784} +{"current_steps": 22498, "total_steps": 22635, "loss": 0.0207, "lr": 4.5233544466449786e-10, "epoch": 2.981842279655401, "percentage": 99.39, "elapsed_time": "2 days, 12:50:33", "remaining_time": "0:22:13", "throughput": 201.17, "total_tokens": 44064000} +{"current_steps": 22499, "total_steps": 22635, "loss": 0.0189, "lr": 4.457563031776135e-10, "epoch": 2.981974817760106, "percentage": 99.4, "elapsed_time": "2 days, 12:50:43", "remaining_time": "0:22:04", "throughput": 201.17, "total_tokens": 44066064} +{"current_steps": 22500, "total_steps": 22635, "loss": 0.0, "lr": 4.3922535482077145e-10, "epoch": 2.982107355864811, "percentage": 99.4, "elapsed_time": "2 days, 12:50:52", "remaining_time": "0:21:54", "throughput": 201.17, "total_tokens": 44067472} +{"current_steps": 22501, "total_steps": 22635, "loss": 0.0003, "lr": 4.327425997199819e-10, "epoch": 2.982239893969516, "percentage": 99.41, "elapsed_time": "2 days, 12:51:02", "remaining_time": "0:21:44", "throughput": 201.17, "total_tokens": 44069032} +{"current_steps": 22502, "total_steps": 22635, "loss": 0.0209, "lr": 4.26308038000145e-10, "epoch": 2.9823724320742215, "percentage": 99.41, "elapsed_time": "2 days, 12:51:12", "remaining_time": "0:21:34", "throughput": 201.17, "total_tokens": 44070760} +{"current_steps": 22503, "total_steps": 22635, "loss": 0.0001, "lr": 4.1992166978560567e-10, "epoch": 2.9825049701789266, "percentage": 99.42, "elapsed_time": "2 days, 12:51:22", "remaining_time": "0:21:25", "throughput": 201.17, "total_tokens": 44072320} +{"current_steps": 22504, "total_steps": 22635, "loss": 0.0084, "lr": 4.1358349519932115e-10, "epoch": 2.9826375082836316, "percentage": 99.42, "elapsed_time": "2 days, 12:51:31", "remaining_time": "0:21:15", "throughput": 201.17, "total_tokens": 44074304} +{"current_steps": 22505, "total_steps": 22635, "loss": 0.0361, "lr": 4.072935143636936e-10, "epoch": 2.9827700463883366, "percentage": 99.43, "elapsed_time": "2 days, 12:51:41", "remaining_time": "0:21:05", "throughput": 201.17, "total_tokens": 44075760} +{"current_steps": 22506, "total_steps": 22635, "loss": 0.0002, "lr": 4.0105172739945963e-10, "epoch": 2.9829025844930417, "percentage": 99.43, "elapsed_time": "2 days, 12:51:50", "remaining_time": "0:20:55", "throughput": 201.16, "total_tokens": 44077208} +{"current_steps": 22507, "total_steps": 22635, "loss": 0.06, "lr": 3.9485813442763365e-10, "epoch": 2.9830351225977467, "percentage": 99.43, "elapsed_time": "2 days, 12:52:00", "remaining_time": "0:20:46", "throughput": 201.16, "total_tokens": 44078920} +{"current_steps": 22508, "total_steps": 22635, "loss": 0.0085, "lr": 3.8871273556728706e-10, "epoch": 2.9831676607024518, "percentage": 99.44, "elapsed_time": "2 days, 12:52:09", "remaining_time": "0:20:36", "throughput": 201.16, "total_tokens": 44080912} +{"current_steps": 22509, "total_steps": 22635, "loss": 0.0001, "lr": 3.8261553093693617e-10, "epoch": 2.9833001988071572, "percentage": 99.44, "elapsed_time": "2 days, 12:52:18", "remaining_time": "0:20:26", "throughput": 201.16, "total_tokens": 44082384} +{"current_steps": 22510, "total_steps": 22635, "loss": 0.0249, "lr": 3.76566520653987e-10, "epoch": 2.9834327369118623, "percentage": 99.45, "elapsed_time": "2 days, 12:52:28", "remaining_time": "0:20:16", "throughput": 201.16, "total_tokens": 44085016} +{"current_steps": 22511, "total_steps": 22635, "loss": 0.0412, "lr": 3.705657048355682e-10, "epoch": 2.9835652750165673, "percentage": 99.45, "elapsed_time": "2 days, 12:52:37", "remaining_time": "0:20:07", "throughput": 201.17, "total_tokens": 44086904} +{"current_steps": 22512, "total_steps": 22635, "loss": 0.0919, "lr": 3.646130835968653e-10, "epoch": 2.9836978131212724, "percentage": 99.46, "elapsed_time": "2 days, 12:52:48", "remaining_time": "0:19:57", "throughput": 201.17, "total_tokens": 44089464} +{"current_steps": 22513, "total_steps": 22635, "loss": 0.1375, "lr": 3.5870865705278647e-10, "epoch": 2.9838303512259774, "percentage": 99.46, "elapsed_time": "2 days, 12:52:58", "remaining_time": "0:19:47", "throughput": 201.17, "total_tokens": 44093072} +{"current_steps": 22514, "total_steps": 22635, "loss": 0.2204, "lr": 3.528524253171295e-10, "epoch": 2.9839628893306824, "percentage": 99.47, "elapsed_time": "2 days, 12:53:08", "remaining_time": "0:19:38", "throughput": 201.17, "total_tokens": 44095064} +{"current_steps": 22515, "total_steps": 22635, "loss": 0.0002, "lr": 3.4704438850313715e-10, "epoch": 2.9840954274353875, "percentage": 99.47, "elapsed_time": "2 days, 12:53:18", "remaining_time": "0:19:28", "throughput": 201.17, "total_tokens": 44096400} +{"current_steps": 22516, "total_steps": 22635, "loss": 0.0713, "lr": 3.4128454672238687e-10, "epoch": 2.984227965540093, "percentage": 99.47, "elapsed_time": "2 days, 12:53:27", "remaining_time": "0:19:18", "throughput": 201.17, "total_tokens": 44098248} +{"current_steps": 22517, "total_steps": 22635, "loss": 0.0082, "lr": 3.3557290008617847e-10, "epoch": 2.984360503644798, "percentage": 99.48, "elapsed_time": "2 days, 12:53:37", "remaining_time": "0:19:08", "throughput": 201.17, "total_tokens": 44100040} +{"current_steps": 22518, "total_steps": 22635, "loss": 0.0015, "lr": 3.299094487044241e-10, "epoch": 2.984493041749503, "percentage": 99.48, "elapsed_time": "2 days, 12:53:46", "remaining_time": "0:18:59", "throughput": 201.17, "total_tokens": 44101360} +{"current_steps": 22519, "total_steps": 22635, "loss": 0.0451, "lr": 3.2429419268648067e-10, "epoch": 2.984625579854208, "percentage": 99.49, "elapsed_time": "2 days, 12:53:55", "remaining_time": "0:18:49", "throughput": 201.17, "total_tokens": 44103216} +{"current_steps": 22520, "total_steps": 22635, "loss": 0.2993, "lr": 3.187271321405949e-10, "epoch": 2.984758117958913, "percentage": 99.49, "elapsed_time": "2 days, 12:54:05", "remaining_time": "0:18:39", "throughput": 201.17, "total_tokens": 44104920} +{"current_steps": 22521, "total_steps": 22635, "loss": 0.0263, "lr": 3.1320826717418093e-10, "epoch": 2.984890656063618, "percentage": 99.5, "elapsed_time": "2 days, 12:54:15", "remaining_time": "0:18:29", "throughput": 201.17, "total_tokens": 44107680} +{"current_steps": 22522, "total_steps": 22635, "loss": 0.0732, "lr": 3.077375978935426e-10, "epoch": 2.985023194168323, "percentage": 99.5, "elapsed_time": "2 days, 12:54:24", "remaining_time": "0:18:20", "throughput": 201.17, "total_tokens": 44109800} +{"current_steps": 22523, "total_steps": 22635, "loss": 0.0123, "lr": 3.0231512440415114e-10, "epoch": 2.9851557322730287, "percentage": 99.51, "elapsed_time": "2 days, 12:54:35", "remaining_time": "0:18:10", "throughput": 201.17, "total_tokens": 44111960} +{"current_steps": 22524, "total_steps": 22635, "loss": 0.0527, "lr": 2.9694084681064496e-10, "epoch": 2.9852882703777337, "percentage": 99.51, "elapsed_time": "2 days, 12:54:43", "remaining_time": "0:18:00", "throughput": 201.17, "total_tokens": 44113680} +{"current_steps": 22525, "total_steps": 22635, "loss": 0.0001, "lr": 2.916147652165524e-10, "epoch": 2.9854208084824387, "percentage": 99.51, "elapsed_time": "2 days, 12:54:53", "remaining_time": "0:17:50", "throughput": 201.17, "total_tokens": 44115888} +{"current_steps": 22526, "total_steps": 22635, "loss": 0.0, "lr": 2.8633687972456915e-10, "epoch": 2.9855533465871438, "percentage": 99.52, "elapsed_time": "2 days, 12:55:02", "remaining_time": "0:17:41", "throughput": 201.17, "total_tokens": 44117384} +{"current_steps": 22527, "total_steps": 22635, "loss": 0.0321, "lr": 2.8110719043628056e-10, "epoch": 2.985685884691849, "percentage": 99.52, "elapsed_time": "2 days, 12:55:11", "remaining_time": "0:17:31", "throughput": 201.17, "total_tokens": 44118960} +{"current_steps": 22528, "total_steps": 22635, "loss": 0.1726, "lr": 2.759256974529945e-10, "epoch": 2.985818422796554, "percentage": 99.53, "elapsed_time": "2 days, 12:55:20", "remaining_time": "0:17:21", "throughput": 201.17, "total_tokens": 44120472} +{"current_steps": 22529, "total_steps": 22635, "loss": 0.0026, "lr": 2.707924008740759e-10, "epoch": 2.985950960901259, "percentage": 99.53, "elapsed_time": "2 days, 12:55:29", "remaining_time": "0:17:11", "throughput": 201.17, "total_tokens": 44122768} +{"current_steps": 22530, "total_steps": 22635, "loss": 0.0018, "lr": 2.657073007988897e-10, "epoch": 2.9860834990059644, "percentage": 99.54, "elapsed_time": "2 days, 12:55:39", "remaining_time": "0:17:02", "throughput": 201.17, "total_tokens": 44124360} +{"current_steps": 22531, "total_steps": 22635, "loss": 0.1835, "lr": 2.606703973254132e-10, "epoch": 2.9862160371106694, "percentage": 99.54, "elapsed_time": "2 days, 12:55:48", "remaining_time": "0:16:52", "throughput": 201.17, "total_tokens": 44126384} +{"current_steps": 22532, "total_steps": 22635, "loss": 0.0, "lr": 2.5568169055079085e-10, "epoch": 2.9863485752153744, "percentage": 99.54, "elapsed_time": "2 days, 12:55:57", "remaining_time": "0:16:42", "throughput": 201.17, "total_tokens": 44127824} +{"current_steps": 22533, "total_steps": 22635, "loss": 0.2299, "lr": 2.507411805707793e-10, "epoch": 2.9864811133200795, "percentage": 99.55, "elapsed_time": "2 days, 12:56:07", "remaining_time": "0:16:33", "throughput": 201.17, "total_tokens": 44129832} +{"current_steps": 22534, "total_steps": 22635, "loss": 0.0087, "lr": 2.458488674811355e-10, "epoch": 2.9866136514247845, "percentage": 99.55, "elapsed_time": "2 days, 12:56:16", "remaining_time": "0:16:23", "throughput": 201.17, "total_tokens": 44132280} +{"current_steps": 22535, "total_steps": 22635, "loss": 0.0028, "lr": 2.4100475137622816e-10, "epoch": 2.98674618952949, "percentage": 99.56, "elapsed_time": "2 days, 12:56:26", "remaining_time": "0:16:13", "throughput": 201.17, "total_tokens": 44134200} +{"current_steps": 22536, "total_steps": 22635, "loss": 0.0003, "lr": 2.362088323490386e-10, "epoch": 2.9868787276341946, "percentage": 99.56, "elapsed_time": "2 days, 12:56:35", "remaining_time": "0:16:03", "throughput": 201.17, "total_tokens": 44136240} +{"current_steps": 22537, "total_steps": 22635, "loss": 0.0072, "lr": 2.3146111049199281e-10, "epoch": 2.9870112657389, "percentage": 99.57, "elapsed_time": "2 days, 12:56:45", "remaining_time": "0:15:54", "throughput": 201.17, "total_tokens": 44137928} +{"current_steps": 22538, "total_steps": 22635, "loss": 0.0001, "lr": 2.267615858972394e-10, "epoch": 2.987143803843605, "percentage": 99.57, "elapsed_time": "2 days, 12:56:53", "remaining_time": "0:15:44", "throughput": 201.17, "total_tokens": 44139584} +{"current_steps": 22539, "total_steps": 22635, "loss": 0.0001, "lr": 2.2211025865498392e-10, "epoch": 2.98727634194831, "percentage": 99.58, "elapsed_time": "2 days, 12:57:03", "remaining_time": "0:15:34", "throughput": 201.17, "total_tokens": 44141152} +{"current_steps": 22540, "total_steps": 22635, "loss": 0.0, "lr": 2.175071288548769e-10, "epoch": 2.987408880053015, "percentage": 99.58, "elapsed_time": "2 days, 12:57:13", "remaining_time": "0:15:24", "throughput": 201.17, "total_tokens": 44143464} +{"current_steps": 22541, "total_steps": 22635, "loss": 0.0159, "lr": 2.1295219658573618e-10, "epoch": 2.9875414181577202, "percentage": 99.58, "elapsed_time": "2 days, 12:57:21", "remaining_time": "0:15:15", "throughput": 201.17, "total_tokens": 44145512} +{"current_steps": 22542, "total_steps": 22635, "loss": 0.0038, "lr": 2.084454619352694e-10, "epoch": 2.9876739562624257, "percentage": 99.59, "elapsed_time": "2 days, 12:57:31", "remaining_time": "0:15:05", "throughput": 201.17, "total_tokens": 44147056} +{"current_steps": 22543, "total_steps": 22635, "loss": 0.0016, "lr": 2.03986924990629e-10, "epoch": 2.9878064943671303, "percentage": 99.59, "elapsed_time": "2 days, 12:57:41", "remaining_time": "0:14:55", "throughput": 201.17, "total_tokens": 44149904} +{"current_steps": 22544, "total_steps": 22635, "loss": 0.029, "lr": 1.9957658583785733e-10, "epoch": 2.987939032471836, "percentage": 99.6, "elapsed_time": "2 days, 12:57:51", "remaining_time": "0:14:45", "throughput": 201.18, "total_tokens": 44152776} +{"current_steps": 22545, "total_steps": 22635, "loss": 0.1973, "lr": 1.9521444456133133e-10, "epoch": 2.988071570576541, "percentage": 99.6, "elapsed_time": "2 days, 12:58:01", "remaining_time": "0:14:36", "throughput": 201.18, "total_tokens": 44155600} +{"current_steps": 22546, "total_steps": 22635, "loss": 0.0165, "lr": 1.9090050124598302e-10, "epoch": 2.988204108681246, "percentage": 99.61, "elapsed_time": "2 days, 12:58:11", "remaining_time": "0:14:26", "throughput": 201.18, "total_tokens": 44157136} +{"current_steps": 22547, "total_steps": 22635, "loss": 0.0885, "lr": 1.8663475597424652e-10, "epoch": 2.988336646785951, "percentage": 99.61, "elapsed_time": "2 days, 12:58:20", "remaining_time": "0:14:16", "throughput": 201.18, "total_tokens": 44158640} +{"current_steps": 22548, "total_steps": 22635, "loss": 0.0012, "lr": 1.8241720882911096e-10, "epoch": 2.988469184890656, "percentage": 99.62, "elapsed_time": "2 days, 12:58:30", "remaining_time": "0:14:06", "throughput": 201.18, "total_tokens": 44160152} +{"current_steps": 22549, "total_steps": 22635, "loss": 0.1119, "lr": 1.7824785989134508e-10, "epoch": 2.9886017229953614, "percentage": 99.62, "elapsed_time": "2 days, 12:58:39", "remaining_time": "0:13:57", "throughput": 201.18, "total_tokens": 44162104} +{"current_steps": 22550, "total_steps": 22635, "loss": 0.0001, "lr": 1.7412670924144004e-10, "epoch": 2.988734261100066, "percentage": 99.62, "elapsed_time": "2 days, 12:58:49", "remaining_time": "0:13:47", "throughput": 201.18, "total_tokens": 44164312} +{"current_steps": 22551, "total_steps": 22635, "loss": 0.0004, "lr": 1.700537569587768e-10, "epoch": 2.9888667992047715, "percentage": 99.63, "elapsed_time": "2 days, 12:59:00", "remaining_time": "0:13:37", "throughput": 201.18, "total_tokens": 44166440} +{"current_steps": 22552, "total_steps": 22635, "loss": 0.0027, "lr": 1.660290031221812e-10, "epoch": 2.9889993373094765, "percentage": 99.63, "elapsed_time": "2 days, 12:59:09", "remaining_time": "0:13:28", "throughput": 201.18, "total_tokens": 44167944} +{"current_steps": 22553, "total_steps": 22635, "loss": 0.0138, "lr": 1.6205244780909123e-10, "epoch": 2.9891318754141816, "percentage": 99.64, "elapsed_time": "2 days, 12:59:19", "remaining_time": "0:13:18", "throughput": 201.18, "total_tokens": 44170032} +{"current_steps": 22554, "total_steps": 22635, "loss": 0.1212, "lr": 1.5812409109638994e-10, "epoch": 2.9892644135188866, "percentage": 99.64, "elapsed_time": "2 days, 12:59:29", "remaining_time": "0:13:08", "throughput": 201.17, "total_tokens": 44171528} +{"current_steps": 22555, "total_steps": 22635, "loss": 0.0301, "lr": 1.5424393305929486e-10, "epoch": 2.9893969516235916, "percentage": 99.65, "elapsed_time": "2 days, 12:59:38", "remaining_time": "0:12:58", "throughput": 201.17, "total_tokens": 44172624} +{"current_steps": 22556, "total_steps": 22635, "loss": 0.0013, "lr": 1.5041197377302365e-10, "epoch": 2.989529489728297, "percentage": 99.65, "elapsed_time": "2 days, 12:59:48", "remaining_time": "0:12:49", "throughput": 201.17, "total_tokens": 44174992} +{"current_steps": 22557, "total_steps": 22635, "loss": 0.0217, "lr": 1.4662821331140609e-10, "epoch": 2.9896620278330017, "percentage": 99.66, "elapsed_time": "2 days, 12:59:57", "remaining_time": "0:12:39", "throughput": 201.17, "total_tokens": 44176512} +{"current_steps": 22558, "total_steps": 22635, "loss": 0.0, "lr": 1.428926517474394e-10, "epoch": 2.989794565937707, "percentage": 99.66, "elapsed_time": "2 days, 13:00:07", "remaining_time": "0:12:29", "throughput": 201.17, "total_tokens": 44177672} +{"current_steps": 22559, "total_steps": 22635, "loss": 0.0118, "lr": 1.3920528915301047e-10, "epoch": 2.9899271040424122, "percentage": 99.66, "elapsed_time": "2 days, 13:00:17", "remaining_time": "0:12:19", "throughput": 201.17, "total_tokens": 44179824} +{"current_steps": 22560, "total_steps": 22635, "loss": 0.0456, "lr": 1.3556612559917358e-10, "epoch": 2.9900596421471173, "percentage": 99.67, "elapsed_time": "2 days, 13:00:26", "remaining_time": "0:12:10", "throughput": 201.17, "total_tokens": 44182488} +{"current_steps": 22561, "total_steps": 22635, "loss": 0.0196, "lr": 1.3197516115615038e-10, "epoch": 2.9901921802518223, "percentage": 99.67, "elapsed_time": "2 days, 13:00:36", "remaining_time": "0:12:00", "throughput": 201.17, "total_tokens": 44184392} +{"current_steps": 22562, "total_steps": 22635, "loss": 0.2508, "lr": 1.284323958933298e-10, "epoch": 2.9903247183565274, "percentage": 99.68, "elapsed_time": "2 days, 13:00:46", "remaining_time": "0:11:50", "throughput": 201.17, "total_tokens": 44186488} +{"current_steps": 22563, "total_steps": 22635, "loss": 0.0005, "lr": 1.249378298789905e-10, "epoch": 2.990457256461233, "percentage": 99.68, "elapsed_time": "2 days, 13:00:57", "remaining_time": "0:11:40", "throughput": 201.17, "total_tokens": 44188768} +{"current_steps": 22564, "total_steps": 22635, "loss": 0.0001, "lr": 1.2149146318030103e-10, "epoch": 2.9905897945659374, "percentage": 99.69, "elapsed_time": "2 days, 13:01:06", "remaining_time": "0:11:31", "throughput": 201.17, "total_tokens": 44190824} +{"current_steps": 22565, "total_steps": 22635, "loss": 0.0, "lr": 1.1809329586387476e-10, "epoch": 2.990722332670643, "percentage": 99.69, "elapsed_time": "2 days, 13:01:16", "remaining_time": "0:11:21", "throughput": 201.17, "total_tokens": 44192504} +{"current_steps": 22566, "total_steps": 22635, "loss": 0.0001, "lr": 1.1474332799493726e-10, "epoch": 2.990854870775348, "percentage": 99.7, "elapsed_time": "2 days, 13:01:27", "remaining_time": "0:11:11", "throughput": 201.17, "total_tokens": 44195280} +{"current_steps": 22567, "total_steps": 22635, "loss": 0.0052, "lr": 1.1144155963871417e-10, "epoch": 2.990987408880053, "percentage": 99.7, "elapsed_time": "2 days, 13:01:36", "remaining_time": "0:11:02", "throughput": 201.17, "total_tokens": 44197072} +{"current_steps": 22568, "total_steps": 22635, "loss": 0.001, "lr": 1.0818799085821063e-10, "epoch": 2.991119946984758, "percentage": 99.7, "elapsed_time": "2 days, 13:01:46", "remaining_time": "0:10:52", "throughput": 201.17, "total_tokens": 44198536} +{"current_steps": 22569, "total_steps": 22635, "loss": 0.0001, "lr": 1.0498262171670937e-10, "epoch": 2.991252485089463, "percentage": 99.71, "elapsed_time": "2 days, 13:01:56", "remaining_time": "0:10:42", "throughput": 201.17, "total_tokens": 44200768} +{"current_steps": 22570, "total_steps": 22635, "loss": 0.0, "lr": 1.0182545227555018e-10, "epoch": 2.9913850231941685, "percentage": 99.71, "elapsed_time": "2 days, 13:02:05", "remaining_time": "0:10:32", "throughput": 201.17, "total_tokens": 44202896} +{"current_steps": 22571, "total_steps": 22635, "loss": 0.0086, "lr": 9.871648259579536e-11, "epoch": 2.9915175612988736, "percentage": 99.72, "elapsed_time": "2 days, 13:02:15", "remaining_time": "0:10:23", "throughput": 201.17, "total_tokens": 44204488} +{"current_steps": 22572, "total_steps": 22635, "loss": 0.0, "lr": 9.565571273739693e-11, "epoch": 2.9916500994035786, "percentage": 99.72, "elapsed_time": "2 days, 13:02:25", "remaining_time": "0:10:13", "throughput": 201.17, "total_tokens": 44206608} +{"current_steps": 22573, "total_steps": 22635, "loss": 0.0005, "lr": 9.264314275919673e-11, "epoch": 2.9917826375082837, "percentage": 99.73, "elapsed_time": "2 days, 13:02:34", "remaining_time": "0:10:03", "throughput": 201.17, "total_tokens": 44209008} +{"current_steps": 22574, "total_steps": 22635, "loss": 0.0492, "lr": 8.9678772719759e-11, "epoch": 2.9919151756129887, "percentage": 99.73, "elapsed_time": "2 days, 13:02:45", "remaining_time": "0:09:53", "throughput": 201.17, "total_tokens": 44211152} +{"current_steps": 22575, "total_steps": 22635, "loss": 0.0009, "lr": 8.676260267570514e-11, "epoch": 2.9920477137176937, "percentage": 99.73, "elapsed_time": "2 days, 13:02:55", "remaining_time": "0:09:44", "throughput": 201.18, "total_tokens": 44213528} +{"current_steps": 22576, "total_steps": 22635, "loss": 0.0, "lr": 8.389463268337894e-11, "epoch": 2.9921802518223988, "percentage": 99.74, "elapsed_time": "2 days, 13:03:04", "remaining_time": "0:09:34", "throughput": 201.17, "total_tokens": 44215128} +{"current_steps": 22577, "total_steps": 22635, "loss": 0.0002, "lr": 8.107486279829157e-11, "epoch": 2.9923127899271043, "percentage": 99.74, "elapsed_time": "2 days, 13:03:14", "remaining_time": "0:09:24", "throughput": 201.17, "total_tokens": 44216504} +{"current_steps": 22578, "total_steps": 22635, "loss": 0.0002, "lr": 7.830329307484397e-11, "epoch": 2.9924453280318093, "percentage": 99.75, "elapsed_time": "2 days, 13:03:23", "remaining_time": "0:09:14", "throughput": 201.17, "total_tokens": 44218464} +{"current_steps": 22579, "total_steps": 22635, "loss": 0.0005, "lr": 7.557992356604926e-11, "epoch": 2.9925778661365143, "percentage": 99.75, "elapsed_time": "2 days, 13:03:33", "remaining_time": "0:09:05", "throughput": 201.17, "total_tokens": 44219944} +{"current_steps": 22580, "total_steps": 22635, "loss": 0.0376, "lr": 7.290475432464305e-11, "epoch": 2.9927104042412194, "percentage": 99.76, "elapsed_time": "2 days, 13:03:42", "remaining_time": "0:08:55", "throughput": 201.17, "total_tokens": 44221752} +{"current_steps": 22581, "total_steps": 22635, "loss": 0.0, "lr": 7.027778540252827e-11, "epoch": 2.9928429423459244, "percentage": 99.76, "elapsed_time": "2 days, 13:03:51", "remaining_time": "0:08:45", "throughput": 201.17, "total_tokens": 44223144} +{"current_steps": 22582, "total_steps": 22635, "loss": 0.0003, "lr": 6.769901684994251e-11, "epoch": 2.9929754804506294, "percentage": 99.77, "elapsed_time": "2 days, 13:04:00", "remaining_time": "0:08:35", "throughput": 201.17, "total_tokens": 44224520} +{"current_steps": 22583, "total_steps": 22635, "loss": 0.0337, "lr": 6.51684487168458e-11, "epoch": 2.9931080185553345, "percentage": 99.77, "elapsed_time": "2 days, 13:04:09", "remaining_time": "0:08:26", "throughput": 201.17, "total_tokens": 44226248} +{"current_steps": 22584, "total_steps": 22635, "loss": 0.0174, "lr": 6.268608105153285e-11, "epoch": 2.99324055666004, "percentage": 99.77, "elapsed_time": "2 days, 13:04:20", "remaining_time": "0:08:16", "throughput": 201.16, "total_tokens": 44228128} +{"current_steps": 22585, "total_steps": 22635, "loss": 0.0402, "lr": 6.02519139025759e-11, "epoch": 2.993373094764745, "percentage": 99.78, "elapsed_time": "2 days, 13:04:29", "remaining_time": "0:08:06", "throughput": 201.17, "total_tokens": 44230344} +{"current_steps": 22586, "total_steps": 22635, "loss": 0.0, "lr": 5.786594731660433e-11, "epoch": 2.99350563286945, "percentage": 99.78, "elapsed_time": "2 days, 13:04:38", "remaining_time": "0:07:57", "throughput": 201.17, "total_tokens": 44232328} +{"current_steps": 22587, "total_steps": 22635, "loss": 0.0903, "lr": 5.552818133941484e-11, "epoch": 2.993638170974155, "percentage": 99.79, "elapsed_time": "2 days, 13:04:47", "remaining_time": "0:07:47", "throughput": 201.16, "total_tokens": 44233584} +{"current_steps": 22588, "total_steps": 22635, "loss": 0.0011, "lr": 5.323861601652658e-11, "epoch": 2.99377070907886, "percentage": 99.79, "elapsed_time": "2 days, 13:04:56", "remaining_time": "0:07:37", "throughput": 201.16, "total_tokens": 44235288} +{"current_steps": 22589, "total_steps": 22635, "loss": 0.0902, "lr": 5.099725139151579e-11, "epoch": 2.993903247183565, "percentage": 99.8, "elapsed_time": "2 days, 13:05:07", "remaining_time": "0:07:27", "throughput": 201.16, "total_tokens": 44236944} +{"current_steps": 22590, "total_steps": 22635, "loss": 0.0, "lr": 4.880408750823629e-11, "epoch": 2.99403578528827, "percentage": 99.8, "elapsed_time": "2 days, 13:05:16", "remaining_time": "0:07:18", "throughput": 201.16, "total_tokens": 44238264} +{"current_steps": 22591, "total_steps": 22635, "loss": 0.0, "lr": 4.665912440832143e-11, "epoch": 2.9941683233929757, "percentage": 99.81, "elapsed_time": "2 days, 13:05:26", "remaining_time": "0:07:08", "throughput": 201.16, "total_tokens": 44240160} +{"current_steps": 22592, "total_steps": 22635, "loss": 0.1789, "lr": 4.4562362133682144e-11, "epoch": 2.9943008614976807, "percentage": 99.81, "elapsed_time": "2 days, 13:05:35", "remaining_time": "0:06:58", "throughput": 201.16, "total_tokens": 44241752} +{"current_steps": 22593, "total_steps": 22635, "loss": 0.0072, "lr": 4.251380072428646e-11, "epoch": 2.9944333996023857, "percentage": 99.81, "elapsed_time": "2 days, 13:05:43", "remaining_time": "0:06:48", "throughput": 201.16, "total_tokens": 44243072} +{"current_steps": 22594, "total_steps": 22635, "loss": 0.0887, "lr": 4.0513440220102395e-11, "epoch": 2.994565937707091, "percentage": 99.82, "elapsed_time": "2 days, 13:05:54", "remaining_time": "0:06:39", "throughput": 201.16, "total_tokens": 44245064} +{"current_steps": 22595, "total_steps": 22635, "loss": 0.0, "lr": 3.856128065943265e-11, "epoch": 2.994698475811796, "percentage": 99.82, "elapsed_time": "2 days, 13:06:03", "remaining_time": "0:06:29", "throughput": 201.16, "total_tokens": 44247000} +{"current_steps": 22596, "total_steps": 22635, "loss": 0.003, "lr": 3.665732207974726e-11, "epoch": 2.994831013916501, "percentage": 99.83, "elapsed_time": "2 days, 13:06:12", "remaining_time": "0:06:19", "throughput": 201.16, "total_tokens": 44248984} +{"current_steps": 22597, "total_steps": 22635, "loss": 0.0001, "lr": 3.480156451796113e-11, "epoch": 2.994963552021206, "percentage": 99.83, "elapsed_time": "2 days, 13:06:22", "remaining_time": "0:06:09", "throughput": 201.15, "total_tokens": 44250576} +{"current_steps": 22598, "total_steps": 22635, "loss": 0.0901, "lr": 3.2994008009878954e-11, "epoch": 2.9950960901259114, "percentage": 99.84, "elapsed_time": "2 days, 13:06:32", "remaining_time": "0:06:00", "throughput": 201.16, "total_tokens": 44253224} +{"current_steps": 22599, "total_steps": 22635, "loss": 0.0525, "lr": 3.1234652590472756e-11, "epoch": 2.9952286282306164, "percentage": 99.84, "elapsed_time": "2 days, 13:06:42", "remaining_time": "0:05:50", "throughput": 201.16, "total_tokens": 44255072} +{"current_steps": 22600, "total_steps": 22635, "loss": 0.0296, "lr": 2.952349829332679e-11, "epoch": 2.9953611663353215, "percentage": 99.85, "elapsed_time": "2 days, 13:06:52", "remaining_time": "0:05:40", "throughput": 201.16, "total_tokens": 44257408} +{"current_steps": 22601, "total_steps": 22635, "loss": 0.0, "lr": 2.7860545151747743e-11, "epoch": 2.9954937044400265, "percentage": 99.85, "elapsed_time": "2 days, 13:07:02", "remaining_time": "0:05:30", "throughput": 201.16, "total_tokens": 44259456} +{"current_steps": 22602, "total_steps": 22635, "loss": 0.1933, "lr": 2.6245793197376966e-11, "epoch": 2.9956262425447315, "percentage": 99.85, "elapsed_time": "2 days, 13:07:12", "remaining_time": "0:05:21", "throughput": 201.16, "total_tokens": 44261464} +{"current_steps": 22603, "total_steps": 22635, "loss": 0.0, "lr": 2.4679242461855824e-11, "epoch": 2.9957587806494366, "percentage": 99.86, "elapsed_time": "2 days, 13:07:23", "remaining_time": "0:05:11", "throughput": 201.16, "total_tokens": 44262992} +{"current_steps": 22604, "total_steps": 22635, "loss": 0.0009, "lr": 2.316089297516033e-11, "epoch": 2.9958913187541416, "percentage": 99.86, "elapsed_time": "2 days, 13:07:32", "remaining_time": "0:05:01", "throughput": 201.16, "total_tokens": 44264936} +{"current_steps": 22605, "total_steps": 22635, "loss": 0.0103, "lr": 2.1690744766711404e-11, "epoch": 2.996023856858847, "percentage": 99.87, "elapsed_time": "2 days, 13:07:42", "remaining_time": "0:04:52", "throughput": 201.15, "total_tokens": 44266608} +{"current_steps": 22606, "total_steps": 22635, "loss": 0.0001, "lr": 2.0268797864542165e-11, "epoch": 2.996156394963552, "percentage": 99.87, "elapsed_time": "2 days, 13:07:52", "remaining_time": "0:04:42", "throughput": 201.15, "total_tokens": 44268088} +{"current_steps": 22607, "total_steps": 22635, "loss": 0.2132, "lr": 1.8895052296130644e-11, "epoch": 2.996288933068257, "percentage": 99.88, "elapsed_time": "2 days, 13:08:02", "remaining_time": "0:04:32", "throughput": 201.15, "total_tokens": 44270304} +{"current_steps": 22608, "total_steps": 22635, "loss": 0.0072, "lr": 1.7569508088122188e-11, "epoch": 2.996421471172962, "percentage": 99.88, "elapsed_time": "2 days, 13:08:13", "remaining_time": "0:04:22", "throughput": 201.16, "total_tokens": 44273064} +{"current_steps": 22609, "total_steps": 22635, "loss": 0.0885, "lr": 1.6292165266051928e-11, "epoch": 2.9965540092776672, "percentage": 99.89, "elapsed_time": "2 days, 13:08:23", "remaining_time": "0:04:13", "throughput": 201.16, "total_tokens": 44275352} +{"current_steps": 22610, "total_steps": 22635, "loss": 0.0, "lr": 1.5063023854622327e-11, "epoch": 2.9966865473823723, "percentage": 99.89, "elapsed_time": "2 days, 13:08:33", "remaining_time": "0:04:03", "throughput": 201.16, "total_tokens": 44277384} +{"current_steps": 22611, "total_steps": 22635, "loss": 0.0449, "lr": 1.3882083877425623e-11, "epoch": 2.9968190854870773, "percentage": 99.89, "elapsed_time": "2 days, 13:08:43", "remaining_time": "0:03:53", "throughput": 201.16, "total_tokens": 44279248} +{"current_steps": 22612, "total_steps": 22635, "loss": 0.0851, "lr": 1.2749345356943832e-11, "epoch": 2.996951623591783, "percentage": 99.9, "elapsed_time": "2 days, 13:08:54", "remaining_time": "0:03:43", "throughput": 201.16, "total_tokens": 44281792} +{"current_steps": 22613, "total_steps": 22635, "loss": 0.0001, "lr": 1.166480831565897e-11, "epoch": 2.997084161696488, "percentage": 99.9, "elapsed_time": "2 days, 13:09:04", "remaining_time": "0:03:34", "throughput": 201.16, "total_tokens": 44283144} +{"current_steps": 22614, "total_steps": 22635, "loss": 0.0001, "lr": 1.0628472774110166e-11, "epoch": 2.997216699801193, "percentage": 99.91, "elapsed_time": "2 days, 13:09:13", "remaining_time": "0:03:24", "throughput": 201.16, "total_tokens": 44285152} +{"current_steps": 22615, "total_steps": 22635, "loss": 0.0, "lr": 9.640338752003874e-12, "epoch": 2.997349237905898, "percentage": 99.91, "elapsed_time": "2 days, 13:09:23", "remaining_time": "0:03:14", "throughput": 201.15, "total_tokens": 44286680} +{"current_steps": 22616, "total_steps": 22635, "loss": 0.0014, "lr": 8.700406269046557e-12, "epoch": 2.997481776010603, "percentage": 99.92, "elapsed_time": "2 days, 13:09:34", "remaining_time": "0:03:04", "throughput": 201.15, "total_tokens": 44288672} +{"current_steps": 22617, "total_steps": 22635, "loss": 0.0045, "lr": 7.808675342724226e-12, "epoch": 2.997614314115308, "percentage": 99.92, "elapsed_time": "2 days, 13:09:43", "remaining_time": "0:02:55", "throughput": 201.15, "total_tokens": 44290808} +{"current_steps": 22618, "total_steps": 22635, "loss": 0.067, "lr": 6.965145990522892e-12, "epoch": 2.997746852220013, "percentage": 99.92, "elapsed_time": "2 days, 13:09:54", "remaining_time": "0:02:45", "throughput": 201.16, "total_tokens": 44294128} +{"current_steps": 22619, "total_steps": 22635, "loss": 0.2274, "lr": 6.169818228818347e-12, "epoch": 2.9978793903247185, "percentage": 99.93, "elapsed_time": "2 days, 13:10:04", "remaining_time": "0:02:35", "throughput": 201.16, "total_tokens": 44296600} +{"current_steps": 22620, "total_steps": 22635, "loss": 0.0, "lr": 5.422692072876157e-12, "epoch": 2.9980119284294235, "percentage": 99.93, "elapsed_time": "2 days, 13:10:14", "remaining_time": "0:02:26", "throughput": 201.16, "total_tokens": 44297888} +{"current_steps": 22621, "total_steps": 22635, "loss": 0.202, "lr": 4.723767536851665e-12, "epoch": 2.9981444665341286, "percentage": 99.94, "elapsed_time": "2 days, 13:10:23", "remaining_time": "0:02:16", "throughput": 201.16, "total_tokens": 44299320} +{"current_steps": 22622, "total_steps": 22635, "loss": 0.0, "lr": 4.073044634345102e-12, "epoch": 2.9982770046388336, "percentage": 99.94, "elapsed_time": "2 days, 13:10:33", "remaining_time": "0:02:06", "throughput": 201.15, "total_tokens": 44300664} +{"current_steps": 22623, "total_steps": 22635, "loss": 0.0001, "lr": 3.4705233781240354e-12, "epoch": 2.9984095427435387, "percentage": 99.95, "elapsed_time": "2 days, 13:10:43", "remaining_time": "0:01:56", "throughput": 201.15, "total_tokens": 44303000} +{"current_steps": 22624, "total_steps": 22635, "loss": 0.0003, "lr": 2.9162037798458056e-12, "epoch": 2.998542080848244, "percentage": 99.95, "elapsed_time": "2 days, 13:10:53", "remaining_time": "0:01:47", "throughput": 201.15, "total_tokens": 44304840} +{"current_steps": 22625, "total_steps": 22635, "loss": 0.0, "lr": 2.410085849779975e-12, "epoch": 2.9986746189529487, "percentage": 99.96, "elapsed_time": "2 days, 13:11:02", "remaining_time": "0:01:37", "throughput": 201.15, "total_tokens": 44306280} +{"current_steps": 22626, "total_steps": 22635, "loss": 0.0002, "lr": 1.9521695979185518e-12, "epoch": 2.998807157057654, "percentage": 99.96, "elapsed_time": "2 days, 13:11:12", "remaining_time": "0:01:27", "throughput": 201.15, "total_tokens": 44308704} +{"current_steps": 22627, "total_steps": 22635, "loss": 0.0007, "lr": 1.5424550331433197e-12, "epoch": 2.9989396951623593, "percentage": 99.96, "elapsed_time": "2 days, 13:11:22", "remaining_time": "0:01:17", "throughput": 201.16, "total_tokens": 44311464} +{"current_steps": 22628, "total_steps": 22635, "loss": 0.0105, "lr": 1.18094216322584e-12, "epoch": 2.9990722332670643, "percentage": 99.97, "elapsed_time": "2 days, 13:11:32", "remaining_time": "0:01:08", "throughput": 201.16, "total_tokens": 44313784} +{"current_steps": 22629, "total_steps": 22635, "loss": 0.0, "lr": 8.676309951050066e-13, "epoch": 2.9992047713717693, "percentage": 99.97, "elapsed_time": "2 days, 13:11:41", "remaining_time": "0:00:58", "throughput": 201.16, "total_tokens": 44315000} +{"current_steps": 22630, "total_steps": 22635, "loss": 0.1049, "lr": 6.025215351646019e-13, "epoch": 2.9993373094764744, "percentage": 99.98, "elapsed_time": "2 days, 13:11:51", "remaining_time": "0:00:48", "throughput": 201.15, "total_tokens": 44316504} +{"current_steps": 22631, "total_steps": 22635, "loss": 0.0017, "lr": 3.856137881230737e-13, "epoch": 2.99946984758118, "percentage": 99.98, "elapsed_time": "2 days, 13:12:00", "remaining_time": "0:00:38", "throughput": 201.16, "total_tokens": 44318792} +{"current_steps": 22632, "total_steps": 22635, "loss": 0.0622, "lr": 2.1690775814375842e-13, "epoch": 2.9996023856858844, "percentage": 99.99, "elapsed_time": "2 days, 13:12:09", "remaining_time": "0:00:29", "throughput": 201.16, "total_tokens": 44320520} +{"current_steps": 22633, "total_steps": 22635, "loss": 0.0457, "lr": 9.640344883488084e-14, "epoch": 2.99973492379059, "percentage": 99.99, "elapsed_time": "2 days, 13:12:19", "remaining_time": "0:00:19", "throughput": 201.15, "total_tokens": 44322392} +{"current_steps": 22634, "total_steps": 22635, "loss": 0.0001, "lr": 2.4100862416887028e-14, "epoch": 2.999867461895295, "percentage": 100.0, "elapsed_time": "2 days, 13:12:28", "remaining_time": "0:00:09", "throughput": 201.16, "total_tokens": 44324256} +{"current_steps": 22635, "total_steps": 22635, "loss": 0.0017, "lr": 0.0, "epoch": 3.0, "percentage": 100.0, "elapsed_time": "2 days, 13:12:38", "remaining_time": "0:00:00", "throughput": 201.15, "total_tokens": 44325984} +{"current_steps": 22635, "total_steps": 22635, "epoch": 3.0, "percentage": 100.0, "elapsed_time": "2 days, 13:13:49", "remaining_time": "0:00:00", "throughput": 201.09, "total_tokens": 44325984} diff --git a/trainer_state.json b/trainer_state.json new file mode 100644 index 0000000000000000000000000000000000000000..4114e3f144a5814529ad5c2b394ee4807f1b0e0b --- /dev/null +++ b/trainer_state.json @@ -0,0 +1,181123 @@ +{ + "best_metric": null, + "best_model_checkpoint": null, + "epoch": 3.0, + "eval_steps": 500, + "global_step": 22635, + "is_hyper_param_search": false, + "is_local_process_zero": true, + "is_world_process_zero": true, + "log_history": [ + { + "epoch": 0.0001325381047051027, + "grad_norm": 250.43743896484375, + "learning_rate": 5.000000000000001e-07, + "loss": 1.0252, + "num_input_tokens_seen": 2128, + "step": 1 + }, + { + "epoch": 0.0002650762094102054, + "grad_norm": 174.06369018554688, + "learning_rate": 1.0000000000000002e-06, + "loss": 1.0459, + "num_input_tokens_seen": 4048, + "step": 2 + }, + { + "epoch": 0.00039761431411530816, + "grad_norm": 273.9053955078125, + "learning_rate": 1.5e-06, + "loss": 1.4319, + "num_input_tokens_seen": 6248, + "step": 3 + }, + { + "epoch": 0.0005301524188204108, + "grad_norm": 34.939170837402344, + "learning_rate": 2.0000000000000003e-06, + "loss": 0.1974, + "num_input_tokens_seen": 7776, + "step": 4 + }, + { + "epoch": 0.0006626905235255136, + "grad_norm": 82.0633544921875, + "learning_rate": 2.5e-06, + "loss": 0.5028, + "num_input_tokens_seen": 9320, + "step": 5 + }, + { + "epoch": 0.0007952286282306163, + "grad_norm": 96.41106414794922, + "learning_rate": 3e-06, + "loss": 1.3664, + "num_input_tokens_seen": 11160, + "step": 6 + }, + { + "epoch": 0.0009277667329357191, + "grad_norm": 112.13668060302734, + "learning_rate": 3.5e-06, + "loss": 1.5008, + "num_input_tokens_seen": 12952, + "step": 7 + }, + { + "epoch": 0.0010603048376408217, + "grad_norm": 66.35326385498047, + "learning_rate": 4.000000000000001e-06, + "loss": 1.3062, + "num_input_tokens_seen": 15400, + "step": 8 + }, + { + "epoch": 0.0011928429423459245, + "grad_norm": 19.309053421020508, + "learning_rate": 4.5e-06, + "loss": 0.2608, + "num_input_tokens_seen": 17040, + "step": 9 + }, + { + "epoch": 0.0013253810470510272, + "grad_norm": 33.11587905883789, + "learning_rate": 5e-06, + "loss": 0.2822, + "num_input_tokens_seen": 19048, + "step": 10 + }, + { + "epoch": 0.0014579191517561298, + "grad_norm": 32.90431213378906, + "learning_rate": 4.999999975899138e-06, + "loss": 0.0864, + "num_input_tokens_seen": 20840, + "step": 11 + }, + { + "epoch": 0.0015904572564612327, + "grad_norm": 0.9036729335784912, + "learning_rate": 4.9999999035965515e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23096, + "step": 12 + }, + { + "epoch": 0.0017229953611663353, + "grad_norm": 0.010966886766254902, + "learning_rate": 4.999999783092242e-06, + "loss": 0.0, + "num_input_tokens_seen": 24496, + "step": 13 + }, + { + "epoch": 0.0018555334658714381, + "grad_norm": 62.49030685424805, + "learning_rate": 4.999999614386212e-06, + "loss": 1.451, + "num_input_tokens_seen": 26248, + "step": 14 + }, + { + "epoch": 0.0019880715705765406, + "grad_norm": 30.907695770263672, + "learning_rate": 4.999999397478466e-06, + "loss": 0.7342, + "num_input_tokens_seen": 29496, + "step": 15 + }, + { + "epoch": 0.0021206096752816434, + "grad_norm": 0.008592139929533005, + "learning_rate": 4.999999132369006e-06, + "loss": 0.0, + "num_input_tokens_seen": 31216, + "step": 16 + }, + { + "epoch": 0.0022531477799867462, + "grad_norm": 40.367591857910156, + "learning_rate": 4.9999988190578376e-06, + "loss": 1.1096, + "num_input_tokens_seen": 34480, + "step": 17 + }, + { + "epoch": 0.002385685884691849, + "grad_norm": 121.25069427490234, + "learning_rate": 4.999998457544968e-06, + "loss": 0.761, + "num_input_tokens_seen": 35928, + "step": 18 + }, + { + "epoch": 0.0025182239893969515, + "grad_norm": 0.20059402287006378, + "learning_rate": 4.999998047830402e-06, + "loss": 0.0005, + "num_input_tokens_seen": 37392, + "step": 19 + }, + { + "epoch": 0.0026507620941020544, + "grad_norm": 30.98487663269043, + "learning_rate": 4.999997589914151e-06, + "loss": 0.6026, + "num_input_tokens_seen": 39128, + "step": 20 + }, + { + "epoch": 0.002783300198807157, + "grad_norm": 33.51759338378906, + "learning_rate": 4.999997083796221e-06, + "loss": 0.4553, + "num_input_tokens_seen": 41656, + "step": 21 + }, + { + "epoch": 0.0029158383035122596, + "grad_norm": 19.42667007446289, + "learning_rate": 4.999996529476622e-06, + "loss": 0.0542, + "num_input_tokens_seen": 42992, + "step": 22 + }, + { + "epoch": 0.0030483764082173625, + "grad_norm": 17.662841796875, + "learning_rate": 4.999995926955366e-06, + "loss": 0.2276, + "num_input_tokens_seen": 45224, + "step": 23 + }, + { + "epoch": 0.0031809145129224653, + "grad_norm": 6.467265605926514, + "learning_rate": 4.999995276232463e-06, + "loss": 0.151, + "num_input_tokens_seen": 47048, + "step": 24 + }, + { + "epoch": 0.0033134526176275677, + "grad_norm": 41.72969436645508, + "learning_rate": 4.9999945773079275e-06, + "loss": 0.841, + "num_input_tokens_seen": 49592, + "step": 25 + }, + { + "epoch": 0.0034459907223326706, + "grad_norm": 4.11884880065918, + "learning_rate": 4.999993830181772e-06, + "loss": 0.0121, + "num_input_tokens_seen": 51344, + "step": 26 + }, + { + "epoch": 0.0035785288270377734, + "grad_norm": 1.7135484218597412, + "learning_rate": 4.99999303485401e-06, + "loss": 0.005, + "num_input_tokens_seen": 53536, + "step": 27 + }, + { + "epoch": 0.0037110669317428763, + "grad_norm": 23.234941482543945, + "learning_rate": 4.999992191324657e-06, + "loss": 0.5664, + "num_input_tokens_seen": 55264, + "step": 28 + }, + { + "epoch": 0.0038436050364479787, + "grad_norm": 0.08144200593233109, + "learning_rate": 4.9999912995937314e-06, + "loss": 0.0003, + "num_input_tokens_seen": 56656, + "step": 29 + }, + { + "epoch": 0.003976143141153081, + "grad_norm": 31.365327835083008, + "learning_rate": 4.999990359661249e-06, + "loss": 1.0078, + "num_input_tokens_seen": 58944, + "step": 30 + }, + { + "epoch": 0.004108681245858184, + "grad_norm": 52.97278594970703, + "learning_rate": 4.999989371527226e-06, + "loss": 0.9884, + "num_input_tokens_seen": 60536, + "step": 31 + }, + { + "epoch": 0.004241219350563287, + "grad_norm": 0.017972925677895546, + "learning_rate": 4.9999883351916845e-06, + "loss": 0.0001, + "num_input_tokens_seen": 63072, + "step": 32 + }, + { + "epoch": 0.00437375745526839, + "grad_norm": 19.20778465270996, + "learning_rate": 4.9999872506546435e-06, + "loss": 0.4417, + "num_input_tokens_seen": 64648, + "step": 33 + }, + { + "epoch": 0.0045062955599734925, + "grad_norm": 19.955821990966797, + "learning_rate": 4.999986117916123e-06, + "loss": 0.5826, + "num_input_tokens_seen": 67136, + "step": 34 + }, + { + "epoch": 0.004638833664678595, + "grad_norm": 0.09148523211479187, + "learning_rate": 4.999984936976145e-06, + "loss": 0.0003, + "num_input_tokens_seen": 69128, + "step": 35 + }, + { + "epoch": 0.004771371769383698, + "grad_norm": 5.537275314331055, + "learning_rate": 4.999983707834735e-06, + "loss": 0.1306, + "num_input_tokens_seen": 70528, + "step": 36 + }, + { + "epoch": 0.0049039098740888, + "grad_norm": 17.37434959411621, + "learning_rate": 4.999982430491912e-06, + "loss": 0.479, + "num_input_tokens_seen": 73696, + "step": 37 + }, + { + "epoch": 0.005036447978793903, + "grad_norm": 29.15047264099121, + "learning_rate": 4.999981104947704e-06, + "loss": 0.4218, + "num_input_tokens_seen": 75456, + "step": 38 + }, + { + "epoch": 0.005168986083499006, + "grad_norm": 6.122926235198975, + "learning_rate": 4.999979731202136e-06, + "loss": 0.0178, + "num_input_tokens_seen": 77288, + "step": 39 + }, + { + "epoch": 0.005301524188204109, + "grad_norm": 28.305675506591797, + "learning_rate": 4.9999783092552334e-06, + "loss": 0.5839, + "num_input_tokens_seen": 79128, + "step": 40 + }, + { + "epoch": 0.0054340622929092116, + "grad_norm": 28.465259552001953, + "learning_rate": 4.999976839107025e-06, + "loss": 0.3275, + "num_input_tokens_seen": 80504, + "step": 41 + }, + { + "epoch": 0.005566600397614314, + "grad_norm": 12.967247009277344, + "learning_rate": 4.999975320757539e-06, + "loss": 0.1255, + "num_input_tokens_seen": 82496, + "step": 42 + }, + { + "epoch": 0.005699138502319417, + "grad_norm": 13.58895206451416, + "learning_rate": 4.999973754206803e-06, + "loss": 0.0443, + "num_input_tokens_seen": 84048, + "step": 43 + }, + { + "epoch": 0.005831676607024519, + "grad_norm": 8.829529762268066, + "learning_rate": 4.9999721394548485e-06, + "loss": 0.1663, + "num_input_tokens_seen": 86064, + "step": 44 + }, + { + "epoch": 0.005964214711729622, + "grad_norm": 16.731121063232422, + "learning_rate": 4.999970476501707e-06, + "loss": 0.173, + "num_input_tokens_seen": 88632, + "step": 45 + }, + { + "epoch": 0.006096752816434725, + "grad_norm": 6.858058452606201, + "learning_rate": 4.99996876534741e-06, + "loss": 0.0222, + "num_input_tokens_seen": 91328, + "step": 46 + }, + { + "epoch": 0.006229290921139828, + "grad_norm": 26.11011505126953, + "learning_rate": 4.99996700599199e-06, + "loss": 0.2834, + "num_input_tokens_seen": 93624, + "step": 47 + }, + { + "epoch": 0.006361829025844931, + "grad_norm": 1.8604565858840942, + "learning_rate": 4.999965198435482e-06, + "loss": 0.0058, + "num_input_tokens_seen": 95360, + "step": 48 + }, + { + "epoch": 0.0064943671305500335, + "grad_norm": 52.78355407714844, + "learning_rate": 4.99996334267792e-06, + "loss": 0.8988, + "num_input_tokens_seen": 97032, + "step": 49 + }, + { + "epoch": 0.0066269052352551355, + "grad_norm": 17.50345230102539, + "learning_rate": 4.999961438719341e-06, + "loss": 0.3259, + "num_input_tokens_seen": 98816, + "step": 50 + }, + { + "epoch": 0.006759443339960238, + "grad_norm": 21.572919845581055, + "learning_rate": 4.99995948655978e-06, + "loss": 0.2656, + "num_input_tokens_seen": 100792, + "step": 51 + }, + { + "epoch": 0.006891981444665341, + "grad_norm": 0.284165620803833, + "learning_rate": 4.999957486199276e-06, + "loss": 0.001, + "num_input_tokens_seen": 103272, + "step": 52 + }, + { + "epoch": 0.007024519549370444, + "grad_norm": 7.135979175567627, + "learning_rate": 4.999955437637867e-06, + "loss": 0.136, + "num_input_tokens_seen": 104672, + "step": 53 + }, + { + "epoch": 0.007157057654075547, + "grad_norm": 27.35825538635254, + "learning_rate": 4.999953340875592e-06, + "loss": 0.6583, + "num_input_tokens_seen": 106728, + "step": 54 + }, + { + "epoch": 0.00728959575878065, + "grad_norm": 17.128623962402344, + "learning_rate": 4.999951195912492e-06, + "loss": 0.3751, + "num_input_tokens_seen": 108408, + "step": 55 + }, + { + "epoch": 0.0074221338634857525, + "grad_norm": 1.3629236221313477, + "learning_rate": 4.999949002748608e-06, + "loss": 0.0046, + "num_input_tokens_seen": 111088, + "step": 56 + }, + { + "epoch": 0.0075546719681908545, + "grad_norm": 1.013257622718811, + "learning_rate": 4.999946761383984e-06, + "loss": 0.0035, + "num_input_tokens_seen": 112792, + "step": 57 + }, + { + "epoch": 0.007687210072895957, + "grad_norm": 12.58083438873291, + "learning_rate": 4.999944471818661e-06, + "loss": 0.2518, + "num_input_tokens_seen": 114872, + "step": 58 + }, + { + "epoch": 0.00781974817760106, + "grad_norm": 0.324655145406723, + "learning_rate": 4.999942134052684e-06, + "loss": 0.0011, + "num_input_tokens_seen": 116808, + "step": 59 + }, + { + "epoch": 0.007952286282306162, + "grad_norm": 0.15079373121261597, + "learning_rate": 4.9999397480860975e-06, + "loss": 0.0005, + "num_input_tokens_seen": 118824, + "step": 60 + }, + { + "epoch": 0.008084824387011266, + "grad_norm": 0.07261475175619125, + "learning_rate": 4.999937313918949e-06, + "loss": 0.0002, + "num_input_tokens_seen": 119800, + "step": 61 + }, + { + "epoch": 0.008217362491716368, + "grad_norm": 24.96176528930664, + "learning_rate": 4.999934831551284e-06, + "loss": 0.6587, + "num_input_tokens_seen": 122024, + "step": 62 + }, + { + "epoch": 0.008349900596421472, + "grad_norm": 0.033747754991054535, + "learning_rate": 4.99993230098315e-06, + "loss": 0.0001, + "num_input_tokens_seen": 123976, + "step": 63 + }, + { + "epoch": 0.008482438701126574, + "grad_norm": 31.08684730529785, + "learning_rate": 4.9999297222145986e-06, + "loss": 0.5857, + "num_input_tokens_seen": 125992, + "step": 64 + }, + { + "epoch": 0.008614976805831677, + "grad_norm": 35.08548355102539, + "learning_rate": 4.999927095245676e-06, + "loss": 0.7041, + "num_input_tokens_seen": 127976, + "step": 65 + }, + { + "epoch": 0.00874751491053678, + "grad_norm": 6.023736953735352, + "learning_rate": 4.999924420076434e-06, + "loss": 0.1227, + "num_input_tokens_seen": 130272, + "step": 66 + }, + { + "epoch": 0.008880053015241881, + "grad_norm": 0.04503978043794632, + "learning_rate": 4.999921696706925e-06, + "loss": 0.0001, + "num_input_tokens_seen": 131408, + "step": 67 + }, + { + "epoch": 0.009012591119946985, + "grad_norm": 49.56775665283203, + "learning_rate": 4.9999189251372025e-06, + "loss": 0.727, + "num_input_tokens_seen": 133760, + "step": 68 + }, + { + "epoch": 0.009145129224652087, + "grad_norm": 31.22989273071289, + "learning_rate": 4.999916105367317e-06, + "loss": 0.5476, + "num_input_tokens_seen": 135416, + "step": 69 + }, + { + "epoch": 0.00927766732935719, + "grad_norm": 0.1987680345773697, + "learning_rate": 4.999913237397324e-06, + "loss": 0.0007, + "num_input_tokens_seen": 137448, + "step": 70 + }, + { + "epoch": 0.009410205434062293, + "grad_norm": 25.454242706298828, + "learning_rate": 4.999910321227281e-06, + "loss": 0.6887, + "num_input_tokens_seen": 138704, + "step": 71 + }, + { + "epoch": 0.009542743538767396, + "grad_norm": 24.782148361206055, + "learning_rate": 4.999907356857241e-06, + "loss": 0.3743, + "num_input_tokens_seen": 140512, + "step": 72 + }, + { + "epoch": 0.009675281643472498, + "grad_norm": 29.465654373168945, + "learning_rate": 4.999904344287263e-06, + "loss": 1.2092, + "num_input_tokens_seen": 143656, + "step": 73 + }, + { + "epoch": 0.0098078197481776, + "grad_norm": 64.79688262939453, + "learning_rate": 4.999901283517404e-06, + "loss": 0.7532, + "num_input_tokens_seen": 146464, + "step": 74 + }, + { + "epoch": 0.009940357852882704, + "grad_norm": 15.676737785339355, + "learning_rate": 4.999898174547725e-06, + "loss": 0.4197, + "num_input_tokens_seen": 148800, + "step": 75 + }, + { + "epoch": 0.010072895957587806, + "grad_norm": 63.59064865112305, + "learning_rate": 4.9998950173782834e-06, + "loss": 1.5147, + "num_input_tokens_seen": 152160, + "step": 76 + }, + { + "epoch": 0.01020543406229291, + "grad_norm": 4.737969875335693, + "learning_rate": 4.999891812009143e-06, + "loss": 0.0752, + "num_input_tokens_seen": 153832, + "step": 77 + }, + { + "epoch": 0.010337972166998012, + "grad_norm": 6.161489009857178, + "learning_rate": 4.999888558440362e-06, + "loss": 0.0232, + "num_input_tokens_seen": 154888, + "step": 78 + }, + { + "epoch": 0.010470510271703115, + "grad_norm": 8.917037010192871, + "learning_rate": 4.9998852566720055e-06, + "loss": 0.1196, + "num_input_tokens_seen": 156528, + "step": 79 + }, + { + "epoch": 0.010603048376408217, + "grad_norm": 11.00399112701416, + "learning_rate": 4.999881906704137e-06, + "loss": 0.2367, + "num_input_tokens_seen": 158136, + "step": 80 + }, + { + "epoch": 0.01073558648111332, + "grad_norm": 5.292150020599365, + "learning_rate": 4.99987850853682e-06, + "loss": 0.0198, + "num_input_tokens_seen": 159440, + "step": 81 + }, + { + "epoch": 0.010868124585818423, + "grad_norm": 4.829105854034424, + "learning_rate": 4.999875062170121e-06, + "loss": 0.0183, + "num_input_tokens_seen": 160840, + "step": 82 + }, + { + "epoch": 0.011000662690523525, + "grad_norm": 3.056729793548584, + "learning_rate": 4.999871567604107e-06, + "loss": 0.0109, + "num_input_tokens_seen": 162240, + "step": 83 + }, + { + "epoch": 0.011133200795228629, + "grad_norm": 19.688913345336914, + "learning_rate": 4.999868024838844e-06, + "loss": 0.2948, + "num_input_tokens_seen": 164328, + "step": 84 + }, + { + "epoch": 0.01126573889993373, + "grad_norm": 33.16144561767578, + "learning_rate": 4.999864433874401e-06, + "loss": 0.584, + "num_input_tokens_seen": 166216, + "step": 85 + }, + { + "epoch": 0.011398277004638835, + "grad_norm": 10.677643775939941, + "learning_rate": 4.999860794710847e-06, + "loss": 0.1286, + "num_input_tokens_seen": 168280, + "step": 86 + }, + { + "epoch": 0.011530815109343936, + "grad_norm": 0.293518990278244, + "learning_rate": 4.999857107348253e-06, + "loss": 0.0011, + "num_input_tokens_seen": 170024, + "step": 87 + }, + { + "epoch": 0.011663353214049038, + "grad_norm": 23.888822555541992, + "learning_rate": 4.999853371786689e-06, + "loss": 0.74, + "num_input_tokens_seen": 172424, + "step": 88 + }, + { + "epoch": 0.011795891318754142, + "grad_norm": 0.42366430163383484, + "learning_rate": 4.999849588026227e-06, + "loss": 0.0016, + "num_input_tokens_seen": 175000, + "step": 89 + }, + { + "epoch": 0.011928429423459244, + "grad_norm": 33.93714904785156, + "learning_rate": 4.999845756066941e-06, + "loss": 0.9005, + "num_input_tokens_seen": 177248, + "step": 90 + }, + { + "epoch": 0.012060967528164348, + "grad_norm": 33.67679214477539, + "learning_rate": 4.999841875908904e-06, + "loss": 0.5072, + "num_input_tokens_seen": 178768, + "step": 91 + }, + { + "epoch": 0.01219350563286945, + "grad_norm": 21.549104690551758, + "learning_rate": 4.9998379475521915e-06, + "loss": 0.4235, + "num_input_tokens_seen": 180760, + "step": 92 + }, + { + "epoch": 0.012326043737574552, + "grad_norm": 26.029510498046875, + "learning_rate": 4.999833970996878e-06, + "loss": 0.6335, + "num_input_tokens_seen": 182864, + "step": 93 + }, + { + "epoch": 0.012458581842279656, + "grad_norm": 0.6470825672149658, + "learning_rate": 4.999829946243042e-06, + "loss": 0.0024, + "num_input_tokens_seen": 184424, + "step": 94 + }, + { + "epoch": 0.012591119946984758, + "grad_norm": 13.286639213562012, + "learning_rate": 4.999825873290759e-06, + "loss": 0.2366, + "num_input_tokens_seen": 186560, + "step": 95 + }, + { + "epoch": 0.012723658051689861, + "grad_norm": 22.230331420898438, + "learning_rate": 4.9998217521401095e-06, + "loss": 0.3539, + "num_input_tokens_seen": 188384, + "step": 96 + }, + { + "epoch": 0.012856196156394963, + "grad_norm": 17.20349884033203, + "learning_rate": 4.999817582791171e-06, + "loss": 0.4303, + "num_input_tokens_seen": 190808, + "step": 97 + }, + { + "epoch": 0.012988734261100067, + "grad_norm": 1.6089740991592407, + "learning_rate": 4.999813365244026e-06, + "loss": 0.0059, + "num_input_tokens_seen": 192480, + "step": 98 + }, + { + "epoch": 0.013121272365805169, + "grad_norm": 1.8107287883758545, + "learning_rate": 4.999809099498755e-06, + "loss": 0.0067, + "num_input_tokens_seen": 194128, + "step": 99 + }, + { + "epoch": 0.013253810470510271, + "grad_norm": 13.169525146484375, + "learning_rate": 4.999804785555439e-06, + "loss": 0.2379, + "num_input_tokens_seen": 195728, + "step": 100 + }, + { + "epoch": 0.013386348575215375, + "grad_norm": 0.6430429220199585, + "learning_rate": 4.999800423414163e-06, + "loss": 0.0023, + "num_input_tokens_seen": 197120, + "step": 101 + }, + { + "epoch": 0.013518886679920477, + "grad_norm": 20.317203521728516, + "learning_rate": 4.99979601307501e-06, + "loss": 0.4052, + "num_input_tokens_seen": 199064, + "step": 102 + }, + { + "epoch": 0.01365142478462558, + "grad_norm": 14.788737297058105, + "learning_rate": 4.999791554538065e-06, + "loss": 0.3322, + "num_input_tokens_seen": 200560, + "step": 103 + }, + { + "epoch": 0.013783962889330682, + "grad_norm": 0.3029716908931732, + "learning_rate": 4.999787047803415e-06, + "loss": 0.0011, + "num_input_tokens_seen": 203784, + "step": 104 + }, + { + "epoch": 0.013916500994035786, + "grad_norm": 1.024711012840271, + "learning_rate": 4.999782492871146e-06, + "loss": 0.0034, + "num_input_tokens_seen": 205776, + "step": 105 + }, + { + "epoch": 0.014049039098740888, + "grad_norm": 18.154651641845703, + "learning_rate": 4.999777889741345e-06, + "loss": 0.2853, + "num_input_tokens_seen": 208688, + "step": 106 + }, + { + "epoch": 0.01418157720344599, + "grad_norm": 9.336213111877441, + "learning_rate": 4.999773238414103e-06, + "loss": 0.2062, + "num_input_tokens_seen": 210408, + "step": 107 + }, + { + "epoch": 0.014314115308151094, + "grad_norm": 111.06527709960938, + "learning_rate": 4.999768538889508e-06, + "loss": 2.0096, + "num_input_tokens_seen": 213224, + "step": 108 + }, + { + "epoch": 0.014446653412856196, + "grad_norm": 0.13847197592258453, + "learning_rate": 4.999763791167651e-06, + "loss": 0.0004, + "num_input_tokens_seen": 214760, + "step": 109 + }, + { + "epoch": 0.0145791915175613, + "grad_norm": 10.839756965637207, + "learning_rate": 4.999758995248624e-06, + "loss": 0.2364, + "num_input_tokens_seen": 216176, + "step": 110 + }, + { + "epoch": 0.014711729622266401, + "grad_norm": 6.870694160461426, + "learning_rate": 4.999754151132519e-06, + "loss": 0.1528, + "num_input_tokens_seen": 217600, + "step": 111 + }, + { + "epoch": 0.014844267726971505, + "grad_norm": 20.930335998535156, + "learning_rate": 4.999749258819429e-06, + "loss": 0.663, + "num_input_tokens_seen": 220640, + "step": 112 + }, + { + "epoch": 0.014976805831676607, + "grad_norm": 24.177223205566406, + "learning_rate": 4.99974431830945e-06, + "loss": 0.4515, + "num_input_tokens_seen": 222616, + "step": 113 + }, + { + "epoch": 0.015109343936381709, + "grad_norm": 18.11847686767578, + "learning_rate": 4.999739329602675e-06, + "loss": 0.278, + "num_input_tokens_seen": 225032, + "step": 114 + }, + { + "epoch": 0.015241882041086813, + "grad_norm": 14.463335990905762, + "learning_rate": 4.999734292699201e-06, + "loss": 0.3191, + "num_input_tokens_seen": 226712, + "step": 115 + }, + { + "epoch": 0.015374420145791915, + "grad_norm": 0.5931599140167236, + "learning_rate": 4.999729207599126e-06, + "loss": 0.002, + "num_input_tokens_seen": 228776, + "step": 116 + }, + { + "epoch": 0.015506958250497018, + "grad_norm": 20.722591400146484, + "learning_rate": 4.999724074302548e-06, + "loss": 0.3065, + "num_input_tokens_seen": 230560, + "step": 117 + }, + { + "epoch": 0.01563949635520212, + "grad_norm": 2.0402841567993164, + "learning_rate": 4.9997188928095645e-06, + "loss": 0.0073, + "num_input_tokens_seen": 232688, + "step": 118 + }, + { + "epoch": 0.015772034459907224, + "grad_norm": 22.575775146484375, + "learning_rate": 4.999713663120276e-06, + "loss": 0.6893, + "num_input_tokens_seen": 234456, + "step": 119 + }, + { + "epoch": 0.015904572564612324, + "grad_norm": 1.2449815273284912, + "learning_rate": 4.999708385234784e-06, + "loss": 0.0044, + "num_input_tokens_seen": 236176, + "step": 120 + }, + { + "epoch": 0.016037110669317428, + "grad_norm": 0.7653734087944031, + "learning_rate": 4.99970305915319e-06, + "loss": 0.0027, + "num_input_tokens_seen": 237824, + "step": 121 + }, + { + "epoch": 0.016169648774022532, + "grad_norm": 0.6011762022972107, + "learning_rate": 4.999697684875596e-06, + "loss": 0.0021, + "num_input_tokens_seen": 240552, + "step": 122 + }, + { + "epoch": 0.016302186878727636, + "grad_norm": 0.4856562912464142, + "learning_rate": 4.9996922624021076e-06, + "loss": 0.0017, + "num_input_tokens_seen": 242560, + "step": 123 + }, + { + "epoch": 0.016434724983432736, + "grad_norm": 0.09074526280164719, + "learning_rate": 4.9996867917328264e-06, + "loss": 0.0003, + "num_input_tokens_seen": 245040, + "step": 124 + }, + { + "epoch": 0.01656726308813784, + "grad_norm": 0.14254754781723022, + "learning_rate": 4.99968127286786e-06, + "loss": 0.0005, + "num_input_tokens_seen": 247464, + "step": 125 + }, + { + "epoch": 0.016699801192842943, + "grad_norm": 21.311914443969727, + "learning_rate": 4.999675705807314e-06, + "loss": 0.54, + "num_input_tokens_seen": 249168, + "step": 126 + }, + { + "epoch": 0.016832339297548043, + "grad_norm": 20.326438903808594, + "learning_rate": 4.999670090551296e-06, + "loss": 0.4356, + "num_input_tokens_seen": 251232, + "step": 127 + }, + { + "epoch": 0.016964877402253147, + "grad_norm": 0.01491043996065855, + "learning_rate": 4.999664427099914e-06, + "loss": 0.0001, + "num_input_tokens_seen": 253296, + "step": 128 + }, + { + "epoch": 0.01709741550695825, + "grad_norm": 23.955692291259766, + "learning_rate": 4.999658715453279e-06, + "loss": 0.5625, + "num_input_tokens_seen": 255376, + "step": 129 + }, + { + "epoch": 0.017229953611663355, + "grad_norm": 0.004617680795490742, + "learning_rate": 4.999652955611497e-06, + "loss": 0.0, + "num_input_tokens_seen": 257456, + "step": 130 + }, + { + "epoch": 0.017362491716368455, + "grad_norm": 18.199174880981445, + "learning_rate": 4.9996471475746835e-06, + "loss": 0.4444, + "num_input_tokens_seen": 259528, + "step": 131 + }, + { + "epoch": 0.01749502982107356, + "grad_norm": 7.164508819580078, + "learning_rate": 4.999641291342948e-06, + "loss": 0.1856, + "num_input_tokens_seen": 261320, + "step": 132 + }, + { + "epoch": 0.017627567925778662, + "grad_norm": 28.76552963256836, + "learning_rate": 4.999635386916404e-06, + "loss": 1.0287, + "num_input_tokens_seen": 263936, + "step": 133 + }, + { + "epoch": 0.017760106030483763, + "grad_norm": 0.014427479356527328, + "learning_rate": 4.999629434295165e-06, + "loss": 0.0001, + "num_input_tokens_seen": 266784, + "step": 134 + }, + { + "epoch": 0.017892644135188866, + "grad_norm": 15.610347747802734, + "learning_rate": 4.999623433479346e-06, + "loss": 0.4054, + "num_input_tokens_seen": 268744, + "step": 135 + }, + { + "epoch": 0.01802518223989397, + "grad_norm": 0.03668922930955887, + "learning_rate": 4.999617384469063e-06, + "loss": 0.0001, + "num_input_tokens_seen": 270464, + "step": 136 + }, + { + "epoch": 0.018157720344599074, + "grad_norm": 45.97502517700195, + "learning_rate": 4.999611287264433e-06, + "loss": 0.566, + "num_input_tokens_seen": 271928, + "step": 137 + }, + { + "epoch": 0.018290258449304174, + "grad_norm": 5.405684471130371, + "learning_rate": 4.999605141865573e-06, + "loss": 0.0962, + "num_input_tokens_seen": 273864, + "step": 138 + }, + { + "epoch": 0.018422796554009278, + "grad_norm": 20.897493362426758, + "learning_rate": 4.999598948272601e-06, + "loss": 0.3346, + "num_input_tokens_seen": 275368, + "step": 139 + }, + { + "epoch": 0.01855533465871438, + "grad_norm": 11.520383834838867, + "learning_rate": 4.999592706485636e-06, + "loss": 0.2364, + "num_input_tokens_seen": 277304, + "step": 140 + }, + { + "epoch": 0.01868787276341948, + "grad_norm": 5.902313709259033, + "learning_rate": 4.999586416504801e-06, + "loss": 0.0918, + "num_input_tokens_seen": 278904, + "step": 141 + }, + { + "epoch": 0.018820410868124585, + "grad_norm": 16.073192596435547, + "learning_rate": 4.999580078330215e-06, + "loss": 0.1683, + "num_input_tokens_seen": 280552, + "step": 142 + }, + { + "epoch": 0.01895294897282969, + "grad_norm": 1.160386085510254, + "learning_rate": 4.999573691962001e-06, + "loss": 0.0047, + "num_input_tokens_seen": 282752, + "step": 143 + }, + { + "epoch": 0.019085487077534793, + "grad_norm": 2.3690803050994873, + "learning_rate": 4.99956725740028e-06, + "loss": 0.0096, + "num_input_tokens_seen": 285584, + "step": 144 + }, + { + "epoch": 0.019218025182239893, + "grad_norm": 6.115748882293701, + "learning_rate": 4.99956077464518e-06, + "loss": 0.0868, + "num_input_tokens_seen": 286832, + "step": 145 + }, + { + "epoch": 0.019350563286944997, + "grad_norm": 1.332751750946045, + "learning_rate": 4.999554243696822e-06, + "loss": 0.0054, + "num_input_tokens_seen": 288816, + "step": 146 + }, + { + "epoch": 0.0194831013916501, + "grad_norm": 18.80128288269043, + "learning_rate": 4.999547664555335e-06, + "loss": 0.4129, + "num_input_tokens_seen": 290592, + "step": 147 + }, + { + "epoch": 0.0196156394963552, + "grad_norm": 16.31783103942871, + "learning_rate": 4.999541037220845e-06, + "loss": 0.879, + "num_input_tokens_seen": 293464, + "step": 148 + }, + { + "epoch": 0.019748177601060304, + "grad_norm": 14.406692504882812, + "learning_rate": 4.999534361693479e-06, + "loss": 0.3031, + "num_input_tokens_seen": 295664, + "step": 149 + }, + { + "epoch": 0.019880715705765408, + "grad_norm": 3.517805337905884, + "learning_rate": 4.999527637973367e-06, + "loss": 0.0144, + "num_input_tokens_seen": 298008, + "step": 150 + }, + { + "epoch": 0.020013253810470512, + "grad_norm": 23.954038619995117, + "learning_rate": 4.999520866060637e-06, + "loss": 0.6077, + "num_input_tokens_seen": 301040, + "step": 151 + }, + { + "epoch": 0.020145791915175612, + "grad_norm": 17.75224494934082, + "learning_rate": 4.99951404595542e-06, + "loss": 0.4108, + "num_input_tokens_seen": 303840, + "step": 152 + }, + { + "epoch": 0.020278330019880716, + "grad_norm": 18.609392166137695, + "learning_rate": 4.999507177657848e-06, + "loss": 0.1972, + "num_input_tokens_seen": 306024, + "step": 153 + }, + { + "epoch": 0.02041086812458582, + "grad_norm": 20.8830509185791, + "learning_rate": 4.999500261168054e-06, + "loss": 0.6959, + "num_input_tokens_seen": 308224, + "step": 154 + }, + { + "epoch": 0.02054340622929092, + "grad_norm": 14.19822883605957, + "learning_rate": 4.99949329648617e-06, + "loss": 0.2804, + "num_input_tokens_seen": 309752, + "step": 155 + }, + { + "epoch": 0.020675944333996023, + "grad_norm": 9.410264015197754, + "learning_rate": 4.999486283612332e-06, + "loss": 0.15, + "num_input_tokens_seen": 311368, + "step": 156 + }, + { + "epoch": 0.020808482438701127, + "grad_norm": 26.67640495300293, + "learning_rate": 4.999479222546673e-06, + "loss": 0.544, + "num_input_tokens_seen": 313456, + "step": 157 + }, + { + "epoch": 0.02094102054340623, + "grad_norm": 20.946008682250977, + "learning_rate": 4.9994721132893305e-06, + "loss": 0.1774, + "num_input_tokens_seen": 315808, + "step": 158 + }, + { + "epoch": 0.02107355864811133, + "grad_norm": 12.023552894592285, + "learning_rate": 4.9994649558404415e-06, + "loss": 0.1994, + "num_input_tokens_seen": 317824, + "step": 159 + }, + { + "epoch": 0.021206096752816435, + "grad_norm": 3.0416977405548096, + "learning_rate": 4.999457750200143e-06, + "loss": 0.0128, + "num_input_tokens_seen": 319336, + "step": 160 + }, + { + "epoch": 0.02133863485752154, + "grad_norm": 18.2331600189209, + "learning_rate": 4.999450496368576e-06, + "loss": 0.4826, + "num_input_tokens_seen": 321272, + "step": 161 + }, + { + "epoch": 0.02147117296222664, + "grad_norm": 8.425516128540039, + "learning_rate": 4.999443194345879e-06, + "loss": 0.0416, + "num_input_tokens_seen": 323240, + "step": 162 + }, + { + "epoch": 0.021603711066931743, + "grad_norm": 5.87241268157959, + "learning_rate": 4.999435844132193e-06, + "loss": 0.0265, + "num_input_tokens_seen": 325416, + "step": 163 + }, + { + "epoch": 0.021736249171636846, + "grad_norm": 4.545175075531006, + "learning_rate": 4.999428445727659e-06, + "loss": 0.019, + "num_input_tokens_seen": 327384, + "step": 164 + }, + { + "epoch": 0.02186878727634195, + "grad_norm": 17.245952606201172, + "learning_rate": 4.9994209991324205e-06, + "loss": 0.4342, + "num_input_tokens_seen": 328744, + "step": 165 + }, + { + "epoch": 0.02200132538104705, + "grad_norm": 2.1576149463653564, + "learning_rate": 4.999413504346621e-06, + "loss": 0.0087, + "num_input_tokens_seen": 330616, + "step": 166 + }, + { + "epoch": 0.022133863485752154, + "grad_norm": 0.9837048649787903, + "learning_rate": 4.999405961370405e-06, + "loss": 0.0039, + "num_input_tokens_seen": 331952, + "step": 167 + }, + { + "epoch": 0.022266401590457258, + "grad_norm": 15.896281242370605, + "learning_rate": 4.999398370203917e-06, + "loss": 0.3722, + "num_input_tokens_seen": 333400, + "step": 168 + }, + { + "epoch": 0.022398939695162358, + "grad_norm": 21.467859268188477, + "learning_rate": 4.999390730847306e-06, + "loss": 0.7088, + "num_input_tokens_seen": 335704, + "step": 169 + }, + { + "epoch": 0.02253147779986746, + "grad_norm": 30.230329513549805, + "learning_rate": 4.9993830433007165e-06, + "loss": 0.7724, + "num_input_tokens_seen": 337736, + "step": 170 + }, + { + "epoch": 0.022664015904572565, + "grad_norm": 0.07943902164697647, + "learning_rate": 4.999375307564297e-06, + "loss": 0.0004, + "num_input_tokens_seen": 338928, + "step": 171 + }, + { + "epoch": 0.02279655400927767, + "grad_norm": 16.193147659301758, + "learning_rate": 4.999367523638198e-06, + "loss": 0.4945, + "num_input_tokens_seen": 341384, + "step": 172 + }, + { + "epoch": 0.02292909211398277, + "grad_norm": 26.579015731811523, + "learning_rate": 4.999359691522568e-06, + "loss": 0.7879, + "num_input_tokens_seen": 343792, + "step": 173 + }, + { + "epoch": 0.023061630218687873, + "grad_norm": 15.10954761505127, + "learning_rate": 4.99935181121756e-06, + "loss": 0.37, + "num_input_tokens_seen": 345416, + "step": 174 + }, + { + "epoch": 0.023194168323392977, + "grad_norm": 19.339305877685547, + "learning_rate": 4.999343882723325e-06, + "loss": 0.6132, + "num_input_tokens_seen": 346728, + "step": 175 + }, + { + "epoch": 0.023326706428098077, + "grad_norm": 20.464967727661133, + "learning_rate": 4.999335906040015e-06, + "loss": 0.6838, + "num_input_tokens_seen": 348536, + "step": 176 + }, + { + "epoch": 0.02345924453280318, + "grad_norm": 24.76003646850586, + "learning_rate": 4.999327881167785e-06, + "loss": 0.8473, + "num_input_tokens_seen": 350632, + "step": 177 + }, + { + "epoch": 0.023591782637508284, + "grad_norm": 29.685523986816406, + "learning_rate": 4.999319808106789e-06, + "loss": 0.4731, + "num_input_tokens_seen": 352032, + "step": 178 + }, + { + "epoch": 0.023724320742213385, + "grad_norm": 0.12374715507030487, + "learning_rate": 4.999311686857184e-06, + "loss": 0.0006, + "num_input_tokens_seen": 353936, + "step": 179 + }, + { + "epoch": 0.02385685884691849, + "grad_norm": 15.263150215148926, + "learning_rate": 4.999303517419124e-06, + "loss": 0.2656, + "num_input_tokens_seen": 355856, + "step": 180 + }, + { + "epoch": 0.023989396951623592, + "grad_norm": 21.625612258911133, + "learning_rate": 4.999295299792768e-06, + "loss": 0.4828, + "num_input_tokens_seen": 357560, + "step": 181 + }, + { + "epoch": 0.024121935056328696, + "grad_norm": 15.519153594970703, + "learning_rate": 4.999287033978275e-06, + "loss": 0.3393, + "num_input_tokens_seen": 359240, + "step": 182 + }, + { + "epoch": 0.024254473161033796, + "grad_norm": 11.988371849060059, + "learning_rate": 4.999278719975804e-06, + "loss": 0.2141, + "num_input_tokens_seen": 360992, + "step": 183 + }, + { + "epoch": 0.0243870112657389, + "grad_norm": 18.441619873046875, + "learning_rate": 4.999270357785515e-06, + "loss": 0.507, + "num_input_tokens_seen": 363120, + "step": 184 + }, + { + "epoch": 0.024519549370444003, + "grad_norm": 12.764714241027832, + "learning_rate": 4.999261947407568e-06, + "loss": 0.2737, + "num_input_tokens_seen": 365032, + "step": 185 + }, + { + "epoch": 0.024652087475149104, + "grad_norm": 22.18332862854004, + "learning_rate": 4.999253488842128e-06, + "loss": 0.463, + "num_input_tokens_seen": 366448, + "step": 186 + }, + { + "epoch": 0.024784625579854207, + "grad_norm": 2.5686256885528564, + "learning_rate": 4.999244982089357e-06, + "loss": 0.0141, + "num_input_tokens_seen": 367880, + "step": 187 + }, + { + "epoch": 0.02491716368455931, + "grad_norm": 1.7752444744110107, + "learning_rate": 4.999236427149418e-06, + "loss": 0.0084, + "num_input_tokens_seen": 369128, + "step": 188 + }, + { + "epoch": 0.025049701789264415, + "grad_norm": 9.059718132019043, + "learning_rate": 4.9992278240224765e-06, + "loss": 0.2373, + "num_input_tokens_seen": 371376, + "step": 189 + }, + { + "epoch": 0.025182239893969515, + "grad_norm": 14.930595397949219, + "learning_rate": 4.999219172708698e-06, + "loss": 0.2159, + "num_input_tokens_seen": 373576, + "step": 190 + }, + { + "epoch": 0.02531477799867462, + "grad_norm": 31.155925750732422, + "learning_rate": 4.99921047320825e-06, + "loss": 0.5783, + "num_input_tokens_seen": 375728, + "step": 191 + }, + { + "epoch": 0.025447316103379723, + "grad_norm": 2.1444640159606934, + "learning_rate": 4.9992017255213e-06, + "loss": 0.0099, + "num_input_tokens_seen": 377176, + "step": 192 + }, + { + "epoch": 0.025579854208084823, + "grad_norm": 12.785717010498047, + "learning_rate": 4.999192929648017e-06, + "loss": 0.1593, + "num_input_tokens_seen": 379112, + "step": 193 + }, + { + "epoch": 0.025712392312789926, + "grad_norm": 2.521740198135376, + "learning_rate": 4.999184085588569e-06, + "loss": 0.0115, + "num_input_tokens_seen": 380800, + "step": 194 + }, + { + "epoch": 0.02584493041749503, + "grad_norm": 15.717253684997559, + "learning_rate": 4.99917519334313e-06, + "loss": 0.2697, + "num_input_tokens_seen": 383360, + "step": 195 + }, + { + "epoch": 0.025977468522200134, + "grad_norm": 22.165664672851562, + "learning_rate": 4.999166252911868e-06, + "loss": 0.4282, + "num_input_tokens_seen": 385080, + "step": 196 + }, + { + "epoch": 0.026110006626905234, + "grad_norm": 7.5503644943237305, + "learning_rate": 4.999157264294956e-06, + "loss": 0.1602, + "num_input_tokens_seen": 387392, + "step": 197 + }, + { + "epoch": 0.026242544731610338, + "grad_norm": 17.232053756713867, + "learning_rate": 4.999148227492568e-06, + "loss": 0.6237, + "num_input_tokens_seen": 389056, + "step": 198 + }, + { + "epoch": 0.02637508283631544, + "grad_norm": 19.79399299621582, + "learning_rate": 4.999139142504878e-06, + "loss": 0.4356, + "num_input_tokens_seen": 392336, + "step": 199 + }, + { + "epoch": 0.026507620941020542, + "grad_norm": 4.224052906036377, + "learning_rate": 4.999130009332062e-06, + "loss": 0.0712, + "num_input_tokens_seen": 394640, + "step": 200 + }, + { + "epoch": 0.026640159045725646, + "grad_norm": 17.576534271240234, + "learning_rate": 4.999120827974295e-06, + "loss": 0.2182, + "num_input_tokens_seen": 396496, + "step": 201 + }, + { + "epoch": 0.02677269715043075, + "grad_norm": 14.022331237792969, + "learning_rate": 4.999111598431754e-06, + "loss": 0.3605, + "num_input_tokens_seen": 398736, + "step": 202 + }, + { + "epoch": 0.026905235255135853, + "grad_norm": 21.757204055786133, + "learning_rate": 4.999102320704618e-06, + "loss": 0.3021, + "num_input_tokens_seen": 400872, + "step": 203 + }, + { + "epoch": 0.027037773359840953, + "grad_norm": 21.306703567504883, + "learning_rate": 4.999092994793065e-06, + "loss": 0.6083, + "num_input_tokens_seen": 403008, + "step": 204 + }, + { + "epoch": 0.027170311464546057, + "grad_norm": 4.1254754066467285, + "learning_rate": 4.9990836206972746e-06, + "loss": 0.0184, + "num_input_tokens_seen": 405536, + "step": 205 + }, + { + "epoch": 0.02730284956925116, + "grad_norm": 11.163147926330566, + "learning_rate": 4.999074198417429e-06, + "loss": 0.2964, + "num_input_tokens_seen": 407504, + "step": 206 + }, + { + "epoch": 0.02743538767395626, + "grad_norm": 22.429800033569336, + "learning_rate": 4.999064727953707e-06, + "loss": 0.446, + "num_input_tokens_seen": 409536, + "step": 207 + }, + { + "epoch": 0.027567925778661365, + "grad_norm": 4.595419883728027, + "learning_rate": 4.999055209306295e-06, + "loss": 0.0204, + "num_input_tokens_seen": 411592, + "step": 208 + }, + { + "epoch": 0.02770046388336647, + "grad_norm": 20.951740264892578, + "learning_rate": 4.999045642475374e-06, + "loss": 0.3642, + "num_input_tokens_seen": 413496, + "step": 209 + }, + { + "epoch": 0.027833001988071572, + "grad_norm": 18.991111755371094, + "learning_rate": 4.999036027461128e-06, + "loss": 0.4246, + "num_input_tokens_seen": 415864, + "step": 210 + }, + { + "epoch": 0.027965540092776672, + "grad_norm": 23.66268539428711, + "learning_rate": 4.999026364263744e-06, + "loss": 0.5465, + "num_input_tokens_seen": 418560, + "step": 211 + }, + { + "epoch": 0.028098078197481776, + "grad_norm": 10.489510536193848, + "learning_rate": 4.9990166528834085e-06, + "loss": 0.3397, + "num_input_tokens_seen": 421304, + "step": 212 + }, + { + "epoch": 0.02823061630218688, + "grad_norm": 4.345235347747803, + "learning_rate": 4.999006893320307e-06, + "loss": 0.0193, + "num_input_tokens_seen": 423144, + "step": 213 + }, + { + "epoch": 0.02836315440689198, + "grad_norm": 18.24567413330078, + "learning_rate": 4.998997085574628e-06, + "loss": 0.2422, + "num_input_tokens_seen": 425352, + "step": 214 + }, + { + "epoch": 0.028495692511597084, + "grad_norm": 1.7618850469589233, + "learning_rate": 4.998987229646562e-06, + "loss": 0.0073, + "num_input_tokens_seen": 426672, + "step": 215 + }, + { + "epoch": 0.028628230616302187, + "grad_norm": 10.86171817779541, + "learning_rate": 4.9989773255362995e-06, + "loss": 0.13, + "num_input_tokens_seen": 428568, + "step": 216 + }, + { + "epoch": 0.02876076872100729, + "grad_norm": 31.913516998291016, + "learning_rate": 4.9989673732440285e-06, + "loss": 0.6857, + "num_input_tokens_seen": 430936, + "step": 217 + }, + { + "epoch": 0.02889330682571239, + "grad_norm": 14.94822883605957, + "learning_rate": 4.9989573727699435e-06, + "loss": 0.2922, + "num_input_tokens_seen": 432392, + "step": 218 + }, + { + "epoch": 0.029025844930417495, + "grad_norm": 0.7612848281860352, + "learning_rate": 4.998947324114236e-06, + "loss": 0.0031, + "num_input_tokens_seen": 433984, + "step": 219 + }, + { + "epoch": 0.0291583830351226, + "grad_norm": 17.241859436035156, + "learning_rate": 4.998937227277099e-06, + "loss": 0.3538, + "num_input_tokens_seen": 436368, + "step": 220 + }, + { + "epoch": 0.0292909211398277, + "grad_norm": 4.021599769592285, + "learning_rate": 4.998927082258731e-06, + "loss": 0.044, + "num_input_tokens_seen": 438072, + "step": 221 + }, + { + "epoch": 0.029423459244532803, + "grad_norm": 11.155754089355469, + "learning_rate": 4.998916889059323e-06, + "loss": 0.2909, + "num_input_tokens_seen": 439488, + "step": 222 + }, + { + "epoch": 0.029555997349237906, + "grad_norm": 1.1311284303665161, + "learning_rate": 4.998906647679074e-06, + "loss": 0.0045, + "num_input_tokens_seen": 441304, + "step": 223 + }, + { + "epoch": 0.02968853545394301, + "grad_norm": 16.937152862548828, + "learning_rate": 4.998896358118181e-06, + "loss": 0.2745, + "num_input_tokens_seen": 442928, + "step": 224 + }, + { + "epoch": 0.02982107355864811, + "grad_norm": 32.88721466064453, + "learning_rate": 4.998886020376842e-06, + "loss": 0.6268, + "num_input_tokens_seen": 446216, + "step": 225 + }, + { + "epoch": 0.029953611663353214, + "grad_norm": 27.79301643371582, + "learning_rate": 4.9988756344552565e-06, + "loss": 1.0521, + "num_input_tokens_seen": 449200, + "step": 226 + }, + { + "epoch": 0.030086149768058318, + "grad_norm": 15.246744155883789, + "learning_rate": 4.998865200353625e-06, + "loss": 0.1614, + "num_input_tokens_seen": 451320, + "step": 227 + }, + { + "epoch": 0.030218687872763418, + "grad_norm": 14.964058876037598, + "learning_rate": 4.998854718072149e-06, + "loss": 0.3347, + "num_input_tokens_seen": 453064, + "step": 228 + }, + { + "epoch": 0.030351225977468522, + "grad_norm": 38.46656036376953, + "learning_rate": 4.998844187611031e-06, + "loss": 0.8131, + "num_input_tokens_seen": 455048, + "step": 229 + }, + { + "epoch": 0.030483764082173626, + "grad_norm": 16.31789207458496, + "learning_rate": 4.998833608970471e-06, + "loss": 0.3002, + "num_input_tokens_seen": 456976, + "step": 230 + }, + { + "epoch": 0.03061630218687873, + "grad_norm": 16.649085998535156, + "learning_rate": 4.998822982150677e-06, + "loss": 0.3018, + "num_input_tokens_seen": 459376, + "step": 231 + }, + { + "epoch": 0.03074884029158383, + "grad_norm": 28.501062393188477, + "learning_rate": 4.998812307151851e-06, + "loss": 0.8573, + "num_input_tokens_seen": 461160, + "step": 232 + }, + { + "epoch": 0.030881378396288933, + "grad_norm": 9.457627296447754, + "learning_rate": 4.9988015839741995e-06, + "loss": 0.098, + "num_input_tokens_seen": 463480, + "step": 233 + }, + { + "epoch": 0.031013916500994037, + "grad_norm": 1.945236325263977, + "learning_rate": 4.9987908126179305e-06, + "loss": 0.0075, + "num_input_tokens_seen": 465048, + "step": 234 + }, + { + "epoch": 0.031146454605699137, + "grad_norm": 16.86723518371582, + "learning_rate": 4.9987799930832515e-06, + "loss": 0.4702, + "num_input_tokens_seen": 467840, + "step": 235 + }, + { + "epoch": 0.03127899271040424, + "grad_norm": 10.56873607635498, + "learning_rate": 4.998769125370369e-06, + "loss": 0.0711, + "num_input_tokens_seen": 469648, + "step": 236 + }, + { + "epoch": 0.03141153081510934, + "grad_norm": 22.688934326171875, + "learning_rate": 4.998758209479495e-06, + "loss": 0.471, + "num_input_tokens_seen": 471440, + "step": 237 + }, + { + "epoch": 0.03154406891981445, + "grad_norm": 9.229374885559082, + "learning_rate": 4.998747245410838e-06, + "loss": 0.0545, + "num_input_tokens_seen": 474248, + "step": 238 + }, + { + "epoch": 0.03167660702451955, + "grad_norm": 43.888267517089844, + "learning_rate": 4.998736233164611e-06, + "loss": 0.7092, + "num_input_tokens_seen": 477184, + "step": 239 + }, + { + "epoch": 0.03180914512922465, + "grad_norm": 6.8438897132873535, + "learning_rate": 4.9987251727410254e-06, + "loss": 0.0346, + "num_input_tokens_seen": 480040, + "step": 240 + }, + { + "epoch": 0.031941683233929756, + "grad_norm": 2.162801742553711, + "learning_rate": 4.998714064140294e-06, + "loss": 0.0083, + "num_input_tokens_seen": 482648, + "step": 241 + }, + { + "epoch": 0.032074221338634856, + "grad_norm": 11.149718284606934, + "learning_rate": 4.998702907362633e-06, + "loss": 0.2339, + "num_input_tokens_seen": 485136, + "step": 242 + }, + { + "epoch": 0.03220675944333996, + "grad_norm": 0.5103450417518616, + "learning_rate": 4.998691702408255e-06, + "loss": 0.0021, + "num_input_tokens_seen": 486680, + "step": 243 + }, + { + "epoch": 0.032339297548045064, + "grad_norm": 13.526078224182129, + "learning_rate": 4.9986804492773785e-06, + "loss": 0.1776, + "num_input_tokens_seen": 488784, + "step": 244 + }, + { + "epoch": 0.032471835652750164, + "grad_norm": 0.023342560976743698, + "learning_rate": 4.998669147970218e-06, + "loss": 0.0001, + "num_input_tokens_seen": 490448, + "step": 245 + }, + { + "epoch": 0.03260437375745527, + "grad_norm": 14.449139595031738, + "learning_rate": 4.998657798486994e-06, + "loss": 0.2465, + "num_input_tokens_seen": 492584, + "step": 246 + }, + { + "epoch": 0.03273691186216037, + "grad_norm": 0.13257715106010437, + "learning_rate": 4.998646400827923e-06, + "loss": 0.0005, + "num_input_tokens_seen": 494648, + "step": 247 + }, + { + "epoch": 0.03286944996686547, + "grad_norm": 0.009109255857765675, + "learning_rate": 4.998634954993224e-06, + "loss": 0.0, + "num_input_tokens_seen": 496912, + "step": 248 + }, + { + "epoch": 0.03300198807157058, + "grad_norm": 9.28011703491211, + "learning_rate": 4.998623460983121e-06, + "loss": 0.2192, + "num_input_tokens_seen": 498320, + "step": 249 + }, + { + "epoch": 0.03313452617627568, + "grad_norm": 35.02414321899414, + "learning_rate": 4.998611918797834e-06, + "loss": 0.3857, + "num_input_tokens_seen": 499840, + "step": 250 + }, + { + "epoch": 0.03326706428098078, + "grad_norm": 9.046163558959961, + "learning_rate": 4.998600328437586e-06, + "loss": 0.2055, + "num_input_tokens_seen": 501984, + "step": 251 + }, + { + "epoch": 0.033399602385685886, + "grad_norm": 0.29357361793518066, + "learning_rate": 4.998588689902599e-06, + "loss": 0.0013, + "num_input_tokens_seen": 503952, + "step": 252 + }, + { + "epoch": 0.03353214049039099, + "grad_norm": 12.435687065124512, + "learning_rate": 4.998577003193099e-06, + "loss": 0.2083, + "num_input_tokens_seen": 505832, + "step": 253 + }, + { + "epoch": 0.03366467859509609, + "grad_norm": 62.12875747680664, + "learning_rate": 4.99856526830931e-06, + "loss": 0.4879, + "num_input_tokens_seen": 507304, + "step": 254 + }, + { + "epoch": 0.033797216699801194, + "grad_norm": 0.09826428443193436, + "learning_rate": 4.998553485251459e-06, + "loss": 0.0004, + "num_input_tokens_seen": 508800, + "step": 255 + }, + { + "epoch": 0.033929754804506294, + "grad_norm": 15.336609840393066, + "learning_rate": 4.998541654019774e-06, + "loss": 0.4523, + "num_input_tokens_seen": 510440, + "step": 256 + }, + { + "epoch": 0.0340622929092114, + "grad_norm": 17.225994110107422, + "learning_rate": 4.998529774614482e-06, + "loss": 0.3167, + "num_input_tokens_seen": 512544, + "step": 257 + }, + { + "epoch": 0.0341948310139165, + "grad_norm": 20.611408233642578, + "learning_rate": 4.998517847035812e-06, + "loss": 0.4972, + "num_input_tokens_seen": 514160, + "step": 258 + }, + { + "epoch": 0.0343273691186216, + "grad_norm": 0.1505860835313797, + "learning_rate": 4.998505871283994e-06, + "loss": 0.0007, + "num_input_tokens_seen": 516064, + "step": 259 + }, + { + "epoch": 0.03445990722332671, + "grad_norm": 33.17475128173828, + "learning_rate": 4.99849384735926e-06, + "loss": 0.4428, + "num_input_tokens_seen": 518064, + "step": 260 + }, + { + "epoch": 0.03459244532803181, + "grad_norm": 28.57742691040039, + "learning_rate": 4.99848177526184e-06, + "loss": 0.9032, + "num_input_tokens_seen": 519992, + "step": 261 + }, + { + "epoch": 0.03472498343273691, + "grad_norm": 0.5577319860458374, + "learning_rate": 4.998469654991969e-06, + "loss": 0.0027, + "num_input_tokens_seen": 521592, + "step": 262 + }, + { + "epoch": 0.03485752153744202, + "grad_norm": 6.979521751403809, + "learning_rate": 4.998457486549878e-06, + "loss": 0.2413, + "num_input_tokens_seen": 524088, + "step": 263 + }, + { + "epoch": 0.03499005964214712, + "grad_norm": 14.174946784973145, + "learning_rate": 4.998445269935805e-06, + "loss": 0.2806, + "num_input_tokens_seen": 525904, + "step": 264 + }, + { + "epoch": 0.03512259774685222, + "grad_norm": 13.45556354522705, + "learning_rate": 4.998433005149981e-06, + "loss": 0.4349, + "num_input_tokens_seen": 528288, + "step": 265 + }, + { + "epoch": 0.035255135851557325, + "grad_norm": 24.512451171875, + "learning_rate": 4.998420692192647e-06, + "loss": 0.4747, + "num_input_tokens_seen": 530176, + "step": 266 + }, + { + "epoch": 0.035387673956262425, + "grad_norm": 14.442388534545898, + "learning_rate": 4.9984083310640375e-06, + "loss": 0.3086, + "num_input_tokens_seen": 532744, + "step": 267 + }, + { + "epoch": 0.035520212060967525, + "grad_norm": 13.616148948669434, + "learning_rate": 4.998395921764393e-06, + "loss": 0.2474, + "num_input_tokens_seen": 535144, + "step": 268 + }, + { + "epoch": 0.03565275016567263, + "grad_norm": 12.278056144714355, + "learning_rate": 4.9983834642939505e-06, + "loss": 0.3656, + "num_input_tokens_seen": 537872, + "step": 269 + }, + { + "epoch": 0.03578528827037773, + "grad_norm": 35.60847091674805, + "learning_rate": 4.998370958652952e-06, + "loss": 0.5403, + "num_input_tokens_seen": 540856, + "step": 270 + }, + { + "epoch": 0.03591782637508284, + "grad_norm": 13.47176742553711, + "learning_rate": 4.998358404841637e-06, + "loss": 0.3135, + "num_input_tokens_seen": 542320, + "step": 271 + }, + { + "epoch": 0.03605036447978794, + "grad_norm": 25.42990493774414, + "learning_rate": 4.998345802860249e-06, + "loss": 0.5438, + "num_input_tokens_seen": 545176, + "step": 272 + }, + { + "epoch": 0.03618290258449304, + "grad_norm": 20.656879425048828, + "learning_rate": 4.998333152709031e-06, + "loss": 0.3382, + "num_input_tokens_seen": 547128, + "step": 273 + }, + { + "epoch": 0.03631544068919815, + "grad_norm": 33.70890426635742, + "learning_rate": 4.998320454388225e-06, + "loss": 0.5682, + "num_input_tokens_seen": 548944, + "step": 274 + }, + { + "epoch": 0.03644797879390325, + "grad_norm": 6.59552001953125, + "learning_rate": 4.998307707898078e-06, + "loss": 0.039, + "num_input_tokens_seen": 551064, + "step": 275 + }, + { + "epoch": 0.03658051689860835, + "grad_norm": 12.120160102844238, + "learning_rate": 4.998294913238834e-06, + "loss": 0.2049, + "num_input_tokens_seen": 552736, + "step": 276 + }, + { + "epoch": 0.036713055003313455, + "grad_norm": 13.951089859008789, + "learning_rate": 4.998282070410741e-06, + "loss": 0.2062, + "num_input_tokens_seen": 556584, + "step": 277 + }, + { + "epoch": 0.036845593108018555, + "grad_norm": 25.15782928466797, + "learning_rate": 4.998269179414047e-06, + "loss": 0.306, + "num_input_tokens_seen": 557960, + "step": 278 + }, + { + "epoch": 0.036978131212723656, + "grad_norm": 21.26768684387207, + "learning_rate": 4.998256240248999e-06, + "loss": 0.3163, + "num_input_tokens_seen": 561984, + "step": 279 + }, + { + "epoch": 0.03711066931742876, + "grad_norm": 21.928241729736328, + "learning_rate": 4.998243252915847e-06, + "loss": 0.5134, + "num_input_tokens_seen": 564784, + "step": 280 + }, + { + "epoch": 0.03724320742213386, + "grad_norm": 16.106935501098633, + "learning_rate": 4.9982302174148425e-06, + "loss": 0.3639, + "num_input_tokens_seen": 566848, + "step": 281 + }, + { + "epoch": 0.03737574552683896, + "grad_norm": 8.305567741394043, + "learning_rate": 4.998217133746235e-06, + "loss": 0.095, + "num_input_tokens_seen": 568584, + "step": 282 + }, + { + "epoch": 0.03750828363154407, + "grad_norm": 2.3119444847106934, + "learning_rate": 4.998204001910279e-06, + "loss": 0.0111, + "num_input_tokens_seen": 569592, + "step": 283 + }, + { + "epoch": 0.03764082173624917, + "grad_norm": 17.673871994018555, + "learning_rate": 4.998190821907225e-06, + "loss": 0.2595, + "num_input_tokens_seen": 571448, + "step": 284 + }, + { + "epoch": 0.03777335984095427, + "grad_norm": 6.476834774017334, + "learning_rate": 4.99817759373733e-06, + "loss": 0.0407, + "num_input_tokens_seen": 573352, + "step": 285 + }, + { + "epoch": 0.03790589794565938, + "grad_norm": 10.310851097106934, + "learning_rate": 4.998164317400846e-06, + "loss": 0.1975, + "num_input_tokens_seen": 574784, + "step": 286 + }, + { + "epoch": 0.03803843605036448, + "grad_norm": 7.472101211547852, + "learning_rate": 4.998150992898032e-06, + "loss": 0.1528, + "num_input_tokens_seen": 576360, + "step": 287 + }, + { + "epoch": 0.038170974155069586, + "grad_norm": 7.403510570526123, + "learning_rate": 4.998137620229143e-06, + "loss": 0.1364, + "num_input_tokens_seen": 578160, + "step": 288 + }, + { + "epoch": 0.038303512259774686, + "grad_norm": 2.993300199508667, + "learning_rate": 4.998124199394437e-06, + "loss": 0.0148, + "num_input_tokens_seen": 580080, + "step": 289 + }, + { + "epoch": 0.038436050364479786, + "grad_norm": 13.170620918273926, + "learning_rate": 4.998110730394174e-06, + "loss": 0.3559, + "num_input_tokens_seen": 582336, + "step": 290 + }, + { + "epoch": 0.03856858846918489, + "grad_norm": 14.553942680358887, + "learning_rate": 4.998097213228611e-06, + "loss": 0.2029, + "num_input_tokens_seen": 583928, + "step": 291 + }, + { + "epoch": 0.03870112657388999, + "grad_norm": 0.8202224969863892, + "learning_rate": 4.998083647898011e-06, + "loss": 0.0029, + "num_input_tokens_seen": 586016, + "step": 292 + }, + { + "epoch": 0.038833664678595094, + "grad_norm": 25.899988174438477, + "learning_rate": 4.998070034402635e-06, + "loss": 0.5873, + "num_input_tokens_seen": 588280, + "step": 293 + }, + { + "epoch": 0.0389662027833002, + "grad_norm": 11.520463943481445, + "learning_rate": 4.9980563727427464e-06, + "loss": 0.1645, + "num_input_tokens_seen": 590600, + "step": 294 + }, + { + "epoch": 0.0390987408880053, + "grad_norm": 18.768911361694336, + "learning_rate": 4.998042662918607e-06, + "loss": 0.6236, + "num_input_tokens_seen": 592976, + "step": 295 + }, + { + "epoch": 0.0392312789927104, + "grad_norm": 0.867225170135498, + "learning_rate": 4.998028904930481e-06, + "loss": 0.0038, + "num_input_tokens_seen": 594848, + "step": 296 + }, + { + "epoch": 0.03936381709741551, + "grad_norm": 25.768062591552734, + "learning_rate": 4.998015098778636e-06, + "loss": 0.4069, + "num_input_tokens_seen": 596640, + "step": 297 + }, + { + "epoch": 0.03949635520212061, + "grad_norm": 12.203022956848145, + "learning_rate": 4.998001244463336e-06, + "loss": 0.2393, + "num_input_tokens_seen": 598832, + "step": 298 + }, + { + "epoch": 0.03962889330682571, + "grad_norm": 25.078598022460938, + "learning_rate": 4.997987341984848e-06, + "loss": 0.4055, + "num_input_tokens_seen": 600400, + "step": 299 + }, + { + "epoch": 0.039761431411530816, + "grad_norm": 2.1533451080322266, + "learning_rate": 4.9979733913434405e-06, + "loss": 0.0306, + "num_input_tokens_seen": 602224, + "step": 300 + }, + { + "epoch": 0.039893969516235916, + "grad_norm": 14.567193031311035, + "learning_rate": 4.997959392539383e-06, + "loss": 0.2431, + "num_input_tokens_seen": 604472, + "step": 301 + }, + { + "epoch": 0.040026507620941024, + "grad_norm": 12.722371101379395, + "learning_rate": 4.997945345572946e-06, + "loss": 0.4987, + "num_input_tokens_seen": 606416, + "step": 302 + }, + { + "epoch": 0.040159045725646124, + "grad_norm": 25.712350845336914, + "learning_rate": 4.997931250444399e-06, + "loss": 0.5941, + "num_input_tokens_seen": 608848, + "step": 303 + }, + { + "epoch": 0.040291583830351224, + "grad_norm": 7.8166184425354, + "learning_rate": 4.997917107154015e-06, + "loss": 0.2187, + "num_input_tokens_seen": 611056, + "step": 304 + }, + { + "epoch": 0.04042412193505633, + "grad_norm": 0.5850040912628174, + "learning_rate": 4.997902915702065e-06, + "loss": 0.0022, + "num_input_tokens_seen": 613552, + "step": 305 + }, + { + "epoch": 0.04055666003976143, + "grad_norm": 23.503761291503906, + "learning_rate": 4.997888676088823e-06, + "loss": 0.7279, + "num_input_tokens_seen": 615648, + "step": 306 + }, + { + "epoch": 0.04068919814446653, + "grad_norm": 19.09429168701172, + "learning_rate": 4.997874388314565e-06, + "loss": 0.3783, + "num_input_tokens_seen": 617648, + "step": 307 + }, + { + "epoch": 0.04082173624917164, + "grad_norm": 16.295747756958008, + "learning_rate": 4.997860052379566e-06, + "loss": 0.4785, + "num_input_tokens_seen": 620128, + "step": 308 + }, + { + "epoch": 0.04095427435387674, + "grad_norm": 7.503650665283203, + "learning_rate": 4.9978456682841015e-06, + "loss": 0.0362, + "num_input_tokens_seen": 622376, + "step": 309 + }, + { + "epoch": 0.04108681245858184, + "grad_norm": 15.009029388427734, + "learning_rate": 4.99783123602845e-06, + "loss": 0.1055, + "num_input_tokens_seen": 624088, + "step": 310 + }, + { + "epoch": 0.04121935056328695, + "grad_norm": 16.56051254272461, + "learning_rate": 4.997816755612887e-06, + "loss": 0.304, + "num_input_tokens_seen": 625752, + "step": 311 + }, + { + "epoch": 0.04135188866799205, + "grad_norm": 10.829145431518555, + "learning_rate": 4.997802227037697e-06, + "loss": 0.1062, + "num_input_tokens_seen": 627472, + "step": 312 + }, + { + "epoch": 0.04148442677269715, + "grad_norm": 20.199914932250977, + "learning_rate": 4.9977876503031545e-06, + "loss": 0.2104, + "num_input_tokens_seen": 629176, + "step": 313 + }, + { + "epoch": 0.041616964877402254, + "grad_norm": 6.902258396148682, + "learning_rate": 4.9977730254095435e-06, + "loss": 0.0944, + "num_input_tokens_seen": 630648, + "step": 314 + }, + { + "epoch": 0.041749502982107355, + "grad_norm": 12.835172653198242, + "learning_rate": 4.997758352357146e-06, + "loss": 0.2762, + "num_input_tokens_seen": 632816, + "step": 315 + }, + { + "epoch": 0.04188204108681246, + "grad_norm": 11.454261779785156, + "learning_rate": 4.997743631146244e-06, + "loss": 0.0646, + "num_input_tokens_seen": 634504, + "step": 316 + }, + { + "epoch": 0.04201457919151756, + "grad_norm": 29.429641723632812, + "learning_rate": 4.997728861777121e-06, + "loss": 0.8085, + "num_input_tokens_seen": 638080, + "step": 317 + }, + { + "epoch": 0.04214711729622266, + "grad_norm": 9.454316139221191, + "learning_rate": 4.997714044250064e-06, + "loss": 0.2269, + "num_input_tokens_seen": 640616, + "step": 318 + }, + { + "epoch": 0.04227965540092777, + "grad_norm": 26.891950607299805, + "learning_rate": 4.997699178565356e-06, + "loss": 0.7373, + "num_input_tokens_seen": 642592, + "step": 319 + }, + { + "epoch": 0.04241219350563287, + "grad_norm": 16.68791961669922, + "learning_rate": 4.997684264723285e-06, + "loss": 0.2951, + "num_input_tokens_seen": 644672, + "step": 320 + }, + { + "epoch": 0.04254473161033797, + "grad_norm": 21.331117630004883, + "learning_rate": 4.997669302724139e-06, + "loss": 0.6098, + "num_input_tokens_seen": 646912, + "step": 321 + }, + { + "epoch": 0.04267726971504308, + "grad_norm": 20.414836883544922, + "learning_rate": 4.997654292568204e-06, + "loss": 0.3962, + "num_input_tokens_seen": 649656, + "step": 322 + }, + { + "epoch": 0.04280980781974818, + "grad_norm": 7.269143104553223, + "learning_rate": 4.997639234255773e-06, + "loss": 0.1993, + "num_input_tokens_seen": 651112, + "step": 323 + }, + { + "epoch": 0.04294234592445328, + "grad_norm": 20.107419967651367, + "learning_rate": 4.9976241277871335e-06, + "loss": 0.3358, + "num_input_tokens_seen": 653312, + "step": 324 + }, + { + "epoch": 0.043074884029158385, + "grad_norm": 27.0461368560791, + "learning_rate": 4.997608973162578e-06, + "loss": 0.5486, + "num_input_tokens_seen": 656072, + "step": 325 + }, + { + "epoch": 0.043207422133863485, + "grad_norm": 17.05916976928711, + "learning_rate": 4.997593770382398e-06, + "loss": 0.4689, + "num_input_tokens_seen": 658840, + "step": 326 + }, + { + "epoch": 0.043339960238568585, + "grad_norm": 1.6389083862304688, + "learning_rate": 4.9975785194468886e-06, + "loss": 0.0072, + "num_input_tokens_seen": 661824, + "step": 327 + }, + { + "epoch": 0.04347249834327369, + "grad_norm": 3.850003242492676, + "learning_rate": 4.997563220356341e-06, + "loss": 0.0198, + "num_input_tokens_seen": 664928, + "step": 328 + }, + { + "epoch": 0.04360503644797879, + "grad_norm": 23.54313087463379, + "learning_rate": 4.997547873111053e-06, + "loss": 0.3895, + "num_input_tokens_seen": 668112, + "step": 329 + }, + { + "epoch": 0.0437375745526839, + "grad_norm": 9.03012466430664, + "learning_rate": 4.997532477711318e-06, + "loss": 0.3714, + "num_input_tokens_seen": 671248, + "step": 330 + }, + { + "epoch": 0.043870112657389, + "grad_norm": 14.154772758483887, + "learning_rate": 4.997517034157433e-06, + "loss": 0.3441, + "num_input_tokens_seen": 672536, + "step": 331 + }, + { + "epoch": 0.0440026507620941, + "grad_norm": 0.9552240967750549, + "learning_rate": 4.997501542449697e-06, + "loss": 0.0043, + "num_input_tokens_seen": 675576, + "step": 332 + }, + { + "epoch": 0.04413518886679921, + "grad_norm": 11.67136001586914, + "learning_rate": 4.99748600258841e-06, + "loss": 0.1134, + "num_input_tokens_seen": 677632, + "step": 333 + }, + { + "epoch": 0.04426772697150431, + "grad_norm": 20.03084945678711, + "learning_rate": 4.997470414573869e-06, + "loss": 0.216, + "num_input_tokens_seen": 681088, + "step": 334 + }, + { + "epoch": 0.04440026507620941, + "grad_norm": 18.869739532470703, + "learning_rate": 4.997454778406375e-06, + "loss": 0.3727, + "num_input_tokens_seen": 683368, + "step": 335 + }, + { + "epoch": 0.044532803180914515, + "grad_norm": 15.195161819458008, + "learning_rate": 4.997439094086231e-06, + "loss": 0.3932, + "num_input_tokens_seen": 685528, + "step": 336 + }, + { + "epoch": 0.044665341285619616, + "grad_norm": 5.1058478355407715, + "learning_rate": 4.9974233616137365e-06, + "loss": 0.0612, + "num_input_tokens_seen": 687896, + "step": 337 + }, + { + "epoch": 0.044797879390324716, + "grad_norm": 8.459250450134277, + "learning_rate": 4.997407580989198e-06, + "loss": 0.0422, + "num_input_tokens_seen": 689520, + "step": 338 + }, + { + "epoch": 0.04493041749502982, + "grad_norm": 29.686885833740234, + "learning_rate": 4.997391752212918e-06, + "loss": 0.421, + "num_input_tokens_seen": 691944, + "step": 339 + }, + { + "epoch": 0.04506295559973492, + "grad_norm": 7.44094181060791, + "learning_rate": 4.997375875285203e-06, + "loss": 0.1209, + "num_input_tokens_seen": 695152, + "step": 340 + }, + { + "epoch": 0.04519549370444002, + "grad_norm": 21.71242332458496, + "learning_rate": 4.997359950206357e-06, + "loss": 0.5102, + "num_input_tokens_seen": 697656, + "step": 341 + }, + { + "epoch": 0.04532803180914513, + "grad_norm": 0.6252732872962952, + "learning_rate": 4.99734397697669e-06, + "loss": 0.0021, + "num_input_tokens_seen": 698952, + "step": 342 + }, + { + "epoch": 0.04546056991385023, + "grad_norm": 10.156767845153809, + "learning_rate": 4.997327955596507e-06, + "loss": 0.2217, + "num_input_tokens_seen": 700608, + "step": 343 + }, + { + "epoch": 0.04559310801855534, + "grad_norm": 7.860878944396973, + "learning_rate": 4.997311886066118e-06, + "loss": 0.1274, + "num_input_tokens_seen": 702120, + "step": 344 + }, + { + "epoch": 0.04572564612326044, + "grad_norm": 11.383088111877441, + "learning_rate": 4.997295768385834e-06, + "loss": 0.2046, + "num_input_tokens_seen": 703528, + "step": 345 + }, + { + "epoch": 0.04585818422796554, + "grad_norm": 7.847553730010986, + "learning_rate": 4.997279602555964e-06, + "loss": 0.0318, + "num_input_tokens_seen": 704848, + "step": 346 + }, + { + "epoch": 0.045990722332670646, + "grad_norm": 19.786420822143555, + "learning_rate": 4.997263388576822e-06, + "loss": 0.3434, + "num_input_tokens_seen": 706392, + "step": 347 + }, + { + "epoch": 0.046123260437375746, + "grad_norm": 2.1406922340393066, + "learning_rate": 4.997247126448718e-06, + "loss": 0.043, + "num_input_tokens_seen": 708000, + "step": 348 + }, + { + "epoch": 0.046255798542080846, + "grad_norm": 4.831175327301025, + "learning_rate": 4.9972308161719665e-06, + "loss": 0.0204, + "num_input_tokens_seen": 709728, + "step": 349 + }, + { + "epoch": 0.04638833664678595, + "grad_norm": 18.041276931762695, + "learning_rate": 4.997214457746882e-06, + "loss": 0.4672, + "num_input_tokens_seen": 711960, + "step": 350 + }, + { + "epoch": 0.046520874751491054, + "grad_norm": 5.1598029136657715, + "learning_rate": 4.99719805117378e-06, + "loss": 0.1205, + "num_input_tokens_seen": 713208, + "step": 351 + }, + { + "epoch": 0.046653412856196154, + "grad_norm": 3.019613265991211, + "learning_rate": 4.997181596452977e-06, + "loss": 0.0065, + "num_input_tokens_seen": 715120, + "step": 352 + }, + { + "epoch": 0.04678595096090126, + "grad_norm": 12.380135536193848, + "learning_rate": 4.99716509358479e-06, + "loss": 0.1354, + "num_input_tokens_seen": 716648, + "step": 353 + }, + { + "epoch": 0.04691848906560636, + "grad_norm": 13.253052711486816, + "learning_rate": 4.9971485425695374e-06, + "loss": 0.126, + "num_input_tokens_seen": 718024, + "step": 354 + }, + { + "epoch": 0.04705102717031146, + "grad_norm": 0.013280677609145641, + "learning_rate": 4.997131943407538e-06, + "loss": 0.0, + "num_input_tokens_seen": 719576, + "step": 355 + }, + { + "epoch": 0.04718356527501657, + "grad_norm": 0.12724220752716064, + "learning_rate": 4.9971152960991134e-06, + "loss": 0.0002, + "num_input_tokens_seen": 722600, + "step": 356 + }, + { + "epoch": 0.04731610337972167, + "grad_norm": 10.176298141479492, + "learning_rate": 4.997098600644582e-06, + "loss": 0.2611, + "num_input_tokens_seen": 724280, + "step": 357 + }, + { + "epoch": 0.04744864148442677, + "grad_norm": 21.48967742919922, + "learning_rate": 4.997081857044267e-06, + "loss": 0.5354, + "num_input_tokens_seen": 726312, + "step": 358 + }, + { + "epoch": 0.047581179589131876, + "grad_norm": 0.03790980949997902, + "learning_rate": 4.997065065298491e-06, + "loss": 0.0001, + "num_input_tokens_seen": 727712, + "step": 359 + }, + { + "epoch": 0.04771371769383698, + "grad_norm": 20.249364852905273, + "learning_rate": 4.997048225407578e-06, + "loss": 0.4925, + "num_input_tokens_seen": 729752, + "step": 360 + }, + { + "epoch": 0.047846255798542084, + "grad_norm": 7.8548078536987305, + "learning_rate": 4.997031337371853e-06, + "loss": 0.1501, + "num_input_tokens_seen": 731480, + "step": 361 + }, + { + "epoch": 0.047978793903247184, + "grad_norm": 13.437089920043945, + "learning_rate": 4.99701440119164e-06, + "loss": 0.188, + "num_input_tokens_seen": 734528, + "step": 362 + }, + { + "epoch": 0.048111332007952284, + "grad_norm": 12.443678855895996, + "learning_rate": 4.996997416867268e-06, + "loss": 0.2899, + "num_input_tokens_seen": 736376, + "step": 363 + }, + { + "epoch": 0.04824387011265739, + "grad_norm": 19.146350860595703, + "learning_rate": 4.996980384399062e-06, + "loss": 0.3962, + "num_input_tokens_seen": 738712, + "step": 364 + }, + { + "epoch": 0.04837640821736249, + "grad_norm": 18.645601272583008, + "learning_rate": 4.996963303787354e-06, + "loss": 0.421, + "num_input_tokens_seen": 741656, + "step": 365 + }, + { + "epoch": 0.04850894632206759, + "grad_norm": 23.880483627319336, + "learning_rate": 4.996946175032469e-06, + "loss": 0.3565, + "num_input_tokens_seen": 743160, + "step": 366 + }, + { + "epoch": 0.0486414844267727, + "grad_norm": 26.378475189208984, + "learning_rate": 4.996928998134739e-06, + "loss": 0.6684, + "num_input_tokens_seen": 745936, + "step": 367 + }, + { + "epoch": 0.0487740225314778, + "grad_norm": 16.886404037475586, + "learning_rate": 4.996911773094496e-06, + "loss": 0.3134, + "num_input_tokens_seen": 747736, + "step": 368 + }, + { + "epoch": 0.0489065606361829, + "grad_norm": 15.819960594177246, + "learning_rate": 4.9968944999120715e-06, + "loss": 0.2254, + "num_input_tokens_seen": 749528, + "step": 369 + }, + { + "epoch": 0.04903909874088801, + "grad_norm": 2.205227851867676, + "learning_rate": 4.996877178587799e-06, + "loss": 0.0097, + "num_input_tokens_seen": 750640, + "step": 370 + }, + { + "epoch": 0.04917163684559311, + "grad_norm": 19.295799255371094, + "learning_rate": 4.9968598091220115e-06, + "loss": 0.4687, + "num_input_tokens_seen": 752648, + "step": 371 + }, + { + "epoch": 0.04930417495029821, + "grad_norm": 2.245725154876709, + "learning_rate": 4.996842391515045e-06, + "loss": 0.01, + "num_input_tokens_seen": 754448, + "step": 372 + }, + { + "epoch": 0.049436713055003315, + "grad_norm": 17.21232032775879, + "learning_rate": 4.996824925767233e-06, + "loss": 0.1311, + "num_input_tokens_seen": 757344, + "step": 373 + }, + { + "epoch": 0.049569251159708415, + "grad_norm": 29.35503578186035, + "learning_rate": 4.996807411878915e-06, + "loss": 0.4628, + "num_input_tokens_seen": 758560, + "step": 374 + }, + { + "epoch": 0.04970178926441352, + "grad_norm": 11.46652889251709, + "learning_rate": 4.996789849850427e-06, + "loss": 0.0821, + "num_input_tokens_seen": 760800, + "step": 375 + }, + { + "epoch": 0.04983432736911862, + "grad_norm": 0.5824503898620605, + "learning_rate": 4.99677223968211e-06, + "loss": 0.0026, + "num_input_tokens_seen": 761840, + "step": 376 + }, + { + "epoch": 0.04996686547382372, + "grad_norm": 8.417191505432129, + "learning_rate": 4.9967545813743e-06, + "loss": 0.1175, + "num_input_tokens_seen": 763424, + "step": 377 + }, + { + "epoch": 0.05009940357852883, + "grad_norm": 6.865485668182373, + "learning_rate": 4.996736874927341e-06, + "loss": 0.0421, + "num_input_tokens_seen": 765096, + "step": 378 + }, + { + "epoch": 0.05023194168323393, + "grad_norm": 6.654351234436035, + "learning_rate": 4.996719120341571e-06, + "loss": 0.0766, + "num_input_tokens_seen": 766416, + "step": 379 + }, + { + "epoch": 0.05036447978793903, + "grad_norm": 12.908503532409668, + "learning_rate": 4.996701317617335e-06, + "loss": 0.3849, + "num_input_tokens_seen": 768728, + "step": 380 + }, + { + "epoch": 0.05049701789264414, + "grad_norm": 0.8765175342559814, + "learning_rate": 4.996683466754974e-06, + "loss": 0.0036, + "num_input_tokens_seen": 770104, + "step": 381 + }, + { + "epoch": 0.05062955599734924, + "grad_norm": 23.151649475097656, + "learning_rate": 4.996665567754834e-06, + "loss": 0.5085, + "num_input_tokens_seen": 771960, + "step": 382 + }, + { + "epoch": 0.05076209410205434, + "grad_norm": 17.043270111083984, + "learning_rate": 4.99664762061726e-06, + "loss": 0.3232, + "num_input_tokens_seen": 774312, + "step": 383 + }, + { + "epoch": 0.050894632206759445, + "grad_norm": 23.318056106567383, + "learning_rate": 4.996629625342597e-06, + "loss": 0.4619, + "num_input_tokens_seen": 776112, + "step": 384 + }, + { + "epoch": 0.051027170311464545, + "grad_norm": 15.63559341430664, + "learning_rate": 4.9966115819311926e-06, + "loss": 0.2928, + "num_input_tokens_seen": 777552, + "step": 385 + }, + { + "epoch": 0.051159708416169646, + "grad_norm": 0.42104920744895935, + "learning_rate": 4.996593490383395e-06, + "loss": 0.0015, + "num_input_tokens_seen": 779176, + "step": 386 + }, + { + "epoch": 0.05129224652087475, + "grad_norm": 17.924867630004883, + "learning_rate": 4.996575350699552e-06, + "loss": 0.4286, + "num_input_tokens_seen": 781216, + "step": 387 + }, + { + "epoch": 0.05142478462557985, + "grad_norm": 27.782072067260742, + "learning_rate": 4.996557162880014e-06, + "loss": 0.8455, + "num_input_tokens_seen": 782984, + "step": 388 + }, + { + "epoch": 0.05155732273028496, + "grad_norm": 26.4074649810791, + "learning_rate": 4.996538926925132e-06, + "loss": 0.4452, + "num_input_tokens_seen": 784928, + "step": 389 + }, + { + "epoch": 0.05168986083499006, + "grad_norm": 0.5493453741073608, + "learning_rate": 4.996520642835257e-06, + "loss": 0.0024, + "num_input_tokens_seen": 788072, + "step": 390 + }, + { + "epoch": 0.05182239893969516, + "grad_norm": 17.478471755981445, + "learning_rate": 4.996502310610742e-06, + "loss": 0.4274, + "num_input_tokens_seen": 790008, + "step": 391 + }, + { + "epoch": 0.05195493704440027, + "grad_norm": 6.221721172332764, + "learning_rate": 4.99648393025194e-06, + "loss": 0.1173, + "num_input_tokens_seen": 791736, + "step": 392 + }, + { + "epoch": 0.05208747514910537, + "grad_norm": 14.853644371032715, + "learning_rate": 4.996465501759205e-06, + "loss": 0.3939, + "num_input_tokens_seen": 793584, + "step": 393 + }, + { + "epoch": 0.05222001325381047, + "grad_norm": 0.30814510583877563, + "learning_rate": 4.9964470251328935e-06, + "loss": 0.0014, + "num_input_tokens_seen": 794944, + "step": 394 + }, + { + "epoch": 0.052352551358515576, + "grad_norm": 22.30123519897461, + "learning_rate": 4.996428500373361e-06, + "loss": 0.4323, + "num_input_tokens_seen": 796856, + "step": 395 + }, + { + "epoch": 0.052485089463220676, + "grad_norm": 13.975912094116211, + "learning_rate": 4.996409927480965e-06, + "loss": 0.4534, + "num_input_tokens_seen": 799224, + "step": 396 + }, + { + "epoch": 0.052617627567925776, + "grad_norm": 10.820759773254395, + "learning_rate": 4.9963913064560634e-06, + "loss": 0.2199, + "num_input_tokens_seen": 801496, + "step": 397 + }, + { + "epoch": 0.05275016567263088, + "grad_norm": 1.8996949195861816, + "learning_rate": 4.996372637299015e-06, + "loss": 0.0085, + "num_input_tokens_seen": 802768, + "step": 398 + }, + { + "epoch": 0.05288270377733598, + "grad_norm": 13.372843742370605, + "learning_rate": 4.9963539200101795e-06, + "loss": 0.2026, + "num_input_tokens_seen": 804376, + "step": 399 + }, + { + "epoch": 0.053015241882041084, + "grad_norm": 21.658615112304688, + "learning_rate": 4.99633515458992e-06, + "loss": 0.6691, + "num_input_tokens_seen": 806400, + "step": 400 + }, + { + "epoch": 0.05314777998674619, + "grad_norm": 13.015047073364258, + "learning_rate": 4.996316341038595e-06, + "loss": 0.2655, + "num_input_tokens_seen": 808336, + "step": 401 + }, + { + "epoch": 0.05328031809145129, + "grad_norm": 8.32094669342041, + "learning_rate": 4.9962974793565685e-06, + "loss": 0.0826, + "num_input_tokens_seen": 809912, + "step": 402 + }, + { + "epoch": 0.0534128561961564, + "grad_norm": 20.510452270507812, + "learning_rate": 4.996278569544206e-06, + "loss": 0.4597, + "num_input_tokens_seen": 812640, + "step": 403 + }, + { + "epoch": 0.0535453943008615, + "grad_norm": 5.006075382232666, + "learning_rate": 4.9962596116018695e-06, + "loss": 0.024, + "num_input_tokens_seen": 813848, + "step": 404 + }, + { + "epoch": 0.0536779324055666, + "grad_norm": 5.897892475128174, + "learning_rate": 4.996240605529926e-06, + "loss": 0.0971, + "num_input_tokens_seen": 815392, + "step": 405 + }, + { + "epoch": 0.053810470510271706, + "grad_norm": 22.914487838745117, + "learning_rate": 4.996221551328742e-06, + "loss": 0.5509, + "num_input_tokens_seen": 816928, + "step": 406 + }, + { + "epoch": 0.053943008614976806, + "grad_norm": 27.326887130737305, + "learning_rate": 4.996202448998684e-06, + "loss": 0.485, + "num_input_tokens_seen": 818344, + "step": 407 + }, + { + "epoch": 0.054075546719681906, + "grad_norm": 8.313642501831055, + "learning_rate": 4.996183298540121e-06, + "loss": 0.1001, + "num_input_tokens_seen": 820040, + "step": 408 + }, + { + "epoch": 0.054208084824387014, + "grad_norm": 4.386748790740967, + "learning_rate": 4.996164099953421e-06, + "loss": 0.0218, + "num_input_tokens_seen": 821696, + "step": 409 + }, + { + "epoch": 0.054340622929092114, + "grad_norm": 14.14405632019043, + "learning_rate": 4.996144853238956e-06, + "loss": 0.2684, + "num_input_tokens_seen": 824176, + "step": 410 + }, + { + "epoch": 0.054473161033797214, + "grad_norm": 16.349185943603516, + "learning_rate": 4.996125558397096e-06, + "loss": 0.3261, + "num_input_tokens_seen": 826576, + "step": 411 + }, + { + "epoch": 0.05460569913850232, + "grad_norm": 14.40383529663086, + "learning_rate": 4.996106215428214e-06, + "loss": 0.4198, + "num_input_tokens_seen": 828056, + "step": 412 + }, + { + "epoch": 0.05473823724320742, + "grad_norm": 12.038331031799316, + "learning_rate": 4.996086824332681e-06, + "loss": 0.26, + "num_input_tokens_seen": 830184, + "step": 413 + }, + { + "epoch": 0.05487077534791252, + "grad_norm": 1.7930399179458618, + "learning_rate": 4.9960673851108724e-06, + "loss": 0.0085, + "num_input_tokens_seen": 831600, + "step": 414 + }, + { + "epoch": 0.05500331345261763, + "grad_norm": 16.52307891845703, + "learning_rate": 4.996047897763163e-06, + "loss": 0.2179, + "num_input_tokens_seen": 833840, + "step": 415 + }, + { + "epoch": 0.05513585155732273, + "grad_norm": 2.702738046646118, + "learning_rate": 4.996028362289928e-06, + "loss": 0.0113, + "num_input_tokens_seen": 835520, + "step": 416 + }, + { + "epoch": 0.055268389662027836, + "grad_norm": 28.42337417602539, + "learning_rate": 4.996008778691544e-06, + "loss": 1.5106, + "num_input_tokens_seen": 838536, + "step": 417 + }, + { + "epoch": 0.05540092776673294, + "grad_norm": 8.068453788757324, + "learning_rate": 4.995989146968389e-06, + "loss": 0.1233, + "num_input_tokens_seen": 839880, + "step": 418 + }, + { + "epoch": 0.05553346587143804, + "grad_norm": 10.71106243133545, + "learning_rate": 4.9959694671208415e-06, + "loss": 0.3155, + "num_input_tokens_seen": 841736, + "step": 419 + }, + { + "epoch": 0.055666003976143144, + "grad_norm": 15.732540130615234, + "learning_rate": 4.995949739149281e-06, + "loss": 0.4902, + "num_input_tokens_seen": 843216, + "step": 420 + }, + { + "epoch": 0.055798542080848244, + "grad_norm": 12.263782501220703, + "learning_rate": 4.9959299630540876e-06, + "loss": 0.0779, + "num_input_tokens_seen": 844912, + "step": 421 + }, + { + "epoch": 0.055931080185553345, + "grad_norm": 0.03717665746808052, + "learning_rate": 4.995910138835642e-06, + "loss": 0.0002, + "num_input_tokens_seen": 846536, + "step": 422 + }, + { + "epoch": 0.05606361829025845, + "grad_norm": 18.78084945678711, + "learning_rate": 4.9958902664943275e-06, + "loss": 0.1599, + "num_input_tokens_seen": 848712, + "step": 423 + }, + { + "epoch": 0.05619615639496355, + "grad_norm": 3.03532338142395, + "learning_rate": 4.995870346030528e-06, + "loss": 0.0133, + "num_input_tokens_seen": 850872, + "step": 424 + }, + { + "epoch": 0.05632869449966865, + "grad_norm": 1.760057806968689, + "learning_rate": 4.995850377444624e-06, + "loss": 0.0009, + "num_input_tokens_seen": 852224, + "step": 425 + }, + { + "epoch": 0.05646123260437376, + "grad_norm": 21.569618225097656, + "learning_rate": 4.995830360737005e-06, + "loss": 0.5746, + "num_input_tokens_seen": 854456, + "step": 426 + }, + { + "epoch": 0.05659377070907886, + "grad_norm": 11.767157554626465, + "learning_rate": 4.995810295908054e-06, + "loss": 0.2346, + "num_input_tokens_seen": 856800, + "step": 427 + }, + { + "epoch": 0.05672630881378396, + "grad_norm": 17.919403076171875, + "learning_rate": 4.995790182958159e-06, + "loss": 0.2724, + "num_input_tokens_seen": 858352, + "step": 428 + }, + { + "epoch": 0.05685884691848907, + "grad_norm": 12.62038803100586, + "learning_rate": 4.995770021887707e-06, + "loss": 0.149, + "num_input_tokens_seen": 859712, + "step": 429 + }, + { + "epoch": 0.05699138502319417, + "grad_norm": 13.71484661102295, + "learning_rate": 4.995749812697088e-06, + "loss": 0.1083, + "num_input_tokens_seen": 862248, + "step": 430 + }, + { + "epoch": 0.05712392312789927, + "grad_norm": 0.01438061147928238, + "learning_rate": 4.99572955538669e-06, + "loss": 0.0001, + "num_input_tokens_seen": 863664, + "step": 431 + }, + { + "epoch": 0.057256461232604375, + "grad_norm": 0.35884493589401245, + "learning_rate": 4.995709249956905e-06, + "loss": 0.0014, + "num_input_tokens_seen": 865600, + "step": 432 + }, + { + "epoch": 0.057388999337309475, + "grad_norm": 0.010414387099444866, + "learning_rate": 4.995688896408124e-06, + "loss": 0.0001, + "num_input_tokens_seen": 867256, + "step": 433 + }, + { + "epoch": 0.05752153744201458, + "grad_norm": 15.658315658569336, + "learning_rate": 4.995668494740739e-06, + "loss": 0.3547, + "num_input_tokens_seen": 869240, + "step": 434 + }, + { + "epoch": 0.05765407554671968, + "grad_norm": 0.9342787265777588, + "learning_rate": 4.995648044955144e-06, + "loss": 0.0025, + "num_input_tokens_seen": 871888, + "step": 435 + }, + { + "epoch": 0.05778661365142478, + "grad_norm": 2.8957719802856445, + "learning_rate": 4.9956275470517335e-06, + "loss": 0.0064, + "num_input_tokens_seen": 873752, + "step": 436 + }, + { + "epoch": 0.05791915175612989, + "grad_norm": 0.04046275466680527, + "learning_rate": 4.995607001030902e-06, + "loss": 0.0002, + "num_input_tokens_seen": 875584, + "step": 437 + }, + { + "epoch": 0.05805168986083499, + "grad_norm": 8.409808158874512, + "learning_rate": 4.995586406893045e-06, + "loss": 0.2931, + "num_input_tokens_seen": 878072, + "step": 438 + }, + { + "epoch": 0.05818422796554009, + "grad_norm": 9.53891658782959, + "learning_rate": 4.995565764638561e-06, + "loss": 0.2245, + "num_input_tokens_seen": 880688, + "step": 439 + }, + { + "epoch": 0.0583167660702452, + "grad_norm": 16.10770034790039, + "learning_rate": 4.995545074267848e-06, + "loss": 0.4526, + "num_input_tokens_seen": 882336, + "step": 440 + }, + { + "epoch": 0.0584493041749503, + "grad_norm": 0.003209405578672886, + "learning_rate": 4.995524335781305e-06, + "loss": 0.0, + "num_input_tokens_seen": 883672, + "step": 441 + }, + { + "epoch": 0.0585818422796554, + "grad_norm": 37.67921447753906, + "learning_rate": 4.9955035491793295e-06, + "loss": 1.0989, + "num_input_tokens_seen": 886512, + "step": 442 + }, + { + "epoch": 0.058714380384360505, + "grad_norm": 5.709592819213867, + "learning_rate": 4.995482714462324e-06, + "loss": 0.0741, + "num_input_tokens_seen": 888104, + "step": 443 + }, + { + "epoch": 0.058846918489065606, + "grad_norm": 38.78124237060547, + "learning_rate": 4.995461831630691e-06, + "loss": 1.0351, + "num_input_tokens_seen": 889864, + "step": 444 + }, + { + "epoch": 0.058979456593770706, + "grad_norm": 15.407828330993652, + "learning_rate": 4.995440900684832e-06, + "loss": 0.4081, + "num_input_tokens_seen": 892560, + "step": 445 + }, + { + "epoch": 0.05911199469847581, + "grad_norm": 0.17919433116912842, + "learning_rate": 4.995419921625152e-06, + "loss": 0.0008, + "num_input_tokens_seen": 894792, + "step": 446 + }, + { + "epoch": 0.05924453280318091, + "grad_norm": 0.6332680583000183, + "learning_rate": 4.995398894452054e-06, + "loss": 0.0019, + "num_input_tokens_seen": 896840, + "step": 447 + }, + { + "epoch": 0.05937707090788602, + "grad_norm": 46.322914123535156, + "learning_rate": 4.995377819165943e-06, + "loss": 0.3411, + "num_input_tokens_seen": 898520, + "step": 448 + }, + { + "epoch": 0.05950960901259112, + "grad_norm": 94.10094451904297, + "learning_rate": 4.995356695767226e-06, + "loss": 0.3775, + "num_input_tokens_seen": 900272, + "step": 449 + }, + { + "epoch": 0.05964214711729622, + "grad_norm": 18.68901252746582, + "learning_rate": 4.995335524256312e-06, + "loss": 0.4001, + "num_input_tokens_seen": 901736, + "step": 450 + }, + { + "epoch": 0.05977468522200133, + "grad_norm": 16.15734100341797, + "learning_rate": 4.995314304633606e-06, + "loss": 0.3467, + "num_input_tokens_seen": 903400, + "step": 451 + }, + { + "epoch": 0.05990722332670643, + "grad_norm": 22.254375457763672, + "learning_rate": 4.99529303689952e-06, + "loss": 0.3432, + "num_input_tokens_seen": 905168, + "step": 452 + }, + { + "epoch": 0.06003976143141153, + "grad_norm": 18.157529830932617, + "learning_rate": 4.995271721054462e-06, + "loss": 0.2681, + "num_input_tokens_seen": 906808, + "step": 453 + }, + { + "epoch": 0.060172299536116636, + "grad_norm": 21.01182746887207, + "learning_rate": 4.995250357098844e-06, + "loss": 0.049, + "num_input_tokens_seen": 909552, + "step": 454 + }, + { + "epoch": 0.060304837640821736, + "grad_norm": 9.753447532653809, + "learning_rate": 4.995228945033078e-06, + "loss": 0.2303, + "num_input_tokens_seen": 912344, + "step": 455 + }, + { + "epoch": 0.060437375745526836, + "grad_norm": 21.69582748413086, + "learning_rate": 4.9952074848575765e-06, + "loss": 0.3012, + "num_input_tokens_seen": 914864, + "step": 456 + }, + { + "epoch": 0.06056991385023194, + "grad_norm": 20.239931106567383, + "learning_rate": 4.9951859765727535e-06, + "loss": 0.3241, + "num_input_tokens_seen": 916880, + "step": 457 + }, + { + "epoch": 0.060702451954937044, + "grad_norm": 1.746264934539795, + "learning_rate": 4.995164420179023e-06, + "loss": 0.0079, + "num_input_tokens_seen": 918272, + "step": 458 + }, + { + "epoch": 0.060834990059642144, + "grad_norm": 24.057586669921875, + "learning_rate": 4.995142815676802e-06, + "loss": 0.6932, + "num_input_tokens_seen": 920336, + "step": 459 + }, + { + "epoch": 0.06096752816434725, + "grad_norm": 9.76949691772461, + "learning_rate": 4.995121163066505e-06, + "loss": 0.0648, + "num_input_tokens_seen": 921872, + "step": 460 + }, + { + "epoch": 0.06110006626905235, + "grad_norm": 2.4379332065582275, + "learning_rate": 4.995099462348551e-06, + "loss": 0.0113, + "num_input_tokens_seen": 923888, + "step": 461 + }, + { + "epoch": 0.06123260437375746, + "grad_norm": 0.6686123609542847, + "learning_rate": 4.995077713523359e-06, + "loss": 0.0028, + "num_input_tokens_seen": 926408, + "step": 462 + }, + { + "epoch": 0.06136514247846256, + "grad_norm": 8.666668891906738, + "learning_rate": 4.995055916591347e-06, + "loss": 0.3313, + "num_input_tokens_seen": 928328, + "step": 463 + }, + { + "epoch": 0.06149768058316766, + "grad_norm": 16.044036865234375, + "learning_rate": 4.9950340715529355e-06, + "loss": 0.171, + "num_input_tokens_seen": 931568, + "step": 464 + }, + { + "epoch": 0.061630218687872766, + "grad_norm": 15.3733491897583, + "learning_rate": 4.9950121784085455e-06, + "loss": 0.2286, + "num_input_tokens_seen": 933800, + "step": 465 + }, + { + "epoch": 0.061762756792577866, + "grad_norm": 0.15300540626049042, + "learning_rate": 4.9949902371586e-06, + "loss": 0.0007, + "num_input_tokens_seen": 935504, + "step": 466 + }, + { + "epoch": 0.06189529489728297, + "grad_norm": 9.183958053588867, + "learning_rate": 4.994968247803522e-06, + "loss": 0.1304, + "num_input_tokens_seen": 937728, + "step": 467 + }, + { + "epoch": 0.062027833001988074, + "grad_norm": 0.26844802498817444, + "learning_rate": 4.994946210343734e-06, + "loss": 0.0009, + "num_input_tokens_seen": 938752, + "step": 468 + }, + { + "epoch": 0.062160371106693174, + "grad_norm": 0.05436732992529869, + "learning_rate": 4.994924124779662e-06, + "loss": 0.0003, + "num_input_tokens_seen": 940520, + "step": 469 + }, + { + "epoch": 0.062292909211398274, + "grad_norm": 13.469395637512207, + "learning_rate": 4.9949019911117325e-06, + "loss": 0.1647, + "num_input_tokens_seen": 942560, + "step": 470 + }, + { + "epoch": 0.06242544731610338, + "grad_norm": 0.03584084287285805, + "learning_rate": 4.99487980934037e-06, + "loss": 0.0002, + "num_input_tokens_seen": 944648, + "step": 471 + }, + { + "epoch": 0.06255798542080848, + "grad_norm": 8.76506233215332, + "learning_rate": 4.994857579466005e-06, + "loss": 0.0416, + "num_input_tokens_seen": 946304, + "step": 472 + }, + { + "epoch": 0.06269052352551359, + "grad_norm": 0.027090368792414665, + "learning_rate": 4.994835301489065e-06, + "loss": 0.0001, + "num_input_tokens_seen": 947696, + "step": 473 + }, + { + "epoch": 0.06282306163021868, + "grad_norm": 8.105457305908203, + "learning_rate": 4.9948129754099785e-06, + "loss": 0.1449, + "num_input_tokens_seen": 949296, + "step": 474 + }, + { + "epoch": 0.06295559973492379, + "grad_norm": 7.156956672668457, + "learning_rate": 4.994790601229177e-06, + "loss": 0.0745, + "num_input_tokens_seen": 951536, + "step": 475 + }, + { + "epoch": 0.0630881378396289, + "grad_norm": 0.016795145347714424, + "learning_rate": 4.994768178947092e-06, + "loss": 0.0001, + "num_input_tokens_seen": 953008, + "step": 476 + }, + { + "epoch": 0.06322067594433399, + "grad_norm": 24.05290985107422, + "learning_rate": 4.9947457085641544e-06, + "loss": 0.3832, + "num_input_tokens_seen": 954480, + "step": 477 + }, + { + "epoch": 0.0633532140490391, + "grad_norm": 12.219489097595215, + "learning_rate": 4.994723190080799e-06, + "loss": 0.2212, + "num_input_tokens_seen": 956120, + "step": 478 + }, + { + "epoch": 0.0634857521537442, + "grad_norm": 39.07728958129883, + "learning_rate": 4.994700623497459e-06, + "loss": 0.8499, + "num_input_tokens_seen": 958200, + "step": 479 + }, + { + "epoch": 0.0636182902584493, + "grad_norm": 0.4574955701828003, + "learning_rate": 4.994678008814571e-06, + "loss": 0.0013, + "num_input_tokens_seen": 960472, + "step": 480 + }, + { + "epoch": 0.0637508283631544, + "grad_norm": 14.811234474182129, + "learning_rate": 4.9946553460325695e-06, + "loss": 0.3978, + "num_input_tokens_seen": 961832, + "step": 481 + }, + { + "epoch": 0.06388336646785951, + "grad_norm": 31.710086822509766, + "learning_rate": 4.994632635151893e-06, + "loss": 0.2641, + "num_input_tokens_seen": 964024, + "step": 482 + }, + { + "epoch": 0.06401590457256462, + "grad_norm": 24.19526481628418, + "learning_rate": 4.994609876172976e-06, + "loss": 0.4087, + "num_input_tokens_seen": 966136, + "step": 483 + }, + { + "epoch": 0.06414844267726971, + "grad_norm": 31.750226974487305, + "learning_rate": 4.994587069096262e-06, + "loss": 0.9694, + "num_input_tokens_seen": 967848, + "step": 484 + }, + { + "epoch": 0.06428098078197482, + "grad_norm": 3.483440399169922, + "learning_rate": 4.994564213922187e-06, + "loss": 0.0053, + "num_input_tokens_seen": 969576, + "step": 485 + }, + { + "epoch": 0.06441351888667993, + "grad_norm": 32.30971145629883, + "learning_rate": 4.994541310651193e-06, + "loss": 0.2429, + "num_input_tokens_seen": 971744, + "step": 486 + }, + { + "epoch": 0.06454605699138502, + "grad_norm": 29.977540969848633, + "learning_rate": 4.994518359283722e-06, + "loss": 0.7457, + "num_input_tokens_seen": 973856, + "step": 487 + }, + { + "epoch": 0.06467859509609013, + "grad_norm": 2187.822509765625, + "learning_rate": 4.994495359820217e-06, + "loss": 1.7051, + "num_input_tokens_seen": 975752, + "step": 488 + }, + { + "epoch": 0.06481113320079523, + "grad_norm": 11.483095169067383, + "learning_rate": 4.99447231226112e-06, + "loss": 0.1525, + "num_input_tokens_seen": 977488, + "step": 489 + }, + { + "epoch": 0.06494367130550033, + "grad_norm": 38.371864318847656, + "learning_rate": 4.994449216606875e-06, + "loss": 0.7257, + "num_input_tokens_seen": 979576, + "step": 490 + }, + { + "epoch": 0.06507620941020544, + "grad_norm": 6.387148380279541, + "learning_rate": 4.994426072857929e-06, + "loss": 0.1932, + "num_input_tokens_seen": 981728, + "step": 491 + }, + { + "epoch": 0.06520874751491054, + "grad_norm": 1.466477394104004, + "learning_rate": 4.994402881014728e-06, + "loss": 0.0054, + "num_input_tokens_seen": 983904, + "step": 492 + }, + { + "epoch": 0.06534128561961564, + "grad_norm": 10.523158073425293, + "learning_rate": 4.994379641077718e-06, + "loss": 0.0993, + "num_input_tokens_seen": 987464, + "step": 493 + }, + { + "epoch": 0.06547382372432074, + "grad_norm": 16.072219848632812, + "learning_rate": 4.994356353047348e-06, + "loss": 0.0805, + "num_input_tokens_seen": 989544, + "step": 494 + }, + { + "epoch": 0.06560636182902585, + "grad_norm": 0.09814932197332382, + "learning_rate": 4.9943330169240665e-06, + "loss": 0.0004, + "num_input_tokens_seen": 990872, + "step": 495 + }, + { + "epoch": 0.06573889993373094, + "grad_norm": 9.3329496383667, + "learning_rate": 4.994309632708324e-06, + "loss": 0.0247, + "num_input_tokens_seen": 992896, + "step": 496 + }, + { + "epoch": 0.06587143803843605, + "grad_norm": 20.09090805053711, + "learning_rate": 4.994286200400571e-06, + "loss": 0.1765, + "num_input_tokens_seen": 995992, + "step": 497 + }, + { + "epoch": 0.06600397614314116, + "grad_norm": 10.68331527709961, + "learning_rate": 4.99426272000126e-06, + "loss": 0.2593, + "num_input_tokens_seen": 997656, + "step": 498 + }, + { + "epoch": 0.06613651424784625, + "grad_norm": 0.11378294974565506, + "learning_rate": 4.994239191510841e-06, + "loss": 0.0005, + "num_input_tokens_seen": 999768, + "step": 499 + }, + { + "epoch": 0.06626905235255136, + "grad_norm": 20.251298904418945, + "learning_rate": 4.994215614929772e-06, + "loss": 0.4918, + "num_input_tokens_seen": 1002136, + "step": 500 + }, + { + "epoch": 0.06640159045725647, + "grad_norm": 14.02566146850586, + "learning_rate": 4.994191990258504e-06, + "loss": 0.2084, + "num_input_tokens_seen": 1003272, + "step": 501 + }, + { + "epoch": 0.06653412856196156, + "grad_norm": 17.264339447021484, + "learning_rate": 4.9941683174974935e-06, + "loss": 0.1955, + "num_input_tokens_seen": 1005232, + "step": 502 + }, + { + "epoch": 0.06666666666666667, + "grad_norm": 0.1551053524017334, + "learning_rate": 4.994144596647198e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1006424, + "step": 503 + }, + { + "epoch": 0.06679920477137177, + "grad_norm": 29.754657745361328, + "learning_rate": 4.994120827708073e-06, + "loss": 0.5756, + "num_input_tokens_seen": 1008272, + "step": 504 + }, + { + "epoch": 0.06693174287607687, + "grad_norm": 10.792243957519531, + "learning_rate": 4.994097010680579e-06, + "loss": 0.2684, + "num_input_tokens_seen": 1010184, + "step": 505 + }, + { + "epoch": 0.06706428098078197, + "grad_norm": 6.34636926651001, + "learning_rate": 4.994073145565174e-06, + "loss": 0.1127, + "num_input_tokens_seen": 1012784, + "step": 506 + }, + { + "epoch": 0.06719681908548708, + "grad_norm": 8.283468246459961, + "learning_rate": 4.994049232362318e-06, + "loss": 0.0891, + "num_input_tokens_seen": 1014768, + "step": 507 + }, + { + "epoch": 0.06732935719019217, + "grad_norm": 13.287981033325195, + "learning_rate": 4.994025271072472e-06, + "loss": 0.0825, + "num_input_tokens_seen": 1016376, + "step": 508 + }, + { + "epoch": 0.06746189529489728, + "grad_norm": 16.882177352905273, + "learning_rate": 4.994001261696098e-06, + "loss": 0.4124, + "num_input_tokens_seen": 1018504, + "step": 509 + }, + { + "epoch": 0.06759443339960239, + "grad_norm": 2.0997307300567627, + "learning_rate": 4.99397720423366e-06, + "loss": 0.0055, + "num_input_tokens_seen": 1020080, + "step": 510 + }, + { + "epoch": 0.06772697150430748, + "grad_norm": 14.057239532470703, + "learning_rate": 4.99395309868562e-06, + "loss": 0.3045, + "num_input_tokens_seen": 1021728, + "step": 511 + }, + { + "epoch": 0.06785950960901259, + "grad_norm": 12.672103881835938, + "learning_rate": 4.993928945052444e-06, + "loss": 0.268, + "num_input_tokens_seen": 1024688, + "step": 512 + }, + { + "epoch": 0.0679920477137177, + "grad_norm": 0.49435117840766907, + "learning_rate": 4.993904743334598e-06, + "loss": 0.0017, + "num_input_tokens_seen": 1026544, + "step": 513 + }, + { + "epoch": 0.0681245858184228, + "grad_norm": 0.19059982895851135, + "learning_rate": 4.993880493532548e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1028224, + "step": 514 + }, + { + "epoch": 0.0682571239231279, + "grad_norm": 12.96335506439209, + "learning_rate": 4.9938561956467615e-06, + "loss": 0.2523, + "num_input_tokens_seen": 1030200, + "step": 515 + }, + { + "epoch": 0.068389662027833, + "grad_norm": 2.7128167152404785, + "learning_rate": 4.993831849677707e-06, + "loss": 0.0115, + "num_input_tokens_seen": 1031920, + "step": 516 + }, + { + "epoch": 0.06852220013253811, + "grad_norm": 6.8787455558776855, + "learning_rate": 4.993807455625854e-06, + "loss": 0.1451, + "num_input_tokens_seen": 1033472, + "step": 517 + }, + { + "epoch": 0.0686547382372432, + "grad_norm": 10.646443367004395, + "learning_rate": 4.9937830134916735e-06, + "loss": 0.2795, + "num_input_tokens_seen": 1035400, + "step": 518 + }, + { + "epoch": 0.06878727634194831, + "grad_norm": 28.678573608398438, + "learning_rate": 4.9937585232756355e-06, + "loss": 0.6005, + "num_input_tokens_seen": 1037488, + "step": 519 + }, + { + "epoch": 0.06891981444665342, + "grad_norm": 26.15842628479004, + "learning_rate": 4.993733984978213e-06, + "loss": 0.7782, + "num_input_tokens_seen": 1039928, + "step": 520 + }, + { + "epoch": 0.06905235255135851, + "grad_norm": 16.04706573486328, + "learning_rate": 4.993709398599879e-06, + "loss": 0.237, + "num_input_tokens_seen": 1041584, + "step": 521 + }, + { + "epoch": 0.06918489065606362, + "grad_norm": 4.769724369049072, + "learning_rate": 4.993684764141107e-06, + "loss": 0.074, + "num_input_tokens_seen": 1043624, + "step": 522 + }, + { + "epoch": 0.06931742876076873, + "grad_norm": 16.5262393951416, + "learning_rate": 4.993660081602373e-06, + "loss": 0.3854, + "num_input_tokens_seen": 1045808, + "step": 523 + }, + { + "epoch": 0.06944996686547382, + "grad_norm": 13.904562950134277, + "learning_rate": 4.993635350984152e-06, + "loss": 0.3698, + "num_input_tokens_seen": 1047520, + "step": 524 + }, + { + "epoch": 0.06958250497017893, + "grad_norm": 0.04643460735678673, + "learning_rate": 4.993610572286921e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1049560, + "step": 525 + }, + { + "epoch": 0.06971504307488403, + "grad_norm": 0.23561903834342957, + "learning_rate": 4.993585745511158e-06, + "loss": 0.001, + "num_input_tokens_seen": 1051608, + "step": 526 + }, + { + "epoch": 0.06984758117958913, + "grad_norm": 0.0867864117026329, + "learning_rate": 4.993560870657342e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1052984, + "step": 527 + }, + { + "epoch": 0.06998011928429423, + "grad_norm": 6.684571743011475, + "learning_rate": 4.993535947725952e-06, + "loss": 0.118, + "num_input_tokens_seen": 1054744, + "step": 528 + }, + { + "epoch": 0.07011265738899934, + "grad_norm": 9.315130233764648, + "learning_rate": 4.993510976717468e-06, + "loss": 0.1495, + "num_input_tokens_seen": 1056144, + "step": 529 + }, + { + "epoch": 0.07024519549370443, + "grad_norm": 5.07112979888916, + "learning_rate": 4.993485957632374e-06, + "loss": 0.0532, + "num_input_tokens_seen": 1058824, + "step": 530 + }, + { + "epoch": 0.07037773359840954, + "grad_norm": 29.896940231323242, + "learning_rate": 4.993460890471149e-06, + "loss": 0.6898, + "num_input_tokens_seen": 1061040, + "step": 531 + }, + { + "epoch": 0.07051027170311465, + "grad_norm": 0.9054104685783386, + "learning_rate": 4.993435775234278e-06, + "loss": 0.0036, + "num_input_tokens_seen": 1062480, + "step": 532 + }, + { + "epoch": 0.07064280980781974, + "grad_norm": 10.092836380004883, + "learning_rate": 4.993410611922246e-06, + "loss": 0.1754, + "num_input_tokens_seen": 1064640, + "step": 533 + }, + { + "epoch": 0.07077534791252485, + "grad_norm": 12.96221923828125, + "learning_rate": 4.9933854005355365e-06, + "loss": 0.327, + "num_input_tokens_seen": 1066608, + "step": 534 + }, + { + "epoch": 0.07090788601722996, + "grad_norm": 0.35928207635879517, + "learning_rate": 4.993360141074636e-06, + "loss": 0.0017, + "num_input_tokens_seen": 1068816, + "step": 535 + }, + { + "epoch": 0.07104042412193505, + "grad_norm": 21.966604232788086, + "learning_rate": 4.993334833540032e-06, + "loss": 0.558, + "num_input_tokens_seen": 1071216, + "step": 536 + }, + { + "epoch": 0.07117296222664016, + "grad_norm": 10.543190956115723, + "learning_rate": 4.993309477932214e-06, + "loss": 0.1464, + "num_input_tokens_seen": 1073104, + "step": 537 + }, + { + "epoch": 0.07130550033134526, + "grad_norm": 21.538822174072266, + "learning_rate": 4.993284074251668e-06, + "loss": 0.891, + "num_input_tokens_seen": 1075600, + "step": 538 + }, + { + "epoch": 0.07143803843605036, + "grad_norm": 0.27097639441490173, + "learning_rate": 4.993258622498885e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1077048, + "step": 539 + }, + { + "epoch": 0.07157057654075547, + "grad_norm": 16.11741065979004, + "learning_rate": 4.9932331226743555e-06, + "loss": 0.697, + "num_input_tokens_seen": 1079584, + "step": 540 + }, + { + "epoch": 0.07170311464546057, + "grad_norm": 0.2181357592344284, + "learning_rate": 4.993207574778572e-06, + "loss": 0.001, + "num_input_tokens_seen": 1081056, + "step": 541 + }, + { + "epoch": 0.07183565275016568, + "grad_norm": 0.1433018445968628, + "learning_rate": 4.993181978812026e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1082448, + "step": 542 + }, + { + "epoch": 0.07196819085487077, + "grad_norm": 8.875802040100098, + "learning_rate": 4.993156334775212e-06, + "loss": 0.0938, + "num_input_tokens_seen": 1084832, + "step": 543 + }, + { + "epoch": 0.07210072895957588, + "grad_norm": 13.357874870300293, + "learning_rate": 4.993130642668623e-06, + "loss": 0.397, + "num_input_tokens_seen": 1087112, + "step": 544 + }, + { + "epoch": 0.07223326706428099, + "grad_norm": 25.850324630737305, + "learning_rate": 4.993104902492756e-06, + "loss": 0.4894, + "num_input_tokens_seen": 1088864, + "step": 545 + }, + { + "epoch": 0.07236580516898608, + "grad_norm": 0.18744581937789917, + "learning_rate": 4.993079114248107e-06, + "loss": 0.0009, + "num_input_tokens_seen": 1090264, + "step": 546 + }, + { + "epoch": 0.07249834327369119, + "grad_norm": 6.02025032043457, + "learning_rate": 4.993053277935172e-06, + "loss": 0.1977, + "num_input_tokens_seen": 1092008, + "step": 547 + }, + { + "epoch": 0.0726308813783963, + "grad_norm": 0.32402750849723816, + "learning_rate": 4.99302739355445e-06, + "loss": 0.0014, + "num_input_tokens_seen": 1094192, + "step": 548 + }, + { + "epoch": 0.07276341948310139, + "grad_norm": 3.706557273864746, + "learning_rate": 4.99300146110644e-06, + "loss": 0.0165, + "num_input_tokens_seen": 1095504, + "step": 549 + }, + { + "epoch": 0.0728959575878065, + "grad_norm": 14.554426193237305, + "learning_rate": 4.992975480591643e-06, + "loss": 0.2236, + "num_input_tokens_seen": 1097344, + "step": 550 + }, + { + "epoch": 0.0730284956925116, + "grad_norm": 4.300492763519287, + "learning_rate": 4.992949452010558e-06, + "loss": 0.0587, + "num_input_tokens_seen": 1098792, + "step": 551 + }, + { + "epoch": 0.0731610337972167, + "grad_norm": 0.206004798412323, + "learning_rate": 4.992923375363687e-06, + "loss": 0.001, + "num_input_tokens_seen": 1101152, + "step": 552 + }, + { + "epoch": 0.0732935719019218, + "grad_norm": 0.8021019101142883, + "learning_rate": 4.992897250651535e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1103448, + "step": 553 + }, + { + "epoch": 0.07342611000662691, + "grad_norm": 6.172055244445801, + "learning_rate": 4.992871077874604e-06, + "loss": 0.0726, + "num_input_tokens_seen": 1105240, + "step": 554 + }, + { + "epoch": 0.073558648111332, + "grad_norm": 32.844390869140625, + "learning_rate": 4.992844857033399e-06, + "loss": 0.7557, + "num_input_tokens_seen": 1107952, + "step": 555 + }, + { + "epoch": 0.07369118621603711, + "grad_norm": 16.420387268066406, + "learning_rate": 4.992818588128424e-06, + "loss": 0.2981, + "num_input_tokens_seen": 1109504, + "step": 556 + }, + { + "epoch": 0.07382372432074222, + "grad_norm": 8.786429405212402, + "learning_rate": 4.992792271160189e-06, + "loss": 0.0788, + "num_input_tokens_seen": 1112600, + "step": 557 + }, + { + "epoch": 0.07395626242544731, + "grad_norm": 2.0075364112854004, + "learning_rate": 4.992765906129198e-06, + "loss": 0.0365, + "num_input_tokens_seen": 1114192, + "step": 558 + }, + { + "epoch": 0.07408880053015242, + "grad_norm": 12.34540843963623, + "learning_rate": 4.9927394930359604e-06, + "loss": 0.2806, + "num_input_tokens_seen": 1116328, + "step": 559 + }, + { + "epoch": 0.07422133863485753, + "grad_norm": 1.716313362121582, + "learning_rate": 4.992713031880986e-06, + "loss": 0.0061, + "num_input_tokens_seen": 1117928, + "step": 560 + }, + { + "epoch": 0.07435387673956262, + "grad_norm": 8.74285888671875, + "learning_rate": 4.992686522664785e-06, + "loss": 0.032, + "num_input_tokens_seen": 1119712, + "step": 561 + }, + { + "epoch": 0.07448641484426773, + "grad_norm": 0.0721452385187149, + "learning_rate": 4.992659965387868e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1121688, + "step": 562 + }, + { + "epoch": 0.07461895294897283, + "grad_norm": 12.754493713378906, + "learning_rate": 4.9926333600507484e-06, + "loss": 0.2298, + "num_input_tokens_seen": 1123272, + "step": 563 + }, + { + "epoch": 0.07475149105367793, + "grad_norm": 15.049842834472656, + "learning_rate": 4.992606706653936e-06, + "loss": 0.2616, + "num_input_tokens_seen": 1125256, + "step": 564 + }, + { + "epoch": 0.07488402915838303, + "grad_norm": 18.730566024780273, + "learning_rate": 4.992580005197949e-06, + "loss": 0.4459, + "num_input_tokens_seen": 1127576, + "step": 565 + }, + { + "epoch": 0.07501656726308814, + "grad_norm": 10.277911186218262, + "learning_rate": 4.992553255683298e-06, + "loss": 0.1509, + "num_input_tokens_seen": 1130264, + "step": 566 + }, + { + "epoch": 0.07514910536779323, + "grad_norm": 0.07839662581682205, + "learning_rate": 4.9925264581105015e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1131752, + "step": 567 + }, + { + "epoch": 0.07528164347249834, + "grad_norm": 15.85098648071289, + "learning_rate": 4.992499612480075e-06, + "loss": 0.2329, + "num_input_tokens_seen": 1133176, + "step": 568 + }, + { + "epoch": 0.07541418157720345, + "grad_norm": 0.09915667772293091, + "learning_rate": 4.992472718792537e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1134096, + "step": 569 + }, + { + "epoch": 0.07554671968190854, + "grad_norm": 12.51353931427002, + "learning_rate": 4.992445777048406e-06, + "loss": 0.1673, + "num_input_tokens_seen": 1136064, + "step": 570 + }, + { + "epoch": 0.07567925778661365, + "grad_norm": 0.14763173460960388, + "learning_rate": 4.9924187872482e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1137432, + "step": 571 + }, + { + "epoch": 0.07581179589131876, + "grad_norm": 0.5407018065452576, + "learning_rate": 4.99239174939244e-06, + "loss": 0.0025, + "num_input_tokens_seen": 1139384, + "step": 572 + }, + { + "epoch": 0.07594433399602386, + "grad_norm": 17.991897583007812, + "learning_rate": 4.992364663481649e-06, + "loss": 0.2767, + "num_input_tokens_seen": 1141512, + "step": 573 + }, + { + "epoch": 0.07607687210072896, + "grad_norm": 0.1771698296070099, + "learning_rate": 4.992337529516347e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1143440, + "step": 574 + }, + { + "epoch": 0.07620941020543406, + "grad_norm": 18.083797454833984, + "learning_rate": 4.992310347497058e-06, + "loss": 0.4597, + "num_input_tokens_seen": 1145896, + "step": 575 + }, + { + "epoch": 0.07634194831013917, + "grad_norm": 31.536720275878906, + "learning_rate": 4.992283117424307e-06, + "loss": 1.1379, + "num_input_tokens_seen": 1147712, + "step": 576 + }, + { + "epoch": 0.07647448641484426, + "grad_norm": 13.542040824890137, + "learning_rate": 4.992255839298617e-06, + "loss": 0.3027, + "num_input_tokens_seen": 1150688, + "step": 577 + }, + { + "epoch": 0.07660702451954937, + "grad_norm": 1.3251203298568726, + "learning_rate": 4.9922285131205165e-06, + "loss": 0.0061, + "num_input_tokens_seen": 1153064, + "step": 578 + }, + { + "epoch": 0.07673956262425448, + "grad_norm": 0.8419384360313416, + "learning_rate": 4.99220113889053e-06, + "loss": 0.0106, + "num_input_tokens_seen": 1154960, + "step": 579 + }, + { + "epoch": 0.07687210072895957, + "grad_norm": 21.277334213256836, + "learning_rate": 4.9921737166091854e-06, + "loss": 0.6207, + "num_input_tokens_seen": 1156976, + "step": 580 + }, + { + "epoch": 0.07700463883366468, + "grad_norm": 11.78198528289795, + "learning_rate": 4.992146246277014e-06, + "loss": 0.32, + "num_input_tokens_seen": 1158328, + "step": 581 + }, + { + "epoch": 0.07713717693836979, + "grad_norm": 0.7457808256149292, + "learning_rate": 4.992118727894543e-06, + "loss": 0.0034, + "num_input_tokens_seen": 1159808, + "step": 582 + }, + { + "epoch": 0.07726971504307488, + "grad_norm": 14.351053237915039, + "learning_rate": 4.9920911614623034e-06, + "loss": 0.5199, + "num_input_tokens_seen": 1161808, + "step": 583 + }, + { + "epoch": 0.07740225314777999, + "grad_norm": 17.17698097229004, + "learning_rate": 4.9920635469808274e-06, + "loss": 0.3101, + "num_input_tokens_seen": 1163712, + "step": 584 + }, + { + "epoch": 0.0775347912524851, + "grad_norm": 14.19390869140625, + "learning_rate": 4.992035884450647e-06, + "loss": 0.296, + "num_input_tokens_seen": 1165336, + "step": 585 + }, + { + "epoch": 0.07766732935719019, + "grad_norm": 10.093198776245117, + "learning_rate": 4.992008173872295e-06, + "loss": 0.1378, + "num_input_tokens_seen": 1167368, + "step": 586 + }, + { + "epoch": 0.0777998674618953, + "grad_norm": 19.43902587890625, + "learning_rate": 4.991980415246307e-06, + "loss": 0.2828, + "num_input_tokens_seen": 1169792, + "step": 587 + }, + { + "epoch": 0.0779324055666004, + "grad_norm": 1.6475398540496826, + "learning_rate": 4.9919526085732175e-06, + "loss": 0.0075, + "num_input_tokens_seen": 1171288, + "step": 588 + }, + { + "epoch": 0.0780649436713055, + "grad_norm": 9.919628143310547, + "learning_rate": 4.991924753853562e-06, + "loss": 0.2253, + "num_input_tokens_seen": 1172728, + "step": 589 + }, + { + "epoch": 0.0781974817760106, + "grad_norm": 9.461600303649902, + "learning_rate": 4.991896851087878e-06, + "loss": 0.2042, + "num_input_tokens_seen": 1174664, + "step": 590 + }, + { + "epoch": 0.07833001988071571, + "grad_norm": 0.33462563157081604, + "learning_rate": 4.991868900276705e-06, + "loss": 0.0015, + "num_input_tokens_seen": 1176024, + "step": 591 + }, + { + "epoch": 0.0784625579854208, + "grad_norm": 16.593881607055664, + "learning_rate": 4.991840901420579e-06, + "loss": 0.5138, + "num_input_tokens_seen": 1177640, + "step": 592 + }, + { + "epoch": 0.07859509609012591, + "grad_norm": 3.8829195499420166, + "learning_rate": 4.991812854520043e-06, + "loss": 0.0181, + "num_input_tokens_seen": 1180352, + "step": 593 + }, + { + "epoch": 0.07872763419483102, + "grad_norm": 8.810951232910156, + "learning_rate": 4.991784759575635e-06, + "loss": 0.2146, + "num_input_tokens_seen": 1182048, + "step": 594 + }, + { + "epoch": 0.07886017229953611, + "grad_norm": 13.477286338806152, + "learning_rate": 4.991756616587898e-06, + "loss": 0.1102, + "num_input_tokens_seen": 1183664, + "step": 595 + }, + { + "epoch": 0.07899271040424122, + "grad_norm": 25.641202926635742, + "learning_rate": 4.991728425557375e-06, + "loss": 0.9096, + "num_input_tokens_seen": 1186840, + "step": 596 + }, + { + "epoch": 0.07912524850894632, + "grad_norm": 16.363447189331055, + "learning_rate": 4.991700186484608e-06, + "loss": 0.4999, + "num_input_tokens_seen": 1188680, + "step": 597 + }, + { + "epoch": 0.07925778661365142, + "grad_norm": 0.2997564971446991, + "learning_rate": 4.991671899370143e-06, + "loss": 0.0014, + "num_input_tokens_seen": 1190120, + "step": 598 + }, + { + "epoch": 0.07939032471835653, + "grad_norm": 0.28962504863739014, + "learning_rate": 4.9916435642145245e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1191216, + "step": 599 + }, + { + "epoch": 0.07952286282306163, + "grad_norm": 0.30223163962364197, + "learning_rate": 4.9916151810183e-06, + "loss": 0.0014, + "num_input_tokens_seen": 1192968, + "step": 600 + }, + { + "epoch": 0.07965540092776674, + "grad_norm": 21.49254035949707, + "learning_rate": 4.9915867497820154e-06, + "loss": 0.3617, + "num_input_tokens_seen": 1195656, + "step": 601 + }, + { + "epoch": 0.07978793903247183, + "grad_norm": 13.202689170837402, + "learning_rate": 4.991558270506219e-06, + "loss": 0.0293, + "num_input_tokens_seen": 1197160, + "step": 602 + }, + { + "epoch": 0.07992047713717694, + "grad_norm": 14.31188678741455, + "learning_rate": 4.991529743191461e-06, + "loss": 0.3444, + "num_input_tokens_seen": 1199736, + "step": 603 + }, + { + "epoch": 0.08005301524188205, + "grad_norm": 23.098224639892578, + "learning_rate": 4.991501167838291e-06, + "loss": 0.5607, + "num_input_tokens_seen": 1201960, + "step": 604 + }, + { + "epoch": 0.08018555334658714, + "grad_norm": 13.40975570678711, + "learning_rate": 4.991472544447259e-06, + "loss": 0.1489, + "num_input_tokens_seen": 1203832, + "step": 605 + }, + { + "epoch": 0.08031809145129225, + "grad_norm": 8.271739959716797, + "learning_rate": 4.991443873018917e-06, + "loss": 0.137, + "num_input_tokens_seen": 1207128, + "step": 606 + }, + { + "epoch": 0.08045062955599735, + "grad_norm": 25.32298469543457, + "learning_rate": 4.991415153553819e-06, + "loss": 0.5161, + "num_input_tokens_seen": 1208880, + "step": 607 + }, + { + "epoch": 0.08058316766070245, + "grad_norm": 6.173625469207764, + "learning_rate": 4.991386386052519e-06, + "loss": 0.1023, + "num_input_tokens_seen": 1210880, + "step": 608 + }, + { + "epoch": 0.08071570576540756, + "grad_norm": 4.077023506164551, + "learning_rate": 4.99135757051557e-06, + "loss": 0.0334, + "num_input_tokens_seen": 1212360, + "step": 609 + }, + { + "epoch": 0.08084824387011266, + "grad_norm": 11.888177871704102, + "learning_rate": 4.9913287069435275e-06, + "loss": 0.2108, + "num_input_tokens_seen": 1214440, + "step": 610 + }, + { + "epoch": 0.08098078197481776, + "grad_norm": 0.2590247690677643, + "learning_rate": 4.99129979533695e-06, + "loss": 0.001, + "num_input_tokens_seen": 1216784, + "step": 611 + }, + { + "epoch": 0.08111332007952286, + "grad_norm": 0.09978921711444855, + "learning_rate": 4.991270835696393e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1218104, + "step": 612 + }, + { + "epoch": 0.08124585818422797, + "grad_norm": 28.489778518676758, + "learning_rate": 4.991241828022417e-06, + "loss": 0.5733, + "num_input_tokens_seen": 1219880, + "step": 613 + }, + { + "epoch": 0.08137839628893306, + "grad_norm": 6.184957027435303, + "learning_rate": 4.991212772315579e-06, + "loss": 0.1045, + "num_input_tokens_seen": 1221544, + "step": 614 + }, + { + "epoch": 0.08151093439363817, + "grad_norm": 0.11869768053293228, + "learning_rate": 4.99118366857644e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1223912, + "step": 615 + }, + { + "epoch": 0.08164347249834328, + "grad_norm": 10.143977165222168, + "learning_rate": 4.991154516805562e-06, + "loss": 0.317, + "num_input_tokens_seen": 1226928, + "step": 616 + }, + { + "epoch": 0.08177601060304837, + "grad_norm": 18.1310977935791, + "learning_rate": 4.991125317003506e-06, + "loss": 0.5772, + "num_input_tokens_seen": 1229456, + "step": 617 + }, + { + "epoch": 0.08190854870775348, + "grad_norm": 0.15265947580337524, + "learning_rate": 4.991096069170835e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1230944, + "step": 618 + }, + { + "epoch": 0.08204108681245859, + "grad_norm": 15.075489044189453, + "learning_rate": 4.991066773308113e-06, + "loss": 0.2118, + "num_input_tokens_seen": 1232712, + "step": 619 + }, + { + "epoch": 0.08217362491716368, + "grad_norm": 0.2138608992099762, + "learning_rate": 4.991037429415906e-06, + "loss": 0.001, + "num_input_tokens_seen": 1233984, + "step": 620 + }, + { + "epoch": 0.08230616302186879, + "grad_norm": 9.908183097839355, + "learning_rate": 4.991008037494779e-06, + "loss": 0.2053, + "num_input_tokens_seen": 1235280, + "step": 621 + }, + { + "epoch": 0.0824387011265739, + "grad_norm": 15.478682518005371, + "learning_rate": 4.990978597545297e-06, + "loss": 0.2799, + "num_input_tokens_seen": 1237448, + "step": 622 + }, + { + "epoch": 0.08257123923127899, + "grad_norm": 19.739458084106445, + "learning_rate": 4.9909491095680306e-06, + "loss": 0.4469, + "num_input_tokens_seen": 1239672, + "step": 623 + }, + { + "epoch": 0.0827037773359841, + "grad_norm": 8.118733406066895, + "learning_rate": 4.990919573563546e-06, + "loss": 0.1296, + "num_input_tokens_seen": 1240872, + "step": 624 + }, + { + "epoch": 0.0828363154406892, + "grad_norm": 9.600885391235352, + "learning_rate": 4.990889989532414e-06, + "loss": 0.2823, + "num_input_tokens_seen": 1243056, + "step": 625 + }, + { + "epoch": 0.0829688535453943, + "grad_norm": 21.85724639892578, + "learning_rate": 4.990860357475206e-06, + "loss": 0.4024, + "num_input_tokens_seen": 1245072, + "step": 626 + }, + { + "epoch": 0.0831013916500994, + "grad_norm": 1.1288819313049316, + "learning_rate": 4.9908306773924904e-06, + "loss": 0.0052, + "num_input_tokens_seen": 1246392, + "step": 627 + }, + { + "epoch": 0.08323392975480451, + "grad_norm": 13.654850006103516, + "learning_rate": 4.990800949284842e-06, + "loss": 0.2984, + "num_input_tokens_seen": 1248224, + "step": 628 + }, + { + "epoch": 0.08336646785950962, + "grad_norm": 3.5629279613494873, + "learning_rate": 4.990771173152832e-06, + "loss": 0.0182, + "num_input_tokens_seen": 1249912, + "step": 629 + }, + { + "epoch": 0.08349900596421471, + "grad_norm": 0.7646605968475342, + "learning_rate": 4.990741348997036e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1251288, + "step": 630 + }, + { + "epoch": 0.08363154406891982, + "grad_norm": 27.763885498046875, + "learning_rate": 4.990711476818027e-06, + "loss": 0.5743, + "num_input_tokens_seen": 1253304, + "step": 631 + }, + { + "epoch": 0.08376408217362492, + "grad_norm": 26.014076232910156, + "learning_rate": 4.990681556616385e-06, + "loss": 0.5963, + "num_input_tokens_seen": 1255944, + "step": 632 + }, + { + "epoch": 0.08389662027833002, + "grad_norm": 17.14945411682129, + "learning_rate": 4.990651588392683e-06, + "loss": 0.46, + "num_input_tokens_seen": 1257712, + "step": 633 + }, + { + "epoch": 0.08402915838303512, + "grad_norm": 8.238128662109375, + "learning_rate": 4.990621572147501e-06, + "loss": 0.2309, + "num_input_tokens_seen": 1259400, + "step": 634 + }, + { + "epoch": 0.08416169648774023, + "grad_norm": 17.069917678833008, + "learning_rate": 4.990591507881416e-06, + "loss": 0.5602, + "num_input_tokens_seen": 1261352, + "step": 635 + }, + { + "epoch": 0.08429423459244532, + "grad_norm": 16.171161651611328, + "learning_rate": 4.990561395595008e-06, + "loss": 0.3492, + "num_input_tokens_seen": 1264176, + "step": 636 + }, + { + "epoch": 0.08442677269715043, + "grad_norm": 0.11699037998914719, + "learning_rate": 4.990531235288859e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1266072, + "step": 637 + }, + { + "epoch": 0.08455931080185554, + "grad_norm": 14.559609413146973, + "learning_rate": 4.99050102696355e-06, + "loss": 0.4229, + "num_input_tokens_seen": 1267752, + "step": 638 + }, + { + "epoch": 0.08469184890656063, + "grad_norm": 6.065984725952148, + "learning_rate": 4.9904707706196634e-06, + "loss": 0.1386, + "num_input_tokens_seen": 1269160, + "step": 639 + }, + { + "epoch": 0.08482438701126574, + "grad_norm": 11.977204322814941, + "learning_rate": 4.990440466257781e-06, + "loss": 0.2277, + "num_input_tokens_seen": 1271328, + "step": 640 + }, + { + "epoch": 0.08495692511597085, + "grad_norm": 0.07289767265319824, + "learning_rate": 4.990410113878489e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1272608, + "step": 641 + }, + { + "epoch": 0.08508946322067594, + "grad_norm": 7.814647197723389, + "learning_rate": 4.990379713482372e-06, + "loss": 0.1684, + "num_input_tokens_seen": 1275256, + "step": 642 + }, + { + "epoch": 0.08522200132538105, + "grad_norm": 0.3539038300514221, + "learning_rate": 4.9903492650700155e-06, + "loss": 0.0016, + "num_input_tokens_seen": 1276824, + "step": 643 + }, + { + "epoch": 0.08535453943008615, + "grad_norm": 0.5345784425735474, + "learning_rate": 4.9903187686420076e-06, + "loss": 0.0021, + "num_input_tokens_seen": 1277992, + "step": 644 + }, + { + "epoch": 0.08548707753479125, + "grad_norm": 2.2201688289642334, + "learning_rate": 4.990288224198936e-06, + "loss": 0.0041, + "num_input_tokens_seen": 1279720, + "step": 645 + }, + { + "epoch": 0.08561961563949635, + "grad_norm": 9.425178527832031, + "learning_rate": 4.99025763174139e-06, + "loss": 0.1398, + "num_input_tokens_seen": 1281968, + "step": 646 + }, + { + "epoch": 0.08575215374420146, + "grad_norm": 0.05981895327568054, + "learning_rate": 4.990226991269957e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1283296, + "step": 647 + }, + { + "epoch": 0.08588469184890656, + "grad_norm": 0.1609344780445099, + "learning_rate": 4.990196302785232e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1284600, + "step": 648 + }, + { + "epoch": 0.08601722995361166, + "grad_norm": 0.07702692598104477, + "learning_rate": 4.990165566287803e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1286848, + "step": 649 + }, + { + "epoch": 0.08614976805831677, + "grad_norm": 12.37551498413086, + "learning_rate": 4.990134781778264e-06, + "loss": 0.1459, + "num_input_tokens_seen": 1288568, + "step": 650 + }, + { + "epoch": 0.08628230616302186, + "grad_norm": 19.112503051757812, + "learning_rate": 4.99010394925721e-06, + "loss": 0.2366, + "num_input_tokens_seen": 1290192, + "step": 651 + }, + { + "epoch": 0.08641484426772697, + "grad_norm": 12.018131256103516, + "learning_rate": 4.990073068725232e-06, + "loss": 0.0659, + "num_input_tokens_seen": 1291920, + "step": 652 + }, + { + "epoch": 0.08654738237243208, + "grad_norm": 20.139245986938477, + "learning_rate": 4.990042140182929e-06, + "loss": 0.3819, + "num_input_tokens_seen": 1294288, + "step": 653 + }, + { + "epoch": 0.08667992047713717, + "grad_norm": 0.020606258884072304, + "learning_rate": 4.990011163630894e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1295936, + "step": 654 + }, + { + "epoch": 0.08681245858184228, + "grad_norm": 18.525423049926758, + "learning_rate": 4.9899801390697275e-06, + "loss": 0.5304, + "num_input_tokens_seen": 1298160, + "step": 655 + }, + { + "epoch": 0.08694499668654739, + "grad_norm": 12.277786254882812, + "learning_rate": 4.989949066500026e-06, + "loss": 0.2501, + "num_input_tokens_seen": 1301304, + "step": 656 + }, + { + "epoch": 0.08707753479125248, + "grad_norm": 20.86549949645996, + "learning_rate": 4.989917945922389e-06, + "loss": 0.3786, + "num_input_tokens_seen": 1303488, + "step": 657 + }, + { + "epoch": 0.08721007289595759, + "grad_norm": 16.710758209228516, + "learning_rate": 4.989886777337416e-06, + "loss": 0.2996, + "num_input_tokens_seen": 1306000, + "step": 658 + }, + { + "epoch": 0.08734261100066269, + "grad_norm": 14.10604190826416, + "learning_rate": 4.9898555607457075e-06, + "loss": 0.1954, + "num_input_tokens_seen": 1308600, + "step": 659 + }, + { + "epoch": 0.0874751491053678, + "grad_norm": 6.774168968200684, + "learning_rate": 4.9898242961478675e-06, + "loss": 0.13, + "num_input_tokens_seen": 1310120, + "step": 660 + }, + { + "epoch": 0.0876076872100729, + "grad_norm": 20.237262725830078, + "learning_rate": 4.989792983544496e-06, + "loss": 0.087, + "num_input_tokens_seen": 1312000, + "step": 661 + }, + { + "epoch": 0.087740225314778, + "grad_norm": 9.918155670166016, + "learning_rate": 4.989761622936199e-06, + "loss": 0.0958, + "num_input_tokens_seen": 1314680, + "step": 662 + }, + { + "epoch": 0.08787276341948311, + "grad_norm": 0.10521414130926132, + "learning_rate": 4.9897302143235805e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1316064, + "step": 663 + }, + { + "epoch": 0.0880053015241882, + "grad_norm": 0.02062806487083435, + "learning_rate": 4.989698757707246e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1317280, + "step": 664 + }, + { + "epoch": 0.08813783962889331, + "grad_norm": 7.562278747558594, + "learning_rate": 4.9896672530878004e-06, + "loss": 0.0489, + "num_input_tokens_seen": 1318816, + "step": 665 + }, + { + "epoch": 0.08827037773359842, + "grad_norm": 8.728992462158203, + "learning_rate": 4.989635700465854e-06, + "loss": 0.0293, + "num_input_tokens_seen": 1320984, + "step": 666 + }, + { + "epoch": 0.08840291583830351, + "grad_norm": 19.341419219970703, + "learning_rate": 4.989604099842013e-06, + "loss": 0.535, + "num_input_tokens_seen": 1323600, + "step": 667 + }, + { + "epoch": 0.08853545394300862, + "grad_norm": 3.3183066844940186, + "learning_rate": 4.989572451216888e-06, + "loss": 0.0097, + "num_input_tokens_seen": 1326272, + "step": 668 + }, + { + "epoch": 0.08866799204771372, + "grad_norm": 0.23016738891601562, + "learning_rate": 4.989540754591088e-06, + "loss": 0.0006, + "num_input_tokens_seen": 1327888, + "step": 669 + }, + { + "epoch": 0.08880053015241882, + "grad_norm": 2.326965808868408, + "learning_rate": 4.989509009965226e-06, + "loss": 0.0098, + "num_input_tokens_seen": 1329992, + "step": 670 + }, + { + "epoch": 0.08893306825712392, + "grad_norm": 10.426582336425781, + "learning_rate": 4.989477217339912e-06, + "loss": 0.2614, + "num_input_tokens_seen": 1331000, + "step": 671 + }, + { + "epoch": 0.08906560636182903, + "grad_norm": 14.278281211853027, + "learning_rate": 4.98944537671576e-06, + "loss": 0.488, + "num_input_tokens_seen": 1333088, + "step": 672 + }, + { + "epoch": 0.08919814446653412, + "grad_norm": 12.702383041381836, + "learning_rate": 4.989413488093384e-06, + "loss": 0.2876, + "num_input_tokens_seen": 1334856, + "step": 673 + }, + { + "epoch": 0.08933068257123923, + "grad_norm": 19.054916381835938, + "learning_rate": 4.989381551473399e-06, + "loss": 0.307, + "num_input_tokens_seen": 1336176, + "step": 674 + }, + { + "epoch": 0.08946322067594434, + "grad_norm": 30.507787704467773, + "learning_rate": 4.989349566856419e-06, + "loss": 1.1632, + "num_input_tokens_seen": 1339584, + "step": 675 + }, + { + "epoch": 0.08959575878064943, + "grad_norm": 0.01704728789627552, + "learning_rate": 4.989317534243063e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1342520, + "step": 676 + }, + { + "epoch": 0.08972829688535454, + "grad_norm": 16.835655212402344, + "learning_rate": 4.989285453633948e-06, + "loss": 0.2461, + "num_input_tokens_seen": 1344832, + "step": 677 + }, + { + "epoch": 0.08986083499005965, + "grad_norm": 8.752105712890625, + "learning_rate": 4.989253325029691e-06, + "loss": 0.1929, + "num_input_tokens_seen": 1346968, + "step": 678 + }, + { + "epoch": 0.08999337309476474, + "grad_norm": 9.870306015014648, + "learning_rate": 4.989221148430913e-06, + "loss": 0.1515, + "num_input_tokens_seen": 1349128, + "step": 679 + }, + { + "epoch": 0.09012591119946985, + "grad_norm": 26.429723739624023, + "learning_rate": 4.989188923838235e-06, + "loss": 1.103, + "num_input_tokens_seen": 1351552, + "step": 680 + }, + { + "epoch": 0.09025844930417495, + "grad_norm": 27.696903228759766, + "learning_rate": 4.989156651252276e-06, + "loss": 0.4898, + "num_input_tokens_seen": 1352760, + "step": 681 + }, + { + "epoch": 0.09039098740888005, + "grad_norm": 13.558822631835938, + "learning_rate": 4.989124330673661e-06, + "loss": 0.2836, + "num_input_tokens_seen": 1354720, + "step": 682 + }, + { + "epoch": 0.09052352551358515, + "grad_norm": 9.587841033935547, + "learning_rate": 4.989091962103011e-06, + "loss": 0.1231, + "num_input_tokens_seen": 1356160, + "step": 683 + }, + { + "epoch": 0.09065606361829026, + "grad_norm": 15.322427749633789, + "learning_rate": 4.98905954554095e-06, + "loss": 0.4212, + "num_input_tokens_seen": 1358464, + "step": 684 + }, + { + "epoch": 0.09078860172299535, + "grad_norm": 20.8477783203125, + "learning_rate": 4.9890270809881046e-06, + "loss": 0.2775, + "num_input_tokens_seen": 1360008, + "step": 685 + }, + { + "epoch": 0.09092113982770046, + "grad_norm": 0.48768192529678345, + "learning_rate": 4.9889945684451e-06, + "loss": 0.002, + "num_input_tokens_seen": 1362760, + "step": 686 + }, + { + "epoch": 0.09105367793240557, + "grad_norm": 13.189520835876465, + "learning_rate": 4.988962007912564e-06, + "loss": 0.1808, + "num_input_tokens_seen": 1364992, + "step": 687 + }, + { + "epoch": 0.09118621603711068, + "grad_norm": 9.489797592163086, + "learning_rate": 4.988929399391122e-06, + "loss": 0.175, + "num_input_tokens_seen": 1366232, + "step": 688 + }, + { + "epoch": 0.09131875414181577, + "grad_norm": 12.343358039855957, + "learning_rate": 4.988896742881405e-06, + "loss": 0.1203, + "num_input_tokens_seen": 1367944, + "step": 689 + }, + { + "epoch": 0.09145129224652088, + "grad_norm": 342.6282043457031, + "learning_rate": 4.988864038384041e-06, + "loss": 1.5204, + "num_input_tokens_seen": 1369784, + "step": 690 + }, + { + "epoch": 0.09158383035122598, + "grad_norm": 15.843669891357422, + "learning_rate": 4.988831285899663e-06, + "loss": 0.0256, + "num_input_tokens_seen": 1371432, + "step": 691 + }, + { + "epoch": 0.09171636845593108, + "grad_norm": 2.5344300270080566, + "learning_rate": 4.988798485428898e-06, + "loss": 0.0108, + "num_input_tokens_seen": 1372928, + "step": 692 + }, + { + "epoch": 0.09184890656063618, + "grad_norm": 7.959270000457764, + "learning_rate": 4.9887656369723835e-06, + "loss": 0.297, + "num_input_tokens_seen": 1375088, + "step": 693 + }, + { + "epoch": 0.09198144466534129, + "grad_norm": 15.053533554077148, + "learning_rate": 4.988732740530751e-06, + "loss": 0.3799, + "num_input_tokens_seen": 1376720, + "step": 694 + }, + { + "epoch": 0.09211398277004638, + "grad_norm": 15.338154792785645, + "learning_rate": 4.988699796104632e-06, + "loss": 0.4782, + "num_input_tokens_seen": 1378656, + "step": 695 + }, + { + "epoch": 0.09224652087475149, + "grad_norm": 24.729204177856445, + "learning_rate": 4.988666803694666e-06, + "loss": 0.2049, + "num_input_tokens_seen": 1380128, + "step": 696 + }, + { + "epoch": 0.0923790589794566, + "grad_norm": 9.287247657775879, + "learning_rate": 4.988633763301487e-06, + "loss": 0.1624, + "num_input_tokens_seen": 1381952, + "step": 697 + }, + { + "epoch": 0.09251159708416169, + "grad_norm": 0.44355037808418274, + "learning_rate": 4.988600674925732e-06, + "loss": 0.002, + "num_input_tokens_seen": 1383208, + "step": 698 + }, + { + "epoch": 0.0926441351888668, + "grad_norm": 1.12647545337677, + "learning_rate": 4.988567538568039e-06, + "loss": 0.0045, + "num_input_tokens_seen": 1384728, + "step": 699 + }, + { + "epoch": 0.0927766732935719, + "grad_norm": 13.151799201965332, + "learning_rate": 4.988534354229047e-06, + "loss": 0.0929, + "num_input_tokens_seen": 1386360, + "step": 700 + }, + { + "epoch": 0.092909211398277, + "grad_norm": 53.58653259277344, + "learning_rate": 4.988501121909396e-06, + "loss": 0.2849, + "num_input_tokens_seen": 1389464, + "step": 701 + }, + { + "epoch": 0.09304174950298211, + "grad_norm": 15.320070266723633, + "learning_rate": 4.988467841609727e-06, + "loss": 0.1257, + "num_input_tokens_seen": 1391072, + "step": 702 + }, + { + "epoch": 0.09317428760768721, + "grad_norm": 23.33917999267578, + "learning_rate": 4.988434513330681e-06, + "loss": 0.2425, + "num_input_tokens_seen": 1393744, + "step": 703 + }, + { + "epoch": 0.09330682571239231, + "grad_norm": 20.63372230529785, + "learning_rate": 4.988401137072901e-06, + "loss": 0.39, + "num_input_tokens_seen": 1395936, + "step": 704 + }, + { + "epoch": 0.09343936381709742, + "grad_norm": 15.035074234008789, + "learning_rate": 4.98836771283703e-06, + "loss": 0.5303, + "num_input_tokens_seen": 1397912, + "step": 705 + }, + { + "epoch": 0.09357190192180252, + "grad_norm": 14.882782936096191, + "learning_rate": 4.988334240623713e-06, + "loss": 0.2208, + "num_input_tokens_seen": 1399960, + "step": 706 + }, + { + "epoch": 0.09370444002650762, + "grad_norm": 0.6375334858894348, + "learning_rate": 4.9883007204335956e-06, + "loss": 0.0026, + "num_input_tokens_seen": 1402368, + "step": 707 + }, + { + "epoch": 0.09383697813121272, + "grad_norm": 14.368058204650879, + "learning_rate": 4.988267152267324e-06, + "loss": 0.21, + "num_input_tokens_seen": 1403632, + "step": 708 + }, + { + "epoch": 0.09396951623591783, + "grad_norm": 0.14596626162528992, + "learning_rate": 4.988233536125544e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1405800, + "step": 709 + }, + { + "epoch": 0.09410205434062292, + "grad_norm": 13.29217529296875, + "learning_rate": 4.988199872008906e-06, + "loss": 0.434, + "num_input_tokens_seen": 1408168, + "step": 710 + }, + { + "epoch": 0.09423459244532803, + "grad_norm": 0.041853271424770355, + "learning_rate": 4.988166159918057e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1410112, + "step": 711 + }, + { + "epoch": 0.09436713055003314, + "grad_norm": 14.671149253845215, + "learning_rate": 4.988132399853649e-06, + "loss": 0.4687, + "num_input_tokens_seen": 1412880, + "step": 712 + }, + { + "epoch": 0.09449966865473823, + "grad_norm": 19.114940643310547, + "learning_rate": 4.988098591816332e-06, + "loss": 0.3795, + "num_input_tokens_seen": 1414648, + "step": 713 + }, + { + "epoch": 0.09463220675944334, + "grad_norm": 18.239574432373047, + "learning_rate": 4.988064735806757e-06, + "loss": 0.2361, + "num_input_tokens_seen": 1416168, + "step": 714 + }, + { + "epoch": 0.09476474486414845, + "grad_norm": 28.464008331298828, + "learning_rate": 4.988030831825577e-06, + "loss": 0.4571, + "num_input_tokens_seen": 1418120, + "step": 715 + }, + { + "epoch": 0.09489728296885354, + "grad_norm": 0.10835893452167511, + "learning_rate": 4.9879968798734465e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1420168, + "step": 716 + }, + { + "epoch": 0.09502982107355865, + "grad_norm": 15.603118896484375, + "learning_rate": 4.987962879951021e-06, + "loss": 0.3054, + "num_input_tokens_seen": 1422728, + "step": 717 + }, + { + "epoch": 0.09516235917826375, + "grad_norm": 12.232925415039062, + "learning_rate": 4.987928832058952e-06, + "loss": 0.292, + "num_input_tokens_seen": 1424600, + "step": 718 + }, + { + "epoch": 0.09529489728296886, + "grad_norm": 19.580366134643555, + "learning_rate": 4.987894736197901e-06, + "loss": 0.4345, + "num_input_tokens_seen": 1426968, + "step": 719 + }, + { + "epoch": 0.09542743538767395, + "grad_norm": 546.7924194335938, + "learning_rate": 4.987860592368523e-06, + "loss": 0.6036, + "num_input_tokens_seen": 1430096, + "step": 720 + }, + { + "epoch": 0.09555997349237906, + "grad_norm": 96.1352310180664, + "learning_rate": 4.987826400571476e-06, + "loss": 1.4265, + "num_input_tokens_seen": 1434192, + "step": 721 + }, + { + "epoch": 0.09569251159708417, + "grad_norm": 22.91558265686035, + "learning_rate": 4.98779216080742e-06, + "loss": 0.2517, + "num_input_tokens_seen": 1436480, + "step": 722 + }, + { + "epoch": 0.09582504970178926, + "grad_norm": 56.499263763427734, + "learning_rate": 4.987757873077015e-06, + "loss": 0.1272, + "num_input_tokens_seen": 1437936, + "step": 723 + }, + { + "epoch": 0.09595758780649437, + "grad_norm": 23.61193084716797, + "learning_rate": 4.9877235373809216e-06, + "loss": 0.2669, + "num_input_tokens_seen": 1439720, + "step": 724 + }, + { + "epoch": 0.09609012591119948, + "grad_norm": 23.29979133605957, + "learning_rate": 4.987689153719802e-06, + "loss": 0.5032, + "num_input_tokens_seen": 1442256, + "step": 725 + }, + { + "epoch": 0.09622266401590457, + "grad_norm": 5.512513160705566, + "learning_rate": 4.987654722094321e-06, + "loss": 0.0438, + "num_input_tokens_seen": 1443728, + "step": 726 + }, + { + "epoch": 0.09635520212060968, + "grad_norm": 24.879680633544922, + "learning_rate": 4.987620242505139e-06, + "loss": 0.4635, + "num_input_tokens_seen": 1445640, + "step": 727 + }, + { + "epoch": 0.09648774022531478, + "grad_norm": 11.99130630493164, + "learning_rate": 4.987585714952923e-06, + "loss": 0.1229, + "num_input_tokens_seen": 1447824, + "step": 728 + }, + { + "epoch": 0.09662027833001988, + "grad_norm": 1.627767562866211, + "learning_rate": 4.987551139438339e-06, + "loss": 0.0078, + "num_input_tokens_seen": 1450440, + "step": 729 + }, + { + "epoch": 0.09675281643472498, + "grad_norm": 1.4350247383117676, + "learning_rate": 4.987516515962052e-06, + "loss": 0.0072, + "num_input_tokens_seen": 1452416, + "step": 730 + }, + { + "epoch": 0.09688535453943009, + "grad_norm": 11.842101097106934, + "learning_rate": 4.987481844524731e-06, + "loss": 0.1608, + "num_input_tokens_seen": 1454432, + "step": 731 + }, + { + "epoch": 0.09701789264413518, + "grad_norm": 36.77568054199219, + "learning_rate": 4.987447125127044e-06, + "loss": 1.6341, + "num_input_tokens_seen": 1457456, + "step": 732 + }, + { + "epoch": 0.09715043074884029, + "grad_norm": 16.38068962097168, + "learning_rate": 4.987412357769661e-06, + "loss": 0.1922, + "num_input_tokens_seen": 1459752, + "step": 733 + }, + { + "epoch": 0.0972829688535454, + "grad_norm": 19.159032821655273, + "learning_rate": 4.9873775424532515e-06, + "loss": 0.3839, + "num_input_tokens_seen": 1462136, + "step": 734 + }, + { + "epoch": 0.09741550695825049, + "grad_norm": 15.491409301757812, + "learning_rate": 4.987342679178486e-06, + "loss": 0.366, + "num_input_tokens_seen": 1464608, + "step": 735 + }, + { + "epoch": 0.0975480450629556, + "grad_norm": 12.078960418701172, + "learning_rate": 4.987307767946039e-06, + "loss": 0.3364, + "num_input_tokens_seen": 1467048, + "step": 736 + }, + { + "epoch": 0.0976805831676607, + "grad_norm": 9.48757553100586, + "learning_rate": 4.987272808756581e-06, + "loss": 0.1777, + "num_input_tokens_seen": 1468840, + "step": 737 + }, + { + "epoch": 0.0978131212723658, + "grad_norm": 745.883056640625, + "learning_rate": 4.987237801610788e-06, + "loss": 0.2046, + "num_input_tokens_seen": 1470272, + "step": 738 + }, + { + "epoch": 0.0979456593770709, + "grad_norm": 1.5754197835922241, + "learning_rate": 4.987202746509335e-06, + "loss": 0.0029, + "num_input_tokens_seen": 1471808, + "step": 739 + }, + { + "epoch": 0.09807819748177601, + "grad_norm": 0.10619448125362396, + "learning_rate": 4.9871676434528966e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1473296, + "step": 740 + }, + { + "epoch": 0.09821073558648111, + "grad_norm": 9.894831657409668, + "learning_rate": 4.98713249244215e-06, + "loss": 0.1444, + "num_input_tokens_seen": 1475344, + "step": 741 + }, + { + "epoch": 0.09834327369118621, + "grad_norm": 5.439673900604248, + "learning_rate": 4.987097293477774e-06, + "loss": 0.0632, + "num_input_tokens_seen": 1477456, + "step": 742 + }, + { + "epoch": 0.09847581179589132, + "grad_norm": 20.135883331298828, + "learning_rate": 4.987062046560446e-06, + "loss": 0.5811, + "num_input_tokens_seen": 1479344, + "step": 743 + }, + { + "epoch": 0.09860834990059641, + "grad_norm": 32.169254302978516, + "learning_rate": 4.987026751690845e-06, + "loss": 0.5984, + "num_input_tokens_seen": 1481352, + "step": 744 + }, + { + "epoch": 0.09874088800530152, + "grad_norm": 0.05301506444811821, + "learning_rate": 4.986991408869654e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1484000, + "step": 745 + }, + { + "epoch": 0.09887342611000663, + "grad_norm": 25.11466407775879, + "learning_rate": 4.986956018097552e-06, + "loss": 0.2294, + "num_input_tokens_seen": 1486248, + "step": 746 + }, + { + "epoch": 0.09900596421471174, + "grad_norm": 12.702735900878906, + "learning_rate": 4.986920579375223e-06, + "loss": 0.2259, + "num_input_tokens_seen": 1487488, + "step": 747 + }, + { + "epoch": 0.09913850231941683, + "grad_norm": 9.419434547424316, + "learning_rate": 4.986885092703349e-06, + "loss": 0.1453, + "num_input_tokens_seen": 1490616, + "step": 748 + }, + { + "epoch": 0.09927104042412194, + "grad_norm": 5.48451042175293, + "learning_rate": 4.986849558082615e-06, + "loss": 0.1653, + "num_input_tokens_seen": 1492584, + "step": 749 + }, + { + "epoch": 0.09940357852882704, + "grad_norm": 6.994708061218262, + "learning_rate": 4.986813975513706e-06, + "loss": 0.0853, + "num_input_tokens_seen": 1495160, + "step": 750 + }, + { + "epoch": 0.09953611663353214, + "grad_norm": 14.051322937011719, + "learning_rate": 4.986778344997308e-06, + "loss": 0.3267, + "num_input_tokens_seen": 1497128, + "step": 751 + }, + { + "epoch": 0.09966865473823724, + "grad_norm": 13.732600212097168, + "learning_rate": 4.986742666534108e-06, + "loss": 0.1131, + "num_input_tokens_seen": 1498752, + "step": 752 + }, + { + "epoch": 0.09980119284294235, + "grad_norm": 25.390104293823242, + "learning_rate": 4.986706940124794e-06, + "loss": 0.5778, + "num_input_tokens_seen": 1500480, + "step": 753 + }, + { + "epoch": 0.09993373094764745, + "grad_norm": 14.873355865478516, + "learning_rate": 4.986671165770054e-06, + "loss": 0.252, + "num_input_tokens_seen": 1502464, + "step": 754 + }, + { + "epoch": 0.10006626905235255, + "grad_norm": 16.085914611816406, + "learning_rate": 4.986635343470579e-06, + "loss": 0.2568, + "num_input_tokens_seen": 1504296, + "step": 755 + }, + { + "epoch": 0.10019880715705766, + "grad_norm": 26.34661102294922, + "learning_rate": 4.98659947322706e-06, + "loss": 0.4456, + "num_input_tokens_seen": 1506384, + "step": 756 + }, + { + "epoch": 0.10033134526176275, + "grad_norm": 1.040360927581787, + "learning_rate": 4.986563555040186e-06, + "loss": 0.0054, + "num_input_tokens_seen": 1507712, + "step": 757 + }, + { + "epoch": 0.10046388336646786, + "grad_norm": 42.569305419921875, + "learning_rate": 4.986527588910652e-06, + "loss": 0.5666, + "num_input_tokens_seen": 1511024, + "step": 758 + }, + { + "epoch": 0.10059642147117297, + "grad_norm": 17.265544891357422, + "learning_rate": 4.986491574839151e-06, + "loss": 0.5337, + "num_input_tokens_seen": 1513336, + "step": 759 + }, + { + "epoch": 0.10072895957587806, + "grad_norm": 11.115621566772461, + "learning_rate": 4.986455512826377e-06, + "loss": 0.078, + "num_input_tokens_seen": 1515248, + "step": 760 + }, + { + "epoch": 0.10086149768058317, + "grad_norm": 14.317075729370117, + "learning_rate": 4.986419402873025e-06, + "loss": 0.4713, + "num_input_tokens_seen": 1517360, + "step": 761 + }, + { + "epoch": 0.10099403578528827, + "grad_norm": 10.884073257446289, + "learning_rate": 4.986383244979792e-06, + "loss": 0.0761, + "num_input_tokens_seen": 1519016, + "step": 762 + }, + { + "epoch": 0.10112657388999337, + "grad_norm": 18.775115966796875, + "learning_rate": 4.9863470391473745e-06, + "loss": 0.4286, + "num_input_tokens_seen": 1520384, + "step": 763 + }, + { + "epoch": 0.10125911199469848, + "grad_norm": 4.701003551483154, + "learning_rate": 4.986310785376471e-06, + "loss": 0.0202, + "num_input_tokens_seen": 1521808, + "step": 764 + }, + { + "epoch": 0.10139165009940358, + "grad_norm": 14.515257835388184, + "learning_rate": 4.98627448366778e-06, + "loss": 0.3837, + "num_input_tokens_seen": 1523400, + "step": 765 + }, + { + "epoch": 0.10152418820410868, + "grad_norm": 3.0291593074798584, + "learning_rate": 4.986238134022003e-06, + "loss": 0.0159, + "num_input_tokens_seen": 1525736, + "step": 766 + }, + { + "epoch": 0.10165672630881378, + "grad_norm": 0.7638363242149353, + "learning_rate": 4.986201736439838e-06, + "loss": 0.0034, + "num_input_tokens_seen": 1527536, + "step": 767 + }, + { + "epoch": 0.10178926441351889, + "grad_norm": 1.6707223653793335, + "learning_rate": 4.98616529092199e-06, + "loss": 0.0085, + "num_input_tokens_seen": 1529320, + "step": 768 + }, + { + "epoch": 0.10192180251822398, + "grad_norm": 0.04035111889243126, + "learning_rate": 4.9861287974691594e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1530912, + "step": 769 + }, + { + "epoch": 0.10205434062292909, + "grad_norm": 17.018436431884766, + "learning_rate": 4.98609225608205e-06, + "loss": 0.6156, + "num_input_tokens_seen": 1533232, + "step": 770 + }, + { + "epoch": 0.1021868787276342, + "grad_norm": 20.329517364501953, + "learning_rate": 4.986055666761367e-06, + "loss": 0.6314, + "num_input_tokens_seen": 1534720, + "step": 771 + }, + { + "epoch": 0.10231941683233929, + "grad_norm": 0.01515394076704979, + "learning_rate": 4.986019029507816e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1536128, + "step": 772 + }, + { + "epoch": 0.1024519549370444, + "grad_norm": 0.06699056178331375, + "learning_rate": 4.985982344322103e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1537712, + "step": 773 + }, + { + "epoch": 0.1025844930417495, + "grad_norm": 18.549163818359375, + "learning_rate": 4.985945611204936e-06, + "loss": 0.4909, + "num_input_tokens_seen": 1539952, + "step": 774 + }, + { + "epoch": 0.10271703114645461, + "grad_norm": 15.423291206359863, + "learning_rate": 4.985908830157021e-06, + "loss": 0.4519, + "num_input_tokens_seen": 1542168, + "step": 775 + }, + { + "epoch": 0.1028495692511597, + "grad_norm": 11.36609172821045, + "learning_rate": 4.98587200117907e-06, + "loss": 0.2412, + "num_input_tokens_seen": 1544152, + "step": 776 + }, + { + "epoch": 0.10298210735586481, + "grad_norm": 30.567285537719727, + "learning_rate": 4.985835124271791e-06, + "loss": 0.8359, + "num_input_tokens_seen": 1546608, + "step": 777 + }, + { + "epoch": 0.10311464546056992, + "grad_norm": 15.79310131072998, + "learning_rate": 4.985798199435897e-06, + "loss": 0.4973, + "num_input_tokens_seen": 1549064, + "step": 778 + }, + { + "epoch": 0.10324718356527501, + "grad_norm": 19.374916076660156, + "learning_rate": 4.985761226672099e-06, + "loss": 0.4881, + "num_input_tokens_seen": 1551144, + "step": 779 + }, + { + "epoch": 0.10337972166998012, + "grad_norm": 11.14467716217041, + "learning_rate": 4.985724205981109e-06, + "loss": 0.239, + "num_input_tokens_seen": 1552944, + "step": 780 + }, + { + "epoch": 0.10351225977468523, + "grad_norm": 0.022233571857213974, + "learning_rate": 4.985687137363642e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1554288, + "step": 781 + }, + { + "epoch": 0.10364479787939032, + "grad_norm": 7.771042346954346, + "learning_rate": 4.9856500208204115e-06, + "loss": 0.1592, + "num_input_tokens_seen": 1555704, + "step": 782 + }, + { + "epoch": 0.10377733598409543, + "grad_norm": 19.567974090576172, + "learning_rate": 4.985612856352135e-06, + "loss": 0.4304, + "num_input_tokens_seen": 1557880, + "step": 783 + }, + { + "epoch": 0.10390987408880054, + "grad_norm": 21.69396209716797, + "learning_rate": 4.985575643959526e-06, + "loss": 0.8001, + "num_input_tokens_seen": 1559864, + "step": 784 + }, + { + "epoch": 0.10404241219350563, + "grad_norm": 20.777292251586914, + "learning_rate": 4.985538383643305e-06, + "loss": 0.5572, + "num_input_tokens_seen": 1562088, + "step": 785 + }, + { + "epoch": 0.10417495029821074, + "grad_norm": 0.2171250283718109, + "learning_rate": 4.98550107540419e-06, + "loss": 0.0011, + "num_input_tokens_seen": 1564152, + "step": 786 + }, + { + "epoch": 0.10430748840291584, + "grad_norm": 9.17831039428711, + "learning_rate": 4.985463719242899e-06, + "loss": 0.1282, + "num_input_tokens_seen": 1565840, + "step": 787 + }, + { + "epoch": 0.10444002650762094, + "grad_norm": 19.05247688293457, + "learning_rate": 4.985426315160152e-06, + "loss": 0.2431, + "num_input_tokens_seen": 1568152, + "step": 788 + }, + { + "epoch": 0.10457256461232604, + "grad_norm": 8.950368881225586, + "learning_rate": 4.985388863156672e-06, + "loss": 0.2835, + "num_input_tokens_seen": 1570136, + "step": 789 + }, + { + "epoch": 0.10470510271703115, + "grad_norm": 0.6779446601867676, + "learning_rate": 4.985351363233179e-06, + "loss": 0.0033, + "num_input_tokens_seen": 1571696, + "step": 790 + }, + { + "epoch": 0.10483764082173624, + "grad_norm": 17.873313903808594, + "learning_rate": 4.985313815390399e-06, + "loss": 0.5607, + "num_input_tokens_seen": 1573920, + "step": 791 + }, + { + "epoch": 0.10497017892644135, + "grad_norm": 0.3745076656341553, + "learning_rate": 4.985276219629053e-06, + "loss": 0.002, + "num_input_tokens_seen": 1575376, + "step": 792 + }, + { + "epoch": 0.10510271703114646, + "grad_norm": 21.35468101501465, + "learning_rate": 4.985238575949867e-06, + "loss": 0.4964, + "num_input_tokens_seen": 1576864, + "step": 793 + }, + { + "epoch": 0.10523525513585155, + "grad_norm": 5.856512546539307, + "learning_rate": 4.985200884353567e-06, + "loss": 0.0708, + "num_input_tokens_seen": 1578128, + "step": 794 + }, + { + "epoch": 0.10536779324055666, + "grad_norm": 1.709293007850647, + "learning_rate": 4.9851631448408795e-06, + "loss": 0.0405, + "num_input_tokens_seen": 1580688, + "step": 795 + }, + { + "epoch": 0.10550033134526177, + "grad_norm": 15.964642524719238, + "learning_rate": 4.9851253574125325e-06, + "loss": 0.3801, + "num_input_tokens_seen": 1582144, + "step": 796 + }, + { + "epoch": 0.10563286944996686, + "grad_norm": 11.121831893920898, + "learning_rate": 4.985087522069254e-06, + "loss": 0.2094, + "num_input_tokens_seen": 1584328, + "step": 797 + }, + { + "epoch": 0.10576540755467197, + "grad_norm": 15.89108657836914, + "learning_rate": 4.985049638811773e-06, + "loss": 0.4751, + "num_input_tokens_seen": 1587168, + "step": 798 + }, + { + "epoch": 0.10589794565937707, + "grad_norm": 5.668000221252441, + "learning_rate": 4.985011707640821e-06, + "loss": 0.1316, + "num_input_tokens_seen": 1588960, + "step": 799 + }, + { + "epoch": 0.10603048376408217, + "grad_norm": 11.672808647155762, + "learning_rate": 4.984973728557129e-06, + "loss": 0.1876, + "num_input_tokens_seen": 1590808, + "step": 800 + }, + { + "epoch": 0.10616302186878727, + "grad_norm": 12.616355895996094, + "learning_rate": 4.98493570156143e-06, + "loss": 0.187, + "num_input_tokens_seen": 1593128, + "step": 801 + }, + { + "epoch": 0.10629555997349238, + "grad_norm": 11.747628211975098, + "learning_rate": 4.984897626654455e-06, + "loss": 0.1139, + "num_input_tokens_seen": 1595336, + "step": 802 + }, + { + "epoch": 0.10642809807819748, + "grad_norm": 6.239638805389404, + "learning_rate": 4.98485950383694e-06, + "loss": 0.0484, + "num_input_tokens_seen": 1597000, + "step": 803 + }, + { + "epoch": 0.10656063618290258, + "grad_norm": 14.411937713623047, + "learning_rate": 4.98482133310962e-06, + "loss": 0.2067, + "num_input_tokens_seen": 1599784, + "step": 804 + }, + { + "epoch": 0.10669317428760769, + "grad_norm": 6.464604377746582, + "learning_rate": 4.984783114473231e-06, + "loss": 0.0765, + "num_input_tokens_seen": 1601336, + "step": 805 + }, + { + "epoch": 0.1068257123923128, + "grad_norm": 1.3901069164276123, + "learning_rate": 4.984744847928508e-06, + "loss": 0.0067, + "num_input_tokens_seen": 1602672, + "step": 806 + }, + { + "epoch": 0.10695825049701789, + "grad_norm": 0.6944620013237, + "learning_rate": 4.984706533476191e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1604024, + "step": 807 + }, + { + "epoch": 0.107090788601723, + "grad_norm": 11.79548168182373, + "learning_rate": 4.984668171117017e-06, + "loss": 0.0872, + "num_input_tokens_seen": 1606096, + "step": 808 + }, + { + "epoch": 0.1072233267064281, + "grad_norm": 10.3992919921875, + "learning_rate": 4.984629760851728e-06, + "loss": 0.1345, + "num_input_tokens_seen": 1607272, + "step": 809 + }, + { + "epoch": 0.1073558648111332, + "grad_norm": 7.927424907684326, + "learning_rate": 4.9845913026810624e-06, + "loss": 0.284, + "num_input_tokens_seen": 1609176, + "step": 810 + }, + { + "epoch": 0.1074884029158383, + "grad_norm": 11.217361450195312, + "learning_rate": 4.984552796605762e-06, + "loss": 0.3618, + "num_input_tokens_seen": 1611440, + "step": 811 + }, + { + "epoch": 0.10762094102054341, + "grad_norm": 6.751386642456055, + "learning_rate": 4.98451424262657e-06, + "loss": 0.1044, + "num_input_tokens_seen": 1613256, + "step": 812 + }, + { + "epoch": 0.1077534791252485, + "grad_norm": 7.366720199584961, + "learning_rate": 4.98447564074423e-06, + "loss": 0.1946, + "num_input_tokens_seen": 1615016, + "step": 813 + }, + { + "epoch": 0.10788601722995361, + "grad_norm": 0.077422134578228, + "learning_rate": 4.984436990959486e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1616104, + "step": 814 + }, + { + "epoch": 0.10801855533465872, + "grad_norm": 17.3349666595459, + "learning_rate": 4.9843982932730814e-06, + "loss": 0.507, + "num_input_tokens_seen": 1618336, + "step": 815 + }, + { + "epoch": 0.10815109343936381, + "grad_norm": 12.384060859680176, + "learning_rate": 4.9843595476857655e-06, + "loss": 0.2621, + "num_input_tokens_seen": 1621104, + "step": 816 + }, + { + "epoch": 0.10828363154406892, + "grad_norm": 17.825319290161133, + "learning_rate": 4.984320754198282e-06, + "loss": 0.3285, + "num_input_tokens_seen": 1623584, + "step": 817 + }, + { + "epoch": 0.10841616964877403, + "grad_norm": 2.3461272716522217, + "learning_rate": 4.984281912811382e-06, + "loss": 0.0497, + "num_input_tokens_seen": 1625264, + "step": 818 + }, + { + "epoch": 0.10854870775347912, + "grad_norm": 0.4677661061286926, + "learning_rate": 4.984243023525812e-06, + "loss": 0.0024, + "num_input_tokens_seen": 1627456, + "step": 819 + }, + { + "epoch": 0.10868124585818423, + "grad_norm": 0.0713978111743927, + "learning_rate": 4.984204086342323e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1629088, + "step": 820 + }, + { + "epoch": 0.10881378396288933, + "grad_norm": 38.562618255615234, + "learning_rate": 4.984165101261665e-06, + "loss": 0.5041, + "num_input_tokens_seen": 1631544, + "step": 821 + }, + { + "epoch": 0.10894632206759443, + "grad_norm": 0.06658313423395157, + "learning_rate": 4.984126068284591e-06, + "loss": 0.0004, + "num_input_tokens_seen": 1633848, + "step": 822 + }, + { + "epoch": 0.10907886017229954, + "grad_norm": 0.18257781863212585, + "learning_rate": 4.984086987411852e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1636048, + "step": 823 + }, + { + "epoch": 0.10921139827700464, + "grad_norm": 2.978452205657959, + "learning_rate": 4.984047858644202e-06, + "loss": 0.0551, + "num_input_tokens_seen": 1638800, + "step": 824 + }, + { + "epoch": 0.10934393638170974, + "grad_norm": 0.11380869895219803, + "learning_rate": 4.984008681982396e-06, + "loss": 0.0006, + "num_input_tokens_seen": 1640872, + "step": 825 + }, + { + "epoch": 0.10947647448641484, + "grad_norm": 0.5317994356155396, + "learning_rate": 4.983969457427189e-06, + "loss": 0.0026, + "num_input_tokens_seen": 1642744, + "step": 826 + }, + { + "epoch": 0.10960901259111995, + "grad_norm": 13.86351490020752, + "learning_rate": 4.983930184979338e-06, + "loss": 0.4566, + "num_input_tokens_seen": 1644416, + "step": 827 + }, + { + "epoch": 0.10974155069582504, + "grad_norm": 15.852274894714355, + "learning_rate": 4.983890864639598e-06, + "loss": 0.295, + "num_input_tokens_seen": 1647160, + "step": 828 + }, + { + "epoch": 0.10987408880053015, + "grad_norm": 0.10582073777914047, + "learning_rate": 4.983851496408729e-06, + "loss": 0.0006, + "num_input_tokens_seen": 1648984, + "step": 829 + }, + { + "epoch": 0.11000662690523526, + "grad_norm": 13.638051986694336, + "learning_rate": 4.98381208028749e-06, + "loss": 0.2271, + "num_input_tokens_seen": 1650856, + "step": 830 + }, + { + "epoch": 0.11013916500994035, + "grad_norm": 14.870671272277832, + "learning_rate": 4.983772616276641e-06, + "loss": 0.3975, + "num_input_tokens_seen": 1652480, + "step": 831 + }, + { + "epoch": 0.11027170311464546, + "grad_norm": 0.1878441721200943, + "learning_rate": 4.9837331043769416e-06, + "loss": 0.0008, + "num_input_tokens_seen": 1653672, + "step": 832 + }, + { + "epoch": 0.11040424121935057, + "grad_norm": 0.2929903566837311, + "learning_rate": 4.983693544589155e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1655256, + "step": 833 + }, + { + "epoch": 0.11053677932405567, + "grad_norm": 1.0403456687927246, + "learning_rate": 4.9836539369140434e-06, + "loss": 0.003, + "num_input_tokens_seen": 1658256, + "step": 834 + }, + { + "epoch": 0.11066931742876077, + "grad_norm": 15.563006401062012, + "learning_rate": 4.98361428135237e-06, + "loss": 0.405, + "num_input_tokens_seen": 1661384, + "step": 835 + }, + { + "epoch": 0.11080185553346587, + "grad_norm": 13.409303665161133, + "learning_rate": 4.9835745779049e-06, + "loss": 0.2076, + "num_input_tokens_seen": 1663480, + "step": 836 + }, + { + "epoch": 0.11093439363817098, + "grad_norm": 0.06287132948637009, + "learning_rate": 4.9835348265724e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1665440, + "step": 837 + }, + { + "epoch": 0.11106693174287607, + "grad_norm": 7.390381813049316, + "learning_rate": 4.983495027355634e-06, + "loss": 0.2333, + "num_input_tokens_seen": 1667560, + "step": 838 + }, + { + "epoch": 0.11119946984758118, + "grad_norm": 13.304295539855957, + "learning_rate": 4.983455180255371e-06, + "loss": 0.562, + "num_input_tokens_seen": 1669904, + "step": 839 + }, + { + "epoch": 0.11133200795228629, + "grad_norm": 15.280116081237793, + "learning_rate": 4.983415285272379e-06, + "loss": 0.3232, + "num_input_tokens_seen": 1671944, + "step": 840 + }, + { + "epoch": 0.11146454605699138, + "grad_norm": 21.811206817626953, + "learning_rate": 4.983375342407427e-06, + "loss": 0.8501, + "num_input_tokens_seen": 1674224, + "step": 841 + }, + { + "epoch": 0.11159708416169649, + "grad_norm": 0.05672546476125717, + "learning_rate": 4.983335351661285e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1675736, + "step": 842 + }, + { + "epoch": 0.1117296222664016, + "grad_norm": 0.6553467512130737, + "learning_rate": 4.983295313034725e-06, + "loss": 0.0032, + "num_input_tokens_seen": 1677808, + "step": 843 + }, + { + "epoch": 0.11186216037110669, + "grad_norm": 0.864575982093811, + "learning_rate": 4.9832552265285174e-06, + "loss": 0.0037, + "num_input_tokens_seen": 1679848, + "step": 844 + }, + { + "epoch": 0.1119946984758118, + "grad_norm": 3.7665722370147705, + "learning_rate": 4.983215092143437e-06, + "loss": 0.0919, + "num_input_tokens_seen": 1681832, + "step": 845 + }, + { + "epoch": 0.1121272365805169, + "grad_norm": 7.560515880584717, + "learning_rate": 4.983174909880255e-06, + "loss": 0.1615, + "num_input_tokens_seen": 1683824, + "step": 846 + }, + { + "epoch": 0.112259774685222, + "grad_norm": 9.117321968078613, + "learning_rate": 4.9831346797397485e-06, + "loss": 0.1764, + "num_input_tokens_seen": 1685800, + "step": 847 + }, + { + "epoch": 0.1123923127899271, + "grad_norm": 5.653853416442871, + "learning_rate": 4.983094401722692e-06, + "loss": 0.1085, + "num_input_tokens_seen": 1687336, + "step": 848 + }, + { + "epoch": 0.11252485089463221, + "grad_norm": 0.38787755370140076, + "learning_rate": 4.983054075829863e-06, + "loss": 0.0019, + "num_input_tokens_seen": 1689088, + "step": 849 + }, + { + "epoch": 0.1126573889993373, + "grad_norm": 29.667003631591797, + "learning_rate": 4.983013702062037e-06, + "loss": 0.4131, + "num_input_tokens_seen": 1691560, + "step": 850 + }, + { + "epoch": 0.11278992710404241, + "grad_norm": 23.675508499145508, + "learning_rate": 4.982973280419996e-06, + "loss": 0.4548, + "num_input_tokens_seen": 1692944, + "step": 851 + }, + { + "epoch": 0.11292246520874752, + "grad_norm": 18.625350952148438, + "learning_rate": 4.982932810904516e-06, + "loss": 0.3063, + "num_input_tokens_seen": 1694728, + "step": 852 + }, + { + "epoch": 0.11305500331345261, + "grad_norm": 11.815914154052734, + "learning_rate": 4.9828922935163785e-06, + "loss": 0.3517, + "num_input_tokens_seen": 1697208, + "step": 853 + }, + { + "epoch": 0.11318754141815772, + "grad_norm": 12.923126220703125, + "learning_rate": 4.982851728256365e-06, + "loss": 0.3375, + "num_input_tokens_seen": 1699128, + "step": 854 + }, + { + "epoch": 0.11332007952286283, + "grad_norm": 22.642520904541016, + "learning_rate": 4.982811115125257e-06, + "loss": 0.6115, + "num_input_tokens_seen": 1701200, + "step": 855 + }, + { + "epoch": 0.11345261762756792, + "grad_norm": 23.831607818603516, + "learning_rate": 4.9827704541238385e-06, + "loss": 0.8099, + "num_input_tokens_seen": 1703208, + "step": 856 + }, + { + "epoch": 0.11358515573227303, + "grad_norm": 5.9392547607421875, + "learning_rate": 4.982729745252893e-06, + "loss": 0.0386, + "num_input_tokens_seen": 1704664, + "step": 857 + }, + { + "epoch": 0.11371769383697813, + "grad_norm": 8.692997932434082, + "learning_rate": 4.982688988513205e-06, + "loss": 0.0659, + "num_input_tokens_seen": 1706640, + "step": 858 + }, + { + "epoch": 0.11385023194168323, + "grad_norm": 12.953629493713379, + "learning_rate": 4.98264818390556e-06, + "loss": 0.4667, + "num_input_tokens_seen": 1708560, + "step": 859 + }, + { + "epoch": 0.11398277004638833, + "grad_norm": 1.076991319656372, + "learning_rate": 4.982607331430746e-06, + "loss": 0.0059, + "num_input_tokens_seen": 1709928, + "step": 860 + }, + { + "epoch": 0.11411530815109344, + "grad_norm": 15.592238426208496, + "learning_rate": 4.9825664310895494e-06, + "loss": 0.298, + "num_input_tokens_seen": 1712344, + "step": 861 + }, + { + "epoch": 0.11424784625579854, + "grad_norm": 9.876296043395996, + "learning_rate": 4.98252548288276e-06, + "loss": 0.3059, + "num_input_tokens_seen": 1713992, + "step": 862 + }, + { + "epoch": 0.11438038436050364, + "grad_norm": 0.7367914319038391, + "learning_rate": 4.982484486811166e-06, + "loss": 0.004, + "num_input_tokens_seen": 1715384, + "step": 863 + }, + { + "epoch": 0.11451292246520875, + "grad_norm": 14.256082534790039, + "learning_rate": 4.982443442875559e-06, + "loss": 0.302, + "num_input_tokens_seen": 1717360, + "step": 864 + }, + { + "epoch": 0.11464546056991386, + "grad_norm": 18.457731246948242, + "learning_rate": 4.98240235107673e-06, + "loss": 0.5164, + "num_input_tokens_seen": 1719080, + "step": 865 + }, + { + "epoch": 0.11477799867461895, + "grad_norm": 16.755495071411133, + "learning_rate": 4.9823612114154704e-06, + "loss": 0.1996, + "num_input_tokens_seen": 1721680, + "step": 866 + }, + { + "epoch": 0.11491053677932406, + "grad_norm": 11.11315631866455, + "learning_rate": 4.982320023892575e-06, + "loss": 0.2141, + "num_input_tokens_seen": 1723256, + "step": 867 + }, + { + "epoch": 0.11504307488402916, + "grad_norm": 16.627334594726562, + "learning_rate": 4.982278788508837e-06, + "loss": 0.4186, + "num_input_tokens_seen": 1725144, + "step": 868 + }, + { + "epoch": 0.11517561298873426, + "grad_norm": 0.2547544836997986, + "learning_rate": 4.982237505265051e-06, + "loss": 0.0013, + "num_input_tokens_seen": 1726704, + "step": 869 + }, + { + "epoch": 0.11530815109343936, + "grad_norm": 16.413021087646484, + "learning_rate": 4.982196174162014e-06, + "loss": 0.456, + "num_input_tokens_seen": 1727976, + "step": 870 + }, + { + "epoch": 0.11544068919814447, + "grad_norm": 11.950100898742676, + "learning_rate": 4.982154795200522e-06, + "loss": 0.178, + "num_input_tokens_seen": 1730312, + "step": 871 + }, + { + "epoch": 0.11557322730284957, + "grad_norm": 11.07381534576416, + "learning_rate": 4.9821133683813735e-06, + "loss": 0.191, + "num_input_tokens_seen": 1731576, + "step": 872 + }, + { + "epoch": 0.11570576540755467, + "grad_norm": 12.142051696777344, + "learning_rate": 4.982071893705367e-06, + "loss": 0.4028, + "num_input_tokens_seen": 1733168, + "step": 873 + }, + { + "epoch": 0.11583830351225978, + "grad_norm": 21.12917137145996, + "learning_rate": 4.982030371173302e-06, + "loss": 0.8856, + "num_input_tokens_seen": 1735040, + "step": 874 + }, + { + "epoch": 0.11597084161696487, + "grad_norm": 2.745619773864746, + "learning_rate": 4.981988800785979e-06, + "loss": 0.0097, + "num_input_tokens_seen": 1737032, + "step": 875 + }, + { + "epoch": 0.11610337972166998, + "grad_norm": 16.126264572143555, + "learning_rate": 4.981947182544199e-06, + "loss": 0.3656, + "num_input_tokens_seen": 1738504, + "step": 876 + }, + { + "epoch": 0.11623591782637509, + "grad_norm": 1.384109377861023, + "learning_rate": 4.981905516448766e-06, + "loss": 0.0181, + "num_input_tokens_seen": 1740544, + "step": 877 + }, + { + "epoch": 0.11636845593108018, + "grad_norm": 0.529175341129303, + "learning_rate": 4.981863802500483e-06, + "loss": 0.0027, + "num_input_tokens_seen": 1743152, + "step": 878 + }, + { + "epoch": 0.11650099403578529, + "grad_norm": 22.3206729888916, + "learning_rate": 4.981822040700153e-06, + "loss": 0.6353, + "num_input_tokens_seen": 1745192, + "step": 879 + }, + { + "epoch": 0.1166335321404904, + "grad_norm": 11.981969833374023, + "learning_rate": 4.981780231048582e-06, + "loss": 0.183, + "num_input_tokens_seen": 1746936, + "step": 880 + }, + { + "epoch": 0.11676607024519549, + "grad_norm": 8.657827377319336, + "learning_rate": 4.981738373546575e-06, + "loss": 0.1326, + "num_input_tokens_seen": 1748576, + "step": 881 + }, + { + "epoch": 0.1168986083499006, + "grad_norm": 16.50551414489746, + "learning_rate": 4.981696468194942e-06, + "loss": 0.3783, + "num_input_tokens_seen": 1751376, + "step": 882 + }, + { + "epoch": 0.1170311464546057, + "grad_norm": 31.99459457397461, + "learning_rate": 4.981654514994489e-06, + "loss": 0.7492, + "num_input_tokens_seen": 1753328, + "step": 883 + }, + { + "epoch": 0.1171636845593108, + "grad_norm": 17.236486434936523, + "learning_rate": 4.981612513946024e-06, + "loss": 0.5204, + "num_input_tokens_seen": 1755368, + "step": 884 + }, + { + "epoch": 0.1172962226640159, + "grad_norm": 0.35969194769859314, + "learning_rate": 4.981570465050357e-06, + "loss": 0.0019, + "num_input_tokens_seen": 1757712, + "step": 885 + }, + { + "epoch": 0.11742876076872101, + "grad_norm": 3.8617584705352783, + "learning_rate": 4.981528368308301e-06, + "loss": 0.0712, + "num_input_tokens_seen": 1760288, + "step": 886 + }, + { + "epoch": 0.1175612988734261, + "grad_norm": 19.82040786743164, + "learning_rate": 4.981486223720665e-06, + "loss": 0.2419, + "num_input_tokens_seen": 1762048, + "step": 887 + }, + { + "epoch": 0.11769383697813121, + "grad_norm": 20.818172454833984, + "learning_rate": 4.9814440312882635e-06, + "loss": 0.4932, + "num_input_tokens_seen": 1763880, + "step": 888 + }, + { + "epoch": 0.11782637508283632, + "grad_norm": 9.143793106079102, + "learning_rate": 4.981401791011909e-06, + "loss": 0.0884, + "num_input_tokens_seen": 1766216, + "step": 889 + }, + { + "epoch": 0.11795891318754141, + "grad_norm": 16.558807373046875, + "learning_rate": 4.981359502892416e-06, + "loss": 0.4182, + "num_input_tokens_seen": 1768304, + "step": 890 + }, + { + "epoch": 0.11809145129224652, + "grad_norm": 19.93306541442871, + "learning_rate": 4.9813171669306e-06, + "loss": 0.6198, + "num_input_tokens_seen": 1770912, + "step": 891 + }, + { + "epoch": 0.11822398939695163, + "grad_norm": 16.844219207763672, + "learning_rate": 4.9812747831272775e-06, + "loss": 0.5516, + "num_input_tokens_seen": 1773040, + "step": 892 + }, + { + "epoch": 0.11835652750165673, + "grad_norm": 5.556632041931152, + "learning_rate": 4.981232351483265e-06, + "loss": 0.1735, + "num_input_tokens_seen": 1775560, + "step": 893 + }, + { + "epoch": 0.11848906560636183, + "grad_norm": 12.321590423583984, + "learning_rate": 4.981189871999381e-06, + "loss": 0.231, + "num_input_tokens_seen": 1777696, + "step": 894 + }, + { + "epoch": 0.11862160371106693, + "grad_norm": 8.620399475097656, + "learning_rate": 4.981147344676446e-06, + "loss": 0.2044, + "num_input_tokens_seen": 1778856, + "step": 895 + }, + { + "epoch": 0.11875414181577204, + "grad_norm": 9.742249488830566, + "learning_rate": 4.981104769515277e-06, + "loss": 0.2322, + "num_input_tokens_seen": 1780392, + "step": 896 + }, + { + "epoch": 0.11888667992047713, + "grad_norm": 10.554191589355469, + "learning_rate": 4.981062146516696e-06, + "loss": 0.1007, + "num_input_tokens_seen": 1783336, + "step": 897 + }, + { + "epoch": 0.11901921802518224, + "grad_norm": 5.274407386779785, + "learning_rate": 4.981019475681527e-06, + "loss": 0.0428, + "num_input_tokens_seen": 1785160, + "step": 898 + }, + { + "epoch": 0.11915175612988735, + "grad_norm": 15.795299530029297, + "learning_rate": 4.98097675701059e-06, + "loss": 0.3509, + "num_input_tokens_seen": 1787056, + "step": 899 + }, + { + "epoch": 0.11928429423459244, + "grad_norm": 28.578710556030273, + "learning_rate": 4.9809339905047095e-06, + "loss": 0.5014, + "num_input_tokens_seen": 1788920, + "step": 900 + }, + { + "epoch": 0.11941683233929755, + "grad_norm": 6.704741477966309, + "learning_rate": 4.980891176164711e-06, + "loss": 0.1481, + "num_input_tokens_seen": 1790480, + "step": 901 + }, + { + "epoch": 0.11954937044400266, + "grad_norm": 6.743203163146973, + "learning_rate": 4.980848313991417e-06, + "loss": 0.1238, + "num_input_tokens_seen": 1792296, + "step": 902 + }, + { + "epoch": 0.11968190854870775, + "grad_norm": 8.272367477416992, + "learning_rate": 4.9808054039856575e-06, + "loss": 0.1913, + "num_input_tokens_seen": 1794040, + "step": 903 + }, + { + "epoch": 0.11981444665341286, + "grad_norm": 1.7441437244415283, + "learning_rate": 4.980762446148259e-06, + "loss": 0.0095, + "num_input_tokens_seen": 1795320, + "step": 904 + }, + { + "epoch": 0.11994698475811796, + "grad_norm": 12.581842422485352, + "learning_rate": 4.980719440480048e-06, + "loss": 0.1067, + "num_input_tokens_seen": 1796400, + "step": 905 + }, + { + "epoch": 0.12007952286282306, + "grad_norm": 1.9570139646530151, + "learning_rate": 4.980676386981856e-06, + "loss": 0.0104, + "num_input_tokens_seen": 1798608, + "step": 906 + }, + { + "epoch": 0.12021206096752816, + "grad_norm": 2.0020437240600586, + "learning_rate": 4.980633285654511e-06, + "loss": 0.0088, + "num_input_tokens_seen": 1801216, + "step": 907 + }, + { + "epoch": 0.12034459907223327, + "grad_norm": 0.8369412422180176, + "learning_rate": 4.980590136498845e-06, + "loss": 0.0043, + "num_input_tokens_seen": 1803376, + "step": 908 + }, + { + "epoch": 0.12047713717693836, + "grad_norm": 0.9324873685836792, + "learning_rate": 4.98054693951569e-06, + "loss": 0.0046, + "num_input_tokens_seen": 1805384, + "step": 909 + }, + { + "epoch": 0.12060967528164347, + "grad_norm": 16.33839988708496, + "learning_rate": 4.980503694705879e-06, + "loss": 0.3225, + "num_input_tokens_seen": 1807768, + "step": 910 + }, + { + "epoch": 0.12074221338634858, + "grad_norm": 15.873828887939453, + "learning_rate": 4.9804604020702454e-06, + "loss": 0.4233, + "num_input_tokens_seen": 1809320, + "step": 911 + }, + { + "epoch": 0.12087475149105367, + "grad_norm": 9.458096504211426, + "learning_rate": 4.980417061609625e-06, + "loss": 0.0929, + "num_input_tokens_seen": 1811576, + "step": 912 + }, + { + "epoch": 0.12100728959575878, + "grad_norm": 13.18581771850586, + "learning_rate": 4.980373673324851e-06, + "loss": 0.2054, + "num_input_tokens_seen": 1813992, + "step": 913 + }, + { + "epoch": 0.12113982770046389, + "grad_norm": 0.03155744820833206, + "learning_rate": 4.9803302372167615e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1816104, + "step": 914 + }, + { + "epoch": 0.12127236580516898, + "grad_norm": 0.042727030813694, + "learning_rate": 4.980286753286196e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1818056, + "step": 915 + }, + { + "epoch": 0.12140490390987409, + "grad_norm": 2.7886788845062256, + "learning_rate": 4.980243221533988e-06, + "loss": 0.0989, + "num_input_tokens_seen": 1819312, + "step": 916 + }, + { + "epoch": 0.1215374420145792, + "grad_norm": 0.07936962693929672, + "learning_rate": 4.980199641960981e-06, + "loss": 0.0003, + "num_input_tokens_seen": 1820712, + "step": 917 + }, + { + "epoch": 0.12166998011928429, + "grad_norm": 11.05478572845459, + "learning_rate": 4.980156014568014e-06, + "loss": 0.2817, + "num_input_tokens_seen": 1822568, + "step": 918 + }, + { + "epoch": 0.1218025182239894, + "grad_norm": 13.562288284301758, + "learning_rate": 4.980112339355928e-06, + "loss": 0.189, + "num_input_tokens_seen": 1825920, + "step": 919 + }, + { + "epoch": 0.1219350563286945, + "grad_norm": 19.410114288330078, + "learning_rate": 4.980068616325565e-06, + "loss": 0.2246, + "num_input_tokens_seen": 1828048, + "step": 920 + }, + { + "epoch": 0.1220675944333996, + "grad_norm": 20.214387893676758, + "learning_rate": 4.980024845477769e-06, + "loss": 0.8152, + "num_input_tokens_seen": 1830496, + "step": 921 + }, + { + "epoch": 0.1222001325381047, + "grad_norm": 19.170421600341797, + "learning_rate": 4.979981026813382e-06, + "loss": 0.5857, + "num_input_tokens_seen": 1833752, + "step": 922 + }, + { + "epoch": 0.12233267064280981, + "grad_norm": 20.561349868774414, + "learning_rate": 4.97993716033325e-06, + "loss": 0.3535, + "num_input_tokens_seen": 1836312, + "step": 923 + }, + { + "epoch": 0.12246520874751492, + "grad_norm": 16.416982650756836, + "learning_rate": 4.979893246038219e-06, + "loss": 0.2581, + "num_input_tokens_seen": 1839752, + "step": 924 + }, + { + "epoch": 0.12259774685222001, + "grad_norm": 0.01307649165391922, + "learning_rate": 4.979849283929135e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1840872, + "step": 925 + }, + { + "epoch": 0.12273028495692512, + "grad_norm": 9.902410507202148, + "learning_rate": 4.979805274006847e-06, + "loss": 0.2249, + "num_input_tokens_seen": 1843648, + "step": 926 + }, + { + "epoch": 0.12286282306163022, + "grad_norm": 17.429828643798828, + "learning_rate": 4.979761216272202e-06, + "loss": 0.1367, + "num_input_tokens_seen": 1845304, + "step": 927 + }, + { + "epoch": 0.12299536116633532, + "grad_norm": 19.342809677124023, + "learning_rate": 4.97971711072605e-06, + "loss": 0.3836, + "num_input_tokens_seen": 1847072, + "step": 928 + }, + { + "epoch": 0.12312789927104043, + "grad_norm": 6.875079154968262, + "learning_rate": 4.979672957369242e-06, + "loss": 0.0226, + "num_input_tokens_seen": 1848416, + "step": 929 + }, + { + "epoch": 0.12326043737574553, + "grad_norm": 28.68491554260254, + "learning_rate": 4.979628756202628e-06, + "loss": 0.4527, + "num_input_tokens_seen": 1850944, + "step": 930 + }, + { + "epoch": 0.12339297548045063, + "grad_norm": 19.466541290283203, + "learning_rate": 4.979584507227062e-06, + "loss": 0.4791, + "num_input_tokens_seen": 1852864, + "step": 931 + }, + { + "epoch": 0.12352551358515573, + "grad_norm": 0.02839178964495659, + "learning_rate": 4.979540210443396e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1854928, + "step": 932 + }, + { + "epoch": 0.12365805168986084, + "grad_norm": 11.732213973999023, + "learning_rate": 4.979495865852483e-06, + "loss": 0.0857, + "num_input_tokens_seen": 1856592, + "step": 933 + }, + { + "epoch": 0.12379058979456593, + "grad_norm": 8.966989517211914, + "learning_rate": 4.979451473455179e-06, + "loss": 0.1056, + "num_input_tokens_seen": 1858192, + "step": 934 + }, + { + "epoch": 0.12392312789927104, + "grad_norm": 29.38459014892578, + "learning_rate": 4.979407033252342e-06, + "loss": 0.7006, + "num_input_tokens_seen": 1861032, + "step": 935 + }, + { + "epoch": 0.12405566600397615, + "grad_norm": 14.765287399291992, + "learning_rate": 4.979362545244825e-06, + "loss": 0.2784, + "num_input_tokens_seen": 1862640, + "step": 936 + }, + { + "epoch": 0.12418820410868124, + "grad_norm": 16.24656105041504, + "learning_rate": 4.979318009433489e-06, + "loss": 0.2565, + "num_input_tokens_seen": 1864392, + "step": 937 + }, + { + "epoch": 0.12432074221338635, + "grad_norm": 7.147797584533691, + "learning_rate": 4.979273425819191e-06, + "loss": 0.1088, + "num_input_tokens_seen": 1866104, + "step": 938 + }, + { + "epoch": 0.12445328031809146, + "grad_norm": 19.232332229614258, + "learning_rate": 4.979228794402791e-06, + "loss": 0.4301, + "num_input_tokens_seen": 1868016, + "step": 939 + }, + { + "epoch": 0.12458581842279655, + "grad_norm": 10.900642395019531, + "learning_rate": 4.979184115185149e-06, + "loss": 0.0946, + "num_input_tokens_seen": 1870328, + "step": 940 + }, + { + "epoch": 0.12471835652750166, + "grad_norm": 12.264572143554688, + "learning_rate": 4.979139388167128e-06, + "loss": 0.0838, + "num_input_tokens_seen": 1871640, + "step": 941 + }, + { + "epoch": 0.12485089463220676, + "grad_norm": 5.650241851806641, + "learning_rate": 4.9790946133495884e-06, + "loss": 0.0336, + "num_input_tokens_seen": 1873160, + "step": 942 + }, + { + "epoch": 0.12498343273691186, + "grad_norm": 22.28797149658203, + "learning_rate": 4.979049790733395e-06, + "loss": 0.3869, + "num_input_tokens_seen": 1874480, + "step": 943 + }, + { + "epoch": 0.12511597084161696, + "grad_norm": 15.541543006896973, + "learning_rate": 4.97900492031941e-06, + "loss": 0.2555, + "num_input_tokens_seen": 1876344, + "step": 944 + }, + { + "epoch": 0.12524850894632206, + "grad_norm": 32.305545806884766, + "learning_rate": 4.978960002108502e-06, + "loss": 0.3528, + "num_input_tokens_seen": 1879096, + "step": 945 + }, + { + "epoch": 0.12538104705102718, + "grad_norm": 15.09549617767334, + "learning_rate": 4.978915036101534e-06, + "loss": 0.327, + "num_input_tokens_seen": 1880960, + "step": 946 + }, + { + "epoch": 0.12551358515573227, + "grad_norm": 18.13591957092285, + "learning_rate": 4.978870022299374e-06, + "loss": 0.6034, + "num_input_tokens_seen": 1883112, + "step": 947 + }, + { + "epoch": 0.12564612326043736, + "grad_norm": 11.852300643920898, + "learning_rate": 4.97882496070289e-06, + "loss": 0.2273, + "num_input_tokens_seen": 1884448, + "step": 948 + }, + { + "epoch": 0.12577866136514249, + "grad_norm": 20.35089874267578, + "learning_rate": 4.978779851312951e-06, + "loss": 0.2672, + "num_input_tokens_seen": 1886368, + "step": 949 + }, + { + "epoch": 0.12591119946984758, + "grad_norm": 8.971364974975586, + "learning_rate": 4.978734694130426e-06, + "loss": 0.196, + "num_input_tokens_seen": 1889032, + "step": 950 + }, + { + "epoch": 0.12604373757455267, + "grad_norm": 3.7292568683624268, + "learning_rate": 4.978689489156187e-06, + "loss": 0.0767, + "num_input_tokens_seen": 1891576, + "step": 951 + }, + { + "epoch": 0.1261762756792578, + "grad_norm": 0.7282701134681702, + "learning_rate": 4.978644236391104e-06, + "loss": 0.0035, + "num_input_tokens_seen": 1892776, + "step": 952 + }, + { + "epoch": 0.1263088137839629, + "grad_norm": 1.57236647605896, + "learning_rate": 4.97859893583605e-06, + "loss": 0.0073, + "num_input_tokens_seen": 1894352, + "step": 953 + }, + { + "epoch": 0.12644135188866798, + "grad_norm": 16.642669677734375, + "learning_rate": 4.978553587491899e-06, + "loss": 0.4573, + "num_input_tokens_seen": 1896568, + "step": 954 + }, + { + "epoch": 0.1265738899933731, + "grad_norm": 1.8103134632110596, + "learning_rate": 4.9785081913595244e-06, + "loss": 0.0096, + "num_input_tokens_seen": 1898272, + "step": 955 + }, + { + "epoch": 0.1267064280980782, + "grad_norm": 1.0839422941207886, + "learning_rate": 4.978462747439802e-06, + "loss": 0.0058, + "num_input_tokens_seen": 1901432, + "step": 956 + }, + { + "epoch": 0.1268389662027833, + "grad_norm": 0.35691606998443604, + "learning_rate": 4.9784172557336085e-06, + "loss": 0.0018, + "num_input_tokens_seen": 1903728, + "step": 957 + }, + { + "epoch": 0.1269715043074884, + "grad_norm": 0.2396673709154129, + "learning_rate": 4.97837171624182e-06, + "loss": 0.0012, + "num_input_tokens_seen": 1905568, + "step": 958 + }, + { + "epoch": 0.1271040424121935, + "grad_norm": 14.472853660583496, + "learning_rate": 4.978326128965316e-06, + "loss": 0.2768, + "num_input_tokens_seen": 1907928, + "step": 959 + }, + { + "epoch": 0.1272365805168986, + "grad_norm": 0.017154300585389137, + "learning_rate": 4.978280493904974e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1909240, + "step": 960 + }, + { + "epoch": 0.12736911862160372, + "grad_norm": 26.194080352783203, + "learning_rate": 4.978234811061674e-06, + "loss": 0.9594, + "num_input_tokens_seen": 1910848, + "step": 961 + }, + { + "epoch": 0.1275016567263088, + "grad_norm": 0.018787138164043427, + "learning_rate": 4.978189080436298e-06, + "loss": 0.0001, + "num_input_tokens_seen": 1912712, + "step": 962 + }, + { + "epoch": 0.1276341948310139, + "grad_norm": 17.589214324951172, + "learning_rate": 4.978143302029726e-06, + "loss": 0.5851, + "num_input_tokens_seen": 1915472, + "step": 963 + }, + { + "epoch": 0.12776673293571902, + "grad_norm": 0.18589110672473907, + "learning_rate": 4.978097475842843e-06, + "loss": 0.0007, + "num_input_tokens_seen": 1918640, + "step": 964 + }, + { + "epoch": 0.12789927104042412, + "grad_norm": 6.767877578735352, + "learning_rate": 4.97805160187653e-06, + "loss": 0.2474, + "num_input_tokens_seen": 1921496, + "step": 965 + }, + { + "epoch": 0.12803180914512924, + "grad_norm": 15.221022605895996, + "learning_rate": 4.978005680131672e-06, + "loss": 0.435, + "num_input_tokens_seen": 1923384, + "step": 966 + }, + { + "epoch": 0.12816434724983433, + "grad_norm": 7.466868877410889, + "learning_rate": 4.977959710609156e-06, + "loss": 0.1878, + "num_input_tokens_seen": 1926368, + "step": 967 + }, + { + "epoch": 0.12829688535453942, + "grad_norm": 21.889080047607422, + "learning_rate": 4.977913693309867e-06, + "loss": 0.8215, + "num_input_tokens_seen": 1928536, + "step": 968 + }, + { + "epoch": 0.12842942345924455, + "grad_norm": 0.02951613999903202, + "learning_rate": 4.9778676282346935e-06, + "loss": 0.0002, + "num_input_tokens_seen": 1930192, + "step": 969 + }, + { + "epoch": 0.12856196156394964, + "grad_norm": 17.272552490234375, + "learning_rate": 4.977821515384522e-06, + "loss": 0.4763, + "num_input_tokens_seen": 1932088, + "step": 970 + }, + { + "epoch": 0.12869449966865473, + "grad_norm": 4.174117565155029, + "learning_rate": 4.977775354760241e-06, + "loss": 0.1649, + "num_input_tokens_seen": 1935352, + "step": 971 + }, + { + "epoch": 0.12882703777335985, + "grad_norm": 11.728879928588867, + "learning_rate": 4.977729146362744e-06, + "loss": 0.2765, + "num_input_tokens_seen": 1936928, + "step": 972 + }, + { + "epoch": 0.12895957587806495, + "grad_norm": 10.122467041015625, + "learning_rate": 4.977682890192919e-06, + "loss": 0.2682, + "num_input_tokens_seen": 1939032, + "step": 973 + }, + { + "epoch": 0.12909211398277004, + "grad_norm": 20.24359130859375, + "learning_rate": 4.9776365862516585e-06, + "loss": 0.3167, + "num_input_tokens_seen": 1940704, + "step": 974 + }, + { + "epoch": 0.12922465208747516, + "grad_norm": 15.037644386291504, + "learning_rate": 4.977590234539855e-06, + "loss": 0.3133, + "num_input_tokens_seen": 1942472, + "step": 975 + }, + { + "epoch": 0.12935719019218025, + "grad_norm": 0.871199369430542, + "learning_rate": 4.977543835058403e-06, + "loss": 0.0047, + "num_input_tokens_seen": 1943720, + "step": 976 + }, + { + "epoch": 0.12948972829688535, + "grad_norm": 10.860332489013672, + "learning_rate": 4.977497387808197e-06, + "loss": 0.3642, + "num_input_tokens_seen": 1945920, + "step": 977 + }, + { + "epoch": 0.12962226640159047, + "grad_norm": 12.183349609375, + "learning_rate": 4.977450892790131e-06, + "loss": 0.3583, + "num_input_tokens_seen": 1947984, + "step": 978 + }, + { + "epoch": 0.12975480450629556, + "grad_norm": 11.729555130004883, + "learning_rate": 4.977404350005104e-06, + "loss": 0.159, + "num_input_tokens_seen": 1950904, + "step": 979 + }, + { + "epoch": 0.12988734261100066, + "grad_norm": 0.8721858263015747, + "learning_rate": 4.977357759454011e-06, + "loss": 0.0049, + "num_input_tokens_seen": 1951912, + "step": 980 + }, + { + "epoch": 0.13001988071570578, + "grad_norm": 16.194427490234375, + "learning_rate": 4.977311121137752e-06, + "loss": 0.4528, + "num_input_tokens_seen": 1953840, + "step": 981 + }, + { + "epoch": 0.13015241882041087, + "grad_norm": 23.044219970703125, + "learning_rate": 4.977264435057226e-06, + "loss": 0.6483, + "num_input_tokens_seen": 1956032, + "step": 982 + }, + { + "epoch": 0.13028495692511596, + "grad_norm": 5.177922248840332, + "learning_rate": 4.977217701213332e-06, + "loss": 0.0912, + "num_input_tokens_seen": 1958464, + "step": 983 + }, + { + "epoch": 0.13041749502982108, + "grad_norm": 9.338175773620605, + "learning_rate": 4.9771709196069716e-06, + "loss": 0.166, + "num_input_tokens_seen": 1961120, + "step": 984 + }, + { + "epoch": 0.13055003313452618, + "grad_norm": 1.4829189777374268, + "learning_rate": 4.977124090239048e-06, + "loss": 0.008, + "num_input_tokens_seen": 1963200, + "step": 985 + }, + { + "epoch": 0.13068257123923127, + "grad_norm": 5.258603096008301, + "learning_rate": 4.977077213110462e-06, + "loss": 0.0914, + "num_input_tokens_seen": 1964400, + "step": 986 + }, + { + "epoch": 0.1308151093439364, + "grad_norm": 16.36634635925293, + "learning_rate": 4.977030288222119e-06, + "loss": 0.3669, + "num_input_tokens_seen": 1966760, + "step": 987 + }, + { + "epoch": 0.13094764744864149, + "grad_norm": 9.772537231445312, + "learning_rate": 4.976983315574923e-06, + "loss": 0.3577, + "num_input_tokens_seen": 1968784, + "step": 988 + }, + { + "epoch": 0.13108018555334658, + "grad_norm": 14.790483474731445, + "learning_rate": 4.97693629516978e-06, + "loss": 0.4724, + "num_input_tokens_seen": 1971256, + "step": 989 + }, + { + "epoch": 0.1312127236580517, + "grad_norm": 6.397546291351318, + "learning_rate": 4.976889227007597e-06, + "loss": 0.0896, + "num_input_tokens_seen": 1973680, + "step": 990 + }, + { + "epoch": 0.1313452617627568, + "grad_norm": 10.71539306640625, + "learning_rate": 4.97684211108928e-06, + "loss": 0.3719, + "num_input_tokens_seen": 1976496, + "step": 991 + }, + { + "epoch": 0.1314777998674619, + "grad_norm": 17.441057205200195, + "learning_rate": 4.976794947415739e-06, + "loss": 0.2989, + "num_input_tokens_seen": 1978144, + "step": 992 + }, + { + "epoch": 0.131610337972167, + "grad_norm": 7.96646785736084, + "learning_rate": 4.976747735987882e-06, + "loss": 0.2642, + "num_input_tokens_seen": 1980192, + "step": 993 + }, + { + "epoch": 0.1317428760768721, + "grad_norm": 0.7479077577590942, + "learning_rate": 4.976700476806622e-06, + "loss": 0.0041, + "num_input_tokens_seen": 1981616, + "step": 994 + }, + { + "epoch": 0.1318754141815772, + "grad_norm": 6.590865135192871, + "learning_rate": 4.976653169872866e-06, + "loss": 0.0968, + "num_input_tokens_seen": 1983648, + "step": 995 + }, + { + "epoch": 0.13200795228628232, + "grad_norm": 4.6522135734558105, + "learning_rate": 4.976605815187529e-06, + "loss": 0.0313, + "num_input_tokens_seen": 1985560, + "step": 996 + }, + { + "epoch": 0.1321404903909874, + "grad_norm": 0.715999186038971, + "learning_rate": 4.976558412751524e-06, + "loss": 0.0039, + "num_input_tokens_seen": 1987096, + "step": 997 + }, + { + "epoch": 0.1322730284956925, + "grad_norm": 0.8746582269668579, + "learning_rate": 4.976510962565764e-06, + "loss": 0.0045, + "num_input_tokens_seen": 1989448, + "step": 998 + }, + { + "epoch": 0.13240556660039762, + "grad_norm": 1.1189825534820557, + "learning_rate": 4.976463464631164e-06, + "loss": 0.0059, + "num_input_tokens_seen": 1991608, + "step": 999 + }, + { + "epoch": 0.13253810470510272, + "grad_norm": 9.288385391235352, + "learning_rate": 4.97641591894864e-06, + "loss": 0.1396, + "num_input_tokens_seen": 1993440, + "step": 1000 + }, + { + "epoch": 0.1326706428098078, + "grad_norm": 0.09776676446199417, + "learning_rate": 4.976368325519109e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1994544, + "step": 1001 + }, + { + "epoch": 0.13280318091451293, + "grad_norm": 3.845468044281006, + "learning_rate": 4.976320684343488e-06, + "loss": 0.0441, + "num_input_tokens_seen": 1995920, + "step": 1002 + }, + { + "epoch": 0.13293571901921802, + "grad_norm": 0.11025694757699966, + "learning_rate": 4.976272995422696e-06, + "loss": 0.0005, + "num_input_tokens_seen": 1996984, + "step": 1003 + }, + { + "epoch": 0.13306825712392312, + "grad_norm": 12.400800704956055, + "learning_rate": 4.976225258757652e-06, + "loss": 0.3215, + "num_input_tokens_seen": 1999408, + "step": 1004 + }, + { + "epoch": 0.13320079522862824, + "grad_norm": 0.1854807734489441, + "learning_rate": 4.9761774743492776e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2000664, + "step": 1005 + }, + { + "epoch": 0.13333333333333333, + "grad_norm": 0.0483243502676487, + "learning_rate": 4.976129642198492e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2002536, + "step": 1006 + }, + { + "epoch": 0.13346587143803842, + "grad_norm": 14.460874557495117, + "learning_rate": 4.9760817623062196e-06, + "loss": 0.2247, + "num_input_tokens_seen": 2004744, + "step": 1007 + }, + { + "epoch": 0.13359840954274355, + "grad_norm": 34.594844818115234, + "learning_rate": 4.976033834673383e-06, + "loss": 0.8309, + "num_input_tokens_seen": 2006888, + "step": 1008 + }, + { + "epoch": 0.13373094764744864, + "grad_norm": 14.689656257629395, + "learning_rate": 4.975985859300905e-06, + "loss": 0.3425, + "num_input_tokens_seen": 2008976, + "step": 1009 + }, + { + "epoch": 0.13386348575215373, + "grad_norm": 17.404752731323242, + "learning_rate": 4.975937836189712e-06, + "loss": 0.6832, + "num_input_tokens_seen": 2010720, + "step": 1010 + }, + { + "epoch": 0.13399602385685885, + "grad_norm": 11.40569019317627, + "learning_rate": 4.975889765340729e-06, + "loss": 0.2868, + "num_input_tokens_seen": 2012408, + "step": 1011 + }, + { + "epoch": 0.13412856196156395, + "grad_norm": 11.377372741699219, + "learning_rate": 4.975841646754885e-06, + "loss": 0.3469, + "num_input_tokens_seen": 2014008, + "step": 1012 + }, + { + "epoch": 0.13426110006626904, + "grad_norm": 14.436957359313965, + "learning_rate": 4.975793480433104e-06, + "loss": 0.3232, + "num_input_tokens_seen": 2016552, + "step": 1013 + }, + { + "epoch": 0.13439363817097416, + "grad_norm": 0.0989784449338913, + "learning_rate": 4.975745266376317e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2018104, + "step": 1014 + }, + { + "epoch": 0.13452617627567925, + "grad_norm": 0.02434745617210865, + "learning_rate": 4.975697004585455e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2019352, + "step": 1015 + }, + { + "epoch": 0.13465871438038435, + "grad_norm": 0.17050907015800476, + "learning_rate": 4.975648695061445e-06, + "loss": 0.0008, + "num_input_tokens_seen": 2021000, + "step": 1016 + }, + { + "epoch": 0.13479125248508947, + "grad_norm": 15.06557559967041, + "learning_rate": 4.975600337805221e-06, + "loss": 0.3678, + "num_input_tokens_seen": 2023184, + "step": 1017 + }, + { + "epoch": 0.13492379058979456, + "grad_norm": 5.201245307922363, + "learning_rate": 4.9755519328177146e-06, + "loss": 0.0711, + "num_input_tokens_seen": 2024728, + "step": 1018 + }, + { + "epoch": 0.13505632869449966, + "grad_norm": 8.9242582321167, + "learning_rate": 4.975503480099859e-06, + "loss": 0.208, + "num_input_tokens_seen": 2027088, + "step": 1019 + }, + { + "epoch": 0.13518886679920478, + "grad_norm": 20.803049087524414, + "learning_rate": 4.975454979652589e-06, + "loss": 0.6699, + "num_input_tokens_seen": 2028744, + "step": 1020 + }, + { + "epoch": 0.13532140490390987, + "grad_norm": 6.726044654846191, + "learning_rate": 4.975406431476839e-06, + "loss": 0.1754, + "num_input_tokens_seen": 2030448, + "step": 1021 + }, + { + "epoch": 0.13545394300861496, + "grad_norm": 15.010723114013672, + "learning_rate": 4.975357835573546e-06, + "loss": 0.257, + "num_input_tokens_seen": 2032208, + "step": 1022 + }, + { + "epoch": 0.13558648111332008, + "grad_norm": 1.7161058187484741, + "learning_rate": 4.975309191943644e-06, + "loss": 0.0084, + "num_input_tokens_seen": 2034176, + "step": 1023 + }, + { + "epoch": 0.13571901921802518, + "grad_norm": 8.106315612792969, + "learning_rate": 4.975260500588076e-06, + "loss": 0.1332, + "num_input_tokens_seen": 2036864, + "step": 1024 + }, + { + "epoch": 0.1358515573227303, + "grad_norm": 8.195710182189941, + "learning_rate": 4.975211761507777e-06, + "loss": 0.0749, + "num_input_tokens_seen": 2038344, + "step": 1025 + }, + { + "epoch": 0.1359840954274354, + "grad_norm": 11.96745777130127, + "learning_rate": 4.975162974703687e-06, + "loss": 0.1417, + "num_input_tokens_seen": 2040008, + "step": 1026 + }, + { + "epoch": 0.13611663353214049, + "grad_norm": 0.40713274478912354, + "learning_rate": 4.975114140176748e-06, + "loss": 0.0016, + "num_input_tokens_seen": 2041480, + "step": 1027 + }, + { + "epoch": 0.1362491716368456, + "grad_norm": 5.220546722412109, + "learning_rate": 4.9750652579279005e-06, + "loss": 0.0322, + "num_input_tokens_seen": 2043112, + "step": 1028 + }, + { + "epoch": 0.1363817097415507, + "grad_norm": 11.272992134094238, + "learning_rate": 4.975016327958087e-06, + "loss": 0.1386, + "num_input_tokens_seen": 2044688, + "step": 1029 + }, + { + "epoch": 0.1365142478462558, + "grad_norm": 3.4789772033691406, + "learning_rate": 4.974967350268251e-06, + "loss": 0.0805, + "num_input_tokens_seen": 2046976, + "step": 1030 + }, + { + "epoch": 0.13664678595096091, + "grad_norm": 14.42776870727539, + "learning_rate": 4.974918324859338e-06, + "loss": 0.4598, + "num_input_tokens_seen": 2048696, + "step": 1031 + }, + { + "epoch": 0.136779324055666, + "grad_norm": 1.0267363786697388, + "learning_rate": 4.974869251732293e-06, + "loss": 0.0052, + "num_input_tokens_seen": 2050664, + "step": 1032 + }, + { + "epoch": 0.1369118621603711, + "grad_norm": 22.682056427001953, + "learning_rate": 4.974820130888061e-06, + "loss": 0.7385, + "num_input_tokens_seen": 2051824, + "step": 1033 + }, + { + "epoch": 0.13704440026507622, + "grad_norm": 0.19740206003189087, + "learning_rate": 4.974770962327589e-06, + "loss": 0.001, + "num_input_tokens_seen": 2053608, + "step": 1034 + }, + { + "epoch": 0.13717693836978131, + "grad_norm": 12.586018562316895, + "learning_rate": 4.974721746051825e-06, + "loss": 0.285, + "num_input_tokens_seen": 2055192, + "step": 1035 + }, + { + "epoch": 0.1373094764744864, + "grad_norm": 0.3698250353336334, + "learning_rate": 4.97467248206172e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2057896, + "step": 1036 + }, + { + "epoch": 0.13744201457919153, + "grad_norm": 8.431306838989258, + "learning_rate": 4.974623170358222e-06, + "loss": 0.2271, + "num_input_tokens_seen": 2060752, + "step": 1037 + }, + { + "epoch": 0.13757455268389662, + "grad_norm": 23.15184211730957, + "learning_rate": 4.974573810942281e-06, + "loss": 0.8263, + "num_input_tokens_seen": 2063032, + "step": 1038 + }, + { + "epoch": 0.13770709078860172, + "grad_norm": 1.7490357160568237, + "learning_rate": 4.974524403814851e-06, + "loss": 0.0093, + "num_input_tokens_seen": 2064680, + "step": 1039 + }, + { + "epoch": 0.13783962889330684, + "grad_norm": 0.0850224569439888, + "learning_rate": 4.974474948976883e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2066064, + "step": 1040 + }, + { + "epoch": 0.13797216699801193, + "grad_norm": 10.165837287902832, + "learning_rate": 4.974425446429331e-06, + "loss": 0.1956, + "num_input_tokens_seen": 2067368, + "step": 1041 + }, + { + "epoch": 0.13810470510271702, + "grad_norm": 0.10979548841714859, + "learning_rate": 4.97437589617315e-06, + "loss": 0.0006, + "num_input_tokens_seen": 2068352, + "step": 1042 + }, + { + "epoch": 0.13823724320742214, + "grad_norm": 23.999309539794922, + "learning_rate": 4.974326298209294e-06, + "loss": 0.678, + "num_input_tokens_seen": 2070472, + "step": 1043 + }, + { + "epoch": 0.13836978131212724, + "grad_norm": 1.0572566986083984, + "learning_rate": 4.9742766525387184e-06, + "loss": 0.0036, + "num_input_tokens_seen": 2072760, + "step": 1044 + }, + { + "epoch": 0.13850231941683233, + "grad_norm": 3.4263973236083984, + "learning_rate": 4.9742269591623845e-06, + "loss": 0.0669, + "num_input_tokens_seen": 2074584, + "step": 1045 + }, + { + "epoch": 0.13863485752153745, + "grad_norm": 10.278995513916016, + "learning_rate": 4.974177218081247e-06, + "loss": 0.2531, + "num_input_tokens_seen": 2076200, + "step": 1046 + }, + { + "epoch": 0.13876739562624255, + "grad_norm": 25.111663818359375, + "learning_rate": 4.974127429296266e-06, + "loss": 0.3791, + "num_input_tokens_seen": 2078328, + "step": 1047 + }, + { + "epoch": 0.13889993373094764, + "grad_norm": 7.208645343780518, + "learning_rate": 4.974077592808402e-06, + "loss": 0.1693, + "num_input_tokens_seen": 2080400, + "step": 1048 + }, + { + "epoch": 0.13903247183565276, + "grad_norm": 9.183088302612305, + "learning_rate": 4.974027708618614e-06, + "loss": 0.1283, + "num_input_tokens_seen": 2082184, + "step": 1049 + }, + { + "epoch": 0.13916500994035785, + "grad_norm": 0.16749460995197296, + "learning_rate": 4.9739777767278656e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2084512, + "step": 1050 + }, + { + "epoch": 0.13929754804506295, + "grad_norm": 0.14608798921108246, + "learning_rate": 4.973927797137119e-06, + "loss": 0.0008, + "num_input_tokens_seen": 2085888, + "step": 1051 + }, + { + "epoch": 0.13943008614976807, + "grad_norm": 24.015453338623047, + "learning_rate": 4.973877769847338e-06, + "loss": 0.6617, + "num_input_tokens_seen": 2088232, + "step": 1052 + }, + { + "epoch": 0.13956262425447316, + "grad_norm": 8.42868709564209, + "learning_rate": 4.9738276948594865e-06, + "loss": 0.2422, + "num_input_tokens_seen": 2090456, + "step": 1053 + }, + { + "epoch": 0.13969516235917825, + "grad_norm": 18.085811614990234, + "learning_rate": 4.97377757217453e-06, + "loss": 0.3224, + "num_input_tokens_seen": 2092672, + "step": 1054 + }, + { + "epoch": 0.13982770046388338, + "grad_norm": 19.4833984375, + "learning_rate": 4.973727401793437e-06, + "loss": 0.3896, + "num_input_tokens_seen": 2095208, + "step": 1055 + }, + { + "epoch": 0.13996023856858847, + "grad_norm": 9.022984504699707, + "learning_rate": 4.973677183717172e-06, + "loss": 0.1654, + "num_input_tokens_seen": 2097840, + "step": 1056 + }, + { + "epoch": 0.14009277667329356, + "grad_norm": 8.475109100341797, + "learning_rate": 4.973626917946704e-06, + "loss": 0.2702, + "num_input_tokens_seen": 2099688, + "step": 1057 + }, + { + "epoch": 0.14022531477799868, + "grad_norm": 25.786333084106445, + "learning_rate": 4.973576604483004e-06, + "loss": 0.8779, + "num_input_tokens_seen": 2102472, + "step": 1058 + }, + { + "epoch": 0.14035785288270378, + "grad_norm": 0.3217809200286865, + "learning_rate": 4.973526243327039e-06, + "loss": 0.0018, + "num_input_tokens_seen": 2103656, + "step": 1059 + }, + { + "epoch": 0.14049039098740887, + "grad_norm": 14.359037399291992, + "learning_rate": 4.973475834479783e-06, + "loss": 0.2964, + "num_input_tokens_seen": 2104656, + "step": 1060 + }, + { + "epoch": 0.140622929092114, + "grad_norm": 15.119754791259766, + "learning_rate": 4.973425377942206e-06, + "loss": 0.1965, + "num_input_tokens_seen": 2106952, + "step": 1061 + }, + { + "epoch": 0.14075546719681908, + "grad_norm": 15.015596389770508, + "learning_rate": 4.973374873715281e-06, + "loss": 0.666, + "num_input_tokens_seen": 2109152, + "step": 1062 + }, + { + "epoch": 0.14088800530152418, + "grad_norm": 6.950316429138184, + "learning_rate": 4.973324321799983e-06, + "loss": 0.172, + "num_input_tokens_seen": 2112112, + "step": 1063 + }, + { + "epoch": 0.1410205434062293, + "grad_norm": 12.297924041748047, + "learning_rate": 4.973273722197285e-06, + "loss": 0.1637, + "num_input_tokens_seen": 2114272, + "step": 1064 + }, + { + "epoch": 0.1411530815109344, + "grad_norm": 10.396502494812012, + "learning_rate": 4.973223074908163e-06, + "loss": 0.2256, + "num_input_tokens_seen": 2116368, + "step": 1065 + }, + { + "epoch": 0.14128561961563949, + "grad_norm": 2.5695409774780273, + "learning_rate": 4.9731723799335954e-06, + "loss": 0.014, + "num_input_tokens_seen": 2118088, + "step": 1066 + }, + { + "epoch": 0.1414181577203446, + "grad_norm": 0.9237880706787109, + "learning_rate": 4.973121637274558e-06, + "loss": 0.0052, + "num_input_tokens_seen": 2119440, + "step": 1067 + }, + { + "epoch": 0.1415506958250497, + "grad_norm": 14.194740295410156, + "learning_rate": 4.973070846932028e-06, + "loss": 0.3794, + "num_input_tokens_seen": 2121888, + "step": 1068 + }, + { + "epoch": 0.1416832339297548, + "grad_norm": 0.8454501628875732, + "learning_rate": 4.973020008906987e-06, + "loss": 0.0045, + "num_input_tokens_seen": 2123736, + "step": 1069 + }, + { + "epoch": 0.1418157720344599, + "grad_norm": 7.1999993324279785, + "learning_rate": 4.9729691232004135e-06, + "loss": 0.0613, + "num_input_tokens_seen": 2125096, + "step": 1070 + }, + { + "epoch": 0.141948310139165, + "grad_norm": 16.522409439086914, + "learning_rate": 4.97291818981329e-06, + "loss": 0.7136, + "num_input_tokens_seen": 2127216, + "step": 1071 + }, + { + "epoch": 0.1420808482438701, + "grad_norm": 7.099532604217529, + "learning_rate": 4.972867208746597e-06, + "loss": 0.2218, + "num_input_tokens_seen": 2129040, + "step": 1072 + }, + { + "epoch": 0.14221338634857522, + "grad_norm": 10.5108060836792, + "learning_rate": 4.972816180001319e-06, + "loss": 0.1802, + "num_input_tokens_seen": 2131160, + "step": 1073 + }, + { + "epoch": 0.14234592445328031, + "grad_norm": 13.357348442077637, + "learning_rate": 4.972765103578438e-06, + "loss": 0.2124, + "num_input_tokens_seen": 2133136, + "step": 1074 + }, + { + "epoch": 0.1424784625579854, + "grad_norm": 0.17172189056873322, + "learning_rate": 4.972713979478941e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2135176, + "step": 1075 + }, + { + "epoch": 0.14261100066269053, + "grad_norm": 7.505782604217529, + "learning_rate": 4.972662807703813e-06, + "loss": 0.0844, + "num_input_tokens_seen": 2137488, + "step": 1076 + }, + { + "epoch": 0.14274353876739562, + "grad_norm": 2.9465689659118652, + "learning_rate": 4.97261158825404e-06, + "loss": 0.0498, + "num_input_tokens_seen": 2139320, + "step": 1077 + }, + { + "epoch": 0.14287607687210072, + "grad_norm": 0.1261802464723587, + "learning_rate": 4.972560321130609e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2140672, + "step": 1078 + }, + { + "epoch": 0.14300861497680584, + "grad_norm": 7.9510498046875, + "learning_rate": 4.97250900633451e-06, + "loss": 0.1369, + "num_input_tokens_seen": 2142224, + "step": 1079 + }, + { + "epoch": 0.14314115308151093, + "grad_norm": 8.301384925842285, + "learning_rate": 4.9724576438667316e-06, + "loss": 0.2094, + "num_input_tokens_seen": 2144048, + "step": 1080 + }, + { + "epoch": 0.14327369118621602, + "grad_norm": 16.20797348022461, + "learning_rate": 4.972406233728264e-06, + "loss": 0.3451, + "num_input_tokens_seen": 2145504, + "step": 1081 + }, + { + "epoch": 0.14340622929092114, + "grad_norm": 11.305400848388672, + "learning_rate": 4.972354775920099e-06, + "loss": 0.2041, + "num_input_tokens_seen": 2147824, + "step": 1082 + }, + { + "epoch": 0.14353876739562624, + "grad_norm": 17.06035041809082, + "learning_rate": 4.972303270443227e-06, + "loss": 0.3535, + "num_input_tokens_seen": 2149680, + "step": 1083 + }, + { + "epoch": 0.14367130550033136, + "grad_norm": 8.827367782592773, + "learning_rate": 4.972251717298644e-06, + "loss": 0.154, + "num_input_tokens_seen": 2151256, + "step": 1084 + }, + { + "epoch": 0.14380384360503645, + "grad_norm": 15.790962219238281, + "learning_rate": 4.972200116487342e-06, + "loss": 0.3193, + "num_input_tokens_seen": 2153144, + "step": 1085 + }, + { + "epoch": 0.14393638170974155, + "grad_norm": 11.527240753173828, + "learning_rate": 4.972148468010316e-06, + "loss": 0.126, + "num_input_tokens_seen": 2155544, + "step": 1086 + }, + { + "epoch": 0.14406891981444667, + "grad_norm": 0.07238878309726715, + "learning_rate": 4.972096771868562e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2156976, + "step": 1087 + }, + { + "epoch": 0.14420145791915176, + "grad_norm": 16.891948699951172, + "learning_rate": 4.972045028063076e-06, + "loss": 0.404, + "num_input_tokens_seen": 2159440, + "step": 1088 + }, + { + "epoch": 0.14433399602385685, + "grad_norm": 9.059277534484863, + "learning_rate": 4.971993236594858e-06, + "loss": 0.1847, + "num_input_tokens_seen": 2160560, + "step": 1089 + }, + { + "epoch": 0.14446653412856197, + "grad_norm": 16.980607986450195, + "learning_rate": 4.971941397464904e-06, + "loss": 0.2502, + "num_input_tokens_seen": 2162656, + "step": 1090 + }, + { + "epoch": 0.14459907223326707, + "grad_norm": 18.538114547729492, + "learning_rate": 4.971889510674215e-06, + "loss": 0.5705, + "num_input_tokens_seen": 2164232, + "step": 1091 + }, + { + "epoch": 0.14473161033797216, + "grad_norm": 0.23751325905323029, + "learning_rate": 4.9718375762237915e-06, + "loss": 0.0013, + "num_input_tokens_seen": 2166360, + "step": 1092 + }, + { + "epoch": 0.14486414844267728, + "grad_norm": 0.9280669689178467, + "learning_rate": 4.971785594114634e-06, + "loss": 0.0045, + "num_input_tokens_seen": 2168392, + "step": 1093 + }, + { + "epoch": 0.14499668654738238, + "grad_norm": 9.240777015686035, + "learning_rate": 4.971733564347745e-06, + "loss": 0.1102, + "num_input_tokens_seen": 2171184, + "step": 1094 + }, + { + "epoch": 0.14512922465208747, + "grad_norm": 0.21600164473056793, + "learning_rate": 4.971681486924127e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2172256, + "step": 1095 + }, + { + "epoch": 0.1452617627567926, + "grad_norm": 7.418125629425049, + "learning_rate": 4.971629361844785e-06, + "loss": 0.2352, + "num_input_tokens_seen": 2174832, + "step": 1096 + }, + { + "epoch": 0.14539430086149768, + "grad_norm": 6.598450660705566, + "learning_rate": 4.971577189110724e-06, + "loss": 0.0517, + "num_input_tokens_seen": 2176176, + "step": 1097 + }, + { + "epoch": 0.14552683896620278, + "grad_norm": 17.72537612915039, + "learning_rate": 4.971524968722951e-06, + "loss": 0.445, + "num_input_tokens_seen": 2177968, + "step": 1098 + }, + { + "epoch": 0.1456593770709079, + "grad_norm": 0.332596093416214, + "learning_rate": 4.97147270068247e-06, + "loss": 0.0014, + "num_input_tokens_seen": 2179224, + "step": 1099 + }, + { + "epoch": 0.145791915175613, + "grad_norm": 11.393199920654297, + "learning_rate": 4.9714203849902906e-06, + "loss": 0.2588, + "num_input_tokens_seen": 2180720, + "step": 1100 + }, + { + "epoch": 0.14592445328031808, + "grad_norm": 0.12381167709827423, + "learning_rate": 4.9713680216474215e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2183600, + "step": 1101 + }, + { + "epoch": 0.1460569913850232, + "grad_norm": 0.0911279022693634, + "learning_rate": 4.971315610654872e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2185096, + "step": 1102 + }, + { + "epoch": 0.1461895294897283, + "grad_norm": 0.09448344260454178, + "learning_rate": 4.971263152013653e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2186376, + "step": 1103 + }, + { + "epoch": 0.1463220675944334, + "grad_norm": 14.062426567077637, + "learning_rate": 4.971210645724775e-06, + "loss": 0.3228, + "num_input_tokens_seen": 2189072, + "step": 1104 + }, + { + "epoch": 0.1464546056991385, + "grad_norm": 16.506311416625977, + "learning_rate": 4.971158091789251e-06, + "loss": 0.3634, + "num_input_tokens_seen": 2190944, + "step": 1105 + }, + { + "epoch": 0.1465871438038436, + "grad_norm": 0.06774196773767471, + "learning_rate": 4.971105490208095e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2192232, + "step": 1106 + }, + { + "epoch": 0.1467196819085487, + "grad_norm": 13.49811840057373, + "learning_rate": 4.971052840982319e-06, + "loss": 0.44, + "num_input_tokens_seen": 2193848, + "step": 1107 + }, + { + "epoch": 0.14685222001325382, + "grad_norm": 16.973705291748047, + "learning_rate": 4.971000144112941e-06, + "loss": 0.4162, + "num_input_tokens_seen": 2196192, + "step": 1108 + }, + { + "epoch": 0.1469847581179589, + "grad_norm": 7.563966274261475, + "learning_rate": 4.970947399600975e-06, + "loss": 0.0709, + "num_input_tokens_seen": 2198112, + "step": 1109 + }, + { + "epoch": 0.147117296222664, + "grad_norm": 0.5764822959899902, + "learning_rate": 4.970894607447438e-06, + "loss": 0.0054, + "num_input_tokens_seen": 2199712, + "step": 1110 + }, + { + "epoch": 0.14724983432736913, + "grad_norm": 3.911957025527954, + "learning_rate": 4.970841767653349e-06, + "loss": 0.109, + "num_input_tokens_seen": 2201200, + "step": 1111 + }, + { + "epoch": 0.14738237243207422, + "grad_norm": 16.377504348754883, + "learning_rate": 4.970788880219726e-06, + "loss": 0.4557, + "num_input_tokens_seen": 2203248, + "step": 1112 + }, + { + "epoch": 0.14751491053677931, + "grad_norm": 9.744097709655762, + "learning_rate": 4.970735945147589e-06, + "loss": 0.1216, + "num_input_tokens_seen": 2204600, + "step": 1113 + }, + { + "epoch": 0.14764744864148444, + "grad_norm": 3.640883684158325, + "learning_rate": 4.970682962437958e-06, + "loss": 0.0379, + "num_input_tokens_seen": 2206720, + "step": 1114 + }, + { + "epoch": 0.14777998674618953, + "grad_norm": 15.960216522216797, + "learning_rate": 4.970629932091856e-06, + "loss": 0.3399, + "num_input_tokens_seen": 2208168, + "step": 1115 + }, + { + "epoch": 0.14791252485089462, + "grad_norm": 14.752596855163574, + "learning_rate": 4.970576854110304e-06, + "loss": 0.2745, + "num_input_tokens_seen": 2209904, + "step": 1116 + }, + { + "epoch": 0.14804506295559974, + "grad_norm": 0.04901452735066414, + "learning_rate": 4.970523728494326e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2211384, + "step": 1117 + }, + { + "epoch": 0.14817760106030484, + "grad_norm": 1.8523015975952148, + "learning_rate": 4.970470555244946e-06, + "loss": 0.0055, + "num_input_tokens_seen": 2213496, + "step": 1118 + }, + { + "epoch": 0.14831013916500993, + "grad_norm": 15.264734268188477, + "learning_rate": 4.970417334363189e-06, + "loss": 0.2557, + "num_input_tokens_seen": 2214912, + "step": 1119 + }, + { + "epoch": 0.14844267726971505, + "grad_norm": 0.6389595866203308, + "learning_rate": 4.970364065850082e-06, + "loss": 0.0012, + "num_input_tokens_seen": 2216496, + "step": 1120 + }, + { + "epoch": 0.14857521537442014, + "grad_norm": 17.97623634338379, + "learning_rate": 4.970310749706651e-06, + "loss": 0.4766, + "num_input_tokens_seen": 2217760, + "step": 1121 + }, + { + "epoch": 0.14870775347912524, + "grad_norm": 8.3178129196167, + "learning_rate": 4.970257385933925e-06, + "loss": 0.0791, + "num_input_tokens_seen": 2219928, + "step": 1122 + }, + { + "epoch": 0.14884029158383036, + "grad_norm": 0.09905339032411575, + "learning_rate": 4.970203974532933e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2221032, + "step": 1123 + }, + { + "epoch": 0.14897282968853545, + "grad_norm": 20.534059524536133, + "learning_rate": 4.970150515504703e-06, + "loss": 0.3386, + "num_input_tokens_seen": 2223080, + "step": 1124 + }, + { + "epoch": 0.14910536779324055, + "grad_norm": 2.9343061447143555, + "learning_rate": 4.970097008850269e-06, + "loss": 0.0115, + "num_input_tokens_seen": 2225104, + "step": 1125 + }, + { + "epoch": 0.14923790589794567, + "grad_norm": 21.946889877319336, + "learning_rate": 4.97004345457066e-06, + "loss": 0.5937, + "num_input_tokens_seen": 2227400, + "step": 1126 + }, + { + "epoch": 0.14937044400265076, + "grad_norm": 0.10060641914606094, + "learning_rate": 4.969989852666908e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2229248, + "step": 1127 + }, + { + "epoch": 0.14950298210735585, + "grad_norm": 13.128434181213379, + "learning_rate": 4.969936203140048e-06, + "loss": 0.275, + "num_input_tokens_seen": 2230928, + "step": 1128 + }, + { + "epoch": 0.14963552021206097, + "grad_norm": 7.371717929840088, + "learning_rate": 4.969882505991115e-06, + "loss": 0.0981, + "num_input_tokens_seen": 2233280, + "step": 1129 + }, + { + "epoch": 0.14976805831676607, + "grad_norm": 0.08068453520536423, + "learning_rate": 4.969828761221142e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2235200, + "step": 1130 + }, + { + "epoch": 0.14990059642147116, + "grad_norm": 10.685983657836914, + "learning_rate": 4.969774968831168e-06, + "loss": 0.1411, + "num_input_tokens_seen": 2236888, + "step": 1131 + }, + { + "epoch": 0.15003313452617628, + "grad_norm": 0.26747697591781616, + "learning_rate": 4.969721128822228e-06, + "loss": 0.0012, + "num_input_tokens_seen": 2238376, + "step": 1132 + }, + { + "epoch": 0.15016567263088137, + "grad_norm": 1.9737640619277954, + "learning_rate": 4.9696672411953615e-06, + "loss": 0.0044, + "num_input_tokens_seen": 2240352, + "step": 1133 + }, + { + "epoch": 0.15029821073558647, + "grad_norm": 11.947619438171387, + "learning_rate": 4.969613305951607e-06, + "loss": 0.4761, + "num_input_tokens_seen": 2242592, + "step": 1134 + }, + { + "epoch": 0.1504307488402916, + "grad_norm": 0.06477290391921997, + "learning_rate": 4.969559323092004e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2243648, + "step": 1135 + }, + { + "epoch": 0.15056328694499668, + "grad_norm": 0.28587570786476135, + "learning_rate": 4.969505292617593e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2245264, + "step": 1136 + }, + { + "epoch": 0.15069582504970178, + "grad_norm": 0.09513625502586365, + "learning_rate": 4.969451214529416e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2246488, + "step": 1137 + }, + { + "epoch": 0.1508283631544069, + "grad_norm": 0.06177070364356041, + "learning_rate": 4.969397088828517e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2248832, + "step": 1138 + }, + { + "epoch": 0.150960901259112, + "grad_norm": 14.32563304901123, + "learning_rate": 4.969342915515938e-06, + "loss": 0.3412, + "num_input_tokens_seen": 2251040, + "step": 1139 + }, + { + "epoch": 0.15109343936381708, + "grad_norm": 34.86860656738281, + "learning_rate": 4.969288694592725e-06, + "loss": 0.5281, + "num_input_tokens_seen": 2253832, + "step": 1140 + }, + { + "epoch": 0.1512259774685222, + "grad_norm": 9.496525764465332, + "learning_rate": 4.969234426059922e-06, + "loss": 0.3175, + "num_input_tokens_seen": 2255632, + "step": 1141 + }, + { + "epoch": 0.1513585155732273, + "grad_norm": 0.34487175941467285, + "learning_rate": 4.9691801099185746e-06, + "loss": 0.0012, + "num_input_tokens_seen": 2257104, + "step": 1142 + }, + { + "epoch": 0.15149105367793242, + "grad_norm": 8.842801094055176, + "learning_rate": 4.969125746169733e-06, + "loss": 0.1957, + "num_input_tokens_seen": 2259288, + "step": 1143 + }, + { + "epoch": 0.1516235917826375, + "grad_norm": 8.908940315246582, + "learning_rate": 4.9690713348144425e-06, + "loss": 0.3226, + "num_input_tokens_seen": 2262024, + "step": 1144 + }, + { + "epoch": 0.1517561298873426, + "grad_norm": 7.990653038024902, + "learning_rate": 4.969016875853754e-06, + "loss": 0.1555, + "num_input_tokens_seen": 2263808, + "step": 1145 + }, + { + "epoch": 0.15188866799204773, + "grad_norm": 14.654000282287598, + "learning_rate": 4.968962369288717e-06, + "loss": 0.2299, + "num_input_tokens_seen": 2265416, + "step": 1146 + }, + { + "epoch": 0.15202120609675282, + "grad_norm": 41.310523986816406, + "learning_rate": 4.968907815120382e-06, + "loss": 0.8631, + "num_input_tokens_seen": 2268504, + "step": 1147 + }, + { + "epoch": 0.1521537442014579, + "grad_norm": 7.033841133117676, + "learning_rate": 4.9688532133498004e-06, + "loss": 0.1642, + "num_input_tokens_seen": 2270696, + "step": 1148 + }, + { + "epoch": 0.15228628230616303, + "grad_norm": 10.48091983795166, + "learning_rate": 4.968798563978026e-06, + "loss": 0.2556, + "num_input_tokens_seen": 2272960, + "step": 1149 + }, + { + "epoch": 0.15241882041086813, + "grad_norm": 18.73812484741211, + "learning_rate": 4.9687438670061126e-06, + "loss": 0.3744, + "num_input_tokens_seen": 2274712, + "step": 1150 + }, + { + "epoch": 0.15255135851557322, + "grad_norm": 2.2381982803344727, + "learning_rate": 4.968689122435114e-06, + "loss": 0.0052, + "num_input_tokens_seen": 2276112, + "step": 1151 + }, + { + "epoch": 0.15268389662027834, + "grad_norm": 0.17634576559066772, + "learning_rate": 4.968634330266087e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2277688, + "step": 1152 + }, + { + "epoch": 0.15281643472498344, + "grad_norm": 14.243127822875977, + "learning_rate": 4.968579490500086e-06, + "loss": 0.4828, + "num_input_tokens_seen": 2279936, + "step": 1153 + }, + { + "epoch": 0.15294897282968853, + "grad_norm": 12.21242618560791, + "learning_rate": 4.96852460313817e-06, + "loss": 0.0618, + "num_input_tokens_seen": 2280984, + "step": 1154 + }, + { + "epoch": 0.15308151093439365, + "grad_norm": 19.897294998168945, + "learning_rate": 4.968469668181397e-06, + "loss": 0.592, + "num_input_tokens_seen": 2282200, + "step": 1155 + }, + { + "epoch": 0.15321404903909874, + "grad_norm": 14.368499755859375, + "learning_rate": 4.968414685630825e-06, + "loss": 0.0857, + "num_input_tokens_seen": 2283496, + "step": 1156 + }, + { + "epoch": 0.15334658714380384, + "grad_norm": 21.154964447021484, + "learning_rate": 4.968359655487515e-06, + "loss": 0.5014, + "num_input_tokens_seen": 2285608, + "step": 1157 + }, + { + "epoch": 0.15347912524850896, + "grad_norm": 0.20786318182945251, + "learning_rate": 4.968304577752528e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2287040, + "step": 1158 + }, + { + "epoch": 0.15361166335321405, + "grad_norm": 5.691685199737549, + "learning_rate": 4.968249452426927e-06, + "loss": 0.1654, + "num_input_tokens_seen": 2288952, + "step": 1159 + }, + { + "epoch": 0.15374420145791914, + "grad_norm": 0.19987598061561584, + "learning_rate": 4.968194279511773e-06, + "loss": 0.001, + "num_input_tokens_seen": 2291320, + "step": 1160 + }, + { + "epoch": 0.15387673956262427, + "grad_norm": 0.4299350380897522, + "learning_rate": 4.968139059008131e-06, + "loss": 0.0021, + "num_input_tokens_seen": 2293296, + "step": 1161 + }, + { + "epoch": 0.15400927766732936, + "grad_norm": 8.03731632232666, + "learning_rate": 4.9680837909170646e-06, + "loss": 0.1455, + "num_input_tokens_seen": 2295360, + "step": 1162 + }, + { + "epoch": 0.15414181577203445, + "grad_norm": 12.259587287902832, + "learning_rate": 4.96802847523964e-06, + "loss": 0.1423, + "num_input_tokens_seen": 2298368, + "step": 1163 + }, + { + "epoch": 0.15427435387673957, + "grad_norm": 23.08724594116211, + "learning_rate": 4.967973111976925e-06, + "loss": 0.6332, + "num_input_tokens_seen": 2300048, + "step": 1164 + }, + { + "epoch": 0.15440689198144467, + "grad_norm": 14.329208374023438, + "learning_rate": 4.967917701129985e-06, + "loss": 0.1032, + "num_input_tokens_seen": 2302168, + "step": 1165 + }, + { + "epoch": 0.15453943008614976, + "grad_norm": 15.72828197479248, + "learning_rate": 4.967862242699889e-06, + "loss": 0.3043, + "num_input_tokens_seen": 2303696, + "step": 1166 + }, + { + "epoch": 0.15467196819085488, + "grad_norm": 10.578027725219727, + "learning_rate": 4.967806736687707e-06, + "loss": 0.0761, + "num_input_tokens_seen": 2305760, + "step": 1167 + }, + { + "epoch": 0.15480450629555997, + "grad_norm": 12.880636215209961, + "learning_rate": 4.967751183094508e-06, + "loss": 0.097, + "num_input_tokens_seen": 2307368, + "step": 1168 + }, + { + "epoch": 0.15493704440026507, + "grad_norm": 0.1368607133626938, + "learning_rate": 4.967695581921364e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2309000, + "step": 1169 + }, + { + "epoch": 0.1550695825049702, + "grad_norm": 0.13404937088489532, + "learning_rate": 4.967639933169347e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2310144, + "step": 1170 + }, + { + "epoch": 0.15520212060967528, + "grad_norm": 0.13037435710430145, + "learning_rate": 4.96758423683953e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2311640, + "step": 1171 + }, + { + "epoch": 0.15533465871438037, + "grad_norm": 18.210630416870117, + "learning_rate": 4.9675284929329855e-06, + "loss": 0.3665, + "num_input_tokens_seen": 2314128, + "step": 1172 + }, + { + "epoch": 0.1554671968190855, + "grad_norm": 1.6704750061035156, + "learning_rate": 4.96747270145079e-06, + "loss": 0.012, + "num_input_tokens_seen": 2315808, + "step": 1173 + }, + { + "epoch": 0.1555997349237906, + "grad_norm": 9.904519081115723, + "learning_rate": 4.96741686239402e-06, + "loss": 0.2422, + "num_input_tokens_seen": 2318288, + "step": 1174 + }, + { + "epoch": 0.15573227302849568, + "grad_norm": 0.13234105706214905, + "learning_rate": 4.96736097576375e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2321216, + "step": 1175 + }, + { + "epoch": 0.1558648111332008, + "grad_norm": 29.408897399902344, + "learning_rate": 4.967305041561057e-06, + "loss": 0.7555, + "num_input_tokens_seen": 2323696, + "step": 1176 + }, + { + "epoch": 0.1559973492379059, + "grad_norm": 0.12690770626068115, + "learning_rate": 4.967249059787021e-06, + "loss": 0.0006, + "num_input_tokens_seen": 2325592, + "step": 1177 + }, + { + "epoch": 0.156129887342611, + "grad_norm": 6.844043254852295, + "learning_rate": 4.967193030442722e-06, + "loss": 0.136, + "num_input_tokens_seen": 2326656, + "step": 1178 + }, + { + "epoch": 0.1562624254473161, + "grad_norm": 20.070098876953125, + "learning_rate": 4.967136953529239e-06, + "loss": 0.3159, + "num_input_tokens_seen": 2328128, + "step": 1179 + }, + { + "epoch": 0.1563949635520212, + "grad_norm": 0.23279854655265808, + "learning_rate": 4.967080829047653e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2329656, + "step": 1180 + }, + { + "epoch": 0.1565275016567263, + "grad_norm": 9.846593856811523, + "learning_rate": 4.967024656999048e-06, + "loss": 0.2366, + "num_input_tokens_seen": 2331160, + "step": 1181 + }, + { + "epoch": 0.15666003976143142, + "grad_norm": 21.642732620239258, + "learning_rate": 4.966968437384504e-06, + "loss": 0.4724, + "num_input_tokens_seen": 2333192, + "step": 1182 + }, + { + "epoch": 0.1567925778661365, + "grad_norm": 6.204029560089111, + "learning_rate": 4.966912170205108e-06, + "loss": 0.142, + "num_input_tokens_seen": 2335760, + "step": 1183 + }, + { + "epoch": 0.1569251159708416, + "grad_norm": 11.157078742980957, + "learning_rate": 4.9668558554619424e-06, + "loss": 0.3597, + "num_input_tokens_seen": 2337720, + "step": 1184 + }, + { + "epoch": 0.15705765407554673, + "grad_norm": 0.18780739605426788, + "learning_rate": 4.966799493156095e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2339768, + "step": 1185 + }, + { + "epoch": 0.15719019218025182, + "grad_norm": 0.20116011798381805, + "learning_rate": 4.966743083288651e-06, + "loss": 0.001, + "num_input_tokens_seen": 2341296, + "step": 1186 + }, + { + "epoch": 0.1573227302849569, + "grad_norm": 9.951813697814941, + "learning_rate": 4.966686625860699e-06, + "loss": 0.2009, + "num_input_tokens_seen": 2343016, + "step": 1187 + }, + { + "epoch": 0.15745526838966203, + "grad_norm": 13.271669387817383, + "learning_rate": 4.9666301208733266e-06, + "loss": 0.2422, + "num_input_tokens_seen": 2344848, + "step": 1188 + }, + { + "epoch": 0.15758780649436713, + "grad_norm": 14.315110206604004, + "learning_rate": 4.966573568327625e-06, + "loss": 0.3175, + "num_input_tokens_seen": 2346528, + "step": 1189 + }, + { + "epoch": 0.15772034459907222, + "grad_norm": 13.240228652954102, + "learning_rate": 4.966516968224683e-06, + "loss": 0.1778, + "num_input_tokens_seen": 2348136, + "step": 1190 + }, + { + "epoch": 0.15785288270377734, + "grad_norm": 18.752595901489258, + "learning_rate": 4.966460320565592e-06, + "loss": 0.5405, + "num_input_tokens_seen": 2350872, + "step": 1191 + }, + { + "epoch": 0.15798542080848244, + "grad_norm": 0.40500640869140625, + "learning_rate": 4.966403625351444e-06, + "loss": 0.002, + "num_input_tokens_seen": 2352456, + "step": 1192 + }, + { + "epoch": 0.15811795891318753, + "grad_norm": 10.899077415466309, + "learning_rate": 4.966346882583333e-06, + "loss": 0.1399, + "num_input_tokens_seen": 2354200, + "step": 1193 + }, + { + "epoch": 0.15825049701789265, + "grad_norm": 14.641097068786621, + "learning_rate": 4.966290092262353e-06, + "loss": 0.5644, + "num_input_tokens_seen": 2355840, + "step": 1194 + }, + { + "epoch": 0.15838303512259774, + "grad_norm": 9.716653823852539, + "learning_rate": 4.9662332543895984e-06, + "loss": 0.1583, + "num_input_tokens_seen": 2358192, + "step": 1195 + }, + { + "epoch": 0.15851557322730284, + "grad_norm": 16.018234252929688, + "learning_rate": 4.966176368966165e-06, + "loss": 0.6166, + "num_input_tokens_seen": 2360216, + "step": 1196 + }, + { + "epoch": 0.15864811133200796, + "grad_norm": 11.404841423034668, + "learning_rate": 4.9661194359931504e-06, + "loss": 0.4163, + "num_input_tokens_seen": 2362416, + "step": 1197 + }, + { + "epoch": 0.15878064943671305, + "grad_norm": 0.8917785882949829, + "learning_rate": 4.966062455471651e-06, + "loss": 0.0045, + "num_input_tokens_seen": 2365168, + "step": 1198 + }, + { + "epoch": 0.15891318754141814, + "grad_norm": 10.884905815124512, + "learning_rate": 4.9660054274027666e-06, + "loss": 0.2707, + "num_input_tokens_seen": 2368040, + "step": 1199 + }, + { + "epoch": 0.15904572564612326, + "grad_norm": 0.4378180503845215, + "learning_rate": 4.965948351787597e-06, + "loss": 0.0022, + "num_input_tokens_seen": 2369048, + "step": 1200 + }, + { + "epoch": 0.15917826375082836, + "grad_norm": 0.7108259797096252, + "learning_rate": 4.9658912286272416e-06, + "loss": 0.0036, + "num_input_tokens_seen": 2371280, + "step": 1201 + }, + { + "epoch": 0.15931080185553348, + "grad_norm": 23.162755966186523, + "learning_rate": 4.965834057922802e-06, + "loss": 1.1308, + "num_input_tokens_seen": 2373632, + "step": 1202 + }, + { + "epoch": 0.15944333996023857, + "grad_norm": 0.20963579416275024, + "learning_rate": 4.965776839675381e-06, + "loss": 0.001, + "num_input_tokens_seen": 2374704, + "step": 1203 + }, + { + "epoch": 0.15957587806494367, + "grad_norm": 10.45650577545166, + "learning_rate": 4.965719573886081e-06, + "loss": 0.2593, + "num_input_tokens_seen": 2377064, + "step": 1204 + }, + { + "epoch": 0.1597084161696488, + "grad_norm": 10.756378173828125, + "learning_rate": 4.9656622605560065e-06, + "loss": 0.1955, + "num_input_tokens_seen": 2378792, + "step": 1205 + }, + { + "epoch": 0.15984095427435388, + "grad_norm": 0.3480214774608612, + "learning_rate": 4.965604899686264e-06, + "loss": 0.0016, + "num_input_tokens_seen": 2380192, + "step": 1206 + }, + { + "epoch": 0.15997349237905897, + "grad_norm": 7.867863655090332, + "learning_rate": 4.965547491277957e-06, + "loss": 0.0445, + "num_input_tokens_seen": 2382344, + "step": 1207 + }, + { + "epoch": 0.1601060304837641, + "grad_norm": 21.34485626220703, + "learning_rate": 4.965490035332193e-06, + "loss": 0.7536, + "num_input_tokens_seen": 2384232, + "step": 1208 + }, + { + "epoch": 0.1602385685884692, + "grad_norm": 12.051791191101074, + "learning_rate": 4.965432531850081e-06, + "loss": 0.2002, + "num_input_tokens_seen": 2386752, + "step": 1209 + }, + { + "epoch": 0.16037110669317428, + "grad_norm": 24.40317726135254, + "learning_rate": 4.965374980832729e-06, + "loss": 0.4844, + "num_input_tokens_seen": 2388560, + "step": 1210 + }, + { + "epoch": 0.1605036447978794, + "grad_norm": 10.289485931396484, + "learning_rate": 4.9653173822812466e-06, + "loss": 0.1146, + "num_input_tokens_seen": 2390520, + "step": 1211 + }, + { + "epoch": 0.1606361829025845, + "grad_norm": 9.223539352416992, + "learning_rate": 4.965259736196744e-06, + "loss": 0.2771, + "num_input_tokens_seen": 2392504, + "step": 1212 + }, + { + "epoch": 0.1607687210072896, + "grad_norm": 18.188947677612305, + "learning_rate": 4.965202042580333e-06, + "loss": 0.5398, + "num_input_tokens_seen": 2396208, + "step": 1213 + }, + { + "epoch": 0.1609012591119947, + "grad_norm": 8.66128158569336, + "learning_rate": 4.965144301433126e-06, + "loss": 0.122, + "num_input_tokens_seen": 2397920, + "step": 1214 + }, + { + "epoch": 0.1610337972166998, + "grad_norm": 9.544986724853516, + "learning_rate": 4.965086512756236e-06, + "loss": 0.1422, + "num_input_tokens_seen": 2399576, + "step": 1215 + }, + { + "epoch": 0.1611663353214049, + "grad_norm": 10.718111991882324, + "learning_rate": 4.965028676550778e-06, + "loss": 0.2169, + "num_input_tokens_seen": 2401296, + "step": 1216 + }, + { + "epoch": 0.16129887342611002, + "grad_norm": 9.164186477661133, + "learning_rate": 4.964970792817866e-06, + "loss": 0.3463, + "num_input_tokens_seen": 2403816, + "step": 1217 + }, + { + "epoch": 0.1614314115308151, + "grad_norm": 14.77768611907959, + "learning_rate": 4.964912861558617e-06, + "loss": 0.4384, + "num_input_tokens_seen": 2405872, + "step": 1218 + }, + { + "epoch": 0.1615639496355202, + "grad_norm": 9.14603328704834, + "learning_rate": 4.964854882774148e-06, + "loss": 0.2088, + "num_input_tokens_seen": 2407776, + "step": 1219 + }, + { + "epoch": 0.16169648774022533, + "grad_norm": 7.468289852142334, + "learning_rate": 4.964796856465576e-06, + "loss": 0.1911, + "num_input_tokens_seen": 2409488, + "step": 1220 + }, + { + "epoch": 0.16182902584493042, + "grad_norm": 2.329026460647583, + "learning_rate": 4.96473878263402e-06, + "loss": 0.0119, + "num_input_tokens_seen": 2411224, + "step": 1221 + }, + { + "epoch": 0.1619615639496355, + "grad_norm": 5.656033992767334, + "learning_rate": 4.9646806612806e-06, + "loss": 0.0471, + "num_input_tokens_seen": 2412808, + "step": 1222 + }, + { + "epoch": 0.16209410205434063, + "grad_norm": 8.645514488220215, + "learning_rate": 4.964622492406437e-06, + "loss": 0.1249, + "num_input_tokens_seen": 2414240, + "step": 1223 + }, + { + "epoch": 0.16222664015904573, + "grad_norm": 0.2108611762523651, + "learning_rate": 4.964564276012652e-06, + "loss": 0.0008, + "num_input_tokens_seen": 2416544, + "step": 1224 + }, + { + "epoch": 0.16235917826375082, + "grad_norm": 13.370351791381836, + "learning_rate": 4.964506012100367e-06, + "loss": 0.1463, + "num_input_tokens_seen": 2418144, + "step": 1225 + }, + { + "epoch": 0.16249171636845594, + "grad_norm": 10.555953025817871, + "learning_rate": 4.964447700670706e-06, + "loss": 0.2306, + "num_input_tokens_seen": 2420040, + "step": 1226 + }, + { + "epoch": 0.16262425447316103, + "grad_norm": 12.894680976867676, + "learning_rate": 4.964389341724794e-06, + "loss": 0.2132, + "num_input_tokens_seen": 2422504, + "step": 1227 + }, + { + "epoch": 0.16275679257786613, + "grad_norm": 18.176006317138672, + "learning_rate": 4.964330935263754e-06, + "loss": 0.4596, + "num_input_tokens_seen": 2424376, + "step": 1228 + }, + { + "epoch": 0.16288933068257125, + "grad_norm": 56.68040084838867, + "learning_rate": 4.964272481288715e-06, + "loss": 0.1415, + "num_input_tokens_seen": 2427168, + "step": 1229 + }, + { + "epoch": 0.16302186878727634, + "grad_norm": 22.071115493774414, + "learning_rate": 4.964213979800802e-06, + "loss": 0.5743, + "num_input_tokens_seen": 2429760, + "step": 1230 + }, + { + "epoch": 0.16315440689198143, + "grad_norm": 5.792419910430908, + "learning_rate": 4.964155430801143e-06, + "loss": 0.0925, + "num_input_tokens_seen": 2431880, + "step": 1231 + }, + { + "epoch": 0.16328694499668656, + "grad_norm": 13.725963592529297, + "learning_rate": 4.964096834290868e-06, + "loss": 0.3464, + "num_input_tokens_seen": 2433800, + "step": 1232 + }, + { + "epoch": 0.16341948310139165, + "grad_norm": 11.299811363220215, + "learning_rate": 4.964038190271106e-06, + "loss": 0.1396, + "num_input_tokens_seen": 2435296, + "step": 1233 + }, + { + "epoch": 0.16355202120609674, + "grad_norm": 6.829468727111816, + "learning_rate": 4.963979498742988e-06, + "loss": 0.1915, + "num_input_tokens_seen": 2437008, + "step": 1234 + }, + { + "epoch": 0.16368455931080186, + "grad_norm": 15.892531394958496, + "learning_rate": 4.963920759707645e-06, + "loss": 0.3817, + "num_input_tokens_seen": 2440152, + "step": 1235 + }, + { + "epoch": 0.16381709741550696, + "grad_norm": 9.568033218383789, + "learning_rate": 4.96386197316621e-06, + "loss": 0.0495, + "num_input_tokens_seen": 2442048, + "step": 1236 + }, + { + "epoch": 0.16394963552021205, + "grad_norm": 7.006852149963379, + "learning_rate": 4.963803139119817e-06, + "loss": 0.2443, + "num_input_tokens_seen": 2444840, + "step": 1237 + }, + { + "epoch": 0.16408217362491717, + "grad_norm": 13.384697914123535, + "learning_rate": 4.9637442575695995e-06, + "loss": 0.3175, + "num_input_tokens_seen": 2446568, + "step": 1238 + }, + { + "epoch": 0.16421471172962226, + "grad_norm": 14.999347686767578, + "learning_rate": 4.963685328516693e-06, + "loss": 0.1554, + "num_input_tokens_seen": 2449384, + "step": 1239 + }, + { + "epoch": 0.16434724983432736, + "grad_norm": 0.9093858599662781, + "learning_rate": 4.9636263519622334e-06, + "loss": 0.0047, + "num_input_tokens_seen": 2451536, + "step": 1240 + }, + { + "epoch": 0.16447978793903248, + "grad_norm": 12.794568061828613, + "learning_rate": 4.963567327907359e-06, + "loss": 0.2892, + "num_input_tokens_seen": 2453088, + "step": 1241 + }, + { + "epoch": 0.16461232604373757, + "grad_norm": 28.85283660888672, + "learning_rate": 4.963508256353206e-06, + "loss": 0.1888, + "num_input_tokens_seen": 2455704, + "step": 1242 + }, + { + "epoch": 0.16474486414844267, + "grad_norm": 10.746437072753906, + "learning_rate": 4.963449137300915e-06, + "loss": 0.1503, + "num_input_tokens_seen": 2458200, + "step": 1243 + }, + { + "epoch": 0.1648774022531478, + "grad_norm": 2.46858811378479, + "learning_rate": 4.9633899707516245e-06, + "loss": 0.0713, + "num_input_tokens_seen": 2459384, + "step": 1244 + }, + { + "epoch": 0.16500994035785288, + "grad_norm": 1.8052623271942139, + "learning_rate": 4.963330756706477e-06, + "loss": 0.0084, + "num_input_tokens_seen": 2460800, + "step": 1245 + }, + { + "epoch": 0.16514247846255797, + "grad_norm": 7.2112603187561035, + "learning_rate": 4.963271495166612e-06, + "loss": 0.2209, + "num_input_tokens_seen": 2463552, + "step": 1246 + }, + { + "epoch": 0.1652750165672631, + "grad_norm": 0.8979879021644592, + "learning_rate": 4.963212186133174e-06, + "loss": 0.0048, + "num_input_tokens_seen": 2465504, + "step": 1247 + }, + { + "epoch": 0.1654075546719682, + "grad_norm": 23.280481338500977, + "learning_rate": 4.963152829607306e-06, + "loss": 0.4791, + "num_input_tokens_seen": 2467528, + "step": 1248 + }, + { + "epoch": 0.16554009277667328, + "grad_norm": 15.63931941986084, + "learning_rate": 4.963093425590152e-06, + "loss": 0.2506, + "num_input_tokens_seen": 2470128, + "step": 1249 + }, + { + "epoch": 0.1656726308813784, + "grad_norm": 7.766134262084961, + "learning_rate": 4.963033974082857e-06, + "loss": 0.1795, + "num_input_tokens_seen": 2472808, + "step": 1250 + }, + { + "epoch": 0.1658051689860835, + "grad_norm": 16.949462890625, + "learning_rate": 4.962974475086568e-06, + "loss": 0.598, + "num_input_tokens_seen": 2474696, + "step": 1251 + }, + { + "epoch": 0.1659377070907886, + "grad_norm": 16.239791870117188, + "learning_rate": 4.962914928602432e-06, + "loss": 0.6068, + "num_input_tokens_seen": 2476944, + "step": 1252 + }, + { + "epoch": 0.1660702451954937, + "grad_norm": 18.533939361572266, + "learning_rate": 4.962855334631598e-06, + "loss": 0.2969, + "num_input_tokens_seen": 2478856, + "step": 1253 + }, + { + "epoch": 0.1662027833001988, + "grad_norm": 12.568775177001953, + "learning_rate": 4.962795693175213e-06, + "loss": 0.1615, + "num_input_tokens_seen": 2480576, + "step": 1254 + }, + { + "epoch": 0.1663353214049039, + "grad_norm": 0.4570324718952179, + "learning_rate": 4.962736004234429e-06, + "loss": 0.002, + "num_input_tokens_seen": 2482216, + "step": 1255 + }, + { + "epoch": 0.16646785950960902, + "grad_norm": 10.312764167785645, + "learning_rate": 4.962676267810395e-06, + "loss": 0.2164, + "num_input_tokens_seen": 2484192, + "step": 1256 + }, + { + "epoch": 0.1666003976143141, + "grad_norm": 14.856953620910645, + "learning_rate": 4.962616483904263e-06, + "loss": 0.2962, + "num_input_tokens_seen": 2485928, + "step": 1257 + }, + { + "epoch": 0.16673293571901923, + "grad_norm": 20.90708351135254, + "learning_rate": 4.962556652517188e-06, + "loss": 0.458, + "num_input_tokens_seen": 2487856, + "step": 1258 + }, + { + "epoch": 0.16686547382372433, + "grad_norm": 0.3233267664909363, + "learning_rate": 4.962496773650322e-06, + "loss": 0.0018, + "num_input_tokens_seen": 2489248, + "step": 1259 + }, + { + "epoch": 0.16699801192842942, + "grad_norm": 20.04923439025879, + "learning_rate": 4.962436847304818e-06, + "loss": 0.3699, + "num_input_tokens_seen": 2491816, + "step": 1260 + }, + { + "epoch": 0.16713055003313454, + "grad_norm": 23.092763900756836, + "learning_rate": 4.962376873481833e-06, + "loss": 0.7277, + "num_input_tokens_seen": 2494112, + "step": 1261 + }, + { + "epoch": 0.16726308813783963, + "grad_norm": 14.853482246398926, + "learning_rate": 4.962316852182523e-06, + "loss": 0.4203, + "num_input_tokens_seen": 2495800, + "step": 1262 + }, + { + "epoch": 0.16739562624254473, + "grad_norm": 8.015201568603516, + "learning_rate": 4.9622567834080475e-06, + "loss": 0.1154, + "num_input_tokens_seen": 2497704, + "step": 1263 + }, + { + "epoch": 0.16752816434724985, + "grad_norm": 11.065986633300781, + "learning_rate": 4.96219666715956e-06, + "loss": 0.396, + "num_input_tokens_seen": 2500376, + "step": 1264 + }, + { + "epoch": 0.16766070245195494, + "grad_norm": 7.045234680175781, + "learning_rate": 4.962136503438224e-06, + "loss": 0.2278, + "num_input_tokens_seen": 2501608, + "step": 1265 + }, + { + "epoch": 0.16779324055666003, + "grad_norm": 18.814783096313477, + "learning_rate": 4.962076292245197e-06, + "loss": 0.6398, + "num_input_tokens_seen": 2504376, + "step": 1266 + }, + { + "epoch": 0.16792577866136515, + "grad_norm": 8.410832405090332, + "learning_rate": 4.962016033581641e-06, + "loss": 0.0826, + "num_input_tokens_seen": 2506360, + "step": 1267 + }, + { + "epoch": 0.16805831676607025, + "grad_norm": 9.72460651397705, + "learning_rate": 4.961955727448716e-06, + "loss": 0.0395, + "num_input_tokens_seen": 2507784, + "step": 1268 + }, + { + "epoch": 0.16819085487077534, + "grad_norm": 6.11878776550293, + "learning_rate": 4.961895373847588e-06, + "loss": 0.1862, + "num_input_tokens_seen": 2509576, + "step": 1269 + }, + { + "epoch": 0.16832339297548046, + "grad_norm": 14.088763236999512, + "learning_rate": 4.961834972779418e-06, + "loss": 0.253, + "num_input_tokens_seen": 2511480, + "step": 1270 + }, + { + "epoch": 0.16845593108018556, + "grad_norm": 12.575016021728516, + "learning_rate": 4.961774524245371e-06, + "loss": 0.1721, + "num_input_tokens_seen": 2513424, + "step": 1271 + }, + { + "epoch": 0.16858846918489065, + "grad_norm": 7.279139518737793, + "learning_rate": 4.9617140282466136e-06, + "loss": 0.2121, + "num_input_tokens_seen": 2515968, + "step": 1272 + }, + { + "epoch": 0.16872100728959577, + "grad_norm": 14.74572467803955, + "learning_rate": 4.9616534847843115e-06, + "loss": 0.1213, + "num_input_tokens_seen": 2517824, + "step": 1273 + }, + { + "epoch": 0.16885354539430086, + "grad_norm": 0.7207683324813843, + "learning_rate": 4.9615928938596305e-06, + "loss": 0.0039, + "num_input_tokens_seen": 2519168, + "step": 1274 + }, + { + "epoch": 0.16898608349900596, + "grad_norm": 0.6745265126228333, + "learning_rate": 4.961532255473742e-06, + "loss": 0.0037, + "num_input_tokens_seen": 2522008, + "step": 1275 + }, + { + "epoch": 0.16911862160371108, + "grad_norm": 19.08082389831543, + "learning_rate": 4.961471569627813e-06, + "loss": 0.3813, + "num_input_tokens_seen": 2523960, + "step": 1276 + }, + { + "epoch": 0.16925115970841617, + "grad_norm": 14.044391632080078, + "learning_rate": 4.961410836323014e-06, + "loss": 0.3901, + "num_input_tokens_seen": 2526504, + "step": 1277 + }, + { + "epoch": 0.16938369781312126, + "grad_norm": 6.240870952606201, + "learning_rate": 4.961350055560516e-06, + "loss": 0.1013, + "num_input_tokens_seen": 2528200, + "step": 1278 + }, + { + "epoch": 0.16951623591782639, + "grad_norm": 0.1938682645559311, + "learning_rate": 4.961289227341491e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2529608, + "step": 1279 + }, + { + "epoch": 0.16964877402253148, + "grad_norm": 70.04135131835938, + "learning_rate": 4.961228351667111e-06, + "loss": 0.9064, + "num_input_tokens_seen": 2532488, + "step": 1280 + }, + { + "epoch": 0.16978131212723657, + "grad_norm": 0.11638358235359192, + "learning_rate": 4.961167428538552e-06, + "loss": 0.0006, + "num_input_tokens_seen": 2533640, + "step": 1281 + }, + { + "epoch": 0.1699138502319417, + "grad_norm": 13.382452964782715, + "learning_rate": 4.961106457956986e-06, + "loss": 0.3132, + "num_input_tokens_seen": 2535384, + "step": 1282 + }, + { + "epoch": 0.1700463883366468, + "grad_norm": 12.490396499633789, + "learning_rate": 4.961045439923589e-06, + "loss": 0.2024, + "num_input_tokens_seen": 2537776, + "step": 1283 + }, + { + "epoch": 0.17017892644135188, + "grad_norm": 8.545411109924316, + "learning_rate": 4.9609843744395405e-06, + "loss": 0.272, + "num_input_tokens_seen": 2540064, + "step": 1284 + }, + { + "epoch": 0.170311464546057, + "grad_norm": 0.04541824758052826, + "learning_rate": 4.960923261506014e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2541312, + "step": 1285 + }, + { + "epoch": 0.1704440026507621, + "grad_norm": 11.121861457824707, + "learning_rate": 4.960862101124189e-06, + "loss": 0.2936, + "num_input_tokens_seen": 2543048, + "step": 1286 + }, + { + "epoch": 0.1705765407554672, + "grad_norm": 15.224230766296387, + "learning_rate": 4.960800893295246e-06, + "loss": 0.3807, + "num_input_tokens_seen": 2544344, + "step": 1287 + }, + { + "epoch": 0.1707090788601723, + "grad_norm": 6.467791557312012, + "learning_rate": 4.960739638020363e-06, + "loss": 0.0913, + "num_input_tokens_seen": 2546464, + "step": 1288 + }, + { + "epoch": 0.1708416169648774, + "grad_norm": 14.586759567260742, + "learning_rate": 4.960678335300723e-06, + "loss": 0.4684, + "num_input_tokens_seen": 2548840, + "step": 1289 + }, + { + "epoch": 0.1709741550695825, + "grad_norm": 0.07136260718107224, + "learning_rate": 4.960616985137507e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2550432, + "step": 1290 + }, + { + "epoch": 0.17110669317428762, + "grad_norm": 0.47577252984046936, + "learning_rate": 4.960555587531898e-06, + "loss": 0.0023, + "num_input_tokens_seen": 2552160, + "step": 1291 + }, + { + "epoch": 0.1712392312789927, + "grad_norm": 13.335426330566406, + "learning_rate": 4.960494142485079e-06, + "loss": 0.256, + "num_input_tokens_seen": 2553880, + "step": 1292 + }, + { + "epoch": 0.1713717693836978, + "grad_norm": 13.659242630004883, + "learning_rate": 4.960432649998237e-06, + "loss": 0.2444, + "num_input_tokens_seen": 2555496, + "step": 1293 + }, + { + "epoch": 0.17150430748840292, + "grad_norm": 17.66350555419922, + "learning_rate": 4.960371110072556e-06, + "loss": 0.4865, + "num_input_tokens_seen": 2557240, + "step": 1294 + }, + { + "epoch": 0.17163684559310802, + "grad_norm": 0.0468173585832119, + "learning_rate": 4.960309522709222e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2558608, + "step": 1295 + }, + { + "epoch": 0.1717693836978131, + "grad_norm": 12.314399719238281, + "learning_rate": 4.960247887909423e-06, + "loss": 0.5134, + "num_input_tokens_seen": 2560296, + "step": 1296 + }, + { + "epoch": 0.17190192180251823, + "grad_norm": 7.6465373039245605, + "learning_rate": 4.960186205674348e-06, + "loss": 0.2015, + "num_input_tokens_seen": 2563136, + "step": 1297 + }, + { + "epoch": 0.17203445990722332, + "grad_norm": 7.99665641784668, + "learning_rate": 4.960124476005185e-06, + "loss": 0.1211, + "num_input_tokens_seen": 2564800, + "step": 1298 + }, + { + "epoch": 0.17216699801192842, + "grad_norm": 5.727914810180664, + "learning_rate": 4.960062698903126e-06, + "loss": 0.0384, + "num_input_tokens_seen": 2566536, + "step": 1299 + }, + { + "epoch": 0.17229953611663354, + "grad_norm": 9.787583351135254, + "learning_rate": 4.960000874369361e-06, + "loss": 0.2331, + "num_input_tokens_seen": 2568440, + "step": 1300 + }, + { + "epoch": 0.17243207422133863, + "grad_norm": 29.9659481048584, + "learning_rate": 4.959939002405081e-06, + "loss": 0.7485, + "num_input_tokens_seen": 2570344, + "step": 1301 + }, + { + "epoch": 0.17256461232604373, + "grad_norm": 4.79191255569458, + "learning_rate": 4.95987708301148e-06, + "loss": 0.1534, + "num_input_tokens_seen": 2572056, + "step": 1302 + }, + { + "epoch": 0.17269715043074885, + "grad_norm": 0.05787365138530731, + "learning_rate": 4.959815116189753e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2573704, + "step": 1303 + }, + { + "epoch": 0.17282968853545394, + "grad_norm": 0.05866735056042671, + "learning_rate": 4.959753101941093e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2575800, + "step": 1304 + }, + { + "epoch": 0.17296222664015903, + "grad_norm": 22.51832389831543, + "learning_rate": 4.959691040266697e-06, + "loss": 0.6, + "num_input_tokens_seen": 2577216, + "step": 1305 + }, + { + "epoch": 0.17309476474486415, + "grad_norm": 6.810016632080078, + "learning_rate": 4.95962893116776e-06, + "loss": 0.1055, + "num_input_tokens_seen": 2579216, + "step": 1306 + }, + { + "epoch": 0.17322730284956925, + "grad_norm": 10.866792678833008, + "learning_rate": 4.9595667746454805e-06, + "loss": 0.1586, + "num_input_tokens_seen": 2580720, + "step": 1307 + }, + { + "epoch": 0.17335984095427434, + "grad_norm": 4.257212162017822, + "learning_rate": 4.959504570701057e-06, + "loss": 0.0613, + "num_input_tokens_seen": 2584008, + "step": 1308 + }, + { + "epoch": 0.17349237905897946, + "grad_norm": 7.145122528076172, + "learning_rate": 4.959442319335689e-06, + "loss": 0.133, + "num_input_tokens_seen": 2586456, + "step": 1309 + }, + { + "epoch": 0.17362491716368456, + "grad_norm": 12.153865814208984, + "learning_rate": 4.959380020550576e-06, + "loss": 0.3231, + "num_input_tokens_seen": 2587840, + "step": 1310 + }, + { + "epoch": 0.17375745526838965, + "grad_norm": 33.809593200683594, + "learning_rate": 4.95931767434692e-06, + "loss": 0.7073, + "num_input_tokens_seen": 2589544, + "step": 1311 + }, + { + "epoch": 0.17388999337309477, + "grad_norm": 22.8640079498291, + "learning_rate": 4.959255280725921e-06, + "loss": 0.4314, + "num_input_tokens_seen": 2591984, + "step": 1312 + }, + { + "epoch": 0.17402253147779986, + "grad_norm": 0.2230100929737091, + "learning_rate": 4.959192839688786e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2593728, + "step": 1313 + }, + { + "epoch": 0.17415506958250496, + "grad_norm": 27.39137077331543, + "learning_rate": 4.959130351236715e-06, + "loss": 1.2096, + "num_input_tokens_seen": 2596560, + "step": 1314 + }, + { + "epoch": 0.17428760768721008, + "grad_norm": 7.179905414581299, + "learning_rate": 4.959067815370915e-06, + "loss": 0.0992, + "num_input_tokens_seen": 2598832, + "step": 1315 + }, + { + "epoch": 0.17442014579191517, + "grad_norm": 12.255276679992676, + "learning_rate": 4.959005232092591e-06, + "loss": 0.3726, + "num_input_tokens_seen": 2600504, + "step": 1316 + }, + { + "epoch": 0.1745526838966203, + "grad_norm": 0.24817180633544922, + "learning_rate": 4.958942601402949e-06, + "loss": 0.0013, + "num_input_tokens_seen": 2602184, + "step": 1317 + }, + { + "epoch": 0.17468522200132539, + "grad_norm": 17.49175262451172, + "learning_rate": 4.958879923303198e-06, + "loss": 0.4214, + "num_input_tokens_seen": 2603912, + "step": 1318 + }, + { + "epoch": 0.17481776010603048, + "grad_norm": 15.520642280578613, + "learning_rate": 4.958817197794545e-06, + "loss": 0.5072, + "num_input_tokens_seen": 2605640, + "step": 1319 + }, + { + "epoch": 0.1749502982107356, + "grad_norm": 7.988204479217529, + "learning_rate": 4.958754424878202e-06, + "loss": 0.1501, + "num_input_tokens_seen": 2608952, + "step": 1320 + }, + { + "epoch": 0.1750828363154407, + "grad_norm": 14.617895126342773, + "learning_rate": 4.958691604555376e-06, + "loss": 0.4428, + "num_input_tokens_seen": 2610320, + "step": 1321 + }, + { + "epoch": 0.1752153744201458, + "grad_norm": 8.387760162353516, + "learning_rate": 4.9586287368272805e-06, + "loss": 0.2063, + "num_input_tokens_seen": 2612480, + "step": 1322 + }, + { + "epoch": 0.1753479125248509, + "grad_norm": 0.3168196380138397, + "learning_rate": 4.958565821695126e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2614824, + "step": 1323 + }, + { + "epoch": 0.175480450629556, + "grad_norm": 5.0695576667785645, + "learning_rate": 4.958502859160127e-06, + "loss": 0.1005, + "num_input_tokens_seen": 2618512, + "step": 1324 + }, + { + "epoch": 0.1756129887342611, + "grad_norm": 21.439069747924805, + "learning_rate": 4.958439849223496e-06, + "loss": 0.6034, + "num_input_tokens_seen": 2621664, + "step": 1325 + }, + { + "epoch": 0.17574552683896622, + "grad_norm": 10.268298149108887, + "learning_rate": 4.95837679188645e-06, + "loss": 0.0392, + "num_input_tokens_seen": 2623624, + "step": 1326 + }, + { + "epoch": 0.1758780649436713, + "grad_norm": 15.390063285827637, + "learning_rate": 4.9583136871502025e-06, + "loss": 0.3062, + "num_input_tokens_seen": 2625328, + "step": 1327 + }, + { + "epoch": 0.1760106030483764, + "grad_norm": 13.129558563232422, + "learning_rate": 4.958250535015972e-06, + "loss": 0.4096, + "num_input_tokens_seen": 2627464, + "step": 1328 + }, + { + "epoch": 0.17614314115308152, + "grad_norm": 16.459684371948242, + "learning_rate": 4.958187335484974e-06, + "loss": 0.5073, + "num_input_tokens_seen": 2630224, + "step": 1329 + }, + { + "epoch": 0.17627567925778662, + "grad_norm": 6.999892234802246, + "learning_rate": 4.9581240885584295e-06, + "loss": 0.2283, + "num_input_tokens_seen": 2632296, + "step": 1330 + }, + { + "epoch": 0.1764082173624917, + "grad_norm": 4.824463367462158, + "learning_rate": 4.958060794237557e-06, + "loss": 0.1857, + "num_input_tokens_seen": 2633848, + "step": 1331 + }, + { + "epoch": 0.17654075546719683, + "grad_norm": 0.5638998746871948, + "learning_rate": 4.957997452523576e-06, + "loss": 0.0031, + "num_input_tokens_seen": 2635456, + "step": 1332 + }, + { + "epoch": 0.17667329357190192, + "grad_norm": 8.772820472717285, + "learning_rate": 4.957934063417708e-06, + "loss": 0.1095, + "num_input_tokens_seen": 2638112, + "step": 1333 + }, + { + "epoch": 0.17680583167660702, + "grad_norm": 18.29918670654297, + "learning_rate": 4.957870626921177e-06, + "loss": 0.7832, + "num_input_tokens_seen": 2639760, + "step": 1334 + }, + { + "epoch": 0.17693836978131214, + "grad_norm": 23.334012985229492, + "learning_rate": 4.957807143035204e-06, + "loss": 0.2197, + "num_input_tokens_seen": 2641640, + "step": 1335 + }, + { + "epoch": 0.17707090788601723, + "grad_norm": 4.936501979827881, + "learning_rate": 4.957743611761013e-06, + "loss": 0.0911, + "num_input_tokens_seen": 2642944, + "step": 1336 + }, + { + "epoch": 0.17720344599072232, + "grad_norm": 11.561747550964355, + "learning_rate": 4.957680033099831e-06, + "loss": 0.2882, + "num_input_tokens_seen": 2644568, + "step": 1337 + }, + { + "epoch": 0.17733598409542745, + "grad_norm": 0.17479321360588074, + "learning_rate": 4.957616407052882e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2645736, + "step": 1338 + }, + { + "epoch": 0.17746852220013254, + "grad_norm": 7.629298686981201, + "learning_rate": 4.957552733621393e-06, + "loss": 0.1594, + "num_input_tokens_seen": 2647336, + "step": 1339 + }, + { + "epoch": 0.17760106030483763, + "grad_norm": 11.04284954071045, + "learning_rate": 4.957489012806591e-06, + "loss": 0.1328, + "num_input_tokens_seen": 2649664, + "step": 1340 + }, + { + "epoch": 0.17773359840954275, + "grad_norm": 6.219261169433594, + "learning_rate": 4.957425244609707e-06, + "loss": 0.1289, + "num_input_tokens_seen": 2651160, + "step": 1341 + }, + { + "epoch": 0.17786613651424785, + "grad_norm": 5.224959850311279, + "learning_rate": 4.957361429031969e-06, + "loss": 0.1162, + "num_input_tokens_seen": 2652888, + "step": 1342 + }, + { + "epoch": 0.17799867461895294, + "grad_norm": 18.43150520324707, + "learning_rate": 4.957297566074607e-06, + "loss": 0.3498, + "num_input_tokens_seen": 2654760, + "step": 1343 + }, + { + "epoch": 0.17813121272365806, + "grad_norm": 0.18989135324954987, + "learning_rate": 4.957233655738852e-06, + "loss": 0.001, + "num_input_tokens_seen": 2655968, + "step": 1344 + }, + { + "epoch": 0.17826375082836315, + "grad_norm": 0.4958026111125946, + "learning_rate": 4.9571696980259376e-06, + "loss": 0.0026, + "num_input_tokens_seen": 2657848, + "step": 1345 + }, + { + "epoch": 0.17839628893306825, + "grad_norm": 10.45175552368164, + "learning_rate": 4.9571056929370965e-06, + "loss": 0.3346, + "num_input_tokens_seen": 2659592, + "step": 1346 + }, + { + "epoch": 0.17852882703777337, + "grad_norm": 1.3028470277786255, + "learning_rate": 4.957041640473562e-06, + "loss": 0.0056, + "num_input_tokens_seen": 2661432, + "step": 1347 + }, + { + "epoch": 0.17866136514247846, + "grad_norm": 0.16366267204284668, + "learning_rate": 4.95697754063657e-06, + "loss": 0.0009, + "num_input_tokens_seen": 2662904, + "step": 1348 + }, + { + "epoch": 0.17879390324718356, + "grad_norm": 8.679288864135742, + "learning_rate": 4.956913393427356e-06, + "loss": 0.0858, + "num_input_tokens_seen": 2664200, + "step": 1349 + }, + { + "epoch": 0.17892644135188868, + "grad_norm": 7.6977925300598145, + "learning_rate": 4.956849198847157e-06, + "loss": 0.155, + "num_input_tokens_seen": 2666392, + "step": 1350 + }, + { + "epoch": 0.17905897945659377, + "grad_norm": 4.024433612823486, + "learning_rate": 4.95678495689721e-06, + "loss": 0.0219, + "num_input_tokens_seen": 2668096, + "step": 1351 + }, + { + "epoch": 0.17919151756129886, + "grad_norm": 16.507389068603516, + "learning_rate": 4.956720667578755e-06, + "loss": 0.3301, + "num_input_tokens_seen": 2669976, + "step": 1352 + }, + { + "epoch": 0.17932405566600398, + "grad_norm": 12.342925071716309, + "learning_rate": 4.95665633089303e-06, + "loss": 0.2227, + "num_input_tokens_seen": 2671896, + "step": 1353 + }, + { + "epoch": 0.17945659377070908, + "grad_norm": 16.24755859375, + "learning_rate": 4.956591946841277e-06, + "loss": 0.2726, + "num_input_tokens_seen": 2674160, + "step": 1354 + }, + { + "epoch": 0.17958913187541417, + "grad_norm": 15.209321975708008, + "learning_rate": 4.956527515424736e-06, + "loss": 0.6729, + "num_input_tokens_seen": 2677000, + "step": 1355 + }, + { + "epoch": 0.1797216699801193, + "grad_norm": 15.547550201416016, + "learning_rate": 4.95646303664465e-06, + "loss": 0.1294, + "num_input_tokens_seen": 2679720, + "step": 1356 + }, + { + "epoch": 0.17985420808482439, + "grad_norm": 0.04554541036486626, + "learning_rate": 4.956398510502261e-06, + "loss": 0.0002, + "num_input_tokens_seen": 2680728, + "step": 1357 + }, + { + "epoch": 0.17998674618952948, + "grad_norm": 0.07686033844947815, + "learning_rate": 4.956333936998816e-06, + "loss": 0.0004, + "num_input_tokens_seen": 2683136, + "step": 1358 + }, + { + "epoch": 0.1801192842942346, + "grad_norm": 13.693772315979004, + "learning_rate": 4.956269316135557e-06, + "loss": 0.5034, + "num_input_tokens_seen": 2684736, + "step": 1359 + }, + { + "epoch": 0.1802518223989397, + "grad_norm": 10.692391395568848, + "learning_rate": 4.956204647913731e-06, + "loss": 0.333, + "num_input_tokens_seen": 2686952, + "step": 1360 + }, + { + "epoch": 0.1803843605036448, + "grad_norm": 0.030914820730686188, + "learning_rate": 4.956139932334586e-06, + "loss": 0.0002, + "num_input_tokens_seen": 2689360, + "step": 1361 + }, + { + "epoch": 0.1805168986083499, + "grad_norm": 7.450273036956787, + "learning_rate": 4.956075169399368e-06, + "loss": 0.1463, + "num_input_tokens_seen": 2691240, + "step": 1362 + }, + { + "epoch": 0.180649436713055, + "grad_norm": 22.607311248779297, + "learning_rate": 4.956010359109326e-06, + "loss": 0.3636, + "num_input_tokens_seen": 2692696, + "step": 1363 + }, + { + "epoch": 0.1807819748177601, + "grad_norm": 9.848207473754883, + "learning_rate": 4.955945501465711e-06, + "loss": 0.1439, + "num_input_tokens_seen": 2695152, + "step": 1364 + }, + { + "epoch": 0.18091451292246521, + "grad_norm": 16.704357147216797, + "learning_rate": 4.955880596469771e-06, + "loss": 0.3333, + "num_input_tokens_seen": 2697160, + "step": 1365 + }, + { + "epoch": 0.1810470510271703, + "grad_norm": 0.12614494562149048, + "learning_rate": 4.95581564412276e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2698680, + "step": 1366 + }, + { + "epoch": 0.1811795891318754, + "grad_norm": 3.5355217456817627, + "learning_rate": 4.955750644425928e-06, + "loss": 0.0901, + "num_input_tokens_seen": 2700512, + "step": 1367 + }, + { + "epoch": 0.18131212723658052, + "grad_norm": 9.856828689575195, + "learning_rate": 4.95568559738053e-06, + "loss": 0.2626, + "num_input_tokens_seen": 2702360, + "step": 1368 + }, + { + "epoch": 0.18144466534128562, + "grad_norm": 5.182863712310791, + "learning_rate": 4.9556205029878205e-06, + "loss": 0.1628, + "num_input_tokens_seen": 2704136, + "step": 1369 + }, + { + "epoch": 0.1815772034459907, + "grad_norm": 3.907506227493286, + "learning_rate": 4.955555361249053e-06, + "loss": 0.0814, + "num_input_tokens_seen": 2706224, + "step": 1370 + }, + { + "epoch": 0.18170974155069583, + "grad_norm": 9.75102710723877, + "learning_rate": 4.9554901721654846e-06, + "loss": 0.0714, + "num_input_tokens_seen": 2708560, + "step": 1371 + }, + { + "epoch": 0.18184227965540092, + "grad_norm": 11.964812278747559, + "learning_rate": 4.955424935738371e-06, + "loss": 0.3374, + "num_input_tokens_seen": 2710344, + "step": 1372 + }, + { + "epoch": 0.18197481776010602, + "grad_norm": 6.92396354675293, + "learning_rate": 4.95535965196897e-06, + "loss": 0.0887, + "num_input_tokens_seen": 2712272, + "step": 1373 + }, + { + "epoch": 0.18210735586481114, + "grad_norm": 22.524127960205078, + "learning_rate": 4.955294320858543e-06, + "loss": 0.5707, + "num_input_tokens_seen": 2713728, + "step": 1374 + }, + { + "epoch": 0.18223989396951623, + "grad_norm": 0.24901993572711945, + "learning_rate": 4.955228942408347e-06, + "loss": 0.0013, + "num_input_tokens_seen": 2715912, + "step": 1375 + }, + { + "epoch": 0.18237243207422135, + "grad_norm": 12.116771697998047, + "learning_rate": 4.9551635166196425e-06, + "loss": 0.3255, + "num_input_tokens_seen": 2718016, + "step": 1376 + }, + { + "epoch": 0.18250497017892645, + "grad_norm": 7.756706714630127, + "learning_rate": 4.955098043493692e-06, + "loss": 0.2238, + "num_input_tokens_seen": 2720272, + "step": 1377 + }, + { + "epoch": 0.18263750828363154, + "grad_norm": 3.5088140964508057, + "learning_rate": 4.955032523031757e-06, + "loss": 0.0205, + "num_input_tokens_seen": 2721824, + "step": 1378 + }, + { + "epoch": 0.18277004638833666, + "grad_norm": 15.379654884338379, + "learning_rate": 4.954966955235103e-06, + "loss": 0.4006, + "num_input_tokens_seen": 2724432, + "step": 1379 + }, + { + "epoch": 0.18290258449304175, + "grad_norm": 10.215106964111328, + "learning_rate": 4.954901340104991e-06, + "loss": 0.0775, + "num_input_tokens_seen": 2726392, + "step": 1380 + }, + { + "epoch": 0.18303512259774685, + "grad_norm": 2.4512383937835693, + "learning_rate": 4.954835677642688e-06, + "loss": 0.013, + "num_input_tokens_seen": 2727536, + "step": 1381 + }, + { + "epoch": 0.18316766070245197, + "grad_norm": 3.808758497238159, + "learning_rate": 4.95476996784946e-06, + "loss": 0.0248, + "num_input_tokens_seen": 2729104, + "step": 1382 + }, + { + "epoch": 0.18330019880715706, + "grad_norm": 17.573938369750977, + "learning_rate": 4.954704210726573e-06, + "loss": 0.3097, + "num_input_tokens_seen": 2731288, + "step": 1383 + }, + { + "epoch": 0.18343273691186215, + "grad_norm": 0.7857549786567688, + "learning_rate": 4.9546384062752965e-06, + "loss": 0.004, + "num_input_tokens_seen": 2733352, + "step": 1384 + }, + { + "epoch": 0.18356527501656728, + "grad_norm": 0.9988700151443481, + "learning_rate": 4.954572554496897e-06, + "loss": 0.0051, + "num_input_tokens_seen": 2735472, + "step": 1385 + }, + { + "epoch": 0.18369781312127237, + "grad_norm": 15.075550079345703, + "learning_rate": 4.954506655392645e-06, + "loss": 0.237, + "num_input_tokens_seen": 2737840, + "step": 1386 + }, + { + "epoch": 0.18383035122597746, + "grad_norm": 17.40070915222168, + "learning_rate": 4.954440708963813e-06, + "loss": 0.3638, + "num_input_tokens_seen": 2739824, + "step": 1387 + }, + { + "epoch": 0.18396288933068258, + "grad_norm": 14.727279663085938, + "learning_rate": 4.9543747152116695e-06, + "loss": 0.3716, + "num_input_tokens_seen": 2741912, + "step": 1388 + }, + { + "epoch": 0.18409542743538768, + "grad_norm": 0.0239323228597641, + "learning_rate": 4.954308674137489e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2743536, + "step": 1389 + }, + { + "epoch": 0.18422796554009277, + "grad_norm": 5.457317352294922, + "learning_rate": 4.9542425857425435e-06, + "loss": 0.1929, + "num_input_tokens_seen": 2745488, + "step": 1390 + }, + { + "epoch": 0.1843605036447979, + "grad_norm": 14.15846061706543, + "learning_rate": 4.954176450028108e-06, + "loss": 0.1807, + "num_input_tokens_seen": 2747352, + "step": 1391 + }, + { + "epoch": 0.18449304174950298, + "grad_norm": 10.494392395019531, + "learning_rate": 4.954110266995458e-06, + "loss": 0.1434, + "num_input_tokens_seen": 2749960, + "step": 1392 + }, + { + "epoch": 0.18462557985420808, + "grad_norm": 0.0084645701572299, + "learning_rate": 4.954044036645869e-06, + "loss": 0.0, + "num_input_tokens_seen": 2751328, + "step": 1393 + }, + { + "epoch": 0.1847581179589132, + "grad_norm": 8.417326927185059, + "learning_rate": 4.953977758980618e-06, + "loss": 0.2025, + "num_input_tokens_seen": 2753480, + "step": 1394 + }, + { + "epoch": 0.1848906560636183, + "grad_norm": 2.6627230644226074, + "learning_rate": 4.953911434000982e-06, + "loss": 0.0387, + "num_input_tokens_seen": 2755088, + "step": 1395 + }, + { + "epoch": 0.18502319416832338, + "grad_norm": 4.448336124420166, + "learning_rate": 4.953845061708241e-06, + "loss": 0.0609, + "num_input_tokens_seen": 2756048, + "step": 1396 + }, + { + "epoch": 0.1851557322730285, + "grad_norm": 0.013358982279896736, + "learning_rate": 4.953778642103675e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2757576, + "step": 1397 + }, + { + "epoch": 0.1852882703777336, + "grad_norm": 0.014393574558198452, + "learning_rate": 4.953712175188564e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2759968, + "step": 1398 + }, + { + "epoch": 0.1854208084824387, + "grad_norm": 0.01428682915866375, + "learning_rate": 4.953645660964189e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2761224, + "step": 1399 + }, + { + "epoch": 0.1855533465871438, + "grad_norm": 5.122958183288574, + "learning_rate": 4.9535790994318335e-06, + "loss": 0.1171, + "num_input_tokens_seen": 2762648, + "step": 1400 + }, + { + "epoch": 0.1856858846918489, + "grad_norm": 4.081135272979736, + "learning_rate": 4.95351249059278e-06, + "loss": 0.1286, + "num_input_tokens_seen": 2764832, + "step": 1401 + }, + { + "epoch": 0.185818422796554, + "grad_norm": 0.06594186276197433, + "learning_rate": 4.953445834448314e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2766224, + "step": 1402 + }, + { + "epoch": 0.18595096090125912, + "grad_norm": 12.58669376373291, + "learning_rate": 4.9533791309997184e-06, + "loss": 0.202, + "num_input_tokens_seen": 2768408, + "step": 1403 + }, + { + "epoch": 0.18608349900596421, + "grad_norm": 11.852744102478027, + "learning_rate": 4.9533123802482815e-06, + "loss": 0.2999, + "num_input_tokens_seen": 2770896, + "step": 1404 + }, + { + "epoch": 0.1862160371106693, + "grad_norm": 17.630538940429688, + "learning_rate": 4.953245582195288e-06, + "loss": 0.4739, + "num_input_tokens_seen": 2773616, + "step": 1405 + }, + { + "epoch": 0.18634857521537443, + "grad_norm": 7.816521644592285, + "learning_rate": 4.953178736842029e-06, + "loss": 0.1411, + "num_input_tokens_seen": 2775952, + "step": 1406 + }, + { + "epoch": 0.18648111332007952, + "grad_norm": 15.505335807800293, + "learning_rate": 4.9531118441897915e-06, + "loss": 0.2839, + "num_input_tokens_seen": 2778184, + "step": 1407 + }, + { + "epoch": 0.18661365142478462, + "grad_norm": 29.322540283203125, + "learning_rate": 4.953044904239865e-06, + "loss": 0.3927, + "num_input_tokens_seen": 2780704, + "step": 1408 + }, + { + "epoch": 0.18674618952948974, + "grad_norm": 3.9190611839294434, + "learning_rate": 4.95297791699354e-06, + "loss": 0.143, + "num_input_tokens_seen": 2782800, + "step": 1409 + }, + { + "epoch": 0.18687872763419483, + "grad_norm": 16.224727630615234, + "learning_rate": 4.952910882452109e-06, + "loss": 0.2726, + "num_input_tokens_seen": 2785696, + "step": 1410 + }, + { + "epoch": 0.18701126573889992, + "grad_norm": 5.798166275024414, + "learning_rate": 4.9528438006168635e-06, + "loss": 0.176, + "num_input_tokens_seen": 2786904, + "step": 1411 + }, + { + "epoch": 0.18714380384360504, + "grad_norm": 11.637779235839844, + "learning_rate": 4.952776671489098e-06, + "loss": 0.2707, + "num_input_tokens_seen": 2788656, + "step": 1412 + }, + { + "epoch": 0.18727634194831014, + "grad_norm": 12.561522483825684, + "learning_rate": 4.952709495070106e-06, + "loss": 0.1834, + "num_input_tokens_seen": 2791176, + "step": 1413 + }, + { + "epoch": 0.18740888005301523, + "grad_norm": 20.759782791137695, + "learning_rate": 4.952642271361183e-06, + "loss": 0.4771, + "num_input_tokens_seen": 2792496, + "step": 1414 + }, + { + "epoch": 0.18754141815772035, + "grad_norm": 19.70482635498047, + "learning_rate": 4.952575000363625e-06, + "loss": 0.5119, + "num_input_tokens_seen": 2794128, + "step": 1415 + }, + { + "epoch": 0.18767395626242545, + "grad_norm": 4.772583961486816, + "learning_rate": 4.9525076820787285e-06, + "loss": 0.0587, + "num_input_tokens_seen": 2795328, + "step": 1416 + }, + { + "epoch": 0.18780649436713054, + "grad_norm": 10.307486534118652, + "learning_rate": 4.952440316507792e-06, + "loss": 0.157, + "num_input_tokens_seen": 2796784, + "step": 1417 + }, + { + "epoch": 0.18793903247183566, + "grad_norm": 13.984895706176758, + "learning_rate": 4.952372903652115e-06, + "loss": 0.4324, + "num_input_tokens_seen": 2798888, + "step": 1418 + }, + { + "epoch": 0.18807157057654075, + "grad_norm": 24.499588012695312, + "learning_rate": 4.9523054435129966e-06, + "loss": 0.7377, + "num_input_tokens_seen": 2801576, + "step": 1419 + }, + { + "epoch": 0.18820410868124585, + "grad_norm": 8.95081615447998, + "learning_rate": 4.952237936091737e-06, + "loss": 0.2374, + "num_input_tokens_seen": 2803160, + "step": 1420 + }, + { + "epoch": 0.18833664678595097, + "grad_norm": 3.977041721343994, + "learning_rate": 4.952170381389639e-06, + "loss": 0.056, + "num_input_tokens_seen": 2804536, + "step": 1421 + }, + { + "epoch": 0.18846918489065606, + "grad_norm": 11.694116592407227, + "learning_rate": 4.9521027794080035e-06, + "loss": 0.1135, + "num_input_tokens_seen": 2806728, + "step": 1422 + }, + { + "epoch": 0.18860172299536115, + "grad_norm": 13.62118148803711, + "learning_rate": 4.952035130148135e-06, + "loss": 0.3857, + "num_input_tokens_seen": 2809208, + "step": 1423 + }, + { + "epoch": 0.18873426110006628, + "grad_norm": 14.459735870361328, + "learning_rate": 4.9519674336113385e-06, + "loss": 0.2551, + "num_input_tokens_seen": 2810736, + "step": 1424 + }, + { + "epoch": 0.18886679920477137, + "grad_norm": 14.811407089233398, + "learning_rate": 4.951899689798917e-06, + "loss": 0.5976, + "num_input_tokens_seen": 2812088, + "step": 1425 + }, + { + "epoch": 0.18899933730947646, + "grad_norm": 9.987671852111816, + "learning_rate": 4.9518318987121794e-06, + "loss": 0.0825, + "num_input_tokens_seen": 2813752, + "step": 1426 + }, + { + "epoch": 0.18913187541418158, + "grad_norm": 11.869303703308105, + "learning_rate": 4.951764060352431e-06, + "loss": 0.2615, + "num_input_tokens_seen": 2816480, + "step": 1427 + }, + { + "epoch": 0.18926441351888668, + "grad_norm": 12.198988914489746, + "learning_rate": 4.9516961747209795e-06, + "loss": 0.1687, + "num_input_tokens_seen": 2818464, + "step": 1428 + }, + { + "epoch": 0.18939695162359177, + "grad_norm": 12.543244361877441, + "learning_rate": 4.951628241819134e-06, + "loss": 0.1593, + "num_input_tokens_seen": 2819760, + "step": 1429 + }, + { + "epoch": 0.1895294897282969, + "grad_norm": 8.581977844238281, + "learning_rate": 4.951560261648206e-06, + "loss": 0.1176, + "num_input_tokens_seen": 2822816, + "step": 1430 + }, + { + "epoch": 0.18966202783300198, + "grad_norm": 4.672897815704346, + "learning_rate": 4.951492234209504e-06, + "loss": 0.0523, + "num_input_tokens_seen": 2825256, + "step": 1431 + }, + { + "epoch": 0.18979456593770708, + "grad_norm": 8.391756057739258, + "learning_rate": 4.951424159504341e-06, + "loss": 0.128, + "num_input_tokens_seen": 2826968, + "step": 1432 + }, + { + "epoch": 0.1899271040424122, + "grad_norm": 4.2906599044799805, + "learning_rate": 4.951356037534028e-06, + "loss": 0.0305, + "num_input_tokens_seen": 2829144, + "step": 1433 + }, + { + "epoch": 0.1900596421471173, + "grad_norm": 0.6365682482719421, + "learning_rate": 4.951287868299881e-06, + "loss": 0.0033, + "num_input_tokens_seen": 2830688, + "step": 1434 + }, + { + "epoch": 0.1901921802518224, + "grad_norm": 24.61792755126953, + "learning_rate": 4.951219651803212e-06, + "loss": 0.4558, + "num_input_tokens_seen": 2833344, + "step": 1435 + }, + { + "epoch": 0.1903247183565275, + "grad_norm": 6.3319854736328125, + "learning_rate": 4.951151388045338e-06, + "loss": 0.1775, + "num_input_tokens_seen": 2835456, + "step": 1436 + }, + { + "epoch": 0.1904572564612326, + "grad_norm": 0.12330157309770584, + "learning_rate": 4.951083077027573e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2837296, + "step": 1437 + }, + { + "epoch": 0.19058979456593772, + "grad_norm": 2.628593683242798, + "learning_rate": 4.951014718751236e-06, + "loss": 0.0064, + "num_input_tokens_seen": 2840048, + "step": 1438 + }, + { + "epoch": 0.1907223326706428, + "grad_norm": 12.96270751953125, + "learning_rate": 4.950946313217645e-06, + "loss": 0.3344, + "num_input_tokens_seen": 2842872, + "step": 1439 + }, + { + "epoch": 0.1908548707753479, + "grad_norm": 0.4206317067146301, + "learning_rate": 4.950877860428117e-06, + "loss": 0.0025, + "num_input_tokens_seen": 2844112, + "step": 1440 + }, + { + "epoch": 0.19098740888005303, + "grad_norm": 7.179927825927734, + "learning_rate": 4.950809360383974e-06, + "loss": 0.1734, + "num_input_tokens_seen": 2846024, + "step": 1441 + }, + { + "epoch": 0.19111994698475812, + "grad_norm": 13.49063777923584, + "learning_rate": 4.950740813086535e-06, + "loss": 0.3759, + "num_input_tokens_seen": 2848992, + "step": 1442 + }, + { + "epoch": 0.19125248508946321, + "grad_norm": 16.809833526611328, + "learning_rate": 4.950672218537124e-06, + "loss": 0.6711, + "num_input_tokens_seen": 2852144, + "step": 1443 + }, + { + "epoch": 0.19138502319416834, + "grad_norm": 15.014547348022461, + "learning_rate": 4.95060357673706e-06, + "loss": 0.401, + "num_input_tokens_seen": 2853408, + "step": 1444 + }, + { + "epoch": 0.19151756129887343, + "grad_norm": 0.03233711048960686, + "learning_rate": 4.95053488768767e-06, + "loss": 0.0002, + "num_input_tokens_seen": 2854752, + "step": 1445 + }, + { + "epoch": 0.19165009940357852, + "grad_norm": 14.743435859680176, + "learning_rate": 4.9504661513902755e-06, + "loss": 0.5222, + "num_input_tokens_seen": 2856832, + "step": 1446 + }, + { + "epoch": 0.19178263750828364, + "grad_norm": 16.61276626586914, + "learning_rate": 4.950397367846204e-06, + "loss": 0.3905, + "num_input_tokens_seen": 2858616, + "step": 1447 + }, + { + "epoch": 0.19191517561298874, + "grad_norm": 10.526078224182129, + "learning_rate": 4.950328537056781e-06, + "loss": 0.3363, + "num_input_tokens_seen": 2860696, + "step": 1448 + }, + { + "epoch": 0.19204771371769383, + "grad_norm": 10.344022750854492, + "learning_rate": 4.950259659023333e-06, + "loss": 0.2589, + "num_input_tokens_seen": 2862856, + "step": 1449 + }, + { + "epoch": 0.19218025182239895, + "grad_norm": 10.606470108032227, + "learning_rate": 4.950190733747188e-06, + "loss": 0.2366, + "num_input_tokens_seen": 2865224, + "step": 1450 + }, + { + "epoch": 0.19231278992710404, + "grad_norm": 9.286369323730469, + "learning_rate": 4.950121761229676e-06, + "loss": 0.164, + "num_input_tokens_seen": 2866832, + "step": 1451 + }, + { + "epoch": 0.19244532803180914, + "grad_norm": 0.17270997166633606, + "learning_rate": 4.950052741472126e-06, + "loss": 0.0011, + "num_input_tokens_seen": 2868712, + "step": 1452 + }, + { + "epoch": 0.19257786613651426, + "grad_norm": 0.11371482163667679, + "learning_rate": 4.949983674475869e-06, + "loss": 0.0007, + "num_input_tokens_seen": 2870200, + "step": 1453 + }, + { + "epoch": 0.19271040424121935, + "grad_norm": 2.0509612560272217, + "learning_rate": 4.949914560242236e-06, + "loss": 0.0401, + "num_input_tokens_seen": 2872040, + "step": 1454 + }, + { + "epoch": 0.19284294234592445, + "grad_norm": 11.695093154907227, + "learning_rate": 4.949845398772561e-06, + "loss": 0.2868, + "num_input_tokens_seen": 2873384, + "step": 1455 + }, + { + "epoch": 0.19297548045062957, + "grad_norm": 3.2590997219085693, + "learning_rate": 4.949776190068176e-06, + "loss": 0.0603, + "num_input_tokens_seen": 2875848, + "step": 1456 + }, + { + "epoch": 0.19310801855533466, + "grad_norm": 0.27745962142944336, + "learning_rate": 4.949706934130417e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2877216, + "step": 1457 + }, + { + "epoch": 0.19324055666003975, + "grad_norm": 17.104896545410156, + "learning_rate": 4.949637630960618e-06, + "loss": 0.7062, + "num_input_tokens_seen": 2879584, + "step": 1458 + }, + { + "epoch": 0.19337309476474487, + "grad_norm": 11.767041206359863, + "learning_rate": 4.949568280560115e-06, + "loss": 0.3207, + "num_input_tokens_seen": 2881168, + "step": 1459 + }, + { + "epoch": 0.19350563286944997, + "grad_norm": 13.05449390411377, + "learning_rate": 4.949498882930246e-06, + "loss": 0.1772, + "num_input_tokens_seen": 2883136, + "step": 1460 + }, + { + "epoch": 0.19363817097415506, + "grad_norm": 2.6173017024993896, + "learning_rate": 4.949429438072348e-06, + "loss": 0.0118, + "num_input_tokens_seen": 2884720, + "step": 1461 + }, + { + "epoch": 0.19377070907886018, + "grad_norm": 0.624408483505249, + "learning_rate": 4.949359945987762e-06, + "loss": 0.0039, + "num_input_tokens_seen": 2886000, + "step": 1462 + }, + { + "epoch": 0.19390324718356527, + "grad_norm": 0.6071314811706543, + "learning_rate": 4.949290406677826e-06, + "loss": 0.0037, + "num_input_tokens_seen": 2887856, + "step": 1463 + }, + { + "epoch": 0.19403578528827037, + "grad_norm": 2.3573100566864014, + "learning_rate": 4.949220820143881e-06, + "loss": 0.0096, + "num_input_tokens_seen": 2889656, + "step": 1464 + }, + { + "epoch": 0.1941683233929755, + "grad_norm": 9.5718994140625, + "learning_rate": 4.949151186387269e-06, + "loss": 0.2236, + "num_input_tokens_seen": 2891584, + "step": 1465 + }, + { + "epoch": 0.19430086149768058, + "grad_norm": 9.640631675720215, + "learning_rate": 4.949081505409332e-06, + "loss": 0.1823, + "num_input_tokens_seen": 2893536, + "step": 1466 + }, + { + "epoch": 0.19443339960238568, + "grad_norm": 17.514127731323242, + "learning_rate": 4.949011777211415e-06, + "loss": 0.1424, + "num_input_tokens_seen": 2895704, + "step": 1467 + }, + { + "epoch": 0.1945659377070908, + "grad_norm": 0.2816193699836731, + "learning_rate": 4.948942001794861e-06, + "loss": 0.0017, + "num_input_tokens_seen": 2896928, + "step": 1468 + }, + { + "epoch": 0.1946984758117959, + "grad_norm": 4.933318138122559, + "learning_rate": 4.948872179161016e-06, + "loss": 0.0433, + "num_input_tokens_seen": 2898712, + "step": 1469 + }, + { + "epoch": 0.19483101391650098, + "grad_norm": 0.1647079885005951, + "learning_rate": 4.948802309311226e-06, + "loss": 0.001, + "num_input_tokens_seen": 2900152, + "step": 1470 + }, + { + "epoch": 0.1949635520212061, + "grad_norm": 8.096887588500977, + "learning_rate": 4.948732392246838e-06, + "loss": 0.134, + "num_input_tokens_seen": 2902544, + "step": 1471 + }, + { + "epoch": 0.1950960901259112, + "grad_norm": 20.626953125, + "learning_rate": 4.9486624279692e-06, + "loss": 0.2312, + "num_input_tokens_seen": 2905952, + "step": 1472 + }, + { + "epoch": 0.1952286282306163, + "grad_norm": 0.09424714744091034, + "learning_rate": 4.948592416479662e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2908976, + "step": 1473 + }, + { + "epoch": 0.1953611663353214, + "grad_norm": 3.65250825881958, + "learning_rate": 4.9485223577795725e-06, + "loss": 0.0529, + "num_input_tokens_seen": 2911104, + "step": 1474 + }, + { + "epoch": 0.1954937044400265, + "grad_norm": 0.26873332262039185, + "learning_rate": 4.948452251870282e-06, + "loss": 0.0015, + "num_input_tokens_seen": 2913480, + "step": 1475 + }, + { + "epoch": 0.1956262425447316, + "grad_norm": 0.09667015820741653, + "learning_rate": 4.9483820987531436e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2915200, + "step": 1476 + }, + { + "epoch": 0.19575878064943672, + "grad_norm": 0.05408121645450592, + "learning_rate": 4.9483118984295095e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2916952, + "step": 1477 + }, + { + "epoch": 0.1958913187541418, + "grad_norm": 6.450794219970703, + "learning_rate": 4.948241650900733e-06, + "loss": 0.0441, + "num_input_tokens_seen": 2919096, + "step": 1478 + }, + { + "epoch": 0.1960238568588469, + "grad_norm": 0.02533072419464588, + "learning_rate": 4.948171356168168e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2920384, + "step": 1479 + }, + { + "epoch": 0.19615639496355203, + "grad_norm": 5.56210994720459, + "learning_rate": 4.948101014233171e-06, + "loss": 0.1898, + "num_input_tokens_seen": 2922064, + "step": 1480 + }, + { + "epoch": 0.19628893306825712, + "grad_norm": 24.328418731689453, + "learning_rate": 4.948030625097097e-06, + "loss": 0.2696, + "num_input_tokens_seen": 2925008, + "step": 1481 + }, + { + "epoch": 0.19642147117296221, + "grad_norm": 15.620478630065918, + "learning_rate": 4.947960188761304e-06, + "loss": 0.402, + "num_input_tokens_seen": 2927296, + "step": 1482 + }, + { + "epoch": 0.19655400927766734, + "grad_norm": 19.02410125732422, + "learning_rate": 4.9478897052271504e-06, + "loss": 0.2184, + "num_input_tokens_seen": 2929920, + "step": 1483 + }, + { + "epoch": 0.19668654738237243, + "grad_norm": 17.353513717651367, + "learning_rate": 4.9478191744959935e-06, + "loss": 0.4118, + "num_input_tokens_seen": 2931448, + "step": 1484 + }, + { + "epoch": 0.19681908548707752, + "grad_norm": 14.65807819366455, + "learning_rate": 4.947748596569195e-06, + "loss": 0.4383, + "num_input_tokens_seen": 2933464, + "step": 1485 + }, + { + "epoch": 0.19695162359178264, + "grad_norm": 0.013869226910173893, + "learning_rate": 4.947677971448114e-06, + "loss": 0.0001, + "num_input_tokens_seen": 2934832, + "step": 1486 + }, + { + "epoch": 0.19708416169648774, + "grad_norm": 4.815378189086914, + "learning_rate": 4.947607299134114e-06, + "loss": 0.122, + "num_input_tokens_seen": 2937264, + "step": 1487 + }, + { + "epoch": 0.19721669980119283, + "grad_norm": 8.090982437133789, + "learning_rate": 4.947536579628557e-06, + "loss": 0.1378, + "num_input_tokens_seen": 2938688, + "step": 1488 + }, + { + "epoch": 0.19734923790589795, + "grad_norm": 30.305927276611328, + "learning_rate": 4.947465812932806e-06, + "loss": 1.0197, + "num_input_tokens_seen": 2941152, + "step": 1489 + }, + { + "epoch": 0.19748177601060304, + "grad_norm": 0.3082437813282013, + "learning_rate": 4.947394999048225e-06, + "loss": 0.0016, + "num_input_tokens_seen": 2942936, + "step": 1490 + }, + { + "epoch": 0.19761431411530814, + "grad_norm": 14.401032447814941, + "learning_rate": 4.947324137976181e-06, + "loss": 0.3299, + "num_input_tokens_seen": 2944352, + "step": 1491 + }, + { + "epoch": 0.19774685222001326, + "grad_norm": 6.82422399520874, + "learning_rate": 4.947253229718039e-06, + "loss": 0.1891, + "num_input_tokens_seen": 2946280, + "step": 1492 + }, + { + "epoch": 0.19787939032471835, + "grad_norm": 9.745396614074707, + "learning_rate": 4.947182274275166e-06, + "loss": 0.229, + "num_input_tokens_seen": 2948488, + "step": 1493 + }, + { + "epoch": 0.19801192842942347, + "grad_norm": 6.9834065437316895, + "learning_rate": 4.947111271648931e-06, + "loss": 0.1487, + "num_input_tokens_seen": 2950624, + "step": 1494 + }, + { + "epoch": 0.19814446653412857, + "grad_norm": 19.150836944580078, + "learning_rate": 4.947040221840702e-06, + "loss": 0.4586, + "num_input_tokens_seen": 2951888, + "step": 1495 + }, + { + "epoch": 0.19827700463883366, + "grad_norm": 1.4499837160110474, + "learning_rate": 4.9469691248518505e-06, + "loss": 0.0183, + "num_input_tokens_seen": 2953528, + "step": 1496 + }, + { + "epoch": 0.19840954274353878, + "grad_norm": 15.1196928024292, + "learning_rate": 4.946897980683745e-06, + "loss": 0.2454, + "num_input_tokens_seen": 2955144, + "step": 1497 + }, + { + "epoch": 0.19854208084824387, + "grad_norm": 16.50326156616211, + "learning_rate": 4.946826789337759e-06, + "loss": 0.2717, + "num_input_tokens_seen": 2956568, + "step": 1498 + }, + { + "epoch": 0.19867461895294897, + "grad_norm": 0.046950824558734894, + "learning_rate": 4.946755550815265e-06, + "loss": 0.0003, + "num_input_tokens_seen": 2957848, + "step": 1499 + }, + { + "epoch": 0.1988071570576541, + "grad_norm": 3.3023948669433594, + "learning_rate": 4.946684265117635e-06, + "loss": 0.0375, + "num_input_tokens_seen": 2961072, + "step": 1500 + }, + { + "epoch": 0.19893969516235918, + "grad_norm": 35.056427001953125, + "learning_rate": 4.9466129322462444e-06, + "loss": 0.5977, + "num_input_tokens_seen": 2963560, + "step": 1501 + }, + { + "epoch": 0.19907223326706427, + "grad_norm": 14.703974723815918, + "learning_rate": 4.94654155220247e-06, + "loss": 0.2402, + "num_input_tokens_seen": 2965576, + "step": 1502 + }, + { + "epoch": 0.1992047713717694, + "grad_norm": 11.942296028137207, + "learning_rate": 4.946470124987686e-06, + "loss": 0.1351, + "num_input_tokens_seen": 2968232, + "step": 1503 + }, + { + "epoch": 0.1993373094764745, + "grad_norm": 14.916484832763672, + "learning_rate": 4.946398650603269e-06, + "loss": 0.5421, + "num_input_tokens_seen": 2971448, + "step": 1504 + }, + { + "epoch": 0.19946984758117958, + "grad_norm": 17.552587509155273, + "learning_rate": 4.9463271290506e-06, + "loss": 0.2842, + "num_input_tokens_seen": 2973656, + "step": 1505 + }, + { + "epoch": 0.1996023856858847, + "grad_norm": 13.145828247070312, + "learning_rate": 4.946255560331056e-06, + "loss": 0.2213, + "num_input_tokens_seen": 2975304, + "step": 1506 + }, + { + "epoch": 0.1997349237905898, + "grad_norm": 8.712215423583984, + "learning_rate": 4.946183944446017e-06, + "loss": 0.2274, + "num_input_tokens_seen": 2976936, + "step": 1507 + }, + { + "epoch": 0.1998674618952949, + "grad_norm": 2.575416088104248, + "learning_rate": 4.946112281396864e-06, + "loss": 0.0125, + "num_input_tokens_seen": 2979312, + "step": 1508 + }, + { + "epoch": 0.2, + "grad_norm": 2.6841654777526855, + "learning_rate": 4.946040571184978e-06, + "loss": 0.0117, + "num_input_tokens_seen": 2981024, + "step": 1509 + }, + { + "epoch": 0.2001325381047051, + "grad_norm": 9.58149528503418, + "learning_rate": 4.945968813811743e-06, + "loss": 0.1947, + "num_input_tokens_seen": 2983936, + "step": 1510 + }, + { + "epoch": 0.2002650762094102, + "grad_norm": 6.357746124267578, + "learning_rate": 4.945897009278543e-06, + "loss": 0.0832, + "num_input_tokens_seen": 2985328, + "step": 1511 + }, + { + "epoch": 0.20039761431411532, + "grad_norm": 12.998671531677246, + "learning_rate": 4.94582515758676e-06, + "loss": 0.1627, + "num_input_tokens_seen": 2988088, + "step": 1512 + }, + { + "epoch": 0.2005301524188204, + "grad_norm": 15.709349632263184, + "learning_rate": 4.945753258737781e-06, + "loss": 0.2284, + "num_input_tokens_seen": 2989576, + "step": 1513 + }, + { + "epoch": 0.2006626905235255, + "grad_norm": 7.763367176055908, + "learning_rate": 4.945681312732992e-06, + "loss": 0.2367, + "num_input_tokens_seen": 2991384, + "step": 1514 + }, + { + "epoch": 0.20079522862823063, + "grad_norm": 6.251837730407715, + "learning_rate": 4.9456093195737794e-06, + "loss": 0.1219, + "num_input_tokens_seen": 2993384, + "step": 1515 + }, + { + "epoch": 0.20092776673293572, + "grad_norm": 0.11836721748113632, + "learning_rate": 4.945537279261533e-06, + "loss": 0.0005, + "num_input_tokens_seen": 2995904, + "step": 1516 + }, + { + "epoch": 0.2010603048376408, + "grad_norm": 4.0873870849609375, + "learning_rate": 4.945465191797641e-06, + "loss": 0.0481, + "num_input_tokens_seen": 2997504, + "step": 1517 + }, + { + "epoch": 0.20119284294234593, + "grad_norm": 0.6148648858070374, + "learning_rate": 4.945393057183492e-06, + "loss": 0.0036, + "num_input_tokens_seen": 2999336, + "step": 1518 + }, + { + "epoch": 0.20132538104705103, + "grad_norm": 12.814029693603516, + "learning_rate": 4.945320875420478e-06, + "loss": 0.301, + "num_input_tokens_seen": 3003144, + "step": 1519 + }, + { + "epoch": 0.20145791915175612, + "grad_norm": 10.5188627243042, + "learning_rate": 4.945248646509991e-06, + "loss": 0.1691, + "num_input_tokens_seen": 3004824, + "step": 1520 + }, + { + "epoch": 0.20159045725646124, + "grad_norm": 1.2420895099639893, + "learning_rate": 4.945176370453423e-06, + "loss": 0.0068, + "num_input_tokens_seen": 3005840, + "step": 1521 + }, + { + "epoch": 0.20172299536116634, + "grad_norm": 27.47368049621582, + "learning_rate": 4.945104047252168e-06, + "loss": 1.0257, + "num_input_tokens_seen": 3008392, + "step": 1522 + }, + { + "epoch": 0.20185553346587143, + "grad_norm": 10.00438404083252, + "learning_rate": 4.94503167690762e-06, + "loss": 0.2241, + "num_input_tokens_seen": 3010304, + "step": 1523 + }, + { + "epoch": 0.20198807157057655, + "grad_norm": 8.860278129577637, + "learning_rate": 4.944959259421173e-06, + "loss": 0.1447, + "num_input_tokens_seen": 3013168, + "step": 1524 + }, + { + "epoch": 0.20212060967528164, + "grad_norm": 2.469446897506714, + "learning_rate": 4.944886794794227e-06, + "loss": 0.0137, + "num_input_tokens_seen": 3015488, + "step": 1525 + }, + { + "epoch": 0.20225314777998674, + "grad_norm": 6.759047031402588, + "learning_rate": 4.9448142830281764e-06, + "loss": 0.1058, + "num_input_tokens_seen": 3018448, + "step": 1526 + }, + { + "epoch": 0.20238568588469186, + "grad_norm": 1.4119298458099365, + "learning_rate": 4.94474172412442e-06, + "loss": 0.0073, + "num_input_tokens_seen": 3020000, + "step": 1527 + }, + { + "epoch": 0.20251822398939695, + "grad_norm": 21.874143600463867, + "learning_rate": 4.944669118084356e-06, + "loss": 0.4905, + "num_input_tokens_seen": 3024096, + "step": 1528 + }, + { + "epoch": 0.20265076209410204, + "grad_norm": 12.965889930725098, + "learning_rate": 4.9445964649093855e-06, + "loss": 0.319, + "num_input_tokens_seen": 3026120, + "step": 1529 + }, + { + "epoch": 0.20278330019880716, + "grad_norm": 0.36019694805145264, + "learning_rate": 4.944523764600908e-06, + "loss": 0.0018, + "num_input_tokens_seen": 3027472, + "step": 1530 + }, + { + "epoch": 0.20291583830351226, + "grad_norm": 11.79969596862793, + "learning_rate": 4.944451017160327e-06, + "loss": 0.2418, + "num_input_tokens_seen": 3029120, + "step": 1531 + }, + { + "epoch": 0.20304837640821735, + "grad_norm": 1.4309542179107666, + "learning_rate": 4.944378222589043e-06, + "loss": 0.0076, + "num_input_tokens_seen": 3030760, + "step": 1532 + }, + { + "epoch": 0.20318091451292247, + "grad_norm": 13.358979225158691, + "learning_rate": 4.944305380888461e-06, + "loss": 0.2395, + "num_input_tokens_seen": 3032400, + "step": 1533 + }, + { + "epoch": 0.20331345261762757, + "grad_norm": 6.730549335479736, + "learning_rate": 4.944232492059985e-06, + "loss": 0.0747, + "num_input_tokens_seen": 3034504, + "step": 1534 + }, + { + "epoch": 0.20344599072233266, + "grad_norm": 4.821010589599609, + "learning_rate": 4.9441595561050205e-06, + "loss": 0.0539, + "num_input_tokens_seen": 3036160, + "step": 1535 + }, + { + "epoch": 0.20357852882703778, + "grad_norm": 10.793621063232422, + "learning_rate": 4.944086573024973e-06, + "loss": 0.4039, + "num_input_tokens_seen": 3038216, + "step": 1536 + }, + { + "epoch": 0.20371106693174287, + "grad_norm": 11.968805313110352, + "learning_rate": 4.944013542821251e-06, + "loss": 0.3655, + "num_input_tokens_seen": 3039976, + "step": 1537 + }, + { + "epoch": 0.20384360503644797, + "grad_norm": 5.364990234375, + "learning_rate": 4.943940465495262e-06, + "loss": 0.0959, + "num_input_tokens_seen": 3042400, + "step": 1538 + }, + { + "epoch": 0.2039761431411531, + "grad_norm": 2.2847580909729004, + "learning_rate": 4.943867341048414e-06, + "loss": 0.0124, + "num_input_tokens_seen": 3044120, + "step": 1539 + }, + { + "epoch": 0.20410868124585818, + "grad_norm": 0.06408200412988663, + "learning_rate": 4.943794169482119e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3045472, + "step": 1540 + }, + { + "epoch": 0.20424121935056327, + "grad_norm": 0.10299701243638992, + "learning_rate": 4.943720950797785e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3046680, + "step": 1541 + }, + { + "epoch": 0.2043737574552684, + "grad_norm": 13.509176254272461, + "learning_rate": 4.943647684996827e-06, + "loss": 0.2526, + "num_input_tokens_seen": 3048352, + "step": 1542 + }, + { + "epoch": 0.2045062955599735, + "grad_norm": 9.015371322631836, + "learning_rate": 4.943574372080654e-06, + "loss": 0.2274, + "num_input_tokens_seen": 3050040, + "step": 1543 + }, + { + "epoch": 0.20463883366467858, + "grad_norm": 21.445486068725586, + "learning_rate": 4.943501012050682e-06, + "loss": 0.5459, + "num_input_tokens_seen": 3051944, + "step": 1544 + }, + { + "epoch": 0.2047713717693837, + "grad_norm": 0.25789403915405273, + "learning_rate": 4.943427604908325e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3053248, + "step": 1545 + }, + { + "epoch": 0.2049039098740888, + "grad_norm": 8.787060737609863, + "learning_rate": 4.943354150654998e-06, + "loss": 0.2267, + "num_input_tokens_seen": 3055080, + "step": 1546 + }, + { + "epoch": 0.2050364479787939, + "grad_norm": 10.775382041931152, + "learning_rate": 4.943280649292117e-06, + "loss": 0.1584, + "num_input_tokens_seen": 3056552, + "step": 1547 + }, + { + "epoch": 0.205168986083499, + "grad_norm": 0.07496646046638489, + "learning_rate": 4.9432071008211005e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3057536, + "step": 1548 + }, + { + "epoch": 0.2053015241882041, + "grad_norm": 19.620237350463867, + "learning_rate": 4.9431335052433645e-06, + "loss": 0.8056, + "num_input_tokens_seen": 3060488, + "step": 1549 + }, + { + "epoch": 0.20543406229290923, + "grad_norm": 8.260318756103516, + "learning_rate": 4.9430598625603305e-06, + "loss": 0.1048, + "num_input_tokens_seen": 3062600, + "step": 1550 + }, + { + "epoch": 0.20556660039761432, + "grad_norm": 11.072790145874023, + "learning_rate": 4.942986172773417e-06, + "loss": 0.2021, + "num_input_tokens_seen": 3064744, + "step": 1551 + }, + { + "epoch": 0.2056991385023194, + "grad_norm": 16.27667236328125, + "learning_rate": 4.942912435884043e-06, + "loss": 0.2106, + "num_input_tokens_seen": 3066600, + "step": 1552 + }, + { + "epoch": 0.20583167660702453, + "grad_norm": 12.170722961425781, + "learning_rate": 4.942838651893633e-06, + "loss": 0.3647, + "num_input_tokens_seen": 3068416, + "step": 1553 + }, + { + "epoch": 0.20596421471172963, + "grad_norm": 17.116518020629883, + "learning_rate": 4.942764820803608e-06, + "loss": 0.2935, + "num_input_tokens_seen": 3070192, + "step": 1554 + }, + { + "epoch": 0.20609675281643472, + "grad_norm": 0.45862770080566406, + "learning_rate": 4.942690942615394e-06, + "loss": 0.0024, + "num_input_tokens_seen": 3072152, + "step": 1555 + }, + { + "epoch": 0.20622929092113984, + "grad_norm": 13.14889907836914, + "learning_rate": 4.942617017330411e-06, + "loss": 0.4201, + "num_input_tokens_seen": 3073984, + "step": 1556 + }, + { + "epoch": 0.20636182902584493, + "grad_norm": 2.4476521015167236, + "learning_rate": 4.942543044950088e-06, + "loss": 0.0104, + "num_input_tokens_seen": 3076208, + "step": 1557 + }, + { + "epoch": 0.20649436713055003, + "grad_norm": 0.07111723721027374, + "learning_rate": 4.94246902547585e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3077336, + "step": 1558 + }, + { + "epoch": 0.20662690523525515, + "grad_norm": 6.37446928024292, + "learning_rate": 4.942394958909125e-06, + "loss": 0.0601, + "num_input_tokens_seen": 3079224, + "step": 1559 + }, + { + "epoch": 0.20675944333996024, + "grad_norm": 0.0938825011253357, + "learning_rate": 4.942320845251339e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3080592, + "step": 1560 + }, + { + "epoch": 0.20689198144466533, + "grad_norm": 17.8950252532959, + "learning_rate": 4.942246684503922e-06, + "loss": 0.3943, + "num_input_tokens_seen": 3081928, + "step": 1561 + }, + { + "epoch": 0.20702451954937046, + "grad_norm": 14.652807235717773, + "learning_rate": 4.942172476668305e-06, + "loss": 0.4855, + "num_input_tokens_seen": 3083736, + "step": 1562 + }, + { + "epoch": 0.20715705765407555, + "grad_norm": 6.170396327972412, + "learning_rate": 4.942098221745918e-06, + "loss": 0.1458, + "num_input_tokens_seen": 3085376, + "step": 1563 + }, + { + "epoch": 0.20728959575878064, + "grad_norm": 14.20685863494873, + "learning_rate": 4.942023919738192e-06, + "loss": 0.4159, + "num_input_tokens_seen": 3087440, + "step": 1564 + }, + { + "epoch": 0.20742213386348576, + "grad_norm": 2.665311574935913, + "learning_rate": 4.941949570646561e-06, + "loss": 0.0072, + "num_input_tokens_seen": 3088920, + "step": 1565 + }, + { + "epoch": 0.20755467196819086, + "grad_norm": 0.9632099866867065, + "learning_rate": 4.941875174472457e-06, + "loss": 0.0049, + "num_input_tokens_seen": 3090632, + "step": 1566 + }, + { + "epoch": 0.20768721007289595, + "grad_norm": 3.530364990234375, + "learning_rate": 4.941800731217314e-06, + "loss": 0.0706, + "num_input_tokens_seen": 3092464, + "step": 1567 + }, + { + "epoch": 0.20781974817760107, + "grad_norm": 15.34891414642334, + "learning_rate": 4.94172624088257e-06, + "loss": 0.2871, + "num_input_tokens_seen": 3094400, + "step": 1568 + }, + { + "epoch": 0.20795228628230616, + "grad_norm": 19.512920379638672, + "learning_rate": 4.94165170346966e-06, + "loss": 0.6074, + "num_input_tokens_seen": 3096752, + "step": 1569 + }, + { + "epoch": 0.20808482438701126, + "grad_norm": 12.263246536254883, + "learning_rate": 4.941577118980019e-06, + "loss": 0.298, + "num_input_tokens_seen": 3098760, + "step": 1570 + }, + { + "epoch": 0.20821736249171638, + "grad_norm": 10.468993186950684, + "learning_rate": 4.941502487415088e-06, + "loss": 0.2145, + "num_input_tokens_seen": 3100576, + "step": 1571 + }, + { + "epoch": 0.20834990059642147, + "grad_norm": 13.77182388305664, + "learning_rate": 4.941427808776305e-06, + "loss": 0.3044, + "num_input_tokens_seen": 3102912, + "step": 1572 + }, + { + "epoch": 0.20848243870112657, + "grad_norm": 7.96223783493042, + "learning_rate": 4.941353083065109e-06, + "loss": 0.0549, + "num_input_tokens_seen": 3105368, + "step": 1573 + }, + { + "epoch": 0.2086149768058317, + "grad_norm": 10.390724182128906, + "learning_rate": 4.941278310282941e-06, + "loss": 0.2599, + "num_input_tokens_seen": 3106896, + "step": 1574 + }, + { + "epoch": 0.20874751491053678, + "grad_norm": 9.694853782653809, + "learning_rate": 4.941203490431243e-06, + "loss": 0.125, + "num_input_tokens_seen": 3109000, + "step": 1575 + }, + { + "epoch": 0.20888005301524187, + "grad_norm": 17.4279842376709, + "learning_rate": 4.941128623511459e-06, + "loss": 0.2793, + "num_input_tokens_seen": 3110552, + "step": 1576 + }, + { + "epoch": 0.209012591119947, + "grad_norm": 0.37305963039398193, + "learning_rate": 4.94105370952503e-06, + "loss": 0.002, + "num_input_tokens_seen": 3112368, + "step": 1577 + }, + { + "epoch": 0.2091451292246521, + "grad_norm": 0.5690521001815796, + "learning_rate": 4.940978748473401e-06, + "loss": 0.0031, + "num_input_tokens_seen": 3114496, + "step": 1578 + }, + { + "epoch": 0.20927766732935718, + "grad_norm": 9.067329406738281, + "learning_rate": 4.940903740358019e-06, + "loss": 0.3023, + "num_input_tokens_seen": 3116720, + "step": 1579 + }, + { + "epoch": 0.2094102054340623, + "grad_norm": 21.493934631347656, + "learning_rate": 4.940828685180327e-06, + "loss": 0.3311, + "num_input_tokens_seen": 3118664, + "step": 1580 + }, + { + "epoch": 0.2095427435387674, + "grad_norm": 1.2281928062438965, + "learning_rate": 4.940753582941777e-06, + "loss": 0.0064, + "num_input_tokens_seen": 3121488, + "step": 1581 + }, + { + "epoch": 0.2096752816434725, + "grad_norm": 4.252953052520752, + "learning_rate": 4.940678433643812e-06, + "loss": 0.0211, + "num_input_tokens_seen": 3122944, + "step": 1582 + }, + { + "epoch": 0.2098078197481776, + "grad_norm": 11.897409439086914, + "learning_rate": 4.940603237287883e-06, + "loss": 0.3087, + "num_input_tokens_seen": 3124856, + "step": 1583 + }, + { + "epoch": 0.2099403578528827, + "grad_norm": 0.12686584889888763, + "learning_rate": 4.9405279938754405e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3125944, + "step": 1584 + }, + { + "epoch": 0.2100728959575878, + "grad_norm": 7.8734283447265625, + "learning_rate": 4.940452703407935e-06, + "loss": 0.2241, + "num_input_tokens_seen": 3127864, + "step": 1585 + }, + { + "epoch": 0.21020543406229292, + "grad_norm": 8.402398109436035, + "learning_rate": 4.940377365886817e-06, + "loss": 0.3412, + "num_input_tokens_seen": 3129728, + "step": 1586 + }, + { + "epoch": 0.210337972166998, + "grad_norm": 10.226612091064453, + "learning_rate": 4.940301981313541e-06, + "loss": 0.1393, + "num_input_tokens_seen": 3131392, + "step": 1587 + }, + { + "epoch": 0.2104705102717031, + "grad_norm": 6.102915287017822, + "learning_rate": 4.940226549689559e-06, + "loss": 0.0552, + "num_input_tokens_seen": 3133200, + "step": 1588 + }, + { + "epoch": 0.21060304837640823, + "grad_norm": 19.175670623779297, + "learning_rate": 4.940151071016325e-06, + "loss": 1.0989, + "num_input_tokens_seen": 3135624, + "step": 1589 + }, + { + "epoch": 0.21073558648111332, + "grad_norm": 9.163742065429688, + "learning_rate": 4.940075545295295e-06, + "loss": 0.2058, + "num_input_tokens_seen": 3137600, + "step": 1590 + }, + { + "epoch": 0.2108681245858184, + "grad_norm": 0.07821919023990631, + "learning_rate": 4.939999972527926e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3139120, + "step": 1591 + }, + { + "epoch": 0.21100066269052353, + "grad_norm": 19.046098709106445, + "learning_rate": 4.9399243527156735e-06, + "loss": 0.6531, + "num_input_tokens_seen": 3142000, + "step": 1592 + }, + { + "epoch": 0.21113320079522863, + "grad_norm": 22.99635887145996, + "learning_rate": 4.939848685859997e-06, + "loss": 0.486, + "num_input_tokens_seen": 3144184, + "step": 1593 + }, + { + "epoch": 0.21126573889993372, + "grad_norm": 0.11313114315271378, + "learning_rate": 4.939772971962354e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3145512, + "step": 1594 + }, + { + "epoch": 0.21139827700463884, + "grad_norm": 18.431657791137695, + "learning_rate": 4.9396972110242044e-06, + "loss": 0.6959, + "num_input_tokens_seen": 3147264, + "step": 1595 + }, + { + "epoch": 0.21153081510934393, + "grad_norm": 8.416237831115723, + "learning_rate": 4.939621403047011e-06, + "loss": 0.1401, + "num_input_tokens_seen": 3149016, + "step": 1596 + }, + { + "epoch": 0.21166335321404903, + "grad_norm": 0.46213310956954956, + "learning_rate": 4.939545548032233e-06, + "loss": 0.0022, + "num_input_tokens_seen": 3150600, + "step": 1597 + }, + { + "epoch": 0.21179589131875415, + "grad_norm": 12.233981132507324, + "learning_rate": 4.939469645981334e-06, + "loss": 0.4133, + "num_input_tokens_seen": 3152624, + "step": 1598 + }, + { + "epoch": 0.21192842942345924, + "grad_norm": 0.9122524857521057, + "learning_rate": 4.939393696895778e-06, + "loss": 0.0036, + "num_input_tokens_seen": 3153960, + "step": 1599 + }, + { + "epoch": 0.21206096752816433, + "grad_norm": 32.98881530761719, + "learning_rate": 4.939317700777028e-06, + "loss": 1.1184, + "num_input_tokens_seen": 3155568, + "step": 1600 + }, + { + "epoch": 0.21219350563286946, + "grad_norm": 18.546852111816406, + "learning_rate": 4.93924165762655e-06, + "loss": 0.43, + "num_input_tokens_seen": 3158056, + "step": 1601 + }, + { + "epoch": 0.21232604373757455, + "grad_norm": 0.20501665771007538, + "learning_rate": 4.93916556744581e-06, + "loss": 0.0011, + "num_input_tokens_seen": 3159976, + "step": 1602 + }, + { + "epoch": 0.21245858184227964, + "grad_norm": 7.36048698425293, + "learning_rate": 4.9390894302362754e-06, + "loss": 0.1961, + "num_input_tokens_seen": 3161792, + "step": 1603 + }, + { + "epoch": 0.21259111994698476, + "grad_norm": 0.11844947934150696, + "learning_rate": 4.9390132459994135e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3163160, + "step": 1604 + }, + { + "epoch": 0.21272365805168986, + "grad_norm": 8.891694068908691, + "learning_rate": 4.938937014736694e-06, + "loss": 0.2378, + "num_input_tokens_seen": 3165232, + "step": 1605 + }, + { + "epoch": 0.21285619615639495, + "grad_norm": 24.88727378845215, + "learning_rate": 4.938860736449587e-06, + "loss": 0.658, + "num_input_tokens_seen": 3168088, + "step": 1606 + }, + { + "epoch": 0.21298873426110007, + "grad_norm": 9.448894500732422, + "learning_rate": 4.938784411139561e-06, + "loss": 0.2552, + "num_input_tokens_seen": 3169344, + "step": 1607 + }, + { + "epoch": 0.21312127236580516, + "grad_norm": 10.28486156463623, + "learning_rate": 4.93870803880809e-06, + "loss": 0.2629, + "num_input_tokens_seen": 3171160, + "step": 1608 + }, + { + "epoch": 0.21325381047051029, + "grad_norm": 10.416315078735352, + "learning_rate": 4.938631619456646e-06, + "loss": 0.1774, + "num_input_tokens_seen": 3173096, + "step": 1609 + }, + { + "epoch": 0.21338634857521538, + "grad_norm": 10.50994873046875, + "learning_rate": 4.938555153086701e-06, + "loss": 0.225, + "num_input_tokens_seen": 3174120, + "step": 1610 + }, + { + "epoch": 0.21351888667992047, + "grad_norm": 10.50826644897461, + "learning_rate": 4.938478639699732e-06, + "loss": 0.3346, + "num_input_tokens_seen": 3175488, + "step": 1611 + }, + { + "epoch": 0.2136514247846256, + "grad_norm": 15.99755859375, + "learning_rate": 4.938402079297211e-06, + "loss": 0.4693, + "num_input_tokens_seen": 3177616, + "step": 1612 + }, + { + "epoch": 0.2137839628893307, + "grad_norm": 9.410768508911133, + "learning_rate": 4.9383254718806165e-06, + "loss": 0.2641, + "num_input_tokens_seen": 3179304, + "step": 1613 + }, + { + "epoch": 0.21391650099403578, + "grad_norm": 8.813210487365723, + "learning_rate": 4.9382488174514245e-06, + "loss": 0.1131, + "num_input_tokens_seen": 3181504, + "step": 1614 + }, + { + "epoch": 0.2140490390987409, + "grad_norm": 11.054888725280762, + "learning_rate": 4.938172116011113e-06, + "loss": 0.2597, + "num_input_tokens_seen": 3183568, + "step": 1615 + }, + { + "epoch": 0.214181577203446, + "grad_norm": 1.068084478378296, + "learning_rate": 4.938095367561162e-06, + "loss": 0.0047, + "num_input_tokens_seen": 3185480, + "step": 1616 + }, + { + "epoch": 0.2143141153081511, + "grad_norm": 9.036762237548828, + "learning_rate": 4.938018572103049e-06, + "loss": 0.1213, + "num_input_tokens_seen": 3187128, + "step": 1617 + }, + { + "epoch": 0.2144466534128562, + "grad_norm": 13.213265419006348, + "learning_rate": 4.937941729638257e-06, + "loss": 0.5154, + "num_input_tokens_seen": 3189720, + "step": 1618 + }, + { + "epoch": 0.2145791915175613, + "grad_norm": 0.3549255132675171, + "learning_rate": 4.9378648401682675e-06, + "loss": 0.0021, + "num_input_tokens_seen": 3192192, + "step": 1619 + }, + { + "epoch": 0.2147117296222664, + "grad_norm": 11.899450302124023, + "learning_rate": 4.9377879036945605e-06, + "loss": 0.2224, + "num_input_tokens_seen": 3194432, + "step": 1620 + }, + { + "epoch": 0.21484426772697152, + "grad_norm": 10.466017723083496, + "learning_rate": 4.937710920218622e-06, + "loss": 0.1578, + "num_input_tokens_seen": 3196496, + "step": 1621 + }, + { + "epoch": 0.2149768058316766, + "grad_norm": 23.57000732421875, + "learning_rate": 4.937633889741934e-06, + "loss": 0.2188, + "num_input_tokens_seen": 3199192, + "step": 1622 + }, + { + "epoch": 0.2151093439363817, + "grad_norm": 21.964622497558594, + "learning_rate": 4.937556812265984e-06, + "loss": 0.6021, + "num_input_tokens_seen": 3201088, + "step": 1623 + }, + { + "epoch": 0.21524188204108682, + "grad_norm": 24.73978042602539, + "learning_rate": 4.937479687792257e-06, + "loss": 0.3227, + "num_input_tokens_seen": 3203208, + "step": 1624 + }, + { + "epoch": 0.21537442014579192, + "grad_norm": 9.107304573059082, + "learning_rate": 4.937402516322239e-06, + "loss": 0.2177, + "num_input_tokens_seen": 3204936, + "step": 1625 + }, + { + "epoch": 0.215506958250497, + "grad_norm": 6.08217191696167, + "learning_rate": 4.93732529785742e-06, + "loss": 0.1215, + "num_input_tokens_seen": 3207608, + "step": 1626 + }, + { + "epoch": 0.21563949635520213, + "grad_norm": 15.261053085327148, + "learning_rate": 4.9372480323992885e-06, + "loss": 0.3029, + "num_input_tokens_seen": 3209472, + "step": 1627 + }, + { + "epoch": 0.21577203445990722, + "grad_norm": 6.329408168792725, + "learning_rate": 4.937170719949333e-06, + "loss": 0.0522, + "num_input_tokens_seen": 3210880, + "step": 1628 + }, + { + "epoch": 0.21590457256461232, + "grad_norm": 11.83716106414795, + "learning_rate": 4.937093360509044e-06, + "loss": 0.0852, + "num_input_tokens_seen": 3212544, + "step": 1629 + }, + { + "epoch": 0.21603711066931744, + "grad_norm": 11.321566581726074, + "learning_rate": 4.9370159540799146e-06, + "loss": 0.3831, + "num_input_tokens_seen": 3214944, + "step": 1630 + }, + { + "epoch": 0.21616964877402253, + "grad_norm": 21.89409065246582, + "learning_rate": 4.936938500663436e-06, + "loss": 0.524, + "num_input_tokens_seen": 3216840, + "step": 1631 + }, + { + "epoch": 0.21630218687872763, + "grad_norm": 14.414962768554688, + "learning_rate": 4.936861000261101e-06, + "loss": 0.2561, + "num_input_tokens_seen": 3219256, + "step": 1632 + }, + { + "epoch": 0.21643472498343275, + "grad_norm": 8.296018600463867, + "learning_rate": 4.936783452874406e-06, + "loss": 0.1726, + "num_input_tokens_seen": 3222136, + "step": 1633 + }, + { + "epoch": 0.21656726308813784, + "grad_norm": 7.5279316902160645, + "learning_rate": 4.9367058585048456e-06, + "loss": 0.2471, + "num_input_tokens_seen": 3223968, + "step": 1634 + }, + { + "epoch": 0.21669980119284293, + "grad_norm": 0.36171770095825195, + "learning_rate": 4.936628217153914e-06, + "loss": 0.0019, + "num_input_tokens_seen": 3225528, + "step": 1635 + }, + { + "epoch": 0.21683233929754805, + "grad_norm": 0.8328701257705688, + "learning_rate": 4.93655052882311e-06, + "loss": 0.003, + "num_input_tokens_seen": 3227984, + "step": 1636 + }, + { + "epoch": 0.21696487740225315, + "grad_norm": 4.806658744812012, + "learning_rate": 4.936472793513931e-06, + "loss": 0.0702, + "num_input_tokens_seen": 3229856, + "step": 1637 + }, + { + "epoch": 0.21709741550695824, + "grad_norm": 4.383067607879639, + "learning_rate": 4.936395011227876e-06, + "loss": 0.114, + "num_input_tokens_seen": 3231792, + "step": 1638 + }, + { + "epoch": 0.21722995361166336, + "grad_norm": 0.8216667175292969, + "learning_rate": 4.9363171819664434e-06, + "loss": 0.0024, + "num_input_tokens_seen": 3234576, + "step": 1639 + }, + { + "epoch": 0.21736249171636846, + "grad_norm": 9.61504077911377, + "learning_rate": 4.936239305731135e-06, + "loss": 0.1803, + "num_input_tokens_seen": 3237240, + "step": 1640 + }, + { + "epoch": 0.21749502982107355, + "grad_norm": 12.264850616455078, + "learning_rate": 4.936161382523452e-06, + "loss": 0.3079, + "num_input_tokens_seen": 3239808, + "step": 1641 + }, + { + "epoch": 0.21762756792577867, + "grad_norm": 15.373514175415039, + "learning_rate": 4.936083412344898e-06, + "loss": 0.5683, + "num_input_tokens_seen": 3241840, + "step": 1642 + }, + { + "epoch": 0.21776010603048376, + "grad_norm": 0.06137187033891678, + "learning_rate": 4.936005395196974e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3242800, + "step": 1643 + }, + { + "epoch": 0.21789264413518886, + "grad_norm": 1.243264079093933, + "learning_rate": 4.935927331081186e-06, + "loss": 0.0124, + "num_input_tokens_seen": 3244584, + "step": 1644 + }, + { + "epoch": 0.21802518223989398, + "grad_norm": 0.052737534046173096, + "learning_rate": 4.935849219999039e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3245944, + "step": 1645 + }, + { + "epoch": 0.21815772034459907, + "grad_norm": 2.980928897857666, + "learning_rate": 4.935771061952038e-06, + "loss": 0.0097, + "num_input_tokens_seen": 3248096, + "step": 1646 + }, + { + "epoch": 0.21829025844930416, + "grad_norm": 6.593144416809082, + "learning_rate": 4.935692856941691e-06, + "loss": 0.1378, + "num_input_tokens_seen": 3249680, + "step": 1647 + }, + { + "epoch": 0.21842279655400929, + "grad_norm": 7.3935346603393555, + "learning_rate": 4.935614604969505e-06, + "loss": 0.0455, + "num_input_tokens_seen": 3251336, + "step": 1648 + }, + { + "epoch": 0.21855533465871438, + "grad_norm": 12.530481338500977, + "learning_rate": 4.93553630603699e-06, + "loss": 0.3653, + "num_input_tokens_seen": 3253880, + "step": 1649 + }, + { + "epoch": 0.21868787276341947, + "grad_norm": 12.22199535369873, + "learning_rate": 4.9354579601456545e-06, + "loss": 0.4126, + "num_input_tokens_seen": 3256184, + "step": 1650 + }, + { + "epoch": 0.2188204108681246, + "grad_norm": 0.7065559029579163, + "learning_rate": 4.935379567297009e-06, + "loss": 0.0032, + "num_input_tokens_seen": 3258952, + "step": 1651 + }, + { + "epoch": 0.2189529489728297, + "grad_norm": 9.172409057617188, + "learning_rate": 4.935301127492565e-06, + "loss": 0.2361, + "num_input_tokens_seen": 3260904, + "step": 1652 + }, + { + "epoch": 0.21908548707753478, + "grad_norm": 0.7518073916435242, + "learning_rate": 4.935222640733836e-06, + "loss": 0.004, + "num_input_tokens_seen": 3261976, + "step": 1653 + }, + { + "epoch": 0.2192180251822399, + "grad_norm": 16.84255027770996, + "learning_rate": 4.935144107022334e-06, + "loss": 0.3524, + "num_input_tokens_seen": 3264208, + "step": 1654 + }, + { + "epoch": 0.219350563286945, + "grad_norm": 8.219185829162598, + "learning_rate": 4.935065526359574e-06, + "loss": 0.3323, + "num_input_tokens_seen": 3265776, + "step": 1655 + }, + { + "epoch": 0.2194831013916501, + "grad_norm": 0.07503607869148254, + "learning_rate": 4.934986898747071e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3267272, + "step": 1656 + }, + { + "epoch": 0.2196156394963552, + "grad_norm": 7.613670349121094, + "learning_rate": 4.934908224186341e-06, + "loss": 0.0419, + "num_input_tokens_seen": 3269200, + "step": 1657 + }, + { + "epoch": 0.2197481776010603, + "grad_norm": 13.691352844238281, + "learning_rate": 4.9348295026789e-06, + "loss": 0.3911, + "num_input_tokens_seen": 3271288, + "step": 1658 + }, + { + "epoch": 0.2198807157057654, + "grad_norm": 14.167842864990234, + "learning_rate": 4.934750734226267e-06, + "loss": 0.2875, + "num_input_tokens_seen": 3273136, + "step": 1659 + }, + { + "epoch": 0.22001325381047052, + "grad_norm": 21.928781509399414, + "learning_rate": 4.93467191882996e-06, + "loss": 0.3142, + "num_input_tokens_seen": 3275736, + "step": 1660 + }, + { + "epoch": 0.2201457919151756, + "grad_norm": 9.621772766113281, + "learning_rate": 4.934593056491498e-06, + "loss": 0.1505, + "num_input_tokens_seen": 3278352, + "step": 1661 + }, + { + "epoch": 0.2202783300198807, + "grad_norm": 0.05005446448922157, + "learning_rate": 4.934514147212403e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3279752, + "step": 1662 + }, + { + "epoch": 0.22041086812458582, + "grad_norm": 8.94521713256836, + "learning_rate": 4.934435190994195e-06, + "loss": 0.1141, + "num_input_tokens_seen": 3281664, + "step": 1663 + }, + { + "epoch": 0.22054340622929092, + "grad_norm": 0.062009260058403015, + "learning_rate": 4.9343561878383984e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3283960, + "step": 1664 + }, + { + "epoch": 0.220675944333996, + "grad_norm": 0.11217901110649109, + "learning_rate": 4.934277137746535e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3285912, + "step": 1665 + }, + { + "epoch": 0.22080848243870113, + "grad_norm": 5.784594535827637, + "learning_rate": 4.9341980407201286e-06, + "loss": 0.1341, + "num_input_tokens_seen": 3287576, + "step": 1666 + }, + { + "epoch": 0.22094102054340622, + "grad_norm": 7.565398216247559, + "learning_rate": 4.934118896760705e-06, + "loss": 0.1398, + "num_input_tokens_seen": 3288936, + "step": 1667 + }, + { + "epoch": 0.22107355864811135, + "grad_norm": 24.51899528503418, + "learning_rate": 4.934039705869789e-06, + "loss": 0.8829, + "num_input_tokens_seen": 3290376, + "step": 1668 + }, + { + "epoch": 0.22120609675281644, + "grad_norm": 13.75235366821289, + "learning_rate": 4.933960468048909e-06, + "loss": 0.3791, + "num_input_tokens_seen": 3293080, + "step": 1669 + }, + { + "epoch": 0.22133863485752153, + "grad_norm": 0.8770029544830322, + "learning_rate": 4.9338811832995925e-06, + "loss": 0.0036, + "num_input_tokens_seen": 3295056, + "step": 1670 + }, + { + "epoch": 0.22147117296222665, + "grad_norm": 9.46823787689209, + "learning_rate": 4.933801851623367e-06, + "loss": 0.1653, + "num_input_tokens_seen": 3296984, + "step": 1671 + }, + { + "epoch": 0.22160371106693175, + "grad_norm": 14.412089347839355, + "learning_rate": 4.933722473021763e-06, + "loss": 0.2312, + "num_input_tokens_seen": 3298976, + "step": 1672 + }, + { + "epoch": 0.22173624917163684, + "grad_norm": 16.31475257873535, + "learning_rate": 4.933643047496311e-06, + "loss": 0.3257, + "num_input_tokens_seen": 3300032, + "step": 1673 + }, + { + "epoch": 0.22186878727634196, + "grad_norm": 0.08501935750246048, + "learning_rate": 4.933563575048542e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3302080, + "step": 1674 + }, + { + "epoch": 0.22200132538104705, + "grad_norm": 17.939287185668945, + "learning_rate": 4.9334840556799885e-06, + "loss": 0.5308, + "num_input_tokens_seen": 3303696, + "step": 1675 + }, + { + "epoch": 0.22213386348575215, + "grad_norm": 7.127903461456299, + "learning_rate": 4.933404489392184e-06, + "loss": 0.0889, + "num_input_tokens_seen": 3305528, + "step": 1676 + }, + { + "epoch": 0.22226640159045727, + "grad_norm": 4.072912216186523, + "learning_rate": 4.933324876186661e-06, + "loss": 0.0957, + "num_input_tokens_seen": 3307336, + "step": 1677 + }, + { + "epoch": 0.22239893969516236, + "grad_norm": 11.142993927001953, + "learning_rate": 4.933245216064957e-06, + "loss": 0.1511, + "num_input_tokens_seen": 3308656, + "step": 1678 + }, + { + "epoch": 0.22253147779986746, + "grad_norm": 0.2088087946176529, + "learning_rate": 4.933165509028606e-06, + "loss": 0.0011, + "num_input_tokens_seen": 3310184, + "step": 1679 + }, + { + "epoch": 0.22266401590457258, + "grad_norm": 19.459409713745117, + "learning_rate": 4.933085755079145e-06, + "loss": 0.4961, + "num_input_tokens_seen": 3312464, + "step": 1680 + }, + { + "epoch": 0.22279655400927767, + "grad_norm": 7.557456970214844, + "learning_rate": 4.933005954218113e-06, + "loss": 0.0977, + "num_input_tokens_seen": 3314424, + "step": 1681 + }, + { + "epoch": 0.22292909211398276, + "grad_norm": 14.821629524230957, + "learning_rate": 4.932926106447048e-06, + "loss": 0.4703, + "num_input_tokens_seen": 3316864, + "step": 1682 + }, + { + "epoch": 0.22306163021868788, + "grad_norm": 0.24442431330680847, + "learning_rate": 4.932846211767488e-06, + "loss": 0.0014, + "num_input_tokens_seen": 3318560, + "step": 1683 + }, + { + "epoch": 0.22319416832339298, + "grad_norm": 5.608514308929443, + "learning_rate": 4.932766270180976e-06, + "loss": 0.1271, + "num_input_tokens_seen": 3321832, + "step": 1684 + }, + { + "epoch": 0.22332670642809807, + "grad_norm": 13.253571510314941, + "learning_rate": 4.932686281689051e-06, + "loss": 0.3954, + "num_input_tokens_seen": 3324280, + "step": 1685 + }, + { + "epoch": 0.2234592445328032, + "grad_norm": 17.71905517578125, + "learning_rate": 4.932606246293256e-06, + "loss": 0.4995, + "num_input_tokens_seen": 3326456, + "step": 1686 + }, + { + "epoch": 0.22359178263750829, + "grad_norm": 5.279988765716553, + "learning_rate": 4.932526163995136e-06, + "loss": 0.1175, + "num_input_tokens_seen": 3328128, + "step": 1687 + }, + { + "epoch": 0.22372432074221338, + "grad_norm": 15.228689193725586, + "learning_rate": 4.9324460347962325e-06, + "loss": 0.4672, + "num_input_tokens_seen": 3329872, + "step": 1688 + }, + { + "epoch": 0.2238568588469185, + "grad_norm": 11.764204025268555, + "learning_rate": 4.9323658586980915e-06, + "loss": 0.2224, + "num_input_tokens_seen": 3332776, + "step": 1689 + }, + { + "epoch": 0.2239893969516236, + "grad_norm": 12.289379119873047, + "learning_rate": 4.932285635702259e-06, + "loss": 0.2397, + "num_input_tokens_seen": 3334720, + "step": 1690 + }, + { + "epoch": 0.22412193505632869, + "grad_norm": 30.804235458374023, + "learning_rate": 4.932205365810281e-06, + "loss": 0.6516, + "num_input_tokens_seen": 3336616, + "step": 1691 + }, + { + "epoch": 0.2242544731610338, + "grad_norm": 3.714463710784912, + "learning_rate": 4.932125049023706e-06, + "loss": 0.0245, + "num_input_tokens_seen": 3338296, + "step": 1692 + }, + { + "epoch": 0.2243870112657389, + "grad_norm": 2.002056837081909, + "learning_rate": 4.9320446853440815e-06, + "loss": 0.0113, + "num_input_tokens_seen": 3340400, + "step": 1693 + }, + { + "epoch": 0.224519549370444, + "grad_norm": 2.714550733566284, + "learning_rate": 4.931964274772959e-06, + "loss": 0.0157, + "num_input_tokens_seen": 3341728, + "step": 1694 + }, + { + "epoch": 0.22465208747514911, + "grad_norm": 6.166360378265381, + "learning_rate": 4.931883817311886e-06, + "loss": 0.2204, + "num_input_tokens_seen": 3343792, + "step": 1695 + }, + { + "epoch": 0.2247846255798542, + "grad_norm": 0.5058887004852295, + "learning_rate": 4.931803312962417e-06, + "loss": 0.0029, + "num_input_tokens_seen": 3345528, + "step": 1696 + }, + { + "epoch": 0.2249171636845593, + "grad_norm": 1.7587809562683105, + "learning_rate": 4.931722761726102e-06, + "loss": 0.0108, + "num_input_tokens_seen": 3348384, + "step": 1697 + }, + { + "epoch": 0.22504970178926442, + "grad_norm": 17.575016021728516, + "learning_rate": 4.9316421636044945e-06, + "loss": 0.316, + "num_input_tokens_seen": 3350696, + "step": 1698 + }, + { + "epoch": 0.22518223989396952, + "grad_norm": 1.106317400932312, + "learning_rate": 4.931561518599148e-06, + "loss": 0.0056, + "num_input_tokens_seen": 3352168, + "step": 1699 + }, + { + "epoch": 0.2253147779986746, + "grad_norm": 0.4117383062839508, + "learning_rate": 4.9314808267116185e-06, + "loss": 0.0019, + "num_input_tokens_seen": 3354080, + "step": 1700 + }, + { + "epoch": 0.22544731610337973, + "grad_norm": 13.850700378417969, + "learning_rate": 4.931400087943461e-06, + "loss": 0.2391, + "num_input_tokens_seen": 3355808, + "step": 1701 + }, + { + "epoch": 0.22557985420808482, + "grad_norm": 17.980010986328125, + "learning_rate": 4.9313193022962325e-06, + "loss": 0.265, + "num_input_tokens_seen": 3357592, + "step": 1702 + }, + { + "epoch": 0.22571239231278992, + "grad_norm": 7.735844612121582, + "learning_rate": 4.93123846977149e-06, + "loss": 0.4048, + "num_input_tokens_seen": 3359136, + "step": 1703 + }, + { + "epoch": 0.22584493041749504, + "grad_norm": 5.844985485076904, + "learning_rate": 4.931157590370794e-06, + "loss": 0.112, + "num_input_tokens_seen": 3360624, + "step": 1704 + }, + { + "epoch": 0.22597746852220013, + "grad_norm": 0.04979546740651131, + "learning_rate": 4.931076664095701e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3362272, + "step": 1705 + }, + { + "epoch": 0.22611000662690522, + "grad_norm": 9.528762817382812, + "learning_rate": 4.930995690947774e-06, + "loss": 0.2703, + "num_input_tokens_seen": 3364216, + "step": 1706 + }, + { + "epoch": 0.22624254473161035, + "grad_norm": 18.23267936706543, + "learning_rate": 4.930914670928572e-06, + "loss": 0.4144, + "num_input_tokens_seen": 3366896, + "step": 1707 + }, + { + "epoch": 0.22637508283631544, + "grad_norm": 6.709630966186523, + "learning_rate": 4.930833604039659e-06, + "loss": 0.1561, + "num_input_tokens_seen": 3368736, + "step": 1708 + }, + { + "epoch": 0.22650762094102053, + "grad_norm": 16.42906379699707, + "learning_rate": 4.930752490282596e-06, + "loss": 0.6671, + "num_input_tokens_seen": 3371056, + "step": 1709 + }, + { + "epoch": 0.22664015904572565, + "grad_norm": 30.568758010864258, + "learning_rate": 4.93067132965895e-06, + "loss": 0.7228, + "num_input_tokens_seen": 3373176, + "step": 1710 + }, + { + "epoch": 0.22677269715043075, + "grad_norm": 13.62087345123291, + "learning_rate": 4.930590122170283e-06, + "loss": 0.4284, + "num_input_tokens_seen": 3374608, + "step": 1711 + }, + { + "epoch": 0.22690523525513584, + "grad_norm": 8.012083053588867, + "learning_rate": 4.9305088678181615e-06, + "loss": 0.2542, + "num_input_tokens_seen": 3376512, + "step": 1712 + }, + { + "epoch": 0.22703777335984096, + "grad_norm": 0.43502819538116455, + "learning_rate": 4.930427566604153e-06, + "loss": 0.0025, + "num_input_tokens_seen": 3378304, + "step": 1713 + }, + { + "epoch": 0.22717031146454605, + "grad_norm": 4.435062885284424, + "learning_rate": 4.930346218529822e-06, + "loss": 0.0863, + "num_input_tokens_seen": 3380104, + "step": 1714 + }, + { + "epoch": 0.22730284956925115, + "grad_norm": 14.251241683959961, + "learning_rate": 4.9302648235967415e-06, + "loss": 0.4994, + "num_input_tokens_seen": 3382256, + "step": 1715 + }, + { + "epoch": 0.22743538767395627, + "grad_norm": 0.2695981562137604, + "learning_rate": 4.930183381806478e-06, + "loss": 0.0016, + "num_input_tokens_seen": 3383976, + "step": 1716 + }, + { + "epoch": 0.22756792577866136, + "grad_norm": 23.366899490356445, + "learning_rate": 4.930101893160603e-06, + "loss": 0.8223, + "num_input_tokens_seen": 3385472, + "step": 1717 + }, + { + "epoch": 0.22770046388336646, + "grad_norm": 15.77640438079834, + "learning_rate": 4.930020357660687e-06, + "loss": 0.3659, + "num_input_tokens_seen": 3387008, + "step": 1718 + }, + { + "epoch": 0.22783300198807158, + "grad_norm": 0.5171908140182495, + "learning_rate": 4.929938775308301e-06, + "loss": 0.003, + "num_input_tokens_seen": 3388656, + "step": 1719 + }, + { + "epoch": 0.22796554009277667, + "grad_norm": 16.954925537109375, + "learning_rate": 4.92985714610502e-06, + "loss": 0.3829, + "num_input_tokens_seen": 3390632, + "step": 1720 + }, + { + "epoch": 0.22809807819748176, + "grad_norm": 13.440217018127441, + "learning_rate": 4.929775470052417e-06, + "loss": 0.4645, + "num_input_tokens_seen": 3392376, + "step": 1721 + }, + { + "epoch": 0.22823061630218688, + "grad_norm": 4.9072651863098145, + "learning_rate": 4.929693747152066e-06, + "loss": 0.1009, + "num_input_tokens_seen": 3394760, + "step": 1722 + }, + { + "epoch": 0.22836315440689198, + "grad_norm": 0.882038950920105, + "learning_rate": 4.929611977405544e-06, + "loss": 0.0052, + "num_input_tokens_seen": 3396632, + "step": 1723 + }, + { + "epoch": 0.22849569251159707, + "grad_norm": 5.4153032302856445, + "learning_rate": 4.9295301608144265e-06, + "loss": 0.1757, + "num_input_tokens_seen": 3398176, + "step": 1724 + }, + { + "epoch": 0.2286282306163022, + "grad_norm": 11.803627967834473, + "learning_rate": 4.929448297380292e-06, + "loss": 0.3344, + "num_input_tokens_seen": 3400112, + "step": 1725 + }, + { + "epoch": 0.22876076872100728, + "grad_norm": 16.858858108520508, + "learning_rate": 4.929366387104718e-06, + "loss": 0.3613, + "num_input_tokens_seen": 3402208, + "step": 1726 + }, + { + "epoch": 0.2288933068257124, + "grad_norm": 7.683289527893066, + "learning_rate": 4.929284429989284e-06, + "loss": 0.147, + "num_input_tokens_seen": 3404248, + "step": 1727 + }, + { + "epoch": 0.2290258449304175, + "grad_norm": 10.316078186035156, + "learning_rate": 4.929202426035571e-06, + "loss": 0.404, + "num_input_tokens_seen": 3406632, + "step": 1728 + }, + { + "epoch": 0.2291583830351226, + "grad_norm": 21.18628692626953, + "learning_rate": 4.929120375245159e-06, + "loss": 0.431, + "num_input_tokens_seen": 3407800, + "step": 1729 + }, + { + "epoch": 0.2292909211398277, + "grad_norm": 4.152615070343018, + "learning_rate": 4.9290382776196296e-06, + "loss": 0.0726, + "num_input_tokens_seen": 3409560, + "step": 1730 + }, + { + "epoch": 0.2294234592445328, + "grad_norm": 9.900524139404297, + "learning_rate": 4.9289561331605675e-06, + "loss": 0.3087, + "num_input_tokens_seen": 3411576, + "step": 1731 + }, + { + "epoch": 0.2295559973492379, + "grad_norm": 3.816608190536499, + "learning_rate": 4.928873941869555e-06, + "loss": 0.0217, + "num_input_tokens_seen": 3414272, + "step": 1732 + }, + { + "epoch": 0.22968853545394302, + "grad_norm": 2.1002542972564697, + "learning_rate": 4.928791703748178e-06, + "loss": 0.0123, + "num_input_tokens_seen": 3416040, + "step": 1733 + }, + { + "epoch": 0.22982107355864811, + "grad_norm": 10.384066581726074, + "learning_rate": 4.928709418798021e-06, + "loss": 0.2213, + "num_input_tokens_seen": 3417784, + "step": 1734 + }, + { + "epoch": 0.2299536116633532, + "grad_norm": 10.045069694519043, + "learning_rate": 4.928627087020671e-06, + "loss": 0.0981, + "num_input_tokens_seen": 3419456, + "step": 1735 + }, + { + "epoch": 0.23008614976805833, + "grad_norm": 13.13155460357666, + "learning_rate": 4.9285447084177154e-06, + "loss": 0.3302, + "num_input_tokens_seen": 3420992, + "step": 1736 + }, + { + "epoch": 0.23021868787276342, + "grad_norm": 6.180624008178711, + "learning_rate": 4.928462282990743e-06, + "loss": 0.1132, + "num_input_tokens_seen": 3422904, + "step": 1737 + }, + { + "epoch": 0.23035122597746852, + "grad_norm": 11.870166778564453, + "learning_rate": 4.928379810741341e-06, + "loss": 0.3498, + "num_input_tokens_seen": 3425440, + "step": 1738 + }, + { + "epoch": 0.23048376408217364, + "grad_norm": 17.951276779174805, + "learning_rate": 4.928297291671102e-06, + "loss": 0.4949, + "num_input_tokens_seen": 3427680, + "step": 1739 + }, + { + "epoch": 0.23061630218687873, + "grad_norm": 1.7743738889694214, + "learning_rate": 4.928214725781616e-06, + "loss": 0.01, + "num_input_tokens_seen": 3429736, + "step": 1740 + }, + { + "epoch": 0.23074884029158382, + "grad_norm": 15.868306159973145, + "learning_rate": 4.928132113074474e-06, + "loss": 0.461, + "num_input_tokens_seen": 3432912, + "step": 1741 + }, + { + "epoch": 0.23088137839628894, + "grad_norm": 20.072362899780273, + "learning_rate": 4.928049453551271e-06, + "loss": 0.6744, + "num_input_tokens_seen": 3435504, + "step": 1742 + }, + { + "epoch": 0.23101391650099404, + "grad_norm": 3.188154697418213, + "learning_rate": 4.927966747213599e-06, + "loss": 0.0202, + "num_input_tokens_seen": 3436688, + "step": 1743 + }, + { + "epoch": 0.23114645460569913, + "grad_norm": 6.160930156707764, + "learning_rate": 4.927883994063053e-06, + "loss": 0.1286, + "num_input_tokens_seen": 3438584, + "step": 1744 + }, + { + "epoch": 0.23127899271040425, + "grad_norm": 1.9092910289764404, + "learning_rate": 4.9278011941012284e-06, + "loss": 0.0086, + "num_input_tokens_seen": 3440608, + "step": 1745 + }, + { + "epoch": 0.23141153081510935, + "grad_norm": 1.3322649002075195, + "learning_rate": 4.927718347329723e-06, + "loss": 0.0072, + "num_input_tokens_seen": 3442448, + "step": 1746 + }, + { + "epoch": 0.23154406891981444, + "grad_norm": 6.96110200881958, + "learning_rate": 4.927635453750132e-06, + "loss": 0.2768, + "num_input_tokens_seen": 3444360, + "step": 1747 + }, + { + "epoch": 0.23167660702451956, + "grad_norm": 8.553160667419434, + "learning_rate": 4.927552513364056e-06, + "loss": 0.1197, + "num_input_tokens_seen": 3446264, + "step": 1748 + }, + { + "epoch": 0.23180914512922465, + "grad_norm": 0.1770925670862198, + "learning_rate": 4.927469526173092e-06, + "loss": 0.001, + "num_input_tokens_seen": 3448256, + "step": 1749 + }, + { + "epoch": 0.23194168323392975, + "grad_norm": 8.112807273864746, + "learning_rate": 4.92738649217884e-06, + "loss": 0.0655, + "num_input_tokens_seen": 3450152, + "step": 1750 + }, + { + "epoch": 0.23207422133863487, + "grad_norm": 20.28702735900879, + "learning_rate": 4.927303411382903e-06, + "loss": 0.4507, + "num_input_tokens_seen": 3452488, + "step": 1751 + }, + { + "epoch": 0.23220675944333996, + "grad_norm": 15.00679874420166, + "learning_rate": 4.927220283786882e-06, + "loss": 0.3254, + "num_input_tokens_seen": 3453624, + "step": 1752 + }, + { + "epoch": 0.23233929754804505, + "grad_norm": 5.46200704574585, + "learning_rate": 4.927137109392378e-06, + "loss": 0.0466, + "num_input_tokens_seen": 3457080, + "step": 1753 + }, + { + "epoch": 0.23247183565275018, + "grad_norm": 0.13290804624557495, + "learning_rate": 4.927053888200998e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3459176, + "step": 1754 + }, + { + "epoch": 0.23260437375745527, + "grad_norm": 8.002230644226074, + "learning_rate": 4.9269706202143435e-06, + "loss": 0.1621, + "num_input_tokens_seen": 3460944, + "step": 1755 + }, + { + "epoch": 0.23273691186216036, + "grad_norm": 30.684972763061523, + "learning_rate": 4.926887305434022e-06, + "loss": 0.303, + "num_input_tokens_seen": 3463560, + "step": 1756 + }, + { + "epoch": 0.23286944996686548, + "grad_norm": 4.7676005363464355, + "learning_rate": 4.926803943861638e-06, + "loss": 0.0179, + "num_input_tokens_seen": 3465872, + "step": 1757 + }, + { + "epoch": 0.23300198807157058, + "grad_norm": 0.5567274689674377, + "learning_rate": 4.9267205354988e-06, + "loss": 0.0023, + "num_input_tokens_seen": 3468184, + "step": 1758 + }, + { + "epoch": 0.23313452617627567, + "grad_norm": 7.913361549377441, + "learning_rate": 4.926637080347116e-06, + "loss": 0.3205, + "num_input_tokens_seen": 3470720, + "step": 1759 + }, + { + "epoch": 0.2332670642809808, + "grad_norm": 0.11509038507938385, + "learning_rate": 4.9265535784081965e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3472824, + "step": 1760 + }, + { + "epoch": 0.23339960238568588, + "grad_norm": 7.033679962158203, + "learning_rate": 4.9264700296836485e-06, + "loss": 0.0979, + "num_input_tokens_seen": 3474704, + "step": 1761 + }, + { + "epoch": 0.23353214049039098, + "grad_norm": 18.40431022644043, + "learning_rate": 4.926386434175085e-06, + "loss": 0.461, + "num_input_tokens_seen": 3476000, + "step": 1762 + }, + { + "epoch": 0.2336646785950961, + "grad_norm": 21.795299530029297, + "learning_rate": 4.926302791884116e-06, + "loss": 0.7161, + "num_input_tokens_seen": 3479176, + "step": 1763 + }, + { + "epoch": 0.2337972166998012, + "grad_norm": 15.102032661437988, + "learning_rate": 4.926219102812357e-06, + "loss": 0.3513, + "num_input_tokens_seen": 3482088, + "step": 1764 + }, + { + "epoch": 0.23392975480450628, + "grad_norm": 3.790903091430664, + "learning_rate": 4.926135366961419e-06, + "loss": 0.0399, + "num_input_tokens_seen": 3484120, + "step": 1765 + }, + { + "epoch": 0.2340622929092114, + "grad_norm": 19.174198150634766, + "learning_rate": 4.926051584332917e-06, + "loss": 0.4966, + "num_input_tokens_seen": 3486000, + "step": 1766 + }, + { + "epoch": 0.2341948310139165, + "grad_norm": 0.1310090869665146, + "learning_rate": 4.925967754928468e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3487392, + "step": 1767 + }, + { + "epoch": 0.2343273691186216, + "grad_norm": 9.813427925109863, + "learning_rate": 4.925883878749687e-06, + "loss": 0.0898, + "num_input_tokens_seen": 3489256, + "step": 1768 + }, + { + "epoch": 0.2344599072233267, + "grad_norm": 5.372792720794678, + "learning_rate": 4.92579995579819e-06, + "loss": 0.2185, + "num_input_tokens_seen": 3491352, + "step": 1769 + }, + { + "epoch": 0.2345924453280318, + "grad_norm": 8.608305931091309, + "learning_rate": 4.925715986075597e-06, + "loss": 0.2153, + "num_input_tokens_seen": 3492592, + "step": 1770 + }, + { + "epoch": 0.2347249834327369, + "grad_norm": 14.550671577453613, + "learning_rate": 4.925631969583526e-06, + "loss": 0.5905, + "num_input_tokens_seen": 3495672, + "step": 1771 + }, + { + "epoch": 0.23485752153744202, + "grad_norm": 18.621952056884766, + "learning_rate": 4.925547906323598e-06, + "loss": 0.3413, + "num_input_tokens_seen": 3497848, + "step": 1772 + }, + { + "epoch": 0.23499005964214711, + "grad_norm": 0.3151490390300751, + "learning_rate": 4.925463796297433e-06, + "loss": 0.0017, + "num_input_tokens_seen": 3499384, + "step": 1773 + }, + { + "epoch": 0.2351225977468522, + "grad_norm": 10.724369049072266, + "learning_rate": 4.9253796395066534e-06, + "loss": 0.0497, + "num_input_tokens_seen": 3501088, + "step": 1774 + }, + { + "epoch": 0.23525513585155733, + "grad_norm": 13.683547973632812, + "learning_rate": 4.92529543595288e-06, + "loss": 0.3988, + "num_input_tokens_seen": 3504152, + "step": 1775 + }, + { + "epoch": 0.23538767395626242, + "grad_norm": 0.2387828826904297, + "learning_rate": 4.925211185637738e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3505560, + "step": 1776 + }, + { + "epoch": 0.23552021206096752, + "grad_norm": 12.554303169250488, + "learning_rate": 4.9251268885628515e-06, + "loss": 0.1244, + "num_input_tokens_seen": 3507160, + "step": 1777 + }, + { + "epoch": 0.23565275016567264, + "grad_norm": 4.6954450607299805, + "learning_rate": 4.925042544729845e-06, + "loss": 0.0607, + "num_input_tokens_seen": 3509880, + "step": 1778 + }, + { + "epoch": 0.23578528827037773, + "grad_norm": 13.988066673278809, + "learning_rate": 4.924958154140345e-06, + "loss": 0.3042, + "num_input_tokens_seen": 3511384, + "step": 1779 + }, + { + "epoch": 0.23591782637508282, + "grad_norm": 0.21485891938209534, + "learning_rate": 4.924873716795979e-06, + "loss": 0.0012, + "num_input_tokens_seen": 3513256, + "step": 1780 + }, + { + "epoch": 0.23605036447978794, + "grad_norm": 8.725808143615723, + "learning_rate": 4.924789232698376e-06, + "loss": 0.1306, + "num_input_tokens_seen": 3514912, + "step": 1781 + }, + { + "epoch": 0.23618290258449304, + "grad_norm": 9.861848831176758, + "learning_rate": 4.924704701849164e-06, + "loss": 0.1018, + "num_input_tokens_seen": 3516800, + "step": 1782 + }, + { + "epoch": 0.23631544068919813, + "grad_norm": 9.570998191833496, + "learning_rate": 4.92462012424997e-06, + "loss": 0.129, + "num_input_tokens_seen": 3518384, + "step": 1783 + }, + { + "epoch": 0.23644797879390325, + "grad_norm": 18.63361930847168, + "learning_rate": 4.92453549990243e-06, + "loss": 0.3637, + "num_input_tokens_seen": 3520240, + "step": 1784 + }, + { + "epoch": 0.23658051689860835, + "grad_norm": 11.900542259216309, + "learning_rate": 4.924450828808172e-06, + "loss": 0.2691, + "num_input_tokens_seen": 3522072, + "step": 1785 + }, + { + "epoch": 0.23671305500331347, + "grad_norm": 0.7060779929161072, + "learning_rate": 4.924366110968829e-06, + "loss": 0.0038, + "num_input_tokens_seen": 3523424, + "step": 1786 + }, + { + "epoch": 0.23684559310801856, + "grad_norm": 22.841415405273438, + "learning_rate": 4.9242813463860364e-06, + "loss": 0.2523, + "num_input_tokens_seen": 3525408, + "step": 1787 + }, + { + "epoch": 0.23697813121272365, + "grad_norm": 16.0593318939209, + "learning_rate": 4.924196535061426e-06, + "loss": 0.4969, + "num_input_tokens_seen": 3527560, + "step": 1788 + }, + { + "epoch": 0.23711066931742877, + "grad_norm": 6.943134784698486, + "learning_rate": 4.924111676996634e-06, + "loss": 0.0958, + "num_input_tokens_seen": 3529648, + "step": 1789 + }, + { + "epoch": 0.23724320742213387, + "grad_norm": 0.562179446220398, + "learning_rate": 4.924026772193296e-06, + "loss": 0.0027, + "num_input_tokens_seen": 3532208, + "step": 1790 + }, + { + "epoch": 0.23737574552683896, + "grad_norm": 9.025856971740723, + "learning_rate": 4.923941820653051e-06, + "loss": 0.18, + "num_input_tokens_seen": 3533776, + "step": 1791 + }, + { + "epoch": 0.23750828363154408, + "grad_norm": 0.2391253411769867, + "learning_rate": 4.923856822377534e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3535928, + "step": 1792 + }, + { + "epoch": 0.23764082173624917, + "grad_norm": 8.657227516174316, + "learning_rate": 4.923771777368386e-06, + "loss": 0.0707, + "num_input_tokens_seen": 3537896, + "step": 1793 + }, + { + "epoch": 0.23777335984095427, + "grad_norm": 4.383547306060791, + "learning_rate": 4.923686685627246e-06, + "loss": 0.0313, + "num_input_tokens_seen": 3539320, + "step": 1794 + }, + { + "epoch": 0.2379058979456594, + "grad_norm": 1.466487169265747, + "learning_rate": 4.923601547155755e-06, + "loss": 0.0066, + "num_input_tokens_seen": 3540680, + "step": 1795 + }, + { + "epoch": 0.23803843605036448, + "grad_norm": 18.77025604248047, + "learning_rate": 4.923516361955554e-06, + "loss": 0.5952, + "num_input_tokens_seen": 3542800, + "step": 1796 + }, + { + "epoch": 0.23817097415506958, + "grad_norm": 14.198873519897461, + "learning_rate": 4.923431130028285e-06, + "loss": 0.5729, + "num_input_tokens_seen": 3545096, + "step": 1797 + }, + { + "epoch": 0.2383035122597747, + "grad_norm": 0.12466581910848618, + "learning_rate": 4.923345851375594e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3546304, + "step": 1798 + }, + { + "epoch": 0.2384360503644798, + "grad_norm": 0.03186096251010895, + "learning_rate": 4.923260525999122e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3548768, + "step": 1799 + }, + { + "epoch": 0.23856858846918488, + "grad_norm": 3.608673095703125, + "learning_rate": 4.923175153900514e-06, + "loss": 0.1196, + "num_input_tokens_seen": 3550696, + "step": 1800 + }, + { + "epoch": 0.23870112657389, + "grad_norm": 13.959561347961426, + "learning_rate": 4.9230897350814186e-06, + "loss": 0.3268, + "num_input_tokens_seen": 3552624, + "step": 1801 + }, + { + "epoch": 0.2388336646785951, + "grad_norm": 0.07867728918790817, + "learning_rate": 4.923004269543482e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3554024, + "step": 1802 + }, + { + "epoch": 0.2389662027833002, + "grad_norm": 0.03175168111920357, + "learning_rate": 4.9229187572883504e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3556216, + "step": 1803 + }, + { + "epoch": 0.2390987408880053, + "grad_norm": 7.483557224273682, + "learning_rate": 4.922833198317675e-06, + "loss": 0.1845, + "num_input_tokens_seen": 3558192, + "step": 1804 + }, + { + "epoch": 0.2392312789927104, + "grad_norm": 3.9855382442474365, + "learning_rate": 4.922747592633103e-06, + "loss": 0.1151, + "num_input_tokens_seen": 3559648, + "step": 1805 + }, + { + "epoch": 0.2393638170974155, + "grad_norm": 0.047177959233522415, + "learning_rate": 4.9226619402362865e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3560928, + "step": 1806 + }, + { + "epoch": 0.23949635520212062, + "grad_norm": 11.509875297546387, + "learning_rate": 4.922576241128877e-06, + "loss": 0.1308, + "num_input_tokens_seen": 3562592, + "step": 1807 + }, + { + "epoch": 0.2396288933068257, + "grad_norm": 16.34734344482422, + "learning_rate": 4.922490495312525e-06, + "loss": 0.2195, + "num_input_tokens_seen": 3564512, + "step": 1808 + }, + { + "epoch": 0.2397614314115308, + "grad_norm": 12.467219352722168, + "learning_rate": 4.922404702788886e-06, + "loss": 0.1308, + "num_input_tokens_seen": 3566200, + "step": 1809 + }, + { + "epoch": 0.23989396951623593, + "grad_norm": 10.48387622833252, + "learning_rate": 4.922318863559613e-06, + "loss": 0.2352, + "num_input_tokens_seen": 3567808, + "step": 1810 + }, + { + "epoch": 0.24002650762094102, + "grad_norm": 3.375532865524292, + "learning_rate": 4.922232977626361e-06, + "loss": 0.0192, + "num_input_tokens_seen": 3569400, + "step": 1811 + }, + { + "epoch": 0.24015904572564611, + "grad_norm": 0.07941216230392456, + "learning_rate": 4.922147044990787e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3570800, + "step": 1812 + }, + { + "epoch": 0.24029158383035124, + "grad_norm": 30.34292984008789, + "learning_rate": 4.922061065654547e-06, + "loss": 0.6347, + "num_input_tokens_seen": 3573368, + "step": 1813 + }, + { + "epoch": 0.24042412193505633, + "grad_norm": 3.300945997238159, + "learning_rate": 4.921975039619297e-06, + "loss": 0.0396, + "num_input_tokens_seen": 3574680, + "step": 1814 + }, + { + "epoch": 0.24055666003976142, + "grad_norm": 0.23001621663570404, + "learning_rate": 4.921888966886699e-06, + "loss": 0.0012, + "num_input_tokens_seen": 3575992, + "step": 1815 + }, + { + "epoch": 0.24068919814446654, + "grad_norm": 9.388580322265625, + "learning_rate": 4.92180284745841e-06, + "loss": 0.0612, + "num_input_tokens_seen": 3578264, + "step": 1816 + }, + { + "epoch": 0.24082173624917164, + "grad_norm": 10.528152465820312, + "learning_rate": 4.921716681336092e-06, + "loss": 0.2871, + "num_input_tokens_seen": 3580032, + "step": 1817 + }, + { + "epoch": 0.24095427435387673, + "grad_norm": 34.9313850402832, + "learning_rate": 4.921630468521406e-06, + "loss": 0.243, + "num_input_tokens_seen": 3583576, + "step": 1818 + }, + { + "epoch": 0.24108681245858185, + "grad_norm": 11.806851387023926, + "learning_rate": 4.921544209016014e-06, + "loss": 0.3089, + "num_input_tokens_seen": 3585168, + "step": 1819 + }, + { + "epoch": 0.24121935056328694, + "grad_norm": 14.904276847839355, + "learning_rate": 4.921457902821578e-06, + "loss": 0.3052, + "num_input_tokens_seen": 3587368, + "step": 1820 + }, + { + "epoch": 0.24135188866799204, + "grad_norm": 15.053776741027832, + "learning_rate": 4.9213715499397645e-06, + "loss": 0.262, + "num_input_tokens_seen": 3590160, + "step": 1821 + }, + { + "epoch": 0.24148442677269716, + "grad_norm": 18.164548873901367, + "learning_rate": 4.921285150372236e-06, + "loss": 0.591, + "num_input_tokens_seen": 3592048, + "step": 1822 + }, + { + "epoch": 0.24161696487740225, + "grad_norm": 13.959782600402832, + "learning_rate": 4.92119870412066e-06, + "loss": 0.2746, + "num_input_tokens_seen": 3594208, + "step": 1823 + }, + { + "epoch": 0.24174950298210734, + "grad_norm": 17.967731475830078, + "learning_rate": 4.921112211186703e-06, + "loss": 0.3412, + "num_input_tokens_seen": 3596640, + "step": 1824 + }, + { + "epoch": 0.24188204108681247, + "grad_norm": 0.15441210567951202, + "learning_rate": 4.9210256715720315e-06, + "loss": 0.0009, + "num_input_tokens_seen": 3598488, + "step": 1825 + }, + { + "epoch": 0.24201457919151756, + "grad_norm": 0.9628341197967529, + "learning_rate": 4.9209390852783155e-06, + "loss": 0.0046, + "num_input_tokens_seen": 3599624, + "step": 1826 + }, + { + "epoch": 0.24214711729622265, + "grad_norm": 14.651203155517578, + "learning_rate": 4.920852452307224e-06, + "loss": 0.2891, + "num_input_tokens_seen": 3602008, + "step": 1827 + }, + { + "epoch": 0.24227965540092777, + "grad_norm": 4.754458427429199, + "learning_rate": 4.920765772660426e-06, + "loss": 0.0363, + "num_input_tokens_seen": 3603712, + "step": 1828 + }, + { + "epoch": 0.24241219350563287, + "grad_norm": 14.206003189086914, + "learning_rate": 4.920679046339595e-06, + "loss": 0.4401, + "num_input_tokens_seen": 3606744, + "step": 1829 + }, + { + "epoch": 0.24254473161033796, + "grad_norm": 1.5548858642578125, + "learning_rate": 4.920592273346402e-06, + "loss": 0.0068, + "num_input_tokens_seen": 3609376, + "step": 1830 + }, + { + "epoch": 0.24267726971504308, + "grad_norm": 12.981927871704102, + "learning_rate": 4.92050545368252e-06, + "loss": 0.3457, + "num_input_tokens_seen": 3611648, + "step": 1831 + }, + { + "epoch": 0.24280980781974817, + "grad_norm": 0.07560261338949203, + "learning_rate": 4.920418587349622e-06, + "loss": 0.0005, + "num_input_tokens_seen": 3613488, + "step": 1832 + }, + { + "epoch": 0.24294234592445327, + "grad_norm": 1.855639100074768, + "learning_rate": 4.9203316743493855e-06, + "loss": 0.0124, + "num_input_tokens_seen": 3615760, + "step": 1833 + }, + { + "epoch": 0.2430748840291584, + "grad_norm": 37.005455017089844, + "learning_rate": 4.920244714683483e-06, + "loss": 0.1748, + "num_input_tokens_seen": 3617584, + "step": 1834 + }, + { + "epoch": 0.24320742213386348, + "grad_norm": 0.07631472498178482, + "learning_rate": 4.920157708353594e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3619216, + "step": 1835 + }, + { + "epoch": 0.24333996023856858, + "grad_norm": 32.240447998046875, + "learning_rate": 4.920070655361394e-06, + "loss": 0.6, + "num_input_tokens_seen": 3621344, + "step": 1836 + }, + { + "epoch": 0.2434724983432737, + "grad_norm": 4.75414514541626, + "learning_rate": 4.919983555708563e-06, + "loss": 0.0764, + "num_input_tokens_seen": 3623064, + "step": 1837 + }, + { + "epoch": 0.2436050364479788, + "grad_norm": 0.039452098309993744, + "learning_rate": 4.919896409396779e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3625264, + "step": 1838 + }, + { + "epoch": 0.24373757455268388, + "grad_norm": 2.0670645236968994, + "learning_rate": 4.919809216427723e-06, + "loss": 0.013, + "num_input_tokens_seen": 3626880, + "step": 1839 + }, + { + "epoch": 0.243870112657389, + "grad_norm": 0.031204301863908768, + "learning_rate": 4.919721976803076e-06, + "loss": 0.0002, + "num_input_tokens_seen": 3628840, + "step": 1840 + }, + { + "epoch": 0.2440026507620941, + "grad_norm": 0.0632593184709549, + "learning_rate": 4.91963469052452e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3631488, + "step": 1841 + }, + { + "epoch": 0.2441351888667992, + "grad_norm": 7.157535076141357, + "learning_rate": 4.919547357593738e-06, + "loss": 0.2211, + "num_input_tokens_seen": 3633320, + "step": 1842 + }, + { + "epoch": 0.2442677269715043, + "grad_norm": 5.95433235168457, + "learning_rate": 4.9194599780124145e-06, + "loss": 0.1283, + "num_input_tokens_seen": 3635992, + "step": 1843 + }, + { + "epoch": 0.2444002650762094, + "grad_norm": 28.20613670349121, + "learning_rate": 4.919372551782232e-06, + "loss": 0.9456, + "num_input_tokens_seen": 3638056, + "step": 1844 + }, + { + "epoch": 0.24453280318091453, + "grad_norm": 22.270618438720703, + "learning_rate": 4.9192850789048785e-06, + "loss": 0.6525, + "num_input_tokens_seen": 3640472, + "step": 1845 + }, + { + "epoch": 0.24466534128561962, + "grad_norm": 9.557283401489258, + "learning_rate": 4.919197559382039e-06, + "loss": 0.1512, + "num_input_tokens_seen": 3642552, + "step": 1846 + }, + { + "epoch": 0.2447978793903247, + "grad_norm": 0.05236904323101044, + "learning_rate": 4.919109993215403e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3644048, + "step": 1847 + }, + { + "epoch": 0.24493041749502983, + "grad_norm": 14.896482467651367, + "learning_rate": 4.919022380406657e-06, + "loss": 0.2717, + "num_input_tokens_seen": 3645704, + "step": 1848 + }, + { + "epoch": 0.24506295559973493, + "grad_norm": 0.045757632702589035, + "learning_rate": 4.91893472095749e-06, + "loss": 0.0003, + "num_input_tokens_seen": 3648448, + "step": 1849 + }, + { + "epoch": 0.24519549370444002, + "grad_norm": 7.438886642456055, + "learning_rate": 4.9188470148695936e-06, + "loss": 0.1148, + "num_input_tokens_seen": 3650144, + "step": 1850 + }, + { + "epoch": 0.24532803180914514, + "grad_norm": 14.617999076843262, + "learning_rate": 4.918759262144658e-06, + "loss": 0.1507, + "num_input_tokens_seen": 3653088, + "step": 1851 + }, + { + "epoch": 0.24546056991385024, + "grad_norm": 0.09754247963428497, + "learning_rate": 4.918671462784375e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3654768, + "step": 1852 + }, + { + "epoch": 0.24559310801855533, + "grad_norm": 0.06411875039339066, + "learning_rate": 4.918583616790438e-06, + "loss": 0.0004, + "num_input_tokens_seen": 3655920, + "step": 1853 + }, + { + "epoch": 0.24572564612326045, + "grad_norm": 17.208988189697266, + "learning_rate": 4.918495724164539e-06, + "loss": 0.6348, + "num_input_tokens_seen": 3658016, + "step": 1854 + }, + { + "epoch": 0.24585818422796554, + "grad_norm": 12.79676628112793, + "learning_rate": 4.9184077849083756e-06, + "loss": 0.4025, + "num_input_tokens_seen": 3659200, + "step": 1855 + }, + { + "epoch": 0.24599072233267064, + "grad_norm": 15.47212028503418, + "learning_rate": 4.918319799023641e-06, + "loss": 0.3718, + "num_input_tokens_seen": 3662184, + "step": 1856 + }, + { + "epoch": 0.24612326043737576, + "grad_norm": 7.295891284942627, + "learning_rate": 4.918231766512033e-06, + "loss": 0.4086, + "num_input_tokens_seen": 3664936, + "step": 1857 + }, + { + "epoch": 0.24625579854208085, + "grad_norm": 6.603776931762695, + "learning_rate": 4.918143687375248e-06, + "loss": 0.1973, + "num_input_tokens_seen": 3666792, + "step": 1858 + }, + { + "epoch": 0.24638833664678594, + "grad_norm": 12.235093116760254, + "learning_rate": 4.918055561614984e-06, + "loss": 0.3252, + "num_input_tokens_seen": 3669520, + "step": 1859 + }, + { + "epoch": 0.24652087475149106, + "grad_norm": 5.89321231842041, + "learning_rate": 4.91796738923294e-06, + "loss": 0.0646, + "num_input_tokens_seen": 3671104, + "step": 1860 + }, + { + "epoch": 0.24665341285619616, + "grad_norm": 26.585529327392578, + "learning_rate": 4.917879170230819e-06, + "loss": 1.3579, + "num_input_tokens_seen": 3672744, + "step": 1861 + }, + { + "epoch": 0.24678595096090125, + "grad_norm": 8.526714324951172, + "learning_rate": 4.9177909046103175e-06, + "loss": 0.2967, + "num_input_tokens_seen": 3674832, + "step": 1862 + }, + { + "epoch": 0.24691848906560637, + "grad_norm": 9.289690017700195, + "learning_rate": 4.9177025923731405e-06, + "loss": 0.284, + "num_input_tokens_seen": 3677432, + "step": 1863 + }, + { + "epoch": 0.24705102717031147, + "grad_norm": 1.7415971755981445, + "learning_rate": 4.917614233520988e-06, + "loss": 0.0105, + "num_input_tokens_seen": 3678936, + "step": 1864 + }, + { + "epoch": 0.24718356527501656, + "grad_norm": 11.623764991760254, + "learning_rate": 4.917525828055567e-06, + "loss": 0.2367, + "num_input_tokens_seen": 3681576, + "step": 1865 + }, + { + "epoch": 0.24731610337972168, + "grad_norm": 10.674825668334961, + "learning_rate": 4.91743737597858e-06, + "loss": 0.3292, + "num_input_tokens_seen": 3684800, + "step": 1866 + }, + { + "epoch": 0.24744864148442677, + "grad_norm": 25.170217514038086, + "learning_rate": 4.917348877291732e-06, + "loss": 0.6979, + "num_input_tokens_seen": 3686672, + "step": 1867 + }, + { + "epoch": 0.24758117958913187, + "grad_norm": 6.641921043395996, + "learning_rate": 4.9172603319967305e-06, + "loss": 0.0466, + "num_input_tokens_seen": 3689880, + "step": 1868 + }, + { + "epoch": 0.247713717693837, + "grad_norm": 11.338716506958008, + "learning_rate": 4.917171740095282e-06, + "loss": 0.168, + "num_input_tokens_seen": 3691768, + "step": 1869 + }, + { + "epoch": 0.24784625579854208, + "grad_norm": 6.881922721862793, + "learning_rate": 4.917083101589095e-06, + "loss": 0.1734, + "num_input_tokens_seen": 3693824, + "step": 1870 + }, + { + "epoch": 0.24797879390324717, + "grad_norm": 3.25223445892334, + "learning_rate": 4.916994416479879e-06, + "loss": 0.0699, + "num_input_tokens_seen": 3695640, + "step": 1871 + }, + { + "epoch": 0.2481113320079523, + "grad_norm": 7.841526985168457, + "learning_rate": 4.916905684769342e-06, + "loss": 0.0838, + "num_input_tokens_seen": 3697688, + "step": 1872 + }, + { + "epoch": 0.2482438701126574, + "grad_norm": 13.312283515930176, + "learning_rate": 4.916816906459197e-06, + "loss": 0.5383, + "num_input_tokens_seen": 3700360, + "step": 1873 + }, + { + "epoch": 0.24837640821736248, + "grad_norm": 11.762429237365723, + "learning_rate": 4.916728081551155e-06, + "loss": 0.3084, + "num_input_tokens_seen": 3702608, + "step": 1874 + }, + { + "epoch": 0.2485089463220676, + "grad_norm": 15.119577407836914, + "learning_rate": 4.9166392100469275e-06, + "loss": 0.4866, + "num_input_tokens_seen": 3704632, + "step": 1875 + }, + { + "epoch": 0.2486414844267727, + "grad_norm": 1.252411961555481, + "learning_rate": 4.916550291948229e-06, + "loss": 0.0078, + "num_input_tokens_seen": 3706016, + "step": 1876 + }, + { + "epoch": 0.2487740225314778, + "grad_norm": 28.945934295654297, + "learning_rate": 4.916461327256774e-06, + "loss": 0.9813, + "num_input_tokens_seen": 3708080, + "step": 1877 + }, + { + "epoch": 0.2489065606361829, + "grad_norm": 10.158907890319824, + "learning_rate": 4.916372315974277e-06, + "loss": 0.3053, + "num_input_tokens_seen": 3711008, + "step": 1878 + }, + { + "epoch": 0.249039098740888, + "grad_norm": 9.339791297912598, + "learning_rate": 4.916283258102455e-06, + "loss": 0.181, + "num_input_tokens_seen": 3712848, + "step": 1879 + }, + { + "epoch": 0.2491716368455931, + "grad_norm": 9.664850234985352, + "learning_rate": 4.916194153643026e-06, + "loss": 0.1581, + "num_input_tokens_seen": 3714368, + "step": 1880 + }, + { + "epoch": 0.24930417495029822, + "grad_norm": 2.597472667694092, + "learning_rate": 4.916105002597706e-06, + "loss": 0.0853, + "num_input_tokens_seen": 3716024, + "step": 1881 + }, + { + "epoch": 0.2494367130550033, + "grad_norm": 13.91226863861084, + "learning_rate": 4.916015804968215e-06, + "loss": 0.2494, + "num_input_tokens_seen": 3718872, + "step": 1882 + }, + { + "epoch": 0.2495692511597084, + "grad_norm": 11.05497932434082, + "learning_rate": 4.915926560756272e-06, + "loss": 0.2445, + "num_input_tokens_seen": 3720472, + "step": 1883 + }, + { + "epoch": 0.24970178926441353, + "grad_norm": 3.511528730392456, + "learning_rate": 4.915837269963599e-06, + "loss": 0.0094, + "num_input_tokens_seen": 3721960, + "step": 1884 + }, + { + "epoch": 0.24983432736911862, + "grad_norm": 8.397645950317383, + "learning_rate": 4.915747932591916e-06, + "loss": 0.0718, + "num_input_tokens_seen": 3724280, + "step": 1885 + }, + { + "epoch": 0.2499668654738237, + "grad_norm": 12.69995403289795, + "learning_rate": 4.915658548642947e-06, + "loss": 0.2206, + "num_input_tokens_seen": 3726112, + "step": 1886 + }, + { + "epoch": 0.25009940357852883, + "grad_norm": 3.728536605834961, + "learning_rate": 4.915569118118414e-06, + "loss": 0.0807, + "num_input_tokens_seen": 3727584, + "step": 1887 + }, + { + "epoch": 0.2502319416832339, + "grad_norm": 8.45195484161377, + "learning_rate": 4.9154796410200424e-06, + "loss": 0.247, + "num_input_tokens_seen": 3729936, + "step": 1888 + }, + { + "epoch": 0.250364479787939, + "grad_norm": 8.986550331115723, + "learning_rate": 4.915390117349558e-06, + "loss": 0.1091, + "num_input_tokens_seen": 3731496, + "step": 1889 + }, + { + "epoch": 0.2504970178926441, + "grad_norm": 17.828346252441406, + "learning_rate": 4.915300547108684e-06, + "loss": 0.5773, + "num_input_tokens_seen": 3734072, + "step": 1890 + }, + { + "epoch": 0.25062955599734926, + "grad_norm": 5.765731334686279, + "learning_rate": 4.9152109302991505e-06, + "loss": 0.0485, + "num_input_tokens_seen": 3736088, + "step": 1891 + }, + { + "epoch": 0.25076209410205436, + "grad_norm": 14.23884391784668, + "learning_rate": 4.915121266922684e-06, + "loss": 0.3383, + "num_input_tokens_seen": 3738456, + "step": 1892 + }, + { + "epoch": 0.25089463220675945, + "grad_norm": 0.36799290776252747, + "learning_rate": 4.9150315569810125e-06, + "loss": 0.0019, + "num_input_tokens_seen": 3740016, + "step": 1893 + }, + { + "epoch": 0.25102717031146454, + "grad_norm": 12.369023323059082, + "learning_rate": 4.9149418004758675e-06, + "loss": 0.3953, + "num_input_tokens_seen": 3741648, + "step": 1894 + }, + { + "epoch": 0.25115970841616964, + "grad_norm": 0.11495542526245117, + "learning_rate": 4.914851997408978e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3742952, + "step": 1895 + }, + { + "epoch": 0.25129224652087473, + "grad_norm": 12.457237243652344, + "learning_rate": 4.9147621477820765e-06, + "loss": 0.385, + "num_input_tokens_seen": 3744632, + "step": 1896 + }, + { + "epoch": 0.2514247846255799, + "grad_norm": 7.956409931182861, + "learning_rate": 4.914672251596895e-06, + "loss": 0.2395, + "num_input_tokens_seen": 3746336, + "step": 1897 + }, + { + "epoch": 0.25155732273028497, + "grad_norm": 21.85320472717285, + "learning_rate": 4.9145823088551654e-06, + "loss": 0.4798, + "num_input_tokens_seen": 3748816, + "step": 1898 + }, + { + "epoch": 0.25168986083499006, + "grad_norm": 0.10949128121137619, + "learning_rate": 4.914492319558625e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3751584, + "step": 1899 + }, + { + "epoch": 0.25182239893969516, + "grad_norm": 9.546878814697266, + "learning_rate": 4.914402283709005e-06, + "loss": 0.2836, + "num_input_tokens_seen": 3753312, + "step": 1900 + }, + { + "epoch": 0.25195493704440025, + "grad_norm": 4.9800124168396, + "learning_rate": 4.914312201308045e-06, + "loss": 0.1131, + "num_input_tokens_seen": 3754576, + "step": 1901 + }, + { + "epoch": 0.25208747514910534, + "grad_norm": 7.190089702606201, + "learning_rate": 4.91422207235748e-06, + "loss": 0.2296, + "num_input_tokens_seen": 3756480, + "step": 1902 + }, + { + "epoch": 0.2522200132538105, + "grad_norm": 2.693955421447754, + "learning_rate": 4.914131896859048e-06, + "loss": 0.0183, + "num_input_tokens_seen": 3758536, + "step": 1903 + }, + { + "epoch": 0.2523525513585156, + "grad_norm": 6.982316493988037, + "learning_rate": 4.914041674814487e-06, + "loss": 0.2071, + "num_input_tokens_seen": 3760376, + "step": 1904 + }, + { + "epoch": 0.2524850894632207, + "grad_norm": 17.749452590942383, + "learning_rate": 4.913951406225538e-06, + "loss": 0.3403, + "num_input_tokens_seen": 3761912, + "step": 1905 + }, + { + "epoch": 0.2526176275679258, + "grad_norm": 5.351406574249268, + "learning_rate": 4.913861091093939e-06, + "loss": 0.1225, + "num_input_tokens_seen": 3763664, + "step": 1906 + }, + { + "epoch": 0.25275016567263087, + "grad_norm": 1.302483081817627, + "learning_rate": 4.913770729421434e-06, + "loss": 0.0154, + "num_input_tokens_seen": 3765632, + "step": 1907 + }, + { + "epoch": 0.25288270377733596, + "grad_norm": 17.06321144104004, + "learning_rate": 4.9136803212097645e-06, + "loss": 0.4955, + "num_input_tokens_seen": 3767904, + "step": 1908 + }, + { + "epoch": 0.2530152418820411, + "grad_norm": 9.149087905883789, + "learning_rate": 4.9135898664606726e-06, + "loss": 0.2951, + "num_input_tokens_seen": 3769480, + "step": 1909 + }, + { + "epoch": 0.2531477799867462, + "grad_norm": 10.772250175476074, + "learning_rate": 4.913499365175903e-06, + "loss": 0.1489, + "num_input_tokens_seen": 3771184, + "step": 1910 + }, + { + "epoch": 0.2532803180914513, + "grad_norm": 8.179113388061523, + "learning_rate": 4.913408817357202e-06, + "loss": 0.2732, + "num_input_tokens_seen": 3772912, + "step": 1911 + }, + { + "epoch": 0.2534128561961564, + "grad_norm": 12.885571479797363, + "learning_rate": 4.913318223006313e-06, + "loss": 0.4088, + "num_input_tokens_seen": 3775336, + "step": 1912 + }, + { + "epoch": 0.2535453943008615, + "grad_norm": 4.166633129119873, + "learning_rate": 4.913227582124983e-06, + "loss": 0.0586, + "num_input_tokens_seen": 3777760, + "step": 1913 + }, + { + "epoch": 0.2536779324055666, + "grad_norm": 15.097594261169434, + "learning_rate": 4.913136894714962e-06, + "loss": 0.3176, + "num_input_tokens_seen": 3779112, + "step": 1914 + }, + { + "epoch": 0.2538104705102717, + "grad_norm": 40.72220230102539, + "learning_rate": 4.9130461607779955e-06, + "loss": 0.4155, + "num_input_tokens_seen": 3781096, + "step": 1915 + }, + { + "epoch": 0.2539430086149768, + "grad_norm": 7.796159744262695, + "learning_rate": 4.9129553803158354e-06, + "loss": 0.0957, + "num_input_tokens_seen": 3782632, + "step": 1916 + }, + { + "epoch": 0.2540755467196819, + "grad_norm": 12.889358520507812, + "learning_rate": 4.912864553330231e-06, + "loss": 0.2891, + "num_input_tokens_seen": 3785016, + "step": 1917 + }, + { + "epoch": 0.254208084824387, + "grad_norm": 18.439678192138672, + "learning_rate": 4.912773679822933e-06, + "loss": 0.623, + "num_input_tokens_seen": 3786720, + "step": 1918 + }, + { + "epoch": 0.2543406229290921, + "grad_norm": 7.719338893890381, + "learning_rate": 4.912682759795694e-06, + "loss": 0.0307, + "num_input_tokens_seen": 3788488, + "step": 1919 + }, + { + "epoch": 0.2544731610337972, + "grad_norm": 2.7555367946624756, + "learning_rate": 4.9125917932502664e-06, + "loss": 0.0279, + "num_input_tokens_seen": 3790992, + "step": 1920 + }, + { + "epoch": 0.25460569913850234, + "grad_norm": 0.22711621224880219, + "learning_rate": 4.912500780188405e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3792992, + "step": 1921 + }, + { + "epoch": 0.25473823724320743, + "grad_norm": 16.960533142089844, + "learning_rate": 4.912409720611865e-06, + "loss": 0.7691, + "num_input_tokens_seen": 3795288, + "step": 1922 + }, + { + "epoch": 0.2548707753479125, + "grad_norm": 8.18647575378418, + "learning_rate": 4.912318614522401e-06, + "loss": 0.2349, + "num_input_tokens_seen": 3797328, + "step": 1923 + }, + { + "epoch": 0.2550033134526176, + "grad_norm": 9.723200798034668, + "learning_rate": 4.912227461921771e-06, + "loss": 0.1876, + "num_input_tokens_seen": 3799688, + "step": 1924 + }, + { + "epoch": 0.2551358515573227, + "grad_norm": 14.271493911743164, + "learning_rate": 4.912136262811729e-06, + "loss": 0.3895, + "num_input_tokens_seen": 3801528, + "step": 1925 + }, + { + "epoch": 0.2552683896620278, + "grad_norm": 13.908578872680664, + "learning_rate": 4.912045017194037e-06, + "loss": 0.3838, + "num_input_tokens_seen": 3803216, + "step": 1926 + }, + { + "epoch": 0.25540092776673295, + "grad_norm": 12.45673656463623, + "learning_rate": 4.911953725070453e-06, + "loss": 0.4295, + "num_input_tokens_seen": 3804952, + "step": 1927 + }, + { + "epoch": 0.25553346587143805, + "grad_norm": 1.1298795938491821, + "learning_rate": 4.911862386442737e-06, + "loss": 0.0058, + "num_input_tokens_seen": 3806496, + "step": 1928 + }, + { + "epoch": 0.25566600397614314, + "grad_norm": 6.069340229034424, + "learning_rate": 4.911771001312651e-06, + "loss": 0.1139, + "num_input_tokens_seen": 3807616, + "step": 1929 + }, + { + "epoch": 0.25579854208084823, + "grad_norm": 6.994503498077393, + "learning_rate": 4.911679569681956e-06, + "loss": 0.09, + "num_input_tokens_seen": 3809480, + "step": 1930 + }, + { + "epoch": 0.25593108018555333, + "grad_norm": 10.260053634643555, + "learning_rate": 4.911588091552415e-06, + "loss": 0.1346, + "num_input_tokens_seen": 3811984, + "step": 1931 + }, + { + "epoch": 0.2560636182902585, + "grad_norm": 12.260746002197266, + "learning_rate": 4.9114965669257925e-06, + "loss": 0.3195, + "num_input_tokens_seen": 3814368, + "step": 1932 + }, + { + "epoch": 0.25619615639496357, + "grad_norm": 9.225576400756836, + "learning_rate": 4.911404995803853e-06, + "loss": 0.0865, + "num_input_tokens_seen": 3815864, + "step": 1933 + }, + { + "epoch": 0.25632869449966866, + "grad_norm": 12.727394104003906, + "learning_rate": 4.9113133781883606e-06, + "loss": 0.4504, + "num_input_tokens_seen": 3817632, + "step": 1934 + }, + { + "epoch": 0.25646123260437376, + "grad_norm": 2.2808163166046143, + "learning_rate": 4.9112217140810825e-06, + "loss": 0.0604, + "num_input_tokens_seen": 3819656, + "step": 1935 + }, + { + "epoch": 0.25659377070907885, + "grad_norm": 0.3402206301689148, + "learning_rate": 4.911130003483787e-06, + "loss": 0.002, + "num_input_tokens_seen": 3822264, + "step": 1936 + }, + { + "epoch": 0.25672630881378394, + "grad_norm": 10.273092269897461, + "learning_rate": 4.911038246398241e-06, + "loss": 0.4197, + "num_input_tokens_seen": 3824408, + "step": 1937 + }, + { + "epoch": 0.2568588469184891, + "grad_norm": 0.31295084953308105, + "learning_rate": 4.910946442826216e-06, + "loss": 0.0018, + "num_input_tokens_seen": 3825968, + "step": 1938 + }, + { + "epoch": 0.2569913850231942, + "grad_norm": 6.330104827880859, + "learning_rate": 4.910854592769478e-06, + "loss": 0.2035, + "num_input_tokens_seen": 3827640, + "step": 1939 + }, + { + "epoch": 0.2571239231278993, + "grad_norm": 11.184147834777832, + "learning_rate": 4.9107626962298016e-06, + "loss": 0.1846, + "num_input_tokens_seen": 3829360, + "step": 1940 + }, + { + "epoch": 0.25725646123260437, + "grad_norm": 9.858233451843262, + "learning_rate": 4.9106707532089575e-06, + "loss": 0.2018, + "num_input_tokens_seen": 3831088, + "step": 1941 + }, + { + "epoch": 0.25738899933730947, + "grad_norm": 11.623895645141602, + "learning_rate": 4.910578763708718e-06, + "loss": 0.2234, + "num_input_tokens_seen": 3832816, + "step": 1942 + }, + { + "epoch": 0.25752153744201456, + "grad_norm": 12.907204627990723, + "learning_rate": 4.910486727730857e-06, + "loss": 0.4126, + "num_input_tokens_seen": 3834784, + "step": 1943 + }, + { + "epoch": 0.2576540755467197, + "grad_norm": 5.1612677574157715, + "learning_rate": 4.910394645277149e-06, + "loss": 0.0667, + "num_input_tokens_seen": 3836376, + "step": 1944 + }, + { + "epoch": 0.2577866136514248, + "grad_norm": 0.10249636322259903, + "learning_rate": 4.9103025163493685e-06, + "loss": 0.0006, + "num_input_tokens_seen": 3838704, + "step": 1945 + }, + { + "epoch": 0.2579191517561299, + "grad_norm": 14.6361083984375, + "learning_rate": 4.910210340949294e-06, + "loss": 0.4059, + "num_input_tokens_seen": 3840832, + "step": 1946 + }, + { + "epoch": 0.258051689860835, + "grad_norm": 0.15117675065994263, + "learning_rate": 4.9101181190787e-06, + "loss": 0.0009, + "num_input_tokens_seen": 3842512, + "step": 1947 + }, + { + "epoch": 0.2581842279655401, + "grad_norm": 0.2026304006576538, + "learning_rate": 4.910025850739367e-06, + "loss": 0.0011, + "num_input_tokens_seen": 3846128, + "step": 1948 + }, + { + "epoch": 0.2583167660702452, + "grad_norm": 2.1146724224090576, + "learning_rate": 4.909933535933073e-06, + "loss": 0.0112, + "num_input_tokens_seen": 3847960, + "step": 1949 + }, + { + "epoch": 0.2584493041749503, + "grad_norm": 9.959967613220215, + "learning_rate": 4.9098411746615984e-06, + "loss": 0.2864, + "num_input_tokens_seen": 3849072, + "step": 1950 + }, + { + "epoch": 0.2585818422796554, + "grad_norm": 24.567041397094727, + "learning_rate": 4.909748766926723e-06, + "loss": 0.6826, + "num_input_tokens_seen": 3851248, + "step": 1951 + }, + { + "epoch": 0.2587143803843605, + "grad_norm": 17.398883819580078, + "learning_rate": 4.9096563127302285e-06, + "loss": 0.5278, + "num_input_tokens_seen": 3853160, + "step": 1952 + }, + { + "epoch": 0.2588469184890656, + "grad_norm": 6.31428861618042, + "learning_rate": 4.9095638120738985e-06, + "loss": 0.1567, + "num_input_tokens_seen": 3855008, + "step": 1953 + }, + { + "epoch": 0.2589794565937707, + "grad_norm": 15.87155532836914, + "learning_rate": 4.909471264959516e-06, + "loss": 0.5319, + "num_input_tokens_seen": 3858176, + "step": 1954 + }, + { + "epoch": 0.2591119946984758, + "grad_norm": 9.704957008361816, + "learning_rate": 4.9093786713888645e-06, + "loss": 0.2225, + "num_input_tokens_seen": 3860592, + "step": 1955 + }, + { + "epoch": 0.25924453280318094, + "grad_norm": 0.11763802915811539, + "learning_rate": 4.909286031363732e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3862344, + "step": 1956 + }, + { + "epoch": 0.25937707090788603, + "grad_norm": 10.972003936767578, + "learning_rate": 4.909193344885901e-06, + "loss": 0.4619, + "num_input_tokens_seen": 3864912, + "step": 1957 + }, + { + "epoch": 0.2595096090125911, + "grad_norm": 9.863266944885254, + "learning_rate": 4.909100611957161e-06, + "loss": 0.3023, + "num_input_tokens_seen": 3867264, + "step": 1958 + }, + { + "epoch": 0.2596421471172962, + "grad_norm": 0.11831197142601013, + "learning_rate": 4.909007832579298e-06, + "loss": 0.0007, + "num_input_tokens_seen": 3869680, + "step": 1959 + }, + { + "epoch": 0.2597746852220013, + "grad_norm": 12.972223281860352, + "learning_rate": 4.908915006754103e-06, + "loss": 0.1185, + "num_input_tokens_seen": 3871672, + "step": 1960 + }, + { + "epoch": 0.2599072233267064, + "grad_norm": 13.743368148803711, + "learning_rate": 4.908822134483365e-06, + "loss": 0.3367, + "num_input_tokens_seen": 3873832, + "step": 1961 + }, + { + "epoch": 0.26003976143141155, + "grad_norm": 11.24937915802002, + "learning_rate": 4.9087292157688746e-06, + "loss": 0.3837, + "num_input_tokens_seen": 3875624, + "step": 1962 + }, + { + "epoch": 0.26017229953611665, + "grad_norm": 0.17184431850910187, + "learning_rate": 4.9086362506124225e-06, + "loss": 0.001, + "num_input_tokens_seen": 3877032, + "step": 1963 + }, + { + "epoch": 0.26030483764082174, + "grad_norm": 7.578049182891846, + "learning_rate": 4.908543239015803e-06, + "loss": 0.2223, + "num_input_tokens_seen": 3878856, + "step": 1964 + }, + { + "epoch": 0.26043737574552683, + "grad_norm": 0.7672553062438965, + "learning_rate": 4.908450180980807e-06, + "loss": 0.004, + "num_input_tokens_seen": 3880856, + "step": 1965 + }, + { + "epoch": 0.2605699138502319, + "grad_norm": 1.161653757095337, + "learning_rate": 4.90835707650923e-06, + "loss": 0.0063, + "num_input_tokens_seen": 3882016, + "step": 1966 + }, + { + "epoch": 0.260702451954937, + "grad_norm": 4.956658363342285, + "learning_rate": 4.9082639256028685e-06, + "loss": 0.0973, + "num_input_tokens_seen": 3883800, + "step": 1967 + }, + { + "epoch": 0.26083499005964217, + "grad_norm": 15.792479515075684, + "learning_rate": 4.908170728263516e-06, + "loss": 0.4463, + "num_input_tokens_seen": 3885608, + "step": 1968 + }, + { + "epoch": 0.26096752816434726, + "grad_norm": 19.68912696838379, + "learning_rate": 4.908077484492971e-06, + "loss": 0.8024, + "num_input_tokens_seen": 3888384, + "step": 1969 + }, + { + "epoch": 0.26110006626905236, + "grad_norm": 3.058600902557373, + "learning_rate": 4.9079841942930305e-06, + "loss": 0.0376, + "num_input_tokens_seen": 3890992, + "step": 1970 + }, + { + "epoch": 0.26123260437375745, + "grad_norm": 12.606821060180664, + "learning_rate": 4.907890857665494e-06, + "loss": 0.2474, + "num_input_tokens_seen": 3893296, + "step": 1971 + }, + { + "epoch": 0.26136514247846254, + "grad_norm": 5.281127452850342, + "learning_rate": 4.907797474612161e-06, + "loss": 0.0709, + "num_input_tokens_seen": 3895184, + "step": 1972 + }, + { + "epoch": 0.26149768058316764, + "grad_norm": 5.009737491607666, + "learning_rate": 4.9077040451348305e-06, + "loss": 0.1491, + "num_input_tokens_seen": 3897360, + "step": 1973 + }, + { + "epoch": 0.2616302186878728, + "grad_norm": 12.964507102966309, + "learning_rate": 4.907610569235306e-06, + "loss": 0.3012, + "num_input_tokens_seen": 3899448, + "step": 1974 + }, + { + "epoch": 0.2617627567925779, + "grad_norm": 8.432779312133789, + "learning_rate": 4.907517046915388e-06, + "loss": 0.2229, + "num_input_tokens_seen": 3900984, + "step": 1975 + }, + { + "epoch": 0.26189529489728297, + "grad_norm": 0.20178042352199554, + "learning_rate": 4.907423478176881e-06, + "loss": 0.0012, + "num_input_tokens_seen": 3902744, + "step": 1976 + }, + { + "epoch": 0.26202783300198806, + "grad_norm": 0.16021206974983215, + "learning_rate": 4.907329863021588e-06, + "loss": 0.001, + "num_input_tokens_seen": 3904720, + "step": 1977 + }, + { + "epoch": 0.26216037110669316, + "grad_norm": 12.543532371520996, + "learning_rate": 4.907236201451315e-06, + "loss": 0.339, + "num_input_tokens_seen": 3906160, + "step": 1978 + }, + { + "epoch": 0.26229290921139825, + "grad_norm": 8.385379791259766, + "learning_rate": 4.907142493467868e-06, + "loss": 0.1689, + "num_input_tokens_seen": 3908896, + "step": 1979 + }, + { + "epoch": 0.2624254473161034, + "grad_norm": 18.749778747558594, + "learning_rate": 4.907048739073052e-06, + "loss": 0.4735, + "num_input_tokens_seen": 3911168, + "step": 1980 + }, + { + "epoch": 0.2625579854208085, + "grad_norm": 21.68638038635254, + "learning_rate": 4.906954938268677e-06, + "loss": 0.612, + "num_input_tokens_seen": 3913688, + "step": 1981 + }, + { + "epoch": 0.2626905235255136, + "grad_norm": 0.528471052646637, + "learning_rate": 4.906861091056549e-06, + "loss": 0.0033, + "num_input_tokens_seen": 3914864, + "step": 1982 + }, + { + "epoch": 0.2628230616302187, + "grad_norm": 10.204917907714844, + "learning_rate": 4.906767197438479e-06, + "loss": 0.2666, + "num_input_tokens_seen": 3916760, + "step": 1983 + }, + { + "epoch": 0.2629555997349238, + "grad_norm": 11.734451293945312, + "learning_rate": 4.9066732574162776e-06, + "loss": 0.2295, + "num_input_tokens_seen": 3918712, + "step": 1984 + }, + { + "epoch": 0.26308813783962887, + "grad_norm": 0.8257302641868591, + "learning_rate": 4.906579270991755e-06, + "loss": 0.0034, + "num_input_tokens_seen": 3920976, + "step": 1985 + }, + { + "epoch": 0.263220675944334, + "grad_norm": 0.7100668549537659, + "learning_rate": 4.9064852381667244e-06, + "loss": 0.0044, + "num_input_tokens_seen": 3922544, + "step": 1986 + }, + { + "epoch": 0.2633532140490391, + "grad_norm": 7.989956378936768, + "learning_rate": 4.906391158942998e-06, + "loss": 0.1863, + "num_input_tokens_seen": 3924408, + "step": 1987 + }, + { + "epoch": 0.2634857521537442, + "grad_norm": 0.2879713475704193, + "learning_rate": 4.90629703332239e-06, + "loss": 0.0016, + "num_input_tokens_seen": 3926432, + "step": 1988 + }, + { + "epoch": 0.2636182902584493, + "grad_norm": 5.889092445373535, + "learning_rate": 4.906202861306715e-06, + "loss": 0.1722, + "num_input_tokens_seen": 3928160, + "step": 1989 + }, + { + "epoch": 0.2637508283631544, + "grad_norm": 9.483233451843262, + "learning_rate": 4.906108642897789e-06, + "loss": 0.1704, + "num_input_tokens_seen": 3929600, + "step": 1990 + }, + { + "epoch": 0.26388336646785954, + "grad_norm": 21.586238861083984, + "learning_rate": 4.906014378097429e-06, + "loss": 0.5517, + "num_input_tokens_seen": 3932624, + "step": 1991 + }, + { + "epoch": 0.26401590457256463, + "grad_norm": 12.82308578491211, + "learning_rate": 4.905920066907451e-06, + "loss": 0.2326, + "num_input_tokens_seen": 3934672, + "step": 1992 + }, + { + "epoch": 0.2641484426772697, + "grad_norm": 11.597251892089844, + "learning_rate": 4.905825709329674e-06, + "loss": 0.2367, + "num_input_tokens_seen": 3936400, + "step": 1993 + }, + { + "epoch": 0.2642809807819748, + "grad_norm": 15.270519256591797, + "learning_rate": 4.90573130536592e-06, + "loss": 0.2457, + "num_input_tokens_seen": 3938048, + "step": 1994 + }, + { + "epoch": 0.2644135188866799, + "grad_norm": 0.1481652706861496, + "learning_rate": 4.905636855018004e-06, + "loss": 0.0009, + "num_input_tokens_seen": 3939608, + "step": 1995 + }, + { + "epoch": 0.264546056991385, + "grad_norm": 11.909150123596191, + "learning_rate": 4.905542358287751e-06, + "loss": 0.376, + "num_input_tokens_seen": 3941472, + "step": 1996 + }, + { + "epoch": 0.26467859509609015, + "grad_norm": 0.2123836874961853, + "learning_rate": 4.9054478151769824e-06, + "loss": 0.0013, + "num_input_tokens_seen": 3943160, + "step": 1997 + }, + { + "epoch": 0.26481113320079525, + "grad_norm": 16.624813079833984, + "learning_rate": 4.90535322568752e-06, + "loss": 0.2058, + "num_input_tokens_seen": 3945496, + "step": 1998 + }, + { + "epoch": 0.26494367130550034, + "grad_norm": 7.588615417480469, + "learning_rate": 4.905258589821188e-06, + "loss": 0.0763, + "num_input_tokens_seen": 3949272, + "step": 1999 + }, + { + "epoch": 0.26507620941020543, + "grad_norm": 8.724717140197754, + "learning_rate": 4.9051639075798115e-06, + "loss": 0.2393, + "num_input_tokens_seen": 3951376, + "step": 2000 + }, + { + "epoch": 0.2652087475149105, + "grad_norm": 2.962209701538086, + "learning_rate": 4.905069178965215e-06, + "loss": 0.0286, + "num_input_tokens_seen": 3953696, + "step": 2001 + }, + { + "epoch": 0.2653412856196156, + "grad_norm": 9.51966667175293, + "learning_rate": 4.904974403979226e-06, + "loss": 0.1367, + "num_input_tokens_seen": 3956088, + "step": 2002 + }, + { + "epoch": 0.26547382372432077, + "grad_norm": 14.170860290527344, + "learning_rate": 4.904879582623671e-06, + "loss": 0.2694, + "num_input_tokens_seen": 3958344, + "step": 2003 + }, + { + "epoch": 0.26560636182902586, + "grad_norm": 14.364133834838867, + "learning_rate": 4.904784714900379e-06, + "loss": 0.4111, + "num_input_tokens_seen": 3961544, + "step": 2004 + }, + { + "epoch": 0.26573889993373095, + "grad_norm": 11.268760681152344, + "learning_rate": 4.904689800811179e-06, + "loss": 0.1794, + "num_input_tokens_seen": 3963936, + "step": 2005 + }, + { + "epoch": 0.26587143803843605, + "grad_norm": 5.095663070678711, + "learning_rate": 4.904594840357901e-06, + "loss": 0.0296, + "num_input_tokens_seen": 3965264, + "step": 2006 + }, + { + "epoch": 0.26600397614314114, + "grad_norm": 0.5969743132591248, + "learning_rate": 4.904499833542374e-06, + "loss": 0.0031, + "num_input_tokens_seen": 3967416, + "step": 2007 + }, + { + "epoch": 0.26613651424784623, + "grad_norm": 6.687586307525635, + "learning_rate": 4.9044047803664315e-06, + "loss": 0.1079, + "num_input_tokens_seen": 3969912, + "step": 2008 + }, + { + "epoch": 0.2662690523525514, + "grad_norm": 16.669143676757812, + "learning_rate": 4.904309680831908e-06, + "loss": 0.1944, + "num_input_tokens_seen": 3972248, + "step": 2009 + }, + { + "epoch": 0.2664015904572565, + "grad_norm": 15.311866760253906, + "learning_rate": 4.9042145349406335e-06, + "loss": 0.4541, + "num_input_tokens_seen": 3973952, + "step": 2010 + }, + { + "epoch": 0.26653412856196157, + "grad_norm": 0.25193893909454346, + "learning_rate": 4.904119342694445e-06, + "loss": 0.0015, + "num_input_tokens_seen": 3975472, + "step": 2011 + }, + { + "epoch": 0.26666666666666666, + "grad_norm": 21.174386978149414, + "learning_rate": 4.904024104095178e-06, + "loss": 0.6547, + "num_input_tokens_seen": 3977736, + "step": 2012 + }, + { + "epoch": 0.26679920477137176, + "grad_norm": 0.1642005443572998, + "learning_rate": 4.903928819144666e-06, + "loss": 0.001, + "num_input_tokens_seen": 3979552, + "step": 2013 + }, + { + "epoch": 0.26693174287607685, + "grad_norm": 0.40174320340156555, + "learning_rate": 4.903833487844749e-06, + "loss": 0.0016, + "num_input_tokens_seen": 3980760, + "step": 2014 + }, + { + "epoch": 0.267064280980782, + "grad_norm": 0.2936193645000458, + "learning_rate": 4.9037381101972635e-06, + "loss": 0.0014, + "num_input_tokens_seen": 3983176, + "step": 2015 + }, + { + "epoch": 0.2671968190854871, + "grad_norm": 9.621676445007324, + "learning_rate": 4.9036426862040485e-06, + "loss": 0.3425, + "num_input_tokens_seen": 3984360, + "step": 2016 + }, + { + "epoch": 0.2673293571901922, + "grad_norm": 5.5126051902771, + "learning_rate": 4.903547215866945e-06, + "loss": 0.1968, + "num_input_tokens_seen": 3986088, + "step": 2017 + }, + { + "epoch": 0.2674618952948973, + "grad_norm": 18.312286376953125, + "learning_rate": 4.903451699187793e-06, + "loss": 0.5361, + "num_input_tokens_seen": 3988456, + "step": 2018 + }, + { + "epoch": 0.26759443339960237, + "grad_norm": 3.170588970184326, + "learning_rate": 4.903356136168435e-06, + "loss": 0.0197, + "num_input_tokens_seen": 3990216, + "step": 2019 + }, + { + "epoch": 0.26772697150430746, + "grad_norm": 15.552123069763184, + "learning_rate": 4.903260526810712e-06, + "loss": 0.4036, + "num_input_tokens_seen": 3992712, + "step": 2020 + }, + { + "epoch": 0.2678595096090126, + "grad_norm": 11.448805809020996, + "learning_rate": 4.903164871116468e-06, + "loss": 0.553, + "num_input_tokens_seen": 3996408, + "step": 2021 + }, + { + "epoch": 0.2679920477137177, + "grad_norm": 5.961345195770264, + "learning_rate": 4.903069169087548e-06, + "loss": 0.0658, + "num_input_tokens_seen": 3999040, + "step": 2022 + }, + { + "epoch": 0.2681245858184228, + "grad_norm": 8.351921081542969, + "learning_rate": 4.902973420725796e-06, + "loss": 0.0991, + "num_input_tokens_seen": 4000824, + "step": 2023 + }, + { + "epoch": 0.2682571239231279, + "grad_norm": 11.373915672302246, + "learning_rate": 4.902877626033059e-06, + "loss": 0.1192, + "num_input_tokens_seen": 4003128, + "step": 2024 + }, + { + "epoch": 0.268389662027833, + "grad_norm": 6.572281360626221, + "learning_rate": 4.9027817850111836e-06, + "loss": 0.0607, + "num_input_tokens_seen": 4004656, + "step": 2025 + }, + { + "epoch": 0.2685222001325381, + "grad_norm": 16.788888931274414, + "learning_rate": 4.902685897662017e-06, + "loss": 0.4096, + "num_input_tokens_seen": 4006128, + "step": 2026 + }, + { + "epoch": 0.26865473823724323, + "grad_norm": 7.543140411376953, + "learning_rate": 4.90258996398741e-06, + "loss": 0.193, + "num_input_tokens_seen": 4008552, + "step": 2027 + }, + { + "epoch": 0.2687872763419483, + "grad_norm": 16.228511810302734, + "learning_rate": 4.902493983989211e-06, + "loss": 0.3381, + "num_input_tokens_seen": 4010688, + "step": 2028 + }, + { + "epoch": 0.2689198144466534, + "grad_norm": 9.006682395935059, + "learning_rate": 4.9023979576692695e-06, + "loss": 0.2154, + "num_input_tokens_seen": 4012280, + "step": 2029 + }, + { + "epoch": 0.2690523525513585, + "grad_norm": 8.267720222473145, + "learning_rate": 4.902301885029439e-06, + "loss": 0.154, + "num_input_tokens_seen": 4014384, + "step": 2030 + }, + { + "epoch": 0.2691848906560636, + "grad_norm": 5.125559329986572, + "learning_rate": 4.90220576607157e-06, + "loss": 0.1735, + "num_input_tokens_seen": 4015936, + "step": 2031 + }, + { + "epoch": 0.2693174287607687, + "grad_norm": 0.15806277096271515, + "learning_rate": 4.902109600797518e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4018200, + "step": 2032 + }, + { + "epoch": 0.26944996686547384, + "grad_norm": 0.2320534735918045, + "learning_rate": 4.902013389209135e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4020664, + "step": 2033 + }, + { + "epoch": 0.26958250497017894, + "grad_norm": 0.22386534512043, + "learning_rate": 4.901917131308277e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4022096, + "step": 2034 + }, + { + "epoch": 0.26971504307488403, + "grad_norm": 8.560279846191406, + "learning_rate": 4.9018208270967994e-06, + "loss": 0.2377, + "num_input_tokens_seen": 4023784, + "step": 2035 + }, + { + "epoch": 0.2698475811795891, + "grad_norm": 16.491777420043945, + "learning_rate": 4.9017244765765595e-06, + "loss": 0.1779, + "num_input_tokens_seen": 4025784, + "step": 2036 + }, + { + "epoch": 0.2699801192842942, + "grad_norm": 10.388203620910645, + "learning_rate": 4.901628079749415e-06, + "loss": 0.1628, + "num_input_tokens_seen": 4028192, + "step": 2037 + }, + { + "epoch": 0.2701126573889993, + "grad_norm": 0.5208950638771057, + "learning_rate": 4.901531636617224e-06, + "loss": 0.0028, + "num_input_tokens_seen": 4029360, + "step": 2038 + }, + { + "epoch": 0.27024519549370446, + "grad_norm": 0.661808967590332, + "learning_rate": 4.901435147181846e-06, + "loss": 0.0032, + "num_input_tokens_seen": 4031104, + "step": 2039 + }, + { + "epoch": 0.27037773359840955, + "grad_norm": 19.85924530029297, + "learning_rate": 4.9013386114451425e-06, + "loss": 0.2914, + "num_input_tokens_seen": 4033824, + "step": 2040 + }, + { + "epoch": 0.27051027170311465, + "grad_norm": 12.537938117980957, + "learning_rate": 4.901242029408973e-06, + "loss": 0.2449, + "num_input_tokens_seen": 4035280, + "step": 2041 + }, + { + "epoch": 0.27064280980781974, + "grad_norm": 13.15445327758789, + "learning_rate": 4.9011454010752015e-06, + "loss": 0.2494, + "num_input_tokens_seen": 4037048, + "step": 2042 + }, + { + "epoch": 0.27077534791252483, + "grad_norm": 1.1507568359375, + "learning_rate": 4.901048726445689e-06, + "loss": 0.0026, + "num_input_tokens_seen": 4038760, + "step": 2043 + }, + { + "epoch": 0.2709078860172299, + "grad_norm": 0.09718719869852066, + "learning_rate": 4.900952005522302e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4040496, + "step": 2044 + }, + { + "epoch": 0.2710404241219351, + "grad_norm": 21.779573440551758, + "learning_rate": 4.900855238306904e-06, + "loss": 0.6145, + "num_input_tokens_seen": 4042480, + "step": 2045 + }, + { + "epoch": 0.27117296222664017, + "grad_norm": 15.950552940368652, + "learning_rate": 4.900758424801361e-06, + "loss": 0.3946, + "num_input_tokens_seen": 4044376, + "step": 2046 + }, + { + "epoch": 0.27130550033134526, + "grad_norm": 4.705066204071045, + "learning_rate": 4.900661565007538e-06, + "loss": 0.0815, + "num_input_tokens_seen": 4045880, + "step": 2047 + }, + { + "epoch": 0.27143803843605036, + "grad_norm": 5.091487884521484, + "learning_rate": 4.900564658927305e-06, + "loss": 0.1412, + "num_input_tokens_seen": 4047608, + "step": 2048 + }, + { + "epoch": 0.27157057654075545, + "grad_norm": 0.09139948338270187, + "learning_rate": 4.9004677065625284e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4049224, + "step": 2049 + }, + { + "epoch": 0.2717031146454606, + "grad_norm": 11.605480194091797, + "learning_rate": 4.900370707915079e-06, + "loss": 0.1594, + "num_input_tokens_seen": 4051216, + "step": 2050 + }, + { + "epoch": 0.2718356527501657, + "grad_norm": 16.284513473510742, + "learning_rate": 4.900273662986826e-06, + "loss": 0.2195, + "num_input_tokens_seen": 4052832, + "step": 2051 + }, + { + "epoch": 0.2719681908548708, + "grad_norm": 0.07736451923847198, + "learning_rate": 4.900176571779642e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4054304, + "step": 2052 + }, + { + "epoch": 0.2721007289595759, + "grad_norm": 0.070550337433815, + "learning_rate": 4.900079434295397e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4055520, + "step": 2053 + }, + { + "epoch": 0.27223326706428097, + "grad_norm": 20.032869338989258, + "learning_rate": 4.8999822505359655e-06, + "loss": 0.4176, + "num_input_tokens_seen": 4056880, + "step": 2054 + }, + { + "epoch": 0.27236580516898606, + "grad_norm": 8.376030921936035, + "learning_rate": 4.8998850205032195e-06, + "loss": 0.1885, + "num_input_tokens_seen": 4059520, + "step": 2055 + }, + { + "epoch": 0.2724983432736912, + "grad_norm": 10.103906631469727, + "learning_rate": 4.899787744199035e-06, + "loss": 0.2957, + "num_input_tokens_seen": 4062776, + "step": 2056 + }, + { + "epoch": 0.2726308813783963, + "grad_norm": 12.452119827270508, + "learning_rate": 4.899690421625287e-06, + "loss": 0.2127, + "num_input_tokens_seen": 4065752, + "step": 2057 + }, + { + "epoch": 0.2727634194831014, + "grad_norm": 14.237703323364258, + "learning_rate": 4.899593052783853e-06, + "loss": 0.1875, + "num_input_tokens_seen": 4067280, + "step": 2058 + }, + { + "epoch": 0.2728959575878065, + "grad_norm": 14.333855628967285, + "learning_rate": 4.899495637676609e-06, + "loss": 0.4797, + "num_input_tokens_seen": 4069456, + "step": 2059 + }, + { + "epoch": 0.2730284956925116, + "grad_norm": 6.316786289215088, + "learning_rate": 4.899398176305434e-06, + "loss": 0.0643, + "num_input_tokens_seen": 4071408, + "step": 2060 + }, + { + "epoch": 0.2731610337972167, + "grad_norm": 7.7867631912231445, + "learning_rate": 4.899300668672207e-06, + "loss": 0.0099, + "num_input_tokens_seen": 4073280, + "step": 2061 + }, + { + "epoch": 0.27329357190192183, + "grad_norm": 10.514313697814941, + "learning_rate": 4.8992031147788075e-06, + "loss": 0.2162, + "num_input_tokens_seen": 4075208, + "step": 2062 + }, + { + "epoch": 0.2734261100066269, + "grad_norm": 17.147254943847656, + "learning_rate": 4.8991055146271175e-06, + "loss": 0.3135, + "num_input_tokens_seen": 4077040, + "step": 2063 + }, + { + "epoch": 0.273558648111332, + "grad_norm": 10.662821769714355, + "learning_rate": 4.8990078682190175e-06, + "loss": 0.1895, + "num_input_tokens_seen": 4078960, + "step": 2064 + }, + { + "epoch": 0.2736911862160371, + "grad_norm": 11.364448547363281, + "learning_rate": 4.898910175556391e-06, + "loss": 0.3366, + "num_input_tokens_seen": 4081136, + "step": 2065 + }, + { + "epoch": 0.2738237243207422, + "grad_norm": 26.864459991455078, + "learning_rate": 4.898812436641122e-06, + "loss": 0.6015, + "num_input_tokens_seen": 4082864, + "step": 2066 + }, + { + "epoch": 0.2739562624254473, + "grad_norm": 5.448799133300781, + "learning_rate": 4.898714651475094e-06, + "loss": 0.0489, + "num_input_tokens_seen": 4084024, + "step": 2067 + }, + { + "epoch": 0.27408880053015244, + "grad_norm": 14.595294952392578, + "learning_rate": 4.898616820060192e-06, + "loss": 0.2594, + "num_input_tokens_seen": 4086136, + "step": 2068 + }, + { + "epoch": 0.27422133863485754, + "grad_norm": 16.47277069091797, + "learning_rate": 4.898518942398304e-06, + "loss": 0.5557, + "num_input_tokens_seen": 4087624, + "step": 2069 + }, + { + "epoch": 0.27435387673956263, + "grad_norm": 15.175814628601074, + "learning_rate": 4.898421018491316e-06, + "loss": 0.2742, + "num_input_tokens_seen": 4089128, + "step": 2070 + }, + { + "epoch": 0.2744864148442677, + "grad_norm": 12.268685340881348, + "learning_rate": 4.898323048341115e-06, + "loss": 0.2884, + "num_input_tokens_seen": 4090280, + "step": 2071 + }, + { + "epoch": 0.2746189529489728, + "grad_norm": 10.0732421875, + "learning_rate": 4.898225031949592e-06, + "loss": 0.2714, + "num_input_tokens_seen": 4092288, + "step": 2072 + }, + { + "epoch": 0.2747514910536779, + "grad_norm": 20.11159896850586, + "learning_rate": 4.8981269693186365e-06, + "loss": 0.6043, + "num_input_tokens_seen": 4094184, + "step": 2073 + }, + { + "epoch": 0.27488402915838306, + "grad_norm": 10.031855583190918, + "learning_rate": 4.898028860450138e-06, + "loss": 0.3076, + "num_input_tokens_seen": 4096584, + "step": 2074 + }, + { + "epoch": 0.27501656726308815, + "grad_norm": 11.20979118347168, + "learning_rate": 4.8979307053459884e-06, + "loss": 0.3234, + "num_input_tokens_seen": 4098720, + "step": 2075 + }, + { + "epoch": 0.27514910536779325, + "grad_norm": 4.827417373657227, + "learning_rate": 4.897832504008081e-06, + "loss": 0.1674, + "num_input_tokens_seen": 4100944, + "step": 2076 + }, + { + "epoch": 0.27528164347249834, + "grad_norm": 9.533052444458008, + "learning_rate": 4.897734256438309e-06, + "loss": 0.2884, + "num_input_tokens_seen": 4102928, + "step": 2077 + }, + { + "epoch": 0.27541418157720343, + "grad_norm": 4.671139240264893, + "learning_rate": 4.897635962638566e-06, + "loss": 0.0754, + "num_input_tokens_seen": 4105280, + "step": 2078 + }, + { + "epoch": 0.2755467196819085, + "grad_norm": 12.15795612335205, + "learning_rate": 4.897537622610748e-06, + "loss": 0.2198, + "num_input_tokens_seen": 4108352, + "step": 2079 + }, + { + "epoch": 0.2756792577866137, + "grad_norm": 0.42824143171310425, + "learning_rate": 4.89743923635675e-06, + "loss": 0.0025, + "num_input_tokens_seen": 4109648, + "step": 2080 + }, + { + "epoch": 0.27581179589131877, + "grad_norm": 17.460590362548828, + "learning_rate": 4.89734080387847e-06, + "loss": 0.2317, + "num_input_tokens_seen": 4111184, + "step": 2081 + }, + { + "epoch": 0.27594433399602386, + "grad_norm": 3.146728754043579, + "learning_rate": 4.897242325177805e-06, + "loss": 0.0138, + "num_input_tokens_seen": 4112624, + "step": 2082 + }, + { + "epoch": 0.27607687210072895, + "grad_norm": 0.4596201777458191, + "learning_rate": 4.897143800256655e-06, + "loss": 0.0029, + "num_input_tokens_seen": 4114336, + "step": 2083 + }, + { + "epoch": 0.27620941020543405, + "grad_norm": 13.028621673583984, + "learning_rate": 4.897045229116919e-06, + "loss": 0.3446, + "num_input_tokens_seen": 4117016, + "step": 2084 + }, + { + "epoch": 0.27634194831013914, + "grad_norm": 0.43419769406318665, + "learning_rate": 4.896946611760496e-06, + "loss": 0.0026, + "num_input_tokens_seen": 4119848, + "step": 2085 + }, + { + "epoch": 0.2764744864148443, + "grad_norm": 1.7718678712844849, + "learning_rate": 4.89684794818929e-06, + "loss": 0.0068, + "num_input_tokens_seen": 4121592, + "step": 2086 + }, + { + "epoch": 0.2766070245195494, + "grad_norm": 10.505563735961914, + "learning_rate": 4.896749238405202e-06, + "loss": 0.2272, + "num_input_tokens_seen": 4123720, + "step": 2087 + }, + { + "epoch": 0.2767395626242545, + "grad_norm": 14.227324485778809, + "learning_rate": 4.896650482410135e-06, + "loss": 0.252, + "num_input_tokens_seen": 4125096, + "step": 2088 + }, + { + "epoch": 0.27687210072895957, + "grad_norm": 0.12318974733352661, + "learning_rate": 4.896551680205992e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4126384, + "step": 2089 + }, + { + "epoch": 0.27700463883366466, + "grad_norm": 9.384637832641602, + "learning_rate": 4.896452831794681e-06, + "loss": 0.4158, + "num_input_tokens_seen": 4128424, + "step": 2090 + }, + { + "epoch": 0.27713717693836976, + "grad_norm": 3.53444766998291, + "learning_rate": 4.896353937178106e-06, + "loss": 0.0519, + "num_input_tokens_seen": 4130104, + "step": 2091 + }, + { + "epoch": 0.2772697150430749, + "grad_norm": 0.919614851474762, + "learning_rate": 4.896254996358174e-06, + "loss": 0.0045, + "num_input_tokens_seen": 4131184, + "step": 2092 + }, + { + "epoch": 0.27740225314778, + "grad_norm": 18.927024841308594, + "learning_rate": 4.896156009336792e-06, + "loss": 0.6818, + "num_input_tokens_seen": 4133368, + "step": 2093 + }, + { + "epoch": 0.2775347912524851, + "grad_norm": 8.679544448852539, + "learning_rate": 4.896056976115869e-06, + "loss": 0.1331, + "num_input_tokens_seen": 4136256, + "step": 2094 + }, + { + "epoch": 0.2776673293571902, + "grad_norm": 15.54692268371582, + "learning_rate": 4.895957896697315e-06, + "loss": 0.4987, + "num_input_tokens_seen": 4137520, + "step": 2095 + }, + { + "epoch": 0.2777998674618953, + "grad_norm": 3.3338866233825684, + "learning_rate": 4.895858771083039e-06, + "loss": 0.0848, + "num_input_tokens_seen": 4139032, + "step": 2096 + }, + { + "epoch": 0.27793240556660037, + "grad_norm": 12.034407615661621, + "learning_rate": 4.895759599274955e-06, + "loss": 0.3229, + "num_input_tokens_seen": 4141664, + "step": 2097 + }, + { + "epoch": 0.2780649436713055, + "grad_norm": 10.661338806152344, + "learning_rate": 4.895660381274971e-06, + "loss": 0.265, + "num_input_tokens_seen": 4143560, + "step": 2098 + }, + { + "epoch": 0.2781974817760106, + "grad_norm": 4.307747840881348, + "learning_rate": 4.895561117085004e-06, + "loss": 0.2225, + "num_input_tokens_seen": 4147128, + "step": 2099 + }, + { + "epoch": 0.2783300198807157, + "grad_norm": 10.567222595214844, + "learning_rate": 4.895461806706965e-06, + "loss": 0.2437, + "num_input_tokens_seen": 4149080, + "step": 2100 + }, + { + "epoch": 0.2784625579854208, + "grad_norm": 16.266071319580078, + "learning_rate": 4.89536245014277e-06, + "loss": 0.2531, + "num_input_tokens_seen": 4150656, + "step": 2101 + }, + { + "epoch": 0.2785950960901259, + "grad_norm": 11.213003158569336, + "learning_rate": 4.895263047394334e-06, + "loss": 0.2957, + "num_input_tokens_seen": 4152424, + "step": 2102 + }, + { + "epoch": 0.278727634194831, + "grad_norm": 16.003807067871094, + "learning_rate": 4.895163598463575e-06, + "loss": 0.4159, + "num_input_tokens_seen": 4155384, + "step": 2103 + }, + { + "epoch": 0.27886017229953614, + "grad_norm": 0.06696567684412003, + "learning_rate": 4.89506410335241e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4156712, + "step": 2104 + }, + { + "epoch": 0.27899271040424123, + "grad_norm": 1.272228717803955, + "learning_rate": 4.894964562062755e-06, + "loss": 0.0162, + "num_input_tokens_seen": 4158504, + "step": 2105 + }, + { + "epoch": 0.2791252485089463, + "grad_norm": 4.4508843421936035, + "learning_rate": 4.894864974596531e-06, + "loss": 0.0528, + "num_input_tokens_seen": 4160480, + "step": 2106 + }, + { + "epoch": 0.2792577866136514, + "grad_norm": 1.2055717706680298, + "learning_rate": 4.894765340955659e-06, + "loss": 0.0041, + "num_input_tokens_seen": 4162632, + "step": 2107 + }, + { + "epoch": 0.2793903247183565, + "grad_norm": 0.13629478216171265, + "learning_rate": 4.89466566114206e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4164136, + "step": 2108 + }, + { + "epoch": 0.27952286282306166, + "grad_norm": 6.652531623840332, + "learning_rate": 4.894565935157654e-06, + "loss": 0.0524, + "num_input_tokens_seen": 4166208, + "step": 2109 + }, + { + "epoch": 0.27965540092776675, + "grad_norm": 13.997855186462402, + "learning_rate": 4.894466163004365e-06, + "loss": 0.2631, + "num_input_tokens_seen": 4168528, + "step": 2110 + }, + { + "epoch": 0.27978793903247184, + "grad_norm": 3.0898513793945312, + "learning_rate": 4.894366344684117e-06, + "loss": 0.0576, + "num_input_tokens_seen": 4171128, + "step": 2111 + }, + { + "epoch": 0.27992047713717694, + "grad_norm": 0.09713403880596161, + "learning_rate": 4.894266480198834e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4173600, + "step": 2112 + }, + { + "epoch": 0.28005301524188203, + "grad_norm": 14.981772422790527, + "learning_rate": 4.894166569550442e-06, + "loss": 0.5667, + "num_input_tokens_seen": 4175976, + "step": 2113 + }, + { + "epoch": 0.2801855533465871, + "grad_norm": 13.724303245544434, + "learning_rate": 4.894066612740866e-06, + "loss": 0.4238, + "num_input_tokens_seen": 4178056, + "step": 2114 + }, + { + "epoch": 0.2803180914512923, + "grad_norm": 0.1035027801990509, + "learning_rate": 4.893966609772034e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4180032, + "step": 2115 + }, + { + "epoch": 0.28045062955599737, + "grad_norm": 5.932621002197266, + "learning_rate": 4.893866560645874e-06, + "loss": 0.1781, + "num_input_tokens_seen": 4181456, + "step": 2116 + }, + { + "epoch": 0.28058316766070246, + "grad_norm": 3.967175245285034, + "learning_rate": 4.893766465364316e-06, + "loss": 0.0745, + "num_input_tokens_seen": 4183264, + "step": 2117 + }, + { + "epoch": 0.28071570576540755, + "grad_norm": 6.677824974060059, + "learning_rate": 4.8936663239292885e-06, + "loss": 0.0485, + "num_input_tokens_seen": 4185616, + "step": 2118 + }, + { + "epoch": 0.28084824387011265, + "grad_norm": 0.20160391926765442, + "learning_rate": 4.893566136342723e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4187440, + "step": 2119 + }, + { + "epoch": 0.28098078197481774, + "grad_norm": 10.150309562683105, + "learning_rate": 4.893465902606553e-06, + "loss": 0.2062, + "num_input_tokens_seen": 4189088, + "step": 2120 + }, + { + "epoch": 0.2811133200795229, + "grad_norm": 7.110853672027588, + "learning_rate": 4.893365622722708e-06, + "loss": 0.1879, + "num_input_tokens_seen": 4191512, + "step": 2121 + }, + { + "epoch": 0.281245858184228, + "grad_norm": 11.135810852050781, + "learning_rate": 4.893265296693122e-06, + "loss": 0.1136, + "num_input_tokens_seen": 4193784, + "step": 2122 + }, + { + "epoch": 0.2813783962889331, + "grad_norm": 10.362106323242188, + "learning_rate": 4.8931649245197295e-06, + "loss": 0.2628, + "num_input_tokens_seen": 4195360, + "step": 2123 + }, + { + "epoch": 0.28151093439363817, + "grad_norm": 7.839051723480225, + "learning_rate": 4.893064506204468e-06, + "loss": 0.2214, + "num_input_tokens_seen": 4197504, + "step": 2124 + }, + { + "epoch": 0.28164347249834326, + "grad_norm": 9.837350845336914, + "learning_rate": 4.892964041749272e-06, + "loss": 0.1783, + "num_input_tokens_seen": 4198800, + "step": 2125 + }, + { + "epoch": 0.28177601060304835, + "grad_norm": 20.550384521484375, + "learning_rate": 4.892863531156077e-06, + "loss": 0.7532, + "num_input_tokens_seen": 4201304, + "step": 2126 + }, + { + "epoch": 0.2819085487077535, + "grad_norm": 6.567972660064697, + "learning_rate": 4.892762974426824e-06, + "loss": 0.1319, + "num_input_tokens_seen": 4202584, + "step": 2127 + }, + { + "epoch": 0.2820410868124586, + "grad_norm": 0.40053123235702515, + "learning_rate": 4.892662371563449e-06, + "loss": 0.0024, + "num_input_tokens_seen": 4205288, + "step": 2128 + }, + { + "epoch": 0.2821736249171637, + "grad_norm": 11.262001991271973, + "learning_rate": 4.892561722567893e-06, + "loss": 0.0842, + "num_input_tokens_seen": 4206400, + "step": 2129 + }, + { + "epoch": 0.2823061630218688, + "grad_norm": 13.66666316986084, + "learning_rate": 4.8924610274420965e-06, + "loss": 0.3291, + "num_input_tokens_seen": 4209208, + "step": 2130 + }, + { + "epoch": 0.2824387011265739, + "grad_norm": 0.42933377623558044, + "learning_rate": 4.892360286188001e-06, + "loss": 0.0026, + "num_input_tokens_seen": 4210536, + "step": 2131 + }, + { + "epoch": 0.28257123923127897, + "grad_norm": 3.2867815494537354, + "learning_rate": 4.892259498807549e-06, + "loss": 0.0461, + "num_input_tokens_seen": 4212336, + "step": 2132 + }, + { + "epoch": 0.2827037773359841, + "grad_norm": 1.2013334035873413, + "learning_rate": 4.892158665302683e-06, + "loss": 0.0073, + "num_input_tokens_seen": 4215064, + "step": 2133 + }, + { + "epoch": 0.2828363154406892, + "grad_norm": 6.951056957244873, + "learning_rate": 4.8920577856753485e-06, + "loss": 0.1215, + "num_input_tokens_seen": 4216496, + "step": 2134 + }, + { + "epoch": 0.2829688535453943, + "grad_norm": 9.356734275817871, + "learning_rate": 4.891956859927489e-06, + "loss": 0.2638, + "num_input_tokens_seen": 4218424, + "step": 2135 + }, + { + "epoch": 0.2831013916500994, + "grad_norm": 5.535884857177734, + "learning_rate": 4.891855888061051e-06, + "loss": 0.1378, + "num_input_tokens_seen": 4220232, + "step": 2136 + }, + { + "epoch": 0.2832339297548045, + "grad_norm": 0.24731677770614624, + "learning_rate": 4.8917548700779815e-06, + "loss": 0.0015, + "num_input_tokens_seen": 4221688, + "step": 2137 + }, + { + "epoch": 0.2833664678595096, + "grad_norm": 9.523365020751953, + "learning_rate": 4.891653805980229e-06, + "loss": 0.2774, + "num_input_tokens_seen": 4224160, + "step": 2138 + }, + { + "epoch": 0.28349900596421473, + "grad_norm": 4.411974906921387, + "learning_rate": 4.89155269576974e-06, + "loss": 0.1228, + "num_input_tokens_seen": 4225664, + "step": 2139 + }, + { + "epoch": 0.2836315440689198, + "grad_norm": 7.0857062339782715, + "learning_rate": 4.891451539448466e-06, + "loss": 0.0419, + "num_input_tokens_seen": 4227248, + "step": 2140 + }, + { + "epoch": 0.2837640821736249, + "grad_norm": 1.3636587858200073, + "learning_rate": 4.891350337018356e-06, + "loss": 0.0053, + "num_input_tokens_seen": 4228600, + "step": 2141 + }, + { + "epoch": 0.28389662027833, + "grad_norm": 17.46363639831543, + "learning_rate": 4.891249088481362e-06, + "loss": 0.5138, + "num_input_tokens_seen": 4230584, + "step": 2142 + }, + { + "epoch": 0.2840291583830351, + "grad_norm": 3.9148268699645996, + "learning_rate": 4.891147793839436e-06, + "loss": 0.0845, + "num_input_tokens_seen": 4232488, + "step": 2143 + }, + { + "epoch": 0.2841616964877402, + "grad_norm": 8.393854141235352, + "learning_rate": 4.8910464530945315e-06, + "loss": 0.3156, + "num_input_tokens_seen": 4235264, + "step": 2144 + }, + { + "epoch": 0.28429423459244535, + "grad_norm": 0.19208067655563354, + "learning_rate": 4.890945066248601e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4236536, + "step": 2145 + }, + { + "epoch": 0.28442677269715044, + "grad_norm": 12.819842338562012, + "learning_rate": 4.8908436333036e-06, + "loss": 0.2872, + "num_input_tokens_seen": 4238552, + "step": 2146 + }, + { + "epoch": 0.28455931080185554, + "grad_norm": 10.956326484680176, + "learning_rate": 4.890742154261485e-06, + "loss": 0.3317, + "num_input_tokens_seen": 4239920, + "step": 2147 + }, + { + "epoch": 0.28469184890656063, + "grad_norm": 10.47569465637207, + "learning_rate": 4.8906406291242124e-06, + "loss": 0.3484, + "num_input_tokens_seen": 4241688, + "step": 2148 + }, + { + "epoch": 0.2848243870112657, + "grad_norm": 7.644991874694824, + "learning_rate": 4.890539057893738e-06, + "loss": 0.1377, + "num_input_tokens_seen": 4243464, + "step": 2149 + }, + { + "epoch": 0.2849569251159708, + "grad_norm": 0.26079681515693665, + "learning_rate": 4.890437440572023e-06, + "loss": 0.0014, + "num_input_tokens_seen": 4245144, + "step": 2150 + }, + { + "epoch": 0.28508946322067596, + "grad_norm": 0.09864098578691483, + "learning_rate": 4.890335777161024e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4246512, + "step": 2151 + }, + { + "epoch": 0.28522200132538106, + "grad_norm": 11.880043983459473, + "learning_rate": 4.890234067662703e-06, + "loss": 0.3895, + "num_input_tokens_seen": 4249016, + "step": 2152 + }, + { + "epoch": 0.28535453943008615, + "grad_norm": 19.725011825561523, + "learning_rate": 4.890132312079019e-06, + "loss": 0.416, + "num_input_tokens_seen": 4251416, + "step": 2153 + }, + { + "epoch": 0.28548707753479124, + "grad_norm": 0.11647134274244308, + "learning_rate": 4.890030510411936e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4252536, + "step": 2154 + }, + { + "epoch": 0.28561961563949634, + "grad_norm": 4.854540824890137, + "learning_rate": 4.889928662663416e-06, + "loss": 0.1292, + "num_input_tokens_seen": 4254872, + "step": 2155 + }, + { + "epoch": 0.28575215374420143, + "grad_norm": 4.824460506439209, + "learning_rate": 4.889826768835422e-06, + "loss": 0.1208, + "num_input_tokens_seen": 4257088, + "step": 2156 + }, + { + "epoch": 0.2858846918489066, + "grad_norm": 6.68923282623291, + "learning_rate": 4.88972482892992e-06, + "loss": 0.1716, + "num_input_tokens_seen": 4258632, + "step": 2157 + }, + { + "epoch": 0.2860172299536117, + "grad_norm": 7.124477863311768, + "learning_rate": 4.8896228429488745e-06, + "loss": 0.1301, + "num_input_tokens_seen": 4261320, + "step": 2158 + }, + { + "epoch": 0.28614976805831677, + "grad_norm": 0.330934077501297, + "learning_rate": 4.889520810894252e-06, + "loss": 0.002, + "num_input_tokens_seen": 4263792, + "step": 2159 + }, + { + "epoch": 0.28628230616302186, + "grad_norm": 11.706367492675781, + "learning_rate": 4.88941873276802e-06, + "loss": 0.4521, + "num_input_tokens_seen": 4266248, + "step": 2160 + }, + { + "epoch": 0.28641484426772695, + "grad_norm": 5.327991485595703, + "learning_rate": 4.889316608572145e-06, + "loss": 0.098, + "num_input_tokens_seen": 4267912, + "step": 2161 + }, + { + "epoch": 0.28654738237243205, + "grad_norm": 7.563729286193848, + "learning_rate": 4.889214438308599e-06, + "loss": 0.1869, + "num_input_tokens_seen": 4269632, + "step": 2162 + }, + { + "epoch": 0.2866799204771372, + "grad_norm": 9.429889678955078, + "learning_rate": 4.889112221979351e-06, + "loss": 0.111, + "num_input_tokens_seen": 4271432, + "step": 2163 + }, + { + "epoch": 0.2868124585818423, + "grad_norm": 11.942160606384277, + "learning_rate": 4.88900995958637e-06, + "loss": 0.296, + "num_input_tokens_seen": 4274160, + "step": 2164 + }, + { + "epoch": 0.2869449966865474, + "grad_norm": 9.047669410705566, + "learning_rate": 4.888907651131629e-06, + "loss": 0.2054, + "num_input_tokens_seen": 4277056, + "step": 2165 + }, + { + "epoch": 0.2870775347912525, + "grad_norm": 0.7073408365249634, + "learning_rate": 4.888805296617101e-06, + "loss": 0.0044, + "num_input_tokens_seen": 4278632, + "step": 2166 + }, + { + "epoch": 0.28721007289595757, + "grad_norm": 6.935251712799072, + "learning_rate": 4.888702896044759e-06, + "loss": 0.1116, + "num_input_tokens_seen": 4280664, + "step": 2167 + }, + { + "epoch": 0.2873426110006627, + "grad_norm": 6.126161575317383, + "learning_rate": 4.888600449416576e-06, + "loss": 0.0927, + "num_input_tokens_seen": 4282560, + "step": 2168 + }, + { + "epoch": 0.2874751491053678, + "grad_norm": 16.38372230529785, + "learning_rate": 4.88849795673453e-06, + "loss": 0.2978, + "num_input_tokens_seen": 4284872, + "step": 2169 + }, + { + "epoch": 0.2876076872100729, + "grad_norm": 18.123579025268555, + "learning_rate": 4.888395418000595e-06, + "loss": 0.4355, + "num_input_tokens_seen": 4286896, + "step": 2170 + }, + { + "epoch": 0.287740225314778, + "grad_norm": 10.993791580200195, + "learning_rate": 4.888292833216749e-06, + "loss": 0.218, + "num_input_tokens_seen": 4288672, + "step": 2171 + }, + { + "epoch": 0.2878727634194831, + "grad_norm": 19.185699462890625, + "learning_rate": 4.8881902023849696e-06, + "loss": 0.1878, + "num_input_tokens_seen": 4290640, + "step": 2172 + }, + { + "epoch": 0.2880053015241882, + "grad_norm": 16.663862228393555, + "learning_rate": 4.888087525507235e-06, + "loss": 0.3048, + "num_input_tokens_seen": 4293048, + "step": 2173 + }, + { + "epoch": 0.28813783962889333, + "grad_norm": 15.162696838378906, + "learning_rate": 4.887984802585525e-06, + "loss": 0.1771, + "num_input_tokens_seen": 4295712, + "step": 2174 + }, + { + "epoch": 0.2882703777335984, + "grad_norm": 8.397686004638672, + "learning_rate": 4.887882033621821e-06, + "loss": 0.2193, + "num_input_tokens_seen": 4297968, + "step": 2175 + }, + { + "epoch": 0.2884029158383035, + "grad_norm": 2.960301160812378, + "learning_rate": 4.887779218618105e-06, + "loss": 0.0206, + "num_input_tokens_seen": 4299832, + "step": 2176 + }, + { + "epoch": 0.2885354539430086, + "grad_norm": 16.112192153930664, + "learning_rate": 4.887676357576358e-06, + "loss": 0.3614, + "num_input_tokens_seen": 4301440, + "step": 2177 + }, + { + "epoch": 0.2886679920477137, + "grad_norm": 12.998985290527344, + "learning_rate": 4.887573450498564e-06, + "loss": 0.2919, + "num_input_tokens_seen": 4303680, + "step": 2178 + }, + { + "epoch": 0.2888005301524188, + "grad_norm": 18.08317756652832, + "learning_rate": 4.887470497386706e-06, + "loss": 0.314, + "num_input_tokens_seen": 4306304, + "step": 2179 + }, + { + "epoch": 0.28893306825712395, + "grad_norm": 17.149301528930664, + "learning_rate": 4.88736749824277e-06, + "loss": 0.32, + "num_input_tokens_seen": 4307808, + "step": 2180 + }, + { + "epoch": 0.28906560636182904, + "grad_norm": 11.350018501281738, + "learning_rate": 4.887264453068742e-06, + "loss": 0.3471, + "num_input_tokens_seen": 4309816, + "step": 2181 + }, + { + "epoch": 0.28919814446653413, + "grad_norm": 15.040003776550293, + "learning_rate": 4.887161361866608e-06, + "loss": 0.1677, + "num_input_tokens_seen": 4311736, + "step": 2182 + }, + { + "epoch": 0.28933068257123923, + "grad_norm": 11.911293983459473, + "learning_rate": 4.887058224638356e-06, + "loss": 0.3556, + "num_input_tokens_seen": 4314048, + "step": 2183 + }, + { + "epoch": 0.2894632206759443, + "grad_norm": 10.788071632385254, + "learning_rate": 4.886955041385975e-06, + "loss": 0.1982, + "num_input_tokens_seen": 4316024, + "step": 2184 + }, + { + "epoch": 0.2895957587806494, + "grad_norm": 9.0302734375, + "learning_rate": 4.886851812111454e-06, + "loss": 0.2302, + "num_input_tokens_seen": 4317664, + "step": 2185 + }, + { + "epoch": 0.28972829688535456, + "grad_norm": 4.5644989013671875, + "learning_rate": 4.886748536816784e-06, + "loss": 0.123, + "num_input_tokens_seen": 4318688, + "step": 2186 + }, + { + "epoch": 0.28986083499005966, + "grad_norm": 3.457049608230591, + "learning_rate": 4.886645215503955e-06, + "loss": 0.0247, + "num_input_tokens_seen": 4320896, + "step": 2187 + }, + { + "epoch": 0.28999337309476475, + "grad_norm": 1.8337422609329224, + "learning_rate": 4.8865418481749605e-06, + "loss": 0.0121, + "num_input_tokens_seen": 4322448, + "step": 2188 + }, + { + "epoch": 0.29012591119946984, + "grad_norm": 1.623603343963623, + "learning_rate": 4.886438434831792e-06, + "loss": 0.0108, + "num_input_tokens_seen": 4324248, + "step": 2189 + }, + { + "epoch": 0.29025844930417494, + "grad_norm": 10.071128845214844, + "learning_rate": 4.886334975476445e-06, + "loss": 0.3087, + "num_input_tokens_seen": 4326088, + "step": 2190 + }, + { + "epoch": 0.29039098740888003, + "grad_norm": 6.025654315948486, + "learning_rate": 4.886231470110913e-06, + "loss": 0.0756, + "num_input_tokens_seen": 4327744, + "step": 2191 + }, + { + "epoch": 0.2905235255135852, + "grad_norm": 11.878471374511719, + "learning_rate": 4.886127918737191e-06, + "loss": 0.3052, + "num_input_tokens_seen": 4329432, + "step": 2192 + }, + { + "epoch": 0.2906560636182903, + "grad_norm": 6.4588303565979, + "learning_rate": 4.8860243213572776e-06, + "loss": 0.0933, + "num_input_tokens_seen": 4331320, + "step": 2193 + }, + { + "epoch": 0.29078860172299537, + "grad_norm": 10.340522766113281, + "learning_rate": 4.885920677973169e-06, + "loss": 0.392, + "num_input_tokens_seen": 4333216, + "step": 2194 + }, + { + "epoch": 0.29092113982770046, + "grad_norm": 10.025800704956055, + "learning_rate": 4.885816988586864e-06, + "loss": 0.1623, + "num_input_tokens_seen": 4335312, + "step": 2195 + }, + { + "epoch": 0.29105367793240555, + "grad_norm": 14.015799522399902, + "learning_rate": 4.8857132532003624e-06, + "loss": 0.2503, + "num_input_tokens_seen": 4338424, + "step": 2196 + }, + { + "epoch": 0.29118621603711065, + "grad_norm": 0.4355078339576721, + "learning_rate": 4.885609471815662e-06, + "loss": 0.0027, + "num_input_tokens_seen": 4340248, + "step": 2197 + }, + { + "epoch": 0.2913187541418158, + "grad_norm": 0.33607354760169983, + "learning_rate": 4.885505644434766e-06, + "loss": 0.0021, + "num_input_tokens_seen": 4342096, + "step": 2198 + }, + { + "epoch": 0.2914512922465209, + "grad_norm": 7.259146690368652, + "learning_rate": 4.885401771059676e-06, + "loss": 0.0773, + "num_input_tokens_seen": 4343840, + "step": 2199 + }, + { + "epoch": 0.291583830351226, + "grad_norm": 5.765463352203369, + "learning_rate": 4.885297851692393e-06, + "loss": 0.1881, + "num_input_tokens_seen": 4345552, + "step": 2200 + }, + { + "epoch": 0.2917163684559311, + "grad_norm": 7.386293888092041, + "learning_rate": 4.885193886334922e-06, + "loss": 0.1949, + "num_input_tokens_seen": 4348552, + "step": 2201 + }, + { + "epoch": 0.29184890656063617, + "grad_norm": 6.986801624298096, + "learning_rate": 4.885089874989268e-06, + "loss": 0.2179, + "num_input_tokens_seen": 4350448, + "step": 2202 + }, + { + "epoch": 0.29198144466534126, + "grad_norm": 4.420465469360352, + "learning_rate": 4.884985817657436e-06, + "loss": 0.0385, + "num_input_tokens_seen": 4352016, + "step": 2203 + }, + { + "epoch": 0.2921139827700464, + "grad_norm": 9.250154495239258, + "learning_rate": 4.884881714341432e-06, + "loss": 0.1252, + "num_input_tokens_seen": 4353368, + "step": 2204 + }, + { + "epoch": 0.2922465208747515, + "grad_norm": 0.14360158145427704, + "learning_rate": 4.884777565043264e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4355584, + "step": 2205 + }, + { + "epoch": 0.2923790589794566, + "grad_norm": 13.098666191101074, + "learning_rate": 4.884673369764939e-06, + "loss": 0.4706, + "num_input_tokens_seen": 4357728, + "step": 2206 + }, + { + "epoch": 0.2925115970841617, + "grad_norm": 6.148409843444824, + "learning_rate": 4.884569128508465e-06, + "loss": 0.202, + "num_input_tokens_seen": 4358888, + "step": 2207 + }, + { + "epoch": 0.2926441351888668, + "grad_norm": 0.04250134155154228, + "learning_rate": 4.8844648412758535e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4360296, + "step": 2208 + }, + { + "epoch": 0.2927766732935719, + "grad_norm": 7.456624984741211, + "learning_rate": 4.884360508069116e-06, + "loss": 0.1137, + "num_input_tokens_seen": 4361720, + "step": 2209 + }, + { + "epoch": 0.292909211398277, + "grad_norm": 5.744297981262207, + "learning_rate": 4.884256128890262e-06, + "loss": 0.1297, + "num_input_tokens_seen": 4363712, + "step": 2210 + }, + { + "epoch": 0.2930417495029821, + "grad_norm": 6.307443618774414, + "learning_rate": 4.884151703741306e-06, + "loss": 0.185, + "num_input_tokens_seen": 4365064, + "step": 2211 + }, + { + "epoch": 0.2931742876076872, + "grad_norm": 0.07225403189659119, + "learning_rate": 4.8840472326242594e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4366224, + "step": 2212 + }, + { + "epoch": 0.2933068257123923, + "grad_norm": 0.04703948274254799, + "learning_rate": 4.883942715541138e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4368440, + "step": 2213 + }, + { + "epoch": 0.2934393638170974, + "grad_norm": 8.693592071533203, + "learning_rate": 4.8838381524939575e-06, + "loss": 0.1653, + "num_input_tokens_seen": 4370184, + "step": 2214 + }, + { + "epoch": 0.2935719019218025, + "grad_norm": 1.8131909370422363, + "learning_rate": 4.883733543484731e-06, + "loss": 0.0117, + "num_input_tokens_seen": 4371552, + "step": 2215 + }, + { + "epoch": 0.29370444002650764, + "grad_norm": 0.3738787770271301, + "learning_rate": 4.883628888515478e-06, + "loss": 0.0014, + "num_input_tokens_seen": 4373160, + "step": 2216 + }, + { + "epoch": 0.29383697813121273, + "grad_norm": 9.417610168457031, + "learning_rate": 4.883524187588216e-06, + "loss": 0.2664, + "num_input_tokens_seen": 4374904, + "step": 2217 + }, + { + "epoch": 0.2939695162359178, + "grad_norm": 0.08255329728126526, + "learning_rate": 4.8834194407049626e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4376640, + "step": 2218 + }, + { + "epoch": 0.2941020543406229, + "grad_norm": 10.780593872070312, + "learning_rate": 4.883314647867739e-06, + "loss": 0.5253, + "num_input_tokens_seen": 4379472, + "step": 2219 + }, + { + "epoch": 0.294234592445328, + "grad_norm": 0.0779641643166542, + "learning_rate": 4.883209809078565e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4381792, + "step": 2220 + }, + { + "epoch": 0.2943671305500331, + "grad_norm": 0.04254482313990593, + "learning_rate": 4.8831049243394615e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4383512, + "step": 2221 + }, + { + "epoch": 0.29449966865473826, + "grad_norm": 16.96940040588379, + "learning_rate": 4.882999993652451e-06, + "loss": 0.3445, + "num_input_tokens_seen": 4385136, + "step": 2222 + }, + { + "epoch": 0.29463220675944335, + "grad_norm": 5.812951564788818, + "learning_rate": 4.882895017019556e-06, + "loss": 0.1333, + "num_input_tokens_seen": 4386760, + "step": 2223 + }, + { + "epoch": 0.29476474486414844, + "grad_norm": 12.121362686157227, + "learning_rate": 4.882789994442802e-06, + "loss": 0.4926, + "num_input_tokens_seen": 4388792, + "step": 2224 + }, + { + "epoch": 0.29489728296885354, + "grad_norm": 0.09935160726308823, + "learning_rate": 4.882684925924213e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4390712, + "step": 2225 + }, + { + "epoch": 0.29502982107355863, + "grad_norm": 6.53181791305542, + "learning_rate": 4.882579811465814e-06, + "loss": 0.0886, + "num_input_tokens_seen": 4392672, + "step": 2226 + }, + { + "epoch": 0.2951623591782638, + "grad_norm": 16.24932861328125, + "learning_rate": 4.882474651069634e-06, + "loss": 0.6107, + "num_input_tokens_seen": 4395744, + "step": 2227 + }, + { + "epoch": 0.29529489728296887, + "grad_norm": 4.402467727661133, + "learning_rate": 4.882369444737698e-06, + "loss": 0.1179, + "num_input_tokens_seen": 4397352, + "step": 2228 + }, + { + "epoch": 0.29542743538767396, + "grad_norm": 0.09423938393592834, + "learning_rate": 4.882264192472036e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4398928, + "step": 2229 + }, + { + "epoch": 0.29555997349237906, + "grad_norm": 10.287824630737305, + "learning_rate": 4.8821588942746765e-06, + "loss": 0.2996, + "num_input_tokens_seen": 4400352, + "step": 2230 + }, + { + "epoch": 0.29569251159708415, + "grad_norm": 13.64413833618164, + "learning_rate": 4.882053550147651e-06, + "loss": 0.5281, + "num_input_tokens_seen": 4402224, + "step": 2231 + }, + { + "epoch": 0.29582504970178924, + "grad_norm": 5.7602620124816895, + "learning_rate": 4.88194816009299e-06, + "loss": 0.1773, + "num_input_tokens_seen": 4403488, + "step": 2232 + }, + { + "epoch": 0.2959575878064944, + "grad_norm": 0.15154927968978882, + "learning_rate": 4.881842724112724e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4404592, + "step": 2233 + }, + { + "epoch": 0.2960901259111995, + "grad_norm": 1.4744921922683716, + "learning_rate": 4.881737242208888e-06, + "loss": 0.0067, + "num_input_tokens_seen": 4406728, + "step": 2234 + }, + { + "epoch": 0.2962226640159046, + "grad_norm": 12.635961532592773, + "learning_rate": 4.881631714383515e-06, + "loss": 0.3641, + "num_input_tokens_seen": 4408848, + "step": 2235 + }, + { + "epoch": 0.2963552021206097, + "grad_norm": 12.352937698364258, + "learning_rate": 4.881526140638638e-06, + "loss": 0.3232, + "num_input_tokens_seen": 4410728, + "step": 2236 + }, + { + "epoch": 0.29648774022531477, + "grad_norm": 0.786177933216095, + "learning_rate": 4.881420520976296e-06, + "loss": 0.0046, + "num_input_tokens_seen": 4411888, + "step": 2237 + }, + { + "epoch": 0.29662027833001986, + "grad_norm": 10.772207260131836, + "learning_rate": 4.881314855398523e-06, + "loss": 0.0888, + "num_input_tokens_seen": 4413816, + "step": 2238 + }, + { + "epoch": 0.296752816434725, + "grad_norm": 5.836910724639893, + "learning_rate": 4.881209143907356e-06, + "loss": 0.2267, + "num_input_tokens_seen": 4415296, + "step": 2239 + }, + { + "epoch": 0.2968853545394301, + "grad_norm": 0.4418144226074219, + "learning_rate": 4.881103386504835e-06, + "loss": 0.0023, + "num_input_tokens_seen": 4416888, + "step": 2240 + }, + { + "epoch": 0.2970178926441352, + "grad_norm": 9.291844367980957, + "learning_rate": 4.880997583192998e-06, + "loss": 0.1473, + "num_input_tokens_seen": 4419672, + "step": 2241 + }, + { + "epoch": 0.2971504307488403, + "grad_norm": 11.143998146057129, + "learning_rate": 4.880891733973884e-06, + "loss": 0.3925, + "num_input_tokens_seen": 4421528, + "step": 2242 + }, + { + "epoch": 0.2972829688535454, + "grad_norm": 14.662081718444824, + "learning_rate": 4.8807858388495355e-06, + "loss": 0.3738, + "num_input_tokens_seen": 4423000, + "step": 2243 + }, + { + "epoch": 0.2974155069582505, + "grad_norm": 21.81793212890625, + "learning_rate": 4.880679897821994e-06, + "loss": 0.6423, + "num_input_tokens_seen": 4425072, + "step": 2244 + }, + { + "epoch": 0.2975480450629556, + "grad_norm": 0.2173934429883957, + "learning_rate": 4.880573910893301e-06, + "loss": 0.0013, + "num_input_tokens_seen": 4426600, + "step": 2245 + }, + { + "epoch": 0.2976805831676607, + "grad_norm": 0.7134649753570557, + "learning_rate": 4.880467878065501e-06, + "loss": 0.004, + "num_input_tokens_seen": 4429312, + "step": 2246 + }, + { + "epoch": 0.2978131212723658, + "grad_norm": 0.6743342876434326, + "learning_rate": 4.8803617993406385e-06, + "loss": 0.0037, + "num_input_tokens_seen": 4430568, + "step": 2247 + }, + { + "epoch": 0.2979456593770709, + "grad_norm": 12.765079498291016, + "learning_rate": 4.8802556747207586e-06, + "loss": 0.2069, + "num_input_tokens_seen": 4432896, + "step": 2248 + }, + { + "epoch": 0.298078197481776, + "grad_norm": 4.122313499450684, + "learning_rate": 4.880149504207906e-06, + "loss": 0.0313, + "num_input_tokens_seen": 4434992, + "step": 2249 + }, + { + "epoch": 0.2982107355864811, + "grad_norm": 0.18297256529331207, + "learning_rate": 4.880043287804131e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4436520, + "step": 2250 + }, + { + "epoch": 0.29834327369118624, + "grad_norm": 10.148646354675293, + "learning_rate": 4.879937025511478e-06, + "loss": 0.1464, + "num_input_tokens_seen": 4438840, + "step": 2251 + }, + { + "epoch": 0.29847581179589133, + "grad_norm": 14.868453025817871, + "learning_rate": 4.879830717331997e-06, + "loss": 0.2112, + "num_input_tokens_seen": 4440992, + "step": 2252 + }, + { + "epoch": 0.2986083499005964, + "grad_norm": 25.890005111694336, + "learning_rate": 4.879724363267738e-06, + "loss": 1.05, + "num_input_tokens_seen": 4443704, + "step": 2253 + }, + { + "epoch": 0.2987408880053015, + "grad_norm": 0.14283990859985352, + "learning_rate": 4.879617963320753e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4445104, + "step": 2254 + }, + { + "epoch": 0.2988734261100066, + "grad_norm": 0.28805074095726013, + "learning_rate": 4.879511517493091e-06, + "loss": 0.0015, + "num_input_tokens_seen": 4446616, + "step": 2255 + }, + { + "epoch": 0.2990059642147117, + "grad_norm": 11.149937629699707, + "learning_rate": 4.879405025786806e-06, + "loss": 0.2234, + "num_input_tokens_seen": 4448592, + "step": 2256 + }, + { + "epoch": 0.29913850231941685, + "grad_norm": 10.31842041015625, + "learning_rate": 4.87929848820395e-06, + "loss": 0.3823, + "num_input_tokens_seen": 4451056, + "step": 2257 + }, + { + "epoch": 0.29927104042412195, + "grad_norm": 8.116284370422363, + "learning_rate": 4.8791919047465775e-06, + "loss": 0.1482, + "num_input_tokens_seen": 4453928, + "step": 2258 + }, + { + "epoch": 0.29940357852882704, + "grad_norm": 1.1918914318084717, + "learning_rate": 4.879085275416744e-06, + "loss": 0.0058, + "num_input_tokens_seen": 4455720, + "step": 2259 + }, + { + "epoch": 0.29953611663353213, + "grad_norm": 6.680629730224609, + "learning_rate": 4.8789786002165055e-06, + "loss": 0.0591, + "num_input_tokens_seen": 4457744, + "step": 2260 + }, + { + "epoch": 0.29966865473823723, + "grad_norm": 15.128524780273438, + "learning_rate": 4.878871879147918e-06, + "loss": 0.5397, + "num_input_tokens_seen": 4459336, + "step": 2261 + }, + { + "epoch": 0.2998011928429423, + "grad_norm": 19.39220428466797, + "learning_rate": 4.87876511221304e-06, + "loss": 0.5077, + "num_input_tokens_seen": 4461936, + "step": 2262 + }, + { + "epoch": 0.29993373094764747, + "grad_norm": 9.773737907409668, + "learning_rate": 4.87865829941393e-06, + "loss": 0.4246, + "num_input_tokens_seen": 4464008, + "step": 2263 + }, + { + "epoch": 0.30006626905235256, + "grad_norm": 0.05762796103954315, + "learning_rate": 4.878551440752646e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4465480, + "step": 2264 + }, + { + "epoch": 0.30019880715705766, + "grad_norm": 12.822464942932129, + "learning_rate": 4.87844453623125e-06, + "loss": 0.4152, + "num_input_tokens_seen": 4467320, + "step": 2265 + }, + { + "epoch": 0.30033134526176275, + "grad_norm": 8.42055606842041, + "learning_rate": 4.878337585851802e-06, + "loss": 0.2294, + "num_input_tokens_seen": 4469704, + "step": 2266 + }, + { + "epoch": 0.30046388336646784, + "grad_norm": 14.45976734161377, + "learning_rate": 4.878230589616365e-06, + "loss": 0.5654, + "num_input_tokens_seen": 4471744, + "step": 2267 + }, + { + "epoch": 0.30059642147117294, + "grad_norm": 0.07128151506185532, + "learning_rate": 4.878123547527002e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4473280, + "step": 2268 + }, + { + "epoch": 0.3007289595758781, + "grad_norm": 9.115377426147461, + "learning_rate": 4.878016459585776e-06, + "loss": 0.1438, + "num_input_tokens_seen": 4475480, + "step": 2269 + }, + { + "epoch": 0.3008614976805832, + "grad_norm": 0.0583374947309494, + "learning_rate": 4.877909325794752e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4477688, + "step": 2270 + }, + { + "epoch": 0.30099403578528827, + "grad_norm": 6.256191253662109, + "learning_rate": 4.877802146155996e-06, + "loss": 0.1179, + "num_input_tokens_seen": 4479624, + "step": 2271 + }, + { + "epoch": 0.30112657388999337, + "grad_norm": 15.40497875213623, + "learning_rate": 4.877694920671574e-06, + "loss": 0.4721, + "num_input_tokens_seen": 4481784, + "step": 2272 + }, + { + "epoch": 0.30125911199469846, + "grad_norm": 11.886549949645996, + "learning_rate": 4.877587649343553e-06, + "loss": 0.3917, + "num_input_tokens_seen": 4483216, + "step": 2273 + }, + { + "epoch": 0.30139165009940355, + "grad_norm": 9.00411319732666, + "learning_rate": 4.877480332174003e-06, + "loss": 0.2911, + "num_input_tokens_seen": 4484856, + "step": 2274 + }, + { + "epoch": 0.3015241882041087, + "grad_norm": 4.763082027435303, + "learning_rate": 4.877372969164992e-06, + "loss": 0.1393, + "num_input_tokens_seen": 4486672, + "step": 2275 + }, + { + "epoch": 0.3016567263088138, + "grad_norm": 11.841622352600098, + "learning_rate": 4.8772655603185906e-06, + "loss": 0.528, + "num_input_tokens_seen": 4489416, + "step": 2276 + }, + { + "epoch": 0.3017892644135189, + "grad_norm": 0.10015904158353806, + "learning_rate": 4.877158105636868e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4490768, + "step": 2277 + }, + { + "epoch": 0.301921802518224, + "grad_norm": 15.050132751464844, + "learning_rate": 4.877050605121897e-06, + "loss": 0.3823, + "num_input_tokens_seen": 4492936, + "step": 2278 + }, + { + "epoch": 0.3020543406229291, + "grad_norm": 7.292393684387207, + "learning_rate": 4.876943058775752e-06, + "loss": 0.2537, + "num_input_tokens_seen": 4495056, + "step": 2279 + }, + { + "epoch": 0.30218687872763417, + "grad_norm": 18.64552116394043, + "learning_rate": 4.876835466600503e-06, + "loss": 0.3755, + "num_input_tokens_seen": 4497936, + "step": 2280 + }, + { + "epoch": 0.3023194168323393, + "grad_norm": 1.5576262474060059, + "learning_rate": 4.876727828598229e-06, + "loss": 0.0085, + "num_input_tokens_seen": 4499640, + "step": 2281 + }, + { + "epoch": 0.3024519549370444, + "grad_norm": 0.12575441598892212, + "learning_rate": 4.876620144771002e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4501776, + "step": 2282 + }, + { + "epoch": 0.3025844930417495, + "grad_norm": 6.489303112030029, + "learning_rate": 4.8765124151208975e-06, + "loss": 0.2004, + "num_input_tokens_seen": 4503840, + "step": 2283 + }, + { + "epoch": 0.3027170311464546, + "grad_norm": 14.678549766540527, + "learning_rate": 4.876404639649995e-06, + "loss": 0.5339, + "num_input_tokens_seen": 4506336, + "step": 2284 + }, + { + "epoch": 0.3028495692511597, + "grad_norm": 9.66697883605957, + "learning_rate": 4.876296818360372e-06, + "loss": 0.0448, + "num_input_tokens_seen": 4508112, + "step": 2285 + }, + { + "epoch": 0.30298210735586484, + "grad_norm": 0.17515404522418976, + "learning_rate": 4.876188951254108e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4510712, + "step": 2286 + }, + { + "epoch": 0.30311464546056993, + "grad_norm": 0.1487409472465515, + "learning_rate": 4.87608103833328e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4511920, + "step": 2287 + }, + { + "epoch": 0.303247183565275, + "grad_norm": 0.1465209275484085, + "learning_rate": 4.875973079599972e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4513424, + "step": 2288 + }, + { + "epoch": 0.3033797216699801, + "grad_norm": 10.462250709533691, + "learning_rate": 4.875865075056262e-06, + "loss": 0.2312, + "num_input_tokens_seen": 4515256, + "step": 2289 + }, + { + "epoch": 0.3035122597746852, + "grad_norm": 0.10487841069698334, + "learning_rate": 4.875757024704236e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4516736, + "step": 2290 + }, + { + "epoch": 0.3036447978793903, + "grad_norm": 0.15438759326934814, + "learning_rate": 4.875648928545975e-06, + "loss": 0.001, + "num_input_tokens_seen": 4518360, + "step": 2291 + }, + { + "epoch": 0.30377733598409545, + "grad_norm": 4.229559421539307, + "learning_rate": 4.875540786583564e-06, + "loss": 0.0435, + "num_input_tokens_seen": 4519856, + "step": 2292 + }, + { + "epoch": 0.30390987408880055, + "grad_norm": 8.338935852050781, + "learning_rate": 4.8754325988190875e-06, + "loss": 0.1618, + "num_input_tokens_seen": 4521480, + "step": 2293 + }, + { + "epoch": 0.30404241219350564, + "grad_norm": 12.536456108093262, + "learning_rate": 4.8753243652546316e-06, + "loss": 0.3658, + "num_input_tokens_seen": 4523224, + "step": 2294 + }, + { + "epoch": 0.30417495029821073, + "grad_norm": 5.160500526428223, + "learning_rate": 4.875216085892283e-06, + "loss": 0.0404, + "num_input_tokens_seen": 4524680, + "step": 2295 + }, + { + "epoch": 0.3043074884029158, + "grad_norm": 0.34268054366111755, + "learning_rate": 4.8751077607341306e-06, + "loss": 0.002, + "num_input_tokens_seen": 4526056, + "step": 2296 + }, + { + "epoch": 0.3044400265076209, + "grad_norm": 6.561368942260742, + "learning_rate": 4.874999389782262e-06, + "loss": 0.1351, + "num_input_tokens_seen": 4528216, + "step": 2297 + }, + { + "epoch": 0.30457256461232607, + "grad_norm": 11.347625732421875, + "learning_rate": 4.874890973038766e-06, + "loss": 0.2648, + "num_input_tokens_seen": 4529848, + "step": 2298 + }, + { + "epoch": 0.30470510271703116, + "grad_norm": 10.4386625289917, + "learning_rate": 4.874782510505734e-06, + "loss": 0.3965, + "num_input_tokens_seen": 4531392, + "step": 2299 + }, + { + "epoch": 0.30483764082173626, + "grad_norm": 22.0225830078125, + "learning_rate": 4.8746740021852576e-06, + "loss": 0.6215, + "num_input_tokens_seen": 4533120, + "step": 2300 + }, + { + "epoch": 0.30497017892644135, + "grad_norm": 18.458955764770508, + "learning_rate": 4.874565448079428e-06, + "loss": 0.796, + "num_input_tokens_seen": 4535440, + "step": 2301 + }, + { + "epoch": 0.30510271703114644, + "grad_norm": 20.216047286987305, + "learning_rate": 4.8744568481903375e-06, + "loss": 0.8113, + "num_input_tokens_seen": 4536712, + "step": 2302 + }, + { + "epoch": 0.30523525513585154, + "grad_norm": 11.850532531738281, + "learning_rate": 4.874348202520082e-06, + "loss": 0.1842, + "num_input_tokens_seen": 4538520, + "step": 2303 + }, + { + "epoch": 0.3053677932405567, + "grad_norm": 13.13093090057373, + "learning_rate": 4.874239511070755e-06, + "loss": 0.2179, + "num_input_tokens_seen": 4540448, + "step": 2304 + }, + { + "epoch": 0.3055003313452618, + "grad_norm": 2.783926486968994, + "learning_rate": 4.874130773844452e-06, + "loss": 0.0095, + "num_input_tokens_seen": 4542416, + "step": 2305 + }, + { + "epoch": 0.30563286944996687, + "grad_norm": 0.04120277240872383, + "learning_rate": 4.874021990843269e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4543792, + "step": 2306 + }, + { + "epoch": 0.30576540755467196, + "grad_norm": 0.12249967455863953, + "learning_rate": 4.873913162069306e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4546320, + "step": 2307 + }, + { + "epoch": 0.30589794565937706, + "grad_norm": 5.431410789489746, + "learning_rate": 4.873804287524658e-06, + "loss": 0.0457, + "num_input_tokens_seen": 4548248, + "step": 2308 + }, + { + "epoch": 0.30603048376408215, + "grad_norm": 0.05795201286673546, + "learning_rate": 4.873695367211427e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4549488, + "step": 2309 + }, + { + "epoch": 0.3061630218687873, + "grad_norm": 3.3292765617370605, + "learning_rate": 4.8735864011317114e-06, + "loss": 0.0182, + "num_input_tokens_seen": 4552800, + "step": 2310 + }, + { + "epoch": 0.3062955599734924, + "grad_norm": 13.742362976074219, + "learning_rate": 4.873477389287612e-06, + "loss": 0.351, + "num_input_tokens_seen": 4554888, + "step": 2311 + }, + { + "epoch": 0.3064280980781975, + "grad_norm": 14.86807918548584, + "learning_rate": 4.8733683316812315e-06, + "loss": 0.4338, + "num_input_tokens_seen": 4557512, + "step": 2312 + }, + { + "epoch": 0.3065606361829026, + "grad_norm": 17.22825813293457, + "learning_rate": 4.873259228314673e-06, + "loss": 0.265, + "num_input_tokens_seen": 4559376, + "step": 2313 + }, + { + "epoch": 0.3066931742876077, + "grad_norm": 0.07642994076013565, + "learning_rate": 4.873150079190038e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4561856, + "step": 2314 + }, + { + "epoch": 0.30682571239231277, + "grad_norm": 0.0376090444624424, + "learning_rate": 4.873040884309433e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4563408, + "step": 2315 + }, + { + "epoch": 0.3069582504970179, + "grad_norm": 6.630155563354492, + "learning_rate": 4.872931643674963e-06, + "loss": 0.2238, + "num_input_tokens_seen": 4565824, + "step": 2316 + }, + { + "epoch": 0.307090788601723, + "grad_norm": 0.08366625756025314, + "learning_rate": 4.872822357288733e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4567328, + "step": 2317 + }, + { + "epoch": 0.3072233267064281, + "grad_norm": 11.427505493164062, + "learning_rate": 4.872713025152852e-06, + "loss": 0.3075, + "num_input_tokens_seen": 4568840, + "step": 2318 + }, + { + "epoch": 0.3073558648111332, + "grad_norm": 0.1984274536371231, + "learning_rate": 4.872603647269427e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4570848, + "step": 2319 + }, + { + "epoch": 0.3074884029158383, + "grad_norm": 0.01841103844344616, + "learning_rate": 4.8724942236405655e-06, + "loss": 0.0001, + "num_input_tokens_seen": 4572240, + "step": 2320 + }, + { + "epoch": 0.3076209410205434, + "grad_norm": 0.048301417380571365, + "learning_rate": 4.87238475426838e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4574360, + "step": 2321 + }, + { + "epoch": 0.30775347912524853, + "grad_norm": 14.42236614227295, + "learning_rate": 4.8722752391549795e-06, + "loss": 0.2713, + "num_input_tokens_seen": 4576256, + "step": 2322 + }, + { + "epoch": 0.3078860172299536, + "grad_norm": 6.023249626159668, + "learning_rate": 4.872165678302476e-06, + "loss": 0.1606, + "num_input_tokens_seen": 4577744, + "step": 2323 + }, + { + "epoch": 0.3080185553346587, + "grad_norm": 0.03531588613986969, + "learning_rate": 4.872056071712981e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4579304, + "step": 2324 + }, + { + "epoch": 0.3081510934393638, + "grad_norm": 12.995361328125, + "learning_rate": 4.871946419388609e-06, + "loss": 0.3878, + "num_input_tokens_seen": 4580760, + "step": 2325 + }, + { + "epoch": 0.3082836315440689, + "grad_norm": 8.4299898147583, + "learning_rate": 4.871836721331475e-06, + "loss": 0.3143, + "num_input_tokens_seen": 4582384, + "step": 2326 + }, + { + "epoch": 0.308416169648774, + "grad_norm": 6.2899675369262695, + "learning_rate": 4.871726977543691e-06, + "loss": 0.1073, + "num_input_tokens_seen": 4584472, + "step": 2327 + }, + { + "epoch": 0.30854870775347915, + "grad_norm": 0.15512315928936005, + "learning_rate": 4.8716171880273754e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4585776, + "step": 2328 + }, + { + "epoch": 0.30868124585818424, + "grad_norm": 0.06477442383766174, + "learning_rate": 4.871507352784645e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4588344, + "step": 2329 + }, + { + "epoch": 0.30881378396288933, + "grad_norm": 8.844597816467285, + "learning_rate": 4.871397471817615e-06, + "loss": 0.2402, + "num_input_tokens_seen": 4590496, + "step": 2330 + }, + { + "epoch": 0.3089463220675944, + "grad_norm": 8.777436256408691, + "learning_rate": 4.871287545128407e-06, + "loss": 0.2058, + "num_input_tokens_seen": 4592056, + "step": 2331 + }, + { + "epoch": 0.3090788601722995, + "grad_norm": 2.4256484508514404, + "learning_rate": 4.871177572719139e-06, + "loss": 0.015, + "num_input_tokens_seen": 4593672, + "step": 2332 + }, + { + "epoch": 0.3092113982770046, + "grad_norm": 0.1641574203968048, + "learning_rate": 4.871067554591932e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4595240, + "step": 2333 + }, + { + "epoch": 0.30934393638170976, + "grad_norm": 0.10168379545211792, + "learning_rate": 4.870957490748907e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4596616, + "step": 2334 + }, + { + "epoch": 0.30947647448641485, + "grad_norm": 0.2703472077846527, + "learning_rate": 4.870847381192185e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4598280, + "step": 2335 + }, + { + "epoch": 0.30960901259111995, + "grad_norm": 0.0431048721075058, + "learning_rate": 4.870737225923891e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4599424, + "step": 2336 + }, + { + "epoch": 0.30974155069582504, + "grad_norm": 0.21082842350006104, + "learning_rate": 4.870627024946146e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4601512, + "step": 2337 + }, + { + "epoch": 0.30987408880053013, + "grad_norm": 27.151540756225586, + "learning_rate": 4.870516778261078e-06, + "loss": 0.9187, + "num_input_tokens_seen": 4604264, + "step": 2338 + }, + { + "epoch": 0.3100066269052352, + "grad_norm": 16.894166946411133, + "learning_rate": 4.870406485870811e-06, + "loss": 0.3856, + "num_input_tokens_seen": 4605808, + "step": 2339 + }, + { + "epoch": 0.3101391650099404, + "grad_norm": 6.911101818084717, + "learning_rate": 4.8702961477774715e-06, + "loss": 0.2188, + "num_input_tokens_seen": 4607600, + "step": 2340 + }, + { + "epoch": 0.31027170311464547, + "grad_norm": 21.6949462890625, + "learning_rate": 4.870185763983187e-06, + "loss": 0.5444, + "num_input_tokens_seen": 4609160, + "step": 2341 + }, + { + "epoch": 0.31040424121935056, + "grad_norm": 16.570449829101562, + "learning_rate": 4.870075334490086e-06, + "loss": 0.6775, + "num_input_tokens_seen": 4611192, + "step": 2342 + }, + { + "epoch": 0.31053677932405566, + "grad_norm": 9.404993057250977, + "learning_rate": 4.869964859300298e-06, + "loss": 0.314, + "num_input_tokens_seen": 4613360, + "step": 2343 + }, + { + "epoch": 0.31066931742876075, + "grad_norm": 42.66393280029297, + "learning_rate": 4.869854338415952e-06, + "loss": 0.174, + "num_input_tokens_seen": 4615856, + "step": 2344 + }, + { + "epoch": 0.3108018555334659, + "grad_norm": 0.05939304456114769, + "learning_rate": 4.86974377183918e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4616984, + "step": 2345 + }, + { + "epoch": 0.310934393638171, + "grad_norm": 5.048226833343506, + "learning_rate": 4.869633159572113e-06, + "loss": 0.0804, + "num_input_tokens_seen": 4619464, + "step": 2346 + }, + { + "epoch": 0.3110669317428761, + "grad_norm": 0.09742506593465805, + "learning_rate": 4.869522501616884e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4620880, + "step": 2347 + }, + { + "epoch": 0.3111994698475812, + "grad_norm": 10.257518768310547, + "learning_rate": 4.869411797975626e-06, + "loss": 0.2994, + "num_input_tokens_seen": 4622664, + "step": 2348 + }, + { + "epoch": 0.31133200795228627, + "grad_norm": 10.37560749053955, + "learning_rate": 4.869301048650474e-06, + "loss": 0.2133, + "num_input_tokens_seen": 4625760, + "step": 2349 + }, + { + "epoch": 0.31146454605699136, + "grad_norm": 3.146977663040161, + "learning_rate": 4.869190253643565e-06, + "loss": 0.082, + "num_input_tokens_seen": 4627384, + "step": 2350 + }, + { + "epoch": 0.3115970841616965, + "grad_norm": 17.42863655090332, + "learning_rate": 4.869079412957031e-06, + "loss": 0.0101, + "num_input_tokens_seen": 4629448, + "step": 2351 + }, + { + "epoch": 0.3117296222664016, + "grad_norm": 15.892781257629395, + "learning_rate": 4.868968526593013e-06, + "loss": 0.1414, + "num_input_tokens_seen": 4632032, + "step": 2352 + }, + { + "epoch": 0.3118621603711067, + "grad_norm": 0.18932265043258667, + "learning_rate": 4.868857594553647e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4633640, + "step": 2353 + }, + { + "epoch": 0.3119946984758118, + "grad_norm": 0.05859370157122612, + "learning_rate": 4.8687466168410726e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4635016, + "step": 2354 + }, + { + "epoch": 0.3121272365805169, + "grad_norm": 0.13451075553894043, + "learning_rate": 4.868635593457429e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4637168, + "step": 2355 + }, + { + "epoch": 0.312259774685222, + "grad_norm": 7.182871341705322, + "learning_rate": 4.868524524404858e-06, + "loss": 0.14, + "num_input_tokens_seen": 4638720, + "step": 2356 + }, + { + "epoch": 0.31239231278992713, + "grad_norm": 0.08676090836524963, + "learning_rate": 4.868413409685499e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4640088, + "step": 2357 + }, + { + "epoch": 0.3125248508946322, + "grad_norm": 8.121641159057617, + "learning_rate": 4.868302249301497e-06, + "loss": 0.2428, + "num_input_tokens_seen": 4641840, + "step": 2358 + }, + { + "epoch": 0.3126573889993373, + "grad_norm": 8.843557357788086, + "learning_rate": 4.8681910432549925e-06, + "loss": 0.2957, + "num_input_tokens_seen": 4643264, + "step": 2359 + }, + { + "epoch": 0.3127899271040424, + "grad_norm": 9.292862892150879, + "learning_rate": 4.868079791548131e-06, + "loss": 0.2335, + "num_input_tokens_seen": 4644536, + "step": 2360 + }, + { + "epoch": 0.3129224652087475, + "grad_norm": 11.492375373840332, + "learning_rate": 4.867968494183058e-06, + "loss": 0.3478, + "num_input_tokens_seen": 4646544, + "step": 2361 + }, + { + "epoch": 0.3130550033134526, + "grad_norm": 5.405326843261719, + "learning_rate": 4.86785715116192e-06, + "loss": 0.1007, + "num_input_tokens_seen": 4648752, + "step": 2362 + }, + { + "epoch": 0.31318754141815774, + "grad_norm": 11.212135314941406, + "learning_rate": 4.867745762486862e-06, + "loss": 0.4053, + "num_input_tokens_seen": 4651064, + "step": 2363 + }, + { + "epoch": 0.31332007952286284, + "grad_norm": 0.39075979590415955, + "learning_rate": 4.8676343281600306e-06, + "loss": 0.0025, + "num_input_tokens_seen": 4653416, + "step": 2364 + }, + { + "epoch": 0.31345261762756793, + "grad_norm": 6.183170795440674, + "learning_rate": 4.867522848183578e-06, + "loss": 0.2085, + "num_input_tokens_seen": 4655432, + "step": 2365 + }, + { + "epoch": 0.313585155732273, + "grad_norm": 9.377362251281738, + "learning_rate": 4.8674113225596495e-06, + "loss": 0.3691, + "num_input_tokens_seen": 4657448, + "step": 2366 + }, + { + "epoch": 0.3137176938369781, + "grad_norm": 16.857759475708008, + "learning_rate": 4.8672997512904e-06, + "loss": 0.346, + "num_input_tokens_seen": 4659840, + "step": 2367 + }, + { + "epoch": 0.3138502319416832, + "grad_norm": 27.054405212402344, + "learning_rate": 4.867188134377977e-06, + "loss": 0.6092, + "num_input_tokens_seen": 4661112, + "step": 2368 + }, + { + "epoch": 0.31398277004638836, + "grad_norm": 12.904631614685059, + "learning_rate": 4.8670764718245335e-06, + "loss": 0.2831, + "num_input_tokens_seen": 4662472, + "step": 2369 + }, + { + "epoch": 0.31411530815109345, + "grad_norm": 1.072129249572754, + "learning_rate": 4.866964763632222e-06, + "loss": 0.0068, + "num_input_tokens_seen": 4664096, + "step": 2370 + }, + { + "epoch": 0.31424784625579855, + "grad_norm": 6.47117280960083, + "learning_rate": 4.866853009803198e-06, + "loss": 0.1221, + "num_input_tokens_seen": 4665968, + "step": 2371 + }, + { + "epoch": 0.31438038436050364, + "grad_norm": 8.04733943939209, + "learning_rate": 4.866741210339615e-06, + "loss": 0.3006, + "num_input_tokens_seen": 4668752, + "step": 2372 + }, + { + "epoch": 0.31451292246520873, + "grad_norm": 8.533254623413086, + "learning_rate": 4.866629365243629e-06, + "loss": 0.1317, + "num_input_tokens_seen": 4670632, + "step": 2373 + }, + { + "epoch": 0.3146454605699138, + "grad_norm": 6.609121799468994, + "learning_rate": 4.866517474517396e-06, + "loss": 0.1295, + "num_input_tokens_seen": 4672288, + "step": 2374 + }, + { + "epoch": 0.314777998674619, + "grad_norm": 9.03375244140625, + "learning_rate": 4.866405538163073e-06, + "loss": 0.1818, + "num_input_tokens_seen": 4674160, + "step": 2375 + }, + { + "epoch": 0.31491053677932407, + "grad_norm": 0.3066478669643402, + "learning_rate": 4.86629355618282e-06, + "loss": 0.002, + "num_input_tokens_seen": 4675792, + "step": 2376 + }, + { + "epoch": 0.31504307488402916, + "grad_norm": 0.27516910433769226, + "learning_rate": 4.866181528578793e-06, + "loss": 0.0018, + "num_input_tokens_seen": 4677432, + "step": 2377 + }, + { + "epoch": 0.31517561298873426, + "grad_norm": 6.214582920074463, + "learning_rate": 4.866069455353155e-06, + "loss": 0.1704, + "num_input_tokens_seen": 4679904, + "step": 2378 + }, + { + "epoch": 0.31530815109343935, + "grad_norm": 0.33407238125801086, + "learning_rate": 4.8659573365080655e-06, + "loss": 0.0021, + "num_input_tokens_seen": 4681536, + "step": 2379 + }, + { + "epoch": 0.31544068919814444, + "grad_norm": 18.06239128112793, + "learning_rate": 4.865845172045686e-06, + "loss": 0.6775, + "num_input_tokens_seen": 4683944, + "step": 2380 + }, + { + "epoch": 0.3155732273028496, + "grad_norm": 11.272034645080566, + "learning_rate": 4.865732961968179e-06, + "loss": 0.2196, + "num_input_tokens_seen": 4686272, + "step": 2381 + }, + { + "epoch": 0.3157057654075547, + "grad_norm": 5.787203788757324, + "learning_rate": 4.865620706277709e-06, + "loss": 0.1253, + "num_input_tokens_seen": 4687424, + "step": 2382 + }, + { + "epoch": 0.3158383035122598, + "grad_norm": 13.923933029174805, + "learning_rate": 4.865508404976441e-06, + "loss": 0.4374, + "num_input_tokens_seen": 4689960, + "step": 2383 + }, + { + "epoch": 0.31597084161696487, + "grad_norm": 11.860907554626465, + "learning_rate": 4.865396058066538e-06, + "loss": 0.4108, + "num_input_tokens_seen": 4692296, + "step": 2384 + }, + { + "epoch": 0.31610337972166996, + "grad_norm": 11.430327415466309, + "learning_rate": 4.865283665550167e-06, + "loss": 0.4003, + "num_input_tokens_seen": 4694272, + "step": 2385 + }, + { + "epoch": 0.31623591782637506, + "grad_norm": 7.905951976776123, + "learning_rate": 4.865171227429495e-06, + "loss": 0.095, + "num_input_tokens_seen": 4696800, + "step": 2386 + }, + { + "epoch": 0.3163684559310802, + "grad_norm": 7.172763824462891, + "learning_rate": 4.865058743706691e-06, + "loss": 0.1535, + "num_input_tokens_seen": 4698528, + "step": 2387 + }, + { + "epoch": 0.3165009940357853, + "grad_norm": 9.360395431518555, + "learning_rate": 4.864946214383922e-06, + "loss": 0.2372, + "num_input_tokens_seen": 4700200, + "step": 2388 + }, + { + "epoch": 0.3166335321404904, + "grad_norm": 8.127171516418457, + "learning_rate": 4.8648336394633585e-06, + "loss": 0.1542, + "num_input_tokens_seen": 4702768, + "step": 2389 + }, + { + "epoch": 0.3167660702451955, + "grad_norm": 0.3152252733707428, + "learning_rate": 4.8647210189471726e-06, + "loss": 0.0019, + "num_input_tokens_seen": 4704712, + "step": 2390 + }, + { + "epoch": 0.3168986083499006, + "grad_norm": 2.2181358337402344, + "learning_rate": 4.864608352837532e-06, + "loss": 0.0039, + "num_input_tokens_seen": 4707312, + "step": 2391 + }, + { + "epoch": 0.3170311464546057, + "grad_norm": 0.11500225961208344, + "learning_rate": 4.864495641136612e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4708512, + "step": 2392 + }, + { + "epoch": 0.3171636845593108, + "grad_norm": 11.490994453430176, + "learning_rate": 4.864382883846586e-06, + "loss": 0.2637, + "num_input_tokens_seen": 4710568, + "step": 2393 + }, + { + "epoch": 0.3172962226640159, + "grad_norm": 12.361715316772461, + "learning_rate": 4.864270080969625e-06, + "loss": 0.1677, + "num_input_tokens_seen": 4713128, + "step": 2394 + }, + { + "epoch": 0.317428760768721, + "grad_norm": 7.869872093200684, + "learning_rate": 4.864157232507907e-06, + "loss": 0.1173, + "num_input_tokens_seen": 4715064, + "step": 2395 + }, + { + "epoch": 0.3175612988734261, + "grad_norm": 4.561809062957764, + "learning_rate": 4.864044338463606e-06, + "loss": 0.0363, + "num_input_tokens_seen": 4717384, + "step": 2396 + }, + { + "epoch": 0.3176938369781312, + "grad_norm": 5.06044864654541, + "learning_rate": 4.863931398838899e-06, + "loss": 0.109, + "num_input_tokens_seen": 4719560, + "step": 2397 + }, + { + "epoch": 0.3178263750828363, + "grad_norm": 13.439164161682129, + "learning_rate": 4.863818413635965e-06, + "loss": 0.4624, + "num_input_tokens_seen": 4722008, + "step": 2398 + }, + { + "epoch": 0.31795891318754144, + "grad_norm": 10.076236724853516, + "learning_rate": 4.8637053828569805e-06, + "loss": 0.3145, + "num_input_tokens_seen": 4724496, + "step": 2399 + }, + { + "epoch": 0.31809145129224653, + "grad_norm": 0.09990496933460236, + "learning_rate": 4.863592306504125e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4726496, + "step": 2400 + }, + { + "epoch": 0.3182239893969516, + "grad_norm": 0.03365609422326088, + "learning_rate": 4.863479184579581e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4727584, + "step": 2401 + }, + { + "epoch": 0.3183565275016567, + "grad_norm": 9.044075012207031, + "learning_rate": 4.8633660170855255e-06, + "loss": 0.4158, + "num_input_tokens_seen": 4729672, + "step": 2402 + }, + { + "epoch": 0.3184890656063618, + "grad_norm": 0.04071224108338356, + "learning_rate": 4.863252804024145e-06, + "loss": 0.0002, + "num_input_tokens_seen": 4730992, + "step": 2403 + }, + { + "epoch": 0.31862160371106696, + "grad_norm": 29.465429306030273, + "learning_rate": 4.863139545397619e-06, + "loss": 1.0326, + "num_input_tokens_seen": 4732744, + "step": 2404 + }, + { + "epoch": 0.31875414181577205, + "grad_norm": 9.384528160095215, + "learning_rate": 4.863026241208132e-06, + "loss": 0.1982, + "num_input_tokens_seen": 4734560, + "step": 2405 + }, + { + "epoch": 0.31888667992047715, + "grad_norm": 15.243741989135742, + "learning_rate": 4.8629128914578695e-06, + "loss": 0.4678, + "num_input_tokens_seen": 4736760, + "step": 2406 + }, + { + "epoch": 0.31901921802518224, + "grad_norm": 7.035901069641113, + "learning_rate": 4.862799496149017e-06, + "loss": 0.2825, + "num_input_tokens_seen": 4738344, + "step": 2407 + }, + { + "epoch": 0.31915175612988733, + "grad_norm": 10.949930191040039, + "learning_rate": 4.8626860552837585e-06, + "loss": 0.1726, + "num_input_tokens_seen": 4739928, + "step": 2408 + }, + { + "epoch": 0.3192842942345924, + "grad_norm": 24.149385452270508, + "learning_rate": 4.862572568864285e-06, + "loss": 0.6593, + "num_input_tokens_seen": 4742408, + "step": 2409 + }, + { + "epoch": 0.3194168323392976, + "grad_norm": 14.280720710754395, + "learning_rate": 4.86245903689278e-06, + "loss": 0.539, + "num_input_tokens_seen": 4744752, + "step": 2410 + }, + { + "epoch": 0.31954937044400267, + "grad_norm": 15.06515884399414, + "learning_rate": 4.862345459371437e-06, + "loss": 0.3699, + "num_input_tokens_seen": 4746504, + "step": 2411 + }, + { + "epoch": 0.31968190854870776, + "grad_norm": 0.07665840536355972, + "learning_rate": 4.862231836302444e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4747736, + "step": 2412 + }, + { + "epoch": 0.31981444665341285, + "grad_norm": 11.211732864379883, + "learning_rate": 4.862118167687991e-06, + "loss": 0.2193, + "num_input_tokens_seen": 4749712, + "step": 2413 + }, + { + "epoch": 0.31994698475811795, + "grad_norm": 15.756593704223633, + "learning_rate": 4.862004453530269e-06, + "loss": 0.45, + "num_input_tokens_seen": 4751960, + "step": 2414 + }, + { + "epoch": 0.32007952286282304, + "grad_norm": 8.564964294433594, + "learning_rate": 4.861890693831472e-06, + "loss": 0.1738, + "num_input_tokens_seen": 4754992, + "step": 2415 + }, + { + "epoch": 0.3202120609675282, + "grad_norm": 5.211246967315674, + "learning_rate": 4.8617768885937944e-06, + "loss": 0.1933, + "num_input_tokens_seen": 4757832, + "step": 2416 + }, + { + "epoch": 0.3203445990722333, + "grad_norm": 5.289076328277588, + "learning_rate": 4.861663037819428e-06, + "loss": 0.0431, + "num_input_tokens_seen": 4759272, + "step": 2417 + }, + { + "epoch": 0.3204771371769384, + "grad_norm": 12.89932632446289, + "learning_rate": 4.86154914151057e-06, + "loss": 0.4088, + "num_input_tokens_seen": 4760960, + "step": 2418 + }, + { + "epoch": 0.32060967528164347, + "grad_norm": 0.10930877923965454, + "learning_rate": 4.861435199669414e-06, + "loss": 0.0007, + "num_input_tokens_seen": 4762392, + "step": 2419 + }, + { + "epoch": 0.32074221338634856, + "grad_norm": 12.59751033782959, + "learning_rate": 4.86132121229816e-06, + "loss": 0.5084, + "num_input_tokens_seen": 4764512, + "step": 2420 + }, + { + "epoch": 0.32087475149105366, + "grad_norm": 0.10619465261697769, + "learning_rate": 4.8612071793990025e-06, + "loss": 0.0006, + "num_input_tokens_seen": 4765744, + "step": 2421 + }, + { + "epoch": 0.3210072895957588, + "grad_norm": 11.316045761108398, + "learning_rate": 4.861093100974143e-06, + "loss": 0.1684, + "num_input_tokens_seen": 4767816, + "step": 2422 + }, + { + "epoch": 0.3211398277004639, + "grad_norm": 20.91433334350586, + "learning_rate": 4.860978977025779e-06, + "loss": 0.9307, + "num_input_tokens_seen": 4770264, + "step": 2423 + }, + { + "epoch": 0.321272365805169, + "grad_norm": 0.16921111941337585, + "learning_rate": 4.86086480755611e-06, + "loss": 0.001, + "num_input_tokens_seen": 4771952, + "step": 2424 + }, + { + "epoch": 0.3214049039098741, + "grad_norm": 6.8373894691467285, + "learning_rate": 4.8607505925673414e-06, + "loss": 0.062, + "num_input_tokens_seen": 4773352, + "step": 2425 + }, + { + "epoch": 0.3215374420145792, + "grad_norm": 0.16040894389152527, + "learning_rate": 4.860636332061671e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4775432, + "step": 2426 + }, + { + "epoch": 0.32166998011928427, + "grad_norm": 14.172039031982422, + "learning_rate": 4.860522026041304e-06, + "loss": 0.3022, + "num_input_tokens_seen": 4777392, + "step": 2427 + }, + { + "epoch": 0.3218025182239894, + "grad_norm": 10.313090324401855, + "learning_rate": 4.860407674508445e-06, + "loss": 0.3031, + "num_input_tokens_seen": 4779728, + "step": 2428 + }, + { + "epoch": 0.3219350563286945, + "grad_norm": 0.8662859797477722, + "learning_rate": 4.860293277465296e-06, + "loss": 0.0022, + "num_input_tokens_seen": 4781424, + "step": 2429 + }, + { + "epoch": 0.3220675944333996, + "grad_norm": 0.09188725054264069, + "learning_rate": 4.860178834914066e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4782480, + "step": 2430 + }, + { + "epoch": 0.3222001325381047, + "grad_norm": 5.912001609802246, + "learning_rate": 4.860064346856959e-06, + "loss": 0.1457, + "num_input_tokens_seen": 4784264, + "step": 2431 + }, + { + "epoch": 0.3223326706428098, + "grad_norm": 0.1483450084924698, + "learning_rate": 4.859949813296184e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4786752, + "step": 2432 + }, + { + "epoch": 0.3224652087475149, + "grad_norm": 7.647861957550049, + "learning_rate": 4.859835234233947e-06, + "loss": 0.1633, + "num_input_tokens_seen": 4788856, + "step": 2433 + }, + { + "epoch": 0.32259774685222004, + "grad_norm": 0.1386691778898239, + "learning_rate": 4.85972060967246e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4789936, + "step": 2434 + }, + { + "epoch": 0.32273028495692513, + "grad_norm": 2.059891939163208, + "learning_rate": 4.859605939613932e-06, + "loss": 0.0393, + "num_input_tokens_seen": 4792120, + "step": 2435 + }, + { + "epoch": 0.3228628230616302, + "grad_norm": 0.15478159487247467, + "learning_rate": 4.859491224060572e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4793984, + "step": 2436 + }, + { + "epoch": 0.3229953611663353, + "grad_norm": 8.184882164001465, + "learning_rate": 4.8593764630145955e-06, + "loss": 0.1682, + "num_input_tokens_seen": 4795624, + "step": 2437 + }, + { + "epoch": 0.3231278992710404, + "grad_norm": 14.103765487670898, + "learning_rate": 4.859261656478211e-06, + "loss": 0.4096, + "num_input_tokens_seen": 4797152, + "step": 2438 + }, + { + "epoch": 0.3232604373757455, + "grad_norm": 11.606586456298828, + "learning_rate": 4.859146804453636e-06, + "loss": 0.3912, + "num_input_tokens_seen": 4798984, + "step": 2439 + }, + { + "epoch": 0.32339297548045065, + "grad_norm": 3.270960569381714, + "learning_rate": 4.859031906943082e-06, + "loss": 0.0972, + "num_input_tokens_seen": 4800688, + "step": 2440 + }, + { + "epoch": 0.32352551358515574, + "grad_norm": 6.662178039550781, + "learning_rate": 4.858916963948767e-06, + "loss": 0.0694, + "num_input_tokens_seen": 4802464, + "step": 2441 + }, + { + "epoch": 0.32365805168986084, + "grad_norm": 3.5934388637542725, + "learning_rate": 4.858801975472904e-06, + "loss": 0.0596, + "num_input_tokens_seen": 4804184, + "step": 2442 + }, + { + "epoch": 0.32379058979456593, + "grad_norm": 7.985162258148193, + "learning_rate": 4.858686941517712e-06, + "loss": 0.2226, + "num_input_tokens_seen": 4806176, + "step": 2443 + }, + { + "epoch": 0.323923127899271, + "grad_norm": 13.521080017089844, + "learning_rate": 4.858571862085409e-06, + "loss": 0.235, + "num_input_tokens_seen": 4807752, + "step": 2444 + }, + { + "epoch": 0.3240556660039761, + "grad_norm": 6.998464584350586, + "learning_rate": 4.8584567371782134e-06, + "loss": 0.2099, + "num_input_tokens_seen": 4810544, + "step": 2445 + }, + { + "epoch": 0.32418820410868127, + "grad_norm": 0.3152054250240326, + "learning_rate": 4.858341566798344e-06, + "loss": 0.0016, + "num_input_tokens_seen": 4812168, + "step": 2446 + }, + { + "epoch": 0.32432074221338636, + "grad_norm": 1.6591954231262207, + "learning_rate": 4.858226350948023e-06, + "loss": 0.0071, + "num_input_tokens_seen": 4813648, + "step": 2447 + }, + { + "epoch": 0.32445328031809145, + "grad_norm": 6.460522651672363, + "learning_rate": 4.858111089629472e-06, + "loss": 0.0952, + "num_input_tokens_seen": 4815288, + "step": 2448 + }, + { + "epoch": 0.32458581842279655, + "grad_norm": 0.23468884825706482, + "learning_rate": 4.857995782844911e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4817048, + "step": 2449 + }, + { + "epoch": 0.32471835652750164, + "grad_norm": 0.535457968711853, + "learning_rate": 4.8578804305965645e-06, + "loss": 0.0029, + "num_input_tokens_seen": 4819232, + "step": 2450 + }, + { + "epoch": 0.32485089463220673, + "grad_norm": 18.374446868896484, + "learning_rate": 4.857765032886657e-06, + "loss": 0.8662, + "num_input_tokens_seen": 4822720, + "step": 2451 + }, + { + "epoch": 0.3249834327369119, + "grad_norm": 2.967433214187622, + "learning_rate": 4.857649589717413e-06, + "loss": 0.0131, + "num_input_tokens_seen": 4824576, + "step": 2452 + }, + { + "epoch": 0.325115970841617, + "grad_norm": 0.044765494763851166, + "learning_rate": 4.857534101091059e-06, + "loss": 0.0003, + "num_input_tokens_seen": 4827352, + "step": 2453 + }, + { + "epoch": 0.32524850894632207, + "grad_norm": 19.87103271484375, + "learning_rate": 4.857418567009821e-06, + "loss": 0.8718, + "num_input_tokens_seen": 4829512, + "step": 2454 + }, + { + "epoch": 0.32538104705102716, + "grad_norm": 17.599321365356445, + "learning_rate": 4.857302987475927e-06, + "loss": 0.6143, + "num_input_tokens_seen": 4831112, + "step": 2455 + }, + { + "epoch": 0.32551358515573225, + "grad_norm": 8.495377540588379, + "learning_rate": 4.857187362491605e-06, + "loss": 0.1442, + "num_input_tokens_seen": 4833416, + "step": 2456 + }, + { + "epoch": 0.3256461232604374, + "grad_norm": 0.08904121071100235, + "learning_rate": 4.857071692059085e-06, + "loss": 0.0005, + "num_input_tokens_seen": 4834496, + "step": 2457 + }, + { + "epoch": 0.3257786613651425, + "grad_norm": 21.11811637878418, + "learning_rate": 4.856955976180595e-06, + "loss": 0.7141, + "num_input_tokens_seen": 4836240, + "step": 2458 + }, + { + "epoch": 0.3259111994698476, + "grad_norm": 7.011678218841553, + "learning_rate": 4.856840214858369e-06, + "loss": 0.1682, + "num_input_tokens_seen": 4838648, + "step": 2459 + }, + { + "epoch": 0.3260437375745527, + "grad_norm": 9.919988632202148, + "learning_rate": 4.856724408094637e-06, + "loss": 0.2142, + "num_input_tokens_seen": 4841000, + "step": 2460 + }, + { + "epoch": 0.3261762756792578, + "grad_norm": 12.991177558898926, + "learning_rate": 4.856608555891634e-06, + "loss": 0.21, + "num_input_tokens_seen": 4842776, + "step": 2461 + }, + { + "epoch": 0.32630881378396287, + "grad_norm": 20.477828979492188, + "learning_rate": 4.856492658251591e-06, + "loss": 0.6444, + "num_input_tokens_seen": 4844944, + "step": 2462 + }, + { + "epoch": 0.326441351888668, + "grad_norm": 17.48164176940918, + "learning_rate": 4.8563767151767446e-06, + "loss": 0.5143, + "num_input_tokens_seen": 4846152, + "step": 2463 + }, + { + "epoch": 0.3265738899933731, + "grad_norm": 0.2186077982187271, + "learning_rate": 4.856260726669329e-06, + "loss": 0.0013, + "num_input_tokens_seen": 4847488, + "step": 2464 + }, + { + "epoch": 0.3267064280980782, + "grad_norm": 15.246328353881836, + "learning_rate": 4.856144692731582e-06, + "loss": 1.0336, + "num_input_tokens_seen": 4850600, + "step": 2465 + }, + { + "epoch": 0.3268389662027833, + "grad_norm": 11.29224681854248, + "learning_rate": 4.85602861336574e-06, + "loss": 0.3545, + "num_input_tokens_seen": 4852560, + "step": 2466 + }, + { + "epoch": 0.3269715043074884, + "grad_norm": 20.979074478149414, + "learning_rate": 4.855912488574039e-06, + "loss": 0.5786, + "num_input_tokens_seen": 4854432, + "step": 2467 + }, + { + "epoch": 0.3271040424121935, + "grad_norm": 0.33819472789764404, + "learning_rate": 4.855796318358722e-06, + "loss": 0.002, + "num_input_tokens_seen": 4856384, + "step": 2468 + }, + { + "epoch": 0.32723658051689863, + "grad_norm": 6.447828769683838, + "learning_rate": 4.855680102722026e-06, + "loss": 0.1995, + "num_input_tokens_seen": 4858552, + "step": 2469 + }, + { + "epoch": 0.3273691186216037, + "grad_norm": 2.3483965396881104, + "learning_rate": 4.8555638416661924e-06, + "loss": 0.013, + "num_input_tokens_seen": 4859896, + "step": 2470 + }, + { + "epoch": 0.3275016567263088, + "grad_norm": 11.520812034606934, + "learning_rate": 4.8554475351934635e-06, + "loss": 0.1894, + "num_input_tokens_seen": 4861528, + "step": 2471 + }, + { + "epoch": 0.3276341948310139, + "grad_norm": 0.5696682929992676, + "learning_rate": 4.8553311833060805e-06, + "loss": 0.0035, + "num_input_tokens_seen": 4862648, + "step": 2472 + }, + { + "epoch": 0.327766732935719, + "grad_norm": 6.993871688842773, + "learning_rate": 4.855214786006288e-06, + "loss": 0.2435, + "num_input_tokens_seen": 4865056, + "step": 2473 + }, + { + "epoch": 0.3278992710404241, + "grad_norm": 0.48319047689437866, + "learning_rate": 4.855098343296329e-06, + "loss": 0.003, + "num_input_tokens_seen": 4866872, + "step": 2474 + }, + { + "epoch": 0.32803180914512925, + "grad_norm": 10.132923126220703, + "learning_rate": 4.85498185517845e-06, + "loss": 0.138, + "num_input_tokens_seen": 4868936, + "step": 2475 + }, + { + "epoch": 0.32816434724983434, + "grad_norm": 1.9582284688949585, + "learning_rate": 4.854865321654896e-06, + "loss": 0.0121, + "num_input_tokens_seen": 4870592, + "step": 2476 + }, + { + "epoch": 0.32829688535453944, + "grad_norm": 14.191243171691895, + "learning_rate": 4.854748742727914e-06, + "loss": 0.4173, + "num_input_tokens_seen": 4872192, + "step": 2477 + }, + { + "epoch": 0.32842942345924453, + "grad_norm": 8.466787338256836, + "learning_rate": 4.854632118399751e-06, + "loss": 0.0963, + "num_input_tokens_seen": 4874112, + "step": 2478 + }, + { + "epoch": 0.3285619615639496, + "grad_norm": 7.038083076477051, + "learning_rate": 4.854515448672658e-06, + "loss": 0.1798, + "num_input_tokens_seen": 4875176, + "step": 2479 + }, + { + "epoch": 0.3286944996686547, + "grad_norm": 13.709606170654297, + "learning_rate": 4.854398733548882e-06, + "loss": 0.3756, + "num_input_tokens_seen": 4877640, + "step": 2480 + }, + { + "epoch": 0.32882703777335986, + "grad_norm": 7.141223907470703, + "learning_rate": 4.854281973030674e-06, + "loss": 0.1695, + "num_input_tokens_seen": 4879976, + "step": 2481 + }, + { + "epoch": 0.32895957587806496, + "grad_norm": 1.346604585647583, + "learning_rate": 4.854165167120285e-06, + "loss": 0.0083, + "num_input_tokens_seen": 4881848, + "step": 2482 + }, + { + "epoch": 0.32909211398277005, + "grad_norm": 6.044533729553223, + "learning_rate": 4.854048315819968e-06, + "loss": 0.1629, + "num_input_tokens_seen": 4883520, + "step": 2483 + }, + { + "epoch": 0.32922465208747514, + "grad_norm": 5.787064075469971, + "learning_rate": 4.853931419131976e-06, + "loss": 0.2168, + "num_input_tokens_seen": 4884640, + "step": 2484 + }, + { + "epoch": 0.32935719019218024, + "grad_norm": 14.233854293823242, + "learning_rate": 4.853814477058561e-06, + "loss": 0.49, + "num_input_tokens_seen": 4886864, + "step": 2485 + }, + { + "epoch": 0.32948972829688533, + "grad_norm": 14.842486381530762, + "learning_rate": 4.853697489601981e-06, + "loss": 0.5716, + "num_input_tokens_seen": 4889024, + "step": 2486 + }, + { + "epoch": 0.3296222664015905, + "grad_norm": 5.033909320831299, + "learning_rate": 4.8535804567644886e-06, + "loss": 0.0394, + "num_input_tokens_seen": 4891248, + "step": 2487 + }, + { + "epoch": 0.3297548045062956, + "grad_norm": 0.6181367039680481, + "learning_rate": 4.853463378548341e-06, + "loss": 0.0037, + "num_input_tokens_seen": 4893656, + "step": 2488 + }, + { + "epoch": 0.32988734261100067, + "grad_norm": 21.318761825561523, + "learning_rate": 4.853346254955796e-06, + "loss": 0.7032, + "num_input_tokens_seen": 4895816, + "step": 2489 + }, + { + "epoch": 0.33001988071570576, + "grad_norm": 2.9122464656829834, + "learning_rate": 4.8532290859891125e-06, + "loss": 0.0414, + "num_input_tokens_seen": 4897624, + "step": 2490 + }, + { + "epoch": 0.33015241882041085, + "grad_norm": 0.5618943572044373, + "learning_rate": 4.853111871650548e-06, + "loss": 0.0034, + "num_input_tokens_seen": 4898888, + "step": 2491 + }, + { + "epoch": 0.33028495692511595, + "grad_norm": 14.67484188079834, + "learning_rate": 4.852994611942364e-06, + "loss": 0.8535, + "num_input_tokens_seen": 4901672, + "step": 2492 + }, + { + "epoch": 0.3304174950298211, + "grad_norm": 3.7947425842285156, + "learning_rate": 4.85287730686682e-06, + "loss": 0.0248, + "num_input_tokens_seen": 4903704, + "step": 2493 + }, + { + "epoch": 0.3305500331345262, + "grad_norm": 9.250006675720215, + "learning_rate": 4.852759956426178e-06, + "loss": 0.2065, + "num_input_tokens_seen": 4905544, + "step": 2494 + }, + { + "epoch": 0.3306825712392313, + "grad_norm": 14.868971824645996, + "learning_rate": 4.852642560622702e-06, + "loss": 0.4638, + "num_input_tokens_seen": 4907304, + "step": 2495 + }, + { + "epoch": 0.3308151093439364, + "grad_norm": 16.35065460205078, + "learning_rate": 4.852525119458654e-06, + "loss": 0.5164, + "num_input_tokens_seen": 4909720, + "step": 2496 + }, + { + "epoch": 0.33094764744864147, + "grad_norm": 0.8608124852180481, + "learning_rate": 4.852407632936299e-06, + "loss": 0.0047, + "num_input_tokens_seen": 4911344, + "step": 2497 + }, + { + "epoch": 0.33108018555334656, + "grad_norm": 6.037642002105713, + "learning_rate": 4.852290101057901e-06, + "loss": 0.0996, + "num_input_tokens_seen": 4914296, + "step": 2498 + }, + { + "epoch": 0.3312127236580517, + "grad_norm": 5.970702171325684, + "learning_rate": 4.852172523825729e-06, + "loss": 0.18, + "num_input_tokens_seen": 4916032, + "step": 2499 + }, + { + "epoch": 0.3313452617627568, + "grad_norm": 1.6504173278808594, + "learning_rate": 4.852054901242046e-06, + "loss": 0.0085, + "num_input_tokens_seen": 4917976, + "step": 2500 + }, + { + "epoch": 0.3314777998674619, + "grad_norm": 1.5778703689575195, + "learning_rate": 4.851937233309123e-06, + "loss": 0.0071, + "num_input_tokens_seen": 4920024, + "step": 2501 + }, + { + "epoch": 0.331610337972167, + "grad_norm": 2.2431654930114746, + "learning_rate": 4.851819520029227e-06, + "loss": 0.0355, + "num_input_tokens_seen": 4921448, + "step": 2502 + }, + { + "epoch": 0.3317428760768721, + "grad_norm": 13.440147399902344, + "learning_rate": 4.851701761404629e-06, + "loss": 0.4951, + "num_input_tokens_seen": 4923336, + "step": 2503 + }, + { + "epoch": 0.3318754141815772, + "grad_norm": 0.7404280304908752, + "learning_rate": 4.851583957437598e-06, + "loss": 0.0037, + "num_input_tokens_seen": 4925056, + "step": 2504 + }, + { + "epoch": 0.3320079522862823, + "grad_norm": 11.032755851745605, + "learning_rate": 4.851466108130406e-06, + "loss": 0.438, + "num_input_tokens_seen": 4926792, + "step": 2505 + }, + { + "epoch": 0.3321404903909874, + "grad_norm": 10.95981216430664, + "learning_rate": 4.851348213485326e-06, + "loss": 0.491, + "num_input_tokens_seen": 4928664, + "step": 2506 + }, + { + "epoch": 0.3322730284956925, + "grad_norm": 17.006113052368164, + "learning_rate": 4.85123027350463e-06, + "loss": 0.5775, + "num_input_tokens_seen": 4931424, + "step": 2507 + }, + { + "epoch": 0.3324055666003976, + "grad_norm": 0.47183868288993835, + "learning_rate": 4.851112288190592e-06, + "loss": 0.0023, + "num_input_tokens_seen": 4932824, + "step": 2508 + }, + { + "epoch": 0.3325381047051027, + "grad_norm": 8.050056457519531, + "learning_rate": 4.850994257545488e-06, + "loss": 0.339, + "num_input_tokens_seen": 4935664, + "step": 2509 + }, + { + "epoch": 0.3326706428098078, + "grad_norm": 0.3868926167488098, + "learning_rate": 4.850876181571592e-06, + "loss": 0.0016, + "num_input_tokens_seen": 4938328, + "step": 2510 + }, + { + "epoch": 0.33280318091451294, + "grad_norm": 14.420541763305664, + "learning_rate": 4.850758060271181e-06, + "loss": 0.6009, + "num_input_tokens_seen": 4940472, + "step": 2511 + }, + { + "epoch": 0.33293571901921803, + "grad_norm": 0.22953245043754578, + "learning_rate": 4.850639893646534e-06, + "loss": 0.0012, + "num_input_tokens_seen": 4941968, + "step": 2512 + }, + { + "epoch": 0.33306825712392313, + "grad_norm": 13.4358549118042, + "learning_rate": 4.850521681699928e-06, + "loss": 0.5495, + "num_input_tokens_seen": 4943256, + "step": 2513 + }, + { + "epoch": 0.3332007952286282, + "grad_norm": 1.4146995544433594, + "learning_rate": 4.850403424433642e-06, + "loss": 0.0062, + "num_input_tokens_seen": 4945560, + "step": 2514 + }, + { + "epoch": 0.3333333333333333, + "grad_norm": 6.421215057373047, + "learning_rate": 4.8502851218499566e-06, + "loss": 0.1505, + "num_input_tokens_seen": 4947256, + "step": 2515 + }, + { + "epoch": 0.33346587143803846, + "grad_norm": 13.972963333129883, + "learning_rate": 4.850166773951153e-06, + "loss": 0.4566, + "num_input_tokens_seen": 4949064, + "step": 2516 + }, + { + "epoch": 0.33359840954274356, + "grad_norm": 12.054634094238281, + "learning_rate": 4.850048380739512e-06, + "loss": 0.5551, + "num_input_tokens_seen": 4951520, + "step": 2517 + }, + { + "epoch": 0.33373094764744865, + "grad_norm": 0.5132588148117065, + "learning_rate": 4.849929942217318e-06, + "loss": 0.0028, + "num_input_tokens_seen": 4953472, + "step": 2518 + }, + { + "epoch": 0.33386348575215374, + "grad_norm": 12.718517303466797, + "learning_rate": 4.849811458386853e-06, + "loss": 0.3673, + "num_input_tokens_seen": 4955392, + "step": 2519 + }, + { + "epoch": 0.33399602385685884, + "grad_norm": 0.06976090371608734, + "learning_rate": 4.849692929250401e-06, + "loss": 0.0004, + "num_input_tokens_seen": 4956336, + "step": 2520 + }, + { + "epoch": 0.33412856196156393, + "grad_norm": 13.524518013000488, + "learning_rate": 4.849574354810251e-06, + "loss": 0.4958, + "num_input_tokens_seen": 4958872, + "step": 2521 + }, + { + "epoch": 0.3342611000662691, + "grad_norm": 13.198885917663574, + "learning_rate": 4.849455735068684e-06, + "loss": 0.5385, + "num_input_tokens_seen": 4960768, + "step": 2522 + }, + { + "epoch": 0.3343936381709742, + "grad_norm": 0.14774581789970398, + "learning_rate": 4.8493370700279905e-06, + "loss": 0.0009, + "num_input_tokens_seen": 4963336, + "step": 2523 + }, + { + "epoch": 0.33452617627567927, + "grad_norm": 10.848809242248535, + "learning_rate": 4.849218359690458e-06, + "loss": 0.2331, + "num_input_tokens_seen": 4965240, + "step": 2524 + }, + { + "epoch": 0.33465871438038436, + "grad_norm": 0.13256627321243286, + "learning_rate": 4.849099604058375e-06, + "loss": 0.0008, + "num_input_tokens_seen": 4967208, + "step": 2525 + }, + { + "epoch": 0.33479125248508945, + "grad_norm": 5.851517677307129, + "learning_rate": 4.84898080313403e-06, + "loss": 0.0832, + "num_input_tokens_seen": 4969416, + "step": 2526 + }, + { + "epoch": 0.33492379058979455, + "grad_norm": 16.57158088684082, + "learning_rate": 4.848861956919715e-06, + "loss": 0.206, + "num_input_tokens_seen": 4971528, + "step": 2527 + }, + { + "epoch": 0.3350563286944997, + "grad_norm": 2.150195837020874, + "learning_rate": 4.848743065417722e-06, + "loss": 0.0522, + "num_input_tokens_seen": 4973120, + "step": 2528 + }, + { + "epoch": 0.3351888667992048, + "grad_norm": 0.17715318500995636, + "learning_rate": 4.8486241286303415e-06, + "loss": 0.0011, + "num_input_tokens_seen": 4974960, + "step": 2529 + }, + { + "epoch": 0.3353214049039099, + "grad_norm": 11.661783218383789, + "learning_rate": 4.848505146559868e-06, + "loss": 0.2968, + "num_input_tokens_seen": 4976984, + "step": 2530 + }, + { + "epoch": 0.335453943008615, + "grad_norm": 15.448066711425781, + "learning_rate": 4.848386119208595e-06, + "loss": 0.4958, + "num_input_tokens_seen": 4980304, + "step": 2531 + }, + { + "epoch": 0.33558648111332007, + "grad_norm": 6.0017828941345215, + "learning_rate": 4.848267046578817e-06, + "loss": 0.1532, + "num_input_tokens_seen": 4982344, + "step": 2532 + }, + { + "epoch": 0.33571901921802516, + "grad_norm": 3.1475830078125, + "learning_rate": 4.848147928672831e-06, + "loss": 0.0737, + "num_input_tokens_seen": 4984304, + "step": 2533 + }, + { + "epoch": 0.3358515573227303, + "grad_norm": 9.871624946594238, + "learning_rate": 4.8480287654929326e-06, + "loss": 0.2759, + "num_input_tokens_seen": 4986216, + "step": 2534 + }, + { + "epoch": 0.3359840954274354, + "grad_norm": 8.20520305633545, + "learning_rate": 4.84790955704142e-06, + "loss": 0.2514, + "num_input_tokens_seen": 4987912, + "step": 2535 + }, + { + "epoch": 0.3361166335321405, + "grad_norm": 14.068840980529785, + "learning_rate": 4.847790303320592e-06, + "loss": 0.2199, + "num_input_tokens_seen": 4989104, + "step": 2536 + }, + { + "epoch": 0.3362491716368456, + "grad_norm": 13.081754684448242, + "learning_rate": 4.847671004332746e-06, + "loss": 0.4257, + "num_input_tokens_seen": 4990960, + "step": 2537 + }, + { + "epoch": 0.3363817097415507, + "grad_norm": 1.3506258726119995, + "learning_rate": 4.847551660080184e-06, + "loss": 0.0086, + "num_input_tokens_seen": 4993200, + "step": 2538 + }, + { + "epoch": 0.3365142478462558, + "grad_norm": 1.0557507276535034, + "learning_rate": 4.847432270565207e-06, + "loss": 0.0068, + "num_input_tokens_seen": 4994464, + "step": 2539 + }, + { + "epoch": 0.3366467859509609, + "grad_norm": 12.210657119750977, + "learning_rate": 4.847312835790117e-06, + "loss": 0.1723, + "num_input_tokens_seen": 4996960, + "step": 2540 + }, + { + "epoch": 0.336779324055666, + "grad_norm": 1.9731026887893677, + "learning_rate": 4.847193355757215e-06, + "loss": 0.0121, + "num_input_tokens_seen": 4999848, + "step": 2541 + }, + { + "epoch": 0.3369118621603711, + "grad_norm": 8.374910354614258, + "learning_rate": 4.8470738304688055e-06, + "loss": 0.2966, + "num_input_tokens_seen": 5002256, + "step": 2542 + }, + { + "epoch": 0.3370444002650762, + "grad_norm": 0.3551548719406128, + "learning_rate": 4.846954259927195e-06, + "loss": 0.0022, + "num_input_tokens_seen": 5004672, + "step": 2543 + }, + { + "epoch": 0.3371769383697813, + "grad_norm": 14.602219581604004, + "learning_rate": 4.846834644134686e-06, + "loss": 0.507, + "num_input_tokens_seen": 5006896, + "step": 2544 + }, + { + "epoch": 0.3373094764744864, + "grad_norm": 17.20040512084961, + "learning_rate": 4.8467149830935865e-06, + "loss": 0.6817, + "num_input_tokens_seen": 5007968, + "step": 2545 + }, + { + "epoch": 0.33744201457919154, + "grad_norm": 9.876198768615723, + "learning_rate": 4.846595276806203e-06, + "loss": 0.3634, + "num_input_tokens_seen": 5009816, + "step": 2546 + }, + { + "epoch": 0.33757455268389663, + "grad_norm": 0.33512306213378906, + "learning_rate": 4.846475525274844e-06, + "loss": 0.0021, + "num_input_tokens_seen": 5011016, + "step": 2547 + }, + { + "epoch": 0.3377070907886017, + "grad_norm": 20.322330474853516, + "learning_rate": 4.846355728501817e-06, + "loss": 0.4798, + "num_input_tokens_seen": 5012856, + "step": 2548 + }, + { + "epoch": 0.3378396288933068, + "grad_norm": 8.270444869995117, + "learning_rate": 4.8462358864894345e-06, + "loss": 0.1673, + "num_input_tokens_seen": 5014592, + "step": 2549 + }, + { + "epoch": 0.3379721669980119, + "grad_norm": 15.18359661102295, + "learning_rate": 4.8461159992400044e-06, + "loss": 0.547, + "num_input_tokens_seen": 5016760, + "step": 2550 + }, + { + "epoch": 0.338104705102717, + "grad_norm": 4.201569557189941, + "learning_rate": 4.84599606675584e-06, + "loss": 0.0104, + "num_input_tokens_seen": 5019664, + "step": 2551 + }, + { + "epoch": 0.33823724320742216, + "grad_norm": 10.736529350280762, + "learning_rate": 4.845876089039253e-06, + "loss": 0.2526, + "num_input_tokens_seen": 5021336, + "step": 2552 + }, + { + "epoch": 0.33836978131212725, + "grad_norm": 4.422069549560547, + "learning_rate": 4.845756066092556e-06, + "loss": 0.0624, + "num_input_tokens_seen": 5022448, + "step": 2553 + }, + { + "epoch": 0.33850231941683234, + "grad_norm": 0.2259720116853714, + "learning_rate": 4.845635997918064e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5024408, + "step": 2554 + }, + { + "epoch": 0.33863485752153744, + "grad_norm": 8.32859992980957, + "learning_rate": 4.845515884518093e-06, + "loss": 0.1041, + "num_input_tokens_seen": 5026944, + "step": 2555 + }, + { + "epoch": 0.33876739562624253, + "grad_norm": 9.94010066986084, + "learning_rate": 4.845395725894956e-06, + "loss": 0.1135, + "num_input_tokens_seen": 5028832, + "step": 2556 + }, + { + "epoch": 0.3388999337309476, + "grad_norm": 10.362662315368652, + "learning_rate": 4.845275522050973e-06, + "loss": 0.1865, + "num_input_tokens_seen": 5031224, + "step": 2557 + }, + { + "epoch": 0.33903247183565277, + "grad_norm": 8.959379196166992, + "learning_rate": 4.845155272988459e-06, + "loss": 0.3073, + "num_input_tokens_seen": 5032296, + "step": 2558 + }, + { + "epoch": 0.33916500994035786, + "grad_norm": 0.3402162194252014, + "learning_rate": 4.845034978709733e-06, + "loss": 0.0021, + "num_input_tokens_seen": 5033824, + "step": 2559 + }, + { + "epoch": 0.33929754804506296, + "grad_norm": 5.115143299102783, + "learning_rate": 4.844914639217115e-06, + "loss": 0.1712, + "num_input_tokens_seen": 5036352, + "step": 2560 + }, + { + "epoch": 0.33943008614976805, + "grad_norm": 14.035609245300293, + "learning_rate": 4.844794254512926e-06, + "loss": 0.3628, + "num_input_tokens_seen": 5038480, + "step": 2561 + }, + { + "epoch": 0.33956262425447314, + "grad_norm": 6.534146785736084, + "learning_rate": 4.844673824599486e-06, + "loss": 0.0682, + "num_input_tokens_seen": 5040264, + "step": 2562 + }, + { + "epoch": 0.33969516235917824, + "grad_norm": 0.33945485949516296, + "learning_rate": 4.844553349479117e-06, + "loss": 0.0021, + "num_input_tokens_seen": 5042176, + "step": 2563 + }, + { + "epoch": 0.3398277004638834, + "grad_norm": 11.172015190124512, + "learning_rate": 4.844432829154142e-06, + "loss": 0.5188, + "num_input_tokens_seen": 5044112, + "step": 2564 + }, + { + "epoch": 0.3399602385685885, + "grad_norm": 10.872260093688965, + "learning_rate": 4.8443122636268845e-06, + "loss": 0.194, + "num_input_tokens_seen": 5045808, + "step": 2565 + }, + { + "epoch": 0.3400927766732936, + "grad_norm": 11.375405311584473, + "learning_rate": 4.844191652899669e-06, + "loss": 0.3708, + "num_input_tokens_seen": 5047744, + "step": 2566 + }, + { + "epoch": 0.34022531477799867, + "grad_norm": 0.38756489753723145, + "learning_rate": 4.844070996974822e-06, + "loss": 0.0025, + "num_input_tokens_seen": 5050336, + "step": 2567 + }, + { + "epoch": 0.34035785288270376, + "grad_norm": 0.30488312244415283, + "learning_rate": 4.8439502958546684e-06, + "loss": 0.0018, + "num_input_tokens_seen": 5052408, + "step": 2568 + }, + { + "epoch": 0.34049039098740885, + "grad_norm": 0.1934095025062561, + "learning_rate": 4.843829549541537e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5054376, + "step": 2569 + }, + { + "epoch": 0.340622929092114, + "grad_norm": 16.13597297668457, + "learning_rate": 4.843708758037754e-06, + "loss": 0.7639, + "num_input_tokens_seen": 5056688, + "step": 2570 + }, + { + "epoch": 0.3407554671968191, + "grad_norm": 0.2038782835006714, + "learning_rate": 4.843587921345649e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5057808, + "step": 2571 + }, + { + "epoch": 0.3408880053015242, + "grad_norm": 18.087759017944336, + "learning_rate": 4.8434670394675536e-06, + "loss": 0.5012, + "num_input_tokens_seen": 5059872, + "step": 2572 + }, + { + "epoch": 0.3410205434062293, + "grad_norm": 0.5027891993522644, + "learning_rate": 4.843346112405796e-06, + "loss": 0.0027, + "num_input_tokens_seen": 5061496, + "step": 2573 + }, + { + "epoch": 0.3411530815109344, + "grad_norm": 0.2382429987192154, + "learning_rate": 4.84322514016271e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5063712, + "step": 2574 + }, + { + "epoch": 0.3412856196156395, + "grad_norm": 3.5534324645996094, + "learning_rate": 4.843104122740625e-06, + "loss": 0.0369, + "num_input_tokens_seen": 5065600, + "step": 2575 + }, + { + "epoch": 0.3414181577203446, + "grad_norm": 13.352022171020508, + "learning_rate": 4.842983060141877e-06, + "loss": 0.4957, + "num_input_tokens_seen": 5067280, + "step": 2576 + }, + { + "epoch": 0.3415506958250497, + "grad_norm": 14.412768363952637, + "learning_rate": 4.842861952368799e-06, + "loss": 0.4341, + "num_input_tokens_seen": 5069552, + "step": 2577 + }, + { + "epoch": 0.3416832339297548, + "grad_norm": 8.399524688720703, + "learning_rate": 4.842740799423726e-06, + "loss": 0.0724, + "num_input_tokens_seen": 5071856, + "step": 2578 + }, + { + "epoch": 0.3418157720344599, + "grad_norm": 0.09015511721372604, + "learning_rate": 4.8426196013089945e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5073472, + "step": 2579 + }, + { + "epoch": 0.341948310139165, + "grad_norm": 13.617608070373535, + "learning_rate": 4.8424983580269416e-06, + "loss": 0.3859, + "num_input_tokens_seen": 5075080, + "step": 2580 + }, + { + "epoch": 0.34208084824387014, + "grad_norm": 1.20191490650177, + "learning_rate": 4.8423770695799035e-06, + "loss": 0.0047, + "num_input_tokens_seen": 5077224, + "step": 2581 + }, + { + "epoch": 0.34221338634857523, + "grad_norm": 5.682173728942871, + "learning_rate": 4.842255735970221e-06, + "loss": 0.0736, + "num_input_tokens_seen": 5078576, + "step": 2582 + }, + { + "epoch": 0.3423459244532803, + "grad_norm": 9.435686111450195, + "learning_rate": 4.842134357200231e-06, + "loss": 0.106, + "num_input_tokens_seen": 5079936, + "step": 2583 + }, + { + "epoch": 0.3424784625579854, + "grad_norm": 7.388195514678955, + "learning_rate": 4.842012933272274e-06, + "loss": 0.0934, + "num_input_tokens_seen": 5081912, + "step": 2584 + }, + { + "epoch": 0.3426110006626905, + "grad_norm": 13.4119873046875, + "learning_rate": 4.841891464188692e-06, + "loss": 0.3727, + "num_input_tokens_seen": 5083584, + "step": 2585 + }, + { + "epoch": 0.3427435387673956, + "grad_norm": 15.916617393493652, + "learning_rate": 4.841769949951829e-06, + "loss": 0.3822, + "num_input_tokens_seen": 5085688, + "step": 2586 + }, + { + "epoch": 0.34287607687210075, + "grad_norm": 0.062166765332221985, + "learning_rate": 4.841648390564025e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5086848, + "step": 2587 + }, + { + "epoch": 0.34300861497680585, + "grad_norm": 0.06384774297475815, + "learning_rate": 4.841526786027624e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5088200, + "step": 2588 + }, + { + "epoch": 0.34314115308151094, + "grad_norm": 0.0751710832118988, + "learning_rate": 4.841405136344971e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5089440, + "step": 2589 + }, + { + "epoch": 0.34327369118621603, + "grad_norm": 8.333683013916016, + "learning_rate": 4.841283441518413e-06, + "loss": 0.2896, + "num_input_tokens_seen": 5091008, + "step": 2590 + }, + { + "epoch": 0.34340622929092113, + "grad_norm": 0.11106595396995544, + "learning_rate": 4.841161701550295e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5092968, + "step": 2591 + }, + { + "epoch": 0.3435387673956262, + "grad_norm": 8.654097557067871, + "learning_rate": 4.841039916442962e-06, + "loss": 0.2042, + "num_input_tokens_seen": 5094864, + "step": 2592 + }, + { + "epoch": 0.34367130550033137, + "grad_norm": 5.409858226776123, + "learning_rate": 4.840918086198767e-06, + "loss": 0.1349, + "num_input_tokens_seen": 5096288, + "step": 2593 + }, + { + "epoch": 0.34380384360503646, + "grad_norm": 6.716861248016357, + "learning_rate": 4.840796210820055e-06, + "loss": 0.1318, + "num_input_tokens_seen": 5098192, + "step": 2594 + }, + { + "epoch": 0.34393638170974156, + "grad_norm": 0.07945011556148529, + "learning_rate": 4.840674290309178e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5100760, + "step": 2595 + }, + { + "epoch": 0.34406891981444665, + "grad_norm": 13.218320846557617, + "learning_rate": 4.840552324668485e-06, + "loss": 0.2058, + "num_input_tokens_seen": 5102936, + "step": 2596 + }, + { + "epoch": 0.34420145791915174, + "grad_norm": 7.486458778381348, + "learning_rate": 4.8404303139003295e-06, + "loss": 0.1768, + "num_input_tokens_seen": 5105112, + "step": 2597 + }, + { + "epoch": 0.34433399602385684, + "grad_norm": 19.353336334228516, + "learning_rate": 4.840308258007063e-06, + "loss": 0.5371, + "num_input_tokens_seen": 5107368, + "step": 2598 + }, + { + "epoch": 0.344466534128562, + "grad_norm": 31.570310592651367, + "learning_rate": 4.840186156991038e-06, + "loss": 0.5615, + "num_input_tokens_seen": 5109696, + "step": 2599 + }, + { + "epoch": 0.3445990722332671, + "grad_norm": 0.14075443148612976, + "learning_rate": 4.840064010854609e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5111008, + "step": 2600 + }, + { + "epoch": 0.34473161033797217, + "grad_norm": 0.15091027319431305, + "learning_rate": 4.839941819600133e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5112848, + "step": 2601 + }, + { + "epoch": 0.34486414844267727, + "grad_norm": 20.39800453186035, + "learning_rate": 4.839819583229964e-06, + "loss": 0.7999, + "num_input_tokens_seen": 5114928, + "step": 2602 + }, + { + "epoch": 0.34499668654738236, + "grad_norm": 0.3418734073638916, + "learning_rate": 4.839697301746459e-06, + "loss": 0.002, + "num_input_tokens_seen": 5116216, + "step": 2603 + }, + { + "epoch": 0.34512922465208745, + "grad_norm": 11.38237476348877, + "learning_rate": 4.839574975151976e-06, + "loss": 0.4725, + "num_input_tokens_seen": 5118312, + "step": 2604 + }, + { + "epoch": 0.3452617627567926, + "grad_norm": 8.359557151794434, + "learning_rate": 4.839452603448873e-06, + "loss": 0.2628, + "num_input_tokens_seen": 5120232, + "step": 2605 + }, + { + "epoch": 0.3453943008614977, + "grad_norm": 7.7645649909973145, + "learning_rate": 4.839330186639511e-06, + "loss": 0.2457, + "num_input_tokens_seen": 5122272, + "step": 2606 + }, + { + "epoch": 0.3455268389662028, + "grad_norm": 0.20248530805110931, + "learning_rate": 4.839207724726248e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5125072, + "step": 2607 + }, + { + "epoch": 0.3456593770709079, + "grad_norm": 0.6183853149414062, + "learning_rate": 4.8390852177114476e-06, + "loss": 0.0084, + "num_input_tokens_seen": 5126776, + "step": 2608 + }, + { + "epoch": 0.345791915175613, + "grad_norm": 2.827495813369751, + "learning_rate": 4.83896266559747e-06, + "loss": 0.0221, + "num_input_tokens_seen": 5128088, + "step": 2609 + }, + { + "epoch": 0.34592445328031807, + "grad_norm": 10.523560523986816, + "learning_rate": 4.838840068386678e-06, + "loss": 0.1884, + "num_input_tokens_seen": 5130200, + "step": 2610 + }, + { + "epoch": 0.3460569913850232, + "grad_norm": 15.118446350097656, + "learning_rate": 4.838717426081437e-06, + "loss": 0.4927, + "num_input_tokens_seen": 5131984, + "step": 2611 + }, + { + "epoch": 0.3461895294897283, + "grad_norm": 6.286466121673584, + "learning_rate": 4.83859473868411e-06, + "loss": 0.168, + "num_input_tokens_seen": 5134160, + "step": 2612 + }, + { + "epoch": 0.3463220675944334, + "grad_norm": 8.771166801452637, + "learning_rate": 4.838472006197064e-06, + "loss": 0.1892, + "num_input_tokens_seen": 5135832, + "step": 2613 + }, + { + "epoch": 0.3464546056991385, + "grad_norm": 7.78450345993042, + "learning_rate": 4.838349228622663e-06, + "loss": 0.2389, + "num_input_tokens_seen": 5137688, + "step": 2614 + }, + { + "epoch": 0.3465871438038436, + "grad_norm": 7.166824817657471, + "learning_rate": 4.838226405963277e-06, + "loss": 0.1208, + "num_input_tokens_seen": 5139384, + "step": 2615 + }, + { + "epoch": 0.3467196819085487, + "grad_norm": 11.340084075927734, + "learning_rate": 4.838103538221272e-06, + "loss": 0.4306, + "num_input_tokens_seen": 5141208, + "step": 2616 + }, + { + "epoch": 0.34685222001325383, + "grad_norm": 5.661216735839844, + "learning_rate": 4.837980625399018e-06, + "loss": 0.0798, + "num_input_tokens_seen": 5143376, + "step": 2617 + }, + { + "epoch": 0.3469847581179589, + "grad_norm": 13.118907928466797, + "learning_rate": 4.837857667498885e-06, + "loss": 0.3629, + "num_input_tokens_seen": 5146192, + "step": 2618 + }, + { + "epoch": 0.347117296222664, + "grad_norm": 5.755819797515869, + "learning_rate": 4.837734664523243e-06, + "loss": 0.1382, + "num_input_tokens_seen": 5148608, + "step": 2619 + }, + { + "epoch": 0.3472498343273691, + "grad_norm": 11.884995460510254, + "learning_rate": 4.8376116164744645e-06, + "loss": 0.0692, + "num_input_tokens_seen": 5151888, + "step": 2620 + }, + { + "epoch": 0.3473823724320742, + "grad_norm": 5.193696975708008, + "learning_rate": 4.837488523354921e-06, + "loss": 0.2207, + "num_input_tokens_seen": 5153544, + "step": 2621 + }, + { + "epoch": 0.3475149105367793, + "grad_norm": 1.6338624954223633, + "learning_rate": 4.837365385166986e-06, + "loss": 0.0221, + "num_input_tokens_seen": 5154784, + "step": 2622 + }, + { + "epoch": 0.34764744864148445, + "grad_norm": 8.607190132141113, + "learning_rate": 4.837242201913035e-06, + "loss": 0.1012, + "num_input_tokens_seen": 5156640, + "step": 2623 + }, + { + "epoch": 0.34777998674618954, + "grad_norm": 12.23025131225586, + "learning_rate": 4.83711897359544e-06, + "loss": 0.219, + "num_input_tokens_seen": 5158408, + "step": 2624 + }, + { + "epoch": 0.34791252485089463, + "grad_norm": 0.14775116741657257, + "learning_rate": 4.836995700216581e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5160480, + "step": 2625 + }, + { + "epoch": 0.3480450629555997, + "grad_norm": 12.328269958496094, + "learning_rate": 4.8368723817788314e-06, + "loss": 0.3127, + "num_input_tokens_seen": 5162112, + "step": 2626 + }, + { + "epoch": 0.3481776010603048, + "grad_norm": 6.5969319343566895, + "learning_rate": 4.83674901828457e-06, + "loss": 0.0767, + "num_input_tokens_seen": 5163856, + "step": 2627 + }, + { + "epoch": 0.3483101391650099, + "grad_norm": 15.464762687683105, + "learning_rate": 4.836625609736176e-06, + "loss": 0.4079, + "num_input_tokens_seen": 5165776, + "step": 2628 + }, + { + "epoch": 0.34844267726971506, + "grad_norm": 2.8966989517211914, + "learning_rate": 4.836502156136028e-06, + "loss": 0.0183, + "num_input_tokens_seen": 5167984, + "step": 2629 + }, + { + "epoch": 0.34857521537442016, + "grad_norm": 21.495792388916016, + "learning_rate": 4.836378657486508e-06, + "loss": 0.6785, + "num_input_tokens_seen": 5170472, + "step": 2630 + }, + { + "epoch": 0.34870775347912525, + "grad_norm": 0.4247101843357086, + "learning_rate": 4.836255113789994e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5171832, + "step": 2631 + }, + { + "epoch": 0.34884029158383034, + "grad_norm": 11.294836044311523, + "learning_rate": 4.8361315250488705e-06, + "loss": 0.3737, + "num_input_tokens_seen": 5173560, + "step": 2632 + }, + { + "epoch": 0.34897282968853544, + "grad_norm": 1.940533995628357, + "learning_rate": 4.836007891265519e-06, + "loss": 0.0116, + "num_input_tokens_seen": 5174920, + "step": 2633 + }, + { + "epoch": 0.3491053677932406, + "grad_norm": 0.193169504404068, + "learning_rate": 4.8358842124423245e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5176512, + "step": 2634 + }, + { + "epoch": 0.3492379058979457, + "grad_norm": 18.383394241333008, + "learning_rate": 4.83576048858167e-06, + "loss": 0.3589, + "num_input_tokens_seen": 5177888, + "step": 2635 + }, + { + "epoch": 0.34937044400265077, + "grad_norm": 0.08755943924188614, + "learning_rate": 4.835636719685942e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5179104, + "step": 2636 + }, + { + "epoch": 0.34950298210735586, + "grad_norm": 1.7547752857208252, + "learning_rate": 4.835512905757528e-06, + "loss": 0.0068, + "num_input_tokens_seen": 5181416, + "step": 2637 + }, + { + "epoch": 0.34963552021206096, + "grad_norm": 0.1409478783607483, + "learning_rate": 4.835389046798813e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5183224, + "step": 2638 + }, + { + "epoch": 0.34976805831676605, + "grad_norm": 8.044390678405762, + "learning_rate": 4.835265142812187e-06, + "loss": 0.2563, + "num_input_tokens_seen": 5185472, + "step": 2639 + }, + { + "epoch": 0.3499005964214712, + "grad_norm": 11.293478965759277, + "learning_rate": 4.835141193800037e-06, + "loss": 0.2075, + "num_input_tokens_seen": 5187528, + "step": 2640 + }, + { + "epoch": 0.3500331345261763, + "grad_norm": 11.678450584411621, + "learning_rate": 4.835017199764754e-06, + "loss": 0.3128, + "num_input_tokens_seen": 5189648, + "step": 2641 + }, + { + "epoch": 0.3501656726308814, + "grad_norm": 7.599231243133545, + "learning_rate": 4.834893160708729e-06, + "loss": 0.1659, + "num_input_tokens_seen": 5192112, + "step": 2642 + }, + { + "epoch": 0.3502982107355865, + "grad_norm": 8.560397148132324, + "learning_rate": 4.834769076634352e-06, + "loss": 0.2134, + "num_input_tokens_seen": 5193912, + "step": 2643 + }, + { + "epoch": 0.3504307488402916, + "grad_norm": 9.08426284790039, + "learning_rate": 4.834644947544018e-06, + "loss": 0.0999, + "num_input_tokens_seen": 5196600, + "step": 2644 + }, + { + "epoch": 0.35056328694499667, + "grad_norm": 0.066383957862854, + "learning_rate": 4.834520773440118e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5198632, + "step": 2645 + }, + { + "epoch": 0.3506958250497018, + "grad_norm": 12.781527519226074, + "learning_rate": 4.834396554325047e-06, + "loss": 0.3929, + "num_input_tokens_seen": 5199968, + "step": 2646 + }, + { + "epoch": 0.3508283631544069, + "grad_norm": 0.10992295295000076, + "learning_rate": 4.8342722902012005e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5201168, + "step": 2647 + }, + { + "epoch": 0.350960901259112, + "grad_norm": 2.396319627761841, + "learning_rate": 4.834147981070973e-06, + "loss": 0.0607, + "num_input_tokens_seen": 5202952, + "step": 2648 + }, + { + "epoch": 0.3510934393638171, + "grad_norm": 12.338872909545898, + "learning_rate": 4.834023626936763e-06, + "loss": 0.3525, + "num_input_tokens_seen": 5204624, + "step": 2649 + }, + { + "epoch": 0.3512259774685222, + "grad_norm": 3.2395901679992676, + "learning_rate": 4.833899227800968e-06, + "loss": 0.0208, + "num_input_tokens_seen": 5206496, + "step": 2650 + }, + { + "epoch": 0.3513585155732273, + "grad_norm": 5.437209606170654, + "learning_rate": 4.833774783665985e-06, + "loss": 0.0834, + "num_input_tokens_seen": 5207776, + "step": 2651 + }, + { + "epoch": 0.35149105367793243, + "grad_norm": 0.08772001415491104, + "learning_rate": 4.833650294534214e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5209368, + "step": 2652 + }, + { + "epoch": 0.3516235917826375, + "grad_norm": 7.437930107116699, + "learning_rate": 4.833525760408055e-06, + "loss": 0.0702, + "num_input_tokens_seen": 5211928, + "step": 2653 + }, + { + "epoch": 0.3517561298873426, + "grad_norm": 4.432439804077148, + "learning_rate": 4.83340118128991e-06, + "loss": 0.0404, + "num_input_tokens_seen": 5213920, + "step": 2654 + }, + { + "epoch": 0.3518886679920477, + "grad_norm": 10.84237289428711, + "learning_rate": 4.83327655718218e-06, + "loss": 0.2531, + "num_input_tokens_seen": 5215992, + "step": 2655 + }, + { + "epoch": 0.3520212060967528, + "grad_norm": 19.16095733642578, + "learning_rate": 4.8331518880872695e-06, + "loss": 0.3891, + "num_input_tokens_seen": 5217576, + "step": 2656 + }, + { + "epoch": 0.3521537442014579, + "grad_norm": 12.686888694763184, + "learning_rate": 4.833027174007581e-06, + "loss": 0.4381, + "num_input_tokens_seen": 5219624, + "step": 2657 + }, + { + "epoch": 0.35228628230616305, + "grad_norm": 0.21289145946502686, + "learning_rate": 4.832902414945519e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5221376, + "step": 2658 + }, + { + "epoch": 0.35241882041086814, + "grad_norm": 1.2822811603546143, + "learning_rate": 4.832777610903487e-06, + "loss": 0.0078, + "num_input_tokens_seen": 5223720, + "step": 2659 + }, + { + "epoch": 0.35255135851557323, + "grad_norm": 14.713430404663086, + "learning_rate": 4.832652761883896e-06, + "loss": 0.5127, + "num_input_tokens_seen": 5226280, + "step": 2660 + }, + { + "epoch": 0.3526838966202783, + "grad_norm": 11.527045249938965, + "learning_rate": 4.8325278678891486e-06, + "loss": 0.2571, + "num_input_tokens_seen": 5228496, + "step": 2661 + }, + { + "epoch": 0.3528164347249834, + "grad_norm": 7.736532211303711, + "learning_rate": 4.832402928921656e-06, + "loss": 0.2654, + "num_input_tokens_seen": 5230616, + "step": 2662 + }, + { + "epoch": 0.3529489728296885, + "grad_norm": 10.425844192504883, + "learning_rate": 4.832277944983825e-06, + "loss": 0.1387, + "num_input_tokens_seen": 5231896, + "step": 2663 + }, + { + "epoch": 0.35308151093439366, + "grad_norm": 8.610852241516113, + "learning_rate": 4.832152916078068e-06, + "loss": 0.3806, + "num_input_tokens_seen": 5234064, + "step": 2664 + }, + { + "epoch": 0.35321404903909875, + "grad_norm": 19.013717651367188, + "learning_rate": 4.8320278422067926e-06, + "loss": 0.4992, + "num_input_tokens_seen": 5236192, + "step": 2665 + }, + { + "epoch": 0.35334658714380385, + "grad_norm": 6.491237163543701, + "learning_rate": 4.831902723372412e-06, + "loss": 0.1254, + "num_input_tokens_seen": 5238784, + "step": 2666 + }, + { + "epoch": 0.35347912524850894, + "grad_norm": 10.515507698059082, + "learning_rate": 4.831777559577337e-06, + "loss": 0.2655, + "num_input_tokens_seen": 5240368, + "step": 2667 + }, + { + "epoch": 0.35361166335321403, + "grad_norm": 16.409242630004883, + "learning_rate": 4.8316523508239835e-06, + "loss": 0.4999, + "num_input_tokens_seen": 5242544, + "step": 2668 + }, + { + "epoch": 0.3537442014579191, + "grad_norm": 19.251745223999023, + "learning_rate": 4.831527097114763e-06, + "loss": 0.5179, + "num_input_tokens_seen": 5246024, + "step": 2669 + }, + { + "epoch": 0.3538767395626243, + "grad_norm": 2.0515401363372803, + "learning_rate": 4.831401798452092e-06, + "loss": 0.0117, + "num_input_tokens_seen": 5247656, + "step": 2670 + }, + { + "epoch": 0.35400927766732937, + "grad_norm": 0.660833477973938, + "learning_rate": 4.831276454838386e-06, + "loss": 0.0036, + "num_input_tokens_seen": 5249328, + "step": 2671 + }, + { + "epoch": 0.35414181577203446, + "grad_norm": 8.581456184387207, + "learning_rate": 4.831151066276062e-06, + "loss": 0.2808, + "num_input_tokens_seen": 5251224, + "step": 2672 + }, + { + "epoch": 0.35427435387673956, + "grad_norm": 0.07275553047657013, + "learning_rate": 4.831025632767538e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5252616, + "step": 2673 + }, + { + "epoch": 0.35440689198144465, + "grad_norm": 12.886369705200195, + "learning_rate": 4.83090015431523e-06, + "loss": 0.23, + "num_input_tokens_seen": 5254888, + "step": 2674 + }, + { + "epoch": 0.35453943008614974, + "grad_norm": 0.17593100666999817, + "learning_rate": 4.83077463092156e-06, + "loss": 0.001, + "num_input_tokens_seen": 5256848, + "step": 2675 + }, + { + "epoch": 0.3546719681908549, + "grad_norm": 0.550105094909668, + "learning_rate": 4.830649062588947e-06, + "loss": 0.0027, + "num_input_tokens_seen": 5258152, + "step": 2676 + }, + { + "epoch": 0.35480450629556, + "grad_norm": 0.18115903437137604, + "learning_rate": 4.830523449319813e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5259792, + "step": 2677 + }, + { + "epoch": 0.3549370444002651, + "grad_norm": 0.1869560182094574, + "learning_rate": 4.8303977911165785e-06, + "loss": 0.0008, + "num_input_tokens_seen": 5261400, + "step": 2678 + }, + { + "epoch": 0.35506958250497017, + "grad_norm": 7.449179649353027, + "learning_rate": 4.8302720879816665e-06, + "loss": 0.1592, + "num_input_tokens_seen": 5263936, + "step": 2679 + }, + { + "epoch": 0.35520212060967526, + "grad_norm": 0.06532639265060425, + "learning_rate": 4.830146339917502e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5265440, + "step": 2680 + }, + { + "epoch": 0.35533465871438036, + "grad_norm": 0.03875555470585823, + "learning_rate": 4.830020546926508e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5266936, + "step": 2681 + }, + { + "epoch": 0.3554671968190855, + "grad_norm": 15.970491409301758, + "learning_rate": 4.82989470901111e-06, + "loss": 0.5837, + "num_input_tokens_seen": 5268656, + "step": 2682 + }, + { + "epoch": 0.3555997349237906, + "grad_norm": 11.810888290405273, + "learning_rate": 4.829768826173735e-06, + "loss": 0.1878, + "num_input_tokens_seen": 5271552, + "step": 2683 + }, + { + "epoch": 0.3557322730284957, + "grad_norm": 0.03669019415974617, + "learning_rate": 4.82964289841681e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5273280, + "step": 2684 + }, + { + "epoch": 0.3558648111332008, + "grad_norm": 0.9188379645347595, + "learning_rate": 4.829516925742764e-06, + "loss": 0.0041, + "num_input_tokens_seen": 5274528, + "step": 2685 + }, + { + "epoch": 0.3559973492379059, + "grad_norm": 6.313194274902344, + "learning_rate": 4.829390908154022e-06, + "loss": 0.2197, + "num_input_tokens_seen": 5275928, + "step": 2686 + }, + { + "epoch": 0.356129887342611, + "grad_norm": 18.509252548217773, + "learning_rate": 4.829264845653018e-06, + "loss": 0.5059, + "num_input_tokens_seen": 5277256, + "step": 2687 + }, + { + "epoch": 0.3562624254473161, + "grad_norm": 3.853984832763672, + "learning_rate": 4.829138738242181e-06, + "loss": 0.0307, + "num_input_tokens_seen": 5278624, + "step": 2688 + }, + { + "epoch": 0.3563949635520212, + "grad_norm": 13.607367515563965, + "learning_rate": 4.829012585923942e-06, + "loss": 0.5285, + "num_input_tokens_seen": 5280688, + "step": 2689 + }, + { + "epoch": 0.3565275016567263, + "grad_norm": 0.07905127853155136, + "learning_rate": 4.828886388700734e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5282096, + "step": 2690 + }, + { + "epoch": 0.3566600397614314, + "grad_norm": 6.90317440032959, + "learning_rate": 4.828760146574989e-06, + "loss": 0.1898, + "num_input_tokens_seen": 5283584, + "step": 2691 + }, + { + "epoch": 0.3567925778661365, + "grad_norm": 0.04748100787401199, + "learning_rate": 4.828633859549142e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5285384, + "step": 2692 + }, + { + "epoch": 0.35692511597084164, + "grad_norm": 31.073902130126953, + "learning_rate": 4.828507527625628e-06, + "loss": 1.0915, + "num_input_tokens_seen": 5287624, + "step": 2693 + }, + { + "epoch": 0.35705765407554674, + "grad_norm": 0.05502196028828621, + "learning_rate": 4.8283811508068826e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5289448, + "step": 2694 + }, + { + "epoch": 0.35719019218025183, + "grad_norm": 8.48267936706543, + "learning_rate": 4.828254729095343e-06, + "loss": 0.1088, + "num_input_tokens_seen": 5291328, + "step": 2695 + }, + { + "epoch": 0.3573227302849569, + "grad_norm": 12.937058448791504, + "learning_rate": 4.828128262493445e-06, + "loss": 0.3588, + "num_input_tokens_seen": 5293952, + "step": 2696 + }, + { + "epoch": 0.357455268389662, + "grad_norm": 0.617555558681488, + "learning_rate": 4.828001751003628e-06, + "loss": 0.0032, + "num_input_tokens_seen": 5295536, + "step": 2697 + }, + { + "epoch": 0.3575878064943671, + "grad_norm": 0.9359810948371887, + "learning_rate": 4.827875194628332e-06, + "loss": 0.0052, + "num_input_tokens_seen": 5297944, + "step": 2698 + }, + { + "epoch": 0.35772034459907226, + "grad_norm": 0.20049409568309784, + "learning_rate": 4.827748593369996e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5299568, + "step": 2699 + }, + { + "epoch": 0.35785288270377735, + "grad_norm": 11.105497360229492, + "learning_rate": 4.827621947231061e-06, + "loss": 0.2461, + "num_input_tokens_seen": 5301800, + "step": 2700 + }, + { + "epoch": 0.35798542080848245, + "grad_norm": 8.143413543701172, + "learning_rate": 4.8274952562139695e-06, + "loss": 0.2674, + "num_input_tokens_seen": 5303992, + "step": 2701 + }, + { + "epoch": 0.35811795891318754, + "grad_norm": 0.12301398813724518, + "learning_rate": 4.827368520321163e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5306568, + "step": 2702 + }, + { + "epoch": 0.35825049701789263, + "grad_norm": 10.06353759765625, + "learning_rate": 4.827241739555087e-06, + "loss": 0.1921, + "num_input_tokens_seen": 5308576, + "step": 2703 + }, + { + "epoch": 0.3583830351225977, + "grad_norm": 0.07130112498998642, + "learning_rate": 4.827114913918184e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5309672, + "step": 2704 + }, + { + "epoch": 0.3585155732273029, + "grad_norm": 0.060565609484910965, + "learning_rate": 4.8269880434129e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5311544, + "step": 2705 + }, + { + "epoch": 0.35864811133200797, + "grad_norm": 0.10120686143636703, + "learning_rate": 4.826861128041682e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5313584, + "step": 2706 + }, + { + "epoch": 0.35878064943671306, + "grad_norm": 3.437826156616211, + "learning_rate": 4.826734167806976e-06, + "loss": 0.0766, + "num_input_tokens_seen": 5315568, + "step": 2707 + }, + { + "epoch": 0.35891318754141815, + "grad_norm": 8.354029655456543, + "learning_rate": 4.826607162711229e-06, + "loss": 0.2113, + "num_input_tokens_seen": 5317024, + "step": 2708 + }, + { + "epoch": 0.35904572564612325, + "grad_norm": 18.631977081298828, + "learning_rate": 4.826480112756892e-06, + "loss": 0.4829, + "num_input_tokens_seen": 5318752, + "step": 2709 + }, + { + "epoch": 0.35917826375082834, + "grad_norm": 20.836320877075195, + "learning_rate": 4.826353017946414e-06, + "loss": 0.4978, + "num_input_tokens_seen": 5320952, + "step": 2710 + }, + { + "epoch": 0.3593108018555335, + "grad_norm": 11.428426742553711, + "learning_rate": 4.826225878282244e-06, + "loss": 0.333, + "num_input_tokens_seen": 5322808, + "step": 2711 + }, + { + "epoch": 0.3594433399602386, + "grad_norm": 9.816218376159668, + "learning_rate": 4.826098693766834e-06, + "loss": 0.2347, + "num_input_tokens_seen": 5324424, + "step": 2712 + }, + { + "epoch": 0.3595758780649437, + "grad_norm": 0.17480172216892242, + "learning_rate": 4.825971464402637e-06, + "loss": 0.001, + "num_input_tokens_seen": 5326728, + "step": 2713 + }, + { + "epoch": 0.35970841616964877, + "grad_norm": 0.10027627646923065, + "learning_rate": 4.8258441901921046e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5328160, + "step": 2714 + }, + { + "epoch": 0.35984095427435386, + "grad_norm": 7.035010814666748, + "learning_rate": 4.825716871137694e-06, + "loss": 0.0669, + "num_input_tokens_seen": 5329976, + "step": 2715 + }, + { + "epoch": 0.35997349237905896, + "grad_norm": 0.33973458409309387, + "learning_rate": 4.825589507241856e-06, + "loss": 0.002, + "num_input_tokens_seen": 5332320, + "step": 2716 + }, + { + "epoch": 0.3601060304837641, + "grad_norm": 8.755828857421875, + "learning_rate": 4.825462098507048e-06, + "loss": 0.2259, + "num_input_tokens_seen": 5334408, + "step": 2717 + }, + { + "epoch": 0.3602385685884692, + "grad_norm": 8.906939506530762, + "learning_rate": 4.825334644935727e-06, + "loss": 0.2249, + "num_input_tokens_seen": 5336368, + "step": 2718 + }, + { + "epoch": 0.3603711066931743, + "grad_norm": 0.49791663885116577, + "learning_rate": 4.825207146530349e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5338160, + "step": 2719 + }, + { + "epoch": 0.3605036447978794, + "grad_norm": 5.675534248352051, + "learning_rate": 4.825079603293374e-06, + "loss": 0.0879, + "num_input_tokens_seen": 5339912, + "step": 2720 + }, + { + "epoch": 0.3606361829025845, + "grad_norm": 8.904741287231445, + "learning_rate": 4.82495201522726e-06, + "loss": 0.1763, + "num_input_tokens_seen": 5342760, + "step": 2721 + }, + { + "epoch": 0.3607687210072896, + "grad_norm": 10.000617980957031, + "learning_rate": 4.824824382334467e-06, + "loss": 0.2787, + "num_input_tokens_seen": 5344496, + "step": 2722 + }, + { + "epoch": 0.3609012591119947, + "grad_norm": 4.359716892242432, + "learning_rate": 4.824696704617456e-06, + "loss": 0.0459, + "num_input_tokens_seen": 5346032, + "step": 2723 + }, + { + "epoch": 0.3610337972166998, + "grad_norm": 20.22006607055664, + "learning_rate": 4.824568982078689e-06, + "loss": 0.4951, + "num_input_tokens_seen": 5348568, + "step": 2724 + }, + { + "epoch": 0.3611663353214049, + "grad_norm": 4.95950984954834, + "learning_rate": 4.824441214720629e-06, + "loss": 0.0419, + "num_input_tokens_seen": 5350288, + "step": 2725 + }, + { + "epoch": 0.36129887342611, + "grad_norm": 6.043578624725342, + "learning_rate": 4.824313402545738e-06, + "loss": 0.0915, + "num_input_tokens_seen": 5353072, + "step": 2726 + }, + { + "epoch": 0.3614314115308151, + "grad_norm": 13.984691619873047, + "learning_rate": 4.824185545556482e-06, + "loss": 0.7146, + "num_input_tokens_seen": 5355256, + "step": 2727 + }, + { + "epoch": 0.3615639496355202, + "grad_norm": 9.403741836547852, + "learning_rate": 4.8240576437553246e-06, + "loss": 0.1839, + "num_input_tokens_seen": 5358120, + "step": 2728 + }, + { + "epoch": 0.36169648774022534, + "grad_norm": 9.493645668029785, + "learning_rate": 4.823929697144733e-06, + "loss": 0.2058, + "num_input_tokens_seen": 5359616, + "step": 2729 + }, + { + "epoch": 0.36182902584493043, + "grad_norm": 14.25259780883789, + "learning_rate": 4.823801705727173e-06, + "loss": 0.481, + "num_input_tokens_seen": 5362224, + "step": 2730 + }, + { + "epoch": 0.3619615639496355, + "grad_norm": 3.7409017086029053, + "learning_rate": 4.823673669505113e-06, + "loss": 0.1407, + "num_input_tokens_seen": 5365328, + "step": 2731 + }, + { + "epoch": 0.3620941020543406, + "grad_norm": 19.91145133972168, + "learning_rate": 4.823545588481023e-06, + "loss": 0.6865, + "num_input_tokens_seen": 5367784, + "step": 2732 + }, + { + "epoch": 0.3622266401590457, + "grad_norm": 0.24601709842681885, + "learning_rate": 4.823417462657369e-06, + "loss": 0.0015, + "num_input_tokens_seen": 5370008, + "step": 2733 + }, + { + "epoch": 0.3623591782637508, + "grad_norm": 0.6090838313102722, + "learning_rate": 4.8232892920366255e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5371432, + "step": 2734 + }, + { + "epoch": 0.36249171636845595, + "grad_norm": 10.948972702026367, + "learning_rate": 4.82316107662126e-06, + "loss": 0.2235, + "num_input_tokens_seen": 5372880, + "step": 2735 + }, + { + "epoch": 0.36262425447316105, + "grad_norm": 7.48264741897583, + "learning_rate": 4.8230328164137475e-06, + "loss": 0.1722, + "num_input_tokens_seen": 5374648, + "step": 2736 + }, + { + "epoch": 0.36275679257786614, + "grad_norm": 4.644361972808838, + "learning_rate": 4.82290451141656e-06, + "loss": 0.0631, + "num_input_tokens_seen": 5376232, + "step": 2737 + }, + { + "epoch": 0.36288933068257123, + "grad_norm": 13.291915893554688, + "learning_rate": 4.82277616163217e-06, + "loss": 0.2009, + "num_input_tokens_seen": 5377832, + "step": 2738 + }, + { + "epoch": 0.3630218687872763, + "grad_norm": 5.830990314483643, + "learning_rate": 4.8226477670630535e-06, + "loss": 0.0711, + "num_input_tokens_seen": 5379144, + "step": 2739 + }, + { + "epoch": 0.3631544068919814, + "grad_norm": 7.66276741027832, + "learning_rate": 4.822519327711686e-06, + "loss": 0.1609, + "num_input_tokens_seen": 5380808, + "step": 2740 + }, + { + "epoch": 0.36328694499668657, + "grad_norm": 3.8986198902130127, + "learning_rate": 4.822390843580543e-06, + "loss": 0.0428, + "num_input_tokens_seen": 5382920, + "step": 2741 + }, + { + "epoch": 0.36341948310139166, + "grad_norm": 3.8060407638549805, + "learning_rate": 4.822262314672103e-06, + "loss": 0.0531, + "num_input_tokens_seen": 5384920, + "step": 2742 + }, + { + "epoch": 0.36355202120609675, + "grad_norm": 14.809745788574219, + "learning_rate": 4.822133740988843e-06, + "loss": 0.5055, + "num_input_tokens_seen": 5388112, + "step": 2743 + }, + { + "epoch": 0.36368455931080185, + "grad_norm": 8.85603141784668, + "learning_rate": 4.822005122533243e-06, + "loss": 0.1833, + "num_input_tokens_seen": 5389984, + "step": 2744 + }, + { + "epoch": 0.36381709741550694, + "grad_norm": 14.71507453918457, + "learning_rate": 4.821876459307782e-06, + "loss": 0.6708, + "num_input_tokens_seen": 5392304, + "step": 2745 + }, + { + "epoch": 0.36394963552021203, + "grad_norm": 7.249777793884277, + "learning_rate": 4.821747751314941e-06, + "loss": 0.0601, + "num_input_tokens_seen": 5393952, + "step": 2746 + }, + { + "epoch": 0.3640821736249172, + "grad_norm": 8.879473686218262, + "learning_rate": 4.821618998557202e-06, + "loss": 0.2415, + "num_input_tokens_seen": 5396136, + "step": 2747 + }, + { + "epoch": 0.3642147117296223, + "grad_norm": 1.3180749416351318, + "learning_rate": 4.821490201037048e-06, + "loss": 0.0076, + "num_input_tokens_seen": 5398072, + "step": 2748 + }, + { + "epoch": 0.36434724983432737, + "grad_norm": 13.902233123779297, + "learning_rate": 4.82136135875696e-06, + "loss": 0.4783, + "num_input_tokens_seen": 5400696, + "step": 2749 + }, + { + "epoch": 0.36447978793903246, + "grad_norm": 6.44667911529541, + "learning_rate": 4.821232471719424e-06, + "loss": 0.1601, + "num_input_tokens_seen": 5402016, + "step": 2750 + }, + { + "epoch": 0.36461232604373756, + "grad_norm": 11.358306884765625, + "learning_rate": 4.821103539926925e-06, + "loss": 0.3299, + "num_input_tokens_seen": 5403728, + "step": 2751 + }, + { + "epoch": 0.3647448641484427, + "grad_norm": 15.400067329406738, + "learning_rate": 4.820974563381949e-06, + "loss": 0.5389, + "num_input_tokens_seen": 5405504, + "step": 2752 + }, + { + "epoch": 0.3648774022531478, + "grad_norm": 1.9128706455230713, + "learning_rate": 4.82084554208698e-06, + "loss": 0.0092, + "num_input_tokens_seen": 5407424, + "step": 2753 + }, + { + "epoch": 0.3650099403578529, + "grad_norm": 6.558671474456787, + "learning_rate": 4.82071647604451e-06, + "loss": 0.0386, + "num_input_tokens_seen": 5409048, + "step": 2754 + }, + { + "epoch": 0.365142478462558, + "grad_norm": 8.509815216064453, + "learning_rate": 4.820587365257024e-06, + "loss": 0.1868, + "num_input_tokens_seen": 5410984, + "step": 2755 + }, + { + "epoch": 0.3652750165672631, + "grad_norm": 6.833467483520508, + "learning_rate": 4.820458209727014e-06, + "loss": 0.1614, + "num_input_tokens_seen": 5413344, + "step": 2756 + }, + { + "epoch": 0.36540755467196817, + "grad_norm": 8.644022941589355, + "learning_rate": 4.820329009456968e-06, + "loss": 0.1508, + "num_input_tokens_seen": 5415096, + "step": 2757 + }, + { + "epoch": 0.3655400927766733, + "grad_norm": 10.98110580444336, + "learning_rate": 4.820199764449378e-06, + "loss": 0.3432, + "num_input_tokens_seen": 5418040, + "step": 2758 + }, + { + "epoch": 0.3656726308813784, + "grad_norm": 2.9276976585388184, + "learning_rate": 4.820070474706736e-06, + "loss": 0.0239, + "num_input_tokens_seen": 5420464, + "step": 2759 + }, + { + "epoch": 0.3658051689860835, + "grad_norm": 9.445584297180176, + "learning_rate": 4.8199411402315356e-06, + "loss": 0.3231, + "num_input_tokens_seen": 5423080, + "step": 2760 + }, + { + "epoch": 0.3659377070907886, + "grad_norm": 2.3052515983581543, + "learning_rate": 4.819811761026269e-06, + "loss": 0.0099, + "num_input_tokens_seen": 5424672, + "step": 2761 + }, + { + "epoch": 0.3660702451954937, + "grad_norm": 0.09113645553588867, + "learning_rate": 4.819682337093431e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5425928, + "step": 2762 + }, + { + "epoch": 0.3662027833001988, + "grad_norm": 16.88588523864746, + "learning_rate": 4.819552868435517e-06, + "loss": 0.796, + "num_input_tokens_seen": 5428768, + "step": 2763 + }, + { + "epoch": 0.36633532140490394, + "grad_norm": 10.21859073638916, + "learning_rate": 4.819423355055024e-06, + "loss": 0.4537, + "num_input_tokens_seen": 5430832, + "step": 2764 + }, + { + "epoch": 0.36646785950960903, + "grad_norm": 10.199539184570312, + "learning_rate": 4.819293796954449e-06, + "loss": 0.2956, + "num_input_tokens_seen": 5432944, + "step": 2765 + }, + { + "epoch": 0.3666003976143141, + "grad_norm": 7.365966796875, + "learning_rate": 4.819164194136289e-06, + "loss": 0.1657, + "num_input_tokens_seen": 5434728, + "step": 2766 + }, + { + "epoch": 0.3667329357190192, + "grad_norm": 0.46876177191734314, + "learning_rate": 4.819034546603044e-06, + "loss": 0.0025, + "num_input_tokens_seen": 5436160, + "step": 2767 + }, + { + "epoch": 0.3668654738237243, + "grad_norm": 0.09722945094108582, + "learning_rate": 4.818904854357212e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5437600, + "step": 2768 + }, + { + "epoch": 0.3669980119284294, + "grad_norm": 14.744268417358398, + "learning_rate": 4.818775117401296e-06, + "loss": 0.5286, + "num_input_tokens_seen": 5439176, + "step": 2769 + }, + { + "epoch": 0.36713055003313455, + "grad_norm": 5.0414838790893555, + "learning_rate": 4.818645335737795e-06, + "loss": 0.1518, + "num_input_tokens_seen": 5440624, + "step": 2770 + }, + { + "epoch": 0.36726308813783964, + "grad_norm": 3.2627439498901367, + "learning_rate": 4.818515509369214e-06, + "loss": 0.062, + "num_input_tokens_seen": 5441944, + "step": 2771 + }, + { + "epoch": 0.36739562624254474, + "grad_norm": 11.379758834838867, + "learning_rate": 4.818385638298053e-06, + "loss": 0.289, + "num_input_tokens_seen": 5443248, + "step": 2772 + }, + { + "epoch": 0.36752816434724983, + "grad_norm": 0.3330937623977661, + "learning_rate": 4.8182557225268174e-06, + "loss": 0.002, + "num_input_tokens_seen": 5445728, + "step": 2773 + }, + { + "epoch": 0.3676607024519549, + "grad_norm": 0.2368849664926529, + "learning_rate": 4.818125762058014e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5446968, + "step": 2774 + }, + { + "epoch": 0.36779324055666, + "grad_norm": 8.730948448181152, + "learning_rate": 4.817995756894145e-06, + "loss": 0.2473, + "num_input_tokens_seen": 5449256, + "step": 2775 + }, + { + "epoch": 0.36792577866136517, + "grad_norm": 0.31364089250564575, + "learning_rate": 4.817865707037719e-06, + "loss": 0.0019, + "num_input_tokens_seen": 5451048, + "step": 2776 + }, + { + "epoch": 0.36805831676607026, + "grad_norm": 8.201196670532227, + "learning_rate": 4.817735612491243e-06, + "loss": 0.2061, + "num_input_tokens_seen": 5452672, + "step": 2777 + }, + { + "epoch": 0.36819085487077535, + "grad_norm": 20.229724884033203, + "learning_rate": 4.817605473257226e-06, + "loss": 0.499, + "num_input_tokens_seen": 5454800, + "step": 2778 + }, + { + "epoch": 0.36832339297548045, + "grad_norm": 0.7167686223983765, + "learning_rate": 4.817475289338176e-06, + "loss": 0.0043, + "num_input_tokens_seen": 5456760, + "step": 2779 + }, + { + "epoch": 0.36845593108018554, + "grad_norm": 10.311163902282715, + "learning_rate": 4.817345060736604e-06, + "loss": 0.1983, + "num_input_tokens_seen": 5458384, + "step": 2780 + }, + { + "epoch": 0.36858846918489063, + "grad_norm": 8.68519115447998, + "learning_rate": 4.817214787455022e-06, + "loss": 0.0979, + "num_input_tokens_seen": 5460296, + "step": 2781 + }, + { + "epoch": 0.3687210072895958, + "grad_norm": 13.810454368591309, + "learning_rate": 4.817084469495938e-06, + "loss": 0.3559, + "num_input_tokens_seen": 5462976, + "step": 2782 + }, + { + "epoch": 0.3688535453943009, + "grad_norm": 0.3250599503517151, + "learning_rate": 4.816954106861868e-06, + "loss": 0.0019, + "num_input_tokens_seen": 5464328, + "step": 2783 + }, + { + "epoch": 0.36898608349900597, + "grad_norm": 9.174680709838867, + "learning_rate": 4.816823699555324e-06, + "loss": 0.135, + "num_input_tokens_seen": 5466440, + "step": 2784 + }, + { + "epoch": 0.36911862160371106, + "grad_norm": 0.591949999332428, + "learning_rate": 4.816693247578821e-06, + "loss": 0.0035, + "num_input_tokens_seen": 5468224, + "step": 2785 + }, + { + "epoch": 0.36925115970841615, + "grad_norm": 4.287399768829346, + "learning_rate": 4.816562750934875e-06, + "loss": 0.0842, + "num_input_tokens_seen": 5470344, + "step": 2786 + }, + { + "epoch": 0.36938369781312125, + "grad_norm": 6.258661270141602, + "learning_rate": 4.816432209625999e-06, + "loss": 0.0692, + "num_input_tokens_seen": 5472040, + "step": 2787 + }, + { + "epoch": 0.3695162359178264, + "grad_norm": 14.845474243164062, + "learning_rate": 4.816301623654714e-06, + "loss": 0.4915, + "num_input_tokens_seen": 5474176, + "step": 2788 + }, + { + "epoch": 0.3696487740225315, + "grad_norm": 11.282391548156738, + "learning_rate": 4.816170993023535e-06, + "loss": 0.4019, + "num_input_tokens_seen": 5477208, + "step": 2789 + }, + { + "epoch": 0.3697813121272366, + "grad_norm": 1.8792104721069336, + "learning_rate": 4.816040317734981e-06, + "loss": 0.0447, + "num_input_tokens_seen": 5478848, + "step": 2790 + }, + { + "epoch": 0.3699138502319417, + "grad_norm": 6.433264255523682, + "learning_rate": 4.8159095977915725e-06, + "loss": 0.1937, + "num_input_tokens_seen": 5480672, + "step": 2791 + }, + { + "epoch": 0.37004638833664677, + "grad_norm": 5.4285197257995605, + "learning_rate": 4.815778833195829e-06, + "loss": 0.0357, + "num_input_tokens_seen": 5481888, + "step": 2792 + }, + { + "epoch": 0.37017892644135186, + "grad_norm": 0.45382043719291687, + "learning_rate": 4.815648023950272e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5483120, + "step": 2793 + }, + { + "epoch": 0.370311464546057, + "grad_norm": 7.863617897033691, + "learning_rate": 4.815517170057423e-06, + "loss": 0.0689, + "num_input_tokens_seen": 5485024, + "step": 2794 + }, + { + "epoch": 0.3704440026507621, + "grad_norm": 3.0515055656433105, + "learning_rate": 4.815386271519807e-06, + "loss": 0.0346, + "num_input_tokens_seen": 5486544, + "step": 2795 + }, + { + "epoch": 0.3705765407554672, + "grad_norm": 0.24760496616363525, + "learning_rate": 4.815255328339946e-06, + "loss": 0.0015, + "num_input_tokens_seen": 5488048, + "step": 2796 + }, + { + "epoch": 0.3707090788601723, + "grad_norm": 12.127198219299316, + "learning_rate": 4.815124340520364e-06, + "loss": 0.422, + "num_input_tokens_seen": 5490208, + "step": 2797 + }, + { + "epoch": 0.3708416169648774, + "grad_norm": 9.043184280395508, + "learning_rate": 4.814993308063589e-06, + "loss": 0.1885, + "num_input_tokens_seen": 5491784, + "step": 2798 + }, + { + "epoch": 0.3709741550695825, + "grad_norm": 22.74708366394043, + "learning_rate": 4.814862230972145e-06, + "loss": 0.9328, + "num_input_tokens_seen": 5495136, + "step": 2799 + }, + { + "epoch": 0.3711066931742876, + "grad_norm": 5.827566146850586, + "learning_rate": 4.814731109248561e-06, + "loss": 0.0988, + "num_input_tokens_seen": 5496808, + "step": 2800 + }, + { + "epoch": 0.3712392312789927, + "grad_norm": 6.5667877197265625, + "learning_rate": 4.8145999428953626e-06, + "loss": 0.1433, + "num_input_tokens_seen": 5498200, + "step": 2801 + }, + { + "epoch": 0.3713717693836978, + "grad_norm": 8.760632514953613, + "learning_rate": 4.814468731915082e-06, + "loss": 0.2566, + "num_input_tokens_seen": 5500392, + "step": 2802 + }, + { + "epoch": 0.3715043074884029, + "grad_norm": 5.427152633666992, + "learning_rate": 4.814337476310248e-06, + "loss": 0.0563, + "num_input_tokens_seen": 5502400, + "step": 2803 + }, + { + "epoch": 0.371636845593108, + "grad_norm": 3.9160783290863037, + "learning_rate": 4.81420617608339e-06, + "loss": 0.0797, + "num_input_tokens_seen": 5504104, + "step": 2804 + }, + { + "epoch": 0.3717693836978131, + "grad_norm": 6.1304450035095215, + "learning_rate": 4.8140748312370405e-06, + "loss": 0.2059, + "num_input_tokens_seen": 5506640, + "step": 2805 + }, + { + "epoch": 0.37190192180251824, + "grad_norm": 7.111385822296143, + "learning_rate": 4.813943441773732e-06, + "loss": 0.2043, + "num_input_tokens_seen": 5508448, + "step": 2806 + }, + { + "epoch": 0.37203445990722334, + "grad_norm": 0.954653799533844, + "learning_rate": 4.813812007695998e-06, + "loss": 0.0043, + "num_input_tokens_seen": 5509584, + "step": 2807 + }, + { + "epoch": 0.37216699801192843, + "grad_norm": 13.62472152709961, + "learning_rate": 4.813680529006372e-06, + "loss": 0.4609, + "num_input_tokens_seen": 5511128, + "step": 2808 + }, + { + "epoch": 0.3722995361166335, + "grad_norm": 20.73649787902832, + "learning_rate": 4.813549005707389e-06, + "loss": 0.7493, + "num_input_tokens_seen": 5513744, + "step": 2809 + }, + { + "epoch": 0.3724320742213386, + "grad_norm": 12.14520263671875, + "learning_rate": 4.813417437801585e-06, + "loss": 0.312, + "num_input_tokens_seen": 5515200, + "step": 2810 + }, + { + "epoch": 0.37256461232604376, + "grad_norm": 12.121313095092773, + "learning_rate": 4.813285825291498e-06, + "loss": 0.3774, + "num_input_tokens_seen": 5516784, + "step": 2811 + }, + { + "epoch": 0.37269715043074886, + "grad_norm": 4.442098140716553, + "learning_rate": 4.813154168179663e-06, + "loss": 0.021, + "num_input_tokens_seen": 5518528, + "step": 2812 + }, + { + "epoch": 0.37282968853545395, + "grad_norm": 7.283833026885986, + "learning_rate": 4.813022466468621e-06, + "loss": 0.1261, + "num_input_tokens_seen": 5520152, + "step": 2813 + }, + { + "epoch": 0.37296222664015904, + "grad_norm": 12.564074516296387, + "learning_rate": 4.8128907201609095e-06, + "loss": 0.6129, + "num_input_tokens_seen": 5521936, + "step": 2814 + }, + { + "epoch": 0.37309476474486414, + "grad_norm": 0.37329480051994324, + "learning_rate": 4.8127589292590696e-06, + "loss": 0.0022, + "num_input_tokens_seen": 5523064, + "step": 2815 + }, + { + "epoch": 0.37322730284956923, + "grad_norm": 4.183423042297363, + "learning_rate": 4.812627093765642e-06, + "loss": 0.1098, + "num_input_tokens_seen": 5526136, + "step": 2816 + }, + { + "epoch": 0.3733598409542744, + "grad_norm": 17.65333366394043, + "learning_rate": 4.812495213683169e-06, + "loss": 0.5372, + "num_input_tokens_seen": 5528840, + "step": 2817 + }, + { + "epoch": 0.3734923790589795, + "grad_norm": 9.254899024963379, + "learning_rate": 4.812363289014193e-06, + "loss": 0.1286, + "num_input_tokens_seen": 5530856, + "step": 2818 + }, + { + "epoch": 0.37362491716368457, + "grad_norm": 9.81226921081543, + "learning_rate": 4.8122313197612565e-06, + "loss": 0.2343, + "num_input_tokens_seen": 5533832, + "step": 2819 + }, + { + "epoch": 0.37375745526838966, + "grad_norm": 0.40088605880737305, + "learning_rate": 4.812099305926906e-06, + "loss": 0.0023, + "num_input_tokens_seen": 5535400, + "step": 2820 + }, + { + "epoch": 0.37388999337309475, + "grad_norm": 11.985273361206055, + "learning_rate": 4.811967247513685e-06, + "loss": 0.4819, + "num_input_tokens_seen": 5538072, + "step": 2821 + }, + { + "epoch": 0.37402253147779985, + "grad_norm": 0.19371116161346436, + "learning_rate": 4.811835144524141e-06, + "loss": 0.0012, + "num_input_tokens_seen": 5539520, + "step": 2822 + }, + { + "epoch": 0.374155069582505, + "grad_norm": 0.41432109475135803, + "learning_rate": 4.811702996960821e-06, + "loss": 0.0024, + "num_input_tokens_seen": 5541600, + "step": 2823 + }, + { + "epoch": 0.3742876076872101, + "grad_norm": 0.28967615962028503, + "learning_rate": 4.811570804826272e-06, + "loss": 0.0017, + "num_input_tokens_seen": 5543200, + "step": 2824 + }, + { + "epoch": 0.3744201457919152, + "grad_norm": 14.24317455291748, + "learning_rate": 4.811438568123044e-06, + "loss": 0.6332, + "num_input_tokens_seen": 5545768, + "step": 2825 + }, + { + "epoch": 0.3745526838966203, + "grad_norm": 0.18354202806949615, + "learning_rate": 4.811306286853684e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5546848, + "step": 2826 + }, + { + "epoch": 0.37468522200132537, + "grad_norm": 1.3571782112121582, + "learning_rate": 4.811173961020746e-06, + "loss": 0.0146, + "num_input_tokens_seen": 5548816, + "step": 2827 + }, + { + "epoch": 0.37481776010603046, + "grad_norm": 1.520582914352417, + "learning_rate": 4.8110415906267795e-06, + "loss": 0.0086, + "num_input_tokens_seen": 5551176, + "step": 2828 + }, + { + "epoch": 0.3749502982107356, + "grad_norm": 0.15347182750701904, + "learning_rate": 4.8109091756743355e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5552304, + "step": 2829 + }, + { + "epoch": 0.3750828363154407, + "grad_norm": 0.23789644241333008, + "learning_rate": 4.81077671616597e-06, + "loss": 0.0014, + "num_input_tokens_seen": 5554680, + "step": 2830 + }, + { + "epoch": 0.3752153744201458, + "grad_norm": 6.411083221435547, + "learning_rate": 4.810644212104234e-06, + "loss": 0.076, + "num_input_tokens_seen": 5556408, + "step": 2831 + }, + { + "epoch": 0.3753479125248509, + "grad_norm": 8.77319049835205, + "learning_rate": 4.810511663491684e-06, + "loss": 0.1447, + "num_input_tokens_seen": 5559512, + "step": 2832 + }, + { + "epoch": 0.375480450629556, + "grad_norm": 1.6859214305877686, + "learning_rate": 4.810379070330876e-06, + "loss": 0.0319, + "num_input_tokens_seen": 5560816, + "step": 2833 + }, + { + "epoch": 0.3756129887342611, + "grad_norm": 12.44225788116455, + "learning_rate": 4.810246432624365e-06, + "loss": 0.2305, + "num_input_tokens_seen": 5562592, + "step": 2834 + }, + { + "epoch": 0.3757455268389662, + "grad_norm": 2.298737049102783, + "learning_rate": 4.810113750374709e-06, + "loss": 0.047, + "num_input_tokens_seen": 5564824, + "step": 2835 + }, + { + "epoch": 0.3758780649436713, + "grad_norm": 0.037678878754377365, + "learning_rate": 4.8099810235844654e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5566176, + "step": 2836 + }, + { + "epoch": 0.3760106030483764, + "grad_norm": 1.4424196481704712, + "learning_rate": 4.8098482522561955e-06, + "loss": 0.0094, + "num_input_tokens_seen": 5567848, + "step": 2837 + }, + { + "epoch": 0.3761431411530815, + "grad_norm": 10.544405937194824, + "learning_rate": 4.809715436392457e-06, + "loss": 0.3774, + "num_input_tokens_seen": 5570768, + "step": 2838 + }, + { + "epoch": 0.3762756792577866, + "grad_norm": 6.835763454437256, + "learning_rate": 4.809582575995812e-06, + "loss": 0.1068, + "num_input_tokens_seen": 5573232, + "step": 2839 + }, + { + "epoch": 0.3764082173624917, + "grad_norm": 12.55688762664795, + "learning_rate": 4.809449671068821e-06, + "loss": 0.4922, + "num_input_tokens_seen": 5575880, + "step": 2840 + }, + { + "epoch": 0.37654075546719684, + "grad_norm": 0.06836347281932831, + "learning_rate": 4.809316721614048e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5577328, + "step": 2841 + }, + { + "epoch": 0.37667329357190193, + "grad_norm": 3.1467015743255615, + "learning_rate": 4.8091837276340546e-06, + "loss": 0.0451, + "num_input_tokens_seen": 5578560, + "step": 2842 + }, + { + "epoch": 0.37680583167660703, + "grad_norm": 8.121678352355957, + "learning_rate": 4.8090506891314066e-06, + "loss": 0.2487, + "num_input_tokens_seen": 5581072, + "step": 2843 + }, + { + "epoch": 0.3769383697813121, + "grad_norm": 0.016818249598145485, + "learning_rate": 4.808917606108668e-06, + "loss": 0.0001, + "num_input_tokens_seen": 5582392, + "step": 2844 + }, + { + "epoch": 0.3770709078860172, + "grad_norm": 13.593183517456055, + "learning_rate": 4.808784478568405e-06, + "loss": 0.4682, + "num_input_tokens_seen": 5584264, + "step": 2845 + }, + { + "epoch": 0.3772034459907223, + "grad_norm": 10.936602592468262, + "learning_rate": 4.808651306513185e-06, + "loss": 0.3243, + "num_input_tokens_seen": 5585880, + "step": 2846 + }, + { + "epoch": 0.37733598409542746, + "grad_norm": 5.6197285652160645, + "learning_rate": 4.808518089945575e-06, + "loss": 0.1943, + "num_input_tokens_seen": 5587632, + "step": 2847 + }, + { + "epoch": 0.37746852220013255, + "grad_norm": 19.004112243652344, + "learning_rate": 4.8083848288681436e-06, + "loss": 0.4383, + "num_input_tokens_seen": 5590496, + "step": 2848 + }, + { + "epoch": 0.37760106030483764, + "grad_norm": 0.42464756965637207, + "learning_rate": 4.80825152328346e-06, + "loss": 0.0025, + "num_input_tokens_seen": 5591488, + "step": 2849 + }, + { + "epoch": 0.37773359840954274, + "grad_norm": 0.18224036693572998, + "learning_rate": 4.8081181731940946e-06, + "loss": 0.001, + "num_input_tokens_seen": 5593576, + "step": 2850 + }, + { + "epoch": 0.37786613651424783, + "grad_norm": 9.077179908752441, + "learning_rate": 4.807984778602619e-06, + "loss": 0.3147, + "num_input_tokens_seen": 5596528, + "step": 2851 + }, + { + "epoch": 0.3779986746189529, + "grad_norm": 0.10246941447257996, + "learning_rate": 4.807851339511604e-06, + "loss": 0.0006, + "num_input_tokens_seen": 5597752, + "step": 2852 + }, + { + "epoch": 0.37813121272365807, + "grad_norm": 14.062154769897461, + "learning_rate": 4.807717855923624e-06, + "loss": 0.5376, + "num_input_tokens_seen": 5599992, + "step": 2853 + }, + { + "epoch": 0.37826375082836317, + "grad_norm": 4.889924049377441, + "learning_rate": 4.80758432784125e-06, + "loss": 0.0989, + "num_input_tokens_seen": 5601664, + "step": 2854 + }, + { + "epoch": 0.37839628893306826, + "grad_norm": 8.847596168518066, + "learning_rate": 4.8074507552670605e-06, + "loss": 0.2732, + "num_input_tokens_seen": 5603184, + "step": 2855 + }, + { + "epoch": 0.37852882703777335, + "grad_norm": 11.587574005126953, + "learning_rate": 4.807317138203627e-06, + "loss": 0.2452, + "num_input_tokens_seen": 5605024, + "step": 2856 + }, + { + "epoch": 0.37866136514247845, + "grad_norm": 7.685604572296143, + "learning_rate": 4.807183476653528e-06, + "loss": 0.1439, + "num_input_tokens_seen": 5606808, + "step": 2857 + }, + { + "epoch": 0.37879390324718354, + "grad_norm": 4.846345901489258, + "learning_rate": 4.80704977061934e-06, + "loss": 0.0587, + "num_input_tokens_seen": 5609456, + "step": 2858 + }, + { + "epoch": 0.3789264413518887, + "grad_norm": 68.86653137207031, + "learning_rate": 4.80691602010364e-06, + "loss": 0.3999, + "num_input_tokens_seen": 5612816, + "step": 2859 + }, + { + "epoch": 0.3790589794565938, + "grad_norm": 13.789451599121094, + "learning_rate": 4.806782225109009e-06, + "loss": 0.5113, + "num_input_tokens_seen": 5614600, + "step": 2860 + }, + { + "epoch": 0.3791915175612989, + "grad_norm": 9.264317512512207, + "learning_rate": 4.8066483856380245e-06, + "loss": 0.223, + "num_input_tokens_seen": 5616464, + "step": 2861 + }, + { + "epoch": 0.37932405566600397, + "grad_norm": 11.028992652893066, + "learning_rate": 4.806514501693268e-06, + "loss": 0.2552, + "num_input_tokens_seen": 5618728, + "step": 2862 + }, + { + "epoch": 0.37945659377070906, + "grad_norm": 3.7008163928985596, + "learning_rate": 4.80638057327732e-06, + "loss": 0.0042, + "num_input_tokens_seen": 5620056, + "step": 2863 + }, + { + "epoch": 0.37958913187541415, + "grad_norm": 7.706905841827393, + "learning_rate": 4.806246600392765e-06, + "loss": 0.0894, + "num_input_tokens_seen": 5621768, + "step": 2864 + }, + { + "epoch": 0.3797216699801193, + "grad_norm": 7.523062705993652, + "learning_rate": 4.806112583042184e-06, + "loss": 0.0873, + "num_input_tokens_seen": 5623664, + "step": 2865 + }, + { + "epoch": 0.3798542080848244, + "grad_norm": 0.7280088067054749, + "learning_rate": 4.805978521228161e-06, + "loss": 0.0044, + "num_input_tokens_seen": 5626256, + "step": 2866 + }, + { + "epoch": 0.3799867461895295, + "grad_norm": 0.5145332217216492, + "learning_rate": 4.8058444149532816e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5627560, + "step": 2867 + }, + { + "epoch": 0.3801192842942346, + "grad_norm": 8.557425498962402, + "learning_rate": 4.805710264220131e-06, + "loss": 0.2467, + "num_input_tokens_seen": 5629568, + "step": 2868 + }, + { + "epoch": 0.3802518223989397, + "grad_norm": 5.689026832580566, + "learning_rate": 4.805576069031296e-06, + "loss": 0.1245, + "num_input_tokens_seen": 5631968, + "step": 2869 + }, + { + "epoch": 0.3803843605036448, + "grad_norm": 14.75581169128418, + "learning_rate": 4.805441829389363e-06, + "loss": 0.2518, + "num_input_tokens_seen": 5634272, + "step": 2870 + }, + { + "epoch": 0.3805168986083499, + "grad_norm": 7.1187849044799805, + "learning_rate": 4.8053075452969224e-06, + "loss": 0.2179, + "num_input_tokens_seen": 5636104, + "step": 2871 + }, + { + "epoch": 0.380649436713055, + "grad_norm": 6.471792697906494, + "learning_rate": 4.805173216756562e-06, + "loss": 0.128, + "num_input_tokens_seen": 5637792, + "step": 2872 + }, + { + "epoch": 0.3807819748177601, + "grad_norm": 7.564325332641602, + "learning_rate": 4.805038843770871e-06, + "loss": 0.0914, + "num_input_tokens_seen": 5639584, + "step": 2873 + }, + { + "epoch": 0.3809145129224652, + "grad_norm": 18.496036529541016, + "learning_rate": 4.804904426342442e-06, + "loss": 0.4562, + "num_input_tokens_seen": 5642800, + "step": 2874 + }, + { + "epoch": 0.3810470510271703, + "grad_norm": 0.5235787630081177, + "learning_rate": 4.804769964473864e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5645504, + "step": 2875 + }, + { + "epoch": 0.38117958913187544, + "grad_norm": 1.3340500593185425, + "learning_rate": 4.804635458167732e-06, + "loss": 0.0084, + "num_input_tokens_seen": 5647376, + "step": 2876 + }, + { + "epoch": 0.38131212723658053, + "grad_norm": 14.965535163879395, + "learning_rate": 4.804500907426638e-06, + "loss": 0.5277, + "num_input_tokens_seen": 5649184, + "step": 2877 + }, + { + "epoch": 0.3814446653412856, + "grad_norm": 0.6908347606658936, + "learning_rate": 4.804366312253177e-06, + "loss": 0.0041, + "num_input_tokens_seen": 5651112, + "step": 2878 + }, + { + "epoch": 0.3815772034459907, + "grad_norm": 3.9593496322631836, + "learning_rate": 4.804231672649944e-06, + "loss": 0.0878, + "num_input_tokens_seen": 5653192, + "step": 2879 + }, + { + "epoch": 0.3817097415506958, + "grad_norm": 20.214065551757812, + "learning_rate": 4.804096988619534e-06, + "loss": 0.502, + "num_input_tokens_seen": 5654960, + "step": 2880 + }, + { + "epoch": 0.3818422796554009, + "grad_norm": 4.521189212799072, + "learning_rate": 4.8039622601645454e-06, + "loss": 0.1067, + "num_input_tokens_seen": 5656592, + "step": 2881 + }, + { + "epoch": 0.38197481776010606, + "grad_norm": 10.256596565246582, + "learning_rate": 4.803827487287575e-06, + "loss": 0.1613, + "num_input_tokens_seen": 5658440, + "step": 2882 + }, + { + "epoch": 0.38210735586481115, + "grad_norm": 12.114916801452637, + "learning_rate": 4.8036926699912215e-06, + "loss": 0.3, + "num_input_tokens_seen": 5660496, + "step": 2883 + }, + { + "epoch": 0.38223989396951624, + "grad_norm": 5.946622848510742, + "learning_rate": 4.803557808278083e-06, + "loss": 0.1662, + "num_input_tokens_seen": 5662336, + "step": 2884 + }, + { + "epoch": 0.38237243207422134, + "grad_norm": 14.305303573608398, + "learning_rate": 4.803422902150762e-06, + "loss": 0.4726, + "num_input_tokens_seen": 5664616, + "step": 2885 + }, + { + "epoch": 0.38250497017892643, + "grad_norm": 0.1547321379184723, + "learning_rate": 4.803287951611857e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5665768, + "step": 2886 + }, + { + "epoch": 0.3826375082836315, + "grad_norm": 0.7804080843925476, + "learning_rate": 4.803152956663972e-06, + "loss": 0.0044, + "num_input_tokens_seen": 5668416, + "step": 2887 + }, + { + "epoch": 0.38277004638833667, + "grad_norm": 4.414644241333008, + "learning_rate": 4.80301791730971e-06, + "loss": 0.0199, + "num_input_tokens_seen": 5670344, + "step": 2888 + }, + { + "epoch": 0.38290258449304176, + "grad_norm": 3.5182840824127197, + "learning_rate": 4.802882833551673e-06, + "loss": 0.0506, + "num_input_tokens_seen": 5672656, + "step": 2889 + }, + { + "epoch": 0.38303512259774686, + "grad_norm": 13.864169120788574, + "learning_rate": 4.802747705392466e-06, + "loss": 0.1403, + "num_input_tokens_seen": 5674440, + "step": 2890 + }, + { + "epoch": 0.38316766070245195, + "grad_norm": 0.16644710302352905, + "learning_rate": 4.802612532834695e-06, + "loss": 0.001, + "num_input_tokens_seen": 5676568, + "step": 2891 + }, + { + "epoch": 0.38330019880715704, + "grad_norm": 11.119260787963867, + "learning_rate": 4.802477315880966e-06, + "loss": 0.1751, + "num_input_tokens_seen": 5678072, + "step": 2892 + }, + { + "epoch": 0.38343273691186214, + "grad_norm": 14.251937866210938, + "learning_rate": 4.802342054533886e-06, + "loss": 0.1929, + "num_input_tokens_seen": 5680152, + "step": 2893 + }, + { + "epoch": 0.3835652750165673, + "grad_norm": 9.28195571899414, + "learning_rate": 4.8022067487960634e-06, + "loss": 0.1583, + "num_input_tokens_seen": 5681984, + "step": 2894 + }, + { + "epoch": 0.3836978131212724, + "grad_norm": 9.147839546203613, + "learning_rate": 4.8020713986701055e-06, + "loss": 0.0787, + "num_input_tokens_seen": 5683440, + "step": 2895 + }, + { + "epoch": 0.3838303512259775, + "grad_norm": 7.044008731842041, + "learning_rate": 4.8019360041586225e-06, + "loss": 0.0642, + "num_input_tokens_seen": 5685448, + "step": 2896 + }, + { + "epoch": 0.38396288933068257, + "grad_norm": 0.08466002345085144, + "learning_rate": 4.801800565264227e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5688000, + "step": 2897 + }, + { + "epoch": 0.38409542743538766, + "grad_norm": 0.060855597257614136, + "learning_rate": 4.801665081989528e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5689392, + "step": 2898 + }, + { + "epoch": 0.38422796554009275, + "grad_norm": 10.958772659301758, + "learning_rate": 4.801529554337138e-06, + "loss": 0.167, + "num_input_tokens_seen": 5691984, + "step": 2899 + }, + { + "epoch": 0.3843605036447979, + "grad_norm": 0.08043933659791946, + "learning_rate": 4.80139398230967e-06, + "loss": 0.0005, + "num_input_tokens_seen": 5693376, + "step": 2900 + }, + { + "epoch": 0.384493041749503, + "grad_norm": 8.444103240966797, + "learning_rate": 4.8012583659097385e-06, + "loss": 0.126, + "num_input_tokens_seen": 5695584, + "step": 2901 + }, + { + "epoch": 0.3846255798542081, + "grad_norm": 6.222550392150879, + "learning_rate": 4.801122705139959e-06, + "loss": 0.1006, + "num_input_tokens_seen": 5697864, + "step": 2902 + }, + { + "epoch": 0.3847581179589132, + "grad_norm": 4.725201606750488, + "learning_rate": 4.800987000002946e-06, + "loss": 0.1507, + "num_input_tokens_seen": 5699408, + "step": 2903 + }, + { + "epoch": 0.3848906560636183, + "grad_norm": 8.471427917480469, + "learning_rate": 4.800851250501316e-06, + "loss": 0.1996, + "num_input_tokens_seen": 5701096, + "step": 2904 + }, + { + "epoch": 0.38502319416832337, + "grad_norm": 0.05548432469367981, + "learning_rate": 4.800715456637687e-06, + "loss": 0.0003, + "num_input_tokens_seen": 5702960, + "step": 2905 + }, + { + "epoch": 0.3851557322730285, + "grad_norm": 8.121257781982422, + "learning_rate": 4.800579618414677e-06, + "loss": 0.2707, + "num_input_tokens_seen": 5704960, + "step": 2906 + }, + { + "epoch": 0.3852882703777336, + "grad_norm": 5.4546403884887695, + "learning_rate": 4.800443735834904e-06, + "loss": 0.1191, + "num_input_tokens_seen": 5707312, + "step": 2907 + }, + { + "epoch": 0.3854208084824387, + "grad_norm": 15.769217491149902, + "learning_rate": 4.800307808900989e-06, + "loss": 0.6465, + "num_input_tokens_seen": 5708472, + "step": 2908 + }, + { + "epoch": 0.3855533465871438, + "grad_norm": 9.134364128112793, + "learning_rate": 4.800171837615553e-06, + "loss": 0.0937, + "num_input_tokens_seen": 5710800, + "step": 2909 + }, + { + "epoch": 0.3856858846918489, + "grad_norm": 6.90806245803833, + "learning_rate": 4.8000358219812165e-06, + "loss": 0.2421, + "num_input_tokens_seen": 5712696, + "step": 2910 + }, + { + "epoch": 0.385818422796554, + "grad_norm": 13.220758438110352, + "learning_rate": 4.799899762000602e-06, + "loss": 0.3505, + "num_input_tokens_seen": 5715064, + "step": 2911 + }, + { + "epoch": 0.38595096090125913, + "grad_norm": 4.890446662902832, + "learning_rate": 4.7997636576763354e-06, + "loss": 0.0742, + "num_input_tokens_seen": 5716560, + "step": 2912 + }, + { + "epoch": 0.3860834990059642, + "grad_norm": 8.918073654174805, + "learning_rate": 4.799627509011038e-06, + "loss": 0.0987, + "num_input_tokens_seen": 5718576, + "step": 2913 + }, + { + "epoch": 0.3862160371106693, + "grad_norm": 5.0368146896362305, + "learning_rate": 4.799491316007337e-06, + "loss": 0.1193, + "num_input_tokens_seen": 5720688, + "step": 2914 + }, + { + "epoch": 0.3863485752153744, + "grad_norm": 15.296892166137695, + "learning_rate": 4.799355078667855e-06, + "loss": 0.5037, + "num_input_tokens_seen": 5722736, + "step": 2915 + }, + { + "epoch": 0.3864811133200795, + "grad_norm": 0.11789968609809875, + "learning_rate": 4.799218796995222e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5724136, + "step": 2916 + }, + { + "epoch": 0.3866136514247846, + "grad_norm": 15.619475364685059, + "learning_rate": 4.799082470992064e-06, + "loss": 0.2294, + "num_input_tokens_seen": 5727096, + "step": 2917 + }, + { + "epoch": 0.38674618952948975, + "grad_norm": 11.507015228271484, + "learning_rate": 4.798946100661011e-06, + "loss": 0.1717, + "num_input_tokens_seen": 5730048, + "step": 2918 + }, + { + "epoch": 0.38687872763419484, + "grad_norm": 20.806148529052734, + "learning_rate": 4.7988096860046895e-06, + "loss": 1.1562, + "num_input_tokens_seen": 5732920, + "step": 2919 + }, + { + "epoch": 0.38701126573889993, + "grad_norm": 5.2293901443481445, + "learning_rate": 4.798673227025732e-06, + "loss": 0.0461, + "num_input_tokens_seen": 5734536, + "step": 2920 + }, + { + "epoch": 0.387143803843605, + "grad_norm": 7.92720890045166, + "learning_rate": 4.79853672372677e-06, + "loss": 0.1044, + "num_input_tokens_seen": 5736104, + "step": 2921 + }, + { + "epoch": 0.3872763419483101, + "grad_norm": 12.38214111328125, + "learning_rate": 4.798400176110432e-06, + "loss": 0.3783, + "num_input_tokens_seen": 5738768, + "step": 2922 + }, + { + "epoch": 0.3874088800530152, + "grad_norm": 4.390325546264648, + "learning_rate": 4.798263584179355e-06, + "loss": 0.0359, + "num_input_tokens_seen": 5740872, + "step": 2923 + }, + { + "epoch": 0.38754141815772036, + "grad_norm": 16.519081115722656, + "learning_rate": 4.79812694793617e-06, + "loss": 0.5263, + "num_input_tokens_seen": 5742752, + "step": 2924 + }, + { + "epoch": 0.38767395626242546, + "grad_norm": 12.951534271240234, + "learning_rate": 4.797990267383512e-06, + "loss": 0.1945, + "num_input_tokens_seen": 5745080, + "step": 2925 + }, + { + "epoch": 0.38780649436713055, + "grad_norm": 9.392237663269043, + "learning_rate": 4.797853542524017e-06, + "loss": 0.2681, + "num_input_tokens_seen": 5747512, + "step": 2926 + }, + { + "epoch": 0.38793903247183564, + "grad_norm": 7.611248970031738, + "learning_rate": 4.797716773360321e-06, + "loss": 0.1502, + "num_input_tokens_seen": 5750064, + "step": 2927 + }, + { + "epoch": 0.38807157057654074, + "grad_norm": 3.736629009246826, + "learning_rate": 4.797579959895058e-06, + "loss": 0.0156, + "num_input_tokens_seen": 5751672, + "step": 2928 + }, + { + "epoch": 0.3882041086812459, + "grad_norm": 23.248306274414062, + "learning_rate": 4.79744310213087e-06, + "loss": 0.5916, + "num_input_tokens_seen": 5753760, + "step": 2929 + }, + { + "epoch": 0.388336646785951, + "grad_norm": 13.426590919494629, + "learning_rate": 4.797306200070394e-06, + "loss": 0.4148, + "num_input_tokens_seen": 5755784, + "step": 2930 + }, + { + "epoch": 0.38846918489065607, + "grad_norm": 6.554684162139893, + "learning_rate": 4.7971692537162694e-06, + "loss": 0.12, + "num_input_tokens_seen": 5758264, + "step": 2931 + }, + { + "epoch": 0.38860172299536117, + "grad_norm": 14.359375953674316, + "learning_rate": 4.797032263071138e-06, + "loss": 0.3622, + "num_input_tokens_seen": 5759864, + "step": 2932 + }, + { + "epoch": 0.38873426110006626, + "grad_norm": 14.0858736038208, + "learning_rate": 4.796895228137638e-06, + "loss": 0.194, + "num_input_tokens_seen": 5761584, + "step": 2933 + }, + { + "epoch": 0.38886679920477135, + "grad_norm": 13.78635311126709, + "learning_rate": 4.796758148918415e-06, + "loss": 0.2577, + "num_input_tokens_seen": 5763592, + "step": 2934 + }, + { + "epoch": 0.3889993373094765, + "grad_norm": 7.855655193328857, + "learning_rate": 4.7966210254161095e-06, + "loss": 0.1948, + "num_input_tokens_seen": 5765192, + "step": 2935 + }, + { + "epoch": 0.3891318754141816, + "grad_norm": 6.836536407470703, + "learning_rate": 4.796483857633366e-06, + "loss": 0.0662, + "num_input_tokens_seen": 5767896, + "step": 2936 + }, + { + "epoch": 0.3892644135188867, + "grad_norm": 8.234159469604492, + "learning_rate": 4.7963466455728304e-06, + "loss": 0.2592, + "num_input_tokens_seen": 5770280, + "step": 2937 + }, + { + "epoch": 0.3893969516235918, + "grad_norm": 12.620244979858398, + "learning_rate": 4.796209389237146e-06, + "loss": 0.1193, + "num_input_tokens_seen": 5772136, + "step": 2938 + }, + { + "epoch": 0.3895294897282969, + "grad_norm": 1.0394253730773926, + "learning_rate": 4.796072088628963e-06, + "loss": 0.0063, + "num_input_tokens_seen": 5775072, + "step": 2939 + }, + { + "epoch": 0.38966202783300197, + "grad_norm": 9.655213356018066, + "learning_rate": 4.795934743750923e-06, + "loss": 0.3118, + "num_input_tokens_seen": 5777440, + "step": 2940 + }, + { + "epoch": 0.3897945659377071, + "grad_norm": 7.174744606018066, + "learning_rate": 4.795797354605679e-06, + "loss": 0.1946, + "num_input_tokens_seen": 5778976, + "step": 2941 + }, + { + "epoch": 0.3899271040424122, + "grad_norm": 0.5289475917816162, + "learning_rate": 4.795659921195878e-06, + "loss": 0.0032, + "num_input_tokens_seen": 5780792, + "step": 2942 + }, + { + "epoch": 0.3900596421471173, + "grad_norm": 10.455952644348145, + "learning_rate": 4.795522443524171e-06, + "loss": 0.2786, + "num_input_tokens_seen": 5782704, + "step": 2943 + }, + { + "epoch": 0.3901921802518224, + "grad_norm": 13.964348793029785, + "learning_rate": 4.7953849215932065e-06, + "loss": 0.4183, + "num_input_tokens_seen": 5784920, + "step": 2944 + }, + { + "epoch": 0.3903247183565275, + "grad_norm": 0.43512532114982605, + "learning_rate": 4.7952473554056375e-06, + "loss": 0.0026, + "num_input_tokens_seen": 5786232, + "step": 2945 + }, + { + "epoch": 0.3904572564612326, + "grad_norm": 11.050591468811035, + "learning_rate": 4.795109744964116e-06, + "loss": 0.2845, + "num_input_tokens_seen": 5787816, + "step": 2946 + }, + { + "epoch": 0.39058979456593773, + "grad_norm": 22.758481979370117, + "learning_rate": 4.7949720902712945e-06, + "loss": 0.2809, + "num_input_tokens_seen": 5789432, + "step": 2947 + }, + { + "epoch": 0.3907223326706428, + "grad_norm": 12.670291900634766, + "learning_rate": 4.794834391329829e-06, + "loss": 0.2404, + "num_input_tokens_seen": 5791648, + "step": 2948 + }, + { + "epoch": 0.3908548707753479, + "grad_norm": 7.334057331085205, + "learning_rate": 4.794696648142373e-06, + "loss": 0.0867, + "num_input_tokens_seen": 5792832, + "step": 2949 + }, + { + "epoch": 0.390987408880053, + "grad_norm": 1.034836769104004, + "learning_rate": 4.794558860711583e-06, + "loss": 0.0059, + "num_input_tokens_seen": 5794640, + "step": 2950 + }, + { + "epoch": 0.3911199469847581, + "grad_norm": 10.421894073486328, + "learning_rate": 4.794421029040115e-06, + "loss": 0.3422, + "num_input_tokens_seen": 5796680, + "step": 2951 + }, + { + "epoch": 0.3912524850894632, + "grad_norm": 11.266824722290039, + "learning_rate": 4.794283153130627e-06, + "loss": 0.1729, + "num_input_tokens_seen": 5798240, + "step": 2952 + }, + { + "epoch": 0.39138502319416835, + "grad_norm": 7.401568412780762, + "learning_rate": 4.794145232985776e-06, + "loss": 0.1613, + "num_input_tokens_seen": 5799624, + "step": 2953 + }, + { + "epoch": 0.39151756129887344, + "grad_norm": 5.495708465576172, + "learning_rate": 4.794007268608223e-06, + "loss": 0.0847, + "num_input_tokens_seen": 5801184, + "step": 2954 + }, + { + "epoch": 0.39165009940357853, + "grad_norm": 15.047117233276367, + "learning_rate": 4.793869260000627e-06, + "loss": 0.3358, + "num_input_tokens_seen": 5802960, + "step": 2955 + }, + { + "epoch": 0.3917826375082836, + "grad_norm": 3.915280342102051, + "learning_rate": 4.79373120716565e-06, + "loss": 0.0741, + "num_input_tokens_seen": 5804808, + "step": 2956 + }, + { + "epoch": 0.3919151756129887, + "grad_norm": 6.27174186706543, + "learning_rate": 4.793593110105952e-06, + "loss": 0.0618, + "num_input_tokens_seen": 5806272, + "step": 2957 + }, + { + "epoch": 0.3920477137176938, + "grad_norm": 26.54920196533203, + "learning_rate": 4.793454968824197e-06, + "loss": 0.8077, + "num_input_tokens_seen": 5808136, + "step": 2958 + }, + { + "epoch": 0.39218025182239896, + "grad_norm": 9.607259750366211, + "learning_rate": 4.793316783323047e-06, + "loss": 0.1445, + "num_input_tokens_seen": 5809640, + "step": 2959 + }, + { + "epoch": 0.39231278992710406, + "grad_norm": 12.036971092224121, + "learning_rate": 4.793178553605169e-06, + "loss": 0.1451, + "num_input_tokens_seen": 5811200, + "step": 2960 + }, + { + "epoch": 0.39244532803180915, + "grad_norm": 15.08952522277832, + "learning_rate": 4.793040279673226e-06, + "loss": 0.4523, + "num_input_tokens_seen": 5814120, + "step": 2961 + }, + { + "epoch": 0.39257786613651424, + "grad_norm": 9.915499687194824, + "learning_rate": 4.7929019615298844e-06, + "loss": 0.3195, + "num_input_tokens_seen": 5816384, + "step": 2962 + }, + { + "epoch": 0.39271040424121934, + "grad_norm": 18.3887939453125, + "learning_rate": 4.792763599177811e-06, + "loss": 0.5786, + "num_input_tokens_seen": 5818384, + "step": 2963 + }, + { + "epoch": 0.39284294234592443, + "grad_norm": 14.735946655273438, + "learning_rate": 4.792625192619674e-06, + "loss": 0.3675, + "num_input_tokens_seen": 5820328, + "step": 2964 + }, + { + "epoch": 0.3929754804506296, + "grad_norm": 13.089232444763184, + "learning_rate": 4.792486741858141e-06, + "loss": 0.3246, + "num_input_tokens_seen": 5822632, + "step": 2965 + }, + { + "epoch": 0.39310801855533467, + "grad_norm": 11.526205062866211, + "learning_rate": 4.792348246895883e-06, + "loss": 0.2, + "num_input_tokens_seen": 5824544, + "step": 2966 + }, + { + "epoch": 0.39324055666003976, + "grad_norm": 6.57134485244751, + "learning_rate": 4.792209707735569e-06, + "loss": 0.081, + "num_input_tokens_seen": 5826824, + "step": 2967 + }, + { + "epoch": 0.39337309476474486, + "grad_norm": 11.693963050842285, + "learning_rate": 4.79207112437987e-06, + "loss": 0.234, + "num_input_tokens_seen": 5828832, + "step": 2968 + }, + { + "epoch": 0.39350563286944995, + "grad_norm": 8.574296951293945, + "learning_rate": 4.791932496831459e-06, + "loss": 0.2149, + "num_input_tokens_seen": 5830304, + "step": 2969 + }, + { + "epoch": 0.39363817097415504, + "grad_norm": 13.792306900024414, + "learning_rate": 4.791793825093009e-06, + "loss": 0.6277, + "num_input_tokens_seen": 5833152, + "step": 2970 + }, + { + "epoch": 0.3937707090788602, + "grad_norm": 3.509612560272217, + "learning_rate": 4.791655109167192e-06, + "loss": 0.0278, + "num_input_tokens_seen": 5835208, + "step": 2971 + }, + { + "epoch": 0.3939032471835653, + "grad_norm": 0.9070621728897095, + "learning_rate": 4.791516349056684e-06, + "loss": 0.005, + "num_input_tokens_seen": 5836376, + "step": 2972 + }, + { + "epoch": 0.3940357852882704, + "grad_norm": 0.6295693516731262, + "learning_rate": 4.7913775447641595e-06, + "loss": 0.0038, + "num_input_tokens_seen": 5838968, + "step": 2973 + }, + { + "epoch": 0.3941683233929755, + "grad_norm": 0.42120882868766785, + "learning_rate": 4.791238696292296e-06, + "loss": 0.0027, + "num_input_tokens_seen": 5840256, + "step": 2974 + }, + { + "epoch": 0.39430086149768057, + "grad_norm": 0.146803081035614, + "learning_rate": 4.79109980364377e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5841520, + "step": 2975 + }, + { + "epoch": 0.39443339960238566, + "grad_norm": 8.67635726928711, + "learning_rate": 4.790960866821258e-06, + "loss": 0.3369, + "num_input_tokens_seen": 5843336, + "step": 2976 + }, + { + "epoch": 0.3945659377070908, + "grad_norm": 0.11394452303647995, + "learning_rate": 4.790821885827441e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5845024, + "step": 2977 + }, + { + "epoch": 0.3946984758117959, + "grad_norm": 11.386565208435059, + "learning_rate": 4.790682860664998e-06, + "loss": 0.1871, + "num_input_tokens_seen": 5847568, + "step": 2978 + }, + { + "epoch": 0.394831013916501, + "grad_norm": 0.14270855486392975, + "learning_rate": 4.790543791336608e-06, + "loss": 0.0009, + "num_input_tokens_seen": 5849144, + "step": 2979 + }, + { + "epoch": 0.3949635520212061, + "grad_norm": 0.1783614605665207, + "learning_rate": 4.790404677844954e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5850872, + "step": 2980 + }, + { + "epoch": 0.3950960901259112, + "grad_norm": 9.506954193115234, + "learning_rate": 4.790265520192717e-06, + "loss": 0.2391, + "num_input_tokens_seen": 5853744, + "step": 2981 + }, + { + "epoch": 0.3952286282306163, + "grad_norm": 4.984894275665283, + "learning_rate": 4.790126318382582e-06, + "loss": 0.1252, + "num_input_tokens_seen": 5855008, + "step": 2982 + }, + { + "epoch": 0.3953611663353214, + "grad_norm": 12.45118522644043, + "learning_rate": 4.789987072417232e-06, + "loss": 0.3526, + "num_input_tokens_seen": 5856352, + "step": 2983 + }, + { + "epoch": 0.3954937044400265, + "grad_norm": 10.527811050415039, + "learning_rate": 4.789847782299351e-06, + "loss": 0.3427, + "num_input_tokens_seen": 5858112, + "step": 2984 + }, + { + "epoch": 0.3956262425447316, + "grad_norm": 0.030683059245347977, + "learning_rate": 4.789708448031625e-06, + "loss": 0.0002, + "num_input_tokens_seen": 5859624, + "step": 2985 + }, + { + "epoch": 0.3957587806494367, + "grad_norm": 5.548108100891113, + "learning_rate": 4.789569069616739e-06, + "loss": 0.1473, + "num_input_tokens_seen": 5861584, + "step": 2986 + }, + { + "epoch": 0.3958913187541418, + "grad_norm": 16.987546920776367, + "learning_rate": 4.789429647057384e-06, + "loss": 0.6618, + "num_input_tokens_seen": 5863168, + "step": 2987 + }, + { + "epoch": 0.39602385685884695, + "grad_norm": 0.10859762132167816, + "learning_rate": 4.7892901803562455e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5864880, + "step": 2988 + }, + { + "epoch": 0.39615639496355204, + "grad_norm": 11.099987030029297, + "learning_rate": 4.789150669516013e-06, + "loss": 0.1943, + "num_input_tokens_seen": 5866904, + "step": 2989 + }, + { + "epoch": 0.39628893306825713, + "grad_norm": 18.681299209594727, + "learning_rate": 4.789011114539376e-06, + "loss": 0.5396, + "num_input_tokens_seen": 5869288, + "step": 2990 + }, + { + "epoch": 0.3964214711729622, + "grad_norm": 5.464449405670166, + "learning_rate": 4.788871515429026e-06, + "loss": 0.1703, + "num_input_tokens_seen": 5870968, + "step": 2991 + }, + { + "epoch": 0.3965540092776673, + "grad_norm": 10.166231155395508, + "learning_rate": 4.788731872187653e-06, + "loss": 0.2362, + "num_input_tokens_seen": 5872624, + "step": 2992 + }, + { + "epoch": 0.3966865473823724, + "grad_norm": 8.971012115478516, + "learning_rate": 4.7885921848179516e-06, + "loss": 0.2499, + "num_input_tokens_seen": 5874176, + "step": 2993 + }, + { + "epoch": 0.39681908548707756, + "grad_norm": 16.86927604675293, + "learning_rate": 4.788452453322614e-06, + "loss": 0.2378, + "num_input_tokens_seen": 5876920, + "step": 2994 + }, + { + "epoch": 0.39695162359178265, + "grad_norm": 7.404328346252441, + "learning_rate": 4.788312677704335e-06, + "loss": 0.0978, + "num_input_tokens_seen": 5879176, + "step": 2995 + }, + { + "epoch": 0.39708416169648775, + "grad_norm": 6.144297122955322, + "learning_rate": 4.788172857965808e-06, + "loss": 0.1248, + "num_input_tokens_seen": 5881256, + "step": 2996 + }, + { + "epoch": 0.39721669980119284, + "grad_norm": 0.10653188079595566, + "learning_rate": 4.78803299410973e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5882792, + "step": 2997 + }, + { + "epoch": 0.39734923790589793, + "grad_norm": 17.77987289428711, + "learning_rate": 4.787893086138797e-06, + "loss": 0.513, + "num_input_tokens_seen": 5884456, + "step": 2998 + }, + { + "epoch": 0.397481776010603, + "grad_norm": 12.142847061157227, + "learning_rate": 4.787753134055708e-06, + "loss": 0.1951, + "num_input_tokens_seen": 5885952, + "step": 2999 + }, + { + "epoch": 0.3976143141153082, + "grad_norm": 3.825782537460327, + "learning_rate": 4.78761313786316e-06, + "loss": 0.0265, + "num_input_tokens_seen": 5887648, + "step": 3000 + }, + { + "epoch": 0.39774685222001327, + "grad_norm": 12.713396072387695, + "learning_rate": 4.7874730975638525e-06, + "loss": 0.4991, + "num_input_tokens_seen": 5889720, + "step": 3001 + }, + { + "epoch": 0.39787939032471836, + "grad_norm": 14.01033878326416, + "learning_rate": 4.787333013160485e-06, + "loss": 0.4214, + "num_input_tokens_seen": 5891472, + "step": 3002 + }, + { + "epoch": 0.39801192842942346, + "grad_norm": 11.056123733520508, + "learning_rate": 4.78719288465576e-06, + "loss": 0.2324, + "num_input_tokens_seen": 5893512, + "step": 3003 + }, + { + "epoch": 0.39814446653412855, + "grad_norm": 4.753828048706055, + "learning_rate": 4.787052712052378e-06, + "loss": 0.0504, + "num_input_tokens_seen": 5895000, + "step": 3004 + }, + { + "epoch": 0.39827700463883364, + "grad_norm": 2.477724075317383, + "learning_rate": 4.786912495353042e-06, + "loss": 0.0144, + "num_input_tokens_seen": 5897896, + "step": 3005 + }, + { + "epoch": 0.3984095427435388, + "grad_norm": 4.012485980987549, + "learning_rate": 4.786772234560455e-06, + "loss": 0.1019, + "num_input_tokens_seen": 5899648, + "step": 3006 + }, + { + "epoch": 0.3985420808482439, + "grad_norm": 1.1006004810333252, + "learning_rate": 4.7866319296773216e-06, + "loss": 0.0069, + "num_input_tokens_seen": 5901408, + "step": 3007 + }, + { + "epoch": 0.398674618952949, + "grad_norm": 0.5684716105461121, + "learning_rate": 4.786491580706348e-06, + "loss": 0.0036, + "num_input_tokens_seen": 5902712, + "step": 3008 + }, + { + "epoch": 0.39880715705765407, + "grad_norm": 0.44975587725639343, + "learning_rate": 4.786351187650239e-06, + "loss": 0.0028, + "num_input_tokens_seen": 5904200, + "step": 3009 + }, + { + "epoch": 0.39893969516235916, + "grad_norm": 9.59408950805664, + "learning_rate": 4.786210750511701e-06, + "loss": 0.1614, + "num_input_tokens_seen": 5905768, + "step": 3010 + }, + { + "epoch": 0.39907223326706426, + "grad_norm": 11.989697456359863, + "learning_rate": 4.786070269293444e-06, + "loss": 0.3817, + "num_input_tokens_seen": 5909056, + "step": 3011 + }, + { + "epoch": 0.3992047713717694, + "grad_norm": 11.94229793548584, + "learning_rate": 4.785929743998174e-06, + "loss": 0.4448, + "num_input_tokens_seen": 5910592, + "step": 3012 + }, + { + "epoch": 0.3993373094764745, + "grad_norm": 17.604032516479492, + "learning_rate": 4.7857891746286025e-06, + "loss": 0.738, + "num_input_tokens_seen": 5912872, + "step": 3013 + }, + { + "epoch": 0.3994698475811796, + "grad_norm": 5.24974250793457, + "learning_rate": 4.785648561187438e-06, + "loss": 0.0739, + "num_input_tokens_seen": 5914752, + "step": 3014 + }, + { + "epoch": 0.3996023856858847, + "grad_norm": 2.9489407539367676, + "learning_rate": 4.785507903677392e-06, + "loss": 0.0689, + "num_input_tokens_seen": 5916720, + "step": 3015 + }, + { + "epoch": 0.3997349237905898, + "grad_norm": 5.593491554260254, + "learning_rate": 4.785367202101178e-06, + "loss": 0.1008, + "num_input_tokens_seen": 5918432, + "step": 3016 + }, + { + "epoch": 0.3998674618952949, + "grad_norm": 13.952553749084473, + "learning_rate": 4.785226456461508e-06, + "loss": 0.5344, + "num_input_tokens_seen": 5920480, + "step": 3017 + }, + { + "epoch": 0.4, + "grad_norm": 0.10456594079732895, + "learning_rate": 4.785085666761094e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5921888, + "step": 3018 + }, + { + "epoch": 0.4001325381047051, + "grad_norm": 13.457680702209473, + "learning_rate": 4.784944833002654e-06, + "loss": 0.397, + "num_input_tokens_seen": 5923736, + "step": 3019 + }, + { + "epoch": 0.4002650762094102, + "grad_norm": 5.41466760635376, + "learning_rate": 4.784803955188899e-06, + "loss": 0.0587, + "num_input_tokens_seen": 5926984, + "step": 3020 + }, + { + "epoch": 0.4003976143141153, + "grad_norm": 11.419010162353516, + "learning_rate": 4.7846630333225495e-06, + "loss": 0.2443, + "num_input_tokens_seen": 5928304, + "step": 3021 + }, + { + "epoch": 0.4005301524188204, + "grad_norm": 8.327176094055176, + "learning_rate": 4.784522067406319e-06, + "loss": 0.1608, + "num_input_tokens_seen": 5930296, + "step": 3022 + }, + { + "epoch": 0.4006626905235255, + "grad_norm": 0.17967109382152557, + "learning_rate": 4.7843810574429284e-06, + "loss": 0.0011, + "num_input_tokens_seen": 5932520, + "step": 3023 + }, + { + "epoch": 0.40079522862823064, + "grad_norm": 0.6572452783584595, + "learning_rate": 4.784240003435095e-06, + "loss": 0.0035, + "num_input_tokens_seen": 5934288, + "step": 3024 + }, + { + "epoch": 0.40092776673293573, + "grad_norm": 0.7890099883079529, + "learning_rate": 4.7840989053855374e-06, + "loss": 0.0032, + "num_input_tokens_seen": 5936080, + "step": 3025 + }, + { + "epoch": 0.4010603048376408, + "grad_norm": 0.1663220375776291, + "learning_rate": 4.783957763296978e-06, + "loss": 0.001, + "num_input_tokens_seen": 5937344, + "step": 3026 + }, + { + "epoch": 0.4011928429423459, + "grad_norm": 23.41261100769043, + "learning_rate": 4.783816577172137e-06, + "loss": 0.4825, + "num_input_tokens_seen": 5939352, + "step": 3027 + }, + { + "epoch": 0.401325381047051, + "grad_norm": 4.292874813079834, + "learning_rate": 4.783675347013736e-06, + "loss": 0.1444, + "num_input_tokens_seen": 5941512, + "step": 3028 + }, + { + "epoch": 0.4014579191517561, + "grad_norm": 2.5654399394989014, + "learning_rate": 4.7835340728245e-06, + "loss": 0.0162, + "num_input_tokens_seen": 5943120, + "step": 3029 + }, + { + "epoch": 0.40159045725646125, + "grad_norm": 10.964597702026367, + "learning_rate": 4.783392754607152e-06, + "loss": 0.2558, + "num_input_tokens_seen": 5944800, + "step": 3030 + }, + { + "epoch": 0.40172299536116635, + "grad_norm": 8.546445846557617, + "learning_rate": 4.783251392364417e-06, + "loss": 0.2801, + "num_input_tokens_seen": 5946080, + "step": 3031 + }, + { + "epoch": 0.40185553346587144, + "grad_norm": 10.508057594299316, + "learning_rate": 4.783109986099019e-06, + "loss": 0.2873, + "num_input_tokens_seen": 5947752, + "step": 3032 + }, + { + "epoch": 0.40198807157057653, + "grad_norm": 0.0683145523071289, + "learning_rate": 4.782968535813685e-06, + "loss": 0.0004, + "num_input_tokens_seen": 5949728, + "step": 3033 + }, + { + "epoch": 0.4021206096752816, + "grad_norm": 13.5866117477417, + "learning_rate": 4.782827041511143e-06, + "loss": 0.2349, + "num_input_tokens_seen": 5950968, + "step": 3034 + }, + { + "epoch": 0.4022531477799867, + "grad_norm": 5.996464252471924, + "learning_rate": 4.782685503194121e-06, + "loss": 0.2151, + "num_input_tokens_seen": 5953112, + "step": 3035 + }, + { + "epoch": 0.40238568588469187, + "grad_norm": 8.38286304473877, + "learning_rate": 4.782543920865348e-06, + "loss": 0.2292, + "num_input_tokens_seen": 5955192, + "step": 3036 + }, + { + "epoch": 0.40251822398939696, + "grad_norm": 1.311390995979309, + "learning_rate": 4.7824022945275535e-06, + "loss": 0.0204, + "num_input_tokens_seen": 5956824, + "step": 3037 + }, + { + "epoch": 0.40265076209410205, + "grad_norm": 5.924940586090088, + "learning_rate": 4.782260624183468e-06, + "loss": 0.0334, + "num_input_tokens_seen": 5959088, + "step": 3038 + }, + { + "epoch": 0.40278330019880715, + "grad_norm": 8.918008804321289, + "learning_rate": 4.782118909835823e-06, + "loss": 0.2929, + "num_input_tokens_seen": 5960680, + "step": 3039 + }, + { + "epoch": 0.40291583830351224, + "grad_norm": 0.106726735830307, + "learning_rate": 4.781977151487351e-06, + "loss": 0.0007, + "num_input_tokens_seen": 5962168, + "step": 3040 + }, + { + "epoch": 0.40304837640821733, + "grad_norm": 15.09712028503418, + "learning_rate": 4.781835349140786e-06, + "loss": 0.4329, + "num_input_tokens_seen": 5964096, + "step": 3041 + }, + { + "epoch": 0.4031809145129225, + "grad_norm": 9.392486572265625, + "learning_rate": 4.781693502798861e-06, + "loss": 0.1517, + "num_input_tokens_seen": 5965760, + "step": 3042 + }, + { + "epoch": 0.4033134526176276, + "grad_norm": 8.407020568847656, + "learning_rate": 4.781551612464311e-06, + "loss": 0.2123, + "num_input_tokens_seen": 5968096, + "step": 3043 + }, + { + "epoch": 0.40344599072233267, + "grad_norm": 10.140686988830566, + "learning_rate": 4.7814096781398725e-06, + "loss": 0.2907, + "num_input_tokens_seen": 5969616, + "step": 3044 + }, + { + "epoch": 0.40357852882703776, + "grad_norm": 0.2493980973958969, + "learning_rate": 4.781267699828281e-06, + "loss": 0.0015, + "num_input_tokens_seen": 5971352, + "step": 3045 + }, + { + "epoch": 0.40371106693174286, + "grad_norm": 10.33617877960205, + "learning_rate": 4.781125677532274e-06, + "loss": 0.143, + "num_input_tokens_seen": 5973440, + "step": 3046 + }, + { + "epoch": 0.403843605036448, + "grad_norm": 6.5604963302612305, + "learning_rate": 4.7809836112545906e-06, + "loss": 0.0494, + "num_input_tokens_seen": 5975112, + "step": 3047 + }, + { + "epoch": 0.4039761431411531, + "grad_norm": 18.71568489074707, + "learning_rate": 4.78084150099797e-06, + "loss": 0.5231, + "num_input_tokens_seen": 5976680, + "step": 3048 + }, + { + "epoch": 0.4041086812458582, + "grad_norm": 11.909926414489746, + "learning_rate": 4.780699346765152e-06, + "loss": 0.2672, + "num_input_tokens_seen": 5978664, + "step": 3049 + }, + { + "epoch": 0.4042412193505633, + "grad_norm": 11.537005424499512, + "learning_rate": 4.780557148558876e-06, + "loss": 0.1979, + "num_input_tokens_seen": 5980384, + "step": 3050 + }, + { + "epoch": 0.4043737574552684, + "grad_norm": 12.15526294708252, + "learning_rate": 4.780414906381886e-06, + "loss": 0.5005, + "num_input_tokens_seen": 5982792, + "step": 3051 + }, + { + "epoch": 0.40450629555997347, + "grad_norm": 5.510542392730713, + "learning_rate": 4.7802726202369236e-06, + "loss": 0.1017, + "num_input_tokens_seen": 5984328, + "step": 3052 + }, + { + "epoch": 0.4046388336646786, + "grad_norm": 7.926218032836914, + "learning_rate": 4.780130290126731e-06, + "loss": 0.1155, + "num_input_tokens_seen": 5986304, + "step": 3053 + }, + { + "epoch": 0.4047713717693837, + "grad_norm": 10.571142196655273, + "learning_rate": 4.779987916054054e-06, + "loss": 0.1468, + "num_input_tokens_seen": 5988336, + "step": 3054 + }, + { + "epoch": 0.4049039098740888, + "grad_norm": 0.49342310428619385, + "learning_rate": 4.7798454980216375e-06, + "loss": 0.0031, + "num_input_tokens_seen": 5989840, + "step": 3055 + }, + { + "epoch": 0.4050364479787939, + "grad_norm": 9.98480224609375, + "learning_rate": 4.779703036032227e-06, + "loss": 0.197, + "num_input_tokens_seen": 5991936, + "step": 3056 + }, + { + "epoch": 0.405168986083499, + "grad_norm": 9.786097526550293, + "learning_rate": 4.779560530088568e-06, + "loss": 0.3541, + "num_input_tokens_seen": 5993920, + "step": 3057 + }, + { + "epoch": 0.4053015241882041, + "grad_norm": 11.278203010559082, + "learning_rate": 4.779417980193411e-06, + "loss": 0.1997, + "num_input_tokens_seen": 5995688, + "step": 3058 + }, + { + "epoch": 0.40543406229290924, + "grad_norm": 14.312846183776855, + "learning_rate": 4.779275386349502e-06, + "loss": 0.5092, + "num_input_tokens_seen": 5997272, + "step": 3059 + }, + { + "epoch": 0.40556660039761433, + "grad_norm": 11.433096885681152, + "learning_rate": 4.779132748559591e-06, + "loss": 0.277, + "num_input_tokens_seen": 5999984, + "step": 3060 + }, + { + "epoch": 0.4056991385023194, + "grad_norm": 13.709260940551758, + "learning_rate": 4.7789900668264285e-06, + "loss": 0.285, + "num_input_tokens_seen": 6002960, + "step": 3061 + }, + { + "epoch": 0.4058316766070245, + "grad_norm": 1.373302936553955, + "learning_rate": 4.778847341152766e-06, + "loss": 0.0089, + "num_input_tokens_seen": 6005040, + "step": 3062 + }, + { + "epoch": 0.4059642147117296, + "grad_norm": 8.988983154296875, + "learning_rate": 4.778704571541353e-06, + "loss": 0.211, + "num_input_tokens_seen": 6006856, + "step": 3063 + }, + { + "epoch": 0.4060967528164347, + "grad_norm": 2.7159955501556396, + "learning_rate": 4.7785617579949464e-06, + "loss": 0.0525, + "num_input_tokens_seen": 6008328, + "step": 3064 + }, + { + "epoch": 0.40622929092113985, + "grad_norm": 5.499091625213623, + "learning_rate": 4.778418900516295e-06, + "loss": 0.2052, + "num_input_tokens_seen": 6009720, + "step": 3065 + }, + { + "epoch": 0.40636182902584495, + "grad_norm": 8.766337394714355, + "learning_rate": 4.778275999108156e-06, + "loss": 0.2336, + "num_input_tokens_seen": 6011488, + "step": 3066 + }, + { + "epoch": 0.40649436713055004, + "grad_norm": 6.744692802429199, + "learning_rate": 4.778133053773285e-06, + "loss": 0.1526, + "num_input_tokens_seen": 6013040, + "step": 3067 + }, + { + "epoch": 0.40662690523525513, + "grad_norm": 12.018231391906738, + "learning_rate": 4.777990064514436e-06, + "loss": 0.5898, + "num_input_tokens_seen": 6015712, + "step": 3068 + }, + { + "epoch": 0.4067594433399602, + "grad_norm": 11.734688758850098, + "learning_rate": 4.777847031334367e-06, + "loss": 0.4626, + "num_input_tokens_seen": 6018200, + "step": 3069 + }, + { + "epoch": 0.4068919814446653, + "grad_norm": 0.4630076289176941, + "learning_rate": 4.777703954235836e-06, + "loss": 0.003, + "num_input_tokens_seen": 6020296, + "step": 3070 + }, + { + "epoch": 0.40702451954937047, + "grad_norm": 3.5980210304260254, + "learning_rate": 4.777560833221602e-06, + "loss": 0.0933, + "num_input_tokens_seen": 6022024, + "step": 3071 + }, + { + "epoch": 0.40715705765407556, + "grad_norm": 5.336532115936279, + "learning_rate": 4.777417668294423e-06, + "loss": 0.1168, + "num_input_tokens_seen": 6023808, + "step": 3072 + }, + { + "epoch": 0.40728959575878065, + "grad_norm": 6.206470012664795, + "learning_rate": 4.777274459457061e-06, + "loss": 0.1349, + "num_input_tokens_seen": 6025672, + "step": 3073 + }, + { + "epoch": 0.40742213386348575, + "grad_norm": 9.960881233215332, + "learning_rate": 4.777131206712276e-06, + "loss": 0.2055, + "num_input_tokens_seen": 6028920, + "step": 3074 + }, + { + "epoch": 0.40755467196819084, + "grad_norm": 11.088637351989746, + "learning_rate": 4.776987910062831e-06, + "loss": 0.2431, + "num_input_tokens_seen": 6031552, + "step": 3075 + }, + { + "epoch": 0.40768721007289593, + "grad_norm": 8.290035247802734, + "learning_rate": 4.776844569511488e-06, + "loss": 0.3315, + "num_input_tokens_seen": 6034800, + "step": 3076 + }, + { + "epoch": 0.4078197481776011, + "grad_norm": 0.3557060956954956, + "learning_rate": 4.776701185061011e-06, + "loss": 0.0023, + "num_input_tokens_seen": 6036192, + "step": 3077 + }, + { + "epoch": 0.4079522862823062, + "grad_norm": 10.25466537475586, + "learning_rate": 4.776557756714165e-06, + "loss": 0.3523, + "num_input_tokens_seen": 6038112, + "step": 3078 + }, + { + "epoch": 0.40808482438701127, + "grad_norm": 0.794212281703949, + "learning_rate": 4.776414284473714e-06, + "loss": 0.0051, + "num_input_tokens_seen": 6040296, + "step": 3079 + }, + { + "epoch": 0.40821736249171636, + "grad_norm": 2.279489517211914, + "learning_rate": 4.776270768342426e-06, + "loss": 0.0324, + "num_input_tokens_seen": 6043056, + "step": 3080 + }, + { + "epoch": 0.40834990059642146, + "grad_norm": 14.591126441955566, + "learning_rate": 4.776127208323066e-06, + "loss": 0.261, + "num_input_tokens_seen": 6045160, + "step": 3081 + }, + { + "epoch": 0.40848243870112655, + "grad_norm": 8.44650650024414, + "learning_rate": 4.7759836044184045e-06, + "loss": 0.2093, + "num_input_tokens_seen": 6046888, + "step": 3082 + }, + { + "epoch": 0.4086149768058317, + "grad_norm": 0.26111704111099243, + "learning_rate": 4.775839956631209e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6048240, + "step": 3083 + }, + { + "epoch": 0.4087475149105368, + "grad_norm": 12.474830627441406, + "learning_rate": 4.775696264964248e-06, + "loss": 0.258, + "num_input_tokens_seen": 6050160, + "step": 3084 + }, + { + "epoch": 0.4088800530152419, + "grad_norm": 8.354405403137207, + "learning_rate": 4.775552529420294e-06, + "loss": 0.1556, + "num_input_tokens_seen": 6052160, + "step": 3085 + }, + { + "epoch": 0.409012591119947, + "grad_norm": 11.345044136047363, + "learning_rate": 4.7754087500021166e-06, + "loss": 0.222, + "num_input_tokens_seen": 6053904, + "step": 3086 + }, + { + "epoch": 0.40914512922465207, + "grad_norm": 19.17113494873047, + "learning_rate": 4.775264926712489e-06, + "loss": 0.3486, + "num_input_tokens_seen": 6055320, + "step": 3087 + }, + { + "epoch": 0.40927766732935716, + "grad_norm": 10.271292686462402, + "learning_rate": 4.775121059554185e-06, + "loss": 0.2964, + "num_input_tokens_seen": 6057752, + "step": 3088 + }, + { + "epoch": 0.4094102054340623, + "grad_norm": 13.502019882202148, + "learning_rate": 4.774977148529976e-06, + "loss": 0.6909, + "num_input_tokens_seen": 6059664, + "step": 3089 + }, + { + "epoch": 0.4095427435387674, + "grad_norm": 0.2012919783592224, + "learning_rate": 4.77483319364264e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6060904, + "step": 3090 + }, + { + "epoch": 0.4096752816434725, + "grad_norm": 5.689934730529785, + "learning_rate": 4.774689194894949e-06, + "loss": 0.0643, + "num_input_tokens_seen": 6062440, + "step": 3091 + }, + { + "epoch": 0.4098078197481776, + "grad_norm": 0.16804854571819305, + "learning_rate": 4.774545152289682e-06, + "loss": 0.001, + "num_input_tokens_seen": 6063496, + "step": 3092 + }, + { + "epoch": 0.4099403578528827, + "grad_norm": 0.13473553955554962, + "learning_rate": 4.774401065829615e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6064816, + "step": 3093 + }, + { + "epoch": 0.4100728959575878, + "grad_norm": 17.00417137145996, + "learning_rate": 4.7742569355175265e-06, + "loss": 0.4453, + "num_input_tokens_seen": 6066272, + "step": 3094 + }, + { + "epoch": 0.41020543406229293, + "grad_norm": 0.4533868432044983, + "learning_rate": 4.774112761356196e-06, + "loss": 0.0027, + "num_input_tokens_seen": 6068736, + "step": 3095 + }, + { + "epoch": 0.410337972166998, + "grad_norm": 12.019583702087402, + "learning_rate": 4.773968543348401e-06, + "loss": 0.2849, + "num_input_tokens_seen": 6071496, + "step": 3096 + }, + { + "epoch": 0.4104705102717031, + "grad_norm": 42.181907653808594, + "learning_rate": 4.773824281496925e-06, + "loss": 0.3721, + "num_input_tokens_seen": 6073360, + "step": 3097 + }, + { + "epoch": 0.4106030483764082, + "grad_norm": 17.163623809814453, + "learning_rate": 4.773679975804548e-06, + "loss": 0.6141, + "num_input_tokens_seen": 6076352, + "step": 3098 + }, + { + "epoch": 0.4107355864811133, + "grad_norm": 13.250836372375488, + "learning_rate": 4.773535626274052e-06, + "loss": 0.1539, + "num_input_tokens_seen": 6078464, + "step": 3099 + }, + { + "epoch": 0.41086812458581845, + "grad_norm": 0.06211230531334877, + "learning_rate": 4.773391232908221e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6080024, + "step": 3100 + }, + { + "epoch": 0.41100066269052354, + "grad_norm": 10.412588119506836, + "learning_rate": 4.77324679570984e-06, + "loss": 0.4491, + "num_input_tokens_seen": 6081584, + "step": 3101 + }, + { + "epoch": 0.41113320079522864, + "grad_norm": 10.901458740234375, + "learning_rate": 4.77310231468169e-06, + "loss": 0.1699, + "num_input_tokens_seen": 6083480, + "step": 3102 + }, + { + "epoch": 0.41126573889993373, + "grad_norm": 14.307418823242188, + "learning_rate": 4.772957789826561e-06, + "loss": 0.4568, + "num_input_tokens_seen": 6085696, + "step": 3103 + }, + { + "epoch": 0.4113982770046388, + "grad_norm": 0.22862078249454498, + "learning_rate": 4.772813221147238e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6087016, + "step": 3104 + }, + { + "epoch": 0.4115308151093439, + "grad_norm": 9.769891738891602, + "learning_rate": 4.772668608646507e-06, + "loss": 0.2239, + "num_input_tokens_seen": 6088616, + "step": 3105 + }, + { + "epoch": 0.41166335321404907, + "grad_norm": 15.975464820861816, + "learning_rate": 4.772523952327158e-06, + "loss": 0.4469, + "num_input_tokens_seen": 6090528, + "step": 3106 + }, + { + "epoch": 0.41179589131875416, + "grad_norm": 0.19305944442749023, + "learning_rate": 4.77237925219198e-06, + "loss": 0.001, + "num_input_tokens_seen": 6092024, + "step": 3107 + }, + { + "epoch": 0.41192842942345925, + "grad_norm": 17.83104705810547, + "learning_rate": 4.772234508243762e-06, + "loss": 0.8094, + "num_input_tokens_seen": 6094184, + "step": 3108 + }, + { + "epoch": 0.41206096752816435, + "grad_norm": 5.032706260681152, + "learning_rate": 4.772089720485294e-06, + "loss": 0.0383, + "num_input_tokens_seen": 6096752, + "step": 3109 + }, + { + "epoch": 0.41219350563286944, + "grad_norm": 14.342052459716797, + "learning_rate": 4.77194488891937e-06, + "loss": 0.6316, + "num_input_tokens_seen": 6099168, + "step": 3110 + }, + { + "epoch": 0.41232604373757453, + "grad_norm": 0.8267076015472412, + "learning_rate": 4.7718000135487805e-06, + "loss": 0.0047, + "num_input_tokens_seen": 6102288, + "step": 3111 + }, + { + "epoch": 0.4124585818422797, + "grad_norm": 17.27442169189453, + "learning_rate": 4.77165509437632e-06, + "loss": 0.5241, + "num_input_tokens_seen": 6105184, + "step": 3112 + }, + { + "epoch": 0.4125911199469848, + "grad_norm": 4.625985622406006, + "learning_rate": 4.771510131404782e-06, + "loss": 0.1199, + "num_input_tokens_seen": 6107976, + "step": 3113 + }, + { + "epoch": 0.41272365805168987, + "grad_norm": 19.51150131225586, + "learning_rate": 4.771365124636962e-06, + "loss": 0.7241, + "num_input_tokens_seen": 6109464, + "step": 3114 + }, + { + "epoch": 0.41285619615639496, + "grad_norm": 5.553974628448486, + "learning_rate": 4.771220074075655e-06, + "loss": 0.0661, + "num_input_tokens_seen": 6110952, + "step": 3115 + }, + { + "epoch": 0.41298873426110005, + "grad_norm": 11.857381820678711, + "learning_rate": 4.771074979723658e-06, + "loss": 0.3017, + "num_input_tokens_seen": 6112760, + "step": 3116 + }, + { + "epoch": 0.41312127236580515, + "grad_norm": 6.518974781036377, + "learning_rate": 4.770929841583769e-06, + "loss": 0.2368, + "num_input_tokens_seen": 6114952, + "step": 3117 + }, + { + "epoch": 0.4132538104705103, + "grad_norm": 12.872612953186035, + "learning_rate": 4.770784659658786e-06, + "loss": 0.2508, + "num_input_tokens_seen": 6116928, + "step": 3118 + }, + { + "epoch": 0.4133863485752154, + "grad_norm": 21.21937370300293, + "learning_rate": 4.7706394339515084e-06, + "loss": 0.5766, + "num_input_tokens_seen": 6118968, + "step": 3119 + }, + { + "epoch": 0.4135188866799205, + "grad_norm": 11.144512176513672, + "learning_rate": 4.770494164464736e-06, + "loss": 0.1176, + "num_input_tokens_seen": 6120664, + "step": 3120 + }, + { + "epoch": 0.4136514247846256, + "grad_norm": 0.5427361130714417, + "learning_rate": 4.77034885120127e-06, + "loss": 0.0032, + "num_input_tokens_seen": 6122608, + "step": 3121 + }, + { + "epoch": 0.41378396288933067, + "grad_norm": 14.200712203979492, + "learning_rate": 4.770203494163911e-06, + "loss": 0.4424, + "num_input_tokens_seen": 6124632, + "step": 3122 + }, + { + "epoch": 0.41391650099403576, + "grad_norm": 17.00480079650879, + "learning_rate": 4.770058093355463e-06, + "loss": 0.52, + "num_input_tokens_seen": 6127632, + "step": 3123 + }, + { + "epoch": 0.4140490390987409, + "grad_norm": 10.266498565673828, + "learning_rate": 4.76991264877873e-06, + "loss": 0.1349, + "num_input_tokens_seen": 6130328, + "step": 3124 + }, + { + "epoch": 0.414181577203446, + "grad_norm": 16.510438919067383, + "learning_rate": 4.769767160436513e-06, + "loss": 0.3694, + "num_input_tokens_seen": 6132504, + "step": 3125 + }, + { + "epoch": 0.4143141153081511, + "grad_norm": 9.144237518310547, + "learning_rate": 4.769621628331621e-06, + "loss": 0.1583, + "num_input_tokens_seen": 6134448, + "step": 3126 + }, + { + "epoch": 0.4144466534128562, + "grad_norm": 15.152335166931152, + "learning_rate": 4.769476052466858e-06, + "loss": 0.2271, + "num_input_tokens_seen": 6136088, + "step": 3127 + }, + { + "epoch": 0.4145791915175613, + "grad_norm": 11.477108001708984, + "learning_rate": 4.769330432845031e-06, + "loss": 0.2565, + "num_input_tokens_seen": 6137712, + "step": 3128 + }, + { + "epoch": 0.4147117296222664, + "grad_norm": 7.583346843719482, + "learning_rate": 4.769184769468947e-06, + "loss": 0.1339, + "num_input_tokens_seen": 6139192, + "step": 3129 + }, + { + "epoch": 0.4148442677269715, + "grad_norm": 12.235583305358887, + "learning_rate": 4.769039062341416e-06, + "loss": 0.4335, + "num_input_tokens_seen": 6140768, + "step": 3130 + }, + { + "epoch": 0.4149768058316766, + "grad_norm": 11.85566520690918, + "learning_rate": 4.768893311465247e-06, + "loss": 0.3706, + "num_input_tokens_seen": 6143088, + "step": 3131 + }, + { + "epoch": 0.4151093439363817, + "grad_norm": 11.401771545410156, + "learning_rate": 4.768747516843248e-06, + "loss": 0.3559, + "num_input_tokens_seen": 6144656, + "step": 3132 + }, + { + "epoch": 0.4152418820410868, + "grad_norm": 3.7596797943115234, + "learning_rate": 4.768601678478233e-06, + "loss": 0.0218, + "num_input_tokens_seen": 6146072, + "step": 3133 + }, + { + "epoch": 0.4153744201457919, + "grad_norm": 7.428145885467529, + "learning_rate": 4.7684557963730125e-06, + "loss": 0.1476, + "num_input_tokens_seen": 6147888, + "step": 3134 + }, + { + "epoch": 0.415506958250497, + "grad_norm": 10.638260841369629, + "learning_rate": 4.7683098705303995e-06, + "loss": 0.3115, + "num_input_tokens_seen": 6149528, + "step": 3135 + }, + { + "epoch": 0.41563949635520214, + "grad_norm": 8.499889373779297, + "learning_rate": 4.768163900953207e-06, + "loss": 0.1436, + "num_input_tokens_seen": 6151400, + "step": 3136 + }, + { + "epoch": 0.41577203445990724, + "grad_norm": 6.4343976974487305, + "learning_rate": 4.76801788764425e-06, + "loss": 0.2123, + "num_input_tokens_seen": 6153928, + "step": 3137 + }, + { + "epoch": 0.41590457256461233, + "grad_norm": 2.0699076652526855, + "learning_rate": 4.767871830606343e-06, + "loss": 0.0123, + "num_input_tokens_seen": 6156352, + "step": 3138 + }, + { + "epoch": 0.4160371106693174, + "grad_norm": 10.167271614074707, + "learning_rate": 4.767725729842303e-06, + "loss": 0.2444, + "num_input_tokens_seen": 6158368, + "step": 3139 + }, + { + "epoch": 0.4161696487740225, + "grad_norm": 9.541232109069824, + "learning_rate": 4.7675795853549465e-06, + "loss": 0.2729, + "num_input_tokens_seen": 6160592, + "step": 3140 + }, + { + "epoch": 0.4163021868787276, + "grad_norm": 0.28433868288993835, + "learning_rate": 4.767433397147092e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6162072, + "step": 3141 + }, + { + "epoch": 0.41643472498343276, + "grad_norm": 6.1566243171691895, + "learning_rate": 4.767287165221557e-06, + "loss": 0.0757, + "num_input_tokens_seen": 6163680, + "step": 3142 + }, + { + "epoch": 0.41656726308813785, + "grad_norm": 0.060589615255594254, + "learning_rate": 4.76714088958116e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6164992, + "step": 3143 + }, + { + "epoch": 0.41669980119284294, + "grad_norm": 3.048267126083374, + "learning_rate": 4.766994570228723e-06, + "loss": 0.0199, + "num_input_tokens_seen": 6167136, + "step": 3144 + }, + { + "epoch": 0.41683233929754804, + "grad_norm": 0.09219857305288315, + "learning_rate": 4.766848207167069e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6169176, + "step": 3145 + }, + { + "epoch": 0.41696487740225313, + "grad_norm": 19.610143661499023, + "learning_rate": 4.766701800399015e-06, + "loss": 0.2388, + "num_input_tokens_seen": 6171008, + "step": 3146 + }, + { + "epoch": 0.4170974155069582, + "grad_norm": 0.07013262808322906, + "learning_rate": 4.7665553499273875e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6173600, + "step": 3147 + }, + { + "epoch": 0.4172299536116634, + "grad_norm": 9.332684516906738, + "learning_rate": 4.76640885575501e-06, + "loss": 0.3414, + "num_input_tokens_seen": 6174880, + "step": 3148 + }, + { + "epoch": 0.41736249171636847, + "grad_norm": 11.6048583984375, + "learning_rate": 4.766262317884706e-06, + "loss": 0.1967, + "num_input_tokens_seen": 6177560, + "step": 3149 + }, + { + "epoch": 0.41749502982107356, + "grad_norm": 12.333416938781738, + "learning_rate": 4.7661157363193e-06, + "loss": 0.2254, + "num_input_tokens_seen": 6180184, + "step": 3150 + }, + { + "epoch": 0.41762756792577865, + "grad_norm": 0.060673609375953674, + "learning_rate": 4.76596911106162e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6181848, + "step": 3151 + }, + { + "epoch": 0.41776010603048375, + "grad_norm": 0.2722627520561218, + "learning_rate": 4.765822442114493e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6183592, + "step": 3152 + }, + { + "epoch": 0.41789264413518884, + "grad_norm": 25.811012268066406, + "learning_rate": 4.765675729480746e-06, + "loss": 0.9896, + "num_input_tokens_seen": 6185856, + "step": 3153 + }, + { + "epoch": 0.418025182239894, + "grad_norm": 13.918129920959473, + "learning_rate": 4.7655289731632075e-06, + "loss": 0.5266, + "num_input_tokens_seen": 6187336, + "step": 3154 + }, + { + "epoch": 0.4181577203445991, + "grad_norm": 10.792093276977539, + "learning_rate": 4.765382173164706e-06, + "loss": 0.1677, + "num_input_tokens_seen": 6189296, + "step": 3155 + }, + { + "epoch": 0.4182902584493042, + "grad_norm": 3.2576427459716797, + "learning_rate": 4.765235329488075e-06, + "loss": 0.0277, + "num_input_tokens_seen": 6191600, + "step": 3156 + }, + { + "epoch": 0.41842279655400927, + "grad_norm": 5.458369255065918, + "learning_rate": 4.765088442136144e-06, + "loss": 0.105, + "num_input_tokens_seen": 6193864, + "step": 3157 + }, + { + "epoch": 0.41855533465871436, + "grad_norm": 0.035416051745414734, + "learning_rate": 4.764941511111746e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6195304, + "step": 3158 + }, + { + "epoch": 0.4186878727634195, + "grad_norm": 0.0703611969947815, + "learning_rate": 4.764794536417712e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6197496, + "step": 3159 + }, + { + "epoch": 0.4188204108681246, + "grad_norm": 9.709760665893555, + "learning_rate": 4.764647518056877e-06, + "loss": 0.2388, + "num_input_tokens_seen": 6199016, + "step": 3160 + }, + { + "epoch": 0.4189529489728297, + "grad_norm": 9.391764640808105, + "learning_rate": 4.764500456032076e-06, + "loss": 0.3105, + "num_input_tokens_seen": 6200776, + "step": 3161 + }, + { + "epoch": 0.4190854870775348, + "grad_norm": 18.629287719726562, + "learning_rate": 4.764353350346144e-06, + "loss": 0.6329, + "num_input_tokens_seen": 6202984, + "step": 3162 + }, + { + "epoch": 0.4192180251822399, + "grad_norm": 7.715208530426025, + "learning_rate": 4.764206201001918e-06, + "loss": 0.2561, + "num_input_tokens_seen": 6204880, + "step": 3163 + }, + { + "epoch": 0.419350563286945, + "grad_norm": 13.882681846618652, + "learning_rate": 4.764059008002233e-06, + "loss": 0.5021, + "num_input_tokens_seen": 6206272, + "step": 3164 + }, + { + "epoch": 0.4194831013916501, + "grad_norm": 10.552160263061523, + "learning_rate": 4.7639117713499295e-06, + "loss": 0.2802, + "num_input_tokens_seen": 6208128, + "step": 3165 + }, + { + "epoch": 0.4196156394963552, + "grad_norm": 14.564270973205566, + "learning_rate": 4.763764491047845e-06, + "loss": 0.5994, + "num_input_tokens_seen": 6209688, + "step": 3166 + }, + { + "epoch": 0.4197481776010603, + "grad_norm": 6.692846775054932, + "learning_rate": 4.763617167098819e-06, + "loss": 0.168, + "num_input_tokens_seen": 6210992, + "step": 3167 + }, + { + "epoch": 0.4198807157057654, + "grad_norm": 16.475135803222656, + "learning_rate": 4.763469799505693e-06, + "loss": 0.5053, + "num_input_tokens_seen": 6213088, + "step": 3168 + }, + { + "epoch": 0.4200132538104705, + "grad_norm": 3.4039344787597656, + "learning_rate": 4.763322388271307e-06, + "loss": 0.0951, + "num_input_tokens_seen": 6214816, + "step": 3169 + }, + { + "epoch": 0.4201457919151756, + "grad_norm": 1.5329331159591675, + "learning_rate": 4.7631749333985044e-06, + "loss": 0.0099, + "num_input_tokens_seen": 6216768, + "step": 3170 + }, + { + "epoch": 0.42027833001988074, + "grad_norm": 0.1647091805934906, + "learning_rate": 4.7630274348901285e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6218296, + "step": 3171 + }, + { + "epoch": 0.42041086812458583, + "grad_norm": 2.2457377910614014, + "learning_rate": 4.762879892749022e-06, + "loss": 0.0123, + "num_input_tokens_seen": 6220776, + "step": 3172 + }, + { + "epoch": 0.42054340622929093, + "grad_norm": 8.632234573364258, + "learning_rate": 4.762732306978029e-06, + "loss": 0.263, + "num_input_tokens_seen": 6223248, + "step": 3173 + }, + { + "epoch": 0.420675944333996, + "grad_norm": 12.974858283996582, + "learning_rate": 4.7625846775799975e-06, + "loss": 0.5419, + "num_input_tokens_seen": 6224992, + "step": 3174 + }, + { + "epoch": 0.4208084824387011, + "grad_norm": 0.2980729937553406, + "learning_rate": 4.7624370045577715e-06, + "loss": 0.002, + "num_input_tokens_seen": 6226560, + "step": 3175 + }, + { + "epoch": 0.4209410205434062, + "grad_norm": 0.8574631214141846, + "learning_rate": 4.7622892879142e-06, + "loss": 0.0055, + "num_input_tokens_seen": 6228216, + "step": 3176 + }, + { + "epoch": 0.42107355864811136, + "grad_norm": 10.34976577758789, + "learning_rate": 4.762141527652131e-06, + "loss": 0.2832, + "num_input_tokens_seen": 6230296, + "step": 3177 + }, + { + "epoch": 0.42120609675281645, + "grad_norm": 8.182145118713379, + "learning_rate": 4.761993723774411e-06, + "loss": 0.1288, + "num_input_tokens_seen": 6232512, + "step": 3178 + }, + { + "epoch": 0.42133863485752154, + "grad_norm": 0.34891024231910706, + "learning_rate": 4.761845876283893e-06, + "loss": 0.0023, + "num_input_tokens_seen": 6234168, + "step": 3179 + }, + { + "epoch": 0.42147117296222664, + "grad_norm": 2.2028005123138428, + "learning_rate": 4.761697985183426e-06, + "loss": 0.0143, + "num_input_tokens_seen": 6236160, + "step": 3180 + }, + { + "epoch": 0.42160371106693173, + "grad_norm": 0.16459161043167114, + "learning_rate": 4.761550050475861e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6238520, + "step": 3181 + }, + { + "epoch": 0.4217362491716368, + "grad_norm": 6.952666282653809, + "learning_rate": 4.761402072164051e-06, + "loss": 0.0601, + "num_input_tokens_seen": 6240056, + "step": 3182 + }, + { + "epoch": 0.42186878727634197, + "grad_norm": 12.082425117492676, + "learning_rate": 4.76125405025085e-06, + "loss": 0.3815, + "num_input_tokens_seen": 6242728, + "step": 3183 + }, + { + "epoch": 0.42200132538104707, + "grad_norm": 9.790754318237305, + "learning_rate": 4.76110598473911e-06, + "loss": 0.1503, + "num_input_tokens_seen": 6245088, + "step": 3184 + }, + { + "epoch": 0.42213386348575216, + "grad_norm": 13.3594970703125, + "learning_rate": 4.760957875631686e-06, + "loss": 0.4013, + "num_input_tokens_seen": 6247008, + "step": 3185 + }, + { + "epoch": 0.42226640159045725, + "grad_norm": 12.206310272216797, + "learning_rate": 4.760809722931435e-06, + "loss": 0.3708, + "num_input_tokens_seen": 6248904, + "step": 3186 + }, + { + "epoch": 0.42239893969516235, + "grad_norm": 11.866032600402832, + "learning_rate": 4.760661526641214e-06, + "loss": 0.2464, + "num_input_tokens_seen": 6251328, + "step": 3187 + }, + { + "epoch": 0.42253147779986744, + "grad_norm": 16.07721519470215, + "learning_rate": 4.760513286763878e-06, + "loss": 0.4798, + "num_input_tokens_seen": 6252536, + "step": 3188 + }, + { + "epoch": 0.4226640159045726, + "grad_norm": 6.7011399269104, + "learning_rate": 4.760365003302286e-06, + "loss": 0.1763, + "num_input_tokens_seen": 6254176, + "step": 3189 + }, + { + "epoch": 0.4227965540092777, + "grad_norm": 10.597217559814453, + "learning_rate": 4.7602166762592985e-06, + "loss": 0.2457, + "num_input_tokens_seen": 6256208, + "step": 3190 + }, + { + "epoch": 0.4229290921139828, + "grad_norm": 8.765196800231934, + "learning_rate": 4.7600683056377735e-06, + "loss": 0.1289, + "num_input_tokens_seen": 6257488, + "step": 3191 + }, + { + "epoch": 0.42306163021868787, + "grad_norm": 10.604379653930664, + "learning_rate": 4.759919891440573e-06, + "loss": 0.213, + "num_input_tokens_seen": 6258736, + "step": 3192 + }, + { + "epoch": 0.42319416832339296, + "grad_norm": 5.606478691101074, + "learning_rate": 4.7597714336705585e-06, + "loss": 0.1711, + "num_input_tokens_seen": 6260632, + "step": 3193 + }, + { + "epoch": 0.42332670642809805, + "grad_norm": 24.88968276977539, + "learning_rate": 4.759622932330591e-06, + "loss": 0.5038, + "num_input_tokens_seen": 6262416, + "step": 3194 + }, + { + "epoch": 0.4234592445328032, + "grad_norm": 0.5721713304519653, + "learning_rate": 4.759474387423534e-06, + "loss": 0.0038, + "num_input_tokens_seen": 6264400, + "step": 3195 + }, + { + "epoch": 0.4235917826375083, + "grad_norm": 6.471712589263916, + "learning_rate": 4.759325798952253e-06, + "loss": 0.0827, + "num_input_tokens_seen": 6266072, + "step": 3196 + }, + { + "epoch": 0.4237243207422134, + "grad_norm": 4.871187686920166, + "learning_rate": 4.7591771669196115e-06, + "loss": 0.0416, + "num_input_tokens_seen": 6268096, + "step": 3197 + }, + { + "epoch": 0.4238568588469185, + "grad_norm": 8.076518058776855, + "learning_rate": 4.759028491328476e-06, + "loss": 0.3966, + "num_input_tokens_seen": 6269864, + "step": 3198 + }, + { + "epoch": 0.4239893969516236, + "grad_norm": 12.052094459533691, + "learning_rate": 4.7588797721817125e-06, + "loss": 0.2255, + "num_input_tokens_seen": 6273008, + "step": 3199 + }, + { + "epoch": 0.42412193505632867, + "grad_norm": 8.013740539550781, + "learning_rate": 4.758731009482189e-06, + "loss": 0.2477, + "num_input_tokens_seen": 6274832, + "step": 3200 + }, + { + "epoch": 0.4242544731610338, + "grad_norm": 1.2955780029296875, + "learning_rate": 4.758582203232773e-06, + "loss": 0.0079, + "num_input_tokens_seen": 6277168, + "step": 3201 + }, + { + "epoch": 0.4243870112657389, + "grad_norm": 6.372220039367676, + "learning_rate": 4.758433353436334e-06, + "loss": 0.1013, + "num_input_tokens_seen": 6278952, + "step": 3202 + }, + { + "epoch": 0.424519549370444, + "grad_norm": 7.447582721710205, + "learning_rate": 4.7582844600957425e-06, + "loss": 0.3166, + "num_input_tokens_seen": 6280856, + "step": 3203 + }, + { + "epoch": 0.4246520874751491, + "grad_norm": 3.587099552154541, + "learning_rate": 4.758135523213868e-06, + "loss": 0.0586, + "num_input_tokens_seen": 6284152, + "step": 3204 + }, + { + "epoch": 0.4247846255798542, + "grad_norm": 9.551051139831543, + "learning_rate": 4.757986542793583e-06, + "loss": 0.3202, + "num_input_tokens_seen": 6286176, + "step": 3205 + }, + { + "epoch": 0.4249171636845593, + "grad_norm": 10.828388214111328, + "learning_rate": 4.75783751883776e-06, + "loss": 0.2285, + "num_input_tokens_seen": 6288416, + "step": 3206 + }, + { + "epoch": 0.42504970178926443, + "grad_norm": 8.946134567260742, + "learning_rate": 4.757688451349271e-06, + "loss": 0.0646, + "num_input_tokens_seen": 6290424, + "step": 3207 + }, + { + "epoch": 0.4251822398939695, + "grad_norm": 10.437426567077637, + "learning_rate": 4.757539340330993e-06, + "loss": 0.313, + "num_input_tokens_seen": 6293568, + "step": 3208 + }, + { + "epoch": 0.4253147779986746, + "grad_norm": 14.829366683959961, + "learning_rate": 4.757390185785798e-06, + "loss": 0.3653, + "num_input_tokens_seen": 6295504, + "step": 3209 + }, + { + "epoch": 0.4254473161033797, + "grad_norm": 20.425113677978516, + "learning_rate": 4.7572409877165624e-06, + "loss": 0.6285, + "num_input_tokens_seen": 6298096, + "step": 3210 + }, + { + "epoch": 0.4255798542080848, + "grad_norm": 12.301413536071777, + "learning_rate": 4.757091746126165e-06, + "loss": 0.2366, + "num_input_tokens_seen": 6299744, + "step": 3211 + }, + { + "epoch": 0.4257123923127899, + "grad_norm": 9.431246757507324, + "learning_rate": 4.756942461017481e-06, + "loss": 0.1655, + "num_input_tokens_seen": 6300888, + "step": 3212 + }, + { + "epoch": 0.42584493041749505, + "grad_norm": 7.4078450202941895, + "learning_rate": 4.756793132393388e-06, + "loss": 0.131, + "num_input_tokens_seen": 6303872, + "step": 3213 + }, + { + "epoch": 0.42597746852220014, + "grad_norm": 0.44162753224372864, + "learning_rate": 4.7566437602567686e-06, + "loss": 0.0028, + "num_input_tokens_seen": 6305544, + "step": 3214 + }, + { + "epoch": 0.42611000662690524, + "grad_norm": 15.503522872924805, + "learning_rate": 4.7564943446105e-06, + "loss": 0.4489, + "num_input_tokens_seen": 6308016, + "step": 3215 + }, + { + "epoch": 0.42624254473161033, + "grad_norm": 8.623398780822754, + "learning_rate": 4.756344885457462e-06, + "loss": 0.1578, + "num_input_tokens_seen": 6310632, + "step": 3216 + }, + { + "epoch": 0.4263750828363154, + "grad_norm": 6.237339019775391, + "learning_rate": 4.75619538280054e-06, + "loss": 0.0663, + "num_input_tokens_seen": 6312368, + "step": 3217 + }, + { + "epoch": 0.42650762094102057, + "grad_norm": 25.49467658996582, + "learning_rate": 4.756045836642614e-06, + "loss": 0.6745, + "num_input_tokens_seen": 6314936, + "step": 3218 + }, + { + "epoch": 0.42664015904572566, + "grad_norm": 6.262709617614746, + "learning_rate": 4.755896246986568e-06, + "loss": 0.3051, + "num_input_tokens_seen": 6316848, + "step": 3219 + }, + { + "epoch": 0.42677269715043076, + "grad_norm": 9.886835098266602, + "learning_rate": 4.755746613835287e-06, + "loss": 0.4395, + "num_input_tokens_seen": 6318280, + "step": 3220 + }, + { + "epoch": 0.42690523525513585, + "grad_norm": 12.256113052368164, + "learning_rate": 4.755596937191653e-06, + "loss": 0.1916, + "num_input_tokens_seen": 6320352, + "step": 3221 + }, + { + "epoch": 0.42703777335984094, + "grad_norm": 16.476892471313477, + "learning_rate": 4.755447217058556e-06, + "loss": 0.4537, + "num_input_tokens_seen": 6322320, + "step": 3222 + }, + { + "epoch": 0.42717031146454604, + "grad_norm": 0.5555036067962646, + "learning_rate": 4.75529745343888e-06, + "loss": 0.0037, + "num_input_tokens_seen": 6323872, + "step": 3223 + }, + { + "epoch": 0.4273028495692512, + "grad_norm": 16.511619567871094, + "learning_rate": 4.755147646335513e-06, + "loss": 0.4184, + "num_input_tokens_seen": 6326064, + "step": 3224 + }, + { + "epoch": 0.4274353876739563, + "grad_norm": 3.4608192443847656, + "learning_rate": 4.754997795751344e-06, + "loss": 0.0298, + "num_input_tokens_seen": 6327024, + "step": 3225 + }, + { + "epoch": 0.4275679257786614, + "grad_norm": 15.203058242797852, + "learning_rate": 4.754847901689261e-06, + "loss": 0.3173, + "num_input_tokens_seen": 6328904, + "step": 3226 + }, + { + "epoch": 0.42770046388336647, + "grad_norm": 6.806552410125732, + "learning_rate": 4.754697964152155e-06, + "loss": 0.2833, + "num_input_tokens_seen": 6330512, + "step": 3227 + }, + { + "epoch": 0.42783300198807156, + "grad_norm": 0.29349565505981445, + "learning_rate": 4.754547983142918e-06, + "loss": 0.0019, + "num_input_tokens_seen": 6331664, + "step": 3228 + }, + { + "epoch": 0.42796554009277665, + "grad_norm": 12.76695728302002, + "learning_rate": 4.75439795866444e-06, + "loss": 0.4526, + "num_input_tokens_seen": 6333216, + "step": 3229 + }, + { + "epoch": 0.4280980781974818, + "grad_norm": 0.6151604056358337, + "learning_rate": 4.754247890719615e-06, + "loss": 0.0041, + "num_input_tokens_seen": 6334448, + "step": 3230 + }, + { + "epoch": 0.4282306163021869, + "grad_norm": 0.5471124649047852, + "learning_rate": 4.754097779311333e-06, + "loss": 0.0036, + "num_input_tokens_seen": 6335672, + "step": 3231 + }, + { + "epoch": 0.428363154406892, + "grad_norm": 8.136335372924805, + "learning_rate": 4.753947624442493e-06, + "loss": 0.1509, + "num_input_tokens_seen": 6338552, + "step": 3232 + }, + { + "epoch": 0.4284956925115971, + "grad_norm": 0.37853461503982544, + "learning_rate": 4.753797426115987e-06, + "loss": 0.0025, + "num_input_tokens_seen": 6341144, + "step": 3233 + }, + { + "epoch": 0.4286282306163022, + "grad_norm": 11.111507415771484, + "learning_rate": 4.7536471843347124e-06, + "loss": 0.4224, + "num_input_tokens_seen": 6344120, + "step": 3234 + }, + { + "epoch": 0.42876076872100727, + "grad_norm": 1.112655520439148, + "learning_rate": 4.753496899101565e-06, + "loss": 0.0015, + "num_input_tokens_seen": 6345384, + "step": 3235 + }, + { + "epoch": 0.4288933068257124, + "grad_norm": 6.592243671417236, + "learning_rate": 4.753346570419442e-06, + "loss": 0.1619, + "num_input_tokens_seen": 6346680, + "step": 3236 + }, + { + "epoch": 0.4290258449304175, + "grad_norm": 0.24551311135292053, + "learning_rate": 4.753196198291244e-06, + "loss": 0.0015, + "num_input_tokens_seen": 6348336, + "step": 3237 + }, + { + "epoch": 0.4291583830351226, + "grad_norm": 3.84431791305542, + "learning_rate": 4.753045782719868e-06, + "loss": 0.1027, + "num_input_tokens_seen": 6351560, + "step": 3238 + }, + { + "epoch": 0.4292909211398277, + "grad_norm": 1.7530347108840942, + "learning_rate": 4.752895323708216e-06, + "loss": 0.0085, + "num_input_tokens_seen": 6353784, + "step": 3239 + }, + { + "epoch": 0.4294234592445328, + "grad_norm": 1.575809121131897, + "learning_rate": 4.752744821259188e-06, + "loss": 0.0139, + "num_input_tokens_seen": 6356016, + "step": 3240 + }, + { + "epoch": 0.4295559973492379, + "grad_norm": 10.949199676513672, + "learning_rate": 4.752594275375684e-06, + "loss": 0.3173, + "num_input_tokens_seen": 6359160, + "step": 3241 + }, + { + "epoch": 0.42968853545394303, + "grad_norm": 0.23050843179225922, + "learning_rate": 4.752443686060609e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6360584, + "step": 3242 + }, + { + "epoch": 0.4298210735586481, + "grad_norm": 12.696118354797363, + "learning_rate": 4.752293053316867e-06, + "loss": 0.2938, + "num_input_tokens_seen": 6363496, + "step": 3243 + }, + { + "epoch": 0.4299536116633532, + "grad_norm": 7.891383171081543, + "learning_rate": 4.7521423771473605e-06, + "loss": 0.3196, + "num_input_tokens_seen": 6365776, + "step": 3244 + }, + { + "epoch": 0.4300861497680583, + "grad_norm": 6.171553134918213, + "learning_rate": 4.751991657554995e-06, + "loss": 0.0778, + "num_input_tokens_seen": 6367384, + "step": 3245 + }, + { + "epoch": 0.4302186878727634, + "grad_norm": 0.1137521043419838, + "learning_rate": 4.751840894542677e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6368664, + "step": 3246 + }, + { + "epoch": 0.4303512259774685, + "grad_norm": 0.07953488826751709, + "learning_rate": 4.751690088113313e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6369592, + "step": 3247 + }, + { + "epoch": 0.43048376408217365, + "grad_norm": 6.827754497528076, + "learning_rate": 4.751539238269811e-06, + "loss": 0.1433, + "num_input_tokens_seen": 6371728, + "step": 3248 + }, + { + "epoch": 0.43061630218687874, + "grad_norm": 9.533121109008789, + "learning_rate": 4.751388345015079e-06, + "loss": 0.3224, + "num_input_tokens_seen": 6373808, + "step": 3249 + }, + { + "epoch": 0.43074884029158383, + "grad_norm": 0.2911543548107147, + "learning_rate": 4.751237408352027e-06, + "loss": 0.0018, + "num_input_tokens_seen": 6375160, + "step": 3250 + }, + { + "epoch": 0.4308813783962889, + "grad_norm": 6.170498847961426, + "learning_rate": 4.751086428283564e-06, + "loss": 0.218, + "num_input_tokens_seen": 6376944, + "step": 3251 + }, + { + "epoch": 0.431013916500994, + "grad_norm": 5.136447906494141, + "learning_rate": 4.7509354048126025e-06, + "loss": 0.1243, + "num_input_tokens_seen": 6378808, + "step": 3252 + }, + { + "epoch": 0.4311464546056991, + "grad_norm": 0.12435410171747208, + "learning_rate": 4.750784337942053e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6380480, + "step": 3253 + }, + { + "epoch": 0.43127899271040426, + "grad_norm": 10.81765365600586, + "learning_rate": 4.750633227674829e-06, + "loss": 0.2345, + "num_input_tokens_seen": 6382608, + "step": 3254 + }, + { + "epoch": 0.43141153081510936, + "grad_norm": 9.513566017150879, + "learning_rate": 4.7504820740138436e-06, + "loss": 0.1001, + "num_input_tokens_seen": 6385504, + "step": 3255 + }, + { + "epoch": 0.43154406891981445, + "grad_norm": 11.01030445098877, + "learning_rate": 4.750330876962012e-06, + "loss": 0.3387, + "num_input_tokens_seen": 6387080, + "step": 3256 + }, + { + "epoch": 0.43167660702451954, + "grad_norm": 0.14989186823368073, + "learning_rate": 4.750179636522248e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6388440, + "step": 3257 + }, + { + "epoch": 0.43180914512922464, + "grad_norm": 0.23726676404476166, + "learning_rate": 4.750028352697467e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6390432, + "step": 3258 + }, + { + "epoch": 0.43194168323392973, + "grad_norm": 2.9729433059692383, + "learning_rate": 4.749877025490589e-06, + "loss": 0.0439, + "num_input_tokens_seen": 6392192, + "step": 3259 + }, + { + "epoch": 0.4320742213386349, + "grad_norm": 2.461897850036621, + "learning_rate": 4.749725654904529e-06, + "loss": 0.0165, + "num_input_tokens_seen": 6393368, + "step": 3260 + }, + { + "epoch": 0.43220675944333997, + "grad_norm": 8.683965682983398, + "learning_rate": 4.749574240942206e-06, + "loss": 0.2531, + "num_input_tokens_seen": 6395120, + "step": 3261 + }, + { + "epoch": 0.43233929754804507, + "grad_norm": 6.3044538497924805, + "learning_rate": 4.749422783606541e-06, + "loss": 0.1591, + "num_input_tokens_seen": 6397496, + "step": 3262 + }, + { + "epoch": 0.43247183565275016, + "grad_norm": 16.04700469970703, + "learning_rate": 4.749271282900451e-06, + "loss": 0.4915, + "num_input_tokens_seen": 6399848, + "step": 3263 + }, + { + "epoch": 0.43260437375745525, + "grad_norm": 15.745956420898438, + "learning_rate": 4.749119738826862e-06, + "loss": 0.5069, + "num_input_tokens_seen": 6402104, + "step": 3264 + }, + { + "epoch": 0.43273691186216034, + "grad_norm": 0.0707186609506607, + "learning_rate": 4.748968151388691e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6403656, + "step": 3265 + }, + { + "epoch": 0.4328694499668655, + "grad_norm": 0.04840201884508133, + "learning_rate": 4.748816520588862e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6404848, + "step": 3266 + }, + { + "epoch": 0.4330019880715706, + "grad_norm": 0.05223044753074646, + "learning_rate": 4.7486648464303e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6406208, + "step": 3267 + }, + { + "epoch": 0.4331345261762757, + "grad_norm": 3.870861530303955, + "learning_rate": 4.748513128915928e-06, + "loss": 0.0494, + "num_input_tokens_seen": 6409528, + "step": 3268 + }, + { + "epoch": 0.4332670642809808, + "grad_norm": 0.05873791500926018, + "learning_rate": 4.748361368048672e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6410960, + "step": 3269 + }, + { + "epoch": 0.43339960238568587, + "grad_norm": 6.463876247406006, + "learning_rate": 4.7482095638314575e-06, + "loss": 0.079, + "num_input_tokens_seen": 6412696, + "step": 3270 + }, + { + "epoch": 0.43353214049039096, + "grad_norm": 8.980402946472168, + "learning_rate": 4.748057716267212e-06, + "loss": 0.3456, + "num_input_tokens_seen": 6414448, + "step": 3271 + }, + { + "epoch": 0.4336646785950961, + "grad_norm": 0.3042178452014923, + "learning_rate": 4.747905825358863e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6416512, + "step": 3272 + }, + { + "epoch": 0.4337972166998012, + "grad_norm": 0.4682639539241791, + "learning_rate": 4.747753891109338e-06, + "loss": 0.0026, + "num_input_tokens_seen": 6417952, + "step": 3273 + }, + { + "epoch": 0.4339297548045063, + "grad_norm": 11.877985000610352, + "learning_rate": 4.747601913521569e-06, + "loss": 0.1636, + "num_input_tokens_seen": 6419600, + "step": 3274 + }, + { + "epoch": 0.4340622929092114, + "grad_norm": 14.691099166870117, + "learning_rate": 4.747449892598483e-06, + "loss": 0.3116, + "num_input_tokens_seen": 6421400, + "step": 3275 + }, + { + "epoch": 0.4341948310139165, + "grad_norm": 18.678707122802734, + "learning_rate": 4.747297828343012e-06, + "loss": 0.4132, + "num_input_tokens_seen": 6422864, + "step": 3276 + }, + { + "epoch": 0.43432736911862163, + "grad_norm": 0.23068086802959442, + "learning_rate": 4.747145720758091e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6425232, + "step": 3277 + }, + { + "epoch": 0.4344599072233267, + "grad_norm": 9.23740291595459, + "learning_rate": 4.746993569846649e-06, + "loss": 0.4506, + "num_input_tokens_seen": 6427296, + "step": 3278 + }, + { + "epoch": 0.4345924453280318, + "grad_norm": 10.200162887573242, + "learning_rate": 4.74684137561162e-06, + "loss": 0.3438, + "num_input_tokens_seen": 6429952, + "step": 3279 + }, + { + "epoch": 0.4347249834327369, + "grad_norm": 0.0796721950173378, + "learning_rate": 4.746689138055941e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6431920, + "step": 3280 + }, + { + "epoch": 0.434857521537442, + "grad_norm": 0.1400357186794281, + "learning_rate": 4.7465368571825445e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6433528, + "step": 3281 + }, + { + "epoch": 0.4349900596421471, + "grad_norm": 6.827568531036377, + "learning_rate": 4.746384532994368e-06, + "loss": 0.2183, + "num_input_tokens_seen": 6435192, + "step": 3282 + }, + { + "epoch": 0.43512259774685225, + "grad_norm": 18.18243980407715, + "learning_rate": 4.746232165494347e-06, + "loss": 0.6414, + "num_input_tokens_seen": 6437272, + "step": 3283 + }, + { + "epoch": 0.43525513585155734, + "grad_norm": 15.806026458740234, + "learning_rate": 4.746079754685421e-06, + "loss": 0.4384, + "num_input_tokens_seen": 6439384, + "step": 3284 + }, + { + "epoch": 0.43538767395626243, + "grad_norm": 8.984960556030273, + "learning_rate": 4.7459273005705285e-06, + "loss": 0.5182, + "num_input_tokens_seen": 6442192, + "step": 3285 + }, + { + "epoch": 0.4355202120609675, + "grad_norm": 11.54957103729248, + "learning_rate": 4.745774803152607e-06, + "loss": 0.4304, + "num_input_tokens_seen": 6444664, + "step": 3286 + }, + { + "epoch": 0.4356527501656726, + "grad_norm": 11.394903182983398, + "learning_rate": 4.745622262434599e-06, + "loss": 0.1527, + "num_input_tokens_seen": 6446528, + "step": 3287 + }, + { + "epoch": 0.4357852882703777, + "grad_norm": 16.90025520324707, + "learning_rate": 4.745469678419444e-06, + "loss": 0.4675, + "num_input_tokens_seen": 6449080, + "step": 3288 + }, + { + "epoch": 0.43591782637508286, + "grad_norm": 0.28165432810783386, + "learning_rate": 4.745317051110084e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6451240, + "step": 3289 + }, + { + "epoch": 0.43605036447978796, + "grad_norm": 10.608962059020996, + "learning_rate": 4.745164380509464e-06, + "loss": 0.3, + "num_input_tokens_seen": 6453480, + "step": 3290 + }, + { + "epoch": 0.43618290258449305, + "grad_norm": 13.799406051635742, + "learning_rate": 4.7450116666205245e-06, + "loss": 0.499, + "num_input_tokens_seen": 6454968, + "step": 3291 + }, + { + "epoch": 0.43631544068919814, + "grad_norm": 10.929240226745605, + "learning_rate": 4.744858909446212e-06, + "loss": 0.3673, + "num_input_tokens_seen": 6456592, + "step": 3292 + }, + { + "epoch": 0.43644797879390324, + "grad_norm": 15.704523086547852, + "learning_rate": 4.74470610898947e-06, + "loss": 0.3869, + "num_input_tokens_seen": 6458568, + "step": 3293 + }, + { + "epoch": 0.43658051689860833, + "grad_norm": 0.1996748149394989, + "learning_rate": 4.744553265253246e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6460048, + "step": 3294 + }, + { + "epoch": 0.4367130550033135, + "grad_norm": 16.50066566467285, + "learning_rate": 4.744400378240488e-06, + "loss": 0.223, + "num_input_tokens_seen": 6461576, + "step": 3295 + }, + { + "epoch": 0.43684559310801857, + "grad_norm": 10.287540435791016, + "learning_rate": 4.744247447954141e-06, + "loss": 0.1951, + "num_input_tokens_seen": 6463384, + "step": 3296 + }, + { + "epoch": 0.43697813121272366, + "grad_norm": 9.577747344970703, + "learning_rate": 4.744094474397156e-06, + "loss": 0.2353, + "num_input_tokens_seen": 6465168, + "step": 3297 + }, + { + "epoch": 0.43711066931742876, + "grad_norm": 3.065082550048828, + "learning_rate": 4.74394145757248e-06, + "loss": 0.0347, + "num_input_tokens_seen": 6466912, + "step": 3298 + }, + { + "epoch": 0.43724320742213385, + "grad_norm": 0.2064424306154251, + "learning_rate": 4.743788397483066e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6468672, + "step": 3299 + }, + { + "epoch": 0.43737574552683894, + "grad_norm": 5.417873382568359, + "learning_rate": 4.743635294131863e-06, + "loss": 0.0564, + "num_input_tokens_seen": 6470880, + "step": 3300 + }, + { + "epoch": 0.4375082836315441, + "grad_norm": 14.123854637145996, + "learning_rate": 4.743482147521824e-06, + "loss": 0.494, + "num_input_tokens_seen": 6472888, + "step": 3301 + }, + { + "epoch": 0.4376408217362492, + "grad_norm": 10.059908866882324, + "learning_rate": 4.7433289576559015e-06, + "loss": 0.3102, + "num_input_tokens_seen": 6475144, + "step": 3302 + }, + { + "epoch": 0.4377733598409543, + "grad_norm": 12.827664375305176, + "learning_rate": 4.743175724537049e-06, + "loss": 0.1994, + "num_input_tokens_seen": 6476920, + "step": 3303 + }, + { + "epoch": 0.4379058979456594, + "grad_norm": 4.525793075561523, + "learning_rate": 4.743022448168222e-06, + "loss": 0.0608, + "num_input_tokens_seen": 6478640, + "step": 3304 + }, + { + "epoch": 0.43803843605036447, + "grad_norm": 0.5189858675003052, + "learning_rate": 4.742869128552374e-06, + "loss": 0.0034, + "num_input_tokens_seen": 6480472, + "step": 3305 + }, + { + "epoch": 0.43817097415506956, + "grad_norm": 5.578190326690674, + "learning_rate": 4.742715765692462e-06, + "loss": 0.0746, + "num_input_tokens_seen": 6482112, + "step": 3306 + }, + { + "epoch": 0.4383035122597747, + "grad_norm": 10.450170516967773, + "learning_rate": 4.742562359591442e-06, + "loss": 0.28, + "num_input_tokens_seen": 6483976, + "step": 3307 + }, + { + "epoch": 0.4384360503644798, + "grad_norm": 10.942258834838867, + "learning_rate": 4.742408910252274e-06, + "loss": 0.3709, + "num_input_tokens_seen": 6486552, + "step": 3308 + }, + { + "epoch": 0.4385685884691849, + "grad_norm": 1.9542473554611206, + "learning_rate": 4.742255417677914e-06, + "loss": 0.0199, + "num_input_tokens_seen": 6487920, + "step": 3309 + }, + { + "epoch": 0.43870112657389, + "grad_norm": 15.771306991577148, + "learning_rate": 4.7421018818713236e-06, + "loss": 0.4687, + "num_input_tokens_seen": 6490128, + "step": 3310 + }, + { + "epoch": 0.4388336646785951, + "grad_norm": 23.088443756103516, + "learning_rate": 4.741948302835462e-06, + "loss": 0.4987, + "num_input_tokens_seen": 6492408, + "step": 3311 + }, + { + "epoch": 0.4389662027833002, + "grad_norm": 0.2232021540403366, + "learning_rate": 4.741794680573291e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6493456, + "step": 3312 + }, + { + "epoch": 0.4390987408880053, + "grad_norm": 0.5259813070297241, + "learning_rate": 4.741641015087771e-06, + "loss": 0.0033, + "num_input_tokens_seen": 6495680, + "step": 3313 + }, + { + "epoch": 0.4392312789927104, + "grad_norm": 6.458506107330322, + "learning_rate": 4.741487306381866e-06, + "loss": 0.1363, + "num_input_tokens_seen": 6498016, + "step": 3314 + }, + { + "epoch": 0.4393638170974155, + "grad_norm": 0.5402525067329407, + "learning_rate": 4.74133355445854e-06, + "loss": 0.0032, + "num_input_tokens_seen": 6499560, + "step": 3315 + }, + { + "epoch": 0.4394963552021206, + "grad_norm": 0.25143033266067505, + "learning_rate": 4.7411797593207565e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6500880, + "step": 3316 + }, + { + "epoch": 0.4396288933068257, + "grad_norm": 23.83981704711914, + "learning_rate": 4.741025920971481e-06, + "loss": 0.3849, + "num_input_tokens_seen": 6502696, + "step": 3317 + }, + { + "epoch": 0.4397614314115308, + "grad_norm": 13.371020317077637, + "learning_rate": 4.7408720394136796e-06, + "loss": 0.3305, + "num_input_tokens_seen": 6504280, + "step": 3318 + }, + { + "epoch": 0.43989396951623594, + "grad_norm": 20.570331573486328, + "learning_rate": 4.74071811465032e-06, + "loss": 0.6006, + "num_input_tokens_seen": 6505568, + "step": 3319 + }, + { + "epoch": 0.44002650762094103, + "grad_norm": 19.411767959594727, + "learning_rate": 4.740564146684369e-06, + "loss": 0.6488, + "num_input_tokens_seen": 6507576, + "step": 3320 + }, + { + "epoch": 0.4401590457256461, + "grad_norm": 6.28535270690918, + "learning_rate": 4.740410135518795e-06, + "loss": 0.0459, + "num_input_tokens_seen": 6510264, + "step": 3321 + }, + { + "epoch": 0.4402915838303512, + "grad_norm": 13.772862434387207, + "learning_rate": 4.740256081156569e-06, + "loss": 0.4754, + "num_input_tokens_seen": 6512160, + "step": 3322 + }, + { + "epoch": 0.4404241219350563, + "grad_norm": 9.0480318069458, + "learning_rate": 4.74010198360066e-06, + "loss": 0.0763, + "num_input_tokens_seen": 6513736, + "step": 3323 + }, + { + "epoch": 0.4405566600397614, + "grad_norm": 9.289855003356934, + "learning_rate": 4.7399478428540394e-06, + "loss": 0.13, + "num_input_tokens_seen": 6515904, + "step": 3324 + }, + { + "epoch": 0.44068919814446655, + "grad_norm": 13.83438491821289, + "learning_rate": 4.739793658919678e-06, + "loss": 0.2975, + "num_input_tokens_seen": 6518424, + "step": 3325 + }, + { + "epoch": 0.44082173624917165, + "grad_norm": 0.20669658482074738, + "learning_rate": 4.739639431800551e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6520480, + "step": 3326 + }, + { + "epoch": 0.44095427435387674, + "grad_norm": 14.202149391174316, + "learning_rate": 4.739485161499631e-06, + "loss": 0.4193, + "num_input_tokens_seen": 6522944, + "step": 3327 + }, + { + "epoch": 0.44108681245858183, + "grad_norm": 7.478730201721191, + "learning_rate": 4.7393308480198915e-06, + "loss": 0.0923, + "num_input_tokens_seen": 6525256, + "step": 3328 + }, + { + "epoch": 0.4412193505632869, + "grad_norm": 0.19464318454265594, + "learning_rate": 4.739176491364308e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6526712, + "step": 3329 + }, + { + "epoch": 0.441351888667992, + "grad_norm": 20.973407745361328, + "learning_rate": 4.739022091535857e-06, + "loss": 0.6609, + "num_input_tokens_seen": 6528440, + "step": 3330 + }, + { + "epoch": 0.44148442677269717, + "grad_norm": 3.9169130325317383, + "learning_rate": 4.738867648537516e-06, + "loss": 0.0256, + "num_input_tokens_seen": 6529848, + "step": 3331 + }, + { + "epoch": 0.44161696487740226, + "grad_norm": 0.2776479125022888, + "learning_rate": 4.738713162372263e-06, + "loss": 0.0017, + "num_input_tokens_seen": 6531760, + "step": 3332 + }, + { + "epoch": 0.44174950298210736, + "grad_norm": 6.610439300537109, + "learning_rate": 4.738558633043074e-06, + "loss": 0.1544, + "num_input_tokens_seen": 6533928, + "step": 3333 + }, + { + "epoch": 0.44188204108681245, + "grad_norm": 0.1773267686367035, + "learning_rate": 4.738404060552932e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6535904, + "step": 3334 + }, + { + "epoch": 0.44201457919151754, + "grad_norm": 0.15859174728393555, + "learning_rate": 4.738249444904814e-06, + "loss": 0.001, + "num_input_tokens_seen": 6538584, + "step": 3335 + }, + { + "epoch": 0.4421471172962227, + "grad_norm": 5.876689434051514, + "learning_rate": 4.738094786101704e-06, + "loss": 0.1528, + "num_input_tokens_seen": 6540688, + "step": 3336 + }, + { + "epoch": 0.4422796554009278, + "grad_norm": 10.820859909057617, + "learning_rate": 4.737940084146582e-06, + "loss": 0.1789, + "num_input_tokens_seen": 6541992, + "step": 3337 + }, + { + "epoch": 0.4424121935056329, + "grad_norm": 12.894454002380371, + "learning_rate": 4.737785339042431e-06, + "loss": 0.7197, + "num_input_tokens_seen": 6543920, + "step": 3338 + }, + { + "epoch": 0.44254473161033797, + "grad_norm": 9.09660816192627, + "learning_rate": 4.737630550792235e-06, + "loss": 0.1178, + "num_input_tokens_seen": 6545672, + "step": 3339 + }, + { + "epoch": 0.44267726971504306, + "grad_norm": 1.8006818294525146, + "learning_rate": 4.7374757193989784e-06, + "loss": 0.0264, + "num_input_tokens_seen": 6547632, + "step": 3340 + }, + { + "epoch": 0.44280980781974816, + "grad_norm": 20.160762786865234, + "learning_rate": 4.737320844865646e-06, + "loss": 0.4105, + "num_input_tokens_seen": 6549688, + "step": 3341 + }, + { + "epoch": 0.4429423459244533, + "grad_norm": 9.02538013458252, + "learning_rate": 4.737165927195225e-06, + "loss": 0.2323, + "num_input_tokens_seen": 6551856, + "step": 3342 + }, + { + "epoch": 0.4430748840291584, + "grad_norm": 7.381674289703369, + "learning_rate": 4.7370109663907015e-06, + "loss": 0.262, + "num_input_tokens_seen": 6553832, + "step": 3343 + }, + { + "epoch": 0.4432074221338635, + "grad_norm": 18.117494583129883, + "learning_rate": 4.736855962455062e-06, + "loss": 0.2754, + "num_input_tokens_seen": 6556032, + "step": 3344 + }, + { + "epoch": 0.4433399602385686, + "grad_norm": 10.242547988891602, + "learning_rate": 4.736700915391298e-06, + "loss": 0.373, + "num_input_tokens_seen": 6558088, + "step": 3345 + }, + { + "epoch": 0.4434724983432737, + "grad_norm": 15.688780784606934, + "learning_rate": 4.736545825202397e-06, + "loss": 0.422, + "num_input_tokens_seen": 6560072, + "step": 3346 + }, + { + "epoch": 0.4436050364479788, + "grad_norm": 6.993330955505371, + "learning_rate": 4.736390691891349e-06, + "loss": 0.3007, + "num_input_tokens_seen": 6562432, + "step": 3347 + }, + { + "epoch": 0.4437375745526839, + "grad_norm": 0.6917096376419067, + "learning_rate": 4.736235515461146e-06, + "loss": 0.0044, + "num_input_tokens_seen": 6565064, + "step": 3348 + }, + { + "epoch": 0.443870112657389, + "grad_norm": 1.7357581853866577, + "learning_rate": 4.73608029591478e-06, + "loss": 0.0101, + "num_input_tokens_seen": 6566400, + "step": 3349 + }, + { + "epoch": 0.4440026507620941, + "grad_norm": 0.24806712567806244, + "learning_rate": 4.735925033255243e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6567648, + "step": 3350 + }, + { + "epoch": 0.4441351888667992, + "grad_norm": 0.3699946999549866, + "learning_rate": 4.735769727485528e-06, + "loss": 0.0024, + "num_input_tokens_seen": 6570320, + "step": 3351 + }, + { + "epoch": 0.4442677269715043, + "grad_norm": 14.791948318481445, + "learning_rate": 4.735614378608632e-06, + "loss": 0.2891, + "num_input_tokens_seen": 6572320, + "step": 3352 + }, + { + "epoch": 0.4444002650762094, + "grad_norm": 0.1550486981868744, + "learning_rate": 4.735458986627547e-06, + "loss": 0.001, + "num_input_tokens_seen": 6573680, + "step": 3353 + }, + { + "epoch": 0.44453280318091454, + "grad_norm": 10.05436897277832, + "learning_rate": 4.735303551545272e-06, + "loss": 0.4996, + "num_input_tokens_seen": 6575504, + "step": 3354 + }, + { + "epoch": 0.44466534128561963, + "grad_norm": 0.18503151834011078, + "learning_rate": 4.735148073364801e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6576600, + "step": 3355 + }, + { + "epoch": 0.4447978793903247, + "grad_norm": 13.025964736938477, + "learning_rate": 4.734992552089134e-06, + "loss": 0.2231, + "num_input_tokens_seen": 6577968, + "step": 3356 + }, + { + "epoch": 0.4449304174950298, + "grad_norm": 0.11442652344703674, + "learning_rate": 4.7348369877212684e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6578992, + "step": 3357 + }, + { + "epoch": 0.4450629555997349, + "grad_norm": 9.061229705810547, + "learning_rate": 4.734681380264204e-06, + "loss": 0.2224, + "num_input_tokens_seen": 6580544, + "step": 3358 + }, + { + "epoch": 0.44519549370444, + "grad_norm": 2.76716685295105, + "learning_rate": 4.734525729720941e-06, + "loss": 0.007, + "num_input_tokens_seen": 6582680, + "step": 3359 + }, + { + "epoch": 0.44532803180914515, + "grad_norm": 6.341799259185791, + "learning_rate": 4.734370036094481e-06, + "loss": 0.1583, + "num_input_tokens_seen": 6585376, + "step": 3360 + }, + { + "epoch": 0.44546056991385025, + "grad_norm": 14.088835716247559, + "learning_rate": 4.734214299387824e-06, + "loss": 0.4938, + "num_input_tokens_seen": 6587448, + "step": 3361 + }, + { + "epoch": 0.44559310801855534, + "grad_norm": 11.763378143310547, + "learning_rate": 4.734058519603975e-06, + "loss": 0.413, + "num_input_tokens_seen": 6588904, + "step": 3362 + }, + { + "epoch": 0.44572564612326043, + "grad_norm": 0.09960298240184784, + "learning_rate": 4.733902696745936e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6590640, + "step": 3363 + }, + { + "epoch": 0.4458581842279655, + "grad_norm": 9.904974937438965, + "learning_rate": 4.7337468308167125e-06, + "loss": 0.1519, + "num_input_tokens_seen": 6591872, + "step": 3364 + }, + { + "epoch": 0.4459907223326706, + "grad_norm": 0.8243458271026611, + "learning_rate": 4.733590921819309e-06, + "loss": 0.0043, + "num_input_tokens_seen": 6593768, + "step": 3365 + }, + { + "epoch": 0.44612326043737577, + "grad_norm": 14.89431095123291, + "learning_rate": 4.733434969756732e-06, + "loss": 0.2022, + "num_input_tokens_seen": 6595896, + "step": 3366 + }, + { + "epoch": 0.44625579854208086, + "grad_norm": 0.22572316229343414, + "learning_rate": 4.733278974631987e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6597424, + "step": 3367 + }, + { + "epoch": 0.44638833664678595, + "grad_norm": 8.510120391845703, + "learning_rate": 4.733122936448083e-06, + "loss": 0.3085, + "num_input_tokens_seen": 6599168, + "step": 3368 + }, + { + "epoch": 0.44652087475149105, + "grad_norm": 13.875428199768066, + "learning_rate": 4.732966855208029e-06, + "loss": 0.4491, + "num_input_tokens_seen": 6600944, + "step": 3369 + }, + { + "epoch": 0.44665341285619614, + "grad_norm": 21.13619041442871, + "learning_rate": 4.732810730914832e-06, + "loss": 0.7085, + "num_input_tokens_seen": 6602488, + "step": 3370 + }, + { + "epoch": 0.44678595096090123, + "grad_norm": 0.1032075509428978, + "learning_rate": 4.732654563571505e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6603560, + "step": 3371 + }, + { + "epoch": 0.4469184890656064, + "grad_norm": 0.12376049906015396, + "learning_rate": 4.732498353181058e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6604840, + "step": 3372 + }, + { + "epoch": 0.4470510271703115, + "grad_norm": 15.353861808776855, + "learning_rate": 4.732342099746502e-06, + "loss": 0.5511, + "num_input_tokens_seen": 6607008, + "step": 3373 + }, + { + "epoch": 0.44718356527501657, + "grad_norm": 0.4640714228153229, + "learning_rate": 4.73218580327085e-06, + "loss": 0.0027, + "num_input_tokens_seen": 6608536, + "step": 3374 + }, + { + "epoch": 0.44731610337972166, + "grad_norm": 11.818785667419434, + "learning_rate": 4.732029463757117e-06, + "loss": 0.3105, + "num_input_tokens_seen": 6610776, + "step": 3375 + }, + { + "epoch": 0.44744864148442676, + "grad_norm": 0.12626540660858154, + "learning_rate": 4.7318730812083155e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6612176, + "step": 3376 + }, + { + "epoch": 0.44758117958913185, + "grad_norm": 5.480452537536621, + "learning_rate": 4.731716655627461e-06, + "loss": 0.1269, + "num_input_tokens_seen": 6613912, + "step": 3377 + }, + { + "epoch": 0.447713717693837, + "grad_norm": 2.331057548522949, + "learning_rate": 4.731560187017569e-06, + "loss": 0.0196, + "num_input_tokens_seen": 6615616, + "step": 3378 + }, + { + "epoch": 0.4478462557985421, + "grad_norm": 2.400275230407715, + "learning_rate": 4.7314036753816595e-06, + "loss": 0.016, + "num_input_tokens_seen": 6617736, + "step": 3379 + }, + { + "epoch": 0.4479787939032472, + "grad_norm": 10.343480110168457, + "learning_rate": 4.7312471207227465e-06, + "loss": 0.347, + "num_input_tokens_seen": 6619416, + "step": 3380 + }, + { + "epoch": 0.4481113320079523, + "grad_norm": 8.320096015930176, + "learning_rate": 4.73109052304385e-06, + "loss": 0.2576, + "num_input_tokens_seen": 6621416, + "step": 3381 + }, + { + "epoch": 0.44824387011265737, + "grad_norm": 0.044903963804244995, + "learning_rate": 4.730933882347988e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6622648, + "step": 3382 + }, + { + "epoch": 0.44837640821736247, + "grad_norm": 0.10990428179502487, + "learning_rate": 4.730777198638183e-06, + "loss": 0.0007, + "num_input_tokens_seen": 6624392, + "step": 3383 + }, + { + "epoch": 0.4485089463220676, + "grad_norm": 9.115584373474121, + "learning_rate": 4.730620471917454e-06, + "loss": 0.3811, + "num_input_tokens_seen": 6627184, + "step": 3384 + }, + { + "epoch": 0.4486414844267727, + "grad_norm": 33.583404541015625, + "learning_rate": 4.730463702188824e-06, + "loss": 0.2169, + "num_input_tokens_seen": 6630296, + "step": 3385 + }, + { + "epoch": 0.4487740225314778, + "grad_norm": 6.667294979095459, + "learning_rate": 4.730306889455314e-06, + "loss": 0.07, + "num_input_tokens_seen": 6631376, + "step": 3386 + }, + { + "epoch": 0.4489065606361829, + "grad_norm": 10.882554054260254, + "learning_rate": 4.73015003371995e-06, + "loss": 0.3074, + "num_input_tokens_seen": 6633088, + "step": 3387 + }, + { + "epoch": 0.449039098740888, + "grad_norm": 3.9572091102600098, + "learning_rate": 4.7299931349857535e-06, + "loss": 0.1124, + "num_input_tokens_seen": 6636376, + "step": 3388 + }, + { + "epoch": 0.4491716368455931, + "grad_norm": 1.989731788635254, + "learning_rate": 4.729836193255752e-06, + "loss": 0.0118, + "num_input_tokens_seen": 6639200, + "step": 3389 + }, + { + "epoch": 0.44930417495029823, + "grad_norm": 0.5093509554862976, + "learning_rate": 4.72967920853297e-06, + "loss": 0.0031, + "num_input_tokens_seen": 6641392, + "step": 3390 + }, + { + "epoch": 0.4494367130550033, + "grad_norm": 13.902198791503906, + "learning_rate": 4.729522180820434e-06, + "loss": 0.3645, + "num_input_tokens_seen": 6643864, + "step": 3391 + }, + { + "epoch": 0.4495692511597084, + "grad_norm": 0.09832777827978134, + "learning_rate": 4.729365110121174e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6645280, + "step": 3392 + }, + { + "epoch": 0.4497017892644135, + "grad_norm": 7.182304382324219, + "learning_rate": 4.729207996438215e-06, + "loss": 0.3736, + "num_input_tokens_seen": 6647464, + "step": 3393 + }, + { + "epoch": 0.4498343273691186, + "grad_norm": 7.930952548980713, + "learning_rate": 4.729050839774589e-06, + "loss": 0.2603, + "num_input_tokens_seen": 6649688, + "step": 3394 + }, + { + "epoch": 0.44996686547382375, + "grad_norm": 0.14620444178581238, + "learning_rate": 4.728893640133324e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6651208, + "step": 3395 + }, + { + "epoch": 0.45009940357852884, + "grad_norm": 5.989103317260742, + "learning_rate": 4.728736397517453e-06, + "loss": 0.1895, + "num_input_tokens_seen": 6653856, + "step": 3396 + }, + { + "epoch": 0.45023194168323394, + "grad_norm": 0.21796511113643646, + "learning_rate": 4.728579111930007e-06, + "loss": 0.0013, + "num_input_tokens_seen": 6656272, + "step": 3397 + }, + { + "epoch": 0.45036447978793903, + "grad_norm": 11.188365936279297, + "learning_rate": 4.728421783374018e-06, + "loss": 0.3376, + "num_input_tokens_seen": 6657936, + "step": 3398 + }, + { + "epoch": 0.4504970178926441, + "grad_norm": 9.467327117919922, + "learning_rate": 4.728264411852519e-06, + "loss": 0.509, + "num_input_tokens_seen": 6660248, + "step": 3399 + }, + { + "epoch": 0.4506295559973492, + "grad_norm": 0.20046353340148926, + "learning_rate": 4.728106997368545e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6662232, + "step": 3400 + }, + { + "epoch": 0.45076209410205437, + "grad_norm": 0.1963941603899002, + "learning_rate": 4.727949539925132e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6663776, + "step": 3401 + }, + { + "epoch": 0.45089463220675946, + "grad_norm": 10.46510124206543, + "learning_rate": 4.727792039525314e-06, + "loss": 0.4066, + "num_input_tokens_seen": 6665856, + "step": 3402 + }, + { + "epoch": 0.45102717031146455, + "grad_norm": 0.18379952013492584, + "learning_rate": 4.727634496172129e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6667424, + "step": 3403 + }, + { + "epoch": 0.45115970841616965, + "grad_norm": 0.0947766825556755, + "learning_rate": 4.727476909868614e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6668752, + "step": 3404 + }, + { + "epoch": 0.45129224652087474, + "grad_norm": 0.3160610795021057, + "learning_rate": 4.727319280617807e-06, + "loss": 0.0018, + "num_input_tokens_seen": 6670200, + "step": 3405 + }, + { + "epoch": 0.45142478462557983, + "grad_norm": 16.8338623046875, + "learning_rate": 4.727161608422749e-06, + "loss": 0.5058, + "num_input_tokens_seen": 6672296, + "step": 3406 + }, + { + "epoch": 0.451557322730285, + "grad_norm": 6.496436595916748, + "learning_rate": 4.727003893286478e-06, + "loss": 0.0974, + "num_input_tokens_seen": 6674352, + "step": 3407 + }, + { + "epoch": 0.4516898608349901, + "grad_norm": 12.64709186553955, + "learning_rate": 4.726846135212036e-06, + "loss": 0.2691, + "num_input_tokens_seen": 6676176, + "step": 3408 + }, + { + "epoch": 0.45182239893969517, + "grad_norm": 7.829931259155273, + "learning_rate": 4.726688334202464e-06, + "loss": 0.1546, + "num_input_tokens_seen": 6678048, + "step": 3409 + }, + { + "epoch": 0.45195493704440026, + "grad_norm": 0.054195426404476166, + "learning_rate": 4.726530490260805e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6679552, + "step": 3410 + }, + { + "epoch": 0.45208747514910536, + "grad_norm": 0.2684761583805084, + "learning_rate": 4.726372603390101e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6680880, + "step": 3411 + }, + { + "epoch": 0.45222001325381045, + "grad_norm": 0.3117387890815735, + "learning_rate": 4.726214673593398e-06, + "loss": 0.0019, + "num_input_tokens_seen": 6683064, + "step": 3412 + }, + { + "epoch": 0.4523525513585156, + "grad_norm": 8.266839027404785, + "learning_rate": 4.72605670087374e-06, + "loss": 0.1384, + "num_input_tokens_seen": 6685968, + "step": 3413 + }, + { + "epoch": 0.4524850894632207, + "grad_norm": 11.656111717224121, + "learning_rate": 4.725898685234174e-06, + "loss": 0.4296, + "num_input_tokens_seen": 6687864, + "step": 3414 + }, + { + "epoch": 0.4526176275679258, + "grad_norm": 0.42431381344795227, + "learning_rate": 4.725740626677746e-06, + "loss": 0.0022, + "num_input_tokens_seen": 6690376, + "step": 3415 + }, + { + "epoch": 0.4527501656726309, + "grad_norm": 11.26159381866455, + "learning_rate": 4.725582525207503e-06, + "loss": 0.3102, + "num_input_tokens_seen": 6692848, + "step": 3416 + }, + { + "epoch": 0.45288270377733597, + "grad_norm": 0.14348818361759186, + "learning_rate": 4.725424380826493e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6695080, + "step": 3417 + }, + { + "epoch": 0.45301524188204106, + "grad_norm": 7.584483623504639, + "learning_rate": 4.725266193537765e-06, + "loss": 0.1943, + "num_input_tokens_seen": 6697000, + "step": 3418 + }, + { + "epoch": 0.4531477799867462, + "grad_norm": 5.411701679229736, + "learning_rate": 4.725107963344371e-06, + "loss": 0.2663, + "num_input_tokens_seen": 6699304, + "step": 3419 + }, + { + "epoch": 0.4532803180914513, + "grad_norm": 2.625098943710327, + "learning_rate": 4.7249496902493605e-06, + "loss": 0.0136, + "num_input_tokens_seen": 6700920, + "step": 3420 + }, + { + "epoch": 0.4534128561961564, + "grad_norm": 5.04707670211792, + "learning_rate": 4.724791374255784e-06, + "loss": 0.2234, + "num_input_tokens_seen": 6702464, + "step": 3421 + }, + { + "epoch": 0.4535453943008615, + "grad_norm": 7.7730631828308105, + "learning_rate": 4.7246330153666954e-06, + "loss": 0.2966, + "num_input_tokens_seen": 6704272, + "step": 3422 + }, + { + "epoch": 0.4536779324055666, + "grad_norm": 7.220533847808838, + "learning_rate": 4.7244746135851485e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6706080, + "step": 3423 + }, + { + "epoch": 0.4538104705102717, + "grad_norm": 11.883634567260742, + "learning_rate": 4.724316168914195e-06, + "loss": 0.3974, + "num_input_tokens_seen": 6707336, + "step": 3424 + }, + { + "epoch": 0.45394300861497683, + "grad_norm": 9.447149276733398, + "learning_rate": 4.724157681356892e-06, + "loss": 0.251, + "num_input_tokens_seen": 6708808, + "step": 3425 + }, + { + "epoch": 0.4540755467196819, + "grad_norm": 16.157278060913086, + "learning_rate": 4.723999150916295e-06, + "loss": 0.6322, + "num_input_tokens_seen": 6710416, + "step": 3426 + }, + { + "epoch": 0.454208084824387, + "grad_norm": 0.042269252240657806, + "learning_rate": 4.72384057759546e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6711768, + "step": 3427 + }, + { + "epoch": 0.4543406229290921, + "grad_norm": 0.23470933735370636, + "learning_rate": 4.723681961397444e-06, + "loss": 0.0014, + "num_input_tokens_seen": 6713616, + "step": 3428 + }, + { + "epoch": 0.4544731610337972, + "grad_norm": 6.778000831604004, + "learning_rate": 4.723523302325306e-06, + "loss": 0.1814, + "num_input_tokens_seen": 6715744, + "step": 3429 + }, + { + "epoch": 0.4546056991385023, + "grad_norm": 2.0614142417907715, + "learning_rate": 4.723364600382104e-06, + "loss": 0.0669, + "num_input_tokens_seen": 6717704, + "step": 3430 + }, + { + "epoch": 0.45473823724320744, + "grad_norm": 9.870048522949219, + "learning_rate": 4.723205855570899e-06, + "loss": 0.22, + "num_input_tokens_seen": 6719568, + "step": 3431 + }, + { + "epoch": 0.45487077534791254, + "grad_norm": 5.1438727378845215, + "learning_rate": 4.723047067894752e-06, + "loss": 0.1886, + "num_input_tokens_seen": 6721792, + "step": 3432 + }, + { + "epoch": 0.45500331345261763, + "grad_norm": 8.39296817779541, + "learning_rate": 4.722888237356724e-06, + "loss": 0.2978, + "num_input_tokens_seen": 6724208, + "step": 3433 + }, + { + "epoch": 0.4551358515573227, + "grad_norm": 0.15995049476623535, + "learning_rate": 4.722729363959877e-06, + "loss": 0.001, + "num_input_tokens_seen": 6726080, + "step": 3434 + }, + { + "epoch": 0.4552683896620278, + "grad_norm": 8.57268238067627, + "learning_rate": 4.722570447707275e-06, + "loss": 0.1489, + "num_input_tokens_seen": 6727696, + "step": 3435 + }, + { + "epoch": 0.4554009277667329, + "grad_norm": 15.05240249633789, + "learning_rate": 4.7224114886019804e-06, + "loss": 0.4957, + "num_input_tokens_seen": 6730616, + "step": 3436 + }, + { + "epoch": 0.45553346587143806, + "grad_norm": 8.12574291229248, + "learning_rate": 4.72225248664706e-06, + "loss": 0.1275, + "num_input_tokens_seen": 6732296, + "step": 3437 + }, + { + "epoch": 0.45566600397614315, + "grad_norm": 8.275718688964844, + "learning_rate": 4.722093441845578e-06, + "loss": 0.1578, + "num_input_tokens_seen": 6734792, + "step": 3438 + }, + { + "epoch": 0.45579854208084825, + "grad_norm": 13.090919494628906, + "learning_rate": 4.721934354200602e-06, + "loss": 0.4731, + "num_input_tokens_seen": 6736824, + "step": 3439 + }, + { + "epoch": 0.45593108018555334, + "grad_norm": 13.868168830871582, + "learning_rate": 4.721775223715199e-06, + "loss": 0.3414, + "num_input_tokens_seen": 6739064, + "step": 3440 + }, + { + "epoch": 0.45606361829025843, + "grad_norm": 7.289348602294922, + "learning_rate": 4.7216160503924365e-06, + "loss": 0.1797, + "num_input_tokens_seen": 6740752, + "step": 3441 + }, + { + "epoch": 0.4561961563949635, + "grad_norm": 13.353787422180176, + "learning_rate": 4.721456834235384e-06, + "loss": 0.5553, + "num_input_tokens_seen": 6743040, + "step": 3442 + }, + { + "epoch": 0.4563286944996687, + "grad_norm": 10.058000564575195, + "learning_rate": 4.721297575247111e-06, + "loss": 0.2204, + "num_input_tokens_seen": 6745160, + "step": 3443 + }, + { + "epoch": 0.45646123260437377, + "grad_norm": 13.75790023803711, + "learning_rate": 4.721138273430689e-06, + "loss": 0.3976, + "num_input_tokens_seen": 6746896, + "step": 3444 + }, + { + "epoch": 0.45659377070907886, + "grad_norm": 4.942676544189453, + "learning_rate": 4.720978928789188e-06, + "loss": 0.1012, + "num_input_tokens_seen": 6748432, + "step": 3445 + }, + { + "epoch": 0.45672630881378395, + "grad_norm": 14.997764587402344, + "learning_rate": 4.720819541325682e-06, + "loss": 0.2681, + "num_input_tokens_seen": 6750080, + "step": 3446 + }, + { + "epoch": 0.45685884691848905, + "grad_norm": 10.357013702392578, + "learning_rate": 4.720660111043243e-06, + "loss": 0.39, + "num_input_tokens_seen": 6751792, + "step": 3447 + }, + { + "epoch": 0.45699138502319414, + "grad_norm": 4.007915019989014, + "learning_rate": 4.7205006379449445e-06, + "loss": 0.0216, + "num_input_tokens_seen": 6753768, + "step": 3448 + }, + { + "epoch": 0.4571239231278993, + "grad_norm": 12.639501571655273, + "learning_rate": 4.720341122033862e-06, + "loss": 0.4189, + "num_input_tokens_seen": 6755808, + "step": 3449 + }, + { + "epoch": 0.4572564612326044, + "grad_norm": 7.345523357391357, + "learning_rate": 4.720181563313071e-06, + "loss": 0.0468, + "num_input_tokens_seen": 6757448, + "step": 3450 + }, + { + "epoch": 0.4573889993373095, + "grad_norm": 9.172658920288086, + "learning_rate": 4.720021961785648e-06, + "loss": 0.2125, + "num_input_tokens_seen": 6758880, + "step": 3451 + }, + { + "epoch": 0.45752153744201457, + "grad_norm": 7.229430675506592, + "learning_rate": 4.71986231745467e-06, + "loss": 0.2521, + "num_input_tokens_seen": 6760896, + "step": 3452 + }, + { + "epoch": 0.45765407554671966, + "grad_norm": 20.520578384399414, + "learning_rate": 4.719702630323215e-06, + "loss": 0.2354, + "num_input_tokens_seen": 6762520, + "step": 3453 + }, + { + "epoch": 0.4577866136514248, + "grad_norm": 5.293634414672852, + "learning_rate": 4.719542900394361e-06, + "loss": 0.1087, + "num_input_tokens_seen": 6764888, + "step": 3454 + }, + { + "epoch": 0.4579191517561299, + "grad_norm": 0.2889997065067291, + "learning_rate": 4.71938312767119e-06, + "loss": 0.0018, + "num_input_tokens_seen": 6765880, + "step": 3455 + }, + { + "epoch": 0.458051689860835, + "grad_norm": 0.7488850951194763, + "learning_rate": 4.719223312156782e-06, + "loss": 0.0043, + "num_input_tokens_seen": 6767672, + "step": 3456 + }, + { + "epoch": 0.4581842279655401, + "grad_norm": 7.767181396484375, + "learning_rate": 4.719063453854216e-06, + "loss": 0.1899, + "num_input_tokens_seen": 6769968, + "step": 3457 + }, + { + "epoch": 0.4583167660702452, + "grad_norm": 11.677338600158691, + "learning_rate": 4.718903552766576e-06, + "loss": 0.3151, + "num_input_tokens_seen": 6772112, + "step": 3458 + }, + { + "epoch": 0.4584493041749503, + "grad_norm": 13.982976913452148, + "learning_rate": 4.718743608896945e-06, + "loss": 0.5062, + "num_input_tokens_seen": 6775208, + "step": 3459 + }, + { + "epoch": 0.4585818422796554, + "grad_norm": 15.643267631530762, + "learning_rate": 4.718583622248407e-06, + "loss": 0.3352, + "num_input_tokens_seen": 6776976, + "step": 3460 + }, + { + "epoch": 0.4587143803843605, + "grad_norm": 3.260188102722168, + "learning_rate": 4.718423592824047e-06, + "loss": 0.0345, + "num_input_tokens_seen": 6778400, + "step": 3461 + }, + { + "epoch": 0.4588469184890656, + "grad_norm": 2.7483954429626465, + "learning_rate": 4.7182635206269475e-06, + "loss": 0.0162, + "num_input_tokens_seen": 6780192, + "step": 3462 + }, + { + "epoch": 0.4589794565937707, + "grad_norm": 7.3294677734375, + "learning_rate": 4.718103405660198e-06, + "loss": 0.2597, + "num_input_tokens_seen": 6782616, + "step": 3463 + }, + { + "epoch": 0.4591119946984758, + "grad_norm": 0.37416163086891174, + "learning_rate": 4.717943247926885e-06, + "loss": 0.0023, + "num_input_tokens_seen": 6784224, + "step": 3464 + }, + { + "epoch": 0.4592445328031809, + "grad_norm": 6.967800140380859, + "learning_rate": 4.717783047430096e-06, + "loss": 0.1431, + "num_input_tokens_seen": 6786368, + "step": 3465 + }, + { + "epoch": 0.45937707090788604, + "grad_norm": 0.6319146156311035, + "learning_rate": 4.71762280417292e-06, + "loss": 0.0039, + "num_input_tokens_seen": 6788584, + "step": 3466 + }, + { + "epoch": 0.45950960901259114, + "grad_norm": 3.8938984870910645, + "learning_rate": 4.717462518158447e-06, + "loss": 0.0177, + "num_input_tokens_seen": 6791368, + "step": 3467 + }, + { + "epoch": 0.45964214711729623, + "grad_norm": 2.0523159503936768, + "learning_rate": 4.7173021893897655e-06, + "loss": 0.0118, + "num_input_tokens_seen": 6793016, + "step": 3468 + }, + { + "epoch": 0.4597746852220013, + "grad_norm": 16.6965389251709, + "learning_rate": 4.7171418178699686e-06, + "loss": 0.722, + "num_input_tokens_seen": 6795400, + "step": 3469 + }, + { + "epoch": 0.4599072233267064, + "grad_norm": 0.1304982751607895, + "learning_rate": 4.716981403602148e-06, + "loss": 0.0008, + "num_input_tokens_seen": 6797016, + "step": 3470 + }, + { + "epoch": 0.4600397614314115, + "grad_norm": 5.9426589012146, + "learning_rate": 4.716820946589397e-06, + "loss": 0.0769, + "num_input_tokens_seen": 6798408, + "step": 3471 + }, + { + "epoch": 0.46017229953611666, + "grad_norm": 6.750141143798828, + "learning_rate": 4.7166604468348085e-06, + "loss": 0.1026, + "num_input_tokens_seen": 6799680, + "step": 3472 + }, + { + "epoch": 0.46030483764082175, + "grad_norm": 0.027093039825558662, + "learning_rate": 4.716499904341477e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6802248, + "step": 3473 + }, + { + "epoch": 0.46043737574552684, + "grad_norm": 0.033254474401474, + "learning_rate": 4.716339319112499e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6803600, + "step": 3474 + }, + { + "epoch": 0.46056991385023194, + "grad_norm": 0.05802615359425545, + "learning_rate": 4.71617869115097e-06, + "loss": 0.0004, + "num_input_tokens_seen": 6805064, + "step": 3475 + }, + { + "epoch": 0.46070245195493703, + "grad_norm": 2.059119939804077, + "learning_rate": 4.716018020459986e-06, + "loss": 0.034, + "num_input_tokens_seen": 6806400, + "step": 3476 + }, + { + "epoch": 0.4608349900596421, + "grad_norm": 3.234501838684082, + "learning_rate": 4.715857307042646e-06, + "loss": 0.0698, + "num_input_tokens_seen": 6808112, + "step": 3477 + }, + { + "epoch": 0.4609675281643473, + "grad_norm": 0.052756454795598984, + "learning_rate": 4.7156965509020494e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6810096, + "step": 3478 + }, + { + "epoch": 0.46110006626905237, + "grad_norm": 10.914143562316895, + "learning_rate": 4.715535752041294e-06, + "loss": 0.2037, + "num_input_tokens_seen": 6812536, + "step": 3479 + }, + { + "epoch": 0.46123260437375746, + "grad_norm": 9.169696807861328, + "learning_rate": 4.715374910463481e-06, + "loss": 0.2529, + "num_input_tokens_seen": 6813840, + "step": 3480 + }, + { + "epoch": 0.46136514247846255, + "grad_norm": 18.554460525512695, + "learning_rate": 4.715214026171711e-06, + "loss": 0.5491, + "num_input_tokens_seen": 6816752, + "step": 3481 + }, + { + "epoch": 0.46149768058316765, + "grad_norm": 8.606828689575195, + "learning_rate": 4.715053099169088e-06, + "loss": 0.2324, + "num_input_tokens_seen": 6819320, + "step": 3482 + }, + { + "epoch": 0.46163021868787274, + "grad_norm": 9.947463989257812, + "learning_rate": 4.714892129458712e-06, + "loss": 0.3311, + "num_input_tokens_seen": 6822088, + "step": 3483 + }, + { + "epoch": 0.4617627567925779, + "grad_norm": 0.040584735572338104, + "learning_rate": 4.7147311170436875e-06, + "loss": 0.0002, + "num_input_tokens_seen": 6823832, + "step": 3484 + }, + { + "epoch": 0.461895294897283, + "grad_norm": 7.335174560546875, + "learning_rate": 4.714570061927119e-06, + "loss": 0.3384, + "num_input_tokens_seen": 6825440, + "step": 3485 + }, + { + "epoch": 0.4620278330019881, + "grad_norm": 14.993861198425293, + "learning_rate": 4.7144089641121125e-06, + "loss": 0.5626, + "num_input_tokens_seen": 6827152, + "step": 3486 + }, + { + "epoch": 0.46216037110669317, + "grad_norm": 9.26425552368164, + "learning_rate": 4.714247823601774e-06, + "loss": 0.1909, + "num_input_tokens_seen": 6829056, + "step": 3487 + }, + { + "epoch": 0.46229290921139826, + "grad_norm": 4.233144283294678, + "learning_rate": 4.714086640399209e-06, + "loss": 0.1163, + "num_input_tokens_seen": 6830808, + "step": 3488 + }, + { + "epoch": 0.46242544731610336, + "grad_norm": 0.08130092173814774, + "learning_rate": 4.713925414507527e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6833496, + "step": 3489 + }, + { + "epoch": 0.4625579854208085, + "grad_norm": 6.8416852951049805, + "learning_rate": 4.713764145929836e-06, + "loss": 0.2026, + "num_input_tokens_seen": 6835072, + "step": 3490 + }, + { + "epoch": 0.4626905235255136, + "grad_norm": 6.314442157745361, + "learning_rate": 4.713602834669243e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6837080, + "step": 3491 + }, + { + "epoch": 0.4628230616302187, + "grad_norm": 0.07984998822212219, + "learning_rate": 4.713441480728862e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6838568, + "step": 3492 + }, + { + "epoch": 0.4629555997349238, + "grad_norm": 0.32196831703186035, + "learning_rate": 4.713280084111802e-06, + "loss": 0.002, + "num_input_tokens_seen": 6841576, + "step": 3493 + }, + { + "epoch": 0.4630881378396289, + "grad_norm": 9.388946533203125, + "learning_rate": 4.713118644821175e-06, + "loss": 0.236, + "num_input_tokens_seen": 6843304, + "step": 3494 + }, + { + "epoch": 0.46322067594433397, + "grad_norm": 10.134395599365234, + "learning_rate": 4.712957162860094e-06, + "loss": 0.1961, + "num_input_tokens_seen": 6845392, + "step": 3495 + }, + { + "epoch": 0.4633532140490391, + "grad_norm": 4.014077186584473, + "learning_rate": 4.712795638231672e-06, + "loss": 0.0446, + "num_input_tokens_seen": 6846624, + "step": 3496 + }, + { + "epoch": 0.4634857521537442, + "grad_norm": 0.2507886588573456, + "learning_rate": 4.712634070939024e-06, + "loss": 0.0016, + "num_input_tokens_seen": 6848864, + "step": 3497 + }, + { + "epoch": 0.4636182902584493, + "grad_norm": 0.16358473896980286, + "learning_rate": 4.712472460985264e-06, + "loss": 0.001, + "num_input_tokens_seen": 6850744, + "step": 3498 + }, + { + "epoch": 0.4637508283631544, + "grad_norm": 10.368104934692383, + "learning_rate": 4.712310808373509e-06, + "loss": 0.1925, + "num_input_tokens_seen": 6852496, + "step": 3499 + }, + { + "epoch": 0.4638833664678595, + "grad_norm": 5.731873035430908, + "learning_rate": 4.712149113106875e-06, + "loss": 0.067, + "num_input_tokens_seen": 6854272, + "step": 3500 + }, + { + "epoch": 0.4640159045725646, + "grad_norm": 9.510446548461914, + "learning_rate": 4.711987375188481e-06, + "loss": 0.1777, + "num_input_tokens_seen": 6856712, + "step": 3501 + }, + { + "epoch": 0.46414844267726973, + "grad_norm": 0.17497515678405762, + "learning_rate": 4.711825594621443e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6859264, + "step": 3502 + }, + { + "epoch": 0.46428098078197483, + "grad_norm": 12.0756254196167, + "learning_rate": 4.711663771408883e-06, + "loss": 0.2428, + "num_input_tokens_seen": 6861144, + "step": 3503 + }, + { + "epoch": 0.4644135188866799, + "grad_norm": 13.558756828308105, + "learning_rate": 4.711501905553919e-06, + "loss": 0.1976, + "num_input_tokens_seen": 6862928, + "step": 3504 + }, + { + "epoch": 0.464546056991385, + "grad_norm": 13.208483695983887, + "learning_rate": 4.711339997059673e-06, + "loss": 0.429, + "num_input_tokens_seen": 6864824, + "step": 3505 + }, + { + "epoch": 0.4646785950960901, + "grad_norm": 18.7616024017334, + "learning_rate": 4.711178045929267e-06, + "loss": 0.801, + "num_input_tokens_seen": 6866920, + "step": 3506 + }, + { + "epoch": 0.4648111332007952, + "grad_norm": 9.190680503845215, + "learning_rate": 4.711016052165822e-06, + "loss": 0.1913, + "num_input_tokens_seen": 6869160, + "step": 3507 + }, + { + "epoch": 0.46494367130550035, + "grad_norm": 0.18456867337226868, + "learning_rate": 4.710854015772462e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6871440, + "step": 3508 + }, + { + "epoch": 0.46507620941020544, + "grad_norm": 9.639766693115234, + "learning_rate": 4.710691936752312e-06, + "loss": 0.2014, + "num_input_tokens_seen": 6872920, + "step": 3509 + }, + { + "epoch": 0.46520874751491054, + "grad_norm": 0.17921799421310425, + "learning_rate": 4.710529815108496e-06, + "loss": 0.0011, + "num_input_tokens_seen": 6874312, + "step": 3510 + }, + { + "epoch": 0.46534128561961563, + "grad_norm": 0.13441920280456543, + "learning_rate": 4.7103676508441395e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6875872, + "step": 3511 + }, + { + "epoch": 0.4654738237243207, + "grad_norm": 3.1142585277557373, + "learning_rate": 4.710205443962371e-06, + "loss": 0.0397, + "num_input_tokens_seen": 6878568, + "step": 3512 + }, + { + "epoch": 0.46560636182902587, + "grad_norm": 1.7977932691574097, + "learning_rate": 4.710043194466316e-06, + "loss": 0.0148, + "num_input_tokens_seen": 6881128, + "step": 3513 + }, + { + "epoch": 0.46573889993373097, + "grad_norm": 8.77234172821045, + "learning_rate": 4.709880902359104e-06, + "loss": 0.1691, + "num_input_tokens_seen": 6883496, + "step": 3514 + }, + { + "epoch": 0.46587143803843606, + "grad_norm": 7.098576545715332, + "learning_rate": 4.709718567643864e-06, + "loss": 0.1133, + "num_input_tokens_seen": 6885968, + "step": 3515 + }, + { + "epoch": 0.46600397614314115, + "grad_norm": 6.075428485870361, + "learning_rate": 4.709556190323725e-06, + "loss": 0.1374, + "num_input_tokens_seen": 6887632, + "step": 3516 + }, + { + "epoch": 0.46613651424784625, + "grad_norm": 9.650872230529785, + "learning_rate": 4.709393770401818e-06, + "loss": 0.1179, + "num_input_tokens_seen": 6889816, + "step": 3517 + }, + { + "epoch": 0.46626905235255134, + "grad_norm": 18.97589874267578, + "learning_rate": 4.709231307881276e-06, + "loss": 0.5897, + "num_input_tokens_seen": 6891944, + "step": 3518 + }, + { + "epoch": 0.4664015904572565, + "grad_norm": 19.381183624267578, + "learning_rate": 4.7090688027652295e-06, + "loss": 0.181, + "num_input_tokens_seen": 6893888, + "step": 3519 + }, + { + "epoch": 0.4665341285619616, + "grad_norm": 15.839090347290039, + "learning_rate": 4.708906255056813e-06, + "loss": 0.6315, + "num_input_tokens_seen": 6896096, + "step": 3520 + }, + { + "epoch": 0.4666666666666667, + "grad_norm": 27.02651596069336, + "learning_rate": 4.70874366475916e-06, + "loss": 1.0679, + "num_input_tokens_seen": 6899136, + "step": 3521 + }, + { + "epoch": 0.46679920477137177, + "grad_norm": 1.7673804759979248, + "learning_rate": 4.708581031875406e-06, + "loss": 0.0171, + "num_input_tokens_seen": 6900768, + "step": 3522 + }, + { + "epoch": 0.46693174287607686, + "grad_norm": 10.952544212341309, + "learning_rate": 4.708418356408685e-06, + "loss": 0.3071, + "num_input_tokens_seen": 6902488, + "step": 3523 + }, + { + "epoch": 0.46706428098078195, + "grad_norm": 3.474372148513794, + "learning_rate": 4.708255638362135e-06, + "loss": 0.0484, + "num_input_tokens_seen": 6904192, + "step": 3524 + }, + { + "epoch": 0.4671968190854871, + "grad_norm": 4.23491907119751, + "learning_rate": 4.708092877738893e-06, + "loss": 0.1421, + "num_input_tokens_seen": 6906360, + "step": 3525 + }, + { + "epoch": 0.4673293571901922, + "grad_norm": 6.1367878913879395, + "learning_rate": 4.707930074542097e-06, + "loss": 0.1427, + "num_input_tokens_seen": 6908184, + "step": 3526 + }, + { + "epoch": 0.4674618952948973, + "grad_norm": 8.948915481567383, + "learning_rate": 4.707767228774885e-06, + "loss": 0.1737, + "num_input_tokens_seen": 6910384, + "step": 3527 + }, + { + "epoch": 0.4675944333996024, + "grad_norm": 0.1639985293149948, + "learning_rate": 4.707604340440399e-06, + "loss": 0.0009, + "num_input_tokens_seen": 6911848, + "step": 3528 + }, + { + "epoch": 0.4677269715043075, + "grad_norm": 12.816913604736328, + "learning_rate": 4.707441409541779e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6913872, + "step": 3529 + }, + { + "epoch": 0.46785950960901257, + "grad_norm": 0.48404574394226074, + "learning_rate": 4.707278436082165e-06, + "loss": 0.0025, + "num_input_tokens_seen": 6915688, + "step": 3530 + }, + { + "epoch": 0.4679920477137177, + "grad_norm": 28.354053497314453, + "learning_rate": 4.707115420064699e-06, + "loss": 1.0691, + "num_input_tokens_seen": 6918248, + "step": 3531 + }, + { + "epoch": 0.4681245858184228, + "grad_norm": 6.964322090148926, + "learning_rate": 4.706952361492526e-06, + "loss": 0.2007, + "num_input_tokens_seen": 6920344, + "step": 3532 + }, + { + "epoch": 0.4682571239231279, + "grad_norm": 0.20571963489055634, + "learning_rate": 4.70678926036879e-06, + "loss": 0.0012, + "num_input_tokens_seen": 6921904, + "step": 3533 + }, + { + "epoch": 0.468389662027833, + "grad_norm": 0.07439305633306503, + "learning_rate": 4.706626116696632e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6924288, + "step": 3534 + }, + { + "epoch": 0.4685222001325381, + "grad_norm": 10.463114738464355, + "learning_rate": 4.706462930479202e-06, + "loss": 0.2889, + "num_input_tokens_seen": 6925864, + "step": 3535 + }, + { + "epoch": 0.4686547382372432, + "grad_norm": 0.07231903821229935, + "learning_rate": 4.706299701719644e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6927344, + "step": 3536 + }, + { + "epoch": 0.46878727634194833, + "grad_norm": 13.263286590576172, + "learning_rate": 4.706136430421107e-06, + "loss": 0.2207, + "num_input_tokens_seen": 6930144, + "step": 3537 + }, + { + "epoch": 0.4689198144466534, + "grad_norm": 10.516202926635742, + "learning_rate": 4.705973116586736e-06, + "loss": 0.1775, + "num_input_tokens_seen": 6932816, + "step": 3538 + }, + { + "epoch": 0.4690523525513585, + "grad_norm": 5.35650110244751, + "learning_rate": 4.705809760219683e-06, + "loss": 0.0998, + "num_input_tokens_seen": 6935120, + "step": 3539 + }, + { + "epoch": 0.4691848906560636, + "grad_norm": 4.04359769821167, + "learning_rate": 4.705646361323095e-06, + "loss": 0.0354, + "num_input_tokens_seen": 6937264, + "step": 3540 + }, + { + "epoch": 0.4693174287607687, + "grad_norm": 8.984070777893066, + "learning_rate": 4.705482919900124e-06, + "loss": 0.3484, + "num_input_tokens_seen": 6939464, + "step": 3541 + }, + { + "epoch": 0.4694499668654738, + "grad_norm": 9.976149559020996, + "learning_rate": 4.705319435953921e-06, + "loss": 0.2858, + "num_input_tokens_seen": 6941152, + "step": 3542 + }, + { + "epoch": 0.46958250497017895, + "grad_norm": 7.658107280731201, + "learning_rate": 4.705155909487637e-06, + "loss": 0.2591, + "num_input_tokens_seen": 6943064, + "step": 3543 + }, + { + "epoch": 0.46971504307488404, + "grad_norm": 6.953422546386719, + "learning_rate": 4.704992340504426e-06, + "loss": 0.2118, + "num_input_tokens_seen": 6944496, + "step": 3544 + }, + { + "epoch": 0.46984758117958914, + "grad_norm": 6.0076141357421875, + "learning_rate": 4.704828729007443e-06, + "loss": 0.1274, + "num_input_tokens_seen": 6946560, + "step": 3545 + }, + { + "epoch": 0.46998011928429423, + "grad_norm": 2.6947245597839355, + "learning_rate": 4.7046650749998396e-06, + "loss": 0.032, + "num_input_tokens_seen": 6947640, + "step": 3546 + }, + { + "epoch": 0.4701126573889993, + "grad_norm": 6.5871381759643555, + "learning_rate": 4.704501378484772e-06, + "loss": 0.1343, + "num_input_tokens_seen": 6949400, + "step": 3547 + }, + { + "epoch": 0.4702451954937044, + "grad_norm": 21.81719207763672, + "learning_rate": 4.704337639465399e-06, + "loss": 0.4704, + "num_input_tokens_seen": 6951224, + "step": 3548 + }, + { + "epoch": 0.47037773359840956, + "grad_norm": 6.1173810958862305, + "learning_rate": 4.704173857944875e-06, + "loss": 0.0759, + "num_input_tokens_seen": 6953560, + "step": 3549 + }, + { + "epoch": 0.47051027170311466, + "grad_norm": 19.397836685180664, + "learning_rate": 4.704010033926358e-06, + "loss": 0.6053, + "num_input_tokens_seen": 6956720, + "step": 3550 + }, + { + "epoch": 0.47064280980781975, + "grad_norm": 0.04566048085689545, + "learning_rate": 4.703846167413007e-06, + "loss": 0.0003, + "num_input_tokens_seen": 6958128, + "step": 3551 + }, + { + "epoch": 0.47077534791252484, + "grad_norm": 6.820549011230469, + "learning_rate": 4.703682258407981e-06, + "loss": 0.0614, + "num_input_tokens_seen": 6960984, + "step": 3552 + }, + { + "epoch": 0.47090788601722994, + "grad_norm": 5.300433158874512, + "learning_rate": 4.703518306914442e-06, + "loss": 0.0461, + "num_input_tokens_seen": 6964080, + "step": 3553 + }, + { + "epoch": 0.47104042412193503, + "grad_norm": 11.61038589477539, + "learning_rate": 4.70335431293555e-06, + "loss": 0.4296, + "num_input_tokens_seen": 6965624, + "step": 3554 + }, + { + "epoch": 0.4711729622266402, + "grad_norm": 9.014015197753906, + "learning_rate": 4.703190276474466e-06, + "loss": 0.2061, + "num_input_tokens_seen": 6967456, + "step": 3555 + }, + { + "epoch": 0.4713055003313453, + "grad_norm": 9.886773109436035, + "learning_rate": 4.703026197534354e-06, + "loss": 0.3265, + "num_input_tokens_seen": 6969440, + "step": 3556 + }, + { + "epoch": 0.47143803843605037, + "grad_norm": 6.1779046058654785, + "learning_rate": 4.702862076118377e-06, + "loss": 0.0765, + "num_input_tokens_seen": 6971352, + "step": 3557 + }, + { + "epoch": 0.47157057654075546, + "grad_norm": 4.020450115203857, + "learning_rate": 4.702697912229699e-06, + "loss": 0.0255, + "num_input_tokens_seen": 6973592, + "step": 3558 + }, + { + "epoch": 0.47170311464546055, + "grad_norm": 0.1025056540966034, + "learning_rate": 4.702533705871487e-06, + "loss": 0.0006, + "num_input_tokens_seen": 6975464, + "step": 3559 + }, + { + "epoch": 0.47183565275016565, + "grad_norm": 8.514978408813477, + "learning_rate": 4.702369457046904e-06, + "loss": 0.3335, + "num_input_tokens_seen": 6977192, + "step": 3560 + }, + { + "epoch": 0.4719681908548708, + "grad_norm": 4.87443733215332, + "learning_rate": 4.702205165759119e-06, + "loss": 0.1765, + "num_input_tokens_seen": 6979528, + "step": 3561 + }, + { + "epoch": 0.4721007289595759, + "grad_norm": 5.829202651977539, + "learning_rate": 4.7020408320113e-06, + "loss": 0.1468, + "num_input_tokens_seen": 6982144, + "step": 3562 + }, + { + "epoch": 0.472233267064281, + "grad_norm": 5.061383247375488, + "learning_rate": 4.701876455806615e-06, + "loss": 0.1379, + "num_input_tokens_seen": 6983752, + "step": 3563 + }, + { + "epoch": 0.4723658051689861, + "grad_norm": 7.918785572052002, + "learning_rate": 4.701712037148231e-06, + "loss": 0.1314, + "num_input_tokens_seen": 6986208, + "step": 3564 + }, + { + "epoch": 0.47249834327369117, + "grad_norm": 6.342104911804199, + "learning_rate": 4.701547576039321e-06, + "loss": 0.2634, + "num_input_tokens_seen": 6988792, + "step": 3565 + }, + { + "epoch": 0.47263088137839626, + "grad_norm": 10.905147552490234, + "learning_rate": 4.701383072483056e-06, + "loss": 0.3358, + "num_input_tokens_seen": 6991376, + "step": 3566 + }, + { + "epoch": 0.4727634194831014, + "grad_norm": 0.16422037780284882, + "learning_rate": 4.701218526482606e-06, + "loss": 0.001, + "num_input_tokens_seen": 6993824, + "step": 3567 + }, + { + "epoch": 0.4728959575878065, + "grad_norm": 1.7487876415252686, + "learning_rate": 4.701053938041144e-06, + "loss": 0.0097, + "num_input_tokens_seen": 6994960, + "step": 3568 + }, + { + "epoch": 0.4730284956925116, + "grad_norm": 0.07559742778539658, + "learning_rate": 4.700889307161843e-06, + "loss": 0.0005, + "num_input_tokens_seen": 6996656, + "step": 3569 + }, + { + "epoch": 0.4731610337972167, + "grad_norm": 14.890816688537598, + "learning_rate": 4.70072463384788e-06, + "loss": 0.4581, + "num_input_tokens_seen": 6999152, + "step": 3570 + }, + { + "epoch": 0.4732935719019218, + "grad_norm": 5.607250213623047, + "learning_rate": 4.700559918102426e-06, + "loss": 0.2113, + "num_input_tokens_seen": 7001648, + "step": 3571 + }, + { + "epoch": 0.47342611000662693, + "grad_norm": 0.10200473666191101, + "learning_rate": 4.700395159928659e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7004200, + "step": 3572 + }, + { + "epoch": 0.473558648111332, + "grad_norm": 12.87032699584961, + "learning_rate": 4.700230359329756e-06, + "loss": 0.2462, + "num_input_tokens_seen": 7006320, + "step": 3573 + }, + { + "epoch": 0.4736911862160371, + "grad_norm": 11.754016876220703, + "learning_rate": 4.7000655163088925e-06, + "loss": 0.3285, + "num_input_tokens_seen": 7007864, + "step": 3574 + }, + { + "epoch": 0.4738237243207422, + "grad_norm": 5.008886814117432, + "learning_rate": 4.699900630869249e-06, + "loss": 0.1819, + "num_input_tokens_seen": 7009920, + "step": 3575 + }, + { + "epoch": 0.4739562624254473, + "grad_norm": 0.058161620050668716, + "learning_rate": 4.699735703014004e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7011640, + "step": 3576 + }, + { + "epoch": 0.4740888005301524, + "grad_norm": 9.170276641845703, + "learning_rate": 4.699570732746337e-06, + "loss": 0.4069, + "num_input_tokens_seen": 7013392, + "step": 3577 + }, + { + "epoch": 0.47422133863485755, + "grad_norm": 8.129196166992188, + "learning_rate": 4.699405720069429e-06, + "loss": 0.1891, + "num_input_tokens_seen": 7015272, + "step": 3578 + }, + { + "epoch": 0.47435387673956264, + "grad_norm": 8.739459037780762, + "learning_rate": 4.6992406649864605e-06, + "loss": 0.2107, + "num_input_tokens_seen": 7017376, + "step": 3579 + }, + { + "epoch": 0.47448641484426773, + "grad_norm": 0.16730321943759918, + "learning_rate": 4.699075567500615e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7020160, + "step": 3580 + }, + { + "epoch": 0.4746189529489728, + "grad_norm": 9.901205062866211, + "learning_rate": 4.698910427615076e-06, + "loss": 0.1999, + "num_input_tokens_seen": 7021360, + "step": 3581 + }, + { + "epoch": 0.4747514910536779, + "grad_norm": 10.716650009155273, + "learning_rate": 4.698745245333026e-06, + "loss": 0.3243, + "num_input_tokens_seen": 7023736, + "step": 3582 + }, + { + "epoch": 0.474884029158383, + "grad_norm": 13.758613586425781, + "learning_rate": 4.698580020657653e-06, + "loss": 0.3305, + "num_input_tokens_seen": 7025888, + "step": 3583 + }, + { + "epoch": 0.47501656726308816, + "grad_norm": 2.665637254714966, + "learning_rate": 4.698414753592139e-06, + "loss": 0.0605, + "num_input_tokens_seen": 7028576, + "step": 3584 + }, + { + "epoch": 0.47514910536779326, + "grad_norm": 18.0197696685791, + "learning_rate": 4.698249444139672e-06, + "loss": 0.4927, + "num_input_tokens_seen": 7032600, + "step": 3585 + }, + { + "epoch": 0.47528164347249835, + "grad_norm": 4.9588823318481445, + "learning_rate": 4.698084092303439e-06, + "loss": 0.1225, + "num_input_tokens_seen": 7034088, + "step": 3586 + }, + { + "epoch": 0.47541418157720344, + "grad_norm": 1.3933740854263306, + "learning_rate": 4.697918698086629e-06, + "loss": 0.0075, + "num_input_tokens_seen": 7035624, + "step": 3587 + }, + { + "epoch": 0.47554671968190854, + "grad_norm": 6.276792049407959, + "learning_rate": 4.697753261492429e-06, + "loss": 0.0486, + "num_input_tokens_seen": 7037768, + "step": 3588 + }, + { + "epoch": 0.47567925778661363, + "grad_norm": 9.799899101257324, + "learning_rate": 4.697587782524031e-06, + "loss": 0.3571, + "num_input_tokens_seen": 7039176, + "step": 3589 + }, + { + "epoch": 0.4758117958913188, + "grad_norm": 15.974863052368164, + "learning_rate": 4.697422261184625e-06, + "loss": 0.4476, + "num_input_tokens_seen": 7041008, + "step": 3590 + }, + { + "epoch": 0.47594433399602387, + "grad_norm": 0.06836438179016113, + "learning_rate": 4.697256697477401e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7042888, + "step": 3591 + }, + { + "epoch": 0.47607687210072896, + "grad_norm": 0.23637758195400238, + "learning_rate": 4.697091091405552e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7045520, + "step": 3592 + }, + { + "epoch": 0.47620941020543406, + "grad_norm": 0.11919800192117691, + "learning_rate": 4.6969254429722715e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7046760, + "step": 3593 + }, + { + "epoch": 0.47634194831013915, + "grad_norm": 2.406327962875366, + "learning_rate": 4.696759752180753e-06, + "loss": 0.024, + "num_input_tokens_seen": 7047928, + "step": 3594 + }, + { + "epoch": 0.47647448641484424, + "grad_norm": 10.8333158493042, + "learning_rate": 4.696594019034191e-06, + "loss": 0.2878, + "num_input_tokens_seen": 7049872, + "step": 3595 + }, + { + "epoch": 0.4766070245195494, + "grad_norm": 11.24345588684082, + "learning_rate": 4.69642824353578e-06, + "loss": 0.3361, + "num_input_tokens_seen": 7052248, + "step": 3596 + }, + { + "epoch": 0.4767395626242545, + "grad_norm": 4.304723262786865, + "learning_rate": 4.696262425688719e-06, + "loss": 0.0769, + "num_input_tokens_seen": 7054560, + "step": 3597 + }, + { + "epoch": 0.4768721007289596, + "grad_norm": 0.1264643669128418, + "learning_rate": 4.696096565496201e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7055744, + "step": 3598 + }, + { + "epoch": 0.4770046388336647, + "grad_norm": 0.31086790561676025, + "learning_rate": 4.695930662961428e-06, + "loss": 0.0019, + "num_input_tokens_seen": 7057648, + "step": 3599 + }, + { + "epoch": 0.47713717693836977, + "grad_norm": 15.648187637329102, + "learning_rate": 4.695764718087597e-06, + "loss": 0.6259, + "num_input_tokens_seen": 7059672, + "step": 3600 + }, + { + "epoch": 0.47726971504307486, + "grad_norm": 8.93014144897461, + "learning_rate": 4.695598730877906e-06, + "loss": 0.3532, + "num_input_tokens_seen": 7061440, + "step": 3601 + }, + { + "epoch": 0.47740225314778, + "grad_norm": 17.751750946044922, + "learning_rate": 4.695432701335558e-06, + "loss": 0.5704, + "num_input_tokens_seen": 7063408, + "step": 3602 + }, + { + "epoch": 0.4775347912524851, + "grad_norm": 0.16362851858139038, + "learning_rate": 4.695266629463753e-06, + "loss": 0.001, + "num_input_tokens_seen": 7065576, + "step": 3603 + }, + { + "epoch": 0.4776673293571902, + "grad_norm": 12.111469268798828, + "learning_rate": 4.695100515265692e-06, + "loss": 0.5356, + "num_input_tokens_seen": 7068104, + "step": 3604 + }, + { + "epoch": 0.4777998674618953, + "grad_norm": 0.3510127067565918, + "learning_rate": 4.694934358744579e-06, + "loss": 0.002, + "num_input_tokens_seen": 7070400, + "step": 3605 + }, + { + "epoch": 0.4779324055666004, + "grad_norm": 10.041983604431152, + "learning_rate": 4.694768159903618e-06, + "loss": 0.2129, + "num_input_tokens_seen": 7071744, + "step": 3606 + }, + { + "epoch": 0.4780649436713055, + "grad_norm": 15.56740665435791, + "learning_rate": 4.694601918746013e-06, + "loss": 0.2034, + "num_input_tokens_seen": 7073392, + "step": 3607 + }, + { + "epoch": 0.4781974817760106, + "grad_norm": 3.900268077850342, + "learning_rate": 4.694435635274967e-06, + "loss": 0.0868, + "num_input_tokens_seen": 7075048, + "step": 3608 + }, + { + "epoch": 0.4783300198807157, + "grad_norm": 15.370348930358887, + "learning_rate": 4.69426930949369e-06, + "loss": 0.3446, + "num_input_tokens_seen": 7076640, + "step": 3609 + }, + { + "epoch": 0.4784625579854208, + "grad_norm": 5.116485595703125, + "learning_rate": 4.694102941405387e-06, + "loss": 0.1836, + "num_input_tokens_seen": 7079040, + "step": 3610 + }, + { + "epoch": 0.4785950960901259, + "grad_norm": 0.5230085253715515, + "learning_rate": 4.693936531013265e-06, + "loss": 0.0032, + "num_input_tokens_seen": 7080864, + "step": 3611 + }, + { + "epoch": 0.478727634194831, + "grad_norm": 11.05142593383789, + "learning_rate": 4.693770078320533e-06, + "loss": 0.1962, + "num_input_tokens_seen": 7082592, + "step": 3612 + }, + { + "epoch": 0.4788601722995361, + "grad_norm": 0.23189933598041534, + "learning_rate": 4.6936035833304015e-06, + "loss": 0.0015, + "num_input_tokens_seen": 7084104, + "step": 3613 + }, + { + "epoch": 0.47899271040424124, + "grad_norm": 0.8146563172340393, + "learning_rate": 4.693437046046078e-06, + "loss": 0.005, + "num_input_tokens_seen": 7086000, + "step": 3614 + }, + { + "epoch": 0.47912524850894633, + "grad_norm": 0.21613956987857819, + "learning_rate": 4.6932704664707765e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7087240, + "step": 3615 + }, + { + "epoch": 0.4792577866136514, + "grad_norm": 0.2218838632106781, + "learning_rate": 4.693103844607707e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7088864, + "step": 3616 + }, + { + "epoch": 0.4793903247183565, + "grad_norm": 9.091875076293945, + "learning_rate": 4.692937180460082e-06, + "loss": 0.2301, + "num_input_tokens_seen": 7091320, + "step": 3617 + }, + { + "epoch": 0.4795228628230616, + "grad_norm": 4.170630931854248, + "learning_rate": 4.692770474031116e-06, + "loss": 0.0962, + "num_input_tokens_seen": 7092744, + "step": 3618 + }, + { + "epoch": 0.4796554009277667, + "grad_norm": 14.123799324035645, + "learning_rate": 4.692603725324022e-06, + "loss": 0.5683, + "num_input_tokens_seen": 7095448, + "step": 3619 + }, + { + "epoch": 0.47978793903247186, + "grad_norm": 6.59906005859375, + "learning_rate": 4.692436934342016e-06, + "loss": 0.2922, + "num_input_tokens_seen": 7097192, + "step": 3620 + }, + { + "epoch": 0.47992047713717695, + "grad_norm": 0.40969640016555786, + "learning_rate": 4.692270101088313e-06, + "loss": 0.0023, + "num_input_tokens_seen": 7098976, + "step": 3621 + }, + { + "epoch": 0.48005301524188204, + "grad_norm": 2.175377607345581, + "learning_rate": 4.69210322556613e-06, + "loss": 0.0131, + "num_input_tokens_seen": 7101016, + "step": 3622 + }, + { + "epoch": 0.48018555334658714, + "grad_norm": 8.167495727539062, + "learning_rate": 4.6919363077786855e-06, + "loss": 0.2313, + "num_input_tokens_seen": 7102424, + "step": 3623 + }, + { + "epoch": 0.48031809145129223, + "grad_norm": 14.146867752075195, + "learning_rate": 4.691769347729196e-06, + "loss": 0.5304, + "num_input_tokens_seen": 7105504, + "step": 3624 + }, + { + "epoch": 0.4804506295559973, + "grad_norm": 6.243712425231934, + "learning_rate": 4.691602345420882e-06, + "loss": 0.1511, + "num_input_tokens_seen": 7107416, + "step": 3625 + }, + { + "epoch": 0.48058316766070247, + "grad_norm": 0.191379114985466, + "learning_rate": 4.691435300856962e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7109104, + "step": 3626 + }, + { + "epoch": 0.48071570576540756, + "grad_norm": 10.162073135375977, + "learning_rate": 4.691268214040658e-06, + "loss": 0.3553, + "num_input_tokens_seen": 7111032, + "step": 3627 + }, + { + "epoch": 0.48084824387011266, + "grad_norm": 4.809532165527344, + "learning_rate": 4.6911010849751916e-06, + "loss": 0.0741, + "num_input_tokens_seen": 7113368, + "step": 3628 + }, + { + "epoch": 0.48098078197481775, + "grad_norm": 4.5478620529174805, + "learning_rate": 4.690933913663784e-06, + "loss": 0.048, + "num_input_tokens_seen": 7114856, + "step": 3629 + }, + { + "epoch": 0.48111332007952284, + "grad_norm": 0.18467599153518677, + "learning_rate": 4.690766700109659e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7116696, + "step": 3630 + }, + { + "epoch": 0.481245858184228, + "grad_norm": 17.60898208618164, + "learning_rate": 4.690599444316042e-06, + "loss": 0.449, + "num_input_tokens_seen": 7118576, + "step": 3631 + }, + { + "epoch": 0.4813783962889331, + "grad_norm": 7.66585111618042, + "learning_rate": 4.690432146286155e-06, + "loss": 0.3184, + "num_input_tokens_seen": 7120536, + "step": 3632 + }, + { + "epoch": 0.4815109343936382, + "grad_norm": 18.95626449584961, + "learning_rate": 4.690264806023226e-06, + "loss": 0.4574, + "num_input_tokens_seen": 7121872, + "step": 3633 + }, + { + "epoch": 0.4816434724983433, + "grad_norm": 0.11527787148952484, + "learning_rate": 4.6900974235304805e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7123720, + "step": 3634 + }, + { + "epoch": 0.48177601060304837, + "grad_norm": 6.762696743011475, + "learning_rate": 4.689929998811145e-06, + "loss": 0.1712, + "num_input_tokens_seen": 7125784, + "step": 3635 + }, + { + "epoch": 0.48190854870775346, + "grad_norm": 0.4892951548099518, + "learning_rate": 4.6897625318684494e-06, + "loss": 0.0025, + "num_input_tokens_seen": 7127448, + "step": 3636 + }, + { + "epoch": 0.4820410868124586, + "grad_norm": 2.992539405822754, + "learning_rate": 4.689595022705621e-06, + "loss": 0.0942, + "num_input_tokens_seen": 7128640, + "step": 3637 + }, + { + "epoch": 0.4821736249171637, + "grad_norm": 0.06269744038581848, + "learning_rate": 4.689427471325891e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7130616, + "step": 3638 + }, + { + "epoch": 0.4823061630218688, + "grad_norm": 16.022083282470703, + "learning_rate": 4.689259877732487e-06, + "loss": 0.4353, + "num_input_tokens_seen": 7132576, + "step": 3639 + }, + { + "epoch": 0.4824387011265739, + "grad_norm": 0.09941118955612183, + "learning_rate": 4.6890922419286436e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7134048, + "step": 3640 + }, + { + "epoch": 0.482571239231279, + "grad_norm": 9.228554725646973, + "learning_rate": 4.688924563917592e-06, + "loss": 0.1197, + "num_input_tokens_seen": 7135704, + "step": 3641 + }, + { + "epoch": 0.4827037773359841, + "grad_norm": 0.06086016818881035, + "learning_rate": 4.688756843702563e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7137080, + "step": 3642 + }, + { + "epoch": 0.4828363154406892, + "grad_norm": 9.835884094238281, + "learning_rate": 4.688589081286794e-06, + "loss": 0.2404, + "num_input_tokens_seen": 7138160, + "step": 3643 + }, + { + "epoch": 0.4829688535453943, + "grad_norm": 10.266068458557129, + "learning_rate": 4.688421276673517e-06, + "loss": 0.3296, + "num_input_tokens_seen": 7140376, + "step": 3644 + }, + { + "epoch": 0.4831013916500994, + "grad_norm": 2.3182859420776367, + "learning_rate": 4.6882534298659675e-06, + "loss": 0.015, + "num_input_tokens_seen": 7141512, + "step": 3645 + }, + { + "epoch": 0.4832339297548045, + "grad_norm": 10.558012008666992, + "learning_rate": 4.6880855408673835e-06, + "loss": 0.2838, + "num_input_tokens_seen": 7143248, + "step": 3646 + }, + { + "epoch": 0.4833664678595096, + "grad_norm": 7.685230731964111, + "learning_rate": 4.6879176096809995e-06, + "loss": 0.2251, + "num_input_tokens_seen": 7144664, + "step": 3647 + }, + { + "epoch": 0.4834990059642147, + "grad_norm": 19.196279525756836, + "learning_rate": 4.687749636310055e-06, + "loss": 0.6622, + "num_input_tokens_seen": 7147528, + "step": 3648 + }, + { + "epoch": 0.48363154406891984, + "grad_norm": 15.792891502380371, + "learning_rate": 4.687581620757788e-06, + "loss": 0.4496, + "num_input_tokens_seen": 7149704, + "step": 3649 + }, + { + "epoch": 0.48376408217362493, + "grad_norm": 10.962190628051758, + "learning_rate": 4.687413563027439e-06, + "loss": 0.1057, + "num_input_tokens_seen": 7151368, + "step": 3650 + }, + { + "epoch": 0.48389662027833, + "grad_norm": 0.7263032793998718, + "learning_rate": 4.687245463122247e-06, + "loss": 0.0045, + "num_input_tokens_seen": 7153376, + "step": 3651 + }, + { + "epoch": 0.4840291583830351, + "grad_norm": 6.699631690979004, + "learning_rate": 4.687077321045454e-06, + "loss": 0.1838, + "num_input_tokens_seen": 7156232, + "step": 3652 + }, + { + "epoch": 0.4841616964877402, + "grad_norm": 5.326754093170166, + "learning_rate": 4.686909136800301e-06, + "loss": 0.1323, + "num_input_tokens_seen": 7158464, + "step": 3653 + }, + { + "epoch": 0.4842942345924453, + "grad_norm": 13.424384117126465, + "learning_rate": 4.6867409103900315e-06, + "loss": 0.1772, + "num_input_tokens_seen": 7160520, + "step": 3654 + }, + { + "epoch": 0.48442677269715045, + "grad_norm": 18.61404800415039, + "learning_rate": 4.6865726418178886e-06, + "loss": 0.8723, + "num_input_tokens_seen": 7162840, + "step": 3655 + }, + { + "epoch": 0.48455931080185555, + "grad_norm": 12.540332794189453, + "learning_rate": 4.686404331087117e-06, + "loss": 0.4924, + "num_input_tokens_seen": 7165080, + "step": 3656 + }, + { + "epoch": 0.48469184890656064, + "grad_norm": 8.716713905334473, + "learning_rate": 4.686235978200961e-06, + "loss": 0.1661, + "num_input_tokens_seen": 7167288, + "step": 3657 + }, + { + "epoch": 0.48482438701126573, + "grad_norm": 7.3954362869262695, + "learning_rate": 4.686067583162667e-06, + "loss": 0.2172, + "num_input_tokens_seen": 7169136, + "step": 3658 + }, + { + "epoch": 0.4849569251159708, + "grad_norm": 6.320158958435059, + "learning_rate": 4.685899145975482e-06, + "loss": 0.1723, + "num_input_tokens_seen": 7170960, + "step": 3659 + }, + { + "epoch": 0.4850894632206759, + "grad_norm": 16.36895179748535, + "learning_rate": 4.685730666642654e-06, + "loss": 0.5165, + "num_input_tokens_seen": 7172496, + "step": 3660 + }, + { + "epoch": 0.48522200132538107, + "grad_norm": 2.5520060062408447, + "learning_rate": 4.68556214516743e-06, + "loss": 0.0302, + "num_input_tokens_seen": 7174440, + "step": 3661 + }, + { + "epoch": 0.48535453943008616, + "grad_norm": 9.569836616516113, + "learning_rate": 4.685393581553061e-06, + "loss": 0.1684, + "num_input_tokens_seen": 7176104, + "step": 3662 + }, + { + "epoch": 0.48548707753479126, + "grad_norm": 9.7288236618042, + "learning_rate": 4.685224975802797e-06, + "loss": 0.3023, + "num_input_tokens_seen": 7178240, + "step": 3663 + }, + { + "epoch": 0.48561961563949635, + "grad_norm": 2.0769824981689453, + "learning_rate": 4.685056327919886e-06, + "loss": 0.0359, + "num_input_tokens_seen": 7180384, + "step": 3664 + }, + { + "epoch": 0.48575215374420144, + "grad_norm": 1.1037579774856567, + "learning_rate": 4.684887637907583e-06, + "loss": 0.0073, + "num_input_tokens_seen": 7181400, + "step": 3665 + }, + { + "epoch": 0.48588469184890654, + "grad_norm": 6.982590675354004, + "learning_rate": 4.684718905769138e-06, + "loss": 0.1672, + "num_input_tokens_seen": 7184032, + "step": 3666 + }, + { + "epoch": 0.4860172299536117, + "grad_norm": 1.2424237728118896, + "learning_rate": 4.684550131507806e-06, + "loss": 0.0082, + "num_input_tokens_seen": 7185672, + "step": 3667 + }, + { + "epoch": 0.4861497680583168, + "grad_norm": 13.110060691833496, + "learning_rate": 4.68438131512684e-06, + "loss": 0.2624, + "num_input_tokens_seen": 7187144, + "step": 3668 + }, + { + "epoch": 0.48628230616302187, + "grad_norm": 2.2205982208251953, + "learning_rate": 4.684212456629496e-06, + "loss": 0.0247, + "num_input_tokens_seen": 7189056, + "step": 3669 + }, + { + "epoch": 0.48641484426772696, + "grad_norm": 6.307052135467529, + "learning_rate": 4.684043556019028e-06, + "loss": 0.1582, + "num_input_tokens_seen": 7190768, + "step": 3670 + }, + { + "epoch": 0.48654738237243206, + "grad_norm": 12.494579315185547, + "learning_rate": 4.683874613298695e-06, + "loss": 0.2223, + "num_input_tokens_seen": 7192648, + "step": 3671 + }, + { + "epoch": 0.48667992047713715, + "grad_norm": 12.971120834350586, + "learning_rate": 4.683705628471752e-06, + "loss": 0.4699, + "num_input_tokens_seen": 7194312, + "step": 3672 + }, + { + "epoch": 0.4868124585818423, + "grad_norm": 11.755553245544434, + "learning_rate": 4.683536601541458e-06, + "loss": 0.322, + "num_input_tokens_seen": 7196048, + "step": 3673 + }, + { + "epoch": 0.4869449966865474, + "grad_norm": 12.68346881866455, + "learning_rate": 4.683367532511072e-06, + "loss": 0.634, + "num_input_tokens_seen": 7197824, + "step": 3674 + }, + { + "epoch": 0.4870775347912525, + "grad_norm": 21.495649337768555, + "learning_rate": 4.683198421383853e-06, + "loss": 0.7325, + "num_input_tokens_seen": 7199904, + "step": 3675 + }, + { + "epoch": 0.4872100728959576, + "grad_norm": 10.929720878601074, + "learning_rate": 4.683029268163064e-06, + "loss": 0.2668, + "num_input_tokens_seen": 7202168, + "step": 3676 + }, + { + "epoch": 0.4873426110006627, + "grad_norm": 13.11765193939209, + "learning_rate": 4.682860072851963e-06, + "loss": 0.356, + "num_input_tokens_seen": 7204336, + "step": 3677 + }, + { + "epoch": 0.48747514910536777, + "grad_norm": 1.0770907402038574, + "learning_rate": 4.682690835453815e-06, + "loss": 0.0067, + "num_input_tokens_seen": 7206120, + "step": 3678 + }, + { + "epoch": 0.4876076872100729, + "grad_norm": 7.749923229217529, + "learning_rate": 4.682521555971881e-06, + "loss": 0.1145, + "num_input_tokens_seen": 7208184, + "step": 3679 + }, + { + "epoch": 0.487740225314778, + "grad_norm": 17.261608123779297, + "learning_rate": 4.6823522344094265e-06, + "loss": 0.2908, + "num_input_tokens_seen": 7210440, + "step": 3680 + }, + { + "epoch": 0.4878727634194831, + "grad_norm": 0.5793535113334656, + "learning_rate": 4.6821828707697155e-06, + "loss": 0.0036, + "num_input_tokens_seen": 7212328, + "step": 3681 + }, + { + "epoch": 0.4880053015241882, + "grad_norm": 12.21238899230957, + "learning_rate": 4.682013465056014e-06, + "loss": 0.4645, + "num_input_tokens_seen": 7214736, + "step": 3682 + }, + { + "epoch": 0.4881378396288933, + "grad_norm": 7.762907981872559, + "learning_rate": 4.681844017271586e-06, + "loss": 0.1034, + "num_input_tokens_seen": 7216504, + "step": 3683 + }, + { + "epoch": 0.4882703777335984, + "grad_norm": 8.921805381774902, + "learning_rate": 4.681674527419701e-06, + "loss": 0.2196, + "num_input_tokens_seen": 7218408, + "step": 3684 + }, + { + "epoch": 0.48840291583830353, + "grad_norm": 10.31627082824707, + "learning_rate": 4.681504995503626e-06, + "loss": 0.2883, + "num_input_tokens_seen": 7219936, + "step": 3685 + }, + { + "epoch": 0.4885354539430086, + "grad_norm": 8.42447566986084, + "learning_rate": 4.681335421526629e-06, + "loss": 0.0715, + "num_input_tokens_seen": 7221728, + "step": 3686 + }, + { + "epoch": 0.4886679920477137, + "grad_norm": 0.3916245698928833, + "learning_rate": 4.681165805491982e-06, + "loss": 0.0025, + "num_input_tokens_seen": 7223328, + "step": 3687 + }, + { + "epoch": 0.4888005301524188, + "grad_norm": 0.4920238256454468, + "learning_rate": 4.680996147402952e-06, + "loss": 0.0029, + "num_input_tokens_seen": 7225000, + "step": 3688 + }, + { + "epoch": 0.4889330682571239, + "grad_norm": 0.1166110411286354, + "learning_rate": 4.680826447262812e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7226336, + "step": 3689 + }, + { + "epoch": 0.48906560636182905, + "grad_norm": 3.457275629043579, + "learning_rate": 4.680656705074834e-06, + "loss": 0.0543, + "num_input_tokens_seen": 7227960, + "step": 3690 + }, + { + "epoch": 0.48919814446653415, + "grad_norm": 2.1174094676971436, + "learning_rate": 4.680486920842291e-06, + "loss": 0.0171, + "num_input_tokens_seen": 7229608, + "step": 3691 + }, + { + "epoch": 0.48933068257123924, + "grad_norm": 0.5574467778205872, + "learning_rate": 4.680317094568454e-06, + "loss": 0.0033, + "num_input_tokens_seen": 7231480, + "step": 3692 + }, + { + "epoch": 0.48946322067594433, + "grad_norm": 3.1361982822418213, + "learning_rate": 4.6801472262566005e-06, + "loss": 0.0794, + "num_input_tokens_seen": 7232968, + "step": 3693 + }, + { + "epoch": 0.4895957587806494, + "grad_norm": 17.396100997924805, + "learning_rate": 4.679977315910005e-06, + "loss": 0.392, + "num_input_tokens_seen": 7234304, + "step": 3694 + }, + { + "epoch": 0.4897282968853545, + "grad_norm": 9.992633819580078, + "learning_rate": 4.679807363531942e-06, + "loss": 0.3459, + "num_input_tokens_seen": 7236272, + "step": 3695 + }, + { + "epoch": 0.48986083499005967, + "grad_norm": 0.1709693968296051, + "learning_rate": 4.67963736912569e-06, + "loss": 0.001, + "num_input_tokens_seen": 7238008, + "step": 3696 + }, + { + "epoch": 0.48999337309476476, + "grad_norm": 5.947240829467773, + "learning_rate": 4.679467332694525e-06, + "loss": 0.1294, + "num_input_tokens_seen": 7240952, + "step": 3697 + }, + { + "epoch": 0.49012591119946985, + "grad_norm": 8.366475105285645, + "learning_rate": 4.679297254241727e-06, + "loss": 0.1231, + "num_input_tokens_seen": 7242744, + "step": 3698 + }, + { + "epoch": 0.49025844930417495, + "grad_norm": 0.06506709009408951, + "learning_rate": 4.679127133770574e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7244048, + "step": 3699 + }, + { + "epoch": 0.49039098740888004, + "grad_norm": 8.427557945251465, + "learning_rate": 4.678956971284347e-06, + "loss": 0.1014, + "num_input_tokens_seen": 7247080, + "step": 3700 + }, + { + "epoch": 0.49052352551358513, + "grad_norm": 2.152414083480835, + "learning_rate": 4.678786766786327e-06, + "loss": 0.028, + "num_input_tokens_seen": 7248792, + "step": 3701 + }, + { + "epoch": 0.4906560636182903, + "grad_norm": 10.751141548156738, + "learning_rate": 4.678616520279794e-06, + "loss": 0.0706, + "num_input_tokens_seen": 7250360, + "step": 3702 + }, + { + "epoch": 0.4907886017229954, + "grad_norm": 5.024112701416016, + "learning_rate": 4.6784462317680315e-06, + "loss": 0.0787, + "num_input_tokens_seen": 7253496, + "step": 3703 + }, + { + "epoch": 0.49092113982770047, + "grad_norm": 2.8715667724609375, + "learning_rate": 4.678275901254324e-06, + "loss": 0.0717, + "num_input_tokens_seen": 7254664, + "step": 3704 + }, + { + "epoch": 0.49105367793240556, + "grad_norm": 8.858973503112793, + "learning_rate": 4.6781055287419525e-06, + "loss": 0.1985, + "num_input_tokens_seen": 7255896, + "step": 3705 + }, + { + "epoch": 0.49118621603711066, + "grad_norm": 6.407101631164551, + "learning_rate": 4.6779351142342044e-06, + "loss": 0.2617, + "num_input_tokens_seen": 7257672, + "step": 3706 + }, + { + "epoch": 0.49131875414181575, + "grad_norm": 0.18223018944263458, + "learning_rate": 4.677764657734366e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7259376, + "step": 3707 + }, + { + "epoch": 0.4914512922465209, + "grad_norm": 0.09545232355594635, + "learning_rate": 4.677594159245722e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7262984, + "step": 3708 + }, + { + "epoch": 0.491583830351226, + "grad_norm": 7.851983070373535, + "learning_rate": 4.67742361877156e-06, + "loss": 0.0725, + "num_input_tokens_seen": 7264488, + "step": 3709 + }, + { + "epoch": 0.4917163684559311, + "grad_norm": 0.1380966156721115, + "learning_rate": 4.677253036315169e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7265952, + "step": 3710 + }, + { + "epoch": 0.4918489065606362, + "grad_norm": 4.944606304168701, + "learning_rate": 4.677082411879837e-06, + "loss": 0.1532, + "num_input_tokens_seen": 7268056, + "step": 3711 + }, + { + "epoch": 0.49198144466534127, + "grad_norm": 9.678457260131836, + "learning_rate": 4.6769117454688545e-06, + "loss": 0.4166, + "num_input_tokens_seen": 7270344, + "step": 3712 + }, + { + "epoch": 0.49211398277004637, + "grad_norm": 11.303293228149414, + "learning_rate": 4.6767410370855115e-06, + "loss": 0.344, + "num_input_tokens_seen": 7271936, + "step": 3713 + }, + { + "epoch": 0.4922465208747515, + "grad_norm": 1.7822917699813843, + "learning_rate": 4.6765702867331e-06, + "loss": 0.0101, + "num_input_tokens_seen": 7274352, + "step": 3714 + }, + { + "epoch": 0.4923790589794566, + "grad_norm": 0.12557177245616913, + "learning_rate": 4.676399494414911e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7275560, + "step": 3715 + }, + { + "epoch": 0.4925115970841617, + "grad_norm": 1.5916081666946411, + "learning_rate": 4.67622866013424e-06, + "loss": 0.0084, + "num_input_tokens_seen": 7277688, + "step": 3716 + }, + { + "epoch": 0.4926441351888668, + "grad_norm": 12.983985900878906, + "learning_rate": 4.676057783894378e-06, + "loss": 0.4425, + "num_input_tokens_seen": 7279928, + "step": 3717 + }, + { + "epoch": 0.4927766732935719, + "grad_norm": 13.755720138549805, + "learning_rate": 4.6758868656986214e-06, + "loss": 0.1449, + "num_input_tokens_seen": 7281128, + "step": 3718 + }, + { + "epoch": 0.492909211398277, + "grad_norm": 14.462699890136719, + "learning_rate": 4.6757159055502635e-06, + "loss": 0.2867, + "num_input_tokens_seen": 7282992, + "step": 3719 + }, + { + "epoch": 0.49304174950298213, + "grad_norm": 0.09824782609939575, + "learning_rate": 4.675544903452603e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7284320, + "step": 3720 + }, + { + "epoch": 0.4931742876076872, + "grad_norm": 0.17122478783130646, + "learning_rate": 4.675373859408936e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7286048, + "step": 3721 + }, + { + "epoch": 0.4933068257123923, + "grad_norm": 0.25496169924736023, + "learning_rate": 4.6752027734225605e-06, + "loss": 0.0015, + "num_input_tokens_seen": 7287432, + "step": 3722 + }, + { + "epoch": 0.4934393638170974, + "grad_norm": 0.10535811632871628, + "learning_rate": 4.675031645496775e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7288840, + "step": 3723 + }, + { + "epoch": 0.4935719019218025, + "grad_norm": 0.15338915586471558, + "learning_rate": 4.674860475634878e-06, + "loss": 0.001, + "num_input_tokens_seen": 7290376, + "step": 3724 + }, + { + "epoch": 0.4937044400265076, + "grad_norm": 0.8637729287147522, + "learning_rate": 4.674689263840171e-06, + "loss": 0.0047, + "num_input_tokens_seen": 7291904, + "step": 3725 + }, + { + "epoch": 0.49383697813121274, + "grad_norm": 8.982322692871094, + "learning_rate": 4.674518010115955e-06, + "loss": 0.2171, + "num_input_tokens_seen": 7293712, + "step": 3726 + }, + { + "epoch": 0.49396951623591784, + "grad_norm": 7.300834655761719, + "learning_rate": 4.674346714465532e-06, + "loss": 0.2726, + "num_input_tokens_seen": 7295584, + "step": 3727 + }, + { + "epoch": 0.49410205434062293, + "grad_norm": 4.2447509765625, + "learning_rate": 4.674175376892204e-06, + "loss": 0.159, + "num_input_tokens_seen": 7297392, + "step": 3728 + }, + { + "epoch": 0.494234592445328, + "grad_norm": 7.436861991882324, + "learning_rate": 4.674003997399275e-06, + "loss": 0.0729, + "num_input_tokens_seen": 7299048, + "step": 3729 + }, + { + "epoch": 0.4943671305500331, + "grad_norm": 0.9530767798423767, + "learning_rate": 4.673832575990048e-06, + "loss": 0.0105, + "num_input_tokens_seen": 7300360, + "step": 3730 + }, + { + "epoch": 0.4944996686547382, + "grad_norm": 0.05369829013943672, + "learning_rate": 4.673661112667831e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7302296, + "step": 3731 + }, + { + "epoch": 0.49463220675944336, + "grad_norm": 7.32320499420166, + "learning_rate": 4.673489607435927e-06, + "loss": 0.2798, + "num_input_tokens_seen": 7304504, + "step": 3732 + }, + { + "epoch": 0.49476474486414845, + "grad_norm": 15.532498359680176, + "learning_rate": 4.6733180602976445e-06, + "loss": 0.6279, + "num_input_tokens_seen": 7307064, + "step": 3733 + }, + { + "epoch": 0.49489728296885355, + "grad_norm": 0.08652970939874649, + "learning_rate": 4.67314647125629e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7309048, + "step": 3734 + }, + { + "epoch": 0.49502982107355864, + "grad_norm": 7.71146297454834, + "learning_rate": 4.6729748403151735e-06, + "loss": 0.2324, + "num_input_tokens_seen": 7311168, + "step": 3735 + }, + { + "epoch": 0.49516235917826373, + "grad_norm": 0.08946602046489716, + "learning_rate": 4.672803167477602e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7313592, + "step": 3736 + }, + { + "epoch": 0.4952948972829688, + "grad_norm": 12.425528526306152, + "learning_rate": 4.672631452746887e-06, + "loss": 0.3299, + "num_input_tokens_seen": 7315648, + "step": 3737 + }, + { + "epoch": 0.495427435387674, + "grad_norm": 4.399319648742676, + "learning_rate": 4.6724596961263376e-06, + "loss": 0.1433, + "num_input_tokens_seen": 7317776, + "step": 3738 + }, + { + "epoch": 0.49555997349237907, + "grad_norm": 15.491249084472656, + "learning_rate": 4.672287897619267e-06, + "loss": 0.4529, + "num_input_tokens_seen": 7320488, + "step": 3739 + }, + { + "epoch": 0.49569251159708416, + "grad_norm": 3.01819109916687, + "learning_rate": 4.672116057228988e-06, + "loss": 0.0315, + "num_input_tokens_seen": 7322640, + "step": 3740 + }, + { + "epoch": 0.49582504970178926, + "grad_norm": 19.011850357055664, + "learning_rate": 4.671944174958812e-06, + "loss": 1.0043, + "num_input_tokens_seen": 7325680, + "step": 3741 + }, + { + "epoch": 0.49595758780649435, + "grad_norm": 8.788366317749023, + "learning_rate": 4.671772250812055e-06, + "loss": 0.2475, + "num_input_tokens_seen": 7327896, + "step": 3742 + }, + { + "epoch": 0.49609012591119944, + "grad_norm": 10.707992553710938, + "learning_rate": 4.671600284792031e-06, + "loss": 0.3097, + "num_input_tokens_seen": 7330056, + "step": 3743 + }, + { + "epoch": 0.4962226640159046, + "grad_norm": 23.457717895507812, + "learning_rate": 4.671428276902054e-06, + "loss": 0.6047, + "num_input_tokens_seen": 7332120, + "step": 3744 + }, + { + "epoch": 0.4963552021206097, + "grad_norm": 15.116650581359863, + "learning_rate": 4.671256227145443e-06, + "loss": 0.4513, + "num_input_tokens_seen": 7333624, + "step": 3745 + }, + { + "epoch": 0.4964877402253148, + "grad_norm": 7.731261253356934, + "learning_rate": 4.671084135525513e-06, + "loss": 0.2663, + "num_input_tokens_seen": 7335616, + "step": 3746 + }, + { + "epoch": 0.49662027833001987, + "grad_norm": 9.077445030212402, + "learning_rate": 4.6709120020455845e-06, + "loss": 0.1923, + "num_input_tokens_seen": 7337552, + "step": 3747 + }, + { + "epoch": 0.49675281643472496, + "grad_norm": 4.799147129058838, + "learning_rate": 4.670739826708974e-06, + "loss": 0.0242, + "num_input_tokens_seen": 7339088, + "step": 3748 + }, + { + "epoch": 0.4968853545394301, + "grad_norm": 6.35343074798584, + "learning_rate": 4.670567609519002e-06, + "loss": 0.0519, + "num_input_tokens_seen": 7340704, + "step": 3749 + }, + { + "epoch": 0.4970178926441352, + "grad_norm": 18.491138458251953, + "learning_rate": 4.670395350478989e-06, + "loss": 0.6177, + "num_input_tokens_seen": 7342768, + "step": 3750 + }, + { + "epoch": 0.4971504307488403, + "grad_norm": 7.562197685241699, + "learning_rate": 4.670223049592257e-06, + "loss": 0.3762, + "num_input_tokens_seen": 7344696, + "step": 3751 + }, + { + "epoch": 0.4972829688535454, + "grad_norm": 0.670927107334137, + "learning_rate": 4.670050706862127e-06, + "loss": 0.0042, + "num_input_tokens_seen": 7347024, + "step": 3752 + }, + { + "epoch": 0.4974155069582505, + "grad_norm": 10.624455451965332, + "learning_rate": 4.669878322291923e-06, + "loss": 0.2179, + "num_input_tokens_seen": 7349416, + "step": 3753 + }, + { + "epoch": 0.4975480450629556, + "grad_norm": 14.380655288696289, + "learning_rate": 4.669705895884968e-06, + "loss": 0.3537, + "num_input_tokens_seen": 7351880, + "step": 3754 + }, + { + "epoch": 0.49768058316766073, + "grad_norm": 7.3378682136535645, + "learning_rate": 4.6695334276445855e-06, + "loss": 0.1797, + "num_input_tokens_seen": 7353928, + "step": 3755 + }, + { + "epoch": 0.4978131212723658, + "grad_norm": 9.116175651550293, + "learning_rate": 4.669360917574103e-06, + "loss": 0.2611, + "num_input_tokens_seen": 7355776, + "step": 3756 + }, + { + "epoch": 0.4979456593770709, + "grad_norm": 10.5614652633667, + "learning_rate": 4.669188365676845e-06, + "loss": 0.1879, + "num_input_tokens_seen": 7357616, + "step": 3757 + }, + { + "epoch": 0.498078197481776, + "grad_norm": 6.729059219360352, + "learning_rate": 4.669015771956138e-06, + "loss": 0.1513, + "num_input_tokens_seen": 7359032, + "step": 3758 + }, + { + "epoch": 0.4982107355864811, + "grad_norm": 12.209918022155762, + "learning_rate": 4.668843136415311e-06, + "loss": 0.3582, + "num_input_tokens_seen": 7360840, + "step": 3759 + }, + { + "epoch": 0.4983432736911862, + "grad_norm": 9.738348007202148, + "learning_rate": 4.668670459057693e-06, + "loss": 0.2889, + "num_input_tokens_seen": 7362184, + "step": 3760 + }, + { + "epoch": 0.49847581179589134, + "grad_norm": 13.182435989379883, + "learning_rate": 4.668497739886611e-06, + "loss": 0.3929, + "num_input_tokens_seen": 7363624, + "step": 3761 + }, + { + "epoch": 0.49860834990059644, + "grad_norm": 11.195540428161621, + "learning_rate": 4.668324978905398e-06, + "loss": 0.2136, + "num_input_tokens_seen": 7366344, + "step": 3762 + }, + { + "epoch": 0.49874088800530153, + "grad_norm": 7.256974220275879, + "learning_rate": 4.668152176117383e-06, + "loss": 0.1638, + "num_input_tokens_seen": 7367728, + "step": 3763 + }, + { + "epoch": 0.4988734261100066, + "grad_norm": 14.844018936157227, + "learning_rate": 4.667979331525899e-06, + "loss": 0.476, + "num_input_tokens_seen": 7369720, + "step": 3764 + }, + { + "epoch": 0.4990059642147117, + "grad_norm": 11.778115272521973, + "learning_rate": 4.667806445134277e-06, + "loss": 0.2855, + "num_input_tokens_seen": 7371064, + "step": 3765 + }, + { + "epoch": 0.4991385023194168, + "grad_norm": 0.8699835538864136, + "learning_rate": 4.667633516945851e-06, + "loss": 0.0058, + "num_input_tokens_seen": 7372592, + "step": 3766 + }, + { + "epoch": 0.49927104042412196, + "grad_norm": 11.455622673034668, + "learning_rate": 4.667460546963956e-06, + "loss": 0.2738, + "num_input_tokens_seen": 7374368, + "step": 3767 + }, + { + "epoch": 0.49940357852882705, + "grad_norm": 6.262709140777588, + "learning_rate": 4.667287535191927e-06, + "loss": 0.1314, + "num_input_tokens_seen": 7377296, + "step": 3768 + }, + { + "epoch": 0.49953611663353215, + "grad_norm": 21.019472122192383, + "learning_rate": 4.667114481633098e-06, + "loss": 0.4648, + "num_input_tokens_seen": 7380024, + "step": 3769 + }, + { + "epoch": 0.49966865473823724, + "grad_norm": 7.639338970184326, + "learning_rate": 4.666941386290808e-06, + "loss": 0.0945, + "num_input_tokens_seen": 7381584, + "step": 3770 + }, + { + "epoch": 0.49980119284294233, + "grad_norm": 8.748551368713379, + "learning_rate": 4.666768249168391e-06, + "loss": 0.2389, + "num_input_tokens_seen": 7384024, + "step": 3771 + }, + { + "epoch": 0.4999337309476474, + "grad_norm": 0.5426409840583801, + "learning_rate": 4.666595070269189e-06, + "loss": 0.0035, + "num_input_tokens_seen": 7385288, + "step": 3772 + }, + { + "epoch": 0.5000662690523525, + "grad_norm": 21.49462890625, + "learning_rate": 4.66642184959654e-06, + "loss": 0.2756, + "num_input_tokens_seen": 7387680, + "step": 3773 + }, + { + "epoch": 0.5001988071570577, + "grad_norm": 8.051777839660645, + "learning_rate": 4.666248587153782e-06, + "loss": 0.0853, + "num_input_tokens_seen": 7389424, + "step": 3774 + }, + { + "epoch": 0.5003313452617627, + "grad_norm": 9.731081008911133, + "learning_rate": 4.666075282944257e-06, + "loss": 0.0663, + "num_input_tokens_seen": 7391152, + "step": 3775 + }, + { + "epoch": 0.5004638833664679, + "grad_norm": 11.829185485839844, + "learning_rate": 4.665901936971306e-06, + "loss": 0.4676, + "num_input_tokens_seen": 7393520, + "step": 3776 + }, + { + "epoch": 0.500596421471173, + "grad_norm": 10.346894264221191, + "learning_rate": 4.665728549238272e-06, + "loss": 0.1606, + "num_input_tokens_seen": 7397072, + "step": 3777 + }, + { + "epoch": 0.500728959575878, + "grad_norm": 0.5274060368537903, + "learning_rate": 4.665555119748499e-06, + "loss": 0.0034, + "num_input_tokens_seen": 7399472, + "step": 3778 + }, + { + "epoch": 0.5008614976805832, + "grad_norm": 2.381251573562622, + "learning_rate": 4.665381648505327e-06, + "loss": 0.0131, + "num_input_tokens_seen": 7401672, + "step": 3779 + }, + { + "epoch": 0.5009940357852882, + "grad_norm": 10.102008819580078, + "learning_rate": 4.665208135512104e-06, + "loss": 0.3348, + "num_input_tokens_seen": 7403624, + "step": 3780 + }, + { + "epoch": 0.5011265738899934, + "grad_norm": 1.107379674911499, + "learning_rate": 4.665034580772175e-06, + "loss": 0.0067, + "num_input_tokens_seen": 7406488, + "step": 3781 + }, + { + "epoch": 0.5012591119946985, + "grad_norm": 1.9707496166229248, + "learning_rate": 4.664860984288884e-06, + "loss": 0.0118, + "num_input_tokens_seen": 7408384, + "step": 3782 + }, + { + "epoch": 0.5013916500994036, + "grad_norm": 5.604523181915283, + "learning_rate": 4.664687346065581e-06, + "loss": 0.1872, + "num_input_tokens_seen": 7410400, + "step": 3783 + }, + { + "epoch": 0.5015241882041087, + "grad_norm": 17.170034408569336, + "learning_rate": 4.664513666105612e-06, + "loss": 0.5413, + "num_input_tokens_seen": 7413112, + "step": 3784 + }, + { + "epoch": 0.5016567263088137, + "grad_norm": 3.253962755203247, + "learning_rate": 4.664339944412327e-06, + "loss": 0.0122, + "num_input_tokens_seen": 7414536, + "step": 3785 + }, + { + "epoch": 0.5017892644135189, + "grad_norm": 13.5678071975708, + "learning_rate": 4.6641661809890735e-06, + "loss": 0.8068, + "num_input_tokens_seen": 7416888, + "step": 3786 + }, + { + "epoch": 0.5019218025182239, + "grad_norm": 11.761780738830566, + "learning_rate": 4.663992375839204e-06, + "loss": 0.3547, + "num_input_tokens_seen": 7418192, + "step": 3787 + }, + { + "epoch": 0.5020543406229291, + "grad_norm": 4.3910298347473145, + "learning_rate": 4.663818528966069e-06, + "loss": 0.1387, + "num_input_tokens_seen": 7419208, + "step": 3788 + }, + { + "epoch": 0.5021868787276342, + "grad_norm": 0.035544801503419876, + "learning_rate": 4.66364464037302e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7421048, + "step": 3789 + }, + { + "epoch": 0.5023194168323393, + "grad_norm": 6.48258638381958, + "learning_rate": 4.663470710063409e-06, + "loss": 0.1329, + "num_input_tokens_seen": 7422528, + "step": 3790 + }, + { + "epoch": 0.5024519549370444, + "grad_norm": 16.436424255371094, + "learning_rate": 4.66329673804059e-06, + "loss": 0.6685, + "num_input_tokens_seen": 7424744, + "step": 3791 + }, + { + "epoch": 0.5025844930417495, + "grad_norm": 0.03394150361418724, + "learning_rate": 4.663122724307919e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7426112, + "step": 3792 + }, + { + "epoch": 0.5027170311464546, + "grad_norm": 8.756386756896973, + "learning_rate": 4.662948668868748e-06, + "loss": 0.2209, + "num_input_tokens_seen": 7429416, + "step": 3793 + }, + { + "epoch": 0.5028495692511598, + "grad_norm": 9.006821632385254, + "learning_rate": 4.662774571726435e-06, + "loss": 0.1185, + "num_input_tokens_seen": 7431536, + "step": 3794 + }, + { + "epoch": 0.5029821073558648, + "grad_norm": 23.868593215942383, + "learning_rate": 4.662600432884336e-06, + "loss": 0.8272, + "num_input_tokens_seen": 7433408, + "step": 3795 + }, + { + "epoch": 0.5031146454605699, + "grad_norm": 6.650596618652344, + "learning_rate": 4.66242625234581e-06, + "loss": 0.4601, + "num_input_tokens_seen": 7435184, + "step": 3796 + }, + { + "epoch": 0.503247183565275, + "grad_norm": 0.04085260629653931, + "learning_rate": 4.662252030114212e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7436440, + "step": 3797 + }, + { + "epoch": 0.5033797216699801, + "grad_norm": 0.039970021694898605, + "learning_rate": 4.662077766192906e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7438960, + "step": 3798 + }, + { + "epoch": 0.5035122597746852, + "grad_norm": 0.028971130028367043, + "learning_rate": 4.661903460585248e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7440552, + "step": 3799 + }, + { + "epoch": 0.5036447978793903, + "grad_norm": 4.454335689544678, + "learning_rate": 4.661729113294599e-06, + "loss": 0.2197, + "num_input_tokens_seen": 7442240, + "step": 3800 + }, + { + "epoch": 0.5037773359840955, + "grad_norm": 4.77355432510376, + "learning_rate": 4.661554724324321e-06, + "loss": 0.1512, + "num_input_tokens_seen": 7445344, + "step": 3801 + }, + { + "epoch": 0.5039098740888005, + "grad_norm": 0.6460253000259399, + "learning_rate": 4.661380293677778e-06, + "loss": 0.006, + "num_input_tokens_seen": 7447232, + "step": 3802 + }, + { + "epoch": 0.5040424121935057, + "grad_norm": 7.980596542358398, + "learning_rate": 4.661205821358331e-06, + "loss": 0.1835, + "num_input_tokens_seen": 7449616, + "step": 3803 + }, + { + "epoch": 0.5041749502982107, + "grad_norm": 8.587661743164062, + "learning_rate": 4.6610313073693454e-06, + "loss": 0.4085, + "num_input_tokens_seen": 7451872, + "step": 3804 + }, + { + "epoch": 0.5043074884029158, + "grad_norm": 0.027200492098927498, + "learning_rate": 4.660856751714185e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7454192, + "step": 3805 + }, + { + "epoch": 0.504440026507621, + "grad_norm": 3.177253007888794, + "learning_rate": 4.660682154396217e-06, + "loss": 0.0595, + "num_input_tokens_seen": 7455952, + "step": 3806 + }, + { + "epoch": 0.504572564612326, + "grad_norm": 0.030226562172174454, + "learning_rate": 4.660507515418805e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7457376, + "step": 3807 + }, + { + "epoch": 0.5047051027170312, + "grad_norm": 18.29974365234375, + "learning_rate": 4.6603328347853185e-06, + "loss": 0.6711, + "num_input_tokens_seen": 7459120, + "step": 3808 + }, + { + "epoch": 0.5048376408217362, + "grad_norm": 10.222456932067871, + "learning_rate": 4.660158112499124e-06, + "loss": 0.394, + "num_input_tokens_seen": 7460688, + "step": 3809 + }, + { + "epoch": 0.5049701789264414, + "grad_norm": 0.04791877418756485, + "learning_rate": 4.659983348563591e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7462720, + "step": 3810 + }, + { + "epoch": 0.5051027170311465, + "grad_norm": 15.199453353881836, + "learning_rate": 4.659808542982089e-06, + "loss": 0.4378, + "num_input_tokens_seen": 7464128, + "step": 3811 + }, + { + "epoch": 0.5052352551358515, + "grad_norm": 19.845563888549805, + "learning_rate": 4.659633695757988e-06, + "loss": 0.2716, + "num_input_tokens_seen": 7466616, + "step": 3812 + }, + { + "epoch": 0.5053677932405567, + "grad_norm": 8.899648666381836, + "learning_rate": 4.65945880689466e-06, + "loss": 0.2255, + "num_input_tokens_seen": 7467920, + "step": 3813 + }, + { + "epoch": 0.5055003313452617, + "grad_norm": 10.421370506286621, + "learning_rate": 4.659283876395476e-06, + "loss": 0.2526, + "num_input_tokens_seen": 7469944, + "step": 3814 + }, + { + "epoch": 0.5056328694499669, + "grad_norm": 14.412315368652344, + "learning_rate": 4.659108904263809e-06, + "loss": 0.3013, + "num_input_tokens_seen": 7473008, + "step": 3815 + }, + { + "epoch": 0.5057654075546719, + "grad_norm": 0.41000670194625854, + "learning_rate": 4.658933890503034e-06, + "loss": 0.0026, + "num_input_tokens_seen": 7474592, + "step": 3816 + }, + { + "epoch": 0.5058979456593771, + "grad_norm": 0.8977817893028259, + "learning_rate": 4.658758835116524e-06, + "loss": 0.0074, + "num_input_tokens_seen": 7476104, + "step": 3817 + }, + { + "epoch": 0.5060304837640822, + "grad_norm": 12.335478782653809, + "learning_rate": 4.6585837381076535e-06, + "loss": 0.3348, + "num_input_tokens_seen": 7478328, + "step": 3818 + }, + { + "epoch": 0.5061630218687873, + "grad_norm": 0.15439845621585846, + "learning_rate": 4.6584085994798e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7479448, + "step": 3819 + }, + { + "epoch": 0.5062955599734924, + "grad_norm": 5.305031776428223, + "learning_rate": 4.65823341923634e-06, + "loss": 0.1122, + "num_input_tokens_seen": 7480520, + "step": 3820 + }, + { + "epoch": 0.5064280980781974, + "grad_norm": 7.51107931137085, + "learning_rate": 4.65805819738065e-06, + "loss": 0.1945, + "num_input_tokens_seen": 7482144, + "step": 3821 + }, + { + "epoch": 0.5065606361829026, + "grad_norm": 16.621143341064453, + "learning_rate": 4.657882933916109e-06, + "loss": 0.4277, + "num_input_tokens_seen": 7484248, + "step": 3822 + }, + { + "epoch": 0.5066931742876077, + "grad_norm": 7.599722385406494, + "learning_rate": 4.6577076288460974e-06, + "loss": 0.1359, + "num_input_tokens_seen": 7485384, + "step": 3823 + }, + { + "epoch": 0.5068257123923128, + "grad_norm": 22.24402618408203, + "learning_rate": 4.657532282173994e-06, + "loss": 0.5525, + "num_input_tokens_seen": 7487480, + "step": 3824 + }, + { + "epoch": 0.5069582504970179, + "grad_norm": 0.5006080865859985, + "learning_rate": 4.657356893903179e-06, + "loss": 0.0034, + "num_input_tokens_seen": 7489432, + "step": 3825 + }, + { + "epoch": 0.507090788601723, + "grad_norm": 9.591044425964355, + "learning_rate": 4.657181464037036e-06, + "loss": 0.3522, + "num_input_tokens_seen": 7491032, + "step": 3826 + }, + { + "epoch": 0.5072233267064281, + "grad_norm": 16.038673400878906, + "learning_rate": 4.6570059925789455e-06, + "loss": 0.2749, + "num_input_tokens_seen": 7493008, + "step": 3827 + }, + { + "epoch": 0.5073558648111332, + "grad_norm": 15.959938049316406, + "learning_rate": 4.656830479532292e-06, + "loss": 0.6408, + "num_input_tokens_seen": 7494936, + "step": 3828 + }, + { + "epoch": 0.5074884029158383, + "grad_norm": 9.982244491577148, + "learning_rate": 4.656654924900458e-06, + "loss": 0.3631, + "num_input_tokens_seen": 7497328, + "step": 3829 + }, + { + "epoch": 0.5076209410205434, + "grad_norm": 0.7568904757499695, + "learning_rate": 4.656479328686829e-06, + "loss": 0.0053, + "num_input_tokens_seen": 7499552, + "step": 3830 + }, + { + "epoch": 0.5077534791252485, + "grad_norm": 13.756217956542969, + "learning_rate": 4.6563036908947915e-06, + "loss": 0.4165, + "num_input_tokens_seen": 7501232, + "step": 3831 + }, + { + "epoch": 0.5078860172299536, + "grad_norm": 14.193361282348633, + "learning_rate": 4.6561280115277314e-06, + "loss": 0.3105, + "num_input_tokens_seen": 7503072, + "step": 3832 + }, + { + "epoch": 0.5080185553346587, + "grad_norm": 8.322296142578125, + "learning_rate": 4.6559522905890355e-06, + "loss": 0.3782, + "num_input_tokens_seen": 7504336, + "step": 3833 + }, + { + "epoch": 0.5081510934393638, + "grad_norm": 3.3163723945617676, + "learning_rate": 4.655776528082093e-06, + "loss": 0.0182, + "num_input_tokens_seen": 7506056, + "step": 3834 + }, + { + "epoch": 0.508283631544069, + "grad_norm": 8.745096206665039, + "learning_rate": 4.655600724010291e-06, + "loss": 0.2784, + "num_input_tokens_seen": 7508264, + "step": 3835 + }, + { + "epoch": 0.508416169648774, + "grad_norm": 5.671663284301758, + "learning_rate": 4.6554248783770205e-06, + "loss": 0.2096, + "num_input_tokens_seen": 7509816, + "step": 3836 + }, + { + "epoch": 0.5085487077534792, + "grad_norm": 17.65005874633789, + "learning_rate": 4.65524899118567e-06, + "loss": 0.3535, + "num_input_tokens_seen": 7511928, + "step": 3837 + }, + { + "epoch": 0.5086812458581842, + "grad_norm": 5.636123180389404, + "learning_rate": 4.655073062439633e-06, + "loss": 0.1573, + "num_input_tokens_seen": 7513576, + "step": 3838 + }, + { + "epoch": 0.5088137839628893, + "grad_norm": 5.241680145263672, + "learning_rate": 4.654897092142302e-06, + "loss": 0.0653, + "num_input_tokens_seen": 7515280, + "step": 3839 + }, + { + "epoch": 0.5089463220675944, + "grad_norm": 0.5257935523986816, + "learning_rate": 4.654721080297066e-06, + "loss": 0.0037, + "num_input_tokens_seen": 7517032, + "step": 3840 + }, + { + "epoch": 0.5090788601722995, + "grad_norm": 5.624911785125732, + "learning_rate": 4.654545026907324e-06, + "loss": 0.1783, + "num_input_tokens_seen": 7518256, + "step": 3841 + }, + { + "epoch": 0.5092113982770047, + "grad_norm": 0.8047042489051819, + "learning_rate": 4.6543689319764654e-06, + "loss": 0.0056, + "num_input_tokens_seen": 7519848, + "step": 3842 + }, + { + "epoch": 0.5093439363817097, + "grad_norm": 9.142449378967285, + "learning_rate": 4.654192795507888e-06, + "loss": 0.253, + "num_input_tokens_seen": 7521488, + "step": 3843 + }, + { + "epoch": 0.5094764744864149, + "grad_norm": 7.155490398406982, + "learning_rate": 4.654016617504987e-06, + "loss": 0.1163, + "num_input_tokens_seen": 7523168, + "step": 3844 + }, + { + "epoch": 0.5096090125911199, + "grad_norm": 12.159253120422363, + "learning_rate": 4.65384039797116e-06, + "loss": 0.286, + "num_input_tokens_seen": 7524728, + "step": 3845 + }, + { + "epoch": 0.509741550695825, + "grad_norm": 6.172644138336182, + "learning_rate": 4.653664136909804e-06, + "loss": 0.1558, + "num_input_tokens_seen": 7525976, + "step": 3846 + }, + { + "epoch": 0.5098740888005302, + "grad_norm": 0.17605362832546234, + "learning_rate": 4.653487834324319e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7527096, + "step": 3847 + }, + { + "epoch": 0.5100066269052352, + "grad_norm": 6.352392196655273, + "learning_rate": 4.653311490218102e-06, + "loss": 0.0706, + "num_input_tokens_seen": 7529400, + "step": 3848 + }, + { + "epoch": 0.5101391650099404, + "grad_norm": 9.853144645690918, + "learning_rate": 4.653135104594554e-06, + "loss": 0.1792, + "num_input_tokens_seen": 7530904, + "step": 3849 + }, + { + "epoch": 0.5102717031146454, + "grad_norm": 6.2242279052734375, + "learning_rate": 4.652958677457076e-06, + "loss": 0.214, + "num_input_tokens_seen": 7532960, + "step": 3850 + }, + { + "epoch": 0.5104042412193506, + "grad_norm": 0.18780875205993652, + "learning_rate": 4.652782208809069e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7534448, + "step": 3851 + }, + { + "epoch": 0.5105367793240556, + "grad_norm": 0.15818049013614655, + "learning_rate": 4.652605698653936e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7536040, + "step": 3852 + }, + { + "epoch": 0.5106693174287608, + "grad_norm": 8.0579252243042, + "learning_rate": 4.65242914699508e-06, + "loss": 0.0802, + "num_input_tokens_seen": 7537776, + "step": 3853 + }, + { + "epoch": 0.5108018555334659, + "grad_norm": 13.291154861450195, + "learning_rate": 4.652252553835905e-06, + "loss": 0.1999, + "num_input_tokens_seen": 7539152, + "step": 3854 + }, + { + "epoch": 0.510934393638171, + "grad_norm": 4.071899890899658, + "learning_rate": 4.652075919179817e-06, + "loss": 0.0427, + "num_input_tokens_seen": 7541344, + "step": 3855 + }, + { + "epoch": 0.5110669317428761, + "grad_norm": 7.976846218109131, + "learning_rate": 4.65189924303022e-06, + "loss": 0.1686, + "num_input_tokens_seen": 7543176, + "step": 3856 + }, + { + "epoch": 0.5111994698475811, + "grad_norm": 0.07538077235221863, + "learning_rate": 4.651722525390522e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7544848, + "step": 3857 + }, + { + "epoch": 0.5113320079522863, + "grad_norm": 3.565011739730835, + "learning_rate": 4.651545766264127e-06, + "loss": 0.0414, + "num_input_tokens_seen": 7546448, + "step": 3858 + }, + { + "epoch": 0.5114645460569914, + "grad_norm": 5.377864837646484, + "learning_rate": 4.651368965654448e-06, + "loss": 0.232, + "num_input_tokens_seen": 7547888, + "step": 3859 + }, + { + "epoch": 0.5115970841616965, + "grad_norm": 9.728271484375, + "learning_rate": 4.65119212356489e-06, + "loss": 0.2512, + "num_input_tokens_seen": 7549600, + "step": 3860 + }, + { + "epoch": 0.5117296222664016, + "grad_norm": 0.27952712774276733, + "learning_rate": 4.6510152399988635e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7551848, + "step": 3861 + }, + { + "epoch": 0.5118621603711067, + "grad_norm": 0.12081749737262726, + "learning_rate": 4.650838314959779e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7553504, + "step": 3862 + }, + { + "epoch": 0.5119946984758118, + "grad_norm": 8.880135536193848, + "learning_rate": 4.650661348451049e-06, + "loss": 0.1328, + "num_input_tokens_seen": 7555176, + "step": 3863 + }, + { + "epoch": 0.512127236580517, + "grad_norm": 0.5720003247261047, + "learning_rate": 4.650484340476084e-06, + "loss": 0.0031, + "num_input_tokens_seen": 7557024, + "step": 3864 + }, + { + "epoch": 0.512259774685222, + "grad_norm": 0.1851201355457306, + "learning_rate": 4.650307291038297e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7558320, + "step": 3865 + }, + { + "epoch": 0.5123923127899271, + "grad_norm": 11.492060661315918, + "learning_rate": 4.650130200141103e-06, + "loss": 0.4219, + "num_input_tokens_seen": 7560928, + "step": 3866 + }, + { + "epoch": 0.5125248508946322, + "grad_norm": 5.517479419708252, + "learning_rate": 4.649953067787915e-06, + "loss": 0.1236, + "num_input_tokens_seen": 7563128, + "step": 3867 + }, + { + "epoch": 0.5126573889993373, + "grad_norm": 5.839290618896484, + "learning_rate": 4.649775893982149e-06, + "loss": 0.2432, + "num_input_tokens_seen": 7565072, + "step": 3868 + }, + { + "epoch": 0.5127899271040424, + "grad_norm": 11.97633171081543, + "learning_rate": 4.64959867872722e-06, + "loss": 0.2892, + "num_input_tokens_seen": 7568264, + "step": 3869 + }, + { + "epoch": 0.5129224652087475, + "grad_norm": 0.09630770236253738, + "learning_rate": 4.649421422026546e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7570816, + "step": 3870 + }, + { + "epoch": 0.5130550033134527, + "grad_norm": 1.6739745140075684, + "learning_rate": 4.649244123883544e-06, + "loss": 0.0218, + "num_input_tokens_seen": 7572264, + "step": 3871 + }, + { + "epoch": 0.5131875414181577, + "grad_norm": 11.977849006652832, + "learning_rate": 4.6490667843016325e-06, + "loss": 0.503, + "num_input_tokens_seen": 7573896, + "step": 3872 + }, + { + "epoch": 0.5133200795228628, + "grad_norm": 19.54895782470703, + "learning_rate": 4.6488894032842315e-06, + "loss": 0.5571, + "num_input_tokens_seen": 7576776, + "step": 3873 + }, + { + "epoch": 0.5134526176275679, + "grad_norm": 0.060662273317575455, + "learning_rate": 4.648711980834759e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7577864, + "step": 3874 + }, + { + "epoch": 0.513585155732273, + "grad_norm": 14.085258483886719, + "learning_rate": 4.648534516956639e-06, + "loss": 0.6941, + "num_input_tokens_seen": 7579432, + "step": 3875 + }, + { + "epoch": 0.5137176938369782, + "grad_norm": 6.37233829498291, + "learning_rate": 4.64835701165329e-06, + "loss": 0.0766, + "num_input_tokens_seen": 7581880, + "step": 3876 + }, + { + "epoch": 0.5138502319416832, + "grad_norm": 12.37532901763916, + "learning_rate": 4.648179464928136e-06, + "loss": 0.1853, + "num_input_tokens_seen": 7584632, + "step": 3877 + }, + { + "epoch": 0.5139827700463884, + "grad_norm": 1.3831883668899536, + "learning_rate": 4.6480018767846005e-06, + "loss": 0.0153, + "num_input_tokens_seen": 7586056, + "step": 3878 + }, + { + "epoch": 0.5141153081510934, + "grad_norm": 10.08962631225586, + "learning_rate": 4.647824247226106e-06, + "loss": 0.1379, + "num_input_tokens_seen": 7587640, + "step": 3879 + }, + { + "epoch": 0.5142478462557986, + "grad_norm": 13.777557373046875, + "learning_rate": 4.647646576256079e-06, + "loss": 0.5273, + "num_input_tokens_seen": 7590256, + "step": 3880 + }, + { + "epoch": 0.5143803843605036, + "grad_norm": 6.842599391937256, + "learning_rate": 4.647468863877944e-06, + "loss": 0.1601, + "num_input_tokens_seen": 7591864, + "step": 3881 + }, + { + "epoch": 0.5145129224652087, + "grad_norm": 0.06761663407087326, + "learning_rate": 4.647291110095128e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7594496, + "step": 3882 + }, + { + "epoch": 0.5146454605699139, + "grad_norm": 0.09105087071657181, + "learning_rate": 4.647113314911059e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7596360, + "step": 3883 + }, + { + "epoch": 0.5147779986746189, + "grad_norm": 0.05476690083742142, + "learning_rate": 4.6469354783291634e-06, + "loss": 0.0004, + "num_input_tokens_seen": 7597720, + "step": 3884 + }, + { + "epoch": 0.5149105367793241, + "grad_norm": 4.954082012176514, + "learning_rate": 4.64675760035287e-06, + "loss": 0.1412, + "num_input_tokens_seen": 7600312, + "step": 3885 + }, + { + "epoch": 0.5150430748840291, + "grad_norm": 0.20849671959877014, + "learning_rate": 4.64657968098561e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7602072, + "step": 3886 + }, + { + "epoch": 0.5151756129887343, + "grad_norm": 0.10920123010873795, + "learning_rate": 4.646401720230812e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7604032, + "step": 3887 + }, + { + "epoch": 0.5153081510934394, + "grad_norm": 7.964940071105957, + "learning_rate": 4.646223718091909e-06, + "loss": 0.2723, + "num_input_tokens_seen": 7606360, + "step": 3888 + }, + { + "epoch": 0.5154406891981445, + "grad_norm": 5.736359596252441, + "learning_rate": 4.646045674572331e-06, + "loss": 0.1512, + "num_input_tokens_seen": 7608232, + "step": 3889 + }, + { + "epoch": 0.5155732273028496, + "grad_norm": 9.374197006225586, + "learning_rate": 4.645867589675514e-06, + "loss": 0.2189, + "num_input_tokens_seen": 7609696, + "step": 3890 + }, + { + "epoch": 0.5157057654075546, + "grad_norm": 14.919758796691895, + "learning_rate": 4.6456894634048875e-06, + "loss": 0.3773, + "num_input_tokens_seen": 7611264, + "step": 3891 + }, + { + "epoch": 0.5158383035122598, + "grad_norm": 6.105409622192383, + "learning_rate": 4.645511295763888e-06, + "loss": 0.1598, + "num_input_tokens_seen": 7613704, + "step": 3892 + }, + { + "epoch": 0.5159708416169648, + "grad_norm": 6.688642978668213, + "learning_rate": 4.645333086755952e-06, + "loss": 0.0816, + "num_input_tokens_seen": 7615824, + "step": 3893 + }, + { + "epoch": 0.51610337972167, + "grad_norm": 11.338894844055176, + "learning_rate": 4.645154836384513e-06, + "loss": 0.3308, + "num_input_tokens_seen": 7617808, + "step": 3894 + }, + { + "epoch": 0.5162359178263751, + "grad_norm": 0.34471264481544495, + "learning_rate": 4.644976544653009e-06, + "loss": 0.0024, + "num_input_tokens_seen": 7620472, + "step": 3895 + }, + { + "epoch": 0.5163684559310802, + "grad_norm": 1.1194355487823486, + "learning_rate": 4.644798211564877e-06, + "loss": 0.0095, + "num_input_tokens_seen": 7621784, + "step": 3896 + }, + { + "epoch": 0.5165009940357853, + "grad_norm": 14.840388298034668, + "learning_rate": 4.644619837123557e-06, + "loss": 0.1561, + "num_input_tokens_seen": 7624232, + "step": 3897 + }, + { + "epoch": 0.5166335321404903, + "grad_norm": 0.6106372475624084, + "learning_rate": 4.644441421332486e-06, + "loss": 0.004, + "num_input_tokens_seen": 7625512, + "step": 3898 + }, + { + "epoch": 0.5167660702451955, + "grad_norm": 4.217182636260986, + "learning_rate": 4.644262964195106e-06, + "loss": 0.0534, + "num_input_tokens_seen": 7628064, + "step": 3899 + }, + { + "epoch": 0.5168986083499006, + "grad_norm": 7.864591121673584, + "learning_rate": 4.644084465714857e-06, + "loss": 0.2397, + "num_input_tokens_seen": 7630032, + "step": 3900 + }, + { + "epoch": 0.5170311464546057, + "grad_norm": 0.7796896696090698, + "learning_rate": 4.643905925895179e-06, + "loss": 0.005, + "num_input_tokens_seen": 7632440, + "step": 3901 + }, + { + "epoch": 0.5171636845593108, + "grad_norm": 2.427598476409912, + "learning_rate": 4.643727344739517e-06, + "loss": 0.0273, + "num_input_tokens_seen": 7633696, + "step": 3902 + }, + { + "epoch": 0.5172962226640159, + "grad_norm": 7.205782890319824, + "learning_rate": 4.643548722251312e-06, + "loss": 0.2571, + "num_input_tokens_seen": 7636576, + "step": 3903 + }, + { + "epoch": 0.517428760768721, + "grad_norm": 6.383040428161621, + "learning_rate": 4.643370058434009e-06, + "loss": 0.1253, + "num_input_tokens_seen": 7638976, + "step": 3904 + }, + { + "epoch": 0.5175612988734261, + "grad_norm": 2.788740634918213, + "learning_rate": 4.643191353291053e-06, + "loss": 0.0112, + "num_input_tokens_seen": 7640888, + "step": 3905 + }, + { + "epoch": 0.5176938369781312, + "grad_norm": 19.716602325439453, + "learning_rate": 4.64301260682589e-06, + "loss": 0.7377, + "num_input_tokens_seen": 7644080, + "step": 3906 + }, + { + "epoch": 0.5178263750828364, + "grad_norm": 0.3081749975681305, + "learning_rate": 4.642833819041964e-06, + "loss": 0.0021, + "num_input_tokens_seen": 7645712, + "step": 3907 + }, + { + "epoch": 0.5179589131875414, + "grad_norm": 7.278192520141602, + "learning_rate": 4.6426549899427245e-06, + "loss": 0.2684, + "num_input_tokens_seen": 7647776, + "step": 3908 + }, + { + "epoch": 0.5180914512922465, + "grad_norm": 12.155147552490234, + "learning_rate": 4.6424761195316185e-06, + "loss": 0.2869, + "num_input_tokens_seen": 7650616, + "step": 3909 + }, + { + "epoch": 0.5182239893969516, + "grad_norm": 7.674764633178711, + "learning_rate": 4.642297207812095e-06, + "loss": 0.0756, + "num_input_tokens_seen": 7652408, + "step": 3910 + }, + { + "epoch": 0.5183565275016567, + "grad_norm": 12.263961791992188, + "learning_rate": 4.642118254787603e-06, + "loss": 0.3006, + "num_input_tokens_seen": 7654280, + "step": 3911 + }, + { + "epoch": 0.5184890656063619, + "grad_norm": 6.193371772766113, + "learning_rate": 4.641939260461594e-06, + "loss": 0.2269, + "num_input_tokens_seen": 7656056, + "step": 3912 + }, + { + "epoch": 0.5186216037110669, + "grad_norm": 0.19670720398426056, + "learning_rate": 4.641760224837518e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7658352, + "step": 3913 + }, + { + "epoch": 0.5187541418157721, + "grad_norm": 10.243383407592773, + "learning_rate": 4.6415811479188275e-06, + "loss": 0.1787, + "num_input_tokens_seen": 7659936, + "step": 3914 + }, + { + "epoch": 0.5188866799204771, + "grad_norm": 0.09814871847629547, + "learning_rate": 4.641402029708975e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7661648, + "step": 3915 + }, + { + "epoch": 0.5190192180251822, + "grad_norm": 0.1302480399608612, + "learning_rate": 4.641222870211413e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7664008, + "step": 3916 + }, + { + "epoch": 0.5191517561298873, + "grad_norm": 0.07020407915115356, + "learning_rate": 4.641043669429599e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7665088, + "step": 3917 + }, + { + "epoch": 0.5192842942345924, + "grad_norm": 12.221670150756836, + "learning_rate": 4.640864427366984e-06, + "loss": 0.2453, + "num_input_tokens_seen": 7667208, + "step": 3918 + }, + { + "epoch": 0.5194168323392976, + "grad_norm": 9.392801284790039, + "learning_rate": 4.640685144027027e-06, + "loss": 0.3726, + "num_input_tokens_seen": 7669064, + "step": 3919 + }, + { + "epoch": 0.5195493704440026, + "grad_norm": 0.14656253159046173, + "learning_rate": 4.640505819413184e-06, + "loss": 0.001, + "num_input_tokens_seen": 7671688, + "step": 3920 + }, + { + "epoch": 0.5196819085487078, + "grad_norm": 0.10497324913740158, + "learning_rate": 4.6403264535289115e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7672952, + "step": 3921 + }, + { + "epoch": 0.5198144466534128, + "grad_norm": 11.629120826721191, + "learning_rate": 4.640147046377669e-06, + "loss": 0.3155, + "num_input_tokens_seen": 7675208, + "step": 3922 + }, + { + "epoch": 0.519946984758118, + "grad_norm": 0.35601159930229187, + "learning_rate": 4.639967597962914e-06, + "loss": 0.0021, + "num_input_tokens_seen": 7676880, + "step": 3923 + }, + { + "epoch": 0.5200795228628231, + "grad_norm": 12.927213668823242, + "learning_rate": 4.6397881082881095e-06, + "loss": 0.4533, + "num_input_tokens_seen": 7679456, + "step": 3924 + }, + { + "epoch": 0.5202120609675281, + "grad_norm": 15.095540046691895, + "learning_rate": 4.6396085773567115e-06, + "loss": 0.3754, + "num_input_tokens_seen": 7680712, + "step": 3925 + }, + { + "epoch": 0.5203445990722333, + "grad_norm": 10.376604080200195, + "learning_rate": 4.639429005172186e-06, + "loss": 0.2242, + "num_input_tokens_seen": 7682504, + "step": 3926 + }, + { + "epoch": 0.5204771371769383, + "grad_norm": 3.0157835483551025, + "learning_rate": 4.639249391737992e-06, + "loss": 0.0317, + "num_input_tokens_seen": 7685080, + "step": 3927 + }, + { + "epoch": 0.5206096752816435, + "grad_norm": 12.498023986816406, + "learning_rate": 4.639069737057595e-06, + "loss": 0.1583, + "num_input_tokens_seen": 7687184, + "step": 3928 + }, + { + "epoch": 0.5207422133863486, + "grad_norm": 12.41493034362793, + "learning_rate": 4.6388900411344575e-06, + "loss": 0.3695, + "num_input_tokens_seen": 7689944, + "step": 3929 + }, + { + "epoch": 0.5208747514910537, + "grad_norm": 0.14885379374027252, + "learning_rate": 4.638710303972044e-06, + "loss": 0.001, + "num_input_tokens_seen": 7691456, + "step": 3930 + }, + { + "epoch": 0.5210072895957588, + "grad_norm": 5.978907585144043, + "learning_rate": 4.638530525573821e-06, + "loss": 0.1282, + "num_input_tokens_seen": 7693696, + "step": 3931 + }, + { + "epoch": 0.5211398277004639, + "grad_norm": 12.325837135314941, + "learning_rate": 4.638350705943254e-06, + "loss": 0.2525, + "num_input_tokens_seen": 7695912, + "step": 3932 + }, + { + "epoch": 0.521272365805169, + "grad_norm": 4.714094161987305, + "learning_rate": 4.6381708450838104e-06, + "loss": 0.0282, + "num_input_tokens_seen": 7697336, + "step": 3933 + }, + { + "epoch": 0.521404903909874, + "grad_norm": 0.17871876060962677, + "learning_rate": 4.637990942998957e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7698472, + "step": 3934 + }, + { + "epoch": 0.5215374420145792, + "grad_norm": 17.90882682800293, + "learning_rate": 4.637810999692164e-06, + "loss": 0.6474, + "num_input_tokens_seen": 7700456, + "step": 3935 + }, + { + "epoch": 0.5216699801192843, + "grad_norm": 9.274698257446289, + "learning_rate": 4.6376310151669e-06, + "loss": 0.1898, + "num_input_tokens_seen": 7701808, + "step": 3936 + }, + { + "epoch": 0.5218025182239894, + "grad_norm": 0.7546862959861755, + "learning_rate": 4.637450989426635e-06, + "loss": 0.0044, + "num_input_tokens_seen": 7703616, + "step": 3937 + }, + { + "epoch": 0.5219350563286945, + "grad_norm": 0.16327273845672607, + "learning_rate": 4.637270922474841e-06, + "loss": 0.0011, + "num_input_tokens_seen": 7705496, + "step": 3938 + }, + { + "epoch": 0.5220675944333996, + "grad_norm": 10.371885299682617, + "learning_rate": 4.637090814314989e-06, + "loss": 0.2251, + "num_input_tokens_seen": 7707480, + "step": 3939 + }, + { + "epoch": 0.5222001325381047, + "grad_norm": 4.093565464019775, + "learning_rate": 4.6369106649505516e-06, + "loss": 0.027, + "num_input_tokens_seen": 7709056, + "step": 3940 + }, + { + "epoch": 0.5223326706428099, + "grad_norm": 15.884981155395508, + "learning_rate": 4.636730474385003e-06, + "loss": 0.4056, + "num_input_tokens_seen": 7711008, + "step": 3941 + }, + { + "epoch": 0.5224652087475149, + "grad_norm": 4.421368598937988, + "learning_rate": 4.636550242621816e-06, + "loss": 0.0491, + "num_input_tokens_seen": 7713144, + "step": 3942 + }, + { + "epoch": 0.52259774685222, + "grad_norm": 2.412248373031616, + "learning_rate": 4.636369969664467e-06, + "loss": 0.086, + "num_input_tokens_seen": 7714824, + "step": 3943 + }, + { + "epoch": 0.5227302849569251, + "grad_norm": 7.426116466522217, + "learning_rate": 4.636189655516431e-06, + "loss": 0.1391, + "num_input_tokens_seen": 7716696, + "step": 3944 + }, + { + "epoch": 0.5228628230616302, + "grad_norm": 8.407407760620117, + "learning_rate": 4.636009300181184e-06, + "loss": 0.0965, + "num_input_tokens_seen": 7719072, + "step": 3945 + }, + { + "epoch": 0.5229953611663353, + "grad_norm": 5.500792503356934, + "learning_rate": 4.635828903662205e-06, + "loss": 0.075, + "num_input_tokens_seen": 7722384, + "step": 3946 + }, + { + "epoch": 0.5231278992710404, + "grad_norm": 0.19300252199172974, + "learning_rate": 4.635648465962971e-06, + "loss": 0.0013, + "num_input_tokens_seen": 7725160, + "step": 3947 + }, + { + "epoch": 0.5232604373757456, + "grad_norm": 0.1379784792661667, + "learning_rate": 4.6354679870869614e-06, + "loss": 0.001, + "num_input_tokens_seen": 7726800, + "step": 3948 + }, + { + "epoch": 0.5233929754804506, + "grad_norm": 11.754271507263184, + "learning_rate": 4.6352874670376556e-06, + "loss": 0.18, + "num_input_tokens_seen": 7729720, + "step": 3949 + }, + { + "epoch": 0.5235255135851558, + "grad_norm": 0.4266282021999359, + "learning_rate": 4.635106905818535e-06, + "loss": 0.0029, + "num_input_tokens_seen": 7731304, + "step": 3950 + }, + { + "epoch": 0.5236580516898608, + "grad_norm": 6.5703959465026855, + "learning_rate": 4.634926303433079e-06, + "loss": 0.2175, + "num_input_tokens_seen": 7733208, + "step": 3951 + }, + { + "epoch": 0.5237905897945659, + "grad_norm": 18.028095245361328, + "learning_rate": 4.634745659884773e-06, + "loss": 0.4297, + "num_input_tokens_seen": 7734824, + "step": 3952 + }, + { + "epoch": 0.5239231278992711, + "grad_norm": 0.12948773801326752, + "learning_rate": 4.634564975177097e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7735928, + "step": 3953 + }, + { + "epoch": 0.5240556660039761, + "grad_norm": 0.12280768901109695, + "learning_rate": 4.634384249313535e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7737344, + "step": 3954 + }, + { + "epoch": 0.5241882041086813, + "grad_norm": 13.939336776733398, + "learning_rate": 4.634203482297574e-06, + "loss": 0.292, + "num_input_tokens_seen": 7738936, + "step": 3955 + }, + { + "epoch": 0.5243207422133863, + "grad_norm": 0.2067951261997223, + "learning_rate": 4.634022674132695e-06, + "loss": 0.0014, + "num_input_tokens_seen": 7741632, + "step": 3956 + }, + { + "epoch": 0.5244532803180915, + "grad_norm": 12.44519329071045, + "learning_rate": 4.633841824822389e-06, + "loss": 0.0828, + "num_input_tokens_seen": 7743816, + "step": 3957 + }, + { + "epoch": 0.5245858184227965, + "grad_norm": 0.13119351863861084, + "learning_rate": 4.63366093437014e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7745608, + "step": 3958 + }, + { + "epoch": 0.5247183565275017, + "grad_norm": 9.463254928588867, + "learning_rate": 4.633480002779436e-06, + "loss": 0.3272, + "num_input_tokens_seen": 7748152, + "step": 3959 + }, + { + "epoch": 0.5248508946322068, + "grad_norm": 6.2471466064453125, + "learning_rate": 4.633299030053765e-06, + "loss": 0.1687, + "num_input_tokens_seen": 7750712, + "step": 3960 + }, + { + "epoch": 0.5249834327369118, + "grad_norm": 0.4079556167125702, + "learning_rate": 4.633118016196617e-06, + "loss": 0.0027, + "num_input_tokens_seen": 7753208, + "step": 3961 + }, + { + "epoch": 0.525115970841617, + "grad_norm": 15.901931762695312, + "learning_rate": 4.632936961211484e-06, + "loss": 0.2196, + "num_input_tokens_seen": 7754768, + "step": 3962 + }, + { + "epoch": 0.525248508946322, + "grad_norm": 8.711216926574707, + "learning_rate": 4.632755865101853e-06, + "loss": 0.1868, + "num_input_tokens_seen": 7756144, + "step": 3963 + }, + { + "epoch": 0.5253810470510272, + "grad_norm": 0.7210275530815125, + "learning_rate": 4.632574727871219e-06, + "loss": 0.0043, + "num_input_tokens_seen": 7759640, + "step": 3964 + }, + { + "epoch": 0.5255135851557323, + "grad_norm": 6.543086051940918, + "learning_rate": 4.632393549523072e-06, + "loss": 0.2831, + "num_input_tokens_seen": 7761920, + "step": 3965 + }, + { + "epoch": 0.5256461232604374, + "grad_norm": 15.134282112121582, + "learning_rate": 4.632212330060907e-06, + "loss": 0.4894, + "num_input_tokens_seen": 7764048, + "step": 3966 + }, + { + "epoch": 0.5257786613651425, + "grad_norm": 4.576977252960205, + "learning_rate": 4.632031069488216e-06, + "loss": 0.066, + "num_input_tokens_seen": 7765840, + "step": 3967 + }, + { + "epoch": 0.5259111994698475, + "grad_norm": 15.82397747039795, + "learning_rate": 4.631849767808496e-06, + "loss": 0.4433, + "num_input_tokens_seen": 7768016, + "step": 3968 + }, + { + "epoch": 0.5260437375745527, + "grad_norm": 9.389792442321777, + "learning_rate": 4.631668425025243e-06, + "loss": 0.0811, + "num_input_tokens_seen": 7770328, + "step": 3969 + }, + { + "epoch": 0.5261762756792577, + "grad_norm": 9.84054946899414, + "learning_rate": 4.631487041141951e-06, + "loss": 0.1585, + "num_input_tokens_seen": 7773024, + "step": 3970 + }, + { + "epoch": 0.5263088137839629, + "grad_norm": 8.409414291381836, + "learning_rate": 4.631305616162119e-06, + "loss": 0.1792, + "num_input_tokens_seen": 7775336, + "step": 3971 + }, + { + "epoch": 0.526441351888668, + "grad_norm": 7.878690242767334, + "learning_rate": 4.6311241500892435e-06, + "loss": 0.3553, + "num_input_tokens_seen": 7777760, + "step": 3972 + }, + { + "epoch": 0.5265738899933731, + "grad_norm": 15.82659912109375, + "learning_rate": 4.630942642926825e-06, + "loss": 0.4995, + "num_input_tokens_seen": 7779704, + "step": 3973 + }, + { + "epoch": 0.5267064280980782, + "grad_norm": 3.158552885055542, + "learning_rate": 4.630761094678362e-06, + "loss": 0.0179, + "num_input_tokens_seen": 7781696, + "step": 3974 + }, + { + "epoch": 0.5268389662027833, + "grad_norm": 0.24967467784881592, + "learning_rate": 4.6305795053473545e-06, + "loss": 0.0016, + "num_input_tokens_seen": 7783424, + "step": 3975 + }, + { + "epoch": 0.5269715043074884, + "grad_norm": 0.07183726876974106, + "learning_rate": 4.630397874937305e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7785368, + "step": 3976 + }, + { + "epoch": 0.5271040424121936, + "grad_norm": 5.644267559051514, + "learning_rate": 4.630216203451715e-06, + "loss": 0.0696, + "num_input_tokens_seen": 7786784, + "step": 3977 + }, + { + "epoch": 0.5272365805168986, + "grad_norm": 0.0759982317686081, + "learning_rate": 4.630034490894087e-06, + "loss": 0.0005, + "num_input_tokens_seen": 7788264, + "step": 3978 + }, + { + "epoch": 0.5273691186216037, + "grad_norm": 0.08297236263751984, + "learning_rate": 4.629852737267924e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7791128, + "step": 3979 + }, + { + "epoch": 0.5275016567263088, + "grad_norm": 7.059423923492432, + "learning_rate": 4.629670942576731e-06, + "loss": 0.1124, + "num_input_tokens_seen": 7793232, + "step": 3980 + }, + { + "epoch": 0.5276341948310139, + "grad_norm": 1.4923434257507324, + "learning_rate": 4.6294891068240135e-06, + "loss": 0.0219, + "num_input_tokens_seen": 7794696, + "step": 3981 + }, + { + "epoch": 0.5277667329357191, + "grad_norm": 13.473164558410645, + "learning_rate": 4.6293072300132765e-06, + "loss": 0.4393, + "num_input_tokens_seen": 7797960, + "step": 3982 + }, + { + "epoch": 0.5278992710404241, + "grad_norm": 9.597066879272461, + "learning_rate": 4.629125312148027e-06, + "loss": 0.1025, + "num_input_tokens_seen": 7800696, + "step": 3983 + }, + { + "epoch": 0.5280318091451293, + "grad_norm": 4.252924919128418, + "learning_rate": 4.628943353231774e-06, + "loss": 0.1214, + "num_input_tokens_seen": 7803560, + "step": 3984 + }, + { + "epoch": 0.5281643472498343, + "grad_norm": 0.10358887910842896, + "learning_rate": 4.628761353268023e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7805696, + "step": 3985 + }, + { + "epoch": 0.5282968853545394, + "grad_norm": 4.281703948974609, + "learning_rate": 4.628579312260285e-06, + "loss": 0.045, + "num_input_tokens_seen": 7807376, + "step": 3986 + }, + { + "epoch": 0.5284294234592445, + "grad_norm": 16.330989837646484, + "learning_rate": 4.628397230212069e-06, + "loss": 0.6654, + "num_input_tokens_seen": 7809408, + "step": 3987 + }, + { + "epoch": 0.5285619615639496, + "grad_norm": 13.92752742767334, + "learning_rate": 4.628215107126888e-06, + "loss": 0.2344, + "num_input_tokens_seen": 7811520, + "step": 3988 + }, + { + "epoch": 0.5286944996686548, + "grad_norm": 14.059699058532715, + "learning_rate": 4.628032943008249e-06, + "loss": 0.3923, + "num_input_tokens_seen": 7814144, + "step": 3989 + }, + { + "epoch": 0.5288270377733598, + "grad_norm": 0.12259407341480255, + "learning_rate": 4.627850737859669e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7815872, + "step": 3990 + }, + { + "epoch": 0.528959575878065, + "grad_norm": 4.583789348602295, + "learning_rate": 4.627668491684657e-06, + "loss": 0.0252, + "num_input_tokens_seen": 7817560, + "step": 3991 + }, + { + "epoch": 0.52909211398277, + "grad_norm": 0.10020911693572998, + "learning_rate": 4.62748620448673e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7819016, + "step": 3992 + }, + { + "epoch": 0.5292246520874752, + "grad_norm": 13.534164428710938, + "learning_rate": 4.627303876269401e-06, + "loss": 0.3385, + "num_input_tokens_seen": 7821072, + "step": 3993 + }, + { + "epoch": 0.5293571901921803, + "grad_norm": 8.080652236938477, + "learning_rate": 4.627121507036186e-06, + "loss": 0.2756, + "num_input_tokens_seen": 7822512, + "step": 3994 + }, + { + "epoch": 0.5294897282968853, + "grad_norm": 0.2605687975883484, + "learning_rate": 4.6269390967906e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7824320, + "step": 3995 + }, + { + "epoch": 0.5296222664015905, + "grad_norm": 3.1092402935028076, + "learning_rate": 4.626756645536161e-06, + "loss": 0.0898, + "num_input_tokens_seen": 7826688, + "step": 3996 + }, + { + "epoch": 0.5297548045062955, + "grad_norm": 11.595963478088379, + "learning_rate": 4.626574153276387e-06, + "loss": 0.2987, + "num_input_tokens_seen": 7828608, + "step": 3997 + }, + { + "epoch": 0.5298873426110007, + "grad_norm": 0.10772614181041718, + "learning_rate": 4.626391620014797e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7829928, + "step": 3998 + }, + { + "epoch": 0.5300198807157057, + "grad_norm": 10.73455810546875, + "learning_rate": 4.626209045754908e-06, + "loss": 0.4074, + "num_input_tokens_seen": 7831552, + "step": 3999 + }, + { + "epoch": 0.5301524188204109, + "grad_norm": 26.661184310913086, + "learning_rate": 4.626026430500243e-06, + "loss": 0.8685, + "num_input_tokens_seen": 7834056, + "step": 4000 + }, + { + "epoch": 0.530284956925116, + "grad_norm": 10.731963157653809, + "learning_rate": 4.625843774254321e-06, + "loss": 0.3024, + "num_input_tokens_seen": 7836088, + "step": 4001 + }, + { + "epoch": 0.530417495029821, + "grad_norm": 13.635927200317383, + "learning_rate": 4.6256610770206665e-06, + "loss": 0.3658, + "num_input_tokens_seen": 7838120, + "step": 4002 + }, + { + "epoch": 0.5305500331345262, + "grad_norm": 8.361394882202148, + "learning_rate": 4.625478338802798e-06, + "loss": 0.2745, + "num_input_tokens_seen": 7840168, + "step": 4003 + }, + { + "epoch": 0.5306825712392312, + "grad_norm": 0.30881306529045105, + "learning_rate": 4.625295559604241e-06, + "loss": 0.0021, + "num_input_tokens_seen": 7841704, + "step": 4004 + }, + { + "epoch": 0.5308151093439364, + "grad_norm": 7.118462085723877, + "learning_rate": 4.62511273942852e-06, + "loss": 0.1064, + "num_input_tokens_seen": 7844088, + "step": 4005 + }, + { + "epoch": 0.5309476474486415, + "grad_norm": 1.277662992477417, + "learning_rate": 4.62492987827916e-06, + "loss": 0.0084, + "num_input_tokens_seen": 7845904, + "step": 4006 + }, + { + "epoch": 0.5310801855533466, + "grad_norm": 0.5338249206542969, + "learning_rate": 4.6247469761596845e-06, + "loss": 0.0037, + "num_input_tokens_seen": 7847424, + "step": 4007 + }, + { + "epoch": 0.5312127236580517, + "grad_norm": 1.4985874891281128, + "learning_rate": 4.6245640330736224e-06, + "loss": 0.0185, + "num_input_tokens_seen": 7849128, + "step": 4008 + }, + { + "epoch": 0.5313452617627568, + "grad_norm": 9.822949409484863, + "learning_rate": 4.6243810490245e-06, + "loss": 0.1705, + "num_input_tokens_seen": 7851120, + "step": 4009 + }, + { + "epoch": 0.5314777998674619, + "grad_norm": 0.2604467570781708, + "learning_rate": 4.624198024015845e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7852408, + "step": 4010 + }, + { + "epoch": 0.531610337972167, + "grad_norm": 400.1668701171875, + "learning_rate": 4.624014958051187e-06, + "loss": 0.4129, + "num_input_tokens_seen": 7854528, + "step": 4011 + }, + { + "epoch": 0.5317428760768721, + "grad_norm": 0.43131300806999207, + "learning_rate": 4.623831851134055e-06, + "loss": 0.0029, + "num_input_tokens_seen": 7857200, + "step": 4012 + }, + { + "epoch": 0.5318754141815772, + "grad_norm": 0.3718176484107971, + "learning_rate": 4.623648703267981e-06, + "loss": 0.0025, + "num_input_tokens_seen": 7858792, + "step": 4013 + }, + { + "epoch": 0.5320079522862823, + "grad_norm": 13.121262550354004, + "learning_rate": 4.623465514456494e-06, + "loss": 0.5068, + "num_input_tokens_seen": 7861376, + "step": 4014 + }, + { + "epoch": 0.5321404903909874, + "grad_norm": 0.25891396403312683, + "learning_rate": 4.623282284703127e-06, + "loss": 0.0017, + "num_input_tokens_seen": 7863664, + "step": 4015 + }, + { + "epoch": 0.5322730284956925, + "grad_norm": 6.230240821838379, + "learning_rate": 4.623099014011413e-06, + "loss": 0.1452, + "num_input_tokens_seen": 7865456, + "step": 4016 + }, + { + "epoch": 0.5324055666003976, + "grad_norm": 4.335967063903809, + "learning_rate": 4.622915702384885e-06, + "loss": 0.0973, + "num_input_tokens_seen": 7867016, + "step": 4017 + }, + { + "epoch": 0.5325381047051028, + "grad_norm": 8.595365524291992, + "learning_rate": 4.622732349827078e-06, + "loss": 0.1016, + "num_input_tokens_seen": 7868872, + "step": 4018 + }, + { + "epoch": 0.5326706428098078, + "grad_norm": 0.1359635293483734, + "learning_rate": 4.6225489563415266e-06, + "loss": 0.0009, + "num_input_tokens_seen": 7870264, + "step": 4019 + }, + { + "epoch": 0.532803180914513, + "grad_norm": 0.12251783907413483, + "learning_rate": 4.622365521931767e-06, + "loss": 0.0008, + "num_input_tokens_seen": 7871944, + "step": 4020 + }, + { + "epoch": 0.532935719019218, + "grad_norm": 11.952160835266113, + "learning_rate": 4.6221820466013365e-06, + "loss": 0.4018, + "num_input_tokens_seen": 7874064, + "step": 4021 + }, + { + "epoch": 0.5330682571239231, + "grad_norm": 1.6966038942337036, + "learning_rate": 4.621998530353772e-06, + "loss": 0.0308, + "num_input_tokens_seen": 7875840, + "step": 4022 + }, + { + "epoch": 0.5332007952286282, + "grad_norm": 15.353293418884277, + "learning_rate": 4.621814973192612e-06, + "loss": 0.4655, + "num_input_tokens_seen": 7878144, + "step": 4023 + }, + { + "epoch": 0.5333333333333333, + "grad_norm": 15.296635627746582, + "learning_rate": 4.621631375121395e-06, + "loss": 0.2782, + "num_input_tokens_seen": 7880832, + "step": 4024 + }, + { + "epoch": 0.5334658714380385, + "grad_norm": 12.293479919433594, + "learning_rate": 4.621447736143662e-06, + "loss": 0.3628, + "num_input_tokens_seen": 7882800, + "step": 4025 + }, + { + "epoch": 0.5335984095427435, + "grad_norm": 2.8818576335906982, + "learning_rate": 4.621264056262953e-06, + "loss": 0.1255, + "num_input_tokens_seen": 7884528, + "step": 4026 + }, + { + "epoch": 0.5337309476474487, + "grad_norm": 10.513691902160645, + "learning_rate": 4.62108033548281e-06, + "loss": 0.3848, + "num_input_tokens_seen": 7886272, + "step": 4027 + }, + { + "epoch": 0.5338634857521537, + "grad_norm": 0.14609111845493317, + "learning_rate": 4.620896573806774e-06, + "loss": 0.001, + "num_input_tokens_seen": 7887560, + "step": 4028 + }, + { + "epoch": 0.5339960238568588, + "grad_norm": 0.5605419278144836, + "learning_rate": 4.620712771238389e-06, + "loss": 0.0022, + "num_input_tokens_seen": 7889336, + "step": 4029 + }, + { + "epoch": 0.534128561961564, + "grad_norm": 17.75749969482422, + "learning_rate": 4.6205289277811995e-06, + "loss": 0.0951, + "num_input_tokens_seen": 7890912, + "step": 4030 + }, + { + "epoch": 0.534261100066269, + "grad_norm": 12.841143608093262, + "learning_rate": 4.620345043438748e-06, + "loss": 0.1, + "num_input_tokens_seen": 7892672, + "step": 4031 + }, + { + "epoch": 0.5343936381709742, + "grad_norm": 7.515597343444824, + "learning_rate": 4.620161118214583e-06, + "loss": 0.067, + "num_input_tokens_seen": 7894280, + "step": 4032 + }, + { + "epoch": 0.5345261762756792, + "grad_norm": 0.0845167338848114, + "learning_rate": 4.619977152112248e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7895368, + "step": 4033 + }, + { + "epoch": 0.5346587143803844, + "grad_norm": 13.487278938293457, + "learning_rate": 4.619793145135292e-06, + "loss": 0.6303, + "num_input_tokens_seen": 7898272, + "step": 4034 + }, + { + "epoch": 0.5347912524850894, + "grad_norm": 4.179569244384766, + "learning_rate": 4.619609097287261e-06, + "loss": 0.0298, + "num_input_tokens_seen": 7900632, + "step": 4035 + }, + { + "epoch": 0.5349237905897946, + "grad_norm": 0.19195279479026794, + "learning_rate": 4.619425008571705e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7903104, + "step": 4036 + }, + { + "epoch": 0.5350563286944997, + "grad_norm": 0.1777542531490326, + "learning_rate": 4.619240878992172e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7906272, + "step": 4037 + }, + { + "epoch": 0.5351888667992047, + "grad_norm": 0.2937557101249695, + "learning_rate": 4.6190567085522134e-06, + "loss": 0.0018, + "num_input_tokens_seen": 7908792, + "step": 4038 + }, + { + "epoch": 0.5353214049039099, + "grad_norm": 1.8593034744262695, + "learning_rate": 4.618872497255379e-06, + "loss": 0.0385, + "num_input_tokens_seen": 7910448, + "step": 4039 + }, + { + "epoch": 0.5354539430086149, + "grad_norm": 0.1838109791278839, + "learning_rate": 4.618688245105222e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7912440, + "step": 4040 + }, + { + "epoch": 0.5355864811133201, + "grad_norm": 16.996774673461914, + "learning_rate": 4.618503952105293e-06, + "loss": 0.3133, + "num_input_tokens_seen": 7914224, + "step": 4041 + }, + { + "epoch": 0.5357190192180252, + "grad_norm": 37.801334381103516, + "learning_rate": 4.6183196182591465e-06, + "loss": 0.4917, + "num_input_tokens_seen": 7915528, + "step": 4042 + }, + { + "epoch": 0.5358515573227303, + "grad_norm": 5.75848388671875, + "learning_rate": 4.618135243570336e-06, + "loss": 0.2948, + "num_input_tokens_seen": 7917048, + "step": 4043 + }, + { + "epoch": 0.5359840954274354, + "grad_norm": 11.034120559692383, + "learning_rate": 4.617950828042418e-06, + "loss": 0.3539, + "num_input_tokens_seen": 7918848, + "step": 4044 + }, + { + "epoch": 0.5361166335321405, + "grad_norm": 0.11634110659360886, + "learning_rate": 4.617766371678947e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7920152, + "step": 4045 + }, + { + "epoch": 0.5362491716368456, + "grad_norm": 13.197975158691406, + "learning_rate": 4.6175818744834785e-06, + "loss": 0.4056, + "num_input_tokens_seen": 7921784, + "step": 4046 + }, + { + "epoch": 0.5363817097415507, + "grad_norm": 0.3431829512119293, + "learning_rate": 4.61739733645957e-06, + "loss": 0.002, + "num_input_tokens_seen": 7924152, + "step": 4047 + }, + { + "epoch": 0.5365142478462558, + "grad_norm": 14.108015060424805, + "learning_rate": 4.617212757610782e-06, + "loss": 0.5635, + "num_input_tokens_seen": 7926256, + "step": 4048 + }, + { + "epoch": 0.5366467859509609, + "grad_norm": 2.9647858142852783, + "learning_rate": 4.61702813794067e-06, + "loss": 0.0937, + "num_input_tokens_seen": 7927576, + "step": 4049 + }, + { + "epoch": 0.536779324055666, + "grad_norm": 12.520955085754395, + "learning_rate": 4.616843477452796e-06, + "loss": 0.3035, + "num_input_tokens_seen": 7929760, + "step": 4050 + }, + { + "epoch": 0.5369118621603711, + "grad_norm": 9.80131721496582, + "learning_rate": 4.616658776150719e-06, + "loss": 0.1621, + "num_input_tokens_seen": 7931136, + "step": 4051 + }, + { + "epoch": 0.5370444002650762, + "grad_norm": 12.030084609985352, + "learning_rate": 4.616474034038e-06, + "loss": 0.2362, + "num_input_tokens_seen": 7933512, + "step": 4052 + }, + { + "epoch": 0.5371769383697813, + "grad_norm": 10.376489639282227, + "learning_rate": 4.616289251118202e-06, + "loss": 0.3434, + "num_input_tokens_seen": 7936040, + "step": 4053 + }, + { + "epoch": 0.5373094764744865, + "grad_norm": 8.85754108428955, + "learning_rate": 4.616104427394887e-06, + "loss": 0.0862, + "num_input_tokens_seen": 7937936, + "step": 4054 + }, + { + "epoch": 0.5374420145791915, + "grad_norm": 0.46287301182746887, + "learning_rate": 4.6159195628716195e-06, + "loss": 0.0027, + "num_input_tokens_seen": 7939512, + "step": 4055 + }, + { + "epoch": 0.5375745526838966, + "grad_norm": 0.19545811414718628, + "learning_rate": 4.615734657551963e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7940936, + "step": 4056 + }, + { + "epoch": 0.5377070907886017, + "grad_norm": 7.342900276184082, + "learning_rate": 4.615549711439483e-06, + "loss": 0.2312, + "num_input_tokens_seen": 7943168, + "step": 4057 + }, + { + "epoch": 0.5378396288933068, + "grad_norm": 6.551323890686035, + "learning_rate": 4.615364724537744e-06, + "loss": 0.171, + "num_input_tokens_seen": 7944704, + "step": 4058 + }, + { + "epoch": 0.537972166998012, + "grad_norm": 11.921992301940918, + "learning_rate": 4.615179696850315e-06, + "loss": 0.2878, + "num_input_tokens_seen": 7946048, + "step": 4059 + }, + { + "epoch": 0.538104705102717, + "grad_norm": 10.918295860290527, + "learning_rate": 4.614994628380761e-06, + "loss": 0.1427, + "num_input_tokens_seen": 7947616, + "step": 4060 + }, + { + "epoch": 0.5382372432074222, + "grad_norm": 11.038885116577148, + "learning_rate": 4.614809519132653e-06, + "loss": 0.3313, + "num_input_tokens_seen": 7949792, + "step": 4061 + }, + { + "epoch": 0.5383697813121272, + "grad_norm": 6.8225932121276855, + "learning_rate": 4.614624369109557e-06, + "loss": 0.0921, + "num_input_tokens_seen": 7951304, + "step": 4062 + }, + { + "epoch": 0.5385023194168324, + "grad_norm": 5.132601261138916, + "learning_rate": 4.614439178315045e-06, + "loss": 0.0411, + "num_input_tokens_seen": 7953088, + "step": 4063 + }, + { + "epoch": 0.5386348575215374, + "grad_norm": 0.7638110518455505, + "learning_rate": 4.614253946752687e-06, + "loss": 0.0035, + "num_input_tokens_seen": 7955376, + "step": 4064 + }, + { + "epoch": 0.5387673956262425, + "grad_norm": 6.3938117027282715, + "learning_rate": 4.614068674426054e-06, + "loss": 0.0994, + "num_input_tokens_seen": 7956944, + "step": 4065 + }, + { + "epoch": 0.5388999337309477, + "grad_norm": 8.795907020568848, + "learning_rate": 4.613883361338719e-06, + "loss": 0.087, + "num_input_tokens_seen": 7959152, + "step": 4066 + }, + { + "epoch": 0.5390324718356527, + "grad_norm": 36.54825210571289, + "learning_rate": 4.613698007494255e-06, + "loss": 0.5746, + "num_input_tokens_seen": 7961368, + "step": 4067 + }, + { + "epoch": 0.5391650099403579, + "grad_norm": 14.218330383300781, + "learning_rate": 4.613512612896235e-06, + "loss": 0.2931, + "num_input_tokens_seen": 7963544, + "step": 4068 + }, + { + "epoch": 0.5392975480450629, + "grad_norm": 0.17901967465877533, + "learning_rate": 4.613327177548234e-06, + "loss": 0.0012, + "num_input_tokens_seen": 7965288, + "step": 4069 + }, + { + "epoch": 0.5394300861497681, + "grad_norm": 0.1499279886484146, + "learning_rate": 4.613141701453826e-06, + "loss": 0.001, + "num_input_tokens_seen": 7966680, + "step": 4070 + }, + { + "epoch": 0.5395626242544732, + "grad_norm": 9.754743576049805, + "learning_rate": 4.612956184616589e-06, + "loss": 0.3682, + "num_input_tokens_seen": 7968784, + "step": 4071 + }, + { + "epoch": 0.5396951623591782, + "grad_norm": 20.259737014770508, + "learning_rate": 4.612770627040098e-06, + "loss": 0.4256, + "num_input_tokens_seen": 7971256, + "step": 4072 + }, + { + "epoch": 0.5398277004638834, + "grad_norm": 0.09793662279844284, + "learning_rate": 4.612585028727933e-06, + "loss": 0.0006, + "num_input_tokens_seen": 7972480, + "step": 4073 + }, + { + "epoch": 0.5399602385685884, + "grad_norm": 10.20346450805664, + "learning_rate": 4.612399389683671e-06, + "loss": 0.1662, + "num_input_tokens_seen": 7974248, + "step": 4074 + }, + { + "epoch": 0.5400927766732936, + "grad_norm": 0.11752693355083466, + "learning_rate": 4.612213709910892e-06, + "loss": 0.0007, + "num_input_tokens_seen": 7975808, + "step": 4075 + }, + { + "epoch": 0.5402253147779986, + "grad_norm": 12.99082088470459, + "learning_rate": 4.612027989413175e-06, + "loss": 0.3927, + "num_input_tokens_seen": 7977928, + "step": 4076 + }, + { + "epoch": 0.5403578528827038, + "grad_norm": 3.2054526805877686, + "learning_rate": 4.611842228194101e-06, + "loss": 0.0354, + "num_input_tokens_seen": 7979800, + "step": 4077 + }, + { + "epoch": 0.5404903909874089, + "grad_norm": 8.888463973999023, + "learning_rate": 4.611656426257253e-06, + "loss": 0.3038, + "num_input_tokens_seen": 7981688, + "step": 4078 + }, + { + "epoch": 0.540622929092114, + "grad_norm": 2.5232126712799072, + "learning_rate": 4.611470583606212e-06, + "loss": 0.1064, + "num_input_tokens_seen": 7983792, + "step": 4079 + }, + { + "epoch": 0.5407554671968191, + "grad_norm": 0.02956196665763855, + "learning_rate": 4.611284700244561e-06, + "loss": 0.0002, + "num_input_tokens_seen": 7984920, + "step": 4080 + }, + { + "epoch": 0.5408880053015241, + "grad_norm": 14.2171630859375, + "learning_rate": 4.6110987761758834e-06, + "loss": 0.3936, + "num_input_tokens_seen": 7986904, + "step": 4081 + }, + { + "epoch": 0.5410205434062293, + "grad_norm": 3.6032845973968506, + "learning_rate": 4.610912811403766e-06, + "loss": 0.0433, + "num_input_tokens_seen": 7988760, + "step": 4082 + }, + { + "epoch": 0.5411530815109344, + "grad_norm": 1.8011516332626343, + "learning_rate": 4.610726805931794e-06, + "loss": 0.0368, + "num_input_tokens_seen": 7990608, + "step": 4083 + }, + { + "epoch": 0.5412856196156395, + "grad_norm": 8.52591323852539, + "learning_rate": 4.610540759763552e-06, + "loss": 0.0661, + "num_input_tokens_seen": 7993152, + "step": 4084 + }, + { + "epoch": 0.5414181577203446, + "grad_norm": 6.99245548248291, + "learning_rate": 4.6103546729026295e-06, + "loss": 0.2279, + "num_input_tokens_seen": 7995624, + "step": 4085 + }, + { + "epoch": 0.5415506958250497, + "grad_norm": 10.101627349853516, + "learning_rate": 4.610168545352612e-06, + "loss": 0.1242, + "num_input_tokens_seen": 7998024, + "step": 4086 + }, + { + "epoch": 0.5416832339297548, + "grad_norm": 0.054514020681381226, + "learning_rate": 4.6099823771170894e-06, + "loss": 0.0003, + "num_input_tokens_seen": 7999984, + "step": 4087 + }, + { + "epoch": 0.5418157720344599, + "grad_norm": 7.615383625030518, + "learning_rate": 4.6097961681996516e-06, + "loss": 0.2287, + "num_input_tokens_seen": 8001928, + "step": 4088 + }, + { + "epoch": 0.541948310139165, + "grad_norm": 0.05668923258781433, + "learning_rate": 4.6096099186038875e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8004424, + "step": 4089 + }, + { + "epoch": 0.5420808482438702, + "grad_norm": 0.05965054780244827, + "learning_rate": 4.60942362833339e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8005832, + "step": 4090 + }, + { + "epoch": 0.5422133863485752, + "grad_norm": 1.9437217712402344, + "learning_rate": 4.6092372973917484e-06, + "loss": 0.0404, + "num_input_tokens_seen": 8007856, + "step": 4091 + }, + { + "epoch": 0.5423459244532803, + "grad_norm": 0.5218856930732727, + "learning_rate": 4.609050925782557e-06, + "loss": 0.0025, + "num_input_tokens_seen": 8009712, + "step": 4092 + }, + { + "epoch": 0.5424784625579854, + "grad_norm": 15.88712215423584, + "learning_rate": 4.608864513509409e-06, + "loss": 0.6892, + "num_input_tokens_seen": 8011904, + "step": 4093 + }, + { + "epoch": 0.5426110006626905, + "grad_norm": 0.11739930510520935, + "learning_rate": 4.608678060575899e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8013544, + "step": 4094 + }, + { + "epoch": 0.5427435387673957, + "grad_norm": 4.469979286193848, + "learning_rate": 4.6084915669856195e-06, + "loss": 0.1359, + "num_input_tokens_seen": 8015592, + "step": 4095 + }, + { + "epoch": 0.5428760768721007, + "grad_norm": 10.837701797485352, + "learning_rate": 4.608305032742169e-06, + "loss": 0.3234, + "num_input_tokens_seen": 8017472, + "step": 4096 + }, + { + "epoch": 0.5430086149768059, + "grad_norm": 11.945828437805176, + "learning_rate": 4.608118457849143e-06, + "loss": 0.2767, + "num_input_tokens_seen": 8019800, + "step": 4097 + }, + { + "epoch": 0.5431411530815109, + "grad_norm": 3.062751054763794, + "learning_rate": 4.607931842310139e-06, + "loss": 0.1484, + "num_input_tokens_seen": 8021320, + "step": 4098 + }, + { + "epoch": 0.543273691186216, + "grad_norm": 10.515359878540039, + "learning_rate": 4.607745186128755e-06, + "loss": 0.2404, + "num_input_tokens_seen": 8023832, + "step": 4099 + }, + { + "epoch": 0.5434062292909212, + "grad_norm": 5.204316139221191, + "learning_rate": 4.607558489308589e-06, + "loss": 0.0868, + "num_input_tokens_seen": 8025768, + "step": 4100 + }, + { + "epoch": 0.5435387673956262, + "grad_norm": 15.432523727416992, + "learning_rate": 4.6073717518532415e-06, + "loss": 0.2798, + "num_input_tokens_seen": 8027904, + "step": 4101 + }, + { + "epoch": 0.5436713055003314, + "grad_norm": 4.542093753814697, + "learning_rate": 4.607184973766313e-06, + "loss": 0.0831, + "num_input_tokens_seen": 8030400, + "step": 4102 + }, + { + "epoch": 0.5438038436050364, + "grad_norm": 4.5041728019714355, + "learning_rate": 4.606998155051405e-06, + "loss": 0.1123, + "num_input_tokens_seen": 8032952, + "step": 4103 + }, + { + "epoch": 0.5439363817097416, + "grad_norm": 0.08445163071155548, + "learning_rate": 4.606811295712119e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8034408, + "step": 4104 + }, + { + "epoch": 0.5440689198144466, + "grad_norm": 21.89432716369629, + "learning_rate": 4.606624395752057e-06, + "loss": 0.6877, + "num_input_tokens_seen": 8038504, + "step": 4105 + }, + { + "epoch": 0.5442014579191518, + "grad_norm": 0.18032686412334442, + "learning_rate": 4.606437455174825e-06, + "loss": 0.0012, + "num_input_tokens_seen": 8040240, + "step": 4106 + }, + { + "epoch": 0.5443339960238569, + "grad_norm": 10.134572982788086, + "learning_rate": 4.606250473984024e-06, + "loss": 0.3267, + "num_input_tokens_seen": 8042480, + "step": 4107 + }, + { + "epoch": 0.5444665341285619, + "grad_norm": 9.405549049377441, + "learning_rate": 4.606063452183261e-06, + "loss": 0.2923, + "num_input_tokens_seen": 8044736, + "step": 4108 + }, + { + "epoch": 0.5445990722332671, + "grad_norm": 0.4269721508026123, + "learning_rate": 4.605876389776143e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8046000, + "step": 4109 + }, + { + "epoch": 0.5447316103379721, + "grad_norm": 5.793757438659668, + "learning_rate": 4.605689286766274e-06, + "loss": 0.2216, + "num_input_tokens_seen": 8047744, + "step": 4110 + }, + { + "epoch": 0.5448641484426773, + "grad_norm": 5.584360122680664, + "learning_rate": 4.6055021431572636e-06, + "loss": 0.1198, + "num_input_tokens_seen": 8049960, + "step": 4111 + }, + { + "epoch": 0.5449966865473824, + "grad_norm": 4.206791877746582, + "learning_rate": 4.605314958952719e-06, + "loss": 0.0128, + "num_input_tokens_seen": 8052208, + "step": 4112 + }, + { + "epoch": 0.5451292246520875, + "grad_norm": 3.2708704471588135, + "learning_rate": 4.605127734156251e-06, + "loss": 0.1091, + "num_input_tokens_seen": 8054232, + "step": 4113 + }, + { + "epoch": 0.5452617627567926, + "grad_norm": 0.17672087252140045, + "learning_rate": 4.604940468771466e-06, + "loss": 0.0012, + "num_input_tokens_seen": 8055912, + "step": 4114 + }, + { + "epoch": 0.5453943008614976, + "grad_norm": 6.984878063201904, + "learning_rate": 4.604753162801978e-06, + "loss": 0.1857, + "num_input_tokens_seen": 8057800, + "step": 4115 + }, + { + "epoch": 0.5455268389662028, + "grad_norm": 0.8402068614959717, + "learning_rate": 4.6045658162513964e-06, + "loss": 0.0121, + "num_input_tokens_seen": 8059480, + "step": 4116 + }, + { + "epoch": 0.5456593770709078, + "grad_norm": 0.26560404896736145, + "learning_rate": 4.604378429123334e-06, + "loss": 0.0016, + "num_input_tokens_seen": 8060968, + "step": 4117 + }, + { + "epoch": 0.545791915175613, + "grad_norm": 0.13185304403305054, + "learning_rate": 4.604191001421405e-06, + "loss": 0.0009, + "num_input_tokens_seen": 8063056, + "step": 4118 + }, + { + "epoch": 0.5459244532803181, + "grad_norm": 12.191259384155273, + "learning_rate": 4.60400353314922e-06, + "loss": 0.2488, + "num_input_tokens_seen": 8064904, + "step": 4119 + }, + { + "epoch": 0.5460569913850232, + "grad_norm": 0.08191758394241333, + "learning_rate": 4.6038160243103965e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8066024, + "step": 4120 + }, + { + "epoch": 0.5461895294897283, + "grad_norm": 12.817622184753418, + "learning_rate": 4.603628474908548e-06, + "loss": 0.3704, + "num_input_tokens_seen": 8067936, + "step": 4121 + }, + { + "epoch": 0.5463220675944334, + "grad_norm": 5.399591445922852, + "learning_rate": 4.603440884947292e-06, + "loss": 0.0886, + "num_input_tokens_seen": 8069768, + "step": 4122 + }, + { + "epoch": 0.5464546056991385, + "grad_norm": 5.079294681549072, + "learning_rate": 4.603253254430244e-06, + "loss": 0.1308, + "num_input_tokens_seen": 8072032, + "step": 4123 + }, + { + "epoch": 0.5465871438038437, + "grad_norm": 11.848227500915527, + "learning_rate": 4.6030655833610235e-06, + "loss": 0.407, + "num_input_tokens_seen": 8074464, + "step": 4124 + }, + { + "epoch": 0.5467196819085487, + "grad_norm": 8.840668678283691, + "learning_rate": 4.602877871743246e-06, + "loss": 0.3576, + "num_input_tokens_seen": 8076752, + "step": 4125 + }, + { + "epoch": 0.5468522200132538, + "grad_norm": 11.436777114868164, + "learning_rate": 4.602690119580534e-06, + "loss": 0.3846, + "num_input_tokens_seen": 8078160, + "step": 4126 + }, + { + "epoch": 0.5469847581179589, + "grad_norm": 16.899656295776367, + "learning_rate": 4.602502326876505e-06, + "loss": 0.4454, + "num_input_tokens_seen": 8081056, + "step": 4127 + }, + { + "epoch": 0.547117296222664, + "grad_norm": 11.110140800476074, + "learning_rate": 4.602314493634782e-06, + "loss": 0.3647, + "num_input_tokens_seen": 8082840, + "step": 4128 + }, + { + "epoch": 0.5472498343273691, + "grad_norm": 12.675568580627441, + "learning_rate": 4.602126619858983e-06, + "loss": 0.4172, + "num_input_tokens_seen": 8084344, + "step": 4129 + }, + { + "epoch": 0.5473823724320742, + "grad_norm": 16.5428466796875, + "learning_rate": 4.601938705552734e-06, + "loss": 0.5982, + "num_input_tokens_seen": 8085648, + "step": 4130 + }, + { + "epoch": 0.5475149105367794, + "grad_norm": 11.334456443786621, + "learning_rate": 4.601750750719657e-06, + "loss": 0.0772, + "num_input_tokens_seen": 8087776, + "step": 4131 + }, + { + "epoch": 0.5476474486414844, + "grad_norm": 10.161344528198242, + "learning_rate": 4.601562755363374e-06, + "loss": 0.1594, + "num_input_tokens_seen": 8090448, + "step": 4132 + }, + { + "epoch": 0.5477799867461896, + "grad_norm": 12.087780952453613, + "learning_rate": 4.601374719487513e-06, + "loss": 0.1989, + "num_input_tokens_seen": 8092848, + "step": 4133 + }, + { + "epoch": 0.5479125248508946, + "grad_norm": 6.118009567260742, + "learning_rate": 4.601186643095698e-06, + "loss": 0.1896, + "num_input_tokens_seen": 8095456, + "step": 4134 + }, + { + "epoch": 0.5480450629555997, + "grad_norm": 6.1144256591796875, + "learning_rate": 4.6009985261915536e-06, + "loss": 0.1067, + "num_input_tokens_seen": 8097120, + "step": 4135 + }, + { + "epoch": 0.5481776010603049, + "grad_norm": 7.965542316436768, + "learning_rate": 4.600810368778708e-06, + "loss": 0.1284, + "num_input_tokens_seen": 8098760, + "step": 4136 + }, + { + "epoch": 0.5483101391650099, + "grad_norm": 6.611481666564941, + "learning_rate": 4.600622170860791e-06, + "loss": 0.1039, + "num_input_tokens_seen": 8101072, + "step": 4137 + }, + { + "epoch": 0.5484426772697151, + "grad_norm": 4.470078468322754, + "learning_rate": 4.6004339324414286e-06, + "loss": 0.0796, + "num_input_tokens_seen": 8103208, + "step": 4138 + }, + { + "epoch": 0.5485752153744201, + "grad_norm": 8.41801929473877, + "learning_rate": 4.60024565352425e-06, + "loss": 0.2553, + "num_input_tokens_seen": 8104968, + "step": 4139 + }, + { + "epoch": 0.5487077534791253, + "grad_norm": 0.7607479691505432, + "learning_rate": 4.600057334112887e-06, + "loss": 0.0036, + "num_input_tokens_seen": 8108192, + "step": 4140 + }, + { + "epoch": 0.5488402915838303, + "grad_norm": 6.524007797241211, + "learning_rate": 4.59986897421097e-06, + "loss": 0.1332, + "num_input_tokens_seen": 8110184, + "step": 4141 + }, + { + "epoch": 0.5489728296885354, + "grad_norm": 2.2956554889678955, + "learning_rate": 4.599680573822131e-06, + "loss": 0.0141, + "num_input_tokens_seen": 8111800, + "step": 4142 + }, + { + "epoch": 0.5491053677932406, + "grad_norm": 0.26627495884895325, + "learning_rate": 4.599492132950001e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8113560, + "step": 4143 + }, + { + "epoch": 0.5492379058979456, + "grad_norm": 11.378226280212402, + "learning_rate": 4.5993036515982144e-06, + "loss": 0.2734, + "num_input_tokens_seen": 8116200, + "step": 4144 + }, + { + "epoch": 0.5493704440026508, + "grad_norm": 10.30105972290039, + "learning_rate": 4.599115129770406e-06, + "loss": 0.1435, + "num_input_tokens_seen": 8117912, + "step": 4145 + }, + { + "epoch": 0.5495029821073558, + "grad_norm": 5.610369682312012, + "learning_rate": 4.598926567470209e-06, + "loss": 0.029, + "num_input_tokens_seen": 8120696, + "step": 4146 + }, + { + "epoch": 0.549635520212061, + "grad_norm": 9.871245384216309, + "learning_rate": 4.59873796470126e-06, + "loss": 0.2819, + "num_input_tokens_seen": 8124000, + "step": 4147 + }, + { + "epoch": 0.5497680583167661, + "grad_norm": 0.10486636310815811, + "learning_rate": 4.598549321467195e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8125792, + "step": 4148 + }, + { + "epoch": 0.5499005964214712, + "grad_norm": 0.2691498398780823, + "learning_rate": 4.598360637771651e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8128056, + "step": 4149 + }, + { + "epoch": 0.5500331345261763, + "grad_norm": 0.14830152690410614, + "learning_rate": 4.5981719136182675e-06, + "loss": 0.001, + "num_input_tokens_seen": 8129736, + "step": 4150 + }, + { + "epoch": 0.5501656726308813, + "grad_norm": 0.10912959277629852, + "learning_rate": 4.5979831490106815e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8131384, + "step": 4151 + }, + { + "epoch": 0.5502982107355865, + "grad_norm": 3.2231178283691406, + "learning_rate": 4.597794343952533e-06, + "loss": 0.0273, + "num_input_tokens_seen": 8133368, + "step": 4152 + }, + { + "epoch": 0.5504307488402916, + "grad_norm": 3.418339967727661, + "learning_rate": 4.597605498447463e-06, + "loss": 0.0837, + "num_input_tokens_seen": 8135504, + "step": 4153 + }, + { + "epoch": 0.5505632869449967, + "grad_norm": 9.763542175292969, + "learning_rate": 4.5974166124991116e-06, + "loss": 0.3183, + "num_input_tokens_seen": 8137800, + "step": 4154 + }, + { + "epoch": 0.5506958250497018, + "grad_norm": 3.4293720722198486, + "learning_rate": 4.597227686111121e-06, + "loss": 0.1011, + "num_input_tokens_seen": 8139472, + "step": 4155 + }, + { + "epoch": 0.5508283631544069, + "grad_norm": 14.084505081176758, + "learning_rate": 4.597038719287134e-06, + "loss": 0.3703, + "num_input_tokens_seen": 8141304, + "step": 4156 + }, + { + "epoch": 0.550960901259112, + "grad_norm": 11.821980476379395, + "learning_rate": 4.596849712030793e-06, + "loss": 0.118, + "num_input_tokens_seen": 8143496, + "step": 4157 + }, + { + "epoch": 0.551093439363817, + "grad_norm": 6.229593276977539, + "learning_rate": 4.596660664345744e-06, + "loss": 0.1725, + "num_input_tokens_seen": 8144952, + "step": 4158 + }, + { + "epoch": 0.5512259774685222, + "grad_norm": 8.892006874084473, + "learning_rate": 4.5964715762356295e-06, + "loss": 0.286, + "num_input_tokens_seen": 8146776, + "step": 4159 + }, + { + "epoch": 0.5513585155732273, + "grad_norm": 0.23390333354473114, + "learning_rate": 4.596282447704098e-06, + "loss": 0.0013, + "num_input_tokens_seen": 8149152, + "step": 4160 + }, + { + "epoch": 0.5514910536779324, + "grad_norm": 1.6519416570663452, + "learning_rate": 4.596093278754794e-06, + "loss": 0.0455, + "num_input_tokens_seen": 8150800, + "step": 4161 + }, + { + "epoch": 0.5516235917826375, + "grad_norm": 0.04528777673840523, + "learning_rate": 4.595904069391366e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8153088, + "step": 4162 + }, + { + "epoch": 0.5517561298873426, + "grad_norm": 4.183203220367432, + "learning_rate": 4.595714819617462e-06, + "loss": 0.0444, + "num_input_tokens_seen": 8155552, + "step": 4163 + }, + { + "epoch": 0.5518886679920477, + "grad_norm": 11.055419921875, + "learning_rate": 4.595525529436729e-06, + "loss": 0.1988, + "num_input_tokens_seen": 8156976, + "step": 4164 + }, + { + "epoch": 0.5520212060967529, + "grad_norm": 0.04133330658078194, + "learning_rate": 4.59533619885282e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8158224, + "step": 4165 + }, + { + "epoch": 0.5521537442014579, + "grad_norm": 9.351491928100586, + "learning_rate": 4.595146827869383e-06, + "loss": 0.2428, + "num_input_tokens_seen": 8159792, + "step": 4166 + }, + { + "epoch": 0.5522862823061631, + "grad_norm": 15.061875343322754, + "learning_rate": 4.594957416490069e-06, + "loss": 0.4489, + "num_input_tokens_seen": 8162024, + "step": 4167 + }, + { + "epoch": 0.5524188204108681, + "grad_norm": 10.789448738098145, + "learning_rate": 4.594767964718532e-06, + "loss": 0.4409, + "num_input_tokens_seen": 8164104, + "step": 4168 + }, + { + "epoch": 0.5525513585155732, + "grad_norm": 9.472795486450195, + "learning_rate": 4.594578472558423e-06, + "loss": 0.3299, + "num_input_tokens_seen": 8165760, + "step": 4169 + }, + { + "epoch": 0.5526838966202783, + "grad_norm": 11.541179656982422, + "learning_rate": 4.5943889400133955e-06, + "loss": 0.4529, + "num_input_tokens_seen": 8167392, + "step": 4170 + }, + { + "epoch": 0.5528164347249834, + "grad_norm": 6.17018461227417, + "learning_rate": 4.594199367087105e-06, + "loss": 0.0775, + "num_input_tokens_seen": 8169200, + "step": 4171 + }, + { + "epoch": 0.5529489728296886, + "grad_norm": 11.9037446975708, + "learning_rate": 4.594009753783206e-06, + "loss": 0.2757, + "num_input_tokens_seen": 8171088, + "step": 4172 + }, + { + "epoch": 0.5530815109343936, + "grad_norm": 4.553421497344971, + "learning_rate": 4.593820100105355e-06, + "loss": 0.0451, + "num_input_tokens_seen": 8172576, + "step": 4173 + }, + { + "epoch": 0.5532140490390988, + "grad_norm": 8.459004402160645, + "learning_rate": 4.593630406057207e-06, + "loss": 0.3134, + "num_input_tokens_seen": 8175888, + "step": 4174 + }, + { + "epoch": 0.5533465871438038, + "grad_norm": 15.0360689163208, + "learning_rate": 4.593440671642421e-06, + "loss": 0.2604, + "num_input_tokens_seen": 8177768, + "step": 4175 + }, + { + "epoch": 0.553479125248509, + "grad_norm": 12.067193984985352, + "learning_rate": 4.593250896864654e-06, + "loss": 0.212, + "num_input_tokens_seen": 8180112, + "step": 4176 + }, + { + "epoch": 0.5536116633532141, + "grad_norm": 5.24225378036499, + "learning_rate": 4.5930610817275664e-06, + "loss": 0.1322, + "num_input_tokens_seen": 8181944, + "step": 4177 + }, + { + "epoch": 0.5537442014579191, + "grad_norm": 1.855466604232788, + "learning_rate": 4.592871226234816e-06, + "loss": 0.0104, + "num_input_tokens_seen": 8183728, + "step": 4178 + }, + { + "epoch": 0.5538767395626243, + "grad_norm": 10.864151954650879, + "learning_rate": 4.592681330390066e-06, + "loss": 0.2209, + "num_input_tokens_seen": 8185720, + "step": 4179 + }, + { + "epoch": 0.5540092776673293, + "grad_norm": 8.799050331115723, + "learning_rate": 4.592491394196976e-06, + "loss": 0.17, + "num_input_tokens_seen": 8189224, + "step": 4180 + }, + { + "epoch": 0.5541418157720345, + "grad_norm": 9.319714546203613, + "learning_rate": 4.592301417659208e-06, + "loss": 0.2978, + "num_input_tokens_seen": 8191560, + "step": 4181 + }, + { + "epoch": 0.5542743538767395, + "grad_norm": 5.550588607788086, + "learning_rate": 4.592111400780425e-06, + "loss": 0.0502, + "num_input_tokens_seen": 8192968, + "step": 4182 + }, + { + "epoch": 0.5544068919814447, + "grad_norm": 0.8211635947227478, + "learning_rate": 4.591921343564292e-06, + "loss": 0.0044, + "num_input_tokens_seen": 8194904, + "step": 4183 + }, + { + "epoch": 0.5545394300861498, + "grad_norm": 8.733579635620117, + "learning_rate": 4.591731246014471e-06, + "loss": 0.1681, + "num_input_tokens_seen": 8196936, + "step": 4184 + }, + { + "epoch": 0.5546719681908548, + "grad_norm": 11.438721656799316, + "learning_rate": 4.5915411081346296e-06, + "loss": 0.3361, + "num_input_tokens_seen": 8198632, + "step": 4185 + }, + { + "epoch": 0.55480450629556, + "grad_norm": 4.61662483215332, + "learning_rate": 4.591350929928432e-06, + "loss": 0.0978, + "num_input_tokens_seen": 8199856, + "step": 4186 + }, + { + "epoch": 0.554937044400265, + "grad_norm": 8.586577415466309, + "learning_rate": 4.591160711399546e-06, + "loss": 0.3735, + "num_input_tokens_seen": 8203136, + "step": 4187 + }, + { + "epoch": 0.5550695825049702, + "grad_norm": 1.3087859153747559, + "learning_rate": 4.590970452551639e-06, + "loss": 0.0266, + "num_input_tokens_seen": 8204672, + "step": 4188 + }, + { + "epoch": 0.5552021206096753, + "grad_norm": 7.745833396911621, + "learning_rate": 4.5907801533883795e-06, + "loss": 0.2347, + "num_input_tokens_seen": 8206472, + "step": 4189 + }, + { + "epoch": 0.5553346587143804, + "grad_norm": 18.175031661987305, + "learning_rate": 4.590589813913436e-06, + "loss": 0.4127, + "num_input_tokens_seen": 8207968, + "step": 4190 + }, + { + "epoch": 0.5554671968190855, + "grad_norm": 0.12182530760765076, + "learning_rate": 4.590399434130478e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8209560, + "step": 4191 + }, + { + "epoch": 0.5555997349237906, + "grad_norm": 0.27077168226242065, + "learning_rate": 4.590209014043178e-06, + "loss": 0.0018, + "num_input_tokens_seen": 8212488, + "step": 4192 + }, + { + "epoch": 0.5557322730284957, + "grad_norm": 11.877026557922363, + "learning_rate": 4.590018553655205e-06, + "loss": 0.2348, + "num_input_tokens_seen": 8214528, + "step": 4193 + }, + { + "epoch": 0.5558648111332007, + "grad_norm": 1.5523983240127563, + "learning_rate": 4.589828052970233e-06, + "loss": 0.009, + "num_input_tokens_seen": 8216608, + "step": 4194 + }, + { + "epoch": 0.5559973492379059, + "grad_norm": 0.17122042179107666, + "learning_rate": 4.589637511991935e-06, + "loss": 0.0012, + "num_input_tokens_seen": 8218344, + "step": 4195 + }, + { + "epoch": 0.556129887342611, + "grad_norm": 5.337427616119385, + "learning_rate": 4.589446930723984e-06, + "loss": 0.0544, + "num_input_tokens_seen": 8220536, + "step": 4196 + }, + { + "epoch": 0.5562624254473161, + "grad_norm": 0.1055503562092781, + "learning_rate": 4.589256309170055e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8222096, + "step": 4197 + }, + { + "epoch": 0.5563949635520212, + "grad_norm": 5.509279251098633, + "learning_rate": 4.589065647333822e-06, + "loss": 0.1598, + "num_input_tokens_seen": 8223880, + "step": 4198 + }, + { + "epoch": 0.5565275016567263, + "grad_norm": 13.789811134338379, + "learning_rate": 4.5888749452189625e-06, + "loss": 0.7158, + "num_input_tokens_seen": 8226600, + "step": 4199 + }, + { + "epoch": 0.5566600397614314, + "grad_norm": 6.495257377624512, + "learning_rate": 4.588684202829154e-06, + "loss": 0.124, + "num_input_tokens_seen": 8228928, + "step": 4200 + }, + { + "epoch": 0.5567925778661366, + "grad_norm": 6.73385763168335, + "learning_rate": 4.588493420168072e-06, + "loss": 0.1272, + "num_input_tokens_seen": 8230824, + "step": 4201 + }, + { + "epoch": 0.5569251159708416, + "grad_norm": 0.5748089551925659, + "learning_rate": 4.588302597239396e-06, + "loss": 0.0039, + "num_input_tokens_seen": 8233384, + "step": 4202 + }, + { + "epoch": 0.5570576540755467, + "grad_norm": 12.322843551635742, + "learning_rate": 4.588111734046806e-06, + "loss": 0.2668, + "num_input_tokens_seen": 8235344, + "step": 4203 + }, + { + "epoch": 0.5571901921802518, + "grad_norm": 7.579004287719727, + "learning_rate": 4.58792083059398e-06, + "loss": 0.172, + "num_input_tokens_seen": 8237648, + "step": 4204 + }, + { + "epoch": 0.5573227302849569, + "grad_norm": 0.1485251784324646, + "learning_rate": 4.587729886884602e-06, + "loss": 0.001, + "num_input_tokens_seen": 8238984, + "step": 4205 + }, + { + "epoch": 0.557455268389662, + "grad_norm": 3.3117733001708984, + "learning_rate": 4.587538902922351e-06, + "loss": 0.0244, + "num_input_tokens_seen": 8241192, + "step": 4206 + }, + { + "epoch": 0.5575878064943671, + "grad_norm": 9.784858703613281, + "learning_rate": 4.587347878710909e-06, + "loss": 0.2539, + "num_input_tokens_seen": 8243336, + "step": 4207 + }, + { + "epoch": 0.5577203445990723, + "grad_norm": 0.15626606345176697, + "learning_rate": 4.58715681425396e-06, + "loss": 0.0011, + "num_input_tokens_seen": 8245200, + "step": 4208 + }, + { + "epoch": 0.5578528827037773, + "grad_norm": 0.08361523598432541, + "learning_rate": 4.586965709555188e-06, + "loss": 0.0006, + "num_input_tokens_seen": 8246272, + "step": 4209 + }, + { + "epoch": 0.5579854208084825, + "grad_norm": 6.800239562988281, + "learning_rate": 4.586774564618277e-06, + "loss": 0.2555, + "num_input_tokens_seen": 8247912, + "step": 4210 + }, + { + "epoch": 0.5581179589131875, + "grad_norm": 16.345766067504883, + "learning_rate": 4.586583379446914e-06, + "loss": 0.6866, + "num_input_tokens_seen": 8249888, + "step": 4211 + }, + { + "epoch": 0.5582504970178926, + "grad_norm": 10.406549453735352, + "learning_rate": 4.5863921540447834e-06, + "loss": 0.3264, + "num_input_tokens_seen": 8251680, + "step": 4212 + }, + { + "epoch": 0.5583830351225978, + "grad_norm": 0.08881685882806778, + "learning_rate": 4.586200888415571e-06, + "loss": 0.0006, + "num_input_tokens_seen": 8252728, + "step": 4213 + }, + { + "epoch": 0.5585155732273028, + "grad_norm": 12.554142951965332, + "learning_rate": 4.5860095825629695e-06, + "loss": 0.5008, + "num_input_tokens_seen": 8255472, + "step": 4214 + }, + { + "epoch": 0.558648111332008, + "grad_norm": 0.32159581780433655, + "learning_rate": 4.5858182364906615e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8256808, + "step": 4215 + }, + { + "epoch": 0.558780649436713, + "grad_norm": 15.256695747375488, + "learning_rate": 4.5856268502023405e-06, + "loss": 0.673, + "num_input_tokens_seen": 8258736, + "step": 4216 + }, + { + "epoch": 0.5589131875414182, + "grad_norm": 0.2954338788986206, + "learning_rate": 4.585435423701694e-06, + "loss": 0.002, + "num_input_tokens_seen": 8260808, + "step": 4217 + }, + { + "epoch": 0.5590457256461233, + "grad_norm": 14.656773567199707, + "learning_rate": 4.585243956992415e-06, + "loss": 0.5055, + "num_input_tokens_seen": 8262504, + "step": 4218 + }, + { + "epoch": 0.5591782637508284, + "grad_norm": 0.32726091146469116, + "learning_rate": 4.585052450078193e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8265000, + "step": 4219 + }, + { + "epoch": 0.5593108018555335, + "grad_norm": 0.20523113012313843, + "learning_rate": 4.584860902962721e-06, + "loss": 0.0014, + "num_input_tokens_seen": 8266240, + "step": 4220 + }, + { + "epoch": 0.5594433399602385, + "grad_norm": 9.635098457336426, + "learning_rate": 4.584669315649694e-06, + "loss": 0.4355, + "num_input_tokens_seen": 8269000, + "step": 4221 + }, + { + "epoch": 0.5595758780649437, + "grad_norm": 6.79335355758667, + "learning_rate": 4.584477688142803e-06, + "loss": 0.23, + "num_input_tokens_seen": 8271160, + "step": 4222 + }, + { + "epoch": 0.5597084161696487, + "grad_norm": 7.971199035644531, + "learning_rate": 4.584286020445745e-06, + "loss": 0.0878, + "num_input_tokens_seen": 8273000, + "step": 4223 + }, + { + "epoch": 0.5598409542743539, + "grad_norm": 5.691652774810791, + "learning_rate": 4.584094312562215e-06, + "loss": 0.055, + "num_input_tokens_seen": 8274744, + "step": 4224 + }, + { + "epoch": 0.559973492379059, + "grad_norm": 15.90192985534668, + "learning_rate": 4.583902564495909e-06, + "loss": 0.486, + "num_input_tokens_seen": 8276072, + "step": 4225 + }, + { + "epoch": 0.5601060304837641, + "grad_norm": 7.757584095001221, + "learning_rate": 4.583710776250523e-06, + "loss": 0.1326, + "num_input_tokens_seen": 8278080, + "step": 4226 + }, + { + "epoch": 0.5602385685884692, + "grad_norm": 0.4073067307472229, + "learning_rate": 4.583518947829756e-06, + "loss": 0.0027, + "num_input_tokens_seen": 8279440, + "step": 4227 + }, + { + "epoch": 0.5603711066931742, + "grad_norm": 8.02692699432373, + "learning_rate": 4.583327079237307e-06, + "loss": 0.1566, + "num_input_tokens_seen": 8281704, + "step": 4228 + }, + { + "epoch": 0.5605036447978794, + "grad_norm": 0.3048041760921478, + "learning_rate": 4.583135170476873e-06, + "loss": 0.0021, + "num_input_tokens_seen": 8283112, + "step": 4229 + }, + { + "epoch": 0.5606361829025845, + "grad_norm": 18.203075408935547, + "learning_rate": 4.582943221552158e-06, + "loss": 0.7575, + "num_input_tokens_seen": 8284632, + "step": 4230 + }, + { + "epoch": 0.5607687210072896, + "grad_norm": 11.17457103729248, + "learning_rate": 4.582751232466859e-06, + "loss": 0.191, + "num_input_tokens_seen": 8286376, + "step": 4231 + }, + { + "epoch": 0.5609012591119947, + "grad_norm": 13.156503677368164, + "learning_rate": 4.58255920322468e-06, + "loss": 0.4593, + "num_input_tokens_seen": 8288440, + "step": 4232 + }, + { + "epoch": 0.5610337972166998, + "grad_norm": 10.41724967956543, + "learning_rate": 4.582367133829323e-06, + "loss": 0.1182, + "num_input_tokens_seen": 8290960, + "step": 4233 + }, + { + "epoch": 0.5611663353214049, + "grad_norm": 2.760406970977783, + "learning_rate": 4.582175024284491e-06, + "loss": 0.0155, + "num_input_tokens_seen": 8292904, + "step": 4234 + }, + { + "epoch": 0.56129887342611, + "grad_norm": 0.3311265707015991, + "learning_rate": 4.5819828745938885e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8294400, + "step": 4235 + }, + { + "epoch": 0.5614314115308151, + "grad_norm": 22.410964965820312, + "learning_rate": 4.58179068476122e-06, + "loss": 0.5681, + "num_input_tokens_seen": 8297344, + "step": 4236 + }, + { + "epoch": 0.5615639496355203, + "grad_norm": 10.7067289352417, + "learning_rate": 4.58159845479019e-06, + "loss": 0.2121, + "num_input_tokens_seen": 8299584, + "step": 4237 + }, + { + "epoch": 0.5616964877402253, + "grad_norm": 24.17529296875, + "learning_rate": 4.581406184684506e-06, + "loss": 0.9069, + "num_input_tokens_seen": 8301872, + "step": 4238 + }, + { + "epoch": 0.5618290258449304, + "grad_norm": 10.71629524230957, + "learning_rate": 4.581213874447876e-06, + "loss": 0.2664, + "num_input_tokens_seen": 8303592, + "step": 4239 + }, + { + "epoch": 0.5619615639496355, + "grad_norm": 12.087874412536621, + "learning_rate": 4.581021524084006e-06, + "loss": 0.212, + "num_input_tokens_seen": 8305704, + "step": 4240 + }, + { + "epoch": 0.5620941020543406, + "grad_norm": 14.72028636932373, + "learning_rate": 4.580829133596605e-06, + "loss": 0.5102, + "num_input_tokens_seen": 8308336, + "step": 4241 + }, + { + "epoch": 0.5622266401590458, + "grad_norm": 0.7996182441711426, + "learning_rate": 4.580636702989383e-06, + "loss": 0.0044, + "num_input_tokens_seen": 8310800, + "step": 4242 + }, + { + "epoch": 0.5623591782637508, + "grad_norm": 10.016292572021484, + "learning_rate": 4.58044423226605e-06, + "loss": 0.2175, + "num_input_tokens_seen": 8312832, + "step": 4243 + }, + { + "epoch": 0.562491716368456, + "grad_norm": 0.4290071427822113, + "learning_rate": 4.580251721430318e-06, + "loss": 0.003, + "num_input_tokens_seen": 8314344, + "step": 4244 + }, + { + "epoch": 0.562624254473161, + "grad_norm": 10.686200141906738, + "learning_rate": 4.5800591704858965e-06, + "loss": 0.5142, + "num_input_tokens_seen": 8316984, + "step": 4245 + }, + { + "epoch": 0.5627567925778661, + "grad_norm": 8.642796516418457, + "learning_rate": 4.5798665794365e-06, + "loss": 0.2419, + "num_input_tokens_seen": 8319048, + "step": 4246 + }, + { + "epoch": 0.5628893306825712, + "grad_norm": 0.6038889288902283, + "learning_rate": 4.57967394828584e-06, + "loss": 0.0036, + "num_input_tokens_seen": 8320864, + "step": 4247 + }, + { + "epoch": 0.5630218687872763, + "grad_norm": 7.067734241485596, + "learning_rate": 4.5794812770376325e-06, + "loss": 0.1742, + "num_input_tokens_seen": 8322992, + "step": 4248 + }, + { + "epoch": 0.5631544068919815, + "grad_norm": 0.40288838744163513, + "learning_rate": 4.579288565695591e-06, + "loss": 0.0028, + "num_input_tokens_seen": 8324736, + "step": 4249 + }, + { + "epoch": 0.5632869449966865, + "grad_norm": 0.2552488446235657, + "learning_rate": 4.579095814263431e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8326280, + "step": 4250 + }, + { + "epoch": 0.5634194831013917, + "grad_norm": 18.879011154174805, + "learning_rate": 4.57890302274487e-06, + "loss": 0.5748, + "num_input_tokens_seen": 8327696, + "step": 4251 + }, + { + "epoch": 0.5635520212060967, + "grad_norm": 5.923543930053711, + "learning_rate": 4.5787101911436256e-06, + "loss": 0.0616, + "num_input_tokens_seen": 8329384, + "step": 4252 + }, + { + "epoch": 0.5636845593108019, + "grad_norm": 3.0735182762145996, + "learning_rate": 4.5785173194634135e-06, + "loss": 0.0423, + "num_input_tokens_seen": 8331184, + "step": 4253 + }, + { + "epoch": 0.563817097415507, + "grad_norm": 5.253058910369873, + "learning_rate": 4.5783244077079535e-06, + "loss": 0.297, + "num_input_tokens_seen": 8332760, + "step": 4254 + }, + { + "epoch": 0.563949635520212, + "grad_norm": 13.91555404663086, + "learning_rate": 4.578131455880966e-06, + "loss": 0.5648, + "num_input_tokens_seen": 8335680, + "step": 4255 + }, + { + "epoch": 0.5640821736249172, + "grad_norm": 7.740660667419434, + "learning_rate": 4.577938463986169e-06, + "loss": 0.0815, + "num_input_tokens_seen": 8337760, + "step": 4256 + }, + { + "epoch": 0.5642147117296222, + "grad_norm": 5.496605396270752, + "learning_rate": 4.577745432027286e-06, + "loss": 0.1804, + "num_input_tokens_seen": 8339568, + "step": 4257 + }, + { + "epoch": 0.5643472498343274, + "grad_norm": 17.28211212158203, + "learning_rate": 4.5775523600080375e-06, + "loss": 0.5457, + "num_input_tokens_seen": 8341600, + "step": 4258 + }, + { + "epoch": 0.5644797879390324, + "grad_norm": 9.130685806274414, + "learning_rate": 4.577359247932146e-06, + "loss": 0.4271, + "num_input_tokens_seen": 8343432, + "step": 4259 + }, + { + "epoch": 0.5646123260437376, + "grad_norm": 2.593804121017456, + "learning_rate": 4.577166095803336e-06, + "loss": 0.0241, + "num_input_tokens_seen": 8344992, + "step": 4260 + }, + { + "epoch": 0.5647448641484427, + "grad_norm": 3.4626922607421875, + "learning_rate": 4.57697290362533e-06, + "loss": 0.0908, + "num_input_tokens_seen": 8347104, + "step": 4261 + }, + { + "epoch": 0.5648774022531478, + "grad_norm": 10.954967498779297, + "learning_rate": 4.576779671401853e-06, + "loss": 0.156, + "num_input_tokens_seen": 8349208, + "step": 4262 + }, + { + "epoch": 0.5650099403578529, + "grad_norm": 7.874474048614502, + "learning_rate": 4.576586399136632e-06, + "loss": 0.3566, + "num_input_tokens_seen": 8351176, + "step": 4263 + }, + { + "epoch": 0.5651424784625579, + "grad_norm": 3.974134683609009, + "learning_rate": 4.576393086833393e-06, + "loss": 0.0725, + "num_input_tokens_seen": 8353752, + "step": 4264 + }, + { + "epoch": 0.5652750165672631, + "grad_norm": 8.1998929977417, + "learning_rate": 4.576199734495862e-06, + "loss": 0.2603, + "num_input_tokens_seen": 8355472, + "step": 4265 + }, + { + "epoch": 0.5654075546719682, + "grad_norm": 15.944494247436523, + "learning_rate": 4.576006342127768e-06, + "loss": 0.5336, + "num_input_tokens_seen": 8357832, + "step": 4266 + }, + { + "epoch": 0.5655400927766733, + "grad_norm": 9.196968078613281, + "learning_rate": 4.57581290973284e-06, + "loss": 0.2245, + "num_input_tokens_seen": 8359512, + "step": 4267 + }, + { + "epoch": 0.5656726308813784, + "grad_norm": 6.578267574310303, + "learning_rate": 4.575619437314807e-06, + "loss": 0.2115, + "num_input_tokens_seen": 8361384, + "step": 4268 + }, + { + "epoch": 0.5658051689860835, + "grad_norm": 9.462727546691895, + "learning_rate": 4.575425924877399e-06, + "loss": 0.23, + "num_input_tokens_seen": 8363208, + "step": 4269 + }, + { + "epoch": 0.5659377070907886, + "grad_norm": 4.790237903594971, + "learning_rate": 4.575232372424348e-06, + "loss": 0.1118, + "num_input_tokens_seen": 8365320, + "step": 4270 + }, + { + "epoch": 0.5660702451954938, + "grad_norm": 5.361525058746338, + "learning_rate": 4.575038779959385e-06, + "loss": 0.0307, + "num_input_tokens_seen": 8366856, + "step": 4271 + }, + { + "epoch": 0.5662027833001988, + "grad_norm": 8.946442604064941, + "learning_rate": 4.574845147486242e-06, + "loss": 0.2441, + "num_input_tokens_seen": 8369752, + "step": 4272 + }, + { + "epoch": 0.566335321404904, + "grad_norm": 12.714821815490723, + "learning_rate": 4.574651475008655e-06, + "loss": 0.434, + "num_input_tokens_seen": 8372000, + "step": 4273 + }, + { + "epoch": 0.566467859509609, + "grad_norm": 20.241958618164062, + "learning_rate": 4.574457762530354e-06, + "loss": 0.8547, + "num_input_tokens_seen": 8374528, + "step": 4274 + }, + { + "epoch": 0.5666003976143141, + "grad_norm": 9.682726860046387, + "learning_rate": 4.5742640100550776e-06, + "loss": 0.3227, + "num_input_tokens_seen": 8376704, + "step": 4275 + }, + { + "epoch": 0.5667329357190192, + "grad_norm": 11.85971736907959, + "learning_rate": 4.57407021758656e-06, + "loss": 0.4482, + "num_input_tokens_seen": 8378152, + "step": 4276 + }, + { + "epoch": 0.5668654738237243, + "grad_norm": 22.23664665222168, + "learning_rate": 4.573876385128539e-06, + "loss": 0.7954, + "num_input_tokens_seen": 8379952, + "step": 4277 + }, + { + "epoch": 0.5669980119284295, + "grad_norm": 10.538466453552246, + "learning_rate": 4.573682512684748e-06, + "loss": 0.263, + "num_input_tokens_seen": 8381672, + "step": 4278 + }, + { + "epoch": 0.5671305500331345, + "grad_norm": 7.241318225860596, + "learning_rate": 4.57348860025893e-06, + "loss": 0.2313, + "num_input_tokens_seen": 8383464, + "step": 4279 + }, + { + "epoch": 0.5672630881378397, + "grad_norm": 7.920835018157959, + "learning_rate": 4.573294647854819e-06, + "loss": 0.1121, + "num_input_tokens_seen": 8385248, + "step": 4280 + }, + { + "epoch": 0.5673956262425447, + "grad_norm": 0.19351337850093842, + "learning_rate": 4.573100655476159e-06, + "loss": 0.0013, + "num_input_tokens_seen": 8386680, + "step": 4281 + }, + { + "epoch": 0.5675281643472498, + "grad_norm": 8.171653747558594, + "learning_rate": 4.572906623126687e-06, + "loss": 0.1455, + "num_input_tokens_seen": 8388480, + "step": 4282 + }, + { + "epoch": 0.567660702451955, + "grad_norm": 0.22796307504177094, + "learning_rate": 4.572712550810146e-06, + "loss": 0.0015, + "num_input_tokens_seen": 8389648, + "step": 4283 + }, + { + "epoch": 0.56779324055666, + "grad_norm": 11.489493370056152, + "learning_rate": 4.5725184385302765e-06, + "loss": 0.3254, + "num_input_tokens_seen": 8391736, + "step": 4284 + }, + { + "epoch": 0.5679257786613652, + "grad_norm": 3.537522315979004, + "learning_rate": 4.5723242862908225e-06, + "loss": 0.0748, + "num_input_tokens_seen": 8393464, + "step": 4285 + }, + { + "epoch": 0.5680583167660702, + "grad_norm": 0.6127605438232422, + "learning_rate": 4.572130094095526e-06, + "loss": 0.0041, + "num_input_tokens_seen": 8394808, + "step": 4286 + }, + { + "epoch": 0.5681908548707754, + "grad_norm": 0.7648752331733704, + "learning_rate": 4.571935861948132e-06, + "loss": 0.0114, + "num_input_tokens_seen": 8396464, + "step": 4287 + }, + { + "epoch": 0.5683233929754804, + "grad_norm": 12.284891128540039, + "learning_rate": 4.571741589852385e-06, + "loss": 0.278, + "num_input_tokens_seen": 8398248, + "step": 4288 + }, + { + "epoch": 0.5684559310801856, + "grad_norm": 7.874042987823486, + "learning_rate": 4.5715472778120315e-06, + "loss": 0.2357, + "num_input_tokens_seen": 8400104, + "step": 4289 + }, + { + "epoch": 0.5685884691848907, + "grad_norm": 11.329712867736816, + "learning_rate": 4.571352925830817e-06, + "loss": 0.2304, + "num_input_tokens_seen": 8402904, + "step": 4290 + }, + { + "epoch": 0.5687210072895957, + "grad_norm": 9.141334533691406, + "learning_rate": 4.571158533912489e-06, + "loss": 0.346, + "num_input_tokens_seen": 8405056, + "step": 4291 + }, + { + "epoch": 0.5688535453943009, + "grad_norm": 0.2751242518424988, + "learning_rate": 4.570964102060796e-06, + "loss": 0.0018, + "num_input_tokens_seen": 8406328, + "step": 4292 + }, + { + "epoch": 0.5689860834990059, + "grad_norm": 9.666380882263184, + "learning_rate": 4.570769630279486e-06, + "loss": 0.1686, + "num_input_tokens_seen": 8408600, + "step": 4293 + }, + { + "epoch": 0.5691186216037111, + "grad_norm": 10.13422679901123, + "learning_rate": 4.570575118572309e-06, + "loss": 0.0319, + "num_input_tokens_seen": 8410472, + "step": 4294 + }, + { + "epoch": 0.5692511597084162, + "grad_norm": 4.587724685668945, + "learning_rate": 4.570380566943016e-06, + "loss": 0.1246, + "num_input_tokens_seen": 8413200, + "step": 4295 + }, + { + "epoch": 0.5693836978131213, + "grad_norm": 7.932286262512207, + "learning_rate": 4.570185975395357e-06, + "loss": 0.2141, + "num_input_tokens_seen": 8415800, + "step": 4296 + }, + { + "epoch": 0.5695162359178264, + "grad_norm": 20.300233840942383, + "learning_rate": 4.569991343933084e-06, + "loss": 0.4416, + "num_input_tokens_seen": 8418248, + "step": 4297 + }, + { + "epoch": 0.5696487740225314, + "grad_norm": 0.07834914326667786, + "learning_rate": 4.569796672559949e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8419520, + "step": 4298 + }, + { + "epoch": 0.5697813121272366, + "grad_norm": 13.601746559143066, + "learning_rate": 4.569601961279708e-06, + "loss": 0.676, + "num_input_tokens_seen": 8421120, + "step": 4299 + }, + { + "epoch": 0.5699138502319416, + "grad_norm": 16.05999183654785, + "learning_rate": 4.569407210096113e-06, + "loss": 0.4325, + "num_input_tokens_seen": 8423008, + "step": 4300 + }, + { + "epoch": 0.5700463883366468, + "grad_norm": 12.571924209594727, + "learning_rate": 4.569212419012919e-06, + "loss": 0.1696, + "num_input_tokens_seen": 8424736, + "step": 4301 + }, + { + "epoch": 0.5701789264413519, + "grad_norm": 5.0280609130859375, + "learning_rate": 4.569017588033882e-06, + "loss": 0.1832, + "num_input_tokens_seen": 8426232, + "step": 4302 + }, + { + "epoch": 0.570311464546057, + "grad_norm": 16.32701301574707, + "learning_rate": 4.5688227171627586e-06, + "loss": 1.074, + "num_input_tokens_seen": 8429400, + "step": 4303 + }, + { + "epoch": 0.5704440026507621, + "grad_norm": 5.640312671661377, + "learning_rate": 4.568627806403306e-06, + "loss": 0.0368, + "num_input_tokens_seen": 8431176, + "step": 4304 + }, + { + "epoch": 0.5705765407554672, + "grad_norm": 14.657163619995117, + "learning_rate": 4.5684328557592825e-06, + "loss": 0.4167, + "num_input_tokens_seen": 8432800, + "step": 4305 + }, + { + "epoch": 0.5707090788601723, + "grad_norm": 10.338888168334961, + "learning_rate": 4.568237865234447e-06, + "loss": 0.2876, + "num_input_tokens_seen": 8434976, + "step": 4306 + }, + { + "epoch": 0.5708416169648775, + "grad_norm": 5.957551956176758, + "learning_rate": 4.5680428348325575e-06, + "loss": 0.1107, + "num_input_tokens_seen": 8437704, + "step": 4307 + }, + { + "epoch": 0.5709741550695825, + "grad_norm": 16.47465705871582, + "learning_rate": 4.567847764557377e-06, + "loss": 0.546, + "num_input_tokens_seen": 8439872, + "step": 4308 + }, + { + "epoch": 0.5711066931742876, + "grad_norm": 0.11251896619796753, + "learning_rate": 4.567652654412664e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8441104, + "step": 4309 + }, + { + "epoch": 0.5712392312789927, + "grad_norm": 4.6540069580078125, + "learning_rate": 4.567457504402182e-06, + "loss": 0.0521, + "num_input_tokens_seen": 8442536, + "step": 4310 + }, + { + "epoch": 0.5713717693836978, + "grad_norm": 5.070131301879883, + "learning_rate": 4.567262314529693e-06, + "loss": 0.1366, + "num_input_tokens_seen": 8443816, + "step": 4311 + }, + { + "epoch": 0.5715043074884029, + "grad_norm": 8.351707458496094, + "learning_rate": 4.56706708479896e-06, + "loss": 0.135, + "num_input_tokens_seen": 8446944, + "step": 4312 + }, + { + "epoch": 0.571636845593108, + "grad_norm": 0.9232221841812134, + "learning_rate": 4.566871815213747e-06, + "loss": 0.0053, + "num_input_tokens_seen": 8448752, + "step": 4313 + }, + { + "epoch": 0.5717693836978132, + "grad_norm": 3.869992971420288, + "learning_rate": 4.566676505777821e-06, + "loss": 0.0342, + "num_input_tokens_seen": 8452096, + "step": 4314 + }, + { + "epoch": 0.5719019218025182, + "grad_norm": 15.801178932189941, + "learning_rate": 4.566481156494944e-06, + "loss": 0.1767, + "num_input_tokens_seen": 8453816, + "step": 4315 + }, + { + "epoch": 0.5720344599072233, + "grad_norm": 7.275855541229248, + "learning_rate": 4.5662857673688875e-06, + "loss": 0.3267, + "num_input_tokens_seen": 8455376, + "step": 4316 + }, + { + "epoch": 0.5721669980119284, + "grad_norm": 8.781572341918945, + "learning_rate": 4.5660903384034135e-06, + "loss": 0.156, + "num_input_tokens_seen": 8457160, + "step": 4317 + }, + { + "epoch": 0.5722995361166335, + "grad_norm": 0.7213758230209351, + "learning_rate": 4.565894869602294e-06, + "loss": 0.0048, + "num_input_tokens_seen": 8459784, + "step": 4318 + }, + { + "epoch": 0.5724320742213387, + "grad_norm": 14.654979705810547, + "learning_rate": 4.565699360969297e-06, + "loss": 0.5773, + "num_input_tokens_seen": 8462112, + "step": 4319 + }, + { + "epoch": 0.5725646123260437, + "grad_norm": 9.059070587158203, + "learning_rate": 4.565503812508189e-06, + "loss": 0.4075, + "num_input_tokens_seen": 8464104, + "step": 4320 + }, + { + "epoch": 0.5726971504307489, + "grad_norm": 7.977756023406982, + "learning_rate": 4.565308224222745e-06, + "loss": 0.348, + "num_input_tokens_seen": 8466048, + "step": 4321 + }, + { + "epoch": 0.5728296885354539, + "grad_norm": 0.11737184226512909, + "learning_rate": 4.5651125961167305e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8467152, + "step": 4322 + }, + { + "epoch": 0.5729622266401591, + "grad_norm": 23.347951889038086, + "learning_rate": 4.564916928193923e-06, + "loss": 0.5547, + "num_input_tokens_seen": 8468760, + "step": 4323 + }, + { + "epoch": 0.5730947647448641, + "grad_norm": 7.015285968780518, + "learning_rate": 4.5647212204580915e-06, + "loss": 0.2062, + "num_input_tokens_seen": 8471704, + "step": 4324 + }, + { + "epoch": 0.5732273028495692, + "grad_norm": 8.148268699645996, + "learning_rate": 4.564525472913012e-06, + "loss": 0.149, + "num_input_tokens_seen": 8473632, + "step": 4325 + }, + { + "epoch": 0.5733598409542744, + "grad_norm": 0.31451258063316345, + "learning_rate": 4.564329685562455e-06, + "loss": 0.002, + "num_input_tokens_seen": 8475016, + "step": 4326 + }, + { + "epoch": 0.5734923790589794, + "grad_norm": 12.027788162231445, + "learning_rate": 4.564133858410199e-06, + "loss": 0.2643, + "num_input_tokens_seen": 8476536, + "step": 4327 + }, + { + "epoch": 0.5736249171636846, + "grad_norm": 6.506690979003906, + "learning_rate": 4.5639379914600176e-06, + "loss": 0.1771, + "num_input_tokens_seen": 8478056, + "step": 4328 + }, + { + "epoch": 0.5737574552683896, + "grad_norm": 5.623752593994141, + "learning_rate": 4.5637420847156884e-06, + "loss": 0.1983, + "num_input_tokens_seen": 8479592, + "step": 4329 + }, + { + "epoch": 0.5738899933730948, + "grad_norm": 0.7790703773498535, + "learning_rate": 4.563546138180988e-06, + "loss": 0.0149, + "num_input_tokens_seen": 8481032, + "step": 4330 + }, + { + "epoch": 0.5740225314777999, + "grad_norm": 10.818570137023926, + "learning_rate": 4.563350151859695e-06, + "loss": 0.2969, + "num_input_tokens_seen": 8482928, + "step": 4331 + }, + { + "epoch": 0.574155069582505, + "grad_norm": 6.5961103439331055, + "learning_rate": 4.5631541257555866e-06, + "loss": 0.145, + "num_input_tokens_seen": 8484904, + "step": 4332 + }, + { + "epoch": 0.5742876076872101, + "grad_norm": 6.804736614227295, + "learning_rate": 4.562958059872443e-06, + "loss": 0.1083, + "num_input_tokens_seen": 8486656, + "step": 4333 + }, + { + "epoch": 0.5744201457919151, + "grad_norm": 8.181356430053711, + "learning_rate": 4.5627619542140465e-06, + "loss": 0.1237, + "num_input_tokens_seen": 8488424, + "step": 4334 + }, + { + "epoch": 0.5745526838966203, + "grad_norm": 7.599025726318359, + "learning_rate": 4.562565808784175e-06, + "loss": 0.3012, + "num_input_tokens_seen": 8490584, + "step": 4335 + }, + { + "epoch": 0.5746852220013254, + "grad_norm": 4.574509143829346, + "learning_rate": 4.562369623586612e-06, + "loss": 0.0307, + "num_input_tokens_seen": 8491832, + "step": 4336 + }, + { + "epoch": 0.5748177601060305, + "grad_norm": 0.25657889246940613, + "learning_rate": 4.56217339862514e-06, + "loss": 0.0015, + "num_input_tokens_seen": 8493168, + "step": 4337 + }, + { + "epoch": 0.5749502982107356, + "grad_norm": 0.08141116797924042, + "learning_rate": 4.561977133903543e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8494368, + "step": 4338 + }, + { + "epoch": 0.5750828363154407, + "grad_norm": 6.296396255493164, + "learning_rate": 4.561780829425604e-06, + "loss": 0.0884, + "num_input_tokens_seen": 8495824, + "step": 4339 + }, + { + "epoch": 0.5752153744201458, + "grad_norm": 7.0741095542907715, + "learning_rate": 4.561584485195108e-06, + "loss": 0.1277, + "num_input_tokens_seen": 8496928, + "step": 4340 + }, + { + "epoch": 0.5753479125248508, + "grad_norm": 5.731409072875977, + "learning_rate": 4.561388101215841e-06, + "loss": 0.1947, + "num_input_tokens_seen": 8499016, + "step": 4341 + }, + { + "epoch": 0.575480450629556, + "grad_norm": 6.399181365966797, + "learning_rate": 4.56119167749159e-06, + "loss": 0.2332, + "num_input_tokens_seen": 8501080, + "step": 4342 + }, + { + "epoch": 0.5756129887342611, + "grad_norm": 12.875848770141602, + "learning_rate": 4.560995214026141e-06, + "loss": 0.3918, + "num_input_tokens_seen": 8503432, + "step": 4343 + }, + { + "epoch": 0.5757455268389662, + "grad_norm": 9.309961318969727, + "learning_rate": 4.560798710823282e-06, + "loss": 0.2479, + "num_input_tokens_seen": 8505816, + "step": 4344 + }, + { + "epoch": 0.5758780649436713, + "grad_norm": 1.1099779605865479, + "learning_rate": 4.560602167886803e-06, + "loss": 0.0299, + "num_input_tokens_seen": 8507664, + "step": 4345 + }, + { + "epoch": 0.5760106030483764, + "grad_norm": 8.282926559448242, + "learning_rate": 4.560405585220492e-06, + "loss": 0.2038, + "num_input_tokens_seen": 8509616, + "step": 4346 + }, + { + "epoch": 0.5761431411530815, + "grad_norm": 19.77098274230957, + "learning_rate": 4.560208962828141e-06, + "loss": 0.724, + "num_input_tokens_seen": 8511640, + "step": 4347 + }, + { + "epoch": 0.5762756792577867, + "grad_norm": 0.3607216477394104, + "learning_rate": 4.5600123007135385e-06, + "loss": 0.0022, + "num_input_tokens_seen": 8513408, + "step": 4348 + }, + { + "epoch": 0.5764082173624917, + "grad_norm": 0.2982603907585144, + "learning_rate": 4.559815598880478e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8514632, + "step": 4349 + }, + { + "epoch": 0.5765407554671969, + "grad_norm": 3.2125802040100098, + "learning_rate": 4.559618857332752e-06, + "loss": 0.036, + "num_input_tokens_seen": 8516264, + "step": 4350 + }, + { + "epoch": 0.5766732935719019, + "grad_norm": 9.185589790344238, + "learning_rate": 4.5594220760741535e-06, + "loss": 0.312, + "num_input_tokens_seen": 8518496, + "step": 4351 + }, + { + "epoch": 0.576805831676607, + "grad_norm": 8.0495023727417, + "learning_rate": 4.559225255108477e-06, + "loss": 0.2852, + "num_input_tokens_seen": 8520200, + "step": 4352 + }, + { + "epoch": 0.5769383697813121, + "grad_norm": 8.494548797607422, + "learning_rate": 4.559028394439517e-06, + "loss": 0.151, + "num_input_tokens_seen": 8522440, + "step": 4353 + }, + { + "epoch": 0.5770709078860172, + "grad_norm": 0.25275135040283203, + "learning_rate": 4.558831494071069e-06, + "loss": 0.0017, + "num_input_tokens_seen": 8524136, + "step": 4354 + }, + { + "epoch": 0.5772034459907224, + "grad_norm": 1.3453714847564697, + "learning_rate": 4.558634554006929e-06, + "loss": 0.009, + "num_input_tokens_seen": 8526880, + "step": 4355 + }, + { + "epoch": 0.5773359840954274, + "grad_norm": 10.653584480285645, + "learning_rate": 4.558437574250896e-06, + "loss": 0.3991, + "num_input_tokens_seen": 8528576, + "step": 4356 + }, + { + "epoch": 0.5774685222001326, + "grad_norm": 14.852418899536133, + "learning_rate": 4.558240554806765e-06, + "loss": 0.646, + "num_input_tokens_seen": 8530120, + "step": 4357 + }, + { + "epoch": 0.5776010603048376, + "grad_norm": 9.925727844238281, + "learning_rate": 4.558043495678336e-06, + "loss": 0.144, + "num_input_tokens_seen": 8532168, + "step": 4358 + }, + { + "epoch": 0.5777335984095427, + "grad_norm": 0.045869458466768265, + "learning_rate": 4.55784639686941e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8534032, + "step": 4359 + }, + { + "epoch": 0.5778661365142479, + "grad_norm": 0.17023147642612457, + "learning_rate": 4.557649258383785e-06, + "loss": 0.001, + "num_input_tokens_seen": 8536472, + "step": 4360 + }, + { + "epoch": 0.5779986746189529, + "grad_norm": 10.310873031616211, + "learning_rate": 4.557452080225263e-06, + "loss": 0.1882, + "num_input_tokens_seen": 8537984, + "step": 4361 + }, + { + "epoch": 0.5781312127236581, + "grad_norm": 0.03095160238444805, + "learning_rate": 4.557254862397645e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8539568, + "step": 4362 + }, + { + "epoch": 0.5782637508283631, + "grad_norm": 0.031688202172517776, + "learning_rate": 4.557057604904735e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8541096, + "step": 4363 + }, + { + "epoch": 0.5783962889330683, + "grad_norm": 7.196596622467041, + "learning_rate": 4.5568603077503345e-06, + "loss": 0.1348, + "num_input_tokens_seen": 8543416, + "step": 4364 + }, + { + "epoch": 0.5785288270377733, + "grad_norm": 0.11335533112287521, + "learning_rate": 4.556662970938249e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8544944, + "step": 4365 + }, + { + "epoch": 0.5786613651424785, + "grad_norm": 10.476348876953125, + "learning_rate": 4.5564655944722825e-06, + "loss": 0.2256, + "num_input_tokens_seen": 8547376, + "step": 4366 + }, + { + "epoch": 0.5787939032471836, + "grad_norm": 0.0516941137611866, + "learning_rate": 4.55626817835624e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8549688, + "step": 4367 + }, + { + "epoch": 0.5789264413518886, + "grad_norm": 0.0313602089881897, + "learning_rate": 4.556070722593929e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8550936, + "step": 4368 + }, + { + "epoch": 0.5790589794565938, + "grad_norm": 8.793875694274902, + "learning_rate": 4.555873227189156e-06, + "loss": 0.15, + "num_input_tokens_seen": 8554000, + "step": 4369 + }, + { + "epoch": 0.5791915175612988, + "grad_norm": 0.0633508712053299, + "learning_rate": 4.555675692145729e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8555296, + "step": 4370 + }, + { + "epoch": 0.579324055666004, + "grad_norm": 11.965086936950684, + "learning_rate": 4.555478117467456e-06, + "loss": 0.1877, + "num_input_tokens_seen": 8557440, + "step": 4371 + }, + { + "epoch": 0.5794565937707091, + "grad_norm": 0.013543857261538506, + "learning_rate": 4.555280503158147e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8559000, + "step": 4372 + }, + { + "epoch": 0.5795891318754142, + "grad_norm": 10.043455123901367, + "learning_rate": 4.555082849221612e-06, + "loss": 0.2861, + "num_input_tokens_seen": 8560912, + "step": 4373 + }, + { + "epoch": 0.5797216699801193, + "grad_norm": 0.12319021672010422, + "learning_rate": 4.554885155661663e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8562816, + "step": 4374 + }, + { + "epoch": 0.5798542080848244, + "grad_norm": 33.75932693481445, + "learning_rate": 4.55468742248211e-06, + "loss": 0.5537, + "num_input_tokens_seen": 8564280, + "step": 4375 + }, + { + "epoch": 0.5799867461895295, + "grad_norm": 10.492067337036133, + "learning_rate": 4.554489649686765e-06, + "loss": 0.2457, + "num_input_tokens_seen": 8566760, + "step": 4376 + }, + { + "epoch": 0.5801192842942345, + "grad_norm": 6.253518104553223, + "learning_rate": 4.5542918372794435e-06, + "loss": 0.2509, + "num_input_tokens_seen": 8568872, + "step": 4377 + }, + { + "epoch": 0.5802518223989397, + "grad_norm": 0.3660961091518402, + "learning_rate": 4.554093985263958e-06, + "loss": 0.0024, + "num_input_tokens_seen": 8570312, + "step": 4378 + }, + { + "epoch": 0.5803843605036448, + "grad_norm": 13.249551773071289, + "learning_rate": 4.5538960936441235e-06, + "loss": 0.4213, + "num_input_tokens_seen": 8573352, + "step": 4379 + }, + { + "epoch": 0.5805168986083499, + "grad_norm": 0.07100484520196915, + "learning_rate": 4.5536981624237545e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8574800, + "step": 4380 + }, + { + "epoch": 0.580649436713055, + "grad_norm": 0.037556443363428116, + "learning_rate": 4.553500191606669e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8575936, + "step": 4381 + }, + { + "epoch": 0.5807819748177601, + "grad_norm": 5.215287208557129, + "learning_rate": 4.553302181196683e-06, + "loss": 0.1371, + "num_input_tokens_seen": 8577416, + "step": 4382 + }, + { + "epoch": 0.5809145129224652, + "grad_norm": 10.468539237976074, + "learning_rate": 4.553104131197614e-06, + "loss": 0.2726, + "num_input_tokens_seen": 8580040, + "step": 4383 + }, + { + "epoch": 0.5810470510271704, + "grad_norm": 5.80501651763916, + "learning_rate": 4.552906041613282e-06, + "loss": 0.0992, + "num_input_tokens_seen": 8581936, + "step": 4384 + }, + { + "epoch": 0.5811795891318754, + "grad_norm": 0.5218558311462402, + "learning_rate": 4.552707912447504e-06, + "loss": 0.0029, + "num_input_tokens_seen": 8584240, + "step": 4385 + }, + { + "epoch": 0.5813121272365805, + "grad_norm": 12.1973876953125, + "learning_rate": 4.552509743704102e-06, + "loss": 0.4238, + "num_input_tokens_seen": 8585976, + "step": 4386 + }, + { + "epoch": 0.5814446653412856, + "grad_norm": 8.577536582946777, + "learning_rate": 4.552311535386897e-06, + "loss": 0.3621, + "num_input_tokens_seen": 8587688, + "step": 4387 + }, + { + "epoch": 0.5815772034459907, + "grad_norm": 0.029581217095255852, + "learning_rate": 4.552113287499708e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8588912, + "step": 4388 + }, + { + "epoch": 0.5817097415506959, + "grad_norm": 9.509265899658203, + "learning_rate": 4.55191500004636e-06, + "loss": 0.2605, + "num_input_tokens_seen": 8591208, + "step": 4389 + }, + { + "epoch": 0.5818422796554009, + "grad_norm": 10.583097457885742, + "learning_rate": 4.551716673030676e-06, + "loss": 0.1594, + "num_input_tokens_seen": 8592896, + "step": 4390 + }, + { + "epoch": 0.5819748177601061, + "grad_norm": 0.052210304886102676, + "learning_rate": 4.551518306456478e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8594344, + "step": 4391 + }, + { + "epoch": 0.5821073558648111, + "grad_norm": 10.652533531188965, + "learning_rate": 4.551319900327593e-06, + "loss": 0.3092, + "num_input_tokens_seen": 8596352, + "step": 4392 + }, + { + "epoch": 0.5822398939695163, + "grad_norm": 0.12843726575374603, + "learning_rate": 4.551121454647844e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8598272, + "step": 4393 + }, + { + "epoch": 0.5823724320742213, + "grad_norm": 8.99263858795166, + "learning_rate": 4.550922969421059e-06, + "loss": 0.1758, + "num_input_tokens_seen": 8600304, + "step": 4394 + }, + { + "epoch": 0.5825049701789264, + "grad_norm": 22.130340576171875, + "learning_rate": 4.550724444651065e-06, + "loss": 0.8582, + "num_input_tokens_seen": 8603496, + "step": 4395 + }, + { + "epoch": 0.5826375082836316, + "grad_norm": 4.380096912384033, + "learning_rate": 4.550525880341688e-06, + "loss": 0.0439, + "num_input_tokens_seen": 8605112, + "step": 4396 + }, + { + "epoch": 0.5827700463883366, + "grad_norm": 5.272134780883789, + "learning_rate": 4.5503272764967574e-06, + "loss": 0.2539, + "num_input_tokens_seen": 8606856, + "step": 4397 + }, + { + "epoch": 0.5829025844930418, + "grad_norm": 0.05595359206199646, + "learning_rate": 4.550128633120102e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8608216, + "step": 4398 + }, + { + "epoch": 0.5830351225977468, + "grad_norm": 7.434205532073975, + "learning_rate": 4.549929950215553e-06, + "loss": 0.3007, + "num_input_tokens_seen": 8610416, + "step": 4399 + }, + { + "epoch": 0.583167660702452, + "grad_norm": 7.668612480163574, + "learning_rate": 4.549731227786941e-06, + "loss": 0.2227, + "num_input_tokens_seen": 8612080, + "step": 4400 + }, + { + "epoch": 0.5833001988071571, + "grad_norm": 7.521057605743408, + "learning_rate": 4.549532465838096e-06, + "loss": 0.1927, + "num_input_tokens_seen": 8614176, + "step": 4401 + }, + { + "epoch": 0.5834327369118621, + "grad_norm": 3.920696258544922, + "learning_rate": 4.549333664372851e-06, + "loss": 0.1192, + "num_input_tokens_seen": 8615608, + "step": 4402 + }, + { + "epoch": 0.5835652750165673, + "grad_norm": 4.160447597503662, + "learning_rate": 4.549134823395039e-06, + "loss": 0.0099, + "num_input_tokens_seen": 8617088, + "step": 4403 + }, + { + "epoch": 0.5836978131212723, + "grad_norm": 2.0484983921051025, + "learning_rate": 4.548935942908494e-06, + "loss": 0.0098, + "num_input_tokens_seen": 8618808, + "step": 4404 + }, + { + "epoch": 0.5838303512259775, + "grad_norm": 19.578227996826172, + "learning_rate": 4.548737022917051e-06, + "loss": 0.7331, + "num_input_tokens_seen": 8620136, + "step": 4405 + }, + { + "epoch": 0.5839628893306825, + "grad_norm": 13.342570304870605, + "learning_rate": 4.548538063424546e-06, + "loss": 0.5457, + "num_input_tokens_seen": 8622456, + "step": 4406 + }, + { + "epoch": 0.5840954274353877, + "grad_norm": 5.851290702819824, + "learning_rate": 4.548339064434812e-06, + "loss": 0.0959, + "num_input_tokens_seen": 8624408, + "step": 4407 + }, + { + "epoch": 0.5842279655400928, + "grad_norm": 17.008792877197266, + "learning_rate": 4.548140025951689e-06, + "loss": 0.3667, + "num_input_tokens_seen": 8626032, + "step": 4408 + }, + { + "epoch": 0.5843605036447979, + "grad_norm": 0.07513957470655441, + "learning_rate": 4.547940947979013e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8627728, + "step": 4409 + }, + { + "epoch": 0.584493041749503, + "grad_norm": 5.069014549255371, + "learning_rate": 4.547741830520622e-06, + "loss": 0.0654, + "num_input_tokens_seen": 8629384, + "step": 4410 + }, + { + "epoch": 0.584625579854208, + "grad_norm": 18.559001922607422, + "learning_rate": 4.547542673580357e-06, + "loss": 0.2714, + "num_input_tokens_seen": 8630912, + "step": 4411 + }, + { + "epoch": 0.5847581179589132, + "grad_norm": 9.031882286071777, + "learning_rate": 4.547343477162056e-06, + "loss": 0.2967, + "num_input_tokens_seen": 8633400, + "step": 4412 + }, + { + "epoch": 0.5848906560636183, + "grad_norm": 7.995486736297607, + "learning_rate": 4.5471442412695605e-06, + "loss": 0.2286, + "num_input_tokens_seen": 8635624, + "step": 4413 + }, + { + "epoch": 0.5850231941683234, + "grad_norm": 3.0888314247131348, + "learning_rate": 4.546944965906712e-06, + "loss": 0.0513, + "num_input_tokens_seen": 8637912, + "step": 4414 + }, + { + "epoch": 0.5851557322730285, + "grad_norm": 9.285609245300293, + "learning_rate": 4.5467456510773525e-06, + "loss": 0.2707, + "num_input_tokens_seen": 8640008, + "step": 4415 + }, + { + "epoch": 0.5852882703777336, + "grad_norm": 10.080692291259766, + "learning_rate": 4.546546296785324e-06, + "loss": 0.2375, + "num_input_tokens_seen": 8641656, + "step": 4416 + }, + { + "epoch": 0.5854208084824387, + "grad_norm": 1.5417126417160034, + "learning_rate": 4.546346903034472e-06, + "loss": 0.058, + "num_input_tokens_seen": 8644032, + "step": 4417 + }, + { + "epoch": 0.5855533465871438, + "grad_norm": 0.24453695118427277, + "learning_rate": 4.54614746982864e-06, + "loss": 0.0016, + "num_input_tokens_seen": 8645680, + "step": 4418 + }, + { + "epoch": 0.5856858846918489, + "grad_norm": 0.48124921321868896, + "learning_rate": 4.545947997171673e-06, + "loss": 0.003, + "num_input_tokens_seen": 8647000, + "step": 4419 + }, + { + "epoch": 0.585818422796554, + "grad_norm": 5.7744879722595215, + "learning_rate": 4.545748485067417e-06, + "loss": 0.1108, + "num_input_tokens_seen": 8648512, + "step": 4420 + }, + { + "epoch": 0.5859509609012591, + "grad_norm": 8.144845008850098, + "learning_rate": 4.5455489335197185e-06, + "loss": 0.1027, + "num_input_tokens_seen": 8650936, + "step": 4421 + }, + { + "epoch": 0.5860834990059642, + "grad_norm": 1.0975395441055298, + "learning_rate": 4.545349342532425e-06, + "loss": 0.0051, + "num_input_tokens_seen": 8652440, + "step": 4422 + }, + { + "epoch": 0.5862160371106693, + "grad_norm": 0.21946904063224792, + "learning_rate": 4.5451497121093865e-06, + "loss": 0.0014, + "num_input_tokens_seen": 8654072, + "step": 4423 + }, + { + "epoch": 0.5863485752153744, + "grad_norm": 0.3981848657131195, + "learning_rate": 4.544950042254452e-06, + "loss": 0.0026, + "num_input_tokens_seen": 8655736, + "step": 4424 + }, + { + "epoch": 0.5864811133200796, + "grad_norm": 8.976275444030762, + "learning_rate": 4.544750332971467e-06, + "loss": 0.1844, + "num_input_tokens_seen": 8657624, + "step": 4425 + }, + { + "epoch": 0.5866136514247846, + "grad_norm": 11.50351619720459, + "learning_rate": 4.544550584264287e-06, + "loss": 0.2203, + "num_input_tokens_seen": 8660256, + "step": 4426 + }, + { + "epoch": 0.5867461895294898, + "grad_norm": 4.574235439300537, + "learning_rate": 4.54435079613676e-06, + "loss": 0.2324, + "num_input_tokens_seen": 8661944, + "step": 4427 + }, + { + "epoch": 0.5868787276341948, + "grad_norm": 3.243374824523926, + "learning_rate": 4.54415096859274e-06, + "loss": 0.0387, + "num_input_tokens_seen": 8665048, + "step": 4428 + }, + { + "epoch": 0.5870112657389, + "grad_norm": 9.473231315612793, + "learning_rate": 4.543951101636078e-06, + "loss": 0.3565, + "num_input_tokens_seen": 8667080, + "step": 4429 + }, + { + "epoch": 0.587143803843605, + "grad_norm": 1.1654329299926758, + "learning_rate": 4.54375119527063e-06, + "loss": 0.0066, + "num_input_tokens_seen": 8669736, + "step": 4430 + }, + { + "epoch": 0.5872763419483101, + "grad_norm": 7.744290351867676, + "learning_rate": 4.543551249500249e-06, + "loss": 0.095, + "num_input_tokens_seen": 8671632, + "step": 4431 + }, + { + "epoch": 0.5874088800530153, + "grad_norm": 7.371616363525391, + "learning_rate": 4.54335126432879e-06, + "loss": 0.3018, + "num_input_tokens_seen": 8673048, + "step": 4432 + }, + { + "epoch": 0.5875414181577203, + "grad_norm": 0.552163302898407, + "learning_rate": 4.5431512397601085e-06, + "loss": 0.0023, + "num_input_tokens_seen": 8674832, + "step": 4433 + }, + { + "epoch": 0.5876739562624255, + "grad_norm": 15.323720932006836, + "learning_rate": 4.542951175798062e-06, + "loss": 0.4853, + "num_input_tokens_seen": 8676504, + "step": 4434 + }, + { + "epoch": 0.5878064943671305, + "grad_norm": 0.031158868223428726, + "learning_rate": 4.542751072446507e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8679080, + "step": 4435 + }, + { + "epoch": 0.5879390324718357, + "grad_norm": 8.181913375854492, + "learning_rate": 4.5425509297093025e-06, + "loss": 0.1164, + "num_input_tokens_seen": 8680480, + "step": 4436 + }, + { + "epoch": 0.5880715705765408, + "grad_norm": 1.8267797231674194, + "learning_rate": 4.5423507475903075e-06, + "loss": 0.0271, + "num_input_tokens_seen": 8681728, + "step": 4437 + }, + { + "epoch": 0.5882041086812458, + "grad_norm": 9.63296127319336, + "learning_rate": 4.542150526093381e-06, + "loss": 0.2124, + "num_input_tokens_seen": 8682928, + "step": 4438 + }, + { + "epoch": 0.588336646785951, + "grad_norm": 0.08651191741228104, + "learning_rate": 4.541950265222383e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8684968, + "step": 4439 + }, + { + "epoch": 0.588469184890656, + "grad_norm": 14.389850616455078, + "learning_rate": 4.541749964981175e-06, + "loss": 0.3405, + "num_input_tokens_seen": 8687480, + "step": 4440 + }, + { + "epoch": 0.5886017229953612, + "grad_norm": 4.722055912017822, + "learning_rate": 4.541549625373619e-06, + "loss": 0.1108, + "num_input_tokens_seen": 8689704, + "step": 4441 + }, + { + "epoch": 0.5887342611000662, + "grad_norm": 10.62497329711914, + "learning_rate": 4.541349246403579e-06, + "loss": 0.0537, + "num_input_tokens_seen": 8692496, + "step": 4442 + }, + { + "epoch": 0.5888667992047714, + "grad_norm": 16.432832717895508, + "learning_rate": 4.541148828074916e-06, + "loss": 0.3868, + "num_input_tokens_seen": 8694720, + "step": 4443 + }, + { + "epoch": 0.5889993373094765, + "grad_norm": 3.7078092098236084, + "learning_rate": 4.540948370391497e-06, + "loss": 0.0538, + "num_input_tokens_seen": 8696128, + "step": 4444 + }, + { + "epoch": 0.5891318754141815, + "grad_norm": 4.969757556915283, + "learning_rate": 4.540747873357184e-06, + "loss": 0.1678, + "num_input_tokens_seen": 8697800, + "step": 4445 + }, + { + "epoch": 0.5892644135188867, + "grad_norm": 3.952193260192871, + "learning_rate": 4.540547336975844e-06, + "loss": 0.1317, + "num_input_tokens_seen": 8700176, + "step": 4446 + }, + { + "epoch": 0.5893969516235917, + "grad_norm": 0.025973495095968246, + "learning_rate": 4.540346761251345e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8702272, + "step": 4447 + }, + { + "epoch": 0.5895294897282969, + "grad_norm": 5.541677474975586, + "learning_rate": 4.540146146187552e-06, + "loss": 0.0322, + "num_input_tokens_seen": 8704536, + "step": 4448 + }, + { + "epoch": 0.589662027833002, + "grad_norm": 0.07036970555782318, + "learning_rate": 4.539945491788335e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8705872, + "step": 4449 + }, + { + "epoch": 0.5897945659377071, + "grad_norm": 3.2239980697631836, + "learning_rate": 4.53974479805756e-06, + "loss": 0.0613, + "num_input_tokens_seen": 8707560, + "step": 4450 + }, + { + "epoch": 0.5899271040424122, + "grad_norm": 0.02359906956553459, + "learning_rate": 4.539544064999099e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8709928, + "step": 4451 + }, + { + "epoch": 0.5900596421471173, + "grad_norm": 0.19118675589561462, + "learning_rate": 4.539343292616821e-06, + "loss": 0.001, + "num_input_tokens_seen": 8711480, + "step": 4452 + }, + { + "epoch": 0.5901921802518224, + "grad_norm": 5.0489091873168945, + "learning_rate": 4.539142480914598e-06, + "loss": 0.069, + "num_input_tokens_seen": 8714120, + "step": 4453 + }, + { + "epoch": 0.5903247183565276, + "grad_norm": 0.019733447581529617, + "learning_rate": 4.538941629896301e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8716048, + "step": 4454 + }, + { + "epoch": 0.5904572564612326, + "grad_norm": 0.05661563575267792, + "learning_rate": 4.538740739565803e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8717264, + "step": 4455 + }, + { + "epoch": 0.5905897945659377, + "grad_norm": 8.199716567993164, + "learning_rate": 4.5385398099269765e-06, + "loss": 0.1131, + "num_input_tokens_seen": 8718688, + "step": 4456 + }, + { + "epoch": 0.5907223326706428, + "grad_norm": 11.063639640808105, + "learning_rate": 4.538338840983697e-06, + "loss": 0.3495, + "num_input_tokens_seen": 8721072, + "step": 4457 + }, + { + "epoch": 0.5908548707753479, + "grad_norm": 14.782572746276855, + "learning_rate": 4.538137832739838e-06, + "loss": 0.2652, + "num_input_tokens_seen": 8724072, + "step": 4458 + }, + { + "epoch": 0.590987408880053, + "grad_norm": 0.017578277736902237, + "learning_rate": 4.537936785199275e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8727120, + "step": 4459 + }, + { + "epoch": 0.5911199469847581, + "grad_norm": 7.24366569519043, + "learning_rate": 4.5377356983658855e-06, + "loss": 0.1343, + "num_input_tokens_seen": 8728704, + "step": 4460 + }, + { + "epoch": 0.5912524850894633, + "grad_norm": 11.244036674499512, + "learning_rate": 4.537534572243546e-06, + "loss": 0.6403, + "num_input_tokens_seen": 8730872, + "step": 4461 + }, + { + "epoch": 0.5913850231941683, + "grad_norm": 2.816316604614258, + "learning_rate": 4.537333406836134e-06, + "loss": 0.0932, + "num_input_tokens_seen": 8732880, + "step": 4462 + }, + { + "epoch": 0.5915175612988735, + "grad_norm": 18.80072593688965, + "learning_rate": 4.537132202147529e-06, + "loss": 0.5628, + "num_input_tokens_seen": 8735424, + "step": 4463 + }, + { + "epoch": 0.5916500994035785, + "grad_norm": 0.037906862795352936, + "learning_rate": 4.536930958181609e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8737424, + "step": 4464 + }, + { + "epoch": 0.5917826375082836, + "grad_norm": 12.490594863891602, + "learning_rate": 4.5367296749422555e-06, + "loss": 0.3221, + "num_input_tokens_seen": 8738936, + "step": 4465 + }, + { + "epoch": 0.5919151756129888, + "grad_norm": 0.016223672777414322, + "learning_rate": 4.536528352433349e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8740320, + "step": 4466 + }, + { + "epoch": 0.5920477137176938, + "grad_norm": 7.457622528076172, + "learning_rate": 4.5363269906587705e-06, + "loss": 0.2888, + "num_input_tokens_seen": 8741840, + "step": 4467 + }, + { + "epoch": 0.592180251822399, + "grad_norm": 6.541828155517578, + "learning_rate": 4.536125589622402e-06, + "loss": 0.343, + "num_input_tokens_seen": 8743888, + "step": 4468 + }, + { + "epoch": 0.592312789927104, + "grad_norm": 10.480128288269043, + "learning_rate": 4.535924149328129e-06, + "loss": 0.4572, + "num_input_tokens_seen": 8745832, + "step": 4469 + }, + { + "epoch": 0.5924453280318092, + "grad_norm": 0.04811680316925049, + "learning_rate": 4.535722669779833e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8748208, + "step": 4470 + }, + { + "epoch": 0.5925778661365142, + "grad_norm": 4.689108371734619, + "learning_rate": 4.5355211509814e-06, + "loss": 0.2352, + "num_input_tokens_seen": 8750256, + "step": 4471 + }, + { + "epoch": 0.5927104042412193, + "grad_norm": 20.923831939697266, + "learning_rate": 4.535319592936715e-06, + "loss": 1.1591, + "num_input_tokens_seen": 8752504, + "step": 4472 + }, + { + "epoch": 0.5928429423459245, + "grad_norm": 6.1349263191223145, + "learning_rate": 4.535117995649663e-06, + "loss": 0.1117, + "num_input_tokens_seen": 8754600, + "step": 4473 + }, + { + "epoch": 0.5929754804506295, + "grad_norm": 18.565927505493164, + "learning_rate": 4.534916359124134e-06, + "loss": 0.5349, + "num_input_tokens_seen": 8755968, + "step": 4474 + }, + { + "epoch": 0.5931080185553347, + "grad_norm": 0.1351647824048996, + "learning_rate": 4.534714683364013e-06, + "loss": 0.0009, + "num_input_tokens_seen": 8757272, + "step": 4475 + }, + { + "epoch": 0.5932405566600397, + "grad_norm": 11.154069900512695, + "learning_rate": 4.534512968373189e-06, + "loss": 0.3176, + "num_input_tokens_seen": 8759288, + "step": 4476 + }, + { + "epoch": 0.5933730947647449, + "grad_norm": 5.009145259857178, + "learning_rate": 4.534311214155551e-06, + "loss": 0.0778, + "num_input_tokens_seen": 8761368, + "step": 4477 + }, + { + "epoch": 0.59350563286945, + "grad_norm": 0.1187877282500267, + "learning_rate": 4.534109420714991e-06, + "loss": 0.0008, + "num_input_tokens_seen": 8762472, + "step": 4478 + }, + { + "epoch": 0.593638170974155, + "grad_norm": 36.71934127807617, + "learning_rate": 4.533907588055396e-06, + "loss": 0.2383, + "num_input_tokens_seen": 8765464, + "step": 4479 + }, + { + "epoch": 0.5937707090788602, + "grad_norm": 9.284875869750977, + "learning_rate": 4.5337057161806606e-06, + "loss": 0.3986, + "num_input_tokens_seen": 8767664, + "step": 4480 + }, + { + "epoch": 0.5939032471835652, + "grad_norm": 11.058073997497559, + "learning_rate": 4.533503805094676e-06, + "loss": 0.4033, + "num_input_tokens_seen": 8769880, + "step": 4481 + }, + { + "epoch": 0.5940357852882704, + "grad_norm": 12.482577323913574, + "learning_rate": 4.533301854801335e-06, + "loss": 0.2505, + "num_input_tokens_seen": 8771512, + "step": 4482 + }, + { + "epoch": 0.5941683233929754, + "grad_norm": 5.154951095581055, + "learning_rate": 4.533099865304533e-06, + "loss": 0.1267, + "num_input_tokens_seen": 8774640, + "step": 4483 + }, + { + "epoch": 0.5943008614976806, + "grad_norm": 10.228135108947754, + "learning_rate": 4.532897836608161e-06, + "loss": 0.3263, + "num_input_tokens_seen": 8776296, + "step": 4484 + }, + { + "epoch": 0.5944333996023857, + "grad_norm": 7.892743110656738, + "learning_rate": 4.532695768716117e-06, + "loss": 0.1586, + "num_input_tokens_seen": 8778192, + "step": 4485 + }, + { + "epoch": 0.5945659377070908, + "grad_norm": 4.75492525100708, + "learning_rate": 4.5324936616322965e-06, + "loss": 0.1479, + "num_input_tokens_seen": 8780176, + "step": 4486 + }, + { + "epoch": 0.5946984758117959, + "grad_norm": 0.5556977987289429, + "learning_rate": 4.532291515360596e-06, + "loss": 0.0038, + "num_input_tokens_seen": 8781976, + "step": 4487 + }, + { + "epoch": 0.594831013916501, + "grad_norm": 10.598833084106445, + "learning_rate": 4.532089329904913e-06, + "loss": 0.4334, + "num_input_tokens_seen": 8783344, + "step": 4488 + }, + { + "epoch": 0.5949635520212061, + "grad_norm": 7.626993179321289, + "learning_rate": 4.5318871052691455e-06, + "loss": 0.3437, + "num_input_tokens_seen": 8786920, + "step": 4489 + }, + { + "epoch": 0.5950960901259112, + "grad_norm": 6.43360710144043, + "learning_rate": 4.531684841457193e-06, + "loss": 0.151, + "num_input_tokens_seen": 8788864, + "step": 4490 + }, + { + "epoch": 0.5952286282306163, + "grad_norm": 22.759531021118164, + "learning_rate": 4.531482538472956e-06, + "loss": 0.5418, + "num_input_tokens_seen": 8791512, + "step": 4491 + }, + { + "epoch": 0.5953611663353214, + "grad_norm": 0.7809638977050781, + "learning_rate": 4.531280196320333e-06, + "loss": 0.0056, + "num_input_tokens_seen": 8793384, + "step": 4492 + }, + { + "epoch": 0.5954937044400265, + "grad_norm": 0.9846444725990295, + "learning_rate": 4.531077815003227e-06, + "loss": 0.0072, + "num_input_tokens_seen": 8794584, + "step": 4493 + }, + { + "epoch": 0.5956262425447316, + "grad_norm": 4.842322826385498, + "learning_rate": 4.5308753945255395e-06, + "loss": 0.1149, + "num_input_tokens_seen": 8797016, + "step": 4494 + }, + { + "epoch": 0.5957587806494367, + "grad_norm": 1.3778271675109863, + "learning_rate": 4.5306729348911735e-06, + "loss": 0.0097, + "num_input_tokens_seen": 8799024, + "step": 4495 + }, + { + "epoch": 0.5958913187541418, + "grad_norm": 0.6451683640480042, + "learning_rate": 4.530470436104033e-06, + "loss": 0.0047, + "num_input_tokens_seen": 8800184, + "step": 4496 + }, + { + "epoch": 0.596023856858847, + "grad_norm": 0.5446711182594299, + "learning_rate": 4.530267898168021e-06, + "loss": 0.0039, + "num_input_tokens_seen": 8802016, + "step": 4497 + }, + { + "epoch": 0.596156394963552, + "grad_norm": 7.1697797775268555, + "learning_rate": 4.5300653210870436e-06, + "loss": 0.1197, + "num_input_tokens_seen": 8804016, + "step": 4498 + }, + { + "epoch": 0.5962889330682571, + "grad_norm": 6.376197338104248, + "learning_rate": 4.529862704865006e-06, + "loss": 0.0903, + "num_input_tokens_seen": 8805752, + "step": 4499 + }, + { + "epoch": 0.5964214711729622, + "grad_norm": 10.263676643371582, + "learning_rate": 4.529660049505815e-06, + "loss": 0.604, + "num_input_tokens_seen": 8808208, + "step": 4500 + }, + { + "epoch": 0.5965540092776673, + "grad_norm": 0.5609136819839478, + "learning_rate": 4.529457355013379e-06, + "loss": 0.0027, + "num_input_tokens_seen": 8809904, + "step": 4501 + }, + { + "epoch": 0.5966865473823725, + "grad_norm": 0.05879468098282814, + "learning_rate": 4.529254621391604e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8811944, + "step": 4502 + }, + { + "epoch": 0.5968190854870775, + "grad_norm": 0.12315049022436142, + "learning_rate": 4.529051848644401e-06, + "loss": 0.0009, + "num_input_tokens_seen": 8813856, + "step": 4503 + }, + { + "epoch": 0.5969516235917827, + "grad_norm": 6.565806865692139, + "learning_rate": 4.528849036775677e-06, + "loss": 0.131, + "num_input_tokens_seen": 8816008, + "step": 4504 + }, + { + "epoch": 0.5970841616964877, + "grad_norm": 8.05581283569336, + "learning_rate": 4.528646185789346e-06, + "loss": 0.1606, + "num_input_tokens_seen": 8817888, + "step": 4505 + }, + { + "epoch": 0.5972166998011929, + "grad_norm": 7.169454097747803, + "learning_rate": 4.528443295689317e-06, + "loss": 0.2224, + "num_input_tokens_seen": 8820128, + "step": 4506 + }, + { + "epoch": 0.597349237905898, + "grad_norm": 7.315868377685547, + "learning_rate": 4.5282403664795005e-06, + "loss": 0.313, + "num_input_tokens_seen": 8822536, + "step": 4507 + }, + { + "epoch": 0.597481776010603, + "grad_norm": 4.2231974601745605, + "learning_rate": 4.52803739816381e-06, + "loss": 0.0968, + "num_input_tokens_seen": 8825240, + "step": 4508 + }, + { + "epoch": 0.5976143141153082, + "grad_norm": 0.021635306999087334, + "learning_rate": 4.527834390746161e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8827992, + "step": 4509 + }, + { + "epoch": 0.5977468522200132, + "grad_norm": 10.768719673156738, + "learning_rate": 4.527631344230466e-06, + "loss": 0.302, + "num_input_tokens_seen": 8829688, + "step": 4510 + }, + { + "epoch": 0.5978793903247184, + "grad_norm": 0.04123631492257118, + "learning_rate": 4.527428258620639e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8832256, + "step": 4511 + }, + { + "epoch": 0.5980119284294234, + "grad_norm": 10.023737907409668, + "learning_rate": 4.527225133920596e-06, + "loss": 0.1675, + "num_input_tokens_seen": 8833904, + "step": 4512 + }, + { + "epoch": 0.5981444665341286, + "grad_norm": 13.836169242858887, + "learning_rate": 4.5270219701342555e-06, + "loss": 0.6522, + "num_input_tokens_seen": 8835416, + "step": 4513 + }, + { + "epoch": 0.5982770046388337, + "grad_norm": 8.968985557556152, + "learning_rate": 4.5268187672655326e-06, + "loss": 0.4208, + "num_input_tokens_seen": 8837408, + "step": 4514 + }, + { + "epoch": 0.5984095427435387, + "grad_norm": 18.943763732910156, + "learning_rate": 4.526615525318345e-06, + "loss": 0.582, + "num_input_tokens_seen": 8839072, + "step": 4515 + }, + { + "epoch": 0.5985420808482439, + "grad_norm": 25.836790084838867, + "learning_rate": 4.526412244296613e-06, + "loss": 0.6857, + "num_input_tokens_seen": 8841808, + "step": 4516 + }, + { + "epoch": 0.5986746189529489, + "grad_norm": 14.204140663146973, + "learning_rate": 4.526208924204254e-06, + "loss": 0.2076, + "num_input_tokens_seen": 8843472, + "step": 4517 + }, + { + "epoch": 0.5988071570576541, + "grad_norm": 0.07145500928163528, + "learning_rate": 4.526005565045189e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8845472, + "step": 4518 + }, + { + "epoch": 0.5989396951623592, + "grad_norm": 10.216188430786133, + "learning_rate": 4.52580216682334e-06, + "loss": 0.3633, + "num_input_tokens_seen": 8847200, + "step": 4519 + }, + { + "epoch": 0.5990722332670643, + "grad_norm": 0.04807635769248009, + "learning_rate": 4.5255987295426265e-06, + "loss": 0.0003, + "num_input_tokens_seen": 8849120, + "step": 4520 + }, + { + "epoch": 0.5992047713717694, + "grad_norm": 0.016722597181797028, + "learning_rate": 4.525395253206974e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8850944, + "step": 4521 + }, + { + "epoch": 0.5993373094764745, + "grad_norm": 7.352213382720947, + "learning_rate": 4.525191737820302e-06, + "loss": 0.2549, + "num_input_tokens_seen": 8853400, + "step": 4522 + }, + { + "epoch": 0.5994698475811796, + "grad_norm": 15.775116920471191, + "learning_rate": 4.524988183386536e-06, + "loss": 0.4617, + "num_input_tokens_seen": 8855240, + "step": 4523 + }, + { + "epoch": 0.5996023856858846, + "grad_norm": 0.0293857641518116, + "learning_rate": 4.524784589909602e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8857008, + "step": 4524 + }, + { + "epoch": 0.5997349237905898, + "grad_norm": 0.024235641583800316, + "learning_rate": 4.524580957393424e-06, + "loss": 0.0002, + "num_input_tokens_seen": 8859904, + "step": 4525 + }, + { + "epoch": 0.5998674618952949, + "grad_norm": 11.712533950805664, + "learning_rate": 4.524377285841929e-06, + "loss": 0.2427, + "num_input_tokens_seen": 8861664, + "step": 4526 + }, + { + "epoch": 0.6, + "grad_norm": 0.02020755037665367, + "learning_rate": 4.524173575259042e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8863568, + "step": 4527 + }, + { + "epoch": 0.6001325381047051, + "grad_norm": 0.07037772238254547, + "learning_rate": 4.523969825648692e-06, + "loss": 0.0005, + "num_input_tokens_seen": 8865656, + "step": 4528 + }, + { + "epoch": 0.6002650762094102, + "grad_norm": 0.01822470687329769, + "learning_rate": 4.523766037014809e-06, + "loss": 0.0001, + "num_input_tokens_seen": 8866960, + "step": 4529 + }, + { + "epoch": 0.6003976143141153, + "grad_norm": 6.157485485076904, + "learning_rate": 4.5235622093613195e-06, + "loss": 0.0622, + "num_input_tokens_seen": 8868400, + "step": 4530 + }, + { + "epoch": 0.6005301524188205, + "grad_norm": 8.748900413513184, + "learning_rate": 4.523358342692156e-06, + "loss": 0.3731, + "num_input_tokens_seen": 8870480, + "step": 4531 + }, + { + "epoch": 0.6006626905235255, + "grad_norm": 8.124286651611328, + "learning_rate": 4.523154437011247e-06, + "loss": 0.1777, + "num_input_tokens_seen": 8872776, + "step": 4532 + }, + { + "epoch": 0.6007952286282306, + "grad_norm": 4.451871395111084, + "learning_rate": 4.522950492322524e-06, + "loss": 0.0731, + "num_input_tokens_seen": 8874416, + "step": 4533 + }, + { + "epoch": 0.6009277667329357, + "grad_norm": 7.3767619132995605, + "learning_rate": 4.52274650862992e-06, + "loss": 0.1955, + "num_input_tokens_seen": 8876696, + "step": 4534 + }, + { + "epoch": 0.6010603048376408, + "grad_norm": 0.07187385857105255, + "learning_rate": 4.522542485937369e-06, + "loss": 0.0004, + "num_input_tokens_seen": 8877792, + "step": 4535 + }, + { + "epoch": 0.6011928429423459, + "grad_norm": 5.0182952880859375, + "learning_rate": 4.5223384242488036e-06, + "loss": 0.0838, + "num_input_tokens_seen": 8879240, + "step": 4536 + }, + { + "epoch": 0.601325381047051, + "grad_norm": 14.679693222045898, + "learning_rate": 4.522134323568157e-06, + "loss": 0.5397, + "num_input_tokens_seen": 8881304, + "step": 4537 + }, + { + "epoch": 0.6014579191517562, + "grad_norm": 5.694046497344971, + "learning_rate": 4.521930183899367e-06, + "loss": 0.1809, + "num_input_tokens_seen": 8883568, + "step": 4538 + }, + { + "epoch": 0.6015904572564612, + "grad_norm": 6.009949207305908, + "learning_rate": 4.521726005246367e-06, + "loss": 0.1011, + "num_input_tokens_seen": 8885168, + "step": 4539 + }, + { + "epoch": 0.6017229953611664, + "grad_norm": 6.791545391082764, + "learning_rate": 4.521521787613095e-06, + "loss": 0.2922, + "num_input_tokens_seen": 8887360, + "step": 4540 + }, + { + "epoch": 0.6018555334658714, + "grad_norm": 8.365147590637207, + "learning_rate": 4.521317531003489e-06, + "loss": 0.3158, + "num_input_tokens_seen": 8889592, + "step": 4541 + }, + { + "epoch": 0.6019880715705765, + "grad_norm": 0.9974453449249268, + "learning_rate": 4.521113235421487e-06, + "loss": 0.0037, + "num_input_tokens_seen": 8891600, + "step": 4542 + }, + { + "epoch": 0.6021206096752817, + "grad_norm": 0.3686714172363281, + "learning_rate": 4.520908900871026e-06, + "loss": 0.0023, + "num_input_tokens_seen": 8893024, + "step": 4543 + }, + { + "epoch": 0.6022531477799867, + "grad_norm": 7.982909202575684, + "learning_rate": 4.520704527356049e-06, + "loss": 0.2266, + "num_input_tokens_seen": 8894960, + "step": 4544 + }, + { + "epoch": 0.6023856858846919, + "grad_norm": 3.595158338546753, + "learning_rate": 4.520500114880494e-06, + "loss": 0.0648, + "num_input_tokens_seen": 8897016, + "step": 4545 + }, + { + "epoch": 0.6025182239893969, + "grad_norm": 7.6053595542907715, + "learning_rate": 4.520295663448302e-06, + "loss": 0.3825, + "num_input_tokens_seen": 8899176, + "step": 4546 + }, + { + "epoch": 0.6026507620941021, + "grad_norm": 3.278895139694214, + "learning_rate": 4.520091173063417e-06, + "loss": 0.1652, + "num_input_tokens_seen": 8900552, + "step": 4547 + }, + { + "epoch": 0.6027833001988071, + "grad_norm": 8.445926666259766, + "learning_rate": 4.51988664372978e-06, + "loss": 0.2359, + "num_input_tokens_seen": 8902752, + "step": 4548 + }, + { + "epoch": 0.6029158383035123, + "grad_norm": 11.667129516601562, + "learning_rate": 4.519682075451335e-06, + "loss": 0.3455, + "num_input_tokens_seen": 8904544, + "step": 4549 + }, + { + "epoch": 0.6030483764082174, + "grad_norm": 7.595519542694092, + "learning_rate": 4.5194774682320266e-06, + "loss": 0.1127, + "num_input_tokens_seen": 8906816, + "step": 4550 + }, + { + "epoch": 0.6031809145129224, + "grad_norm": 7.491942405700684, + "learning_rate": 4.5192728220758e-06, + "loss": 0.1301, + "num_input_tokens_seen": 8909136, + "step": 4551 + }, + { + "epoch": 0.6033134526176276, + "grad_norm": 0.23396670818328857, + "learning_rate": 4.5190681369865995e-06, + "loss": 0.0011, + "num_input_tokens_seen": 8911320, + "step": 4552 + }, + { + "epoch": 0.6034459907223326, + "grad_norm": 4.209238529205322, + "learning_rate": 4.518863412968373e-06, + "loss": 0.0349, + "num_input_tokens_seen": 8912736, + "step": 4553 + }, + { + "epoch": 0.6035785288270378, + "grad_norm": 6.982316493988037, + "learning_rate": 4.518658650025066e-06, + "loss": 0.2646, + "num_input_tokens_seen": 8913896, + "step": 4554 + }, + { + "epoch": 0.6037110669317429, + "grad_norm": 10.744330406188965, + "learning_rate": 4.518453848160629e-06, + "loss": 0.3957, + "num_input_tokens_seen": 8915752, + "step": 4555 + }, + { + "epoch": 0.603843605036448, + "grad_norm": 0.09913662821054459, + "learning_rate": 4.518249007379009e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8918944, + "step": 4556 + }, + { + "epoch": 0.6039761431411531, + "grad_norm": 11.746828079223633, + "learning_rate": 4.5180441276841556e-06, + "loss": 0.4279, + "num_input_tokens_seen": 8920432, + "step": 4557 + }, + { + "epoch": 0.6041086812458581, + "grad_norm": 5.90751314163208, + "learning_rate": 4.51783920908002e-06, + "loss": 0.1511, + "num_input_tokens_seen": 8921856, + "step": 4558 + }, + { + "epoch": 0.6042412193505633, + "grad_norm": 0.10062120109796524, + "learning_rate": 4.517634251570551e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8923072, + "step": 4559 + }, + { + "epoch": 0.6043737574552683, + "grad_norm": 6.651098251342773, + "learning_rate": 4.517429255159702e-06, + "loss": 0.2661, + "num_input_tokens_seen": 8925184, + "step": 4560 + }, + { + "epoch": 0.6045062955599735, + "grad_norm": 14.558205604553223, + "learning_rate": 4.517224219851426e-06, + "loss": 0.3519, + "num_input_tokens_seen": 8927152, + "step": 4561 + }, + { + "epoch": 0.6046388336646786, + "grad_norm": 9.759568214416504, + "learning_rate": 4.517019145649675e-06, + "loss": 0.4091, + "num_input_tokens_seen": 8929168, + "step": 4562 + }, + { + "epoch": 0.6047713717693837, + "grad_norm": 12.05634593963623, + "learning_rate": 4.516814032558404e-06, + "loss": 0.4341, + "num_input_tokens_seen": 8930848, + "step": 4563 + }, + { + "epoch": 0.6049039098740888, + "grad_norm": 18.662532806396484, + "learning_rate": 4.516608880581566e-06, + "loss": 0.4086, + "num_input_tokens_seen": 8932944, + "step": 4564 + }, + { + "epoch": 0.6050364479787939, + "grad_norm": 0.2509464621543884, + "learning_rate": 4.516403689723118e-06, + "loss": 0.0018, + "num_input_tokens_seen": 8934608, + "step": 4565 + }, + { + "epoch": 0.605168986083499, + "grad_norm": 11.71917724609375, + "learning_rate": 4.516198459987016e-06, + "loss": 0.3193, + "num_input_tokens_seen": 8936632, + "step": 4566 + }, + { + "epoch": 0.6053015241882042, + "grad_norm": 10.383745193481445, + "learning_rate": 4.515993191377217e-06, + "loss": 0.3079, + "num_input_tokens_seen": 8939072, + "step": 4567 + }, + { + "epoch": 0.6054340622929092, + "grad_norm": 0.43665623664855957, + "learning_rate": 4.515787883897679e-06, + "loss": 0.003, + "num_input_tokens_seen": 8940216, + "step": 4568 + }, + { + "epoch": 0.6055666003976143, + "grad_norm": 5.400319576263428, + "learning_rate": 4.515582537552359e-06, + "loss": 0.0571, + "num_input_tokens_seen": 8943520, + "step": 4569 + }, + { + "epoch": 0.6056991385023194, + "grad_norm": 9.727317810058594, + "learning_rate": 4.515377152345217e-06, + "loss": 0.1748, + "num_input_tokens_seen": 8945680, + "step": 4570 + }, + { + "epoch": 0.6058316766070245, + "grad_norm": 7.340142250061035, + "learning_rate": 4.515171728280214e-06, + "loss": 0.3424, + "num_input_tokens_seen": 8947920, + "step": 4571 + }, + { + "epoch": 0.6059642147117297, + "grad_norm": 2.4260149002075195, + "learning_rate": 4.514966265361309e-06, + "loss": 0.0258, + "num_input_tokens_seen": 8949368, + "step": 4572 + }, + { + "epoch": 0.6060967528164347, + "grad_norm": 4.754249572753906, + "learning_rate": 4.514760763592465e-06, + "loss": 0.0486, + "num_input_tokens_seen": 8951776, + "step": 4573 + }, + { + "epoch": 0.6062292909211399, + "grad_norm": 10.615996360778809, + "learning_rate": 4.514555222977643e-06, + "loss": 0.3899, + "num_input_tokens_seen": 8953488, + "step": 4574 + }, + { + "epoch": 0.6063618290258449, + "grad_norm": 17.5757999420166, + "learning_rate": 4.514349643520807e-06, + "loss": 0.5614, + "num_input_tokens_seen": 8955952, + "step": 4575 + }, + { + "epoch": 0.60649436713055, + "grad_norm": 11.869431495666504, + "learning_rate": 4.514144025225921e-06, + "loss": 0.464, + "num_input_tokens_seen": 8958344, + "step": 4576 + }, + { + "epoch": 0.6066269052352551, + "grad_norm": 7.819013595581055, + "learning_rate": 4.5139383680969475e-06, + "loss": 0.183, + "num_input_tokens_seen": 8960696, + "step": 4577 + }, + { + "epoch": 0.6067594433399602, + "grad_norm": 6.039429664611816, + "learning_rate": 4.513732672137854e-06, + "loss": 0.0695, + "num_input_tokens_seen": 8961944, + "step": 4578 + }, + { + "epoch": 0.6068919814446654, + "grad_norm": 6.966115951538086, + "learning_rate": 4.513526937352604e-06, + "loss": 0.2923, + "num_input_tokens_seen": 8964208, + "step": 4579 + }, + { + "epoch": 0.6070245195493704, + "grad_norm": 6.5732011795043945, + "learning_rate": 4.5133211637451665e-06, + "loss": 0.1039, + "num_input_tokens_seen": 8966616, + "step": 4580 + }, + { + "epoch": 0.6071570576540756, + "grad_norm": 0.7121011018753052, + "learning_rate": 4.513115351319508e-06, + "loss": 0.0052, + "num_input_tokens_seen": 8968776, + "step": 4581 + }, + { + "epoch": 0.6072895957587806, + "grad_norm": 14.751883506774902, + "learning_rate": 4.512909500079596e-06, + "loss": 0.4606, + "num_input_tokens_seen": 8971584, + "step": 4582 + }, + { + "epoch": 0.6074221338634858, + "grad_norm": 34.59712219238281, + "learning_rate": 4.5127036100294015e-06, + "loss": 0.3538, + "num_input_tokens_seen": 8973280, + "step": 4583 + }, + { + "epoch": 0.6075546719681909, + "grad_norm": 1.0584779977798462, + "learning_rate": 4.512497681172892e-06, + "loss": 0.0074, + "num_input_tokens_seen": 8975152, + "step": 4584 + }, + { + "epoch": 0.607687210072896, + "grad_norm": 20.662830352783203, + "learning_rate": 4.51229171351404e-06, + "loss": 0.2321, + "num_input_tokens_seen": 8977360, + "step": 4585 + }, + { + "epoch": 0.6078197481776011, + "grad_norm": 8.430717468261719, + "learning_rate": 4.512085707056813e-06, + "loss": 0.2758, + "num_input_tokens_seen": 8979096, + "step": 4586 + }, + { + "epoch": 0.6079522862823061, + "grad_norm": 0.2120072841644287, + "learning_rate": 4.511879661805188e-06, + "loss": 0.0015, + "num_input_tokens_seen": 8980808, + "step": 4587 + }, + { + "epoch": 0.6080848243870113, + "grad_norm": 9.471118927001953, + "learning_rate": 4.511673577763134e-06, + "loss": 0.4393, + "num_input_tokens_seen": 8982432, + "step": 4588 + }, + { + "epoch": 0.6082173624917163, + "grad_norm": 12.794418334960938, + "learning_rate": 4.511467454934626e-06, + "loss": 0.4066, + "num_input_tokens_seen": 8983584, + "step": 4589 + }, + { + "epoch": 0.6083499005964215, + "grad_norm": 14.948718070983887, + "learning_rate": 4.511261293323637e-06, + "loss": 0.3341, + "num_input_tokens_seen": 8985544, + "step": 4590 + }, + { + "epoch": 0.6084824387011266, + "grad_norm": 14.16418170928955, + "learning_rate": 4.511055092934144e-06, + "loss": 0.2328, + "num_input_tokens_seen": 8987360, + "step": 4591 + }, + { + "epoch": 0.6086149768058317, + "grad_norm": 11.421998977661133, + "learning_rate": 4.510848853770122e-06, + "loss": 0.2661, + "num_input_tokens_seen": 8988944, + "step": 4592 + }, + { + "epoch": 0.6087475149105368, + "grad_norm": 11.948812484741211, + "learning_rate": 4.510642575835545e-06, + "loss": 0.4508, + "num_input_tokens_seen": 8990792, + "step": 4593 + }, + { + "epoch": 0.6088800530152418, + "grad_norm": 0.09583049267530441, + "learning_rate": 4.510436259134394e-06, + "loss": 0.0007, + "num_input_tokens_seen": 8991808, + "step": 4594 + }, + { + "epoch": 0.609012591119947, + "grad_norm": 1.7254836559295654, + "learning_rate": 4.510229903670643e-06, + "loss": 0.0102, + "num_input_tokens_seen": 8993784, + "step": 4595 + }, + { + "epoch": 0.6091451292246521, + "grad_norm": 9.337934494018555, + "learning_rate": 4.510023509448273e-06, + "loss": 0.2054, + "num_input_tokens_seen": 8995760, + "step": 4596 + }, + { + "epoch": 0.6092776673293572, + "grad_norm": 15.228385925292969, + "learning_rate": 4.509817076471265e-06, + "loss": 0.6889, + "num_input_tokens_seen": 8997864, + "step": 4597 + }, + { + "epoch": 0.6094102054340623, + "grad_norm": 12.639373779296875, + "learning_rate": 4.509610604743596e-06, + "loss": 0.367, + "num_input_tokens_seen": 8999664, + "step": 4598 + }, + { + "epoch": 0.6095427435387674, + "grad_norm": 12.03857421875, + "learning_rate": 4.509404094269248e-06, + "loss": 0.3081, + "num_input_tokens_seen": 9001928, + "step": 4599 + }, + { + "epoch": 0.6096752816434725, + "grad_norm": 3.5542972087860107, + "learning_rate": 4.509197545052203e-06, + "loss": 0.0285, + "num_input_tokens_seen": 9003808, + "step": 4600 + }, + { + "epoch": 0.6098078197481775, + "grad_norm": 0.13124549388885498, + "learning_rate": 4.508990957096443e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9005184, + "step": 4601 + }, + { + "epoch": 0.6099403578528827, + "grad_norm": 3.2197208404541016, + "learning_rate": 4.508784330405952e-06, + "loss": 0.0284, + "num_input_tokens_seen": 9006552, + "step": 4602 + }, + { + "epoch": 0.6100728959575878, + "grad_norm": 1.1755419969558716, + "learning_rate": 4.508577664984713e-06, + "loss": 0.0048, + "num_input_tokens_seen": 9008816, + "step": 4603 + }, + { + "epoch": 0.6102054340622929, + "grad_norm": 0.0717979297041893, + "learning_rate": 4.508370960836711e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9009864, + "step": 4604 + }, + { + "epoch": 0.610337972166998, + "grad_norm": 15.239445686340332, + "learning_rate": 4.508164217965931e-06, + "loss": 0.3906, + "num_input_tokens_seen": 9011568, + "step": 4605 + }, + { + "epoch": 0.6104705102717031, + "grad_norm": 12.738359451293945, + "learning_rate": 4.50795743637636e-06, + "loss": 0.4596, + "num_input_tokens_seen": 9013928, + "step": 4606 + }, + { + "epoch": 0.6106030483764082, + "grad_norm": 10.088764190673828, + "learning_rate": 4.507750616071984e-06, + "loss": 0.2146, + "num_input_tokens_seen": 9015048, + "step": 4607 + }, + { + "epoch": 0.6107355864811134, + "grad_norm": 0.1670483946800232, + "learning_rate": 4.507543757056792e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9017656, + "step": 4608 + }, + { + "epoch": 0.6108681245858184, + "grad_norm": 12.729340553283691, + "learning_rate": 4.50733685933477e-06, + "loss": 0.2315, + "num_input_tokens_seen": 9019296, + "step": 4609 + }, + { + "epoch": 0.6110006626905236, + "grad_norm": 0.15931633114814758, + "learning_rate": 4.507129922909909e-06, + "loss": 0.0011, + "num_input_tokens_seen": 9020536, + "step": 4610 + }, + { + "epoch": 0.6111332007952286, + "grad_norm": 7.022318363189697, + "learning_rate": 4.506922947786199e-06, + "loss": 0.3223, + "num_input_tokens_seen": 9021912, + "step": 4611 + }, + { + "epoch": 0.6112657388999337, + "grad_norm": 1.6859134435653687, + "learning_rate": 4.506715933967631e-06, + "loss": 0.0127, + "num_input_tokens_seen": 9023864, + "step": 4612 + }, + { + "epoch": 0.6113982770046388, + "grad_norm": 0.11855582147836685, + "learning_rate": 4.5065088814581935e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9024984, + "step": 4613 + }, + { + "epoch": 0.6115308151093439, + "grad_norm": 10.458747863769531, + "learning_rate": 4.506301790261881e-06, + "loss": 0.3945, + "num_input_tokens_seen": 9027080, + "step": 4614 + }, + { + "epoch": 0.6116633532140491, + "grad_norm": 5.482684135437012, + "learning_rate": 4.5060946603826866e-06, + "loss": 0.1763, + "num_input_tokens_seen": 9029760, + "step": 4615 + }, + { + "epoch": 0.6117958913187541, + "grad_norm": 7.692590236663818, + "learning_rate": 4.5058874918246035e-06, + "loss": 0.2638, + "num_input_tokens_seen": 9031400, + "step": 4616 + }, + { + "epoch": 0.6119284294234593, + "grad_norm": 9.06706714630127, + "learning_rate": 4.5056802845916245e-06, + "loss": 0.1305, + "num_input_tokens_seen": 9034216, + "step": 4617 + }, + { + "epoch": 0.6120609675281643, + "grad_norm": 4.921189785003662, + "learning_rate": 4.505473038687747e-06, + "loss": 0.1956, + "num_input_tokens_seen": 9036536, + "step": 4618 + }, + { + "epoch": 0.6121935056328695, + "grad_norm": 0.14490513503551483, + "learning_rate": 4.505265754116965e-06, + "loss": 0.001, + "num_input_tokens_seen": 9038688, + "step": 4619 + }, + { + "epoch": 0.6123260437375746, + "grad_norm": 9.038633346557617, + "learning_rate": 4.505058430883275e-06, + "loss": 0.2481, + "num_input_tokens_seen": 9040088, + "step": 4620 + }, + { + "epoch": 0.6124585818422796, + "grad_norm": 9.133187294006348, + "learning_rate": 4.504851068990678e-06, + "loss": 0.2461, + "num_input_tokens_seen": 9041848, + "step": 4621 + }, + { + "epoch": 0.6125911199469848, + "grad_norm": 1.131885290145874, + "learning_rate": 4.504643668443167e-06, + "loss": 0.008, + "num_input_tokens_seen": 9044344, + "step": 4622 + }, + { + "epoch": 0.6127236580516898, + "grad_norm": 8.648845672607422, + "learning_rate": 4.504436229244744e-06, + "loss": 0.2392, + "num_input_tokens_seen": 9046808, + "step": 4623 + }, + { + "epoch": 0.612856196156395, + "grad_norm": 8.154289245605469, + "learning_rate": 4.504228751399408e-06, + "loss": 0.1539, + "num_input_tokens_seen": 9048408, + "step": 4624 + }, + { + "epoch": 0.6129887342611001, + "grad_norm": 0.12523721158504486, + "learning_rate": 4.5040212349111586e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9049880, + "step": 4625 + }, + { + "epoch": 0.6131212723658052, + "grad_norm": 0.35211700201034546, + "learning_rate": 4.503813679783997e-06, + "loss": 0.0025, + "num_input_tokens_seen": 9052352, + "step": 4626 + }, + { + "epoch": 0.6132538104705103, + "grad_norm": 7.847185134887695, + "learning_rate": 4.503606086021925e-06, + "loss": 0.113, + "num_input_tokens_seen": 9054200, + "step": 4627 + }, + { + "epoch": 0.6133863485752153, + "grad_norm": 0.22652332484722137, + "learning_rate": 4.5033984536289475e-06, + "loss": 0.0017, + "num_input_tokens_seen": 9056184, + "step": 4628 + }, + { + "epoch": 0.6135188866799205, + "grad_norm": 23.547622680664062, + "learning_rate": 4.5031907826090634e-06, + "loss": 0.7299, + "num_input_tokens_seen": 9057960, + "step": 4629 + }, + { + "epoch": 0.6136514247846255, + "grad_norm": 9.33605670928955, + "learning_rate": 4.50298307296628e-06, + "loss": 0.3337, + "num_input_tokens_seen": 9060576, + "step": 4630 + }, + { + "epoch": 0.6137839628893307, + "grad_norm": 9.735233306884766, + "learning_rate": 4.502775324704601e-06, + "loss": 0.1273, + "num_input_tokens_seen": 9062152, + "step": 4631 + }, + { + "epoch": 0.6139165009940358, + "grad_norm": 16.75956916809082, + "learning_rate": 4.502567537828033e-06, + "loss": 0.4844, + "num_input_tokens_seen": 9063888, + "step": 4632 + }, + { + "epoch": 0.6140490390987409, + "grad_norm": 0.08369563519954681, + "learning_rate": 4.502359712340581e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9066032, + "step": 4633 + }, + { + "epoch": 0.614181577203446, + "grad_norm": 3.727271795272827, + "learning_rate": 4.502151848246252e-06, + "loss": 0.0293, + "num_input_tokens_seen": 9068296, + "step": 4634 + }, + { + "epoch": 0.614314115308151, + "grad_norm": 19.521671295166016, + "learning_rate": 4.501943945549054e-06, + "loss": 0.7203, + "num_input_tokens_seen": 9070856, + "step": 4635 + }, + { + "epoch": 0.6144466534128562, + "grad_norm": 7.795699119567871, + "learning_rate": 4.501736004252995e-06, + "loss": 0.2465, + "num_input_tokens_seen": 9072112, + "step": 4636 + }, + { + "epoch": 0.6145791915175614, + "grad_norm": 14.626348495483398, + "learning_rate": 4.501528024362086e-06, + "loss": 0.7532, + "num_input_tokens_seen": 9074160, + "step": 4637 + }, + { + "epoch": 0.6147117296222664, + "grad_norm": 17.480411529541016, + "learning_rate": 4.501320005880337e-06, + "loss": 0.3319, + "num_input_tokens_seen": 9076224, + "step": 4638 + }, + { + "epoch": 0.6148442677269715, + "grad_norm": 0.7760393023490906, + "learning_rate": 4.501111948811755e-06, + "loss": 0.0054, + "num_input_tokens_seen": 9077504, + "step": 4639 + }, + { + "epoch": 0.6149768058316766, + "grad_norm": 8.23949909210205, + "learning_rate": 4.500903853160356e-06, + "loss": 0.1324, + "num_input_tokens_seen": 9079064, + "step": 4640 + }, + { + "epoch": 0.6151093439363817, + "grad_norm": 7.4478960037231445, + "learning_rate": 4.50069571893015e-06, + "loss": 0.3362, + "num_input_tokens_seen": 9080992, + "step": 4641 + }, + { + "epoch": 0.6152418820410868, + "grad_norm": 0.12939141690731049, + "learning_rate": 4.50048754612515e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9082480, + "step": 4642 + }, + { + "epoch": 0.6153744201457919, + "grad_norm": 4.620145320892334, + "learning_rate": 4.50027933474937e-06, + "loss": 0.2403, + "num_input_tokens_seen": 9085328, + "step": 4643 + }, + { + "epoch": 0.6155069582504971, + "grad_norm": 0.10231047868728638, + "learning_rate": 4.500071084806824e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9086480, + "step": 4644 + }, + { + "epoch": 0.6156394963552021, + "grad_norm": 14.9724702835083, + "learning_rate": 4.499862796301529e-06, + "loss": 0.2381, + "num_input_tokens_seen": 9088568, + "step": 4645 + }, + { + "epoch": 0.6157720344599072, + "grad_norm": 0.11861508339643478, + "learning_rate": 4.4996544692375e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9091232, + "step": 4646 + }, + { + "epoch": 0.6159045725646123, + "grad_norm": 0.21257458627223969, + "learning_rate": 4.499446103618752e-06, + "loss": 0.0015, + "num_input_tokens_seen": 9092344, + "step": 4647 + }, + { + "epoch": 0.6160371106693174, + "grad_norm": 10.051376342773438, + "learning_rate": 4.499237699449304e-06, + "loss": 0.309, + "num_input_tokens_seen": 9094752, + "step": 4648 + }, + { + "epoch": 0.6161696487740226, + "grad_norm": 3.0165855884552, + "learning_rate": 4.499029256733174e-06, + "loss": 0.0623, + "num_input_tokens_seen": 9096048, + "step": 4649 + }, + { + "epoch": 0.6163021868787276, + "grad_norm": 10.058028221130371, + "learning_rate": 4.4988207754743805e-06, + "loss": 0.4459, + "num_input_tokens_seen": 9098368, + "step": 4650 + }, + { + "epoch": 0.6164347249834328, + "grad_norm": 14.995697975158691, + "learning_rate": 4.498612255676944e-06, + "loss": 0.6362, + "num_input_tokens_seen": 9100104, + "step": 4651 + }, + { + "epoch": 0.6165672630881378, + "grad_norm": 10.024073600769043, + "learning_rate": 4.498403697344885e-06, + "loss": 0.3696, + "num_input_tokens_seen": 9102664, + "step": 4652 + }, + { + "epoch": 0.616699801192843, + "grad_norm": 2.230666399002075, + "learning_rate": 4.4981951004822235e-06, + "loss": 0.0492, + "num_input_tokens_seen": 9103816, + "step": 4653 + }, + { + "epoch": 0.616832339297548, + "grad_norm": 13.140382766723633, + "learning_rate": 4.497986465092982e-06, + "loss": 0.525, + "num_input_tokens_seen": 9105800, + "step": 4654 + }, + { + "epoch": 0.6169648774022531, + "grad_norm": 13.978934288024902, + "learning_rate": 4.497777791181183e-06, + "loss": 0.3803, + "num_input_tokens_seen": 9108296, + "step": 4655 + }, + { + "epoch": 0.6170974155069583, + "grad_norm": 8.822529792785645, + "learning_rate": 4.4975690787508504e-06, + "loss": 0.3266, + "num_input_tokens_seen": 9109512, + "step": 4656 + }, + { + "epoch": 0.6172299536116633, + "grad_norm": 3.7693190574645996, + "learning_rate": 4.497360327806007e-06, + "loss": 0.1337, + "num_input_tokens_seen": 9110984, + "step": 4657 + }, + { + "epoch": 0.6173624917163685, + "grad_norm": 0.3466157019138336, + "learning_rate": 4.497151538350679e-06, + "loss": 0.0025, + "num_input_tokens_seen": 9112592, + "step": 4658 + }, + { + "epoch": 0.6174950298210735, + "grad_norm": 2.6810734272003174, + "learning_rate": 4.4969427103888925e-06, + "loss": 0.021, + "num_input_tokens_seen": 9114360, + "step": 4659 + }, + { + "epoch": 0.6176275679257787, + "grad_norm": 26.58724594116211, + "learning_rate": 4.4967338439246725e-06, + "loss": 0.6333, + "num_input_tokens_seen": 9117104, + "step": 4660 + }, + { + "epoch": 0.6177601060304838, + "grad_norm": 1.0373183488845825, + "learning_rate": 4.496524938962046e-06, + "loss": 0.0072, + "num_input_tokens_seen": 9118536, + "step": 4661 + }, + { + "epoch": 0.6178926441351889, + "grad_norm": 13.612814903259277, + "learning_rate": 4.496315995505042e-06, + "loss": 0.2523, + "num_input_tokens_seen": 9121296, + "step": 4662 + }, + { + "epoch": 0.618025182239894, + "grad_norm": 16.107580184936523, + "learning_rate": 4.496107013557687e-06, + "loss": 0.5627, + "num_input_tokens_seen": 9123352, + "step": 4663 + }, + { + "epoch": 0.618157720344599, + "grad_norm": 4.370780944824219, + "learning_rate": 4.4958979931240135e-06, + "loss": 0.1225, + "num_input_tokens_seen": 9126016, + "step": 4664 + }, + { + "epoch": 0.6182902584493042, + "grad_norm": 8.912665367126465, + "learning_rate": 4.495688934208049e-06, + "loss": 0.2641, + "num_input_tokens_seen": 9128240, + "step": 4665 + }, + { + "epoch": 0.6184227965540092, + "grad_norm": 10.929624557495117, + "learning_rate": 4.495479836813825e-06, + "loss": 0.3224, + "num_input_tokens_seen": 9130128, + "step": 4666 + }, + { + "epoch": 0.6185553346587144, + "grad_norm": 0.5185471773147583, + "learning_rate": 4.495270700945373e-06, + "loss": 0.0038, + "num_input_tokens_seen": 9131744, + "step": 4667 + }, + { + "epoch": 0.6186878727634195, + "grad_norm": 2.056727647781372, + "learning_rate": 4.495061526606725e-06, + "loss": 0.0142, + "num_input_tokens_seen": 9133344, + "step": 4668 + }, + { + "epoch": 0.6188204108681246, + "grad_norm": 6.010608673095703, + "learning_rate": 4.494852313801916e-06, + "loss": 0.0611, + "num_input_tokens_seen": 9134944, + "step": 4669 + }, + { + "epoch": 0.6189529489728297, + "grad_norm": 0.33955755829811096, + "learning_rate": 4.4946430625349765e-06, + "loss": 0.0024, + "num_input_tokens_seen": 9135952, + "step": 4670 + }, + { + "epoch": 0.6190854870775347, + "grad_norm": 2.5804831981658936, + "learning_rate": 4.494433772809944e-06, + "loss": 0.0757, + "num_input_tokens_seen": 9138184, + "step": 4671 + }, + { + "epoch": 0.6192180251822399, + "grad_norm": 0.4750082790851593, + "learning_rate": 4.494224444630852e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9139976, + "step": 4672 + }, + { + "epoch": 0.619350563286945, + "grad_norm": 0.6756501197814941, + "learning_rate": 4.494015078001737e-06, + "loss": 0.0035, + "num_input_tokens_seen": 9141576, + "step": 4673 + }, + { + "epoch": 0.6194831013916501, + "grad_norm": 11.099910736083984, + "learning_rate": 4.493805672926636e-06, + "loss": 0.3121, + "num_input_tokens_seen": 9143832, + "step": 4674 + }, + { + "epoch": 0.6196156394963552, + "grad_norm": 14.962285041809082, + "learning_rate": 4.4935962294095856e-06, + "loss": 0.717, + "num_input_tokens_seen": 9146200, + "step": 4675 + }, + { + "epoch": 0.6197481776010603, + "grad_norm": 0.07355666905641556, + "learning_rate": 4.493386747454624e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9147720, + "step": 4676 + }, + { + "epoch": 0.6198807157057654, + "grad_norm": 11.331989288330078, + "learning_rate": 4.4931772270657925e-06, + "loss": 0.1293, + "num_input_tokens_seen": 9150272, + "step": 4677 + }, + { + "epoch": 0.6200132538104705, + "grad_norm": 9.6017484664917, + "learning_rate": 4.492967668247128e-06, + "loss": 0.3661, + "num_input_tokens_seen": 9152872, + "step": 4678 + }, + { + "epoch": 0.6201457919151756, + "grad_norm": 16.255386352539062, + "learning_rate": 4.492758071002672e-06, + "loss": 0.3591, + "num_input_tokens_seen": 9154104, + "step": 4679 + }, + { + "epoch": 0.6202783300198808, + "grad_norm": 13.214810371398926, + "learning_rate": 4.4925484353364654e-06, + "loss": 0.6361, + "num_input_tokens_seen": 9156224, + "step": 4680 + }, + { + "epoch": 0.6204108681245858, + "grad_norm": 1.5089373588562012, + "learning_rate": 4.492338761252551e-06, + "loss": 0.0171, + "num_input_tokens_seen": 9157512, + "step": 4681 + }, + { + "epoch": 0.6205434062292909, + "grad_norm": 10.229904174804688, + "learning_rate": 4.492129048754971e-06, + "loss": 0.4306, + "num_input_tokens_seen": 9159392, + "step": 4682 + }, + { + "epoch": 0.620675944333996, + "grad_norm": 0.1794777810573578, + "learning_rate": 4.4919192978477675e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9162344, + "step": 4683 + }, + { + "epoch": 0.6208084824387011, + "grad_norm": 8.99548625946045, + "learning_rate": 4.491709508534987e-06, + "loss": 0.1933, + "num_input_tokens_seen": 9165552, + "step": 4684 + }, + { + "epoch": 0.6209410205434063, + "grad_norm": 4.505803108215332, + "learning_rate": 4.491499680820672e-06, + "loss": 0.0846, + "num_input_tokens_seen": 9167560, + "step": 4685 + }, + { + "epoch": 0.6210735586481113, + "grad_norm": 4.874803066253662, + "learning_rate": 4.49128981470887e-06, + "loss": 0.1084, + "num_input_tokens_seen": 9169160, + "step": 4686 + }, + { + "epoch": 0.6212060967528165, + "grad_norm": 4.848454475402832, + "learning_rate": 4.491079910203627e-06, + "loss": 0.227, + "num_input_tokens_seen": 9171248, + "step": 4687 + }, + { + "epoch": 0.6213386348575215, + "grad_norm": 6.063534259796143, + "learning_rate": 4.49086996730899e-06, + "loss": 0.1123, + "num_input_tokens_seen": 9173312, + "step": 4688 + }, + { + "epoch": 0.6214711729622266, + "grad_norm": 9.427091598510742, + "learning_rate": 4.490659986029005e-06, + "loss": 0.0885, + "num_input_tokens_seen": 9175872, + "step": 4689 + }, + { + "epoch": 0.6216037110669318, + "grad_norm": 13.28331470489502, + "learning_rate": 4.490449966367724e-06, + "loss": 0.1892, + "num_input_tokens_seen": 9177536, + "step": 4690 + }, + { + "epoch": 0.6217362491716368, + "grad_norm": 3.939404249191284, + "learning_rate": 4.490239908329193e-06, + "loss": 0.0915, + "num_input_tokens_seen": 9179024, + "step": 4691 + }, + { + "epoch": 0.621868787276342, + "grad_norm": 12.433578491210938, + "learning_rate": 4.490029811917465e-06, + "loss": 0.3202, + "num_input_tokens_seen": 9180600, + "step": 4692 + }, + { + "epoch": 0.622001325381047, + "grad_norm": 12.812872886657715, + "learning_rate": 4.489819677136587e-06, + "loss": 0.2954, + "num_input_tokens_seen": 9182512, + "step": 4693 + }, + { + "epoch": 0.6221338634857522, + "grad_norm": 0.3575594425201416, + "learning_rate": 4.489609503990615e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9183576, + "step": 4694 + }, + { + "epoch": 0.6222664015904572, + "grad_norm": 8.992940902709961, + "learning_rate": 4.489399292483599e-06, + "loss": 0.3486, + "num_input_tokens_seen": 9185464, + "step": 4695 + }, + { + "epoch": 0.6223989396951624, + "grad_norm": 10.612434387207031, + "learning_rate": 4.489189042619592e-06, + "loss": 0.1858, + "num_input_tokens_seen": 9187336, + "step": 4696 + }, + { + "epoch": 0.6225314777998675, + "grad_norm": 5.957917213439941, + "learning_rate": 4.488978754402648e-06, + "loss": 0.1281, + "num_input_tokens_seen": 9189568, + "step": 4697 + }, + { + "epoch": 0.6226640159045725, + "grad_norm": 15.949165344238281, + "learning_rate": 4.488768427836821e-06, + "loss": 1.0414, + "num_input_tokens_seen": 9192304, + "step": 4698 + }, + { + "epoch": 0.6227965540092777, + "grad_norm": 0.714363157749176, + "learning_rate": 4.488558062926167e-06, + "loss": 0.0047, + "num_input_tokens_seen": 9195248, + "step": 4699 + }, + { + "epoch": 0.6229290921139827, + "grad_norm": 4.676016330718994, + "learning_rate": 4.488347659674742e-06, + "loss": 0.1134, + "num_input_tokens_seen": 9196888, + "step": 4700 + }, + { + "epoch": 0.6230616302186879, + "grad_norm": 8.10399341583252, + "learning_rate": 4.488137218086602e-06, + "loss": 0.1283, + "num_input_tokens_seen": 9198784, + "step": 4701 + }, + { + "epoch": 0.623194168323393, + "grad_norm": 18.103416442871094, + "learning_rate": 4.487926738165805e-06, + "loss": 0.4921, + "num_input_tokens_seen": 9200536, + "step": 4702 + }, + { + "epoch": 0.6233267064280981, + "grad_norm": 4.6310858726501465, + "learning_rate": 4.48771621991641e-06, + "loss": 0.061, + "num_input_tokens_seen": 9201952, + "step": 4703 + }, + { + "epoch": 0.6234592445328032, + "grad_norm": 0.174373060464859, + "learning_rate": 4.487505663342474e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9205240, + "step": 4704 + }, + { + "epoch": 0.6235917826375083, + "grad_norm": 0.4662921130657196, + "learning_rate": 4.487295068448057e-06, + "loss": 0.0025, + "num_input_tokens_seen": 9206600, + "step": 4705 + }, + { + "epoch": 0.6237243207422134, + "grad_norm": 2.202655792236328, + "learning_rate": 4.487084435237222e-06, + "loss": 0.0561, + "num_input_tokens_seen": 9208184, + "step": 4706 + }, + { + "epoch": 0.6238568588469184, + "grad_norm": 7.26932430267334, + "learning_rate": 4.486873763714028e-06, + "loss": 0.1977, + "num_input_tokens_seen": 9210136, + "step": 4707 + }, + { + "epoch": 0.6239893969516236, + "grad_norm": 10.733011245727539, + "learning_rate": 4.486663053882536e-06, + "loss": 0.1926, + "num_input_tokens_seen": 9211392, + "step": 4708 + }, + { + "epoch": 0.6241219350563287, + "grad_norm": 14.1680908203125, + "learning_rate": 4.48645230574681e-06, + "loss": 0.2926, + "num_input_tokens_seen": 9213688, + "step": 4709 + }, + { + "epoch": 0.6242544731610338, + "grad_norm": 12.292638778686523, + "learning_rate": 4.4862415193109135e-06, + "loss": 0.1858, + "num_input_tokens_seen": 9215984, + "step": 4710 + }, + { + "epoch": 0.6243870112657389, + "grad_norm": 0.7757108807563782, + "learning_rate": 4.48603069457891e-06, + "loss": 0.0048, + "num_input_tokens_seen": 9217648, + "step": 4711 + }, + { + "epoch": 0.624519549370444, + "grad_norm": 5.925593376159668, + "learning_rate": 4.485819831554865e-06, + "loss": 0.1952, + "num_input_tokens_seen": 9220024, + "step": 4712 + }, + { + "epoch": 0.6246520874751491, + "grad_norm": 15.597627639770508, + "learning_rate": 4.485608930242844e-06, + "loss": 0.643, + "num_input_tokens_seen": 9222656, + "step": 4713 + }, + { + "epoch": 0.6247846255798543, + "grad_norm": 11.462278366088867, + "learning_rate": 4.485397990646912e-06, + "loss": 0.2415, + "num_input_tokens_seen": 9224288, + "step": 4714 + }, + { + "epoch": 0.6249171636845593, + "grad_norm": 9.234786033630371, + "learning_rate": 4.4851870127711385e-06, + "loss": 0.1598, + "num_input_tokens_seen": 9226040, + "step": 4715 + }, + { + "epoch": 0.6250497017892644, + "grad_norm": 0.14623677730560303, + "learning_rate": 4.4849759966195885e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9227856, + "step": 4716 + }, + { + "epoch": 0.6251822398939695, + "grad_norm": 15.587583541870117, + "learning_rate": 4.484764942196332e-06, + "loss": 0.491, + "num_input_tokens_seen": 9229856, + "step": 4717 + }, + { + "epoch": 0.6253147779986746, + "grad_norm": 4.736959934234619, + "learning_rate": 4.48455384950544e-06, + "loss": 0.1619, + "num_input_tokens_seen": 9231400, + "step": 4718 + }, + { + "epoch": 0.6254473161033797, + "grad_norm": 6.97900390625, + "learning_rate": 4.4843427185509786e-06, + "loss": 0.1963, + "num_input_tokens_seen": 9234672, + "step": 4719 + }, + { + "epoch": 0.6255798542080848, + "grad_norm": 6.921455383300781, + "learning_rate": 4.484131549337022e-06, + "loss": 0.3091, + "num_input_tokens_seen": 9236456, + "step": 4720 + }, + { + "epoch": 0.62571239231279, + "grad_norm": 7.441236972808838, + "learning_rate": 4.483920341867639e-06, + "loss": 0.287, + "num_input_tokens_seen": 9238352, + "step": 4721 + }, + { + "epoch": 0.625844930417495, + "grad_norm": 11.993032455444336, + "learning_rate": 4.483709096146904e-06, + "loss": 0.2502, + "num_input_tokens_seen": 9240728, + "step": 4722 + }, + { + "epoch": 0.6259774685222002, + "grad_norm": 10.66808032989502, + "learning_rate": 4.48349781217889e-06, + "loss": 0.4643, + "num_input_tokens_seen": 9242936, + "step": 4723 + }, + { + "epoch": 0.6261100066269052, + "grad_norm": 4.909586429595947, + "learning_rate": 4.483286489967669e-06, + "loss": 0.077, + "num_input_tokens_seen": 9245000, + "step": 4724 + }, + { + "epoch": 0.6262425447316103, + "grad_norm": 3.0337061882019043, + "learning_rate": 4.483075129517315e-06, + "loss": 0.0338, + "num_input_tokens_seen": 9246624, + "step": 4725 + }, + { + "epoch": 0.6263750828363155, + "grad_norm": 11.160965919494629, + "learning_rate": 4.482863730831906e-06, + "loss": 0.3363, + "num_input_tokens_seen": 9248256, + "step": 4726 + }, + { + "epoch": 0.6265076209410205, + "grad_norm": 6.9632439613342285, + "learning_rate": 4.482652293915516e-06, + "loss": 0.1224, + "num_input_tokens_seen": 9250808, + "step": 4727 + }, + { + "epoch": 0.6266401590457257, + "grad_norm": 9.692371368408203, + "learning_rate": 4.482440818772222e-06, + "loss": 0.3217, + "num_input_tokens_seen": 9252448, + "step": 4728 + }, + { + "epoch": 0.6267726971504307, + "grad_norm": 15.692598342895508, + "learning_rate": 4.482229305406101e-06, + "loss": 0.5902, + "num_input_tokens_seen": 9255096, + "step": 4729 + }, + { + "epoch": 0.6269052352551359, + "grad_norm": 0.28097230195999146, + "learning_rate": 4.482017753821233e-06, + "loss": 0.0016, + "num_input_tokens_seen": 9256976, + "step": 4730 + }, + { + "epoch": 0.6270377733598409, + "grad_norm": 11.245853424072266, + "learning_rate": 4.481806164021693e-06, + "loss": 0.2608, + "num_input_tokens_seen": 9258592, + "step": 4731 + }, + { + "epoch": 0.627170311464546, + "grad_norm": 14.31205940246582, + "learning_rate": 4.4815945360115655e-06, + "loss": 0.4802, + "num_input_tokens_seen": 9260616, + "step": 4732 + }, + { + "epoch": 0.6273028495692512, + "grad_norm": 3.7629506587982178, + "learning_rate": 4.481382869794927e-06, + "loss": 0.1381, + "num_input_tokens_seen": 9262520, + "step": 4733 + }, + { + "epoch": 0.6274353876739562, + "grad_norm": 0.11953546106815338, + "learning_rate": 4.48117116537586e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9263896, + "step": 4734 + }, + { + "epoch": 0.6275679257786614, + "grad_norm": 6.599833011627197, + "learning_rate": 4.480959422758446e-06, + "loss": 0.1279, + "num_input_tokens_seen": 9266504, + "step": 4735 + }, + { + "epoch": 0.6277004638833664, + "grad_norm": 0.339495986700058, + "learning_rate": 4.480747641946767e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9268152, + "step": 4736 + }, + { + "epoch": 0.6278330019880716, + "grad_norm": 4.102339744567871, + "learning_rate": 4.4805358229449096e-06, + "loss": 0.0515, + "num_input_tokens_seen": 9270400, + "step": 4737 + }, + { + "epoch": 0.6279655400927767, + "grad_norm": 0.10254357755184174, + "learning_rate": 4.480323965756953e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9272128, + "step": 4738 + }, + { + "epoch": 0.6280980781974818, + "grad_norm": 11.284097671508789, + "learning_rate": 4.480112070386985e-06, + "loss": 0.2533, + "num_input_tokens_seen": 9273944, + "step": 4739 + }, + { + "epoch": 0.6282306163021869, + "grad_norm": 9.663166046142578, + "learning_rate": 4.479900136839089e-06, + "loss": 0.2506, + "num_input_tokens_seen": 9275792, + "step": 4740 + }, + { + "epoch": 0.6283631544068919, + "grad_norm": 15.408649444580078, + "learning_rate": 4.479688165117354e-06, + "loss": 0.3845, + "num_input_tokens_seen": 9278304, + "step": 4741 + }, + { + "epoch": 0.6284956925115971, + "grad_norm": 4.305943965911865, + "learning_rate": 4.479476155225866e-06, + "loss": 0.0798, + "num_input_tokens_seen": 9279472, + "step": 4742 + }, + { + "epoch": 0.6286282306163022, + "grad_norm": 0.09096726775169373, + "learning_rate": 4.47926410716871e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9281720, + "step": 4743 + }, + { + "epoch": 0.6287607687210073, + "grad_norm": 4.696253299713135, + "learning_rate": 4.479052020949978e-06, + "loss": 0.0515, + "num_input_tokens_seen": 9283864, + "step": 4744 + }, + { + "epoch": 0.6288933068257124, + "grad_norm": 9.44750690460205, + "learning_rate": 4.478839896573758e-06, + "loss": 0.0617, + "num_input_tokens_seen": 9285592, + "step": 4745 + }, + { + "epoch": 0.6290258449304175, + "grad_norm": 7.358789920806885, + "learning_rate": 4.478627734044139e-06, + "loss": 0.1826, + "num_input_tokens_seen": 9287640, + "step": 4746 + }, + { + "epoch": 0.6291583830351226, + "grad_norm": 12.37944221496582, + "learning_rate": 4.478415533365212e-06, + "loss": 0.2451, + "num_input_tokens_seen": 9289976, + "step": 4747 + }, + { + "epoch": 0.6292909211398277, + "grad_norm": 4.406274795532227, + "learning_rate": 4.4782032945410694e-06, + "loss": 0.1359, + "num_input_tokens_seen": 9291624, + "step": 4748 + }, + { + "epoch": 0.6294234592445328, + "grad_norm": 5.894015789031982, + "learning_rate": 4.477991017575802e-06, + "loss": 0.0871, + "num_input_tokens_seen": 9293136, + "step": 4749 + }, + { + "epoch": 0.629555997349238, + "grad_norm": 13.213053703308105, + "learning_rate": 4.477778702473504e-06, + "loss": 0.283, + "num_input_tokens_seen": 9295712, + "step": 4750 + }, + { + "epoch": 0.629688535453943, + "grad_norm": 14.832886695861816, + "learning_rate": 4.477566349238268e-06, + "loss": 0.8326, + "num_input_tokens_seen": 9298696, + "step": 4751 + }, + { + "epoch": 0.6298210735586481, + "grad_norm": 9.77347469329834, + "learning_rate": 4.477353957874188e-06, + "loss": 0.1554, + "num_input_tokens_seen": 9300616, + "step": 4752 + }, + { + "epoch": 0.6299536116633532, + "grad_norm": 11.360574722290039, + "learning_rate": 4.47714152838536e-06, + "loss": 0.2502, + "num_input_tokens_seen": 9302496, + "step": 4753 + }, + { + "epoch": 0.6300861497680583, + "grad_norm": 4.4659647941589355, + "learning_rate": 4.476929060775879e-06, + "loss": 0.1487, + "num_input_tokens_seen": 9305104, + "step": 4754 + }, + { + "epoch": 0.6302186878727635, + "grad_norm": 40.28339385986328, + "learning_rate": 4.476716555049843e-06, + "loss": 0.2617, + "num_input_tokens_seen": 9307184, + "step": 4755 + }, + { + "epoch": 0.6303512259774685, + "grad_norm": 8.567086219787598, + "learning_rate": 4.476504011211347e-06, + "loss": 0.1876, + "num_input_tokens_seen": 9309072, + "step": 4756 + }, + { + "epoch": 0.6304837640821737, + "grad_norm": 5.161421775817871, + "learning_rate": 4.47629142926449e-06, + "loss": 0.0208, + "num_input_tokens_seen": 9310864, + "step": 4757 + }, + { + "epoch": 0.6306163021868787, + "grad_norm": 5.451211929321289, + "learning_rate": 4.476078809213371e-06, + "loss": 0.0766, + "num_input_tokens_seen": 9313392, + "step": 4758 + }, + { + "epoch": 0.6307488402915838, + "grad_norm": 28.7636775970459, + "learning_rate": 4.47586615106209e-06, + "loss": 0.8131, + "num_input_tokens_seen": 9315280, + "step": 4759 + }, + { + "epoch": 0.6308813783962889, + "grad_norm": 8.143635749816895, + "learning_rate": 4.475653454814746e-06, + "loss": 0.1577, + "num_input_tokens_seen": 9317800, + "step": 4760 + }, + { + "epoch": 0.631013916500994, + "grad_norm": 0.39525511860847473, + "learning_rate": 4.475440720475441e-06, + "loss": 0.0028, + "num_input_tokens_seen": 9319472, + "step": 4761 + }, + { + "epoch": 0.6311464546056992, + "grad_norm": 4.914936542510986, + "learning_rate": 4.475227948048276e-06, + "loss": 0.1786, + "num_input_tokens_seen": 9321520, + "step": 4762 + }, + { + "epoch": 0.6312789927104042, + "grad_norm": 0.8538804054260254, + "learning_rate": 4.475015137537353e-06, + "loss": 0.0062, + "num_input_tokens_seen": 9323792, + "step": 4763 + }, + { + "epoch": 0.6314115308151094, + "grad_norm": 7.3070969581604, + "learning_rate": 4.474802288946776e-06, + "loss": 0.1408, + "num_input_tokens_seen": 9325552, + "step": 4764 + }, + { + "epoch": 0.6315440689198144, + "grad_norm": 0.39548006653785706, + "learning_rate": 4.474589402280649e-06, + "loss": 0.0026, + "num_input_tokens_seen": 9327208, + "step": 4765 + }, + { + "epoch": 0.6316766070245196, + "grad_norm": 19.981210708618164, + "learning_rate": 4.474376477543075e-06, + "loss": 0.5314, + "num_input_tokens_seen": 9329072, + "step": 4766 + }, + { + "epoch": 0.6318091451292247, + "grad_norm": 10.657853126525879, + "learning_rate": 4.474163514738161e-06, + "loss": 0.5323, + "num_input_tokens_seen": 9331056, + "step": 4767 + }, + { + "epoch": 0.6319416832339297, + "grad_norm": 7.317267417907715, + "learning_rate": 4.473950513870013e-06, + "loss": 0.1049, + "num_input_tokens_seen": 9332672, + "step": 4768 + }, + { + "epoch": 0.6320742213386349, + "grad_norm": 6.87615966796875, + "learning_rate": 4.473737474942736e-06, + "loss": 0.0881, + "num_input_tokens_seen": 9334776, + "step": 4769 + }, + { + "epoch": 0.6322067594433399, + "grad_norm": 6.279460430145264, + "learning_rate": 4.47352439796044e-06, + "loss": 0.2506, + "num_input_tokens_seen": 9337032, + "step": 4770 + }, + { + "epoch": 0.6323392975480451, + "grad_norm": 3.7162981033325195, + "learning_rate": 4.473311282927233e-06, + "loss": 0.0446, + "num_input_tokens_seen": 9338288, + "step": 4771 + }, + { + "epoch": 0.6324718356527501, + "grad_norm": 12.533162117004395, + "learning_rate": 4.473098129847222e-06, + "loss": 0.4662, + "num_input_tokens_seen": 9340944, + "step": 4772 + }, + { + "epoch": 0.6326043737574553, + "grad_norm": 3.261996269226074, + "learning_rate": 4.4728849387245174e-06, + "loss": 0.0265, + "num_input_tokens_seen": 9343072, + "step": 4773 + }, + { + "epoch": 0.6327369118621604, + "grad_norm": 15.451162338256836, + "learning_rate": 4.472671709563231e-06, + "loss": 0.5624, + "num_input_tokens_seen": 9345392, + "step": 4774 + }, + { + "epoch": 0.6328694499668654, + "grad_norm": 0.059484872967004776, + "learning_rate": 4.472458442367473e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9347688, + "step": 4775 + }, + { + "epoch": 0.6330019880715706, + "grad_norm": 5.385174751281738, + "learning_rate": 4.472245137141355e-06, + "loss": 0.1769, + "num_input_tokens_seen": 9350256, + "step": 4776 + }, + { + "epoch": 0.6331345261762756, + "grad_norm": 12.318608283996582, + "learning_rate": 4.472031793888991e-06, + "loss": 0.3522, + "num_input_tokens_seen": 9352808, + "step": 4777 + }, + { + "epoch": 0.6332670642809808, + "grad_norm": 0.06902060657739639, + "learning_rate": 4.471818412614492e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9354296, + "step": 4778 + }, + { + "epoch": 0.6333996023856859, + "grad_norm": 3.1061789989471436, + "learning_rate": 4.471604993321975e-06, + "loss": 0.0461, + "num_input_tokens_seen": 9355944, + "step": 4779 + }, + { + "epoch": 0.633532140490391, + "grad_norm": 0.0948604866862297, + "learning_rate": 4.471391536015554e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9357336, + "step": 4780 + }, + { + "epoch": 0.6336646785950961, + "grad_norm": 0.05408541485667229, + "learning_rate": 4.471178040699343e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9358976, + "step": 4781 + }, + { + "epoch": 0.6337972166998012, + "grad_norm": 0.09396762400865555, + "learning_rate": 4.470964507377461e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9361392, + "step": 4782 + }, + { + "epoch": 0.6339297548045063, + "grad_norm": 0.05462309718132019, + "learning_rate": 4.4707509360540224e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9362632, + "step": 4783 + }, + { + "epoch": 0.6340622929092113, + "grad_norm": 4.9388017654418945, + "learning_rate": 4.470537326733147e-06, + "loss": 0.0931, + "num_input_tokens_seen": 9365192, + "step": 4784 + }, + { + "epoch": 0.6341948310139165, + "grad_norm": 6.067946434020996, + "learning_rate": 4.470323679418952e-06, + "loss": 0.1887, + "num_input_tokens_seen": 9366632, + "step": 4785 + }, + { + "epoch": 0.6343273691186216, + "grad_norm": 0.05308328568935394, + "learning_rate": 4.4701099941155576e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9368240, + "step": 4786 + }, + { + "epoch": 0.6344599072233267, + "grad_norm": 7.645464897155762, + "learning_rate": 4.469896270827083e-06, + "loss": 0.2742, + "num_input_tokens_seen": 9370840, + "step": 4787 + }, + { + "epoch": 0.6345924453280318, + "grad_norm": 6.440088748931885, + "learning_rate": 4.469682509557649e-06, + "loss": 0.1394, + "num_input_tokens_seen": 9373144, + "step": 4788 + }, + { + "epoch": 0.6347249834327369, + "grad_norm": 11.439305305480957, + "learning_rate": 4.469468710311378e-06, + "loss": 0.3313, + "num_input_tokens_seen": 9375048, + "step": 4789 + }, + { + "epoch": 0.634857521537442, + "grad_norm": 0.0310747642070055, + "learning_rate": 4.469254873092392e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9377648, + "step": 4790 + }, + { + "epoch": 0.6349900596421472, + "grad_norm": 5.411471843719482, + "learning_rate": 4.469040997904813e-06, + "loss": 0.1519, + "num_input_tokens_seen": 9379352, + "step": 4791 + }, + { + "epoch": 0.6351225977468522, + "grad_norm": 0.04134681448340416, + "learning_rate": 4.468827084752765e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9380552, + "step": 4792 + }, + { + "epoch": 0.6352551358515574, + "grad_norm": 15.2728271484375, + "learning_rate": 4.468613133640373e-06, + "loss": 0.4077, + "num_input_tokens_seen": 9382176, + "step": 4793 + }, + { + "epoch": 0.6353876739562624, + "grad_norm": 23.983142852783203, + "learning_rate": 4.468399144571761e-06, + "loss": 0.4982, + "num_input_tokens_seen": 9384000, + "step": 4794 + }, + { + "epoch": 0.6355202120609675, + "grad_norm": 13.765985488891602, + "learning_rate": 4.468185117551056e-06, + "loss": 0.5123, + "num_input_tokens_seen": 9386832, + "step": 4795 + }, + { + "epoch": 0.6356527501656726, + "grad_norm": 5.54903507232666, + "learning_rate": 4.467971052582384e-06, + "loss": 0.1848, + "num_input_tokens_seen": 9389208, + "step": 4796 + }, + { + "epoch": 0.6357852882703777, + "grad_norm": 5.594756603240967, + "learning_rate": 4.467756949669873e-06, + "loss": 0.2428, + "num_input_tokens_seen": 9391456, + "step": 4797 + }, + { + "epoch": 0.6359178263750829, + "grad_norm": 10.289932250976562, + "learning_rate": 4.46754280881765e-06, + "loss": 0.3626, + "num_input_tokens_seen": 9393488, + "step": 4798 + }, + { + "epoch": 0.6360503644797879, + "grad_norm": 8.716151237487793, + "learning_rate": 4.467328630029845e-06, + "loss": 0.2365, + "num_input_tokens_seen": 9395216, + "step": 4799 + }, + { + "epoch": 0.6361829025844931, + "grad_norm": 9.418380737304688, + "learning_rate": 4.467114413310586e-06, + "loss": 0.1986, + "num_input_tokens_seen": 9397504, + "step": 4800 + }, + { + "epoch": 0.6363154406891981, + "grad_norm": 10.990334510803223, + "learning_rate": 4.466900158664005e-06, + "loss": 0.3999, + "num_input_tokens_seen": 9400944, + "step": 4801 + }, + { + "epoch": 0.6364479787939032, + "grad_norm": 0.5313312411308289, + "learning_rate": 4.46668586609423e-06, + "loss": 0.0089, + "num_input_tokens_seen": 9402968, + "step": 4802 + }, + { + "epoch": 0.6365805168986084, + "grad_norm": 29.295711517333984, + "learning_rate": 4.466471535605397e-06, + "loss": 0.5898, + "num_input_tokens_seen": 9404832, + "step": 4803 + }, + { + "epoch": 0.6367130550033134, + "grad_norm": 8.569259643554688, + "learning_rate": 4.466257167201635e-06, + "loss": 0.2356, + "num_input_tokens_seen": 9407184, + "step": 4804 + }, + { + "epoch": 0.6368455931080186, + "grad_norm": 0.7735918164253235, + "learning_rate": 4.466042760887079e-06, + "loss": 0.0049, + "num_input_tokens_seen": 9408672, + "step": 4805 + }, + { + "epoch": 0.6369781312127236, + "grad_norm": 11.682205200195312, + "learning_rate": 4.465828316665861e-06, + "loss": 0.2697, + "num_input_tokens_seen": 9410400, + "step": 4806 + }, + { + "epoch": 0.6371106693174288, + "grad_norm": 6.96370792388916, + "learning_rate": 4.465613834542118e-06, + "loss": 0.1502, + "num_input_tokens_seen": 9411992, + "step": 4807 + }, + { + "epoch": 0.6372432074221339, + "grad_norm": 8.249862670898438, + "learning_rate": 4.4653993145199845e-06, + "loss": 0.2517, + "num_input_tokens_seen": 9414024, + "step": 4808 + }, + { + "epoch": 0.637375745526839, + "grad_norm": 0.2477010190486908, + "learning_rate": 4.465184756603597e-06, + "loss": 0.0018, + "num_input_tokens_seen": 9415672, + "step": 4809 + }, + { + "epoch": 0.6375082836315441, + "grad_norm": 0.4310399293899536, + "learning_rate": 4.46497016079709e-06, + "loss": 0.0031, + "num_input_tokens_seen": 9417808, + "step": 4810 + }, + { + "epoch": 0.6376408217362491, + "grad_norm": 24.789512634277344, + "learning_rate": 4.464755527104604e-06, + "loss": 1.0219, + "num_input_tokens_seen": 9420472, + "step": 4811 + }, + { + "epoch": 0.6377733598409543, + "grad_norm": 10.651152610778809, + "learning_rate": 4.464540855530275e-06, + "loss": 0.2242, + "num_input_tokens_seen": 9422264, + "step": 4812 + }, + { + "epoch": 0.6379058979456593, + "grad_norm": 3.9325499534606934, + "learning_rate": 4.464326146078244e-06, + "loss": 0.0673, + "num_input_tokens_seen": 9423856, + "step": 4813 + }, + { + "epoch": 0.6380384360503645, + "grad_norm": 7.080622673034668, + "learning_rate": 4.464111398752648e-06, + "loss": 0.1986, + "num_input_tokens_seen": 9426984, + "step": 4814 + }, + { + "epoch": 0.6381709741550696, + "grad_norm": 11.83078670501709, + "learning_rate": 4.4638966135576315e-06, + "loss": 0.3659, + "num_input_tokens_seen": 9428976, + "step": 4815 + }, + { + "epoch": 0.6383035122597747, + "grad_norm": 0.4345207214355469, + "learning_rate": 4.463681790497332e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9430392, + "step": 4816 + }, + { + "epoch": 0.6384360503644798, + "grad_norm": 16.421342849731445, + "learning_rate": 4.463466929575894e-06, + "loss": 0.7735, + "num_input_tokens_seen": 9432120, + "step": 4817 + }, + { + "epoch": 0.6385685884691849, + "grad_norm": 8.015900611877441, + "learning_rate": 4.463252030797458e-06, + "loss": 0.2068, + "num_input_tokens_seen": 9435288, + "step": 4818 + }, + { + "epoch": 0.63870112657389, + "grad_norm": 6.320451736450195, + "learning_rate": 4.46303709416617e-06, + "loss": 0.1152, + "num_input_tokens_seen": 9436960, + "step": 4819 + }, + { + "epoch": 0.6388336646785951, + "grad_norm": 0.39286741614341736, + "learning_rate": 4.462822119686171e-06, + "loss": 0.0029, + "num_input_tokens_seen": 9441032, + "step": 4820 + }, + { + "epoch": 0.6389662027833002, + "grad_norm": 16.194061279296875, + "learning_rate": 4.462607107361608e-06, + "loss": 0.4237, + "num_input_tokens_seen": 9442896, + "step": 4821 + }, + { + "epoch": 0.6390987408880053, + "grad_norm": 9.960128784179688, + "learning_rate": 4.462392057196626e-06, + "loss": 0.1203, + "num_input_tokens_seen": 9444432, + "step": 4822 + }, + { + "epoch": 0.6392312789927104, + "grad_norm": 1.8447933197021484, + "learning_rate": 4.462176969195371e-06, + "loss": 0.013, + "num_input_tokens_seen": 9446992, + "step": 4823 + }, + { + "epoch": 0.6393638170974155, + "grad_norm": 5.806275844573975, + "learning_rate": 4.461961843361991e-06, + "loss": 0.1424, + "num_input_tokens_seen": 9448800, + "step": 4824 + }, + { + "epoch": 0.6394963552021206, + "grad_norm": 10.891443252563477, + "learning_rate": 4.461746679700632e-06, + "loss": 0.2417, + "num_input_tokens_seen": 9450432, + "step": 4825 + }, + { + "epoch": 0.6396288933068257, + "grad_norm": 0.7464866042137146, + "learning_rate": 4.461531478215446e-06, + "loss": 0.0053, + "num_input_tokens_seen": 9453024, + "step": 4826 + }, + { + "epoch": 0.6397614314115309, + "grad_norm": 10.647525787353516, + "learning_rate": 4.461316238910578e-06, + "loss": 0.2265, + "num_input_tokens_seen": 9455088, + "step": 4827 + }, + { + "epoch": 0.6398939695162359, + "grad_norm": 6.746596336364746, + "learning_rate": 4.461100961790181e-06, + "loss": 0.1839, + "num_input_tokens_seen": 9457248, + "step": 4828 + }, + { + "epoch": 0.640026507620941, + "grad_norm": 2.391592264175415, + "learning_rate": 4.460885646858404e-06, + "loss": 0.0584, + "num_input_tokens_seen": 9460176, + "step": 4829 + }, + { + "epoch": 0.6401590457256461, + "grad_norm": 8.733220100402832, + "learning_rate": 4.460670294119399e-06, + "loss": 0.3492, + "num_input_tokens_seen": 9462000, + "step": 4830 + }, + { + "epoch": 0.6402915838303512, + "grad_norm": 0.27454718947410583, + "learning_rate": 4.460454903577318e-06, + "loss": 0.002, + "num_input_tokens_seen": 9463200, + "step": 4831 + }, + { + "epoch": 0.6404241219350564, + "grad_norm": 7.840694427490234, + "learning_rate": 4.460239475236314e-06, + "loss": 0.2701, + "num_input_tokens_seen": 9465264, + "step": 4832 + }, + { + "epoch": 0.6405566600397614, + "grad_norm": 0.2896285355091095, + "learning_rate": 4.46002400910054e-06, + "loss": 0.0021, + "num_input_tokens_seen": 9467928, + "step": 4833 + }, + { + "epoch": 0.6406891981444666, + "grad_norm": 1.2033575773239136, + "learning_rate": 4.459808505174152e-06, + "loss": 0.0067, + "num_input_tokens_seen": 9470944, + "step": 4834 + }, + { + "epoch": 0.6408217362491716, + "grad_norm": 4.316341876983643, + "learning_rate": 4.459592963461304e-06, + "loss": 0.0564, + "num_input_tokens_seen": 9472536, + "step": 4835 + }, + { + "epoch": 0.6409542743538768, + "grad_norm": 1.8086624145507812, + "learning_rate": 4.459377383966151e-06, + "loss": 0.0118, + "num_input_tokens_seen": 9474176, + "step": 4836 + }, + { + "epoch": 0.6410868124585818, + "grad_norm": 6.824998378753662, + "learning_rate": 4.459161766692851e-06, + "loss": 0.2292, + "num_input_tokens_seen": 9476416, + "step": 4837 + }, + { + "epoch": 0.6412193505632869, + "grad_norm": 0.17999917268753052, + "learning_rate": 4.45894611164556e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9478120, + "step": 4838 + }, + { + "epoch": 0.6413518886679921, + "grad_norm": 8.806440353393555, + "learning_rate": 4.458730418828437e-06, + "loss": 0.1975, + "num_input_tokens_seen": 9480152, + "step": 4839 + }, + { + "epoch": 0.6414844267726971, + "grad_norm": 3.3774189949035645, + "learning_rate": 4.458514688245641e-06, + "loss": 0.0375, + "num_input_tokens_seen": 9481616, + "step": 4840 + }, + { + "epoch": 0.6416169648774023, + "grad_norm": 0.07355403155088425, + "learning_rate": 4.45829891990133e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9483616, + "step": 4841 + }, + { + "epoch": 0.6417495029821073, + "grad_norm": 10.695578575134277, + "learning_rate": 4.458083113799664e-06, + "loss": 0.1648, + "num_input_tokens_seen": 9485304, + "step": 4842 + }, + { + "epoch": 0.6418820410868125, + "grad_norm": 5.048794269561768, + "learning_rate": 4.457867269944806e-06, + "loss": 0.0775, + "num_input_tokens_seen": 9486936, + "step": 4843 + }, + { + "epoch": 0.6420145791915176, + "grad_norm": 4.7919440269470215, + "learning_rate": 4.457651388340916e-06, + "loss": 0.1346, + "num_input_tokens_seen": 9489424, + "step": 4844 + }, + { + "epoch": 0.6421471172962226, + "grad_norm": 6.147254943847656, + "learning_rate": 4.457435468992157e-06, + "loss": 0.1702, + "num_input_tokens_seen": 9490760, + "step": 4845 + }, + { + "epoch": 0.6422796554009278, + "grad_norm": 11.189906120300293, + "learning_rate": 4.45721951190269e-06, + "loss": 0.2798, + "num_input_tokens_seen": 9492672, + "step": 4846 + }, + { + "epoch": 0.6424121935056328, + "grad_norm": 7.041614055633545, + "learning_rate": 4.457003517076683e-06, + "loss": 0.2798, + "num_input_tokens_seen": 9494712, + "step": 4847 + }, + { + "epoch": 0.642544731610338, + "grad_norm": 0.045423202216625214, + "learning_rate": 4.456787484518297e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9496208, + "step": 4848 + }, + { + "epoch": 0.642677269715043, + "grad_norm": 7.87891960144043, + "learning_rate": 4.456571414231699e-06, + "loss": 0.2755, + "num_input_tokens_seen": 9498424, + "step": 4849 + }, + { + "epoch": 0.6428098078197482, + "grad_norm": 1.3120954036712646, + "learning_rate": 4.456355306221054e-06, + "loss": 0.0176, + "num_input_tokens_seen": 9499936, + "step": 4850 + }, + { + "epoch": 0.6429423459244533, + "grad_norm": 0.09056670218706131, + "learning_rate": 4.456139160490529e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9502672, + "step": 4851 + }, + { + "epoch": 0.6430748840291584, + "grad_norm": 0.05561875179409981, + "learning_rate": 4.455922977044291e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9504008, + "step": 4852 + }, + { + "epoch": 0.6432074221338635, + "grad_norm": 11.432732582092285, + "learning_rate": 4.455706755886509e-06, + "loss": 0.263, + "num_input_tokens_seen": 9505792, + "step": 4853 + }, + { + "epoch": 0.6433399602385685, + "grad_norm": 6.313557147979736, + "learning_rate": 4.455490497021352e-06, + "loss": 0.1424, + "num_input_tokens_seen": 9508416, + "step": 4854 + }, + { + "epoch": 0.6434724983432737, + "grad_norm": 5.000476360321045, + "learning_rate": 4.455274200452989e-06, + "loss": 0.15, + "num_input_tokens_seen": 9510824, + "step": 4855 + }, + { + "epoch": 0.6436050364479788, + "grad_norm": 1.254848599433899, + "learning_rate": 4.45505786618559e-06, + "loss": 0.0067, + "num_input_tokens_seen": 9512056, + "step": 4856 + }, + { + "epoch": 0.6437375745526839, + "grad_norm": 7.127485275268555, + "learning_rate": 4.454841494223328e-06, + "loss": 0.2149, + "num_input_tokens_seen": 9513656, + "step": 4857 + }, + { + "epoch": 0.643870112657389, + "grad_norm": 0.7913540005683899, + "learning_rate": 4.454625084570372e-06, + "loss": 0.0051, + "num_input_tokens_seen": 9515448, + "step": 4858 + }, + { + "epoch": 0.6440026507620941, + "grad_norm": 0.26762810349464417, + "learning_rate": 4.454408637230897e-06, + "loss": 0.0019, + "num_input_tokens_seen": 9516952, + "step": 4859 + }, + { + "epoch": 0.6441351888667992, + "grad_norm": 8.086902618408203, + "learning_rate": 4.454192152209074e-06, + "loss": 0.2745, + "num_input_tokens_seen": 9518736, + "step": 4860 + }, + { + "epoch": 0.6442677269715044, + "grad_norm": 12.396095275878906, + "learning_rate": 4.453975629509079e-06, + "loss": 0.6375, + "num_input_tokens_seen": 9521848, + "step": 4861 + }, + { + "epoch": 0.6444002650762094, + "grad_norm": 15.481982231140137, + "learning_rate": 4.453759069135087e-06, + "loss": 0.578, + "num_input_tokens_seen": 9523696, + "step": 4862 + }, + { + "epoch": 0.6445328031809145, + "grad_norm": 5.175758361816406, + "learning_rate": 4.45354247109127e-06, + "loss": 0.0961, + "num_input_tokens_seen": 9526368, + "step": 4863 + }, + { + "epoch": 0.6446653412856196, + "grad_norm": 0.32571929693222046, + "learning_rate": 4.453325835381808e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9528416, + "step": 4864 + }, + { + "epoch": 0.6447978793903247, + "grad_norm": 1.2239230871200562, + "learning_rate": 4.453109162010875e-06, + "loss": 0.0182, + "num_input_tokens_seen": 9529920, + "step": 4865 + }, + { + "epoch": 0.6449304174950298, + "grad_norm": 8.420411109924316, + "learning_rate": 4.452892450982651e-06, + "loss": 0.2873, + "num_input_tokens_seen": 9531680, + "step": 4866 + }, + { + "epoch": 0.6450629555997349, + "grad_norm": 0.10115247964859009, + "learning_rate": 4.452675702301313e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9533184, + "step": 4867 + }, + { + "epoch": 0.6451954937044401, + "grad_norm": 5.8544487953186035, + "learning_rate": 4.4524589159710406e-06, + "loss": 0.1923, + "num_input_tokens_seen": 9534304, + "step": 4868 + }, + { + "epoch": 0.6453280318091451, + "grad_norm": 22.86847496032715, + "learning_rate": 4.452242091996013e-06, + "loss": 1.0328, + "num_input_tokens_seen": 9535920, + "step": 4869 + }, + { + "epoch": 0.6454605699138503, + "grad_norm": 8.39797306060791, + "learning_rate": 4.452025230380412e-06, + "loss": 0.1684, + "num_input_tokens_seen": 9537992, + "step": 4870 + }, + { + "epoch": 0.6455931080185553, + "grad_norm": 18.60875129699707, + "learning_rate": 4.451808331128417e-06, + "loss": 0.2908, + "num_input_tokens_seen": 9540536, + "step": 4871 + }, + { + "epoch": 0.6457256461232604, + "grad_norm": 0.30296850204467773, + "learning_rate": 4.451591394244211e-06, + "loss": 0.002, + "num_input_tokens_seen": 9543192, + "step": 4872 + }, + { + "epoch": 0.6458581842279656, + "grad_norm": 22.829776763916016, + "learning_rate": 4.451374419731978e-06, + "loss": 0.4296, + "num_input_tokens_seen": 9544896, + "step": 4873 + }, + { + "epoch": 0.6459907223326706, + "grad_norm": 8.951194763183594, + "learning_rate": 4.451157407595898e-06, + "loss": 0.2081, + "num_input_tokens_seen": 9546752, + "step": 4874 + }, + { + "epoch": 0.6461232604373758, + "grad_norm": 15.652210235595703, + "learning_rate": 4.450940357840157e-06, + "loss": 0.4454, + "num_input_tokens_seen": 9548808, + "step": 4875 + }, + { + "epoch": 0.6462557985420808, + "grad_norm": 0.3247293531894684, + "learning_rate": 4.4507232704689415e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9550304, + "step": 4876 + }, + { + "epoch": 0.646388336646786, + "grad_norm": 6.515808582305908, + "learning_rate": 4.4505061454864355e-06, + "loss": 0.178, + "num_input_tokens_seen": 9553040, + "step": 4877 + }, + { + "epoch": 0.646520874751491, + "grad_norm": 6.426331043243408, + "learning_rate": 4.450288982896825e-06, + "loss": 0.19, + "num_input_tokens_seen": 9554720, + "step": 4878 + }, + { + "epoch": 0.6466534128561962, + "grad_norm": 0.37664979696273804, + "learning_rate": 4.450071782704297e-06, + "loss": 0.0026, + "num_input_tokens_seen": 9556088, + "step": 4879 + }, + { + "epoch": 0.6467859509609013, + "grad_norm": 12.391663551330566, + "learning_rate": 4.44985454491304e-06, + "loss": 0.5698, + "num_input_tokens_seen": 9558832, + "step": 4880 + }, + { + "epoch": 0.6469184890656063, + "grad_norm": 5.82336950302124, + "learning_rate": 4.4496372695272426e-06, + "loss": 0.1832, + "num_input_tokens_seen": 9560488, + "step": 4881 + }, + { + "epoch": 0.6470510271703115, + "grad_norm": 4.2001566886901855, + "learning_rate": 4.449419956551094e-06, + "loss": 0.0641, + "num_input_tokens_seen": 9562728, + "step": 4882 + }, + { + "epoch": 0.6471835652750165, + "grad_norm": 14.888204574584961, + "learning_rate": 4.449202605988784e-06, + "loss": 0.3792, + "num_input_tokens_seen": 9564760, + "step": 4883 + }, + { + "epoch": 0.6473161033797217, + "grad_norm": 10.145330429077148, + "learning_rate": 4.448985217844501e-06, + "loss": 0.2194, + "num_input_tokens_seen": 9567184, + "step": 4884 + }, + { + "epoch": 0.6474486414844268, + "grad_norm": 6.315364837646484, + "learning_rate": 4.44876779212244e-06, + "loss": 0.1209, + "num_input_tokens_seen": 9569832, + "step": 4885 + }, + { + "epoch": 0.6475811795891319, + "grad_norm": 6.940689563751221, + "learning_rate": 4.448550328826792e-06, + "loss": 0.0681, + "num_input_tokens_seen": 9571768, + "step": 4886 + }, + { + "epoch": 0.647713717693837, + "grad_norm": 7.291001319885254, + "learning_rate": 4.448332827961749e-06, + "loss": 0.0757, + "num_input_tokens_seen": 9574040, + "step": 4887 + }, + { + "epoch": 0.647846255798542, + "grad_norm": 5.533946514129639, + "learning_rate": 4.448115289531505e-06, + "loss": 0.1314, + "num_input_tokens_seen": 9576032, + "step": 4888 + }, + { + "epoch": 0.6479787939032472, + "grad_norm": 9.036831855773926, + "learning_rate": 4.4478977135402536e-06, + "loss": 0.2193, + "num_input_tokens_seen": 9578144, + "step": 4889 + }, + { + "epoch": 0.6481113320079522, + "grad_norm": 3.3029744625091553, + "learning_rate": 4.447680099992191e-06, + "loss": 0.0693, + "num_input_tokens_seen": 9580632, + "step": 4890 + }, + { + "epoch": 0.6482438701126574, + "grad_norm": 10.926652908325195, + "learning_rate": 4.447462448891513e-06, + "loss": 0.2621, + "num_input_tokens_seen": 9582544, + "step": 4891 + }, + { + "epoch": 0.6483764082173625, + "grad_norm": 11.979860305786133, + "learning_rate": 4.447244760242415e-06, + "loss": 0.3476, + "num_input_tokens_seen": 9585016, + "step": 4892 + }, + { + "epoch": 0.6485089463220676, + "grad_norm": 2.7239322662353516, + "learning_rate": 4.447027034049094e-06, + "loss": 0.0259, + "num_input_tokens_seen": 9587384, + "step": 4893 + }, + { + "epoch": 0.6486414844267727, + "grad_norm": 9.86445140838623, + "learning_rate": 4.44680927031575e-06, + "loss": 0.1054, + "num_input_tokens_seen": 9589312, + "step": 4894 + }, + { + "epoch": 0.6487740225314778, + "grad_norm": 0.4499588906764984, + "learning_rate": 4.4465914690465785e-06, + "loss": 0.0031, + "num_input_tokens_seen": 9590760, + "step": 4895 + }, + { + "epoch": 0.6489065606361829, + "grad_norm": 4.442226409912109, + "learning_rate": 4.4463736302457824e-06, + "loss": 0.0682, + "num_input_tokens_seen": 9592944, + "step": 4896 + }, + { + "epoch": 0.649039098740888, + "grad_norm": 9.19690990447998, + "learning_rate": 4.446155753917559e-06, + "loss": 0.3678, + "num_input_tokens_seen": 9595008, + "step": 4897 + }, + { + "epoch": 0.6491716368455931, + "grad_norm": 16.92936134338379, + "learning_rate": 4.44593784006611e-06, + "loss": 0.2864, + "num_input_tokens_seen": 9597088, + "step": 4898 + }, + { + "epoch": 0.6493041749502982, + "grad_norm": 3.8098597526550293, + "learning_rate": 4.4457198886956374e-06, + "loss": 0.1194, + "num_input_tokens_seen": 9599176, + "step": 4899 + }, + { + "epoch": 0.6494367130550033, + "grad_norm": 1.7245649099349976, + "learning_rate": 4.445501899810343e-06, + "loss": 0.0138, + "num_input_tokens_seen": 9600632, + "step": 4900 + }, + { + "epoch": 0.6495692511597084, + "grad_norm": 11.463774681091309, + "learning_rate": 4.44528387341443e-06, + "loss": 0.4453, + "num_input_tokens_seen": 9603160, + "step": 4901 + }, + { + "epoch": 0.6497017892644135, + "grad_norm": 12.178915977478027, + "learning_rate": 4.445065809512102e-06, + "loss": 0.4404, + "num_input_tokens_seen": 9605192, + "step": 4902 + }, + { + "epoch": 0.6498343273691186, + "grad_norm": 0.23685547709465027, + "learning_rate": 4.444847708107562e-06, + "loss": 0.0016, + "num_input_tokens_seen": 9606168, + "step": 4903 + }, + { + "epoch": 0.6499668654738238, + "grad_norm": 8.615063667297363, + "learning_rate": 4.444629569205018e-06, + "loss": 0.3142, + "num_input_tokens_seen": 9608024, + "step": 4904 + }, + { + "epoch": 0.6500994035785288, + "grad_norm": 10.248557090759277, + "learning_rate": 4.444411392808674e-06, + "loss": 0.1872, + "num_input_tokens_seen": 9609992, + "step": 4905 + }, + { + "epoch": 0.650231941683234, + "grad_norm": 9.712374687194824, + "learning_rate": 4.444193178922737e-06, + "loss": 0.1912, + "num_input_tokens_seen": 9611832, + "step": 4906 + }, + { + "epoch": 0.650364479787939, + "grad_norm": 14.79377555847168, + "learning_rate": 4.443974927551414e-06, + "loss": 0.3073, + "num_input_tokens_seen": 9613768, + "step": 4907 + }, + { + "epoch": 0.6504970178926441, + "grad_norm": 14.20767879486084, + "learning_rate": 4.443756638698913e-06, + "loss": 0.7216, + "num_input_tokens_seen": 9615856, + "step": 4908 + }, + { + "epoch": 0.6506295559973493, + "grad_norm": 11.211538314819336, + "learning_rate": 4.443538312369444e-06, + "loss": 0.5318, + "num_input_tokens_seen": 9618648, + "step": 4909 + }, + { + "epoch": 0.6507620941020543, + "grad_norm": 8.546815872192383, + "learning_rate": 4.443319948567215e-06, + "loss": 0.2733, + "num_input_tokens_seen": 9620232, + "step": 4910 + }, + { + "epoch": 0.6508946322067595, + "grad_norm": 6.848811149597168, + "learning_rate": 4.443101547296437e-06, + "loss": 0.2028, + "num_input_tokens_seen": 9622424, + "step": 4911 + }, + { + "epoch": 0.6510271703114645, + "grad_norm": 0.6491931080818176, + "learning_rate": 4.442883108561321e-06, + "loss": 0.0041, + "num_input_tokens_seen": 9624488, + "step": 4912 + }, + { + "epoch": 0.6511597084161697, + "grad_norm": 12.751710891723633, + "learning_rate": 4.442664632366077e-06, + "loss": 0.4509, + "num_input_tokens_seen": 9626704, + "step": 4913 + }, + { + "epoch": 0.6512922465208748, + "grad_norm": 1.621903419494629, + "learning_rate": 4.44244611871492e-06, + "loss": 0.0213, + "num_input_tokens_seen": 9629200, + "step": 4914 + }, + { + "epoch": 0.6514247846255798, + "grad_norm": 6.312143325805664, + "learning_rate": 4.442227567612062e-06, + "loss": 0.2643, + "num_input_tokens_seen": 9631728, + "step": 4915 + }, + { + "epoch": 0.651557322730285, + "grad_norm": 11.068902969360352, + "learning_rate": 4.442008979061715e-06, + "loss": 0.2523, + "num_input_tokens_seen": 9633224, + "step": 4916 + }, + { + "epoch": 0.65168986083499, + "grad_norm": 15.456021308898926, + "learning_rate": 4.441790353068098e-06, + "loss": 0.3187, + "num_input_tokens_seen": 9635936, + "step": 4917 + }, + { + "epoch": 0.6518223989396952, + "grad_norm": 14.133515357971191, + "learning_rate": 4.4415716896354205e-06, + "loss": 0.4168, + "num_input_tokens_seen": 9637712, + "step": 4918 + }, + { + "epoch": 0.6519549370444002, + "grad_norm": 3.9950807094573975, + "learning_rate": 4.441352988767903e-06, + "loss": 0.0693, + "num_input_tokens_seen": 9639592, + "step": 4919 + }, + { + "epoch": 0.6520874751491054, + "grad_norm": 10.165696144104004, + "learning_rate": 4.4411342504697595e-06, + "loss": 0.2075, + "num_input_tokens_seen": 9641832, + "step": 4920 + }, + { + "epoch": 0.6522200132538105, + "grad_norm": 9.085101127624512, + "learning_rate": 4.4409154747452096e-06, + "loss": 0.4002, + "num_input_tokens_seen": 9644000, + "step": 4921 + }, + { + "epoch": 0.6523525513585156, + "grad_norm": 4.153408050537109, + "learning_rate": 4.44069666159847e-06, + "loss": 0.0416, + "num_input_tokens_seen": 9646800, + "step": 4922 + }, + { + "epoch": 0.6524850894632207, + "grad_norm": 13.377498626708984, + "learning_rate": 4.4404778110337595e-06, + "loss": 0.3605, + "num_input_tokens_seen": 9648520, + "step": 4923 + }, + { + "epoch": 0.6526176275679257, + "grad_norm": 13.998909950256348, + "learning_rate": 4.440258923055298e-06, + "loss": 0.4652, + "num_input_tokens_seen": 9651128, + "step": 4924 + }, + { + "epoch": 0.6527501656726309, + "grad_norm": 0.3415073752403259, + "learning_rate": 4.440039997667307e-06, + "loss": 0.0022, + "num_input_tokens_seen": 9653432, + "step": 4925 + }, + { + "epoch": 0.652882703777336, + "grad_norm": 0.08827115595340729, + "learning_rate": 4.439821034874006e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9654896, + "step": 4926 + }, + { + "epoch": 0.6530152418820411, + "grad_norm": 1.8026548624038696, + "learning_rate": 4.439602034679618e-06, + "loss": 0.0417, + "num_input_tokens_seen": 9656344, + "step": 4927 + }, + { + "epoch": 0.6531477799867462, + "grad_norm": 11.30551528930664, + "learning_rate": 4.439382997088363e-06, + "loss": 0.2153, + "num_input_tokens_seen": 9658512, + "step": 4928 + }, + { + "epoch": 0.6532803180914513, + "grad_norm": 3.9185690879821777, + "learning_rate": 4.439163922104467e-06, + "loss": 0.0273, + "num_input_tokens_seen": 9659952, + "step": 4929 + }, + { + "epoch": 0.6534128561961564, + "grad_norm": 11.925789833068848, + "learning_rate": 4.438944809732153e-06, + "loss": 0.2703, + "num_input_tokens_seen": 9661648, + "step": 4930 + }, + { + "epoch": 0.6535453943008614, + "grad_norm": 5.87583589553833, + "learning_rate": 4.438725659975644e-06, + "loss": 0.0812, + "num_input_tokens_seen": 9663776, + "step": 4931 + }, + { + "epoch": 0.6536779324055666, + "grad_norm": 13.513618469238281, + "learning_rate": 4.438506472839169e-06, + "loss": 0.4256, + "num_input_tokens_seen": 9665696, + "step": 4932 + }, + { + "epoch": 0.6538104705102717, + "grad_norm": 12.337636947631836, + "learning_rate": 4.43828724832695e-06, + "loss": 0.2735, + "num_input_tokens_seen": 9668368, + "step": 4933 + }, + { + "epoch": 0.6539430086149768, + "grad_norm": 4.707254886627197, + "learning_rate": 4.438067986443217e-06, + "loss": 0.1286, + "num_input_tokens_seen": 9669824, + "step": 4934 + }, + { + "epoch": 0.6540755467196819, + "grad_norm": 1.4064189195632935, + "learning_rate": 4.437848687192195e-06, + "loss": 0.0056, + "num_input_tokens_seen": 9672800, + "step": 4935 + }, + { + "epoch": 0.654208084824387, + "grad_norm": 1.4091341495513916, + "learning_rate": 4.437629350578115e-06, + "loss": 0.0091, + "num_input_tokens_seen": 9675272, + "step": 4936 + }, + { + "epoch": 0.6543406229290921, + "grad_norm": 0.22482064366340637, + "learning_rate": 4.437409976605204e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9676744, + "step": 4937 + }, + { + "epoch": 0.6544731610337973, + "grad_norm": 4.379144668579102, + "learning_rate": 4.437190565277691e-06, + "loss": 0.1677, + "num_input_tokens_seen": 9678872, + "step": 4938 + }, + { + "epoch": 0.6546056991385023, + "grad_norm": 4.113053321838379, + "learning_rate": 4.4369711165998085e-06, + "loss": 0.1263, + "num_input_tokens_seen": 9680992, + "step": 4939 + }, + { + "epoch": 0.6547382372432075, + "grad_norm": 9.140275955200195, + "learning_rate": 4.4367516305757864e-06, + "loss": 0.1357, + "num_input_tokens_seen": 9682272, + "step": 4940 + }, + { + "epoch": 0.6548707753479125, + "grad_norm": 0.03027283400297165, + "learning_rate": 4.436532107209857e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9683552, + "step": 4941 + }, + { + "epoch": 0.6550033134526176, + "grad_norm": 0.1308932900428772, + "learning_rate": 4.436312546506252e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9685320, + "step": 4942 + }, + { + "epoch": 0.6551358515573227, + "grad_norm": 0.13611389696598053, + "learning_rate": 4.436092948469205e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9687064, + "step": 4943 + }, + { + "epoch": 0.6552683896620278, + "grad_norm": 11.976266860961914, + "learning_rate": 4.435873313102951e-06, + "loss": 0.3159, + "num_input_tokens_seen": 9689208, + "step": 4944 + }, + { + "epoch": 0.655400927766733, + "grad_norm": 0.048062171787023544, + "learning_rate": 4.435653640411724e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9690600, + "step": 4945 + }, + { + "epoch": 0.655533465871438, + "grad_norm": 9.773316383361816, + "learning_rate": 4.43543393039976e-06, + "loss": 0.3407, + "num_input_tokens_seen": 9694160, + "step": 4946 + }, + { + "epoch": 0.6556660039761432, + "grad_norm": 9.891671180725098, + "learning_rate": 4.435214183071294e-06, + "loss": 0.4888, + "num_input_tokens_seen": 9697208, + "step": 4947 + }, + { + "epoch": 0.6557985420808482, + "grad_norm": 1.2753030061721802, + "learning_rate": 4.434994398430563e-06, + "loss": 0.0082, + "num_input_tokens_seen": 9699944, + "step": 4948 + }, + { + "epoch": 0.6559310801855534, + "grad_norm": 7.925821304321289, + "learning_rate": 4.434774576481806e-06, + "loss": 0.2255, + "num_input_tokens_seen": 9702176, + "step": 4949 + }, + { + "epoch": 0.6560636182902585, + "grad_norm": 0.013318458572030067, + "learning_rate": 4.43455471722926e-06, + "loss": 0.0001, + "num_input_tokens_seen": 9703720, + "step": 4950 + }, + { + "epoch": 0.6561961563949635, + "grad_norm": 10.792168617248535, + "learning_rate": 4.4343348206771645e-06, + "loss": 0.403, + "num_input_tokens_seen": 9706440, + "step": 4951 + }, + { + "epoch": 0.6563286944996687, + "grad_norm": 9.374406814575195, + "learning_rate": 4.43411488682976e-06, + "loss": 0.1483, + "num_input_tokens_seen": 9707768, + "step": 4952 + }, + { + "epoch": 0.6564612326043737, + "grad_norm": 8.012020111083984, + "learning_rate": 4.433894915691285e-06, + "loss": 0.1881, + "num_input_tokens_seen": 9711160, + "step": 4953 + }, + { + "epoch": 0.6565937707090789, + "grad_norm": 9.518787384033203, + "learning_rate": 4.433674907265982e-06, + "loss": 0.3732, + "num_input_tokens_seen": 9713744, + "step": 4954 + }, + { + "epoch": 0.6567263088137839, + "grad_norm": 21.15972328186035, + "learning_rate": 4.433454861558094e-06, + "loss": 0.6788, + "num_input_tokens_seen": 9715776, + "step": 4955 + }, + { + "epoch": 0.6568588469184891, + "grad_norm": 0.03623078763484955, + "learning_rate": 4.4332347785718615e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9717664, + "step": 4956 + }, + { + "epoch": 0.6569913850231942, + "grad_norm": 13.509406089782715, + "learning_rate": 4.433014658311529e-06, + "loss": 0.2496, + "num_input_tokens_seen": 9719592, + "step": 4957 + }, + { + "epoch": 0.6571239231278992, + "grad_norm": 9.939379692077637, + "learning_rate": 4.4327945007813406e-06, + "loss": 0.23, + "num_input_tokens_seen": 9721544, + "step": 4958 + }, + { + "epoch": 0.6572564612326044, + "grad_norm": 4.431924343109131, + "learning_rate": 4.432574305985541e-06, + "loss": 0.0807, + "num_input_tokens_seen": 9723856, + "step": 4959 + }, + { + "epoch": 0.6573889993373094, + "grad_norm": 9.369827270507812, + "learning_rate": 4.432354073928374e-06, + "loss": 0.1657, + "num_input_tokens_seen": 9726120, + "step": 4960 + }, + { + "epoch": 0.6575215374420146, + "grad_norm": 10.54124641418457, + "learning_rate": 4.432133804614089e-06, + "loss": 0.2355, + "num_input_tokens_seen": 9727688, + "step": 4961 + }, + { + "epoch": 0.6576540755467197, + "grad_norm": 0.13701234757900238, + "learning_rate": 4.431913498046931e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9728968, + "step": 4962 + }, + { + "epoch": 0.6577866136514248, + "grad_norm": 2.403229236602783, + "learning_rate": 4.431693154231148e-06, + "loss": 0.0378, + "num_input_tokens_seen": 9730368, + "step": 4963 + }, + { + "epoch": 0.6579191517561299, + "grad_norm": 0.7506384253501892, + "learning_rate": 4.431472773170988e-06, + "loss": 0.0042, + "num_input_tokens_seen": 9732056, + "step": 4964 + }, + { + "epoch": 0.658051689860835, + "grad_norm": 20.07316780090332, + "learning_rate": 4.431252354870701e-06, + "loss": 0.6298, + "num_input_tokens_seen": 9733952, + "step": 4965 + }, + { + "epoch": 0.6581842279655401, + "grad_norm": 13.885061264038086, + "learning_rate": 4.431031899334537e-06, + "loss": 0.2005, + "num_input_tokens_seen": 9735216, + "step": 4966 + }, + { + "epoch": 0.6583167660702451, + "grad_norm": 4.1072678565979, + "learning_rate": 4.430811406566744e-06, + "loss": 0.029, + "num_input_tokens_seen": 9736824, + "step": 4967 + }, + { + "epoch": 0.6584493041749503, + "grad_norm": 0.10417488217353821, + "learning_rate": 4.430590876571577e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9738592, + "step": 4968 + }, + { + "epoch": 0.6585818422796554, + "grad_norm": 0.12139590084552765, + "learning_rate": 4.4303703093532845e-06, + "loss": 0.0008, + "num_input_tokens_seen": 9740584, + "step": 4969 + }, + { + "epoch": 0.6587143803843605, + "grad_norm": 6.384578704833984, + "learning_rate": 4.430149704916121e-06, + "loss": 0.2513, + "num_input_tokens_seen": 9742400, + "step": 4970 + }, + { + "epoch": 0.6588469184890656, + "grad_norm": 7.288904666900635, + "learning_rate": 4.42992906326434e-06, + "loss": 0.1837, + "num_input_tokens_seen": 9744408, + "step": 4971 + }, + { + "epoch": 0.6589794565937707, + "grad_norm": 10.088225364685059, + "learning_rate": 4.429708384402195e-06, + "loss": 0.1502, + "num_input_tokens_seen": 9747288, + "step": 4972 + }, + { + "epoch": 0.6591119946984758, + "grad_norm": 12.420062065124512, + "learning_rate": 4.429487668333941e-06, + "loss": 0.4258, + "num_input_tokens_seen": 9749792, + "step": 4973 + }, + { + "epoch": 0.659244532803181, + "grad_norm": 10.40991497039795, + "learning_rate": 4.4292669150638346e-06, + "loss": 0.3383, + "num_input_tokens_seen": 9751632, + "step": 4974 + }, + { + "epoch": 0.659377070907886, + "grad_norm": 0.06113347411155701, + "learning_rate": 4.42904612459613e-06, + "loss": 0.0004, + "num_input_tokens_seen": 9753880, + "step": 4975 + }, + { + "epoch": 0.6595096090125911, + "grad_norm": 0.35043495893478394, + "learning_rate": 4.428825296935086e-06, + "loss": 0.0024, + "num_input_tokens_seen": 9755488, + "step": 4976 + }, + { + "epoch": 0.6596421471172962, + "grad_norm": 1.0674535036087036, + "learning_rate": 4.428604432084959e-06, + "loss": 0.0049, + "num_input_tokens_seen": 9757920, + "step": 4977 + }, + { + "epoch": 0.6597746852220013, + "grad_norm": 0.04963526502251625, + "learning_rate": 4.42838353005001e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9759776, + "step": 4978 + }, + { + "epoch": 0.6599072233267065, + "grad_norm": 11.400837898254395, + "learning_rate": 4.428162590834495e-06, + "loss": 0.2831, + "num_input_tokens_seen": 9761504, + "step": 4979 + }, + { + "epoch": 0.6600397614314115, + "grad_norm": 2.0109293460845947, + "learning_rate": 4.427941614442675e-06, + "loss": 0.0124, + "num_input_tokens_seen": 9762768, + "step": 4980 + }, + { + "epoch": 0.6601722995361167, + "grad_norm": 9.907425880432129, + "learning_rate": 4.4277206008788096e-06, + "loss": 0.1858, + "num_input_tokens_seen": 9764432, + "step": 4981 + }, + { + "epoch": 0.6603048376408217, + "grad_norm": 9.269798278808594, + "learning_rate": 4.4274995501471625e-06, + "loss": 0.1293, + "num_input_tokens_seen": 9767344, + "step": 4982 + }, + { + "epoch": 0.6604373757455269, + "grad_norm": 9.2672758102417, + "learning_rate": 4.427278462251994e-06, + "loss": 0.24, + "num_input_tokens_seen": 9769200, + "step": 4983 + }, + { + "epoch": 0.6605699138502319, + "grad_norm": 4.715796947479248, + "learning_rate": 4.427057337197566e-06, + "loss": 0.0396, + "num_input_tokens_seen": 9771176, + "step": 4984 + }, + { + "epoch": 0.660702451954937, + "grad_norm": 7.958349227905273, + "learning_rate": 4.426836174988145e-06, + "loss": 0.2333, + "num_input_tokens_seen": 9772376, + "step": 4985 + }, + { + "epoch": 0.6608349900596422, + "grad_norm": 0.32258349657058716, + "learning_rate": 4.426614975627993e-06, + "loss": 0.0019, + "num_input_tokens_seen": 9774120, + "step": 4986 + }, + { + "epoch": 0.6609675281643472, + "grad_norm": 7.679451942443848, + "learning_rate": 4.426393739121374e-06, + "loss": 0.1117, + "num_input_tokens_seen": 9776280, + "step": 4987 + }, + { + "epoch": 0.6611000662690524, + "grad_norm": 5.332755088806152, + "learning_rate": 4.426172465472556e-06, + "loss": 0.2184, + "num_input_tokens_seen": 9777880, + "step": 4988 + }, + { + "epoch": 0.6612326043737574, + "grad_norm": 7.2600178718566895, + "learning_rate": 4.425951154685804e-06, + "loss": 0.1276, + "num_input_tokens_seen": 9780368, + "step": 4989 + }, + { + "epoch": 0.6613651424784626, + "grad_norm": 6.8875322341918945, + "learning_rate": 4.425729806765385e-06, + "loss": 0.1292, + "num_input_tokens_seen": 9782384, + "step": 4990 + }, + { + "epoch": 0.6614976805831677, + "grad_norm": 13.065975189208984, + "learning_rate": 4.425508421715565e-06, + "loss": 0.3635, + "num_input_tokens_seen": 9784872, + "step": 4991 + }, + { + "epoch": 0.6616302186878728, + "grad_norm": 0.07522980123758316, + "learning_rate": 4.425286999540617e-06, + "loss": 0.0005, + "num_input_tokens_seen": 9786944, + "step": 4992 + }, + { + "epoch": 0.6617627567925779, + "grad_norm": 0.042785629630088806, + "learning_rate": 4.425065540244805e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9788144, + "step": 4993 + }, + { + "epoch": 0.6618952948972829, + "grad_norm": 0.03004760667681694, + "learning_rate": 4.424844043832403e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9790128, + "step": 4994 + }, + { + "epoch": 0.6620278330019881, + "grad_norm": 13.8309907913208, + "learning_rate": 4.424622510307679e-06, + "loss": 0.2251, + "num_input_tokens_seen": 9792896, + "step": 4995 + }, + { + "epoch": 0.6621603711066931, + "grad_norm": 11.583640098571777, + "learning_rate": 4.424400939674906e-06, + "loss": 0.5219, + "num_input_tokens_seen": 9794944, + "step": 4996 + }, + { + "epoch": 0.6622929092113983, + "grad_norm": 12.569435119628906, + "learning_rate": 4.424179331938355e-06, + "loss": 0.3063, + "num_input_tokens_seen": 9797352, + "step": 4997 + }, + { + "epoch": 0.6624254473161034, + "grad_norm": 8.057336807250977, + "learning_rate": 4.423957687102299e-06, + "loss": 0.1473, + "num_input_tokens_seen": 9799264, + "step": 4998 + }, + { + "epoch": 0.6625579854208085, + "grad_norm": 20.758127212524414, + "learning_rate": 4.423736005171012e-06, + "loss": 0.7184, + "num_input_tokens_seen": 9801504, + "step": 4999 + }, + { + "epoch": 0.6626905235255136, + "grad_norm": 9.654420852661133, + "learning_rate": 4.423514286148768e-06, + "loss": 0.3853, + "num_input_tokens_seen": 9803672, + "step": 5000 + }, + { + "epoch": 0.6628230616302186, + "grad_norm": 0.25291866064071655, + "learning_rate": 4.423292530039841e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9806840, + "step": 5001 + }, + { + "epoch": 0.6629555997349238, + "grad_norm": 5.552849292755127, + "learning_rate": 4.423070736848507e-06, + "loss": 0.0931, + "num_input_tokens_seen": 9808376, + "step": 5002 + }, + { + "epoch": 0.6630881378396289, + "grad_norm": 15.180678367614746, + "learning_rate": 4.422848906579042e-06, + "loss": 0.0912, + "num_input_tokens_seen": 9810656, + "step": 5003 + }, + { + "epoch": 0.663220675944334, + "grad_norm": 12.315427780151367, + "learning_rate": 4.422627039235725e-06, + "loss": 0.2831, + "num_input_tokens_seen": 9812360, + "step": 5004 + }, + { + "epoch": 0.6633532140490391, + "grad_norm": 0.5663869380950928, + "learning_rate": 4.422405134822831e-06, + "loss": 0.0031, + "num_input_tokens_seen": 9813896, + "step": 5005 + }, + { + "epoch": 0.6634857521537442, + "grad_norm": 4.510916709899902, + "learning_rate": 4.422183193344642e-06, + "loss": 0.0822, + "num_input_tokens_seen": 9815664, + "step": 5006 + }, + { + "epoch": 0.6636182902584493, + "grad_norm": 11.862811088562012, + "learning_rate": 4.421961214805432e-06, + "loss": 0.4808, + "num_input_tokens_seen": 9817176, + "step": 5007 + }, + { + "epoch": 0.6637508283631544, + "grad_norm": 11.01945686340332, + "learning_rate": 4.4217391992094864e-06, + "loss": 0.1436, + "num_input_tokens_seen": 9818744, + "step": 5008 + }, + { + "epoch": 0.6638833664678595, + "grad_norm": 3.3814823627471924, + "learning_rate": 4.4215171465610815e-06, + "loss": 0.0996, + "num_input_tokens_seen": 9820520, + "step": 5009 + }, + { + "epoch": 0.6640159045725647, + "grad_norm": 0.8859408497810364, + "learning_rate": 4.421295056864501e-06, + "loss": 0.0048, + "num_input_tokens_seen": 9822280, + "step": 5010 + }, + { + "epoch": 0.6641484426772697, + "grad_norm": 9.419044494628906, + "learning_rate": 4.4210729301240266e-06, + "loss": 0.3337, + "num_input_tokens_seen": 9823824, + "step": 5011 + }, + { + "epoch": 0.6642809807819748, + "grad_norm": 9.986599922180176, + "learning_rate": 4.42085076634394e-06, + "loss": 0.2552, + "num_input_tokens_seen": 9825968, + "step": 5012 + }, + { + "epoch": 0.6644135188866799, + "grad_norm": 8.335803985595703, + "learning_rate": 4.420628565528527e-06, + "loss": 0.2553, + "num_input_tokens_seen": 9828984, + "step": 5013 + }, + { + "epoch": 0.664546056991385, + "grad_norm": 15.004911422729492, + "learning_rate": 4.42040632768207e-06, + "loss": 0.4594, + "num_input_tokens_seen": 9831016, + "step": 5014 + }, + { + "epoch": 0.6646785950960902, + "grad_norm": 30.192182540893555, + "learning_rate": 4.420184052808854e-06, + "loss": 1.0335, + "num_input_tokens_seen": 9834088, + "step": 5015 + }, + { + "epoch": 0.6648111332007952, + "grad_norm": 15.952327728271484, + "learning_rate": 4.419961740913163e-06, + "loss": 0.163, + "num_input_tokens_seen": 9836912, + "step": 5016 + }, + { + "epoch": 0.6649436713055004, + "grad_norm": 4.233673572540283, + "learning_rate": 4.419739391999287e-06, + "loss": 0.0357, + "num_input_tokens_seen": 9838912, + "step": 5017 + }, + { + "epoch": 0.6650762094102054, + "grad_norm": 9.261635780334473, + "learning_rate": 4.419517006071511e-06, + "loss": 0.1837, + "num_input_tokens_seen": 9840848, + "step": 5018 + }, + { + "epoch": 0.6652087475149105, + "grad_norm": 0.715478777885437, + "learning_rate": 4.419294583134123e-06, + "loss": 0.0037, + "num_input_tokens_seen": 9842400, + "step": 5019 + }, + { + "epoch": 0.6653412856196156, + "grad_norm": 25.23809814453125, + "learning_rate": 4.419072123191411e-06, + "loss": 0.4748, + "num_input_tokens_seen": 9843704, + "step": 5020 + }, + { + "epoch": 0.6654738237243207, + "grad_norm": 2.126145839691162, + "learning_rate": 4.418849626247664e-06, + "loss": 0.0786, + "num_input_tokens_seen": 9845176, + "step": 5021 + }, + { + "epoch": 0.6656063618290259, + "grad_norm": 24.467252731323242, + "learning_rate": 4.418627092307174e-06, + "loss": 1.2944, + "num_input_tokens_seen": 9847992, + "step": 5022 + }, + { + "epoch": 0.6657388999337309, + "grad_norm": 0.4962744116783142, + "learning_rate": 4.418404521374229e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9850216, + "step": 5023 + }, + { + "epoch": 0.6658714380384361, + "grad_norm": 4.327403545379639, + "learning_rate": 4.418181913453121e-06, + "loss": 0.0677, + "num_input_tokens_seen": 9852520, + "step": 5024 + }, + { + "epoch": 0.6660039761431411, + "grad_norm": 9.603227615356445, + "learning_rate": 4.417959268548143e-06, + "loss": 0.2486, + "num_input_tokens_seen": 9854600, + "step": 5025 + }, + { + "epoch": 0.6661365142478463, + "grad_norm": 9.059036254882812, + "learning_rate": 4.417736586663587e-06, + "loss": 0.2638, + "num_input_tokens_seen": 9856904, + "step": 5026 + }, + { + "epoch": 0.6662690523525514, + "grad_norm": 5.030508041381836, + "learning_rate": 4.417513867803747e-06, + "loss": 0.1136, + "num_input_tokens_seen": 9858408, + "step": 5027 + }, + { + "epoch": 0.6664015904572564, + "grad_norm": 14.200212478637695, + "learning_rate": 4.417291111972917e-06, + "loss": 0.6719, + "num_input_tokens_seen": 9860312, + "step": 5028 + }, + { + "epoch": 0.6665341285619616, + "grad_norm": 0.14212562143802643, + "learning_rate": 4.417068319175391e-06, + "loss": 0.001, + "num_input_tokens_seen": 9862080, + "step": 5029 + }, + { + "epoch": 0.6666666666666666, + "grad_norm": 7.112290859222412, + "learning_rate": 4.416845489415465e-06, + "loss": 0.1419, + "num_input_tokens_seen": 9863936, + "step": 5030 + }, + { + "epoch": 0.6667992047713718, + "grad_norm": 3.9986684322357178, + "learning_rate": 4.416622622697436e-06, + "loss": 0.0323, + "num_input_tokens_seen": 9865656, + "step": 5031 + }, + { + "epoch": 0.6669317428760769, + "grad_norm": 6.242071628570557, + "learning_rate": 4.416399719025602e-06, + "loss": 0.0924, + "num_input_tokens_seen": 9867240, + "step": 5032 + }, + { + "epoch": 0.667064280980782, + "grad_norm": 0.14766113460063934, + "learning_rate": 4.416176778404258e-06, + "loss": 0.001, + "num_input_tokens_seen": 9869616, + "step": 5033 + }, + { + "epoch": 0.6671968190854871, + "grad_norm": 20.075815200805664, + "learning_rate": 4.415953800837704e-06, + "loss": 0.6163, + "num_input_tokens_seen": 9871400, + "step": 5034 + }, + { + "epoch": 0.6673293571901922, + "grad_norm": 0.17864811420440674, + "learning_rate": 4.415730786330238e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9873608, + "step": 5035 + }, + { + "epoch": 0.6674618952948973, + "grad_norm": 18.78772735595703, + "learning_rate": 4.415507734886162e-06, + "loss": 0.3052, + "num_input_tokens_seen": 9875672, + "step": 5036 + }, + { + "epoch": 0.6675944333996023, + "grad_norm": 10.10122299194336, + "learning_rate": 4.415284646509775e-06, + "loss": 0.3539, + "num_input_tokens_seen": 9877736, + "step": 5037 + }, + { + "epoch": 0.6677269715043075, + "grad_norm": 5.717212677001953, + "learning_rate": 4.415061521205379e-06, + "loss": 0.1252, + "num_input_tokens_seen": 9879688, + "step": 5038 + }, + { + "epoch": 0.6678595096090126, + "grad_norm": 7.765366077423096, + "learning_rate": 4.414838358977276e-06, + "loss": 0.1498, + "num_input_tokens_seen": 9881624, + "step": 5039 + }, + { + "epoch": 0.6679920477137177, + "grad_norm": 0.09273875504732132, + "learning_rate": 4.414615159829768e-06, + "loss": 0.0006, + "num_input_tokens_seen": 9883080, + "step": 5040 + }, + { + "epoch": 0.6681245858184228, + "grad_norm": 12.386722564697266, + "learning_rate": 4.4143919237671595e-06, + "loss": 0.3715, + "num_input_tokens_seen": 9885576, + "step": 5041 + }, + { + "epoch": 0.6682571239231279, + "grad_norm": 0.190579354763031, + "learning_rate": 4.414168650793753e-06, + "loss": 0.0013, + "num_input_tokens_seen": 9886888, + "step": 5042 + }, + { + "epoch": 0.668389662027833, + "grad_norm": 5.57904577255249, + "learning_rate": 4.413945340913855e-06, + "loss": 0.1759, + "num_input_tokens_seen": 9888640, + "step": 5043 + }, + { + "epoch": 0.6685222001325382, + "grad_norm": 0.106113962829113, + "learning_rate": 4.413721994131771e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9890640, + "step": 5044 + }, + { + "epoch": 0.6686547382372432, + "grad_norm": 4.529018878936768, + "learning_rate": 4.4134986104518065e-06, + "loss": 0.028, + "num_input_tokens_seen": 9892568, + "step": 5045 + }, + { + "epoch": 0.6687872763419483, + "grad_norm": 11.19788646697998, + "learning_rate": 4.4132751898782676e-06, + "loss": 0.3302, + "num_input_tokens_seen": 9894744, + "step": 5046 + }, + { + "epoch": 0.6689198144466534, + "grad_norm": 2.2651402950286865, + "learning_rate": 4.4130517324154645e-06, + "loss": 0.0268, + "num_input_tokens_seen": 9896528, + "step": 5047 + }, + { + "epoch": 0.6690523525513585, + "grad_norm": 0.4463745951652527, + "learning_rate": 4.412828238067704e-06, + "loss": 0.0029, + "num_input_tokens_seen": 9897952, + "step": 5048 + }, + { + "epoch": 0.6691848906560636, + "grad_norm": 9.748815536499023, + "learning_rate": 4.412604706839294e-06, + "loss": 0.2879, + "num_input_tokens_seen": 9899840, + "step": 5049 + }, + { + "epoch": 0.6693174287607687, + "grad_norm": 0.17950616776943207, + "learning_rate": 4.412381138734547e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9900984, + "step": 5050 + }, + { + "epoch": 0.6694499668654739, + "grad_norm": 18.12680435180664, + "learning_rate": 4.4121575337577725e-06, + "loss": 0.6558, + "num_input_tokens_seen": 9902728, + "step": 5051 + }, + { + "epoch": 0.6695825049701789, + "grad_norm": 10.23061466217041, + "learning_rate": 4.411933891913281e-06, + "loss": 0.4668, + "num_input_tokens_seen": 9904536, + "step": 5052 + }, + { + "epoch": 0.669715043074884, + "grad_norm": 0.5455088019371033, + "learning_rate": 4.411710213205386e-06, + "loss": 0.0036, + "num_input_tokens_seen": 9906256, + "step": 5053 + }, + { + "epoch": 0.6698475811795891, + "grad_norm": 4.464481830596924, + "learning_rate": 4.411486497638399e-06, + "loss": 0.0307, + "num_input_tokens_seen": 9908024, + "step": 5054 + }, + { + "epoch": 0.6699801192842942, + "grad_norm": 0.10425784438848495, + "learning_rate": 4.411262745216633e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9910368, + "step": 5055 + }, + { + "epoch": 0.6701126573889994, + "grad_norm": 10.11318588256836, + "learning_rate": 4.411038955944403e-06, + "loss": 0.436, + "num_input_tokens_seen": 9912680, + "step": 5056 + }, + { + "epoch": 0.6702451954937044, + "grad_norm": 7.7582783699035645, + "learning_rate": 4.410815129826025e-06, + "loss": 0.2796, + "num_input_tokens_seen": 9914472, + "step": 5057 + }, + { + "epoch": 0.6703777335984096, + "grad_norm": 13.129932403564453, + "learning_rate": 4.410591266865812e-06, + "loss": 0.4313, + "num_input_tokens_seen": 9918120, + "step": 5058 + }, + { + "epoch": 0.6705102717031146, + "grad_norm": 3.296034097671509, + "learning_rate": 4.410367367068081e-06, + "loss": 0.0263, + "num_input_tokens_seen": 9920608, + "step": 5059 + }, + { + "epoch": 0.6706428098078198, + "grad_norm": 9.669759750366211, + "learning_rate": 4.410143430437149e-06, + "loss": 0.1508, + "num_input_tokens_seen": 9922712, + "step": 5060 + }, + { + "epoch": 0.6707753479125248, + "grad_norm": 0.13385877013206482, + "learning_rate": 4.409919456977335e-06, + "loss": 0.0009, + "num_input_tokens_seen": 9925560, + "step": 5061 + }, + { + "epoch": 0.67090788601723, + "grad_norm": 8.13770866394043, + "learning_rate": 4.409695446692955e-06, + "loss": 0.2427, + "num_input_tokens_seen": 9927880, + "step": 5062 + }, + { + "epoch": 0.6710404241219351, + "grad_norm": 0.09607189893722534, + "learning_rate": 4.4094713995883304e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9929744, + "step": 5063 + }, + { + "epoch": 0.6711729622266401, + "grad_norm": 17.464380264282227, + "learning_rate": 4.4092473156677795e-06, + "loss": 0.8497, + "num_input_tokens_seen": 9932808, + "step": 5064 + }, + { + "epoch": 0.6713055003313453, + "grad_norm": 0.20174774527549744, + "learning_rate": 4.409023194935623e-06, + "loss": 0.0012, + "num_input_tokens_seen": 9935472, + "step": 5065 + }, + { + "epoch": 0.6714380384360503, + "grad_norm": 2.341762065887451, + "learning_rate": 4.408799037396183e-06, + "loss": 0.0109, + "num_input_tokens_seen": 9937104, + "step": 5066 + }, + { + "epoch": 0.6715705765407555, + "grad_norm": 1.1015726327896118, + "learning_rate": 4.408574843053781e-06, + "loss": 0.0052, + "num_input_tokens_seen": 9939040, + "step": 5067 + }, + { + "epoch": 0.6717031146454606, + "grad_norm": 8.07042121887207, + "learning_rate": 4.408350611912739e-06, + "loss": 0.278, + "num_input_tokens_seen": 9941528, + "step": 5068 + }, + { + "epoch": 0.6718356527501657, + "grad_norm": 2.494370460510254, + "learning_rate": 4.40812634397738e-06, + "loss": 0.019, + "num_input_tokens_seen": 9943656, + "step": 5069 + }, + { + "epoch": 0.6719681908548708, + "grad_norm": 5.115164756774902, + "learning_rate": 4.407902039252029e-06, + "loss": 0.1386, + "num_input_tokens_seen": 9945536, + "step": 5070 + }, + { + "epoch": 0.6721007289595758, + "grad_norm": 7.323765754699707, + "learning_rate": 4.407677697741011e-06, + "loss": 0.0923, + "num_input_tokens_seen": 9947696, + "step": 5071 + }, + { + "epoch": 0.672233267064281, + "grad_norm": 5.594784259796143, + "learning_rate": 4.40745331944865e-06, + "loss": 0.1361, + "num_input_tokens_seen": 9949160, + "step": 5072 + }, + { + "epoch": 0.672365805168986, + "grad_norm": 5.180838108062744, + "learning_rate": 4.407228904379274e-06, + "loss": 0.1081, + "num_input_tokens_seen": 9951296, + "step": 5073 + }, + { + "epoch": 0.6724983432736912, + "grad_norm": 0.03395497426390648, + "learning_rate": 4.407004452537209e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9953032, + "step": 5074 + }, + { + "epoch": 0.6726308813783963, + "grad_norm": 5.230647563934326, + "learning_rate": 4.406779963926782e-06, + "loss": 0.1623, + "num_input_tokens_seen": 9955040, + "step": 5075 + }, + { + "epoch": 0.6727634194831014, + "grad_norm": 5.3114824295043945, + "learning_rate": 4.406555438552322e-06, + "loss": 0.1561, + "num_input_tokens_seen": 9956904, + "step": 5076 + }, + { + "epoch": 0.6728959575878065, + "grad_norm": 0.02076246775686741, + "learning_rate": 4.406330876418158e-06, + "loss": 0.0001, + "num_input_tokens_seen": 9959328, + "step": 5077 + }, + { + "epoch": 0.6730284956925116, + "grad_norm": 18.329252243041992, + "learning_rate": 4.40610627752862e-06, + "loss": 0.5498, + "num_input_tokens_seen": 9961584, + "step": 5078 + }, + { + "epoch": 0.6731610337972167, + "grad_norm": 0.0381946824491024, + "learning_rate": 4.405881641888038e-06, + "loss": 0.0003, + "num_input_tokens_seen": 9963408, + "step": 5079 + }, + { + "epoch": 0.6732935719019219, + "grad_norm": 7.628283500671387, + "learning_rate": 4.405656969500742e-06, + "loss": 0.2154, + "num_input_tokens_seen": 9966168, + "step": 5080 + }, + { + "epoch": 0.6734261100066269, + "grad_norm": 0.015847966074943542, + "learning_rate": 4.405432260371066e-06, + "loss": 0.0001, + "num_input_tokens_seen": 9967768, + "step": 5081 + }, + { + "epoch": 0.673558648111332, + "grad_norm": 15.920512199401855, + "learning_rate": 4.405207514503341e-06, + "loss": 0.714, + "num_input_tokens_seen": 9970320, + "step": 5082 + }, + { + "epoch": 0.6736911862160371, + "grad_norm": 0.029172945767641068, + "learning_rate": 4.4049827319019015e-06, + "loss": 0.0002, + "num_input_tokens_seen": 9971592, + "step": 5083 + }, + { + "epoch": 0.6738237243207422, + "grad_norm": 7.37698221206665, + "learning_rate": 4.40475791257108e-06, + "loss": 0.1768, + "num_input_tokens_seen": 9972952, + "step": 5084 + }, + { + "epoch": 0.6739562624254473, + "grad_norm": 0.1236468106508255, + "learning_rate": 4.404533056515213e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9974296, + "step": 5085 + }, + { + "epoch": 0.6740888005301524, + "grad_norm": 4.536341667175293, + "learning_rate": 4.404308163738634e-06, + "loss": 0.1213, + "num_input_tokens_seen": 9975856, + "step": 5086 + }, + { + "epoch": 0.6742213386348576, + "grad_norm": 12.280192375183105, + "learning_rate": 4.40408323424568e-06, + "loss": 0.1738, + "num_input_tokens_seen": 9977280, + "step": 5087 + }, + { + "epoch": 0.6743538767395626, + "grad_norm": 9.334624290466309, + "learning_rate": 4.403858268040688e-06, + "loss": 0.1273, + "num_input_tokens_seen": 9979472, + "step": 5088 + }, + { + "epoch": 0.6744864148442677, + "grad_norm": 10.807537078857422, + "learning_rate": 4.403633265127995e-06, + "loss": 0.5099, + "num_input_tokens_seen": 9982840, + "step": 5089 + }, + { + "epoch": 0.6746189529489728, + "grad_norm": 11.606165885925293, + "learning_rate": 4.40340822551194e-06, + "loss": 0.3692, + "num_input_tokens_seen": 9985032, + "step": 5090 + }, + { + "epoch": 0.6747514910536779, + "grad_norm": 0.4771312177181244, + "learning_rate": 4.40318314919686e-06, + "loss": 0.0032, + "num_input_tokens_seen": 9987528, + "step": 5091 + }, + { + "epoch": 0.6748840291583831, + "grad_norm": 9.602693557739258, + "learning_rate": 4.402958036187096e-06, + "loss": 0.261, + "num_input_tokens_seen": 9989528, + "step": 5092 + }, + { + "epoch": 0.6750165672630881, + "grad_norm": 10.47360610961914, + "learning_rate": 4.402732886486989e-06, + "loss": 0.2707, + "num_input_tokens_seen": 9992080, + "step": 5093 + }, + { + "epoch": 0.6751491053677933, + "grad_norm": 17.313518524169922, + "learning_rate": 4.402507700100879e-06, + "loss": 0.501, + "num_input_tokens_seen": 9993304, + "step": 5094 + }, + { + "epoch": 0.6752816434724983, + "grad_norm": 7.180430889129639, + "learning_rate": 4.402282477033109e-06, + "loss": 0.2267, + "num_input_tokens_seen": 9995136, + "step": 5095 + }, + { + "epoch": 0.6754141815772035, + "grad_norm": 10.786030769348145, + "learning_rate": 4.402057217288019e-06, + "loss": 0.2575, + "num_input_tokens_seen": 9996752, + "step": 5096 + }, + { + "epoch": 0.6755467196819086, + "grad_norm": 0.11024980247020721, + "learning_rate": 4.401831920869954e-06, + "loss": 0.0007, + "num_input_tokens_seen": 9997696, + "step": 5097 + }, + { + "epoch": 0.6756792577866136, + "grad_norm": 9.799957275390625, + "learning_rate": 4.401606587783258e-06, + "loss": 0.0871, + "num_input_tokens_seen": 9999552, + "step": 5098 + }, + { + "epoch": 0.6758117958913188, + "grad_norm": 0.19720172882080078, + "learning_rate": 4.4013812180322755e-06, + "loss": 0.0013, + "num_input_tokens_seen": 10001096, + "step": 5099 + }, + { + "epoch": 0.6759443339960238, + "grad_norm": 0.14439494907855988, + "learning_rate": 4.4011558116213506e-06, + "loss": 0.001, + "num_input_tokens_seen": 10002952, + "step": 5100 + }, + { + "epoch": 0.676076872100729, + "grad_norm": 12.2544584274292, + "learning_rate": 4.400930368554831e-06, + "loss": 0.5235, + "num_input_tokens_seen": 10004976, + "step": 5101 + }, + { + "epoch": 0.676209410205434, + "grad_norm": 15.562100410461426, + "learning_rate": 4.400704888837062e-06, + "loss": 0.4753, + "num_input_tokens_seen": 10007512, + "step": 5102 + }, + { + "epoch": 0.6763419483101392, + "grad_norm": 0.2386159598827362, + "learning_rate": 4.400479372472392e-06, + "loss": 0.0017, + "num_input_tokens_seen": 10008632, + "step": 5103 + }, + { + "epoch": 0.6764744864148443, + "grad_norm": 8.07843017578125, + "learning_rate": 4.400253819465168e-06, + "loss": 0.2633, + "num_input_tokens_seen": 10009776, + "step": 5104 + }, + { + "epoch": 0.6766070245195493, + "grad_norm": 0.3921319246292114, + "learning_rate": 4.400028229819739e-06, + "loss": 0.0028, + "num_input_tokens_seen": 10011712, + "step": 5105 + }, + { + "epoch": 0.6767395626242545, + "grad_norm": 18.368431091308594, + "learning_rate": 4.399802603540456e-06, + "loss": 0.6072, + "num_input_tokens_seen": 10014448, + "step": 5106 + }, + { + "epoch": 0.6768721007289595, + "grad_norm": 14.085212707519531, + "learning_rate": 4.399576940631668e-06, + "loss": 0.2236, + "num_input_tokens_seen": 10015936, + "step": 5107 + }, + { + "epoch": 0.6770046388336647, + "grad_norm": 20.190231323242188, + "learning_rate": 4.399351241097726e-06, + "loss": 0.6187, + "num_input_tokens_seen": 10018496, + "step": 5108 + }, + { + "epoch": 0.6771371769383698, + "grad_norm": 12.832771301269531, + "learning_rate": 4.399125504942982e-06, + "loss": 0.535, + "num_input_tokens_seen": 10020096, + "step": 5109 + }, + { + "epoch": 0.6772697150430749, + "grad_norm": 17.57253646850586, + "learning_rate": 4.398899732171787e-06, + "loss": 0.3736, + "num_input_tokens_seen": 10021616, + "step": 5110 + }, + { + "epoch": 0.67740225314778, + "grad_norm": 12.094898223876953, + "learning_rate": 4.398673922788497e-06, + "loss": 0.2396, + "num_input_tokens_seen": 10023520, + "step": 5111 + }, + { + "epoch": 0.6775347912524851, + "grad_norm": 10.971561431884766, + "learning_rate": 4.3984480767974625e-06, + "loss": 0.3923, + "num_input_tokens_seen": 10025736, + "step": 5112 + }, + { + "epoch": 0.6776673293571902, + "grad_norm": 0.4917202293872833, + "learning_rate": 4.398222194203039e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10027328, + "step": 5113 + }, + { + "epoch": 0.6777998674618952, + "grad_norm": 7.606281757354736, + "learning_rate": 4.3979962750095836e-06, + "loss": 0.1778, + "num_input_tokens_seen": 10029240, + "step": 5114 + }, + { + "epoch": 0.6779324055666004, + "grad_norm": 0.25366276502609253, + "learning_rate": 4.39777031922145e-06, + "loss": 0.0018, + "num_input_tokens_seen": 10031744, + "step": 5115 + }, + { + "epoch": 0.6780649436713055, + "grad_norm": 14.961990356445312, + "learning_rate": 4.397544326842995e-06, + "loss": 0.3837, + "num_input_tokens_seen": 10034144, + "step": 5116 + }, + { + "epoch": 0.6781974817760106, + "grad_norm": 8.941864967346191, + "learning_rate": 4.397318297878577e-06, + "loss": 0.2587, + "num_input_tokens_seen": 10035784, + "step": 5117 + }, + { + "epoch": 0.6783300198807157, + "grad_norm": 5.699052333831787, + "learning_rate": 4.397092232332553e-06, + "loss": 0.2017, + "num_input_tokens_seen": 10037672, + "step": 5118 + }, + { + "epoch": 0.6784625579854208, + "grad_norm": 12.88026237487793, + "learning_rate": 4.396866130209282e-06, + "loss": 0.4548, + "num_input_tokens_seen": 10039416, + "step": 5119 + }, + { + "epoch": 0.6785950960901259, + "grad_norm": 16.35521697998047, + "learning_rate": 4.396639991513124e-06, + "loss": 0.5328, + "num_input_tokens_seen": 10041800, + "step": 5120 + }, + { + "epoch": 0.6787276341948311, + "grad_norm": 6.698175430297852, + "learning_rate": 4.396413816248438e-06, + "loss": 0.1041, + "num_input_tokens_seen": 10044784, + "step": 5121 + }, + { + "epoch": 0.6788601722995361, + "grad_norm": 1.4897096157073975, + "learning_rate": 4.396187604419585e-06, + "loss": 0.0107, + "num_input_tokens_seen": 10046584, + "step": 5122 + }, + { + "epoch": 0.6789927104042413, + "grad_norm": 10.547821044921875, + "learning_rate": 4.395961356030928e-06, + "loss": 0.2656, + "num_input_tokens_seen": 10049032, + "step": 5123 + }, + { + "epoch": 0.6791252485089463, + "grad_norm": 0.6442855000495911, + "learning_rate": 4.395735071086828e-06, + "loss": 0.0044, + "num_input_tokens_seen": 10050616, + "step": 5124 + }, + { + "epoch": 0.6792577866136514, + "grad_norm": 4.081016540527344, + "learning_rate": 4.395508749591647e-06, + "loss": 0.0346, + "num_input_tokens_seen": 10051752, + "step": 5125 + }, + { + "epoch": 0.6793903247183565, + "grad_norm": 19.204418182373047, + "learning_rate": 4.39528239154975e-06, + "loss": 0.4233, + "num_input_tokens_seen": 10053840, + "step": 5126 + }, + { + "epoch": 0.6795228628230616, + "grad_norm": 0.38819560408592224, + "learning_rate": 4.395055996965501e-06, + "loss": 0.0027, + "num_input_tokens_seen": 10055600, + "step": 5127 + }, + { + "epoch": 0.6796554009277668, + "grad_norm": 5.8730268478393555, + "learning_rate": 4.394829565843265e-06, + "loss": 0.0957, + "num_input_tokens_seen": 10058528, + "step": 5128 + }, + { + "epoch": 0.6797879390324718, + "grad_norm": 7.633223533630371, + "learning_rate": 4.394603098187408e-06, + "loss": 0.1299, + "num_input_tokens_seen": 10060472, + "step": 5129 + }, + { + "epoch": 0.679920477137177, + "grad_norm": 11.324410438537598, + "learning_rate": 4.3943765940022965e-06, + "loss": 0.1356, + "num_input_tokens_seen": 10061800, + "step": 5130 + }, + { + "epoch": 0.680053015241882, + "grad_norm": 7.574645519256592, + "learning_rate": 4.394150053292297e-06, + "loss": 0.2034, + "num_input_tokens_seen": 10064072, + "step": 5131 + }, + { + "epoch": 0.6801855533465871, + "grad_norm": 8.12269401550293, + "learning_rate": 4.393923476061778e-06, + "loss": 0.161, + "num_input_tokens_seen": 10066216, + "step": 5132 + }, + { + "epoch": 0.6803180914512923, + "grad_norm": 1.8340046405792236, + "learning_rate": 4.393696862315107e-06, + "loss": 0.0121, + "num_input_tokens_seen": 10068064, + "step": 5133 + }, + { + "epoch": 0.6804506295559973, + "grad_norm": 10.71570873260498, + "learning_rate": 4.393470212056655e-06, + "loss": 0.3858, + "num_input_tokens_seen": 10069976, + "step": 5134 + }, + { + "epoch": 0.6805831676607025, + "grad_norm": 0.16110946238040924, + "learning_rate": 4.3932435252907914e-06, + "loss": 0.0011, + "num_input_tokens_seen": 10071336, + "step": 5135 + }, + { + "epoch": 0.6807157057654075, + "grad_norm": 12.69213581085205, + "learning_rate": 4.3930168020218855e-06, + "loss": 0.4975, + "num_input_tokens_seen": 10073208, + "step": 5136 + }, + { + "epoch": 0.6808482438701127, + "grad_norm": 4.869973182678223, + "learning_rate": 4.39279004225431e-06, + "loss": 0.0889, + "num_input_tokens_seen": 10075392, + "step": 5137 + }, + { + "epoch": 0.6809807819748177, + "grad_norm": 0.6059229373931885, + "learning_rate": 4.392563245992437e-06, + "loss": 0.004, + "num_input_tokens_seen": 10077256, + "step": 5138 + }, + { + "epoch": 0.6811133200795229, + "grad_norm": 10.862265586853027, + "learning_rate": 4.39233641324064e-06, + "loss": 0.231, + "num_input_tokens_seen": 10078920, + "step": 5139 + }, + { + "epoch": 0.681245858184228, + "grad_norm": 10.850610733032227, + "learning_rate": 4.3921095440032905e-06, + "loss": 0.3785, + "num_input_tokens_seen": 10081856, + "step": 5140 + }, + { + "epoch": 0.681378396288933, + "grad_norm": 5.917884349822998, + "learning_rate": 4.391882638284763e-06, + "loss": 0.2369, + "num_input_tokens_seen": 10083968, + "step": 5141 + }, + { + "epoch": 0.6815109343936382, + "grad_norm": 9.508611679077148, + "learning_rate": 4.391655696089433e-06, + "loss": 0.2836, + "num_input_tokens_seen": 10085824, + "step": 5142 + }, + { + "epoch": 0.6816434724983432, + "grad_norm": 5.912469863891602, + "learning_rate": 4.3914287174216774e-06, + "loss": 0.1479, + "num_input_tokens_seen": 10087856, + "step": 5143 + }, + { + "epoch": 0.6817760106030484, + "grad_norm": 6.553494453430176, + "learning_rate": 4.391201702285871e-06, + "loss": 0.1434, + "num_input_tokens_seen": 10089800, + "step": 5144 + }, + { + "epoch": 0.6819085487077535, + "grad_norm": 0.08189654350280762, + "learning_rate": 4.390974650686391e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10091528, + "step": 5145 + }, + { + "epoch": 0.6820410868124586, + "grad_norm": 4.9979681968688965, + "learning_rate": 4.3907475626276155e-06, + "loss": 0.1786, + "num_input_tokens_seen": 10093536, + "step": 5146 + }, + { + "epoch": 0.6821736249171637, + "grad_norm": 0.08108515292406082, + "learning_rate": 4.390520438113922e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10095920, + "step": 5147 + }, + { + "epoch": 0.6823061630218688, + "grad_norm": 9.103939056396484, + "learning_rate": 4.39029327714969e-06, + "loss": 0.3121, + "num_input_tokens_seen": 10097736, + "step": 5148 + }, + { + "epoch": 0.6824387011265739, + "grad_norm": 4.609950065612793, + "learning_rate": 4.3900660797393005e-06, + "loss": 0.1947, + "num_input_tokens_seen": 10099824, + "step": 5149 + }, + { + "epoch": 0.682571239231279, + "grad_norm": 13.706204414367676, + "learning_rate": 4.389838845887133e-06, + "loss": 0.4235, + "num_input_tokens_seen": 10101816, + "step": 5150 + }, + { + "epoch": 0.6827037773359841, + "grad_norm": 0.40879833698272705, + "learning_rate": 4.389611575597569e-06, + "loss": 0.0029, + "num_input_tokens_seen": 10103576, + "step": 5151 + }, + { + "epoch": 0.6828363154406892, + "grad_norm": 7.0339226722717285, + "learning_rate": 4.389384268874989e-06, + "loss": 0.2841, + "num_input_tokens_seen": 10104856, + "step": 5152 + }, + { + "epoch": 0.6829688535453943, + "grad_norm": 6.98808479309082, + "learning_rate": 4.3891569257237775e-06, + "loss": 0.0979, + "num_input_tokens_seen": 10106608, + "step": 5153 + }, + { + "epoch": 0.6831013916500994, + "grad_norm": 0.09090457856655121, + "learning_rate": 4.388929546148317e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10107880, + "step": 5154 + }, + { + "epoch": 0.6832339297548045, + "grad_norm": 5.910809516906738, + "learning_rate": 4.388702130152993e-06, + "loss": 0.0953, + "num_input_tokens_seen": 10110072, + "step": 5155 + }, + { + "epoch": 0.6833664678595096, + "grad_norm": 0.07751896977424622, + "learning_rate": 4.388474677742188e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10111472, + "step": 5156 + }, + { + "epoch": 0.6834990059642148, + "grad_norm": 14.025826454162598, + "learning_rate": 4.388247188920288e-06, + "loss": 0.4521, + "num_input_tokens_seen": 10113488, + "step": 5157 + }, + { + "epoch": 0.6836315440689198, + "grad_norm": 7.779784202575684, + "learning_rate": 4.38801966369168e-06, + "loss": 0.1851, + "num_input_tokens_seen": 10115000, + "step": 5158 + }, + { + "epoch": 0.6837640821736249, + "grad_norm": 2.8445193767547607, + "learning_rate": 4.387792102060751e-06, + "loss": 0.0779, + "num_input_tokens_seen": 10116488, + "step": 5159 + }, + { + "epoch": 0.68389662027833, + "grad_norm": 2.744990348815918, + "learning_rate": 4.387564504031887e-06, + "loss": 0.0209, + "num_input_tokens_seen": 10118576, + "step": 5160 + }, + { + "epoch": 0.6840291583830351, + "grad_norm": 0.25698724389076233, + "learning_rate": 4.3873368696094785e-06, + "loss": 0.0018, + "num_input_tokens_seen": 10119856, + "step": 5161 + }, + { + "epoch": 0.6841616964877403, + "grad_norm": 6.561476230621338, + "learning_rate": 4.387109198797912e-06, + "loss": 0.1156, + "num_input_tokens_seen": 10121688, + "step": 5162 + }, + { + "epoch": 0.6842942345924453, + "grad_norm": 11.146231651306152, + "learning_rate": 4.386881491601578e-06, + "loss": 0.162, + "num_input_tokens_seen": 10123096, + "step": 5163 + }, + { + "epoch": 0.6844267726971505, + "grad_norm": 0.15085971355438232, + "learning_rate": 4.386653748024868e-06, + "loss": 0.001, + "num_input_tokens_seen": 10124424, + "step": 5164 + }, + { + "epoch": 0.6845593108018555, + "grad_norm": 16.216583251953125, + "learning_rate": 4.3864259680721725e-06, + "loss": 0.5163, + "num_input_tokens_seen": 10126568, + "step": 5165 + }, + { + "epoch": 0.6846918489065607, + "grad_norm": 7.989547252655029, + "learning_rate": 4.386198151747882e-06, + "loss": 0.1866, + "num_input_tokens_seen": 10128008, + "step": 5166 + }, + { + "epoch": 0.6848243870112657, + "grad_norm": 0.11146971583366394, + "learning_rate": 4.38597029905639e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10128992, + "step": 5167 + }, + { + "epoch": 0.6849569251159708, + "grad_norm": 7.317201614379883, + "learning_rate": 4.38574241000209e-06, + "loss": 0.2573, + "num_input_tokens_seen": 10130816, + "step": 5168 + }, + { + "epoch": 0.685089463220676, + "grad_norm": 0.07720663398504257, + "learning_rate": 4.385514484589375e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10131856, + "step": 5169 + }, + { + "epoch": 0.685222001325381, + "grad_norm": 0.2312750518321991, + "learning_rate": 4.38528652282264e-06, + "loss": 0.0014, + "num_input_tokens_seen": 10133904, + "step": 5170 + }, + { + "epoch": 0.6853545394300862, + "grad_norm": 3.1167891025543213, + "learning_rate": 4.385058524706282e-06, + "loss": 0.1673, + "num_input_tokens_seen": 10136272, + "step": 5171 + }, + { + "epoch": 0.6854870775347912, + "grad_norm": 0.2546970546245575, + "learning_rate": 4.384830490244693e-06, + "loss": 0.0017, + "num_input_tokens_seen": 10137960, + "step": 5172 + }, + { + "epoch": 0.6856196156394964, + "grad_norm": 18.992210388183594, + "learning_rate": 4.384602419442272e-06, + "loss": 0.8135, + "num_input_tokens_seen": 10139320, + "step": 5173 + }, + { + "epoch": 0.6857521537442015, + "grad_norm": 7.735326766967773, + "learning_rate": 4.384374312303418e-06, + "loss": 0.2901, + "num_input_tokens_seen": 10140680, + "step": 5174 + }, + { + "epoch": 0.6858846918489065, + "grad_norm": 11.820390701293945, + "learning_rate": 4.384146168832526e-06, + "loss": 0.5068, + "num_input_tokens_seen": 10142384, + "step": 5175 + }, + { + "epoch": 0.6860172299536117, + "grad_norm": 8.235243797302246, + "learning_rate": 4.383917989033995e-06, + "loss": 0.169, + "num_input_tokens_seen": 10143904, + "step": 5176 + }, + { + "epoch": 0.6861497680583167, + "grad_norm": 6.0625762939453125, + "learning_rate": 4.383689772912227e-06, + "loss": 0.08, + "num_input_tokens_seen": 10145904, + "step": 5177 + }, + { + "epoch": 0.6862823061630219, + "grad_norm": 2.686798334121704, + "learning_rate": 4.383461520471621e-06, + "loss": 0.0439, + "num_input_tokens_seen": 10147448, + "step": 5178 + }, + { + "epoch": 0.6864148442677269, + "grad_norm": 5.788634300231934, + "learning_rate": 4.383233231716577e-06, + "loss": 0.1623, + "num_input_tokens_seen": 10149104, + "step": 5179 + }, + { + "epoch": 0.6865473823724321, + "grad_norm": 0.18411491811275482, + "learning_rate": 4.383004906651497e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10151008, + "step": 5180 + }, + { + "epoch": 0.6866799204771372, + "grad_norm": 8.171854972839355, + "learning_rate": 4.3827765452807835e-06, + "loss": 0.3028, + "num_input_tokens_seen": 10153152, + "step": 5181 + }, + { + "epoch": 0.6868124585818423, + "grad_norm": 7.945657730102539, + "learning_rate": 4.382548147608839e-06, + "loss": 0.3053, + "num_input_tokens_seen": 10155136, + "step": 5182 + }, + { + "epoch": 0.6869449966865474, + "grad_norm": 11.356136322021484, + "learning_rate": 4.382319713640068e-06, + "loss": 0.1508, + "num_input_tokens_seen": 10156792, + "step": 5183 + }, + { + "epoch": 0.6870775347912524, + "grad_norm": 6.04031229019165, + "learning_rate": 4.382091243378874e-06, + "loss": 0.1286, + "num_input_tokens_seen": 10158656, + "step": 5184 + }, + { + "epoch": 0.6872100728959576, + "grad_norm": 1.3314054012298584, + "learning_rate": 4.381862736829663e-06, + "loss": 0.0085, + "num_input_tokens_seen": 10160544, + "step": 5185 + }, + { + "epoch": 0.6873426110006627, + "grad_norm": 5.13046932220459, + "learning_rate": 4.3816341939968396e-06, + "loss": 0.1243, + "num_input_tokens_seen": 10162320, + "step": 5186 + }, + { + "epoch": 0.6874751491053678, + "grad_norm": 1.3660556077957153, + "learning_rate": 4.381405614884811e-06, + "loss": 0.0083, + "num_input_tokens_seen": 10164680, + "step": 5187 + }, + { + "epoch": 0.6876076872100729, + "grad_norm": 0.46857357025146484, + "learning_rate": 4.381176999497985e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10165872, + "step": 5188 + }, + { + "epoch": 0.687740225314778, + "grad_norm": 0.6251587271690369, + "learning_rate": 4.3809483478407674e-06, + "loss": 0.0037, + "num_input_tokens_seen": 10167888, + "step": 5189 + }, + { + "epoch": 0.6878727634194831, + "grad_norm": 0.1713877171278, + "learning_rate": 4.3807196599175684e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10170304, + "step": 5190 + }, + { + "epoch": 0.6880053015241882, + "grad_norm": 0.060870639979839325, + "learning_rate": 4.3804909357327975e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10171496, + "step": 5191 + }, + { + "epoch": 0.6881378396288933, + "grad_norm": 2.487144947052002, + "learning_rate": 4.380262175290863e-06, + "loss": 0.017, + "num_input_tokens_seen": 10174504, + "step": 5192 + }, + { + "epoch": 0.6882703777335984, + "grad_norm": 7.979701519012451, + "learning_rate": 4.3800333785961775e-06, + "loss": 0.2788, + "num_input_tokens_seen": 10176624, + "step": 5193 + }, + { + "epoch": 0.6884029158383035, + "grad_norm": 19.77692413330078, + "learning_rate": 4.379804545653152e-06, + "loss": 0.6383, + "num_input_tokens_seen": 10178824, + "step": 5194 + }, + { + "epoch": 0.6885354539430086, + "grad_norm": 32.988441467285156, + "learning_rate": 4.3795756764661974e-06, + "loss": 1.873, + "num_input_tokens_seen": 10181656, + "step": 5195 + }, + { + "epoch": 0.6886679920477137, + "grad_norm": 0.13673114776611328, + "learning_rate": 4.379346771039728e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10183280, + "step": 5196 + }, + { + "epoch": 0.6888005301524188, + "grad_norm": 0.9877931475639343, + "learning_rate": 4.379117829378155e-06, + "loss": 0.0221, + "num_input_tokens_seen": 10184872, + "step": 5197 + }, + { + "epoch": 0.688933068257124, + "grad_norm": 4.092088222503662, + "learning_rate": 4.378888851485894e-06, + "loss": 0.1318, + "num_input_tokens_seen": 10186032, + "step": 5198 + }, + { + "epoch": 0.689065606361829, + "grad_norm": 1.1899350881576538, + "learning_rate": 4.378659837367361e-06, + "loss": 0.0348, + "num_input_tokens_seen": 10187616, + "step": 5199 + }, + { + "epoch": 0.6891981444665342, + "grad_norm": 13.512741088867188, + "learning_rate": 4.378430787026969e-06, + "loss": 0.5092, + "num_input_tokens_seen": 10189200, + "step": 5200 + }, + { + "epoch": 0.6893306825712392, + "grad_norm": 7.496296405792236, + "learning_rate": 4.378201700469136e-06, + "loss": 0.1868, + "num_input_tokens_seen": 10191072, + "step": 5201 + }, + { + "epoch": 0.6894632206759443, + "grad_norm": 5.2618608474731445, + "learning_rate": 4.377972577698278e-06, + "loss": 0.075, + "num_input_tokens_seen": 10192640, + "step": 5202 + }, + { + "epoch": 0.6895957587806494, + "grad_norm": 6.543499946594238, + "learning_rate": 4.3777434187188135e-06, + "loss": 0.2141, + "num_input_tokens_seen": 10194560, + "step": 5203 + }, + { + "epoch": 0.6897282968853545, + "grad_norm": 12.690526962280273, + "learning_rate": 4.377514223535162e-06, + "loss": 0.1983, + "num_input_tokens_seen": 10196232, + "step": 5204 + }, + { + "epoch": 0.6898608349900597, + "grad_norm": 6.952563762664795, + "learning_rate": 4.377284992151739e-06, + "loss": 0.2206, + "num_input_tokens_seen": 10198192, + "step": 5205 + }, + { + "epoch": 0.6899933730947647, + "grad_norm": 9.442009925842285, + "learning_rate": 4.377055724572967e-06, + "loss": 0.4371, + "num_input_tokens_seen": 10200568, + "step": 5206 + }, + { + "epoch": 0.6901259111994699, + "grad_norm": 2.073357582092285, + "learning_rate": 4.376826420803267e-06, + "loss": 0.0186, + "num_input_tokens_seen": 10202872, + "step": 5207 + }, + { + "epoch": 0.6902584493041749, + "grad_norm": 9.931365013122559, + "learning_rate": 4.376597080847057e-06, + "loss": 0.3161, + "num_input_tokens_seen": 10205208, + "step": 5208 + }, + { + "epoch": 0.69039098740888, + "grad_norm": 14.322099685668945, + "learning_rate": 4.376367704708761e-06, + "loss": 0.3462, + "num_input_tokens_seen": 10207496, + "step": 5209 + }, + { + "epoch": 0.6905235255135852, + "grad_norm": 9.058643341064453, + "learning_rate": 4.376138292392801e-06, + "loss": 0.2825, + "num_input_tokens_seen": 10208968, + "step": 5210 + }, + { + "epoch": 0.6906560636182902, + "grad_norm": 0.1128392368555069, + "learning_rate": 4.375908843903601e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10210104, + "step": 5211 + }, + { + "epoch": 0.6907886017229954, + "grad_norm": 0.048101648688316345, + "learning_rate": 4.375679359245585e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10211648, + "step": 5212 + }, + { + "epoch": 0.6909211398277004, + "grad_norm": 0.07231906056404114, + "learning_rate": 4.375449838423176e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10213736, + "step": 5213 + }, + { + "epoch": 0.6910536779324056, + "grad_norm": 7.748062610626221, + "learning_rate": 4.3752202814408004e-06, + "loss": 0.363, + "num_input_tokens_seen": 10215168, + "step": 5214 + }, + { + "epoch": 0.6911862160371107, + "grad_norm": 0.14155329763889313, + "learning_rate": 4.374990688302885e-06, + "loss": 0.0011, + "num_input_tokens_seen": 10217056, + "step": 5215 + }, + { + "epoch": 0.6913187541418158, + "grad_norm": 10.102121353149414, + "learning_rate": 4.374761059013854e-06, + "loss": 0.5367, + "num_input_tokens_seen": 10219264, + "step": 5216 + }, + { + "epoch": 0.6914512922465209, + "grad_norm": 0.22931811213493347, + "learning_rate": 4.374531393578138e-06, + "loss": 0.0017, + "num_input_tokens_seen": 10220736, + "step": 5217 + }, + { + "epoch": 0.691583830351226, + "grad_norm": 8.334806442260742, + "learning_rate": 4.374301692000163e-06, + "loss": 0.1874, + "num_input_tokens_seen": 10222008, + "step": 5218 + }, + { + "epoch": 0.6917163684559311, + "grad_norm": 0.14932233095169067, + "learning_rate": 4.374071954284358e-06, + "loss": 0.001, + "num_input_tokens_seen": 10223568, + "step": 5219 + }, + { + "epoch": 0.6918489065606361, + "grad_norm": 0.08902860432863235, + "learning_rate": 4.3738421804351535e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10225288, + "step": 5220 + }, + { + "epoch": 0.6919814446653413, + "grad_norm": 0.10684773325920105, + "learning_rate": 4.373612370456979e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10226584, + "step": 5221 + }, + { + "epoch": 0.6921139827700464, + "grad_norm": 12.19336986541748, + "learning_rate": 4.373382524354265e-06, + "loss": 0.2667, + "num_input_tokens_seen": 10228096, + "step": 5222 + }, + { + "epoch": 0.6922465208747515, + "grad_norm": 11.567729949951172, + "learning_rate": 4.373152642131444e-06, + "loss": 0.167, + "num_input_tokens_seen": 10229880, + "step": 5223 + }, + { + "epoch": 0.6923790589794566, + "grad_norm": 0.17095962166786194, + "learning_rate": 4.372922723792947e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10232152, + "step": 5224 + }, + { + "epoch": 0.6925115970841617, + "grad_norm": 0.8013207316398621, + "learning_rate": 4.3726927693432084e-06, + "loss": 0.0053, + "num_input_tokens_seen": 10233656, + "step": 5225 + }, + { + "epoch": 0.6926441351888668, + "grad_norm": 8.57664680480957, + "learning_rate": 4.372462778786662e-06, + "loss": 0.3064, + "num_input_tokens_seen": 10235344, + "step": 5226 + }, + { + "epoch": 0.692776673293572, + "grad_norm": 17.11249351501465, + "learning_rate": 4.372232752127741e-06, + "loss": 0.6689, + "num_input_tokens_seen": 10237288, + "step": 5227 + }, + { + "epoch": 0.692909211398277, + "grad_norm": 10.308618545532227, + "learning_rate": 4.37200268937088e-06, + "loss": 0.3646, + "num_input_tokens_seen": 10239576, + "step": 5228 + }, + { + "epoch": 0.6930417495029821, + "grad_norm": 11.843452453613281, + "learning_rate": 4.371772590520516e-06, + "loss": 0.2951, + "num_input_tokens_seen": 10241528, + "step": 5229 + }, + { + "epoch": 0.6931742876076872, + "grad_norm": 5.81355094909668, + "learning_rate": 4.371542455581087e-06, + "loss": 0.1348, + "num_input_tokens_seen": 10243496, + "step": 5230 + }, + { + "epoch": 0.6933068257123923, + "grad_norm": 6.560523986816406, + "learning_rate": 4.371312284557027e-06, + "loss": 0.1707, + "num_input_tokens_seen": 10245840, + "step": 5231 + }, + { + "epoch": 0.6934393638170974, + "grad_norm": 4.5499653816223145, + "learning_rate": 4.371082077452775e-06, + "loss": 0.1984, + "num_input_tokens_seen": 10247664, + "step": 5232 + }, + { + "epoch": 0.6935719019218025, + "grad_norm": 4.0428619384765625, + "learning_rate": 4.37085183427277e-06, + "loss": 0.0853, + "num_input_tokens_seen": 10250184, + "step": 5233 + }, + { + "epoch": 0.6937044400265077, + "grad_norm": 6.735337734222412, + "learning_rate": 4.370621555021451e-06, + "loss": 0.3618, + "num_input_tokens_seen": 10252392, + "step": 5234 + }, + { + "epoch": 0.6938369781312127, + "grad_norm": 5.220327377319336, + "learning_rate": 4.370391239703257e-06, + "loss": 0.1992, + "num_input_tokens_seen": 10253864, + "step": 5235 + }, + { + "epoch": 0.6939695162359178, + "grad_norm": 0.14506489038467407, + "learning_rate": 4.370160888322631e-06, + "loss": 0.001, + "num_input_tokens_seen": 10255376, + "step": 5236 + }, + { + "epoch": 0.6941020543406229, + "grad_norm": 22.455324172973633, + "learning_rate": 4.369930500884012e-06, + "loss": 0.6093, + "num_input_tokens_seen": 10257952, + "step": 5237 + }, + { + "epoch": 0.694234592445328, + "grad_norm": 0.7495766878128052, + "learning_rate": 4.369700077391844e-06, + "loss": 0.0036, + "num_input_tokens_seen": 10259584, + "step": 5238 + }, + { + "epoch": 0.6943671305500332, + "grad_norm": 3.2545533180236816, + "learning_rate": 4.369469617850568e-06, + "loss": 0.0358, + "num_input_tokens_seen": 10260912, + "step": 5239 + }, + { + "epoch": 0.6944996686547382, + "grad_norm": 19.410465240478516, + "learning_rate": 4.369239122264628e-06, + "loss": 0.2023, + "num_input_tokens_seen": 10262568, + "step": 5240 + }, + { + "epoch": 0.6946322067594434, + "grad_norm": 9.67562198638916, + "learning_rate": 4.369008590638468e-06, + "loss": 0.3296, + "num_input_tokens_seen": 10263920, + "step": 5241 + }, + { + "epoch": 0.6947647448641484, + "grad_norm": 12.899747848510742, + "learning_rate": 4.368778022976534e-06, + "loss": 0.5128, + "num_input_tokens_seen": 10265960, + "step": 5242 + }, + { + "epoch": 0.6948972829688536, + "grad_norm": 15.291996955871582, + "learning_rate": 4.36854741928327e-06, + "loss": 0.4482, + "num_input_tokens_seen": 10267760, + "step": 5243 + }, + { + "epoch": 0.6950298210735586, + "grad_norm": 0.22596414387226105, + "learning_rate": 4.368316779563122e-06, + "loss": 0.0016, + "num_input_tokens_seen": 10269640, + "step": 5244 + }, + { + "epoch": 0.6951623591782637, + "grad_norm": 8.064006805419922, + "learning_rate": 4.3680861038205384e-06, + "loss": 0.2055, + "num_input_tokens_seen": 10271576, + "step": 5245 + }, + { + "epoch": 0.6952948972829689, + "grad_norm": 13.91385555267334, + "learning_rate": 4.367855392059965e-06, + "loss": 0.7073, + "num_input_tokens_seen": 10274352, + "step": 5246 + }, + { + "epoch": 0.6954274353876739, + "grad_norm": 7.5989460945129395, + "learning_rate": 4.367624644285853e-06, + "loss": 0.1707, + "num_input_tokens_seen": 10276056, + "step": 5247 + }, + { + "epoch": 0.6955599734923791, + "grad_norm": 0.1431422382593155, + "learning_rate": 4.367393860502648e-06, + "loss": 0.001, + "num_input_tokens_seen": 10277112, + "step": 5248 + }, + { + "epoch": 0.6956925115970841, + "grad_norm": 17.388700485229492, + "learning_rate": 4.367163040714801e-06, + "loss": 0.7218, + "num_input_tokens_seen": 10279016, + "step": 5249 + }, + { + "epoch": 0.6958250497017893, + "grad_norm": 8.644015312194824, + "learning_rate": 4.366932184926763e-06, + "loss": 0.2846, + "num_input_tokens_seen": 10280624, + "step": 5250 + }, + { + "epoch": 0.6959575878064944, + "grad_norm": 3.996027946472168, + "learning_rate": 4.366701293142985e-06, + "loss": 0.0467, + "num_input_tokens_seen": 10283112, + "step": 5251 + }, + { + "epoch": 0.6960901259111995, + "grad_norm": 12.316780090332031, + "learning_rate": 4.366470365367918e-06, + "loss": 0.3997, + "num_input_tokens_seen": 10285248, + "step": 5252 + }, + { + "epoch": 0.6962226640159046, + "grad_norm": 5.466716289520264, + "learning_rate": 4.366239401606014e-06, + "loss": 0.0578, + "num_input_tokens_seen": 10287336, + "step": 5253 + }, + { + "epoch": 0.6963552021206096, + "grad_norm": 0.5244131684303284, + "learning_rate": 4.366008401861727e-06, + "loss": 0.0036, + "num_input_tokens_seen": 10290008, + "step": 5254 + }, + { + "epoch": 0.6964877402253148, + "grad_norm": 0.3388371169567108, + "learning_rate": 4.3657773661395115e-06, + "loss": 0.0023, + "num_input_tokens_seen": 10291552, + "step": 5255 + }, + { + "epoch": 0.6966202783300198, + "grad_norm": 11.980232238769531, + "learning_rate": 4.365546294443821e-06, + "loss": 0.2772, + "num_input_tokens_seen": 10293960, + "step": 5256 + }, + { + "epoch": 0.696752816434725, + "grad_norm": 11.34706974029541, + "learning_rate": 4.36531518677911e-06, + "loss": 0.2289, + "num_input_tokens_seen": 10295552, + "step": 5257 + }, + { + "epoch": 0.6968853545394301, + "grad_norm": 0.4876137673854828, + "learning_rate": 4.3650840431498365e-06, + "loss": 0.0033, + "num_input_tokens_seen": 10297024, + "step": 5258 + }, + { + "epoch": 0.6970178926441352, + "grad_norm": 0.10733532905578613, + "learning_rate": 4.364852863560456e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10298296, + "step": 5259 + }, + { + "epoch": 0.6971504307488403, + "grad_norm": 10.179142951965332, + "learning_rate": 4.364621648015426e-06, + "loss": 0.2033, + "num_input_tokens_seen": 10300256, + "step": 5260 + }, + { + "epoch": 0.6972829688535453, + "grad_norm": 13.415271759033203, + "learning_rate": 4.364390396519203e-06, + "loss": 0.2783, + "num_input_tokens_seen": 10302560, + "step": 5261 + }, + { + "epoch": 0.6974155069582505, + "grad_norm": 0.10923636704683304, + "learning_rate": 4.364159109076248e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10304168, + "step": 5262 + }, + { + "epoch": 0.6975480450629556, + "grad_norm": 2.047806739807129, + "learning_rate": 4.363927785691019e-06, + "loss": 0.0084, + "num_input_tokens_seen": 10305552, + "step": 5263 + }, + { + "epoch": 0.6976805831676607, + "grad_norm": 0.14924830198287964, + "learning_rate": 4.363696426367976e-06, + "loss": 0.001, + "num_input_tokens_seen": 10307032, + "step": 5264 + }, + { + "epoch": 0.6978131212723658, + "grad_norm": 10.935125350952148, + "learning_rate": 4.363465031111581e-06, + "loss": 0.2968, + "num_input_tokens_seen": 10308728, + "step": 5265 + }, + { + "epoch": 0.6979456593770709, + "grad_norm": 8.447747230529785, + "learning_rate": 4.3632335999262945e-06, + "loss": 0.3276, + "num_input_tokens_seen": 10311216, + "step": 5266 + }, + { + "epoch": 0.698078197481776, + "grad_norm": 7.594271659851074, + "learning_rate": 4.363002132816578e-06, + "loss": 0.2177, + "num_input_tokens_seen": 10313480, + "step": 5267 + }, + { + "epoch": 0.6982107355864812, + "grad_norm": 7.9201765060424805, + "learning_rate": 4.362770629786896e-06, + "loss": 0.2559, + "num_input_tokens_seen": 10315072, + "step": 5268 + }, + { + "epoch": 0.6983432736911862, + "grad_norm": 4.4513421058654785, + "learning_rate": 4.362539090841711e-06, + "loss": 0.0652, + "num_input_tokens_seen": 10316880, + "step": 5269 + }, + { + "epoch": 0.6984758117958914, + "grad_norm": 7.337923049926758, + "learning_rate": 4.362307515985488e-06, + "loss": 0.1356, + "num_input_tokens_seen": 10319328, + "step": 5270 + }, + { + "epoch": 0.6986083499005964, + "grad_norm": 13.303313255310059, + "learning_rate": 4.36207590522269e-06, + "loss": 0.3061, + "num_input_tokens_seen": 10320984, + "step": 5271 + }, + { + "epoch": 0.6987408880053015, + "grad_norm": 4.793094635009766, + "learning_rate": 4.361844258557786e-06, + "loss": 0.0435, + "num_input_tokens_seen": 10322872, + "step": 5272 + }, + { + "epoch": 0.6988734261100066, + "grad_norm": 1.6766669750213623, + "learning_rate": 4.361612575995239e-06, + "loss": 0.0115, + "num_input_tokens_seen": 10324520, + "step": 5273 + }, + { + "epoch": 0.6990059642147117, + "grad_norm": 0.7178148627281189, + "learning_rate": 4.361380857539517e-06, + "loss": 0.0048, + "num_input_tokens_seen": 10326032, + "step": 5274 + }, + { + "epoch": 0.6991385023194169, + "grad_norm": 5.723263740539551, + "learning_rate": 4.361149103195088e-06, + "loss": 0.2274, + "num_input_tokens_seen": 10327944, + "step": 5275 + }, + { + "epoch": 0.6992710404241219, + "grad_norm": 0.012143773958086967, + "learning_rate": 4.3609173129664216e-06, + "loss": 0.0001, + "num_input_tokens_seen": 10329096, + "step": 5276 + }, + { + "epoch": 0.6994035785288271, + "grad_norm": 0.014949504286050797, + "learning_rate": 4.360685486857984e-06, + "loss": 0.0001, + "num_input_tokens_seen": 10330840, + "step": 5277 + }, + { + "epoch": 0.6995361166335321, + "grad_norm": 0.05713149905204773, + "learning_rate": 4.360453624874248e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10333288, + "step": 5278 + }, + { + "epoch": 0.6996686547382373, + "grad_norm": 9.647068977355957, + "learning_rate": 4.360221727019682e-06, + "loss": 0.2069, + "num_input_tokens_seen": 10334976, + "step": 5279 + }, + { + "epoch": 0.6998011928429424, + "grad_norm": 7.801065921783447, + "learning_rate": 4.359989793298757e-06, + "loss": 0.2666, + "num_input_tokens_seen": 10337008, + "step": 5280 + }, + { + "epoch": 0.6999337309476474, + "grad_norm": 5.655546188354492, + "learning_rate": 4.359757823715946e-06, + "loss": 0.1989, + "num_input_tokens_seen": 10339272, + "step": 5281 + }, + { + "epoch": 0.7000662690523526, + "grad_norm": 9.195932388305664, + "learning_rate": 4.3595258182757226e-06, + "loss": 0.3398, + "num_input_tokens_seen": 10340824, + "step": 5282 + }, + { + "epoch": 0.7001988071570576, + "grad_norm": 13.319113731384277, + "learning_rate": 4.359293776982558e-06, + "loss": 0.5047, + "num_input_tokens_seen": 10343080, + "step": 5283 + }, + { + "epoch": 0.7003313452617628, + "grad_norm": 12.953853607177734, + "learning_rate": 4.359061699840925e-06, + "loss": 0.4603, + "num_input_tokens_seen": 10345808, + "step": 5284 + }, + { + "epoch": 0.7004638833664678, + "grad_norm": 3.146357774734497, + "learning_rate": 4.358829586855302e-06, + "loss": 0.1006, + "num_input_tokens_seen": 10347248, + "step": 5285 + }, + { + "epoch": 0.700596421471173, + "grad_norm": 7.401439189910889, + "learning_rate": 4.358597438030161e-06, + "loss": 0.1483, + "num_input_tokens_seen": 10348872, + "step": 5286 + }, + { + "epoch": 0.7007289595758781, + "grad_norm": 9.841824531555176, + "learning_rate": 4.3583652533699795e-06, + "loss": 0.2142, + "num_input_tokens_seen": 10350800, + "step": 5287 + }, + { + "epoch": 0.7008614976805831, + "grad_norm": 13.105070114135742, + "learning_rate": 4.358133032879234e-06, + "loss": 0.3994, + "num_input_tokens_seen": 10352616, + "step": 5288 + }, + { + "epoch": 0.7009940357852883, + "grad_norm": 1.8817970752716064, + "learning_rate": 4.3579007765624024e-06, + "loss": 0.0144, + "num_input_tokens_seen": 10354424, + "step": 5289 + }, + { + "epoch": 0.7011265738899933, + "grad_norm": 4.865450382232666, + "learning_rate": 4.357668484423961e-06, + "loss": 0.1506, + "num_input_tokens_seen": 10356032, + "step": 5290 + }, + { + "epoch": 0.7012591119946985, + "grad_norm": 6.411260604858398, + "learning_rate": 4.357436156468391e-06, + "loss": 0.1294, + "num_input_tokens_seen": 10358024, + "step": 5291 + }, + { + "epoch": 0.7013916500994036, + "grad_norm": 12.339280128479004, + "learning_rate": 4.357203792700169e-06, + "loss": 0.4542, + "num_input_tokens_seen": 10360360, + "step": 5292 + }, + { + "epoch": 0.7015241882041087, + "grad_norm": 1.5538820028305054, + "learning_rate": 4.356971393123778e-06, + "loss": 0.0192, + "num_input_tokens_seen": 10361664, + "step": 5293 + }, + { + "epoch": 0.7016567263088138, + "grad_norm": 0.35731470584869385, + "learning_rate": 4.3567389577436965e-06, + "loss": 0.0024, + "num_input_tokens_seen": 10363840, + "step": 5294 + }, + { + "epoch": 0.7017892644135189, + "grad_norm": 8.202995300292969, + "learning_rate": 4.3565064865644074e-06, + "loss": 0.283, + "num_input_tokens_seen": 10365888, + "step": 5295 + }, + { + "epoch": 0.701921802518224, + "grad_norm": 8.994125366210938, + "learning_rate": 4.356273979590393e-06, + "loss": 0.2604, + "num_input_tokens_seen": 10367544, + "step": 5296 + }, + { + "epoch": 0.702054340622929, + "grad_norm": 4.477342128753662, + "learning_rate": 4.356041436826135e-06, + "loss": 0.1963, + "num_input_tokens_seen": 10369728, + "step": 5297 + }, + { + "epoch": 0.7021868787276342, + "grad_norm": 4.8990559577941895, + "learning_rate": 4.355808858276117e-06, + "loss": 0.1388, + "num_input_tokens_seen": 10371568, + "step": 5298 + }, + { + "epoch": 0.7023194168323393, + "grad_norm": 11.591240882873535, + "learning_rate": 4.355576243944825e-06, + "loss": 0.5024, + "num_input_tokens_seen": 10373920, + "step": 5299 + }, + { + "epoch": 0.7024519549370444, + "grad_norm": 9.065117835998535, + "learning_rate": 4.355343593836743e-06, + "loss": 0.2231, + "num_input_tokens_seen": 10376512, + "step": 5300 + }, + { + "epoch": 0.7025844930417495, + "grad_norm": 5.833688259124756, + "learning_rate": 4.355110907956356e-06, + "loss": 0.1275, + "num_input_tokens_seen": 10378368, + "step": 5301 + }, + { + "epoch": 0.7027170311464546, + "grad_norm": 6.7619147300720215, + "learning_rate": 4.354878186308151e-06, + "loss": 0.1738, + "num_input_tokens_seen": 10379832, + "step": 5302 + }, + { + "epoch": 0.7028495692511597, + "grad_norm": 8.367796897888184, + "learning_rate": 4.3546454288966155e-06, + "loss": 0.4947, + "num_input_tokens_seen": 10382240, + "step": 5303 + }, + { + "epoch": 0.7029821073558649, + "grad_norm": 12.617276191711426, + "learning_rate": 4.354412635726237e-06, + "loss": 0.1031, + "num_input_tokens_seen": 10384712, + "step": 5304 + }, + { + "epoch": 0.7031146454605699, + "grad_norm": 10.556106567382812, + "learning_rate": 4.354179806801502e-06, + "loss": 0.2775, + "num_input_tokens_seen": 10386536, + "step": 5305 + }, + { + "epoch": 0.703247183565275, + "grad_norm": 1.250957727432251, + "learning_rate": 4.353946942126903e-06, + "loss": 0.0145, + "num_input_tokens_seen": 10387944, + "step": 5306 + }, + { + "epoch": 0.7033797216699801, + "grad_norm": 4.309374809265137, + "learning_rate": 4.353714041706927e-06, + "loss": 0.0379, + "num_input_tokens_seen": 10390552, + "step": 5307 + }, + { + "epoch": 0.7035122597746852, + "grad_norm": 5.812258243560791, + "learning_rate": 4.3534811055460655e-06, + "loss": 0.1602, + "num_input_tokens_seen": 10391888, + "step": 5308 + }, + { + "epoch": 0.7036447978793903, + "grad_norm": 0.49550989270210266, + "learning_rate": 4.3532481336488096e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10394320, + "step": 5309 + }, + { + "epoch": 0.7037773359840954, + "grad_norm": 11.787468910217285, + "learning_rate": 4.353015126019651e-06, + "loss": 0.6394, + "num_input_tokens_seen": 10396168, + "step": 5310 + }, + { + "epoch": 0.7039098740888006, + "grad_norm": 0.14753291010856628, + "learning_rate": 4.352782082663083e-06, + "loss": 0.001, + "num_input_tokens_seen": 10398056, + "step": 5311 + }, + { + "epoch": 0.7040424121935056, + "grad_norm": 34.56886672973633, + "learning_rate": 4.352549003583598e-06, + "loss": 1.3396, + "num_input_tokens_seen": 10400120, + "step": 5312 + }, + { + "epoch": 0.7041749502982108, + "grad_norm": 0.2277163416147232, + "learning_rate": 4.352315888785691e-06, + "loss": 0.0016, + "num_input_tokens_seen": 10402472, + "step": 5313 + }, + { + "epoch": 0.7043074884029158, + "grad_norm": 13.350781440734863, + "learning_rate": 4.352082738273854e-06, + "loss": 0.3459, + "num_input_tokens_seen": 10404416, + "step": 5314 + }, + { + "epoch": 0.7044400265076209, + "grad_norm": 7.1642279624938965, + "learning_rate": 4.351849552052585e-06, + "loss": 0.0972, + "num_input_tokens_seen": 10406424, + "step": 5315 + }, + { + "epoch": 0.7045725646123261, + "grad_norm": 6.712897777557373, + "learning_rate": 4.3516163301263796e-06, + "loss": 0.1395, + "num_input_tokens_seen": 10408432, + "step": 5316 + }, + { + "epoch": 0.7047051027170311, + "grad_norm": 9.911812782287598, + "learning_rate": 4.351383072499734e-06, + "loss": 0.2317, + "num_input_tokens_seen": 10410584, + "step": 5317 + }, + { + "epoch": 0.7048376408217363, + "grad_norm": 0.17060184478759766, + "learning_rate": 4.351149779177145e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10412224, + "step": 5318 + }, + { + "epoch": 0.7049701789264413, + "grad_norm": 0.7141030430793762, + "learning_rate": 4.350916450163112e-06, + "loss": 0.0047, + "num_input_tokens_seen": 10413592, + "step": 5319 + }, + { + "epoch": 0.7051027170311465, + "grad_norm": 5.739474773406982, + "learning_rate": 4.350683085462132e-06, + "loss": 0.0564, + "num_input_tokens_seen": 10416256, + "step": 5320 + }, + { + "epoch": 0.7052352551358515, + "grad_norm": 4.152627468109131, + "learning_rate": 4.350449685078706e-06, + "loss": 0.1163, + "num_input_tokens_seen": 10418616, + "step": 5321 + }, + { + "epoch": 0.7053677932405567, + "grad_norm": 7.785134315490723, + "learning_rate": 4.350216249017333e-06, + "loss": 0.2863, + "num_input_tokens_seen": 10420712, + "step": 5322 + }, + { + "epoch": 0.7055003313452618, + "grad_norm": 15.75673770904541, + "learning_rate": 4.349982777282515e-06, + "loss": 0.5681, + "num_input_tokens_seen": 10422656, + "step": 5323 + }, + { + "epoch": 0.7056328694499668, + "grad_norm": 0.035148218274116516, + "learning_rate": 4.349749269878752e-06, + "loss": 0.0002, + "num_input_tokens_seen": 10424032, + "step": 5324 + }, + { + "epoch": 0.705765407554672, + "grad_norm": 15.061479568481445, + "learning_rate": 4.349515726810548e-06, + "loss": 0.3935, + "num_input_tokens_seen": 10426312, + "step": 5325 + }, + { + "epoch": 0.705897945659377, + "grad_norm": 7.007232189178467, + "learning_rate": 4.349282148082404e-06, + "loss": 0.2244, + "num_input_tokens_seen": 10427864, + "step": 5326 + }, + { + "epoch": 0.7060304837640822, + "grad_norm": 11.781513214111328, + "learning_rate": 4.349048533698824e-06, + "loss": 0.3764, + "num_input_tokens_seen": 10429880, + "step": 5327 + }, + { + "epoch": 0.7061630218687873, + "grad_norm": 3.62870454788208, + "learning_rate": 4.348814883664314e-06, + "loss": 0.09, + "num_input_tokens_seen": 10432048, + "step": 5328 + }, + { + "epoch": 0.7062955599734924, + "grad_norm": 0.13700160384178162, + "learning_rate": 4.348581197983377e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10433480, + "step": 5329 + }, + { + "epoch": 0.7064280980781975, + "grad_norm": 11.195610046386719, + "learning_rate": 4.348347476660519e-06, + "loss": 0.2654, + "num_input_tokens_seen": 10434928, + "step": 5330 + }, + { + "epoch": 0.7065606361829025, + "grad_norm": 3.7285003662109375, + "learning_rate": 4.3481137197002475e-06, + "loss": 0.1234, + "num_input_tokens_seen": 10436616, + "step": 5331 + }, + { + "epoch": 0.7066931742876077, + "grad_norm": 3.434617757797241, + "learning_rate": 4.347879927107067e-06, + "loss": 0.0923, + "num_input_tokens_seen": 10438504, + "step": 5332 + }, + { + "epoch": 0.7068257123923128, + "grad_norm": 9.34477424621582, + "learning_rate": 4.347646098885488e-06, + "loss": 0.348, + "num_input_tokens_seen": 10440136, + "step": 5333 + }, + { + "epoch": 0.7069582504970179, + "grad_norm": 7.150413990020752, + "learning_rate": 4.347412235040017e-06, + "loss": 0.2217, + "num_input_tokens_seen": 10442840, + "step": 5334 + }, + { + "epoch": 0.707090788601723, + "grad_norm": 8.25818920135498, + "learning_rate": 4.347178335575164e-06, + "loss": 0.3178, + "num_input_tokens_seen": 10445592, + "step": 5335 + }, + { + "epoch": 0.7072233267064281, + "grad_norm": 8.304454803466797, + "learning_rate": 4.346944400495438e-06, + "loss": 0.2673, + "num_input_tokens_seen": 10447160, + "step": 5336 + }, + { + "epoch": 0.7073558648111332, + "grad_norm": 1.1421347856521606, + "learning_rate": 4.3467104298053495e-06, + "loss": 0.0069, + "num_input_tokens_seen": 10448424, + "step": 5337 + }, + { + "epoch": 0.7074884029158383, + "grad_norm": 0.12685857713222504, + "learning_rate": 4.346476423509411e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10450600, + "step": 5338 + }, + { + "epoch": 0.7076209410205434, + "grad_norm": 3.092546224594116, + "learning_rate": 4.346242381612132e-06, + "loss": 0.0836, + "num_input_tokens_seen": 10452968, + "step": 5339 + }, + { + "epoch": 0.7077534791252486, + "grad_norm": 8.69534683227539, + "learning_rate": 4.346008304118028e-06, + "loss": 0.337, + "num_input_tokens_seen": 10455192, + "step": 5340 + }, + { + "epoch": 0.7078860172299536, + "grad_norm": 0.64402174949646, + "learning_rate": 4.345774191031609e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10456808, + "step": 5341 + }, + { + "epoch": 0.7080185553346587, + "grad_norm": 13.261296272277832, + "learning_rate": 4.34554004235739e-06, + "loss": 0.251, + "num_input_tokens_seen": 10459152, + "step": 5342 + }, + { + "epoch": 0.7081510934393638, + "grad_norm": 4.151136875152588, + "learning_rate": 4.345305858099887e-06, + "loss": 0.0358, + "num_input_tokens_seen": 10461440, + "step": 5343 + }, + { + "epoch": 0.7082836315440689, + "grad_norm": 7.528071880340576, + "learning_rate": 4.3450716382636135e-06, + "loss": 0.2003, + "num_input_tokens_seen": 10463632, + "step": 5344 + }, + { + "epoch": 0.7084161696487741, + "grad_norm": 0.10861289501190186, + "learning_rate": 4.344837382853086e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10465296, + "step": 5345 + }, + { + "epoch": 0.7085487077534791, + "grad_norm": 6.541368007659912, + "learning_rate": 4.34460309187282e-06, + "loss": 0.203, + "num_input_tokens_seen": 10467672, + "step": 5346 + }, + { + "epoch": 0.7086812458581843, + "grad_norm": 16.940521240234375, + "learning_rate": 4.344368765327335e-06, + "loss": 0.4411, + "num_input_tokens_seen": 10469392, + "step": 5347 + }, + { + "epoch": 0.7088137839628893, + "grad_norm": 6.4979071617126465, + "learning_rate": 4.344134403221148e-06, + "loss": 0.0985, + "num_input_tokens_seen": 10471928, + "step": 5348 + }, + { + "epoch": 0.7089463220675944, + "grad_norm": 9.174598693847656, + "learning_rate": 4.343900005558777e-06, + "loss": 0.1553, + "num_input_tokens_seen": 10474104, + "step": 5349 + }, + { + "epoch": 0.7090788601722995, + "grad_norm": 0.1891871839761734, + "learning_rate": 4.343665572344742e-06, + "loss": 0.0013, + "num_input_tokens_seen": 10477200, + "step": 5350 + }, + { + "epoch": 0.7092113982770046, + "grad_norm": 5.6008524894714355, + "learning_rate": 4.343431103583563e-06, + "loss": 0.0618, + "num_input_tokens_seen": 10479096, + "step": 5351 + }, + { + "epoch": 0.7093439363817098, + "grad_norm": 5.606502532958984, + "learning_rate": 4.343196599279761e-06, + "loss": 0.074, + "num_input_tokens_seen": 10480592, + "step": 5352 + }, + { + "epoch": 0.7094764744864148, + "grad_norm": 0.15002194046974182, + "learning_rate": 4.342962059437856e-06, + "loss": 0.001, + "num_input_tokens_seen": 10483512, + "step": 5353 + }, + { + "epoch": 0.70960901259112, + "grad_norm": 10.585344314575195, + "learning_rate": 4.342727484062371e-06, + "loss": 0.2651, + "num_input_tokens_seen": 10486464, + "step": 5354 + }, + { + "epoch": 0.709741550695825, + "grad_norm": 30.622039794921875, + "learning_rate": 4.3424928731578296e-06, + "loss": 0.6854, + "num_input_tokens_seen": 10489120, + "step": 5355 + }, + { + "epoch": 0.7098740888005302, + "grad_norm": 13.048038482666016, + "learning_rate": 4.342258226728755e-06, + "loss": 0.387, + "num_input_tokens_seen": 10490832, + "step": 5356 + }, + { + "epoch": 0.7100066269052353, + "grad_norm": 4.078963756561279, + "learning_rate": 4.34202354477967e-06, + "loss": 0.0576, + "num_input_tokens_seen": 10492144, + "step": 5357 + }, + { + "epoch": 0.7101391650099403, + "grad_norm": 14.519580841064453, + "learning_rate": 4.341788827315101e-06, + "loss": 0.3535, + "num_input_tokens_seen": 10494184, + "step": 5358 + }, + { + "epoch": 0.7102717031146455, + "grad_norm": 7.30565071105957, + "learning_rate": 4.341554074339572e-06, + "loss": 0.275, + "num_input_tokens_seen": 10496072, + "step": 5359 + }, + { + "epoch": 0.7104042412193505, + "grad_norm": 3.5833187103271484, + "learning_rate": 4.3413192858576105e-06, + "loss": 0.0819, + "num_input_tokens_seen": 10498744, + "step": 5360 + }, + { + "epoch": 0.7105367793240557, + "grad_norm": 6.386040210723877, + "learning_rate": 4.341084461873743e-06, + "loss": 0.0943, + "num_input_tokens_seen": 10500888, + "step": 5361 + }, + { + "epoch": 0.7106693174287607, + "grad_norm": 0.08746777474880219, + "learning_rate": 4.3408496023924974e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10502136, + "step": 5362 + }, + { + "epoch": 0.7108018555334659, + "grad_norm": 11.39535903930664, + "learning_rate": 4.3406147074184e-06, + "loss": 0.1657, + "num_input_tokens_seen": 10504056, + "step": 5363 + }, + { + "epoch": 0.710934393638171, + "grad_norm": 5.37987756729126, + "learning_rate": 4.340379776955983e-06, + "loss": 0.1192, + "num_input_tokens_seen": 10506328, + "step": 5364 + }, + { + "epoch": 0.711066931742876, + "grad_norm": 0.2989250123500824, + "learning_rate": 4.340144811009773e-06, + "loss": 0.0022, + "num_input_tokens_seen": 10507848, + "step": 5365 + }, + { + "epoch": 0.7111994698475812, + "grad_norm": 0.557701826095581, + "learning_rate": 4.339909809584302e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10510936, + "step": 5366 + }, + { + "epoch": 0.7113320079522862, + "grad_norm": 16.63957977294922, + "learning_rate": 4.339674772684101e-06, + "loss": 0.5224, + "num_input_tokens_seen": 10513096, + "step": 5367 + }, + { + "epoch": 0.7114645460569914, + "grad_norm": 9.339136123657227, + "learning_rate": 4.339439700313701e-06, + "loss": 0.3479, + "num_input_tokens_seen": 10514872, + "step": 5368 + }, + { + "epoch": 0.7115970841616965, + "grad_norm": 4.87075138092041, + "learning_rate": 4.339204592477635e-06, + "loss": 0.0768, + "num_input_tokens_seen": 10516544, + "step": 5369 + }, + { + "epoch": 0.7117296222664016, + "grad_norm": 2.8643717765808105, + "learning_rate": 4.338969449180435e-06, + "loss": 0.0486, + "num_input_tokens_seen": 10517648, + "step": 5370 + }, + { + "epoch": 0.7118621603711067, + "grad_norm": 15.83580207824707, + "learning_rate": 4.338734270426636e-06, + "loss": 0.4671, + "num_input_tokens_seen": 10519696, + "step": 5371 + }, + { + "epoch": 0.7119946984758118, + "grad_norm": 0.3790338933467865, + "learning_rate": 4.338499056220771e-06, + "loss": 0.0026, + "num_input_tokens_seen": 10521568, + "step": 5372 + }, + { + "epoch": 0.7121272365805169, + "grad_norm": 0.3970550000667572, + "learning_rate": 4.3382638065673755e-06, + "loss": 0.0028, + "num_input_tokens_seen": 10524128, + "step": 5373 + }, + { + "epoch": 0.712259774685222, + "grad_norm": 13.866540908813477, + "learning_rate": 4.338028521470987e-06, + "loss": 0.5854, + "num_input_tokens_seen": 10526368, + "step": 5374 + }, + { + "epoch": 0.7123923127899271, + "grad_norm": 0.11552596092224121, + "learning_rate": 4.33779320093614e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10527960, + "step": 5375 + }, + { + "epoch": 0.7125248508946322, + "grad_norm": 7.586239337921143, + "learning_rate": 4.337557844967372e-06, + "loss": 0.0635, + "num_input_tokens_seen": 10529432, + "step": 5376 + }, + { + "epoch": 0.7126573889993373, + "grad_norm": 7.3875837326049805, + "learning_rate": 4.337322453569221e-06, + "loss": 0.1583, + "num_input_tokens_seen": 10531272, + "step": 5377 + }, + { + "epoch": 0.7127899271040424, + "grad_norm": 12.727602005004883, + "learning_rate": 4.337087026746226e-06, + "loss": 0.3294, + "num_input_tokens_seen": 10533552, + "step": 5378 + }, + { + "epoch": 0.7129224652087475, + "grad_norm": 2.3973748683929443, + "learning_rate": 4.336851564502927e-06, + "loss": 0.0077, + "num_input_tokens_seen": 10536488, + "step": 5379 + }, + { + "epoch": 0.7130550033134526, + "grad_norm": 10.029938697814941, + "learning_rate": 4.3366160668438606e-06, + "loss": 0.1877, + "num_input_tokens_seen": 10538456, + "step": 5380 + }, + { + "epoch": 0.7131875414181578, + "grad_norm": 18.643531799316406, + "learning_rate": 4.336380533773571e-06, + "loss": 0.3149, + "num_input_tokens_seen": 10540200, + "step": 5381 + }, + { + "epoch": 0.7133200795228628, + "grad_norm": 0.14181943237781525, + "learning_rate": 4.336144965296596e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10541208, + "step": 5382 + }, + { + "epoch": 0.713452617627568, + "grad_norm": 5.419266700744629, + "learning_rate": 4.33590936141748e-06, + "loss": 0.0669, + "num_input_tokens_seen": 10543328, + "step": 5383 + }, + { + "epoch": 0.713585155732273, + "grad_norm": 1.700243592262268, + "learning_rate": 4.335673722140767e-06, + "loss": 0.0505, + "num_input_tokens_seen": 10544472, + "step": 5384 + }, + { + "epoch": 0.7137176938369781, + "grad_norm": 2.2277565002441406, + "learning_rate": 4.335438047470996e-06, + "loss": 0.0618, + "num_input_tokens_seen": 10545728, + "step": 5385 + }, + { + "epoch": 0.7138502319416833, + "grad_norm": 1.5551958084106445, + "learning_rate": 4.335202337412714e-06, + "loss": 0.0102, + "num_input_tokens_seen": 10547552, + "step": 5386 + }, + { + "epoch": 0.7139827700463883, + "grad_norm": 4.267632007598877, + "learning_rate": 4.334966591970465e-06, + "loss": 0.0627, + "num_input_tokens_seen": 10549232, + "step": 5387 + }, + { + "epoch": 0.7141153081510935, + "grad_norm": 1.5692423582077026, + "learning_rate": 4.334730811148794e-06, + "loss": 0.0358, + "num_input_tokens_seen": 10551208, + "step": 5388 + }, + { + "epoch": 0.7142478462557985, + "grad_norm": 3.1644279956817627, + "learning_rate": 4.334494994952247e-06, + "loss": 0.022, + "num_input_tokens_seen": 10553600, + "step": 5389 + }, + { + "epoch": 0.7143803843605037, + "grad_norm": 3.423093557357788, + "learning_rate": 4.334259143385371e-06, + "loss": 0.0475, + "num_input_tokens_seen": 10554968, + "step": 5390 + }, + { + "epoch": 0.7145129224652087, + "grad_norm": 7.736878871917725, + "learning_rate": 4.334023256452714e-06, + "loss": 0.0745, + "num_input_tokens_seen": 10557088, + "step": 5391 + }, + { + "epoch": 0.7146454605699138, + "grad_norm": 6.876927375793457, + "learning_rate": 4.333787334158823e-06, + "loss": 0.2055, + "num_input_tokens_seen": 10559416, + "step": 5392 + }, + { + "epoch": 0.714777998674619, + "grad_norm": 8.267438888549805, + "learning_rate": 4.333551376508247e-06, + "loss": 0.2574, + "num_input_tokens_seen": 10561336, + "step": 5393 + }, + { + "epoch": 0.714910536779324, + "grad_norm": 11.670564651489258, + "learning_rate": 4.333315383505536e-06, + "loss": 0.3131, + "num_input_tokens_seen": 10563480, + "step": 5394 + }, + { + "epoch": 0.7150430748840292, + "grad_norm": 1.9028925895690918, + "learning_rate": 4.333079355155239e-06, + "loss": 0.0234, + "num_input_tokens_seen": 10566328, + "step": 5395 + }, + { + "epoch": 0.7151756129887342, + "grad_norm": 0.20793849229812622, + "learning_rate": 4.332843291461908e-06, + "loss": 0.0014, + "num_input_tokens_seen": 10567632, + "step": 5396 + }, + { + "epoch": 0.7153081510934394, + "grad_norm": 11.558806419372559, + "learning_rate": 4.332607192430094e-06, + "loss": 0.2997, + "num_input_tokens_seen": 10569960, + "step": 5397 + }, + { + "epoch": 0.7154406891981445, + "grad_norm": 10.364891052246094, + "learning_rate": 4.332371058064348e-06, + "loss": 0.1178, + "num_input_tokens_seen": 10571784, + "step": 5398 + }, + { + "epoch": 0.7155732273028496, + "grad_norm": 7.065649509429932, + "learning_rate": 4.332134888369225e-06, + "loss": 0.1902, + "num_input_tokens_seen": 10573264, + "step": 5399 + }, + { + "epoch": 0.7157057654075547, + "grad_norm": 3.975583791732788, + "learning_rate": 4.331898683349277e-06, + "loss": 0.0243, + "num_input_tokens_seen": 10575072, + "step": 5400 + }, + { + "epoch": 0.7158383035122597, + "grad_norm": 0.5255308747291565, + "learning_rate": 4.33166244300906e-06, + "loss": 0.0035, + "num_input_tokens_seen": 10576704, + "step": 5401 + }, + { + "epoch": 0.7159708416169649, + "grad_norm": 9.464899063110352, + "learning_rate": 4.331426167353126e-06, + "loss": 0.1927, + "num_input_tokens_seen": 10579536, + "step": 5402 + }, + { + "epoch": 0.7161033797216699, + "grad_norm": 15.958910942077637, + "learning_rate": 4.331189856386031e-06, + "loss": 0.5436, + "num_input_tokens_seen": 10581512, + "step": 5403 + }, + { + "epoch": 0.7162359178263751, + "grad_norm": 9.428521156311035, + "learning_rate": 4.330953510112334e-06, + "loss": 0.4042, + "num_input_tokens_seen": 10583128, + "step": 5404 + }, + { + "epoch": 0.7163684559310802, + "grad_norm": 4.2583441734313965, + "learning_rate": 4.3307171285365905e-06, + "loss": 0.0778, + "num_input_tokens_seen": 10585040, + "step": 5405 + }, + { + "epoch": 0.7165009940357853, + "grad_norm": 10.576728820800781, + "learning_rate": 4.330480711663356e-06, + "loss": 0.2728, + "num_input_tokens_seen": 10587320, + "step": 5406 + }, + { + "epoch": 0.7166335321404904, + "grad_norm": 6.718013763427734, + "learning_rate": 4.3302442594971925e-06, + "loss": 0.1954, + "num_input_tokens_seen": 10590008, + "step": 5407 + }, + { + "epoch": 0.7167660702451955, + "grad_norm": 5.553983211517334, + "learning_rate": 4.330007772042656e-06, + "loss": 0.0641, + "num_input_tokens_seen": 10592216, + "step": 5408 + }, + { + "epoch": 0.7168986083499006, + "grad_norm": 1.5864758491516113, + "learning_rate": 4.329771249304307e-06, + "loss": 0.0224, + "num_input_tokens_seen": 10593608, + "step": 5409 + }, + { + "epoch": 0.7170311464546058, + "grad_norm": 7.581082344055176, + "learning_rate": 4.329534691286707e-06, + "loss": 0.1692, + "num_input_tokens_seen": 10595168, + "step": 5410 + }, + { + "epoch": 0.7171636845593108, + "grad_norm": 8.926233291625977, + "learning_rate": 4.329298097994415e-06, + "loss": 0.0996, + "num_input_tokens_seen": 10596624, + "step": 5411 + }, + { + "epoch": 0.7172962226640159, + "grad_norm": 3.1127870082855225, + "learning_rate": 4.329061469431995e-06, + "loss": 0.0999, + "num_input_tokens_seen": 10598856, + "step": 5412 + }, + { + "epoch": 0.717428760768721, + "grad_norm": 11.583666801452637, + "learning_rate": 4.328824805604007e-06, + "loss": 0.1968, + "num_input_tokens_seen": 10600640, + "step": 5413 + }, + { + "epoch": 0.7175612988734261, + "grad_norm": 7.029998779296875, + "learning_rate": 4.328588106515016e-06, + "loss": 0.1904, + "num_input_tokens_seen": 10602584, + "step": 5414 + }, + { + "epoch": 0.7176938369781312, + "grad_norm": 2.6394267082214355, + "learning_rate": 4.328351372169584e-06, + "loss": 0.0195, + "num_input_tokens_seen": 10604192, + "step": 5415 + }, + { + "epoch": 0.7178263750828363, + "grad_norm": 75.4927978515625, + "learning_rate": 4.328114602572276e-06, + "loss": 0.4094, + "num_input_tokens_seen": 10607632, + "step": 5416 + }, + { + "epoch": 0.7179589131875415, + "grad_norm": 0.11221078783273697, + "learning_rate": 4.3278777977276576e-06, + "loss": 0.0007, + "num_input_tokens_seen": 10608888, + "step": 5417 + }, + { + "epoch": 0.7180914512922465, + "grad_norm": 8.978494644165039, + "learning_rate": 4.327640957640295e-06, + "loss": 0.2859, + "num_input_tokens_seen": 10610808, + "step": 5418 + }, + { + "epoch": 0.7182239893969516, + "grad_norm": 0.056512702256441116, + "learning_rate": 4.327404082314754e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10612144, + "step": 5419 + }, + { + "epoch": 0.7183565275016567, + "grad_norm": 0.36572855710983276, + "learning_rate": 4.327167171755599e-06, + "loss": 0.0025, + "num_input_tokens_seen": 10614080, + "step": 5420 + }, + { + "epoch": 0.7184890656063618, + "grad_norm": 11.710256576538086, + "learning_rate": 4.326930225967404e-06, + "loss": 0.5209, + "num_input_tokens_seen": 10616912, + "step": 5421 + }, + { + "epoch": 0.718621603711067, + "grad_norm": 0.14278718829154968, + "learning_rate": 4.3266932449547316e-06, + "loss": 0.001, + "num_input_tokens_seen": 10619664, + "step": 5422 + }, + { + "epoch": 0.718754141815772, + "grad_norm": 9.962724685668945, + "learning_rate": 4.326456228722155e-06, + "loss": 0.212, + "num_input_tokens_seen": 10621184, + "step": 5423 + }, + { + "epoch": 0.7188866799204772, + "grad_norm": 2.9257819652557373, + "learning_rate": 4.326219177274241e-06, + "loss": 0.07, + "num_input_tokens_seen": 10623632, + "step": 5424 + }, + { + "epoch": 0.7190192180251822, + "grad_norm": 0.731238603591919, + "learning_rate": 4.3259820906155615e-06, + "loss": 0.0046, + "num_input_tokens_seen": 10624976, + "step": 5425 + }, + { + "epoch": 0.7191517561298874, + "grad_norm": 11.588208198547363, + "learning_rate": 4.325744968750688e-06, + "loss": 0.3923, + "num_input_tokens_seen": 10627168, + "step": 5426 + }, + { + "epoch": 0.7192842942345924, + "grad_norm": 6.853522300720215, + "learning_rate": 4.325507811684192e-06, + "loss": 0.2317, + "num_input_tokens_seen": 10628976, + "step": 5427 + }, + { + "epoch": 0.7194168323392975, + "grad_norm": 7.076307773590088, + "learning_rate": 4.325270619420645e-06, + "loss": 0.1596, + "num_input_tokens_seen": 10631000, + "step": 5428 + }, + { + "epoch": 0.7195493704440027, + "grad_norm": 6.852641582489014, + "learning_rate": 4.325033391964623e-06, + "loss": 0.0981, + "num_input_tokens_seen": 10633528, + "step": 5429 + }, + { + "epoch": 0.7196819085487077, + "grad_norm": 9.873103141784668, + "learning_rate": 4.324796129320696e-06, + "loss": 0.2821, + "num_input_tokens_seen": 10635392, + "step": 5430 + }, + { + "epoch": 0.7198144466534129, + "grad_norm": 10.66834545135498, + "learning_rate": 4.324558831493443e-06, + "loss": 0.3592, + "num_input_tokens_seen": 10637032, + "step": 5431 + }, + { + "epoch": 0.7199469847581179, + "grad_norm": 6.377750873565674, + "learning_rate": 4.324321498487436e-06, + "loss": 0.1151, + "num_input_tokens_seen": 10639088, + "step": 5432 + }, + { + "epoch": 0.7200795228628231, + "grad_norm": 8.164138793945312, + "learning_rate": 4.324084130307252e-06, + "loss": 0.3514, + "num_input_tokens_seen": 10641048, + "step": 5433 + }, + { + "epoch": 0.7202120609675282, + "grad_norm": 0.09812411665916443, + "learning_rate": 4.323846726957468e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10642280, + "step": 5434 + }, + { + "epoch": 0.7203445990722332, + "grad_norm": 12.22256088256836, + "learning_rate": 4.32360928844266e-06, + "loss": 0.3678, + "num_input_tokens_seen": 10645008, + "step": 5435 + }, + { + "epoch": 0.7204771371769384, + "grad_norm": 1.7772632837295532, + "learning_rate": 4.323371814767407e-06, + "loss": 0.025, + "num_input_tokens_seen": 10646920, + "step": 5436 + }, + { + "epoch": 0.7206096752816434, + "grad_norm": 7.865345001220703, + "learning_rate": 4.323134305936289e-06, + "loss": 0.2219, + "num_input_tokens_seen": 10649288, + "step": 5437 + }, + { + "epoch": 0.7207422133863486, + "grad_norm": 18.25265121459961, + "learning_rate": 4.322896761953882e-06, + "loss": 0.477, + "num_input_tokens_seen": 10651200, + "step": 5438 + }, + { + "epoch": 0.7208747514910536, + "grad_norm": 6.348635673522949, + "learning_rate": 4.322659182824769e-06, + "loss": 0.19, + "num_input_tokens_seen": 10653208, + "step": 5439 + }, + { + "epoch": 0.7210072895957588, + "grad_norm": 12.010926246643066, + "learning_rate": 4.322421568553529e-06, + "loss": 0.6441, + "num_input_tokens_seen": 10655312, + "step": 5440 + }, + { + "epoch": 0.7211398277004639, + "grad_norm": 2.6433982849121094, + "learning_rate": 4.322183919144745e-06, + "loss": 0.0169, + "num_input_tokens_seen": 10657112, + "step": 5441 + }, + { + "epoch": 0.721272365805169, + "grad_norm": 6.007479667663574, + "learning_rate": 4.321946234602997e-06, + "loss": 0.0486, + "num_input_tokens_seen": 10658768, + "step": 5442 + }, + { + "epoch": 0.7214049039098741, + "grad_norm": 6.667125225067139, + "learning_rate": 4.3217085149328685e-06, + "loss": 0.1054, + "num_input_tokens_seen": 10659760, + "step": 5443 + }, + { + "epoch": 0.7215374420145791, + "grad_norm": 3.3705594539642334, + "learning_rate": 4.321470760138944e-06, + "loss": 0.0446, + "num_input_tokens_seen": 10661000, + "step": 5444 + }, + { + "epoch": 0.7216699801192843, + "grad_norm": 0.22150379419326782, + "learning_rate": 4.321232970225806e-06, + "loss": 0.0015, + "num_input_tokens_seen": 10662568, + "step": 5445 + }, + { + "epoch": 0.7218025182239894, + "grad_norm": 7.884476661682129, + "learning_rate": 4.32099514519804e-06, + "loss": 0.1561, + "num_input_tokens_seen": 10663968, + "step": 5446 + }, + { + "epoch": 0.7219350563286945, + "grad_norm": 4.997055530548096, + "learning_rate": 4.320757285060231e-06, + "loss": 0.1245, + "num_input_tokens_seen": 10666568, + "step": 5447 + }, + { + "epoch": 0.7220675944333996, + "grad_norm": 0.8927567005157471, + "learning_rate": 4.320519389816966e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10668344, + "step": 5448 + }, + { + "epoch": 0.7222001325381047, + "grad_norm": 0.24215669929981232, + "learning_rate": 4.320281459472831e-06, + "loss": 0.0015, + "num_input_tokens_seen": 10670288, + "step": 5449 + }, + { + "epoch": 0.7223326706428098, + "grad_norm": 1.2419615983963013, + "learning_rate": 4.320043494032414e-06, + "loss": 0.016, + "num_input_tokens_seen": 10672496, + "step": 5450 + }, + { + "epoch": 0.722465208747515, + "grad_norm": 0.5320871472358704, + "learning_rate": 4.3198054935003034e-06, + "loss": 0.0033, + "num_input_tokens_seen": 10673952, + "step": 5451 + }, + { + "epoch": 0.72259774685222, + "grad_norm": 10.658312797546387, + "learning_rate": 4.319567457881086e-06, + "loss": 0.3339, + "num_input_tokens_seen": 10676224, + "step": 5452 + }, + { + "epoch": 0.7227302849569252, + "grad_norm": 7.224648475646973, + "learning_rate": 4.3193293871793544e-06, + "loss": 0.2567, + "num_input_tokens_seen": 10678368, + "step": 5453 + }, + { + "epoch": 0.7228628230616302, + "grad_norm": 9.707650184631348, + "learning_rate": 4.319091281399695e-06, + "loss": 0.3174, + "num_input_tokens_seen": 10680320, + "step": 5454 + }, + { + "epoch": 0.7229953611663353, + "grad_norm": 11.136312484741211, + "learning_rate": 4.318853140546702e-06, + "loss": 0.4657, + "num_input_tokens_seen": 10682488, + "step": 5455 + }, + { + "epoch": 0.7231278992710404, + "grad_norm": 11.700010299682617, + "learning_rate": 4.3186149646249664e-06, + "loss": 0.2006, + "num_input_tokens_seen": 10684352, + "step": 5456 + }, + { + "epoch": 0.7232604373757455, + "grad_norm": 0.09427163749933243, + "learning_rate": 4.3183767536390795e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10685504, + "step": 5457 + }, + { + "epoch": 0.7233929754804507, + "grad_norm": 0.11732390522956848, + "learning_rate": 4.318138507593633e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10688448, + "step": 5458 + }, + { + "epoch": 0.7235255135851557, + "grad_norm": 8.149674415588379, + "learning_rate": 4.3179002264932234e-06, + "loss": 0.2207, + "num_input_tokens_seen": 10690416, + "step": 5459 + }, + { + "epoch": 0.7236580516898609, + "grad_norm": 1.1455308198928833, + "learning_rate": 4.317661910342442e-06, + "loss": 0.0076, + "num_input_tokens_seen": 10692392, + "step": 5460 + }, + { + "epoch": 0.7237905897945659, + "grad_norm": 8.14931869506836, + "learning_rate": 4.317423559145886e-06, + "loss": 0.2479, + "num_input_tokens_seen": 10693592, + "step": 5461 + }, + { + "epoch": 0.723923127899271, + "grad_norm": 12.34900951385498, + "learning_rate": 4.31718517290815e-06, + "loss": 0.3649, + "num_input_tokens_seen": 10695256, + "step": 5462 + }, + { + "epoch": 0.7240556660039762, + "grad_norm": 12.32076358795166, + "learning_rate": 4.31694675163383e-06, + "loss": 0.4123, + "num_input_tokens_seen": 10697216, + "step": 5463 + }, + { + "epoch": 0.7241882041086812, + "grad_norm": 4.103886127471924, + "learning_rate": 4.316708295327523e-06, + "loss": 0.0653, + "num_input_tokens_seen": 10698888, + "step": 5464 + }, + { + "epoch": 0.7243207422133864, + "grad_norm": 9.828661918640137, + "learning_rate": 4.316469803993826e-06, + "loss": 0.3418, + "num_input_tokens_seen": 10701624, + "step": 5465 + }, + { + "epoch": 0.7244532803180914, + "grad_norm": 16.441856384277344, + "learning_rate": 4.316231277637339e-06, + "loss": 0.4695, + "num_input_tokens_seen": 10703384, + "step": 5466 + }, + { + "epoch": 0.7245858184227966, + "grad_norm": 8.357653617858887, + "learning_rate": 4.31599271626266e-06, + "loss": 0.0804, + "num_input_tokens_seen": 10705000, + "step": 5467 + }, + { + "epoch": 0.7247183565275016, + "grad_norm": 8.830903053283691, + "learning_rate": 4.315754119874389e-06, + "loss": 0.0809, + "num_input_tokens_seen": 10706792, + "step": 5468 + }, + { + "epoch": 0.7248508946322068, + "grad_norm": 0.8405228853225708, + "learning_rate": 4.315515488477126e-06, + "loss": 0.0057, + "num_input_tokens_seen": 10708320, + "step": 5469 + }, + { + "epoch": 0.7249834327369119, + "grad_norm": 10.384105682373047, + "learning_rate": 4.315276822075471e-06, + "loss": 0.322, + "num_input_tokens_seen": 10710632, + "step": 5470 + }, + { + "epoch": 0.7251159708416169, + "grad_norm": 0.6235556602478027, + "learning_rate": 4.315038120674027e-06, + "loss": 0.0026, + "num_input_tokens_seen": 10712032, + "step": 5471 + }, + { + "epoch": 0.7252485089463221, + "grad_norm": 9.148031234741211, + "learning_rate": 4.314799384277396e-06, + "loss": 0.4222, + "num_input_tokens_seen": 10714000, + "step": 5472 + }, + { + "epoch": 0.7253810470510271, + "grad_norm": 0.5181266069412231, + "learning_rate": 4.314560612890181e-06, + "loss": 0.0034, + "num_input_tokens_seen": 10715584, + "step": 5473 + }, + { + "epoch": 0.7255135851557323, + "grad_norm": 6.813755512237549, + "learning_rate": 4.314321806516985e-06, + "loss": 0.1563, + "num_input_tokens_seen": 10717368, + "step": 5474 + }, + { + "epoch": 0.7256461232604374, + "grad_norm": 14.17917537689209, + "learning_rate": 4.314082965162413e-06, + "loss": 0.4966, + "num_input_tokens_seen": 10719248, + "step": 5475 + }, + { + "epoch": 0.7257786613651425, + "grad_norm": 11.906841278076172, + "learning_rate": 4.3138440888310706e-06, + "loss": 0.5422, + "num_input_tokens_seen": 10721016, + "step": 5476 + }, + { + "epoch": 0.7259111994698476, + "grad_norm": 0.41764453053474426, + "learning_rate": 4.313605177527563e-06, + "loss": 0.0025, + "num_input_tokens_seen": 10722616, + "step": 5477 + }, + { + "epoch": 0.7260437375745527, + "grad_norm": 10.652955055236816, + "learning_rate": 4.313366231256495e-06, + "loss": 0.4911, + "num_input_tokens_seen": 10724472, + "step": 5478 + }, + { + "epoch": 0.7261762756792578, + "grad_norm": 0.15038461983203888, + "learning_rate": 4.313127250022477e-06, + "loss": 0.001, + "num_input_tokens_seen": 10725760, + "step": 5479 + }, + { + "epoch": 0.7263088137839628, + "grad_norm": 0.08290032297372818, + "learning_rate": 4.312888233830113e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10726848, + "step": 5480 + }, + { + "epoch": 0.726441351888668, + "grad_norm": 3.6962532997131348, + "learning_rate": 4.312649182684015e-06, + "loss": 0.0246, + "num_input_tokens_seen": 10728480, + "step": 5481 + }, + { + "epoch": 0.7265738899933731, + "grad_norm": 0.18984758853912354, + "learning_rate": 4.312410096588789e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10730368, + "step": 5482 + }, + { + "epoch": 0.7267064280980782, + "grad_norm": 12.223434448242188, + "learning_rate": 4.312170975549046e-06, + "loss": 0.366, + "num_input_tokens_seen": 10733160, + "step": 5483 + }, + { + "epoch": 0.7268389662027833, + "grad_norm": 0.16764910519123077, + "learning_rate": 4.311931819569397e-06, + "loss": 0.001, + "num_input_tokens_seen": 10734464, + "step": 5484 + }, + { + "epoch": 0.7269715043074884, + "grad_norm": 6.567307472229004, + "learning_rate": 4.311692628654453e-06, + "loss": 0.1461, + "num_input_tokens_seen": 10736328, + "step": 5485 + }, + { + "epoch": 0.7271040424121935, + "grad_norm": 7.938125133514404, + "learning_rate": 4.311453402808824e-06, + "loss": 0.3783, + "num_input_tokens_seen": 10738520, + "step": 5486 + }, + { + "epoch": 0.7272365805168987, + "grad_norm": 1.6471339464187622, + "learning_rate": 4.311214142037125e-06, + "loss": 0.007, + "num_input_tokens_seen": 10740168, + "step": 5487 + }, + { + "epoch": 0.7273691186216037, + "grad_norm": 3.9337992668151855, + "learning_rate": 4.310974846343967e-06, + "loss": 0.1043, + "num_input_tokens_seen": 10741152, + "step": 5488 + }, + { + "epoch": 0.7275016567263088, + "grad_norm": 0.09851621836423874, + "learning_rate": 4.3107355157339645e-06, + "loss": 0.0006, + "num_input_tokens_seen": 10742736, + "step": 5489 + }, + { + "epoch": 0.7276341948310139, + "grad_norm": 10.458983421325684, + "learning_rate": 4.310496150211732e-06, + "loss": 0.2792, + "num_input_tokens_seen": 10744808, + "step": 5490 + }, + { + "epoch": 0.727766732935719, + "grad_norm": 14.809197425842285, + "learning_rate": 4.310256749781886e-06, + "loss": 0.5231, + "num_input_tokens_seen": 10747224, + "step": 5491 + }, + { + "epoch": 0.7278992710404241, + "grad_norm": 5.7847771644592285, + "learning_rate": 4.31001731444904e-06, + "loss": 0.0889, + "num_input_tokens_seen": 10749000, + "step": 5492 + }, + { + "epoch": 0.7280318091451292, + "grad_norm": 3.9566891193389893, + "learning_rate": 4.3097778442178115e-06, + "loss": 0.1133, + "num_input_tokens_seen": 10751232, + "step": 5493 + }, + { + "epoch": 0.7281643472498344, + "grad_norm": 9.527785301208496, + "learning_rate": 4.309538339092818e-06, + "loss": 0.1712, + "num_input_tokens_seen": 10752752, + "step": 5494 + }, + { + "epoch": 0.7282968853545394, + "grad_norm": 8.892221450805664, + "learning_rate": 4.3092987990786775e-06, + "loss": 0.3489, + "num_input_tokens_seen": 10754824, + "step": 5495 + }, + { + "epoch": 0.7284294234592446, + "grad_norm": 4.816215991973877, + "learning_rate": 4.309059224180007e-06, + "loss": 0.0811, + "num_input_tokens_seen": 10756528, + "step": 5496 + }, + { + "epoch": 0.7285619615639496, + "grad_norm": 5.372101306915283, + "learning_rate": 4.308819614401427e-06, + "loss": 0.0996, + "num_input_tokens_seen": 10757568, + "step": 5497 + }, + { + "epoch": 0.7286944996686547, + "grad_norm": 10.995583534240723, + "learning_rate": 4.308579969747558e-06, + "loss": 0.2673, + "num_input_tokens_seen": 10760072, + "step": 5498 + }, + { + "epoch": 0.7288270377733599, + "grad_norm": 18.099035263061523, + "learning_rate": 4.308340290223018e-06, + "loss": 0.6095, + "num_input_tokens_seen": 10763760, + "step": 5499 + }, + { + "epoch": 0.7289595758780649, + "grad_norm": 3.5018908977508545, + "learning_rate": 4.3081005758324305e-06, + "loss": 0.058, + "num_input_tokens_seen": 10766232, + "step": 5500 + }, + { + "epoch": 0.7290921139827701, + "grad_norm": 3.944511890411377, + "learning_rate": 4.307860826580416e-06, + "loss": 0.0606, + "num_input_tokens_seen": 10768000, + "step": 5501 + }, + { + "epoch": 0.7292246520874751, + "grad_norm": 5.916755676269531, + "learning_rate": 4.307621042471597e-06, + "loss": 0.1859, + "num_input_tokens_seen": 10769648, + "step": 5502 + }, + { + "epoch": 0.7293571901921803, + "grad_norm": 0.6834207773208618, + "learning_rate": 4.307381223510598e-06, + "loss": 0.0041, + "num_input_tokens_seen": 10771176, + "step": 5503 + }, + { + "epoch": 0.7294897282968854, + "grad_norm": 0.8466163873672485, + "learning_rate": 4.307141369702043e-06, + "loss": 0.0057, + "num_input_tokens_seen": 10772720, + "step": 5504 + }, + { + "epoch": 0.7296222664015904, + "grad_norm": 0.9664229154586792, + "learning_rate": 4.306901481050555e-06, + "loss": 0.0059, + "num_input_tokens_seen": 10774176, + "step": 5505 + }, + { + "epoch": 0.7297548045062956, + "grad_norm": 5.939652442932129, + "learning_rate": 4.3066615575607595e-06, + "loss": 0.0619, + "num_input_tokens_seen": 10775848, + "step": 5506 + }, + { + "epoch": 0.7298873426110006, + "grad_norm": 6.4808349609375, + "learning_rate": 4.306421599237284e-06, + "loss": 0.0418, + "num_input_tokens_seen": 10777576, + "step": 5507 + }, + { + "epoch": 0.7300198807157058, + "grad_norm": 8.337955474853516, + "learning_rate": 4.306181606084752e-06, + "loss": 0.5075, + "num_input_tokens_seen": 10779784, + "step": 5508 + }, + { + "epoch": 0.7301524188204108, + "grad_norm": 3.689265489578247, + "learning_rate": 4.305941578107795e-06, + "loss": 0.057, + "num_input_tokens_seen": 10781888, + "step": 5509 + }, + { + "epoch": 0.730284956925116, + "grad_norm": 0.28034961223602295, + "learning_rate": 4.305701515311037e-06, + "loss": 0.0019, + "num_input_tokens_seen": 10784144, + "step": 5510 + }, + { + "epoch": 0.7304174950298211, + "grad_norm": 12.424942970275879, + "learning_rate": 4.305461417699109e-06, + "loss": 0.6706, + "num_input_tokens_seen": 10786576, + "step": 5511 + }, + { + "epoch": 0.7305500331345262, + "grad_norm": 10.470807075500488, + "learning_rate": 4.3052212852766375e-06, + "loss": 0.1583, + "num_input_tokens_seen": 10788824, + "step": 5512 + }, + { + "epoch": 0.7306825712392313, + "grad_norm": 0.12171858549118042, + "learning_rate": 4.304981118048256e-06, + "loss": 0.0008, + "num_input_tokens_seen": 10789936, + "step": 5513 + }, + { + "epoch": 0.7308151093439363, + "grad_norm": 23.789995193481445, + "learning_rate": 4.304740916018593e-06, + "loss": 0.4018, + "num_input_tokens_seen": 10791656, + "step": 5514 + }, + { + "epoch": 0.7309476474486415, + "grad_norm": 0.07042837888002396, + "learning_rate": 4.3045006791922795e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10793328, + "step": 5515 + }, + { + "epoch": 0.7310801855533466, + "grad_norm": 18.310781478881836, + "learning_rate": 4.304260407573949e-06, + "loss": 0.5433, + "num_input_tokens_seen": 10794792, + "step": 5516 + }, + { + "epoch": 0.7312127236580517, + "grad_norm": 9.13074779510498, + "learning_rate": 4.304020101168232e-06, + "loss": 0.2682, + "num_input_tokens_seen": 10796848, + "step": 5517 + }, + { + "epoch": 0.7313452617627568, + "grad_norm": 5.251986980438232, + "learning_rate": 4.303779759979764e-06, + "loss": 0.0808, + "num_input_tokens_seen": 10799248, + "step": 5518 + }, + { + "epoch": 0.7314777998674619, + "grad_norm": 16.71279525756836, + "learning_rate": 4.303539384013177e-06, + "loss": 0.5215, + "num_input_tokens_seen": 10800968, + "step": 5519 + }, + { + "epoch": 0.731610337972167, + "grad_norm": 11.054742813110352, + "learning_rate": 4.3032989732731075e-06, + "loss": 0.259, + "num_input_tokens_seen": 10802648, + "step": 5520 + }, + { + "epoch": 0.731742876076872, + "grad_norm": 0.18419474363327026, + "learning_rate": 4.303058527764189e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10804792, + "step": 5521 + }, + { + "epoch": 0.7318754141815772, + "grad_norm": 10.891854286193848, + "learning_rate": 4.3028180474910585e-06, + "loss": 0.437, + "num_input_tokens_seen": 10807800, + "step": 5522 + }, + { + "epoch": 0.7320079522862823, + "grad_norm": 5.592297077178955, + "learning_rate": 4.302577532458352e-06, + "loss": 0.1746, + "num_input_tokens_seen": 10809704, + "step": 5523 + }, + { + "epoch": 0.7321404903909874, + "grad_norm": 0.04535595700144768, + "learning_rate": 4.302336982670707e-06, + "loss": 0.0003, + "num_input_tokens_seen": 10811080, + "step": 5524 + }, + { + "epoch": 0.7322730284956925, + "grad_norm": 0.05149759724736214, + "learning_rate": 4.302096398132762e-06, + "loss": 0.0004, + "num_input_tokens_seen": 10812104, + "step": 5525 + }, + { + "epoch": 0.7324055666003976, + "grad_norm": 11.92459487915039, + "learning_rate": 4.301855778849155e-06, + "loss": 0.4089, + "num_input_tokens_seen": 10813880, + "step": 5526 + }, + { + "epoch": 0.7325381047051027, + "grad_norm": 0.3102714419364929, + "learning_rate": 4.301615124824526e-06, + "loss": 0.0022, + "num_input_tokens_seen": 10816560, + "step": 5527 + }, + { + "epoch": 0.7326706428098079, + "grad_norm": 0.07011289894580841, + "learning_rate": 4.301374436063515e-06, + "loss": 0.0005, + "num_input_tokens_seen": 10817888, + "step": 5528 + }, + { + "epoch": 0.7328031809145129, + "grad_norm": 8.574570655822754, + "learning_rate": 4.301133712570761e-06, + "loss": 0.2513, + "num_input_tokens_seen": 10819448, + "step": 5529 + }, + { + "epoch": 0.7329357190192181, + "grad_norm": 0.12541843950748444, + "learning_rate": 4.300892954350907e-06, + "loss": 0.0009, + "num_input_tokens_seen": 10820912, + "step": 5530 + }, + { + "epoch": 0.7330682571239231, + "grad_norm": 1.4550225734710693, + "learning_rate": 4.300652161408594e-06, + "loss": 0.0099, + "num_input_tokens_seen": 10822064, + "step": 5531 + }, + { + "epoch": 0.7332007952286282, + "grad_norm": 5.956141948699951, + "learning_rate": 4.300411333748465e-06, + "loss": 0.1749, + "num_input_tokens_seen": 10823568, + "step": 5532 + }, + { + "epoch": 0.7333333333333333, + "grad_norm": 3.8698384761810303, + "learning_rate": 4.3001704713751645e-06, + "loss": 0.1231, + "num_input_tokens_seen": 10825160, + "step": 5533 + }, + { + "epoch": 0.7334658714380384, + "grad_norm": 4.995274066925049, + "learning_rate": 4.299929574293335e-06, + "loss": 0.0581, + "num_input_tokens_seen": 10826904, + "step": 5534 + }, + { + "epoch": 0.7335984095427436, + "grad_norm": 7.504029750823975, + "learning_rate": 4.2996886425076215e-06, + "loss": 0.223, + "num_input_tokens_seen": 10828736, + "step": 5535 + }, + { + "epoch": 0.7337309476474486, + "grad_norm": 15.170551300048828, + "learning_rate": 4.29944767602267e-06, + "loss": 0.4741, + "num_input_tokens_seen": 10830176, + "step": 5536 + }, + { + "epoch": 0.7338634857521538, + "grad_norm": 6.661860942840576, + "learning_rate": 4.299206674843125e-06, + "loss": 0.1722, + "num_input_tokens_seen": 10831864, + "step": 5537 + }, + { + "epoch": 0.7339960238568588, + "grad_norm": 18.007686614990234, + "learning_rate": 4.298965638973635e-06, + "loss": 0.2577, + "num_input_tokens_seen": 10833856, + "step": 5538 + }, + { + "epoch": 0.734128561961564, + "grad_norm": 0.1619449257850647, + "learning_rate": 4.298724568418845e-06, + "loss": 0.0012, + "num_input_tokens_seen": 10835640, + "step": 5539 + }, + { + "epoch": 0.7342611000662691, + "grad_norm": 6.918808937072754, + "learning_rate": 4.298483463183406e-06, + "loss": 0.258, + "num_input_tokens_seen": 10837328, + "step": 5540 + }, + { + "epoch": 0.7343936381709741, + "grad_norm": 9.625131607055664, + "learning_rate": 4.298242323271964e-06, + "loss": 0.2912, + "num_input_tokens_seen": 10838688, + "step": 5541 + }, + { + "epoch": 0.7345261762756793, + "grad_norm": 6.90231466293335, + "learning_rate": 4.29800114868917e-06, + "loss": 0.2205, + "num_input_tokens_seen": 10840536, + "step": 5542 + }, + { + "epoch": 0.7346587143803843, + "grad_norm": 9.644344329833984, + "learning_rate": 4.297759939439673e-06, + "loss": 0.2371, + "num_input_tokens_seen": 10842616, + "step": 5543 + }, + { + "epoch": 0.7347912524850895, + "grad_norm": 16.313232421875, + "learning_rate": 4.297518695528125e-06, + "loss": 0.4175, + "num_input_tokens_seen": 10844800, + "step": 5544 + }, + { + "epoch": 0.7349237905897945, + "grad_norm": 0.6032420992851257, + "learning_rate": 4.297277416959176e-06, + "loss": 0.0045, + "num_input_tokens_seen": 10846192, + "step": 5545 + }, + { + "epoch": 0.7350563286944997, + "grad_norm": 13.998650550842285, + "learning_rate": 4.2970361037374784e-06, + "loss": 0.2887, + "num_input_tokens_seen": 10847832, + "step": 5546 + }, + { + "epoch": 0.7351888667992048, + "grad_norm": 7.126074314117432, + "learning_rate": 4.296794755867685e-06, + "loss": 0.3418, + "num_input_tokens_seen": 10850720, + "step": 5547 + }, + { + "epoch": 0.7353214049039098, + "grad_norm": 5.029463768005371, + "learning_rate": 4.296553373354449e-06, + "loss": 0.1063, + "num_input_tokens_seen": 10852408, + "step": 5548 + }, + { + "epoch": 0.735453943008615, + "grad_norm": 1.4527138471603394, + "learning_rate": 4.296311956202426e-06, + "loss": 0.0243, + "num_input_tokens_seen": 10853960, + "step": 5549 + }, + { + "epoch": 0.73558648111332, + "grad_norm": 0.5472029447555542, + "learning_rate": 4.2960705044162675e-06, + "loss": 0.004, + "num_input_tokens_seen": 10856032, + "step": 5550 + }, + { + "epoch": 0.7357190192180252, + "grad_norm": 11.215896606445312, + "learning_rate": 4.2958290180006315e-06, + "loss": 0.296, + "num_input_tokens_seen": 10857640, + "step": 5551 + }, + { + "epoch": 0.7358515573227303, + "grad_norm": 3.4041786193847656, + "learning_rate": 4.295587496960173e-06, + "loss": 0.0657, + "num_input_tokens_seen": 10860624, + "step": 5552 + }, + { + "epoch": 0.7359840954274354, + "grad_norm": 4.3968586921691895, + "learning_rate": 4.295345941299549e-06, + "loss": 0.1082, + "num_input_tokens_seen": 10863712, + "step": 5553 + }, + { + "epoch": 0.7361166335321405, + "grad_norm": 1.3515654802322388, + "learning_rate": 4.295104351023417e-06, + "loss": 0.0103, + "num_input_tokens_seen": 10865024, + "step": 5554 + }, + { + "epoch": 0.7362491716368456, + "grad_norm": 7.054819583892822, + "learning_rate": 4.294862726136434e-06, + "loss": 0.1831, + "num_input_tokens_seen": 10866976, + "step": 5555 + }, + { + "epoch": 0.7363817097415507, + "grad_norm": 14.793862342834473, + "learning_rate": 4.29462106664326e-06, + "loss": 0.6049, + "num_input_tokens_seen": 10869472, + "step": 5556 + }, + { + "epoch": 0.7365142478462559, + "grad_norm": 9.630166053771973, + "learning_rate": 4.294379372548553e-06, + "loss": 0.1955, + "num_input_tokens_seen": 10872008, + "step": 5557 + }, + { + "epoch": 0.7366467859509609, + "grad_norm": 7.67263126373291, + "learning_rate": 4.294137643856974e-06, + "loss": 0.1745, + "num_input_tokens_seen": 10873608, + "step": 5558 + }, + { + "epoch": 0.736779324055666, + "grad_norm": 2.2542288303375244, + "learning_rate": 4.293895880573184e-06, + "loss": 0.0168, + "num_input_tokens_seen": 10875616, + "step": 5559 + }, + { + "epoch": 0.7369118621603711, + "grad_norm": 16.079044342041016, + "learning_rate": 4.293654082701843e-06, + "loss": 0.6604, + "num_input_tokens_seen": 10878384, + "step": 5560 + }, + { + "epoch": 0.7370444002650762, + "grad_norm": 9.172947883605957, + "learning_rate": 4.293412250247615e-06, + "loss": 0.239, + "num_input_tokens_seen": 10880568, + "step": 5561 + }, + { + "epoch": 0.7371769383697813, + "grad_norm": 6.037843227386475, + "learning_rate": 4.293170383215161e-06, + "loss": 0.1334, + "num_input_tokens_seen": 10882728, + "step": 5562 + }, + { + "epoch": 0.7373094764744864, + "grad_norm": 2.670527219772339, + "learning_rate": 4.292928481609146e-06, + "loss": 0.0729, + "num_input_tokens_seen": 10884168, + "step": 5563 + }, + { + "epoch": 0.7374420145791916, + "grad_norm": 5.2588114738464355, + "learning_rate": 4.292686545434232e-06, + "loss": 0.1216, + "num_input_tokens_seen": 10887440, + "step": 5564 + }, + { + "epoch": 0.7375745526838966, + "grad_norm": 1.534140706062317, + "learning_rate": 4.292444574695085e-06, + "loss": 0.0366, + "num_input_tokens_seen": 10888960, + "step": 5565 + }, + { + "epoch": 0.7377070907886017, + "grad_norm": 3.937309741973877, + "learning_rate": 4.2922025693963696e-06, + "loss": 0.0731, + "num_input_tokens_seen": 10890856, + "step": 5566 + }, + { + "epoch": 0.7378396288933068, + "grad_norm": 10.178291320800781, + "learning_rate": 4.291960529542753e-06, + "loss": 0.3296, + "num_input_tokens_seen": 10892952, + "step": 5567 + }, + { + "epoch": 0.7379721669980119, + "grad_norm": 9.69021224975586, + "learning_rate": 4.2917184551389e-06, + "loss": 0.4357, + "num_input_tokens_seen": 10895096, + "step": 5568 + }, + { + "epoch": 0.7381047051027171, + "grad_norm": 1.2098838090896606, + "learning_rate": 4.29147634618948e-06, + "loss": 0.0093, + "num_input_tokens_seen": 10896480, + "step": 5569 + }, + { + "epoch": 0.7382372432074221, + "grad_norm": 7.711188316345215, + "learning_rate": 4.29123420269916e-06, + "loss": 0.119, + "num_input_tokens_seen": 10899552, + "step": 5570 + }, + { + "epoch": 0.7383697813121273, + "grad_norm": 1.3528118133544922, + "learning_rate": 4.29099202467261e-06, + "loss": 0.0098, + "num_input_tokens_seen": 10901168, + "step": 5571 + }, + { + "epoch": 0.7385023194168323, + "grad_norm": 0.6277579069137573, + "learning_rate": 4.290749812114497e-06, + "loss": 0.0046, + "num_input_tokens_seen": 10902688, + "step": 5572 + }, + { + "epoch": 0.7386348575215375, + "grad_norm": 1.0253241062164307, + "learning_rate": 4.290507565029493e-06, + "loss": 0.0175, + "num_input_tokens_seen": 10904144, + "step": 5573 + }, + { + "epoch": 0.7387673956262425, + "grad_norm": 8.246904373168945, + "learning_rate": 4.290265283422267e-06, + "loss": 0.2873, + "num_input_tokens_seen": 10905616, + "step": 5574 + }, + { + "epoch": 0.7388999337309476, + "grad_norm": 4.6777729988098145, + "learning_rate": 4.290022967297491e-06, + "loss": 0.0829, + "num_input_tokens_seen": 10907160, + "step": 5575 + }, + { + "epoch": 0.7390324718356528, + "grad_norm": 7.547438621520996, + "learning_rate": 4.289780616659839e-06, + "loss": 0.089, + "num_input_tokens_seen": 10909120, + "step": 5576 + }, + { + "epoch": 0.7391650099403578, + "grad_norm": 16.122739791870117, + "learning_rate": 4.28953823151398e-06, + "loss": 0.6826, + "num_input_tokens_seen": 10911240, + "step": 5577 + }, + { + "epoch": 0.739297548045063, + "grad_norm": 9.46178913116455, + "learning_rate": 4.289295811864591e-06, + "loss": 0.2104, + "num_input_tokens_seen": 10913336, + "step": 5578 + }, + { + "epoch": 0.739430086149768, + "grad_norm": 6.104067325592041, + "learning_rate": 4.289053357716343e-06, + "loss": 0.2484, + "num_input_tokens_seen": 10915528, + "step": 5579 + }, + { + "epoch": 0.7395626242544732, + "grad_norm": 3.712414264678955, + "learning_rate": 4.288810869073914e-06, + "loss": 0.0274, + "num_input_tokens_seen": 10917528, + "step": 5580 + }, + { + "epoch": 0.7396951623591783, + "grad_norm": 6.806366443634033, + "learning_rate": 4.288568345941976e-06, + "loss": 0.0935, + "num_input_tokens_seen": 10919544, + "step": 5581 + }, + { + "epoch": 0.7398277004638834, + "grad_norm": 7.807260990142822, + "learning_rate": 4.2883257883252065e-06, + "loss": 0.1926, + "num_input_tokens_seen": 10921456, + "step": 5582 + }, + { + "epoch": 0.7399602385685885, + "grad_norm": 9.196476936340332, + "learning_rate": 4.288083196228281e-06, + "loss": 0.5939, + "num_input_tokens_seen": 10924424, + "step": 5583 + }, + { + "epoch": 0.7400927766732935, + "grad_norm": 3.339165210723877, + "learning_rate": 4.28784056965588e-06, + "loss": 0.0678, + "num_input_tokens_seen": 10925936, + "step": 5584 + }, + { + "epoch": 0.7402253147779987, + "grad_norm": 5.34340763092041, + "learning_rate": 4.287597908612678e-06, + "loss": 0.2142, + "num_input_tokens_seen": 10927816, + "step": 5585 + }, + { + "epoch": 0.7403578528827037, + "grad_norm": 10.882530212402344, + "learning_rate": 4.287355213103356e-06, + "loss": 0.3709, + "num_input_tokens_seen": 10929312, + "step": 5586 + }, + { + "epoch": 0.7404903909874089, + "grad_norm": 10.847646713256836, + "learning_rate": 4.2871124831325925e-06, + "loss": 0.5355, + "num_input_tokens_seen": 10930744, + "step": 5587 + }, + { + "epoch": 0.740622929092114, + "grad_norm": 8.853724479675293, + "learning_rate": 4.286869718705067e-06, + "loss": 0.3776, + "num_input_tokens_seen": 10932624, + "step": 5588 + }, + { + "epoch": 0.7407554671968191, + "grad_norm": 5.423361778259277, + "learning_rate": 4.28662691982546e-06, + "loss": 0.1039, + "num_input_tokens_seen": 10935464, + "step": 5589 + }, + { + "epoch": 0.7408880053015242, + "grad_norm": 9.560091018676758, + "learning_rate": 4.286384086498455e-06, + "loss": 0.2509, + "num_input_tokens_seen": 10937664, + "step": 5590 + }, + { + "epoch": 0.7410205434062292, + "grad_norm": 5.965892314910889, + "learning_rate": 4.286141218728732e-06, + "loss": 0.0945, + "num_input_tokens_seen": 10940104, + "step": 5591 + }, + { + "epoch": 0.7411530815109344, + "grad_norm": 0.16219490766525269, + "learning_rate": 4.285898316520974e-06, + "loss": 0.0011, + "num_input_tokens_seen": 10943152, + "step": 5592 + }, + { + "epoch": 0.7412856196156395, + "grad_norm": 3.0228981971740723, + "learning_rate": 4.285655379879864e-06, + "loss": 0.0504, + "num_input_tokens_seen": 10944808, + "step": 5593 + }, + { + "epoch": 0.7414181577203446, + "grad_norm": 6.613373279571533, + "learning_rate": 4.285412408810086e-06, + "loss": 0.112, + "num_input_tokens_seen": 10947032, + "step": 5594 + }, + { + "epoch": 0.7415506958250497, + "grad_norm": 5.082480430603027, + "learning_rate": 4.285169403316326e-06, + "loss": 0.1049, + "num_input_tokens_seen": 10949960, + "step": 5595 + }, + { + "epoch": 0.7416832339297548, + "grad_norm": 12.144387245178223, + "learning_rate": 4.284926363403268e-06, + "loss": 0.4337, + "num_input_tokens_seen": 10951400, + "step": 5596 + }, + { + "epoch": 0.7418157720344599, + "grad_norm": 7.6896586418151855, + "learning_rate": 4.284683289075598e-06, + "loss": 0.1994, + "num_input_tokens_seen": 10952928, + "step": 5597 + }, + { + "epoch": 0.741948310139165, + "grad_norm": 0.21499766409397125, + "learning_rate": 4.284440180338004e-06, + "loss": 0.0015, + "num_input_tokens_seen": 10954896, + "step": 5598 + }, + { + "epoch": 0.7420808482438701, + "grad_norm": 6.082207202911377, + "learning_rate": 4.284197037195171e-06, + "loss": 0.076, + "num_input_tokens_seen": 10957776, + "step": 5599 + }, + { + "epoch": 0.7422133863485753, + "grad_norm": 6.072389602661133, + "learning_rate": 4.28395385965179e-06, + "loss": 0.2148, + "num_input_tokens_seen": 10960280, + "step": 5600 + }, + { + "epoch": 0.7423459244532803, + "grad_norm": 15.996254920959473, + "learning_rate": 4.2837106477125465e-06, + "loss": 0.3645, + "num_input_tokens_seen": 10962328, + "step": 5601 + }, + { + "epoch": 0.7424784625579854, + "grad_norm": 11.350447654724121, + "learning_rate": 4.283467401382132e-06, + "loss": 0.3724, + "num_input_tokens_seen": 10964664, + "step": 5602 + }, + { + "epoch": 0.7426110006626905, + "grad_norm": 5.432244777679443, + "learning_rate": 4.2832241206652344e-06, + "loss": 0.0578, + "num_input_tokens_seen": 10967264, + "step": 5603 + }, + { + "epoch": 0.7427435387673956, + "grad_norm": 18.156660079956055, + "learning_rate": 4.2829808055665465e-06, + "loss": 0.6547, + "num_input_tokens_seen": 10969536, + "step": 5604 + }, + { + "epoch": 0.7428760768721008, + "grad_norm": 11.976000785827637, + "learning_rate": 4.282737456090759e-06, + "loss": 0.3157, + "num_input_tokens_seen": 10971584, + "step": 5605 + }, + { + "epoch": 0.7430086149768058, + "grad_norm": 6.209428787231445, + "learning_rate": 4.282494072242563e-06, + "loss": 0.0704, + "num_input_tokens_seen": 10973040, + "step": 5606 + }, + { + "epoch": 0.743141153081511, + "grad_norm": 4.18744421005249, + "learning_rate": 4.2822506540266515e-06, + "loss": 0.1342, + "num_input_tokens_seen": 10975288, + "step": 5607 + }, + { + "epoch": 0.743273691186216, + "grad_norm": 7.878844738006592, + "learning_rate": 4.282007201447718e-06, + "loss": 0.1245, + "num_input_tokens_seen": 10977248, + "step": 5608 + }, + { + "epoch": 0.7434062292909212, + "grad_norm": 1.692920207977295, + "learning_rate": 4.2817637145104565e-06, + "loss": 0.0291, + "num_input_tokens_seen": 10978888, + "step": 5609 + }, + { + "epoch": 0.7435387673956262, + "grad_norm": 2.3419227600097656, + "learning_rate": 4.281520193219561e-06, + "loss": 0.0203, + "num_input_tokens_seen": 10980592, + "step": 5610 + }, + { + "epoch": 0.7436713055003313, + "grad_norm": 1.2332572937011719, + "learning_rate": 4.281276637579728e-06, + "loss": 0.0087, + "num_input_tokens_seen": 10981920, + "step": 5611 + }, + { + "epoch": 0.7438038436050365, + "grad_norm": 5.501136302947998, + "learning_rate": 4.281033047595652e-06, + "loss": 0.0963, + "num_input_tokens_seen": 10984040, + "step": 5612 + }, + { + "epoch": 0.7439363817097415, + "grad_norm": 13.99736499786377, + "learning_rate": 4.28078942327203e-06, + "loss": 0.4102, + "num_input_tokens_seen": 10987416, + "step": 5613 + }, + { + "epoch": 0.7440689198144467, + "grad_norm": 24.510679244995117, + "learning_rate": 4.28054576461356e-06, + "loss": 0.7798, + "num_input_tokens_seen": 10990320, + "step": 5614 + }, + { + "epoch": 0.7442014579191517, + "grad_norm": 6.149999141693115, + "learning_rate": 4.280302071624939e-06, + "loss": 0.0897, + "num_input_tokens_seen": 10993664, + "step": 5615 + }, + { + "epoch": 0.7443339960238569, + "grad_norm": 8.941412925720215, + "learning_rate": 4.280058344310865e-06, + "loss": 0.1064, + "num_input_tokens_seen": 10995120, + "step": 5616 + }, + { + "epoch": 0.744466534128562, + "grad_norm": 11.968453407287598, + "learning_rate": 4.279814582676039e-06, + "loss": 0.4572, + "num_input_tokens_seen": 10996752, + "step": 5617 + }, + { + "epoch": 0.744599072233267, + "grad_norm": 9.384695053100586, + "learning_rate": 4.27957078672516e-06, + "loss": 0.2039, + "num_input_tokens_seen": 10999120, + "step": 5618 + }, + { + "epoch": 0.7447316103379722, + "grad_norm": 13.153914451599121, + "learning_rate": 4.279326956462928e-06, + "loss": 0.332, + "num_input_tokens_seen": 11000760, + "step": 5619 + }, + { + "epoch": 0.7448641484426772, + "grad_norm": 11.911666870117188, + "learning_rate": 4.279083091894046e-06, + "loss": 0.3316, + "num_input_tokens_seen": 11002224, + "step": 5620 + }, + { + "epoch": 0.7449966865473824, + "grad_norm": 1.1861519813537598, + "learning_rate": 4.278839193023214e-06, + "loss": 0.0086, + "num_input_tokens_seen": 11003656, + "step": 5621 + }, + { + "epoch": 0.7451292246520875, + "grad_norm": 4.774340629577637, + "learning_rate": 4.278595259855135e-06, + "loss": 0.0263, + "num_input_tokens_seen": 11004912, + "step": 5622 + }, + { + "epoch": 0.7452617627567926, + "grad_norm": 12.020133972167969, + "learning_rate": 4.278351292394513e-06, + "loss": 0.2986, + "num_input_tokens_seen": 11007104, + "step": 5623 + }, + { + "epoch": 0.7453943008614977, + "grad_norm": 0.41112396121025085, + "learning_rate": 4.27810729064605e-06, + "loss": 0.0029, + "num_input_tokens_seen": 11008808, + "step": 5624 + }, + { + "epoch": 0.7455268389662028, + "grad_norm": 6.758029937744141, + "learning_rate": 4.277863254614453e-06, + "loss": 0.0705, + "num_input_tokens_seen": 11011824, + "step": 5625 + }, + { + "epoch": 0.7456593770709079, + "grad_norm": 0.6719967126846313, + "learning_rate": 4.277619184304426e-06, + "loss": 0.0043, + "num_input_tokens_seen": 11014936, + "step": 5626 + }, + { + "epoch": 0.7457919151756129, + "grad_norm": 0.3601485788822174, + "learning_rate": 4.277375079720674e-06, + "loss": 0.0025, + "num_input_tokens_seen": 11016688, + "step": 5627 + }, + { + "epoch": 0.7459244532803181, + "grad_norm": 6.074212551116943, + "learning_rate": 4.277130940867905e-06, + "loss": 0.1615, + "num_input_tokens_seen": 11017800, + "step": 5628 + }, + { + "epoch": 0.7460569913850232, + "grad_norm": 13.346771240234375, + "learning_rate": 4.276886767750825e-06, + "loss": 0.34, + "num_input_tokens_seen": 11019760, + "step": 5629 + }, + { + "epoch": 0.7461895294897283, + "grad_norm": 16.044174194335938, + "learning_rate": 4.276642560374142e-06, + "loss": 0.3147, + "num_input_tokens_seen": 11021624, + "step": 5630 + }, + { + "epoch": 0.7463220675944334, + "grad_norm": 1.467759132385254, + "learning_rate": 4.276398318742565e-06, + "loss": 0.0513, + "num_input_tokens_seen": 11023552, + "step": 5631 + }, + { + "epoch": 0.7464546056991385, + "grad_norm": 0.23978865146636963, + "learning_rate": 4.276154042860804e-06, + "loss": 0.0017, + "num_input_tokens_seen": 11025520, + "step": 5632 + }, + { + "epoch": 0.7465871438038436, + "grad_norm": 14.448883056640625, + "learning_rate": 4.275909732733566e-06, + "loss": 0.4519, + "num_input_tokens_seen": 11026784, + "step": 5633 + }, + { + "epoch": 0.7467196819085488, + "grad_norm": 0.048455916345119476, + "learning_rate": 4.275665388365565e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11027992, + "step": 5634 + }, + { + "epoch": 0.7468522200132538, + "grad_norm": 3.768547534942627, + "learning_rate": 4.27542100976151e-06, + "loss": 0.0426, + "num_input_tokens_seen": 11030160, + "step": 5635 + }, + { + "epoch": 0.746984758117959, + "grad_norm": 12.255239486694336, + "learning_rate": 4.275176596926112e-06, + "loss": 0.1494, + "num_input_tokens_seen": 11031408, + "step": 5636 + }, + { + "epoch": 0.747117296222664, + "grad_norm": 4.9672441482543945, + "learning_rate": 4.274932149864085e-06, + "loss": 0.0938, + "num_input_tokens_seen": 11033560, + "step": 5637 + }, + { + "epoch": 0.7472498343273691, + "grad_norm": 10.4606294631958, + "learning_rate": 4.274687668580142e-06, + "loss": 0.3691, + "num_input_tokens_seen": 11035520, + "step": 5638 + }, + { + "epoch": 0.7473823724320742, + "grad_norm": 5.626713752746582, + "learning_rate": 4.274443153078996e-06, + "loss": 0.05, + "num_input_tokens_seen": 11037704, + "step": 5639 + }, + { + "epoch": 0.7475149105367793, + "grad_norm": 10.198901176452637, + "learning_rate": 4.274198603365362e-06, + "loss": 0.1726, + "num_input_tokens_seen": 11039368, + "step": 5640 + }, + { + "epoch": 0.7476474486414845, + "grad_norm": 1.4593884944915771, + "learning_rate": 4.273954019443956e-06, + "loss": 0.0145, + "num_input_tokens_seen": 11041352, + "step": 5641 + }, + { + "epoch": 0.7477799867461895, + "grad_norm": 22.100982666015625, + "learning_rate": 4.273709401319492e-06, + "loss": 0.3743, + "num_input_tokens_seen": 11043328, + "step": 5642 + }, + { + "epoch": 0.7479125248508947, + "grad_norm": 9.474600791931152, + "learning_rate": 4.273464748996687e-06, + "loss": 0.3399, + "num_input_tokens_seen": 11046040, + "step": 5643 + }, + { + "epoch": 0.7480450629555997, + "grad_norm": 11.160884857177734, + "learning_rate": 4.2732200624802585e-06, + "loss": 0.1969, + "num_input_tokens_seen": 11047440, + "step": 5644 + }, + { + "epoch": 0.7481776010603048, + "grad_norm": 13.449312210083008, + "learning_rate": 4.272975341774923e-06, + "loss": 0.3297, + "num_input_tokens_seen": 11049072, + "step": 5645 + }, + { + "epoch": 0.74831013916501, + "grad_norm": 0.09367889910936356, + "learning_rate": 4.272730586885401e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11051528, + "step": 5646 + }, + { + "epoch": 0.748442677269715, + "grad_norm": 11.46632194519043, + "learning_rate": 4.27248579781641e-06, + "loss": 0.4357, + "num_input_tokens_seen": 11053168, + "step": 5647 + }, + { + "epoch": 0.7485752153744202, + "grad_norm": 3.4057676792144775, + "learning_rate": 4.27224097457267e-06, + "loss": 0.1147, + "num_input_tokens_seen": 11055288, + "step": 5648 + }, + { + "epoch": 0.7487077534791252, + "grad_norm": 3.912752866744995, + "learning_rate": 4.271996117158901e-06, + "loss": 0.0206, + "num_input_tokens_seen": 11057128, + "step": 5649 + }, + { + "epoch": 0.7488402915838304, + "grad_norm": 0.3252025842666626, + "learning_rate": 4.271751225579825e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11058624, + "step": 5650 + }, + { + "epoch": 0.7489728296885354, + "grad_norm": 9.784480094909668, + "learning_rate": 4.2715062998401624e-06, + "loss": 0.1798, + "num_input_tokens_seen": 11060184, + "step": 5651 + }, + { + "epoch": 0.7491053677932406, + "grad_norm": 3.8719005584716797, + "learning_rate": 4.271261339944637e-06, + "loss": 0.1088, + "num_input_tokens_seen": 11061800, + "step": 5652 + }, + { + "epoch": 0.7492379058979457, + "grad_norm": 10.998685836791992, + "learning_rate": 4.271016345897971e-06, + "loss": 0.1749, + "num_input_tokens_seen": 11063408, + "step": 5653 + }, + { + "epoch": 0.7493704440026507, + "grad_norm": 11.26396656036377, + "learning_rate": 4.270771317704887e-06, + "loss": 0.206, + "num_input_tokens_seen": 11065224, + "step": 5654 + }, + { + "epoch": 0.7495029821073559, + "grad_norm": 20.15559196472168, + "learning_rate": 4.270526255370112e-06, + "loss": 0.4393, + "num_input_tokens_seen": 11066448, + "step": 5655 + }, + { + "epoch": 0.7496355202120609, + "grad_norm": 19.359214782714844, + "learning_rate": 4.270281158898368e-06, + "loss": 0.3042, + "num_input_tokens_seen": 11068384, + "step": 5656 + }, + { + "epoch": 0.7497680583167661, + "grad_norm": 9.346695899963379, + "learning_rate": 4.270036028294382e-06, + "loss": 0.3392, + "num_input_tokens_seen": 11069896, + "step": 5657 + }, + { + "epoch": 0.7499005964214712, + "grad_norm": 0.2790091931819916, + "learning_rate": 4.269790863562882e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11071400, + "step": 5658 + }, + { + "epoch": 0.7500331345261763, + "grad_norm": 14.131875991821289, + "learning_rate": 4.269545664708591e-06, + "loss": 0.5372, + "num_input_tokens_seen": 11072872, + "step": 5659 + }, + { + "epoch": 0.7501656726308814, + "grad_norm": 12.163456916809082, + "learning_rate": 4.2693004317362405e-06, + "loss": 0.1782, + "num_input_tokens_seen": 11074304, + "step": 5660 + }, + { + "epoch": 0.7502982107355864, + "grad_norm": 16.802536010742188, + "learning_rate": 4.269055164650556e-06, + "loss": 0.3635, + "num_input_tokens_seen": 11076160, + "step": 5661 + }, + { + "epoch": 0.7504307488402916, + "grad_norm": 3.50714373588562, + "learning_rate": 4.268809863456268e-06, + "loss": 0.0422, + "num_input_tokens_seen": 11078104, + "step": 5662 + }, + { + "epoch": 0.7505632869449966, + "grad_norm": 0.8152724504470825, + "learning_rate": 4.268564528158106e-06, + "loss": 0.0047, + "num_input_tokens_seen": 11079704, + "step": 5663 + }, + { + "epoch": 0.7506958250497018, + "grad_norm": 0.6605602502822876, + "learning_rate": 4.268319158760799e-06, + "loss": 0.0034, + "num_input_tokens_seen": 11081584, + "step": 5664 + }, + { + "epoch": 0.7508283631544069, + "grad_norm": 10.469990730285645, + "learning_rate": 4.26807375526908e-06, + "loss": 0.2902, + "num_input_tokens_seen": 11083392, + "step": 5665 + }, + { + "epoch": 0.750960901259112, + "grad_norm": 10.737537384033203, + "learning_rate": 4.267828317687677e-06, + "loss": 0.1021, + "num_input_tokens_seen": 11084656, + "step": 5666 + }, + { + "epoch": 0.7510934393638171, + "grad_norm": 13.463081359863281, + "learning_rate": 4.267582846021327e-06, + "loss": 0.2783, + "num_input_tokens_seen": 11086616, + "step": 5667 + }, + { + "epoch": 0.7512259774685222, + "grad_norm": 20.12310028076172, + "learning_rate": 4.267337340274759e-06, + "loss": 0.3446, + "num_input_tokens_seen": 11088696, + "step": 5668 + }, + { + "epoch": 0.7513585155732273, + "grad_norm": 10.932811737060547, + "learning_rate": 4.267091800452708e-06, + "loss": 0.3052, + "num_input_tokens_seen": 11090192, + "step": 5669 + }, + { + "epoch": 0.7514910536779325, + "grad_norm": 7.991088390350342, + "learning_rate": 4.266846226559908e-06, + "loss": 0.0304, + "num_input_tokens_seen": 11091640, + "step": 5670 + }, + { + "epoch": 0.7516235917826375, + "grad_norm": 13.237998962402344, + "learning_rate": 4.266600618601095e-06, + "loss": 0.3882, + "num_input_tokens_seen": 11094352, + "step": 5671 + }, + { + "epoch": 0.7517561298873426, + "grad_norm": 6.926783084869385, + "learning_rate": 4.266354976581002e-06, + "loss": 0.1678, + "num_input_tokens_seen": 11095632, + "step": 5672 + }, + { + "epoch": 0.7518886679920477, + "grad_norm": 11.170830726623535, + "learning_rate": 4.266109300504367e-06, + "loss": 0.2158, + "num_input_tokens_seen": 11097576, + "step": 5673 + }, + { + "epoch": 0.7520212060967528, + "grad_norm": 17.36977195739746, + "learning_rate": 4.265863590375926e-06, + "loss": 0.278, + "num_input_tokens_seen": 11099360, + "step": 5674 + }, + { + "epoch": 0.752153744201458, + "grad_norm": 12.258142471313477, + "learning_rate": 4.2656178462004165e-06, + "loss": 0.2109, + "num_input_tokens_seen": 11101256, + "step": 5675 + }, + { + "epoch": 0.752286282306163, + "grad_norm": 7.624269008636475, + "learning_rate": 4.265372067982577e-06, + "loss": 0.0828, + "num_input_tokens_seen": 11102656, + "step": 5676 + }, + { + "epoch": 0.7524188204108682, + "grad_norm": 10.854073524475098, + "learning_rate": 4.2651262557271465e-06, + "loss": 0.3755, + "num_input_tokens_seen": 11105160, + "step": 5677 + }, + { + "epoch": 0.7525513585155732, + "grad_norm": 0.296252578496933, + "learning_rate": 4.264880409438864e-06, + "loss": 0.002, + "num_input_tokens_seen": 11107112, + "step": 5678 + }, + { + "epoch": 0.7526838966202783, + "grad_norm": 8.36817741394043, + "learning_rate": 4.26463452912247e-06, + "loss": 0.223, + "num_input_tokens_seen": 11108840, + "step": 5679 + }, + { + "epoch": 0.7528164347249834, + "grad_norm": 5.196551322937012, + "learning_rate": 4.264388614782705e-06, + "loss": 0.1884, + "num_input_tokens_seen": 11110992, + "step": 5680 + }, + { + "epoch": 0.7529489728296885, + "grad_norm": 0.18713270127773285, + "learning_rate": 4.264142666424309e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11113712, + "step": 5681 + }, + { + "epoch": 0.7530815109343937, + "grad_norm": 0.5625441074371338, + "learning_rate": 4.263896684052027e-06, + "loss": 0.0032, + "num_input_tokens_seen": 11116032, + "step": 5682 + }, + { + "epoch": 0.7532140490390987, + "grad_norm": 17.395601272583008, + "learning_rate": 4.263650667670599e-06, + "loss": 0.2589, + "num_input_tokens_seen": 11117776, + "step": 5683 + }, + { + "epoch": 0.7533465871438039, + "grad_norm": 95.3443374633789, + "learning_rate": 4.263404617284771e-06, + "loss": 0.685, + "num_input_tokens_seen": 11119696, + "step": 5684 + }, + { + "epoch": 0.7534791252485089, + "grad_norm": 7.4920454025268555, + "learning_rate": 4.263158532899284e-06, + "loss": 0.1321, + "num_input_tokens_seen": 11120904, + "step": 5685 + }, + { + "epoch": 0.7536116633532141, + "grad_norm": 8.150219917297363, + "learning_rate": 4.2629124145188846e-06, + "loss": 0.4258, + "num_input_tokens_seen": 11123392, + "step": 5686 + }, + { + "epoch": 0.7537442014579192, + "grad_norm": 14.679032325744629, + "learning_rate": 4.262666262148317e-06, + "loss": 0.4803, + "num_input_tokens_seen": 11125096, + "step": 5687 + }, + { + "epoch": 0.7538767395626242, + "grad_norm": 6.052586555480957, + "learning_rate": 4.262420075792328e-06, + "loss": 0.2023, + "num_input_tokens_seen": 11126904, + "step": 5688 + }, + { + "epoch": 0.7540092776673294, + "grad_norm": 2.7921276092529297, + "learning_rate": 4.262173855455665e-06, + "loss": 0.0174, + "num_input_tokens_seen": 11129232, + "step": 5689 + }, + { + "epoch": 0.7541418157720344, + "grad_norm": 11.46022891998291, + "learning_rate": 4.2619276011430735e-06, + "loss": 0.177, + "num_input_tokens_seen": 11130584, + "step": 5690 + }, + { + "epoch": 0.7542743538767396, + "grad_norm": 10.517122268676758, + "learning_rate": 4.261681312859303e-06, + "loss": 0.2271, + "num_input_tokens_seen": 11132832, + "step": 5691 + }, + { + "epoch": 0.7544068919814446, + "grad_norm": 12.965659141540527, + "learning_rate": 4.261434990609102e-06, + "loss": 0.3185, + "num_input_tokens_seen": 11134320, + "step": 5692 + }, + { + "epoch": 0.7545394300861498, + "grad_norm": 9.949737548828125, + "learning_rate": 4.261188634397218e-06, + "loss": 0.2886, + "num_input_tokens_seen": 11136016, + "step": 5693 + }, + { + "epoch": 0.7546719681908549, + "grad_norm": 0.2930799126625061, + "learning_rate": 4.260942244228403e-06, + "loss": 0.002, + "num_input_tokens_seen": 11138088, + "step": 5694 + }, + { + "epoch": 0.75480450629556, + "grad_norm": 0.10911756008863449, + "learning_rate": 4.2606958201074065e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11139832, + "step": 5695 + }, + { + "epoch": 0.7549370444002651, + "grad_norm": 6.850417613983154, + "learning_rate": 4.26044936203898e-06, + "loss": 0.1509, + "num_input_tokens_seen": 11141696, + "step": 5696 + }, + { + "epoch": 0.7550695825049701, + "grad_norm": 10.386096954345703, + "learning_rate": 4.260202870027875e-06, + "loss": 0.2916, + "num_input_tokens_seen": 11144208, + "step": 5697 + }, + { + "epoch": 0.7552021206096753, + "grad_norm": 6.587453842163086, + "learning_rate": 4.2599563440788434e-06, + "loss": 0.1517, + "num_input_tokens_seen": 11145672, + "step": 5698 + }, + { + "epoch": 0.7553346587143804, + "grad_norm": 0.27563661336898804, + "learning_rate": 4.259709784196641e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11147368, + "step": 5699 + }, + { + "epoch": 0.7554671968190855, + "grad_norm": 0.030336998403072357, + "learning_rate": 4.259463190386019e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11148776, + "step": 5700 + }, + { + "epoch": 0.7555997349237906, + "grad_norm": 7.526874542236328, + "learning_rate": 4.259216562651734e-06, + "loss": 0.1515, + "num_input_tokens_seen": 11150616, + "step": 5701 + }, + { + "epoch": 0.7557322730284957, + "grad_norm": 0.04693884402513504, + "learning_rate": 4.25896990099854e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11152736, + "step": 5702 + }, + { + "epoch": 0.7558648111332008, + "grad_norm": 11.271683692932129, + "learning_rate": 4.258723205431192e-06, + "loss": 0.4579, + "num_input_tokens_seen": 11155136, + "step": 5703 + }, + { + "epoch": 0.7559973492379058, + "grad_norm": 0.5262144207954407, + "learning_rate": 4.258476475954447e-06, + "loss": 0.0034, + "num_input_tokens_seen": 11157992, + "step": 5704 + }, + { + "epoch": 0.756129887342611, + "grad_norm": 4.162840843200684, + "learning_rate": 4.258229712573063e-06, + "loss": 0.0762, + "num_input_tokens_seen": 11159712, + "step": 5705 + }, + { + "epoch": 0.7562624254473161, + "grad_norm": 0.06144149601459503, + "learning_rate": 4.2579829152917975e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11162296, + "step": 5706 + }, + { + "epoch": 0.7563949635520212, + "grad_norm": 2.904346466064453, + "learning_rate": 4.257736084115408e-06, + "loss": 0.0655, + "num_input_tokens_seen": 11164272, + "step": 5707 + }, + { + "epoch": 0.7565275016567263, + "grad_norm": 8.711077690124512, + "learning_rate": 4.257489219048655e-06, + "loss": 0.109, + "num_input_tokens_seen": 11166160, + "step": 5708 + }, + { + "epoch": 0.7566600397614314, + "grad_norm": 4.689111232757568, + "learning_rate": 4.2572423200962965e-06, + "loss": 0.14, + "num_input_tokens_seen": 11167848, + "step": 5709 + }, + { + "epoch": 0.7567925778661365, + "grad_norm": 10.667964935302734, + "learning_rate": 4.256995387263095e-06, + "loss": 0.3981, + "num_input_tokens_seen": 11169672, + "step": 5710 + }, + { + "epoch": 0.7569251159708417, + "grad_norm": 5.06772518157959, + "learning_rate": 4.256748420553809e-06, + "loss": 0.1634, + "num_input_tokens_seen": 11170880, + "step": 5711 + }, + { + "epoch": 0.7570576540755467, + "grad_norm": 23.774381637573242, + "learning_rate": 4.256501419973203e-06, + "loss": 0.8916, + "num_input_tokens_seen": 11173784, + "step": 5712 + }, + { + "epoch": 0.7571901921802519, + "grad_norm": 10.791685104370117, + "learning_rate": 4.2562543855260365e-06, + "loss": 0.389, + "num_input_tokens_seen": 11175808, + "step": 5713 + }, + { + "epoch": 0.7573227302849569, + "grad_norm": 12.001212120056152, + "learning_rate": 4.256007317217075e-06, + "loss": 0.4446, + "num_input_tokens_seen": 11177704, + "step": 5714 + }, + { + "epoch": 0.757455268389662, + "grad_norm": 6.769618511199951, + "learning_rate": 4.2557602150510805e-06, + "loss": 0.1965, + "num_input_tokens_seen": 11179096, + "step": 5715 + }, + { + "epoch": 0.7575878064943671, + "grad_norm": 1.5752532482147217, + "learning_rate": 4.255513079032817e-06, + "loss": 0.0329, + "num_input_tokens_seen": 11180368, + "step": 5716 + }, + { + "epoch": 0.7577203445990722, + "grad_norm": 19.579715728759766, + "learning_rate": 4.2552659091670515e-06, + "loss": 0.8356, + "num_input_tokens_seen": 11182816, + "step": 5717 + }, + { + "epoch": 0.7578528827037774, + "grad_norm": 0.31605860590934753, + "learning_rate": 4.2550187054585475e-06, + "loss": 0.0022, + "num_input_tokens_seen": 11185040, + "step": 5718 + }, + { + "epoch": 0.7579854208084824, + "grad_norm": 0.7418410181999207, + "learning_rate": 4.254771467912072e-06, + "loss": 0.0053, + "num_input_tokens_seen": 11186296, + "step": 5719 + }, + { + "epoch": 0.7581179589131876, + "grad_norm": 3.4883127212524414, + "learning_rate": 4.254524196532393e-06, + "loss": 0.0703, + "num_input_tokens_seen": 11188504, + "step": 5720 + }, + { + "epoch": 0.7582504970178926, + "grad_norm": 0.44677528738975525, + "learning_rate": 4.254276891324277e-06, + "loss": 0.0028, + "num_input_tokens_seen": 11190544, + "step": 5721 + }, + { + "epoch": 0.7583830351225977, + "grad_norm": 7.910586833953857, + "learning_rate": 4.254029552292491e-06, + "loss": 0.1835, + "num_input_tokens_seen": 11192256, + "step": 5722 + }, + { + "epoch": 0.7585155732273029, + "grad_norm": 0.13156349956989288, + "learning_rate": 4.253782179441807e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11193736, + "step": 5723 + }, + { + "epoch": 0.7586481113320079, + "grad_norm": 0.3557851016521454, + "learning_rate": 4.253534772776991e-06, + "loss": 0.0026, + "num_input_tokens_seen": 11196472, + "step": 5724 + }, + { + "epoch": 0.7587806494367131, + "grad_norm": 0.40530019998550415, + "learning_rate": 4.253287332302817e-06, + "loss": 0.0029, + "num_input_tokens_seen": 11198272, + "step": 5725 + }, + { + "epoch": 0.7589131875414181, + "grad_norm": 0.18909013271331787, + "learning_rate": 4.253039858024052e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11201264, + "step": 5726 + }, + { + "epoch": 0.7590457256461233, + "grad_norm": 4.389664649963379, + "learning_rate": 4.2527923499454695e-06, + "loss": 0.0313, + "num_input_tokens_seen": 11202792, + "step": 5727 + }, + { + "epoch": 0.7591782637508283, + "grad_norm": 0.36746108531951904, + "learning_rate": 4.252544808071841e-06, + "loss": 0.0023, + "num_input_tokens_seen": 11203968, + "step": 5728 + }, + { + "epoch": 0.7593108018555335, + "grad_norm": 3.4134554862976074, + "learning_rate": 4.2522972324079404e-06, + "loss": 0.0798, + "num_input_tokens_seen": 11206224, + "step": 5729 + }, + { + "epoch": 0.7594433399602386, + "grad_norm": 16.001447677612305, + "learning_rate": 4.25204962295854e-06, + "loss": 0.4242, + "num_input_tokens_seen": 11208312, + "step": 5730 + }, + { + "epoch": 0.7595758780649436, + "grad_norm": 1.2767168283462524, + "learning_rate": 4.251801979728415e-06, + "loss": 0.0085, + "num_input_tokens_seen": 11209776, + "step": 5731 + }, + { + "epoch": 0.7597084161696488, + "grad_norm": 3.2513034343719482, + "learning_rate": 4.2515543027223375e-06, + "loss": 0.1984, + "num_input_tokens_seen": 11211376, + "step": 5732 + }, + { + "epoch": 0.7598409542743538, + "grad_norm": 0.1131301000714302, + "learning_rate": 4.251306591945086e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11213240, + "step": 5733 + }, + { + "epoch": 0.759973492379059, + "grad_norm": 2.8060240745544434, + "learning_rate": 4.2510588474014345e-06, + "loss": 0.034, + "num_input_tokens_seen": 11215328, + "step": 5734 + }, + { + "epoch": 0.7601060304837641, + "grad_norm": 10.863306999206543, + "learning_rate": 4.250811069096161e-06, + "loss": 0.245, + "num_input_tokens_seen": 11217816, + "step": 5735 + }, + { + "epoch": 0.7602385685884692, + "grad_norm": 2.7661736011505127, + "learning_rate": 4.250563257034043e-06, + "loss": 0.0474, + "num_input_tokens_seen": 11219320, + "step": 5736 + }, + { + "epoch": 0.7603711066931743, + "grad_norm": 16.974578857421875, + "learning_rate": 4.250315411219856e-06, + "loss": 0.6565, + "num_input_tokens_seen": 11221976, + "step": 5737 + }, + { + "epoch": 0.7605036447978794, + "grad_norm": 68.89404296875, + "learning_rate": 4.250067531658381e-06, + "loss": 0.593, + "num_input_tokens_seen": 11224280, + "step": 5738 + }, + { + "epoch": 0.7606361829025845, + "grad_norm": 8.063910484313965, + "learning_rate": 4.249819618354397e-06, + "loss": 0.2135, + "num_input_tokens_seen": 11225520, + "step": 5739 + }, + { + "epoch": 0.7607687210072896, + "grad_norm": 5.7894721031188965, + "learning_rate": 4.249571671312683e-06, + "loss": 0.1751, + "num_input_tokens_seen": 11227248, + "step": 5740 + }, + { + "epoch": 0.7609012591119947, + "grad_norm": 6.145232200622559, + "learning_rate": 4.249323690538021e-06, + "loss": 0.0193, + "num_input_tokens_seen": 11228504, + "step": 5741 + }, + { + "epoch": 0.7610337972166998, + "grad_norm": 25.760915756225586, + "learning_rate": 4.249075676035192e-06, + "loss": 0.631, + "num_input_tokens_seen": 11230136, + "step": 5742 + }, + { + "epoch": 0.7611663353214049, + "grad_norm": 10.716141700744629, + "learning_rate": 4.248827627808976e-06, + "loss": 0.2224, + "num_input_tokens_seen": 11231944, + "step": 5743 + }, + { + "epoch": 0.76129887342611, + "grad_norm": 3.7902352809906006, + "learning_rate": 4.2485795458641575e-06, + "loss": 0.0531, + "num_input_tokens_seen": 11233696, + "step": 5744 + }, + { + "epoch": 0.7614314115308151, + "grad_norm": 10.52564525604248, + "learning_rate": 4.248331430205519e-06, + "loss": 0.3176, + "num_input_tokens_seen": 11235800, + "step": 5745 + }, + { + "epoch": 0.7615639496355202, + "grad_norm": 0.18763208389282227, + "learning_rate": 4.248083280837845e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11237424, + "step": 5746 + }, + { + "epoch": 0.7616964877402254, + "grad_norm": 7.817233562469482, + "learning_rate": 4.2478350977659185e-06, + "loss": 0.3156, + "num_input_tokens_seen": 11239072, + "step": 5747 + }, + { + "epoch": 0.7618290258449304, + "grad_norm": 6.89839506149292, + "learning_rate": 4.2475868809945256e-06, + "loss": 0.0743, + "num_input_tokens_seen": 11241128, + "step": 5748 + }, + { + "epoch": 0.7619615639496355, + "grad_norm": 5.536786079406738, + "learning_rate": 4.2473386305284526e-06, + "loss": 0.1883, + "num_input_tokens_seen": 11242688, + "step": 5749 + }, + { + "epoch": 0.7620941020543406, + "grad_norm": 6.102610111236572, + "learning_rate": 4.247090346372484e-06, + "loss": 0.1958, + "num_input_tokens_seen": 11245200, + "step": 5750 + }, + { + "epoch": 0.7622266401590457, + "grad_norm": 11.152328491210938, + "learning_rate": 4.246842028531411e-06, + "loss": 0.3336, + "num_input_tokens_seen": 11247352, + "step": 5751 + }, + { + "epoch": 0.7623591782637509, + "grad_norm": 11.340971946716309, + "learning_rate": 4.246593677010016e-06, + "loss": 0.357, + "num_input_tokens_seen": 11248640, + "step": 5752 + }, + { + "epoch": 0.7624917163684559, + "grad_norm": 10.115334510803223, + "learning_rate": 4.246345291813091e-06, + "loss": 0.3296, + "num_input_tokens_seen": 11251040, + "step": 5753 + }, + { + "epoch": 0.7626242544731611, + "grad_norm": 8.057600021362305, + "learning_rate": 4.246096872945425e-06, + "loss": 0.1341, + "num_input_tokens_seen": 11253256, + "step": 5754 + }, + { + "epoch": 0.7627567925778661, + "grad_norm": 6.15314245223999, + "learning_rate": 4.2458484204118045e-06, + "loss": 0.0862, + "num_input_tokens_seen": 11254720, + "step": 5755 + }, + { + "epoch": 0.7628893306825713, + "grad_norm": 0.5579625368118286, + "learning_rate": 4.245599934217024e-06, + "loss": 0.0036, + "num_input_tokens_seen": 11256616, + "step": 5756 + }, + { + "epoch": 0.7630218687872763, + "grad_norm": 2.6828835010528564, + "learning_rate": 4.245351414365871e-06, + "loss": 0.0532, + "num_input_tokens_seen": 11258128, + "step": 5757 + }, + { + "epoch": 0.7631544068919814, + "grad_norm": 5.420414924621582, + "learning_rate": 4.245102860863139e-06, + "loss": 0.0965, + "num_input_tokens_seen": 11259568, + "step": 5758 + }, + { + "epoch": 0.7632869449966866, + "grad_norm": 6.338709354400635, + "learning_rate": 4.244854273713621e-06, + "loss": 0.1135, + "num_input_tokens_seen": 11261024, + "step": 5759 + }, + { + "epoch": 0.7634194831013916, + "grad_norm": 8.973888397216797, + "learning_rate": 4.244605652922108e-06, + "loss": 0.3457, + "num_input_tokens_seen": 11263328, + "step": 5760 + }, + { + "epoch": 0.7635520212060968, + "grad_norm": 1.4278415441513062, + "learning_rate": 4.2443569984933955e-06, + "loss": 0.0091, + "num_input_tokens_seen": 11265048, + "step": 5761 + }, + { + "epoch": 0.7636845593108018, + "grad_norm": 4.837559223175049, + "learning_rate": 4.244108310432275e-06, + "loss": 0.131, + "num_input_tokens_seen": 11267448, + "step": 5762 + }, + { + "epoch": 0.763817097415507, + "grad_norm": 1.7924344539642334, + "learning_rate": 4.2438595887435455e-06, + "loss": 0.0108, + "num_input_tokens_seen": 11269192, + "step": 5763 + }, + { + "epoch": 0.7639496355202121, + "grad_norm": 20.689882278442383, + "learning_rate": 4.243610833431998e-06, + "loss": 0.5443, + "num_input_tokens_seen": 11271352, + "step": 5764 + }, + { + "epoch": 0.7640821736249171, + "grad_norm": 10.855278015136719, + "learning_rate": 4.243362044502432e-06, + "loss": 0.3385, + "num_input_tokens_seen": 11274176, + "step": 5765 + }, + { + "epoch": 0.7642147117296223, + "grad_norm": 16.532663345336914, + "learning_rate": 4.243113221959641e-06, + "loss": 0.5585, + "num_input_tokens_seen": 11276488, + "step": 5766 + }, + { + "epoch": 0.7643472498343273, + "grad_norm": 0.15407158434391022, + "learning_rate": 4.242864365808428e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11277992, + "step": 5767 + }, + { + "epoch": 0.7644797879390325, + "grad_norm": 16.419313430786133, + "learning_rate": 4.242615476053585e-06, + "loss": 0.4792, + "num_input_tokens_seen": 11279448, + "step": 5768 + }, + { + "epoch": 0.7646123260437375, + "grad_norm": 0.0714157372713089, + "learning_rate": 4.2423665526999135e-06, + "loss": 0.0005, + "num_input_tokens_seen": 11280896, + "step": 5769 + }, + { + "epoch": 0.7647448641484427, + "grad_norm": 2.8343448638916016, + "learning_rate": 4.242117595752214e-06, + "loss": 0.057, + "num_input_tokens_seen": 11282488, + "step": 5770 + }, + { + "epoch": 0.7648774022531478, + "grad_norm": 17.782989501953125, + "learning_rate": 4.241868605215285e-06, + "loss": 0.4962, + "num_input_tokens_seen": 11284400, + "step": 5771 + }, + { + "epoch": 0.7650099403578529, + "grad_norm": 0.12318360805511475, + "learning_rate": 4.2416195810939274e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11285848, + "step": 5772 + }, + { + "epoch": 0.765142478462558, + "grad_norm": 0.054391246289014816, + "learning_rate": 4.241370523392943e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11287568, + "step": 5773 + }, + { + "epoch": 0.765275016567263, + "grad_norm": 7.675429821014404, + "learning_rate": 4.241121432117134e-06, + "loss": 0.3058, + "num_input_tokens_seen": 11289568, + "step": 5774 + }, + { + "epoch": 0.7654075546719682, + "grad_norm": 0.055851031094789505, + "learning_rate": 4.240872307271303e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11290752, + "step": 5775 + }, + { + "epoch": 0.7655400927766733, + "grad_norm": 0.0902419164776802, + "learning_rate": 4.240623148860252e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11291984, + "step": 5776 + }, + { + "epoch": 0.7656726308813784, + "grad_norm": 13.362424850463867, + "learning_rate": 4.240373956888786e-06, + "loss": 0.4817, + "num_input_tokens_seen": 11293688, + "step": 5777 + }, + { + "epoch": 0.7658051689860835, + "grad_norm": 7.325118064880371, + "learning_rate": 4.24012473136171e-06, + "loss": 0.2205, + "num_input_tokens_seen": 11295616, + "step": 5778 + }, + { + "epoch": 0.7659377070907886, + "grad_norm": 8.576746940612793, + "learning_rate": 4.239875472283828e-06, + "loss": 0.3081, + "num_input_tokens_seen": 11297944, + "step": 5779 + }, + { + "epoch": 0.7660702451954937, + "grad_norm": 5.8745551109313965, + "learning_rate": 4.239626179659947e-06, + "loss": 0.1959, + "num_input_tokens_seen": 11300520, + "step": 5780 + }, + { + "epoch": 0.7662027833001988, + "grad_norm": 3.4584062099456787, + "learning_rate": 4.239376853494873e-06, + "loss": 0.0785, + "num_input_tokens_seen": 11302048, + "step": 5781 + }, + { + "epoch": 0.7663353214049039, + "grad_norm": 9.096794128417969, + "learning_rate": 4.2391274937934135e-06, + "loss": 0.2595, + "num_input_tokens_seen": 11304960, + "step": 5782 + }, + { + "epoch": 0.766467859509609, + "grad_norm": 3.385596752166748, + "learning_rate": 4.238878100560377e-06, + "loss": 0.0762, + "num_input_tokens_seen": 11306832, + "step": 5783 + }, + { + "epoch": 0.7666003976143141, + "grad_norm": 6.691192626953125, + "learning_rate": 4.2386286738005695e-06, + "loss": 0.108, + "num_input_tokens_seen": 11308416, + "step": 5784 + }, + { + "epoch": 0.7667329357190192, + "grad_norm": 6.726831912994385, + "learning_rate": 4.238379213518803e-06, + "loss": 0.1552, + "num_input_tokens_seen": 11310168, + "step": 5785 + }, + { + "epoch": 0.7668654738237243, + "grad_norm": 8.928049087524414, + "learning_rate": 4.238129719719885e-06, + "loss": 0.4044, + "num_input_tokens_seen": 11312600, + "step": 5786 + }, + { + "epoch": 0.7669980119284294, + "grad_norm": 1.7198240756988525, + "learning_rate": 4.237880192408628e-06, + "loss": 0.0395, + "num_input_tokens_seen": 11314504, + "step": 5787 + }, + { + "epoch": 0.7671305500331346, + "grad_norm": 5.724818706512451, + "learning_rate": 4.2376306315898404e-06, + "loss": 0.2125, + "num_input_tokens_seen": 11317064, + "step": 5788 + }, + { + "epoch": 0.7672630881378396, + "grad_norm": 2.7203867435455322, + "learning_rate": 4.237381037268337e-06, + "loss": 0.0425, + "num_input_tokens_seen": 11319800, + "step": 5789 + }, + { + "epoch": 0.7673956262425448, + "grad_norm": 4.671877861022949, + "learning_rate": 4.237131409448928e-06, + "loss": 0.0863, + "num_input_tokens_seen": 11322184, + "step": 5790 + }, + { + "epoch": 0.7675281643472498, + "grad_norm": 11.119823455810547, + "learning_rate": 4.236881748136428e-06, + "loss": 0.3863, + "num_input_tokens_seen": 11325104, + "step": 5791 + }, + { + "epoch": 0.767660702451955, + "grad_norm": 8.732832908630371, + "learning_rate": 4.236632053335649e-06, + "loss": 0.3502, + "num_input_tokens_seen": 11326784, + "step": 5792 + }, + { + "epoch": 0.7677932405566601, + "grad_norm": 20.620769500732422, + "learning_rate": 4.2363823250514055e-06, + "loss": 0.7042, + "num_input_tokens_seen": 11328608, + "step": 5793 + }, + { + "epoch": 0.7679257786613651, + "grad_norm": 6.200304985046387, + "learning_rate": 4.2361325632885134e-06, + "loss": 0.1491, + "num_input_tokens_seen": 11329720, + "step": 5794 + }, + { + "epoch": 0.7680583167660703, + "grad_norm": 0.26988041400909424, + "learning_rate": 4.235882768051788e-06, + "loss": 0.0019, + "num_input_tokens_seen": 11331848, + "step": 5795 + }, + { + "epoch": 0.7681908548707753, + "grad_norm": 0.5760315656661987, + "learning_rate": 4.235632939346044e-06, + "loss": 0.0043, + "num_input_tokens_seen": 11333280, + "step": 5796 + }, + { + "epoch": 0.7683233929754805, + "grad_norm": 2.4314656257629395, + "learning_rate": 4.2353830771761e-06, + "loss": 0.0265, + "num_input_tokens_seen": 11334816, + "step": 5797 + }, + { + "epoch": 0.7684559310801855, + "grad_norm": 10.259264945983887, + "learning_rate": 4.2351331815467745e-06, + "loss": 0.3365, + "num_input_tokens_seen": 11336928, + "step": 5798 + }, + { + "epoch": 0.7685884691848907, + "grad_norm": 16.81617546081543, + "learning_rate": 4.234883252462884e-06, + "loss": 0.6191, + "num_input_tokens_seen": 11338192, + "step": 5799 + }, + { + "epoch": 0.7687210072895958, + "grad_norm": 15.31674575805664, + "learning_rate": 4.234633289929246e-06, + "loss": 0.5258, + "num_input_tokens_seen": 11339936, + "step": 5800 + }, + { + "epoch": 0.7688535453943008, + "grad_norm": 8.937020301818848, + "learning_rate": 4.234383293950683e-06, + "loss": 0.1926, + "num_input_tokens_seen": 11341960, + "step": 5801 + }, + { + "epoch": 0.768986083499006, + "grad_norm": 0.5101362466812134, + "learning_rate": 4.234133264532012e-06, + "loss": 0.0037, + "num_input_tokens_seen": 11344112, + "step": 5802 + }, + { + "epoch": 0.769118621603711, + "grad_norm": 0.22446228563785553, + "learning_rate": 4.233883201678057e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11345184, + "step": 5803 + }, + { + "epoch": 0.7692511597084162, + "grad_norm": 0.22919607162475586, + "learning_rate": 4.233633105393637e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11348776, + "step": 5804 + }, + { + "epoch": 0.7693836978131213, + "grad_norm": 0.34706634283065796, + "learning_rate": 4.233382975683576e-06, + "loss": 0.0025, + "num_input_tokens_seen": 11350696, + "step": 5805 + }, + { + "epoch": 0.7695162359178264, + "grad_norm": 1.915558934211731, + "learning_rate": 4.2331328125526934e-06, + "loss": 0.0091, + "num_input_tokens_seen": 11352888, + "step": 5806 + }, + { + "epoch": 0.7696487740225315, + "grad_norm": 7.9133124351501465, + "learning_rate": 4.232882616005816e-06, + "loss": 0.1214, + "num_input_tokens_seen": 11354000, + "step": 5807 + }, + { + "epoch": 0.7697813121272365, + "grad_norm": 7.735172271728516, + "learning_rate": 4.232632386047766e-06, + "loss": 0.1685, + "num_input_tokens_seen": 11355696, + "step": 5808 + }, + { + "epoch": 0.7699138502319417, + "grad_norm": 0.5019923448562622, + "learning_rate": 4.232382122683367e-06, + "loss": 0.0035, + "num_input_tokens_seen": 11357928, + "step": 5809 + }, + { + "epoch": 0.7700463883366467, + "grad_norm": 25.216238021850586, + "learning_rate": 4.232131825917447e-06, + "loss": 0.8289, + "num_input_tokens_seen": 11360544, + "step": 5810 + }, + { + "epoch": 0.7701789264413519, + "grad_norm": 0.34986865520477295, + "learning_rate": 4.2318814957548304e-06, + "loss": 0.0024, + "num_input_tokens_seen": 11361616, + "step": 5811 + }, + { + "epoch": 0.770311464546057, + "grad_norm": 7.062240123748779, + "learning_rate": 4.231631132200344e-06, + "loss": 0.1439, + "num_input_tokens_seen": 11363616, + "step": 5812 + }, + { + "epoch": 0.7704440026507621, + "grad_norm": 6.503780364990234, + "learning_rate": 4.231380735258813e-06, + "loss": 0.2644, + "num_input_tokens_seen": 11365592, + "step": 5813 + }, + { + "epoch": 0.7705765407554672, + "grad_norm": 6.799583911895752, + "learning_rate": 4.231130304935069e-06, + "loss": 0.2983, + "num_input_tokens_seen": 11367328, + "step": 5814 + }, + { + "epoch": 0.7707090788601723, + "grad_norm": 9.331462860107422, + "learning_rate": 4.230879841233938e-06, + "loss": 0.1279, + "num_input_tokens_seen": 11368976, + "step": 5815 + }, + { + "epoch": 0.7708416169648774, + "grad_norm": 0.8686022162437439, + "learning_rate": 4.230629344160249e-06, + "loss": 0.0047, + "num_input_tokens_seen": 11370640, + "step": 5816 + }, + { + "epoch": 0.7709741550695826, + "grad_norm": 13.30678939819336, + "learning_rate": 4.230378813718833e-06, + "loss": 0.3561, + "num_input_tokens_seen": 11372640, + "step": 5817 + }, + { + "epoch": 0.7711066931742876, + "grad_norm": 0.05788769572973251, + "learning_rate": 4.230128249914519e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11373912, + "step": 5818 + }, + { + "epoch": 0.7712392312789927, + "grad_norm": 10.012808799743652, + "learning_rate": 4.2298776527521405e-06, + "loss": 0.3106, + "num_input_tokens_seen": 11375936, + "step": 5819 + }, + { + "epoch": 0.7713717693836978, + "grad_norm": 7.473123073577881, + "learning_rate": 4.229627022236526e-06, + "loss": 0.2177, + "num_input_tokens_seen": 11378088, + "step": 5820 + }, + { + "epoch": 0.7715043074884029, + "grad_norm": 7.057112693786621, + "learning_rate": 4.229376358372509e-06, + "loss": 0.2336, + "num_input_tokens_seen": 11381456, + "step": 5821 + }, + { + "epoch": 0.771636845593108, + "grad_norm": 5.974050045013428, + "learning_rate": 4.229125661164923e-06, + "loss": 0.103, + "num_input_tokens_seen": 11383832, + "step": 5822 + }, + { + "epoch": 0.7717693836978131, + "grad_norm": 15.61795711517334, + "learning_rate": 4.2288749306186015e-06, + "loss": 0.5149, + "num_input_tokens_seen": 11385368, + "step": 5823 + }, + { + "epoch": 0.7719019218025183, + "grad_norm": 9.622578620910645, + "learning_rate": 4.228624166738379e-06, + "loss": 0.3353, + "num_input_tokens_seen": 11387544, + "step": 5824 + }, + { + "epoch": 0.7720344599072233, + "grad_norm": 10.490093231201172, + "learning_rate": 4.228373369529089e-06, + "loss": 0.1436, + "num_input_tokens_seen": 11389496, + "step": 5825 + }, + { + "epoch": 0.7721669980119285, + "grad_norm": 0.08071985840797424, + "learning_rate": 4.22812253899557e-06, + "loss": 0.0005, + "num_input_tokens_seen": 11391080, + "step": 5826 + }, + { + "epoch": 0.7722995361166335, + "grad_norm": 23.108776092529297, + "learning_rate": 4.227871675142655e-06, + "loss": 0.316, + "num_input_tokens_seen": 11393320, + "step": 5827 + }, + { + "epoch": 0.7724320742213386, + "grad_norm": 13.226712226867676, + "learning_rate": 4.2276207779751825e-06, + "loss": 0.3802, + "num_input_tokens_seen": 11394968, + "step": 5828 + }, + { + "epoch": 0.7725646123260438, + "grad_norm": 9.378782272338867, + "learning_rate": 4.227369847497989e-06, + "loss": 0.1151, + "num_input_tokens_seen": 11395968, + "step": 5829 + }, + { + "epoch": 0.7726971504307488, + "grad_norm": 0.11491656303405762, + "learning_rate": 4.227118883715914e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11397296, + "step": 5830 + }, + { + "epoch": 0.772829688535454, + "grad_norm": 8.225726127624512, + "learning_rate": 4.226867886633796e-06, + "loss": 0.1548, + "num_input_tokens_seen": 11398480, + "step": 5831 + }, + { + "epoch": 0.772962226640159, + "grad_norm": 2.115953207015991, + "learning_rate": 4.226616856256473e-06, + "loss": 0.0319, + "num_input_tokens_seen": 11399752, + "step": 5832 + }, + { + "epoch": 0.7730947647448642, + "grad_norm": 13.04377555847168, + "learning_rate": 4.226365792588785e-06, + "loss": 0.6515, + "num_input_tokens_seen": 11401496, + "step": 5833 + }, + { + "epoch": 0.7732273028495692, + "grad_norm": 0.051223721355199814, + "learning_rate": 4.226114695635575e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11403016, + "step": 5834 + }, + { + "epoch": 0.7733598409542743, + "grad_norm": 3.2167584896087646, + "learning_rate": 4.225863565401681e-06, + "loss": 0.1053, + "num_input_tokens_seen": 11405424, + "step": 5835 + }, + { + "epoch": 0.7734923790589795, + "grad_norm": 0.976586103439331, + "learning_rate": 4.225612401891949e-06, + "loss": 0.0064, + "num_input_tokens_seen": 11407816, + "step": 5836 + }, + { + "epoch": 0.7736249171636845, + "grad_norm": 7.798348426818848, + "learning_rate": 4.225361205111218e-06, + "loss": 0.2249, + "num_input_tokens_seen": 11411080, + "step": 5837 + }, + { + "epoch": 0.7737574552683897, + "grad_norm": 6.437674045562744, + "learning_rate": 4.225109975064333e-06, + "loss": 0.1271, + "num_input_tokens_seen": 11412896, + "step": 5838 + }, + { + "epoch": 0.7738899933730947, + "grad_norm": 14.131633758544922, + "learning_rate": 4.224858711756138e-06, + "loss": 0.3775, + "num_input_tokens_seen": 11414928, + "step": 5839 + }, + { + "epoch": 0.7740225314777999, + "grad_norm": 7.073689937591553, + "learning_rate": 4.2246074151914765e-06, + "loss": 0.2157, + "num_input_tokens_seen": 11417576, + "step": 5840 + }, + { + "epoch": 0.774155069582505, + "grad_norm": 5.393301010131836, + "learning_rate": 4.224356085375195e-06, + "loss": 0.097, + "num_input_tokens_seen": 11419360, + "step": 5841 + }, + { + "epoch": 0.77428760768721, + "grad_norm": 9.1361722946167, + "learning_rate": 4.224104722312139e-06, + "loss": 0.2603, + "num_input_tokens_seen": 11421224, + "step": 5842 + }, + { + "epoch": 0.7744201457919152, + "grad_norm": 4.029488563537598, + "learning_rate": 4.223853326007154e-06, + "loss": 0.1309, + "num_input_tokens_seen": 11422952, + "step": 5843 + }, + { + "epoch": 0.7745526838966202, + "grad_norm": 9.863259315490723, + "learning_rate": 4.223601896465087e-06, + "loss": 0.3336, + "num_input_tokens_seen": 11424960, + "step": 5844 + }, + { + "epoch": 0.7746852220013254, + "grad_norm": 2.2270891666412354, + "learning_rate": 4.223350433690787e-06, + "loss": 0.0086, + "num_input_tokens_seen": 11426328, + "step": 5845 + }, + { + "epoch": 0.7748177601060304, + "grad_norm": 4.552037715911865, + "learning_rate": 4.223098937689102e-06, + "loss": 0.1021, + "num_input_tokens_seen": 11428016, + "step": 5846 + }, + { + "epoch": 0.7749502982107356, + "grad_norm": 3.9036269187927246, + "learning_rate": 4.22284740846488e-06, + "loss": 0.1306, + "num_input_tokens_seen": 11429576, + "step": 5847 + }, + { + "epoch": 0.7750828363154407, + "grad_norm": 1.1713247299194336, + "learning_rate": 4.222595846022972e-06, + "loss": 0.0066, + "num_input_tokens_seen": 11430832, + "step": 5848 + }, + { + "epoch": 0.7752153744201458, + "grad_norm": 0.15521301329135895, + "learning_rate": 4.222344250368228e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11432456, + "step": 5849 + }, + { + "epoch": 0.7753479125248509, + "grad_norm": 6.758549690246582, + "learning_rate": 4.222092621505498e-06, + "loss": 0.2083, + "num_input_tokens_seen": 11434616, + "step": 5850 + }, + { + "epoch": 0.775480450629556, + "grad_norm": 17.421295166015625, + "learning_rate": 4.221840959439634e-06, + "loss": 0.6084, + "num_input_tokens_seen": 11436048, + "step": 5851 + }, + { + "epoch": 0.7756129887342611, + "grad_norm": 11.438631057739258, + "learning_rate": 4.221589264175489e-06, + "loss": 0.3721, + "num_input_tokens_seen": 11438424, + "step": 5852 + }, + { + "epoch": 0.7757455268389662, + "grad_norm": 0.06550151854753494, + "learning_rate": 4.2213375357179155e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11439896, + "step": 5853 + }, + { + "epoch": 0.7758780649436713, + "grad_norm": 5.692852973937988, + "learning_rate": 4.221085774071767e-06, + "loss": 0.0998, + "num_input_tokens_seen": 11441744, + "step": 5854 + }, + { + "epoch": 0.7760106030483764, + "grad_norm": 13.590944290161133, + "learning_rate": 4.2208339792418965e-06, + "loss": 0.3326, + "num_input_tokens_seen": 11443328, + "step": 5855 + }, + { + "epoch": 0.7761431411530815, + "grad_norm": 14.802865982055664, + "learning_rate": 4.22058215123316e-06, + "loss": 0.4489, + "num_input_tokens_seen": 11444992, + "step": 5856 + }, + { + "epoch": 0.7762756792577866, + "grad_norm": 8.53990650177002, + "learning_rate": 4.220330290050414e-06, + "loss": 0.2612, + "num_input_tokens_seen": 11447440, + "step": 5857 + }, + { + "epoch": 0.7764082173624918, + "grad_norm": 5.915536880493164, + "learning_rate": 4.220078395698512e-06, + "loss": 0.0971, + "num_input_tokens_seen": 11448792, + "step": 5858 + }, + { + "epoch": 0.7765407554671968, + "grad_norm": 5.354061126708984, + "learning_rate": 4.219826468182312e-06, + "loss": 0.1051, + "num_input_tokens_seen": 11450800, + "step": 5859 + }, + { + "epoch": 0.776673293571902, + "grad_norm": 8.225664138793945, + "learning_rate": 4.2195745075066716e-06, + "loss": 0.3631, + "num_input_tokens_seen": 11453040, + "step": 5860 + }, + { + "epoch": 0.776805831676607, + "grad_norm": 7.352323532104492, + "learning_rate": 4.219322513676448e-06, + "loss": 0.2308, + "num_input_tokens_seen": 11454624, + "step": 5861 + }, + { + "epoch": 0.7769383697813121, + "grad_norm": 0.18368928134441376, + "learning_rate": 4.219070486696501e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11455992, + "step": 5862 + }, + { + "epoch": 0.7770709078860172, + "grad_norm": 8.736626625061035, + "learning_rate": 4.218818426571688e-06, + "loss": 0.2097, + "num_input_tokens_seen": 11458496, + "step": 5863 + }, + { + "epoch": 0.7772034459907223, + "grad_norm": 7.095582485198975, + "learning_rate": 4.21856633330687e-06, + "loss": 0.1423, + "num_input_tokens_seen": 11460952, + "step": 5864 + }, + { + "epoch": 0.7773359840954275, + "grad_norm": 0.24318623542785645, + "learning_rate": 4.218314206906908e-06, + "loss": 0.0017, + "num_input_tokens_seen": 11462832, + "step": 5865 + }, + { + "epoch": 0.7774685222001325, + "grad_norm": 7.682394504547119, + "learning_rate": 4.218062047376663e-06, + "loss": 0.1031, + "num_input_tokens_seen": 11464304, + "step": 5866 + }, + { + "epoch": 0.7776010603048377, + "grad_norm": 6.468847751617432, + "learning_rate": 4.217809854720996e-06, + "loss": 0.1476, + "num_input_tokens_seen": 11465528, + "step": 5867 + }, + { + "epoch": 0.7777335984095427, + "grad_norm": 6.538835048675537, + "learning_rate": 4.2175576289447705e-06, + "loss": 0.1962, + "num_input_tokens_seen": 11467512, + "step": 5868 + }, + { + "epoch": 0.7778661365142479, + "grad_norm": 0.4626077711582184, + "learning_rate": 4.217305370052848e-06, + "loss": 0.0035, + "num_input_tokens_seen": 11470640, + "step": 5869 + }, + { + "epoch": 0.777998674618953, + "grad_norm": 0.42355719208717346, + "learning_rate": 4.217053078050094e-06, + "loss": 0.003, + "num_input_tokens_seen": 11471720, + "step": 5870 + }, + { + "epoch": 0.778131212723658, + "grad_norm": 0.2068232297897339, + "learning_rate": 4.216800752941372e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11473392, + "step": 5871 + }, + { + "epoch": 0.7782637508283632, + "grad_norm": 6.194050312042236, + "learning_rate": 4.216548394731548e-06, + "loss": 0.0637, + "num_input_tokens_seen": 11475136, + "step": 5872 + }, + { + "epoch": 0.7783962889330682, + "grad_norm": 6.686072826385498, + "learning_rate": 4.216296003425486e-06, + "loss": 0.1335, + "num_input_tokens_seen": 11478072, + "step": 5873 + }, + { + "epoch": 0.7785288270377734, + "grad_norm": 0.1913270205259323, + "learning_rate": 4.216043579028053e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11479656, + "step": 5874 + }, + { + "epoch": 0.7786613651424784, + "grad_norm": 7.532687664031982, + "learning_rate": 4.215791121544115e-06, + "loss": 0.0685, + "num_input_tokens_seen": 11482440, + "step": 5875 + }, + { + "epoch": 0.7787939032471836, + "grad_norm": 12.778433799743652, + "learning_rate": 4.215538630978542e-06, + "loss": 0.358, + "num_input_tokens_seen": 11484424, + "step": 5876 + }, + { + "epoch": 0.7789264413518887, + "grad_norm": 0.11313376575708389, + "learning_rate": 4.2152861073362e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11485688, + "step": 5877 + }, + { + "epoch": 0.7790589794565937, + "grad_norm": 12.902118682861328, + "learning_rate": 4.215033550621959e-06, + "loss": 0.2716, + "num_input_tokens_seen": 11487792, + "step": 5878 + }, + { + "epoch": 0.7791915175612989, + "grad_norm": 8.817619323730469, + "learning_rate": 4.214780960840687e-06, + "loss": 0.1683, + "num_input_tokens_seen": 11489808, + "step": 5879 + }, + { + "epoch": 0.7793240556660039, + "grad_norm": 0.8432909846305847, + "learning_rate": 4.214528337997257e-06, + "loss": 0.0042, + "num_input_tokens_seen": 11491056, + "step": 5880 + }, + { + "epoch": 0.7794565937707091, + "grad_norm": 4.995293617248535, + "learning_rate": 4.214275682096536e-06, + "loss": 0.0623, + "num_input_tokens_seen": 11492392, + "step": 5881 + }, + { + "epoch": 0.7795891318754142, + "grad_norm": 5.417535781860352, + "learning_rate": 4.214022993143397e-06, + "loss": 0.1524, + "num_input_tokens_seen": 11493848, + "step": 5882 + }, + { + "epoch": 0.7797216699801193, + "grad_norm": 9.096508979797363, + "learning_rate": 4.2137702711427145e-06, + "loss": 0.2998, + "num_input_tokens_seen": 11496544, + "step": 5883 + }, + { + "epoch": 0.7798542080848244, + "grad_norm": 5.889286518096924, + "learning_rate": 4.213517516099357e-06, + "loss": 0.1171, + "num_input_tokens_seen": 11498584, + "step": 5884 + }, + { + "epoch": 0.7799867461895295, + "grad_norm": 0.04048706963658333, + "learning_rate": 4.2132647280182e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11500720, + "step": 5885 + }, + { + "epoch": 0.7801192842942346, + "grad_norm": 0.0369567796587944, + "learning_rate": 4.213011906904118e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11502392, + "step": 5886 + }, + { + "epoch": 0.7802518223989396, + "grad_norm": 7.6913557052612305, + "learning_rate": 4.212759052761983e-06, + "loss": 0.1934, + "num_input_tokens_seen": 11503720, + "step": 5887 + }, + { + "epoch": 0.7803843605036448, + "grad_norm": 14.853998184204102, + "learning_rate": 4.212506165596674e-06, + "loss": 0.147, + "num_input_tokens_seen": 11505592, + "step": 5888 + }, + { + "epoch": 0.7805168986083499, + "grad_norm": 1.0737090110778809, + "learning_rate": 4.212253245413063e-06, + "loss": 0.0056, + "num_input_tokens_seen": 11507272, + "step": 5889 + }, + { + "epoch": 0.780649436713055, + "grad_norm": 19.34444808959961, + "learning_rate": 4.212000292216028e-06, + "loss": 0.5448, + "num_input_tokens_seen": 11509952, + "step": 5890 + }, + { + "epoch": 0.7807819748177601, + "grad_norm": 0.04693669080734253, + "learning_rate": 4.211747306010448e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11511456, + "step": 5891 + }, + { + "epoch": 0.7809145129224652, + "grad_norm": 0.016634413972496986, + "learning_rate": 4.211494286801198e-06, + "loss": 0.0001, + "num_input_tokens_seen": 11513096, + "step": 5892 + }, + { + "epoch": 0.7810470510271703, + "grad_norm": 7.608966827392578, + "learning_rate": 4.211241234593158e-06, + "loss": 0.2946, + "num_input_tokens_seen": 11514792, + "step": 5893 + }, + { + "epoch": 0.7811795891318755, + "grad_norm": 2.7981040477752686, + "learning_rate": 4.2109881493912065e-06, + "loss": 0.0349, + "num_input_tokens_seen": 11516728, + "step": 5894 + }, + { + "epoch": 0.7813121272365805, + "grad_norm": 7.430641174316406, + "learning_rate": 4.210735031200222e-06, + "loss": 0.1378, + "num_input_tokens_seen": 11518640, + "step": 5895 + }, + { + "epoch": 0.7814446653412856, + "grad_norm": 8.32115650177002, + "learning_rate": 4.2104818800250875e-06, + "loss": 0.4298, + "num_input_tokens_seen": 11520104, + "step": 5896 + }, + { + "epoch": 0.7815772034459907, + "grad_norm": 0.0429580956697464, + "learning_rate": 4.210228695870681e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11521496, + "step": 5897 + }, + { + "epoch": 0.7817097415506958, + "grad_norm": 9.142416954040527, + "learning_rate": 4.209975478741886e-06, + "loss": 0.1891, + "num_input_tokens_seen": 11523920, + "step": 5898 + }, + { + "epoch": 0.7818422796554009, + "grad_norm": 9.95163631439209, + "learning_rate": 4.209722228643584e-06, + "loss": 0.3569, + "num_input_tokens_seen": 11527264, + "step": 5899 + }, + { + "epoch": 0.781974817760106, + "grad_norm": 9.261152267456055, + "learning_rate": 4.2094689455806584e-06, + "loss": 0.2835, + "num_input_tokens_seen": 11529040, + "step": 5900 + }, + { + "epoch": 0.7821073558648112, + "grad_norm": 0.5602549910545349, + "learning_rate": 4.209215629557992e-06, + "loss": 0.003, + "num_input_tokens_seen": 11531296, + "step": 5901 + }, + { + "epoch": 0.7822398939695162, + "grad_norm": 7.8317694664001465, + "learning_rate": 4.2089622805804685e-06, + "loss": 0.2295, + "num_input_tokens_seen": 11533128, + "step": 5902 + }, + { + "epoch": 0.7823724320742214, + "grad_norm": 0.6189653873443604, + "learning_rate": 4.208708898652974e-06, + "loss": 0.0032, + "num_input_tokens_seen": 11535688, + "step": 5903 + }, + { + "epoch": 0.7825049701789264, + "grad_norm": 5.0478081703186035, + "learning_rate": 4.2084554837803935e-06, + "loss": 0.0653, + "num_input_tokens_seen": 11537968, + "step": 5904 + }, + { + "epoch": 0.7826375082836315, + "grad_norm": 0.23618066310882568, + "learning_rate": 4.208202035967612e-06, + "loss": 0.0015, + "num_input_tokens_seen": 11539328, + "step": 5905 + }, + { + "epoch": 0.7827700463883367, + "grad_norm": 7.0716423988342285, + "learning_rate": 4.207948555219516e-06, + "loss": 0.1866, + "num_input_tokens_seen": 11541632, + "step": 5906 + }, + { + "epoch": 0.7829025844930417, + "grad_norm": 11.420003890991211, + "learning_rate": 4.207695041540995e-06, + "loss": 0.2858, + "num_input_tokens_seen": 11543456, + "step": 5907 + }, + { + "epoch": 0.7830351225977469, + "grad_norm": 0.08125365525484085, + "learning_rate": 4.207441494936936e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11545272, + "step": 5908 + }, + { + "epoch": 0.7831676607024519, + "grad_norm": 0.5230322480201721, + "learning_rate": 4.207187915412226e-06, + "loss": 0.0033, + "num_input_tokens_seen": 11547088, + "step": 5909 + }, + { + "epoch": 0.7833001988071571, + "grad_norm": 0.35598552227020264, + "learning_rate": 4.206934302971755e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11548872, + "step": 5910 + }, + { + "epoch": 0.7834327369118622, + "grad_norm": 0.1132628321647644, + "learning_rate": 4.206680657620413e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11550752, + "step": 5911 + }, + { + "epoch": 0.7835652750165673, + "grad_norm": 6.93179988861084, + "learning_rate": 4.2064269793630915e-06, + "loss": 0.2319, + "num_input_tokens_seen": 11553712, + "step": 5912 + }, + { + "epoch": 0.7836978131212724, + "grad_norm": 10.415398597717285, + "learning_rate": 4.206173268204679e-06, + "loss": 0.3234, + "num_input_tokens_seen": 11556152, + "step": 5913 + }, + { + "epoch": 0.7838303512259774, + "grad_norm": 6.431523323059082, + "learning_rate": 4.205919524150071e-06, + "loss": 0.2563, + "num_input_tokens_seen": 11557928, + "step": 5914 + }, + { + "epoch": 0.7839628893306826, + "grad_norm": 4.781380653381348, + "learning_rate": 4.205665747204157e-06, + "loss": 0.1348, + "num_input_tokens_seen": 11559600, + "step": 5915 + }, + { + "epoch": 0.7840954274353876, + "grad_norm": 0.045080650597810745, + "learning_rate": 4.2054119373718305e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11560656, + "step": 5916 + }, + { + "epoch": 0.7842279655400928, + "grad_norm": 10.3811674118042, + "learning_rate": 4.205158094657985e-06, + "loss": 0.3751, + "num_input_tokens_seen": 11563064, + "step": 5917 + }, + { + "epoch": 0.7843605036447979, + "grad_norm": 8.004494667053223, + "learning_rate": 4.204904219067516e-06, + "loss": 0.078, + "num_input_tokens_seen": 11565648, + "step": 5918 + }, + { + "epoch": 0.784493041749503, + "grad_norm": 4.974582672119141, + "learning_rate": 4.204650310605317e-06, + "loss": 0.0873, + "num_input_tokens_seen": 11567392, + "step": 5919 + }, + { + "epoch": 0.7846255798542081, + "grad_norm": 7.225044250488281, + "learning_rate": 4.204396369276283e-06, + "loss": 0.069, + "num_input_tokens_seen": 11568848, + "step": 5920 + }, + { + "epoch": 0.7847581179589131, + "grad_norm": 5.176958084106445, + "learning_rate": 4.204142395085313e-06, + "loss": 0.0967, + "num_input_tokens_seen": 11571040, + "step": 5921 + }, + { + "epoch": 0.7848906560636183, + "grad_norm": 14.297098159790039, + "learning_rate": 4.203888388037301e-06, + "loss": 0.4266, + "num_input_tokens_seen": 11573144, + "step": 5922 + }, + { + "epoch": 0.7850231941683234, + "grad_norm": 9.08741283416748, + "learning_rate": 4.203634348137145e-06, + "loss": 0.108, + "num_input_tokens_seen": 11574576, + "step": 5923 + }, + { + "epoch": 0.7851557322730285, + "grad_norm": 2.4092931747436523, + "learning_rate": 4.203380275389744e-06, + "loss": 0.0309, + "num_input_tokens_seen": 11576472, + "step": 5924 + }, + { + "epoch": 0.7852882703777336, + "grad_norm": 5.999264240264893, + "learning_rate": 4.203126169799997e-06, + "loss": 0.1914, + "num_input_tokens_seen": 11577904, + "step": 5925 + }, + { + "epoch": 0.7854208084824387, + "grad_norm": 12.166259765625, + "learning_rate": 4.202872031372802e-06, + "loss": 0.2646, + "num_input_tokens_seen": 11580008, + "step": 5926 + }, + { + "epoch": 0.7855533465871438, + "grad_norm": 18.700843811035156, + "learning_rate": 4.202617860113059e-06, + "loss": 0.6551, + "num_input_tokens_seen": 11582712, + "step": 5927 + }, + { + "epoch": 0.7856858846918489, + "grad_norm": 0.1118735820055008, + "learning_rate": 4.2023636560256686e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11584072, + "step": 5928 + }, + { + "epoch": 0.785818422796554, + "grad_norm": 6.535750865936279, + "learning_rate": 4.202109419115534e-06, + "loss": 0.1895, + "num_input_tokens_seen": 11585872, + "step": 5929 + }, + { + "epoch": 0.7859509609012592, + "grad_norm": 6.2491350173950195, + "learning_rate": 4.201855149387555e-06, + "loss": 0.0853, + "num_input_tokens_seen": 11587592, + "step": 5930 + }, + { + "epoch": 0.7860834990059642, + "grad_norm": 0.4412160813808441, + "learning_rate": 4.2016008468466345e-06, + "loss": 0.0059, + "num_input_tokens_seen": 11589936, + "step": 5931 + }, + { + "epoch": 0.7862160371106693, + "grad_norm": 7.810582637786865, + "learning_rate": 4.201346511497676e-06, + "loss": 0.1806, + "num_input_tokens_seen": 11591968, + "step": 5932 + }, + { + "epoch": 0.7863485752153744, + "grad_norm": 8.169188499450684, + "learning_rate": 4.201092143345583e-06, + "loss": 0.2557, + "num_input_tokens_seen": 11593840, + "step": 5933 + }, + { + "epoch": 0.7864811133200795, + "grad_norm": 10.962566375732422, + "learning_rate": 4.200837742395259e-06, + "loss": 0.272, + "num_input_tokens_seen": 11596176, + "step": 5934 + }, + { + "epoch": 0.7866136514247847, + "grad_norm": 0.26985448598861694, + "learning_rate": 4.200583308651611e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11597792, + "step": 5935 + }, + { + "epoch": 0.7867461895294897, + "grad_norm": 3.7500975131988525, + "learning_rate": 4.200328842119543e-06, + "loss": 0.1299, + "num_input_tokens_seen": 11599760, + "step": 5936 + }, + { + "epoch": 0.7868787276341949, + "grad_norm": 3.26781964302063, + "learning_rate": 4.200074342803962e-06, + "loss": 0.0204, + "num_input_tokens_seen": 11601904, + "step": 5937 + }, + { + "epoch": 0.7870112657388999, + "grad_norm": 7.098124980926514, + "learning_rate": 4.199819810709776e-06, + "loss": 0.0863, + "num_input_tokens_seen": 11603272, + "step": 5938 + }, + { + "epoch": 0.787143803843605, + "grad_norm": 6.3188934326171875, + "learning_rate": 4.19956524584189e-06, + "loss": 0.1421, + "num_input_tokens_seen": 11606056, + "step": 5939 + }, + { + "epoch": 0.7872763419483101, + "grad_norm": 11.25432300567627, + "learning_rate": 4.199310648205215e-06, + "loss": 0.3491, + "num_input_tokens_seen": 11608056, + "step": 5940 + }, + { + "epoch": 0.7874088800530152, + "grad_norm": 7.903420925140381, + "learning_rate": 4.199056017804657e-06, + "loss": 0.144, + "num_input_tokens_seen": 11609552, + "step": 5941 + }, + { + "epoch": 0.7875414181577204, + "grad_norm": 3.3785767555236816, + "learning_rate": 4.198801354645128e-06, + "loss": 0.0542, + "num_input_tokens_seen": 11610920, + "step": 5942 + }, + { + "epoch": 0.7876739562624254, + "grad_norm": 0.2599114179611206, + "learning_rate": 4.198546658731536e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11612632, + "step": 5943 + }, + { + "epoch": 0.7878064943671306, + "grad_norm": 7.482265949249268, + "learning_rate": 4.198291930068793e-06, + "loss": 0.2419, + "num_input_tokens_seen": 11614072, + "step": 5944 + }, + { + "epoch": 0.7879390324718356, + "grad_norm": 8.974781036376953, + "learning_rate": 4.19803716866181e-06, + "loss": 0.3142, + "num_input_tokens_seen": 11616304, + "step": 5945 + }, + { + "epoch": 0.7880715705765408, + "grad_norm": 5.818236827850342, + "learning_rate": 4.1977823745155e-06, + "loss": 0.1383, + "num_input_tokens_seen": 11617528, + "step": 5946 + }, + { + "epoch": 0.7882041086812459, + "grad_norm": 0.21087734401226044, + "learning_rate": 4.1975275476347725e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11619008, + "step": 5947 + }, + { + "epoch": 0.788336646785951, + "grad_norm": 0.294229656457901, + "learning_rate": 4.197272688024544e-06, + "loss": 0.0021, + "num_input_tokens_seen": 11620968, + "step": 5948 + }, + { + "epoch": 0.7884691848906561, + "grad_norm": 0.12691304087638855, + "learning_rate": 4.197017795689727e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11623144, + "step": 5949 + }, + { + "epoch": 0.7886017229953611, + "grad_norm": 16.456361770629883, + "learning_rate": 4.196762870635236e-06, + "loss": 0.5651, + "num_input_tokens_seen": 11625296, + "step": 5950 + }, + { + "epoch": 0.7887342611000663, + "grad_norm": 0.14588159322738647, + "learning_rate": 4.196507912865987e-06, + "loss": 0.001, + "num_input_tokens_seen": 11627472, + "step": 5951 + }, + { + "epoch": 0.7888667992047713, + "grad_norm": 0.19442982971668243, + "learning_rate": 4.196252922386895e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11628864, + "step": 5952 + }, + { + "epoch": 0.7889993373094765, + "grad_norm": 7.9510111808776855, + "learning_rate": 4.195997899202876e-06, + "loss": 0.1619, + "num_input_tokens_seen": 11631072, + "step": 5953 + }, + { + "epoch": 0.7891318754141816, + "grad_norm": 0.11786588281393051, + "learning_rate": 4.195742843318848e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11632792, + "step": 5954 + }, + { + "epoch": 0.7892644135188867, + "grad_norm": 0.5430479645729065, + "learning_rate": 4.195487754739728e-06, + "loss": 0.0024, + "num_input_tokens_seen": 11634264, + "step": 5955 + }, + { + "epoch": 0.7893969516235918, + "grad_norm": 1.1728757619857788, + "learning_rate": 4.195232633470434e-06, + "loss": 0.0067, + "num_input_tokens_seen": 11636784, + "step": 5956 + }, + { + "epoch": 0.7895294897282968, + "grad_norm": 10.655708312988281, + "learning_rate": 4.194977479515885e-06, + "loss": 0.1973, + "num_input_tokens_seen": 11638376, + "step": 5957 + }, + { + "epoch": 0.789662027833002, + "grad_norm": 5.791609287261963, + "learning_rate": 4.194722292881001e-06, + "loss": 0.2065, + "num_input_tokens_seen": 11639720, + "step": 5958 + }, + { + "epoch": 0.7897945659377071, + "grad_norm": 9.388766288757324, + "learning_rate": 4.1944670735707026e-06, + "loss": 0.2796, + "num_input_tokens_seen": 11641360, + "step": 5959 + }, + { + "epoch": 0.7899271040424122, + "grad_norm": 11.944838523864746, + "learning_rate": 4.194211821589911e-06, + "loss": 0.3503, + "num_input_tokens_seen": 11643232, + "step": 5960 + }, + { + "epoch": 0.7900596421471173, + "grad_norm": 0.03752652183175087, + "learning_rate": 4.1939565369435455e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11644496, + "step": 5961 + }, + { + "epoch": 0.7901921802518224, + "grad_norm": 3.6657378673553467, + "learning_rate": 4.193701219636529e-06, + "loss": 0.0393, + "num_input_tokens_seen": 11646160, + "step": 5962 + }, + { + "epoch": 0.7903247183565275, + "grad_norm": 13.018482208251953, + "learning_rate": 4.193445869673786e-06, + "loss": 0.3122, + "num_input_tokens_seen": 11648040, + "step": 5963 + }, + { + "epoch": 0.7904572564612325, + "grad_norm": 5.167471885681152, + "learning_rate": 4.193190487060237e-06, + "loss": 0.1695, + "num_input_tokens_seen": 11650376, + "step": 5964 + }, + { + "epoch": 0.7905897945659377, + "grad_norm": 5.533400058746338, + "learning_rate": 4.192935071800808e-06, + "loss": 0.0835, + "num_input_tokens_seen": 11653016, + "step": 5965 + }, + { + "epoch": 0.7907223326706428, + "grad_norm": 8.305009841918945, + "learning_rate": 4.192679623900423e-06, + "loss": 0.2808, + "num_input_tokens_seen": 11655296, + "step": 5966 + }, + { + "epoch": 0.7908548707753479, + "grad_norm": 0.14705567061901093, + "learning_rate": 4.192424143364006e-06, + "loss": 0.001, + "num_input_tokens_seen": 11656800, + "step": 5967 + }, + { + "epoch": 0.790987408880053, + "grad_norm": 16.64096450805664, + "learning_rate": 4.192168630196486e-06, + "loss": 0.574, + "num_input_tokens_seen": 11659272, + "step": 5968 + }, + { + "epoch": 0.7911199469847581, + "grad_norm": 9.419206619262695, + "learning_rate": 4.191913084402785e-06, + "loss": 0.2834, + "num_input_tokens_seen": 11661064, + "step": 5969 + }, + { + "epoch": 0.7912524850894632, + "grad_norm": 9.220453262329102, + "learning_rate": 4.191657505987835e-06, + "loss": 0.2722, + "num_input_tokens_seen": 11662704, + "step": 5970 + }, + { + "epoch": 0.7913850231941684, + "grad_norm": 10.419841766357422, + "learning_rate": 4.19140189495656e-06, + "loss": 0.3539, + "num_input_tokens_seen": 11664888, + "step": 5971 + }, + { + "epoch": 0.7915175612988734, + "grad_norm": 10.984697341918945, + "learning_rate": 4.19114625131389e-06, + "loss": 0.2693, + "num_input_tokens_seen": 11666520, + "step": 5972 + }, + { + "epoch": 0.7916500994035786, + "grad_norm": 13.330792427062988, + "learning_rate": 4.190890575064753e-06, + "loss": 0.3326, + "num_input_tokens_seen": 11668480, + "step": 5973 + }, + { + "epoch": 0.7917826375082836, + "grad_norm": 9.116632461547852, + "learning_rate": 4.190634866214079e-06, + "loss": 0.1985, + "num_input_tokens_seen": 11670728, + "step": 5974 + }, + { + "epoch": 0.7919151756129887, + "grad_norm": 5.533251762390137, + "learning_rate": 4.190379124766799e-06, + "loss": 0.154, + "num_input_tokens_seen": 11672496, + "step": 5975 + }, + { + "epoch": 0.7920477137176939, + "grad_norm": 11.745291709899902, + "learning_rate": 4.190123350727844e-06, + "loss": 0.3073, + "num_input_tokens_seen": 11675104, + "step": 5976 + }, + { + "epoch": 0.7921802518223989, + "grad_norm": 5.7864670753479, + "learning_rate": 4.189867544102144e-06, + "loss": 0.1776, + "num_input_tokens_seen": 11678040, + "step": 5977 + }, + { + "epoch": 0.7923127899271041, + "grad_norm": 0.23212522268295288, + "learning_rate": 4.189611704894633e-06, + "loss": 0.0017, + "num_input_tokens_seen": 11679704, + "step": 5978 + }, + { + "epoch": 0.7924453280318091, + "grad_norm": 14.259075164794922, + "learning_rate": 4.189355833110242e-06, + "loss": 0.2693, + "num_input_tokens_seen": 11682896, + "step": 5979 + }, + { + "epoch": 0.7925778661365143, + "grad_norm": 0.15822458267211914, + "learning_rate": 4.189099928753904e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11683784, + "step": 5980 + }, + { + "epoch": 0.7927104042412193, + "grad_norm": 11.5624361038208, + "learning_rate": 4.188843991830556e-06, + "loss": 0.2294, + "num_input_tokens_seen": 11685336, + "step": 5981 + }, + { + "epoch": 0.7928429423459245, + "grad_norm": 3.4526143074035645, + "learning_rate": 4.1885880223451295e-06, + "loss": 0.0269, + "num_input_tokens_seen": 11687528, + "step": 5982 + }, + { + "epoch": 0.7929754804506296, + "grad_norm": 9.568391799926758, + "learning_rate": 4.188332020302561e-06, + "loss": 0.3418, + "num_input_tokens_seen": 11689592, + "step": 5983 + }, + { + "epoch": 0.7931080185553346, + "grad_norm": 10.51002311706543, + "learning_rate": 4.188075985707788e-06, + "loss": 0.256, + "num_input_tokens_seen": 11692544, + "step": 5984 + }, + { + "epoch": 0.7932405566600398, + "grad_norm": 0.6112151741981506, + "learning_rate": 4.187819918565744e-06, + "loss": 0.0044, + "num_input_tokens_seen": 11694136, + "step": 5985 + }, + { + "epoch": 0.7933730947647448, + "grad_norm": 1.2927066087722778, + "learning_rate": 4.187563818881368e-06, + "loss": 0.0092, + "num_input_tokens_seen": 11696384, + "step": 5986 + }, + { + "epoch": 0.79350563286945, + "grad_norm": 8.478625297546387, + "learning_rate": 4.187307686659597e-06, + "loss": 0.4016, + "num_input_tokens_seen": 11698424, + "step": 5987 + }, + { + "epoch": 0.7936381709741551, + "grad_norm": 15.124611854553223, + "learning_rate": 4.18705152190537e-06, + "loss": 0.7912, + "num_input_tokens_seen": 11700496, + "step": 5988 + }, + { + "epoch": 0.7937707090788602, + "grad_norm": 7.7354278564453125, + "learning_rate": 4.186795324623626e-06, + "loss": 0.2842, + "num_input_tokens_seen": 11702296, + "step": 5989 + }, + { + "epoch": 0.7939032471835653, + "grad_norm": 0.671261727809906, + "learning_rate": 4.186539094819305e-06, + "loss": 0.0046, + "num_input_tokens_seen": 11704096, + "step": 5990 + }, + { + "epoch": 0.7940357852882703, + "grad_norm": 0.2579774558544159, + "learning_rate": 4.186282832497346e-06, + "loss": 0.0019, + "num_input_tokens_seen": 11705848, + "step": 5991 + }, + { + "epoch": 0.7941683233929755, + "grad_norm": 2.8712058067321777, + "learning_rate": 4.186026537662691e-06, + "loss": 0.0806, + "num_input_tokens_seen": 11707656, + "step": 5992 + }, + { + "epoch": 0.7943008614976805, + "grad_norm": 7.225240230560303, + "learning_rate": 4.18577021032028e-06, + "loss": 0.2161, + "num_input_tokens_seen": 11709592, + "step": 5993 + }, + { + "epoch": 0.7944333996023857, + "grad_norm": 11.566388130187988, + "learning_rate": 4.1855138504750585e-06, + "loss": 0.3756, + "num_input_tokens_seen": 11711752, + "step": 5994 + }, + { + "epoch": 0.7945659377070908, + "grad_norm": 0.5353715419769287, + "learning_rate": 4.185257458131966e-06, + "loss": 0.0036, + "num_input_tokens_seen": 11713392, + "step": 5995 + }, + { + "epoch": 0.7946984758117959, + "grad_norm": 11.293478012084961, + "learning_rate": 4.185001033295947e-06, + "loss": 0.2453, + "num_input_tokens_seen": 11715112, + "step": 5996 + }, + { + "epoch": 0.794831013916501, + "grad_norm": 2.713548421859741, + "learning_rate": 4.184744575971946e-06, + "loss": 0.0405, + "num_input_tokens_seen": 11716896, + "step": 5997 + }, + { + "epoch": 0.794963552021206, + "grad_norm": 7.89310884475708, + "learning_rate": 4.184488086164908e-06, + "loss": 0.2823, + "num_input_tokens_seen": 11717976, + "step": 5998 + }, + { + "epoch": 0.7950960901259112, + "grad_norm": 10.849326133728027, + "learning_rate": 4.184231563879776e-06, + "loss": 0.4328, + "num_input_tokens_seen": 11719688, + "step": 5999 + }, + { + "epoch": 0.7952286282306164, + "grad_norm": 9.315733909606934, + "learning_rate": 4.1839750091215e-06, + "loss": 0.3607, + "num_input_tokens_seen": 11722424, + "step": 6000 + }, + { + "epoch": 0.7953611663353214, + "grad_norm": 0.05200628936290741, + "learning_rate": 4.183718421895021e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11723720, + "step": 6001 + }, + { + "epoch": 0.7954937044400265, + "grad_norm": 10.4094877243042, + "learning_rate": 4.183461802205291e-06, + "loss": 0.4179, + "num_input_tokens_seen": 11726080, + "step": 6002 + }, + { + "epoch": 0.7956262425447316, + "grad_norm": 8.708499908447266, + "learning_rate": 4.183205150057256e-06, + "loss": 0.2146, + "num_input_tokens_seen": 11727608, + "step": 6003 + }, + { + "epoch": 0.7957587806494367, + "grad_norm": 0.26600104570388794, + "learning_rate": 4.182948465455865e-06, + "loss": 0.002, + "num_input_tokens_seen": 11729632, + "step": 6004 + }, + { + "epoch": 0.7958913187541418, + "grad_norm": 10.767897605895996, + "learning_rate": 4.182691748406066e-06, + "loss": 0.3271, + "num_input_tokens_seen": 11731952, + "step": 6005 + }, + { + "epoch": 0.7960238568588469, + "grad_norm": 2.3896379470825195, + "learning_rate": 4.1824349989128085e-06, + "loss": 0.0207, + "num_input_tokens_seen": 11733296, + "step": 6006 + }, + { + "epoch": 0.7961563949635521, + "grad_norm": 7.232451438903809, + "learning_rate": 4.182178216981045e-06, + "loss": 0.1567, + "num_input_tokens_seen": 11735264, + "step": 6007 + }, + { + "epoch": 0.7962889330682571, + "grad_norm": 24.213106155395508, + "learning_rate": 4.181921402615724e-06, + "loss": 0.4406, + "num_input_tokens_seen": 11736664, + "step": 6008 + }, + { + "epoch": 0.7964214711729622, + "grad_norm": 4.51219367980957, + "learning_rate": 4.1816645558217985e-06, + "loss": 0.0431, + "num_input_tokens_seen": 11738528, + "step": 6009 + }, + { + "epoch": 0.7965540092776673, + "grad_norm": 0.7979826927185059, + "learning_rate": 4.1814076766042206e-06, + "loss": 0.0052, + "num_input_tokens_seen": 11740288, + "step": 6010 + }, + { + "epoch": 0.7966865473823724, + "grad_norm": 5.296796798706055, + "learning_rate": 4.181150764967941e-06, + "loss": 0.1208, + "num_input_tokens_seen": 11741992, + "step": 6011 + }, + { + "epoch": 0.7968190854870776, + "grad_norm": 13.511838912963867, + "learning_rate": 4.180893820917917e-06, + "loss": 0.5607, + "num_input_tokens_seen": 11743752, + "step": 6012 + }, + { + "epoch": 0.7969516235917826, + "grad_norm": 10.28458023071289, + "learning_rate": 4.1806368444591e-06, + "loss": 0.4532, + "num_input_tokens_seen": 11746048, + "step": 6013 + }, + { + "epoch": 0.7970841616964878, + "grad_norm": 14.196305274963379, + "learning_rate": 4.1803798355964455e-06, + "loss": 0.8276, + "num_input_tokens_seen": 11748408, + "step": 6014 + }, + { + "epoch": 0.7972166998011928, + "grad_norm": 2.3924953937530518, + "learning_rate": 4.180122794334908e-06, + "loss": 0.0522, + "num_input_tokens_seen": 11750032, + "step": 6015 + }, + { + "epoch": 0.797349237905898, + "grad_norm": 13.982836723327637, + "learning_rate": 4.179865720679444e-06, + "loss": 0.6101, + "num_input_tokens_seen": 11752256, + "step": 6016 + }, + { + "epoch": 0.797481776010603, + "grad_norm": 0.32092785835266113, + "learning_rate": 4.1796086146350095e-06, + "loss": 0.0024, + "num_input_tokens_seen": 11754744, + "step": 6017 + }, + { + "epoch": 0.7976143141153081, + "grad_norm": 0.15612871944904327, + "learning_rate": 4.179351476206563e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11755984, + "step": 6018 + }, + { + "epoch": 0.7977468522200133, + "grad_norm": 0.10572319477796555, + "learning_rate": 4.1790943053990604e-06, + "loss": 0.0008, + "num_input_tokens_seen": 11757152, + "step": 6019 + }, + { + "epoch": 0.7978793903247183, + "grad_norm": 0.21356245875358582, + "learning_rate": 4.178837102217463e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11759664, + "step": 6020 + }, + { + "epoch": 0.7980119284294235, + "grad_norm": 2.1114044189453125, + "learning_rate": 4.178579866666727e-06, + "loss": 0.0146, + "num_input_tokens_seen": 11761760, + "step": 6021 + }, + { + "epoch": 0.7981444665341285, + "grad_norm": 11.381550788879395, + "learning_rate": 4.178322598751813e-06, + "loss": 0.2977, + "num_input_tokens_seen": 11764128, + "step": 6022 + }, + { + "epoch": 0.7982770046388337, + "grad_norm": 5.775282859802246, + "learning_rate": 4.1780652984776825e-06, + "loss": 0.1838, + "num_input_tokens_seen": 11766592, + "step": 6023 + }, + { + "epoch": 0.7984095427435388, + "grad_norm": 8.84891128540039, + "learning_rate": 4.1778079658492946e-06, + "loss": 0.2605, + "num_input_tokens_seen": 11769144, + "step": 6024 + }, + { + "epoch": 0.7985420808482439, + "grad_norm": 18.23410415649414, + "learning_rate": 4.177550600871611e-06, + "loss": 1.2102, + "num_input_tokens_seen": 11771776, + "step": 6025 + }, + { + "epoch": 0.798674618952949, + "grad_norm": 3.3001511096954346, + "learning_rate": 4.177293203549596e-06, + "loss": 0.0503, + "num_input_tokens_seen": 11773232, + "step": 6026 + }, + { + "epoch": 0.798807157057654, + "grad_norm": 13.878031730651855, + "learning_rate": 4.177035773888211e-06, + "loss": 0.224, + "num_input_tokens_seen": 11775200, + "step": 6027 + }, + { + "epoch": 0.7989396951623592, + "grad_norm": 4.134118556976318, + "learning_rate": 4.176778311892418e-06, + "loss": 0.067, + "num_input_tokens_seen": 11777096, + "step": 6028 + }, + { + "epoch": 0.7990722332670643, + "grad_norm": 12.027763366699219, + "learning_rate": 4.176520817567183e-06, + "loss": 0.5639, + "num_input_tokens_seen": 11778920, + "step": 6029 + }, + { + "epoch": 0.7992047713717694, + "grad_norm": 10.104657173156738, + "learning_rate": 4.17626329091747e-06, + "loss": 0.1619, + "num_input_tokens_seen": 11781112, + "step": 6030 + }, + { + "epoch": 0.7993373094764745, + "grad_norm": 7.181174278259277, + "learning_rate": 4.176005731948244e-06, + "loss": 0.18, + "num_input_tokens_seen": 11782560, + "step": 6031 + }, + { + "epoch": 0.7994698475811796, + "grad_norm": 0.1506657600402832, + "learning_rate": 4.175748140664472e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11784304, + "step": 6032 + }, + { + "epoch": 0.7996023856858847, + "grad_norm": 13.986159324645996, + "learning_rate": 4.17549051707112e-06, + "loss": 0.5356, + "num_input_tokens_seen": 11787104, + "step": 6033 + }, + { + "epoch": 0.7997349237905897, + "grad_norm": 0.12098951637744904, + "learning_rate": 4.175232861173154e-06, + "loss": 0.0009, + "num_input_tokens_seen": 11788416, + "step": 6034 + }, + { + "epoch": 0.7998674618952949, + "grad_norm": 1.0018857717514038, + "learning_rate": 4.174975172975543e-06, + "loss": 0.0062, + "num_input_tokens_seen": 11790504, + "step": 6035 + }, + { + "epoch": 0.8, + "grad_norm": 5.0751166343688965, + "learning_rate": 4.174717452483255e-06, + "loss": 0.1208, + "num_input_tokens_seen": 11792568, + "step": 6036 + }, + { + "epoch": 0.8001325381047051, + "grad_norm": 0.24677395820617676, + "learning_rate": 4.17445969970126e-06, + "loss": 0.0016, + "num_input_tokens_seen": 11793968, + "step": 6037 + }, + { + "epoch": 0.8002650762094102, + "grad_norm": 0.1527145504951477, + "learning_rate": 4.174201914634527e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11795792, + "step": 6038 + }, + { + "epoch": 0.8003976143141153, + "grad_norm": 4.625432014465332, + "learning_rate": 4.173944097288025e-06, + "loss": 0.0582, + "num_input_tokens_seen": 11798000, + "step": 6039 + }, + { + "epoch": 0.8005301524188204, + "grad_norm": 0.16194915771484375, + "learning_rate": 4.173686247666727e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11800864, + "step": 6040 + }, + { + "epoch": 0.8006626905235256, + "grad_norm": 8.614712715148926, + "learning_rate": 4.173428365775603e-06, + "loss": 0.2911, + "num_input_tokens_seen": 11803632, + "step": 6041 + }, + { + "epoch": 0.8007952286282306, + "grad_norm": 10.721465110778809, + "learning_rate": 4.1731704516196255e-06, + "loss": 0.1964, + "num_input_tokens_seen": 11805512, + "step": 6042 + }, + { + "epoch": 0.8009277667329358, + "grad_norm": 0.0991855040192604, + "learning_rate": 4.172912505203768e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11808568, + "step": 6043 + }, + { + "epoch": 0.8010603048376408, + "grad_norm": 1.4042294025421143, + "learning_rate": 4.172654526533003e-06, + "loss": 0.021, + "num_input_tokens_seen": 11810288, + "step": 6044 + }, + { + "epoch": 0.8011928429423459, + "grad_norm": 6.066646099090576, + "learning_rate": 4.172396515612305e-06, + "loss": 0.1738, + "num_input_tokens_seen": 11813128, + "step": 6045 + }, + { + "epoch": 0.801325381047051, + "grad_norm": 5.14725923538208, + "learning_rate": 4.172138472446648e-06, + "loss": 0.0769, + "num_input_tokens_seen": 11815720, + "step": 6046 + }, + { + "epoch": 0.8014579191517561, + "grad_norm": 0.03395279124379158, + "learning_rate": 4.171880397041008e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11817032, + "step": 6047 + }, + { + "epoch": 0.8015904572564613, + "grad_norm": 5.20062780380249, + "learning_rate": 4.17162228940036e-06, + "loss": 0.0677, + "num_input_tokens_seen": 11818776, + "step": 6048 + }, + { + "epoch": 0.8017229953611663, + "grad_norm": 9.515907287597656, + "learning_rate": 4.171364149529682e-06, + "loss": 0.4526, + "num_input_tokens_seen": 11820904, + "step": 6049 + }, + { + "epoch": 0.8018555334658715, + "grad_norm": 0.1978934109210968, + "learning_rate": 4.17110597743395e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11822576, + "step": 6050 + }, + { + "epoch": 0.8019880715705765, + "grad_norm": 10.959004402160645, + "learning_rate": 4.170847773118142e-06, + "loss": 0.3952, + "num_input_tokens_seen": 11824256, + "step": 6051 + }, + { + "epoch": 0.8021206096752816, + "grad_norm": 0.09633899480104446, + "learning_rate": 4.170589536587237e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11825624, + "step": 6052 + }, + { + "epoch": 0.8022531477799868, + "grad_norm": 6.93980073928833, + "learning_rate": 4.170331267846211e-06, + "loss": 0.1995, + "num_input_tokens_seen": 11828056, + "step": 6053 + }, + { + "epoch": 0.8023856858846918, + "grad_norm": 0.42530685663223267, + "learning_rate": 4.1700729669000476e-06, + "loss": 0.0031, + "num_input_tokens_seen": 11830552, + "step": 6054 + }, + { + "epoch": 0.802518223989397, + "grad_norm": 16.74164390563965, + "learning_rate": 4.169814633753724e-06, + "loss": 0.6686, + "num_input_tokens_seen": 11833272, + "step": 6055 + }, + { + "epoch": 0.802650762094102, + "grad_norm": 7.9354705810546875, + "learning_rate": 4.169556268412224e-06, + "loss": 0.2462, + "num_input_tokens_seen": 11835312, + "step": 6056 + }, + { + "epoch": 0.8027833001988072, + "grad_norm": 8.194220542907715, + "learning_rate": 4.169297870880526e-06, + "loss": 0.1838, + "num_input_tokens_seen": 11837744, + "step": 6057 + }, + { + "epoch": 0.8029158383035122, + "grad_norm": 16.372188568115234, + "learning_rate": 4.169039441163613e-06, + "loss": 0.2398, + "num_input_tokens_seen": 11840816, + "step": 6058 + }, + { + "epoch": 0.8030483764082174, + "grad_norm": 6.946459770202637, + "learning_rate": 4.168780979266469e-06, + "loss": 0.3026, + "num_input_tokens_seen": 11843280, + "step": 6059 + }, + { + "epoch": 0.8031809145129225, + "grad_norm": 6.503567218780518, + "learning_rate": 4.168522485194077e-06, + "loss": 0.1942, + "num_input_tokens_seen": 11844704, + "step": 6060 + }, + { + "epoch": 0.8033134526176275, + "grad_norm": 0.33634835481643677, + "learning_rate": 4.168263958951421e-06, + "loss": 0.0022, + "num_input_tokens_seen": 11846656, + "step": 6061 + }, + { + "epoch": 0.8034459907223327, + "grad_norm": 0.16518740355968475, + "learning_rate": 4.168005400543483e-06, + "loss": 0.0011, + "num_input_tokens_seen": 11847512, + "step": 6062 + }, + { + "epoch": 0.8035785288270377, + "grad_norm": 5.616457939147949, + "learning_rate": 4.1677468099752515e-06, + "loss": 0.1044, + "num_input_tokens_seen": 11849664, + "step": 6063 + }, + { + "epoch": 0.8037110669317429, + "grad_norm": 12.65960693359375, + "learning_rate": 4.16748818725171e-06, + "loss": 0.2047, + "num_input_tokens_seen": 11852504, + "step": 6064 + }, + { + "epoch": 0.803843605036448, + "grad_norm": 12.545294761657715, + "learning_rate": 4.1672295323778475e-06, + "loss": 0.5445, + "num_input_tokens_seen": 11854752, + "step": 6065 + }, + { + "epoch": 0.8039761431411531, + "grad_norm": 0.33383458852767944, + "learning_rate": 4.166970845358648e-06, + "loss": 0.0022, + "num_input_tokens_seen": 11856280, + "step": 6066 + }, + { + "epoch": 0.8041086812458582, + "grad_norm": 5.8879241943359375, + "learning_rate": 4.1667121261991014e-06, + "loss": 0.1943, + "num_input_tokens_seen": 11858040, + "step": 6067 + }, + { + "epoch": 0.8042412193505633, + "grad_norm": 2.104642152786255, + "learning_rate": 4.1664533749041944e-06, + "loss": 0.0137, + "num_input_tokens_seen": 11860488, + "step": 6068 + }, + { + "epoch": 0.8043737574552684, + "grad_norm": 11.497167587280273, + "learning_rate": 4.166194591478918e-06, + "loss": 0.2467, + "num_input_tokens_seen": 11862416, + "step": 6069 + }, + { + "epoch": 0.8045062955599734, + "grad_norm": 0.09199334681034088, + "learning_rate": 4.165935775928259e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11863728, + "step": 6070 + }, + { + "epoch": 0.8046388336646786, + "grad_norm": 11.039759635925293, + "learning_rate": 4.16567692825721e-06, + "loss": 0.3187, + "num_input_tokens_seen": 11865600, + "step": 6071 + }, + { + "epoch": 0.8047713717693837, + "grad_norm": 14.361676216125488, + "learning_rate": 4.165418048470761e-06, + "loss": 0.6379, + "num_input_tokens_seen": 11867840, + "step": 6072 + }, + { + "epoch": 0.8049039098740888, + "grad_norm": 0.2640438675880432, + "learning_rate": 4.165159136573902e-06, + "loss": 0.0018, + "num_input_tokens_seen": 11869312, + "step": 6073 + }, + { + "epoch": 0.8050364479787939, + "grad_norm": 7.360639572143555, + "learning_rate": 4.1649001925716265e-06, + "loss": 0.2877, + "num_input_tokens_seen": 11871640, + "step": 6074 + }, + { + "epoch": 0.805168986083499, + "grad_norm": 9.279560089111328, + "learning_rate": 4.164641216468927e-06, + "loss": 0.1389, + "num_input_tokens_seen": 11873400, + "step": 6075 + }, + { + "epoch": 0.8053015241882041, + "grad_norm": 0.19355402886867523, + "learning_rate": 4.164382208270797e-06, + "loss": 0.0014, + "num_input_tokens_seen": 11875088, + "step": 6076 + }, + { + "epoch": 0.8054340622929093, + "grad_norm": 6.217125415802002, + "learning_rate": 4.164123167982228e-06, + "loss": 0.0669, + "num_input_tokens_seen": 11877048, + "step": 6077 + }, + { + "epoch": 0.8055666003976143, + "grad_norm": 0.10231254249811172, + "learning_rate": 4.163864095608218e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11878440, + "step": 6078 + }, + { + "epoch": 0.8056991385023194, + "grad_norm": 2.467869281768799, + "learning_rate": 4.16360499115376e-06, + "loss": 0.0254, + "num_input_tokens_seen": 11880456, + "step": 6079 + }, + { + "epoch": 0.8058316766070245, + "grad_norm": 1.3555772304534912, + "learning_rate": 4.16334585462385e-06, + "loss": 0.0084, + "num_input_tokens_seen": 11883360, + "step": 6080 + }, + { + "epoch": 0.8059642147117296, + "grad_norm": 0.061334118247032166, + "learning_rate": 4.163086686023484e-06, + "loss": 0.0004, + "num_input_tokens_seen": 11884656, + "step": 6081 + }, + { + "epoch": 0.8060967528164347, + "grad_norm": 0.1840270757675171, + "learning_rate": 4.16282748535766e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11886208, + "step": 6082 + }, + { + "epoch": 0.8062292909211398, + "grad_norm": 7.886624336242676, + "learning_rate": 4.162568252631375e-06, + "loss": 0.25, + "num_input_tokens_seen": 11887816, + "step": 6083 + }, + { + "epoch": 0.806361829025845, + "grad_norm": 0.29648005962371826, + "learning_rate": 4.162308987849626e-06, + "loss": 0.0015, + "num_input_tokens_seen": 11890040, + "step": 6084 + }, + { + "epoch": 0.80649436713055, + "grad_norm": 4.816892147064209, + "learning_rate": 4.162049691017414e-06, + "loss": 0.117, + "num_input_tokens_seen": 11891992, + "step": 6085 + }, + { + "epoch": 0.8066269052352552, + "grad_norm": 13.150874137878418, + "learning_rate": 4.161790362139737e-06, + "loss": 0.3357, + "num_input_tokens_seen": 11893904, + "step": 6086 + }, + { + "epoch": 0.8067594433399602, + "grad_norm": 3.5175275802612305, + "learning_rate": 4.161531001221596e-06, + "loss": 0.0696, + "num_input_tokens_seen": 11895408, + "step": 6087 + }, + { + "epoch": 0.8068919814446653, + "grad_norm": 1.1539913415908813, + "learning_rate": 4.161271608267991e-06, + "loss": 0.0065, + "num_input_tokens_seen": 11896872, + "step": 6088 + }, + { + "epoch": 0.8070245195493705, + "grad_norm": 4.928594589233398, + "learning_rate": 4.161012183283922e-06, + "loss": 0.1082, + "num_input_tokens_seen": 11899640, + "step": 6089 + }, + { + "epoch": 0.8071570576540755, + "grad_norm": 5.266086101531982, + "learning_rate": 4.1607527262743945e-06, + "loss": 0.1278, + "num_input_tokens_seen": 11902232, + "step": 6090 + }, + { + "epoch": 0.8072895957587807, + "grad_norm": 13.122448921203613, + "learning_rate": 4.160493237244407e-06, + "loss": 0.5917, + "num_input_tokens_seen": 11905120, + "step": 6091 + }, + { + "epoch": 0.8074221338634857, + "grad_norm": 6.496933937072754, + "learning_rate": 4.160233716198965e-06, + "loss": 0.2639, + "num_input_tokens_seen": 11907368, + "step": 6092 + }, + { + "epoch": 0.8075546719681909, + "grad_norm": 8.79826545715332, + "learning_rate": 4.159974163143071e-06, + "loss": 0.203, + "num_input_tokens_seen": 11909240, + "step": 6093 + }, + { + "epoch": 0.807687210072896, + "grad_norm": 2.6826932430267334, + "learning_rate": 4.1597145780817305e-06, + "loss": 0.0179, + "num_input_tokens_seen": 11910624, + "step": 6094 + }, + { + "epoch": 0.807819748177601, + "grad_norm": 13.007667541503906, + "learning_rate": 4.159454961019948e-06, + "loss": 0.4548, + "num_input_tokens_seen": 11913536, + "step": 6095 + }, + { + "epoch": 0.8079522862823062, + "grad_norm": 0.010204214602708817, + "learning_rate": 4.159195311962729e-06, + "loss": 0.0001, + "num_input_tokens_seen": 11915048, + "step": 6096 + }, + { + "epoch": 0.8080848243870112, + "grad_norm": 2.3493385314941406, + "learning_rate": 4.158935630915079e-06, + "loss": 0.0396, + "num_input_tokens_seen": 11916928, + "step": 6097 + }, + { + "epoch": 0.8082173624917164, + "grad_norm": 0.04768723249435425, + "learning_rate": 4.158675917882007e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11919176, + "step": 6098 + }, + { + "epoch": 0.8083499005964214, + "grad_norm": 0.18017545342445374, + "learning_rate": 4.158416172868518e-06, + "loss": 0.0013, + "num_input_tokens_seen": 11920520, + "step": 6099 + }, + { + "epoch": 0.8084824387011266, + "grad_norm": 6.926924228668213, + "learning_rate": 4.1581563958796214e-06, + "loss": 0.183, + "num_input_tokens_seen": 11922336, + "step": 6100 + }, + { + "epoch": 0.8086149768058317, + "grad_norm": 6.996441841125488, + "learning_rate": 4.157896586920326e-06, + "loss": 0.2006, + "num_input_tokens_seen": 11923912, + "step": 6101 + }, + { + "epoch": 0.8087475149105368, + "grad_norm": 0.028820473700761795, + "learning_rate": 4.15763674599564e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11926768, + "step": 6102 + }, + { + "epoch": 0.8088800530152419, + "grad_norm": 4.1112494468688965, + "learning_rate": 4.157376873110575e-06, + "loss": 0.1544, + "num_input_tokens_seen": 11928672, + "step": 6103 + }, + { + "epoch": 0.8090125911199469, + "grad_norm": 9.680543899536133, + "learning_rate": 4.157116968270139e-06, + "loss": 0.4302, + "num_input_tokens_seen": 11930680, + "step": 6104 + }, + { + "epoch": 0.8091451292246521, + "grad_norm": 0.05377503111958504, + "learning_rate": 4.156857031479346e-06, + "loss": 0.0003, + "num_input_tokens_seen": 11932328, + "step": 6105 + }, + { + "epoch": 0.8092776673293572, + "grad_norm": 5.878805160522461, + "learning_rate": 4.156597062743206e-06, + "loss": 0.2099, + "num_input_tokens_seen": 11934520, + "step": 6106 + }, + { + "epoch": 0.8094102054340623, + "grad_norm": 9.819246292114258, + "learning_rate": 4.156337062066731e-06, + "loss": 0.196, + "num_input_tokens_seen": 11936528, + "step": 6107 + }, + { + "epoch": 0.8095427435387674, + "grad_norm": 13.29173469543457, + "learning_rate": 4.156077029454936e-06, + "loss": 0.6531, + "num_input_tokens_seen": 11939320, + "step": 6108 + }, + { + "epoch": 0.8096752816434725, + "grad_norm": 8.720046043395996, + "learning_rate": 4.155816964912833e-06, + "loss": 0.1242, + "num_input_tokens_seen": 11941464, + "step": 6109 + }, + { + "epoch": 0.8098078197481776, + "grad_norm": 7.567434787750244, + "learning_rate": 4.155556868445436e-06, + "loss": 0.3019, + "num_input_tokens_seen": 11944960, + "step": 6110 + }, + { + "epoch": 0.8099403578528827, + "grad_norm": 8.137965202331543, + "learning_rate": 4.155296740057761e-06, + "loss": 0.2041, + "num_input_tokens_seen": 11947040, + "step": 6111 + }, + { + "epoch": 0.8100728959575878, + "grad_norm": 5.043724536895752, + "learning_rate": 4.155036579754823e-06, + "loss": 0.1823, + "num_input_tokens_seen": 11949168, + "step": 6112 + }, + { + "epoch": 0.810205434062293, + "grad_norm": 0.033044882118701935, + "learning_rate": 4.154776387541638e-06, + "loss": 0.0002, + "num_input_tokens_seen": 11950448, + "step": 6113 + }, + { + "epoch": 0.810337972166998, + "grad_norm": 14.120488166809082, + "learning_rate": 4.154516163423223e-06, + "loss": 0.6416, + "num_input_tokens_seen": 11952840, + "step": 6114 + }, + { + "epoch": 0.8104705102717031, + "grad_norm": 10.699670791625977, + "learning_rate": 4.154255907404594e-06, + "loss": 0.3801, + "num_input_tokens_seen": 11955528, + "step": 6115 + }, + { + "epoch": 0.8106030483764082, + "grad_norm": 6.677476406097412, + "learning_rate": 4.153995619490771e-06, + "loss": 0.1422, + "num_input_tokens_seen": 11958104, + "step": 6116 + }, + { + "epoch": 0.8107355864811133, + "grad_norm": 0.1786443442106247, + "learning_rate": 4.153735299686771e-06, + "loss": 0.0012, + "num_input_tokens_seen": 11960128, + "step": 6117 + }, + { + "epoch": 0.8108681245858185, + "grad_norm": 0.21194416284561157, + "learning_rate": 4.153474947997613e-06, + "loss": 0.0015, + "num_input_tokens_seen": 11961648, + "step": 6118 + }, + { + "epoch": 0.8110006626905235, + "grad_norm": 0.0890662670135498, + "learning_rate": 4.1532145644283185e-06, + "loss": 0.0006, + "num_input_tokens_seen": 11963808, + "step": 6119 + }, + { + "epoch": 0.8111332007952287, + "grad_norm": 5.785924434661865, + "learning_rate": 4.152954148983905e-06, + "loss": 0.1664, + "num_input_tokens_seen": 11966352, + "step": 6120 + }, + { + "epoch": 0.8112657388999337, + "grad_norm": 13.983939170837402, + "learning_rate": 4.1526937016693966e-06, + "loss": 0.5277, + "num_input_tokens_seen": 11967856, + "step": 6121 + }, + { + "epoch": 0.8113982770046388, + "grad_norm": 0.5992397665977478, + "learning_rate": 4.152433222489814e-06, + "loss": 0.0086, + "num_input_tokens_seen": 11969632, + "step": 6122 + }, + { + "epoch": 0.8115308151093439, + "grad_norm": 8.290929794311523, + "learning_rate": 4.152172711450177e-06, + "loss": 0.2758, + "num_input_tokens_seen": 11972592, + "step": 6123 + }, + { + "epoch": 0.811663353214049, + "grad_norm": 5.982214450836182, + "learning_rate": 4.151912168555512e-06, + "loss": 0.1672, + "num_input_tokens_seen": 11974464, + "step": 6124 + }, + { + "epoch": 0.8117958913187542, + "grad_norm": 9.645614624023438, + "learning_rate": 4.151651593810839e-06, + "loss": 0.1947, + "num_input_tokens_seen": 11976792, + "step": 6125 + }, + { + "epoch": 0.8119284294234592, + "grad_norm": 8.89342975616455, + "learning_rate": 4.151390987221186e-06, + "loss": 0.1046, + "num_input_tokens_seen": 11978360, + "step": 6126 + }, + { + "epoch": 0.8120609675281644, + "grad_norm": 11.050488471984863, + "learning_rate": 4.151130348791575e-06, + "loss": 0.1653, + "num_input_tokens_seen": 11979904, + "step": 6127 + }, + { + "epoch": 0.8121935056328694, + "grad_norm": 0.1010405495762825, + "learning_rate": 4.1508696785270305e-06, + "loss": 0.0007, + "num_input_tokens_seen": 11981496, + "step": 6128 + }, + { + "epoch": 0.8123260437375746, + "grad_norm": 7.351529598236084, + "learning_rate": 4.150608976432581e-06, + "loss": 0.2574, + "num_input_tokens_seen": 11983512, + "step": 6129 + }, + { + "epoch": 0.8124585818422797, + "grad_norm": 14.337509155273438, + "learning_rate": 4.1503482425132505e-06, + "loss": 0.399, + "num_input_tokens_seen": 11984856, + "step": 6130 + }, + { + "epoch": 0.8125911199469847, + "grad_norm": 1.2829574346542358, + "learning_rate": 4.150087476774068e-06, + "loss": 0.0097, + "num_input_tokens_seen": 11986368, + "step": 6131 + }, + { + "epoch": 0.8127236580516899, + "grad_norm": 6.408889293670654, + "learning_rate": 4.149826679220061e-06, + "loss": 0.0725, + "num_input_tokens_seen": 11989712, + "step": 6132 + }, + { + "epoch": 0.8128561961563949, + "grad_norm": 13.214240074157715, + "learning_rate": 4.149565849856257e-06, + "loss": 0.644, + "num_input_tokens_seen": 11991832, + "step": 6133 + }, + { + "epoch": 0.8129887342611001, + "grad_norm": 11.497636795043945, + "learning_rate": 4.149304988687687e-06, + "loss": 0.5024, + "num_input_tokens_seen": 11994296, + "step": 6134 + }, + { + "epoch": 0.8131212723658051, + "grad_norm": 0.38540008664131165, + "learning_rate": 4.149044095719377e-06, + "loss": 0.0027, + "num_input_tokens_seen": 11995480, + "step": 6135 + }, + { + "epoch": 0.8132538104705103, + "grad_norm": 1.937770128250122, + "learning_rate": 4.14878317095636e-06, + "loss": 0.0332, + "num_input_tokens_seen": 11996904, + "step": 6136 + }, + { + "epoch": 0.8133863485752154, + "grad_norm": 21.665620803833008, + "learning_rate": 4.148522214403666e-06, + "loss": 0.923, + "num_input_tokens_seen": 11999968, + "step": 6137 + }, + { + "epoch": 0.8135188866799204, + "grad_norm": 14.573948860168457, + "learning_rate": 4.1482612260663255e-06, + "loss": 0.4182, + "num_input_tokens_seen": 12002184, + "step": 6138 + }, + { + "epoch": 0.8136514247846256, + "grad_norm": 0.11547131091356277, + "learning_rate": 4.148000205949373e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12003376, + "step": 6139 + }, + { + "epoch": 0.8137839628893306, + "grad_norm": 9.716676712036133, + "learning_rate": 4.147739154057839e-06, + "loss": 0.4965, + "num_input_tokens_seen": 12006416, + "step": 6140 + }, + { + "epoch": 0.8139165009940358, + "grad_norm": 0.15690559148788452, + "learning_rate": 4.147478070396758e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12007872, + "step": 6141 + }, + { + "epoch": 0.8140490390987409, + "grad_norm": 2.881154775619507, + "learning_rate": 4.147216954971162e-06, + "loss": 0.1374, + "num_input_tokens_seen": 12010432, + "step": 6142 + }, + { + "epoch": 0.814181577203446, + "grad_norm": 9.406018257141113, + "learning_rate": 4.146955807786087e-06, + "loss": 0.2384, + "num_input_tokens_seen": 12012256, + "step": 6143 + }, + { + "epoch": 0.8143141153081511, + "grad_norm": 7.63559627532959, + "learning_rate": 4.146694628846569e-06, + "loss": 0.3628, + "num_input_tokens_seen": 12014264, + "step": 6144 + }, + { + "epoch": 0.8144466534128562, + "grad_norm": 4.916349411010742, + "learning_rate": 4.146433418157642e-06, + "loss": 0.0664, + "num_input_tokens_seen": 12016056, + "step": 6145 + }, + { + "epoch": 0.8145791915175613, + "grad_norm": 0.33672434091567993, + "learning_rate": 4.1461721757243425e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12019368, + "step": 6146 + }, + { + "epoch": 0.8147117296222665, + "grad_norm": 13.336397171020508, + "learning_rate": 4.145910901551708e-06, + "loss": 0.2492, + "num_input_tokens_seen": 12021984, + "step": 6147 + }, + { + "epoch": 0.8148442677269715, + "grad_norm": 0.3371427059173584, + "learning_rate": 4.145649595644776e-06, + "loss": 0.0023, + "num_input_tokens_seen": 12023856, + "step": 6148 + }, + { + "epoch": 0.8149768058316766, + "grad_norm": 4.515292167663574, + "learning_rate": 4.145388258008584e-06, + "loss": 0.0275, + "num_input_tokens_seen": 12026448, + "step": 6149 + }, + { + "epoch": 0.8151093439363817, + "grad_norm": 0.22956888377666473, + "learning_rate": 4.145126888648172e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12027816, + "step": 6150 + }, + { + "epoch": 0.8152418820410868, + "grad_norm": 9.099516868591309, + "learning_rate": 4.144865487568578e-06, + "loss": 0.4176, + "num_input_tokens_seen": 12029328, + "step": 6151 + }, + { + "epoch": 0.8153744201457919, + "grad_norm": 5.425027847290039, + "learning_rate": 4.1446040547748435e-06, + "loss": 0.0546, + "num_input_tokens_seen": 12031128, + "step": 6152 + }, + { + "epoch": 0.815506958250497, + "grad_norm": 4.941423416137695, + "learning_rate": 4.144342590272008e-06, + "loss": 0.0538, + "num_input_tokens_seen": 12032576, + "step": 6153 + }, + { + "epoch": 0.8156394963552022, + "grad_norm": 8.356847763061523, + "learning_rate": 4.144081094065112e-06, + "loss": 0.154, + "num_input_tokens_seen": 12034648, + "step": 6154 + }, + { + "epoch": 0.8157720344599072, + "grad_norm": 6.338788986206055, + "learning_rate": 4.1438195661592e-06, + "loss": 0.319, + "num_input_tokens_seen": 12036168, + "step": 6155 + }, + { + "epoch": 0.8159045725646124, + "grad_norm": 9.516143798828125, + "learning_rate": 4.143558006559311e-06, + "loss": 0.1796, + "num_input_tokens_seen": 12039152, + "step": 6156 + }, + { + "epoch": 0.8160371106693174, + "grad_norm": 19.02674674987793, + "learning_rate": 4.1432964152704915e-06, + "loss": 0.7778, + "num_input_tokens_seen": 12041864, + "step": 6157 + }, + { + "epoch": 0.8161696487740225, + "grad_norm": 0.10304267704486847, + "learning_rate": 4.143034792297782e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12043800, + "step": 6158 + }, + { + "epoch": 0.8163021868787277, + "grad_norm": 2.870968818664551, + "learning_rate": 4.142773137646229e-06, + "loss": 0.0965, + "num_input_tokens_seen": 12045144, + "step": 6159 + }, + { + "epoch": 0.8164347249834327, + "grad_norm": 10.343827247619629, + "learning_rate": 4.142511451320876e-06, + "loss": 0.2154, + "num_input_tokens_seen": 12046568, + "step": 6160 + }, + { + "epoch": 0.8165672630881379, + "grad_norm": 10.063755989074707, + "learning_rate": 4.14224973332677e-06, + "loss": 0.3229, + "num_input_tokens_seen": 12048384, + "step": 6161 + }, + { + "epoch": 0.8166998011928429, + "grad_norm": 15.415332794189453, + "learning_rate": 4.141987983668956e-06, + "loss": 0.4824, + "num_input_tokens_seen": 12050080, + "step": 6162 + }, + { + "epoch": 0.8168323392975481, + "grad_norm": 6.238321781158447, + "learning_rate": 4.1417262023524805e-06, + "loss": 0.2326, + "num_input_tokens_seen": 12051912, + "step": 6163 + }, + { + "epoch": 0.8169648774022531, + "grad_norm": 7.972569942474365, + "learning_rate": 4.141464389382392e-06, + "loss": 0.1352, + "num_input_tokens_seen": 12053912, + "step": 6164 + }, + { + "epoch": 0.8170974155069582, + "grad_norm": 0.061879269778728485, + "learning_rate": 4.141202544763737e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12055336, + "step": 6165 + }, + { + "epoch": 0.8172299536116634, + "grad_norm": 0.14086776971817017, + "learning_rate": 4.140940668501565e-06, + "loss": 0.001, + "num_input_tokens_seen": 12057592, + "step": 6166 + }, + { + "epoch": 0.8173624917163684, + "grad_norm": 0.07263222336769104, + "learning_rate": 4.140678760600925e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12059168, + "step": 6167 + }, + { + "epoch": 0.8174950298210736, + "grad_norm": 10.398987770080566, + "learning_rate": 4.140416821066866e-06, + "loss": 0.3898, + "num_input_tokens_seen": 12061072, + "step": 6168 + }, + { + "epoch": 0.8176275679257786, + "grad_norm": 2.268773317337036, + "learning_rate": 4.140154849904439e-06, + "loss": 0.0175, + "num_input_tokens_seen": 12062640, + "step": 6169 + }, + { + "epoch": 0.8177601060304838, + "grad_norm": 13.757884979248047, + "learning_rate": 4.1398928471186955e-06, + "loss": 0.4122, + "num_input_tokens_seen": 12064776, + "step": 6170 + }, + { + "epoch": 0.8178926441351889, + "grad_norm": 0.17335061728954315, + "learning_rate": 4.139630812714687e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12066648, + "step": 6171 + }, + { + "epoch": 0.818025182239894, + "grad_norm": 0.4240673780441284, + "learning_rate": 4.139368746697464e-06, + "loss": 0.0029, + "num_input_tokens_seen": 12068488, + "step": 6172 + }, + { + "epoch": 0.8181577203445991, + "grad_norm": 0.35706931352615356, + "learning_rate": 4.139106649072082e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12069968, + "step": 6173 + }, + { + "epoch": 0.8182902584493041, + "grad_norm": 0.09763240069150925, + "learning_rate": 4.138844519843593e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12071504, + "step": 6174 + }, + { + "epoch": 0.8184227965540093, + "grad_norm": 8.46609878540039, + "learning_rate": 4.1385823590170505e-06, + "loss": 0.231, + "num_input_tokens_seen": 12072744, + "step": 6175 + }, + { + "epoch": 0.8185553346587143, + "grad_norm": 0.08261913061141968, + "learning_rate": 4.138320166597509e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12074736, + "step": 6176 + }, + { + "epoch": 0.8186878727634195, + "grad_norm": 12.54770565032959, + "learning_rate": 4.138057942590026e-06, + "loss": 0.2753, + "num_input_tokens_seen": 12077296, + "step": 6177 + }, + { + "epoch": 0.8188204108681246, + "grad_norm": 0.351381778717041, + "learning_rate": 4.137795686999655e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12079920, + "step": 6178 + }, + { + "epoch": 0.8189529489728297, + "grad_norm": 8.909554481506348, + "learning_rate": 4.137533399831453e-06, + "loss": 0.1311, + "num_input_tokens_seen": 12082016, + "step": 6179 + }, + { + "epoch": 0.8190854870775348, + "grad_norm": 10.467844009399414, + "learning_rate": 4.137271081090478e-06, + "loss": 0.3334, + "num_input_tokens_seen": 12084024, + "step": 6180 + }, + { + "epoch": 0.8192180251822399, + "grad_norm": 15.41341781616211, + "learning_rate": 4.1370087307817865e-06, + "loss": 0.4528, + "num_input_tokens_seen": 12086088, + "step": 6181 + }, + { + "epoch": 0.819350563286945, + "grad_norm": 4.557136058807373, + "learning_rate": 4.136746348910438e-06, + "loss": 0.058, + "num_input_tokens_seen": 12089128, + "step": 6182 + }, + { + "epoch": 0.8194831013916501, + "grad_norm": 13.68031120300293, + "learning_rate": 4.136483935481491e-06, + "loss": 0.2493, + "num_input_tokens_seen": 12091664, + "step": 6183 + }, + { + "epoch": 0.8196156394963552, + "grad_norm": 0.34771475195884705, + "learning_rate": 4.1362214905000045e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12093784, + "step": 6184 + }, + { + "epoch": 0.8197481776010603, + "grad_norm": 0.03295198827981949, + "learning_rate": 4.135959013971038e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12095192, + "step": 6185 + }, + { + "epoch": 0.8198807157057654, + "grad_norm": 7.492112636566162, + "learning_rate": 4.135696505899654e-06, + "loss": 0.2562, + "num_input_tokens_seen": 12097168, + "step": 6186 + }, + { + "epoch": 0.8200132538104705, + "grad_norm": 0.05433334782719612, + "learning_rate": 4.135433966290912e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12098400, + "step": 6187 + }, + { + "epoch": 0.8201457919151756, + "grad_norm": 5.8571882247924805, + "learning_rate": 4.135171395149876e-06, + "loss": 0.1314, + "num_input_tokens_seen": 12100392, + "step": 6188 + }, + { + "epoch": 0.8202783300198807, + "grad_norm": 2.2193994522094727, + "learning_rate": 4.134908792481607e-06, + "loss": 0.0486, + "num_input_tokens_seen": 12103456, + "step": 6189 + }, + { + "epoch": 0.8204108681245859, + "grad_norm": 0.10799624770879745, + "learning_rate": 4.1346461582911686e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12105256, + "step": 6190 + }, + { + "epoch": 0.8205434062292909, + "grad_norm": 8.882286071777344, + "learning_rate": 4.134383492583625e-06, + "loss": 0.4695, + "num_input_tokens_seen": 12107232, + "step": 6191 + }, + { + "epoch": 0.820675944333996, + "grad_norm": 0.07522015273571014, + "learning_rate": 4.13412079536404e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12108976, + "step": 6192 + }, + { + "epoch": 0.8208084824387011, + "grad_norm": 3.9227962493896484, + "learning_rate": 4.133858066637478e-06, + "loss": 0.1063, + "num_input_tokens_seen": 12111720, + "step": 6193 + }, + { + "epoch": 0.8209410205434062, + "grad_norm": 9.348179817199707, + "learning_rate": 4.133595306409006e-06, + "loss": 0.3153, + "num_input_tokens_seen": 12113416, + "step": 6194 + }, + { + "epoch": 0.8210735586481114, + "grad_norm": 2.6346051692962646, + "learning_rate": 4.133332514683689e-06, + "loss": 0.0197, + "num_input_tokens_seen": 12115136, + "step": 6195 + }, + { + "epoch": 0.8212060967528164, + "grad_norm": 0.04772911220788956, + "learning_rate": 4.1330696914665954e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12116416, + "step": 6196 + }, + { + "epoch": 0.8213386348575216, + "grad_norm": 3.1681723594665527, + "learning_rate": 4.132806836762791e-06, + "loss": 0.0919, + "num_input_tokens_seen": 12118000, + "step": 6197 + }, + { + "epoch": 0.8214711729622266, + "grad_norm": 12.629515647888184, + "learning_rate": 4.132543950577344e-06, + "loss": 0.2717, + "num_input_tokens_seen": 12119944, + "step": 6198 + }, + { + "epoch": 0.8216037110669318, + "grad_norm": 11.544231414794922, + "learning_rate": 4.132281032915324e-06, + "loss": 0.6901, + "num_input_tokens_seen": 12122712, + "step": 6199 + }, + { + "epoch": 0.8217362491716369, + "grad_norm": 9.117243766784668, + "learning_rate": 4.132018083781799e-06, + "loss": 0.2474, + "num_input_tokens_seen": 12124904, + "step": 6200 + }, + { + "epoch": 0.8218687872763419, + "grad_norm": 2.8727691173553467, + "learning_rate": 4.13175510318184e-06, + "loss": 0.0433, + "num_input_tokens_seen": 12126360, + "step": 6201 + }, + { + "epoch": 0.8220013253810471, + "grad_norm": 10.489371299743652, + "learning_rate": 4.131492091120517e-06, + "loss": 0.4187, + "num_input_tokens_seen": 12128312, + "step": 6202 + }, + { + "epoch": 0.8221338634857521, + "grad_norm": 5.456762790679932, + "learning_rate": 4.131229047602901e-06, + "loss": 0.165, + "num_input_tokens_seen": 12130192, + "step": 6203 + }, + { + "epoch": 0.8222664015904573, + "grad_norm": 0.09675624966621399, + "learning_rate": 4.130965972634063e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12132224, + "step": 6204 + }, + { + "epoch": 0.8223989396951623, + "grad_norm": 6.89369535446167, + "learning_rate": 4.130702866219076e-06, + "loss": 0.1046, + "num_input_tokens_seen": 12134528, + "step": 6205 + }, + { + "epoch": 0.8225314777998675, + "grad_norm": 5.970261096954346, + "learning_rate": 4.1304397283630125e-06, + "loss": 0.1615, + "num_input_tokens_seen": 12136392, + "step": 6206 + }, + { + "epoch": 0.8226640159045726, + "grad_norm": 4.487571716308594, + "learning_rate": 4.1301765590709475e-06, + "loss": 0.0366, + "num_input_tokens_seen": 12137752, + "step": 6207 + }, + { + "epoch": 0.8227965540092776, + "grad_norm": 2.5095205307006836, + "learning_rate": 4.129913358347952e-06, + "loss": 0.0435, + "num_input_tokens_seen": 12138920, + "step": 6208 + }, + { + "epoch": 0.8229290921139828, + "grad_norm": 5.72824239730835, + "learning_rate": 4.129650126199104e-06, + "loss": 0.2694, + "num_input_tokens_seen": 12141088, + "step": 6209 + }, + { + "epoch": 0.8230616302186878, + "grad_norm": 14.83043098449707, + "learning_rate": 4.129386862629477e-06, + "loss": 0.4705, + "num_input_tokens_seen": 12143632, + "step": 6210 + }, + { + "epoch": 0.823194168323393, + "grad_norm": 11.735869407653809, + "learning_rate": 4.129123567644148e-06, + "loss": 0.3842, + "num_input_tokens_seen": 12145664, + "step": 6211 + }, + { + "epoch": 0.8233267064280981, + "grad_norm": 6.481836795806885, + "learning_rate": 4.128860241248191e-06, + "loss": 0.1997, + "num_input_tokens_seen": 12147920, + "step": 6212 + }, + { + "epoch": 0.8234592445328032, + "grad_norm": 7.761951923370361, + "learning_rate": 4.128596883446686e-06, + "loss": 0.445, + "num_input_tokens_seen": 12150056, + "step": 6213 + }, + { + "epoch": 0.8235917826375083, + "grad_norm": 6.926527976989746, + "learning_rate": 4.128333494244709e-06, + "loss": 0.2015, + "num_input_tokens_seen": 12151896, + "step": 6214 + }, + { + "epoch": 0.8237243207422134, + "grad_norm": 10.51961612701416, + "learning_rate": 4.12807007364734e-06, + "loss": 0.4099, + "num_input_tokens_seen": 12153432, + "step": 6215 + }, + { + "epoch": 0.8238568588469185, + "grad_norm": 7.494429111480713, + "learning_rate": 4.127806621659656e-06, + "loss": 0.169, + "num_input_tokens_seen": 12155384, + "step": 6216 + }, + { + "epoch": 0.8239893969516235, + "grad_norm": 0.5483980774879456, + "learning_rate": 4.127543138286738e-06, + "loss": 0.0039, + "num_input_tokens_seen": 12157496, + "step": 6217 + }, + { + "epoch": 0.8241219350563287, + "grad_norm": 13.005352020263672, + "learning_rate": 4.127279623533664e-06, + "loss": 0.3503, + "num_input_tokens_seen": 12159496, + "step": 6218 + }, + { + "epoch": 0.8242544731610338, + "grad_norm": 8.437920570373535, + "learning_rate": 4.127016077405517e-06, + "loss": 0.2606, + "num_input_tokens_seen": 12161224, + "step": 6219 + }, + { + "epoch": 0.8243870112657389, + "grad_norm": 4.138315200805664, + "learning_rate": 4.126752499907378e-06, + "loss": 0.0276, + "num_input_tokens_seen": 12163248, + "step": 6220 + }, + { + "epoch": 0.824519549370444, + "grad_norm": 8.378972053527832, + "learning_rate": 4.126488891044329e-06, + "loss": 0.1636, + "num_input_tokens_seen": 12165200, + "step": 6221 + }, + { + "epoch": 0.8246520874751491, + "grad_norm": 1.0396136045455933, + "learning_rate": 4.126225250821451e-06, + "loss": 0.0078, + "num_input_tokens_seen": 12166784, + "step": 6222 + }, + { + "epoch": 0.8247846255798542, + "grad_norm": 5.494361400604248, + "learning_rate": 4.125961579243829e-06, + "loss": 0.1194, + "num_input_tokens_seen": 12169216, + "step": 6223 + }, + { + "epoch": 0.8249171636845594, + "grad_norm": 0.8125260472297668, + "learning_rate": 4.125697876316546e-06, + "loss": 0.0061, + "num_input_tokens_seen": 12171288, + "step": 6224 + }, + { + "epoch": 0.8250497017892644, + "grad_norm": 9.584872245788574, + "learning_rate": 4.125434142044687e-06, + "loss": 0.3961, + "num_input_tokens_seen": 12173496, + "step": 6225 + }, + { + "epoch": 0.8251822398939695, + "grad_norm": 11.020746231079102, + "learning_rate": 4.125170376433335e-06, + "loss": 0.2975, + "num_input_tokens_seen": 12175976, + "step": 6226 + }, + { + "epoch": 0.8253147779986746, + "grad_norm": 0.5590848326683044, + "learning_rate": 4.124906579487578e-06, + "loss": 0.004, + "num_input_tokens_seen": 12177616, + "step": 6227 + }, + { + "epoch": 0.8254473161033797, + "grad_norm": 3.3342487812042236, + "learning_rate": 4.124642751212501e-06, + "loss": 0.0244, + "num_input_tokens_seen": 12178920, + "step": 6228 + }, + { + "epoch": 0.8255798542080848, + "grad_norm": 5.280827045440674, + "learning_rate": 4.1243788916131905e-06, + "loss": 0.2066, + "num_input_tokens_seen": 12180184, + "step": 6229 + }, + { + "epoch": 0.8257123923127899, + "grad_norm": 0.30848872661590576, + "learning_rate": 4.124115000694735e-06, + "loss": 0.0023, + "num_input_tokens_seen": 12182208, + "step": 6230 + }, + { + "epoch": 0.8258449304174951, + "grad_norm": 5.568369388580322, + "learning_rate": 4.123851078462221e-06, + "loss": 0.0861, + "num_input_tokens_seen": 12184800, + "step": 6231 + }, + { + "epoch": 0.8259774685222001, + "grad_norm": 2.4100353717803955, + "learning_rate": 4.123587124920739e-06, + "loss": 0.0175, + "num_input_tokens_seen": 12187248, + "step": 6232 + }, + { + "epoch": 0.8261100066269053, + "grad_norm": 9.171369552612305, + "learning_rate": 4.123323140075377e-06, + "loss": 0.1491, + "num_input_tokens_seen": 12189368, + "step": 6233 + }, + { + "epoch": 0.8262425447316103, + "grad_norm": 0.213578462600708, + "learning_rate": 4.123059123931224e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12191008, + "step": 6234 + }, + { + "epoch": 0.8263750828363154, + "grad_norm": 5.748342037200928, + "learning_rate": 4.122795076493373e-06, + "loss": 0.2569, + "num_input_tokens_seen": 12193320, + "step": 6235 + }, + { + "epoch": 0.8265076209410206, + "grad_norm": 5.8942999839782715, + "learning_rate": 4.1225309977669125e-06, + "loss": 0.2039, + "num_input_tokens_seen": 12195136, + "step": 6236 + }, + { + "epoch": 0.8266401590457256, + "grad_norm": 3.219637155532837, + "learning_rate": 4.122266887756935e-06, + "loss": 0.0601, + "num_input_tokens_seen": 12196824, + "step": 6237 + }, + { + "epoch": 0.8267726971504308, + "grad_norm": 10.456040382385254, + "learning_rate": 4.122002746468532e-06, + "loss": 0.4008, + "num_input_tokens_seen": 12199280, + "step": 6238 + }, + { + "epoch": 0.8269052352551358, + "grad_norm": 4.665362358093262, + "learning_rate": 4.121738573906799e-06, + "loss": 0.1367, + "num_input_tokens_seen": 12201104, + "step": 6239 + }, + { + "epoch": 0.827037773359841, + "grad_norm": 0.05203327164053917, + "learning_rate": 4.121474370076825e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12203400, + "step": 6240 + }, + { + "epoch": 0.827170311464546, + "grad_norm": 13.856741905212402, + "learning_rate": 4.121210134983709e-06, + "loss": 0.3902, + "num_input_tokens_seen": 12205216, + "step": 6241 + }, + { + "epoch": 0.8273028495692512, + "grad_norm": 11.38778018951416, + "learning_rate": 4.120945868632542e-06, + "loss": 0.3487, + "num_input_tokens_seen": 12207368, + "step": 6242 + }, + { + "epoch": 0.8274353876739563, + "grad_norm": 12.541460037231445, + "learning_rate": 4.120681571028421e-06, + "loss": 0.4703, + "num_input_tokens_seen": 12209104, + "step": 6243 + }, + { + "epoch": 0.8275679257786613, + "grad_norm": 6.679209232330322, + "learning_rate": 4.12041724217644e-06, + "loss": 0.1269, + "num_input_tokens_seen": 12211080, + "step": 6244 + }, + { + "epoch": 0.8277004638833665, + "grad_norm": 8.423904418945312, + "learning_rate": 4.120152882081698e-06, + "loss": 0.2557, + "num_input_tokens_seen": 12212848, + "step": 6245 + }, + { + "epoch": 0.8278330019880715, + "grad_norm": 7.195593357086182, + "learning_rate": 4.119888490749291e-06, + "loss": 0.284, + "num_input_tokens_seen": 12214840, + "step": 6246 + }, + { + "epoch": 0.8279655400927767, + "grad_norm": 0.030502120032906532, + "learning_rate": 4.119624068184314e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12216216, + "step": 6247 + }, + { + "epoch": 0.8280980781974818, + "grad_norm": 5.737765789031982, + "learning_rate": 4.11935961439187e-06, + "loss": 0.0997, + "num_input_tokens_seen": 12218600, + "step": 6248 + }, + { + "epoch": 0.8282306163021869, + "grad_norm": 8.605488777160645, + "learning_rate": 4.1190951293770555e-06, + "loss": 0.1571, + "num_input_tokens_seen": 12220712, + "step": 6249 + }, + { + "epoch": 0.828363154406892, + "grad_norm": 13.504863739013672, + "learning_rate": 4.118830613144969e-06, + "loss": 0.385, + "num_input_tokens_seen": 12223048, + "step": 6250 + }, + { + "epoch": 0.828495692511597, + "grad_norm": 5.494770526885986, + "learning_rate": 4.118566065700712e-06, + "loss": 0.163, + "num_input_tokens_seen": 12225320, + "step": 6251 + }, + { + "epoch": 0.8286282306163022, + "grad_norm": 2.2683663368225098, + "learning_rate": 4.118301487049385e-06, + "loss": 0.0251, + "num_input_tokens_seen": 12228208, + "step": 6252 + }, + { + "epoch": 0.8287607687210072, + "grad_norm": 9.019432067871094, + "learning_rate": 4.118036877196087e-06, + "loss": 0.2643, + "num_input_tokens_seen": 12230168, + "step": 6253 + }, + { + "epoch": 0.8288933068257124, + "grad_norm": 13.964994430541992, + "learning_rate": 4.117772236145924e-06, + "loss": 0.4196, + "num_input_tokens_seen": 12233344, + "step": 6254 + }, + { + "epoch": 0.8290258449304175, + "grad_norm": 5.32543420791626, + "learning_rate": 4.1175075639039955e-06, + "loss": 0.1, + "num_input_tokens_seen": 12235376, + "step": 6255 + }, + { + "epoch": 0.8291583830351226, + "grad_norm": 0.0760633572936058, + "learning_rate": 4.117242860475405e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12236968, + "step": 6256 + }, + { + "epoch": 0.8292909211398277, + "grad_norm": 4.2061944007873535, + "learning_rate": 4.116978125865257e-06, + "loss": 0.0341, + "num_input_tokens_seen": 12238080, + "step": 6257 + }, + { + "epoch": 0.8294234592445328, + "grad_norm": 1.437563419342041, + "learning_rate": 4.116713360078655e-06, + "loss": 0.0099, + "num_input_tokens_seen": 12239736, + "step": 6258 + }, + { + "epoch": 0.8295559973492379, + "grad_norm": 3.3553242683410645, + "learning_rate": 4.116448563120703e-06, + "loss": 0.0942, + "num_input_tokens_seen": 12241320, + "step": 6259 + }, + { + "epoch": 0.829688535453943, + "grad_norm": 12.096250534057617, + "learning_rate": 4.11618373499651e-06, + "loss": 0.4797, + "num_input_tokens_seen": 12243536, + "step": 6260 + }, + { + "epoch": 0.8298210735586481, + "grad_norm": 0.10807611048221588, + "learning_rate": 4.115918875711177e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12245728, + "step": 6261 + }, + { + "epoch": 0.8299536116633532, + "grad_norm": 0.16108787059783936, + "learning_rate": 4.115653985269815e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12248584, + "step": 6262 + }, + { + "epoch": 0.8300861497680583, + "grad_norm": 0.08902917802333832, + "learning_rate": 4.115389063677529e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12250312, + "step": 6263 + }, + { + "epoch": 0.8302186878727634, + "grad_norm": 1.0257246494293213, + "learning_rate": 4.115124110939428e-06, + "loss": 0.0103, + "num_input_tokens_seen": 12252440, + "step": 6264 + }, + { + "epoch": 0.8303512259774686, + "grad_norm": 0.09052792936563492, + "learning_rate": 4.114859127060619e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12254128, + "step": 6265 + }, + { + "epoch": 0.8304837640821736, + "grad_norm": 0.10972768813371658, + "learning_rate": 4.114594112046213e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12256784, + "step": 6266 + }, + { + "epoch": 0.8306163021868788, + "grad_norm": 4.139855861663818, + "learning_rate": 4.114329065901318e-06, + "loss": 0.0647, + "num_input_tokens_seen": 12258640, + "step": 6267 + }, + { + "epoch": 0.8307488402915838, + "grad_norm": 10.520730018615723, + "learning_rate": 4.114063988631045e-06, + "loss": 0.3175, + "num_input_tokens_seen": 12260560, + "step": 6268 + }, + { + "epoch": 0.830881378396289, + "grad_norm": 12.92013168334961, + "learning_rate": 4.1137988802405045e-06, + "loss": 0.2762, + "num_input_tokens_seen": 12262840, + "step": 6269 + }, + { + "epoch": 0.831013916500994, + "grad_norm": 5.192386150360107, + "learning_rate": 4.113533740734808e-06, + "loss": 0.0964, + "num_input_tokens_seen": 12265520, + "step": 6270 + }, + { + "epoch": 0.8311464546056991, + "grad_norm": 0.05114308372139931, + "learning_rate": 4.113268570119069e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12267640, + "step": 6271 + }, + { + "epoch": 0.8312789927104043, + "grad_norm": 3.6195547580718994, + "learning_rate": 4.113003368398399e-06, + "loss": 0.1584, + "num_input_tokens_seen": 12269296, + "step": 6272 + }, + { + "epoch": 0.8314115308151093, + "grad_norm": 11.716181755065918, + "learning_rate": 4.112738135577911e-06, + "loss": 0.5088, + "num_input_tokens_seen": 12271536, + "step": 6273 + }, + { + "epoch": 0.8315440689198145, + "grad_norm": 6.594929218292236, + "learning_rate": 4.112472871662719e-06, + "loss": 0.104, + "num_input_tokens_seen": 12272928, + "step": 6274 + }, + { + "epoch": 0.8316766070245195, + "grad_norm": 11.424931526184082, + "learning_rate": 4.1122075766579385e-06, + "loss": 0.5056, + "num_input_tokens_seen": 12275312, + "step": 6275 + }, + { + "epoch": 0.8318091451292247, + "grad_norm": 7.557201385498047, + "learning_rate": 4.111942250568682e-06, + "loss": 0.2129, + "num_input_tokens_seen": 12277224, + "step": 6276 + }, + { + "epoch": 0.8319416832339298, + "grad_norm": 10.103591918945312, + "learning_rate": 4.111676893400069e-06, + "loss": 0.4211, + "num_input_tokens_seen": 12278760, + "step": 6277 + }, + { + "epoch": 0.8320742213386348, + "grad_norm": 3.9535558223724365, + "learning_rate": 4.111411505157211e-06, + "loss": 0.0977, + "num_input_tokens_seen": 12280744, + "step": 6278 + }, + { + "epoch": 0.83220675944334, + "grad_norm": 8.658276557922363, + "learning_rate": 4.111146085845229e-06, + "loss": 0.3607, + "num_input_tokens_seen": 12282880, + "step": 6279 + }, + { + "epoch": 0.832339297548045, + "grad_norm": 4.8431901931762695, + "learning_rate": 4.11088063546924e-06, + "loss": 0.0953, + "num_input_tokens_seen": 12284408, + "step": 6280 + }, + { + "epoch": 0.8324718356527502, + "grad_norm": 17.915311813354492, + "learning_rate": 4.11061515403436e-06, + "loss": 0.5008, + "num_input_tokens_seen": 12286720, + "step": 6281 + }, + { + "epoch": 0.8326043737574552, + "grad_norm": 10.253244400024414, + "learning_rate": 4.110349641545709e-06, + "loss": 0.3892, + "num_input_tokens_seen": 12288848, + "step": 6282 + }, + { + "epoch": 0.8327369118621604, + "grad_norm": 0.2947631776332855, + "learning_rate": 4.110084098008405e-06, + "loss": 0.0021, + "num_input_tokens_seen": 12290680, + "step": 6283 + }, + { + "epoch": 0.8328694499668655, + "grad_norm": 3.5136497020721436, + "learning_rate": 4.10981852342757e-06, + "loss": 0.0234, + "num_input_tokens_seen": 12292488, + "step": 6284 + }, + { + "epoch": 0.8330019880715706, + "grad_norm": 0.11030790209770203, + "learning_rate": 4.1095529178083225e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12293952, + "step": 6285 + }, + { + "epoch": 0.8331345261762757, + "grad_norm": 0.5135043859481812, + "learning_rate": 4.109287281155785e-06, + "loss": 0.0037, + "num_input_tokens_seen": 12295432, + "step": 6286 + }, + { + "epoch": 0.8332670642809807, + "grad_norm": 6.956450939178467, + "learning_rate": 4.109021613475078e-06, + "loss": 0.2062, + "num_input_tokens_seen": 12296872, + "step": 6287 + }, + { + "epoch": 0.8333996023856859, + "grad_norm": 0.48678722977638245, + "learning_rate": 4.1087559147713255e-06, + "loss": 0.0034, + "num_input_tokens_seen": 12298560, + "step": 6288 + }, + { + "epoch": 0.833532140490391, + "grad_norm": 11.695629119873047, + "learning_rate": 4.108490185049648e-06, + "loss": 0.2915, + "num_input_tokens_seen": 12300720, + "step": 6289 + }, + { + "epoch": 0.8336646785950961, + "grad_norm": 0.07623516768217087, + "learning_rate": 4.10822442431517e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12301816, + "step": 6290 + }, + { + "epoch": 0.8337972166998012, + "grad_norm": 2.603740930557251, + "learning_rate": 4.107958632573016e-06, + "loss": 0.0209, + "num_input_tokens_seen": 12303424, + "step": 6291 + }, + { + "epoch": 0.8339297548045063, + "grad_norm": 3.211172103881836, + "learning_rate": 4.10769280982831e-06, + "loss": 0.0507, + "num_input_tokens_seen": 12304992, + "step": 6292 + }, + { + "epoch": 0.8340622929092114, + "grad_norm": 5.811161518096924, + "learning_rate": 4.107426956086178e-06, + "loss": 0.2022, + "num_input_tokens_seen": 12307400, + "step": 6293 + }, + { + "epoch": 0.8341948310139164, + "grad_norm": 7.342547416687012, + "learning_rate": 4.107161071351745e-06, + "loss": 0.299, + "num_input_tokens_seen": 12310224, + "step": 6294 + }, + { + "epoch": 0.8343273691186216, + "grad_norm": 8.435735702514648, + "learning_rate": 4.106895155630138e-06, + "loss": 0.1423, + "num_input_tokens_seen": 12312480, + "step": 6295 + }, + { + "epoch": 0.8344599072233267, + "grad_norm": 0.1092458963394165, + "learning_rate": 4.1066292089264845e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12315384, + "step": 6296 + }, + { + "epoch": 0.8345924453280318, + "grad_norm": 5.305521488189697, + "learning_rate": 4.106363231245911e-06, + "loss": 0.0456, + "num_input_tokens_seen": 12317504, + "step": 6297 + }, + { + "epoch": 0.8347249834327369, + "grad_norm": 8.580910682678223, + "learning_rate": 4.1060972225935455e-06, + "loss": 0.155, + "num_input_tokens_seen": 12319744, + "step": 6298 + }, + { + "epoch": 0.834857521537442, + "grad_norm": 0.22852346301078796, + "learning_rate": 4.105831182974518e-06, + "loss": 0.0016, + "num_input_tokens_seen": 12321160, + "step": 6299 + }, + { + "epoch": 0.8349900596421471, + "grad_norm": 5.1165289878845215, + "learning_rate": 4.105565112393958e-06, + "loss": 0.1637, + "num_input_tokens_seen": 12323952, + "step": 6300 + }, + { + "epoch": 0.8351225977468523, + "grad_norm": 5.195356369018555, + "learning_rate": 4.105299010856995e-06, + "loss": 0.0787, + "num_input_tokens_seen": 12325240, + "step": 6301 + }, + { + "epoch": 0.8352551358515573, + "grad_norm": 3.7653090953826904, + "learning_rate": 4.105032878368759e-06, + "loss": 0.0738, + "num_input_tokens_seen": 12327568, + "step": 6302 + }, + { + "epoch": 0.8353876739562625, + "grad_norm": 0.12128431349992752, + "learning_rate": 4.104766714934383e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12329216, + "step": 6303 + }, + { + "epoch": 0.8355202120609675, + "grad_norm": 5.701632022857666, + "learning_rate": 4.1045005205589965e-06, + "loss": 0.1953, + "num_input_tokens_seen": 12331056, + "step": 6304 + }, + { + "epoch": 0.8356527501656726, + "grad_norm": 0.14814801514148712, + "learning_rate": 4.1042342952477334e-06, + "loss": 0.001, + "num_input_tokens_seen": 12334528, + "step": 6305 + }, + { + "epoch": 0.8357852882703777, + "grad_norm": 2.8101770877838135, + "learning_rate": 4.103968039005726e-06, + "loss": 0.0961, + "num_input_tokens_seen": 12336864, + "step": 6306 + }, + { + "epoch": 0.8359178263750828, + "grad_norm": 4.956212043762207, + "learning_rate": 4.103701751838108e-06, + "loss": 0.1834, + "num_input_tokens_seen": 12338688, + "step": 6307 + }, + { + "epoch": 0.836050364479788, + "grad_norm": 0.09347277134656906, + "learning_rate": 4.103435433750015e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12340000, + "step": 6308 + }, + { + "epoch": 0.836182902584493, + "grad_norm": 4.287031650543213, + "learning_rate": 4.10316908474658e-06, + "loss": 0.0396, + "num_input_tokens_seen": 12341976, + "step": 6309 + }, + { + "epoch": 0.8363154406891982, + "grad_norm": 11.563910484313965, + "learning_rate": 4.10290270483294e-06, + "loss": 0.3212, + "num_input_tokens_seen": 12344072, + "step": 6310 + }, + { + "epoch": 0.8364479787939032, + "grad_norm": 5.998438835144043, + "learning_rate": 4.1026362940142285e-06, + "loss": 0.1157, + "num_input_tokens_seen": 12346728, + "step": 6311 + }, + { + "epoch": 0.8365805168986084, + "grad_norm": 5.664106369018555, + "learning_rate": 4.102369852295584e-06, + "loss": 0.1563, + "num_input_tokens_seen": 12348424, + "step": 6312 + }, + { + "epoch": 0.8367130550033135, + "grad_norm": 11.986909866333008, + "learning_rate": 4.102103379682145e-06, + "loss": 0.2022, + "num_input_tokens_seen": 12350160, + "step": 6313 + }, + { + "epoch": 0.8368455931080185, + "grad_norm": 6.839475154876709, + "learning_rate": 4.1018368761790465e-06, + "loss": 0.1315, + "num_input_tokens_seen": 12351456, + "step": 6314 + }, + { + "epoch": 0.8369781312127237, + "grad_norm": 11.530745506286621, + "learning_rate": 4.1015703417914275e-06, + "loss": 0.2328, + "num_input_tokens_seen": 12353112, + "step": 6315 + }, + { + "epoch": 0.8371106693174287, + "grad_norm": 6.243917465209961, + "learning_rate": 4.101303776524428e-06, + "loss": 0.0768, + "num_input_tokens_seen": 12355976, + "step": 6316 + }, + { + "epoch": 0.8372432074221339, + "grad_norm": 0.14724506437778473, + "learning_rate": 4.101037180383187e-06, + "loss": 0.001, + "num_input_tokens_seen": 12357456, + "step": 6317 + }, + { + "epoch": 0.837375745526839, + "grad_norm": 0.04850737750530243, + "learning_rate": 4.100770553372844e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12359176, + "step": 6318 + }, + { + "epoch": 0.8375082836315441, + "grad_norm": 1.7291908264160156, + "learning_rate": 4.100503895498542e-06, + "loss": 0.0293, + "num_input_tokens_seen": 12360840, + "step": 6319 + }, + { + "epoch": 0.8376408217362492, + "grad_norm": 0.3062196373939514, + "learning_rate": 4.100237206765419e-06, + "loss": 0.0022, + "num_input_tokens_seen": 12362696, + "step": 6320 + }, + { + "epoch": 0.8377733598409542, + "grad_norm": 12.664523124694824, + "learning_rate": 4.09997048717862e-06, + "loss": 0.543, + "num_input_tokens_seen": 12363968, + "step": 6321 + }, + { + "epoch": 0.8379058979456594, + "grad_norm": 0.22374042868614197, + "learning_rate": 4.099703736743285e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12365408, + "step": 6322 + }, + { + "epoch": 0.8380384360503644, + "grad_norm": 0.6678643822669983, + "learning_rate": 4.099436955464559e-06, + "loss": 0.0142, + "num_input_tokens_seen": 12368328, + "step": 6323 + }, + { + "epoch": 0.8381709741550696, + "grad_norm": 5.0025858879089355, + "learning_rate": 4.099170143347585e-06, + "loss": 0.1092, + "num_input_tokens_seen": 12370520, + "step": 6324 + }, + { + "epoch": 0.8383035122597747, + "grad_norm": 7.469423770904541, + "learning_rate": 4.098903300397508e-06, + "loss": 0.0721, + "num_input_tokens_seen": 12372152, + "step": 6325 + }, + { + "epoch": 0.8384360503644798, + "grad_norm": 19.086153030395508, + "learning_rate": 4.0986364266194714e-06, + "loss": 0.2658, + "num_input_tokens_seen": 12373944, + "step": 6326 + }, + { + "epoch": 0.8385685884691849, + "grad_norm": 8.217903137207031, + "learning_rate": 4.098369522018623e-06, + "loss": 0.0947, + "num_input_tokens_seen": 12376040, + "step": 6327 + }, + { + "epoch": 0.83870112657389, + "grad_norm": 7.327276706695557, + "learning_rate": 4.098102586600106e-06, + "loss": 0.1314, + "num_input_tokens_seen": 12377768, + "step": 6328 + }, + { + "epoch": 0.8388336646785951, + "grad_norm": 6.97507381439209, + "learning_rate": 4.097835620369069e-06, + "loss": 0.1231, + "num_input_tokens_seen": 12379712, + "step": 6329 + }, + { + "epoch": 0.8389662027833003, + "grad_norm": 0.08070863783359528, + "learning_rate": 4.09756862333066e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12381432, + "step": 6330 + }, + { + "epoch": 0.8390987408880053, + "grad_norm": 10.349992752075195, + "learning_rate": 4.097301595490025e-06, + "loss": 0.1958, + "num_input_tokens_seen": 12382848, + "step": 6331 + }, + { + "epoch": 0.8392312789927104, + "grad_norm": 1.6803542375564575, + "learning_rate": 4.097034536852313e-06, + "loss": 0.017, + "num_input_tokens_seen": 12384072, + "step": 6332 + }, + { + "epoch": 0.8393638170974155, + "grad_norm": 8.359085083007812, + "learning_rate": 4.096767447422674e-06, + "loss": 0.2623, + "num_input_tokens_seen": 12386240, + "step": 6333 + }, + { + "epoch": 0.8394963552021206, + "grad_norm": 6.7387213706970215, + "learning_rate": 4.096500327206257e-06, + "loss": 0.0492, + "num_input_tokens_seen": 12388184, + "step": 6334 + }, + { + "epoch": 0.8396288933068257, + "grad_norm": 10.887840270996094, + "learning_rate": 4.0962331762082125e-06, + "loss": 0.3014, + "num_input_tokens_seen": 12390080, + "step": 6335 + }, + { + "epoch": 0.8397614314115308, + "grad_norm": 0.38680610060691833, + "learning_rate": 4.095965994433691e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12391488, + "step": 6336 + }, + { + "epoch": 0.839893969516236, + "grad_norm": 7.741716384887695, + "learning_rate": 4.095698781887844e-06, + "loss": 0.1921, + "num_input_tokens_seen": 12394640, + "step": 6337 + }, + { + "epoch": 0.840026507620941, + "grad_norm": 8.093084335327148, + "learning_rate": 4.095431538575824e-06, + "loss": 0.2131, + "num_input_tokens_seen": 12397216, + "step": 6338 + }, + { + "epoch": 0.8401590457256461, + "grad_norm": 0.13176777958869934, + "learning_rate": 4.095164264502783e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12398896, + "step": 6339 + }, + { + "epoch": 0.8402915838303512, + "grad_norm": 17.86504364013672, + "learning_rate": 4.094896959673874e-06, + "loss": 0.6013, + "num_input_tokens_seen": 12401120, + "step": 6340 + }, + { + "epoch": 0.8404241219350563, + "grad_norm": 6.097297668457031, + "learning_rate": 4.094629624094252e-06, + "loss": 0.2176, + "num_input_tokens_seen": 12402920, + "step": 6341 + }, + { + "epoch": 0.8405566600397615, + "grad_norm": 15.754793167114258, + "learning_rate": 4.094362257769071e-06, + "loss": 0.5255, + "num_input_tokens_seen": 12405088, + "step": 6342 + }, + { + "epoch": 0.8406891981444665, + "grad_norm": 5.362997531890869, + "learning_rate": 4.094094860703485e-06, + "loss": 0.1026, + "num_input_tokens_seen": 12406496, + "step": 6343 + }, + { + "epoch": 0.8408217362491717, + "grad_norm": 7.831585884094238, + "learning_rate": 4.093827432902652e-06, + "loss": 0.1421, + "num_input_tokens_seen": 12408384, + "step": 6344 + }, + { + "epoch": 0.8409542743538767, + "grad_norm": 4.709921360015869, + "learning_rate": 4.093559974371725e-06, + "loss": 0.0376, + "num_input_tokens_seen": 12410120, + "step": 6345 + }, + { + "epoch": 0.8410868124585819, + "grad_norm": 5.881486415863037, + "learning_rate": 4.093292485115863e-06, + "loss": 0.3001, + "num_input_tokens_seen": 12411776, + "step": 6346 + }, + { + "epoch": 0.8412193505632869, + "grad_norm": 10.681548118591309, + "learning_rate": 4.093024965140222e-06, + "loss": 0.1459, + "num_input_tokens_seen": 12413504, + "step": 6347 + }, + { + "epoch": 0.841351888667992, + "grad_norm": 16.900562286376953, + "learning_rate": 4.092757414449961e-06, + "loss": 0.4993, + "num_input_tokens_seen": 12415088, + "step": 6348 + }, + { + "epoch": 0.8414844267726972, + "grad_norm": 3.6904962062835693, + "learning_rate": 4.0924898330502384e-06, + "loss": 0.0745, + "num_input_tokens_seen": 12418152, + "step": 6349 + }, + { + "epoch": 0.8416169648774022, + "grad_norm": 4.910851955413818, + "learning_rate": 4.092222220946214e-06, + "loss": 0.0575, + "num_input_tokens_seen": 12420728, + "step": 6350 + }, + { + "epoch": 0.8417495029821074, + "grad_norm": 9.716824531555176, + "learning_rate": 4.091954578143045e-06, + "loss": 0.4016, + "num_input_tokens_seen": 12423104, + "step": 6351 + }, + { + "epoch": 0.8418820410868124, + "grad_norm": 7.391814708709717, + "learning_rate": 4.091686904645895e-06, + "loss": 0.3463, + "num_input_tokens_seen": 12425408, + "step": 6352 + }, + { + "epoch": 0.8420145791915176, + "grad_norm": 6.142772674560547, + "learning_rate": 4.091419200459923e-06, + "loss": 0.1157, + "num_input_tokens_seen": 12427376, + "step": 6353 + }, + { + "epoch": 0.8421471172962227, + "grad_norm": 4.738673686981201, + "learning_rate": 4.091151465590291e-06, + "loss": 0.0355, + "num_input_tokens_seen": 12429464, + "step": 6354 + }, + { + "epoch": 0.8422796554009278, + "grad_norm": 4.7116875648498535, + "learning_rate": 4.090883700042161e-06, + "loss": 0.091, + "num_input_tokens_seen": 12431000, + "step": 6355 + }, + { + "epoch": 0.8424121935056329, + "grad_norm": 8.040979385375977, + "learning_rate": 4.090615903820695e-06, + "loss": 0.1254, + "num_input_tokens_seen": 12433184, + "step": 6356 + }, + { + "epoch": 0.8425447316103379, + "grad_norm": 6.648922920227051, + "learning_rate": 4.0903480769310586e-06, + "loss": 0.2189, + "num_input_tokens_seen": 12434864, + "step": 6357 + }, + { + "epoch": 0.8426772697150431, + "grad_norm": 6.222167015075684, + "learning_rate": 4.090080219378413e-06, + "loss": 0.1567, + "num_input_tokens_seen": 12437576, + "step": 6358 + }, + { + "epoch": 0.8428098078197481, + "grad_norm": 0.3987060785293579, + "learning_rate": 4.0898123311679244e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12438880, + "step": 6359 + }, + { + "epoch": 0.8429423459244533, + "grad_norm": 22.511449813842773, + "learning_rate": 4.0895444123047575e-06, + "loss": 0.6172, + "num_input_tokens_seen": 12440880, + "step": 6360 + }, + { + "epoch": 0.8430748840291584, + "grad_norm": 0.560621440410614, + "learning_rate": 4.089276462794078e-06, + "loss": 0.004, + "num_input_tokens_seen": 12442280, + "step": 6361 + }, + { + "epoch": 0.8432074221338635, + "grad_norm": 4.715240478515625, + "learning_rate": 4.08900848264105e-06, + "loss": 0.0843, + "num_input_tokens_seen": 12444552, + "step": 6362 + }, + { + "epoch": 0.8433399602385686, + "grad_norm": 0.4060814678668976, + "learning_rate": 4.088740471850844e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12445872, + "step": 6363 + }, + { + "epoch": 0.8434724983432736, + "grad_norm": 10.1954345703125, + "learning_rate": 4.088472430428625e-06, + "loss": 0.2563, + "num_input_tokens_seen": 12447544, + "step": 6364 + }, + { + "epoch": 0.8436050364479788, + "grad_norm": 8.777548789978027, + "learning_rate": 4.088204358379561e-06, + "loss": 0.33, + "num_input_tokens_seen": 12449584, + "step": 6365 + }, + { + "epoch": 0.8437375745526839, + "grad_norm": 0.23675388097763062, + "learning_rate": 4.087936255708823e-06, + "loss": 0.0016, + "num_input_tokens_seen": 12450784, + "step": 6366 + }, + { + "epoch": 0.843870112657389, + "grad_norm": 0.4394167959690094, + "learning_rate": 4.087668122421578e-06, + "loss": 0.003, + "num_input_tokens_seen": 12451864, + "step": 6367 + }, + { + "epoch": 0.8440026507620941, + "grad_norm": 11.21150016784668, + "learning_rate": 4.087399958522996e-06, + "loss": 0.5494, + "num_input_tokens_seen": 12453736, + "step": 6368 + }, + { + "epoch": 0.8441351888667992, + "grad_norm": 5.191708087921143, + "learning_rate": 4.0871317640182475e-06, + "loss": 0.1093, + "num_input_tokens_seen": 12455128, + "step": 6369 + }, + { + "epoch": 0.8442677269715043, + "grad_norm": 1.7173802852630615, + "learning_rate": 4.086863538912505e-06, + "loss": 0.0474, + "num_input_tokens_seen": 12456664, + "step": 6370 + }, + { + "epoch": 0.8444002650762094, + "grad_norm": 10.677254676818848, + "learning_rate": 4.0865952832109365e-06, + "loss": 0.2191, + "num_input_tokens_seen": 12458480, + "step": 6371 + }, + { + "epoch": 0.8445328031809145, + "grad_norm": 3.9512228965759277, + "learning_rate": 4.0863269969187184e-06, + "loss": 0.1005, + "num_input_tokens_seen": 12460112, + "step": 6372 + }, + { + "epoch": 0.8446653412856197, + "grad_norm": 0.15595698356628418, + "learning_rate": 4.086058680041021e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12461208, + "step": 6373 + }, + { + "epoch": 0.8447978793903247, + "grad_norm": 15.256954193115234, + "learning_rate": 4.085790332583017e-06, + "loss": 0.4555, + "num_input_tokens_seen": 12463504, + "step": 6374 + }, + { + "epoch": 0.8449304174950298, + "grad_norm": 2.1838645935058594, + "learning_rate": 4.085521954549883e-06, + "loss": 0.0509, + "num_input_tokens_seen": 12465216, + "step": 6375 + }, + { + "epoch": 0.8450629555997349, + "grad_norm": 6.342325687408447, + "learning_rate": 4.085253545946791e-06, + "loss": 0.1477, + "num_input_tokens_seen": 12467056, + "step": 6376 + }, + { + "epoch": 0.84519549370444, + "grad_norm": 13.239951133728027, + "learning_rate": 4.084985106778916e-06, + "loss": 0.2052, + "num_input_tokens_seen": 12468456, + "step": 6377 + }, + { + "epoch": 0.8453280318091452, + "grad_norm": 0.18500353395938873, + "learning_rate": 4.084716637051437e-06, + "loss": 0.0013, + "num_input_tokens_seen": 12469712, + "step": 6378 + }, + { + "epoch": 0.8454605699138502, + "grad_norm": 11.335220336914062, + "learning_rate": 4.084448136769526e-06, + "loss": 0.4316, + "num_input_tokens_seen": 12472136, + "step": 6379 + }, + { + "epoch": 0.8455931080185554, + "grad_norm": 8.607227325439453, + "learning_rate": 4.084179605938363e-06, + "loss": 0.2958, + "num_input_tokens_seen": 12474144, + "step": 6380 + }, + { + "epoch": 0.8457256461232604, + "grad_norm": 12.615630149841309, + "learning_rate": 4.083911044563124e-06, + "loss": 0.3634, + "num_input_tokens_seen": 12476256, + "step": 6381 + }, + { + "epoch": 0.8458581842279655, + "grad_norm": 12.320110321044922, + "learning_rate": 4.083642452648987e-06, + "loss": 0.5625, + "num_input_tokens_seen": 12478512, + "step": 6382 + }, + { + "epoch": 0.8459907223326707, + "grad_norm": 14.719356536865234, + "learning_rate": 4.083373830201131e-06, + "loss": 0.4323, + "num_input_tokens_seen": 12480024, + "step": 6383 + }, + { + "epoch": 0.8461232604373757, + "grad_norm": 13.87115478515625, + "learning_rate": 4.083105177224737e-06, + "loss": 0.6382, + "num_input_tokens_seen": 12482072, + "step": 6384 + }, + { + "epoch": 0.8462557985420809, + "grad_norm": 9.822617530822754, + "learning_rate": 4.082836493724981e-06, + "loss": 0.1321, + "num_input_tokens_seen": 12484040, + "step": 6385 + }, + { + "epoch": 0.8463883366467859, + "grad_norm": 9.058950424194336, + "learning_rate": 4.082567779707046e-06, + "loss": 0.3669, + "num_input_tokens_seen": 12486720, + "step": 6386 + }, + { + "epoch": 0.8465208747514911, + "grad_norm": 0.40007105469703674, + "learning_rate": 4.082299035176112e-06, + "loss": 0.0026, + "num_input_tokens_seen": 12488408, + "step": 6387 + }, + { + "epoch": 0.8466534128561961, + "grad_norm": 4.104454040527344, + "learning_rate": 4.082030260137363e-06, + "loss": 0.0285, + "num_input_tokens_seen": 12490520, + "step": 6388 + }, + { + "epoch": 0.8467859509609013, + "grad_norm": 0.9374334216117859, + "learning_rate": 4.081761454595977e-06, + "loss": 0.0065, + "num_input_tokens_seen": 12492240, + "step": 6389 + }, + { + "epoch": 0.8469184890656064, + "grad_norm": 5.622342109680176, + "learning_rate": 4.08149261855714e-06, + "loss": 0.0694, + "num_input_tokens_seen": 12493920, + "step": 6390 + }, + { + "epoch": 0.8470510271703114, + "grad_norm": 0.704146683216095, + "learning_rate": 4.081223752026034e-06, + "loss": 0.0048, + "num_input_tokens_seen": 12495496, + "step": 6391 + }, + { + "epoch": 0.8471835652750166, + "grad_norm": 0.24329940974712372, + "learning_rate": 4.080954855007843e-06, + "loss": 0.0017, + "num_input_tokens_seen": 12497168, + "step": 6392 + }, + { + "epoch": 0.8473161033797216, + "grad_norm": 8.780317306518555, + "learning_rate": 4.080685927507752e-06, + "loss": 0.2158, + "num_input_tokens_seen": 12499088, + "step": 6393 + }, + { + "epoch": 0.8474486414844268, + "grad_norm": 11.403813362121582, + "learning_rate": 4.080416969530947e-06, + "loss": 0.2141, + "num_input_tokens_seen": 12501536, + "step": 6394 + }, + { + "epoch": 0.8475811795891319, + "grad_norm": 4.885720252990723, + "learning_rate": 4.0801479810826115e-06, + "loss": 0.1458, + "num_input_tokens_seen": 12502968, + "step": 6395 + }, + { + "epoch": 0.847713717693837, + "grad_norm": 6.20463752746582, + "learning_rate": 4.079878962167932e-06, + "loss": 0.2197, + "num_input_tokens_seen": 12505432, + "step": 6396 + }, + { + "epoch": 0.8478462557985421, + "grad_norm": 10.271278381347656, + "learning_rate": 4.079609912792097e-06, + "loss": 0.1384, + "num_input_tokens_seen": 12507392, + "step": 6397 + }, + { + "epoch": 0.8479787939032472, + "grad_norm": 10.539252281188965, + "learning_rate": 4.079340832960294e-06, + "loss": 0.3962, + "num_input_tokens_seen": 12509520, + "step": 6398 + }, + { + "epoch": 0.8481113320079523, + "grad_norm": 0.10395228862762451, + "learning_rate": 4.0790717226777095e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12511248, + "step": 6399 + }, + { + "epoch": 0.8482438701126573, + "grad_norm": 7.647186756134033, + "learning_rate": 4.078802581949532e-06, + "loss": 0.1773, + "num_input_tokens_seen": 12514072, + "step": 6400 + }, + { + "epoch": 0.8483764082173625, + "grad_norm": 4.427883625030518, + "learning_rate": 4.078533410780952e-06, + "loss": 0.1244, + "num_input_tokens_seen": 12516136, + "step": 6401 + }, + { + "epoch": 0.8485089463220676, + "grad_norm": 1.6196510791778564, + "learning_rate": 4.07826420917716e-06, + "loss": 0.0092, + "num_input_tokens_seen": 12517880, + "step": 6402 + }, + { + "epoch": 0.8486414844267727, + "grad_norm": 13.98119068145752, + "learning_rate": 4.077994977143345e-06, + "loss": 0.3131, + "num_input_tokens_seen": 12519768, + "step": 6403 + }, + { + "epoch": 0.8487740225314778, + "grad_norm": 5.882109642028809, + "learning_rate": 4.077725714684697e-06, + "loss": 0.2947, + "num_input_tokens_seen": 12522096, + "step": 6404 + }, + { + "epoch": 0.8489065606361829, + "grad_norm": 0.4843659996986389, + "learning_rate": 4.07745642180641e-06, + "loss": 0.003, + "num_input_tokens_seen": 12523376, + "step": 6405 + }, + { + "epoch": 0.849039098740888, + "grad_norm": 3.825468063354492, + "learning_rate": 4.077187098513674e-06, + "loss": 0.0677, + "num_input_tokens_seen": 12525264, + "step": 6406 + }, + { + "epoch": 0.8491716368455932, + "grad_norm": 6.060602188110352, + "learning_rate": 4.076917744811684e-06, + "loss": 0.0626, + "num_input_tokens_seen": 12527192, + "step": 6407 + }, + { + "epoch": 0.8493041749502982, + "grad_norm": 3.4359869956970215, + "learning_rate": 4.07664836070563e-06, + "loss": 0.1188, + "num_input_tokens_seen": 12528416, + "step": 6408 + }, + { + "epoch": 0.8494367130550033, + "grad_norm": 7.520660877227783, + "learning_rate": 4.07637894620071e-06, + "loss": 0.2944, + "num_input_tokens_seen": 12530440, + "step": 6409 + }, + { + "epoch": 0.8495692511597084, + "grad_norm": 8.104143142700195, + "learning_rate": 4.076109501302115e-06, + "loss": 0.1677, + "num_input_tokens_seen": 12532776, + "step": 6410 + }, + { + "epoch": 0.8497017892644135, + "grad_norm": 10.299175262451172, + "learning_rate": 4.075840026015042e-06, + "loss": 0.317, + "num_input_tokens_seen": 12534784, + "step": 6411 + }, + { + "epoch": 0.8498343273691186, + "grad_norm": 0.05123569816350937, + "learning_rate": 4.075570520344686e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12536840, + "step": 6412 + }, + { + "epoch": 0.8499668654738237, + "grad_norm": 0.03352626413106918, + "learning_rate": 4.075300984296244e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12538624, + "step": 6413 + }, + { + "epoch": 0.8500994035785289, + "grad_norm": 6.965059757232666, + "learning_rate": 4.075031417874912e-06, + "loss": 0.189, + "num_input_tokens_seen": 12540312, + "step": 6414 + }, + { + "epoch": 0.8502319416832339, + "grad_norm": 0.02496710605919361, + "learning_rate": 4.074761821085887e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12541680, + "step": 6415 + }, + { + "epoch": 0.850364479787939, + "grad_norm": 0.04955129697918892, + "learning_rate": 4.0744921939343685e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12543032, + "step": 6416 + }, + { + "epoch": 0.8504970178926441, + "grad_norm": 0.01132159773260355, + "learning_rate": 4.074222536425555e-06, + "loss": 0.0001, + "num_input_tokens_seen": 12544128, + "step": 6417 + }, + { + "epoch": 0.8506295559973492, + "grad_norm": 0.05694584921002388, + "learning_rate": 4.0739528485646435e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12545312, + "step": 6418 + }, + { + "epoch": 0.8507620941020544, + "grad_norm": 0.04980907216668129, + "learning_rate": 4.0736831303568356e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12547192, + "step": 6419 + }, + { + "epoch": 0.8508946322067594, + "grad_norm": 7.295020580291748, + "learning_rate": 4.073413381807332e-06, + "loss": 0.0695, + "num_input_tokens_seen": 12548720, + "step": 6420 + }, + { + "epoch": 0.8510271703114646, + "grad_norm": 0.0273525919765234, + "learning_rate": 4.0731436029213326e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12551576, + "step": 6421 + }, + { + "epoch": 0.8511597084161696, + "grad_norm": 0.09279648214578629, + "learning_rate": 4.07287379370404e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12552752, + "step": 6422 + }, + { + "epoch": 0.8512922465208748, + "grad_norm": 0.04769066348671913, + "learning_rate": 4.0726039541606545e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12554496, + "step": 6423 + }, + { + "epoch": 0.8514247846255798, + "grad_norm": 11.368703842163086, + "learning_rate": 4.07233408429638e-06, + "loss": 0.2633, + "num_input_tokens_seen": 12556616, + "step": 6424 + }, + { + "epoch": 0.851557322730285, + "grad_norm": 0.0345623642206192, + "learning_rate": 4.07206418411642e-06, + "loss": 0.0002, + "num_input_tokens_seen": 12558336, + "step": 6425 + }, + { + "epoch": 0.8516898608349901, + "grad_norm": 0.046168696135282516, + "learning_rate": 4.071794253625978e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12559424, + "step": 6426 + }, + { + "epoch": 0.8518223989396951, + "grad_norm": 2.711806535720825, + "learning_rate": 4.071524292830259e-06, + "loss": 0.0732, + "num_input_tokens_seen": 12561656, + "step": 6427 + }, + { + "epoch": 0.8519549370444003, + "grad_norm": 2.3694021701812744, + "learning_rate": 4.071254301734466e-06, + "loss": 0.1042, + "num_input_tokens_seen": 12563560, + "step": 6428 + }, + { + "epoch": 0.8520874751491053, + "grad_norm": 17.226137161254883, + "learning_rate": 4.0709842803438075e-06, + "loss": 0.4848, + "num_input_tokens_seen": 12565064, + "step": 6429 + }, + { + "epoch": 0.8522200132538105, + "grad_norm": 15.364121437072754, + "learning_rate": 4.070714228663488e-06, + "loss": 0.6741, + "num_input_tokens_seen": 12567624, + "step": 6430 + }, + { + "epoch": 0.8523525513585156, + "grad_norm": 6.624318599700928, + "learning_rate": 4.070444146698713e-06, + "loss": 0.1217, + "num_input_tokens_seen": 12570056, + "step": 6431 + }, + { + "epoch": 0.8524850894632207, + "grad_norm": 0.11983751505613327, + "learning_rate": 4.070174034454693e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12572816, + "step": 6432 + }, + { + "epoch": 0.8526176275679258, + "grad_norm": 0.2514071762561798, + "learning_rate": 4.069903891936635e-06, + "loss": 0.0018, + "num_input_tokens_seen": 12574296, + "step": 6433 + }, + { + "epoch": 0.8527501656726308, + "grad_norm": 11.703482627868652, + "learning_rate": 4.069633719149746e-06, + "loss": 0.395, + "num_input_tokens_seen": 12576384, + "step": 6434 + }, + { + "epoch": 0.852882703777336, + "grad_norm": 10.800896644592285, + "learning_rate": 4.0693635160992364e-06, + "loss": 0.2239, + "num_input_tokens_seen": 12579680, + "step": 6435 + }, + { + "epoch": 0.8530152418820411, + "grad_norm": 7.269272327423096, + "learning_rate": 4.069093282790315e-06, + "loss": 0.1074, + "num_input_tokens_seen": 12582664, + "step": 6436 + }, + { + "epoch": 0.8531477799867462, + "grad_norm": 2.0887575149536133, + "learning_rate": 4.068823019228193e-06, + "loss": 0.0044, + "num_input_tokens_seen": 12584632, + "step": 6437 + }, + { + "epoch": 0.8532803180914513, + "grad_norm": 7.457073211669922, + "learning_rate": 4.068552725418081e-06, + "loss": 0.1785, + "num_input_tokens_seen": 12587704, + "step": 6438 + }, + { + "epoch": 0.8534128561961564, + "grad_norm": 0.1505986452102661, + "learning_rate": 4.06828240136519e-06, + "loss": 0.001, + "num_input_tokens_seen": 12589728, + "step": 6439 + }, + { + "epoch": 0.8535453943008615, + "grad_norm": 0.6749204993247986, + "learning_rate": 4.068012047074734e-06, + "loss": 0.0045, + "num_input_tokens_seen": 12591256, + "step": 6440 + }, + { + "epoch": 0.8536779324055666, + "grad_norm": 14.419768333435059, + "learning_rate": 4.067741662551922e-06, + "loss": 0.5766, + "num_input_tokens_seen": 12593728, + "step": 6441 + }, + { + "epoch": 0.8538104705102717, + "grad_norm": 0.5851397514343262, + "learning_rate": 4.067471247801971e-06, + "loss": 0.0033, + "num_input_tokens_seen": 12595872, + "step": 6442 + }, + { + "epoch": 0.8539430086149769, + "grad_norm": 0.1268688440322876, + "learning_rate": 4.067200802830091e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12598408, + "step": 6443 + }, + { + "epoch": 0.8540755467196819, + "grad_norm": 10.444578170776367, + "learning_rate": 4.066930327641499e-06, + "loss": 0.3122, + "num_input_tokens_seen": 12600592, + "step": 6444 + }, + { + "epoch": 0.854208084824387, + "grad_norm": 8.73383903503418, + "learning_rate": 4.06665982224141e-06, + "loss": 0.1723, + "num_input_tokens_seen": 12602832, + "step": 6445 + }, + { + "epoch": 0.8543406229290921, + "grad_norm": 6.050260066986084, + "learning_rate": 4.0663892866350384e-06, + "loss": 0.1812, + "num_input_tokens_seen": 12605264, + "step": 6446 + }, + { + "epoch": 0.8544731610337972, + "grad_norm": 11.662336349487305, + "learning_rate": 4.066118720827601e-06, + "loss": 0.4064, + "num_input_tokens_seen": 12607264, + "step": 6447 + }, + { + "epoch": 0.8546056991385024, + "grad_norm": 12.227848052978516, + "learning_rate": 4.0658481248243144e-06, + "loss": 0.1733, + "num_input_tokens_seen": 12609184, + "step": 6448 + }, + { + "epoch": 0.8547382372432074, + "grad_norm": 13.252177238464355, + "learning_rate": 4.065577498630395e-06, + "loss": 0.4484, + "num_input_tokens_seen": 12611472, + "step": 6449 + }, + { + "epoch": 0.8548707753479126, + "grad_norm": 4.079404830932617, + "learning_rate": 4.065306842251062e-06, + "loss": 0.1024, + "num_input_tokens_seen": 12613360, + "step": 6450 + }, + { + "epoch": 0.8550033134526176, + "grad_norm": 8.79055404663086, + "learning_rate": 4.065036155691533e-06, + "loss": 0.1455, + "num_input_tokens_seen": 12616840, + "step": 6451 + }, + { + "epoch": 0.8551358515573227, + "grad_norm": 7.854814052581787, + "learning_rate": 4.064765438957028e-06, + "loss": 0.279, + "num_input_tokens_seen": 12618656, + "step": 6452 + }, + { + "epoch": 0.8552683896620278, + "grad_norm": 5.607257843017578, + "learning_rate": 4.064494692052765e-06, + "loss": 0.0986, + "num_input_tokens_seen": 12620408, + "step": 6453 + }, + { + "epoch": 0.8554009277667329, + "grad_norm": 8.602025032043457, + "learning_rate": 4.064223914983964e-06, + "loss": 0.2128, + "num_input_tokens_seen": 12622432, + "step": 6454 + }, + { + "epoch": 0.8555334658714381, + "grad_norm": 4.314160346984863, + "learning_rate": 4.063953107755849e-06, + "loss": 0.1272, + "num_input_tokens_seen": 12625280, + "step": 6455 + }, + { + "epoch": 0.8556660039761431, + "grad_norm": 9.911271095275879, + "learning_rate": 4.063682270373638e-06, + "loss": 0.2331, + "num_input_tokens_seen": 12626776, + "step": 6456 + }, + { + "epoch": 0.8557985420808483, + "grad_norm": 0.09800702333450317, + "learning_rate": 4.063411402842554e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12628328, + "step": 6457 + }, + { + "epoch": 0.8559310801855533, + "grad_norm": 4.810177326202393, + "learning_rate": 4.063140505167821e-06, + "loss": 0.0376, + "num_input_tokens_seen": 12629976, + "step": 6458 + }, + { + "epoch": 0.8560636182902585, + "grad_norm": 0.2726171910762787, + "learning_rate": 4.062869577354659e-06, + "loss": 0.002, + "num_input_tokens_seen": 12631536, + "step": 6459 + }, + { + "epoch": 0.8561961563949636, + "grad_norm": 4.750391483306885, + "learning_rate": 4.0625986194082945e-06, + "loss": 0.1273, + "num_input_tokens_seen": 12634160, + "step": 6460 + }, + { + "epoch": 0.8563286944996686, + "grad_norm": 7.9185099601745605, + "learning_rate": 4.0623276313339495e-06, + "loss": 0.0541, + "num_input_tokens_seen": 12636464, + "step": 6461 + }, + { + "epoch": 0.8564612326043738, + "grad_norm": 9.986881256103516, + "learning_rate": 4.0620566131368505e-06, + "loss": 0.1961, + "num_input_tokens_seen": 12638560, + "step": 6462 + }, + { + "epoch": 0.8565937707090788, + "grad_norm": 1.0187216997146606, + "learning_rate": 4.061785564822223e-06, + "loss": 0.0069, + "num_input_tokens_seen": 12640128, + "step": 6463 + }, + { + "epoch": 0.856726308813784, + "grad_norm": 0.28980928659439087, + "learning_rate": 4.061514486395292e-06, + "loss": 0.0018, + "num_input_tokens_seen": 12641176, + "step": 6464 + }, + { + "epoch": 0.856858846918489, + "grad_norm": 8.278011322021484, + "learning_rate": 4.061243377861284e-06, + "loss": 0.2433, + "num_input_tokens_seen": 12643224, + "step": 6465 + }, + { + "epoch": 0.8569913850231942, + "grad_norm": 7.07049036026001, + "learning_rate": 4.060972239225427e-06, + "loss": 0.23, + "num_input_tokens_seen": 12644888, + "step": 6466 + }, + { + "epoch": 0.8571239231278993, + "grad_norm": 8.95526123046875, + "learning_rate": 4.060701070492948e-06, + "loss": 0.1723, + "num_input_tokens_seen": 12647176, + "step": 6467 + }, + { + "epoch": 0.8572564612326043, + "grad_norm": 0.29301607608795166, + "learning_rate": 4.060429871669076e-06, + "loss": 0.0022, + "num_input_tokens_seen": 12648496, + "step": 6468 + }, + { + "epoch": 0.8573889993373095, + "grad_norm": 3.719393253326416, + "learning_rate": 4.06015864275904e-06, + "loss": 0.0853, + "num_input_tokens_seen": 12649920, + "step": 6469 + }, + { + "epoch": 0.8575215374420145, + "grad_norm": 4.546351432800293, + "learning_rate": 4.059887383768069e-06, + "loss": 0.0337, + "num_input_tokens_seen": 12652496, + "step": 6470 + }, + { + "epoch": 0.8576540755467197, + "grad_norm": 1.1764014959335327, + "learning_rate": 4.059616094701393e-06, + "loss": 0.0085, + "num_input_tokens_seen": 12654904, + "step": 6471 + }, + { + "epoch": 0.8577866136514248, + "grad_norm": 4.649127960205078, + "learning_rate": 4.059344775564242e-06, + "loss": 0.0318, + "num_input_tokens_seen": 12656872, + "step": 6472 + }, + { + "epoch": 0.8579191517561299, + "grad_norm": 0.17177623510360718, + "learning_rate": 4.059073426361849e-06, + "loss": 0.0012, + "num_input_tokens_seen": 12658072, + "step": 6473 + }, + { + "epoch": 0.858051689860835, + "grad_norm": 9.098956108093262, + "learning_rate": 4.0588020470994445e-06, + "loss": 0.232, + "num_input_tokens_seen": 12659592, + "step": 6474 + }, + { + "epoch": 0.8581842279655401, + "grad_norm": 7.675487518310547, + "learning_rate": 4.058530637782261e-06, + "loss": 0.2912, + "num_input_tokens_seen": 12661704, + "step": 6475 + }, + { + "epoch": 0.8583167660702452, + "grad_norm": 2.139901876449585, + "learning_rate": 4.058259198415532e-06, + "loss": 0.0469, + "num_input_tokens_seen": 12663120, + "step": 6476 + }, + { + "epoch": 0.8584493041749502, + "grad_norm": 9.362669944763184, + "learning_rate": 4.05798772900449e-06, + "loss": 0.3866, + "num_input_tokens_seen": 12665144, + "step": 6477 + }, + { + "epoch": 0.8585818422796554, + "grad_norm": 3.7443442344665527, + "learning_rate": 4.05771622955437e-06, + "loss": 0.1089, + "num_input_tokens_seen": 12667128, + "step": 6478 + }, + { + "epoch": 0.8587143803843605, + "grad_norm": 4.867796897888184, + "learning_rate": 4.0574447000704065e-06, + "loss": 0.1172, + "num_input_tokens_seen": 12669664, + "step": 6479 + }, + { + "epoch": 0.8588469184890656, + "grad_norm": 0.2032112181186676, + "learning_rate": 4.057173140557835e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12672048, + "step": 6480 + }, + { + "epoch": 0.8589794565937707, + "grad_norm": 5.230216979980469, + "learning_rate": 4.056901551021891e-06, + "loss": 0.1137, + "num_input_tokens_seen": 12673984, + "step": 6481 + }, + { + "epoch": 0.8591119946984758, + "grad_norm": 0.036812663078308105, + "learning_rate": 4.056629931467811e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12675304, + "step": 6482 + }, + { + "epoch": 0.8592445328031809, + "grad_norm": 1.739944338798523, + "learning_rate": 4.056358281900832e-06, + "loss": 0.0721, + "num_input_tokens_seen": 12677376, + "step": 6483 + }, + { + "epoch": 0.8593770709078861, + "grad_norm": 0.04181818291544914, + "learning_rate": 4.056086602326191e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12678800, + "step": 6484 + }, + { + "epoch": 0.8595096090125911, + "grad_norm": 12.245060920715332, + "learning_rate": 4.055814892749128e-06, + "loss": 0.3995, + "num_input_tokens_seen": 12681800, + "step": 6485 + }, + { + "epoch": 0.8596421471172963, + "grad_norm": 0.06919483840465546, + "learning_rate": 4.05554315317488e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12683048, + "step": 6486 + }, + { + "epoch": 0.8597746852220013, + "grad_norm": 17.151813507080078, + "learning_rate": 4.055271383608688e-06, + "loss": 0.5882, + "num_input_tokens_seen": 12684584, + "step": 6487 + }, + { + "epoch": 0.8599072233267064, + "grad_norm": 10.6739501953125, + "learning_rate": 4.0549995840557885e-06, + "loss": 0.1714, + "num_input_tokens_seen": 12686656, + "step": 6488 + }, + { + "epoch": 0.8600397614314115, + "grad_norm": 0.037264417856931686, + "learning_rate": 4.054727754521427e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12687720, + "step": 6489 + }, + { + "epoch": 0.8601722995361166, + "grad_norm": 0.139362633228302, + "learning_rate": 4.05445589501084e-06, + "loss": 0.001, + "num_input_tokens_seen": 12689232, + "step": 6490 + }, + { + "epoch": 0.8603048376408218, + "grad_norm": 0.1307397335767746, + "learning_rate": 4.0541840055292715e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12690880, + "step": 6491 + }, + { + "epoch": 0.8604373757455268, + "grad_norm": 0.31428685784339905, + "learning_rate": 4.0539120860819626e-06, + "loss": 0.0019, + "num_input_tokens_seen": 12693840, + "step": 6492 + }, + { + "epoch": 0.860569913850232, + "grad_norm": 13.333715438842773, + "learning_rate": 4.053640136674157e-06, + "loss": 0.3747, + "num_input_tokens_seen": 12696232, + "step": 6493 + }, + { + "epoch": 0.860702451954937, + "grad_norm": 4.701325416564941, + "learning_rate": 4.053368157311099e-06, + "loss": 0.1121, + "num_input_tokens_seen": 12697472, + "step": 6494 + }, + { + "epoch": 0.8608349900596421, + "grad_norm": 0.10589364171028137, + "learning_rate": 4.05309614799803e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12699344, + "step": 6495 + }, + { + "epoch": 0.8609675281643473, + "grad_norm": 2.107407808303833, + "learning_rate": 4.052824108740195e-06, + "loss": 0.0385, + "num_input_tokens_seen": 12702536, + "step": 6496 + }, + { + "epoch": 0.8611000662690523, + "grad_norm": 4.547866344451904, + "learning_rate": 4.0525520395428415e-06, + "loss": 0.076, + "num_input_tokens_seen": 12704424, + "step": 6497 + }, + { + "epoch": 0.8612326043737575, + "grad_norm": 0.3751016855239868, + "learning_rate": 4.052279940411213e-06, + "loss": 0.0026, + "num_input_tokens_seen": 12706280, + "step": 6498 + }, + { + "epoch": 0.8613651424784625, + "grad_norm": 0.07610476762056351, + "learning_rate": 4.052007811350556e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12708240, + "step": 6499 + }, + { + "epoch": 0.8614976805831677, + "grad_norm": 5.920442581176758, + "learning_rate": 4.05173565236612e-06, + "loss": 0.099, + "num_input_tokens_seen": 12710712, + "step": 6500 + }, + { + "epoch": 0.8616302186878728, + "grad_norm": 9.506125450134277, + "learning_rate": 4.051463463463148e-06, + "loss": 0.4154, + "num_input_tokens_seen": 12712440, + "step": 6501 + }, + { + "epoch": 0.8617627567925779, + "grad_norm": 9.298277854919434, + "learning_rate": 4.05119124464689e-06, + "loss": 0.2139, + "num_input_tokens_seen": 12714832, + "step": 6502 + }, + { + "epoch": 0.861895294897283, + "grad_norm": 6.611032485961914, + "learning_rate": 4.050918995922595e-06, + "loss": 0.2162, + "num_input_tokens_seen": 12718096, + "step": 6503 + }, + { + "epoch": 0.862027833001988, + "grad_norm": 3.853005886077881, + "learning_rate": 4.050646717295513e-06, + "loss": 0.0573, + "num_input_tokens_seen": 12719696, + "step": 6504 + }, + { + "epoch": 0.8621603711066932, + "grad_norm": 3.595113515853882, + "learning_rate": 4.050374408770891e-06, + "loss": 0.0939, + "num_input_tokens_seen": 12721144, + "step": 6505 + }, + { + "epoch": 0.8622929092113982, + "grad_norm": 7.952568531036377, + "learning_rate": 4.0501020703539815e-06, + "loss": 0.2061, + "num_input_tokens_seen": 12723568, + "step": 6506 + }, + { + "epoch": 0.8624254473161034, + "grad_norm": 7.826427936553955, + "learning_rate": 4.049829702050035e-06, + "loss": 0.1264, + "num_input_tokens_seen": 12725624, + "step": 6507 + }, + { + "epoch": 0.8625579854208085, + "grad_norm": 0.2814560830593109, + "learning_rate": 4.049557303864302e-06, + "loss": 0.002, + "num_input_tokens_seen": 12727352, + "step": 6508 + }, + { + "epoch": 0.8626905235255136, + "grad_norm": 11.72397518157959, + "learning_rate": 4.049284875802035e-06, + "loss": 0.3034, + "num_input_tokens_seen": 12729104, + "step": 6509 + }, + { + "epoch": 0.8628230616302187, + "grad_norm": 0.7104626893997192, + "learning_rate": 4.0490124178684884e-06, + "loss": 0.0044, + "num_input_tokens_seen": 12730872, + "step": 6510 + }, + { + "epoch": 0.8629555997349238, + "grad_norm": 4.97479248046875, + "learning_rate": 4.0487399300689126e-06, + "loss": 0.2197, + "num_input_tokens_seen": 12732256, + "step": 6511 + }, + { + "epoch": 0.8630881378396289, + "grad_norm": 15.474020957946777, + "learning_rate": 4.048467412408562e-06, + "loss": 0.9528, + "num_input_tokens_seen": 12735112, + "step": 6512 + }, + { + "epoch": 0.863220675944334, + "grad_norm": 26.950557708740234, + "learning_rate": 4.048194864892693e-06, + "loss": 0.5948, + "num_input_tokens_seen": 12737416, + "step": 6513 + }, + { + "epoch": 0.8633532140490391, + "grad_norm": 8.233342170715332, + "learning_rate": 4.047922287526558e-06, + "loss": 0.1663, + "num_input_tokens_seen": 12739520, + "step": 6514 + }, + { + "epoch": 0.8634857521537442, + "grad_norm": 13.284516334533691, + "learning_rate": 4.047649680315413e-06, + "loss": 0.4027, + "num_input_tokens_seen": 12741696, + "step": 6515 + }, + { + "epoch": 0.8636182902584493, + "grad_norm": 10.333155632019043, + "learning_rate": 4.047377043264515e-06, + "loss": 0.3278, + "num_input_tokens_seen": 12743552, + "step": 6516 + }, + { + "epoch": 0.8637508283631544, + "grad_norm": 4.250310897827148, + "learning_rate": 4.0471043763791205e-06, + "loss": 0.1546, + "num_input_tokens_seen": 12745320, + "step": 6517 + }, + { + "epoch": 0.8638833664678595, + "grad_norm": 4.928708553314209, + "learning_rate": 4.046831679664486e-06, + "loss": 0.1713, + "num_input_tokens_seen": 12747840, + "step": 6518 + }, + { + "epoch": 0.8640159045725646, + "grad_norm": 0.2027350515127182, + "learning_rate": 4.04655895312587e-06, + "loss": 0.0015, + "num_input_tokens_seen": 12749424, + "step": 6519 + }, + { + "epoch": 0.8641484426772698, + "grad_norm": 0.3864472806453705, + "learning_rate": 4.04628619676853e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12750680, + "step": 6520 + }, + { + "epoch": 0.8642809807819748, + "grad_norm": 10.349750518798828, + "learning_rate": 4.046013410597726e-06, + "loss": 0.2658, + "num_input_tokens_seen": 12752376, + "step": 6521 + }, + { + "epoch": 0.8644135188866799, + "grad_norm": 0.39593321084976196, + "learning_rate": 4.045740594618716e-06, + "loss": 0.0029, + "num_input_tokens_seen": 12754912, + "step": 6522 + }, + { + "epoch": 0.864546056991385, + "grad_norm": 10.701123237609863, + "learning_rate": 4.045467748836761e-06, + "loss": 0.4084, + "num_input_tokens_seen": 12757840, + "step": 6523 + }, + { + "epoch": 0.8646785950960901, + "grad_norm": 3.4486422538757324, + "learning_rate": 4.045194873257121e-06, + "loss": 0.1268, + "num_input_tokens_seen": 12759944, + "step": 6524 + }, + { + "epoch": 0.8648111332007953, + "grad_norm": 11.5785493850708, + "learning_rate": 4.04492196788506e-06, + "loss": 0.5669, + "num_input_tokens_seen": 12761624, + "step": 6525 + }, + { + "epoch": 0.8649436713055003, + "grad_norm": 10.358160972595215, + "learning_rate": 4.044649032725836e-06, + "loss": 0.2981, + "num_input_tokens_seen": 12764416, + "step": 6526 + }, + { + "epoch": 0.8650762094102055, + "grad_norm": 12.329428672790527, + "learning_rate": 4.044376067784714e-06, + "loss": 0.0831, + "num_input_tokens_seen": 12766080, + "step": 6527 + }, + { + "epoch": 0.8652087475149105, + "grad_norm": 16.004451751708984, + "learning_rate": 4.044103073066955e-06, + "loss": 0.3266, + "num_input_tokens_seen": 12768784, + "step": 6528 + }, + { + "epoch": 0.8653412856196157, + "grad_norm": 4.590848445892334, + "learning_rate": 4.043830048577825e-06, + "loss": 0.1047, + "num_input_tokens_seen": 12770656, + "step": 6529 + }, + { + "epoch": 0.8654738237243207, + "grad_norm": 8.477762222290039, + "learning_rate": 4.043556994322585e-06, + "loss": 0.2034, + "num_input_tokens_seen": 12772920, + "step": 6530 + }, + { + "epoch": 0.8656063618290258, + "grad_norm": 24.9257755279541, + "learning_rate": 4.0432839103065024e-06, + "loss": 0.515, + "num_input_tokens_seen": 12774904, + "step": 6531 + }, + { + "epoch": 0.865738899933731, + "grad_norm": 14.30213451385498, + "learning_rate": 4.043010796534841e-06, + "loss": 0.3784, + "num_input_tokens_seen": 12776832, + "step": 6532 + }, + { + "epoch": 0.865871438038436, + "grad_norm": 0.14427445828914642, + "learning_rate": 4.042737653012867e-06, + "loss": 0.001, + "num_input_tokens_seen": 12778128, + "step": 6533 + }, + { + "epoch": 0.8660039761431412, + "grad_norm": 0.7226604223251343, + "learning_rate": 4.042464479745847e-06, + "loss": 0.005, + "num_input_tokens_seen": 12780848, + "step": 6534 + }, + { + "epoch": 0.8661365142478462, + "grad_norm": 0.15553000569343567, + "learning_rate": 4.042191276739047e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12783256, + "step": 6535 + }, + { + "epoch": 0.8662690523525514, + "grad_norm": 7.058185577392578, + "learning_rate": 4.041918043997736e-06, + "loss": 0.2448, + "num_input_tokens_seen": 12785360, + "step": 6536 + }, + { + "epoch": 0.8664015904572565, + "grad_norm": 13.322836875915527, + "learning_rate": 4.041644781527181e-06, + "loss": 0.2507, + "num_input_tokens_seen": 12786912, + "step": 6537 + }, + { + "epoch": 0.8665341285619615, + "grad_norm": 0.24811577796936035, + "learning_rate": 4.041371489332652e-06, + "loss": 0.0017, + "num_input_tokens_seen": 12788608, + "step": 6538 + }, + { + "epoch": 0.8666666666666667, + "grad_norm": 13.515686988830566, + "learning_rate": 4.041098167419416e-06, + "loss": 0.3728, + "num_input_tokens_seen": 12790664, + "step": 6539 + }, + { + "epoch": 0.8667992047713717, + "grad_norm": 6.873810768127441, + "learning_rate": 4.040824815792744e-06, + "loss": 0.2274, + "num_input_tokens_seen": 12792784, + "step": 6540 + }, + { + "epoch": 0.8669317428760769, + "grad_norm": 0.2750130891799927, + "learning_rate": 4.040551434457907e-06, + "loss": 0.002, + "num_input_tokens_seen": 12795008, + "step": 6541 + }, + { + "epoch": 0.8670642809807819, + "grad_norm": 9.263015747070312, + "learning_rate": 4.040278023420176e-06, + "loss": 0.2562, + "num_input_tokens_seen": 12796984, + "step": 6542 + }, + { + "epoch": 0.8671968190854871, + "grad_norm": 7.518599510192871, + "learning_rate": 4.040004582684823e-06, + "loss": 0.1288, + "num_input_tokens_seen": 12799688, + "step": 6543 + }, + { + "epoch": 0.8673293571901922, + "grad_norm": 10.655508995056152, + "learning_rate": 4.039731112257118e-06, + "loss": 0.3279, + "num_input_tokens_seen": 12801584, + "step": 6544 + }, + { + "epoch": 0.8674618952948973, + "grad_norm": 0.12241854518651962, + "learning_rate": 4.0394576121423354e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12803864, + "step": 6545 + }, + { + "epoch": 0.8675944333996024, + "grad_norm": 0.6830618381500244, + "learning_rate": 4.039184082345748e-06, + "loss": 0.004, + "num_input_tokens_seen": 12805392, + "step": 6546 + }, + { + "epoch": 0.8677269715043074, + "grad_norm": 12.72492790222168, + "learning_rate": 4.03891052287263e-06, + "loss": 0.5019, + "num_input_tokens_seen": 12806848, + "step": 6547 + }, + { + "epoch": 0.8678595096090126, + "grad_norm": 4.830325126647949, + "learning_rate": 4.038636933728255e-06, + "loss": 0.1417, + "num_input_tokens_seen": 12809000, + "step": 6548 + }, + { + "epoch": 0.8679920477137177, + "grad_norm": 12.862296104431152, + "learning_rate": 4.038363314917898e-06, + "loss": 0.2919, + "num_input_tokens_seen": 12811560, + "step": 6549 + }, + { + "epoch": 0.8681245858184228, + "grad_norm": 8.4625825881958, + "learning_rate": 4.038089666446835e-06, + "loss": 0.2311, + "num_input_tokens_seen": 12813648, + "step": 6550 + }, + { + "epoch": 0.8682571239231279, + "grad_norm": 8.512572288513184, + "learning_rate": 4.037815988320343e-06, + "loss": 0.2296, + "num_input_tokens_seen": 12815544, + "step": 6551 + }, + { + "epoch": 0.868389662027833, + "grad_norm": 0.9187560677528381, + "learning_rate": 4.0375422805436985e-06, + "loss": 0.0063, + "num_input_tokens_seen": 12817136, + "step": 6552 + }, + { + "epoch": 0.8685222001325381, + "grad_norm": 0.10755084455013275, + "learning_rate": 4.037268543122176e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12820040, + "step": 6553 + }, + { + "epoch": 0.8686547382372433, + "grad_norm": 9.333830833435059, + "learning_rate": 4.036994776061058e-06, + "loss": 0.4326, + "num_input_tokens_seen": 12822800, + "step": 6554 + }, + { + "epoch": 0.8687872763419483, + "grad_norm": 6.232413291931152, + "learning_rate": 4.036720979365618e-06, + "loss": 0.1827, + "num_input_tokens_seen": 12824552, + "step": 6555 + }, + { + "epoch": 0.8689198144466534, + "grad_norm": 2.635136127471924, + "learning_rate": 4.036447153041139e-06, + "loss": 0.0235, + "num_input_tokens_seen": 12825960, + "step": 6556 + }, + { + "epoch": 0.8690523525513585, + "grad_norm": 0.15553709864616394, + "learning_rate": 4.036173297092898e-06, + "loss": 0.0011, + "num_input_tokens_seen": 12827768, + "step": 6557 + }, + { + "epoch": 0.8691848906560636, + "grad_norm": 0.10950968414545059, + "learning_rate": 4.035899411526176e-06, + "loss": 0.0008, + "num_input_tokens_seen": 12829232, + "step": 6558 + }, + { + "epoch": 0.8693174287607687, + "grad_norm": 12.491772651672363, + "learning_rate": 4.0356254963462545e-06, + "loss": 0.1866, + "num_input_tokens_seen": 12831400, + "step": 6559 + }, + { + "epoch": 0.8694499668654738, + "grad_norm": 0.16624446213245392, + "learning_rate": 4.035351551558414e-06, + "loss": 0.0012, + "num_input_tokens_seen": 12833024, + "step": 6560 + }, + { + "epoch": 0.869582504970179, + "grad_norm": 4.245083808898926, + "learning_rate": 4.035077577167936e-06, + "loss": 0.0732, + "num_input_tokens_seen": 12834984, + "step": 6561 + }, + { + "epoch": 0.869715043074884, + "grad_norm": 13.102285385131836, + "learning_rate": 4.034803573180104e-06, + "loss": 0.373, + "num_input_tokens_seen": 12836352, + "step": 6562 + }, + { + "epoch": 0.8698475811795892, + "grad_norm": 7.7806291580200195, + "learning_rate": 4.0345295396002e-06, + "loss": 0.1864, + "num_input_tokens_seen": 12837960, + "step": 6563 + }, + { + "epoch": 0.8699801192842942, + "grad_norm": 13.598511695861816, + "learning_rate": 4.0342554764335076e-06, + "loss": 0.2218, + "num_input_tokens_seen": 12840320, + "step": 6564 + }, + { + "epoch": 0.8701126573889993, + "grad_norm": 0.07740826904773712, + "learning_rate": 4.033981383685311e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12841784, + "step": 6565 + }, + { + "epoch": 0.8702451954937045, + "grad_norm": 5.360774517059326, + "learning_rate": 4.033707261360895e-06, + "loss": 0.2601, + "num_input_tokens_seen": 12843264, + "step": 6566 + }, + { + "epoch": 0.8703777335984095, + "grad_norm": 10.747112274169922, + "learning_rate": 4.033433109465545e-06, + "loss": 0.4169, + "num_input_tokens_seen": 12845360, + "step": 6567 + }, + { + "epoch": 0.8705102717031147, + "grad_norm": 5.404027462005615, + "learning_rate": 4.033158928004548e-06, + "loss": 0.1806, + "num_input_tokens_seen": 12847184, + "step": 6568 + }, + { + "epoch": 0.8706428098078197, + "grad_norm": 5.204071998596191, + "learning_rate": 4.032884716983188e-06, + "loss": 0.1198, + "num_input_tokens_seen": 12849880, + "step": 6569 + }, + { + "epoch": 0.8707753479125249, + "grad_norm": 9.670557022094727, + "learning_rate": 4.032610476406753e-06, + "loss": 0.3377, + "num_input_tokens_seen": 12852136, + "step": 6570 + }, + { + "epoch": 0.8709078860172299, + "grad_norm": 7.172330379486084, + "learning_rate": 4.032336206280532e-06, + "loss": 0.227, + "num_input_tokens_seen": 12853704, + "step": 6571 + }, + { + "epoch": 0.871040424121935, + "grad_norm": 5.541779041290283, + "learning_rate": 4.032061906609811e-06, + "loss": 0.2366, + "num_input_tokens_seen": 12855792, + "step": 6572 + }, + { + "epoch": 0.8711729622266402, + "grad_norm": 0.06213773787021637, + "learning_rate": 4.031787577399879e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12857336, + "step": 6573 + }, + { + "epoch": 0.8713055003313452, + "grad_norm": 3.156280755996704, + "learning_rate": 4.031513218656026e-06, + "loss": 0.1074, + "num_input_tokens_seen": 12859496, + "step": 6574 + }, + { + "epoch": 0.8714380384360504, + "grad_norm": 0.046763766556978226, + "learning_rate": 4.0312388303835425e-06, + "loss": 0.0003, + "num_input_tokens_seen": 12861056, + "step": 6575 + }, + { + "epoch": 0.8715705765407554, + "grad_norm": 4.981733322143555, + "learning_rate": 4.030964412587717e-06, + "loss": 0.0966, + "num_input_tokens_seen": 12863544, + "step": 6576 + }, + { + "epoch": 0.8717031146454606, + "grad_norm": 10.443001747131348, + "learning_rate": 4.0306899652738425e-06, + "loss": 0.0955, + "num_input_tokens_seen": 12865536, + "step": 6577 + }, + { + "epoch": 0.8718356527501657, + "grad_norm": 0.08453378081321716, + "learning_rate": 4.030415488447209e-06, + "loss": 0.0006, + "num_input_tokens_seen": 12867384, + "step": 6578 + }, + { + "epoch": 0.8719681908548708, + "grad_norm": 0.3494601845741272, + "learning_rate": 4.030140982113109e-06, + "loss": 0.0024, + "num_input_tokens_seen": 12870032, + "step": 6579 + }, + { + "epoch": 0.8721007289595759, + "grad_norm": 1.848763346672058, + "learning_rate": 4.029866446276835e-06, + "loss": 0.0222, + "num_input_tokens_seen": 12872280, + "step": 6580 + }, + { + "epoch": 0.872233267064281, + "grad_norm": 6.874385833740234, + "learning_rate": 4.029591880943681e-06, + "loss": 0.2263, + "num_input_tokens_seen": 12874144, + "step": 6581 + }, + { + "epoch": 0.8723658051689861, + "grad_norm": 10.52022933959961, + "learning_rate": 4.02931728611894e-06, + "loss": 0.2186, + "num_input_tokens_seen": 12875472, + "step": 6582 + }, + { + "epoch": 0.8724983432736911, + "grad_norm": 0.05349539965391159, + "learning_rate": 4.029042661807907e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12876920, + "step": 6583 + }, + { + "epoch": 0.8726308813783963, + "grad_norm": 1.7303128242492676, + "learning_rate": 4.028768008015876e-06, + "loss": 0.0235, + "num_input_tokens_seen": 12878480, + "step": 6584 + }, + { + "epoch": 0.8727634194831014, + "grad_norm": 3.1480493545532227, + "learning_rate": 4.028493324748144e-06, + "loss": 0.0241, + "num_input_tokens_seen": 12879888, + "step": 6585 + }, + { + "epoch": 0.8728959575878065, + "grad_norm": 0.13807442784309387, + "learning_rate": 4.028218612010006e-06, + "loss": 0.001, + "num_input_tokens_seen": 12882544, + "step": 6586 + }, + { + "epoch": 0.8730284956925116, + "grad_norm": 4.553720474243164, + "learning_rate": 4.027943869806759e-06, + "loss": 0.1082, + "num_input_tokens_seen": 12884424, + "step": 6587 + }, + { + "epoch": 0.8731610337972167, + "grad_norm": 9.512887001037598, + "learning_rate": 4.027669098143699e-06, + "loss": 0.2467, + "num_input_tokens_seen": 12886200, + "step": 6588 + }, + { + "epoch": 0.8732935719019218, + "grad_norm": 5.4600114822387695, + "learning_rate": 4.027394297026126e-06, + "loss": 0.0931, + "num_input_tokens_seen": 12889040, + "step": 6589 + }, + { + "epoch": 0.873426110006627, + "grad_norm": 0.48244115710258484, + "learning_rate": 4.0271194664593375e-06, + "loss": 0.0033, + "num_input_tokens_seen": 12891152, + "step": 6590 + }, + { + "epoch": 0.873558648111332, + "grad_norm": 12.173998832702637, + "learning_rate": 4.026844606448632e-06, + "loss": 0.3115, + "num_input_tokens_seen": 12893264, + "step": 6591 + }, + { + "epoch": 0.8736911862160371, + "grad_norm": 3.688328742980957, + "learning_rate": 4.026569716999309e-06, + "loss": 0.0504, + "num_input_tokens_seen": 12894728, + "step": 6592 + }, + { + "epoch": 0.8738237243207422, + "grad_norm": 8.168661117553711, + "learning_rate": 4.0262947981166685e-06, + "loss": 0.1484, + "num_input_tokens_seen": 12896304, + "step": 6593 + }, + { + "epoch": 0.8739562624254473, + "grad_norm": 11.464158058166504, + "learning_rate": 4.026019849806011e-06, + "loss": 0.3719, + "num_input_tokens_seen": 12897872, + "step": 6594 + }, + { + "epoch": 0.8740888005301524, + "grad_norm": 11.796993255615234, + "learning_rate": 4.0257448720726386e-06, + "loss": 0.516, + "num_input_tokens_seen": 12899952, + "step": 6595 + }, + { + "epoch": 0.8742213386348575, + "grad_norm": 3.6393373012542725, + "learning_rate": 4.025469864921853e-06, + "loss": 0.181, + "num_input_tokens_seen": 12901696, + "step": 6596 + }, + { + "epoch": 0.8743538767395627, + "grad_norm": 0.2923526465892792, + "learning_rate": 4.025194828358955e-06, + "loss": 0.002, + "num_input_tokens_seen": 12903064, + "step": 6597 + }, + { + "epoch": 0.8744864148442677, + "grad_norm": 11.216588020324707, + "learning_rate": 4.024919762389249e-06, + "loss": 0.479, + "num_input_tokens_seen": 12905344, + "step": 6598 + }, + { + "epoch": 0.8746189529489728, + "grad_norm": 9.599145889282227, + "learning_rate": 4.024644667018038e-06, + "loss": 0.2199, + "num_input_tokens_seen": 12907096, + "step": 6599 + }, + { + "epoch": 0.8747514910536779, + "grad_norm": 0.379406213760376, + "learning_rate": 4.024369542250626e-06, + "loss": 0.0022, + "num_input_tokens_seen": 12908352, + "step": 6600 + }, + { + "epoch": 0.874884029158383, + "grad_norm": 10.412335395812988, + "learning_rate": 4.024094388092318e-06, + "loss": 0.4612, + "num_input_tokens_seen": 12910512, + "step": 6601 + }, + { + "epoch": 0.8750165672630882, + "grad_norm": 9.301907539367676, + "learning_rate": 4.023819204548418e-06, + "loss": 0.2108, + "num_input_tokens_seen": 12912184, + "step": 6602 + }, + { + "epoch": 0.8751491053677932, + "grad_norm": 0.5500617027282715, + "learning_rate": 4.023543991624233e-06, + "loss": 0.0019, + "num_input_tokens_seen": 12913640, + "step": 6603 + }, + { + "epoch": 0.8752816434724984, + "grad_norm": 0.10720466077327728, + "learning_rate": 4.0232687493250685e-06, + "loss": 0.0007, + "num_input_tokens_seen": 12915248, + "step": 6604 + }, + { + "epoch": 0.8754141815772034, + "grad_norm": 2.823162078857422, + "learning_rate": 4.022993477656232e-06, + "loss": 0.0283, + "num_input_tokens_seen": 12917208, + "step": 6605 + }, + { + "epoch": 0.8755467196819086, + "grad_norm": 11.075665473937988, + "learning_rate": 4.02271817662303e-06, + "loss": 0.3902, + "num_input_tokens_seen": 12920000, + "step": 6606 + }, + { + "epoch": 0.8756792577866136, + "grad_norm": 0.06861568987369537, + "learning_rate": 4.022442846230772e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12921360, + "step": 6607 + }, + { + "epoch": 0.8758117958913187, + "grad_norm": 11.680721282958984, + "learning_rate": 4.022167486484766e-06, + "loss": 0.4556, + "num_input_tokens_seen": 12923136, + "step": 6608 + }, + { + "epoch": 0.8759443339960239, + "grad_norm": 7.1249823570251465, + "learning_rate": 4.0218920973903196e-06, + "loss": 0.3183, + "num_input_tokens_seen": 12925424, + "step": 6609 + }, + { + "epoch": 0.8760768721007289, + "grad_norm": 5.983315944671631, + "learning_rate": 4.021616678952744e-06, + "loss": 0.2933, + "num_input_tokens_seen": 12928032, + "step": 6610 + }, + { + "epoch": 0.8762094102054341, + "grad_norm": 14.065616607666016, + "learning_rate": 4.021341231177349e-06, + "loss": 0.5769, + "num_input_tokens_seen": 12930288, + "step": 6611 + }, + { + "epoch": 0.8763419483101391, + "grad_norm": 6.923241138458252, + "learning_rate": 4.021065754069446e-06, + "loss": 0.1123, + "num_input_tokens_seen": 12931904, + "step": 6612 + }, + { + "epoch": 0.8764744864148443, + "grad_norm": 0.06827846169471741, + "learning_rate": 4.020790247634345e-06, + "loss": 0.0005, + "num_input_tokens_seen": 12934416, + "step": 6613 + }, + { + "epoch": 0.8766070245195494, + "grad_norm": 10.93906021118164, + "learning_rate": 4.0205147118773605e-06, + "loss": 0.3382, + "num_input_tokens_seen": 12935680, + "step": 6614 + }, + { + "epoch": 0.8767395626242545, + "grad_norm": 6.033178806304932, + "learning_rate": 4.0202391468038025e-06, + "loss": 0.2365, + "num_input_tokens_seen": 12937344, + "step": 6615 + }, + { + "epoch": 0.8768721007289596, + "grad_norm": 3.401136875152588, + "learning_rate": 4.019963552418984e-06, + "loss": 0.0862, + "num_input_tokens_seen": 12938712, + "step": 6616 + }, + { + "epoch": 0.8770046388336646, + "grad_norm": 6.614410400390625, + "learning_rate": 4.0196879287282206e-06, + "loss": 0.1149, + "num_input_tokens_seen": 12940768, + "step": 6617 + }, + { + "epoch": 0.8771371769383698, + "grad_norm": 5.3681254386901855, + "learning_rate": 4.019412275736826e-06, + "loss": 0.1667, + "num_input_tokens_seen": 12942848, + "step": 6618 + }, + { + "epoch": 0.8772697150430749, + "grad_norm": 0.15372075140476227, + "learning_rate": 4.0191365934501144e-06, + "loss": 0.0009, + "num_input_tokens_seen": 12943992, + "step": 6619 + }, + { + "epoch": 0.87740225314778, + "grad_norm": 9.31204605102539, + "learning_rate": 4.018860881873401e-06, + "loss": 0.403, + "num_input_tokens_seen": 12946016, + "step": 6620 + }, + { + "epoch": 0.8775347912524851, + "grad_norm": 8.074703216552734, + "learning_rate": 4.018585141012002e-06, + "loss": 0.2962, + "num_input_tokens_seen": 12947144, + "step": 6621 + }, + { + "epoch": 0.8776673293571902, + "grad_norm": 6.778656959533691, + "learning_rate": 4.0183093708712336e-06, + "loss": 0.3136, + "num_input_tokens_seen": 12949592, + "step": 6622 + }, + { + "epoch": 0.8777998674618953, + "grad_norm": 8.215835571289062, + "learning_rate": 4.018033571456413e-06, + "loss": 0.2009, + "num_input_tokens_seen": 12951824, + "step": 6623 + }, + { + "epoch": 0.8779324055666003, + "grad_norm": 0.05925935506820679, + "learning_rate": 4.017757742772858e-06, + "loss": 0.0004, + "num_input_tokens_seen": 12952912, + "step": 6624 + }, + { + "epoch": 0.8780649436713055, + "grad_norm": 7.9847307205200195, + "learning_rate": 4.017481884825887e-06, + "loss": 0.175, + "num_input_tokens_seen": 12954736, + "step": 6625 + }, + { + "epoch": 0.8781974817760106, + "grad_norm": 13.987960815429688, + "learning_rate": 4.017205997620818e-06, + "loss": 0.3576, + "num_input_tokens_seen": 12956136, + "step": 6626 + }, + { + "epoch": 0.8783300198807157, + "grad_norm": 11.616796493530273, + "learning_rate": 4.0169300811629715e-06, + "loss": 0.2846, + "num_input_tokens_seen": 12958144, + "step": 6627 + }, + { + "epoch": 0.8784625579854208, + "grad_norm": 8.661978721618652, + "learning_rate": 4.016654135457666e-06, + "loss": 0.1598, + "num_input_tokens_seen": 12960272, + "step": 6628 + }, + { + "epoch": 0.8785950960901259, + "grad_norm": 4.389837265014648, + "learning_rate": 4.016378160510223e-06, + "loss": 0.1042, + "num_input_tokens_seen": 12961864, + "step": 6629 + }, + { + "epoch": 0.878727634194831, + "grad_norm": 7.631089210510254, + "learning_rate": 4.016102156325961e-06, + "loss": 0.2595, + "num_input_tokens_seen": 12963896, + "step": 6630 + }, + { + "epoch": 0.8788601722995362, + "grad_norm": 0.6388699412345886, + "learning_rate": 4.015826122910206e-06, + "loss": 0.0047, + "num_input_tokens_seen": 12965648, + "step": 6631 + }, + { + "epoch": 0.8789927104042412, + "grad_norm": 7.036970138549805, + "learning_rate": 4.015550060268276e-06, + "loss": 0.1062, + "num_input_tokens_seen": 12967120, + "step": 6632 + }, + { + "epoch": 0.8791252485089464, + "grad_norm": 0.9120568037033081, + "learning_rate": 4.015273968405497e-06, + "loss": 0.0065, + "num_input_tokens_seen": 12969776, + "step": 6633 + }, + { + "epoch": 0.8792577866136514, + "grad_norm": 2.7749216556549072, + "learning_rate": 4.0149978473271885e-06, + "loss": 0.03, + "num_input_tokens_seen": 12972888, + "step": 6634 + }, + { + "epoch": 0.8793903247183565, + "grad_norm": 4.196609020233154, + "learning_rate": 4.014721697038678e-06, + "loss": 0.1137, + "num_input_tokens_seen": 12975280, + "step": 6635 + }, + { + "epoch": 0.8795228628230616, + "grad_norm": 0.3837064802646637, + "learning_rate": 4.0144455175452875e-06, + "loss": 0.0028, + "num_input_tokens_seen": 12976952, + "step": 6636 + }, + { + "epoch": 0.8796554009277667, + "grad_norm": 5.483085632324219, + "learning_rate": 4.014169308852343e-06, + "loss": 0.1313, + "num_input_tokens_seen": 12978584, + "step": 6637 + }, + { + "epoch": 0.8797879390324719, + "grad_norm": 0.23507626354694366, + "learning_rate": 4.013893070965169e-06, + "loss": 0.0017, + "num_input_tokens_seen": 12979696, + "step": 6638 + }, + { + "epoch": 0.8799204771371769, + "grad_norm": 8.515172004699707, + "learning_rate": 4.013616803889093e-06, + "loss": 0.1387, + "num_input_tokens_seen": 12980888, + "step": 6639 + }, + { + "epoch": 0.8800530152418821, + "grad_norm": 1.915569543838501, + "learning_rate": 4.013340507629441e-06, + "loss": 0.0343, + "num_input_tokens_seen": 12982792, + "step": 6640 + }, + { + "epoch": 0.8801855533465871, + "grad_norm": 6.3353962898254395, + "learning_rate": 4.013064182191538e-06, + "loss": 0.1806, + "num_input_tokens_seen": 12984392, + "step": 6641 + }, + { + "epoch": 0.8803180914512923, + "grad_norm": 0.6934639811515808, + "learning_rate": 4.012787827580716e-06, + "loss": 0.0052, + "num_input_tokens_seen": 12986856, + "step": 6642 + }, + { + "epoch": 0.8804506295559974, + "grad_norm": 6.269089221954346, + "learning_rate": 4.0125114438023005e-06, + "loss": 0.06, + "num_input_tokens_seen": 12989112, + "step": 6643 + }, + { + "epoch": 0.8805831676607024, + "grad_norm": 1.2445381879806519, + "learning_rate": 4.012235030861621e-06, + "loss": 0.0276, + "num_input_tokens_seen": 12990464, + "step": 6644 + }, + { + "epoch": 0.8807157057654076, + "grad_norm": 15.877988815307617, + "learning_rate": 4.011958588764006e-06, + "loss": 0.2251, + "num_input_tokens_seen": 12991824, + "step": 6645 + }, + { + "epoch": 0.8808482438701126, + "grad_norm": 2.171858310699463, + "learning_rate": 4.011682117514787e-06, + "loss": 0.0285, + "num_input_tokens_seen": 12993880, + "step": 6646 + }, + { + "epoch": 0.8809807819748178, + "grad_norm": 1.752172827720642, + "learning_rate": 4.011405617119294e-06, + "loss": 0.011, + "num_input_tokens_seen": 12995216, + "step": 6647 + }, + { + "epoch": 0.8811133200795228, + "grad_norm": 10.062243461608887, + "learning_rate": 4.0111290875828575e-06, + "loss": 0.1441, + "num_input_tokens_seen": 12996736, + "step": 6648 + }, + { + "epoch": 0.881245858184228, + "grad_norm": 3.414544105529785, + "learning_rate": 4.01085252891081e-06, + "loss": 0.0154, + "num_input_tokens_seen": 12998872, + "step": 6649 + }, + { + "epoch": 0.8813783962889331, + "grad_norm": 11.534857749938965, + "learning_rate": 4.010575941108485e-06, + "loss": 0.5361, + "num_input_tokens_seen": 13001008, + "step": 6650 + }, + { + "epoch": 0.8815109343936381, + "grad_norm": 4.450883865356445, + "learning_rate": 4.010299324181212e-06, + "loss": 0.0311, + "num_input_tokens_seen": 13003184, + "step": 6651 + }, + { + "epoch": 0.8816434724983433, + "grad_norm": 14.355125427246094, + "learning_rate": 4.010022678134326e-06, + "loss": 0.6832, + "num_input_tokens_seen": 13005088, + "step": 6652 + }, + { + "epoch": 0.8817760106030483, + "grad_norm": 6.204155445098877, + "learning_rate": 4.009746002973162e-06, + "loss": 0.0783, + "num_input_tokens_seen": 13007872, + "step": 6653 + }, + { + "epoch": 0.8819085487077535, + "grad_norm": 0.11956506222486496, + "learning_rate": 4.009469298703052e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13009120, + "step": 6654 + }, + { + "epoch": 0.8820410868124586, + "grad_norm": 8.148037910461426, + "learning_rate": 4.0091925653293346e-06, + "loss": 0.2221, + "num_input_tokens_seen": 13012168, + "step": 6655 + }, + { + "epoch": 0.8821736249171637, + "grad_norm": 5.589107513427734, + "learning_rate": 4.0089158028573415e-06, + "loss": 0.2554, + "num_input_tokens_seen": 13015592, + "step": 6656 + }, + { + "epoch": 0.8823061630218688, + "grad_norm": 16.427452087402344, + "learning_rate": 4.008639011292412e-06, + "loss": 0.6696, + "num_input_tokens_seen": 13017512, + "step": 6657 + }, + { + "epoch": 0.8824387011265739, + "grad_norm": 7.600020885467529, + "learning_rate": 4.008362190639882e-06, + "loss": 0.122, + "num_input_tokens_seen": 13019256, + "step": 6658 + }, + { + "epoch": 0.882571239231279, + "grad_norm": 0.22167982161045074, + "learning_rate": 4.008085340905087e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13020336, + "step": 6659 + }, + { + "epoch": 0.882703777335984, + "grad_norm": 13.876978874206543, + "learning_rate": 4.007808462093368e-06, + "loss": 0.1771, + "num_input_tokens_seen": 13021976, + "step": 6660 + }, + { + "epoch": 0.8828363154406892, + "grad_norm": 0.05276597663760185, + "learning_rate": 4.00753155421006e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13023816, + "step": 6661 + }, + { + "epoch": 0.8829688535453943, + "grad_norm": 0.12885721027851105, + "learning_rate": 4.007254617260504e-06, + "loss": 0.001, + "num_input_tokens_seen": 13027176, + "step": 6662 + }, + { + "epoch": 0.8831013916500994, + "grad_norm": 10.068879127502441, + "learning_rate": 4.00697765125004e-06, + "loss": 0.2176, + "num_input_tokens_seen": 13028504, + "step": 6663 + }, + { + "epoch": 0.8832339297548045, + "grad_norm": 10.87276554107666, + "learning_rate": 4.006700656184007e-06, + "loss": 0.3801, + "num_input_tokens_seen": 13030840, + "step": 6664 + }, + { + "epoch": 0.8833664678595096, + "grad_norm": 6.351883411407471, + "learning_rate": 4.006423632067745e-06, + "loss": 0.0649, + "num_input_tokens_seen": 13033400, + "step": 6665 + }, + { + "epoch": 0.8834990059642147, + "grad_norm": 0.27046671509742737, + "learning_rate": 4.006146578906597e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13034912, + "step": 6666 + }, + { + "epoch": 0.8836315440689199, + "grad_norm": 4.643550872802734, + "learning_rate": 4.005869496705904e-06, + "loss": 0.1549, + "num_input_tokens_seen": 13038072, + "step": 6667 + }, + { + "epoch": 0.8837640821736249, + "grad_norm": 1.3105309009552002, + "learning_rate": 4.005592385471008e-06, + "loss": 0.0089, + "num_input_tokens_seen": 13040344, + "step": 6668 + }, + { + "epoch": 0.88389662027833, + "grad_norm": 8.70883846282959, + "learning_rate": 4.005315245207252e-06, + "loss": 0.1138, + "num_input_tokens_seen": 13042744, + "step": 6669 + }, + { + "epoch": 0.8840291583830351, + "grad_norm": 12.156509399414062, + "learning_rate": 4.00503807591998e-06, + "loss": 0.19, + "num_input_tokens_seen": 13045536, + "step": 6670 + }, + { + "epoch": 0.8841616964877402, + "grad_norm": 0.3896006941795349, + "learning_rate": 4.0047608776145356e-06, + "loss": 0.0028, + "num_input_tokens_seen": 13048128, + "step": 6671 + }, + { + "epoch": 0.8842942345924454, + "grad_norm": 10.521852493286133, + "learning_rate": 4.004483650296263e-06, + "loss": 0.3892, + "num_input_tokens_seen": 13049912, + "step": 6672 + }, + { + "epoch": 0.8844267726971504, + "grad_norm": 9.006622314453125, + "learning_rate": 4.004206393970508e-06, + "loss": 0.165, + "num_input_tokens_seen": 13051368, + "step": 6673 + }, + { + "epoch": 0.8845593108018556, + "grad_norm": 12.107438087463379, + "learning_rate": 4.003929108642616e-06, + "loss": 0.3605, + "num_input_tokens_seen": 13052912, + "step": 6674 + }, + { + "epoch": 0.8846918489065606, + "grad_norm": 7.598019599914551, + "learning_rate": 4.0036517943179335e-06, + "loss": 0.235, + "num_input_tokens_seen": 13055072, + "step": 6675 + }, + { + "epoch": 0.8848243870112658, + "grad_norm": 24.836118698120117, + "learning_rate": 4.003374451001806e-06, + "loss": 0.7976, + "num_input_tokens_seen": 13057560, + "step": 6676 + }, + { + "epoch": 0.8849569251159708, + "grad_norm": 7.8215765953063965, + "learning_rate": 4.003097078699584e-06, + "loss": 0.2053, + "num_input_tokens_seen": 13059128, + "step": 6677 + }, + { + "epoch": 0.8850894632206759, + "grad_norm": 11.228286743164062, + "learning_rate": 4.002819677416612e-06, + "loss": 0.4661, + "num_input_tokens_seen": 13060952, + "step": 6678 + }, + { + "epoch": 0.8852220013253811, + "grad_norm": 14.540953636169434, + "learning_rate": 4.00254224715824e-06, + "loss": 0.475, + "num_input_tokens_seen": 13062392, + "step": 6679 + }, + { + "epoch": 0.8853545394300861, + "grad_norm": 6.626898288726807, + "learning_rate": 4.002264787929816e-06, + "loss": 0.173, + "num_input_tokens_seen": 13064336, + "step": 6680 + }, + { + "epoch": 0.8854870775347913, + "grad_norm": 11.635744094848633, + "learning_rate": 4.001987299736692e-06, + "loss": 0.3065, + "num_input_tokens_seen": 13066504, + "step": 6681 + }, + { + "epoch": 0.8856196156394963, + "grad_norm": 10.648580551147461, + "learning_rate": 4.001709782584216e-06, + "loss": 0.3117, + "num_input_tokens_seen": 13068184, + "step": 6682 + }, + { + "epoch": 0.8857521537442015, + "grad_norm": 9.168694496154785, + "learning_rate": 4.00143223647774e-06, + "loss": 0.3817, + "num_input_tokens_seen": 13070440, + "step": 6683 + }, + { + "epoch": 0.8858846918489066, + "grad_norm": 11.912299156188965, + "learning_rate": 4.001154661422614e-06, + "loss": 0.502, + "num_input_tokens_seen": 13072424, + "step": 6684 + }, + { + "epoch": 0.8860172299536117, + "grad_norm": 8.324748039245605, + "learning_rate": 4.000877057424191e-06, + "loss": 0.1732, + "num_input_tokens_seen": 13073608, + "step": 6685 + }, + { + "epoch": 0.8861497680583168, + "grad_norm": 0.3402670621871948, + "learning_rate": 4.000599424487822e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13074744, + "step": 6686 + }, + { + "epoch": 0.8862823061630218, + "grad_norm": 8.010757446289062, + "learning_rate": 4.000321762618861e-06, + "loss": 0.271, + "num_input_tokens_seen": 13076984, + "step": 6687 + }, + { + "epoch": 0.886414844267727, + "grad_norm": 8.477370262145996, + "learning_rate": 4.000044071822663e-06, + "loss": 0.2347, + "num_input_tokens_seen": 13078232, + "step": 6688 + }, + { + "epoch": 0.886547382372432, + "grad_norm": 13.76172924041748, + "learning_rate": 3.999766352104581e-06, + "loss": 0.5181, + "num_input_tokens_seen": 13079808, + "step": 6689 + }, + { + "epoch": 0.8866799204771372, + "grad_norm": 11.809602737426758, + "learning_rate": 3.999488603469967e-06, + "loss": 0.4689, + "num_input_tokens_seen": 13083120, + "step": 6690 + }, + { + "epoch": 0.8868124585818423, + "grad_norm": 0.4083312749862671, + "learning_rate": 3.999210825924178e-06, + "loss": 0.0031, + "num_input_tokens_seen": 13085400, + "step": 6691 + }, + { + "epoch": 0.8869449966865474, + "grad_norm": 4.873818874359131, + "learning_rate": 3.998933019472572e-06, + "loss": 0.0835, + "num_input_tokens_seen": 13088216, + "step": 6692 + }, + { + "epoch": 0.8870775347912525, + "grad_norm": 3.6133882999420166, + "learning_rate": 3.998655184120501e-06, + "loss": 0.0868, + "num_input_tokens_seen": 13091176, + "step": 6693 + }, + { + "epoch": 0.8872100728959575, + "grad_norm": 0.3113093376159668, + "learning_rate": 3.998377319873326e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13093288, + "step": 6694 + }, + { + "epoch": 0.8873426110006627, + "grad_norm": 0.29036927223205566, + "learning_rate": 3.998099426736402e-06, + "loss": 0.0023, + "num_input_tokens_seen": 13094864, + "step": 6695 + }, + { + "epoch": 0.8874751491053678, + "grad_norm": 7.253854751586914, + "learning_rate": 3.997821504715087e-06, + "loss": 0.1559, + "num_input_tokens_seen": 13097560, + "step": 6696 + }, + { + "epoch": 0.8876076872100729, + "grad_norm": 3.300212860107422, + "learning_rate": 3.997543553814741e-06, + "loss": 0.0277, + "num_input_tokens_seen": 13099112, + "step": 6697 + }, + { + "epoch": 0.887740225314778, + "grad_norm": 9.389571189880371, + "learning_rate": 3.997265574040722e-06, + "loss": 0.1841, + "num_input_tokens_seen": 13101016, + "step": 6698 + }, + { + "epoch": 0.8878727634194831, + "grad_norm": 3.598320484161377, + "learning_rate": 3.996987565398391e-06, + "loss": 0.0691, + "num_input_tokens_seen": 13103208, + "step": 6699 + }, + { + "epoch": 0.8880053015241882, + "grad_norm": 2.46490216255188, + "learning_rate": 3.9967095278931045e-06, + "loss": 0.0178, + "num_input_tokens_seen": 13104664, + "step": 6700 + }, + { + "epoch": 0.8881378396288933, + "grad_norm": 0.32370656728744507, + "learning_rate": 3.996431461530227e-06, + "loss": 0.0025, + "num_input_tokens_seen": 13107584, + "step": 6701 + }, + { + "epoch": 0.8882703777335984, + "grad_norm": 0.3997730016708374, + "learning_rate": 3.996153366315119e-06, + "loss": 0.003, + "num_input_tokens_seen": 13108984, + "step": 6702 + }, + { + "epoch": 0.8884029158383036, + "grad_norm": 3.722670555114746, + "learning_rate": 3.995875242253141e-06, + "loss": 0.0491, + "num_input_tokens_seen": 13110576, + "step": 6703 + }, + { + "epoch": 0.8885354539430086, + "grad_norm": 8.67357063293457, + "learning_rate": 3.995597089349657e-06, + "loss": 0.2392, + "num_input_tokens_seen": 13112344, + "step": 6704 + }, + { + "epoch": 0.8886679920477137, + "grad_norm": 7.750943183898926, + "learning_rate": 3.9953189076100295e-06, + "loss": 0.173, + "num_input_tokens_seen": 13114192, + "step": 6705 + }, + { + "epoch": 0.8888005301524188, + "grad_norm": 8.844950675964355, + "learning_rate": 3.995040697039621e-06, + "loss": 0.2586, + "num_input_tokens_seen": 13115752, + "step": 6706 + }, + { + "epoch": 0.8889330682571239, + "grad_norm": 9.06618881225586, + "learning_rate": 3.9947624576437975e-06, + "loss": 0.1829, + "num_input_tokens_seen": 13117296, + "step": 6707 + }, + { + "epoch": 0.8890656063618291, + "grad_norm": 3.3334929943084717, + "learning_rate": 3.994484189427922e-06, + "loss": 0.0946, + "num_input_tokens_seen": 13119480, + "step": 6708 + }, + { + "epoch": 0.8891981444665341, + "grad_norm": 14.31494426727295, + "learning_rate": 3.9942058923973605e-06, + "loss": 0.552, + "num_input_tokens_seen": 13121840, + "step": 6709 + }, + { + "epoch": 0.8893306825712393, + "grad_norm": 10.512606620788574, + "learning_rate": 3.993927566557479e-06, + "loss": 0.3996, + "num_input_tokens_seen": 13123488, + "step": 6710 + }, + { + "epoch": 0.8894632206759443, + "grad_norm": 0.23473520576953888, + "learning_rate": 3.993649211913644e-06, + "loss": 0.0018, + "num_input_tokens_seen": 13125008, + "step": 6711 + }, + { + "epoch": 0.8895957587806494, + "grad_norm": 9.906105041503906, + "learning_rate": 3.99337082847122e-06, + "loss": 0.113, + "num_input_tokens_seen": 13126640, + "step": 6712 + }, + { + "epoch": 0.8897282968853545, + "grad_norm": 13.26136589050293, + "learning_rate": 3.993092416235577e-06, + "loss": 0.4776, + "num_input_tokens_seen": 13128528, + "step": 6713 + }, + { + "epoch": 0.8898608349900596, + "grad_norm": 12.092175483703613, + "learning_rate": 3.992813975212082e-06, + "loss": 0.4394, + "num_input_tokens_seen": 13130552, + "step": 6714 + }, + { + "epoch": 0.8899933730947648, + "grad_norm": 10.42903995513916, + "learning_rate": 3.992535505406105e-06, + "loss": 0.3662, + "num_input_tokens_seen": 13133088, + "step": 6715 + }, + { + "epoch": 0.8901259111994698, + "grad_norm": 0.21451830863952637, + "learning_rate": 3.992257006823013e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13134248, + "step": 6716 + }, + { + "epoch": 0.890258449304175, + "grad_norm": 0.27231305837631226, + "learning_rate": 3.991978479468176e-06, + "loss": 0.0021, + "num_input_tokens_seen": 13135600, + "step": 6717 + }, + { + "epoch": 0.89039098740888, + "grad_norm": 1.050702452659607, + "learning_rate": 3.991699923346964e-06, + "loss": 0.0078, + "num_input_tokens_seen": 13137056, + "step": 6718 + }, + { + "epoch": 0.8905235255135852, + "grad_norm": 0.4525830149650574, + "learning_rate": 3.99142133846475e-06, + "loss": 0.0036, + "num_input_tokens_seen": 13138888, + "step": 6719 + }, + { + "epoch": 0.8906560636182903, + "grad_norm": 11.103044509887695, + "learning_rate": 3.991142724826903e-06, + "loss": 0.2176, + "num_input_tokens_seen": 13141448, + "step": 6720 + }, + { + "epoch": 0.8907886017229953, + "grad_norm": 5.946866989135742, + "learning_rate": 3.990864082438795e-06, + "loss": 0.054, + "num_input_tokens_seen": 13143008, + "step": 6721 + }, + { + "epoch": 0.8909211398277005, + "grad_norm": 4.217400074005127, + "learning_rate": 3.9905854113058e-06, + "loss": 0.1149, + "num_input_tokens_seen": 13144896, + "step": 6722 + }, + { + "epoch": 0.8910536779324055, + "grad_norm": 9.32218074798584, + "learning_rate": 3.9903067114332896e-06, + "loss": 0.2036, + "num_input_tokens_seen": 13146960, + "step": 6723 + }, + { + "epoch": 0.8911862160371107, + "grad_norm": 3.407961368560791, + "learning_rate": 3.990027982826637e-06, + "loss": 0.0809, + "num_input_tokens_seen": 13149016, + "step": 6724 + }, + { + "epoch": 0.8913187541418157, + "grad_norm": 0.24109815061092377, + "learning_rate": 3.989749225491218e-06, + "loss": 0.0018, + "num_input_tokens_seen": 13150328, + "step": 6725 + }, + { + "epoch": 0.8914512922465209, + "grad_norm": 11.359609603881836, + "learning_rate": 3.989470439432406e-06, + "loss": 0.2062, + "num_input_tokens_seen": 13152232, + "step": 6726 + }, + { + "epoch": 0.891583830351226, + "grad_norm": 0.488369345664978, + "learning_rate": 3.989191624655576e-06, + "loss": 0.0038, + "num_input_tokens_seen": 13154184, + "step": 6727 + }, + { + "epoch": 0.891716368455931, + "grad_norm": 4.248936653137207, + "learning_rate": 3.9889127811661046e-06, + "loss": 0.152, + "num_input_tokens_seen": 13155400, + "step": 6728 + }, + { + "epoch": 0.8918489065606362, + "grad_norm": 4.701811790466309, + "learning_rate": 3.988633908969367e-06, + "loss": 0.1707, + "num_input_tokens_seen": 13157432, + "step": 6729 + }, + { + "epoch": 0.8919814446653412, + "grad_norm": 13.551857948303223, + "learning_rate": 3.988355008070742e-06, + "loss": 0.2606, + "num_input_tokens_seen": 13160128, + "step": 6730 + }, + { + "epoch": 0.8921139827700464, + "grad_norm": 6.618265151977539, + "learning_rate": 3.988076078475605e-06, + "loss": 0.1961, + "num_input_tokens_seen": 13161600, + "step": 6731 + }, + { + "epoch": 0.8922465208747515, + "grad_norm": 0.18092544376850128, + "learning_rate": 3.987797120189334e-06, + "loss": 0.0014, + "num_input_tokens_seen": 13163040, + "step": 6732 + }, + { + "epoch": 0.8923790589794566, + "grad_norm": 0.19574877619743347, + "learning_rate": 3.987518133217309e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13166640, + "step": 6733 + }, + { + "epoch": 0.8925115970841617, + "grad_norm": 8.873095512390137, + "learning_rate": 3.9872391175649075e-06, + "loss": 0.3073, + "num_input_tokens_seen": 13168536, + "step": 6734 + }, + { + "epoch": 0.8926441351888668, + "grad_norm": 0.14848877489566803, + "learning_rate": 3.98696007323751e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13170784, + "step": 6735 + }, + { + "epoch": 0.8927766732935719, + "grad_norm": 15.606375694274902, + "learning_rate": 3.986681000240496e-06, + "loss": 0.4647, + "num_input_tokens_seen": 13172720, + "step": 6736 + }, + { + "epoch": 0.8929092113982771, + "grad_norm": 6.107414722442627, + "learning_rate": 3.986401898579247e-06, + "loss": 0.0759, + "num_input_tokens_seen": 13174576, + "step": 6737 + }, + { + "epoch": 0.8930417495029821, + "grad_norm": 11.266855239868164, + "learning_rate": 3.986122768259145e-06, + "loss": 0.3227, + "num_input_tokens_seen": 13176928, + "step": 6738 + }, + { + "epoch": 0.8931742876076872, + "grad_norm": 0.15079239010810852, + "learning_rate": 3.9858436092855705e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13179088, + "step": 6739 + }, + { + "epoch": 0.8933068257123923, + "grad_norm": 5.368622779846191, + "learning_rate": 3.985564421663905e-06, + "loss": 0.1149, + "num_input_tokens_seen": 13181744, + "step": 6740 + }, + { + "epoch": 0.8934393638170974, + "grad_norm": 13.300801277160645, + "learning_rate": 3.985285205399534e-06, + "loss": 0.2036, + "num_input_tokens_seen": 13183760, + "step": 6741 + }, + { + "epoch": 0.8935719019218025, + "grad_norm": 0.9276784062385559, + "learning_rate": 3.985005960497839e-06, + "loss": 0.0215, + "num_input_tokens_seen": 13185584, + "step": 6742 + }, + { + "epoch": 0.8937044400265076, + "grad_norm": 0.07096778601408005, + "learning_rate": 3.9847266869642045e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13187488, + "step": 6743 + }, + { + "epoch": 0.8938369781312128, + "grad_norm": 0.07736282795667648, + "learning_rate": 3.984447384804014e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13188832, + "step": 6744 + }, + { + "epoch": 0.8939695162359178, + "grad_norm": 10.056239128112793, + "learning_rate": 3.984168054022656e-06, + "loss": 0.3127, + "num_input_tokens_seen": 13190704, + "step": 6745 + }, + { + "epoch": 0.894102054340623, + "grad_norm": 9.601117134094238, + "learning_rate": 3.983888694625513e-06, + "loss": 0.3174, + "num_input_tokens_seen": 13192784, + "step": 6746 + }, + { + "epoch": 0.894234592445328, + "grad_norm": 14.072978019714355, + "learning_rate": 3.983609306617972e-06, + "loss": 0.4327, + "num_input_tokens_seen": 13194176, + "step": 6747 + }, + { + "epoch": 0.8943671305500331, + "grad_norm": 5.683928489685059, + "learning_rate": 3.983329890005421e-06, + "loss": 0.1651, + "num_input_tokens_seen": 13195904, + "step": 6748 + }, + { + "epoch": 0.8944996686547383, + "grad_norm": 6.371161937713623, + "learning_rate": 3.983050444793246e-06, + "loss": 0.159, + "num_input_tokens_seen": 13197608, + "step": 6749 + }, + { + "epoch": 0.8946322067594433, + "grad_norm": 8.273656845092773, + "learning_rate": 3.9827709709868355e-06, + "loss": 0.2646, + "num_input_tokens_seen": 13199896, + "step": 6750 + }, + { + "epoch": 0.8947647448641485, + "grad_norm": 6.430032253265381, + "learning_rate": 3.9824914685915775e-06, + "loss": 0.1345, + "num_input_tokens_seen": 13202824, + "step": 6751 + }, + { + "epoch": 0.8948972829688535, + "grad_norm": 13.655915260314941, + "learning_rate": 3.982211937612861e-06, + "loss": 0.3215, + "num_input_tokens_seen": 13205168, + "step": 6752 + }, + { + "epoch": 0.8950298210735587, + "grad_norm": 10.387225151062012, + "learning_rate": 3.981932378056076e-06, + "loss": 0.2561, + "num_input_tokens_seen": 13206808, + "step": 6753 + }, + { + "epoch": 0.8951623591782637, + "grad_norm": 7.360228538513184, + "learning_rate": 3.9816527899266135e-06, + "loss": 0.265, + "num_input_tokens_seen": 13208960, + "step": 6754 + }, + { + "epoch": 0.8952948972829688, + "grad_norm": 7.233108997344971, + "learning_rate": 3.9813731732298616e-06, + "loss": 0.2099, + "num_input_tokens_seen": 13210776, + "step": 6755 + }, + { + "epoch": 0.895427435387674, + "grad_norm": 0.12063634395599365, + "learning_rate": 3.981093527971214e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13212160, + "step": 6756 + }, + { + "epoch": 0.895559973492379, + "grad_norm": 13.123514175415039, + "learning_rate": 3.9808138541560605e-06, + "loss": 0.2448, + "num_input_tokens_seen": 13214728, + "step": 6757 + }, + { + "epoch": 0.8956925115970842, + "grad_norm": 9.949551582336426, + "learning_rate": 3.980534151789794e-06, + "loss": 0.2294, + "num_input_tokens_seen": 13215928, + "step": 6758 + }, + { + "epoch": 0.8958250497017892, + "grad_norm": 0.17229443788528442, + "learning_rate": 3.980254420877809e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13217456, + "step": 6759 + }, + { + "epoch": 0.8959575878064944, + "grad_norm": 0.4262990951538086, + "learning_rate": 3.979974661425497e-06, + "loss": 0.0031, + "num_input_tokens_seen": 13219464, + "step": 6760 + }, + { + "epoch": 0.8960901259111995, + "grad_norm": 0.28240257501602173, + "learning_rate": 3.979694873438253e-06, + "loss": 0.0021, + "num_input_tokens_seen": 13221640, + "step": 6761 + }, + { + "epoch": 0.8962226640159046, + "grad_norm": 0.5996338129043579, + "learning_rate": 3.979415056921471e-06, + "loss": 0.0043, + "num_input_tokens_seen": 13223584, + "step": 6762 + }, + { + "epoch": 0.8963552021206097, + "grad_norm": 11.818794250488281, + "learning_rate": 3.979135211880545e-06, + "loss": 0.381, + "num_input_tokens_seen": 13225624, + "step": 6763 + }, + { + "epoch": 0.8964877402253147, + "grad_norm": 0.25988027453422546, + "learning_rate": 3.978855338320873e-06, + "loss": 0.002, + "num_input_tokens_seen": 13226936, + "step": 6764 + }, + { + "epoch": 0.8966202783300199, + "grad_norm": 1.5987876653671265, + "learning_rate": 3.978575436247849e-06, + "loss": 0.0238, + "num_input_tokens_seen": 13228432, + "step": 6765 + }, + { + "epoch": 0.8967528164347249, + "grad_norm": 4.49207067489624, + "learning_rate": 3.978295505666871e-06, + "loss": 0.165, + "num_input_tokens_seen": 13230624, + "step": 6766 + }, + { + "epoch": 0.8968853545394301, + "grad_norm": 6.721325874328613, + "learning_rate": 3.978015546583336e-06, + "loss": 0.1077, + "num_input_tokens_seen": 13232520, + "step": 6767 + }, + { + "epoch": 0.8970178926441352, + "grad_norm": 11.521770477294922, + "learning_rate": 3.977735559002641e-06, + "loss": 0.309, + "num_input_tokens_seen": 13234584, + "step": 6768 + }, + { + "epoch": 0.8971504307488403, + "grad_norm": 15.510161399841309, + "learning_rate": 3.977455542930186e-06, + "loss": 0.3792, + "num_input_tokens_seen": 13236152, + "step": 6769 + }, + { + "epoch": 0.8972829688535454, + "grad_norm": 0.4905068576335907, + "learning_rate": 3.977175498371368e-06, + "loss": 0.0035, + "num_input_tokens_seen": 13238232, + "step": 6770 + }, + { + "epoch": 0.8974155069582505, + "grad_norm": 7.077093124389648, + "learning_rate": 3.976895425331587e-06, + "loss": 0.1122, + "num_input_tokens_seen": 13240200, + "step": 6771 + }, + { + "epoch": 0.8975480450629556, + "grad_norm": 1.457783818244934, + "learning_rate": 3.976615323816244e-06, + "loss": 0.0095, + "num_input_tokens_seen": 13242040, + "step": 6772 + }, + { + "epoch": 0.8976805831676608, + "grad_norm": 6.866454601287842, + "learning_rate": 3.976335193830739e-06, + "loss": 0.1944, + "num_input_tokens_seen": 13244096, + "step": 6773 + }, + { + "epoch": 0.8978131212723658, + "grad_norm": 7.5314459800720215, + "learning_rate": 3.976055035380472e-06, + "loss": 0.2269, + "num_input_tokens_seen": 13245456, + "step": 6774 + }, + { + "epoch": 0.8979456593770709, + "grad_norm": 0.5146783590316772, + "learning_rate": 3.975774848470847e-06, + "loss": 0.0037, + "num_input_tokens_seen": 13246784, + "step": 6775 + }, + { + "epoch": 0.898078197481776, + "grad_norm": 13.591337203979492, + "learning_rate": 3.975494633107264e-06, + "loss": 0.4876, + "num_input_tokens_seen": 13249352, + "step": 6776 + }, + { + "epoch": 0.8982107355864811, + "grad_norm": 0.18662597239017487, + "learning_rate": 3.9752143892951275e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13250936, + "step": 6777 + }, + { + "epoch": 0.8983432736911862, + "grad_norm": 5.383232593536377, + "learning_rate": 3.974934117039838e-06, + "loss": 0.1278, + "num_input_tokens_seen": 13253216, + "step": 6778 + }, + { + "epoch": 0.8984758117958913, + "grad_norm": 0.0787423774600029, + "learning_rate": 3.974653816346804e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13254408, + "step": 6779 + }, + { + "epoch": 0.8986083499005965, + "grad_norm": 1.9264734983444214, + "learning_rate": 3.974373487221424e-06, + "loss": 0.0565, + "num_input_tokens_seen": 13256000, + "step": 6780 + }, + { + "epoch": 0.8987408880053015, + "grad_norm": 10.088286399841309, + "learning_rate": 3.974093129669109e-06, + "loss": 0.3258, + "num_input_tokens_seen": 13258168, + "step": 6781 + }, + { + "epoch": 0.8988734261100066, + "grad_norm": 13.328400611877441, + "learning_rate": 3.97381274369526e-06, + "loss": 0.3378, + "num_input_tokens_seen": 13260112, + "step": 6782 + }, + { + "epoch": 0.8990059642147117, + "grad_norm": 8.356839179992676, + "learning_rate": 3.973532329305284e-06, + "loss": 0.2847, + "num_input_tokens_seen": 13261568, + "step": 6783 + }, + { + "epoch": 0.8991385023194168, + "grad_norm": 1.082217812538147, + "learning_rate": 3.973251886504589e-06, + "loss": 0.0071, + "num_input_tokens_seen": 13263328, + "step": 6784 + }, + { + "epoch": 0.899271040424122, + "grad_norm": 9.59509563446045, + "learning_rate": 3.972971415298582e-06, + "loss": 0.2292, + "num_input_tokens_seen": 13264368, + "step": 6785 + }, + { + "epoch": 0.899403578528827, + "grad_norm": 0.48201510310173035, + "learning_rate": 3.972690915692668e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13266992, + "step": 6786 + }, + { + "epoch": 0.8995361166335322, + "grad_norm": 0.16856423020362854, + "learning_rate": 3.972410387692259e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13269528, + "step": 6787 + }, + { + "epoch": 0.8996686547382372, + "grad_norm": 11.04496955871582, + "learning_rate": 3.972129831302761e-06, + "loss": 0.4573, + "num_input_tokens_seen": 13271424, + "step": 6788 + }, + { + "epoch": 0.8998011928429424, + "grad_norm": 5.232909679412842, + "learning_rate": 3.9718492465295844e-06, + "loss": 0.0732, + "num_input_tokens_seen": 13273008, + "step": 6789 + }, + { + "epoch": 0.8999337309476475, + "grad_norm": 0.377306193113327, + "learning_rate": 3.971568633378139e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13274256, + "step": 6790 + }, + { + "epoch": 0.9000662690523525, + "grad_norm": 1.9984349012374878, + "learning_rate": 3.971287991853835e-06, + "loss": 0.0171, + "num_input_tokens_seen": 13275648, + "step": 6791 + }, + { + "epoch": 0.9001988071570577, + "grad_norm": 7.085953712463379, + "learning_rate": 3.971007321962084e-06, + "loss": 0.1151, + "num_input_tokens_seen": 13277576, + "step": 6792 + }, + { + "epoch": 0.9003313452617627, + "grad_norm": 11.624064445495605, + "learning_rate": 3.970726623708298e-06, + "loss": 0.5022, + "num_input_tokens_seen": 13279792, + "step": 6793 + }, + { + "epoch": 0.9004638833664679, + "grad_norm": 0.25804612040519714, + "learning_rate": 3.970445897097886e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13281320, + "step": 6794 + }, + { + "epoch": 0.9005964214711729, + "grad_norm": 3.893050193786621, + "learning_rate": 3.9701651421362636e-06, + "loss": 0.0833, + "num_input_tokens_seen": 13283232, + "step": 6795 + }, + { + "epoch": 0.9007289595758781, + "grad_norm": 5.530307292938232, + "learning_rate": 3.969884358828843e-06, + "loss": 0.1551, + "num_input_tokens_seen": 13285136, + "step": 6796 + }, + { + "epoch": 0.9008614976805832, + "grad_norm": 11.275203704833984, + "learning_rate": 3.9696035471810375e-06, + "loss": 0.3838, + "num_input_tokens_seen": 13287408, + "step": 6797 + }, + { + "epoch": 0.9009940357852882, + "grad_norm": 7.923050880432129, + "learning_rate": 3.969322707198263e-06, + "loss": 0.2763, + "num_input_tokens_seen": 13289064, + "step": 6798 + }, + { + "epoch": 0.9011265738899934, + "grad_norm": 0.04217950627207756, + "learning_rate": 3.969041838885932e-06, + "loss": 0.0003, + "num_input_tokens_seen": 13291064, + "step": 6799 + }, + { + "epoch": 0.9012591119946984, + "grad_norm": 10.22539234161377, + "learning_rate": 3.968760942249461e-06, + "loss": 0.2045, + "num_input_tokens_seen": 13293168, + "step": 6800 + }, + { + "epoch": 0.9013916500994036, + "grad_norm": 1.1670544147491455, + "learning_rate": 3.968480017294266e-06, + "loss": 0.0071, + "num_input_tokens_seen": 13295264, + "step": 6801 + }, + { + "epoch": 0.9015241882041087, + "grad_norm": 0.08044814318418503, + "learning_rate": 3.968199064025764e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13297120, + "step": 6802 + }, + { + "epoch": 0.9016567263088138, + "grad_norm": 10.395515441894531, + "learning_rate": 3.96791808244937e-06, + "loss": 0.3847, + "num_input_tokens_seen": 13299504, + "step": 6803 + }, + { + "epoch": 0.9017892644135189, + "grad_norm": 0.12965846061706543, + "learning_rate": 3.967637072570503e-06, + "loss": 0.0007, + "num_input_tokens_seen": 13300712, + "step": 6804 + }, + { + "epoch": 0.901921802518224, + "grad_norm": 10.181883811950684, + "learning_rate": 3.967356034394581e-06, + "loss": 0.1699, + "num_input_tokens_seen": 13302600, + "step": 6805 + }, + { + "epoch": 0.9020543406229291, + "grad_norm": 4.366451740264893, + "learning_rate": 3.9670749679270225e-06, + "loss": 0.0689, + "num_input_tokens_seen": 13304176, + "step": 6806 + }, + { + "epoch": 0.9021868787276341, + "grad_norm": 12.554516792297363, + "learning_rate": 3.966793873173246e-06, + "loss": 0.2085, + "num_input_tokens_seen": 13305696, + "step": 6807 + }, + { + "epoch": 0.9023194168323393, + "grad_norm": 0.027440842241048813, + "learning_rate": 3.966512750138673e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13307344, + "step": 6808 + }, + { + "epoch": 0.9024519549370444, + "grad_norm": 37.869083404541016, + "learning_rate": 3.966231598828721e-06, + "loss": 0.5207, + "num_input_tokens_seen": 13308968, + "step": 6809 + }, + { + "epoch": 0.9025844930417495, + "grad_norm": 13.978860855102539, + "learning_rate": 3.965950419248813e-06, + "loss": 0.4221, + "num_input_tokens_seen": 13310144, + "step": 6810 + }, + { + "epoch": 0.9027170311464546, + "grad_norm": 15.915724754333496, + "learning_rate": 3.9656692114043695e-06, + "loss": 0.6148, + "num_input_tokens_seen": 13312136, + "step": 6811 + }, + { + "epoch": 0.9028495692511597, + "grad_norm": 14.286364555358887, + "learning_rate": 3.965387975300812e-06, + "loss": 0.4406, + "num_input_tokens_seen": 13314528, + "step": 6812 + }, + { + "epoch": 0.9029821073558648, + "grad_norm": 6.257908344268799, + "learning_rate": 3.965106710943564e-06, + "loss": 0.2177, + "num_input_tokens_seen": 13316440, + "step": 6813 + }, + { + "epoch": 0.90311464546057, + "grad_norm": 0.10165877640247345, + "learning_rate": 3.964825418338048e-06, + "loss": 0.0007, + "num_input_tokens_seen": 13318552, + "step": 6814 + }, + { + "epoch": 0.903247183565275, + "grad_norm": 14.913152694702148, + "learning_rate": 3.964544097489687e-06, + "loss": 0.3458, + "num_input_tokens_seen": 13319680, + "step": 6815 + }, + { + "epoch": 0.9033797216699802, + "grad_norm": 0.5530948638916016, + "learning_rate": 3.964262748403905e-06, + "loss": 0.0041, + "num_input_tokens_seen": 13321632, + "step": 6816 + }, + { + "epoch": 0.9035122597746852, + "grad_norm": 6.750959396362305, + "learning_rate": 3.963981371086127e-06, + "loss": 0.2452, + "num_input_tokens_seen": 13323264, + "step": 6817 + }, + { + "epoch": 0.9036447978793903, + "grad_norm": 9.251420021057129, + "learning_rate": 3.96369996554178e-06, + "loss": 0.2868, + "num_input_tokens_seen": 13325216, + "step": 6818 + }, + { + "epoch": 0.9037773359840954, + "grad_norm": 15.157255172729492, + "learning_rate": 3.963418531776287e-06, + "loss": 0.4721, + "num_input_tokens_seen": 13327184, + "step": 6819 + }, + { + "epoch": 0.9039098740888005, + "grad_norm": 5.238453388214111, + "learning_rate": 3.963137069795074e-06, + "loss": 0.1627, + "num_input_tokens_seen": 13328816, + "step": 6820 + }, + { + "epoch": 0.9040424121935057, + "grad_norm": 7.305315017700195, + "learning_rate": 3.962855579603571e-06, + "loss": 0.088, + "num_input_tokens_seen": 13331336, + "step": 6821 + }, + { + "epoch": 0.9041749502982107, + "grad_norm": 10.264121055603027, + "learning_rate": 3.962574061207202e-06, + "loss": 0.3591, + "num_input_tokens_seen": 13333424, + "step": 6822 + }, + { + "epoch": 0.9043074884029159, + "grad_norm": 6.215490341186523, + "learning_rate": 3.962292514611396e-06, + "loss": 0.0509, + "num_input_tokens_seen": 13335336, + "step": 6823 + }, + { + "epoch": 0.9044400265076209, + "grad_norm": 0.1585277020931244, + "learning_rate": 3.962010939821582e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13336544, + "step": 6824 + }, + { + "epoch": 0.904572564612326, + "grad_norm": 9.907018661499023, + "learning_rate": 3.961729336843188e-06, + "loss": 0.3397, + "num_input_tokens_seen": 13338464, + "step": 6825 + }, + { + "epoch": 0.9047051027170312, + "grad_norm": 11.353303909301758, + "learning_rate": 3.961447705681644e-06, + "loss": 0.1889, + "num_input_tokens_seen": 13340464, + "step": 6826 + }, + { + "epoch": 0.9048376408217362, + "grad_norm": 2.151334285736084, + "learning_rate": 3.961166046342381e-06, + "loss": 0.0514, + "num_input_tokens_seen": 13342872, + "step": 6827 + }, + { + "epoch": 0.9049701789264414, + "grad_norm": 0.2887546122074127, + "learning_rate": 3.960884358830827e-06, + "loss": 0.0021, + "num_input_tokens_seen": 13344576, + "step": 6828 + }, + { + "epoch": 0.9051027170311464, + "grad_norm": 7.460299015045166, + "learning_rate": 3.960602643152416e-06, + "loss": 0.105, + "num_input_tokens_seen": 13346312, + "step": 6829 + }, + { + "epoch": 0.9052352551358516, + "grad_norm": 15.81497573852539, + "learning_rate": 3.960320899312578e-06, + "loss": 0.6401, + "num_input_tokens_seen": 13348784, + "step": 6830 + }, + { + "epoch": 0.9053677932405566, + "grad_norm": 0.3608487546443939, + "learning_rate": 3.960039127316746e-06, + "loss": 0.0028, + "num_input_tokens_seen": 13350256, + "step": 6831 + }, + { + "epoch": 0.9055003313452618, + "grad_norm": 8.746213912963867, + "learning_rate": 3.9597573271703515e-06, + "loss": 0.3341, + "num_input_tokens_seen": 13352056, + "step": 6832 + }, + { + "epoch": 0.9056328694499669, + "grad_norm": 1.0589901208877563, + "learning_rate": 3.9594754988788295e-06, + "loss": 0.008, + "num_input_tokens_seen": 13353848, + "step": 6833 + }, + { + "epoch": 0.9057654075546719, + "grad_norm": 0.43171942234039307, + "learning_rate": 3.959193642447613e-06, + "loss": 0.0032, + "num_input_tokens_seen": 13356168, + "step": 6834 + }, + { + "epoch": 0.9058979456593771, + "grad_norm": 6.129023551940918, + "learning_rate": 3.958911757882136e-06, + "loss": 0.0888, + "num_input_tokens_seen": 13358016, + "step": 6835 + }, + { + "epoch": 0.9060304837640821, + "grad_norm": 15.092604637145996, + "learning_rate": 3.958629845187835e-06, + "loss": 0.7162, + "num_input_tokens_seen": 13359400, + "step": 6836 + }, + { + "epoch": 0.9061630218687873, + "grad_norm": 18.96518898010254, + "learning_rate": 3.958347904370143e-06, + "loss": 0.5034, + "num_input_tokens_seen": 13361528, + "step": 6837 + }, + { + "epoch": 0.9062955599734924, + "grad_norm": 6.916331768035889, + "learning_rate": 3.9580659354344975e-06, + "loss": 0.3403, + "num_input_tokens_seen": 13363520, + "step": 6838 + }, + { + "epoch": 0.9064280980781975, + "grad_norm": 0.282146692276001, + "learning_rate": 3.9577839383863355e-06, + "loss": 0.002, + "num_input_tokens_seen": 13365520, + "step": 6839 + }, + { + "epoch": 0.9065606361829026, + "grad_norm": 1.6812944412231445, + "learning_rate": 3.957501913231093e-06, + "loss": 0.012, + "num_input_tokens_seen": 13367424, + "step": 6840 + }, + { + "epoch": 0.9066931742876077, + "grad_norm": 9.485698699951172, + "learning_rate": 3.957219859974208e-06, + "loss": 0.2512, + "num_input_tokens_seen": 13369344, + "step": 6841 + }, + { + "epoch": 0.9068257123923128, + "grad_norm": 14.154409408569336, + "learning_rate": 3.95693777862112e-06, + "loss": 0.6911, + "num_input_tokens_seen": 13372200, + "step": 6842 + }, + { + "epoch": 0.9069582504970178, + "grad_norm": 12.965131759643555, + "learning_rate": 3.956655669177265e-06, + "loss": 0.611, + "num_input_tokens_seen": 13374192, + "step": 6843 + }, + { + "epoch": 0.907090788601723, + "grad_norm": 0.11968349665403366, + "learning_rate": 3.956373531648084e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13376112, + "step": 6844 + }, + { + "epoch": 0.9072233267064281, + "grad_norm": 12.837465286254883, + "learning_rate": 3.956091366039018e-06, + "loss": 0.5493, + "num_input_tokens_seen": 13378632, + "step": 6845 + }, + { + "epoch": 0.9073558648111332, + "grad_norm": 6.205852508544922, + "learning_rate": 3.955809172355505e-06, + "loss": 0.1054, + "num_input_tokens_seen": 13382096, + "step": 6846 + }, + { + "epoch": 0.9074884029158383, + "grad_norm": 2.123368978500366, + "learning_rate": 3.955526950602987e-06, + "loss": 0.0392, + "num_input_tokens_seen": 13383552, + "step": 6847 + }, + { + "epoch": 0.9076209410205434, + "grad_norm": 0.06099429726600647, + "learning_rate": 3.955244700786904e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13385584, + "step": 6848 + }, + { + "epoch": 0.9077534791252485, + "grad_norm": 4.104151248931885, + "learning_rate": 3.954962422912701e-06, + "loss": 0.1152, + "num_input_tokens_seen": 13388920, + "step": 6849 + }, + { + "epoch": 0.9078860172299537, + "grad_norm": 3.530329704284668, + "learning_rate": 3.954680116985818e-06, + "loss": 0.0984, + "num_input_tokens_seen": 13391056, + "step": 6850 + }, + { + "epoch": 0.9080185553346587, + "grad_norm": 0.13000766932964325, + "learning_rate": 3.954397783011699e-06, + "loss": 0.001, + "num_input_tokens_seen": 13393544, + "step": 6851 + }, + { + "epoch": 0.9081510934393638, + "grad_norm": 14.69619369506836, + "learning_rate": 3.954115420995788e-06, + "loss": 0.2713, + "num_input_tokens_seen": 13395320, + "step": 6852 + }, + { + "epoch": 0.9082836315440689, + "grad_norm": 2.2810709476470947, + "learning_rate": 3.953833030943528e-06, + "loss": 0.0845, + "num_input_tokens_seen": 13397320, + "step": 6853 + }, + { + "epoch": 0.908416169648774, + "grad_norm": 16.55765724182129, + "learning_rate": 3.953550612860364e-06, + "loss": 0.461, + "num_input_tokens_seen": 13398824, + "step": 6854 + }, + { + "epoch": 0.9085487077534792, + "grad_norm": 8.590668678283691, + "learning_rate": 3.953268166751742e-06, + "loss": 0.1012, + "num_input_tokens_seen": 13401296, + "step": 6855 + }, + { + "epoch": 0.9086812458581842, + "grad_norm": 4.806265830993652, + "learning_rate": 3.952985692623106e-06, + "loss": 0.0903, + "num_input_tokens_seen": 13402968, + "step": 6856 + }, + { + "epoch": 0.9088137839628894, + "grad_norm": 20.488168716430664, + "learning_rate": 3.9527031904799045e-06, + "loss": 0.6054, + "num_input_tokens_seen": 13404984, + "step": 6857 + }, + { + "epoch": 0.9089463220675944, + "grad_norm": 0.251567542552948, + "learning_rate": 3.952420660327583e-06, + "loss": 0.0019, + "num_input_tokens_seen": 13406424, + "step": 6858 + }, + { + "epoch": 0.9090788601722996, + "grad_norm": 0.10690252482891083, + "learning_rate": 3.9521381021715896e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13409064, + "step": 6859 + }, + { + "epoch": 0.9092113982770046, + "grad_norm": 0.112008236348629, + "learning_rate": 3.951855516017371e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13410960, + "step": 6860 + }, + { + "epoch": 0.9093439363817097, + "grad_norm": 0.07194206863641739, + "learning_rate": 3.9515729018703774e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13411992, + "step": 6861 + }, + { + "epoch": 0.9094764744864149, + "grad_norm": 0.7300190329551697, + "learning_rate": 3.951290259736056e-06, + "loss": 0.0053, + "num_input_tokens_seen": 13414384, + "step": 6862 + }, + { + "epoch": 0.9096090125911199, + "grad_norm": 7.1128764152526855, + "learning_rate": 3.951007589619858e-06, + "loss": 0.1488, + "num_input_tokens_seen": 13417416, + "step": 6863 + }, + { + "epoch": 0.9097415506958251, + "grad_norm": 15.463702201843262, + "learning_rate": 3.950724891527232e-06, + "loss": 0.3597, + "num_input_tokens_seen": 13419376, + "step": 6864 + }, + { + "epoch": 0.9098740888005301, + "grad_norm": 1.5325649976730347, + "learning_rate": 3.95044216546363e-06, + "loss": 0.0094, + "num_input_tokens_seen": 13421984, + "step": 6865 + }, + { + "epoch": 0.9100066269052353, + "grad_norm": 2.666563034057617, + "learning_rate": 3.950159411434502e-06, + "loss": 0.1268, + "num_input_tokens_seen": 13423568, + "step": 6866 + }, + { + "epoch": 0.9101391650099404, + "grad_norm": 0.20841571688652039, + "learning_rate": 3.9498766294452995e-06, + "loss": 0.0014, + "num_input_tokens_seen": 13425472, + "step": 6867 + }, + { + "epoch": 0.9102717031146454, + "grad_norm": 11.133683204650879, + "learning_rate": 3.9495938195014765e-06, + "loss": 0.5669, + "num_input_tokens_seen": 13427712, + "step": 6868 + }, + { + "epoch": 0.9104042412193506, + "grad_norm": 6.95251989364624, + "learning_rate": 3.949310981608484e-06, + "loss": 0.1955, + "num_input_tokens_seen": 13430048, + "step": 6869 + }, + { + "epoch": 0.9105367793240556, + "grad_norm": 12.892457008361816, + "learning_rate": 3.949028115771776e-06, + "loss": 0.161, + "num_input_tokens_seen": 13431464, + "step": 6870 + }, + { + "epoch": 0.9106693174287608, + "grad_norm": 10.470257759094238, + "learning_rate": 3.948745221996806e-06, + "loss": 0.3872, + "num_input_tokens_seen": 13433720, + "step": 6871 + }, + { + "epoch": 0.9108018555334658, + "grad_norm": 0.09639782458543777, + "learning_rate": 3.948462300289029e-06, + "loss": 0.0007, + "num_input_tokens_seen": 13435560, + "step": 6872 + }, + { + "epoch": 0.910934393638171, + "grad_norm": 8.420403480529785, + "learning_rate": 3.9481793506539e-06, + "loss": 0.226, + "num_input_tokens_seen": 13437848, + "step": 6873 + }, + { + "epoch": 0.9110669317428761, + "grad_norm": 0.056494735181331635, + "learning_rate": 3.947896373096874e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13439136, + "step": 6874 + }, + { + "epoch": 0.9111994698475812, + "grad_norm": 10.696561813354492, + "learning_rate": 3.947613367623407e-06, + "loss": 0.1749, + "num_input_tokens_seen": 13440920, + "step": 6875 + }, + { + "epoch": 0.9113320079522863, + "grad_norm": 10.43608283996582, + "learning_rate": 3.947330334238955e-06, + "loss": 0.2885, + "num_input_tokens_seen": 13443768, + "step": 6876 + }, + { + "epoch": 0.9114645460569913, + "grad_norm": 3.8761146068573, + "learning_rate": 3.947047272948976e-06, + "loss": 0.1595, + "num_input_tokens_seen": 13445800, + "step": 6877 + }, + { + "epoch": 0.9115970841616965, + "grad_norm": 4.681922435760498, + "learning_rate": 3.946764183758927e-06, + "loss": 0.161, + "num_input_tokens_seen": 13447312, + "step": 6878 + }, + { + "epoch": 0.9117296222664016, + "grad_norm": 0.1888013631105423, + "learning_rate": 3.946481066674267e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13449192, + "step": 6879 + }, + { + "epoch": 0.9118621603711067, + "grad_norm": 12.019532203674316, + "learning_rate": 3.946197921700455e-06, + "loss": 0.1734, + "num_input_tokens_seen": 13451256, + "step": 6880 + }, + { + "epoch": 0.9119946984758118, + "grad_norm": 12.030641555786133, + "learning_rate": 3.945914748842948e-06, + "loss": 0.5239, + "num_input_tokens_seen": 13453288, + "step": 6881 + }, + { + "epoch": 0.9121272365805169, + "grad_norm": 20.368032455444336, + "learning_rate": 3.945631548107207e-06, + "loss": 0.5853, + "num_input_tokens_seen": 13455512, + "step": 6882 + }, + { + "epoch": 0.912259774685222, + "grad_norm": 10.199458122253418, + "learning_rate": 3.945348319498694e-06, + "loss": 0.1507, + "num_input_tokens_seen": 13457344, + "step": 6883 + }, + { + "epoch": 0.912392312789927, + "grad_norm": 5.051602840423584, + "learning_rate": 3.945065063022867e-06, + "loss": 0.0716, + "num_input_tokens_seen": 13459472, + "step": 6884 + }, + { + "epoch": 0.9125248508946322, + "grad_norm": 8.976778984069824, + "learning_rate": 3.944781778685189e-06, + "loss": 0.1547, + "num_input_tokens_seen": 13461280, + "step": 6885 + }, + { + "epoch": 0.9126573889993373, + "grad_norm": 1.6677252054214478, + "learning_rate": 3.944498466491122e-06, + "loss": 0.057, + "num_input_tokens_seen": 13462800, + "step": 6886 + }, + { + "epoch": 0.9127899271040424, + "grad_norm": 9.220848083496094, + "learning_rate": 3.9442151264461275e-06, + "loss": 0.1771, + "num_input_tokens_seen": 13464664, + "step": 6887 + }, + { + "epoch": 0.9129224652087475, + "grad_norm": 2.4703524112701416, + "learning_rate": 3.943931758555669e-06, + "loss": 0.032, + "num_input_tokens_seen": 13468016, + "step": 6888 + }, + { + "epoch": 0.9130550033134526, + "grad_norm": 0.13127319514751434, + "learning_rate": 3.9436483628252105e-06, + "loss": 0.001, + "num_input_tokens_seen": 13470072, + "step": 6889 + }, + { + "epoch": 0.9131875414181577, + "grad_norm": 6.142790794372559, + "learning_rate": 3.9433649392602155e-06, + "loss": 0.0951, + "num_input_tokens_seen": 13471848, + "step": 6890 + }, + { + "epoch": 0.9133200795228629, + "grad_norm": 0.3727642893791199, + "learning_rate": 3.9430814878661495e-06, + "loss": 0.0027, + "num_input_tokens_seen": 13473456, + "step": 6891 + }, + { + "epoch": 0.9134526176275679, + "grad_norm": 10.982667922973633, + "learning_rate": 3.942798008648475e-06, + "loss": 0.2959, + "num_input_tokens_seen": 13475152, + "step": 6892 + }, + { + "epoch": 0.9135851557322731, + "grad_norm": 5.460580825805664, + "learning_rate": 3.9425145016126606e-06, + "loss": 0.1934, + "num_input_tokens_seen": 13476824, + "step": 6893 + }, + { + "epoch": 0.9137176938369781, + "grad_norm": 12.394134521484375, + "learning_rate": 3.942230966764172e-06, + "loss": 0.4479, + "num_input_tokens_seen": 13479104, + "step": 6894 + }, + { + "epoch": 0.9138502319416832, + "grad_norm": 11.230950355529785, + "learning_rate": 3.941947404108475e-06, + "loss": 0.1138, + "num_input_tokens_seen": 13480784, + "step": 6895 + }, + { + "epoch": 0.9139827700463883, + "grad_norm": 0.35740038752555847, + "learning_rate": 3.941663813651038e-06, + "loss": 0.0026, + "num_input_tokens_seen": 13482640, + "step": 6896 + }, + { + "epoch": 0.9141153081510934, + "grad_norm": 0.2584132254123688, + "learning_rate": 3.9413801953973266e-06, + "loss": 0.0019, + "num_input_tokens_seen": 13484592, + "step": 6897 + }, + { + "epoch": 0.9142478462557986, + "grad_norm": 0.9678654074668884, + "learning_rate": 3.941096549352812e-06, + "loss": 0.0057, + "num_input_tokens_seen": 13486248, + "step": 6898 + }, + { + "epoch": 0.9143803843605036, + "grad_norm": 10.76855182647705, + "learning_rate": 3.940812875522961e-06, + "loss": 0.2149, + "num_input_tokens_seen": 13488088, + "step": 6899 + }, + { + "epoch": 0.9145129224652088, + "grad_norm": 4.404655933380127, + "learning_rate": 3.9405291739132435e-06, + "loss": 0.0673, + "num_input_tokens_seen": 13489968, + "step": 6900 + }, + { + "epoch": 0.9146454605699138, + "grad_norm": 0.7537723183631897, + "learning_rate": 3.9402454445291306e-06, + "loss": 0.0051, + "num_input_tokens_seen": 13491792, + "step": 6901 + }, + { + "epoch": 0.914777998674619, + "grad_norm": 7.359374046325684, + "learning_rate": 3.939961687376091e-06, + "loss": 0.0968, + "num_input_tokens_seen": 13493552, + "step": 6902 + }, + { + "epoch": 0.9149105367793241, + "grad_norm": 0.1832287460565567, + "learning_rate": 3.939677902459598e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13495160, + "step": 6903 + }, + { + "epoch": 0.9150430748840291, + "grad_norm": 0.6329948902130127, + "learning_rate": 3.939394089785122e-06, + "loss": 0.0039, + "num_input_tokens_seen": 13496832, + "step": 6904 + }, + { + "epoch": 0.9151756129887343, + "grad_norm": 5.641445636749268, + "learning_rate": 3.9391102493581335e-06, + "loss": 0.0378, + "num_input_tokens_seen": 13499488, + "step": 6905 + }, + { + "epoch": 0.9153081510934393, + "grad_norm": 10.307908058166504, + "learning_rate": 3.938826381184107e-06, + "loss": 0.3068, + "num_input_tokens_seen": 13501912, + "step": 6906 + }, + { + "epoch": 0.9154406891981445, + "grad_norm": 12.66156005859375, + "learning_rate": 3.938542485268516e-06, + "loss": 0.342, + "num_input_tokens_seen": 13503888, + "step": 6907 + }, + { + "epoch": 0.9155732273028496, + "grad_norm": 3.969407320022583, + "learning_rate": 3.938258561616832e-06, + "loss": 0.1588, + "num_input_tokens_seen": 13506288, + "step": 6908 + }, + { + "epoch": 0.9157057654075547, + "grad_norm": 6.907105445861816, + "learning_rate": 3.937974610234533e-06, + "loss": 0.1965, + "num_input_tokens_seen": 13508448, + "step": 6909 + }, + { + "epoch": 0.9158383035122598, + "grad_norm": 0.08150976896286011, + "learning_rate": 3.93769063112709e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13510184, + "step": 6910 + }, + { + "epoch": 0.9159708416169648, + "grad_norm": 0.11603689938783646, + "learning_rate": 3.93740662429998e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13512536, + "step": 6911 + }, + { + "epoch": 0.91610337972167, + "grad_norm": 0.5147866010665894, + "learning_rate": 3.937122589758679e-06, + "loss": 0.006, + "num_input_tokens_seen": 13514928, + "step": 6912 + }, + { + "epoch": 0.916235917826375, + "grad_norm": 6.076064586639404, + "learning_rate": 3.936838527508662e-06, + "loss": 0.264, + "num_input_tokens_seen": 13516784, + "step": 6913 + }, + { + "epoch": 0.9163684559310802, + "grad_norm": 11.166181564331055, + "learning_rate": 3.9365544375554075e-06, + "loss": 0.2326, + "num_input_tokens_seen": 13519640, + "step": 6914 + }, + { + "epoch": 0.9165009940357853, + "grad_norm": 12.674071311950684, + "learning_rate": 3.936270319904393e-06, + "loss": 0.3049, + "num_input_tokens_seen": 13521488, + "step": 6915 + }, + { + "epoch": 0.9166335321404904, + "grad_norm": 0.14784374833106995, + "learning_rate": 3.935986174561096e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13523072, + "step": 6916 + }, + { + "epoch": 0.9167660702451955, + "grad_norm": 4.376709461212158, + "learning_rate": 3.935702001530994e-06, + "loss": 0.1143, + "num_input_tokens_seen": 13525624, + "step": 6917 + }, + { + "epoch": 0.9168986083499006, + "grad_norm": 0.15594542026519775, + "learning_rate": 3.935417800819568e-06, + "loss": 0.001, + "num_input_tokens_seen": 13527112, + "step": 6918 + }, + { + "epoch": 0.9170311464546057, + "grad_norm": 10.183873176574707, + "learning_rate": 3.935133572432296e-06, + "loss": 0.2673, + "num_input_tokens_seen": 13528296, + "step": 6919 + }, + { + "epoch": 0.9171636845593109, + "grad_norm": 8.469533920288086, + "learning_rate": 3.9348493163746585e-06, + "loss": 0.152, + "num_input_tokens_seen": 13529712, + "step": 6920 + }, + { + "epoch": 0.9172962226640159, + "grad_norm": 8.414627075195312, + "learning_rate": 3.934565032652136e-06, + "loss": 0.1055, + "num_input_tokens_seen": 13531408, + "step": 6921 + }, + { + "epoch": 0.917428760768721, + "grad_norm": 0.11790445446968079, + "learning_rate": 3.934280721270211e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13533120, + "step": 6922 + }, + { + "epoch": 0.9175612988734261, + "grad_norm": 0.12045390158891678, + "learning_rate": 3.933996382234364e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13534584, + "step": 6923 + }, + { + "epoch": 0.9176938369781312, + "grad_norm": 0.4059077203273773, + "learning_rate": 3.933712015550077e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13536184, + "step": 6924 + }, + { + "epoch": 0.9178263750828363, + "grad_norm": 0.11318500339984894, + "learning_rate": 3.933427621222834e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13538376, + "step": 6925 + }, + { + "epoch": 0.9179589131875414, + "grad_norm": 5.965323448181152, + "learning_rate": 3.9331431992581165e-06, + "loss": 0.1785, + "num_input_tokens_seen": 13539856, + "step": 6926 + }, + { + "epoch": 0.9180914512922466, + "grad_norm": 4.110706329345703, + "learning_rate": 3.93285874966141e-06, + "loss": 0.1119, + "num_input_tokens_seen": 13541640, + "step": 6927 + }, + { + "epoch": 0.9182239893969516, + "grad_norm": 8.155120849609375, + "learning_rate": 3.932574272438197e-06, + "loss": 0.2811, + "num_input_tokens_seen": 13543800, + "step": 6928 + }, + { + "epoch": 0.9183565275016567, + "grad_norm": 7.560337543487549, + "learning_rate": 3.932289767593966e-06, + "loss": 0.3122, + "num_input_tokens_seen": 13546032, + "step": 6929 + }, + { + "epoch": 0.9184890656063618, + "grad_norm": 10.150988578796387, + "learning_rate": 3.9320052351342e-06, + "loss": 0.1944, + "num_input_tokens_seen": 13548608, + "step": 6930 + }, + { + "epoch": 0.9186216037110669, + "grad_norm": 0.23262743651866913, + "learning_rate": 3.931720675064384e-06, + "loss": 0.0016, + "num_input_tokens_seen": 13550128, + "step": 6931 + }, + { + "epoch": 0.9187541418157721, + "grad_norm": 0.06611327826976776, + "learning_rate": 3.931436087390006e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13551856, + "step": 6932 + }, + { + "epoch": 0.9188866799204771, + "grad_norm": 5.257100582122803, + "learning_rate": 3.931151472116553e-06, + "loss": 0.0564, + "num_input_tokens_seen": 13553816, + "step": 6933 + }, + { + "epoch": 0.9190192180251823, + "grad_norm": 0.3416479825973511, + "learning_rate": 3.930866829249512e-06, + "loss": 0.0018, + "num_input_tokens_seen": 13555840, + "step": 6934 + }, + { + "epoch": 0.9191517561298873, + "grad_norm": 0.2147931158542633, + "learning_rate": 3.930582158794373e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13557608, + "step": 6935 + }, + { + "epoch": 0.9192842942345925, + "grad_norm": 3.223468542098999, + "learning_rate": 3.930297460756621e-06, + "loss": 0.0465, + "num_input_tokens_seen": 13559480, + "step": 6936 + }, + { + "epoch": 0.9194168323392975, + "grad_norm": 8.972900390625, + "learning_rate": 3.930012735141748e-06, + "loss": 0.2574, + "num_input_tokens_seen": 13561544, + "step": 6937 + }, + { + "epoch": 0.9195493704440026, + "grad_norm": 8.675262451171875, + "learning_rate": 3.929727981955243e-06, + "loss": 0.1748, + "num_input_tokens_seen": 13563528, + "step": 6938 + }, + { + "epoch": 0.9196819085487078, + "grad_norm": 16.675857543945312, + "learning_rate": 3.929443201202596e-06, + "loss": 0.5545, + "num_input_tokens_seen": 13565784, + "step": 6939 + }, + { + "epoch": 0.9198144466534128, + "grad_norm": 11.325575828552246, + "learning_rate": 3.9291583928892985e-06, + "loss": 0.2299, + "num_input_tokens_seen": 13567680, + "step": 6940 + }, + { + "epoch": 0.919946984758118, + "grad_norm": 17.588489532470703, + "learning_rate": 3.92887355702084e-06, + "loss": 0.4056, + "num_input_tokens_seen": 13570112, + "step": 6941 + }, + { + "epoch": 0.920079522862823, + "grad_norm": 9.731961250305176, + "learning_rate": 3.928588693602715e-06, + "loss": 0.2847, + "num_input_tokens_seen": 13572832, + "step": 6942 + }, + { + "epoch": 0.9202120609675282, + "grad_norm": 5.086437225341797, + "learning_rate": 3.928303802640414e-06, + "loss": 0.1085, + "num_input_tokens_seen": 13575472, + "step": 6943 + }, + { + "epoch": 0.9203445990722333, + "grad_norm": 0.1162663921713829, + "learning_rate": 3.92801888413943e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13577936, + "step": 6944 + }, + { + "epoch": 0.9204771371769384, + "grad_norm": 2.924497127532959, + "learning_rate": 3.927733938105257e-06, + "loss": 0.0496, + "num_input_tokens_seen": 13579352, + "step": 6945 + }, + { + "epoch": 0.9206096752816435, + "grad_norm": 5.916689872741699, + "learning_rate": 3.927448964543389e-06, + "loss": 0.2416, + "num_input_tokens_seen": 13581160, + "step": 6946 + }, + { + "epoch": 0.9207422133863485, + "grad_norm": 9.098535537719727, + "learning_rate": 3.92716396345932e-06, + "loss": 0.3417, + "num_input_tokens_seen": 13583592, + "step": 6947 + }, + { + "epoch": 0.9208747514910537, + "grad_norm": 11.006823539733887, + "learning_rate": 3.9268789348585455e-06, + "loss": 0.326, + "num_input_tokens_seen": 13585384, + "step": 6948 + }, + { + "epoch": 0.9210072895957587, + "grad_norm": 7.09971284866333, + "learning_rate": 3.9265938787465594e-06, + "loss": 0.1841, + "num_input_tokens_seen": 13587448, + "step": 6949 + }, + { + "epoch": 0.9211398277004639, + "grad_norm": 7.298976898193359, + "learning_rate": 3.926308795128861e-06, + "loss": 0.1785, + "num_input_tokens_seen": 13589576, + "step": 6950 + }, + { + "epoch": 0.921272365805169, + "grad_norm": 0.08833196759223938, + "learning_rate": 3.926023684010945e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13590944, + "step": 6951 + }, + { + "epoch": 0.9214049039098741, + "grad_norm": 0.13017013669013977, + "learning_rate": 3.925738545398307e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13593672, + "step": 6952 + }, + { + "epoch": 0.9215374420145792, + "grad_norm": 0.034440673887729645, + "learning_rate": 3.9254533792964475e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13595304, + "step": 6953 + }, + { + "epoch": 0.9216699801192842, + "grad_norm": 0.629877507686615, + "learning_rate": 3.9251681857108625e-06, + "loss": 0.0037, + "num_input_tokens_seen": 13597096, + "step": 6954 + }, + { + "epoch": 0.9218025182239894, + "grad_norm": 6.357543468475342, + "learning_rate": 3.924882964647053e-06, + "loss": 0.1189, + "num_input_tokens_seen": 13598896, + "step": 6955 + }, + { + "epoch": 0.9219350563286945, + "grad_norm": 9.728635787963867, + "learning_rate": 3.924597716110516e-06, + "loss": 0.2992, + "num_input_tokens_seen": 13600880, + "step": 6956 + }, + { + "epoch": 0.9220675944333996, + "grad_norm": 1.617615818977356, + "learning_rate": 3.9243124401067525e-06, + "loss": 0.0066, + "num_input_tokens_seen": 13603784, + "step": 6957 + }, + { + "epoch": 0.9222001325381047, + "grad_norm": 10.881089210510254, + "learning_rate": 3.924027136641263e-06, + "loss": 0.2172, + "num_input_tokens_seen": 13605120, + "step": 6958 + }, + { + "epoch": 0.9223326706428098, + "grad_norm": 0.1734408736228943, + "learning_rate": 3.923741805719547e-06, + "loss": 0.0011, + "num_input_tokens_seen": 13607344, + "step": 6959 + }, + { + "epoch": 0.9224652087475149, + "grad_norm": 0.1797647774219513, + "learning_rate": 3.923456447347108e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13609496, + "step": 6960 + }, + { + "epoch": 0.9225977468522201, + "grad_norm": 15.159379959106445, + "learning_rate": 3.923171061529446e-06, + "loss": 0.3704, + "num_input_tokens_seen": 13611760, + "step": 6961 + }, + { + "epoch": 0.9227302849569251, + "grad_norm": 10.4498291015625, + "learning_rate": 3.922885648272064e-06, + "loss": 0.4682, + "num_input_tokens_seen": 13614248, + "step": 6962 + }, + { + "epoch": 0.9228628230616303, + "grad_norm": 7.802560806274414, + "learning_rate": 3.922600207580466e-06, + "loss": 0.337, + "num_input_tokens_seen": 13616576, + "step": 6963 + }, + { + "epoch": 0.9229953611663353, + "grad_norm": 7.963098049163818, + "learning_rate": 3.922314739460153e-06, + "loss": 0.1244, + "num_input_tokens_seen": 13619224, + "step": 6964 + }, + { + "epoch": 0.9231278992710404, + "grad_norm": 0.27201947569847107, + "learning_rate": 3.922029243916632e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13620696, + "step": 6965 + }, + { + "epoch": 0.9232604373757455, + "grad_norm": 3.4067540168762207, + "learning_rate": 3.921743720955405e-06, + "loss": 0.1671, + "num_input_tokens_seen": 13622952, + "step": 6966 + }, + { + "epoch": 0.9233929754804506, + "grad_norm": 0.026021990925073624, + "learning_rate": 3.9214581705819796e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13624272, + "step": 6967 + }, + { + "epoch": 0.9235255135851558, + "grad_norm": 0.09226591140031815, + "learning_rate": 3.921172592801859e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13626216, + "step": 6968 + }, + { + "epoch": 0.9236580516898608, + "grad_norm": 8.331116676330566, + "learning_rate": 3.920886987620551e-06, + "loss": 0.1847, + "num_input_tokens_seen": 13628296, + "step": 6969 + }, + { + "epoch": 0.923790589794566, + "grad_norm": 0.6970057487487793, + "learning_rate": 3.920601355043561e-06, + "loss": 0.0087, + "num_input_tokens_seen": 13630360, + "step": 6970 + }, + { + "epoch": 0.923923127899271, + "grad_norm": 10.433618545532227, + "learning_rate": 3.9203156950763976e-06, + "loss": 0.1811, + "num_input_tokens_seen": 13632560, + "step": 6971 + }, + { + "epoch": 0.9240556660039762, + "grad_norm": 8.163779258728027, + "learning_rate": 3.920030007724568e-06, + "loss": 0.0472, + "num_input_tokens_seen": 13634144, + "step": 6972 + }, + { + "epoch": 0.9241882041086813, + "grad_norm": 6.9013671875, + "learning_rate": 3.91974429299358e-06, + "loss": 0.1587, + "num_input_tokens_seen": 13636912, + "step": 6973 + }, + { + "epoch": 0.9243207422133863, + "grad_norm": 0.06709427386522293, + "learning_rate": 3.919458550888942e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13638904, + "step": 6974 + }, + { + "epoch": 0.9244532803180915, + "grad_norm": 0.08862776309251785, + "learning_rate": 3.919172781416164e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13641288, + "step": 6975 + }, + { + "epoch": 0.9245858184227965, + "grad_norm": 6.023418426513672, + "learning_rate": 3.918886984580756e-06, + "loss": 0.3011, + "num_input_tokens_seen": 13643320, + "step": 6976 + }, + { + "epoch": 0.9247183565275017, + "grad_norm": 9.24990463256836, + "learning_rate": 3.918601160388228e-06, + "loss": 0.092, + "num_input_tokens_seen": 13645392, + "step": 6977 + }, + { + "epoch": 0.9248508946322067, + "grad_norm": 13.778376579284668, + "learning_rate": 3.9183153088440915e-06, + "loss": 0.4526, + "num_input_tokens_seen": 13647064, + "step": 6978 + }, + { + "epoch": 0.9249834327369119, + "grad_norm": 7.930911540985107, + "learning_rate": 3.918029429953857e-06, + "loss": 0.4003, + "num_input_tokens_seen": 13648720, + "step": 6979 + }, + { + "epoch": 0.925115970841617, + "grad_norm": 0.056612592190504074, + "learning_rate": 3.917743523723037e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13650040, + "step": 6980 + }, + { + "epoch": 0.925248508946322, + "grad_norm": 8.551873207092285, + "learning_rate": 3.917457590157143e-06, + "loss": 0.3409, + "num_input_tokens_seen": 13651656, + "step": 6981 + }, + { + "epoch": 0.9253810470510272, + "grad_norm": 8.11879825592041, + "learning_rate": 3.91717162926169e-06, + "loss": 0.2561, + "num_input_tokens_seen": 13654056, + "step": 6982 + }, + { + "epoch": 0.9255135851557322, + "grad_norm": 2.4395313262939453, + "learning_rate": 3.916885641042189e-06, + "loss": 0.0089, + "num_input_tokens_seen": 13657416, + "step": 6983 + }, + { + "epoch": 0.9256461232604374, + "grad_norm": 11.213218688964844, + "learning_rate": 3.916599625504156e-06, + "loss": 0.4637, + "num_input_tokens_seen": 13659624, + "step": 6984 + }, + { + "epoch": 0.9257786613651425, + "grad_norm": 0.7120232582092285, + "learning_rate": 3.916313582653105e-06, + "loss": 0.0042, + "num_input_tokens_seen": 13661208, + "step": 6985 + }, + { + "epoch": 0.9259111994698476, + "grad_norm": 4.323545455932617, + "learning_rate": 3.916027512494551e-06, + "loss": 0.1995, + "num_input_tokens_seen": 13662568, + "step": 6986 + }, + { + "epoch": 0.9260437375745527, + "grad_norm": 6.108663558959961, + "learning_rate": 3.91574141503401e-06, + "loss": 0.2203, + "num_input_tokens_seen": 13664360, + "step": 6987 + }, + { + "epoch": 0.9261762756792578, + "grad_norm": 9.732032775878906, + "learning_rate": 3.915455290276998e-06, + "loss": 0.4196, + "num_input_tokens_seen": 13666680, + "step": 6988 + }, + { + "epoch": 0.9263088137839629, + "grad_norm": 9.950480461120605, + "learning_rate": 3.915169138229032e-06, + "loss": 0.3896, + "num_input_tokens_seen": 13668816, + "step": 6989 + }, + { + "epoch": 0.9264413518886679, + "grad_norm": 0.8857958316802979, + "learning_rate": 3.914882958895627e-06, + "loss": 0.0054, + "num_input_tokens_seen": 13670576, + "step": 6990 + }, + { + "epoch": 0.9265738899933731, + "grad_norm": 4.835536003112793, + "learning_rate": 3.914596752282303e-06, + "loss": 0.2181, + "num_input_tokens_seen": 13672656, + "step": 6991 + }, + { + "epoch": 0.9267064280980782, + "grad_norm": 0.2453504353761673, + "learning_rate": 3.914310518394579e-06, + "loss": 0.0017, + "num_input_tokens_seen": 13674432, + "step": 6992 + }, + { + "epoch": 0.9268389662027833, + "grad_norm": 11.459491729736328, + "learning_rate": 3.914024257237972e-06, + "loss": 0.3185, + "num_input_tokens_seen": 13676408, + "step": 6993 + }, + { + "epoch": 0.9269715043074884, + "grad_norm": 2.2056283950805664, + "learning_rate": 3.913737968818001e-06, + "loss": 0.0123, + "num_input_tokens_seen": 13677792, + "step": 6994 + }, + { + "epoch": 0.9271040424121935, + "grad_norm": 4.765780925750732, + "learning_rate": 3.913451653140187e-06, + "loss": 0.1351, + "num_input_tokens_seen": 13680032, + "step": 6995 + }, + { + "epoch": 0.9272365805168986, + "grad_norm": 3.8953423500061035, + "learning_rate": 3.9131653102100504e-06, + "loss": 0.1622, + "num_input_tokens_seen": 13682776, + "step": 6996 + }, + { + "epoch": 0.9273691186216038, + "grad_norm": 7.251965045928955, + "learning_rate": 3.912878940033111e-06, + "loss": 0.168, + "num_input_tokens_seen": 13684512, + "step": 6997 + }, + { + "epoch": 0.9275016567263088, + "grad_norm": 9.148533821105957, + "learning_rate": 3.912592542614892e-06, + "loss": 0.1936, + "num_input_tokens_seen": 13686728, + "step": 6998 + }, + { + "epoch": 0.927634194831014, + "grad_norm": 0.0448852963745594, + "learning_rate": 3.912306117960914e-06, + "loss": 0.0003, + "num_input_tokens_seen": 13688800, + "step": 6999 + }, + { + "epoch": 0.927766732935719, + "grad_norm": 1.0870826244354248, + "learning_rate": 3.9120196660767e-06, + "loss": 0.0078, + "num_input_tokens_seen": 13690712, + "step": 7000 + }, + { + "epoch": 0.9278992710404241, + "grad_norm": 5.96731424331665, + "learning_rate": 3.911733186967772e-06, + "loss": 0.1266, + "num_input_tokens_seen": 13692216, + "step": 7001 + }, + { + "epoch": 0.9280318091451292, + "grad_norm": 7.900094985961914, + "learning_rate": 3.911446680639654e-06, + "loss": 0.4551, + "num_input_tokens_seen": 13694384, + "step": 7002 + }, + { + "epoch": 0.9281643472498343, + "grad_norm": 16.05607032775879, + "learning_rate": 3.911160147097871e-06, + "loss": 0.3751, + "num_input_tokens_seen": 13695944, + "step": 7003 + }, + { + "epoch": 0.9282968853545395, + "grad_norm": 8.916208267211914, + "learning_rate": 3.9108735863479465e-06, + "loss": 0.3866, + "num_input_tokens_seen": 13698784, + "step": 7004 + }, + { + "epoch": 0.9284294234592445, + "grad_norm": 12.39218521118164, + "learning_rate": 3.910586998395406e-06, + "loss": 0.5056, + "num_input_tokens_seen": 13700672, + "step": 7005 + }, + { + "epoch": 0.9285619615639497, + "grad_norm": 0.11652123928070068, + "learning_rate": 3.910300383245775e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13702056, + "step": 7006 + }, + { + "epoch": 0.9286944996686547, + "grad_norm": 3.1840665340423584, + "learning_rate": 3.9100137409045805e-06, + "loss": 0.0698, + "num_input_tokens_seen": 13703640, + "step": 7007 + }, + { + "epoch": 0.9288270377733598, + "grad_norm": 14.369851112365723, + "learning_rate": 3.909727071377347e-06, + "loss": 0.4635, + "num_input_tokens_seen": 13706096, + "step": 7008 + }, + { + "epoch": 0.928959575878065, + "grad_norm": 2.8131906986236572, + "learning_rate": 3.9094403746696045e-06, + "loss": 0.0565, + "num_input_tokens_seen": 13707768, + "step": 7009 + }, + { + "epoch": 0.92909211398277, + "grad_norm": 4.054993629455566, + "learning_rate": 3.909153650786878e-06, + "loss": 0.1131, + "num_input_tokens_seen": 13710184, + "step": 7010 + }, + { + "epoch": 0.9292246520874752, + "grad_norm": 7.398223876953125, + "learning_rate": 3.908866899734697e-06, + "loss": 0.2667, + "num_input_tokens_seen": 13712560, + "step": 7011 + }, + { + "epoch": 0.9293571901921802, + "grad_norm": 3.997837543487549, + "learning_rate": 3.908580121518591e-06, + "loss": 0.0315, + "num_input_tokens_seen": 13714456, + "step": 7012 + }, + { + "epoch": 0.9294897282968854, + "grad_norm": 4.207622051239014, + "learning_rate": 3.908293316144089e-06, + "loss": 0.0598, + "num_input_tokens_seen": 13716440, + "step": 7013 + }, + { + "epoch": 0.9296222664015904, + "grad_norm": 0.13573262095451355, + "learning_rate": 3.908006483616719e-06, + "loss": 0.001, + "num_input_tokens_seen": 13717680, + "step": 7014 + }, + { + "epoch": 0.9297548045062956, + "grad_norm": 0.1665526032447815, + "learning_rate": 3.907719623942014e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13718936, + "step": 7015 + }, + { + "epoch": 0.9298873426110007, + "grad_norm": 2.3353826999664307, + "learning_rate": 3.907432737125502e-06, + "loss": 0.0489, + "num_input_tokens_seen": 13720944, + "step": 7016 + }, + { + "epoch": 0.9300198807157057, + "grad_norm": 9.270376205444336, + "learning_rate": 3.907145823172717e-06, + "loss": 0.4772, + "num_input_tokens_seen": 13722992, + "step": 7017 + }, + { + "epoch": 0.9301524188204109, + "grad_norm": 6.651823997497559, + "learning_rate": 3.9068588820891896e-06, + "loss": 0.0963, + "num_input_tokens_seen": 13725520, + "step": 7018 + }, + { + "epoch": 0.9302849569251159, + "grad_norm": 4.772802829742432, + "learning_rate": 3.906571913880452e-06, + "loss": 0.1525, + "num_input_tokens_seen": 13727512, + "step": 7019 + }, + { + "epoch": 0.9304174950298211, + "grad_norm": 6.249307155609131, + "learning_rate": 3.9062849185520375e-06, + "loss": 0.0749, + "num_input_tokens_seen": 13729920, + "step": 7020 + }, + { + "epoch": 0.9305500331345262, + "grad_norm": 6.4778265953063965, + "learning_rate": 3.90599789610948e-06, + "loss": 0.205, + "num_input_tokens_seen": 13732936, + "step": 7021 + }, + { + "epoch": 0.9306825712392313, + "grad_norm": 7.849071025848389, + "learning_rate": 3.905710846558314e-06, + "loss": 0.111, + "num_input_tokens_seen": 13734232, + "step": 7022 + }, + { + "epoch": 0.9308151093439364, + "grad_norm": 6.195882797241211, + "learning_rate": 3.905423769904072e-06, + "loss": 0.1181, + "num_input_tokens_seen": 13736360, + "step": 7023 + }, + { + "epoch": 0.9309476474486414, + "grad_norm": 4.443562984466553, + "learning_rate": 3.90513666615229e-06, + "loss": 0.0656, + "num_input_tokens_seen": 13738496, + "step": 7024 + }, + { + "epoch": 0.9310801855533466, + "grad_norm": 0.2674237787723541, + "learning_rate": 3.904849535308504e-06, + "loss": 0.002, + "num_input_tokens_seen": 13739872, + "step": 7025 + }, + { + "epoch": 0.9312127236580517, + "grad_norm": 0.18563418090343475, + "learning_rate": 3.90456237737825e-06, + "loss": 0.0013, + "num_input_tokens_seen": 13740984, + "step": 7026 + }, + { + "epoch": 0.9313452617627568, + "grad_norm": 0.4591938853263855, + "learning_rate": 3.904275192367064e-06, + "loss": 0.003, + "num_input_tokens_seen": 13743832, + "step": 7027 + }, + { + "epoch": 0.9314777998674619, + "grad_norm": 8.741841316223145, + "learning_rate": 3.903987980280483e-06, + "loss": 0.1743, + "num_input_tokens_seen": 13746368, + "step": 7028 + }, + { + "epoch": 0.931610337972167, + "grad_norm": 7.380860328674316, + "learning_rate": 3.903700741124047e-06, + "loss": 0.4407, + "num_input_tokens_seen": 13748800, + "step": 7029 + }, + { + "epoch": 0.9317428760768721, + "grad_norm": 4.252569198608398, + "learning_rate": 3.903413474903291e-06, + "loss": 0.1617, + "num_input_tokens_seen": 13750712, + "step": 7030 + }, + { + "epoch": 0.9318754141815772, + "grad_norm": 0.3303375542163849, + "learning_rate": 3.903126181623755e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13752424, + "step": 7031 + }, + { + "epoch": 0.9320079522862823, + "grad_norm": 0.12293339520692825, + "learning_rate": 3.902838861290979e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13753944, + "step": 7032 + }, + { + "epoch": 0.9321404903909875, + "grad_norm": 3.9423863887786865, + "learning_rate": 3.902551513910502e-06, + "loss": 0.1561, + "num_input_tokens_seen": 13755752, + "step": 7033 + }, + { + "epoch": 0.9322730284956925, + "grad_norm": 0.35025668144226074, + "learning_rate": 3.902264139487863e-06, + "loss": 0.0024, + "num_input_tokens_seen": 13757216, + "step": 7034 + }, + { + "epoch": 0.9324055666003976, + "grad_norm": 12.962719917297363, + "learning_rate": 3.901976738028605e-06, + "loss": 0.2977, + "num_input_tokens_seen": 13759400, + "step": 7035 + }, + { + "epoch": 0.9325381047051027, + "grad_norm": 13.800041198730469, + "learning_rate": 3.9016893095382695e-06, + "loss": 0.3665, + "num_input_tokens_seen": 13760664, + "step": 7036 + }, + { + "epoch": 0.9326706428098078, + "grad_norm": 13.342743873596191, + "learning_rate": 3.901401854022395e-06, + "loss": 0.4706, + "num_input_tokens_seen": 13763200, + "step": 7037 + }, + { + "epoch": 0.932803180914513, + "grad_norm": 0.1290958970785141, + "learning_rate": 3.901114371486527e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13765248, + "step": 7038 + }, + { + "epoch": 0.932935719019218, + "grad_norm": 17.582426071166992, + "learning_rate": 3.900826861936207e-06, + "loss": 0.5555, + "num_input_tokens_seen": 13767536, + "step": 7039 + }, + { + "epoch": 0.9330682571239232, + "grad_norm": 1.9207929372787476, + "learning_rate": 3.900539325376978e-06, + "loss": 0.028, + "num_input_tokens_seen": 13768904, + "step": 7040 + }, + { + "epoch": 0.9332007952286282, + "grad_norm": 10.582015037536621, + "learning_rate": 3.900251761814386e-06, + "loss": 0.2379, + "num_input_tokens_seen": 13769976, + "step": 7041 + }, + { + "epoch": 0.9333333333333333, + "grad_norm": 5.8943376541137695, + "learning_rate": 3.899964171253974e-06, + "loss": 0.1111, + "num_input_tokens_seen": 13772440, + "step": 7042 + }, + { + "epoch": 0.9334658714380384, + "grad_norm": 15.492154121398926, + "learning_rate": 3.899676553701286e-06, + "loss": 0.397, + "num_input_tokens_seen": 13774080, + "step": 7043 + }, + { + "epoch": 0.9335984095427435, + "grad_norm": 0.21643370389938354, + "learning_rate": 3.8993889091618695e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13776240, + "step": 7044 + }, + { + "epoch": 0.9337309476474487, + "grad_norm": 13.893548011779785, + "learning_rate": 3.899101237641268e-06, + "loss": 0.4162, + "num_input_tokens_seen": 13777984, + "step": 7045 + }, + { + "epoch": 0.9338634857521537, + "grad_norm": 6.212873935699463, + "learning_rate": 3.898813539145031e-06, + "loss": 0.15, + "num_input_tokens_seen": 13779648, + "step": 7046 + }, + { + "epoch": 0.9339960238568589, + "grad_norm": 0.47066769003868103, + "learning_rate": 3.898525813678703e-06, + "loss": 0.0035, + "num_input_tokens_seen": 13781368, + "step": 7047 + }, + { + "epoch": 0.9341285619615639, + "grad_norm": 0.5407800078392029, + "learning_rate": 3.8982380612478335e-06, + "loss": 0.0039, + "num_input_tokens_seen": 13782520, + "step": 7048 + }, + { + "epoch": 0.9342611000662691, + "grad_norm": 0.5224636197090149, + "learning_rate": 3.897950281857969e-06, + "loss": 0.0035, + "num_input_tokens_seen": 13784160, + "step": 7049 + }, + { + "epoch": 0.9343936381709742, + "grad_norm": 0.786259651184082, + "learning_rate": 3.897662475514658e-06, + "loss": 0.0058, + "num_input_tokens_seen": 13785464, + "step": 7050 + }, + { + "epoch": 0.9345261762756792, + "grad_norm": 12.074559211730957, + "learning_rate": 3.897374642223452e-06, + "loss": 0.2928, + "num_input_tokens_seen": 13787080, + "step": 7051 + }, + { + "epoch": 0.9346587143803844, + "grad_norm": 7.477062225341797, + "learning_rate": 3.8970867819898975e-06, + "loss": 0.3001, + "num_input_tokens_seen": 13789264, + "step": 7052 + }, + { + "epoch": 0.9347912524850894, + "grad_norm": 6.711886405944824, + "learning_rate": 3.896798894819546e-06, + "loss": 0.053, + "num_input_tokens_seen": 13791128, + "step": 7053 + }, + { + "epoch": 0.9349237905897946, + "grad_norm": 13.31130599975586, + "learning_rate": 3.896510980717949e-06, + "loss": 0.3118, + "num_input_tokens_seen": 13793592, + "step": 7054 + }, + { + "epoch": 0.9350563286944996, + "grad_norm": 0.2863091230392456, + "learning_rate": 3.896223039690656e-06, + "loss": 0.002, + "num_input_tokens_seen": 13795264, + "step": 7055 + }, + { + "epoch": 0.9351888667992048, + "grad_norm": 0.13115935027599335, + "learning_rate": 3.89593507174322e-06, + "loss": 0.001, + "num_input_tokens_seen": 13797440, + "step": 7056 + }, + { + "epoch": 0.9353214049039099, + "grad_norm": 11.746980667114258, + "learning_rate": 3.895647076881193e-06, + "loss": 0.2542, + "num_input_tokens_seen": 13799016, + "step": 7057 + }, + { + "epoch": 0.935453943008615, + "grad_norm": 0.19306576251983643, + "learning_rate": 3.895359055110127e-06, + "loss": 0.0014, + "num_input_tokens_seen": 13800768, + "step": 7058 + }, + { + "epoch": 0.9355864811133201, + "grad_norm": 1.3046098947525024, + "learning_rate": 3.895071006435577e-06, + "loss": 0.0327, + "num_input_tokens_seen": 13801968, + "step": 7059 + }, + { + "epoch": 0.9357190192180251, + "grad_norm": 11.87197494506836, + "learning_rate": 3.8947829308630945e-06, + "loss": 0.3132, + "num_input_tokens_seen": 13804512, + "step": 7060 + }, + { + "epoch": 0.9358515573227303, + "grad_norm": 0.12728971242904663, + "learning_rate": 3.894494828398235e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13806104, + "step": 7061 + }, + { + "epoch": 0.9359840954274354, + "grad_norm": 12.821535110473633, + "learning_rate": 3.8942066990465535e-06, + "loss": 0.2944, + "num_input_tokens_seen": 13808272, + "step": 7062 + }, + { + "epoch": 0.9361166335321405, + "grad_norm": 0.188517227768898, + "learning_rate": 3.893918542813605e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13810824, + "step": 7063 + }, + { + "epoch": 0.9362491716368456, + "grad_norm": 18.274410247802734, + "learning_rate": 3.893630359704945e-06, + "loss": 0.5839, + "num_input_tokens_seen": 13813304, + "step": 7064 + }, + { + "epoch": 0.9363817097415507, + "grad_norm": 13.734169006347656, + "learning_rate": 3.89334214972613e-06, + "loss": 0.7593, + "num_input_tokens_seen": 13815264, + "step": 7065 + }, + { + "epoch": 0.9365142478462558, + "grad_norm": 1.042287826538086, + "learning_rate": 3.893053912882718e-06, + "loss": 0.0067, + "num_input_tokens_seen": 13817312, + "step": 7066 + }, + { + "epoch": 0.9366467859509608, + "grad_norm": 7.111483097076416, + "learning_rate": 3.892765649180265e-06, + "loss": 0.3247, + "num_input_tokens_seen": 13819280, + "step": 7067 + }, + { + "epoch": 0.936779324055666, + "grad_norm": 8.170369148254395, + "learning_rate": 3.89247735862433e-06, + "loss": 0.1589, + "num_input_tokens_seen": 13821488, + "step": 7068 + }, + { + "epoch": 0.9369118621603711, + "grad_norm": 10.619584083557129, + "learning_rate": 3.89218904122047e-06, + "loss": 0.2953, + "num_input_tokens_seen": 13823288, + "step": 7069 + }, + { + "epoch": 0.9370444002650762, + "grad_norm": 4.770723342895508, + "learning_rate": 3.891900696974245e-06, + "loss": 0.1214, + "num_input_tokens_seen": 13824808, + "step": 7070 + }, + { + "epoch": 0.9371769383697813, + "grad_norm": 18.4471435546875, + "learning_rate": 3.891612325891215e-06, + "loss": 0.8585, + "num_input_tokens_seen": 13828000, + "step": 7071 + }, + { + "epoch": 0.9373094764744864, + "grad_norm": 12.26531982421875, + "learning_rate": 3.89132392797694e-06, + "loss": 0.4587, + "num_input_tokens_seen": 13829896, + "step": 7072 + }, + { + "epoch": 0.9374420145791915, + "grad_norm": 0.14099828898906708, + "learning_rate": 3.891035503236978e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13833472, + "step": 7073 + }, + { + "epoch": 0.9375745526838967, + "grad_norm": 10.49266529083252, + "learning_rate": 3.890747051676893e-06, + "loss": 0.3579, + "num_input_tokens_seen": 13835488, + "step": 7074 + }, + { + "epoch": 0.9377070907886017, + "grad_norm": 7.94146728515625, + "learning_rate": 3.890458573302246e-06, + "loss": 0.2631, + "num_input_tokens_seen": 13837600, + "step": 7075 + }, + { + "epoch": 0.9378396288933069, + "grad_norm": 5.770942211151123, + "learning_rate": 3.890170068118597e-06, + "loss": 0.042, + "num_input_tokens_seen": 13840240, + "step": 7076 + }, + { + "epoch": 0.9379721669980119, + "grad_norm": 3.6708078384399414, + "learning_rate": 3.889881536131511e-06, + "loss": 0.0825, + "num_input_tokens_seen": 13843984, + "step": 7077 + }, + { + "epoch": 0.938104705102717, + "grad_norm": 2.489748477935791, + "learning_rate": 3.88959297734655e-06, + "loss": 0.0811, + "num_input_tokens_seen": 13845864, + "step": 7078 + }, + { + "epoch": 0.9382372432074222, + "grad_norm": 11.491775512695312, + "learning_rate": 3.8893043917692776e-06, + "loss": 0.3878, + "num_input_tokens_seen": 13848720, + "step": 7079 + }, + { + "epoch": 0.9383697813121272, + "grad_norm": 9.523656845092773, + "learning_rate": 3.889015779405259e-06, + "loss": 0.3115, + "num_input_tokens_seen": 13850968, + "step": 7080 + }, + { + "epoch": 0.9385023194168324, + "grad_norm": 8.847926139831543, + "learning_rate": 3.888727140260056e-06, + "loss": 0.2503, + "num_input_tokens_seen": 13852792, + "step": 7081 + }, + { + "epoch": 0.9386348575215374, + "grad_norm": 5.771275997161865, + "learning_rate": 3.888438474339237e-06, + "loss": 0.2388, + "num_input_tokens_seen": 13854864, + "step": 7082 + }, + { + "epoch": 0.9387673956262426, + "grad_norm": 13.877067565917969, + "learning_rate": 3.888149781648367e-06, + "loss": 0.358, + "num_input_tokens_seen": 13858016, + "step": 7083 + }, + { + "epoch": 0.9388999337309476, + "grad_norm": 16.063514709472656, + "learning_rate": 3.88786106219301e-06, + "loss": 0.5331, + "num_input_tokens_seen": 13859632, + "step": 7084 + }, + { + "epoch": 0.9390324718356527, + "grad_norm": 0.07563447207212448, + "learning_rate": 3.887572315978735e-06, + "loss": 0.0005, + "num_input_tokens_seen": 13860856, + "step": 7085 + }, + { + "epoch": 0.9391650099403579, + "grad_norm": 0.11302629113197327, + "learning_rate": 3.887283543011109e-06, + "loss": 0.0008, + "num_input_tokens_seen": 13863552, + "step": 7086 + }, + { + "epoch": 0.9392975480450629, + "grad_norm": 2.5225846767425537, + "learning_rate": 3.886994743295699e-06, + "loss": 0.0342, + "num_input_tokens_seen": 13867112, + "step": 7087 + }, + { + "epoch": 0.9394300861497681, + "grad_norm": 12.152167320251465, + "learning_rate": 3.8867059168380725e-06, + "loss": 0.4418, + "num_input_tokens_seen": 13869416, + "step": 7088 + }, + { + "epoch": 0.9395626242544731, + "grad_norm": 7.963101387023926, + "learning_rate": 3.8864170636438004e-06, + "loss": 0.1687, + "num_input_tokens_seen": 13871400, + "step": 7089 + }, + { + "epoch": 0.9396951623591783, + "grad_norm": 7.331704616546631, + "learning_rate": 3.88612818371845e-06, + "loss": 0.2273, + "num_input_tokens_seen": 13872920, + "step": 7090 + }, + { + "epoch": 0.9398277004638834, + "grad_norm": 14.124824523925781, + "learning_rate": 3.885839277067593e-06, + "loss": 0.4864, + "num_input_tokens_seen": 13874760, + "step": 7091 + }, + { + "epoch": 0.9399602385685885, + "grad_norm": 6.634252071380615, + "learning_rate": 3.885550343696799e-06, + "loss": 0.1185, + "num_input_tokens_seen": 13877496, + "step": 7092 + }, + { + "epoch": 0.9400927766732936, + "grad_norm": 0.1869451105594635, + "learning_rate": 3.8852613836116375e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13878856, + "step": 7093 + }, + { + "epoch": 0.9402253147779986, + "grad_norm": 8.83353328704834, + "learning_rate": 3.884972396817681e-06, + "loss": 0.1767, + "num_input_tokens_seen": 13880912, + "step": 7094 + }, + { + "epoch": 0.9403578528827038, + "grad_norm": 0.2119373083114624, + "learning_rate": 3.884683383320501e-06, + "loss": 0.0016, + "num_input_tokens_seen": 13882640, + "step": 7095 + }, + { + "epoch": 0.9404903909874088, + "grad_norm": 11.178598403930664, + "learning_rate": 3.884394343125671e-06, + "loss": 0.245, + "num_input_tokens_seen": 13885160, + "step": 7096 + }, + { + "epoch": 0.940622929092114, + "grad_norm": 10.791341781616211, + "learning_rate": 3.884105276238762e-06, + "loss": 0.2045, + "num_input_tokens_seen": 13887952, + "step": 7097 + }, + { + "epoch": 0.9407554671968191, + "grad_norm": 6.683265209197998, + "learning_rate": 3.88381618266535e-06, + "loss": 0.1451, + "num_input_tokens_seen": 13890352, + "step": 7098 + }, + { + "epoch": 0.9408880053015242, + "grad_norm": 11.57684326171875, + "learning_rate": 3.883527062411005e-06, + "loss": 0.2712, + "num_input_tokens_seen": 13892240, + "step": 7099 + }, + { + "epoch": 0.9410205434062293, + "grad_norm": 8.927364349365234, + "learning_rate": 3.883237915481306e-06, + "loss": 0.1335, + "num_input_tokens_seen": 13894328, + "step": 7100 + }, + { + "epoch": 0.9411530815109344, + "grad_norm": 0.3892424404621124, + "learning_rate": 3.882948741881824e-06, + "loss": 0.0029, + "num_input_tokens_seen": 13896472, + "step": 7101 + }, + { + "epoch": 0.9412856196156395, + "grad_norm": 7.853362083435059, + "learning_rate": 3.882659541618138e-06, + "loss": 0.1866, + "num_input_tokens_seen": 13898704, + "step": 7102 + }, + { + "epoch": 0.9414181577203447, + "grad_norm": 8.738165855407715, + "learning_rate": 3.8823703146958214e-06, + "loss": 0.3392, + "num_input_tokens_seen": 13900128, + "step": 7103 + }, + { + "epoch": 0.9415506958250497, + "grad_norm": 7.839698791503906, + "learning_rate": 3.882081061120451e-06, + "loss": 0.1573, + "num_input_tokens_seen": 13903448, + "step": 7104 + }, + { + "epoch": 0.9416832339297548, + "grad_norm": 0.2703794240951538, + "learning_rate": 3.881791780897604e-06, + "loss": 0.002, + "num_input_tokens_seen": 13905176, + "step": 7105 + }, + { + "epoch": 0.9418157720344599, + "grad_norm": 19.21526336669922, + "learning_rate": 3.88150247403286e-06, + "loss": 0.8292, + "num_input_tokens_seen": 13908224, + "step": 7106 + }, + { + "epoch": 0.941948310139165, + "grad_norm": 0.7847921848297119, + "learning_rate": 3.8812131405317936e-06, + "loss": 0.0057, + "num_input_tokens_seen": 13909400, + "step": 7107 + }, + { + "epoch": 0.9420808482438701, + "grad_norm": 17.949665069580078, + "learning_rate": 3.880923780399986e-06, + "loss": 0.8185, + "num_input_tokens_seen": 13911488, + "step": 7108 + }, + { + "epoch": 0.9422133863485752, + "grad_norm": 0.9618986248970032, + "learning_rate": 3.880634393643014e-06, + "loss": 0.0069, + "num_input_tokens_seen": 13913320, + "step": 7109 + }, + { + "epoch": 0.9423459244532804, + "grad_norm": 0.6985360383987427, + "learning_rate": 3.88034498026646e-06, + "loss": 0.0043, + "num_input_tokens_seen": 13916048, + "step": 7110 + }, + { + "epoch": 0.9424784625579854, + "grad_norm": 5.417811870574951, + "learning_rate": 3.880055540275902e-06, + "loss": 0.0629, + "num_input_tokens_seen": 13918696, + "step": 7111 + }, + { + "epoch": 0.9426110006626905, + "grad_norm": 0.7126796841621399, + "learning_rate": 3.8797660736769205e-06, + "loss": 0.005, + "num_input_tokens_seen": 13920704, + "step": 7112 + }, + { + "epoch": 0.9427435387673956, + "grad_norm": 10.946029663085938, + "learning_rate": 3.8794765804750974e-06, + "loss": 0.3829, + "num_input_tokens_seen": 13922800, + "step": 7113 + }, + { + "epoch": 0.9428760768721007, + "grad_norm": 0.6073399782180786, + "learning_rate": 3.879187060676015e-06, + "loss": 0.0042, + "num_input_tokens_seen": 13924992, + "step": 7114 + }, + { + "epoch": 0.9430086149768059, + "grad_norm": 6.484592437744141, + "learning_rate": 3.878897514285254e-06, + "loss": 0.083, + "num_input_tokens_seen": 13926256, + "step": 7115 + }, + { + "epoch": 0.9431411530815109, + "grad_norm": 6.664862155914307, + "learning_rate": 3.878607941308397e-06, + "loss": 0.1241, + "num_input_tokens_seen": 13928008, + "step": 7116 + }, + { + "epoch": 0.9432736911862161, + "grad_norm": 7.631915092468262, + "learning_rate": 3.878318341751029e-06, + "loss": 0.2026, + "num_input_tokens_seen": 13929680, + "step": 7117 + }, + { + "epoch": 0.9434062292909211, + "grad_norm": 8.696460723876953, + "learning_rate": 3.878028715618732e-06, + "loss": 0.066, + "num_input_tokens_seen": 13931512, + "step": 7118 + }, + { + "epoch": 0.9435387673956263, + "grad_norm": 0.03154376521706581, + "learning_rate": 3.877739062917091e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13932608, + "step": 7119 + }, + { + "epoch": 0.9436713055003313, + "grad_norm": 0.05518821254372597, + "learning_rate": 3.87744938365169e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13934160, + "step": 7120 + }, + { + "epoch": 0.9438038436050364, + "grad_norm": 0.021976392716169357, + "learning_rate": 3.8771596778281145e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13935528, + "step": 7121 + }, + { + "epoch": 0.9439363817097416, + "grad_norm": 11.469886779785156, + "learning_rate": 3.876869945451951e-06, + "loss": 0.4154, + "num_input_tokens_seen": 13937656, + "step": 7122 + }, + { + "epoch": 0.9440689198144466, + "grad_norm": 4.259563446044922, + "learning_rate": 3.876580186528784e-06, + "loss": 0.0524, + "num_input_tokens_seen": 13939592, + "step": 7123 + }, + { + "epoch": 0.9442014579191518, + "grad_norm": 8.293495178222656, + "learning_rate": 3.876290401064202e-06, + "loss": 0.2282, + "num_input_tokens_seen": 13941464, + "step": 7124 + }, + { + "epoch": 0.9443339960238568, + "grad_norm": 0.025867924094200134, + "learning_rate": 3.876000589063792e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13943432, + "step": 7125 + }, + { + "epoch": 0.944466534128562, + "grad_norm": 0.05256165564060211, + "learning_rate": 3.8757107505331414e-06, + "loss": 0.0004, + "num_input_tokens_seen": 13945576, + "step": 7126 + }, + { + "epoch": 0.9445990722332671, + "grad_norm": 0.03770623728632927, + "learning_rate": 3.875420885477839e-06, + "loss": 0.0003, + "num_input_tokens_seen": 13947552, + "step": 7127 + }, + { + "epoch": 0.9447316103379721, + "grad_norm": 2.8745107650756836, + "learning_rate": 3.875130993903471e-06, + "loss": 0.024, + "num_input_tokens_seen": 13950752, + "step": 7128 + }, + { + "epoch": 0.9448641484426773, + "grad_norm": 9.824553489685059, + "learning_rate": 3.874841075815631e-06, + "loss": 0.2826, + "num_input_tokens_seen": 13952560, + "step": 7129 + }, + { + "epoch": 0.9449966865473823, + "grad_norm": 4.166808128356934, + "learning_rate": 3.874551131219905e-06, + "loss": 0.0944, + "num_input_tokens_seen": 13954272, + "step": 7130 + }, + { + "epoch": 0.9451292246520875, + "grad_norm": 21.765663146972656, + "learning_rate": 3.874261160121886e-06, + "loss": 0.9576, + "num_input_tokens_seen": 13956280, + "step": 7131 + }, + { + "epoch": 0.9452617627567925, + "grad_norm": 16.836719512939453, + "learning_rate": 3.873971162527163e-06, + "loss": 0.4611, + "num_input_tokens_seen": 13958232, + "step": 7132 + }, + { + "epoch": 0.9453943008614977, + "grad_norm": 2.8087234497070312, + "learning_rate": 3.8736811384413286e-06, + "loss": 0.0304, + "num_input_tokens_seen": 13959728, + "step": 7133 + }, + { + "epoch": 0.9455268389662028, + "grad_norm": 4.472196102142334, + "learning_rate": 3.873391087869974e-06, + "loss": 0.1159, + "num_input_tokens_seen": 13961888, + "step": 7134 + }, + { + "epoch": 0.9456593770709079, + "grad_norm": 0.1440078169107437, + "learning_rate": 3.873101010818692e-06, + "loss": 0.001, + "num_input_tokens_seen": 13963512, + "step": 7135 + }, + { + "epoch": 0.945791915175613, + "grad_norm": 8.4107666015625, + "learning_rate": 3.872810907293075e-06, + "loss": 0.1642, + "num_input_tokens_seen": 13965048, + "step": 7136 + }, + { + "epoch": 0.945924453280318, + "grad_norm": 12.829103469848633, + "learning_rate": 3.872520777298717e-06, + "loss": 0.4506, + "num_input_tokens_seen": 13966944, + "step": 7137 + }, + { + "epoch": 0.9460569913850232, + "grad_norm": 12.858433723449707, + "learning_rate": 3.872230620841211e-06, + "loss": 0.4554, + "num_input_tokens_seen": 13968688, + "step": 7138 + }, + { + "epoch": 0.9461895294897283, + "grad_norm": 8.229705810546875, + "learning_rate": 3.871940437926153e-06, + "loss": 0.2522, + "num_input_tokens_seen": 13970744, + "step": 7139 + }, + { + "epoch": 0.9463220675944334, + "grad_norm": 6.4407525062561035, + "learning_rate": 3.871650228559136e-06, + "loss": 0.0445, + "num_input_tokens_seen": 13972032, + "step": 7140 + }, + { + "epoch": 0.9464546056991385, + "grad_norm": 11.054377555847168, + "learning_rate": 3.871359992745756e-06, + "loss": 0.4757, + "num_input_tokens_seen": 13973992, + "step": 7141 + }, + { + "epoch": 0.9465871438038436, + "grad_norm": 0.0927763506770134, + "learning_rate": 3.87106973049161e-06, + "loss": 0.0006, + "num_input_tokens_seen": 13974888, + "step": 7142 + }, + { + "epoch": 0.9467196819085487, + "grad_norm": 1.5007574558258057, + "learning_rate": 3.870779441802294e-06, + "loss": 0.0107, + "num_input_tokens_seen": 13976736, + "step": 7143 + }, + { + "epoch": 0.9468522200132539, + "grad_norm": 4.635882377624512, + "learning_rate": 3.870489126683404e-06, + "loss": 0.1144, + "num_input_tokens_seen": 13978448, + "step": 7144 + }, + { + "epoch": 0.9469847581179589, + "grad_norm": 2.254204511642456, + "learning_rate": 3.870198785140539e-06, + "loss": 0.0213, + "num_input_tokens_seen": 13980184, + "step": 7145 + }, + { + "epoch": 0.947117296222664, + "grad_norm": 0.20676346123218536, + "learning_rate": 3.869908417179295e-06, + "loss": 0.0015, + "num_input_tokens_seen": 13982160, + "step": 7146 + }, + { + "epoch": 0.9472498343273691, + "grad_norm": 0.3083372116088867, + "learning_rate": 3.869618022805272e-06, + "loss": 0.0022, + "num_input_tokens_seen": 13984376, + "step": 7147 + }, + { + "epoch": 0.9473823724320742, + "grad_norm": 4.793144702911377, + "learning_rate": 3.86932760202407e-06, + "loss": 0.0702, + "num_input_tokens_seen": 13986304, + "step": 7148 + }, + { + "epoch": 0.9475149105367793, + "grad_norm": 9.222419738769531, + "learning_rate": 3.8690371548412854e-06, + "loss": 0.0848, + "num_input_tokens_seen": 13988200, + "step": 7149 + }, + { + "epoch": 0.9476474486414844, + "grad_norm": 5.728933334350586, + "learning_rate": 3.868746681262521e-06, + "loss": 0.0799, + "num_input_tokens_seen": 13989800, + "step": 7150 + }, + { + "epoch": 0.9477799867461896, + "grad_norm": 0.1714426875114441, + "learning_rate": 3.868456181293376e-06, + "loss": 0.0012, + "num_input_tokens_seen": 13991240, + "step": 7151 + }, + { + "epoch": 0.9479125248508946, + "grad_norm": 10.58035945892334, + "learning_rate": 3.868165654939452e-06, + "loss": 0.3217, + "num_input_tokens_seen": 13992768, + "step": 7152 + }, + { + "epoch": 0.9480450629555998, + "grad_norm": 0.12699900567531586, + "learning_rate": 3.86787510220635e-06, + "loss": 0.0009, + "num_input_tokens_seen": 13994456, + "step": 7153 + }, + { + "epoch": 0.9481776010603048, + "grad_norm": 0.034609898924827576, + "learning_rate": 3.867584523099673e-06, + "loss": 0.0002, + "num_input_tokens_seen": 13995816, + "step": 7154 + }, + { + "epoch": 0.94831013916501, + "grad_norm": 0.3747157156467438, + "learning_rate": 3.867293917625022e-06, + "loss": 0.0041, + "num_input_tokens_seen": 13997728, + "step": 7155 + }, + { + "epoch": 0.9484426772697151, + "grad_norm": 7.815901279449463, + "learning_rate": 3.867003285788001e-06, + "loss": 0.173, + "num_input_tokens_seen": 13999840, + "step": 7156 + }, + { + "epoch": 0.9485752153744201, + "grad_norm": 0.10273309051990509, + "learning_rate": 3.866712627594215e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14001848, + "step": 7157 + }, + { + "epoch": 0.9487077534791253, + "grad_norm": 0.4167424738407135, + "learning_rate": 3.8664219430492664e-06, + "loss": 0.0031, + "num_input_tokens_seen": 14003488, + "step": 7158 + }, + { + "epoch": 0.9488402915838303, + "grad_norm": 8.23000431060791, + "learning_rate": 3.866131232158759e-06, + "loss": 0.3109, + "num_input_tokens_seen": 14005800, + "step": 7159 + }, + { + "epoch": 0.9489728296885355, + "grad_norm": 8.696732521057129, + "learning_rate": 3.8658404949283e-06, + "loss": 0.2418, + "num_input_tokens_seen": 14007760, + "step": 7160 + }, + { + "epoch": 0.9491053677932405, + "grad_norm": 15.127118110656738, + "learning_rate": 3.865549731363493e-06, + "loss": 0.5056, + "num_input_tokens_seen": 14009344, + "step": 7161 + }, + { + "epoch": 0.9492379058979457, + "grad_norm": 15.005428314208984, + "learning_rate": 3.865258941469946e-06, + "loss": 0.5758, + "num_input_tokens_seen": 14011248, + "step": 7162 + }, + { + "epoch": 0.9493704440026508, + "grad_norm": 5.8355607986450195, + "learning_rate": 3.864968125253264e-06, + "loss": 0.1534, + "num_input_tokens_seen": 14013160, + "step": 7163 + }, + { + "epoch": 0.9495029821073558, + "grad_norm": 10.387696266174316, + "learning_rate": 3.864677282719056e-06, + "loss": 0.1443, + "num_input_tokens_seen": 14015896, + "step": 7164 + }, + { + "epoch": 0.949635520212061, + "grad_norm": 5.56615686416626, + "learning_rate": 3.864386413872928e-06, + "loss": 0.1462, + "num_input_tokens_seen": 14017856, + "step": 7165 + }, + { + "epoch": 0.949768058316766, + "grad_norm": 8.612417221069336, + "learning_rate": 3.864095518720489e-06, + "loss": 0.1314, + "num_input_tokens_seen": 14019808, + "step": 7166 + }, + { + "epoch": 0.9499005964214712, + "grad_norm": 9.724380493164062, + "learning_rate": 3.863804597267346e-06, + "loss": 0.2438, + "num_input_tokens_seen": 14022152, + "step": 7167 + }, + { + "epoch": 0.9500331345261763, + "grad_norm": 10.189743041992188, + "learning_rate": 3.86351364951911e-06, + "loss": 0.1932, + "num_input_tokens_seen": 14024544, + "step": 7168 + }, + { + "epoch": 0.9501656726308814, + "grad_norm": 10.015031814575195, + "learning_rate": 3.863222675481392e-06, + "loss": 0.2819, + "num_input_tokens_seen": 14026368, + "step": 7169 + }, + { + "epoch": 0.9502982107355865, + "grad_norm": 0.025956453755497932, + "learning_rate": 3.862931675159798e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14027928, + "step": 7170 + }, + { + "epoch": 0.9504307488402916, + "grad_norm": 0.07927209883928299, + "learning_rate": 3.862640648559942e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14030056, + "step": 7171 + }, + { + "epoch": 0.9505632869449967, + "grad_norm": 0.06405702978372574, + "learning_rate": 3.862349595687435e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14031584, + "step": 7172 + }, + { + "epoch": 0.9506958250497017, + "grad_norm": 6.27801513671875, + "learning_rate": 3.862058516547888e-06, + "loss": 0.2297, + "num_input_tokens_seen": 14034512, + "step": 7173 + }, + { + "epoch": 0.9508283631544069, + "grad_norm": 6.723933696746826, + "learning_rate": 3.861767411146912e-06, + "loss": 0.1573, + "num_input_tokens_seen": 14037512, + "step": 7174 + }, + { + "epoch": 0.950960901259112, + "grad_norm": 10.136953353881836, + "learning_rate": 3.8614762794901215e-06, + "loss": 0.1258, + "num_input_tokens_seen": 14039568, + "step": 7175 + }, + { + "epoch": 0.9510934393638171, + "grad_norm": 4.971272945404053, + "learning_rate": 3.861185121583129e-06, + "loss": 0.1235, + "num_input_tokens_seen": 14041664, + "step": 7176 + }, + { + "epoch": 0.9512259774685222, + "grad_norm": 8.281096458435059, + "learning_rate": 3.860893937431548e-06, + "loss": 0.1439, + "num_input_tokens_seen": 14043328, + "step": 7177 + }, + { + "epoch": 0.9513585155732273, + "grad_norm": 7.257356643676758, + "learning_rate": 3.860602727040993e-06, + "loss": 0.3761, + "num_input_tokens_seen": 14045624, + "step": 7178 + }, + { + "epoch": 0.9514910536779324, + "grad_norm": 0.13173986971378326, + "learning_rate": 3.86031149041708e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14048256, + "step": 7179 + }, + { + "epoch": 0.9516235917826376, + "grad_norm": 10.339430809020996, + "learning_rate": 3.860020227565422e-06, + "loss": 0.2926, + "num_input_tokens_seen": 14050416, + "step": 7180 + }, + { + "epoch": 0.9517561298873426, + "grad_norm": 8.4072265625, + "learning_rate": 3.859728938491636e-06, + "loss": 0.2412, + "num_input_tokens_seen": 14051616, + "step": 7181 + }, + { + "epoch": 0.9518886679920477, + "grad_norm": 0.313981294631958, + "learning_rate": 3.859437623201338e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14055136, + "step": 7182 + }, + { + "epoch": 0.9520212060967528, + "grad_norm": 0.18514522910118103, + "learning_rate": 3.859146281700144e-06, + "loss": 0.0012, + "num_input_tokens_seen": 14056992, + "step": 7183 + }, + { + "epoch": 0.9521537442014579, + "grad_norm": 7.113615036010742, + "learning_rate": 3.858854913993674e-06, + "loss": 0.1219, + "num_input_tokens_seen": 14058632, + "step": 7184 + }, + { + "epoch": 0.952286282306163, + "grad_norm": 9.534204483032227, + "learning_rate": 3.858563520087542e-06, + "loss": 0.3481, + "num_input_tokens_seen": 14060832, + "step": 7185 + }, + { + "epoch": 0.9524188204108681, + "grad_norm": 3.2288169860839844, + "learning_rate": 3.858272099987369e-06, + "loss": 0.1545, + "num_input_tokens_seen": 14062560, + "step": 7186 + }, + { + "epoch": 0.9525513585155733, + "grad_norm": 4.816036224365234, + "learning_rate": 3.857980653698772e-06, + "loss": 0.1358, + "num_input_tokens_seen": 14064648, + "step": 7187 + }, + { + "epoch": 0.9526838966202783, + "grad_norm": 1.5882339477539062, + "learning_rate": 3.857689181227372e-06, + "loss": 0.0154, + "num_input_tokens_seen": 14067128, + "step": 7188 + }, + { + "epoch": 0.9528164347249835, + "grad_norm": 7.44096565246582, + "learning_rate": 3.857397682578788e-06, + "loss": 0.1958, + "num_input_tokens_seen": 14068568, + "step": 7189 + }, + { + "epoch": 0.9529489728296885, + "grad_norm": 11.390652656555176, + "learning_rate": 3.85710615775864e-06, + "loss": 0.1381, + "num_input_tokens_seen": 14070040, + "step": 7190 + }, + { + "epoch": 0.9530815109343936, + "grad_norm": 11.5276517868042, + "learning_rate": 3.856814606772549e-06, + "loss": 0.3754, + "num_input_tokens_seen": 14071792, + "step": 7191 + }, + { + "epoch": 0.9532140490390988, + "grad_norm": 7.8154120445251465, + "learning_rate": 3.856523029626137e-06, + "loss": 0.1743, + "num_input_tokens_seen": 14073584, + "step": 7192 + }, + { + "epoch": 0.9533465871438038, + "grad_norm": 5.855787754058838, + "learning_rate": 3.856231426325024e-06, + "loss": 0.0595, + "num_input_tokens_seen": 14076328, + "step": 7193 + }, + { + "epoch": 0.953479125248509, + "grad_norm": 14.576971054077148, + "learning_rate": 3.855939796874835e-06, + "loss": 0.3546, + "num_input_tokens_seen": 14078096, + "step": 7194 + }, + { + "epoch": 0.953611663353214, + "grad_norm": 8.141708374023438, + "learning_rate": 3.85564814128119e-06, + "loss": 0.3449, + "num_input_tokens_seen": 14080856, + "step": 7195 + }, + { + "epoch": 0.9537442014579192, + "grad_norm": 8.427746772766113, + "learning_rate": 3.855356459549714e-06, + "loss": 0.1124, + "num_input_tokens_seen": 14082824, + "step": 7196 + }, + { + "epoch": 0.9538767395626243, + "grad_norm": 5.8710198402404785, + "learning_rate": 3.855064751686031e-06, + "loss": 0.1003, + "num_input_tokens_seen": 14086392, + "step": 7197 + }, + { + "epoch": 0.9540092776673293, + "grad_norm": 2.7634494304656982, + "learning_rate": 3.8547730176957645e-06, + "loss": 0.0172, + "num_input_tokens_seen": 14089304, + "step": 7198 + }, + { + "epoch": 0.9541418157720345, + "grad_norm": 5.8507843017578125, + "learning_rate": 3.854481257584539e-06, + "loss": 0.0491, + "num_input_tokens_seen": 14091256, + "step": 7199 + }, + { + "epoch": 0.9542743538767395, + "grad_norm": 10.55928897857666, + "learning_rate": 3.854189471357981e-06, + "loss": 0.3291, + "num_input_tokens_seen": 14093640, + "step": 7200 + }, + { + "epoch": 0.9544068919814447, + "grad_norm": 4.255329608917236, + "learning_rate": 3.853897659021716e-06, + "loss": 0.0499, + "num_input_tokens_seen": 14095280, + "step": 7201 + }, + { + "epoch": 0.9545394300861497, + "grad_norm": 10.423710823059082, + "learning_rate": 3.85360582058137e-06, + "loss": 0.2372, + "num_input_tokens_seen": 14097216, + "step": 7202 + }, + { + "epoch": 0.9546719681908549, + "grad_norm": 0.06868020445108414, + "learning_rate": 3.85331395604257e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14098624, + "step": 7203 + }, + { + "epoch": 0.95480450629556, + "grad_norm": 18.400344848632812, + "learning_rate": 3.853022065410942e-06, + "loss": 0.5321, + "num_input_tokens_seen": 14099712, + "step": 7204 + }, + { + "epoch": 0.9549370444002651, + "grad_norm": 3.9094605445861816, + "learning_rate": 3.852730148692117e-06, + "loss": 0.0928, + "num_input_tokens_seen": 14101624, + "step": 7205 + }, + { + "epoch": 0.9550695825049702, + "grad_norm": 10.600262641906738, + "learning_rate": 3.85243820589172e-06, + "loss": 0.3238, + "num_input_tokens_seen": 14103128, + "step": 7206 + }, + { + "epoch": 0.9552021206096752, + "grad_norm": 13.700072288513184, + "learning_rate": 3.852146237015383e-06, + "loss": 0.6478, + "num_input_tokens_seen": 14105504, + "step": 7207 + }, + { + "epoch": 0.9553346587143804, + "grad_norm": 8.97553825378418, + "learning_rate": 3.851854242068732e-06, + "loss": 0.1567, + "num_input_tokens_seen": 14107408, + "step": 7208 + }, + { + "epoch": 0.9554671968190855, + "grad_norm": 4.607557773590088, + "learning_rate": 3.8515622210574e-06, + "loss": 0.098, + "num_input_tokens_seen": 14108704, + "step": 7209 + }, + { + "epoch": 0.9555997349237906, + "grad_norm": 0.11022916436195374, + "learning_rate": 3.851270173987015e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14111440, + "step": 7210 + }, + { + "epoch": 0.9557322730284957, + "grad_norm": 12.492790222167969, + "learning_rate": 3.850978100863209e-06, + "loss": 0.4499, + "num_input_tokens_seen": 14113368, + "step": 7211 + }, + { + "epoch": 0.9558648111332008, + "grad_norm": 0.06487315893173218, + "learning_rate": 3.850686001691615e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14115248, + "step": 7212 + }, + { + "epoch": 0.9559973492379059, + "grad_norm": 0.6930650472640991, + "learning_rate": 3.850393876477861e-06, + "loss": 0.0048, + "num_input_tokens_seen": 14117512, + "step": 7213 + }, + { + "epoch": 0.956129887342611, + "grad_norm": 1.9123904705047607, + "learning_rate": 3.850101725227582e-06, + "loss": 0.0731, + "num_input_tokens_seen": 14120128, + "step": 7214 + }, + { + "epoch": 0.9562624254473161, + "grad_norm": 8.278051376342773, + "learning_rate": 3.849809547946411e-06, + "loss": 0.2676, + "num_input_tokens_seen": 14121816, + "step": 7215 + }, + { + "epoch": 0.9563949635520212, + "grad_norm": 0.09896618872880936, + "learning_rate": 3.84951734463998e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14123920, + "step": 7216 + }, + { + "epoch": 0.9565275016567263, + "grad_norm": 13.187090873718262, + "learning_rate": 3.849225115313924e-06, + "loss": 0.171, + "num_input_tokens_seen": 14126104, + "step": 7217 + }, + { + "epoch": 0.9566600397614314, + "grad_norm": 12.555880546569824, + "learning_rate": 3.8489328599738765e-06, + "loss": 0.1654, + "num_input_tokens_seen": 14129184, + "step": 7218 + }, + { + "epoch": 0.9567925778661365, + "grad_norm": 6.290533542633057, + "learning_rate": 3.848640578625473e-06, + "loss": 0.1402, + "num_input_tokens_seen": 14130736, + "step": 7219 + }, + { + "epoch": 0.9569251159708416, + "grad_norm": 4.557801246643066, + "learning_rate": 3.848348271274349e-06, + "loss": 0.0534, + "num_input_tokens_seen": 14132032, + "step": 7220 + }, + { + "epoch": 0.9570576540755468, + "grad_norm": 8.2571439743042, + "learning_rate": 3.848055937926141e-06, + "loss": 0.1335, + "num_input_tokens_seen": 14133864, + "step": 7221 + }, + { + "epoch": 0.9571901921802518, + "grad_norm": 11.502821922302246, + "learning_rate": 3.8477635785864835e-06, + "loss": 0.2384, + "num_input_tokens_seen": 14135536, + "step": 7222 + }, + { + "epoch": 0.957322730284957, + "grad_norm": 2.774744987487793, + "learning_rate": 3.847471193261014e-06, + "loss": 0.0521, + "num_input_tokens_seen": 14138336, + "step": 7223 + }, + { + "epoch": 0.957455268389662, + "grad_norm": 9.686749458312988, + "learning_rate": 3.847178781955371e-06, + "loss": 0.4133, + "num_input_tokens_seen": 14139824, + "step": 7224 + }, + { + "epoch": 0.9575878064943671, + "grad_norm": 13.85748291015625, + "learning_rate": 3.846886344675193e-06, + "loss": 0.4314, + "num_input_tokens_seen": 14142256, + "step": 7225 + }, + { + "epoch": 0.9577203445990722, + "grad_norm": 0.21601247787475586, + "learning_rate": 3.846593881426114e-06, + "loss": 0.0015, + "num_input_tokens_seen": 14144232, + "step": 7226 + }, + { + "epoch": 0.9578528827037773, + "grad_norm": 4.852502346038818, + "learning_rate": 3.846301392213779e-06, + "loss": 0.0575, + "num_input_tokens_seen": 14145616, + "step": 7227 + }, + { + "epoch": 0.9579854208084825, + "grad_norm": 22.521774291992188, + "learning_rate": 3.846008877043823e-06, + "loss": 1.0353, + "num_input_tokens_seen": 14148632, + "step": 7228 + }, + { + "epoch": 0.9581179589131875, + "grad_norm": 4.47910737991333, + "learning_rate": 3.845716335921888e-06, + "loss": 0.0898, + "num_input_tokens_seen": 14150512, + "step": 7229 + }, + { + "epoch": 0.9582504970178927, + "grad_norm": 6.943549633026123, + "learning_rate": 3.845423768853612e-06, + "loss": 0.083, + "num_input_tokens_seen": 14151944, + "step": 7230 + }, + { + "epoch": 0.9583830351225977, + "grad_norm": 8.506834030151367, + "learning_rate": 3.845131175844639e-06, + "loss": 0.1692, + "num_input_tokens_seen": 14154272, + "step": 7231 + }, + { + "epoch": 0.9585155732273029, + "grad_norm": 12.816849708557129, + "learning_rate": 3.844838556900608e-06, + "loss": 0.6805, + "num_input_tokens_seen": 14156560, + "step": 7232 + }, + { + "epoch": 0.958648111332008, + "grad_norm": 0.6843388676643372, + "learning_rate": 3.844545912027163e-06, + "loss": 0.0053, + "num_input_tokens_seen": 14159176, + "step": 7233 + }, + { + "epoch": 0.958780649436713, + "grad_norm": 7.655886173248291, + "learning_rate": 3.844253241229945e-06, + "loss": 0.0878, + "num_input_tokens_seen": 14160856, + "step": 7234 + }, + { + "epoch": 0.9589131875414182, + "grad_norm": 3.3074445724487305, + "learning_rate": 3.843960544514597e-06, + "loss": 0.0677, + "num_input_tokens_seen": 14162048, + "step": 7235 + }, + { + "epoch": 0.9590457256461232, + "grad_norm": 16.33290672302246, + "learning_rate": 3.843667821886763e-06, + "loss": 0.2944, + "num_input_tokens_seen": 14163856, + "step": 7236 + }, + { + "epoch": 0.9591782637508284, + "grad_norm": 3.6990323066711426, + "learning_rate": 3.843375073352086e-06, + "loss": 0.0493, + "num_input_tokens_seen": 14165768, + "step": 7237 + }, + { + "epoch": 0.9593108018555334, + "grad_norm": 1.4711707830429077, + "learning_rate": 3.843082298916211e-06, + "loss": 0.0204, + "num_input_tokens_seen": 14167264, + "step": 7238 + }, + { + "epoch": 0.9594433399602386, + "grad_norm": 10.919734001159668, + "learning_rate": 3.842789498584781e-06, + "loss": 0.3468, + "num_input_tokens_seen": 14170096, + "step": 7239 + }, + { + "epoch": 0.9595758780649437, + "grad_norm": 7.053165912628174, + "learning_rate": 3.8424966723634464e-06, + "loss": 0.1099, + "num_input_tokens_seen": 14172832, + "step": 7240 + }, + { + "epoch": 0.9597084161696487, + "grad_norm": 0.6565023064613342, + "learning_rate": 3.842203820257847e-06, + "loss": 0.0051, + "num_input_tokens_seen": 14174088, + "step": 7241 + }, + { + "epoch": 0.9598409542743539, + "grad_norm": 3.8349311351776123, + "learning_rate": 3.841910942273634e-06, + "loss": 0.0972, + "num_input_tokens_seen": 14176016, + "step": 7242 + }, + { + "epoch": 0.9599734923790589, + "grad_norm": 4.940202713012695, + "learning_rate": 3.841618038416451e-06, + "loss": 0.1754, + "num_input_tokens_seen": 14177896, + "step": 7243 + }, + { + "epoch": 0.9601060304837641, + "grad_norm": 12.5956392288208, + "learning_rate": 3.841325108691946e-06, + "loss": 0.3572, + "num_input_tokens_seen": 14179768, + "step": 7244 + }, + { + "epoch": 0.9602385685884692, + "grad_norm": 11.306081771850586, + "learning_rate": 3.841032153105769e-06, + "loss": 0.5367, + "num_input_tokens_seen": 14181488, + "step": 7245 + }, + { + "epoch": 0.9603711066931743, + "grad_norm": 0.2793773114681244, + "learning_rate": 3.8407391716635675e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14185048, + "step": 7246 + }, + { + "epoch": 0.9605036447978794, + "grad_norm": 0.32963821291923523, + "learning_rate": 3.840446164370988e-06, + "loss": 0.0025, + "num_input_tokens_seen": 14186680, + "step": 7247 + }, + { + "epoch": 0.9606361829025845, + "grad_norm": 6.8996686935424805, + "learning_rate": 3.8401531312336824e-06, + "loss": 0.2861, + "num_input_tokens_seen": 14189016, + "step": 7248 + }, + { + "epoch": 0.9607687210072896, + "grad_norm": 9.540470123291016, + "learning_rate": 3.839860072257301e-06, + "loss": 0.2321, + "num_input_tokens_seen": 14190848, + "step": 7249 + }, + { + "epoch": 0.9609012591119946, + "grad_norm": 9.375992774963379, + "learning_rate": 3.839566987447492e-06, + "loss": 0.2517, + "num_input_tokens_seen": 14192976, + "step": 7250 + }, + { + "epoch": 0.9610337972166998, + "grad_norm": 8.381304740905762, + "learning_rate": 3.839273876809908e-06, + "loss": 0.2747, + "num_input_tokens_seen": 14194728, + "step": 7251 + }, + { + "epoch": 0.9611663353214049, + "grad_norm": 8.329108238220215, + "learning_rate": 3.838980740350199e-06, + "loss": 0.1923, + "num_input_tokens_seen": 14196600, + "step": 7252 + }, + { + "epoch": 0.96129887342611, + "grad_norm": 5.750219821929932, + "learning_rate": 3.838687578074018e-06, + "loss": 0.0035, + "num_input_tokens_seen": 14198056, + "step": 7253 + }, + { + "epoch": 0.9614314115308151, + "grad_norm": 8.22239875793457, + "learning_rate": 3.838394389987017e-06, + "loss": 0.4236, + "num_input_tokens_seen": 14200488, + "step": 7254 + }, + { + "epoch": 0.9615639496355202, + "grad_norm": 1.7130067348480225, + "learning_rate": 3.838101176094848e-06, + "loss": 0.0187, + "num_input_tokens_seen": 14202368, + "step": 7255 + }, + { + "epoch": 0.9616964877402253, + "grad_norm": 13.184988021850586, + "learning_rate": 3.837807936403166e-06, + "loss": 0.298, + "num_input_tokens_seen": 14203896, + "step": 7256 + }, + { + "epoch": 0.9618290258449305, + "grad_norm": 0.5100119709968567, + "learning_rate": 3.837514670917625e-06, + "loss": 0.0038, + "num_input_tokens_seen": 14207040, + "step": 7257 + }, + { + "epoch": 0.9619615639496355, + "grad_norm": 5.201852321624756, + "learning_rate": 3.837221379643877e-06, + "loss": 0.0513, + "num_input_tokens_seen": 14208760, + "step": 7258 + }, + { + "epoch": 0.9620941020543406, + "grad_norm": 19.078611373901367, + "learning_rate": 3.836928062587579e-06, + "loss": 0.5577, + "num_input_tokens_seen": 14210944, + "step": 7259 + }, + { + "epoch": 0.9622266401590457, + "grad_norm": 4.421248435974121, + "learning_rate": 3.836634719754385e-06, + "loss": 0.0999, + "num_input_tokens_seen": 14213888, + "step": 7260 + }, + { + "epoch": 0.9623591782637508, + "grad_norm": 9.753243446350098, + "learning_rate": 3.8363413511499526e-06, + "loss": 0.3155, + "num_input_tokens_seen": 14216320, + "step": 7261 + }, + { + "epoch": 0.962491716368456, + "grad_norm": 1.1519651412963867, + "learning_rate": 3.836047956779936e-06, + "loss": 0.0079, + "num_input_tokens_seen": 14217528, + "step": 7262 + }, + { + "epoch": 0.962624254473161, + "grad_norm": 3.0933010578155518, + "learning_rate": 3.835754536649994e-06, + "loss": 0.0248, + "num_input_tokens_seen": 14219264, + "step": 7263 + }, + { + "epoch": 0.9627567925778662, + "grad_norm": 10.4746675491333, + "learning_rate": 3.835461090765782e-06, + "loss": 0.2494, + "num_input_tokens_seen": 14222136, + "step": 7264 + }, + { + "epoch": 0.9628893306825712, + "grad_norm": 2.1459710597991943, + "learning_rate": 3.835167619132959e-06, + "loss": 0.0172, + "num_input_tokens_seen": 14224016, + "step": 7265 + }, + { + "epoch": 0.9630218687872764, + "grad_norm": 0.9849420189857483, + "learning_rate": 3.834874121757185e-06, + "loss": 0.0134, + "num_input_tokens_seen": 14225752, + "step": 7266 + }, + { + "epoch": 0.9631544068919814, + "grad_norm": 13.74028205871582, + "learning_rate": 3.834580598644115e-06, + "loss": 0.6818, + "num_input_tokens_seen": 14227816, + "step": 7267 + }, + { + "epoch": 0.9632869449966865, + "grad_norm": 4.893702030181885, + "learning_rate": 3.834287049799411e-06, + "loss": 0.1002, + "num_input_tokens_seen": 14229400, + "step": 7268 + }, + { + "epoch": 0.9634194831013917, + "grad_norm": 0.13729555904865265, + "learning_rate": 3.833993475228733e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14231136, + "step": 7269 + }, + { + "epoch": 0.9635520212060967, + "grad_norm": 0.38407355546951294, + "learning_rate": 3.83369987493774e-06, + "loss": 0.0028, + "num_input_tokens_seen": 14233112, + "step": 7270 + }, + { + "epoch": 0.9636845593108019, + "grad_norm": 9.019268989562988, + "learning_rate": 3.833406248932092e-06, + "loss": 0.0918, + "num_input_tokens_seen": 14234904, + "step": 7271 + }, + { + "epoch": 0.9638170974155069, + "grad_norm": 0.3099585175514221, + "learning_rate": 3.833112597217454e-06, + "loss": 0.0022, + "num_input_tokens_seen": 14237120, + "step": 7272 + }, + { + "epoch": 0.9639496355202121, + "grad_norm": 7.625340938568115, + "learning_rate": 3.8328189197994836e-06, + "loss": 0.171, + "num_input_tokens_seen": 14238608, + "step": 7273 + }, + { + "epoch": 0.9640821736249172, + "grad_norm": 0.03240329027175903, + "learning_rate": 3.832525216683845e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14240336, + "step": 7274 + }, + { + "epoch": 0.9642147117296223, + "grad_norm": 5.497343063354492, + "learning_rate": 3.832231487876202e-06, + "loss": 0.0941, + "num_input_tokens_seen": 14242344, + "step": 7275 + }, + { + "epoch": 0.9643472498343274, + "grad_norm": 20.15484046936035, + "learning_rate": 3.831937733382217e-06, + "loss": 0.813, + "num_input_tokens_seen": 14244464, + "step": 7276 + }, + { + "epoch": 0.9644797879390324, + "grad_norm": 0.08887320756912231, + "learning_rate": 3.831643953207553e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14246024, + "step": 7277 + }, + { + "epoch": 0.9646123260437376, + "grad_norm": 4.051753520965576, + "learning_rate": 3.831350147357875e-06, + "loss": 0.0361, + "num_input_tokens_seen": 14247792, + "step": 7278 + }, + { + "epoch": 0.9647448641484426, + "grad_norm": 18.706377029418945, + "learning_rate": 3.831056315838848e-06, + "loss": 0.7244, + "num_input_tokens_seen": 14250752, + "step": 7279 + }, + { + "epoch": 0.9648774022531478, + "grad_norm": 1.795831561088562, + "learning_rate": 3.830762458656136e-06, + "loss": 0.0446, + "num_input_tokens_seen": 14252912, + "step": 7280 + }, + { + "epoch": 0.9650099403578529, + "grad_norm": 9.70200252532959, + "learning_rate": 3.830468575815407e-06, + "loss": 0.1908, + "num_input_tokens_seen": 14255440, + "step": 7281 + }, + { + "epoch": 0.965142478462558, + "grad_norm": 7.659546852111816, + "learning_rate": 3.830174667322325e-06, + "loss": 0.2099, + "num_input_tokens_seen": 14257424, + "step": 7282 + }, + { + "epoch": 0.9652750165672631, + "grad_norm": 0.13579103350639343, + "learning_rate": 3.829880733182558e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14261152, + "step": 7283 + }, + { + "epoch": 0.9654075546719681, + "grad_norm": 0.3113535940647125, + "learning_rate": 3.829586773401774e-06, + "loss": 0.0018, + "num_input_tokens_seen": 14262448, + "step": 7284 + }, + { + "epoch": 0.9655400927766733, + "grad_norm": 0.17341098189353943, + "learning_rate": 3.829292787985639e-06, + "loss": 0.0013, + "num_input_tokens_seen": 14263712, + "step": 7285 + }, + { + "epoch": 0.9656726308813784, + "grad_norm": 0.08654141426086426, + "learning_rate": 3.828998776939822e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14267528, + "step": 7286 + }, + { + "epoch": 0.9658051689860835, + "grad_norm": 6.54250431060791, + "learning_rate": 3.828704740269992e-06, + "loss": 0.201, + "num_input_tokens_seen": 14269232, + "step": 7287 + }, + { + "epoch": 0.9659377070907886, + "grad_norm": 14.979636192321777, + "learning_rate": 3.828410677981817e-06, + "loss": 0.6083, + "num_input_tokens_seen": 14271720, + "step": 7288 + }, + { + "epoch": 0.9660702451954937, + "grad_norm": 1.4321199655532837, + "learning_rate": 3.828116590080969e-06, + "loss": 0.0367, + "num_input_tokens_seen": 14273512, + "step": 7289 + }, + { + "epoch": 0.9662027833001988, + "grad_norm": 8.749720573425293, + "learning_rate": 3.827822476573117e-06, + "loss": 0.259, + "num_input_tokens_seen": 14274920, + "step": 7290 + }, + { + "epoch": 0.9663353214049039, + "grad_norm": 2.8881542682647705, + "learning_rate": 3.82752833746393e-06, + "loss": 0.0504, + "num_input_tokens_seen": 14276464, + "step": 7291 + }, + { + "epoch": 0.966467859509609, + "grad_norm": 13.5059232711792, + "learning_rate": 3.827234172759082e-06, + "loss": 0.504, + "num_input_tokens_seen": 14278776, + "step": 7292 + }, + { + "epoch": 0.9666003976143142, + "grad_norm": 9.028846740722656, + "learning_rate": 3.826939982464244e-06, + "loss": 0.2612, + "num_input_tokens_seen": 14280712, + "step": 7293 + }, + { + "epoch": 0.9667329357190192, + "grad_norm": 0.21338699758052826, + "learning_rate": 3.8266457665850864e-06, + "loss": 0.0014, + "num_input_tokens_seen": 14283032, + "step": 7294 + }, + { + "epoch": 0.9668654738237243, + "grad_norm": 11.965989112854004, + "learning_rate": 3.826351525127285e-06, + "loss": 0.3068, + "num_input_tokens_seen": 14284904, + "step": 7295 + }, + { + "epoch": 0.9669980119284294, + "grad_norm": 13.963319778442383, + "learning_rate": 3.82605725809651e-06, + "loss": 0.3381, + "num_input_tokens_seen": 14286120, + "step": 7296 + }, + { + "epoch": 0.9671305500331345, + "grad_norm": 2.6831743717193604, + "learning_rate": 3.825762965498437e-06, + "loss": 0.0741, + "num_input_tokens_seen": 14288456, + "step": 7297 + }, + { + "epoch": 0.9672630881378397, + "grad_norm": 3.2664668560028076, + "learning_rate": 3.825468647338738e-06, + "loss": 0.059, + "num_input_tokens_seen": 14289768, + "step": 7298 + }, + { + "epoch": 0.9673956262425447, + "grad_norm": 20.401212692260742, + "learning_rate": 3.82517430362309e-06, + "loss": 0.969, + "num_input_tokens_seen": 14292456, + "step": 7299 + }, + { + "epoch": 0.9675281643472499, + "grad_norm": 8.999568939208984, + "learning_rate": 3.824879934357167e-06, + "loss": 0.3358, + "num_input_tokens_seen": 14294224, + "step": 7300 + }, + { + "epoch": 0.9676607024519549, + "grad_norm": 0.2338992953300476, + "learning_rate": 3.824585539546645e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14296176, + "step": 7301 + }, + { + "epoch": 0.96779324055666, + "grad_norm": 0.9378090500831604, + "learning_rate": 3.824291119197201e-06, + "loss": 0.0067, + "num_input_tokens_seen": 14299256, + "step": 7302 + }, + { + "epoch": 0.9679257786613651, + "grad_norm": 0.47262099385261536, + "learning_rate": 3.8239966733145095e-06, + "loss": 0.0036, + "num_input_tokens_seen": 14301448, + "step": 7303 + }, + { + "epoch": 0.9680583167660702, + "grad_norm": 10.97904109954834, + "learning_rate": 3.8237022019042485e-06, + "loss": 0.4317, + "num_input_tokens_seen": 14303768, + "step": 7304 + }, + { + "epoch": 0.9681908548707754, + "grad_norm": 1.4852527379989624, + "learning_rate": 3.823407704972096e-06, + "loss": 0.0154, + "num_input_tokens_seen": 14305928, + "step": 7305 + }, + { + "epoch": 0.9683233929754804, + "grad_norm": 0.32150766253471375, + "learning_rate": 3.823113182523731e-06, + "loss": 0.0024, + "num_input_tokens_seen": 14307208, + "step": 7306 + }, + { + "epoch": 0.9684559310801856, + "grad_norm": 9.616583824157715, + "learning_rate": 3.82281863456483e-06, + "loss": 0.1175, + "num_input_tokens_seen": 14309680, + "step": 7307 + }, + { + "epoch": 0.9685884691848906, + "grad_norm": 10.362848281860352, + "learning_rate": 3.822524061101074e-06, + "loss": 0.4577, + "num_input_tokens_seen": 14312024, + "step": 7308 + }, + { + "epoch": 0.9687210072895958, + "grad_norm": 1.3299497365951538, + "learning_rate": 3.822229462138141e-06, + "loss": 0.0094, + "num_input_tokens_seen": 14313528, + "step": 7309 + }, + { + "epoch": 0.9688535453943009, + "grad_norm": 8.247082710266113, + "learning_rate": 3.821934837681712e-06, + "loss": 0.1152, + "num_input_tokens_seen": 14316408, + "step": 7310 + }, + { + "epoch": 0.968986083499006, + "grad_norm": 7.721426010131836, + "learning_rate": 3.8216401877374686e-06, + "loss": 0.1984, + "num_input_tokens_seen": 14318088, + "step": 7311 + }, + { + "epoch": 0.9691186216037111, + "grad_norm": 6.574674129486084, + "learning_rate": 3.821345512311089e-06, + "loss": 0.1403, + "num_input_tokens_seen": 14320288, + "step": 7312 + }, + { + "epoch": 0.9692511597084161, + "grad_norm": 2.0483012199401855, + "learning_rate": 3.8210508114082564e-06, + "loss": 0.0127, + "num_input_tokens_seen": 14323296, + "step": 7313 + }, + { + "epoch": 0.9693836978131213, + "grad_norm": 0.5963882207870483, + "learning_rate": 3.8207560850346536e-06, + "loss": 0.0042, + "num_input_tokens_seen": 14324824, + "step": 7314 + }, + { + "epoch": 0.9695162359178264, + "grad_norm": 16.435224533081055, + "learning_rate": 3.820461333195961e-06, + "loss": 0.3771, + "num_input_tokens_seen": 14327104, + "step": 7315 + }, + { + "epoch": 0.9696487740225315, + "grad_norm": 18.30119514465332, + "learning_rate": 3.820166555897865e-06, + "loss": 0.1952, + "num_input_tokens_seen": 14328632, + "step": 7316 + }, + { + "epoch": 0.9697813121272366, + "grad_norm": 11.88756275177002, + "learning_rate": 3.819871753146046e-06, + "loss": 0.319, + "num_input_tokens_seen": 14330288, + "step": 7317 + }, + { + "epoch": 0.9699138502319417, + "grad_norm": 7.416049480438232, + "learning_rate": 3.819576924946189e-06, + "loss": 0.1598, + "num_input_tokens_seen": 14333008, + "step": 7318 + }, + { + "epoch": 0.9700463883366468, + "grad_norm": 0.39120858907699585, + "learning_rate": 3.819282071303979e-06, + "loss": 0.0029, + "num_input_tokens_seen": 14336304, + "step": 7319 + }, + { + "epoch": 0.9701789264413518, + "grad_norm": 0.31496647000312805, + "learning_rate": 3.8189871922251e-06, + "loss": 0.002, + "num_input_tokens_seen": 14337560, + "step": 7320 + }, + { + "epoch": 0.970311464546057, + "grad_norm": 2.6085495948791504, + "learning_rate": 3.818692287715238e-06, + "loss": 0.0207, + "num_input_tokens_seen": 14339392, + "step": 7321 + }, + { + "epoch": 0.9704440026507621, + "grad_norm": 10.654458045959473, + "learning_rate": 3.8183973577800794e-06, + "loss": 0.2895, + "num_input_tokens_seen": 14341536, + "step": 7322 + }, + { + "epoch": 0.9705765407554672, + "grad_norm": 3.848426580429077, + "learning_rate": 3.81810240242531e-06, + "loss": 0.0374, + "num_input_tokens_seen": 14343000, + "step": 7323 + }, + { + "epoch": 0.9707090788601723, + "grad_norm": 5.351003170013428, + "learning_rate": 3.817807421656617e-06, + "loss": 0.103, + "num_input_tokens_seen": 14345112, + "step": 7324 + }, + { + "epoch": 0.9708416169648774, + "grad_norm": 1.600977897644043, + "learning_rate": 3.817512415479688e-06, + "loss": 0.023, + "num_input_tokens_seen": 14347200, + "step": 7325 + }, + { + "epoch": 0.9709741550695825, + "grad_norm": 5.760276794433594, + "learning_rate": 3.81721738390021e-06, + "loss": 0.0969, + "num_input_tokens_seen": 14349280, + "step": 7326 + }, + { + "epoch": 0.9711066931742877, + "grad_norm": 3.164106607437134, + "learning_rate": 3.816922326923873e-06, + "loss": 0.1272, + "num_input_tokens_seen": 14350904, + "step": 7327 + }, + { + "epoch": 0.9712392312789927, + "grad_norm": 15.033295631408691, + "learning_rate": 3.8166272445563644e-06, + "loss": 0.4148, + "num_input_tokens_seen": 14352176, + "step": 7328 + }, + { + "epoch": 0.9713717693836978, + "grad_norm": 0.14832700788974762, + "learning_rate": 3.816332136803375e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14353672, + "step": 7329 + }, + { + "epoch": 0.9715043074884029, + "grad_norm": 9.556941986083984, + "learning_rate": 3.816037003670593e-06, + "loss": 0.2688, + "num_input_tokens_seen": 14355072, + "step": 7330 + }, + { + "epoch": 0.971636845593108, + "grad_norm": 0.10414943099021912, + "learning_rate": 3.815741845163711e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14357544, + "step": 7331 + }, + { + "epoch": 0.9717693836978131, + "grad_norm": 12.795763969421387, + "learning_rate": 3.815446661288417e-06, + "loss": 0.6128, + "num_input_tokens_seen": 14359688, + "step": 7332 + }, + { + "epoch": 0.9719019218025182, + "grad_norm": 3.1570181846618652, + "learning_rate": 3.815151452050404e-06, + "loss": 0.0254, + "num_input_tokens_seen": 14361560, + "step": 7333 + }, + { + "epoch": 0.9720344599072234, + "grad_norm": 0.056894175708293915, + "learning_rate": 3.814856217455365e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14363232, + "step": 7334 + }, + { + "epoch": 0.9721669980119284, + "grad_norm": 9.5023775100708, + "learning_rate": 3.81456095750899e-06, + "loss": 0.3386, + "num_input_tokens_seen": 14365400, + "step": 7335 + }, + { + "epoch": 0.9722995361166336, + "grad_norm": 25.07636070251465, + "learning_rate": 3.8142656722169735e-06, + "loss": 0.8565, + "num_input_tokens_seen": 14367488, + "step": 7336 + }, + { + "epoch": 0.9724320742213386, + "grad_norm": 14.887669563293457, + "learning_rate": 3.8139703615850077e-06, + "loss": 0.178, + "num_input_tokens_seen": 14370144, + "step": 7337 + }, + { + "epoch": 0.9725646123260437, + "grad_norm": 8.586089134216309, + "learning_rate": 3.813675025618787e-06, + "loss": 0.1007, + "num_input_tokens_seen": 14371416, + "step": 7338 + }, + { + "epoch": 0.9726971504307489, + "grad_norm": 9.457840919494629, + "learning_rate": 3.8133796643240055e-06, + "loss": 0.4164, + "num_input_tokens_seen": 14373264, + "step": 7339 + }, + { + "epoch": 0.9728296885354539, + "grad_norm": 0.08925791084766388, + "learning_rate": 3.813084277706358e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14375040, + "step": 7340 + }, + { + "epoch": 0.9729622266401591, + "grad_norm": 0.2219213843345642, + "learning_rate": 3.8127888657715406e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14376240, + "step": 7341 + }, + { + "epoch": 0.9730947647448641, + "grad_norm": 6.009913921356201, + "learning_rate": 3.812493428525247e-06, + "loss": 0.1745, + "num_input_tokens_seen": 14379432, + "step": 7342 + }, + { + "epoch": 0.9732273028495693, + "grad_norm": 0.638717770576477, + "learning_rate": 3.8121979659731755e-06, + "loss": 0.0087, + "num_input_tokens_seen": 14381576, + "step": 7343 + }, + { + "epoch": 0.9733598409542743, + "grad_norm": 4.583749771118164, + "learning_rate": 3.8119024781210213e-06, + "loss": 0.0977, + "num_input_tokens_seen": 14382816, + "step": 7344 + }, + { + "epoch": 0.9734923790589795, + "grad_norm": 19.053739547729492, + "learning_rate": 3.8116069649744825e-06, + "loss": 0.7657, + "num_input_tokens_seen": 14384528, + "step": 7345 + }, + { + "epoch": 0.9736249171636846, + "grad_norm": 6.605473518371582, + "learning_rate": 3.811311426539257e-06, + "loss": 0.1566, + "num_input_tokens_seen": 14385992, + "step": 7346 + }, + { + "epoch": 0.9737574552683896, + "grad_norm": 10.880682945251465, + "learning_rate": 3.8110158628210423e-06, + "loss": 0.2813, + "num_input_tokens_seen": 14388288, + "step": 7347 + }, + { + "epoch": 0.9738899933730948, + "grad_norm": 13.816142082214355, + "learning_rate": 3.8107202738255373e-06, + "loss": 0.4768, + "num_input_tokens_seen": 14390096, + "step": 7348 + }, + { + "epoch": 0.9740225314777998, + "grad_norm": 0.16052336990833282, + "learning_rate": 3.8104246595584414e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14392256, + "step": 7349 + }, + { + "epoch": 0.974155069582505, + "grad_norm": 8.141950607299805, + "learning_rate": 3.8101290200254537e-06, + "loss": 0.3301, + "num_input_tokens_seen": 14394096, + "step": 7350 + }, + { + "epoch": 0.9742876076872101, + "grad_norm": 11.874165534973145, + "learning_rate": 3.8098333552322745e-06, + "loss": 0.2818, + "num_input_tokens_seen": 14397256, + "step": 7351 + }, + { + "epoch": 0.9744201457919152, + "grad_norm": 11.379547119140625, + "learning_rate": 3.8095376651846056e-06, + "loss": 0.3927, + "num_input_tokens_seen": 14399320, + "step": 7352 + }, + { + "epoch": 0.9745526838966203, + "grad_norm": 14.268540382385254, + "learning_rate": 3.809241949888146e-06, + "loss": 0.2681, + "num_input_tokens_seen": 14401528, + "step": 7353 + }, + { + "epoch": 0.9746852220013253, + "grad_norm": 0.4084547758102417, + "learning_rate": 3.8089462093485993e-06, + "loss": 0.003, + "num_input_tokens_seen": 14403448, + "step": 7354 + }, + { + "epoch": 0.9748177601060305, + "grad_norm": 3.1902153491973877, + "learning_rate": 3.8086504435716663e-06, + "loss": 0.0764, + "num_input_tokens_seen": 14407032, + "step": 7355 + }, + { + "epoch": 0.9749502982107355, + "grad_norm": 10.686497688293457, + "learning_rate": 3.80835465256305e-06, + "loss": 0.1938, + "num_input_tokens_seen": 14408896, + "step": 7356 + }, + { + "epoch": 0.9750828363154407, + "grad_norm": 16.394956588745117, + "learning_rate": 3.8080588363284533e-06, + "loss": 0.3917, + "num_input_tokens_seen": 14410048, + "step": 7357 + }, + { + "epoch": 0.9752153744201458, + "grad_norm": 0.6045948266983032, + "learning_rate": 3.8077629948735794e-06, + "loss": 0.0044, + "num_input_tokens_seen": 14411240, + "step": 7358 + }, + { + "epoch": 0.9753479125248509, + "grad_norm": 0.27397164702415466, + "learning_rate": 3.807467128204133e-06, + "loss": 0.002, + "num_input_tokens_seen": 14413640, + "step": 7359 + }, + { + "epoch": 0.975480450629556, + "grad_norm": 9.47497272491455, + "learning_rate": 3.8071712363258197e-06, + "loss": 0.1423, + "num_input_tokens_seen": 14415736, + "step": 7360 + }, + { + "epoch": 0.975612988734261, + "grad_norm": 0.6445384621620178, + "learning_rate": 3.8068753192443418e-06, + "loss": 0.0046, + "num_input_tokens_seen": 14417352, + "step": 7361 + }, + { + "epoch": 0.9757455268389662, + "grad_norm": 6.003385066986084, + "learning_rate": 3.8065793769654056e-06, + "loss": 0.1527, + "num_input_tokens_seen": 14419464, + "step": 7362 + }, + { + "epoch": 0.9758780649436714, + "grad_norm": 3.898773670196533, + "learning_rate": 3.8062834094947186e-06, + "loss": 0.0358, + "num_input_tokens_seen": 14421560, + "step": 7363 + }, + { + "epoch": 0.9760106030483764, + "grad_norm": 9.3087158203125, + "learning_rate": 3.8059874168379872e-06, + "loss": 0.0821, + "num_input_tokens_seen": 14423608, + "step": 7364 + }, + { + "epoch": 0.9761431411530815, + "grad_norm": 3.380053758621216, + "learning_rate": 3.8056913990009157e-06, + "loss": 0.0241, + "num_input_tokens_seen": 14424616, + "step": 7365 + }, + { + "epoch": 0.9762756792577866, + "grad_norm": 6.693706512451172, + "learning_rate": 3.8053953559892144e-06, + "loss": 0.1914, + "num_input_tokens_seen": 14426456, + "step": 7366 + }, + { + "epoch": 0.9764082173624917, + "grad_norm": 1.5852546691894531, + "learning_rate": 3.80509928780859e-06, + "loss": 0.0514, + "num_input_tokens_seen": 14427904, + "step": 7367 + }, + { + "epoch": 0.9765407554671968, + "grad_norm": 9.312158584594727, + "learning_rate": 3.8048031944647512e-06, + "loss": 0.2358, + "num_input_tokens_seen": 14430248, + "step": 7368 + }, + { + "epoch": 0.9766732935719019, + "grad_norm": 8.545063972473145, + "learning_rate": 3.804507075963406e-06, + "loss": 0.2748, + "num_input_tokens_seen": 14432296, + "step": 7369 + }, + { + "epoch": 0.9768058316766071, + "grad_norm": 10.22640609741211, + "learning_rate": 3.804210932310265e-06, + "loss": 0.4429, + "num_input_tokens_seen": 14434248, + "step": 7370 + }, + { + "epoch": 0.9769383697813121, + "grad_norm": 4.385878086090088, + "learning_rate": 3.803914763511036e-06, + "loss": 0.0854, + "num_input_tokens_seen": 14436160, + "step": 7371 + }, + { + "epoch": 0.9770709078860172, + "grad_norm": 4.706075668334961, + "learning_rate": 3.803618569571433e-06, + "loss": 0.1361, + "num_input_tokens_seen": 14438272, + "step": 7372 + }, + { + "epoch": 0.9772034459907223, + "grad_norm": 9.773750305175781, + "learning_rate": 3.803322350497164e-06, + "loss": 0.3596, + "num_input_tokens_seen": 14440760, + "step": 7373 + }, + { + "epoch": 0.9773359840954274, + "grad_norm": 7.5464091300964355, + "learning_rate": 3.80302610629394e-06, + "loss": 0.307, + "num_input_tokens_seen": 14442640, + "step": 7374 + }, + { + "epoch": 0.9774685222001326, + "grad_norm": 7.880706310272217, + "learning_rate": 3.802729836967475e-06, + "loss": 0.2558, + "num_input_tokens_seen": 14444176, + "step": 7375 + }, + { + "epoch": 0.9776010603048376, + "grad_norm": 3.486879825592041, + "learning_rate": 3.802433542523479e-06, + "loss": 0.0876, + "num_input_tokens_seen": 14445800, + "step": 7376 + }, + { + "epoch": 0.9777335984095428, + "grad_norm": 2.1389243602752686, + "learning_rate": 3.8021372229676662e-06, + "loss": 0.0708, + "num_input_tokens_seen": 14447368, + "step": 7377 + }, + { + "epoch": 0.9778661365142478, + "grad_norm": 0.04939216747879982, + "learning_rate": 3.8018408783057497e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14449032, + "step": 7378 + }, + { + "epoch": 0.977998674618953, + "grad_norm": 6.989064693450928, + "learning_rate": 3.801544508543443e-06, + "loss": 0.1451, + "num_input_tokens_seen": 14450776, + "step": 7379 + }, + { + "epoch": 0.9781312127236581, + "grad_norm": 10.56523323059082, + "learning_rate": 3.8012481136864597e-06, + "loss": 0.281, + "num_input_tokens_seen": 14452696, + "step": 7380 + }, + { + "epoch": 0.9782637508283631, + "grad_norm": 4.1558918952941895, + "learning_rate": 3.8009516937405157e-06, + "loss": 0.0936, + "num_input_tokens_seen": 14454224, + "step": 7381 + }, + { + "epoch": 0.9783962889330683, + "grad_norm": 0.2487679421901703, + "learning_rate": 3.8006552487113253e-06, + "loss": 0.0017, + "num_input_tokens_seen": 14455928, + "step": 7382 + }, + { + "epoch": 0.9785288270377733, + "grad_norm": 0.08795146644115448, + "learning_rate": 3.8003587786046043e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14457408, + "step": 7383 + }, + { + "epoch": 0.9786613651424785, + "grad_norm": 0.3246552050113678, + "learning_rate": 3.8000622834260694e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14459144, + "step": 7384 + }, + { + "epoch": 0.9787939032471835, + "grad_norm": 0.20704562962055206, + "learning_rate": 3.7997657631814366e-06, + "loss": 0.0013, + "num_input_tokens_seen": 14462672, + "step": 7385 + }, + { + "epoch": 0.9789264413518887, + "grad_norm": 0.13691645860671997, + "learning_rate": 3.7994692178764227e-06, + "loss": 0.001, + "num_input_tokens_seen": 14464784, + "step": 7386 + }, + { + "epoch": 0.9790589794565938, + "grad_norm": 4.155706882476807, + "learning_rate": 3.7991726475167464e-06, + "loss": 0.0483, + "num_input_tokens_seen": 14466336, + "step": 7387 + }, + { + "epoch": 0.9791915175612989, + "grad_norm": 5.97236442565918, + "learning_rate": 3.798876052108125e-06, + "loss": 0.2341, + "num_input_tokens_seen": 14468024, + "step": 7388 + }, + { + "epoch": 0.979324055666004, + "grad_norm": 0.16712424159049988, + "learning_rate": 3.798579431656277e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14470160, + "step": 7389 + }, + { + "epoch": 0.979456593770709, + "grad_norm": 13.663261413574219, + "learning_rate": 3.7982827861669224e-06, + "loss": 0.3484, + "num_input_tokens_seen": 14471888, + "step": 7390 + }, + { + "epoch": 0.9795891318754142, + "grad_norm": 8.83521842956543, + "learning_rate": 3.7979861156457796e-06, + "loss": 0.2455, + "num_input_tokens_seen": 14474400, + "step": 7391 + }, + { + "epoch": 0.9797216699801193, + "grad_norm": 11.258716583251953, + "learning_rate": 3.797689420098569e-06, + "loss": 0.5067, + "num_input_tokens_seen": 14476784, + "step": 7392 + }, + { + "epoch": 0.9798542080848244, + "grad_norm": 0.3901125490665436, + "learning_rate": 3.797392699531012e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14479432, + "step": 7393 + }, + { + "epoch": 0.9799867461895295, + "grad_norm": 2.4827568531036377, + "learning_rate": 3.7970959539488277e-06, + "loss": 0.0177, + "num_input_tokens_seen": 14481024, + "step": 7394 + }, + { + "epoch": 0.9801192842942346, + "grad_norm": 0.08227360248565674, + "learning_rate": 3.7967991833577388e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14482840, + "step": 7395 + }, + { + "epoch": 0.9802518223989397, + "grad_norm": 1.063278079032898, + "learning_rate": 3.796502387763467e-06, + "loss": 0.0107, + "num_input_tokens_seen": 14484928, + "step": 7396 + }, + { + "epoch": 0.9803843605036447, + "grad_norm": 2.9758307933807373, + "learning_rate": 3.796205567171735e-06, + "loss": 0.0854, + "num_input_tokens_seen": 14486632, + "step": 7397 + }, + { + "epoch": 0.9805168986083499, + "grad_norm": 6.8062872886657715, + "learning_rate": 3.795908721588265e-06, + "loss": 0.1775, + "num_input_tokens_seen": 14489448, + "step": 7398 + }, + { + "epoch": 0.980649436713055, + "grad_norm": 0.5578870177268982, + "learning_rate": 3.7956118510187817e-06, + "loss": 0.0035, + "num_input_tokens_seen": 14491408, + "step": 7399 + }, + { + "epoch": 0.9807819748177601, + "grad_norm": 6.043049335479736, + "learning_rate": 3.7953149554690073e-06, + "loss": 0.1417, + "num_input_tokens_seen": 14493288, + "step": 7400 + }, + { + "epoch": 0.9809145129224652, + "grad_norm": 0.15173298120498657, + "learning_rate": 3.7950180349446675e-06, + "loss": 0.001, + "num_input_tokens_seen": 14495920, + "step": 7401 + }, + { + "epoch": 0.9810470510271703, + "grad_norm": 0.04913967102766037, + "learning_rate": 3.7947210894514864e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14497168, + "step": 7402 + }, + { + "epoch": 0.9811795891318754, + "grad_norm": 3.2894275188446045, + "learning_rate": 3.7944241189951892e-06, + "loss": 0.0861, + "num_input_tokens_seen": 14498952, + "step": 7403 + }, + { + "epoch": 0.9813121272365806, + "grad_norm": 7.083791255950928, + "learning_rate": 3.7941271235815026e-06, + "loss": 0.0963, + "num_input_tokens_seen": 14501000, + "step": 7404 + }, + { + "epoch": 0.9814446653412856, + "grad_norm": 0.01514469739049673, + "learning_rate": 3.793830103216152e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14501888, + "step": 7405 + }, + { + "epoch": 0.9815772034459908, + "grad_norm": 11.904065132141113, + "learning_rate": 3.7935330579048647e-06, + "loss": 0.3611, + "num_input_tokens_seen": 14504536, + "step": 7406 + }, + { + "epoch": 0.9817097415506958, + "grad_norm": 0.03228849917650223, + "learning_rate": 3.793235987653367e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14506696, + "step": 7407 + }, + { + "epoch": 0.9818422796554009, + "grad_norm": 6.021876335144043, + "learning_rate": 3.7929388924673875e-06, + "loss": 0.0158, + "num_input_tokens_seen": 14507912, + "step": 7408 + }, + { + "epoch": 0.981974817760106, + "grad_norm": 5.733320236206055, + "learning_rate": 3.7926417723526544e-06, + "loss": 0.2977, + "num_input_tokens_seen": 14509768, + "step": 7409 + }, + { + "epoch": 0.9821073558648111, + "grad_norm": 0.12485023587942123, + "learning_rate": 3.7923446273148962e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14511088, + "step": 7410 + }, + { + "epoch": 0.9822398939695163, + "grad_norm": 7.824032783508301, + "learning_rate": 3.792047457359842e-06, + "loss": 0.2407, + "num_input_tokens_seen": 14513640, + "step": 7411 + }, + { + "epoch": 0.9823724320742213, + "grad_norm": 20.340831756591797, + "learning_rate": 3.7917502624932214e-06, + "loss": 0.6636, + "num_input_tokens_seen": 14516440, + "step": 7412 + }, + { + "epoch": 0.9825049701789265, + "grad_norm": 19.05531120300293, + "learning_rate": 3.791453042720765e-06, + "loss": 0.6905, + "num_input_tokens_seen": 14518304, + "step": 7413 + }, + { + "epoch": 0.9826375082836315, + "grad_norm": 5.129209518432617, + "learning_rate": 3.7911557980482027e-06, + "loss": 0.0272, + "num_input_tokens_seen": 14520064, + "step": 7414 + }, + { + "epoch": 0.9827700463883366, + "grad_norm": 9.143016815185547, + "learning_rate": 3.790858528481266e-06, + "loss": 0.1812, + "num_input_tokens_seen": 14522064, + "step": 7415 + }, + { + "epoch": 0.9829025844930418, + "grad_norm": 7.742749214172363, + "learning_rate": 3.790561234025686e-06, + "loss": 0.2871, + "num_input_tokens_seen": 14523704, + "step": 7416 + }, + { + "epoch": 0.9830351225977468, + "grad_norm": 8.041770935058594, + "learning_rate": 3.7902639146871954e-06, + "loss": 0.1239, + "num_input_tokens_seen": 14525936, + "step": 7417 + }, + { + "epoch": 0.983167660702452, + "grad_norm": 0.13700397312641144, + "learning_rate": 3.7899665704715265e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14529752, + "step": 7418 + }, + { + "epoch": 0.983300198807157, + "grad_norm": 0.5118721127510071, + "learning_rate": 3.7896692013844122e-06, + "loss": 0.0034, + "num_input_tokens_seen": 14531792, + "step": 7419 + }, + { + "epoch": 0.9834327369118622, + "grad_norm": 12.241049766540527, + "learning_rate": 3.7893718074315853e-06, + "loss": 0.251, + "num_input_tokens_seen": 14533408, + "step": 7420 + }, + { + "epoch": 0.9835652750165672, + "grad_norm": 8.60028076171875, + "learning_rate": 3.789074388618782e-06, + "loss": 0.2729, + "num_input_tokens_seen": 14535224, + "step": 7421 + }, + { + "epoch": 0.9836978131212724, + "grad_norm": 0.05928985774517059, + "learning_rate": 3.788776944951734e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14536688, + "step": 7422 + }, + { + "epoch": 0.9838303512259775, + "grad_norm": 11.478135108947754, + "learning_rate": 3.788479476436178e-06, + "loss": 0.1768, + "num_input_tokens_seen": 14538744, + "step": 7423 + }, + { + "epoch": 0.9839628893306825, + "grad_norm": 6.083920001983643, + "learning_rate": 3.788181983077848e-06, + "loss": 0.1063, + "num_input_tokens_seen": 14540584, + "step": 7424 + }, + { + "epoch": 0.9840954274353877, + "grad_norm": 14.518895149230957, + "learning_rate": 3.7878844648824814e-06, + "loss": 0.4472, + "num_input_tokens_seen": 14542464, + "step": 7425 + }, + { + "epoch": 0.9842279655400927, + "grad_norm": 8.088200569152832, + "learning_rate": 3.7875869218558136e-06, + "loss": 0.3527, + "num_input_tokens_seen": 14544000, + "step": 7426 + }, + { + "epoch": 0.9843605036447979, + "grad_norm": 10.399395942687988, + "learning_rate": 3.7872893540035815e-06, + "loss": 0.2184, + "num_input_tokens_seen": 14546808, + "step": 7427 + }, + { + "epoch": 0.984493041749503, + "grad_norm": 0.08218420296907425, + "learning_rate": 3.7869917613315228e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14548744, + "step": 7428 + }, + { + "epoch": 0.9846255798542081, + "grad_norm": 0.10341787338256836, + "learning_rate": 3.7866941438453754e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14550472, + "step": 7429 + }, + { + "epoch": 0.9847581179589132, + "grad_norm": 0.025562381371855736, + "learning_rate": 3.786396501550877e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14551608, + "step": 7430 + }, + { + "epoch": 0.9848906560636183, + "grad_norm": 9.983819961547852, + "learning_rate": 3.7860988344537664e-06, + "loss": 0.2907, + "num_input_tokens_seen": 14553696, + "step": 7431 + }, + { + "epoch": 0.9850231941683234, + "grad_norm": 2.680049419403076, + "learning_rate": 3.7858011425597837e-06, + "loss": 0.0389, + "num_input_tokens_seen": 14555640, + "step": 7432 + }, + { + "epoch": 0.9851557322730286, + "grad_norm": 6.576312065124512, + "learning_rate": 3.785503425874667e-06, + "loss": 0.2179, + "num_input_tokens_seen": 14558208, + "step": 7433 + }, + { + "epoch": 0.9852882703777336, + "grad_norm": 0.42594072222709656, + "learning_rate": 3.785205684404158e-06, + "loss": 0.0024, + "num_input_tokens_seen": 14559512, + "step": 7434 + }, + { + "epoch": 0.9854208084824387, + "grad_norm": 5.457864284515381, + "learning_rate": 3.784907918153997e-06, + "loss": 0.1723, + "num_input_tokens_seen": 14561336, + "step": 7435 + }, + { + "epoch": 0.9855533465871438, + "grad_norm": 8.544934272766113, + "learning_rate": 3.784610127129924e-06, + "loss": 0.1595, + "num_input_tokens_seen": 14563224, + "step": 7436 + }, + { + "epoch": 0.9856858846918489, + "grad_norm": 4.888466835021973, + "learning_rate": 3.784312311337682e-06, + "loss": 0.0545, + "num_input_tokens_seen": 14565096, + "step": 7437 + }, + { + "epoch": 0.985818422796554, + "grad_norm": 0.1505114585161209, + "learning_rate": 3.784014470783014e-06, + "loss": 0.001, + "num_input_tokens_seen": 14567080, + "step": 7438 + }, + { + "epoch": 0.9859509609012591, + "grad_norm": 15.188621520996094, + "learning_rate": 3.783716605471659e-06, + "loss": 0.3375, + "num_input_tokens_seen": 14568688, + "step": 7439 + }, + { + "epoch": 0.9860834990059643, + "grad_norm": 6.947436332702637, + "learning_rate": 3.7834187154093637e-06, + "loss": 0.1894, + "num_input_tokens_seen": 14570584, + "step": 7440 + }, + { + "epoch": 0.9862160371106693, + "grad_norm": 0.024744799360632896, + "learning_rate": 3.7831208006018693e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14572592, + "step": 7441 + }, + { + "epoch": 0.9863485752153744, + "grad_norm": 0.05840403214097023, + "learning_rate": 3.782822861054921e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14574264, + "step": 7442 + }, + { + "epoch": 0.9864811133200795, + "grad_norm": 20.0048885345459, + "learning_rate": 3.7825248967742634e-06, + "loss": 0.5631, + "num_input_tokens_seen": 14575400, + "step": 7443 + }, + { + "epoch": 0.9866136514247846, + "grad_norm": 6.002795219421387, + "learning_rate": 3.782226907765641e-06, + "loss": 0.0682, + "num_input_tokens_seen": 14576472, + "step": 7444 + }, + { + "epoch": 0.9867461895294898, + "grad_norm": 7.828094005584717, + "learning_rate": 3.781928894034799e-06, + "loss": 0.2006, + "num_input_tokens_seen": 14577896, + "step": 7445 + }, + { + "epoch": 0.9868787276341948, + "grad_norm": 4.702576637268066, + "learning_rate": 3.781630855587483e-06, + "loss": 0.0451, + "num_input_tokens_seen": 14579408, + "step": 7446 + }, + { + "epoch": 0.9870112657389, + "grad_norm": 19.22153663635254, + "learning_rate": 3.7813327924294407e-06, + "loss": 0.5378, + "num_input_tokens_seen": 14581624, + "step": 7447 + }, + { + "epoch": 0.987143803843605, + "grad_norm": 8.9507474899292, + "learning_rate": 3.781034704566418e-06, + "loss": 0.1927, + "num_input_tokens_seen": 14584240, + "step": 7448 + }, + { + "epoch": 0.9872763419483102, + "grad_norm": 0.04042766988277435, + "learning_rate": 3.7807365920041626e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14585568, + "step": 7449 + }, + { + "epoch": 0.9874088800530152, + "grad_norm": 0.08263298869132996, + "learning_rate": 3.780438454748422e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14587136, + "step": 7450 + }, + { + "epoch": 0.9875414181577203, + "grad_norm": 10.530470848083496, + "learning_rate": 3.780140292804945e-06, + "loss": 0.3976, + "num_input_tokens_seen": 14588712, + "step": 7451 + }, + { + "epoch": 0.9876739562624255, + "grad_norm": 7.5321269035339355, + "learning_rate": 3.7798421061794794e-06, + "loss": 0.1258, + "num_input_tokens_seen": 14590736, + "step": 7452 + }, + { + "epoch": 0.9878064943671305, + "grad_norm": 5.495265960693359, + "learning_rate": 3.7795438948777758e-06, + "loss": 0.2552, + "num_input_tokens_seen": 14592536, + "step": 7453 + }, + { + "epoch": 0.9879390324718357, + "grad_norm": 0.05409146845340729, + "learning_rate": 3.779245658905582e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14594312, + "step": 7454 + }, + { + "epoch": 0.9880715705765407, + "grad_norm": 0.059843823313713074, + "learning_rate": 3.778947398268651e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14596576, + "step": 7455 + }, + { + "epoch": 0.9882041086812459, + "grad_norm": 13.64786148071289, + "learning_rate": 3.778649112972731e-06, + "loss": 0.5459, + "num_input_tokens_seen": 14598504, + "step": 7456 + }, + { + "epoch": 0.988336646785951, + "grad_norm": 7.324364185333252, + "learning_rate": 3.778350803023574e-06, + "loss": 0.1903, + "num_input_tokens_seen": 14600984, + "step": 7457 + }, + { + "epoch": 0.988469184890656, + "grad_norm": 10.663796424865723, + "learning_rate": 3.7780524684269315e-06, + "loss": 0.2283, + "num_input_tokens_seen": 14603144, + "step": 7458 + }, + { + "epoch": 0.9886017229953612, + "grad_norm": 0.2375771701335907, + "learning_rate": 3.7777541091885562e-06, + "loss": 0.0017, + "num_input_tokens_seen": 14605440, + "step": 7459 + }, + { + "epoch": 0.9887342611000662, + "grad_norm": 0.06719999015331268, + "learning_rate": 3.7774557253141997e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14606984, + "step": 7460 + }, + { + "epoch": 0.9888667992047714, + "grad_norm": 1.729261040687561, + "learning_rate": 3.7771573168096155e-06, + "loss": 0.0402, + "num_input_tokens_seen": 14608856, + "step": 7461 + }, + { + "epoch": 0.9889993373094764, + "grad_norm": 7.544516086578369, + "learning_rate": 3.7768588836805573e-06, + "loss": 0.1204, + "num_input_tokens_seen": 14610928, + "step": 7462 + }, + { + "epoch": 0.9891318754141816, + "grad_norm": 12.71238899230957, + "learning_rate": 3.7765604259327792e-06, + "loss": 0.2894, + "num_input_tokens_seen": 14612816, + "step": 7463 + }, + { + "epoch": 0.9892644135188867, + "grad_norm": 5.414800643920898, + "learning_rate": 3.7762619435720355e-06, + "loss": 0.2036, + "num_input_tokens_seen": 14614784, + "step": 7464 + }, + { + "epoch": 0.9893969516235918, + "grad_norm": 0.1273748278617859, + "learning_rate": 3.775963436604081e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14616256, + "step": 7465 + }, + { + "epoch": 0.9895294897282969, + "grad_norm": 11.797792434692383, + "learning_rate": 3.7756649050346705e-06, + "loss": 0.3017, + "num_input_tokens_seen": 14618832, + "step": 7466 + }, + { + "epoch": 0.989662027833002, + "grad_norm": 0.18892276287078857, + "learning_rate": 3.7753663488695613e-06, + "loss": 0.0012, + "num_input_tokens_seen": 14620072, + "step": 7467 + }, + { + "epoch": 0.9897945659377071, + "grad_norm": 4.78010368347168, + "learning_rate": 3.775067768114509e-06, + "loss": 0.1914, + "num_input_tokens_seen": 14622912, + "step": 7468 + }, + { + "epoch": 0.9899271040424122, + "grad_norm": 0.2012818455696106, + "learning_rate": 3.77476916277527e-06, + "loss": 0.0014, + "num_input_tokens_seen": 14624600, + "step": 7469 + }, + { + "epoch": 0.9900596421471173, + "grad_norm": 5.991137504577637, + "learning_rate": 3.774470532857603e-06, + "loss": 0.2401, + "num_input_tokens_seen": 14626392, + "step": 7470 + }, + { + "epoch": 0.9901921802518224, + "grad_norm": 0.36517441272735596, + "learning_rate": 3.7741718783672647e-06, + "loss": 0.0027, + "num_input_tokens_seen": 14629336, + "step": 7471 + }, + { + "epoch": 0.9903247183565275, + "grad_norm": 0.07761472463607788, + "learning_rate": 3.773873199310013e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14630952, + "step": 7472 + }, + { + "epoch": 0.9904572564612326, + "grad_norm": 9.61211109161377, + "learning_rate": 3.7735744956916076e-06, + "loss": 0.2465, + "num_input_tokens_seen": 14634272, + "step": 7473 + }, + { + "epoch": 0.9905897945659377, + "grad_norm": 5.017262935638428, + "learning_rate": 3.7732757675178076e-06, + "loss": 0.0618, + "num_input_tokens_seen": 14636160, + "step": 7474 + }, + { + "epoch": 0.9907223326706428, + "grad_norm": 0.28648558259010315, + "learning_rate": 3.7729770147943725e-06, + "loss": 0.0021, + "num_input_tokens_seen": 14639392, + "step": 7475 + }, + { + "epoch": 0.990854870775348, + "grad_norm": 5.11911678314209, + "learning_rate": 3.772678237527062e-06, + "loss": 0.0593, + "num_input_tokens_seen": 14641456, + "step": 7476 + }, + { + "epoch": 0.990987408880053, + "grad_norm": 2.148871898651123, + "learning_rate": 3.772379435721637e-06, + "loss": 0.0628, + "num_input_tokens_seen": 14643472, + "step": 7477 + }, + { + "epoch": 0.9911199469847581, + "grad_norm": 6.179117679595947, + "learning_rate": 3.7720806093838585e-06, + "loss": 0.1541, + "num_input_tokens_seen": 14645392, + "step": 7478 + }, + { + "epoch": 0.9912524850894632, + "grad_norm": 2.1901626586914062, + "learning_rate": 3.771781758519489e-06, + "loss": 0.0166, + "num_input_tokens_seen": 14646696, + "step": 7479 + }, + { + "epoch": 0.9913850231941683, + "grad_norm": 17.649974822998047, + "learning_rate": 3.771482883134289e-06, + "loss": 0.4598, + "num_input_tokens_seen": 14648464, + "step": 7480 + }, + { + "epoch": 0.9915175612988735, + "grad_norm": 3.9150497913360596, + "learning_rate": 3.7711839832340225e-06, + "loss": 0.0746, + "num_input_tokens_seen": 14650584, + "step": 7481 + }, + { + "epoch": 0.9916500994035785, + "grad_norm": 0.09354069083929062, + "learning_rate": 3.7708850588244515e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14652304, + "step": 7482 + }, + { + "epoch": 0.9917826375082837, + "grad_norm": 0.11603660136461258, + "learning_rate": 3.7705861099113404e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14654304, + "step": 7483 + }, + { + "epoch": 0.9919151756129887, + "grad_norm": 0.11128681898117065, + "learning_rate": 3.770287136500452e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14655640, + "step": 7484 + }, + { + "epoch": 0.9920477137176938, + "grad_norm": 0.0486735925078392, + "learning_rate": 3.769988138597551e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14657024, + "step": 7485 + }, + { + "epoch": 0.9921802518223989, + "grad_norm": 15.03048038482666, + "learning_rate": 3.7696891162084036e-06, + "loss": 0.4605, + "num_input_tokens_seen": 14658672, + "step": 7486 + }, + { + "epoch": 0.992312789927104, + "grad_norm": 7.816737651824951, + "learning_rate": 3.769390069338773e-06, + "loss": 0.1599, + "num_input_tokens_seen": 14659920, + "step": 7487 + }, + { + "epoch": 0.9924453280318092, + "grad_norm": 0.13302229344844818, + "learning_rate": 3.7690909979944267e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14661344, + "step": 7488 + }, + { + "epoch": 0.9925778661365142, + "grad_norm": 7.35618782043457, + "learning_rate": 3.7687919021811302e-06, + "loss": 0.1565, + "num_input_tokens_seen": 14663872, + "step": 7489 + }, + { + "epoch": 0.9927104042412194, + "grad_norm": 8.849679946899414, + "learning_rate": 3.7684927819046515e-06, + "loss": 0.1941, + "num_input_tokens_seen": 14665288, + "step": 7490 + }, + { + "epoch": 0.9928429423459244, + "grad_norm": 6.646866798400879, + "learning_rate": 3.768193637170756e-06, + "loss": 0.2763, + "num_input_tokens_seen": 14667384, + "step": 7491 + }, + { + "epoch": 0.9929754804506296, + "grad_norm": 0.05182486027479172, + "learning_rate": 3.7678944679852127e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14668752, + "step": 7492 + }, + { + "epoch": 0.9931080185553347, + "grad_norm": 8.893109321594238, + "learning_rate": 3.7675952743537885e-06, + "loss": 0.2543, + "num_input_tokens_seen": 14670968, + "step": 7493 + }, + { + "epoch": 0.9932405566600397, + "grad_norm": 0.23408369719982147, + "learning_rate": 3.7672960562822543e-06, + "loss": 0.0014, + "num_input_tokens_seen": 14672560, + "step": 7494 + }, + { + "epoch": 0.9933730947647449, + "grad_norm": 2.355358362197876, + "learning_rate": 3.7669968137763767e-06, + "loss": 0.0284, + "num_input_tokens_seen": 14675672, + "step": 7495 + }, + { + "epoch": 0.9935056328694499, + "grad_norm": 0.159286230802536, + "learning_rate": 3.7666975468419263e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14677336, + "step": 7496 + }, + { + "epoch": 0.9936381709741551, + "grad_norm": 5.72774600982666, + "learning_rate": 3.7663982554846746e-06, + "loss": 0.1427, + "num_input_tokens_seen": 14680616, + "step": 7497 + }, + { + "epoch": 0.9937707090788602, + "grad_norm": 0.07825324684381485, + "learning_rate": 3.7660989397103903e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14681768, + "step": 7498 + }, + { + "epoch": 0.9939032471835653, + "grad_norm": 10.577095031738281, + "learning_rate": 3.7657995995248453e-06, + "loss": 0.3354, + "num_input_tokens_seen": 14683856, + "step": 7499 + }, + { + "epoch": 0.9940357852882704, + "grad_norm": 5.286223888397217, + "learning_rate": 3.7655002349338106e-06, + "loss": 0.2151, + "num_input_tokens_seen": 14686704, + "step": 7500 + }, + { + "epoch": 0.9941683233929755, + "grad_norm": 1.5178208351135254, + "learning_rate": 3.7652008459430576e-06, + "loss": 0.0082, + "num_input_tokens_seen": 14689808, + "step": 7501 + }, + { + "epoch": 0.9943008614976806, + "grad_norm": 8.504348754882812, + "learning_rate": 3.7649014325583597e-06, + "loss": 0.3122, + "num_input_tokens_seen": 14691472, + "step": 7502 + }, + { + "epoch": 0.9944333996023856, + "grad_norm": 3.3781087398529053, + "learning_rate": 3.7646019947854907e-06, + "loss": 0.0412, + "num_input_tokens_seen": 14693448, + "step": 7503 + }, + { + "epoch": 0.9945659377070908, + "grad_norm": 3.832814931869507, + "learning_rate": 3.7643025326302217e-06, + "loss": 0.042, + "num_input_tokens_seen": 14696440, + "step": 7504 + }, + { + "epoch": 0.9946984758117959, + "grad_norm": 7.151188373565674, + "learning_rate": 3.7640030460983284e-06, + "loss": 0.138, + "num_input_tokens_seen": 14697888, + "step": 7505 + }, + { + "epoch": 0.994831013916501, + "grad_norm": 0.24960653483867645, + "learning_rate": 3.763703535195584e-06, + "loss": 0.0017, + "num_input_tokens_seen": 14700832, + "step": 7506 + }, + { + "epoch": 0.9949635520212061, + "grad_norm": 13.948338508605957, + "learning_rate": 3.7634039999277633e-06, + "loss": 0.5592, + "num_input_tokens_seen": 14703040, + "step": 7507 + }, + { + "epoch": 0.9950960901259112, + "grad_norm": 2.88840651512146, + "learning_rate": 3.763104440300643e-06, + "loss": 0.0549, + "num_input_tokens_seen": 14704864, + "step": 7508 + }, + { + "epoch": 0.9952286282306163, + "grad_norm": 6.21791934967041, + "learning_rate": 3.7628048563199972e-06, + "loss": 0.1545, + "num_input_tokens_seen": 14707072, + "step": 7509 + }, + { + "epoch": 0.9953611663353215, + "grad_norm": 7.89548397064209, + "learning_rate": 3.762505247991601e-06, + "loss": 0.0699, + "num_input_tokens_seen": 14710048, + "step": 7510 + }, + { + "epoch": 0.9954937044400265, + "grad_norm": 4.993197917938232, + "learning_rate": 3.762205615321235e-06, + "loss": 0.0661, + "num_input_tokens_seen": 14712016, + "step": 7511 + }, + { + "epoch": 0.9956262425447316, + "grad_norm": 4.341444969177246, + "learning_rate": 3.7619059583146733e-06, + "loss": 0.0835, + "num_input_tokens_seen": 14714328, + "step": 7512 + }, + { + "epoch": 0.9957587806494367, + "grad_norm": 13.486825942993164, + "learning_rate": 3.761606276977694e-06, + "loss": 0.4369, + "num_input_tokens_seen": 14716664, + "step": 7513 + }, + { + "epoch": 0.9958913187541418, + "grad_norm": 7.296512126922607, + "learning_rate": 3.7613065713160747e-06, + "loss": 0.0684, + "num_input_tokens_seen": 14718216, + "step": 7514 + }, + { + "epoch": 0.9960238568588469, + "grad_norm": 0.5210379958152771, + "learning_rate": 3.7610068413355955e-06, + "loss": 0.0033, + "num_input_tokens_seen": 14719872, + "step": 7515 + }, + { + "epoch": 0.996156394963552, + "grad_norm": 11.074482917785645, + "learning_rate": 3.760707087042034e-06, + "loss": 0.32, + "num_input_tokens_seen": 14721784, + "step": 7516 + }, + { + "epoch": 0.9962889330682572, + "grad_norm": 10.787108421325684, + "learning_rate": 3.76040730844117e-06, + "loss": 0.3002, + "num_input_tokens_seen": 14723480, + "step": 7517 + }, + { + "epoch": 0.9964214711729622, + "grad_norm": 2.3107287883758545, + "learning_rate": 3.7601075055387848e-06, + "loss": 0.0382, + "num_input_tokens_seen": 14725608, + "step": 7518 + }, + { + "epoch": 0.9965540092776674, + "grad_norm": 0.15647807717323303, + "learning_rate": 3.7598076783406556e-06, + "loss": 0.0011, + "num_input_tokens_seen": 14727472, + "step": 7519 + }, + { + "epoch": 0.9966865473823724, + "grad_norm": 15.560263633728027, + "learning_rate": 3.7595078268525666e-06, + "loss": 0.2044, + "num_input_tokens_seen": 14728920, + "step": 7520 + }, + { + "epoch": 0.9968190854870775, + "grad_norm": 1.11007559299469, + "learning_rate": 3.759207951080298e-06, + "loss": 0.0074, + "num_input_tokens_seen": 14730816, + "step": 7521 + }, + { + "epoch": 0.9969516235917827, + "grad_norm": 10.53654956817627, + "learning_rate": 3.7589080510296307e-06, + "loss": 0.2754, + "num_input_tokens_seen": 14732432, + "step": 7522 + }, + { + "epoch": 0.9970841616964877, + "grad_norm": 0.5345222353935242, + "learning_rate": 3.758608126706348e-06, + "loss": 0.0108, + "num_input_tokens_seen": 14733976, + "step": 7523 + }, + { + "epoch": 0.9972166998011929, + "grad_norm": 3.964815139770508, + "learning_rate": 3.7583081781162323e-06, + "loss": 0.0365, + "num_input_tokens_seen": 14735856, + "step": 7524 + }, + { + "epoch": 0.9973492379058979, + "grad_norm": 4.957132816314697, + "learning_rate": 3.758008205265067e-06, + "loss": 0.1353, + "num_input_tokens_seen": 14737896, + "step": 7525 + }, + { + "epoch": 0.9974817760106031, + "grad_norm": 16.13467788696289, + "learning_rate": 3.757708208158636e-06, + "loss": 0.5086, + "num_input_tokens_seen": 14741200, + "step": 7526 + }, + { + "epoch": 0.9976143141153081, + "grad_norm": 5.856666088104248, + "learning_rate": 3.7574081868027218e-06, + "loss": 0.1209, + "num_input_tokens_seen": 14743688, + "step": 7527 + }, + { + "epoch": 0.9977468522200132, + "grad_norm": 20.14527130126953, + "learning_rate": 3.7571081412031106e-06, + "loss": 0.5185, + "num_input_tokens_seen": 14745240, + "step": 7528 + }, + { + "epoch": 0.9978793903247184, + "grad_norm": 14.533098220825195, + "learning_rate": 3.756808071365588e-06, + "loss": 0.3847, + "num_input_tokens_seen": 14746448, + "step": 7529 + }, + { + "epoch": 0.9980119284294234, + "grad_norm": 9.56916618347168, + "learning_rate": 3.756507977295939e-06, + "loss": 0.2758, + "num_input_tokens_seen": 14748504, + "step": 7530 + }, + { + "epoch": 0.9981444665341286, + "grad_norm": 5.491872787475586, + "learning_rate": 3.7562078589999483e-06, + "loss": 0.1232, + "num_input_tokens_seen": 14750664, + "step": 7531 + }, + { + "epoch": 0.9982770046388336, + "grad_norm": 0.10833562910556793, + "learning_rate": 3.7559077164834046e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14752144, + "step": 7532 + }, + { + "epoch": 0.9984095427435388, + "grad_norm": 0.10356461256742477, + "learning_rate": 3.7556075497520927e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14754128, + "step": 7533 + }, + { + "epoch": 0.9985420808482439, + "grad_norm": 0.4142891466617584, + "learning_rate": 3.7553073588118015e-06, + "loss": 0.0023, + "num_input_tokens_seen": 14755640, + "step": 7534 + }, + { + "epoch": 0.998674618952949, + "grad_norm": 7.838845252990723, + "learning_rate": 3.755007143668319e-06, + "loss": 0.0988, + "num_input_tokens_seen": 14757840, + "step": 7535 + }, + { + "epoch": 0.9988071570576541, + "grad_norm": 10.540555000305176, + "learning_rate": 3.754706904327432e-06, + "loss": 0.1365, + "num_input_tokens_seen": 14759464, + "step": 7536 + }, + { + "epoch": 0.9989396951623591, + "grad_norm": 0.06858278810977936, + "learning_rate": 3.75440664079493e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14760736, + "step": 7537 + }, + { + "epoch": 0.9990722332670643, + "grad_norm": 0.12629128992557526, + "learning_rate": 3.7541063530766042e-06, + "loss": 0.0008, + "num_input_tokens_seen": 14762792, + "step": 7538 + }, + { + "epoch": 0.9992047713717693, + "grad_norm": 12.637260437011719, + "learning_rate": 3.7538060411782417e-06, + "loss": 0.3821, + "num_input_tokens_seen": 14764696, + "step": 7539 + }, + { + "epoch": 0.9993373094764745, + "grad_norm": 6.717950344085693, + "learning_rate": 3.7535057051056335e-06, + "loss": 0.1089, + "num_input_tokens_seen": 14766944, + "step": 7540 + }, + { + "epoch": 0.9994698475811796, + "grad_norm": 14.358124732971191, + "learning_rate": 3.753205344864571e-06, + "loss": 0.506, + "num_input_tokens_seen": 14768648, + "step": 7541 + }, + { + "epoch": 0.9996023856858847, + "grad_norm": 3.183262825012207, + "learning_rate": 3.752904960460845e-06, + "loss": 0.0535, + "num_input_tokens_seen": 14770392, + "step": 7542 + }, + { + "epoch": 0.9997349237905898, + "grad_norm": 7.213214874267578, + "learning_rate": 3.7526045519002473e-06, + "loss": 0.1266, + "num_input_tokens_seen": 14772192, + "step": 7543 + }, + { + "epoch": 0.9998674618952949, + "grad_norm": 1.4316110610961914, + "learning_rate": 3.7523041191885697e-06, + "loss": 0.0092, + "num_input_tokens_seen": 14773760, + "step": 7544 + }, + { + "epoch": 1.0, + "grad_norm": 12.919032096862793, + "learning_rate": 3.7520036623316034e-06, + "loss": 0.2122, + "num_input_tokens_seen": 14775328, + "step": 7545 + }, + { + "epoch": 1.000132538104705, + "grad_norm": 9.438655853271484, + "learning_rate": 3.7517031813351447e-06, + "loss": 0.1873, + "num_input_tokens_seen": 14777576, + "step": 7546 + }, + { + "epoch": 1.0002650762094103, + "grad_norm": 0.2385670244693756, + "learning_rate": 3.751402676204984e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14779816, + "step": 7547 + }, + { + "epoch": 1.0003976143141153, + "grad_norm": 2.6697463989257812, + "learning_rate": 3.7511021469469167e-06, + "loss": 0.0116, + "num_input_tokens_seen": 14780760, + "step": 7548 + }, + { + "epoch": 1.0005301524188204, + "grad_norm": 13.829483985900879, + "learning_rate": 3.7508015935667365e-06, + "loss": 0.3487, + "num_input_tokens_seen": 14782984, + "step": 7549 + }, + { + "epoch": 1.0006626905235254, + "grad_norm": 1.0328798294067383, + "learning_rate": 3.750501016070239e-06, + "loss": 0.0099, + "num_input_tokens_seen": 14785544, + "step": 7550 + }, + { + "epoch": 1.0007952286282307, + "grad_norm": 14.574694633483887, + "learning_rate": 3.75020041446322e-06, + "loss": 0.5077, + "num_input_tokens_seen": 14788224, + "step": 7551 + }, + { + "epoch": 1.0009277667329357, + "grad_norm": 1.4466869831085205, + "learning_rate": 3.749899788751473e-06, + "loss": 0.0153, + "num_input_tokens_seen": 14789808, + "step": 7552 + }, + { + "epoch": 1.0010603048376407, + "grad_norm": 0.11413199454545975, + "learning_rate": 3.749599138940797e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14791200, + "step": 7553 + }, + { + "epoch": 1.001192842942346, + "grad_norm": 1.0611664056777954, + "learning_rate": 3.7492984650369866e-06, + "loss": 0.0109, + "num_input_tokens_seen": 14792824, + "step": 7554 + }, + { + "epoch": 1.001325381047051, + "grad_norm": 14.517199516296387, + "learning_rate": 3.7489977670458406e-06, + "loss": 0.2872, + "num_input_tokens_seen": 14796568, + "step": 7555 + }, + { + "epoch": 1.001457919151756, + "grad_norm": 9.657989501953125, + "learning_rate": 3.7486970449731562e-06, + "loss": 0.1389, + "num_input_tokens_seen": 14798464, + "step": 7556 + }, + { + "epoch": 1.0015904572564613, + "grad_norm": 5.662469863891602, + "learning_rate": 3.7483962988247313e-06, + "loss": 0.0898, + "num_input_tokens_seen": 14800520, + "step": 7557 + }, + { + "epoch": 1.0017229953611664, + "grad_norm": 5.8557586669921875, + "learning_rate": 3.748095528606364e-06, + "loss": 0.0581, + "num_input_tokens_seen": 14802096, + "step": 7558 + }, + { + "epoch": 1.0018555334658714, + "grad_norm": 7.384589672088623, + "learning_rate": 3.7477947343238543e-06, + "loss": 0.1085, + "num_input_tokens_seen": 14804744, + "step": 7559 + }, + { + "epoch": 1.0019880715705765, + "grad_norm": 2.18312668800354, + "learning_rate": 3.7474939159830014e-06, + "loss": 0.0379, + "num_input_tokens_seen": 14806072, + "step": 7560 + }, + { + "epoch": 1.0021206096752817, + "grad_norm": 5.052554130554199, + "learning_rate": 3.7471930735896045e-06, + "loss": 0.0745, + "num_input_tokens_seen": 14808480, + "step": 7561 + }, + { + "epoch": 1.0022531477799868, + "grad_norm": 5.2918381690979, + "learning_rate": 3.7468922071494656e-06, + "loss": 0.0824, + "num_input_tokens_seen": 14810424, + "step": 7562 + }, + { + "epoch": 1.0023856858846918, + "grad_norm": 3.529203414916992, + "learning_rate": 3.746591316668384e-06, + "loss": 0.0737, + "num_input_tokens_seen": 14812000, + "step": 7563 + }, + { + "epoch": 1.002518223989397, + "grad_norm": 6.5588812828063965, + "learning_rate": 3.746290402152163e-06, + "loss": 0.089, + "num_input_tokens_seen": 14814024, + "step": 7564 + }, + { + "epoch": 1.002650762094102, + "grad_norm": 0.3529358208179474, + "learning_rate": 3.7459894636066024e-06, + "loss": 0.0022, + "num_input_tokens_seen": 14816024, + "step": 7565 + }, + { + "epoch": 1.0027833001988071, + "grad_norm": 1.5878340005874634, + "learning_rate": 3.7456885010375054e-06, + "loss": 0.0127, + "num_input_tokens_seen": 14817784, + "step": 7566 + }, + { + "epoch": 1.0029158383035122, + "grad_norm": 9.358026504516602, + "learning_rate": 3.7453875144506745e-06, + "loss": 0.1492, + "num_input_tokens_seen": 14820120, + "step": 7567 + }, + { + "epoch": 1.0030483764082174, + "grad_norm": 0.022215483710169792, + "learning_rate": 3.7450865038519133e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14821744, + "step": 7568 + }, + { + "epoch": 1.0031809145129225, + "grad_norm": 9.642528533935547, + "learning_rate": 3.744785469247026e-06, + "loss": 0.1921, + "num_input_tokens_seen": 14823360, + "step": 7569 + }, + { + "epoch": 1.0033134526176275, + "grad_norm": 8.7027587890625, + "learning_rate": 3.744484410641816e-06, + "loss": 0.2407, + "num_input_tokens_seen": 14824888, + "step": 7570 + }, + { + "epoch": 1.0034459907223328, + "grad_norm": 6.996974468231201, + "learning_rate": 3.7441833280420875e-06, + "loss": 0.0911, + "num_input_tokens_seen": 14827016, + "step": 7571 + }, + { + "epoch": 1.0035785288270378, + "grad_norm": 1.7538390159606934, + "learning_rate": 3.7438822214536463e-06, + "loss": 0.0195, + "num_input_tokens_seen": 14828480, + "step": 7572 + }, + { + "epoch": 1.0037110669317428, + "grad_norm": 3.8951303958892822, + "learning_rate": 3.7435810908822977e-06, + "loss": 0.0134, + "num_input_tokens_seen": 14829848, + "step": 7573 + }, + { + "epoch": 1.0038436050364479, + "grad_norm": 10.267996788024902, + "learning_rate": 3.7432799363338477e-06, + "loss": 0.3677, + "num_input_tokens_seen": 14832168, + "step": 7574 + }, + { + "epoch": 1.0039761431411531, + "grad_norm": 3.218838930130005, + "learning_rate": 3.742978757814103e-06, + "loss": 0.0312, + "num_input_tokens_seen": 14833496, + "step": 7575 + }, + { + "epoch": 1.0041086812458582, + "grad_norm": 0.7289909720420837, + "learning_rate": 3.742677555328871e-06, + "loss": 0.0043, + "num_input_tokens_seen": 14834920, + "step": 7576 + }, + { + "epoch": 1.0042412193505632, + "grad_norm": 0.14638152718544006, + "learning_rate": 3.7423763288839577e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14836416, + "step": 7577 + }, + { + "epoch": 1.0043737574552685, + "grad_norm": 11.662501335144043, + "learning_rate": 3.7420750784851717e-06, + "loss": 0.536, + "num_input_tokens_seen": 14839496, + "step": 7578 + }, + { + "epoch": 1.0045062955599735, + "grad_norm": 9.965180397033691, + "learning_rate": 3.741773804138321e-06, + "loss": 0.1082, + "num_input_tokens_seen": 14842344, + "step": 7579 + }, + { + "epoch": 1.0046388336646785, + "grad_norm": 3.89701771736145, + "learning_rate": 3.7414725058492155e-06, + "loss": 0.0635, + "num_input_tokens_seen": 14843720, + "step": 7580 + }, + { + "epoch": 1.0047713717693838, + "grad_norm": 0.7009601593017578, + "learning_rate": 3.741171183623663e-06, + "loss": 0.003, + "num_input_tokens_seen": 14846696, + "step": 7581 + }, + { + "epoch": 1.0049039098740888, + "grad_norm": 11.044825553894043, + "learning_rate": 3.7408698374674747e-06, + "loss": 0.1879, + "num_input_tokens_seen": 14848504, + "step": 7582 + }, + { + "epoch": 1.0050364479787939, + "grad_norm": 5.662332534790039, + "learning_rate": 3.7405684673864595e-06, + "loss": 0.1149, + "num_input_tokens_seen": 14850600, + "step": 7583 + }, + { + "epoch": 1.005168986083499, + "grad_norm": 0.02677895873785019, + "learning_rate": 3.7402670733864278e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14851984, + "step": 7584 + }, + { + "epoch": 1.0053015241882042, + "grad_norm": 5.345312118530273, + "learning_rate": 3.7399656554731922e-06, + "loss": 0.0571, + "num_input_tokens_seen": 14854208, + "step": 7585 + }, + { + "epoch": 1.0054340622929092, + "grad_norm": 3.379507064819336, + "learning_rate": 3.7396642136525623e-06, + "loss": 0.0469, + "num_input_tokens_seen": 14856064, + "step": 7586 + }, + { + "epoch": 1.0055666003976143, + "grad_norm": 0.025146977975964546, + "learning_rate": 3.739362747930352e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14857968, + "step": 7587 + }, + { + "epoch": 1.0056991385023195, + "grad_norm": 3.455627918243408, + "learning_rate": 3.7390612583123732e-06, + "loss": 0.0807, + "num_input_tokens_seen": 14860152, + "step": 7588 + }, + { + "epoch": 1.0058316766070245, + "grad_norm": 6.212761402130127, + "learning_rate": 3.7387597448044375e-06, + "loss": 0.1035, + "num_input_tokens_seen": 14861960, + "step": 7589 + }, + { + "epoch": 1.0059642147117296, + "grad_norm": 7.009047031402588, + "learning_rate": 3.7384582074123598e-06, + "loss": 0.1578, + "num_input_tokens_seen": 14864536, + "step": 7590 + }, + { + "epoch": 1.0060967528164346, + "grad_norm": 1.261563777923584, + "learning_rate": 3.738156646141954e-06, + "loss": 0.0304, + "num_input_tokens_seen": 14866160, + "step": 7591 + }, + { + "epoch": 1.0062292909211399, + "grad_norm": 0.06088895723223686, + "learning_rate": 3.7378550609990333e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14868568, + "step": 7592 + }, + { + "epoch": 1.006361829025845, + "grad_norm": 9.468000411987305, + "learning_rate": 3.737553451989413e-06, + "loss": 0.0442, + "num_input_tokens_seen": 14869608, + "step": 7593 + }, + { + "epoch": 1.00649436713055, + "grad_norm": 3.9841530323028564, + "learning_rate": 3.737251819118909e-06, + "loss": 0.1112, + "num_input_tokens_seen": 14871552, + "step": 7594 + }, + { + "epoch": 1.0066269052352552, + "grad_norm": 0.03620518743991852, + "learning_rate": 3.7369501623933365e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14873264, + "step": 7595 + }, + { + "epoch": 1.0067594433399603, + "grad_norm": 0.036536525934934616, + "learning_rate": 3.7366484818185107e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14874568, + "step": 7596 + }, + { + "epoch": 1.0068919814446653, + "grad_norm": 6.898550510406494, + "learning_rate": 3.736346777400249e-06, + "loss": 0.1151, + "num_input_tokens_seen": 14876464, + "step": 7597 + }, + { + "epoch": 1.0070245195493703, + "grad_norm": 6.820957183837891, + "learning_rate": 3.73604504914437e-06, + "loss": 0.0808, + "num_input_tokens_seen": 14878056, + "step": 7598 + }, + { + "epoch": 1.0071570576540756, + "grad_norm": 0.1408001035451889, + "learning_rate": 3.7357432970566876e-06, + "loss": 0.0007, + "num_input_tokens_seen": 14880176, + "step": 7599 + }, + { + "epoch": 1.0072895957587806, + "grad_norm": 0.4174724519252777, + "learning_rate": 3.735441521143024e-06, + "loss": 0.0016, + "num_input_tokens_seen": 14882824, + "step": 7600 + }, + { + "epoch": 1.0074221338634857, + "grad_norm": 1.121027946472168, + "learning_rate": 3.7351397214091944e-06, + "loss": 0.0092, + "num_input_tokens_seen": 14884240, + "step": 7601 + }, + { + "epoch": 1.007554671968191, + "grad_norm": 8.860727310180664, + "learning_rate": 3.734837897861019e-06, + "loss": 0.1755, + "num_input_tokens_seen": 14885960, + "step": 7602 + }, + { + "epoch": 1.007687210072896, + "grad_norm": 2.6130781173706055, + "learning_rate": 3.734536050504317e-06, + "loss": 0.0841, + "num_input_tokens_seen": 14888584, + "step": 7603 + }, + { + "epoch": 1.007819748177601, + "grad_norm": 2.5570755004882812, + "learning_rate": 3.734234179344909e-06, + "loss": 0.0667, + "num_input_tokens_seen": 14890080, + "step": 7604 + }, + { + "epoch": 1.0079522862823063, + "grad_norm": 8.613471984863281, + "learning_rate": 3.733932284388614e-06, + "loss": 0.1941, + "num_input_tokens_seen": 14892016, + "step": 7605 + }, + { + "epoch": 1.0080848243870113, + "grad_norm": 9.126236915588379, + "learning_rate": 3.733630365641253e-06, + "loss": 0.1027, + "num_input_tokens_seen": 14894136, + "step": 7606 + }, + { + "epoch": 1.0082173624917163, + "grad_norm": 0.034967873245477676, + "learning_rate": 3.7333284231086483e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14895464, + "step": 7607 + }, + { + "epoch": 1.0083499005964214, + "grad_norm": 0.4401995539665222, + "learning_rate": 3.73302645679662e-06, + "loss": 0.0028, + "num_input_tokens_seen": 14898384, + "step": 7608 + }, + { + "epoch": 1.0084824387011266, + "grad_norm": 0.10709373652935028, + "learning_rate": 3.7327244667109917e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14899792, + "step": 7609 + }, + { + "epoch": 1.0086149768058317, + "grad_norm": 0.03993635252118111, + "learning_rate": 3.7324224528575846e-06, + "loss": 0.0002, + "num_input_tokens_seen": 14902144, + "step": 7610 + }, + { + "epoch": 1.0087475149105367, + "grad_norm": 3.902662515640259, + "learning_rate": 3.732120415242223e-06, + "loss": 0.0492, + "num_input_tokens_seen": 14904176, + "step": 7611 + }, + { + "epoch": 1.008880053015242, + "grad_norm": 8.799952507019043, + "learning_rate": 3.731818353870729e-06, + "loss": 0.3616, + "num_input_tokens_seen": 14907000, + "step": 7612 + }, + { + "epoch": 1.009012591119947, + "grad_norm": 0.5898030996322632, + "learning_rate": 3.7315162687489282e-06, + "loss": 0.0031, + "num_input_tokens_seen": 14908736, + "step": 7613 + }, + { + "epoch": 1.009145129224652, + "grad_norm": 1.6499249935150146, + "learning_rate": 3.731214159882644e-06, + "loss": 0.0172, + "num_input_tokens_seen": 14910712, + "step": 7614 + }, + { + "epoch": 1.009277667329357, + "grad_norm": 3.692089557647705, + "learning_rate": 3.7309120272777013e-06, + "loss": 0.1076, + "num_input_tokens_seen": 14912768, + "step": 7615 + }, + { + "epoch": 1.0094102054340623, + "grad_norm": 17.565773010253906, + "learning_rate": 3.7306098709399253e-06, + "loss": 0.2443, + "num_input_tokens_seen": 14914528, + "step": 7616 + }, + { + "epoch": 1.0095427435387674, + "grad_norm": 9.190149307250977, + "learning_rate": 3.7303076908751416e-06, + "loss": 0.2021, + "num_input_tokens_seen": 14916256, + "step": 7617 + }, + { + "epoch": 1.0096752816434724, + "grad_norm": 8.503251075744629, + "learning_rate": 3.730005487089178e-06, + "loss": 0.135, + "num_input_tokens_seen": 14917784, + "step": 7618 + }, + { + "epoch": 1.0098078197481777, + "grad_norm": 0.6125144362449646, + "learning_rate": 3.72970325958786e-06, + "loss": 0.0059, + "num_input_tokens_seen": 14918992, + "step": 7619 + }, + { + "epoch": 1.0099403578528827, + "grad_norm": 0.01596934162080288, + "learning_rate": 3.7294010083770136e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14920360, + "step": 7620 + }, + { + "epoch": 1.0100728959575878, + "grad_norm": 3.808002233505249, + "learning_rate": 3.729098733462469e-06, + "loss": 0.1162, + "num_input_tokens_seen": 14922368, + "step": 7621 + }, + { + "epoch": 1.010205434062293, + "grad_norm": 3.6952250003814697, + "learning_rate": 3.728796434850052e-06, + "loss": 0.0635, + "num_input_tokens_seen": 14925104, + "step": 7622 + }, + { + "epoch": 1.010337972166998, + "grad_norm": 0.08713754266500473, + "learning_rate": 3.7284941125455928e-06, + "loss": 0.0005, + "num_input_tokens_seen": 14927376, + "step": 7623 + }, + { + "epoch": 1.010470510271703, + "grad_norm": 0.09904371201992035, + "learning_rate": 3.7281917665549194e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14929336, + "step": 7624 + }, + { + "epoch": 1.0106030483764081, + "grad_norm": 9.295527458190918, + "learning_rate": 3.7278893968838607e-06, + "loss": 0.2358, + "num_input_tokens_seen": 14931888, + "step": 7625 + }, + { + "epoch": 1.0107355864811134, + "grad_norm": 14.037169456481934, + "learning_rate": 3.7275870035382476e-06, + "loss": 0.2825, + "num_input_tokens_seen": 14934144, + "step": 7626 + }, + { + "epoch": 1.0108681245858184, + "grad_norm": 8.949822425842285, + "learning_rate": 3.7272845865239116e-06, + "loss": 0.291, + "num_input_tokens_seen": 14936360, + "step": 7627 + }, + { + "epoch": 1.0110006626905235, + "grad_norm": 7.279786586761475, + "learning_rate": 3.7269821458466806e-06, + "loss": 0.1912, + "num_input_tokens_seen": 14938248, + "step": 7628 + }, + { + "epoch": 1.0111332007952287, + "grad_norm": 4.974860668182373, + "learning_rate": 3.7266796815123873e-06, + "loss": 0.1813, + "num_input_tokens_seen": 14941600, + "step": 7629 + }, + { + "epoch": 1.0112657388999338, + "grad_norm": 0.014519990421831608, + "learning_rate": 3.7263771935268644e-06, + "loss": 0.0001, + "num_input_tokens_seen": 14943520, + "step": 7630 + }, + { + "epoch": 1.0113982770046388, + "grad_norm": 8.698603630065918, + "learning_rate": 3.7260746818959433e-06, + "loss": 0.2853, + "num_input_tokens_seen": 14945936, + "step": 7631 + }, + { + "epoch": 1.0115308151093438, + "grad_norm": 1.3413982391357422, + "learning_rate": 3.7257721466254554e-06, + "loss": 0.013, + "num_input_tokens_seen": 14947696, + "step": 7632 + }, + { + "epoch": 1.011663353214049, + "grad_norm": 6.3997955322265625, + "learning_rate": 3.7254695877212355e-06, + "loss": 0.1012, + "num_input_tokens_seen": 14949544, + "step": 7633 + }, + { + "epoch": 1.0117958913187541, + "grad_norm": 0.04592238366603851, + "learning_rate": 3.7251670051891166e-06, + "loss": 0.0003, + "num_input_tokens_seen": 14951640, + "step": 7634 + }, + { + "epoch": 1.0119284294234592, + "grad_norm": 3.4023611545562744, + "learning_rate": 3.724864399034932e-06, + "loss": 0.043, + "num_input_tokens_seen": 14953720, + "step": 7635 + }, + { + "epoch": 1.0120609675281644, + "grad_norm": 5.359580993652344, + "learning_rate": 3.7245617692645174e-06, + "loss": 0.1993, + "num_input_tokens_seen": 14956408, + "step": 7636 + }, + { + "epoch": 1.0121935056328695, + "grad_norm": 6.454990863800049, + "learning_rate": 3.724259115883707e-06, + "loss": 0.0865, + "num_input_tokens_seen": 14958624, + "step": 7637 + }, + { + "epoch": 1.0123260437375745, + "grad_norm": 0.16809487342834473, + "learning_rate": 3.723956438898336e-06, + "loss": 0.0009, + "num_input_tokens_seen": 14960304, + "step": 7638 + }, + { + "epoch": 1.0124585818422795, + "grad_norm": 0.3803405463695526, + "learning_rate": 3.7236537383142417e-06, + "loss": 0.0019, + "num_input_tokens_seen": 14962224, + "step": 7639 + }, + { + "epoch": 1.0125911199469848, + "grad_norm": 6.1069207191467285, + "learning_rate": 3.723351014137258e-06, + "loss": 0.1377, + "num_input_tokens_seen": 14965000, + "step": 7640 + }, + { + "epoch": 1.0127236580516898, + "grad_norm": 16.45765495300293, + "learning_rate": 3.723048266373223e-06, + "loss": 0.3874, + "num_input_tokens_seen": 14966552, + "step": 7641 + }, + { + "epoch": 1.0128561961563949, + "grad_norm": 0.059850260615348816, + "learning_rate": 3.722745495027974e-06, + "loss": 0.0004, + "num_input_tokens_seen": 14969424, + "step": 7642 + }, + { + "epoch": 1.0129887342611001, + "grad_norm": 10.33269214630127, + "learning_rate": 3.7224427001073483e-06, + "loss": 0.1372, + "num_input_tokens_seen": 14971408, + "step": 7643 + }, + { + "epoch": 1.0131212723658052, + "grad_norm": 13.54920768737793, + "learning_rate": 3.722139881617184e-06, + "loss": 0.6083, + "num_input_tokens_seen": 14973544, + "step": 7644 + }, + { + "epoch": 1.0132538104705102, + "grad_norm": 0.17079365253448486, + "learning_rate": 3.7218370395633196e-06, + "loss": 0.001, + "num_input_tokens_seen": 14974904, + "step": 7645 + }, + { + "epoch": 1.0133863485752155, + "grad_norm": 5.43550968170166, + "learning_rate": 3.7215341739515937e-06, + "loss": 0.0836, + "num_input_tokens_seen": 14977312, + "step": 7646 + }, + { + "epoch": 1.0135188866799205, + "grad_norm": 2.850954055786133, + "learning_rate": 3.721231284787847e-06, + "loss": 0.0415, + "num_input_tokens_seen": 14979272, + "step": 7647 + }, + { + "epoch": 1.0136514247846256, + "grad_norm": 0.5837000012397766, + "learning_rate": 3.7209283720779175e-06, + "loss": 0.0037, + "num_input_tokens_seen": 14980456, + "step": 7648 + }, + { + "epoch": 1.0137839628893306, + "grad_norm": 3.5512311458587646, + "learning_rate": 3.7206254358276474e-06, + "loss": 0.0619, + "num_input_tokens_seen": 14982256, + "step": 7649 + }, + { + "epoch": 1.0139165009940359, + "grad_norm": 8.080368041992188, + "learning_rate": 3.7203224760428776e-06, + "loss": 0.1858, + "num_input_tokens_seen": 14985000, + "step": 7650 + }, + { + "epoch": 1.014049039098741, + "grad_norm": 7.836287975311279, + "learning_rate": 3.7200194927294473e-06, + "loss": 0.191, + "num_input_tokens_seen": 14987208, + "step": 7651 + }, + { + "epoch": 1.014181577203446, + "grad_norm": 1.292928695678711, + "learning_rate": 3.7197164858932e-06, + "loss": 0.0038, + "num_input_tokens_seen": 14988680, + "step": 7652 + }, + { + "epoch": 1.0143141153081512, + "grad_norm": 6.147712707519531, + "learning_rate": 3.719413455539978e-06, + "loss": 0.038, + "num_input_tokens_seen": 14990448, + "step": 7653 + }, + { + "epoch": 1.0144466534128562, + "grad_norm": 9.30418872833252, + "learning_rate": 3.719110401675623e-06, + "loss": 0.1737, + "num_input_tokens_seen": 14992576, + "step": 7654 + }, + { + "epoch": 1.0145791915175613, + "grad_norm": 0.08699267357587814, + "learning_rate": 3.718807324305978e-06, + "loss": 0.0006, + "num_input_tokens_seen": 14995440, + "step": 7655 + }, + { + "epoch": 1.0147117296222663, + "grad_norm": 6.959599018096924, + "learning_rate": 3.718504223436887e-06, + "loss": 0.2037, + "num_input_tokens_seen": 14997952, + "step": 7656 + }, + { + "epoch": 1.0148442677269716, + "grad_norm": 9.382429122924805, + "learning_rate": 3.7182010990741947e-06, + "loss": 0.1251, + "num_input_tokens_seen": 15000616, + "step": 7657 + }, + { + "epoch": 1.0149768058316766, + "grad_norm": 4.614858150482178, + "learning_rate": 3.7178979512237445e-06, + "loss": 0.2036, + "num_input_tokens_seen": 15003704, + "step": 7658 + }, + { + "epoch": 1.0151093439363816, + "grad_norm": 7.221208095550537, + "learning_rate": 3.7175947798913815e-06, + "loss": 0.1139, + "num_input_tokens_seen": 15005088, + "step": 7659 + }, + { + "epoch": 1.015241882041087, + "grad_norm": 6.505541801452637, + "learning_rate": 3.7172915850829515e-06, + "loss": 0.1367, + "num_input_tokens_seen": 15007376, + "step": 7660 + }, + { + "epoch": 1.015374420145792, + "grad_norm": 0.024377090856432915, + "learning_rate": 3.716988366804299e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15009008, + "step": 7661 + }, + { + "epoch": 1.015506958250497, + "grad_norm": 8.376495361328125, + "learning_rate": 3.7166851250612723e-06, + "loss": 0.1139, + "num_input_tokens_seen": 15010672, + "step": 7662 + }, + { + "epoch": 1.015639496355202, + "grad_norm": 0.04851066693663597, + "learning_rate": 3.716381859859717e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15012160, + "step": 7663 + }, + { + "epoch": 1.0157720344599073, + "grad_norm": 10.797849655151367, + "learning_rate": 3.7160785712054794e-06, + "loss": 0.241, + "num_input_tokens_seen": 15014408, + "step": 7664 + }, + { + "epoch": 1.0159045725646123, + "grad_norm": 12.424819946289062, + "learning_rate": 3.7157752591044085e-06, + "loss": 0.1677, + "num_input_tokens_seen": 15016952, + "step": 7665 + }, + { + "epoch": 1.0160371106693173, + "grad_norm": 0.018478531390428543, + "learning_rate": 3.7154719235623525e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15018256, + "step": 7666 + }, + { + "epoch": 1.0161696487740226, + "grad_norm": 13.343843460083008, + "learning_rate": 3.715168564585158e-06, + "loss": 0.3948, + "num_input_tokens_seen": 15020200, + "step": 7667 + }, + { + "epoch": 1.0163021868787276, + "grad_norm": 7.778841018676758, + "learning_rate": 3.7148651821786764e-06, + "loss": 0.1581, + "num_input_tokens_seen": 15022000, + "step": 7668 + }, + { + "epoch": 1.0164347249834327, + "grad_norm": 3.345562696456909, + "learning_rate": 3.714561776348755e-06, + "loss": 0.0336, + "num_input_tokens_seen": 15023736, + "step": 7669 + }, + { + "epoch": 1.016567263088138, + "grad_norm": 4.784765243530273, + "learning_rate": 3.7142583471012454e-06, + "loss": 0.179, + "num_input_tokens_seen": 15025416, + "step": 7670 + }, + { + "epoch": 1.016699801192843, + "grad_norm": 0.06177437677979469, + "learning_rate": 3.7139548944419975e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15027592, + "step": 7671 + }, + { + "epoch": 1.016832339297548, + "grad_norm": 0.05669925734400749, + "learning_rate": 3.7136514183768613e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15029416, + "step": 7672 + }, + { + "epoch": 1.016964877402253, + "grad_norm": 7.42257833480835, + "learning_rate": 3.7133479189116883e-06, + "loss": 0.1978, + "num_input_tokens_seen": 15031736, + "step": 7673 + }, + { + "epoch": 1.0170974155069583, + "grad_norm": 6.421863555908203, + "learning_rate": 3.7130443960523305e-06, + "loss": 0.1002, + "num_input_tokens_seen": 15033784, + "step": 7674 + }, + { + "epoch": 1.0172299536116634, + "grad_norm": 18.70168113708496, + "learning_rate": 3.71274084980464e-06, + "loss": 0.5854, + "num_input_tokens_seen": 15035952, + "step": 7675 + }, + { + "epoch": 1.0173624917163684, + "grad_norm": 16.408714294433594, + "learning_rate": 3.7124372801744697e-06, + "loss": 0.7264, + "num_input_tokens_seen": 15037504, + "step": 7676 + }, + { + "epoch": 1.0174950298210736, + "grad_norm": 3.3047120571136475, + "learning_rate": 3.7121336871676718e-06, + "loss": 0.0718, + "num_input_tokens_seen": 15039064, + "step": 7677 + }, + { + "epoch": 1.0176275679257787, + "grad_norm": 6.032345294952393, + "learning_rate": 3.7118300707901e-06, + "loss": 0.107, + "num_input_tokens_seen": 15041832, + "step": 7678 + }, + { + "epoch": 1.0177601060304837, + "grad_norm": 5.13366174697876, + "learning_rate": 3.7115264310476086e-06, + "loss": 0.1306, + "num_input_tokens_seen": 15043584, + "step": 7679 + }, + { + "epoch": 1.0178926441351888, + "grad_norm": 0.06975368410348892, + "learning_rate": 3.711222767946052e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15045152, + "step": 7680 + }, + { + "epoch": 1.018025182239894, + "grad_norm": 0.1463736891746521, + "learning_rate": 3.710919081491285e-06, + "loss": 0.001, + "num_input_tokens_seen": 15047944, + "step": 7681 + }, + { + "epoch": 1.018157720344599, + "grad_norm": 0.37924399971961975, + "learning_rate": 3.7106153716891617e-06, + "loss": 0.0025, + "num_input_tokens_seen": 15050224, + "step": 7682 + }, + { + "epoch": 1.018290258449304, + "grad_norm": 3.9590206146240234, + "learning_rate": 3.71031163854554e-06, + "loss": 0.0555, + "num_input_tokens_seen": 15051944, + "step": 7683 + }, + { + "epoch": 1.0184227965540094, + "grad_norm": 5.259951591491699, + "learning_rate": 3.710007882066275e-06, + "loss": 0.0644, + "num_input_tokens_seen": 15053664, + "step": 7684 + }, + { + "epoch": 1.0185553346587144, + "grad_norm": 6.186981201171875, + "learning_rate": 3.7097041022572224e-06, + "loss": 0.0532, + "num_input_tokens_seen": 15054912, + "step": 7685 + }, + { + "epoch": 1.0186878727634194, + "grad_norm": 6.308382511138916, + "learning_rate": 3.709400299124241e-06, + "loss": 0.116, + "num_input_tokens_seen": 15056880, + "step": 7686 + }, + { + "epoch": 1.0188204108681247, + "grad_norm": 13.603167533874512, + "learning_rate": 3.709096472673187e-06, + "loss": 0.2289, + "num_input_tokens_seen": 15058520, + "step": 7687 + }, + { + "epoch": 1.0189529489728297, + "grad_norm": 2.428762197494507, + "learning_rate": 3.7087926229099193e-06, + "loss": 0.0225, + "num_input_tokens_seen": 15060288, + "step": 7688 + }, + { + "epoch": 1.0190854870775348, + "grad_norm": 0.05689212679862976, + "learning_rate": 3.7084887498402955e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15061784, + "step": 7689 + }, + { + "epoch": 1.0192180251822398, + "grad_norm": 0.060718584805727005, + "learning_rate": 3.708184853470175e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15062864, + "step": 7690 + }, + { + "epoch": 1.019350563286945, + "grad_norm": 0.5899678468704224, + "learning_rate": 3.7078809338054172e-06, + "loss": 0.0078, + "num_input_tokens_seen": 15065008, + "step": 7691 + }, + { + "epoch": 1.01948310139165, + "grad_norm": 4.334835529327393, + "learning_rate": 3.7075769908518814e-06, + "loss": 0.1255, + "num_input_tokens_seen": 15066560, + "step": 7692 + }, + { + "epoch": 1.0196156394963551, + "grad_norm": 9.271401405334473, + "learning_rate": 3.7072730246154288e-06, + "loss": 0.228, + "num_input_tokens_seen": 15068760, + "step": 7693 + }, + { + "epoch": 1.0197481776010604, + "grad_norm": 2.927886724472046, + "learning_rate": 3.7069690351019187e-06, + "loss": 0.0294, + "num_input_tokens_seen": 15070616, + "step": 7694 + }, + { + "epoch": 1.0198807157057654, + "grad_norm": 8.631467819213867, + "learning_rate": 3.7066650223172134e-06, + "loss": 0.118, + "num_input_tokens_seen": 15072304, + "step": 7695 + }, + { + "epoch": 1.0200132538104705, + "grad_norm": 1.3208357095718384, + "learning_rate": 3.7063609862671744e-06, + "loss": 0.0071, + "num_input_tokens_seen": 15073840, + "step": 7696 + }, + { + "epoch": 1.0201457919151755, + "grad_norm": 7.74658203125, + "learning_rate": 3.706056926957663e-06, + "loss": 0.2107, + "num_input_tokens_seen": 15075816, + "step": 7697 + }, + { + "epoch": 1.0202783300198808, + "grad_norm": 7.877039432525635, + "learning_rate": 3.705752844394542e-06, + "loss": 0.1971, + "num_input_tokens_seen": 15077488, + "step": 7698 + }, + { + "epoch": 1.0204108681245858, + "grad_norm": 9.886817932128906, + "learning_rate": 3.7054487385836736e-06, + "loss": 0.1633, + "num_input_tokens_seen": 15080376, + "step": 7699 + }, + { + "epoch": 1.0205434062292909, + "grad_norm": 13.04549503326416, + "learning_rate": 3.705144609530923e-06, + "loss": 0.3479, + "num_input_tokens_seen": 15082440, + "step": 7700 + }, + { + "epoch": 1.020675944333996, + "grad_norm": 5.335203170776367, + "learning_rate": 3.7048404572421525e-06, + "loss": 0.0918, + "num_input_tokens_seen": 15085184, + "step": 7701 + }, + { + "epoch": 1.0208084824387011, + "grad_norm": 12.4288969039917, + "learning_rate": 3.704536281723227e-06, + "loss": 0.6115, + "num_input_tokens_seen": 15088216, + "step": 7702 + }, + { + "epoch": 1.0209410205434062, + "grad_norm": 0.21038709580898285, + "learning_rate": 3.7042320829800105e-06, + "loss": 0.0012, + "num_input_tokens_seen": 15089560, + "step": 7703 + }, + { + "epoch": 1.0210735586481112, + "grad_norm": 0.1432301551103592, + "learning_rate": 3.703927861018369e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15091152, + "step": 7704 + }, + { + "epoch": 1.0212060967528165, + "grad_norm": 2.8473587036132812, + "learning_rate": 3.7036236158441685e-06, + "loss": 0.0501, + "num_input_tokens_seen": 15092440, + "step": 7705 + }, + { + "epoch": 1.0213386348575215, + "grad_norm": 8.373361587524414, + "learning_rate": 3.7033193474632734e-06, + "loss": 0.0601, + "num_input_tokens_seen": 15094104, + "step": 7706 + }, + { + "epoch": 1.0214711729622266, + "grad_norm": 3.8365566730499268, + "learning_rate": 3.7030150558815513e-06, + "loss": 0.0711, + "num_input_tokens_seen": 15095584, + "step": 7707 + }, + { + "epoch": 1.0216037110669318, + "grad_norm": 4.58162784576416, + "learning_rate": 3.7027107411048695e-06, + "loss": 0.0872, + "num_input_tokens_seen": 15097368, + "step": 7708 + }, + { + "epoch": 1.0217362491716369, + "grad_norm": 0.2154024988412857, + "learning_rate": 3.702406403139094e-06, + "loss": 0.0024, + "num_input_tokens_seen": 15099104, + "step": 7709 + }, + { + "epoch": 1.021868787276342, + "grad_norm": 4.24046516418457, + "learning_rate": 3.702102041990095e-06, + "loss": 0.0661, + "num_input_tokens_seen": 15100944, + "step": 7710 + }, + { + "epoch": 1.0220013253810472, + "grad_norm": 0.07628628611564636, + "learning_rate": 3.701797657663738e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15101944, + "step": 7711 + }, + { + "epoch": 1.0221338634857522, + "grad_norm": 0.9856442213058472, + "learning_rate": 3.7014932501658934e-06, + "loss": 0.0039, + "num_input_tokens_seen": 15104480, + "step": 7712 + }, + { + "epoch": 1.0222664015904572, + "grad_norm": 9.911195755004883, + "learning_rate": 3.7011888195024303e-06, + "loss": 0.1938, + "num_input_tokens_seen": 15106856, + "step": 7713 + }, + { + "epoch": 1.0223989396951623, + "grad_norm": 2.2839925289154053, + "learning_rate": 3.7008843656792183e-06, + "loss": 0.0186, + "num_input_tokens_seen": 15109144, + "step": 7714 + }, + { + "epoch": 1.0225314777998675, + "grad_norm": 10.681915283203125, + "learning_rate": 3.7005798887021273e-06, + "loss": 0.0804, + "num_input_tokens_seen": 15111920, + "step": 7715 + }, + { + "epoch": 1.0226640159045726, + "grad_norm": 2.6024203300476074, + "learning_rate": 3.7002753885770273e-06, + "loss": 0.0339, + "num_input_tokens_seen": 15113112, + "step": 7716 + }, + { + "epoch": 1.0227965540092776, + "grad_norm": 0.8200755715370178, + "learning_rate": 3.69997086530979e-06, + "loss": 0.0051, + "num_input_tokens_seen": 15114912, + "step": 7717 + }, + { + "epoch": 1.0229290921139829, + "grad_norm": 0.08860411494970322, + "learning_rate": 3.6996663189062858e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15117232, + "step": 7718 + }, + { + "epoch": 1.023061630218688, + "grad_norm": 3.6393609046936035, + "learning_rate": 3.699361749372389e-06, + "loss": 0.1231, + "num_input_tokens_seen": 15119984, + "step": 7719 + }, + { + "epoch": 1.023194168323393, + "grad_norm": 7.931157112121582, + "learning_rate": 3.6990571567139686e-06, + "loss": 0.0334, + "num_input_tokens_seen": 15121392, + "step": 7720 + }, + { + "epoch": 1.023326706428098, + "grad_norm": 0.013317984528839588, + "learning_rate": 3.6987525409369e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15123112, + "step": 7721 + }, + { + "epoch": 1.0234592445328032, + "grad_norm": 10.313695907592773, + "learning_rate": 3.698447902047056e-06, + "loss": 0.4243, + "num_input_tokens_seen": 15125008, + "step": 7722 + }, + { + "epoch": 1.0235917826375083, + "grad_norm": 5.078224182128906, + "learning_rate": 3.6981432400503086e-06, + "loss": 0.0544, + "num_input_tokens_seen": 15127064, + "step": 7723 + }, + { + "epoch": 1.0237243207422133, + "grad_norm": 0.01462921965867281, + "learning_rate": 3.697838554952533e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15129192, + "step": 7724 + }, + { + "epoch": 1.0238568588469186, + "grad_norm": 9.532901763916016, + "learning_rate": 3.6975338467596047e-06, + "loss": 0.2543, + "num_input_tokens_seen": 15131008, + "step": 7725 + }, + { + "epoch": 1.0239893969516236, + "grad_norm": 0.012940621003508568, + "learning_rate": 3.6972291154773964e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15133320, + "step": 7726 + }, + { + "epoch": 1.0241219350563286, + "grad_norm": 15.29073429107666, + "learning_rate": 3.696924361111786e-06, + "loss": 0.5838, + "num_input_tokens_seen": 15136488, + "step": 7727 + }, + { + "epoch": 1.024254473161034, + "grad_norm": 9.175992965698242, + "learning_rate": 3.696619583668648e-06, + "loss": 0.0709, + "num_input_tokens_seen": 15137744, + "step": 7728 + }, + { + "epoch": 1.024387011265739, + "grad_norm": 7.448381423950195, + "learning_rate": 3.696314783153858e-06, + "loss": 0.3783, + "num_input_tokens_seen": 15139760, + "step": 7729 + }, + { + "epoch": 1.024519549370444, + "grad_norm": 2.747375011444092, + "learning_rate": 3.6960099595732944e-06, + "loss": 0.0499, + "num_input_tokens_seen": 15141280, + "step": 7730 + }, + { + "epoch": 1.024652087475149, + "grad_norm": 11.375801086425781, + "learning_rate": 3.6957051129328335e-06, + "loss": 0.2844, + "num_input_tokens_seen": 15143064, + "step": 7731 + }, + { + "epoch": 1.0247846255798543, + "grad_norm": 0.008039495907723904, + "learning_rate": 3.6954002432383533e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15144376, + "step": 7732 + }, + { + "epoch": 1.0249171636845593, + "grad_norm": 9.363496780395508, + "learning_rate": 3.6950953504957322e-06, + "loss": 0.086, + "num_input_tokens_seen": 15146568, + "step": 7733 + }, + { + "epoch": 1.0250497017892644, + "grad_norm": 8.235267639160156, + "learning_rate": 3.694790434710848e-06, + "loss": 0.3043, + "num_input_tokens_seen": 15148344, + "step": 7734 + }, + { + "epoch": 1.0251822398939696, + "grad_norm": 0.05013801530003548, + "learning_rate": 3.6944854958895794e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15149472, + "step": 7735 + }, + { + "epoch": 1.0253147779986747, + "grad_norm": 7.490808963775635, + "learning_rate": 3.694180534037807e-06, + "loss": 0.143, + "num_input_tokens_seen": 15151000, + "step": 7736 + }, + { + "epoch": 1.0254473161033797, + "grad_norm": 0.0684259831905365, + "learning_rate": 3.69387554916141e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15152432, + "step": 7737 + }, + { + "epoch": 1.0255798542080847, + "grad_norm": 12.239639282226562, + "learning_rate": 3.693570541266268e-06, + "loss": 0.2533, + "num_input_tokens_seen": 15154344, + "step": 7738 + }, + { + "epoch": 1.02571239231279, + "grad_norm": 4.195292949676514, + "learning_rate": 3.693265510358263e-06, + "loss": 0.0807, + "num_input_tokens_seen": 15157328, + "step": 7739 + }, + { + "epoch": 1.025844930417495, + "grad_norm": 2.8659470081329346, + "learning_rate": 3.6929604564432762e-06, + "loss": 0.0649, + "num_input_tokens_seen": 15159600, + "step": 7740 + }, + { + "epoch": 1.0259774685222, + "grad_norm": 2.2537879943847656, + "learning_rate": 3.6926553795271885e-06, + "loss": 0.0229, + "num_input_tokens_seen": 15161312, + "step": 7741 + }, + { + "epoch": 1.0261100066269053, + "grad_norm": 6.324787616729736, + "learning_rate": 3.692350279615883e-06, + "loss": 0.1419, + "num_input_tokens_seen": 15163160, + "step": 7742 + }, + { + "epoch": 1.0262425447316104, + "grad_norm": 4.146732330322266, + "learning_rate": 3.6920451567152404e-06, + "loss": 0.0347, + "num_input_tokens_seen": 15165752, + "step": 7743 + }, + { + "epoch": 1.0263750828363154, + "grad_norm": 0.17877551913261414, + "learning_rate": 3.6917400108311454e-06, + "loss": 0.001, + "num_input_tokens_seen": 15167112, + "step": 7744 + }, + { + "epoch": 1.0265076209410204, + "grad_norm": 0.019409723579883575, + "learning_rate": 3.6914348419694813e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15168208, + "step": 7745 + }, + { + "epoch": 1.0266401590457257, + "grad_norm": 5.205817699432373, + "learning_rate": 3.691129650136131e-06, + "loss": 0.1737, + "num_input_tokens_seen": 15171120, + "step": 7746 + }, + { + "epoch": 1.0267726971504307, + "grad_norm": 0.011662323959171772, + "learning_rate": 3.6908244353369786e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15173704, + "step": 7747 + }, + { + "epoch": 1.0269052352551358, + "grad_norm": 5.509905815124512, + "learning_rate": 3.690519197577911e-06, + "loss": 0.0507, + "num_input_tokens_seen": 15175272, + "step": 7748 + }, + { + "epoch": 1.027037773359841, + "grad_norm": 0.01596641354262829, + "learning_rate": 3.690213936864811e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15177136, + "step": 7749 + }, + { + "epoch": 1.027170311464546, + "grad_norm": 7.253083229064941, + "learning_rate": 3.6899086532035657e-06, + "loss": 0.1838, + "num_input_tokens_seen": 15179008, + "step": 7750 + }, + { + "epoch": 1.027302849569251, + "grad_norm": 0.03541019186377525, + "learning_rate": 3.689603346600061e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15180776, + "step": 7751 + }, + { + "epoch": 1.0274353876739564, + "grad_norm": 4.202393054962158, + "learning_rate": 3.689298017060182e-06, + "loss": 0.0701, + "num_input_tokens_seen": 15182680, + "step": 7752 + }, + { + "epoch": 1.0275679257786614, + "grad_norm": 4.130717754364014, + "learning_rate": 3.6889926645898177e-06, + "loss": 0.0694, + "num_input_tokens_seen": 15183920, + "step": 7753 + }, + { + "epoch": 1.0277004638833664, + "grad_norm": 4.633484363555908, + "learning_rate": 3.6886872891948543e-06, + "loss": 0.0829, + "num_input_tokens_seen": 15185976, + "step": 7754 + }, + { + "epoch": 1.0278330019880715, + "grad_norm": 10.510533332824707, + "learning_rate": 3.6883818908811797e-06, + "loss": 0.2194, + "num_input_tokens_seen": 15187680, + "step": 7755 + }, + { + "epoch": 1.0279655400927767, + "grad_norm": 7.969301223754883, + "learning_rate": 3.6880764696546828e-06, + "loss": 0.296, + "num_input_tokens_seen": 15189456, + "step": 7756 + }, + { + "epoch": 1.0280980781974818, + "grad_norm": 7.980248928070068, + "learning_rate": 3.6877710255212517e-06, + "loss": 0.204, + "num_input_tokens_seen": 15191408, + "step": 7757 + }, + { + "epoch": 1.0282306163021868, + "grad_norm": 10.49356460571289, + "learning_rate": 3.6874655584867763e-06, + "loss": 0.1157, + "num_input_tokens_seen": 15192768, + "step": 7758 + }, + { + "epoch": 1.028363154406892, + "grad_norm": 0.010349218733608723, + "learning_rate": 3.6871600685571453e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15194488, + "step": 7759 + }, + { + "epoch": 1.0284956925115971, + "grad_norm": 11.422708511352539, + "learning_rate": 3.686854555738249e-06, + "loss": 0.2013, + "num_input_tokens_seen": 15196280, + "step": 7760 + }, + { + "epoch": 1.0286282306163022, + "grad_norm": 2.7241554260253906, + "learning_rate": 3.6865490200359787e-06, + "loss": 0.0293, + "num_input_tokens_seen": 15198216, + "step": 7761 + }, + { + "epoch": 1.0287607687210072, + "grad_norm": 2.9253151416778564, + "learning_rate": 3.6862434614562238e-06, + "loss": 0.033, + "num_input_tokens_seen": 15200072, + "step": 7762 + }, + { + "epoch": 1.0288933068257125, + "grad_norm": 10.132658958435059, + "learning_rate": 3.685937880004877e-06, + "loss": 0.336, + "num_input_tokens_seen": 15201848, + "step": 7763 + }, + { + "epoch": 1.0290258449304175, + "grad_norm": 9.825067520141602, + "learning_rate": 3.685632275687831e-06, + "loss": 0.2315, + "num_input_tokens_seen": 15204368, + "step": 7764 + }, + { + "epoch": 1.0291583830351225, + "grad_norm": 13.222792625427246, + "learning_rate": 3.685326648510975e-06, + "loss": 0.2946, + "num_input_tokens_seen": 15207088, + "step": 7765 + }, + { + "epoch": 1.0292909211398278, + "grad_norm": 9.702701568603516, + "learning_rate": 3.685020998480204e-06, + "loss": 0.1448, + "num_input_tokens_seen": 15209096, + "step": 7766 + }, + { + "epoch": 1.0294234592445328, + "grad_norm": 0.08773332089185715, + "learning_rate": 3.6847153256014112e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15210072, + "step": 7767 + }, + { + "epoch": 1.0295559973492379, + "grad_norm": 8.301722526550293, + "learning_rate": 3.6844096298804894e-06, + "loss": 0.1234, + "num_input_tokens_seen": 15211384, + "step": 7768 + }, + { + "epoch": 1.0296885354539431, + "grad_norm": 0.09840217232704163, + "learning_rate": 3.6841039113233327e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15214288, + "step": 7769 + }, + { + "epoch": 1.0298210735586482, + "grad_norm": 5.12624454498291, + "learning_rate": 3.683798169935836e-06, + "loss": 0.1075, + "num_input_tokens_seen": 15215968, + "step": 7770 + }, + { + "epoch": 1.0299536116633532, + "grad_norm": 3.5404484272003174, + "learning_rate": 3.6834924057238937e-06, + "loss": 0.0554, + "num_input_tokens_seen": 15219368, + "step": 7771 + }, + { + "epoch": 1.0300861497680582, + "grad_norm": 5.58198356628418, + "learning_rate": 3.6831866186934016e-06, + "loss": 0.1017, + "num_input_tokens_seen": 15222392, + "step": 7772 + }, + { + "epoch": 1.0302186878727635, + "grad_norm": 8.423585891723633, + "learning_rate": 3.682880808850255e-06, + "loss": 0.2263, + "num_input_tokens_seen": 15224584, + "step": 7773 + }, + { + "epoch": 1.0303512259774685, + "grad_norm": 0.8835532069206238, + "learning_rate": 3.6825749762003504e-06, + "loss": 0.0102, + "num_input_tokens_seen": 15227008, + "step": 7774 + }, + { + "epoch": 1.0304837640821736, + "grad_norm": 6.299657344818115, + "learning_rate": 3.682269120749584e-06, + "loss": 0.1994, + "num_input_tokens_seen": 15228592, + "step": 7775 + }, + { + "epoch": 1.0306163021868788, + "grad_norm": 2.78489351272583, + "learning_rate": 3.681963242503854e-06, + "loss": 0.0335, + "num_input_tokens_seen": 15232088, + "step": 7776 + }, + { + "epoch": 1.0307488402915839, + "grad_norm": 8.4452486038208, + "learning_rate": 3.681657341469057e-06, + "loss": 0.0832, + "num_input_tokens_seen": 15234320, + "step": 7777 + }, + { + "epoch": 1.030881378396289, + "grad_norm": 0.9621162414550781, + "learning_rate": 3.6813514176510916e-06, + "loss": 0.0058, + "num_input_tokens_seen": 15236512, + "step": 7778 + }, + { + "epoch": 1.031013916500994, + "grad_norm": 1.3048114776611328, + "learning_rate": 3.6810454710558558e-06, + "loss": 0.0088, + "num_input_tokens_seen": 15237928, + "step": 7779 + }, + { + "epoch": 1.0311464546056992, + "grad_norm": 9.818628311157227, + "learning_rate": 3.6807395016892487e-06, + "loss": 0.1096, + "num_input_tokens_seen": 15239952, + "step": 7780 + }, + { + "epoch": 1.0312789927104042, + "grad_norm": 10.57654094696045, + "learning_rate": 3.680433509557169e-06, + "loss": 0.4838, + "num_input_tokens_seen": 15242216, + "step": 7781 + }, + { + "epoch": 1.0314115308151093, + "grad_norm": 17.96974754333496, + "learning_rate": 3.680127494665517e-06, + "loss": 0.3304, + "num_input_tokens_seen": 15244312, + "step": 7782 + }, + { + "epoch": 1.0315440689198145, + "grad_norm": 6.091078281402588, + "learning_rate": 3.679821457020193e-06, + "loss": 0.1163, + "num_input_tokens_seen": 15246072, + "step": 7783 + }, + { + "epoch": 1.0316766070245196, + "grad_norm": 0.03685947507619858, + "learning_rate": 3.679515396627097e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15248552, + "step": 7784 + }, + { + "epoch": 1.0318091451292246, + "grad_norm": 11.809764862060547, + "learning_rate": 3.679209313492131e-06, + "loss": 0.1769, + "num_input_tokens_seen": 15250424, + "step": 7785 + }, + { + "epoch": 1.0319416832339297, + "grad_norm": 0.02438715659081936, + "learning_rate": 3.678903207621195e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15251592, + "step": 7786 + }, + { + "epoch": 1.032074221338635, + "grad_norm": 0.6539574265480042, + "learning_rate": 3.678597079020193e-06, + "loss": 0.0038, + "num_input_tokens_seen": 15253144, + "step": 7787 + }, + { + "epoch": 1.03220675944334, + "grad_norm": 1.7858794927597046, + "learning_rate": 3.678290927695026e-06, + "loss": 0.0072, + "num_input_tokens_seen": 15254848, + "step": 7788 + }, + { + "epoch": 1.032339297548045, + "grad_norm": 0.033668048679828644, + "learning_rate": 3.677984753651597e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15256112, + "step": 7789 + }, + { + "epoch": 1.0324718356527502, + "grad_norm": 0.06988954544067383, + "learning_rate": 3.677678556895809e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15258568, + "step": 7790 + }, + { + "epoch": 1.0326043737574553, + "grad_norm": 10.055173873901367, + "learning_rate": 3.6773723374335657e-06, + "loss": 0.1671, + "num_input_tokens_seen": 15260656, + "step": 7791 + }, + { + "epoch": 1.0327369118621603, + "grad_norm": 0.2110818773508072, + "learning_rate": 3.677066095270772e-06, + "loss": 0.0013, + "num_input_tokens_seen": 15262656, + "step": 7792 + }, + { + "epoch": 1.0328694499668654, + "grad_norm": 8.365522384643555, + "learning_rate": 3.6767598304133325e-06, + "loss": 0.156, + "num_input_tokens_seen": 15264384, + "step": 7793 + }, + { + "epoch": 1.0330019880715706, + "grad_norm": 0.04982191324234009, + "learning_rate": 3.67645354286715e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15265560, + "step": 7794 + }, + { + "epoch": 1.0331345261762757, + "grad_norm": 0.9988853931427002, + "learning_rate": 3.676147232638133e-06, + "loss": 0.0042, + "num_input_tokens_seen": 15267864, + "step": 7795 + }, + { + "epoch": 1.0332670642809807, + "grad_norm": 0.12236367911100388, + "learning_rate": 3.6758408997321853e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15269600, + "step": 7796 + }, + { + "epoch": 1.033399602385686, + "grad_norm": 4.066896438598633, + "learning_rate": 3.6755345441552143e-06, + "loss": 0.0933, + "num_input_tokens_seen": 15271624, + "step": 7797 + }, + { + "epoch": 1.033532140490391, + "grad_norm": 3.94903826713562, + "learning_rate": 3.675228165913127e-06, + "loss": 0.0766, + "num_input_tokens_seen": 15273952, + "step": 7798 + }, + { + "epoch": 1.033664678595096, + "grad_norm": 0.871780514717102, + "learning_rate": 3.6749217650118286e-06, + "loss": 0.004, + "num_input_tokens_seen": 15275392, + "step": 7799 + }, + { + "epoch": 1.0337972166998013, + "grad_norm": 9.41145133972168, + "learning_rate": 3.6746153414572284e-06, + "loss": 0.4313, + "num_input_tokens_seen": 15277896, + "step": 7800 + }, + { + "epoch": 1.0339297548045063, + "grad_norm": 0.09845166653394699, + "learning_rate": 3.674308895255234e-06, + "loss": 0.001, + "num_input_tokens_seen": 15280448, + "step": 7801 + }, + { + "epoch": 1.0340622929092114, + "grad_norm": 6.438985347747803, + "learning_rate": 3.6740024264117546e-06, + "loss": 0.143, + "num_input_tokens_seen": 15282208, + "step": 7802 + }, + { + "epoch": 1.0341948310139164, + "grad_norm": 6.802124977111816, + "learning_rate": 3.6736959349326984e-06, + "loss": 0.1381, + "num_input_tokens_seen": 15284080, + "step": 7803 + }, + { + "epoch": 1.0343273691186217, + "grad_norm": 0.004904947243630886, + "learning_rate": 3.673389420823974e-06, + "loss": 0.0, + "num_input_tokens_seen": 15285880, + "step": 7804 + }, + { + "epoch": 1.0344599072233267, + "grad_norm": 9.987713813781738, + "learning_rate": 3.6730828840914933e-06, + "loss": 0.1208, + "num_input_tokens_seen": 15288016, + "step": 7805 + }, + { + "epoch": 1.0345924453280317, + "grad_norm": 0.119804747402668, + "learning_rate": 3.672776324741164e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15289632, + "step": 7806 + }, + { + "epoch": 1.034724983432737, + "grad_norm": 0.015266526490449905, + "learning_rate": 3.672469742778899e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15291456, + "step": 7807 + }, + { + "epoch": 1.034857521537442, + "grad_norm": 8.613381385803223, + "learning_rate": 3.6721631382106093e-06, + "loss": 0.1196, + "num_input_tokens_seen": 15294416, + "step": 7808 + }, + { + "epoch": 1.034990059642147, + "grad_norm": 11.110567092895508, + "learning_rate": 3.6718565110422037e-06, + "loss": 0.158, + "num_input_tokens_seen": 15296200, + "step": 7809 + }, + { + "epoch": 1.0351225977468521, + "grad_norm": 1.3834730386734009, + "learning_rate": 3.6715498612795974e-06, + "loss": 0.008, + "num_input_tokens_seen": 15298520, + "step": 7810 + }, + { + "epoch": 1.0352551358515574, + "grad_norm": 17.030418395996094, + "learning_rate": 3.671243188928702e-06, + "loss": 0.6, + "num_input_tokens_seen": 15299952, + "step": 7811 + }, + { + "epoch": 1.0353876739562624, + "grad_norm": 0.0029156908858567476, + "learning_rate": 3.6709364939954285e-06, + "loss": 0.0, + "num_input_tokens_seen": 15301400, + "step": 7812 + }, + { + "epoch": 1.0355202120609674, + "grad_norm": 2.830509662628174, + "learning_rate": 3.670629776485693e-06, + "loss": 0.0253, + "num_input_tokens_seen": 15303720, + "step": 7813 + }, + { + "epoch": 1.0356527501656727, + "grad_norm": 0.003302226308733225, + "learning_rate": 3.6703230364054064e-06, + "loss": 0.0, + "num_input_tokens_seen": 15304896, + "step": 7814 + }, + { + "epoch": 1.0357852882703777, + "grad_norm": 10.746882438659668, + "learning_rate": 3.6700162737604857e-06, + "loss": 0.2075, + "num_input_tokens_seen": 15307064, + "step": 7815 + }, + { + "epoch": 1.0359178263750828, + "grad_norm": 0.01224896777421236, + "learning_rate": 3.6697094885568436e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15309152, + "step": 7816 + }, + { + "epoch": 1.036050364479788, + "grad_norm": 2.5384762287139893, + "learning_rate": 3.6694026808003953e-06, + "loss": 0.0243, + "num_input_tokens_seen": 15312968, + "step": 7817 + }, + { + "epoch": 1.036182902584493, + "grad_norm": 0.03204203024506569, + "learning_rate": 3.6690958504970564e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15315040, + "step": 7818 + }, + { + "epoch": 1.0363154406891981, + "grad_norm": 0.6126527190208435, + "learning_rate": 3.6687889976527436e-06, + "loss": 0.0032, + "num_input_tokens_seen": 15316440, + "step": 7819 + }, + { + "epoch": 1.0364479787939032, + "grad_norm": 6.791605472564697, + "learning_rate": 3.6684821222733725e-06, + "loss": 0.0475, + "num_input_tokens_seen": 15318064, + "step": 7820 + }, + { + "epoch": 1.0365805168986084, + "grad_norm": 3.4890735149383545, + "learning_rate": 3.66817522436486e-06, + "loss": 0.0567, + "num_input_tokens_seen": 15319768, + "step": 7821 + }, + { + "epoch": 1.0367130550033135, + "grad_norm": 3.435305118560791, + "learning_rate": 3.6678683039331232e-06, + "loss": 0.0113, + "num_input_tokens_seen": 15321064, + "step": 7822 + }, + { + "epoch": 1.0368455931080185, + "grad_norm": 8.242443084716797, + "learning_rate": 3.6675613609840798e-06, + "loss": 0.215, + "num_input_tokens_seen": 15323216, + "step": 7823 + }, + { + "epoch": 1.0369781312127238, + "grad_norm": 4.11225700378418, + "learning_rate": 3.667254395523648e-06, + "loss": 0.0711, + "num_input_tokens_seen": 15325264, + "step": 7824 + }, + { + "epoch": 1.0371106693174288, + "grad_norm": 0.001202165149152279, + "learning_rate": 3.666947407557746e-06, + "loss": 0.0, + "num_input_tokens_seen": 15327472, + "step": 7825 + }, + { + "epoch": 1.0372432074221338, + "grad_norm": 5.19279670715332, + "learning_rate": 3.6666403970922932e-06, + "loss": 0.0862, + "num_input_tokens_seen": 15329064, + "step": 7826 + }, + { + "epoch": 1.0373757455268389, + "grad_norm": 0.0024823781568557024, + "learning_rate": 3.6663333641332076e-06, + "loss": 0.0, + "num_input_tokens_seen": 15330800, + "step": 7827 + }, + { + "epoch": 1.0375082836315441, + "grad_norm": 8.199209213256836, + "learning_rate": 3.6660263086864116e-06, + "loss": 0.2951, + "num_input_tokens_seen": 15334256, + "step": 7828 + }, + { + "epoch": 1.0376408217362492, + "grad_norm": 0.0018876849208027124, + "learning_rate": 3.665719230757824e-06, + "loss": 0.0, + "num_input_tokens_seen": 15336272, + "step": 7829 + }, + { + "epoch": 1.0377733598409542, + "grad_norm": 0.004428075160831213, + "learning_rate": 3.665412130353364e-06, + "loss": 0.0, + "num_input_tokens_seen": 15337440, + "step": 7830 + }, + { + "epoch": 1.0379058979456595, + "grad_norm": 3.082026243209839, + "learning_rate": 3.6651050074789555e-06, + "loss": 0.0718, + "num_input_tokens_seen": 15339184, + "step": 7831 + }, + { + "epoch": 1.0380384360503645, + "grad_norm": 0.00799545831978321, + "learning_rate": 3.6647978621405182e-06, + "loss": 0.0, + "num_input_tokens_seen": 15340984, + "step": 7832 + }, + { + "epoch": 1.0381709741550695, + "grad_norm": 5.365766525268555, + "learning_rate": 3.6644906943439747e-06, + "loss": 0.087, + "num_input_tokens_seen": 15343872, + "step": 7833 + }, + { + "epoch": 1.0383035122597746, + "grad_norm": 0.0016862810589373112, + "learning_rate": 3.6641835040952475e-06, + "loss": 0.0, + "num_input_tokens_seen": 15345128, + "step": 7834 + }, + { + "epoch": 1.0384360503644798, + "grad_norm": 0.003183546243235469, + "learning_rate": 3.663876291400259e-06, + "loss": 0.0, + "num_input_tokens_seen": 15347280, + "step": 7835 + }, + { + "epoch": 1.0385685884691849, + "grad_norm": 7.209559440612793, + "learning_rate": 3.6635690562649324e-06, + "loss": 0.1444, + "num_input_tokens_seen": 15348744, + "step": 7836 + }, + { + "epoch": 1.03870112657389, + "grad_norm": 0.6442499160766602, + "learning_rate": 3.663261798695192e-06, + "loss": 0.0063, + "num_input_tokens_seen": 15350472, + "step": 7837 + }, + { + "epoch": 1.0388336646785952, + "grad_norm": 7.633230686187744, + "learning_rate": 3.662954518696961e-06, + "loss": 0.2288, + "num_input_tokens_seen": 15353112, + "step": 7838 + }, + { + "epoch": 1.0389662027833002, + "grad_norm": 1.9601349830627441, + "learning_rate": 3.662647216276165e-06, + "loss": 0.0773, + "num_input_tokens_seen": 15354608, + "step": 7839 + }, + { + "epoch": 1.0390987408880052, + "grad_norm": 9.072651863098145, + "learning_rate": 3.662339891438729e-06, + "loss": 0.3534, + "num_input_tokens_seen": 15356392, + "step": 7840 + }, + { + "epoch": 1.0392312789927105, + "grad_norm": 7.431890964508057, + "learning_rate": 3.662032544190578e-06, + "loss": 0.2346, + "num_input_tokens_seen": 15358288, + "step": 7841 + }, + { + "epoch": 1.0393638170974155, + "grad_norm": 3.3793728351593018, + "learning_rate": 3.6617251745376377e-06, + "loss": 0.0584, + "num_input_tokens_seen": 15360272, + "step": 7842 + }, + { + "epoch": 1.0394963552021206, + "grad_norm": 13.772272109985352, + "learning_rate": 3.6614177824858345e-06, + "loss": 0.0919, + "num_input_tokens_seen": 15361880, + "step": 7843 + }, + { + "epoch": 1.0396288933068256, + "grad_norm": 5.662418365478516, + "learning_rate": 3.6611103680410954e-06, + "loss": 0.0528, + "num_input_tokens_seen": 15363392, + "step": 7844 + }, + { + "epoch": 1.0397614314115309, + "grad_norm": 5.790665626525879, + "learning_rate": 3.660802931209346e-06, + "loss": 0.0721, + "num_input_tokens_seen": 15365448, + "step": 7845 + }, + { + "epoch": 1.039893969516236, + "grad_norm": 8.851383209228516, + "learning_rate": 3.6604954719965175e-06, + "loss": 0.1901, + "num_input_tokens_seen": 15367360, + "step": 7846 + }, + { + "epoch": 1.040026507620941, + "grad_norm": 5.972159385681152, + "learning_rate": 3.6601879904085345e-06, + "loss": 0.1497, + "num_input_tokens_seen": 15368920, + "step": 7847 + }, + { + "epoch": 1.0401590457256462, + "grad_norm": 15.191608428955078, + "learning_rate": 3.659880486451327e-06, + "loss": 0.3309, + "num_input_tokens_seen": 15370648, + "step": 7848 + }, + { + "epoch": 1.0402915838303513, + "grad_norm": 0.921578586101532, + "learning_rate": 3.659572960130824e-06, + "loss": 0.0046, + "num_input_tokens_seen": 15372416, + "step": 7849 + }, + { + "epoch": 1.0404241219350563, + "grad_norm": 0.9026769399642944, + "learning_rate": 3.6592654114529537e-06, + "loss": 0.0034, + "num_input_tokens_seen": 15373616, + "step": 7850 + }, + { + "epoch": 1.0405566600397613, + "grad_norm": 4.914867401123047, + "learning_rate": 3.6589578404236465e-06, + "loss": 0.0838, + "num_input_tokens_seen": 15376760, + "step": 7851 + }, + { + "epoch": 1.0406891981444666, + "grad_norm": 0.14350825548171997, + "learning_rate": 3.6586502470488326e-06, + "loss": 0.001, + "num_input_tokens_seen": 15377952, + "step": 7852 + }, + { + "epoch": 1.0408217362491716, + "grad_norm": 12.301382064819336, + "learning_rate": 3.6583426313344433e-06, + "loss": 0.2435, + "num_input_tokens_seen": 15379760, + "step": 7853 + }, + { + "epoch": 1.0409542743538767, + "grad_norm": 6.860457420349121, + "learning_rate": 3.6580349932864083e-06, + "loss": 0.1237, + "num_input_tokens_seen": 15382264, + "step": 7854 + }, + { + "epoch": 1.041086812458582, + "grad_norm": 7.114510536193848, + "learning_rate": 3.65772733291066e-06, + "loss": 0.1774, + "num_input_tokens_seen": 15384160, + "step": 7855 + }, + { + "epoch": 1.041219350563287, + "grad_norm": 0.31468909978866577, + "learning_rate": 3.65741965021313e-06, + "loss": 0.0023, + "num_input_tokens_seen": 15385504, + "step": 7856 + }, + { + "epoch": 1.041351888667992, + "grad_norm": 8.943973541259766, + "learning_rate": 3.6571119451997504e-06, + "loss": 0.1581, + "num_input_tokens_seen": 15387880, + "step": 7857 + }, + { + "epoch": 1.0414844267726973, + "grad_norm": 5.880111217498779, + "learning_rate": 3.6568042178764545e-06, + "loss": 0.0464, + "num_input_tokens_seen": 15389504, + "step": 7858 + }, + { + "epoch": 1.0416169648774023, + "grad_norm": 0.21621862053871155, + "learning_rate": 3.6564964682491754e-06, + "loss": 0.0016, + "num_input_tokens_seen": 15390768, + "step": 7859 + }, + { + "epoch": 1.0417495029821073, + "grad_norm": 0.818871259689331, + "learning_rate": 3.656188696323847e-06, + "loss": 0.0061, + "num_input_tokens_seen": 15392544, + "step": 7860 + }, + { + "epoch": 1.0418820410868124, + "grad_norm": 7.558903694152832, + "learning_rate": 3.655880902106402e-06, + "loss": 0.0393, + "num_input_tokens_seen": 15394504, + "step": 7861 + }, + { + "epoch": 1.0420145791915176, + "grad_norm": 19.59562873840332, + "learning_rate": 3.655573085602776e-06, + "loss": 0.4424, + "num_input_tokens_seen": 15396184, + "step": 7862 + }, + { + "epoch": 1.0421471172962227, + "grad_norm": 12.088844299316406, + "learning_rate": 3.6552652468189037e-06, + "loss": 0.1839, + "num_input_tokens_seen": 15397880, + "step": 7863 + }, + { + "epoch": 1.0422796554009277, + "grad_norm": 0.26387423276901245, + "learning_rate": 3.654957385760721e-06, + "loss": 0.0019, + "num_input_tokens_seen": 15400272, + "step": 7864 + }, + { + "epoch": 1.042412193505633, + "grad_norm": 6.885824680328369, + "learning_rate": 3.6546495024341627e-06, + "loss": 0.1756, + "num_input_tokens_seen": 15402864, + "step": 7865 + }, + { + "epoch": 1.042544731610338, + "grad_norm": 1.6332216262817383, + "learning_rate": 3.6543415968451657e-06, + "loss": 0.0112, + "num_input_tokens_seen": 15405584, + "step": 7866 + }, + { + "epoch": 1.042677269715043, + "grad_norm": 2.2447736263275146, + "learning_rate": 3.6540336689996664e-06, + "loss": 0.0528, + "num_input_tokens_seen": 15407544, + "step": 7867 + }, + { + "epoch": 1.042809807819748, + "grad_norm": 6.372786045074463, + "learning_rate": 3.6537257189036014e-06, + "loss": 0.0328, + "num_input_tokens_seen": 15410808, + "step": 7868 + }, + { + "epoch": 1.0429423459244533, + "grad_norm": 7.790759086608887, + "learning_rate": 3.653417746562909e-06, + "loss": 0.2551, + "num_input_tokens_seen": 15413544, + "step": 7869 + }, + { + "epoch": 1.0430748840291584, + "grad_norm": 11.951497077941895, + "learning_rate": 3.653109751983527e-06, + "loss": 0.2086, + "num_input_tokens_seen": 15415768, + "step": 7870 + }, + { + "epoch": 1.0432074221338634, + "grad_norm": 0.10513343662023544, + "learning_rate": 3.652801735171393e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15417112, + "step": 7871 + }, + { + "epoch": 1.0433399602385687, + "grad_norm": 10.91108226776123, + "learning_rate": 3.652493696132446e-06, + "loss": 0.1029, + "num_input_tokens_seen": 15418880, + "step": 7872 + }, + { + "epoch": 1.0434724983432737, + "grad_norm": 5.90530252456665, + "learning_rate": 3.6521856348726258e-06, + "loss": 0.1214, + "num_input_tokens_seen": 15420848, + "step": 7873 + }, + { + "epoch": 1.0436050364479788, + "grad_norm": 0.04488575458526611, + "learning_rate": 3.6518775513978714e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15422184, + "step": 7874 + }, + { + "epoch": 1.0437375745526838, + "grad_norm": 9.93698501586914, + "learning_rate": 3.6515694457141237e-06, + "loss": 0.2576, + "num_input_tokens_seen": 15425016, + "step": 7875 + }, + { + "epoch": 1.043870112657389, + "grad_norm": 12.571539878845215, + "learning_rate": 3.6512613178273228e-06, + "loss": 0.1986, + "num_input_tokens_seen": 15426264, + "step": 7876 + }, + { + "epoch": 1.044002650762094, + "grad_norm": 9.868276596069336, + "learning_rate": 3.650953167743409e-06, + "loss": 0.2965, + "num_input_tokens_seen": 15428344, + "step": 7877 + }, + { + "epoch": 1.0441351888667991, + "grad_norm": 11.722805976867676, + "learning_rate": 3.650644995468324e-06, + "loss": 0.2161, + "num_input_tokens_seen": 15431048, + "step": 7878 + }, + { + "epoch": 1.0442677269715044, + "grad_norm": 4.383892059326172, + "learning_rate": 3.6503368010080104e-06, + "loss": 0.1594, + "num_input_tokens_seen": 15432968, + "step": 7879 + }, + { + "epoch": 1.0444002650762094, + "grad_norm": 0.02683247998356819, + "learning_rate": 3.650028584368409e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15434104, + "step": 7880 + }, + { + "epoch": 1.0445328031809145, + "grad_norm": 0.06939803808927536, + "learning_rate": 3.6497203455554643e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15436528, + "step": 7881 + }, + { + "epoch": 1.0446653412856197, + "grad_norm": 6.24174690246582, + "learning_rate": 3.6494120845751167e-06, + "loss": 0.1593, + "num_input_tokens_seen": 15438312, + "step": 7882 + }, + { + "epoch": 1.0447978793903248, + "grad_norm": 0.052460283041000366, + "learning_rate": 3.649103801433312e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15439888, + "step": 7883 + }, + { + "epoch": 1.0449304174950298, + "grad_norm": 0.09696125239133835, + "learning_rate": 3.6487954961359927e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15443152, + "step": 7884 + }, + { + "epoch": 1.0450629555997348, + "grad_norm": 15.219600677490234, + "learning_rate": 3.6484871686891044e-06, + "loss": 0.2777, + "num_input_tokens_seen": 15446616, + "step": 7885 + }, + { + "epoch": 1.04519549370444, + "grad_norm": 0.45388805866241455, + "learning_rate": 3.648178819098591e-06, + "loss": 0.0017, + "num_input_tokens_seen": 15448936, + "step": 7886 + }, + { + "epoch": 1.0453280318091451, + "grad_norm": 0.14878511428833008, + "learning_rate": 3.6478704473703972e-06, + "loss": 0.0011, + "num_input_tokens_seen": 15451504, + "step": 7887 + }, + { + "epoch": 1.0454605699138502, + "grad_norm": 0.6884857416152954, + "learning_rate": 3.6475620535104707e-06, + "loss": 0.0067, + "num_input_tokens_seen": 15453616, + "step": 7888 + }, + { + "epoch": 1.0455931080185554, + "grad_norm": 0.5440292954444885, + "learning_rate": 3.6472536375247543e-06, + "loss": 0.0028, + "num_input_tokens_seen": 15456720, + "step": 7889 + }, + { + "epoch": 1.0457256461232605, + "grad_norm": 0.18380853533744812, + "learning_rate": 3.6469451994191974e-06, + "loss": 0.0013, + "num_input_tokens_seen": 15459184, + "step": 7890 + }, + { + "epoch": 1.0458581842279655, + "grad_norm": 7.74333381652832, + "learning_rate": 3.6466367391997464e-06, + "loss": 0.1093, + "num_input_tokens_seen": 15461648, + "step": 7891 + }, + { + "epoch": 1.0459907223326705, + "grad_norm": 10.005255699157715, + "learning_rate": 3.6463282568723467e-06, + "loss": 0.2064, + "num_input_tokens_seen": 15463312, + "step": 7892 + }, + { + "epoch": 1.0461232604373758, + "grad_norm": 0.027855021879076958, + "learning_rate": 3.6460197524429487e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15464528, + "step": 7893 + }, + { + "epoch": 1.0462557985420808, + "grad_norm": 11.140253067016602, + "learning_rate": 3.6457112259174985e-06, + "loss": 0.1429, + "num_input_tokens_seen": 15466120, + "step": 7894 + }, + { + "epoch": 1.0463883366467859, + "grad_norm": 3.5038602352142334, + "learning_rate": 3.6454026773019454e-06, + "loss": 0.1865, + "num_input_tokens_seen": 15468536, + "step": 7895 + }, + { + "epoch": 1.0465208747514911, + "grad_norm": 6.214282512664795, + "learning_rate": 3.6450941066022388e-06, + "loss": 0.1239, + "num_input_tokens_seen": 15470632, + "step": 7896 + }, + { + "epoch": 1.0466534128561962, + "grad_norm": 4.667426586151123, + "learning_rate": 3.6447855138243275e-06, + "loss": 0.0467, + "num_input_tokens_seen": 15472160, + "step": 7897 + }, + { + "epoch": 1.0467859509609012, + "grad_norm": 0.024939320981502533, + "learning_rate": 3.644476898974162e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15473328, + "step": 7898 + }, + { + "epoch": 1.0469184890656065, + "grad_norm": 0.029729114845395088, + "learning_rate": 3.6441682620576927e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15474688, + "step": 7899 + }, + { + "epoch": 1.0470510271703115, + "grad_norm": 13.749137878417969, + "learning_rate": 3.6438596030808697e-06, + "loss": 0.1394, + "num_input_tokens_seen": 15476872, + "step": 7900 + }, + { + "epoch": 1.0471835652750165, + "grad_norm": 1.9877148866653442, + "learning_rate": 3.6435509220496444e-06, + "loss": 0.0332, + "num_input_tokens_seen": 15478352, + "step": 7901 + }, + { + "epoch": 1.0473161033797216, + "grad_norm": 6.648719310760498, + "learning_rate": 3.643242218969968e-06, + "loss": 0.1306, + "num_input_tokens_seen": 15480536, + "step": 7902 + }, + { + "epoch": 1.0474486414844268, + "grad_norm": 0.04364347830414772, + "learning_rate": 3.6429334938477937e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15482752, + "step": 7903 + }, + { + "epoch": 1.0475811795891319, + "grad_norm": 2.9016292095184326, + "learning_rate": 3.642624746689073e-06, + "loss": 0.0098, + "num_input_tokens_seen": 15484616, + "step": 7904 + }, + { + "epoch": 1.047713717693837, + "grad_norm": 0.14206485450267792, + "learning_rate": 3.6423159774997584e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15486384, + "step": 7905 + }, + { + "epoch": 1.0478462557985422, + "grad_norm": 0.018472516909241676, + "learning_rate": 3.6420071862858046e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15487664, + "step": 7906 + }, + { + "epoch": 1.0479787939032472, + "grad_norm": 0.9390114545822144, + "learning_rate": 3.6416983730531637e-06, + "loss": 0.0098, + "num_input_tokens_seen": 15489664, + "step": 7907 + }, + { + "epoch": 1.0481113320079523, + "grad_norm": 13.47948169708252, + "learning_rate": 3.641389537807791e-06, + "loss": 0.4652, + "num_input_tokens_seen": 15491568, + "step": 7908 + }, + { + "epoch": 1.0482438701126573, + "grad_norm": 3.4799435138702393, + "learning_rate": 3.6410806805556405e-06, + "loss": 0.0971, + "num_input_tokens_seen": 15494032, + "step": 7909 + }, + { + "epoch": 1.0483764082173626, + "grad_norm": 3.107759952545166, + "learning_rate": 3.6407718013026665e-06, + "loss": 0.0565, + "num_input_tokens_seen": 15496840, + "step": 7910 + }, + { + "epoch": 1.0485089463220676, + "grad_norm": 9.912053108215332, + "learning_rate": 3.6404629000548266e-06, + "loss": 0.2486, + "num_input_tokens_seen": 15499192, + "step": 7911 + }, + { + "epoch": 1.0486414844267726, + "grad_norm": 0.04165896028280258, + "learning_rate": 3.640153976818074e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15501008, + "step": 7912 + }, + { + "epoch": 1.048774022531478, + "grad_norm": 0.024278365075588226, + "learning_rate": 3.6398450315983664e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15503136, + "step": 7913 + }, + { + "epoch": 1.048906560636183, + "grad_norm": 3.063241720199585, + "learning_rate": 3.639536064401661e-06, + "loss": 0.0209, + "num_input_tokens_seen": 15505256, + "step": 7914 + }, + { + "epoch": 1.049039098740888, + "grad_norm": 3.5645577907562256, + "learning_rate": 3.639227075233913e-06, + "loss": 0.0449, + "num_input_tokens_seen": 15507168, + "step": 7915 + }, + { + "epoch": 1.049171636845593, + "grad_norm": 0.09378673881292343, + "learning_rate": 3.638918064101082e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15509504, + "step": 7916 + }, + { + "epoch": 1.0493041749502983, + "grad_norm": 13.254733085632324, + "learning_rate": 3.6386090310091247e-06, + "loss": 0.3593, + "num_input_tokens_seen": 15512064, + "step": 7917 + }, + { + "epoch": 1.0494367130550033, + "grad_norm": 0.22730045020580292, + "learning_rate": 3.638299975964e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15514080, + "step": 7918 + }, + { + "epoch": 1.0495692511597083, + "grad_norm": 2.637681245803833, + "learning_rate": 3.637990898971666e-06, + "loss": 0.0719, + "num_input_tokens_seen": 15516128, + "step": 7919 + }, + { + "epoch": 1.0497017892644136, + "grad_norm": 5.010317802429199, + "learning_rate": 3.637681800038083e-06, + "loss": 0.0241, + "num_input_tokens_seen": 15517440, + "step": 7920 + }, + { + "epoch": 1.0498343273691186, + "grad_norm": 0.019499680027365685, + "learning_rate": 3.63737267916921e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15518696, + "step": 7921 + }, + { + "epoch": 1.0499668654738237, + "grad_norm": 9.007317543029785, + "learning_rate": 3.6370635363710074e-06, + "loss": 0.2072, + "num_input_tokens_seen": 15520376, + "step": 7922 + }, + { + "epoch": 1.050099403578529, + "grad_norm": 22.122814178466797, + "learning_rate": 3.636754371649434e-06, + "loss": 0.7119, + "num_input_tokens_seen": 15522744, + "step": 7923 + }, + { + "epoch": 1.050231941683234, + "grad_norm": 8.595895767211914, + "learning_rate": 3.636445185010453e-06, + "loss": 0.2309, + "num_input_tokens_seen": 15525096, + "step": 7924 + }, + { + "epoch": 1.050364479787939, + "grad_norm": 0.032340340316295624, + "learning_rate": 3.6361359764600256e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15527232, + "step": 7925 + }, + { + "epoch": 1.050497017892644, + "grad_norm": 4.753627777099609, + "learning_rate": 3.6358267460041117e-06, + "loss": 0.0327, + "num_input_tokens_seen": 15529024, + "step": 7926 + }, + { + "epoch": 1.0506295559973493, + "grad_norm": 0.07969135046005249, + "learning_rate": 3.6355174936486748e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15531984, + "step": 7927 + }, + { + "epoch": 1.0507620941020543, + "grad_norm": 5.616736888885498, + "learning_rate": 3.6352082193996774e-06, + "loss": 0.1005, + "num_input_tokens_seen": 15533624, + "step": 7928 + }, + { + "epoch": 1.0508946322067594, + "grad_norm": 6.749379634857178, + "learning_rate": 3.6348989232630826e-06, + "loss": 0.0987, + "num_input_tokens_seen": 15535848, + "step": 7929 + }, + { + "epoch": 1.0510271703114646, + "grad_norm": 4.371708393096924, + "learning_rate": 3.6345896052448533e-06, + "loss": 0.0512, + "num_input_tokens_seen": 15537336, + "step": 7930 + }, + { + "epoch": 1.0511597084161697, + "grad_norm": 8.944043159484863, + "learning_rate": 3.6342802653509537e-06, + "loss": 0.0922, + "num_input_tokens_seen": 15539216, + "step": 7931 + }, + { + "epoch": 1.0512922465208747, + "grad_norm": 1.5652776956558228, + "learning_rate": 3.633970903587348e-06, + "loss": 0.0117, + "num_input_tokens_seen": 15541216, + "step": 7932 + }, + { + "epoch": 1.0514247846255798, + "grad_norm": 9.27216911315918, + "learning_rate": 3.633661519960001e-06, + "loss": 0.3117, + "num_input_tokens_seen": 15543872, + "step": 7933 + }, + { + "epoch": 1.051557322730285, + "grad_norm": 0.022086873650550842, + "learning_rate": 3.6333521144748784e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15545624, + "step": 7934 + }, + { + "epoch": 1.05168986083499, + "grad_norm": 6.73577356338501, + "learning_rate": 3.6330426871379454e-06, + "loss": 0.1788, + "num_input_tokens_seen": 15548080, + "step": 7935 + }, + { + "epoch": 1.051822398939695, + "grad_norm": 10.533881187438965, + "learning_rate": 3.6327332379551666e-06, + "loss": 0.2538, + "num_input_tokens_seen": 15550280, + "step": 7936 + }, + { + "epoch": 1.0519549370444004, + "grad_norm": 3.3311026096343994, + "learning_rate": 3.63242376693251e-06, + "loss": 0.066, + "num_input_tokens_seen": 15551912, + "step": 7937 + }, + { + "epoch": 1.0520874751491054, + "grad_norm": 0.01083206757903099, + "learning_rate": 3.6321142740759423e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15553224, + "step": 7938 + }, + { + "epoch": 1.0522200132538104, + "grad_norm": 10.024352073669434, + "learning_rate": 3.6318047593914297e-06, + "loss": 0.2063, + "num_input_tokens_seen": 15554680, + "step": 7939 + }, + { + "epoch": 1.0523525513585157, + "grad_norm": 1.554442286491394, + "learning_rate": 3.6314952228849408e-06, + "loss": 0.0148, + "num_input_tokens_seen": 15556912, + "step": 7940 + }, + { + "epoch": 1.0524850894632207, + "grad_norm": 2.78432035446167, + "learning_rate": 3.631185664562444e-06, + "loss": 0.0139, + "num_input_tokens_seen": 15558504, + "step": 7941 + }, + { + "epoch": 1.0526176275679258, + "grad_norm": 0.620375394821167, + "learning_rate": 3.6308760844299064e-06, + "loss": 0.0096, + "num_input_tokens_seen": 15560200, + "step": 7942 + }, + { + "epoch": 1.0527501656726308, + "grad_norm": 8.954679489135742, + "learning_rate": 3.6305664824932986e-06, + "loss": 0.3197, + "num_input_tokens_seen": 15562128, + "step": 7943 + }, + { + "epoch": 1.052882703777336, + "grad_norm": 6.514616966247559, + "learning_rate": 3.6302568587585885e-06, + "loss": 0.1718, + "num_input_tokens_seen": 15564592, + "step": 7944 + }, + { + "epoch": 1.053015241882041, + "grad_norm": 7.087714195251465, + "learning_rate": 3.6299472132317463e-06, + "loss": 0.0663, + "num_input_tokens_seen": 15567000, + "step": 7945 + }, + { + "epoch": 1.0531477799867461, + "grad_norm": 6.69550895690918, + "learning_rate": 3.629637545918743e-06, + "loss": 0.168, + "num_input_tokens_seen": 15568576, + "step": 7946 + }, + { + "epoch": 1.0532803180914514, + "grad_norm": 0.9348760843276978, + "learning_rate": 3.629327856825548e-06, + "loss": 0.0059, + "num_input_tokens_seen": 15571728, + "step": 7947 + }, + { + "epoch": 1.0534128561961564, + "grad_norm": 0.5714061856269836, + "learning_rate": 3.629018145958133e-06, + "loss": 0.0047, + "num_input_tokens_seen": 15573088, + "step": 7948 + }, + { + "epoch": 1.0535453943008615, + "grad_norm": 12.479203224182129, + "learning_rate": 3.6287084133224693e-06, + "loss": 0.1991, + "num_input_tokens_seen": 15576712, + "step": 7949 + }, + { + "epoch": 1.0536779324055665, + "grad_norm": 6.5978312492370605, + "learning_rate": 3.6283986589245283e-06, + "loss": 0.0816, + "num_input_tokens_seen": 15578864, + "step": 7950 + }, + { + "epoch": 1.0538104705102718, + "grad_norm": 17.88849449157715, + "learning_rate": 3.628088882770283e-06, + "loss": 0.7151, + "num_input_tokens_seen": 15580856, + "step": 7951 + }, + { + "epoch": 1.0539430086149768, + "grad_norm": 0.022077850997447968, + "learning_rate": 3.6277790848657055e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15581872, + "step": 7952 + }, + { + "epoch": 1.0540755467196818, + "grad_norm": 0.027225205674767494, + "learning_rate": 3.6274692652167703e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15583632, + "step": 7953 + }, + { + "epoch": 1.054208084824387, + "grad_norm": 4.710811614990234, + "learning_rate": 3.627159423829449e-06, + "loss": 0.0953, + "num_input_tokens_seen": 15585832, + "step": 7954 + }, + { + "epoch": 1.0543406229290921, + "grad_norm": 0.7662599682807922, + "learning_rate": 3.6268495607097166e-06, + "loss": 0.006, + "num_input_tokens_seen": 15587240, + "step": 7955 + }, + { + "epoch": 1.0544731610337972, + "grad_norm": 0.5820773243904114, + "learning_rate": 3.6265396758635475e-06, + "loss": 0.0071, + "num_input_tokens_seen": 15588728, + "step": 7956 + }, + { + "epoch": 1.0546056991385022, + "grad_norm": 9.566177368164062, + "learning_rate": 3.6262297692969155e-06, + "loss": 0.0658, + "num_input_tokens_seen": 15590408, + "step": 7957 + }, + { + "epoch": 1.0547382372432075, + "grad_norm": 0.06261811405420303, + "learning_rate": 3.6259198410157973e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15592480, + "step": 7958 + }, + { + "epoch": 1.0548707753479125, + "grad_norm": 5.135053634643555, + "learning_rate": 3.625609891026168e-06, + "loss": 0.0409, + "num_input_tokens_seen": 15594088, + "step": 7959 + }, + { + "epoch": 1.0550033134526176, + "grad_norm": 9.567028045654297, + "learning_rate": 3.6252999193340034e-06, + "loss": 0.3779, + "num_input_tokens_seen": 15596904, + "step": 7960 + }, + { + "epoch": 1.0551358515573228, + "grad_norm": 3.100637197494507, + "learning_rate": 3.6249899259452797e-06, + "loss": 0.0555, + "num_input_tokens_seen": 15598208, + "step": 7961 + }, + { + "epoch": 1.0552683896620279, + "grad_norm": 5.322288990020752, + "learning_rate": 3.6246799108659743e-06, + "loss": 0.1527, + "num_input_tokens_seen": 15600064, + "step": 7962 + }, + { + "epoch": 1.0554009277667329, + "grad_norm": 9.8389253616333, + "learning_rate": 3.624369874102064e-06, + "loss": 0.2311, + "num_input_tokens_seen": 15602128, + "step": 7963 + }, + { + "epoch": 1.055533465871438, + "grad_norm": 10.773490905761719, + "learning_rate": 3.6240598156595276e-06, + "loss": 0.1671, + "num_input_tokens_seen": 15604200, + "step": 7964 + }, + { + "epoch": 1.0556660039761432, + "grad_norm": 1.9360040426254272, + "learning_rate": 3.6237497355443417e-06, + "loss": 0.0253, + "num_input_tokens_seen": 15605872, + "step": 7965 + }, + { + "epoch": 1.0557985420808482, + "grad_norm": 10.263525009155273, + "learning_rate": 3.623439633762486e-06, + "loss": 0.0645, + "num_input_tokens_seen": 15609072, + "step": 7966 + }, + { + "epoch": 1.0559310801855533, + "grad_norm": 8.068907737731934, + "learning_rate": 3.6231295103199394e-06, + "loss": 0.1277, + "num_input_tokens_seen": 15611088, + "step": 7967 + }, + { + "epoch": 1.0560636182902585, + "grad_norm": 3.7351903915405273, + "learning_rate": 3.6228193652226813e-06, + "loss": 0.0571, + "num_input_tokens_seen": 15612944, + "step": 7968 + }, + { + "epoch": 1.0561961563949636, + "grad_norm": 4.450117111206055, + "learning_rate": 3.6225091984766904e-06, + "loss": 0.071, + "num_input_tokens_seen": 15615088, + "step": 7969 + }, + { + "epoch": 1.0563286944996686, + "grad_norm": 2.517181396484375, + "learning_rate": 3.6221990100879477e-06, + "loss": 0.0363, + "num_input_tokens_seen": 15616944, + "step": 7970 + }, + { + "epoch": 1.0564612326043739, + "grad_norm": 6.846189975738525, + "learning_rate": 3.6218888000624353e-06, + "loss": 0.1158, + "num_input_tokens_seen": 15618920, + "step": 7971 + }, + { + "epoch": 1.056593770709079, + "grad_norm": 0.2078702747821808, + "learning_rate": 3.621578568406131e-06, + "loss": 0.0016, + "num_input_tokens_seen": 15621712, + "step": 7972 + }, + { + "epoch": 1.056726308813784, + "grad_norm": 0.3657509386539459, + "learning_rate": 3.6212683151250194e-06, + "loss": 0.0028, + "num_input_tokens_seen": 15623792, + "step": 7973 + }, + { + "epoch": 1.056858846918489, + "grad_norm": 6.588100433349609, + "learning_rate": 3.6209580402250816e-06, + "loss": 0.1765, + "num_input_tokens_seen": 15625336, + "step": 7974 + }, + { + "epoch": 1.0569913850231942, + "grad_norm": 0.3558519780635834, + "learning_rate": 3.6206477437122977e-06, + "loss": 0.0027, + "num_input_tokens_seen": 15626384, + "step": 7975 + }, + { + "epoch": 1.0571239231278993, + "grad_norm": 5.9306135177612305, + "learning_rate": 3.6203374255926537e-06, + "loss": 0.1036, + "num_input_tokens_seen": 15628432, + "step": 7976 + }, + { + "epoch": 1.0572564612326043, + "grad_norm": 13.191484451293945, + "learning_rate": 3.620027085872131e-06, + "loss": 0.287, + "num_input_tokens_seen": 15630152, + "step": 7977 + }, + { + "epoch": 1.0573889993373096, + "grad_norm": 0.3466063439846039, + "learning_rate": 3.6197167245567128e-06, + "loss": 0.0019, + "num_input_tokens_seen": 15632144, + "step": 7978 + }, + { + "epoch": 1.0575215374420146, + "grad_norm": 11.53245735168457, + "learning_rate": 3.6194063416523844e-06, + "loss": 0.324, + "num_input_tokens_seen": 15635000, + "step": 7979 + }, + { + "epoch": 1.0576540755467196, + "grad_norm": 11.756266593933105, + "learning_rate": 3.6190959371651293e-06, + "loss": 0.1556, + "num_input_tokens_seen": 15638216, + "step": 7980 + }, + { + "epoch": 1.0577866136514247, + "grad_norm": 3.1588351726531982, + "learning_rate": 3.6187855111009325e-06, + "loss": 0.0648, + "num_input_tokens_seen": 15641104, + "step": 7981 + }, + { + "epoch": 1.05791915175613, + "grad_norm": 6.496006488800049, + "learning_rate": 3.6184750634657796e-06, + "loss": 0.1822, + "num_input_tokens_seen": 15642960, + "step": 7982 + }, + { + "epoch": 1.058051689860835, + "grad_norm": 0.6988822817802429, + "learning_rate": 3.618164594265655e-06, + "loss": 0.0082, + "num_input_tokens_seen": 15645112, + "step": 7983 + }, + { + "epoch": 1.05818422796554, + "grad_norm": 6.729306221008301, + "learning_rate": 3.617854103506546e-06, + "loss": 0.1606, + "num_input_tokens_seen": 15646928, + "step": 7984 + }, + { + "epoch": 1.0583167660702453, + "grad_norm": 9.223274230957031, + "learning_rate": 3.6175435911944385e-06, + "loss": 0.1782, + "num_input_tokens_seen": 15648544, + "step": 7985 + }, + { + "epoch": 1.0584493041749503, + "grad_norm": 0.09302958101034164, + "learning_rate": 3.6172330573353203e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15649840, + "step": 7986 + }, + { + "epoch": 1.0585818422796553, + "grad_norm": 12.603796005249023, + "learning_rate": 3.616922501935177e-06, + "loss": 0.2568, + "num_input_tokens_seen": 15651320, + "step": 7987 + }, + { + "epoch": 1.0587143803843606, + "grad_norm": 6.875571250915527, + "learning_rate": 3.6166119249999985e-06, + "loss": 0.1152, + "num_input_tokens_seen": 15653488, + "step": 7988 + }, + { + "epoch": 1.0588469184890656, + "grad_norm": 7.396050930023193, + "learning_rate": 3.6163013265357716e-06, + "loss": 0.188, + "num_input_tokens_seen": 15655680, + "step": 7989 + }, + { + "epoch": 1.0589794565937707, + "grad_norm": 9.612442016601562, + "learning_rate": 3.615990706548484e-06, + "loss": 0.2561, + "num_input_tokens_seen": 15657928, + "step": 7990 + }, + { + "epoch": 1.0591119946984757, + "grad_norm": 3.7665109634399414, + "learning_rate": 3.6156800650441266e-06, + "loss": 0.0395, + "num_input_tokens_seen": 15659472, + "step": 7991 + }, + { + "epoch": 1.059244532803181, + "grad_norm": 5.557758808135986, + "learning_rate": 3.6153694020286876e-06, + "loss": 0.0386, + "num_input_tokens_seen": 15662088, + "step": 7992 + }, + { + "epoch": 1.059377070907886, + "grad_norm": 0.1930140107870102, + "learning_rate": 3.615058717508157e-06, + "loss": 0.0015, + "num_input_tokens_seen": 15663968, + "step": 7993 + }, + { + "epoch": 1.059509609012591, + "grad_norm": 1.4421720504760742, + "learning_rate": 3.6147480114885255e-06, + "loss": 0.0095, + "num_input_tokens_seen": 15665056, + "step": 7994 + }, + { + "epoch": 1.0596421471172963, + "grad_norm": 0.11434435844421387, + "learning_rate": 3.614437283975783e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15666216, + "step": 7995 + }, + { + "epoch": 1.0597746852220014, + "grad_norm": 5.47565221786499, + "learning_rate": 3.61412653497592e-06, + "loss": 0.164, + "num_input_tokens_seen": 15669144, + "step": 7996 + }, + { + "epoch": 1.0599072233267064, + "grad_norm": 9.914389610290527, + "learning_rate": 3.6138157644949307e-06, + "loss": 0.1557, + "num_input_tokens_seen": 15670800, + "step": 7997 + }, + { + "epoch": 1.0600397614314114, + "grad_norm": 12.099952697753906, + "learning_rate": 3.6135049725388036e-06, + "loss": 0.4654, + "num_input_tokens_seen": 15673584, + "step": 7998 + }, + { + "epoch": 1.0601722995361167, + "grad_norm": 0.09205961972475052, + "learning_rate": 3.613194159113533e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15674960, + "step": 7999 + }, + { + "epoch": 1.0603048376408217, + "grad_norm": 0.14178790152072906, + "learning_rate": 3.6128833242251115e-06, + "loss": 0.0011, + "num_input_tokens_seen": 15677320, + "step": 8000 + }, + { + "epoch": 1.0604373757455268, + "grad_norm": 0.8104797005653381, + "learning_rate": 3.612572467879531e-06, + "loss": 0.0056, + "num_input_tokens_seen": 15678816, + "step": 8001 + }, + { + "epoch": 1.060569913850232, + "grad_norm": 3.1845006942749023, + "learning_rate": 3.6122615900827855e-06, + "loss": 0.0399, + "num_input_tokens_seen": 15681680, + "step": 8002 + }, + { + "epoch": 1.060702451954937, + "grad_norm": 6.671764850616455, + "learning_rate": 3.61195069084087e-06, + "loss": 0.2277, + "num_input_tokens_seen": 15683248, + "step": 8003 + }, + { + "epoch": 1.060834990059642, + "grad_norm": 6.917355060577393, + "learning_rate": 3.611639770159778e-06, + "loss": 0.1731, + "num_input_tokens_seen": 15685192, + "step": 8004 + }, + { + "epoch": 1.0609675281643471, + "grad_norm": 5.837344646453857, + "learning_rate": 3.611328828045504e-06, + "loss": 0.0849, + "num_input_tokens_seen": 15686936, + "step": 8005 + }, + { + "epoch": 1.0611000662690524, + "grad_norm": 8.548568725585938, + "learning_rate": 3.6110178645040437e-06, + "loss": 0.3469, + "num_input_tokens_seen": 15689216, + "step": 8006 + }, + { + "epoch": 1.0612326043737574, + "grad_norm": 13.973820686340332, + "learning_rate": 3.6107068795413926e-06, + "loss": 0.1346, + "num_input_tokens_seen": 15690704, + "step": 8007 + }, + { + "epoch": 1.0613651424784625, + "grad_norm": 0.3159739077091217, + "learning_rate": 3.6103958731635468e-06, + "loss": 0.0024, + "num_input_tokens_seen": 15692776, + "step": 8008 + }, + { + "epoch": 1.0614976805831677, + "grad_norm": 3.2810280323028564, + "learning_rate": 3.6100848453765027e-06, + "loss": 0.0429, + "num_input_tokens_seen": 15694208, + "step": 8009 + }, + { + "epoch": 1.0616302186878728, + "grad_norm": 0.11063665896654129, + "learning_rate": 3.609773796186256e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15696032, + "step": 8010 + }, + { + "epoch": 1.0617627567925778, + "grad_norm": 10.046136856079102, + "learning_rate": 3.609462725598806e-06, + "loss": 0.1981, + "num_input_tokens_seen": 15698640, + "step": 8011 + }, + { + "epoch": 1.061895294897283, + "grad_norm": 9.504996299743652, + "learning_rate": 3.6091516336201483e-06, + "loss": 0.1076, + "num_input_tokens_seen": 15700184, + "step": 8012 + }, + { + "epoch": 1.062027833001988, + "grad_norm": 0.27269691228866577, + "learning_rate": 3.6088405202562826e-06, + "loss": 0.0021, + "num_input_tokens_seen": 15701592, + "step": 8013 + }, + { + "epoch": 1.0621603711066931, + "grad_norm": 1.5353727340698242, + "learning_rate": 3.6085293855132063e-06, + "loss": 0.0062, + "num_input_tokens_seen": 15703088, + "step": 8014 + }, + { + "epoch": 1.0622929092113982, + "grad_norm": 4.5996551513671875, + "learning_rate": 3.608218229396919e-06, + "loss": 0.1748, + "num_input_tokens_seen": 15704760, + "step": 8015 + }, + { + "epoch": 1.0624254473161034, + "grad_norm": 2.493993043899536, + "learning_rate": 3.6079070519134196e-06, + "loss": 0.0243, + "num_input_tokens_seen": 15706296, + "step": 8016 + }, + { + "epoch": 1.0625579854208085, + "grad_norm": 4.057400703430176, + "learning_rate": 3.6075958530687084e-06, + "loss": 0.0804, + "num_input_tokens_seen": 15707520, + "step": 8017 + }, + { + "epoch": 1.0626905235255135, + "grad_norm": 0.1196255311369896, + "learning_rate": 3.607284632868785e-06, + "loss": 0.0009, + "num_input_tokens_seen": 15709912, + "step": 8018 + }, + { + "epoch": 1.0628230616302188, + "grad_norm": 0.3267013430595398, + "learning_rate": 3.6069733913196487e-06, + "loss": 0.0025, + "num_input_tokens_seen": 15712176, + "step": 8019 + }, + { + "epoch": 1.0629555997349238, + "grad_norm": 5.814580917358398, + "learning_rate": 3.606662128427303e-06, + "loss": 0.0282, + "num_input_tokens_seen": 15714912, + "step": 8020 + }, + { + "epoch": 1.0630881378396289, + "grad_norm": 0.09737732261419296, + "learning_rate": 3.6063508441977478e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15717888, + "step": 8021 + }, + { + "epoch": 1.063220675944334, + "grad_norm": 5.149318218231201, + "learning_rate": 3.6060395386369852e-06, + "loss": 0.1045, + "num_input_tokens_seen": 15720096, + "step": 8022 + }, + { + "epoch": 1.0633532140490392, + "grad_norm": 4.0814127922058105, + "learning_rate": 3.605728211751017e-06, + "loss": 0.0303, + "num_input_tokens_seen": 15722120, + "step": 8023 + }, + { + "epoch": 1.0634857521537442, + "grad_norm": 14.288308143615723, + "learning_rate": 3.6054168635458464e-06, + "loss": 0.3516, + "num_input_tokens_seen": 15724544, + "step": 8024 + }, + { + "epoch": 1.0636182902584492, + "grad_norm": 4.778275966644287, + "learning_rate": 3.6051054940274755e-06, + "loss": 0.094, + "num_input_tokens_seen": 15727016, + "step": 8025 + }, + { + "epoch": 1.0637508283631545, + "grad_norm": 0.04523913189768791, + "learning_rate": 3.604794103201909e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15728160, + "step": 8026 + }, + { + "epoch": 1.0638833664678595, + "grad_norm": 14.25879955291748, + "learning_rate": 3.6044826910751496e-06, + "loss": 0.1672, + "num_input_tokens_seen": 15730944, + "step": 8027 + }, + { + "epoch": 1.0640159045725646, + "grad_norm": 6.4809370040893555, + "learning_rate": 3.6041712576532017e-06, + "loss": 0.0662, + "num_input_tokens_seen": 15732320, + "step": 8028 + }, + { + "epoch": 1.0641484426772698, + "grad_norm": 0.08630184084177017, + "learning_rate": 3.603859802942071e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15735152, + "step": 8029 + }, + { + "epoch": 1.0642809807819749, + "grad_norm": 7.073913097381592, + "learning_rate": 3.6035483269477613e-06, + "loss": 0.1699, + "num_input_tokens_seen": 15737520, + "step": 8030 + }, + { + "epoch": 1.06441351888668, + "grad_norm": 0.057469792664051056, + "learning_rate": 3.603236829676279e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15738752, + "step": 8031 + }, + { + "epoch": 1.064546056991385, + "grad_norm": 12.062638282775879, + "learning_rate": 3.6029253111336286e-06, + "loss": 0.3565, + "num_input_tokens_seen": 15740856, + "step": 8032 + }, + { + "epoch": 1.0646785950960902, + "grad_norm": 2.599116325378418, + "learning_rate": 3.602613771325818e-06, + "loss": 0.0466, + "num_input_tokens_seen": 15742520, + "step": 8033 + }, + { + "epoch": 1.0648111332007952, + "grad_norm": 5.615490436553955, + "learning_rate": 3.602302210258853e-06, + "loss": 0.0597, + "num_input_tokens_seen": 15745592, + "step": 8034 + }, + { + "epoch": 1.0649436713055003, + "grad_norm": 1.8426272869110107, + "learning_rate": 3.601990627938741e-06, + "loss": 0.0367, + "num_input_tokens_seen": 15748440, + "step": 8035 + }, + { + "epoch": 1.0650762094102055, + "grad_norm": 0.04948681220412254, + "learning_rate": 3.6016790243714903e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15750080, + "step": 8036 + }, + { + "epoch": 1.0652087475149106, + "grad_norm": 9.407215118408203, + "learning_rate": 3.6013673995631066e-06, + "loss": 0.1188, + "num_input_tokens_seen": 15752208, + "step": 8037 + }, + { + "epoch": 1.0653412856196156, + "grad_norm": 7.872118949890137, + "learning_rate": 3.6010557535196005e-06, + "loss": 0.2509, + "num_input_tokens_seen": 15754288, + "step": 8038 + }, + { + "epoch": 1.0654738237243206, + "grad_norm": 6.255258083343506, + "learning_rate": 3.60074408624698e-06, + "loss": 0.2379, + "num_input_tokens_seen": 15755984, + "step": 8039 + }, + { + "epoch": 1.065606361829026, + "grad_norm": 12.880196571350098, + "learning_rate": 3.6004323977512534e-06, + "loss": 0.5036, + "num_input_tokens_seen": 15757888, + "step": 8040 + }, + { + "epoch": 1.065738899933731, + "grad_norm": 9.998342514038086, + "learning_rate": 3.600120688038432e-06, + "loss": 0.2828, + "num_input_tokens_seen": 15759824, + "step": 8041 + }, + { + "epoch": 1.065871438038436, + "grad_norm": 0.03212375566363335, + "learning_rate": 3.599808957114524e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15761160, + "step": 8042 + }, + { + "epoch": 1.0660039761431412, + "grad_norm": 4.342859745025635, + "learning_rate": 3.5994972049855402e-06, + "loss": 0.1486, + "num_input_tokens_seen": 15762816, + "step": 8043 + }, + { + "epoch": 1.0661365142478463, + "grad_norm": 0.11181376874446869, + "learning_rate": 3.599185431657493e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15764528, + "step": 8044 + }, + { + "epoch": 1.0662690523525513, + "grad_norm": 0.03542919456958771, + "learning_rate": 3.5988736371363917e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15765904, + "step": 8045 + }, + { + "epoch": 1.0664015904572564, + "grad_norm": 2.2654542922973633, + "learning_rate": 3.5985618214282493e-06, + "loss": 0.0318, + "num_input_tokens_seen": 15767144, + "step": 8046 + }, + { + "epoch": 1.0665341285619616, + "grad_norm": 0.371366411447525, + "learning_rate": 3.598249984539076e-06, + "loss": 0.0025, + "num_input_tokens_seen": 15768800, + "step": 8047 + }, + { + "epoch": 1.0666666666666667, + "grad_norm": 5.629929542541504, + "learning_rate": 3.5979381264748864e-06, + "loss": 0.1896, + "num_input_tokens_seen": 15770808, + "step": 8048 + }, + { + "epoch": 1.0667992047713717, + "grad_norm": 6.7023024559021, + "learning_rate": 3.5976262472416912e-06, + "loss": 0.1372, + "num_input_tokens_seen": 15773168, + "step": 8049 + }, + { + "epoch": 1.066931742876077, + "grad_norm": 8.313822746276855, + "learning_rate": 3.5973143468455053e-06, + "loss": 0.1465, + "num_input_tokens_seen": 15774792, + "step": 8050 + }, + { + "epoch": 1.067064280980782, + "grad_norm": 0.24633155763149261, + "learning_rate": 3.5970024252923422e-06, + "loss": 0.0018, + "num_input_tokens_seen": 15776912, + "step": 8051 + }, + { + "epoch": 1.067196819085487, + "grad_norm": 5.482618808746338, + "learning_rate": 3.5966904825882155e-06, + "loss": 0.1024, + "num_input_tokens_seen": 15778776, + "step": 8052 + }, + { + "epoch": 1.067329357190192, + "grad_norm": 0.06309965252876282, + "learning_rate": 3.5963785187391394e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15780512, + "step": 8053 + }, + { + "epoch": 1.0674618952948973, + "grad_norm": 0.19172799587249756, + "learning_rate": 3.596066533751129e-06, + "loss": 0.0014, + "num_input_tokens_seen": 15783416, + "step": 8054 + }, + { + "epoch": 1.0675944333996024, + "grad_norm": 5.725820541381836, + "learning_rate": 3.595754527630199e-06, + "loss": 0.0403, + "num_input_tokens_seen": 15785312, + "step": 8055 + }, + { + "epoch": 1.0677269715043074, + "grad_norm": 2.857809066772461, + "learning_rate": 3.595442500382367e-06, + "loss": 0.0958, + "num_input_tokens_seen": 15787576, + "step": 8056 + }, + { + "epoch": 1.0678595096090127, + "grad_norm": 6.153066158294678, + "learning_rate": 3.5951304520136474e-06, + "loss": 0.1129, + "num_input_tokens_seen": 15789272, + "step": 8057 + }, + { + "epoch": 1.0679920477137177, + "grad_norm": 0.520875096321106, + "learning_rate": 3.5948183825300574e-06, + "loss": 0.0034, + "num_input_tokens_seen": 15791832, + "step": 8058 + }, + { + "epoch": 1.0681245858184227, + "grad_norm": 9.945199966430664, + "learning_rate": 3.594506291937614e-06, + "loss": 0.1561, + "num_input_tokens_seen": 15793528, + "step": 8059 + }, + { + "epoch": 1.068257123923128, + "grad_norm": 10.815088272094727, + "learning_rate": 3.5941941802423335e-06, + "loss": 0.4284, + "num_input_tokens_seen": 15796104, + "step": 8060 + }, + { + "epoch": 1.068389662027833, + "grad_norm": 0.019287072122097015, + "learning_rate": 3.5938820474502347e-06, + "loss": 0.0001, + "num_input_tokens_seen": 15797096, + "step": 8061 + }, + { + "epoch": 1.068522200132538, + "grad_norm": 5.974384784698486, + "learning_rate": 3.5935698935673356e-06, + "loss": 0.1707, + "num_input_tokens_seen": 15799752, + "step": 8062 + }, + { + "epoch": 1.068654738237243, + "grad_norm": 6.245574951171875, + "learning_rate": 3.593257718599654e-06, + "loss": 0.0765, + "num_input_tokens_seen": 15801504, + "step": 8063 + }, + { + "epoch": 1.0687872763419484, + "grad_norm": 7.039210796356201, + "learning_rate": 3.59294552255321e-06, + "loss": 0.0959, + "num_input_tokens_seen": 15803280, + "step": 8064 + }, + { + "epoch": 1.0689198144466534, + "grad_norm": 5.357276916503906, + "learning_rate": 3.5926333054340224e-06, + "loss": 0.0538, + "num_input_tokens_seen": 15805576, + "step": 8065 + }, + { + "epoch": 1.0690523525513584, + "grad_norm": 0.06459338217973709, + "learning_rate": 3.59232106724811e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15807264, + "step": 8066 + }, + { + "epoch": 1.0691848906560637, + "grad_norm": 4.824656009674072, + "learning_rate": 3.592008808001495e-06, + "loss": 0.0854, + "num_input_tokens_seen": 15809000, + "step": 8067 + }, + { + "epoch": 1.0693174287607687, + "grad_norm": 12.060391426086426, + "learning_rate": 3.591696527700196e-06, + "loss": 0.2814, + "num_input_tokens_seen": 15810720, + "step": 8068 + }, + { + "epoch": 1.0694499668654738, + "grad_norm": 11.24808406829834, + "learning_rate": 3.5913842263502348e-06, + "loss": 0.0572, + "num_input_tokens_seen": 15812408, + "step": 8069 + }, + { + "epoch": 1.069582504970179, + "grad_norm": 8.627835273742676, + "learning_rate": 3.591071903957633e-06, + "loss": 0.1992, + "num_input_tokens_seen": 15814984, + "step": 8070 + }, + { + "epoch": 1.069715043074884, + "grad_norm": 4.567038536071777, + "learning_rate": 3.5907595605284124e-06, + "loss": 0.1277, + "num_input_tokens_seen": 15816320, + "step": 8071 + }, + { + "epoch": 1.0698475811795891, + "grad_norm": 10.388762474060059, + "learning_rate": 3.590447196068595e-06, + "loss": 0.1898, + "num_input_tokens_seen": 15818032, + "step": 8072 + }, + { + "epoch": 1.0699801192842942, + "grad_norm": 2.58420467376709, + "learning_rate": 3.590134810584203e-06, + "loss": 0.0339, + "num_input_tokens_seen": 15819904, + "step": 8073 + }, + { + "epoch": 1.0701126573889994, + "grad_norm": 0.4488075077533722, + "learning_rate": 3.58982240408126e-06, + "loss": 0.0014, + "num_input_tokens_seen": 15821576, + "step": 8074 + }, + { + "epoch": 1.0702451954937044, + "grad_norm": 10.076026916503906, + "learning_rate": 3.589509976565789e-06, + "loss": 0.1657, + "num_input_tokens_seen": 15823296, + "step": 8075 + }, + { + "epoch": 1.0703777335984095, + "grad_norm": 4.311559200286865, + "learning_rate": 3.5891975280438147e-06, + "loss": 0.1262, + "num_input_tokens_seen": 15824808, + "step": 8076 + }, + { + "epoch": 1.0705102717031147, + "grad_norm": 8.541370391845703, + "learning_rate": 3.588885058521361e-06, + "loss": 0.1557, + "num_input_tokens_seen": 15826528, + "step": 8077 + }, + { + "epoch": 1.0706428098078198, + "grad_norm": 10.6084566116333, + "learning_rate": 3.588572568004451e-06, + "loss": 0.187, + "num_input_tokens_seen": 15828160, + "step": 8078 + }, + { + "epoch": 1.0707753479125248, + "grad_norm": 3.0699830055236816, + "learning_rate": 3.588260056499111e-06, + "loss": 0.0206, + "num_input_tokens_seen": 15829976, + "step": 8079 + }, + { + "epoch": 1.0709078860172299, + "grad_norm": 22.24512481689453, + "learning_rate": 3.5879475240113676e-06, + "loss": 0.597, + "num_input_tokens_seen": 15832080, + "step": 8080 + }, + { + "epoch": 1.0710404241219351, + "grad_norm": 8.170434951782227, + "learning_rate": 3.5876349705472445e-06, + "loss": 0.1425, + "num_input_tokens_seen": 15833768, + "step": 8081 + }, + { + "epoch": 1.0711729622266402, + "grad_norm": 0.05929776653647423, + "learning_rate": 3.5873223961127683e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15835664, + "step": 8082 + }, + { + "epoch": 1.0713055003313452, + "grad_norm": 6.4934892654418945, + "learning_rate": 3.5870098007139676e-06, + "loss": 0.2244, + "num_input_tokens_seen": 15837720, + "step": 8083 + }, + { + "epoch": 1.0714380384360505, + "grad_norm": 4.574771881103516, + "learning_rate": 3.5866971843568667e-06, + "loss": 0.1167, + "num_input_tokens_seen": 15839528, + "step": 8084 + }, + { + "epoch": 1.0715705765407555, + "grad_norm": 19.111574172973633, + "learning_rate": 3.586384547047495e-06, + "loss": 0.6393, + "num_input_tokens_seen": 15842224, + "step": 8085 + }, + { + "epoch": 1.0717031146454605, + "grad_norm": 9.524335861206055, + "learning_rate": 3.58607188879188e-06, + "loss": 0.2351, + "num_input_tokens_seen": 15843904, + "step": 8086 + }, + { + "epoch": 1.0718356527501656, + "grad_norm": 7.590734481811523, + "learning_rate": 3.5857592095960492e-06, + "loss": 0.1356, + "num_input_tokens_seen": 15845536, + "step": 8087 + }, + { + "epoch": 1.0719681908548708, + "grad_norm": 2.6261420249938965, + "learning_rate": 3.5854465094660325e-06, + "loss": 0.0414, + "num_input_tokens_seen": 15848136, + "step": 8088 + }, + { + "epoch": 1.0721007289595759, + "grad_norm": 0.08045609295368195, + "learning_rate": 3.5851337884078573e-06, + "loss": 0.0006, + "num_input_tokens_seen": 15850160, + "step": 8089 + }, + { + "epoch": 1.072233267064281, + "grad_norm": 0.09503606706857681, + "learning_rate": 3.5848210464275546e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15852576, + "step": 8090 + }, + { + "epoch": 1.0723658051689862, + "grad_norm": 5.456388473510742, + "learning_rate": 3.584508283531154e-06, + "loss": 0.0669, + "num_input_tokens_seen": 15854080, + "step": 8091 + }, + { + "epoch": 1.0724983432736912, + "grad_norm": 0.08958735316991806, + "learning_rate": 3.584195499724686e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15856544, + "step": 8092 + }, + { + "epoch": 1.0726308813783962, + "grad_norm": 7.314899921417236, + "learning_rate": 3.58388269501418e-06, + "loss": 0.1473, + "num_input_tokens_seen": 15858896, + "step": 8093 + }, + { + "epoch": 1.0727634194831013, + "grad_norm": 4.568482398986816, + "learning_rate": 3.5835698694056675e-06, + "loss": 0.0727, + "num_input_tokens_seen": 15861568, + "step": 8094 + }, + { + "epoch": 1.0728959575878065, + "grad_norm": 6.254690647125244, + "learning_rate": 3.583257022905181e-06, + "loss": 0.1294, + "num_input_tokens_seen": 15863192, + "step": 8095 + }, + { + "epoch": 1.0730284956925116, + "grad_norm": 7.0536112785339355, + "learning_rate": 3.582944155518752e-06, + "loss": 0.0943, + "num_input_tokens_seen": 15864968, + "step": 8096 + }, + { + "epoch": 1.0731610337972166, + "grad_norm": 10.413454055786133, + "learning_rate": 3.5826312672524123e-06, + "loss": 0.22, + "num_input_tokens_seen": 15867200, + "step": 8097 + }, + { + "epoch": 1.0732935719019219, + "grad_norm": 6.400625228881836, + "learning_rate": 3.582318358112195e-06, + "loss": 0.1419, + "num_input_tokens_seen": 15869024, + "step": 8098 + }, + { + "epoch": 1.073426110006627, + "grad_norm": 9.621027946472168, + "learning_rate": 3.582005428104133e-06, + "loss": 0.084, + "num_input_tokens_seen": 15871512, + "step": 8099 + }, + { + "epoch": 1.073558648111332, + "grad_norm": 5.116708755493164, + "learning_rate": 3.5816924772342597e-06, + "loss": 0.0327, + "num_input_tokens_seen": 15873256, + "step": 8100 + }, + { + "epoch": 1.0736911862160372, + "grad_norm": 0.0987025648355484, + "learning_rate": 3.5813795055086105e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15875008, + "step": 8101 + }, + { + "epoch": 1.0738237243207422, + "grad_norm": 4.944706439971924, + "learning_rate": 3.581066512933217e-06, + "loss": 0.0325, + "num_input_tokens_seen": 15877008, + "step": 8102 + }, + { + "epoch": 1.0739562624254473, + "grad_norm": 5.2322678565979, + "learning_rate": 3.5807534995141156e-06, + "loss": 0.0574, + "num_input_tokens_seen": 15878952, + "step": 8103 + }, + { + "epoch": 1.0740888005301523, + "grad_norm": 8.959538459777832, + "learning_rate": 3.580440465257341e-06, + "loss": 0.1042, + "num_input_tokens_seen": 15881408, + "step": 8104 + }, + { + "epoch": 1.0742213386348576, + "grad_norm": 1.8725056648254395, + "learning_rate": 3.5801274101689292e-06, + "loss": 0.0081, + "num_input_tokens_seen": 15883824, + "step": 8105 + }, + { + "epoch": 1.0743538767395626, + "grad_norm": 2.592747449874878, + "learning_rate": 3.5798143342549164e-06, + "loss": 0.0238, + "num_input_tokens_seen": 15885720, + "step": 8106 + }, + { + "epoch": 1.0744864148442677, + "grad_norm": 6.40894889831543, + "learning_rate": 3.5795012375213373e-06, + "loss": 0.1735, + "num_input_tokens_seen": 15888392, + "step": 8107 + }, + { + "epoch": 1.074618952948973, + "grad_norm": 0.06675010919570923, + "learning_rate": 3.5791881199742295e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15890144, + "step": 8108 + }, + { + "epoch": 1.074751491053678, + "grad_norm": 5.444103240966797, + "learning_rate": 3.5788749816196316e-06, + "loss": 0.1699, + "num_input_tokens_seen": 15892288, + "step": 8109 + }, + { + "epoch": 1.074884029158383, + "grad_norm": 11.893511772155762, + "learning_rate": 3.5785618224635787e-06, + "loss": 0.0667, + "num_input_tokens_seen": 15893912, + "step": 8110 + }, + { + "epoch": 1.0750165672630883, + "grad_norm": 8.7160005569458, + "learning_rate": 3.5782486425121097e-06, + "loss": 0.1929, + "num_input_tokens_seen": 15896080, + "step": 8111 + }, + { + "epoch": 1.0751491053677933, + "grad_norm": 8.394972801208496, + "learning_rate": 3.5779354417712635e-06, + "loss": 0.1596, + "num_input_tokens_seen": 15898248, + "step": 8112 + }, + { + "epoch": 1.0752816434724983, + "grad_norm": 1.3126581907272339, + "learning_rate": 3.5776222202470782e-06, + "loss": 0.0032, + "num_input_tokens_seen": 15901040, + "step": 8113 + }, + { + "epoch": 1.0754141815772034, + "grad_norm": 7.538087368011475, + "learning_rate": 3.577308977945593e-06, + "loss": 0.1423, + "num_input_tokens_seen": 15903304, + "step": 8114 + }, + { + "epoch": 1.0755467196819086, + "grad_norm": 0.28379806876182556, + "learning_rate": 3.576995714872848e-06, + "loss": 0.0039, + "num_input_tokens_seen": 15905280, + "step": 8115 + }, + { + "epoch": 1.0756792577866137, + "grad_norm": 0.036194901913404465, + "learning_rate": 3.5766824310348824e-06, + "loss": 0.0002, + "num_input_tokens_seen": 15906592, + "step": 8116 + }, + { + "epoch": 1.0758117958913187, + "grad_norm": 9.973142623901367, + "learning_rate": 3.576369126437736e-06, + "loss": 0.1383, + "num_input_tokens_seen": 15908592, + "step": 8117 + }, + { + "epoch": 1.075944333996024, + "grad_norm": 0.06339427083730698, + "learning_rate": 3.5760558010874515e-06, + "loss": 0.0005, + "num_input_tokens_seen": 15910848, + "step": 8118 + }, + { + "epoch": 1.076076872100729, + "grad_norm": 13.152695655822754, + "learning_rate": 3.5757424549900684e-06, + "loss": 0.4119, + "num_input_tokens_seen": 15912784, + "step": 8119 + }, + { + "epoch": 1.076209410205434, + "grad_norm": 1.4193695783615112, + "learning_rate": 3.575429088151628e-06, + "loss": 0.0279, + "num_input_tokens_seen": 15914432, + "step": 8120 + }, + { + "epoch": 1.076341948310139, + "grad_norm": 7.375639915466309, + "learning_rate": 3.5751157005781733e-06, + "loss": 0.0785, + "num_input_tokens_seen": 15917184, + "step": 8121 + }, + { + "epoch": 1.0764744864148443, + "grad_norm": 10.823859214782715, + "learning_rate": 3.5748022922757464e-06, + "loss": 0.4937, + "num_input_tokens_seen": 15919072, + "step": 8122 + }, + { + "epoch": 1.0766070245195494, + "grad_norm": 1.9543877840042114, + "learning_rate": 3.5744888632503895e-06, + "loss": 0.0392, + "num_input_tokens_seen": 15920616, + "step": 8123 + }, + { + "epoch": 1.0767395626242544, + "grad_norm": 5.766176223754883, + "learning_rate": 3.574175413508146e-06, + "loss": 0.1383, + "num_input_tokens_seen": 15922632, + "step": 8124 + }, + { + "epoch": 1.0768721007289597, + "grad_norm": 3.0857796669006348, + "learning_rate": 3.5738619430550604e-06, + "loss": 0.0551, + "num_input_tokens_seen": 15925224, + "step": 8125 + }, + { + "epoch": 1.0770046388336647, + "grad_norm": 0.8152457475662231, + "learning_rate": 3.5735484518971746e-06, + "loss": 0.0141, + "num_input_tokens_seen": 15927176, + "step": 8126 + }, + { + "epoch": 1.0771371769383697, + "grad_norm": 2.7200238704681396, + "learning_rate": 3.5732349400405352e-06, + "loss": 0.0507, + "num_input_tokens_seen": 15929656, + "step": 8127 + }, + { + "epoch": 1.0772697150430748, + "grad_norm": 5.794968128204346, + "learning_rate": 3.572921407491185e-06, + "loss": 0.1987, + "num_input_tokens_seen": 15931800, + "step": 8128 + }, + { + "epoch": 1.07740225314778, + "grad_norm": 7.812846660614014, + "learning_rate": 3.5726078542551697e-06, + "loss": 0.1798, + "num_input_tokens_seen": 15934648, + "step": 8129 + }, + { + "epoch": 1.077534791252485, + "grad_norm": 6.983575820922852, + "learning_rate": 3.572294280338535e-06, + "loss": 0.2329, + "num_input_tokens_seen": 15936544, + "step": 8130 + }, + { + "epoch": 1.0776673293571901, + "grad_norm": 7.1914753913879395, + "learning_rate": 3.571980685747328e-06, + "loss": 0.1489, + "num_input_tokens_seen": 15938160, + "step": 8131 + }, + { + "epoch": 1.0777998674618954, + "grad_norm": 1.1720621585845947, + "learning_rate": 3.571667070487592e-06, + "loss": 0.0187, + "num_input_tokens_seen": 15940000, + "step": 8132 + }, + { + "epoch": 1.0779324055666004, + "grad_norm": 7.3055195808410645, + "learning_rate": 3.5713534345653768e-06, + "loss": 0.1616, + "num_input_tokens_seen": 15941856, + "step": 8133 + }, + { + "epoch": 1.0780649436713055, + "grad_norm": 1.5841007232666016, + "learning_rate": 3.5710397779867286e-06, + "loss": 0.0049, + "num_input_tokens_seen": 15943352, + "step": 8134 + }, + { + "epoch": 1.0781974817760105, + "grad_norm": 4.9820942878723145, + "learning_rate": 3.570726100757693e-06, + "loss": 0.1462, + "num_input_tokens_seen": 15945064, + "step": 8135 + }, + { + "epoch": 1.0783300198807158, + "grad_norm": 8.949235916137695, + "learning_rate": 3.570412402884321e-06, + "loss": 0.2062, + "num_input_tokens_seen": 15946616, + "step": 8136 + }, + { + "epoch": 1.0784625579854208, + "grad_norm": 0.11764899641275406, + "learning_rate": 3.570098684372659e-06, + "loss": 0.0007, + "num_input_tokens_seen": 15947768, + "step": 8137 + }, + { + "epoch": 1.0785950960901258, + "grad_norm": 11.29038143157959, + "learning_rate": 3.5697849452287565e-06, + "loss": 0.3404, + "num_input_tokens_seen": 15950504, + "step": 8138 + }, + { + "epoch": 1.078727634194831, + "grad_norm": 11.140201568603516, + "learning_rate": 3.5694711854586623e-06, + "loss": 0.2069, + "num_input_tokens_seen": 15952096, + "step": 8139 + }, + { + "epoch": 1.0788601722995361, + "grad_norm": 0.0532853864133358, + "learning_rate": 3.569157405068425e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15953768, + "step": 8140 + }, + { + "epoch": 1.0789927104042412, + "grad_norm": 0.04913414269685745, + "learning_rate": 3.5688436040640956e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15955416, + "step": 8141 + }, + { + "epoch": 1.0791252485089464, + "grad_norm": 6.232329368591309, + "learning_rate": 3.5685297824517253e-06, + "loss": 0.0786, + "num_input_tokens_seen": 15957624, + "step": 8142 + }, + { + "epoch": 1.0792577866136515, + "grad_norm": 2.941006660461426, + "learning_rate": 3.568215940237362e-06, + "loss": 0.057, + "num_input_tokens_seen": 15959456, + "step": 8143 + }, + { + "epoch": 1.0793903247183565, + "grad_norm": 0.049006737768650055, + "learning_rate": 3.567902077427059e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15960432, + "step": 8144 + }, + { + "epoch": 1.0795228628230615, + "grad_norm": 6.584778308868408, + "learning_rate": 3.567588194026868e-06, + "loss": 0.0863, + "num_input_tokens_seen": 15962376, + "step": 8145 + }, + { + "epoch": 1.0796554009277668, + "grad_norm": 3.96089768409729, + "learning_rate": 3.5672742900428394e-06, + "loss": 0.0207, + "num_input_tokens_seen": 15964544, + "step": 8146 + }, + { + "epoch": 1.0797879390324718, + "grad_norm": 10.333329200744629, + "learning_rate": 3.5669603654810262e-06, + "loss": 0.2505, + "num_input_tokens_seen": 15966904, + "step": 8147 + }, + { + "epoch": 1.0799204771371769, + "grad_norm": 4.460213661193848, + "learning_rate": 3.5666464203474814e-06, + "loss": 0.0738, + "num_input_tokens_seen": 15968640, + "step": 8148 + }, + { + "epoch": 1.0800530152418821, + "grad_norm": 8.36618709564209, + "learning_rate": 3.5663324546482574e-06, + "loss": 0.2368, + "num_input_tokens_seen": 15971320, + "step": 8149 + }, + { + "epoch": 1.0801855533465872, + "grad_norm": 4.934171676635742, + "learning_rate": 3.5660184683894085e-06, + "loss": 0.0418, + "num_input_tokens_seen": 15973416, + "step": 8150 + }, + { + "epoch": 1.0803180914512922, + "grad_norm": 10.742892265319824, + "learning_rate": 3.5657044615769874e-06, + "loss": 0.2656, + "num_input_tokens_seen": 15975560, + "step": 8151 + }, + { + "epoch": 1.0804506295559975, + "grad_norm": 0.1110231950879097, + "learning_rate": 3.5653904342170497e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15976832, + "step": 8152 + }, + { + "epoch": 1.0805831676607025, + "grad_norm": 0.21634437143802643, + "learning_rate": 3.5650763863156503e-06, + "loss": 0.0014, + "num_input_tokens_seen": 15978912, + "step": 8153 + }, + { + "epoch": 1.0807157057654075, + "grad_norm": 4.954441547393799, + "learning_rate": 3.564762317878842e-06, + "loss": 0.0684, + "num_input_tokens_seen": 15980856, + "step": 8154 + }, + { + "epoch": 1.0808482438701126, + "grad_norm": 2.1595606803894043, + "learning_rate": 3.564448228912682e-06, + "loss": 0.0185, + "num_input_tokens_seen": 15982376, + "step": 8155 + }, + { + "epoch": 1.0809807819748178, + "grad_norm": 3.8298614025115967, + "learning_rate": 3.564134119423226e-06, + "loss": 0.0246, + "num_input_tokens_seen": 15984160, + "step": 8156 + }, + { + "epoch": 1.0811133200795229, + "grad_norm": 6.214467525482178, + "learning_rate": 3.56381998941653e-06, + "loss": 0.1867, + "num_input_tokens_seen": 15986176, + "step": 8157 + }, + { + "epoch": 1.081245858184228, + "grad_norm": 9.021778106689453, + "learning_rate": 3.5635058388986508e-06, + "loss": 0.04, + "num_input_tokens_seen": 15987672, + "step": 8158 + }, + { + "epoch": 1.0813783962889332, + "grad_norm": 11.224575996398926, + "learning_rate": 3.5631916678756453e-06, + "loss": 0.135, + "num_input_tokens_seen": 15990824, + "step": 8159 + }, + { + "epoch": 1.0815109343936382, + "grad_norm": 0.042119693011045456, + "learning_rate": 3.5628774763535713e-06, + "loss": 0.0003, + "num_input_tokens_seen": 15992128, + "step": 8160 + }, + { + "epoch": 1.0816434724983433, + "grad_norm": 0.1152798980474472, + "learning_rate": 3.5625632643384855e-06, + "loss": 0.0008, + "num_input_tokens_seen": 15993888, + "step": 8161 + }, + { + "epoch": 1.0817760106030483, + "grad_norm": 5.699147701263428, + "learning_rate": 3.5622490318364476e-06, + "loss": 0.145, + "num_input_tokens_seen": 15996088, + "step": 8162 + }, + { + "epoch": 1.0819085487077535, + "grad_norm": 8.137140274047852, + "learning_rate": 3.561934778853515e-06, + "loss": 0.1752, + "num_input_tokens_seen": 15997904, + "step": 8163 + }, + { + "epoch": 1.0820410868124586, + "grad_norm": 0.05584509298205376, + "learning_rate": 3.5616205053957474e-06, + "loss": 0.0004, + "num_input_tokens_seen": 15999824, + "step": 8164 + }, + { + "epoch": 1.0821736249171636, + "grad_norm": 0.4254057705402374, + "learning_rate": 3.561306211469205e-06, + "loss": 0.0025, + "num_input_tokens_seen": 16002496, + "step": 8165 + }, + { + "epoch": 1.0823061630218689, + "grad_norm": 0.2343982309103012, + "learning_rate": 3.5609918970799464e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16004448, + "step": 8166 + }, + { + "epoch": 1.082438701126574, + "grad_norm": 4.10145378112793, + "learning_rate": 3.5606775622340307e-06, + "loss": 0.0292, + "num_input_tokens_seen": 16006984, + "step": 8167 + }, + { + "epoch": 1.082571239231279, + "grad_norm": 0.07509990781545639, + "learning_rate": 3.5603632069375215e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16008464, + "step": 8168 + }, + { + "epoch": 1.082703777335984, + "grad_norm": 15.488178253173828, + "learning_rate": 3.5600488311964778e-06, + "loss": 0.38, + "num_input_tokens_seen": 16010672, + "step": 8169 + }, + { + "epoch": 1.0828363154406893, + "grad_norm": 0.6473097801208496, + "learning_rate": 3.5597344350169606e-06, + "loss": 0.0061, + "num_input_tokens_seen": 16012088, + "step": 8170 + }, + { + "epoch": 1.0829688535453943, + "grad_norm": 9.896974563598633, + "learning_rate": 3.559420018405033e-06, + "loss": 0.2312, + "num_input_tokens_seen": 16015128, + "step": 8171 + }, + { + "epoch": 1.0831013916500993, + "grad_norm": 11.054922103881836, + "learning_rate": 3.559105581366756e-06, + "loss": 0.2444, + "num_input_tokens_seen": 16017160, + "step": 8172 + }, + { + "epoch": 1.0832339297548046, + "grad_norm": 1.8386130332946777, + "learning_rate": 3.5587911239081936e-06, + "loss": 0.0254, + "num_input_tokens_seen": 16018464, + "step": 8173 + }, + { + "epoch": 1.0833664678595096, + "grad_norm": 0.040409430861473083, + "learning_rate": 3.5584766460354073e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16019544, + "step": 8174 + }, + { + "epoch": 1.0834990059642147, + "grad_norm": 5.590936183929443, + "learning_rate": 3.558162147754462e-06, + "loss": 0.2231, + "num_input_tokens_seen": 16022496, + "step": 8175 + }, + { + "epoch": 1.0836315440689197, + "grad_norm": 0.08457775413990021, + "learning_rate": 3.557847629071419e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16023560, + "step": 8176 + }, + { + "epoch": 1.083764082173625, + "grad_norm": 6.011713981628418, + "learning_rate": 3.5575330899923456e-06, + "loss": 0.1792, + "num_input_tokens_seen": 16024904, + "step": 8177 + }, + { + "epoch": 1.08389662027833, + "grad_norm": 0.1273772418498993, + "learning_rate": 3.557218530523304e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16026408, + "step": 8178 + }, + { + "epoch": 1.084029158383035, + "grad_norm": 0.2513926923274994, + "learning_rate": 3.5569039506703583e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16027736, + "step": 8179 + }, + { + "epoch": 1.0841616964877403, + "grad_norm": 2.227747917175293, + "learning_rate": 3.5565893504395776e-06, + "loss": 0.017, + "num_input_tokens_seen": 16029384, + "step": 8180 + }, + { + "epoch": 1.0842942345924453, + "grad_norm": 11.231149673461914, + "learning_rate": 3.5562747298370247e-06, + "loss": 0.0915, + "num_input_tokens_seen": 16031272, + "step": 8181 + }, + { + "epoch": 1.0844267726971504, + "grad_norm": 5.937643051147461, + "learning_rate": 3.5559600888687653e-06, + "loss": 0.1258, + "num_input_tokens_seen": 16032912, + "step": 8182 + }, + { + "epoch": 1.0845593108018556, + "grad_norm": 6.154516220092773, + "learning_rate": 3.5556454275408683e-06, + "loss": 0.096, + "num_input_tokens_seen": 16035176, + "step": 8183 + }, + { + "epoch": 1.0846918489065607, + "grad_norm": 0.14566108584403992, + "learning_rate": 3.5553307458593985e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16036544, + "step": 8184 + }, + { + "epoch": 1.0848243870112657, + "grad_norm": 3.7918355464935303, + "learning_rate": 3.555016043830423e-06, + "loss": 0.116, + "num_input_tokens_seen": 16038952, + "step": 8185 + }, + { + "epoch": 1.0849569251159707, + "grad_norm": 0.853606104850769, + "learning_rate": 3.554701321460012e-06, + "loss": 0.0053, + "num_input_tokens_seen": 16040448, + "step": 8186 + }, + { + "epoch": 1.085089463220676, + "grad_norm": 1.653964877128601, + "learning_rate": 3.5543865787542308e-06, + "loss": 0.0193, + "num_input_tokens_seen": 16042320, + "step": 8187 + }, + { + "epoch": 1.085222001325381, + "grad_norm": 15.24460220336914, + "learning_rate": 3.554071815719149e-06, + "loss": 0.1534, + "num_input_tokens_seen": 16044096, + "step": 8188 + }, + { + "epoch": 1.085354539430086, + "grad_norm": 5.259398460388184, + "learning_rate": 3.553757032360836e-06, + "loss": 0.0402, + "num_input_tokens_seen": 16046064, + "step": 8189 + }, + { + "epoch": 1.0854870775347913, + "grad_norm": 0.33785828948020935, + "learning_rate": 3.55344222868536e-06, + "loss": 0.0024, + "num_input_tokens_seen": 16047432, + "step": 8190 + }, + { + "epoch": 1.0856196156394964, + "grad_norm": 0.049030616879463196, + "learning_rate": 3.553127404698792e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16048880, + "step": 8191 + }, + { + "epoch": 1.0857521537442014, + "grad_norm": 0.11163589358329773, + "learning_rate": 3.5528125604072e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16051056, + "step": 8192 + }, + { + "epoch": 1.0858846918489065, + "grad_norm": 0.04698791354894638, + "learning_rate": 3.5524976958166563e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16052200, + "step": 8193 + }, + { + "epoch": 1.0860172299536117, + "grad_norm": 2.4435131549835205, + "learning_rate": 3.55218281093323e-06, + "loss": 0.0255, + "num_input_tokens_seen": 16053704, + "step": 8194 + }, + { + "epoch": 1.0861497680583168, + "grad_norm": 1.1539897918701172, + "learning_rate": 3.551867905762994e-06, + "loss": 0.0136, + "num_input_tokens_seen": 16055592, + "step": 8195 + }, + { + "epoch": 1.0862823061630218, + "grad_norm": 10.937845230102539, + "learning_rate": 3.5515529803120195e-06, + "loss": 0.0967, + "num_input_tokens_seen": 16057584, + "step": 8196 + }, + { + "epoch": 1.086414844267727, + "grad_norm": 0.058928750455379486, + "learning_rate": 3.5512380345863773e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16059104, + "step": 8197 + }, + { + "epoch": 1.086547382372432, + "grad_norm": 2.5197365283966064, + "learning_rate": 3.550923068592141e-06, + "loss": 0.0428, + "num_input_tokens_seen": 16060224, + "step": 8198 + }, + { + "epoch": 1.0866799204771371, + "grad_norm": 8.676409721374512, + "learning_rate": 3.5506080823353834e-06, + "loss": 0.1122, + "num_input_tokens_seen": 16061776, + "step": 8199 + }, + { + "epoch": 1.0868124585818424, + "grad_norm": 0.09996600449085236, + "learning_rate": 3.5502930758221756e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16062992, + "step": 8200 + }, + { + "epoch": 1.0869449966865474, + "grad_norm": 0.052888184785842896, + "learning_rate": 3.5499780490585946e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16064352, + "step": 8201 + }, + { + "epoch": 1.0870775347912525, + "grad_norm": 1.610395073890686, + "learning_rate": 3.549663002050711e-06, + "loss": 0.0141, + "num_input_tokens_seen": 16066832, + "step": 8202 + }, + { + "epoch": 1.0872100728959575, + "grad_norm": 4.254324913024902, + "learning_rate": 3.5493479348046013e-06, + "loss": 0.1132, + "num_input_tokens_seen": 16068752, + "step": 8203 + }, + { + "epoch": 1.0873426110006628, + "grad_norm": 8.843944549560547, + "learning_rate": 3.54903284732634e-06, + "loss": 0.2142, + "num_input_tokens_seen": 16070552, + "step": 8204 + }, + { + "epoch": 1.0874751491053678, + "grad_norm": 18.701635360717773, + "learning_rate": 3.5487177396220005e-06, + "loss": 0.4981, + "num_input_tokens_seen": 16073208, + "step": 8205 + }, + { + "epoch": 1.0876076872100728, + "grad_norm": 5.607776165008545, + "learning_rate": 3.5484026116976604e-06, + "loss": 0.0783, + "num_input_tokens_seen": 16074728, + "step": 8206 + }, + { + "epoch": 1.087740225314778, + "grad_norm": 3.237525463104248, + "learning_rate": 3.548087463559395e-06, + "loss": 0.0489, + "num_input_tokens_seen": 16076472, + "step": 8207 + }, + { + "epoch": 1.0878727634194831, + "grad_norm": 9.666227340698242, + "learning_rate": 3.5477722952132792e-06, + "loss": 0.25, + "num_input_tokens_seen": 16078312, + "step": 8208 + }, + { + "epoch": 1.0880053015241882, + "grad_norm": 0.1694585084915161, + "learning_rate": 3.5474571066653914e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16079808, + "step": 8209 + }, + { + "epoch": 1.0881378396288932, + "grad_norm": 0.09490477293729782, + "learning_rate": 3.547141897921808e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16081360, + "step": 8210 + }, + { + "epoch": 1.0882703777335985, + "grad_norm": 6.817934036254883, + "learning_rate": 3.546826668988606e-06, + "loss": 0.0327, + "num_input_tokens_seen": 16083088, + "step": 8211 + }, + { + "epoch": 1.0884029158383035, + "grad_norm": 0.13362659513950348, + "learning_rate": 3.546511419871864e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16085696, + "step": 8212 + }, + { + "epoch": 1.0885354539430085, + "grad_norm": 11.052128791809082, + "learning_rate": 3.5461961505776598e-06, + "loss": 0.3462, + "num_input_tokens_seen": 16087800, + "step": 8213 + }, + { + "epoch": 1.0886679920477138, + "grad_norm": 8.090506553649902, + "learning_rate": 3.5458808611120715e-06, + "loss": 0.1688, + "num_input_tokens_seen": 16089960, + "step": 8214 + }, + { + "epoch": 1.0888005301524188, + "grad_norm": 0.11798691004514694, + "learning_rate": 3.54556555148118e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16092680, + "step": 8215 + }, + { + "epoch": 1.0889330682571239, + "grad_norm": 5.873249530792236, + "learning_rate": 3.5452502216910623e-06, + "loss": 0.0934, + "num_input_tokens_seen": 16094648, + "step": 8216 + }, + { + "epoch": 1.089065606361829, + "grad_norm": 0.47509628534317017, + "learning_rate": 3.5449348717477993e-06, + "loss": 0.0033, + "num_input_tokens_seen": 16096064, + "step": 8217 + }, + { + "epoch": 1.0891981444665342, + "grad_norm": 10.27983570098877, + "learning_rate": 3.5446195016574714e-06, + "loss": 0.2465, + "num_input_tokens_seen": 16099016, + "step": 8218 + }, + { + "epoch": 1.0893306825712392, + "grad_norm": 0.7238097786903381, + "learning_rate": 3.544304111426159e-06, + "loss": 0.005, + "num_input_tokens_seen": 16101480, + "step": 8219 + }, + { + "epoch": 1.0894632206759443, + "grad_norm": 0.3214225471019745, + "learning_rate": 3.5439887010599427e-06, + "loss": 0.0022, + "num_input_tokens_seen": 16103272, + "step": 8220 + }, + { + "epoch": 1.0895957587806495, + "grad_norm": 7.985569477081299, + "learning_rate": 3.543673270564904e-06, + "loss": 0.0627, + "num_input_tokens_seen": 16104576, + "step": 8221 + }, + { + "epoch": 1.0897282968853546, + "grad_norm": 4.76102876663208, + "learning_rate": 3.5433578199471254e-06, + "loss": 0.1557, + "num_input_tokens_seen": 16106936, + "step": 8222 + }, + { + "epoch": 1.0898608349900596, + "grad_norm": 2.316457509994507, + "learning_rate": 3.543042349212687e-06, + "loss": 0.0096, + "num_input_tokens_seen": 16108120, + "step": 8223 + }, + { + "epoch": 1.0899933730947646, + "grad_norm": 6.312108516693115, + "learning_rate": 3.542726858367673e-06, + "loss": 0.0819, + "num_input_tokens_seen": 16109664, + "step": 8224 + }, + { + "epoch": 1.0901259111994699, + "grad_norm": 1.4967623949050903, + "learning_rate": 3.5424113474181665e-06, + "loss": 0.0174, + "num_input_tokens_seen": 16111752, + "step": 8225 + }, + { + "epoch": 1.090258449304175, + "grad_norm": 0.6069185733795166, + "learning_rate": 3.542095816370249e-06, + "loss": 0.0035, + "num_input_tokens_seen": 16113936, + "step": 8226 + }, + { + "epoch": 1.09039098740888, + "grad_norm": 5.663053035736084, + "learning_rate": 3.541780265230006e-06, + "loss": 0.1568, + "num_input_tokens_seen": 16116304, + "step": 8227 + }, + { + "epoch": 1.0905235255135852, + "grad_norm": 1.1117454767227173, + "learning_rate": 3.5414646940035206e-06, + "loss": 0.0093, + "num_input_tokens_seen": 16117656, + "step": 8228 + }, + { + "epoch": 1.0906560636182903, + "grad_norm": 11.32906436920166, + "learning_rate": 3.5411491026968768e-06, + "loss": 0.521, + "num_input_tokens_seen": 16121344, + "step": 8229 + }, + { + "epoch": 1.0907886017229953, + "grad_norm": 1.6885398626327515, + "learning_rate": 3.540833491316161e-06, + "loss": 0.0139, + "num_input_tokens_seen": 16123056, + "step": 8230 + }, + { + "epoch": 1.0909211398277006, + "grad_norm": 0.07304983586072922, + "learning_rate": 3.5405178598674574e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16125568, + "step": 8231 + }, + { + "epoch": 1.0910536779324056, + "grad_norm": 8.944059371948242, + "learning_rate": 3.540202208356851e-06, + "loss": 0.1175, + "num_input_tokens_seen": 16127856, + "step": 8232 + }, + { + "epoch": 1.0911862160371106, + "grad_norm": 0.015177439898252487, + "learning_rate": 3.5398865367904288e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16128880, + "step": 8233 + }, + { + "epoch": 1.0913187541418157, + "grad_norm": 0.01764591410756111, + "learning_rate": 3.539570845174277e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16130376, + "step": 8234 + }, + { + "epoch": 1.091451292246521, + "grad_norm": 1.2147263288497925, + "learning_rate": 3.5392551335144822e-06, + "loss": 0.0076, + "num_input_tokens_seen": 16132784, + "step": 8235 + }, + { + "epoch": 1.091583830351226, + "grad_norm": 6.77931022644043, + "learning_rate": 3.5389394018171308e-06, + "loss": 0.1096, + "num_input_tokens_seen": 16134688, + "step": 8236 + }, + { + "epoch": 1.091716368455931, + "grad_norm": 0.014793340116739273, + "learning_rate": 3.538623650088312e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16135752, + "step": 8237 + }, + { + "epoch": 1.0918489065606363, + "grad_norm": 2.4918525218963623, + "learning_rate": 3.5383078783341118e-06, + "loss": 0.051, + "num_input_tokens_seen": 16138432, + "step": 8238 + }, + { + "epoch": 1.0919814446653413, + "grad_norm": 4.628347396850586, + "learning_rate": 3.53799208656062e-06, + "loss": 0.0759, + "num_input_tokens_seen": 16140408, + "step": 8239 + }, + { + "epoch": 1.0921139827700463, + "grad_norm": 0.2055290788412094, + "learning_rate": 3.5376762747739244e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16141896, + "step": 8240 + }, + { + "epoch": 1.0922465208747516, + "grad_norm": 9.050737380981445, + "learning_rate": 3.5373604429801146e-06, + "loss": 0.1521, + "num_input_tokens_seen": 16144272, + "step": 8241 + }, + { + "epoch": 1.0923790589794566, + "grad_norm": 0.31272488832473755, + "learning_rate": 3.537044591185279e-06, + "loss": 0.001, + "num_input_tokens_seen": 16145920, + "step": 8242 + }, + { + "epoch": 1.0925115970841617, + "grad_norm": 4.944389820098877, + "learning_rate": 3.536728719395509e-06, + "loss": 0.1488, + "num_input_tokens_seen": 16147392, + "step": 8243 + }, + { + "epoch": 1.0926441351888667, + "grad_norm": 0.00924631766974926, + "learning_rate": 3.5364128276168943e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16149376, + "step": 8244 + }, + { + "epoch": 1.092776673293572, + "grad_norm": 7.475938320159912, + "learning_rate": 3.5360969158555247e-06, + "loss": 0.1904, + "num_input_tokens_seen": 16151280, + "step": 8245 + }, + { + "epoch": 1.092909211398277, + "grad_norm": 0.08372288942337036, + "learning_rate": 3.535780984117493e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16153240, + "step": 8246 + }, + { + "epoch": 1.093041749502982, + "grad_norm": 0.40021905303001404, + "learning_rate": 3.5354650324088874e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16155856, + "step": 8247 + }, + { + "epoch": 1.0931742876076873, + "grad_norm": 0.009994975291192532, + "learning_rate": 3.535149060735803e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16158192, + "step": 8248 + }, + { + "epoch": 1.0933068257123923, + "grad_norm": 6.496945381164551, + "learning_rate": 3.5348330691043303e-06, + "loss": 0.1516, + "num_input_tokens_seen": 16159760, + "step": 8249 + }, + { + "epoch": 1.0934393638170974, + "grad_norm": 0.004689021036028862, + "learning_rate": 3.5345170575205616e-06, + "loss": 0.0, + "num_input_tokens_seen": 16160992, + "step": 8250 + }, + { + "epoch": 1.0935719019218024, + "grad_norm": 0.012878828682005405, + "learning_rate": 3.5342010259905913e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16162680, + "step": 8251 + }, + { + "epoch": 1.0937044400265077, + "grad_norm": 0.017912013456225395, + "learning_rate": 3.5338849745205116e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16164376, + "step": 8252 + }, + { + "epoch": 1.0938369781312127, + "grad_norm": 0.024705074727535248, + "learning_rate": 3.5335689031164157e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16165576, + "step": 8253 + }, + { + "epoch": 1.0939695162359178, + "grad_norm": 8.418940544128418, + "learning_rate": 3.533252811784399e-06, + "loss": 0.0689, + "num_input_tokens_seen": 16167008, + "step": 8254 + }, + { + "epoch": 1.094102054340623, + "grad_norm": 2.623546838760376, + "learning_rate": 3.532936700530555e-06, + "loss": 0.0169, + "num_input_tokens_seen": 16168376, + "step": 8255 + }, + { + "epoch": 1.094234592445328, + "grad_norm": 12.64990520477295, + "learning_rate": 3.532620569360979e-06, + "loss": 0.3545, + "num_input_tokens_seen": 16169728, + "step": 8256 + }, + { + "epoch": 1.094367130550033, + "grad_norm": 0.006974699441343546, + "learning_rate": 3.5323044182817657e-06, + "loss": 0.0, + "num_input_tokens_seen": 16171224, + "step": 8257 + }, + { + "epoch": 1.0944996686547381, + "grad_norm": 0.28953295946121216, + "learning_rate": 3.531988247299011e-06, + "loss": 0.0019, + "num_input_tokens_seen": 16173008, + "step": 8258 + }, + { + "epoch": 1.0946322067594434, + "grad_norm": 0.00885310210287571, + "learning_rate": 3.531672056418811e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16175528, + "step": 8259 + }, + { + "epoch": 1.0947647448641484, + "grad_norm": 15.129582405090332, + "learning_rate": 3.5313558456472623e-06, + "loss": 0.0934, + "num_input_tokens_seen": 16177704, + "step": 8260 + }, + { + "epoch": 1.0948972829688535, + "grad_norm": 16.722957611083984, + "learning_rate": 3.531039614990462e-06, + "loss": 0.4819, + "num_input_tokens_seen": 16180488, + "step": 8261 + }, + { + "epoch": 1.0950298210735587, + "grad_norm": 0.0044142683036625385, + "learning_rate": 3.530723364454505e-06, + "loss": 0.0, + "num_input_tokens_seen": 16181728, + "step": 8262 + }, + { + "epoch": 1.0951623591782638, + "grad_norm": 4.102495193481445, + "learning_rate": 3.5304070940454922e-06, + "loss": 0.1115, + "num_input_tokens_seen": 16183368, + "step": 8263 + }, + { + "epoch": 1.0952948972829688, + "grad_norm": 9.280797004699707, + "learning_rate": 3.5300908037695193e-06, + "loss": 0.0819, + "num_input_tokens_seen": 16186592, + "step": 8264 + }, + { + "epoch": 1.0954274353876738, + "grad_norm": 15.228312492370605, + "learning_rate": 3.5297744936326842e-06, + "loss": 0.1209, + "num_input_tokens_seen": 16188424, + "step": 8265 + }, + { + "epoch": 1.095559973492379, + "grad_norm": 0.009741786867380142, + "learning_rate": 3.5294581636410873e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16189904, + "step": 8266 + }, + { + "epoch": 1.0956925115970841, + "grad_norm": 3.496364116668701, + "learning_rate": 3.5291418138008266e-06, + "loss": 0.1001, + "num_input_tokens_seen": 16191440, + "step": 8267 + }, + { + "epoch": 1.0958250497017892, + "grad_norm": 8.591773986816406, + "learning_rate": 3.5288254441180014e-06, + "loss": 0.2504, + "num_input_tokens_seen": 16194280, + "step": 8268 + }, + { + "epoch": 1.0959575878064944, + "grad_norm": 0.195570170879364, + "learning_rate": 3.528509054598713e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16196424, + "step": 8269 + }, + { + "epoch": 1.0960901259111995, + "grad_norm": 0.03169688209891319, + "learning_rate": 3.5281926452490593e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16198816, + "step": 8270 + }, + { + "epoch": 1.0962226640159045, + "grad_norm": 0.022248223423957825, + "learning_rate": 3.5278762160751427e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16200040, + "step": 8271 + }, + { + "epoch": 1.0963552021206098, + "grad_norm": 0.07524771243333817, + "learning_rate": 3.5275597670830636e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16201832, + "step": 8272 + }, + { + "epoch": 1.0964877402253148, + "grad_norm": 28.33182716369629, + "learning_rate": 3.527243298278923e-06, + "loss": 0.0846, + "num_input_tokens_seen": 16204240, + "step": 8273 + }, + { + "epoch": 1.0966202783300198, + "grad_norm": 2.217759132385254, + "learning_rate": 3.526926809668823e-06, + "loss": 0.0236, + "num_input_tokens_seen": 16206720, + "step": 8274 + }, + { + "epoch": 1.0967528164347249, + "grad_norm": 11.358010292053223, + "learning_rate": 3.526610301258866e-06, + "loss": 0.3215, + "num_input_tokens_seen": 16208760, + "step": 8275 + }, + { + "epoch": 1.0968853545394301, + "grad_norm": 0.03283505514264107, + "learning_rate": 3.526293773055154e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16211024, + "step": 8276 + }, + { + "epoch": 1.0970178926441352, + "grad_norm": 0.012253843247890472, + "learning_rate": 3.5259772250637897e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16212528, + "step": 8277 + }, + { + "epoch": 1.0971504307488402, + "grad_norm": 0.20125627517700195, + "learning_rate": 3.525660657290877e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16213928, + "step": 8278 + }, + { + "epoch": 1.0972829688535455, + "grad_norm": 0.13756966590881348, + "learning_rate": 3.5253440697425197e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16216928, + "step": 8279 + }, + { + "epoch": 1.0974155069582505, + "grad_norm": 8.94886302947998, + "learning_rate": 3.5250274624248205e-06, + "loss": 0.2819, + "num_input_tokens_seen": 16219200, + "step": 8280 + }, + { + "epoch": 1.0975480450629556, + "grad_norm": 18.615583419799805, + "learning_rate": 3.524710835343885e-06, + "loss": 0.1888, + "num_input_tokens_seen": 16221584, + "step": 8281 + }, + { + "epoch": 1.0976805831676608, + "grad_norm": 3.2483725547790527, + "learning_rate": 3.5243941885058173e-06, + "loss": 0.052, + "num_input_tokens_seen": 16223296, + "step": 8282 + }, + { + "epoch": 1.0978131212723659, + "grad_norm": 5.578486919403076, + "learning_rate": 3.5240775219167234e-06, + "loss": 0.1013, + "num_input_tokens_seen": 16224968, + "step": 8283 + }, + { + "epoch": 1.097945659377071, + "grad_norm": 0.1545022428035736, + "learning_rate": 3.523760835582709e-06, + "loss": 0.001, + "num_input_tokens_seen": 16226456, + "step": 8284 + }, + { + "epoch": 1.098078197481776, + "grad_norm": 3.727581739425659, + "learning_rate": 3.5234441295098786e-06, + "loss": 0.0175, + "num_input_tokens_seen": 16227736, + "step": 8285 + }, + { + "epoch": 1.0982107355864812, + "grad_norm": 15.797917366027832, + "learning_rate": 3.5231274037043394e-06, + "loss": 0.1476, + "num_input_tokens_seen": 16229800, + "step": 8286 + }, + { + "epoch": 1.0983432736911862, + "grad_norm": 1.437326192855835, + "learning_rate": 3.5228106581721987e-06, + "loss": 0.022, + "num_input_tokens_seen": 16231696, + "step": 8287 + }, + { + "epoch": 1.0984758117958913, + "grad_norm": 0.46936115622520447, + "learning_rate": 3.5224938929195623e-06, + "loss": 0.0041, + "num_input_tokens_seen": 16234256, + "step": 8288 + }, + { + "epoch": 1.0986083499005965, + "grad_norm": 6.105960845947266, + "learning_rate": 3.5221771079525385e-06, + "loss": 0.1333, + "num_input_tokens_seen": 16236560, + "step": 8289 + }, + { + "epoch": 1.0987408880053016, + "grad_norm": 5.267346382141113, + "learning_rate": 3.5218603032772354e-06, + "loss": 0.1177, + "num_input_tokens_seen": 16238912, + "step": 8290 + }, + { + "epoch": 1.0988734261100066, + "grad_norm": 9.997039794921875, + "learning_rate": 3.52154347889976e-06, + "loss": 0.1596, + "num_input_tokens_seen": 16241088, + "step": 8291 + }, + { + "epoch": 1.0990059642147116, + "grad_norm": 0.09027338027954102, + "learning_rate": 3.5212266348262215e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16242912, + "step": 8292 + }, + { + "epoch": 1.099138502319417, + "grad_norm": 11.439615249633789, + "learning_rate": 3.5209097710627287e-06, + "loss": 0.2605, + "num_input_tokens_seen": 16245328, + "step": 8293 + }, + { + "epoch": 1.099271040424122, + "grad_norm": 10.554126739501953, + "learning_rate": 3.520592887615392e-06, + "loss": 0.2899, + "num_input_tokens_seen": 16247576, + "step": 8294 + }, + { + "epoch": 1.099403578528827, + "grad_norm": 18.85726547241211, + "learning_rate": 3.52027598449032e-06, + "loss": 0.3745, + "num_input_tokens_seen": 16249160, + "step": 8295 + }, + { + "epoch": 1.0995361166335322, + "grad_norm": 0.021806567907333374, + "learning_rate": 3.5199590616936236e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16251048, + "step": 8296 + }, + { + "epoch": 1.0996686547382373, + "grad_norm": 1.52481210231781, + "learning_rate": 3.519642119231412e-06, + "loss": 0.014, + "num_input_tokens_seen": 16252856, + "step": 8297 + }, + { + "epoch": 1.0998011928429423, + "grad_norm": 0.029399951919913292, + "learning_rate": 3.519325157109798e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16255128, + "step": 8298 + }, + { + "epoch": 1.0999337309476473, + "grad_norm": 4.998563766479492, + "learning_rate": 3.5190081753348908e-06, + "loss": 0.0931, + "num_input_tokens_seen": 16258136, + "step": 8299 + }, + { + "epoch": 1.1000662690523526, + "grad_norm": 0.5044589042663574, + "learning_rate": 3.5186911739128037e-06, + "loss": 0.0028, + "num_input_tokens_seen": 16260800, + "step": 8300 + }, + { + "epoch": 1.1001988071570576, + "grad_norm": 0.060424428433179855, + "learning_rate": 3.518374152849647e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16263352, + "step": 8301 + }, + { + "epoch": 1.1003313452617627, + "grad_norm": 6.916269302368164, + "learning_rate": 3.5180571121515356e-06, + "loss": 0.1468, + "num_input_tokens_seen": 16265600, + "step": 8302 + }, + { + "epoch": 1.100463883366468, + "grad_norm": 5.286959648132324, + "learning_rate": 3.5177400518245797e-06, + "loss": 0.0845, + "num_input_tokens_seen": 16267112, + "step": 8303 + }, + { + "epoch": 1.100596421471173, + "grad_norm": 19.800045013427734, + "learning_rate": 3.5174229718748935e-06, + "loss": 0.6038, + "num_input_tokens_seen": 16269600, + "step": 8304 + }, + { + "epoch": 1.100728959575878, + "grad_norm": 8.920562744140625, + "learning_rate": 3.5171058723085918e-06, + "loss": 0.1026, + "num_input_tokens_seen": 16272136, + "step": 8305 + }, + { + "epoch": 1.100861497680583, + "grad_norm": 0.0033870558254420757, + "learning_rate": 3.5167887531317857e-06, + "loss": 0.0, + "num_input_tokens_seen": 16273960, + "step": 8306 + }, + { + "epoch": 1.1009940357852883, + "grad_norm": 2.870105504989624, + "learning_rate": 3.516471614350592e-06, + "loss": 0.0398, + "num_input_tokens_seen": 16275360, + "step": 8307 + }, + { + "epoch": 1.1011265738899934, + "grad_norm": 9.500845909118652, + "learning_rate": 3.5161544559711237e-06, + "loss": 0.3368, + "num_input_tokens_seen": 16277048, + "step": 8308 + }, + { + "epoch": 1.1012591119946984, + "grad_norm": 15.229972839355469, + "learning_rate": 3.515837277999496e-06, + "loss": 0.2557, + "num_input_tokens_seen": 16279056, + "step": 8309 + }, + { + "epoch": 1.1013916500994037, + "grad_norm": 8.924276351928711, + "learning_rate": 3.5155200804418256e-06, + "loss": 0.1926, + "num_input_tokens_seen": 16281328, + "step": 8310 + }, + { + "epoch": 1.1015241882041087, + "grad_norm": 0.02541017159819603, + "learning_rate": 3.5152028633042277e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16282888, + "step": 8311 + }, + { + "epoch": 1.1016567263088137, + "grad_norm": 0.27714741230010986, + "learning_rate": 3.5148856265928174e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16285416, + "step": 8312 + }, + { + "epoch": 1.101789264413519, + "grad_norm": 7.060849189758301, + "learning_rate": 3.5145683703137122e-06, + "loss": 0.1501, + "num_input_tokens_seen": 16286672, + "step": 8313 + }, + { + "epoch": 1.101921802518224, + "grad_norm": 5.63136100769043, + "learning_rate": 3.5142510944730296e-06, + "loss": 0.0717, + "num_input_tokens_seen": 16289168, + "step": 8314 + }, + { + "epoch": 1.102054340622929, + "grad_norm": 5.149138450622559, + "learning_rate": 3.513933799076886e-06, + "loss": 0.0589, + "num_input_tokens_seen": 16290784, + "step": 8315 + }, + { + "epoch": 1.102186878727634, + "grad_norm": 1.0878469944000244, + "learning_rate": 3.513616484131399e-06, + "loss": 0.0071, + "num_input_tokens_seen": 16292960, + "step": 8316 + }, + { + "epoch": 1.1023194168323394, + "grad_norm": 9.899919509887695, + "learning_rate": 3.513299149642687e-06, + "loss": 0.1153, + "num_input_tokens_seen": 16295424, + "step": 8317 + }, + { + "epoch": 1.1024519549370444, + "grad_norm": 1.6255052089691162, + "learning_rate": 3.512981795616868e-06, + "loss": 0.0148, + "num_input_tokens_seen": 16297008, + "step": 8318 + }, + { + "epoch": 1.1025844930417494, + "grad_norm": 10.011774063110352, + "learning_rate": 3.5126644220600616e-06, + "loss": 0.0705, + "num_input_tokens_seen": 16298104, + "step": 8319 + }, + { + "epoch": 1.1027170311464547, + "grad_norm": 4.621273040771484, + "learning_rate": 3.5123470289783867e-06, + "loss": 0.0452, + "num_input_tokens_seen": 16299624, + "step": 8320 + }, + { + "epoch": 1.1028495692511597, + "grad_norm": 18.461647033691406, + "learning_rate": 3.512029616377963e-06, + "loss": 0.4036, + "num_input_tokens_seen": 16301496, + "step": 8321 + }, + { + "epoch": 1.1029821073558648, + "grad_norm": 6.921319007873535, + "learning_rate": 3.5117121842649095e-06, + "loss": 0.1659, + "num_input_tokens_seen": 16304088, + "step": 8322 + }, + { + "epoch": 1.10311464546057, + "grad_norm": 0.08320663124322891, + "learning_rate": 3.5113947326453475e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16305952, + "step": 8323 + }, + { + "epoch": 1.103247183565275, + "grad_norm": 14.583900451660156, + "learning_rate": 3.511077261525397e-06, + "loss": 0.2031, + "num_input_tokens_seen": 16307952, + "step": 8324 + }, + { + "epoch": 1.10337972166998, + "grad_norm": 0.207341268658638, + "learning_rate": 3.510759770911179e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16309304, + "step": 8325 + }, + { + "epoch": 1.1035122597746851, + "grad_norm": 0.32227155566215515, + "learning_rate": 3.5104422608088164e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16310800, + "step": 8326 + }, + { + "epoch": 1.1036447978793904, + "grad_norm": 0.743057131767273, + "learning_rate": 3.5101247312244287e-06, + "loss": 0.007, + "num_input_tokens_seen": 16312696, + "step": 8327 + }, + { + "epoch": 1.1037773359840954, + "grad_norm": 0.021749364212155342, + "learning_rate": 3.50980718216414e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16315160, + "step": 8328 + }, + { + "epoch": 1.1039098740888005, + "grad_norm": 2.9811768531799316, + "learning_rate": 3.5094896136340727e-06, + "loss": 0.0657, + "num_input_tokens_seen": 16317296, + "step": 8329 + }, + { + "epoch": 1.1040424121935057, + "grad_norm": 0.0035204675514250994, + "learning_rate": 3.5091720256403483e-06, + "loss": 0.0, + "num_input_tokens_seen": 16318656, + "step": 8330 + }, + { + "epoch": 1.1041749502982108, + "grad_norm": 0.16462518274784088, + "learning_rate": 3.5088544181890917e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16321576, + "step": 8331 + }, + { + "epoch": 1.1043074884029158, + "grad_norm": 5.607799530029297, + "learning_rate": 3.5085367912864256e-06, + "loss": 0.1057, + "num_input_tokens_seen": 16322672, + "step": 8332 + }, + { + "epoch": 1.1044400265076209, + "grad_norm": 4.60710334777832, + "learning_rate": 3.5082191449384745e-06, + "loss": 0.0245, + "num_input_tokens_seen": 16324320, + "step": 8333 + }, + { + "epoch": 1.1045725646123261, + "grad_norm": 16.800397872924805, + "learning_rate": 3.5079014791513634e-06, + "loss": 0.3846, + "num_input_tokens_seen": 16326240, + "step": 8334 + }, + { + "epoch": 1.1047051027170312, + "grad_norm": 2.139453887939453, + "learning_rate": 3.5075837939312154e-06, + "loss": 0.0331, + "num_input_tokens_seen": 16327888, + "step": 8335 + }, + { + "epoch": 1.1048376408217362, + "grad_norm": 5.235513687133789, + "learning_rate": 3.507266089284157e-06, + "loss": 0.0461, + "num_input_tokens_seen": 16329272, + "step": 8336 + }, + { + "epoch": 1.1049701789264414, + "grad_norm": 0.15007513761520386, + "learning_rate": 3.506948365216314e-06, + "loss": 0.001, + "num_input_tokens_seen": 16330672, + "step": 8337 + }, + { + "epoch": 1.1051027170311465, + "grad_norm": 11.270011901855469, + "learning_rate": 3.5066306217338114e-06, + "loss": 0.2029, + "num_input_tokens_seen": 16332976, + "step": 8338 + }, + { + "epoch": 1.1052352551358515, + "grad_norm": 0.0049406662583351135, + "learning_rate": 3.5063128588427762e-06, + "loss": 0.0, + "num_input_tokens_seen": 16334224, + "step": 8339 + }, + { + "epoch": 1.1053677932405566, + "grad_norm": 6.272645473480225, + "learning_rate": 3.5059950765493346e-06, + "loss": 0.1344, + "num_input_tokens_seen": 16336168, + "step": 8340 + }, + { + "epoch": 1.1055003313452618, + "grad_norm": 9.624823570251465, + "learning_rate": 3.5056772748596145e-06, + "loss": 0.1995, + "num_input_tokens_seen": 16338184, + "step": 8341 + }, + { + "epoch": 1.1056328694499669, + "grad_norm": 7.304860591888428, + "learning_rate": 3.505359453779742e-06, + "loss": 0.1469, + "num_input_tokens_seen": 16340192, + "step": 8342 + }, + { + "epoch": 1.105765407554672, + "grad_norm": 6.836062431335449, + "learning_rate": 3.505041613315846e-06, + "loss": 0.2079, + "num_input_tokens_seen": 16342712, + "step": 8343 + }, + { + "epoch": 1.1058979456593772, + "grad_norm": 0.004496525973081589, + "learning_rate": 3.5047237534740553e-06, + "loss": 0.0, + "num_input_tokens_seen": 16344104, + "step": 8344 + }, + { + "epoch": 1.1060304837640822, + "grad_norm": 4.775545597076416, + "learning_rate": 3.504405874260496e-06, + "loss": 0.0775, + "num_input_tokens_seen": 16346784, + "step": 8345 + }, + { + "epoch": 1.1061630218687872, + "grad_norm": 8.949226379394531, + "learning_rate": 3.5040879756812997e-06, + "loss": 0.2499, + "num_input_tokens_seen": 16348592, + "step": 8346 + }, + { + "epoch": 1.1062955599734923, + "grad_norm": 12.20987319946289, + "learning_rate": 3.5037700577425937e-06, + "loss": 0.1819, + "num_input_tokens_seen": 16351496, + "step": 8347 + }, + { + "epoch": 1.1064280980781975, + "grad_norm": 0.34519150853157043, + "learning_rate": 3.5034521204505084e-06, + "loss": 0.0024, + "num_input_tokens_seen": 16353664, + "step": 8348 + }, + { + "epoch": 1.1065606361829026, + "grad_norm": 1.483240008354187, + "learning_rate": 3.503134163811175e-06, + "loss": 0.0094, + "num_input_tokens_seen": 16355272, + "step": 8349 + }, + { + "epoch": 1.1066931742876076, + "grad_norm": 0.5485265851020813, + "learning_rate": 3.502816187830722e-06, + "loss": 0.0034, + "num_input_tokens_seen": 16357672, + "step": 8350 + }, + { + "epoch": 1.1068257123923129, + "grad_norm": 5.789738178253174, + "learning_rate": 3.502498192515281e-06, + "loss": 0.1501, + "num_input_tokens_seen": 16359016, + "step": 8351 + }, + { + "epoch": 1.106958250497018, + "grad_norm": 0.06561057269573212, + "learning_rate": 3.502180177870984e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16361152, + "step": 8352 + }, + { + "epoch": 1.107090788601723, + "grad_norm": 3.2476675510406494, + "learning_rate": 3.501862143903962e-06, + "loss": 0.0371, + "num_input_tokens_seen": 16363120, + "step": 8353 + }, + { + "epoch": 1.1072233267064282, + "grad_norm": 11.596503257751465, + "learning_rate": 3.5015440906203457e-06, + "loss": 0.3629, + "num_input_tokens_seen": 16365480, + "step": 8354 + }, + { + "epoch": 1.1073558648111332, + "grad_norm": 3.6839776039123535, + "learning_rate": 3.5012260180262692e-06, + "loss": 0.0832, + "num_input_tokens_seen": 16367968, + "step": 8355 + }, + { + "epoch": 1.1074884029158383, + "grad_norm": 6.694451332092285, + "learning_rate": 3.500907926127864e-06, + "loss": 0.094, + "num_input_tokens_seen": 16369512, + "step": 8356 + }, + { + "epoch": 1.1076209410205433, + "grad_norm": 12.352378845214844, + "learning_rate": 3.5005898149312633e-06, + "loss": 0.3779, + "num_input_tokens_seen": 16371720, + "step": 8357 + }, + { + "epoch": 1.1077534791252486, + "grad_norm": 7.384657859802246, + "learning_rate": 3.500271684442601e-06, + "loss": 0.2277, + "num_input_tokens_seen": 16373440, + "step": 8358 + }, + { + "epoch": 1.1078860172299536, + "grad_norm": 7.060083389282227, + "learning_rate": 3.499953534668011e-06, + "loss": 0.1622, + "num_input_tokens_seen": 16375272, + "step": 8359 + }, + { + "epoch": 1.1080185553346587, + "grad_norm": 1.209827184677124, + "learning_rate": 3.499635365613626e-06, + "loss": 0.0053, + "num_input_tokens_seen": 16377576, + "step": 8360 + }, + { + "epoch": 1.108151093439364, + "grad_norm": 0.09285591542720795, + "learning_rate": 3.4993171772855823e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16378976, + "step": 8361 + }, + { + "epoch": 1.108283631544069, + "grad_norm": 9.731882095336914, + "learning_rate": 3.498998969690013e-06, + "loss": 0.1288, + "num_input_tokens_seen": 16380992, + "step": 8362 + }, + { + "epoch": 1.108416169648774, + "grad_norm": 6.474432945251465, + "learning_rate": 3.4986807428330555e-06, + "loss": 0.1106, + "num_input_tokens_seen": 16383352, + "step": 8363 + }, + { + "epoch": 1.108548707753479, + "grad_norm": 10.774589538574219, + "learning_rate": 3.4983624967208443e-06, + "loss": 0.3102, + "num_input_tokens_seen": 16385448, + "step": 8364 + }, + { + "epoch": 1.1086812458581843, + "grad_norm": 0.07440017908811569, + "learning_rate": 3.4980442313595153e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16386824, + "step": 8365 + }, + { + "epoch": 1.1088137839628893, + "grad_norm": 9.913625717163086, + "learning_rate": 3.4977259467552043e-06, + "loss": 0.1835, + "num_input_tokens_seen": 16388952, + "step": 8366 + }, + { + "epoch": 1.1089463220675944, + "grad_norm": 2.193392276763916, + "learning_rate": 3.4974076429140495e-06, + "loss": 0.0163, + "num_input_tokens_seen": 16390384, + "step": 8367 + }, + { + "epoch": 1.1090788601722996, + "grad_norm": 19.282543182373047, + "learning_rate": 3.4970893198421873e-06, + "loss": 0.328, + "num_input_tokens_seen": 16392240, + "step": 8368 + }, + { + "epoch": 1.1092113982770047, + "grad_norm": 4.310641765594482, + "learning_rate": 3.496770977545755e-06, + "loss": 0.0382, + "num_input_tokens_seen": 16394080, + "step": 8369 + }, + { + "epoch": 1.1093439363817097, + "grad_norm": 0.09109468758106232, + "learning_rate": 3.496452616030891e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16395736, + "step": 8370 + }, + { + "epoch": 1.109476474486415, + "grad_norm": 0.07450588792562485, + "learning_rate": 3.496134235303732e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16397280, + "step": 8371 + }, + { + "epoch": 1.10960901259112, + "grad_norm": 8.375280380249023, + "learning_rate": 3.4958158353704185e-06, + "loss": 0.3642, + "num_input_tokens_seen": 16399672, + "step": 8372 + }, + { + "epoch": 1.109741550695825, + "grad_norm": 2.1880531311035156, + "learning_rate": 3.4954974162370894e-06, + "loss": 0.0186, + "num_input_tokens_seen": 16401672, + "step": 8373 + }, + { + "epoch": 1.10987408880053, + "grad_norm": 3.5415656566619873, + "learning_rate": 3.4951789779098814e-06, + "loss": 0.1101, + "num_input_tokens_seen": 16403656, + "step": 8374 + }, + { + "epoch": 1.1100066269052353, + "grad_norm": 15.858475685119629, + "learning_rate": 3.494860520394938e-06, + "loss": 0.2527, + "num_input_tokens_seen": 16405872, + "step": 8375 + }, + { + "epoch": 1.1101391650099404, + "grad_norm": 5.520722389221191, + "learning_rate": 3.4945420436983968e-06, + "loss": 0.1629, + "num_input_tokens_seen": 16408704, + "step": 8376 + }, + { + "epoch": 1.1102717031146454, + "grad_norm": 1.4546762704849243, + "learning_rate": 3.4942235478263987e-06, + "loss": 0.0084, + "num_input_tokens_seen": 16410472, + "step": 8377 + }, + { + "epoch": 1.1104042412193507, + "grad_norm": 0.5183747410774231, + "learning_rate": 3.493905032785085e-06, + "loss": 0.0053, + "num_input_tokens_seen": 16411496, + "step": 8378 + }, + { + "epoch": 1.1105367793240557, + "grad_norm": 7.558457374572754, + "learning_rate": 3.493586498580597e-06, + "loss": 0.2219, + "num_input_tokens_seen": 16413272, + "step": 8379 + }, + { + "epoch": 1.1106693174287607, + "grad_norm": 10.105422973632812, + "learning_rate": 3.493267945219075e-06, + "loss": 0.2057, + "num_input_tokens_seen": 16415680, + "step": 8380 + }, + { + "epoch": 1.1108018555334658, + "grad_norm": 0.1435491442680359, + "learning_rate": 3.4929493727066622e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16416840, + "step": 8381 + }, + { + "epoch": 1.110934393638171, + "grad_norm": 5.828749179840088, + "learning_rate": 3.4926307810495e-06, + "loss": 0.1092, + "num_input_tokens_seen": 16419192, + "step": 8382 + }, + { + "epoch": 1.111066931742876, + "grad_norm": 3.2960901260375977, + "learning_rate": 3.492312170253732e-06, + "loss": 0.0371, + "num_input_tokens_seen": 16421608, + "step": 8383 + }, + { + "epoch": 1.1111994698475811, + "grad_norm": 4.1906023025512695, + "learning_rate": 3.4919935403255013e-06, + "loss": 0.0399, + "num_input_tokens_seen": 16423664, + "step": 8384 + }, + { + "epoch": 1.1113320079522864, + "grad_norm": 16.101318359375, + "learning_rate": 3.4916748912709506e-06, + "loss": 0.3938, + "num_input_tokens_seen": 16425440, + "step": 8385 + }, + { + "epoch": 1.1114645460569914, + "grad_norm": 0.15895967185497284, + "learning_rate": 3.4913562230962232e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16427064, + "step": 8386 + }, + { + "epoch": 1.1115970841616964, + "grad_norm": 0.4451965093612671, + "learning_rate": 3.4910375358074642e-06, + "loss": 0.0033, + "num_input_tokens_seen": 16429416, + "step": 8387 + }, + { + "epoch": 1.1117296222664015, + "grad_norm": 0.11195900291204453, + "learning_rate": 3.4907188294108185e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16430648, + "step": 8388 + }, + { + "epoch": 1.1118621603711067, + "grad_norm": 11.73038387298584, + "learning_rate": 3.490400103912429e-06, + "loss": 0.3006, + "num_input_tokens_seen": 16432744, + "step": 8389 + }, + { + "epoch": 1.1119946984758118, + "grad_norm": 0.1679728627204895, + "learning_rate": 3.4900813593184434e-06, + "loss": 0.0013, + "num_input_tokens_seen": 16433880, + "step": 8390 + }, + { + "epoch": 1.1121272365805168, + "grad_norm": 13.385002136230469, + "learning_rate": 3.489762595635006e-06, + "loss": 0.1437, + "num_input_tokens_seen": 16435864, + "step": 8391 + }, + { + "epoch": 1.112259774685222, + "grad_norm": 0.6505146026611328, + "learning_rate": 3.4894438128682622e-06, + "loss": 0.0047, + "num_input_tokens_seen": 16438080, + "step": 8392 + }, + { + "epoch": 1.1123923127899271, + "grad_norm": 7.733471870422363, + "learning_rate": 3.48912501102436e-06, + "loss": 0.1729, + "num_input_tokens_seen": 16440112, + "step": 8393 + }, + { + "epoch": 1.1125248508946322, + "grad_norm": 0.2137671262025833, + "learning_rate": 3.488806190109445e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16442024, + "step": 8394 + }, + { + "epoch": 1.1126573889993372, + "grad_norm": 3.7220957279205322, + "learning_rate": 3.4884873501296644e-06, + "loss": 0.0829, + "num_input_tokens_seen": 16443760, + "step": 8395 + }, + { + "epoch": 1.1127899271040425, + "grad_norm": 2.425835371017456, + "learning_rate": 3.4881684910911662e-06, + "loss": 0.0315, + "num_input_tokens_seen": 16446440, + "step": 8396 + }, + { + "epoch": 1.1129224652087475, + "grad_norm": 0.22856350243091583, + "learning_rate": 3.487849613000097e-06, + "loss": 0.0017, + "num_input_tokens_seen": 16448448, + "step": 8397 + }, + { + "epoch": 1.1130550033134525, + "grad_norm": 8.065740585327148, + "learning_rate": 3.487530715862606e-06, + "loss": 0.1184, + "num_input_tokens_seen": 16450760, + "step": 8398 + }, + { + "epoch": 1.1131875414181578, + "grad_norm": 1.304933786392212, + "learning_rate": 3.487211799684842e-06, + "loss": 0.0088, + "num_input_tokens_seen": 16452184, + "step": 8399 + }, + { + "epoch": 1.1133200795228628, + "grad_norm": 3.2624142169952393, + "learning_rate": 3.4868928644729527e-06, + "loss": 0.0841, + "num_input_tokens_seen": 16455432, + "step": 8400 + }, + { + "epoch": 1.1134526176275679, + "grad_norm": 11.970552444458008, + "learning_rate": 3.486573910233089e-06, + "loss": 0.227, + "num_input_tokens_seen": 16457344, + "step": 8401 + }, + { + "epoch": 1.1135851557322731, + "grad_norm": 0.14939334988594055, + "learning_rate": 3.486254936971399e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16459216, + "step": 8402 + }, + { + "epoch": 1.1137176938369782, + "grad_norm": 5.5158796310424805, + "learning_rate": 3.4859359446940337e-06, + "loss": 0.1117, + "num_input_tokens_seen": 16461344, + "step": 8403 + }, + { + "epoch": 1.1138502319416832, + "grad_norm": 0.07000122219324112, + "learning_rate": 3.4856169334071434e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16462992, + "step": 8404 + }, + { + "epoch": 1.1139827700463882, + "grad_norm": 7.405033111572266, + "learning_rate": 3.4852979031168787e-06, + "loss": 0.0946, + "num_input_tokens_seen": 16464712, + "step": 8405 + }, + { + "epoch": 1.1141153081510935, + "grad_norm": 0.14460404217243195, + "learning_rate": 3.4849788538293905e-06, + "loss": 0.001, + "num_input_tokens_seen": 16466264, + "step": 8406 + }, + { + "epoch": 1.1142478462557985, + "grad_norm": 11.341758728027344, + "learning_rate": 3.48465978555083e-06, + "loss": 0.3165, + "num_input_tokens_seen": 16468648, + "step": 8407 + }, + { + "epoch": 1.1143803843605036, + "grad_norm": 7.661235809326172, + "learning_rate": 3.4843406982873507e-06, + "loss": 0.2533, + "num_input_tokens_seen": 16470936, + "step": 8408 + }, + { + "epoch": 1.1145129224652088, + "grad_norm": 6.7464189529418945, + "learning_rate": 3.4840215920451032e-06, + "loss": 0.041, + "num_input_tokens_seen": 16472816, + "step": 8409 + }, + { + "epoch": 1.1146454605699139, + "grad_norm": 0.5663466453552246, + "learning_rate": 3.48370246683024e-06, + "loss": 0.0045, + "num_input_tokens_seen": 16474992, + "step": 8410 + }, + { + "epoch": 1.114777998674619, + "grad_norm": 10.365991592407227, + "learning_rate": 3.483383322648915e-06, + "loss": 0.3239, + "num_input_tokens_seen": 16476632, + "step": 8411 + }, + { + "epoch": 1.1149105367793242, + "grad_norm": 0.10152385383844376, + "learning_rate": 3.483064159507281e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16477992, + "step": 8412 + }, + { + "epoch": 1.1150430748840292, + "grad_norm": 0.3106798231601715, + "learning_rate": 3.4827449774114917e-06, + "loss": 0.0023, + "num_input_tokens_seen": 16481088, + "step": 8413 + }, + { + "epoch": 1.1151756129887342, + "grad_norm": 0.7371013760566711, + "learning_rate": 3.4824257763677023e-06, + "loss": 0.0041, + "num_input_tokens_seen": 16482568, + "step": 8414 + }, + { + "epoch": 1.1153081510934393, + "grad_norm": 1.9163726568222046, + "learning_rate": 3.4821065563820654e-06, + "loss": 0.0082, + "num_input_tokens_seen": 16484248, + "step": 8415 + }, + { + "epoch": 1.1154406891981445, + "grad_norm": 9.128623962402344, + "learning_rate": 3.4817873174607363e-06, + "loss": 0.2268, + "num_input_tokens_seen": 16486080, + "step": 8416 + }, + { + "epoch": 1.1155732273028496, + "grad_norm": 10.534138679504395, + "learning_rate": 3.4814680596098717e-06, + "loss": 0.3603, + "num_input_tokens_seen": 16487624, + "step": 8417 + }, + { + "epoch": 1.1157057654075546, + "grad_norm": 0.7412254214286804, + "learning_rate": 3.4811487828356244e-06, + "loss": 0.0055, + "num_input_tokens_seen": 16490632, + "step": 8418 + }, + { + "epoch": 1.1158383035122599, + "grad_norm": 0.31978484988212585, + "learning_rate": 3.4808294871441516e-06, + "loss": 0.0016, + "num_input_tokens_seen": 16492840, + "step": 8419 + }, + { + "epoch": 1.115970841616965, + "grad_norm": 10.115509986877441, + "learning_rate": 3.4805101725416102e-06, + "loss": 0.2746, + "num_input_tokens_seen": 16495344, + "step": 8420 + }, + { + "epoch": 1.11610337972167, + "grad_norm": 7.60206413269043, + "learning_rate": 3.480190839034157e-06, + "loss": 0.1715, + "num_input_tokens_seen": 16497464, + "step": 8421 + }, + { + "epoch": 1.116235917826375, + "grad_norm": 6.78001070022583, + "learning_rate": 3.479871486627947e-06, + "loss": 0.1248, + "num_input_tokens_seen": 16499688, + "step": 8422 + }, + { + "epoch": 1.1163684559310803, + "grad_norm": 9.612598419189453, + "learning_rate": 3.4795521153291394e-06, + "loss": 0.1158, + "num_input_tokens_seen": 16501600, + "step": 8423 + }, + { + "epoch": 1.1165009940357853, + "grad_norm": 11.636311531066895, + "learning_rate": 3.479232725143892e-06, + "loss": 0.2754, + "num_input_tokens_seen": 16503992, + "step": 8424 + }, + { + "epoch": 1.1166335321404903, + "grad_norm": 7.0306501388549805, + "learning_rate": 3.4789133160783606e-06, + "loss": 0.0267, + "num_input_tokens_seen": 16506560, + "step": 8425 + }, + { + "epoch": 1.1167660702451956, + "grad_norm": 1.5405538082122803, + "learning_rate": 3.478593888138706e-06, + "loss": 0.0265, + "num_input_tokens_seen": 16508432, + "step": 8426 + }, + { + "epoch": 1.1168986083499006, + "grad_norm": 11.093717575073242, + "learning_rate": 3.4782744413310854e-06, + "loss": 0.141, + "num_input_tokens_seen": 16510736, + "step": 8427 + }, + { + "epoch": 1.1170311464546057, + "grad_norm": 0.015495721250772476, + "learning_rate": 3.477954975661659e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16512256, + "step": 8428 + }, + { + "epoch": 1.1171636845593107, + "grad_norm": 1.2309634685516357, + "learning_rate": 3.4776354911365867e-06, + "loss": 0.0112, + "num_input_tokens_seen": 16513792, + "step": 8429 + }, + { + "epoch": 1.117296222664016, + "grad_norm": 7.763525485992432, + "learning_rate": 3.477315987762027e-06, + "loss": 0.1012, + "num_input_tokens_seen": 16516224, + "step": 8430 + }, + { + "epoch": 1.117428760768721, + "grad_norm": 0.026643717661499977, + "learning_rate": 3.4769964655441413e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16517376, + "step": 8431 + }, + { + "epoch": 1.117561298873426, + "grad_norm": 0.05065273493528366, + "learning_rate": 3.4766769244890898e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16518968, + "step": 8432 + }, + { + "epoch": 1.1176938369781313, + "grad_norm": 19.02833366394043, + "learning_rate": 3.476357364603033e-06, + "loss": 0.4334, + "num_input_tokens_seen": 16521504, + "step": 8433 + }, + { + "epoch": 1.1178263750828363, + "grad_norm": 7.889640808105469, + "learning_rate": 3.476037785892133e-06, + "loss": 0.2245, + "num_input_tokens_seen": 16523256, + "step": 8434 + }, + { + "epoch": 1.1179589131875414, + "grad_norm": 0.04523637145757675, + "learning_rate": 3.4757181883625512e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16524632, + "step": 8435 + }, + { + "epoch": 1.1180914512922464, + "grad_norm": 0.01622576080262661, + "learning_rate": 3.475398572020449e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16526072, + "step": 8436 + }, + { + "epoch": 1.1182239893969517, + "grad_norm": 6.051847457885742, + "learning_rate": 3.4750789368719893e-06, + "loss": 0.1571, + "num_input_tokens_seen": 16528520, + "step": 8437 + }, + { + "epoch": 1.1183565275016567, + "grad_norm": 9.460832595825195, + "learning_rate": 3.4747592829233367e-06, + "loss": 0.2143, + "num_input_tokens_seen": 16530384, + "step": 8438 + }, + { + "epoch": 1.1184890656063617, + "grad_norm": 12.428264617919922, + "learning_rate": 3.4744396101806506e-06, + "loss": 0.2346, + "num_input_tokens_seen": 16532504, + "step": 8439 + }, + { + "epoch": 1.118621603711067, + "grad_norm": 0.06932102143764496, + "learning_rate": 3.4741199186500977e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16534496, + "step": 8440 + }, + { + "epoch": 1.118754141815772, + "grad_norm": 7.941710472106934, + "learning_rate": 3.473800208337841e-06, + "loss": 0.1156, + "num_input_tokens_seen": 16536456, + "step": 8441 + }, + { + "epoch": 1.118886679920477, + "grad_norm": 5.026635646820068, + "learning_rate": 3.473480479250043e-06, + "loss": 0.0836, + "num_input_tokens_seen": 16538056, + "step": 8442 + }, + { + "epoch": 1.1190192180251823, + "grad_norm": 0.15467025339603424, + "learning_rate": 3.4731607313928717e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16540344, + "step": 8443 + }, + { + "epoch": 1.1191517561298874, + "grad_norm": 10.816108703613281, + "learning_rate": 3.4728409647724894e-06, + "loss": 0.1771, + "num_input_tokens_seen": 16542744, + "step": 8444 + }, + { + "epoch": 1.1192842942345924, + "grad_norm": 3.546783208847046, + "learning_rate": 3.472521179395062e-06, + "loss": 0.0435, + "num_input_tokens_seen": 16544448, + "step": 8445 + }, + { + "epoch": 1.1194168323392975, + "grad_norm": 7.411040782928467, + "learning_rate": 3.472201375266755e-06, + "loss": 0.1766, + "num_input_tokens_seen": 16546568, + "step": 8446 + }, + { + "epoch": 1.1195493704440027, + "grad_norm": 9.078460693359375, + "learning_rate": 3.4718815523937354e-06, + "loss": 0.2169, + "num_input_tokens_seen": 16548224, + "step": 8447 + }, + { + "epoch": 1.1196819085487077, + "grad_norm": 0.03959347680211067, + "learning_rate": 3.4715617107821686e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16549328, + "step": 8448 + }, + { + "epoch": 1.1198144466534128, + "grad_norm": 3.9412460327148438, + "learning_rate": 3.471241850438222e-06, + "loss": 0.1316, + "num_input_tokens_seen": 16551848, + "step": 8449 + }, + { + "epoch": 1.119946984758118, + "grad_norm": 0.05313378572463989, + "learning_rate": 3.470921971368063e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16553328, + "step": 8450 + }, + { + "epoch": 1.120079522862823, + "grad_norm": 4.744962215423584, + "learning_rate": 3.470602073577858e-06, + "loss": 0.0196, + "num_input_tokens_seen": 16554856, + "step": 8451 + }, + { + "epoch": 1.1202120609675281, + "grad_norm": 38.21556854248047, + "learning_rate": 3.4702821570737753e-06, + "loss": 0.4533, + "num_input_tokens_seen": 16557752, + "step": 8452 + }, + { + "epoch": 1.1203445990722334, + "grad_norm": 1.7391879558563232, + "learning_rate": 3.469962221861984e-06, + "loss": 0.0314, + "num_input_tokens_seen": 16559616, + "step": 8453 + }, + { + "epoch": 1.1204771371769384, + "grad_norm": 9.767043113708496, + "learning_rate": 3.469642267948651e-06, + "loss": 0.2575, + "num_input_tokens_seen": 16561680, + "step": 8454 + }, + { + "epoch": 1.1206096752816435, + "grad_norm": 13.81735897064209, + "learning_rate": 3.469322295339946e-06, + "loss": 0.5153, + "num_input_tokens_seen": 16564296, + "step": 8455 + }, + { + "epoch": 1.1207422133863485, + "grad_norm": 0.16171440482139587, + "learning_rate": 3.4690023040420396e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16565904, + "step": 8456 + }, + { + "epoch": 1.1208747514910538, + "grad_norm": 4.92385196685791, + "learning_rate": 3.4686822940610993e-06, + "loss": 0.028, + "num_input_tokens_seen": 16567712, + "step": 8457 + }, + { + "epoch": 1.1210072895957588, + "grad_norm": 2.7117927074432373, + "learning_rate": 3.468362265403297e-06, + "loss": 0.0174, + "num_input_tokens_seen": 16568744, + "step": 8458 + }, + { + "epoch": 1.1211398277004638, + "grad_norm": 6.28870153427124, + "learning_rate": 3.468042218074801e-06, + "loss": 0.1242, + "num_input_tokens_seen": 16571400, + "step": 8459 + }, + { + "epoch": 1.121272365805169, + "grad_norm": 7.26967716217041, + "learning_rate": 3.4677221520817837e-06, + "loss": 0.1595, + "num_input_tokens_seen": 16573488, + "step": 8460 + }, + { + "epoch": 1.1214049039098741, + "grad_norm": 3.3980298042297363, + "learning_rate": 3.4674020674304164e-06, + "loss": 0.0373, + "num_input_tokens_seen": 16575200, + "step": 8461 + }, + { + "epoch": 1.1215374420145792, + "grad_norm": 8.304523468017578, + "learning_rate": 3.4670819641268695e-06, + "loss": 0.2353, + "num_input_tokens_seen": 16576808, + "step": 8462 + }, + { + "epoch": 1.1216699801192842, + "grad_norm": 11.468254089355469, + "learning_rate": 3.4667618421773148e-06, + "loss": 0.1792, + "num_input_tokens_seen": 16578800, + "step": 8463 + }, + { + "epoch": 1.1218025182239895, + "grad_norm": 5.864408493041992, + "learning_rate": 3.4664417015879247e-06, + "loss": 0.0596, + "num_input_tokens_seen": 16580552, + "step": 8464 + }, + { + "epoch": 1.1219350563286945, + "grad_norm": 7.9062652587890625, + "learning_rate": 3.466121542364873e-06, + "loss": 0.1275, + "num_input_tokens_seen": 16582272, + "step": 8465 + }, + { + "epoch": 1.1220675944333995, + "grad_norm": 0.14119014143943787, + "learning_rate": 3.465801364514331e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16584472, + "step": 8466 + }, + { + "epoch": 1.1222001325381048, + "grad_norm": 0.13928206264972687, + "learning_rate": 3.4654811680424715e-06, + "loss": 0.001, + "num_input_tokens_seen": 16586424, + "step": 8467 + }, + { + "epoch": 1.1223326706428098, + "grad_norm": 0.2411433607339859, + "learning_rate": 3.46516095295547e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16588120, + "step": 8468 + }, + { + "epoch": 1.1224652087475149, + "grad_norm": 8.199978828430176, + "learning_rate": 3.464840719259499e-06, + "loss": 0.2624, + "num_input_tokens_seen": 16590160, + "step": 8469 + }, + { + "epoch": 1.12259774685222, + "grad_norm": 0.11893632262945175, + "learning_rate": 3.4645204669607335e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16591824, + "step": 8470 + }, + { + "epoch": 1.1227302849569252, + "grad_norm": 1.7515157461166382, + "learning_rate": 3.4642001960653483e-06, + "loss": 0.0191, + "num_input_tokens_seen": 16593296, + "step": 8471 + }, + { + "epoch": 1.1228628230616302, + "grad_norm": 9.317205429077148, + "learning_rate": 3.463879906579517e-06, + "loss": 0.1698, + "num_input_tokens_seen": 16595104, + "step": 8472 + }, + { + "epoch": 1.1229953611663352, + "grad_norm": 9.877138137817383, + "learning_rate": 3.463559598509418e-06, + "loss": 0.1405, + "num_input_tokens_seen": 16597616, + "step": 8473 + }, + { + "epoch": 1.1231278992710405, + "grad_norm": 0.1762053370475769, + "learning_rate": 3.463239271861224e-06, + "loss": 0.0012, + "num_input_tokens_seen": 16599824, + "step": 8474 + }, + { + "epoch": 1.1232604373757455, + "grad_norm": 1.5470515489578247, + "learning_rate": 3.462918926641112e-06, + "loss": 0.0064, + "num_input_tokens_seen": 16601192, + "step": 8475 + }, + { + "epoch": 1.1233929754804506, + "grad_norm": 9.179183959960938, + "learning_rate": 3.46259856285526e-06, + "loss": 0.1462, + "num_input_tokens_seen": 16603152, + "step": 8476 + }, + { + "epoch": 1.1235255135851556, + "grad_norm": 13.946859359741211, + "learning_rate": 3.4622781805098426e-06, + "loss": 0.2277, + "num_input_tokens_seen": 16606088, + "step": 8477 + }, + { + "epoch": 1.1236580516898609, + "grad_norm": 1.3416038751602173, + "learning_rate": 3.461957779611039e-06, + "loss": 0.0091, + "num_input_tokens_seen": 16607552, + "step": 8478 + }, + { + "epoch": 1.123790589794566, + "grad_norm": 0.246473029255867, + "learning_rate": 3.4616373601650253e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16610656, + "step": 8479 + }, + { + "epoch": 1.123923127899271, + "grad_norm": 12.998847961425781, + "learning_rate": 3.46131692217798e-06, + "loss": 0.4176, + "num_input_tokens_seen": 16613584, + "step": 8480 + }, + { + "epoch": 1.1240556660039762, + "grad_norm": 2.1694047451019287, + "learning_rate": 3.4609964656560806e-06, + "loss": 0.0181, + "num_input_tokens_seen": 16615752, + "step": 8481 + }, + { + "epoch": 1.1241882041086813, + "grad_norm": 12.08128833770752, + "learning_rate": 3.460675990605507e-06, + "loss": 0.2262, + "num_input_tokens_seen": 16617664, + "step": 8482 + }, + { + "epoch": 1.1243207422133863, + "grad_norm": 5.935091972351074, + "learning_rate": 3.4603554970324377e-06, + "loss": 0.0608, + "num_input_tokens_seen": 16619856, + "step": 8483 + }, + { + "epoch": 1.1244532803180916, + "grad_norm": 7.788889408111572, + "learning_rate": 3.4600349849430515e-06, + "loss": 0.1488, + "num_input_tokens_seen": 16621576, + "step": 8484 + }, + { + "epoch": 1.1245858184227966, + "grad_norm": 46.85171890258789, + "learning_rate": 3.4597144543435284e-06, + "loss": 0.1006, + "num_input_tokens_seen": 16624168, + "step": 8485 + }, + { + "epoch": 1.1247183565275016, + "grad_norm": 0.018745025619864464, + "learning_rate": 3.4593939052400492e-06, + "loss": 0.0001, + "num_input_tokens_seen": 16625232, + "step": 8486 + }, + { + "epoch": 1.1248508946322067, + "grad_norm": 1.3916137218475342, + "learning_rate": 3.459073337638793e-06, + "loss": 0.0052, + "num_input_tokens_seen": 16626776, + "step": 8487 + }, + { + "epoch": 1.124983432736912, + "grad_norm": 7.29010534286499, + "learning_rate": 3.458752751545941e-06, + "loss": 0.1705, + "num_input_tokens_seen": 16628424, + "step": 8488 + }, + { + "epoch": 1.125115970841617, + "grad_norm": 0.05532471090555191, + "learning_rate": 3.4584321469676756e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16630032, + "step": 8489 + }, + { + "epoch": 1.125248508946322, + "grad_norm": 12.74735164642334, + "learning_rate": 3.458111523910176e-06, + "loss": 0.2124, + "num_input_tokens_seen": 16632496, + "step": 8490 + }, + { + "epoch": 1.1253810470510273, + "grad_norm": 3.17748761177063, + "learning_rate": 3.4577908823796265e-06, + "loss": 0.0679, + "num_input_tokens_seen": 16634200, + "step": 8491 + }, + { + "epoch": 1.1255135851557323, + "grad_norm": 6.777058124542236, + "learning_rate": 3.4574702223822072e-06, + "loss": 0.169, + "num_input_tokens_seen": 16635744, + "step": 8492 + }, + { + "epoch": 1.1256461232604373, + "grad_norm": 0.5229358673095703, + "learning_rate": 3.4571495439241017e-06, + "loss": 0.0036, + "num_input_tokens_seen": 16637936, + "step": 8493 + }, + { + "epoch": 1.1257786613651426, + "grad_norm": 10.011480331420898, + "learning_rate": 3.456828847011493e-06, + "loss": 0.2385, + "num_input_tokens_seen": 16639416, + "step": 8494 + }, + { + "epoch": 1.1259111994698476, + "grad_norm": 8.405430793762207, + "learning_rate": 3.4565081316505635e-06, + "loss": 0.1069, + "num_input_tokens_seen": 16641040, + "step": 8495 + }, + { + "epoch": 1.1260437375745527, + "grad_norm": 0.043477486819028854, + "learning_rate": 3.4561873978474975e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16642240, + "step": 8496 + }, + { + "epoch": 1.1261762756792577, + "grad_norm": 4.222424507141113, + "learning_rate": 3.4558666456084795e-06, + "loss": 0.0398, + "num_input_tokens_seen": 16643896, + "step": 8497 + }, + { + "epoch": 1.126308813783963, + "grad_norm": 8.825814247131348, + "learning_rate": 3.4555458749396924e-06, + "loss": 0.2694, + "num_input_tokens_seen": 16645616, + "step": 8498 + }, + { + "epoch": 1.126441351888668, + "grad_norm": 0.27611249685287476, + "learning_rate": 3.455225085847322e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16647104, + "step": 8499 + }, + { + "epoch": 1.126573889993373, + "grad_norm": 0.23041993379592896, + "learning_rate": 3.454904278337553e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16650024, + "step": 8500 + }, + { + "epoch": 1.1267064280980783, + "grad_norm": 0.1716599315404892, + "learning_rate": 3.45458345241657e-06, + "loss": 0.001, + "num_input_tokens_seen": 16651968, + "step": 8501 + }, + { + "epoch": 1.1268389662027833, + "grad_norm": 0.12479785829782486, + "learning_rate": 3.45426260809056e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16654720, + "step": 8502 + }, + { + "epoch": 1.1269715043074884, + "grad_norm": 3.2692744731903076, + "learning_rate": 3.453941745365709e-06, + "loss": 0.0077, + "num_input_tokens_seen": 16656504, + "step": 8503 + }, + { + "epoch": 1.1271040424121934, + "grad_norm": 0.10245697945356369, + "learning_rate": 3.453620864248203e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16657880, + "step": 8504 + }, + { + "epoch": 1.1272365805168987, + "grad_norm": 9.530024528503418, + "learning_rate": 3.4532999647442285e-06, + "loss": 0.1167, + "num_input_tokens_seen": 16660800, + "step": 8505 + }, + { + "epoch": 1.1273691186216037, + "grad_norm": 9.497403144836426, + "learning_rate": 3.452979046859973e-06, + "loss": 0.2009, + "num_input_tokens_seen": 16663472, + "step": 8506 + }, + { + "epoch": 1.1275016567263088, + "grad_norm": 5.696786403656006, + "learning_rate": 3.4526581106016237e-06, + "loss": 0.0647, + "num_input_tokens_seen": 16665576, + "step": 8507 + }, + { + "epoch": 1.127634194831014, + "grad_norm": 0.03766528517007828, + "learning_rate": 3.452337155975369e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16667160, + "step": 8508 + }, + { + "epoch": 1.127766732935719, + "grad_norm": 1.616792917251587, + "learning_rate": 3.4520161829873975e-06, + "loss": 0.0358, + "num_input_tokens_seen": 16668728, + "step": 8509 + }, + { + "epoch": 1.127899271040424, + "grad_norm": 0.04752480983734131, + "learning_rate": 3.4516951916438974e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16671016, + "step": 8510 + }, + { + "epoch": 1.1280318091451291, + "grad_norm": 10.47054386138916, + "learning_rate": 3.4513741819510566e-06, + "loss": 0.2314, + "num_input_tokens_seen": 16672880, + "step": 8511 + }, + { + "epoch": 1.1281643472498344, + "grad_norm": 6.560187816619873, + "learning_rate": 3.451053153915066e-06, + "loss": 0.0726, + "num_input_tokens_seen": 16675912, + "step": 8512 + }, + { + "epoch": 1.1282968853545394, + "grad_norm": 13.351219177246094, + "learning_rate": 3.450732107542114e-06, + "loss": 0.2376, + "num_input_tokens_seen": 16677672, + "step": 8513 + }, + { + "epoch": 1.1284294234592445, + "grad_norm": 0.15342412889003754, + "learning_rate": 3.450411042838391e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16680328, + "step": 8514 + }, + { + "epoch": 1.1285619615639497, + "grad_norm": 8.456214904785156, + "learning_rate": 3.4500899598100882e-06, + "loss": 0.14, + "num_input_tokens_seen": 16682984, + "step": 8515 + }, + { + "epoch": 1.1286944996686548, + "grad_norm": 0.3954511880874634, + "learning_rate": 3.4497688584633955e-06, + "loss": 0.0018, + "num_input_tokens_seen": 16685408, + "step": 8516 + }, + { + "epoch": 1.1288270377733598, + "grad_norm": 0.25022488832473755, + "learning_rate": 3.4494477388045035e-06, + "loss": 0.002, + "num_input_tokens_seen": 16686792, + "step": 8517 + }, + { + "epoch": 1.1289595758780648, + "grad_norm": 0.18703708052635193, + "learning_rate": 3.449126600839604e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16689128, + "step": 8518 + }, + { + "epoch": 1.12909211398277, + "grad_norm": 3.252548933029175, + "learning_rate": 3.4488054445748886e-06, + "loss": 0.1102, + "num_input_tokens_seen": 16690784, + "step": 8519 + }, + { + "epoch": 1.1292246520874751, + "grad_norm": 8.948058128356934, + "learning_rate": 3.4484842700165506e-06, + "loss": 0.2526, + "num_input_tokens_seen": 16692912, + "step": 8520 + }, + { + "epoch": 1.1293571901921802, + "grad_norm": 3.9407899379730225, + "learning_rate": 3.448163077170781e-06, + "loss": 0.0439, + "num_input_tokens_seen": 16694168, + "step": 8521 + }, + { + "epoch": 1.1294897282968854, + "grad_norm": 32.42314147949219, + "learning_rate": 3.447841866043773e-06, + "loss": 0.3299, + "num_input_tokens_seen": 16696544, + "step": 8522 + }, + { + "epoch": 1.1296222664015905, + "grad_norm": 3.7470414638519287, + "learning_rate": 3.44752063664172e-06, + "loss": 0.0594, + "num_input_tokens_seen": 16698656, + "step": 8523 + }, + { + "epoch": 1.1297548045062955, + "grad_norm": 0.2576407492160797, + "learning_rate": 3.4471993889708155e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16700544, + "step": 8524 + }, + { + "epoch": 1.1298873426110005, + "grad_norm": 0.04765302315354347, + "learning_rate": 3.4468781230372537e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16702096, + "step": 8525 + }, + { + "epoch": 1.1300198807157058, + "grad_norm": 2.5305490493774414, + "learning_rate": 3.4465568388472287e-06, + "loss": 0.0358, + "num_input_tokens_seen": 16704208, + "step": 8526 + }, + { + "epoch": 1.1301524188204108, + "grad_norm": 10.042616844177246, + "learning_rate": 3.4462355364069344e-06, + "loss": 0.248, + "num_input_tokens_seen": 16706976, + "step": 8527 + }, + { + "epoch": 1.1302849569251159, + "grad_norm": 3.648715019226074, + "learning_rate": 3.4459142157225656e-06, + "loss": 0.048, + "num_input_tokens_seen": 16708920, + "step": 8528 + }, + { + "epoch": 1.1304174950298211, + "grad_norm": 2.7969470024108887, + "learning_rate": 3.4455928768003187e-06, + "loss": 0.0433, + "num_input_tokens_seen": 16710816, + "step": 8529 + }, + { + "epoch": 1.1305500331345262, + "grad_norm": 8.435277938842773, + "learning_rate": 3.4452715196463895e-06, + "loss": 0.2165, + "num_input_tokens_seen": 16712688, + "step": 8530 + }, + { + "epoch": 1.1306825712392312, + "grad_norm": 4.815793037414551, + "learning_rate": 3.4449501442669725e-06, + "loss": 0.1311, + "num_input_tokens_seen": 16714792, + "step": 8531 + }, + { + "epoch": 1.1308151093439365, + "grad_norm": 0.04750956594944, + "learning_rate": 3.4446287506682644e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16716024, + "step": 8532 + }, + { + "epoch": 1.1309476474486415, + "grad_norm": 11.87228775024414, + "learning_rate": 3.4443073388564633e-06, + "loss": 0.1807, + "num_input_tokens_seen": 16718840, + "step": 8533 + }, + { + "epoch": 1.1310801855533466, + "grad_norm": 9.133766174316406, + "learning_rate": 3.443985908837765e-06, + "loss": 0.2608, + "num_input_tokens_seen": 16721040, + "step": 8534 + }, + { + "epoch": 1.1312127236580518, + "grad_norm": 3.89784836769104, + "learning_rate": 3.4436644606183667e-06, + "loss": 0.0405, + "num_input_tokens_seen": 16722976, + "step": 8535 + }, + { + "epoch": 1.1313452617627568, + "grad_norm": 0.05301361531019211, + "learning_rate": 3.443342994204467e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16724728, + "step": 8536 + }, + { + "epoch": 1.1314777998674619, + "grad_norm": 4.3112897872924805, + "learning_rate": 3.4430215096022636e-06, + "loss": 0.0473, + "num_input_tokens_seen": 16725984, + "step": 8537 + }, + { + "epoch": 1.131610337972167, + "grad_norm": 12.038641929626465, + "learning_rate": 3.442700006817955e-06, + "loss": 0.093, + "num_input_tokens_seen": 16728224, + "step": 8538 + }, + { + "epoch": 1.1317428760768722, + "grad_norm": 0.046350039541721344, + "learning_rate": 3.4423784858577403e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16729864, + "step": 8539 + }, + { + "epoch": 1.1318754141815772, + "grad_norm": 0.14071060717105865, + "learning_rate": 3.442056946727817e-06, + "loss": 0.0014, + "num_input_tokens_seen": 16731040, + "step": 8540 + }, + { + "epoch": 1.1320079522862823, + "grad_norm": 12.13999080657959, + "learning_rate": 3.441735389434387e-06, + "loss": 0.1461, + "num_input_tokens_seen": 16733288, + "step": 8541 + }, + { + "epoch": 1.1321404903909875, + "grad_norm": 13.159934997558594, + "learning_rate": 3.4414138139836486e-06, + "loss": 0.1902, + "num_input_tokens_seen": 16735384, + "step": 8542 + }, + { + "epoch": 1.1322730284956926, + "grad_norm": 3.971379518508911, + "learning_rate": 3.441092220381802e-06, + "loss": 0.1109, + "num_input_tokens_seen": 16737888, + "step": 8543 + }, + { + "epoch": 1.1324055666003976, + "grad_norm": 6.648914337158203, + "learning_rate": 3.440770608635049e-06, + "loss": 0.1229, + "num_input_tokens_seen": 16739840, + "step": 8544 + }, + { + "epoch": 1.1325381047051026, + "grad_norm": 7.494126796722412, + "learning_rate": 3.440448978749589e-06, + "loss": 0.0438, + "num_input_tokens_seen": 16741576, + "step": 8545 + }, + { + "epoch": 1.132670642809808, + "grad_norm": 9.250385284423828, + "learning_rate": 3.440127330731624e-06, + "loss": 0.068, + "num_input_tokens_seen": 16743176, + "step": 8546 + }, + { + "epoch": 1.132803180914513, + "grad_norm": 0.14744509756565094, + "learning_rate": 3.439805664587356e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16744960, + "step": 8547 + }, + { + "epoch": 1.132935719019218, + "grad_norm": 0.18512561917304993, + "learning_rate": 3.439483980322986e-06, + "loss": 0.0011, + "num_input_tokens_seen": 16747616, + "step": 8548 + }, + { + "epoch": 1.1330682571239232, + "grad_norm": 0.7280220985412598, + "learning_rate": 3.439162277944717e-06, + "loss": 0.0066, + "num_input_tokens_seen": 16749264, + "step": 8549 + }, + { + "epoch": 1.1332007952286283, + "grad_norm": 9.674351692199707, + "learning_rate": 3.4388405574587514e-06, + "loss": 0.0297, + "num_input_tokens_seen": 16751824, + "step": 8550 + }, + { + "epoch": 1.1333333333333333, + "grad_norm": 1.0557432174682617, + "learning_rate": 3.4385188188712925e-06, + "loss": 0.0431, + "num_input_tokens_seen": 16752856, + "step": 8551 + }, + { + "epoch": 1.1334658714380383, + "grad_norm": 0.1130351796746254, + "learning_rate": 3.4381970621885424e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16754504, + "step": 8552 + }, + { + "epoch": 1.1335984095427436, + "grad_norm": 27.402082443237305, + "learning_rate": 3.4378752874167063e-06, + "loss": 0.1206, + "num_input_tokens_seen": 16755752, + "step": 8553 + }, + { + "epoch": 1.1337309476474486, + "grad_norm": 0.10342779010534286, + "learning_rate": 3.4375534945619877e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16756888, + "step": 8554 + }, + { + "epoch": 1.1338634857521537, + "grad_norm": 7.233067512512207, + "learning_rate": 3.4372316836305903e-06, + "loss": 0.1272, + "num_input_tokens_seen": 16758592, + "step": 8555 + }, + { + "epoch": 1.133996023856859, + "grad_norm": 0.7266532778739929, + "learning_rate": 3.4369098546287204e-06, + "loss": 0.0036, + "num_input_tokens_seen": 16760264, + "step": 8556 + }, + { + "epoch": 1.134128561961564, + "grad_norm": 7.788826942443848, + "learning_rate": 3.436588007562581e-06, + "loss": 0.2243, + "num_input_tokens_seen": 16762048, + "step": 8557 + }, + { + "epoch": 1.134261100066269, + "grad_norm": 1.5146348476409912, + "learning_rate": 3.4362661424383796e-06, + "loss": 0.0169, + "num_input_tokens_seen": 16764680, + "step": 8558 + }, + { + "epoch": 1.134393638170974, + "grad_norm": 4.772076606750488, + "learning_rate": 3.4359442592623216e-06, + "loss": 0.0222, + "num_input_tokens_seen": 16766512, + "step": 8559 + }, + { + "epoch": 1.1345261762756793, + "grad_norm": 2.7049789428710938, + "learning_rate": 3.4356223580406116e-06, + "loss": 0.0284, + "num_input_tokens_seen": 16768720, + "step": 8560 + }, + { + "epoch": 1.1346587143803843, + "grad_norm": 0.32087281346321106, + "learning_rate": 3.4353004387794576e-06, + "loss": 0.0016, + "num_input_tokens_seen": 16770648, + "step": 8561 + }, + { + "epoch": 1.1347912524850894, + "grad_norm": 0.4021240472793579, + "learning_rate": 3.4349785014850657e-06, + "loss": 0.0038, + "num_input_tokens_seen": 16773168, + "step": 8562 + }, + { + "epoch": 1.1349237905897946, + "grad_norm": 12.813952445983887, + "learning_rate": 3.4346565461636434e-06, + "loss": 0.3589, + "num_input_tokens_seen": 16775128, + "step": 8563 + }, + { + "epoch": 1.1350563286944997, + "grad_norm": 3.23867130279541, + "learning_rate": 3.4343345728213974e-06, + "loss": 0.0269, + "num_input_tokens_seen": 16777664, + "step": 8564 + }, + { + "epoch": 1.1351888667992047, + "grad_norm": 10.377969741821289, + "learning_rate": 3.434012581464537e-06, + "loss": 0.3502, + "num_input_tokens_seen": 16781208, + "step": 8565 + }, + { + "epoch": 1.1353214049039098, + "grad_norm": 7.261528968811035, + "learning_rate": 3.4336905720992697e-06, + "loss": 0.128, + "num_input_tokens_seen": 16783448, + "step": 8566 + }, + { + "epoch": 1.135453943008615, + "grad_norm": 2.609156370162964, + "learning_rate": 3.4333685447318037e-06, + "loss": 0.085, + "num_input_tokens_seen": 16786232, + "step": 8567 + }, + { + "epoch": 1.13558648111332, + "grad_norm": 9.573345184326172, + "learning_rate": 3.4330464993683486e-06, + "loss": 0.2338, + "num_input_tokens_seen": 16788064, + "step": 8568 + }, + { + "epoch": 1.135719019218025, + "grad_norm": 0.07628241926431656, + "learning_rate": 3.4327244360151135e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16789536, + "step": 8569 + }, + { + "epoch": 1.1358515573227304, + "grad_norm": 6.021028518676758, + "learning_rate": 3.4324023546783068e-06, + "loss": 0.1291, + "num_input_tokens_seen": 16791576, + "step": 8570 + }, + { + "epoch": 1.1359840954274354, + "grad_norm": 13.60378646850586, + "learning_rate": 3.432080255364141e-06, + "loss": 0.1604, + "num_input_tokens_seen": 16794792, + "step": 8571 + }, + { + "epoch": 1.1361166335321404, + "grad_norm": 1.469277024269104, + "learning_rate": 3.4317581380788235e-06, + "loss": 0.0116, + "num_input_tokens_seen": 16796424, + "step": 8572 + }, + { + "epoch": 1.1362491716368457, + "grad_norm": 0.05658235028386116, + "learning_rate": 3.4314360028285666e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16798632, + "step": 8573 + }, + { + "epoch": 1.1363817097415507, + "grad_norm": 13.66796875, + "learning_rate": 3.4311138496195815e-06, + "loss": 0.5306, + "num_input_tokens_seen": 16800288, + "step": 8574 + }, + { + "epoch": 1.1365142478462558, + "grad_norm": 10.541521072387695, + "learning_rate": 3.4307916784580787e-06, + "loss": 0.2313, + "num_input_tokens_seen": 16802192, + "step": 8575 + }, + { + "epoch": 1.136646785950961, + "grad_norm": 3.4167089462280273, + "learning_rate": 3.43046948935027e-06, + "loss": 0.0074, + "num_input_tokens_seen": 16804920, + "step": 8576 + }, + { + "epoch": 1.136779324055666, + "grad_norm": 0.1870068907737732, + "learning_rate": 3.4301472823023685e-06, + "loss": 0.0013, + "num_input_tokens_seen": 16806616, + "step": 8577 + }, + { + "epoch": 1.136911862160371, + "grad_norm": 0.06414901465177536, + "learning_rate": 3.429825057320585e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16808272, + "step": 8578 + }, + { + "epoch": 1.1370444002650761, + "grad_norm": 9.337677001953125, + "learning_rate": 3.429502814411133e-06, + "loss": 0.1495, + "num_input_tokens_seen": 16810728, + "step": 8579 + }, + { + "epoch": 1.1371769383697814, + "grad_norm": 28.958005905151367, + "learning_rate": 3.429180553580226e-06, + "loss": 1.0032, + "num_input_tokens_seen": 16812272, + "step": 8580 + }, + { + "epoch": 1.1373094764744864, + "grad_norm": 0.24584613740444183, + "learning_rate": 3.4288582748340767e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16815112, + "step": 8581 + }, + { + "epoch": 1.1374420145791915, + "grad_norm": 0.05927819386124611, + "learning_rate": 3.4285359781788986e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16816600, + "step": 8582 + }, + { + "epoch": 1.1375745526838967, + "grad_norm": 12.961067199707031, + "learning_rate": 3.4282136636209067e-06, + "loss": 0.1441, + "num_input_tokens_seen": 16818760, + "step": 8583 + }, + { + "epoch": 1.1377070907886018, + "grad_norm": 5.697150230407715, + "learning_rate": 3.4278913311663143e-06, + "loss": 0.0394, + "num_input_tokens_seen": 16821048, + "step": 8584 + }, + { + "epoch": 1.1378396288933068, + "grad_norm": 0.09280016273260117, + "learning_rate": 3.427568980821338e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16823120, + "step": 8585 + }, + { + "epoch": 1.1379721669980118, + "grad_norm": 4.647305011749268, + "learning_rate": 3.427246612592191e-06, + "loss": 0.1233, + "num_input_tokens_seen": 16824600, + "step": 8586 + }, + { + "epoch": 1.138104705102717, + "grad_norm": 11.824877738952637, + "learning_rate": 3.42692422648509e-06, + "loss": 0.4268, + "num_input_tokens_seen": 16826944, + "step": 8587 + }, + { + "epoch": 1.1382372432074221, + "grad_norm": 8.499072074890137, + "learning_rate": 3.426601822506251e-06, + "loss": 0.0912, + "num_input_tokens_seen": 16828376, + "step": 8588 + }, + { + "epoch": 1.1383697813121272, + "grad_norm": 9.63304328918457, + "learning_rate": 3.426279400661889e-06, + "loss": 0.1826, + "num_input_tokens_seen": 16830352, + "step": 8589 + }, + { + "epoch": 1.1385023194168324, + "grad_norm": 0.0502646341919899, + "learning_rate": 3.425956960958221e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16831528, + "step": 8590 + }, + { + "epoch": 1.1386348575215375, + "grad_norm": 1.0173084735870361, + "learning_rate": 3.4256345034014637e-06, + "loss": 0.0115, + "num_input_tokens_seen": 16833528, + "step": 8591 + }, + { + "epoch": 1.1387673956262425, + "grad_norm": 7.693487644195557, + "learning_rate": 3.425312027997836e-06, + "loss": 0.0833, + "num_input_tokens_seen": 16835576, + "step": 8592 + }, + { + "epoch": 1.1388999337309476, + "grad_norm": 9.145318984985352, + "learning_rate": 3.424989534753553e-06, + "loss": 0.2436, + "num_input_tokens_seen": 16837720, + "step": 8593 + }, + { + "epoch": 1.1390324718356528, + "grad_norm": 4.3246026039123535, + "learning_rate": 3.4246670236748336e-06, + "loss": 0.0666, + "num_input_tokens_seen": 16839288, + "step": 8594 + }, + { + "epoch": 1.1391650099403579, + "grad_norm": 0.0994713082909584, + "learning_rate": 3.4243444947678966e-06, + "loss": 0.0007, + "num_input_tokens_seen": 16841224, + "step": 8595 + }, + { + "epoch": 1.139297548045063, + "grad_norm": 9.752495765686035, + "learning_rate": 3.4240219480389603e-06, + "loss": 0.0352, + "num_input_tokens_seen": 16842736, + "step": 8596 + }, + { + "epoch": 1.1394300861497682, + "grad_norm": 0.5212600827217102, + "learning_rate": 3.4236993834942424e-06, + "loss": 0.0046, + "num_input_tokens_seen": 16844640, + "step": 8597 + }, + { + "epoch": 1.1395626242544732, + "grad_norm": 8.79934310913086, + "learning_rate": 3.423376801139964e-06, + "loss": 0.179, + "num_input_tokens_seen": 16846960, + "step": 8598 + }, + { + "epoch": 1.1396951623591782, + "grad_norm": 12.062625885009766, + "learning_rate": 3.4230542009823433e-06, + "loss": 0.4201, + "num_input_tokens_seen": 16849056, + "step": 8599 + }, + { + "epoch": 1.1398277004638833, + "grad_norm": 8.590723991394043, + "learning_rate": 3.4227315830276007e-06, + "loss": 0.1873, + "num_input_tokens_seen": 16851072, + "step": 8600 + }, + { + "epoch": 1.1399602385685885, + "grad_norm": 11.714760780334473, + "learning_rate": 3.4224089472819578e-06, + "loss": 0.3325, + "num_input_tokens_seen": 16852968, + "step": 8601 + }, + { + "epoch": 1.1400927766732936, + "grad_norm": 7.744892120361328, + "learning_rate": 3.4220862937516324e-06, + "loss": 0.0432, + "num_input_tokens_seen": 16854504, + "step": 8602 + }, + { + "epoch": 1.1402253147779986, + "grad_norm": 0.4743809103965759, + "learning_rate": 3.4217636224428487e-06, + "loss": 0.0047, + "num_input_tokens_seen": 16855760, + "step": 8603 + }, + { + "epoch": 1.1403578528827039, + "grad_norm": 0.1568261682987213, + "learning_rate": 3.4214409333618255e-06, + "loss": 0.001, + "num_input_tokens_seen": 16857648, + "step": 8604 + }, + { + "epoch": 1.140490390987409, + "grad_norm": 0.8237578272819519, + "learning_rate": 3.421118226514786e-06, + "loss": 0.007, + "num_input_tokens_seen": 16859656, + "step": 8605 + }, + { + "epoch": 1.140622929092114, + "grad_norm": 0.2042047083377838, + "learning_rate": 3.4207955019079516e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16861256, + "step": 8606 + }, + { + "epoch": 1.140755467196819, + "grad_norm": 5.378801345825195, + "learning_rate": 3.4204727595475438e-06, + "loss": 0.0157, + "num_input_tokens_seen": 16862968, + "step": 8607 + }, + { + "epoch": 1.1408880053015242, + "grad_norm": 2.959404945373535, + "learning_rate": 3.420149999439787e-06, + "loss": 0.0851, + "num_input_tokens_seen": 16864488, + "step": 8608 + }, + { + "epoch": 1.1410205434062293, + "grad_norm": 9.210344314575195, + "learning_rate": 3.4198272215909035e-06, + "loss": 0.1908, + "num_input_tokens_seen": 16866600, + "step": 8609 + }, + { + "epoch": 1.1411530815109343, + "grad_norm": 4.894270420074463, + "learning_rate": 3.4195044260071166e-06, + "loss": 0.0978, + "num_input_tokens_seen": 16868360, + "step": 8610 + }, + { + "epoch": 1.1412856196156396, + "grad_norm": 12.243182182312012, + "learning_rate": 3.419181612694649e-06, + "loss": 0.346, + "num_input_tokens_seen": 16870248, + "step": 8611 + }, + { + "epoch": 1.1414181577203446, + "grad_norm": 5.7628865242004395, + "learning_rate": 3.4188587816597267e-06, + "loss": 0.139, + "num_input_tokens_seen": 16872056, + "step": 8612 + }, + { + "epoch": 1.1415506958250496, + "grad_norm": 8.342791557312012, + "learning_rate": 3.4185359329085736e-06, + "loss": 0.1827, + "num_input_tokens_seen": 16874344, + "step": 8613 + }, + { + "epoch": 1.1416832339297547, + "grad_norm": 6.55029296875, + "learning_rate": 3.4182130664474133e-06, + "loss": 0.1378, + "num_input_tokens_seen": 16876920, + "step": 8614 + }, + { + "epoch": 1.14181577203446, + "grad_norm": 1.6190155744552612, + "learning_rate": 3.4178901822824716e-06, + "loss": 0.0117, + "num_input_tokens_seen": 16879016, + "step": 8615 + }, + { + "epoch": 1.141948310139165, + "grad_norm": 1.389581561088562, + "learning_rate": 3.417567280419975e-06, + "loss": 0.0095, + "num_input_tokens_seen": 16880992, + "step": 8616 + }, + { + "epoch": 1.14208084824387, + "grad_norm": 0.3550684154033661, + "learning_rate": 3.4172443608661467e-06, + "loss": 0.0026, + "num_input_tokens_seen": 16883216, + "step": 8617 + }, + { + "epoch": 1.1422133863485753, + "grad_norm": 2.869988203048706, + "learning_rate": 3.4169214236272158e-06, + "loss": 0.032, + "num_input_tokens_seen": 16884464, + "step": 8618 + }, + { + "epoch": 1.1423459244532803, + "grad_norm": 0.21294815838336945, + "learning_rate": 3.4165984687094066e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16886104, + "step": 8619 + }, + { + "epoch": 1.1424784625579854, + "grad_norm": 0.3610846996307373, + "learning_rate": 3.4162754961189457e-06, + "loss": 0.003, + "num_input_tokens_seen": 16888032, + "step": 8620 + }, + { + "epoch": 1.1426110006626906, + "grad_norm": 0.8468477129936218, + "learning_rate": 3.415952505862063e-06, + "loss": 0.0054, + "num_input_tokens_seen": 16890352, + "step": 8621 + }, + { + "epoch": 1.1427435387673957, + "grad_norm": 7.751956939697266, + "learning_rate": 3.4156294979449835e-06, + "loss": 0.0654, + "num_input_tokens_seen": 16892352, + "step": 8622 + }, + { + "epoch": 1.1428760768721007, + "grad_norm": 0.08117523789405823, + "learning_rate": 3.415306472373935e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16893360, + "step": 8623 + }, + { + "epoch": 1.143008614976806, + "grad_norm": 1.9368408918380737, + "learning_rate": 3.4149834291551466e-06, + "loss": 0.0329, + "num_input_tokens_seen": 16894880, + "step": 8624 + }, + { + "epoch": 1.143141153081511, + "grad_norm": 5.319334030151367, + "learning_rate": 3.4146603682948466e-06, + "loss": 0.0462, + "num_input_tokens_seen": 16896920, + "step": 8625 + }, + { + "epoch": 1.143273691186216, + "grad_norm": 3.5588929653167725, + "learning_rate": 3.4143372897992634e-06, + "loss": 0.0222, + "num_input_tokens_seen": 16898832, + "step": 8626 + }, + { + "epoch": 1.143406229290921, + "grad_norm": 2.9614055156707764, + "learning_rate": 3.414014193674627e-06, + "loss": 0.0553, + "num_input_tokens_seen": 16900728, + "step": 8627 + }, + { + "epoch": 1.1435387673956263, + "grad_norm": 7.509366035461426, + "learning_rate": 3.4136910799271656e-06, + "loss": 0.1376, + "num_input_tokens_seen": 16902536, + "step": 8628 + }, + { + "epoch": 1.1436713055003314, + "grad_norm": 0.03411921486258507, + "learning_rate": 3.41336794856311e-06, + "loss": 0.0002, + "num_input_tokens_seen": 16903816, + "step": 8629 + }, + { + "epoch": 1.1438038436050364, + "grad_norm": 4.779444217681885, + "learning_rate": 3.4130447995886906e-06, + "loss": 0.1106, + "num_input_tokens_seen": 16907368, + "step": 8630 + }, + { + "epoch": 1.1439363817097417, + "grad_norm": 0.25097790360450745, + "learning_rate": 3.4127216330101377e-06, + "loss": 0.0015, + "num_input_tokens_seen": 16909584, + "step": 8631 + }, + { + "epoch": 1.1440689198144467, + "grad_norm": 3.9529929161071777, + "learning_rate": 3.412398448833682e-06, + "loss": 0.0902, + "num_input_tokens_seen": 16911576, + "step": 8632 + }, + { + "epoch": 1.1442014579191517, + "grad_norm": 9.972177505493164, + "learning_rate": 3.4120752470655544e-06, + "loss": 0.3206, + "num_input_tokens_seen": 16913736, + "step": 8633 + }, + { + "epoch": 1.1443339960238568, + "grad_norm": 2.711470365524292, + "learning_rate": 3.4117520277119873e-06, + "loss": 0.0659, + "num_input_tokens_seen": 16916368, + "step": 8634 + }, + { + "epoch": 1.144466534128562, + "grad_norm": 2.3460464477539062, + "learning_rate": 3.4114287907792115e-06, + "loss": 0.0141, + "num_input_tokens_seen": 16917920, + "step": 8635 + }, + { + "epoch": 1.144599072233267, + "grad_norm": 0.07205978035926819, + "learning_rate": 3.4111055362734608e-06, + "loss": 0.0005, + "num_input_tokens_seen": 16919792, + "step": 8636 + }, + { + "epoch": 1.144731610337972, + "grad_norm": 9.346211433410645, + "learning_rate": 3.410782264200966e-06, + "loss": 0.1025, + "num_input_tokens_seen": 16922320, + "step": 8637 + }, + { + "epoch": 1.1448641484426774, + "grad_norm": 24.722517013549805, + "learning_rate": 3.4104589745679604e-06, + "loss": 0.2614, + "num_input_tokens_seen": 16924920, + "step": 8638 + }, + { + "epoch": 1.1449966865473824, + "grad_norm": 1.5098464488983154, + "learning_rate": 3.4101356673806795e-06, + "loss": 0.0266, + "num_input_tokens_seen": 16926552, + "step": 8639 + }, + { + "epoch": 1.1451292246520874, + "grad_norm": 6.394235134124756, + "learning_rate": 3.409812342645353e-06, + "loss": 0.0603, + "num_input_tokens_seen": 16928760, + "step": 8640 + }, + { + "epoch": 1.1452617627567925, + "grad_norm": 7.629454612731934, + "learning_rate": 3.4094890003682184e-06, + "loss": 0.1967, + "num_input_tokens_seen": 16930536, + "step": 8641 + }, + { + "epoch": 1.1453943008614977, + "grad_norm": 12.822225570678711, + "learning_rate": 3.4091656405555085e-06, + "loss": 0.125, + "num_input_tokens_seen": 16931840, + "step": 8642 + }, + { + "epoch": 1.1455268389662028, + "grad_norm": 7.744934558868408, + "learning_rate": 3.4088422632134565e-06, + "loss": 0.0942, + "num_input_tokens_seen": 16933560, + "step": 8643 + }, + { + "epoch": 1.1456593770709078, + "grad_norm": 2.90161395072937, + "learning_rate": 3.4085188683482994e-06, + "loss": 0.0434, + "num_input_tokens_seen": 16936544, + "step": 8644 + }, + { + "epoch": 1.145791915175613, + "grad_norm": 0.41321036219596863, + "learning_rate": 3.4081954559662723e-06, + "loss": 0.0033, + "num_input_tokens_seen": 16938360, + "step": 8645 + }, + { + "epoch": 1.1459244532803181, + "grad_norm": 4.784876823425293, + "learning_rate": 3.4078720260736097e-06, + "loss": 0.0545, + "num_input_tokens_seen": 16939984, + "step": 8646 + }, + { + "epoch": 1.1460569913850231, + "grad_norm": 0.05184270441532135, + "learning_rate": 3.4075485786765483e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16941576, + "step": 8647 + }, + { + "epoch": 1.1461895294897282, + "grad_norm": 0.04907209426164627, + "learning_rate": 3.407225113781324e-06, + "loss": 0.0003, + "num_input_tokens_seen": 16942856, + "step": 8648 + }, + { + "epoch": 1.1463220675944334, + "grad_norm": 10.976516723632812, + "learning_rate": 3.406901631394174e-06, + "loss": 0.1819, + "num_input_tokens_seen": 16944888, + "step": 8649 + }, + { + "epoch": 1.1464546056991385, + "grad_norm": 0.14874796569347382, + "learning_rate": 3.406578131521334e-06, + "loss": 0.0008, + "num_input_tokens_seen": 16946184, + "step": 8650 + }, + { + "epoch": 1.1465871438038435, + "grad_norm": 3.850764751434326, + "learning_rate": 3.4062546141690434e-06, + "loss": 0.0665, + "num_input_tokens_seen": 16948024, + "step": 8651 + }, + { + "epoch": 1.1467196819085488, + "grad_norm": 9.90334415435791, + "learning_rate": 3.4059310793435376e-06, + "loss": 0.0879, + "num_input_tokens_seen": 16950304, + "step": 8652 + }, + { + "epoch": 1.1468522200132538, + "grad_norm": 9.862438201904297, + "learning_rate": 3.4056075270510565e-06, + "loss": 0.2046, + "num_input_tokens_seen": 16951704, + "step": 8653 + }, + { + "epoch": 1.1469847581179589, + "grad_norm": 1.0565545558929443, + "learning_rate": 3.405283957297837e-06, + "loss": 0.004, + "num_input_tokens_seen": 16953216, + "step": 8654 + }, + { + "epoch": 1.147117296222664, + "grad_norm": 6.22489070892334, + "learning_rate": 3.4049603700901184e-06, + "loss": 0.1233, + "num_input_tokens_seen": 16954928, + "step": 8655 + }, + { + "epoch": 1.1472498343273692, + "grad_norm": 5.998757362365723, + "learning_rate": 3.4046367654341394e-06, + "loss": 0.1288, + "num_input_tokens_seen": 16956992, + "step": 8656 + }, + { + "epoch": 1.1473823724320742, + "grad_norm": 4.141188621520996, + "learning_rate": 3.40431314333614e-06, + "loss": 0.0637, + "num_input_tokens_seen": 16959792, + "step": 8657 + }, + { + "epoch": 1.1475149105367792, + "grad_norm": 2.5851380825042725, + "learning_rate": 3.4039895038023592e-06, + "loss": 0.0225, + "num_input_tokens_seen": 16961448, + "step": 8658 + }, + { + "epoch": 1.1476474486414845, + "grad_norm": 0.15643319487571716, + "learning_rate": 3.4036658468390366e-06, + "loss": 0.001, + "num_input_tokens_seen": 16963488, + "step": 8659 + }, + { + "epoch": 1.1477799867461895, + "grad_norm": 0.035852137953042984, + "learning_rate": 3.403342172452414e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16964760, + "step": 8660 + }, + { + "epoch": 1.1479125248508946, + "grad_norm": 0.08998502045869827, + "learning_rate": 3.4030184806487302e-06, + "loss": 0.0006, + "num_input_tokens_seen": 16966968, + "step": 8661 + }, + { + "epoch": 1.1480450629555998, + "grad_norm": 0.19321848452091217, + "learning_rate": 3.4026947714342275e-06, + "loss": 0.001, + "num_input_tokens_seen": 16968520, + "step": 8662 + }, + { + "epoch": 1.1481776010603049, + "grad_norm": 14.807652473449707, + "learning_rate": 3.402371044815147e-06, + "loss": 0.5693, + "num_input_tokens_seen": 16970704, + "step": 8663 + }, + { + "epoch": 1.14831013916501, + "grad_norm": 2.8694050312042236, + "learning_rate": 3.4020473007977295e-06, + "loss": 0.0128, + "num_input_tokens_seen": 16972008, + "step": 8664 + }, + { + "epoch": 1.1484426772697152, + "grad_norm": 0.16470128297805786, + "learning_rate": 3.401723539388219e-06, + "loss": 0.0009, + "num_input_tokens_seen": 16973256, + "step": 8665 + }, + { + "epoch": 1.1485752153744202, + "grad_norm": 10.99104118347168, + "learning_rate": 3.4013997605928554e-06, + "loss": 0.2464, + "num_input_tokens_seen": 16976024, + "step": 8666 + }, + { + "epoch": 1.1487077534791252, + "grad_norm": 1.039171576499939, + "learning_rate": 3.4010759644178837e-06, + "loss": 0.0036, + "num_input_tokens_seen": 16977536, + "step": 8667 + }, + { + "epoch": 1.1488402915838303, + "grad_norm": 11.11103630065918, + "learning_rate": 3.400752150869545e-06, + "loss": 0.209, + "num_input_tokens_seen": 16979848, + "step": 8668 + }, + { + "epoch": 1.1489728296885355, + "grad_norm": 15.490960121154785, + "learning_rate": 3.400428319954084e-06, + "loss": 0.3856, + "num_input_tokens_seen": 16982056, + "step": 8669 + }, + { + "epoch": 1.1491053677932406, + "grad_norm": 6.847944736480713, + "learning_rate": 3.4001044716777433e-06, + "loss": 0.081, + "num_input_tokens_seen": 16984128, + "step": 8670 + }, + { + "epoch": 1.1492379058979456, + "grad_norm": 4.964559078216553, + "learning_rate": 3.3997806060467674e-06, + "loss": 0.0964, + "num_input_tokens_seen": 16986376, + "step": 8671 + }, + { + "epoch": 1.1493704440026509, + "grad_norm": 7.073760032653809, + "learning_rate": 3.3994567230674014e-06, + "loss": 0.2158, + "num_input_tokens_seen": 16988168, + "step": 8672 + }, + { + "epoch": 1.149502982107356, + "grad_norm": 7.601524829864502, + "learning_rate": 3.3991328227458888e-06, + "loss": 0.2519, + "num_input_tokens_seen": 16990656, + "step": 8673 + }, + { + "epoch": 1.149635520212061, + "grad_norm": 10.729582786560059, + "learning_rate": 3.3988089050884743e-06, + "loss": 0.2365, + "num_input_tokens_seen": 16992392, + "step": 8674 + }, + { + "epoch": 1.149768058316766, + "grad_norm": 0.0676494613289833, + "learning_rate": 3.3984849701014056e-06, + "loss": 0.0004, + "num_input_tokens_seen": 16993816, + "step": 8675 + }, + { + "epoch": 1.1499005964214712, + "grad_norm": 3.9291961193084717, + "learning_rate": 3.3981610177909258e-06, + "loss": 0.1051, + "num_input_tokens_seen": 16995152, + "step": 8676 + }, + { + "epoch": 1.1500331345261763, + "grad_norm": 13.542081832885742, + "learning_rate": 3.397837048163282e-06, + "loss": 0.2971, + "num_input_tokens_seen": 16996304, + "step": 8677 + }, + { + "epoch": 1.1501656726308813, + "grad_norm": 14.670005798339844, + "learning_rate": 3.3975130612247207e-06, + "loss": 0.2928, + "num_input_tokens_seen": 16998200, + "step": 8678 + }, + { + "epoch": 1.1502982107355866, + "grad_norm": 15.614364624023438, + "learning_rate": 3.397189056981488e-06, + "loss": 0.3072, + "num_input_tokens_seen": 17001128, + "step": 8679 + }, + { + "epoch": 1.1504307488402916, + "grad_norm": 9.3743257522583, + "learning_rate": 3.3968650354398324e-06, + "loss": 0.291, + "num_input_tokens_seen": 17004160, + "step": 8680 + }, + { + "epoch": 1.1505632869449967, + "grad_norm": 7.353440761566162, + "learning_rate": 3.3965409966060005e-06, + "loss": 0.0589, + "num_input_tokens_seen": 17006208, + "step": 8681 + }, + { + "epoch": 1.1506958250497017, + "grad_norm": 3.036517381668091, + "learning_rate": 3.396216940486238e-06, + "loss": 0.074, + "num_input_tokens_seen": 17007928, + "step": 8682 + }, + { + "epoch": 1.150828363154407, + "grad_norm": 4.513935089111328, + "learning_rate": 3.395892867086795e-06, + "loss": 0.0803, + "num_input_tokens_seen": 17010984, + "step": 8683 + }, + { + "epoch": 1.150960901259112, + "grad_norm": 0.15509624779224396, + "learning_rate": 3.3955687764139212e-06, + "loss": 0.001, + "num_input_tokens_seen": 17012576, + "step": 8684 + }, + { + "epoch": 1.151093439363817, + "grad_norm": 9.42901611328125, + "learning_rate": 3.3952446684738615e-06, + "loss": 0.2047, + "num_input_tokens_seen": 17014296, + "step": 8685 + }, + { + "epoch": 1.1512259774685223, + "grad_norm": 8.755342483520508, + "learning_rate": 3.3949205432728682e-06, + "loss": 0.1312, + "num_input_tokens_seen": 17016056, + "step": 8686 + }, + { + "epoch": 1.1513585155732273, + "grad_norm": 7.112166881561279, + "learning_rate": 3.3945964008171883e-06, + "loss": 0.2424, + "num_input_tokens_seen": 17018624, + "step": 8687 + }, + { + "epoch": 1.1514910536779324, + "grad_norm": 2.068117141723633, + "learning_rate": 3.3942722411130737e-06, + "loss": 0.0248, + "num_input_tokens_seen": 17020176, + "step": 8688 + }, + { + "epoch": 1.1516235917826374, + "grad_norm": 13.561476707458496, + "learning_rate": 3.3939480641667733e-06, + "loss": 0.1434, + "num_input_tokens_seen": 17021880, + "step": 8689 + }, + { + "epoch": 1.1517561298873427, + "grad_norm": 0.6590791940689087, + "learning_rate": 3.393623869984537e-06, + "loss": 0.0043, + "num_input_tokens_seen": 17023504, + "step": 8690 + }, + { + "epoch": 1.1518886679920477, + "grad_norm": 1.3271563053131104, + "learning_rate": 3.3932996585726163e-06, + "loss": 0.0085, + "num_input_tokens_seen": 17026128, + "step": 8691 + }, + { + "epoch": 1.1520212060967527, + "grad_norm": 3.6453139781951904, + "learning_rate": 3.392975429937262e-06, + "loss": 0.0445, + "num_input_tokens_seen": 17027896, + "step": 8692 + }, + { + "epoch": 1.152153744201458, + "grad_norm": 2.0067014694213867, + "learning_rate": 3.3926511840847254e-06, + "loss": 0.024, + "num_input_tokens_seen": 17029832, + "step": 8693 + }, + { + "epoch": 1.152286282306163, + "grad_norm": 5.881217002868652, + "learning_rate": 3.392326921021258e-06, + "loss": 0.2421, + "num_input_tokens_seen": 17031512, + "step": 8694 + }, + { + "epoch": 1.152418820410868, + "grad_norm": 3.375748634338379, + "learning_rate": 3.3920026407531115e-06, + "loss": 0.0451, + "num_input_tokens_seen": 17033120, + "step": 8695 + }, + { + "epoch": 1.152551358515573, + "grad_norm": 5.98948860168457, + "learning_rate": 3.3916783432865398e-06, + "loss": 0.102, + "num_input_tokens_seen": 17034784, + "step": 8696 + }, + { + "epoch": 1.1526838966202784, + "grad_norm": 0.6252455711364746, + "learning_rate": 3.3913540286277937e-06, + "loss": 0.0046, + "num_input_tokens_seen": 17037424, + "step": 8697 + }, + { + "epoch": 1.1528164347249834, + "grad_norm": 1.4617334604263306, + "learning_rate": 3.391029696783127e-06, + "loss": 0.0105, + "num_input_tokens_seen": 17039472, + "step": 8698 + }, + { + "epoch": 1.1529489728296884, + "grad_norm": 6.784725666046143, + "learning_rate": 3.3907053477587937e-06, + "loss": 0.0522, + "num_input_tokens_seen": 17041544, + "step": 8699 + }, + { + "epoch": 1.1530815109343937, + "grad_norm": 0.046742189675569534, + "learning_rate": 3.3903809815610455e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17043040, + "step": 8700 + }, + { + "epoch": 1.1532140490390987, + "grad_norm": 5.8381500244140625, + "learning_rate": 3.3900565981961396e-06, + "loss": 0.0453, + "num_input_tokens_seen": 17044584, + "step": 8701 + }, + { + "epoch": 1.1533465871438038, + "grad_norm": 4.4542951583862305, + "learning_rate": 3.389732197670327e-06, + "loss": 0.0298, + "num_input_tokens_seen": 17046776, + "step": 8702 + }, + { + "epoch": 1.153479125248509, + "grad_norm": 7.867623805999756, + "learning_rate": 3.3894077799898644e-06, + "loss": 0.1661, + "num_input_tokens_seen": 17048648, + "step": 8703 + }, + { + "epoch": 1.153611663353214, + "grad_norm": 0.014720787294209003, + "learning_rate": 3.3890833451610065e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17049784, + "step": 8704 + }, + { + "epoch": 1.1537442014579191, + "grad_norm": 8.061545372009277, + "learning_rate": 3.388758893190008e-06, + "loss": 0.1444, + "num_input_tokens_seen": 17052280, + "step": 8705 + }, + { + "epoch": 1.1538767395626244, + "grad_norm": 11.435490608215332, + "learning_rate": 3.388434424083125e-06, + "loss": 0.3489, + "num_input_tokens_seen": 17054368, + "step": 8706 + }, + { + "epoch": 1.1540092776673294, + "grad_norm": 4.209782123565674, + "learning_rate": 3.388109937846614e-06, + "loss": 0.0387, + "num_input_tokens_seen": 17056072, + "step": 8707 + }, + { + "epoch": 1.1541418157720345, + "grad_norm": 1.5468027591705322, + "learning_rate": 3.3877854344867296e-06, + "loss": 0.008, + "num_input_tokens_seen": 17057560, + "step": 8708 + }, + { + "epoch": 1.1542743538767395, + "grad_norm": 4.870978832244873, + "learning_rate": 3.38746091400973e-06, + "loss": 0.0982, + "num_input_tokens_seen": 17060200, + "step": 8709 + }, + { + "epoch": 1.1544068919814447, + "grad_norm": 8.96373462677002, + "learning_rate": 3.3871363764218723e-06, + "loss": 0.213, + "num_input_tokens_seen": 17061968, + "step": 8710 + }, + { + "epoch": 1.1545394300861498, + "grad_norm": 9.577131271362305, + "learning_rate": 3.386811821729412e-06, + "loss": 0.4016, + "num_input_tokens_seen": 17064064, + "step": 8711 + }, + { + "epoch": 1.1546719681908548, + "grad_norm": 0.036699771881103516, + "learning_rate": 3.3864872499386094e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17066600, + "step": 8712 + }, + { + "epoch": 1.15480450629556, + "grad_norm": 0.19082653522491455, + "learning_rate": 3.3861626610557198e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17068344, + "step": 8713 + }, + { + "epoch": 1.1549370444002651, + "grad_norm": 0.11535575985908508, + "learning_rate": 3.385838055087004e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17069984, + "step": 8714 + }, + { + "epoch": 1.1550695825049702, + "grad_norm": 5.328784942626953, + "learning_rate": 3.3855134320387183e-06, + "loss": 0.1432, + "num_input_tokens_seen": 17072096, + "step": 8715 + }, + { + "epoch": 1.1552021206096752, + "grad_norm": 2.4692676067352295, + "learning_rate": 3.3851887919171235e-06, + "loss": 0.0618, + "num_input_tokens_seen": 17073520, + "step": 8716 + }, + { + "epoch": 1.1553346587143805, + "grad_norm": 0.3779284954071045, + "learning_rate": 3.3848641347284777e-06, + "loss": 0.002, + "num_input_tokens_seen": 17075048, + "step": 8717 + }, + { + "epoch": 1.1554671968190855, + "grad_norm": 6.258880615234375, + "learning_rate": 3.384539460479041e-06, + "loss": 0.1501, + "num_input_tokens_seen": 17077032, + "step": 8718 + }, + { + "epoch": 1.1555997349237905, + "grad_norm": 9.282422065734863, + "learning_rate": 3.384214769175074e-06, + "loss": 0.0658, + "num_input_tokens_seen": 17078232, + "step": 8719 + }, + { + "epoch": 1.1557322730284958, + "grad_norm": 7.147819519042969, + "learning_rate": 3.383890060822835e-06, + "loss": 0.0946, + "num_input_tokens_seen": 17080504, + "step": 8720 + }, + { + "epoch": 1.1558648111332008, + "grad_norm": 0.02076355367898941, + "learning_rate": 3.383565335428587e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17082704, + "step": 8721 + }, + { + "epoch": 1.1559973492379059, + "grad_norm": 1.0376105308532715, + "learning_rate": 3.3832405929985895e-06, + "loss": 0.0054, + "num_input_tokens_seen": 17084944, + "step": 8722 + }, + { + "epoch": 1.156129887342611, + "grad_norm": 0.7480855584144592, + "learning_rate": 3.382915833539104e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17087728, + "step": 8723 + }, + { + "epoch": 1.1562624254473162, + "grad_norm": 5.616735458374023, + "learning_rate": 3.3825910570563913e-06, + "loss": 0.1466, + "num_input_tokens_seen": 17089920, + "step": 8724 + }, + { + "epoch": 1.1563949635520212, + "grad_norm": 3.6636204719543457, + "learning_rate": 3.3822662635567157e-06, + "loss": 0.016, + "num_input_tokens_seen": 17091616, + "step": 8725 + }, + { + "epoch": 1.1565275016567262, + "grad_norm": 0.12443515658378601, + "learning_rate": 3.3819414530463366e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17093336, + "step": 8726 + }, + { + "epoch": 1.1566600397614315, + "grad_norm": 7.651934623718262, + "learning_rate": 3.381616625531518e-06, + "loss": 0.0351, + "num_input_tokens_seen": 17095576, + "step": 8727 + }, + { + "epoch": 1.1567925778661365, + "grad_norm": 1.422959327697754, + "learning_rate": 3.3812917810185236e-06, + "loss": 0.017, + "num_input_tokens_seen": 17097312, + "step": 8728 + }, + { + "epoch": 1.1569251159708416, + "grad_norm": 9.669575691223145, + "learning_rate": 3.380966919513614e-06, + "loss": 0.1732, + "num_input_tokens_seen": 17099424, + "step": 8729 + }, + { + "epoch": 1.1570576540755466, + "grad_norm": 0.3030741810798645, + "learning_rate": 3.380642041023056e-06, + "loss": 0.002, + "num_input_tokens_seen": 17101528, + "step": 8730 + }, + { + "epoch": 1.1571901921802519, + "grad_norm": 4.4121575355529785, + "learning_rate": 3.3803171455531116e-06, + "loss": 0.0713, + "num_input_tokens_seen": 17104272, + "step": 8731 + }, + { + "epoch": 1.157322730284957, + "grad_norm": 10.905190467834473, + "learning_rate": 3.3799922331100447e-06, + "loss": 0.2383, + "num_input_tokens_seen": 17106512, + "step": 8732 + }, + { + "epoch": 1.157455268389662, + "grad_norm": 6.185886383056641, + "learning_rate": 3.3796673037001215e-06, + "loss": 0.1465, + "num_input_tokens_seen": 17108264, + "step": 8733 + }, + { + "epoch": 1.1575878064943672, + "grad_norm": 1.5981717109680176, + "learning_rate": 3.3793423573296053e-06, + "loss": 0.0118, + "num_input_tokens_seen": 17110024, + "step": 8734 + }, + { + "epoch": 1.1577203445990722, + "grad_norm": 6.555273056030273, + "learning_rate": 3.3790173940047616e-06, + "loss": 0.1967, + "num_input_tokens_seen": 17111920, + "step": 8735 + }, + { + "epoch": 1.1578528827037773, + "grad_norm": 0.8882776498794556, + "learning_rate": 3.3786924137318562e-06, + "loss": 0.0076, + "num_input_tokens_seen": 17113904, + "step": 8736 + }, + { + "epoch": 1.1579854208084823, + "grad_norm": 2.360891103744507, + "learning_rate": 3.378367416517155e-06, + "loss": 0.0248, + "num_input_tokens_seen": 17115560, + "step": 8737 + }, + { + "epoch": 1.1581179589131876, + "grad_norm": 9.996360778808594, + "learning_rate": 3.3780424023669245e-06, + "loss": 0.317, + "num_input_tokens_seen": 17116888, + "step": 8738 + }, + { + "epoch": 1.1582504970178926, + "grad_norm": 7.274130344390869, + "learning_rate": 3.37771737128743e-06, + "loss": 0.2716, + "num_input_tokens_seen": 17119720, + "step": 8739 + }, + { + "epoch": 1.1583830351225977, + "grad_norm": 10.05730152130127, + "learning_rate": 3.37739232328494e-06, + "loss": 0.3369, + "num_input_tokens_seen": 17122016, + "step": 8740 + }, + { + "epoch": 1.158515573227303, + "grad_norm": 0.019153209403157234, + "learning_rate": 3.37706725836572e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17123168, + "step": 8741 + }, + { + "epoch": 1.158648111332008, + "grad_norm": 0.03187284618616104, + "learning_rate": 3.376742176536038e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17126472, + "step": 8742 + }, + { + "epoch": 1.158780649436713, + "grad_norm": 2.7827870845794678, + "learning_rate": 3.3764170778021626e-06, + "loss": 0.0272, + "num_input_tokens_seen": 17128152, + "step": 8743 + }, + { + "epoch": 1.158913187541418, + "grad_norm": 0.2974751889705658, + "learning_rate": 3.376091962170361e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17130776, + "step": 8744 + }, + { + "epoch": 1.1590457256461233, + "grad_norm": 1.2216901779174805, + "learning_rate": 3.375766829646902e-06, + "loss": 0.0081, + "num_input_tokens_seen": 17132488, + "step": 8745 + }, + { + "epoch": 1.1591782637508283, + "grad_norm": 15.379068374633789, + "learning_rate": 3.375441680238055e-06, + "loss": 0.5392, + "num_input_tokens_seen": 17135232, + "step": 8746 + }, + { + "epoch": 1.1593108018555336, + "grad_norm": 1.8882536888122559, + "learning_rate": 3.3751165139500874e-06, + "loss": 0.018, + "num_input_tokens_seen": 17136664, + "step": 8747 + }, + { + "epoch": 1.1594433399602386, + "grad_norm": 7.539924621582031, + "learning_rate": 3.3747913307892703e-06, + "loss": 0.1419, + "num_input_tokens_seen": 17138984, + "step": 8748 + }, + { + "epoch": 1.1595758780649437, + "grad_norm": 7.482346534729004, + "learning_rate": 3.3744661307618725e-06, + "loss": 0.1318, + "num_input_tokens_seen": 17140888, + "step": 8749 + }, + { + "epoch": 1.1597084161696487, + "grad_norm": 0.3391251862049103, + "learning_rate": 3.3741409138741644e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17142288, + "step": 8750 + }, + { + "epoch": 1.159840954274354, + "grad_norm": 9.31494426727295, + "learning_rate": 3.3738156801324174e-06, + "loss": 0.1202, + "num_input_tokens_seen": 17143912, + "step": 8751 + }, + { + "epoch": 1.159973492379059, + "grad_norm": 7.749035835266113, + "learning_rate": 3.3734904295429006e-06, + "loss": 0.2291, + "num_input_tokens_seen": 17145648, + "step": 8752 + }, + { + "epoch": 1.160106030483764, + "grad_norm": 5.612725257873535, + "learning_rate": 3.3731651621118856e-06, + "loss": 0.147, + "num_input_tokens_seen": 17146960, + "step": 8753 + }, + { + "epoch": 1.1602385685884693, + "grad_norm": 0.039717089384794235, + "learning_rate": 3.372839877845644e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17148472, + "step": 8754 + }, + { + "epoch": 1.1603711066931743, + "grad_norm": 9.674017906188965, + "learning_rate": 3.3725145767504473e-06, + "loss": 0.2206, + "num_input_tokens_seen": 17151040, + "step": 8755 + }, + { + "epoch": 1.1605036447978794, + "grad_norm": 9.146735191345215, + "learning_rate": 3.3721892588325676e-06, + "loss": 0.2608, + "num_input_tokens_seen": 17153680, + "step": 8756 + }, + { + "epoch": 1.1606361829025844, + "grad_norm": 0.1338479369878769, + "learning_rate": 3.3718639240982777e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17155232, + "step": 8757 + }, + { + "epoch": 1.1607687210072897, + "grad_norm": 6.3811259269714355, + "learning_rate": 3.37153857255385e-06, + "loss": 0.0622, + "num_input_tokens_seen": 17156664, + "step": 8758 + }, + { + "epoch": 1.1609012591119947, + "grad_norm": 0.7668942213058472, + "learning_rate": 3.3712132042055567e-06, + "loss": 0.0148, + "num_input_tokens_seen": 17158448, + "step": 8759 + }, + { + "epoch": 1.1610337972166997, + "grad_norm": 7.476630210876465, + "learning_rate": 3.3708878190596724e-06, + "loss": 0.0352, + "num_input_tokens_seen": 17159800, + "step": 8760 + }, + { + "epoch": 1.161166335321405, + "grad_norm": 1.237681269645691, + "learning_rate": 3.37056241712247e-06, + "loss": 0.0139, + "num_input_tokens_seen": 17162024, + "step": 8761 + }, + { + "epoch": 1.16129887342611, + "grad_norm": 0.022176114842295647, + "learning_rate": 3.3702369984002227e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17163368, + "step": 8762 + }, + { + "epoch": 1.161431411530815, + "grad_norm": 9.826338768005371, + "learning_rate": 3.3699115628992076e-06, + "loss": 0.205, + "num_input_tokens_seen": 17165672, + "step": 8763 + }, + { + "epoch": 1.1615639496355201, + "grad_norm": 10.378432273864746, + "learning_rate": 3.3695861106256966e-06, + "loss": 0.136, + "num_input_tokens_seen": 17167416, + "step": 8764 + }, + { + "epoch": 1.1616964877402254, + "grad_norm": 14.10642147064209, + "learning_rate": 3.369260641585964e-06, + "loss": 0.4722, + "num_input_tokens_seen": 17169800, + "step": 8765 + }, + { + "epoch": 1.1618290258449304, + "grad_norm": 13.667675018310547, + "learning_rate": 3.3689351557862886e-06, + "loss": 0.0734, + "num_input_tokens_seen": 17172424, + "step": 8766 + }, + { + "epoch": 1.1619615639496355, + "grad_norm": 3.496528387069702, + "learning_rate": 3.368609653232944e-06, + "loss": 0.0264, + "num_input_tokens_seen": 17173912, + "step": 8767 + }, + { + "epoch": 1.1620941020543407, + "grad_norm": 2.0171031951904297, + "learning_rate": 3.368284133932204e-06, + "loss": 0.0165, + "num_input_tokens_seen": 17175872, + "step": 8768 + }, + { + "epoch": 1.1622266401590458, + "grad_norm": 10.521379470825195, + "learning_rate": 3.3679585978903483e-06, + "loss": 0.1359, + "num_input_tokens_seen": 17178296, + "step": 8769 + }, + { + "epoch": 1.1623591782637508, + "grad_norm": 15.802945137023926, + "learning_rate": 3.367633045113652e-06, + "loss": 0.3126, + "num_input_tokens_seen": 17180440, + "step": 8770 + }, + { + "epoch": 1.1624917163684558, + "grad_norm": 13.81311321258545, + "learning_rate": 3.3673074756083916e-06, + "loss": 0.3181, + "num_input_tokens_seen": 17182888, + "step": 8771 + }, + { + "epoch": 1.162624254473161, + "grad_norm": 18.235857009887695, + "learning_rate": 3.366981889380846e-06, + "loss": 0.5816, + "num_input_tokens_seen": 17184704, + "step": 8772 + }, + { + "epoch": 1.1627567925778661, + "grad_norm": 1.5781246423721313, + "learning_rate": 3.3666562864372904e-06, + "loss": 0.0182, + "num_input_tokens_seen": 17186688, + "step": 8773 + }, + { + "epoch": 1.1628893306825712, + "grad_norm": 5.09915828704834, + "learning_rate": 3.3663306667840035e-06, + "loss": 0.0392, + "num_input_tokens_seen": 17188840, + "step": 8774 + }, + { + "epoch": 1.1630218687872764, + "grad_norm": 15.1967191696167, + "learning_rate": 3.366005030427264e-06, + "loss": 0.3, + "num_input_tokens_seen": 17191464, + "step": 8775 + }, + { + "epoch": 1.1631544068919815, + "grad_norm": 3.6834731101989746, + "learning_rate": 3.365679377373351e-06, + "loss": 0.023, + "num_input_tokens_seen": 17194064, + "step": 8776 + }, + { + "epoch": 1.1632869449966865, + "grad_norm": 4.609734058380127, + "learning_rate": 3.3653537076285407e-06, + "loss": 0.107, + "num_input_tokens_seen": 17195976, + "step": 8777 + }, + { + "epoch": 1.1634194831013915, + "grad_norm": 3.198232889175415, + "learning_rate": 3.365028021199115e-06, + "loss": 0.1231, + "num_input_tokens_seen": 17197968, + "step": 8778 + }, + { + "epoch": 1.1635520212060968, + "grad_norm": 0.03016057424247265, + "learning_rate": 3.3647023180913524e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17199224, + "step": 8779 + }, + { + "epoch": 1.1636845593108018, + "grad_norm": 11.049237251281738, + "learning_rate": 3.364376598311532e-06, + "loss": 0.0792, + "num_input_tokens_seen": 17200960, + "step": 8780 + }, + { + "epoch": 1.1638170974155069, + "grad_norm": 0.27476415038108826, + "learning_rate": 3.364050861865935e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17202816, + "step": 8781 + }, + { + "epoch": 1.1639496355202121, + "grad_norm": 0.16871066391468048, + "learning_rate": 3.3637251087608407e-06, + "loss": 0.001, + "num_input_tokens_seen": 17204056, + "step": 8782 + }, + { + "epoch": 1.1640821736249172, + "grad_norm": 0.01754230447113514, + "learning_rate": 3.363399339002531e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17205152, + "step": 8783 + }, + { + "epoch": 1.1642147117296222, + "grad_norm": 0.09081870317459106, + "learning_rate": 3.3630735525972864e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17207416, + "step": 8784 + }, + { + "epoch": 1.1643472498343272, + "grad_norm": 1.478420615196228, + "learning_rate": 3.3627477495513883e-06, + "loss": 0.0044, + "num_input_tokens_seen": 17208912, + "step": 8785 + }, + { + "epoch": 1.1644797879390325, + "grad_norm": 2.149013042449951, + "learning_rate": 3.362421929871118e-06, + "loss": 0.0108, + "num_input_tokens_seen": 17210200, + "step": 8786 + }, + { + "epoch": 1.1646123260437375, + "grad_norm": 1.4341086149215698, + "learning_rate": 3.362096093562758e-06, + "loss": 0.0344, + "num_input_tokens_seen": 17211704, + "step": 8787 + }, + { + "epoch": 1.1647448641484426, + "grad_norm": 11.264973640441895, + "learning_rate": 3.3617702406325915e-06, + "loss": 0.149, + "num_input_tokens_seen": 17214104, + "step": 8788 + }, + { + "epoch": 1.1648774022531478, + "grad_norm": 16.0450382232666, + "learning_rate": 3.3614443710868995e-06, + "loss": 0.3785, + "num_input_tokens_seen": 17216184, + "step": 8789 + }, + { + "epoch": 1.1650099403578529, + "grad_norm": 0.42266690731048584, + "learning_rate": 3.3611184849319654e-06, + "loss": 0.004, + "num_input_tokens_seen": 17218296, + "step": 8790 + }, + { + "epoch": 1.165142478462558, + "grad_norm": 0.05343859642744064, + "learning_rate": 3.3607925821740734e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17219816, + "step": 8791 + }, + { + "epoch": 1.1652750165672632, + "grad_norm": 31.450143814086914, + "learning_rate": 3.360466662819506e-06, + "loss": 0.4873, + "num_input_tokens_seen": 17222224, + "step": 8792 + }, + { + "epoch": 1.1654075546719682, + "grad_norm": 2.264739513397217, + "learning_rate": 3.3601407268745483e-06, + "loss": 0.0114, + "num_input_tokens_seen": 17223744, + "step": 8793 + }, + { + "epoch": 1.1655400927766733, + "grad_norm": 10.350147247314453, + "learning_rate": 3.3598147743454844e-06, + "loss": 0.2334, + "num_input_tokens_seen": 17226088, + "step": 8794 + }, + { + "epoch": 1.1656726308813785, + "grad_norm": 6.459985733032227, + "learning_rate": 3.3594888052385975e-06, + "loss": 0.1633, + "num_input_tokens_seen": 17227808, + "step": 8795 + }, + { + "epoch": 1.1658051689860836, + "grad_norm": 0.018837304785847664, + "learning_rate": 3.3591628195601737e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17229008, + "step": 8796 + }, + { + "epoch": 1.1659377070907886, + "grad_norm": 10.784920692443848, + "learning_rate": 3.3588368173164985e-06, + "loss": 0.1736, + "num_input_tokens_seen": 17230216, + "step": 8797 + }, + { + "epoch": 1.1660702451954936, + "grad_norm": 1.151878833770752, + "learning_rate": 3.358510798513857e-06, + "loss": 0.0108, + "num_input_tokens_seen": 17232856, + "step": 8798 + }, + { + "epoch": 1.1662027833001989, + "grad_norm": 2.6485376358032227, + "learning_rate": 3.358184763158535e-06, + "loss": 0.0494, + "num_input_tokens_seen": 17234728, + "step": 8799 + }, + { + "epoch": 1.166335321404904, + "grad_norm": 5.9347734451293945, + "learning_rate": 3.3578587112568186e-06, + "loss": 0.0848, + "num_input_tokens_seen": 17237536, + "step": 8800 + }, + { + "epoch": 1.166467859509609, + "grad_norm": 0.7881411910057068, + "learning_rate": 3.357532642814994e-06, + "loss": 0.0049, + "num_input_tokens_seen": 17239520, + "step": 8801 + }, + { + "epoch": 1.1666003976143142, + "grad_norm": 15.894207954406738, + "learning_rate": 3.3572065578393493e-06, + "loss": 0.1129, + "num_input_tokens_seen": 17241896, + "step": 8802 + }, + { + "epoch": 1.1667329357190193, + "grad_norm": 15.068872451782227, + "learning_rate": 3.3568804563361703e-06, + "loss": 0.366, + "num_input_tokens_seen": 17244616, + "step": 8803 + }, + { + "epoch": 1.1668654738237243, + "grad_norm": 3.778249979019165, + "learning_rate": 3.356554338311745e-06, + "loss": 0.1047, + "num_input_tokens_seen": 17246296, + "step": 8804 + }, + { + "epoch": 1.1669980119284293, + "grad_norm": 8.295060157775879, + "learning_rate": 3.3562282037723616e-06, + "loss": 0.3166, + "num_input_tokens_seen": 17248152, + "step": 8805 + }, + { + "epoch": 1.1671305500331346, + "grad_norm": 3.767232656478882, + "learning_rate": 3.355902052724307e-06, + "loss": 0.082, + "num_input_tokens_seen": 17250328, + "step": 8806 + }, + { + "epoch": 1.1672630881378396, + "grad_norm": 5.73391056060791, + "learning_rate": 3.3555758851738706e-06, + "loss": 0.0981, + "num_input_tokens_seen": 17253008, + "step": 8807 + }, + { + "epoch": 1.1673956262425447, + "grad_norm": 6.256034851074219, + "learning_rate": 3.355249701127341e-06, + "loss": 0.2291, + "num_input_tokens_seen": 17254648, + "step": 8808 + }, + { + "epoch": 1.16752816434725, + "grad_norm": 0.10122384130954742, + "learning_rate": 3.354923500591007e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17256784, + "step": 8809 + }, + { + "epoch": 1.167660702451955, + "grad_norm": 3.7205545902252197, + "learning_rate": 3.354597283571158e-06, + "loss": 0.1055, + "num_input_tokens_seen": 17258280, + "step": 8810 + }, + { + "epoch": 1.16779324055666, + "grad_norm": 0.05275749787688255, + "learning_rate": 3.354271050074085e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17260320, + "step": 8811 + }, + { + "epoch": 1.167925778661365, + "grad_norm": 11.595385551452637, + "learning_rate": 3.3539448001060753e-06, + "loss": 0.3486, + "num_input_tokens_seen": 17262832, + "step": 8812 + }, + { + "epoch": 1.1680583167660703, + "grad_norm": 11.180983543395996, + "learning_rate": 3.353618533673422e-06, + "loss": 0.0208, + "num_input_tokens_seen": 17265336, + "step": 8813 + }, + { + "epoch": 1.1681908548707753, + "grad_norm": 2.978334665298462, + "learning_rate": 3.3532922507824134e-06, + "loss": 0.0421, + "num_input_tokens_seen": 17267280, + "step": 8814 + }, + { + "epoch": 1.1683233929754804, + "grad_norm": 0.10361512750387192, + "learning_rate": 3.352965951439342e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17268768, + "step": 8815 + }, + { + "epoch": 1.1684559310801856, + "grad_norm": 9.087681770324707, + "learning_rate": 3.3526396356504986e-06, + "loss": 0.0943, + "num_input_tokens_seen": 17271512, + "step": 8816 + }, + { + "epoch": 1.1685884691848907, + "grad_norm": 0.09535300731658936, + "learning_rate": 3.352313303422175e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17273312, + "step": 8817 + }, + { + "epoch": 1.1687210072895957, + "grad_norm": 0.03143332898616791, + "learning_rate": 3.3519869547606624e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17274432, + "step": 8818 + }, + { + "epoch": 1.1688535453943008, + "grad_norm": 4.9378132820129395, + "learning_rate": 3.351660589672254e-06, + "loss": 0.0831, + "num_input_tokens_seen": 17276328, + "step": 8819 + }, + { + "epoch": 1.168986083499006, + "grad_norm": 0.1342911422252655, + "learning_rate": 3.3513342081632423e-06, + "loss": 0.001, + "num_input_tokens_seen": 17279056, + "step": 8820 + }, + { + "epoch": 1.169118621603711, + "grad_norm": 9.325128555297852, + "learning_rate": 3.351007810239919e-06, + "loss": 0.1162, + "num_input_tokens_seen": 17281984, + "step": 8821 + }, + { + "epoch": 1.169251159708416, + "grad_norm": 3.1699886322021484, + "learning_rate": 3.3506813959085783e-06, + "loss": 0.0185, + "num_input_tokens_seen": 17283576, + "step": 8822 + }, + { + "epoch": 1.1693836978131213, + "grad_norm": 0.08768800646066666, + "learning_rate": 3.3503549651755143e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17285328, + "step": 8823 + }, + { + "epoch": 1.1695162359178264, + "grad_norm": 0.173847958445549, + "learning_rate": 3.350028518047019e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17288296, + "step": 8824 + }, + { + "epoch": 1.1696487740225314, + "grad_norm": 5.677957534790039, + "learning_rate": 3.3497020545293875e-06, + "loss": 0.1246, + "num_input_tokens_seen": 17290112, + "step": 8825 + }, + { + "epoch": 1.1697813121272365, + "grad_norm": 9.095964431762695, + "learning_rate": 3.349375574628914e-06, + "loss": 0.2168, + "num_input_tokens_seen": 17291688, + "step": 8826 + }, + { + "epoch": 1.1699138502319417, + "grad_norm": 6.570424556732178, + "learning_rate": 3.3490490783518935e-06, + "loss": 0.0264, + "num_input_tokens_seen": 17293312, + "step": 8827 + }, + { + "epoch": 1.1700463883366468, + "grad_norm": 0.30812981724739075, + "learning_rate": 3.348722565704622e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17294536, + "step": 8828 + }, + { + "epoch": 1.1701789264413518, + "grad_norm": 0.6817254424095154, + "learning_rate": 3.348396036693393e-06, + "loss": 0.0065, + "num_input_tokens_seen": 17295944, + "step": 8829 + }, + { + "epoch": 1.170311464546057, + "grad_norm": 5.960328578948975, + "learning_rate": 3.348069491324503e-06, + "loss": 0.2425, + "num_input_tokens_seen": 17298048, + "step": 8830 + }, + { + "epoch": 1.170444002650762, + "grad_norm": 0.05711880698800087, + "learning_rate": 3.347742929604249e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17300904, + "step": 8831 + }, + { + "epoch": 1.1705765407554671, + "grad_norm": 11.044378280639648, + "learning_rate": 3.3474163515389256e-06, + "loss": 0.2476, + "num_input_tokens_seen": 17302864, + "step": 8832 + }, + { + "epoch": 1.1707090788601724, + "grad_norm": 0.027814380824565887, + "learning_rate": 3.347089757134831e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17304152, + "step": 8833 + }, + { + "epoch": 1.1708416169648774, + "grad_norm": 2.0247271060943604, + "learning_rate": 3.3467631463982616e-06, + "loss": 0.0129, + "num_input_tokens_seen": 17305984, + "step": 8834 + }, + { + "epoch": 1.1709741550695825, + "grad_norm": 7.8655571937561035, + "learning_rate": 3.3464365193355143e-06, + "loss": 0.0829, + "num_input_tokens_seen": 17307552, + "step": 8835 + }, + { + "epoch": 1.1711066931742877, + "grad_norm": 5.011282444000244, + "learning_rate": 3.3461098759528866e-06, + "loss": 0.0491, + "num_input_tokens_seen": 17309024, + "step": 8836 + }, + { + "epoch": 1.1712392312789928, + "grad_norm": 0.04960355535149574, + "learning_rate": 3.3457832162566767e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17312032, + "step": 8837 + }, + { + "epoch": 1.1713717693836978, + "grad_norm": 0.019741661846637726, + "learning_rate": 3.3454565402531835e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17314304, + "step": 8838 + }, + { + "epoch": 1.1715043074884028, + "grad_norm": 0.04193928465247154, + "learning_rate": 3.3451298479487048e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17316408, + "step": 8839 + }, + { + "epoch": 1.171636845593108, + "grad_norm": 0.05488637834787369, + "learning_rate": 3.3448031393495394e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17318072, + "step": 8840 + }, + { + "epoch": 1.1717693836978131, + "grad_norm": 8.657123565673828, + "learning_rate": 3.344476414461987e-06, + "loss": 0.0978, + "num_input_tokens_seen": 17320640, + "step": 8841 + }, + { + "epoch": 1.1719019218025182, + "grad_norm": 10.635114669799805, + "learning_rate": 3.3441496732923475e-06, + "loss": 0.279, + "num_input_tokens_seen": 17322512, + "step": 8842 + }, + { + "epoch": 1.1720344599072234, + "grad_norm": 2.2050373554229736, + "learning_rate": 3.343822915846918e-06, + "loss": 0.0095, + "num_input_tokens_seen": 17325416, + "step": 8843 + }, + { + "epoch": 1.1721669980119285, + "grad_norm": 10.27675724029541, + "learning_rate": 3.343496142132002e-06, + "loss": 0.1018, + "num_input_tokens_seen": 17327056, + "step": 8844 + }, + { + "epoch": 1.1722995361166335, + "grad_norm": 0.08411324769258499, + "learning_rate": 3.3431693521538977e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17328424, + "step": 8845 + }, + { + "epoch": 1.1724320742213385, + "grad_norm": 4.106504440307617, + "learning_rate": 3.342842545918907e-06, + "loss": 0.0509, + "num_input_tokens_seen": 17330512, + "step": 8846 + }, + { + "epoch": 1.1725646123260438, + "grad_norm": 0.02667836658656597, + "learning_rate": 3.3425157234333316e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17332856, + "step": 8847 + }, + { + "epoch": 1.1726971504307488, + "grad_norm": 15.952197074890137, + "learning_rate": 3.34218888470347e-06, + "loss": 0.0825, + "num_input_tokens_seen": 17335680, + "step": 8848 + }, + { + "epoch": 1.1728296885354539, + "grad_norm": 0.30259251594543457, + "learning_rate": 3.341862029735627e-06, + "loss": 0.001, + "num_input_tokens_seen": 17337416, + "step": 8849 + }, + { + "epoch": 1.1729622266401591, + "grad_norm": 7.76979923248291, + "learning_rate": 3.3415351585361028e-06, + "loss": 0.0993, + "num_input_tokens_seen": 17339088, + "step": 8850 + }, + { + "epoch": 1.1730947647448642, + "grad_norm": 4.826986789703369, + "learning_rate": 3.3412082711112005e-06, + "loss": 0.1121, + "num_input_tokens_seen": 17340936, + "step": 8851 + }, + { + "epoch": 1.1732273028495692, + "grad_norm": 0.32022175192832947, + "learning_rate": 3.340881367467222e-06, + "loss": 0.0033, + "num_input_tokens_seen": 17343000, + "step": 8852 + }, + { + "epoch": 1.1733598409542743, + "grad_norm": 5.01305627822876, + "learning_rate": 3.3405544476104705e-06, + "loss": 0.0399, + "num_input_tokens_seen": 17344472, + "step": 8853 + }, + { + "epoch": 1.1734923790589795, + "grad_norm": 10.551304817199707, + "learning_rate": 3.34022751154725e-06, + "loss": 0.3568, + "num_input_tokens_seen": 17346072, + "step": 8854 + }, + { + "epoch": 1.1736249171636846, + "grad_norm": 3.7864937782287598, + "learning_rate": 3.3399005592838628e-06, + "loss": 0.0418, + "num_input_tokens_seen": 17349048, + "step": 8855 + }, + { + "epoch": 1.1737574552683896, + "grad_norm": 0.05981745198369026, + "learning_rate": 3.3395735908266143e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17350832, + "step": 8856 + }, + { + "epoch": 1.1738899933730949, + "grad_norm": 0.12674234807491302, + "learning_rate": 3.3392466061818067e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17352168, + "step": 8857 + }, + { + "epoch": 1.1740225314778, + "grad_norm": 0.0324234776198864, + "learning_rate": 3.338919605355746e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17354216, + "step": 8858 + }, + { + "epoch": 1.174155069582505, + "grad_norm": 10.12738037109375, + "learning_rate": 3.3385925883547373e-06, + "loss": 0.4872, + "num_input_tokens_seen": 17357776, + "step": 8859 + }, + { + "epoch": 1.17428760768721, + "grad_norm": 6.50280237197876, + "learning_rate": 3.338265555185084e-06, + "loss": 0.1522, + "num_input_tokens_seen": 17359816, + "step": 8860 + }, + { + "epoch": 1.1744201457919152, + "grad_norm": 6.599811553955078, + "learning_rate": 3.3379385058530923e-06, + "loss": 0.1842, + "num_input_tokens_seen": 17362576, + "step": 8861 + }, + { + "epoch": 1.1745526838966203, + "grad_norm": 4.615855693817139, + "learning_rate": 3.3376114403650683e-06, + "loss": 0.1078, + "num_input_tokens_seen": 17364960, + "step": 8862 + }, + { + "epoch": 1.1746852220013253, + "grad_norm": 16.18260383605957, + "learning_rate": 3.3372843587273184e-06, + "loss": 0.5028, + "num_input_tokens_seen": 17366992, + "step": 8863 + }, + { + "epoch": 1.1748177601060306, + "grad_norm": 1.8142237663269043, + "learning_rate": 3.336957260946149e-06, + "loss": 0.013, + "num_input_tokens_seen": 17368584, + "step": 8864 + }, + { + "epoch": 1.1749502982107356, + "grad_norm": 1.0917799472808838, + "learning_rate": 3.336630147027865e-06, + "loss": 0.0151, + "num_input_tokens_seen": 17371344, + "step": 8865 + }, + { + "epoch": 1.1750828363154406, + "grad_norm": 0.1811767965555191, + "learning_rate": 3.3363030169787754e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17372640, + "step": 8866 + }, + { + "epoch": 1.1752153744201457, + "grad_norm": 3.082073450088501, + "learning_rate": 3.3359758708051864e-06, + "loss": 0.018, + "num_input_tokens_seen": 17374080, + "step": 8867 + }, + { + "epoch": 1.175347912524851, + "grad_norm": 8.657854080200195, + "learning_rate": 3.335648708513406e-06, + "loss": 0.2723, + "num_input_tokens_seen": 17376576, + "step": 8868 + }, + { + "epoch": 1.175480450629556, + "grad_norm": 0.4310837388038635, + "learning_rate": 3.335321530109741e-06, + "loss": 0.0015, + "num_input_tokens_seen": 17378976, + "step": 8869 + }, + { + "epoch": 1.175612988734261, + "grad_norm": 7.137519836425781, + "learning_rate": 3.334994335600503e-06, + "loss": 0.1222, + "num_input_tokens_seen": 17381272, + "step": 8870 + }, + { + "epoch": 1.1757455268389663, + "grad_norm": 9.532232284545898, + "learning_rate": 3.334667124991996e-06, + "loss": 0.1163, + "num_input_tokens_seen": 17384048, + "step": 8871 + }, + { + "epoch": 1.1758780649436713, + "grad_norm": 0.07253357023000717, + "learning_rate": 3.3343398982905315e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17386832, + "step": 8872 + }, + { + "epoch": 1.1760106030483763, + "grad_norm": 0.41350844502449036, + "learning_rate": 3.334012655502419e-06, + "loss": 0.0046, + "num_input_tokens_seen": 17388352, + "step": 8873 + }, + { + "epoch": 1.1761431411530816, + "grad_norm": 0.04887591674923897, + "learning_rate": 3.333685396633967e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17389504, + "step": 8874 + }, + { + "epoch": 1.1762756792577866, + "grad_norm": 0.40415316820144653, + "learning_rate": 3.3333581216914844e-06, + "loss": 0.0023, + "num_input_tokens_seen": 17391528, + "step": 8875 + }, + { + "epoch": 1.1764082173624917, + "grad_norm": 0.25336959958076477, + "learning_rate": 3.333030830681283e-06, + "loss": 0.0018, + "num_input_tokens_seen": 17393816, + "step": 8876 + }, + { + "epoch": 1.176540755467197, + "grad_norm": 0.041031885892152786, + "learning_rate": 3.3327035236096723e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17394800, + "step": 8877 + }, + { + "epoch": 1.176673293571902, + "grad_norm": 0.12305854260921478, + "learning_rate": 3.3323762004829635e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17395968, + "step": 8878 + }, + { + "epoch": 1.176805831676607, + "grad_norm": 5.9266357421875, + "learning_rate": 3.332048861307467e-06, + "loss": 0.1003, + "num_input_tokens_seen": 17398104, + "step": 8879 + }, + { + "epoch": 1.176938369781312, + "grad_norm": 0.023426292464137077, + "learning_rate": 3.3317215060894946e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17399640, + "step": 8880 + }, + { + "epoch": 1.1770709078860173, + "grad_norm": 6.088700771331787, + "learning_rate": 3.3313941348353575e-06, + "loss": 0.1498, + "num_input_tokens_seen": 17401912, + "step": 8881 + }, + { + "epoch": 1.1772034459907224, + "grad_norm": 6.036590576171875, + "learning_rate": 3.3310667475513684e-06, + "loss": 0.0984, + "num_input_tokens_seen": 17404048, + "step": 8882 + }, + { + "epoch": 1.1773359840954274, + "grad_norm": 11.896187782287598, + "learning_rate": 3.330739344243839e-06, + "loss": 0.0712, + "num_input_tokens_seen": 17406168, + "step": 8883 + }, + { + "epoch": 1.1774685222001327, + "grad_norm": 14.426502227783203, + "learning_rate": 3.330411924919082e-06, + "loss": 0.3913, + "num_input_tokens_seen": 17407968, + "step": 8884 + }, + { + "epoch": 1.1776010603048377, + "grad_norm": 4.15945291519165, + "learning_rate": 3.33008448958341e-06, + "loss": 0.0832, + "num_input_tokens_seen": 17409488, + "step": 8885 + }, + { + "epoch": 1.1777335984095427, + "grad_norm": 4.968869209289551, + "learning_rate": 3.3297570382431367e-06, + "loss": 0.1024, + "num_input_tokens_seen": 17411248, + "step": 8886 + }, + { + "epoch": 1.1778661365142478, + "grad_norm": 6.137375354766846, + "learning_rate": 3.329429570904575e-06, + "loss": 0.1137, + "num_input_tokens_seen": 17414112, + "step": 8887 + }, + { + "epoch": 1.177998674618953, + "grad_norm": 0.15902596712112427, + "learning_rate": 3.3291020875740394e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17415952, + "step": 8888 + }, + { + "epoch": 1.178131212723658, + "grad_norm": 3.0795891284942627, + "learning_rate": 3.3287745882578427e-06, + "loss": 0.0955, + "num_input_tokens_seen": 17417864, + "step": 8889 + }, + { + "epoch": 1.178263750828363, + "grad_norm": 3.824113130569458, + "learning_rate": 3.328447072962301e-06, + "loss": 0.0154, + "num_input_tokens_seen": 17420168, + "step": 8890 + }, + { + "epoch": 1.1783962889330684, + "grad_norm": 7.940334796905518, + "learning_rate": 3.328119541693728e-06, + "loss": 0.1104, + "num_input_tokens_seen": 17421704, + "step": 8891 + }, + { + "epoch": 1.1785288270377734, + "grad_norm": 11.775419235229492, + "learning_rate": 3.327791994458438e-06, + "loss": 0.2967, + "num_input_tokens_seen": 17424280, + "step": 8892 + }, + { + "epoch": 1.1786613651424784, + "grad_norm": 0.05949070677161217, + "learning_rate": 3.327464431262749e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17425848, + "step": 8893 + }, + { + "epoch": 1.1787939032471835, + "grad_norm": 10.573440551757812, + "learning_rate": 3.3271368521129736e-06, + "loss": 0.2735, + "num_input_tokens_seen": 17427880, + "step": 8894 + }, + { + "epoch": 1.1789264413518887, + "grad_norm": 9.537389755249023, + "learning_rate": 3.3268092570154296e-06, + "loss": 0.0932, + "num_input_tokens_seen": 17429624, + "step": 8895 + }, + { + "epoch": 1.1790589794565938, + "grad_norm": 3.9666707515716553, + "learning_rate": 3.3264816459764334e-06, + "loss": 0.0489, + "num_input_tokens_seen": 17430864, + "step": 8896 + }, + { + "epoch": 1.1791915175612988, + "grad_norm": 7.0137553215026855, + "learning_rate": 3.3261540190023e-06, + "loss": 0.0712, + "num_input_tokens_seen": 17433168, + "step": 8897 + }, + { + "epoch": 1.179324055666004, + "grad_norm": 5.60612154006958, + "learning_rate": 3.325826376099347e-06, + "loss": 0.047, + "num_input_tokens_seen": 17434920, + "step": 8898 + }, + { + "epoch": 1.179456593770709, + "grad_norm": 16.52873420715332, + "learning_rate": 3.325498717273893e-06, + "loss": 0.3325, + "num_input_tokens_seen": 17437592, + "step": 8899 + }, + { + "epoch": 1.1795891318754141, + "grad_norm": 11.053872108459473, + "learning_rate": 3.3251710425322524e-06, + "loss": 0.4957, + "num_input_tokens_seen": 17439800, + "step": 8900 + }, + { + "epoch": 1.1797216699801192, + "grad_norm": 11.831011772155762, + "learning_rate": 3.324843351880746e-06, + "loss": 0.2683, + "num_input_tokens_seen": 17442432, + "step": 8901 + }, + { + "epoch": 1.1798542080848244, + "grad_norm": 5.917088031768799, + "learning_rate": 3.3245156453256905e-06, + "loss": 0.0753, + "num_input_tokens_seen": 17443880, + "step": 8902 + }, + { + "epoch": 1.1799867461895295, + "grad_norm": 0.07549116015434265, + "learning_rate": 3.324187922873405e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17445840, + "step": 8903 + }, + { + "epoch": 1.1801192842942345, + "grad_norm": 0.0452670156955719, + "learning_rate": 3.3238601845302075e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17448104, + "step": 8904 + }, + { + "epoch": 1.1802518223989398, + "grad_norm": 0.22549304366111755, + "learning_rate": 3.3235324303024167e-06, + "loss": 0.0024, + "num_input_tokens_seen": 17450056, + "step": 8905 + }, + { + "epoch": 1.1803843605036448, + "grad_norm": 0.2072581946849823, + "learning_rate": 3.3232046601963534e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17451632, + "step": 8906 + }, + { + "epoch": 1.1805168986083499, + "grad_norm": 5.191887855529785, + "learning_rate": 3.322876874218335e-06, + "loss": 0.0398, + "num_input_tokens_seen": 17453624, + "step": 8907 + }, + { + "epoch": 1.180649436713055, + "grad_norm": 15.796998023986816, + "learning_rate": 3.3225490723746847e-06, + "loss": 0.5041, + "num_input_tokens_seen": 17456552, + "step": 8908 + }, + { + "epoch": 1.1807819748177601, + "grad_norm": 10.588598251342773, + "learning_rate": 3.3222212546717204e-06, + "loss": 0.4351, + "num_input_tokens_seen": 17458408, + "step": 8909 + }, + { + "epoch": 1.1809145129224652, + "grad_norm": 0.0450008325278759, + "learning_rate": 3.3218934211157615e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17461544, + "step": 8910 + }, + { + "epoch": 1.1810470510271702, + "grad_norm": 0.08888935297727585, + "learning_rate": 3.321565571713132e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17463152, + "step": 8911 + }, + { + "epoch": 1.1811795891318755, + "grad_norm": 5.804290771484375, + "learning_rate": 3.321237706470152e-06, + "loss": 0.0827, + "num_input_tokens_seen": 17464728, + "step": 8912 + }, + { + "epoch": 1.1813121272365805, + "grad_norm": 9.533463478088379, + "learning_rate": 3.3209098253931404e-06, + "loss": 0.2408, + "num_input_tokens_seen": 17467024, + "step": 8913 + }, + { + "epoch": 1.1814446653412856, + "grad_norm": 0.9059574604034424, + "learning_rate": 3.3205819284884226e-06, + "loss": 0.0125, + "num_input_tokens_seen": 17468592, + "step": 8914 + }, + { + "epoch": 1.1815772034459906, + "grad_norm": 5.516317367553711, + "learning_rate": 3.3202540157623186e-06, + "loss": 0.1311, + "num_input_tokens_seen": 17470440, + "step": 8915 + }, + { + "epoch": 1.1817097415506959, + "grad_norm": 0.050684865564107895, + "learning_rate": 3.3199260872211515e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17473056, + "step": 8916 + }, + { + "epoch": 1.181842279655401, + "grad_norm": 2.446044445037842, + "learning_rate": 3.319598142871244e-06, + "loss": 0.0691, + "num_input_tokens_seen": 17475448, + "step": 8917 + }, + { + "epoch": 1.181974817760106, + "grad_norm": 0.014913138933479786, + "learning_rate": 3.319270182718918e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17476592, + "step": 8918 + }, + { + "epoch": 1.1821073558648112, + "grad_norm": 10.886700630187988, + "learning_rate": 3.3189422067704985e-06, + "loss": 0.2426, + "num_input_tokens_seen": 17478104, + "step": 8919 + }, + { + "epoch": 1.1822398939695162, + "grad_norm": 12.689355850219727, + "learning_rate": 3.3186142150323083e-06, + "loss": 0.3231, + "num_input_tokens_seen": 17479472, + "step": 8920 + }, + { + "epoch": 1.1823724320742213, + "grad_norm": 9.062192916870117, + "learning_rate": 3.3182862075106708e-06, + "loss": 0.1892, + "num_input_tokens_seen": 17481520, + "step": 8921 + }, + { + "epoch": 1.1825049701789265, + "grad_norm": 3.434389591217041, + "learning_rate": 3.3179581842119113e-06, + "loss": 0.0506, + "num_input_tokens_seen": 17483160, + "step": 8922 + }, + { + "epoch": 1.1826375082836316, + "grad_norm": 3.0705623626708984, + "learning_rate": 3.317630145142353e-06, + "loss": 0.0422, + "num_input_tokens_seen": 17485024, + "step": 8923 + }, + { + "epoch": 1.1827700463883366, + "grad_norm": 0.038525160402059555, + "learning_rate": 3.3173020903083227e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17487056, + "step": 8924 + }, + { + "epoch": 1.1829025844930419, + "grad_norm": 5.803386211395264, + "learning_rate": 3.3169740197161427e-06, + "loss": 0.1272, + "num_input_tokens_seen": 17489888, + "step": 8925 + }, + { + "epoch": 1.183035122597747, + "grad_norm": 7.382401466369629, + "learning_rate": 3.3166459333721408e-06, + "loss": 0.2465, + "num_input_tokens_seen": 17491296, + "step": 8926 + }, + { + "epoch": 1.183167660702452, + "grad_norm": 6.785992622375488, + "learning_rate": 3.3163178312826417e-06, + "loss": 0.1687, + "num_input_tokens_seen": 17493992, + "step": 8927 + }, + { + "epoch": 1.183300198807157, + "grad_norm": 0.04319420084357262, + "learning_rate": 3.315989713453972e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17495848, + "step": 8928 + }, + { + "epoch": 1.1834327369118622, + "grad_norm": 10.298629760742188, + "learning_rate": 3.3156615798924576e-06, + "loss": 0.2509, + "num_input_tokens_seen": 17498544, + "step": 8929 + }, + { + "epoch": 1.1835652750165673, + "grad_norm": 5.441462516784668, + "learning_rate": 3.315333430604425e-06, + "loss": 0.1466, + "num_input_tokens_seen": 17501072, + "step": 8930 + }, + { + "epoch": 1.1836978131212723, + "grad_norm": 0.0792512595653534, + "learning_rate": 3.315005265596202e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17502888, + "step": 8931 + }, + { + "epoch": 1.1838303512259776, + "grad_norm": 10.404994010925293, + "learning_rate": 3.314677084874115e-06, + "loss": 0.163, + "num_input_tokens_seen": 17504656, + "step": 8932 + }, + { + "epoch": 1.1839628893306826, + "grad_norm": 12.821009635925293, + "learning_rate": 3.314348888444491e-06, + "loss": 0.2046, + "num_input_tokens_seen": 17506536, + "step": 8933 + }, + { + "epoch": 1.1840954274353876, + "grad_norm": 5.730447769165039, + "learning_rate": 3.3140206763136597e-06, + "loss": 0.0515, + "num_input_tokens_seen": 17507912, + "step": 8934 + }, + { + "epoch": 1.1842279655400927, + "grad_norm": 3.5229740142822266, + "learning_rate": 3.313692448487948e-06, + "loss": 0.0161, + "num_input_tokens_seen": 17509968, + "step": 8935 + }, + { + "epoch": 1.184360503644798, + "grad_norm": 3.23940110206604, + "learning_rate": 3.3133642049736835e-06, + "loss": 0.0809, + "num_input_tokens_seen": 17512592, + "step": 8936 + }, + { + "epoch": 1.184493041749503, + "grad_norm": 4.539789199829102, + "learning_rate": 3.313035945777197e-06, + "loss": 0.1271, + "num_input_tokens_seen": 17514776, + "step": 8937 + }, + { + "epoch": 1.184625579854208, + "grad_norm": 5.83056640625, + "learning_rate": 3.312707670904816e-06, + "loss": 0.1138, + "num_input_tokens_seen": 17517440, + "step": 8938 + }, + { + "epoch": 1.1847581179589133, + "grad_norm": 7.625308036804199, + "learning_rate": 3.312379380362872e-06, + "loss": 0.2632, + "num_input_tokens_seen": 17519176, + "step": 8939 + }, + { + "epoch": 1.1848906560636183, + "grad_norm": 8.107145309448242, + "learning_rate": 3.3120510741576915e-06, + "loss": 0.0861, + "num_input_tokens_seen": 17521256, + "step": 8940 + }, + { + "epoch": 1.1850231941683234, + "grad_norm": 5.104151248931885, + "learning_rate": 3.3117227522956064e-06, + "loss": 0.1521, + "num_input_tokens_seen": 17522736, + "step": 8941 + }, + { + "epoch": 1.1851557322730284, + "grad_norm": 0.7377922534942627, + "learning_rate": 3.3113944147829465e-06, + "loss": 0.01, + "num_input_tokens_seen": 17524968, + "step": 8942 + }, + { + "epoch": 1.1852882703777337, + "grad_norm": 13.687117576599121, + "learning_rate": 3.3110660616260433e-06, + "loss": 0.2918, + "num_input_tokens_seen": 17526744, + "step": 8943 + }, + { + "epoch": 1.1854208084824387, + "grad_norm": 3.5081520080566406, + "learning_rate": 3.3107376928312263e-06, + "loss": 0.0506, + "num_input_tokens_seen": 17528856, + "step": 8944 + }, + { + "epoch": 1.1855533465871437, + "grad_norm": 0.7712841629981995, + "learning_rate": 3.310409308404827e-06, + "loss": 0.0054, + "num_input_tokens_seen": 17530576, + "step": 8945 + }, + { + "epoch": 1.185685884691849, + "grad_norm": 0.2213091105222702, + "learning_rate": 3.3100809083531777e-06, + "loss": 0.0016, + "num_input_tokens_seen": 17532448, + "step": 8946 + }, + { + "epoch": 1.185818422796554, + "grad_norm": 4.120362758636475, + "learning_rate": 3.3097524926826095e-06, + "loss": 0.0328, + "num_input_tokens_seen": 17535016, + "step": 8947 + }, + { + "epoch": 1.185950960901259, + "grad_norm": 3.156841278076172, + "learning_rate": 3.3094240613994548e-06, + "loss": 0.0521, + "num_input_tokens_seen": 17537448, + "step": 8948 + }, + { + "epoch": 1.186083499005964, + "grad_norm": 0.6524286866188049, + "learning_rate": 3.3090956145100457e-06, + "loss": 0.0068, + "num_input_tokens_seen": 17538616, + "step": 8949 + }, + { + "epoch": 1.1862160371106694, + "grad_norm": 0.1091860681772232, + "learning_rate": 3.3087671520207153e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17540080, + "step": 8950 + }, + { + "epoch": 1.1863485752153744, + "grad_norm": 0.5010088086128235, + "learning_rate": 3.3084386739377954e-06, + "loss": 0.0046, + "num_input_tokens_seen": 17541696, + "step": 8951 + }, + { + "epoch": 1.1864811133200794, + "grad_norm": 0.1223435252904892, + "learning_rate": 3.3081101802676207e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17543224, + "step": 8952 + }, + { + "epoch": 1.1866136514247847, + "grad_norm": 0.1239573135972023, + "learning_rate": 3.3077816710165244e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17544544, + "step": 8953 + }, + { + "epoch": 1.1867461895294897, + "grad_norm": 0.04506201297044754, + "learning_rate": 3.3074531461908392e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17546208, + "step": 8954 + }, + { + "epoch": 1.1868787276341948, + "grad_norm": 7.987022876739502, + "learning_rate": 3.307124605796902e-06, + "loss": 0.1541, + "num_input_tokens_seen": 17547984, + "step": 8955 + }, + { + "epoch": 1.1870112657388998, + "grad_norm": 4.274661540985107, + "learning_rate": 3.3067960498410446e-06, + "loss": 0.0573, + "num_input_tokens_seen": 17550576, + "step": 8956 + }, + { + "epoch": 1.187143803843605, + "grad_norm": 7.053033828735352, + "learning_rate": 3.3064674783296025e-06, + "loss": 0.1211, + "num_input_tokens_seen": 17552424, + "step": 8957 + }, + { + "epoch": 1.18727634194831, + "grad_norm": 11.39521598815918, + "learning_rate": 3.306138891268912e-06, + "loss": 0.1456, + "num_input_tokens_seen": 17554576, + "step": 8958 + }, + { + "epoch": 1.1874088800530151, + "grad_norm": 4.583521366119385, + "learning_rate": 3.3058102886653065e-06, + "loss": 0.0686, + "num_input_tokens_seen": 17556816, + "step": 8959 + }, + { + "epoch": 1.1875414181577204, + "grad_norm": 0.13757112622261047, + "learning_rate": 3.3054816705251237e-06, + "loss": 0.001, + "num_input_tokens_seen": 17558776, + "step": 8960 + }, + { + "epoch": 1.1876739562624254, + "grad_norm": 8.311262130737305, + "learning_rate": 3.305153036854698e-06, + "loss": 0.1432, + "num_input_tokens_seen": 17560280, + "step": 8961 + }, + { + "epoch": 1.1878064943671305, + "grad_norm": 7.239976406097412, + "learning_rate": 3.3048243876603665e-06, + "loss": 0.186, + "num_input_tokens_seen": 17563192, + "step": 8962 + }, + { + "epoch": 1.1879390324718357, + "grad_norm": 7.996603965759277, + "learning_rate": 3.3044957229484654e-06, + "loss": 0.0561, + "num_input_tokens_seen": 17565912, + "step": 8963 + }, + { + "epoch": 1.1880715705765408, + "grad_norm": 9.780413627624512, + "learning_rate": 3.3041670427253314e-06, + "loss": 0.0855, + "num_input_tokens_seen": 17567664, + "step": 8964 + }, + { + "epoch": 1.1882041086812458, + "grad_norm": 2.266666889190674, + "learning_rate": 3.3038383469973034e-06, + "loss": 0.0257, + "num_input_tokens_seen": 17569464, + "step": 8965 + }, + { + "epoch": 1.188336646785951, + "grad_norm": 0.07029636949300766, + "learning_rate": 3.3035096357707163e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17571040, + "step": 8966 + }, + { + "epoch": 1.1884691848906561, + "grad_norm": 5.848216533660889, + "learning_rate": 3.3031809090519097e-06, + "loss": 0.1223, + "num_input_tokens_seen": 17573928, + "step": 8967 + }, + { + "epoch": 1.1886017229953612, + "grad_norm": 5.0672607421875, + "learning_rate": 3.3028521668472215e-06, + "loss": 0.0934, + "num_input_tokens_seen": 17576328, + "step": 8968 + }, + { + "epoch": 1.1887342611000662, + "grad_norm": 0.12875960767269135, + "learning_rate": 3.302523409162989e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17578080, + "step": 8969 + }, + { + "epoch": 1.1888667992047715, + "grad_norm": 5.097253799438477, + "learning_rate": 3.3021946360055505e-06, + "loss": 0.1417, + "num_input_tokens_seen": 17579896, + "step": 8970 + }, + { + "epoch": 1.1889993373094765, + "grad_norm": 3.7811038494110107, + "learning_rate": 3.3018658473812482e-06, + "loss": 0.0347, + "num_input_tokens_seen": 17581976, + "step": 8971 + }, + { + "epoch": 1.1891318754141815, + "grad_norm": 4.580356597900391, + "learning_rate": 3.3015370432964174e-06, + "loss": 0.2121, + "num_input_tokens_seen": 17583864, + "step": 8972 + }, + { + "epoch": 1.1892644135188868, + "grad_norm": 7.334189414978027, + "learning_rate": 3.3012082237574e-06, + "loss": 0.2186, + "num_input_tokens_seen": 17585600, + "step": 8973 + }, + { + "epoch": 1.1893969516235918, + "grad_norm": 6.757203578948975, + "learning_rate": 3.300879388770536e-06, + "loss": 0.0448, + "num_input_tokens_seen": 17587744, + "step": 8974 + }, + { + "epoch": 1.1895294897282969, + "grad_norm": 9.832472801208496, + "learning_rate": 3.3005505383421638e-06, + "loss": 0.2743, + "num_input_tokens_seen": 17589872, + "step": 8975 + }, + { + "epoch": 1.189662027833002, + "grad_norm": 0.3736446499824524, + "learning_rate": 3.3002216724786257e-06, + "loss": 0.0025, + "num_input_tokens_seen": 17591536, + "step": 8976 + }, + { + "epoch": 1.1897945659377072, + "grad_norm": 13.027419090270996, + "learning_rate": 3.2998927911862614e-06, + "loss": 0.1662, + "num_input_tokens_seen": 17593056, + "step": 8977 + }, + { + "epoch": 1.1899271040424122, + "grad_norm": 0.26161283254623413, + "learning_rate": 3.2995638944714126e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17594824, + "step": 8978 + }, + { + "epoch": 1.1900596421471172, + "grad_norm": 0.8130900263786316, + "learning_rate": 3.29923498234042e-06, + "loss": 0.0053, + "num_input_tokens_seen": 17597312, + "step": 8979 + }, + { + "epoch": 1.1901921802518225, + "grad_norm": 2.9022505283355713, + "learning_rate": 3.2989060547996254e-06, + "loss": 0.0152, + "num_input_tokens_seen": 17599880, + "step": 8980 + }, + { + "epoch": 1.1903247183565275, + "grad_norm": 4.475684642791748, + "learning_rate": 3.2985771118553713e-06, + "loss": 0.0408, + "num_input_tokens_seen": 17601632, + "step": 8981 + }, + { + "epoch": 1.1904572564612326, + "grad_norm": 10.67611026763916, + "learning_rate": 3.298248153514e-06, + "loss": 0.1873, + "num_input_tokens_seen": 17604240, + "step": 8982 + }, + { + "epoch": 1.1905897945659376, + "grad_norm": 8.216914176940918, + "learning_rate": 3.2979191797818525e-06, + "loss": 0.2709, + "num_input_tokens_seen": 17606472, + "step": 8983 + }, + { + "epoch": 1.1907223326706429, + "grad_norm": 6.191561698913574, + "learning_rate": 3.2975901906652734e-06, + "loss": 0.071, + "num_input_tokens_seen": 17608080, + "step": 8984 + }, + { + "epoch": 1.190854870775348, + "grad_norm": 0.023402512073516846, + "learning_rate": 3.297261186170605e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17609248, + "step": 8985 + }, + { + "epoch": 1.190987408880053, + "grad_norm": 2.9093871116638184, + "learning_rate": 3.296932166304192e-06, + "loss": 0.0505, + "num_input_tokens_seen": 17611336, + "step": 8986 + }, + { + "epoch": 1.1911199469847582, + "grad_norm": 4.128095626831055, + "learning_rate": 3.2966031310723755e-06, + "loss": 0.0721, + "num_input_tokens_seen": 17613320, + "step": 8987 + }, + { + "epoch": 1.1912524850894632, + "grad_norm": 9.696879386901855, + "learning_rate": 3.296274080481502e-06, + "loss": 0.1604, + "num_input_tokens_seen": 17615312, + "step": 8988 + }, + { + "epoch": 1.1913850231941683, + "grad_norm": 16.401153564453125, + "learning_rate": 3.2959450145379147e-06, + "loss": 0.5523, + "num_input_tokens_seen": 17618800, + "step": 8989 + }, + { + "epoch": 1.1915175612988733, + "grad_norm": 12.310830116271973, + "learning_rate": 3.2956159332479574e-06, + "loss": 0.1986, + "num_input_tokens_seen": 17620864, + "step": 8990 + }, + { + "epoch": 1.1916500994035786, + "grad_norm": 1.4701000452041626, + "learning_rate": 3.295286836617978e-06, + "loss": 0.0098, + "num_input_tokens_seen": 17623656, + "step": 8991 + }, + { + "epoch": 1.1917826375082836, + "grad_norm": 0.0612865649163723, + "learning_rate": 3.2949577246543183e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17625256, + "step": 8992 + }, + { + "epoch": 1.1919151756129887, + "grad_norm": 12.265141487121582, + "learning_rate": 3.294628597363326e-06, + "loss": 0.1129, + "num_input_tokens_seen": 17627856, + "step": 8993 + }, + { + "epoch": 1.192047713717694, + "grad_norm": 12.065597534179688, + "learning_rate": 3.2942994547513456e-06, + "loss": 0.1572, + "num_input_tokens_seen": 17629656, + "step": 8994 + }, + { + "epoch": 1.192180251822399, + "grad_norm": 17.106163024902344, + "learning_rate": 3.2939702968247238e-06, + "loss": 0.4284, + "num_input_tokens_seen": 17631256, + "step": 8995 + }, + { + "epoch": 1.192312789927104, + "grad_norm": 7.499751567840576, + "learning_rate": 3.2936411235898067e-06, + "loss": 0.0815, + "num_input_tokens_seen": 17632888, + "step": 8996 + }, + { + "epoch": 1.192445328031809, + "grad_norm": 5.12352991104126, + "learning_rate": 3.2933119350529426e-06, + "loss": 0.0923, + "num_input_tokens_seen": 17634832, + "step": 8997 + }, + { + "epoch": 1.1925778661365143, + "grad_norm": 6.49252986907959, + "learning_rate": 3.292982731220476e-06, + "loss": 0.0536, + "num_input_tokens_seen": 17637480, + "step": 8998 + }, + { + "epoch": 1.1927104042412193, + "grad_norm": 8.960293769836426, + "learning_rate": 3.2926535120987558e-06, + "loss": 0.1325, + "num_input_tokens_seen": 17639104, + "step": 8999 + }, + { + "epoch": 1.1928429423459244, + "grad_norm": 0.037488870322704315, + "learning_rate": 3.2923242776941288e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17640736, + "step": 9000 + }, + { + "epoch": 1.1929754804506296, + "grad_norm": 7.179965019226074, + "learning_rate": 3.2919950280129433e-06, + "loss": 0.1689, + "num_input_tokens_seen": 17643488, + "step": 9001 + }, + { + "epoch": 1.1931080185553347, + "grad_norm": 4.196895122528076, + "learning_rate": 3.291665763061547e-06, + "loss": 0.0837, + "num_input_tokens_seen": 17645608, + "step": 9002 + }, + { + "epoch": 1.1932405566600397, + "grad_norm": 5.421475887298584, + "learning_rate": 3.291336482846288e-06, + "loss": 0.1259, + "num_input_tokens_seen": 17647704, + "step": 9003 + }, + { + "epoch": 1.193373094764745, + "grad_norm": 7.672059059143066, + "learning_rate": 3.2910071873735172e-06, + "loss": 0.3219, + "num_input_tokens_seen": 17649664, + "step": 9004 + }, + { + "epoch": 1.19350563286945, + "grad_norm": 5.5291948318481445, + "learning_rate": 3.2906778766495806e-06, + "loss": 0.0851, + "num_input_tokens_seen": 17651896, + "step": 9005 + }, + { + "epoch": 1.193638170974155, + "grad_norm": 10.174932479858398, + "learning_rate": 3.2903485506808296e-06, + "loss": 0.1148, + "num_input_tokens_seen": 17653072, + "step": 9006 + }, + { + "epoch": 1.1937707090788603, + "grad_norm": 0.3604847490787506, + "learning_rate": 3.2900192094736138e-06, + "loss": 0.0031, + "num_input_tokens_seen": 17654368, + "step": 9007 + }, + { + "epoch": 1.1939032471835653, + "grad_norm": 10.02323055267334, + "learning_rate": 3.2896898530342823e-06, + "loss": 0.2756, + "num_input_tokens_seen": 17656320, + "step": 9008 + }, + { + "epoch": 1.1940357852882704, + "grad_norm": 0.30341312289237976, + "learning_rate": 3.289360481369186e-06, + "loss": 0.0022, + "num_input_tokens_seen": 17658056, + "step": 9009 + }, + { + "epoch": 1.1941683233929754, + "grad_norm": 4.6171369552612305, + "learning_rate": 3.289031094484675e-06, + "loss": 0.0931, + "num_input_tokens_seen": 17659696, + "step": 9010 + }, + { + "epoch": 1.1943008614976807, + "grad_norm": 0.09706432372331619, + "learning_rate": 3.2887016923870997e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17661672, + "step": 9011 + }, + { + "epoch": 1.1944333996023857, + "grad_norm": 1.645926833152771, + "learning_rate": 3.2883722750828123e-06, + "loss": 0.0135, + "num_input_tokens_seen": 17663312, + "step": 9012 + }, + { + "epoch": 1.1945659377070907, + "grad_norm": 0.04872516915202141, + "learning_rate": 3.288042842578163e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17664896, + "step": 9013 + }, + { + "epoch": 1.194698475811796, + "grad_norm": 5.716052055358887, + "learning_rate": 3.2877133948795035e-06, + "loss": 0.2099, + "num_input_tokens_seen": 17666336, + "step": 9014 + }, + { + "epoch": 1.194831013916501, + "grad_norm": 4.82434606552124, + "learning_rate": 3.2873839319931875e-06, + "loss": 0.091, + "num_input_tokens_seen": 17668248, + "step": 9015 + }, + { + "epoch": 1.194963552021206, + "grad_norm": 4.683647155761719, + "learning_rate": 3.287054453925566e-06, + "loss": 0.0381, + "num_input_tokens_seen": 17669448, + "step": 9016 + }, + { + "epoch": 1.1950960901259111, + "grad_norm": 8.186884880065918, + "learning_rate": 3.2867249606829908e-06, + "loss": 0.169, + "num_input_tokens_seen": 17670992, + "step": 9017 + }, + { + "epoch": 1.1952286282306164, + "grad_norm": 0.03388563543558121, + "learning_rate": 3.286395452271817e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17672632, + "step": 9018 + }, + { + "epoch": 1.1953611663353214, + "grad_norm": 16.840633392333984, + "learning_rate": 3.2860659286983954e-06, + "loss": 0.5339, + "num_input_tokens_seen": 17675920, + "step": 9019 + }, + { + "epoch": 1.1954937044400265, + "grad_norm": 5.57549524307251, + "learning_rate": 3.28573638996908e-06, + "loss": 0.1376, + "num_input_tokens_seen": 17677736, + "step": 9020 + }, + { + "epoch": 1.1956262425447317, + "grad_norm": 0.05066152289509773, + "learning_rate": 3.2854068360902257e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17681104, + "step": 9021 + }, + { + "epoch": 1.1957587806494367, + "grad_norm": 7.6431884765625, + "learning_rate": 3.2850772670681856e-06, + "loss": 0.1038, + "num_input_tokens_seen": 17683144, + "step": 9022 + }, + { + "epoch": 1.1958913187541418, + "grad_norm": 6.904979705810547, + "learning_rate": 3.2847476829093145e-06, + "loss": 0.0702, + "num_input_tokens_seen": 17684984, + "step": 9023 + }, + { + "epoch": 1.1960238568588468, + "grad_norm": 3.5132839679718018, + "learning_rate": 3.284418083619966e-06, + "loss": 0.0155, + "num_input_tokens_seen": 17686376, + "step": 9024 + }, + { + "epoch": 1.196156394963552, + "grad_norm": 0.14713510870933533, + "learning_rate": 3.284088469206496e-06, + "loss": 0.0018, + "num_input_tokens_seen": 17687480, + "step": 9025 + }, + { + "epoch": 1.1962889330682571, + "grad_norm": 3.8775322437286377, + "learning_rate": 3.2837588396752603e-06, + "loss": 0.0194, + "num_input_tokens_seen": 17689552, + "step": 9026 + }, + { + "epoch": 1.1964214711729622, + "grad_norm": 7.628950595855713, + "learning_rate": 3.2834291950326124e-06, + "loss": 0.1294, + "num_input_tokens_seen": 17692072, + "step": 9027 + }, + { + "epoch": 1.1965540092776674, + "grad_norm": 0.08033449202775955, + "learning_rate": 3.2830995352849093e-06, + "loss": 0.001, + "num_input_tokens_seen": 17693856, + "step": 9028 + }, + { + "epoch": 1.1966865473823725, + "grad_norm": 7.240048885345459, + "learning_rate": 3.2827698604385073e-06, + "loss": 0.224, + "num_input_tokens_seen": 17695360, + "step": 9029 + }, + { + "epoch": 1.1968190854870775, + "grad_norm": 9.042844772338867, + "learning_rate": 3.282440170499762e-06, + "loss": 0.1262, + "num_input_tokens_seen": 17696696, + "step": 9030 + }, + { + "epoch": 1.1969516235917825, + "grad_norm": 9.930558204650879, + "learning_rate": 3.282110465475031e-06, + "loss": 0.3018, + "num_input_tokens_seen": 17698800, + "step": 9031 + }, + { + "epoch": 1.1970841616964878, + "grad_norm": 5.182363510131836, + "learning_rate": 3.2817807453706697e-06, + "loss": 0.0559, + "num_input_tokens_seen": 17701168, + "step": 9032 + }, + { + "epoch": 1.1972166998011928, + "grad_norm": 6.812538146972656, + "learning_rate": 3.2814510101930373e-06, + "loss": 0.1047, + "num_input_tokens_seen": 17703496, + "step": 9033 + }, + { + "epoch": 1.1973492379058979, + "grad_norm": 0.19804666936397552, + "learning_rate": 3.2811212599484892e-06, + "loss": 0.0014, + "num_input_tokens_seen": 17705792, + "step": 9034 + }, + { + "epoch": 1.1974817760106031, + "grad_norm": 0.279073029756546, + "learning_rate": 3.2807914946433857e-06, + "loss": 0.0019, + "num_input_tokens_seen": 17707704, + "step": 9035 + }, + { + "epoch": 1.1976143141153082, + "grad_norm": 0.7152688503265381, + "learning_rate": 3.2804617142840834e-06, + "loss": 0.007, + "num_input_tokens_seen": 17709504, + "step": 9036 + }, + { + "epoch": 1.1977468522200132, + "grad_norm": 0.12465457618236542, + "learning_rate": 3.2801319188769392e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17710728, + "step": 9037 + }, + { + "epoch": 1.1978793903247182, + "grad_norm": 5.552314758300781, + "learning_rate": 3.279802108428315e-06, + "loss": 0.0662, + "num_input_tokens_seen": 17712688, + "step": 9038 + }, + { + "epoch": 1.1980119284294235, + "grad_norm": 3.6004574298858643, + "learning_rate": 3.279472282944568e-06, + "loss": 0.0351, + "num_input_tokens_seen": 17714632, + "step": 9039 + }, + { + "epoch": 1.1981444665341285, + "grad_norm": 0.7143848538398743, + "learning_rate": 3.2791424424320568e-06, + "loss": 0.0051, + "num_input_tokens_seen": 17716360, + "step": 9040 + }, + { + "epoch": 1.1982770046388336, + "grad_norm": 0.11256122589111328, + "learning_rate": 3.2788125868971434e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17717808, + "step": 9041 + }, + { + "epoch": 1.1984095427435388, + "grad_norm": 3.1990604400634766, + "learning_rate": 3.278482716346184e-06, + "loss": 0.0394, + "num_input_tokens_seen": 17720432, + "step": 9042 + }, + { + "epoch": 1.1985420808482439, + "grad_norm": 5.13429069519043, + "learning_rate": 3.278152830785542e-06, + "loss": 0.1068, + "num_input_tokens_seen": 17722160, + "step": 9043 + }, + { + "epoch": 1.198674618952949, + "grad_norm": 0.10997794568538666, + "learning_rate": 3.2778229302215768e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17723800, + "step": 9044 + }, + { + "epoch": 1.1988071570576542, + "grad_norm": 2.9213993549346924, + "learning_rate": 3.2774930146606487e-06, + "loss": 0.028, + "num_input_tokens_seen": 17725656, + "step": 9045 + }, + { + "epoch": 1.1989396951623592, + "grad_norm": 0.1360163390636444, + "learning_rate": 3.2771630841091182e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17729240, + "step": 9046 + }, + { + "epoch": 1.1990722332670642, + "grad_norm": 10.870383262634277, + "learning_rate": 3.2768331385733475e-06, + "loss": 0.2757, + "num_input_tokens_seen": 17731104, + "step": 9047 + }, + { + "epoch": 1.1992047713717695, + "grad_norm": 1.0196704864501953, + "learning_rate": 3.276503178059699e-06, + "loss": 0.0093, + "num_input_tokens_seen": 17733072, + "step": 9048 + }, + { + "epoch": 1.1993373094764745, + "grad_norm": 6.064451694488525, + "learning_rate": 3.2761732025745328e-06, + "loss": 0.198, + "num_input_tokens_seen": 17734784, + "step": 9049 + }, + { + "epoch": 1.1994698475811796, + "grad_norm": 6.145493507385254, + "learning_rate": 3.2758432121242115e-06, + "loss": 0.1355, + "num_input_tokens_seen": 17737320, + "step": 9050 + }, + { + "epoch": 1.1996023856858846, + "grad_norm": 10.204673767089844, + "learning_rate": 3.2755132067150987e-06, + "loss": 0.1281, + "num_input_tokens_seen": 17739680, + "step": 9051 + }, + { + "epoch": 1.1997349237905899, + "grad_norm": 4.3429365158081055, + "learning_rate": 3.2751831863535556e-06, + "loss": 0.0799, + "num_input_tokens_seen": 17741168, + "step": 9052 + }, + { + "epoch": 1.199867461895295, + "grad_norm": 0.06358958780765533, + "learning_rate": 3.274853151045946e-06, + "loss": 0.0004, + "num_input_tokens_seen": 17742344, + "step": 9053 + }, + { + "epoch": 1.2, + "grad_norm": 0.05594007298350334, + "learning_rate": 3.274523100798634e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17744840, + "step": 9054 + }, + { + "epoch": 1.2001325381047052, + "grad_norm": 0.9304759502410889, + "learning_rate": 3.2741930356179806e-06, + "loss": 0.002, + "num_input_tokens_seen": 17746592, + "step": 9055 + }, + { + "epoch": 1.2002650762094103, + "grad_norm": 5.205002784729004, + "learning_rate": 3.273862955510353e-06, + "loss": 0.0965, + "num_input_tokens_seen": 17747792, + "step": 9056 + }, + { + "epoch": 1.2003976143141153, + "grad_norm": 1.2414475679397583, + "learning_rate": 3.2735328604821132e-06, + "loss": 0.0082, + "num_input_tokens_seen": 17749272, + "step": 9057 + }, + { + "epoch": 1.2005301524188203, + "grad_norm": 12.819445610046387, + "learning_rate": 3.273202750539625e-06, + "loss": 0.2514, + "num_input_tokens_seen": 17751280, + "step": 9058 + }, + { + "epoch": 1.2006626905235256, + "grad_norm": 0.3836911618709564, + "learning_rate": 3.2728726256892563e-06, + "loss": 0.002, + "num_input_tokens_seen": 17752736, + "step": 9059 + }, + { + "epoch": 1.2007952286282306, + "grad_norm": 7.996298789978027, + "learning_rate": 3.272542485937369e-06, + "loss": 0.1837, + "num_input_tokens_seen": 17754400, + "step": 9060 + }, + { + "epoch": 1.2009277667329357, + "grad_norm": 5.354411602020264, + "learning_rate": 3.2722123312903296e-06, + "loss": 0.1867, + "num_input_tokens_seen": 17756120, + "step": 9061 + }, + { + "epoch": 1.201060304837641, + "grad_norm": 0.02621486596763134, + "learning_rate": 3.2718821617545047e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17757152, + "step": 9062 + }, + { + "epoch": 1.201192842942346, + "grad_norm": 3.123389959335327, + "learning_rate": 3.271551977336258e-06, + "loss": 0.0952, + "num_input_tokens_seen": 17758448, + "step": 9063 + }, + { + "epoch": 1.201325381047051, + "grad_norm": 4.6133880615234375, + "learning_rate": 3.2712217780419575e-06, + "loss": 0.0581, + "num_input_tokens_seen": 17760232, + "step": 9064 + }, + { + "epoch": 1.201457919151756, + "grad_norm": 2.612525463104248, + "learning_rate": 3.2708915638779694e-06, + "loss": 0.0239, + "num_input_tokens_seen": 17761992, + "step": 9065 + }, + { + "epoch": 1.2015904572564613, + "grad_norm": 4.150389671325684, + "learning_rate": 3.2705613348506597e-06, + "loss": 0.0844, + "num_input_tokens_seen": 17764400, + "step": 9066 + }, + { + "epoch": 1.2017229953611663, + "grad_norm": 0.6718852519989014, + "learning_rate": 3.270231090966396e-06, + "loss": 0.0032, + "num_input_tokens_seen": 17767248, + "step": 9067 + }, + { + "epoch": 1.2018555334658714, + "grad_norm": 1.9013322591781616, + "learning_rate": 3.2699008322315456e-06, + "loss": 0.0094, + "num_input_tokens_seen": 17768936, + "step": 9068 + }, + { + "epoch": 1.2019880715705766, + "grad_norm": 0.08963616192340851, + "learning_rate": 3.2695705586524764e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17770288, + "step": 9069 + }, + { + "epoch": 1.2021206096752817, + "grad_norm": 9.684527397155762, + "learning_rate": 3.2692402702355554e-06, + "loss": 0.1807, + "num_input_tokens_seen": 17772736, + "step": 9070 + }, + { + "epoch": 1.2022531477799867, + "grad_norm": 11.210332870483398, + "learning_rate": 3.268909966987151e-06, + "loss": 0.3761, + "num_input_tokens_seen": 17774464, + "step": 9071 + }, + { + "epoch": 1.2023856858846917, + "grad_norm": 0.33393895626068115, + "learning_rate": 3.2685796489136324e-06, + "loss": 0.0022, + "num_input_tokens_seen": 17776136, + "step": 9072 + }, + { + "epoch": 1.202518223989397, + "grad_norm": 6.568004608154297, + "learning_rate": 3.268249316021368e-06, + "loss": 0.1201, + "num_input_tokens_seen": 17778136, + "step": 9073 + }, + { + "epoch": 1.202650762094102, + "grad_norm": 0.0875641405582428, + "learning_rate": 3.2679189683167267e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17779536, + "step": 9074 + }, + { + "epoch": 1.202783300198807, + "grad_norm": 5.369405746459961, + "learning_rate": 3.267588605806078e-06, + "loss": 0.0314, + "num_input_tokens_seen": 17781408, + "step": 9075 + }, + { + "epoch": 1.2029158383035123, + "grad_norm": 8.198540687561035, + "learning_rate": 3.267258228495791e-06, + "loss": 0.1699, + "num_input_tokens_seen": 17783072, + "step": 9076 + }, + { + "epoch": 1.2030483764082174, + "grad_norm": 2.685887098312378, + "learning_rate": 3.266927836392237e-06, + "loss": 0.023, + "num_input_tokens_seen": 17784840, + "step": 9077 + }, + { + "epoch": 1.2031809145129224, + "grad_norm": 0.10177570581436157, + "learning_rate": 3.2665974295017845e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17787088, + "step": 9078 + }, + { + "epoch": 1.2033134526176275, + "grad_norm": 4.595022201538086, + "learning_rate": 3.266267007830805e-06, + "loss": 0.0801, + "num_input_tokens_seen": 17788616, + "step": 9079 + }, + { + "epoch": 1.2034459907223327, + "grad_norm": 13.191292762756348, + "learning_rate": 3.2659365713856695e-06, + "loss": 0.2605, + "num_input_tokens_seen": 17791240, + "step": 9080 + }, + { + "epoch": 1.2035785288270378, + "grad_norm": 0.11333123594522476, + "learning_rate": 3.265606120172747e-06, + "loss": 0.0008, + "num_input_tokens_seen": 17794688, + "step": 9081 + }, + { + "epoch": 1.2037110669317428, + "grad_norm": 4.5614848136901855, + "learning_rate": 3.2652756541984114e-06, + "loss": 0.0577, + "num_input_tokens_seen": 17796664, + "step": 9082 + }, + { + "epoch": 1.203843605036448, + "grad_norm": 8.041604995727539, + "learning_rate": 3.2649451734690336e-06, + "loss": 0.2329, + "num_input_tokens_seen": 17798968, + "step": 9083 + }, + { + "epoch": 1.203976143141153, + "grad_norm": 0.04253728687763214, + "learning_rate": 3.2646146779909843e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17800368, + "step": 9084 + }, + { + "epoch": 1.2041086812458581, + "grad_norm": 11.104769706726074, + "learning_rate": 3.264284167770637e-06, + "loss": 0.1891, + "num_input_tokens_seen": 17801976, + "step": 9085 + }, + { + "epoch": 1.2042412193505632, + "grad_norm": 2.4175796508789062, + "learning_rate": 3.263953642814363e-06, + "loss": 0.0796, + "num_input_tokens_seen": 17803432, + "step": 9086 + }, + { + "epoch": 1.2043737574552684, + "grad_norm": 0.16529804468154907, + "learning_rate": 3.2636231031285364e-06, + "loss": 0.0012, + "num_input_tokens_seen": 17804968, + "step": 9087 + }, + { + "epoch": 1.2045062955599735, + "grad_norm": 0.6849271655082703, + "learning_rate": 3.2632925487195297e-06, + "loss": 0.004, + "num_input_tokens_seen": 17806272, + "step": 9088 + }, + { + "epoch": 1.2046388336646785, + "grad_norm": 12.577308654785156, + "learning_rate": 3.262961979593716e-06, + "loss": 0.2467, + "num_input_tokens_seen": 17807776, + "step": 9089 + }, + { + "epoch": 1.2047713717693838, + "grad_norm": 0.7359256744384766, + "learning_rate": 3.2626313957574685e-06, + "loss": 0.0051, + "num_input_tokens_seen": 17809488, + "step": 9090 + }, + { + "epoch": 1.2049039098740888, + "grad_norm": 7.815922260284424, + "learning_rate": 3.262300797217162e-06, + "loss": 0.1023, + "num_input_tokens_seen": 17811160, + "step": 9091 + }, + { + "epoch": 1.2050364479787938, + "grad_norm": 12.068278312683105, + "learning_rate": 3.2619701839791707e-06, + "loss": 0.1517, + "num_input_tokens_seen": 17813096, + "step": 9092 + }, + { + "epoch": 1.205168986083499, + "grad_norm": 0.09156709164381027, + "learning_rate": 3.2616395560498675e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17815408, + "step": 9093 + }, + { + "epoch": 1.2053015241882041, + "grad_norm": 16.273731231689453, + "learning_rate": 3.261308913435629e-06, + "loss": 0.4094, + "num_input_tokens_seen": 17818096, + "step": 9094 + }, + { + "epoch": 1.2054340622929092, + "grad_norm": 2.3563897609710693, + "learning_rate": 3.2609782561428293e-06, + "loss": 0.0266, + "num_input_tokens_seen": 17819792, + "step": 9095 + }, + { + "epoch": 1.2055666003976144, + "grad_norm": 5.291491985321045, + "learning_rate": 3.260647584177844e-06, + "loss": 0.0359, + "num_input_tokens_seen": 17821184, + "step": 9096 + }, + { + "epoch": 1.2056991385023195, + "grad_norm": 3.2442591190338135, + "learning_rate": 3.260316897547048e-06, + "loss": 0.0523, + "num_input_tokens_seen": 17823208, + "step": 9097 + }, + { + "epoch": 1.2058316766070245, + "grad_norm": 9.191383361816406, + "learning_rate": 3.2599861962568187e-06, + "loss": 0.0982, + "num_input_tokens_seen": 17825672, + "step": 9098 + }, + { + "epoch": 1.2059642147117295, + "grad_norm": 0.047080304473638535, + "learning_rate": 3.2596554803135294e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17827248, + "step": 9099 + }, + { + "epoch": 1.2060967528164348, + "grad_norm": 9.187613487243652, + "learning_rate": 3.2593247497235603e-06, + "loss": 0.1071, + "num_input_tokens_seen": 17829632, + "step": 9100 + }, + { + "epoch": 1.2062292909211398, + "grad_norm": 4.77036190032959, + "learning_rate": 3.2589940044932856e-06, + "loss": 0.1297, + "num_input_tokens_seen": 17831104, + "step": 9101 + }, + { + "epoch": 1.2063618290258449, + "grad_norm": 0.4092884361743927, + "learning_rate": 3.2586632446290824e-06, + "loss": 0.0018, + "num_input_tokens_seen": 17832520, + "step": 9102 + }, + { + "epoch": 1.2064943671305501, + "grad_norm": 0.14627094566822052, + "learning_rate": 3.258332470137329e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17834296, + "step": 9103 + }, + { + "epoch": 1.2066269052352552, + "grad_norm": 10.010648727416992, + "learning_rate": 3.258001681024402e-06, + "loss": 0.237, + "num_input_tokens_seen": 17836360, + "step": 9104 + }, + { + "epoch": 1.2067594433399602, + "grad_norm": 5.303126335144043, + "learning_rate": 3.25767087729668e-06, + "loss": 0.042, + "num_input_tokens_seen": 17837808, + "step": 9105 + }, + { + "epoch": 1.2068919814446653, + "grad_norm": 0.16575190424919128, + "learning_rate": 3.257340058960541e-06, + "loss": 0.0011, + "num_input_tokens_seen": 17839848, + "step": 9106 + }, + { + "epoch": 1.2070245195493705, + "grad_norm": 0.10358315706253052, + "learning_rate": 3.257009226022363e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17841320, + "step": 9107 + }, + { + "epoch": 1.2071570576540755, + "grad_norm": 11.738689422607422, + "learning_rate": 3.2566783784885248e-06, + "loss": 0.2074, + "num_input_tokens_seen": 17843128, + "step": 9108 + }, + { + "epoch": 1.2072895957587806, + "grad_norm": 7.097743511199951, + "learning_rate": 3.256347516365405e-06, + "loss": 0.1716, + "num_input_tokens_seen": 17845136, + "step": 9109 + }, + { + "epoch": 1.2074221338634858, + "grad_norm": 1.5800695419311523, + "learning_rate": 3.256016639659384e-06, + "loss": 0.0137, + "num_input_tokens_seen": 17847464, + "step": 9110 + }, + { + "epoch": 1.2075546719681909, + "grad_norm": 3.827202320098877, + "learning_rate": 3.2556857483768407e-06, + "loss": 0.0334, + "num_input_tokens_seen": 17848656, + "step": 9111 + }, + { + "epoch": 1.207687210072896, + "grad_norm": 0.06750406324863434, + "learning_rate": 3.2553548425241542e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17850016, + "step": 9112 + }, + { + "epoch": 1.207819748177601, + "grad_norm": 13.304123878479004, + "learning_rate": 3.255023922107706e-06, + "loss": 0.3205, + "num_input_tokens_seen": 17852712, + "step": 9113 + }, + { + "epoch": 1.2079522862823062, + "grad_norm": 10.418885231018066, + "learning_rate": 3.254692987133875e-06, + "loss": 0.1812, + "num_input_tokens_seen": 17854584, + "step": 9114 + }, + { + "epoch": 1.2080848243870113, + "grad_norm": 8.750944137573242, + "learning_rate": 3.254362037609043e-06, + "loss": 0.1287, + "num_input_tokens_seen": 17855984, + "step": 9115 + }, + { + "epoch": 1.2082173624917163, + "grad_norm": 0.18187783658504486, + "learning_rate": 3.254031073539591e-06, + "loss": 0.0013, + "num_input_tokens_seen": 17857952, + "step": 9116 + }, + { + "epoch": 1.2083499005964216, + "grad_norm": 4.154590606689453, + "learning_rate": 3.253700094931898e-06, + "loss": 0.0357, + "num_input_tokens_seen": 17859240, + "step": 9117 + }, + { + "epoch": 1.2084824387011266, + "grad_norm": 7.514345645904541, + "learning_rate": 3.2533691017923486e-06, + "loss": 0.2115, + "num_input_tokens_seen": 17861104, + "step": 9118 + }, + { + "epoch": 1.2086149768058316, + "grad_norm": 11.65219497680664, + "learning_rate": 3.2530380941273234e-06, + "loss": 0.2162, + "num_input_tokens_seen": 17862760, + "step": 9119 + }, + { + "epoch": 1.2087475149105367, + "grad_norm": 10.27974796295166, + "learning_rate": 3.252707071943203e-06, + "loss": 0.1028, + "num_input_tokens_seen": 17865272, + "step": 9120 + }, + { + "epoch": 1.208880053015242, + "grad_norm": 10.581058502197266, + "learning_rate": 3.2523760352463722e-06, + "loss": 0.1422, + "num_input_tokens_seen": 17867624, + "step": 9121 + }, + { + "epoch": 1.209012591119947, + "grad_norm": 5.052036762237549, + "learning_rate": 3.2520449840432123e-06, + "loss": 0.0524, + "num_input_tokens_seen": 17869272, + "step": 9122 + }, + { + "epoch": 1.209145129224652, + "grad_norm": 9.949357986450195, + "learning_rate": 3.2517139183401058e-06, + "loss": 0.2596, + "num_input_tokens_seen": 17871256, + "step": 9123 + }, + { + "epoch": 1.2092776673293573, + "grad_norm": 0.14825275540351868, + "learning_rate": 3.2513828381434367e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17872840, + "step": 9124 + }, + { + "epoch": 1.2094102054340623, + "grad_norm": 0.0769953653216362, + "learning_rate": 3.251051743459588e-06, + "loss": 0.0005, + "num_input_tokens_seen": 17874736, + "step": 9125 + }, + { + "epoch": 1.2095427435387673, + "grad_norm": 5.3438401222229, + "learning_rate": 3.2507206342949434e-06, + "loss": 0.0853, + "num_input_tokens_seen": 17877424, + "step": 9126 + }, + { + "epoch": 1.2096752816434724, + "grad_norm": 2.3395495414733887, + "learning_rate": 3.2503895106558874e-06, + "loss": 0.0505, + "num_input_tokens_seen": 17879200, + "step": 9127 + }, + { + "epoch": 1.2098078197481776, + "grad_norm": 14.266555786132812, + "learning_rate": 3.2500583725488034e-06, + "loss": 0.2809, + "num_input_tokens_seen": 17880888, + "step": 9128 + }, + { + "epoch": 1.2099403578528827, + "grad_norm": 13.303766250610352, + "learning_rate": 3.2497272199800766e-06, + "loss": 0.4695, + "num_input_tokens_seen": 17883760, + "step": 9129 + }, + { + "epoch": 1.2100728959575877, + "grad_norm": 2.8186981678009033, + "learning_rate": 3.2493960529560925e-06, + "loss": 0.0267, + "num_input_tokens_seen": 17885624, + "step": 9130 + }, + { + "epoch": 1.210205434062293, + "grad_norm": 3.4796862602233887, + "learning_rate": 3.249064871483235e-06, + "loss": 0.0457, + "num_input_tokens_seen": 17887592, + "step": 9131 + }, + { + "epoch": 1.210337972166998, + "grad_norm": 4.06358003616333, + "learning_rate": 3.2487336755678905e-06, + "loss": 0.0551, + "num_input_tokens_seen": 17889600, + "step": 9132 + }, + { + "epoch": 1.210470510271703, + "grad_norm": 0.035727713257074356, + "learning_rate": 3.2484024652164436e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17891656, + "step": 9133 + }, + { + "epoch": 1.2106030483764083, + "grad_norm": 7.055615425109863, + "learning_rate": 3.2480712404352815e-06, + "loss": 0.1159, + "num_input_tokens_seen": 17893344, + "step": 9134 + }, + { + "epoch": 1.2107355864811133, + "grad_norm": 5.3411736488342285, + "learning_rate": 3.2477400012307885e-06, + "loss": 0.0823, + "num_input_tokens_seen": 17894912, + "step": 9135 + }, + { + "epoch": 1.2108681245858184, + "grad_norm": 0.3413936495780945, + "learning_rate": 3.247408747609354e-06, + "loss": 0.0035, + "num_input_tokens_seen": 17897056, + "step": 9136 + }, + { + "epoch": 1.2110006626905236, + "grad_norm": 18.52158546447754, + "learning_rate": 3.247077479577363e-06, + "loss": 0.143, + "num_input_tokens_seen": 17899200, + "step": 9137 + }, + { + "epoch": 1.2111332007952287, + "grad_norm": 3.46530818939209, + "learning_rate": 3.2467461971412016e-06, + "loss": 0.0351, + "num_input_tokens_seen": 17901040, + "step": 9138 + }, + { + "epoch": 1.2112657388999337, + "grad_norm": 0.16881491243839264, + "learning_rate": 3.2464149003072597e-06, + "loss": 0.001, + "num_input_tokens_seen": 17902632, + "step": 9139 + }, + { + "epoch": 1.2113982770046388, + "grad_norm": 5.722073554992676, + "learning_rate": 3.246083589081923e-06, + "loss": 0.0456, + "num_input_tokens_seen": 17905208, + "step": 9140 + }, + { + "epoch": 1.211530815109344, + "grad_norm": 4.076426982879639, + "learning_rate": 3.2457522634715797e-06, + "loss": 0.0407, + "num_input_tokens_seen": 17906880, + "step": 9141 + }, + { + "epoch": 1.211663353214049, + "grad_norm": 0.6941167712211609, + "learning_rate": 3.2454209234826195e-06, + "loss": 0.0032, + "num_input_tokens_seen": 17908256, + "step": 9142 + }, + { + "epoch": 1.211795891318754, + "grad_norm": 10.72095775604248, + "learning_rate": 3.2450895691214283e-06, + "loss": 0.2082, + "num_input_tokens_seen": 17910224, + "step": 9143 + }, + { + "epoch": 1.2119284294234594, + "grad_norm": 0.7398728132247925, + "learning_rate": 3.2447582003943966e-06, + "loss": 0.009, + "num_input_tokens_seen": 17911912, + "step": 9144 + }, + { + "epoch": 1.2120609675281644, + "grad_norm": 2.5592658519744873, + "learning_rate": 3.2444268173079143e-06, + "loss": 0.0275, + "num_input_tokens_seen": 17914024, + "step": 9145 + }, + { + "epoch": 1.2121935056328694, + "grad_norm": 0.03525635600090027, + "learning_rate": 3.2440954198683676e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17916064, + "step": 9146 + }, + { + "epoch": 1.2123260437375745, + "grad_norm": 6.539280891418457, + "learning_rate": 3.2437640080821487e-06, + "loss": 0.1487, + "num_input_tokens_seen": 17918920, + "step": 9147 + }, + { + "epoch": 1.2124585818422797, + "grad_norm": 0.02743186056613922, + "learning_rate": 3.243432581955646e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17920616, + "step": 9148 + }, + { + "epoch": 1.2125911199469848, + "grad_norm": 28.531972885131836, + "learning_rate": 3.2431011414952514e-06, + "loss": 0.2476, + "num_input_tokens_seen": 17922696, + "step": 9149 + }, + { + "epoch": 1.2127236580516898, + "grad_norm": 4.468481063842773, + "learning_rate": 3.2427696867073534e-06, + "loss": 0.0675, + "num_input_tokens_seen": 17924424, + "step": 9150 + }, + { + "epoch": 1.212856196156395, + "grad_norm": 0.10224050283432007, + "learning_rate": 3.2424382175983433e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17926432, + "step": 9151 + }, + { + "epoch": 1.2129887342611, + "grad_norm": 1.6860630512237549, + "learning_rate": 3.242106734174612e-06, + "loss": 0.014, + "num_input_tokens_seen": 17928288, + "step": 9152 + }, + { + "epoch": 1.2131212723658051, + "grad_norm": 13.53470230102539, + "learning_rate": 3.2417752364425514e-06, + "loss": 0.053, + "num_input_tokens_seen": 17930448, + "step": 9153 + }, + { + "epoch": 1.2132538104705102, + "grad_norm": 11.0657377243042, + "learning_rate": 3.241443724408553e-06, + "loss": 0.2652, + "num_input_tokens_seen": 17932048, + "step": 9154 + }, + { + "epoch": 1.2133863485752154, + "grad_norm": 0.10713815689086914, + "learning_rate": 3.241112198079007e-06, + "loss": 0.0007, + "num_input_tokens_seen": 17934696, + "step": 9155 + }, + { + "epoch": 1.2135188866799205, + "grad_norm": 4.125648021697998, + "learning_rate": 3.240780657460307e-06, + "loss": 0.0298, + "num_input_tokens_seen": 17936576, + "step": 9156 + }, + { + "epoch": 1.2136514247846255, + "grad_norm": 1.5447955131530762, + "learning_rate": 3.240449102558845e-06, + "loss": 0.0173, + "num_input_tokens_seen": 17938536, + "step": 9157 + }, + { + "epoch": 1.2137839628893308, + "grad_norm": 4.081322193145752, + "learning_rate": 3.2401175333810137e-06, + "loss": 0.0755, + "num_input_tokens_seen": 17940168, + "step": 9158 + }, + { + "epoch": 1.2139165009940358, + "grad_norm": 8.045662879943848, + "learning_rate": 3.239785949933205e-06, + "loss": 0.1928, + "num_input_tokens_seen": 17942256, + "step": 9159 + }, + { + "epoch": 1.2140490390987408, + "grad_norm": 9.230433464050293, + "learning_rate": 3.2394543522218143e-06, + "loss": 0.1386, + "num_input_tokens_seen": 17944184, + "step": 9160 + }, + { + "epoch": 1.2141815772034459, + "grad_norm": 10.852619171142578, + "learning_rate": 3.2391227402532323e-06, + "loss": 0.426, + "num_input_tokens_seen": 17945784, + "step": 9161 + }, + { + "epoch": 1.2143141153081511, + "grad_norm": 0.04514923319220543, + "learning_rate": 3.238791114033854e-06, + "loss": 0.0003, + "num_input_tokens_seen": 17947624, + "step": 9162 + }, + { + "epoch": 1.2144466534128562, + "grad_norm": 0.19006283581256866, + "learning_rate": 3.238459473570074e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17949032, + "step": 9163 + }, + { + "epoch": 1.2145791915175612, + "grad_norm": 0.015030396170914173, + "learning_rate": 3.2381278188682853e-06, + "loss": 0.0001, + "num_input_tokens_seen": 17950424, + "step": 9164 + }, + { + "epoch": 1.2147117296222665, + "grad_norm": 6.36232328414917, + "learning_rate": 3.237796149934883e-06, + "loss": 0.1403, + "num_input_tokens_seen": 17952384, + "step": 9165 + }, + { + "epoch": 1.2148442677269715, + "grad_norm": 2.568963050842285, + "learning_rate": 3.237464466776262e-06, + "loss": 0.0836, + "num_input_tokens_seen": 17954280, + "step": 9166 + }, + { + "epoch": 1.2149768058316766, + "grad_norm": 7.111922740936279, + "learning_rate": 3.237132769398818e-06, + "loss": 0.1639, + "num_input_tokens_seen": 17956120, + "step": 9167 + }, + { + "epoch": 1.2151093439363816, + "grad_norm": 9.37205696105957, + "learning_rate": 3.2368010578089453e-06, + "loss": 0.1038, + "num_input_tokens_seen": 17957584, + "step": 9168 + }, + { + "epoch": 1.2152418820410869, + "grad_norm": 1.1963266134262085, + "learning_rate": 3.23646933201304e-06, + "loss": 0.0235, + "num_input_tokens_seen": 17959640, + "step": 9169 + }, + { + "epoch": 1.215374420145792, + "grad_norm": 6.404896259307861, + "learning_rate": 3.2361375920174974e-06, + "loss": 0.1163, + "num_input_tokens_seen": 17961616, + "step": 9170 + }, + { + "epoch": 1.215506958250497, + "grad_norm": 3.5480639934539795, + "learning_rate": 3.235805837828715e-06, + "loss": 0.0754, + "num_input_tokens_seen": 17963392, + "step": 9171 + }, + { + "epoch": 1.2156394963552022, + "grad_norm": 15.129243850708008, + "learning_rate": 3.2354740694530886e-06, + "loss": 0.4384, + "num_input_tokens_seen": 17965648, + "step": 9172 + }, + { + "epoch": 1.2157720344599072, + "grad_norm": 8.131954193115234, + "learning_rate": 3.235142286897014e-06, + "loss": 0.3006, + "num_input_tokens_seen": 17967328, + "step": 9173 + }, + { + "epoch": 1.2159045725646123, + "grad_norm": 0.08159670978784561, + "learning_rate": 3.2348104901668884e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17969248, + "step": 9174 + }, + { + "epoch": 1.2160371106693175, + "grad_norm": 0.46669483184814453, + "learning_rate": 3.234478679269111e-06, + "loss": 0.0043, + "num_input_tokens_seen": 17971392, + "step": 9175 + }, + { + "epoch": 1.2161696487740226, + "grad_norm": 0.024687767028808594, + "learning_rate": 3.2341468542100773e-06, + "loss": 0.0002, + "num_input_tokens_seen": 17972960, + "step": 9176 + }, + { + "epoch": 1.2163021868787276, + "grad_norm": 5.344636917114258, + "learning_rate": 3.2338150149961856e-06, + "loss": 0.1337, + "num_input_tokens_seen": 17975432, + "step": 9177 + }, + { + "epoch": 1.2164347249834329, + "grad_norm": 1.641262412071228, + "learning_rate": 3.2334831616338346e-06, + "loss": 0.0121, + "num_input_tokens_seen": 17978824, + "step": 9178 + }, + { + "epoch": 1.216567263088138, + "grad_norm": 9.067586898803711, + "learning_rate": 3.233151294129422e-06, + "loss": 0.1388, + "num_input_tokens_seen": 17981536, + "step": 9179 + }, + { + "epoch": 1.216699801192843, + "grad_norm": 8.68569278717041, + "learning_rate": 3.2328194124893465e-06, + "loss": 0.2926, + "num_input_tokens_seen": 17984024, + "step": 9180 + }, + { + "epoch": 1.216832339297548, + "grad_norm": 0.09665299206972122, + "learning_rate": 3.232487516720008e-06, + "loss": 0.0006, + "num_input_tokens_seen": 17985704, + "step": 9181 + }, + { + "epoch": 1.2169648774022532, + "grad_norm": 8.126981735229492, + "learning_rate": 3.232155606827804e-06, + "loss": 0.1961, + "num_input_tokens_seen": 17987368, + "step": 9182 + }, + { + "epoch": 1.2170974155069583, + "grad_norm": 9.479541778564453, + "learning_rate": 3.2318236828191353e-06, + "loss": 0.367, + "num_input_tokens_seen": 17989272, + "step": 9183 + }, + { + "epoch": 1.2172299536116633, + "grad_norm": 8.423776626586914, + "learning_rate": 3.2314917447004014e-06, + "loss": 0.2195, + "num_input_tokens_seen": 17991160, + "step": 9184 + }, + { + "epoch": 1.2173624917163686, + "grad_norm": 3.2139229774475098, + "learning_rate": 3.231159792478e-06, + "loss": 0.0367, + "num_input_tokens_seen": 17992848, + "step": 9185 + }, + { + "epoch": 1.2174950298210736, + "grad_norm": 4.176015853881836, + "learning_rate": 3.230827826158336e-06, + "loss": 0.0506, + "num_input_tokens_seen": 17994520, + "step": 9186 + }, + { + "epoch": 1.2176275679257786, + "grad_norm": 9.809189796447754, + "learning_rate": 3.2304958457478063e-06, + "loss": 0.0787, + "num_input_tokens_seen": 17995808, + "step": 9187 + }, + { + "epoch": 1.2177601060304837, + "grad_norm": 0.12853042781352997, + "learning_rate": 3.230163851252812e-06, + "loss": 0.0009, + "num_input_tokens_seen": 17998128, + "step": 9188 + }, + { + "epoch": 1.217892644135189, + "grad_norm": 13.686176300048828, + "learning_rate": 3.2298318426797563e-06, + "loss": 0.3382, + "num_input_tokens_seen": 18000232, + "step": 9189 + }, + { + "epoch": 1.218025182239894, + "grad_norm": 9.637618064880371, + "learning_rate": 3.2294998200350387e-06, + "loss": 0.1385, + "num_input_tokens_seen": 18002024, + "step": 9190 + }, + { + "epoch": 1.218157720344599, + "grad_norm": 0.7034379839897156, + "learning_rate": 3.2291677833250612e-06, + "loss": 0.0066, + "num_input_tokens_seen": 18003224, + "step": 9191 + }, + { + "epoch": 1.2182902584493043, + "grad_norm": 3.8842196464538574, + "learning_rate": 3.2288357325562253e-06, + "loss": 0.1317, + "num_input_tokens_seen": 18005904, + "step": 9192 + }, + { + "epoch": 1.2184227965540093, + "grad_norm": 2.9960498809814453, + "learning_rate": 3.2285036677349344e-06, + "loss": 0.0441, + "num_input_tokens_seen": 18007600, + "step": 9193 + }, + { + "epoch": 1.2185553346587144, + "grad_norm": 3.8884594440460205, + "learning_rate": 3.22817158886759e-06, + "loss": 0.0321, + "num_input_tokens_seen": 18009344, + "step": 9194 + }, + { + "epoch": 1.2186878727634194, + "grad_norm": 1.028959035873413, + "learning_rate": 3.227839495960595e-06, + "loss": 0.0076, + "num_input_tokens_seen": 18011184, + "step": 9195 + }, + { + "epoch": 1.2188204108681246, + "grad_norm": 10.512124061584473, + "learning_rate": 3.227507389020353e-06, + "loss": 0.388, + "num_input_tokens_seen": 18012888, + "step": 9196 + }, + { + "epoch": 1.2189529489728297, + "grad_norm": 6.777951240539551, + "learning_rate": 3.227175268053266e-06, + "loss": 0.2184, + "num_input_tokens_seen": 18014328, + "step": 9197 + }, + { + "epoch": 1.2190854870775347, + "grad_norm": 6.231356620788574, + "learning_rate": 3.226843133065738e-06, + "loss": 0.1529, + "num_input_tokens_seen": 18016704, + "step": 9198 + }, + { + "epoch": 1.21921802518224, + "grad_norm": 0.8585266470909119, + "learning_rate": 3.2265109840641733e-06, + "loss": 0.0101, + "num_input_tokens_seen": 18019336, + "step": 9199 + }, + { + "epoch": 1.219350563286945, + "grad_norm": 9.952191352844238, + "learning_rate": 3.226178821054975e-06, + "loss": 0.205, + "num_input_tokens_seen": 18020832, + "step": 9200 + }, + { + "epoch": 1.21948310139165, + "grad_norm": 0.07330610603094101, + "learning_rate": 3.225846644044549e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18021960, + "step": 9201 + }, + { + "epoch": 1.219615639496355, + "grad_norm": 3.2237322330474854, + "learning_rate": 3.225514453039299e-06, + "loss": 0.0638, + "num_input_tokens_seen": 18023512, + "step": 9202 + }, + { + "epoch": 1.2197481776010604, + "grad_norm": 3.106146812438965, + "learning_rate": 3.2251822480456284e-06, + "loss": 0.042, + "num_input_tokens_seen": 18025576, + "step": 9203 + }, + { + "epoch": 1.2198807157057654, + "grad_norm": 0.47439780831336975, + "learning_rate": 3.224850029069946e-06, + "loss": 0.0034, + "num_input_tokens_seen": 18027512, + "step": 9204 + }, + { + "epoch": 1.2200132538104704, + "grad_norm": 7.108116626739502, + "learning_rate": 3.2245177961186536e-06, + "loss": 0.0661, + "num_input_tokens_seen": 18029704, + "step": 9205 + }, + { + "epoch": 1.2201457919151757, + "grad_norm": 1.56760835647583, + "learning_rate": 3.224185549198158e-06, + "loss": 0.011, + "num_input_tokens_seen": 18033088, + "step": 9206 + }, + { + "epoch": 1.2202783300198807, + "grad_norm": 7.924262523651123, + "learning_rate": 3.2238532883148664e-06, + "loss": 0.1684, + "num_input_tokens_seen": 18035576, + "step": 9207 + }, + { + "epoch": 1.2204108681245858, + "grad_norm": 6.61377477645874, + "learning_rate": 3.2235210134751834e-06, + "loss": 0.2069, + "num_input_tokens_seen": 18037528, + "step": 9208 + }, + { + "epoch": 1.2205434062292908, + "grad_norm": 4.029158592224121, + "learning_rate": 3.2231887246855157e-06, + "loss": 0.1011, + "num_input_tokens_seen": 18038840, + "step": 9209 + }, + { + "epoch": 1.220675944333996, + "grad_norm": 0.368107408285141, + "learning_rate": 3.222856421952271e-06, + "loss": 0.0025, + "num_input_tokens_seen": 18041328, + "step": 9210 + }, + { + "epoch": 1.220808482438701, + "grad_norm": 7.702954292297363, + "learning_rate": 3.2225241052818567e-06, + "loss": 0.2969, + "num_input_tokens_seen": 18043392, + "step": 9211 + }, + { + "epoch": 1.2209410205434061, + "grad_norm": 4.439028263092041, + "learning_rate": 3.222191774680678e-06, + "loss": 0.1701, + "num_input_tokens_seen": 18045096, + "step": 9212 + }, + { + "epoch": 1.2210735586481114, + "grad_norm": 0.5507677793502808, + "learning_rate": 3.2218594301551443e-06, + "loss": 0.0025, + "num_input_tokens_seen": 18047848, + "step": 9213 + }, + { + "epoch": 1.2212060967528164, + "grad_norm": 8.306917190551758, + "learning_rate": 3.2215270717116627e-06, + "loss": 0.074, + "num_input_tokens_seen": 18049896, + "step": 9214 + }, + { + "epoch": 1.2213386348575215, + "grad_norm": 1.734559416770935, + "learning_rate": 3.2211946993566412e-06, + "loss": 0.0106, + "num_input_tokens_seen": 18052208, + "step": 9215 + }, + { + "epoch": 1.2214711729622267, + "grad_norm": 0.2658510208129883, + "learning_rate": 3.220862313096488e-06, + "loss": 0.0016, + "num_input_tokens_seen": 18053712, + "step": 9216 + }, + { + "epoch": 1.2216037110669318, + "grad_norm": 11.191339492797852, + "learning_rate": 3.220529912937612e-06, + "loss": 0.3079, + "num_input_tokens_seen": 18056488, + "step": 9217 + }, + { + "epoch": 1.2217362491716368, + "grad_norm": 0.03186461701989174, + "learning_rate": 3.220197498886423e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18058448, + "step": 9218 + }, + { + "epoch": 1.221868787276342, + "grad_norm": 10.536408424377441, + "learning_rate": 3.2198650709493295e-06, + "loss": 0.3974, + "num_input_tokens_seen": 18060384, + "step": 9219 + }, + { + "epoch": 1.222001325381047, + "grad_norm": 5.595023155212402, + "learning_rate": 3.21953262913274e-06, + "loss": 0.1325, + "num_input_tokens_seen": 18062744, + "step": 9220 + }, + { + "epoch": 1.2221338634857521, + "grad_norm": 10.682698249816895, + "learning_rate": 3.2192001734430657e-06, + "loss": 0.2467, + "num_input_tokens_seen": 18064976, + "step": 9221 + }, + { + "epoch": 1.2222664015904572, + "grad_norm": 5.00292444229126, + "learning_rate": 3.218867703886716e-06, + "loss": 0.1113, + "num_input_tokens_seen": 18067664, + "step": 9222 + }, + { + "epoch": 1.2223989396951624, + "grad_norm": 10.59686279296875, + "learning_rate": 3.2185352204701004e-06, + "loss": 0.1072, + "num_input_tokens_seen": 18070024, + "step": 9223 + }, + { + "epoch": 1.2225314777998675, + "grad_norm": 0.017353275790810585, + "learning_rate": 3.2182027231996306e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18071880, + "step": 9224 + }, + { + "epoch": 1.2226640159045725, + "grad_norm": 0.01517693605273962, + "learning_rate": 3.2178702120817167e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18073464, + "step": 9225 + }, + { + "epoch": 1.2227965540092778, + "grad_norm": 7.755061626434326, + "learning_rate": 3.21753768712277e-06, + "loss": 0.1229, + "num_input_tokens_seen": 18075376, + "step": 9226 + }, + { + "epoch": 1.2229290921139828, + "grad_norm": 7.077408790588379, + "learning_rate": 3.217205148329201e-06, + "loss": 0.2471, + "num_input_tokens_seen": 18077792, + "step": 9227 + }, + { + "epoch": 1.2230616302186879, + "grad_norm": 1.7125215530395508, + "learning_rate": 3.216872595707423e-06, + "loss": 0.0076, + "num_input_tokens_seen": 18079064, + "step": 9228 + }, + { + "epoch": 1.223194168323393, + "grad_norm": 0.08020414412021637, + "learning_rate": 3.216540029263846e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18081280, + "step": 9229 + }, + { + "epoch": 1.2233267064280982, + "grad_norm": 14.944341659545898, + "learning_rate": 3.216207449004883e-06, + "loss": 0.3158, + "num_input_tokens_seen": 18083480, + "step": 9230 + }, + { + "epoch": 1.2234592445328032, + "grad_norm": 0.013583719730377197, + "learning_rate": 3.215874854936947e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18085264, + "step": 9231 + }, + { + "epoch": 1.2235917826375082, + "grad_norm": 0.02987409569323063, + "learning_rate": 3.215542247066449e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18086680, + "step": 9232 + }, + { + "epoch": 1.2237243207422135, + "grad_norm": 7.907426834106445, + "learning_rate": 3.215209625399803e-06, + "loss": 0.0413, + "num_input_tokens_seen": 18088712, + "step": 9233 + }, + { + "epoch": 1.2238568588469185, + "grad_norm": 0.00683439290151, + "learning_rate": 3.2148769899434225e-06, + "loss": 0.0, + "num_input_tokens_seen": 18090744, + "step": 9234 + }, + { + "epoch": 1.2239893969516236, + "grad_norm": 0.0033382922410964966, + "learning_rate": 3.2145443407037203e-06, + "loss": 0.0, + "num_input_tokens_seen": 18091776, + "step": 9235 + }, + { + "epoch": 1.2241219350563286, + "grad_norm": 0.10739707946777344, + "learning_rate": 3.21421167768711e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18092792, + "step": 9236 + }, + { + "epoch": 1.2242544731610339, + "grad_norm": 11.95257568359375, + "learning_rate": 3.2138790009000063e-06, + "loss": 0.2878, + "num_input_tokens_seen": 18095688, + "step": 9237 + }, + { + "epoch": 1.224387011265739, + "grad_norm": 6.569685935974121, + "learning_rate": 3.213546310348823e-06, + "loss": 0.1772, + "num_input_tokens_seen": 18097280, + "step": 9238 + }, + { + "epoch": 1.224519549370444, + "grad_norm": 5.394773960113525, + "learning_rate": 3.2132136060399736e-06, + "loss": 0.0375, + "num_input_tokens_seen": 18099680, + "step": 9239 + }, + { + "epoch": 1.2246520874751492, + "grad_norm": 0.006969102658331394, + "learning_rate": 3.2128808879798752e-06, + "loss": 0.0, + "num_input_tokens_seen": 18101384, + "step": 9240 + }, + { + "epoch": 1.2247846255798542, + "grad_norm": 10.540257453918457, + "learning_rate": 3.2125481561749406e-06, + "loss": 0.2018, + "num_input_tokens_seen": 18103432, + "step": 9241 + }, + { + "epoch": 1.2249171636845593, + "grad_norm": 3.446161985397339, + "learning_rate": 3.212215410631586e-06, + "loss": 0.0998, + "num_input_tokens_seen": 18105160, + "step": 9242 + }, + { + "epoch": 1.2250497017892643, + "grad_norm": 10.671965599060059, + "learning_rate": 3.2118826513562277e-06, + "loss": 0.1067, + "num_input_tokens_seen": 18106536, + "step": 9243 + }, + { + "epoch": 1.2251822398939696, + "grad_norm": 18.58019256591797, + "learning_rate": 3.21154987835528e-06, + "loss": 0.2939, + "num_input_tokens_seen": 18108000, + "step": 9244 + }, + { + "epoch": 1.2253147779986746, + "grad_norm": 0.014874340035021305, + "learning_rate": 3.2112170916351605e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18109728, + "step": 9245 + }, + { + "epoch": 1.2254473161033796, + "grad_norm": 11.958312034606934, + "learning_rate": 3.210884291202285e-06, + "loss": 0.3032, + "num_input_tokens_seen": 18113040, + "step": 9246 + }, + { + "epoch": 1.225579854208085, + "grad_norm": 0.1405659317970276, + "learning_rate": 3.210551477063068e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18114824, + "step": 9247 + }, + { + "epoch": 1.22571239231279, + "grad_norm": 9.155230522155762, + "learning_rate": 3.21021864922393e-06, + "loss": 0.1568, + "num_input_tokens_seen": 18116848, + "step": 9248 + }, + { + "epoch": 1.225844930417495, + "grad_norm": 0.054299380630254745, + "learning_rate": 3.2098858076912863e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18118448, + "step": 9249 + }, + { + "epoch": 1.2259774685222, + "grad_norm": 18.31075668334961, + "learning_rate": 3.209552952471554e-06, + "loss": 0.4385, + "num_input_tokens_seen": 18120664, + "step": 9250 + }, + { + "epoch": 1.2261100066269053, + "grad_norm": 0.02250790223479271, + "learning_rate": 3.2092200835711524e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18123304, + "step": 9251 + }, + { + "epoch": 1.2262425447316103, + "grad_norm": 3.341330051422119, + "learning_rate": 3.208887200996497e-06, + "loss": 0.0334, + "num_input_tokens_seen": 18124584, + "step": 9252 + }, + { + "epoch": 1.2263750828363154, + "grad_norm": 8.040726661682129, + "learning_rate": 3.208554304754008e-06, + "loss": 0.2825, + "num_input_tokens_seen": 18127264, + "step": 9253 + }, + { + "epoch": 1.2265076209410206, + "grad_norm": 6.532689094543457, + "learning_rate": 3.2082213948501034e-06, + "loss": 0.1198, + "num_input_tokens_seen": 18130200, + "step": 9254 + }, + { + "epoch": 1.2266401590457257, + "grad_norm": 6.583267688751221, + "learning_rate": 3.207888471291202e-06, + "loss": 0.1209, + "num_input_tokens_seen": 18131704, + "step": 9255 + }, + { + "epoch": 1.2267726971504307, + "grad_norm": 19.91008758544922, + "learning_rate": 3.207555534083722e-06, + "loss": 0.6711, + "num_input_tokens_seen": 18134240, + "step": 9256 + }, + { + "epoch": 1.2269052352551357, + "grad_norm": 8.736006736755371, + "learning_rate": 3.2072225832340825e-06, + "loss": 0.1148, + "num_input_tokens_seen": 18135424, + "step": 9257 + }, + { + "epoch": 1.227037773359841, + "grad_norm": 2.818773031234741, + "learning_rate": 3.2068896187487047e-06, + "loss": 0.0305, + "num_input_tokens_seen": 18138280, + "step": 9258 + }, + { + "epoch": 1.227170311464546, + "grad_norm": 3.318325996398926, + "learning_rate": 3.2065566406340065e-06, + "loss": 0.1294, + "num_input_tokens_seen": 18139952, + "step": 9259 + }, + { + "epoch": 1.227302849569251, + "grad_norm": 10.270318984985352, + "learning_rate": 3.206223648896409e-06, + "loss": 0.1332, + "num_input_tokens_seen": 18142248, + "step": 9260 + }, + { + "epoch": 1.2274353876739563, + "grad_norm": 8.633078575134277, + "learning_rate": 3.2058906435423337e-06, + "loss": 0.1485, + "num_input_tokens_seen": 18145128, + "step": 9261 + }, + { + "epoch": 1.2275679257786614, + "grad_norm": 7.300957202911377, + "learning_rate": 3.205557624578198e-06, + "loss": 0.1416, + "num_input_tokens_seen": 18147048, + "step": 9262 + }, + { + "epoch": 1.2277004638833664, + "grad_norm": 6.557152271270752, + "learning_rate": 3.205224592010426e-06, + "loss": 0.08, + "num_input_tokens_seen": 18148928, + "step": 9263 + }, + { + "epoch": 1.2278330019880717, + "grad_norm": 25.99142837524414, + "learning_rate": 3.2048915458454373e-06, + "loss": 0.4206, + "num_input_tokens_seen": 18152368, + "step": 9264 + }, + { + "epoch": 1.2279655400927767, + "grad_norm": 6.490729331970215, + "learning_rate": 3.204558486089652e-06, + "loss": 0.0975, + "num_input_tokens_seen": 18154384, + "step": 9265 + }, + { + "epoch": 1.2280980781974817, + "grad_norm": 8.948105812072754, + "learning_rate": 3.204225412749494e-06, + "loss": 0.2656, + "num_input_tokens_seen": 18156256, + "step": 9266 + }, + { + "epoch": 1.228230616302187, + "grad_norm": 0.017085418105125427, + "learning_rate": 3.2038923258313844e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18157768, + "step": 9267 + }, + { + "epoch": 1.228363154406892, + "grad_norm": 0.03549474850296974, + "learning_rate": 3.2035592253417447e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18159008, + "step": 9268 + }, + { + "epoch": 1.228495692511597, + "grad_norm": 7.160843849182129, + "learning_rate": 3.2032261112869977e-06, + "loss": 0.1787, + "num_input_tokens_seen": 18161280, + "step": 9269 + }, + { + "epoch": 1.228628230616302, + "grad_norm": 2.5544095039367676, + "learning_rate": 3.202892983673567e-06, + "loss": 0.0452, + "num_input_tokens_seen": 18162536, + "step": 9270 + }, + { + "epoch": 1.2287607687210074, + "grad_norm": 8.32440185546875, + "learning_rate": 3.2025598425078736e-06, + "loss": 0.1916, + "num_input_tokens_seen": 18164736, + "step": 9271 + }, + { + "epoch": 1.2288933068257124, + "grad_norm": 2.2942121028900146, + "learning_rate": 3.2022266877963426e-06, + "loss": 0.0203, + "num_input_tokens_seen": 18166296, + "step": 9272 + }, + { + "epoch": 1.2290258449304174, + "grad_norm": 7.356770992279053, + "learning_rate": 3.201893519545396e-06, + "loss": 0.1383, + "num_input_tokens_seen": 18167736, + "step": 9273 + }, + { + "epoch": 1.2291583830351227, + "grad_norm": 0.17508713901042938, + "learning_rate": 3.201560337761458e-06, + "loss": 0.0016, + "num_input_tokens_seen": 18168968, + "step": 9274 + }, + { + "epoch": 1.2292909211398277, + "grad_norm": 0.05699050799012184, + "learning_rate": 3.2012271424509527e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18170672, + "step": 9275 + }, + { + "epoch": 1.2294234592445328, + "grad_norm": 10.298219680786133, + "learning_rate": 3.2008939336203056e-06, + "loss": 0.3584, + "num_input_tokens_seen": 18173144, + "step": 9276 + }, + { + "epoch": 1.2295559973492378, + "grad_norm": 10.176429748535156, + "learning_rate": 3.2005607112759386e-06, + "loss": 0.2976, + "num_input_tokens_seen": 18175464, + "step": 9277 + }, + { + "epoch": 1.229688535453943, + "grad_norm": 6.7923583984375, + "learning_rate": 3.200227475424278e-06, + "loss": 0.0554, + "num_input_tokens_seen": 18177248, + "step": 9278 + }, + { + "epoch": 1.2298210735586481, + "grad_norm": 1.3180171251296997, + "learning_rate": 3.1998942260717493e-06, + "loss": 0.0023, + "num_input_tokens_seen": 18178392, + "step": 9279 + }, + { + "epoch": 1.2299536116633532, + "grad_norm": 7.796667098999023, + "learning_rate": 3.199560963224776e-06, + "loss": 0.1244, + "num_input_tokens_seen": 18180192, + "step": 9280 + }, + { + "epoch": 1.2300861497680584, + "grad_norm": 10.44566535949707, + "learning_rate": 3.1992276868897853e-06, + "loss": 0.1516, + "num_input_tokens_seen": 18181816, + "step": 9281 + }, + { + "epoch": 1.2302186878727635, + "grad_norm": 6.60996150970459, + "learning_rate": 3.1988943970732034e-06, + "loss": 0.1289, + "num_input_tokens_seen": 18184512, + "step": 9282 + }, + { + "epoch": 1.2303512259774685, + "grad_norm": 3.5900001525878906, + "learning_rate": 3.198561093781454e-06, + "loss": 0.0823, + "num_input_tokens_seen": 18186552, + "step": 9283 + }, + { + "epoch": 1.2304837640821735, + "grad_norm": 8.369278907775879, + "learning_rate": 3.1982277770209653e-06, + "loss": 0.1048, + "num_input_tokens_seen": 18188688, + "step": 9284 + }, + { + "epoch": 1.2306163021868788, + "grad_norm": 9.693196296691895, + "learning_rate": 3.1978944467981633e-06, + "loss": 0.1269, + "num_input_tokens_seen": 18191160, + "step": 9285 + }, + { + "epoch": 1.2307488402915838, + "grad_norm": 7.41039514541626, + "learning_rate": 3.197561103119474e-06, + "loss": 0.159, + "num_input_tokens_seen": 18193096, + "step": 9286 + }, + { + "epoch": 1.2308813783962889, + "grad_norm": 0.32638660073280334, + "learning_rate": 3.197227745991327e-06, + "loss": 0.0033, + "num_input_tokens_seen": 18195136, + "step": 9287 + }, + { + "epoch": 1.2310139165009941, + "grad_norm": 0.03574603423476219, + "learning_rate": 3.1968943754201477e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18197544, + "step": 9288 + }, + { + "epoch": 1.2311464546056992, + "grad_norm": 0.028221873566508293, + "learning_rate": 3.1965609914123637e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18199432, + "step": 9289 + }, + { + "epoch": 1.2312789927104042, + "grad_norm": 6.937863349914551, + "learning_rate": 3.1962275939744034e-06, + "loss": 0.045, + "num_input_tokens_seen": 18201160, + "step": 9290 + }, + { + "epoch": 1.2314115308151092, + "grad_norm": 17.245624542236328, + "learning_rate": 3.1958941831126943e-06, + "loss": 0.1696, + "num_input_tokens_seen": 18202592, + "step": 9291 + }, + { + "epoch": 1.2315440689198145, + "grad_norm": 0.7239933609962463, + "learning_rate": 3.1955607588336656e-06, + "loss": 0.0049, + "num_input_tokens_seen": 18204200, + "step": 9292 + }, + { + "epoch": 1.2316766070245195, + "grad_norm": 0.004897387698292732, + "learning_rate": 3.1952273211437455e-06, + "loss": 0.0, + "num_input_tokens_seen": 18205600, + "step": 9293 + }, + { + "epoch": 1.2318091451292246, + "grad_norm": 0.011759313754737377, + "learning_rate": 3.1948938700493635e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18207016, + "step": 9294 + }, + { + "epoch": 1.2319416832339298, + "grad_norm": 11.25745964050293, + "learning_rate": 3.1945604055569484e-06, + "loss": 0.2258, + "num_input_tokens_seen": 18209048, + "step": 9295 + }, + { + "epoch": 1.2320742213386349, + "grad_norm": 6.83518123626709, + "learning_rate": 3.1942269276729294e-06, + "loss": 0.1694, + "num_input_tokens_seen": 18210920, + "step": 9296 + }, + { + "epoch": 1.23220675944334, + "grad_norm": 0.055272430181503296, + "learning_rate": 3.1938934364037357e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18213040, + "step": 9297 + }, + { + "epoch": 1.232339297548045, + "grad_norm": 1.4829679727554321, + "learning_rate": 3.1935599317557984e-06, + "loss": 0.0077, + "num_input_tokens_seen": 18214296, + "step": 9298 + }, + { + "epoch": 1.2324718356527502, + "grad_norm": 10.800658226013184, + "learning_rate": 3.1932264137355475e-06, + "loss": 0.2396, + "num_input_tokens_seen": 18216352, + "step": 9299 + }, + { + "epoch": 1.2326043737574552, + "grad_norm": 12.229174613952637, + "learning_rate": 3.1928928823494123e-06, + "loss": 0.2611, + "num_input_tokens_seen": 18218464, + "step": 9300 + }, + { + "epoch": 1.2327369118621603, + "grad_norm": 4.178027153015137, + "learning_rate": 3.1925593376038243e-06, + "loss": 0.0543, + "num_input_tokens_seen": 18220640, + "step": 9301 + }, + { + "epoch": 1.2328694499668655, + "grad_norm": 12.953418731689453, + "learning_rate": 3.1922257795052155e-06, + "loss": 0.5702, + "num_input_tokens_seen": 18223064, + "step": 9302 + }, + { + "epoch": 1.2330019880715706, + "grad_norm": 0.02145867608487606, + "learning_rate": 3.1918922080600152e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18225232, + "step": 9303 + }, + { + "epoch": 1.2331345261762756, + "grad_norm": 3.8966023921966553, + "learning_rate": 3.191558623274656e-06, + "loss": 0.0544, + "num_input_tokens_seen": 18226960, + "step": 9304 + }, + { + "epoch": 1.2332670642809809, + "grad_norm": 4.835464000701904, + "learning_rate": 3.19122502515557e-06, + "loss": 0.1506, + "num_input_tokens_seen": 18229376, + "step": 9305 + }, + { + "epoch": 1.233399602385686, + "grad_norm": 8.787933349609375, + "learning_rate": 3.190891413709188e-06, + "loss": 0.1053, + "num_input_tokens_seen": 18231352, + "step": 9306 + }, + { + "epoch": 1.233532140490391, + "grad_norm": 7.555550575256348, + "learning_rate": 3.1905577889419428e-06, + "loss": 0.142, + "num_input_tokens_seen": 18233088, + "step": 9307 + }, + { + "epoch": 1.2336646785950962, + "grad_norm": 6.24015998840332, + "learning_rate": 3.1902241508602675e-06, + "loss": 0.1152, + "num_input_tokens_seen": 18235336, + "step": 9308 + }, + { + "epoch": 1.2337972166998012, + "grad_norm": 9.500175476074219, + "learning_rate": 3.1898904994705942e-06, + "loss": 0.179, + "num_input_tokens_seen": 18237712, + "step": 9309 + }, + { + "epoch": 1.2339297548045063, + "grad_norm": 8.311349868774414, + "learning_rate": 3.1895568347793565e-06, + "loss": 0.171, + "num_input_tokens_seen": 18239608, + "step": 9310 + }, + { + "epoch": 1.2340622929092113, + "grad_norm": 0.027424868196249008, + "learning_rate": 3.189223156792987e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18241536, + "step": 9311 + }, + { + "epoch": 1.2341948310139166, + "grad_norm": 5.580315113067627, + "learning_rate": 3.188889465517919e-06, + "loss": 0.1465, + "num_input_tokens_seen": 18242952, + "step": 9312 + }, + { + "epoch": 1.2343273691186216, + "grad_norm": 5.297321319580078, + "learning_rate": 3.188555760960588e-06, + "loss": 0.2009, + "num_input_tokens_seen": 18245160, + "step": 9313 + }, + { + "epoch": 1.2344599072233267, + "grad_norm": 0.6485732197761536, + "learning_rate": 3.188222043127426e-06, + "loss": 0.0038, + "num_input_tokens_seen": 18247808, + "step": 9314 + }, + { + "epoch": 1.234592445328032, + "grad_norm": 4.620710849761963, + "learning_rate": 3.187888312024869e-06, + "loss": 0.1192, + "num_input_tokens_seen": 18250432, + "step": 9315 + }, + { + "epoch": 1.234724983432737, + "grad_norm": 0.052157919853925705, + "learning_rate": 3.1875545676593506e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18252344, + "step": 9316 + }, + { + "epoch": 1.234857521537442, + "grad_norm": 6.928371906280518, + "learning_rate": 3.187220810037306e-06, + "loss": 0.0552, + "num_input_tokens_seen": 18254288, + "step": 9317 + }, + { + "epoch": 1.234990059642147, + "grad_norm": 5.52483606338501, + "learning_rate": 3.186887039165169e-06, + "loss": 0.1268, + "num_input_tokens_seen": 18256880, + "step": 9318 + }, + { + "epoch": 1.2351225977468523, + "grad_norm": 11.089993476867676, + "learning_rate": 3.1865532550493766e-06, + "loss": 0.1547, + "num_input_tokens_seen": 18259400, + "step": 9319 + }, + { + "epoch": 1.2352551358515573, + "grad_norm": 14.036687850952148, + "learning_rate": 3.1862194576963647e-06, + "loss": 0.1868, + "num_input_tokens_seen": 18261624, + "step": 9320 + }, + { + "epoch": 1.2353876739562624, + "grad_norm": 11.554037094116211, + "learning_rate": 3.1858856471125673e-06, + "loss": 0.1097, + "num_input_tokens_seen": 18262704, + "step": 9321 + }, + { + "epoch": 1.2355202120609676, + "grad_norm": 5.136627197265625, + "learning_rate": 3.1855518233044214e-06, + "loss": 0.1061, + "num_input_tokens_seen": 18264424, + "step": 9322 + }, + { + "epoch": 1.2356527501656727, + "grad_norm": 9.465648651123047, + "learning_rate": 3.185217986278364e-06, + "loss": 0.1846, + "num_input_tokens_seen": 18266560, + "step": 9323 + }, + { + "epoch": 1.2357852882703777, + "grad_norm": 5.932622909545898, + "learning_rate": 3.18488413604083e-06, + "loss": 0.2484, + "num_input_tokens_seen": 18269352, + "step": 9324 + }, + { + "epoch": 1.2359178263750827, + "grad_norm": 0.005948694888502359, + "learning_rate": 3.184550272598259e-06, + "loss": 0.0, + "num_input_tokens_seen": 18270928, + "step": 9325 + }, + { + "epoch": 1.236050364479788, + "grad_norm": 9.615486145019531, + "learning_rate": 3.184216395957086e-06, + "loss": 0.0273, + "num_input_tokens_seen": 18272544, + "step": 9326 + }, + { + "epoch": 1.236182902584493, + "grad_norm": 7.075868606567383, + "learning_rate": 3.1838825061237477e-06, + "loss": 0.1495, + "num_input_tokens_seen": 18274600, + "step": 9327 + }, + { + "epoch": 1.236315440689198, + "grad_norm": 6.406460285186768, + "learning_rate": 3.1835486031046843e-06, + "loss": 0.0908, + "num_input_tokens_seen": 18276136, + "step": 9328 + }, + { + "epoch": 1.2364479787939033, + "grad_norm": 1.0897564888000488, + "learning_rate": 3.183214686906332e-06, + "loss": 0.0054, + "num_input_tokens_seen": 18278904, + "step": 9329 + }, + { + "epoch": 1.2365805168986084, + "grad_norm": 4.777773380279541, + "learning_rate": 3.1828807575351283e-06, + "loss": 0.0993, + "num_input_tokens_seen": 18281392, + "step": 9330 + }, + { + "epoch": 1.2367130550033134, + "grad_norm": 0.19937686622142792, + "learning_rate": 3.1825468149975137e-06, + "loss": 0.0017, + "num_input_tokens_seen": 18283104, + "step": 9331 + }, + { + "epoch": 1.2368455931080184, + "grad_norm": 6.602205753326416, + "learning_rate": 3.1822128592999246e-06, + "loss": 0.1102, + "num_input_tokens_seen": 18285312, + "step": 9332 + }, + { + "epoch": 1.2369781312127237, + "grad_norm": 3.541440725326538, + "learning_rate": 3.181878890448802e-06, + "loss": 0.024, + "num_input_tokens_seen": 18286960, + "step": 9333 + }, + { + "epoch": 1.2371106693174287, + "grad_norm": 0.04583694413304329, + "learning_rate": 3.181544908450583e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18288136, + "step": 9334 + }, + { + "epoch": 1.2372432074221338, + "grad_norm": 0.014077777974307537, + "learning_rate": 3.1812109133117088e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18290440, + "step": 9335 + }, + { + "epoch": 1.237375745526839, + "grad_norm": 19.751127243041992, + "learning_rate": 3.1808769050386174e-06, + "loss": 0.4317, + "num_input_tokens_seen": 18292008, + "step": 9336 + }, + { + "epoch": 1.237508283631544, + "grad_norm": 10.469135284423828, + "learning_rate": 3.18054288363775e-06, + "loss": 0.2902, + "num_input_tokens_seen": 18294024, + "step": 9337 + }, + { + "epoch": 1.2376408217362491, + "grad_norm": 3.93719220161438, + "learning_rate": 3.180208849115547e-06, + "loss": 0.0448, + "num_input_tokens_seen": 18295720, + "step": 9338 + }, + { + "epoch": 1.2377733598409542, + "grad_norm": 0.4953845739364624, + "learning_rate": 3.1798748014784468e-06, + "loss": 0.0062, + "num_input_tokens_seen": 18296904, + "step": 9339 + }, + { + "epoch": 1.2379058979456594, + "grad_norm": 32.3203010559082, + "learning_rate": 3.179540740732892e-06, + "loss": 0.1986, + "num_input_tokens_seen": 18298840, + "step": 9340 + }, + { + "epoch": 1.2380384360503645, + "grad_norm": 0.007707961369305849, + "learning_rate": 3.1792066668853237e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18300688, + "step": 9341 + }, + { + "epoch": 1.2381709741550695, + "grad_norm": 6.5232625007629395, + "learning_rate": 3.1788725799421818e-06, + "loss": 0.1998, + "num_input_tokens_seen": 18302648, + "step": 9342 + }, + { + "epoch": 1.2383035122597748, + "grad_norm": 0.10024408996105194, + "learning_rate": 3.1785384799099074e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18304368, + "step": 9343 + }, + { + "epoch": 1.2384360503644798, + "grad_norm": 5.403772354125977, + "learning_rate": 3.178204366794944e-06, + "loss": 0.0782, + "num_input_tokens_seen": 18306296, + "step": 9344 + }, + { + "epoch": 1.2385685884691848, + "grad_norm": 0.09861955791711807, + "learning_rate": 3.1778702406037313e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18307552, + "step": 9345 + }, + { + "epoch": 1.23870112657389, + "grad_norm": 5.897062301635742, + "learning_rate": 3.1775361013427142e-06, + "loss": 0.0536, + "num_input_tokens_seen": 18309632, + "step": 9346 + }, + { + "epoch": 1.2388336646785951, + "grad_norm": 12.025014877319336, + "learning_rate": 3.1772019490183336e-06, + "loss": 0.1004, + "num_input_tokens_seen": 18312280, + "step": 9347 + }, + { + "epoch": 1.2389662027833002, + "grad_norm": 8.678224563598633, + "learning_rate": 3.1768677836370308e-06, + "loss": 0.2125, + "num_input_tokens_seen": 18314064, + "step": 9348 + }, + { + "epoch": 1.2390987408880054, + "grad_norm": 11.939963340759277, + "learning_rate": 3.1765336052052516e-06, + "loss": 0.2322, + "num_input_tokens_seen": 18316344, + "step": 9349 + }, + { + "epoch": 1.2392312789927105, + "grad_norm": 0.01730145886540413, + "learning_rate": 3.1761994137294373e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18318152, + "step": 9350 + }, + { + "epoch": 1.2393638170974155, + "grad_norm": 8.85667896270752, + "learning_rate": 3.1758652092160314e-06, + "loss": 0.2596, + "num_input_tokens_seen": 18319272, + "step": 9351 + }, + { + "epoch": 1.2394963552021205, + "grad_norm": 0.1291411817073822, + "learning_rate": 3.175530991671479e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18321448, + "step": 9352 + }, + { + "epoch": 1.2396288933068258, + "grad_norm": 13.346277236938477, + "learning_rate": 3.175196761102222e-06, + "loss": 0.3455, + "num_input_tokens_seen": 18323872, + "step": 9353 + }, + { + "epoch": 1.2397614314115308, + "grad_norm": 2.7845067977905273, + "learning_rate": 3.1748625175147065e-06, + "loss": 0.0579, + "num_input_tokens_seen": 18325576, + "step": 9354 + }, + { + "epoch": 1.2398939695162359, + "grad_norm": 6.650882720947266, + "learning_rate": 3.1745282609153757e-06, + "loss": 0.1294, + "num_input_tokens_seen": 18327616, + "step": 9355 + }, + { + "epoch": 1.2400265076209411, + "grad_norm": 9.113703727722168, + "learning_rate": 3.1741939913106747e-06, + "loss": 0.1603, + "num_input_tokens_seen": 18330280, + "step": 9356 + }, + { + "epoch": 1.2401590457256462, + "grad_norm": 2.501316547393799, + "learning_rate": 3.173859708707048e-06, + "loss": 0.0282, + "num_input_tokens_seen": 18333336, + "step": 9357 + }, + { + "epoch": 1.2402915838303512, + "grad_norm": 7.7092695236206055, + "learning_rate": 3.1735254131109418e-06, + "loss": 0.1834, + "num_input_tokens_seen": 18335096, + "step": 9358 + }, + { + "epoch": 1.2404241219350562, + "grad_norm": 0.028295818716287613, + "learning_rate": 3.1731911045288013e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18337616, + "step": 9359 + }, + { + "epoch": 1.2405566600397615, + "grad_norm": 5.227165699005127, + "learning_rate": 3.172856782967071e-06, + "loss": 0.1034, + "num_input_tokens_seen": 18339560, + "step": 9360 + }, + { + "epoch": 1.2406891981444665, + "grad_norm": 1.2620757818222046, + "learning_rate": 3.172522448432198e-06, + "loss": 0.0085, + "num_input_tokens_seen": 18341832, + "step": 9361 + }, + { + "epoch": 1.2408217362491716, + "grad_norm": 0.07901065051555634, + "learning_rate": 3.1721881009306287e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18344000, + "step": 9362 + }, + { + "epoch": 1.2409542743538768, + "grad_norm": 6.6687912940979, + "learning_rate": 3.1718537404688086e-06, + "loss": 0.2197, + "num_input_tokens_seen": 18346152, + "step": 9363 + }, + { + "epoch": 1.2410868124585819, + "grad_norm": 13.124435424804688, + "learning_rate": 3.1715193670531853e-06, + "loss": 0.1347, + "num_input_tokens_seen": 18348032, + "step": 9364 + }, + { + "epoch": 1.241219350563287, + "grad_norm": 0.04227553308010101, + "learning_rate": 3.171184980690205e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18350216, + "step": 9365 + }, + { + "epoch": 1.241351888667992, + "grad_norm": 6.170018196105957, + "learning_rate": 3.1708505813863154e-06, + "loss": 0.194, + "num_input_tokens_seen": 18352312, + "step": 9366 + }, + { + "epoch": 1.2414844267726972, + "grad_norm": 0.025294190272688866, + "learning_rate": 3.170516169147964e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18353696, + "step": 9367 + }, + { + "epoch": 1.2416169648774023, + "grad_norm": 10.759210586547852, + "learning_rate": 3.1701817439815986e-06, + "loss": 0.2687, + "num_input_tokens_seen": 18355856, + "step": 9368 + }, + { + "epoch": 1.2417495029821073, + "grad_norm": 0.02228090912103653, + "learning_rate": 3.1698473058936656e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18357272, + "step": 9369 + }, + { + "epoch": 1.2418820410868125, + "grad_norm": 0.02004374749958515, + "learning_rate": 3.1695128548906163e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18359304, + "step": 9370 + }, + { + "epoch": 1.2420145791915176, + "grad_norm": 3.675518274307251, + "learning_rate": 3.1691783909788955e-06, + "loss": 0.0349, + "num_input_tokens_seen": 18360808, + "step": 9371 + }, + { + "epoch": 1.2421471172962226, + "grad_norm": 11.972142219543457, + "learning_rate": 3.168843914164954e-06, + "loss": 0.3635, + "num_input_tokens_seen": 18362808, + "step": 9372 + }, + { + "epoch": 1.2422796554009277, + "grad_norm": 13.614036560058594, + "learning_rate": 3.168509424455242e-06, + "loss": 0.3149, + "num_input_tokens_seen": 18365552, + "step": 9373 + }, + { + "epoch": 1.242412193505633, + "grad_norm": 0.016464266926050186, + "learning_rate": 3.168174921856205e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18366896, + "step": 9374 + }, + { + "epoch": 1.242544731610338, + "grad_norm": 1.4928807020187378, + "learning_rate": 3.1678404063742956e-06, + "loss": 0.0086, + "num_input_tokens_seen": 18368176, + "step": 9375 + }, + { + "epoch": 1.242677269715043, + "grad_norm": 0.2840084135532379, + "learning_rate": 3.1675058780159624e-06, + "loss": 0.0018, + "num_input_tokens_seen": 18371768, + "step": 9376 + }, + { + "epoch": 1.2428098078197483, + "grad_norm": 8.258296012878418, + "learning_rate": 3.167171336787655e-06, + "loss": 0.1305, + "num_input_tokens_seen": 18373680, + "step": 9377 + }, + { + "epoch": 1.2429423459244533, + "grad_norm": 3.565471649169922, + "learning_rate": 3.1668367826958246e-06, + "loss": 0.1101, + "num_input_tokens_seen": 18375096, + "step": 9378 + }, + { + "epoch": 1.2430748840291583, + "grad_norm": 8.388815879821777, + "learning_rate": 3.1665022157469206e-06, + "loss": 0.1278, + "num_input_tokens_seen": 18377984, + "step": 9379 + }, + { + "epoch": 1.2432074221338634, + "grad_norm": 2.3532800674438477, + "learning_rate": 3.1661676359473935e-06, + "loss": 0.0615, + "num_input_tokens_seen": 18379584, + "step": 9380 + }, + { + "epoch": 1.2433399602385686, + "grad_norm": 2.3064815998077393, + "learning_rate": 3.1658330433036956e-06, + "loss": 0.0683, + "num_input_tokens_seen": 18381568, + "step": 9381 + }, + { + "epoch": 1.2434724983432737, + "grad_norm": 0.034538425505161285, + "learning_rate": 3.1654984378222773e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18384024, + "step": 9382 + }, + { + "epoch": 1.2436050364479787, + "grad_norm": 5.336788177490234, + "learning_rate": 3.16516381950959e-06, + "loss": 0.0974, + "num_input_tokens_seen": 18385720, + "step": 9383 + }, + { + "epoch": 1.243737574552684, + "grad_norm": 5.130247116088867, + "learning_rate": 3.164829188372085e-06, + "loss": 0.089, + "num_input_tokens_seen": 18387928, + "step": 9384 + }, + { + "epoch": 1.243870112657389, + "grad_norm": 6.359325885772705, + "learning_rate": 3.1644945444162155e-06, + "loss": 0.1341, + "num_input_tokens_seen": 18390176, + "step": 9385 + }, + { + "epoch": 1.244002650762094, + "grad_norm": 3.77101469039917, + "learning_rate": 3.164159887648432e-06, + "loss": 0.087, + "num_input_tokens_seen": 18392424, + "step": 9386 + }, + { + "epoch": 1.244135188866799, + "grad_norm": 14.491848945617676, + "learning_rate": 3.1638252180751876e-06, + "loss": 0.0051, + "num_input_tokens_seen": 18394208, + "step": 9387 + }, + { + "epoch": 1.2442677269715043, + "grad_norm": 0.027656245976686478, + "learning_rate": 3.1634905357029356e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18396320, + "step": 9388 + }, + { + "epoch": 1.2444002650762094, + "grad_norm": 0.053529489785432816, + "learning_rate": 3.163155840538128e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18398192, + "step": 9389 + }, + { + "epoch": 1.2445328031809146, + "grad_norm": 4.0329790115356445, + "learning_rate": 3.1628211325872183e-06, + "loss": 0.0413, + "num_input_tokens_seen": 18399872, + "step": 9390 + }, + { + "epoch": 1.2446653412856197, + "grad_norm": 0.021568113937973976, + "learning_rate": 3.16248641185666e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18401296, + "step": 9391 + }, + { + "epoch": 1.2447978793903247, + "grad_norm": 9.324602127075195, + "learning_rate": 3.162151678352906e-06, + "loss": 0.1673, + "num_input_tokens_seen": 18403544, + "step": 9392 + }, + { + "epoch": 1.2449304174950298, + "grad_norm": 7.7093634605407715, + "learning_rate": 3.161816932082412e-06, + "loss": 0.126, + "num_input_tokens_seen": 18405728, + "step": 9393 + }, + { + "epoch": 1.245062955599735, + "grad_norm": 10.101548194885254, + "learning_rate": 3.1614821730516298e-06, + "loss": 0.2218, + "num_input_tokens_seen": 18407680, + "step": 9394 + }, + { + "epoch": 1.24519549370444, + "grad_norm": 7.607382297515869, + "learning_rate": 3.1611474012670157e-06, + "loss": 0.1541, + "num_input_tokens_seen": 18409904, + "step": 9395 + }, + { + "epoch": 1.245328031809145, + "grad_norm": 9.067893028259277, + "learning_rate": 3.1608126167350238e-06, + "loss": 0.2329, + "num_input_tokens_seen": 18412576, + "step": 9396 + }, + { + "epoch": 1.2454605699138503, + "grad_norm": 0.01961863599717617, + "learning_rate": 3.1604778194621087e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18415336, + "step": 9397 + }, + { + "epoch": 1.2455931080185554, + "grad_norm": 0.037139642983675, + "learning_rate": 3.1601430094547246e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18417024, + "step": 9398 + }, + { + "epoch": 1.2457256461232604, + "grad_norm": 1.0354135036468506, + "learning_rate": 3.1598081867193297e-06, + "loss": 0.0247, + "num_input_tokens_seen": 18419296, + "step": 9399 + }, + { + "epoch": 1.2458581842279655, + "grad_norm": 12.495909690856934, + "learning_rate": 3.1594733512623765e-06, + "loss": 0.3334, + "num_input_tokens_seen": 18422208, + "step": 9400 + }, + { + "epoch": 1.2459907223326707, + "grad_norm": 8.827960014343262, + "learning_rate": 3.159138503090322e-06, + "loss": 0.2592, + "num_input_tokens_seen": 18423776, + "step": 9401 + }, + { + "epoch": 1.2461232604373758, + "grad_norm": 0.052393652498722076, + "learning_rate": 3.1588036422096225e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18425552, + "step": 9402 + }, + { + "epoch": 1.2462557985420808, + "grad_norm": 8.29236888885498, + "learning_rate": 3.158468768626735e-06, + "loss": 0.2568, + "num_input_tokens_seen": 18427648, + "step": 9403 + }, + { + "epoch": 1.246388336646786, + "grad_norm": 3.726759672164917, + "learning_rate": 3.158133882348115e-06, + "loss": 0.0938, + "num_input_tokens_seen": 18429936, + "step": 9404 + }, + { + "epoch": 1.246520874751491, + "grad_norm": 6.531547546386719, + "learning_rate": 3.15779898338022e-06, + "loss": 0.0882, + "num_input_tokens_seen": 18431680, + "step": 9405 + }, + { + "epoch": 1.2466534128561961, + "grad_norm": 2.9095585346221924, + "learning_rate": 3.1574640717295068e-06, + "loss": 0.053, + "num_input_tokens_seen": 18432864, + "step": 9406 + }, + { + "epoch": 1.2467859509609012, + "grad_norm": 10.680782318115234, + "learning_rate": 3.1571291474024315e-06, + "loss": 0.3253, + "num_input_tokens_seen": 18434712, + "step": 9407 + }, + { + "epoch": 1.2469184890656064, + "grad_norm": 12.099526405334473, + "learning_rate": 3.1567942104054543e-06, + "loss": 0.2051, + "num_input_tokens_seen": 18436728, + "step": 9408 + }, + { + "epoch": 1.2470510271703115, + "grad_norm": 6.636758327484131, + "learning_rate": 3.1564592607450318e-06, + "loss": 0.1144, + "num_input_tokens_seen": 18437872, + "step": 9409 + }, + { + "epoch": 1.2471835652750165, + "grad_norm": 6.598060131072998, + "learning_rate": 3.1561242984276203e-06, + "loss": 0.0421, + "num_input_tokens_seen": 18439480, + "step": 9410 + }, + { + "epoch": 1.2473161033797218, + "grad_norm": 14.159141540527344, + "learning_rate": 3.155789323459681e-06, + "loss": 0.3629, + "num_input_tokens_seen": 18441008, + "step": 9411 + }, + { + "epoch": 1.2474486414844268, + "grad_norm": 0.2686271071434021, + "learning_rate": 3.1554543358476713e-06, + "loss": 0.0013, + "num_input_tokens_seen": 18442568, + "step": 9412 + }, + { + "epoch": 1.2475811795891318, + "grad_norm": 0.9424227476119995, + "learning_rate": 3.1551193355980485e-06, + "loss": 0.0113, + "num_input_tokens_seen": 18444480, + "step": 9413 + }, + { + "epoch": 1.2477137176938369, + "grad_norm": 16.265222549438477, + "learning_rate": 3.1547843227172742e-06, + "loss": 0.4469, + "num_input_tokens_seen": 18446832, + "step": 9414 + }, + { + "epoch": 1.2478462557985421, + "grad_norm": 5.499216079711914, + "learning_rate": 3.154449297211806e-06, + "loss": 0.0324, + "num_input_tokens_seen": 18448416, + "step": 9415 + }, + { + "epoch": 1.2479787939032472, + "grad_norm": 0.10832680761814117, + "learning_rate": 3.1541142590881035e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18449832, + "step": 9416 + }, + { + "epoch": 1.2481113320079522, + "grad_norm": 2.778978109359741, + "learning_rate": 3.153779208352628e-06, + "loss": 0.032, + "num_input_tokens_seen": 18452256, + "step": 9417 + }, + { + "epoch": 1.2482438701126575, + "grad_norm": 9.094318389892578, + "learning_rate": 3.1534441450118374e-06, + "loss": 0.2523, + "num_input_tokens_seen": 18454080, + "step": 9418 + }, + { + "epoch": 1.2483764082173625, + "grad_norm": 6.72135591506958, + "learning_rate": 3.1531090690721927e-06, + "loss": 0.0791, + "num_input_tokens_seen": 18455928, + "step": 9419 + }, + { + "epoch": 1.2485089463220675, + "grad_norm": 9.36076545715332, + "learning_rate": 3.1527739805401548e-06, + "loss": 0.2046, + "num_input_tokens_seen": 18458376, + "step": 9420 + }, + { + "epoch": 1.2486414844267726, + "grad_norm": 4.62542200088501, + "learning_rate": 3.152438879422185e-06, + "loss": 0.108, + "num_input_tokens_seen": 18459936, + "step": 9421 + }, + { + "epoch": 1.2487740225314778, + "grad_norm": 0.1427992582321167, + "learning_rate": 3.152103765724743e-06, + "loss": 0.0009, + "num_input_tokens_seen": 18462016, + "step": 9422 + }, + { + "epoch": 1.2489065606361829, + "grad_norm": 4.885402679443359, + "learning_rate": 3.15176863945429e-06, + "loss": 0.0882, + "num_input_tokens_seen": 18463904, + "step": 9423 + }, + { + "epoch": 1.249039098740888, + "grad_norm": 0.07357434183359146, + "learning_rate": 3.1514335006172892e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18466440, + "step": 9424 + }, + { + "epoch": 1.2491716368455932, + "grad_norm": 3.786656141281128, + "learning_rate": 3.1510983492202e-06, + "loss": 0.0386, + "num_input_tokens_seen": 18468152, + "step": 9425 + }, + { + "epoch": 1.2493041749502982, + "grad_norm": 0.38764688372612, + "learning_rate": 3.1507631852694854e-06, + "loss": 0.0026, + "num_input_tokens_seen": 18470480, + "step": 9426 + }, + { + "epoch": 1.2494367130550033, + "grad_norm": 0.549560546875, + "learning_rate": 3.150428008771609e-06, + "loss": 0.0077, + "num_input_tokens_seen": 18472208, + "step": 9427 + }, + { + "epoch": 1.2495692511597083, + "grad_norm": 0.6289083361625671, + "learning_rate": 3.15009281973303e-06, + "loss": 0.0035, + "num_input_tokens_seen": 18473744, + "step": 9428 + }, + { + "epoch": 1.2497017892644136, + "grad_norm": 0.17262619733810425, + "learning_rate": 3.1497576181602143e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18476088, + "step": 9429 + }, + { + "epoch": 1.2498343273691186, + "grad_norm": 1.0129958391189575, + "learning_rate": 3.149422404059623e-06, + "loss": 0.0166, + "num_input_tokens_seen": 18478120, + "step": 9430 + }, + { + "epoch": 1.2499668654738236, + "grad_norm": 0.05448863282799721, + "learning_rate": 3.1490871774377195e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18480344, + "step": 9431 + }, + { + "epoch": 1.250099403578529, + "grad_norm": 6.407369613647461, + "learning_rate": 3.148751938300968e-06, + "loss": 0.0635, + "num_input_tokens_seen": 18483032, + "step": 9432 + }, + { + "epoch": 1.250231941683234, + "grad_norm": 10.402389526367188, + "learning_rate": 3.1484166866558313e-06, + "loss": 0.2615, + "num_input_tokens_seen": 18484976, + "step": 9433 + }, + { + "epoch": 1.250364479787939, + "grad_norm": 5.193000316619873, + "learning_rate": 3.1480814225087734e-06, + "loss": 0.1604, + "num_input_tokens_seen": 18486912, + "step": 9434 + }, + { + "epoch": 1.250497017892644, + "grad_norm": 0.06429009884595871, + "learning_rate": 3.1477461458662597e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18488512, + "step": 9435 + }, + { + "epoch": 1.2506295559973493, + "grad_norm": 11.41175651550293, + "learning_rate": 3.1474108567347517e-06, + "loss": 0.1243, + "num_input_tokens_seen": 18490920, + "step": 9436 + }, + { + "epoch": 1.2507620941020543, + "grad_norm": 8.308806419372559, + "learning_rate": 3.1470755551207164e-06, + "loss": 0.1525, + "num_input_tokens_seen": 18492896, + "step": 9437 + }, + { + "epoch": 1.2508946322067596, + "grad_norm": 0.0789283812046051, + "learning_rate": 3.146740241030618e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18495440, + "step": 9438 + }, + { + "epoch": 1.2510271703114646, + "grad_norm": 8.656133651733398, + "learning_rate": 3.1464049144709223e-06, + "loss": 0.1156, + "num_input_tokens_seen": 18497656, + "step": 9439 + }, + { + "epoch": 1.2511597084161696, + "grad_norm": 4.3566718101501465, + "learning_rate": 3.1460695754480937e-06, + "loss": 0.0455, + "num_input_tokens_seen": 18499240, + "step": 9440 + }, + { + "epoch": 1.2512922465208747, + "grad_norm": 9.78972339630127, + "learning_rate": 3.1457342239685974e-06, + "loss": 0.1711, + "num_input_tokens_seen": 18500920, + "step": 9441 + }, + { + "epoch": 1.25142478462558, + "grad_norm": 0.33329737186431885, + "learning_rate": 3.1453988600388997e-06, + "loss": 0.0016, + "num_input_tokens_seen": 18502384, + "step": 9442 + }, + { + "epoch": 1.251557322730285, + "grad_norm": 8.892279624938965, + "learning_rate": 3.1450634836654676e-06, + "loss": 0.0965, + "num_input_tokens_seen": 18503920, + "step": 9443 + }, + { + "epoch": 1.25168986083499, + "grad_norm": 2.3811089992523193, + "learning_rate": 3.144728094854766e-06, + "loss": 0.0466, + "num_input_tokens_seen": 18505416, + "step": 9444 + }, + { + "epoch": 1.2518223989396953, + "grad_norm": 0.09232152253389359, + "learning_rate": 3.144392693613262e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18507912, + "step": 9445 + }, + { + "epoch": 1.2519549370444003, + "grad_norm": 0.42596831917762756, + "learning_rate": 3.144057279947422e-06, + "loss": 0.0051, + "num_input_tokens_seen": 18509976, + "step": 9446 + }, + { + "epoch": 1.2520874751491053, + "grad_norm": 4.679616928100586, + "learning_rate": 3.1437218538637136e-06, + "loss": 0.0622, + "num_input_tokens_seen": 18512392, + "step": 9447 + }, + { + "epoch": 1.2522200132538104, + "grad_norm": 9.054844856262207, + "learning_rate": 3.143386415368604e-06, + "loss": 0.0962, + "num_input_tokens_seen": 18514040, + "step": 9448 + }, + { + "epoch": 1.2523525513585156, + "grad_norm": 3.491696357727051, + "learning_rate": 3.1430509644685604e-06, + "loss": 0.1033, + "num_input_tokens_seen": 18515760, + "step": 9449 + }, + { + "epoch": 1.2524850894632207, + "grad_norm": 0.15452627837657928, + "learning_rate": 3.1427155011700506e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18517384, + "step": 9450 + }, + { + "epoch": 1.2526176275679257, + "grad_norm": 12.096922874450684, + "learning_rate": 3.1423800254795422e-06, + "loss": 0.3494, + "num_input_tokens_seen": 18519848, + "step": 9451 + }, + { + "epoch": 1.252750165672631, + "grad_norm": 7.669510841369629, + "learning_rate": 3.1420445374035043e-06, + "loss": 0.3238, + "num_input_tokens_seen": 18522272, + "step": 9452 + }, + { + "epoch": 1.252882703777336, + "grad_norm": 6.504327297210693, + "learning_rate": 3.1417090369484042e-06, + "loss": 0.0619, + "num_input_tokens_seen": 18523968, + "step": 9453 + }, + { + "epoch": 1.253015241882041, + "grad_norm": 5.50931453704834, + "learning_rate": 3.1413735241207117e-06, + "loss": 0.1576, + "num_input_tokens_seen": 18525456, + "step": 9454 + }, + { + "epoch": 1.253147779986746, + "grad_norm": 2.3638157844543457, + "learning_rate": 3.1410379989268947e-06, + "loss": 0.0292, + "num_input_tokens_seen": 18527608, + "step": 9455 + }, + { + "epoch": 1.2532803180914514, + "grad_norm": 7.7129807472229, + "learning_rate": 3.140702461373424e-06, + "loss": 0.07, + "num_input_tokens_seen": 18529088, + "step": 9456 + }, + { + "epoch": 1.2534128561961564, + "grad_norm": 0.2745905816555023, + "learning_rate": 3.1403669114667655e-06, + "loss": 0.002, + "num_input_tokens_seen": 18531976, + "step": 9457 + }, + { + "epoch": 1.2535453943008614, + "grad_norm": 5.1964030265808105, + "learning_rate": 3.140031349213393e-06, + "loss": 0.0712, + "num_input_tokens_seen": 18534056, + "step": 9458 + }, + { + "epoch": 1.2536779324055667, + "grad_norm": 0.15483932197093964, + "learning_rate": 3.1396957746197743e-06, + "loss": 0.001, + "num_input_tokens_seen": 18535168, + "step": 9459 + }, + { + "epoch": 1.2538104705102717, + "grad_norm": 13.136423110961914, + "learning_rate": 3.1393601876923796e-06, + "loss": 0.1342, + "num_input_tokens_seen": 18536752, + "step": 9460 + }, + { + "epoch": 1.2539430086149768, + "grad_norm": 9.722463607788086, + "learning_rate": 3.1390245884376795e-06, + "loss": 0.134, + "num_input_tokens_seen": 18538720, + "step": 9461 + }, + { + "epoch": 1.2540755467196818, + "grad_norm": 0.6463195085525513, + "learning_rate": 3.1386889768621444e-06, + "loss": 0.0044, + "num_input_tokens_seen": 18540616, + "step": 9462 + }, + { + "epoch": 1.254208084824387, + "grad_norm": 4.802942752838135, + "learning_rate": 3.1383533529722452e-06, + "loss": 0.1939, + "num_input_tokens_seen": 18542688, + "step": 9463 + }, + { + "epoch": 1.254340622929092, + "grad_norm": 5.149003505706787, + "learning_rate": 3.138017716774453e-06, + "loss": 0.169, + "num_input_tokens_seen": 18544008, + "step": 9464 + }, + { + "epoch": 1.2544731610337971, + "grad_norm": 11.130813598632812, + "learning_rate": 3.1376820682752398e-06, + "loss": 0.1901, + "num_input_tokens_seen": 18545544, + "step": 9465 + }, + { + "epoch": 1.2546056991385024, + "grad_norm": 0.5692558288574219, + "learning_rate": 3.1373464074810757e-06, + "loss": 0.004, + "num_input_tokens_seen": 18547888, + "step": 9466 + }, + { + "epoch": 1.2547382372432074, + "grad_norm": 8.315135955810547, + "learning_rate": 3.1370107343984324e-06, + "loss": 0.3071, + "num_input_tokens_seen": 18550448, + "step": 9467 + }, + { + "epoch": 1.2548707753479125, + "grad_norm": 1.7729310989379883, + "learning_rate": 3.136675049033784e-06, + "loss": 0.0201, + "num_input_tokens_seen": 18551744, + "step": 9468 + }, + { + "epoch": 1.2550033134526175, + "grad_norm": 0.9985671043395996, + "learning_rate": 3.1363393513936006e-06, + "loss": 0.0099, + "num_input_tokens_seen": 18553328, + "step": 9469 + }, + { + "epoch": 1.2551358515573228, + "grad_norm": 0.1492919623851776, + "learning_rate": 3.136003641484356e-06, + "loss": 0.001, + "num_input_tokens_seen": 18554640, + "step": 9470 + }, + { + "epoch": 1.2552683896620278, + "grad_norm": 0.3378029465675354, + "learning_rate": 3.1356679193125226e-06, + "loss": 0.0024, + "num_input_tokens_seen": 18556344, + "step": 9471 + }, + { + "epoch": 1.255400927766733, + "grad_norm": 0.16051307320594788, + "learning_rate": 3.135332184884572e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18557960, + "step": 9472 + }, + { + "epoch": 1.255533465871438, + "grad_norm": 4.7512288093566895, + "learning_rate": 3.1349964382069798e-06, + "loss": 0.0827, + "num_input_tokens_seen": 18559768, + "step": 9473 + }, + { + "epoch": 1.2556660039761431, + "grad_norm": 0.15483461320400238, + "learning_rate": 3.1346606792862184e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18561192, + "step": 9474 + }, + { + "epoch": 1.2557985420808482, + "grad_norm": 0.08765651285648346, + "learning_rate": 3.1343249081287604e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18564008, + "step": 9475 + }, + { + "epoch": 1.2559310801855532, + "grad_norm": 7.49232816696167, + "learning_rate": 3.133989124741081e-06, + "loss": 0.1776, + "num_input_tokens_seen": 18566016, + "step": 9476 + }, + { + "epoch": 1.2560636182902585, + "grad_norm": 6.845271110534668, + "learning_rate": 3.1336533291296534e-06, + "loss": 0.157, + "num_input_tokens_seen": 18567680, + "step": 9477 + }, + { + "epoch": 1.2561961563949635, + "grad_norm": 12.176644325256348, + "learning_rate": 3.133317521300953e-06, + "loss": 0.3223, + "num_input_tokens_seen": 18569832, + "step": 9478 + }, + { + "epoch": 1.2563286944996688, + "grad_norm": 2.2846949100494385, + "learning_rate": 3.1329817012614544e-06, + "loss": 0.008, + "num_input_tokens_seen": 18571328, + "step": 9479 + }, + { + "epoch": 1.2564612326043738, + "grad_norm": 6.750478267669678, + "learning_rate": 3.1326458690176307e-06, + "loss": 0.1171, + "num_input_tokens_seen": 18573064, + "step": 9480 + }, + { + "epoch": 1.2565937707090788, + "grad_norm": 3.2539079189300537, + "learning_rate": 3.132310024575959e-06, + "loss": 0.079, + "num_input_tokens_seen": 18574552, + "step": 9481 + }, + { + "epoch": 1.2567263088137839, + "grad_norm": 1.7233370542526245, + "learning_rate": 3.1319741679429135e-06, + "loss": 0.0174, + "num_input_tokens_seen": 18575824, + "step": 9482 + }, + { + "epoch": 1.2568588469184891, + "grad_norm": 8.986180305480957, + "learning_rate": 3.1316382991249707e-06, + "loss": 0.1727, + "num_input_tokens_seen": 18578440, + "step": 9483 + }, + { + "epoch": 1.2569913850231942, + "grad_norm": 7.015954971313477, + "learning_rate": 3.131302418128605e-06, + "loss": 0.1063, + "num_input_tokens_seen": 18579568, + "step": 9484 + }, + { + "epoch": 1.2571239231278992, + "grad_norm": 0.16736604273319244, + "learning_rate": 3.1309665249602934e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18580976, + "step": 9485 + }, + { + "epoch": 1.2572564612326045, + "grad_norm": 13.920928001403809, + "learning_rate": 3.1306306196265125e-06, + "loss": 0.3723, + "num_input_tokens_seen": 18582792, + "step": 9486 + }, + { + "epoch": 1.2573889993373095, + "grad_norm": 0.45890504121780396, + "learning_rate": 3.130294702133737e-06, + "loss": 0.0029, + "num_input_tokens_seen": 18584504, + "step": 9487 + }, + { + "epoch": 1.2575215374420146, + "grad_norm": 0.0401802696287632, + "learning_rate": 3.1299587724884454e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18585824, + "step": 9488 + }, + { + "epoch": 1.2576540755467196, + "grad_norm": 8.223142623901367, + "learning_rate": 3.1296228306971146e-06, + "loss": 0.107, + "num_input_tokens_seen": 18587416, + "step": 9489 + }, + { + "epoch": 1.2577866136514249, + "grad_norm": 10.77361011505127, + "learning_rate": 3.1292868767662197e-06, + "loss": 0.204, + "num_input_tokens_seen": 18589000, + "step": 9490 + }, + { + "epoch": 1.25791915175613, + "grad_norm": 7.1792826652526855, + "learning_rate": 3.1289509107022416e-06, + "loss": 0.2093, + "num_input_tokens_seen": 18590664, + "step": 9491 + }, + { + "epoch": 1.258051689860835, + "grad_norm": 11.447093963623047, + "learning_rate": 3.1286149325116553e-06, + "loss": 0.0759, + "num_input_tokens_seen": 18592952, + "step": 9492 + }, + { + "epoch": 1.2581842279655402, + "grad_norm": 13.41461181640625, + "learning_rate": 3.128278942200939e-06, + "loss": 0.3191, + "num_input_tokens_seen": 18594432, + "step": 9493 + }, + { + "epoch": 1.2583167660702452, + "grad_norm": 7.305506229400635, + "learning_rate": 3.127942939776572e-06, + "loss": 0.0567, + "num_input_tokens_seen": 18596576, + "step": 9494 + }, + { + "epoch": 1.2584493041749503, + "grad_norm": 0.07337658107280731, + "learning_rate": 3.1276069252450313e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18598376, + "step": 9495 + }, + { + "epoch": 1.2585818422796553, + "grad_norm": 5.728024005889893, + "learning_rate": 3.1272708986127964e-06, + "loss": 0.1101, + "num_input_tokens_seen": 18600424, + "step": 9496 + }, + { + "epoch": 1.2587143803843606, + "grad_norm": 11.810660362243652, + "learning_rate": 3.1269348598863463e-06, + "loss": 0.3545, + "num_input_tokens_seen": 18602688, + "step": 9497 + }, + { + "epoch": 1.2588469184890656, + "grad_norm": 0.04677664488554001, + "learning_rate": 3.126598809072159e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18604552, + "step": 9498 + }, + { + "epoch": 1.2589794565937706, + "grad_norm": 7.689836502075195, + "learning_rate": 3.126262746176714e-06, + "loss": 0.1539, + "num_input_tokens_seen": 18607288, + "step": 9499 + }, + { + "epoch": 1.259111994698476, + "grad_norm": 3.314669609069824, + "learning_rate": 3.125926671206493e-06, + "loss": 0.0591, + "num_input_tokens_seen": 18608728, + "step": 9500 + }, + { + "epoch": 1.259244532803181, + "grad_norm": 0.008816717192530632, + "learning_rate": 3.1255905841679725e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18610136, + "step": 9501 + }, + { + "epoch": 1.259377070907886, + "grad_norm": 2.8269801139831543, + "learning_rate": 3.125254485067634e-06, + "loss": 0.0636, + "num_input_tokens_seen": 18613064, + "step": 9502 + }, + { + "epoch": 1.259509609012591, + "grad_norm": 7.846867084503174, + "learning_rate": 3.1249183739119576e-06, + "loss": 0.1682, + "num_input_tokens_seen": 18614816, + "step": 9503 + }, + { + "epoch": 1.2596421471172963, + "grad_norm": 0.03581458330154419, + "learning_rate": 3.124582250707424e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18616200, + "step": 9504 + }, + { + "epoch": 1.2597746852220013, + "grad_norm": 8.068528175354004, + "learning_rate": 3.1242461154605142e-06, + "loss": 0.2604, + "num_input_tokens_seen": 18618560, + "step": 9505 + }, + { + "epoch": 1.2599072233267063, + "grad_norm": 7.452920913696289, + "learning_rate": 3.123909968177708e-06, + "loss": 0.1024, + "num_input_tokens_seen": 18620112, + "step": 9506 + }, + { + "epoch": 1.2600397614314116, + "grad_norm": 6.352168560028076, + "learning_rate": 3.1235738088654876e-06, + "loss": 0.203, + "num_input_tokens_seen": 18622216, + "step": 9507 + }, + { + "epoch": 1.2601722995361166, + "grad_norm": 0.038655441254377365, + "learning_rate": 3.1232376375303337e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18623784, + "step": 9508 + }, + { + "epoch": 1.2603048376408217, + "grad_norm": 0.1970355063676834, + "learning_rate": 3.1229014541787284e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18625528, + "step": 9509 + }, + { + "epoch": 1.2604373757455267, + "grad_norm": 9.269770622253418, + "learning_rate": 3.1225652588171534e-06, + "loss": 0.2189, + "num_input_tokens_seen": 18627320, + "step": 9510 + }, + { + "epoch": 1.260569913850232, + "grad_norm": 1.2548916339874268, + "learning_rate": 3.1222290514520903e-06, + "loss": 0.007, + "num_input_tokens_seen": 18629080, + "step": 9511 + }, + { + "epoch": 1.260702451954937, + "grad_norm": 4.4019694328308105, + "learning_rate": 3.1218928320900226e-06, + "loss": 0.0762, + "num_input_tokens_seen": 18630480, + "step": 9512 + }, + { + "epoch": 1.2608349900596423, + "grad_norm": 1.8467514514923096, + "learning_rate": 3.1215566007374316e-06, + "loss": 0.0132, + "num_input_tokens_seen": 18632144, + "step": 9513 + }, + { + "epoch": 1.2609675281643473, + "grad_norm": 5.521622657775879, + "learning_rate": 3.1212203574008002e-06, + "loss": 0.0693, + "num_input_tokens_seen": 18634304, + "step": 9514 + }, + { + "epoch": 1.2611000662690524, + "grad_norm": 10.560824394226074, + "learning_rate": 3.120884102086613e-06, + "loss": 0.1431, + "num_input_tokens_seen": 18636296, + "step": 9515 + }, + { + "epoch": 1.2612326043737574, + "grad_norm": 12.83585262298584, + "learning_rate": 3.120547834801351e-06, + "loss": 0.2935, + "num_input_tokens_seen": 18638936, + "step": 9516 + }, + { + "epoch": 1.2613651424784624, + "grad_norm": 9.468527793884277, + "learning_rate": 3.1202115555514984e-06, + "loss": 0.1141, + "num_input_tokens_seen": 18640664, + "step": 9517 + }, + { + "epoch": 1.2614976805831677, + "grad_norm": 13.555997848510742, + "learning_rate": 3.1198752643435405e-06, + "loss": 0.2374, + "num_input_tokens_seen": 18642712, + "step": 9518 + }, + { + "epoch": 1.2616302186878727, + "grad_norm": 0.10782702267169952, + "learning_rate": 3.1195389611839583e-06, + "loss": 0.0006, + "num_input_tokens_seen": 18644000, + "step": 9519 + }, + { + "epoch": 1.261762756792578, + "grad_norm": 0.2904266119003296, + "learning_rate": 3.119202646079238e-06, + "loss": 0.0018, + "num_input_tokens_seen": 18645680, + "step": 9520 + }, + { + "epoch": 1.261895294897283, + "grad_norm": 1.20993173122406, + "learning_rate": 3.1188663190358636e-06, + "loss": 0.0087, + "num_input_tokens_seen": 18647904, + "step": 9521 + }, + { + "epoch": 1.262027833001988, + "grad_norm": 15.421807289123535, + "learning_rate": 3.1185299800603195e-06, + "loss": 0.2938, + "num_input_tokens_seen": 18649472, + "step": 9522 + }, + { + "epoch": 1.262160371106693, + "grad_norm": 6.484807014465332, + "learning_rate": 3.1181936291590916e-06, + "loss": 0.1156, + "num_input_tokens_seen": 18651536, + "step": 9523 + }, + { + "epoch": 1.2622929092113981, + "grad_norm": 0.25301843881607056, + "learning_rate": 3.117857266338663e-06, + "loss": 0.0029, + "num_input_tokens_seen": 18652664, + "step": 9524 + }, + { + "epoch": 1.2624254473161034, + "grad_norm": 0.5421400666236877, + "learning_rate": 3.11752089160552e-06, + "loss": 0.0037, + "num_input_tokens_seen": 18654280, + "step": 9525 + }, + { + "epoch": 1.2625579854208084, + "grad_norm": 4.363363265991211, + "learning_rate": 3.117184504966149e-06, + "loss": 0.0774, + "num_input_tokens_seen": 18655696, + "step": 9526 + }, + { + "epoch": 1.2626905235255137, + "grad_norm": 0.01573200523853302, + "learning_rate": 3.1168481064270344e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18657320, + "step": 9527 + }, + { + "epoch": 1.2628230616302187, + "grad_norm": 3.245358467102051, + "learning_rate": 3.116511695994663e-06, + "loss": 0.0272, + "num_input_tokens_seen": 18659048, + "step": 9528 + }, + { + "epoch": 1.2629555997349238, + "grad_norm": 4.839794158935547, + "learning_rate": 3.116175273675521e-06, + "loss": 0.1093, + "num_input_tokens_seen": 18660408, + "step": 9529 + }, + { + "epoch": 1.2630881378396288, + "grad_norm": 2.515503168106079, + "learning_rate": 3.1158388394760946e-06, + "loss": 0.0256, + "num_input_tokens_seen": 18661792, + "step": 9530 + }, + { + "epoch": 1.263220675944334, + "grad_norm": 10.010395050048828, + "learning_rate": 3.11550239340287e-06, + "loss": 0.1196, + "num_input_tokens_seen": 18664184, + "step": 9531 + }, + { + "epoch": 1.263353214049039, + "grad_norm": 16.384199142456055, + "learning_rate": 3.1151659354623348e-06, + "loss": 0.2016, + "num_input_tokens_seen": 18666112, + "step": 9532 + }, + { + "epoch": 1.2634857521537441, + "grad_norm": 15.091303825378418, + "learning_rate": 3.114829465660977e-06, + "loss": 0.2366, + "num_input_tokens_seen": 18668592, + "step": 9533 + }, + { + "epoch": 1.2636182902584494, + "grad_norm": 0.546700119972229, + "learning_rate": 3.1144929840052816e-06, + "loss": 0.0022, + "num_input_tokens_seen": 18670608, + "step": 9534 + }, + { + "epoch": 1.2637508283631544, + "grad_norm": 10.77407455444336, + "learning_rate": 3.114156490501738e-06, + "loss": 0.2383, + "num_input_tokens_seen": 18673248, + "step": 9535 + }, + { + "epoch": 1.2638833664678595, + "grad_norm": 7.434164524078369, + "learning_rate": 3.113819985156834e-06, + "loss": 0.2916, + "num_input_tokens_seen": 18676008, + "step": 9536 + }, + { + "epoch": 1.2640159045725645, + "grad_norm": 14.079195022583008, + "learning_rate": 3.113483467977056e-06, + "loss": 0.2363, + "num_input_tokens_seen": 18677664, + "step": 9537 + }, + { + "epoch": 1.2641484426772698, + "grad_norm": 1.8467170000076294, + "learning_rate": 3.1131469389688953e-06, + "loss": 0.0096, + "num_input_tokens_seen": 18680304, + "step": 9538 + }, + { + "epoch": 1.2642809807819748, + "grad_norm": 7.341131687164307, + "learning_rate": 3.112810398138837e-06, + "loss": 0.1654, + "num_input_tokens_seen": 18681984, + "step": 9539 + }, + { + "epoch": 1.2644135188866799, + "grad_norm": 14.365467071533203, + "learning_rate": 3.1124738454933723e-06, + "loss": 0.6037, + "num_input_tokens_seen": 18683976, + "step": 9540 + }, + { + "epoch": 1.2645460569913851, + "grad_norm": 5.505293369293213, + "learning_rate": 3.112137281038989e-06, + "loss": 0.0492, + "num_input_tokens_seen": 18685232, + "step": 9541 + }, + { + "epoch": 1.2646785950960902, + "grad_norm": 0.0494539849460125, + "learning_rate": 3.111800704782177e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18687168, + "step": 9542 + }, + { + "epoch": 1.2648111332007952, + "grad_norm": 0.21555307507514954, + "learning_rate": 3.111464116729425e-06, + "loss": 0.0026, + "num_input_tokens_seen": 18689048, + "step": 9543 + }, + { + "epoch": 1.2649436713055002, + "grad_norm": 0.05539043992757797, + "learning_rate": 3.1111275168872234e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18690912, + "step": 9544 + }, + { + "epoch": 1.2650762094102055, + "grad_norm": 8.146784782409668, + "learning_rate": 3.1107909052620617e-06, + "loss": 0.1219, + "num_input_tokens_seen": 18693328, + "step": 9545 + }, + { + "epoch": 1.2652087475149105, + "grad_norm": 7.495118618011475, + "learning_rate": 3.1104542818604294e-06, + "loss": 0.2423, + "num_input_tokens_seen": 18695008, + "step": 9546 + }, + { + "epoch": 1.2653412856196156, + "grad_norm": 3.8518741130828857, + "learning_rate": 3.1101176466888177e-06, + "loss": 0.053, + "num_input_tokens_seen": 18697560, + "step": 9547 + }, + { + "epoch": 1.2654738237243208, + "grad_norm": 4.492794036865234, + "learning_rate": 3.1097809997537175e-06, + "loss": 0.1521, + "num_input_tokens_seen": 18699352, + "step": 9548 + }, + { + "epoch": 1.2656063618290259, + "grad_norm": 4.953414440155029, + "learning_rate": 3.1094443410616183e-06, + "loss": 0.061, + "num_input_tokens_seen": 18701736, + "step": 9549 + }, + { + "epoch": 1.265738899933731, + "grad_norm": 10.90267276763916, + "learning_rate": 3.1091076706190114e-06, + "loss": 0.3236, + "num_input_tokens_seen": 18704688, + "step": 9550 + }, + { + "epoch": 1.265871438038436, + "grad_norm": 8.966817855834961, + "learning_rate": 3.1087709884323896e-06, + "loss": 0.1224, + "num_input_tokens_seen": 18706512, + "step": 9551 + }, + { + "epoch": 1.2660039761431412, + "grad_norm": 1.2514560222625732, + "learning_rate": 3.108434294508242e-06, + "loss": 0.0141, + "num_input_tokens_seen": 18707928, + "step": 9552 + }, + { + "epoch": 1.2661365142478462, + "grad_norm": 1.3735851049423218, + "learning_rate": 3.1080975888530618e-06, + "loss": 0.0153, + "num_input_tokens_seen": 18709784, + "step": 9553 + }, + { + "epoch": 1.2662690523525515, + "grad_norm": 6.200412273406982, + "learning_rate": 3.1077608714733417e-06, + "loss": 0.1075, + "num_input_tokens_seen": 18712104, + "step": 9554 + }, + { + "epoch": 1.2664015904572565, + "grad_norm": 4.373355865478516, + "learning_rate": 3.107424142375571e-06, + "loss": 0.0557, + "num_input_tokens_seen": 18714056, + "step": 9555 + }, + { + "epoch": 1.2665341285619616, + "grad_norm": 0.972809910774231, + "learning_rate": 3.1070874015662443e-06, + "loss": 0.0047, + "num_input_tokens_seen": 18716824, + "step": 9556 + }, + { + "epoch": 1.2666666666666666, + "grad_norm": 4.625906944274902, + "learning_rate": 3.1067506490518546e-06, + "loss": 0.0343, + "num_input_tokens_seen": 18719264, + "step": 9557 + }, + { + "epoch": 1.2667992047713716, + "grad_norm": 4.805831432342529, + "learning_rate": 3.1064138848388925e-06, + "loss": 0.0519, + "num_input_tokens_seen": 18721984, + "step": 9558 + }, + { + "epoch": 1.266931742876077, + "grad_norm": 7.70939302444458, + "learning_rate": 3.106077108933853e-06, + "loss": 0.1364, + "num_input_tokens_seen": 18725352, + "step": 9559 + }, + { + "epoch": 1.267064280980782, + "grad_norm": 0.014057337306439877, + "learning_rate": 3.105740321343229e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18727040, + "step": 9560 + }, + { + "epoch": 1.2671968190854872, + "grad_norm": 0.13010846078395844, + "learning_rate": 3.105403522073513e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18729440, + "step": 9561 + }, + { + "epoch": 1.2673293571901922, + "grad_norm": 10.101225852966309, + "learning_rate": 3.1050667111312005e-06, + "loss": 0.2033, + "num_input_tokens_seen": 18731560, + "step": 9562 + }, + { + "epoch": 1.2674618952948973, + "grad_norm": 4.382718086242676, + "learning_rate": 3.1047298885227833e-06, + "loss": 0.0261, + "num_input_tokens_seen": 18733080, + "step": 9563 + }, + { + "epoch": 1.2675944333996023, + "grad_norm": 0.7799378037452698, + "learning_rate": 3.1043930542547573e-06, + "loss": 0.0064, + "num_input_tokens_seen": 18735448, + "step": 9564 + }, + { + "epoch": 1.2677269715043074, + "grad_norm": 1.7454496622085571, + "learning_rate": 3.104056208333616e-06, + "loss": 0.0208, + "num_input_tokens_seen": 18737096, + "step": 9565 + }, + { + "epoch": 1.2678595096090126, + "grad_norm": 6.805015563964844, + "learning_rate": 3.1037193507658547e-06, + "loss": 0.1759, + "num_input_tokens_seen": 18738800, + "step": 9566 + }, + { + "epoch": 1.2679920477137177, + "grad_norm": 0.14510655403137207, + "learning_rate": 3.1033824815579674e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18741728, + "step": 9567 + }, + { + "epoch": 1.268124585818423, + "grad_norm": 6.825650691986084, + "learning_rate": 3.1030456007164493e-06, + "loss": 0.1444, + "num_input_tokens_seen": 18743480, + "step": 9568 + }, + { + "epoch": 1.268257123923128, + "grad_norm": 8.057954788208008, + "learning_rate": 3.1027087082477967e-06, + "loss": 0.0707, + "num_input_tokens_seen": 18745136, + "step": 9569 + }, + { + "epoch": 1.268389662027833, + "grad_norm": 0.07268264889717102, + "learning_rate": 3.1023718041585044e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18747800, + "step": 9570 + }, + { + "epoch": 1.268522200132538, + "grad_norm": 9.976461410522461, + "learning_rate": 3.1020348884550676e-06, + "loss": 0.0964, + "num_input_tokens_seen": 18749728, + "step": 9571 + }, + { + "epoch": 1.2686547382372433, + "grad_norm": 2.2272660732269287, + "learning_rate": 3.1016979611439833e-06, + "loss": 0.0233, + "num_input_tokens_seen": 18751648, + "step": 9572 + }, + { + "epoch": 1.2687872763419483, + "grad_norm": 15.046384811401367, + "learning_rate": 3.101361022231747e-06, + "loss": 0.4865, + "num_input_tokens_seen": 18754176, + "step": 9573 + }, + { + "epoch": 1.2689198144466534, + "grad_norm": 0.020708920434117317, + "learning_rate": 3.101024071724855e-06, + "loss": 0.0001, + "num_input_tokens_seen": 18755688, + "step": 9574 + }, + { + "epoch": 1.2690523525513586, + "grad_norm": 14.709152221679688, + "learning_rate": 3.1006871096298054e-06, + "loss": 0.2334, + "num_input_tokens_seen": 18758088, + "step": 9575 + }, + { + "epoch": 1.2691848906560637, + "grad_norm": 2.9605281352996826, + "learning_rate": 3.1003501359530925e-06, + "loss": 0.0966, + "num_input_tokens_seen": 18760608, + "step": 9576 + }, + { + "epoch": 1.2693174287607687, + "grad_norm": 6.462142467498779, + "learning_rate": 3.100013150701216e-06, + "loss": 0.1449, + "num_input_tokens_seen": 18762728, + "step": 9577 + }, + { + "epoch": 1.2694499668654737, + "grad_norm": 0.048527903854846954, + "learning_rate": 3.0996761538806715e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18765560, + "step": 9578 + }, + { + "epoch": 1.269582504970179, + "grad_norm": 2.6319034099578857, + "learning_rate": 3.0993391454979573e-06, + "loss": 0.0055, + "num_input_tokens_seen": 18767392, + "step": 9579 + }, + { + "epoch": 1.269715043074884, + "grad_norm": 0.589040994644165, + "learning_rate": 3.099002125559571e-06, + "loss": 0.0027, + "num_input_tokens_seen": 18770080, + "step": 9580 + }, + { + "epoch": 1.269847581179589, + "grad_norm": 1.468569040298462, + "learning_rate": 3.09866509407201e-06, + "loss": 0.025, + "num_input_tokens_seen": 18771584, + "step": 9581 + }, + { + "epoch": 1.2699801192842943, + "grad_norm": 9.574628829956055, + "learning_rate": 3.098328051041773e-06, + "loss": 0.0561, + "num_input_tokens_seen": 18773672, + "step": 9582 + }, + { + "epoch": 1.2701126573889994, + "grad_norm": 9.829450607299805, + "learning_rate": 3.0979909964753585e-06, + "loss": 0.2955, + "num_input_tokens_seen": 18775504, + "step": 9583 + }, + { + "epoch": 1.2702451954937044, + "grad_norm": 0.05495566502213478, + "learning_rate": 3.0976539303792653e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18778176, + "step": 9584 + }, + { + "epoch": 1.2703777335984094, + "grad_norm": 14.334283828735352, + "learning_rate": 3.0973168527599915e-06, + "loss": 0.5355, + "num_input_tokens_seen": 18779736, + "step": 9585 + }, + { + "epoch": 1.2705102717031147, + "grad_norm": 12.509750366210938, + "learning_rate": 3.0969797636240373e-06, + "loss": 0.2096, + "num_input_tokens_seen": 18780936, + "step": 9586 + }, + { + "epoch": 1.2706428098078197, + "grad_norm": 2.2883243560791016, + "learning_rate": 3.0966426629779013e-06, + "loss": 0.018, + "num_input_tokens_seen": 18783576, + "step": 9587 + }, + { + "epoch": 1.2707753479125248, + "grad_norm": 0.03417337313294411, + "learning_rate": 3.096305550828083e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18784840, + "step": 9588 + }, + { + "epoch": 1.27090788601723, + "grad_norm": 8.606836318969727, + "learning_rate": 3.0959684271810825e-06, + "loss": 0.2122, + "num_input_tokens_seen": 18786584, + "step": 9589 + }, + { + "epoch": 1.271040424121935, + "grad_norm": 0.030336497351527214, + "learning_rate": 3.095631292043399e-06, + "loss": 0.0002, + "num_input_tokens_seen": 18788088, + "step": 9590 + }, + { + "epoch": 1.2711729622266401, + "grad_norm": 10.598922729492188, + "learning_rate": 3.0952941454215336e-06, + "loss": 0.1836, + "num_input_tokens_seen": 18789960, + "step": 9591 + }, + { + "epoch": 1.2713055003313452, + "grad_norm": 7.983222007751465, + "learning_rate": 3.094956987321987e-06, + "loss": 0.1773, + "num_input_tokens_seen": 18791784, + "step": 9592 + }, + { + "epoch": 1.2714380384360504, + "grad_norm": 9.11338996887207, + "learning_rate": 3.0946198177512587e-06, + "loss": 0.2313, + "num_input_tokens_seen": 18794024, + "step": 9593 + }, + { + "epoch": 1.2715705765407554, + "grad_norm": 9.565092086791992, + "learning_rate": 3.0942826367158503e-06, + "loss": 0.215, + "num_input_tokens_seen": 18795552, + "step": 9594 + }, + { + "epoch": 1.2717031146454607, + "grad_norm": 2.4294536113739014, + "learning_rate": 3.0939454442222625e-06, + "loss": 0.0495, + "num_input_tokens_seen": 18797208, + "step": 9595 + }, + { + "epoch": 1.2718356527501657, + "grad_norm": 18.182601928710938, + "learning_rate": 3.093608240276997e-06, + "loss": 0.4393, + "num_input_tokens_seen": 18799544, + "step": 9596 + }, + { + "epoch": 1.2719681908548708, + "grad_norm": 9.620306968688965, + "learning_rate": 3.093271024886555e-06, + "loss": 0.134, + "num_input_tokens_seen": 18800816, + "step": 9597 + }, + { + "epoch": 1.2721007289595758, + "grad_norm": 4.487289905548096, + "learning_rate": 3.0929337980574386e-06, + "loss": 0.0895, + "num_input_tokens_seen": 18802712, + "step": 9598 + }, + { + "epoch": 1.2722332670642809, + "grad_norm": 10.956438064575195, + "learning_rate": 3.0925965597961493e-06, + "loss": 0.2121, + "num_input_tokens_seen": 18805312, + "step": 9599 + }, + { + "epoch": 1.2723658051689861, + "grad_norm": 3.5175516605377197, + "learning_rate": 3.092259310109189e-06, + "loss": 0.0314, + "num_input_tokens_seen": 18807120, + "step": 9600 + }, + { + "epoch": 1.2724983432736912, + "grad_norm": 2.5592570304870605, + "learning_rate": 3.0919220490030614e-06, + "loss": 0.0427, + "num_input_tokens_seen": 18809288, + "step": 9601 + }, + { + "epoch": 1.2726308813783964, + "grad_norm": 8.165724754333496, + "learning_rate": 3.091584776484268e-06, + "loss": 0.2291, + "num_input_tokens_seen": 18811040, + "step": 9602 + }, + { + "epoch": 1.2727634194831015, + "grad_norm": 0.14805783331394196, + "learning_rate": 3.0912474925593124e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18813920, + "step": 9603 + }, + { + "epoch": 1.2728959575878065, + "grad_norm": 12.349943161010742, + "learning_rate": 3.0909101972346967e-06, + "loss": 0.1134, + "num_input_tokens_seen": 18815280, + "step": 9604 + }, + { + "epoch": 1.2730284956925115, + "grad_norm": 9.280753135681152, + "learning_rate": 3.0905728905169245e-06, + "loss": 0.1114, + "num_input_tokens_seen": 18816960, + "step": 9605 + }, + { + "epoch": 1.2731610337972166, + "grad_norm": 1.9063833951950073, + "learning_rate": 3.0902355724125003e-06, + "loss": 0.0383, + "num_input_tokens_seen": 18818592, + "step": 9606 + }, + { + "epoch": 1.2732935719019218, + "grad_norm": 7.783565521240234, + "learning_rate": 3.0898982429279267e-06, + "loss": 0.1839, + "num_input_tokens_seen": 18820576, + "step": 9607 + }, + { + "epoch": 1.2734261100066269, + "grad_norm": 0.11132501810789108, + "learning_rate": 3.089560902069708e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18823120, + "step": 9608 + }, + { + "epoch": 1.2735586481113321, + "grad_norm": 0.48439648747444153, + "learning_rate": 3.0892235498443485e-06, + "loss": 0.0098, + "num_input_tokens_seen": 18824616, + "step": 9609 + }, + { + "epoch": 1.2736911862160372, + "grad_norm": 0.922950267791748, + "learning_rate": 3.088886186258353e-06, + "loss": 0.0082, + "num_input_tokens_seen": 18827056, + "step": 9610 + }, + { + "epoch": 1.2738237243207422, + "grad_norm": 0.3289572596549988, + "learning_rate": 3.088548811318225e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18828640, + "step": 9611 + }, + { + "epoch": 1.2739562624254472, + "grad_norm": 9.76451587677002, + "learning_rate": 3.08821142503047e-06, + "loss": 0.2686, + "num_input_tokens_seen": 18831232, + "step": 9612 + }, + { + "epoch": 1.2740888005301525, + "grad_norm": 1.7446781396865845, + "learning_rate": 3.087874027401593e-06, + "loss": 0.0135, + "num_input_tokens_seen": 18833096, + "step": 9613 + }, + { + "epoch": 1.2742213386348575, + "grad_norm": 13.916878700256348, + "learning_rate": 3.0875366184380996e-06, + "loss": 0.1872, + "num_input_tokens_seen": 18834976, + "step": 9614 + }, + { + "epoch": 1.2743538767395626, + "grad_norm": 10.917094230651855, + "learning_rate": 3.0871991981464936e-06, + "loss": 0.1023, + "num_input_tokens_seen": 18837184, + "step": 9615 + }, + { + "epoch": 1.2744864148442678, + "grad_norm": 5.964156627655029, + "learning_rate": 3.0868617665332835e-06, + "loss": 0.092, + "num_input_tokens_seen": 18839152, + "step": 9616 + }, + { + "epoch": 1.2746189529489729, + "grad_norm": 0.44540196657180786, + "learning_rate": 3.0865243236049724e-06, + "loss": 0.0031, + "num_input_tokens_seen": 18841496, + "step": 9617 + }, + { + "epoch": 1.274751491053678, + "grad_norm": 2.5499613285064697, + "learning_rate": 3.0861868693680687e-06, + "loss": 0.0277, + "num_input_tokens_seen": 18843344, + "step": 9618 + }, + { + "epoch": 1.274884029158383, + "grad_norm": 8.558600425720215, + "learning_rate": 3.0858494038290775e-06, + "loss": 0.0896, + "num_input_tokens_seen": 18845368, + "step": 9619 + }, + { + "epoch": 1.2750165672630882, + "grad_norm": 7.310911655426025, + "learning_rate": 3.085511926994505e-06, + "loss": 0.0744, + "num_input_tokens_seen": 18846952, + "step": 9620 + }, + { + "epoch": 1.2751491053677932, + "grad_norm": 5.543603420257568, + "learning_rate": 3.0851744388708595e-06, + "loss": 0.236, + "num_input_tokens_seen": 18849016, + "step": 9621 + }, + { + "epoch": 1.2752816434724983, + "grad_norm": 1.869657278060913, + "learning_rate": 3.0848369394646466e-06, + "loss": 0.0282, + "num_input_tokens_seen": 18850952, + "step": 9622 + }, + { + "epoch": 1.2754141815772035, + "grad_norm": 12.220597267150879, + "learning_rate": 3.0844994287823737e-06, + "loss": 0.4002, + "num_input_tokens_seen": 18853304, + "step": 9623 + }, + { + "epoch": 1.2755467196819086, + "grad_norm": 7.594727993011475, + "learning_rate": 3.0841619068305494e-06, + "loss": 0.1406, + "num_input_tokens_seen": 18854800, + "step": 9624 + }, + { + "epoch": 1.2756792577866136, + "grad_norm": 0.8061110377311707, + "learning_rate": 3.0838243736156805e-06, + "loss": 0.0048, + "num_input_tokens_seen": 18856584, + "step": 9625 + }, + { + "epoch": 1.2758117958913187, + "grad_norm": 0.11500990390777588, + "learning_rate": 3.0834868291442745e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18857720, + "step": 9626 + }, + { + "epoch": 1.275944333996024, + "grad_norm": 0.19176723062992096, + "learning_rate": 3.08314927342284e-06, + "loss": 0.0019, + "num_input_tokens_seen": 18859656, + "step": 9627 + }, + { + "epoch": 1.276076872100729, + "grad_norm": 0.2339429408311844, + "learning_rate": 3.0828117064578855e-06, + "loss": 0.0014, + "num_input_tokens_seen": 18861072, + "step": 9628 + }, + { + "epoch": 1.276209410205434, + "grad_norm": 47.69477844238281, + "learning_rate": 3.082474128255919e-06, + "loss": 0.2067, + "num_input_tokens_seen": 18863760, + "step": 9629 + }, + { + "epoch": 1.2763419483101393, + "grad_norm": 5.988940715789795, + "learning_rate": 3.0821365388234493e-06, + "loss": 0.0724, + "num_input_tokens_seen": 18865048, + "step": 9630 + }, + { + "epoch": 1.2764744864148443, + "grad_norm": 24.3988094329834, + "learning_rate": 3.0817989381669862e-06, + "loss": 0.0355, + "num_input_tokens_seen": 18866728, + "step": 9631 + }, + { + "epoch": 1.2766070245195493, + "grad_norm": 17.62729835510254, + "learning_rate": 3.081461326293037e-06, + "loss": 0.3655, + "num_input_tokens_seen": 18868808, + "step": 9632 + }, + { + "epoch": 1.2767395626242544, + "grad_norm": 2.246546983718872, + "learning_rate": 3.081123703208113e-06, + "loss": 0.0814, + "num_input_tokens_seen": 18870704, + "step": 9633 + }, + { + "epoch": 1.2768721007289596, + "grad_norm": 5.094381332397461, + "learning_rate": 3.0807860689187234e-06, + "loss": 0.053, + "num_input_tokens_seen": 18872320, + "step": 9634 + }, + { + "epoch": 1.2770046388336647, + "grad_norm": 15.825763702392578, + "learning_rate": 3.080448423431377e-06, + "loss": 0.3018, + "num_input_tokens_seen": 18873968, + "step": 9635 + }, + { + "epoch": 1.2771371769383697, + "grad_norm": 13.416014671325684, + "learning_rate": 3.0801107667525852e-06, + "loss": 0.1532, + "num_input_tokens_seen": 18875904, + "step": 9636 + }, + { + "epoch": 1.277269715043075, + "grad_norm": 10.295441627502441, + "learning_rate": 3.079773098888858e-06, + "loss": 0.2415, + "num_input_tokens_seen": 18877488, + "step": 9637 + }, + { + "epoch": 1.27740225314778, + "grad_norm": 10.214176177978516, + "learning_rate": 3.0794354198467042e-06, + "loss": 0.1805, + "num_input_tokens_seen": 18879208, + "step": 9638 + }, + { + "epoch": 1.277534791252485, + "grad_norm": 7.119900703430176, + "learning_rate": 3.079097729632637e-06, + "loss": 0.1439, + "num_input_tokens_seen": 18881232, + "step": 9639 + }, + { + "epoch": 1.27766732935719, + "grad_norm": 3.8956868648529053, + "learning_rate": 3.0787600282531654e-06, + "loss": 0.1306, + "num_input_tokens_seen": 18883240, + "step": 9640 + }, + { + "epoch": 1.2777998674618953, + "grad_norm": 0.06579560786485672, + "learning_rate": 3.078422315714801e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18884744, + "step": 9641 + }, + { + "epoch": 1.2779324055666004, + "grad_norm": 10.839669227600098, + "learning_rate": 3.0780845920240564e-06, + "loss": 0.0438, + "num_input_tokens_seen": 18885856, + "step": 9642 + }, + { + "epoch": 1.2780649436713056, + "grad_norm": 9.453757286071777, + "learning_rate": 3.077746857187441e-06, + "loss": 0.2159, + "num_input_tokens_seen": 18887952, + "step": 9643 + }, + { + "epoch": 1.2781974817760107, + "grad_norm": 0.9112799763679504, + "learning_rate": 3.0774091112114678e-06, + "loss": 0.0061, + "num_input_tokens_seen": 18891152, + "step": 9644 + }, + { + "epoch": 1.2783300198807157, + "grad_norm": 6.867603778839111, + "learning_rate": 3.077071354102649e-06, + "loss": 0.0365, + "num_input_tokens_seen": 18892440, + "step": 9645 + }, + { + "epoch": 1.2784625579854207, + "grad_norm": 17.317108154296875, + "learning_rate": 3.0767335858674963e-06, + "loss": 0.2027, + "num_input_tokens_seen": 18894160, + "step": 9646 + }, + { + "epoch": 1.2785950960901258, + "grad_norm": 9.53577709197998, + "learning_rate": 3.076395806512522e-06, + "loss": 0.0504, + "num_input_tokens_seen": 18896944, + "step": 9647 + }, + { + "epoch": 1.278727634194831, + "grad_norm": 0.11195813119411469, + "learning_rate": 3.0760580160442387e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18898280, + "step": 9648 + }, + { + "epoch": 1.278860172299536, + "grad_norm": 6.44428825378418, + "learning_rate": 3.07572021446916e-06, + "loss": 0.028, + "num_input_tokens_seen": 18899912, + "step": 9649 + }, + { + "epoch": 1.2789927104042413, + "grad_norm": 11.092840194702148, + "learning_rate": 3.0753824017937984e-06, + "loss": 0.4394, + "num_input_tokens_seen": 18902328, + "step": 9650 + }, + { + "epoch": 1.2791252485089464, + "grad_norm": 6.483431339263916, + "learning_rate": 3.0750445780246664e-06, + "loss": 0.0824, + "num_input_tokens_seen": 18904040, + "step": 9651 + }, + { + "epoch": 1.2792577866136514, + "grad_norm": 11.363965034484863, + "learning_rate": 3.074706743168279e-06, + "loss": 0.2859, + "num_input_tokens_seen": 18906032, + "step": 9652 + }, + { + "epoch": 1.2793903247183565, + "grad_norm": 4.041637897491455, + "learning_rate": 3.074368897231148e-06, + "loss": 0.0186, + "num_input_tokens_seen": 18908048, + "step": 9653 + }, + { + "epoch": 1.2795228628230617, + "grad_norm": 5.013463973999023, + "learning_rate": 3.07403104021979e-06, + "loss": 0.0966, + "num_input_tokens_seen": 18910224, + "step": 9654 + }, + { + "epoch": 1.2796554009277668, + "grad_norm": 7.778846740722656, + "learning_rate": 3.0736931721407164e-06, + "loss": 0.0704, + "num_input_tokens_seen": 18911608, + "step": 9655 + }, + { + "epoch": 1.2797879390324718, + "grad_norm": 11.31035327911377, + "learning_rate": 3.073355293000443e-06, + "loss": 0.1528, + "num_input_tokens_seen": 18913808, + "step": 9656 + }, + { + "epoch": 1.279920477137177, + "grad_norm": 5.761524200439453, + "learning_rate": 3.073017402805485e-06, + "loss": 0.217, + "num_input_tokens_seen": 18915048, + "step": 9657 + }, + { + "epoch": 1.280053015241882, + "grad_norm": 13.522019386291504, + "learning_rate": 3.0726795015623544e-06, + "loss": 0.0805, + "num_input_tokens_seen": 18916408, + "step": 9658 + }, + { + "epoch": 1.2801855533465871, + "grad_norm": 0.06115204840898514, + "learning_rate": 3.0723415892775687e-06, + "loss": 0.0004, + "num_input_tokens_seen": 18917928, + "step": 9659 + }, + { + "epoch": 1.2803180914512922, + "grad_norm": 7.510279178619385, + "learning_rate": 3.0720036659576428e-06, + "loss": 0.2667, + "num_input_tokens_seen": 18919816, + "step": 9660 + }, + { + "epoch": 1.2804506295559974, + "grad_norm": 3.488945484161377, + "learning_rate": 3.0716657316090913e-06, + "loss": 0.0189, + "num_input_tokens_seen": 18922064, + "step": 9661 + }, + { + "epoch": 1.2805831676607025, + "grad_norm": 7.147156715393066, + "learning_rate": 3.07132778623843e-06, + "loss": 0.219, + "num_input_tokens_seen": 18924496, + "step": 9662 + }, + { + "epoch": 1.2807157057654075, + "grad_norm": 0.39212489128112793, + "learning_rate": 3.070989829852175e-06, + "loss": 0.0022, + "num_input_tokens_seen": 18926592, + "step": 9663 + }, + { + "epoch": 1.2808482438701128, + "grad_norm": 0.3600044846534729, + "learning_rate": 3.0706518624568423e-06, + "loss": 0.0024, + "num_input_tokens_seen": 18928384, + "step": 9664 + }, + { + "epoch": 1.2809807819748178, + "grad_norm": 3.4699389934539795, + "learning_rate": 3.0703138840589476e-06, + "loss": 0.0615, + "num_input_tokens_seen": 18929736, + "step": 9665 + }, + { + "epoch": 1.2811133200795228, + "grad_norm": 1.422703742980957, + "learning_rate": 3.0699758946650075e-06, + "loss": 0.0283, + "num_input_tokens_seen": 18931824, + "step": 9666 + }, + { + "epoch": 1.2812458581842279, + "grad_norm": 9.015321731567383, + "learning_rate": 3.0696378942815396e-06, + "loss": 0.2072, + "num_input_tokens_seen": 18934072, + "step": 9667 + }, + { + "epoch": 1.2813783962889331, + "grad_norm": 1.2301030158996582, + "learning_rate": 3.06929988291506e-06, + "loss": 0.0071, + "num_input_tokens_seen": 18936136, + "step": 9668 + }, + { + "epoch": 1.2815109343936382, + "grad_norm": 2.421050548553467, + "learning_rate": 3.068961860572086e-06, + "loss": 0.1029, + "num_input_tokens_seen": 18937984, + "step": 9669 + }, + { + "epoch": 1.2816434724983432, + "grad_norm": 3.3356924057006836, + "learning_rate": 3.0686238272591343e-06, + "loss": 0.103, + "num_input_tokens_seen": 18939936, + "step": 9670 + }, + { + "epoch": 1.2817760106030485, + "grad_norm": 0.303770512342453, + "learning_rate": 3.068285782982724e-06, + "loss": 0.0032, + "num_input_tokens_seen": 18942640, + "step": 9671 + }, + { + "epoch": 1.2819085487077535, + "grad_norm": 0.05068698897957802, + "learning_rate": 3.067947727749371e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18944192, + "step": 9672 + }, + { + "epoch": 1.2820410868124585, + "grad_norm": 1.897047996520996, + "learning_rate": 3.067609661565594e-06, + "loss": 0.014, + "num_input_tokens_seen": 18946448, + "step": 9673 + }, + { + "epoch": 1.2821736249171636, + "grad_norm": 4.392913341522217, + "learning_rate": 3.067271584437911e-06, + "loss": 0.0879, + "num_input_tokens_seen": 18949112, + "step": 9674 + }, + { + "epoch": 1.2823061630218688, + "grad_norm": 11.281965255737305, + "learning_rate": 3.066933496372841e-06, + "loss": 0.1542, + "num_input_tokens_seen": 18951128, + "step": 9675 + }, + { + "epoch": 1.2824387011265739, + "grad_norm": 8.32690715789795, + "learning_rate": 3.0665953973769014e-06, + "loss": 0.1778, + "num_input_tokens_seen": 18953696, + "step": 9676 + }, + { + "epoch": 1.282571239231279, + "grad_norm": 0.17295058071613312, + "learning_rate": 3.066257287456612e-06, + "loss": 0.0012, + "num_input_tokens_seen": 18955752, + "step": 9677 + }, + { + "epoch": 1.2827037773359842, + "grad_norm": 5.499164581298828, + "learning_rate": 3.0659191666184925e-06, + "loss": 0.1118, + "num_input_tokens_seen": 18957744, + "step": 9678 + }, + { + "epoch": 1.2828363154406892, + "grad_norm": 9.637052536010742, + "learning_rate": 3.0655810348690596e-06, + "loss": 0.1749, + "num_input_tokens_seen": 18959680, + "step": 9679 + }, + { + "epoch": 1.2829688535453942, + "grad_norm": 1.190090298652649, + "learning_rate": 3.0652428922148347e-06, + "loss": 0.0044, + "num_input_tokens_seen": 18961704, + "step": 9680 + }, + { + "epoch": 1.2831013916500993, + "grad_norm": 4.269988059997559, + "learning_rate": 3.064904738662337e-06, + "loss": 0.0298, + "num_input_tokens_seen": 18963216, + "step": 9681 + }, + { + "epoch": 1.2832339297548045, + "grad_norm": 14.536900520324707, + "learning_rate": 3.064566574218085e-06, + "loss": 0.2741, + "num_input_tokens_seen": 18965160, + "step": 9682 + }, + { + "epoch": 1.2833664678595096, + "grad_norm": 1.055992603302002, + "learning_rate": 3.0642283988886016e-06, + "loss": 0.0087, + "num_input_tokens_seen": 18966792, + "step": 9683 + }, + { + "epoch": 1.2834990059642148, + "grad_norm": 1.5844638347625732, + "learning_rate": 3.0638902126804055e-06, + "loss": 0.005, + "num_input_tokens_seen": 18968696, + "step": 9684 + }, + { + "epoch": 1.2836315440689199, + "grad_norm": 14.28619384765625, + "learning_rate": 3.063552015600016e-06, + "loss": 0.2204, + "num_input_tokens_seen": 18972160, + "step": 9685 + }, + { + "epoch": 1.283764082173625, + "grad_norm": 5.226593017578125, + "learning_rate": 3.063213807653956e-06, + "loss": 0.0535, + "num_input_tokens_seen": 18974488, + "step": 9686 + }, + { + "epoch": 1.28389662027833, + "grad_norm": 0.11245589703321457, + "learning_rate": 3.0628755888487443e-06, + "loss": 0.0008, + "num_input_tokens_seen": 18975800, + "step": 9687 + }, + { + "epoch": 1.284029158383035, + "grad_norm": 0.37782302498817444, + "learning_rate": 3.062537359190903e-06, + "loss": 0.0022, + "num_input_tokens_seen": 18976928, + "step": 9688 + }, + { + "epoch": 1.2841616964877403, + "grad_norm": 0.10434232652187347, + "learning_rate": 3.062199118686954e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18978832, + "step": 9689 + }, + { + "epoch": 1.2842942345924453, + "grad_norm": 0.05019907280802727, + "learning_rate": 3.0618608673434175e-06, + "loss": 0.0003, + "num_input_tokens_seen": 18980024, + "step": 9690 + }, + { + "epoch": 1.2844267726971506, + "grad_norm": 6.764538288116455, + "learning_rate": 3.0615226051668163e-06, + "loss": 0.054, + "num_input_tokens_seen": 18981576, + "step": 9691 + }, + { + "epoch": 1.2845593108018556, + "grad_norm": 1.1425418853759766, + "learning_rate": 3.0611843321636713e-06, + "loss": 0.0084, + "num_input_tokens_seen": 18983880, + "step": 9692 + }, + { + "epoch": 1.2846918489065606, + "grad_norm": 9.006121635437012, + "learning_rate": 3.060846048340506e-06, + "loss": 0.1607, + "num_input_tokens_seen": 18985688, + "step": 9693 + }, + { + "epoch": 1.2848243870112657, + "grad_norm": 15.304471969604492, + "learning_rate": 3.0605077537038414e-06, + "loss": 0.3334, + "num_input_tokens_seen": 18987224, + "step": 9694 + }, + { + "epoch": 1.2849569251159707, + "grad_norm": 0.15343420207500458, + "learning_rate": 3.0601694482602005e-06, + "loss": 0.0011, + "num_input_tokens_seen": 18989016, + "step": 9695 + }, + { + "epoch": 1.285089463220676, + "grad_norm": 0.07735420763492584, + "learning_rate": 3.0598311320161074e-06, + "loss": 0.0005, + "num_input_tokens_seen": 18991920, + "step": 9696 + }, + { + "epoch": 1.285222001325381, + "grad_norm": 0.11463579535484314, + "learning_rate": 3.059492804978082e-06, + "loss": 0.0007, + "num_input_tokens_seen": 18993224, + "step": 9697 + }, + { + "epoch": 1.2853545394300863, + "grad_norm": 2.7782106399536133, + "learning_rate": 3.0591544671526506e-06, + "loss": 0.0543, + "num_input_tokens_seen": 18995952, + "step": 9698 + }, + { + "epoch": 1.2854870775347913, + "grad_norm": 24.03133201599121, + "learning_rate": 3.058816118546336e-06, + "loss": 0.0932, + "num_input_tokens_seen": 18997688, + "step": 9699 + }, + { + "epoch": 1.2856196156394963, + "grad_norm": 4.620479583740234, + "learning_rate": 3.0584777591656597e-06, + "loss": 0.1028, + "num_input_tokens_seen": 18999640, + "step": 9700 + }, + { + "epoch": 1.2857521537442014, + "grad_norm": 1.369361400604248, + "learning_rate": 3.0581393890171474e-06, + "loss": 0.0095, + "num_input_tokens_seen": 19001096, + "step": 9701 + }, + { + "epoch": 1.2858846918489066, + "grad_norm": 0.0573832243680954, + "learning_rate": 3.0578010081073233e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19002376, + "step": 9702 + }, + { + "epoch": 1.2860172299536117, + "grad_norm": 0.1977907419204712, + "learning_rate": 3.0574626164427097e-06, + "loss": 0.0013, + "num_input_tokens_seen": 19004408, + "step": 9703 + }, + { + "epoch": 1.2861497680583167, + "grad_norm": 0.1418311893939972, + "learning_rate": 3.057124214029833e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19006584, + "step": 9704 + }, + { + "epoch": 1.286282306163022, + "grad_norm": 8.344600677490234, + "learning_rate": 3.056785800875217e-06, + "loss": 0.2985, + "num_input_tokens_seen": 19008944, + "step": 9705 + }, + { + "epoch": 1.286414844267727, + "grad_norm": 9.698260307312012, + "learning_rate": 3.0564473769853864e-06, + "loss": 0.1165, + "num_input_tokens_seen": 19010496, + "step": 9706 + }, + { + "epoch": 1.286547382372432, + "grad_norm": 0.5961040258407593, + "learning_rate": 3.0561089423668672e-06, + "loss": 0.0058, + "num_input_tokens_seen": 19012824, + "step": 9707 + }, + { + "epoch": 1.286679920477137, + "grad_norm": 0.0620257668197155, + "learning_rate": 3.0557704970261835e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19014912, + "step": 9708 + }, + { + "epoch": 1.2868124585818423, + "grad_norm": 6.489939212799072, + "learning_rate": 3.0554320409698614e-06, + "loss": 0.125, + "num_input_tokens_seen": 19017424, + "step": 9709 + }, + { + "epoch": 1.2869449966865474, + "grad_norm": 3.703885078430176, + "learning_rate": 3.055093574204426e-06, + "loss": 0.0591, + "num_input_tokens_seen": 19018928, + "step": 9710 + }, + { + "epoch": 1.2870775347912524, + "grad_norm": 8.148422241210938, + "learning_rate": 3.0547550967364042e-06, + "loss": 0.2213, + "num_input_tokens_seen": 19021288, + "step": 9711 + }, + { + "epoch": 1.2872100728959577, + "grad_norm": 5.139490604400635, + "learning_rate": 3.0544166085723207e-06, + "loss": 0.0953, + "num_input_tokens_seen": 19023688, + "step": 9712 + }, + { + "epoch": 1.2873426110006627, + "grad_norm": 7.265867233276367, + "learning_rate": 3.0540781097187026e-06, + "loss": 0.0757, + "num_input_tokens_seen": 19025512, + "step": 9713 + }, + { + "epoch": 1.2874751491053678, + "grad_norm": 6.572906970977783, + "learning_rate": 3.0537396001820767e-06, + "loss": 0.086, + "num_input_tokens_seen": 19027488, + "step": 9714 + }, + { + "epoch": 1.2876076872100728, + "grad_norm": 3.4964687824249268, + "learning_rate": 3.0534010799689693e-06, + "loss": 0.0346, + "num_input_tokens_seen": 19029256, + "step": 9715 + }, + { + "epoch": 1.287740225314778, + "grad_norm": 8.579503059387207, + "learning_rate": 3.0530625490859074e-06, + "loss": 0.1003, + "num_input_tokens_seen": 19030960, + "step": 9716 + }, + { + "epoch": 1.287872763419483, + "grad_norm": 11.344704627990723, + "learning_rate": 3.0527240075394176e-06, + "loss": 0.3999, + "num_input_tokens_seen": 19033696, + "step": 9717 + }, + { + "epoch": 1.2880053015241881, + "grad_norm": 2.4015750885009766, + "learning_rate": 3.0523854553360273e-06, + "loss": 0.0192, + "num_input_tokens_seen": 19036592, + "step": 9718 + }, + { + "epoch": 1.2881378396288934, + "grad_norm": 0.16041046380996704, + "learning_rate": 3.0520468924822654e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19039136, + "step": 9719 + }, + { + "epoch": 1.2882703777335984, + "grad_norm": 10.441962242126465, + "learning_rate": 3.0517083189846574e-06, + "loss": 0.3448, + "num_input_tokens_seen": 19041216, + "step": 9720 + }, + { + "epoch": 1.2884029158383035, + "grad_norm": 6.029481410980225, + "learning_rate": 3.0513697348497327e-06, + "loss": 0.1117, + "num_input_tokens_seen": 19043088, + "step": 9721 + }, + { + "epoch": 1.2885354539430085, + "grad_norm": 5.383876800537109, + "learning_rate": 3.05103114008402e-06, + "loss": 0.2055, + "num_input_tokens_seen": 19045800, + "step": 9722 + }, + { + "epoch": 1.2886679920477138, + "grad_norm": 2.778184652328491, + "learning_rate": 3.050692534694046e-06, + "loss": 0.0404, + "num_input_tokens_seen": 19048640, + "step": 9723 + }, + { + "epoch": 1.2888005301524188, + "grad_norm": 4.202306747436523, + "learning_rate": 3.0503539186863406e-06, + "loss": 0.0215, + "num_input_tokens_seen": 19049832, + "step": 9724 + }, + { + "epoch": 1.288933068257124, + "grad_norm": 0.6517506241798401, + "learning_rate": 3.050015292067432e-06, + "loss": 0.0041, + "num_input_tokens_seen": 19052056, + "step": 9725 + }, + { + "epoch": 1.289065606361829, + "grad_norm": 5.3916497230529785, + "learning_rate": 3.0496766548438485e-06, + "loss": 0.098, + "num_input_tokens_seen": 19053472, + "step": 9726 + }, + { + "epoch": 1.2891981444665341, + "grad_norm": 11.986101150512695, + "learning_rate": 3.04933800702212e-06, + "loss": 0.2834, + "num_input_tokens_seen": 19055784, + "step": 9727 + }, + { + "epoch": 1.2893306825712392, + "grad_norm": 11.522847175598145, + "learning_rate": 3.0489993486087767e-06, + "loss": 0.3434, + "num_input_tokens_seen": 19058800, + "step": 9728 + }, + { + "epoch": 1.2894632206759442, + "grad_norm": 0.9851899147033691, + "learning_rate": 3.0486606796103464e-06, + "loss": 0.004, + "num_input_tokens_seen": 19060760, + "step": 9729 + }, + { + "epoch": 1.2895957587806495, + "grad_norm": 16.994403839111328, + "learning_rate": 3.048322000033359e-06, + "loss": 0.4069, + "num_input_tokens_seen": 19063320, + "step": 9730 + }, + { + "epoch": 1.2897282968853545, + "grad_norm": 8.685630798339844, + "learning_rate": 3.047983309884346e-06, + "loss": 0.3634, + "num_input_tokens_seen": 19066168, + "step": 9731 + }, + { + "epoch": 1.2898608349900598, + "grad_norm": 6.574770450592041, + "learning_rate": 3.0476446091698362e-06, + "loss": 0.1284, + "num_input_tokens_seen": 19068872, + "step": 9732 + }, + { + "epoch": 1.2899933730947648, + "grad_norm": 8.515045166015625, + "learning_rate": 3.0473058978963617e-06, + "loss": 0.0441, + "num_input_tokens_seen": 19070184, + "step": 9733 + }, + { + "epoch": 1.2901259111994698, + "grad_norm": 0.9776235818862915, + "learning_rate": 3.0469671760704513e-06, + "loss": 0.0093, + "num_input_tokens_seen": 19072912, + "step": 9734 + }, + { + "epoch": 1.2902584493041749, + "grad_norm": 0.057561054825782776, + "learning_rate": 3.046628443698636e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19075448, + "step": 9735 + }, + { + "epoch": 1.29039098740888, + "grad_norm": 1.3620918989181519, + "learning_rate": 3.0462897007874474e-06, + "loss": 0.004, + "num_input_tokens_seen": 19077144, + "step": 9736 + }, + { + "epoch": 1.2905235255135852, + "grad_norm": 0.027444053441286087, + "learning_rate": 3.045950947343417e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19078768, + "step": 9737 + }, + { + "epoch": 1.2906560636182902, + "grad_norm": 0.15424036979675293, + "learning_rate": 3.045612183373075e-06, + "loss": 0.0012, + "num_input_tokens_seen": 19080176, + "step": 9738 + }, + { + "epoch": 1.2907886017229955, + "grad_norm": 1.8967140913009644, + "learning_rate": 3.0452734088829543e-06, + "loss": 0.0221, + "num_input_tokens_seen": 19082416, + "step": 9739 + }, + { + "epoch": 1.2909211398277005, + "grad_norm": 0.4022458791732788, + "learning_rate": 3.0449346238795863e-06, + "loss": 0.001, + "num_input_tokens_seen": 19084432, + "step": 9740 + }, + { + "epoch": 1.2910536779324056, + "grad_norm": 9.513527870178223, + "learning_rate": 3.044595828369502e-06, + "loss": 0.2238, + "num_input_tokens_seen": 19086632, + "step": 9741 + }, + { + "epoch": 1.2911862160371106, + "grad_norm": 0.009346122853457928, + "learning_rate": 3.044257022359235e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19088568, + "step": 9742 + }, + { + "epoch": 1.2913187541418158, + "grad_norm": 8.654743194580078, + "learning_rate": 3.0439182058553174e-06, + "loss": 0.1487, + "num_input_tokens_seen": 19090016, + "step": 9743 + }, + { + "epoch": 1.2914512922465209, + "grad_norm": 0.032451413571834564, + "learning_rate": 3.043579378864281e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19091512, + "step": 9744 + }, + { + "epoch": 1.291583830351226, + "grad_norm": 0.6726590991020203, + "learning_rate": 3.043240541392659e-06, + "loss": 0.0038, + "num_input_tokens_seen": 19092704, + "step": 9745 + }, + { + "epoch": 1.2917163684559312, + "grad_norm": 9.572498321533203, + "learning_rate": 3.042901693446985e-06, + "loss": 0.2451, + "num_input_tokens_seen": 19094112, + "step": 9746 + }, + { + "epoch": 1.2918489065606362, + "grad_norm": 1.6226102113723755, + "learning_rate": 3.042562835033791e-06, + "loss": 0.0285, + "num_input_tokens_seen": 19095568, + "step": 9747 + }, + { + "epoch": 1.2919814446653413, + "grad_norm": 0.0014707483351230621, + "learning_rate": 3.0422239661596125e-06, + "loss": 0.0, + "num_input_tokens_seen": 19096880, + "step": 9748 + }, + { + "epoch": 1.2921139827700463, + "grad_norm": 5.7448410987854, + "learning_rate": 3.041885086830981e-06, + "loss": 0.0808, + "num_input_tokens_seen": 19099416, + "step": 9749 + }, + { + "epoch": 1.2922465208747516, + "grad_norm": 0.007264920510351658, + "learning_rate": 3.041546197054432e-06, + "loss": 0.0, + "num_input_tokens_seen": 19101208, + "step": 9750 + }, + { + "epoch": 1.2923790589794566, + "grad_norm": 8.610037803649902, + "learning_rate": 3.041207296836498e-06, + "loss": 0.1357, + "num_input_tokens_seen": 19102752, + "step": 9751 + }, + { + "epoch": 1.2925115970841616, + "grad_norm": 0.007513558492064476, + "learning_rate": 3.0408683861837145e-06, + "loss": 0.0, + "num_input_tokens_seen": 19104248, + "step": 9752 + }, + { + "epoch": 1.292644135188867, + "grad_norm": 6.709893703460693, + "learning_rate": 3.040529465102615e-06, + "loss": 0.1889, + "num_input_tokens_seen": 19106992, + "step": 9753 + }, + { + "epoch": 1.292776673293572, + "grad_norm": 3.686472177505493, + "learning_rate": 3.0401905335997345e-06, + "loss": 0.0405, + "num_input_tokens_seen": 19109024, + "step": 9754 + }, + { + "epoch": 1.292909211398277, + "grad_norm": 6.466920375823975, + "learning_rate": 3.0398515916816084e-06, + "loss": 0.1192, + "num_input_tokens_seen": 19110824, + "step": 9755 + }, + { + "epoch": 1.293041749502982, + "grad_norm": 0.8524161577224731, + "learning_rate": 3.03951263935477e-06, + "loss": 0.0075, + "num_input_tokens_seen": 19112392, + "step": 9756 + }, + { + "epoch": 1.2931742876076873, + "grad_norm": 7.447122573852539, + "learning_rate": 3.039173676625757e-06, + "loss": 0.1172, + "num_input_tokens_seen": 19114104, + "step": 9757 + }, + { + "epoch": 1.2933068257123923, + "grad_norm": 0.43963733315467834, + "learning_rate": 3.0388347035011032e-06, + "loss": 0.0033, + "num_input_tokens_seen": 19115864, + "step": 9758 + }, + { + "epoch": 1.2934393638170973, + "grad_norm": 11.866196632385254, + "learning_rate": 3.0384957199873444e-06, + "loss": 0.4718, + "num_input_tokens_seen": 19118376, + "step": 9759 + }, + { + "epoch": 1.2935719019218026, + "grad_norm": 8.702754974365234, + "learning_rate": 3.0381567260910166e-06, + "loss": 0.1476, + "num_input_tokens_seen": 19120184, + "step": 9760 + }, + { + "epoch": 1.2937044400265076, + "grad_norm": 0.42992159724235535, + "learning_rate": 3.0378177218186563e-06, + "loss": 0.0016, + "num_input_tokens_seen": 19122200, + "step": 9761 + }, + { + "epoch": 1.2938369781312127, + "grad_norm": 0.4262789487838745, + "learning_rate": 3.037478707176798e-06, + "loss": 0.0051, + "num_input_tokens_seen": 19124112, + "step": 9762 + }, + { + "epoch": 1.2939695162359177, + "grad_norm": 5.587210655212402, + "learning_rate": 3.037139682171981e-06, + "loss": 0.0763, + "num_input_tokens_seen": 19125496, + "step": 9763 + }, + { + "epoch": 1.294102054340623, + "grad_norm": 0.03021675907075405, + "learning_rate": 3.0368006468107404e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19127088, + "step": 9764 + }, + { + "epoch": 1.294234592445328, + "grad_norm": 0.5387074947357178, + "learning_rate": 3.036461601099612e-06, + "loss": 0.0043, + "num_input_tokens_seen": 19128800, + "step": 9765 + }, + { + "epoch": 1.294367130550033, + "grad_norm": 6.314044952392578, + "learning_rate": 3.036122545045134e-06, + "loss": 0.0503, + "num_input_tokens_seen": 19130304, + "step": 9766 + }, + { + "epoch": 1.2944996686547383, + "grad_norm": 0.009839704260230064, + "learning_rate": 3.0357834786538436e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19132304, + "step": 9767 + }, + { + "epoch": 1.2946322067594433, + "grad_norm": 5.681088924407959, + "learning_rate": 3.035444401932278e-06, + "loss": 0.0668, + "num_input_tokens_seen": 19134952, + "step": 9768 + }, + { + "epoch": 1.2947647448641484, + "grad_norm": 8.596113204956055, + "learning_rate": 3.0351053148869756e-06, + "loss": 0.3042, + "num_input_tokens_seen": 19137120, + "step": 9769 + }, + { + "epoch": 1.2948972829688534, + "grad_norm": 5.423805236816406, + "learning_rate": 3.034766217524473e-06, + "loss": 0.0459, + "num_input_tokens_seen": 19139752, + "step": 9770 + }, + { + "epoch": 1.2950298210735587, + "grad_norm": 0.07241814583539963, + "learning_rate": 3.034427109851309e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19141200, + "step": 9771 + }, + { + "epoch": 1.2951623591782637, + "grad_norm": 6.751254081726074, + "learning_rate": 3.034087991874022e-06, + "loss": 0.0858, + "num_input_tokens_seen": 19142808, + "step": 9772 + }, + { + "epoch": 1.295294897282969, + "grad_norm": 0.022137442603707314, + "learning_rate": 3.033748863599149e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19144640, + "step": 9773 + }, + { + "epoch": 1.295427435387674, + "grad_norm": 4.193861961364746, + "learning_rate": 3.0334097250332304e-06, + "loss": 0.0648, + "num_input_tokens_seen": 19145880, + "step": 9774 + }, + { + "epoch": 1.295559973492379, + "grad_norm": 1.506089210510254, + "learning_rate": 3.0330705761828043e-06, + "loss": 0.015, + "num_input_tokens_seen": 19147416, + "step": 9775 + }, + { + "epoch": 1.295692511597084, + "grad_norm": 6.302011489868164, + "learning_rate": 3.0327314170544097e-06, + "loss": 0.1528, + "num_input_tokens_seen": 19149248, + "step": 9776 + }, + { + "epoch": 1.2958250497017891, + "grad_norm": 4.4645891189575195, + "learning_rate": 3.0323922476545857e-06, + "loss": 0.0173, + "num_input_tokens_seen": 19151176, + "step": 9777 + }, + { + "epoch": 1.2959575878064944, + "grad_norm": 4.286782741546631, + "learning_rate": 3.0320530679898726e-06, + "loss": 0.0584, + "num_input_tokens_seen": 19152776, + "step": 9778 + }, + { + "epoch": 1.2960901259111994, + "grad_norm": 0.015966463834047318, + "learning_rate": 3.0317138780668087e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19154480, + "step": 9779 + }, + { + "epoch": 1.2962226640159047, + "grad_norm": 0.7465761303901672, + "learning_rate": 3.031374677891934e-06, + "loss": 0.0067, + "num_input_tokens_seen": 19156432, + "step": 9780 + }, + { + "epoch": 1.2963552021206097, + "grad_norm": 0.001739933155477047, + "learning_rate": 3.0310354674717896e-06, + "loss": 0.0, + "num_input_tokens_seen": 19157576, + "step": 9781 + }, + { + "epoch": 1.2964877402253148, + "grad_norm": 8.151362419128418, + "learning_rate": 3.0306962468129155e-06, + "loss": 0.1103, + "num_input_tokens_seen": 19159896, + "step": 9782 + }, + { + "epoch": 1.2966202783300198, + "grad_norm": 2.6362977027893066, + "learning_rate": 3.0303570159218504e-06, + "loss": 0.0096, + "num_input_tokens_seen": 19161176, + "step": 9783 + }, + { + "epoch": 1.296752816434725, + "grad_norm": 6.76418399810791, + "learning_rate": 3.0300177748051375e-06, + "loss": 0.0477, + "num_input_tokens_seen": 19163296, + "step": 9784 + }, + { + "epoch": 1.29688535453943, + "grad_norm": 10.04101848602295, + "learning_rate": 3.029678523469315e-06, + "loss": 0.0837, + "num_input_tokens_seen": 19165160, + "step": 9785 + }, + { + "epoch": 1.2970178926441351, + "grad_norm": 5.181935787200928, + "learning_rate": 3.0293392619209255e-06, + "loss": 0.1267, + "num_input_tokens_seen": 19166928, + "step": 9786 + }, + { + "epoch": 1.2971504307488404, + "grad_norm": 5.8313517570495605, + "learning_rate": 3.028999990166511e-06, + "loss": 0.1437, + "num_input_tokens_seen": 19169112, + "step": 9787 + }, + { + "epoch": 1.2972829688535454, + "grad_norm": 1.919809103012085, + "learning_rate": 3.02866070821261e-06, + "loss": 0.0592, + "num_input_tokens_seen": 19170792, + "step": 9788 + }, + { + "epoch": 1.2974155069582505, + "grad_norm": 0.005080838687717915, + "learning_rate": 3.0283214160657667e-06, + "loss": 0.0, + "num_input_tokens_seen": 19172944, + "step": 9789 + }, + { + "epoch": 1.2975480450629555, + "grad_norm": 0.003783055581152439, + "learning_rate": 3.027982113732522e-06, + "loss": 0.0, + "num_input_tokens_seen": 19174096, + "step": 9790 + }, + { + "epoch": 1.2976805831676608, + "grad_norm": 0.07809297740459442, + "learning_rate": 3.027642801219418e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19176376, + "step": 9791 + }, + { + "epoch": 1.2978131212723658, + "grad_norm": 10.713796615600586, + "learning_rate": 3.027303478532997e-06, + "loss": 0.2463, + "num_input_tokens_seen": 19177704, + "step": 9792 + }, + { + "epoch": 1.2979456593770708, + "grad_norm": 12.298617362976074, + "learning_rate": 3.0269641456798005e-06, + "loss": 0.2499, + "num_input_tokens_seen": 19179160, + "step": 9793 + }, + { + "epoch": 1.298078197481776, + "grad_norm": 5.390293121337891, + "learning_rate": 3.0266248026663726e-06, + "loss": 0.024, + "num_input_tokens_seen": 19181440, + "step": 9794 + }, + { + "epoch": 1.2982107355864811, + "grad_norm": 0.0240275077521801, + "learning_rate": 3.0262854494992545e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19183184, + "step": 9795 + }, + { + "epoch": 1.2983432736911862, + "grad_norm": 1.6278728246688843, + "learning_rate": 3.0259460861849897e-06, + "loss": 0.0143, + "num_input_tokens_seen": 19184512, + "step": 9796 + }, + { + "epoch": 1.2984758117958912, + "grad_norm": 0.0202358178794384, + "learning_rate": 3.0256067127301226e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19185992, + "step": 9797 + }, + { + "epoch": 1.2986083499005965, + "grad_norm": 19.848304748535156, + "learning_rate": 3.0252673291411945e-06, + "loss": 0.6341, + "num_input_tokens_seen": 19188224, + "step": 9798 + }, + { + "epoch": 1.2987408880053015, + "grad_norm": 8.365300178527832, + "learning_rate": 3.0249279354247496e-06, + "loss": 0.2167, + "num_input_tokens_seen": 19190544, + "step": 9799 + }, + { + "epoch": 1.2988734261100066, + "grad_norm": 9.824725151062012, + "learning_rate": 3.0245885315873325e-06, + "loss": 0.1355, + "num_input_tokens_seen": 19192104, + "step": 9800 + }, + { + "epoch": 1.2990059642147118, + "grad_norm": 0.034354858100414276, + "learning_rate": 3.0242491176354864e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19194248, + "step": 9801 + }, + { + "epoch": 1.2991385023194169, + "grad_norm": 9.92458438873291, + "learning_rate": 3.0239096935757565e-06, + "loss": 0.3343, + "num_input_tokens_seen": 19196240, + "step": 9802 + }, + { + "epoch": 1.299271040424122, + "grad_norm": 14.954906463623047, + "learning_rate": 3.0235702594146853e-06, + "loss": 0.3673, + "num_input_tokens_seen": 19198504, + "step": 9803 + }, + { + "epoch": 1.299403578528827, + "grad_norm": 14.225966453552246, + "learning_rate": 3.0232308151588193e-06, + "loss": 0.1318, + "num_input_tokens_seen": 19200576, + "step": 9804 + }, + { + "epoch": 1.2995361166335322, + "grad_norm": 1.6429986953735352, + "learning_rate": 3.0228913608147016e-06, + "loss": 0.0237, + "num_input_tokens_seen": 19202320, + "step": 9805 + }, + { + "epoch": 1.2996686547382372, + "grad_norm": 9.938350677490234, + "learning_rate": 3.022551896388878e-06, + "loss": 0.142, + "num_input_tokens_seen": 19204224, + "step": 9806 + }, + { + "epoch": 1.2998011928429423, + "grad_norm": 2.1648783683776855, + "learning_rate": 3.022212421887893e-06, + "loss": 0.0405, + "num_input_tokens_seen": 19205920, + "step": 9807 + }, + { + "epoch": 1.2999337309476475, + "grad_norm": 6.9877848625183105, + "learning_rate": 3.0218729373182928e-06, + "loss": 0.0493, + "num_input_tokens_seen": 19207520, + "step": 9808 + }, + { + "epoch": 1.3000662690523526, + "grad_norm": 3.8207414150238037, + "learning_rate": 3.0215334426866216e-06, + "loss": 0.0627, + "num_input_tokens_seen": 19210160, + "step": 9809 + }, + { + "epoch": 1.3001988071570576, + "grad_norm": 4.377755641937256, + "learning_rate": 3.021193937999426e-06, + "loss": 0.081, + "num_input_tokens_seen": 19212376, + "step": 9810 + }, + { + "epoch": 1.3003313452617626, + "grad_norm": 1.4650959968566895, + "learning_rate": 3.020854423263252e-06, + "loss": 0.0067, + "num_input_tokens_seen": 19213720, + "step": 9811 + }, + { + "epoch": 1.300463883366468, + "grad_norm": 0.027493711560964584, + "learning_rate": 3.020514898484645e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19215000, + "step": 9812 + }, + { + "epoch": 1.300596421471173, + "grad_norm": 5.769961357116699, + "learning_rate": 3.0201753636701526e-06, + "loss": 0.1003, + "num_input_tokens_seen": 19217016, + "step": 9813 + }, + { + "epoch": 1.3007289595758782, + "grad_norm": 0.008449739776551723, + "learning_rate": 3.019835818826319e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19218176, + "step": 9814 + }, + { + "epoch": 1.3008614976805832, + "grad_norm": 17.199377059936523, + "learning_rate": 3.019496263959693e-06, + "loss": 0.4646, + "num_input_tokens_seen": 19220096, + "step": 9815 + }, + { + "epoch": 1.3009940357852883, + "grad_norm": 2.3080921173095703, + "learning_rate": 3.0191566990768208e-06, + "loss": 0.0057, + "num_input_tokens_seen": 19221472, + "step": 9816 + }, + { + "epoch": 1.3011265738899933, + "grad_norm": 11.911713600158691, + "learning_rate": 3.018817124184249e-06, + "loss": 0.3617, + "num_input_tokens_seen": 19223864, + "step": 9817 + }, + { + "epoch": 1.3012591119946983, + "grad_norm": 0.09361158311367035, + "learning_rate": 3.018477539288525e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19226104, + "step": 9818 + }, + { + "epoch": 1.3013916500994036, + "grad_norm": 6.93593692779541, + "learning_rate": 3.0181379443961966e-06, + "loss": 0.265, + "num_input_tokens_seen": 19227640, + "step": 9819 + }, + { + "epoch": 1.3015241882041086, + "grad_norm": 17.24040412902832, + "learning_rate": 3.017798339513811e-06, + "loss": 0.4593, + "num_input_tokens_seen": 19229544, + "step": 9820 + }, + { + "epoch": 1.301656726308814, + "grad_norm": 9.467525482177734, + "learning_rate": 3.0174587246479164e-06, + "loss": 0.09, + "num_input_tokens_seen": 19232400, + "step": 9821 + }, + { + "epoch": 1.301789264413519, + "grad_norm": 5.386353969573975, + "learning_rate": 3.01711909980506e-06, + "loss": 0.0509, + "num_input_tokens_seen": 19234456, + "step": 9822 + }, + { + "epoch": 1.301921802518224, + "grad_norm": 6.4422502517700195, + "learning_rate": 3.016779464991792e-06, + "loss": 0.034, + "num_input_tokens_seen": 19236600, + "step": 9823 + }, + { + "epoch": 1.302054340622929, + "grad_norm": 4.175759315490723, + "learning_rate": 3.016439820214658e-06, + "loss": 0.0688, + "num_input_tokens_seen": 19238312, + "step": 9824 + }, + { + "epoch": 1.302186878727634, + "grad_norm": 7.012655258178711, + "learning_rate": 3.016100165480209e-06, + "loss": 0.1636, + "num_input_tokens_seen": 19239888, + "step": 9825 + }, + { + "epoch": 1.3023194168323393, + "grad_norm": 5.514277458190918, + "learning_rate": 3.0157605007949924e-06, + "loss": 0.1272, + "num_input_tokens_seen": 19241992, + "step": 9826 + }, + { + "epoch": 1.3024519549370444, + "grad_norm": 0.4687544107437134, + "learning_rate": 3.015420826165557e-06, + "loss": 0.003, + "num_input_tokens_seen": 19244456, + "step": 9827 + }, + { + "epoch": 1.3025844930417496, + "grad_norm": 0.036308739334344864, + "learning_rate": 3.015081141598453e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19245712, + "step": 9828 + }, + { + "epoch": 1.3027170311464547, + "grad_norm": 2.2799830436706543, + "learning_rate": 3.01474144710023e-06, + "loss": 0.0127, + "num_input_tokens_seen": 19247600, + "step": 9829 + }, + { + "epoch": 1.3028495692511597, + "grad_norm": 9.877415657043457, + "learning_rate": 3.0144017426774354e-06, + "loss": 0.1175, + "num_input_tokens_seen": 19249248, + "step": 9830 + }, + { + "epoch": 1.3029821073558647, + "grad_norm": 7.919954299926758, + "learning_rate": 3.014062028336621e-06, + "loss": 0.1845, + "num_input_tokens_seen": 19251224, + "step": 9831 + }, + { + "epoch": 1.30311464546057, + "grad_norm": 0.11104398220777512, + "learning_rate": 3.013722304084336e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19252952, + "step": 9832 + }, + { + "epoch": 1.303247183565275, + "grad_norm": 9.88637638092041, + "learning_rate": 3.013382569927131e-06, + "loss": 0.1996, + "num_input_tokens_seen": 19255336, + "step": 9833 + }, + { + "epoch": 1.30337972166998, + "grad_norm": 0.5427951812744141, + "learning_rate": 3.0130428258715554e-06, + "loss": 0.0029, + "num_input_tokens_seen": 19257272, + "step": 9834 + }, + { + "epoch": 1.3035122597746853, + "grad_norm": 5.192131042480469, + "learning_rate": 3.01270307192416e-06, + "loss": 0.0446, + "num_input_tokens_seen": 19258992, + "step": 9835 + }, + { + "epoch": 1.3036447978793904, + "grad_norm": 1.0832217931747437, + "learning_rate": 3.012363308091496e-06, + "loss": 0.013, + "num_input_tokens_seen": 19261192, + "step": 9836 + }, + { + "epoch": 1.3037773359840954, + "grad_norm": 6.979450225830078, + "learning_rate": 3.0120235343801134e-06, + "loss": 0.1944, + "num_input_tokens_seen": 19263304, + "step": 9837 + }, + { + "epoch": 1.3039098740888004, + "grad_norm": 10.192964553833008, + "learning_rate": 3.011683750796565e-06, + "loss": 0.0874, + "num_input_tokens_seen": 19265384, + "step": 9838 + }, + { + "epoch": 1.3040424121935057, + "grad_norm": 5.590973854064941, + "learning_rate": 3.0113439573474e-06, + "loss": 0.0855, + "num_input_tokens_seen": 19266952, + "step": 9839 + }, + { + "epoch": 1.3041749502982107, + "grad_norm": 0.09927178174257278, + "learning_rate": 3.011004154039171e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19268936, + "step": 9840 + }, + { + "epoch": 1.3043074884029158, + "grad_norm": 0.2859851121902466, + "learning_rate": 3.0106643408784296e-06, + "loss": 0.0019, + "num_input_tokens_seen": 19270376, + "step": 9841 + }, + { + "epoch": 1.304440026507621, + "grad_norm": 0.03660707548260689, + "learning_rate": 3.010324517871727e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19272264, + "step": 9842 + }, + { + "epoch": 1.304572564612326, + "grad_norm": 5.459381103515625, + "learning_rate": 3.0099846850256158e-06, + "loss": 0.1462, + "num_input_tokens_seen": 19273776, + "step": 9843 + }, + { + "epoch": 1.304705102717031, + "grad_norm": 3.6920478343963623, + "learning_rate": 3.0096448423466484e-06, + "loss": 0.0593, + "num_input_tokens_seen": 19275632, + "step": 9844 + }, + { + "epoch": 1.3048376408217361, + "grad_norm": 6.117527484893799, + "learning_rate": 3.0093049898413764e-06, + "loss": 0.133, + "num_input_tokens_seen": 19277744, + "step": 9845 + }, + { + "epoch": 1.3049701789264414, + "grad_norm": 9.444272994995117, + "learning_rate": 3.0089651275163527e-06, + "loss": 0.2615, + "num_input_tokens_seen": 19280008, + "step": 9846 + }, + { + "epoch": 1.3051027170311464, + "grad_norm": 0.09730510413646698, + "learning_rate": 3.008625255378131e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19283968, + "step": 9847 + }, + { + "epoch": 1.3052352551358515, + "grad_norm": 2.9203476905822754, + "learning_rate": 3.0082853734332623e-06, + "loss": 0.0292, + "num_input_tokens_seen": 19285960, + "step": 9848 + }, + { + "epoch": 1.3053677932405567, + "grad_norm": 8.503900527954102, + "learning_rate": 3.007945481688302e-06, + "loss": 0.0424, + "num_input_tokens_seen": 19287664, + "step": 9849 + }, + { + "epoch": 1.3055003313452618, + "grad_norm": 0.029379185289144516, + "learning_rate": 3.007605580149802e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19288784, + "step": 9850 + }, + { + "epoch": 1.3056328694499668, + "grad_norm": 0.14543849229812622, + "learning_rate": 3.0072656688243163e-06, + "loss": 0.001, + "num_input_tokens_seen": 19290376, + "step": 9851 + }, + { + "epoch": 1.3057654075546719, + "grad_norm": 10.279061317443848, + "learning_rate": 3.006925747718399e-06, + "loss": 0.2745, + "num_input_tokens_seen": 19292744, + "step": 9852 + }, + { + "epoch": 1.3058979456593771, + "grad_norm": 0.08319159597158432, + "learning_rate": 3.0065858168386024e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19294872, + "step": 9853 + }, + { + "epoch": 1.3060304837640822, + "grad_norm": 0.12819544970989227, + "learning_rate": 3.0062458761914825e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19296960, + "step": 9854 + }, + { + "epoch": 1.3061630218687874, + "grad_norm": 11.408480644226074, + "learning_rate": 3.0059059257835932e-06, + "loss": 0.1457, + "num_input_tokens_seen": 19299432, + "step": 9855 + }, + { + "epoch": 1.3062955599734924, + "grad_norm": 0.02459358051419258, + "learning_rate": 3.005565965621488e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19301840, + "step": 9856 + }, + { + "epoch": 1.3064280980781975, + "grad_norm": 1.7044261693954468, + "learning_rate": 3.0052259957117224e-06, + "loss": 0.0068, + "num_input_tokens_seen": 19303912, + "step": 9857 + }, + { + "epoch": 1.3065606361829025, + "grad_norm": 1.4778809547424316, + "learning_rate": 3.004886016060851e-06, + "loss": 0.0051, + "num_input_tokens_seen": 19306296, + "step": 9858 + }, + { + "epoch": 1.3066931742876076, + "grad_norm": 0.26052358746528625, + "learning_rate": 3.0045460266754297e-06, + "loss": 0.0018, + "num_input_tokens_seen": 19308760, + "step": 9859 + }, + { + "epoch": 1.3068257123923128, + "grad_norm": 1.9929078817367554, + "learning_rate": 3.004206027562012e-06, + "loss": 0.0193, + "num_input_tokens_seen": 19310160, + "step": 9860 + }, + { + "epoch": 1.3069582504970179, + "grad_norm": 11.843964576721191, + "learning_rate": 3.0038660187271544e-06, + "loss": 0.194, + "num_input_tokens_seen": 19312264, + "step": 9861 + }, + { + "epoch": 1.3070907886017231, + "grad_norm": 4.158558368682861, + "learning_rate": 3.003526000177413e-06, + "loss": 0.1654, + "num_input_tokens_seen": 19313984, + "step": 9862 + }, + { + "epoch": 1.3072233267064282, + "grad_norm": 8.47726821899414, + "learning_rate": 3.003185971919342e-06, + "loss": 0.0835, + "num_input_tokens_seen": 19316104, + "step": 9863 + }, + { + "epoch": 1.3073558648111332, + "grad_norm": 2.9485225677490234, + "learning_rate": 3.002845933959499e-06, + "loss": 0.0382, + "num_input_tokens_seen": 19318456, + "step": 9864 + }, + { + "epoch": 1.3074884029158382, + "grad_norm": 6.460711479187012, + "learning_rate": 3.0025058863044393e-06, + "loss": 0.1015, + "num_input_tokens_seen": 19320120, + "step": 9865 + }, + { + "epoch": 1.3076209410205433, + "grad_norm": 0.013843146152794361, + "learning_rate": 3.002165828960719e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19321560, + "step": 9866 + }, + { + "epoch": 1.3077534791252485, + "grad_norm": 0.05526039004325867, + "learning_rate": 3.001825761934896e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19323168, + "step": 9867 + }, + { + "epoch": 1.3078860172299536, + "grad_norm": 12.874618530273438, + "learning_rate": 3.0014856852335257e-06, + "loss": 0.295, + "num_input_tokens_seen": 19324872, + "step": 9868 + }, + { + "epoch": 1.3080185553346588, + "grad_norm": 6.637728214263916, + "learning_rate": 3.0011455988631655e-06, + "loss": 0.1222, + "num_input_tokens_seen": 19326584, + "step": 9869 + }, + { + "epoch": 1.3081510934393639, + "grad_norm": 8.515054702758789, + "learning_rate": 3.000805502830373e-06, + "loss": 0.2351, + "num_input_tokens_seen": 19327912, + "step": 9870 + }, + { + "epoch": 1.308283631544069, + "grad_norm": 1.5021626949310303, + "learning_rate": 3.0004653971417036e-06, + "loss": 0.0204, + "num_input_tokens_seen": 19330776, + "step": 9871 + }, + { + "epoch": 1.308416169648774, + "grad_norm": 4.543746471405029, + "learning_rate": 3.000125281803717e-06, + "loss": 0.0919, + "num_input_tokens_seen": 19332592, + "step": 9872 + }, + { + "epoch": 1.3085487077534792, + "grad_norm": 0.030060553923249245, + "learning_rate": 2.9997851568229696e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19334168, + "step": 9873 + }, + { + "epoch": 1.3086812458581842, + "grad_norm": 0.027817172929644585, + "learning_rate": 2.9994450222060197e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19335672, + "step": 9874 + }, + { + "epoch": 1.3088137839628893, + "grad_norm": 7.033565998077393, + "learning_rate": 2.999104877959425e-06, + "loss": 0.0675, + "num_input_tokens_seen": 19338176, + "step": 9875 + }, + { + "epoch": 1.3089463220675945, + "grad_norm": 9.003929138183594, + "learning_rate": 2.998764724089744e-06, + "loss": 0.0813, + "num_input_tokens_seen": 19340744, + "step": 9876 + }, + { + "epoch": 1.3090788601722996, + "grad_norm": 6.206470966339111, + "learning_rate": 2.9984245606035356e-06, + "loss": 0.1508, + "num_input_tokens_seen": 19342720, + "step": 9877 + }, + { + "epoch": 1.3092113982770046, + "grad_norm": 12.467761993408203, + "learning_rate": 2.9980843875073574e-06, + "loss": 0.5515, + "num_input_tokens_seen": 19344968, + "step": 9878 + }, + { + "epoch": 1.3093439363817096, + "grad_norm": 1.3949103355407715, + "learning_rate": 2.9977442048077683e-06, + "loss": 0.0243, + "num_input_tokens_seen": 19346704, + "step": 9879 + }, + { + "epoch": 1.309476474486415, + "grad_norm": 3.690950393676758, + "learning_rate": 2.997404012511328e-06, + "loss": 0.0703, + "num_input_tokens_seen": 19349408, + "step": 9880 + }, + { + "epoch": 1.30960901259112, + "grad_norm": 0.09674520045518875, + "learning_rate": 2.9970638106245948e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19351288, + "step": 9881 + }, + { + "epoch": 1.309741550695825, + "grad_norm": 0.07682705670595169, + "learning_rate": 2.996723599154129e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19352824, + "step": 9882 + }, + { + "epoch": 1.3098740888005302, + "grad_norm": 5.513399124145508, + "learning_rate": 2.996383378106489e-06, + "loss": 0.0777, + "num_input_tokens_seen": 19354712, + "step": 9883 + }, + { + "epoch": 1.3100066269052353, + "grad_norm": 1.9033175706863403, + "learning_rate": 2.996043147488235e-06, + "loss": 0.0151, + "num_input_tokens_seen": 19356320, + "step": 9884 + }, + { + "epoch": 1.3101391650099403, + "grad_norm": 3.78482985496521, + "learning_rate": 2.9957029073059276e-06, + "loss": 0.0409, + "num_input_tokens_seen": 19357976, + "step": 9885 + }, + { + "epoch": 1.3102717031146454, + "grad_norm": 3.719390392303467, + "learning_rate": 2.9953626575661256e-06, + "loss": 0.0718, + "num_input_tokens_seen": 19359320, + "step": 9886 + }, + { + "epoch": 1.3104042412193506, + "grad_norm": 0.04501882568001747, + "learning_rate": 2.99502239827539e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19360400, + "step": 9887 + }, + { + "epoch": 1.3105367793240557, + "grad_norm": 0.3203045427799225, + "learning_rate": 2.994682129440281e-06, + "loss": 0.0022, + "num_input_tokens_seen": 19362040, + "step": 9888 + }, + { + "epoch": 1.3106693174287607, + "grad_norm": 11.09875774383545, + "learning_rate": 2.9943418510673596e-06, + "loss": 0.0881, + "num_input_tokens_seen": 19363776, + "step": 9889 + }, + { + "epoch": 1.310801855533466, + "grad_norm": 6.155569076538086, + "learning_rate": 2.994001563163186e-06, + "loss": 0.1444, + "num_input_tokens_seen": 19366320, + "step": 9890 + }, + { + "epoch": 1.310934393638171, + "grad_norm": 10.54354476928711, + "learning_rate": 2.993661265734322e-06, + "loss": 0.2677, + "num_input_tokens_seen": 19369352, + "step": 9891 + }, + { + "epoch": 1.311066931742876, + "grad_norm": 0.06393119692802429, + "learning_rate": 2.9933209587873262e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19371144, + "step": 9892 + }, + { + "epoch": 1.311199469847581, + "grad_norm": 5.1202497482299805, + "learning_rate": 2.9929806423287642e-06, + "loss": 0.0561, + "num_input_tokens_seen": 19373000, + "step": 9893 + }, + { + "epoch": 1.3113320079522863, + "grad_norm": 6.305868148803711, + "learning_rate": 2.9926403163651945e-06, + "loss": 0.088, + "num_input_tokens_seen": 19375560, + "step": 9894 + }, + { + "epoch": 1.3114645460569914, + "grad_norm": 1.9412078857421875, + "learning_rate": 2.9922999809031794e-06, + "loss": 0.0058, + "num_input_tokens_seen": 19377480, + "step": 9895 + }, + { + "epoch": 1.3115970841616966, + "grad_norm": 0.5885036587715149, + "learning_rate": 2.991959635949282e-06, + "loss": 0.003, + "num_input_tokens_seen": 19378896, + "step": 9896 + }, + { + "epoch": 1.3117296222664017, + "grad_norm": 1.7329483032226562, + "learning_rate": 2.9916192815100627e-06, + "loss": 0.0129, + "num_input_tokens_seen": 19380840, + "step": 9897 + }, + { + "epoch": 1.3118621603711067, + "grad_norm": 4.214051723480225, + "learning_rate": 2.991278917592084e-06, + "loss": 0.0342, + "num_input_tokens_seen": 19382736, + "step": 9898 + }, + { + "epoch": 1.3119946984758117, + "grad_norm": 5.996362686157227, + "learning_rate": 2.9909385442019103e-06, + "loss": 0.0285, + "num_input_tokens_seen": 19384088, + "step": 9899 + }, + { + "epoch": 1.3121272365805168, + "grad_norm": 0.09559997916221619, + "learning_rate": 2.990598161346102e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19385512, + "step": 9900 + }, + { + "epoch": 1.312259774685222, + "grad_norm": 11.439251899719238, + "learning_rate": 2.9902577690312225e-06, + "loss": 0.1754, + "num_input_tokens_seen": 19387464, + "step": 9901 + }, + { + "epoch": 1.312392312789927, + "grad_norm": 2.9319746494293213, + "learning_rate": 2.989917367263835e-06, + "loss": 0.0303, + "num_input_tokens_seen": 19388720, + "step": 9902 + }, + { + "epoch": 1.3125248508946323, + "grad_norm": 0.18789204955101013, + "learning_rate": 2.9895769560505035e-06, + "loss": 0.001, + "num_input_tokens_seen": 19390000, + "step": 9903 + }, + { + "epoch": 1.3126573889993374, + "grad_norm": 0.12220821529626846, + "learning_rate": 2.9892365353977897e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19392088, + "step": 9904 + }, + { + "epoch": 1.3127899271040424, + "grad_norm": 0.9044216275215149, + "learning_rate": 2.988896105312258e-06, + "loss": 0.0071, + "num_input_tokens_seen": 19393688, + "step": 9905 + }, + { + "epoch": 1.3129224652087474, + "grad_norm": 0.021063951775431633, + "learning_rate": 2.988555665800473e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19395160, + "step": 9906 + }, + { + "epoch": 1.3130550033134525, + "grad_norm": 3.0281379222869873, + "learning_rate": 2.988215216868996e-06, + "loss": 0.0902, + "num_input_tokens_seen": 19397376, + "step": 9907 + }, + { + "epoch": 1.3131875414181577, + "grad_norm": 9.167708396911621, + "learning_rate": 2.9878747585243946e-06, + "loss": 0.1647, + "num_input_tokens_seen": 19399832, + "step": 9908 + }, + { + "epoch": 1.3133200795228628, + "grad_norm": 13.564544677734375, + "learning_rate": 2.987534290773231e-06, + "loss": 0.3183, + "num_input_tokens_seen": 19402544, + "step": 9909 + }, + { + "epoch": 1.313452617627568, + "grad_norm": 7.019082546234131, + "learning_rate": 2.9871938136220685e-06, + "loss": 0.0335, + "num_input_tokens_seen": 19404488, + "step": 9910 + }, + { + "epoch": 1.313585155732273, + "grad_norm": 5.595988750457764, + "learning_rate": 2.9868533270774746e-06, + "loss": 0.058, + "num_input_tokens_seen": 19406480, + "step": 9911 + }, + { + "epoch": 1.3137176938369781, + "grad_norm": 4.800780773162842, + "learning_rate": 2.986512831146012e-06, + "loss": 0.065, + "num_input_tokens_seen": 19408312, + "step": 9912 + }, + { + "epoch": 1.3138502319416832, + "grad_norm": 14.699591636657715, + "learning_rate": 2.9861723258342467e-06, + "loss": 0.2819, + "num_input_tokens_seen": 19410192, + "step": 9913 + }, + { + "epoch": 1.3139827700463884, + "grad_norm": 1.0004544258117676, + "learning_rate": 2.985831811148744e-06, + "loss": 0.0099, + "num_input_tokens_seen": 19411896, + "step": 9914 + }, + { + "epoch": 1.3141153081510935, + "grad_norm": 0.03511684015393257, + "learning_rate": 2.985491287096068e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19413936, + "step": 9915 + }, + { + "epoch": 1.3142478462557985, + "grad_norm": 12.71423625946045, + "learning_rate": 2.985150753682785e-06, + "loss": 0.3427, + "num_input_tokens_seen": 19415792, + "step": 9916 + }, + { + "epoch": 1.3143803843605038, + "grad_norm": 7.258702278137207, + "learning_rate": 2.984810210915462e-06, + "loss": 0.1446, + "num_input_tokens_seen": 19418208, + "step": 9917 + }, + { + "epoch": 1.3145129224652088, + "grad_norm": 0.0269358828663826, + "learning_rate": 2.9844696588006628e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19419544, + "step": 9918 + }, + { + "epoch": 1.3146454605699138, + "grad_norm": 6.48532772064209, + "learning_rate": 2.9841290973449537e-06, + "loss": 0.1476, + "num_input_tokens_seen": 19421184, + "step": 9919 + }, + { + "epoch": 1.3147779986746189, + "grad_norm": 0.021829042583703995, + "learning_rate": 2.9837885265549025e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19422496, + "step": 9920 + }, + { + "epoch": 1.3149105367793241, + "grad_norm": 0.016613634303212166, + "learning_rate": 2.9834479464370747e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19423944, + "step": 9921 + }, + { + "epoch": 1.3150430748840292, + "grad_norm": 0.11919800937175751, + "learning_rate": 2.9831073569980368e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19425616, + "step": 9922 + }, + { + "epoch": 1.3151756129887342, + "grad_norm": 0.034875400364398956, + "learning_rate": 2.982766758244356e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19426784, + "step": 9923 + }, + { + "epoch": 1.3153081510934395, + "grad_norm": 7.285836219787598, + "learning_rate": 2.982426150182599e-06, + "loss": 0.1458, + "num_input_tokens_seen": 19428256, + "step": 9924 + }, + { + "epoch": 1.3154406891981445, + "grad_norm": 1.549041748046875, + "learning_rate": 2.9820855328193327e-06, + "loss": 0.0093, + "num_input_tokens_seen": 19429824, + "step": 9925 + }, + { + "epoch": 1.3155732273028495, + "grad_norm": 0.04375510290265083, + "learning_rate": 2.9817449061611254e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19431720, + "step": 9926 + }, + { + "epoch": 1.3157057654075546, + "grad_norm": 11.506336212158203, + "learning_rate": 2.9814042702145437e-06, + "loss": 0.2946, + "num_input_tokens_seen": 19434008, + "step": 9927 + }, + { + "epoch": 1.3158383035122598, + "grad_norm": 15.159743309020996, + "learning_rate": 2.9810636249861546e-06, + "loss": 0.5215, + "num_input_tokens_seen": 19436192, + "step": 9928 + }, + { + "epoch": 1.3159708416169649, + "grad_norm": 2.542710065841675, + "learning_rate": 2.980722970482528e-06, + "loss": 0.0068, + "num_input_tokens_seen": 19438424, + "step": 9929 + }, + { + "epoch": 1.31610337972167, + "grad_norm": 8.891913414001465, + "learning_rate": 2.9803823067102306e-06, + "loss": 0.2336, + "num_input_tokens_seen": 19441464, + "step": 9930 + }, + { + "epoch": 1.3162359178263752, + "grad_norm": 0.11982476711273193, + "learning_rate": 2.980041633675831e-06, + "loss": 0.0008, + "num_input_tokens_seen": 19443784, + "step": 9931 + }, + { + "epoch": 1.3163684559310802, + "grad_norm": 1.6848747730255127, + "learning_rate": 2.979700951385898e-06, + "loss": 0.0147, + "num_input_tokens_seen": 19445264, + "step": 9932 + }, + { + "epoch": 1.3165009940357852, + "grad_norm": 6.685860633850098, + "learning_rate": 2.979360259846999e-06, + "loss": 0.1324, + "num_input_tokens_seen": 19446952, + "step": 9933 + }, + { + "epoch": 1.3166335321404903, + "grad_norm": 0.07136420905590057, + "learning_rate": 2.9790195590657036e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19449432, + "step": 9934 + }, + { + "epoch": 1.3167660702451955, + "grad_norm": 5.44427490234375, + "learning_rate": 2.9786788490485814e-06, + "loss": 0.0791, + "num_input_tokens_seen": 19452088, + "step": 9935 + }, + { + "epoch": 1.3168986083499006, + "grad_norm": 6.908329010009766, + "learning_rate": 2.9783381298021996e-06, + "loss": 0.1786, + "num_input_tokens_seen": 19454096, + "step": 9936 + }, + { + "epoch": 1.3170311464546056, + "grad_norm": 0.05879872292280197, + "learning_rate": 2.977997401333129e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19456008, + "step": 9937 + }, + { + "epoch": 1.3171636845593109, + "grad_norm": 0.12926550209522247, + "learning_rate": 2.9776566636479395e-06, + "loss": 0.0009, + "num_input_tokens_seen": 19457896, + "step": 9938 + }, + { + "epoch": 1.317296222664016, + "grad_norm": 0.025347793474793434, + "learning_rate": 2.9773159167531995e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19459328, + "step": 9939 + }, + { + "epoch": 1.317428760768721, + "grad_norm": 1.2416092157363892, + "learning_rate": 2.976975160655479e-06, + "loss": 0.0073, + "num_input_tokens_seen": 19461448, + "step": 9940 + }, + { + "epoch": 1.317561298873426, + "grad_norm": 0.1330566257238388, + "learning_rate": 2.9766343953613484e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19462632, + "step": 9941 + }, + { + "epoch": 1.3176938369781312, + "grad_norm": 0.4423275589942932, + "learning_rate": 2.976293620877379e-06, + "loss": 0.0036, + "num_input_tokens_seen": 19464312, + "step": 9942 + }, + { + "epoch": 1.3178263750828363, + "grad_norm": 6.362712383270264, + "learning_rate": 2.9759528372101386e-06, + "loss": 0.1667, + "num_input_tokens_seen": 19467368, + "step": 9943 + }, + { + "epoch": 1.3179589131875415, + "grad_norm": 7.883072376251221, + "learning_rate": 2.9756120443661995e-06, + "loss": 0.0455, + "num_input_tokens_seen": 19470088, + "step": 9944 + }, + { + "epoch": 1.3180914512922466, + "grad_norm": 3.5510778427124023, + "learning_rate": 2.9752712423521326e-06, + "loss": 0.0126, + "num_input_tokens_seen": 19471680, + "step": 9945 + }, + { + "epoch": 1.3182239893969516, + "grad_norm": 11.454949378967285, + "learning_rate": 2.9749304311745075e-06, + "loss": 0.1412, + "num_input_tokens_seen": 19473248, + "step": 9946 + }, + { + "epoch": 1.3183565275016567, + "grad_norm": 1.6351819038391113, + "learning_rate": 2.9745896108398968e-06, + "loss": 0.0112, + "num_input_tokens_seen": 19474752, + "step": 9947 + }, + { + "epoch": 1.3184890656063617, + "grad_norm": 0.4207864999771118, + "learning_rate": 2.974248781354871e-06, + "loss": 0.001, + "num_input_tokens_seen": 19476016, + "step": 9948 + }, + { + "epoch": 1.318621603711067, + "grad_norm": 0.05926761403679848, + "learning_rate": 2.973907942726001e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19478592, + "step": 9949 + }, + { + "epoch": 1.318754141815772, + "grad_norm": 6.461844444274902, + "learning_rate": 2.9735670949598595e-06, + "loss": 0.0684, + "num_input_tokens_seen": 19480720, + "step": 9950 + }, + { + "epoch": 1.3188866799204773, + "grad_norm": 8.41862964630127, + "learning_rate": 2.9732262380630174e-06, + "loss": 0.2072, + "num_input_tokens_seen": 19482536, + "step": 9951 + }, + { + "epoch": 1.3190192180251823, + "grad_norm": 11.489011764526367, + "learning_rate": 2.9728853720420465e-06, + "loss": 0.1057, + "num_input_tokens_seen": 19484672, + "step": 9952 + }, + { + "epoch": 1.3191517561298873, + "grad_norm": 6.331583499908447, + "learning_rate": 2.97254449690352e-06, + "loss": 0.0323, + "num_input_tokens_seen": 19486408, + "step": 9953 + }, + { + "epoch": 1.3192842942345924, + "grad_norm": 2.09333872795105, + "learning_rate": 2.9722036126540095e-06, + "loss": 0.0801, + "num_input_tokens_seen": 19488224, + "step": 9954 + }, + { + "epoch": 1.3194168323392976, + "grad_norm": 0.019762258976697922, + "learning_rate": 2.971862719300087e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19490584, + "step": 9955 + }, + { + "epoch": 1.3195493704440027, + "grad_norm": 5.01272439956665, + "learning_rate": 2.9715218168483274e-06, + "loss": 0.066, + "num_input_tokens_seen": 19492744, + "step": 9956 + }, + { + "epoch": 1.3196819085487077, + "grad_norm": 1.7981114387512207, + "learning_rate": 2.9711809053052996e-06, + "loss": 0.0276, + "num_input_tokens_seen": 19494400, + "step": 9957 + }, + { + "epoch": 1.319814446653413, + "grad_norm": 2.380805015563965, + "learning_rate": 2.9708399846775804e-06, + "loss": 0.0113, + "num_input_tokens_seen": 19496576, + "step": 9958 + }, + { + "epoch": 1.319946984758118, + "grad_norm": 0.10329004377126694, + "learning_rate": 2.970499054971741e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19499144, + "step": 9959 + }, + { + "epoch": 1.320079522862823, + "grad_norm": 9.753327369689941, + "learning_rate": 2.9701581161943556e-06, + "loss": 0.0705, + "num_input_tokens_seen": 19501400, + "step": 9960 + }, + { + "epoch": 1.320212060967528, + "grad_norm": 7.294651508331299, + "learning_rate": 2.969817168351997e-06, + "loss": 0.1248, + "num_input_tokens_seen": 19503392, + "step": 9961 + }, + { + "epoch": 1.3203445990722333, + "grad_norm": 0.029961518943309784, + "learning_rate": 2.9694762114512398e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19504720, + "step": 9962 + }, + { + "epoch": 1.3204771371769384, + "grad_norm": 9.028806686401367, + "learning_rate": 2.9691352454986567e-06, + "loss": 0.052, + "num_input_tokens_seen": 19506528, + "step": 9963 + }, + { + "epoch": 1.3206096752816434, + "grad_norm": 5.4462175369262695, + "learning_rate": 2.9687942705008227e-06, + "loss": 0.059, + "num_input_tokens_seen": 19509032, + "step": 9964 + }, + { + "epoch": 1.3207422133863487, + "grad_norm": 1.9304429292678833, + "learning_rate": 2.9684532864643123e-06, + "loss": 0.0123, + "num_input_tokens_seen": 19510368, + "step": 9965 + }, + { + "epoch": 1.3208747514910537, + "grad_norm": 25.729135513305664, + "learning_rate": 2.9681122933956987e-06, + "loss": 0.6048, + "num_input_tokens_seen": 19512232, + "step": 9966 + }, + { + "epoch": 1.3210072895957587, + "grad_norm": 9.176871299743652, + "learning_rate": 2.967771291301557e-06, + "loss": 0.171, + "num_input_tokens_seen": 19514072, + "step": 9967 + }, + { + "epoch": 1.3211398277004638, + "grad_norm": 0.008625632151961327, + "learning_rate": 2.9674302801884626e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19515440, + "step": 9968 + }, + { + "epoch": 1.321272365805169, + "grad_norm": 8.296027183532715, + "learning_rate": 2.9670892600629895e-06, + "loss": 0.203, + "num_input_tokens_seen": 19516960, + "step": 9969 + }, + { + "epoch": 1.321404903909874, + "grad_norm": 0.052140120416879654, + "learning_rate": 2.9667482309317135e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19519280, + "step": 9970 + }, + { + "epoch": 1.3215374420145791, + "grad_norm": 0.05078285187482834, + "learning_rate": 2.96640719280121e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19521144, + "step": 9971 + }, + { + "epoch": 1.3216699801192844, + "grad_norm": 5.552460193634033, + "learning_rate": 2.966066145678053e-06, + "loss": 0.1435, + "num_input_tokens_seen": 19524608, + "step": 9972 + }, + { + "epoch": 1.3218025182239894, + "grad_norm": 6.086935043334961, + "learning_rate": 2.9657250895688204e-06, + "loss": 0.2532, + "num_input_tokens_seen": 19526312, + "step": 9973 + }, + { + "epoch": 1.3219350563286945, + "grad_norm": 0.019320817664265633, + "learning_rate": 2.9653840244800865e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19527504, + "step": 9974 + }, + { + "epoch": 1.3220675944333995, + "grad_norm": 0.07383199781179428, + "learning_rate": 2.9650429504184264e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19528744, + "step": 9975 + }, + { + "epoch": 1.3222001325381048, + "grad_norm": 6.378537178039551, + "learning_rate": 2.964701867390419e-06, + "loss": 0.1783, + "num_input_tokens_seen": 19531016, + "step": 9976 + }, + { + "epoch": 1.3223326706428098, + "grad_norm": 5.286518573760986, + "learning_rate": 2.964360775402638e-06, + "loss": 0.0663, + "num_input_tokens_seen": 19533568, + "step": 9977 + }, + { + "epoch": 1.3224652087475148, + "grad_norm": 0.11155138164758682, + "learning_rate": 2.9640196744616612e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19535016, + "step": 9978 + }, + { + "epoch": 1.32259774685222, + "grad_norm": 0.047535307705402374, + "learning_rate": 2.963678564574065e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19536744, + "step": 9979 + }, + { + "epoch": 1.3227302849569251, + "grad_norm": 3.061805248260498, + "learning_rate": 2.9633374457464265e-06, + "loss": 0.0196, + "num_input_tokens_seen": 19538512, + "step": 9980 + }, + { + "epoch": 1.3228628230616302, + "grad_norm": 6.893800258636475, + "learning_rate": 2.9629963179853216e-06, + "loss": 0.2231, + "num_input_tokens_seen": 19540352, + "step": 9981 + }, + { + "epoch": 1.3229953611663352, + "grad_norm": 8.546428680419922, + "learning_rate": 2.962655181297329e-06, + "loss": 0.2148, + "num_input_tokens_seen": 19542488, + "step": 9982 + }, + { + "epoch": 1.3231278992710405, + "grad_norm": 8.707723617553711, + "learning_rate": 2.9623140356890255e-06, + "loss": 0.1585, + "num_input_tokens_seen": 19544824, + "step": 9983 + }, + { + "epoch": 1.3232604373757455, + "grad_norm": 6.410830020904541, + "learning_rate": 2.961972881166988e-06, + "loss": 0.0704, + "num_input_tokens_seen": 19546696, + "step": 9984 + }, + { + "epoch": 1.3233929754804508, + "grad_norm": 9.56839370727539, + "learning_rate": 2.9616317177377944e-06, + "loss": 0.1832, + "num_input_tokens_seen": 19548200, + "step": 9985 + }, + { + "epoch": 1.3235255135851558, + "grad_norm": 2.904906988143921, + "learning_rate": 2.9612905454080232e-06, + "loss": 0.0503, + "num_input_tokens_seen": 19551312, + "step": 9986 + }, + { + "epoch": 1.3236580516898608, + "grad_norm": 3.848745346069336, + "learning_rate": 2.9609493641842523e-06, + "loss": 0.0151, + "num_input_tokens_seen": 19554264, + "step": 9987 + }, + { + "epoch": 1.3237905897945659, + "grad_norm": 1.7232786417007446, + "learning_rate": 2.960608174073059e-06, + "loss": 0.0114, + "num_input_tokens_seen": 19555504, + "step": 9988 + }, + { + "epoch": 1.323923127899271, + "grad_norm": 2.6616146564483643, + "learning_rate": 2.960266975081023e-06, + "loss": 0.0107, + "num_input_tokens_seen": 19556912, + "step": 9989 + }, + { + "epoch": 1.3240556660039762, + "grad_norm": 8.854670524597168, + "learning_rate": 2.9599257672147214e-06, + "loss": 0.1191, + "num_input_tokens_seen": 19558672, + "step": 9990 + }, + { + "epoch": 1.3241882041086812, + "grad_norm": 5.425792217254639, + "learning_rate": 2.9595845504807345e-06, + "loss": 0.0423, + "num_input_tokens_seen": 19561672, + "step": 9991 + }, + { + "epoch": 1.3243207422133865, + "grad_norm": 7.549142837524414, + "learning_rate": 2.9592433248856407e-06, + "loss": 0.1785, + "num_input_tokens_seen": 19563048, + "step": 9992 + }, + { + "epoch": 1.3244532803180915, + "grad_norm": 1.9474326372146606, + "learning_rate": 2.9589020904360177e-06, + "loss": 0.0072, + "num_input_tokens_seen": 19565184, + "step": 9993 + }, + { + "epoch": 1.3245858184227965, + "grad_norm": 3.898163318634033, + "learning_rate": 2.9585608471384466e-06, + "loss": 0.0404, + "num_input_tokens_seen": 19567120, + "step": 9994 + }, + { + "epoch": 1.3247183565275016, + "grad_norm": 0.66218501329422, + "learning_rate": 2.9582195949995057e-06, + "loss": 0.0046, + "num_input_tokens_seen": 19568544, + "step": 9995 + }, + { + "epoch": 1.3248508946322066, + "grad_norm": 4.629344463348389, + "learning_rate": 2.9578783340257744e-06, + "loss": 0.0794, + "num_input_tokens_seen": 19570368, + "step": 9996 + }, + { + "epoch": 1.3249834327369119, + "grad_norm": 2.912808656692505, + "learning_rate": 2.9575370642238342e-06, + "loss": 0.0565, + "num_input_tokens_seen": 19572608, + "step": 9997 + }, + { + "epoch": 1.325115970841617, + "grad_norm": 4.5502824783325195, + "learning_rate": 2.957195785600263e-06, + "loss": 0.1112, + "num_input_tokens_seen": 19575184, + "step": 9998 + }, + { + "epoch": 1.3252485089463222, + "grad_norm": 13.879768371582031, + "learning_rate": 2.9568544981616413e-06, + "loss": 0.2624, + "num_input_tokens_seen": 19577400, + "step": 9999 + }, + { + "epoch": 1.3253810470510272, + "grad_norm": 4.059289932250977, + "learning_rate": 2.9565132019145503e-06, + "loss": 0.0468, + "num_input_tokens_seen": 19579072, + "step": 10000 + }, + { + "epoch": 1.3255135851557323, + "grad_norm": 8.60438060760498, + "learning_rate": 2.95617189686557e-06, + "loss": 0.1337, + "num_input_tokens_seen": 19580984, + "step": 10001 + }, + { + "epoch": 1.3256461232604373, + "grad_norm": 6.7872724533081055, + "learning_rate": 2.9558305830212802e-06, + "loss": 0.0645, + "num_input_tokens_seen": 19582288, + "step": 10002 + }, + { + "epoch": 1.3257786613651426, + "grad_norm": 1.1699812412261963, + "learning_rate": 2.9554892603882625e-06, + "loss": 0.0045, + "num_input_tokens_seen": 19583800, + "step": 10003 + }, + { + "epoch": 1.3259111994698476, + "grad_norm": 0.13351790606975555, + "learning_rate": 2.955147928973098e-06, + "loss": 0.0009, + "num_input_tokens_seen": 19585488, + "step": 10004 + }, + { + "epoch": 1.3260437375745526, + "grad_norm": 0.215609610080719, + "learning_rate": 2.9548065887823673e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19588976, + "step": 10005 + }, + { + "epoch": 1.3261762756792579, + "grad_norm": 3.2422540187835693, + "learning_rate": 2.9544652398226516e-06, + "loss": 0.0325, + "num_input_tokens_seen": 19590616, + "step": 10006 + }, + { + "epoch": 1.326308813783963, + "grad_norm": 12.906964302062988, + "learning_rate": 2.9541238821005325e-06, + "loss": 0.1524, + "num_input_tokens_seen": 19593336, + "step": 10007 + }, + { + "epoch": 1.326441351888668, + "grad_norm": 0.3269090950489044, + "learning_rate": 2.9537825156225914e-06, + "loss": 0.0022, + "num_input_tokens_seen": 19595352, + "step": 10008 + }, + { + "epoch": 1.326573889993373, + "grad_norm": 13.211973190307617, + "learning_rate": 2.953441140395411e-06, + "loss": 0.2347, + "num_input_tokens_seen": 19597824, + "step": 10009 + }, + { + "epoch": 1.3267064280980783, + "grad_norm": 4.517259120941162, + "learning_rate": 2.9530997564255728e-06, + "loss": 0.1121, + "num_input_tokens_seen": 19599496, + "step": 10010 + }, + { + "epoch": 1.3268389662027833, + "grad_norm": 1.8769259452819824, + "learning_rate": 2.9527583637196576e-06, + "loss": 0.0478, + "num_input_tokens_seen": 19601192, + "step": 10011 + }, + { + "epoch": 1.3269715043074883, + "grad_norm": 0.07857752591371536, + "learning_rate": 2.9524169622842497e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19602712, + "step": 10012 + }, + { + "epoch": 1.3271040424121936, + "grad_norm": 1.4949793815612793, + "learning_rate": 2.9520755521259304e-06, + "loss": 0.0131, + "num_input_tokens_seen": 19604032, + "step": 10013 + }, + { + "epoch": 1.3272365805168986, + "grad_norm": 0.6585063934326172, + "learning_rate": 2.9517341332512826e-06, + "loss": 0.0052, + "num_input_tokens_seen": 19605480, + "step": 10014 + }, + { + "epoch": 1.3273691186216037, + "grad_norm": 23.149818420410156, + "learning_rate": 2.9513927056668897e-06, + "loss": 0.038, + "num_input_tokens_seen": 19606848, + "step": 10015 + }, + { + "epoch": 1.3275016567263087, + "grad_norm": 3.8701798915863037, + "learning_rate": 2.9510512693793333e-06, + "loss": 0.1129, + "num_input_tokens_seen": 19608456, + "step": 10016 + }, + { + "epoch": 1.327634194831014, + "grad_norm": 0.030370693653821945, + "learning_rate": 2.9507098243951972e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19609640, + "step": 10017 + }, + { + "epoch": 1.327766732935719, + "grad_norm": 4.822741508483887, + "learning_rate": 2.950368370721065e-06, + "loss": 0.1762, + "num_input_tokens_seen": 19612680, + "step": 10018 + }, + { + "epoch": 1.327899271040424, + "grad_norm": 6.039475440979004, + "learning_rate": 2.9500269083635198e-06, + "loss": 0.084, + "num_input_tokens_seen": 19614168, + "step": 10019 + }, + { + "epoch": 1.3280318091451293, + "grad_norm": 16.466712951660156, + "learning_rate": 2.949685437329145e-06, + "loss": 0.2928, + "num_input_tokens_seen": 19616664, + "step": 10020 + }, + { + "epoch": 1.3281643472498343, + "grad_norm": 10.803589820861816, + "learning_rate": 2.9493439576245254e-06, + "loss": 0.3449, + "num_input_tokens_seen": 19618904, + "step": 10021 + }, + { + "epoch": 1.3282968853545394, + "grad_norm": 0.15575425326824188, + "learning_rate": 2.949002469256245e-06, + "loss": 0.001, + "num_input_tokens_seen": 19621232, + "step": 10022 + }, + { + "epoch": 1.3284294234592444, + "grad_norm": 0.31767404079437256, + "learning_rate": 2.9486609722308856e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19623088, + "step": 10023 + }, + { + "epoch": 1.3285619615639497, + "grad_norm": 13.803759574890137, + "learning_rate": 2.9483194665550335e-06, + "loss": 0.2117, + "num_input_tokens_seen": 19624720, + "step": 10024 + }, + { + "epoch": 1.3286944996686547, + "grad_norm": 0.6023021340370178, + "learning_rate": 2.947977952235273e-06, + "loss": 0.0027, + "num_input_tokens_seen": 19626184, + "step": 10025 + }, + { + "epoch": 1.32882703777336, + "grad_norm": 7.839282989501953, + "learning_rate": 2.9476364292781888e-06, + "loss": 0.2793, + "num_input_tokens_seen": 19628048, + "step": 10026 + }, + { + "epoch": 1.328959575878065, + "grad_norm": 4.595125675201416, + "learning_rate": 2.947294897690366e-06, + "loss": 0.0944, + "num_input_tokens_seen": 19630448, + "step": 10027 + }, + { + "epoch": 1.32909211398277, + "grad_norm": 5.367440700531006, + "learning_rate": 2.9469533574783877e-06, + "loss": 0.0545, + "num_input_tokens_seen": 19632424, + "step": 10028 + }, + { + "epoch": 1.329224652087475, + "grad_norm": 0.023499052971601486, + "learning_rate": 2.946611808648841e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19634000, + "step": 10029 + }, + { + "epoch": 1.3293571901921801, + "grad_norm": 2.7969186305999756, + "learning_rate": 2.9462702512083106e-06, + "loss": 0.0154, + "num_input_tokens_seen": 19635832, + "step": 10030 + }, + { + "epoch": 1.3294897282968854, + "grad_norm": 8.23483657836914, + "learning_rate": 2.945928685163382e-06, + "loss": 0.3252, + "num_input_tokens_seen": 19637472, + "step": 10031 + }, + { + "epoch": 1.3296222664015904, + "grad_norm": 0.21697549521923065, + "learning_rate": 2.94558711052064e-06, + "loss": 0.0011, + "num_input_tokens_seen": 19639920, + "step": 10032 + }, + { + "epoch": 1.3297548045062957, + "grad_norm": 7.126245021820068, + "learning_rate": 2.945245527286672e-06, + "loss": 0.1254, + "num_input_tokens_seen": 19641840, + "step": 10033 + }, + { + "epoch": 1.3298873426110007, + "grad_norm": 0.010683054104447365, + "learning_rate": 2.944903935468063e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19642976, + "step": 10034 + }, + { + "epoch": 1.3300198807157058, + "grad_norm": 11.981829643249512, + "learning_rate": 2.9445623350713985e-06, + "loss": 0.3104, + "num_input_tokens_seen": 19645552, + "step": 10035 + }, + { + "epoch": 1.3301524188204108, + "grad_norm": 3.877479314804077, + "learning_rate": 2.944220726103266e-06, + "loss": 0.0681, + "num_input_tokens_seen": 19648080, + "step": 10036 + }, + { + "epoch": 1.3302849569251158, + "grad_norm": 0.010967373847961426, + "learning_rate": 2.9438791085702513e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19649352, + "step": 10037 + }, + { + "epoch": 1.330417495029821, + "grad_norm": 19.11020278930664, + "learning_rate": 2.9435374824789413e-06, + "loss": 0.4749, + "num_input_tokens_seen": 19651456, + "step": 10038 + }, + { + "epoch": 1.3305500331345261, + "grad_norm": 0.005261686630547047, + "learning_rate": 2.9431958478359223e-06, + "loss": 0.0, + "num_input_tokens_seen": 19652432, + "step": 10039 + }, + { + "epoch": 1.3306825712392314, + "grad_norm": 6.606871128082275, + "learning_rate": 2.942854204647782e-06, + "loss": 0.0718, + "num_input_tokens_seen": 19654728, + "step": 10040 + }, + { + "epoch": 1.3308151093439364, + "grad_norm": 1.32657790184021, + "learning_rate": 2.9425125529211072e-06, + "loss": 0.0251, + "num_input_tokens_seen": 19657288, + "step": 10041 + }, + { + "epoch": 1.3309476474486415, + "grad_norm": 0.0718064159154892, + "learning_rate": 2.9421708926624846e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19659704, + "step": 10042 + }, + { + "epoch": 1.3310801855533465, + "grad_norm": 0.0737922340631485, + "learning_rate": 2.9418292238785025e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19661416, + "step": 10043 + }, + { + "epoch": 1.3312127236580518, + "grad_norm": 0.05091865360736847, + "learning_rate": 2.9414875465757487e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19663768, + "step": 10044 + }, + { + "epoch": 1.3313452617627568, + "grad_norm": 10.098896026611328, + "learning_rate": 2.9411458607608097e-06, + "loss": 0.1686, + "num_input_tokens_seen": 19665296, + "step": 10045 + }, + { + "epoch": 1.3314777998674618, + "grad_norm": 0.037031542509794235, + "learning_rate": 2.940804166440274e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19666520, + "step": 10046 + }, + { + "epoch": 1.331610337972167, + "grad_norm": 5.026845932006836, + "learning_rate": 2.9404624636207302e-06, + "loss": 0.0582, + "num_input_tokens_seen": 19668176, + "step": 10047 + }, + { + "epoch": 1.3317428760768721, + "grad_norm": 6.104671001434326, + "learning_rate": 2.9401207523087667e-06, + "loss": 0.1335, + "num_input_tokens_seen": 19670512, + "step": 10048 + }, + { + "epoch": 1.3318754141815772, + "grad_norm": 5.615001678466797, + "learning_rate": 2.9397790325109705e-06, + "loss": 0.0249, + "num_input_tokens_seen": 19672744, + "step": 10049 + }, + { + "epoch": 1.3320079522862822, + "grad_norm": 5.745657920837402, + "learning_rate": 2.939437304233932e-06, + "loss": 0.0731, + "num_input_tokens_seen": 19674976, + "step": 10050 + }, + { + "epoch": 1.3321404903909875, + "grad_norm": 0.6104015707969666, + "learning_rate": 2.9390955674842386e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19677152, + "step": 10051 + }, + { + "epoch": 1.3322730284956925, + "grad_norm": 0.02321402169764042, + "learning_rate": 2.93875382226848e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19679856, + "step": 10052 + }, + { + "epoch": 1.3324055666003976, + "grad_norm": 2.957949638366699, + "learning_rate": 2.9384120685932448e-06, + "loss": 0.0299, + "num_input_tokens_seen": 19681232, + "step": 10053 + }, + { + "epoch": 1.3325381047051028, + "grad_norm": 9.981496810913086, + "learning_rate": 2.9380703064651227e-06, + "loss": 0.1688, + "num_input_tokens_seen": 19683352, + "step": 10054 + }, + { + "epoch": 1.3326706428098078, + "grad_norm": 10.203073501586914, + "learning_rate": 2.9377285358907027e-06, + "loss": 0.3986, + "num_input_tokens_seen": 19684952, + "step": 10055 + }, + { + "epoch": 1.3328031809145129, + "grad_norm": 0.004375721327960491, + "learning_rate": 2.9373867568765748e-06, + "loss": 0.0, + "num_input_tokens_seen": 19686272, + "step": 10056 + }, + { + "epoch": 1.332935719019218, + "grad_norm": 1.7350661754608154, + "learning_rate": 2.937044969429329e-06, + "loss": 0.019, + "num_input_tokens_seen": 19688888, + "step": 10057 + }, + { + "epoch": 1.3330682571239232, + "grad_norm": 0.1596454530954361, + "learning_rate": 2.936703173555553e-06, + "loss": 0.0007, + "num_input_tokens_seen": 19691320, + "step": 10058 + }, + { + "epoch": 1.3332007952286282, + "grad_norm": 9.800030708312988, + "learning_rate": 2.9363613692618402e-06, + "loss": 0.116, + "num_input_tokens_seen": 19693000, + "step": 10059 + }, + { + "epoch": 1.3333333333333333, + "grad_norm": 11.671333312988281, + "learning_rate": 2.9360195565547783e-06, + "loss": 0.3986, + "num_input_tokens_seen": 19695560, + "step": 10060 + }, + { + "epoch": 1.3334658714380385, + "grad_norm": 8.852104187011719, + "learning_rate": 2.935677735440959e-06, + "loss": 0.2575, + "num_input_tokens_seen": 19697088, + "step": 10061 + }, + { + "epoch": 1.3335984095427436, + "grad_norm": 7.2411909103393555, + "learning_rate": 2.9353359059269727e-06, + "loss": 0.152, + "num_input_tokens_seen": 19699480, + "step": 10062 + }, + { + "epoch": 1.3337309476474486, + "grad_norm": 8.616983413696289, + "learning_rate": 2.934994068019409e-06, + "loss": 0.1954, + "num_input_tokens_seen": 19701256, + "step": 10063 + }, + { + "epoch": 1.3338634857521536, + "grad_norm": 3.4285824298858643, + "learning_rate": 2.9346522217248597e-06, + "loss": 0.0588, + "num_input_tokens_seen": 19703384, + "step": 10064 + }, + { + "epoch": 1.333996023856859, + "grad_norm": 9.62035846710205, + "learning_rate": 2.9343103670499157e-06, + "loss": 0.0674, + "num_input_tokens_seen": 19705128, + "step": 10065 + }, + { + "epoch": 1.334128561961564, + "grad_norm": 0.5120173692703247, + "learning_rate": 2.9339685040011688e-06, + "loss": 0.004, + "num_input_tokens_seen": 19707016, + "step": 10066 + }, + { + "epoch": 1.3342611000662692, + "grad_norm": 0.04398007690906525, + "learning_rate": 2.9336266325852093e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19708488, + "step": 10067 + }, + { + "epoch": 1.3343936381709742, + "grad_norm": 6.221183776855469, + "learning_rate": 2.9332847528086294e-06, + "loss": 0.0852, + "num_input_tokens_seen": 19710408, + "step": 10068 + }, + { + "epoch": 1.3345261762756793, + "grad_norm": 4.612703323364258, + "learning_rate": 2.9329428646780206e-06, + "loss": 0.1367, + "num_input_tokens_seen": 19712712, + "step": 10069 + }, + { + "epoch": 1.3346587143803843, + "grad_norm": 1.6482594013214111, + "learning_rate": 2.9326009681999745e-06, + "loss": 0.0205, + "num_input_tokens_seen": 19714440, + "step": 10070 + }, + { + "epoch": 1.3347912524850893, + "grad_norm": 11.199882507324219, + "learning_rate": 2.932259063381083e-06, + "loss": 0.3282, + "num_input_tokens_seen": 19717528, + "step": 10071 + }, + { + "epoch": 1.3349237905897946, + "grad_norm": 0.02905864641070366, + "learning_rate": 2.931917150227939e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19719768, + "step": 10072 + }, + { + "epoch": 1.3350563286944996, + "grad_norm": 0.11134571582078934, + "learning_rate": 2.931575228747134e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19721448, + "step": 10073 + }, + { + "epoch": 1.335188866799205, + "grad_norm": 8.956958770751953, + "learning_rate": 2.9312332989452615e-06, + "loss": 0.2012, + "num_input_tokens_seen": 19723656, + "step": 10074 + }, + { + "epoch": 1.33532140490391, + "grad_norm": 3.762080430984497, + "learning_rate": 2.930891360828913e-06, + "loss": 0.0362, + "num_input_tokens_seen": 19725224, + "step": 10075 + }, + { + "epoch": 1.335453943008615, + "grad_norm": 6.9835591316223145, + "learning_rate": 2.930549414404682e-06, + "loss": 0.1084, + "num_input_tokens_seen": 19726848, + "step": 10076 + }, + { + "epoch": 1.33558648111332, + "grad_norm": 5.485349178314209, + "learning_rate": 2.930207459679161e-06, + "loss": 0.0829, + "num_input_tokens_seen": 19729104, + "step": 10077 + }, + { + "epoch": 1.335719019218025, + "grad_norm": 0.029335543513298035, + "learning_rate": 2.929865496658944e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19731088, + "step": 10078 + }, + { + "epoch": 1.3358515573227303, + "grad_norm": 10.912320137023926, + "learning_rate": 2.929523525350623e-06, + "loss": 0.2798, + "num_input_tokens_seen": 19732920, + "step": 10079 + }, + { + "epoch": 1.3359840954274353, + "grad_norm": 4.1649699211120605, + "learning_rate": 2.9291815457607933e-06, + "loss": 0.0912, + "num_input_tokens_seen": 19734616, + "step": 10080 + }, + { + "epoch": 1.3361166335321406, + "grad_norm": 1.1570743322372437, + "learning_rate": 2.928839557896046e-06, + "loss": 0.0159, + "num_input_tokens_seen": 19736520, + "step": 10081 + }, + { + "epoch": 1.3362491716368456, + "grad_norm": 0.035161860287189484, + "learning_rate": 2.9284975617629763e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19738176, + "step": 10082 + }, + { + "epoch": 1.3363817097415507, + "grad_norm": 0.44542983174324036, + "learning_rate": 2.928155557368178e-06, + "loss": 0.0038, + "num_input_tokens_seen": 19740224, + "step": 10083 + }, + { + "epoch": 1.3365142478462557, + "grad_norm": 0.43377885222435, + "learning_rate": 2.927813544718246e-06, + "loss": 0.0016, + "num_input_tokens_seen": 19743000, + "step": 10084 + }, + { + "epoch": 1.336646785950961, + "grad_norm": 5.311315059661865, + "learning_rate": 2.9274715238197734e-06, + "loss": 0.0391, + "num_input_tokens_seen": 19744536, + "step": 10085 + }, + { + "epoch": 1.336779324055666, + "grad_norm": 8.02383041381836, + "learning_rate": 2.9271294946793542e-06, + "loss": 0.1608, + "num_input_tokens_seen": 19745496, + "step": 10086 + }, + { + "epoch": 1.336911862160371, + "grad_norm": 0.14343765377998352, + "learning_rate": 2.926787457303585e-06, + "loss": 0.0015, + "num_input_tokens_seen": 19747128, + "step": 10087 + }, + { + "epoch": 1.3370444002650763, + "grad_norm": 13.380282402038574, + "learning_rate": 2.926445411699058e-06, + "loss": 0.1181, + "num_input_tokens_seen": 19748472, + "step": 10088 + }, + { + "epoch": 1.3371769383697814, + "grad_norm": 0.01169082336127758, + "learning_rate": 2.92610335787237e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19751384, + "step": 10089 + }, + { + "epoch": 1.3373094764744864, + "grad_norm": 10.448746681213379, + "learning_rate": 2.9257612958301146e-06, + "loss": 0.2239, + "num_input_tokens_seen": 19755344, + "step": 10090 + }, + { + "epoch": 1.3374420145791914, + "grad_norm": 4.047427177429199, + "learning_rate": 2.925419225578888e-06, + "loss": 0.0438, + "num_input_tokens_seen": 19757376, + "step": 10091 + }, + { + "epoch": 1.3375745526838967, + "grad_norm": 7.419445037841797, + "learning_rate": 2.9250771471252854e-06, + "loss": 0.1977, + "num_input_tokens_seen": 19759832, + "step": 10092 + }, + { + "epoch": 1.3377070907886017, + "grad_norm": 0.05178523808717728, + "learning_rate": 2.924735060475902e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19760968, + "step": 10093 + }, + { + "epoch": 1.3378396288933068, + "grad_norm": 9.346990585327148, + "learning_rate": 2.924392965637334e-06, + "loss": 0.0569, + "num_input_tokens_seen": 19763960, + "step": 10094 + }, + { + "epoch": 1.337972166998012, + "grad_norm": 8.95223617553711, + "learning_rate": 2.9240508626161766e-06, + "loss": 0.3841, + "num_input_tokens_seen": 19765456, + "step": 10095 + }, + { + "epoch": 1.338104705102717, + "grad_norm": 19.677982330322266, + "learning_rate": 2.923708751419026e-06, + "loss": 0.1088, + "num_input_tokens_seen": 19768480, + "step": 10096 + }, + { + "epoch": 1.338237243207422, + "grad_norm": 0.1691170036792755, + "learning_rate": 2.923366632052478e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19770968, + "step": 10097 + }, + { + "epoch": 1.3383697813121271, + "grad_norm": 13.489299774169922, + "learning_rate": 2.9230245045231303e-06, + "loss": 0.3041, + "num_input_tokens_seen": 19773904, + "step": 10098 + }, + { + "epoch": 1.3385023194168324, + "grad_norm": 8.371328353881836, + "learning_rate": 2.922682368837577e-06, + "loss": 0.2247, + "num_input_tokens_seen": 19775392, + "step": 10099 + }, + { + "epoch": 1.3386348575215374, + "grad_norm": 0.026870815083384514, + "learning_rate": 2.922340225002417e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19777424, + "step": 10100 + }, + { + "epoch": 1.3387673956262425, + "grad_norm": 0.27529075741767883, + "learning_rate": 2.9219980730242457e-06, + "loss": 0.0013, + "num_input_tokens_seen": 19779296, + "step": 10101 + }, + { + "epoch": 1.3388999337309477, + "grad_norm": 0.11955448985099792, + "learning_rate": 2.92165591290966e-06, + "loss": 0.0005, + "num_input_tokens_seen": 19780984, + "step": 10102 + }, + { + "epoch": 1.3390324718356528, + "grad_norm": 4.565912246704102, + "learning_rate": 2.9213137446652586e-06, + "loss": 0.0809, + "num_input_tokens_seen": 19783016, + "step": 10103 + }, + { + "epoch": 1.3391650099403578, + "grad_norm": 8.942695617675781, + "learning_rate": 2.920971568297637e-06, + "loss": 0.2034, + "num_input_tokens_seen": 19785504, + "step": 10104 + }, + { + "epoch": 1.3392975480450628, + "grad_norm": 4.521328926086426, + "learning_rate": 2.9206293838133926e-06, + "loss": 0.1611, + "num_input_tokens_seen": 19787608, + "step": 10105 + }, + { + "epoch": 1.339430086149768, + "grad_norm": 0.9563708901405334, + "learning_rate": 2.9202871912191245e-06, + "loss": 0.0162, + "num_input_tokens_seen": 19789584, + "step": 10106 + }, + { + "epoch": 1.3395626242544731, + "grad_norm": 13.546354293823242, + "learning_rate": 2.919944990521429e-06, + "loss": 0.3334, + "num_input_tokens_seen": 19791968, + "step": 10107 + }, + { + "epoch": 1.3396951623591782, + "grad_norm": 10.50308609008789, + "learning_rate": 2.9196027817269036e-06, + "loss": 0.3293, + "num_input_tokens_seen": 19794312, + "step": 10108 + }, + { + "epoch": 1.3398277004638834, + "grad_norm": 1.4749419689178467, + "learning_rate": 2.919260564842148e-06, + "loss": 0.0178, + "num_input_tokens_seen": 19796200, + "step": 10109 + }, + { + "epoch": 1.3399602385685885, + "grad_norm": 8.910107612609863, + "learning_rate": 2.9189183398737592e-06, + "loss": 0.2659, + "num_input_tokens_seen": 19799032, + "step": 10110 + }, + { + "epoch": 1.3400927766732935, + "grad_norm": 0.08865901827812195, + "learning_rate": 2.918576106828336e-06, + "loss": 0.0006, + "num_input_tokens_seen": 19800600, + "step": 10111 + }, + { + "epoch": 1.3402253147779986, + "grad_norm": 0.0036424901336431503, + "learning_rate": 2.9182338657124765e-06, + "loss": 0.0, + "num_input_tokens_seen": 19801768, + "step": 10112 + }, + { + "epoch": 1.3403578528827038, + "grad_norm": 5.268975257873535, + "learning_rate": 2.9178916165327796e-06, + "loss": 0.1854, + "num_input_tokens_seen": 19803720, + "step": 10113 + }, + { + "epoch": 1.3404903909874089, + "grad_norm": 4.819614410400391, + "learning_rate": 2.917549359295844e-06, + "loss": 0.1283, + "num_input_tokens_seen": 19805696, + "step": 10114 + }, + { + "epoch": 1.3406229290921141, + "grad_norm": 13.397098541259766, + "learning_rate": 2.9172070940082686e-06, + "loss": 0.3197, + "num_input_tokens_seen": 19807600, + "step": 10115 + }, + { + "epoch": 1.3407554671968192, + "grad_norm": 8.238554954528809, + "learning_rate": 2.916864820676653e-06, + "loss": 0.1971, + "num_input_tokens_seen": 19809272, + "step": 10116 + }, + { + "epoch": 1.3408880053015242, + "grad_norm": 0.016477268189191818, + "learning_rate": 2.916522539307595e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19810328, + "step": 10117 + }, + { + "epoch": 1.3410205434062292, + "grad_norm": 0.04328158497810364, + "learning_rate": 2.916180249907696e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19813096, + "step": 10118 + }, + { + "epoch": 1.3411530815109343, + "grad_norm": 7.495695114135742, + "learning_rate": 2.9158379524835556e-06, + "loss": 0.0877, + "num_input_tokens_seen": 19815608, + "step": 10119 + }, + { + "epoch": 1.3412856196156395, + "grad_norm": 3.471045732498169, + "learning_rate": 2.9154956470417704e-06, + "loss": 0.0265, + "num_input_tokens_seen": 19817336, + "step": 10120 + }, + { + "epoch": 1.3414181577203446, + "grad_norm": 0.19808629155158997, + "learning_rate": 2.9151533335889446e-06, + "loss": 0.0029, + "num_input_tokens_seen": 19819824, + "step": 10121 + }, + { + "epoch": 1.3415506958250498, + "grad_norm": 0.04542338475584984, + "learning_rate": 2.9148110121316752e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19822256, + "step": 10122 + }, + { + "epoch": 1.3416832339297549, + "grad_norm": 1.081764817237854, + "learning_rate": 2.914468682676563e-06, + "loss": 0.0061, + "num_input_tokens_seen": 19823960, + "step": 10123 + }, + { + "epoch": 1.34181577203446, + "grad_norm": 7.454776763916016, + "learning_rate": 2.9141263452302095e-06, + "loss": 0.1221, + "num_input_tokens_seen": 19825472, + "step": 10124 + }, + { + "epoch": 1.341948310139165, + "grad_norm": 12.951793670654297, + "learning_rate": 2.9137839997992133e-06, + "loss": 0.1706, + "num_input_tokens_seen": 19827232, + "step": 10125 + }, + { + "epoch": 1.3420808482438702, + "grad_norm": 0.0587170273065567, + "learning_rate": 2.9134416463901773e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19828720, + "step": 10126 + }, + { + "epoch": 1.3422133863485752, + "grad_norm": 0.05062089115381241, + "learning_rate": 2.9130992850097006e-06, + "loss": 0.0004, + "num_input_tokens_seen": 19830448, + "step": 10127 + }, + { + "epoch": 1.3423459244532803, + "grad_norm": 0.9958415627479553, + "learning_rate": 2.9127569156643842e-06, + "loss": 0.0046, + "num_input_tokens_seen": 19831520, + "step": 10128 + }, + { + "epoch": 1.3424784625579855, + "grad_norm": 11.671673774719238, + "learning_rate": 2.9124145383608304e-06, + "loss": 0.2535, + "num_input_tokens_seen": 19833704, + "step": 10129 + }, + { + "epoch": 1.3426110006626906, + "grad_norm": 0.027266185730695724, + "learning_rate": 2.9120721531056395e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19835176, + "step": 10130 + }, + { + "epoch": 1.3427435387673956, + "grad_norm": 2.540097236633301, + "learning_rate": 2.9117297599054135e-06, + "loss": 0.0375, + "num_input_tokens_seen": 19837504, + "step": 10131 + }, + { + "epoch": 1.3428760768721006, + "grad_norm": 12.47049331665039, + "learning_rate": 2.911387358766753e-06, + "loss": 0.1394, + "num_input_tokens_seen": 19838960, + "step": 10132 + }, + { + "epoch": 1.343008614976806, + "grad_norm": 3.064147710800171, + "learning_rate": 2.911044949696261e-06, + "loss": 0.0131, + "num_input_tokens_seen": 19840536, + "step": 10133 + }, + { + "epoch": 1.343141153081511, + "grad_norm": 2.4661829471588135, + "learning_rate": 2.910702532700539e-06, + "loss": 0.0064, + "num_input_tokens_seen": 19843376, + "step": 10134 + }, + { + "epoch": 1.343273691186216, + "grad_norm": 0.021428564563393593, + "learning_rate": 2.9103601077861875e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19844784, + "step": 10135 + }, + { + "epoch": 1.3434062292909212, + "grad_norm": 1.7033615112304688, + "learning_rate": 2.910017674959812e-06, + "loss": 0.0123, + "num_input_tokens_seen": 19846440, + "step": 10136 + }, + { + "epoch": 1.3435387673956263, + "grad_norm": 5.182422637939453, + "learning_rate": 2.909675234228012e-06, + "loss": 0.0891, + "num_input_tokens_seen": 19848280, + "step": 10137 + }, + { + "epoch": 1.3436713055003313, + "grad_norm": 1.9017574787139893, + "learning_rate": 2.9093327855973904e-06, + "loss": 0.0117, + "num_input_tokens_seen": 19849760, + "step": 10138 + }, + { + "epoch": 1.3438038436050364, + "grad_norm": 7.488884925842285, + "learning_rate": 2.9089903290745507e-06, + "loss": 0.1768, + "num_input_tokens_seen": 19851240, + "step": 10139 + }, + { + "epoch": 1.3439363817097416, + "grad_norm": 0.7020218968391418, + "learning_rate": 2.9086478646660952e-06, + "loss": 0.0043, + "num_input_tokens_seen": 19853360, + "step": 10140 + }, + { + "epoch": 1.3440689198144466, + "grad_norm": 12.125798225402832, + "learning_rate": 2.908305392378627e-06, + "loss": 0.2483, + "num_input_tokens_seen": 19855520, + "step": 10141 + }, + { + "epoch": 1.3442014579191517, + "grad_norm": 3.5772783756256104, + "learning_rate": 2.9079629122187497e-06, + "loss": 0.031, + "num_input_tokens_seen": 19858712, + "step": 10142 + }, + { + "epoch": 1.344333996023857, + "grad_norm": 0.4007512331008911, + "learning_rate": 2.9076204241930654e-06, + "loss": 0.0053, + "num_input_tokens_seen": 19860320, + "step": 10143 + }, + { + "epoch": 1.344466534128562, + "grad_norm": 0.014961271546781063, + "learning_rate": 2.907277928308178e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19861792, + "step": 10144 + }, + { + "epoch": 1.344599072233267, + "grad_norm": 13.702409744262695, + "learning_rate": 2.906935424570692e-06, + "loss": 0.2687, + "num_input_tokens_seen": 19864440, + "step": 10145 + }, + { + "epoch": 1.344731610337972, + "grad_norm": 0.8807671070098877, + "learning_rate": 2.9065929129872097e-06, + "loss": 0.0076, + "num_input_tokens_seen": 19865968, + "step": 10146 + }, + { + "epoch": 1.3448641484426773, + "grad_norm": 8.62695598602295, + "learning_rate": 2.906250393564335e-06, + "loss": 0.1194, + "num_input_tokens_seen": 19867800, + "step": 10147 + }, + { + "epoch": 1.3449966865473824, + "grad_norm": 3.3124172687530518, + "learning_rate": 2.905907866308673e-06, + "loss": 0.0274, + "num_input_tokens_seen": 19869744, + "step": 10148 + }, + { + "epoch": 1.3451292246520874, + "grad_norm": 7.892882823944092, + "learning_rate": 2.9055653312268277e-06, + "loss": 0.1785, + "num_input_tokens_seen": 19871680, + "step": 10149 + }, + { + "epoch": 1.3452617627567927, + "grad_norm": 11.916269302368164, + "learning_rate": 2.9052227883254023e-06, + "loss": 0.2335, + "num_input_tokens_seen": 19873496, + "step": 10150 + }, + { + "epoch": 1.3453943008614977, + "grad_norm": 0.008640076033771038, + "learning_rate": 2.9048802376110023e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19876096, + "step": 10151 + }, + { + "epoch": 1.3455268389662027, + "grad_norm": 0.02837945520877838, + "learning_rate": 2.9045376790902326e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19878008, + "step": 10152 + }, + { + "epoch": 1.3456593770709078, + "grad_norm": 6.174884796142578, + "learning_rate": 2.904195112769696e-06, + "loss": 0.0219, + "num_input_tokens_seen": 19879440, + "step": 10153 + }, + { + "epoch": 1.345791915175613, + "grad_norm": 0.005460857413709164, + "learning_rate": 2.903852538656e-06, + "loss": 0.0, + "num_input_tokens_seen": 19880672, + "step": 10154 + }, + { + "epoch": 1.345924453280318, + "grad_norm": 9.355748176574707, + "learning_rate": 2.9035099567557477e-06, + "loss": 0.2427, + "num_input_tokens_seen": 19883192, + "step": 10155 + }, + { + "epoch": 1.3460569913850233, + "grad_norm": 8.21791934967041, + "learning_rate": 2.9031673670755455e-06, + "loss": 0.1599, + "num_input_tokens_seen": 19884784, + "step": 10156 + }, + { + "epoch": 1.3461895294897284, + "grad_norm": 2.5992867946624756, + "learning_rate": 2.902824769621999e-06, + "loss": 0.0696, + "num_input_tokens_seen": 19886672, + "step": 10157 + }, + { + "epoch": 1.3463220675944334, + "grad_norm": 10.464076042175293, + "learning_rate": 2.902482164401712e-06, + "loss": 0.2608, + "num_input_tokens_seen": 19887984, + "step": 10158 + }, + { + "epoch": 1.3464546056991384, + "grad_norm": 8.851065635681152, + "learning_rate": 2.9021395514212915e-06, + "loss": 0.217, + "num_input_tokens_seen": 19889952, + "step": 10159 + }, + { + "epoch": 1.3465871438038435, + "grad_norm": 10.956007957458496, + "learning_rate": 2.9017969306873435e-06, + "loss": 0.266, + "num_input_tokens_seen": 19892328, + "step": 10160 + }, + { + "epoch": 1.3467196819085487, + "grad_norm": 0.3187258541584015, + "learning_rate": 2.901454302206473e-06, + "loss": 0.0026, + "num_input_tokens_seen": 19893864, + "step": 10161 + }, + { + "epoch": 1.3468522200132538, + "grad_norm": 0.06205557659268379, + "learning_rate": 2.901111665985286e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19895432, + "step": 10162 + }, + { + "epoch": 1.346984758117959, + "grad_norm": 0.0053013465367257595, + "learning_rate": 2.9007690220303906e-06, + "loss": 0.0, + "num_input_tokens_seen": 19897064, + "step": 10163 + }, + { + "epoch": 1.347117296222664, + "grad_norm": 0.017224103212356567, + "learning_rate": 2.9004263703483914e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19899688, + "step": 10164 + }, + { + "epoch": 1.3472498343273691, + "grad_norm": 2.4016005992889404, + "learning_rate": 2.9000837109458952e-06, + "loss": 0.0334, + "num_input_tokens_seen": 19901032, + "step": 10165 + }, + { + "epoch": 1.3473823724320741, + "grad_norm": 0.02619960345327854, + "learning_rate": 2.8997410438295094e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19902904, + "step": 10166 + }, + { + "epoch": 1.3475149105367792, + "grad_norm": 18.34744644165039, + "learning_rate": 2.8993983690058408e-06, + "loss": 0.4916, + "num_input_tokens_seen": 19905312, + "step": 10167 + }, + { + "epoch": 1.3476474486414844, + "grad_norm": 8.735126495361328, + "learning_rate": 2.8990556864814958e-06, + "loss": 0.2607, + "num_input_tokens_seen": 19907000, + "step": 10168 + }, + { + "epoch": 1.3477799867461895, + "grad_norm": 9.965794563293457, + "learning_rate": 2.8987129962630817e-06, + "loss": 0.2581, + "num_input_tokens_seen": 19909032, + "step": 10169 + }, + { + "epoch": 1.3479125248508947, + "grad_norm": 3.9884376525878906, + "learning_rate": 2.8983702983572058e-06, + "loss": 0.102, + "num_input_tokens_seen": 19910672, + "step": 10170 + }, + { + "epoch": 1.3480450629555998, + "grad_norm": 5.314563274383545, + "learning_rate": 2.8980275927704766e-06, + "loss": 0.0869, + "num_input_tokens_seen": 19912664, + "step": 10171 + }, + { + "epoch": 1.3481776010603048, + "grad_norm": 6.50699520111084, + "learning_rate": 2.8976848795095e-06, + "loss": 0.0239, + "num_input_tokens_seen": 19914544, + "step": 10172 + }, + { + "epoch": 1.3483101391650099, + "grad_norm": 4.813033103942871, + "learning_rate": 2.8973421585808846e-06, + "loss": 0.1234, + "num_input_tokens_seen": 19916416, + "step": 10173 + }, + { + "epoch": 1.3484426772697151, + "grad_norm": 0.07860854268074036, + "learning_rate": 2.8969994299912385e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19917584, + "step": 10174 + }, + { + "epoch": 1.3485752153744202, + "grad_norm": 4.865730285644531, + "learning_rate": 2.8966566937471704e-06, + "loss": 0.0942, + "num_input_tokens_seen": 19920096, + "step": 10175 + }, + { + "epoch": 1.3487077534791252, + "grad_norm": 6.186446666717529, + "learning_rate": 2.8963139498552862e-06, + "loss": 0.0228, + "num_input_tokens_seen": 19921736, + "step": 10176 + }, + { + "epoch": 1.3488402915838305, + "grad_norm": 0.04173063859343529, + "learning_rate": 2.895971198322196e-06, + "loss": 0.0003, + "num_input_tokens_seen": 19924080, + "step": 10177 + }, + { + "epoch": 1.3489728296885355, + "grad_norm": 12.86430835723877, + "learning_rate": 2.8956284391545088e-06, + "loss": 0.1685, + "num_input_tokens_seen": 19925776, + "step": 10178 + }, + { + "epoch": 1.3491053677932405, + "grad_norm": 0.038513023406267166, + "learning_rate": 2.8952856723588313e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19928400, + "step": 10179 + }, + { + "epoch": 1.3492379058979456, + "grad_norm": 8.598003387451172, + "learning_rate": 2.8949428979417737e-06, + "loss": 0.2563, + "num_input_tokens_seen": 19930488, + "step": 10180 + }, + { + "epoch": 1.3493704440026508, + "grad_norm": 3.0397284030914307, + "learning_rate": 2.8946001159099454e-06, + "loss": 0.0348, + "num_input_tokens_seen": 19933040, + "step": 10181 + }, + { + "epoch": 1.3495029821073559, + "grad_norm": 8.168566703796387, + "learning_rate": 2.8942573262699523e-06, + "loss": 0.1854, + "num_input_tokens_seen": 19935176, + "step": 10182 + }, + { + "epoch": 1.349635520212061, + "grad_norm": 4.828032493591309, + "learning_rate": 2.8939145290284082e-06, + "loss": 0.0502, + "num_input_tokens_seen": 19936488, + "step": 10183 + }, + { + "epoch": 1.3497680583167662, + "grad_norm": 0.024451255798339844, + "learning_rate": 2.89357172419192e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19939440, + "step": 10184 + }, + { + "epoch": 1.3499005964214712, + "grad_norm": 0.03356282785534859, + "learning_rate": 2.8932289117670964e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19941448, + "step": 10185 + }, + { + "epoch": 1.3500331345261762, + "grad_norm": 14.649279594421387, + "learning_rate": 2.892886091760549e-06, + "loss": 0.1989, + "num_input_tokens_seen": 19943488, + "step": 10186 + }, + { + "epoch": 1.3501656726308813, + "grad_norm": 7.300917625427246, + "learning_rate": 2.8925432641788862e-06, + "loss": 0.1145, + "num_input_tokens_seen": 19945520, + "step": 10187 + }, + { + "epoch": 1.3502982107355865, + "grad_norm": 3.558278799057007, + "learning_rate": 2.892200429028719e-06, + "loss": 0.0836, + "num_input_tokens_seen": 19947064, + "step": 10188 + }, + { + "epoch": 1.3504307488402916, + "grad_norm": 0.13311751186847687, + "learning_rate": 2.8918575863166572e-06, + "loss": 0.0012, + "num_input_tokens_seen": 19949792, + "step": 10189 + }, + { + "epoch": 1.3505632869449966, + "grad_norm": 4.461389064788818, + "learning_rate": 2.8915147360493095e-06, + "loss": 0.1042, + "num_input_tokens_seen": 19951968, + "step": 10190 + }, + { + "epoch": 1.3506958250497019, + "grad_norm": 6.293132781982422, + "learning_rate": 2.8911718782332888e-06, + "loss": 0.0531, + "num_input_tokens_seen": 19953856, + "step": 10191 + }, + { + "epoch": 1.350828363154407, + "grad_norm": 2.249549388885498, + "learning_rate": 2.8908290128752037e-06, + "loss": 0.0292, + "num_input_tokens_seen": 19955664, + "step": 10192 + }, + { + "epoch": 1.350960901259112, + "grad_norm": 14.243449211120605, + "learning_rate": 2.8904861399816658e-06, + "loss": 0.1987, + "num_input_tokens_seen": 19957880, + "step": 10193 + }, + { + "epoch": 1.351093439363817, + "grad_norm": 5.069923400878906, + "learning_rate": 2.890143259559286e-06, + "loss": 0.0888, + "num_input_tokens_seen": 19960136, + "step": 10194 + }, + { + "epoch": 1.3512259774685222, + "grad_norm": 1.965651273727417, + "learning_rate": 2.8898003716146745e-06, + "loss": 0.0148, + "num_input_tokens_seen": 19962976, + "step": 10195 + }, + { + "epoch": 1.3513585155732273, + "grad_norm": 24.33405113220215, + "learning_rate": 2.8894574761544437e-06, + "loss": 0.1173, + "num_input_tokens_seen": 19965880, + "step": 10196 + }, + { + "epoch": 1.3514910536779325, + "grad_norm": 9.608214378356934, + "learning_rate": 2.889114573185203e-06, + "loss": 0.1648, + "num_input_tokens_seen": 19969280, + "step": 10197 + }, + { + "epoch": 1.3516235917826376, + "grad_norm": 0.01072927750647068, + "learning_rate": 2.888771662713566e-06, + "loss": 0.0001, + "num_input_tokens_seen": 19970960, + "step": 10198 + }, + { + "epoch": 1.3517561298873426, + "grad_norm": 5.591780662536621, + "learning_rate": 2.8884287447461427e-06, + "loss": 0.1571, + "num_input_tokens_seen": 19972808, + "step": 10199 + }, + { + "epoch": 1.3518886679920477, + "grad_norm": 5.871712684631348, + "learning_rate": 2.888085819289545e-06, + "loss": 0.0367, + "num_input_tokens_seen": 19974648, + "step": 10200 + }, + { + "epoch": 1.3520212060967527, + "grad_norm": 5.371670722961426, + "learning_rate": 2.887742886350385e-06, + "loss": 0.0086, + "num_input_tokens_seen": 19976400, + "step": 10201 + }, + { + "epoch": 1.352153744201458, + "grad_norm": 0.9329508543014526, + "learning_rate": 2.8873999459352758e-06, + "loss": 0.008, + "num_input_tokens_seen": 19978400, + "step": 10202 + }, + { + "epoch": 1.352286282306163, + "grad_norm": 9.446467399597168, + "learning_rate": 2.8870569980508266e-06, + "loss": 0.2293, + "num_input_tokens_seen": 19980968, + "step": 10203 + }, + { + "epoch": 1.3524188204108682, + "grad_norm": 7.590339660644531, + "learning_rate": 2.886714042703653e-06, + "loss": 0.2046, + "num_input_tokens_seen": 19983472, + "step": 10204 + }, + { + "epoch": 1.3525513585155733, + "grad_norm": 4.051093101501465, + "learning_rate": 2.8863710799003645e-06, + "loss": 0.0643, + "num_input_tokens_seen": 19985208, + "step": 10205 + }, + { + "epoch": 1.3526838966202783, + "grad_norm": 0.039376918226480484, + "learning_rate": 2.8860281096475764e-06, + "loss": 0.0002, + "num_input_tokens_seen": 19987256, + "step": 10206 + }, + { + "epoch": 1.3528164347249834, + "grad_norm": 12.279695510864258, + "learning_rate": 2.885685131951899e-06, + "loss": 0.4457, + "num_input_tokens_seen": 19989392, + "step": 10207 + }, + { + "epoch": 1.3529489728296884, + "grad_norm": 7.10658597946167, + "learning_rate": 2.8853421468199465e-06, + "loss": 0.0961, + "num_input_tokens_seen": 19991152, + "step": 10208 + }, + { + "epoch": 1.3530815109343937, + "grad_norm": 8.920280456542969, + "learning_rate": 2.8849991542583315e-06, + "loss": 0.2092, + "num_input_tokens_seen": 19992928, + "step": 10209 + }, + { + "epoch": 1.3532140490390987, + "grad_norm": 0.9285838603973389, + "learning_rate": 2.884656154273667e-06, + "loss": 0.0043, + "num_input_tokens_seen": 19994984, + "step": 10210 + }, + { + "epoch": 1.353346587143804, + "grad_norm": 8.971582412719727, + "learning_rate": 2.8843131468725677e-06, + "loss": 0.0741, + "num_input_tokens_seen": 19997408, + "step": 10211 + }, + { + "epoch": 1.353479125248509, + "grad_norm": 5.864439487457275, + "learning_rate": 2.883970132061645e-06, + "loss": 0.1143, + "num_input_tokens_seen": 20000552, + "step": 10212 + }, + { + "epoch": 1.353611663353214, + "grad_norm": 0.030447054654359818, + "learning_rate": 2.8836271098475126e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20003408, + "step": 10213 + }, + { + "epoch": 1.353744201457919, + "grad_norm": 3.24778151512146, + "learning_rate": 2.883284080236786e-06, + "loss": 0.0248, + "num_input_tokens_seen": 20006560, + "step": 10214 + }, + { + "epoch": 1.3538767395626243, + "grad_norm": 0.009181424044072628, + "learning_rate": 2.8829410432360773e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20007880, + "step": 10215 + }, + { + "epoch": 1.3540092776673294, + "grad_norm": 0.016043713316321373, + "learning_rate": 2.8825979988520007e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20009760, + "step": 10216 + }, + { + "epoch": 1.3541418157720344, + "grad_norm": 8.518325805664062, + "learning_rate": 2.882254947091172e-06, + "loss": 0.1072, + "num_input_tokens_seen": 20011560, + "step": 10217 + }, + { + "epoch": 1.3542743538767397, + "grad_norm": 5.284838676452637, + "learning_rate": 2.881911887960203e-06, + "loss": 0.0611, + "num_input_tokens_seen": 20013088, + "step": 10218 + }, + { + "epoch": 1.3544068919814447, + "grad_norm": 4.867649078369141, + "learning_rate": 2.88156882146571e-06, + "loss": 0.1284, + "num_input_tokens_seen": 20014920, + "step": 10219 + }, + { + "epoch": 1.3545394300861497, + "grad_norm": 13.477498054504395, + "learning_rate": 2.8812257476143064e-06, + "loss": 0.4959, + "num_input_tokens_seen": 20017280, + "step": 10220 + }, + { + "epoch": 1.3546719681908548, + "grad_norm": 10.210515975952148, + "learning_rate": 2.8808826664126078e-06, + "loss": 0.1693, + "num_input_tokens_seen": 20019120, + "step": 10221 + }, + { + "epoch": 1.35480450629556, + "grad_norm": 2.6398537158966064, + "learning_rate": 2.8805395778672284e-06, + "loss": 0.0227, + "num_input_tokens_seen": 20021016, + "step": 10222 + }, + { + "epoch": 1.354937044400265, + "grad_norm": 3.121579885482788, + "learning_rate": 2.880196481984784e-06, + "loss": 0.0243, + "num_input_tokens_seen": 20022512, + "step": 10223 + }, + { + "epoch": 1.3550695825049701, + "grad_norm": 3.8359482288360596, + "learning_rate": 2.879853378771888e-06, + "loss": 0.045, + "num_input_tokens_seen": 20024920, + "step": 10224 + }, + { + "epoch": 1.3552021206096754, + "grad_norm": 6.265467166900635, + "learning_rate": 2.8795102682351585e-06, + "loss": 0.2113, + "num_input_tokens_seen": 20027256, + "step": 10225 + }, + { + "epoch": 1.3553346587143804, + "grad_norm": 4.263208866119385, + "learning_rate": 2.8791671503812076e-06, + "loss": 0.0941, + "num_input_tokens_seen": 20029512, + "step": 10226 + }, + { + "epoch": 1.3554671968190855, + "grad_norm": 0.9884427785873413, + "learning_rate": 2.878824025216653e-06, + "loss": 0.008, + "num_input_tokens_seen": 20031040, + "step": 10227 + }, + { + "epoch": 1.3555997349237905, + "grad_norm": 1.610509991645813, + "learning_rate": 2.87848089274811e-06, + "loss": 0.0131, + "num_input_tokens_seen": 20032464, + "step": 10228 + }, + { + "epoch": 1.3557322730284957, + "grad_norm": 14.54312801361084, + "learning_rate": 2.878137752982194e-06, + "loss": 0.4424, + "num_input_tokens_seen": 20034872, + "step": 10229 + }, + { + "epoch": 1.3558648111332008, + "grad_norm": 5.1244049072265625, + "learning_rate": 2.877794605925521e-06, + "loss": 0.1085, + "num_input_tokens_seen": 20036952, + "step": 10230 + }, + { + "epoch": 1.3559973492379058, + "grad_norm": 14.133984565734863, + "learning_rate": 2.8774514515847087e-06, + "loss": 0.3746, + "num_input_tokens_seen": 20039408, + "step": 10231 + }, + { + "epoch": 1.356129887342611, + "grad_norm": 0.022026080638170242, + "learning_rate": 2.877108289966371e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20042696, + "step": 10232 + }, + { + "epoch": 1.3562624254473161, + "grad_norm": 0.014277014881372452, + "learning_rate": 2.8767651210771255e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20044264, + "step": 10233 + }, + { + "epoch": 1.3563949635520212, + "grad_norm": 12.550745010375977, + "learning_rate": 2.876421944923588e-06, + "loss": 0.2026, + "num_input_tokens_seen": 20046000, + "step": 10234 + }, + { + "epoch": 1.3565275016567262, + "grad_norm": 0.06669106334447861, + "learning_rate": 2.8760787615123764e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20048168, + "step": 10235 + }, + { + "epoch": 1.3566600397614315, + "grad_norm": 6.550791263580322, + "learning_rate": 2.8757355708501067e-06, + "loss": 0.099, + "num_input_tokens_seen": 20050192, + "step": 10236 + }, + { + "epoch": 1.3567925778661365, + "grad_norm": 4.426619529724121, + "learning_rate": 2.8753923729433964e-06, + "loss": 0.1262, + "num_input_tokens_seen": 20051984, + "step": 10237 + }, + { + "epoch": 1.3569251159708418, + "grad_norm": 10.63064193725586, + "learning_rate": 2.875049167798861e-06, + "loss": 0.2175, + "num_input_tokens_seen": 20054096, + "step": 10238 + }, + { + "epoch": 1.3570576540755468, + "grad_norm": 13.080416679382324, + "learning_rate": 2.87470595542312e-06, + "loss": 0.3272, + "num_input_tokens_seen": 20056288, + "step": 10239 + }, + { + "epoch": 1.3571901921802518, + "grad_norm": 0.38462960720062256, + "learning_rate": 2.874362735822789e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20058112, + "step": 10240 + }, + { + "epoch": 1.3573227302849569, + "grad_norm": 0.2194252461194992, + "learning_rate": 2.874019509004487e-06, + "loss": 0.0012, + "num_input_tokens_seen": 20059712, + "step": 10241 + }, + { + "epoch": 1.357455268389662, + "grad_norm": 4.273165225982666, + "learning_rate": 2.8736762749748305e-06, + "loss": 0.085, + "num_input_tokens_seen": 20061400, + "step": 10242 + }, + { + "epoch": 1.3575878064943672, + "grad_norm": 0.3740423023700714, + "learning_rate": 2.8733330337404376e-06, + "loss": 0.0017, + "num_input_tokens_seen": 20063776, + "step": 10243 + }, + { + "epoch": 1.3577203445990722, + "grad_norm": 1.5675824880599976, + "learning_rate": 2.8729897853079257e-06, + "loss": 0.016, + "num_input_tokens_seen": 20065576, + "step": 10244 + }, + { + "epoch": 1.3578528827037775, + "grad_norm": 6.7635016441345215, + "learning_rate": 2.872646529683914e-06, + "loss": 0.1116, + "num_input_tokens_seen": 20067072, + "step": 10245 + }, + { + "epoch": 1.3579854208084825, + "grad_norm": 4.161694049835205, + "learning_rate": 2.8723032668750204e-06, + "loss": 0.0461, + "num_input_tokens_seen": 20068392, + "step": 10246 + }, + { + "epoch": 1.3581179589131875, + "grad_norm": 0.04506103694438934, + "learning_rate": 2.871959996887862e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20069672, + "step": 10247 + }, + { + "epoch": 1.3582504970178926, + "grad_norm": 4.090624809265137, + "learning_rate": 2.871616719729059e-06, + "loss": 0.0897, + "num_input_tokens_seen": 20071552, + "step": 10248 + }, + { + "epoch": 1.3583830351225976, + "grad_norm": 4.394562721252441, + "learning_rate": 2.8712734354052293e-06, + "loss": 0.0511, + "num_input_tokens_seen": 20073520, + "step": 10249 + }, + { + "epoch": 1.3585155732273029, + "grad_norm": 5.162529468536377, + "learning_rate": 2.8709301439229916e-06, + "loss": 0.0462, + "num_input_tokens_seen": 20075128, + "step": 10250 + }, + { + "epoch": 1.358648111332008, + "grad_norm": 2.5445590019226074, + "learning_rate": 2.8705868452889646e-06, + "loss": 0.085, + "num_input_tokens_seen": 20076856, + "step": 10251 + }, + { + "epoch": 1.3587806494367132, + "grad_norm": 3.473867654800415, + "learning_rate": 2.870243539509768e-06, + "loss": 0.0978, + "num_input_tokens_seen": 20078312, + "step": 10252 + }, + { + "epoch": 1.3589131875414182, + "grad_norm": 11.80223274230957, + "learning_rate": 2.8699002265920193e-06, + "loss": 0.2638, + "num_input_tokens_seen": 20080264, + "step": 10253 + }, + { + "epoch": 1.3590457256461232, + "grad_norm": 0.14455585181713104, + "learning_rate": 2.86955690654234e-06, + "loss": 0.001, + "num_input_tokens_seen": 20081824, + "step": 10254 + }, + { + "epoch": 1.3591782637508283, + "grad_norm": 0.05246931314468384, + "learning_rate": 2.869213579367349e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20083376, + "step": 10255 + }, + { + "epoch": 1.3593108018555335, + "grad_norm": 1.6229512691497803, + "learning_rate": 2.868870245073665e-06, + "loss": 0.0123, + "num_input_tokens_seen": 20084744, + "step": 10256 + }, + { + "epoch": 1.3594433399602386, + "grad_norm": 7.217762470245361, + "learning_rate": 2.868526903667908e-06, + "loss": 0.1523, + "num_input_tokens_seen": 20086712, + "step": 10257 + }, + { + "epoch": 1.3595758780649436, + "grad_norm": 3.4183149337768555, + "learning_rate": 2.868183555156699e-06, + "loss": 0.0325, + "num_input_tokens_seen": 20088192, + "step": 10258 + }, + { + "epoch": 1.3597084161696489, + "grad_norm": 11.224275588989258, + "learning_rate": 2.867840199546656e-06, + "loss": 0.1021, + "num_input_tokens_seen": 20090112, + "step": 10259 + }, + { + "epoch": 1.359840954274354, + "grad_norm": 5.306778907775879, + "learning_rate": 2.8674968368444004e-06, + "loss": 0.132, + "num_input_tokens_seen": 20091904, + "step": 10260 + }, + { + "epoch": 1.359973492379059, + "grad_norm": 2.3273115158081055, + "learning_rate": 2.867153467056553e-06, + "loss": 0.0155, + "num_input_tokens_seen": 20093648, + "step": 10261 + }, + { + "epoch": 1.360106030483764, + "grad_norm": 5.035145282745361, + "learning_rate": 2.866810090189732e-06, + "loss": 0.1099, + "num_input_tokens_seen": 20095864, + "step": 10262 + }, + { + "epoch": 1.3602385685884693, + "grad_norm": 6.717398166656494, + "learning_rate": 2.866466706250561e-06, + "loss": 0.1171, + "num_input_tokens_seen": 20098552, + "step": 10263 + }, + { + "epoch": 1.3603711066931743, + "grad_norm": 5.512709140777588, + "learning_rate": 2.8661233152456586e-06, + "loss": 0.0603, + "num_input_tokens_seen": 20100304, + "step": 10264 + }, + { + "epoch": 1.3605036447978793, + "grad_norm": 0.025621457025408745, + "learning_rate": 2.8657799171816454e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20101304, + "step": 10265 + }, + { + "epoch": 1.3606361829025846, + "grad_norm": 2.1676132678985596, + "learning_rate": 2.865436512065144e-06, + "loss": 0.0379, + "num_input_tokens_seen": 20103344, + "step": 10266 + }, + { + "epoch": 1.3607687210072896, + "grad_norm": 0.12138326466083527, + "learning_rate": 2.8650930999027736e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20104968, + "step": 10267 + }, + { + "epoch": 1.3609012591119947, + "grad_norm": 6.712257385253906, + "learning_rate": 2.864749680701157e-06, + "loss": 0.1843, + "num_input_tokens_seen": 20106112, + "step": 10268 + }, + { + "epoch": 1.3610337972166997, + "grad_norm": 4.170565128326416, + "learning_rate": 2.8644062544669147e-06, + "loss": 0.0701, + "num_input_tokens_seen": 20107552, + "step": 10269 + }, + { + "epoch": 1.361166335321405, + "grad_norm": 10.114723205566406, + "learning_rate": 2.864062821206669e-06, + "loss": 0.3739, + "num_input_tokens_seen": 20109184, + "step": 10270 + }, + { + "epoch": 1.36129887342611, + "grad_norm": 12.09151840209961, + "learning_rate": 2.86371938092704e-06, + "loss": 0.2708, + "num_input_tokens_seen": 20112032, + "step": 10271 + }, + { + "epoch": 1.361431411530815, + "grad_norm": 7.512026786804199, + "learning_rate": 2.8633759336346515e-06, + "loss": 0.1339, + "num_input_tokens_seen": 20115056, + "step": 10272 + }, + { + "epoch": 1.3615639496355203, + "grad_norm": 6.696202278137207, + "learning_rate": 2.8630324793361236e-06, + "loss": 0.1857, + "num_input_tokens_seen": 20117688, + "step": 10273 + }, + { + "epoch": 1.3616964877402253, + "grad_norm": 7.93437385559082, + "learning_rate": 2.862689018038079e-06, + "loss": 0.1602, + "num_input_tokens_seen": 20119112, + "step": 10274 + }, + { + "epoch": 1.3618290258449304, + "grad_norm": 0.15057912468910217, + "learning_rate": 2.86234554974714e-06, + "loss": 0.0022, + "num_input_tokens_seen": 20120848, + "step": 10275 + }, + { + "epoch": 1.3619615639496354, + "grad_norm": 0.11671590059995651, + "learning_rate": 2.8620020744699296e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20122192, + "step": 10276 + }, + { + "epoch": 1.3620941020543407, + "grad_norm": 1.5508573055267334, + "learning_rate": 2.8616585922130684e-06, + "loss": 0.0122, + "num_input_tokens_seen": 20123816, + "step": 10277 + }, + { + "epoch": 1.3622266401590457, + "grad_norm": 2.985682964324951, + "learning_rate": 2.8613151029831803e-06, + "loss": 0.0183, + "num_input_tokens_seen": 20125768, + "step": 10278 + }, + { + "epoch": 1.3623591782637507, + "grad_norm": 0.6363770365715027, + "learning_rate": 2.860971606786888e-06, + "loss": 0.0041, + "num_input_tokens_seen": 20127816, + "step": 10279 + }, + { + "epoch": 1.362491716368456, + "grad_norm": 2.284545660018921, + "learning_rate": 2.8606281036308136e-06, + "loss": 0.0328, + "num_input_tokens_seen": 20128968, + "step": 10280 + }, + { + "epoch": 1.362624254473161, + "grad_norm": 4.79076623916626, + "learning_rate": 2.860284593521581e-06, + "loss": 0.0576, + "num_input_tokens_seen": 20130584, + "step": 10281 + }, + { + "epoch": 1.362756792577866, + "grad_norm": 0.6736502647399902, + "learning_rate": 2.8599410764658138e-06, + "loss": 0.0042, + "num_input_tokens_seen": 20131984, + "step": 10282 + }, + { + "epoch": 1.3628893306825711, + "grad_norm": 1.1504400968551636, + "learning_rate": 2.8595975524701326e-06, + "loss": 0.0077, + "num_input_tokens_seen": 20133944, + "step": 10283 + }, + { + "epoch": 1.3630218687872764, + "grad_norm": 0.2669570744037628, + "learning_rate": 2.8592540215411637e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20135000, + "step": 10284 + }, + { + "epoch": 1.3631544068919814, + "grad_norm": 3.761084794998169, + "learning_rate": 2.85891048368553e-06, + "loss": 0.0168, + "num_input_tokens_seen": 20138040, + "step": 10285 + }, + { + "epoch": 1.3632869449966867, + "grad_norm": 5.310940742492676, + "learning_rate": 2.8585669389098525e-06, + "loss": 0.0231, + "num_input_tokens_seen": 20140312, + "step": 10286 + }, + { + "epoch": 1.3634194831013917, + "grad_norm": 22.121137619018555, + "learning_rate": 2.858223387220758e-06, + "loss": 0.1966, + "num_input_tokens_seen": 20141520, + "step": 10287 + }, + { + "epoch": 1.3635520212060968, + "grad_norm": 0.9412453174591064, + "learning_rate": 2.85787982862487e-06, + "loss": 0.0053, + "num_input_tokens_seen": 20143240, + "step": 10288 + }, + { + "epoch": 1.3636845593108018, + "grad_norm": 16.68670082092285, + "learning_rate": 2.857536263128812e-06, + "loss": 0.402, + "num_input_tokens_seen": 20145456, + "step": 10289 + }, + { + "epoch": 1.3638170974155068, + "grad_norm": 9.812102317810059, + "learning_rate": 2.8571926907392077e-06, + "loss": 0.1274, + "num_input_tokens_seen": 20147752, + "step": 10290 + }, + { + "epoch": 1.363949635520212, + "grad_norm": 1.9744746685028076, + "learning_rate": 2.856849111462682e-06, + "loss": 0.0121, + "num_input_tokens_seen": 20149424, + "step": 10291 + }, + { + "epoch": 1.3640821736249171, + "grad_norm": 7.101957321166992, + "learning_rate": 2.8565055253058595e-06, + "loss": 0.1704, + "num_input_tokens_seen": 20151376, + "step": 10292 + }, + { + "epoch": 1.3642147117296224, + "grad_norm": 10.328837394714355, + "learning_rate": 2.8561619322753635e-06, + "loss": 0.151, + "num_input_tokens_seen": 20153816, + "step": 10293 + }, + { + "epoch": 1.3643472498343274, + "grad_norm": 8.471162796020508, + "learning_rate": 2.855818332377821e-06, + "loss": 0.0582, + "num_input_tokens_seen": 20155968, + "step": 10294 + }, + { + "epoch": 1.3644797879390325, + "grad_norm": 5.953080177307129, + "learning_rate": 2.8554747256198555e-06, + "loss": 0.0525, + "num_input_tokens_seen": 20157768, + "step": 10295 + }, + { + "epoch": 1.3646123260437375, + "grad_norm": 0.03656305745244026, + "learning_rate": 2.8551311120080915e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20159520, + "step": 10296 + }, + { + "epoch": 1.3647448641484428, + "grad_norm": 0.029501622542738914, + "learning_rate": 2.8547874915491554e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20160872, + "step": 10297 + }, + { + "epoch": 1.3648774022531478, + "grad_norm": 0.943374752998352, + "learning_rate": 2.85444386424967e-06, + "loss": 0.0054, + "num_input_tokens_seen": 20162976, + "step": 10298 + }, + { + "epoch": 1.3650099403578528, + "grad_norm": 2.241506576538086, + "learning_rate": 2.8541002301162647e-06, + "loss": 0.0201, + "num_input_tokens_seen": 20164552, + "step": 10299 + }, + { + "epoch": 1.365142478462558, + "grad_norm": 12.566509246826172, + "learning_rate": 2.8537565891555615e-06, + "loss": 0.414, + "num_input_tokens_seen": 20166928, + "step": 10300 + }, + { + "epoch": 1.3652750165672631, + "grad_norm": 8.582292556762695, + "learning_rate": 2.853412941374187e-06, + "loss": 0.1756, + "num_input_tokens_seen": 20168936, + "step": 10301 + }, + { + "epoch": 1.3654075546719682, + "grad_norm": 2.428239107131958, + "learning_rate": 2.853069286778768e-06, + "loss": 0.0069, + "num_input_tokens_seen": 20171320, + "step": 10302 + }, + { + "epoch": 1.3655400927766732, + "grad_norm": 15.82681941986084, + "learning_rate": 2.8527256253759284e-06, + "loss": 0.3676, + "num_input_tokens_seen": 20173088, + "step": 10303 + }, + { + "epoch": 1.3656726308813785, + "grad_norm": 0.0718628391623497, + "learning_rate": 2.852381957172296e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20176328, + "step": 10304 + }, + { + "epoch": 1.3658051689860835, + "grad_norm": 5.051784515380859, + "learning_rate": 2.852038282174497e-06, + "loss": 0.0263, + "num_input_tokens_seen": 20178168, + "step": 10305 + }, + { + "epoch": 1.3659377070907885, + "grad_norm": 0.08920305222272873, + "learning_rate": 2.8516946003891566e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20180504, + "step": 10306 + }, + { + "epoch": 1.3660702451954938, + "grad_norm": 8.767950057983398, + "learning_rate": 2.851350911822901e-06, + "loss": 0.2199, + "num_input_tokens_seen": 20182944, + "step": 10307 + }, + { + "epoch": 1.3662027833001988, + "grad_norm": 2.9058895111083984, + "learning_rate": 2.851007216482359e-06, + "loss": 0.0114, + "num_input_tokens_seen": 20185000, + "step": 10308 + }, + { + "epoch": 1.3663353214049039, + "grad_norm": 6.984080791473389, + "learning_rate": 2.850663514374154e-06, + "loss": 0.1136, + "num_input_tokens_seen": 20186944, + "step": 10309 + }, + { + "epoch": 1.366467859509609, + "grad_norm": 9.4683256149292, + "learning_rate": 2.8503198055049153e-06, + "loss": 0.104, + "num_input_tokens_seen": 20188608, + "step": 10310 + }, + { + "epoch": 1.3666003976143142, + "grad_norm": 10.349664688110352, + "learning_rate": 2.849976089881269e-06, + "loss": 0.1551, + "num_input_tokens_seen": 20190016, + "step": 10311 + }, + { + "epoch": 1.3667329357190192, + "grad_norm": 1.6757444143295288, + "learning_rate": 2.8496323675098427e-06, + "loss": 0.0103, + "num_input_tokens_seen": 20191664, + "step": 10312 + }, + { + "epoch": 1.3668654738237243, + "grad_norm": 0.00777265802025795, + "learning_rate": 2.8492886383972623e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20192840, + "step": 10313 + }, + { + "epoch": 1.3669980119284295, + "grad_norm": 6.374345779418945, + "learning_rate": 2.8489449025501564e-06, + "loss": 0.1638, + "num_input_tokens_seen": 20194288, + "step": 10314 + }, + { + "epoch": 1.3671305500331346, + "grad_norm": 0.0755545124411583, + "learning_rate": 2.8486011599751516e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20195888, + "step": 10315 + }, + { + "epoch": 1.3672630881378396, + "grad_norm": 0.42357337474823, + "learning_rate": 2.848257410678877e-06, + "loss": 0.0038, + "num_input_tokens_seen": 20197672, + "step": 10316 + }, + { + "epoch": 1.3673956262425446, + "grad_norm": 6.133724689483643, + "learning_rate": 2.847913654667959e-06, + "loss": 0.0958, + "num_input_tokens_seen": 20199616, + "step": 10317 + }, + { + "epoch": 1.3675281643472499, + "grad_norm": 8.292734146118164, + "learning_rate": 2.8475698919490252e-06, + "loss": 0.1518, + "num_input_tokens_seen": 20202296, + "step": 10318 + }, + { + "epoch": 1.367660702451955, + "grad_norm": 3.567265272140503, + "learning_rate": 2.847226122528704e-06, + "loss": 0.0831, + "num_input_tokens_seen": 20204152, + "step": 10319 + }, + { + "epoch": 1.36779324055666, + "grad_norm": 3.355271339416504, + "learning_rate": 2.8468823464136247e-06, + "loss": 0.1029, + "num_input_tokens_seen": 20205176, + "step": 10320 + }, + { + "epoch": 1.3679257786613652, + "grad_norm": 0.9234265685081482, + "learning_rate": 2.846538563610413e-06, + "loss": 0.004, + "num_input_tokens_seen": 20206832, + "step": 10321 + }, + { + "epoch": 1.3680583167660703, + "grad_norm": 0.3051629066467285, + "learning_rate": 2.8461947741256995e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20208704, + "step": 10322 + }, + { + "epoch": 1.3681908548707753, + "grad_norm": 14.910869598388672, + "learning_rate": 2.8458509779661127e-06, + "loss": 0.2117, + "num_input_tokens_seen": 20210728, + "step": 10323 + }, + { + "epoch": 1.3683233929754803, + "grad_norm": 8.039057731628418, + "learning_rate": 2.845507175138279e-06, + "loss": 0.2379, + "num_input_tokens_seen": 20213392, + "step": 10324 + }, + { + "epoch": 1.3684559310801856, + "grad_norm": 0.037988003343343735, + "learning_rate": 2.8451633656488292e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20215456, + "step": 10325 + }, + { + "epoch": 1.3685884691848906, + "grad_norm": 7.742657661437988, + "learning_rate": 2.8448195495043924e-06, + "loss": 0.102, + "num_input_tokens_seen": 20217792, + "step": 10326 + }, + { + "epoch": 1.368721007289596, + "grad_norm": 4.368834972381592, + "learning_rate": 2.844475726711595e-06, + "loss": 0.0826, + "num_input_tokens_seen": 20219568, + "step": 10327 + }, + { + "epoch": 1.368853545394301, + "grad_norm": 7.590453624725342, + "learning_rate": 2.844131897277069e-06, + "loss": 0.1541, + "num_input_tokens_seen": 20221040, + "step": 10328 + }, + { + "epoch": 1.368986083499006, + "grad_norm": 3.8208529949188232, + "learning_rate": 2.843788061207444e-06, + "loss": 0.0478, + "num_input_tokens_seen": 20222896, + "step": 10329 + }, + { + "epoch": 1.369118621603711, + "grad_norm": 0.543812096118927, + "learning_rate": 2.8434442185093453e-06, + "loss": 0.0039, + "num_input_tokens_seen": 20224576, + "step": 10330 + }, + { + "epoch": 1.369251159708416, + "grad_norm": 3.001206874847412, + "learning_rate": 2.843100369189407e-06, + "loss": 0.0813, + "num_input_tokens_seen": 20226528, + "step": 10331 + }, + { + "epoch": 1.3693836978131213, + "grad_norm": 0.16421914100646973, + "learning_rate": 2.8427565132542562e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20228864, + "step": 10332 + }, + { + "epoch": 1.3695162359178263, + "grad_norm": 8.166908264160156, + "learning_rate": 2.842412650710523e-06, + "loss": 0.1447, + "num_input_tokens_seen": 20230992, + "step": 10333 + }, + { + "epoch": 1.3696487740225316, + "grad_norm": 5.81083345413208, + "learning_rate": 2.842068781564839e-06, + "loss": 0.2562, + "num_input_tokens_seen": 20233384, + "step": 10334 + }, + { + "epoch": 1.3697813121272366, + "grad_norm": 0.9662743210792542, + "learning_rate": 2.841724905823832e-06, + "loss": 0.0092, + "num_input_tokens_seen": 20235328, + "step": 10335 + }, + { + "epoch": 1.3699138502319417, + "grad_norm": 17.670150756835938, + "learning_rate": 2.841381023494133e-06, + "loss": 0.4182, + "num_input_tokens_seen": 20236992, + "step": 10336 + }, + { + "epoch": 1.3700463883366467, + "grad_norm": 0.040695711970329285, + "learning_rate": 2.8410371345823722e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20238904, + "step": 10337 + }, + { + "epoch": 1.3701789264413518, + "grad_norm": 0.2721966803073883, + "learning_rate": 2.8406932390951814e-06, + "loss": 0.0014, + "num_input_tokens_seen": 20240208, + "step": 10338 + }, + { + "epoch": 1.370311464546057, + "grad_norm": 18.994857788085938, + "learning_rate": 2.8403493370391887e-06, + "loss": 0.3366, + "num_input_tokens_seen": 20242352, + "step": 10339 + }, + { + "epoch": 1.370444002650762, + "grad_norm": 0.026472801342606544, + "learning_rate": 2.840005428421026e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20243912, + "step": 10340 + }, + { + "epoch": 1.3705765407554673, + "grad_norm": 0.19931645691394806, + "learning_rate": 2.839661513247325e-06, + "loss": 0.0011, + "num_input_tokens_seen": 20245736, + "step": 10341 + }, + { + "epoch": 1.3707090788601723, + "grad_norm": 0.023659413680434227, + "learning_rate": 2.839317591524715e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20247456, + "step": 10342 + }, + { + "epoch": 1.3708416169648774, + "grad_norm": 6.474206447601318, + "learning_rate": 2.8389736632598275e-06, + "loss": 0.1612, + "num_input_tokens_seen": 20249440, + "step": 10343 + }, + { + "epoch": 1.3709741550695824, + "grad_norm": 0.013446916826069355, + "learning_rate": 2.8386297284592944e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20250824, + "step": 10344 + }, + { + "epoch": 1.3711066931742877, + "grad_norm": 14.753133773803711, + "learning_rate": 2.8382857871297458e-06, + "loss": 0.2521, + "num_input_tokens_seen": 20252976, + "step": 10345 + }, + { + "epoch": 1.3712392312789927, + "grad_norm": 4.31685733795166, + "learning_rate": 2.837941839277815e-06, + "loss": 0.0875, + "num_input_tokens_seen": 20254864, + "step": 10346 + }, + { + "epoch": 1.3713717693836978, + "grad_norm": 5.400439262390137, + "learning_rate": 2.8375978849101328e-06, + "loss": 0.1157, + "num_input_tokens_seen": 20256376, + "step": 10347 + }, + { + "epoch": 1.371504307488403, + "grad_norm": 7.819105625152588, + "learning_rate": 2.8372539240333287e-06, + "loss": 0.2554, + "num_input_tokens_seen": 20258000, + "step": 10348 + }, + { + "epoch": 1.371636845593108, + "grad_norm": 11.385879516601562, + "learning_rate": 2.836909956654037e-06, + "loss": 0.2496, + "num_input_tokens_seen": 20259896, + "step": 10349 + }, + { + "epoch": 1.371769383697813, + "grad_norm": 0.12775881588459015, + "learning_rate": 2.8365659827788893e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20262352, + "step": 10350 + }, + { + "epoch": 1.3719019218025181, + "grad_norm": 8.935964584350586, + "learning_rate": 2.8362220024145164e-06, + "loss": 0.1398, + "num_input_tokens_seen": 20264624, + "step": 10351 + }, + { + "epoch": 1.3720344599072234, + "grad_norm": 14.91470718383789, + "learning_rate": 2.8358780155675525e-06, + "loss": 0.3691, + "num_input_tokens_seen": 20266120, + "step": 10352 + }, + { + "epoch": 1.3721669980119284, + "grad_norm": 3.048900604248047, + "learning_rate": 2.835534022244628e-06, + "loss": 0.0316, + "num_input_tokens_seen": 20267808, + "step": 10353 + }, + { + "epoch": 1.3722995361166335, + "grad_norm": 0.12697701156139374, + "learning_rate": 2.8351900224523766e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20269184, + "step": 10354 + }, + { + "epoch": 1.3724320742213387, + "grad_norm": 0.09627808630466461, + "learning_rate": 2.8348460161974294e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20271632, + "step": 10355 + }, + { + "epoch": 1.3725646123260438, + "grad_norm": 3.2159152030944824, + "learning_rate": 2.8345020034864213e-06, + "loss": 0.0407, + "num_input_tokens_seen": 20273248, + "step": 10356 + }, + { + "epoch": 1.3726971504307488, + "grad_norm": 1.2430331707000732, + "learning_rate": 2.834157984325983e-06, + "loss": 0.0038, + "num_input_tokens_seen": 20274544, + "step": 10357 + }, + { + "epoch": 1.3728296885354538, + "grad_norm": 8.720396995544434, + "learning_rate": 2.833813958722748e-06, + "loss": 0.1205, + "num_input_tokens_seen": 20276720, + "step": 10358 + }, + { + "epoch": 1.372962226640159, + "grad_norm": 9.535908699035645, + "learning_rate": 2.83346992668335e-06, + "loss": 0.2483, + "num_input_tokens_seen": 20279160, + "step": 10359 + }, + { + "epoch": 1.3730947647448641, + "grad_norm": 11.56834888458252, + "learning_rate": 2.833125888214422e-06, + "loss": 0.1703, + "num_input_tokens_seen": 20281112, + "step": 10360 + }, + { + "epoch": 1.3732273028495692, + "grad_norm": 7.1938982009887695, + "learning_rate": 2.832781843322597e-06, + "loss": 0.0781, + "num_input_tokens_seen": 20283200, + "step": 10361 + }, + { + "epoch": 1.3733598409542744, + "grad_norm": 8.007373809814453, + "learning_rate": 2.8324377920145085e-06, + "loss": 0.25, + "num_input_tokens_seen": 20285104, + "step": 10362 + }, + { + "epoch": 1.3734923790589795, + "grad_norm": 20.793052673339844, + "learning_rate": 2.8320937342967892e-06, + "loss": 0.6114, + "num_input_tokens_seen": 20287552, + "step": 10363 + }, + { + "epoch": 1.3736249171636845, + "grad_norm": 8.44959831237793, + "learning_rate": 2.8317496701760743e-06, + "loss": 0.1284, + "num_input_tokens_seen": 20289304, + "step": 10364 + }, + { + "epoch": 1.3737574552683895, + "grad_norm": 6.841488838195801, + "learning_rate": 2.8314055996589973e-06, + "loss": 0.0395, + "num_input_tokens_seen": 20291360, + "step": 10365 + }, + { + "epoch": 1.3738899933730948, + "grad_norm": 5.396323204040527, + "learning_rate": 2.831061522752191e-06, + "loss": 0.1209, + "num_input_tokens_seen": 20293432, + "step": 10366 + }, + { + "epoch": 1.3740225314777998, + "grad_norm": 5.499234676361084, + "learning_rate": 2.8307174394622904e-06, + "loss": 0.0999, + "num_input_tokens_seen": 20295392, + "step": 10367 + }, + { + "epoch": 1.374155069582505, + "grad_norm": 0.12524831295013428, + "learning_rate": 2.8303733497959296e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20297832, + "step": 10368 + }, + { + "epoch": 1.3742876076872101, + "grad_norm": 1.9644845724105835, + "learning_rate": 2.8300292537597417e-06, + "loss": 0.0161, + "num_input_tokens_seen": 20300736, + "step": 10369 + }, + { + "epoch": 1.3744201457919152, + "grad_norm": 0.7431864738464355, + "learning_rate": 2.8296851513603636e-06, + "loss": 0.0017, + "num_input_tokens_seen": 20302400, + "step": 10370 + }, + { + "epoch": 1.3745526838966202, + "grad_norm": 0.12795034050941467, + "learning_rate": 2.8293410426044276e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20305808, + "step": 10371 + }, + { + "epoch": 1.3746852220013253, + "grad_norm": 10.205643653869629, + "learning_rate": 2.828996927498569e-06, + "loss": 0.1156, + "num_input_tokens_seen": 20307616, + "step": 10372 + }, + { + "epoch": 1.3748177601060305, + "grad_norm": 10.105992317199707, + "learning_rate": 2.8286528060494233e-06, + "loss": 0.2117, + "num_input_tokens_seen": 20309696, + "step": 10373 + }, + { + "epoch": 1.3749502982107356, + "grad_norm": 2.8062946796417236, + "learning_rate": 2.828308678263624e-06, + "loss": 0.0946, + "num_input_tokens_seen": 20313200, + "step": 10374 + }, + { + "epoch": 1.3750828363154408, + "grad_norm": 3.965085029602051, + "learning_rate": 2.8279645441478072e-06, + "loss": 0.0568, + "num_input_tokens_seen": 20315184, + "step": 10375 + }, + { + "epoch": 1.3752153744201459, + "grad_norm": 4.602263450622559, + "learning_rate": 2.8276204037086073e-06, + "loss": 0.065, + "num_input_tokens_seen": 20317344, + "step": 10376 + }, + { + "epoch": 1.375347912524851, + "grad_norm": 8.008227348327637, + "learning_rate": 2.827276256952661e-06, + "loss": 0.2021, + "num_input_tokens_seen": 20318992, + "step": 10377 + }, + { + "epoch": 1.375480450629556, + "grad_norm": 11.01041316986084, + "learning_rate": 2.826932103886602e-06, + "loss": 0.3012, + "num_input_tokens_seen": 20321840, + "step": 10378 + }, + { + "epoch": 1.375612988734261, + "grad_norm": 6.367805004119873, + "learning_rate": 2.8265879445170662e-06, + "loss": 0.1274, + "num_input_tokens_seen": 20324056, + "step": 10379 + }, + { + "epoch": 1.3757455268389662, + "grad_norm": 2.3177542686462402, + "learning_rate": 2.8262437788506904e-06, + "loss": 0.006, + "num_input_tokens_seen": 20326784, + "step": 10380 + }, + { + "epoch": 1.3758780649436713, + "grad_norm": 0.3130215108394623, + "learning_rate": 2.8258996068941085e-06, + "loss": 0.002, + "num_input_tokens_seen": 20328448, + "step": 10381 + }, + { + "epoch": 1.3760106030483765, + "grad_norm": 4.384000301361084, + "learning_rate": 2.8255554286539583e-06, + "loss": 0.0388, + "num_input_tokens_seen": 20330384, + "step": 10382 + }, + { + "epoch": 1.3761431411530816, + "grad_norm": 12.097065925598145, + "learning_rate": 2.8252112441368744e-06, + "loss": 0.2576, + "num_input_tokens_seen": 20331960, + "step": 10383 + }, + { + "epoch": 1.3762756792577866, + "grad_norm": 10.108831405639648, + "learning_rate": 2.824867053349493e-06, + "loss": 0.285, + "num_input_tokens_seen": 20334048, + "step": 10384 + }, + { + "epoch": 1.3764082173624916, + "grad_norm": 0.09586158394813538, + "learning_rate": 2.8245228562984518e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20336216, + "step": 10385 + }, + { + "epoch": 1.376540755467197, + "grad_norm": 8.426509857177734, + "learning_rate": 2.8241786529903853e-06, + "loss": 0.2734, + "num_input_tokens_seen": 20338056, + "step": 10386 + }, + { + "epoch": 1.376673293571902, + "grad_norm": 12.111716270446777, + "learning_rate": 2.8238344434319306e-06, + "loss": 0.1966, + "num_input_tokens_seen": 20339960, + "step": 10387 + }, + { + "epoch": 1.376805831676607, + "grad_norm": 9.422719955444336, + "learning_rate": 2.823490227629725e-06, + "loss": 0.056, + "num_input_tokens_seen": 20341808, + "step": 10388 + }, + { + "epoch": 1.3769383697813122, + "grad_norm": 0.0920829102396965, + "learning_rate": 2.823146005590404e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20343848, + "step": 10389 + }, + { + "epoch": 1.3770709078860173, + "grad_norm": 12.219758033752441, + "learning_rate": 2.8228017773206052e-06, + "loss": 0.1352, + "num_input_tokens_seen": 20345472, + "step": 10390 + }, + { + "epoch": 1.3772034459907223, + "grad_norm": 6.981125354766846, + "learning_rate": 2.8224575428269663e-06, + "loss": 0.1797, + "num_input_tokens_seen": 20347760, + "step": 10391 + }, + { + "epoch": 1.3773359840954273, + "grad_norm": 2.835998296737671, + "learning_rate": 2.8221133021161225e-06, + "loss": 0.0303, + "num_input_tokens_seen": 20350008, + "step": 10392 + }, + { + "epoch": 1.3774685222001326, + "grad_norm": 0.34046420454978943, + "learning_rate": 2.821769055194712e-06, + "loss": 0.0026, + "num_input_tokens_seen": 20351576, + "step": 10393 + }, + { + "epoch": 1.3776010603048376, + "grad_norm": 0.14385081827640533, + "learning_rate": 2.8214248020693726e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20352944, + "step": 10394 + }, + { + "epoch": 1.3777335984095427, + "grad_norm": 1.46402108669281, + "learning_rate": 2.8210805427467408e-06, + "loss": 0.0086, + "num_input_tokens_seen": 20355936, + "step": 10395 + }, + { + "epoch": 1.377866136514248, + "grad_norm": 9.110713005065918, + "learning_rate": 2.820736277233455e-06, + "loss": 0.1026, + "num_input_tokens_seen": 20357960, + "step": 10396 + }, + { + "epoch": 1.377998674618953, + "grad_norm": 0.09277038276195526, + "learning_rate": 2.8203920055361526e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20361016, + "step": 10397 + }, + { + "epoch": 1.378131212723658, + "grad_norm": 15.511788368225098, + "learning_rate": 2.8200477276614714e-06, + "loss": 0.1336, + "num_input_tokens_seen": 20362536, + "step": 10398 + }, + { + "epoch": 1.378263750828363, + "grad_norm": 9.558394432067871, + "learning_rate": 2.8197034436160494e-06, + "loss": 0.169, + "num_input_tokens_seen": 20364296, + "step": 10399 + }, + { + "epoch": 1.3783962889330683, + "grad_norm": 0.20659379661083221, + "learning_rate": 2.8193591534065233e-06, + "loss": 0.0015, + "num_input_tokens_seen": 20365600, + "step": 10400 + }, + { + "epoch": 1.3785288270377734, + "grad_norm": 0.09778586775064468, + "learning_rate": 2.819014857039533e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20367480, + "step": 10401 + }, + { + "epoch": 1.3786613651424784, + "grad_norm": 0.20377711951732635, + "learning_rate": 2.8186705545217163e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20369072, + "step": 10402 + }, + { + "epoch": 1.3787939032471836, + "grad_norm": 0.22968515753746033, + "learning_rate": 2.818326245859712e-06, + "loss": 0.0011, + "num_input_tokens_seen": 20370496, + "step": 10403 + }, + { + "epoch": 1.3789264413518887, + "grad_norm": 1.510170578956604, + "learning_rate": 2.8179819310601573e-06, + "loss": 0.0086, + "num_input_tokens_seen": 20372352, + "step": 10404 + }, + { + "epoch": 1.3790589794565937, + "grad_norm": 0.6657647490501404, + "learning_rate": 2.817637610129692e-06, + "loss": 0.0036, + "num_input_tokens_seen": 20374136, + "step": 10405 + }, + { + "epoch": 1.3791915175612988, + "grad_norm": 0.04369795322418213, + "learning_rate": 2.8172932830749548e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20375720, + "step": 10406 + }, + { + "epoch": 1.379324055666004, + "grad_norm": 5.477841854095459, + "learning_rate": 2.816948949902583e-06, + "loss": 0.0801, + "num_input_tokens_seen": 20378448, + "step": 10407 + }, + { + "epoch": 1.379456593770709, + "grad_norm": 3.954936981201172, + "learning_rate": 2.8166046106192178e-06, + "loss": 0.066, + "num_input_tokens_seen": 20380944, + "step": 10408 + }, + { + "epoch": 1.379589131875414, + "grad_norm": 0.27908411622047424, + "learning_rate": 2.816260265231498e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20382280, + "step": 10409 + }, + { + "epoch": 1.3797216699801194, + "grad_norm": 0.03562706336379051, + "learning_rate": 2.8159159137460603e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20384168, + "step": 10410 + }, + { + "epoch": 1.3798542080848244, + "grad_norm": 0.389545202255249, + "learning_rate": 2.8155715561695467e-06, + "loss": 0.0013, + "num_input_tokens_seen": 20386056, + "step": 10411 + }, + { + "epoch": 1.3799867461895294, + "grad_norm": 8.96086597442627, + "learning_rate": 2.815227192508596e-06, + "loss": 0.2516, + "num_input_tokens_seen": 20388384, + "step": 10412 + }, + { + "epoch": 1.3801192842942345, + "grad_norm": 0.7904037237167358, + "learning_rate": 2.814882822769847e-06, + "loss": 0.0034, + "num_input_tokens_seen": 20389656, + "step": 10413 + }, + { + "epoch": 1.3802518223989397, + "grad_norm": 0.011315170675516129, + "learning_rate": 2.8145384469599406e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20390872, + "step": 10414 + }, + { + "epoch": 1.3803843605036448, + "grad_norm": 5.591720104217529, + "learning_rate": 2.814194065085516e-06, + "loss": 0.0385, + "num_input_tokens_seen": 20392072, + "step": 10415 + }, + { + "epoch": 1.38051689860835, + "grad_norm": 12.15715217590332, + "learning_rate": 2.8138496771532128e-06, + "loss": 0.2143, + "num_input_tokens_seen": 20393672, + "step": 10416 + }, + { + "epoch": 1.380649436713055, + "grad_norm": 9.443870544433594, + "learning_rate": 2.8135052831696713e-06, + "loss": 0.2079, + "num_input_tokens_seen": 20396280, + "step": 10417 + }, + { + "epoch": 1.38078197481776, + "grad_norm": 13.527814865112305, + "learning_rate": 2.8131608831415313e-06, + "loss": 0.1683, + "num_input_tokens_seen": 20398216, + "step": 10418 + }, + { + "epoch": 1.3809145129224651, + "grad_norm": 0.0022506157401949167, + "learning_rate": 2.812816477075434e-06, + "loss": 0.0, + "num_input_tokens_seen": 20399544, + "step": 10419 + }, + { + "epoch": 1.3810470510271702, + "grad_norm": 8.63974666595459, + "learning_rate": 2.8124720649780186e-06, + "loss": 0.1409, + "num_input_tokens_seen": 20401168, + "step": 10420 + }, + { + "epoch": 1.3811795891318754, + "grad_norm": 0.01717144250869751, + "learning_rate": 2.812127646855927e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20404264, + "step": 10421 + }, + { + "epoch": 1.3813121272365805, + "grad_norm": 1.1958845853805542, + "learning_rate": 2.8117832227157986e-06, + "loss": 0.0058, + "num_input_tokens_seen": 20407736, + "step": 10422 + }, + { + "epoch": 1.3814446653412857, + "grad_norm": 8.497928619384766, + "learning_rate": 2.8114387925642743e-06, + "loss": 0.1717, + "num_input_tokens_seen": 20409248, + "step": 10423 + }, + { + "epoch": 1.3815772034459908, + "grad_norm": 5.585585594177246, + "learning_rate": 2.8110943564079962e-06, + "loss": 0.0402, + "num_input_tokens_seen": 20410664, + "step": 10424 + }, + { + "epoch": 1.3817097415506958, + "grad_norm": 0.012229116633534431, + "learning_rate": 2.8107499142536026e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20412856, + "step": 10425 + }, + { + "epoch": 1.3818422796554009, + "grad_norm": 0.10501024127006531, + "learning_rate": 2.810405466107738e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20414360, + "step": 10426 + }, + { + "epoch": 1.3819748177601061, + "grad_norm": 5.115072250366211, + "learning_rate": 2.8100610119770416e-06, + "loss": 0.129, + "num_input_tokens_seen": 20416760, + "step": 10427 + }, + { + "epoch": 1.3821073558648111, + "grad_norm": 9.215903282165527, + "learning_rate": 2.8097165518681537e-06, + "loss": 0.218, + "num_input_tokens_seen": 20419256, + "step": 10428 + }, + { + "epoch": 1.3822398939695162, + "grad_norm": 4.782633304595947, + "learning_rate": 2.809372085787718e-06, + "loss": 0.1543, + "num_input_tokens_seen": 20421064, + "step": 10429 + }, + { + "epoch": 1.3823724320742214, + "grad_norm": 9.270026206970215, + "learning_rate": 2.8090276137423755e-06, + "loss": 0.1809, + "num_input_tokens_seen": 20423096, + "step": 10430 + }, + { + "epoch": 1.3825049701789265, + "grad_norm": 5.7914814949035645, + "learning_rate": 2.8086831357387667e-06, + "loss": 0.1416, + "num_input_tokens_seen": 20425040, + "step": 10431 + }, + { + "epoch": 1.3826375082836315, + "grad_norm": 6.540102958679199, + "learning_rate": 2.8083386517835343e-06, + "loss": 0.1587, + "num_input_tokens_seen": 20426864, + "step": 10432 + }, + { + "epoch": 1.3827700463883366, + "grad_norm": 0.007017153315246105, + "learning_rate": 2.80799416188332e-06, + "loss": 0.0, + "num_input_tokens_seen": 20428544, + "step": 10433 + }, + { + "epoch": 1.3829025844930418, + "grad_norm": 7.678238868713379, + "learning_rate": 2.8076496660447657e-06, + "loss": 0.2836, + "num_input_tokens_seen": 20430744, + "step": 10434 + }, + { + "epoch": 1.3830351225977469, + "grad_norm": 0.005133752711117268, + "learning_rate": 2.8073051642745144e-06, + "loss": 0.0, + "num_input_tokens_seen": 20431816, + "step": 10435 + }, + { + "epoch": 1.383167660702452, + "grad_norm": 0.03415863215923309, + "learning_rate": 2.806960656579206e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20433424, + "step": 10436 + }, + { + "epoch": 1.3833001988071572, + "grad_norm": 16.254480361938477, + "learning_rate": 2.8066161429654853e-06, + "loss": 0.3303, + "num_input_tokens_seen": 20435128, + "step": 10437 + }, + { + "epoch": 1.3834327369118622, + "grad_norm": 0.008742360398173332, + "learning_rate": 2.806271623439993e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20436848, + "step": 10438 + }, + { + "epoch": 1.3835652750165672, + "grad_norm": 11.590932846069336, + "learning_rate": 2.805927098009374e-06, + "loss": 0.2539, + "num_input_tokens_seen": 20439192, + "step": 10439 + }, + { + "epoch": 1.3836978131212723, + "grad_norm": 0.02244654670357704, + "learning_rate": 2.805582566680269e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20440776, + "step": 10440 + }, + { + "epoch": 1.3838303512259775, + "grad_norm": 0.022556914016604424, + "learning_rate": 2.8052380294593206e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20442616, + "step": 10441 + }, + { + "epoch": 1.3839628893306826, + "grad_norm": 7.46207857131958, + "learning_rate": 2.804893486353173e-06, + "loss": 0.1687, + "num_input_tokens_seen": 20444816, + "step": 10442 + }, + { + "epoch": 1.3840954274353876, + "grad_norm": 8.115246772766113, + "learning_rate": 2.8045489373684686e-06, + "loss": 0.0756, + "num_input_tokens_seen": 20446824, + "step": 10443 + }, + { + "epoch": 1.3842279655400929, + "grad_norm": 0.02196202613413334, + "learning_rate": 2.8042043825118504e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20448632, + "step": 10444 + }, + { + "epoch": 1.384360503644798, + "grad_norm": 4.157558917999268, + "learning_rate": 2.8038598217899614e-06, + "loss": 0.1407, + "num_input_tokens_seen": 20451736, + "step": 10445 + }, + { + "epoch": 1.384493041749503, + "grad_norm": 8.752606391906738, + "learning_rate": 2.8035152552094457e-06, + "loss": 0.1446, + "num_input_tokens_seen": 20453752, + "step": 10446 + }, + { + "epoch": 1.384625579854208, + "grad_norm": 0.03144088760018349, + "learning_rate": 2.803170682776947e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20455720, + "step": 10447 + }, + { + "epoch": 1.3847581179589132, + "grad_norm": 4.156338691711426, + "learning_rate": 2.8028261044991086e-06, + "loss": 0.0466, + "num_input_tokens_seen": 20458520, + "step": 10448 + }, + { + "epoch": 1.3848906560636183, + "grad_norm": 5.109591960906982, + "learning_rate": 2.802481520382573e-06, + "loss": 0.1273, + "num_input_tokens_seen": 20460616, + "step": 10449 + }, + { + "epoch": 1.3850231941683233, + "grad_norm": 0.029196010902523994, + "learning_rate": 2.8021369304339864e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20462608, + "step": 10450 + }, + { + "epoch": 1.3851557322730286, + "grad_norm": 4.7668023109436035, + "learning_rate": 2.8017923346599902e-06, + "loss": 0.0866, + "num_input_tokens_seen": 20463952, + "step": 10451 + }, + { + "epoch": 1.3852882703777336, + "grad_norm": 0.7397273182868958, + "learning_rate": 2.8014477330672297e-06, + "loss": 0.0049, + "num_input_tokens_seen": 20466176, + "step": 10452 + }, + { + "epoch": 1.3854208084824386, + "grad_norm": 4.5694756507873535, + "learning_rate": 2.8011031256623492e-06, + "loss": 0.0425, + "num_input_tokens_seen": 20468616, + "step": 10453 + }, + { + "epoch": 1.3855533465871437, + "grad_norm": 0.07951880246400833, + "learning_rate": 2.8007585124519927e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20470224, + "step": 10454 + }, + { + "epoch": 1.385685884691849, + "grad_norm": 10.578248023986816, + "learning_rate": 2.8004138934428045e-06, + "loss": 0.1397, + "num_input_tokens_seen": 20472488, + "step": 10455 + }, + { + "epoch": 1.385818422796554, + "grad_norm": 9.208282470703125, + "learning_rate": 2.800069268641429e-06, + "loss": 0.2332, + "num_input_tokens_seen": 20474680, + "step": 10456 + }, + { + "epoch": 1.3859509609012592, + "grad_norm": 8.394522666931152, + "learning_rate": 2.799724638054512e-06, + "loss": 0.1886, + "num_input_tokens_seen": 20476384, + "step": 10457 + }, + { + "epoch": 1.3860834990059643, + "grad_norm": 4.234194278717041, + "learning_rate": 2.799380001688696e-06, + "loss": 0.0752, + "num_input_tokens_seen": 20477648, + "step": 10458 + }, + { + "epoch": 1.3862160371106693, + "grad_norm": 7.70643424987793, + "learning_rate": 2.799035359550627e-06, + "loss": 0.1917, + "num_input_tokens_seen": 20479520, + "step": 10459 + }, + { + "epoch": 1.3863485752153744, + "grad_norm": 9.970481872558594, + "learning_rate": 2.79869071164695e-06, + "loss": 0.1534, + "num_input_tokens_seen": 20481296, + "step": 10460 + }, + { + "epoch": 1.3864811133200794, + "grad_norm": 2.355271577835083, + "learning_rate": 2.798346057984311e-06, + "loss": 0.029, + "num_input_tokens_seen": 20482648, + "step": 10461 + }, + { + "epoch": 1.3866136514247847, + "grad_norm": 5.343208312988281, + "learning_rate": 2.798001398569354e-06, + "loss": 0.0774, + "num_input_tokens_seen": 20483984, + "step": 10462 + }, + { + "epoch": 1.3867461895294897, + "grad_norm": 0.054289281368255615, + "learning_rate": 2.7976567334087234e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20485336, + "step": 10463 + }, + { + "epoch": 1.386878727634195, + "grad_norm": 0.11812238395214081, + "learning_rate": 2.7973120625090666e-06, + "loss": 0.0009, + "num_input_tokens_seen": 20487312, + "step": 10464 + }, + { + "epoch": 1.3870112657389, + "grad_norm": 7.9044718742370605, + "learning_rate": 2.796967385877028e-06, + "loss": 0.0839, + "num_input_tokens_seen": 20489240, + "step": 10465 + }, + { + "epoch": 1.387143803843605, + "grad_norm": 6.656596660614014, + "learning_rate": 2.7966227035192536e-06, + "loss": 0.0596, + "num_input_tokens_seen": 20491072, + "step": 10466 + }, + { + "epoch": 1.38727634194831, + "grad_norm": 0.5502724647521973, + "learning_rate": 2.796278015442388e-06, + "loss": 0.0059, + "num_input_tokens_seen": 20492880, + "step": 10467 + }, + { + "epoch": 1.387408880053015, + "grad_norm": 0.517119288444519, + "learning_rate": 2.7959333216530788e-06, + "loss": 0.0063, + "num_input_tokens_seen": 20495496, + "step": 10468 + }, + { + "epoch": 1.3875414181577204, + "grad_norm": 11.155953407287598, + "learning_rate": 2.7955886221579704e-06, + "loss": 0.1368, + "num_input_tokens_seen": 20497496, + "step": 10469 + }, + { + "epoch": 1.3876739562624254, + "grad_norm": 0.07422763854265213, + "learning_rate": 2.795243916963709e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20499408, + "step": 10470 + }, + { + "epoch": 1.3878064943671307, + "grad_norm": 3.8631277084350586, + "learning_rate": 2.7948992060769424e-06, + "loss": 0.0833, + "num_input_tokens_seen": 20500672, + "step": 10471 + }, + { + "epoch": 1.3879390324718357, + "grad_norm": 0.2156079262495041, + "learning_rate": 2.7945544895043144e-06, + "loss": 0.0016, + "num_input_tokens_seen": 20502424, + "step": 10472 + }, + { + "epoch": 1.3880715705765407, + "grad_norm": 1.184791088104248, + "learning_rate": 2.7942097672524737e-06, + "loss": 0.0092, + "num_input_tokens_seen": 20504144, + "step": 10473 + }, + { + "epoch": 1.3882041086812458, + "grad_norm": 0.7888578772544861, + "learning_rate": 2.793865039328066e-06, + "loss": 0.0058, + "num_input_tokens_seen": 20505968, + "step": 10474 + }, + { + "epoch": 1.388336646785951, + "grad_norm": 10.811427116394043, + "learning_rate": 2.793520305737736e-06, + "loss": 0.3473, + "num_input_tokens_seen": 20507728, + "step": 10475 + }, + { + "epoch": 1.388469184890656, + "grad_norm": 9.360350608825684, + "learning_rate": 2.793175566488133e-06, + "loss": 0.3323, + "num_input_tokens_seen": 20509704, + "step": 10476 + }, + { + "epoch": 1.388601722995361, + "grad_norm": 6.565247535705566, + "learning_rate": 2.792830821585903e-06, + "loss": 0.0904, + "num_input_tokens_seen": 20511784, + "step": 10477 + }, + { + "epoch": 1.3887342611000664, + "grad_norm": 5.025900840759277, + "learning_rate": 2.792486071037692e-06, + "loss": 0.1034, + "num_input_tokens_seen": 20513776, + "step": 10478 + }, + { + "epoch": 1.3888667992047714, + "grad_norm": 0.09110893309116364, + "learning_rate": 2.7921413148501484e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20515240, + "step": 10479 + }, + { + "epoch": 1.3889993373094764, + "grad_norm": 5.7710185050964355, + "learning_rate": 2.791796553029919e-06, + "loss": 0.0141, + "num_input_tokens_seen": 20516824, + "step": 10480 + }, + { + "epoch": 1.3891318754141815, + "grad_norm": 6.486245155334473, + "learning_rate": 2.79145178558365e-06, + "loss": 0.1815, + "num_input_tokens_seen": 20518760, + "step": 10481 + }, + { + "epoch": 1.3892644135188867, + "grad_norm": 0.3129856586456299, + "learning_rate": 2.7911070125179897e-06, + "loss": 0.0018, + "num_input_tokens_seen": 20520832, + "step": 10482 + }, + { + "epoch": 1.3893969516235918, + "grad_norm": 3.4867331981658936, + "learning_rate": 2.7907622338395864e-06, + "loss": 0.048, + "num_input_tokens_seen": 20522248, + "step": 10483 + }, + { + "epoch": 1.3895294897282968, + "grad_norm": 1.8596006631851196, + "learning_rate": 2.790417449555085e-06, + "loss": 0.0099, + "num_input_tokens_seen": 20524208, + "step": 10484 + }, + { + "epoch": 1.389662027833002, + "grad_norm": 10.76799488067627, + "learning_rate": 2.7900726596711358e-06, + "loss": 0.2336, + "num_input_tokens_seen": 20526584, + "step": 10485 + }, + { + "epoch": 1.3897945659377071, + "grad_norm": 0.5786974430084229, + "learning_rate": 2.789727864194386e-06, + "loss": 0.003, + "num_input_tokens_seen": 20529440, + "step": 10486 + }, + { + "epoch": 1.3899271040424122, + "grad_norm": 10.499486923217773, + "learning_rate": 2.7893830631314824e-06, + "loss": 0.1422, + "num_input_tokens_seen": 20531344, + "step": 10487 + }, + { + "epoch": 1.3900596421471172, + "grad_norm": 0.1186819076538086, + "learning_rate": 2.789038256489073e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20532800, + "step": 10488 + }, + { + "epoch": 1.3901921802518225, + "grad_norm": 9.143051147460938, + "learning_rate": 2.7886934442738085e-06, + "loss": 0.2226, + "num_input_tokens_seen": 20534520, + "step": 10489 + }, + { + "epoch": 1.3903247183565275, + "grad_norm": 8.500914573669434, + "learning_rate": 2.7883486264923333e-06, + "loss": 0.1719, + "num_input_tokens_seen": 20536328, + "step": 10490 + }, + { + "epoch": 1.3904572564612325, + "grad_norm": 6.91124963760376, + "learning_rate": 2.788003803151299e-06, + "loss": 0.1649, + "num_input_tokens_seen": 20538480, + "step": 10491 + }, + { + "epoch": 1.3905897945659378, + "grad_norm": 0.7869444489479065, + "learning_rate": 2.7876589742573524e-06, + "loss": 0.0064, + "num_input_tokens_seen": 20540096, + "step": 10492 + }, + { + "epoch": 1.3907223326706428, + "grad_norm": 0.2748253047466278, + "learning_rate": 2.7873141398171417e-06, + "loss": 0.0023, + "num_input_tokens_seen": 20542960, + "step": 10493 + }, + { + "epoch": 1.3908548707753479, + "grad_norm": 4.588486194610596, + "learning_rate": 2.786969299837317e-06, + "loss": 0.079, + "num_input_tokens_seen": 20544544, + "step": 10494 + }, + { + "epoch": 1.390987408880053, + "grad_norm": 6.643099784851074, + "learning_rate": 2.786624454324526e-06, + "loss": 0.1162, + "num_input_tokens_seen": 20546856, + "step": 10495 + }, + { + "epoch": 1.3911199469847582, + "grad_norm": 7.182328224182129, + "learning_rate": 2.786279603285417e-06, + "loss": 0.0329, + "num_input_tokens_seen": 20548808, + "step": 10496 + }, + { + "epoch": 1.3912524850894632, + "grad_norm": 4.121879577636719, + "learning_rate": 2.7859347467266407e-06, + "loss": 0.1052, + "num_input_tokens_seen": 20551336, + "step": 10497 + }, + { + "epoch": 1.3913850231941685, + "grad_norm": 4.8759965896606445, + "learning_rate": 2.785589884654845e-06, + "loss": 0.046, + "num_input_tokens_seen": 20553096, + "step": 10498 + }, + { + "epoch": 1.3915175612988735, + "grad_norm": 7.739864349365234, + "learning_rate": 2.785245017076679e-06, + "loss": 0.0229, + "num_input_tokens_seen": 20554416, + "step": 10499 + }, + { + "epoch": 1.3916500994035785, + "grad_norm": 0.04690643027424812, + "learning_rate": 2.7849001439987933e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20556528, + "step": 10500 + }, + { + "epoch": 1.3917826375082836, + "grad_norm": 6.401378154754639, + "learning_rate": 2.7845552654278353e-06, + "loss": 0.1222, + "num_input_tokens_seen": 20558768, + "step": 10501 + }, + { + "epoch": 1.3919151756129886, + "grad_norm": 0.7200358510017395, + "learning_rate": 2.784210381370455e-06, + "loss": 0.0036, + "num_input_tokens_seen": 20560480, + "step": 10502 + }, + { + "epoch": 1.3920477137176939, + "grad_norm": 2.336420774459839, + "learning_rate": 2.7838654918333034e-06, + "loss": 0.0394, + "num_input_tokens_seen": 20561880, + "step": 10503 + }, + { + "epoch": 1.392180251822399, + "grad_norm": 1.5883830785751343, + "learning_rate": 2.7835205968230296e-06, + "loss": 0.0096, + "num_input_tokens_seen": 20563448, + "step": 10504 + }, + { + "epoch": 1.3923127899271042, + "grad_norm": 30.041460037231445, + "learning_rate": 2.7831756963462825e-06, + "loss": 0.3351, + "num_input_tokens_seen": 20564832, + "step": 10505 + }, + { + "epoch": 1.3924453280318092, + "grad_norm": 12.721914291381836, + "learning_rate": 2.7828307904097123e-06, + "loss": 0.2572, + "num_input_tokens_seen": 20566608, + "step": 10506 + }, + { + "epoch": 1.3925778661365142, + "grad_norm": 11.767704963684082, + "learning_rate": 2.78248587901997e-06, + "loss": 0.0743, + "num_input_tokens_seen": 20569624, + "step": 10507 + }, + { + "epoch": 1.3927104042412193, + "grad_norm": 8.095712661743164, + "learning_rate": 2.7821409621837042e-06, + "loss": 0.1937, + "num_input_tokens_seen": 20572648, + "step": 10508 + }, + { + "epoch": 1.3928429423459243, + "grad_norm": 2.4632644653320312, + "learning_rate": 2.7817960399075673e-06, + "loss": 0.0098, + "num_input_tokens_seen": 20574104, + "step": 10509 + }, + { + "epoch": 1.3929754804506296, + "grad_norm": 6.075214862823486, + "learning_rate": 2.781451112198208e-06, + "loss": 0.0718, + "num_input_tokens_seen": 20575552, + "step": 10510 + }, + { + "epoch": 1.3931080185553346, + "grad_norm": 13.98482894897461, + "learning_rate": 2.7811061790622756e-06, + "loss": 0.174, + "num_input_tokens_seen": 20577688, + "step": 10511 + }, + { + "epoch": 1.3932405566600399, + "grad_norm": 9.87360954284668, + "learning_rate": 2.7807612405064238e-06, + "loss": 0.0571, + "num_input_tokens_seen": 20579544, + "step": 10512 + }, + { + "epoch": 1.393373094764745, + "grad_norm": 2.584228038787842, + "learning_rate": 2.780416296537301e-06, + "loss": 0.0258, + "num_input_tokens_seen": 20581544, + "step": 10513 + }, + { + "epoch": 1.39350563286945, + "grad_norm": 6.481777191162109, + "learning_rate": 2.7800713471615586e-06, + "loss": 0.108, + "num_input_tokens_seen": 20583328, + "step": 10514 + }, + { + "epoch": 1.393638170974155, + "grad_norm": 7.916453838348389, + "learning_rate": 2.779726392385848e-06, + "loss": 0.0877, + "num_input_tokens_seen": 20584696, + "step": 10515 + }, + { + "epoch": 1.3937707090788602, + "grad_norm": 7.973959445953369, + "learning_rate": 2.779381432216819e-06, + "loss": 0.0954, + "num_input_tokens_seen": 20586120, + "step": 10516 + }, + { + "epoch": 1.3939032471835653, + "grad_norm": 0.8193455338478088, + "learning_rate": 2.779036466661123e-06, + "loss": 0.0076, + "num_input_tokens_seen": 20587992, + "step": 10517 + }, + { + "epoch": 1.3940357852882703, + "grad_norm": 13.569361686706543, + "learning_rate": 2.7786914957254116e-06, + "loss": 0.1825, + "num_input_tokens_seen": 20590184, + "step": 10518 + }, + { + "epoch": 1.3941683233929756, + "grad_norm": 17.50252914428711, + "learning_rate": 2.778346519416336e-06, + "loss": 0.4022, + "num_input_tokens_seen": 20592592, + "step": 10519 + }, + { + "epoch": 1.3943008614976806, + "grad_norm": 2.511194944381714, + "learning_rate": 2.7780015377405477e-06, + "loss": 0.0108, + "num_input_tokens_seen": 20594016, + "step": 10520 + }, + { + "epoch": 1.3944333996023857, + "grad_norm": 6.79447078704834, + "learning_rate": 2.7776565507046978e-06, + "loss": 0.1039, + "num_input_tokens_seen": 20595808, + "step": 10521 + }, + { + "epoch": 1.3945659377070907, + "grad_norm": 0.4829334616661072, + "learning_rate": 2.777311558315438e-06, + "loss": 0.0024, + "num_input_tokens_seen": 20598008, + "step": 10522 + }, + { + "epoch": 1.394698475811796, + "grad_norm": 1.4145292043685913, + "learning_rate": 2.7769665605794206e-06, + "loss": 0.0056, + "num_input_tokens_seen": 20599320, + "step": 10523 + }, + { + "epoch": 1.394831013916501, + "grad_norm": 6.7324395179748535, + "learning_rate": 2.7766215575032955e-06, + "loss": 0.1325, + "num_input_tokens_seen": 20600720, + "step": 10524 + }, + { + "epoch": 1.394963552021206, + "grad_norm": 3.594271659851074, + "learning_rate": 2.776276549093717e-06, + "loss": 0.0296, + "num_input_tokens_seen": 20602968, + "step": 10525 + }, + { + "epoch": 1.3950960901259113, + "grad_norm": 9.122613906860352, + "learning_rate": 2.775931535357336e-06, + "loss": 0.0354, + "num_input_tokens_seen": 20605104, + "step": 10526 + }, + { + "epoch": 1.3952286282306163, + "grad_norm": 3.760298252105713, + "learning_rate": 2.7755865163008046e-06, + "loss": 0.0616, + "num_input_tokens_seen": 20607424, + "step": 10527 + }, + { + "epoch": 1.3953611663353214, + "grad_norm": 13.919990539550781, + "learning_rate": 2.775241491930775e-06, + "loss": 0.1657, + "num_input_tokens_seen": 20608648, + "step": 10528 + }, + { + "epoch": 1.3954937044400264, + "grad_norm": 10.288064002990723, + "learning_rate": 2.774896462253899e-06, + "loss": 0.2808, + "num_input_tokens_seen": 20610736, + "step": 10529 + }, + { + "epoch": 1.3956262425447317, + "grad_norm": 1.5678014755249023, + "learning_rate": 2.7745514272768304e-06, + "loss": 0.0191, + "num_input_tokens_seen": 20612624, + "step": 10530 + }, + { + "epoch": 1.3957587806494367, + "grad_norm": 5.624784469604492, + "learning_rate": 2.7742063870062202e-06, + "loss": 0.1369, + "num_input_tokens_seen": 20615112, + "step": 10531 + }, + { + "epoch": 1.3958913187541417, + "grad_norm": 17.48431968688965, + "learning_rate": 2.773861341448722e-06, + "loss": 0.3428, + "num_input_tokens_seen": 20618176, + "step": 10532 + }, + { + "epoch": 1.396023856858847, + "grad_norm": 8.184895515441895, + "learning_rate": 2.773516290610989e-06, + "loss": 0.2259, + "num_input_tokens_seen": 20620304, + "step": 10533 + }, + { + "epoch": 1.396156394963552, + "grad_norm": 1.2629934549331665, + "learning_rate": 2.773171234499672e-06, + "loss": 0.0091, + "num_input_tokens_seen": 20621928, + "step": 10534 + }, + { + "epoch": 1.396288933068257, + "grad_norm": 10.707488059997559, + "learning_rate": 2.772826173121425e-06, + "loss": 0.2222, + "num_input_tokens_seen": 20623352, + "step": 10535 + }, + { + "epoch": 1.3964214711729621, + "grad_norm": 9.687740325927734, + "learning_rate": 2.772481106482902e-06, + "loss": 0.4304, + "num_input_tokens_seen": 20626040, + "step": 10536 + }, + { + "epoch": 1.3965540092776674, + "grad_norm": 8.113819122314453, + "learning_rate": 2.7721360345907557e-06, + "loss": 0.2208, + "num_input_tokens_seen": 20628600, + "step": 10537 + }, + { + "epoch": 1.3966865473823724, + "grad_norm": 10.707056045532227, + "learning_rate": 2.7717909574516375e-06, + "loss": 0.2607, + "num_input_tokens_seen": 20630376, + "step": 10538 + }, + { + "epoch": 1.3968190854870777, + "grad_norm": 1.6803975105285645, + "learning_rate": 2.7714458750722027e-06, + "loss": 0.0053, + "num_input_tokens_seen": 20631704, + "step": 10539 + }, + { + "epoch": 1.3969516235917827, + "grad_norm": 6.36403751373291, + "learning_rate": 2.7711007874591046e-06, + "loss": 0.0282, + "num_input_tokens_seen": 20633672, + "step": 10540 + }, + { + "epoch": 1.3970841616964877, + "grad_norm": 0.1906656175851822, + "learning_rate": 2.7707556946189962e-06, + "loss": 0.0013, + "num_input_tokens_seen": 20635192, + "step": 10541 + }, + { + "epoch": 1.3972166998011928, + "grad_norm": 0.12651477754116058, + "learning_rate": 2.770410596558531e-06, + "loss": 0.0008, + "num_input_tokens_seen": 20636976, + "step": 10542 + }, + { + "epoch": 1.3973492379058978, + "grad_norm": 1.0268782377243042, + "learning_rate": 2.770065493284363e-06, + "loss": 0.007, + "num_input_tokens_seen": 20638600, + "step": 10543 + }, + { + "epoch": 1.397481776010603, + "grad_norm": 6.950503826141357, + "learning_rate": 2.7697203848031462e-06, + "loss": 0.0767, + "num_input_tokens_seen": 20640504, + "step": 10544 + }, + { + "epoch": 1.3976143141153081, + "grad_norm": 6.949264049530029, + "learning_rate": 2.7693752711215343e-06, + "loss": 0.1284, + "num_input_tokens_seen": 20642680, + "step": 10545 + }, + { + "epoch": 1.3977468522200134, + "grad_norm": 16.17197608947754, + "learning_rate": 2.769030152246181e-06, + "loss": 0.3429, + "num_input_tokens_seen": 20644952, + "step": 10546 + }, + { + "epoch": 1.3978793903247184, + "grad_norm": 15.016852378845215, + "learning_rate": 2.7686850281837407e-06, + "loss": 0.3566, + "num_input_tokens_seen": 20647016, + "step": 10547 + }, + { + "epoch": 1.3980119284294235, + "grad_norm": 0.28729212284088135, + "learning_rate": 2.7683398989408684e-06, + "loss": 0.0019, + "num_input_tokens_seen": 20648752, + "step": 10548 + }, + { + "epoch": 1.3981444665341285, + "grad_norm": 12.260937690734863, + "learning_rate": 2.7679947645242173e-06, + "loss": 0.0382, + "num_input_tokens_seen": 20649800, + "step": 10549 + }, + { + "epoch": 1.3982770046388335, + "grad_norm": 3.0606260299682617, + "learning_rate": 2.7676496249404416e-06, + "loss": 0.0239, + "num_input_tokens_seen": 20652256, + "step": 10550 + }, + { + "epoch": 1.3984095427435388, + "grad_norm": 0.4068226218223572, + "learning_rate": 2.7673044801961977e-06, + "loss": 0.0024, + "num_input_tokens_seen": 20654480, + "step": 10551 + }, + { + "epoch": 1.3985420808482438, + "grad_norm": 8.831425666809082, + "learning_rate": 2.766959330298138e-06, + "loss": 0.2934, + "num_input_tokens_seen": 20656032, + "step": 10552 + }, + { + "epoch": 1.398674618952949, + "grad_norm": 10.669981956481934, + "learning_rate": 2.7666141752529187e-06, + "loss": 0.171, + "num_input_tokens_seen": 20657976, + "step": 10553 + }, + { + "epoch": 1.3988071570576541, + "grad_norm": 0.029108744114637375, + "learning_rate": 2.7662690150671943e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20659352, + "step": 10554 + }, + { + "epoch": 1.3989396951623592, + "grad_norm": 3.287593364715576, + "learning_rate": 2.7659238497476193e-06, + "loss": 0.0324, + "num_input_tokens_seen": 20660736, + "step": 10555 + }, + { + "epoch": 1.3990722332670642, + "grad_norm": 3.797125816345215, + "learning_rate": 2.7655786793008493e-06, + "loss": 0.0046, + "num_input_tokens_seen": 20662104, + "step": 10556 + }, + { + "epoch": 1.3992047713717695, + "grad_norm": 6.064399242401123, + "learning_rate": 2.7652335037335397e-06, + "loss": 0.0347, + "num_input_tokens_seen": 20663112, + "step": 10557 + }, + { + "epoch": 1.3993373094764745, + "grad_norm": 4.344359874725342, + "learning_rate": 2.7648883230523438e-06, + "loss": 0.0197, + "num_input_tokens_seen": 20664680, + "step": 10558 + }, + { + "epoch": 1.3994698475811795, + "grad_norm": 0.10848988592624664, + "learning_rate": 2.764543137263919e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20666048, + "step": 10559 + }, + { + "epoch": 1.3996023856858848, + "grad_norm": 4.652587890625, + "learning_rate": 2.76419794637492e-06, + "loss": 0.08, + "num_input_tokens_seen": 20667968, + "step": 10560 + }, + { + "epoch": 1.3997349237905898, + "grad_norm": 7.251633644104004, + "learning_rate": 2.763852750392002e-06, + "loss": 0.1393, + "num_input_tokens_seen": 20670672, + "step": 10561 + }, + { + "epoch": 1.3998674618952949, + "grad_norm": 8.513386726379395, + "learning_rate": 2.763507549321822e-06, + "loss": 0.2209, + "num_input_tokens_seen": 20673000, + "step": 10562 + }, + { + "epoch": 1.4, + "grad_norm": 7.966372966766357, + "learning_rate": 2.7631623431710337e-06, + "loss": 0.0758, + "num_input_tokens_seen": 20674840, + "step": 10563 + }, + { + "epoch": 1.4001325381047052, + "grad_norm": 1.2695943117141724, + "learning_rate": 2.7628171319462942e-06, + "loss": 0.0035, + "num_input_tokens_seen": 20676640, + "step": 10564 + }, + { + "epoch": 1.4002650762094102, + "grad_norm": 13.614012718200684, + "learning_rate": 2.762471915654259e-06, + "loss": 0.3232, + "num_input_tokens_seen": 20678640, + "step": 10565 + }, + { + "epoch": 1.4003976143141152, + "grad_norm": 2.442643165588379, + "learning_rate": 2.7621266943015846e-06, + "loss": 0.0585, + "num_input_tokens_seen": 20679928, + "step": 10566 + }, + { + "epoch": 1.4005301524188205, + "grad_norm": 0.011214971542358398, + "learning_rate": 2.761781467894926e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20681112, + "step": 10567 + }, + { + "epoch": 1.4006626905235255, + "grad_norm": 10.345452308654785, + "learning_rate": 2.7614362364409405e-06, + "loss": 0.1659, + "num_input_tokens_seen": 20683088, + "step": 10568 + }, + { + "epoch": 1.4007952286282306, + "grad_norm": 9.527271270751953, + "learning_rate": 2.7610909999462842e-06, + "loss": 0.0851, + "num_input_tokens_seen": 20684592, + "step": 10569 + }, + { + "epoch": 1.4009277667329356, + "grad_norm": 5.224287509918213, + "learning_rate": 2.760745758417612e-06, + "loss": 0.1301, + "num_input_tokens_seen": 20686648, + "step": 10570 + }, + { + "epoch": 1.4010603048376409, + "grad_norm": 4.609777927398682, + "learning_rate": 2.7604005118615834e-06, + "loss": 0.1214, + "num_input_tokens_seen": 20689512, + "step": 10571 + }, + { + "epoch": 1.401192842942346, + "grad_norm": 6.513919830322266, + "learning_rate": 2.760055260284853e-06, + "loss": 0.1348, + "num_input_tokens_seen": 20691216, + "step": 10572 + }, + { + "epoch": 1.401325381047051, + "grad_norm": 4.91895866394043, + "learning_rate": 2.7597100036940766e-06, + "loss": 0.0944, + "num_input_tokens_seen": 20692928, + "step": 10573 + }, + { + "epoch": 1.4014579191517562, + "grad_norm": 5.612612724304199, + "learning_rate": 2.7593647420959134e-06, + "loss": 0.142, + "num_input_tokens_seen": 20695984, + "step": 10574 + }, + { + "epoch": 1.4015904572564613, + "grad_norm": 0.018909305334091187, + "learning_rate": 2.759019475497019e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20697936, + "step": 10575 + }, + { + "epoch": 1.4017229953611663, + "grad_norm": 11.03704833984375, + "learning_rate": 2.7586742039040493e-06, + "loss": 0.2918, + "num_input_tokens_seen": 20699544, + "step": 10576 + }, + { + "epoch": 1.4018555334658713, + "grad_norm": 9.435297012329102, + "learning_rate": 2.7583289273236635e-06, + "loss": 0.1865, + "num_input_tokens_seen": 20700912, + "step": 10577 + }, + { + "epoch": 1.4019880715705766, + "grad_norm": 1.4211225509643555, + "learning_rate": 2.7579836457625177e-06, + "loss": 0.0161, + "num_input_tokens_seen": 20703360, + "step": 10578 + }, + { + "epoch": 1.4021206096752816, + "grad_norm": 5.037970542907715, + "learning_rate": 2.7576383592272687e-06, + "loss": 0.1302, + "num_input_tokens_seen": 20705104, + "step": 10579 + }, + { + "epoch": 1.4022531477799867, + "grad_norm": 0.01099399197846651, + "learning_rate": 2.757293067724575e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20706584, + "step": 10580 + }, + { + "epoch": 1.402385685884692, + "grad_norm": 4.613814830780029, + "learning_rate": 2.7569477712610932e-06, + "loss": 0.0216, + "num_input_tokens_seen": 20708496, + "step": 10581 + }, + { + "epoch": 1.402518223989397, + "grad_norm": 0.16234523057937622, + "learning_rate": 2.7566024698434813e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20710048, + "step": 10582 + }, + { + "epoch": 1.402650762094102, + "grad_norm": 1.3125298023223877, + "learning_rate": 2.7562571634783965e-06, + "loss": 0.0073, + "num_input_tokens_seen": 20712176, + "step": 10583 + }, + { + "epoch": 1.402783300198807, + "grad_norm": 4.0816144943237305, + "learning_rate": 2.755911852172497e-06, + "loss": 0.0514, + "num_input_tokens_seen": 20714112, + "step": 10584 + }, + { + "epoch": 1.4029158383035123, + "grad_norm": 4.365691184997559, + "learning_rate": 2.7555665359324403e-06, + "loss": 0.1042, + "num_input_tokens_seen": 20716224, + "step": 10585 + }, + { + "epoch": 1.4030483764082173, + "grad_norm": 0.07552376389503479, + "learning_rate": 2.7552212147648843e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20718408, + "step": 10586 + }, + { + "epoch": 1.4031809145129226, + "grad_norm": 0.15295080840587616, + "learning_rate": 2.7548758886764874e-06, + "loss": 0.0011, + "num_input_tokens_seen": 20721728, + "step": 10587 + }, + { + "epoch": 1.4033134526176276, + "grad_norm": 5.798828601837158, + "learning_rate": 2.7545305576739077e-06, + "loss": 0.0239, + "num_input_tokens_seen": 20723128, + "step": 10588 + }, + { + "epoch": 1.4034459907223327, + "grad_norm": 1.074324369430542, + "learning_rate": 2.7541852217638034e-06, + "loss": 0.015, + "num_input_tokens_seen": 20725136, + "step": 10589 + }, + { + "epoch": 1.4035785288270377, + "grad_norm": 0.09571792185306549, + "learning_rate": 2.7538398809528316e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20726968, + "step": 10590 + }, + { + "epoch": 1.4037110669317427, + "grad_norm": 8.460127830505371, + "learning_rate": 2.7534945352476527e-06, + "loss": 0.1832, + "num_input_tokens_seen": 20729624, + "step": 10591 + }, + { + "epoch": 1.403843605036448, + "grad_norm": 4.628119945526123, + "learning_rate": 2.7531491846549247e-06, + "loss": 0.0475, + "num_input_tokens_seen": 20731768, + "step": 10592 + }, + { + "epoch": 1.403976143141153, + "grad_norm": 7.634605407714844, + "learning_rate": 2.752803829181305e-06, + "loss": 0.1954, + "num_input_tokens_seen": 20733736, + "step": 10593 + }, + { + "epoch": 1.4041086812458583, + "grad_norm": 0.11401008069515228, + "learning_rate": 2.7524584688334525e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20735000, + "step": 10594 + }, + { + "epoch": 1.4042412193505633, + "grad_norm": 10.275894165039062, + "learning_rate": 2.7521131036180284e-06, + "loss": 0.3567, + "num_input_tokens_seen": 20736984, + "step": 10595 + }, + { + "epoch": 1.4043737574552684, + "grad_norm": 7.303134918212891, + "learning_rate": 2.751767733541688e-06, + "loss": 0.2757, + "num_input_tokens_seen": 20739640, + "step": 10596 + }, + { + "epoch": 1.4045062955599734, + "grad_norm": 0.04334006831049919, + "learning_rate": 2.751422358611093e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20741392, + "step": 10597 + }, + { + "epoch": 1.4046388336646787, + "grad_norm": 9.306764602661133, + "learning_rate": 2.751076978832902e-06, + "loss": 0.1802, + "num_input_tokens_seen": 20743048, + "step": 10598 + }, + { + "epoch": 1.4047713717693837, + "grad_norm": 0.04407084360718727, + "learning_rate": 2.750731594213772e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20744768, + "step": 10599 + }, + { + "epoch": 1.4049039098740888, + "grad_norm": 0.009371750988066196, + "learning_rate": 2.750386204760365e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20746088, + "step": 10600 + }, + { + "epoch": 1.405036447978794, + "grad_norm": 0.025039702653884888, + "learning_rate": 2.7500408104793393e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20747648, + "step": 10601 + }, + { + "epoch": 1.405168986083499, + "grad_norm": 45.71411895751953, + "learning_rate": 2.7496954113773533e-06, + "loss": 0.1113, + "num_input_tokens_seen": 20749200, + "step": 10602 + }, + { + "epoch": 1.405301524188204, + "grad_norm": 8.057454109191895, + "learning_rate": 2.749350007461068e-06, + "loss": 0.187, + "num_input_tokens_seen": 20751184, + "step": 10603 + }, + { + "epoch": 1.4054340622929091, + "grad_norm": 7.636471271514893, + "learning_rate": 2.749004598737143e-06, + "loss": 0.1274, + "num_input_tokens_seen": 20753680, + "step": 10604 + }, + { + "epoch": 1.4055666003976144, + "grad_norm": 7.203907012939453, + "learning_rate": 2.748659185212237e-06, + "loss": 0.1101, + "num_input_tokens_seen": 20755776, + "step": 10605 + }, + { + "epoch": 1.4056991385023194, + "grad_norm": 9.805910110473633, + "learning_rate": 2.748313766893011e-06, + "loss": 0.2876, + "num_input_tokens_seen": 20758088, + "step": 10606 + }, + { + "epoch": 1.4058316766070245, + "grad_norm": 0.05939975008368492, + "learning_rate": 2.747968343786124e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20759776, + "step": 10607 + }, + { + "epoch": 1.4059642147117297, + "grad_norm": 0.27053332328796387, + "learning_rate": 2.747622915898235e-06, + "loss": 0.002, + "num_input_tokens_seen": 20762680, + "step": 10608 + }, + { + "epoch": 1.4060967528164348, + "grad_norm": 5.980823993682861, + "learning_rate": 2.747277483236007e-06, + "loss": 0.0673, + "num_input_tokens_seen": 20764136, + "step": 10609 + }, + { + "epoch": 1.4062292909211398, + "grad_norm": 4.109341621398926, + "learning_rate": 2.7469320458060984e-06, + "loss": 0.0294, + "num_input_tokens_seen": 20765760, + "step": 10610 + }, + { + "epoch": 1.4063618290258448, + "grad_norm": 0.18717600405216217, + "learning_rate": 2.746586603615169e-06, + "loss": 0.0012, + "num_input_tokens_seen": 20767256, + "step": 10611 + }, + { + "epoch": 1.40649436713055, + "grad_norm": 0.011210133321583271, + "learning_rate": 2.74624115666988e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20768464, + "step": 10612 + }, + { + "epoch": 1.4066269052352551, + "grad_norm": 4.336481094360352, + "learning_rate": 2.745895704976892e-06, + "loss": 0.0216, + "num_input_tokens_seen": 20769944, + "step": 10613 + }, + { + "epoch": 1.4067594433399602, + "grad_norm": 5.574187755584717, + "learning_rate": 2.7455502485428647e-06, + "loss": 0.0474, + "num_input_tokens_seen": 20771416, + "step": 10614 + }, + { + "epoch": 1.4068919814446654, + "grad_norm": 5.246311187744141, + "learning_rate": 2.745204787374459e-06, + "loss": 0.0999, + "num_input_tokens_seen": 20772992, + "step": 10615 + }, + { + "epoch": 1.4070245195493705, + "grad_norm": 1.4681001901626587, + "learning_rate": 2.744859321478337e-06, + "loss": 0.0098, + "num_input_tokens_seen": 20774808, + "step": 10616 + }, + { + "epoch": 1.4071570576540755, + "grad_norm": 0.920194685459137, + "learning_rate": 2.744513850861156e-06, + "loss": 0.004, + "num_input_tokens_seen": 20775976, + "step": 10617 + }, + { + "epoch": 1.4072895957587805, + "grad_norm": 8.181239128112793, + "learning_rate": 2.7441683755295816e-06, + "loss": 0.0963, + "num_input_tokens_seen": 20777952, + "step": 10618 + }, + { + "epoch": 1.4074221338634858, + "grad_norm": 0.21132461726665497, + "learning_rate": 2.7438228954902724e-06, + "loss": 0.0013, + "num_input_tokens_seen": 20779576, + "step": 10619 + }, + { + "epoch": 1.4075546719681908, + "grad_norm": 0.06734517216682434, + "learning_rate": 2.743477410749888e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20780864, + "step": 10620 + }, + { + "epoch": 1.4076872100728959, + "grad_norm": 9.145798683166504, + "learning_rate": 2.7431319213150926e-06, + "loss": 0.2204, + "num_input_tokens_seen": 20783208, + "step": 10621 + }, + { + "epoch": 1.4078197481776011, + "grad_norm": 0.5492861270904541, + "learning_rate": 2.7427864271925452e-06, + "loss": 0.0057, + "num_input_tokens_seen": 20784536, + "step": 10622 + }, + { + "epoch": 1.4079522862823062, + "grad_norm": 0.02927401289343834, + "learning_rate": 2.742440928388908e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20786176, + "step": 10623 + }, + { + "epoch": 1.4080848243870112, + "grad_norm": 11.943614959716797, + "learning_rate": 2.742095424910843e-06, + "loss": 0.203, + "num_input_tokens_seen": 20788032, + "step": 10624 + }, + { + "epoch": 1.4082173624917163, + "grad_norm": 8.293085098266602, + "learning_rate": 2.7417499167650107e-06, + "loss": 0.2296, + "num_input_tokens_seen": 20789728, + "step": 10625 + }, + { + "epoch": 1.4083499005964215, + "grad_norm": 6.553684234619141, + "learning_rate": 2.7414044039580736e-06, + "loss": 0.1605, + "num_input_tokens_seen": 20792384, + "step": 10626 + }, + { + "epoch": 1.4084824387011265, + "grad_norm": 7.885653495788574, + "learning_rate": 2.7410588864966925e-06, + "loss": 0.1703, + "num_input_tokens_seen": 20794384, + "step": 10627 + }, + { + "epoch": 1.4086149768058318, + "grad_norm": 3.4076781272888184, + "learning_rate": 2.7407133643875303e-06, + "loss": 0.0581, + "num_input_tokens_seen": 20796440, + "step": 10628 + }, + { + "epoch": 1.4087475149105368, + "grad_norm": 0.09203991293907166, + "learning_rate": 2.7403678376372485e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20798840, + "step": 10629 + }, + { + "epoch": 1.4088800530152419, + "grad_norm": 0.08978790789842606, + "learning_rate": 2.7400223062525084e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20801616, + "step": 10630 + }, + { + "epoch": 1.409012591119947, + "grad_norm": 6.554531574249268, + "learning_rate": 2.739676770239973e-06, + "loss": 0.1438, + "num_input_tokens_seen": 20803384, + "step": 10631 + }, + { + "epoch": 1.409145129224652, + "grad_norm": 6.797333717346191, + "learning_rate": 2.739331229606304e-06, + "loss": 0.1107, + "num_input_tokens_seen": 20805088, + "step": 10632 + }, + { + "epoch": 1.4092776673293572, + "grad_norm": 4.143064498901367, + "learning_rate": 2.7389856843581638e-06, + "loss": 0.0162, + "num_input_tokens_seen": 20806880, + "step": 10633 + }, + { + "epoch": 1.4094102054340623, + "grad_norm": 7.512301445007324, + "learning_rate": 2.738640134502215e-06, + "loss": 0.1972, + "num_input_tokens_seen": 20809072, + "step": 10634 + }, + { + "epoch": 1.4095427435387675, + "grad_norm": 0.07993736863136292, + "learning_rate": 2.738294580045119e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20811048, + "step": 10635 + }, + { + "epoch": 1.4096752816434726, + "grad_norm": 0.6963827013969421, + "learning_rate": 2.73794902099354e-06, + "loss": 0.0046, + "num_input_tokens_seen": 20813232, + "step": 10636 + }, + { + "epoch": 1.4098078197481776, + "grad_norm": 8.478193283081055, + "learning_rate": 2.73760345735414e-06, + "loss": 0.128, + "num_input_tokens_seen": 20815248, + "step": 10637 + }, + { + "epoch": 1.4099403578528826, + "grad_norm": 5.135081768035889, + "learning_rate": 2.73725788913358e-06, + "loss": 0.1353, + "num_input_tokens_seen": 20816984, + "step": 10638 + }, + { + "epoch": 1.4100728959575877, + "grad_norm": 1.0555853843688965, + "learning_rate": 2.7369123163385254e-06, + "loss": 0.0062, + "num_input_tokens_seen": 20819040, + "step": 10639 + }, + { + "epoch": 1.410205434062293, + "grad_norm": 9.966594696044922, + "learning_rate": 2.736566738975637e-06, + "loss": 0.2144, + "num_input_tokens_seen": 20821128, + "step": 10640 + }, + { + "epoch": 1.410337972166998, + "grad_norm": 0.64225172996521, + "learning_rate": 2.7362211570515794e-06, + "loss": 0.0121, + "num_input_tokens_seen": 20823216, + "step": 10641 + }, + { + "epoch": 1.4104705102717032, + "grad_norm": 2.339709758758545, + "learning_rate": 2.735875570573015e-06, + "loss": 0.0201, + "num_input_tokens_seen": 20824944, + "step": 10642 + }, + { + "epoch": 1.4106030483764083, + "grad_norm": 8.702493667602539, + "learning_rate": 2.7355299795466068e-06, + "loss": 0.0893, + "num_input_tokens_seen": 20826512, + "step": 10643 + }, + { + "epoch": 1.4107355864811133, + "grad_norm": 9.747122764587402, + "learning_rate": 2.7351843839790175e-06, + "loss": 0.3861, + "num_input_tokens_seen": 20829056, + "step": 10644 + }, + { + "epoch": 1.4108681245858183, + "grad_norm": 4.787661075592041, + "learning_rate": 2.734838783876912e-06, + "loss": 0.024, + "num_input_tokens_seen": 20830936, + "step": 10645 + }, + { + "epoch": 1.4110006626905236, + "grad_norm": 6.043982028961182, + "learning_rate": 2.734493179246952e-06, + "loss": 0.0842, + "num_input_tokens_seen": 20833352, + "step": 10646 + }, + { + "epoch": 1.4111332007952286, + "grad_norm": 2.3153305053710938, + "learning_rate": 2.734147570095802e-06, + "loss": 0.02, + "num_input_tokens_seen": 20835096, + "step": 10647 + }, + { + "epoch": 1.4112657388999337, + "grad_norm": 1.2299238443374634, + "learning_rate": 2.733801956430125e-06, + "loss": 0.0096, + "num_input_tokens_seen": 20837320, + "step": 10648 + }, + { + "epoch": 1.411398277004639, + "grad_norm": 7.338959693908691, + "learning_rate": 2.7334563382565853e-06, + "loss": 0.2465, + "num_input_tokens_seen": 20840976, + "step": 10649 + }, + { + "epoch": 1.411530815109344, + "grad_norm": 0.06455773115158081, + "learning_rate": 2.7331107155818466e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20842544, + "step": 10650 + }, + { + "epoch": 1.411663353214049, + "grad_norm": 7.122287273406982, + "learning_rate": 2.732765088412572e-06, + "loss": 0.0774, + "num_input_tokens_seen": 20844024, + "step": 10651 + }, + { + "epoch": 1.411795891318754, + "grad_norm": 7.4047160148620605, + "learning_rate": 2.7324194567554265e-06, + "loss": 0.0433, + "num_input_tokens_seen": 20845856, + "step": 10652 + }, + { + "epoch": 1.4119284294234593, + "grad_norm": 4.618725299835205, + "learning_rate": 2.7320738206170724e-06, + "loss": 0.0791, + "num_input_tokens_seen": 20848064, + "step": 10653 + }, + { + "epoch": 1.4120609675281643, + "grad_norm": 7.90389347076416, + "learning_rate": 2.7317281800041756e-06, + "loss": 0.174, + "num_input_tokens_seen": 20850640, + "step": 10654 + }, + { + "epoch": 1.4121935056328694, + "grad_norm": 2.023629903793335, + "learning_rate": 2.7313825349234004e-06, + "loss": 0.0281, + "num_input_tokens_seen": 20852344, + "step": 10655 + }, + { + "epoch": 1.4123260437375746, + "grad_norm": 1.1122645139694214, + "learning_rate": 2.731036885381409e-06, + "loss": 0.0071, + "num_input_tokens_seen": 20854744, + "step": 10656 + }, + { + "epoch": 1.4124585818422797, + "grad_norm": 2.542592763900757, + "learning_rate": 2.7306912313848677e-06, + "loss": 0.0335, + "num_input_tokens_seen": 20855888, + "step": 10657 + }, + { + "epoch": 1.4125911199469847, + "grad_norm": 5.379162788391113, + "learning_rate": 2.7303455729404404e-06, + "loss": 0.1568, + "num_input_tokens_seen": 20857608, + "step": 10658 + }, + { + "epoch": 1.4127236580516898, + "grad_norm": 3.359867572784424, + "learning_rate": 2.729999910054791e-06, + "loss": 0.0878, + "num_input_tokens_seen": 20859744, + "step": 10659 + }, + { + "epoch": 1.412856196156395, + "grad_norm": 15.724868774414062, + "learning_rate": 2.7296542427345856e-06, + "loss": 0.1215, + "num_input_tokens_seen": 20862104, + "step": 10660 + }, + { + "epoch": 1.4129887342611, + "grad_norm": 0.07450693100690842, + "learning_rate": 2.7293085709864874e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20863864, + "step": 10661 + }, + { + "epoch": 1.413121272365805, + "grad_norm": 8.932411193847656, + "learning_rate": 2.7289628948171614e-06, + "loss": 0.0893, + "num_input_tokens_seen": 20866272, + "step": 10662 + }, + { + "epoch": 1.4132538104705104, + "grad_norm": 9.074971199035645, + "learning_rate": 2.728617214233274e-06, + "loss": 0.1708, + "num_input_tokens_seen": 20868080, + "step": 10663 + }, + { + "epoch": 1.4133863485752154, + "grad_norm": 1.7560399770736694, + "learning_rate": 2.728271529241488e-06, + "loss": 0.0037, + "num_input_tokens_seen": 20869928, + "step": 10664 + }, + { + "epoch": 1.4135188866799204, + "grad_norm": 4.777466773986816, + "learning_rate": 2.72792583984847e-06, + "loss": 0.1645, + "num_input_tokens_seen": 20871736, + "step": 10665 + }, + { + "epoch": 1.4136514247846255, + "grad_norm": 5.210172653198242, + "learning_rate": 2.7275801460608836e-06, + "loss": 0.0716, + "num_input_tokens_seen": 20873344, + "step": 10666 + }, + { + "epoch": 1.4137839628893307, + "grad_norm": 13.746232032775879, + "learning_rate": 2.7272344478853964e-06, + "loss": 0.2772, + "num_input_tokens_seen": 20875680, + "step": 10667 + }, + { + "epoch": 1.4139165009940358, + "grad_norm": 10.221718788146973, + "learning_rate": 2.7268887453286715e-06, + "loss": 0.2391, + "num_input_tokens_seen": 20877576, + "step": 10668 + }, + { + "epoch": 1.414049039098741, + "grad_norm": 0.03659462928771973, + "learning_rate": 2.7265430383973746e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20879208, + "step": 10669 + }, + { + "epoch": 1.414181577203446, + "grad_norm": 0.028182020410895348, + "learning_rate": 2.726197327098172e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20880944, + "step": 10670 + }, + { + "epoch": 1.414314115308151, + "grad_norm": 0.773452877998352, + "learning_rate": 2.725851611437729e-06, + "loss": 0.0089, + "num_input_tokens_seen": 20882000, + "step": 10671 + }, + { + "epoch": 1.4144466534128561, + "grad_norm": 9.345169067382812, + "learning_rate": 2.7255058914227112e-06, + "loss": 0.1693, + "num_input_tokens_seen": 20884056, + "step": 10672 + }, + { + "epoch": 1.4145791915175612, + "grad_norm": 7.091841697692871, + "learning_rate": 2.7251601670597842e-06, + "loss": 0.122, + "num_input_tokens_seen": 20887232, + "step": 10673 + }, + { + "epoch": 1.4147117296222664, + "grad_norm": 7.1334123611450195, + "learning_rate": 2.7248144383556135e-06, + "loss": 0.2165, + "num_input_tokens_seen": 20889360, + "step": 10674 + }, + { + "epoch": 1.4148442677269715, + "grad_norm": 0.22957558929920197, + "learning_rate": 2.724468705316866e-06, + "loss": 0.0012, + "num_input_tokens_seen": 20890920, + "step": 10675 + }, + { + "epoch": 1.4149768058316767, + "grad_norm": 9.437118530273438, + "learning_rate": 2.724122967950207e-06, + "loss": 0.242, + "num_input_tokens_seen": 20892672, + "step": 10676 + }, + { + "epoch": 1.4151093439363818, + "grad_norm": 0.013177376240491867, + "learning_rate": 2.723777226262302e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20894232, + "step": 10677 + }, + { + "epoch": 1.4152418820410868, + "grad_norm": 3.774428367614746, + "learning_rate": 2.7234314802598184e-06, + "loss": 0.0439, + "num_input_tokens_seen": 20895816, + "step": 10678 + }, + { + "epoch": 1.4153744201457918, + "grad_norm": 20.24034881591797, + "learning_rate": 2.7230857299494206e-06, + "loss": 0.6097, + "num_input_tokens_seen": 20898528, + "step": 10679 + }, + { + "epoch": 1.4155069582504969, + "grad_norm": 5.048086166381836, + "learning_rate": 2.722739975337777e-06, + "loss": 0.122, + "num_input_tokens_seen": 20900808, + "step": 10680 + }, + { + "epoch": 1.4156394963552021, + "grad_norm": 12.051342010498047, + "learning_rate": 2.7223942164315533e-06, + "loss": 0.3031, + "num_input_tokens_seen": 20902848, + "step": 10681 + }, + { + "epoch": 1.4157720344599072, + "grad_norm": 0.1069600060582161, + "learning_rate": 2.7220484532374147e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20904960, + "step": 10682 + }, + { + "epoch": 1.4159045725646124, + "grad_norm": 0.026960812509059906, + "learning_rate": 2.721702685762029e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20906688, + "step": 10683 + }, + { + "epoch": 1.4160371106693175, + "grad_norm": 13.062935829162598, + "learning_rate": 2.7213569140120627e-06, + "loss": 0.1239, + "num_input_tokens_seen": 20909120, + "step": 10684 + }, + { + "epoch": 1.4161696487740225, + "grad_norm": 13.373900413513184, + "learning_rate": 2.7210111379941824e-06, + "loss": 0.2291, + "num_input_tokens_seen": 20910688, + "step": 10685 + }, + { + "epoch": 1.4163021868787276, + "grad_norm": 6.7151947021484375, + "learning_rate": 2.720665357715055e-06, + "loss": 0.2858, + "num_input_tokens_seen": 20912928, + "step": 10686 + }, + { + "epoch": 1.4164347249834328, + "grad_norm": 0.6810829043388367, + "learning_rate": 2.720319573181347e-06, + "loss": 0.0059, + "num_input_tokens_seen": 20914120, + "step": 10687 + }, + { + "epoch": 1.4165672630881379, + "grad_norm": 0.5847558975219727, + "learning_rate": 2.7199737843997254e-06, + "loss": 0.0023, + "num_input_tokens_seen": 20916328, + "step": 10688 + }, + { + "epoch": 1.416699801192843, + "grad_norm": 0.0157274529337883, + "learning_rate": 2.7196279913768587e-06, + "loss": 0.0001, + "num_input_tokens_seen": 20917672, + "step": 10689 + }, + { + "epoch": 1.4168323392975481, + "grad_norm": 15.493023872375488, + "learning_rate": 2.7192821941194113e-06, + "loss": 0.4019, + "num_input_tokens_seen": 20919904, + "step": 10690 + }, + { + "epoch": 1.4169648774022532, + "grad_norm": 0.033382903784513474, + "learning_rate": 2.7189363926340527e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20922384, + "step": 10691 + }, + { + "epoch": 1.4170974155069582, + "grad_norm": 0.03856700658798218, + "learning_rate": 2.7185905869274495e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20923768, + "step": 10692 + }, + { + "epoch": 1.4172299536116633, + "grad_norm": 9.818392753601074, + "learning_rate": 2.718244777006269e-06, + "loss": 0.4454, + "num_input_tokens_seen": 20926576, + "step": 10693 + }, + { + "epoch": 1.4173624917163685, + "grad_norm": 5.062514305114746, + "learning_rate": 2.7178989628771785e-06, + "loss": 0.1346, + "num_input_tokens_seen": 20928280, + "step": 10694 + }, + { + "epoch": 1.4174950298210736, + "grad_norm": 10.080476760864258, + "learning_rate": 2.7175531445468456e-06, + "loss": 0.2572, + "num_input_tokens_seen": 20930136, + "step": 10695 + }, + { + "epoch": 1.4176275679257786, + "grad_norm": 0.0313757061958313, + "learning_rate": 2.7172073220219382e-06, + "loss": 0.0002, + "num_input_tokens_seen": 20931696, + "step": 10696 + }, + { + "epoch": 1.4177601060304839, + "grad_norm": 2.7627387046813965, + "learning_rate": 2.7168614953091225e-06, + "loss": 0.0133, + "num_input_tokens_seen": 20934456, + "step": 10697 + }, + { + "epoch": 1.417892644135189, + "grad_norm": 11.445853233337402, + "learning_rate": 2.7165156644150692e-06, + "loss": 0.2616, + "num_input_tokens_seen": 20937128, + "step": 10698 + }, + { + "epoch": 1.418025182239894, + "grad_norm": 8.642108917236328, + "learning_rate": 2.7161698293464446e-06, + "loss": 0.106, + "num_input_tokens_seen": 20939064, + "step": 10699 + }, + { + "epoch": 1.418157720344599, + "grad_norm": 0.07817390561103821, + "learning_rate": 2.7158239901099155e-06, + "loss": 0.0006, + "num_input_tokens_seen": 20940432, + "step": 10700 + }, + { + "epoch": 1.4182902584493042, + "grad_norm": 1.8011860847473145, + "learning_rate": 2.7154781467121516e-06, + "loss": 0.0422, + "num_input_tokens_seen": 20941888, + "step": 10701 + }, + { + "epoch": 1.4184227965540093, + "grad_norm": 0.05256745591759682, + "learning_rate": 2.7151322991598207e-06, + "loss": 0.0004, + "num_input_tokens_seen": 20944184, + "step": 10702 + }, + { + "epoch": 1.4185553346587143, + "grad_norm": 4.226961612701416, + "learning_rate": 2.71478644745959e-06, + "loss": 0.1165, + "num_input_tokens_seen": 20945600, + "step": 10703 + }, + { + "epoch": 1.4186878727634196, + "grad_norm": 6.054051876068115, + "learning_rate": 2.714440591618129e-06, + "loss": 0.1086, + "num_input_tokens_seen": 20947544, + "step": 10704 + }, + { + "epoch": 1.4188204108681246, + "grad_norm": 3.5379059314727783, + "learning_rate": 2.7140947316421044e-06, + "loss": 0.0605, + "num_input_tokens_seen": 20949728, + "step": 10705 + }, + { + "epoch": 1.4189529489728296, + "grad_norm": 0.04323343187570572, + "learning_rate": 2.7137488675381864e-06, + "loss": 0.0003, + "num_input_tokens_seen": 20951080, + "step": 10706 + }, + { + "epoch": 1.4190854870775347, + "grad_norm": 0.19374366104602814, + "learning_rate": 2.7134029993130427e-06, + "loss": 0.0014, + "num_input_tokens_seen": 20952472, + "step": 10707 + }, + { + "epoch": 1.41921802518224, + "grad_norm": 9.088922500610352, + "learning_rate": 2.713057126973342e-06, + "loss": 0.2748, + "num_input_tokens_seen": 20954216, + "step": 10708 + }, + { + "epoch": 1.419350563286945, + "grad_norm": 19.48166847229004, + "learning_rate": 2.712711250525753e-06, + "loss": 0.3357, + "num_input_tokens_seen": 20956368, + "step": 10709 + }, + { + "epoch": 1.4194831013916502, + "grad_norm": 5.546043395996094, + "learning_rate": 2.7123653699769438e-06, + "loss": 0.1073, + "num_input_tokens_seen": 20958104, + "step": 10710 + }, + { + "epoch": 1.4196156394963553, + "grad_norm": 0.09428960084915161, + "learning_rate": 2.7120194853335848e-06, + "loss": 0.0007, + "num_input_tokens_seen": 20960904, + "step": 10711 + }, + { + "epoch": 1.4197481776010603, + "grad_norm": 17.581602096557617, + "learning_rate": 2.7116735966023435e-06, + "loss": 0.0708, + "num_input_tokens_seen": 20962376, + "step": 10712 + }, + { + "epoch": 1.4198807157057654, + "grad_norm": 7.995454788208008, + "learning_rate": 2.7113277037898883e-06, + "loss": 0.1375, + "num_input_tokens_seen": 20965408, + "step": 10713 + }, + { + "epoch": 1.4200132538104704, + "grad_norm": 3.8892593383789062, + "learning_rate": 2.7109818069028904e-06, + "loss": 0.1005, + "num_input_tokens_seen": 20968760, + "step": 10714 + }, + { + "epoch": 1.4201457919151756, + "grad_norm": 4.330591201782227, + "learning_rate": 2.710635905948017e-06, + "loss": 0.1271, + "num_input_tokens_seen": 20970616, + "step": 10715 + }, + { + "epoch": 1.4202783300198807, + "grad_norm": 6.15462589263916, + "learning_rate": 2.710290000931938e-06, + "loss": 0.1639, + "num_input_tokens_seen": 20972784, + "step": 10716 + }, + { + "epoch": 1.420410868124586, + "grad_norm": 1.6662498712539673, + "learning_rate": 2.7099440918613233e-06, + "loss": 0.0186, + "num_input_tokens_seen": 20974376, + "step": 10717 + }, + { + "epoch": 1.420543406229291, + "grad_norm": 4.802343368530273, + "learning_rate": 2.7095981787428405e-06, + "loss": 0.0682, + "num_input_tokens_seen": 20976344, + "step": 10718 + }, + { + "epoch": 1.420675944333996, + "grad_norm": 14.069927215576172, + "learning_rate": 2.709252261583162e-06, + "loss": 0.3954, + "num_input_tokens_seen": 20978152, + "step": 10719 + }, + { + "epoch": 1.420808482438701, + "grad_norm": 0.21985822916030884, + "learning_rate": 2.7089063403889547e-06, + "loss": 0.0016, + "num_input_tokens_seen": 20979976, + "step": 10720 + }, + { + "epoch": 1.420941020543406, + "grad_norm": 10.50622844696045, + "learning_rate": 2.7085604151668882e-06, + "loss": 0.2087, + "num_input_tokens_seen": 20982496, + "step": 10721 + }, + { + "epoch": 1.4210735586481114, + "grad_norm": 11.014713287353516, + "learning_rate": 2.708214485923634e-06, + "loss": 0.3833, + "num_input_tokens_seen": 20984784, + "step": 10722 + }, + { + "epoch": 1.4212060967528164, + "grad_norm": 0.06483417004346848, + "learning_rate": 2.7078685526658604e-06, + "loss": 0.0005, + "num_input_tokens_seen": 20986064, + "step": 10723 + }, + { + "epoch": 1.4213386348575217, + "grad_norm": 2.469977855682373, + "learning_rate": 2.7075226154002378e-06, + "loss": 0.0225, + "num_input_tokens_seen": 20989232, + "step": 10724 + }, + { + "epoch": 1.4214711729622267, + "grad_norm": 8.448700904846191, + "learning_rate": 2.7071766741334365e-06, + "loss": 0.1814, + "num_input_tokens_seen": 20992456, + "step": 10725 + }, + { + "epoch": 1.4216037110669317, + "grad_norm": 0.23664437234401703, + "learning_rate": 2.706830728872125e-06, + "loss": 0.0016, + "num_input_tokens_seen": 20993848, + "step": 10726 + }, + { + "epoch": 1.4217362491716368, + "grad_norm": 5.103252410888672, + "learning_rate": 2.7064847796229756e-06, + "loss": 0.05, + "num_input_tokens_seen": 20996960, + "step": 10727 + }, + { + "epoch": 1.421868787276342, + "grad_norm": 13.323234558105469, + "learning_rate": 2.706138826392656e-06, + "loss": 0.2098, + "num_input_tokens_seen": 20999008, + "step": 10728 + }, + { + "epoch": 1.422001325381047, + "grad_norm": 7.097051620483398, + "learning_rate": 2.7057928691878387e-06, + "loss": 0.2471, + "num_input_tokens_seen": 21000824, + "step": 10729 + }, + { + "epoch": 1.422133863485752, + "grad_norm": 0.07095486670732498, + "learning_rate": 2.7054469080151923e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21002216, + "step": 10730 + }, + { + "epoch": 1.4222664015904574, + "grad_norm": 7.510002613067627, + "learning_rate": 2.7051009428813873e-06, + "loss": 0.2944, + "num_input_tokens_seen": 21004144, + "step": 10731 + }, + { + "epoch": 1.4223989396951624, + "grad_norm": 0.1955568790435791, + "learning_rate": 2.704754973793096e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21005544, + "step": 10732 + }, + { + "epoch": 1.4225314777998674, + "grad_norm": 2.6343190670013428, + "learning_rate": 2.704409000756987e-06, + "loss": 0.0198, + "num_input_tokens_seen": 21007368, + "step": 10733 + }, + { + "epoch": 1.4226640159045725, + "grad_norm": 4.825110912322998, + "learning_rate": 2.7040630237797306e-06, + "loss": 0.0478, + "num_input_tokens_seen": 21009352, + "step": 10734 + }, + { + "epoch": 1.4227965540092777, + "grad_norm": 0.5988158583641052, + "learning_rate": 2.7037170428679985e-06, + "loss": 0.0043, + "num_input_tokens_seen": 21011072, + "step": 10735 + }, + { + "epoch": 1.4229290921139828, + "grad_norm": 7.015699863433838, + "learning_rate": 2.7033710580284617e-06, + "loss": 0.0269, + "num_input_tokens_seen": 21013352, + "step": 10736 + }, + { + "epoch": 1.4230616302186878, + "grad_norm": 11.575616836547852, + "learning_rate": 2.703025069267791e-06, + "loss": 0.2996, + "num_input_tokens_seen": 21016008, + "step": 10737 + }, + { + "epoch": 1.423194168323393, + "grad_norm": 0.09432853758335114, + "learning_rate": 2.7026790765926566e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21017272, + "step": 10738 + }, + { + "epoch": 1.423326706428098, + "grad_norm": 6.571661472320557, + "learning_rate": 2.7023330800097295e-06, + "loss": 0.2169, + "num_input_tokens_seen": 21019392, + "step": 10739 + }, + { + "epoch": 1.4234592445328031, + "grad_norm": 8.83761215209961, + "learning_rate": 2.7019870795256813e-06, + "loss": 0.051, + "num_input_tokens_seen": 21021800, + "step": 10740 + }, + { + "epoch": 1.4235917826375082, + "grad_norm": 0.5460322499275208, + "learning_rate": 2.7016410751471827e-06, + "loss": 0.005, + "num_input_tokens_seen": 21023520, + "step": 10741 + }, + { + "epoch": 1.4237243207422134, + "grad_norm": 10.693652153015137, + "learning_rate": 2.7012950668809053e-06, + "loss": 0.1056, + "num_input_tokens_seen": 21024552, + "step": 10742 + }, + { + "epoch": 1.4238568588469185, + "grad_norm": 7.407985210418701, + "learning_rate": 2.7009490547335205e-06, + "loss": 0.0789, + "num_input_tokens_seen": 21026504, + "step": 10743 + }, + { + "epoch": 1.4239893969516235, + "grad_norm": 3.5396578311920166, + "learning_rate": 2.700603038711699e-06, + "loss": 0.0498, + "num_input_tokens_seen": 21028192, + "step": 10744 + }, + { + "epoch": 1.4241219350563288, + "grad_norm": 6.02685022354126, + "learning_rate": 2.7002570188221115e-06, + "loss": 0.0896, + "num_input_tokens_seen": 21030496, + "step": 10745 + }, + { + "epoch": 1.4242544731610338, + "grad_norm": 13.647383689880371, + "learning_rate": 2.699910995071432e-06, + "loss": 0.3442, + "num_input_tokens_seen": 21032368, + "step": 10746 + }, + { + "epoch": 1.4243870112657389, + "grad_norm": 5.454916000366211, + "learning_rate": 2.6995649674663298e-06, + "loss": 0.0846, + "num_input_tokens_seen": 21034920, + "step": 10747 + }, + { + "epoch": 1.424519549370444, + "grad_norm": 6.790247917175293, + "learning_rate": 2.6992189360134776e-06, + "loss": 0.1502, + "num_input_tokens_seen": 21037448, + "step": 10748 + }, + { + "epoch": 1.4246520874751492, + "grad_norm": 2.1342883110046387, + "learning_rate": 2.6988729007195465e-06, + "loss": 0.0252, + "num_input_tokens_seen": 21039400, + "step": 10749 + }, + { + "epoch": 1.4247846255798542, + "grad_norm": 8.948573112487793, + "learning_rate": 2.6985268615912087e-06, + "loss": 0.1485, + "num_input_tokens_seen": 21040976, + "step": 10750 + }, + { + "epoch": 1.4249171636845592, + "grad_norm": 0.0212973952293396, + "learning_rate": 2.6981808186351366e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21042184, + "step": 10751 + }, + { + "epoch": 1.4250497017892645, + "grad_norm": 8.74812126159668, + "learning_rate": 2.697834771858001e-06, + "loss": 0.1209, + "num_input_tokens_seen": 21043952, + "step": 10752 + }, + { + "epoch": 1.4251822398939695, + "grad_norm": 8.053406715393066, + "learning_rate": 2.6974887212664754e-06, + "loss": 0.1652, + "num_input_tokens_seen": 21045896, + "step": 10753 + }, + { + "epoch": 1.4253147779986746, + "grad_norm": 0.5992239713668823, + "learning_rate": 2.69714266686723e-06, + "loss": 0.0063, + "num_input_tokens_seen": 21047760, + "step": 10754 + }, + { + "epoch": 1.4254473161033796, + "grad_norm": 16.952857971191406, + "learning_rate": 2.696796608666939e-06, + "loss": 0.2909, + "num_input_tokens_seen": 21050096, + "step": 10755 + }, + { + "epoch": 1.4255798542080849, + "grad_norm": 0.08713732659816742, + "learning_rate": 2.696450546672273e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21052536, + "step": 10756 + }, + { + "epoch": 1.42571239231279, + "grad_norm": 0.031629063189029694, + "learning_rate": 2.6961044808899043e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21054904, + "step": 10757 + }, + { + "epoch": 1.4258449304174952, + "grad_norm": 0.3914913237094879, + "learning_rate": 2.695758411326507e-06, + "loss": 0.0023, + "num_input_tokens_seen": 21056216, + "step": 10758 + }, + { + "epoch": 1.4259774685222002, + "grad_norm": 11.714195251464844, + "learning_rate": 2.695412337988752e-06, + "loss": 0.3401, + "num_input_tokens_seen": 21058448, + "step": 10759 + }, + { + "epoch": 1.4261100066269052, + "grad_norm": 1.5228157043457031, + "learning_rate": 2.695066260883313e-06, + "loss": 0.0202, + "num_input_tokens_seen": 21060784, + "step": 10760 + }, + { + "epoch": 1.4262425447316103, + "grad_norm": 6.81503438949585, + "learning_rate": 2.6947201800168616e-06, + "loss": 0.0941, + "num_input_tokens_seen": 21062848, + "step": 10761 + }, + { + "epoch": 1.4263750828363153, + "grad_norm": 2.946133852005005, + "learning_rate": 2.6943740953960694e-06, + "loss": 0.0448, + "num_input_tokens_seen": 21065120, + "step": 10762 + }, + { + "epoch": 1.4265076209410206, + "grad_norm": 8.323074340820312, + "learning_rate": 2.694028007027612e-06, + "loss": 0.2973, + "num_input_tokens_seen": 21067592, + "step": 10763 + }, + { + "epoch": 1.4266401590457256, + "grad_norm": 0.021862177178263664, + "learning_rate": 2.693681914918161e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21069480, + "step": 10764 + }, + { + "epoch": 1.4267726971504309, + "grad_norm": 6.99967098236084, + "learning_rate": 2.693335819074388e-06, + "loss": 0.1365, + "num_input_tokens_seen": 21071304, + "step": 10765 + }, + { + "epoch": 1.426905235255136, + "grad_norm": 10.257532119750977, + "learning_rate": 2.692989719502968e-06, + "loss": 0.2691, + "num_input_tokens_seen": 21073104, + "step": 10766 + }, + { + "epoch": 1.427037773359841, + "grad_norm": 4.620853900909424, + "learning_rate": 2.6926436162105725e-06, + "loss": 0.0462, + "num_input_tokens_seen": 21074448, + "step": 10767 + }, + { + "epoch": 1.427170311464546, + "grad_norm": 2.277707099914551, + "learning_rate": 2.692297509203875e-06, + "loss": 0.0173, + "num_input_tokens_seen": 21075952, + "step": 10768 + }, + { + "epoch": 1.4273028495692512, + "grad_norm": 7.918296813964844, + "learning_rate": 2.6919513984895494e-06, + "loss": 0.2352, + "num_input_tokens_seen": 21078216, + "step": 10769 + }, + { + "epoch": 1.4274353876739563, + "grad_norm": 5.6482062339782715, + "learning_rate": 2.6916052840742686e-06, + "loss": 0.0275, + "num_input_tokens_seen": 21080512, + "step": 10770 + }, + { + "epoch": 1.4275679257786613, + "grad_norm": 7.644151210784912, + "learning_rate": 2.691259165964705e-06, + "loss": 0.2771, + "num_input_tokens_seen": 21082248, + "step": 10771 + }, + { + "epoch": 1.4277004638833666, + "grad_norm": 3.9690589904785156, + "learning_rate": 2.6909130441675336e-06, + "loss": 0.0608, + "num_input_tokens_seen": 21084360, + "step": 10772 + }, + { + "epoch": 1.4278330019880716, + "grad_norm": 0.04588577151298523, + "learning_rate": 2.690566918689426e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21085720, + "step": 10773 + }, + { + "epoch": 1.4279655400927767, + "grad_norm": 0.09488814324140549, + "learning_rate": 2.690220789537057e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21086808, + "step": 10774 + }, + { + "epoch": 1.4280980781974817, + "grad_norm": 5.080634117126465, + "learning_rate": 2.6898746567171e-06, + "loss": 0.0617, + "num_input_tokens_seen": 21089792, + "step": 10775 + }, + { + "epoch": 1.428230616302187, + "grad_norm": 4.373073577880859, + "learning_rate": 2.6895285202362294e-06, + "loss": 0.0812, + "num_input_tokens_seen": 21091920, + "step": 10776 + }, + { + "epoch": 1.428363154406892, + "grad_norm": 0.016191670671105385, + "learning_rate": 2.6891823801011176e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21093072, + "step": 10777 + }, + { + "epoch": 1.428495692511597, + "grad_norm": 7.616604328155518, + "learning_rate": 2.6888362363184384e-06, + "loss": 0.0806, + "num_input_tokens_seen": 21095512, + "step": 10778 + }, + { + "epoch": 1.4286282306163023, + "grad_norm": 4.610668182373047, + "learning_rate": 2.6884900888948672e-06, + "loss": 0.1204, + "num_input_tokens_seen": 21097480, + "step": 10779 + }, + { + "epoch": 1.4287607687210073, + "grad_norm": 0.036202505230903625, + "learning_rate": 2.6881439378370763e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21098696, + "step": 10780 + }, + { + "epoch": 1.4288933068257124, + "grad_norm": 2.6236343383789062, + "learning_rate": 2.687797783151741e-06, + "loss": 0.0369, + "num_input_tokens_seen": 21101352, + "step": 10781 + }, + { + "epoch": 1.4290258449304174, + "grad_norm": 1.6541774272918701, + "learning_rate": 2.6874516248455358e-06, + "loss": 0.0156, + "num_input_tokens_seen": 21104160, + "step": 10782 + }, + { + "epoch": 1.4291583830351227, + "grad_norm": 0.02200099267065525, + "learning_rate": 2.687105462925132e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21106520, + "step": 10783 + }, + { + "epoch": 1.4292909211398277, + "grad_norm": 0.012917269952595234, + "learning_rate": 2.6867592973972075e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21107504, + "step": 10784 + }, + { + "epoch": 1.4294234592445327, + "grad_norm": 3.4966816902160645, + "learning_rate": 2.6864131282684336e-06, + "loss": 0.0466, + "num_input_tokens_seen": 21109256, + "step": 10785 + }, + { + "epoch": 1.429555997349238, + "grad_norm": 1.1626818180084229, + "learning_rate": 2.6860669555454868e-06, + "loss": 0.011, + "num_input_tokens_seen": 21112192, + "step": 10786 + }, + { + "epoch": 1.429688535453943, + "grad_norm": 9.177265167236328, + "learning_rate": 2.6857207792350403e-06, + "loss": 0.1326, + "num_input_tokens_seen": 21113808, + "step": 10787 + }, + { + "epoch": 1.429821073558648, + "grad_norm": 8.129093170166016, + "learning_rate": 2.685374599343769e-06, + "loss": 0.2534, + "num_input_tokens_seen": 21115792, + "step": 10788 + }, + { + "epoch": 1.429953611663353, + "grad_norm": 7.252820014953613, + "learning_rate": 2.685028415878348e-06, + "loss": 0.1092, + "num_input_tokens_seen": 21117616, + "step": 10789 + }, + { + "epoch": 1.4300861497680584, + "grad_norm": 4.159541130065918, + "learning_rate": 2.6846822288454518e-06, + "loss": 0.0175, + "num_input_tokens_seen": 21119264, + "step": 10790 + }, + { + "epoch": 1.4302186878727634, + "grad_norm": 18.92696189880371, + "learning_rate": 2.6843360382517542e-06, + "loss": 0.2849, + "num_input_tokens_seen": 21121248, + "step": 10791 + }, + { + "epoch": 1.4303512259774684, + "grad_norm": 6.462379455566406, + "learning_rate": 2.68398984410393e-06, + "loss": 0.1016, + "num_input_tokens_seen": 21123776, + "step": 10792 + }, + { + "epoch": 1.4304837640821737, + "grad_norm": 7.214189052581787, + "learning_rate": 2.683643646408656e-06, + "loss": 0.14, + "num_input_tokens_seen": 21126072, + "step": 10793 + }, + { + "epoch": 1.4306163021868787, + "grad_norm": 0.04476047307252884, + "learning_rate": 2.683297445172605e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21127528, + "step": 10794 + }, + { + "epoch": 1.4307488402915838, + "grad_norm": 1.2396240234375, + "learning_rate": 2.6829512404024526e-06, + "loss": 0.0095, + "num_input_tokens_seen": 21129328, + "step": 10795 + }, + { + "epoch": 1.4308813783962888, + "grad_norm": 0.012335745617747307, + "learning_rate": 2.6826050321048745e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21130856, + "step": 10796 + }, + { + "epoch": 1.431013916500994, + "grad_norm": 12.724159240722656, + "learning_rate": 2.6822588202865464e-06, + "loss": 0.2843, + "num_input_tokens_seen": 21132576, + "step": 10797 + }, + { + "epoch": 1.4311464546056991, + "grad_norm": 7.841065883636475, + "learning_rate": 2.6819126049541404e-06, + "loss": 0.1608, + "num_input_tokens_seen": 21134776, + "step": 10798 + }, + { + "epoch": 1.4312789927104044, + "grad_norm": 13.757062911987305, + "learning_rate": 2.6815663861143356e-06, + "loss": 0.3978, + "num_input_tokens_seen": 21136440, + "step": 10799 + }, + { + "epoch": 1.4314115308151094, + "grad_norm": 17.46832275390625, + "learning_rate": 2.681220163773805e-06, + "loss": 0.674, + "num_input_tokens_seen": 21139616, + "step": 10800 + }, + { + "epoch": 1.4315440689198144, + "grad_norm": 0.028478533029556274, + "learning_rate": 2.680873937939224e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21141000, + "step": 10801 + }, + { + "epoch": 1.4316766070245195, + "grad_norm": 7.294116973876953, + "learning_rate": 2.68052770861727e-06, + "loss": 0.1726, + "num_input_tokens_seen": 21143024, + "step": 10802 + }, + { + "epoch": 1.4318091451292245, + "grad_norm": 6.928138256072998, + "learning_rate": 2.680181475814616e-06, + "loss": 0.1766, + "num_input_tokens_seen": 21144880, + "step": 10803 + }, + { + "epoch": 1.4319416832339298, + "grad_norm": 1.035500168800354, + "learning_rate": 2.6798352395379394e-06, + "loss": 0.0061, + "num_input_tokens_seen": 21147032, + "step": 10804 + }, + { + "epoch": 1.4320742213386348, + "grad_norm": 0.03243763744831085, + "learning_rate": 2.679488999793916e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21148904, + "step": 10805 + }, + { + "epoch": 1.43220675944334, + "grad_norm": 8.883461952209473, + "learning_rate": 2.67914275658922e-06, + "loss": 0.1167, + "num_input_tokens_seen": 21150504, + "step": 10806 + }, + { + "epoch": 1.4323392975480451, + "grad_norm": 4.02717924118042, + "learning_rate": 2.678796509930528e-06, + "loss": 0.0706, + "num_input_tokens_seen": 21152000, + "step": 10807 + }, + { + "epoch": 1.4324718356527502, + "grad_norm": 0.05344383046030998, + "learning_rate": 2.6784502598245166e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21153840, + "step": 10808 + }, + { + "epoch": 1.4326043737574552, + "grad_norm": 1.95729398727417, + "learning_rate": 2.678104006277861e-06, + "loss": 0.0165, + "num_input_tokens_seen": 21155664, + "step": 10809 + }, + { + "epoch": 1.4327369118621602, + "grad_norm": 4.9740309715271, + "learning_rate": 2.677757749297236e-06, + "loss": 0.0505, + "num_input_tokens_seen": 21157600, + "step": 10810 + }, + { + "epoch": 1.4328694499668655, + "grad_norm": 3.5419251918792725, + "learning_rate": 2.67741148888932e-06, + "loss": 0.0594, + "num_input_tokens_seen": 21159448, + "step": 10811 + }, + { + "epoch": 1.4330019880715705, + "grad_norm": 0.08372638374567032, + "learning_rate": 2.6770652250607887e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21161296, + "step": 10812 + }, + { + "epoch": 1.4331345261762758, + "grad_norm": 1.6004853248596191, + "learning_rate": 2.6767189578183166e-06, + "loss": 0.0072, + "num_input_tokens_seen": 21162760, + "step": 10813 + }, + { + "epoch": 1.4332670642809808, + "grad_norm": 7.510328769683838, + "learning_rate": 2.676372687168581e-06, + "loss": 0.1518, + "num_input_tokens_seen": 21164640, + "step": 10814 + }, + { + "epoch": 1.4333996023856859, + "grad_norm": 0.872948169708252, + "learning_rate": 2.676026413118259e-06, + "loss": 0.006, + "num_input_tokens_seen": 21167400, + "step": 10815 + }, + { + "epoch": 1.433532140490391, + "grad_norm": 6.372611045837402, + "learning_rate": 2.675680135674027e-06, + "loss": 0.138, + "num_input_tokens_seen": 21169608, + "step": 10816 + }, + { + "epoch": 1.4336646785950962, + "grad_norm": 0.12144671380519867, + "learning_rate": 2.6753338548425596e-06, + "loss": 0.0009, + "num_input_tokens_seen": 21172496, + "step": 10817 + }, + { + "epoch": 1.4337972166998012, + "grad_norm": 0.8862242698669434, + "learning_rate": 2.674987570630535e-06, + "loss": 0.0043, + "num_input_tokens_seen": 21174272, + "step": 10818 + }, + { + "epoch": 1.4339297548045062, + "grad_norm": 8.42066478729248, + "learning_rate": 2.674641283044629e-06, + "loss": 0.0537, + "num_input_tokens_seen": 21175952, + "step": 10819 + }, + { + "epoch": 1.4340622929092115, + "grad_norm": 3.451714038848877, + "learning_rate": 2.674294992091519e-06, + "loss": 0.0249, + "num_input_tokens_seen": 21177584, + "step": 10820 + }, + { + "epoch": 1.4341948310139165, + "grad_norm": 16.580110549926758, + "learning_rate": 2.673948697777881e-06, + "loss": 0.2487, + "num_input_tokens_seen": 21179592, + "step": 10821 + }, + { + "epoch": 1.4343273691186216, + "grad_norm": 12.697294235229492, + "learning_rate": 2.673602400110392e-06, + "loss": 0.3123, + "num_input_tokens_seen": 21181880, + "step": 10822 + }, + { + "epoch": 1.4344599072233266, + "grad_norm": 11.573830604553223, + "learning_rate": 2.6732560990957295e-06, + "loss": 0.2114, + "num_input_tokens_seen": 21184000, + "step": 10823 + }, + { + "epoch": 1.4345924453280319, + "grad_norm": 6.1512250900268555, + "learning_rate": 2.67290979474057e-06, + "loss": 0.085, + "num_input_tokens_seen": 21186744, + "step": 10824 + }, + { + "epoch": 1.434724983432737, + "grad_norm": 6.671546459197998, + "learning_rate": 2.6725634870515892e-06, + "loss": 0.1158, + "num_input_tokens_seen": 21188272, + "step": 10825 + }, + { + "epoch": 1.434857521537442, + "grad_norm": 6.947902679443359, + "learning_rate": 2.6722171760354666e-06, + "loss": 0.1654, + "num_input_tokens_seen": 21190016, + "step": 10826 + }, + { + "epoch": 1.4349900596421472, + "grad_norm": 10.70562744140625, + "learning_rate": 2.6718708616988774e-06, + "loss": 0.1895, + "num_input_tokens_seen": 21192192, + "step": 10827 + }, + { + "epoch": 1.4351225977468522, + "grad_norm": 5.385256290435791, + "learning_rate": 2.6715245440484993e-06, + "loss": 0.068, + "num_input_tokens_seen": 21193728, + "step": 10828 + }, + { + "epoch": 1.4352551358515573, + "grad_norm": 0.04405488446354866, + "learning_rate": 2.67117822309101e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21195648, + "step": 10829 + }, + { + "epoch": 1.4353876739562623, + "grad_norm": 0.03205659240484238, + "learning_rate": 2.6708318988330855e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21197464, + "step": 10830 + }, + { + "epoch": 1.4355202120609676, + "grad_norm": 14.518558502197266, + "learning_rate": 2.670485571281406e-06, + "loss": 0.2543, + "num_input_tokens_seen": 21199568, + "step": 10831 + }, + { + "epoch": 1.4356527501656726, + "grad_norm": 0.09428905695676804, + "learning_rate": 2.6701392404426456e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21200952, + "step": 10832 + }, + { + "epoch": 1.4357852882703777, + "grad_norm": 9.231392860412598, + "learning_rate": 2.6697929063234833e-06, + "loss": 0.3062, + "num_input_tokens_seen": 21202528, + "step": 10833 + }, + { + "epoch": 1.435917826375083, + "grad_norm": 4.179986476898193, + "learning_rate": 2.6694465689305976e-06, + "loss": 0.0403, + "num_input_tokens_seen": 21204472, + "step": 10834 + }, + { + "epoch": 1.436050364479788, + "grad_norm": 12.07902717590332, + "learning_rate": 2.6691002282706647e-06, + "loss": 0.2788, + "num_input_tokens_seen": 21207408, + "step": 10835 + }, + { + "epoch": 1.436182902584493, + "grad_norm": 8.348955154418945, + "learning_rate": 2.6687538843503622e-06, + "loss": 0.2033, + "num_input_tokens_seen": 21209488, + "step": 10836 + }, + { + "epoch": 1.436315440689198, + "grad_norm": 0.08609013259410858, + "learning_rate": 2.668407537176369e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21211672, + "step": 10837 + }, + { + "epoch": 1.4364479787939033, + "grad_norm": 4.086520195007324, + "learning_rate": 2.6680611867553623e-06, + "loss": 0.0973, + "num_input_tokens_seen": 21214256, + "step": 10838 + }, + { + "epoch": 1.4365805168986083, + "grad_norm": 1.847739577293396, + "learning_rate": 2.66771483309402e-06, + "loss": 0.0153, + "num_input_tokens_seen": 21215864, + "step": 10839 + }, + { + "epoch": 1.4367130550033136, + "grad_norm": 13.70706844329834, + "learning_rate": 2.6673684761990194e-06, + "loss": 0.115, + "num_input_tokens_seen": 21217704, + "step": 10840 + }, + { + "epoch": 1.4368455931080186, + "grad_norm": 0.029677601531147957, + "learning_rate": 2.6670221160770404e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21220272, + "step": 10841 + }, + { + "epoch": 1.4369781312127237, + "grad_norm": 4.11194372177124, + "learning_rate": 2.6666757527347582e-06, + "loss": 0.0307, + "num_input_tokens_seen": 21221440, + "step": 10842 + }, + { + "epoch": 1.4371106693174287, + "grad_norm": 0.0691581666469574, + "learning_rate": 2.6663293861788534e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21222496, + "step": 10843 + }, + { + "epoch": 1.4372432074221337, + "grad_norm": 7.387668609619141, + "learning_rate": 2.665983016416004e-06, + "loss": 0.1529, + "num_input_tokens_seen": 21225360, + "step": 10844 + }, + { + "epoch": 1.437375745526839, + "grad_norm": 0.18080316483974457, + "learning_rate": 2.6656366434528856e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21227840, + "step": 10845 + }, + { + "epoch": 1.437508283631544, + "grad_norm": 5.551860809326172, + "learning_rate": 2.66529026729618e-06, + "loss": 0.0473, + "num_input_tokens_seen": 21229480, + "step": 10846 + }, + { + "epoch": 1.4376408217362493, + "grad_norm": 0.3541734516620636, + "learning_rate": 2.664943887952564e-06, + "loss": 0.0035, + "num_input_tokens_seen": 21230520, + "step": 10847 + }, + { + "epoch": 1.4377733598409543, + "grad_norm": 0.04205181077122688, + "learning_rate": 2.6645975054287147e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21232144, + "step": 10848 + }, + { + "epoch": 1.4379058979456594, + "grad_norm": 0.7722583413124084, + "learning_rate": 2.6642511197313133e-06, + "loss": 0.0051, + "num_input_tokens_seen": 21234744, + "step": 10849 + }, + { + "epoch": 1.4380384360503644, + "grad_norm": 0.3419129550457001, + "learning_rate": 2.663904730867036e-06, + "loss": 0.0032, + "num_input_tokens_seen": 21236128, + "step": 10850 + }, + { + "epoch": 1.4381709741550694, + "grad_norm": 7.903298377990723, + "learning_rate": 2.6635583388425632e-06, + "loss": 0.1407, + "num_input_tokens_seen": 21238600, + "step": 10851 + }, + { + "epoch": 1.4383035122597747, + "grad_norm": 1.1632781028747559, + "learning_rate": 2.663211943664573e-06, + "loss": 0.0074, + "num_input_tokens_seen": 21240104, + "step": 10852 + }, + { + "epoch": 1.4384360503644797, + "grad_norm": 0.1822330355644226, + "learning_rate": 2.6628655453397434e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21241712, + "step": 10853 + }, + { + "epoch": 1.438568588469185, + "grad_norm": 6.655280590057373, + "learning_rate": 2.6625191438747534e-06, + "loss": 0.1056, + "num_input_tokens_seen": 21243016, + "step": 10854 + }, + { + "epoch": 1.43870112657389, + "grad_norm": 0.21163149178028107, + "learning_rate": 2.6621727392762827e-06, + "loss": 0.0015, + "num_input_tokens_seen": 21244776, + "step": 10855 + }, + { + "epoch": 1.438833664678595, + "grad_norm": 7.408387184143066, + "learning_rate": 2.66182633155101e-06, + "loss": 0.1293, + "num_input_tokens_seen": 21246560, + "step": 10856 + }, + { + "epoch": 1.4389662027833001, + "grad_norm": 3.002204179763794, + "learning_rate": 2.6614799207056134e-06, + "loss": 0.0817, + "num_input_tokens_seen": 21248992, + "step": 10857 + }, + { + "epoch": 1.4390987408880054, + "grad_norm": 0.11059904843568802, + "learning_rate": 2.6611335067467726e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21250768, + "step": 10858 + }, + { + "epoch": 1.4392312789927104, + "grad_norm": 10.025544166564941, + "learning_rate": 2.660787089681167e-06, + "loss": 0.0919, + "num_input_tokens_seen": 21253208, + "step": 10859 + }, + { + "epoch": 1.4393638170974155, + "grad_norm": 1.1724212169647217, + "learning_rate": 2.660440669515475e-06, + "loss": 0.0095, + "num_input_tokens_seen": 21256096, + "step": 10860 + }, + { + "epoch": 1.4394963552021207, + "grad_norm": 3.212331533432007, + "learning_rate": 2.660094246256376e-06, + "loss": 0.059, + "num_input_tokens_seen": 21257560, + "step": 10861 + }, + { + "epoch": 1.4396288933068258, + "grad_norm": 0.04032079875469208, + "learning_rate": 2.6597478199105507e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21258816, + "step": 10862 + }, + { + "epoch": 1.4397614314115308, + "grad_norm": 7.889703750610352, + "learning_rate": 2.6594013904846753e-06, + "loss": 0.2138, + "num_input_tokens_seen": 21260544, + "step": 10863 + }, + { + "epoch": 1.4398939695162358, + "grad_norm": 1.3625165224075317, + "learning_rate": 2.659054957985433e-06, + "loss": 0.014, + "num_input_tokens_seen": 21262776, + "step": 10864 + }, + { + "epoch": 1.440026507620941, + "grad_norm": 2.79219651222229, + "learning_rate": 2.658708522419501e-06, + "loss": 0.0253, + "num_input_tokens_seen": 21264744, + "step": 10865 + }, + { + "epoch": 1.4401590457256461, + "grad_norm": 2.9032938480377197, + "learning_rate": 2.658362083793558e-06, + "loss": 0.0077, + "num_input_tokens_seen": 21266288, + "step": 10866 + }, + { + "epoch": 1.4402915838303512, + "grad_norm": 16.138391494750977, + "learning_rate": 2.658015642114286e-06, + "loss": 0.484, + "num_input_tokens_seen": 21268632, + "step": 10867 + }, + { + "epoch": 1.4404241219350564, + "grad_norm": 1.767700433731079, + "learning_rate": 2.657669197388363e-06, + "loss": 0.0201, + "num_input_tokens_seen": 21270600, + "step": 10868 + }, + { + "epoch": 1.4405566600397615, + "grad_norm": 0.4708884060382843, + "learning_rate": 2.6573227496224686e-06, + "loss": 0.0098, + "num_input_tokens_seen": 21272960, + "step": 10869 + }, + { + "epoch": 1.4406891981444665, + "grad_norm": 7.196113109588623, + "learning_rate": 2.6569762988232838e-06, + "loss": 0.0698, + "num_input_tokens_seen": 21275088, + "step": 10870 + }, + { + "epoch": 1.4408217362491715, + "grad_norm": 12.136961936950684, + "learning_rate": 2.6566298449974875e-06, + "loss": 0.1915, + "num_input_tokens_seen": 21277680, + "step": 10871 + }, + { + "epoch": 1.4409542743538768, + "grad_norm": 2.3023693561553955, + "learning_rate": 2.6562833881517597e-06, + "loss": 0.0114, + "num_input_tokens_seen": 21279496, + "step": 10872 + }, + { + "epoch": 1.4410868124585818, + "grad_norm": 8.550653457641602, + "learning_rate": 2.6559369282927803e-06, + "loss": 0.1449, + "num_input_tokens_seen": 21281480, + "step": 10873 + }, + { + "epoch": 1.4412193505632869, + "grad_norm": 8.463733673095703, + "learning_rate": 2.655590465427229e-06, + "loss": 0.0361, + "num_input_tokens_seen": 21283024, + "step": 10874 + }, + { + "epoch": 1.4413518886679921, + "grad_norm": 8.72244930267334, + "learning_rate": 2.6552439995617866e-06, + "loss": 0.1854, + "num_input_tokens_seen": 21285192, + "step": 10875 + }, + { + "epoch": 1.4414844267726972, + "grad_norm": 10.276098251342773, + "learning_rate": 2.6548975307031326e-06, + "loss": 0.164, + "num_input_tokens_seen": 21287384, + "step": 10876 + }, + { + "epoch": 1.4416169648774022, + "grad_norm": 0.015046215616166592, + "learning_rate": 2.6545510588579483e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21288768, + "step": 10877 + }, + { + "epoch": 1.4417495029821072, + "grad_norm": 11.002762794494629, + "learning_rate": 2.6542045840329115e-06, + "loss": 0.1451, + "num_input_tokens_seen": 21290872, + "step": 10878 + }, + { + "epoch": 1.4418820410868125, + "grad_norm": 2.009108781814575, + "learning_rate": 2.6538581062347048e-06, + "loss": 0.0195, + "num_input_tokens_seen": 21292808, + "step": 10879 + }, + { + "epoch": 1.4420145791915175, + "grad_norm": 7.2593183517456055, + "learning_rate": 2.653511625470008e-06, + "loss": 0.2822, + "num_input_tokens_seen": 21294736, + "step": 10880 + }, + { + "epoch": 1.4421471172962228, + "grad_norm": 0.1216149851679802, + "learning_rate": 2.6531651417454995e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21297488, + "step": 10881 + }, + { + "epoch": 1.4422796554009278, + "grad_norm": 6.1806793212890625, + "learning_rate": 2.6528186550678633e-06, + "loss": 0.153, + "num_input_tokens_seen": 21301048, + "step": 10882 + }, + { + "epoch": 1.4424121935056329, + "grad_norm": 4.283254623413086, + "learning_rate": 2.652472165443777e-06, + "loss": 0.1848, + "num_input_tokens_seen": 21303304, + "step": 10883 + }, + { + "epoch": 1.442544731610338, + "grad_norm": 6.099390983581543, + "learning_rate": 2.6521256728799223e-06, + "loss": 0.085, + "num_input_tokens_seen": 21305336, + "step": 10884 + }, + { + "epoch": 1.442677269715043, + "grad_norm": 8.291504859924316, + "learning_rate": 2.65177917738298e-06, + "loss": 0.1675, + "num_input_tokens_seen": 21307608, + "step": 10885 + }, + { + "epoch": 1.4428098078197482, + "grad_norm": 3.575012683868408, + "learning_rate": 2.65143267895963e-06, + "loss": 0.1128, + "num_input_tokens_seen": 21309664, + "step": 10886 + }, + { + "epoch": 1.4429423459244533, + "grad_norm": 10.08403491973877, + "learning_rate": 2.6510861776165536e-06, + "loss": 0.1998, + "num_input_tokens_seen": 21311856, + "step": 10887 + }, + { + "epoch": 1.4430748840291585, + "grad_norm": 6.192297458648682, + "learning_rate": 2.6507396733604317e-06, + "loss": 0.1451, + "num_input_tokens_seen": 21314000, + "step": 10888 + }, + { + "epoch": 1.4432074221338635, + "grad_norm": 0.017191238701343536, + "learning_rate": 2.650393166197945e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21315072, + "step": 10889 + }, + { + "epoch": 1.4433399602385686, + "grad_norm": 0.02423868142068386, + "learning_rate": 2.6500466561357733e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21317256, + "step": 10890 + }, + { + "epoch": 1.4434724983432736, + "grad_norm": 2.660085439682007, + "learning_rate": 2.6497001431806e-06, + "loss": 0.0149, + "num_input_tokens_seen": 21318440, + "step": 10891 + }, + { + "epoch": 1.4436050364479787, + "grad_norm": 6.089280128479004, + "learning_rate": 2.649353627339104e-06, + "loss": 0.1332, + "num_input_tokens_seen": 21320512, + "step": 10892 + }, + { + "epoch": 1.443737574552684, + "grad_norm": 7.312432765960693, + "learning_rate": 2.6490071086179668e-06, + "loss": 0.1663, + "num_input_tokens_seen": 21322416, + "step": 10893 + }, + { + "epoch": 1.443870112657389, + "grad_norm": 5.278479099273682, + "learning_rate": 2.6486605870238702e-06, + "loss": 0.0486, + "num_input_tokens_seen": 21325104, + "step": 10894 + }, + { + "epoch": 1.4440026507620942, + "grad_norm": 0.106948122382164, + "learning_rate": 2.6483140625634947e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21327072, + "step": 10895 + }, + { + "epoch": 1.4441351888667993, + "grad_norm": 5.404239654541016, + "learning_rate": 2.647967535243522e-06, + "loss": 0.1117, + "num_input_tokens_seen": 21329296, + "step": 10896 + }, + { + "epoch": 1.4442677269715043, + "grad_norm": 9.389456748962402, + "learning_rate": 2.6476210050706325e-06, + "loss": 0.1636, + "num_input_tokens_seen": 21331344, + "step": 10897 + }, + { + "epoch": 1.4444002650762093, + "grad_norm": 1.4074392318725586, + "learning_rate": 2.6472744720515087e-06, + "loss": 0.0071, + "num_input_tokens_seen": 21333712, + "step": 10898 + }, + { + "epoch": 1.4445328031809146, + "grad_norm": 0.042017802596092224, + "learning_rate": 2.6469279361928314e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21334840, + "step": 10899 + }, + { + "epoch": 1.4446653412856196, + "grad_norm": 0.08807942271232605, + "learning_rate": 2.646581397501282e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21337976, + "step": 10900 + }, + { + "epoch": 1.4447978793903247, + "grad_norm": 5.1953277587890625, + "learning_rate": 2.646234855983542e-06, + "loss": 0.0893, + "num_input_tokens_seen": 21339112, + "step": 10901 + }, + { + "epoch": 1.44493041749503, + "grad_norm": 8.31412124633789, + "learning_rate": 2.6458883116462938e-06, + "loss": 0.23, + "num_input_tokens_seen": 21341432, + "step": 10902 + }, + { + "epoch": 1.445062955599735, + "grad_norm": 0.4157674312591553, + "learning_rate": 2.645541764496218e-06, + "loss": 0.0039, + "num_input_tokens_seen": 21343064, + "step": 10903 + }, + { + "epoch": 1.44519549370444, + "grad_norm": 8.908576011657715, + "learning_rate": 2.645195214539996e-06, + "loss": 0.1281, + "num_input_tokens_seen": 21344728, + "step": 10904 + }, + { + "epoch": 1.445328031809145, + "grad_norm": 0.04328708350658417, + "learning_rate": 2.6448486617843105e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21346664, + "step": 10905 + }, + { + "epoch": 1.4454605699138503, + "grad_norm": 9.455588340759277, + "learning_rate": 2.6445021062358433e-06, + "loss": 0.3237, + "num_input_tokens_seen": 21348392, + "step": 10906 + }, + { + "epoch": 1.4455931080185553, + "grad_norm": 0.19983354210853577, + "learning_rate": 2.6441555479012755e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21350120, + "step": 10907 + }, + { + "epoch": 1.4457256461232604, + "grad_norm": 0.3083600699901581, + "learning_rate": 2.643808986787289e-06, + "loss": 0.0017, + "num_input_tokens_seen": 21352104, + "step": 10908 + }, + { + "epoch": 1.4458581842279656, + "grad_norm": 0.11944610625505447, + "learning_rate": 2.6434624229005663e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21354288, + "step": 10909 + }, + { + "epoch": 1.4459907223326707, + "grad_norm": 13.957178115844727, + "learning_rate": 2.643115856247789e-06, + "loss": 0.32, + "num_input_tokens_seen": 21356264, + "step": 10910 + }, + { + "epoch": 1.4461232604373757, + "grad_norm": 5.9540629386901855, + "learning_rate": 2.642769286835639e-06, + "loss": 0.1435, + "num_input_tokens_seen": 21358072, + "step": 10911 + }, + { + "epoch": 1.4462557985420808, + "grad_norm": 9.122639656066895, + "learning_rate": 2.642422714670799e-06, + "loss": 0.2269, + "num_input_tokens_seen": 21360208, + "step": 10912 + }, + { + "epoch": 1.446388336646786, + "grad_norm": 1.7268279790878296, + "learning_rate": 2.6420761397599504e-06, + "loss": 0.0259, + "num_input_tokens_seen": 21361904, + "step": 10913 + }, + { + "epoch": 1.446520874751491, + "grad_norm": 3.9890286922454834, + "learning_rate": 2.6417295621097767e-06, + "loss": 0.0265, + "num_input_tokens_seen": 21364192, + "step": 10914 + }, + { + "epoch": 1.446653412856196, + "grad_norm": 8.87393856048584, + "learning_rate": 2.6413829817269586e-06, + "loss": 0.2262, + "num_input_tokens_seen": 21365792, + "step": 10915 + }, + { + "epoch": 1.4467859509609013, + "grad_norm": 8.883562088012695, + "learning_rate": 2.6410363986181794e-06, + "loss": 0.2228, + "num_input_tokens_seen": 21368344, + "step": 10916 + }, + { + "epoch": 1.4469184890656064, + "grad_norm": 0.031127553433179855, + "learning_rate": 2.640689812790121e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21370232, + "step": 10917 + }, + { + "epoch": 1.4470510271703114, + "grad_norm": 1.267810583114624, + "learning_rate": 2.640343224249466e-06, + "loss": 0.0103, + "num_input_tokens_seen": 21371648, + "step": 10918 + }, + { + "epoch": 1.4471835652750165, + "grad_norm": 0.07533013820648193, + "learning_rate": 2.6399966330028965e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21372912, + "step": 10919 + }, + { + "epoch": 1.4473161033797217, + "grad_norm": 12.462226867675781, + "learning_rate": 2.6396500390570956e-06, + "loss": 0.31, + "num_input_tokens_seen": 21375280, + "step": 10920 + }, + { + "epoch": 1.4474486414844268, + "grad_norm": 3.2640459537506104, + "learning_rate": 2.639303442418746e-06, + "loss": 0.0949, + "num_input_tokens_seen": 21378144, + "step": 10921 + }, + { + "epoch": 1.4475811795891318, + "grad_norm": 0.05585382133722305, + "learning_rate": 2.6389568430945288e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21379272, + "step": 10922 + }, + { + "epoch": 1.447713717693837, + "grad_norm": 5.33964729309082, + "learning_rate": 2.6386102410911287e-06, + "loss": 0.1004, + "num_input_tokens_seen": 21380984, + "step": 10923 + }, + { + "epoch": 1.447846255798542, + "grad_norm": 10.410721778869629, + "learning_rate": 2.6382636364152274e-06, + "loss": 0.1765, + "num_input_tokens_seen": 21383400, + "step": 10924 + }, + { + "epoch": 1.4479787939032471, + "grad_norm": 4.276920795440674, + "learning_rate": 2.6379170290735072e-06, + "loss": 0.0848, + "num_input_tokens_seen": 21385544, + "step": 10925 + }, + { + "epoch": 1.4481113320079522, + "grad_norm": 6.234306812286377, + "learning_rate": 2.6375704190726525e-06, + "loss": 0.1099, + "num_input_tokens_seen": 21387352, + "step": 10926 + }, + { + "epoch": 1.4482438701126574, + "grad_norm": 20.285568237304688, + "learning_rate": 2.637223806419345e-06, + "loss": 0.3372, + "num_input_tokens_seen": 21388528, + "step": 10927 + }, + { + "epoch": 1.4483764082173625, + "grad_norm": 8.563652992248535, + "learning_rate": 2.6368771911202673e-06, + "loss": 0.2984, + "num_input_tokens_seen": 21390344, + "step": 10928 + }, + { + "epoch": 1.4485089463220677, + "grad_norm": 0.03882817551493645, + "learning_rate": 2.6365305731821035e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21391824, + "step": 10929 + }, + { + "epoch": 1.4486414844267728, + "grad_norm": 4.560957908630371, + "learning_rate": 2.6361839526115363e-06, + "loss": 0.0641, + "num_input_tokens_seen": 21393432, + "step": 10930 + }, + { + "epoch": 1.4487740225314778, + "grad_norm": 0.08066105842590332, + "learning_rate": 2.6358373294152473e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21394872, + "step": 10931 + }, + { + "epoch": 1.4489065606361828, + "grad_norm": 10.6721830368042, + "learning_rate": 2.6354907035999224e-06, + "loss": 0.1093, + "num_input_tokens_seen": 21396696, + "step": 10932 + }, + { + "epoch": 1.4490390987408879, + "grad_norm": 0.06653618812561035, + "learning_rate": 2.6351440751722423e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21397936, + "step": 10933 + }, + { + "epoch": 1.4491716368455931, + "grad_norm": 0.024140650406479836, + "learning_rate": 2.634797444138891e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21399584, + "step": 10934 + }, + { + "epoch": 1.4493041749502982, + "grad_norm": 5.0089569091796875, + "learning_rate": 2.6344508105065532e-06, + "loss": 0.1128, + "num_input_tokens_seen": 21401192, + "step": 10935 + }, + { + "epoch": 1.4494367130550034, + "grad_norm": 6.013140678405762, + "learning_rate": 2.6341041742819095e-06, + "loss": 0.0845, + "num_input_tokens_seen": 21403056, + "step": 10936 + }, + { + "epoch": 1.4495692511597085, + "grad_norm": 0.23236481845378876, + "learning_rate": 2.6337575354716456e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21405504, + "step": 10937 + }, + { + "epoch": 1.4497017892644135, + "grad_norm": 4.379516124725342, + "learning_rate": 2.633410894082444e-06, + "loss": 0.1337, + "num_input_tokens_seen": 21407592, + "step": 10938 + }, + { + "epoch": 1.4498343273691185, + "grad_norm": 8.200029373168945, + "learning_rate": 2.6330642501209884e-06, + "loss": 0.1795, + "num_input_tokens_seen": 21410032, + "step": 10939 + }, + { + "epoch": 1.4499668654738238, + "grad_norm": 3.719460964202881, + "learning_rate": 2.632717603593962e-06, + "loss": 0.0454, + "num_input_tokens_seen": 21411608, + "step": 10940 + }, + { + "epoch": 1.4500994035785288, + "grad_norm": 8.499351501464844, + "learning_rate": 2.632370954508049e-06, + "loss": 0.092, + "num_input_tokens_seen": 21413704, + "step": 10941 + }, + { + "epoch": 1.4502319416832339, + "grad_norm": 0.04778960347175598, + "learning_rate": 2.632024302869933e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21416464, + "step": 10942 + }, + { + "epoch": 1.4503644797879391, + "grad_norm": 11.142475128173828, + "learning_rate": 2.6316776486862965e-06, + "loss": 0.0975, + "num_input_tokens_seen": 21418176, + "step": 10943 + }, + { + "epoch": 1.4504970178926442, + "grad_norm": 1.1982251405715942, + "learning_rate": 2.631330991963825e-06, + "loss": 0.0111, + "num_input_tokens_seen": 21419832, + "step": 10944 + }, + { + "epoch": 1.4506295559973492, + "grad_norm": 1.6619386672973633, + "learning_rate": 2.630984332709201e-06, + "loss": 0.0182, + "num_input_tokens_seen": 21421408, + "step": 10945 + }, + { + "epoch": 1.4507620941020543, + "grad_norm": 0.17957210540771484, + "learning_rate": 2.6306376709291082e-06, + "loss": 0.001, + "num_input_tokens_seen": 21424392, + "step": 10946 + }, + { + "epoch": 1.4508946322067595, + "grad_norm": 8.476288795471191, + "learning_rate": 2.6302910066302317e-06, + "loss": 0.3443, + "num_input_tokens_seen": 21426824, + "step": 10947 + }, + { + "epoch": 1.4510271703114646, + "grad_norm": 5.011803150177002, + "learning_rate": 2.629944339819254e-06, + "loss": 0.1052, + "num_input_tokens_seen": 21428608, + "step": 10948 + }, + { + "epoch": 1.4511597084161696, + "grad_norm": 1.140215516090393, + "learning_rate": 2.62959767050286e-06, + "loss": 0.0087, + "num_input_tokens_seen": 21430088, + "step": 10949 + }, + { + "epoch": 1.4512922465208749, + "grad_norm": 8.578670501708984, + "learning_rate": 2.6292509986877347e-06, + "loss": 0.2103, + "num_input_tokens_seen": 21432376, + "step": 10950 + }, + { + "epoch": 1.45142478462558, + "grad_norm": 6.808307647705078, + "learning_rate": 2.6289043243805596e-06, + "loss": 0.1431, + "num_input_tokens_seen": 21435048, + "step": 10951 + }, + { + "epoch": 1.451557322730285, + "grad_norm": 5.706945896148682, + "learning_rate": 2.6285576475880203e-06, + "loss": 0.1198, + "num_input_tokens_seen": 21437360, + "step": 10952 + }, + { + "epoch": 1.45168986083499, + "grad_norm": 5.379715919494629, + "learning_rate": 2.628210968316802e-06, + "loss": 0.1032, + "num_input_tokens_seen": 21439088, + "step": 10953 + }, + { + "epoch": 1.4518223989396952, + "grad_norm": 3.1793594360351562, + "learning_rate": 2.6278642865735867e-06, + "loss": 0.0103, + "num_input_tokens_seen": 21441184, + "step": 10954 + }, + { + "epoch": 1.4519549370444003, + "grad_norm": 13.018506050109863, + "learning_rate": 2.6275176023650593e-06, + "loss": 0.2009, + "num_input_tokens_seen": 21443160, + "step": 10955 + }, + { + "epoch": 1.4520874751491053, + "grad_norm": 0.05415809899568558, + "learning_rate": 2.6271709156979052e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21445000, + "step": 10956 + }, + { + "epoch": 1.4522200132538106, + "grad_norm": 6.648740768432617, + "learning_rate": 2.6268242265788085e-06, + "loss": 0.1467, + "num_input_tokens_seen": 21446680, + "step": 10957 + }, + { + "epoch": 1.4523525513585156, + "grad_norm": 6.552952289581299, + "learning_rate": 2.6264775350144526e-06, + "loss": 0.1582, + "num_input_tokens_seen": 21449968, + "step": 10958 + }, + { + "epoch": 1.4524850894632206, + "grad_norm": 6.78386116027832, + "learning_rate": 2.6261308410115227e-06, + "loss": 0.1823, + "num_input_tokens_seen": 21453136, + "step": 10959 + }, + { + "epoch": 1.4526176275679257, + "grad_norm": 0.8264293074607849, + "learning_rate": 2.6257841445767036e-06, + "loss": 0.0053, + "num_input_tokens_seen": 21455712, + "step": 10960 + }, + { + "epoch": 1.452750165672631, + "grad_norm": 0.06400512903928757, + "learning_rate": 2.6254374457166793e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21458552, + "step": 10961 + }, + { + "epoch": 1.452882703777336, + "grad_norm": 0.1834973841905594, + "learning_rate": 2.625090744438134e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21460224, + "step": 10962 + }, + { + "epoch": 1.453015241882041, + "grad_norm": 0.7387140393257141, + "learning_rate": 2.624744040747753e-06, + "loss": 0.0128, + "num_input_tokens_seen": 21462352, + "step": 10963 + }, + { + "epoch": 1.4531477799867463, + "grad_norm": 0.041847970336675644, + "learning_rate": 2.624397334652221e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21464464, + "step": 10964 + }, + { + "epoch": 1.4532803180914513, + "grad_norm": 6.78325080871582, + "learning_rate": 2.6240506261582235e-06, + "loss": 0.0922, + "num_input_tokens_seen": 21466784, + "step": 10965 + }, + { + "epoch": 1.4534128561961563, + "grad_norm": 10.543416023254395, + "learning_rate": 2.623703915272443e-06, + "loss": 0.2573, + "num_input_tokens_seen": 21470120, + "step": 10966 + }, + { + "epoch": 1.4535453943008614, + "grad_norm": 0.02953626587986946, + "learning_rate": 2.623357202001566e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21473312, + "step": 10967 + }, + { + "epoch": 1.4536779324055666, + "grad_norm": 8.097883224487305, + "learning_rate": 2.6230104863522775e-06, + "loss": 0.1904, + "num_input_tokens_seen": 21475128, + "step": 10968 + }, + { + "epoch": 1.4538104705102717, + "grad_norm": 0.0263700932264328, + "learning_rate": 2.6226637683312616e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21476744, + "step": 10969 + }, + { + "epoch": 1.453943008614977, + "grad_norm": 7.196662902832031, + "learning_rate": 2.622317047945203e-06, + "loss": 0.2292, + "num_input_tokens_seen": 21479912, + "step": 10970 + }, + { + "epoch": 1.454075546719682, + "grad_norm": 2.936291456222534, + "learning_rate": 2.621970325200789e-06, + "loss": 0.0644, + "num_input_tokens_seen": 21482000, + "step": 10971 + }, + { + "epoch": 1.454208084824387, + "grad_norm": 4.8482842445373535, + "learning_rate": 2.621623600104702e-06, + "loss": 0.1083, + "num_input_tokens_seen": 21483960, + "step": 10972 + }, + { + "epoch": 1.454340622929092, + "grad_norm": 0.035413652658462524, + "learning_rate": 2.621276872663627e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21486232, + "step": 10973 + }, + { + "epoch": 1.454473161033797, + "grad_norm": 1.3260926008224487, + "learning_rate": 2.620930142884252e-06, + "loss": 0.0115, + "num_input_tokens_seen": 21488536, + "step": 10974 + }, + { + "epoch": 1.4546056991385024, + "grad_norm": 0.007139185909181833, + "learning_rate": 2.620583410773259e-06, + "loss": 0.0, + "num_input_tokens_seen": 21489960, + "step": 10975 + }, + { + "epoch": 1.4547382372432074, + "grad_norm": 0.006348004564642906, + "learning_rate": 2.620236676337336e-06, + "loss": 0.0, + "num_input_tokens_seen": 21491312, + "step": 10976 + }, + { + "epoch": 1.4548707753479126, + "grad_norm": 5.154878616333008, + "learning_rate": 2.6198899395831662e-06, + "loss": 0.1182, + "num_input_tokens_seen": 21493376, + "step": 10977 + }, + { + "epoch": 1.4550033134526177, + "grad_norm": 10.80441951751709, + "learning_rate": 2.6195432005174356e-06, + "loss": 0.3572, + "num_input_tokens_seen": 21495960, + "step": 10978 + }, + { + "epoch": 1.4551358515573227, + "grad_norm": 0.10277149081230164, + "learning_rate": 2.61919645914683e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21497752, + "step": 10979 + }, + { + "epoch": 1.4552683896620278, + "grad_norm": 13.517969131469727, + "learning_rate": 2.618849715478034e-06, + "loss": 0.2683, + "num_input_tokens_seen": 21499216, + "step": 10980 + }, + { + "epoch": 1.4554009277667328, + "grad_norm": 3.810706853866577, + "learning_rate": 2.6185029695177337e-06, + "loss": 0.1581, + "num_input_tokens_seen": 21501224, + "step": 10981 + }, + { + "epoch": 1.455533465871438, + "grad_norm": 0.02137044630944729, + "learning_rate": 2.6181562212726143e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21502640, + "step": 10982 + }, + { + "epoch": 1.455666003976143, + "grad_norm": 7.698780059814453, + "learning_rate": 2.6178094707493616e-06, + "loss": 0.1243, + "num_input_tokens_seen": 21503704, + "step": 10983 + }, + { + "epoch": 1.4557985420808484, + "grad_norm": 3.8445756435394287, + "learning_rate": 2.6174627179546613e-06, + "loss": 0.0652, + "num_input_tokens_seen": 21505080, + "step": 10984 + }, + { + "epoch": 1.4559310801855534, + "grad_norm": 13.640947341918945, + "learning_rate": 2.617115962895198e-06, + "loss": 0.156, + "num_input_tokens_seen": 21506432, + "step": 10985 + }, + { + "epoch": 1.4560636182902584, + "grad_norm": 3.8770592212677, + "learning_rate": 2.6167692055776596e-06, + "loss": 0.1563, + "num_input_tokens_seen": 21508448, + "step": 10986 + }, + { + "epoch": 1.4561961563949635, + "grad_norm": 0.33174797892570496, + "learning_rate": 2.616422446008729e-06, + "loss": 0.0018, + "num_input_tokens_seen": 21510672, + "step": 10987 + }, + { + "epoch": 1.4563286944996687, + "grad_norm": 7.495532035827637, + "learning_rate": 2.6160756841950934e-06, + "loss": 0.1136, + "num_input_tokens_seen": 21512680, + "step": 10988 + }, + { + "epoch": 1.4564612326043738, + "grad_norm": 4.138807773590088, + "learning_rate": 2.615728920143439e-06, + "loss": 0.0477, + "num_input_tokens_seen": 21514432, + "step": 10989 + }, + { + "epoch": 1.4565937707090788, + "grad_norm": 0.24531511962413788, + "learning_rate": 2.6153821538604507e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21517680, + "step": 10990 + }, + { + "epoch": 1.456726308813784, + "grad_norm": 0.2585221230983734, + "learning_rate": 2.6150353853528154e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21519136, + "step": 10991 + }, + { + "epoch": 1.456858846918489, + "grad_norm": 3.002260208129883, + "learning_rate": 2.6146886146272187e-06, + "loss": 0.0561, + "num_input_tokens_seen": 21520584, + "step": 10992 + }, + { + "epoch": 1.4569913850231941, + "grad_norm": 5.412962913513184, + "learning_rate": 2.6143418416903456e-06, + "loss": 0.0672, + "num_input_tokens_seen": 21523176, + "step": 10993 + }, + { + "epoch": 1.4571239231278992, + "grad_norm": 9.048022270202637, + "learning_rate": 2.6139950665488833e-06, + "loss": 0.2233, + "num_input_tokens_seen": 21524968, + "step": 10994 + }, + { + "epoch": 1.4572564612326044, + "grad_norm": 0.10742446035146713, + "learning_rate": 2.613648289209517e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21527304, + "step": 10995 + }, + { + "epoch": 1.4573889993373095, + "grad_norm": 0.040093861520290375, + "learning_rate": 2.6133015096789336e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21529776, + "step": 10996 + }, + { + "epoch": 1.4575215374420145, + "grad_norm": 5.786831378936768, + "learning_rate": 2.6129547279638197e-06, + "loss": 0.1479, + "num_input_tokens_seen": 21532376, + "step": 10997 + }, + { + "epoch": 1.4576540755467198, + "grad_norm": 19.81473731994629, + "learning_rate": 2.61260794407086e-06, + "loss": 0.1038, + "num_input_tokens_seen": 21534592, + "step": 10998 + }, + { + "epoch": 1.4577866136514248, + "grad_norm": 0.03994022682309151, + "learning_rate": 2.6122611580067414e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21535992, + "step": 10999 + }, + { + "epoch": 1.4579191517561298, + "grad_norm": 9.363077163696289, + "learning_rate": 2.61191436977815e-06, + "loss": 0.3072, + "num_input_tokens_seen": 21537944, + "step": 11000 + }, + { + "epoch": 1.4580516898608349, + "grad_norm": 17.945985794067383, + "learning_rate": 2.6115675793917734e-06, + "loss": 0.2591, + "num_input_tokens_seen": 21540072, + "step": 11001 + }, + { + "epoch": 1.4581842279655401, + "grad_norm": 2.4495420455932617, + "learning_rate": 2.611220786854296e-06, + "loss": 0.0327, + "num_input_tokens_seen": 21542440, + "step": 11002 + }, + { + "epoch": 1.4583167660702452, + "grad_norm": 5.7916998863220215, + "learning_rate": 2.610873992172405e-06, + "loss": 0.0779, + "num_input_tokens_seen": 21544808, + "step": 11003 + }, + { + "epoch": 1.4584493041749502, + "grad_norm": 3.049166440963745, + "learning_rate": 2.610527195352788e-06, + "loss": 0.019, + "num_input_tokens_seen": 21547384, + "step": 11004 + }, + { + "epoch": 1.4585818422796555, + "grad_norm": 9.886913299560547, + "learning_rate": 2.6101803964021294e-06, + "loss": 0.2062, + "num_input_tokens_seen": 21549832, + "step": 11005 + }, + { + "epoch": 1.4587143803843605, + "grad_norm": 5.452359676361084, + "learning_rate": 2.609833595327117e-06, + "loss": 0.1347, + "num_input_tokens_seen": 21551896, + "step": 11006 + }, + { + "epoch": 1.4588469184890656, + "grad_norm": 0.06725816428661346, + "learning_rate": 2.6094867921344374e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21554200, + "step": 11007 + }, + { + "epoch": 1.4589794565937706, + "grad_norm": 3.4270777702331543, + "learning_rate": 2.609139986830776e-06, + "loss": 0.0074, + "num_input_tokens_seen": 21555832, + "step": 11008 + }, + { + "epoch": 1.4591119946984759, + "grad_norm": 0.05174370855093002, + "learning_rate": 2.6087931794228217e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21557160, + "step": 11009 + }, + { + "epoch": 1.459244532803181, + "grad_norm": 4.266785621643066, + "learning_rate": 2.6084463699172594e-06, + "loss": 0.0611, + "num_input_tokens_seen": 21558904, + "step": 11010 + }, + { + "epoch": 1.4593770709078862, + "grad_norm": 7.021951675415039, + "learning_rate": 2.608099558320775e-06, + "loss": 0.1487, + "num_input_tokens_seen": 21560736, + "step": 11011 + }, + { + "epoch": 1.4595096090125912, + "grad_norm": 11.409744262695312, + "learning_rate": 2.6077527446400587e-06, + "loss": 0.4967, + "num_input_tokens_seen": 21563880, + "step": 11012 + }, + { + "epoch": 1.4596421471172962, + "grad_norm": 0.5445393919944763, + "learning_rate": 2.6074059288817936e-06, + "loss": 0.005, + "num_input_tokens_seen": 21565136, + "step": 11013 + }, + { + "epoch": 1.4597746852220013, + "grad_norm": 0.10181518644094467, + "learning_rate": 2.607059111052668e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21567688, + "step": 11014 + }, + { + "epoch": 1.4599072233267063, + "grad_norm": 10.874519348144531, + "learning_rate": 2.6067122911593703e-06, + "loss": 0.1048, + "num_input_tokens_seen": 21569704, + "step": 11015 + }, + { + "epoch": 1.4600397614314116, + "grad_norm": 0.13061000406742096, + "learning_rate": 2.606365469208585e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21571176, + "step": 11016 + }, + { + "epoch": 1.4601722995361166, + "grad_norm": 8.87643051147461, + "learning_rate": 2.6060186452069995e-06, + "loss": 0.058, + "num_input_tokens_seen": 21572696, + "step": 11017 + }, + { + "epoch": 1.4603048376408219, + "grad_norm": 0.19947637617588043, + "learning_rate": 2.605671819161303e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21574928, + "step": 11018 + }, + { + "epoch": 1.460437375745527, + "grad_norm": 9.756861686706543, + "learning_rate": 2.60532499107818e-06, + "loss": 0.141, + "num_input_tokens_seen": 21576592, + "step": 11019 + }, + { + "epoch": 1.460569913850232, + "grad_norm": 5.723066806793213, + "learning_rate": 2.6049781609643182e-06, + "loss": 0.1272, + "num_input_tokens_seen": 21579080, + "step": 11020 + }, + { + "epoch": 1.460702451954937, + "grad_norm": 0.43191543221473694, + "learning_rate": 2.6046313288264053e-06, + "loss": 0.0026, + "num_input_tokens_seen": 21581032, + "step": 11021 + }, + { + "epoch": 1.460834990059642, + "grad_norm": 6.983368873596191, + "learning_rate": 2.604284494671129e-06, + "loss": 0.1808, + "num_input_tokens_seen": 21583152, + "step": 11022 + }, + { + "epoch": 1.4609675281643473, + "grad_norm": 5.39556360244751, + "learning_rate": 2.6039376585051745e-06, + "loss": 0.1061, + "num_input_tokens_seen": 21585592, + "step": 11023 + }, + { + "epoch": 1.4611000662690523, + "grad_norm": 7.101685523986816, + "learning_rate": 2.6035908203352308e-06, + "loss": 0.2581, + "num_input_tokens_seen": 21588008, + "step": 11024 + }, + { + "epoch": 1.4612326043737576, + "grad_norm": 0.06250391900539398, + "learning_rate": 2.603243980167984e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21589448, + "step": 11025 + }, + { + "epoch": 1.4613651424784626, + "grad_norm": 9.151115417480469, + "learning_rate": 2.6028971380101226e-06, + "loss": 0.1574, + "num_input_tokens_seen": 21590704, + "step": 11026 + }, + { + "epoch": 1.4614976805831676, + "grad_norm": 10.341407775878906, + "learning_rate": 2.602550293868333e-06, + "loss": 0.1468, + "num_input_tokens_seen": 21592808, + "step": 11027 + }, + { + "epoch": 1.4616302186878727, + "grad_norm": 7.832805633544922, + "learning_rate": 2.6022034477493037e-06, + "loss": 0.1732, + "num_input_tokens_seen": 21595000, + "step": 11028 + }, + { + "epoch": 1.461762756792578, + "grad_norm": 10.837166786193848, + "learning_rate": 2.601856599659721e-06, + "loss": 0.1066, + "num_input_tokens_seen": 21596848, + "step": 11029 + }, + { + "epoch": 1.461895294897283, + "grad_norm": 6.255279541015625, + "learning_rate": 2.601509749606273e-06, + "loss": 0.0909, + "num_input_tokens_seen": 21598400, + "step": 11030 + }, + { + "epoch": 1.462027833001988, + "grad_norm": 0.10824492573738098, + "learning_rate": 2.6011628975956473e-06, + "loss": 0.001, + "num_input_tokens_seen": 21599584, + "step": 11031 + }, + { + "epoch": 1.4621603711066933, + "grad_norm": 4.105659484863281, + "learning_rate": 2.60081604363453e-06, + "loss": 0.0464, + "num_input_tokens_seen": 21601432, + "step": 11032 + }, + { + "epoch": 1.4622929092113983, + "grad_norm": 4.549729824066162, + "learning_rate": 2.6004691877296114e-06, + "loss": 0.0939, + "num_input_tokens_seen": 21603600, + "step": 11033 + }, + { + "epoch": 1.4624254473161034, + "grad_norm": 4.451516151428223, + "learning_rate": 2.600122329887576e-06, + "loss": 0.0936, + "num_input_tokens_seen": 21605520, + "step": 11034 + }, + { + "epoch": 1.4625579854208084, + "grad_norm": 10.242341041564941, + "learning_rate": 2.599775470115114e-06, + "loss": 0.3185, + "num_input_tokens_seen": 21607168, + "step": 11035 + }, + { + "epoch": 1.4626905235255137, + "grad_norm": 14.894968032836914, + "learning_rate": 2.599428608418912e-06, + "loss": 0.4668, + "num_input_tokens_seen": 21608560, + "step": 11036 + }, + { + "epoch": 1.4628230616302187, + "grad_norm": 7.097993850708008, + "learning_rate": 2.5990817448056576e-06, + "loss": 0.1258, + "num_input_tokens_seen": 21611120, + "step": 11037 + }, + { + "epoch": 1.4629555997349237, + "grad_norm": 11.64086627960205, + "learning_rate": 2.598734879282039e-06, + "loss": 0.2424, + "num_input_tokens_seen": 21612976, + "step": 11038 + }, + { + "epoch": 1.463088137839629, + "grad_norm": 0.029997162520885468, + "learning_rate": 2.5983880118547433e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21614288, + "step": 11039 + }, + { + "epoch": 1.463220675944334, + "grad_norm": 2.3856747150421143, + "learning_rate": 2.5980411425304585e-06, + "loss": 0.0362, + "num_input_tokens_seen": 21616240, + "step": 11040 + }, + { + "epoch": 1.463353214049039, + "grad_norm": 0.273572713136673, + "learning_rate": 2.5976942713158745e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21617416, + "step": 11041 + }, + { + "epoch": 1.463485752153744, + "grad_norm": 3.9511852264404297, + "learning_rate": 2.597347398217676e-06, + "loss": 0.0162, + "num_input_tokens_seen": 21619408, + "step": 11042 + }, + { + "epoch": 1.4636182902584494, + "grad_norm": 3.52996826171875, + "learning_rate": 2.597000523242553e-06, + "loss": 0.0414, + "num_input_tokens_seen": 21621824, + "step": 11043 + }, + { + "epoch": 1.4637508283631544, + "grad_norm": 7.73145055770874, + "learning_rate": 2.5966536463971935e-06, + "loss": 0.1554, + "num_input_tokens_seen": 21623480, + "step": 11044 + }, + { + "epoch": 1.4638833664678594, + "grad_norm": 6.404489040374756, + "learning_rate": 2.5963067676882847e-06, + "loss": 0.1023, + "num_input_tokens_seen": 21625000, + "step": 11045 + }, + { + "epoch": 1.4640159045725647, + "grad_norm": 10.446934700012207, + "learning_rate": 2.595959887122515e-06, + "loss": 0.1, + "num_input_tokens_seen": 21627528, + "step": 11046 + }, + { + "epoch": 1.4641484426772697, + "grad_norm": 6.792369365692139, + "learning_rate": 2.595613004706572e-06, + "loss": 0.1165, + "num_input_tokens_seen": 21629600, + "step": 11047 + }, + { + "epoch": 1.4642809807819748, + "grad_norm": 15.01921558380127, + "learning_rate": 2.595266120447145e-06, + "loss": 0.3895, + "num_input_tokens_seen": 21631320, + "step": 11048 + }, + { + "epoch": 1.4644135188866798, + "grad_norm": 0.09403236955404282, + "learning_rate": 2.594919234350921e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21632928, + "step": 11049 + }, + { + "epoch": 1.464546056991385, + "grad_norm": 11.55078125, + "learning_rate": 2.5945723464245888e-06, + "loss": 0.2409, + "num_input_tokens_seen": 21635184, + "step": 11050 + }, + { + "epoch": 1.46467859509609, + "grad_norm": 3.041452169418335, + "learning_rate": 2.594225456674837e-06, + "loss": 0.0378, + "num_input_tokens_seen": 21636920, + "step": 11051 + }, + { + "epoch": 1.4648111332007951, + "grad_norm": 4.928841590881348, + "learning_rate": 2.5938785651083524e-06, + "loss": 0.1688, + "num_input_tokens_seen": 21638568, + "step": 11052 + }, + { + "epoch": 1.4649436713055004, + "grad_norm": 9.234848976135254, + "learning_rate": 2.5935316717318246e-06, + "loss": 0.0434, + "num_input_tokens_seen": 21640032, + "step": 11053 + }, + { + "epoch": 1.4650762094102054, + "grad_norm": 0.16447634994983673, + "learning_rate": 2.593184776551943e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21642496, + "step": 11054 + }, + { + "epoch": 1.4652087475149105, + "grad_norm": 0.13132554292678833, + "learning_rate": 2.5928378795753927e-06, + "loss": 0.001, + "num_input_tokens_seen": 21644368, + "step": 11055 + }, + { + "epoch": 1.4653412856196155, + "grad_norm": 7.2734785079956055, + "learning_rate": 2.592490980808865e-06, + "loss": 0.1554, + "num_input_tokens_seen": 21646200, + "step": 11056 + }, + { + "epoch": 1.4654738237243208, + "grad_norm": 5.767739295959473, + "learning_rate": 2.5921440802590476e-06, + "loss": 0.1359, + "num_input_tokens_seen": 21648080, + "step": 11057 + }, + { + "epoch": 1.4656063618290258, + "grad_norm": 0.20113810896873474, + "learning_rate": 2.591797177932628e-06, + "loss": 0.0015, + "num_input_tokens_seen": 21649760, + "step": 11058 + }, + { + "epoch": 1.465738899933731, + "grad_norm": 0.38479676842689514, + "learning_rate": 2.5914502738362964e-06, + "loss": 0.0038, + "num_input_tokens_seen": 21651056, + "step": 11059 + }, + { + "epoch": 1.4658714380384361, + "grad_norm": 0.834749162197113, + "learning_rate": 2.5911033679767396e-06, + "loss": 0.0062, + "num_input_tokens_seen": 21653416, + "step": 11060 + }, + { + "epoch": 1.4660039761431412, + "grad_norm": 8.273273468017578, + "learning_rate": 2.590756460360647e-06, + "loss": 0.1301, + "num_input_tokens_seen": 21654792, + "step": 11061 + }, + { + "epoch": 1.4661365142478462, + "grad_norm": 7.856949329376221, + "learning_rate": 2.590409550994708e-06, + "loss": 0.2194, + "num_input_tokens_seen": 21656320, + "step": 11062 + }, + { + "epoch": 1.4662690523525512, + "grad_norm": 13.234530448913574, + "learning_rate": 2.59006263988561e-06, + "loss": 0.2757, + "num_input_tokens_seen": 21659568, + "step": 11063 + }, + { + "epoch": 1.4664015904572565, + "grad_norm": 0.28951647877693176, + "learning_rate": 2.5897157270400417e-06, + "loss": 0.002, + "num_input_tokens_seen": 21660672, + "step": 11064 + }, + { + "epoch": 1.4665341285619615, + "grad_norm": 4.913437366485596, + "learning_rate": 2.5893688124646934e-06, + "loss": 0.1141, + "num_input_tokens_seen": 21662856, + "step": 11065 + }, + { + "epoch": 1.4666666666666668, + "grad_norm": 2.5340819358825684, + "learning_rate": 2.589021896166252e-06, + "loss": 0.0253, + "num_input_tokens_seen": 21664480, + "step": 11066 + }, + { + "epoch": 1.4667992047713718, + "grad_norm": 2.1130244731903076, + "learning_rate": 2.5886749781514075e-06, + "loss": 0.0385, + "num_input_tokens_seen": 21665928, + "step": 11067 + }, + { + "epoch": 1.4669317428760769, + "grad_norm": 4.872178554534912, + "learning_rate": 2.5883280584268476e-06, + "loss": 0.0828, + "num_input_tokens_seen": 21667912, + "step": 11068 + }, + { + "epoch": 1.467064280980782, + "grad_norm": 0.040651287883520126, + "learning_rate": 2.5879811369992624e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21669392, + "step": 11069 + }, + { + "epoch": 1.4671968190854872, + "grad_norm": 7.2859787940979, + "learning_rate": 2.5876342138753394e-06, + "loss": 0.0592, + "num_input_tokens_seen": 21671608, + "step": 11070 + }, + { + "epoch": 1.4673293571901922, + "grad_norm": 9.997447967529297, + "learning_rate": 2.5872872890617696e-06, + "loss": 0.3044, + "num_input_tokens_seen": 21673408, + "step": 11071 + }, + { + "epoch": 1.4674618952948972, + "grad_norm": 8.22560977935791, + "learning_rate": 2.58694036256524e-06, + "loss": 0.2734, + "num_input_tokens_seen": 21676120, + "step": 11072 + }, + { + "epoch": 1.4675944333996025, + "grad_norm": 9.969096183776855, + "learning_rate": 2.5865934343924393e-06, + "loss": 0.2661, + "num_input_tokens_seen": 21678320, + "step": 11073 + }, + { + "epoch": 1.4677269715043075, + "grad_norm": 0.2750203311443329, + "learning_rate": 2.586246504550059e-06, + "loss": 0.0018, + "num_input_tokens_seen": 21680688, + "step": 11074 + }, + { + "epoch": 1.4678595096090126, + "grad_norm": 0.04734223335981369, + "learning_rate": 2.585899573044786e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21682008, + "step": 11075 + }, + { + "epoch": 1.4679920477137176, + "grad_norm": 0.20386825501918793, + "learning_rate": 2.5855526398833094e-06, + "loss": 0.0014, + "num_input_tokens_seen": 21685120, + "step": 11076 + }, + { + "epoch": 1.4681245858184229, + "grad_norm": 10.253085136413574, + "learning_rate": 2.5852057050723193e-06, + "loss": 0.1797, + "num_input_tokens_seen": 21687352, + "step": 11077 + }, + { + "epoch": 1.468257123923128, + "grad_norm": 2.6124250888824463, + "learning_rate": 2.5848587686185047e-06, + "loss": 0.0141, + "num_input_tokens_seen": 21688568, + "step": 11078 + }, + { + "epoch": 1.468389662027833, + "grad_norm": 4.995578765869141, + "learning_rate": 2.584511830528554e-06, + "loss": 0.0516, + "num_input_tokens_seen": 21690696, + "step": 11079 + }, + { + "epoch": 1.4685222001325382, + "grad_norm": 0.03132272884249687, + "learning_rate": 2.584164890809157e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21691560, + "step": 11080 + }, + { + "epoch": 1.4686547382372432, + "grad_norm": 0.11116857826709747, + "learning_rate": 2.5838179494670035e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21692944, + "step": 11081 + }, + { + "epoch": 1.4687872763419483, + "grad_norm": 7.7167816162109375, + "learning_rate": 2.583471006508781e-06, + "loss": 0.1324, + "num_input_tokens_seen": 21694856, + "step": 11082 + }, + { + "epoch": 1.4689198144466533, + "grad_norm": 0.6264228820800781, + "learning_rate": 2.583124061941181e-06, + "loss": 0.0029, + "num_input_tokens_seen": 21696648, + "step": 11083 + }, + { + "epoch": 1.4690523525513586, + "grad_norm": 11.472622871398926, + "learning_rate": 2.582777115770891e-06, + "loss": 0.1836, + "num_input_tokens_seen": 21698904, + "step": 11084 + }, + { + "epoch": 1.4691848906560636, + "grad_norm": 0.14224688708782196, + "learning_rate": 2.5824301680046017e-06, + "loss": 0.001, + "num_input_tokens_seen": 21700808, + "step": 11085 + }, + { + "epoch": 1.4693174287607687, + "grad_norm": 5.589762210845947, + "learning_rate": 2.582083218649001e-06, + "loss": 0.2335, + "num_input_tokens_seen": 21702936, + "step": 11086 + }, + { + "epoch": 1.469449966865474, + "grad_norm": 4.799900054931641, + "learning_rate": 2.5817362677107807e-06, + "loss": 0.0955, + "num_input_tokens_seen": 21705152, + "step": 11087 + }, + { + "epoch": 1.469582504970179, + "grad_norm": 7.143099308013916, + "learning_rate": 2.5813893151966275e-06, + "loss": 0.1625, + "num_input_tokens_seen": 21707544, + "step": 11088 + }, + { + "epoch": 1.469715043074884, + "grad_norm": 6.8088059425354, + "learning_rate": 2.581042361113232e-06, + "loss": 0.0654, + "num_input_tokens_seen": 21709632, + "step": 11089 + }, + { + "epoch": 1.469847581179589, + "grad_norm": 5.073712348937988, + "learning_rate": 2.580695405467285e-06, + "loss": 0.0977, + "num_input_tokens_seen": 21711960, + "step": 11090 + }, + { + "epoch": 1.4699801192842943, + "grad_norm": 7.132404804229736, + "learning_rate": 2.5803484482654733e-06, + "loss": 0.143, + "num_input_tokens_seen": 21713728, + "step": 11091 + }, + { + "epoch": 1.4701126573889993, + "grad_norm": 1.1447491645812988, + "learning_rate": 2.58000148951449e-06, + "loss": 0.0072, + "num_input_tokens_seen": 21715184, + "step": 11092 + }, + { + "epoch": 1.4702451954937044, + "grad_norm": 8.833479881286621, + "learning_rate": 2.579654529221021e-06, + "loss": 0.2726, + "num_input_tokens_seen": 21717832, + "step": 11093 + }, + { + "epoch": 1.4703777335984096, + "grad_norm": 6.5997467041015625, + "learning_rate": 2.5793075673917587e-06, + "loss": 0.152, + "num_input_tokens_seen": 21719592, + "step": 11094 + }, + { + "epoch": 1.4705102717031147, + "grad_norm": 0.02729985862970352, + "learning_rate": 2.578960604033392e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21721024, + "step": 11095 + }, + { + "epoch": 1.4706428098078197, + "grad_norm": 10.959158897399902, + "learning_rate": 2.57861363915261e-06, + "loss": 0.0868, + "num_input_tokens_seen": 21722576, + "step": 11096 + }, + { + "epoch": 1.4707753479125247, + "grad_norm": 4.057428359985352, + "learning_rate": 2.578266672756103e-06, + "loss": 0.0664, + "num_input_tokens_seen": 21724560, + "step": 11097 + }, + { + "epoch": 1.47090788601723, + "grad_norm": 10.816934585571289, + "learning_rate": 2.5779197048505607e-06, + "loss": 0.2868, + "num_input_tokens_seen": 21727144, + "step": 11098 + }, + { + "epoch": 1.471040424121935, + "grad_norm": 3.0672852993011475, + "learning_rate": 2.577572735442672e-06, + "loss": 0.0357, + "num_input_tokens_seen": 21729112, + "step": 11099 + }, + { + "epoch": 1.4711729622266403, + "grad_norm": 14.973370552062988, + "learning_rate": 2.577225764539128e-06, + "loss": 0.2588, + "num_input_tokens_seen": 21730840, + "step": 11100 + }, + { + "epoch": 1.4713055003313453, + "grad_norm": 1.2575414180755615, + "learning_rate": 2.576878792146618e-06, + "loss": 0.0113, + "num_input_tokens_seen": 21733104, + "step": 11101 + }, + { + "epoch": 1.4714380384360504, + "grad_norm": 5.518712043762207, + "learning_rate": 2.5765318182718318e-06, + "loss": 0.0243, + "num_input_tokens_seen": 21735680, + "step": 11102 + }, + { + "epoch": 1.4715705765407554, + "grad_norm": 0.049268919974565506, + "learning_rate": 2.576184842921459e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21736896, + "step": 11103 + }, + { + "epoch": 1.4717031146454604, + "grad_norm": 12.287383079528809, + "learning_rate": 2.5758378661021898e-06, + "loss": 0.3671, + "num_input_tokens_seen": 21738984, + "step": 11104 + }, + { + "epoch": 1.4718356527501657, + "grad_norm": 12.141632080078125, + "learning_rate": 2.5754908878207146e-06, + "loss": 0.1644, + "num_input_tokens_seen": 21741056, + "step": 11105 + }, + { + "epoch": 1.4719681908548707, + "grad_norm": 12.063698768615723, + "learning_rate": 2.575143908083723e-06, + "loss": 0.3979, + "num_input_tokens_seen": 21743712, + "step": 11106 + }, + { + "epoch": 1.472100728959576, + "grad_norm": 12.591207504272461, + "learning_rate": 2.574796926897905e-06, + "loss": 0.234, + "num_input_tokens_seen": 21745768, + "step": 11107 + }, + { + "epoch": 1.472233267064281, + "grad_norm": 0.1670842468738556, + "learning_rate": 2.5744499442699504e-06, + "loss": 0.0012, + "num_input_tokens_seen": 21747744, + "step": 11108 + }, + { + "epoch": 1.472365805168986, + "grad_norm": 0.1941344439983368, + "learning_rate": 2.5741029602065496e-06, + "loss": 0.0013, + "num_input_tokens_seen": 21749472, + "step": 11109 + }, + { + "epoch": 1.4724983432736911, + "grad_norm": 0.5653542876243591, + "learning_rate": 2.5737559747143935e-06, + "loss": 0.0024, + "num_input_tokens_seen": 21751424, + "step": 11110 + }, + { + "epoch": 1.4726308813783962, + "grad_norm": 0.11951368302106857, + "learning_rate": 2.5734089878001707e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21753200, + "step": 11111 + }, + { + "epoch": 1.4727634194831014, + "grad_norm": 3.1244583129882812, + "learning_rate": 2.573061999470571e-06, + "loss": 0.0452, + "num_input_tokens_seen": 21755344, + "step": 11112 + }, + { + "epoch": 1.4728959575878064, + "grad_norm": 3.4613451957702637, + "learning_rate": 2.572715009732287e-06, + "loss": 0.1063, + "num_input_tokens_seen": 21757176, + "step": 11113 + }, + { + "epoch": 1.4730284956925117, + "grad_norm": 2.556030750274658, + "learning_rate": 2.572368018592007e-06, + "loss": 0.0118, + "num_input_tokens_seen": 21758920, + "step": 11114 + }, + { + "epoch": 1.4731610337972167, + "grad_norm": 3.470649480819702, + "learning_rate": 2.5720210260564216e-06, + "loss": 0.0358, + "num_input_tokens_seen": 21760160, + "step": 11115 + }, + { + "epoch": 1.4732935719019218, + "grad_norm": 5.224481582641602, + "learning_rate": 2.5716740321322215e-06, + "loss": 0.0781, + "num_input_tokens_seen": 21761760, + "step": 11116 + }, + { + "epoch": 1.4734261100066268, + "grad_norm": 0.05140223726630211, + "learning_rate": 2.5713270368260956e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21763616, + "step": 11117 + }, + { + "epoch": 1.473558648111332, + "grad_norm": 9.445391654968262, + "learning_rate": 2.570980040144736e-06, + "loss": 0.1684, + "num_input_tokens_seen": 21766016, + "step": 11118 + }, + { + "epoch": 1.4736911862160371, + "grad_norm": 0.0800311416387558, + "learning_rate": 2.5706330420948323e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21767200, + "step": 11119 + }, + { + "epoch": 1.4738237243207422, + "grad_norm": 4.082507133483887, + "learning_rate": 2.570286042683074e-06, + "loss": 0.0379, + "num_input_tokens_seen": 21768896, + "step": 11120 + }, + { + "epoch": 1.4739562624254474, + "grad_norm": 0.03419762849807739, + "learning_rate": 2.5699390419161528e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21770736, + "step": 11121 + }, + { + "epoch": 1.4740888005301525, + "grad_norm": 8.612048149108887, + "learning_rate": 2.569592039800759e-06, + "loss": 0.228, + "num_input_tokens_seen": 21772824, + "step": 11122 + }, + { + "epoch": 1.4742213386348575, + "grad_norm": 11.682594299316406, + "learning_rate": 2.569245036343582e-06, + "loss": 0.2107, + "num_input_tokens_seen": 21774632, + "step": 11123 + }, + { + "epoch": 1.4743538767395625, + "grad_norm": 7.543234348297119, + "learning_rate": 2.568898031551314e-06, + "loss": 0.1641, + "num_input_tokens_seen": 21777016, + "step": 11124 + }, + { + "epoch": 1.4744864148442678, + "grad_norm": 2.7014565467834473, + "learning_rate": 2.5685510254306434e-06, + "loss": 0.014, + "num_input_tokens_seen": 21778432, + "step": 11125 + }, + { + "epoch": 1.4746189529489728, + "grad_norm": 0.6720866560935974, + "learning_rate": 2.5682040179882625e-06, + "loss": 0.0043, + "num_input_tokens_seen": 21780440, + "step": 11126 + }, + { + "epoch": 1.4747514910536779, + "grad_norm": 6.520196437835693, + "learning_rate": 2.5678570092308603e-06, + "loss": 0.1699, + "num_input_tokens_seen": 21783360, + "step": 11127 + }, + { + "epoch": 1.4748840291583831, + "grad_norm": 5.362974166870117, + "learning_rate": 2.5675099991651286e-06, + "loss": 0.1027, + "num_input_tokens_seen": 21784616, + "step": 11128 + }, + { + "epoch": 1.4750165672630882, + "grad_norm": 0.012301245704293251, + "learning_rate": 2.567162987797757e-06, + "loss": 0.0001, + "num_input_tokens_seen": 21785704, + "step": 11129 + }, + { + "epoch": 1.4751491053677932, + "grad_norm": 10.43653392791748, + "learning_rate": 2.566815975135437e-06, + "loss": 0.2249, + "num_input_tokens_seen": 21787664, + "step": 11130 + }, + { + "epoch": 1.4752816434724982, + "grad_norm": 0.44780564308166504, + "learning_rate": 2.5664689611848597e-06, + "loss": 0.0027, + "num_input_tokens_seen": 21789176, + "step": 11131 + }, + { + "epoch": 1.4754141815772035, + "grad_norm": 6.9935832023620605, + "learning_rate": 2.566121945952714e-06, + "loss": 0.1843, + "num_input_tokens_seen": 21792752, + "step": 11132 + }, + { + "epoch": 1.4755467196819085, + "grad_norm": 0.13129478693008423, + "learning_rate": 2.565774929445692e-06, + "loss": 0.0009, + "num_input_tokens_seen": 21794720, + "step": 11133 + }, + { + "epoch": 1.4756792577866136, + "grad_norm": 0.14713329076766968, + "learning_rate": 2.565427911670484e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21797096, + "step": 11134 + }, + { + "epoch": 1.4758117958913188, + "grad_norm": 1.356232762336731, + "learning_rate": 2.56508089263378e-06, + "loss": 0.0069, + "num_input_tokens_seen": 21798552, + "step": 11135 + }, + { + "epoch": 1.4759443339960239, + "grad_norm": 9.22382926940918, + "learning_rate": 2.5647338723422723e-06, + "loss": 0.1656, + "num_input_tokens_seen": 21800568, + "step": 11136 + }, + { + "epoch": 1.476076872100729, + "grad_norm": 5.675853729248047, + "learning_rate": 2.564386850802651e-06, + "loss": 0.1563, + "num_input_tokens_seen": 21802432, + "step": 11137 + }, + { + "epoch": 1.476209410205434, + "grad_norm": 5.752342700958252, + "learning_rate": 2.564039828021606e-06, + "loss": 0.0472, + "num_input_tokens_seen": 21804080, + "step": 11138 + }, + { + "epoch": 1.4763419483101392, + "grad_norm": 3.5545132160186768, + "learning_rate": 2.5636928040058296e-06, + "loss": 0.1123, + "num_input_tokens_seen": 21806904, + "step": 11139 + }, + { + "epoch": 1.4764744864148442, + "grad_norm": 6.1984758377075195, + "learning_rate": 2.5633457787620115e-06, + "loss": 0.1285, + "num_input_tokens_seen": 21809176, + "step": 11140 + }, + { + "epoch": 1.4766070245195495, + "grad_norm": 6.578401565551758, + "learning_rate": 2.5629987522968435e-06, + "loss": 0.1361, + "num_input_tokens_seen": 21810968, + "step": 11141 + }, + { + "epoch": 1.4767395626242545, + "grad_norm": 2.6197304725646973, + "learning_rate": 2.5626517246170163e-06, + "loss": 0.0744, + "num_input_tokens_seen": 21812416, + "step": 11142 + }, + { + "epoch": 1.4768721007289596, + "grad_norm": 0.10279325395822525, + "learning_rate": 2.56230469572922e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21813776, + "step": 11143 + }, + { + "epoch": 1.4770046388336646, + "grad_norm": 8.896048545837402, + "learning_rate": 2.5619576656401463e-06, + "loss": 0.3092, + "num_input_tokens_seen": 21816064, + "step": 11144 + }, + { + "epoch": 1.4771371769383697, + "grad_norm": 0.13208064436912537, + "learning_rate": 2.5616106343564865e-06, + "loss": 0.001, + "num_input_tokens_seen": 21817640, + "step": 11145 + }, + { + "epoch": 1.477269715043075, + "grad_norm": 0.09150807559490204, + "learning_rate": 2.561263601884931e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21819048, + "step": 11146 + }, + { + "epoch": 1.47740225314778, + "grad_norm": 0.23883140087127686, + "learning_rate": 2.5609165682321708e-06, + "loss": 0.0016, + "num_input_tokens_seen": 21820272, + "step": 11147 + }, + { + "epoch": 1.4775347912524852, + "grad_norm": 6.0577473640441895, + "learning_rate": 2.560569533404897e-06, + "loss": 0.1454, + "num_input_tokens_seen": 21822176, + "step": 11148 + }, + { + "epoch": 1.4776673293571903, + "grad_norm": 0.26165109872817993, + "learning_rate": 2.5602224974098016e-06, + "loss": 0.0015, + "num_input_tokens_seen": 21824400, + "step": 11149 + }, + { + "epoch": 1.4777998674618953, + "grad_norm": 7.366633415222168, + "learning_rate": 2.5598754602535743e-06, + "loss": 0.2068, + "num_input_tokens_seen": 21826720, + "step": 11150 + }, + { + "epoch": 1.4779324055666003, + "grad_norm": 5.239055633544922, + "learning_rate": 2.5595284219429064e-06, + "loss": 0.158, + "num_input_tokens_seen": 21828936, + "step": 11151 + }, + { + "epoch": 1.4780649436713054, + "grad_norm": 1.0452977418899536, + "learning_rate": 2.55918138248449e-06, + "loss": 0.0056, + "num_input_tokens_seen": 21831400, + "step": 11152 + }, + { + "epoch": 1.4781974817760106, + "grad_norm": 2.629706382751465, + "learning_rate": 2.5588343418850155e-06, + "loss": 0.1017, + "num_input_tokens_seen": 21833592, + "step": 11153 + }, + { + "epoch": 1.4783300198807157, + "grad_norm": 0.04483118653297424, + "learning_rate": 2.5584873001511745e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21834976, + "step": 11154 + }, + { + "epoch": 1.478462557985421, + "grad_norm": 0.04260517284274101, + "learning_rate": 2.5581402572896585e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21836864, + "step": 11155 + }, + { + "epoch": 1.478595096090126, + "grad_norm": 2.183316946029663, + "learning_rate": 2.557793213307157e-06, + "loss": 0.0291, + "num_input_tokens_seen": 21838624, + "step": 11156 + }, + { + "epoch": 1.478727634194831, + "grad_norm": 14.253841400146484, + "learning_rate": 2.5574461682103636e-06, + "loss": 0.2388, + "num_input_tokens_seen": 21840312, + "step": 11157 + }, + { + "epoch": 1.478860172299536, + "grad_norm": 5.777599334716797, + "learning_rate": 2.557099122005968e-06, + "loss": 0.0843, + "num_input_tokens_seen": 21843056, + "step": 11158 + }, + { + "epoch": 1.4789927104042413, + "grad_norm": 0.06728745996952057, + "learning_rate": 2.5567520747006612e-06, + "loss": 0.0004, + "num_input_tokens_seen": 21844288, + "step": 11159 + }, + { + "epoch": 1.4791252485089463, + "grad_norm": 0.8680945038795471, + "learning_rate": 2.556405026301137e-06, + "loss": 0.0076, + "num_input_tokens_seen": 21846712, + "step": 11160 + }, + { + "epoch": 1.4792577866136514, + "grad_norm": 6.212240219116211, + "learning_rate": 2.5560579768140838e-06, + "loss": 0.1338, + "num_input_tokens_seen": 21848608, + "step": 11161 + }, + { + "epoch": 1.4793903247183566, + "grad_norm": 5.905635833740234, + "learning_rate": 2.555710926246194e-06, + "loss": 0.0404, + "num_input_tokens_seen": 21850848, + "step": 11162 + }, + { + "epoch": 1.4795228628230617, + "grad_norm": 5.782008171081543, + "learning_rate": 2.55536387460416e-06, + "loss": 0.067, + "num_input_tokens_seen": 21852408, + "step": 11163 + }, + { + "epoch": 1.4796554009277667, + "grad_norm": 0.08158911764621735, + "learning_rate": 2.5550168218946714e-06, + "loss": 0.0008, + "num_input_tokens_seen": 21853816, + "step": 11164 + }, + { + "epoch": 1.4797879390324717, + "grad_norm": 0.04930699244141579, + "learning_rate": 2.554669768124421e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21856400, + "step": 11165 + }, + { + "epoch": 1.479920477137177, + "grad_norm": 11.54738998413086, + "learning_rate": 2.554322713300099e-06, + "loss": 0.1988, + "num_input_tokens_seen": 21858440, + "step": 11166 + }, + { + "epoch": 1.480053015241882, + "grad_norm": 13.03319263458252, + "learning_rate": 2.5539756574283985e-06, + "loss": 0.3302, + "num_input_tokens_seen": 21860776, + "step": 11167 + }, + { + "epoch": 1.480185553346587, + "grad_norm": 6.881104469299316, + "learning_rate": 2.55362860051601e-06, + "loss": 0.1164, + "num_input_tokens_seen": 21862776, + "step": 11168 + }, + { + "epoch": 1.4803180914512923, + "grad_norm": 8.74828815460205, + "learning_rate": 2.5532815425696245e-06, + "loss": 0.1805, + "num_input_tokens_seen": 21864552, + "step": 11169 + }, + { + "epoch": 1.4804506295559974, + "grad_norm": 4.866464614868164, + "learning_rate": 2.552934483595935e-06, + "loss": 0.1057, + "num_input_tokens_seen": 21867120, + "step": 11170 + }, + { + "epoch": 1.4805831676607024, + "grad_norm": 0.12263792008161545, + "learning_rate": 2.5525874236016307e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21868400, + "step": 11171 + }, + { + "epoch": 1.4807157057654075, + "grad_norm": 0.25782310962677, + "learning_rate": 2.5522403625934063e-06, + "loss": 0.0019, + "num_input_tokens_seen": 21870776, + "step": 11172 + }, + { + "epoch": 1.4808482438701127, + "grad_norm": 0.02431444823741913, + "learning_rate": 2.5518933005779504e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21872440, + "step": 11173 + }, + { + "epoch": 1.4809807819748178, + "grad_norm": 5.497162818908691, + "learning_rate": 2.5515462375619563e-06, + "loss": 0.0649, + "num_input_tokens_seen": 21874600, + "step": 11174 + }, + { + "epoch": 1.4811133200795228, + "grad_norm": 4.860320091247559, + "learning_rate": 2.5511991735521157e-06, + "loss": 0.0184, + "num_input_tokens_seen": 21875800, + "step": 11175 + }, + { + "epoch": 1.481245858184228, + "grad_norm": 9.03791332244873, + "learning_rate": 2.550852108555119e-06, + "loss": 0.1615, + "num_input_tokens_seen": 21877776, + "step": 11176 + }, + { + "epoch": 1.481378396288933, + "grad_norm": 1.5148662328720093, + "learning_rate": 2.550505042577659e-06, + "loss": 0.0253, + "num_input_tokens_seen": 21878968, + "step": 11177 + }, + { + "epoch": 1.4815109343936381, + "grad_norm": 0.45201557874679565, + "learning_rate": 2.5501579756264273e-06, + "loss": 0.0016, + "num_input_tokens_seen": 21881048, + "step": 11178 + }, + { + "epoch": 1.4816434724983432, + "grad_norm": 1.0872268676757812, + "learning_rate": 2.549810907708114e-06, + "loss": 0.0096, + "num_input_tokens_seen": 21883864, + "step": 11179 + }, + { + "epoch": 1.4817760106030484, + "grad_norm": 0.534960150718689, + "learning_rate": 2.5494638388294128e-06, + "loss": 0.004, + "num_input_tokens_seen": 21885648, + "step": 11180 + }, + { + "epoch": 1.4819085487077535, + "grad_norm": 2.264981985092163, + "learning_rate": 2.5491167689970147e-06, + "loss": 0.0186, + "num_input_tokens_seen": 21887752, + "step": 11181 + }, + { + "epoch": 1.4820410868124587, + "grad_norm": 4.386968612670898, + "learning_rate": 2.5487696982176113e-06, + "loss": 0.0152, + "num_input_tokens_seen": 21889368, + "step": 11182 + }, + { + "epoch": 1.4821736249171638, + "grad_norm": 6.181941986083984, + "learning_rate": 2.5484226264978946e-06, + "loss": 0.0861, + "num_input_tokens_seen": 21890744, + "step": 11183 + }, + { + "epoch": 1.4823061630218688, + "grad_norm": 7.733394622802734, + "learning_rate": 2.5480755538445557e-06, + "loss": 0.0939, + "num_input_tokens_seen": 21892368, + "step": 11184 + }, + { + "epoch": 1.4824387011265738, + "grad_norm": 0.04716675356030464, + "learning_rate": 2.547728480264287e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21894520, + "step": 11185 + }, + { + "epoch": 1.4825712392312789, + "grad_norm": 6.8333563804626465, + "learning_rate": 2.547381405763781e-06, + "loss": 0.0525, + "num_input_tokens_seen": 21896056, + "step": 11186 + }, + { + "epoch": 1.4827037773359841, + "grad_norm": 3.5846142768859863, + "learning_rate": 2.5470343303497286e-06, + "loss": 0.058, + "num_input_tokens_seen": 21898688, + "step": 11187 + }, + { + "epoch": 1.4828363154406892, + "grad_norm": 0.02812708541750908, + "learning_rate": 2.546687254028822e-06, + "loss": 0.0003, + "num_input_tokens_seen": 21900088, + "step": 11188 + }, + { + "epoch": 1.4829688535453944, + "grad_norm": 16.55612564086914, + "learning_rate": 2.5463401768077528e-06, + "loss": 0.3377, + "num_input_tokens_seen": 21901880, + "step": 11189 + }, + { + "epoch": 1.4831013916500995, + "grad_norm": 6.110386848449707, + "learning_rate": 2.5459930986932126e-06, + "loss": 0.0955, + "num_input_tokens_seen": 21903960, + "step": 11190 + }, + { + "epoch": 1.4832339297548045, + "grad_norm": 7.810425281524658, + "learning_rate": 2.5456460196918938e-06, + "loss": 0.145, + "num_input_tokens_seen": 21906384, + "step": 11191 + }, + { + "epoch": 1.4833664678595095, + "grad_norm": 4.55702018737793, + "learning_rate": 2.545298939810488e-06, + "loss": 0.0796, + "num_input_tokens_seen": 21908472, + "step": 11192 + }, + { + "epoch": 1.4834990059642146, + "grad_norm": 15.048956871032715, + "learning_rate": 2.5449518590556888e-06, + "loss": 0.3339, + "num_input_tokens_seen": 21910632, + "step": 11193 + }, + { + "epoch": 1.4836315440689198, + "grad_norm": 1.0949821472167969, + "learning_rate": 2.5446047774341853e-06, + "loss": 0.007, + "num_input_tokens_seen": 21912552, + "step": 11194 + }, + { + "epoch": 1.4837640821736249, + "grad_norm": 3.7838027477264404, + "learning_rate": 2.5442576949526715e-06, + "loss": 0.1036, + "num_input_tokens_seen": 21914480, + "step": 11195 + }, + { + "epoch": 1.4838966202783301, + "grad_norm": 8.974052429199219, + "learning_rate": 2.5439106116178393e-06, + "loss": 0.0848, + "num_input_tokens_seen": 21915944, + "step": 11196 + }, + { + "epoch": 1.4840291583830352, + "grad_norm": 8.462437629699707, + "learning_rate": 2.543563527436379e-06, + "loss": 0.1722, + "num_input_tokens_seen": 21917752, + "step": 11197 + }, + { + "epoch": 1.4841616964877402, + "grad_norm": 10.801608085632324, + "learning_rate": 2.5432164424149845e-06, + "loss": 0.2548, + "num_input_tokens_seen": 21919552, + "step": 11198 + }, + { + "epoch": 1.4842942345924452, + "grad_norm": 0.5651176571846008, + "learning_rate": 2.5428693565603475e-06, + "loss": 0.0053, + "num_input_tokens_seen": 21921720, + "step": 11199 + }, + { + "epoch": 1.4844267726971505, + "grad_norm": 8.296182632446289, + "learning_rate": 2.5425222698791592e-06, + "loss": 0.117, + "num_input_tokens_seen": 21923784, + "step": 11200 + }, + { + "epoch": 1.4845593108018555, + "grad_norm": 0.13115756213665009, + "learning_rate": 2.5421751823781125e-06, + "loss": 0.001, + "num_input_tokens_seen": 21927096, + "step": 11201 + }, + { + "epoch": 1.4846918489065606, + "grad_norm": 6.350335597991943, + "learning_rate": 2.5418280940638993e-06, + "loss": 0.0399, + "num_input_tokens_seen": 21928608, + "step": 11202 + }, + { + "epoch": 1.4848243870112658, + "grad_norm": 6.139593601226807, + "learning_rate": 2.541481004943211e-06, + "loss": 0.2025, + "num_input_tokens_seen": 21930472, + "step": 11203 + }, + { + "epoch": 1.4849569251159709, + "grad_norm": 6.233639240264893, + "learning_rate": 2.541133915022741e-06, + "loss": 0.1612, + "num_input_tokens_seen": 21932496, + "step": 11204 + }, + { + "epoch": 1.485089463220676, + "grad_norm": 10.467829704284668, + "learning_rate": 2.54078682430918e-06, + "loss": 0.1516, + "num_input_tokens_seen": 21934832, + "step": 11205 + }, + { + "epoch": 1.485222001325381, + "grad_norm": 0.09774071723222733, + "learning_rate": 2.5404397328092214e-06, + "loss": 0.0006, + "num_input_tokens_seen": 21936296, + "step": 11206 + }, + { + "epoch": 1.4853545394300862, + "grad_norm": 0.5842940211296082, + "learning_rate": 2.5400926405295574e-06, + "loss": 0.003, + "num_input_tokens_seen": 21938528, + "step": 11207 + }, + { + "epoch": 1.4854870775347913, + "grad_norm": 13.543889999389648, + "learning_rate": 2.5397455474768784e-06, + "loss": 0.1856, + "num_input_tokens_seen": 21941208, + "step": 11208 + }, + { + "epoch": 1.4856196156394963, + "grad_norm": 4.807651996612549, + "learning_rate": 2.539398453657878e-06, + "loss": 0.0981, + "num_input_tokens_seen": 21943056, + "step": 11209 + }, + { + "epoch": 1.4857521537442016, + "grad_norm": 0.08717454224824905, + "learning_rate": 2.5390513590792486e-06, + "loss": 0.0005, + "num_input_tokens_seen": 21945888, + "step": 11210 + }, + { + "epoch": 1.4858846918489066, + "grad_norm": 0.8177707195281982, + "learning_rate": 2.5387042637476826e-06, + "loss": 0.0057, + "num_input_tokens_seen": 21947136, + "step": 11211 + }, + { + "epoch": 1.4860172299536116, + "grad_norm": 0.14777931571006775, + "learning_rate": 2.5383571676698708e-06, + "loss": 0.0011, + "num_input_tokens_seen": 21949320, + "step": 11212 + }, + { + "epoch": 1.4861497680583167, + "grad_norm": 3.502070903778076, + "learning_rate": 2.538010070852507e-06, + "loss": 0.0596, + "num_input_tokens_seen": 21951000, + "step": 11213 + }, + { + "epoch": 1.486282306163022, + "grad_norm": 4.961649417877197, + "learning_rate": 2.537662973302283e-06, + "loss": 0.0815, + "num_input_tokens_seen": 21953120, + "step": 11214 + }, + { + "epoch": 1.486414844267727, + "grad_norm": 10.793278694152832, + "learning_rate": 2.53731587502589e-06, + "loss": 0.1703, + "num_input_tokens_seen": 21955160, + "step": 11215 + }, + { + "epoch": 1.486547382372432, + "grad_norm": 7.7959065437316895, + "learning_rate": 2.5369687760300216e-06, + "loss": 0.2909, + "num_input_tokens_seen": 21956848, + "step": 11216 + }, + { + "epoch": 1.4866799204771373, + "grad_norm": 4.264549732208252, + "learning_rate": 2.53662167632137e-06, + "loss": 0.0563, + "num_input_tokens_seen": 21958560, + "step": 11217 + }, + { + "epoch": 1.4868124585818423, + "grad_norm": 3.288600206375122, + "learning_rate": 2.5362745759066263e-06, + "loss": 0.0234, + "num_input_tokens_seen": 21960376, + "step": 11218 + }, + { + "epoch": 1.4869449966865473, + "grad_norm": 14.401220321655273, + "learning_rate": 2.535927474792485e-06, + "loss": 0.2336, + "num_input_tokens_seen": 21962360, + "step": 11219 + }, + { + "epoch": 1.4870775347912524, + "grad_norm": 4.68358850479126, + "learning_rate": 2.535580372985637e-06, + "loss": 0.0825, + "num_input_tokens_seen": 21963888, + "step": 11220 + }, + { + "epoch": 1.4872100728959576, + "grad_norm": 0.11901406943798065, + "learning_rate": 2.535233270492774e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21965424, + "step": 11221 + }, + { + "epoch": 1.4873426110006627, + "grad_norm": 7.619617938995361, + "learning_rate": 2.53488616732059e-06, + "loss": 0.2111, + "num_input_tokens_seen": 21966888, + "step": 11222 + }, + { + "epoch": 1.4874751491053677, + "grad_norm": 4.48398494720459, + "learning_rate": 2.5345390634757763e-06, + "loss": 0.0881, + "num_input_tokens_seen": 21968504, + "step": 11223 + }, + { + "epoch": 1.487607687210073, + "grad_norm": 9.354607582092285, + "learning_rate": 2.5341919589650256e-06, + "loss": 0.235, + "num_input_tokens_seen": 21970744, + "step": 11224 + }, + { + "epoch": 1.487740225314778, + "grad_norm": 5.516051292419434, + "learning_rate": 2.5338448537950304e-06, + "loss": 0.0601, + "num_input_tokens_seen": 21972840, + "step": 11225 + }, + { + "epoch": 1.487872763419483, + "grad_norm": 4.914371967315674, + "learning_rate": 2.533497747972483e-06, + "loss": 0.025, + "num_input_tokens_seen": 21973768, + "step": 11226 + }, + { + "epoch": 1.488005301524188, + "grad_norm": 0.1430598646402359, + "learning_rate": 2.533150641504076e-06, + "loss": 0.0007, + "num_input_tokens_seen": 21976832, + "step": 11227 + }, + { + "epoch": 1.4881378396288933, + "grad_norm": 1.527557611465454, + "learning_rate": 2.5328035343965012e-06, + "loss": 0.0232, + "num_input_tokens_seen": 21978224, + "step": 11228 + }, + { + "epoch": 1.4882703777335984, + "grad_norm": 7.597232341766357, + "learning_rate": 2.5324564266564527e-06, + "loss": 0.1311, + "num_input_tokens_seen": 21980176, + "step": 11229 + }, + { + "epoch": 1.4884029158383036, + "grad_norm": 12.762622833251953, + "learning_rate": 2.5321093182906217e-06, + "loss": 0.1823, + "num_input_tokens_seen": 21983904, + "step": 11230 + }, + { + "epoch": 1.4885354539430087, + "grad_norm": 0.03356817364692688, + "learning_rate": 2.5317622093057e-06, + "loss": 0.0002, + "num_input_tokens_seen": 21985240, + "step": 11231 + }, + { + "epoch": 1.4886679920477137, + "grad_norm": 11.758745193481445, + "learning_rate": 2.531415099708382e-06, + "loss": 0.0957, + "num_input_tokens_seen": 21987504, + "step": 11232 + }, + { + "epoch": 1.4888005301524188, + "grad_norm": 7.603974342346191, + "learning_rate": 2.5310679895053585e-06, + "loss": 0.0304, + "num_input_tokens_seen": 21989088, + "step": 11233 + }, + { + "epoch": 1.4889330682571238, + "grad_norm": 14.615354537963867, + "learning_rate": 2.530720878703323e-06, + "loss": 0.4464, + "num_input_tokens_seen": 21991032, + "step": 11234 + }, + { + "epoch": 1.489065606361829, + "grad_norm": 3.262742757797241, + "learning_rate": 2.5303737673089686e-06, + "loss": 0.0468, + "num_input_tokens_seen": 21993072, + "step": 11235 + }, + { + "epoch": 1.489198144466534, + "grad_norm": 5.871703147888184, + "learning_rate": 2.530026655328985e-06, + "loss": 0.1643, + "num_input_tokens_seen": 21994792, + "step": 11236 + }, + { + "epoch": 1.4893306825712394, + "grad_norm": 0.1343318372964859, + "learning_rate": 2.529679542770069e-06, + "loss": 0.001, + "num_input_tokens_seen": 21996856, + "step": 11237 + }, + { + "epoch": 1.4894632206759444, + "grad_norm": 2.609346628189087, + "learning_rate": 2.529332429638909e-06, + "loss": 0.0388, + "num_input_tokens_seen": 21999624, + "step": 11238 + }, + { + "epoch": 1.4895957587806494, + "grad_norm": 2.5073983669281006, + "learning_rate": 2.5289853159422005e-06, + "loss": 0.0495, + "num_input_tokens_seen": 22002560, + "step": 11239 + }, + { + "epoch": 1.4897282968853545, + "grad_norm": 0.22896023094654083, + "learning_rate": 2.5286382016866356e-06, + "loss": 0.0015, + "num_input_tokens_seen": 22004808, + "step": 11240 + }, + { + "epoch": 1.4898608349900597, + "grad_norm": 2.1829471588134766, + "learning_rate": 2.5282910868789056e-06, + "loss": 0.0235, + "num_input_tokens_seen": 22006728, + "step": 11241 + }, + { + "epoch": 1.4899933730947648, + "grad_norm": 3.60050106048584, + "learning_rate": 2.5279439715257037e-06, + "loss": 0.0379, + "num_input_tokens_seen": 22008480, + "step": 11242 + }, + { + "epoch": 1.4901259111994698, + "grad_norm": 6.7282023429870605, + "learning_rate": 2.5275968556337237e-06, + "loss": 0.0827, + "num_input_tokens_seen": 22011032, + "step": 11243 + }, + { + "epoch": 1.490258449304175, + "grad_norm": 2.6511669158935547, + "learning_rate": 2.5272497392096566e-06, + "loss": 0.0363, + "num_input_tokens_seen": 22012536, + "step": 11244 + }, + { + "epoch": 1.49039098740888, + "grad_norm": 0.2613256871700287, + "learning_rate": 2.526902622260196e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22015072, + "step": 11245 + }, + { + "epoch": 1.4905235255135851, + "grad_norm": 0.10562022775411606, + "learning_rate": 2.5265555047920347e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22016744, + "step": 11246 + }, + { + "epoch": 1.4906560636182902, + "grad_norm": 0.04290936142206192, + "learning_rate": 2.5262083868118643e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22018624, + "step": 11247 + }, + { + "epoch": 1.4907886017229954, + "grad_norm": 6.47480583190918, + "learning_rate": 2.5258612683263782e-06, + "loss": 0.0377, + "num_input_tokens_seen": 22020256, + "step": 11248 + }, + { + "epoch": 1.4909211398277005, + "grad_norm": 2.856600284576416, + "learning_rate": 2.5255141493422684e-06, + "loss": 0.0397, + "num_input_tokens_seen": 22023384, + "step": 11249 + }, + { + "epoch": 1.4910536779324055, + "grad_norm": 0.0670863464474678, + "learning_rate": 2.525167029866229e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22025376, + "step": 11250 + }, + { + "epoch": 1.4911862160371108, + "grad_norm": 24.312685012817383, + "learning_rate": 2.5248199099049527e-06, + "loss": 0.4785, + "num_input_tokens_seen": 22028736, + "step": 11251 + }, + { + "epoch": 1.4913187541418158, + "grad_norm": 7.973196983337402, + "learning_rate": 2.52447278946513e-06, + "loss": 0.2607, + "num_input_tokens_seen": 22031008, + "step": 11252 + }, + { + "epoch": 1.4914512922465208, + "grad_norm": 0.0632823035120964, + "learning_rate": 2.5241256685534556e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22033024, + "step": 11253 + }, + { + "epoch": 1.4915838303512259, + "grad_norm": 2.3455021381378174, + "learning_rate": 2.5237785471766213e-06, + "loss": 0.0234, + "num_input_tokens_seen": 22034880, + "step": 11254 + }, + { + "epoch": 1.4917163684559311, + "grad_norm": 6.446322917938232, + "learning_rate": 2.523431425341321e-06, + "loss": 0.1945, + "num_input_tokens_seen": 22036944, + "step": 11255 + }, + { + "epoch": 1.4918489065606362, + "grad_norm": 7.368457317352295, + "learning_rate": 2.5230843030542456e-06, + "loss": 0.1715, + "num_input_tokens_seen": 22039776, + "step": 11256 + }, + { + "epoch": 1.4919814446653412, + "grad_norm": 0.030115073546767235, + "learning_rate": 2.5227371803220896e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22041120, + "step": 11257 + }, + { + "epoch": 1.4921139827700465, + "grad_norm": 0.5102638602256775, + "learning_rate": 2.5223900571515452e-06, + "loss": 0.0043, + "num_input_tokens_seen": 22042616, + "step": 11258 + }, + { + "epoch": 1.4922465208747515, + "grad_norm": 7.951561450958252, + "learning_rate": 2.5220429335493046e-06, + "loss": 0.1131, + "num_input_tokens_seen": 22044288, + "step": 11259 + }, + { + "epoch": 1.4923790589794566, + "grad_norm": 9.365495681762695, + "learning_rate": 2.521695809522061e-06, + "loss": 0.1356, + "num_input_tokens_seen": 22045936, + "step": 11260 + }, + { + "epoch": 1.4925115970841616, + "grad_norm": 3.4460318088531494, + "learning_rate": 2.5213486850765085e-06, + "loss": 0.0487, + "num_input_tokens_seen": 22047864, + "step": 11261 + }, + { + "epoch": 1.4926441351888668, + "grad_norm": 3.424572467803955, + "learning_rate": 2.5210015602193373e-06, + "loss": 0.0704, + "num_input_tokens_seen": 22049240, + "step": 11262 + }, + { + "epoch": 1.4927766732935719, + "grad_norm": 4.318841457366943, + "learning_rate": 2.5206544349572416e-06, + "loss": 0.0785, + "num_input_tokens_seen": 22050688, + "step": 11263 + }, + { + "epoch": 1.492909211398277, + "grad_norm": 13.93221664428711, + "learning_rate": 2.520307309296915e-06, + "loss": 0.2348, + "num_input_tokens_seen": 22053128, + "step": 11264 + }, + { + "epoch": 1.4930417495029822, + "grad_norm": 7.366179466247559, + "learning_rate": 2.519960183245048e-06, + "loss": 0.0477, + "num_input_tokens_seen": 22055872, + "step": 11265 + }, + { + "epoch": 1.4931742876076872, + "grad_norm": 6.625668525695801, + "learning_rate": 2.519613056808336e-06, + "loss": 0.1607, + "num_input_tokens_seen": 22057984, + "step": 11266 + }, + { + "epoch": 1.4933068257123923, + "grad_norm": 10.712101936340332, + "learning_rate": 2.5192659299934703e-06, + "loss": 0.0988, + "num_input_tokens_seen": 22059464, + "step": 11267 + }, + { + "epoch": 1.4934393638170973, + "grad_norm": 16.251506805419922, + "learning_rate": 2.5189188028071444e-06, + "loss": 0.2147, + "num_input_tokens_seen": 22062080, + "step": 11268 + }, + { + "epoch": 1.4935719019218026, + "grad_norm": 5.481698036193848, + "learning_rate": 2.5185716752560515e-06, + "loss": 0.0641, + "num_input_tokens_seen": 22065144, + "step": 11269 + }, + { + "epoch": 1.4937044400265076, + "grad_norm": 19.051408767700195, + "learning_rate": 2.518224547346883e-06, + "loss": 0.6381, + "num_input_tokens_seen": 22067528, + "step": 11270 + }, + { + "epoch": 1.4938369781312129, + "grad_norm": 5.339697360992432, + "learning_rate": 2.5178774190863326e-06, + "loss": 0.134, + "num_input_tokens_seen": 22070088, + "step": 11271 + }, + { + "epoch": 1.493969516235918, + "grad_norm": 0.02127126231789589, + "learning_rate": 2.517530290481093e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22072176, + "step": 11272 + }, + { + "epoch": 1.494102054340623, + "grad_norm": 5.8056416511535645, + "learning_rate": 2.5171831615378587e-06, + "loss": 0.1708, + "num_input_tokens_seen": 22075088, + "step": 11273 + }, + { + "epoch": 1.494234592445328, + "grad_norm": 3.2386772632598877, + "learning_rate": 2.51683603226332e-06, + "loss": 0.0211, + "num_input_tokens_seen": 22076632, + "step": 11274 + }, + { + "epoch": 1.494367130550033, + "grad_norm": 0.04409939795732498, + "learning_rate": 2.5164889026641714e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22078208, + "step": 11275 + }, + { + "epoch": 1.4944996686547383, + "grad_norm": 7.009223937988281, + "learning_rate": 2.5161417727471053e-06, + "loss": 0.1532, + "num_input_tokens_seen": 22079960, + "step": 11276 + }, + { + "epoch": 1.4946322067594433, + "grad_norm": 0.036608558148145676, + "learning_rate": 2.5157946425188153e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22081944, + "step": 11277 + }, + { + "epoch": 1.4947647448641486, + "grad_norm": 1.2869271039962769, + "learning_rate": 2.5154475119859927e-06, + "loss": 0.0116, + "num_input_tokens_seen": 22083152, + "step": 11278 + }, + { + "epoch": 1.4948972829688536, + "grad_norm": 0.39250287413597107, + "learning_rate": 2.515100381155332e-06, + "loss": 0.0037, + "num_input_tokens_seen": 22084600, + "step": 11279 + }, + { + "epoch": 1.4950298210735586, + "grad_norm": 17.673362731933594, + "learning_rate": 2.514753250033525e-06, + "loss": 0.1486, + "num_input_tokens_seen": 22087552, + "step": 11280 + }, + { + "epoch": 1.4951623591782637, + "grad_norm": 4.3808441162109375, + "learning_rate": 2.5144061186272656e-06, + "loss": 0.0296, + "num_input_tokens_seen": 22088840, + "step": 11281 + }, + { + "epoch": 1.4952948972829687, + "grad_norm": 0.08708979189395905, + "learning_rate": 2.514058986943247e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22091560, + "step": 11282 + }, + { + "epoch": 1.495427435387674, + "grad_norm": 5.112151622772217, + "learning_rate": 2.5137118549881594e-06, + "loss": 0.1537, + "num_input_tokens_seen": 22093336, + "step": 11283 + }, + { + "epoch": 1.495559973492379, + "grad_norm": 0.03771781921386719, + "learning_rate": 2.5133647227687e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22094512, + "step": 11284 + }, + { + "epoch": 1.4956925115970843, + "grad_norm": 0.16863234341144562, + "learning_rate": 2.513017590291558e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22097056, + "step": 11285 + }, + { + "epoch": 1.4958250497017893, + "grad_norm": 6.053509712219238, + "learning_rate": 2.512670457563428e-06, + "loss": 0.1273, + "num_input_tokens_seen": 22099080, + "step": 11286 + }, + { + "epoch": 1.4959575878064943, + "grad_norm": 0.22670598328113556, + "learning_rate": 2.512323324591004e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22100424, + "step": 11287 + }, + { + "epoch": 1.4960901259111994, + "grad_norm": 11.104025840759277, + "learning_rate": 2.511976191380977e-06, + "loss": 0.2368, + "num_input_tokens_seen": 22102352, + "step": 11288 + }, + { + "epoch": 1.4962226640159046, + "grad_norm": 3.6719870567321777, + "learning_rate": 2.5116290579400406e-06, + "loss": 0.0383, + "num_input_tokens_seen": 22104312, + "step": 11289 + }, + { + "epoch": 1.4963552021206097, + "grad_norm": 0.06800150871276855, + "learning_rate": 2.5112819242748885e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22107704, + "step": 11290 + }, + { + "epoch": 1.4964877402253147, + "grad_norm": 8.735757827758789, + "learning_rate": 2.510934790392213e-06, + "loss": 0.2587, + "num_input_tokens_seen": 22109520, + "step": 11291 + }, + { + "epoch": 1.49662027833002, + "grad_norm": 9.229066848754883, + "learning_rate": 2.5105876562987064e-06, + "loss": 0.147, + "num_input_tokens_seen": 22111552, + "step": 11292 + }, + { + "epoch": 1.496752816434725, + "grad_norm": 1.3582638502120972, + "learning_rate": 2.510240522001063e-06, + "loss": 0.0128, + "num_input_tokens_seen": 22113072, + "step": 11293 + }, + { + "epoch": 1.49688535453943, + "grad_norm": 4.1831889152526855, + "learning_rate": 2.5098933875059757e-06, + "loss": 0.0381, + "num_input_tokens_seen": 22114664, + "step": 11294 + }, + { + "epoch": 1.497017892644135, + "grad_norm": 11.545395851135254, + "learning_rate": 2.5095462528201366e-06, + "loss": 0.1321, + "num_input_tokens_seen": 22117368, + "step": 11295 + }, + { + "epoch": 1.4971504307488404, + "grad_norm": 0.4734537601470947, + "learning_rate": 2.509199117950239e-06, + "loss": 0.0032, + "num_input_tokens_seen": 22119296, + "step": 11296 + }, + { + "epoch": 1.4972829688535454, + "grad_norm": 5.652725696563721, + "learning_rate": 2.508851982902977e-06, + "loss": 0.0973, + "num_input_tokens_seen": 22120976, + "step": 11297 + }, + { + "epoch": 1.4974155069582504, + "grad_norm": 7.9530744552612305, + "learning_rate": 2.508504847685041e-06, + "loss": 0.0364, + "num_input_tokens_seen": 22122320, + "step": 11298 + }, + { + "epoch": 1.4975480450629557, + "grad_norm": 5.118899345397949, + "learning_rate": 2.508157712303127e-06, + "loss": 0.2109, + "num_input_tokens_seen": 22124688, + "step": 11299 + }, + { + "epoch": 1.4976805831676607, + "grad_norm": 14.509099960327148, + "learning_rate": 2.5078105767639265e-06, + "loss": 0.388, + "num_input_tokens_seen": 22127072, + "step": 11300 + }, + { + "epoch": 1.4978131212723658, + "grad_norm": 12.065324783325195, + "learning_rate": 2.5074634410741323e-06, + "loss": 0.2531, + "num_input_tokens_seen": 22128688, + "step": 11301 + }, + { + "epoch": 1.4979456593770708, + "grad_norm": 6.663219928741455, + "learning_rate": 2.5071163052404378e-06, + "loss": 0.0614, + "num_input_tokens_seen": 22130416, + "step": 11302 + }, + { + "epoch": 1.498078197481776, + "grad_norm": 9.804076194763184, + "learning_rate": 2.5067691692695366e-06, + "loss": 0.221, + "num_input_tokens_seen": 22132512, + "step": 11303 + }, + { + "epoch": 1.498210735586481, + "grad_norm": 1.0664399862289429, + "learning_rate": 2.5064220331681204e-06, + "loss": 0.0051, + "num_input_tokens_seen": 22134480, + "step": 11304 + }, + { + "epoch": 1.4983432736911861, + "grad_norm": 0.10796388983726501, + "learning_rate": 2.506074896942884e-06, + "loss": 0.001, + "num_input_tokens_seen": 22136768, + "step": 11305 + }, + { + "epoch": 1.4984758117958914, + "grad_norm": 10.3233003616333, + "learning_rate": 2.5057277606005187e-06, + "loss": 0.2936, + "num_input_tokens_seen": 22139416, + "step": 11306 + }, + { + "epoch": 1.4986083499005964, + "grad_norm": 9.231203079223633, + "learning_rate": 2.505380624147718e-06, + "loss": 0.1681, + "num_input_tokens_seen": 22142064, + "step": 11307 + }, + { + "epoch": 1.4987408880053015, + "grad_norm": 12.606380462646484, + "learning_rate": 2.505033487591176e-06, + "loss": 0.3864, + "num_input_tokens_seen": 22144416, + "step": 11308 + }, + { + "epoch": 1.4988734261100065, + "grad_norm": 7.775861740112305, + "learning_rate": 2.504686350937584e-06, + "loss": 0.1466, + "num_input_tokens_seen": 22146768, + "step": 11309 + }, + { + "epoch": 1.4990059642147118, + "grad_norm": 7.8473005294799805, + "learning_rate": 2.5043392141936364e-06, + "loss": 0.0993, + "num_input_tokens_seen": 22148760, + "step": 11310 + }, + { + "epoch": 1.4991385023194168, + "grad_norm": 6.642422676086426, + "learning_rate": 2.5039920773660254e-06, + "loss": 0.0623, + "num_input_tokens_seen": 22150768, + "step": 11311 + }, + { + "epoch": 1.499271040424122, + "grad_norm": 1.4296715259552002, + "learning_rate": 2.503644940461445e-06, + "loss": 0.0065, + "num_input_tokens_seen": 22153208, + "step": 11312 + }, + { + "epoch": 1.499403578528827, + "grad_norm": 0.5597422122955322, + "learning_rate": 2.503297803486587e-06, + "loss": 0.0048, + "num_input_tokens_seen": 22155432, + "step": 11313 + }, + { + "epoch": 1.4995361166335321, + "grad_norm": 0.233292818069458, + "learning_rate": 2.502950666448145e-06, + "loss": 0.0016, + "num_input_tokens_seen": 22157696, + "step": 11314 + }, + { + "epoch": 1.4996686547382372, + "grad_norm": 0.19976887106895447, + "learning_rate": 2.502603529352813e-06, + "loss": 0.0013, + "num_input_tokens_seen": 22159360, + "step": 11315 + }, + { + "epoch": 1.4998011928429422, + "grad_norm": 4.656866550445557, + "learning_rate": 2.5022563922072825e-06, + "loss": 0.1073, + "num_input_tokens_seen": 22161176, + "step": 11316 + }, + { + "epoch": 1.4999337309476475, + "grad_norm": 12.248750686645508, + "learning_rate": 2.5019092550182467e-06, + "loss": 0.1918, + "num_input_tokens_seen": 22163416, + "step": 11317 + }, + { + "epoch": 1.5000662690523525, + "grad_norm": 23.958274841308594, + "learning_rate": 2.5015621177923998e-06, + "loss": 0.5868, + "num_input_tokens_seen": 22165064, + "step": 11318 + }, + { + "epoch": 1.5001988071570578, + "grad_norm": 16.156267166137695, + "learning_rate": 2.501214980536434e-06, + "loss": 0.4877, + "num_input_tokens_seen": 22167104, + "step": 11319 + }, + { + "epoch": 1.5003313452617628, + "grad_norm": 6.773266315460205, + "learning_rate": 2.500867843257043e-06, + "loss": 0.1135, + "num_input_tokens_seen": 22170016, + "step": 11320 + }, + { + "epoch": 1.5004638833664679, + "grad_norm": 8.740592956542969, + "learning_rate": 2.5005207059609187e-06, + "loss": 0.1243, + "num_input_tokens_seen": 22171416, + "step": 11321 + }, + { + "epoch": 1.500596421471173, + "grad_norm": 9.475445747375488, + "learning_rate": 2.5001735686547553e-06, + "loss": 0.0828, + "num_input_tokens_seen": 22173496, + "step": 11322 + }, + { + "epoch": 1.500728959575878, + "grad_norm": 0.007296200376003981, + "learning_rate": 2.499826431345245e-06, + "loss": 0.0, + "num_input_tokens_seen": 22174976, + "step": 11323 + }, + { + "epoch": 1.5008614976805832, + "grad_norm": 0.19035208225250244, + "learning_rate": 2.4994792940390817e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22176624, + "step": 11324 + }, + { + "epoch": 1.5009940357852882, + "grad_norm": 6.67063570022583, + "learning_rate": 2.4991321567429577e-06, + "loss": 0.0483, + "num_input_tokens_seen": 22178128, + "step": 11325 + }, + { + "epoch": 1.5011265738899935, + "grad_norm": 4.840065002441406, + "learning_rate": 2.498785019463567e-06, + "loss": 0.1344, + "num_input_tokens_seen": 22180536, + "step": 11326 + }, + { + "epoch": 1.5012591119946985, + "grad_norm": 3.436634063720703, + "learning_rate": 2.498437882207601e-06, + "loss": 0.0638, + "num_input_tokens_seen": 22182216, + "step": 11327 + }, + { + "epoch": 1.5013916500994036, + "grad_norm": 0.12780870497226715, + "learning_rate": 2.4980907449817533e-06, + "loss": 0.0008, + "num_input_tokens_seen": 22184384, + "step": 11328 + }, + { + "epoch": 1.5015241882041086, + "grad_norm": 4.5274858474731445, + "learning_rate": 2.4977436077927184e-06, + "loss": 0.1023, + "num_input_tokens_seen": 22186648, + "step": 11329 + }, + { + "epoch": 1.5016567263088136, + "grad_norm": 4.441134452819824, + "learning_rate": 2.497396470647188e-06, + "loss": 0.0203, + "num_input_tokens_seen": 22188384, + "step": 11330 + }, + { + "epoch": 1.501789264413519, + "grad_norm": 17.046367645263672, + "learning_rate": 2.497049333551856e-06, + "loss": 0.5917, + "num_input_tokens_seen": 22190168, + "step": 11331 + }, + { + "epoch": 1.501921802518224, + "grad_norm": 6.989553928375244, + "learning_rate": 2.4967021965134143e-06, + "loss": 0.1428, + "num_input_tokens_seen": 22191912, + "step": 11332 + }, + { + "epoch": 1.5020543406229292, + "grad_norm": 1.971257209777832, + "learning_rate": 2.496355059538556e-06, + "loss": 0.0107, + "num_input_tokens_seen": 22194072, + "step": 11333 + }, + { + "epoch": 1.5021868787276342, + "grad_norm": 0.024518702179193497, + "learning_rate": 2.496007922633975e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22195328, + "step": 11334 + }, + { + "epoch": 1.5023194168323393, + "grad_norm": 4.5171427726745605, + "learning_rate": 2.495660785806365e-06, + "loss": 0.1023, + "num_input_tokens_seen": 22197688, + "step": 11335 + }, + { + "epoch": 1.5024519549370443, + "grad_norm": 0.1347322165966034, + "learning_rate": 2.4953136490624165e-06, + "loss": 0.001, + "num_input_tokens_seen": 22199952, + "step": 11336 + }, + { + "epoch": 1.5025844930417493, + "grad_norm": 0.06904023885726929, + "learning_rate": 2.4949665124088254e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22201776, + "step": 11337 + }, + { + "epoch": 1.5027170311464546, + "grad_norm": 6.8512864112854, + "learning_rate": 2.494619375852283e-06, + "loss": 0.1023, + "num_input_tokens_seen": 22204408, + "step": 11338 + }, + { + "epoch": 1.5028495692511599, + "grad_norm": 12.186630249023438, + "learning_rate": 2.494272239399482e-06, + "loss": 0.3112, + "num_input_tokens_seen": 22206568, + "step": 11339 + }, + { + "epoch": 1.502982107355865, + "grad_norm": 5.696072101593018, + "learning_rate": 2.4939251030571168e-06, + "loss": 0.1162, + "num_input_tokens_seen": 22209192, + "step": 11340 + }, + { + "epoch": 1.50311464546057, + "grad_norm": 9.824942588806152, + "learning_rate": 2.49357796683188e-06, + "loss": 0.1622, + "num_input_tokens_seen": 22210696, + "step": 11341 + }, + { + "epoch": 1.503247183565275, + "grad_norm": 11.528942108154297, + "learning_rate": 2.493230830730464e-06, + "loss": 0.3344, + "num_input_tokens_seen": 22212600, + "step": 11342 + }, + { + "epoch": 1.50337972166998, + "grad_norm": 11.75717544555664, + "learning_rate": 2.492883694759563e-06, + "loss": 0.059, + "num_input_tokens_seen": 22214792, + "step": 11343 + }, + { + "epoch": 1.503512259774685, + "grad_norm": 0.1370205283164978, + "learning_rate": 2.492536558925868e-06, + "loss": 0.001, + "num_input_tokens_seen": 22216464, + "step": 11344 + }, + { + "epoch": 1.5036447978793903, + "grad_norm": 12.367904663085938, + "learning_rate": 2.492189423236074e-06, + "loss": 0.2596, + "num_input_tokens_seen": 22218528, + "step": 11345 + }, + { + "epoch": 1.5037773359840956, + "grad_norm": 9.471757888793945, + "learning_rate": 2.4918422876968737e-06, + "loss": 0.1572, + "num_input_tokens_seen": 22220056, + "step": 11346 + }, + { + "epoch": 1.5039098740888006, + "grad_norm": 9.884944915771484, + "learning_rate": 2.49149515231496e-06, + "loss": 0.3949, + "num_input_tokens_seen": 22222008, + "step": 11347 + }, + { + "epoch": 1.5040424121935057, + "grad_norm": 0.5098044872283936, + "learning_rate": 2.4911480170970244e-06, + "loss": 0.0031, + "num_input_tokens_seen": 22224440, + "step": 11348 + }, + { + "epoch": 1.5041749502982107, + "grad_norm": 5.8175048828125, + "learning_rate": 2.490800882049761e-06, + "loss": 0.0695, + "num_input_tokens_seen": 22226640, + "step": 11349 + }, + { + "epoch": 1.5043074884029157, + "grad_norm": 1.5691171884536743, + "learning_rate": 2.4904537471798642e-06, + "loss": 0.0155, + "num_input_tokens_seen": 22228184, + "step": 11350 + }, + { + "epoch": 1.504440026507621, + "grad_norm": 4.199514389038086, + "learning_rate": 2.490106612494025e-06, + "loss": 0.0582, + "num_input_tokens_seen": 22230208, + "step": 11351 + }, + { + "epoch": 1.504572564612326, + "grad_norm": 0.05354466661810875, + "learning_rate": 2.489759477998938e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22232216, + "step": 11352 + }, + { + "epoch": 1.5047051027170313, + "grad_norm": 11.919499397277832, + "learning_rate": 2.489412343701295e-06, + "loss": 0.1582, + "num_input_tokens_seen": 22235016, + "step": 11353 + }, + { + "epoch": 1.5048376408217363, + "grad_norm": 8.071243286132812, + "learning_rate": 2.489065209607788e-06, + "loss": 0.1582, + "num_input_tokens_seen": 22237776, + "step": 11354 + }, + { + "epoch": 1.5049701789264414, + "grad_norm": 11.218445777893066, + "learning_rate": 2.4887180757251123e-06, + "loss": 0.1551, + "num_input_tokens_seen": 22239856, + "step": 11355 + }, + { + "epoch": 1.5051027170311464, + "grad_norm": 12.45864486694336, + "learning_rate": 2.48837094205996e-06, + "loss": 0.3021, + "num_input_tokens_seen": 22242200, + "step": 11356 + }, + { + "epoch": 1.5052352551358514, + "grad_norm": 0.0641266256570816, + "learning_rate": 2.488023808619024e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22243768, + "step": 11357 + }, + { + "epoch": 1.5053677932405567, + "grad_norm": 5.266931056976318, + "learning_rate": 2.487676675408997e-06, + "loss": 0.1245, + "num_input_tokens_seen": 22245696, + "step": 11358 + }, + { + "epoch": 1.5055003313452617, + "grad_norm": 5.88974666595459, + "learning_rate": 2.487329542436572e-06, + "loss": 0.0891, + "num_input_tokens_seen": 22247288, + "step": 11359 + }, + { + "epoch": 1.505632869449967, + "grad_norm": 1.401282787322998, + "learning_rate": 2.4869824097084424e-06, + "loss": 0.0098, + "num_input_tokens_seen": 22249200, + "step": 11360 + }, + { + "epoch": 1.505765407554672, + "grad_norm": 16.31235694885254, + "learning_rate": 2.486635277231301e-06, + "loss": 0.1813, + "num_input_tokens_seen": 22251648, + "step": 11361 + }, + { + "epoch": 1.505897945659377, + "grad_norm": 6.742690086364746, + "learning_rate": 2.486288145011841e-06, + "loss": 0.11, + "num_input_tokens_seen": 22254248, + "step": 11362 + }, + { + "epoch": 1.506030483764082, + "grad_norm": 5.9086689949035645, + "learning_rate": 2.485941013056755e-06, + "loss": 0.0669, + "num_input_tokens_seen": 22256360, + "step": 11363 + }, + { + "epoch": 1.5061630218687871, + "grad_norm": 10.00708293914795, + "learning_rate": 2.4855938813727344e-06, + "loss": 0.2642, + "num_input_tokens_seen": 22258288, + "step": 11364 + }, + { + "epoch": 1.5062955599734924, + "grad_norm": 4.125768184661865, + "learning_rate": 2.485246749966475e-06, + "loss": 0.0427, + "num_input_tokens_seen": 22260032, + "step": 11365 + }, + { + "epoch": 1.5064280980781974, + "grad_norm": 3.1132164001464844, + "learning_rate": 2.4848996188446687e-06, + "loss": 0.0146, + "num_input_tokens_seen": 22262440, + "step": 11366 + }, + { + "epoch": 1.5065606361829027, + "grad_norm": 5.616835594177246, + "learning_rate": 2.484552488014008e-06, + "loss": 0.1172, + "num_input_tokens_seen": 22264552, + "step": 11367 + }, + { + "epoch": 1.5066931742876077, + "grad_norm": 2.5037827491760254, + "learning_rate": 2.4842053574811864e-06, + "loss": 0.042, + "num_input_tokens_seen": 22266056, + "step": 11368 + }, + { + "epoch": 1.5068257123923128, + "grad_norm": 5.691380023956299, + "learning_rate": 2.4838582272528955e-06, + "loss": 0.0329, + "num_input_tokens_seen": 22268304, + "step": 11369 + }, + { + "epoch": 1.5069582504970178, + "grad_norm": 12.696510314941406, + "learning_rate": 2.4835110973358286e-06, + "loss": 0.2086, + "num_input_tokens_seen": 22269872, + "step": 11370 + }, + { + "epoch": 1.5070907886017229, + "grad_norm": 0.20764188468456268, + "learning_rate": 2.4831639677366807e-06, + "loss": 0.0013, + "num_input_tokens_seen": 22271280, + "step": 11371 + }, + { + "epoch": 1.5072233267064281, + "grad_norm": 0.033183302730321884, + "learning_rate": 2.482816838462142e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22272664, + "step": 11372 + }, + { + "epoch": 1.5073558648111332, + "grad_norm": 5.8083977699279785, + "learning_rate": 2.4824697095189073e-06, + "loss": 0.1131, + "num_input_tokens_seen": 22274440, + "step": 11373 + }, + { + "epoch": 1.5074884029158384, + "grad_norm": 0.038225311785936356, + "learning_rate": 2.4821225809136683e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22276864, + "step": 11374 + }, + { + "epoch": 1.5076209410205434, + "grad_norm": 10.296028137207031, + "learning_rate": 2.4817754526531175e-06, + "loss": 0.1572, + "num_input_tokens_seen": 22279728, + "step": 11375 + }, + { + "epoch": 1.5077534791252485, + "grad_norm": 7.478351593017578, + "learning_rate": 2.4814283247439494e-06, + "loss": 0.201, + "num_input_tokens_seen": 22281496, + "step": 11376 + }, + { + "epoch": 1.5078860172299535, + "grad_norm": 3.580753803253174, + "learning_rate": 2.4810811971928564e-06, + "loss": 0.0797, + "num_input_tokens_seen": 22283240, + "step": 11377 + }, + { + "epoch": 1.5080185553346586, + "grad_norm": 17.45608901977539, + "learning_rate": 2.48073407000653e-06, + "loss": 0.3048, + "num_input_tokens_seen": 22285456, + "step": 11378 + }, + { + "epoch": 1.5081510934393638, + "grad_norm": 8.84461784362793, + "learning_rate": 2.480386943191665e-06, + "loss": 0.1207, + "num_input_tokens_seen": 22287304, + "step": 11379 + }, + { + "epoch": 1.508283631544069, + "grad_norm": 1.9499233961105347, + "learning_rate": 2.4800398167549524e-06, + "loss": 0.0237, + "num_input_tokens_seen": 22289664, + "step": 11380 + }, + { + "epoch": 1.5084161696487741, + "grad_norm": 11.147247314453125, + "learning_rate": 2.479692690703086e-06, + "loss": 0.1485, + "num_input_tokens_seen": 22291472, + "step": 11381 + }, + { + "epoch": 1.5085487077534792, + "grad_norm": 0.19540995359420776, + "learning_rate": 2.479345565042759e-06, + "loss": 0.0014, + "num_input_tokens_seen": 22292472, + "step": 11382 + }, + { + "epoch": 1.5086812458581842, + "grad_norm": 6.15656042098999, + "learning_rate": 2.4789984397806635e-06, + "loss": 0.1339, + "num_input_tokens_seen": 22294344, + "step": 11383 + }, + { + "epoch": 1.5088137839628892, + "grad_norm": 0.4155294597148895, + "learning_rate": 2.4786513149234932e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22296048, + "step": 11384 + }, + { + "epoch": 1.5089463220675943, + "grad_norm": 0.4467773139476776, + "learning_rate": 2.4783041904779386e-06, + "loss": 0.0024, + "num_input_tokens_seen": 22297952, + "step": 11385 + }, + { + "epoch": 1.5090788601722995, + "grad_norm": 0.2392825037240982, + "learning_rate": 2.477957066450696e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22299976, + "step": 11386 + }, + { + "epoch": 1.5092113982770048, + "grad_norm": 0.013642658479511738, + "learning_rate": 2.4776099428484556e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22301280, + "step": 11387 + }, + { + "epoch": 1.5093439363817098, + "grad_norm": 6.525798797607422, + "learning_rate": 2.4772628196779113e-06, + "loss": 0.1094, + "num_input_tokens_seen": 22302816, + "step": 11388 + }, + { + "epoch": 1.5094764744864149, + "grad_norm": 9.64405345916748, + "learning_rate": 2.4769156969457548e-06, + "loss": 0.1949, + "num_input_tokens_seen": 22305040, + "step": 11389 + }, + { + "epoch": 1.50960901259112, + "grad_norm": 0.1423177272081375, + "learning_rate": 2.4765685746586794e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22306472, + "step": 11390 + }, + { + "epoch": 1.509741550695825, + "grad_norm": 13.29039192199707, + "learning_rate": 2.4762214528233787e-06, + "loss": 0.2779, + "num_input_tokens_seen": 22309280, + "step": 11391 + }, + { + "epoch": 1.5098740888005302, + "grad_norm": 4.106523036956787, + "learning_rate": 2.4758743314465452e-06, + "loss": 0.0998, + "num_input_tokens_seen": 22310832, + "step": 11392 + }, + { + "epoch": 1.5100066269052352, + "grad_norm": 2.65285062789917, + "learning_rate": 2.475527210534871e-06, + "loss": 0.0604, + "num_input_tokens_seen": 22312120, + "step": 11393 + }, + { + "epoch": 1.5101391650099405, + "grad_norm": 0.539609968662262, + "learning_rate": 2.475180090095049e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22313296, + "step": 11394 + }, + { + "epoch": 1.5102717031146455, + "grad_norm": 0.15880119800567627, + "learning_rate": 2.4748329701337715e-06, + "loss": 0.001, + "num_input_tokens_seen": 22315272, + "step": 11395 + }, + { + "epoch": 1.5104042412193506, + "grad_norm": 5.109264850616455, + "learning_rate": 2.474485850657731e-06, + "loss": 0.0904, + "num_input_tokens_seen": 22317048, + "step": 11396 + }, + { + "epoch": 1.5105367793240556, + "grad_norm": 5.510128021240234, + "learning_rate": 2.4741387316736226e-06, + "loss": 0.1304, + "num_input_tokens_seen": 22318432, + "step": 11397 + }, + { + "epoch": 1.5106693174287606, + "grad_norm": 11.299368858337402, + "learning_rate": 2.4737916131881365e-06, + "loss": 0.1552, + "num_input_tokens_seen": 22320624, + "step": 11398 + }, + { + "epoch": 1.510801855533466, + "grad_norm": 6.239479064941406, + "learning_rate": 2.4734444952079665e-06, + "loss": 0.0913, + "num_input_tokens_seen": 22322336, + "step": 11399 + }, + { + "epoch": 1.510934393638171, + "grad_norm": 8.359880447387695, + "learning_rate": 2.473097377739805e-06, + "loss": 0.1226, + "num_input_tokens_seen": 22324336, + "step": 11400 + }, + { + "epoch": 1.5110669317428762, + "grad_norm": 0.19654779136180878, + "learning_rate": 2.472750260790344e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22326736, + "step": 11401 + }, + { + "epoch": 1.5111994698475812, + "grad_norm": 0.013369173742830753, + "learning_rate": 2.4724031443662767e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22328184, + "step": 11402 + }, + { + "epoch": 1.5113320079522863, + "grad_norm": 1.897829294204712, + "learning_rate": 2.4720560284742967e-06, + "loss": 0.023, + "num_input_tokens_seen": 22329968, + "step": 11403 + }, + { + "epoch": 1.5114645460569913, + "grad_norm": 0.008718353696167469, + "learning_rate": 2.4717089131210952e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22331864, + "step": 11404 + }, + { + "epoch": 1.5115970841616964, + "grad_norm": 12.930502891540527, + "learning_rate": 2.471361798313366e-06, + "loss": 0.1683, + "num_input_tokens_seen": 22333784, + "step": 11405 + }, + { + "epoch": 1.5117296222664016, + "grad_norm": 5.951053619384766, + "learning_rate": 2.4710146840578e-06, + "loss": 0.0765, + "num_input_tokens_seen": 22336264, + "step": 11406 + }, + { + "epoch": 1.5118621603711067, + "grad_norm": 3.437422513961792, + "learning_rate": 2.470667570361091e-06, + "loss": 0.0255, + "num_input_tokens_seen": 22339152, + "step": 11407 + }, + { + "epoch": 1.511994698475812, + "grad_norm": 0.0223418939858675, + "learning_rate": 2.470320457229932e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22341608, + "step": 11408 + }, + { + "epoch": 1.512127236580517, + "grad_norm": 0.13284729421138763, + "learning_rate": 2.4699733446710156e-06, + "loss": 0.001, + "num_input_tokens_seen": 22343456, + "step": 11409 + }, + { + "epoch": 1.512259774685222, + "grad_norm": 0.01674438640475273, + "learning_rate": 2.469626232691033e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22345160, + "step": 11410 + }, + { + "epoch": 1.512392312789927, + "grad_norm": 13.227300643920898, + "learning_rate": 2.4692791212966773e-06, + "loss": 0.5566, + "num_input_tokens_seen": 22347152, + "step": 11411 + }, + { + "epoch": 1.512524850894632, + "grad_norm": 3.151787281036377, + "learning_rate": 2.468932010494642e-06, + "loss": 0.0134, + "num_input_tokens_seen": 22348592, + "step": 11412 + }, + { + "epoch": 1.5126573889993373, + "grad_norm": 1.0811048746109009, + "learning_rate": 2.4685849002916184e-06, + "loss": 0.0103, + "num_input_tokens_seen": 22350464, + "step": 11413 + }, + { + "epoch": 1.5127899271040424, + "grad_norm": 8.103339195251465, + "learning_rate": 2.4682377906943006e-06, + "loss": 0.1068, + "num_input_tokens_seen": 22352208, + "step": 11414 + }, + { + "epoch": 1.5129224652087476, + "grad_norm": 6.376973628997803, + "learning_rate": 2.4678906817093796e-06, + "loss": 0.1227, + "num_input_tokens_seen": 22355856, + "step": 11415 + }, + { + "epoch": 1.5130550033134527, + "grad_norm": 6.41684627532959, + "learning_rate": 2.4675435733435477e-06, + "loss": 0.1571, + "num_input_tokens_seen": 22357024, + "step": 11416 + }, + { + "epoch": 1.5131875414181577, + "grad_norm": 0.519968569278717, + "learning_rate": 2.4671964656034988e-06, + "loss": 0.0054, + "num_input_tokens_seen": 22358864, + "step": 11417 + }, + { + "epoch": 1.5133200795228627, + "grad_norm": 3.497556209564209, + "learning_rate": 2.4668493584959246e-06, + "loss": 0.0234, + "num_input_tokens_seen": 22360144, + "step": 11418 + }, + { + "epoch": 1.5134526176275678, + "grad_norm": 7.769497871398926, + "learning_rate": 2.4665022520275177e-06, + "loss": 0.1806, + "num_input_tokens_seen": 22362144, + "step": 11419 + }, + { + "epoch": 1.513585155732273, + "grad_norm": 0.045171912759542465, + "learning_rate": 2.466155146204971e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22364552, + "step": 11420 + }, + { + "epoch": 1.5137176938369783, + "grad_norm": 0.009083000011742115, + "learning_rate": 2.465808041034975e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22366112, + "step": 11421 + }, + { + "epoch": 1.5138502319416833, + "grad_norm": 9.206603050231934, + "learning_rate": 2.4654609365242246e-06, + "loss": 0.1156, + "num_input_tokens_seen": 22367856, + "step": 11422 + }, + { + "epoch": 1.5139827700463884, + "grad_norm": 0.048868078738451004, + "learning_rate": 2.4651138326794107e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22370488, + "step": 11423 + }, + { + "epoch": 1.5141153081510934, + "grad_norm": 0.015876734629273415, + "learning_rate": 2.464766729507227e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22371896, + "step": 11424 + }, + { + "epoch": 1.5142478462557984, + "grad_norm": 3.494384765625, + "learning_rate": 2.464419627014364e-06, + "loss": 0.0091, + "num_input_tokens_seen": 22372992, + "step": 11425 + }, + { + "epoch": 1.5143803843605035, + "grad_norm": 13.920032501220703, + "learning_rate": 2.4640725252075163e-06, + "loss": 0.1951, + "num_input_tokens_seen": 22375128, + "step": 11426 + }, + { + "epoch": 1.5145129224652087, + "grad_norm": 6.217750072479248, + "learning_rate": 2.4637254240933737e-06, + "loss": 0.0553, + "num_input_tokens_seen": 22376912, + "step": 11427 + }, + { + "epoch": 1.514645460569914, + "grad_norm": 9.408684730529785, + "learning_rate": 2.4633783236786303e-06, + "loss": 0.1186, + "num_input_tokens_seen": 22378952, + "step": 11428 + }, + { + "epoch": 1.514777998674619, + "grad_norm": 4.269500255584717, + "learning_rate": 2.4630312239699788e-06, + "loss": 0.0627, + "num_input_tokens_seen": 22381456, + "step": 11429 + }, + { + "epoch": 1.514910536779324, + "grad_norm": 13.82970142364502, + "learning_rate": 2.462684124974111e-06, + "loss": 0.1542, + "num_input_tokens_seen": 22383128, + "step": 11430 + }, + { + "epoch": 1.5150430748840291, + "grad_norm": 8.828168869018555, + "learning_rate": 2.4623370266977184e-06, + "loss": 0.1288, + "num_input_tokens_seen": 22384832, + "step": 11431 + }, + { + "epoch": 1.5151756129887342, + "grad_norm": 16.929853439331055, + "learning_rate": 2.461989929147493e-06, + "loss": 0.3295, + "num_input_tokens_seen": 22386704, + "step": 11432 + }, + { + "epoch": 1.5153081510934394, + "grad_norm": 5.446898460388184, + "learning_rate": 2.4616428323301296e-06, + "loss": 0.1645, + "num_input_tokens_seen": 22388280, + "step": 11433 + }, + { + "epoch": 1.5154406891981445, + "grad_norm": 3.7495453357696533, + "learning_rate": 2.461295736252318e-06, + "loss": 0.0459, + "num_input_tokens_seen": 22389760, + "step": 11434 + }, + { + "epoch": 1.5155732273028497, + "grad_norm": 0.29297253489494324, + "learning_rate": 2.4609486409207518e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22391232, + "step": 11435 + }, + { + "epoch": 1.5157057654075548, + "grad_norm": 0.07760973274707794, + "learning_rate": 2.4606015463421222e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22393704, + "step": 11436 + }, + { + "epoch": 1.5158383035122598, + "grad_norm": 0.3208957314491272, + "learning_rate": 2.4602544525231215e-06, + "loss": 0.003, + "num_input_tokens_seen": 22394752, + "step": 11437 + }, + { + "epoch": 1.5159708416169648, + "grad_norm": 0.01919209584593773, + "learning_rate": 2.459907359470444e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22396840, + "step": 11438 + }, + { + "epoch": 1.5161033797216699, + "grad_norm": 6.300719738006592, + "learning_rate": 2.4595602671907795e-06, + "loss": 0.0483, + "num_input_tokens_seen": 22398016, + "step": 11439 + }, + { + "epoch": 1.5162359178263751, + "grad_norm": 4.877910614013672, + "learning_rate": 2.4592131756908203e-06, + "loss": 0.0982, + "num_input_tokens_seen": 22399688, + "step": 11440 + }, + { + "epoch": 1.5163684559310802, + "grad_norm": 9.544331550598145, + "learning_rate": 2.4588660849772605e-06, + "loss": 0.1411, + "num_input_tokens_seen": 22401344, + "step": 11441 + }, + { + "epoch": 1.5165009940357854, + "grad_norm": 1.895017147064209, + "learning_rate": 2.4585189950567896e-06, + "loss": 0.0436, + "num_input_tokens_seen": 22403640, + "step": 11442 + }, + { + "epoch": 1.5166335321404905, + "grad_norm": 8.639747619628906, + "learning_rate": 2.4581719059361015e-06, + "loss": 0.1444, + "num_input_tokens_seen": 22404688, + "step": 11443 + }, + { + "epoch": 1.5167660702451955, + "grad_norm": 1.1425280570983887, + "learning_rate": 2.4578248176218883e-06, + "loss": 0.0084, + "num_input_tokens_seen": 22406688, + "step": 11444 + }, + { + "epoch": 1.5168986083499005, + "grad_norm": 6.7906174659729, + "learning_rate": 2.457477730120842e-06, + "loss": 0.0381, + "num_input_tokens_seen": 22408248, + "step": 11445 + }, + { + "epoch": 1.5170311464546056, + "grad_norm": 9.517753601074219, + "learning_rate": 2.4571306434396538e-06, + "loss": 0.2562, + "num_input_tokens_seen": 22410584, + "step": 11446 + }, + { + "epoch": 1.5171636845593108, + "grad_norm": 0.013001424260437489, + "learning_rate": 2.4567835575850155e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22411752, + "step": 11447 + }, + { + "epoch": 1.5172962226640159, + "grad_norm": 10.140884399414062, + "learning_rate": 2.4564364725636213e-06, + "loss": 0.1911, + "num_input_tokens_seen": 22414616, + "step": 11448 + }, + { + "epoch": 1.5174287607687211, + "grad_norm": 1.1815012693405151, + "learning_rate": 2.4560893883821615e-06, + "loss": 0.01, + "num_input_tokens_seen": 22415856, + "step": 11449 + }, + { + "epoch": 1.5175612988734262, + "grad_norm": 1.2157396078109741, + "learning_rate": 2.4557423050473293e-06, + "loss": 0.0248, + "num_input_tokens_seen": 22417336, + "step": 11450 + }, + { + "epoch": 1.5176938369781312, + "grad_norm": 7.1166510581970215, + "learning_rate": 2.4553952225658155e-06, + "loss": 0.1643, + "num_input_tokens_seen": 22418880, + "step": 11451 + }, + { + "epoch": 1.5178263750828362, + "grad_norm": 1.477338433265686, + "learning_rate": 2.455048140944313e-06, + "loss": 0.0216, + "num_input_tokens_seen": 22421344, + "step": 11452 + }, + { + "epoch": 1.5179589131875413, + "grad_norm": 4.89297342300415, + "learning_rate": 2.4547010601895118e-06, + "loss": 0.1136, + "num_input_tokens_seen": 22423656, + "step": 11453 + }, + { + "epoch": 1.5180914512922465, + "grad_norm": 7.648576736450195, + "learning_rate": 2.4543539803081066e-06, + "loss": 0.1621, + "num_input_tokens_seen": 22425856, + "step": 11454 + }, + { + "epoch": 1.5182239893969516, + "grad_norm": 7.1625590324401855, + "learning_rate": 2.454006901306788e-06, + "loss": 0.1007, + "num_input_tokens_seen": 22427728, + "step": 11455 + }, + { + "epoch": 1.5183565275016568, + "grad_norm": 11.234631538391113, + "learning_rate": 2.453659823192249e-06, + "loss": 0.1801, + "num_input_tokens_seen": 22429960, + "step": 11456 + }, + { + "epoch": 1.5184890656063619, + "grad_norm": 4.8884053230285645, + "learning_rate": 2.453312745971179e-06, + "loss": 0.0665, + "num_input_tokens_seen": 22432608, + "step": 11457 + }, + { + "epoch": 1.518621603711067, + "grad_norm": 0.7603376507759094, + "learning_rate": 2.4529656696502714e-06, + "loss": 0.0031, + "num_input_tokens_seen": 22433648, + "step": 11458 + }, + { + "epoch": 1.518754141815772, + "grad_norm": 13.671935081481934, + "learning_rate": 2.452618594236219e-06, + "loss": 0.268, + "num_input_tokens_seen": 22435272, + "step": 11459 + }, + { + "epoch": 1.518886679920477, + "grad_norm": 20.833864212036133, + "learning_rate": 2.4522715197357137e-06, + "loss": 0.5292, + "num_input_tokens_seen": 22437528, + "step": 11460 + }, + { + "epoch": 1.5190192180251822, + "grad_norm": 7.143860816955566, + "learning_rate": 2.451924446155445e-06, + "loss": 0.047, + "num_input_tokens_seen": 22439872, + "step": 11461 + }, + { + "epoch": 1.5191517561298873, + "grad_norm": 12.772725105285645, + "learning_rate": 2.451577373502107e-06, + "loss": 0.3187, + "num_input_tokens_seen": 22441984, + "step": 11462 + }, + { + "epoch": 1.5192842942345925, + "grad_norm": 5.707908630371094, + "learning_rate": 2.4512303017823896e-06, + "loss": 0.0575, + "num_input_tokens_seen": 22443760, + "step": 11463 + }, + { + "epoch": 1.5194168323392976, + "grad_norm": 11.056180953979492, + "learning_rate": 2.4508832310029857e-06, + "loss": 0.294, + "num_input_tokens_seen": 22446008, + "step": 11464 + }, + { + "epoch": 1.5195493704440026, + "grad_norm": 6.699303150177002, + "learning_rate": 2.450536161170588e-06, + "loss": 0.1604, + "num_input_tokens_seen": 22448352, + "step": 11465 + }, + { + "epoch": 1.5196819085487077, + "grad_norm": 0.10472378879785538, + "learning_rate": 2.450189092291887e-06, + "loss": 0.0007, + "num_input_tokens_seen": 22451504, + "step": 11466 + }, + { + "epoch": 1.5198144466534127, + "grad_norm": 0.6150741577148438, + "learning_rate": 2.4498420243735744e-06, + "loss": 0.0011, + "num_input_tokens_seen": 22453656, + "step": 11467 + }, + { + "epoch": 1.519946984758118, + "grad_norm": 0.3481442928314209, + "learning_rate": 2.4494949574223415e-06, + "loss": 0.0025, + "num_input_tokens_seen": 22454768, + "step": 11468 + }, + { + "epoch": 1.5200795228628232, + "grad_norm": 7.7076029777526855, + "learning_rate": 2.4491478914448818e-06, + "loss": 0.1037, + "num_input_tokens_seen": 22456544, + "step": 11469 + }, + { + "epoch": 1.5202120609675283, + "grad_norm": 3.316929578781128, + "learning_rate": 2.4488008264478848e-06, + "loss": 0.0368, + "num_input_tokens_seen": 22458456, + "step": 11470 + }, + { + "epoch": 1.5203445990722333, + "grad_norm": 0.1612437516450882, + "learning_rate": 2.4484537624380445e-06, + "loss": 0.001, + "num_input_tokens_seen": 22459920, + "step": 11471 + }, + { + "epoch": 1.5204771371769383, + "grad_norm": 3.084296464920044, + "learning_rate": 2.44810669942205e-06, + "loss": 0.0345, + "num_input_tokens_seen": 22463040, + "step": 11472 + }, + { + "epoch": 1.5206096752816434, + "grad_norm": 3.710674524307251, + "learning_rate": 2.447759637406594e-06, + "loss": 0.0274, + "num_input_tokens_seen": 22464744, + "step": 11473 + }, + { + "epoch": 1.5207422133863486, + "grad_norm": 18.078521728515625, + "learning_rate": 2.4474125763983693e-06, + "loss": 0.4338, + "num_input_tokens_seen": 22466776, + "step": 11474 + }, + { + "epoch": 1.5208747514910537, + "grad_norm": 7.830974102020264, + "learning_rate": 2.4470655164040657e-06, + "loss": 0.1839, + "num_input_tokens_seen": 22470352, + "step": 11475 + }, + { + "epoch": 1.521007289595759, + "grad_norm": 1.2614049911499023, + "learning_rate": 2.4467184574303763e-06, + "loss": 0.016, + "num_input_tokens_seen": 22471632, + "step": 11476 + }, + { + "epoch": 1.521139827700464, + "grad_norm": 7.095685005187988, + "learning_rate": 2.4463713994839913e-06, + "loss": 0.1117, + "num_input_tokens_seen": 22474816, + "step": 11477 + }, + { + "epoch": 1.521272365805169, + "grad_norm": 20.29723358154297, + "learning_rate": 2.446024342571602e-06, + "loss": 0.2885, + "num_input_tokens_seen": 22476416, + "step": 11478 + }, + { + "epoch": 1.521404903909874, + "grad_norm": 0.24325886368751526, + "learning_rate": 2.445677286699901e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22477736, + "step": 11479 + }, + { + "epoch": 1.521537442014579, + "grad_norm": 0.00675522955134511, + "learning_rate": 2.44533023187558e-06, + "loss": 0.0, + "num_input_tokens_seen": 22479208, + "step": 11480 + }, + { + "epoch": 1.5216699801192843, + "grad_norm": 7.187641143798828, + "learning_rate": 2.4449831781053295e-06, + "loss": 0.1026, + "num_input_tokens_seen": 22481136, + "step": 11481 + }, + { + "epoch": 1.5218025182239894, + "grad_norm": 2.886211395263672, + "learning_rate": 2.4446361253958413e-06, + "loss": 0.0116, + "num_input_tokens_seen": 22482368, + "step": 11482 + }, + { + "epoch": 1.5219350563286946, + "grad_norm": 12.720470428466797, + "learning_rate": 2.4442890737538073e-06, + "loss": 0.14, + "num_input_tokens_seen": 22484624, + "step": 11483 + }, + { + "epoch": 1.5220675944333997, + "grad_norm": 8.339862823486328, + "learning_rate": 2.443942023185917e-06, + "loss": 0.1009, + "num_input_tokens_seen": 22487608, + "step": 11484 + }, + { + "epoch": 1.5222001325381047, + "grad_norm": 6.182653427124023, + "learning_rate": 2.443594973698864e-06, + "loss": 0.1349, + "num_input_tokens_seen": 22489672, + "step": 11485 + }, + { + "epoch": 1.5223326706428097, + "grad_norm": 24.37546730041504, + "learning_rate": 2.443247925299339e-06, + "loss": 0.0853, + "num_input_tokens_seen": 22491096, + "step": 11486 + }, + { + "epoch": 1.5224652087475148, + "grad_norm": 7.647595405578613, + "learning_rate": 2.442900877994033e-06, + "loss": 0.1444, + "num_input_tokens_seen": 22493976, + "step": 11487 + }, + { + "epoch": 1.52259774685222, + "grad_norm": 10.800320625305176, + "learning_rate": 2.4425538317896376e-06, + "loss": 0.2408, + "num_input_tokens_seen": 22495824, + "step": 11488 + }, + { + "epoch": 1.522730284956925, + "grad_norm": 13.868978500366211, + "learning_rate": 2.4422067866928432e-06, + "loss": 0.1649, + "num_input_tokens_seen": 22497616, + "step": 11489 + }, + { + "epoch": 1.5228628230616303, + "grad_norm": 8.312049865722656, + "learning_rate": 2.4418597427103423e-06, + "loss": 0.1875, + "num_input_tokens_seen": 22499592, + "step": 11490 + }, + { + "epoch": 1.5229953611663354, + "grad_norm": 0.05519895628094673, + "learning_rate": 2.441512699848826e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22501064, + "step": 11491 + }, + { + "epoch": 1.5231278992710404, + "grad_norm": 3.442178249359131, + "learning_rate": 2.4411656581149853e-06, + "loss": 0.0179, + "num_input_tokens_seen": 22502928, + "step": 11492 + }, + { + "epoch": 1.5232604373757455, + "grad_norm": 8.075897216796875, + "learning_rate": 2.4408186175155107e-06, + "loss": 0.1547, + "num_input_tokens_seen": 22505056, + "step": 11493 + }, + { + "epoch": 1.5233929754804505, + "grad_norm": 1.9534374475479126, + "learning_rate": 2.4404715780570936e-06, + "loss": 0.0163, + "num_input_tokens_seen": 22506888, + "step": 11494 + }, + { + "epoch": 1.5235255135851558, + "grad_norm": 0.00805640872567892, + "learning_rate": 2.440124539746427e-06, + "loss": 0.0, + "num_input_tokens_seen": 22508080, + "step": 11495 + }, + { + "epoch": 1.5236580516898608, + "grad_norm": 5.63231897354126, + "learning_rate": 2.4397775025901993e-06, + "loss": 0.1749, + "num_input_tokens_seen": 22510232, + "step": 11496 + }, + { + "epoch": 1.523790589794566, + "grad_norm": 0.18145166337490082, + "learning_rate": 2.439430466595104e-06, + "loss": 0.0011, + "num_input_tokens_seen": 22512424, + "step": 11497 + }, + { + "epoch": 1.523923127899271, + "grad_norm": 13.174072265625, + "learning_rate": 2.4390834317678305e-06, + "loss": 0.252, + "num_input_tokens_seen": 22514968, + "step": 11498 + }, + { + "epoch": 1.5240556660039761, + "grad_norm": 7.739680767059326, + "learning_rate": 2.4387363981150696e-06, + "loss": 0.2095, + "num_input_tokens_seen": 22516968, + "step": 11499 + }, + { + "epoch": 1.5241882041086812, + "grad_norm": 10.621193885803223, + "learning_rate": 2.438389365643514e-06, + "loss": 0.3333, + "num_input_tokens_seen": 22518920, + "step": 11500 + }, + { + "epoch": 1.5243207422133862, + "grad_norm": 6.683601379394531, + "learning_rate": 2.4380423343598546e-06, + "loss": 0.1188, + "num_input_tokens_seen": 22520880, + "step": 11501 + }, + { + "epoch": 1.5244532803180915, + "grad_norm": 1.6892681121826172, + "learning_rate": 2.4376953042707806e-06, + "loss": 0.009, + "num_input_tokens_seen": 22522424, + "step": 11502 + }, + { + "epoch": 1.5245858184227965, + "grad_norm": 0.021394947543740273, + "learning_rate": 2.437348275382985e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22524504, + "step": 11503 + }, + { + "epoch": 1.5247183565275018, + "grad_norm": 0.08736203610897064, + "learning_rate": 2.437001247703157e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22525984, + "step": 11504 + }, + { + "epoch": 1.5248508946322068, + "grad_norm": 0.8170214295387268, + "learning_rate": 2.4366542212379885e-06, + "loss": 0.0089, + "num_input_tokens_seen": 22527560, + "step": 11505 + }, + { + "epoch": 1.5249834327369118, + "grad_norm": 7.6855645179748535, + "learning_rate": 2.4363071959941713e-06, + "loss": 0.1148, + "num_input_tokens_seen": 22528704, + "step": 11506 + }, + { + "epoch": 1.5251159708416169, + "grad_norm": 0.0020029114093631506, + "learning_rate": 2.4359601719783947e-06, + "loss": 0.0, + "num_input_tokens_seen": 22529704, + "step": 11507 + }, + { + "epoch": 1.525248508946322, + "grad_norm": 0.7428519129753113, + "learning_rate": 2.43561314919735e-06, + "loss": 0.006, + "num_input_tokens_seen": 22530992, + "step": 11508 + }, + { + "epoch": 1.5253810470510272, + "grad_norm": 5.047426223754883, + "learning_rate": 2.435266127657729e-06, + "loss": 0.1471, + "num_input_tokens_seen": 22532592, + "step": 11509 + }, + { + "epoch": 1.5255135851557324, + "grad_norm": 7.155620098114014, + "learning_rate": 2.4349191073662203e-06, + "loss": 0.1497, + "num_input_tokens_seen": 22535048, + "step": 11510 + }, + { + "epoch": 1.5256461232604375, + "grad_norm": 0.2275935411453247, + "learning_rate": 2.434572088329517e-06, + "loss": 0.0019, + "num_input_tokens_seen": 22536592, + "step": 11511 + }, + { + "epoch": 1.5257786613651425, + "grad_norm": 0.33775341510772705, + "learning_rate": 2.434225070554309e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22538424, + "step": 11512 + }, + { + "epoch": 1.5259111994698475, + "grad_norm": 12.338313102722168, + "learning_rate": 2.4338780540472872e-06, + "loss": 0.2175, + "num_input_tokens_seen": 22540288, + "step": 11513 + }, + { + "epoch": 1.5260437375745526, + "grad_norm": 3.4022042751312256, + "learning_rate": 2.4335310388151415e-06, + "loss": 0.0835, + "num_input_tokens_seen": 22542672, + "step": 11514 + }, + { + "epoch": 1.5261762756792576, + "grad_norm": 11.534870147705078, + "learning_rate": 2.433184024864563e-06, + "loss": 0.2833, + "num_input_tokens_seen": 22545552, + "step": 11515 + }, + { + "epoch": 1.5263088137839629, + "grad_norm": 0.021259797737002373, + "learning_rate": 2.4328370122022433e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22546752, + "step": 11516 + }, + { + "epoch": 1.5264413518886681, + "grad_norm": 11.607074737548828, + "learning_rate": 2.432490000834872e-06, + "loss": 0.2568, + "num_input_tokens_seen": 22549136, + "step": 11517 + }, + { + "epoch": 1.5265738899933732, + "grad_norm": 0.23991453647613525, + "learning_rate": 2.432142990769141e-06, + "loss": 0.0008, + "num_input_tokens_seen": 22550568, + "step": 11518 + }, + { + "epoch": 1.5267064280980782, + "grad_norm": 9.1854887008667, + "learning_rate": 2.431795982011739e-06, + "loss": 0.0972, + "num_input_tokens_seen": 22552448, + "step": 11519 + }, + { + "epoch": 1.5268389662027833, + "grad_norm": 5.432278156280518, + "learning_rate": 2.4314489745693566e-06, + "loss": 0.0454, + "num_input_tokens_seen": 22554016, + "step": 11520 + }, + { + "epoch": 1.5269715043074883, + "grad_norm": 7.507198333740234, + "learning_rate": 2.431101968448687e-06, + "loss": 0.0777, + "num_input_tokens_seen": 22555104, + "step": 11521 + }, + { + "epoch": 1.5271040424121936, + "grad_norm": 5.396219730377197, + "learning_rate": 2.4307549636564186e-06, + "loss": 0.0728, + "num_input_tokens_seen": 22557552, + "step": 11522 + }, + { + "epoch": 1.5272365805168986, + "grad_norm": 8.457440376281738, + "learning_rate": 2.4304079601992418e-06, + "loss": 0.2236, + "num_input_tokens_seen": 22559624, + "step": 11523 + }, + { + "epoch": 1.5273691186216038, + "grad_norm": 13.04212474822998, + "learning_rate": 2.430060958083848e-06, + "loss": 0.2716, + "num_input_tokens_seen": 22561504, + "step": 11524 + }, + { + "epoch": 1.5275016567263089, + "grad_norm": 3.1242918968200684, + "learning_rate": 2.429713957316926e-06, + "loss": 0.0547, + "num_input_tokens_seen": 22563264, + "step": 11525 + }, + { + "epoch": 1.527634194831014, + "grad_norm": 16.329011917114258, + "learning_rate": 2.4293669579051685e-06, + "loss": 0.2914, + "num_input_tokens_seen": 22565200, + "step": 11526 + }, + { + "epoch": 1.527766732935719, + "grad_norm": 8.383599281311035, + "learning_rate": 2.429019959855265e-06, + "loss": 0.0876, + "num_input_tokens_seen": 22567472, + "step": 11527 + }, + { + "epoch": 1.527899271040424, + "grad_norm": 4.4311323165893555, + "learning_rate": 2.428672963173905e-06, + "loss": 0.0401, + "num_input_tokens_seen": 22569312, + "step": 11528 + }, + { + "epoch": 1.5280318091451293, + "grad_norm": 5.711136817932129, + "learning_rate": 2.42832596786778e-06, + "loss": 0.1183, + "num_input_tokens_seen": 22572480, + "step": 11529 + }, + { + "epoch": 1.5281643472498343, + "grad_norm": 0.024878622964024544, + "learning_rate": 2.4279789739435788e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22574360, + "step": 11530 + }, + { + "epoch": 1.5282968853545396, + "grad_norm": 0.07630543410778046, + "learning_rate": 2.427631981407994e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22575928, + "step": 11531 + }, + { + "epoch": 1.5284294234592446, + "grad_norm": 0.13784672319889069, + "learning_rate": 2.4272849902677132e-06, + "loss": 0.0009, + "num_input_tokens_seen": 22577856, + "step": 11532 + }, + { + "epoch": 1.5285619615639496, + "grad_norm": 8.90227222442627, + "learning_rate": 2.4269380005294293e-06, + "loss": 0.1216, + "num_input_tokens_seen": 22579280, + "step": 11533 + }, + { + "epoch": 1.5286944996686547, + "grad_norm": 12.536809921264648, + "learning_rate": 2.42659101219983e-06, + "loss": 0.2887, + "num_input_tokens_seen": 22581808, + "step": 11534 + }, + { + "epoch": 1.5288270377733597, + "grad_norm": 5.591627597808838, + "learning_rate": 2.426244025285607e-06, + "loss": 0.1447, + "num_input_tokens_seen": 22583568, + "step": 11535 + }, + { + "epoch": 1.528959575878065, + "grad_norm": 5.494261741638184, + "learning_rate": 2.4258970397934504e-06, + "loss": 0.0464, + "num_input_tokens_seen": 22585456, + "step": 11536 + }, + { + "epoch": 1.52909211398277, + "grad_norm": 5.630473613739014, + "learning_rate": 2.42555005573005e-06, + "loss": 0.1614, + "num_input_tokens_seen": 22587216, + "step": 11537 + }, + { + "epoch": 1.5292246520874753, + "grad_norm": 2.4623281955718994, + "learning_rate": 2.4252030731020955e-06, + "loss": 0.0236, + "num_input_tokens_seen": 22588800, + "step": 11538 + }, + { + "epoch": 1.5293571901921803, + "grad_norm": 0.1985958367586136, + "learning_rate": 2.424856091916278e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22591200, + "step": 11539 + }, + { + "epoch": 1.5294897282968853, + "grad_norm": 0.015358200296759605, + "learning_rate": 2.4245091121792862e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22592600, + "step": 11540 + }, + { + "epoch": 1.5296222664015904, + "grad_norm": 7.7459259033203125, + "learning_rate": 2.4241621338978102e-06, + "loss": 0.1888, + "num_input_tokens_seen": 22595448, + "step": 11541 + }, + { + "epoch": 1.5297548045062954, + "grad_norm": 0.007106230594217777, + "learning_rate": 2.4238151570785418e-06, + "loss": 0.0, + "num_input_tokens_seen": 22596456, + "step": 11542 + }, + { + "epoch": 1.5298873426110007, + "grad_norm": 0.021753041073679924, + "learning_rate": 2.423468181728169e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22598816, + "step": 11543 + }, + { + "epoch": 1.5300198807157057, + "grad_norm": 0.044503118842840195, + "learning_rate": 2.4231212078533833e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22600976, + "step": 11544 + }, + { + "epoch": 1.530152418820411, + "grad_norm": 0.06732330471277237, + "learning_rate": 2.4227742354608737e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22602488, + "step": 11545 + }, + { + "epoch": 1.530284956925116, + "grad_norm": 12.244284629821777, + "learning_rate": 2.4224272645573287e-06, + "loss": 0.4139, + "num_input_tokens_seen": 22605520, + "step": 11546 + }, + { + "epoch": 1.530417495029821, + "grad_norm": 8.19758129119873, + "learning_rate": 2.42208029514944e-06, + "loss": 0.0717, + "num_input_tokens_seen": 22607176, + "step": 11547 + }, + { + "epoch": 1.530550033134526, + "grad_norm": 1.9976475238800049, + "learning_rate": 2.421733327243898e-06, + "loss": 0.0157, + "num_input_tokens_seen": 22609984, + "step": 11548 + }, + { + "epoch": 1.5306825712392311, + "grad_norm": 4.700127601623535, + "learning_rate": 2.4213863608473907e-06, + "loss": 0.0689, + "num_input_tokens_seen": 22611800, + "step": 11549 + }, + { + "epoch": 1.5308151093439364, + "grad_norm": 0.09441649168729782, + "learning_rate": 2.421039395966609e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22613608, + "step": 11550 + }, + { + "epoch": 1.5309476474486416, + "grad_norm": 6.115640640258789, + "learning_rate": 2.4206924326082417e-06, + "loss": 0.0963, + "num_input_tokens_seen": 22615088, + "step": 11551 + }, + { + "epoch": 1.5310801855533467, + "grad_norm": 0.23396918177604675, + "learning_rate": 2.4203454707789793e-06, + "loss": 0.0017, + "num_input_tokens_seen": 22616496, + "step": 11552 + }, + { + "epoch": 1.5312127236580517, + "grad_norm": 5.720498085021973, + "learning_rate": 2.4199985104855113e-06, + "loss": 0.1663, + "num_input_tokens_seen": 22619448, + "step": 11553 + }, + { + "epoch": 1.5313452617627568, + "grad_norm": 0.01905905455350876, + "learning_rate": 2.4196515517345275e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22621200, + "step": 11554 + }, + { + "epoch": 1.5314777998674618, + "grad_norm": 11.752032279968262, + "learning_rate": 2.4193045945327166e-06, + "loss": 0.2048, + "num_input_tokens_seen": 22623416, + "step": 11555 + }, + { + "epoch": 1.5316103379721668, + "grad_norm": 3.8344991207122803, + "learning_rate": 2.418957638886768e-06, + "loss": 0.0344, + "num_input_tokens_seen": 22625224, + "step": 11556 + }, + { + "epoch": 1.531742876076872, + "grad_norm": 0.011460091918706894, + "learning_rate": 2.4186106848033737e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22627272, + "step": 11557 + }, + { + "epoch": 1.5318754141815774, + "grad_norm": 2.23699951171875, + "learning_rate": 2.4182637322892206e-06, + "loss": 0.0361, + "num_input_tokens_seen": 22629200, + "step": 11558 + }, + { + "epoch": 1.5320079522862824, + "grad_norm": 10.898748397827148, + "learning_rate": 2.4179167813509994e-06, + "loss": 0.1935, + "num_input_tokens_seen": 22631784, + "step": 11559 + }, + { + "epoch": 1.5321404903909874, + "grad_norm": 1.1473876237869263, + "learning_rate": 2.4175698319954e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22633456, + "step": 11560 + }, + { + "epoch": 1.5322730284956925, + "grad_norm": 3.6401376724243164, + "learning_rate": 2.4172228842291096e-06, + "loss": 0.0767, + "num_input_tokens_seen": 22635888, + "step": 11561 + }, + { + "epoch": 1.5324055666003975, + "grad_norm": 6.430000305175781, + "learning_rate": 2.4168759380588195e-06, + "loss": 0.0624, + "num_input_tokens_seen": 22637480, + "step": 11562 + }, + { + "epoch": 1.5325381047051028, + "grad_norm": 0.029940148815512657, + "learning_rate": 2.4165289934912195e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22639968, + "step": 11563 + }, + { + "epoch": 1.5326706428098078, + "grad_norm": 0.03596257418394089, + "learning_rate": 2.4161820505329973e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22641952, + "step": 11564 + }, + { + "epoch": 1.532803180914513, + "grad_norm": 12.339677810668945, + "learning_rate": 2.4158351091908437e-06, + "loss": 0.3235, + "num_input_tokens_seen": 22643944, + "step": 11565 + }, + { + "epoch": 1.532935719019218, + "grad_norm": 0.09271947294473648, + "learning_rate": 2.415488169471447e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22645680, + "step": 11566 + }, + { + "epoch": 1.5330682571239231, + "grad_norm": 0.058309148997068405, + "learning_rate": 2.415141231381496e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22646880, + "step": 11567 + }, + { + "epoch": 1.5332007952286282, + "grad_norm": 8.9210205078125, + "learning_rate": 2.414794294927681e-06, + "loss": 0.0469, + "num_input_tokens_seen": 22648576, + "step": 11568 + }, + { + "epoch": 1.5333333333333332, + "grad_norm": 9.173518180847168, + "learning_rate": 2.4144473601166915e-06, + "loss": 0.2022, + "num_input_tokens_seen": 22650688, + "step": 11569 + }, + { + "epoch": 1.5334658714380385, + "grad_norm": 2.9558844566345215, + "learning_rate": 2.414100426955215e-06, + "loss": 0.0529, + "num_input_tokens_seen": 22652552, + "step": 11570 + }, + { + "epoch": 1.5335984095427435, + "grad_norm": 3.058595895767212, + "learning_rate": 2.4137534954499427e-06, + "loss": 0.0297, + "num_input_tokens_seen": 22654136, + "step": 11571 + }, + { + "epoch": 1.5337309476474488, + "grad_norm": 32.69734191894531, + "learning_rate": 2.4134065656075607e-06, + "loss": 0.414, + "num_input_tokens_seen": 22655656, + "step": 11572 + }, + { + "epoch": 1.5338634857521538, + "grad_norm": 0.014726991765201092, + "learning_rate": 2.4130596374347607e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22657776, + "step": 11573 + }, + { + "epoch": 1.5339960238568588, + "grad_norm": 6.930245876312256, + "learning_rate": 2.4127127109382317e-06, + "loss": 0.1745, + "num_input_tokens_seen": 22659576, + "step": 11574 + }, + { + "epoch": 1.5341285619615639, + "grad_norm": 0.002220445079728961, + "learning_rate": 2.4123657861246614e-06, + "loss": 0.0, + "num_input_tokens_seen": 22660840, + "step": 11575 + }, + { + "epoch": 1.534261100066269, + "grad_norm": 9.52695369720459, + "learning_rate": 2.4120188630007385e-06, + "loss": 0.1791, + "num_input_tokens_seen": 22662512, + "step": 11576 + }, + { + "epoch": 1.5343936381709742, + "grad_norm": 5.009772300720215, + "learning_rate": 2.4116719415731524e-06, + "loss": 0.1079, + "num_input_tokens_seen": 22664344, + "step": 11577 + }, + { + "epoch": 1.5345261762756792, + "grad_norm": 8.084025382995605, + "learning_rate": 2.4113250218485933e-06, + "loss": 0.1634, + "num_input_tokens_seen": 22666312, + "step": 11578 + }, + { + "epoch": 1.5346587143803845, + "grad_norm": 11.554540634155273, + "learning_rate": 2.4109781038337487e-06, + "loss": 0.1441, + "num_input_tokens_seen": 22668240, + "step": 11579 + }, + { + "epoch": 1.5347912524850895, + "grad_norm": 9.741320610046387, + "learning_rate": 2.4106311875353075e-06, + "loss": 0.1973, + "num_input_tokens_seen": 22670096, + "step": 11580 + }, + { + "epoch": 1.5349237905897946, + "grad_norm": 9.415050506591797, + "learning_rate": 2.4102842729599587e-06, + "loss": 0.144, + "num_input_tokens_seen": 22671520, + "step": 11581 + }, + { + "epoch": 1.5350563286944996, + "grad_norm": 8.422316551208496, + "learning_rate": 2.40993736011439e-06, + "loss": 0.0912, + "num_input_tokens_seen": 22673424, + "step": 11582 + }, + { + "epoch": 1.5351888667992046, + "grad_norm": 9.129530906677246, + "learning_rate": 2.409590449005293e-06, + "loss": 0.0701, + "num_input_tokens_seen": 22675176, + "step": 11583 + }, + { + "epoch": 1.53532140490391, + "grad_norm": 13.418356895446777, + "learning_rate": 2.4092435396393534e-06, + "loss": 0.2364, + "num_input_tokens_seen": 22676664, + "step": 11584 + }, + { + "epoch": 1.535453943008615, + "grad_norm": 2.6037704944610596, + "learning_rate": 2.4088966320232608e-06, + "loss": 0.0426, + "num_input_tokens_seen": 22678632, + "step": 11585 + }, + { + "epoch": 1.5355864811133202, + "grad_norm": 16.049972534179688, + "learning_rate": 2.408549726163705e-06, + "loss": 0.253, + "num_input_tokens_seen": 22680784, + "step": 11586 + }, + { + "epoch": 1.5357190192180252, + "grad_norm": 0.08646835386753082, + "learning_rate": 2.408202822067372e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22682856, + "step": 11587 + }, + { + "epoch": 1.5358515573227303, + "grad_norm": 5.785270690917969, + "learning_rate": 2.407855919740953e-06, + "loss": 0.1299, + "num_input_tokens_seen": 22684280, + "step": 11588 + }, + { + "epoch": 1.5359840954274353, + "grad_norm": 3.449090003967285, + "learning_rate": 2.4075090191911356e-06, + "loss": 0.0347, + "num_input_tokens_seen": 22685984, + "step": 11589 + }, + { + "epoch": 1.5361166335321403, + "grad_norm": 0.15381969511508942, + "learning_rate": 2.407162120424608e-06, + "loss": 0.0007, + "num_input_tokens_seen": 22687712, + "step": 11590 + }, + { + "epoch": 1.5362491716368456, + "grad_norm": 5.978672504425049, + "learning_rate": 2.4068152234480587e-06, + "loss": 0.1444, + "num_input_tokens_seen": 22689744, + "step": 11591 + }, + { + "epoch": 1.5363817097415509, + "grad_norm": 0.07744533568620682, + "learning_rate": 2.406468328268175e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22691632, + "step": 11592 + }, + { + "epoch": 1.536514247846256, + "grad_norm": 2.2990314960479736, + "learning_rate": 2.406121434891648e-06, + "loss": 0.0851, + "num_input_tokens_seen": 22693552, + "step": 11593 + }, + { + "epoch": 1.536646785950961, + "grad_norm": 7.156403064727783, + "learning_rate": 2.4057745433251637e-06, + "loss": 0.2251, + "num_input_tokens_seen": 22695720, + "step": 11594 + }, + { + "epoch": 1.536779324055666, + "grad_norm": 2.482516288757324, + "learning_rate": 2.405427653575412e-06, + "loss": 0.052, + "num_input_tokens_seen": 22697368, + "step": 11595 + }, + { + "epoch": 1.536911862160371, + "grad_norm": 14.224454879760742, + "learning_rate": 2.4050807656490797e-06, + "loss": 0.1454, + "num_input_tokens_seen": 22699456, + "step": 11596 + }, + { + "epoch": 1.537044400265076, + "grad_norm": 4.463079452514648, + "learning_rate": 2.4047338795528565e-06, + "loss": 0.0806, + "num_input_tokens_seen": 22702504, + "step": 11597 + }, + { + "epoch": 1.5371769383697813, + "grad_norm": 0.7017115950584412, + "learning_rate": 2.404386995293428e-06, + "loss": 0.0035, + "num_input_tokens_seen": 22703976, + "step": 11598 + }, + { + "epoch": 1.5373094764744866, + "grad_norm": 0.037335388362407684, + "learning_rate": 2.404040112877486e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22705288, + "step": 11599 + }, + { + "epoch": 1.5374420145791916, + "grad_norm": 0.09657034277915955, + "learning_rate": 2.403693232311716e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22707416, + "step": 11600 + }, + { + "epoch": 1.5375745526838966, + "grad_norm": 1.8468842506408691, + "learning_rate": 2.4033463536028078e-06, + "loss": 0.0076, + "num_input_tokens_seen": 22709400, + "step": 11601 + }, + { + "epoch": 1.5377070907886017, + "grad_norm": 11.107010841369629, + "learning_rate": 2.4029994767574473e-06, + "loss": 0.2856, + "num_input_tokens_seen": 22711712, + "step": 11602 + }, + { + "epoch": 1.5378396288933067, + "grad_norm": 0.019703494384884834, + "learning_rate": 2.402652601782324e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22714296, + "step": 11603 + }, + { + "epoch": 1.537972166998012, + "grad_norm": 4.242217540740967, + "learning_rate": 2.4023057286841264e-06, + "loss": 0.0143, + "num_input_tokens_seen": 22716440, + "step": 11604 + }, + { + "epoch": 1.538104705102717, + "grad_norm": 0.0658925473690033, + "learning_rate": 2.401958857469542e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22717744, + "step": 11605 + }, + { + "epoch": 1.5382372432074223, + "grad_norm": 4.9633893966674805, + "learning_rate": 2.4016119881452576e-06, + "loss": 0.035, + "num_input_tokens_seen": 22719968, + "step": 11606 + }, + { + "epoch": 1.5383697813121273, + "grad_norm": 7.452939033508301, + "learning_rate": 2.401265120717963e-06, + "loss": 0.1678, + "num_input_tokens_seen": 22721384, + "step": 11607 + }, + { + "epoch": 1.5385023194168324, + "grad_norm": 1.522218108177185, + "learning_rate": 2.4009182551943432e-06, + "loss": 0.0062, + "num_input_tokens_seen": 22723912, + "step": 11608 + }, + { + "epoch": 1.5386348575215374, + "grad_norm": 0.11837451905012131, + "learning_rate": 2.4005713915810888e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22725808, + "step": 11609 + }, + { + "epoch": 1.5387673956262424, + "grad_norm": 6.951574325561523, + "learning_rate": 2.400224529884887e-06, + "loss": 0.2079, + "num_input_tokens_seen": 22727592, + "step": 11610 + }, + { + "epoch": 1.5388999337309477, + "grad_norm": 0.06466217339038849, + "learning_rate": 2.3998776701124243e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22730048, + "step": 11611 + }, + { + "epoch": 1.5390324718356527, + "grad_norm": 17.191783905029297, + "learning_rate": 2.39953081227039e-06, + "loss": 0.1756, + "num_input_tokens_seen": 22732816, + "step": 11612 + }, + { + "epoch": 1.539165009940358, + "grad_norm": 0.0008452195324935019, + "learning_rate": 2.3991839563654702e-06, + "loss": 0.0, + "num_input_tokens_seen": 22734176, + "step": 11613 + }, + { + "epoch": 1.539297548045063, + "grad_norm": 9.631402015686035, + "learning_rate": 2.398837102404354e-06, + "loss": 0.1509, + "num_input_tokens_seen": 22736464, + "step": 11614 + }, + { + "epoch": 1.539430086149768, + "grad_norm": 0.023336652666330338, + "learning_rate": 2.3984902503937276e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22738288, + "step": 11615 + }, + { + "epoch": 1.539562624254473, + "grad_norm": 1.3398380279541016, + "learning_rate": 2.3981434003402797e-06, + "loss": 0.0112, + "num_input_tokens_seen": 22739800, + "step": 11616 + }, + { + "epoch": 1.5396951623591781, + "grad_norm": 8.471689224243164, + "learning_rate": 2.3977965522506967e-06, + "loss": 0.2433, + "num_input_tokens_seen": 22741392, + "step": 11617 + }, + { + "epoch": 1.5398277004638834, + "grad_norm": 0.0248655304312706, + "learning_rate": 2.3974497061316664e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22743144, + "step": 11618 + }, + { + "epoch": 1.5399602385685884, + "grad_norm": 8.336241722106934, + "learning_rate": 2.397102861989878e-06, + "loss": 0.1343, + "num_input_tokens_seen": 22744688, + "step": 11619 + }, + { + "epoch": 1.5400927766732937, + "grad_norm": 4.331550121307373, + "learning_rate": 2.396756019832016e-06, + "loss": 0.0218, + "num_input_tokens_seen": 22746504, + "step": 11620 + }, + { + "epoch": 1.5402253147779987, + "grad_norm": 5.52543306350708, + "learning_rate": 2.3964091796647705e-06, + "loss": 0.1194, + "num_input_tokens_seen": 22748088, + "step": 11621 + }, + { + "epoch": 1.5403578528827038, + "grad_norm": 3.9056236743927, + "learning_rate": 2.396062341494827e-06, + "loss": 0.0882, + "num_input_tokens_seen": 22749832, + "step": 11622 + }, + { + "epoch": 1.5404903909874088, + "grad_norm": 5.999610424041748, + "learning_rate": 2.3957155053288724e-06, + "loss": 0.0817, + "num_input_tokens_seen": 22751384, + "step": 11623 + }, + { + "epoch": 1.5406229290921138, + "grad_norm": 4.145784854888916, + "learning_rate": 2.395368671173595e-06, + "loss": 0.0633, + "num_input_tokens_seen": 22753808, + "step": 11624 + }, + { + "epoch": 1.540755467196819, + "grad_norm": 5.507304668426514, + "learning_rate": 2.3950218390356826e-06, + "loss": 0.0597, + "num_input_tokens_seen": 22756864, + "step": 11625 + }, + { + "epoch": 1.5408880053015241, + "grad_norm": 5.125180721282959, + "learning_rate": 2.394675008921821e-06, + "loss": 0.1665, + "num_input_tokens_seen": 22759200, + "step": 11626 + }, + { + "epoch": 1.5410205434062294, + "grad_norm": 0.09268554300069809, + "learning_rate": 2.3943281808386984e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22760480, + "step": 11627 + }, + { + "epoch": 1.5411530815109344, + "grad_norm": 0.01375078596174717, + "learning_rate": 2.3939813547930013e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22763176, + "step": 11628 + }, + { + "epoch": 1.5412856196156395, + "grad_norm": 3.6710283756256104, + "learning_rate": 2.393634530791416e-06, + "loss": 0.0536, + "num_input_tokens_seen": 22765472, + "step": 11629 + }, + { + "epoch": 1.5414181577203445, + "grad_norm": 0.0025124638341367245, + "learning_rate": 2.3932877088406306e-06, + "loss": 0.0, + "num_input_tokens_seen": 22766672, + "step": 11630 + }, + { + "epoch": 1.5415506958250496, + "grad_norm": 5.217998504638672, + "learning_rate": 2.3929408889473323e-06, + "loss": 0.1543, + "num_input_tokens_seen": 22768872, + "step": 11631 + }, + { + "epoch": 1.5416832339297548, + "grad_norm": 0.700996994972229, + "learning_rate": 2.3925940711182072e-06, + "loss": 0.0029, + "num_input_tokens_seen": 22771880, + "step": 11632 + }, + { + "epoch": 1.5418157720344599, + "grad_norm": 0.022334029898047447, + "learning_rate": 2.392247255359943e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22773624, + "step": 11633 + }, + { + "epoch": 1.5419483101391651, + "grad_norm": 8.716713905334473, + "learning_rate": 2.391900441679225e-06, + "loss": 0.2371, + "num_input_tokens_seen": 22775720, + "step": 11634 + }, + { + "epoch": 1.5420808482438702, + "grad_norm": 13.455893516540527, + "learning_rate": 2.3915536300827414e-06, + "loss": 0.261, + "num_input_tokens_seen": 22777528, + "step": 11635 + }, + { + "epoch": 1.5422133863485752, + "grad_norm": 1.5254008769989014, + "learning_rate": 2.3912068205771795e-06, + "loss": 0.0425, + "num_input_tokens_seen": 22779312, + "step": 11636 + }, + { + "epoch": 1.5423459244532802, + "grad_norm": 10.9517822265625, + "learning_rate": 2.390860013169225e-06, + "loss": 0.1086, + "num_input_tokens_seen": 22780848, + "step": 11637 + }, + { + "epoch": 1.5424784625579853, + "grad_norm": 5.070095062255859, + "learning_rate": 2.390513207865564e-06, + "loss": 0.1246, + "num_input_tokens_seen": 22782624, + "step": 11638 + }, + { + "epoch": 1.5426110006626905, + "grad_norm": 4.699265480041504, + "learning_rate": 2.390166404672883e-06, + "loss": 0.05, + "num_input_tokens_seen": 22784496, + "step": 11639 + }, + { + "epoch": 1.5427435387673958, + "grad_norm": 0.004969986155629158, + "learning_rate": 2.3898196035978715e-06, + "loss": 0.0, + "num_input_tokens_seen": 22786216, + "step": 11640 + }, + { + "epoch": 1.5428760768721008, + "grad_norm": 6.936388969421387, + "learning_rate": 2.389472804647213e-06, + "loss": 0.319, + "num_input_tokens_seen": 22788304, + "step": 11641 + }, + { + "epoch": 1.5430086149768059, + "grad_norm": 5.080018043518066, + "learning_rate": 2.3891260078275954e-06, + "loss": 0.0752, + "num_input_tokens_seen": 22791120, + "step": 11642 + }, + { + "epoch": 1.543141153081511, + "grad_norm": 6.296807765960693, + "learning_rate": 2.388779213145705e-06, + "loss": 0.0812, + "num_input_tokens_seen": 22792584, + "step": 11643 + }, + { + "epoch": 1.543273691186216, + "grad_norm": 2.7061445713043213, + "learning_rate": 2.3884324206082274e-06, + "loss": 0.0492, + "num_input_tokens_seen": 22794072, + "step": 11644 + }, + { + "epoch": 1.5434062292909212, + "grad_norm": 0.013041294179856777, + "learning_rate": 2.38808563022185e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22795408, + "step": 11645 + }, + { + "epoch": 1.5435387673956262, + "grad_norm": 12.966225624084473, + "learning_rate": 2.3877388419932594e-06, + "loss": 0.1733, + "num_input_tokens_seen": 22797192, + "step": 11646 + }, + { + "epoch": 1.5436713055003315, + "grad_norm": 0.03698479384183884, + "learning_rate": 2.387392055929141e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22798240, + "step": 11647 + }, + { + "epoch": 1.5438038436050365, + "grad_norm": 0.4972839653491974, + "learning_rate": 2.3870452720361815e-06, + "loss": 0.0038, + "num_input_tokens_seen": 22799960, + "step": 11648 + }, + { + "epoch": 1.5439363817097416, + "grad_norm": 0.0447104349732399, + "learning_rate": 2.3866984903210663e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22801488, + "step": 11649 + }, + { + "epoch": 1.5440689198144466, + "grad_norm": 1.4432384967803955, + "learning_rate": 2.386351710790483e-06, + "loss": 0.0136, + "num_input_tokens_seen": 22803632, + "step": 11650 + }, + { + "epoch": 1.5442014579191516, + "grad_norm": 1.0031282901763916, + "learning_rate": 2.386004933451117e-06, + "loss": 0.0083, + "num_input_tokens_seen": 22805000, + "step": 11651 + }, + { + "epoch": 1.544333996023857, + "grad_norm": 9.571556091308594, + "learning_rate": 2.3856581583096557e-06, + "loss": 0.2114, + "num_input_tokens_seen": 22807920, + "step": 11652 + }, + { + "epoch": 1.544466534128562, + "grad_norm": 6.322209358215332, + "learning_rate": 2.3853113853727825e-06, + "loss": 0.1103, + "num_input_tokens_seen": 22809584, + "step": 11653 + }, + { + "epoch": 1.5445990722332672, + "grad_norm": 7.201266288757324, + "learning_rate": 2.384964614647186e-06, + "loss": 0.158, + "num_input_tokens_seen": 22811496, + "step": 11654 + }, + { + "epoch": 1.5447316103379722, + "grad_norm": 8.91861629486084, + "learning_rate": 2.3846178461395497e-06, + "loss": 0.2733, + "num_input_tokens_seen": 22813648, + "step": 11655 + }, + { + "epoch": 1.5448641484426773, + "grad_norm": 7.845762729644775, + "learning_rate": 2.3842710798565616e-06, + "loss": 0.2225, + "num_input_tokens_seen": 22815704, + "step": 11656 + }, + { + "epoch": 1.5449966865473823, + "grad_norm": 0.5984724760055542, + "learning_rate": 2.3839243158049074e-06, + "loss": 0.0018, + "num_input_tokens_seen": 22817936, + "step": 11657 + }, + { + "epoch": 1.5451292246520874, + "grad_norm": 0.3342927098274231, + "learning_rate": 2.3835775539912726e-06, + "loss": 0.0021, + "num_input_tokens_seen": 22819808, + "step": 11658 + }, + { + "epoch": 1.5452617627567926, + "grad_norm": 8.167765617370605, + "learning_rate": 2.383230794422342e-06, + "loss": 0.2535, + "num_input_tokens_seen": 22821808, + "step": 11659 + }, + { + "epoch": 1.5453943008614976, + "grad_norm": 7.889893531799316, + "learning_rate": 2.3828840371048022e-06, + "loss": 0.0531, + "num_input_tokens_seen": 22823440, + "step": 11660 + }, + { + "epoch": 1.545526838966203, + "grad_norm": 2.6872446537017822, + "learning_rate": 2.3825372820453395e-06, + "loss": 0.0295, + "num_input_tokens_seen": 22824768, + "step": 11661 + }, + { + "epoch": 1.545659377070908, + "grad_norm": 3.2457728385925293, + "learning_rate": 2.382190529250639e-06, + "loss": 0.0355, + "num_input_tokens_seen": 22826880, + "step": 11662 + }, + { + "epoch": 1.545791915175613, + "grad_norm": 4.213348388671875, + "learning_rate": 2.381843778727386e-06, + "loss": 0.0469, + "num_input_tokens_seen": 22828952, + "step": 11663 + }, + { + "epoch": 1.545924453280318, + "grad_norm": 0.07602731138467789, + "learning_rate": 2.3814970304822667e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22831840, + "step": 11664 + }, + { + "epoch": 1.546056991385023, + "grad_norm": 6.952153205871582, + "learning_rate": 2.3811502845219657e-06, + "loss": 0.0725, + "num_input_tokens_seen": 22833960, + "step": 11665 + }, + { + "epoch": 1.5461895294897283, + "grad_norm": 6.129274845123291, + "learning_rate": 2.3808035408531704e-06, + "loss": 0.2096, + "num_input_tokens_seen": 22836168, + "step": 11666 + }, + { + "epoch": 1.5463220675944334, + "grad_norm": 0.009145737625658512, + "learning_rate": 2.380456799482565e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22837872, + "step": 11667 + }, + { + "epoch": 1.5464546056991386, + "grad_norm": 3.4855196475982666, + "learning_rate": 2.3801100604168346e-06, + "loss": 0.0832, + "num_input_tokens_seen": 22839872, + "step": 11668 + }, + { + "epoch": 1.5465871438038437, + "grad_norm": 7.353240966796875, + "learning_rate": 2.3797633236626653e-06, + "loss": 0.0907, + "num_input_tokens_seen": 22841376, + "step": 11669 + }, + { + "epoch": 1.5467196819085487, + "grad_norm": 6.336739540100098, + "learning_rate": 2.379416589226741e-06, + "loss": 0.091, + "num_input_tokens_seen": 22843968, + "step": 11670 + }, + { + "epoch": 1.5468522200132537, + "grad_norm": 7.328383445739746, + "learning_rate": 2.379069857115749e-06, + "loss": 0.1129, + "num_input_tokens_seen": 22845600, + "step": 11671 + }, + { + "epoch": 1.5469847581179588, + "grad_norm": 4.484687328338623, + "learning_rate": 2.3787231273363732e-06, + "loss": 0.0332, + "num_input_tokens_seen": 22848136, + "step": 11672 + }, + { + "epoch": 1.547117296222664, + "grad_norm": 2.0273196697235107, + "learning_rate": 2.378376399895299e-06, + "loss": 0.0088, + "num_input_tokens_seen": 22850448, + "step": 11673 + }, + { + "epoch": 1.547249834327369, + "grad_norm": 0.05740797147154808, + "learning_rate": 2.3780296747992122e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22852600, + "step": 11674 + }, + { + "epoch": 1.5473823724320743, + "grad_norm": 9.62387752532959, + "learning_rate": 2.377682952054797e-06, + "loss": 0.1257, + "num_input_tokens_seen": 22854600, + "step": 11675 + }, + { + "epoch": 1.5475149105367794, + "grad_norm": 6.483031272888184, + "learning_rate": 2.377336231668739e-06, + "loss": 0.2746, + "num_input_tokens_seen": 22856336, + "step": 11676 + }, + { + "epoch": 1.5476474486414844, + "grad_norm": 2.4936413764953613, + "learning_rate": 2.3769895136477234e-06, + "loss": 0.0467, + "num_input_tokens_seen": 22858080, + "step": 11677 + }, + { + "epoch": 1.5477799867461894, + "grad_norm": 0.14681215584278107, + "learning_rate": 2.3766427979984345e-06, + "loss": 0.0006, + "num_input_tokens_seen": 22860856, + "step": 11678 + }, + { + "epoch": 1.5479125248508945, + "grad_norm": 7.2523016929626465, + "learning_rate": 2.376296084727558e-06, + "loss": 0.2218, + "num_input_tokens_seen": 22862856, + "step": 11679 + }, + { + "epoch": 1.5480450629555997, + "grad_norm": 9.062152862548828, + "learning_rate": 2.375949373841777e-06, + "loss": 0.2012, + "num_input_tokens_seen": 22865264, + "step": 11680 + }, + { + "epoch": 1.548177601060305, + "grad_norm": 8.32116985321045, + "learning_rate": 2.375602665347779e-06, + "loss": 0.0319, + "num_input_tokens_seen": 22866816, + "step": 11681 + }, + { + "epoch": 1.54831013916501, + "grad_norm": 16.30388641357422, + "learning_rate": 2.3752559592522476e-06, + "loss": 0.4519, + "num_input_tokens_seen": 22869192, + "step": 11682 + }, + { + "epoch": 1.548442677269715, + "grad_norm": 15.974126815795898, + "learning_rate": 2.3749092555618663e-06, + "loss": 0.2502, + "num_input_tokens_seen": 22870864, + "step": 11683 + }, + { + "epoch": 1.54857521537442, + "grad_norm": 0.12354584038257599, + "learning_rate": 2.374562554283322e-06, + "loss": 0.0005, + "num_input_tokens_seen": 22872176, + "step": 11684 + }, + { + "epoch": 1.5487077534791251, + "grad_norm": 0.011220953427255154, + "learning_rate": 2.374215855423297e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22875008, + "step": 11685 + }, + { + "epoch": 1.5488402915838302, + "grad_norm": 0.06803762167692184, + "learning_rate": 2.3738691589884773e-06, + "loss": 0.0004, + "num_input_tokens_seen": 22876488, + "step": 11686 + }, + { + "epoch": 1.5489728296885354, + "grad_norm": 1.0669276714324951, + "learning_rate": 2.373522464985548e-06, + "loss": 0.0117, + "num_input_tokens_seen": 22878344, + "step": 11687 + }, + { + "epoch": 1.5491053677932407, + "grad_norm": 0.011777970008552074, + "learning_rate": 2.3731757734211923e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22880008, + "step": 11688 + }, + { + "epoch": 1.5492379058979457, + "grad_norm": 0.03759561479091644, + "learning_rate": 2.3728290843020956e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22881480, + "step": 11689 + }, + { + "epoch": 1.5493704440026508, + "grad_norm": 7.132319450378418, + "learning_rate": 2.3724823976349415e-06, + "loss": 0.1799, + "num_input_tokens_seen": 22884288, + "step": 11690 + }, + { + "epoch": 1.5495029821073558, + "grad_norm": 12.136001586914062, + "learning_rate": 2.3721357134264146e-06, + "loss": 0.0529, + "num_input_tokens_seen": 22885648, + "step": 11691 + }, + { + "epoch": 1.5496355202120609, + "grad_norm": 2.5058939456939697, + "learning_rate": 2.371789031683199e-06, + "loss": 0.0238, + "num_input_tokens_seen": 22887920, + "step": 11692 + }, + { + "epoch": 1.5497680583167661, + "grad_norm": 9.547260284423828, + "learning_rate": 2.3714423524119805e-06, + "loss": 0.3117, + "num_input_tokens_seen": 22890464, + "step": 11693 + }, + { + "epoch": 1.5499005964214712, + "grad_norm": 9.446438789367676, + "learning_rate": 2.3710956756194413e-06, + "loss": 0.2493, + "num_input_tokens_seen": 22892624, + "step": 11694 + }, + { + "epoch": 1.5500331345261764, + "grad_norm": 3.51804780960083, + "learning_rate": 2.370749001312267e-06, + "loss": 0.0665, + "num_input_tokens_seen": 22893944, + "step": 11695 + }, + { + "epoch": 1.5501656726308815, + "grad_norm": 12.27486801147461, + "learning_rate": 2.37040232949714e-06, + "loss": 0.2455, + "num_input_tokens_seen": 22896416, + "step": 11696 + }, + { + "epoch": 1.5502982107355865, + "grad_norm": 0.02395310066640377, + "learning_rate": 2.3700556601807463e-06, + "loss": 0.0002, + "num_input_tokens_seen": 22898392, + "step": 11697 + }, + { + "epoch": 1.5504307488402915, + "grad_norm": 0.013616015203297138, + "learning_rate": 2.369708993369769e-06, + "loss": 0.0001, + "num_input_tokens_seen": 22899992, + "step": 11698 + }, + { + "epoch": 1.5505632869449966, + "grad_norm": 9.419471740722656, + "learning_rate": 2.3693623290708926e-06, + "loss": 0.1168, + "num_input_tokens_seen": 22901832, + "step": 11699 + }, + { + "epoch": 1.5506958250497018, + "grad_norm": 3.9283926486968994, + "learning_rate": 2.3690156672908003e-06, + "loss": 0.0413, + "num_input_tokens_seen": 22903344, + "step": 11700 + }, + { + "epoch": 1.5508283631544069, + "grad_norm": 6.461010932922363, + "learning_rate": 2.368669008036175e-06, + "loss": 0.1308, + "num_input_tokens_seen": 22905000, + "step": 11701 + }, + { + "epoch": 1.5509609012591121, + "grad_norm": 8.997200965881348, + "learning_rate": 2.368322351313704e-06, + "loss": 0.2779, + "num_input_tokens_seen": 22907016, + "step": 11702 + }, + { + "epoch": 1.5510934393638172, + "grad_norm": 5.607660293579102, + "learning_rate": 2.3679756971300673e-06, + "loss": 0.0737, + "num_input_tokens_seen": 22909264, + "step": 11703 + }, + { + "epoch": 1.5512259774685222, + "grad_norm": 1.3159074783325195, + "learning_rate": 2.3676290454919515e-06, + "loss": 0.0063, + "num_input_tokens_seen": 22911088, + "step": 11704 + }, + { + "epoch": 1.5513585155732272, + "grad_norm": 6.545577049255371, + "learning_rate": 2.3672823964060387e-06, + "loss": 0.1858, + "num_input_tokens_seen": 22913120, + "step": 11705 + }, + { + "epoch": 1.5514910536779323, + "grad_norm": 11.555002212524414, + "learning_rate": 2.366935749879012e-06, + "loss": 0.2645, + "num_input_tokens_seen": 22914472, + "step": 11706 + }, + { + "epoch": 1.5516235917826375, + "grad_norm": 4.435707092285156, + "learning_rate": 2.366589105917556e-06, + "loss": 0.0619, + "num_input_tokens_seen": 22915984, + "step": 11707 + }, + { + "epoch": 1.5517561298873426, + "grad_norm": 10.366458892822266, + "learning_rate": 2.366242464528355e-06, + "loss": 0.2164, + "num_input_tokens_seen": 22918848, + "step": 11708 + }, + { + "epoch": 1.5518886679920478, + "grad_norm": 6.799312591552734, + "learning_rate": 2.365895825718091e-06, + "loss": 0.1911, + "num_input_tokens_seen": 22921504, + "step": 11709 + }, + { + "epoch": 1.5520212060967529, + "grad_norm": 16.173952102661133, + "learning_rate": 2.3655491894934484e-06, + "loss": 0.0655, + "num_input_tokens_seen": 22923520, + "step": 11710 + }, + { + "epoch": 1.552153744201458, + "grad_norm": 5.98959493637085, + "learning_rate": 2.3652025558611097e-06, + "loss": 0.0686, + "num_input_tokens_seen": 22925544, + "step": 11711 + }, + { + "epoch": 1.552286282306163, + "grad_norm": 0.2014966607093811, + "learning_rate": 2.3648559248277585e-06, + "loss": 0.002, + "num_input_tokens_seen": 22927336, + "step": 11712 + }, + { + "epoch": 1.552418820410868, + "grad_norm": 6.154041290283203, + "learning_rate": 2.3645092964000785e-06, + "loss": 0.0415, + "num_input_tokens_seen": 22929864, + "step": 11713 + }, + { + "epoch": 1.5525513585155732, + "grad_norm": 5.471816539764404, + "learning_rate": 2.3641626705847535e-06, + "loss": 0.1061, + "num_input_tokens_seen": 22931864, + "step": 11714 + }, + { + "epoch": 1.5526838966202783, + "grad_norm": 6.523082733154297, + "learning_rate": 2.363816047388465e-06, + "loss": 0.0851, + "num_input_tokens_seen": 22933944, + "step": 11715 + }, + { + "epoch": 1.5528164347249835, + "grad_norm": 2.2643446922302246, + "learning_rate": 2.3634694268178977e-06, + "loss": 0.0338, + "num_input_tokens_seen": 22936000, + "step": 11716 + }, + { + "epoch": 1.5529489728296886, + "grad_norm": 6.2633442878723145, + "learning_rate": 2.3631228088797327e-06, + "loss": 0.1522, + "num_input_tokens_seen": 22937520, + "step": 11717 + }, + { + "epoch": 1.5530815109343936, + "grad_norm": 0.15778692066669464, + "learning_rate": 2.3627761935806555e-06, + "loss": 0.0011, + "num_input_tokens_seen": 22938600, + "step": 11718 + }, + { + "epoch": 1.5532140490390987, + "grad_norm": 7.601447105407715, + "learning_rate": 2.362429580927348e-06, + "loss": 0.2649, + "num_input_tokens_seen": 22941072, + "step": 11719 + }, + { + "epoch": 1.5533465871438037, + "grad_norm": 0.777221143245697, + "learning_rate": 2.362082970926493e-06, + "loss": 0.0036, + "num_input_tokens_seen": 22943856, + "step": 11720 + }, + { + "epoch": 1.553479125248509, + "grad_norm": 3.7049474716186523, + "learning_rate": 2.361736363584774e-06, + "loss": 0.0368, + "num_input_tokens_seen": 22945808, + "step": 11721 + }, + { + "epoch": 1.5536116633532142, + "grad_norm": 10.061142921447754, + "learning_rate": 2.3613897589088717e-06, + "loss": 0.2484, + "num_input_tokens_seen": 22947736, + "step": 11722 + }, + { + "epoch": 1.5537442014579192, + "grad_norm": 12.228292465209961, + "learning_rate": 2.3610431569054716e-06, + "loss": 0.2504, + "num_input_tokens_seen": 22950312, + "step": 11723 + }, + { + "epoch": 1.5538767395626243, + "grad_norm": 0.1607706993818283, + "learning_rate": 2.360696557581255e-06, + "loss": 0.0012, + "num_input_tokens_seen": 22951976, + "step": 11724 + }, + { + "epoch": 1.5540092776673293, + "grad_norm": 3.754638910293579, + "learning_rate": 2.3603499609429053e-06, + "loss": 0.0489, + "num_input_tokens_seen": 22954912, + "step": 11725 + }, + { + "epoch": 1.5541418157720344, + "grad_norm": 4.418231964111328, + "learning_rate": 2.3600033669971043e-06, + "loss": 0.0515, + "num_input_tokens_seen": 22957496, + "step": 11726 + }, + { + "epoch": 1.5542743538767394, + "grad_norm": 3.307616710662842, + "learning_rate": 2.3596567757505343e-06, + "loss": 0.0322, + "num_input_tokens_seen": 22960120, + "step": 11727 + }, + { + "epoch": 1.5544068919814447, + "grad_norm": 10.511303901672363, + "learning_rate": 2.3593101872098797e-06, + "loss": 0.164, + "num_input_tokens_seen": 22962712, + "step": 11728 + }, + { + "epoch": 1.55453943008615, + "grad_norm": 6.065456390380859, + "learning_rate": 2.3589636013818215e-06, + "loss": 0.1166, + "num_input_tokens_seen": 22964624, + "step": 11729 + }, + { + "epoch": 1.554671968190855, + "grad_norm": 6.678621292114258, + "learning_rate": 2.3586170182730418e-06, + "loss": 0.1637, + "num_input_tokens_seen": 22966064, + "step": 11730 + }, + { + "epoch": 1.55480450629556, + "grad_norm": 5.360035419464111, + "learning_rate": 2.358270437890224e-06, + "loss": 0.078, + "num_input_tokens_seen": 22969080, + "step": 11731 + }, + { + "epoch": 1.554937044400265, + "grad_norm": 4.380037307739258, + "learning_rate": 2.3579238602400496e-06, + "loss": 0.1009, + "num_input_tokens_seen": 22971424, + "step": 11732 + }, + { + "epoch": 1.55506958250497, + "grad_norm": 0.137910395860672, + "learning_rate": 2.3575772853292012e-06, + "loss": 0.0007, + "num_input_tokens_seen": 22973416, + "step": 11733 + }, + { + "epoch": 1.5552021206096753, + "grad_norm": 1.6743347644805908, + "learning_rate": 2.3572307131643616e-06, + "loss": 0.0195, + "num_input_tokens_seen": 22975144, + "step": 11734 + }, + { + "epoch": 1.5553346587143804, + "grad_norm": 3.458446979522705, + "learning_rate": 2.3568841437522123e-06, + "loss": 0.0882, + "num_input_tokens_seen": 22976768, + "step": 11735 + }, + { + "epoch": 1.5554671968190856, + "grad_norm": 20.108211517333984, + "learning_rate": 2.356537577099435e-06, + "loss": 0.454, + "num_input_tokens_seen": 22978304, + "step": 11736 + }, + { + "epoch": 1.5555997349237907, + "grad_norm": 10.755016326904297, + "learning_rate": 2.3561910132127115e-06, + "loss": 0.2422, + "num_input_tokens_seen": 22980656, + "step": 11737 + }, + { + "epoch": 1.5557322730284957, + "grad_norm": 0.616950273513794, + "learning_rate": 2.3558444520987254e-06, + "loss": 0.0069, + "num_input_tokens_seen": 22982896, + "step": 11738 + }, + { + "epoch": 1.5558648111332007, + "grad_norm": 5.336042404174805, + "learning_rate": 2.355497893764157e-06, + "loss": 0.1459, + "num_input_tokens_seen": 22985216, + "step": 11739 + }, + { + "epoch": 1.5559973492379058, + "grad_norm": 0.046280067414045334, + "learning_rate": 2.35515133821569e-06, + "loss": 0.0003, + "num_input_tokens_seen": 22986872, + "step": 11740 + }, + { + "epoch": 1.556129887342611, + "grad_norm": 8.701187133789062, + "learning_rate": 2.3548047854600043e-06, + "loss": 0.1642, + "num_input_tokens_seen": 22988816, + "step": 11741 + }, + { + "epoch": 1.556262425447316, + "grad_norm": 0.2147613912820816, + "learning_rate": 2.3544582355037833e-06, + "loss": 0.0016, + "num_input_tokens_seen": 22992088, + "step": 11742 + }, + { + "epoch": 1.5563949635520213, + "grad_norm": 10.167132377624512, + "learning_rate": 2.3541116883537066e-06, + "loss": 0.1277, + "num_input_tokens_seen": 22994840, + "step": 11743 + }, + { + "epoch": 1.5565275016567264, + "grad_norm": 11.632242202758789, + "learning_rate": 2.3537651440164587e-06, + "loss": 0.3117, + "num_input_tokens_seen": 22997552, + "step": 11744 + }, + { + "epoch": 1.5566600397614314, + "grad_norm": 0.7559077143669128, + "learning_rate": 2.3534186024987183e-06, + "loss": 0.005, + "num_input_tokens_seen": 22999352, + "step": 11745 + }, + { + "epoch": 1.5567925778661365, + "grad_norm": 0.6411713361740112, + "learning_rate": 2.35307206380717e-06, + "loss": 0.0069, + "num_input_tokens_seen": 23001104, + "step": 11746 + }, + { + "epoch": 1.5569251159708415, + "grad_norm": 4.030973434448242, + "learning_rate": 2.352725527948492e-06, + "loss": 0.068, + "num_input_tokens_seen": 23002368, + "step": 11747 + }, + { + "epoch": 1.5570576540755467, + "grad_norm": 2.213083267211914, + "learning_rate": 2.3523789949293675e-06, + "loss": 0.0326, + "num_input_tokens_seen": 23004112, + "step": 11748 + }, + { + "epoch": 1.5571901921802518, + "grad_norm": 2.434950828552246, + "learning_rate": 2.352032464756479e-06, + "loss": 0.0184, + "num_input_tokens_seen": 23006128, + "step": 11749 + }, + { + "epoch": 1.557322730284957, + "grad_norm": 9.92917537689209, + "learning_rate": 2.3516859374365066e-06, + "loss": 0.1264, + "num_input_tokens_seen": 23007864, + "step": 11750 + }, + { + "epoch": 1.557455268389662, + "grad_norm": 2.113671064376831, + "learning_rate": 2.3513394129761306e-06, + "loss": 0.0384, + "num_input_tokens_seen": 23009960, + "step": 11751 + }, + { + "epoch": 1.5575878064943671, + "grad_norm": 6.396363735198975, + "learning_rate": 2.3509928913820345e-06, + "loss": 0.1262, + "num_input_tokens_seen": 23011576, + "step": 11752 + }, + { + "epoch": 1.5577203445990722, + "grad_norm": 7.60141658782959, + "learning_rate": 2.3506463726608967e-06, + "loss": 0.198, + "num_input_tokens_seen": 23013320, + "step": 11753 + }, + { + "epoch": 1.5578528827037772, + "grad_norm": 10.095383644104004, + "learning_rate": 2.3502998568194003e-06, + "loss": 0.3141, + "num_input_tokens_seen": 23015608, + "step": 11754 + }, + { + "epoch": 1.5579854208084825, + "grad_norm": 0.28539103269577026, + "learning_rate": 2.349953343864227e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23017864, + "step": 11755 + }, + { + "epoch": 1.5581179589131875, + "grad_norm": 0.18585848808288574, + "learning_rate": 2.349606833802056e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23019232, + "step": 11756 + }, + { + "epoch": 1.5582504970178928, + "grad_norm": 0.05250381678342819, + "learning_rate": 2.3492603266395696e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23020424, + "step": 11757 + }, + { + "epoch": 1.5583830351225978, + "grad_norm": 4.3008928298950195, + "learning_rate": 2.3489138223834463e-06, + "loss": 0.0319, + "num_input_tokens_seen": 23021936, + "step": 11758 + }, + { + "epoch": 1.5585155732273028, + "grad_norm": 0.09873567521572113, + "learning_rate": 2.348567321040371e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23023320, + "step": 11759 + }, + { + "epoch": 1.5586481113320079, + "grad_norm": 7.6662445068359375, + "learning_rate": 2.348220822617021e-06, + "loss": 0.1673, + "num_input_tokens_seen": 23025536, + "step": 11760 + }, + { + "epoch": 1.558780649436713, + "grad_norm": 0.0330217070877552, + "learning_rate": 2.347874327120079e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23026952, + "step": 11761 + }, + { + "epoch": 1.5589131875414182, + "grad_norm": 6.7171478271484375, + "learning_rate": 2.347527834556224e-06, + "loss": 0.1008, + "num_input_tokens_seen": 23029464, + "step": 11762 + }, + { + "epoch": 1.5590457256461234, + "grad_norm": 8.293986320495605, + "learning_rate": 2.347181344932137e-06, + "loss": 0.0812, + "num_input_tokens_seen": 23031480, + "step": 11763 + }, + { + "epoch": 1.5591782637508285, + "grad_norm": 0.10536544024944305, + "learning_rate": 2.3468348582545005e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23032760, + "step": 11764 + }, + { + "epoch": 1.5593108018555335, + "grad_norm": 2.951874256134033, + "learning_rate": 2.346488374529993e-06, + "loss": 0.0353, + "num_input_tokens_seen": 23034832, + "step": 11765 + }, + { + "epoch": 1.5594433399602385, + "grad_norm": 11.947152137756348, + "learning_rate": 2.346141893765296e-06, + "loss": 0.1959, + "num_input_tokens_seen": 23036456, + "step": 11766 + }, + { + "epoch": 1.5595758780649436, + "grad_norm": 0.2531041204929352, + "learning_rate": 2.3457954159670897e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23037856, + "step": 11767 + }, + { + "epoch": 1.5597084161696486, + "grad_norm": 3.4456894397735596, + "learning_rate": 2.3454489411420534e-06, + "loss": 0.041, + "num_input_tokens_seen": 23039472, + "step": 11768 + }, + { + "epoch": 1.5598409542743539, + "grad_norm": 3.3264551162719727, + "learning_rate": 2.3451024692968674e-06, + "loss": 0.071, + "num_input_tokens_seen": 23042496, + "step": 11769 + }, + { + "epoch": 1.5599734923790591, + "grad_norm": 3.6480424404144287, + "learning_rate": 2.344756000438214e-06, + "loss": 0.0252, + "num_input_tokens_seen": 23045176, + "step": 11770 + }, + { + "epoch": 1.5601060304837642, + "grad_norm": 0.1852840632200241, + "learning_rate": 2.3444095345727713e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23046528, + "step": 11771 + }, + { + "epoch": 1.5602385685884692, + "grad_norm": 6.85092306137085, + "learning_rate": 2.344063071707221e-06, + "loss": 0.1052, + "num_input_tokens_seen": 23048792, + "step": 11772 + }, + { + "epoch": 1.5603711066931742, + "grad_norm": 0.10513570159673691, + "learning_rate": 2.343716611848242e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23050896, + "step": 11773 + }, + { + "epoch": 1.5605036447978793, + "grad_norm": 4.905401229858398, + "learning_rate": 2.3433701550025133e-06, + "loss": 0.0328, + "num_input_tokens_seen": 23053088, + "step": 11774 + }, + { + "epoch": 1.5606361829025845, + "grad_norm": 4.9157023429870605, + "learning_rate": 2.3430237011767166e-06, + "loss": 0.064, + "num_input_tokens_seen": 23054568, + "step": 11775 + }, + { + "epoch": 1.5607687210072896, + "grad_norm": 1.8303897380828857, + "learning_rate": 2.3426772503775318e-06, + "loss": 0.0093, + "num_input_tokens_seen": 23056368, + "step": 11776 + }, + { + "epoch": 1.5609012591119948, + "grad_norm": 7.003386497497559, + "learning_rate": 2.342330802611638e-06, + "loss": 0.2108, + "num_input_tokens_seen": 23059064, + "step": 11777 + }, + { + "epoch": 1.5610337972166999, + "grad_norm": 4.772353172302246, + "learning_rate": 2.3419843578857153e-06, + "loss": 0.0504, + "num_input_tokens_seen": 23062176, + "step": 11778 + }, + { + "epoch": 1.561166335321405, + "grad_norm": 0.053890857845544815, + "learning_rate": 2.3416379162064423e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23063912, + "step": 11779 + }, + { + "epoch": 1.56129887342611, + "grad_norm": 7.776603698730469, + "learning_rate": 2.3412914775805e-06, + "loss": 0.0501, + "num_input_tokens_seen": 23065352, + "step": 11780 + }, + { + "epoch": 1.561431411530815, + "grad_norm": 0.02211894653737545, + "learning_rate": 2.340945042014568e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23066768, + "step": 11781 + }, + { + "epoch": 1.5615639496355203, + "grad_norm": 7.118942737579346, + "learning_rate": 2.340598609515325e-06, + "loss": 0.141, + "num_input_tokens_seen": 23069176, + "step": 11782 + }, + { + "epoch": 1.5616964877402253, + "grad_norm": 3.627549886703491, + "learning_rate": 2.3402521800894505e-06, + "loss": 0.0252, + "num_input_tokens_seen": 23071648, + "step": 11783 + }, + { + "epoch": 1.5618290258449306, + "grad_norm": 11.284818649291992, + "learning_rate": 2.3399057537436236e-06, + "loss": 0.3394, + "num_input_tokens_seen": 23075664, + "step": 11784 + }, + { + "epoch": 1.5619615639496356, + "grad_norm": 0.9425681233406067, + "learning_rate": 2.3395593304845254e-06, + "loss": 0.0258, + "num_input_tokens_seen": 23078376, + "step": 11785 + }, + { + "epoch": 1.5620941020543406, + "grad_norm": 5.32555627822876, + "learning_rate": 2.3392129103188334e-06, + "loss": 0.0825, + "num_input_tokens_seen": 23081232, + "step": 11786 + }, + { + "epoch": 1.5622266401590457, + "grad_norm": 9.754157066345215, + "learning_rate": 2.338866493253228e-06, + "loss": 0.1463, + "num_input_tokens_seen": 23083656, + "step": 11787 + }, + { + "epoch": 1.5623591782637507, + "grad_norm": 10.609440803527832, + "learning_rate": 2.338520079294388e-06, + "loss": 0.1795, + "num_input_tokens_seen": 23086552, + "step": 11788 + }, + { + "epoch": 1.562491716368456, + "grad_norm": 0.018197791650891304, + "learning_rate": 2.3381736684489907e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23088304, + "step": 11789 + }, + { + "epoch": 1.562624254473161, + "grad_norm": 0.07660821080207825, + "learning_rate": 2.3378272607237177e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23089392, + "step": 11790 + }, + { + "epoch": 1.5627567925778663, + "grad_norm": 10.474480628967285, + "learning_rate": 2.337480856125247e-06, + "loss": 0.0642, + "num_input_tokens_seen": 23091824, + "step": 11791 + }, + { + "epoch": 1.5628893306825713, + "grad_norm": 0.08091287314891815, + "learning_rate": 2.3371344546602574e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23093144, + "step": 11792 + }, + { + "epoch": 1.5630218687872763, + "grad_norm": 6.021177291870117, + "learning_rate": 2.3367880563354285e-06, + "loss": 0.083, + "num_input_tokens_seen": 23095520, + "step": 11793 + }, + { + "epoch": 1.5631544068919814, + "grad_norm": 0.04064526408910751, + "learning_rate": 2.336441661157437e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23097264, + "step": 11794 + }, + { + "epoch": 1.5632869449966864, + "grad_norm": 0.4156019985675812, + "learning_rate": 2.336095269132964e-06, + "loss": 0.003, + "num_input_tokens_seen": 23099136, + "step": 11795 + }, + { + "epoch": 1.5634194831013917, + "grad_norm": 3.1713433265686035, + "learning_rate": 2.335748880268687e-06, + "loss": 0.0576, + "num_input_tokens_seen": 23101040, + "step": 11796 + }, + { + "epoch": 1.5635520212060967, + "grad_norm": 2.0922791957855225, + "learning_rate": 2.335402494571286e-06, + "loss": 0.0174, + "num_input_tokens_seen": 23102712, + "step": 11797 + }, + { + "epoch": 1.563684559310802, + "grad_norm": 7.8315019607543945, + "learning_rate": 2.3350561120474376e-06, + "loss": 0.1846, + "num_input_tokens_seen": 23105128, + "step": 11798 + }, + { + "epoch": 1.563817097415507, + "grad_norm": 5.811864852905273, + "learning_rate": 2.3347097327038217e-06, + "loss": 0.1285, + "num_input_tokens_seen": 23107112, + "step": 11799 + }, + { + "epoch": 1.563949635520212, + "grad_norm": 4.618442535400391, + "learning_rate": 2.3343633565471148e-06, + "loss": 0.0811, + "num_input_tokens_seen": 23108696, + "step": 11800 + }, + { + "epoch": 1.564082173624917, + "grad_norm": 4.920743942260742, + "learning_rate": 2.334016983583997e-06, + "loss": 0.0592, + "num_input_tokens_seen": 23110576, + "step": 11801 + }, + { + "epoch": 1.5642147117296221, + "grad_norm": 9.9241943359375, + "learning_rate": 2.3336706138211474e-06, + "loss": 0.1294, + "num_input_tokens_seen": 23113712, + "step": 11802 + }, + { + "epoch": 1.5643472498343274, + "grad_norm": 5.606466293334961, + "learning_rate": 2.333324247265243e-06, + "loss": 0.2304, + "num_input_tokens_seen": 23116328, + "step": 11803 + }, + { + "epoch": 1.5644797879390324, + "grad_norm": 2.9157915115356445, + "learning_rate": 2.3329778839229613e-06, + "loss": 0.038, + "num_input_tokens_seen": 23118600, + "step": 11804 + }, + { + "epoch": 1.5646123260437377, + "grad_norm": 0.08944808691740036, + "learning_rate": 2.3326315238009806e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23120120, + "step": 11805 + }, + { + "epoch": 1.5647448641484427, + "grad_norm": 1.166289210319519, + "learning_rate": 2.332285166905981e-06, + "loss": 0.0097, + "num_input_tokens_seen": 23122632, + "step": 11806 + }, + { + "epoch": 1.5648774022531478, + "grad_norm": 0.024734152480959892, + "learning_rate": 2.331938813244638e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23123880, + "step": 11807 + }, + { + "epoch": 1.5650099403578528, + "grad_norm": 9.396806716918945, + "learning_rate": 2.3315924628236318e-06, + "loss": 0.2541, + "num_input_tokens_seen": 23126272, + "step": 11808 + }, + { + "epoch": 1.5651424784625578, + "grad_norm": 0.024552958086133003, + "learning_rate": 2.331246115649638e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23127720, + "step": 11809 + }, + { + "epoch": 1.565275016567263, + "grad_norm": 6.480804443359375, + "learning_rate": 2.3308997717293357e-06, + "loss": 0.1237, + "num_input_tokens_seen": 23129544, + "step": 11810 + }, + { + "epoch": 1.5654075546719683, + "grad_norm": 4.319464683532715, + "learning_rate": 2.3305534310694033e-06, + "loss": 0.1092, + "num_input_tokens_seen": 23131088, + "step": 11811 + }, + { + "epoch": 1.5655400927766734, + "grad_norm": 0.13295838236808777, + "learning_rate": 2.330207093676517e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23132952, + "step": 11812 + }, + { + "epoch": 1.5656726308813784, + "grad_norm": 10.54491138458252, + "learning_rate": 2.3298607595573553e-06, + "loss": 0.0984, + "num_input_tokens_seen": 23134888, + "step": 11813 + }, + { + "epoch": 1.5658051689860835, + "grad_norm": 5.460895538330078, + "learning_rate": 2.3295144287185954e-06, + "loss": 0.0517, + "num_input_tokens_seen": 23137176, + "step": 11814 + }, + { + "epoch": 1.5659377070907885, + "grad_norm": 13.162677764892578, + "learning_rate": 2.329168101166914e-06, + "loss": 0.2229, + "num_input_tokens_seen": 23139800, + "step": 11815 + }, + { + "epoch": 1.5660702451954938, + "grad_norm": 3.8460566997528076, + "learning_rate": 2.3288217769089903e-06, + "loss": 0.0299, + "num_input_tokens_seen": 23141800, + "step": 11816 + }, + { + "epoch": 1.5662027833001988, + "grad_norm": 16.859697341918945, + "learning_rate": 2.3284754559515016e-06, + "loss": 0.46, + "num_input_tokens_seen": 23143304, + "step": 11817 + }, + { + "epoch": 1.566335321404904, + "grad_norm": 16.181333541870117, + "learning_rate": 2.3281291383011234e-06, + "loss": 0.8357, + "num_input_tokens_seen": 23146352, + "step": 11818 + }, + { + "epoch": 1.566467859509609, + "grad_norm": 1.2226130962371826, + "learning_rate": 2.3277828239645347e-06, + "loss": 0.0158, + "num_input_tokens_seen": 23148448, + "step": 11819 + }, + { + "epoch": 1.5666003976143141, + "grad_norm": 0.32900407910346985, + "learning_rate": 2.3274365129484108e-06, + "loss": 0.0021, + "num_input_tokens_seen": 23150240, + "step": 11820 + }, + { + "epoch": 1.5667329357190192, + "grad_norm": 0.9531776309013367, + "learning_rate": 2.3270902052594314e-06, + "loss": 0.0069, + "num_input_tokens_seen": 23153152, + "step": 11821 + }, + { + "epoch": 1.5668654738237242, + "grad_norm": 3.535245180130005, + "learning_rate": 2.3267439009042713e-06, + "loss": 0.0572, + "num_input_tokens_seen": 23154768, + "step": 11822 + }, + { + "epoch": 1.5669980119284295, + "grad_norm": 2.0109262466430664, + "learning_rate": 2.326397599889609e-06, + "loss": 0.0359, + "num_input_tokens_seen": 23156440, + "step": 11823 + }, + { + "epoch": 1.5671305500331345, + "grad_norm": 7.079641342163086, + "learning_rate": 2.32605130222212e-06, + "loss": 0.1706, + "num_input_tokens_seen": 23158144, + "step": 11824 + }, + { + "epoch": 1.5672630881378398, + "grad_norm": 2.586860418319702, + "learning_rate": 2.3257050079084823e-06, + "loss": 0.0291, + "num_input_tokens_seen": 23159648, + "step": 11825 + }, + { + "epoch": 1.5673956262425448, + "grad_norm": 12.001721382141113, + "learning_rate": 2.3253587169553714e-06, + "loss": 0.1553, + "num_input_tokens_seen": 23162024, + "step": 11826 + }, + { + "epoch": 1.5675281643472498, + "grad_norm": 1.3586593866348267, + "learning_rate": 2.325012429369466e-06, + "loss": 0.0082, + "num_input_tokens_seen": 23164080, + "step": 11827 + }, + { + "epoch": 1.5676607024519549, + "grad_norm": 0.04144002124667168, + "learning_rate": 2.3246661451574413e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23165704, + "step": 11828 + }, + { + "epoch": 1.56779324055666, + "grad_norm": 0.028851399198174477, + "learning_rate": 2.3243198643259747e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23167256, + "step": 11829 + }, + { + "epoch": 1.5679257786613652, + "grad_norm": 0.06583758443593979, + "learning_rate": 2.3239735868817416e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23168824, + "step": 11830 + }, + { + "epoch": 1.5680583167660702, + "grad_norm": 22.437429428100586, + "learning_rate": 2.3236273128314184e-06, + "loss": 0.3746, + "num_input_tokens_seen": 23170304, + "step": 11831 + }, + { + "epoch": 1.5681908548707755, + "grad_norm": 6.973607540130615, + "learning_rate": 2.323281042181684e-06, + "loss": 0.0543, + "num_input_tokens_seen": 23171728, + "step": 11832 + }, + { + "epoch": 1.5683233929754805, + "grad_norm": 3.017742156982422, + "learning_rate": 2.322934774939212e-06, + "loss": 0.0108, + "num_input_tokens_seen": 23173360, + "step": 11833 + }, + { + "epoch": 1.5684559310801856, + "grad_norm": 9.6630859375, + "learning_rate": 2.3225885111106805e-06, + "loss": 0.1628, + "num_input_tokens_seen": 23175224, + "step": 11834 + }, + { + "epoch": 1.5685884691848906, + "grad_norm": 11.627849578857422, + "learning_rate": 2.322242250702765e-06, + "loss": 0.1733, + "num_input_tokens_seen": 23176816, + "step": 11835 + }, + { + "epoch": 1.5687210072895956, + "grad_norm": 12.374133110046387, + "learning_rate": 2.3218959937221404e-06, + "loss": 0.1513, + "num_input_tokens_seen": 23178216, + "step": 11836 + }, + { + "epoch": 1.5688535453943009, + "grad_norm": 3.9707603454589844, + "learning_rate": 2.321549740175484e-06, + "loss": 0.0925, + "num_input_tokens_seen": 23180048, + "step": 11837 + }, + { + "epoch": 1.568986083499006, + "grad_norm": 5.106534481048584, + "learning_rate": 2.321203490069473e-06, + "loss": 0.0237, + "num_input_tokens_seen": 23181632, + "step": 11838 + }, + { + "epoch": 1.5691186216037112, + "grad_norm": 0.05615193024277687, + "learning_rate": 2.320857243410781e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23183192, + "step": 11839 + }, + { + "epoch": 1.5692511597084162, + "grad_norm": 5.115355491638184, + "learning_rate": 2.3205110002060854e-06, + "loss": 0.0855, + "num_input_tokens_seen": 23185440, + "step": 11840 + }, + { + "epoch": 1.5693836978131213, + "grad_norm": 2.50343918800354, + "learning_rate": 2.3201647604620606e-06, + "loss": 0.029, + "num_input_tokens_seen": 23187936, + "step": 11841 + }, + { + "epoch": 1.5695162359178263, + "grad_norm": 2.482462167739868, + "learning_rate": 2.3198185241853842e-06, + "loss": 0.0381, + "num_input_tokens_seen": 23189600, + "step": 11842 + }, + { + "epoch": 1.5696487740225313, + "grad_norm": 0.015036329627037048, + "learning_rate": 2.319472291382731e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23191032, + "step": 11843 + }, + { + "epoch": 1.5697813121272366, + "grad_norm": 0.009527535177767277, + "learning_rate": 2.3191260620607766e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23192520, + "step": 11844 + }, + { + "epoch": 1.5699138502319416, + "grad_norm": 6.501735687255859, + "learning_rate": 2.3187798362261958e-06, + "loss": 0.0412, + "num_input_tokens_seen": 23194288, + "step": 11845 + }, + { + "epoch": 1.570046388336647, + "grad_norm": 3.4656929969787598, + "learning_rate": 2.318433613885665e-06, + "loss": 0.0522, + "num_input_tokens_seen": 23195936, + "step": 11846 + }, + { + "epoch": 1.570178926441352, + "grad_norm": 13.463749885559082, + "learning_rate": 2.31808739504586e-06, + "loss": 0.4768, + "num_input_tokens_seen": 23197880, + "step": 11847 + }, + { + "epoch": 1.570311464546057, + "grad_norm": 0.23207640647888184, + "learning_rate": 2.317741179713455e-06, + "loss": 0.0029, + "num_input_tokens_seen": 23200016, + "step": 11848 + }, + { + "epoch": 1.570444002650762, + "grad_norm": 10.478626251220703, + "learning_rate": 2.317394967895126e-06, + "loss": 0.2562, + "num_input_tokens_seen": 23201928, + "step": 11849 + }, + { + "epoch": 1.570576540755467, + "grad_norm": 0.2518407702445984, + "learning_rate": 2.3170487595975482e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23203104, + "step": 11850 + }, + { + "epoch": 1.5707090788601723, + "grad_norm": 0.5737168192863464, + "learning_rate": 2.3167025548273957e-06, + "loss": 0.004, + "num_input_tokens_seen": 23205216, + "step": 11851 + }, + { + "epoch": 1.5708416169648776, + "grad_norm": 4.06577205657959, + "learning_rate": 2.3163563535913445e-06, + "loss": 0.0625, + "num_input_tokens_seen": 23206864, + "step": 11852 + }, + { + "epoch": 1.5709741550695826, + "grad_norm": 6.196745872497559, + "learning_rate": 2.3160101558960703e-06, + "loss": 0.1276, + "num_input_tokens_seen": 23209072, + "step": 11853 + }, + { + "epoch": 1.5711066931742876, + "grad_norm": 15.247641563415527, + "learning_rate": 2.3156639617482466e-06, + "loss": 0.3407, + "num_input_tokens_seen": 23210736, + "step": 11854 + }, + { + "epoch": 1.5712392312789927, + "grad_norm": 16.242324829101562, + "learning_rate": 2.3153177711545495e-06, + "loss": 0.2255, + "num_input_tokens_seen": 23213032, + "step": 11855 + }, + { + "epoch": 1.5713717693836977, + "grad_norm": 4.422913551330566, + "learning_rate": 2.314971584121653e-06, + "loss": 0.0427, + "num_input_tokens_seen": 23214640, + "step": 11856 + }, + { + "epoch": 1.5715043074884028, + "grad_norm": 0.023176299408078194, + "learning_rate": 2.3146254006562312e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23217176, + "step": 11857 + }, + { + "epoch": 1.571636845593108, + "grad_norm": 0.024347057566046715, + "learning_rate": 2.31427922076496e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23219208, + "step": 11858 + }, + { + "epoch": 1.5717693836978133, + "grad_norm": 0.03210686892271042, + "learning_rate": 2.3139330444545145e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23221456, + "step": 11859 + }, + { + "epoch": 1.5719019218025183, + "grad_norm": 4.715926647186279, + "learning_rate": 2.313586871731567e-06, + "loss": 0.0836, + "num_input_tokens_seen": 23223744, + "step": 11860 + }, + { + "epoch": 1.5720344599072233, + "grad_norm": 7.625388145446777, + "learning_rate": 2.313240702602794e-06, + "loss": 0.0757, + "num_input_tokens_seen": 23225168, + "step": 11861 + }, + { + "epoch": 1.5721669980119284, + "grad_norm": 7.96759033203125, + "learning_rate": 2.3128945370748683e-06, + "loss": 0.2099, + "num_input_tokens_seen": 23226952, + "step": 11862 + }, + { + "epoch": 1.5722995361166334, + "grad_norm": 0.012869305908679962, + "learning_rate": 2.3125483751544655e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23229128, + "step": 11863 + }, + { + "epoch": 1.5724320742213387, + "grad_norm": 0.007695955224335194, + "learning_rate": 2.3122022168482595e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23230752, + "step": 11864 + }, + { + "epoch": 1.5725646123260437, + "grad_norm": 0.04273669049143791, + "learning_rate": 2.311856062162924e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23233672, + "step": 11865 + }, + { + "epoch": 1.572697150430749, + "grad_norm": 5.344576835632324, + "learning_rate": 2.3115099111051336e-06, + "loss": 0.0859, + "num_input_tokens_seen": 23235552, + "step": 11866 + }, + { + "epoch": 1.572829688535454, + "grad_norm": 0.005217389203608036, + "learning_rate": 2.3111637636815616e-06, + "loss": 0.0, + "num_input_tokens_seen": 23237144, + "step": 11867 + }, + { + "epoch": 1.572962226640159, + "grad_norm": 6.825217247009277, + "learning_rate": 2.3108176198988833e-06, + "loss": 0.1558, + "num_input_tokens_seen": 23238616, + "step": 11868 + }, + { + "epoch": 1.573094764744864, + "grad_norm": 0.038383398205041885, + "learning_rate": 2.3104714797637714e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23241080, + "step": 11869 + }, + { + "epoch": 1.5732273028495691, + "grad_norm": 6.217370510101318, + "learning_rate": 2.310125343282901e-06, + "loss": 0.0794, + "num_input_tokens_seen": 23242888, + "step": 11870 + }, + { + "epoch": 1.5733598409542744, + "grad_norm": 9.227302551269531, + "learning_rate": 2.3097792104629434e-06, + "loss": 0.1598, + "num_input_tokens_seen": 23244496, + "step": 11871 + }, + { + "epoch": 1.5734923790589794, + "grad_norm": 0.029518185183405876, + "learning_rate": 2.3094330813105743e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23246536, + "step": 11872 + }, + { + "epoch": 1.5736249171636847, + "grad_norm": 2.307223320007324, + "learning_rate": 2.3090869558324676e-06, + "loss": 0.0317, + "num_input_tokens_seen": 23249048, + "step": 11873 + }, + { + "epoch": 1.5737574552683897, + "grad_norm": 8.633649826049805, + "learning_rate": 2.308740834035296e-06, + "loss": 0.0822, + "num_input_tokens_seen": 23251624, + "step": 11874 + }, + { + "epoch": 1.5738899933730948, + "grad_norm": 9.78980827331543, + "learning_rate": 2.3083947159257327e-06, + "loss": 0.0592, + "num_input_tokens_seen": 23253776, + "step": 11875 + }, + { + "epoch": 1.5740225314777998, + "grad_norm": 10.400908470153809, + "learning_rate": 2.308048601510452e-06, + "loss": 0.1832, + "num_input_tokens_seen": 23255784, + "step": 11876 + }, + { + "epoch": 1.5741550695825048, + "grad_norm": 15.188549041748047, + "learning_rate": 2.3077024907961253e-06, + "loss": 0.194, + "num_input_tokens_seen": 23258112, + "step": 11877 + }, + { + "epoch": 1.57428760768721, + "grad_norm": 4.213099002838135, + "learning_rate": 2.307356383789428e-06, + "loss": 0.1282, + "num_input_tokens_seen": 23259896, + "step": 11878 + }, + { + "epoch": 1.5744201457919151, + "grad_norm": 7.259431838989258, + "learning_rate": 2.3070102804970327e-06, + "loss": 0.1013, + "num_input_tokens_seen": 23262048, + "step": 11879 + }, + { + "epoch": 1.5745526838966204, + "grad_norm": 0.03413210064172745, + "learning_rate": 2.306664180925613e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23263776, + "step": 11880 + }, + { + "epoch": 1.5746852220013254, + "grad_norm": 14.316970825195312, + "learning_rate": 2.30631808508184e-06, + "loss": 0.4378, + "num_input_tokens_seen": 23266048, + "step": 11881 + }, + { + "epoch": 1.5748177601060305, + "grad_norm": 0.009788365103304386, + "learning_rate": 2.305971992972389e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23268608, + "step": 11882 + }, + { + "epoch": 1.5749502982107355, + "grad_norm": 0.08582916110754013, + "learning_rate": 2.3056259046039306e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23270232, + "step": 11883 + }, + { + "epoch": 1.5750828363154405, + "grad_norm": 0.04013047739863396, + "learning_rate": 2.3052798199831396e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23272088, + "step": 11884 + }, + { + "epoch": 1.5752153744201458, + "grad_norm": 0.03055867925286293, + "learning_rate": 2.3049337391166884e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23273680, + "step": 11885 + }, + { + "epoch": 1.5753479125248508, + "grad_norm": 0.029550379142165184, + "learning_rate": 2.3045876620112484e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23274616, + "step": 11886 + }, + { + "epoch": 1.575480450629556, + "grad_norm": 7.734893321990967, + "learning_rate": 2.304241588673494e-06, + "loss": 0.0682, + "num_input_tokens_seen": 23277368, + "step": 11887 + }, + { + "epoch": 1.5756129887342611, + "grad_norm": 0.3007345199584961, + "learning_rate": 2.3038955191100957e-06, + "loss": 0.002, + "num_input_tokens_seen": 23279808, + "step": 11888 + }, + { + "epoch": 1.5757455268389662, + "grad_norm": 5.712344169616699, + "learning_rate": 2.3035494533277282e-06, + "loss": 0.0297, + "num_input_tokens_seen": 23281280, + "step": 11889 + }, + { + "epoch": 1.5758780649436712, + "grad_norm": 11.294878959655762, + "learning_rate": 2.3032033913330618e-06, + "loss": 0.1981, + "num_input_tokens_seen": 23283136, + "step": 11890 + }, + { + "epoch": 1.5760106030483763, + "grad_norm": 0.029315093532204628, + "learning_rate": 2.302857333132771e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23285472, + "step": 11891 + }, + { + "epoch": 1.5761431411530815, + "grad_norm": 6.328197479248047, + "learning_rate": 2.302511278733526e-06, + "loss": 0.132, + "num_input_tokens_seen": 23288016, + "step": 11892 + }, + { + "epoch": 1.5762756792577868, + "grad_norm": 4.279500961303711, + "learning_rate": 2.3021652281419985e-06, + "loss": 0.0727, + "num_input_tokens_seen": 23289624, + "step": 11893 + }, + { + "epoch": 1.5764082173624918, + "grad_norm": 11.489892959594727, + "learning_rate": 2.301819181364864e-06, + "loss": 0.2265, + "num_input_tokens_seen": 23291864, + "step": 11894 + }, + { + "epoch": 1.5765407554671969, + "grad_norm": 4.643187046051025, + "learning_rate": 2.3014731384087917e-06, + "loss": 0.1017, + "num_input_tokens_seen": 23293312, + "step": 11895 + }, + { + "epoch": 1.576673293571902, + "grad_norm": 0.060901664197444916, + "learning_rate": 2.3011270992804543e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23294728, + "step": 11896 + }, + { + "epoch": 1.576805831676607, + "grad_norm": 12.484745025634766, + "learning_rate": 2.3007810639865237e-06, + "loss": 0.3547, + "num_input_tokens_seen": 23296408, + "step": 11897 + }, + { + "epoch": 1.576938369781312, + "grad_norm": 2.3672783374786377, + "learning_rate": 2.3004350325336706e-06, + "loss": 0.0221, + "num_input_tokens_seen": 23298872, + "step": 11898 + }, + { + "epoch": 1.5770709078860172, + "grad_norm": 0.263560950756073, + "learning_rate": 2.300089004928569e-06, + "loss": 0.0016, + "num_input_tokens_seen": 23300688, + "step": 11899 + }, + { + "epoch": 1.5772034459907225, + "grad_norm": 7.4764790534973145, + "learning_rate": 2.299742981177889e-06, + "loss": 0.1596, + "num_input_tokens_seen": 23302776, + "step": 11900 + }, + { + "epoch": 1.5773359840954275, + "grad_norm": 2.0159964561462402, + "learning_rate": 2.2993969612883023e-06, + "loss": 0.0307, + "num_input_tokens_seen": 23306056, + "step": 11901 + }, + { + "epoch": 1.5774685222001326, + "grad_norm": 5.1496477127075195, + "learning_rate": 2.2990509452664808e-06, + "loss": 0.1122, + "num_input_tokens_seen": 23308840, + "step": 11902 + }, + { + "epoch": 1.5776010603048376, + "grad_norm": 3.5109922885894775, + "learning_rate": 2.2987049331190946e-06, + "loss": 0.033, + "num_input_tokens_seen": 23310072, + "step": 11903 + }, + { + "epoch": 1.5777335984095426, + "grad_norm": 0.06520876288414001, + "learning_rate": 2.2983589248528177e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23312200, + "step": 11904 + }, + { + "epoch": 1.577866136514248, + "grad_norm": 4.272860527038574, + "learning_rate": 2.298012920474319e-06, + "loss": 0.0258, + "num_input_tokens_seen": 23314728, + "step": 11905 + }, + { + "epoch": 1.577998674618953, + "grad_norm": 2.5731828212738037, + "learning_rate": 2.2976669199902713e-06, + "loss": 0.051, + "num_input_tokens_seen": 23316632, + "step": 11906 + }, + { + "epoch": 1.5781312127236582, + "grad_norm": 0.07348982244729996, + "learning_rate": 2.297320923407344e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23318664, + "step": 11907 + }, + { + "epoch": 1.5782637508283632, + "grad_norm": 8.55766487121582, + "learning_rate": 2.296974930732209e-06, + "loss": 0.1826, + "num_input_tokens_seen": 23320432, + "step": 11908 + }, + { + "epoch": 1.5783962889330683, + "grad_norm": 0.46611157059669495, + "learning_rate": 2.2966289419715383e-06, + "loss": 0.003, + "num_input_tokens_seen": 23321632, + "step": 11909 + }, + { + "epoch": 1.5785288270377733, + "grad_norm": 1.407111406326294, + "learning_rate": 2.296282957132002e-06, + "loss": 0.0157, + "num_input_tokens_seen": 23323432, + "step": 11910 + }, + { + "epoch": 1.5786613651424783, + "grad_norm": 4.4142680168151855, + "learning_rate": 2.2959369762202703e-06, + "loss": 0.101, + "num_input_tokens_seen": 23325624, + "step": 11911 + }, + { + "epoch": 1.5787939032471836, + "grad_norm": 0.7156218886375427, + "learning_rate": 2.2955909992430148e-06, + "loss": 0.0066, + "num_input_tokens_seen": 23326840, + "step": 11912 + }, + { + "epoch": 1.5789264413518886, + "grad_norm": 0.02910565212368965, + "learning_rate": 2.2952450262069053e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23328248, + "step": 11913 + }, + { + "epoch": 1.579058979456594, + "grad_norm": 2.8141586780548096, + "learning_rate": 2.2948990571186127e-06, + "loss": 0.0342, + "num_input_tokens_seen": 23330136, + "step": 11914 + }, + { + "epoch": 1.579191517561299, + "grad_norm": 0.015408039093017578, + "learning_rate": 2.2945530919848086e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23331512, + "step": 11915 + }, + { + "epoch": 1.579324055666004, + "grad_norm": 6.919739246368408, + "learning_rate": 2.294207130812162e-06, + "loss": 0.0963, + "num_input_tokens_seen": 23334824, + "step": 11916 + }, + { + "epoch": 1.579456593770709, + "grad_norm": 0.03383958712220192, + "learning_rate": 2.2938611736073445e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23336248, + "step": 11917 + }, + { + "epoch": 1.579589131875414, + "grad_norm": 8.613393783569336, + "learning_rate": 2.293515220377026e-06, + "loss": 0.2771, + "num_input_tokens_seen": 23338864, + "step": 11918 + }, + { + "epoch": 1.5797216699801193, + "grad_norm": 5.089381694793701, + "learning_rate": 2.2931692711278752e-06, + "loss": 0.0641, + "num_input_tokens_seen": 23341280, + "step": 11919 + }, + { + "epoch": 1.5798542080848244, + "grad_norm": 10.700448036193848, + "learning_rate": 2.292823325866564e-06, + "loss": 0.2213, + "num_input_tokens_seen": 23343136, + "step": 11920 + }, + { + "epoch": 1.5799867461895296, + "grad_norm": 4.684841632843018, + "learning_rate": 2.292477384599763e-06, + "loss": 0.1901, + "num_input_tokens_seen": 23344624, + "step": 11921 + }, + { + "epoch": 1.5801192842942346, + "grad_norm": 9.807380676269531, + "learning_rate": 2.2921314473341404e-06, + "loss": 0.2262, + "num_input_tokens_seen": 23346320, + "step": 11922 + }, + { + "epoch": 1.5802518223989397, + "grad_norm": 6.636413097381592, + "learning_rate": 2.291785514076367e-06, + "loss": 0.1269, + "num_input_tokens_seen": 23348272, + "step": 11923 + }, + { + "epoch": 1.5803843605036447, + "grad_norm": 9.999238967895508, + "learning_rate": 2.291439584833112e-06, + "loss": 0.0324, + "num_input_tokens_seen": 23349816, + "step": 11924 + }, + { + "epoch": 1.5805168986083498, + "grad_norm": 1.6644606590270996, + "learning_rate": 2.291093659611046e-06, + "loss": 0.0148, + "num_input_tokens_seen": 23351240, + "step": 11925 + }, + { + "epoch": 1.580649436713055, + "grad_norm": 5.8127264976501465, + "learning_rate": 2.290747738416839e-06, + "loss": 0.0809, + "num_input_tokens_seen": 23352664, + "step": 11926 + }, + { + "epoch": 1.58078197481776, + "grad_norm": 0.04623502865433693, + "learning_rate": 2.29040182125716e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23354616, + "step": 11927 + }, + { + "epoch": 1.5809145129224653, + "grad_norm": 10.933884620666504, + "learning_rate": 2.290055908138678e-06, + "loss": 0.2594, + "num_input_tokens_seen": 23356488, + "step": 11928 + }, + { + "epoch": 1.5810470510271704, + "grad_norm": 0.3446574807167053, + "learning_rate": 2.2897099990680623e-06, + "loss": 0.003, + "num_input_tokens_seen": 23357832, + "step": 11929 + }, + { + "epoch": 1.5811795891318754, + "grad_norm": 0.4280853569507599, + "learning_rate": 2.2893640940519837e-06, + "loss": 0.003, + "num_input_tokens_seen": 23360488, + "step": 11930 + }, + { + "epoch": 1.5813121272365804, + "grad_norm": 4.509779930114746, + "learning_rate": 2.2890181930971105e-06, + "loss": 0.1045, + "num_input_tokens_seen": 23362224, + "step": 11931 + }, + { + "epoch": 1.5814446653412855, + "grad_norm": 3.114455223083496, + "learning_rate": 2.2886722962101125e-06, + "loss": 0.0419, + "num_input_tokens_seen": 23364000, + "step": 11932 + }, + { + "epoch": 1.5815772034459907, + "grad_norm": 6.655788421630859, + "learning_rate": 2.288326403397658e-06, + "loss": 0.0708, + "num_input_tokens_seen": 23367056, + "step": 11933 + }, + { + "epoch": 1.581709741550696, + "grad_norm": 6.719675064086914, + "learning_rate": 2.287980514666416e-06, + "loss": 0.0933, + "num_input_tokens_seen": 23369784, + "step": 11934 + }, + { + "epoch": 1.581842279655401, + "grad_norm": 6.188154220581055, + "learning_rate": 2.287634630023056e-06, + "loss": 0.1374, + "num_input_tokens_seen": 23372280, + "step": 11935 + }, + { + "epoch": 1.581974817760106, + "grad_norm": 2.4546737670898438, + "learning_rate": 2.287288749474248e-06, + "loss": 0.0707, + "num_input_tokens_seen": 23373552, + "step": 11936 + }, + { + "epoch": 1.582107355864811, + "grad_norm": 12.997584342956543, + "learning_rate": 2.2869428730266583e-06, + "loss": 0.3838, + "num_input_tokens_seen": 23375656, + "step": 11937 + }, + { + "epoch": 1.5822398939695161, + "grad_norm": 3.504216194152832, + "learning_rate": 2.286597000686958e-06, + "loss": 0.1107, + "num_input_tokens_seen": 23377528, + "step": 11938 + }, + { + "epoch": 1.5823724320742212, + "grad_norm": 18.248077392578125, + "learning_rate": 2.2862511324618144e-06, + "loss": 0.4098, + "num_input_tokens_seen": 23378912, + "step": 11939 + }, + { + "epoch": 1.5825049701789264, + "grad_norm": 5.755631923675537, + "learning_rate": 2.285905268357896e-06, + "loss": 0.0519, + "num_input_tokens_seen": 23380480, + "step": 11940 + }, + { + "epoch": 1.5826375082836317, + "grad_norm": 0.0422113761305809, + "learning_rate": 2.285559408381872e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23381960, + "step": 11941 + }, + { + "epoch": 1.5827700463883367, + "grad_norm": 2.829979658126831, + "learning_rate": 2.285213552540411e-06, + "loss": 0.0265, + "num_input_tokens_seen": 23383888, + "step": 11942 + }, + { + "epoch": 1.5829025844930418, + "grad_norm": 0.0245696771889925, + "learning_rate": 2.2848677008401805e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23386416, + "step": 11943 + }, + { + "epoch": 1.5830351225977468, + "grad_norm": 8.891592979431152, + "learning_rate": 2.2845218532878496e-06, + "loss": 0.2918, + "num_input_tokens_seen": 23388488, + "step": 11944 + }, + { + "epoch": 1.5831676607024519, + "grad_norm": 4.753551483154297, + "learning_rate": 2.284176009890085e-06, + "loss": 0.2055, + "num_input_tokens_seen": 23390168, + "step": 11945 + }, + { + "epoch": 1.583300198807157, + "grad_norm": 0.036085184663534164, + "learning_rate": 2.283830170653556e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23391936, + "step": 11946 + }, + { + "epoch": 1.5834327369118621, + "grad_norm": 2.4430947303771973, + "learning_rate": 2.283484335584931e-06, + "loss": 0.0421, + "num_input_tokens_seen": 23393616, + "step": 11947 + }, + { + "epoch": 1.5835652750165674, + "grad_norm": 9.587576866149902, + "learning_rate": 2.283138504690878e-06, + "loss": 0.1652, + "num_input_tokens_seen": 23395664, + "step": 11948 + }, + { + "epoch": 1.5836978131212724, + "grad_norm": 0.09076646715402603, + "learning_rate": 2.282792677978063e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23397112, + "step": 11949 + }, + { + "epoch": 1.5838303512259775, + "grad_norm": 0.10874997824430466, + "learning_rate": 2.2824468554531548e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23398328, + "step": 11950 + }, + { + "epoch": 1.5839628893306825, + "grad_norm": 0.1414063274860382, + "learning_rate": 2.2821010371228223e-06, + "loss": 0.0009, + "num_input_tokens_seen": 23399776, + "step": 11951 + }, + { + "epoch": 1.5840954274353876, + "grad_norm": 2.4859063625335693, + "learning_rate": 2.2817552229937317e-06, + "loss": 0.0924, + "num_input_tokens_seen": 23401448, + "step": 11952 + }, + { + "epoch": 1.5842279655400928, + "grad_norm": 8.461024284362793, + "learning_rate": 2.2814094130725514e-06, + "loss": 0.1256, + "num_input_tokens_seen": 23403288, + "step": 11953 + }, + { + "epoch": 1.5843605036447979, + "grad_norm": 3.601931095123291, + "learning_rate": 2.2810636073659477e-06, + "loss": 0.0498, + "num_input_tokens_seen": 23406640, + "step": 11954 + }, + { + "epoch": 1.5844930417495031, + "grad_norm": 6.00985050201416, + "learning_rate": 2.2807178058805883e-06, + "loss": 0.0765, + "num_input_tokens_seen": 23407760, + "step": 11955 + }, + { + "epoch": 1.5846255798542082, + "grad_norm": 2.741731882095337, + "learning_rate": 2.280372008623142e-06, + "loss": 0.0149, + "num_input_tokens_seen": 23409248, + "step": 11956 + }, + { + "epoch": 1.5847581179589132, + "grad_norm": 0.04992765188217163, + "learning_rate": 2.280026215600275e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23410656, + "step": 11957 + }, + { + "epoch": 1.5848906560636182, + "grad_norm": 11.561676025390625, + "learning_rate": 2.279680426818654e-06, + "loss": 0.1557, + "num_input_tokens_seen": 23412480, + "step": 11958 + }, + { + "epoch": 1.5850231941683233, + "grad_norm": 0.11860350519418716, + "learning_rate": 2.279334642284946e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23414208, + "step": 11959 + }, + { + "epoch": 1.5851557322730285, + "grad_norm": 0.17873084545135498, + "learning_rate": 2.278988862005818e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23416488, + "step": 11960 + }, + { + "epoch": 1.5852882703777336, + "grad_norm": 3.4755923748016357, + "learning_rate": 2.2786430859879377e-06, + "loss": 0.055, + "num_input_tokens_seen": 23417872, + "step": 11961 + }, + { + "epoch": 1.5854208084824388, + "grad_norm": 16.926040649414062, + "learning_rate": 2.278297314237972e-06, + "loss": 0.2674, + "num_input_tokens_seen": 23419176, + "step": 11962 + }, + { + "epoch": 1.5855533465871439, + "grad_norm": 0.7425496578216553, + "learning_rate": 2.277951546762586e-06, + "loss": 0.0077, + "num_input_tokens_seen": 23421984, + "step": 11963 + }, + { + "epoch": 1.585685884691849, + "grad_norm": 7.739573955535889, + "learning_rate": 2.2776057835684484e-06, + "loss": 0.2317, + "num_input_tokens_seen": 23424104, + "step": 11964 + }, + { + "epoch": 1.585818422796554, + "grad_norm": 0.1579480618238449, + "learning_rate": 2.2772600246622235e-06, + "loss": 0.0011, + "num_input_tokens_seen": 23427024, + "step": 11965 + }, + { + "epoch": 1.585950960901259, + "grad_norm": 6.025252819061279, + "learning_rate": 2.2769142700505798e-06, + "loss": 0.1281, + "num_input_tokens_seen": 23428712, + "step": 11966 + }, + { + "epoch": 1.5860834990059642, + "grad_norm": 3.7656054496765137, + "learning_rate": 2.2765685197401825e-06, + "loss": 0.0312, + "num_input_tokens_seen": 23431160, + "step": 11967 + }, + { + "epoch": 1.5862160371106693, + "grad_norm": 0.3239903151988983, + "learning_rate": 2.2762227737376986e-06, + "loss": 0.0023, + "num_input_tokens_seen": 23432720, + "step": 11968 + }, + { + "epoch": 1.5863485752153745, + "grad_norm": 6.767882823944092, + "learning_rate": 2.275877032049794e-06, + "loss": 0.1052, + "num_input_tokens_seen": 23435072, + "step": 11969 + }, + { + "epoch": 1.5864811133200796, + "grad_norm": 13.696349143981934, + "learning_rate": 2.275531294683135e-06, + "loss": 0.3848, + "num_input_tokens_seen": 23437320, + "step": 11970 + }, + { + "epoch": 1.5866136514247846, + "grad_norm": 0.4737248718738556, + "learning_rate": 2.2751855616443865e-06, + "loss": 0.004, + "num_input_tokens_seen": 23438672, + "step": 11971 + }, + { + "epoch": 1.5867461895294896, + "grad_norm": 1.248619556427002, + "learning_rate": 2.2748398329402166e-06, + "loss": 0.0078, + "num_input_tokens_seen": 23440456, + "step": 11972 + }, + { + "epoch": 1.5868787276341947, + "grad_norm": 2.4747486114501953, + "learning_rate": 2.274494108577289e-06, + "loss": 0.0157, + "num_input_tokens_seen": 23442312, + "step": 11973 + }, + { + "epoch": 1.5870112657389, + "grad_norm": 3.581362009048462, + "learning_rate": 2.274148388562272e-06, + "loss": 0.0611, + "num_input_tokens_seen": 23444000, + "step": 11974 + }, + { + "epoch": 1.587143803843605, + "grad_norm": 0.11212000250816345, + "learning_rate": 2.2738026729018285e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23446304, + "step": 11975 + }, + { + "epoch": 1.5872763419483102, + "grad_norm": 2.074960708618164, + "learning_rate": 2.2734569616026254e-06, + "loss": 0.0198, + "num_input_tokens_seen": 23448416, + "step": 11976 + }, + { + "epoch": 1.5874088800530153, + "grad_norm": 2.1159725189208984, + "learning_rate": 2.2731112546713298e-06, + "loss": 0.0308, + "num_input_tokens_seen": 23450048, + "step": 11977 + }, + { + "epoch": 1.5875414181577203, + "grad_norm": 7.115092754364014, + "learning_rate": 2.272765552114605e-06, + "loss": 0.1194, + "num_input_tokens_seen": 23452120, + "step": 11978 + }, + { + "epoch": 1.5876739562624254, + "grad_norm": 6.320615291595459, + "learning_rate": 2.2724198539391172e-06, + "loss": 0.1532, + "num_input_tokens_seen": 23453704, + "step": 11979 + }, + { + "epoch": 1.5878064943671304, + "grad_norm": 2.811638116836548, + "learning_rate": 2.2720741601515318e-06, + "loss": 0.0388, + "num_input_tokens_seen": 23455464, + "step": 11980 + }, + { + "epoch": 1.5879390324718357, + "grad_norm": 6.016495227813721, + "learning_rate": 2.271728470758513e-06, + "loss": 0.0564, + "num_input_tokens_seen": 23457648, + "step": 11981 + }, + { + "epoch": 1.588071570576541, + "grad_norm": 1.3111093044281006, + "learning_rate": 2.2713827857667267e-06, + "loss": 0.0237, + "num_input_tokens_seen": 23458960, + "step": 11982 + }, + { + "epoch": 1.588204108681246, + "grad_norm": 0.14139525592327118, + "learning_rate": 2.271037105182839e-06, + "loss": 0.001, + "num_input_tokens_seen": 23461624, + "step": 11983 + }, + { + "epoch": 1.588336646785951, + "grad_norm": 5.6465349197387695, + "learning_rate": 2.270691429013513e-06, + "loss": 0.0891, + "num_input_tokens_seen": 23463280, + "step": 11984 + }, + { + "epoch": 1.588469184890656, + "grad_norm": 12.565289497375488, + "learning_rate": 2.2703457572654156e-06, + "loss": 0.4484, + "num_input_tokens_seen": 23466072, + "step": 11985 + }, + { + "epoch": 1.588601722995361, + "grad_norm": 4.7015252113342285, + "learning_rate": 2.2700000899452092e-06, + "loss": 0.0434, + "num_input_tokens_seen": 23468232, + "step": 11986 + }, + { + "epoch": 1.588734261100066, + "grad_norm": 13.96502685546875, + "learning_rate": 2.2696544270595604e-06, + "loss": 0.2317, + "num_input_tokens_seen": 23470192, + "step": 11987 + }, + { + "epoch": 1.5888667992047714, + "grad_norm": 3.691803455352783, + "learning_rate": 2.2693087686151328e-06, + "loss": 0.0803, + "num_input_tokens_seen": 23472304, + "step": 11988 + }, + { + "epoch": 1.5889993373094766, + "grad_norm": 0.108022540807724, + "learning_rate": 2.268963114618592e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23473744, + "step": 11989 + }, + { + "epoch": 1.5891318754141817, + "grad_norm": 5.816701889038086, + "learning_rate": 2.268617465076601e-06, + "loss": 0.0995, + "num_input_tokens_seen": 23475424, + "step": 11990 + }, + { + "epoch": 1.5892644135188867, + "grad_norm": 2.1570260524749756, + "learning_rate": 2.2682718199958243e-06, + "loss": 0.058, + "num_input_tokens_seen": 23478064, + "step": 11991 + }, + { + "epoch": 1.5893969516235917, + "grad_norm": 0.9933966398239136, + "learning_rate": 2.267926179382928e-06, + "loss": 0.0086, + "num_input_tokens_seen": 23479568, + "step": 11992 + }, + { + "epoch": 1.5895294897282968, + "grad_norm": 14.166241645812988, + "learning_rate": 2.2675805432445743e-06, + "loss": 0.2075, + "num_input_tokens_seen": 23481696, + "step": 11993 + }, + { + "epoch": 1.589662027833002, + "grad_norm": 16.522523880004883, + "learning_rate": 2.267234911587429e-06, + "loss": 0.4768, + "num_input_tokens_seen": 23484376, + "step": 11994 + }, + { + "epoch": 1.589794565937707, + "grad_norm": 0.32498085498809814, + "learning_rate": 2.266889284418155e-06, + "loss": 0.0023, + "num_input_tokens_seen": 23486512, + "step": 11995 + }, + { + "epoch": 1.5899271040424123, + "grad_norm": 0.043517787009477615, + "learning_rate": 2.266543661743416e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23488208, + "step": 11996 + }, + { + "epoch": 1.5900596421471174, + "grad_norm": 3.0836009979248047, + "learning_rate": 2.266198043569875e-06, + "loss": 0.013, + "num_input_tokens_seen": 23489824, + "step": 11997 + }, + { + "epoch": 1.5901921802518224, + "grad_norm": 0.045807354152202606, + "learning_rate": 2.265852429904199e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23491776, + "step": 11998 + }, + { + "epoch": 1.5903247183565274, + "grad_norm": 8.787790298461914, + "learning_rate": 2.2655068207530486e-06, + "loss": 0.1947, + "num_input_tokens_seen": 23494568, + "step": 11999 + }, + { + "epoch": 1.5904572564612325, + "grad_norm": 12.732240676879883, + "learning_rate": 2.2651612161230894e-06, + "loss": 0.178, + "num_input_tokens_seen": 23497144, + "step": 12000 + }, + { + "epoch": 1.5905897945659377, + "grad_norm": 6.9903340339660645, + "learning_rate": 2.2648156160209838e-06, + "loss": 0.0812, + "num_input_tokens_seen": 23499120, + "step": 12001 + }, + { + "epoch": 1.5907223326706428, + "grad_norm": 10.034601211547852, + "learning_rate": 2.2644700204533945e-06, + "loss": 0.192, + "num_input_tokens_seen": 23501688, + "step": 12002 + }, + { + "epoch": 1.590854870775348, + "grad_norm": 0.11681302636861801, + "learning_rate": 2.2641244294269855e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23503840, + "step": 12003 + }, + { + "epoch": 1.590987408880053, + "grad_norm": 4.4627909660339355, + "learning_rate": 2.2637788429484215e-06, + "loss": 0.068, + "num_input_tokens_seen": 23506216, + "step": 12004 + }, + { + "epoch": 1.5911199469847581, + "grad_norm": 5.976934432983398, + "learning_rate": 2.2634332610243633e-06, + "loss": 0.1195, + "num_input_tokens_seen": 23508312, + "step": 12005 + }, + { + "epoch": 1.5912524850894632, + "grad_norm": 0.0939573273062706, + "learning_rate": 2.263087683661476e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23510160, + "step": 12006 + }, + { + "epoch": 1.5913850231941682, + "grad_norm": 0.2906567454338074, + "learning_rate": 2.2627421108664203e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23512960, + "step": 12007 + }, + { + "epoch": 1.5915175612988735, + "grad_norm": 6.636651039123535, + "learning_rate": 2.262396542645861e-06, + "loss": 0.1029, + "num_input_tokens_seen": 23515040, + "step": 12008 + }, + { + "epoch": 1.5916500994035785, + "grad_norm": 4.221116542816162, + "learning_rate": 2.262050979006461e-06, + "loss": 0.0411, + "num_input_tokens_seen": 23517824, + "step": 12009 + }, + { + "epoch": 1.5917826375082837, + "grad_norm": 0.06319459527730942, + "learning_rate": 2.261705419954882e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23520768, + "step": 12010 + }, + { + "epoch": 1.5919151756129888, + "grad_norm": 0.10651376098394394, + "learning_rate": 2.261359865497786e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23523056, + "step": 12011 + }, + { + "epoch": 1.5920477137176938, + "grad_norm": 0.1507127285003662, + "learning_rate": 2.2610143156418367e-06, + "loss": 0.0009, + "num_input_tokens_seen": 23524640, + "step": 12012 + }, + { + "epoch": 1.5921802518223989, + "grad_norm": 10.325170516967773, + "learning_rate": 2.2606687703936965e-06, + "loss": 0.2528, + "num_input_tokens_seen": 23527560, + "step": 12013 + }, + { + "epoch": 1.592312789927104, + "grad_norm": 9.946887016296387, + "learning_rate": 2.2603232297600275e-06, + "loss": 0.1841, + "num_input_tokens_seen": 23529936, + "step": 12014 + }, + { + "epoch": 1.5924453280318092, + "grad_norm": 5.147143840789795, + "learning_rate": 2.259977693747493e-06, + "loss": 0.1389, + "num_input_tokens_seen": 23531896, + "step": 12015 + }, + { + "epoch": 1.5925778661365142, + "grad_norm": 1.8185546398162842, + "learning_rate": 2.259632162362753e-06, + "loss": 0.0165, + "num_input_tokens_seen": 23533496, + "step": 12016 + }, + { + "epoch": 1.5927104042412195, + "grad_norm": 2.1618411540985107, + "learning_rate": 2.25928663561247e-06, + "loss": 0.0456, + "num_input_tokens_seen": 23534992, + "step": 12017 + }, + { + "epoch": 1.5928429423459245, + "grad_norm": 11.428789138793945, + "learning_rate": 2.2589411135033074e-06, + "loss": 0.1621, + "num_input_tokens_seen": 23536712, + "step": 12018 + }, + { + "epoch": 1.5929754804506295, + "grad_norm": 0.06381946057081223, + "learning_rate": 2.2585955960419273e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23538400, + "step": 12019 + }, + { + "epoch": 1.5931080185553346, + "grad_norm": 7.035248279571533, + "learning_rate": 2.2582500832349897e-06, + "loss": 0.171, + "num_input_tokens_seen": 23540568, + "step": 12020 + }, + { + "epoch": 1.5932405566600396, + "grad_norm": 10.3733491897583, + "learning_rate": 2.257904575089158e-06, + "loss": 0.2688, + "num_input_tokens_seen": 23542640, + "step": 12021 + }, + { + "epoch": 1.5933730947647449, + "grad_norm": 4.812440872192383, + "learning_rate": 2.2575590716110924e-06, + "loss": 0.0202, + "num_input_tokens_seen": 23545248, + "step": 12022 + }, + { + "epoch": 1.5935056328694501, + "grad_norm": 4.870852947235107, + "learning_rate": 2.257213572807455e-06, + "loss": 0.0537, + "num_input_tokens_seen": 23547008, + "step": 12023 + }, + { + "epoch": 1.5936381709741552, + "grad_norm": 3.8645684719085693, + "learning_rate": 2.2568680786849083e-06, + "loss": 0.0597, + "num_input_tokens_seen": 23548656, + "step": 12024 + }, + { + "epoch": 1.5937707090788602, + "grad_norm": 0.41583776473999023, + "learning_rate": 2.2565225892501127e-06, + "loss": 0.0028, + "num_input_tokens_seen": 23549888, + "step": 12025 + }, + { + "epoch": 1.5939032471835652, + "grad_norm": 0.04926043003797531, + "learning_rate": 2.2561771045097292e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23551088, + "step": 12026 + }, + { + "epoch": 1.5940357852882703, + "grad_norm": 0.017140159383416176, + "learning_rate": 2.2558316244704197e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23552280, + "step": 12027 + }, + { + "epoch": 1.5941683233929753, + "grad_norm": 6.090574264526367, + "learning_rate": 2.2554861491388434e-06, + "loss": 0.0491, + "num_input_tokens_seen": 23555104, + "step": 12028 + }, + { + "epoch": 1.5943008614976806, + "grad_norm": 0.07023546099662781, + "learning_rate": 2.255140678521664e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23556480, + "step": 12029 + }, + { + "epoch": 1.5944333996023858, + "grad_norm": 9.635007858276367, + "learning_rate": 2.2547952126255414e-06, + "loss": 0.1734, + "num_input_tokens_seen": 23558264, + "step": 12030 + }, + { + "epoch": 1.5945659377070909, + "grad_norm": 0.06144785135984421, + "learning_rate": 2.254449751457136e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23560264, + "step": 12031 + }, + { + "epoch": 1.594698475811796, + "grad_norm": 7.15757417678833, + "learning_rate": 2.2541042950231093e-06, + "loss": 0.142, + "num_input_tokens_seen": 23563328, + "step": 12032 + }, + { + "epoch": 1.594831013916501, + "grad_norm": 11.77768611907959, + "learning_rate": 2.2537588433301203e-06, + "loss": 0.1332, + "num_input_tokens_seen": 23565016, + "step": 12033 + }, + { + "epoch": 1.594963552021206, + "grad_norm": 7.994359016418457, + "learning_rate": 2.2534133963848314e-06, + "loss": 0.1303, + "num_input_tokens_seen": 23566696, + "step": 12034 + }, + { + "epoch": 1.5950960901259112, + "grad_norm": 2.325803279876709, + "learning_rate": 2.2530679541939024e-06, + "loss": 0.0321, + "num_input_tokens_seen": 23568384, + "step": 12035 + }, + { + "epoch": 1.5952286282306163, + "grad_norm": 3.0436060428619385, + "learning_rate": 2.2527225167639936e-06, + "loss": 0.0304, + "num_input_tokens_seen": 23570288, + "step": 12036 + }, + { + "epoch": 1.5953611663353215, + "grad_norm": 0.03247248753905296, + "learning_rate": 2.252377084101765e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23571648, + "step": 12037 + }, + { + "epoch": 1.5954937044400266, + "grad_norm": 4.5432448387146, + "learning_rate": 2.2520316562138765e-06, + "loss": 0.0422, + "num_input_tokens_seen": 23574200, + "step": 12038 + }, + { + "epoch": 1.5956262425447316, + "grad_norm": 4.093209266662598, + "learning_rate": 2.25168623310699e-06, + "loss": 0.1059, + "num_input_tokens_seen": 23576048, + "step": 12039 + }, + { + "epoch": 1.5957587806494367, + "grad_norm": 11.41279125213623, + "learning_rate": 2.251340814787764e-06, + "loss": 0.2318, + "num_input_tokens_seen": 23578136, + "step": 12040 + }, + { + "epoch": 1.5958913187541417, + "grad_norm": 9.939678192138672, + "learning_rate": 2.250995401262858e-06, + "loss": 0.3404, + "num_input_tokens_seen": 23579720, + "step": 12041 + }, + { + "epoch": 1.596023856858847, + "grad_norm": 19.935405731201172, + "learning_rate": 2.250649992538933e-06, + "loss": 0.1322, + "num_input_tokens_seen": 23581400, + "step": 12042 + }, + { + "epoch": 1.596156394963552, + "grad_norm": 3.9748375415802, + "learning_rate": 2.250304588622647e-06, + "loss": 0.0503, + "num_input_tokens_seen": 23583840, + "step": 12043 + }, + { + "epoch": 1.5962889330682573, + "grad_norm": 9.957401275634766, + "learning_rate": 2.2499591895206616e-06, + "loss": 0.0559, + "num_input_tokens_seen": 23585616, + "step": 12044 + }, + { + "epoch": 1.5964214711729623, + "grad_norm": 3.113889694213867, + "learning_rate": 2.249613795239636e-06, + "loss": 0.0319, + "num_input_tokens_seen": 23589016, + "step": 12045 + }, + { + "epoch": 1.5965540092776673, + "grad_norm": 8.364652633666992, + "learning_rate": 2.2492684057862285e-06, + "loss": 0.1706, + "num_input_tokens_seen": 23590984, + "step": 12046 + }, + { + "epoch": 1.5966865473823724, + "grad_norm": 13.393416404724121, + "learning_rate": 2.2489230211671e-06, + "loss": 0.1564, + "num_input_tokens_seen": 23592888, + "step": 12047 + }, + { + "epoch": 1.5968190854870774, + "grad_norm": 2.425830602645874, + "learning_rate": 2.248577641388907e-06, + "loss": 0.0155, + "num_input_tokens_seen": 23594240, + "step": 12048 + }, + { + "epoch": 1.5969516235917827, + "grad_norm": 9.745949745178223, + "learning_rate": 2.2482322664583125e-06, + "loss": 0.1156, + "num_input_tokens_seen": 23596344, + "step": 12049 + }, + { + "epoch": 1.5970841616964877, + "grad_norm": 0.1863100528717041, + "learning_rate": 2.2478868963819725e-06, + "loss": 0.0011, + "num_input_tokens_seen": 23597784, + "step": 12050 + }, + { + "epoch": 1.597216699801193, + "grad_norm": 5.555985450744629, + "learning_rate": 2.247541531166548e-06, + "loss": 0.0306, + "num_input_tokens_seen": 23599744, + "step": 12051 + }, + { + "epoch": 1.597349237905898, + "grad_norm": 7.286861419677734, + "learning_rate": 2.247196170818696e-06, + "loss": 0.0855, + "num_input_tokens_seen": 23601440, + "step": 12052 + }, + { + "epoch": 1.597481776010603, + "grad_norm": 0.03255829960107803, + "learning_rate": 2.246850815345077e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23603024, + "step": 12053 + }, + { + "epoch": 1.597614314115308, + "grad_norm": 10.03581428527832, + "learning_rate": 2.2465054647523477e-06, + "loss": 0.2557, + "num_input_tokens_seen": 23605136, + "step": 12054 + }, + { + "epoch": 1.5977468522200131, + "grad_norm": 12.676031112670898, + "learning_rate": 2.2461601190471688e-06, + "loss": 0.225, + "num_input_tokens_seen": 23608496, + "step": 12055 + }, + { + "epoch": 1.5978793903247184, + "grad_norm": 5.926129341125488, + "learning_rate": 2.245814778236198e-06, + "loss": 0.0662, + "num_input_tokens_seen": 23611240, + "step": 12056 + }, + { + "epoch": 1.5980119284294234, + "grad_norm": 4.3048810958862305, + "learning_rate": 2.2454694423260935e-06, + "loss": 0.0966, + "num_input_tokens_seen": 23614336, + "step": 12057 + }, + { + "epoch": 1.5981444665341287, + "grad_norm": 0.2580191195011139, + "learning_rate": 2.2451241113235134e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23616680, + "step": 12058 + }, + { + "epoch": 1.5982770046388337, + "grad_norm": 10.080615043640137, + "learning_rate": 2.244778785235116e-06, + "loss": 0.1924, + "num_input_tokens_seen": 23619168, + "step": 12059 + }, + { + "epoch": 1.5984095427435387, + "grad_norm": 2.785395622253418, + "learning_rate": 2.2444334640675605e-06, + "loss": 0.0168, + "num_input_tokens_seen": 23620712, + "step": 12060 + }, + { + "epoch": 1.5985420808482438, + "grad_norm": 13.239164352416992, + "learning_rate": 2.2440881478275035e-06, + "loss": 0.4522, + "num_input_tokens_seen": 23622944, + "step": 12061 + }, + { + "epoch": 1.5986746189529488, + "grad_norm": 5.530117034912109, + "learning_rate": 2.2437428365216048e-06, + "loss": 0.0441, + "num_input_tokens_seen": 23624376, + "step": 12062 + }, + { + "epoch": 1.598807157057654, + "grad_norm": 2.131474018096924, + "learning_rate": 2.2433975301565204e-06, + "loss": 0.0513, + "num_input_tokens_seen": 23626312, + "step": 12063 + }, + { + "epoch": 1.5989396951623593, + "grad_norm": 4.599630832672119, + "learning_rate": 2.243052228738907e-06, + "loss": 0.0557, + "num_input_tokens_seen": 23628120, + "step": 12064 + }, + { + "epoch": 1.5990722332670644, + "grad_norm": 1.8975003957748413, + "learning_rate": 2.2427069322754253e-06, + "loss": 0.0291, + "num_input_tokens_seen": 23630120, + "step": 12065 + }, + { + "epoch": 1.5992047713717694, + "grad_norm": 1.3744724988937378, + "learning_rate": 2.2423616407727317e-06, + "loss": 0.0262, + "num_input_tokens_seen": 23631912, + "step": 12066 + }, + { + "epoch": 1.5993373094764745, + "grad_norm": 1.3285212516784668, + "learning_rate": 2.242016354237483e-06, + "loss": 0.0086, + "num_input_tokens_seen": 23633504, + "step": 12067 + }, + { + "epoch": 1.5994698475811795, + "grad_norm": 0.34640151262283325, + "learning_rate": 2.2416710726763373e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23634936, + "step": 12068 + }, + { + "epoch": 1.5996023856858845, + "grad_norm": 6.452073574066162, + "learning_rate": 2.241325796095951e-06, + "loss": 0.1873, + "num_input_tokens_seen": 23637376, + "step": 12069 + }, + { + "epoch": 1.5997349237905898, + "grad_norm": 2.916264533996582, + "learning_rate": 2.2409805245029816e-06, + "loss": 0.0114, + "num_input_tokens_seen": 23638984, + "step": 12070 + }, + { + "epoch": 1.599867461895295, + "grad_norm": 16.574281692504883, + "learning_rate": 2.240635257904087e-06, + "loss": 0.2884, + "num_input_tokens_seen": 23641584, + "step": 12071 + }, + { + "epoch": 1.6, + "grad_norm": 0.5606725811958313, + "learning_rate": 2.2402899963059243e-06, + "loss": 0.0095, + "num_input_tokens_seen": 23643232, + "step": 12072 + }, + { + "epoch": 1.6001325381047051, + "grad_norm": 4.341292381286621, + "learning_rate": 2.2399447397151483e-06, + "loss": 0.0386, + "num_input_tokens_seen": 23644632, + "step": 12073 + }, + { + "epoch": 1.6002650762094102, + "grad_norm": 2.5793914794921875, + "learning_rate": 2.2395994881384166e-06, + "loss": 0.045, + "num_input_tokens_seen": 23646016, + "step": 12074 + }, + { + "epoch": 1.6003976143141152, + "grad_norm": 1.784447431564331, + "learning_rate": 2.239254241582388e-06, + "loss": 0.0264, + "num_input_tokens_seen": 23648408, + "step": 12075 + }, + { + "epoch": 1.6005301524188205, + "grad_norm": 11.753952026367188, + "learning_rate": 2.2389090000537166e-06, + "loss": 0.1769, + "num_input_tokens_seen": 23650296, + "step": 12076 + }, + { + "epoch": 1.6006626905235255, + "grad_norm": 3.830230236053467, + "learning_rate": 2.2385637635590604e-06, + "loss": 0.1603, + "num_input_tokens_seen": 23651904, + "step": 12077 + }, + { + "epoch": 1.6007952286282308, + "grad_norm": 16.25090980529785, + "learning_rate": 2.238218532105075e-06, + "loss": 0.2608, + "num_input_tokens_seen": 23654064, + "step": 12078 + }, + { + "epoch": 1.6009277667329358, + "grad_norm": 0.06424489617347717, + "learning_rate": 2.2378733056984166e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23656296, + "step": 12079 + }, + { + "epoch": 1.6010603048376408, + "grad_norm": 18.754308700561523, + "learning_rate": 2.2375280843457415e-06, + "loss": 0.2702, + "num_input_tokens_seen": 23658752, + "step": 12080 + }, + { + "epoch": 1.6011928429423459, + "grad_norm": 0.4402199685573578, + "learning_rate": 2.2371828680537066e-06, + "loss": 0.0019, + "num_input_tokens_seen": 23660688, + "step": 12081 + }, + { + "epoch": 1.601325381047051, + "grad_norm": 2.9767754077911377, + "learning_rate": 2.2368376568289667e-06, + "loss": 0.038, + "num_input_tokens_seen": 23662664, + "step": 12082 + }, + { + "epoch": 1.6014579191517562, + "grad_norm": 3.2979800701141357, + "learning_rate": 2.2364924506781795e-06, + "loss": 0.0462, + "num_input_tokens_seen": 23663872, + "step": 12083 + }, + { + "epoch": 1.6015904572564612, + "grad_norm": 0.8572508692741394, + "learning_rate": 2.2361472496079984e-06, + "loss": 0.0084, + "num_input_tokens_seen": 23665096, + "step": 12084 + }, + { + "epoch": 1.6017229953611665, + "grad_norm": 0.3461538553237915, + "learning_rate": 2.2358020536250802e-06, + "loss": 0.0021, + "num_input_tokens_seen": 23666456, + "step": 12085 + }, + { + "epoch": 1.6018555334658715, + "grad_norm": 0.012356928549706936, + "learning_rate": 2.2354568627360814e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23667640, + "step": 12086 + }, + { + "epoch": 1.6019880715705765, + "grad_norm": 0.007093160878866911, + "learning_rate": 2.235111676947657e-06, + "loss": 0.0, + "num_input_tokens_seen": 23669040, + "step": 12087 + }, + { + "epoch": 1.6021206096752816, + "grad_norm": 11.110785484313965, + "learning_rate": 2.2347664962664615e-06, + "loss": 0.168, + "num_input_tokens_seen": 23672136, + "step": 12088 + }, + { + "epoch": 1.6022531477799866, + "grad_norm": 4.414505958557129, + "learning_rate": 2.234421320699152e-06, + "loss": 0.0555, + "num_input_tokens_seen": 23674040, + "step": 12089 + }, + { + "epoch": 1.6023856858846919, + "grad_norm": 14.67821979522705, + "learning_rate": 2.234076150252381e-06, + "loss": 0.3394, + "num_input_tokens_seen": 23675800, + "step": 12090 + }, + { + "epoch": 1.602518223989397, + "grad_norm": 9.597174644470215, + "learning_rate": 2.233730984932806e-06, + "loss": 0.2338, + "num_input_tokens_seen": 23677872, + "step": 12091 + }, + { + "epoch": 1.6026507620941022, + "grad_norm": 10.621548652648926, + "learning_rate": 2.2333858247470817e-06, + "loss": 0.0426, + "num_input_tokens_seen": 23679944, + "step": 12092 + }, + { + "epoch": 1.6027833001988072, + "grad_norm": 8.552433013916016, + "learning_rate": 2.233040669701863e-06, + "loss": 0.2142, + "num_input_tokens_seen": 23682248, + "step": 12093 + }, + { + "epoch": 1.6029158383035123, + "grad_norm": 17.8165225982666, + "learning_rate": 2.2326955198038035e-06, + "loss": 0.1476, + "num_input_tokens_seen": 23684192, + "step": 12094 + }, + { + "epoch": 1.6030483764082173, + "grad_norm": 3.8980014324188232, + "learning_rate": 2.2323503750595584e-06, + "loss": 0.069, + "num_input_tokens_seen": 23685968, + "step": 12095 + }, + { + "epoch": 1.6031809145129223, + "grad_norm": 4.095605850219727, + "learning_rate": 2.232005235475784e-06, + "loss": 0.0695, + "num_input_tokens_seen": 23688008, + "step": 12096 + }, + { + "epoch": 1.6033134526176276, + "grad_norm": 0.07420234382152557, + "learning_rate": 2.2316601010591324e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23689200, + "step": 12097 + }, + { + "epoch": 1.6034459907223326, + "grad_norm": 17.663143157958984, + "learning_rate": 2.23131497181626e-06, + "loss": 0.4008, + "num_input_tokens_seen": 23691528, + "step": 12098 + }, + { + "epoch": 1.6035785288270379, + "grad_norm": 5.747623443603516, + "learning_rate": 2.23096984775382e-06, + "loss": 0.1598, + "num_input_tokens_seen": 23693224, + "step": 12099 + }, + { + "epoch": 1.603711066931743, + "grad_norm": 0.09166564792394638, + "learning_rate": 2.230624728878466e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23694736, + "step": 12100 + }, + { + "epoch": 1.603843605036448, + "grad_norm": 5.317575454711914, + "learning_rate": 2.230279615196854e-06, + "loss": 0.1417, + "num_input_tokens_seen": 23696600, + "step": 12101 + }, + { + "epoch": 1.603976143141153, + "grad_norm": 4.6134538650512695, + "learning_rate": 2.229934506715638e-06, + "loss": 0.0453, + "num_input_tokens_seen": 23698768, + "step": 12102 + }, + { + "epoch": 1.604108681245858, + "grad_norm": 10.47490119934082, + "learning_rate": 2.2295894034414698e-06, + "loss": 0.2076, + "num_input_tokens_seen": 23701032, + "step": 12103 + }, + { + "epoch": 1.6042412193505633, + "grad_norm": 0.7334733009338379, + "learning_rate": 2.229244305381005e-06, + "loss": 0.0076, + "num_input_tokens_seen": 23702520, + "step": 12104 + }, + { + "epoch": 1.6043737574552683, + "grad_norm": 7.444337844848633, + "learning_rate": 2.228899212540896e-06, + "loss": 0.2234, + "num_input_tokens_seen": 23704664, + "step": 12105 + }, + { + "epoch": 1.6045062955599736, + "grad_norm": 0.06223238632082939, + "learning_rate": 2.2285541249277973e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23706016, + "step": 12106 + }, + { + "epoch": 1.6046388336646786, + "grad_norm": 12.7566556930542, + "learning_rate": 2.228209042548363e-06, + "loss": 0.2054, + "num_input_tokens_seen": 23708592, + "step": 12107 + }, + { + "epoch": 1.6047713717693837, + "grad_norm": 0.07718707621097565, + "learning_rate": 2.2278639654092456e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23710488, + "step": 12108 + }, + { + "epoch": 1.6049039098740887, + "grad_norm": 4.496670722961426, + "learning_rate": 2.227518893517099e-06, + "loss": 0.1394, + "num_input_tokens_seen": 23712448, + "step": 12109 + }, + { + "epoch": 1.6050364479787937, + "grad_norm": 12.513678550720215, + "learning_rate": 2.227173826878575e-06, + "loss": 0.1975, + "num_input_tokens_seen": 23714136, + "step": 12110 + }, + { + "epoch": 1.605168986083499, + "grad_norm": 12.951325416564941, + "learning_rate": 2.226828765500329e-06, + "loss": 0.3007, + "num_input_tokens_seen": 23716624, + "step": 12111 + }, + { + "epoch": 1.6053015241882043, + "grad_norm": 7.823023796081543, + "learning_rate": 2.226483709389012e-06, + "loss": 0.0918, + "num_input_tokens_seen": 23718376, + "step": 12112 + }, + { + "epoch": 1.6054340622929093, + "grad_norm": 6.269279479980469, + "learning_rate": 2.2261386585512787e-06, + "loss": 0.135, + "num_input_tokens_seen": 23720416, + "step": 12113 + }, + { + "epoch": 1.6055666003976143, + "grad_norm": 8.583213806152344, + "learning_rate": 2.2257936129937806e-06, + "loss": 0.2076, + "num_input_tokens_seen": 23723056, + "step": 12114 + }, + { + "epoch": 1.6056991385023194, + "grad_norm": 5.151157379150391, + "learning_rate": 2.225448572723171e-06, + "loss": 0.1087, + "num_input_tokens_seen": 23724376, + "step": 12115 + }, + { + "epoch": 1.6058316766070244, + "grad_norm": 4.307162761688232, + "learning_rate": 2.2251035377461015e-06, + "loss": 0.041, + "num_input_tokens_seen": 23725952, + "step": 12116 + }, + { + "epoch": 1.6059642147117297, + "grad_norm": 3.728837251663208, + "learning_rate": 2.224758508069226e-06, + "loss": 0.0468, + "num_input_tokens_seen": 23727456, + "step": 12117 + }, + { + "epoch": 1.6060967528164347, + "grad_norm": 0.5464895367622375, + "learning_rate": 2.224413483699196e-06, + "loss": 0.0043, + "num_input_tokens_seen": 23729256, + "step": 12118 + }, + { + "epoch": 1.60622929092114, + "grad_norm": 4.899016857147217, + "learning_rate": 2.224068464642665e-06, + "loss": 0.0786, + "num_input_tokens_seen": 23732024, + "step": 12119 + }, + { + "epoch": 1.606361829025845, + "grad_norm": 14.704739570617676, + "learning_rate": 2.223723450906284e-06, + "loss": 0.6352, + "num_input_tokens_seen": 23735016, + "step": 12120 + }, + { + "epoch": 1.60649436713055, + "grad_norm": 9.16898250579834, + "learning_rate": 2.2233784424967045e-06, + "loss": 0.2791, + "num_input_tokens_seen": 23736784, + "step": 12121 + }, + { + "epoch": 1.606626905235255, + "grad_norm": 2.2359039783477783, + "learning_rate": 2.2230334394205807e-06, + "loss": 0.0458, + "num_input_tokens_seen": 23738264, + "step": 12122 + }, + { + "epoch": 1.6067594433399601, + "grad_norm": 0.3673429787158966, + "learning_rate": 2.2226884416845625e-06, + "loss": 0.0048, + "num_input_tokens_seen": 23739744, + "step": 12123 + }, + { + "epoch": 1.6068919814446654, + "grad_norm": 7.755154609680176, + "learning_rate": 2.222343449295303e-06, + "loss": 0.1323, + "num_input_tokens_seen": 23742312, + "step": 12124 + }, + { + "epoch": 1.6070245195493704, + "grad_norm": 6.227529048919678, + "learning_rate": 2.2219984622594536e-06, + "loss": 0.1242, + "num_input_tokens_seen": 23744384, + "step": 12125 + }, + { + "epoch": 1.6071570576540757, + "grad_norm": 0.8258019089698792, + "learning_rate": 2.2216534805836642e-06, + "loss": 0.004, + "num_input_tokens_seen": 23747992, + "step": 12126 + }, + { + "epoch": 1.6072895957587807, + "grad_norm": 12.757667541503906, + "learning_rate": 2.2213085042745888e-06, + "loss": 0.2904, + "num_input_tokens_seen": 23750440, + "step": 12127 + }, + { + "epoch": 1.6074221338634858, + "grad_norm": 11.85292911529541, + "learning_rate": 2.2209635333388777e-06, + "loss": 0.202, + "num_input_tokens_seen": 23752408, + "step": 12128 + }, + { + "epoch": 1.6075546719681908, + "grad_norm": 0.10564951598644257, + "learning_rate": 2.220618567783182e-06, + "loss": 0.0007, + "num_input_tokens_seen": 23753760, + "step": 12129 + }, + { + "epoch": 1.6076872100728958, + "grad_norm": 7.963826656341553, + "learning_rate": 2.2202736076141533e-06, + "loss": 0.1918, + "num_input_tokens_seen": 23755616, + "step": 12130 + }, + { + "epoch": 1.607819748177601, + "grad_norm": 4.999587059020996, + "learning_rate": 2.2199286528384414e-06, + "loss": 0.0739, + "num_input_tokens_seen": 23757544, + "step": 12131 + }, + { + "epoch": 1.6079522862823061, + "grad_norm": 7.816965579986572, + "learning_rate": 2.2195837034626995e-06, + "loss": 0.1504, + "num_input_tokens_seen": 23759440, + "step": 12132 + }, + { + "epoch": 1.6080848243870114, + "grad_norm": 8.595309257507324, + "learning_rate": 2.219238759493577e-06, + "loss": 0.14, + "num_input_tokens_seen": 23761608, + "step": 12133 + }, + { + "epoch": 1.6082173624917164, + "grad_norm": 6.3340535163879395, + "learning_rate": 2.218893820937725e-06, + "loss": 0.0514, + "num_input_tokens_seen": 23763184, + "step": 12134 + }, + { + "epoch": 1.6083499005964215, + "grad_norm": 0.1750938892364502, + "learning_rate": 2.2185488878017934e-06, + "loss": 0.0013, + "num_input_tokens_seen": 23765240, + "step": 12135 + }, + { + "epoch": 1.6084824387011265, + "grad_norm": 1.368272304534912, + "learning_rate": 2.218203960092433e-06, + "loss": 0.0114, + "num_input_tokens_seen": 23766736, + "step": 12136 + }, + { + "epoch": 1.6086149768058315, + "grad_norm": 0.23667441308498383, + "learning_rate": 2.2178590378162957e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23768176, + "step": 12137 + }, + { + "epoch": 1.6087475149105368, + "grad_norm": 1.089863896369934, + "learning_rate": 2.2175141209800306e-06, + "loss": 0.0076, + "num_input_tokens_seen": 23770864, + "step": 12138 + }, + { + "epoch": 1.6088800530152418, + "grad_norm": 4.311971664428711, + "learning_rate": 2.2171692095902885e-06, + "loss": 0.0177, + "num_input_tokens_seen": 23772016, + "step": 12139 + }, + { + "epoch": 1.609012591119947, + "grad_norm": 2.144955635070801, + "learning_rate": 2.216824303653719e-06, + "loss": 0.0117, + "num_input_tokens_seen": 23773832, + "step": 12140 + }, + { + "epoch": 1.6091451292246521, + "grad_norm": 0.579552173614502, + "learning_rate": 2.2164794031769717e-06, + "loss": 0.004, + "num_input_tokens_seen": 23775696, + "step": 12141 + }, + { + "epoch": 1.6092776673293572, + "grad_norm": 7.876455307006836, + "learning_rate": 2.216134508166697e-06, + "loss": 0.191, + "num_input_tokens_seen": 23777464, + "step": 12142 + }, + { + "epoch": 1.6094102054340622, + "grad_norm": 1.7364652156829834, + "learning_rate": 2.2157896186295452e-06, + "loss": 0.0105, + "num_input_tokens_seen": 23779600, + "step": 12143 + }, + { + "epoch": 1.6095427435387673, + "grad_norm": 2.3677937984466553, + "learning_rate": 2.2154447345721655e-06, + "loss": 0.0159, + "num_input_tokens_seen": 23780688, + "step": 12144 + }, + { + "epoch": 1.6096752816434725, + "grad_norm": 8.735386848449707, + "learning_rate": 2.2150998560012084e-06, + "loss": 0.0724, + "num_input_tokens_seen": 23782728, + "step": 12145 + }, + { + "epoch": 1.6098078197481775, + "grad_norm": 0.06201193109154701, + "learning_rate": 2.214754982923322e-06, + "loss": 0.0004, + "num_input_tokens_seen": 23784336, + "step": 12146 + }, + { + "epoch": 1.6099403578528828, + "grad_norm": 8.60351276397705, + "learning_rate": 2.2144101153451556e-06, + "loss": 0.154, + "num_input_tokens_seen": 23786096, + "step": 12147 + }, + { + "epoch": 1.6100728959575878, + "grad_norm": 12.183140754699707, + "learning_rate": 2.2140652532733597e-06, + "loss": 0.1779, + "num_input_tokens_seen": 23787728, + "step": 12148 + }, + { + "epoch": 1.6102054340622929, + "grad_norm": 0.7764325141906738, + "learning_rate": 2.2137203967145836e-06, + "loss": 0.0133, + "num_input_tokens_seen": 23789120, + "step": 12149 + }, + { + "epoch": 1.610337972166998, + "grad_norm": 0.46567386388778687, + "learning_rate": 2.2133755456754753e-06, + "loss": 0.0022, + "num_input_tokens_seen": 23790624, + "step": 12150 + }, + { + "epoch": 1.610470510271703, + "grad_norm": 0.22973310947418213, + "learning_rate": 2.2130307001626843e-06, + "loss": 0.0016, + "num_input_tokens_seen": 23792976, + "step": 12151 + }, + { + "epoch": 1.6106030483764082, + "grad_norm": 5.251440048217773, + "learning_rate": 2.2126858601828587e-06, + "loss": 0.0812, + "num_input_tokens_seen": 23795824, + "step": 12152 + }, + { + "epoch": 1.6107355864811135, + "grad_norm": 0.01834111474454403, + "learning_rate": 2.2123410257426485e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23797272, + "step": 12153 + }, + { + "epoch": 1.6108681245858185, + "grad_norm": 2.3947370052337646, + "learning_rate": 2.211996196848702e-06, + "loss": 0.0113, + "num_input_tokens_seen": 23799352, + "step": 12154 + }, + { + "epoch": 1.6110006626905236, + "grad_norm": 12.605746269226074, + "learning_rate": 2.2116513735076675e-06, + "loss": 0.2007, + "num_input_tokens_seen": 23801032, + "step": 12155 + }, + { + "epoch": 1.6111332007952286, + "grad_norm": 0.2836482524871826, + "learning_rate": 2.211306555726193e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23803352, + "step": 12156 + }, + { + "epoch": 1.6112657388999336, + "grad_norm": 11.056133270263672, + "learning_rate": 2.210961743510927e-06, + "loss": 0.2395, + "num_input_tokens_seen": 23805064, + "step": 12157 + }, + { + "epoch": 1.6113982770046387, + "grad_norm": 4.949639320373535, + "learning_rate": 2.210616936868519e-06, + "loss": 0.0773, + "num_input_tokens_seen": 23806920, + "step": 12158 + }, + { + "epoch": 1.611530815109344, + "grad_norm": 1.883800745010376, + "learning_rate": 2.2102721358056152e-06, + "loss": 0.021, + "num_input_tokens_seen": 23808608, + "step": 12159 + }, + { + "epoch": 1.6116633532140492, + "grad_norm": 23.483491897583008, + "learning_rate": 2.209927340328865e-06, + "loss": 0.496, + "num_input_tokens_seen": 23810704, + "step": 12160 + }, + { + "epoch": 1.6117958913187542, + "grad_norm": 8.260041236877441, + "learning_rate": 2.2095825504449155e-06, + "loss": 0.1199, + "num_input_tokens_seen": 23812280, + "step": 12161 + }, + { + "epoch": 1.6119284294234593, + "grad_norm": 8.29055118560791, + "learning_rate": 2.209237766160414e-06, + "loss": 0.2075, + "num_input_tokens_seen": 23814520, + "step": 12162 + }, + { + "epoch": 1.6120609675281643, + "grad_norm": 5.005826950073242, + "learning_rate": 2.2088929874820103e-06, + "loss": 0.1284, + "num_input_tokens_seen": 23818256, + "step": 12163 + }, + { + "epoch": 1.6121935056328693, + "grad_norm": 1.2379045486450195, + "learning_rate": 2.2085482144163505e-06, + "loss": 0.0143, + "num_input_tokens_seen": 23820704, + "step": 12164 + }, + { + "epoch": 1.6123260437375746, + "grad_norm": 7.655517578125, + "learning_rate": 2.2082034469700817e-06, + "loss": 0.0894, + "num_input_tokens_seen": 23822448, + "step": 12165 + }, + { + "epoch": 1.6124585818422796, + "grad_norm": 7.961968421936035, + "learning_rate": 2.2078586851498524e-06, + "loss": 0.1259, + "num_input_tokens_seen": 23824072, + "step": 12166 + }, + { + "epoch": 1.612591119946985, + "grad_norm": 6.188247203826904, + "learning_rate": 2.207513928962308e-06, + "loss": 0.1398, + "num_input_tokens_seen": 23825456, + "step": 12167 + }, + { + "epoch": 1.61272365805169, + "grad_norm": 9.647710800170898, + "learning_rate": 2.2071691784140975e-06, + "loss": 0.1544, + "num_input_tokens_seen": 23828104, + "step": 12168 + }, + { + "epoch": 1.612856196156395, + "grad_norm": 0.005271644797176123, + "learning_rate": 2.2068244335118673e-06, + "loss": 0.0, + "num_input_tokens_seen": 23829312, + "step": 12169 + }, + { + "epoch": 1.6129887342611, + "grad_norm": 1.428570032119751, + "learning_rate": 2.206479694262265e-06, + "loss": 0.0133, + "num_input_tokens_seen": 23831008, + "step": 12170 + }, + { + "epoch": 1.613121272365805, + "grad_norm": 0.07478219270706177, + "learning_rate": 2.2061349606719357e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23832640, + "step": 12171 + }, + { + "epoch": 1.6132538104705103, + "grad_norm": 2.7547760009765625, + "learning_rate": 2.2057902327475276e-06, + "loss": 0.0397, + "num_input_tokens_seen": 23834736, + "step": 12172 + }, + { + "epoch": 1.6133863485752153, + "grad_norm": 0.0428653322160244, + "learning_rate": 2.2054455104956856e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23836536, + "step": 12173 + }, + { + "epoch": 1.6135188866799206, + "grad_norm": 8.600788116455078, + "learning_rate": 2.2051007939230585e-06, + "loss": 0.1556, + "num_input_tokens_seen": 23838424, + "step": 12174 + }, + { + "epoch": 1.6136514247846256, + "grad_norm": 11.870600700378418, + "learning_rate": 2.2047560830362916e-06, + "loss": 0.3106, + "num_input_tokens_seen": 23840848, + "step": 12175 + }, + { + "epoch": 1.6137839628893307, + "grad_norm": 0.012344558723270893, + "learning_rate": 2.2044113778420305e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23843888, + "step": 12176 + }, + { + "epoch": 1.6139165009940357, + "grad_norm": 7.462380886077881, + "learning_rate": 2.2040666783469225e-06, + "loss": 0.1157, + "num_input_tokens_seen": 23846312, + "step": 12177 + }, + { + "epoch": 1.6140490390987408, + "grad_norm": 0.04515473544597626, + "learning_rate": 2.2037219845576123e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23849448, + "step": 12178 + }, + { + "epoch": 1.614181577203446, + "grad_norm": 3.505774974822998, + "learning_rate": 2.2033772964807477e-06, + "loss": 0.0557, + "num_input_tokens_seen": 23851440, + "step": 12179 + }, + { + "epoch": 1.614314115308151, + "grad_norm": 7.5861711502075195, + "learning_rate": 2.2030326141229725e-06, + "loss": 0.1633, + "num_input_tokens_seen": 23853912, + "step": 12180 + }, + { + "epoch": 1.6144466534128563, + "grad_norm": 0.038526929914951324, + "learning_rate": 2.2026879374909342e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23856944, + "step": 12181 + }, + { + "epoch": 1.6145791915175614, + "grad_norm": 0.11298848688602448, + "learning_rate": 2.202343266591277e-06, + "loss": 0.0008, + "num_input_tokens_seen": 23858536, + "step": 12182 + }, + { + "epoch": 1.6147117296222664, + "grad_norm": 0.09078644961118698, + "learning_rate": 2.201998601430646e-06, + "loss": 0.0006, + "num_input_tokens_seen": 23860280, + "step": 12183 + }, + { + "epoch": 1.6148442677269714, + "grad_norm": 0.14313864707946777, + "learning_rate": 2.201653942015689e-06, + "loss": 0.001, + "num_input_tokens_seen": 23862208, + "step": 12184 + }, + { + "epoch": 1.6149768058316765, + "grad_norm": 13.206945419311523, + "learning_rate": 2.2013092883530503e-06, + "loss": 0.2508, + "num_input_tokens_seen": 23864280, + "step": 12185 + }, + { + "epoch": 1.6151093439363817, + "grad_norm": 5.092008590698242, + "learning_rate": 2.2009646404493737e-06, + "loss": 0.0381, + "num_input_tokens_seen": 23865992, + "step": 12186 + }, + { + "epoch": 1.6152418820410868, + "grad_norm": 13.013864517211914, + "learning_rate": 2.2006199983113054e-06, + "loss": 0.267, + "num_input_tokens_seen": 23868304, + "step": 12187 + }, + { + "epoch": 1.615374420145792, + "grad_norm": 1.087438702583313, + "learning_rate": 2.2002753619454893e-06, + "loss": 0.0054, + "num_input_tokens_seen": 23869952, + "step": 12188 + }, + { + "epoch": 1.615506958250497, + "grad_norm": 4.52363395690918, + "learning_rate": 2.199930731358571e-06, + "loss": 0.0875, + "num_input_tokens_seen": 23871216, + "step": 12189 + }, + { + "epoch": 1.615639496355202, + "grad_norm": 6.581776142120361, + "learning_rate": 2.1995861065571964e-06, + "loss": 0.1426, + "num_input_tokens_seen": 23873200, + "step": 12190 + }, + { + "epoch": 1.6157720344599071, + "grad_norm": 3.655064344406128, + "learning_rate": 2.199241487548008e-06, + "loss": 0.0807, + "num_input_tokens_seen": 23874560, + "step": 12191 + }, + { + "epoch": 1.6159045725646122, + "grad_norm": 6.6377058029174805, + "learning_rate": 2.198896874337652e-06, + "loss": 0.0805, + "num_input_tokens_seen": 23876304, + "step": 12192 + }, + { + "epoch": 1.6160371106693174, + "grad_norm": 4.464651584625244, + "learning_rate": 2.1985522669327708e-06, + "loss": 0.0484, + "num_input_tokens_seen": 23878376, + "step": 12193 + }, + { + "epoch": 1.6161696487740227, + "grad_norm": 0.11952562630176544, + "learning_rate": 2.198207665340011e-06, + "loss": 0.0015, + "num_input_tokens_seen": 23880416, + "step": 12194 + }, + { + "epoch": 1.6163021868787277, + "grad_norm": 0.012678629718720913, + "learning_rate": 2.197863069566015e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23881880, + "step": 12195 + }, + { + "epoch": 1.6164347249834328, + "grad_norm": 0.019663801416754723, + "learning_rate": 2.1975184796174277e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23883832, + "step": 12196 + }, + { + "epoch": 1.6165672630881378, + "grad_norm": 0.15596778690814972, + "learning_rate": 2.1971738955008923e-06, + "loss": 0.001, + "num_input_tokens_seen": 23885752, + "step": 12197 + }, + { + "epoch": 1.6166998011928428, + "grad_norm": 2.5241644382476807, + "learning_rate": 2.196829317223054e-06, + "loss": 0.0342, + "num_input_tokens_seen": 23887816, + "step": 12198 + }, + { + "epoch": 1.6168323392975479, + "grad_norm": 0.008277878165245056, + "learning_rate": 2.1964847447905543e-06, + "loss": 0.0001, + "num_input_tokens_seen": 23889464, + "step": 12199 + }, + { + "epoch": 1.6169648774022531, + "grad_norm": 9.978988647460938, + "learning_rate": 2.196140178210039e-06, + "loss": 0.435, + "num_input_tokens_seen": 23892296, + "step": 12200 + }, + { + "epoch": 1.6170974155069584, + "grad_norm": 6.714853286743164, + "learning_rate": 2.1957956174881505e-06, + "loss": 0.1172, + "num_input_tokens_seen": 23894832, + "step": 12201 + }, + { + "epoch": 1.6172299536116634, + "grad_norm": 3.233020544052124, + "learning_rate": 2.1954510626315326e-06, + "loss": 0.0581, + "num_input_tokens_seen": 23897072, + "step": 12202 + }, + { + "epoch": 1.6173624917163685, + "grad_norm": 8.565999984741211, + "learning_rate": 2.195106513646828e-06, + "loss": 0.2356, + "num_input_tokens_seen": 23899080, + "step": 12203 + }, + { + "epoch": 1.6174950298210735, + "grad_norm": 6.642402648925781, + "learning_rate": 2.19476197054068e-06, + "loss": 0.1647, + "num_input_tokens_seen": 23900624, + "step": 12204 + }, + { + "epoch": 1.6176275679257786, + "grad_norm": 13.953596115112305, + "learning_rate": 2.194417433319732e-06, + "loss": 0.1595, + "num_input_tokens_seen": 23902296, + "step": 12205 + }, + { + "epoch": 1.6177601060304838, + "grad_norm": 5.78306245803833, + "learning_rate": 2.1940729019906268e-06, + "loss": 0.1342, + "num_input_tokens_seen": 23904304, + "step": 12206 + }, + { + "epoch": 1.6178926441351889, + "grad_norm": 2.6341352462768555, + "learning_rate": 2.1937283765600072e-06, + "loss": 0.0213, + "num_input_tokens_seen": 23905712, + "step": 12207 + }, + { + "epoch": 1.618025182239894, + "grad_norm": 5.214654922485352, + "learning_rate": 2.193383857034516e-06, + "loss": 0.1133, + "num_input_tokens_seen": 23907856, + "step": 12208 + }, + { + "epoch": 1.6181577203445991, + "grad_norm": 0.029744593426585197, + "learning_rate": 2.1930393434207946e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23909912, + "step": 12209 + }, + { + "epoch": 1.6182902584493042, + "grad_norm": 1.8159228563308716, + "learning_rate": 2.192694835725487e-06, + "loss": 0.0248, + "num_input_tokens_seen": 23911816, + "step": 12210 + }, + { + "epoch": 1.6184227965540092, + "grad_norm": 6.53033447265625, + "learning_rate": 2.192350333955235e-06, + "loss": 0.1269, + "num_input_tokens_seen": 23913992, + "step": 12211 + }, + { + "epoch": 1.6185553346587143, + "grad_norm": 4.488076210021973, + "learning_rate": 2.192005838116681e-06, + "loss": 0.0463, + "num_input_tokens_seen": 23915584, + "step": 12212 + }, + { + "epoch": 1.6186878727634195, + "grad_norm": 5.838597297668457, + "learning_rate": 2.1916613482164666e-06, + "loss": 0.1021, + "num_input_tokens_seen": 23917528, + "step": 12213 + }, + { + "epoch": 1.6188204108681246, + "grad_norm": 0.02485070936381817, + "learning_rate": 2.1913168642612337e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23919232, + "step": 12214 + }, + { + "epoch": 1.6189529489728298, + "grad_norm": 17.391239166259766, + "learning_rate": 2.190972386257625e-06, + "loss": 0.3862, + "num_input_tokens_seen": 23920912, + "step": 12215 + }, + { + "epoch": 1.6190854870775349, + "grad_norm": 7.286650657653809, + "learning_rate": 2.190627914212282e-06, + "loss": 0.1807, + "num_input_tokens_seen": 23922552, + "step": 12216 + }, + { + "epoch": 1.61921802518224, + "grad_norm": 6.92227029800415, + "learning_rate": 2.1902834481318467e-06, + "loss": 0.2654, + "num_input_tokens_seen": 23924512, + "step": 12217 + }, + { + "epoch": 1.619350563286945, + "grad_norm": 0.24118860065937042, + "learning_rate": 2.18993898802296e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23926144, + "step": 12218 + }, + { + "epoch": 1.61948310139165, + "grad_norm": 12.126229286193848, + "learning_rate": 2.189594533892262e-06, + "loss": 0.2976, + "num_input_tokens_seen": 23929144, + "step": 12219 + }, + { + "epoch": 1.6196156394963552, + "grad_norm": 0.032377004623413086, + "learning_rate": 2.1892500857463974e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23930672, + "step": 12220 + }, + { + "epoch": 1.6197481776010603, + "grad_norm": 8.433162689208984, + "learning_rate": 2.1889056435920046e-06, + "loss": 0.1365, + "num_input_tokens_seen": 23932264, + "step": 12221 + }, + { + "epoch": 1.6198807157057655, + "grad_norm": 0.03534359484910965, + "learning_rate": 2.188561207435726e-06, + "loss": 0.0002, + "num_input_tokens_seen": 23934336, + "step": 12222 + }, + { + "epoch": 1.6200132538104706, + "grad_norm": 3.8081541061401367, + "learning_rate": 2.1882167772842027e-06, + "loss": 0.0628, + "num_input_tokens_seen": 23936576, + "step": 12223 + }, + { + "epoch": 1.6201457919151756, + "grad_norm": 1.4687366485595703, + "learning_rate": 2.1878723531440738e-06, + "loss": 0.0074, + "num_input_tokens_seen": 23938280, + "step": 12224 + }, + { + "epoch": 1.6202783300198806, + "grad_norm": 8.705544471740723, + "learning_rate": 2.187527935021982e-06, + "loss": 0.1004, + "num_input_tokens_seen": 23940592, + "step": 12225 + }, + { + "epoch": 1.6204108681245857, + "grad_norm": 0.34899553656578064, + "learning_rate": 2.187183522924567e-06, + "loss": 0.0037, + "num_input_tokens_seen": 23941984, + "step": 12226 + }, + { + "epoch": 1.620543406229291, + "grad_norm": 3.563113212585449, + "learning_rate": 2.186839116858469e-06, + "loss": 0.0335, + "num_input_tokens_seen": 23943344, + "step": 12227 + }, + { + "epoch": 1.620675944333996, + "grad_norm": 5.219413757324219, + "learning_rate": 2.18649471683033e-06, + "loss": 0.0732, + "num_input_tokens_seen": 23945536, + "step": 12228 + }, + { + "epoch": 1.6208084824387012, + "grad_norm": 10.912976264953613, + "learning_rate": 2.1861503228467885e-06, + "loss": 0.2006, + "num_input_tokens_seen": 23947432, + "step": 12229 + }, + { + "epoch": 1.6209410205434063, + "grad_norm": 3.9802210330963135, + "learning_rate": 2.1858059349144843e-06, + "loss": 0.0851, + "num_input_tokens_seen": 23948736, + "step": 12230 + }, + { + "epoch": 1.6210735586481113, + "grad_norm": 14.880814552307129, + "learning_rate": 2.18546155304006e-06, + "loss": 0.3055, + "num_input_tokens_seen": 23952544, + "step": 12231 + }, + { + "epoch": 1.6212060967528164, + "grad_norm": 0.0526886023581028, + "learning_rate": 2.1851171772301537e-06, + "loss": 0.0003, + "num_input_tokens_seen": 23954512, + "step": 12232 + }, + { + "epoch": 1.6213386348575214, + "grad_norm": 5.47169828414917, + "learning_rate": 2.184772807491405e-06, + "loss": 0.1453, + "num_input_tokens_seen": 23956168, + "step": 12233 + }, + { + "epoch": 1.6214711729622266, + "grad_norm": 2.564249277114868, + "learning_rate": 2.184428443830454e-06, + "loss": 0.0151, + "num_input_tokens_seen": 23957664, + "step": 12234 + }, + { + "epoch": 1.621603711066932, + "grad_norm": 7.02336311340332, + "learning_rate": 2.18408408625394e-06, + "loss": 0.1008, + "num_input_tokens_seen": 23959528, + "step": 12235 + }, + { + "epoch": 1.621736249171637, + "grad_norm": 8.289192199707031, + "learning_rate": 2.183739734768503e-06, + "loss": 0.1961, + "num_input_tokens_seen": 23961576, + "step": 12236 + }, + { + "epoch": 1.621868787276342, + "grad_norm": 0.15752029418945312, + "learning_rate": 2.1833953893807826e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23963936, + "step": 12237 + }, + { + "epoch": 1.622001325381047, + "grad_norm": 0.18260298669338226, + "learning_rate": 2.1830510500974177e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23965464, + "step": 12238 + }, + { + "epoch": 1.622133863485752, + "grad_norm": 0.16990914940834045, + "learning_rate": 2.1827067169250465e-06, + "loss": 0.0012, + "num_input_tokens_seen": 23967896, + "step": 12239 + }, + { + "epoch": 1.622266401590457, + "grad_norm": 0.07923067361116409, + "learning_rate": 2.182362389870308e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23970672, + "step": 12240 + }, + { + "epoch": 1.6223989396951624, + "grad_norm": 1.2383215427398682, + "learning_rate": 2.182018068939843e-06, + "loss": 0.0141, + "num_input_tokens_seen": 23972768, + "step": 12241 + }, + { + "epoch": 1.6225314777998676, + "grad_norm": 0.6879251599311829, + "learning_rate": 2.1816737541402887e-06, + "loss": 0.0085, + "num_input_tokens_seen": 23974632, + "step": 12242 + }, + { + "epoch": 1.6226640159045727, + "grad_norm": 4.832513809204102, + "learning_rate": 2.181329445478284e-06, + "loss": 0.0117, + "num_input_tokens_seen": 23977688, + "step": 12243 + }, + { + "epoch": 1.6227965540092777, + "grad_norm": 13.807974815368652, + "learning_rate": 2.1809851429604672e-06, + "loss": 0.3925, + "num_input_tokens_seen": 23980712, + "step": 12244 + }, + { + "epoch": 1.6229290921139827, + "grad_norm": 30.697736740112305, + "learning_rate": 2.1806408465934763e-06, + "loss": 0.2709, + "num_input_tokens_seen": 23983464, + "step": 12245 + }, + { + "epoch": 1.6230616302186878, + "grad_norm": 0.31796765327453613, + "learning_rate": 2.1802965563839515e-06, + "loss": 0.0017, + "num_input_tokens_seen": 23985040, + "step": 12246 + }, + { + "epoch": 1.623194168323393, + "grad_norm": 10.966869354248047, + "learning_rate": 2.17995227233853e-06, + "loss": 0.0759, + "num_input_tokens_seen": 23987336, + "step": 12247 + }, + { + "epoch": 1.623326706428098, + "grad_norm": 0.09356506168842316, + "learning_rate": 2.179607994463848e-06, + "loss": 0.0005, + "num_input_tokens_seen": 23988584, + "step": 12248 + }, + { + "epoch": 1.6234592445328033, + "grad_norm": 10.212505340576172, + "learning_rate": 2.1792637227665457e-06, + "loss": 0.1459, + "num_input_tokens_seen": 23990616, + "step": 12249 + }, + { + "epoch": 1.6235917826375084, + "grad_norm": 7.387820243835449, + "learning_rate": 2.1789194572532592e-06, + "loss": 0.134, + "num_input_tokens_seen": 23992304, + "step": 12250 + }, + { + "epoch": 1.6237243207422134, + "grad_norm": 8.541766166687012, + "learning_rate": 2.178575197930628e-06, + "loss": 0.1404, + "num_input_tokens_seen": 23994072, + "step": 12251 + }, + { + "epoch": 1.6238568588469184, + "grad_norm": 7.629110813140869, + "learning_rate": 2.1782309448052884e-06, + "loss": 0.0681, + "num_input_tokens_seen": 23995712, + "step": 12252 + }, + { + "epoch": 1.6239893969516235, + "grad_norm": 1.5686620473861694, + "learning_rate": 2.1778866978838783e-06, + "loss": 0.0146, + "num_input_tokens_seen": 23997192, + "step": 12253 + }, + { + "epoch": 1.6241219350563287, + "grad_norm": 0.3828531503677368, + "learning_rate": 2.1775424571730354e-06, + "loss": 0.0025, + "num_input_tokens_seen": 23998744, + "step": 12254 + }, + { + "epoch": 1.6242544731610338, + "grad_norm": 0.7175197005271912, + "learning_rate": 2.177198222679396e-06, + "loss": 0.0054, + "num_input_tokens_seen": 24000152, + "step": 12255 + }, + { + "epoch": 1.624387011265739, + "grad_norm": 20.51130485534668, + "learning_rate": 2.176853994409597e-06, + "loss": 0.3362, + "num_input_tokens_seen": 24002440, + "step": 12256 + }, + { + "epoch": 1.624519549370444, + "grad_norm": 6.283359527587891, + "learning_rate": 2.176509772370276e-06, + "loss": 0.1029, + "num_input_tokens_seen": 24003672, + "step": 12257 + }, + { + "epoch": 1.624652087475149, + "grad_norm": 1.2910292148590088, + "learning_rate": 2.17616555656807e-06, + "loss": 0.0061, + "num_input_tokens_seen": 24005912, + "step": 12258 + }, + { + "epoch": 1.6247846255798541, + "grad_norm": 0.6718969345092773, + "learning_rate": 2.1758213470096155e-06, + "loss": 0.0058, + "num_input_tokens_seen": 24007584, + "step": 12259 + }, + { + "epoch": 1.6249171636845592, + "grad_norm": 2.3538734912872314, + "learning_rate": 2.1754771437015495e-06, + "loss": 0.0287, + "num_input_tokens_seen": 24010000, + "step": 12260 + }, + { + "epoch": 1.6250497017892644, + "grad_norm": 0.49122312664985657, + "learning_rate": 2.175132946650507e-06, + "loss": 0.0034, + "num_input_tokens_seen": 24011528, + "step": 12261 + }, + { + "epoch": 1.6251822398939695, + "grad_norm": 0.05257052555680275, + "learning_rate": 2.1747887558631265e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24013600, + "step": 12262 + }, + { + "epoch": 1.6253147779986747, + "grad_norm": 26.45469856262207, + "learning_rate": 2.174444571346042e-06, + "loss": 0.6719, + "num_input_tokens_seen": 24015488, + "step": 12263 + }, + { + "epoch": 1.6254473161033798, + "grad_norm": 0.13446345925331116, + "learning_rate": 2.174100393105892e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24017144, + "step": 12264 + }, + { + "epoch": 1.6255798542080848, + "grad_norm": 3.2098097801208496, + "learning_rate": 2.1737562211493105e-06, + "loss": 0.0454, + "num_input_tokens_seen": 24018296, + "step": 12265 + }, + { + "epoch": 1.6257123923127899, + "grad_norm": 6.359274387359619, + "learning_rate": 2.1734120554829337e-06, + "loss": 0.1989, + "num_input_tokens_seen": 24020728, + "step": 12266 + }, + { + "epoch": 1.625844930417495, + "grad_norm": 2.8993024826049805, + "learning_rate": 2.1730678961133987e-06, + "loss": 0.0459, + "num_input_tokens_seen": 24023336, + "step": 12267 + }, + { + "epoch": 1.6259774685222002, + "grad_norm": 5.659909248352051, + "learning_rate": 2.1727237430473396e-06, + "loss": 0.1446, + "num_input_tokens_seen": 24025200, + "step": 12268 + }, + { + "epoch": 1.6261100066269052, + "grad_norm": 0.09075940400362015, + "learning_rate": 2.172379596291393e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24027120, + "step": 12269 + }, + { + "epoch": 1.6262425447316105, + "grad_norm": 0.17071126401424408, + "learning_rate": 2.172035455852194e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24030344, + "step": 12270 + }, + { + "epoch": 1.6263750828363155, + "grad_norm": 5.186660289764404, + "learning_rate": 2.1716913217363766e-06, + "loss": 0.1196, + "num_input_tokens_seen": 24032856, + "step": 12271 + }, + { + "epoch": 1.6265076209410205, + "grad_norm": 5.331362247467041, + "learning_rate": 2.1713471939505775e-06, + "loss": 0.1713, + "num_input_tokens_seen": 24036096, + "step": 12272 + }, + { + "epoch": 1.6266401590457256, + "grad_norm": 7.923537731170654, + "learning_rate": 2.171003072501432e-06, + "loss": 0.1377, + "num_input_tokens_seen": 24038560, + "step": 12273 + }, + { + "epoch": 1.6267726971504306, + "grad_norm": 12.071828842163086, + "learning_rate": 2.170658957395573e-06, + "loss": 0.2007, + "num_input_tokens_seen": 24040656, + "step": 12274 + }, + { + "epoch": 1.6269052352551359, + "grad_norm": 0.035343680530786514, + "learning_rate": 2.1703148486396376e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24042904, + "step": 12275 + }, + { + "epoch": 1.627037773359841, + "grad_norm": 9.473772048950195, + "learning_rate": 2.169970746240258e-06, + "loss": 0.3479, + "num_input_tokens_seen": 24045128, + "step": 12276 + }, + { + "epoch": 1.6271703114645462, + "grad_norm": 4.2103118896484375, + "learning_rate": 2.1696266502040713e-06, + "loss": 0.0547, + "num_input_tokens_seen": 24048080, + "step": 12277 + }, + { + "epoch": 1.6273028495692512, + "grad_norm": 19.06356430053711, + "learning_rate": 2.16928256053771e-06, + "loss": 0.3067, + "num_input_tokens_seen": 24049984, + "step": 12278 + }, + { + "epoch": 1.6274353876739562, + "grad_norm": 0.35626089572906494, + "learning_rate": 2.16893847724781e-06, + "loss": 0.0043, + "num_input_tokens_seen": 24051648, + "step": 12279 + }, + { + "epoch": 1.6275679257786613, + "grad_norm": 7.960979461669922, + "learning_rate": 2.1685944003410035e-06, + "loss": 0.044, + "num_input_tokens_seen": 24054592, + "step": 12280 + }, + { + "epoch": 1.6277004638833663, + "grad_norm": 0.07624118775129318, + "learning_rate": 2.1682503298239257e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24056368, + "step": 12281 + }, + { + "epoch": 1.6278330019880716, + "grad_norm": 5.082423686981201, + "learning_rate": 2.167906265703211e-06, + "loss": 0.115, + "num_input_tokens_seen": 24059120, + "step": 12282 + }, + { + "epoch": 1.6279655400927768, + "grad_norm": 28.495990753173828, + "learning_rate": 2.1675622079854924e-06, + "loss": 0.5803, + "num_input_tokens_seen": 24062024, + "step": 12283 + }, + { + "epoch": 1.6280980781974819, + "grad_norm": 0.144692525267601, + "learning_rate": 2.167218156677404e-06, + "loss": 0.001, + "num_input_tokens_seen": 24063656, + "step": 12284 + }, + { + "epoch": 1.628230616302187, + "grad_norm": 1.1071245670318604, + "learning_rate": 2.166874111785579e-06, + "loss": 0.012, + "num_input_tokens_seen": 24065440, + "step": 12285 + }, + { + "epoch": 1.628363154406892, + "grad_norm": 0.02892206981778145, + "learning_rate": 2.1665300733166506e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24066680, + "step": 12286 + }, + { + "epoch": 1.628495692511597, + "grad_norm": 4.876189708709717, + "learning_rate": 2.166186041277252e-06, + "loss": 0.0769, + "num_input_tokens_seen": 24068312, + "step": 12287 + }, + { + "epoch": 1.6286282306163022, + "grad_norm": 7.852471828460693, + "learning_rate": 2.1658420156740177e-06, + "loss": 0.0848, + "num_input_tokens_seen": 24069776, + "step": 12288 + }, + { + "epoch": 1.6287607687210073, + "grad_norm": 0.21920527517795563, + "learning_rate": 2.1654979965135796e-06, + "loss": 0.0016, + "num_input_tokens_seen": 24071464, + "step": 12289 + }, + { + "epoch": 1.6288933068257125, + "grad_norm": 3.705523729324341, + "learning_rate": 2.165153983802571e-06, + "loss": 0.0533, + "num_input_tokens_seen": 24073136, + "step": 12290 + }, + { + "epoch": 1.6290258449304176, + "grad_norm": 5.551515102386475, + "learning_rate": 2.164809977547625e-06, + "loss": 0.2117, + "num_input_tokens_seen": 24074856, + "step": 12291 + }, + { + "epoch": 1.6291583830351226, + "grad_norm": 0.3352087140083313, + "learning_rate": 2.1644659777553725e-06, + "loss": 0.0019, + "num_input_tokens_seen": 24076616, + "step": 12292 + }, + { + "epoch": 1.6292909211398277, + "grad_norm": 5.349156856536865, + "learning_rate": 2.164121984432448e-06, + "loss": 0.1621, + "num_input_tokens_seen": 24078456, + "step": 12293 + }, + { + "epoch": 1.6294234592445327, + "grad_norm": 4.887638092041016, + "learning_rate": 2.163777997585484e-06, + "loss": 0.0452, + "num_input_tokens_seen": 24079584, + "step": 12294 + }, + { + "epoch": 1.629555997349238, + "grad_norm": 0.23635423183441162, + "learning_rate": 2.1634340172211115e-06, + "loss": 0.0017, + "num_input_tokens_seen": 24082256, + "step": 12295 + }, + { + "epoch": 1.629688535453943, + "grad_norm": 0.4234890043735504, + "learning_rate": 2.163090043345964e-06, + "loss": 0.0031, + "num_input_tokens_seen": 24084120, + "step": 12296 + }, + { + "epoch": 1.6298210735586482, + "grad_norm": 6.71112585067749, + "learning_rate": 2.1627460759666717e-06, + "loss": 0.1783, + "num_input_tokens_seen": 24086096, + "step": 12297 + }, + { + "epoch": 1.6299536116633533, + "grad_norm": 6.354191780090332, + "learning_rate": 2.1624021150898685e-06, + "loss": 0.1464, + "num_input_tokens_seen": 24088352, + "step": 12298 + }, + { + "epoch": 1.6300861497680583, + "grad_norm": 1.6057822704315186, + "learning_rate": 2.1620581607221857e-06, + "loss": 0.0617, + "num_input_tokens_seen": 24090280, + "step": 12299 + }, + { + "epoch": 1.6302186878727634, + "grad_norm": 3.694124460220337, + "learning_rate": 2.1617142128702547e-06, + "loss": 0.0817, + "num_input_tokens_seen": 24091992, + "step": 12300 + }, + { + "epoch": 1.6303512259774684, + "grad_norm": 5.845182418823242, + "learning_rate": 2.1613702715407065e-06, + "loss": 0.1298, + "num_input_tokens_seen": 24093856, + "step": 12301 + }, + { + "epoch": 1.6304837640821737, + "grad_norm": 2.443789482116699, + "learning_rate": 2.1610263367401725e-06, + "loss": 0.0239, + "num_input_tokens_seen": 24095496, + "step": 12302 + }, + { + "epoch": 1.6306163021868787, + "grad_norm": 1.5129685401916504, + "learning_rate": 2.160682408475286e-06, + "loss": 0.0175, + "num_input_tokens_seen": 24098032, + "step": 12303 + }, + { + "epoch": 1.630748840291584, + "grad_norm": 5.6132402420043945, + "learning_rate": 2.160338486752676e-06, + "loss": 0.0853, + "num_input_tokens_seen": 24100136, + "step": 12304 + }, + { + "epoch": 1.630881378396289, + "grad_norm": 7.386194229125977, + "learning_rate": 2.1599945715789745e-06, + "loss": 0.1064, + "num_input_tokens_seen": 24101976, + "step": 12305 + }, + { + "epoch": 1.631013916500994, + "grad_norm": 8.79554271697998, + "learning_rate": 2.159650662960812e-06, + "loss": 0.1146, + "num_input_tokens_seen": 24103120, + "step": 12306 + }, + { + "epoch": 1.631146454605699, + "grad_norm": 19.793752670288086, + "learning_rate": 2.159306760904819e-06, + "loss": 0.3015, + "num_input_tokens_seen": 24106056, + "step": 12307 + }, + { + "epoch": 1.631278992710404, + "grad_norm": 6.045555114746094, + "learning_rate": 2.1589628654176278e-06, + "loss": 0.2428, + "num_input_tokens_seen": 24109176, + "step": 12308 + }, + { + "epoch": 1.6314115308151094, + "grad_norm": 0.826233446598053, + "learning_rate": 2.1586189765058677e-06, + "loss": 0.0059, + "num_input_tokens_seen": 24111840, + "step": 12309 + }, + { + "epoch": 1.6315440689198144, + "grad_norm": 0.13360217213630676, + "learning_rate": 2.1582750941761687e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24113088, + "step": 12310 + }, + { + "epoch": 1.6316766070245197, + "grad_norm": 11.775442123413086, + "learning_rate": 2.1579312184351624e-06, + "loss": 0.2375, + "num_input_tokens_seen": 24114848, + "step": 12311 + }, + { + "epoch": 1.6318091451292247, + "grad_norm": 1.3531239032745361, + "learning_rate": 2.1575873492894774e-06, + "loss": 0.0175, + "num_input_tokens_seen": 24116712, + "step": 12312 + }, + { + "epoch": 1.6319416832339297, + "grad_norm": 5.879791259765625, + "learning_rate": 2.157243486745744e-06, + "loss": 0.0745, + "num_input_tokens_seen": 24118568, + "step": 12313 + }, + { + "epoch": 1.6320742213386348, + "grad_norm": 7.022495746612549, + "learning_rate": 2.1568996308105938e-06, + "loss": 0.1986, + "num_input_tokens_seen": 24120176, + "step": 12314 + }, + { + "epoch": 1.6322067594433398, + "grad_norm": 8.20421314239502, + "learning_rate": 2.156555781490655e-06, + "loss": 0.0805, + "num_input_tokens_seen": 24122256, + "step": 12315 + }, + { + "epoch": 1.632339297548045, + "grad_norm": 9.54566478729248, + "learning_rate": 2.156211938792558e-06, + "loss": 0.1411, + "num_input_tokens_seen": 24124856, + "step": 12316 + }, + { + "epoch": 1.6324718356527501, + "grad_norm": 0.2227516621351242, + "learning_rate": 2.1558681027229317e-06, + "loss": 0.0013, + "num_input_tokens_seen": 24126744, + "step": 12317 + }, + { + "epoch": 1.6326043737574554, + "grad_norm": 7.287049293518066, + "learning_rate": 2.155524273288405e-06, + "loss": 0.1283, + "num_input_tokens_seen": 24129032, + "step": 12318 + }, + { + "epoch": 1.6327369118621604, + "grad_norm": 5.9384846687316895, + "learning_rate": 2.1551804504956085e-06, + "loss": 0.1684, + "num_input_tokens_seen": 24130664, + "step": 12319 + }, + { + "epoch": 1.6328694499668654, + "grad_norm": 7.376380920410156, + "learning_rate": 2.1548366343511716e-06, + "loss": 0.1757, + "num_input_tokens_seen": 24133184, + "step": 12320 + }, + { + "epoch": 1.6330019880715705, + "grad_norm": 0.1165706068277359, + "learning_rate": 2.1544928248617214e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24134936, + "step": 12321 + }, + { + "epoch": 1.6331345261762755, + "grad_norm": 13.439699172973633, + "learning_rate": 2.154149022033889e-06, + "loss": 0.1369, + "num_input_tokens_seen": 24136848, + "step": 12322 + }, + { + "epoch": 1.6332670642809808, + "grad_norm": 8.839691162109375, + "learning_rate": 2.1538052258743005e-06, + "loss": 0.0795, + "num_input_tokens_seen": 24138272, + "step": 12323 + }, + { + "epoch": 1.633399602385686, + "grad_norm": 1.825400710105896, + "learning_rate": 2.1534614363895874e-06, + "loss": 0.0183, + "num_input_tokens_seen": 24140224, + "step": 12324 + }, + { + "epoch": 1.633532140490391, + "grad_norm": 6.865872383117676, + "learning_rate": 2.153117653586376e-06, + "loss": 0.1034, + "num_input_tokens_seen": 24142640, + "step": 12325 + }, + { + "epoch": 1.6336646785950961, + "grad_norm": 8.83198070526123, + "learning_rate": 2.1527738774712967e-06, + "loss": 0.1994, + "num_input_tokens_seen": 24144344, + "step": 12326 + }, + { + "epoch": 1.6337972166998012, + "grad_norm": 6.99372673034668, + "learning_rate": 2.1524301080509756e-06, + "loss": 0.0293, + "num_input_tokens_seen": 24145384, + "step": 12327 + }, + { + "epoch": 1.6339297548045062, + "grad_norm": 0.6056116223335266, + "learning_rate": 2.152086345332041e-06, + "loss": 0.0033, + "num_input_tokens_seen": 24146600, + "step": 12328 + }, + { + "epoch": 1.6340622929092112, + "grad_norm": 11.416797637939453, + "learning_rate": 2.1517425893211236e-06, + "loss": 0.22, + "num_input_tokens_seen": 24148160, + "step": 12329 + }, + { + "epoch": 1.6341948310139165, + "grad_norm": 11.116165161132812, + "learning_rate": 2.151398840024849e-06, + "loss": 0.1517, + "num_input_tokens_seen": 24149648, + "step": 12330 + }, + { + "epoch": 1.6343273691186218, + "grad_norm": 3.3952934741973877, + "learning_rate": 2.151055097449844e-06, + "loss": 0.0441, + "num_input_tokens_seen": 24151504, + "step": 12331 + }, + { + "epoch": 1.6344599072233268, + "grad_norm": 7.657194137573242, + "learning_rate": 2.150711361602739e-06, + "loss": 0.198, + "num_input_tokens_seen": 24154040, + "step": 12332 + }, + { + "epoch": 1.6345924453280318, + "grad_norm": 1.5254442691802979, + "learning_rate": 2.150367632490158e-06, + "loss": 0.026, + "num_input_tokens_seen": 24155176, + "step": 12333 + }, + { + "epoch": 1.6347249834327369, + "grad_norm": 0.15173156559467316, + "learning_rate": 2.1500239101187314e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24157424, + "step": 12334 + }, + { + "epoch": 1.634857521537442, + "grad_norm": 2.3594679832458496, + "learning_rate": 2.1496801944950855e-06, + "loss": 0.0433, + "num_input_tokens_seen": 24158968, + "step": 12335 + }, + { + "epoch": 1.6349900596421472, + "grad_norm": 2.927417039871216, + "learning_rate": 2.149336485625847e-06, + "loss": 0.0718, + "num_input_tokens_seen": 24160424, + "step": 12336 + }, + { + "epoch": 1.6351225977468522, + "grad_norm": 3.9697771072387695, + "learning_rate": 2.148992783517643e-06, + "loss": 0.0557, + "num_input_tokens_seen": 24162232, + "step": 12337 + }, + { + "epoch": 1.6352551358515575, + "grad_norm": 0.4772087037563324, + "learning_rate": 2.148649088177099e-06, + "loss": 0.003, + "num_input_tokens_seen": 24163720, + "step": 12338 + }, + { + "epoch": 1.6353876739562625, + "grad_norm": 2.2256126403808594, + "learning_rate": 2.148305399610844e-06, + "loss": 0.0521, + "num_input_tokens_seen": 24165072, + "step": 12339 + }, + { + "epoch": 1.6355202120609675, + "grad_norm": 6.883285045623779, + "learning_rate": 2.147961717825504e-06, + "loss": 0.1028, + "num_input_tokens_seen": 24167072, + "step": 12340 + }, + { + "epoch": 1.6356527501656726, + "grad_norm": 7.347526550292969, + "learning_rate": 2.1476180428277045e-06, + "loss": 0.0364, + "num_input_tokens_seen": 24168664, + "step": 12341 + }, + { + "epoch": 1.6357852882703776, + "grad_norm": 19.199338912963867, + "learning_rate": 2.147274374624072e-06, + "loss": 0.3157, + "num_input_tokens_seen": 24170224, + "step": 12342 + }, + { + "epoch": 1.6359178263750829, + "grad_norm": 0.31988224387168884, + "learning_rate": 2.1469307132212336e-06, + "loss": 0.0012, + "num_input_tokens_seen": 24171352, + "step": 12343 + }, + { + "epoch": 1.636050364479788, + "grad_norm": 12.273748397827148, + "learning_rate": 2.1465870586258135e-06, + "loss": 0.1871, + "num_input_tokens_seen": 24173720, + "step": 12344 + }, + { + "epoch": 1.6361829025844932, + "grad_norm": 0.056358467787504196, + "learning_rate": 2.1462434108444398e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24175416, + "step": 12345 + }, + { + "epoch": 1.6363154406891982, + "grad_norm": 9.270435333251953, + "learning_rate": 2.1458997698837366e-06, + "loss": 0.1235, + "num_input_tokens_seen": 24178592, + "step": 12346 + }, + { + "epoch": 1.6364479787939032, + "grad_norm": 0.17531076073646545, + "learning_rate": 2.1455561357503302e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24180328, + "step": 12347 + }, + { + "epoch": 1.6365805168986083, + "grad_norm": 4.468027114868164, + "learning_rate": 2.145212508450846e-06, + "loss": 0.041, + "num_input_tokens_seen": 24182408, + "step": 12348 + }, + { + "epoch": 1.6367130550033133, + "grad_norm": 3.5951788425445557, + "learning_rate": 2.144868887991909e-06, + "loss": 0.0793, + "num_input_tokens_seen": 24185992, + "step": 12349 + }, + { + "epoch": 1.6368455931080186, + "grad_norm": 3.487384557723999, + "learning_rate": 2.1445252743801454e-06, + "loss": 0.0386, + "num_input_tokens_seen": 24188120, + "step": 12350 + }, + { + "epoch": 1.6369781312127236, + "grad_norm": 4.123757839202881, + "learning_rate": 2.1441816676221794e-06, + "loss": 0.096, + "num_input_tokens_seen": 24190144, + "step": 12351 + }, + { + "epoch": 1.6371106693174289, + "grad_norm": 11.132966995239258, + "learning_rate": 2.143838067724637e-06, + "loss": 0.1793, + "num_input_tokens_seen": 24192624, + "step": 12352 + }, + { + "epoch": 1.637243207422134, + "grad_norm": 14.434907913208008, + "learning_rate": 2.143494474694142e-06, + "loss": 0.1034, + "num_input_tokens_seen": 24194280, + "step": 12353 + }, + { + "epoch": 1.637375745526839, + "grad_norm": 0.43844863772392273, + "learning_rate": 2.1431508885373185e-06, + "loss": 0.0047, + "num_input_tokens_seen": 24195656, + "step": 12354 + }, + { + "epoch": 1.637508283631544, + "grad_norm": 12.554174423217773, + "learning_rate": 2.1428073092607928e-06, + "loss": 0.0724, + "num_input_tokens_seen": 24197384, + "step": 12355 + }, + { + "epoch": 1.637640821736249, + "grad_norm": 0.11264834553003311, + "learning_rate": 2.142463736871189e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24199296, + "step": 12356 + }, + { + "epoch": 1.6377733598409543, + "grad_norm": 9.005589485168457, + "learning_rate": 2.1421201713751308e-06, + "loss": 0.13, + "num_input_tokens_seen": 24201184, + "step": 12357 + }, + { + "epoch": 1.6379058979456593, + "grad_norm": 0.09476404637098312, + "learning_rate": 2.1417766127792426e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24203032, + "step": 12358 + }, + { + "epoch": 1.6380384360503646, + "grad_norm": 12.026439666748047, + "learning_rate": 2.141433061090148e-06, + "loss": 0.0946, + "num_input_tokens_seen": 24204848, + "step": 12359 + }, + { + "epoch": 1.6381709741550696, + "grad_norm": 0.17411094903945923, + "learning_rate": 2.1410895163144714e-06, + "loss": 0.001, + "num_input_tokens_seen": 24207568, + "step": 12360 + }, + { + "epoch": 1.6383035122597747, + "grad_norm": 0.8784928917884827, + "learning_rate": 2.1407459784588367e-06, + "loss": 0.0096, + "num_input_tokens_seen": 24209088, + "step": 12361 + }, + { + "epoch": 1.6384360503644797, + "grad_norm": 13.599257469177246, + "learning_rate": 2.140402447529868e-06, + "loss": 0.117, + "num_input_tokens_seen": 24210904, + "step": 12362 + }, + { + "epoch": 1.6385685884691847, + "grad_norm": 5.713837623596191, + "learning_rate": 2.1400589235341875e-06, + "loss": 0.1008, + "num_input_tokens_seen": 24213800, + "step": 12363 + }, + { + "epoch": 1.63870112657389, + "grad_norm": 8.293967247009277, + "learning_rate": 2.139715406478419e-06, + "loss": 0.1466, + "num_input_tokens_seen": 24216280, + "step": 12364 + }, + { + "epoch": 1.6388336646785953, + "grad_norm": 9.258401870727539, + "learning_rate": 2.139371896369187e-06, + "loss": 0.1177, + "num_input_tokens_seen": 24218056, + "step": 12365 + }, + { + "epoch": 1.6389662027833003, + "grad_norm": 2.244084358215332, + "learning_rate": 2.1390283932131124e-06, + "loss": 0.022, + "num_input_tokens_seen": 24220208, + "step": 12366 + }, + { + "epoch": 1.6390987408880053, + "grad_norm": 7.87792444229126, + "learning_rate": 2.1386848970168205e-06, + "loss": 0.2475, + "num_input_tokens_seen": 24222096, + "step": 12367 + }, + { + "epoch": 1.6392312789927104, + "grad_norm": 12.761465072631836, + "learning_rate": 2.138341407786933e-06, + "loss": 0.2378, + "num_input_tokens_seen": 24224024, + "step": 12368 + }, + { + "epoch": 1.6393638170974154, + "grad_norm": 0.7186816334724426, + "learning_rate": 2.137997925530072e-06, + "loss": 0.0051, + "num_input_tokens_seen": 24226008, + "step": 12369 + }, + { + "epoch": 1.6394963552021204, + "grad_norm": 10.363210678100586, + "learning_rate": 2.13765445025286e-06, + "loss": 0.038, + "num_input_tokens_seen": 24227600, + "step": 12370 + }, + { + "epoch": 1.6396288933068257, + "grad_norm": 0.03165941312909126, + "learning_rate": 2.1373109819619217e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24228672, + "step": 12371 + }, + { + "epoch": 1.639761431411531, + "grad_norm": 6.504363536834717, + "learning_rate": 2.1369675206638773e-06, + "loss": 0.1623, + "num_input_tokens_seen": 24230032, + "step": 12372 + }, + { + "epoch": 1.639893969516236, + "grad_norm": 4.499556064605713, + "learning_rate": 2.1366240663653497e-06, + "loss": 0.0421, + "num_input_tokens_seen": 24232336, + "step": 12373 + }, + { + "epoch": 1.640026507620941, + "grad_norm": 6.130017280578613, + "learning_rate": 2.1362806190729603e-06, + "loss": 0.1673, + "num_input_tokens_seen": 24234024, + "step": 12374 + }, + { + "epoch": 1.640159045725646, + "grad_norm": 3.9800562858581543, + "learning_rate": 2.135937178793331e-06, + "loss": 0.0951, + "num_input_tokens_seen": 24235544, + "step": 12375 + }, + { + "epoch": 1.6402915838303511, + "grad_norm": 7.193431854248047, + "learning_rate": 2.1355937455330857e-06, + "loss": 0.1139, + "num_input_tokens_seen": 24237016, + "step": 12376 + }, + { + "epoch": 1.6404241219350564, + "grad_norm": 3.3577399253845215, + "learning_rate": 2.135250319298844e-06, + "loss": 0.0187, + "num_input_tokens_seen": 24239136, + "step": 12377 + }, + { + "epoch": 1.6405566600397614, + "grad_norm": 6.343914031982422, + "learning_rate": 2.134906900097227e-06, + "loss": 0.0498, + "num_input_tokens_seen": 24240192, + "step": 12378 + }, + { + "epoch": 1.6406891981444667, + "grad_norm": 9.846000671386719, + "learning_rate": 2.134563487934857e-06, + "loss": 0.1887, + "num_input_tokens_seen": 24243296, + "step": 12379 + }, + { + "epoch": 1.6408217362491717, + "grad_norm": 5.912119388580322, + "learning_rate": 2.134220082818355e-06, + "loss": 0.1, + "num_input_tokens_seen": 24245424, + "step": 12380 + }, + { + "epoch": 1.6409542743538768, + "grad_norm": 4.190807342529297, + "learning_rate": 2.133876684754342e-06, + "loss": 0.0566, + "num_input_tokens_seen": 24247392, + "step": 12381 + }, + { + "epoch": 1.6410868124585818, + "grad_norm": 9.9558687210083, + "learning_rate": 2.13353329374944e-06, + "loss": 0.1784, + "num_input_tokens_seen": 24249280, + "step": 12382 + }, + { + "epoch": 1.6412193505632868, + "grad_norm": 0.3515898287296295, + "learning_rate": 2.1331899098102686e-06, + "loss": 0.002, + "num_input_tokens_seen": 24251104, + "step": 12383 + }, + { + "epoch": 1.641351888667992, + "grad_norm": 0.014256564900279045, + "learning_rate": 2.1328465329434485e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24252408, + "step": 12384 + }, + { + "epoch": 1.6414844267726971, + "grad_norm": 0.18012477457523346, + "learning_rate": 2.1325031631555996e-06, + "loss": 0.0013, + "num_input_tokens_seen": 24254224, + "step": 12385 + }, + { + "epoch": 1.6416169648774024, + "grad_norm": 5.629945278167725, + "learning_rate": 2.1321598004533443e-06, + "loss": 0.0802, + "num_input_tokens_seen": 24255800, + "step": 12386 + }, + { + "epoch": 1.6417495029821074, + "grad_norm": 9.999616622924805, + "learning_rate": 2.1318164448433018e-06, + "loss": 0.3465, + "num_input_tokens_seen": 24257672, + "step": 12387 + }, + { + "epoch": 1.6418820410868125, + "grad_norm": 0.18788279592990875, + "learning_rate": 2.1314730963320925e-06, + "loss": 0.001, + "num_input_tokens_seen": 24259552, + "step": 12388 + }, + { + "epoch": 1.6420145791915175, + "grad_norm": 6.357253551483154, + "learning_rate": 2.1311297549263355e-06, + "loss": 0.0528, + "num_input_tokens_seen": 24261224, + "step": 12389 + }, + { + "epoch": 1.6421471172962225, + "grad_norm": 3.5071821212768555, + "learning_rate": 2.130786420632651e-06, + "loss": 0.0188, + "num_input_tokens_seen": 24263192, + "step": 12390 + }, + { + "epoch": 1.6422796554009278, + "grad_norm": 7.720834255218506, + "learning_rate": 2.13044309345766e-06, + "loss": 0.1576, + "num_input_tokens_seen": 24264952, + "step": 12391 + }, + { + "epoch": 1.6424121935056328, + "grad_norm": 6.238147258758545, + "learning_rate": 2.130099773407981e-06, + "loss": 0.1239, + "num_input_tokens_seen": 24267832, + "step": 12392 + }, + { + "epoch": 1.642544731610338, + "grad_norm": 0.023673150688409805, + "learning_rate": 2.1297564604902334e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24269312, + "step": 12393 + }, + { + "epoch": 1.6426772697150431, + "grad_norm": 0.4990113079547882, + "learning_rate": 2.1294131547110363e-06, + "loss": 0.0038, + "num_input_tokens_seen": 24271072, + "step": 12394 + }, + { + "epoch": 1.6428098078197482, + "grad_norm": 0.03196888044476509, + "learning_rate": 2.129069856077009e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24272472, + "step": 12395 + }, + { + "epoch": 1.6429423459244532, + "grad_norm": 8.538680076599121, + "learning_rate": 2.1287265645947707e-06, + "loss": 0.1396, + "num_input_tokens_seen": 24274544, + "step": 12396 + }, + { + "epoch": 1.6430748840291582, + "grad_norm": 7.695530414581299, + "learning_rate": 2.1283832802709414e-06, + "loss": 0.1951, + "num_input_tokens_seen": 24276512, + "step": 12397 + }, + { + "epoch": 1.6432074221338635, + "grad_norm": 1.4054946899414062, + "learning_rate": 2.128040003112139e-06, + "loss": 0.0108, + "num_input_tokens_seen": 24278720, + "step": 12398 + }, + { + "epoch": 1.6433399602385685, + "grad_norm": 14.260143280029297, + "learning_rate": 2.127696733124981e-06, + "loss": 0.3091, + "num_input_tokens_seen": 24280632, + "step": 12399 + }, + { + "epoch": 1.6434724983432738, + "grad_norm": 7.628549575805664, + "learning_rate": 2.1273534703160874e-06, + "loss": 0.1414, + "num_input_tokens_seen": 24281744, + "step": 12400 + }, + { + "epoch": 1.6436050364479788, + "grad_norm": 8.776350975036621, + "learning_rate": 2.1270102146920747e-06, + "loss": 0.1993, + "num_input_tokens_seen": 24284008, + "step": 12401 + }, + { + "epoch": 1.6437375745526839, + "grad_norm": 1.8708082437515259, + "learning_rate": 2.1266669662595632e-06, + "loss": 0.0248, + "num_input_tokens_seen": 24286040, + "step": 12402 + }, + { + "epoch": 1.643870112657389, + "grad_norm": 0.015483245253562927, + "learning_rate": 2.1263237250251707e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24287288, + "step": 12403 + }, + { + "epoch": 1.644002650762094, + "grad_norm": 5.133495330810547, + "learning_rate": 2.125980490995514e-06, + "loss": 0.0806, + "num_input_tokens_seen": 24288968, + "step": 12404 + }, + { + "epoch": 1.6441351888667992, + "grad_norm": 11.187590599060059, + "learning_rate": 2.1256372641772117e-06, + "loss": 0.277, + "num_input_tokens_seen": 24290904, + "step": 12405 + }, + { + "epoch": 1.6442677269715045, + "grad_norm": 2.577056407928467, + "learning_rate": 2.1252940445768805e-06, + "loss": 0.0568, + "num_input_tokens_seen": 24292912, + "step": 12406 + }, + { + "epoch": 1.6444002650762095, + "grad_norm": 8.951775550842285, + "learning_rate": 2.1249508322011393e-06, + "loss": 0.1215, + "num_input_tokens_seen": 24295152, + "step": 12407 + }, + { + "epoch": 1.6445328031809145, + "grad_norm": 0.013995311222970486, + "learning_rate": 2.1246076270566044e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24296504, + "step": 12408 + }, + { + "epoch": 1.6446653412856196, + "grad_norm": 3.754473924636841, + "learning_rate": 2.124264429149894e-06, + "loss": 0.0154, + "num_input_tokens_seen": 24298432, + "step": 12409 + }, + { + "epoch": 1.6447978793903246, + "grad_norm": 6.1042304039001465, + "learning_rate": 2.1239212384876244e-06, + "loss": 0.1446, + "num_input_tokens_seen": 24300640, + "step": 12410 + }, + { + "epoch": 1.6449304174950297, + "grad_norm": 0.02652362734079361, + "learning_rate": 2.1235780550764117e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24301912, + "step": 12411 + }, + { + "epoch": 1.645062955599735, + "grad_norm": 7.00295877456665, + "learning_rate": 2.123234878922875e-06, + "loss": 0.0957, + "num_input_tokens_seen": 24303784, + "step": 12412 + }, + { + "epoch": 1.6451954937044402, + "grad_norm": 14.329706192016602, + "learning_rate": 2.1228917100336296e-06, + "loss": 0.2623, + "num_input_tokens_seen": 24306552, + "step": 12413 + }, + { + "epoch": 1.6453280318091452, + "grad_norm": 0.5431999564170837, + "learning_rate": 2.1225485484152926e-06, + "loss": 0.0037, + "num_input_tokens_seen": 24309288, + "step": 12414 + }, + { + "epoch": 1.6454605699138503, + "grad_norm": 9.130784034729004, + "learning_rate": 2.1222053940744797e-06, + "loss": 0.0707, + "num_input_tokens_seen": 24311272, + "step": 12415 + }, + { + "epoch": 1.6455931080185553, + "grad_norm": 2.556790351867676, + "learning_rate": 2.1218622470178062e-06, + "loss": 0.0313, + "num_input_tokens_seen": 24313504, + "step": 12416 + }, + { + "epoch": 1.6457256461232603, + "grad_norm": 3.167233467102051, + "learning_rate": 2.1215191072518905e-06, + "loss": 0.0328, + "num_input_tokens_seen": 24315040, + "step": 12417 + }, + { + "epoch": 1.6458581842279656, + "grad_norm": 0.04148625209927559, + "learning_rate": 2.1211759747833475e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24316048, + "step": 12418 + }, + { + "epoch": 1.6459907223326706, + "grad_norm": 0.01683766581118107, + "learning_rate": 2.120832849618793e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24318232, + "step": 12419 + }, + { + "epoch": 1.646123260437376, + "grad_norm": 0.610998809337616, + "learning_rate": 2.120489731764843e-06, + "loss": 0.006, + "num_input_tokens_seen": 24320088, + "step": 12420 + }, + { + "epoch": 1.646255798542081, + "grad_norm": 3.4160635471343994, + "learning_rate": 2.1201466212281118e-06, + "loss": 0.0355, + "num_input_tokens_seen": 24322248, + "step": 12421 + }, + { + "epoch": 1.646388336646786, + "grad_norm": 8.202816009521484, + "learning_rate": 2.1198035180152172e-06, + "loss": 0.0805, + "num_input_tokens_seen": 24325024, + "step": 12422 + }, + { + "epoch": 1.646520874751491, + "grad_norm": 0.5978389382362366, + "learning_rate": 2.119460422132772e-06, + "loss": 0.0022, + "num_input_tokens_seen": 24327160, + "step": 12423 + }, + { + "epoch": 1.646653412856196, + "grad_norm": 0.4971310794353485, + "learning_rate": 2.119117333587393e-06, + "loss": 0.004, + "num_input_tokens_seen": 24328616, + "step": 12424 + }, + { + "epoch": 1.6467859509609013, + "grad_norm": 3.668064594268799, + "learning_rate": 2.118774252385694e-06, + "loss": 0.0109, + "num_input_tokens_seen": 24329984, + "step": 12425 + }, + { + "epoch": 1.6469184890656063, + "grad_norm": 2.643575429916382, + "learning_rate": 2.1184311785342916e-06, + "loss": 0.0419, + "num_input_tokens_seen": 24331664, + "step": 12426 + }, + { + "epoch": 1.6470510271703116, + "grad_norm": 3.39406418800354, + "learning_rate": 2.118088112039797e-06, + "loss": 0.1277, + "num_input_tokens_seen": 24333272, + "step": 12427 + }, + { + "epoch": 1.6471835652750166, + "grad_norm": 10.239912033081055, + "learning_rate": 2.1177450529088287e-06, + "loss": 0.2437, + "num_input_tokens_seen": 24334920, + "step": 12428 + }, + { + "epoch": 1.6473161033797217, + "grad_norm": 9.564484596252441, + "learning_rate": 2.1174020011479997e-06, + "loss": 0.148, + "num_input_tokens_seen": 24336496, + "step": 12429 + }, + { + "epoch": 1.6474486414844267, + "grad_norm": 6.252840995788574, + "learning_rate": 2.117058956763924e-06, + "loss": 0.1123, + "num_input_tokens_seen": 24339248, + "step": 12430 + }, + { + "epoch": 1.6475811795891318, + "grad_norm": 1.5266553163528442, + "learning_rate": 2.1167159197632155e-06, + "loss": 0.0113, + "num_input_tokens_seen": 24341096, + "step": 12431 + }, + { + "epoch": 1.647713717693837, + "grad_norm": 5.005025863647461, + "learning_rate": 2.1163728901524874e-06, + "loss": 0.0592, + "num_input_tokens_seen": 24343352, + "step": 12432 + }, + { + "epoch": 1.647846255798542, + "grad_norm": 9.23836612701416, + "learning_rate": 2.116029867938356e-06, + "loss": 0.2653, + "num_input_tokens_seen": 24345248, + "step": 12433 + }, + { + "epoch": 1.6479787939032473, + "grad_norm": 5.859608173370361, + "learning_rate": 2.115686853127433e-06, + "loss": 0.1058, + "num_input_tokens_seen": 24347312, + "step": 12434 + }, + { + "epoch": 1.6481113320079523, + "grad_norm": 0.11150187253952026, + "learning_rate": 2.1153438457263333e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24348384, + "step": 12435 + }, + { + "epoch": 1.6482438701126574, + "grad_norm": 8.661711692810059, + "learning_rate": 2.1150008457416697e-06, + "loss": 0.1311, + "num_input_tokens_seen": 24350000, + "step": 12436 + }, + { + "epoch": 1.6483764082173624, + "grad_norm": 0.07138270884752274, + "learning_rate": 2.114657853180054e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24351528, + "step": 12437 + }, + { + "epoch": 1.6485089463220675, + "grad_norm": 0.5834004878997803, + "learning_rate": 2.1143148680481013e-06, + "loss": 0.0037, + "num_input_tokens_seen": 24353728, + "step": 12438 + }, + { + "epoch": 1.6486414844267727, + "grad_norm": 11.578585624694824, + "learning_rate": 2.113971890352425e-06, + "loss": 0.3861, + "num_input_tokens_seen": 24356208, + "step": 12439 + }, + { + "epoch": 1.6487740225314778, + "grad_norm": 0.024569083005189896, + "learning_rate": 2.113628920099636e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24357792, + "step": 12440 + }, + { + "epoch": 1.648906560636183, + "grad_norm": 5.5889434814453125, + "learning_rate": 2.1132859572963484e-06, + "loss": 0.1011, + "num_input_tokens_seen": 24360120, + "step": 12441 + }, + { + "epoch": 1.649039098740888, + "grad_norm": 0.046275217086076736, + "learning_rate": 2.1129430019491734e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24362144, + "step": 12442 + }, + { + "epoch": 1.649171636845593, + "grad_norm": 2.100266695022583, + "learning_rate": 2.112600054064725e-06, + "loss": 0.0423, + "num_input_tokens_seen": 24364320, + "step": 12443 + }, + { + "epoch": 1.6493041749502981, + "grad_norm": 0.007969129830598831, + "learning_rate": 2.1122571136496152e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24365472, + "step": 12444 + }, + { + "epoch": 1.6494367130550032, + "grad_norm": 4.371706008911133, + "learning_rate": 2.111914180710456e-06, + "loss": 0.066, + "num_input_tokens_seen": 24367608, + "step": 12445 + }, + { + "epoch": 1.6495692511597084, + "grad_norm": 0.03658229857683182, + "learning_rate": 2.111571255253858e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24369040, + "step": 12446 + }, + { + "epoch": 1.6497017892644135, + "grad_norm": 13.418811798095703, + "learning_rate": 2.1112283372864343e-06, + "loss": 0.2112, + "num_input_tokens_seen": 24370424, + "step": 12447 + }, + { + "epoch": 1.6498343273691187, + "grad_norm": 3.0554769039154053, + "learning_rate": 2.1108854268147973e-06, + "loss": 0.0312, + "num_input_tokens_seen": 24372360, + "step": 12448 + }, + { + "epoch": 1.6499668654738238, + "grad_norm": 12.054802894592285, + "learning_rate": 2.1105425238455567e-06, + "loss": 0.3503, + "num_input_tokens_seen": 24374264, + "step": 12449 + }, + { + "epoch": 1.6500994035785288, + "grad_norm": 0.2724110782146454, + "learning_rate": 2.110199628385326e-06, + "loss": 0.0019, + "num_input_tokens_seen": 24376688, + "step": 12450 + }, + { + "epoch": 1.6502319416832338, + "grad_norm": 0.466886043548584, + "learning_rate": 2.1098567404407147e-06, + "loss": 0.0065, + "num_input_tokens_seen": 24378304, + "step": 12451 + }, + { + "epoch": 1.6503644797879389, + "grad_norm": 6.198694705963135, + "learning_rate": 2.1095138600183346e-06, + "loss": 0.1658, + "num_input_tokens_seen": 24380472, + "step": 12452 + }, + { + "epoch": 1.6504970178926441, + "grad_norm": 0.0294928140938282, + "learning_rate": 2.1091709871247967e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24381864, + "step": 12453 + }, + { + "epoch": 1.6506295559973494, + "grad_norm": 0.3923022150993347, + "learning_rate": 2.108828121766712e-06, + "loss": 0.0041, + "num_input_tokens_seen": 24384968, + "step": 12454 + }, + { + "epoch": 1.6507620941020544, + "grad_norm": 11.616300582885742, + "learning_rate": 2.108485263950691e-06, + "loss": 0.2926, + "num_input_tokens_seen": 24387480, + "step": 12455 + }, + { + "epoch": 1.6508946322067595, + "grad_norm": 1.1328603029251099, + "learning_rate": 2.1081424136833445e-06, + "loss": 0.0121, + "num_input_tokens_seen": 24389936, + "step": 12456 + }, + { + "epoch": 1.6510271703114645, + "grad_norm": 0.061572685837745667, + "learning_rate": 2.107799570971282e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24391624, + "step": 12457 + }, + { + "epoch": 1.6511597084161695, + "grad_norm": 0.021700914949178696, + "learning_rate": 2.1074567358211138e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24393856, + "step": 12458 + }, + { + "epoch": 1.6512922465208748, + "grad_norm": 0.034048426896333694, + "learning_rate": 2.1071139082394513e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24395576, + "step": 12459 + }, + { + "epoch": 1.6514247846255798, + "grad_norm": 3.639286994934082, + "learning_rate": 2.1067710882329045e-06, + "loss": 0.0542, + "num_input_tokens_seen": 24398848, + "step": 12460 + }, + { + "epoch": 1.651557322730285, + "grad_norm": 7.196837902069092, + "learning_rate": 2.1064282758080813e-06, + "loss": 0.1072, + "num_input_tokens_seen": 24399832, + "step": 12461 + }, + { + "epoch": 1.6516898608349901, + "grad_norm": 9.317455291748047, + "learning_rate": 2.1060854709715926e-06, + "loss": 0.2076, + "num_input_tokens_seen": 24401656, + "step": 12462 + }, + { + "epoch": 1.6518223989396952, + "grad_norm": 5.6045966148376465, + "learning_rate": 2.1057426737300472e-06, + "loss": 0.1836, + "num_input_tokens_seen": 24403688, + "step": 12463 + }, + { + "epoch": 1.6519549370444002, + "grad_norm": 5.364067077636719, + "learning_rate": 2.105399884090056e-06, + "loss": 0.1557, + "num_input_tokens_seen": 24405744, + "step": 12464 + }, + { + "epoch": 1.6520874751491053, + "grad_norm": 0.03390101343393326, + "learning_rate": 2.1050571020582267e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24407672, + "step": 12465 + }, + { + "epoch": 1.6522200132538105, + "grad_norm": 0.23934955894947052, + "learning_rate": 2.1047143276411696e-06, + "loss": 0.002, + "num_input_tokens_seen": 24410664, + "step": 12466 + }, + { + "epoch": 1.6523525513585156, + "grad_norm": 13.47858715057373, + "learning_rate": 2.1043715608454925e-06, + "loss": 0.3914, + "num_input_tokens_seen": 24412504, + "step": 12467 + }, + { + "epoch": 1.6524850894632208, + "grad_norm": 9.070810317993164, + "learning_rate": 2.104028801677804e-06, + "loss": 0.1937, + "num_input_tokens_seen": 24414632, + "step": 12468 + }, + { + "epoch": 1.6526176275679259, + "grad_norm": 0.33887800574302673, + "learning_rate": 2.1036860501447146e-06, + "loss": 0.0024, + "num_input_tokens_seen": 24416144, + "step": 12469 + }, + { + "epoch": 1.6527501656726309, + "grad_norm": 6.521589279174805, + "learning_rate": 2.103343306252831e-06, + "loss": 0.196, + "num_input_tokens_seen": 24419328, + "step": 12470 + }, + { + "epoch": 1.652882703777336, + "grad_norm": 9.708377838134766, + "learning_rate": 2.1030005700087623e-06, + "loss": 0.251, + "num_input_tokens_seen": 24421480, + "step": 12471 + }, + { + "epoch": 1.653015241882041, + "grad_norm": 0.0695500299334526, + "learning_rate": 2.1026578414191158e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24423504, + "step": 12472 + }, + { + "epoch": 1.6531477799867462, + "grad_norm": 0.27429261803627014, + "learning_rate": 2.1023151204905002e-06, + "loss": 0.0015, + "num_input_tokens_seen": 24425160, + "step": 12473 + }, + { + "epoch": 1.6532803180914513, + "grad_norm": 0.379561185836792, + "learning_rate": 2.1019724072295242e-06, + "loss": 0.0019, + "num_input_tokens_seen": 24427488, + "step": 12474 + }, + { + "epoch": 1.6534128561961565, + "grad_norm": 6.344111919403076, + "learning_rate": 2.101629701642795e-06, + "loss": 0.2113, + "num_input_tokens_seen": 24429328, + "step": 12475 + }, + { + "epoch": 1.6535453943008616, + "grad_norm": 5.661983966827393, + "learning_rate": 2.101287003736919e-06, + "loss": 0.2362, + "num_input_tokens_seen": 24431808, + "step": 12476 + }, + { + "epoch": 1.6536779324055666, + "grad_norm": 0.030649060383439064, + "learning_rate": 2.1009443135185055e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24433264, + "step": 12477 + }, + { + "epoch": 1.6538104705102716, + "grad_norm": 1.733249306678772, + "learning_rate": 2.10060163099416e-06, + "loss": 0.0183, + "num_input_tokens_seen": 24434544, + "step": 12478 + }, + { + "epoch": 1.6539430086149767, + "grad_norm": 14.427350044250488, + "learning_rate": 2.100258956170491e-06, + "loss": 0.2573, + "num_input_tokens_seen": 24436464, + "step": 12479 + }, + { + "epoch": 1.654075546719682, + "grad_norm": 4.297144889831543, + "learning_rate": 2.099916289054105e-06, + "loss": 0.0402, + "num_input_tokens_seen": 24439568, + "step": 12480 + }, + { + "epoch": 1.654208084824387, + "grad_norm": 7.878595352172852, + "learning_rate": 2.0995736296516095e-06, + "loss": 0.1424, + "num_input_tokens_seen": 24441384, + "step": 12481 + }, + { + "epoch": 1.6543406229290922, + "grad_norm": 5.498253345489502, + "learning_rate": 2.0992309779696107e-06, + "loss": 0.0533, + "num_input_tokens_seen": 24443880, + "step": 12482 + }, + { + "epoch": 1.6544731610337973, + "grad_norm": 0.5326500535011292, + "learning_rate": 2.0988883340147153e-06, + "loss": 0.005, + "num_input_tokens_seen": 24445688, + "step": 12483 + }, + { + "epoch": 1.6546056991385023, + "grad_norm": 13.26146125793457, + "learning_rate": 2.098545697793528e-06, + "loss": 0.1083, + "num_input_tokens_seen": 24447616, + "step": 12484 + }, + { + "epoch": 1.6547382372432073, + "grad_norm": 8.662447929382324, + "learning_rate": 2.0982030693126573e-06, + "loss": 0.1542, + "num_input_tokens_seen": 24450336, + "step": 12485 + }, + { + "epoch": 1.6548707753479124, + "grad_norm": 0.15563297271728516, + "learning_rate": 2.0978604485787094e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24453336, + "step": 12486 + }, + { + "epoch": 1.6550033134526176, + "grad_norm": 0.02556902915239334, + "learning_rate": 2.097517835598289e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24454760, + "step": 12487 + }, + { + "epoch": 1.6551358515573227, + "grad_norm": 3.9374892711639404, + "learning_rate": 2.0971752303780026e-06, + "loss": 0.1021, + "num_input_tokens_seen": 24456824, + "step": 12488 + }, + { + "epoch": 1.655268389662028, + "grad_norm": 0.982703447341919, + "learning_rate": 2.0968326329244545e-06, + "loss": 0.0086, + "num_input_tokens_seen": 24458912, + "step": 12489 + }, + { + "epoch": 1.655400927766733, + "grad_norm": 15.71157455444336, + "learning_rate": 2.0964900432442527e-06, + "loss": 0.2874, + "num_input_tokens_seen": 24461336, + "step": 12490 + }, + { + "epoch": 1.655533465871438, + "grad_norm": 5.574721336364746, + "learning_rate": 2.0961474613440007e-06, + "loss": 0.0692, + "num_input_tokens_seen": 24463768, + "step": 12491 + }, + { + "epoch": 1.655666003976143, + "grad_norm": 9.55152416229248, + "learning_rate": 2.0958048872303044e-06, + "loss": 0.2041, + "num_input_tokens_seen": 24465600, + "step": 12492 + }, + { + "epoch": 1.655798542080848, + "grad_norm": 13.484582901000977, + "learning_rate": 2.0954623209097687e-06, + "loss": 0.3454, + "num_input_tokens_seen": 24467320, + "step": 12493 + }, + { + "epoch": 1.6559310801855534, + "grad_norm": 3.6844241619110107, + "learning_rate": 2.0951197623889977e-06, + "loss": 0.0194, + "num_input_tokens_seen": 24469040, + "step": 12494 + }, + { + "epoch": 1.6560636182902586, + "grad_norm": 3.451279878616333, + "learning_rate": 2.094777211674598e-06, + "loss": 0.0445, + "num_input_tokens_seen": 24470736, + "step": 12495 + }, + { + "epoch": 1.6561961563949636, + "grad_norm": 7.777037620544434, + "learning_rate": 2.0944346687731727e-06, + "loss": 0.1592, + "num_input_tokens_seen": 24472576, + "step": 12496 + }, + { + "epoch": 1.6563286944996687, + "grad_norm": 3.831416368484497, + "learning_rate": 2.0940921336913277e-06, + "loss": 0.0395, + "num_input_tokens_seen": 24474160, + "step": 12497 + }, + { + "epoch": 1.6564612326043737, + "grad_norm": 6.333034992218018, + "learning_rate": 2.093749606435666e-06, + "loss": 0.1267, + "num_input_tokens_seen": 24475992, + "step": 12498 + }, + { + "epoch": 1.6565937707090788, + "grad_norm": 3.566476345062256, + "learning_rate": 2.093407087012791e-06, + "loss": 0.037, + "num_input_tokens_seen": 24478568, + "step": 12499 + }, + { + "epoch": 1.6567263088137838, + "grad_norm": 4.482105255126953, + "learning_rate": 2.0930645754293088e-06, + "loss": 0.0437, + "num_input_tokens_seen": 24479792, + "step": 12500 + }, + { + "epoch": 1.656858846918489, + "grad_norm": 6.188427448272705, + "learning_rate": 2.0927220716918226e-06, + "loss": 0.1452, + "num_input_tokens_seen": 24482504, + "step": 12501 + }, + { + "epoch": 1.6569913850231943, + "grad_norm": 6.203248500823975, + "learning_rate": 2.0923795758069355e-06, + "loss": 0.1297, + "num_input_tokens_seen": 24485144, + "step": 12502 + }, + { + "epoch": 1.6571239231278994, + "grad_norm": 14.572771072387695, + "learning_rate": 2.0920370877812515e-06, + "loss": 0.1299, + "num_input_tokens_seen": 24487360, + "step": 12503 + }, + { + "epoch": 1.6572564612326044, + "grad_norm": 0.023911679163575172, + "learning_rate": 2.091694607621373e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24489056, + "step": 12504 + }, + { + "epoch": 1.6573889993373094, + "grad_norm": 0.04058672860264778, + "learning_rate": 2.0913521353339047e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24490472, + "step": 12505 + }, + { + "epoch": 1.6575215374420145, + "grad_norm": 0.7940712571144104, + "learning_rate": 2.0910096709254497e-06, + "loss": 0.0047, + "num_input_tokens_seen": 24492440, + "step": 12506 + }, + { + "epoch": 1.6576540755467197, + "grad_norm": 0.32566484808921814, + "learning_rate": 2.0906672144026105e-06, + "loss": 0.0034, + "num_input_tokens_seen": 24493528, + "step": 12507 + }, + { + "epoch": 1.6577866136514248, + "grad_norm": 4.789429664611816, + "learning_rate": 2.0903247657719893e-06, + "loss": 0.0864, + "num_input_tokens_seen": 24495000, + "step": 12508 + }, + { + "epoch": 1.65791915175613, + "grad_norm": 14.886362075805664, + "learning_rate": 2.0899823250401884e-06, + "loss": 0.1383, + "num_input_tokens_seen": 24496552, + "step": 12509 + }, + { + "epoch": 1.658051689860835, + "grad_norm": 2.8449811935424805, + "learning_rate": 2.0896398922138124e-06, + "loss": 0.0455, + "num_input_tokens_seen": 24498448, + "step": 12510 + }, + { + "epoch": 1.65818422796554, + "grad_norm": 5.603843688964844, + "learning_rate": 2.0892974672994616e-06, + "loss": 0.1309, + "num_input_tokens_seen": 24500344, + "step": 12511 + }, + { + "epoch": 1.6583167660702451, + "grad_norm": 0.040200524032115936, + "learning_rate": 2.0889550503037397e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24502240, + "step": 12512 + }, + { + "epoch": 1.6584493041749502, + "grad_norm": 1.5589414834976196, + "learning_rate": 2.088612641233248e-06, + "loss": 0.047, + "num_input_tokens_seen": 24504016, + "step": 12513 + }, + { + "epoch": 1.6585818422796554, + "grad_norm": 0.021897558122873306, + "learning_rate": 2.0882702400945878e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24505520, + "step": 12514 + }, + { + "epoch": 1.6587143803843605, + "grad_norm": 0.0349416583776474, + "learning_rate": 2.087927846894361e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24507280, + "step": 12515 + }, + { + "epoch": 1.6588469184890657, + "grad_norm": 11.089234352111816, + "learning_rate": 2.0875854616391704e-06, + "loss": 0.1081, + "num_input_tokens_seen": 24509048, + "step": 12516 + }, + { + "epoch": 1.6589794565937708, + "grad_norm": 0.02502138912677765, + "learning_rate": 2.087243084335616e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24510776, + "step": 12517 + }, + { + "epoch": 1.6591119946984758, + "grad_norm": 7.318490982055664, + "learning_rate": 2.086900714990301e-06, + "loss": 0.0372, + "num_input_tokens_seen": 24513248, + "step": 12518 + }, + { + "epoch": 1.6592445328031808, + "grad_norm": 0.06691213697195053, + "learning_rate": 2.086558353609824e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24515896, + "step": 12519 + }, + { + "epoch": 1.6593770709078859, + "grad_norm": 9.124857902526855, + "learning_rate": 2.0862160002007862e-06, + "loss": 0.1411, + "num_input_tokens_seen": 24517760, + "step": 12520 + }, + { + "epoch": 1.6595096090125911, + "grad_norm": 8.442754745483398, + "learning_rate": 2.0858736547697913e-06, + "loss": 0.1265, + "num_input_tokens_seen": 24521072, + "step": 12521 + }, + { + "epoch": 1.6596421471172962, + "grad_norm": 12.957094192504883, + "learning_rate": 2.0855313173234376e-06, + "loss": 0.2824, + "num_input_tokens_seen": 24523272, + "step": 12522 + }, + { + "epoch": 1.6597746852220014, + "grad_norm": 11.337525367736816, + "learning_rate": 2.0851889878683256e-06, + "loss": 0.0921, + "num_input_tokens_seen": 24524976, + "step": 12523 + }, + { + "epoch": 1.6599072233267065, + "grad_norm": 0.05655369162559509, + "learning_rate": 2.0848466664110566e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24526736, + "step": 12524 + }, + { + "epoch": 1.6600397614314115, + "grad_norm": 4.300192356109619, + "learning_rate": 2.084504352958229e-06, + "loss": 0.0735, + "num_input_tokens_seen": 24528568, + "step": 12525 + }, + { + "epoch": 1.6601722995361166, + "grad_norm": 8.011896133422852, + "learning_rate": 2.0841620475164453e-06, + "loss": 0.1172, + "num_input_tokens_seen": 24530832, + "step": 12526 + }, + { + "epoch": 1.6603048376408216, + "grad_norm": 0.05731885880231857, + "learning_rate": 2.0838197500923043e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24532168, + "step": 12527 + }, + { + "epoch": 1.6604373757455269, + "grad_norm": 7.204423904418945, + "learning_rate": 2.0834774606924054e-06, + "loss": 0.1312, + "num_input_tokens_seen": 24533784, + "step": 12528 + }, + { + "epoch": 1.660569913850232, + "grad_norm": 6.379366397857666, + "learning_rate": 2.0831351793233483e-06, + "loss": 0.0559, + "num_input_tokens_seen": 24536096, + "step": 12529 + }, + { + "epoch": 1.6607024519549372, + "grad_norm": 12.552786827087402, + "learning_rate": 2.0827929059917314e-06, + "loss": 0.2615, + "num_input_tokens_seen": 24537944, + "step": 12530 + }, + { + "epoch": 1.6608349900596422, + "grad_norm": 1.3013322353363037, + "learning_rate": 2.0824506407041568e-06, + "loss": 0.0131, + "num_input_tokens_seen": 24540208, + "step": 12531 + }, + { + "epoch": 1.6609675281643472, + "grad_norm": 0.026617733761668205, + "learning_rate": 2.082108383467221e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24542360, + "step": 12532 + }, + { + "epoch": 1.6611000662690523, + "grad_norm": 6.615713119506836, + "learning_rate": 2.0817661342875244e-06, + "loss": 0.0683, + "num_input_tokens_seen": 24543928, + "step": 12533 + }, + { + "epoch": 1.6612326043737573, + "grad_norm": 5.202270030975342, + "learning_rate": 2.081423893171665e-06, + "loss": 0.125, + "num_input_tokens_seen": 24546296, + "step": 12534 + }, + { + "epoch": 1.6613651424784626, + "grad_norm": 12.771049499511719, + "learning_rate": 2.0810816601262408e-06, + "loss": 0.2113, + "num_input_tokens_seen": 24548584, + "step": 12535 + }, + { + "epoch": 1.6614976805831678, + "grad_norm": 0.14189909398555756, + "learning_rate": 2.0807394351578525e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24550576, + "step": 12536 + }, + { + "epoch": 1.6616302186878729, + "grad_norm": 8.984435081481934, + "learning_rate": 2.080397218273097e-06, + "loss": 0.2845, + "num_input_tokens_seen": 24552728, + "step": 12537 + }, + { + "epoch": 1.661762756792578, + "grad_norm": 1.418674111366272, + "learning_rate": 2.080055009478572e-06, + "loss": 0.0086, + "num_input_tokens_seen": 24555464, + "step": 12538 + }, + { + "epoch": 1.661895294897283, + "grad_norm": 0.7918649315834045, + "learning_rate": 2.0797128087808768e-06, + "loss": 0.0131, + "num_input_tokens_seen": 24558280, + "step": 12539 + }, + { + "epoch": 1.662027833001988, + "grad_norm": 7.088196277618408, + "learning_rate": 2.079370616186608e-06, + "loss": 0.1107, + "num_input_tokens_seen": 24560496, + "step": 12540 + }, + { + "epoch": 1.662160371106693, + "grad_norm": 7.949176788330078, + "learning_rate": 2.0790284317023633e-06, + "loss": 0.1897, + "num_input_tokens_seen": 24561984, + "step": 12541 + }, + { + "epoch": 1.6622929092113983, + "grad_norm": 19.827503204345703, + "learning_rate": 2.078686255334742e-06, + "loss": 0.5639, + "num_input_tokens_seen": 24563904, + "step": 12542 + }, + { + "epoch": 1.6624254473161035, + "grad_norm": 3.3346900939941406, + "learning_rate": 2.0783440870903403e-06, + "loss": 0.0613, + "num_input_tokens_seen": 24565848, + "step": 12543 + }, + { + "epoch": 1.6625579854208086, + "grad_norm": 8.350682258605957, + "learning_rate": 2.078001926975755e-06, + "loss": 0.0744, + "num_input_tokens_seen": 24567112, + "step": 12544 + }, + { + "epoch": 1.6626905235255136, + "grad_norm": 1.1854501962661743, + "learning_rate": 2.077659774997584e-06, + "loss": 0.0057, + "num_input_tokens_seen": 24568488, + "step": 12545 + }, + { + "epoch": 1.6628230616302186, + "grad_norm": 0.12997469305992126, + "learning_rate": 2.0773176311624233e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24570408, + "step": 12546 + }, + { + "epoch": 1.6629555997349237, + "grad_norm": 8.987651824951172, + "learning_rate": 2.0769754954768706e-06, + "loss": 0.1976, + "num_input_tokens_seen": 24572680, + "step": 12547 + }, + { + "epoch": 1.663088137839629, + "grad_norm": 5.774478912353516, + "learning_rate": 2.0766333679475226e-06, + "loss": 0.024, + "num_input_tokens_seen": 24575288, + "step": 12548 + }, + { + "epoch": 1.663220675944334, + "grad_norm": 0.04823017120361328, + "learning_rate": 2.076291248580975e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24577456, + "step": 12549 + }, + { + "epoch": 1.6633532140490392, + "grad_norm": 3.733994245529175, + "learning_rate": 2.0759491373838247e-06, + "loss": 0.0266, + "num_input_tokens_seen": 24578800, + "step": 12550 + }, + { + "epoch": 1.6634857521537443, + "grad_norm": 0.06245024874806404, + "learning_rate": 2.0756070343626665e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24580608, + "step": 12551 + }, + { + "epoch": 1.6636182902584493, + "grad_norm": 11.032949447631836, + "learning_rate": 2.0752649395240985e-06, + "loss": 0.1617, + "num_input_tokens_seen": 24582216, + "step": 12552 + }, + { + "epoch": 1.6637508283631544, + "grad_norm": 3.4304184913635254, + "learning_rate": 2.0749228528747154e-06, + "loss": 0.0241, + "num_input_tokens_seen": 24584760, + "step": 12553 + }, + { + "epoch": 1.6638833664678594, + "grad_norm": 0.5522821545600891, + "learning_rate": 2.074580774421113e-06, + "loss": 0.0051, + "num_input_tokens_seen": 24586368, + "step": 12554 + }, + { + "epoch": 1.6640159045725647, + "grad_norm": 0.01259677391499281, + "learning_rate": 2.074238704169886e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24587832, + "step": 12555 + }, + { + "epoch": 1.6641484426772697, + "grad_norm": 23.19214630126953, + "learning_rate": 2.0738966421276306e-06, + "loss": 0.5154, + "num_input_tokens_seen": 24589768, + "step": 12556 + }, + { + "epoch": 1.664280980781975, + "grad_norm": 1.189054250717163, + "learning_rate": 2.0735545883009427e-06, + "loss": 0.0122, + "num_input_tokens_seen": 24591176, + "step": 12557 + }, + { + "epoch": 1.66441351888668, + "grad_norm": 6.5798211097717285, + "learning_rate": 2.073212542696416e-06, + "loss": 0.0512, + "num_input_tokens_seen": 24593472, + "step": 12558 + }, + { + "epoch": 1.664546056991385, + "grad_norm": 0.012018929235637188, + "learning_rate": 2.0728705053206466e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24595120, + "step": 12559 + }, + { + "epoch": 1.66467859509609, + "grad_norm": 25.996784210205078, + "learning_rate": 2.072528476180228e-06, + "loss": 0.4534, + "num_input_tokens_seen": 24597960, + "step": 12560 + }, + { + "epoch": 1.664811133200795, + "grad_norm": 14.749024391174316, + "learning_rate": 2.072186455281755e-06, + "loss": 0.218, + "num_input_tokens_seen": 24600592, + "step": 12561 + }, + { + "epoch": 1.6649436713055004, + "grad_norm": 2.8969414234161377, + "learning_rate": 2.071844442631822e-06, + "loss": 0.0393, + "num_input_tokens_seen": 24602592, + "step": 12562 + }, + { + "epoch": 1.6650762094102054, + "grad_norm": 0.9519136548042297, + "learning_rate": 2.0715024382370245e-06, + "loss": 0.0234, + "num_input_tokens_seen": 24604848, + "step": 12563 + }, + { + "epoch": 1.6652087475149107, + "grad_norm": 1.2902613878250122, + "learning_rate": 2.071160442103955e-06, + "loss": 0.0074, + "num_input_tokens_seen": 24606280, + "step": 12564 + }, + { + "epoch": 1.6653412856196157, + "grad_norm": 1.1296002864837646, + "learning_rate": 2.0708184542392084e-06, + "loss": 0.0114, + "num_input_tokens_seen": 24607472, + "step": 12565 + }, + { + "epoch": 1.6654738237243207, + "grad_norm": 2.483086347579956, + "learning_rate": 2.0704764746493773e-06, + "loss": 0.0488, + "num_input_tokens_seen": 24608736, + "step": 12566 + }, + { + "epoch": 1.6656063618290258, + "grad_norm": 11.920053482055664, + "learning_rate": 2.0701345033410568e-06, + "loss": 0.2988, + "num_input_tokens_seen": 24610232, + "step": 12567 + }, + { + "epoch": 1.6657388999337308, + "grad_norm": 0.0851629227399826, + "learning_rate": 2.0697925403208393e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24612040, + "step": 12568 + }, + { + "epoch": 1.665871438038436, + "grad_norm": 4.684647560119629, + "learning_rate": 2.069450585595319e-06, + "loss": 0.0512, + "num_input_tokens_seen": 24614440, + "step": 12569 + }, + { + "epoch": 1.666003976143141, + "grad_norm": 1.0345211029052734, + "learning_rate": 2.069108639171088e-06, + "loss": 0.0064, + "num_input_tokens_seen": 24617192, + "step": 12570 + }, + { + "epoch": 1.6661365142478464, + "grad_norm": 4.9417314529418945, + "learning_rate": 2.0687667010547397e-06, + "loss": 0.1322, + "num_input_tokens_seen": 24618912, + "step": 12571 + }, + { + "epoch": 1.6662690523525514, + "grad_norm": 3.0760343074798584, + "learning_rate": 2.068424771252866e-06, + "loss": 0.0074, + "num_input_tokens_seen": 24621560, + "step": 12572 + }, + { + "epoch": 1.6664015904572564, + "grad_norm": 7.992963790893555, + "learning_rate": 2.0680828497720613e-06, + "loss": 0.2593, + "num_input_tokens_seen": 24623512, + "step": 12573 + }, + { + "epoch": 1.6665341285619615, + "grad_norm": 5.043349266052246, + "learning_rate": 2.0677409366189176e-06, + "loss": 0.0558, + "num_input_tokens_seen": 24624992, + "step": 12574 + }, + { + "epoch": 1.6666666666666665, + "grad_norm": 5.909275054931641, + "learning_rate": 2.067399031800027e-06, + "loss": 0.024, + "num_input_tokens_seen": 24627416, + "step": 12575 + }, + { + "epoch": 1.6667992047713718, + "grad_norm": 6.859180450439453, + "learning_rate": 2.0670571353219806e-06, + "loss": 0.1828, + "num_input_tokens_seen": 24629552, + "step": 12576 + }, + { + "epoch": 1.666931742876077, + "grad_norm": 2.6421396732330322, + "learning_rate": 2.066715247191371e-06, + "loss": 0.0644, + "num_input_tokens_seen": 24631256, + "step": 12577 + }, + { + "epoch": 1.667064280980782, + "grad_norm": 1.6464276313781738, + "learning_rate": 2.066373367414791e-06, + "loss": 0.037, + "num_input_tokens_seen": 24633136, + "step": 12578 + }, + { + "epoch": 1.6671968190854871, + "grad_norm": 13.033422470092773, + "learning_rate": 2.0660314959988316e-06, + "loss": 0.1588, + "num_input_tokens_seen": 24635048, + "step": 12579 + }, + { + "epoch": 1.6673293571901922, + "grad_norm": 7.838176727294922, + "learning_rate": 2.065689632950085e-06, + "loss": 0.219, + "num_input_tokens_seen": 24637056, + "step": 12580 + }, + { + "epoch": 1.6674618952948972, + "grad_norm": 0.04336291551589966, + "learning_rate": 2.0653477782751415e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24638640, + "step": 12581 + }, + { + "epoch": 1.6675944333996022, + "grad_norm": 5.1652655601501465, + "learning_rate": 2.065005931980592e-06, + "loss": 0.0847, + "num_input_tokens_seen": 24640464, + "step": 12582 + }, + { + "epoch": 1.6677269715043075, + "grad_norm": 6.65416955947876, + "learning_rate": 2.0646640940730285e-06, + "loss": 0.1027, + "num_input_tokens_seen": 24643320, + "step": 12583 + }, + { + "epoch": 1.6678595096090127, + "grad_norm": 6.0637006759643555, + "learning_rate": 2.064322264559042e-06, + "loss": 0.1455, + "num_input_tokens_seen": 24646224, + "step": 12584 + }, + { + "epoch": 1.6679920477137178, + "grad_norm": 7.643784046173096, + "learning_rate": 2.0639804434452225e-06, + "loss": 0.1238, + "num_input_tokens_seen": 24648456, + "step": 12585 + }, + { + "epoch": 1.6681245858184228, + "grad_norm": 2.7666585445404053, + "learning_rate": 2.063638630738161e-06, + "loss": 0.0637, + "num_input_tokens_seen": 24650008, + "step": 12586 + }, + { + "epoch": 1.6682571239231279, + "grad_norm": 0.07302656024694443, + "learning_rate": 2.063296826444447e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24652016, + "step": 12587 + }, + { + "epoch": 1.668389662027833, + "grad_norm": 4.4107985496521, + "learning_rate": 2.062955030570672e-06, + "loss": 0.0767, + "num_input_tokens_seen": 24653568, + "step": 12588 + }, + { + "epoch": 1.6685222001325382, + "grad_norm": 7.478450298309326, + "learning_rate": 2.0626132431234256e-06, + "loss": 0.0888, + "num_input_tokens_seen": 24655688, + "step": 12589 + }, + { + "epoch": 1.6686547382372432, + "grad_norm": 3.4438467025756836, + "learning_rate": 2.0622714641092986e-06, + "loss": 0.0563, + "num_input_tokens_seen": 24657224, + "step": 12590 + }, + { + "epoch": 1.6687872763419485, + "grad_norm": 12.547554969787598, + "learning_rate": 2.061929693534878e-06, + "loss": 0.245, + "num_input_tokens_seen": 24659200, + "step": 12591 + }, + { + "epoch": 1.6689198144466535, + "grad_norm": 11.405672073364258, + "learning_rate": 2.0615879314067556e-06, + "loss": 0.2422, + "num_input_tokens_seen": 24662256, + "step": 12592 + }, + { + "epoch": 1.6690523525513585, + "grad_norm": 8.424065589904785, + "learning_rate": 2.0612461777315205e-06, + "loss": 0.2784, + "num_input_tokens_seen": 24664896, + "step": 12593 + }, + { + "epoch": 1.6691848906560636, + "grad_norm": 5.941987991333008, + "learning_rate": 2.0609044325157618e-06, + "loss": 0.0543, + "num_input_tokens_seen": 24667176, + "step": 12594 + }, + { + "epoch": 1.6693174287607686, + "grad_norm": 11.535968780517578, + "learning_rate": 2.060562695766069e-06, + "loss": 0.2176, + "num_input_tokens_seen": 24669816, + "step": 12595 + }, + { + "epoch": 1.6694499668654739, + "grad_norm": 1.825566291809082, + "learning_rate": 2.06022096748903e-06, + "loss": 0.0226, + "num_input_tokens_seen": 24671392, + "step": 12596 + }, + { + "epoch": 1.669582504970179, + "grad_norm": 0.07434290647506714, + "learning_rate": 2.059879247691235e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24673224, + "step": 12597 + }, + { + "epoch": 1.6697150430748842, + "grad_norm": 10.774996757507324, + "learning_rate": 2.05953753637927e-06, + "loss": 0.0836, + "num_input_tokens_seen": 24675440, + "step": 12598 + }, + { + "epoch": 1.6698475811795892, + "grad_norm": 0.09268884360790253, + "learning_rate": 2.0591958335597267e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24676808, + "step": 12599 + }, + { + "epoch": 1.6699801192842942, + "grad_norm": 15.444400787353516, + "learning_rate": 2.058854139239191e-06, + "loss": 0.5013, + "num_input_tokens_seen": 24679704, + "step": 12600 + }, + { + "epoch": 1.6701126573889993, + "grad_norm": 8.134020805358887, + "learning_rate": 2.058512453424253e-06, + "loss": 0.1696, + "num_input_tokens_seen": 24681776, + "step": 12601 + }, + { + "epoch": 1.6702451954937043, + "grad_norm": 0.23860086500644684, + "learning_rate": 2.0581707761214983e-06, + "loss": 0.0016, + "num_input_tokens_seen": 24684072, + "step": 12602 + }, + { + "epoch": 1.6703777335984096, + "grad_norm": 0.11969126760959625, + "learning_rate": 2.0578291073375154e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24687512, + "step": 12603 + }, + { + "epoch": 1.6705102717031146, + "grad_norm": 6.728306293487549, + "learning_rate": 2.0574874470788936e-06, + "loss": 0.097, + "num_input_tokens_seen": 24688808, + "step": 12604 + }, + { + "epoch": 1.6706428098078199, + "grad_norm": 8.078740119934082, + "learning_rate": 2.057145795352219e-06, + "loss": 0.1575, + "num_input_tokens_seen": 24691184, + "step": 12605 + }, + { + "epoch": 1.670775347912525, + "grad_norm": 4.105355262756348, + "learning_rate": 2.0568041521640785e-06, + "loss": 0.0585, + "num_input_tokens_seen": 24692968, + "step": 12606 + }, + { + "epoch": 1.67090788601723, + "grad_norm": 0.03174453601241112, + "learning_rate": 2.05646251752106e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24694040, + "step": 12607 + }, + { + "epoch": 1.671040424121935, + "grad_norm": 2.968130350112915, + "learning_rate": 2.056120891429749e-06, + "loss": 0.0826, + "num_input_tokens_seen": 24697192, + "step": 12608 + }, + { + "epoch": 1.67117296222664, + "grad_norm": 9.39665699005127, + "learning_rate": 2.0557792738967343e-06, + "loss": 0.2193, + "num_input_tokens_seen": 24699000, + "step": 12609 + }, + { + "epoch": 1.6713055003313453, + "grad_norm": 1.4442487955093384, + "learning_rate": 2.0554376649286023e-06, + "loss": 0.0072, + "num_input_tokens_seen": 24701464, + "step": 12610 + }, + { + "epoch": 1.6714380384360503, + "grad_norm": 0.024023912847042084, + "learning_rate": 2.0550960645319377e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24702696, + "step": 12611 + }, + { + "epoch": 1.6715705765407556, + "grad_norm": 6.288366317749023, + "learning_rate": 2.054754472713329e-06, + "loss": 0.133, + "num_input_tokens_seen": 24704576, + "step": 12612 + }, + { + "epoch": 1.6717031146454606, + "grad_norm": 0.5846000909805298, + "learning_rate": 2.05441288947936e-06, + "loss": 0.0059, + "num_input_tokens_seen": 24706032, + "step": 12613 + }, + { + "epoch": 1.6718356527501657, + "grad_norm": 0.11612889915704727, + "learning_rate": 2.0540713148366185e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24707640, + "step": 12614 + }, + { + "epoch": 1.6719681908548707, + "grad_norm": 5.25131368637085, + "learning_rate": 2.0537297487916898e-06, + "loss": 0.1101, + "num_input_tokens_seen": 24710624, + "step": 12615 + }, + { + "epoch": 1.6721007289595757, + "grad_norm": 0.0853138193488121, + "learning_rate": 2.0533881913511597e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24712256, + "step": 12616 + }, + { + "epoch": 1.672233267064281, + "grad_norm": 0.12376310676336288, + "learning_rate": 2.0530466425216127e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24713880, + "step": 12617 + }, + { + "epoch": 1.672365805168986, + "grad_norm": 7.602744102478027, + "learning_rate": 2.0527051023096345e-06, + "loss": 0.129, + "num_input_tokens_seen": 24715856, + "step": 12618 + }, + { + "epoch": 1.6724983432736913, + "grad_norm": 1.3021348714828491, + "learning_rate": 2.0523635707218116e-06, + "loss": 0.0116, + "num_input_tokens_seen": 24717552, + "step": 12619 + }, + { + "epoch": 1.6726308813783963, + "grad_norm": 7.130713939666748, + "learning_rate": 2.0520220477647272e-06, + "loss": 0.2238, + "num_input_tokens_seen": 24719904, + "step": 12620 + }, + { + "epoch": 1.6727634194831014, + "grad_norm": 0.33442631363868713, + "learning_rate": 2.051680533444967e-06, + "loss": 0.0023, + "num_input_tokens_seen": 24722032, + "step": 12621 + }, + { + "epoch": 1.6728959575878064, + "grad_norm": 9.061714172363281, + "learning_rate": 2.0513390277691156e-06, + "loss": 0.1026, + "num_input_tokens_seen": 24724336, + "step": 12622 + }, + { + "epoch": 1.6730284956925114, + "grad_norm": 6.094336032867432, + "learning_rate": 2.0509975307437564e-06, + "loss": 0.1265, + "num_input_tokens_seen": 24725856, + "step": 12623 + }, + { + "epoch": 1.6731610337972167, + "grad_norm": 0.11674538999795914, + "learning_rate": 2.050656042375475e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24727832, + "step": 12624 + }, + { + "epoch": 1.673293571901922, + "grad_norm": 0.40906742215156555, + "learning_rate": 2.0503145626708554e-06, + "loss": 0.0041, + "num_input_tokens_seen": 24729560, + "step": 12625 + }, + { + "epoch": 1.673426110006627, + "grad_norm": 1.3542370796203613, + "learning_rate": 2.0499730916364806e-06, + "loss": 0.0046, + "num_input_tokens_seen": 24731616, + "step": 12626 + }, + { + "epoch": 1.673558648111332, + "grad_norm": 8.894756317138672, + "learning_rate": 2.049631629278936e-06, + "loss": 0.0362, + "num_input_tokens_seen": 24733104, + "step": 12627 + }, + { + "epoch": 1.673691186216037, + "grad_norm": 0.17146232724189758, + "learning_rate": 2.049290175604804e-06, + "loss": 0.0012, + "num_input_tokens_seen": 24735264, + "step": 12628 + }, + { + "epoch": 1.6738237243207421, + "grad_norm": 3.6801795959472656, + "learning_rate": 2.0489487306206676e-06, + "loss": 0.0224, + "num_input_tokens_seen": 24736672, + "step": 12629 + }, + { + "epoch": 1.6739562624254472, + "grad_norm": 11.28310775756836, + "learning_rate": 2.048607294333111e-06, + "loss": 0.1242, + "num_input_tokens_seen": 24737696, + "step": 12630 + }, + { + "epoch": 1.6740888005301524, + "grad_norm": 13.773236274719238, + "learning_rate": 2.0482658667487183e-06, + "loss": 0.227, + "num_input_tokens_seen": 24739472, + "step": 12631 + }, + { + "epoch": 1.6742213386348577, + "grad_norm": 0.10588119179010391, + "learning_rate": 2.04792444787407e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24741400, + "step": 12632 + }, + { + "epoch": 1.6743538767395627, + "grad_norm": 0.23910683393478394, + "learning_rate": 2.047583037715751e-06, + "loss": 0.0012, + "num_input_tokens_seen": 24743104, + "step": 12633 + }, + { + "epoch": 1.6744864148442677, + "grad_norm": 0.7921948432922363, + "learning_rate": 2.047241636280343e-06, + "loss": 0.0059, + "num_input_tokens_seen": 24744648, + "step": 12634 + }, + { + "epoch": 1.6746189529489728, + "grad_norm": 7.8460845947265625, + "learning_rate": 2.0469002435744285e-06, + "loss": 0.2081, + "num_input_tokens_seen": 24746320, + "step": 12635 + }, + { + "epoch": 1.6747514910536778, + "grad_norm": 2.4047162532806396, + "learning_rate": 2.0465588596045896e-06, + "loss": 0.0723, + "num_input_tokens_seen": 24748048, + "step": 12636 + }, + { + "epoch": 1.674884029158383, + "grad_norm": 12.07406234741211, + "learning_rate": 2.0462174843774094e-06, + "loss": 0.1636, + "num_input_tokens_seen": 24750512, + "step": 12637 + }, + { + "epoch": 1.6750165672630881, + "grad_norm": 10.994248390197754, + "learning_rate": 2.0458761178994684e-06, + "loss": 0.248, + "num_input_tokens_seen": 24752584, + "step": 12638 + }, + { + "epoch": 1.6751491053677934, + "grad_norm": 4.051455974578857, + "learning_rate": 2.045534760177349e-06, + "loss": 0.036, + "num_input_tokens_seen": 24754664, + "step": 12639 + }, + { + "epoch": 1.6752816434724984, + "grad_norm": 7.72996187210083, + "learning_rate": 2.0451934112176335e-06, + "loss": 0.0352, + "num_input_tokens_seen": 24756048, + "step": 12640 + }, + { + "epoch": 1.6754141815772035, + "grad_norm": 4.4396162033081055, + "learning_rate": 2.0448520710269026e-06, + "loss": 0.0854, + "num_input_tokens_seen": 24758408, + "step": 12641 + }, + { + "epoch": 1.6755467196819085, + "grad_norm": 0.05243891850113869, + "learning_rate": 2.0445107396117384e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24759536, + "step": 12642 + }, + { + "epoch": 1.6756792577866135, + "grad_norm": 0.19418716430664062, + "learning_rate": 2.044169416978721e-06, + "loss": 0.002, + "num_input_tokens_seen": 24761176, + "step": 12643 + }, + { + "epoch": 1.6758117958913188, + "grad_norm": 12.619674682617188, + "learning_rate": 2.043828103134431e-06, + "loss": 0.1568, + "num_input_tokens_seen": 24763120, + "step": 12644 + }, + { + "epoch": 1.6759443339960238, + "grad_norm": 5.470091342926025, + "learning_rate": 2.04348679808545e-06, + "loss": 0.176, + "num_input_tokens_seen": 24765272, + "step": 12645 + }, + { + "epoch": 1.676076872100729, + "grad_norm": 4.8347625732421875, + "learning_rate": 2.0431455018383595e-06, + "loss": 0.0637, + "num_input_tokens_seen": 24767480, + "step": 12646 + }, + { + "epoch": 1.6762094102054341, + "grad_norm": 1.0146862268447876, + "learning_rate": 2.0428042143997377e-06, + "loss": 0.0056, + "num_input_tokens_seen": 24769416, + "step": 12647 + }, + { + "epoch": 1.6763419483101392, + "grad_norm": 9.917863845825195, + "learning_rate": 2.042462935776167e-06, + "loss": 0.1069, + "num_input_tokens_seen": 24771648, + "step": 12648 + }, + { + "epoch": 1.6764744864148442, + "grad_norm": 14.398921012878418, + "learning_rate": 2.0421216659742256e-06, + "loss": 0.302, + "num_input_tokens_seen": 24774280, + "step": 12649 + }, + { + "epoch": 1.6766070245195492, + "grad_norm": 6.200052261352539, + "learning_rate": 2.0417804050004947e-06, + "loss": 0.1898, + "num_input_tokens_seen": 24775496, + "step": 12650 + }, + { + "epoch": 1.6767395626242545, + "grad_norm": 7.860629558563232, + "learning_rate": 2.0414391528615543e-06, + "loss": 0.2151, + "num_input_tokens_seen": 24778792, + "step": 12651 + }, + { + "epoch": 1.6768721007289595, + "grad_norm": 7.348298072814941, + "learning_rate": 2.041097909563983e-06, + "loss": 0.2003, + "num_input_tokens_seen": 24780336, + "step": 12652 + }, + { + "epoch": 1.6770046388336648, + "grad_norm": 6.182065486907959, + "learning_rate": 2.0407566751143605e-06, + "loss": 0.1058, + "num_input_tokens_seen": 24782248, + "step": 12653 + }, + { + "epoch": 1.6771371769383698, + "grad_norm": 9.230423927307129, + "learning_rate": 2.040415449519266e-06, + "loss": 0.2193, + "num_input_tokens_seen": 24784976, + "step": 12654 + }, + { + "epoch": 1.6772697150430749, + "grad_norm": 10.573271751403809, + "learning_rate": 2.0400742327852786e-06, + "loss": 0.2268, + "num_input_tokens_seen": 24786848, + "step": 12655 + }, + { + "epoch": 1.67740225314778, + "grad_norm": 0.05317999795079231, + "learning_rate": 2.0397330249189775e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24788128, + "step": 12656 + }, + { + "epoch": 1.677534791252485, + "grad_norm": 0.0943717360496521, + "learning_rate": 2.0393918259269414e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24789576, + "step": 12657 + }, + { + "epoch": 1.6776673293571902, + "grad_norm": 8.628497123718262, + "learning_rate": 2.0390506358157493e-06, + "loss": 0.179, + "num_input_tokens_seen": 24791392, + "step": 12658 + }, + { + "epoch": 1.6777998674618952, + "grad_norm": 0.0932103767991066, + "learning_rate": 2.0387094545919776e-06, + "loss": 0.0005, + "num_input_tokens_seen": 24792968, + "step": 12659 + }, + { + "epoch": 1.6779324055666005, + "grad_norm": 10.09632396697998, + "learning_rate": 2.038368282262206e-06, + "loss": 0.0968, + "num_input_tokens_seen": 24794808, + "step": 12660 + }, + { + "epoch": 1.6780649436713055, + "grad_norm": 0.18293797969818115, + "learning_rate": 2.038027118833013e-06, + "loss": 0.0015, + "num_input_tokens_seen": 24796576, + "step": 12661 + }, + { + "epoch": 1.6781974817760106, + "grad_norm": 7.20873498916626, + "learning_rate": 2.0376859643109753e-06, + "loss": 0.2357, + "num_input_tokens_seen": 24798824, + "step": 12662 + }, + { + "epoch": 1.6783300198807156, + "grad_norm": 12.587116241455078, + "learning_rate": 2.0373448187026715e-06, + "loss": 0.1908, + "num_input_tokens_seen": 24799904, + "step": 12663 + }, + { + "epoch": 1.6784625579854207, + "grad_norm": 25.987010955810547, + "learning_rate": 2.037003682014679e-06, + "loss": 0.3322, + "num_input_tokens_seen": 24801768, + "step": 12664 + }, + { + "epoch": 1.678595096090126, + "grad_norm": 0.5166041851043701, + "learning_rate": 2.0366625542535735e-06, + "loss": 0.0031, + "num_input_tokens_seen": 24804696, + "step": 12665 + }, + { + "epoch": 1.6787276341948312, + "grad_norm": 3.3394079208374023, + "learning_rate": 2.0363214354259354e-06, + "loss": 0.0173, + "num_input_tokens_seen": 24805936, + "step": 12666 + }, + { + "epoch": 1.6788601722995362, + "grad_norm": 10.402264595031738, + "learning_rate": 2.0359803255383396e-06, + "loss": 0.0936, + "num_input_tokens_seen": 24808680, + "step": 12667 + }, + { + "epoch": 1.6789927104042413, + "grad_norm": 6.29779577255249, + "learning_rate": 2.035639224597363e-06, + "loss": 0.1491, + "num_input_tokens_seen": 24811680, + "step": 12668 + }, + { + "epoch": 1.6791252485089463, + "grad_norm": 2.9204511642456055, + "learning_rate": 2.0352981326095823e-06, + "loss": 0.0298, + "num_input_tokens_seen": 24813120, + "step": 12669 + }, + { + "epoch": 1.6792577866136513, + "grad_norm": 12.059741020202637, + "learning_rate": 2.0349570495815736e-06, + "loss": 0.2849, + "num_input_tokens_seen": 24816352, + "step": 12670 + }, + { + "epoch": 1.6793903247183564, + "grad_norm": 1.0880364179611206, + "learning_rate": 2.034615975519914e-06, + "loss": 0.0121, + "num_input_tokens_seen": 24818080, + "step": 12671 + }, + { + "epoch": 1.6795228628230616, + "grad_norm": 1.585404396057129, + "learning_rate": 2.0342749104311804e-06, + "loss": 0.0342, + "num_input_tokens_seen": 24821160, + "step": 12672 + }, + { + "epoch": 1.6796554009277669, + "grad_norm": 6.887788772583008, + "learning_rate": 2.033933854321948e-06, + "loss": 0.1198, + "num_input_tokens_seen": 24822936, + "step": 12673 + }, + { + "epoch": 1.679787939032472, + "grad_norm": 11.674654006958008, + "learning_rate": 2.033592807198791e-06, + "loss": 0.4288, + "num_input_tokens_seen": 24825024, + "step": 12674 + }, + { + "epoch": 1.679920477137177, + "grad_norm": 6.087829113006592, + "learning_rate": 2.0332517690682865e-06, + "loss": 0.1138, + "num_input_tokens_seen": 24826968, + "step": 12675 + }, + { + "epoch": 1.680053015241882, + "grad_norm": 3.6697022914886475, + "learning_rate": 2.032910739937011e-06, + "loss": 0.0201, + "num_input_tokens_seen": 24829520, + "step": 12676 + }, + { + "epoch": 1.680185553346587, + "grad_norm": 2.865846633911133, + "learning_rate": 2.032569719811538e-06, + "loss": 0.0543, + "num_input_tokens_seen": 24831992, + "step": 12677 + }, + { + "epoch": 1.6803180914512923, + "grad_norm": 0.08668113499879837, + "learning_rate": 2.0322287086984436e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24834152, + "step": 12678 + }, + { + "epoch": 1.6804506295559973, + "grad_norm": 10.407691955566406, + "learning_rate": 2.031887706604302e-06, + "loss": 0.2593, + "num_input_tokens_seen": 24836208, + "step": 12679 + }, + { + "epoch": 1.6805831676607026, + "grad_norm": 0.05890491232275963, + "learning_rate": 2.031546713535688e-06, + "loss": 0.0007, + "num_input_tokens_seen": 24837576, + "step": 12680 + }, + { + "epoch": 1.6807157057654076, + "grad_norm": 5.605384826660156, + "learning_rate": 2.0312057294991778e-06, + "loss": 0.1024, + "num_input_tokens_seen": 24839760, + "step": 12681 + }, + { + "epoch": 1.6808482438701127, + "grad_norm": 4.910287857055664, + "learning_rate": 2.030864754501344e-06, + "loss": 0.0709, + "num_input_tokens_seen": 24843024, + "step": 12682 + }, + { + "epoch": 1.6809807819748177, + "grad_norm": 1.3881008625030518, + "learning_rate": 2.030523788548761e-06, + "loss": 0.0096, + "num_input_tokens_seen": 24844656, + "step": 12683 + }, + { + "epoch": 1.6811133200795227, + "grad_norm": 8.331984519958496, + "learning_rate": 2.0301828316480036e-06, + "loss": 0.1406, + "num_input_tokens_seen": 24846488, + "step": 12684 + }, + { + "epoch": 1.681245858184228, + "grad_norm": 5.891432762145996, + "learning_rate": 2.0298418838056452e-06, + "loss": 0.1264, + "num_input_tokens_seen": 24848440, + "step": 12685 + }, + { + "epoch": 1.681378396288933, + "grad_norm": 2.178873300552368, + "learning_rate": 2.029500945028259e-06, + "loss": 0.0273, + "num_input_tokens_seen": 24849888, + "step": 12686 + }, + { + "epoch": 1.6815109343936383, + "grad_norm": 0.48465508222579956, + "learning_rate": 2.02916001532242e-06, + "loss": 0.005, + "num_input_tokens_seen": 24851544, + "step": 12687 + }, + { + "epoch": 1.6816434724983433, + "grad_norm": 7.637752056121826, + "learning_rate": 2.0288190946947012e-06, + "loss": 0.1835, + "num_input_tokens_seen": 24853408, + "step": 12688 + }, + { + "epoch": 1.6817760106030484, + "grad_norm": 1.3939573764801025, + "learning_rate": 2.0284781831516743e-06, + "loss": 0.0137, + "num_input_tokens_seen": 24854888, + "step": 12689 + }, + { + "epoch": 1.6819085487077534, + "grad_norm": 0.11237908899784088, + "learning_rate": 2.0281372806999137e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24858272, + "step": 12690 + }, + { + "epoch": 1.6820410868124585, + "grad_norm": 7.96834135055542, + "learning_rate": 2.0277963873459914e-06, + "loss": 0.1319, + "num_input_tokens_seen": 24859968, + "step": 12691 + }, + { + "epoch": 1.6821736249171637, + "grad_norm": 11.280967712402344, + "learning_rate": 2.0274555030964806e-06, + "loss": 0.2455, + "num_input_tokens_seen": 24862744, + "step": 12692 + }, + { + "epoch": 1.6823061630218688, + "grad_norm": 0.0485367625951767, + "learning_rate": 2.0271146279579543e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24864488, + "step": 12693 + }, + { + "epoch": 1.682438701126574, + "grad_norm": 3.847808599472046, + "learning_rate": 2.026773761936984e-06, + "loss": 0.1016, + "num_input_tokens_seen": 24866352, + "step": 12694 + }, + { + "epoch": 1.682571239231279, + "grad_norm": 8.230746269226074, + "learning_rate": 2.0264329050401418e-06, + "loss": 0.1649, + "num_input_tokens_seen": 24869104, + "step": 12695 + }, + { + "epoch": 1.682703777335984, + "grad_norm": 5.045008182525635, + "learning_rate": 2.0260920572739993e-06, + "loss": 0.1183, + "num_input_tokens_seen": 24870480, + "step": 12696 + }, + { + "epoch": 1.6828363154406891, + "grad_norm": 0.29245442152023315, + "learning_rate": 2.02575121864513e-06, + "loss": 0.0043, + "num_input_tokens_seen": 24872616, + "step": 12697 + }, + { + "epoch": 1.6829688535453942, + "grad_norm": 0.054146938025951385, + "learning_rate": 2.0254103891601036e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24873976, + "step": 12698 + }, + { + "epoch": 1.6831013916500994, + "grad_norm": 9.22727108001709, + "learning_rate": 2.0250695688254934e-06, + "loss": 0.0659, + "num_input_tokens_seen": 24875840, + "step": 12699 + }, + { + "epoch": 1.6832339297548045, + "grad_norm": 0.22524474561214447, + "learning_rate": 2.0247287576478683e-06, + "loss": 0.0013, + "num_input_tokens_seen": 24877320, + "step": 12700 + }, + { + "epoch": 1.6833664678595097, + "grad_norm": 0.08207983523607254, + "learning_rate": 2.0243879556338e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24878896, + "step": 12701 + }, + { + "epoch": 1.6834990059642148, + "grad_norm": 5.4703168869018555, + "learning_rate": 2.024047162789862e-06, + "loss": 0.0766, + "num_input_tokens_seen": 24880528, + "step": 12702 + }, + { + "epoch": 1.6836315440689198, + "grad_norm": 8.023066520690918, + "learning_rate": 2.0237063791226217e-06, + "loss": 0.1244, + "num_input_tokens_seen": 24882472, + "step": 12703 + }, + { + "epoch": 1.6837640821736248, + "grad_norm": 2.407456159591675, + "learning_rate": 2.023365604638652e-06, + "loss": 0.0376, + "num_input_tokens_seen": 24884096, + "step": 12704 + }, + { + "epoch": 1.6838966202783299, + "grad_norm": 1.9698694944381714, + "learning_rate": 2.023024839344522e-06, + "loss": 0.0196, + "num_input_tokens_seen": 24885824, + "step": 12705 + }, + { + "epoch": 1.6840291583830351, + "grad_norm": 5.459560394287109, + "learning_rate": 2.0226840832468014e-06, + "loss": 0.1011, + "num_input_tokens_seen": 24887808, + "step": 12706 + }, + { + "epoch": 1.6841616964877404, + "grad_norm": 3.264509439468384, + "learning_rate": 2.022343336352061e-06, + "loss": 0.0386, + "num_input_tokens_seen": 24889064, + "step": 12707 + }, + { + "epoch": 1.6842942345924454, + "grad_norm": 0.021246932446956635, + "learning_rate": 2.0220025986668713e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24890360, + "step": 12708 + }, + { + "epoch": 1.6844267726971505, + "grad_norm": 6.121258735656738, + "learning_rate": 2.021661870197801e-06, + "loss": 0.1554, + "num_input_tokens_seen": 24892232, + "step": 12709 + }, + { + "epoch": 1.6845593108018555, + "grad_norm": 4.035791397094727, + "learning_rate": 2.02132115095142e-06, + "loss": 0.054, + "num_input_tokens_seen": 24893920, + "step": 12710 + }, + { + "epoch": 1.6846918489065605, + "grad_norm": 4.949850082397461, + "learning_rate": 2.0209804409342964e-06, + "loss": 0.0149, + "num_input_tokens_seen": 24895816, + "step": 12711 + }, + { + "epoch": 1.6848243870112656, + "grad_norm": 6.144629955291748, + "learning_rate": 2.0206397401530016e-06, + "loss": 0.1339, + "num_input_tokens_seen": 24897624, + "step": 12712 + }, + { + "epoch": 1.6849569251159708, + "grad_norm": 4.713603973388672, + "learning_rate": 2.0202990486141026e-06, + "loss": 0.0992, + "num_input_tokens_seen": 24899544, + "step": 12713 + }, + { + "epoch": 1.685089463220676, + "grad_norm": 6.870382308959961, + "learning_rate": 2.0199583663241698e-06, + "loss": 0.0739, + "num_input_tokens_seen": 24901504, + "step": 12714 + }, + { + "epoch": 1.6852220013253811, + "grad_norm": 0.4158709943294525, + "learning_rate": 2.0196176932897698e-06, + "loss": 0.0031, + "num_input_tokens_seen": 24902992, + "step": 12715 + }, + { + "epoch": 1.6853545394300862, + "grad_norm": 5.164585113525391, + "learning_rate": 2.019277029517473e-06, + "loss": 0.1671, + "num_input_tokens_seen": 24905624, + "step": 12716 + }, + { + "epoch": 1.6854870775347912, + "grad_norm": 1.1197683811187744, + "learning_rate": 2.0189363750138454e-06, + "loss": 0.0088, + "num_input_tokens_seen": 24908240, + "step": 12717 + }, + { + "epoch": 1.6856196156394962, + "grad_norm": 0.9294412136077881, + "learning_rate": 2.0185957297854567e-06, + "loss": 0.0085, + "num_input_tokens_seen": 24910008, + "step": 12718 + }, + { + "epoch": 1.6857521537442015, + "grad_norm": 11.905794143676758, + "learning_rate": 2.0182550938388754e-06, + "loss": 0.1512, + "num_input_tokens_seen": 24912256, + "step": 12719 + }, + { + "epoch": 1.6858846918489065, + "grad_norm": 3.980170249938965, + "learning_rate": 2.017914467180668e-06, + "loss": 0.063, + "num_input_tokens_seen": 24913640, + "step": 12720 + }, + { + "epoch": 1.6860172299536118, + "grad_norm": 10.411599159240723, + "learning_rate": 2.0175738498174023e-06, + "loss": 0.254, + "num_input_tokens_seen": 24915432, + "step": 12721 + }, + { + "epoch": 1.6861497680583168, + "grad_norm": 3.59291672706604, + "learning_rate": 2.017233241755644e-06, + "loss": 0.0616, + "num_input_tokens_seen": 24918016, + "step": 12722 + }, + { + "epoch": 1.6862823061630219, + "grad_norm": 4.218505382537842, + "learning_rate": 2.0168926430019636e-06, + "loss": 0.0696, + "num_input_tokens_seen": 24920576, + "step": 12723 + }, + { + "epoch": 1.686414844267727, + "grad_norm": 5.425989151000977, + "learning_rate": 2.0165520535629257e-06, + "loss": 0.0682, + "num_input_tokens_seen": 24922336, + "step": 12724 + }, + { + "epoch": 1.686547382372432, + "grad_norm": 5.614704132080078, + "learning_rate": 2.0162114734450983e-06, + "loss": 0.0871, + "num_input_tokens_seen": 24923568, + "step": 12725 + }, + { + "epoch": 1.6866799204771372, + "grad_norm": 5.545320510864258, + "learning_rate": 2.015870902655047e-06, + "loss": 0.034, + "num_input_tokens_seen": 24924760, + "step": 12726 + }, + { + "epoch": 1.6868124585818423, + "grad_norm": 17.401098251342773, + "learning_rate": 2.015530341199338e-06, + "loss": 0.3591, + "num_input_tokens_seen": 24926576, + "step": 12727 + }, + { + "epoch": 1.6869449966865475, + "grad_norm": 4.952393531799316, + "learning_rate": 2.015189789084539e-06, + "loss": 0.0959, + "num_input_tokens_seen": 24929000, + "step": 12728 + }, + { + "epoch": 1.6870775347912526, + "grad_norm": 0.03356529772281647, + "learning_rate": 2.014849246317216e-06, + "loss": 0.0002, + "num_input_tokens_seen": 24930520, + "step": 12729 + }, + { + "epoch": 1.6872100728959576, + "grad_norm": 11.710488319396973, + "learning_rate": 2.014508712903933e-06, + "loss": 0.2033, + "num_input_tokens_seen": 24932792, + "step": 12730 + }, + { + "epoch": 1.6873426110006626, + "grad_norm": 6.032309532165527, + "learning_rate": 2.0141681888512575e-06, + "loss": 0.0901, + "num_input_tokens_seen": 24934104, + "step": 12731 + }, + { + "epoch": 1.6874751491053677, + "grad_norm": 0.9769488573074341, + "learning_rate": 2.0138276741657537e-06, + "loss": 0.005, + "num_input_tokens_seen": 24935912, + "step": 12732 + }, + { + "epoch": 1.687607687210073, + "grad_norm": 0.061998847872018814, + "learning_rate": 2.0134871688539883e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24937304, + "step": 12733 + }, + { + "epoch": 1.687740225314778, + "grad_norm": 9.756516456604004, + "learning_rate": 2.013146672922526e-06, + "loss": 0.0748, + "num_input_tokens_seen": 24940384, + "step": 12734 + }, + { + "epoch": 1.6878727634194832, + "grad_norm": 0.14450809359550476, + "learning_rate": 2.0128061863779324e-06, + "loss": 0.0009, + "num_input_tokens_seen": 24942872, + "step": 12735 + }, + { + "epoch": 1.6880053015241883, + "grad_norm": 9.100576400756836, + "learning_rate": 2.012465709226771e-06, + "loss": 0.1034, + "num_input_tokens_seen": 24944784, + "step": 12736 + }, + { + "epoch": 1.6881378396288933, + "grad_norm": 7.0501909255981445, + "learning_rate": 2.0121252414756058e-06, + "loss": 0.0641, + "num_input_tokens_seen": 24946848, + "step": 12737 + }, + { + "epoch": 1.6882703777335983, + "grad_norm": 11.855430603027344, + "learning_rate": 2.011784783131004e-06, + "loss": 0.394, + "num_input_tokens_seen": 24949040, + "step": 12738 + }, + { + "epoch": 1.6884029158383034, + "grad_norm": 3.8623764514923096, + "learning_rate": 2.0114443341995284e-06, + "loss": 0.0164, + "num_input_tokens_seen": 24951240, + "step": 12739 + }, + { + "epoch": 1.6885354539430086, + "grad_norm": 0.20355388522148132, + "learning_rate": 2.011103894687743e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24952456, + "step": 12740 + }, + { + "epoch": 1.6886679920477137, + "grad_norm": 0.05739414691925049, + "learning_rate": 2.010763464602211e-06, + "loss": 0.0003, + "num_input_tokens_seen": 24955200, + "step": 12741 + }, + { + "epoch": 1.688800530152419, + "grad_norm": 0.08536305278539658, + "learning_rate": 2.0104230439494978e-06, + "loss": 0.0006, + "num_input_tokens_seen": 24957136, + "step": 12742 + }, + { + "epoch": 1.688933068257124, + "grad_norm": 11.392602920532227, + "learning_rate": 2.010082632736165e-06, + "loss": 0.1258, + "num_input_tokens_seen": 24959848, + "step": 12743 + }, + { + "epoch": 1.689065606361829, + "grad_norm": 1.4476748704910278, + "learning_rate": 2.009742230968778e-06, + "loss": 0.0296, + "num_input_tokens_seen": 24961144, + "step": 12744 + }, + { + "epoch": 1.689198144466534, + "grad_norm": 5.229588985443115, + "learning_rate": 2.0094018386538987e-06, + "loss": 0.2428, + "num_input_tokens_seen": 24963456, + "step": 12745 + }, + { + "epoch": 1.689330682571239, + "grad_norm": 5.4506001472473145, + "learning_rate": 2.009061455798091e-06, + "loss": 0.1177, + "num_input_tokens_seen": 24965672, + "step": 12746 + }, + { + "epoch": 1.6894632206759443, + "grad_norm": 7.401181221008301, + "learning_rate": 2.008721082407916e-06, + "loss": 0.155, + "num_input_tokens_seen": 24967712, + "step": 12747 + }, + { + "epoch": 1.6895957587806494, + "grad_norm": 4.8652143478393555, + "learning_rate": 2.0083807184899372e-06, + "loss": 0.0251, + "num_input_tokens_seen": 24970328, + "step": 12748 + }, + { + "epoch": 1.6897282968853546, + "grad_norm": 1.2546063661575317, + "learning_rate": 2.0080403640507186e-06, + "loss": 0.0084, + "num_input_tokens_seen": 24971488, + "step": 12749 + }, + { + "epoch": 1.6898608349900597, + "grad_norm": 7.0598273277282715, + "learning_rate": 2.007700019096821e-06, + "loss": 0.0904, + "num_input_tokens_seen": 24973528, + "step": 12750 + }, + { + "epoch": 1.6899933730947647, + "grad_norm": 0.2379119098186493, + "learning_rate": 2.0073596836348063e-06, + "loss": 0.0011, + "num_input_tokens_seen": 24975168, + "step": 12751 + }, + { + "epoch": 1.6901259111994698, + "grad_norm": 7.3022589683532715, + "learning_rate": 2.007019357671237e-06, + "loss": 0.1053, + "num_input_tokens_seen": 24976704, + "step": 12752 + }, + { + "epoch": 1.6902584493041748, + "grad_norm": 11.376944541931152, + "learning_rate": 2.0066790412126733e-06, + "loss": 0.3253, + "num_input_tokens_seen": 24978536, + "step": 12753 + }, + { + "epoch": 1.69039098740888, + "grad_norm": 0.017835965380072594, + "learning_rate": 2.0063387342656794e-06, + "loss": 0.0001, + "num_input_tokens_seen": 24979792, + "step": 12754 + }, + { + "epoch": 1.6905235255135853, + "grad_norm": 8.806415557861328, + "learning_rate": 2.005998436836815e-06, + "loss": 0.1652, + "num_input_tokens_seen": 24981584, + "step": 12755 + }, + { + "epoch": 1.6906560636182904, + "grad_norm": 9.737452507019043, + "learning_rate": 2.0056581489326412e-06, + "loss": 0.4253, + "num_input_tokens_seen": 24983016, + "step": 12756 + }, + { + "epoch": 1.6907886017229954, + "grad_norm": 4.309791564941406, + "learning_rate": 2.00531787055972e-06, + "loss": 0.072, + "num_input_tokens_seen": 24985824, + "step": 12757 + }, + { + "epoch": 1.6909211398277004, + "grad_norm": 1.5981711149215698, + "learning_rate": 2.0049776017246102e-06, + "loss": 0.018, + "num_input_tokens_seen": 24988160, + "step": 12758 + }, + { + "epoch": 1.6910536779324055, + "grad_norm": 14.912550926208496, + "learning_rate": 2.004637342433875e-06, + "loss": 0.2624, + "num_input_tokens_seen": 24990312, + "step": 12759 + }, + { + "epoch": 1.6911862160371107, + "grad_norm": 9.21568775177002, + "learning_rate": 2.004297092694073e-06, + "loss": 0.2297, + "num_input_tokens_seen": 24992688, + "step": 12760 + }, + { + "epoch": 1.6913187541418158, + "grad_norm": 0.053895000368356705, + "learning_rate": 2.0039568525117654e-06, + "loss": 0.0004, + "num_input_tokens_seen": 24994648, + "step": 12761 + }, + { + "epoch": 1.691451292246521, + "grad_norm": 0.08793166279792786, + "learning_rate": 2.003616621893512e-06, + "loss": 0.0008, + "num_input_tokens_seen": 24996784, + "step": 12762 + }, + { + "epoch": 1.691583830351226, + "grad_norm": 1.3851509094238281, + "learning_rate": 2.003276400845871e-06, + "loss": 0.0131, + "num_input_tokens_seen": 24998768, + "step": 12763 + }, + { + "epoch": 1.691716368455931, + "grad_norm": 6.7313432693481445, + "learning_rate": 2.0029361893754056e-06, + "loss": 0.1055, + "num_input_tokens_seen": 25000112, + "step": 12764 + }, + { + "epoch": 1.6918489065606361, + "grad_norm": 2.242631435394287, + "learning_rate": 2.002595987488673e-06, + "loss": 0.044, + "num_input_tokens_seen": 25001736, + "step": 12765 + }, + { + "epoch": 1.6919814446653412, + "grad_norm": 6.956461429595947, + "learning_rate": 2.0022557951922326e-06, + "loss": 0.099, + "num_input_tokens_seen": 25003088, + "step": 12766 + }, + { + "epoch": 1.6921139827700464, + "grad_norm": 0.08241207897663116, + "learning_rate": 2.001915612492644e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25005336, + "step": 12767 + }, + { + "epoch": 1.6922465208747515, + "grad_norm": 0.11226195842027664, + "learning_rate": 2.001575439396465e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25007080, + "step": 12768 + }, + { + "epoch": 1.6923790589794567, + "grad_norm": 7.938633441925049, + "learning_rate": 2.001235275910256e-06, + "loss": 0.2111, + "num_input_tokens_seen": 25009464, + "step": 12769 + }, + { + "epoch": 1.6925115970841618, + "grad_norm": 4.200077056884766, + "learning_rate": 2.0008951220405755e-06, + "loss": 0.0538, + "num_input_tokens_seen": 25011432, + "step": 12770 + }, + { + "epoch": 1.6926441351888668, + "grad_norm": 10.83367919921875, + "learning_rate": 2.0005549777939807e-06, + "loss": 0.1743, + "num_input_tokens_seen": 25013352, + "step": 12771 + }, + { + "epoch": 1.6927766732935718, + "grad_norm": 7.722321510314941, + "learning_rate": 2.0002148431770317e-06, + "loss": 0.0706, + "num_input_tokens_seen": 25015480, + "step": 12772 + }, + { + "epoch": 1.6929092113982769, + "grad_norm": 2.502812147140503, + "learning_rate": 1.9998747181962847e-06, + "loss": 0.0104, + "num_input_tokens_seen": 25017264, + "step": 12773 + }, + { + "epoch": 1.6930417495029821, + "grad_norm": 7.739894390106201, + "learning_rate": 1.9995346028582972e-06, + "loss": 0.1983, + "num_input_tokens_seen": 25019384, + "step": 12774 + }, + { + "epoch": 1.6931742876076872, + "grad_norm": 7.775674343109131, + "learning_rate": 1.999194497169628e-06, + "loss": 0.1409, + "num_input_tokens_seen": 25021288, + "step": 12775 + }, + { + "epoch": 1.6933068257123924, + "grad_norm": 0.46742701530456543, + "learning_rate": 1.9988544011368353e-06, + "loss": 0.0029, + "num_input_tokens_seen": 25023040, + "step": 12776 + }, + { + "epoch": 1.6934393638170975, + "grad_norm": 0.05308287590742111, + "learning_rate": 1.9985143147664747e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25024832, + "step": 12777 + }, + { + "epoch": 1.6935719019218025, + "grad_norm": 1.8296760320663452, + "learning_rate": 1.998174238065105e-06, + "loss": 0.0253, + "num_input_tokens_seen": 25027320, + "step": 12778 + }, + { + "epoch": 1.6937044400265076, + "grad_norm": 2.3903703689575195, + "learning_rate": 1.997834171039281e-06, + "loss": 0.0252, + "num_input_tokens_seen": 25030016, + "step": 12779 + }, + { + "epoch": 1.6938369781312126, + "grad_norm": 5.6096882820129395, + "learning_rate": 1.9974941136955615e-06, + "loss": 0.0784, + "num_input_tokens_seen": 25031920, + "step": 12780 + }, + { + "epoch": 1.6939695162359178, + "grad_norm": 0.030021576210856438, + "learning_rate": 1.9971540660405015e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25033440, + "step": 12781 + }, + { + "epoch": 1.6941020543406229, + "grad_norm": 14.06274127960205, + "learning_rate": 1.9968140280806584e-06, + "loss": 0.0861, + "num_input_tokens_seen": 25034912, + "step": 12782 + }, + { + "epoch": 1.6942345924453281, + "grad_norm": 1.1634327173233032, + "learning_rate": 1.996473999822588e-06, + "loss": 0.0056, + "num_input_tokens_seen": 25036416, + "step": 12783 + }, + { + "epoch": 1.6943671305500332, + "grad_norm": 5.7439656257629395, + "learning_rate": 1.9961339812728456e-06, + "loss": 0.1512, + "num_input_tokens_seen": 25038952, + "step": 12784 + }, + { + "epoch": 1.6944996686547382, + "grad_norm": 4.169588088989258, + "learning_rate": 1.9957939724379886e-06, + "loss": 0.1342, + "num_input_tokens_seen": 25040208, + "step": 12785 + }, + { + "epoch": 1.6946322067594433, + "grad_norm": 3.202334403991699, + "learning_rate": 1.9954539733245707e-06, + "loss": 0.0534, + "num_input_tokens_seen": 25041784, + "step": 12786 + }, + { + "epoch": 1.6947647448641483, + "grad_norm": 0.019546814262866974, + "learning_rate": 1.9951139839391497e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25042800, + "step": 12787 + }, + { + "epoch": 1.6948972829688536, + "grad_norm": 1.1785850524902344, + "learning_rate": 1.9947740042882784e-06, + "loss": 0.0104, + "num_input_tokens_seen": 25046264, + "step": 12788 + }, + { + "epoch": 1.6950298210735586, + "grad_norm": 14.328036308288574, + "learning_rate": 1.9944340343785123e-06, + "loss": 0.2653, + "num_input_tokens_seen": 25049488, + "step": 12789 + }, + { + "epoch": 1.6951623591782639, + "grad_norm": 3.213524103164673, + "learning_rate": 1.994094074216407e-06, + "loss": 0.0259, + "num_input_tokens_seen": 25051672, + "step": 12790 + }, + { + "epoch": 1.695294897282969, + "grad_norm": 6.974457263946533, + "learning_rate": 1.993754123808518e-06, + "loss": 0.1932, + "num_input_tokens_seen": 25053832, + "step": 12791 + }, + { + "epoch": 1.695427435387674, + "grad_norm": 6.188643932342529, + "learning_rate": 1.993414183161398e-06, + "loss": 0.0151, + "num_input_tokens_seen": 25055656, + "step": 12792 + }, + { + "epoch": 1.695559973492379, + "grad_norm": 0.16637730598449707, + "learning_rate": 1.9930742522816027e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25057560, + "step": 12793 + }, + { + "epoch": 1.695692511597084, + "grad_norm": 1.8586370944976807, + "learning_rate": 1.992734331175684e-06, + "loss": 0.0094, + "num_input_tokens_seen": 25059288, + "step": 12794 + }, + { + "epoch": 1.6958250497017893, + "grad_norm": 4.737232208251953, + "learning_rate": 1.9923944198501983e-06, + "loss": 0.1042, + "num_input_tokens_seen": 25061760, + "step": 12795 + }, + { + "epoch": 1.6959575878064945, + "grad_norm": 4.856111526489258, + "learning_rate": 1.9920545183116983e-06, + "loss": 0.0417, + "num_input_tokens_seen": 25063048, + "step": 12796 + }, + { + "epoch": 1.6960901259111996, + "grad_norm": 11.59985065460205, + "learning_rate": 1.9917146265667386e-06, + "loss": 0.3648, + "num_input_tokens_seen": 25065752, + "step": 12797 + }, + { + "epoch": 1.6962226640159046, + "grad_norm": 0.09558551013469696, + "learning_rate": 1.99137474462187e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25066936, + "step": 12798 + }, + { + "epoch": 1.6963552021206096, + "grad_norm": 0.672170877456665, + "learning_rate": 1.9910348724836486e-06, + "loss": 0.0025, + "num_input_tokens_seen": 25069536, + "step": 12799 + }, + { + "epoch": 1.6964877402253147, + "grad_norm": 6.387729644775391, + "learning_rate": 1.990695010158624e-06, + "loss": 0.0369, + "num_input_tokens_seen": 25071112, + "step": 12800 + }, + { + "epoch": 1.6966202783300197, + "grad_norm": 5.8466410636901855, + "learning_rate": 1.9903551576533524e-06, + "loss": 0.1702, + "num_input_tokens_seen": 25073608, + "step": 12801 + }, + { + "epoch": 1.696752816434725, + "grad_norm": 6.5278000831604, + "learning_rate": 1.990015314974385e-06, + "loss": 0.129, + "num_input_tokens_seen": 25076048, + "step": 12802 + }, + { + "epoch": 1.6968853545394302, + "grad_norm": 3.4784560203552246, + "learning_rate": 1.9896754821282742e-06, + "loss": 0.0971, + "num_input_tokens_seen": 25077384, + "step": 12803 + }, + { + "epoch": 1.6970178926441353, + "grad_norm": 2.5664899349212646, + "learning_rate": 1.9893356591215717e-06, + "loss": 0.0146, + "num_input_tokens_seen": 25079072, + "step": 12804 + }, + { + "epoch": 1.6971504307488403, + "grad_norm": 8.223052978515625, + "learning_rate": 1.9889958459608293e-06, + "loss": 0.2813, + "num_input_tokens_seen": 25080936, + "step": 12805 + }, + { + "epoch": 1.6972829688535453, + "grad_norm": 5.118310451507568, + "learning_rate": 1.9886560426526005e-06, + "loss": 0.1041, + "num_input_tokens_seen": 25083088, + "step": 12806 + }, + { + "epoch": 1.6974155069582504, + "grad_norm": 5.681372165679932, + "learning_rate": 1.9883162492034358e-06, + "loss": 0.102, + "num_input_tokens_seen": 25084576, + "step": 12807 + }, + { + "epoch": 1.6975480450629556, + "grad_norm": 0.0850224569439888, + "learning_rate": 1.987976465619887e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25086408, + "step": 12808 + }, + { + "epoch": 1.6976805831676607, + "grad_norm": 2.82230281829834, + "learning_rate": 1.9876366919085047e-06, + "loss": 0.0387, + "num_input_tokens_seen": 25088248, + "step": 12809 + }, + { + "epoch": 1.697813121272366, + "grad_norm": 8.225298881530762, + "learning_rate": 1.98729692807584e-06, + "loss": 0.2317, + "num_input_tokens_seen": 25090704, + "step": 12810 + }, + { + "epoch": 1.697945659377071, + "grad_norm": 6.414100646972656, + "learning_rate": 1.986957174128445e-06, + "loss": 0.0926, + "num_input_tokens_seen": 25093136, + "step": 12811 + }, + { + "epoch": 1.698078197481776, + "grad_norm": 11.341705322265625, + "learning_rate": 1.9866174300728703e-06, + "loss": 0.176, + "num_input_tokens_seen": 25094864, + "step": 12812 + }, + { + "epoch": 1.698210735586481, + "grad_norm": 0.06421298533678055, + "learning_rate": 1.9862776959156647e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25096928, + "step": 12813 + }, + { + "epoch": 1.698343273691186, + "grad_norm": 0.14488598704338074, + "learning_rate": 1.9859379716633802e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25098656, + "step": 12814 + }, + { + "epoch": 1.6984758117958914, + "grad_norm": 0.122245192527771, + "learning_rate": 1.985598257322565e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25101192, + "step": 12815 + }, + { + "epoch": 1.6986083499005964, + "grad_norm": 0.08149103820323944, + "learning_rate": 1.9852585528997708e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25102432, + "step": 12816 + }, + { + "epoch": 1.6987408880053017, + "grad_norm": 0.32439738512039185, + "learning_rate": 1.9849188584015472e-06, + "loss": 0.002, + "num_input_tokens_seen": 25104568, + "step": 12817 + }, + { + "epoch": 1.6988734261100067, + "grad_norm": 7.605825901031494, + "learning_rate": 1.9845791738344437e-06, + "loss": 0.1147, + "num_input_tokens_seen": 25107384, + "step": 12818 + }, + { + "epoch": 1.6990059642147117, + "grad_norm": 18.420122146606445, + "learning_rate": 1.9842394992050085e-06, + "loss": 0.3156, + "num_input_tokens_seen": 25108872, + "step": 12819 + }, + { + "epoch": 1.6991385023194168, + "grad_norm": 0.06565165519714355, + "learning_rate": 1.9838998345197913e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25110680, + "step": 12820 + }, + { + "epoch": 1.6992710404241218, + "grad_norm": 4.081592559814453, + "learning_rate": 1.9835601797853423e-06, + "loss": 0.1525, + "num_input_tokens_seen": 25112800, + "step": 12821 + }, + { + "epoch": 1.699403578528827, + "grad_norm": 7.03947639465332, + "learning_rate": 1.9832205350082086e-06, + "loss": 0.0638, + "num_input_tokens_seen": 25114688, + "step": 12822 + }, + { + "epoch": 1.699536116633532, + "grad_norm": 0.05665195733308792, + "learning_rate": 1.9828809001949403e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25116784, + "step": 12823 + }, + { + "epoch": 1.6996686547382374, + "grad_norm": 7.985161781311035, + "learning_rate": 1.982541275352084e-06, + "loss": 0.1382, + "num_input_tokens_seen": 25119056, + "step": 12824 + }, + { + "epoch": 1.6998011928429424, + "grad_norm": 2.7630252838134766, + "learning_rate": 1.982201660486189e-06, + "loss": 0.054, + "num_input_tokens_seen": 25120984, + "step": 12825 + }, + { + "epoch": 1.6999337309476474, + "grad_norm": 6.4977240562438965, + "learning_rate": 1.9818620556038038e-06, + "loss": 0.1314, + "num_input_tokens_seen": 25123136, + "step": 12826 + }, + { + "epoch": 1.7000662690523525, + "grad_norm": 5.230261325836182, + "learning_rate": 1.9815224607114756e-06, + "loss": 0.1442, + "num_input_tokens_seen": 25125728, + "step": 12827 + }, + { + "epoch": 1.7001988071570575, + "grad_norm": 3.487452268600464, + "learning_rate": 1.9811828758157516e-06, + "loss": 0.0159, + "num_input_tokens_seen": 25127704, + "step": 12828 + }, + { + "epoch": 1.7003313452617628, + "grad_norm": 0.13720905780792236, + "learning_rate": 1.9808433009231805e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25130696, + "step": 12829 + }, + { + "epoch": 1.7004638833664678, + "grad_norm": 12.22507381439209, + "learning_rate": 1.9805037360403077e-06, + "loss": 0.2611, + "num_input_tokens_seen": 25133464, + "step": 12830 + }, + { + "epoch": 1.700596421471173, + "grad_norm": 6.1097822189331055, + "learning_rate": 1.9801641811736812e-06, + "loss": 0.0701, + "num_input_tokens_seen": 25135320, + "step": 12831 + }, + { + "epoch": 1.700728959575878, + "grad_norm": 14.340020179748535, + "learning_rate": 1.9798246363298483e-06, + "loss": 0.3184, + "num_input_tokens_seen": 25137288, + "step": 12832 + }, + { + "epoch": 1.7008614976805831, + "grad_norm": 2.389646530151367, + "learning_rate": 1.979485101515356e-06, + "loss": 0.0079, + "num_input_tokens_seen": 25139168, + "step": 12833 + }, + { + "epoch": 1.7009940357852882, + "grad_norm": 7.921056747436523, + "learning_rate": 1.979145576736749e-06, + "loss": 0.174, + "num_input_tokens_seen": 25141184, + "step": 12834 + }, + { + "epoch": 1.7011265738899932, + "grad_norm": 5.061671257019043, + "learning_rate": 1.9788060620005753e-06, + "loss": 0.0873, + "num_input_tokens_seen": 25143912, + "step": 12835 + }, + { + "epoch": 1.7012591119946985, + "grad_norm": 0.09500450640916824, + "learning_rate": 1.9784665573133792e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25145664, + "step": 12836 + }, + { + "epoch": 1.7013916500994037, + "grad_norm": 0.07005027681589127, + "learning_rate": 1.978127062681708e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25147416, + "step": 12837 + }, + { + "epoch": 1.7015241882041088, + "grad_norm": 5.714458465576172, + "learning_rate": 1.977787578112108e-06, + "loss": 0.1814, + "num_input_tokens_seen": 25149664, + "step": 12838 + }, + { + "epoch": 1.7016567263088138, + "grad_norm": 0.32779788970947266, + "learning_rate": 1.977448103611123e-06, + "loss": 0.002, + "num_input_tokens_seen": 25151080, + "step": 12839 + }, + { + "epoch": 1.7017892644135189, + "grad_norm": 3.521857738494873, + "learning_rate": 1.9771086391852997e-06, + "loss": 0.142, + "num_input_tokens_seen": 25153248, + "step": 12840 + }, + { + "epoch": 1.701921802518224, + "grad_norm": 2.8645503520965576, + "learning_rate": 1.976769184841181e-06, + "loss": 0.0404, + "num_input_tokens_seen": 25155544, + "step": 12841 + }, + { + "epoch": 1.702054340622929, + "grad_norm": 8.962677001953125, + "learning_rate": 1.976429740585315e-06, + "loss": 0.326, + "num_input_tokens_seen": 25158640, + "step": 12842 + }, + { + "epoch": 1.7021868787276342, + "grad_norm": 7.273736000061035, + "learning_rate": 1.9760903064242443e-06, + "loss": 0.1915, + "num_input_tokens_seen": 25160368, + "step": 12843 + }, + { + "epoch": 1.7023194168323394, + "grad_norm": 10.350948333740234, + "learning_rate": 1.975750882364514e-06, + "loss": 0.1862, + "num_input_tokens_seen": 25162264, + "step": 12844 + }, + { + "epoch": 1.7024519549370445, + "grad_norm": 4.000223159790039, + "learning_rate": 1.975411468412668e-06, + "loss": 0.0811, + "num_input_tokens_seen": 25164552, + "step": 12845 + }, + { + "epoch": 1.7025844930417495, + "grad_norm": 0.11374349892139435, + "learning_rate": 1.9750720645752504e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25166344, + "step": 12846 + }, + { + "epoch": 1.7027170311464546, + "grad_norm": 3.1200685501098633, + "learning_rate": 1.9747326708588068e-06, + "loss": 0.031, + "num_input_tokens_seen": 25169040, + "step": 12847 + }, + { + "epoch": 1.7028495692511596, + "grad_norm": 0.2940390408039093, + "learning_rate": 1.9743932872698782e-06, + "loss": 0.0029, + "num_input_tokens_seen": 25170896, + "step": 12848 + }, + { + "epoch": 1.7029821073558649, + "grad_norm": 6.407944202423096, + "learning_rate": 1.974053913815011e-06, + "loss": 0.0864, + "num_input_tokens_seen": 25173216, + "step": 12849 + }, + { + "epoch": 1.70311464546057, + "grad_norm": 0.043770596385002136, + "learning_rate": 1.973714550500747e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25174736, + "step": 12850 + }, + { + "epoch": 1.7032471835652752, + "grad_norm": 4.929108142852783, + "learning_rate": 1.9733751973336286e-06, + "loss": 0.2188, + "num_input_tokens_seen": 25176568, + "step": 12851 + }, + { + "epoch": 1.7033797216699802, + "grad_norm": 0.05548323318362236, + "learning_rate": 1.9730358543202e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25177736, + "step": 12852 + }, + { + "epoch": 1.7035122597746852, + "grad_norm": 7.9768147468566895, + "learning_rate": 1.972696521467004e-06, + "loss": 0.088, + "num_input_tokens_seen": 25179480, + "step": 12853 + }, + { + "epoch": 1.7036447978793903, + "grad_norm": 7.188138484954834, + "learning_rate": 1.9723571987805827e-06, + "loss": 0.1615, + "num_input_tokens_seen": 25180896, + "step": 12854 + }, + { + "epoch": 1.7037773359840953, + "grad_norm": 0.2759703993797302, + "learning_rate": 1.972017886267479e-06, + "loss": 0.0015, + "num_input_tokens_seen": 25183240, + "step": 12855 + }, + { + "epoch": 1.7039098740888006, + "grad_norm": 4.041205883026123, + "learning_rate": 1.9716785839342346e-06, + "loss": 0.0559, + "num_input_tokens_seen": 25185760, + "step": 12856 + }, + { + "epoch": 1.7040424121935056, + "grad_norm": 2.1722493171691895, + "learning_rate": 1.9713392917873904e-06, + "loss": 0.0279, + "num_input_tokens_seen": 25188016, + "step": 12857 + }, + { + "epoch": 1.7041749502982109, + "grad_norm": 3.214900255203247, + "learning_rate": 1.9710000098334904e-06, + "loss": 0.0429, + "num_input_tokens_seen": 25189560, + "step": 12858 + }, + { + "epoch": 1.704307488402916, + "grad_norm": 4.12236213684082, + "learning_rate": 1.9706607380790753e-06, + "loss": 0.015, + "num_input_tokens_seen": 25191360, + "step": 12859 + }, + { + "epoch": 1.704440026507621, + "grad_norm": 4.766012191772461, + "learning_rate": 1.9703214765306856e-06, + "loss": 0.0578, + "num_input_tokens_seen": 25192976, + "step": 12860 + }, + { + "epoch": 1.704572564612326, + "grad_norm": 4.3406782150268555, + "learning_rate": 1.969982225194864e-06, + "loss": 0.044, + "num_input_tokens_seen": 25195176, + "step": 12861 + }, + { + "epoch": 1.704705102717031, + "grad_norm": 2.634781837463379, + "learning_rate": 1.96964298407815e-06, + "loss": 0.0144, + "num_input_tokens_seen": 25196568, + "step": 12862 + }, + { + "epoch": 1.7048376408217363, + "grad_norm": 3.550370454788208, + "learning_rate": 1.969303753187085e-06, + "loss": 0.0241, + "num_input_tokens_seen": 25197896, + "step": 12863 + }, + { + "epoch": 1.7049701789264413, + "grad_norm": 0.29504385590553284, + "learning_rate": 1.968964532528211e-06, + "loss": 0.0021, + "num_input_tokens_seen": 25199928, + "step": 12864 + }, + { + "epoch": 1.7051027170311466, + "grad_norm": 7.524374485015869, + "learning_rate": 1.968625322108067e-06, + "loss": 0.1624, + "num_input_tokens_seen": 25202344, + "step": 12865 + }, + { + "epoch": 1.7052352551358516, + "grad_norm": 1.0269582271575928, + "learning_rate": 1.968286121933192e-06, + "loss": 0.0111, + "num_input_tokens_seen": 25203776, + "step": 12866 + }, + { + "epoch": 1.7053677932405567, + "grad_norm": 2.7155814170837402, + "learning_rate": 1.967946932010128e-06, + "loss": 0.0263, + "num_input_tokens_seen": 25205744, + "step": 12867 + }, + { + "epoch": 1.7055003313452617, + "grad_norm": 0.11605389416217804, + "learning_rate": 1.9676077523454147e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25207528, + "step": 12868 + }, + { + "epoch": 1.7056328694499667, + "grad_norm": 4.656682014465332, + "learning_rate": 1.9672685829455907e-06, + "loss": 0.0593, + "num_input_tokens_seen": 25209328, + "step": 12869 + }, + { + "epoch": 1.705765407554672, + "grad_norm": 8.918543815612793, + "learning_rate": 1.9669294238171965e-06, + "loss": 0.321, + "num_input_tokens_seen": 25211432, + "step": 12870 + }, + { + "epoch": 1.705897945659377, + "grad_norm": 6.532780170440674, + "learning_rate": 1.966590274966771e-06, + "loss": 0.1576, + "num_input_tokens_seen": 25212968, + "step": 12871 + }, + { + "epoch": 1.7060304837640823, + "grad_norm": 7.527016639709473, + "learning_rate": 1.9662511364008515e-06, + "loss": 0.1332, + "num_input_tokens_seen": 25215680, + "step": 12872 + }, + { + "epoch": 1.7061630218687873, + "grad_norm": 10.352439880371094, + "learning_rate": 1.965912008125979e-06, + "loss": 0.1764, + "num_input_tokens_seen": 25216768, + "step": 12873 + }, + { + "epoch": 1.7062955599734924, + "grad_norm": 8.730112075805664, + "learning_rate": 1.965572890148692e-06, + "loss": 0.2169, + "num_input_tokens_seen": 25218848, + "step": 12874 + }, + { + "epoch": 1.7064280980781974, + "grad_norm": 0.13366344571113586, + "learning_rate": 1.965233782475528e-06, + "loss": 0.001, + "num_input_tokens_seen": 25220408, + "step": 12875 + }, + { + "epoch": 1.7065606361829024, + "grad_norm": 3.3352928161621094, + "learning_rate": 1.9648946851130257e-06, + "loss": 0.0754, + "num_input_tokens_seen": 25223032, + "step": 12876 + }, + { + "epoch": 1.7066931742876077, + "grad_norm": 3.0042777061462402, + "learning_rate": 1.9645555980677223e-06, + "loss": 0.0265, + "num_input_tokens_seen": 25225336, + "step": 12877 + }, + { + "epoch": 1.706825712392313, + "grad_norm": 2.6346731185913086, + "learning_rate": 1.964216521346157e-06, + "loss": 0.0167, + "num_input_tokens_seen": 25227080, + "step": 12878 + }, + { + "epoch": 1.706958250497018, + "grad_norm": 0.4826218783855438, + "learning_rate": 1.9638774549548667e-06, + "loss": 0.0024, + "num_input_tokens_seen": 25228352, + "step": 12879 + }, + { + "epoch": 1.707090788601723, + "grad_norm": 12.289925575256348, + "learning_rate": 1.9635383989003893e-06, + "loss": 0.1238, + "num_input_tokens_seen": 25229624, + "step": 12880 + }, + { + "epoch": 1.707223326706428, + "grad_norm": 1.0928581953048706, + "learning_rate": 1.963199353189261e-06, + "loss": 0.0053, + "num_input_tokens_seen": 25231536, + "step": 12881 + }, + { + "epoch": 1.707355864811133, + "grad_norm": 6.0725531578063965, + "learning_rate": 1.9628603178280194e-06, + "loss": 0.0763, + "num_input_tokens_seen": 25233512, + "step": 12882 + }, + { + "epoch": 1.7074884029158381, + "grad_norm": 0.18519461154937744, + "learning_rate": 1.9625212928232017e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25235264, + "step": 12883 + }, + { + "epoch": 1.7076209410205434, + "grad_norm": 0.1186414584517479, + "learning_rate": 1.962182278181344e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25236376, + "step": 12884 + }, + { + "epoch": 1.7077534791252487, + "grad_norm": 0.196207195520401, + "learning_rate": 1.9618432739089843e-06, + "loss": 0.0022, + "num_input_tokens_seen": 25238568, + "step": 12885 + }, + { + "epoch": 1.7078860172299537, + "grad_norm": 8.262133598327637, + "learning_rate": 1.961504280012657e-06, + "loss": 0.1467, + "num_input_tokens_seen": 25240464, + "step": 12886 + }, + { + "epoch": 1.7080185553346587, + "grad_norm": 9.807334899902344, + "learning_rate": 1.961165296498898e-06, + "loss": 0.0695, + "num_input_tokens_seen": 25242432, + "step": 12887 + }, + { + "epoch": 1.7081510934393638, + "grad_norm": 4.123963832855225, + "learning_rate": 1.9608263233742435e-06, + "loss": 0.1098, + "num_input_tokens_seen": 25244704, + "step": 12888 + }, + { + "epoch": 1.7082836315440688, + "grad_norm": 1.6036781072616577, + "learning_rate": 1.9604873606452303e-06, + "loss": 0.018, + "num_input_tokens_seen": 25246352, + "step": 12889 + }, + { + "epoch": 1.708416169648774, + "grad_norm": 8.156929969787598, + "learning_rate": 1.9601484083183924e-06, + "loss": 0.1065, + "num_input_tokens_seen": 25248592, + "step": 12890 + }, + { + "epoch": 1.7085487077534791, + "grad_norm": 0.09577160328626633, + "learning_rate": 1.9598094664002664e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25250888, + "step": 12891 + }, + { + "epoch": 1.7086812458581844, + "grad_norm": 9.051547050476074, + "learning_rate": 1.9594705348973858e-06, + "loss": 0.211, + "num_input_tokens_seen": 25252800, + "step": 12892 + }, + { + "epoch": 1.7088137839628894, + "grad_norm": 1.5764238834381104, + "learning_rate": 1.959131613816286e-06, + "loss": 0.0167, + "num_input_tokens_seen": 25254112, + "step": 12893 + }, + { + "epoch": 1.7089463220675944, + "grad_norm": 21.03456687927246, + "learning_rate": 1.9587927031635024e-06, + "loss": 0.7037, + "num_input_tokens_seen": 25256128, + "step": 12894 + }, + { + "epoch": 1.7090788601722995, + "grad_norm": 13.756447792053223, + "learning_rate": 1.958453802945569e-06, + "loss": 0.2294, + "num_input_tokens_seen": 25257848, + "step": 12895 + }, + { + "epoch": 1.7092113982770045, + "grad_norm": 7.335909843444824, + "learning_rate": 1.9581149131690192e-06, + "loss": 0.1319, + "num_input_tokens_seen": 25259888, + "step": 12896 + }, + { + "epoch": 1.7093439363817098, + "grad_norm": 14.74302864074707, + "learning_rate": 1.9577760338403887e-06, + "loss": 0.2358, + "num_input_tokens_seen": 25262352, + "step": 12897 + }, + { + "epoch": 1.7094764744864148, + "grad_norm": 11.128101348876953, + "learning_rate": 1.957437164966209e-06, + "loss": 0.0626, + "num_input_tokens_seen": 25264176, + "step": 12898 + }, + { + "epoch": 1.70960901259112, + "grad_norm": 3.5048234462738037, + "learning_rate": 1.9570983065530154e-06, + "loss": 0.048, + "num_input_tokens_seen": 25265752, + "step": 12899 + }, + { + "epoch": 1.7097415506958251, + "grad_norm": 3.2065393924713135, + "learning_rate": 1.956759458607342e-06, + "loss": 0.0916, + "num_input_tokens_seen": 25267608, + "step": 12900 + }, + { + "epoch": 1.7098740888005302, + "grad_norm": 11.249932289123535, + "learning_rate": 1.9564206211357203e-06, + "loss": 0.133, + "num_input_tokens_seen": 25269584, + "step": 12901 + }, + { + "epoch": 1.7100066269052352, + "grad_norm": 3.8407392501831055, + "learning_rate": 1.9560817941446843e-06, + "loss": 0.05, + "num_input_tokens_seen": 25271288, + "step": 12902 + }, + { + "epoch": 1.7101391650099402, + "grad_norm": 1.8990479707717896, + "learning_rate": 1.9557429776407653e-06, + "loss": 0.0228, + "num_input_tokens_seen": 25272728, + "step": 12903 + }, + { + "epoch": 1.7102717031146455, + "grad_norm": 3.9293930530548096, + "learning_rate": 1.9554041716304987e-06, + "loss": 0.1042, + "num_input_tokens_seen": 25275072, + "step": 12904 + }, + { + "epoch": 1.7104042412193505, + "grad_norm": 11.22649097442627, + "learning_rate": 1.9550653761204145e-06, + "loss": 0.2575, + "num_input_tokens_seen": 25277120, + "step": 12905 + }, + { + "epoch": 1.7105367793240558, + "grad_norm": 0.17238593101501465, + "learning_rate": 1.9547265911170465e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25279400, + "step": 12906 + }, + { + "epoch": 1.7106693174287608, + "grad_norm": 0.1866070181131363, + "learning_rate": 1.9543878166269252e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25280752, + "step": 12907 + }, + { + "epoch": 1.7108018555334659, + "grad_norm": 6.779706954956055, + "learning_rate": 1.954049052656583e-06, + "loss": 0.0431, + "num_input_tokens_seen": 25282480, + "step": 12908 + }, + { + "epoch": 1.710934393638171, + "grad_norm": 7.632396697998047, + "learning_rate": 1.953710299212553e-06, + "loss": 0.0676, + "num_input_tokens_seen": 25284840, + "step": 12909 + }, + { + "epoch": 1.711066931742876, + "grad_norm": 0.09920109063386917, + "learning_rate": 1.9533715563013645e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25286504, + "step": 12910 + }, + { + "epoch": 1.7111994698475812, + "grad_norm": 0.17513515055179596, + "learning_rate": 1.9530328239295496e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25288984, + "step": 12911 + }, + { + "epoch": 1.7113320079522862, + "grad_norm": 0.07903392612934113, + "learning_rate": 1.9526941021036395e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25291656, + "step": 12912 + }, + { + "epoch": 1.7114645460569915, + "grad_norm": 0.1345091015100479, + "learning_rate": 1.952355390830164e-06, + "loss": 0.001, + "num_input_tokens_seen": 25293104, + "step": 12913 + }, + { + "epoch": 1.7115970841616965, + "grad_norm": 11.88608169555664, + "learning_rate": 1.952016690115654e-06, + "loss": 0.1905, + "num_input_tokens_seen": 25294808, + "step": 12914 + }, + { + "epoch": 1.7117296222664016, + "grad_norm": 0.10170052945613861, + "learning_rate": 1.9516779999666414e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25296280, + "step": 12915 + }, + { + "epoch": 1.7118621603711066, + "grad_norm": 0.13856835663318634, + "learning_rate": 1.951339320389655e-06, + "loss": 0.001, + "num_input_tokens_seen": 25297952, + "step": 12916 + }, + { + "epoch": 1.7119946984758116, + "grad_norm": 8.13261890411377, + "learning_rate": 1.9510006513912246e-06, + "loss": 0.0702, + "num_input_tokens_seen": 25299320, + "step": 12917 + }, + { + "epoch": 1.712127236580517, + "grad_norm": 0.2003929316997528, + "learning_rate": 1.9506619929778813e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25301040, + "step": 12918 + }, + { + "epoch": 1.712259774685222, + "grad_norm": 0.603008508682251, + "learning_rate": 1.950323345156152e-06, + "loss": 0.0047, + "num_input_tokens_seen": 25302504, + "step": 12919 + }, + { + "epoch": 1.7123923127899272, + "grad_norm": 0.052780456840991974, + "learning_rate": 1.9499847079325685e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25303744, + "step": 12920 + }, + { + "epoch": 1.7125248508946322, + "grad_norm": 10.793846130371094, + "learning_rate": 1.9496460813136602e-06, + "loss": 0.2512, + "num_input_tokens_seen": 25306144, + "step": 12921 + }, + { + "epoch": 1.7126573889993373, + "grad_norm": 5.912188529968262, + "learning_rate": 1.9493074653059542e-06, + "loss": 0.232, + "num_input_tokens_seen": 25307864, + "step": 12922 + }, + { + "epoch": 1.7127899271040423, + "grad_norm": 0.06489851325750351, + "learning_rate": 1.9489688599159807e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25310784, + "step": 12923 + }, + { + "epoch": 1.7129224652087474, + "grad_norm": 5.481436252593994, + "learning_rate": 1.948630265150267e-06, + "loss": 0.134, + "num_input_tokens_seen": 25312800, + "step": 12924 + }, + { + "epoch": 1.7130550033134526, + "grad_norm": 4.623965740203857, + "learning_rate": 1.948291681015343e-06, + "loss": 0.1298, + "num_input_tokens_seen": 25314040, + "step": 12925 + }, + { + "epoch": 1.7131875414181579, + "grad_norm": 9.266488075256348, + "learning_rate": 1.9479531075177354e-06, + "loss": 0.1475, + "num_input_tokens_seen": 25315728, + "step": 12926 + }, + { + "epoch": 1.713320079522863, + "grad_norm": 0.7103762030601501, + "learning_rate": 1.947614544663973e-06, + "loss": 0.0046, + "num_input_tokens_seen": 25317664, + "step": 12927 + }, + { + "epoch": 1.713452617627568, + "grad_norm": 7.603853225708008, + "learning_rate": 1.947275992460583e-06, + "loss": 0.1927, + "num_input_tokens_seen": 25319960, + "step": 12928 + }, + { + "epoch": 1.713585155732273, + "grad_norm": 3.0583081245422363, + "learning_rate": 1.946937450914093e-06, + "loss": 0.0187, + "num_input_tokens_seen": 25322976, + "step": 12929 + }, + { + "epoch": 1.713717693836978, + "grad_norm": 0.05097518861293793, + "learning_rate": 1.9465989200310315e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25324032, + "step": 12930 + }, + { + "epoch": 1.7138502319416833, + "grad_norm": 2.333779811859131, + "learning_rate": 1.9462603998179237e-06, + "loss": 0.0128, + "num_input_tokens_seen": 25326072, + "step": 12931 + }, + { + "epoch": 1.7139827700463883, + "grad_norm": 6.8236823081970215, + "learning_rate": 1.945921890281298e-06, + "loss": 0.1774, + "num_input_tokens_seen": 25327728, + "step": 12932 + }, + { + "epoch": 1.7141153081510936, + "grad_norm": 1.0247021913528442, + "learning_rate": 1.9455833914276805e-06, + "loss": 0.027, + "num_input_tokens_seen": 25329344, + "step": 12933 + }, + { + "epoch": 1.7142478462557986, + "grad_norm": 0.08461688458919525, + "learning_rate": 1.9452449032635966e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25332464, + "step": 12934 + }, + { + "epoch": 1.7143803843605037, + "grad_norm": 12.286478042602539, + "learning_rate": 1.9449064257955745e-06, + "loss": 0.131, + "num_input_tokens_seen": 25334256, + "step": 12935 + }, + { + "epoch": 1.7145129224652087, + "grad_norm": 0.03181973844766617, + "learning_rate": 1.9445679590301395e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25336192, + "step": 12936 + }, + { + "epoch": 1.7146454605699137, + "grad_norm": 9.853219032287598, + "learning_rate": 1.944229502973817e-06, + "loss": 0.2565, + "num_input_tokens_seen": 25338688, + "step": 12937 + }, + { + "epoch": 1.714777998674619, + "grad_norm": 1.6905488967895508, + "learning_rate": 1.9438910576331336e-06, + "loss": 0.0157, + "num_input_tokens_seen": 25340520, + "step": 12938 + }, + { + "epoch": 1.714910536779324, + "grad_norm": 1.551859974861145, + "learning_rate": 1.9435526230146135e-06, + "loss": 0.0169, + "num_input_tokens_seen": 25342424, + "step": 12939 + }, + { + "epoch": 1.7150430748840293, + "grad_norm": 0.029570886865258217, + "learning_rate": 1.9432141991247834e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25344520, + "step": 12940 + }, + { + "epoch": 1.7151756129887343, + "grad_norm": 0.024803733453154564, + "learning_rate": 1.9428757859701676e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25346280, + "step": 12941 + }, + { + "epoch": 1.7153081510934394, + "grad_norm": 4.9073805809021, + "learning_rate": 1.942537383557291e-06, + "loss": 0.0585, + "num_input_tokens_seen": 25348296, + "step": 12942 + }, + { + "epoch": 1.7154406891981444, + "grad_norm": 6.587100505828857, + "learning_rate": 1.9421989918926783e-06, + "loss": 0.0598, + "num_input_tokens_seen": 25350136, + "step": 12943 + }, + { + "epoch": 1.7155732273028494, + "grad_norm": 4.08974027633667, + "learning_rate": 1.9418606109828535e-06, + "loss": 0.1186, + "num_input_tokens_seen": 25351440, + "step": 12944 + }, + { + "epoch": 1.7157057654075547, + "grad_norm": 3.507312297821045, + "learning_rate": 1.9415222408343408e-06, + "loss": 0.0448, + "num_input_tokens_seen": 25352808, + "step": 12945 + }, + { + "epoch": 1.7158383035122597, + "grad_norm": 8.362565994262695, + "learning_rate": 1.941183881453665e-06, + "loss": 0.0936, + "num_input_tokens_seen": 25354960, + "step": 12946 + }, + { + "epoch": 1.715970841616965, + "grad_norm": 7.943873405456543, + "learning_rate": 1.94084553284735e-06, + "loss": 0.1312, + "num_input_tokens_seen": 25357448, + "step": 12947 + }, + { + "epoch": 1.71610337972167, + "grad_norm": 0.4840361773967743, + "learning_rate": 1.9405071950219185e-06, + "loss": 0.0065, + "num_input_tokens_seen": 25360488, + "step": 12948 + }, + { + "epoch": 1.716235917826375, + "grad_norm": 3.952924966812134, + "learning_rate": 1.940168867983894e-06, + "loss": 0.0325, + "num_input_tokens_seen": 25362192, + "step": 12949 + }, + { + "epoch": 1.7163684559310801, + "grad_norm": 9.478523254394531, + "learning_rate": 1.9398305517397994e-06, + "loss": 0.2605, + "num_input_tokens_seen": 25364152, + "step": 12950 + }, + { + "epoch": 1.7165009940357852, + "grad_norm": 0.018006248399615288, + "learning_rate": 1.9394922462961594e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25365736, + "step": 12951 + }, + { + "epoch": 1.7166335321404904, + "grad_norm": 1.2977339029312134, + "learning_rate": 1.9391539516594947e-06, + "loss": 0.0181, + "num_input_tokens_seen": 25367152, + "step": 12952 + }, + { + "epoch": 1.7167660702451955, + "grad_norm": 9.765443801879883, + "learning_rate": 1.9388156678363296e-06, + "loss": 0.161, + "num_input_tokens_seen": 25369000, + "step": 12953 + }, + { + "epoch": 1.7168986083499007, + "grad_norm": 0.019091330468654633, + "learning_rate": 1.938477394833185e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25371936, + "step": 12954 + }, + { + "epoch": 1.7170311464546058, + "grad_norm": 8.533186912536621, + "learning_rate": 1.9381391326565825e-06, + "loss": 0.3349, + "num_input_tokens_seen": 25374328, + "step": 12955 + }, + { + "epoch": 1.7171636845593108, + "grad_norm": 0.030274169519543648, + "learning_rate": 1.9378008813130465e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25376424, + "step": 12956 + }, + { + "epoch": 1.7172962226640158, + "grad_norm": 3.8452515602111816, + "learning_rate": 1.937462640809098e-06, + "loss": 0.0324, + "num_input_tokens_seen": 25379008, + "step": 12957 + }, + { + "epoch": 1.7174287607687209, + "grad_norm": 7.430222511291504, + "learning_rate": 1.9371244111512566e-06, + "loss": 0.227, + "num_input_tokens_seen": 25381856, + "step": 12958 + }, + { + "epoch": 1.7175612988734261, + "grad_norm": 0.11693737655878067, + "learning_rate": 1.9367861923460457e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25383960, + "step": 12959 + }, + { + "epoch": 1.7176938369781312, + "grad_norm": 0.7076490521430969, + "learning_rate": 1.9364479843999844e-06, + "loss": 0.0059, + "num_input_tokens_seen": 25385720, + "step": 12960 + }, + { + "epoch": 1.7178263750828364, + "grad_norm": 0.05456510931253433, + "learning_rate": 1.936109787319595e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25388368, + "step": 12961 + }, + { + "epoch": 1.7179589131875415, + "grad_norm": 0.04048958420753479, + "learning_rate": 1.9357716011113988e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25391392, + "step": 12962 + }, + { + "epoch": 1.7180914512922465, + "grad_norm": 0.015053503215312958, + "learning_rate": 1.9354334257819153e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25393552, + "step": 12963 + }, + { + "epoch": 1.7182239893969515, + "grad_norm": 0.02331184223294258, + "learning_rate": 1.935095261337664e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25394992, + "step": 12964 + }, + { + "epoch": 1.7183565275016566, + "grad_norm": 0.024966707453131676, + "learning_rate": 1.9347571077851657e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25398240, + "step": 12965 + }, + { + "epoch": 1.7184890656063618, + "grad_norm": 9.616430282592773, + "learning_rate": 1.9344189651309413e-06, + "loss": 0.1576, + "num_input_tokens_seen": 25400192, + "step": 12966 + }, + { + "epoch": 1.718621603711067, + "grad_norm": 0.6272745132446289, + "learning_rate": 1.934080833381509e-06, + "loss": 0.0117, + "num_input_tokens_seen": 25402176, + "step": 12967 + }, + { + "epoch": 1.7187541418157721, + "grad_norm": 2.9754433631896973, + "learning_rate": 1.9337427125433887e-06, + "loss": 0.0474, + "num_input_tokens_seen": 25404024, + "step": 12968 + }, + { + "epoch": 1.7188866799204772, + "grad_norm": 6.730123519897461, + "learning_rate": 1.933404602623099e-06, + "loss": 0.1755, + "num_input_tokens_seen": 25406656, + "step": 12969 + }, + { + "epoch": 1.7190192180251822, + "grad_norm": 4.9462995529174805, + "learning_rate": 1.9330665036271605e-06, + "loss": 0.0971, + "num_input_tokens_seen": 25408440, + "step": 12970 + }, + { + "epoch": 1.7191517561298872, + "grad_norm": 3.910475492477417, + "learning_rate": 1.9327284155620894e-06, + "loss": 0.0285, + "num_input_tokens_seen": 25410128, + "step": 12971 + }, + { + "epoch": 1.7192842942345923, + "grad_norm": 4.765516757965088, + "learning_rate": 1.932390338434407e-06, + "loss": 0.1699, + "num_input_tokens_seen": 25412120, + "step": 12972 + }, + { + "epoch": 1.7194168323392975, + "grad_norm": 0.9485150575637817, + "learning_rate": 1.93205227225063e-06, + "loss": 0.0073, + "num_input_tokens_seen": 25413696, + "step": 12973 + }, + { + "epoch": 1.7195493704440028, + "grad_norm": 14.877690315246582, + "learning_rate": 1.9317142170172772e-06, + "loss": 0.1385, + "num_input_tokens_seen": 25415472, + "step": 12974 + }, + { + "epoch": 1.7196819085487078, + "grad_norm": 0.026858855038881302, + "learning_rate": 1.9313761727408665e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25417296, + "step": 12975 + }, + { + "epoch": 1.7198144466534129, + "grad_norm": 0.018342316150665283, + "learning_rate": 1.9310381394279145e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25419584, + "step": 12976 + }, + { + "epoch": 1.719946984758118, + "grad_norm": 8.671225547790527, + "learning_rate": 1.9307001170849404e-06, + "loss": 0.1557, + "num_input_tokens_seen": 25421784, + "step": 12977 + }, + { + "epoch": 1.720079522862823, + "grad_norm": 0.030548563227057457, + "learning_rate": 1.9303621057184612e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25423136, + "step": 12978 + }, + { + "epoch": 1.7202120609675282, + "grad_norm": 0.48374390602111816, + "learning_rate": 1.930024105334993e-06, + "loss": 0.0035, + "num_input_tokens_seen": 25424832, + "step": 12979 + }, + { + "epoch": 1.7203445990722332, + "grad_norm": 0.04003541171550751, + "learning_rate": 1.9296861159410537e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25427464, + "step": 12980 + }, + { + "epoch": 1.7204771371769385, + "grad_norm": 0.11772596836090088, + "learning_rate": 1.9293481375431585e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25430272, + "step": 12981 + }, + { + "epoch": 1.7206096752816435, + "grad_norm": 0.01597120612859726, + "learning_rate": 1.9290101701478254e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25431464, + "step": 12982 + }, + { + "epoch": 1.7207422133863486, + "grad_norm": 6.537518501281738, + "learning_rate": 1.928672213761571e-06, + "loss": 0.0543, + "num_input_tokens_seen": 25433232, + "step": 12983 + }, + { + "epoch": 1.7208747514910536, + "grad_norm": 0.38836613297462463, + "learning_rate": 1.928334268390909e-06, + "loss": 0.0023, + "num_input_tokens_seen": 25435816, + "step": 12984 + }, + { + "epoch": 1.7210072895957587, + "grad_norm": 0.6606959700584412, + "learning_rate": 1.927996334042358e-06, + "loss": 0.0032, + "num_input_tokens_seen": 25437248, + "step": 12985 + }, + { + "epoch": 1.721139827700464, + "grad_norm": 0.01738104596734047, + "learning_rate": 1.927658410722431e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25439360, + "step": 12986 + }, + { + "epoch": 1.721272365805169, + "grad_norm": 7.767855167388916, + "learning_rate": 1.927320498437646e-06, + "loss": 0.1018, + "num_input_tokens_seen": 25441456, + "step": 12987 + }, + { + "epoch": 1.7214049039098742, + "grad_norm": 7.30949592590332, + "learning_rate": 1.9269825971945163e-06, + "loss": 0.0966, + "num_input_tokens_seen": 25444120, + "step": 12988 + }, + { + "epoch": 1.7215374420145793, + "grad_norm": 0.005745692178606987, + "learning_rate": 1.9266447069995574e-06, + "loss": 0.0, + "num_input_tokens_seen": 25445192, + "step": 12989 + }, + { + "epoch": 1.7216699801192843, + "grad_norm": 5.081228256225586, + "learning_rate": 1.926306827859284e-06, + "loss": 0.0333, + "num_input_tokens_seen": 25446992, + "step": 12990 + }, + { + "epoch": 1.7218025182239893, + "grad_norm": 9.082262992858887, + "learning_rate": 1.92596895978021e-06, + "loss": 0.2526, + "num_input_tokens_seen": 25450152, + "step": 12991 + }, + { + "epoch": 1.7219350563286944, + "grad_norm": 3.9443247318267822, + "learning_rate": 1.9256311027688516e-06, + "loss": 0.0712, + "num_input_tokens_seen": 25452712, + "step": 12992 + }, + { + "epoch": 1.7220675944333996, + "grad_norm": 1.3829736709594727, + "learning_rate": 1.9252932568317217e-06, + "loss": 0.0096, + "num_input_tokens_seen": 25454152, + "step": 12993 + }, + { + "epoch": 1.7222001325381047, + "grad_norm": 8.036885261535645, + "learning_rate": 1.924955421975334e-06, + "loss": 0.1776, + "num_input_tokens_seen": 25457376, + "step": 12994 + }, + { + "epoch": 1.72233267064281, + "grad_norm": 0.4590553343296051, + "learning_rate": 1.9246175982062032e-06, + "loss": 0.0038, + "num_input_tokens_seen": 25458912, + "step": 12995 + }, + { + "epoch": 1.722465208747515, + "grad_norm": 9.813371658325195, + "learning_rate": 1.924279785530841e-06, + "loss": 0.2084, + "num_input_tokens_seen": 25460872, + "step": 12996 + }, + { + "epoch": 1.72259774685222, + "grad_norm": 3.721602439880371, + "learning_rate": 1.9239419839557618e-06, + "loss": 0.024, + "num_input_tokens_seen": 25462848, + "step": 12997 + }, + { + "epoch": 1.722730284956925, + "grad_norm": 8.09642505645752, + "learning_rate": 1.923604193487479e-06, + "loss": 0.1626, + "num_input_tokens_seen": 25465584, + "step": 12998 + }, + { + "epoch": 1.72286282306163, + "grad_norm": 3.3792200088500977, + "learning_rate": 1.9232664141325045e-06, + "loss": 0.072, + "num_input_tokens_seen": 25467256, + "step": 12999 + }, + { + "epoch": 1.7229953611663353, + "grad_norm": 6.518139362335205, + "learning_rate": 1.922928645897352e-06, + "loss": 0.0907, + "num_input_tokens_seen": 25469816, + "step": 13000 + }, + { + "epoch": 1.7231278992710404, + "grad_norm": 5.251297473907471, + "learning_rate": 1.9225908887885335e-06, + "loss": 0.0391, + "num_input_tokens_seen": 25471760, + "step": 13001 + }, + { + "epoch": 1.7232604373757456, + "grad_norm": 0.06077706441283226, + "learning_rate": 1.9222531428125594e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25473336, + "step": 13002 + }, + { + "epoch": 1.7233929754804507, + "grad_norm": 0.9986122846603394, + "learning_rate": 1.9219154079759444e-06, + "loss": 0.0044, + "num_input_tokens_seen": 25475424, + "step": 13003 + }, + { + "epoch": 1.7235255135851557, + "grad_norm": 10.366222381591797, + "learning_rate": 1.9215776842851997e-06, + "loss": 0.1737, + "num_input_tokens_seen": 25477024, + "step": 13004 + }, + { + "epoch": 1.7236580516898607, + "grad_norm": 9.17481803894043, + "learning_rate": 1.921239971746835e-06, + "loss": 0.0655, + "num_input_tokens_seen": 25478544, + "step": 13005 + }, + { + "epoch": 1.7237905897945658, + "grad_norm": 0.4798559546470642, + "learning_rate": 1.920902270367364e-06, + "loss": 0.0036, + "num_input_tokens_seen": 25480784, + "step": 13006 + }, + { + "epoch": 1.723923127899271, + "grad_norm": 0.03695900738239288, + "learning_rate": 1.920564580153296e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25482432, + "step": 13007 + }, + { + "epoch": 1.7240556660039763, + "grad_norm": 9.76543140411377, + "learning_rate": 1.9202269011111425e-06, + "loss": 0.1283, + "num_input_tokens_seen": 25483712, + "step": 13008 + }, + { + "epoch": 1.7241882041086813, + "grad_norm": 11.855833053588867, + "learning_rate": 1.919889233247415e-06, + "loss": 0.2655, + "num_input_tokens_seen": 25485432, + "step": 13009 + }, + { + "epoch": 1.7243207422133864, + "grad_norm": 16.928966522216797, + "learning_rate": 1.9195515765686237e-06, + "loss": 0.4454, + "num_input_tokens_seen": 25487728, + "step": 13010 + }, + { + "epoch": 1.7244532803180914, + "grad_norm": 0.03161786124110222, + "learning_rate": 1.9192139310812775e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25489504, + "step": 13011 + }, + { + "epoch": 1.7245858184227965, + "grad_norm": 0.618473470211029, + "learning_rate": 1.9188762967918872e-06, + "loss": 0.003, + "num_input_tokens_seen": 25491968, + "step": 13012 + }, + { + "epoch": 1.7247183565275015, + "grad_norm": 0.17127221822738647, + "learning_rate": 1.9185386737069633e-06, + "loss": 0.0011, + "num_input_tokens_seen": 25493896, + "step": 13013 + }, + { + "epoch": 1.7248508946322068, + "grad_norm": 0.016987809911370277, + "learning_rate": 1.918201061833015e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25496536, + "step": 13014 + }, + { + "epoch": 1.724983432736912, + "grad_norm": 14.260407447814941, + "learning_rate": 1.917863461176552e-06, + "loss": 0.043, + "num_input_tokens_seen": 25497984, + "step": 13015 + }, + { + "epoch": 1.725115970841617, + "grad_norm": 0.014989822171628475, + "learning_rate": 1.9175258717440827e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25499792, + "step": 13016 + }, + { + "epoch": 1.725248508946322, + "grad_norm": 9.37473201751709, + "learning_rate": 1.9171882935421153e-06, + "loss": 0.2087, + "num_input_tokens_seen": 25501992, + "step": 13017 + }, + { + "epoch": 1.7253810470510271, + "grad_norm": 0.022801384329795837, + "learning_rate": 1.9168507265771606e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25503832, + "step": 13018 + }, + { + "epoch": 1.7255135851557322, + "grad_norm": 0.021364616230130196, + "learning_rate": 1.9165131708557264e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25506160, + "step": 13019 + }, + { + "epoch": 1.7256461232604374, + "grad_norm": 0.31378209590911865, + "learning_rate": 1.9161756263843203e-06, + "loss": 0.0014, + "num_input_tokens_seen": 25507712, + "step": 13020 + }, + { + "epoch": 1.7257786613651425, + "grad_norm": 12.725200653076172, + "learning_rate": 1.9158380931694514e-06, + "loss": 0.3018, + "num_input_tokens_seen": 25509632, + "step": 13021 + }, + { + "epoch": 1.7259111994698477, + "grad_norm": 0.026845267042517662, + "learning_rate": 1.9155005712176262e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25511456, + "step": 13022 + }, + { + "epoch": 1.7260437375745528, + "grad_norm": 3.088853359222412, + "learning_rate": 1.9151630605353538e-06, + "loss": 0.1026, + "num_input_tokens_seen": 25512904, + "step": 13023 + }, + { + "epoch": 1.7261762756792578, + "grad_norm": 9.048897743225098, + "learning_rate": 1.9148255611291413e-06, + "loss": 0.1868, + "num_input_tokens_seen": 25514712, + "step": 13024 + }, + { + "epoch": 1.7263088137839628, + "grad_norm": 7.238923072814941, + "learning_rate": 1.914488073005496e-06, + "loss": 0.1861, + "num_input_tokens_seen": 25516072, + "step": 13025 + }, + { + "epoch": 1.7264413518886679, + "grad_norm": 2.513960599899292, + "learning_rate": 1.914150596170924e-06, + "loss": 0.0105, + "num_input_tokens_seen": 25518640, + "step": 13026 + }, + { + "epoch": 1.7265738899933731, + "grad_norm": 0.04520354047417641, + "learning_rate": 1.9138131306319325e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25520896, + "step": 13027 + }, + { + "epoch": 1.7267064280980782, + "grad_norm": 14.103716850280762, + "learning_rate": 1.913475676395028e-06, + "loss": 0.2667, + "num_input_tokens_seen": 25522992, + "step": 13028 + }, + { + "epoch": 1.7268389662027834, + "grad_norm": 5.991722106933594, + "learning_rate": 1.9131382334667173e-06, + "loss": 0.1617, + "num_input_tokens_seen": 25525256, + "step": 13029 + }, + { + "epoch": 1.7269715043074885, + "grad_norm": 0.05218103900551796, + "learning_rate": 1.912800801853507e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25527344, + "step": 13030 + }, + { + "epoch": 1.7271040424121935, + "grad_norm": 0.04634048789739609, + "learning_rate": 1.912463381561902e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25529976, + "step": 13031 + }, + { + "epoch": 1.7272365805168985, + "grad_norm": 0.06538394838571548, + "learning_rate": 1.912125972598408e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25531576, + "step": 13032 + }, + { + "epoch": 1.7273691186216036, + "grad_norm": 8.11008071899414, + "learning_rate": 1.9117885749695303e-06, + "loss": 0.1277, + "num_input_tokens_seen": 25533056, + "step": 13033 + }, + { + "epoch": 1.7275016567263088, + "grad_norm": 9.15585994720459, + "learning_rate": 1.9114511886817753e-06, + "loss": 0.254, + "num_input_tokens_seen": 25535160, + "step": 13034 + }, + { + "epoch": 1.7276341948310139, + "grad_norm": 0.22886191308498383, + "learning_rate": 1.9111138137416475e-06, + "loss": 0.001, + "num_input_tokens_seen": 25536888, + "step": 13035 + }, + { + "epoch": 1.7277667329357191, + "grad_norm": 0.2796797752380371, + "learning_rate": 1.910776450155652e-06, + "loss": 0.0013, + "num_input_tokens_seen": 25538800, + "step": 13036 + }, + { + "epoch": 1.7278992710404242, + "grad_norm": 0.021284453570842743, + "learning_rate": 1.9104390979302923e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25539872, + "step": 13037 + }, + { + "epoch": 1.7280318091451292, + "grad_norm": 17.202625274658203, + "learning_rate": 1.9101017570720732e-06, + "loss": 0.3886, + "num_input_tokens_seen": 25541976, + "step": 13038 + }, + { + "epoch": 1.7281643472498343, + "grad_norm": 0.31213247776031494, + "learning_rate": 1.9097644275875e-06, + "loss": 0.0025, + "num_input_tokens_seen": 25543576, + "step": 13039 + }, + { + "epoch": 1.7282968853545393, + "grad_norm": 18.33671760559082, + "learning_rate": 1.909427109483076e-06, + "loss": 0.4609, + "num_input_tokens_seen": 25545360, + "step": 13040 + }, + { + "epoch": 1.7284294234592446, + "grad_norm": 0.07300771772861481, + "learning_rate": 1.909089802765304e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25546664, + "step": 13041 + }, + { + "epoch": 1.7285619615639496, + "grad_norm": 0.02774183265864849, + "learning_rate": 1.908752507440689e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25547992, + "step": 13042 + }, + { + "epoch": 1.7286944996686548, + "grad_norm": 0.18687549233436584, + "learning_rate": 1.9084152235157326e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25549680, + "step": 13043 + }, + { + "epoch": 1.7288270377733599, + "grad_norm": 13.019149780273438, + "learning_rate": 1.908077950996939e-06, + "loss": 0.1361, + "num_input_tokens_seen": 25552496, + "step": 13044 + }, + { + "epoch": 1.728959575878065, + "grad_norm": 8.08028793334961, + "learning_rate": 1.9077406898908115e-06, + "loss": 0.1816, + "num_input_tokens_seen": 25554640, + "step": 13045 + }, + { + "epoch": 1.72909211398277, + "grad_norm": 4.3986382484436035, + "learning_rate": 1.9074034402038515e-06, + "loss": 0.1204, + "num_input_tokens_seen": 25556280, + "step": 13046 + }, + { + "epoch": 1.729224652087475, + "grad_norm": 8.971397399902344, + "learning_rate": 1.9070662019425626e-06, + "loss": 0.1495, + "num_input_tokens_seen": 25558752, + "step": 13047 + }, + { + "epoch": 1.7293571901921803, + "grad_norm": 4.190964698791504, + "learning_rate": 1.9067289751134455e-06, + "loss": 0.1532, + "num_input_tokens_seen": 25560128, + "step": 13048 + }, + { + "epoch": 1.7294897282968855, + "grad_norm": 12.704618453979492, + "learning_rate": 1.9063917597230035e-06, + "loss": 0.241, + "num_input_tokens_seen": 25562424, + "step": 13049 + }, + { + "epoch": 1.7296222664015906, + "grad_norm": 4.931826591491699, + "learning_rate": 1.9060545557777379e-06, + "loss": 0.07, + "num_input_tokens_seen": 25564824, + "step": 13050 + }, + { + "epoch": 1.7297548045062956, + "grad_norm": 6.741169452667236, + "learning_rate": 1.9057173632841508e-06, + "loss": 0.1122, + "num_input_tokens_seen": 25566456, + "step": 13051 + }, + { + "epoch": 1.7298873426110006, + "grad_norm": 0.03542790561914444, + "learning_rate": 1.905380182248742e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25568600, + "step": 13052 + }, + { + "epoch": 1.7300198807157057, + "grad_norm": 5.197339057922363, + "learning_rate": 1.9050430126780132e-06, + "loss": 0.0363, + "num_input_tokens_seen": 25569840, + "step": 13053 + }, + { + "epoch": 1.7301524188204107, + "grad_norm": 8.976947784423828, + "learning_rate": 1.9047058545784663e-06, + "loss": 0.2729, + "num_input_tokens_seen": 25571432, + "step": 13054 + }, + { + "epoch": 1.730284956925116, + "grad_norm": 0.047798532992601395, + "learning_rate": 1.9043687079566015e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25572864, + "step": 13055 + }, + { + "epoch": 1.7304174950298212, + "grad_norm": 0.2912397086620331, + "learning_rate": 1.9040315728189185e-06, + "loss": 0.0033, + "num_input_tokens_seen": 25574144, + "step": 13056 + }, + { + "epoch": 1.7305500331345263, + "grad_norm": 0.4822416305541992, + "learning_rate": 1.903694449171918e-06, + "loss": 0.0033, + "num_input_tokens_seen": 25575784, + "step": 13057 + }, + { + "epoch": 1.7306825712392313, + "grad_norm": 8.978565216064453, + "learning_rate": 1.9033573370220997e-06, + "loss": 0.2154, + "num_input_tokens_seen": 25578200, + "step": 13058 + }, + { + "epoch": 1.7308151093439363, + "grad_norm": 0.6280280947685242, + "learning_rate": 1.9030202363759632e-06, + "loss": 0.0025, + "num_input_tokens_seen": 25579872, + "step": 13059 + }, + { + "epoch": 1.7309476474486414, + "grad_norm": 5.788191795349121, + "learning_rate": 1.9026831472400089e-06, + "loss": 0.0508, + "num_input_tokens_seen": 25581328, + "step": 13060 + }, + { + "epoch": 1.7310801855533466, + "grad_norm": 14.122097969055176, + "learning_rate": 1.9023460696207355e-06, + "loss": 0.21, + "num_input_tokens_seen": 25583104, + "step": 13061 + }, + { + "epoch": 1.7312127236580517, + "grad_norm": 0.884870707988739, + "learning_rate": 1.9020090035246424e-06, + "loss": 0.0068, + "num_input_tokens_seen": 25585088, + "step": 13062 + }, + { + "epoch": 1.731345261762757, + "grad_norm": 6.882485866546631, + "learning_rate": 1.9016719489582285e-06, + "loss": 0.1528, + "num_input_tokens_seen": 25587280, + "step": 13063 + }, + { + "epoch": 1.731477799867462, + "grad_norm": 6.080814361572266, + "learning_rate": 1.9013349059279909e-06, + "loss": 0.1395, + "num_input_tokens_seen": 25589328, + "step": 13064 + }, + { + "epoch": 1.731610337972167, + "grad_norm": 7.457761764526367, + "learning_rate": 1.90099787444043e-06, + "loss": 0.0887, + "num_input_tokens_seen": 25591040, + "step": 13065 + }, + { + "epoch": 1.731742876076872, + "grad_norm": 1.1022241115570068, + "learning_rate": 1.9006608545020438e-06, + "loss": 0.0104, + "num_input_tokens_seen": 25593216, + "step": 13066 + }, + { + "epoch": 1.731875414181577, + "grad_norm": 9.114222526550293, + "learning_rate": 1.9003238461193293e-06, + "loss": 0.3008, + "num_input_tokens_seen": 25595280, + "step": 13067 + }, + { + "epoch": 1.7320079522862823, + "grad_norm": 0.07977958768606186, + "learning_rate": 1.8999868492987852e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25597384, + "step": 13068 + }, + { + "epoch": 1.7321404903909874, + "grad_norm": 0.48369911313056946, + "learning_rate": 1.8996498640469074e-06, + "loss": 0.0036, + "num_input_tokens_seen": 25598432, + "step": 13069 + }, + { + "epoch": 1.7322730284956926, + "grad_norm": 6.657774448394775, + "learning_rate": 1.8993128903701957e-06, + "loss": 0.0726, + "num_input_tokens_seen": 25600096, + "step": 13070 + }, + { + "epoch": 1.7324055666003977, + "grad_norm": 0.02275262027978897, + "learning_rate": 1.8989759282751452e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25601984, + "step": 13071 + }, + { + "epoch": 1.7325381047051027, + "grad_norm": 5.385279655456543, + "learning_rate": 1.898638977768254e-06, + "loss": 0.0622, + "num_input_tokens_seen": 25604472, + "step": 13072 + }, + { + "epoch": 1.7326706428098078, + "grad_norm": 6.461187362670898, + "learning_rate": 1.8983020388560175e-06, + "loss": 0.0841, + "num_input_tokens_seen": 25606424, + "step": 13073 + }, + { + "epoch": 1.7328031809145128, + "grad_norm": 3.1076791286468506, + "learning_rate": 1.8979651115449323e-06, + "loss": 0.0977, + "num_input_tokens_seen": 25608568, + "step": 13074 + }, + { + "epoch": 1.732935719019218, + "grad_norm": 0.034549444913864136, + "learning_rate": 1.8976281958414963e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25610496, + "step": 13075 + }, + { + "epoch": 1.733068257123923, + "grad_norm": 0.6905530691146851, + "learning_rate": 1.8972912917522035e-06, + "loss": 0.0066, + "num_input_tokens_seen": 25614288, + "step": 13076 + }, + { + "epoch": 1.7332007952286284, + "grad_norm": 7.6261796951293945, + "learning_rate": 1.8969543992835513e-06, + "loss": 0.2133, + "num_input_tokens_seen": 25615848, + "step": 13077 + }, + { + "epoch": 1.7333333333333334, + "grad_norm": 4.502918243408203, + "learning_rate": 1.8966175184420339e-06, + "loss": 0.1162, + "num_input_tokens_seen": 25617600, + "step": 13078 + }, + { + "epoch": 1.7334658714380384, + "grad_norm": 0.9794042110443115, + "learning_rate": 1.896280649234146e-06, + "loss": 0.0097, + "num_input_tokens_seen": 25619568, + "step": 13079 + }, + { + "epoch": 1.7335984095427435, + "grad_norm": 10.694192886352539, + "learning_rate": 1.8959437916663842e-06, + "loss": 0.2792, + "num_input_tokens_seen": 25621488, + "step": 13080 + }, + { + "epoch": 1.7337309476474485, + "grad_norm": 14.452932357788086, + "learning_rate": 1.8956069457452435e-06, + "loss": 0.2473, + "num_input_tokens_seen": 25623264, + "step": 13081 + }, + { + "epoch": 1.7338634857521538, + "grad_norm": 3.105473279953003, + "learning_rate": 1.895270111477217e-06, + "loss": 0.0947, + "num_input_tokens_seen": 25625224, + "step": 13082 + }, + { + "epoch": 1.7339960238568588, + "grad_norm": 2.924893617630005, + "learning_rate": 1.894933288868801e-06, + "loss": 0.0447, + "num_input_tokens_seen": 25628176, + "step": 13083 + }, + { + "epoch": 1.734128561961564, + "grad_norm": 0.10207723826169968, + "learning_rate": 1.8945964779264875e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25629584, + "step": 13084 + }, + { + "epoch": 1.734261100066269, + "grad_norm": 2.798213481903076, + "learning_rate": 1.8942596786567718e-06, + "loss": 0.0541, + "num_input_tokens_seen": 25631152, + "step": 13085 + }, + { + "epoch": 1.7343936381709741, + "grad_norm": 11.149018287658691, + "learning_rate": 1.8939228910661475e-06, + "loss": 0.3583, + "num_input_tokens_seen": 25633720, + "step": 13086 + }, + { + "epoch": 1.7345261762756792, + "grad_norm": 8.458293914794922, + "learning_rate": 1.8935861151611085e-06, + "loss": 0.1327, + "num_input_tokens_seen": 25635400, + "step": 13087 + }, + { + "epoch": 1.7346587143803842, + "grad_norm": 4.468495845794678, + "learning_rate": 1.8932493509481467e-06, + "loss": 0.0839, + "num_input_tokens_seen": 25637768, + "step": 13088 + }, + { + "epoch": 1.7347912524850895, + "grad_norm": 7.832223892211914, + "learning_rate": 1.8929125984337568e-06, + "loss": 0.0785, + "num_input_tokens_seen": 25639840, + "step": 13089 + }, + { + "epoch": 1.7349237905897945, + "grad_norm": 0.06582982838153839, + "learning_rate": 1.8925758576244296e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25641128, + "step": 13090 + }, + { + "epoch": 1.7350563286944998, + "grad_norm": 3.918466567993164, + "learning_rate": 1.8922391285266594e-06, + "loss": 0.1126, + "num_input_tokens_seen": 25643216, + "step": 13091 + }, + { + "epoch": 1.7351888667992048, + "grad_norm": 8.050939559936523, + "learning_rate": 1.8919024111469386e-06, + "loss": 0.1419, + "num_input_tokens_seen": 25646328, + "step": 13092 + }, + { + "epoch": 1.7353214049039098, + "grad_norm": 1.9532281160354614, + "learning_rate": 1.8915657054917592e-06, + "loss": 0.0326, + "num_input_tokens_seen": 25647792, + "step": 13093 + }, + { + "epoch": 1.7354539430086149, + "grad_norm": 17.39086151123047, + "learning_rate": 1.891229011567612e-06, + "loss": 0.4299, + "num_input_tokens_seen": 25650672, + "step": 13094 + }, + { + "epoch": 1.73558648111332, + "grad_norm": 11.847719192504883, + "learning_rate": 1.8908923293809886e-06, + "loss": 0.3618, + "num_input_tokens_seen": 25652352, + "step": 13095 + }, + { + "epoch": 1.7357190192180252, + "grad_norm": 1.2087526321411133, + "learning_rate": 1.8905556589383825e-06, + "loss": 0.0447, + "num_input_tokens_seen": 25654112, + "step": 13096 + }, + { + "epoch": 1.7358515573227304, + "grad_norm": 18.694190979003906, + "learning_rate": 1.8902190002462833e-06, + "loss": 0.3111, + "num_input_tokens_seen": 25655784, + "step": 13097 + }, + { + "epoch": 1.7359840954274355, + "grad_norm": 6.14501428604126, + "learning_rate": 1.889882353311183e-06, + "loss": 0.1424, + "num_input_tokens_seen": 25657400, + "step": 13098 + }, + { + "epoch": 1.7361166335321405, + "grad_norm": 1.7411673069000244, + "learning_rate": 1.889545718139571e-06, + "loss": 0.0089, + "num_input_tokens_seen": 25658872, + "step": 13099 + }, + { + "epoch": 1.7362491716368456, + "grad_norm": 0.4039137363433838, + "learning_rate": 1.8892090947379385e-06, + "loss": 0.0019, + "num_input_tokens_seen": 25660040, + "step": 13100 + }, + { + "epoch": 1.7363817097415506, + "grad_norm": 0.22721141576766968, + "learning_rate": 1.888872483112777e-06, + "loss": 0.0024, + "num_input_tokens_seen": 25661816, + "step": 13101 + }, + { + "epoch": 1.7365142478462559, + "grad_norm": 27.439496994018555, + "learning_rate": 1.8885358832705756e-06, + "loss": 0.3079, + "num_input_tokens_seen": 25663632, + "step": 13102 + }, + { + "epoch": 1.736646785950961, + "grad_norm": 10.742377281188965, + "learning_rate": 1.8881992952178235e-06, + "loss": 0.3334, + "num_input_tokens_seen": 25665832, + "step": 13103 + }, + { + "epoch": 1.7367793240556662, + "grad_norm": 6.057638645172119, + "learning_rate": 1.8878627189610118e-06, + "loss": 0.0926, + "num_input_tokens_seen": 25667472, + "step": 13104 + }, + { + "epoch": 1.7369118621603712, + "grad_norm": 1.8793964385986328, + "learning_rate": 1.8875261545066281e-06, + "loss": 0.014, + "num_input_tokens_seen": 25668928, + "step": 13105 + }, + { + "epoch": 1.7370444002650762, + "grad_norm": 8.9644136428833, + "learning_rate": 1.887189601861163e-06, + "loss": 0.126, + "num_input_tokens_seen": 25670928, + "step": 13106 + }, + { + "epoch": 1.7371769383697813, + "grad_norm": 4.533306121826172, + "learning_rate": 1.886853061031106e-06, + "loss": 0.1174, + "num_input_tokens_seen": 25673216, + "step": 13107 + }, + { + "epoch": 1.7373094764744863, + "grad_norm": 7.831053256988525, + "learning_rate": 1.8865165320229445e-06, + "loss": 0.0471, + "num_input_tokens_seen": 25674904, + "step": 13108 + }, + { + "epoch": 1.7374420145791916, + "grad_norm": 6.345348358154297, + "learning_rate": 1.8861800148431675e-06, + "loss": 0.0609, + "num_input_tokens_seen": 25676400, + "step": 13109 + }, + { + "epoch": 1.7375745526838966, + "grad_norm": 9.677519798278809, + "learning_rate": 1.8858435094982624e-06, + "loss": 0.1029, + "num_input_tokens_seen": 25678256, + "step": 13110 + }, + { + "epoch": 1.7377070907886019, + "grad_norm": 2.7851407527923584, + "learning_rate": 1.8855070159947192e-06, + "loss": 0.0266, + "num_input_tokens_seen": 25680216, + "step": 13111 + }, + { + "epoch": 1.737839628893307, + "grad_norm": 3.6120333671569824, + "learning_rate": 1.8851705343390241e-06, + "loss": 0.0361, + "num_input_tokens_seen": 25682280, + "step": 13112 + }, + { + "epoch": 1.737972166998012, + "grad_norm": 0.8822866678237915, + "learning_rate": 1.8848340645376659e-06, + "loss": 0.0057, + "num_input_tokens_seen": 25683912, + "step": 13113 + }, + { + "epoch": 1.738104705102717, + "grad_norm": 12.27357006072998, + "learning_rate": 1.8844976065971306e-06, + "loss": 0.1819, + "num_input_tokens_seen": 25685528, + "step": 13114 + }, + { + "epoch": 1.738237243207422, + "grad_norm": 0.29308661818504333, + "learning_rate": 1.8841611605239068e-06, + "loss": 0.0021, + "num_input_tokens_seen": 25687584, + "step": 13115 + }, + { + "epoch": 1.7383697813121273, + "grad_norm": 0.20190446078777313, + "learning_rate": 1.8838247263244797e-06, + "loss": 0.0014, + "num_input_tokens_seen": 25689856, + "step": 13116 + }, + { + "epoch": 1.7385023194168323, + "grad_norm": 0.26959624886512756, + "learning_rate": 1.8834883040053376e-06, + "loss": 0.002, + "num_input_tokens_seen": 25691384, + "step": 13117 + }, + { + "epoch": 1.7386348575215376, + "grad_norm": 0.5388979911804199, + "learning_rate": 1.8831518935729658e-06, + "loss": 0.0038, + "num_input_tokens_seen": 25693080, + "step": 13118 + }, + { + "epoch": 1.7387673956262426, + "grad_norm": 13.03867244720459, + "learning_rate": 1.882815495033852e-06, + "loss": 0.3087, + "num_input_tokens_seen": 25696168, + "step": 13119 + }, + { + "epoch": 1.7388999337309476, + "grad_norm": 3.3906145095825195, + "learning_rate": 1.8824791083944804e-06, + "loss": 0.0434, + "num_input_tokens_seen": 25698120, + "step": 13120 + }, + { + "epoch": 1.7390324718356527, + "grad_norm": 0.5830864310264587, + "learning_rate": 1.8821427336613373e-06, + "loss": 0.004, + "num_input_tokens_seen": 25700224, + "step": 13121 + }, + { + "epoch": 1.7391650099403577, + "grad_norm": 7.49354362487793, + "learning_rate": 1.8818063708409093e-06, + "loss": 0.1101, + "num_input_tokens_seen": 25701640, + "step": 13122 + }, + { + "epoch": 1.739297548045063, + "grad_norm": 16.447891235351562, + "learning_rate": 1.8814700199396813e-06, + "loss": 0.305, + "num_input_tokens_seen": 25703376, + "step": 13123 + }, + { + "epoch": 1.739430086149768, + "grad_norm": 1.42312753200531, + "learning_rate": 1.881133680964137e-06, + "loss": 0.0097, + "num_input_tokens_seen": 25705088, + "step": 13124 + }, + { + "epoch": 1.7395626242544733, + "grad_norm": 7.820713520050049, + "learning_rate": 1.880797353920763e-06, + "loss": 0.1402, + "num_input_tokens_seen": 25707064, + "step": 13125 + }, + { + "epoch": 1.7396951623591783, + "grad_norm": 3.5970516204833984, + "learning_rate": 1.8804610388160425e-06, + "loss": 0.0959, + "num_input_tokens_seen": 25709032, + "step": 13126 + }, + { + "epoch": 1.7398277004638834, + "grad_norm": 0.07361502200365067, + "learning_rate": 1.8801247356564605e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25710504, + "step": 13127 + }, + { + "epoch": 1.7399602385685884, + "grad_norm": 0.124573715031147, + "learning_rate": 1.879788444448502e-06, + "loss": 0.0009, + "num_input_tokens_seen": 25713072, + "step": 13128 + }, + { + "epoch": 1.7400927766732934, + "grad_norm": 2.5478551387786865, + "learning_rate": 1.8794521651986497e-06, + "loss": 0.0204, + "num_input_tokens_seen": 25715048, + "step": 13129 + }, + { + "epoch": 1.7402253147779987, + "grad_norm": 0.17135240137577057, + "learning_rate": 1.8791158979133883e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25716656, + "step": 13130 + }, + { + "epoch": 1.7403578528827037, + "grad_norm": 9.008345603942871, + "learning_rate": 1.8787796425991998e-06, + "loss": 0.2389, + "num_input_tokens_seen": 25719440, + "step": 13131 + }, + { + "epoch": 1.740490390987409, + "grad_norm": 4.280391216278076, + "learning_rate": 1.8784433992625689e-06, + "loss": 0.0587, + "num_input_tokens_seen": 25722336, + "step": 13132 + }, + { + "epoch": 1.740622929092114, + "grad_norm": 7.120774745941162, + "learning_rate": 1.878107167909978e-06, + "loss": 0.1713, + "num_input_tokens_seen": 25723928, + "step": 13133 + }, + { + "epoch": 1.740755467196819, + "grad_norm": 5.924616813659668, + "learning_rate": 1.8777709485479102e-06, + "loss": 0.056, + "num_input_tokens_seen": 25725840, + "step": 13134 + }, + { + "epoch": 1.740888005301524, + "grad_norm": 5.2308430671691895, + "learning_rate": 1.8774347411828472e-06, + "loss": 0.077, + "num_input_tokens_seen": 25728808, + "step": 13135 + }, + { + "epoch": 1.7410205434062291, + "grad_norm": 0.045758865773677826, + "learning_rate": 1.8770985458212714e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25730144, + "step": 13136 + }, + { + "epoch": 1.7411530815109344, + "grad_norm": 15.992263793945312, + "learning_rate": 1.8767623624696669e-06, + "loss": 0.2872, + "num_input_tokens_seen": 25732384, + "step": 13137 + }, + { + "epoch": 1.7412856196156397, + "grad_norm": 12.600237846374512, + "learning_rate": 1.8764261911345128e-06, + "loss": 0.2052, + "num_input_tokens_seen": 25734296, + "step": 13138 + }, + { + "epoch": 1.7414181577203447, + "grad_norm": 6.148332118988037, + "learning_rate": 1.8760900318222927e-06, + "loss": 0.1472, + "num_input_tokens_seen": 25736088, + "step": 13139 + }, + { + "epoch": 1.7415506958250497, + "grad_norm": 0.052879493683576584, + "learning_rate": 1.875753884539487e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25737416, + "step": 13140 + }, + { + "epoch": 1.7416832339297548, + "grad_norm": 10.572572708129883, + "learning_rate": 1.8754177492925762e-06, + "loss": 0.2063, + "num_input_tokens_seen": 25739088, + "step": 13141 + }, + { + "epoch": 1.7418157720344598, + "grad_norm": 0.04633089900016785, + "learning_rate": 1.8750816260880428e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25740352, + "step": 13142 + }, + { + "epoch": 1.7419483101391648, + "grad_norm": 8.72778606414795, + "learning_rate": 1.874745514932367e-06, + "loss": 0.2329, + "num_input_tokens_seen": 25742000, + "step": 13143 + }, + { + "epoch": 1.74208084824387, + "grad_norm": 5.052142143249512, + "learning_rate": 1.8744094158320286e-06, + "loss": 0.0846, + "num_input_tokens_seen": 25743904, + "step": 13144 + }, + { + "epoch": 1.7422133863485754, + "grad_norm": 5.877135276794434, + "learning_rate": 1.8740733287935087e-06, + "loss": 0.1993, + "num_input_tokens_seen": 25745936, + "step": 13145 + }, + { + "epoch": 1.7423459244532804, + "grad_norm": 0.03169787675142288, + "learning_rate": 1.8737372538232867e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25747952, + "step": 13146 + }, + { + "epoch": 1.7424784625579854, + "grad_norm": 6.226495265960693, + "learning_rate": 1.8734011909278416e-06, + "loss": 0.0393, + "num_input_tokens_seen": 25749992, + "step": 13147 + }, + { + "epoch": 1.7426110006626905, + "grad_norm": 0.28707942366600037, + "learning_rate": 1.8730651401136545e-06, + "loss": 0.0018, + "num_input_tokens_seen": 25751616, + "step": 13148 + }, + { + "epoch": 1.7427435387673955, + "grad_norm": 16.98242950439453, + "learning_rate": 1.8727291013872043e-06, + "loss": 0.3908, + "num_input_tokens_seen": 25753624, + "step": 13149 + }, + { + "epoch": 1.7428760768721008, + "grad_norm": 23.877166748046875, + "learning_rate": 1.872393074754969e-06, + "loss": 0.1701, + "num_input_tokens_seen": 25755880, + "step": 13150 + }, + { + "epoch": 1.7430086149768058, + "grad_norm": 12.88788890838623, + "learning_rate": 1.8720570602234292e-06, + "loss": 0.3201, + "num_input_tokens_seen": 25758312, + "step": 13151 + }, + { + "epoch": 1.743141153081511, + "grad_norm": 0.09495490789413452, + "learning_rate": 1.8717210577990613e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25760040, + "step": 13152 + }, + { + "epoch": 1.7432736911862161, + "grad_norm": 0.08636965602636337, + "learning_rate": 1.871385067488345e-06, + "loss": 0.0012, + "num_input_tokens_seen": 25761632, + "step": 13153 + }, + { + "epoch": 1.7434062292909212, + "grad_norm": 5.337892532348633, + "learning_rate": 1.871049089297759e-06, + "loss": 0.044, + "num_input_tokens_seen": 25763864, + "step": 13154 + }, + { + "epoch": 1.7435387673956262, + "grad_norm": 0.041656509041786194, + "learning_rate": 1.8707131232337805e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25765960, + "step": 13155 + }, + { + "epoch": 1.7436713055003312, + "grad_norm": 0.0716482549905777, + "learning_rate": 1.8703771693028867e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25767184, + "step": 13156 + }, + { + "epoch": 1.7438038436050365, + "grad_norm": 3.553178071975708, + "learning_rate": 1.8700412275115548e-06, + "loss": 0.0665, + "num_input_tokens_seen": 25768808, + "step": 13157 + }, + { + "epoch": 1.7439363817097415, + "grad_norm": 0.07221023738384247, + "learning_rate": 1.8697052978662637e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25769976, + "step": 13158 + }, + { + "epoch": 1.7440689198144468, + "grad_norm": 4.6998515129089355, + "learning_rate": 1.8693693803734885e-06, + "loss": 0.0673, + "num_input_tokens_seen": 25772496, + "step": 13159 + }, + { + "epoch": 1.7442014579191518, + "grad_norm": 4.6739044189453125, + "learning_rate": 1.8690334750397076e-06, + "loss": 0.1554, + "num_input_tokens_seen": 25775072, + "step": 13160 + }, + { + "epoch": 1.7443339960238569, + "grad_norm": 0.10845929384231567, + "learning_rate": 1.8686975818713966e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25777240, + "step": 13161 + }, + { + "epoch": 1.744466534128562, + "grad_norm": 0.8639370799064636, + "learning_rate": 1.86836170087503e-06, + "loss": 0.0073, + "num_input_tokens_seen": 25778984, + "step": 13162 + }, + { + "epoch": 1.744599072233267, + "grad_norm": 13.141666412353516, + "learning_rate": 1.8680258320570865e-06, + "loss": 0.3134, + "num_input_tokens_seen": 25781232, + "step": 13163 + }, + { + "epoch": 1.7447316103379722, + "grad_norm": 4.9684062004089355, + "learning_rate": 1.867689975424042e-06, + "loss": 0.0418, + "num_input_tokens_seen": 25782568, + "step": 13164 + }, + { + "epoch": 1.7448641484426772, + "grad_norm": 7.025899887084961, + "learning_rate": 1.8673541309823695e-06, + "loss": 0.1701, + "num_input_tokens_seen": 25784304, + "step": 13165 + }, + { + "epoch": 1.7449966865473825, + "grad_norm": 12.610382080078125, + "learning_rate": 1.867018298738547e-06, + "loss": 0.2313, + "num_input_tokens_seen": 25786864, + "step": 13166 + }, + { + "epoch": 1.7451292246520875, + "grad_norm": 15.220202445983887, + "learning_rate": 1.8666824786990472e-06, + "loss": 0.6231, + "num_input_tokens_seen": 25789456, + "step": 13167 + }, + { + "epoch": 1.7452617627567926, + "grad_norm": 0.42006996273994446, + "learning_rate": 1.8663466708703464e-06, + "loss": 0.0034, + "num_input_tokens_seen": 25790816, + "step": 13168 + }, + { + "epoch": 1.7453943008614976, + "grad_norm": 0.023408928886055946, + "learning_rate": 1.8660108752589195e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25792344, + "step": 13169 + }, + { + "epoch": 1.7455268389662026, + "grad_norm": 7.248992443084717, + "learning_rate": 1.8656750918712407e-06, + "loss": 0.1105, + "num_input_tokens_seen": 25794048, + "step": 13170 + }, + { + "epoch": 1.745659377070908, + "grad_norm": 12.495877265930176, + "learning_rate": 1.8653393207137827e-06, + "loss": 0.3723, + "num_input_tokens_seen": 25796568, + "step": 13171 + }, + { + "epoch": 1.745791915175613, + "grad_norm": 0.10930247604846954, + "learning_rate": 1.8650035617930213e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25799536, + "step": 13172 + }, + { + "epoch": 1.7459244532803182, + "grad_norm": 1.6016252040863037, + "learning_rate": 1.8646678151154279e-06, + "loss": 0.0056, + "num_input_tokens_seen": 25801736, + "step": 13173 + }, + { + "epoch": 1.7460569913850232, + "grad_norm": 1.1544947624206543, + "learning_rate": 1.8643320806874782e-06, + "loss": 0.0204, + "num_input_tokens_seen": 25802848, + "step": 13174 + }, + { + "epoch": 1.7461895294897283, + "grad_norm": 5.832897663116455, + "learning_rate": 1.8639963585156448e-06, + "loss": 0.0876, + "num_input_tokens_seen": 25804440, + "step": 13175 + }, + { + "epoch": 1.7463220675944333, + "grad_norm": 5.867482662200928, + "learning_rate": 1.8636606486064004e-06, + "loss": 0.0873, + "num_input_tokens_seen": 25806144, + "step": 13176 + }, + { + "epoch": 1.7464546056991384, + "grad_norm": 12.540392875671387, + "learning_rate": 1.8633249509662171e-06, + "loss": 0.28, + "num_input_tokens_seen": 25808000, + "step": 13177 + }, + { + "epoch": 1.7465871438038436, + "grad_norm": 2.272188425064087, + "learning_rate": 1.8629892656015674e-06, + "loss": 0.0169, + "num_input_tokens_seen": 25810016, + "step": 13178 + }, + { + "epoch": 1.7467196819085489, + "grad_norm": 6.704890251159668, + "learning_rate": 1.8626535925189254e-06, + "loss": 0.0627, + "num_input_tokens_seen": 25812464, + "step": 13179 + }, + { + "epoch": 1.746852220013254, + "grad_norm": 4.896420001983643, + "learning_rate": 1.8623179317247613e-06, + "loss": 0.1029, + "num_input_tokens_seen": 25814416, + "step": 13180 + }, + { + "epoch": 1.746984758117959, + "grad_norm": 6.29615592956543, + "learning_rate": 1.861982283225548e-06, + "loss": 0.1936, + "num_input_tokens_seen": 25817056, + "step": 13181 + }, + { + "epoch": 1.747117296222664, + "grad_norm": 0.054206494241952896, + "learning_rate": 1.8616466470277556e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25818648, + "step": 13182 + }, + { + "epoch": 1.747249834327369, + "grad_norm": 0.7271104454994202, + "learning_rate": 1.8613110231378556e-06, + "loss": 0.0051, + "num_input_tokens_seen": 25820040, + "step": 13183 + }, + { + "epoch": 1.747382372432074, + "grad_norm": 0.153843954205513, + "learning_rate": 1.860975411562321e-06, + "loss": 0.001, + "num_input_tokens_seen": 25821496, + "step": 13184 + }, + { + "epoch": 1.7475149105367793, + "grad_norm": 3.7120132446289062, + "learning_rate": 1.8606398123076214e-06, + "loss": 0.0163, + "num_input_tokens_seen": 25823304, + "step": 13185 + }, + { + "epoch": 1.7476474486414846, + "grad_norm": 0.08009041100740433, + "learning_rate": 1.8603042253802265e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25824448, + "step": 13186 + }, + { + "epoch": 1.7477799867461896, + "grad_norm": 4.458845138549805, + "learning_rate": 1.859968650786608e-06, + "loss": 0.1101, + "num_input_tokens_seen": 25826256, + "step": 13187 + }, + { + "epoch": 1.7479125248508947, + "grad_norm": 23.582969665527344, + "learning_rate": 1.8596330885332343e-06, + "loss": 0.1904, + "num_input_tokens_seen": 25828232, + "step": 13188 + }, + { + "epoch": 1.7480450629555997, + "grad_norm": 0.07295103371143341, + "learning_rate": 1.859297538626577e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25829760, + "step": 13189 + }, + { + "epoch": 1.7481776010603047, + "grad_norm": 1.8930844068527222, + "learning_rate": 1.858962001073106e-06, + "loss": 0.0168, + "num_input_tokens_seen": 25831504, + "step": 13190 + }, + { + "epoch": 1.74831013916501, + "grad_norm": 0.02087903395295143, + "learning_rate": 1.8586264758792891e-06, + "loss": 0.0001, + "num_input_tokens_seen": 25832832, + "step": 13191 + }, + { + "epoch": 1.748442677269715, + "grad_norm": 5.503264427185059, + "learning_rate": 1.8582909630515966e-06, + "loss": 0.0901, + "num_input_tokens_seen": 25834648, + "step": 13192 + }, + { + "epoch": 1.7485752153744203, + "grad_norm": 7.643683433532715, + "learning_rate": 1.8579554625964963e-06, + "loss": 0.1621, + "num_input_tokens_seen": 25836880, + "step": 13193 + }, + { + "epoch": 1.7487077534791253, + "grad_norm": 0.032397691160440445, + "learning_rate": 1.8576199745204584e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25839256, + "step": 13194 + }, + { + "epoch": 1.7488402915838304, + "grad_norm": 10.693230628967285, + "learning_rate": 1.8572844988299499e-06, + "loss": 0.0633, + "num_input_tokens_seen": 25841176, + "step": 13195 + }, + { + "epoch": 1.7489728296885354, + "grad_norm": 0.033294517546892166, + "learning_rate": 1.8569490355314406e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25842200, + "step": 13196 + }, + { + "epoch": 1.7491053677932404, + "grad_norm": 2.4439501762390137, + "learning_rate": 1.8566135846313964e-06, + "loss": 0.0182, + "num_input_tokens_seen": 25845208, + "step": 13197 + }, + { + "epoch": 1.7492379058979457, + "grad_norm": 4.2268171310424805, + "learning_rate": 1.8562781461362862e-06, + "loss": 0.0883, + "num_input_tokens_seen": 25847032, + "step": 13198 + }, + { + "epoch": 1.7493704440026507, + "grad_norm": 5.963039875030518, + "learning_rate": 1.8559427200525781e-06, + "loss": 0.0587, + "num_input_tokens_seen": 25849032, + "step": 13199 + }, + { + "epoch": 1.749502982107356, + "grad_norm": 4.655706405639648, + "learning_rate": 1.855607306386739e-06, + "loss": 0.0348, + "num_input_tokens_seen": 25851224, + "step": 13200 + }, + { + "epoch": 1.749635520212061, + "grad_norm": 1.0831652879714966, + "learning_rate": 1.8552719051452351e-06, + "loss": 0.0093, + "num_input_tokens_seen": 25854504, + "step": 13201 + }, + { + "epoch": 1.749768058316766, + "grad_norm": 2.2987921237945557, + "learning_rate": 1.8549365163345337e-06, + "loss": 0.0074, + "num_input_tokens_seen": 25856656, + "step": 13202 + }, + { + "epoch": 1.749900596421471, + "grad_norm": 4.251829624176025, + "learning_rate": 1.8546011399611008e-06, + "loss": 0.0359, + "num_input_tokens_seen": 25859024, + "step": 13203 + }, + { + "epoch": 1.7500331345261761, + "grad_norm": 0.08689743280410767, + "learning_rate": 1.854265776031403e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25860296, + "step": 13204 + }, + { + "epoch": 1.7501656726308814, + "grad_norm": 0.07350675761699677, + "learning_rate": 1.8539304245519074e-06, + "loss": 0.0005, + "num_input_tokens_seen": 25861688, + "step": 13205 + }, + { + "epoch": 1.7502982107355864, + "grad_norm": 8.132402420043945, + "learning_rate": 1.8535950855290782e-06, + "loss": 0.117, + "num_input_tokens_seen": 25864864, + "step": 13206 + }, + { + "epoch": 1.7504307488402917, + "grad_norm": 15.59964656829834, + "learning_rate": 1.8532597589693824e-06, + "loss": 0.2806, + "num_input_tokens_seen": 25866456, + "step": 13207 + }, + { + "epoch": 1.7505632869449967, + "grad_norm": 5.976990222930908, + "learning_rate": 1.8529244448792846e-06, + "loss": 0.0977, + "num_input_tokens_seen": 25868176, + "step": 13208 + }, + { + "epoch": 1.7506958250497018, + "grad_norm": 0.10554125905036926, + "learning_rate": 1.8525891432652487e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25871160, + "step": 13209 + }, + { + "epoch": 1.7508283631544068, + "grad_norm": 0.3990043103694916, + "learning_rate": 1.8522538541337416e-06, + "loss": 0.0039, + "num_input_tokens_seen": 25872864, + "step": 13210 + }, + { + "epoch": 1.7509609012591119, + "grad_norm": 3.1750261783599854, + "learning_rate": 1.8519185774912274e-06, + "loss": 0.0184, + "num_input_tokens_seen": 25874800, + "step": 13211 + }, + { + "epoch": 1.7510934393638171, + "grad_norm": 2.0271036624908447, + "learning_rate": 1.8515833133441693e-06, + "loss": 0.0138, + "num_input_tokens_seen": 25877088, + "step": 13212 + }, + { + "epoch": 1.7512259774685222, + "grad_norm": 3.635862350463867, + "learning_rate": 1.8512480616990331e-06, + "loss": 0.0726, + "num_input_tokens_seen": 25878552, + "step": 13213 + }, + { + "epoch": 1.7513585155732274, + "grad_norm": 6.329824447631836, + "learning_rate": 1.8509128225622809e-06, + "loss": 0.0854, + "num_input_tokens_seen": 25880456, + "step": 13214 + }, + { + "epoch": 1.7514910536779325, + "grad_norm": 0.08290381729602814, + "learning_rate": 1.850577595940378e-06, + "loss": 0.0007, + "num_input_tokens_seen": 25881848, + "step": 13215 + }, + { + "epoch": 1.7516235917826375, + "grad_norm": 4.596584796905518, + "learning_rate": 1.8502423818397866e-06, + "loss": 0.0818, + "num_input_tokens_seen": 25883976, + "step": 13216 + }, + { + "epoch": 1.7517561298873425, + "grad_norm": 0.05735500901937485, + "learning_rate": 1.849907180266971e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25885832, + "step": 13217 + }, + { + "epoch": 1.7518886679920476, + "grad_norm": 7.78150749206543, + "learning_rate": 1.8495719912283927e-06, + "loss": 0.1335, + "num_input_tokens_seen": 25887232, + "step": 13218 + }, + { + "epoch": 1.7520212060967528, + "grad_norm": 3.030229330062866, + "learning_rate": 1.8492368147305146e-06, + "loss": 0.0542, + "num_input_tokens_seen": 25888656, + "step": 13219 + }, + { + "epoch": 1.752153744201458, + "grad_norm": 10.420186042785645, + "learning_rate": 1.8489016507798008e-06, + "loss": 0.1322, + "num_input_tokens_seen": 25890904, + "step": 13220 + }, + { + "epoch": 1.7522862823061631, + "grad_norm": 5.942259311676025, + "learning_rate": 1.8485664993827118e-06, + "loss": 0.0843, + "num_input_tokens_seen": 25892224, + "step": 13221 + }, + { + "epoch": 1.7524188204108682, + "grad_norm": 5.46798038482666, + "learning_rate": 1.848231360545711e-06, + "loss": 0.0505, + "num_input_tokens_seen": 25893960, + "step": 13222 + }, + { + "epoch": 1.7525513585155732, + "grad_norm": 14.25269889831543, + "learning_rate": 1.8478962342752584e-06, + "loss": 0.2394, + "num_input_tokens_seen": 25896312, + "step": 13223 + }, + { + "epoch": 1.7526838966202782, + "grad_norm": 0.0497421957552433, + "learning_rate": 1.8475611205778157e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25898016, + "step": 13224 + }, + { + "epoch": 1.7528164347249833, + "grad_norm": 0.10333182662725449, + "learning_rate": 1.8472260194598452e-06, + "loss": 0.0006, + "num_input_tokens_seen": 25899432, + "step": 13225 + }, + { + "epoch": 1.7529489728296885, + "grad_norm": 18.27739715576172, + "learning_rate": 1.8468909309278077e-06, + "loss": 0.4308, + "num_input_tokens_seen": 25901824, + "step": 13226 + }, + { + "epoch": 1.7530815109343938, + "grad_norm": 4.959158420562744, + "learning_rate": 1.8465558549881634e-06, + "loss": 0.0749, + "num_input_tokens_seen": 25903376, + "step": 13227 + }, + { + "epoch": 1.7532140490390988, + "grad_norm": 8.135969161987305, + "learning_rate": 1.8462207916473734e-06, + "loss": 0.0701, + "num_input_tokens_seen": 25905720, + "step": 13228 + }, + { + "epoch": 1.7533465871438039, + "grad_norm": 10.232457160949707, + "learning_rate": 1.845885740911897e-06, + "loss": 0.1634, + "num_input_tokens_seen": 25908840, + "step": 13229 + }, + { + "epoch": 1.753479125248509, + "grad_norm": 3.797595739364624, + "learning_rate": 1.8455507027881947e-06, + "loss": 0.0386, + "num_input_tokens_seen": 25911160, + "step": 13230 + }, + { + "epoch": 1.753611663353214, + "grad_norm": 0.034186821430921555, + "learning_rate": 1.8452156772827262e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25912192, + "step": 13231 + }, + { + "epoch": 1.7537442014579192, + "grad_norm": 0.04699575528502464, + "learning_rate": 1.8448806644019521e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25913832, + "step": 13232 + }, + { + "epoch": 1.7538767395626242, + "grad_norm": 0.11514517664909363, + "learning_rate": 1.8445456641523301e-06, + "loss": 0.0008, + "num_input_tokens_seen": 25915744, + "step": 13233 + }, + { + "epoch": 1.7540092776673295, + "grad_norm": 8.83983325958252, + "learning_rate": 1.84421067654032e-06, + "loss": 0.1713, + "num_input_tokens_seen": 25917528, + "step": 13234 + }, + { + "epoch": 1.7541418157720345, + "grad_norm": 0.04224582016468048, + "learning_rate": 1.8438757015723799e-06, + "loss": 0.0003, + "num_input_tokens_seen": 25918664, + "step": 13235 + }, + { + "epoch": 1.7542743538767396, + "grad_norm": 5.819526195526123, + "learning_rate": 1.8435407392549693e-06, + "loss": 0.1828, + "num_input_tokens_seen": 25920456, + "step": 13236 + }, + { + "epoch": 1.7544068919814446, + "grad_norm": 0.0651773065328598, + "learning_rate": 1.8432057895945465e-06, + "loss": 0.0004, + "num_input_tokens_seen": 25922968, + "step": 13237 + }, + { + "epoch": 1.7545394300861497, + "grad_norm": 7.067255020141602, + "learning_rate": 1.8428708525975691e-06, + "loss": 0.2533, + "num_input_tokens_seen": 25924688, + "step": 13238 + }, + { + "epoch": 1.754671968190855, + "grad_norm": 17.50310516357422, + "learning_rate": 1.8425359282704947e-06, + "loss": 0.5267, + "num_input_tokens_seen": 25926256, + "step": 13239 + }, + { + "epoch": 1.75480450629556, + "grad_norm": 0.031550925225019455, + "learning_rate": 1.8422010166197808e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25927696, + "step": 13240 + }, + { + "epoch": 1.7549370444002652, + "grad_norm": 0.14289146661758423, + "learning_rate": 1.8418661176518856e-06, + "loss": 0.001, + "num_input_tokens_seen": 25929728, + "step": 13241 + }, + { + "epoch": 1.7550695825049702, + "grad_norm": 5.97039794921875, + "learning_rate": 1.8415312313732654e-06, + "loss": 0.0255, + "num_input_tokens_seen": 25931208, + "step": 13242 + }, + { + "epoch": 1.7552021206096753, + "grad_norm": 11.62657642364502, + "learning_rate": 1.841196357790378e-06, + "loss": 0.3737, + "num_input_tokens_seen": 25933816, + "step": 13243 + }, + { + "epoch": 1.7553346587143803, + "grad_norm": 5.982364177703857, + "learning_rate": 1.8408614969096786e-06, + "loss": 0.1064, + "num_input_tokens_seen": 25935712, + "step": 13244 + }, + { + "epoch": 1.7554671968190854, + "grad_norm": 1.9968152046203613, + "learning_rate": 1.840526648737624e-06, + "loss": 0.0057, + "num_input_tokens_seen": 25937248, + "step": 13245 + }, + { + "epoch": 1.7555997349237906, + "grad_norm": 13.09157943725586, + "learning_rate": 1.8401918132806712e-06, + "loss": 0.1437, + "num_input_tokens_seen": 25940280, + "step": 13246 + }, + { + "epoch": 1.7557322730284957, + "grad_norm": 7.104730129241943, + "learning_rate": 1.8398569905452758e-06, + "loss": 0.1337, + "num_input_tokens_seen": 25942664, + "step": 13247 + }, + { + "epoch": 1.755864811133201, + "grad_norm": 6.378207206726074, + "learning_rate": 1.839522180537892e-06, + "loss": 0.1762, + "num_input_tokens_seen": 25945864, + "step": 13248 + }, + { + "epoch": 1.755997349237906, + "grad_norm": 0.8392379879951477, + "learning_rate": 1.839187383264977e-06, + "loss": 0.0068, + "num_input_tokens_seen": 25947384, + "step": 13249 + }, + { + "epoch": 1.756129887342611, + "grad_norm": 3.1426799297332764, + "learning_rate": 1.838852598732984e-06, + "loss": 0.0446, + "num_input_tokens_seen": 25948784, + "step": 13250 + }, + { + "epoch": 1.756262425447316, + "grad_norm": 9.247245788574219, + "learning_rate": 1.83851782694837e-06, + "loss": 0.1077, + "num_input_tokens_seen": 25950808, + "step": 13251 + }, + { + "epoch": 1.756394963552021, + "grad_norm": 3.5976529121398926, + "learning_rate": 1.8381830679175888e-06, + "loss": 0.08, + "num_input_tokens_seen": 25952800, + "step": 13252 + }, + { + "epoch": 1.7565275016567263, + "grad_norm": 9.186699867248535, + "learning_rate": 1.8378483216470947e-06, + "loss": 0.1164, + "num_input_tokens_seen": 25954840, + "step": 13253 + }, + { + "epoch": 1.7566600397614314, + "grad_norm": 1.1243354082107544, + "learning_rate": 1.837513588143341e-06, + "loss": 0.0089, + "num_input_tokens_seen": 25957080, + "step": 13254 + }, + { + "epoch": 1.7567925778661366, + "grad_norm": 3.6414906978607178, + "learning_rate": 1.837178867412782e-06, + "loss": 0.1142, + "num_input_tokens_seen": 25959032, + "step": 13255 + }, + { + "epoch": 1.7569251159708417, + "grad_norm": 8.727334022521973, + "learning_rate": 1.8368441594618728e-06, + "loss": 0.1718, + "num_input_tokens_seen": 25961208, + "step": 13256 + }, + { + "epoch": 1.7570576540755467, + "grad_norm": 10.041175842285156, + "learning_rate": 1.836509464297065e-06, + "loss": 0.3581, + "num_input_tokens_seen": 25963264, + "step": 13257 + }, + { + "epoch": 1.7571901921802517, + "grad_norm": 6.096699237823486, + "learning_rate": 1.8361747819248132e-06, + "loss": 0.1799, + "num_input_tokens_seen": 25964760, + "step": 13258 + }, + { + "epoch": 1.7573227302849568, + "grad_norm": 10.178114891052246, + "learning_rate": 1.8358401123515687e-06, + "loss": 0.1833, + "num_input_tokens_seen": 25966856, + "step": 13259 + }, + { + "epoch": 1.757455268389662, + "grad_norm": 8.405535697937012, + "learning_rate": 1.835505455583786e-06, + "loss": 0.2639, + "num_input_tokens_seen": 25969736, + "step": 13260 + }, + { + "epoch": 1.757587806494367, + "grad_norm": 0.2606665790081024, + "learning_rate": 1.835170811627915e-06, + "loss": 0.0017, + "num_input_tokens_seen": 25971208, + "step": 13261 + }, + { + "epoch": 1.7577203445990723, + "grad_norm": 11.175729751586914, + "learning_rate": 1.8348361804904108e-06, + "loss": 0.1123, + "num_input_tokens_seen": 25972960, + "step": 13262 + }, + { + "epoch": 1.7578528827037774, + "grad_norm": 3.448608636856079, + "learning_rate": 1.8345015621777229e-06, + "loss": 0.1087, + "num_input_tokens_seen": 25974592, + "step": 13263 + }, + { + "epoch": 1.7579854208084824, + "grad_norm": 11.325621604919434, + "learning_rate": 1.8341669566963049e-06, + "loss": 0.358, + "num_input_tokens_seen": 25976800, + "step": 13264 + }, + { + "epoch": 1.7581179589131875, + "grad_norm": 2.2079126834869385, + "learning_rate": 1.8338323640526067e-06, + "loss": 0.0143, + "num_input_tokens_seen": 25978360, + "step": 13265 + }, + { + "epoch": 1.7582504970178925, + "grad_norm": 0.7914609313011169, + "learning_rate": 1.8334977842530796e-06, + "loss": 0.0049, + "num_input_tokens_seen": 25980064, + "step": 13266 + }, + { + "epoch": 1.7583830351225977, + "grad_norm": 6.6813530921936035, + "learning_rate": 1.833163217304176e-06, + "loss": 0.0539, + "num_input_tokens_seen": 25981752, + "step": 13267 + }, + { + "epoch": 1.758515573227303, + "grad_norm": 1.5735331773757935, + "learning_rate": 1.8328286632123456e-06, + "loss": 0.0162, + "num_input_tokens_seen": 25983608, + "step": 13268 + }, + { + "epoch": 1.758648111332008, + "grad_norm": 10.642547607421875, + "learning_rate": 1.8324941219840386e-06, + "loss": 0.0702, + "num_input_tokens_seen": 25985752, + "step": 13269 + }, + { + "epoch": 1.758780649436713, + "grad_norm": 0.03585246950387955, + "learning_rate": 1.8321595936257056e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25987496, + "step": 13270 + }, + { + "epoch": 1.7589131875414181, + "grad_norm": 4.550493240356445, + "learning_rate": 1.8318250781437954e-06, + "loss": 0.0845, + "num_input_tokens_seen": 25989600, + "step": 13271 + }, + { + "epoch": 1.7590457256461232, + "grad_norm": 0.033398739993572235, + "learning_rate": 1.8314905755447593e-06, + "loss": 0.0002, + "num_input_tokens_seen": 25991584, + "step": 13272 + }, + { + "epoch": 1.7591782637508282, + "grad_norm": 0.43674394488334656, + "learning_rate": 1.8311560858350464e-06, + "loss": 0.0031, + "num_input_tokens_seen": 25994128, + "step": 13273 + }, + { + "epoch": 1.7593108018555335, + "grad_norm": 3.791036367416382, + "learning_rate": 1.8308216090211051e-06, + "loss": 0.0377, + "num_input_tokens_seen": 25996496, + "step": 13274 + }, + { + "epoch": 1.7594433399602387, + "grad_norm": 2.650909185409546, + "learning_rate": 1.8304871451093854e-06, + "loss": 0.0178, + "num_input_tokens_seen": 25999168, + "step": 13275 + }, + { + "epoch": 1.7595758780649438, + "grad_norm": 9.707881927490234, + "learning_rate": 1.8301526941063342e-06, + "loss": 0.2642, + "num_input_tokens_seen": 26001224, + "step": 13276 + }, + { + "epoch": 1.7597084161696488, + "grad_norm": 4.185418128967285, + "learning_rate": 1.8298182560184024e-06, + "loss": 0.0634, + "num_input_tokens_seen": 26002856, + "step": 13277 + }, + { + "epoch": 1.7598409542743538, + "grad_norm": 0.6371215581893921, + "learning_rate": 1.8294838308520364e-06, + "loss": 0.0051, + "num_input_tokens_seen": 26004864, + "step": 13278 + }, + { + "epoch": 1.7599734923790589, + "grad_norm": 0.11040137708187103, + "learning_rate": 1.8291494186136854e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26007696, + "step": 13279 + }, + { + "epoch": 1.7601060304837641, + "grad_norm": 5.452227592468262, + "learning_rate": 1.8288150193097957e-06, + "loss": 0.0456, + "num_input_tokens_seen": 26009728, + "step": 13280 + }, + { + "epoch": 1.7602385685884692, + "grad_norm": 0.08406528830528259, + "learning_rate": 1.8284806329468147e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26011696, + "step": 13281 + }, + { + "epoch": 1.7603711066931744, + "grad_norm": 9.989354133605957, + "learning_rate": 1.8281462595311916e-06, + "loss": 0.2924, + "num_input_tokens_seen": 26014136, + "step": 13282 + }, + { + "epoch": 1.7605036447978795, + "grad_norm": 3.976863145828247, + "learning_rate": 1.8278118990693715e-06, + "loss": 0.133, + "num_input_tokens_seen": 26016520, + "step": 13283 + }, + { + "epoch": 1.7606361829025845, + "grad_norm": 6.685466766357422, + "learning_rate": 1.8274775515678025e-06, + "loss": 0.1611, + "num_input_tokens_seen": 26018384, + "step": 13284 + }, + { + "epoch": 1.7607687210072895, + "grad_norm": 7.333414077758789, + "learning_rate": 1.8271432170329301e-06, + "loss": 0.1233, + "num_input_tokens_seen": 26020448, + "step": 13285 + }, + { + "epoch": 1.7609012591119946, + "grad_norm": 0.15389417111873627, + "learning_rate": 1.8268088954712002e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26021984, + "step": 13286 + }, + { + "epoch": 1.7610337972166998, + "grad_norm": 0.13992318511009216, + "learning_rate": 1.8264745868890588e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26024240, + "step": 13287 + }, + { + "epoch": 1.7611663353214049, + "grad_norm": 6.342142105102539, + "learning_rate": 1.8261402912929526e-06, + "loss": 0.0304, + "num_input_tokens_seen": 26025840, + "step": 13288 + }, + { + "epoch": 1.7612988734261101, + "grad_norm": 4.117879390716553, + "learning_rate": 1.8258060086893264e-06, + "loss": 0.0647, + "num_input_tokens_seen": 26028048, + "step": 13289 + }, + { + "epoch": 1.7614314115308152, + "grad_norm": 13.412225723266602, + "learning_rate": 1.8254717390846256e-06, + "loss": 0.1972, + "num_input_tokens_seen": 26029712, + "step": 13290 + }, + { + "epoch": 1.7615639496355202, + "grad_norm": 0.11279463022947311, + "learning_rate": 1.8251374824852952e-06, + "loss": 0.0014, + "num_input_tokens_seen": 26031128, + "step": 13291 + }, + { + "epoch": 1.7616964877402252, + "grad_norm": 6.854719161987305, + "learning_rate": 1.8248032388977789e-06, + "loss": 0.0356, + "num_input_tokens_seen": 26032952, + "step": 13292 + }, + { + "epoch": 1.7618290258449303, + "grad_norm": 7.266012668609619, + "learning_rate": 1.8244690083285222e-06, + "loss": 0.1225, + "num_input_tokens_seen": 26035016, + "step": 13293 + }, + { + "epoch": 1.7619615639496355, + "grad_norm": 3.237112045288086, + "learning_rate": 1.8241347907839693e-06, + "loss": 0.0533, + "num_input_tokens_seen": 26037192, + "step": 13294 + }, + { + "epoch": 1.7620941020543406, + "grad_norm": 0.10018216073513031, + "learning_rate": 1.8238005862705637e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26038728, + "step": 13295 + }, + { + "epoch": 1.7622266401590458, + "grad_norm": 0.10982474684715271, + "learning_rate": 1.8234663947947495e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26040496, + "step": 13296 + }, + { + "epoch": 1.7623591782637509, + "grad_norm": 6.79662561416626, + "learning_rate": 1.8231322163629694e-06, + "loss": 0.1501, + "num_input_tokens_seen": 26042608, + "step": 13297 + }, + { + "epoch": 1.762491716368456, + "grad_norm": 0.019663462415337563, + "learning_rate": 1.8227980509816672e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26043832, + "step": 13298 + }, + { + "epoch": 1.762624254473161, + "grad_norm": 4.207809925079346, + "learning_rate": 1.8224638986572866e-06, + "loss": 0.0248, + "num_input_tokens_seen": 26046776, + "step": 13299 + }, + { + "epoch": 1.762756792577866, + "grad_norm": 6.082076549530029, + "learning_rate": 1.8221297593962693e-06, + "loss": 0.0332, + "num_input_tokens_seen": 26048992, + "step": 13300 + }, + { + "epoch": 1.7628893306825713, + "grad_norm": 5.609279632568359, + "learning_rate": 1.8217956332050574e-06, + "loss": 0.0613, + "num_input_tokens_seen": 26050976, + "step": 13301 + }, + { + "epoch": 1.7630218687872763, + "grad_norm": 0.029026927426457405, + "learning_rate": 1.8214615200900928e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26052616, + "step": 13302 + }, + { + "epoch": 1.7631544068919816, + "grad_norm": 8.886504173278809, + "learning_rate": 1.8211274200578195e-06, + "loss": 0.164, + "num_input_tokens_seen": 26054576, + "step": 13303 + }, + { + "epoch": 1.7632869449966866, + "grad_norm": 5.733160972595215, + "learning_rate": 1.820793333114677e-06, + "loss": 0.0919, + "num_input_tokens_seen": 26057008, + "step": 13304 + }, + { + "epoch": 1.7634194831013916, + "grad_norm": 3.641957998275757, + "learning_rate": 1.8204592592671086e-06, + "loss": 0.0445, + "num_input_tokens_seen": 26058720, + "step": 13305 + }, + { + "epoch": 1.7635520212060967, + "grad_norm": 12.187167167663574, + "learning_rate": 1.8201251985215543e-06, + "loss": 0.3685, + "num_input_tokens_seen": 26060536, + "step": 13306 + }, + { + "epoch": 1.7636845593108017, + "grad_norm": 2.0413999557495117, + "learning_rate": 1.819791150884454e-06, + "loss": 0.0231, + "num_input_tokens_seen": 26062424, + "step": 13307 + }, + { + "epoch": 1.763817097415507, + "grad_norm": 0.06175190210342407, + "learning_rate": 1.8194571163622501e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26064480, + "step": 13308 + }, + { + "epoch": 1.7639496355202122, + "grad_norm": 9.745804786682129, + "learning_rate": 1.819123094961383e-06, + "loss": 0.2713, + "num_input_tokens_seen": 26066920, + "step": 13309 + }, + { + "epoch": 1.7640821736249173, + "grad_norm": 5.513734340667725, + "learning_rate": 1.818789086688292e-06, + "loss": 0.0445, + "num_input_tokens_seen": 26069264, + "step": 13310 + }, + { + "epoch": 1.7642147117296223, + "grad_norm": 9.865388870239258, + "learning_rate": 1.8184550915494178e-06, + "loss": 0.1193, + "num_input_tokens_seen": 26072400, + "step": 13311 + }, + { + "epoch": 1.7643472498343273, + "grad_norm": 0.043767258524894714, + "learning_rate": 1.8181211095511987e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26073728, + "step": 13312 + }, + { + "epoch": 1.7644797879390324, + "grad_norm": 7.026047706604004, + "learning_rate": 1.8177871407000752e-06, + "loss": 0.1611, + "num_input_tokens_seen": 26075376, + "step": 13313 + }, + { + "epoch": 1.7646123260437374, + "grad_norm": 6.628903865814209, + "learning_rate": 1.8174531850024872e-06, + "loss": 0.1508, + "num_input_tokens_seen": 26077440, + "step": 13314 + }, + { + "epoch": 1.7647448641484427, + "grad_norm": 8.901960372924805, + "learning_rate": 1.8171192424648723e-06, + "loss": 0.1671, + "num_input_tokens_seen": 26078960, + "step": 13315 + }, + { + "epoch": 1.764877402253148, + "grad_norm": 4.426534652709961, + "learning_rate": 1.816785313093669e-06, + "loss": 0.129, + "num_input_tokens_seen": 26080512, + "step": 13316 + }, + { + "epoch": 1.765009940357853, + "grad_norm": 4.744714736938477, + "learning_rate": 1.8164513968953168e-06, + "loss": 0.0673, + "num_input_tokens_seen": 26081912, + "step": 13317 + }, + { + "epoch": 1.765142478462558, + "grad_norm": 8.981192588806152, + "learning_rate": 1.816117493876252e-06, + "loss": 0.2466, + "num_input_tokens_seen": 26084656, + "step": 13318 + }, + { + "epoch": 1.765275016567263, + "grad_norm": 0.03272116929292679, + "learning_rate": 1.8157836040429148e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26085960, + "step": 13319 + }, + { + "epoch": 1.765407554671968, + "grad_norm": 1.422000527381897, + "learning_rate": 1.8154497274017419e-06, + "loss": 0.0131, + "num_input_tokens_seen": 26088224, + "step": 13320 + }, + { + "epoch": 1.7655400927766733, + "grad_norm": 2.6446731090545654, + "learning_rate": 1.8151158639591704e-06, + "loss": 0.0217, + "num_input_tokens_seen": 26090296, + "step": 13321 + }, + { + "epoch": 1.7656726308813784, + "grad_norm": 0.13455215096473694, + "learning_rate": 1.8147820137216372e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26092144, + "step": 13322 + }, + { + "epoch": 1.7658051689860836, + "grad_norm": 0.1676560491323471, + "learning_rate": 1.8144481766955786e-06, + "loss": 0.0011, + "num_input_tokens_seen": 26094824, + "step": 13323 + }, + { + "epoch": 1.7659377070907887, + "grad_norm": 0.08842529356479645, + "learning_rate": 1.8141143528874333e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26096760, + "step": 13324 + }, + { + "epoch": 1.7660702451954937, + "grad_norm": 0.8473754525184631, + "learning_rate": 1.8137805423036362e-06, + "loss": 0.0069, + "num_input_tokens_seen": 26098376, + "step": 13325 + }, + { + "epoch": 1.7662027833001988, + "grad_norm": 9.894218444824219, + "learning_rate": 1.8134467449506238e-06, + "loss": 0.1822, + "num_input_tokens_seen": 26100976, + "step": 13326 + }, + { + "epoch": 1.7663353214049038, + "grad_norm": 2.4969701766967773, + "learning_rate": 1.8131129608348313e-06, + "loss": 0.0435, + "num_input_tokens_seen": 26103296, + "step": 13327 + }, + { + "epoch": 1.766467859509609, + "grad_norm": 12.712018966674805, + "learning_rate": 1.8127791899626945e-06, + "loss": 0.0785, + "num_input_tokens_seen": 26105696, + "step": 13328 + }, + { + "epoch": 1.766600397614314, + "grad_norm": 6.921119213104248, + "learning_rate": 1.8124454323406498e-06, + "loss": 0.2801, + "num_input_tokens_seen": 26107520, + "step": 13329 + }, + { + "epoch": 1.7667329357190193, + "grad_norm": 0.08384755253791809, + "learning_rate": 1.8121116879751318e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26109392, + "step": 13330 + }, + { + "epoch": 1.7668654738237244, + "grad_norm": 8.647369384765625, + "learning_rate": 1.8117779568725744e-06, + "loss": 0.1132, + "num_input_tokens_seen": 26111032, + "step": 13331 + }, + { + "epoch": 1.7669980119284294, + "grad_norm": 7.249828815460205, + "learning_rate": 1.8114442390394133e-06, + "loss": 0.102, + "num_input_tokens_seen": 26112808, + "step": 13332 + }, + { + "epoch": 1.7671305500331345, + "grad_norm": 11.361310958862305, + "learning_rate": 1.811110534482081e-06, + "loss": 0.2261, + "num_input_tokens_seen": 26114904, + "step": 13333 + }, + { + "epoch": 1.7672630881378395, + "grad_norm": 6.145482540130615, + "learning_rate": 1.8107768432070132e-06, + "loss": 0.1693, + "num_input_tokens_seen": 26117480, + "step": 13334 + }, + { + "epoch": 1.7673956262425448, + "grad_norm": 0.0804702639579773, + "learning_rate": 1.8104431652206445e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26119056, + "step": 13335 + }, + { + "epoch": 1.7675281643472498, + "grad_norm": 5.249117851257324, + "learning_rate": 1.8101095005294062e-06, + "loss": 0.1283, + "num_input_tokens_seen": 26121800, + "step": 13336 + }, + { + "epoch": 1.767660702451955, + "grad_norm": 10.45899772644043, + "learning_rate": 1.8097758491397333e-06, + "loss": 0.0526, + "num_input_tokens_seen": 26123496, + "step": 13337 + }, + { + "epoch": 1.76779324055666, + "grad_norm": 4.932031631469727, + "learning_rate": 1.8094422110580572e-06, + "loss": 0.0606, + "num_input_tokens_seen": 26125240, + "step": 13338 + }, + { + "epoch": 1.7679257786613651, + "grad_norm": 23.031370162963867, + "learning_rate": 1.8091085862908129e-06, + "loss": 0.5152, + "num_input_tokens_seen": 26127216, + "step": 13339 + }, + { + "epoch": 1.7680583167660702, + "grad_norm": 14.864603996276855, + "learning_rate": 1.808774974844431e-06, + "loss": 0.147, + "num_input_tokens_seen": 26128664, + "step": 13340 + }, + { + "epoch": 1.7681908548707752, + "grad_norm": 0.20994803309440613, + "learning_rate": 1.808441376725345e-06, + "loss": 0.0014, + "num_input_tokens_seen": 26131368, + "step": 13341 + }, + { + "epoch": 1.7683233929754805, + "grad_norm": 7.267364978790283, + "learning_rate": 1.8081077919399856e-06, + "loss": 0.1685, + "num_input_tokens_seen": 26132968, + "step": 13342 + }, + { + "epoch": 1.7684559310801855, + "grad_norm": 6.2768025398254395, + "learning_rate": 1.807774220494786e-06, + "loss": 0.1362, + "num_input_tokens_seen": 26135368, + "step": 13343 + }, + { + "epoch": 1.7685884691848908, + "grad_norm": 0.21776196360588074, + "learning_rate": 1.807440662396176e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26136968, + "step": 13344 + }, + { + "epoch": 1.7687210072895958, + "grad_norm": 13.371339797973633, + "learning_rate": 1.8071071176505885e-06, + "loss": 0.2396, + "num_input_tokens_seen": 26139048, + "step": 13345 + }, + { + "epoch": 1.7688535453943008, + "grad_norm": 0.07095903903245926, + "learning_rate": 1.8067735862644538e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26140208, + "step": 13346 + }, + { + "epoch": 1.7689860834990059, + "grad_norm": 2.3926947116851807, + "learning_rate": 1.8064400682442026e-06, + "loss": 0.0162, + "num_input_tokens_seen": 26141832, + "step": 13347 + }, + { + "epoch": 1.769118621603711, + "grad_norm": 11.18416976928711, + "learning_rate": 1.806106563596265e-06, + "loss": 0.1153, + "num_input_tokens_seen": 26144008, + "step": 13348 + }, + { + "epoch": 1.7692511597084162, + "grad_norm": 0.2509409487247467, + "learning_rate": 1.805773072327071e-06, + "loss": 0.0023, + "num_input_tokens_seen": 26145536, + "step": 13349 + }, + { + "epoch": 1.7693836978131214, + "grad_norm": 0.05051880329847336, + "learning_rate": 1.8054395944430522e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26147216, + "step": 13350 + }, + { + "epoch": 1.7695162359178265, + "grad_norm": 11.642457008361816, + "learning_rate": 1.8051061299506367e-06, + "loss": 0.1048, + "num_input_tokens_seen": 26148696, + "step": 13351 + }, + { + "epoch": 1.7696487740225315, + "grad_norm": 5.685125350952148, + "learning_rate": 1.8047726788562547e-06, + "loss": 0.1111, + "num_input_tokens_seen": 26150272, + "step": 13352 + }, + { + "epoch": 1.7697813121272365, + "grad_norm": 0.08838338404893875, + "learning_rate": 1.8044392411663352e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26152208, + "step": 13353 + }, + { + "epoch": 1.7699138502319416, + "grad_norm": 10.367325782775879, + "learning_rate": 1.804105816887306e-06, + "loss": 0.159, + "num_input_tokens_seen": 26153952, + "step": 13354 + }, + { + "epoch": 1.7700463883366466, + "grad_norm": 9.181132316589355, + "learning_rate": 1.8037724060255974e-06, + "loss": 0.2002, + "num_input_tokens_seen": 26156168, + "step": 13355 + }, + { + "epoch": 1.7701789264413519, + "grad_norm": 0.7446281909942627, + "learning_rate": 1.8034390085876374e-06, + "loss": 0.0051, + "num_input_tokens_seen": 26158112, + "step": 13356 + }, + { + "epoch": 1.7703114645460571, + "grad_norm": 3.625669240951538, + "learning_rate": 1.8031056245798534e-06, + "loss": 0.0501, + "num_input_tokens_seen": 26159800, + "step": 13357 + }, + { + "epoch": 1.7704440026507622, + "grad_norm": 6.587719440460205, + "learning_rate": 1.802772254008674e-06, + "loss": 0.1169, + "num_input_tokens_seen": 26162200, + "step": 13358 + }, + { + "epoch": 1.7705765407554672, + "grad_norm": 8.141780853271484, + "learning_rate": 1.8024388968805256e-06, + "loss": 0.2387, + "num_input_tokens_seen": 26164584, + "step": 13359 + }, + { + "epoch": 1.7707090788601723, + "grad_norm": 0.7558437585830688, + "learning_rate": 1.8021055532018378e-06, + "loss": 0.0027, + "num_input_tokens_seen": 26165920, + "step": 13360 + }, + { + "epoch": 1.7708416169648773, + "grad_norm": 7.009064674377441, + "learning_rate": 1.8017722229790357e-06, + "loss": 0.0551, + "num_input_tokens_seen": 26168640, + "step": 13361 + }, + { + "epoch": 1.7709741550695826, + "grad_norm": 11.312932968139648, + "learning_rate": 1.8014389062185471e-06, + "loss": 0.2057, + "num_input_tokens_seen": 26170904, + "step": 13362 + }, + { + "epoch": 1.7711066931742876, + "grad_norm": 8.712352752685547, + "learning_rate": 1.8011056029267982e-06, + "loss": 0.1786, + "num_input_tokens_seen": 26173232, + "step": 13363 + }, + { + "epoch": 1.7712392312789929, + "grad_norm": 1.4643484354019165, + "learning_rate": 1.8007723131102145e-06, + "loss": 0.0031, + "num_input_tokens_seen": 26175232, + "step": 13364 + }, + { + "epoch": 1.771371769383698, + "grad_norm": 5.197396278381348, + "learning_rate": 1.8004390367752246e-06, + "loss": 0.1762, + "num_input_tokens_seen": 26176536, + "step": 13365 + }, + { + "epoch": 1.771504307488403, + "grad_norm": 5.54130220413208, + "learning_rate": 1.8001057739282516e-06, + "loss": 0.0538, + "num_input_tokens_seen": 26177944, + "step": 13366 + }, + { + "epoch": 1.771636845593108, + "grad_norm": 2.771286725997925, + "learning_rate": 1.7997725245757228e-06, + "loss": 0.0386, + "num_input_tokens_seen": 26180376, + "step": 13367 + }, + { + "epoch": 1.771769383697813, + "grad_norm": 2.1708176136016846, + "learning_rate": 1.7994392887240627e-06, + "loss": 0.0346, + "num_input_tokens_seen": 26182280, + "step": 13368 + }, + { + "epoch": 1.7719019218025183, + "grad_norm": 8.870991706848145, + "learning_rate": 1.7991060663796955e-06, + "loss": 0.1807, + "num_input_tokens_seen": 26184008, + "step": 13369 + }, + { + "epoch": 1.7720344599072233, + "grad_norm": 0.03824019432067871, + "learning_rate": 1.7987728575490473e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26185960, + "step": 13370 + }, + { + "epoch": 1.7721669980119286, + "grad_norm": 0.05623386800289154, + "learning_rate": 1.7984396622385428e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26187536, + "step": 13371 + }, + { + "epoch": 1.7722995361166336, + "grad_norm": 3.9962210655212402, + "learning_rate": 1.7981064804546051e-06, + "loss": 0.0338, + "num_input_tokens_seen": 26188712, + "step": 13372 + }, + { + "epoch": 1.7724320742213386, + "grad_norm": 1.25719153881073, + "learning_rate": 1.7977733122036588e-06, + "loss": 0.022, + "num_input_tokens_seen": 26191064, + "step": 13373 + }, + { + "epoch": 1.7725646123260437, + "grad_norm": 3.2366583347320557, + "learning_rate": 1.797440157492128e-06, + "loss": 0.0264, + "num_input_tokens_seen": 26193072, + "step": 13374 + }, + { + "epoch": 1.7726971504307487, + "grad_norm": 0.09606379270553589, + "learning_rate": 1.7971070163264342e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26194640, + "step": 13375 + }, + { + "epoch": 1.772829688535454, + "grad_norm": 0.278709352016449, + "learning_rate": 1.7967738887130027e-06, + "loss": 0.0021, + "num_input_tokens_seen": 26196248, + "step": 13376 + }, + { + "epoch": 1.772962226640159, + "grad_norm": 16.020023345947266, + "learning_rate": 1.7964407746582564e-06, + "loss": 0.3367, + "num_input_tokens_seen": 26198400, + "step": 13377 + }, + { + "epoch": 1.7730947647448643, + "grad_norm": 17.73349952697754, + "learning_rate": 1.7961076741686167e-06, + "loss": 0.328, + "num_input_tokens_seen": 26200416, + "step": 13378 + }, + { + "epoch": 1.7732273028495693, + "grad_norm": 9.19074821472168, + "learning_rate": 1.7957745872505073e-06, + "loss": 0.1946, + "num_input_tokens_seen": 26201848, + "step": 13379 + }, + { + "epoch": 1.7733598409542743, + "grad_norm": 6.2438645362854, + "learning_rate": 1.7954415139103482e-06, + "loss": 0.1587, + "num_input_tokens_seen": 26204504, + "step": 13380 + }, + { + "epoch": 1.7734923790589794, + "grad_norm": 0.054031115025281906, + "learning_rate": 1.7951084541545635e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26206032, + "step": 13381 + }, + { + "epoch": 1.7736249171636844, + "grad_norm": 5.091292858123779, + "learning_rate": 1.7947754079895746e-06, + "loss": 0.0649, + "num_input_tokens_seen": 26208136, + "step": 13382 + }, + { + "epoch": 1.7737574552683897, + "grad_norm": 2.5021262168884277, + "learning_rate": 1.7944423754218027e-06, + "loss": 0.0196, + "num_input_tokens_seen": 26209288, + "step": 13383 + }, + { + "epoch": 1.7738899933730947, + "grad_norm": 3.8201444149017334, + "learning_rate": 1.7941093564576675e-06, + "loss": 0.1095, + "num_input_tokens_seen": 26211056, + "step": 13384 + }, + { + "epoch": 1.7740225314778, + "grad_norm": 8.680951118469238, + "learning_rate": 1.7937763511035904e-06, + "loss": 0.2078, + "num_input_tokens_seen": 26213440, + "step": 13385 + }, + { + "epoch": 1.774155069582505, + "grad_norm": 5.585438251495361, + "learning_rate": 1.793443359365994e-06, + "loss": 0.0488, + "num_input_tokens_seen": 26214968, + "step": 13386 + }, + { + "epoch": 1.77428760768721, + "grad_norm": 4.130827903747559, + "learning_rate": 1.7931103812512961e-06, + "loss": 0.0409, + "num_input_tokens_seen": 26217280, + "step": 13387 + }, + { + "epoch": 1.774420145791915, + "grad_norm": 0.0676233321428299, + "learning_rate": 1.7927774167659184e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26219144, + "step": 13388 + }, + { + "epoch": 1.7745526838966201, + "grad_norm": 2.69486927986145, + "learning_rate": 1.7924444659162794e-06, + "loss": 0.0381, + "num_input_tokens_seen": 26220576, + "step": 13389 + }, + { + "epoch": 1.7746852220013254, + "grad_norm": 0.058274440467357635, + "learning_rate": 1.7921115287087987e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26221680, + "step": 13390 + }, + { + "epoch": 1.7748177601060304, + "grad_norm": 1.6165335178375244, + "learning_rate": 1.791778605149897e-06, + "loss": 0.0197, + "num_input_tokens_seen": 26223264, + "step": 13391 + }, + { + "epoch": 1.7749502982107357, + "grad_norm": 0.11474625021219254, + "learning_rate": 1.7914456952459925e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26224720, + "step": 13392 + }, + { + "epoch": 1.7750828363154407, + "grad_norm": 10.287863731384277, + "learning_rate": 1.7911127990035032e-06, + "loss": 0.2253, + "num_input_tokens_seen": 26227888, + "step": 13393 + }, + { + "epoch": 1.7752153744201458, + "grad_norm": 0.13895466923713684, + "learning_rate": 1.7907799164288488e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26229400, + "step": 13394 + }, + { + "epoch": 1.7753479125248508, + "grad_norm": 13.10749340057373, + "learning_rate": 1.7904470475284458e-06, + "loss": 0.0616, + "num_input_tokens_seen": 26231744, + "step": 13395 + }, + { + "epoch": 1.7754804506295558, + "grad_norm": 1.2784216403961182, + "learning_rate": 1.790114192308714e-06, + "loss": 0.0084, + "num_input_tokens_seen": 26233288, + "step": 13396 + }, + { + "epoch": 1.775612988734261, + "grad_norm": 7.149410247802734, + "learning_rate": 1.7897813507760703e-06, + "loss": 0.1859, + "num_input_tokens_seen": 26235072, + "step": 13397 + }, + { + "epoch": 1.7757455268389664, + "grad_norm": 2.749980926513672, + "learning_rate": 1.7894485229369324e-06, + "loss": 0.0439, + "num_input_tokens_seen": 26237280, + "step": 13398 + }, + { + "epoch": 1.7758780649436714, + "grad_norm": 14.785832405090332, + "learning_rate": 1.7891157087977167e-06, + "loss": 0.1956, + "num_input_tokens_seen": 26239000, + "step": 13399 + }, + { + "epoch": 1.7760106030483764, + "grad_norm": 6.9281768798828125, + "learning_rate": 1.7887829083648412e-06, + "loss": 0.1365, + "num_input_tokens_seen": 26240544, + "step": 13400 + }, + { + "epoch": 1.7761431411530815, + "grad_norm": 4.815896034240723, + "learning_rate": 1.7884501216447203e-06, + "loss": 0.0491, + "num_input_tokens_seen": 26242096, + "step": 13401 + }, + { + "epoch": 1.7762756792577865, + "grad_norm": 0.03162899985909462, + "learning_rate": 1.7881173486437727e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26243392, + "step": 13402 + }, + { + "epoch": 1.7764082173624918, + "grad_norm": 0.020663641393184662, + "learning_rate": 1.7877845893684142e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26245264, + "step": 13403 + }, + { + "epoch": 1.7765407554671968, + "grad_norm": 0.09768334776163101, + "learning_rate": 1.7874518438250598e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26246472, + "step": 13404 + }, + { + "epoch": 1.776673293571902, + "grad_norm": 5.173131465911865, + "learning_rate": 1.7871191120201258e-06, + "loss": 0.2027, + "num_input_tokens_seen": 26248504, + "step": 13405 + }, + { + "epoch": 1.776805831676607, + "grad_norm": 5.359694957733154, + "learning_rate": 1.7867863939600264e-06, + "loss": 0.116, + "num_input_tokens_seen": 26250160, + "step": 13406 + }, + { + "epoch": 1.7769383697813121, + "grad_norm": 12.673229217529297, + "learning_rate": 1.786453689651178e-06, + "loss": 0.1645, + "num_input_tokens_seen": 26252048, + "step": 13407 + }, + { + "epoch": 1.7770709078860172, + "grad_norm": 1.9817533493041992, + "learning_rate": 1.7861209990999945e-06, + "loss": 0.0183, + "num_input_tokens_seen": 26254136, + "step": 13408 + }, + { + "epoch": 1.7772034459907222, + "grad_norm": 4.115328311920166, + "learning_rate": 1.7857883223128907e-06, + "loss": 0.0867, + "num_input_tokens_seen": 26256184, + "step": 13409 + }, + { + "epoch": 1.7773359840954275, + "grad_norm": 2.607085943222046, + "learning_rate": 1.7854556592962808e-06, + "loss": 0.009, + "num_input_tokens_seen": 26258104, + "step": 13410 + }, + { + "epoch": 1.7774685222001325, + "grad_norm": 4.658054351806641, + "learning_rate": 1.7851230100565775e-06, + "loss": 0.0533, + "num_input_tokens_seen": 26260872, + "step": 13411 + }, + { + "epoch": 1.7776010603048378, + "grad_norm": 0.08323761075735092, + "learning_rate": 1.7847903746001975e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26263280, + "step": 13412 + }, + { + "epoch": 1.7777335984095428, + "grad_norm": 0.019861726090312004, + "learning_rate": 1.7844577529335522e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26265576, + "step": 13413 + }, + { + "epoch": 1.7778661365142479, + "grad_norm": 15.19128704071045, + "learning_rate": 1.7841251450630542e-06, + "loss": 0.3136, + "num_input_tokens_seen": 26267568, + "step": 13414 + }, + { + "epoch": 1.777998674618953, + "grad_norm": 6.320358753204346, + "learning_rate": 1.783792550995118e-06, + "loss": 0.1024, + "num_input_tokens_seen": 26269344, + "step": 13415 + }, + { + "epoch": 1.778131212723658, + "grad_norm": 6.339293956756592, + "learning_rate": 1.7834599707361546e-06, + "loss": 0.1564, + "num_input_tokens_seen": 26271072, + "step": 13416 + }, + { + "epoch": 1.7782637508283632, + "grad_norm": 0.14896027743816376, + "learning_rate": 1.783127404292578e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26272920, + "step": 13417 + }, + { + "epoch": 1.7783962889330682, + "grad_norm": 9.629888534545898, + "learning_rate": 1.7827948516707997e-06, + "loss": 0.3419, + "num_input_tokens_seen": 26275072, + "step": 13418 + }, + { + "epoch": 1.7785288270377735, + "grad_norm": 8.338888168334961, + "learning_rate": 1.782462312877231e-06, + "loss": 0.1074, + "num_input_tokens_seen": 26276800, + "step": 13419 + }, + { + "epoch": 1.7786613651424785, + "grad_norm": 7.826952934265137, + "learning_rate": 1.7821297879182845e-06, + "loss": 0.1438, + "num_input_tokens_seen": 26279448, + "step": 13420 + }, + { + "epoch": 1.7787939032471836, + "grad_norm": 0.3374713957309723, + "learning_rate": 1.7817972768003696e-06, + "loss": 0.0019, + "num_input_tokens_seen": 26281344, + "step": 13421 + }, + { + "epoch": 1.7789264413518886, + "grad_norm": 2.3968751430511475, + "learning_rate": 1.7814647795299e-06, + "loss": 0.0132, + "num_input_tokens_seen": 26283264, + "step": 13422 + }, + { + "epoch": 1.7790589794565936, + "grad_norm": 3.1393566131591797, + "learning_rate": 1.7811322961132848e-06, + "loss": 0.0354, + "num_input_tokens_seen": 26285936, + "step": 13423 + }, + { + "epoch": 1.779191517561299, + "grad_norm": 10.10363483428955, + "learning_rate": 1.780799826556935e-06, + "loss": 0.3335, + "num_input_tokens_seen": 26288504, + "step": 13424 + }, + { + "epoch": 1.779324055666004, + "grad_norm": 5.010140895843506, + "learning_rate": 1.7804673708672605e-06, + "loss": 0.197, + "num_input_tokens_seen": 26291208, + "step": 13425 + }, + { + "epoch": 1.7794565937707092, + "grad_norm": 1.3880749940872192, + "learning_rate": 1.7801349290506707e-06, + "loss": 0.0411, + "num_input_tokens_seen": 26293248, + "step": 13426 + }, + { + "epoch": 1.7795891318754142, + "grad_norm": 10.586915016174316, + "learning_rate": 1.7798025011135771e-06, + "loss": 0.1511, + "num_input_tokens_seen": 26295120, + "step": 13427 + }, + { + "epoch": 1.7797216699801193, + "grad_norm": 9.952249526977539, + "learning_rate": 1.7794700870623883e-06, + "loss": 0.293, + "num_input_tokens_seen": 26297024, + "step": 13428 + }, + { + "epoch": 1.7798542080848243, + "grad_norm": 6.022063732147217, + "learning_rate": 1.7791376869035126e-06, + "loss": 0.051, + "num_input_tokens_seen": 26299584, + "step": 13429 + }, + { + "epoch": 1.7799867461895293, + "grad_norm": 0.047561485320329666, + "learning_rate": 1.7788053006433603e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26301144, + "step": 13430 + }, + { + "epoch": 1.7801192842942346, + "grad_norm": 9.478787422180176, + "learning_rate": 1.7784729282883387e-06, + "loss": 0.1083, + "num_input_tokens_seen": 26303168, + "step": 13431 + }, + { + "epoch": 1.7802518223989396, + "grad_norm": 9.005231857299805, + "learning_rate": 1.7781405698448561e-06, + "loss": 0.0965, + "num_input_tokens_seen": 26304840, + "step": 13432 + }, + { + "epoch": 1.780384360503645, + "grad_norm": 6.288226127624512, + "learning_rate": 1.7778082253193228e-06, + "loss": 0.065, + "num_input_tokens_seen": 26306496, + "step": 13433 + }, + { + "epoch": 1.78051689860835, + "grad_norm": 6.611120223999023, + "learning_rate": 1.7774758947181441e-06, + "loss": 0.1703, + "num_input_tokens_seen": 26308640, + "step": 13434 + }, + { + "epoch": 1.780649436713055, + "grad_norm": 5.324704647064209, + "learning_rate": 1.7771435780477295e-06, + "loss": 0.097, + "num_input_tokens_seen": 26310256, + "step": 13435 + }, + { + "epoch": 1.78078197481776, + "grad_norm": 14.94013786315918, + "learning_rate": 1.7768112753144851e-06, + "loss": 0.3921, + "num_input_tokens_seen": 26314352, + "step": 13436 + }, + { + "epoch": 1.780914512922465, + "grad_norm": 6.602219581604004, + "learning_rate": 1.7764789865248172e-06, + "loss": 0.1216, + "num_input_tokens_seen": 26316408, + "step": 13437 + }, + { + "epoch": 1.7810470510271703, + "grad_norm": 11.934491157531738, + "learning_rate": 1.7761467116851344e-06, + "loss": 0.1263, + "num_input_tokens_seen": 26317904, + "step": 13438 + }, + { + "epoch": 1.7811795891318756, + "grad_norm": 0.04531030356884003, + "learning_rate": 1.7758144508018426e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26319080, + "step": 13439 + }, + { + "epoch": 1.7813121272365806, + "grad_norm": 0.6069450974464417, + "learning_rate": 1.7754822038813474e-06, + "loss": 0.0092, + "num_input_tokens_seen": 26320784, + "step": 13440 + }, + { + "epoch": 1.7814446653412856, + "grad_norm": 0.36157214641571045, + "learning_rate": 1.7751499709300557e-06, + "loss": 0.003, + "num_input_tokens_seen": 26323464, + "step": 13441 + }, + { + "epoch": 1.7815772034459907, + "grad_norm": 0.5376377105712891, + "learning_rate": 1.7748177519543713e-06, + "loss": 0.0048, + "num_input_tokens_seen": 26324952, + "step": 13442 + }, + { + "epoch": 1.7817097415506957, + "grad_norm": 0.12397444248199463, + "learning_rate": 1.7744855469607016e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26326344, + "step": 13443 + }, + { + "epoch": 1.7818422796554008, + "grad_norm": 5.922483444213867, + "learning_rate": 1.7741533559554517e-06, + "loss": 0.1018, + "num_input_tokens_seen": 26328088, + "step": 13444 + }, + { + "epoch": 1.781974817760106, + "grad_norm": 1.7656452655792236, + "learning_rate": 1.7738211789450256e-06, + "loss": 0.0189, + "num_input_tokens_seen": 26329424, + "step": 13445 + }, + { + "epoch": 1.7821073558648113, + "grad_norm": 8.005962371826172, + "learning_rate": 1.7734890159358275e-06, + "loss": 0.2931, + "num_input_tokens_seen": 26331264, + "step": 13446 + }, + { + "epoch": 1.7822398939695163, + "grad_norm": 13.92824935913086, + "learning_rate": 1.7731568669342626e-06, + "loss": 0.1386, + "num_input_tokens_seen": 26333056, + "step": 13447 + }, + { + "epoch": 1.7823724320742214, + "grad_norm": 13.277717590332031, + "learning_rate": 1.772824731946735e-06, + "loss": 0.4788, + "num_input_tokens_seen": 26335320, + "step": 13448 + }, + { + "epoch": 1.7825049701789264, + "grad_norm": 0.05376683548092842, + "learning_rate": 1.772492610979648e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26336736, + "step": 13449 + }, + { + "epoch": 1.7826375082836314, + "grad_norm": 2.0635359287261963, + "learning_rate": 1.7721605040394057e-06, + "loss": 0.041, + "num_input_tokens_seen": 26338536, + "step": 13450 + }, + { + "epoch": 1.7827700463883367, + "grad_norm": 7.3322954177856445, + "learning_rate": 1.7718284111324111e-06, + "loss": 0.0747, + "num_input_tokens_seen": 26340760, + "step": 13451 + }, + { + "epoch": 1.7829025844930417, + "grad_norm": 4.662420749664307, + "learning_rate": 1.771496332265066e-06, + "loss": 0.1281, + "num_input_tokens_seen": 26343128, + "step": 13452 + }, + { + "epoch": 1.783035122597747, + "grad_norm": 15.219648361206055, + "learning_rate": 1.7711642674437745e-06, + "loss": 0.2469, + "num_input_tokens_seen": 26345048, + "step": 13453 + }, + { + "epoch": 1.783167660702452, + "grad_norm": 0.1409814953804016, + "learning_rate": 1.7708322166749398e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26347120, + "step": 13454 + }, + { + "epoch": 1.783300198807157, + "grad_norm": 3.001920700073242, + "learning_rate": 1.7705001799649621e-06, + "loss": 0.0281, + "num_input_tokens_seen": 26348784, + "step": 13455 + }, + { + "epoch": 1.783432736911862, + "grad_norm": 7.071722030639648, + "learning_rate": 1.7701681573202447e-06, + "loss": 0.2493, + "num_input_tokens_seen": 26351200, + "step": 13456 + }, + { + "epoch": 1.7835652750165671, + "grad_norm": 0.050525981932878494, + "learning_rate": 1.7698361487471883e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26352632, + "step": 13457 + }, + { + "epoch": 1.7836978131212724, + "grad_norm": 2.120507001876831, + "learning_rate": 1.769504154252194e-06, + "loss": 0.011, + "num_input_tokens_seen": 26354232, + "step": 13458 + }, + { + "epoch": 1.7838303512259774, + "grad_norm": 9.166775703430176, + "learning_rate": 1.7691721738416648e-06, + "loss": 0.1264, + "num_input_tokens_seen": 26356088, + "step": 13459 + }, + { + "epoch": 1.7839628893306827, + "grad_norm": 0.021382562816143036, + "learning_rate": 1.7688402075220001e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26357616, + "step": 13460 + }, + { + "epoch": 1.7840954274353877, + "grad_norm": 2.573509454727173, + "learning_rate": 1.7685082552996003e-06, + "loss": 0.0812, + "num_input_tokens_seen": 26359840, + "step": 13461 + }, + { + "epoch": 1.7842279655400928, + "grad_norm": 0.966750979423523, + "learning_rate": 1.7681763171808661e-06, + "loss": 0.0089, + "num_input_tokens_seen": 26361320, + "step": 13462 + }, + { + "epoch": 1.7843605036447978, + "grad_norm": 6.177943229675293, + "learning_rate": 1.7678443931721967e-06, + "loss": 0.0357, + "num_input_tokens_seen": 26363328, + "step": 13463 + }, + { + "epoch": 1.7844930417495029, + "grad_norm": 2.3456945419311523, + "learning_rate": 1.7675124832799928e-06, + "loss": 0.0145, + "num_input_tokens_seen": 26364944, + "step": 13464 + }, + { + "epoch": 1.784625579854208, + "grad_norm": 5.720907688140869, + "learning_rate": 1.7671805875106541e-06, + "loss": 0.0675, + "num_input_tokens_seen": 26367280, + "step": 13465 + }, + { + "epoch": 1.7847581179589131, + "grad_norm": 11.857833862304688, + "learning_rate": 1.7668487058705791e-06, + "loss": 0.1665, + "num_input_tokens_seen": 26369504, + "step": 13466 + }, + { + "epoch": 1.7848906560636184, + "grad_norm": 2.4518649578094482, + "learning_rate": 1.7665168383661662e-06, + "loss": 0.021, + "num_input_tokens_seen": 26370704, + "step": 13467 + }, + { + "epoch": 1.7850231941683234, + "grad_norm": 10.11327075958252, + "learning_rate": 1.7661849850038146e-06, + "loss": 0.1587, + "num_input_tokens_seen": 26373680, + "step": 13468 + }, + { + "epoch": 1.7851557322730285, + "grad_norm": 3.9352738857269287, + "learning_rate": 1.7658531457899235e-06, + "loss": 0.0232, + "num_input_tokens_seen": 26375024, + "step": 13469 + }, + { + "epoch": 1.7852882703777335, + "grad_norm": 6.68298864364624, + "learning_rate": 1.7655213207308896e-06, + "loss": 0.1716, + "num_input_tokens_seen": 26377064, + "step": 13470 + }, + { + "epoch": 1.7854208084824386, + "grad_norm": 0.03484855964779854, + "learning_rate": 1.765189509833112e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26379728, + "step": 13471 + }, + { + "epoch": 1.7855533465871438, + "grad_norm": 10.722467422485352, + "learning_rate": 1.764857713102987e-06, + "loss": 0.3023, + "num_input_tokens_seen": 26381392, + "step": 13472 + }, + { + "epoch": 1.7856858846918489, + "grad_norm": 14.940919876098633, + "learning_rate": 1.764525930546912e-06, + "loss": 0.4127, + "num_input_tokens_seen": 26383632, + "step": 13473 + }, + { + "epoch": 1.7858184227965541, + "grad_norm": 6.522045135498047, + "learning_rate": 1.7641941621712855e-06, + "loss": 0.1384, + "num_input_tokens_seen": 26386040, + "step": 13474 + }, + { + "epoch": 1.7859509609012592, + "grad_norm": 0.385433554649353, + "learning_rate": 1.7638624079825028e-06, + "loss": 0.0017, + "num_input_tokens_seen": 26387192, + "step": 13475 + }, + { + "epoch": 1.7860834990059642, + "grad_norm": 0.13633976876735687, + "learning_rate": 1.7635306679869608e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26388840, + "step": 13476 + }, + { + "epoch": 1.7862160371106692, + "grad_norm": 14.278340339660645, + "learning_rate": 1.7631989421910556e-06, + "loss": 0.3722, + "num_input_tokens_seen": 26390304, + "step": 13477 + }, + { + "epoch": 1.7863485752153743, + "grad_norm": 0.1277688592672348, + "learning_rate": 1.7628672306011823e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26392192, + "step": 13478 + }, + { + "epoch": 1.7864811133200795, + "grad_norm": 6.736323356628418, + "learning_rate": 1.7625355332237375e-06, + "loss": 0.0655, + "num_input_tokens_seen": 26394368, + "step": 13479 + }, + { + "epoch": 1.7866136514247848, + "grad_norm": 0.057496052235364914, + "learning_rate": 1.7622038500651174e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26395656, + "step": 13480 + }, + { + "epoch": 1.7867461895294898, + "grad_norm": 6.027022838592529, + "learning_rate": 1.7618721811317151e-06, + "loss": 0.1119, + "num_input_tokens_seen": 26397816, + "step": 13481 + }, + { + "epoch": 1.7868787276341949, + "grad_norm": 0.9153688549995422, + "learning_rate": 1.7615405264299273e-06, + "loss": 0.0085, + "num_input_tokens_seen": 26400648, + "step": 13482 + }, + { + "epoch": 1.7870112657389, + "grad_norm": 9.573477745056152, + "learning_rate": 1.761208885966146e-06, + "loss": 0.1165, + "num_input_tokens_seen": 26402616, + "step": 13483 + }, + { + "epoch": 1.787143803843605, + "grad_norm": 0.09726032614707947, + "learning_rate": 1.7608772597467685e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26405488, + "step": 13484 + }, + { + "epoch": 1.78727634194831, + "grad_norm": 8.382540702819824, + "learning_rate": 1.7605456477781868e-06, + "loss": 0.0468, + "num_input_tokens_seen": 26406856, + "step": 13485 + }, + { + "epoch": 1.7874088800530152, + "grad_norm": 9.463828086853027, + "learning_rate": 1.7602140500667956e-06, + "loss": 0.1541, + "num_input_tokens_seen": 26408696, + "step": 13486 + }, + { + "epoch": 1.7875414181577205, + "grad_norm": 5.387556076049805, + "learning_rate": 1.7598824666189873e-06, + "loss": 0.0759, + "num_input_tokens_seen": 26410920, + "step": 13487 + }, + { + "epoch": 1.7876739562624255, + "grad_norm": 5.628362655639648, + "learning_rate": 1.759550897441156e-06, + "loss": 0.0813, + "num_input_tokens_seen": 26412512, + "step": 13488 + }, + { + "epoch": 1.7878064943671306, + "grad_norm": 0.048675842583179474, + "learning_rate": 1.759219342539693e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26414216, + "step": 13489 + }, + { + "epoch": 1.7879390324718356, + "grad_norm": 18.880474090576172, + "learning_rate": 1.7588878019209937e-06, + "loss": 0.3935, + "num_input_tokens_seen": 26416240, + "step": 13490 + }, + { + "epoch": 1.7880715705765406, + "grad_norm": 7.306013107299805, + "learning_rate": 1.7585562755914483e-06, + "loss": 0.1431, + "num_input_tokens_seen": 26418304, + "step": 13491 + }, + { + "epoch": 1.788204108681246, + "grad_norm": 0.01743192970752716, + "learning_rate": 1.7582247635574496e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26419608, + "step": 13492 + }, + { + "epoch": 1.788336646785951, + "grad_norm": 4.326083660125732, + "learning_rate": 1.7578932658253887e-06, + "loss": 0.0285, + "num_input_tokens_seen": 26421672, + "step": 13493 + }, + { + "epoch": 1.7884691848906562, + "grad_norm": 6.223625183105469, + "learning_rate": 1.7575617824016573e-06, + "loss": 0.1041, + "num_input_tokens_seen": 26423560, + "step": 13494 + }, + { + "epoch": 1.7886017229953612, + "grad_norm": 3.8484771251678467, + "learning_rate": 1.7572303132926478e-06, + "loss": 0.0275, + "num_input_tokens_seen": 26425144, + "step": 13495 + }, + { + "epoch": 1.7887342611000663, + "grad_norm": 2.3663957118988037, + "learning_rate": 1.7568988585047494e-06, + "loss": 0.041, + "num_input_tokens_seen": 26426984, + "step": 13496 + }, + { + "epoch": 1.7888667992047713, + "grad_norm": 9.78691291809082, + "learning_rate": 1.756567418044355e-06, + "loss": 0.1365, + "num_input_tokens_seen": 26429088, + "step": 13497 + }, + { + "epoch": 1.7889993373094764, + "grad_norm": 7.348280906677246, + "learning_rate": 1.756235991917853e-06, + "loss": 0.0833, + "num_input_tokens_seen": 26432088, + "step": 13498 + }, + { + "epoch": 1.7891318754141816, + "grad_norm": 0.9052292108535767, + "learning_rate": 1.7559045801316332e-06, + "loss": 0.004, + "num_input_tokens_seen": 26433784, + "step": 13499 + }, + { + "epoch": 1.7892644135188867, + "grad_norm": 5.542092800140381, + "learning_rate": 1.7555731826920868e-06, + "loss": 0.0684, + "num_input_tokens_seen": 26435824, + "step": 13500 + }, + { + "epoch": 1.789396951623592, + "grad_norm": 4.9773054122924805, + "learning_rate": 1.7552417996056036e-06, + "loss": 0.103, + "num_input_tokens_seen": 26437856, + "step": 13501 + }, + { + "epoch": 1.789529489728297, + "grad_norm": 4.7303853034973145, + "learning_rate": 1.7549104308785719e-06, + "loss": 0.0561, + "num_input_tokens_seen": 26439624, + "step": 13502 + }, + { + "epoch": 1.789662027833002, + "grad_norm": 16.13039779663086, + "learning_rate": 1.754579076517382e-06, + "loss": 0.3716, + "num_input_tokens_seen": 26441712, + "step": 13503 + }, + { + "epoch": 1.789794565937707, + "grad_norm": 9.999297142028809, + "learning_rate": 1.7542477365284203e-06, + "loss": 0.2693, + "num_input_tokens_seen": 26444336, + "step": 13504 + }, + { + "epoch": 1.789927104042412, + "grad_norm": 5.910900115966797, + "learning_rate": 1.753916410918078e-06, + "loss": 0.1271, + "num_input_tokens_seen": 26446168, + "step": 13505 + }, + { + "epoch": 1.7900596421471173, + "grad_norm": 3.7617299556732178, + "learning_rate": 1.753585099692741e-06, + "loss": 0.0268, + "num_input_tokens_seen": 26448120, + "step": 13506 + }, + { + "epoch": 1.7901921802518224, + "grad_norm": 6.987460136413574, + "learning_rate": 1.753253802858799e-06, + "loss": 0.1695, + "num_input_tokens_seen": 26449784, + "step": 13507 + }, + { + "epoch": 1.7903247183565276, + "grad_norm": 10.058489799499512, + "learning_rate": 1.752922520422638e-06, + "loss": 0.1045, + "num_input_tokens_seen": 26451184, + "step": 13508 + }, + { + "epoch": 1.7904572564612327, + "grad_norm": 5.993460178375244, + "learning_rate": 1.7525912523906463e-06, + "loss": 0.0867, + "num_input_tokens_seen": 26453200, + "step": 13509 + }, + { + "epoch": 1.7905897945659377, + "grad_norm": 0.06365442276000977, + "learning_rate": 1.7522599987692113e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26455272, + "step": 13510 + }, + { + "epoch": 1.7907223326706427, + "grad_norm": 3.2359840869903564, + "learning_rate": 1.7519287595647191e-06, + "loss": 0.0837, + "num_input_tokens_seen": 26458008, + "step": 13511 + }, + { + "epoch": 1.7908548707753478, + "grad_norm": 0.769130527973175, + "learning_rate": 1.7515975347835574e-06, + "loss": 0.0083, + "num_input_tokens_seen": 26459280, + "step": 13512 + }, + { + "epoch": 1.790987408880053, + "grad_norm": 0.13804055750370026, + "learning_rate": 1.751266324432111e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26461704, + "step": 13513 + }, + { + "epoch": 1.791119946984758, + "grad_norm": 0.006949859205633402, + "learning_rate": 1.750935128516766e-06, + "loss": 0.0, + "num_input_tokens_seen": 26463096, + "step": 13514 + }, + { + "epoch": 1.7912524850894633, + "grad_norm": 3.3558826446533203, + "learning_rate": 1.750603947043908e-06, + "loss": 0.0282, + "num_input_tokens_seen": 26464760, + "step": 13515 + }, + { + "epoch": 1.7913850231941684, + "grad_norm": 3.903610944747925, + "learning_rate": 1.7502727800199236e-06, + "loss": 0.0898, + "num_input_tokens_seen": 26466440, + "step": 13516 + }, + { + "epoch": 1.7915175612988734, + "grad_norm": 19.085941314697266, + "learning_rate": 1.7499416274511972e-06, + "loss": 0.294, + "num_input_tokens_seen": 26468912, + "step": 13517 + }, + { + "epoch": 1.7916500994035784, + "grad_norm": 8.417341232299805, + "learning_rate": 1.749610489344114e-06, + "loss": 0.1095, + "num_input_tokens_seen": 26470760, + "step": 13518 + }, + { + "epoch": 1.7917826375082835, + "grad_norm": 4.599940299987793, + "learning_rate": 1.749279365705058e-06, + "loss": 0.0586, + "num_input_tokens_seen": 26473040, + "step": 13519 + }, + { + "epoch": 1.7919151756129887, + "grad_norm": 11.888713836669922, + "learning_rate": 1.7489482565404132e-06, + "loss": 0.0688, + "num_input_tokens_seen": 26475120, + "step": 13520 + }, + { + "epoch": 1.792047713717694, + "grad_norm": 6.165769577026367, + "learning_rate": 1.748617161856564e-06, + "loss": 0.1128, + "num_input_tokens_seen": 26477328, + "step": 13521 + }, + { + "epoch": 1.792180251822399, + "grad_norm": 5.052001953125, + "learning_rate": 1.748286081659895e-06, + "loss": 0.1703, + "num_input_tokens_seen": 26479664, + "step": 13522 + }, + { + "epoch": 1.792312789927104, + "grad_norm": 0.01829586736857891, + "learning_rate": 1.7479550159567887e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26481896, + "step": 13523 + }, + { + "epoch": 1.7924453280318091, + "grad_norm": 14.04226303100586, + "learning_rate": 1.7476239647536288e-06, + "loss": 0.2669, + "num_input_tokens_seen": 26483984, + "step": 13524 + }, + { + "epoch": 1.7925778661365142, + "grad_norm": 5.46922492980957, + "learning_rate": 1.747292928056797e-06, + "loss": 0.0745, + "num_input_tokens_seen": 26486808, + "step": 13525 + }, + { + "epoch": 1.7927104042412192, + "grad_norm": 2.4571304321289062, + "learning_rate": 1.7469619058726772e-06, + "loss": 0.0448, + "num_input_tokens_seen": 26488192, + "step": 13526 + }, + { + "epoch": 1.7928429423459245, + "grad_norm": 8.714128494262695, + "learning_rate": 1.7466308982076518e-06, + "loss": 0.11, + "num_input_tokens_seen": 26489440, + "step": 13527 + }, + { + "epoch": 1.7929754804506297, + "grad_norm": 10.794597625732422, + "learning_rate": 1.7462999050681026e-06, + "loss": 0.1668, + "num_input_tokens_seen": 26491104, + "step": 13528 + }, + { + "epoch": 1.7931080185553347, + "grad_norm": 5.617539405822754, + "learning_rate": 1.7459689264604107e-06, + "loss": 0.2166, + "num_input_tokens_seen": 26493376, + "step": 13529 + }, + { + "epoch": 1.7932405566600398, + "grad_norm": 1.0309244394302368, + "learning_rate": 1.7456379623909575e-06, + "loss": 0.0116, + "num_input_tokens_seen": 26495320, + "step": 13530 + }, + { + "epoch": 1.7933730947647448, + "grad_norm": 0.028823330998420715, + "learning_rate": 1.7453070128661256e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26496744, + "step": 13531 + }, + { + "epoch": 1.7935056328694499, + "grad_norm": 4.579731464385986, + "learning_rate": 1.7449760778922947e-06, + "loss": 0.0972, + "num_input_tokens_seen": 26499152, + "step": 13532 + }, + { + "epoch": 1.7936381709741551, + "grad_norm": 7.258098602294922, + "learning_rate": 1.7446451574758466e-06, + "loss": 0.1696, + "num_input_tokens_seen": 26500872, + "step": 13533 + }, + { + "epoch": 1.7937707090788602, + "grad_norm": 8.057473182678223, + "learning_rate": 1.7443142516231603e-06, + "loss": 0.083, + "num_input_tokens_seen": 26502896, + "step": 13534 + }, + { + "epoch": 1.7939032471835654, + "grad_norm": 0.05750260874629021, + "learning_rate": 1.7439833603406158e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26504624, + "step": 13535 + }, + { + "epoch": 1.7940357852882705, + "grad_norm": 10.32970905303955, + "learning_rate": 1.7436524836345952e-06, + "loss": 0.1633, + "num_input_tokens_seen": 26506696, + "step": 13536 + }, + { + "epoch": 1.7941683233929755, + "grad_norm": 0.13353323936462402, + "learning_rate": 1.7433216215114763e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26508144, + "step": 13537 + }, + { + "epoch": 1.7943008614976805, + "grad_norm": 0.14368011057376862, + "learning_rate": 1.742990773977638e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26509864, + "step": 13538 + }, + { + "epoch": 1.7944333996023856, + "grad_norm": 4.054242134094238, + "learning_rate": 1.7426599410394602e-06, + "loss": 0.0812, + "num_input_tokens_seen": 26511192, + "step": 13539 + }, + { + "epoch": 1.7945659377070908, + "grad_norm": 1.5258116722106934, + "learning_rate": 1.74232912270332e-06, + "loss": 0.0156, + "num_input_tokens_seen": 26512832, + "step": 13540 + }, + { + "epoch": 1.7946984758117959, + "grad_norm": 4.265691757202148, + "learning_rate": 1.741998318975598e-06, + "loss": 0.0349, + "num_input_tokens_seen": 26514280, + "step": 13541 + }, + { + "epoch": 1.7948310139165011, + "grad_norm": 0.618071436882019, + "learning_rate": 1.7416675298626718e-06, + "loss": 0.0063, + "num_input_tokens_seen": 26516008, + "step": 13542 + }, + { + "epoch": 1.7949635520212062, + "grad_norm": 3.9547102451324463, + "learning_rate": 1.7413367553709185e-06, + "loss": 0.0895, + "num_input_tokens_seen": 26517992, + "step": 13543 + }, + { + "epoch": 1.7950960901259112, + "grad_norm": 2.9521284103393555, + "learning_rate": 1.7410059955067154e-06, + "loss": 0.0578, + "num_input_tokens_seen": 26520208, + "step": 13544 + }, + { + "epoch": 1.7952286282306162, + "grad_norm": 1.614125370979309, + "learning_rate": 1.740675250276441e-06, + "loss": 0.0085, + "num_input_tokens_seen": 26522472, + "step": 13545 + }, + { + "epoch": 1.7953611663353213, + "grad_norm": 0.09426449984312057, + "learning_rate": 1.7403445196864703e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26524544, + "step": 13546 + }, + { + "epoch": 1.7954937044400265, + "grad_norm": 0.11491863429546356, + "learning_rate": 1.7400138037431823e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26526264, + "step": 13547 + }, + { + "epoch": 1.7956262425447316, + "grad_norm": 2.086135149002075, + "learning_rate": 1.7396831024529525e-06, + "loss": 0.0179, + "num_input_tokens_seen": 26528608, + "step": 13548 + }, + { + "epoch": 1.7957587806494368, + "grad_norm": 5.821713924407959, + "learning_rate": 1.739352415822157e-06, + "loss": 0.1035, + "num_input_tokens_seen": 26531048, + "step": 13549 + }, + { + "epoch": 1.7958913187541419, + "grad_norm": 6.0157790184021, + "learning_rate": 1.7390217438571715e-06, + "loss": 0.0893, + "num_input_tokens_seen": 26533936, + "step": 13550 + }, + { + "epoch": 1.796023856858847, + "grad_norm": 4.216887950897217, + "learning_rate": 1.7386910865643713e-06, + "loss": 0.0398, + "num_input_tokens_seen": 26537224, + "step": 13551 + }, + { + "epoch": 1.796156394963552, + "grad_norm": 7.900070667266846, + "learning_rate": 1.7383604439501329e-06, + "loss": 0.1789, + "num_input_tokens_seen": 26538696, + "step": 13552 + }, + { + "epoch": 1.796288933068257, + "grad_norm": 11.829741477966309, + "learning_rate": 1.7380298160208303e-06, + "loss": 0.2307, + "num_input_tokens_seen": 26541264, + "step": 13553 + }, + { + "epoch": 1.7964214711729622, + "grad_norm": 0.060499157756567, + "learning_rate": 1.7376992027828388e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26543296, + "step": 13554 + }, + { + "epoch": 1.7965540092776673, + "grad_norm": 0.09370407462120056, + "learning_rate": 1.737368604242532e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26544448, + "step": 13555 + }, + { + "epoch": 1.7966865473823725, + "grad_norm": 8.654318809509277, + "learning_rate": 1.7370380204062841e-06, + "loss": 0.0912, + "num_input_tokens_seen": 26546640, + "step": 13556 + }, + { + "epoch": 1.7968190854870776, + "grad_norm": 2.1261088848114014, + "learning_rate": 1.7367074512804707e-06, + "loss": 0.0168, + "num_input_tokens_seen": 26548192, + "step": 13557 + }, + { + "epoch": 1.7969516235917826, + "grad_norm": 10.142276763916016, + "learning_rate": 1.7363768968714642e-06, + "loss": 0.1837, + "num_input_tokens_seen": 26550632, + "step": 13558 + }, + { + "epoch": 1.7970841616964877, + "grad_norm": 0.11329805105924606, + "learning_rate": 1.7360463571856373e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26552040, + "step": 13559 + }, + { + "epoch": 1.7972166998011927, + "grad_norm": 7.3871073722839355, + "learning_rate": 1.7357158322293645e-06, + "loss": 0.0909, + "num_input_tokens_seen": 26554096, + "step": 13560 + }, + { + "epoch": 1.797349237905898, + "grad_norm": 0.03587912768125534, + "learning_rate": 1.735385322009016e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26555496, + "step": 13561 + }, + { + "epoch": 1.797481776010603, + "grad_norm": 13.763813972473145, + "learning_rate": 1.7350548265309672e-06, + "loss": 0.33, + "num_input_tokens_seen": 26557528, + "step": 13562 + }, + { + "epoch": 1.7976143141153083, + "grad_norm": 0.15195626020431519, + "learning_rate": 1.7347243458015892e-06, + "loss": 0.001, + "num_input_tokens_seen": 26558928, + "step": 13563 + }, + { + "epoch": 1.7977468522200133, + "grad_norm": 8.007662773132324, + "learning_rate": 1.7343938798272532e-06, + "loss": 0.2904, + "num_input_tokens_seen": 26561016, + "step": 13564 + }, + { + "epoch": 1.7978793903247183, + "grad_norm": 9.498983383178711, + "learning_rate": 1.734063428614332e-06, + "loss": 0.2363, + "num_input_tokens_seen": 26562632, + "step": 13565 + }, + { + "epoch": 1.7980119284294234, + "grad_norm": 1.003184199333191, + "learning_rate": 1.7337329921691953e-06, + "loss": 0.0166, + "num_input_tokens_seen": 26564696, + "step": 13566 + }, + { + "epoch": 1.7981444665341284, + "grad_norm": 2.855196952819824, + "learning_rate": 1.733402570498216e-06, + "loss": 0.0562, + "num_input_tokens_seen": 26567088, + "step": 13567 + }, + { + "epoch": 1.7982770046388337, + "grad_norm": 4.377383232116699, + "learning_rate": 1.7330721636077636e-06, + "loss": 0.0543, + "num_input_tokens_seen": 26569288, + "step": 13568 + }, + { + "epoch": 1.798409542743539, + "grad_norm": 0.5915123820304871, + "learning_rate": 1.7327417715042094e-06, + "loss": 0.0036, + "num_input_tokens_seen": 26571312, + "step": 13569 + }, + { + "epoch": 1.798542080848244, + "grad_norm": 0.7797229886054993, + "learning_rate": 1.7324113941939226e-06, + "loss": 0.0042, + "num_input_tokens_seen": 26573120, + "step": 13570 + }, + { + "epoch": 1.798674618952949, + "grad_norm": 2.479902982711792, + "learning_rate": 1.7320810316832742e-06, + "loss": 0.0248, + "num_input_tokens_seen": 26574344, + "step": 13571 + }, + { + "epoch": 1.798807157057654, + "grad_norm": 16.192241668701172, + "learning_rate": 1.7317506839786325e-06, + "loss": 0.2575, + "num_input_tokens_seen": 26575472, + "step": 13572 + }, + { + "epoch": 1.798939695162359, + "grad_norm": 4.9803876876831055, + "learning_rate": 1.7314203510863684e-06, + "loss": 0.076, + "num_input_tokens_seen": 26577832, + "step": 13573 + }, + { + "epoch": 1.7990722332670643, + "grad_norm": 3.7477424144744873, + "learning_rate": 1.7310900330128497e-06, + "loss": 0.0598, + "num_input_tokens_seen": 26580248, + "step": 13574 + }, + { + "epoch": 1.7992047713717694, + "grad_norm": 3.946439743041992, + "learning_rate": 1.730759729764446e-06, + "loss": 0.0485, + "num_input_tokens_seen": 26582192, + "step": 13575 + }, + { + "epoch": 1.7993373094764746, + "grad_norm": 7.128304481506348, + "learning_rate": 1.7304294413475249e-06, + "loss": 0.1106, + "num_input_tokens_seen": 26584632, + "step": 13576 + }, + { + "epoch": 1.7994698475811797, + "grad_norm": 8.386787414550781, + "learning_rate": 1.7300991677684548e-06, + "loss": 0.3167, + "num_input_tokens_seen": 26586568, + "step": 13577 + }, + { + "epoch": 1.7996023856858847, + "grad_norm": 10.198125839233398, + "learning_rate": 1.7297689090336045e-06, + "loss": 0.313, + "num_input_tokens_seen": 26588128, + "step": 13578 + }, + { + "epoch": 1.7997349237905897, + "grad_norm": 3.5055384635925293, + "learning_rate": 1.7294386651493405e-06, + "loss": 0.0592, + "num_input_tokens_seen": 26590480, + "step": 13579 + }, + { + "epoch": 1.7998674618952948, + "grad_norm": 1.3968749046325684, + "learning_rate": 1.7291084361220318e-06, + "loss": 0.0158, + "num_input_tokens_seen": 26592504, + "step": 13580 + }, + { + "epoch": 1.8, + "grad_norm": 11.910711288452148, + "learning_rate": 1.7287782219580436e-06, + "loss": 0.2836, + "num_input_tokens_seen": 26594864, + "step": 13581 + }, + { + "epoch": 1.800132538104705, + "grad_norm": 6.525597095489502, + "learning_rate": 1.7284480226637424e-06, + "loss": 0.094, + "num_input_tokens_seen": 26596816, + "step": 13582 + }, + { + "epoch": 1.8002650762094103, + "grad_norm": 0.04156789928674698, + "learning_rate": 1.7281178382454961e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26598440, + "step": 13583 + }, + { + "epoch": 1.8003976143141154, + "grad_norm": 0.04346594214439392, + "learning_rate": 1.7277876687096708e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26600104, + "step": 13584 + }, + { + "epoch": 1.8005301524188204, + "grad_norm": 0.19566258788108826, + "learning_rate": 1.7274575140626318e-06, + "loss": 0.002, + "num_input_tokens_seen": 26601488, + "step": 13585 + }, + { + "epoch": 1.8006626905235255, + "grad_norm": 5.085778713226318, + "learning_rate": 1.7271273743107452e-06, + "loss": 0.1162, + "num_input_tokens_seen": 26604400, + "step": 13586 + }, + { + "epoch": 1.8007952286282305, + "grad_norm": 0.1026371568441391, + "learning_rate": 1.726797249460375e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26605960, + "step": 13587 + }, + { + "epoch": 1.8009277667329358, + "grad_norm": 7.790092945098877, + "learning_rate": 1.7264671395178878e-06, + "loss": 0.174, + "num_input_tokens_seen": 26608232, + "step": 13588 + }, + { + "epoch": 1.8010603048376408, + "grad_norm": 5.643495559692383, + "learning_rate": 1.726137044489648e-06, + "loss": 0.0995, + "num_input_tokens_seen": 26609656, + "step": 13589 + }, + { + "epoch": 1.801192842942346, + "grad_norm": 0.09065470099449158, + "learning_rate": 1.7258069643820202e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26611408, + "step": 13590 + }, + { + "epoch": 1.801325381047051, + "grad_norm": 0.048655908554792404, + "learning_rate": 1.7254768992013677e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26612792, + "step": 13591 + }, + { + "epoch": 1.8014579191517561, + "grad_norm": 7.888485431671143, + "learning_rate": 1.725146848954054e-06, + "loss": 0.1185, + "num_input_tokens_seen": 26615728, + "step": 13592 + }, + { + "epoch": 1.8015904572564612, + "grad_norm": 3.8968069553375244, + "learning_rate": 1.7248168136464448e-06, + "loss": 0.0351, + "num_input_tokens_seen": 26617360, + "step": 13593 + }, + { + "epoch": 1.8017229953611662, + "grad_norm": 2.9872806072235107, + "learning_rate": 1.7244867932849019e-06, + "loss": 0.039, + "num_input_tokens_seen": 26619392, + "step": 13594 + }, + { + "epoch": 1.8018555334658715, + "grad_norm": 12.942712783813477, + "learning_rate": 1.7241567878757889e-06, + "loss": 0.2252, + "num_input_tokens_seen": 26621448, + "step": 13595 + }, + { + "epoch": 1.8019880715705765, + "grad_norm": 9.66864013671875, + "learning_rate": 1.7238267974254685e-06, + "loss": 0.0616, + "num_input_tokens_seen": 26623072, + "step": 13596 + }, + { + "epoch": 1.8021206096752818, + "grad_norm": 10.495954513549805, + "learning_rate": 1.7234968219403013e-06, + "loss": 0.0878, + "num_input_tokens_seen": 26624984, + "step": 13597 + }, + { + "epoch": 1.8022531477799868, + "grad_norm": 10.488879203796387, + "learning_rate": 1.7231668614266522e-06, + "loss": 0.22, + "num_input_tokens_seen": 26627216, + "step": 13598 + }, + { + "epoch": 1.8023856858846918, + "grad_norm": 7.993254661560059, + "learning_rate": 1.7228369158908822e-06, + "loss": 0.1477, + "num_input_tokens_seen": 26629384, + "step": 13599 + }, + { + "epoch": 1.8025182239893969, + "grad_norm": 0.19708530604839325, + "learning_rate": 1.7225069853393522e-06, + "loss": 0.0013, + "num_input_tokens_seen": 26631320, + "step": 13600 + }, + { + "epoch": 1.802650762094102, + "grad_norm": 4.13322639465332, + "learning_rate": 1.7221770697784243e-06, + "loss": 0.0199, + "num_input_tokens_seen": 26633664, + "step": 13601 + }, + { + "epoch": 1.8027833001988072, + "grad_norm": 8.290809631347656, + "learning_rate": 1.7218471692144587e-06, + "loss": 0.0152, + "num_input_tokens_seen": 26634968, + "step": 13602 + }, + { + "epoch": 1.8029158383035122, + "grad_norm": 0.03503880277276039, + "learning_rate": 1.7215172836538157e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26637880, + "step": 13603 + }, + { + "epoch": 1.8030483764082175, + "grad_norm": 0.2906630337238312, + "learning_rate": 1.7211874131028577e-06, + "loss": 0.0018, + "num_input_tokens_seen": 26639416, + "step": 13604 + }, + { + "epoch": 1.8031809145129225, + "grad_norm": 6.96110200881958, + "learning_rate": 1.7208575575679436e-06, + "loss": 0.1194, + "num_input_tokens_seen": 26642928, + "step": 13605 + }, + { + "epoch": 1.8033134526176275, + "grad_norm": 0.18759137392044067, + "learning_rate": 1.720527717055433e-06, + "loss": 0.0009, + "num_input_tokens_seen": 26644112, + "step": 13606 + }, + { + "epoch": 1.8034459907223326, + "grad_norm": 4.520011901855469, + "learning_rate": 1.720197891571686e-06, + "loss": 0.0268, + "num_input_tokens_seen": 26645568, + "step": 13607 + }, + { + "epoch": 1.8035785288270376, + "grad_norm": 1.9104048013687134, + "learning_rate": 1.719868081123061e-06, + "loss": 0.0266, + "num_input_tokens_seen": 26647664, + "step": 13608 + }, + { + "epoch": 1.8037110669317429, + "grad_norm": 2.5512845516204834, + "learning_rate": 1.7195382857159176e-06, + "loss": 0.0091, + "num_input_tokens_seen": 26649456, + "step": 13609 + }, + { + "epoch": 1.8038436050364481, + "grad_norm": 5.563266754150391, + "learning_rate": 1.719208505356615e-06, + "loss": 0.0554, + "num_input_tokens_seen": 26650968, + "step": 13610 + }, + { + "epoch": 1.8039761431411532, + "grad_norm": 6.9681782722473145, + "learning_rate": 1.7188787400515114e-06, + "loss": 0.2038, + "num_input_tokens_seen": 26653208, + "step": 13611 + }, + { + "epoch": 1.8041086812458582, + "grad_norm": 0.06808216124773026, + "learning_rate": 1.7185489898069641e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26654600, + "step": 13612 + }, + { + "epoch": 1.8042412193505633, + "grad_norm": 6.808321952819824, + "learning_rate": 1.7182192546293303e-06, + "loss": 0.1034, + "num_input_tokens_seen": 26656608, + "step": 13613 + }, + { + "epoch": 1.8043737574552683, + "grad_norm": 6.002277851104736, + "learning_rate": 1.71788953452497e-06, + "loss": 0.0643, + "num_input_tokens_seen": 26658680, + "step": 13614 + }, + { + "epoch": 1.8045062955599733, + "grad_norm": 0.5653548240661621, + "learning_rate": 1.7175598295002385e-06, + "loss": 0.0049, + "num_input_tokens_seen": 26660064, + "step": 13615 + }, + { + "epoch": 1.8046388336646786, + "grad_norm": 10.631072998046875, + "learning_rate": 1.7172301395614937e-06, + "loss": 0.2928, + "num_input_tokens_seen": 26662008, + "step": 13616 + }, + { + "epoch": 1.8047713717693838, + "grad_norm": 6.783126354217529, + "learning_rate": 1.7169004647150913e-06, + "loss": 0.0919, + "num_input_tokens_seen": 26663448, + "step": 13617 + }, + { + "epoch": 1.8049039098740889, + "grad_norm": 0.16702903807163239, + "learning_rate": 1.7165708049673878e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26664744, + "step": 13618 + }, + { + "epoch": 1.805036447978794, + "grad_norm": 11.521212577819824, + "learning_rate": 1.7162411603247404e-06, + "loss": 0.2545, + "num_input_tokens_seen": 26666416, + "step": 13619 + }, + { + "epoch": 1.805168986083499, + "grad_norm": 3.0798070430755615, + "learning_rate": 1.7159115307935043e-06, + "loss": 0.0195, + "num_input_tokens_seen": 26668064, + "step": 13620 + }, + { + "epoch": 1.805301524188204, + "grad_norm": 15.158918380737305, + "learning_rate": 1.7155819163800344e-06, + "loss": 0.5022, + "num_input_tokens_seen": 26670824, + "step": 13621 + }, + { + "epoch": 1.8054340622929093, + "grad_norm": 3.5827548503875732, + "learning_rate": 1.7152523170906866e-06, + "loss": 0.0277, + "num_input_tokens_seen": 26672688, + "step": 13622 + }, + { + "epoch": 1.8055666003976143, + "grad_norm": 6.0312724113464355, + "learning_rate": 1.7149227329318146e-06, + "loss": 0.1122, + "num_input_tokens_seen": 26674328, + "step": 13623 + }, + { + "epoch": 1.8056991385023196, + "grad_norm": 14.950557708740234, + "learning_rate": 1.7145931639097743e-06, + "loss": 0.0874, + "num_input_tokens_seen": 26676328, + "step": 13624 + }, + { + "epoch": 1.8058316766070246, + "grad_norm": 0.04970107600092888, + "learning_rate": 1.71426361003092e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26677920, + "step": 13625 + }, + { + "epoch": 1.8059642147117296, + "grad_norm": 0.009666800498962402, + "learning_rate": 1.7139340713016054e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26679504, + "step": 13626 + }, + { + "epoch": 1.8060967528164347, + "grad_norm": 0.17921720445156097, + "learning_rate": 1.7136045477281843e-06, + "loss": 0.001, + "num_input_tokens_seen": 26681328, + "step": 13627 + }, + { + "epoch": 1.8062292909211397, + "grad_norm": 14.232503890991211, + "learning_rate": 1.71327503931701e-06, + "loss": 0.21, + "num_input_tokens_seen": 26682720, + "step": 13628 + }, + { + "epoch": 1.806361829025845, + "grad_norm": 5.11373233795166, + "learning_rate": 1.712945546074435e-06, + "loss": 0.128, + "num_input_tokens_seen": 26684456, + "step": 13629 + }, + { + "epoch": 1.80649436713055, + "grad_norm": 10.042037010192871, + "learning_rate": 1.7126160680068127e-06, + "loss": 0.2852, + "num_input_tokens_seen": 26686768, + "step": 13630 + }, + { + "epoch": 1.8066269052352553, + "grad_norm": 0.00946376658976078, + "learning_rate": 1.7122866051204967e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26688088, + "step": 13631 + }, + { + "epoch": 1.8067594433399603, + "grad_norm": 2.2493419647216797, + "learning_rate": 1.711957157421838e-06, + "loss": 0.0352, + "num_input_tokens_seen": 26689744, + "step": 13632 + }, + { + "epoch": 1.8068919814446653, + "grad_norm": 9.617035865783691, + "learning_rate": 1.7116277249171891e-06, + "loss": 0.0983, + "num_input_tokens_seen": 26691496, + "step": 13633 + }, + { + "epoch": 1.8070245195493704, + "grad_norm": 0.009915320202708244, + "learning_rate": 1.711298307612901e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26692680, + "step": 13634 + }, + { + "epoch": 1.8071570576540754, + "grad_norm": 0.6328532695770264, + "learning_rate": 1.7109689055153261e-06, + "loss": 0.0042, + "num_input_tokens_seen": 26693848, + "step": 13635 + }, + { + "epoch": 1.8072895957587807, + "grad_norm": 5.911764621734619, + "learning_rate": 1.7106395186308146e-06, + "loss": 0.0704, + "num_input_tokens_seen": 26697232, + "step": 13636 + }, + { + "epoch": 1.8074221338634857, + "grad_norm": 0.10018294304609299, + "learning_rate": 1.7103101469657185e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26699112, + "step": 13637 + }, + { + "epoch": 1.807554671968191, + "grad_norm": 5.8439812660217285, + "learning_rate": 1.709980790526387e-06, + "loss": 0.0521, + "num_input_tokens_seen": 26700936, + "step": 13638 + }, + { + "epoch": 1.807687210072896, + "grad_norm": 0.07201984524726868, + "learning_rate": 1.7096514493191701e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26702760, + "step": 13639 + }, + { + "epoch": 1.807819748177601, + "grad_norm": 0.28943994641304016, + "learning_rate": 1.7093221233504198e-06, + "loss": 0.0012, + "num_input_tokens_seen": 26704312, + "step": 13640 + }, + { + "epoch": 1.807952286282306, + "grad_norm": 11.068626403808594, + "learning_rate": 1.7089928126264838e-06, + "loss": 0.1829, + "num_input_tokens_seen": 26706344, + "step": 13641 + }, + { + "epoch": 1.8080848243870111, + "grad_norm": 9.36474609375, + "learning_rate": 1.7086635171537125e-06, + "loss": 0.1136, + "num_input_tokens_seen": 26708640, + "step": 13642 + }, + { + "epoch": 1.8082173624917164, + "grad_norm": 5.960879325866699, + "learning_rate": 1.7083342369384548e-06, + "loss": 0.0941, + "num_input_tokens_seen": 26710696, + "step": 13643 + }, + { + "epoch": 1.8083499005964214, + "grad_norm": 5.929085731506348, + "learning_rate": 1.7080049719870578e-06, + "loss": 0.0572, + "num_input_tokens_seen": 26713216, + "step": 13644 + }, + { + "epoch": 1.8084824387011267, + "grad_norm": 11.264347076416016, + "learning_rate": 1.707675722305872e-06, + "loss": 0.3341, + "num_input_tokens_seen": 26715296, + "step": 13645 + }, + { + "epoch": 1.8086149768058317, + "grad_norm": 0.9554985761642456, + "learning_rate": 1.7073464879012453e-06, + "loss": 0.0138, + "num_input_tokens_seen": 26718112, + "step": 13646 + }, + { + "epoch": 1.8087475149105368, + "grad_norm": 7.452111721038818, + "learning_rate": 1.7070172687795245e-06, + "loss": 0.2013, + "num_input_tokens_seen": 26720048, + "step": 13647 + }, + { + "epoch": 1.8088800530152418, + "grad_norm": 12.128656387329102, + "learning_rate": 1.7066880649470584e-06, + "loss": 0.2462, + "num_input_tokens_seen": 26722552, + "step": 13648 + }, + { + "epoch": 1.8090125911199468, + "grad_norm": 0.11128123104572296, + "learning_rate": 1.7063588764101928e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26724080, + "step": 13649 + }, + { + "epoch": 1.809145129224652, + "grad_norm": 0.059791263192892075, + "learning_rate": 1.7060297031752764e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26726616, + "step": 13650 + }, + { + "epoch": 1.8092776673293574, + "grad_norm": 1.3709524869918823, + "learning_rate": 1.705700545248655e-06, + "loss": 0.0138, + "num_input_tokens_seen": 26728320, + "step": 13651 + }, + { + "epoch": 1.8094102054340624, + "grad_norm": 0.5233966708183289, + "learning_rate": 1.7053714026366753e-06, + "loss": 0.0016, + "num_input_tokens_seen": 26731032, + "step": 13652 + }, + { + "epoch": 1.8095427435387674, + "grad_norm": 4.8162407875061035, + "learning_rate": 1.7050422753456825e-06, + "loss": 0.0477, + "num_input_tokens_seen": 26732992, + "step": 13653 + }, + { + "epoch": 1.8096752816434725, + "grad_norm": 7.267902374267578, + "learning_rate": 1.7047131633820224e-06, + "loss": 0.1934, + "num_input_tokens_seen": 26735048, + "step": 13654 + }, + { + "epoch": 1.8098078197481775, + "grad_norm": 2.571226119995117, + "learning_rate": 1.7043840667520422e-06, + "loss": 0.0513, + "num_input_tokens_seen": 26736256, + "step": 13655 + }, + { + "epoch": 1.8099403578528825, + "grad_norm": 2.307441473007202, + "learning_rate": 1.704054985462086e-06, + "loss": 0.033, + "num_input_tokens_seen": 26737936, + "step": 13656 + }, + { + "epoch": 1.8100728959575878, + "grad_norm": 4.7839484214782715, + "learning_rate": 1.7037259195184991e-06, + "loss": 0.0635, + "num_input_tokens_seen": 26740024, + "step": 13657 + }, + { + "epoch": 1.810205434062293, + "grad_norm": 19.164243698120117, + "learning_rate": 1.7033968689276255e-06, + "loss": 0.1451, + "num_input_tokens_seen": 26741552, + "step": 13658 + }, + { + "epoch": 1.810337972166998, + "grad_norm": 0.010858150199055672, + "learning_rate": 1.7030678336958096e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26742904, + "step": 13659 + }, + { + "epoch": 1.8104705102717031, + "grad_norm": 0.1636306196451187, + "learning_rate": 1.7027388138293949e-06, + "loss": 0.001, + "num_input_tokens_seen": 26745016, + "step": 13660 + }, + { + "epoch": 1.8106030483764082, + "grad_norm": 5.617348670959473, + "learning_rate": 1.7024098093347268e-06, + "loss": 0.0648, + "num_input_tokens_seen": 26747032, + "step": 13661 + }, + { + "epoch": 1.8107355864811132, + "grad_norm": 0.15999209880828857, + "learning_rate": 1.7020808202181477e-06, + "loss": 0.0011, + "num_input_tokens_seen": 26748912, + "step": 13662 + }, + { + "epoch": 1.8108681245858185, + "grad_norm": 0.053092870861291885, + "learning_rate": 1.701751846486001e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26751184, + "step": 13663 + }, + { + "epoch": 1.8110006626905235, + "grad_norm": 9.189582824707031, + "learning_rate": 1.7014228881446298e-06, + "loss": 0.065, + "num_input_tokens_seen": 26753176, + "step": 13664 + }, + { + "epoch": 1.8111332007952288, + "grad_norm": 0.009918643161654472, + "learning_rate": 1.701093945200375e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26754864, + "step": 13665 + }, + { + "epoch": 1.8112657388999338, + "grad_norm": 8.936410903930664, + "learning_rate": 1.7007650176595805e-06, + "loss": 0.1359, + "num_input_tokens_seen": 26756920, + "step": 13666 + }, + { + "epoch": 1.8113982770046388, + "grad_norm": 0.03011741116642952, + "learning_rate": 1.7004361055285884e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26758456, + "step": 13667 + }, + { + "epoch": 1.8115308151093439, + "grad_norm": 10.357450485229492, + "learning_rate": 1.7001072088137394e-06, + "loss": 0.0476, + "num_input_tokens_seen": 26759872, + "step": 13668 + }, + { + "epoch": 1.811663353214049, + "grad_norm": 0.13559092581272125, + "learning_rate": 1.6997783275213753e-06, + "loss": 0.0007, + "num_input_tokens_seen": 26762368, + "step": 13669 + }, + { + "epoch": 1.8117958913187542, + "grad_norm": 0.04285366088151932, + "learning_rate": 1.6994494616578364e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26763496, + "step": 13670 + }, + { + "epoch": 1.8119284294234592, + "grad_norm": 9.891592979431152, + "learning_rate": 1.6991206112294645e-06, + "loss": 0.1344, + "num_input_tokens_seen": 26765280, + "step": 13671 + }, + { + "epoch": 1.8120609675281645, + "grad_norm": 10.47362995147705, + "learning_rate": 1.6987917762426004e-06, + "loss": 0.3321, + "num_input_tokens_seen": 26767248, + "step": 13672 + }, + { + "epoch": 1.8121935056328695, + "grad_norm": 8.145865440368652, + "learning_rate": 1.6984629567035837e-06, + "loss": 0.0749, + "num_input_tokens_seen": 26769912, + "step": 13673 + }, + { + "epoch": 1.8123260437375746, + "grad_norm": 0.024657173082232475, + "learning_rate": 1.6981341526187534e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26771528, + "step": 13674 + }, + { + "epoch": 1.8124585818422796, + "grad_norm": 1.251681923866272, + "learning_rate": 1.6978053639944492e-06, + "loss": 0.0104, + "num_input_tokens_seen": 26773696, + "step": 13675 + }, + { + "epoch": 1.8125911199469846, + "grad_norm": 0.3379829525947571, + "learning_rate": 1.6974765908370122e-06, + "loss": 0.0024, + "num_input_tokens_seen": 26774888, + "step": 13676 + }, + { + "epoch": 1.81272365805169, + "grad_norm": 10.027912139892578, + "learning_rate": 1.6971478331527795e-06, + "loss": 0.224, + "num_input_tokens_seen": 26777000, + "step": 13677 + }, + { + "epoch": 1.812856196156395, + "grad_norm": 0.03354233130812645, + "learning_rate": 1.6968190909480914e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26778480, + "step": 13678 + }, + { + "epoch": 1.8129887342611002, + "grad_norm": 0.06725697219371796, + "learning_rate": 1.6964903642292844e-06, + "loss": 0.0005, + "num_input_tokens_seen": 26780264, + "step": 13679 + }, + { + "epoch": 1.8131212723658052, + "grad_norm": 8.696191787719727, + "learning_rate": 1.696161653002697e-06, + "loss": 0.0966, + "num_input_tokens_seen": 26782072, + "step": 13680 + }, + { + "epoch": 1.8132538104705103, + "grad_norm": 7.6293230056762695, + "learning_rate": 1.6958329572746684e-06, + "loss": 0.2191, + "num_input_tokens_seen": 26783656, + "step": 13681 + }, + { + "epoch": 1.8133863485752153, + "grad_norm": 10.231730461120605, + "learning_rate": 1.6955042770515355e-06, + "loss": 0.0424, + "num_input_tokens_seen": 26786080, + "step": 13682 + }, + { + "epoch": 1.8135188866799203, + "grad_norm": 4.857458591461182, + "learning_rate": 1.6951756123396343e-06, + "loss": 0.0611, + "num_input_tokens_seen": 26787528, + "step": 13683 + }, + { + "epoch": 1.8136514247846256, + "grad_norm": 4.548752784729004, + "learning_rate": 1.6948469631453028e-06, + "loss": 0.0782, + "num_input_tokens_seen": 26789128, + "step": 13684 + }, + { + "epoch": 1.8137839628893306, + "grad_norm": 3.4163079261779785, + "learning_rate": 1.6945183294748769e-06, + "loss": 0.0294, + "num_input_tokens_seen": 26791208, + "step": 13685 + }, + { + "epoch": 1.813916500994036, + "grad_norm": 9.968764305114746, + "learning_rate": 1.6941897113346933e-06, + "loss": 0.1163, + "num_input_tokens_seen": 26793928, + "step": 13686 + }, + { + "epoch": 1.814049039098741, + "grad_norm": 2.150343179702759, + "learning_rate": 1.693861108731089e-06, + "loss": 0.0146, + "num_input_tokens_seen": 26796392, + "step": 13687 + }, + { + "epoch": 1.814181577203446, + "grad_norm": 1.8683606386184692, + "learning_rate": 1.6935325216703983e-06, + "loss": 0.0198, + "num_input_tokens_seen": 26798760, + "step": 13688 + }, + { + "epoch": 1.814314115308151, + "grad_norm": 3.1207141876220703, + "learning_rate": 1.6932039501589564e-06, + "loss": 0.0068, + "num_input_tokens_seen": 26800560, + "step": 13689 + }, + { + "epoch": 1.814446653412856, + "grad_norm": 1.9343913793563843, + "learning_rate": 1.6928753942030995e-06, + "loss": 0.0057, + "num_input_tokens_seen": 26801992, + "step": 13690 + }, + { + "epoch": 1.8145791915175613, + "grad_norm": 0.008053869009017944, + "learning_rate": 1.6925468538091605e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26803168, + "step": 13691 + }, + { + "epoch": 1.8147117296222666, + "grad_norm": 10.861091613769531, + "learning_rate": 1.6922183289834763e-06, + "loss": 0.119, + "num_input_tokens_seen": 26805744, + "step": 13692 + }, + { + "epoch": 1.8148442677269716, + "grad_norm": 0.044451646506786346, + "learning_rate": 1.6918898197323801e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26807080, + "step": 13693 + }, + { + "epoch": 1.8149768058316766, + "grad_norm": 6.328668117523193, + "learning_rate": 1.6915613260622052e-06, + "loss": 0.1501, + "num_input_tokens_seen": 26808856, + "step": 13694 + }, + { + "epoch": 1.8151093439363817, + "grad_norm": 0.015891091898083687, + "learning_rate": 1.6912328479792862e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26810664, + "step": 13695 + }, + { + "epoch": 1.8152418820410867, + "grad_norm": 5.2263407707214355, + "learning_rate": 1.6909043854899549e-06, + "loss": 0.2133, + "num_input_tokens_seen": 26812336, + "step": 13696 + }, + { + "epoch": 1.8153744201457918, + "grad_norm": 0.04794013872742653, + "learning_rate": 1.690575938600546e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26814384, + "step": 13697 + }, + { + "epoch": 1.815506958250497, + "grad_norm": 0.009285589680075645, + "learning_rate": 1.6902475073173907e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26816448, + "step": 13698 + }, + { + "epoch": 1.8156394963552023, + "grad_norm": 3.815653085708618, + "learning_rate": 1.689919091646823e-06, + "loss": 0.0531, + "num_input_tokens_seen": 26818128, + "step": 13699 + }, + { + "epoch": 1.8157720344599073, + "grad_norm": 0.13947026431560516, + "learning_rate": 1.6895906915951735e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26819392, + "step": 13700 + }, + { + "epoch": 1.8159045725646124, + "grad_norm": 3.3179209232330322, + "learning_rate": 1.689262307168774e-06, + "loss": 0.0241, + "num_input_tokens_seen": 26820648, + "step": 13701 + }, + { + "epoch": 1.8160371106693174, + "grad_norm": 3.806905746459961, + "learning_rate": 1.6889339383739575e-06, + "loss": 0.0397, + "num_input_tokens_seen": 26822816, + "step": 13702 + }, + { + "epoch": 1.8161696487740224, + "grad_norm": 13.256583213806152, + "learning_rate": 1.6886055852170542e-06, + "loss": 0.168, + "num_input_tokens_seen": 26824760, + "step": 13703 + }, + { + "epoch": 1.8163021868787277, + "grad_norm": 7.474447250366211, + "learning_rate": 1.6882772477043947e-06, + "loss": 0.0962, + "num_input_tokens_seen": 26825984, + "step": 13704 + }, + { + "epoch": 1.8164347249834327, + "grad_norm": 0.0040419134311378, + "learning_rate": 1.6879489258423098e-06, + "loss": 0.0, + "num_input_tokens_seen": 26827184, + "step": 13705 + }, + { + "epoch": 1.816567263088138, + "grad_norm": 7.081380367279053, + "learning_rate": 1.6876206196371292e-06, + "loss": 0.1079, + "num_input_tokens_seen": 26829016, + "step": 13706 + }, + { + "epoch": 1.816699801192843, + "grad_norm": 0.09496753662824631, + "learning_rate": 1.6872923290951838e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26830672, + "step": 13707 + }, + { + "epoch": 1.816832339297548, + "grad_norm": 0.4694381058216095, + "learning_rate": 1.6869640542228035e-06, + "loss": 0.0037, + "num_input_tokens_seen": 26832448, + "step": 13708 + }, + { + "epoch": 1.816964877402253, + "grad_norm": 7.322230815887451, + "learning_rate": 1.686635795026317e-06, + "loss": 0.171, + "num_input_tokens_seen": 26834768, + "step": 13709 + }, + { + "epoch": 1.8170974155069581, + "grad_norm": 0.045652344822883606, + "learning_rate": 1.6863075515120537e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26836552, + "step": 13710 + }, + { + "epoch": 1.8172299536116634, + "grad_norm": 4.509487152099609, + "learning_rate": 1.685979323686341e-06, + "loss": 0.0526, + "num_input_tokens_seen": 26838272, + "step": 13711 + }, + { + "epoch": 1.8173624917163684, + "grad_norm": 9.306081771850586, + "learning_rate": 1.6856511115555094e-06, + "loss": 0.2782, + "num_input_tokens_seen": 26840216, + "step": 13712 + }, + { + "epoch": 1.8174950298210737, + "grad_norm": 0.01784774661064148, + "learning_rate": 1.685322915125886e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26841656, + "step": 13713 + }, + { + "epoch": 1.8176275679257787, + "grad_norm": 1.1983287334442139, + "learning_rate": 1.6849947344037992e-06, + "loss": 0.0116, + "num_input_tokens_seen": 26844424, + "step": 13714 + }, + { + "epoch": 1.8177601060304838, + "grad_norm": 6.389251232147217, + "learning_rate": 1.6846665693955755e-06, + "loss": 0.1549, + "num_input_tokens_seen": 26846376, + "step": 13715 + }, + { + "epoch": 1.8178926441351888, + "grad_norm": 0.005492255557328463, + "learning_rate": 1.6843384201075435e-06, + "loss": 0.0, + "num_input_tokens_seen": 26847488, + "step": 13716 + }, + { + "epoch": 1.8180251822398938, + "grad_norm": 0.051206156611442566, + "learning_rate": 1.6840102865460283e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26849768, + "step": 13717 + }, + { + "epoch": 1.818157720344599, + "grad_norm": 4.382839679718018, + "learning_rate": 1.6836821687173587e-06, + "loss": 0.0479, + "num_input_tokens_seen": 26852280, + "step": 13718 + }, + { + "epoch": 1.8182902584493041, + "grad_norm": 9.08458423614502, + "learning_rate": 1.6833540666278597e-06, + "loss": 0.1701, + "num_input_tokens_seen": 26854712, + "step": 13719 + }, + { + "epoch": 1.8184227965540094, + "grad_norm": 0.05404914170503616, + "learning_rate": 1.6830259802838583e-06, + "loss": 0.0003, + "num_input_tokens_seen": 26857440, + "step": 13720 + }, + { + "epoch": 1.8185553346587144, + "grad_norm": 6.850743293762207, + "learning_rate": 1.682697909691679e-06, + "loss": 0.1703, + "num_input_tokens_seen": 26859160, + "step": 13721 + }, + { + "epoch": 1.8186878727634195, + "grad_norm": 5.739080429077148, + "learning_rate": 1.6823698548576472e-06, + "loss": 0.0481, + "num_input_tokens_seen": 26860976, + "step": 13722 + }, + { + "epoch": 1.8188204108681245, + "grad_norm": 0.010712482035160065, + "learning_rate": 1.6820418157880897e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26862392, + "step": 13723 + }, + { + "epoch": 1.8189529489728296, + "grad_norm": 12.20919132232666, + "learning_rate": 1.6817137924893294e-06, + "loss": 0.1654, + "num_input_tokens_seen": 26864872, + "step": 13724 + }, + { + "epoch": 1.8190854870775348, + "grad_norm": 0.7742608785629272, + "learning_rate": 1.6813857849676928e-06, + "loss": 0.0062, + "num_input_tokens_seen": 26866232, + "step": 13725 + }, + { + "epoch": 1.8192180251822399, + "grad_norm": 0.014639589935541153, + "learning_rate": 1.6810577932295027e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26868664, + "step": 13726 + }, + { + "epoch": 1.819350563286945, + "grad_norm": 6.568999767303467, + "learning_rate": 1.6807298172810823e-06, + "loss": 0.1415, + "num_input_tokens_seen": 26870320, + "step": 13727 + }, + { + "epoch": 1.8194831013916501, + "grad_norm": 4.937580585479736, + "learning_rate": 1.6804018571287567e-06, + "loss": 0.1147, + "num_input_tokens_seen": 26872040, + "step": 13728 + }, + { + "epoch": 1.8196156394963552, + "grad_norm": 4.05419921875, + "learning_rate": 1.6800739127788496e-06, + "loss": 0.0751, + "num_input_tokens_seen": 26873576, + "step": 13729 + }, + { + "epoch": 1.8197481776010602, + "grad_norm": 0.010826563462615013, + "learning_rate": 1.6797459842376822e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26875024, + "step": 13730 + }, + { + "epoch": 1.8198807157057653, + "grad_norm": 13.572599411010742, + "learning_rate": 1.6794180715115789e-06, + "loss": 0.2934, + "num_input_tokens_seen": 26876344, + "step": 13731 + }, + { + "epoch": 1.8200132538104705, + "grad_norm": 0.021069012582302094, + "learning_rate": 1.6790901746068596e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26878216, + "step": 13732 + }, + { + "epoch": 1.8201457919151756, + "grad_norm": 3.3978617191314697, + "learning_rate": 1.6787622935298492e-06, + "loss": 0.0416, + "num_input_tokens_seen": 26881376, + "step": 13733 + }, + { + "epoch": 1.8202783300198808, + "grad_norm": 8.631749153137207, + "learning_rate": 1.6784344282868687e-06, + "loss": 0.1326, + "num_input_tokens_seen": 26883344, + "step": 13734 + }, + { + "epoch": 1.8204108681245859, + "grad_norm": 12.571732521057129, + "learning_rate": 1.6781065788842389e-06, + "loss": 0.3232, + "num_input_tokens_seen": 26885592, + "step": 13735 + }, + { + "epoch": 1.820543406229291, + "grad_norm": 0.009790387004613876, + "learning_rate": 1.6777787453282809e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26887328, + "step": 13736 + }, + { + "epoch": 1.820675944333996, + "grad_norm": 0.017618641257286072, + "learning_rate": 1.6774509276253153e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26888496, + "step": 13737 + }, + { + "epoch": 1.820808482438701, + "grad_norm": 6.8649492263793945, + "learning_rate": 1.6771231257816644e-06, + "loss": 0.1033, + "num_input_tokens_seen": 26890752, + "step": 13738 + }, + { + "epoch": 1.8209410205434062, + "grad_norm": 11.55799674987793, + "learning_rate": 1.6767953398036472e-06, + "loss": 0.2336, + "num_input_tokens_seen": 26892608, + "step": 13739 + }, + { + "epoch": 1.8210735586481115, + "grad_norm": 0.009338089264929295, + "learning_rate": 1.6764675696975839e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26893728, + "step": 13740 + }, + { + "epoch": 1.8212060967528165, + "grad_norm": 3.628601551055908, + "learning_rate": 1.676139815469794e-06, + "loss": 0.0603, + "num_input_tokens_seen": 26895360, + "step": 13741 + }, + { + "epoch": 1.8213386348575216, + "grad_norm": 0.8932361602783203, + "learning_rate": 1.6758120771265956e-06, + "loss": 0.0059, + "num_input_tokens_seen": 26896688, + "step": 13742 + }, + { + "epoch": 1.8214711729622266, + "grad_norm": 2.2833235263824463, + "learning_rate": 1.6754843546743097e-06, + "loss": 0.012, + "num_input_tokens_seen": 26897864, + "step": 13743 + }, + { + "epoch": 1.8216037110669316, + "grad_norm": 0.19593948125839233, + "learning_rate": 1.6751566481192546e-06, + "loss": 0.0011, + "num_input_tokens_seen": 26899728, + "step": 13744 + }, + { + "epoch": 1.821736249171637, + "grad_norm": 9.055383682250977, + "learning_rate": 1.6748289574677478e-06, + "loss": 0.1494, + "num_input_tokens_seen": 26901688, + "step": 13745 + }, + { + "epoch": 1.821868787276342, + "grad_norm": 0.0995856523513794, + "learning_rate": 1.6745012827261086e-06, + "loss": 0.0006, + "num_input_tokens_seen": 26903544, + "step": 13746 + }, + { + "epoch": 1.8220013253810472, + "grad_norm": 0.008811777457594872, + "learning_rate": 1.6741736239006537e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26904848, + "step": 13747 + }, + { + "epoch": 1.8221338634857522, + "grad_norm": 6.910976886749268, + "learning_rate": 1.6738459809977003e-06, + "loss": 0.1535, + "num_input_tokens_seen": 26907536, + "step": 13748 + }, + { + "epoch": 1.8222664015904573, + "grad_norm": 7.716386795043945, + "learning_rate": 1.6735183540235679e-06, + "loss": 0.1874, + "num_input_tokens_seen": 26909880, + "step": 13749 + }, + { + "epoch": 1.8223989396951623, + "grad_norm": 1.5253716707229614, + "learning_rate": 1.6731907429845712e-06, + "loss": 0.0262, + "num_input_tokens_seen": 26912184, + "step": 13750 + }, + { + "epoch": 1.8225314777998673, + "grad_norm": 2.856844663619995, + "learning_rate": 1.6728631478870268e-06, + "loss": 0.0343, + "num_input_tokens_seen": 26914560, + "step": 13751 + }, + { + "epoch": 1.8226640159045726, + "grad_norm": 2.0767605304718018, + "learning_rate": 1.6725355687372523e-06, + "loss": 0.0837, + "num_input_tokens_seen": 26915920, + "step": 13752 + }, + { + "epoch": 1.8227965540092776, + "grad_norm": 0.07072246819734573, + "learning_rate": 1.6722080055415617e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26917720, + "step": 13753 + }, + { + "epoch": 1.822929092113983, + "grad_norm": 2.274055004119873, + "learning_rate": 1.6718804583062726e-06, + "loss": 0.0202, + "num_input_tokens_seen": 26920904, + "step": 13754 + }, + { + "epoch": 1.823061630218688, + "grad_norm": 9.156266212463379, + "learning_rate": 1.6715529270377002e-06, + "loss": 0.1091, + "num_input_tokens_seen": 26923824, + "step": 13755 + }, + { + "epoch": 1.823194168323393, + "grad_norm": 0.47864511609077454, + "learning_rate": 1.6712254117421584e-06, + "loss": 0.0034, + "num_input_tokens_seen": 26925224, + "step": 13756 + }, + { + "epoch": 1.823326706428098, + "grad_norm": 9.103716850280762, + "learning_rate": 1.6708979124259623e-06, + "loss": 0.2924, + "num_input_tokens_seen": 26927512, + "step": 13757 + }, + { + "epoch": 1.823459244532803, + "grad_norm": 0.0825406014919281, + "learning_rate": 1.6705704290954256e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26929104, + "step": 13758 + }, + { + "epoch": 1.8235917826375083, + "grad_norm": 0.38563787937164307, + "learning_rate": 1.6702429617568642e-06, + "loss": 0.0023, + "num_input_tokens_seen": 26931560, + "step": 13759 + }, + { + "epoch": 1.8237243207422134, + "grad_norm": 11.694995880126953, + "learning_rate": 1.6699155104165903e-06, + "loss": 0.3276, + "num_input_tokens_seen": 26934328, + "step": 13760 + }, + { + "epoch": 1.8238568588469186, + "grad_norm": 0.1280740350484848, + "learning_rate": 1.669588075080919e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26936952, + "step": 13761 + }, + { + "epoch": 1.8239893969516237, + "grad_norm": 11.53473949432373, + "learning_rate": 1.6692606557561617e-06, + "loss": 0.2586, + "num_input_tokens_seen": 26938784, + "step": 13762 + }, + { + "epoch": 1.8241219350563287, + "grad_norm": 0.010729270987212658, + "learning_rate": 1.6689332524486316e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26939944, + "step": 13763 + }, + { + "epoch": 1.8242544731610337, + "grad_norm": 1.6182721853256226, + "learning_rate": 1.6686058651646424e-06, + "loss": 0.035, + "num_input_tokens_seen": 26941680, + "step": 13764 + }, + { + "epoch": 1.8243870112657388, + "grad_norm": 15.488408088684082, + "learning_rate": 1.6682784939105062e-06, + "loss": 0.3258, + "num_input_tokens_seen": 26944840, + "step": 13765 + }, + { + "epoch": 1.824519549370444, + "grad_norm": 8.061427116394043, + "learning_rate": 1.6679511386925337e-06, + "loss": 0.0239, + "num_input_tokens_seen": 26946376, + "step": 13766 + }, + { + "epoch": 1.824652087475149, + "grad_norm": 3.0624942779541016, + "learning_rate": 1.6676237995170378e-06, + "loss": 0.036, + "num_input_tokens_seen": 26947840, + "step": 13767 + }, + { + "epoch": 1.8247846255798543, + "grad_norm": 0.7073823809623718, + "learning_rate": 1.6672964763903283e-06, + "loss": 0.0034, + "num_input_tokens_seen": 26949824, + "step": 13768 + }, + { + "epoch": 1.8249171636845594, + "grad_norm": 1.0578587055206299, + "learning_rate": 1.6669691693187173e-06, + "loss": 0.0062, + "num_input_tokens_seen": 26951168, + "step": 13769 + }, + { + "epoch": 1.8250497017892644, + "grad_norm": 10.005724906921387, + "learning_rate": 1.6666418783085164e-06, + "loss": 0.1139, + "num_input_tokens_seen": 26953392, + "step": 13770 + }, + { + "epoch": 1.8251822398939694, + "grad_norm": 0.40264299511909485, + "learning_rate": 1.6663146033660342e-06, + "loss": 0.0027, + "num_input_tokens_seen": 26954656, + "step": 13771 + }, + { + "epoch": 1.8253147779986745, + "grad_norm": 3.569605588912964, + "learning_rate": 1.6659873444975822e-06, + "loss": 0.0326, + "num_input_tokens_seen": 26956848, + "step": 13772 + }, + { + "epoch": 1.8254473161033797, + "grad_norm": 14.310128211975098, + "learning_rate": 1.6656601017094695e-06, + "loss": 0.6194, + "num_input_tokens_seen": 26959960, + "step": 13773 + }, + { + "epoch": 1.8255798542080848, + "grad_norm": 2.8636529445648193, + "learning_rate": 1.6653328750080044e-06, + "loss": 0.0351, + "num_input_tokens_seen": 26961912, + "step": 13774 + }, + { + "epoch": 1.82571239231279, + "grad_norm": 0.026560654863715172, + "learning_rate": 1.6650056643994984e-06, + "loss": 0.0002, + "num_input_tokens_seen": 26963896, + "step": 13775 + }, + { + "epoch": 1.825844930417495, + "grad_norm": 0.09332794696092606, + "learning_rate": 1.664678469890259e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26965544, + "step": 13776 + }, + { + "epoch": 1.8259774685222, + "grad_norm": 6.64898157119751, + "learning_rate": 1.664351291486595e-06, + "loss": 0.2414, + "num_input_tokens_seen": 26968288, + "step": 13777 + }, + { + "epoch": 1.8261100066269051, + "grad_norm": 10.039253234863281, + "learning_rate": 1.6640241291948149e-06, + "loss": 0.1969, + "num_input_tokens_seen": 26970664, + "step": 13778 + }, + { + "epoch": 1.8262425447316102, + "grad_norm": 0.018191635608673096, + "learning_rate": 1.6636969830212252e-06, + "loss": 0.0001, + "num_input_tokens_seen": 26973448, + "step": 13779 + }, + { + "epoch": 1.8263750828363154, + "grad_norm": 7.044430732727051, + "learning_rate": 1.6633698529721356e-06, + "loss": 0.186, + "num_input_tokens_seen": 26975616, + "step": 13780 + }, + { + "epoch": 1.8265076209410207, + "grad_norm": 0.45687752962112427, + "learning_rate": 1.663042739053852e-06, + "loss": 0.0018, + "num_input_tokens_seen": 26978536, + "step": 13781 + }, + { + "epoch": 1.8266401590457257, + "grad_norm": 0.25599250197410583, + "learning_rate": 1.6627156412726822e-06, + "loss": 0.0017, + "num_input_tokens_seen": 26980416, + "step": 13782 + }, + { + "epoch": 1.8267726971504308, + "grad_norm": 0.06131959706544876, + "learning_rate": 1.6623885596349322e-06, + "loss": 0.0004, + "num_input_tokens_seen": 26983392, + "step": 13783 + }, + { + "epoch": 1.8269052352551358, + "grad_norm": 1.2535897493362427, + "learning_rate": 1.6620614941469077e-06, + "loss": 0.0107, + "num_input_tokens_seen": 26985216, + "step": 13784 + }, + { + "epoch": 1.8270377733598409, + "grad_norm": 12.878814697265625, + "learning_rate": 1.661734444814917e-06, + "loss": 0.3665, + "num_input_tokens_seen": 26987192, + "step": 13785 + }, + { + "epoch": 1.827170311464546, + "grad_norm": 0.008703788742423058, + "learning_rate": 1.661407411645264e-06, + "loss": 0.0, + "num_input_tokens_seen": 26989336, + "step": 13786 + }, + { + "epoch": 1.8273028495692512, + "grad_norm": 0.16823241114616394, + "learning_rate": 1.6610803946442546e-06, + "loss": 0.0008, + "num_input_tokens_seen": 26990960, + "step": 13787 + }, + { + "epoch": 1.8274353876739564, + "grad_norm": 1.7259310483932495, + "learning_rate": 1.6607533938181947e-06, + "loss": 0.0045, + "num_input_tokens_seen": 26992416, + "step": 13788 + }, + { + "epoch": 1.8275679257786615, + "grad_norm": 5.079961776733398, + "learning_rate": 1.6604264091733868e-06, + "loss": 0.1147, + "num_input_tokens_seen": 26995592, + "step": 13789 + }, + { + "epoch": 1.8277004638833665, + "grad_norm": 13.560264587402344, + "learning_rate": 1.6600994407161374e-06, + "loss": 0.3034, + "num_input_tokens_seen": 26998032, + "step": 13790 + }, + { + "epoch": 1.8278330019880715, + "grad_norm": 13.923527717590332, + "learning_rate": 1.659772488452751e-06, + "loss": 0.1741, + "num_input_tokens_seen": 27000152, + "step": 13791 + }, + { + "epoch": 1.8279655400927766, + "grad_norm": 5.546554088592529, + "learning_rate": 1.6594455523895297e-06, + "loss": 0.0912, + "num_input_tokens_seen": 27001560, + "step": 13792 + }, + { + "epoch": 1.8280980781974818, + "grad_norm": 0.16090849041938782, + "learning_rate": 1.659118632532779e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27004304, + "step": 13793 + }, + { + "epoch": 1.8282306163021869, + "grad_norm": 7.135461807250977, + "learning_rate": 1.6587917288888e-06, + "loss": 0.1001, + "num_input_tokens_seen": 27005992, + "step": 13794 + }, + { + "epoch": 1.8283631544068921, + "grad_norm": 12.784433364868164, + "learning_rate": 1.6584648414638978e-06, + "loss": 0.3311, + "num_input_tokens_seen": 27007816, + "step": 13795 + }, + { + "epoch": 1.8284956925115972, + "grad_norm": 8.874312400817871, + "learning_rate": 1.6581379702643735e-06, + "loss": 0.2221, + "num_input_tokens_seen": 27009736, + "step": 13796 + }, + { + "epoch": 1.8286282306163022, + "grad_norm": 3.3028244972229004, + "learning_rate": 1.6578111152965304e-06, + "loss": 0.0928, + "num_input_tokens_seen": 27011040, + "step": 13797 + }, + { + "epoch": 1.8287607687210072, + "grad_norm": 0.1971087008714676, + "learning_rate": 1.6574842765666696e-06, + "loss": 0.0017, + "num_input_tokens_seen": 27012776, + "step": 13798 + }, + { + "epoch": 1.8288933068257123, + "grad_norm": 11.006721496582031, + "learning_rate": 1.6571574540810924e-06, + "loss": 0.143, + "num_input_tokens_seen": 27015296, + "step": 13799 + }, + { + "epoch": 1.8290258449304175, + "grad_norm": 13.00698184967041, + "learning_rate": 1.6568306478461021e-06, + "loss": 0.3248, + "num_input_tokens_seen": 27017784, + "step": 13800 + }, + { + "epoch": 1.8291583830351226, + "grad_norm": 0.019007472321391106, + "learning_rate": 1.6565038578679981e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27019336, + "step": 13801 + }, + { + "epoch": 1.8292909211398278, + "grad_norm": 10.42569637298584, + "learning_rate": 1.6561770841530822e-06, + "loss": 0.225, + "num_input_tokens_seen": 27021536, + "step": 13802 + }, + { + "epoch": 1.8294234592445329, + "grad_norm": 0.6118856072425842, + "learning_rate": 1.6558503267076542e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27023296, + "step": 13803 + }, + { + "epoch": 1.829555997349238, + "grad_norm": 9.374180793762207, + "learning_rate": 1.6555235855380137e-06, + "loss": 0.1746, + "num_input_tokens_seen": 27025944, + "step": 13804 + }, + { + "epoch": 1.829688535453943, + "grad_norm": 0.3436411917209625, + "learning_rate": 1.6551968606504604e-06, + "loss": 0.0019, + "num_input_tokens_seen": 27028376, + "step": 13805 + }, + { + "epoch": 1.829821073558648, + "grad_norm": 3.397745132446289, + "learning_rate": 1.6548701520512954e-06, + "loss": 0.0346, + "num_input_tokens_seen": 27029856, + "step": 13806 + }, + { + "epoch": 1.8299536116633532, + "grad_norm": 5.769129753112793, + "learning_rate": 1.6545434597468169e-06, + "loss": 0.076, + "num_input_tokens_seen": 27031688, + "step": 13807 + }, + { + "epoch": 1.8300861497680583, + "grad_norm": 5.274041175842285, + "learning_rate": 1.6542167837433237e-06, + "loss": 0.1264, + "num_input_tokens_seen": 27033400, + "step": 13808 + }, + { + "epoch": 1.8302186878727635, + "grad_norm": 2.8539609909057617, + "learning_rate": 1.6538901240471146e-06, + "loss": 0.0187, + "num_input_tokens_seen": 27035072, + "step": 13809 + }, + { + "epoch": 1.8303512259774686, + "grad_norm": 6.022241115570068, + "learning_rate": 1.6535634806644868e-06, + "loss": 0.171, + "num_input_tokens_seen": 27037248, + "step": 13810 + }, + { + "epoch": 1.8304837640821736, + "grad_norm": 5.588782787322998, + "learning_rate": 1.6532368536017393e-06, + "loss": 0.0299, + "num_input_tokens_seen": 27040104, + "step": 13811 + }, + { + "epoch": 1.8306163021868787, + "grad_norm": 11.182650566101074, + "learning_rate": 1.65291024286517e-06, + "loss": 0.3177, + "num_input_tokens_seen": 27042304, + "step": 13812 + }, + { + "epoch": 1.8307488402915837, + "grad_norm": 2.9568207263946533, + "learning_rate": 1.652583648461075e-06, + "loss": 0.0317, + "num_input_tokens_seen": 27044256, + "step": 13813 + }, + { + "epoch": 1.830881378396289, + "grad_norm": 7.3278117179870605, + "learning_rate": 1.6522570703957524e-06, + "loss": 0.1726, + "num_input_tokens_seen": 27046656, + "step": 13814 + }, + { + "epoch": 1.831013916500994, + "grad_norm": 6.596843719482422, + "learning_rate": 1.6519305086754973e-06, + "loss": 0.0889, + "num_input_tokens_seen": 27048896, + "step": 13815 + }, + { + "epoch": 1.8311464546056992, + "grad_norm": 1.1608270406723022, + "learning_rate": 1.6516039633066072e-06, + "loss": 0.0064, + "num_input_tokens_seen": 27050328, + "step": 13816 + }, + { + "epoch": 1.8312789927104043, + "grad_norm": 0.11678385734558105, + "learning_rate": 1.651277434295379e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27052944, + "step": 13817 + }, + { + "epoch": 1.8314115308151093, + "grad_norm": 1.559276819229126, + "learning_rate": 1.6509509216481074e-06, + "loss": 0.0065, + "num_input_tokens_seen": 27054648, + "step": 13818 + }, + { + "epoch": 1.8315440689198144, + "grad_norm": 14.69687557220459, + "learning_rate": 1.6506244253710867e-06, + "loss": 0.2799, + "num_input_tokens_seen": 27056528, + "step": 13819 + }, + { + "epoch": 1.8316766070245194, + "grad_norm": 8.848258972167969, + "learning_rate": 1.6502979454706132e-06, + "loss": 0.1513, + "num_input_tokens_seen": 27058360, + "step": 13820 + }, + { + "epoch": 1.8318091451292247, + "grad_norm": 0.059766095131635666, + "learning_rate": 1.6499714819529822e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27061080, + "step": 13821 + }, + { + "epoch": 1.83194168323393, + "grad_norm": 5.284430027008057, + "learning_rate": 1.6496450348244866e-06, + "loss": 0.1444, + "num_input_tokens_seen": 27063464, + "step": 13822 + }, + { + "epoch": 1.832074221338635, + "grad_norm": 0.013883347623050213, + "learning_rate": 1.6493186040914221e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27065136, + "step": 13823 + }, + { + "epoch": 1.83220675944334, + "grad_norm": 0.011097117327153683, + "learning_rate": 1.6489921897600814e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27066456, + "step": 13824 + }, + { + "epoch": 1.832339297548045, + "grad_norm": 3.7872228622436523, + "learning_rate": 1.6486657918367577e-06, + "loss": 0.0279, + "num_input_tokens_seen": 27067928, + "step": 13825 + }, + { + "epoch": 1.83247183565275, + "grad_norm": 2.3467352390289307, + "learning_rate": 1.648339410327746e-06, + "loss": 0.0238, + "num_input_tokens_seen": 27069232, + "step": 13826 + }, + { + "epoch": 1.832604373757455, + "grad_norm": 6.7321014404296875, + "learning_rate": 1.6480130452393378e-06, + "loss": 0.0255, + "num_input_tokens_seen": 27070784, + "step": 13827 + }, + { + "epoch": 1.8327369118621604, + "grad_norm": 1.1521660089492798, + "learning_rate": 1.6476866965778255e-06, + "loss": 0.0061, + "num_input_tokens_seen": 27072480, + "step": 13828 + }, + { + "epoch": 1.8328694499668656, + "grad_norm": 7.264502048492432, + "learning_rate": 1.6473603643495022e-06, + "loss": 0.0687, + "num_input_tokens_seen": 27074232, + "step": 13829 + }, + { + "epoch": 1.8330019880715707, + "grad_norm": 0.0028025333303958178, + "learning_rate": 1.6470340485606589e-06, + "loss": 0.0, + "num_input_tokens_seen": 27075144, + "step": 13830 + }, + { + "epoch": 1.8331345261762757, + "grad_norm": 9.593247413635254, + "learning_rate": 1.6467077492175868e-06, + "loss": 0.2325, + "num_input_tokens_seen": 27077752, + "step": 13831 + }, + { + "epoch": 1.8332670642809807, + "grad_norm": 4.072556018829346, + "learning_rate": 1.646381466326579e-06, + "loss": 0.0884, + "num_input_tokens_seen": 27079960, + "step": 13832 + }, + { + "epoch": 1.8333996023856858, + "grad_norm": 4.867427825927734, + "learning_rate": 1.6460551998939256e-06, + "loss": 0.0427, + "num_input_tokens_seen": 27083048, + "step": 13833 + }, + { + "epoch": 1.833532140490391, + "grad_norm": 5.690303325653076, + "learning_rate": 1.6457289499259163e-06, + "loss": 0.206, + "num_input_tokens_seen": 27085240, + "step": 13834 + }, + { + "epoch": 1.833664678595096, + "grad_norm": 0.08800266683101654, + "learning_rate": 1.6454027164288427e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27086888, + "step": 13835 + }, + { + "epoch": 1.8337972166998013, + "grad_norm": 11.869974136352539, + "learning_rate": 1.6450764994089936e-06, + "loss": 0.2796, + "num_input_tokens_seen": 27089128, + "step": 13836 + }, + { + "epoch": 1.8339297548045064, + "grad_norm": 2.932394027709961, + "learning_rate": 1.6447502988726593e-06, + "loss": 0.0314, + "num_input_tokens_seen": 27091160, + "step": 13837 + }, + { + "epoch": 1.8340622929092114, + "grad_norm": 0.0045118173584342, + "learning_rate": 1.6444241148261304e-06, + "loss": 0.0, + "num_input_tokens_seen": 27092552, + "step": 13838 + }, + { + "epoch": 1.8341948310139164, + "grad_norm": 9.20363712310791, + "learning_rate": 1.6440979472756937e-06, + "loss": 0.1359, + "num_input_tokens_seen": 27095384, + "step": 13839 + }, + { + "epoch": 1.8343273691186215, + "grad_norm": 6.207511901855469, + "learning_rate": 1.6437717962276401e-06, + "loss": 0.144, + "num_input_tokens_seen": 27097704, + "step": 13840 + }, + { + "epoch": 1.8344599072233267, + "grad_norm": 0.47158950567245483, + "learning_rate": 1.6434456616882555e-06, + "loss": 0.0027, + "num_input_tokens_seen": 27100760, + "step": 13841 + }, + { + "epoch": 1.8345924453280318, + "grad_norm": 3.188619375228882, + "learning_rate": 1.6431195436638306e-06, + "loss": 0.0398, + "num_input_tokens_seen": 27102584, + "step": 13842 + }, + { + "epoch": 1.834724983432737, + "grad_norm": 8.77248477935791, + "learning_rate": 1.6427934421606518e-06, + "loss": 0.1688, + "num_input_tokens_seen": 27104424, + "step": 13843 + }, + { + "epoch": 1.834857521537442, + "grad_norm": 0.036850396543741226, + "learning_rate": 1.642467357185007e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27105824, + "step": 13844 + }, + { + "epoch": 1.8349900596421471, + "grad_norm": 4.096722602844238, + "learning_rate": 1.6421412887431827e-06, + "loss": 0.0875, + "num_input_tokens_seen": 27107904, + "step": 13845 + }, + { + "epoch": 1.8351225977468522, + "grad_norm": 1.0746254920959473, + "learning_rate": 1.6418152368414653e-06, + "loss": 0.0095, + "num_input_tokens_seen": 27109304, + "step": 13846 + }, + { + "epoch": 1.8352551358515572, + "grad_norm": 3.4912657737731934, + "learning_rate": 1.6414892014861435e-06, + "loss": 0.0568, + "num_input_tokens_seen": 27111008, + "step": 13847 + }, + { + "epoch": 1.8353876739562625, + "grad_norm": 0.034731313586235046, + "learning_rate": 1.6411631826835023e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27112296, + "step": 13848 + }, + { + "epoch": 1.8355202120609675, + "grad_norm": 0.11095807701349258, + "learning_rate": 1.6408371804398265e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27114776, + "step": 13849 + }, + { + "epoch": 1.8356527501656728, + "grad_norm": 0.028012752532958984, + "learning_rate": 1.6405111947614036e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27116176, + "step": 13850 + }, + { + "epoch": 1.8357852882703778, + "grad_norm": 0.01476307399570942, + "learning_rate": 1.6401852256545164e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27117632, + "step": 13851 + }, + { + "epoch": 1.8359178263750828, + "grad_norm": 5.5086870193481445, + "learning_rate": 1.639859273125452e-06, + "loss": 0.151, + "num_input_tokens_seen": 27121088, + "step": 13852 + }, + { + "epoch": 1.8360503644797879, + "grad_norm": 0.03542112931609154, + "learning_rate": 1.6395333371804945e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27122480, + "step": 13853 + }, + { + "epoch": 1.836182902584493, + "grad_norm": 8.717010498046875, + "learning_rate": 1.6392074178259275e-06, + "loss": 0.2459, + "num_input_tokens_seen": 27124240, + "step": 13854 + }, + { + "epoch": 1.8363154406891982, + "grad_norm": 2.0424365997314453, + "learning_rate": 1.6388815150680354e-06, + "loss": 0.0335, + "num_input_tokens_seen": 27125632, + "step": 13855 + }, + { + "epoch": 1.8364479787939032, + "grad_norm": 8.256789207458496, + "learning_rate": 1.6385556289131011e-06, + "loss": 0.0681, + "num_input_tokens_seen": 27127088, + "step": 13856 + }, + { + "epoch": 1.8365805168986085, + "grad_norm": 0.03946193307638168, + "learning_rate": 1.6382297593674095e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27129312, + "step": 13857 + }, + { + "epoch": 1.8367130550033135, + "grad_norm": 0.06909149140119553, + "learning_rate": 1.637903906437242e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27131520, + "step": 13858 + }, + { + "epoch": 1.8368455931080185, + "grad_norm": 5.448919773101807, + "learning_rate": 1.637578070128883e-06, + "loss": 0.0683, + "num_input_tokens_seen": 27132952, + "step": 13859 + }, + { + "epoch": 1.8369781312127236, + "grad_norm": 5.2275896072387695, + "learning_rate": 1.6372522504486128e-06, + "loss": 0.1855, + "num_input_tokens_seen": 27134560, + "step": 13860 + }, + { + "epoch": 1.8371106693174286, + "grad_norm": 0.21436308324337006, + "learning_rate": 1.6369264474027147e-06, + "loss": 0.002, + "num_input_tokens_seen": 27136256, + "step": 13861 + }, + { + "epoch": 1.8372432074221339, + "grad_norm": 8.917954444885254, + "learning_rate": 1.6366006609974694e-06, + "loss": 0.1654, + "num_input_tokens_seen": 27138432, + "step": 13862 + }, + { + "epoch": 1.8373757455268391, + "grad_norm": 0.016078729182481766, + "learning_rate": 1.63627489123916e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27139904, + "step": 13863 + }, + { + "epoch": 1.8375082836315442, + "grad_norm": 0.3419841527938843, + "learning_rate": 1.6359491381340659e-06, + "loss": 0.002, + "num_input_tokens_seen": 27141424, + "step": 13864 + }, + { + "epoch": 1.8376408217362492, + "grad_norm": 18.228151321411133, + "learning_rate": 1.635623401688469e-06, + "loss": 0.4718, + "num_input_tokens_seen": 27143824, + "step": 13865 + }, + { + "epoch": 1.8377733598409542, + "grad_norm": 0.36260828375816345, + "learning_rate": 1.6352976819086487e-06, + "loss": 0.0024, + "num_input_tokens_seen": 27146424, + "step": 13866 + }, + { + "epoch": 1.8379058979456593, + "grad_norm": 7.668232440948486, + "learning_rate": 1.634971978800885e-06, + "loss": 0.1208, + "num_input_tokens_seen": 27148760, + "step": 13867 + }, + { + "epoch": 1.8380384360503643, + "grad_norm": 8.884526252746582, + "learning_rate": 1.6346462923714595e-06, + "loss": 0.1417, + "num_input_tokens_seen": 27150520, + "step": 13868 + }, + { + "epoch": 1.8381709741550696, + "grad_norm": 0.27711406350135803, + "learning_rate": 1.63432062262665e-06, + "loss": 0.0022, + "num_input_tokens_seen": 27151784, + "step": 13869 + }, + { + "epoch": 1.8383035122597748, + "grad_norm": 1.8439300060272217, + "learning_rate": 1.6339949695727366e-06, + "loss": 0.0177, + "num_input_tokens_seen": 27154184, + "step": 13870 + }, + { + "epoch": 1.8384360503644799, + "grad_norm": 10.513206481933594, + "learning_rate": 1.6336693332159976e-06, + "loss": 0.262, + "num_input_tokens_seen": 27156032, + "step": 13871 + }, + { + "epoch": 1.838568588469185, + "grad_norm": 6.80433464050293, + "learning_rate": 1.6333437135627106e-06, + "loss": 0.1038, + "num_input_tokens_seen": 27157584, + "step": 13872 + }, + { + "epoch": 1.83870112657389, + "grad_norm": 3.8492870330810547, + "learning_rate": 1.633018110619155e-06, + "loss": 0.0385, + "num_input_tokens_seen": 27159904, + "step": 13873 + }, + { + "epoch": 1.838833664678595, + "grad_norm": 1.2773135900497437, + "learning_rate": 1.6326925243916086e-06, + "loss": 0.0114, + "num_input_tokens_seen": 27162224, + "step": 13874 + }, + { + "epoch": 1.8389662027833003, + "grad_norm": 4.104182720184326, + "learning_rate": 1.6323669548863486e-06, + "loss": 0.0776, + "num_input_tokens_seen": 27163848, + "step": 13875 + }, + { + "epoch": 1.8390987408880053, + "grad_norm": 4.230804920196533, + "learning_rate": 1.6320414021096525e-06, + "loss": 0.0323, + "num_input_tokens_seen": 27165672, + "step": 13876 + }, + { + "epoch": 1.8392312789927105, + "grad_norm": 7.107476711273193, + "learning_rate": 1.6317158660677962e-06, + "loss": 0.104, + "num_input_tokens_seen": 27167248, + "step": 13877 + }, + { + "epoch": 1.8393638170974156, + "grad_norm": 0.048487525433301926, + "learning_rate": 1.6313903467670572e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27168760, + "step": 13878 + }, + { + "epoch": 1.8394963552021206, + "grad_norm": 6.286853313446045, + "learning_rate": 1.6310648442137122e-06, + "loss": 0.0352, + "num_input_tokens_seen": 27170928, + "step": 13879 + }, + { + "epoch": 1.8396288933068257, + "grad_norm": 0.051462478935718536, + "learning_rate": 1.6307393584140362e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27172368, + "step": 13880 + }, + { + "epoch": 1.8397614314115307, + "grad_norm": 1.7079052925109863, + "learning_rate": 1.6304138893743049e-06, + "loss": 0.0109, + "num_input_tokens_seen": 27174272, + "step": 13881 + }, + { + "epoch": 1.839893969516236, + "grad_norm": 3.1776630878448486, + "learning_rate": 1.630088437100793e-06, + "loss": 0.0732, + "num_input_tokens_seen": 27175648, + "step": 13882 + }, + { + "epoch": 1.840026507620941, + "grad_norm": 1.640306830406189, + "learning_rate": 1.6297630015997772e-06, + "loss": 0.0073, + "num_input_tokens_seen": 27177552, + "step": 13883 + }, + { + "epoch": 1.8401590457256463, + "grad_norm": 5.89121150970459, + "learning_rate": 1.6294375828775306e-06, + "loss": 0.1325, + "num_input_tokens_seen": 27179584, + "step": 13884 + }, + { + "epoch": 1.8402915838303513, + "grad_norm": 0.9397594928741455, + "learning_rate": 1.6291121809403287e-06, + "loss": 0.008, + "num_input_tokens_seen": 27181080, + "step": 13885 + }, + { + "epoch": 1.8404241219350563, + "grad_norm": 12.027832984924316, + "learning_rate": 1.6287867957944443e-06, + "loss": 0.1802, + "num_input_tokens_seen": 27183104, + "step": 13886 + }, + { + "epoch": 1.8405566600397614, + "grad_norm": 0.012186788953840733, + "learning_rate": 1.6284614274461514e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27184432, + "step": 13887 + }, + { + "epoch": 1.8406891981444664, + "grad_norm": 5.671597003936768, + "learning_rate": 1.6281360759017225e-06, + "loss": 0.0672, + "num_input_tokens_seen": 27186416, + "step": 13888 + }, + { + "epoch": 1.8408217362491717, + "grad_norm": 4.935153961181641, + "learning_rate": 1.6278107411674326e-06, + "loss": 0.0794, + "num_input_tokens_seen": 27188088, + "step": 13889 + }, + { + "epoch": 1.8409542743538767, + "grad_norm": 0.025124434381723404, + "learning_rate": 1.6274854232495533e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27189216, + "step": 13890 + }, + { + "epoch": 1.841086812458582, + "grad_norm": 0.014137721620500088, + "learning_rate": 1.627160122154357e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27190336, + "step": 13891 + }, + { + "epoch": 1.841219350563287, + "grad_norm": 8.36864185333252, + "learning_rate": 1.6268348378881154e-06, + "loss": 0.1229, + "num_input_tokens_seen": 27192560, + "step": 13892 + }, + { + "epoch": 1.841351888667992, + "grad_norm": 2.253206729888916, + "learning_rate": 1.6265095704570998e-06, + "loss": 0.0254, + "num_input_tokens_seen": 27194656, + "step": 13893 + }, + { + "epoch": 1.841484426772697, + "grad_norm": 0.022708438336849213, + "learning_rate": 1.6261843198675834e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27196712, + "step": 13894 + }, + { + "epoch": 1.8416169648774021, + "grad_norm": 15.598467826843262, + "learning_rate": 1.625859086125836e-06, + "loss": 0.4337, + "num_input_tokens_seen": 27198640, + "step": 13895 + }, + { + "epoch": 1.8417495029821074, + "grad_norm": 3.3812882900238037, + "learning_rate": 1.6255338692381281e-06, + "loss": 0.0298, + "num_input_tokens_seen": 27201216, + "step": 13896 + }, + { + "epoch": 1.8418820410868124, + "grad_norm": 0.04800642654299736, + "learning_rate": 1.6252086692107311e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27202672, + "step": 13897 + }, + { + "epoch": 1.8420145791915177, + "grad_norm": 6.243416786193848, + "learning_rate": 1.624883486049913e-06, + "loss": 0.0231, + "num_input_tokens_seen": 27205240, + "step": 13898 + }, + { + "epoch": 1.8421471172962227, + "grad_norm": 5.604911804199219, + "learning_rate": 1.6245583197619457e-06, + "loss": 0.1072, + "num_input_tokens_seen": 27207776, + "step": 13899 + }, + { + "epoch": 1.8422796554009278, + "grad_norm": 11.394950866699219, + "learning_rate": 1.6242331703530987e-06, + "loss": 0.266, + "num_input_tokens_seen": 27210536, + "step": 13900 + }, + { + "epoch": 1.8424121935056328, + "grad_norm": 0.3222777545452118, + "learning_rate": 1.62390803782964e-06, + "loss": 0.0018, + "num_input_tokens_seen": 27212432, + "step": 13901 + }, + { + "epoch": 1.8425447316103378, + "grad_norm": 0.02999718300998211, + "learning_rate": 1.6235829221978384e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27215920, + "step": 13902 + }, + { + "epoch": 1.842677269715043, + "grad_norm": 0.12040308117866516, + "learning_rate": 1.623257823463962e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27217680, + "step": 13903 + }, + { + "epoch": 1.8428098078197481, + "grad_norm": 12.774290084838867, + "learning_rate": 1.6229327416342807e-06, + "loss": 0.2924, + "num_input_tokens_seen": 27220720, + "step": 13904 + }, + { + "epoch": 1.8429423459244534, + "grad_norm": 0.04908725991845131, + "learning_rate": 1.6226076767150606e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27222592, + "step": 13905 + }, + { + "epoch": 1.8430748840291584, + "grad_norm": 0.043988581746816635, + "learning_rate": 1.6222826287125703e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27224520, + "step": 13906 + }, + { + "epoch": 1.8432074221338635, + "grad_norm": 3.9521000385284424, + "learning_rate": 1.6219575976330761e-06, + "loss": 0.125, + "num_input_tokens_seen": 27226824, + "step": 13907 + }, + { + "epoch": 1.8433399602385685, + "grad_norm": 0.17472125589847565, + "learning_rate": 1.6216325834828448e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27228456, + "step": 13908 + }, + { + "epoch": 1.8434724983432735, + "grad_norm": 8.633052825927734, + "learning_rate": 1.6213075862681438e-06, + "loss": 0.1033, + "num_input_tokens_seen": 27230704, + "step": 13909 + }, + { + "epoch": 1.8436050364479788, + "grad_norm": 0.26491162180900574, + "learning_rate": 1.6209826059952389e-06, + "loss": 0.0014, + "num_input_tokens_seen": 27232040, + "step": 13910 + }, + { + "epoch": 1.843737574552684, + "grad_norm": 5.425374984741211, + "learning_rate": 1.6206576426703955e-06, + "loss": 0.1877, + "num_input_tokens_seen": 27234424, + "step": 13911 + }, + { + "epoch": 1.843870112657389, + "grad_norm": 0.01962396875023842, + "learning_rate": 1.6203326962998795e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27236416, + "step": 13912 + }, + { + "epoch": 1.8440026507620941, + "grad_norm": 3.920288324356079, + "learning_rate": 1.620007766889955e-06, + "loss": 0.0815, + "num_input_tokens_seen": 27238360, + "step": 13913 + }, + { + "epoch": 1.8441351888667992, + "grad_norm": 0.009308967739343643, + "learning_rate": 1.6196828544468884e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27239960, + "step": 13914 + }, + { + "epoch": 1.8442677269715042, + "grad_norm": 4.488587856292725, + "learning_rate": 1.6193579589769442e-06, + "loss": 0.0794, + "num_input_tokens_seen": 27241488, + "step": 13915 + }, + { + "epoch": 1.8444002650762092, + "grad_norm": 0.12009155750274658, + "learning_rate": 1.6190330804863862e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27242688, + "step": 13916 + }, + { + "epoch": 1.8445328031809145, + "grad_norm": 6.791052341461182, + "learning_rate": 1.6187082189814776e-06, + "loss": 0.0646, + "num_input_tokens_seen": 27244456, + "step": 13917 + }, + { + "epoch": 1.8446653412856198, + "grad_norm": 0.3420785963535309, + "learning_rate": 1.618383374468483e-06, + "loss": 0.0017, + "num_input_tokens_seen": 27247152, + "step": 13918 + }, + { + "epoch": 1.8447978793903248, + "grad_norm": 7.968814849853516, + "learning_rate": 1.6180585469536642e-06, + "loss": 0.1689, + "num_input_tokens_seen": 27248880, + "step": 13919 + }, + { + "epoch": 1.8449304174950298, + "grad_norm": 12.798491477966309, + "learning_rate": 1.6177337364432856e-06, + "loss": 0.1882, + "num_input_tokens_seen": 27251168, + "step": 13920 + }, + { + "epoch": 1.8450629555997349, + "grad_norm": 0.011770655401051044, + "learning_rate": 1.617408942943609e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27252512, + "step": 13921 + }, + { + "epoch": 1.84519549370444, + "grad_norm": 8.078296661376953, + "learning_rate": 1.6170841664608972e-06, + "loss": 0.0919, + "num_input_tokens_seen": 27254704, + "step": 13922 + }, + { + "epoch": 1.8453280318091452, + "grad_norm": 10.796738624572754, + "learning_rate": 1.616759407001412e-06, + "loss": 0.1064, + "num_input_tokens_seen": 27256600, + "step": 13923 + }, + { + "epoch": 1.8454605699138502, + "grad_norm": 5.751252174377441, + "learning_rate": 1.6164346645714136e-06, + "loss": 0.0367, + "num_input_tokens_seen": 27258288, + "step": 13924 + }, + { + "epoch": 1.8455931080185555, + "grad_norm": 7.025866985321045, + "learning_rate": 1.6161099391771657e-06, + "loss": 0.1076, + "num_input_tokens_seen": 27260544, + "step": 13925 + }, + { + "epoch": 1.8457256461232605, + "grad_norm": 0.058026351034641266, + "learning_rate": 1.615785230824927e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27262656, + "step": 13926 + }, + { + "epoch": 1.8458581842279655, + "grad_norm": 9.957240104675293, + "learning_rate": 1.61546053952096e-06, + "loss": 0.1794, + "num_input_tokens_seen": 27265104, + "step": 13927 + }, + { + "epoch": 1.8459907223326706, + "grad_norm": 0.019311200827360153, + "learning_rate": 1.6151358652715232e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27266552, + "step": 13928 + }, + { + "epoch": 1.8461232604373756, + "grad_norm": 5.569981098175049, + "learning_rate": 1.6148112080828769e-06, + "loss": 0.1175, + "num_input_tokens_seen": 27267888, + "step": 13929 + }, + { + "epoch": 1.8462557985420809, + "grad_norm": 13.44492244720459, + "learning_rate": 1.614486567961282e-06, + "loss": 0.3523, + "num_input_tokens_seen": 27270104, + "step": 13930 + }, + { + "epoch": 1.846388336646786, + "grad_norm": 0.009062015451490879, + "learning_rate": 1.6141619449129967e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27272192, + "step": 13931 + }, + { + "epoch": 1.8465208747514912, + "grad_norm": 6.686935901641846, + "learning_rate": 1.6138373389442808e-06, + "loss": 0.1667, + "num_input_tokens_seen": 27274240, + "step": 13932 + }, + { + "epoch": 1.8466534128561962, + "grad_norm": 10.427565574645996, + "learning_rate": 1.6135127500613923e-06, + "loss": 0.2066, + "num_input_tokens_seen": 27275936, + "step": 13933 + }, + { + "epoch": 1.8467859509609013, + "grad_norm": 0.014309673570096493, + "learning_rate": 1.6131881782705882e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27277224, + "step": 13934 + }, + { + "epoch": 1.8469184890656063, + "grad_norm": 1.2452702522277832, + "learning_rate": 1.6128636235781287e-06, + "loss": 0.0141, + "num_input_tokens_seen": 27279720, + "step": 13935 + }, + { + "epoch": 1.8470510271703113, + "grad_norm": 7.199913024902344, + "learning_rate": 1.6125390859902707e-06, + "loss": 0.045, + "num_input_tokens_seen": 27281352, + "step": 13936 + }, + { + "epoch": 1.8471835652750166, + "grad_norm": 4.5833024978637695, + "learning_rate": 1.6122145655132708e-06, + "loss": 0.0523, + "num_input_tokens_seen": 27283384, + "step": 13937 + }, + { + "epoch": 1.8473161033797216, + "grad_norm": 0.027738282456994057, + "learning_rate": 1.6118900621533876e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27284768, + "step": 13938 + }, + { + "epoch": 1.847448641484427, + "grad_norm": 8.264155387878418, + "learning_rate": 1.6115655759168752e-06, + "loss": 0.1847, + "num_input_tokens_seen": 27286624, + "step": 13939 + }, + { + "epoch": 1.847581179589132, + "grad_norm": 0.049756504595279694, + "learning_rate": 1.6112411068099926e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27288376, + "step": 13940 + }, + { + "epoch": 1.847713717693837, + "grad_norm": 4.072049140930176, + "learning_rate": 1.6109166548389944e-06, + "loss": 0.0824, + "num_input_tokens_seen": 27290784, + "step": 13941 + }, + { + "epoch": 1.847846255798542, + "grad_norm": 0.01436234824359417, + "learning_rate": 1.6105922200101363e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27292512, + "step": 13942 + }, + { + "epoch": 1.847978793903247, + "grad_norm": 9.681053161621094, + "learning_rate": 1.6102678023296736e-06, + "loss": 0.0317, + "num_input_tokens_seen": 27294440, + "step": 13943 + }, + { + "epoch": 1.8481113320079523, + "grad_norm": 6.828869819641113, + "learning_rate": 1.6099434018038618e-06, + "loss": 0.1161, + "num_input_tokens_seen": 27296840, + "step": 13944 + }, + { + "epoch": 1.8482438701126573, + "grad_norm": 0.17491109669208527, + "learning_rate": 1.6096190184389543e-06, + "loss": 0.0012, + "num_input_tokens_seen": 27298392, + "step": 13945 + }, + { + "epoch": 1.8483764082173626, + "grad_norm": 0.04074319452047348, + "learning_rate": 1.6092946522412067e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27299800, + "step": 13946 + }, + { + "epoch": 1.8485089463220676, + "grad_norm": 1.0000303983688354, + "learning_rate": 1.6089703032168736e-06, + "loss": 0.008, + "num_input_tokens_seen": 27301680, + "step": 13947 + }, + { + "epoch": 1.8486414844267727, + "grad_norm": 5.7232489585876465, + "learning_rate": 1.6086459713722074e-06, + "loss": 0.052, + "num_input_tokens_seen": 27303464, + "step": 13948 + }, + { + "epoch": 1.8487740225314777, + "grad_norm": 0.5723093152046204, + "learning_rate": 1.6083216567134613e-06, + "loss": 0.0028, + "num_input_tokens_seen": 27305280, + "step": 13949 + }, + { + "epoch": 1.8489065606361827, + "grad_norm": 7.835122108459473, + "learning_rate": 1.6079973592468885e-06, + "loss": 0.3004, + "num_input_tokens_seen": 27307936, + "step": 13950 + }, + { + "epoch": 1.849039098740888, + "grad_norm": 6.931849479675293, + "learning_rate": 1.6076730789787432e-06, + "loss": 0.053, + "num_input_tokens_seen": 27309952, + "step": 13951 + }, + { + "epoch": 1.8491716368455933, + "grad_norm": 6.869166374206543, + "learning_rate": 1.6073488159152756e-06, + "loss": 0.1109, + "num_input_tokens_seen": 27311904, + "step": 13952 + }, + { + "epoch": 1.8493041749502983, + "grad_norm": 1.4577000141143799, + "learning_rate": 1.607024570062739e-06, + "loss": 0.0096, + "num_input_tokens_seen": 27313232, + "step": 13953 + }, + { + "epoch": 1.8494367130550033, + "grad_norm": 0.00696646748110652, + "learning_rate": 1.6067003414273852e-06, + "loss": 0.0, + "num_input_tokens_seen": 27314680, + "step": 13954 + }, + { + "epoch": 1.8495692511597084, + "grad_norm": 6.642423152923584, + "learning_rate": 1.6063761300154637e-06, + "loss": 0.0996, + "num_input_tokens_seen": 27316664, + "step": 13955 + }, + { + "epoch": 1.8497017892644134, + "grad_norm": 0.1272624433040619, + "learning_rate": 1.6060519358332274e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27318480, + "step": 13956 + }, + { + "epoch": 1.8498343273691185, + "grad_norm": 0.01872388646006584, + "learning_rate": 1.6057277588869272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27319840, + "step": 13957 + }, + { + "epoch": 1.8499668654738237, + "grad_norm": 13.574581146240234, + "learning_rate": 1.605403599182812e-06, + "loss": 0.2887, + "num_input_tokens_seen": 27321576, + "step": 13958 + }, + { + "epoch": 1.850099403578529, + "grad_norm": 10.073512077331543, + "learning_rate": 1.6050794567271332e-06, + "loss": 0.1268, + "num_input_tokens_seen": 27323912, + "step": 13959 + }, + { + "epoch": 1.850231941683234, + "grad_norm": 7.7751784324646, + "learning_rate": 1.6047553315261389e-06, + "loss": 0.1739, + "num_input_tokens_seen": 27326104, + "step": 13960 + }, + { + "epoch": 1.850364479787939, + "grad_norm": 0.280917763710022, + "learning_rate": 1.6044312235860798e-06, + "loss": 0.0029, + "num_input_tokens_seen": 27328960, + "step": 13961 + }, + { + "epoch": 1.850497017892644, + "grad_norm": 0.022387413308024406, + "learning_rate": 1.6041071329132051e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27330936, + "step": 13962 + }, + { + "epoch": 1.8506295559973491, + "grad_norm": 7.828739643096924, + "learning_rate": 1.603783059513763e-06, + "loss": 0.186, + "num_input_tokens_seen": 27332472, + "step": 13963 + }, + { + "epoch": 1.8507620941020544, + "grad_norm": 11.340049743652344, + "learning_rate": 1.6034590033940012e-06, + "loss": 0.3185, + "num_input_tokens_seen": 27334648, + "step": 13964 + }, + { + "epoch": 1.8508946322067594, + "grad_norm": 0.044904373586177826, + "learning_rate": 1.6031349645601676e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27338744, + "step": 13965 + }, + { + "epoch": 1.8510271703114647, + "grad_norm": 3.734807014465332, + "learning_rate": 1.6028109430185118e-06, + "loss": 0.1173, + "num_input_tokens_seen": 27340216, + "step": 13966 + }, + { + "epoch": 1.8511597084161697, + "grad_norm": 8.725793838500977, + "learning_rate": 1.6024869387752795e-06, + "loss": 0.2331, + "num_input_tokens_seen": 27342480, + "step": 13967 + }, + { + "epoch": 1.8512922465208748, + "grad_norm": 0.06117292121052742, + "learning_rate": 1.6021629518367187e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27343904, + "step": 13968 + }, + { + "epoch": 1.8514247846255798, + "grad_norm": 0.13022427260875702, + "learning_rate": 1.6018389822090749e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27345912, + "step": 13969 + }, + { + "epoch": 1.8515573227302848, + "grad_norm": 1.2696954011917114, + "learning_rate": 1.6015150298985955e-06, + "loss": 0.0085, + "num_input_tokens_seen": 27347576, + "step": 13970 + }, + { + "epoch": 1.85168986083499, + "grad_norm": 3.114445209503174, + "learning_rate": 1.6011910949115255e-06, + "loss": 0.0297, + "num_input_tokens_seen": 27349512, + "step": 13971 + }, + { + "epoch": 1.8518223989396951, + "grad_norm": 1.1157437562942505, + "learning_rate": 1.6008671772541123e-06, + "loss": 0.008, + "num_input_tokens_seen": 27351552, + "step": 13972 + }, + { + "epoch": 1.8519549370444004, + "grad_norm": 7.569608211517334, + "learning_rate": 1.6005432769325996e-06, + "loss": 0.2241, + "num_input_tokens_seen": 27354200, + "step": 13973 + }, + { + "epoch": 1.8520874751491054, + "grad_norm": 4.073066234588623, + "learning_rate": 1.6002193939532334e-06, + "loss": 0.0974, + "num_input_tokens_seen": 27355872, + "step": 13974 + }, + { + "epoch": 1.8522200132538105, + "grad_norm": 15.10389518737793, + "learning_rate": 1.5998955283222575e-06, + "loss": 0.3372, + "num_input_tokens_seen": 27358112, + "step": 13975 + }, + { + "epoch": 1.8523525513585155, + "grad_norm": 0.165694460272789, + "learning_rate": 1.5995716800459165e-06, + "loss": 0.0017, + "num_input_tokens_seen": 27360560, + "step": 13976 + }, + { + "epoch": 1.8524850894632205, + "grad_norm": 0.12496459484100342, + "learning_rate": 1.5992478491304553e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27362000, + "step": 13977 + }, + { + "epoch": 1.8526176275679258, + "grad_norm": 14.195602416992188, + "learning_rate": 1.5989240355821174e-06, + "loss": 0.2502, + "num_input_tokens_seen": 27363720, + "step": 13978 + }, + { + "epoch": 1.8527501656726308, + "grad_norm": 7.37322473526001, + "learning_rate": 1.5986002394071448e-06, + "loss": 0.1504, + "num_input_tokens_seen": 27366216, + "step": 13979 + }, + { + "epoch": 1.852882703777336, + "grad_norm": 0.9753274321556091, + "learning_rate": 1.5982764606117824e-06, + "loss": 0.0058, + "num_input_tokens_seen": 27369520, + "step": 13980 + }, + { + "epoch": 1.8530152418820411, + "grad_norm": 0.024563701823353767, + "learning_rate": 1.5979526992022704e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27370848, + "step": 13981 + }, + { + "epoch": 1.8531477799867462, + "grad_norm": 6.1171159744262695, + "learning_rate": 1.5976289551848534e-06, + "loss": 0.1848, + "num_input_tokens_seen": 27373552, + "step": 13982 + }, + { + "epoch": 1.8532803180914512, + "grad_norm": 0.3338046967983246, + "learning_rate": 1.5973052285657732e-06, + "loss": 0.0022, + "num_input_tokens_seen": 27375648, + "step": 13983 + }, + { + "epoch": 1.8534128561961563, + "grad_norm": 0.04239899292588234, + "learning_rate": 1.5969815193512706e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27378784, + "step": 13984 + }, + { + "epoch": 1.8535453943008615, + "grad_norm": 6.776947021484375, + "learning_rate": 1.5966578275475874e-06, + "loss": 0.1346, + "num_input_tokens_seen": 27380392, + "step": 13985 + }, + { + "epoch": 1.8536779324055666, + "grad_norm": 4.0636982917785645, + "learning_rate": 1.5963341531609636e-06, + "loss": 0.0526, + "num_input_tokens_seen": 27382176, + "step": 13986 + }, + { + "epoch": 1.8538104705102718, + "grad_norm": 9.393250465393066, + "learning_rate": 1.5960104961976416e-06, + "loss": 0.131, + "num_input_tokens_seen": 27384184, + "step": 13987 + }, + { + "epoch": 1.8539430086149769, + "grad_norm": 9.086524963378906, + "learning_rate": 1.5956868566638606e-06, + "loss": 0.1133, + "num_input_tokens_seen": 27387496, + "step": 13988 + }, + { + "epoch": 1.8540755467196819, + "grad_norm": 0.10945142805576324, + "learning_rate": 1.5953632345658613e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27389392, + "step": 13989 + }, + { + "epoch": 1.854208084824387, + "grad_norm": 0.21892905235290527, + "learning_rate": 1.5950396299098824e-06, + "loss": 0.0022, + "num_input_tokens_seen": 27391104, + "step": 13990 + }, + { + "epoch": 1.854340622929092, + "grad_norm": 4.318899631500244, + "learning_rate": 1.594716042702163e-06, + "loss": 0.1062, + "num_input_tokens_seen": 27393056, + "step": 13991 + }, + { + "epoch": 1.8544731610337972, + "grad_norm": 8.38369369506836, + "learning_rate": 1.594392472948944e-06, + "loss": 0.1179, + "num_input_tokens_seen": 27394632, + "step": 13992 + }, + { + "epoch": 1.8546056991385025, + "grad_norm": 2.521267890930176, + "learning_rate": 1.594068920656463e-06, + "loss": 0.0247, + "num_input_tokens_seen": 27396520, + "step": 13993 + }, + { + "epoch": 1.8547382372432075, + "grad_norm": 9.66817569732666, + "learning_rate": 1.5937453858309576e-06, + "loss": 0.0745, + "num_input_tokens_seen": 27398440, + "step": 13994 + }, + { + "epoch": 1.8548707753479126, + "grad_norm": 0.025035610422492027, + "learning_rate": 1.5934218684786668e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27400864, + "step": 13995 + }, + { + "epoch": 1.8550033134526176, + "grad_norm": 7.201386451721191, + "learning_rate": 1.5930983686058268e-06, + "loss": 0.0854, + "num_input_tokens_seen": 27402648, + "step": 13996 + }, + { + "epoch": 1.8551358515573226, + "grad_norm": 3.18255615234375, + "learning_rate": 1.5927748862186766e-06, + "loss": 0.0411, + "num_input_tokens_seen": 27404400, + "step": 13997 + }, + { + "epoch": 1.8552683896620277, + "grad_norm": 3.538731336593628, + "learning_rate": 1.5924514213234527e-06, + "loss": 0.0599, + "num_input_tokens_seen": 27406736, + "step": 13998 + }, + { + "epoch": 1.855400927766733, + "grad_norm": 4.173019886016846, + "learning_rate": 1.5921279739263912e-06, + "loss": 0.1204, + "num_input_tokens_seen": 27408944, + "step": 13999 + }, + { + "epoch": 1.8555334658714382, + "grad_norm": 7.232189655303955, + "learning_rate": 1.5918045440337288e-06, + "loss": 0.0291, + "num_input_tokens_seen": 27410552, + "step": 14000 + }, + { + "epoch": 1.8556660039761432, + "grad_norm": 2.672259569168091, + "learning_rate": 1.5914811316517014e-06, + "loss": 0.0254, + "num_input_tokens_seen": 27412000, + "step": 14001 + }, + { + "epoch": 1.8557985420808483, + "grad_norm": 9.737458229064941, + "learning_rate": 1.591157736786544e-06, + "loss": 0.1322, + "num_input_tokens_seen": 27413680, + "step": 14002 + }, + { + "epoch": 1.8559310801855533, + "grad_norm": 10.601056098937988, + "learning_rate": 1.5908343594444925e-06, + "loss": 0.2236, + "num_input_tokens_seen": 27415424, + "step": 14003 + }, + { + "epoch": 1.8560636182902583, + "grad_norm": 4.919938087463379, + "learning_rate": 1.5905109996317824e-06, + "loss": 0.1042, + "num_input_tokens_seen": 27417976, + "step": 14004 + }, + { + "epoch": 1.8561961563949636, + "grad_norm": 7.361004829406738, + "learning_rate": 1.590187657354647e-06, + "loss": 0.1729, + "num_input_tokens_seen": 27420120, + "step": 14005 + }, + { + "epoch": 1.8563286944996686, + "grad_norm": 5.509590148925781, + "learning_rate": 1.589864332619322e-06, + "loss": 0.133, + "num_input_tokens_seen": 27422488, + "step": 14006 + }, + { + "epoch": 1.856461232604374, + "grad_norm": 9.648595809936523, + "learning_rate": 1.5895410254320392e-06, + "loss": 0.1818, + "num_input_tokens_seen": 27425128, + "step": 14007 + }, + { + "epoch": 1.856593770709079, + "grad_norm": 7.623651027679443, + "learning_rate": 1.5892177357990346e-06, + "loss": 0.1737, + "num_input_tokens_seen": 27427800, + "step": 14008 + }, + { + "epoch": 1.856726308813784, + "grad_norm": 11.454166412353516, + "learning_rate": 1.5888944637265403e-06, + "loss": 0.245, + "num_input_tokens_seen": 27429896, + "step": 14009 + }, + { + "epoch": 1.856858846918489, + "grad_norm": 0.018681271001696587, + "learning_rate": 1.588571209220789e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27431144, + "step": 14010 + }, + { + "epoch": 1.856991385023194, + "grad_norm": 5.7312774658203125, + "learning_rate": 1.5882479722880137e-06, + "loss": 0.1725, + "num_input_tokens_seen": 27433432, + "step": 14011 + }, + { + "epoch": 1.8571239231278993, + "grad_norm": 8.795912742614746, + "learning_rate": 1.5879247529344458e-06, + "loss": 0.2056, + "num_input_tokens_seen": 27435512, + "step": 14012 + }, + { + "epoch": 1.8572564612326043, + "grad_norm": 4.559013843536377, + "learning_rate": 1.5876015511663188e-06, + "loss": 0.0343, + "num_input_tokens_seen": 27437560, + "step": 14013 + }, + { + "epoch": 1.8573889993373096, + "grad_norm": 2.495793342590332, + "learning_rate": 1.5872783669898627e-06, + "loss": 0.0298, + "num_input_tokens_seen": 27440328, + "step": 14014 + }, + { + "epoch": 1.8575215374420146, + "grad_norm": 8.94723892211914, + "learning_rate": 1.58695520041131e-06, + "loss": 0.1245, + "num_input_tokens_seen": 27442192, + "step": 14015 + }, + { + "epoch": 1.8576540755467197, + "grad_norm": 6.600645065307617, + "learning_rate": 1.586632051436891e-06, + "loss": 0.1558, + "num_input_tokens_seen": 27444648, + "step": 14016 + }, + { + "epoch": 1.8577866136514247, + "grad_norm": 0.3052669167518616, + "learning_rate": 1.5863089200728348e-06, + "loss": 0.0021, + "num_input_tokens_seen": 27446096, + "step": 14017 + }, + { + "epoch": 1.8579191517561298, + "grad_norm": 0.01038262527436018, + "learning_rate": 1.585985806325374e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27447840, + "step": 14018 + }, + { + "epoch": 1.858051689860835, + "grad_norm": 0.07914943993091583, + "learning_rate": 1.5856627102007377e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27449352, + "step": 14019 + }, + { + "epoch": 1.85818422796554, + "grad_norm": 4.2371110916137695, + "learning_rate": 1.5853396317051545e-06, + "loss": 0.0667, + "num_input_tokens_seen": 27451104, + "step": 14020 + }, + { + "epoch": 1.8583167660702453, + "grad_norm": 3.034331798553467, + "learning_rate": 1.5850165708448544e-06, + "loss": 0.058, + "num_input_tokens_seen": 27453960, + "step": 14021 + }, + { + "epoch": 1.8584493041749504, + "grad_norm": 7.8173909187316895, + "learning_rate": 1.5846935276260655e-06, + "loss": 0.1548, + "num_input_tokens_seen": 27456320, + "step": 14022 + }, + { + "epoch": 1.8585818422796554, + "grad_norm": 0.024954702705144882, + "learning_rate": 1.584370502055017e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27458512, + "step": 14023 + }, + { + "epoch": 1.8587143803843604, + "grad_norm": 0.014869432896375656, + "learning_rate": 1.5840474941379377e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27460192, + "step": 14024 + }, + { + "epoch": 1.8588469184890655, + "grad_norm": 1.6893668174743652, + "learning_rate": 1.5837245038810545e-06, + "loss": 0.0391, + "num_input_tokens_seen": 27461488, + "step": 14025 + }, + { + "epoch": 1.8589794565937707, + "grad_norm": 19.471981048583984, + "learning_rate": 1.5834015312905942e-06, + "loss": 0.1645, + "num_input_tokens_seen": 27463680, + "step": 14026 + }, + { + "epoch": 1.8591119946984758, + "grad_norm": 3.3017728328704834, + "learning_rate": 1.5830785763727846e-06, + "loss": 0.0314, + "num_input_tokens_seen": 27466160, + "step": 14027 + }, + { + "epoch": 1.859244532803181, + "grad_norm": 4.193112373352051, + "learning_rate": 1.5827556391338533e-06, + "loss": 0.0901, + "num_input_tokens_seen": 27467984, + "step": 14028 + }, + { + "epoch": 1.859377070907886, + "grad_norm": 7.224668502807617, + "learning_rate": 1.5824327195800258e-06, + "loss": 0.0945, + "num_input_tokens_seen": 27470184, + "step": 14029 + }, + { + "epoch": 1.859509609012591, + "grad_norm": 9.425884246826172, + "learning_rate": 1.5821098177175286e-06, + "loss": 0.0956, + "num_input_tokens_seen": 27472040, + "step": 14030 + }, + { + "epoch": 1.8596421471172961, + "grad_norm": 0.13361337780952454, + "learning_rate": 1.5817869335525875e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27473744, + "step": 14031 + }, + { + "epoch": 1.8597746852220012, + "grad_norm": 0.06496568769216537, + "learning_rate": 1.5814640670914277e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27475400, + "step": 14032 + }, + { + "epoch": 1.8599072233267064, + "grad_norm": 1.2887072563171387, + "learning_rate": 1.5811412183402733e-06, + "loss": 0.0142, + "num_input_tokens_seen": 27477552, + "step": 14033 + }, + { + "epoch": 1.8600397614314115, + "grad_norm": 13.932268142700195, + "learning_rate": 1.5808183873053512e-06, + "loss": 0.1555, + "num_input_tokens_seen": 27479376, + "step": 14034 + }, + { + "epoch": 1.8601722995361167, + "grad_norm": 0.6396550536155701, + "learning_rate": 1.5804955739928845e-06, + "loss": 0.0031, + "num_input_tokens_seen": 27481344, + "step": 14035 + }, + { + "epoch": 1.8603048376408218, + "grad_norm": 0.10826234519481659, + "learning_rate": 1.5801727784090975e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27483784, + "step": 14036 + }, + { + "epoch": 1.8604373757455268, + "grad_norm": 15.175018310546875, + "learning_rate": 1.5798500005602138e-06, + "loss": 0.1715, + "num_input_tokens_seen": 27486864, + "step": 14037 + }, + { + "epoch": 1.8605699138502318, + "grad_norm": 7.901054859161377, + "learning_rate": 1.5795272404524562e-06, + "loss": 0.1474, + "num_input_tokens_seen": 27488392, + "step": 14038 + }, + { + "epoch": 1.8607024519549369, + "grad_norm": 7.47947883605957, + "learning_rate": 1.5792044980920495e-06, + "loss": 0.2055, + "num_input_tokens_seen": 27490576, + "step": 14039 + }, + { + "epoch": 1.8608349900596421, + "grad_norm": 6.945105075836182, + "learning_rate": 1.5788817734852153e-06, + "loss": 0.076, + "num_input_tokens_seen": 27492160, + "step": 14040 + }, + { + "epoch": 1.8609675281643474, + "grad_norm": 0.22695119678974152, + "learning_rate": 1.5785590666381751e-06, + "loss": 0.0016, + "num_input_tokens_seen": 27493832, + "step": 14041 + }, + { + "epoch": 1.8611000662690524, + "grad_norm": 10.272282600402832, + "learning_rate": 1.5782363775571528e-06, + "loss": 0.1275, + "num_input_tokens_seen": 27495520, + "step": 14042 + }, + { + "epoch": 1.8612326043737575, + "grad_norm": 18.20184326171875, + "learning_rate": 1.5779137062483673e-06, + "loss": 0.121, + "num_input_tokens_seen": 27497152, + "step": 14043 + }, + { + "epoch": 1.8613651424784625, + "grad_norm": 0.03172851726412773, + "learning_rate": 1.5775910527180426e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27498416, + "step": 14044 + }, + { + "epoch": 1.8614976805831676, + "grad_norm": 0.014296247623860836, + "learning_rate": 1.5772684169723994e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27500552, + "step": 14045 + }, + { + "epoch": 1.8616302186878728, + "grad_norm": 1.530669927597046, + "learning_rate": 1.5769457990176578e-06, + "loss": 0.0152, + "num_input_tokens_seen": 27502200, + "step": 14046 + }, + { + "epoch": 1.8617627567925779, + "grad_norm": 13.09257984161377, + "learning_rate": 1.5766231988600372e-06, + "loss": 0.3608, + "num_input_tokens_seen": 27504616, + "step": 14047 + }, + { + "epoch": 1.8618952948972831, + "grad_norm": 5.582982063293457, + "learning_rate": 1.5763006165057576e-06, + "loss": 0.0573, + "num_input_tokens_seen": 27507344, + "step": 14048 + }, + { + "epoch": 1.8620278330019882, + "grad_norm": 0.08706431835889816, + "learning_rate": 1.5759780519610408e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27509656, + "step": 14049 + }, + { + "epoch": 1.8621603711066932, + "grad_norm": 7.549373149871826, + "learning_rate": 1.5756555052321038e-06, + "loss": 0.1238, + "num_input_tokens_seen": 27511616, + "step": 14050 + }, + { + "epoch": 1.8622929092113982, + "grad_norm": 0.08817126601934433, + "learning_rate": 1.575332976325167e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27513216, + "step": 14051 + }, + { + "epoch": 1.8624254473161033, + "grad_norm": 4.608008861541748, + "learning_rate": 1.5750104652464475e-06, + "loss": 0.0692, + "num_input_tokens_seen": 27515032, + "step": 14052 + }, + { + "epoch": 1.8625579854208085, + "grad_norm": 0.2380451112985611, + "learning_rate": 1.5746879720021643e-06, + "loss": 0.002, + "num_input_tokens_seen": 27516744, + "step": 14053 + }, + { + "epoch": 1.8626905235255136, + "grad_norm": 0.027397483587265015, + "learning_rate": 1.574365496598536e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27518568, + "step": 14054 + }, + { + "epoch": 1.8628230616302188, + "grad_norm": 0.028521781787276268, + "learning_rate": 1.57404303904178e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27519960, + "step": 14055 + }, + { + "epoch": 1.8629555997349239, + "grad_norm": 10.670886039733887, + "learning_rate": 1.573720599338112e-06, + "loss": 0.1222, + "num_input_tokens_seen": 27521696, + "step": 14056 + }, + { + "epoch": 1.863088137839629, + "grad_norm": 13.77548599243164, + "learning_rate": 1.5733981774937504e-06, + "loss": 0.3294, + "num_input_tokens_seen": 27524016, + "step": 14057 + }, + { + "epoch": 1.863220675944334, + "grad_norm": 0.04214996099472046, + "learning_rate": 1.5730757735149108e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27526088, + "step": 14058 + }, + { + "epoch": 1.863353214049039, + "grad_norm": 0.023070091381669044, + "learning_rate": 1.572753387407809e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27527896, + "step": 14059 + }, + { + "epoch": 1.8634857521537442, + "grad_norm": 4.00438928604126, + "learning_rate": 1.572431019178663e-06, + "loss": 0.0983, + "num_input_tokens_seen": 27529944, + "step": 14060 + }, + { + "epoch": 1.8636182902584493, + "grad_norm": 9.056439399719238, + "learning_rate": 1.5721086688336865e-06, + "loss": 0.1958, + "num_input_tokens_seen": 27531616, + "step": 14061 + }, + { + "epoch": 1.8637508283631545, + "grad_norm": 0.13469092547893524, + "learning_rate": 1.5717863363790944e-06, + "loss": 0.0012, + "num_input_tokens_seen": 27533216, + "step": 14062 + }, + { + "epoch": 1.8638833664678596, + "grad_norm": 6.646396160125732, + "learning_rate": 1.571464021821103e-06, + "loss": 0.1111, + "num_input_tokens_seen": 27535040, + "step": 14063 + }, + { + "epoch": 1.8640159045725646, + "grad_norm": 12.421241760253906, + "learning_rate": 1.5711417251659244e-06, + "loss": 0.2117, + "num_input_tokens_seen": 27537416, + "step": 14064 + }, + { + "epoch": 1.8641484426772696, + "grad_norm": 10.393312454223633, + "learning_rate": 1.5708194464197746e-06, + "loss": 0.1951, + "num_input_tokens_seen": 27538888, + "step": 14065 + }, + { + "epoch": 1.8642809807819747, + "grad_norm": 0.6602757573127747, + "learning_rate": 1.5704971855888678e-06, + "loss": 0.0036, + "num_input_tokens_seen": 27541072, + "step": 14066 + }, + { + "epoch": 1.86441351888668, + "grad_norm": 2.201115846633911, + "learning_rate": 1.5701749426794155e-06, + "loss": 0.0082, + "num_input_tokens_seen": 27542296, + "step": 14067 + }, + { + "epoch": 1.864546056991385, + "grad_norm": 8.992050170898438, + "learning_rate": 1.5698527176976327e-06, + "loss": 0.0599, + "num_input_tokens_seen": 27545088, + "step": 14068 + }, + { + "epoch": 1.8646785950960902, + "grad_norm": 0.030985083431005478, + "learning_rate": 1.5695305106497299e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27547440, + "step": 14069 + }, + { + "epoch": 1.8648111332007953, + "grad_norm": 0.2746868133544922, + "learning_rate": 1.5692083215419219e-06, + "loss": 0.0018, + "num_input_tokens_seen": 27548440, + "step": 14070 + }, + { + "epoch": 1.8649436713055003, + "grad_norm": 6.842190265655518, + "learning_rate": 1.5688861503804193e-06, + "loss": 0.1316, + "num_input_tokens_seen": 27551152, + "step": 14071 + }, + { + "epoch": 1.8650762094102054, + "grad_norm": 0.06427037715911865, + "learning_rate": 1.5685639971714342e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27552376, + "step": 14072 + }, + { + "epoch": 1.8652087475149104, + "grad_norm": 0.01843716762959957, + "learning_rate": 1.5682418619211773e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27553976, + "step": 14073 + }, + { + "epoch": 1.8653412856196157, + "grad_norm": 0.5826998949050903, + "learning_rate": 1.5679197446358597e-06, + "loss": 0.0033, + "num_input_tokens_seen": 27555176, + "step": 14074 + }, + { + "epoch": 1.8654738237243207, + "grad_norm": 4.751593112945557, + "learning_rate": 1.5675976453216934e-06, + "loss": 0.024, + "num_input_tokens_seen": 27557160, + "step": 14075 + }, + { + "epoch": 1.865606361829026, + "grad_norm": 6.868110179901123, + "learning_rate": 1.5672755639848875e-06, + "loss": 0.0942, + "num_input_tokens_seen": 27559640, + "step": 14076 + }, + { + "epoch": 1.865738899933731, + "grad_norm": 13.622636795043945, + "learning_rate": 1.5669535006316522e-06, + "loss": 0.1881, + "num_input_tokens_seen": 27562296, + "step": 14077 + }, + { + "epoch": 1.865871438038436, + "grad_norm": 5.738794326782227, + "learning_rate": 1.5666314552681971e-06, + "loss": 0.1445, + "num_input_tokens_seen": 27564360, + "step": 14078 + }, + { + "epoch": 1.866003976143141, + "grad_norm": 0.025654606521129608, + "learning_rate": 1.5663094279007307e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27566120, + "step": 14079 + }, + { + "epoch": 1.866136514247846, + "grad_norm": 1.25222647190094, + "learning_rate": 1.5659874185354635e-06, + "loss": 0.0031, + "num_input_tokens_seen": 27567736, + "step": 14080 + }, + { + "epoch": 1.8662690523525514, + "grad_norm": 10.99868392944336, + "learning_rate": 1.5656654271786032e-06, + "loss": 0.2584, + "num_input_tokens_seen": 27570424, + "step": 14081 + }, + { + "epoch": 1.8664015904572566, + "grad_norm": 18.30653190612793, + "learning_rate": 1.5653434538363576e-06, + "loss": 0.4025, + "num_input_tokens_seen": 27572344, + "step": 14082 + }, + { + "epoch": 1.8665341285619617, + "grad_norm": 0.05185495689511299, + "learning_rate": 1.5650214985149354e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27574608, + "step": 14083 + }, + { + "epoch": 1.8666666666666667, + "grad_norm": 10.017414093017578, + "learning_rate": 1.5646995612205428e-06, + "loss": 0.2672, + "num_input_tokens_seen": 27576512, + "step": 14084 + }, + { + "epoch": 1.8667992047713717, + "grad_norm": 5.13302755355835, + "learning_rate": 1.5643776419593892e-06, + "loss": 0.1458, + "num_input_tokens_seen": 27579064, + "step": 14085 + }, + { + "epoch": 1.8669317428760768, + "grad_norm": 2.797567367553711, + "learning_rate": 1.5640557407376795e-06, + "loss": 0.0275, + "num_input_tokens_seen": 27580768, + "step": 14086 + }, + { + "epoch": 1.8670642809807818, + "grad_norm": 5.849459171295166, + "learning_rate": 1.563733857561621e-06, + "loss": 0.2215, + "num_input_tokens_seen": 27582680, + "step": 14087 + }, + { + "epoch": 1.867196819085487, + "grad_norm": 5.6513752937316895, + "learning_rate": 1.563411992437419e-06, + "loss": 0.1996, + "num_input_tokens_seen": 27584880, + "step": 14088 + }, + { + "epoch": 1.8673293571901923, + "grad_norm": 6.223866939544678, + "learning_rate": 1.563090145371281e-06, + "loss": 0.0866, + "num_input_tokens_seen": 27586944, + "step": 14089 + }, + { + "epoch": 1.8674618952948974, + "grad_norm": 0.02455967105925083, + "learning_rate": 1.5627683163694099e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27588392, + "step": 14090 + }, + { + "epoch": 1.8675944333996024, + "grad_norm": 9.010183334350586, + "learning_rate": 1.5624465054380127e-06, + "loss": 0.1063, + "num_input_tokens_seen": 27589840, + "step": 14091 + }, + { + "epoch": 1.8677269715043074, + "grad_norm": 14.108307838439941, + "learning_rate": 1.5621247125832945e-06, + "loss": 0.1836, + "num_input_tokens_seen": 27590992, + "step": 14092 + }, + { + "epoch": 1.8678595096090125, + "grad_norm": 2.7079474925994873, + "learning_rate": 1.5618029378114586e-06, + "loss": 0.0192, + "num_input_tokens_seen": 27592352, + "step": 14093 + }, + { + "epoch": 1.8679920477137177, + "grad_norm": 7.940439701080322, + "learning_rate": 1.561481181128709e-06, + "loss": 0.0523, + "num_input_tokens_seen": 27594800, + "step": 14094 + }, + { + "epoch": 1.8681245858184228, + "grad_norm": 2.4309580326080322, + "learning_rate": 1.561159442541249e-06, + "loss": 0.0276, + "num_input_tokens_seen": 27596448, + "step": 14095 + }, + { + "epoch": 1.868257123923128, + "grad_norm": 0.06321682035923004, + "learning_rate": 1.5608377220552833e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27597680, + "step": 14096 + }, + { + "epoch": 1.868389662027833, + "grad_norm": 14.411108016967773, + "learning_rate": 1.560516019677014e-06, + "loss": 0.198, + "num_input_tokens_seen": 27599624, + "step": 14097 + }, + { + "epoch": 1.8685222001325381, + "grad_norm": 7.884324550628662, + "learning_rate": 1.5601943354126448e-06, + "loss": 0.2242, + "num_input_tokens_seen": 27602272, + "step": 14098 + }, + { + "epoch": 1.8686547382372432, + "grad_norm": 0.11647869646549225, + "learning_rate": 1.5598726692683768e-06, + "loss": 0.0008, + "num_input_tokens_seen": 27603960, + "step": 14099 + }, + { + "epoch": 1.8687872763419482, + "grad_norm": 4.44553279876709, + "learning_rate": 1.5595510212504117e-06, + "loss": 0.0141, + "num_input_tokens_seen": 27606096, + "step": 14100 + }, + { + "epoch": 1.8689198144466534, + "grad_norm": 7.342031002044678, + "learning_rate": 1.5592293913649518e-06, + "loss": 0.1585, + "num_input_tokens_seen": 27608552, + "step": 14101 + }, + { + "epoch": 1.8690523525513585, + "grad_norm": 8.569260597229004, + "learning_rate": 1.5589077796181987e-06, + "loss": 0.0692, + "num_input_tokens_seen": 27609752, + "step": 14102 + }, + { + "epoch": 1.8691848906560637, + "grad_norm": 8.670154571533203, + "learning_rate": 1.5585861860163527e-06, + "loss": 0.3442, + "num_input_tokens_seen": 27612616, + "step": 14103 + }, + { + "epoch": 1.8693174287607688, + "grad_norm": 0.08332082629203796, + "learning_rate": 1.5582646105656144e-06, + "loss": 0.0006, + "num_input_tokens_seen": 27614520, + "step": 14104 + }, + { + "epoch": 1.8694499668654738, + "grad_norm": 7.1704421043396, + "learning_rate": 1.5579430532721834e-06, + "loss": 0.1656, + "num_input_tokens_seen": 27616672, + "step": 14105 + }, + { + "epoch": 1.8695825049701789, + "grad_norm": 6.13423490524292, + "learning_rate": 1.5576215141422607e-06, + "loss": 0.1529, + "num_input_tokens_seen": 27618888, + "step": 14106 + }, + { + "epoch": 1.869715043074884, + "grad_norm": 0.7433794140815735, + "learning_rate": 1.557299993182046e-06, + "loss": 0.0065, + "num_input_tokens_seen": 27620320, + "step": 14107 + }, + { + "epoch": 1.8698475811795892, + "grad_norm": 5.6730637550354, + "learning_rate": 1.5569784903977374e-06, + "loss": 0.0713, + "num_input_tokens_seen": 27622528, + "step": 14108 + }, + { + "epoch": 1.8699801192842942, + "grad_norm": 9.642454147338867, + "learning_rate": 1.5566570057955338e-06, + "loss": 0.1931, + "num_input_tokens_seen": 27624272, + "step": 14109 + }, + { + "epoch": 1.8701126573889995, + "grad_norm": 8.89737606048584, + "learning_rate": 1.5563355393816331e-06, + "loss": 0.0978, + "num_input_tokens_seen": 27625856, + "step": 14110 + }, + { + "epoch": 1.8702451954937045, + "grad_norm": 3.121096134185791, + "learning_rate": 1.5560140911622356e-06, + "loss": 0.0478, + "num_input_tokens_seen": 27628000, + "step": 14111 + }, + { + "epoch": 1.8703777335984095, + "grad_norm": 5.902791500091553, + "learning_rate": 1.555692661143537e-06, + "loss": 0.076, + "num_input_tokens_seen": 27630312, + "step": 14112 + }, + { + "epoch": 1.8705102717031146, + "grad_norm": 0.08562323451042175, + "learning_rate": 1.555371249331736e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27632248, + "step": 14113 + }, + { + "epoch": 1.8706428098078196, + "grad_norm": 0.014794080518186092, + "learning_rate": 1.5550498557330285e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27633880, + "step": 14114 + }, + { + "epoch": 1.8707753479125249, + "grad_norm": 4.893691539764404, + "learning_rate": 1.554728480353612e-06, + "loss": 0.0827, + "num_input_tokens_seen": 27636152, + "step": 14115 + }, + { + "epoch": 1.87090788601723, + "grad_norm": 0.2623775899410248, + "learning_rate": 1.5544071231996817e-06, + "loss": 0.0014, + "num_input_tokens_seen": 27637648, + "step": 14116 + }, + { + "epoch": 1.8710404241219352, + "grad_norm": 16.594982147216797, + "learning_rate": 1.5540857842774348e-06, + "loss": 0.127, + "num_input_tokens_seen": 27639688, + "step": 14117 + }, + { + "epoch": 1.8711729622266402, + "grad_norm": 0.02024855650961399, + "learning_rate": 1.5537644635930666e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27641480, + "step": 14118 + }, + { + "epoch": 1.8713055003313452, + "grad_norm": 0.43249231576919556, + "learning_rate": 1.5534431611527728e-06, + "loss": 0.0029, + "num_input_tokens_seen": 27642728, + "step": 14119 + }, + { + "epoch": 1.8714380384360503, + "grad_norm": 0.016199866309762, + "learning_rate": 1.5531218769627471e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27643880, + "step": 14120 + }, + { + "epoch": 1.8715705765407553, + "grad_norm": 6.5732269287109375, + "learning_rate": 1.5528006110291843e-06, + "loss": 0.1685, + "num_input_tokens_seen": 27645680, + "step": 14121 + }, + { + "epoch": 1.8717031146454606, + "grad_norm": 5.988508701324463, + "learning_rate": 1.5524793633582803e-06, + "loss": 0.0793, + "num_input_tokens_seen": 27647824, + "step": 14122 + }, + { + "epoch": 1.8718356527501658, + "grad_norm": 0.005703015718609095, + "learning_rate": 1.552158133956228e-06, + "loss": 0.0, + "num_input_tokens_seen": 27649104, + "step": 14123 + }, + { + "epoch": 1.8719681908548709, + "grad_norm": 3.762333869934082, + "learning_rate": 1.55183692282922e-06, + "loss": 0.0514, + "num_input_tokens_seen": 27651296, + "step": 14124 + }, + { + "epoch": 1.872100728959576, + "grad_norm": 2.4711837768554688, + "learning_rate": 1.551515729983451e-06, + "loss": 0.0518, + "num_input_tokens_seen": 27652752, + "step": 14125 + }, + { + "epoch": 1.872233267064281, + "grad_norm": 0.010249309241771698, + "learning_rate": 1.5511945554251118e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27654984, + "step": 14126 + }, + { + "epoch": 1.872365805168986, + "grad_norm": 0.12878605723381042, + "learning_rate": 1.5508733991603963e-06, + "loss": 0.0009, + "num_input_tokens_seen": 27657000, + "step": 14127 + }, + { + "epoch": 1.872498343273691, + "grad_norm": 8.662306785583496, + "learning_rate": 1.5505522611954977e-06, + "loss": 0.0594, + "num_input_tokens_seen": 27658360, + "step": 14128 + }, + { + "epoch": 1.8726308813783963, + "grad_norm": 0.018929364159703255, + "learning_rate": 1.5502311415366055e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27659688, + "step": 14129 + }, + { + "epoch": 1.8727634194831015, + "grad_norm": 9.33077335357666, + "learning_rate": 1.5499100401899128e-06, + "loss": 0.2064, + "num_input_tokens_seen": 27662104, + "step": 14130 + }, + { + "epoch": 1.8728959575878066, + "grad_norm": 0.01811094768345356, + "learning_rate": 1.5495889571616088e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27664192, + "step": 14131 + }, + { + "epoch": 1.8730284956925116, + "grad_norm": 0.36984556913375854, + "learning_rate": 1.5492678924578862e-06, + "loss": 0.0014, + "num_input_tokens_seen": 27665664, + "step": 14132 + }, + { + "epoch": 1.8731610337972167, + "grad_norm": 7.323185443878174, + "learning_rate": 1.5489468460849343e-06, + "loss": 0.2072, + "num_input_tokens_seen": 27667776, + "step": 14133 + }, + { + "epoch": 1.8732935719019217, + "grad_norm": 5.878580093383789, + "learning_rate": 1.5486258180489438e-06, + "loss": 0.1306, + "num_input_tokens_seen": 27670016, + "step": 14134 + }, + { + "epoch": 1.873426110006627, + "grad_norm": 15.401344299316406, + "learning_rate": 1.5483048083561036e-06, + "loss": 0.3602, + "num_input_tokens_seen": 27672016, + "step": 14135 + }, + { + "epoch": 1.873558648111332, + "grad_norm": 3.4676899909973145, + "learning_rate": 1.547983817012602e-06, + "loss": 0.04, + "num_input_tokens_seen": 27674544, + "step": 14136 + }, + { + "epoch": 1.8736911862160373, + "grad_norm": 0.5248491168022156, + "learning_rate": 1.547662844024631e-06, + "loss": 0.0035, + "num_input_tokens_seen": 27676320, + "step": 14137 + }, + { + "epoch": 1.8738237243207423, + "grad_norm": 11.228452682495117, + "learning_rate": 1.547341889398377e-06, + "loss": 0.235, + "num_input_tokens_seen": 27678528, + "step": 14138 + }, + { + "epoch": 1.8739562624254473, + "grad_norm": 0.4221613109111786, + "learning_rate": 1.547020953140028e-06, + "loss": 0.0025, + "num_input_tokens_seen": 27680944, + "step": 14139 + }, + { + "epoch": 1.8740888005301524, + "grad_norm": 0.4591045677661896, + "learning_rate": 1.5467000352557728e-06, + "loss": 0.0027, + "num_input_tokens_seen": 27683312, + "step": 14140 + }, + { + "epoch": 1.8742213386348574, + "grad_norm": 0.1005808413028717, + "learning_rate": 1.546379135751798e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27685488, + "step": 14141 + }, + { + "epoch": 1.8743538767395627, + "grad_norm": 3.4582455158233643, + "learning_rate": 1.5460582546342914e-06, + "loss": 0.0943, + "num_input_tokens_seen": 27687320, + "step": 14142 + }, + { + "epoch": 1.8744864148442677, + "grad_norm": 2.817018508911133, + "learning_rate": 1.5457373919094403e-06, + "loss": 0.0743, + "num_input_tokens_seen": 27689304, + "step": 14143 + }, + { + "epoch": 1.874618952948973, + "grad_norm": 7.5096659660339355, + "learning_rate": 1.5454165475834304e-06, + "loss": 0.2677, + "num_input_tokens_seen": 27690992, + "step": 14144 + }, + { + "epoch": 1.874751491053678, + "grad_norm": 0.29318150877952576, + "learning_rate": 1.5450957216624485e-06, + "loss": 0.002, + "num_input_tokens_seen": 27693664, + "step": 14145 + }, + { + "epoch": 1.874884029158383, + "grad_norm": 3.20991849899292, + "learning_rate": 1.5447749141526797e-06, + "loss": 0.0355, + "num_input_tokens_seen": 27695512, + "step": 14146 + }, + { + "epoch": 1.875016567263088, + "grad_norm": 8.455756187438965, + "learning_rate": 1.5444541250603085e-06, + "loss": 0.1597, + "num_input_tokens_seen": 27697240, + "step": 14147 + }, + { + "epoch": 1.8751491053677931, + "grad_norm": 0.04607174172997475, + "learning_rate": 1.5441333543915213e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27699272, + "step": 14148 + }, + { + "epoch": 1.8752816434724984, + "grad_norm": 0.011877795681357384, + "learning_rate": 1.543812602152503e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27701264, + "step": 14149 + }, + { + "epoch": 1.8754141815772034, + "grad_norm": 0.01679817959666252, + "learning_rate": 1.5434918683494372e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27704680, + "step": 14150 + }, + { + "epoch": 1.8755467196819087, + "grad_norm": 11.755133628845215, + "learning_rate": 1.5431711529885083e-06, + "loss": 0.1482, + "num_input_tokens_seen": 27707016, + "step": 14151 + }, + { + "epoch": 1.8756792577866137, + "grad_norm": 0.7682393789291382, + "learning_rate": 1.5428504560758985e-06, + "loss": 0.0065, + "num_input_tokens_seen": 27709136, + "step": 14152 + }, + { + "epoch": 1.8758117958913187, + "grad_norm": 4.193154335021973, + "learning_rate": 1.5425297776177934e-06, + "loss": 0.0505, + "num_input_tokens_seen": 27711376, + "step": 14153 + }, + { + "epoch": 1.8759443339960238, + "grad_norm": 3.6658122539520264, + "learning_rate": 1.542209117620374e-06, + "loss": 0.1059, + "num_input_tokens_seen": 27712952, + "step": 14154 + }, + { + "epoch": 1.8760768721007288, + "grad_norm": 4.236730575561523, + "learning_rate": 1.5418884760898246e-06, + "loss": 0.0584, + "num_input_tokens_seen": 27714352, + "step": 14155 + }, + { + "epoch": 1.876209410205434, + "grad_norm": 0.13003882765769958, + "learning_rate": 1.5415678530323253e-06, + "loss": 0.0013, + "num_input_tokens_seen": 27716488, + "step": 14156 + }, + { + "epoch": 1.8763419483101391, + "grad_norm": 4.575048923492432, + "learning_rate": 1.5412472484540586e-06, + "loss": 0.1099, + "num_input_tokens_seen": 27718232, + "step": 14157 + }, + { + "epoch": 1.8764744864148444, + "grad_norm": 0.09059682488441467, + "learning_rate": 1.5409266623612075e-06, + "loss": 0.001, + "num_input_tokens_seen": 27719440, + "step": 14158 + }, + { + "epoch": 1.8766070245195494, + "grad_norm": 2.265956401824951, + "learning_rate": 1.5406060947599516e-06, + "loss": 0.0315, + "num_input_tokens_seen": 27721368, + "step": 14159 + }, + { + "epoch": 1.8767395626242545, + "grad_norm": 3.48268985748291, + "learning_rate": 1.5402855456564724e-06, + "loss": 0.0369, + "num_input_tokens_seen": 27723808, + "step": 14160 + }, + { + "epoch": 1.8768721007289595, + "grad_norm": 8.093901634216309, + "learning_rate": 1.5399650150569497e-06, + "loss": 0.134, + "num_input_tokens_seen": 27726160, + "step": 14161 + }, + { + "epoch": 1.8770046388336645, + "grad_norm": 0.06780815124511719, + "learning_rate": 1.5396445029675633e-06, + "loss": 0.0007, + "num_input_tokens_seen": 27727704, + "step": 14162 + }, + { + "epoch": 1.8771371769383698, + "grad_norm": 0.02056991308927536, + "learning_rate": 1.5393240093944933e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27729304, + "step": 14163 + }, + { + "epoch": 1.877269715043075, + "grad_norm": 0.01351380255073309, + "learning_rate": 1.5390035343439203e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27730728, + "step": 14164 + }, + { + "epoch": 1.87740225314778, + "grad_norm": 0.03180774301290512, + "learning_rate": 1.5386830778220212e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27732752, + "step": 14165 + }, + { + "epoch": 1.8775347912524851, + "grad_norm": 0.5520296692848206, + "learning_rate": 1.538362639834976e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27734064, + "step": 14166 + }, + { + "epoch": 1.8776673293571902, + "grad_norm": 3.5574514865875244, + "learning_rate": 1.5380422203889617e-06, + "loss": 0.0891, + "num_input_tokens_seen": 27737048, + "step": 14167 + }, + { + "epoch": 1.8777998674618952, + "grad_norm": 6.2398858070373535, + "learning_rate": 1.5377218194901572e-06, + "loss": 0.1338, + "num_input_tokens_seen": 27739168, + "step": 14168 + }, + { + "epoch": 1.8779324055666002, + "grad_norm": 6.654844760894775, + "learning_rate": 1.5374014371447407e-06, + "loss": 0.1584, + "num_input_tokens_seen": 27741224, + "step": 14169 + }, + { + "epoch": 1.8780649436713055, + "grad_norm": 0.8270488977432251, + "learning_rate": 1.5370810733588886e-06, + "loss": 0.0056, + "num_input_tokens_seen": 27742832, + "step": 14170 + }, + { + "epoch": 1.8781974817760108, + "grad_norm": 3.3100860118865967, + "learning_rate": 1.536760728138777e-06, + "loss": 0.0175, + "num_input_tokens_seen": 27744520, + "step": 14171 + }, + { + "epoch": 1.8783300198807158, + "grad_norm": 3.5916621685028076, + "learning_rate": 1.5364404014905826e-06, + "loss": 0.0373, + "num_input_tokens_seen": 27746240, + "step": 14172 + }, + { + "epoch": 1.8784625579854208, + "grad_norm": 11.471362113952637, + "learning_rate": 1.5361200934204828e-06, + "loss": 0.3222, + "num_input_tokens_seen": 27749224, + "step": 14173 + }, + { + "epoch": 1.8785950960901259, + "grad_norm": 13.595063209533691, + "learning_rate": 1.5357998039346522e-06, + "loss": 0.2773, + "num_input_tokens_seen": 27751168, + "step": 14174 + }, + { + "epoch": 1.878727634194831, + "grad_norm": 8.046184539794922, + "learning_rate": 1.5354795330392671e-06, + "loss": 0.2175, + "num_input_tokens_seen": 27752904, + "step": 14175 + }, + { + "epoch": 1.8788601722995362, + "grad_norm": 20.819852828979492, + "learning_rate": 1.5351592807405019e-06, + "loss": 0.4446, + "num_input_tokens_seen": 27754832, + "step": 14176 + }, + { + "epoch": 1.8789927104042412, + "grad_norm": 13.947122573852539, + "learning_rate": 1.5348390470445313e-06, + "loss": 0.2745, + "num_input_tokens_seen": 27757136, + "step": 14177 + }, + { + "epoch": 1.8791252485089465, + "grad_norm": 7.672341823577881, + "learning_rate": 1.534518831957529e-06, + "loss": 0.1065, + "num_input_tokens_seen": 27758952, + "step": 14178 + }, + { + "epoch": 1.8792577866136515, + "grad_norm": 0.04887288808822632, + "learning_rate": 1.5341986354856704e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27760208, + "step": 14179 + }, + { + "epoch": 1.8793903247183565, + "grad_norm": 14.544113159179688, + "learning_rate": 1.5338784576351279e-06, + "loss": 0.2286, + "num_input_tokens_seen": 27761952, + "step": 14180 + }, + { + "epoch": 1.8795228628230616, + "grad_norm": 7.330190658569336, + "learning_rate": 1.5335582984120755e-06, + "loss": 0.2086, + "num_input_tokens_seen": 27764008, + "step": 14181 + }, + { + "epoch": 1.8796554009277666, + "grad_norm": 5.348171234130859, + "learning_rate": 1.5332381578226856e-06, + "loss": 0.1372, + "num_input_tokens_seen": 27766392, + "step": 14182 + }, + { + "epoch": 1.8797879390324719, + "grad_norm": 2.904508113861084, + "learning_rate": 1.5329180358731307e-06, + "loss": 0.036, + "num_input_tokens_seen": 27767544, + "step": 14183 + }, + { + "epoch": 1.879920477137177, + "grad_norm": 1.784377098083496, + "learning_rate": 1.532597932569584e-06, + "loss": 0.0108, + "num_input_tokens_seen": 27769288, + "step": 14184 + }, + { + "epoch": 1.8800530152418822, + "grad_norm": 7.41031551361084, + "learning_rate": 1.5322778479182165e-06, + "loss": 0.2059, + "num_input_tokens_seen": 27771568, + "step": 14185 + }, + { + "epoch": 1.8801855533465872, + "grad_norm": 6.613982200622559, + "learning_rate": 1.5319577819251994e-06, + "loss": 0.0737, + "num_input_tokens_seen": 27773672, + "step": 14186 + }, + { + "epoch": 1.8803180914512923, + "grad_norm": 8.324676513671875, + "learning_rate": 1.5316377345967044e-06, + "loss": 0.2048, + "num_input_tokens_seen": 27775744, + "step": 14187 + }, + { + "epoch": 1.8804506295559973, + "grad_norm": 0.004979959223419428, + "learning_rate": 1.531317705938901e-06, + "loss": 0.0, + "num_input_tokens_seen": 27777024, + "step": 14188 + }, + { + "epoch": 1.8805831676607023, + "grad_norm": 4.630685329437256, + "learning_rate": 1.5309976959579608e-06, + "loss": 0.0372, + "num_input_tokens_seen": 27778352, + "step": 14189 + }, + { + "epoch": 1.8807157057654076, + "grad_norm": 0.2787049412727356, + "learning_rate": 1.530677704660054e-06, + "loss": 0.0016, + "num_input_tokens_seen": 27780600, + "step": 14190 + }, + { + "epoch": 1.8808482438701126, + "grad_norm": 6.769437313079834, + "learning_rate": 1.5303577320513503e-06, + "loss": 0.128, + "num_input_tokens_seen": 27782112, + "step": 14191 + }, + { + "epoch": 1.8809807819748179, + "grad_norm": 6.621524333953857, + "learning_rate": 1.5300377781380174e-06, + "loss": 0.0603, + "num_input_tokens_seen": 27783912, + "step": 14192 + }, + { + "epoch": 1.881113320079523, + "grad_norm": 3.9912326335906982, + "learning_rate": 1.5297178429262249e-06, + "loss": 0.056, + "num_input_tokens_seen": 27785288, + "step": 14193 + }, + { + "epoch": 1.881245858184228, + "grad_norm": 8.607402801513672, + "learning_rate": 1.5293979264221428e-06, + "loss": 0.2546, + "num_input_tokens_seen": 27787424, + "step": 14194 + }, + { + "epoch": 1.881378396288933, + "grad_norm": 2.973525047302246, + "learning_rate": 1.5290780286319378e-06, + "loss": 0.0305, + "num_input_tokens_seen": 27788792, + "step": 14195 + }, + { + "epoch": 1.881510934393638, + "grad_norm": 1.6846907138824463, + "learning_rate": 1.5287581495617787e-06, + "loss": 0.0144, + "num_input_tokens_seen": 27791840, + "step": 14196 + }, + { + "epoch": 1.8816434724983433, + "grad_norm": 0.5597503781318665, + "learning_rate": 1.5284382892178318e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27792976, + "step": 14197 + }, + { + "epoch": 1.8817760106030483, + "grad_norm": 14.210325241088867, + "learning_rate": 1.5281184476062646e-06, + "loss": 0.4343, + "num_input_tokens_seen": 27794680, + "step": 14198 + }, + { + "epoch": 1.8819085487077536, + "grad_norm": 3.1090426445007324, + "learning_rate": 1.5277986247332452e-06, + "loss": 0.0166, + "num_input_tokens_seen": 27795664, + "step": 14199 + }, + { + "epoch": 1.8820410868124586, + "grad_norm": 7.3814167976379395, + "learning_rate": 1.527478820604939e-06, + "loss": 0.0908, + "num_input_tokens_seen": 27797904, + "step": 14200 + }, + { + "epoch": 1.8821736249171637, + "grad_norm": 4.604297161102295, + "learning_rate": 1.5271590352275115e-06, + "loss": 0.079, + "num_input_tokens_seen": 27800208, + "step": 14201 + }, + { + "epoch": 1.8823061630218687, + "grad_norm": 0.49099692702293396, + "learning_rate": 1.5268392686071294e-06, + "loss": 0.0035, + "num_input_tokens_seen": 27802016, + "step": 14202 + }, + { + "epoch": 1.8824387011265737, + "grad_norm": 6.846774101257324, + "learning_rate": 1.5265195207499572e-06, + "loss": 0.2203, + "num_input_tokens_seen": 27803824, + "step": 14203 + }, + { + "epoch": 1.882571239231279, + "grad_norm": 12.261384963989258, + "learning_rate": 1.5261997916621596e-06, + "loss": 0.2852, + "num_input_tokens_seen": 27805592, + "step": 14204 + }, + { + "epoch": 1.882703777335984, + "grad_norm": 0.028447190299630165, + "learning_rate": 1.5258800813499029e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27807104, + "step": 14205 + }, + { + "epoch": 1.8828363154406893, + "grad_norm": 4.67616605758667, + "learning_rate": 1.52556038981935e-06, + "loss": 0.0867, + "num_input_tokens_seen": 27809288, + "step": 14206 + }, + { + "epoch": 1.8829688535453943, + "grad_norm": 12.975214004516602, + "learning_rate": 1.5252407170766648e-06, + "loss": 0.3973, + "num_input_tokens_seen": 27811560, + "step": 14207 + }, + { + "epoch": 1.8831013916500994, + "grad_norm": 11.32382869720459, + "learning_rate": 1.5249210631280115e-06, + "loss": 0.1903, + "num_input_tokens_seen": 27813304, + "step": 14208 + }, + { + "epoch": 1.8832339297548044, + "grad_norm": 11.548720359802246, + "learning_rate": 1.5246014279795514e-06, + "loss": 0.1593, + "num_input_tokens_seen": 27815688, + "step": 14209 + }, + { + "epoch": 1.8833664678595095, + "grad_norm": 7.484272003173828, + "learning_rate": 1.5242818116374496e-06, + "loss": 0.1952, + "num_input_tokens_seen": 27817856, + "step": 14210 + }, + { + "epoch": 1.8834990059642147, + "grad_norm": 4.7804975509643555, + "learning_rate": 1.523962214107868e-06, + "loss": 0.1388, + "num_input_tokens_seen": 27819472, + "step": 14211 + }, + { + "epoch": 1.88363154406892, + "grad_norm": 6.387711524963379, + "learning_rate": 1.5236426353969674e-06, + "loss": 0.11, + "num_input_tokens_seen": 27821720, + "step": 14212 + }, + { + "epoch": 1.883764082173625, + "grad_norm": 0.024781053885817528, + "learning_rate": 1.5233230755109113e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27823816, + "step": 14213 + }, + { + "epoch": 1.88389662027833, + "grad_norm": 3.994509220123291, + "learning_rate": 1.5230035344558591e-06, + "loss": 0.0941, + "num_input_tokens_seen": 27826544, + "step": 14214 + }, + { + "epoch": 1.884029158383035, + "grad_norm": 0.47853708267211914, + "learning_rate": 1.5226840122379733e-06, + "loss": 0.0039, + "num_input_tokens_seen": 27827976, + "step": 14215 + }, + { + "epoch": 1.8841616964877401, + "grad_norm": 0.031244471669197083, + "learning_rate": 1.5223645088634137e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27829864, + "step": 14216 + }, + { + "epoch": 1.8842942345924454, + "grad_norm": 5.578570365905762, + "learning_rate": 1.5220450243383414e-06, + "loss": 0.2205, + "num_input_tokens_seen": 27831688, + "step": 14217 + }, + { + "epoch": 1.8844267726971504, + "grad_norm": 0.08892669528722763, + "learning_rate": 1.521725558668915e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27833240, + "step": 14218 + }, + { + "epoch": 1.8845593108018557, + "grad_norm": 0.7252469062805176, + "learning_rate": 1.5214061118612944e-06, + "loss": 0.0078, + "num_input_tokens_seen": 27835168, + "step": 14219 + }, + { + "epoch": 1.8846918489065607, + "grad_norm": 8.59192180633545, + "learning_rate": 1.5210866839216398e-06, + "loss": 0.1983, + "num_input_tokens_seen": 27837544, + "step": 14220 + }, + { + "epoch": 1.8848243870112658, + "grad_norm": 0.0762672871351242, + "learning_rate": 1.5207672748561091e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27840384, + "step": 14221 + }, + { + "epoch": 1.8849569251159708, + "grad_norm": 0.011521776206791401, + "learning_rate": 1.5204478846708613e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27842280, + "step": 14222 + }, + { + "epoch": 1.8850894632206758, + "grad_norm": 10.749360084533691, + "learning_rate": 1.520128513372054e-06, + "loss": 0.1443, + "num_input_tokens_seen": 27844736, + "step": 14223 + }, + { + "epoch": 1.885222001325381, + "grad_norm": 9.174150466918945, + "learning_rate": 1.519809160965844e-06, + "loss": 0.1424, + "num_input_tokens_seen": 27845864, + "step": 14224 + }, + { + "epoch": 1.8853545394300861, + "grad_norm": 8.902331352233887, + "learning_rate": 1.5194898274583897e-06, + "loss": 0.225, + "num_input_tokens_seen": 27848304, + "step": 14225 + }, + { + "epoch": 1.8854870775347914, + "grad_norm": 0.05295057222247124, + "learning_rate": 1.5191705128558486e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27850288, + "step": 14226 + }, + { + "epoch": 1.8856196156394964, + "grad_norm": 5.496303558349609, + "learning_rate": 1.5188512171643766e-06, + "loss": 0.1148, + "num_input_tokens_seen": 27853224, + "step": 14227 + }, + { + "epoch": 1.8857521537442015, + "grad_norm": 5.95568323135376, + "learning_rate": 1.51853194039013e-06, + "loss": 0.0913, + "num_input_tokens_seen": 27854952, + "step": 14228 + }, + { + "epoch": 1.8858846918489065, + "grad_norm": 8.58351993560791, + "learning_rate": 1.5182126825392637e-06, + "loss": 0.0292, + "num_input_tokens_seen": 27856480, + "step": 14229 + }, + { + "epoch": 1.8860172299536115, + "grad_norm": 0.4832451045513153, + "learning_rate": 1.5178934436179355e-06, + "loss": 0.003, + "num_input_tokens_seen": 27859520, + "step": 14230 + }, + { + "epoch": 1.8861497680583168, + "grad_norm": 12.110719680786133, + "learning_rate": 1.5175742236322983e-06, + "loss": 0.2945, + "num_input_tokens_seen": 27861232, + "step": 14231 + }, + { + "epoch": 1.8862823061630218, + "grad_norm": 0.042423758655786514, + "learning_rate": 1.5172550225885085e-06, + "loss": 0.0003, + "num_input_tokens_seen": 27862368, + "step": 14232 + }, + { + "epoch": 1.886414844267727, + "grad_norm": 13.581439018249512, + "learning_rate": 1.5169358404927195e-06, + "loss": 0.165, + "num_input_tokens_seen": 27864432, + "step": 14233 + }, + { + "epoch": 1.8865473823724321, + "grad_norm": 8.45539379119873, + "learning_rate": 1.5166166773510859e-06, + "loss": 0.2729, + "num_input_tokens_seen": 27867288, + "step": 14234 + }, + { + "epoch": 1.8866799204771372, + "grad_norm": 5.302933692932129, + "learning_rate": 1.5162975331697605e-06, + "loss": 0.0498, + "num_input_tokens_seen": 27869392, + "step": 14235 + }, + { + "epoch": 1.8868124585818422, + "grad_norm": 0.05805386230349541, + "learning_rate": 1.5159784079548976e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27872304, + "step": 14236 + }, + { + "epoch": 1.8869449966865472, + "grad_norm": 16.82742691040039, + "learning_rate": 1.5156593017126503e-06, + "loss": 0.3361, + "num_input_tokens_seen": 27874224, + "step": 14237 + }, + { + "epoch": 1.8870775347912525, + "grad_norm": 4.378699779510498, + "learning_rate": 1.5153402144491709e-06, + "loss": 0.1523, + "num_input_tokens_seen": 27876304, + "step": 14238 + }, + { + "epoch": 1.8872100728959575, + "grad_norm": 8.531929969787598, + "learning_rate": 1.5150211461706104e-06, + "loss": 0.1984, + "num_input_tokens_seen": 27878312, + "step": 14239 + }, + { + "epoch": 1.8873426110006628, + "grad_norm": 5.728397369384766, + "learning_rate": 1.5147020968831217e-06, + "loss": 0.1479, + "num_input_tokens_seen": 27880432, + "step": 14240 + }, + { + "epoch": 1.8874751491053678, + "grad_norm": 0.06679793447256088, + "learning_rate": 1.5143830665928572e-06, + "loss": 0.0005, + "num_input_tokens_seen": 27882560, + "step": 14241 + }, + { + "epoch": 1.8876076872100729, + "grad_norm": 7.64691162109375, + "learning_rate": 1.5140640553059665e-06, + "loss": 0.1823, + "num_input_tokens_seen": 27884456, + "step": 14242 + }, + { + "epoch": 1.887740225314778, + "grad_norm": 6.689384460449219, + "learning_rate": 1.5137450630286017e-06, + "loss": 0.0674, + "num_input_tokens_seen": 27886184, + "step": 14243 + }, + { + "epoch": 1.887872763419483, + "grad_norm": 5.318139553070068, + "learning_rate": 1.5134260897669124e-06, + "loss": 0.2196, + "num_input_tokens_seen": 27888120, + "step": 14244 + }, + { + "epoch": 1.8880053015241882, + "grad_norm": 6.747684001922607, + "learning_rate": 1.5131071355270477e-06, + "loss": 0.0582, + "num_input_tokens_seen": 27889992, + "step": 14245 + }, + { + "epoch": 1.8881378396288933, + "grad_norm": 7.919478893280029, + "learning_rate": 1.5127882003151586e-06, + "loss": 0.0899, + "num_input_tokens_seen": 27891440, + "step": 14246 + }, + { + "epoch": 1.8882703777335985, + "grad_norm": 1.8978681564331055, + "learning_rate": 1.5124692841373946e-06, + "loss": 0.0181, + "num_input_tokens_seen": 27893120, + "step": 14247 + }, + { + "epoch": 1.8884029158383036, + "grad_norm": 10.8031587600708, + "learning_rate": 1.5121503869999039e-06, + "loss": 0.1444, + "num_input_tokens_seen": 27895096, + "step": 14248 + }, + { + "epoch": 1.8885354539430086, + "grad_norm": 0.20030514895915985, + "learning_rate": 1.5118315089088352e-06, + "loss": 0.0013, + "num_input_tokens_seen": 27896880, + "step": 14249 + }, + { + "epoch": 1.8886679920477136, + "grad_norm": 5.710576057434082, + "learning_rate": 1.5115126498703358e-06, + "loss": 0.1196, + "num_input_tokens_seen": 27898664, + "step": 14250 + }, + { + "epoch": 1.8888005301524187, + "grad_norm": 1.7244715690612793, + "learning_rate": 1.5111938098905551e-06, + "loss": 0.0282, + "num_input_tokens_seen": 27900248, + "step": 14251 + }, + { + "epoch": 1.888933068257124, + "grad_norm": 8.273646354675293, + "learning_rate": 1.5108749889756402e-06, + "loss": 0.2399, + "num_input_tokens_seen": 27902208, + "step": 14252 + }, + { + "epoch": 1.8890656063618292, + "grad_norm": 0.2664487361907959, + "learning_rate": 1.5105561871317382e-06, + "loss": 0.0012, + "num_input_tokens_seen": 27903720, + "step": 14253 + }, + { + "epoch": 1.8891981444665342, + "grad_norm": 0.879421055316925, + "learning_rate": 1.5102374043649949e-06, + "loss": 0.008, + "num_input_tokens_seen": 27905344, + "step": 14254 + }, + { + "epoch": 1.8893306825712393, + "grad_norm": 3.511857748031616, + "learning_rate": 1.5099186406815566e-06, + "loss": 0.107, + "num_input_tokens_seen": 27907000, + "step": 14255 + }, + { + "epoch": 1.8894632206759443, + "grad_norm": 13.081283569335938, + "learning_rate": 1.509599896087571e-06, + "loss": 0.2253, + "num_input_tokens_seen": 27909448, + "step": 14256 + }, + { + "epoch": 1.8895957587806493, + "grad_norm": 2.9708056449890137, + "learning_rate": 1.5092811705891821e-06, + "loss": 0.0578, + "num_input_tokens_seen": 27911520, + "step": 14257 + }, + { + "epoch": 1.8897282968853544, + "grad_norm": 7.5729570388793945, + "learning_rate": 1.5089624641925364e-06, + "loss": 0.1322, + "num_input_tokens_seen": 27913576, + "step": 14258 + }, + { + "epoch": 1.8898608349900596, + "grad_norm": 5.853022575378418, + "learning_rate": 1.5086437769037774e-06, + "loss": 0.0632, + "num_input_tokens_seen": 27915648, + "step": 14259 + }, + { + "epoch": 1.889993373094765, + "grad_norm": 4.938845157623291, + "learning_rate": 1.5083251087290506e-06, + "loss": 0.1517, + "num_input_tokens_seen": 27917456, + "step": 14260 + }, + { + "epoch": 1.89012591119947, + "grad_norm": 9.295892715454102, + "learning_rate": 1.5080064596744991e-06, + "loss": 0.1141, + "num_input_tokens_seen": 27919840, + "step": 14261 + }, + { + "epoch": 1.890258449304175, + "grad_norm": 0.05260400101542473, + "learning_rate": 1.5076878297462682e-06, + "loss": 0.0004, + "num_input_tokens_seen": 27921872, + "step": 14262 + }, + { + "epoch": 1.89039098740888, + "grad_norm": 6.452965259552002, + "learning_rate": 1.5073692189505002e-06, + "loss": 0.0754, + "num_input_tokens_seen": 27923656, + "step": 14263 + }, + { + "epoch": 1.890523525513585, + "grad_norm": 9.336358070373535, + "learning_rate": 1.5070506272933388e-06, + "loss": 0.132, + "num_input_tokens_seen": 27925384, + "step": 14264 + }, + { + "epoch": 1.8906560636182903, + "grad_norm": 12.07724666595459, + "learning_rate": 1.5067320547809262e-06, + "loss": 0.1299, + "num_input_tokens_seen": 27927048, + "step": 14265 + }, + { + "epoch": 1.8907886017229953, + "grad_norm": 4.5465497970581055, + "learning_rate": 1.5064135014194038e-06, + "loss": 0.0925, + "num_input_tokens_seen": 27929672, + "step": 14266 + }, + { + "epoch": 1.8909211398277006, + "grad_norm": 0.21656224131584167, + "learning_rate": 1.5060949672149155e-06, + "loss": 0.0016, + "num_input_tokens_seen": 27931512, + "step": 14267 + }, + { + "epoch": 1.8910536779324056, + "grad_norm": 3.129467010498047, + "learning_rate": 1.5057764521736023e-06, + "loss": 0.0421, + "num_input_tokens_seen": 27933240, + "step": 14268 + }, + { + "epoch": 1.8911862160371107, + "grad_norm": 0.29531675577163696, + "learning_rate": 1.5054579563016043e-06, + "loss": 0.002, + "num_input_tokens_seen": 27935240, + "step": 14269 + }, + { + "epoch": 1.8913187541418157, + "grad_norm": 2.3875887393951416, + "learning_rate": 1.5051394796050633e-06, + "loss": 0.0639, + "num_input_tokens_seen": 27936672, + "step": 14270 + }, + { + "epoch": 1.8914512922465208, + "grad_norm": 2.8848841190338135, + "learning_rate": 1.5048210220901188e-06, + "loss": 0.0573, + "num_input_tokens_seen": 27938768, + "step": 14271 + }, + { + "epoch": 1.891583830351226, + "grad_norm": 1.1078637838363647, + "learning_rate": 1.5045025837629119e-06, + "loss": 0.0176, + "num_input_tokens_seen": 27940488, + "step": 14272 + }, + { + "epoch": 1.891716368455931, + "grad_norm": 5.7457804679870605, + "learning_rate": 1.5041841646295823e-06, + "loss": 0.083, + "num_input_tokens_seen": 27943296, + "step": 14273 + }, + { + "epoch": 1.8918489065606363, + "grad_norm": 3.2154109477996826, + "learning_rate": 1.5038657646962685e-06, + "loss": 0.046, + "num_input_tokens_seen": 27945424, + "step": 14274 + }, + { + "epoch": 1.8919814446653413, + "grad_norm": 0.18191538751125336, + "learning_rate": 1.5035473839691106e-06, + "loss": 0.0013, + "num_input_tokens_seen": 27946792, + "step": 14275 + }, + { + "epoch": 1.8921139827700464, + "grad_norm": 6.376058578491211, + "learning_rate": 1.5032290224542457e-06, + "loss": 0.1323, + "num_input_tokens_seen": 27948536, + "step": 14276 + }, + { + "epoch": 1.8922465208747514, + "grad_norm": 1.948290467262268, + "learning_rate": 1.5029106801578137e-06, + "loss": 0.0232, + "num_input_tokens_seen": 27951112, + "step": 14277 + }, + { + "epoch": 1.8923790589794565, + "grad_norm": 2.884453296661377, + "learning_rate": 1.5025923570859507e-06, + "loss": 0.0565, + "num_input_tokens_seen": 27953256, + "step": 14278 + }, + { + "epoch": 1.8925115970841617, + "grad_norm": 4.846578598022461, + "learning_rate": 1.5022740532447963e-06, + "loss": 0.0617, + "num_input_tokens_seen": 27955088, + "step": 14279 + }, + { + "epoch": 1.8926441351888668, + "grad_norm": 8.830873489379883, + "learning_rate": 1.5019557686404857e-06, + "loss": 0.1141, + "num_input_tokens_seen": 27957256, + "step": 14280 + }, + { + "epoch": 1.892776673293572, + "grad_norm": 11.722908020019531, + "learning_rate": 1.5016375032791557e-06, + "loss": 0.2234, + "num_input_tokens_seen": 27959528, + "step": 14281 + }, + { + "epoch": 1.892909211398277, + "grad_norm": 2.970183849334717, + "learning_rate": 1.5013192571669447e-06, + "loss": 0.0451, + "num_input_tokens_seen": 27961360, + "step": 14282 + }, + { + "epoch": 1.893041749502982, + "grad_norm": 0.02193407341837883, + "learning_rate": 1.5010010303099872e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27962528, + "step": 14283 + }, + { + "epoch": 1.8931742876076871, + "grad_norm": 8.791484832763672, + "learning_rate": 1.5006828227144188e-06, + "loss": 0.1738, + "num_input_tokens_seen": 27964928, + "step": 14284 + }, + { + "epoch": 1.8933068257123922, + "grad_norm": 10.523104667663574, + "learning_rate": 1.500364634386375e-06, + "loss": 0.2605, + "num_input_tokens_seen": 27967328, + "step": 14285 + }, + { + "epoch": 1.8934393638170974, + "grad_norm": 7.065920352935791, + "learning_rate": 1.5000464653319898e-06, + "loss": 0.084, + "num_input_tokens_seen": 27970240, + "step": 14286 + }, + { + "epoch": 1.8935719019218025, + "grad_norm": 0.354267954826355, + "learning_rate": 1.4997283155573995e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27972456, + "step": 14287 + }, + { + "epoch": 1.8937044400265077, + "grad_norm": 7.797153949737549, + "learning_rate": 1.4994101850687373e-06, + "loss": 0.1817, + "num_input_tokens_seen": 27974952, + "step": 14288 + }, + { + "epoch": 1.8938369781312128, + "grad_norm": 1.6423008441925049, + "learning_rate": 1.4990920738721366e-06, + "loss": 0.0185, + "num_input_tokens_seen": 27976568, + "step": 14289 + }, + { + "epoch": 1.8939695162359178, + "grad_norm": 5.955856800079346, + "learning_rate": 1.4987739819737318e-06, + "loss": 0.0578, + "num_input_tokens_seen": 27978704, + "step": 14290 + }, + { + "epoch": 1.8941020543406228, + "grad_norm": 1.1075438261032104, + "learning_rate": 1.4984559093796556e-06, + "loss": 0.0055, + "num_input_tokens_seen": 27980928, + "step": 14291 + }, + { + "epoch": 1.8942345924453279, + "grad_norm": 6.061550140380859, + "learning_rate": 1.4981378560960391e-06, + "loss": 0.2094, + "num_input_tokens_seen": 27982896, + "step": 14292 + }, + { + "epoch": 1.8943671305500331, + "grad_norm": 0.028597114607691765, + "learning_rate": 1.4978198221290162e-06, + "loss": 0.0002, + "num_input_tokens_seen": 27984288, + "step": 14293 + }, + { + "epoch": 1.8944996686547384, + "grad_norm": 0.02162368781864643, + "learning_rate": 1.4975018074847192e-06, + "loss": 0.0001, + "num_input_tokens_seen": 27985624, + "step": 14294 + }, + { + "epoch": 1.8946322067594434, + "grad_norm": 7.240030288696289, + "learning_rate": 1.4971838121692787e-06, + "loss": 0.0964, + "num_input_tokens_seen": 27987408, + "step": 14295 + }, + { + "epoch": 1.8947647448641485, + "grad_norm": 3.035247802734375, + "learning_rate": 1.4968658361888263e-06, + "loss": 0.0395, + "num_input_tokens_seen": 27988832, + "step": 14296 + }, + { + "epoch": 1.8948972829688535, + "grad_norm": 0.40507200360298157, + "learning_rate": 1.4965478795494918e-06, + "loss": 0.0033, + "num_input_tokens_seen": 27990640, + "step": 14297 + }, + { + "epoch": 1.8950298210735586, + "grad_norm": 0.08990246802568436, + "learning_rate": 1.4962299422574073e-06, + "loss": 0.0011, + "num_input_tokens_seen": 27992480, + "step": 14298 + }, + { + "epoch": 1.8951623591782636, + "grad_norm": 5.55600643157959, + "learning_rate": 1.4959120243187014e-06, + "loss": 0.1198, + "num_input_tokens_seen": 27994440, + "step": 14299 + }, + { + "epoch": 1.8952948972829688, + "grad_norm": 0.4813433289527893, + "learning_rate": 1.4955941257395052e-06, + "loss": 0.0026, + "num_input_tokens_seen": 27995992, + "step": 14300 + }, + { + "epoch": 1.895427435387674, + "grad_norm": 7.863996505737305, + "learning_rate": 1.4952762465259462e-06, + "loss": 0.2081, + "num_input_tokens_seen": 27998032, + "step": 14301 + }, + { + "epoch": 1.8955599734923791, + "grad_norm": 6.6828460693359375, + "learning_rate": 1.494958386684154e-06, + "loss": 0.1, + "num_input_tokens_seen": 27999768, + "step": 14302 + }, + { + "epoch": 1.8956925115970842, + "grad_norm": 0.056097324937582016, + "learning_rate": 1.4946405462202584e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28001960, + "step": 14303 + }, + { + "epoch": 1.8958250497017892, + "grad_norm": 2.3371753692626953, + "learning_rate": 1.4943227251403864e-06, + "loss": 0.0228, + "num_input_tokens_seen": 28003872, + "step": 14304 + }, + { + "epoch": 1.8959575878064943, + "grad_norm": 9.442514419555664, + "learning_rate": 1.494004923450666e-06, + "loss": 0.0682, + "num_input_tokens_seen": 28006552, + "step": 14305 + }, + { + "epoch": 1.8960901259111995, + "grad_norm": 0.09930270910263062, + "learning_rate": 1.4936871411572252e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28008416, + "step": 14306 + }, + { + "epoch": 1.8962226640159046, + "grad_norm": 5.885056495666504, + "learning_rate": 1.493369378266189e-06, + "loss": 0.1503, + "num_input_tokens_seen": 28010272, + "step": 14307 + }, + { + "epoch": 1.8963552021206098, + "grad_norm": 8.787714958190918, + "learning_rate": 1.4930516347836866e-06, + "loss": 0.0635, + "num_input_tokens_seen": 28012504, + "step": 14308 + }, + { + "epoch": 1.8964877402253149, + "grad_norm": 0.06251006573438644, + "learning_rate": 1.4927339107158437e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28013752, + "step": 14309 + }, + { + "epoch": 1.89662027833002, + "grad_norm": 13.839811325073242, + "learning_rate": 1.4924162060687852e-06, + "loss": 0.1318, + "num_input_tokens_seen": 28015640, + "step": 14310 + }, + { + "epoch": 1.896752816434725, + "grad_norm": 8.636619567871094, + "learning_rate": 1.4920985208486383e-06, + "loss": 0.2112, + "num_input_tokens_seen": 28017792, + "step": 14311 + }, + { + "epoch": 1.89688535453943, + "grad_norm": 0.3030971586704254, + "learning_rate": 1.4917808550615259e-06, + "loss": 0.002, + "num_input_tokens_seen": 28019632, + "step": 14312 + }, + { + "epoch": 1.8970178926441352, + "grad_norm": 7.821743488311768, + "learning_rate": 1.4914632087135746e-06, + "loss": 0.1602, + "num_input_tokens_seen": 28021112, + "step": 14313 + }, + { + "epoch": 1.8971504307488403, + "grad_norm": 4.045699596405029, + "learning_rate": 1.4911455818109088e-06, + "loss": 0.0127, + "num_input_tokens_seen": 28023192, + "step": 14314 + }, + { + "epoch": 1.8972829688535455, + "grad_norm": 0.016956863924860954, + "learning_rate": 1.4908279743596528e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28024776, + "step": 14315 + }, + { + "epoch": 1.8974155069582506, + "grad_norm": 12.531383514404297, + "learning_rate": 1.4905103863659283e-06, + "loss": 0.2924, + "num_input_tokens_seen": 28026712, + "step": 14316 + }, + { + "epoch": 1.8975480450629556, + "grad_norm": 0.20813694596290588, + "learning_rate": 1.490192817835861e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28028040, + "step": 14317 + }, + { + "epoch": 1.8976805831676606, + "grad_norm": 0.11262309551239014, + "learning_rate": 1.489875268775572e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28029880, + "step": 14318 + }, + { + "epoch": 1.8978131212723657, + "grad_norm": 14.015881538391113, + "learning_rate": 1.4895577391911845e-06, + "loss": 0.2578, + "num_input_tokens_seen": 28031792, + "step": 14319 + }, + { + "epoch": 1.897945659377071, + "grad_norm": 6.26746940612793, + "learning_rate": 1.4892402290888216e-06, + "loss": 0.1009, + "num_input_tokens_seen": 28033560, + "step": 14320 + }, + { + "epoch": 1.898078197481776, + "grad_norm": 2.322051525115967, + "learning_rate": 1.4889227384746046e-06, + "loss": 0.0801, + "num_input_tokens_seen": 28035584, + "step": 14321 + }, + { + "epoch": 1.8982107355864812, + "grad_norm": 17.970823287963867, + "learning_rate": 1.4886052673546541e-06, + "loss": 0.7695, + "num_input_tokens_seen": 28038384, + "step": 14322 + }, + { + "epoch": 1.8983432736911863, + "grad_norm": 11.251123428344727, + "learning_rate": 1.4882878157350911e-06, + "loss": 0.2448, + "num_input_tokens_seen": 28041272, + "step": 14323 + }, + { + "epoch": 1.8984758117958913, + "grad_norm": 5.492765426635742, + "learning_rate": 1.4879703836220384e-06, + "loss": 0.1414, + "num_input_tokens_seen": 28043456, + "step": 14324 + }, + { + "epoch": 1.8986083499005963, + "grad_norm": 2.0926756858825684, + "learning_rate": 1.4876529710216137e-06, + "loss": 0.032, + "num_input_tokens_seen": 28045240, + "step": 14325 + }, + { + "epoch": 1.8987408880053014, + "grad_norm": 8.932882308959961, + "learning_rate": 1.487335577939939e-06, + "loss": 0.1369, + "num_input_tokens_seen": 28047104, + "step": 14326 + }, + { + "epoch": 1.8988734261100066, + "grad_norm": 0.20662327110767365, + "learning_rate": 1.4870182043831324e-06, + "loss": 0.0012, + "num_input_tokens_seen": 28048776, + "step": 14327 + }, + { + "epoch": 1.8990059642147117, + "grad_norm": 7.576310634613037, + "learning_rate": 1.4867008503573132e-06, + "loss": 0.1316, + "num_input_tokens_seen": 28050712, + "step": 14328 + }, + { + "epoch": 1.899138502319417, + "grad_norm": 0.0881069079041481, + "learning_rate": 1.4863835158686017e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28052496, + "step": 14329 + }, + { + "epoch": 1.899271040424122, + "grad_norm": 0.13089138269424438, + "learning_rate": 1.486066200923115e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28055888, + "step": 14330 + }, + { + "epoch": 1.899403578528827, + "grad_norm": 0.008391792885959148, + "learning_rate": 1.485748905526971e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28057192, + "step": 14331 + }, + { + "epoch": 1.899536116633532, + "grad_norm": 0.11081094294786453, + "learning_rate": 1.4854316296862886e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28059696, + "step": 14332 + }, + { + "epoch": 1.899668654738237, + "grad_norm": 12.982908248901367, + "learning_rate": 1.485114373407183e-06, + "loss": 0.2887, + "num_input_tokens_seen": 28061152, + "step": 14333 + }, + { + "epoch": 1.8998011928429424, + "grad_norm": 10.592294692993164, + "learning_rate": 1.4847971366957731e-06, + "loss": 0.137, + "num_input_tokens_seen": 28063424, + "step": 14334 + }, + { + "epoch": 1.8999337309476476, + "grad_norm": 13.612466812133789, + "learning_rate": 1.4844799195581748e-06, + "loss": 0.229, + "num_input_tokens_seen": 28066184, + "step": 14335 + }, + { + "epoch": 1.9000662690523527, + "grad_norm": 6.599224090576172, + "learning_rate": 1.484162722000505e-06, + "loss": 0.0817, + "num_input_tokens_seen": 28067912, + "step": 14336 + }, + { + "epoch": 1.9001988071570577, + "grad_norm": 7.283559322357178, + "learning_rate": 1.4838455440288776e-06, + "loss": 0.0855, + "num_input_tokens_seen": 28070736, + "step": 14337 + }, + { + "epoch": 1.9003313452617627, + "grad_norm": 3.0039098262786865, + "learning_rate": 1.4835283856494087e-06, + "loss": 0.0327, + "num_input_tokens_seen": 28072152, + "step": 14338 + }, + { + "epoch": 1.9004638833664678, + "grad_norm": 0.7411717176437378, + "learning_rate": 1.483211246868215e-06, + "loss": 0.0047, + "num_input_tokens_seen": 28074344, + "step": 14339 + }, + { + "epoch": 1.9005964214711728, + "grad_norm": 0.8947293162345886, + "learning_rate": 1.4828941276914095e-06, + "loss": 0.0052, + "num_input_tokens_seen": 28075616, + "step": 14340 + }, + { + "epoch": 1.900728959575878, + "grad_norm": 0.17384140193462372, + "learning_rate": 1.4825770281251067e-06, + "loss": 0.0012, + "num_input_tokens_seen": 28077608, + "step": 14341 + }, + { + "epoch": 1.9008614976805833, + "grad_norm": 2.4023985862731934, + "learning_rate": 1.4822599481754207e-06, + "loss": 0.043, + "num_input_tokens_seen": 28079160, + "step": 14342 + }, + { + "epoch": 1.9009940357852884, + "grad_norm": 0.0192425400018692, + "learning_rate": 1.4819428878484646e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28080592, + "step": 14343 + }, + { + "epoch": 1.9011265738899934, + "grad_norm": 6.405759811401367, + "learning_rate": 1.4816258471503528e-06, + "loss": 0.178, + "num_input_tokens_seen": 28082840, + "step": 14344 + }, + { + "epoch": 1.9012591119946984, + "grad_norm": 7.292095184326172, + "learning_rate": 1.4813088260871971e-06, + "loss": 0.2574, + "num_input_tokens_seen": 28085552, + "step": 14345 + }, + { + "epoch": 1.9013916500994035, + "grad_norm": 0.047887712717056274, + "learning_rate": 1.4809918246651094e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28087632, + "step": 14346 + }, + { + "epoch": 1.9015241882041087, + "grad_norm": 1.4407761096954346, + "learning_rate": 1.4806748428902031e-06, + "loss": 0.007, + "num_input_tokens_seen": 28089304, + "step": 14347 + }, + { + "epoch": 1.9016567263088138, + "grad_norm": 8.873480796813965, + "learning_rate": 1.4803578807685887e-06, + "loss": 0.1905, + "num_input_tokens_seen": 28091848, + "step": 14348 + }, + { + "epoch": 1.901789264413519, + "grad_norm": 6.293337345123291, + "learning_rate": 1.4800409383063768e-06, + "loss": 0.0805, + "num_input_tokens_seen": 28093408, + "step": 14349 + }, + { + "epoch": 1.901921802518224, + "grad_norm": 10.04287052154541, + "learning_rate": 1.4797240155096804e-06, + "loss": 0.1499, + "num_input_tokens_seen": 28095336, + "step": 14350 + }, + { + "epoch": 1.902054340622929, + "grad_norm": 9.148497581481934, + "learning_rate": 1.4794071123846088e-06, + "loss": 0.2759, + "num_input_tokens_seen": 28097592, + "step": 14351 + }, + { + "epoch": 1.9021868787276341, + "grad_norm": 4.605007648468018, + "learning_rate": 1.4790902289372717e-06, + "loss": 0.0422, + "num_input_tokens_seen": 28099000, + "step": 14352 + }, + { + "epoch": 1.9023194168323392, + "grad_norm": 2.3926753997802734, + "learning_rate": 1.4787733651737798e-06, + "loss": 0.0389, + "num_input_tokens_seen": 28100640, + "step": 14353 + }, + { + "epoch": 1.9024519549370444, + "grad_norm": 4.708327770233154, + "learning_rate": 1.4784565211002411e-06, + "loss": 0.1527, + "num_input_tokens_seen": 28102488, + "step": 14354 + }, + { + "epoch": 1.9025844930417495, + "grad_norm": 5.654538631439209, + "learning_rate": 1.4781396967227657e-06, + "loss": 0.0778, + "num_input_tokens_seen": 28104552, + "step": 14355 + }, + { + "epoch": 1.9027170311464547, + "grad_norm": 3.59625244140625, + "learning_rate": 1.477822892047462e-06, + "loss": 0.0229, + "num_input_tokens_seen": 28105848, + "step": 14356 + }, + { + "epoch": 1.9028495692511598, + "grad_norm": 11.639248847961426, + "learning_rate": 1.4775061070804381e-06, + "loss": 0.2296, + "num_input_tokens_seen": 28107576, + "step": 14357 + }, + { + "epoch": 1.9029821073558648, + "grad_norm": 0.9375972151756287, + "learning_rate": 1.4771893418278021e-06, + "loss": 0.0052, + "num_input_tokens_seen": 28109224, + "step": 14358 + }, + { + "epoch": 1.9031146454605699, + "grad_norm": 7.5576934814453125, + "learning_rate": 1.4768725962956604e-06, + "loss": 0.1128, + "num_input_tokens_seen": 28111720, + "step": 14359 + }, + { + "epoch": 1.903247183565275, + "grad_norm": 0.03962313383817673, + "learning_rate": 1.4765558704901216e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28113136, + "step": 14360 + }, + { + "epoch": 1.9033797216699802, + "grad_norm": 12.488739013671875, + "learning_rate": 1.476239164417292e-06, + "loss": 0.3789, + "num_input_tokens_seen": 28115472, + "step": 14361 + }, + { + "epoch": 1.9035122597746852, + "grad_norm": 10.276759147644043, + "learning_rate": 1.475922478083277e-06, + "loss": 0.1178, + "num_input_tokens_seen": 28117432, + "step": 14362 + }, + { + "epoch": 1.9036447978793904, + "grad_norm": 5.166616916656494, + "learning_rate": 1.4756058114941829e-06, + "loss": 0.1, + "num_input_tokens_seen": 28119168, + "step": 14363 + }, + { + "epoch": 1.9037773359840955, + "grad_norm": 8.708499908447266, + "learning_rate": 1.475289164656115e-06, + "loss": 0.11, + "num_input_tokens_seen": 28121496, + "step": 14364 + }, + { + "epoch": 1.9039098740888005, + "grad_norm": 2.347527265548706, + "learning_rate": 1.47497253757518e-06, + "loss": 0.0266, + "num_input_tokens_seen": 28123840, + "step": 14365 + }, + { + "epoch": 1.9040424121935056, + "grad_norm": 3.3438308238983154, + "learning_rate": 1.4746559302574813e-06, + "loss": 0.0506, + "num_input_tokens_seen": 28125752, + "step": 14366 + }, + { + "epoch": 1.9041749502982106, + "grad_norm": 0.06118813902139664, + "learning_rate": 1.4743393427091241e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28127592, + "step": 14367 + }, + { + "epoch": 1.9043074884029159, + "grad_norm": 5.182222366333008, + "learning_rate": 1.4740227749362116e-06, + "loss": 0.0208, + "num_input_tokens_seen": 28129648, + "step": 14368 + }, + { + "epoch": 1.904440026507621, + "grad_norm": 0.24628907442092896, + "learning_rate": 1.4737062269448467e-06, + "loss": 0.0029, + "num_input_tokens_seen": 28131216, + "step": 14369 + }, + { + "epoch": 1.9045725646123262, + "grad_norm": 0.0353533960878849, + "learning_rate": 1.4733896987411344e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28133968, + "step": 14370 + }, + { + "epoch": 1.9047051027170312, + "grad_norm": 15.884420394897461, + "learning_rate": 1.4730731903311777e-06, + "loss": 0.2577, + "num_input_tokens_seen": 28135648, + "step": 14371 + }, + { + "epoch": 1.9048376408217362, + "grad_norm": 2.725804090499878, + "learning_rate": 1.4727567017210775e-06, + "loss": 0.0388, + "num_input_tokens_seen": 28137824, + "step": 14372 + }, + { + "epoch": 1.9049701789264413, + "grad_norm": 0.030706198886036873, + "learning_rate": 1.4724402329169374e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28139976, + "step": 14373 + }, + { + "epoch": 1.9051027170311463, + "grad_norm": 3.243273973464966, + "learning_rate": 1.4721237839248586e-06, + "loss": 0.0252, + "num_input_tokens_seen": 28141480, + "step": 14374 + }, + { + "epoch": 1.9052352551358516, + "grad_norm": 5.909368515014648, + "learning_rate": 1.471807354750941e-06, + "loss": 0.1111, + "num_input_tokens_seen": 28143864, + "step": 14375 + }, + { + "epoch": 1.9053677932405566, + "grad_norm": 0.021473951637744904, + "learning_rate": 1.4714909454012877e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28145512, + "step": 14376 + }, + { + "epoch": 1.9055003313452619, + "grad_norm": 13.313080787658691, + "learning_rate": 1.471174555881999e-06, + "loss": 0.1762, + "num_input_tokens_seen": 28147960, + "step": 14377 + }, + { + "epoch": 1.905632869449967, + "grad_norm": 0.03659152612090111, + "learning_rate": 1.4708581861991738e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28149416, + "step": 14378 + }, + { + "epoch": 1.905765407554672, + "grad_norm": 0.6014538407325745, + "learning_rate": 1.4705418363589136e-06, + "loss": 0.0063, + "num_input_tokens_seen": 28151248, + "step": 14379 + }, + { + "epoch": 1.905897945659377, + "grad_norm": 7.331469535827637, + "learning_rate": 1.470225506367316e-06, + "loss": 0.1582, + "num_input_tokens_seen": 28152584, + "step": 14380 + }, + { + "epoch": 1.906030483764082, + "grad_norm": 6.527358531951904, + "learning_rate": 1.4699091962304813e-06, + "loss": 0.0996, + "num_input_tokens_seen": 28154832, + "step": 14381 + }, + { + "epoch": 1.9061630218687873, + "grad_norm": 4.263115406036377, + "learning_rate": 1.4695929059545084e-06, + "loss": 0.0608, + "num_input_tokens_seen": 28156968, + "step": 14382 + }, + { + "epoch": 1.9062955599734925, + "grad_norm": 0.8157362937927246, + "learning_rate": 1.4692766355454953e-06, + "loss": 0.0062, + "num_input_tokens_seen": 28158504, + "step": 14383 + }, + { + "epoch": 1.9064280980781976, + "grad_norm": 7.034056186676025, + "learning_rate": 1.468960385009539e-06, + "loss": 0.081, + "num_input_tokens_seen": 28160304, + "step": 14384 + }, + { + "epoch": 1.9065606361829026, + "grad_norm": 4.196228981018066, + "learning_rate": 1.4686441543527374e-06, + "loss": 0.0594, + "num_input_tokens_seen": 28161808, + "step": 14385 + }, + { + "epoch": 1.9066931742876077, + "grad_norm": 7.431917190551758, + "learning_rate": 1.4683279435811891e-06, + "loss": 0.1528, + "num_input_tokens_seen": 28164776, + "step": 14386 + }, + { + "epoch": 1.9068257123923127, + "grad_norm": 0.017847903072834015, + "learning_rate": 1.4680117527009893e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28167688, + "step": 14387 + }, + { + "epoch": 1.9069582504970177, + "grad_norm": 14.12850570678711, + "learning_rate": 1.4676955817182353e-06, + "loss": 0.1797, + "num_input_tokens_seen": 28169632, + "step": 14388 + }, + { + "epoch": 1.907090788601723, + "grad_norm": 0.0770014226436615, + "learning_rate": 1.4673794306390227e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28171432, + "step": 14389 + }, + { + "epoch": 1.9072233267064282, + "grad_norm": 1.719918131828308, + "learning_rate": 1.4670632994694456e-06, + "loss": 0.0173, + "num_input_tokens_seen": 28174176, + "step": 14390 + }, + { + "epoch": 1.9073558648111333, + "grad_norm": 11.846678733825684, + "learning_rate": 1.4667471882156014e-06, + "loss": 0.3294, + "num_input_tokens_seen": 28176272, + "step": 14391 + }, + { + "epoch": 1.9074884029158383, + "grad_norm": 16.303253173828125, + "learning_rate": 1.466431096883585e-06, + "loss": 0.3537, + "num_input_tokens_seen": 28178376, + "step": 14392 + }, + { + "epoch": 1.9076209410205434, + "grad_norm": 13.694519996643066, + "learning_rate": 1.4661150254794893e-06, + "loss": 0.3723, + "num_input_tokens_seen": 28180328, + "step": 14393 + }, + { + "epoch": 1.9077534791252484, + "grad_norm": 1.6928051710128784, + "learning_rate": 1.4657989740094098e-06, + "loss": 0.0158, + "num_input_tokens_seen": 28183784, + "step": 14394 + }, + { + "epoch": 1.9078860172299537, + "grad_norm": 3.777658700942993, + "learning_rate": 1.4654829424794382e-06, + "loss": 0.0392, + "num_input_tokens_seen": 28185912, + "step": 14395 + }, + { + "epoch": 1.9080185553346587, + "grad_norm": 7.629262447357178, + "learning_rate": 1.46516693089567e-06, + "loss": 0.1371, + "num_input_tokens_seen": 28188032, + "step": 14396 + }, + { + "epoch": 1.908151093439364, + "grad_norm": 0.03158547356724739, + "learning_rate": 1.4648509392641978e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28189152, + "step": 14397 + }, + { + "epoch": 1.908283631544069, + "grad_norm": 8.083187103271484, + "learning_rate": 1.4645349675911134e-06, + "loss": 0.177, + "num_input_tokens_seen": 28191096, + "step": 14398 + }, + { + "epoch": 1.908416169648774, + "grad_norm": 8.413670539855957, + "learning_rate": 1.4642190158825087e-06, + "loss": 0.113, + "num_input_tokens_seen": 28192832, + "step": 14399 + }, + { + "epoch": 1.908548707753479, + "grad_norm": 2.553278684616089, + "learning_rate": 1.4639030841444755e-06, + "loss": 0.0124, + "num_input_tokens_seen": 28194032, + "step": 14400 + }, + { + "epoch": 1.908681245858184, + "grad_norm": 3.7777161598205566, + "learning_rate": 1.4635871723831063e-06, + "loss": 0.0247, + "num_input_tokens_seen": 28196496, + "step": 14401 + }, + { + "epoch": 1.9088137839628894, + "grad_norm": 7.240584850311279, + "learning_rate": 1.4632712806044912e-06, + "loss": 0.2198, + "num_input_tokens_seen": 28199000, + "step": 14402 + }, + { + "epoch": 1.9089463220675944, + "grad_norm": 4.616669178009033, + "learning_rate": 1.4629554088147216e-06, + "loss": 0.0736, + "num_input_tokens_seen": 28201512, + "step": 14403 + }, + { + "epoch": 1.9090788601722997, + "grad_norm": 0.03577223792672157, + "learning_rate": 1.462639557019887e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28203448, + "step": 14404 + }, + { + "epoch": 1.9092113982770047, + "grad_norm": 0.5985246300697327, + "learning_rate": 1.4623237252260768e-06, + "loss": 0.0045, + "num_input_tokens_seen": 28205032, + "step": 14405 + }, + { + "epoch": 1.9093439363817097, + "grad_norm": 1.786458134651184, + "learning_rate": 1.4620079134393805e-06, + "loss": 0.0104, + "num_input_tokens_seen": 28207592, + "step": 14406 + }, + { + "epoch": 1.9094764744864148, + "grad_norm": 9.66949462890625, + "learning_rate": 1.4616921216658888e-06, + "loss": 0.0831, + "num_input_tokens_seen": 28209416, + "step": 14407 + }, + { + "epoch": 1.9096090125911198, + "grad_norm": 3.496964931488037, + "learning_rate": 1.461376349911689e-06, + "loss": 0.1269, + "num_input_tokens_seen": 28211272, + "step": 14408 + }, + { + "epoch": 1.909741550695825, + "grad_norm": 7.710900783538818, + "learning_rate": 1.4610605981828698e-06, + "loss": 0.0361, + "num_input_tokens_seen": 28212904, + "step": 14409 + }, + { + "epoch": 1.9098740888005301, + "grad_norm": 10.75462532043457, + "learning_rate": 1.460744866485519e-06, + "loss": 0.1921, + "num_input_tokens_seen": 28214664, + "step": 14410 + }, + { + "epoch": 1.9100066269052354, + "grad_norm": 4.333770275115967, + "learning_rate": 1.4604291548257232e-06, + "loss": 0.0662, + "num_input_tokens_seen": 28216712, + "step": 14411 + }, + { + "epoch": 1.9101391650099404, + "grad_norm": 0.3493688702583313, + "learning_rate": 1.4601134632095714e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28218592, + "step": 14412 + }, + { + "epoch": 1.9102717031146454, + "grad_norm": 7.69537353515625, + "learning_rate": 1.4597977916431495e-06, + "loss": 0.2792, + "num_input_tokens_seen": 28220784, + "step": 14413 + }, + { + "epoch": 1.9104042412193505, + "grad_norm": 0.009506812319159508, + "learning_rate": 1.4594821401325435e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28222192, + "step": 14414 + }, + { + "epoch": 1.9105367793240555, + "grad_norm": 0.018124233931303024, + "learning_rate": 1.45916650868384e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28223536, + "step": 14415 + }, + { + "epoch": 1.9106693174287608, + "grad_norm": 8.8605375289917, + "learning_rate": 1.4588508973031232e-06, + "loss": 0.1683, + "num_input_tokens_seen": 28225344, + "step": 14416 + }, + { + "epoch": 1.9108018555334658, + "grad_norm": 0.038766033947467804, + "learning_rate": 1.4585353059964802e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28228392, + "step": 14417 + }, + { + "epoch": 1.910934393638171, + "grad_norm": 3.79392409324646, + "learning_rate": 1.4582197347699945e-06, + "loss": 0.0555, + "num_input_tokens_seen": 28230320, + "step": 14418 + }, + { + "epoch": 1.9110669317428761, + "grad_norm": 0.014220799319446087, + "learning_rate": 1.4579041836297513e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28232240, + "step": 14419 + }, + { + "epoch": 1.9111994698475812, + "grad_norm": 0.041857972741127014, + "learning_rate": 1.457588652581835e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28234104, + "step": 14420 + }, + { + "epoch": 1.9113320079522862, + "grad_norm": 4.487502574920654, + "learning_rate": 1.4572731416323271e-06, + "loss": 0.0583, + "num_input_tokens_seen": 28235904, + "step": 14421 + }, + { + "epoch": 1.9114645460569912, + "grad_norm": 6.965250015258789, + "learning_rate": 1.4569576507873136e-06, + "loss": 0.1566, + "num_input_tokens_seen": 28237464, + "step": 14422 + }, + { + "epoch": 1.9115970841616965, + "grad_norm": 2.7727701663970947, + "learning_rate": 1.4566421800528763e-06, + "loss": 0.0352, + "num_input_tokens_seen": 28239080, + "step": 14423 + }, + { + "epoch": 1.9117296222664018, + "grad_norm": 2.2861809730529785, + "learning_rate": 1.4563267294350963e-06, + "loss": 0.0076, + "num_input_tokens_seen": 28240456, + "step": 14424 + }, + { + "epoch": 1.9118621603711068, + "grad_norm": 4.952845096588135, + "learning_rate": 1.456011298940058e-06, + "loss": 0.1238, + "num_input_tokens_seen": 28242544, + "step": 14425 + }, + { + "epoch": 1.9119946984758118, + "grad_norm": 0.06084465608000755, + "learning_rate": 1.455695888573841e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28243800, + "step": 14426 + }, + { + "epoch": 1.9121272365805169, + "grad_norm": 0.1038113608956337, + "learning_rate": 1.455380498342529e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28245056, + "step": 14427 + }, + { + "epoch": 1.912259774685222, + "grad_norm": 0.410986065864563, + "learning_rate": 1.4550651282522013e-06, + "loss": 0.0026, + "num_input_tokens_seen": 28247008, + "step": 14428 + }, + { + "epoch": 1.912392312789927, + "grad_norm": 4.654015064239502, + "learning_rate": 1.454749778308939e-06, + "loss": 0.0305, + "num_input_tokens_seen": 28249144, + "step": 14429 + }, + { + "epoch": 1.9125248508946322, + "grad_norm": 0.7885858416557312, + "learning_rate": 1.454434448518821e-06, + "loss": 0.004, + "num_input_tokens_seen": 28250840, + "step": 14430 + }, + { + "epoch": 1.9126573889993375, + "grad_norm": 0.9576358795166016, + "learning_rate": 1.454119138887929e-06, + "loss": 0.0113, + "num_input_tokens_seen": 28252736, + "step": 14431 + }, + { + "epoch": 1.9127899271040425, + "grad_norm": 0.18812473118305206, + "learning_rate": 1.4538038494223406e-06, + "loss": 0.0013, + "num_input_tokens_seen": 28254168, + "step": 14432 + }, + { + "epoch": 1.9129224652087475, + "grad_norm": 2.846705913543701, + "learning_rate": 1.4534885801281368e-06, + "loss": 0.0578, + "num_input_tokens_seen": 28255824, + "step": 14433 + }, + { + "epoch": 1.9130550033134526, + "grad_norm": 0.4817339777946472, + "learning_rate": 1.453173331011395e-06, + "loss": 0.0035, + "num_input_tokens_seen": 28257200, + "step": 14434 + }, + { + "epoch": 1.9131875414181576, + "grad_norm": 15.955060005187988, + "learning_rate": 1.4528581020781934e-06, + "loss": 0.3218, + "num_input_tokens_seen": 28258792, + "step": 14435 + }, + { + "epoch": 1.9133200795228629, + "grad_norm": 0.01600560173392296, + "learning_rate": 1.4525428933346095e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28261008, + "step": 14436 + }, + { + "epoch": 1.913452617627568, + "grad_norm": 0.1418578028678894, + "learning_rate": 1.4522277047867208e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28262264, + "step": 14437 + }, + { + "epoch": 1.9135851557322732, + "grad_norm": 0.00897623784840107, + "learning_rate": 1.451912536440606e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28263784, + "step": 14438 + }, + { + "epoch": 1.9137176938369782, + "grad_norm": 8.139069557189941, + "learning_rate": 1.4515973883023404e-06, + "loss": 0.198, + "num_input_tokens_seen": 28265240, + "step": 14439 + }, + { + "epoch": 1.9138502319416832, + "grad_norm": 13.951101303100586, + "learning_rate": 1.4512822603780003e-06, + "loss": 0.2427, + "num_input_tokens_seen": 28266936, + "step": 14440 + }, + { + "epoch": 1.9139827700463883, + "grad_norm": 5.647830486297607, + "learning_rate": 1.4509671526736608e-06, + "loss": 0.0571, + "num_input_tokens_seen": 28268864, + "step": 14441 + }, + { + "epoch": 1.9141153081510933, + "grad_norm": 2.023261308670044, + "learning_rate": 1.4506520651953984e-06, + "loss": 0.0148, + "num_input_tokens_seen": 28270984, + "step": 14442 + }, + { + "epoch": 1.9142478462557986, + "grad_norm": 0.047415055334568024, + "learning_rate": 1.450336997949289e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28272856, + "step": 14443 + }, + { + "epoch": 1.9143803843605036, + "grad_norm": 6.8397440910339355, + "learning_rate": 1.4500219509414065e-06, + "loss": 0.148, + "num_input_tokens_seen": 28274344, + "step": 14444 + }, + { + "epoch": 1.9145129224652089, + "grad_norm": 5.173931121826172, + "learning_rate": 1.449706924177825e-06, + "loss": 0.1555, + "num_input_tokens_seen": 28277216, + "step": 14445 + }, + { + "epoch": 1.914645460569914, + "grad_norm": 4.43999719619751, + "learning_rate": 1.4493919176646187e-06, + "loss": 0.0803, + "num_input_tokens_seen": 28279592, + "step": 14446 + }, + { + "epoch": 1.914777998674619, + "grad_norm": 0.019125768914818764, + "learning_rate": 1.4490769314078596e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28281408, + "step": 14447 + }, + { + "epoch": 1.914910536779324, + "grad_norm": 0.1252020001411438, + "learning_rate": 1.4487619654136225e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28282864, + "step": 14448 + }, + { + "epoch": 1.915043074884029, + "grad_norm": 12.181060791015625, + "learning_rate": 1.4484470196879813e-06, + "loss": 0.181, + "num_input_tokens_seen": 28284616, + "step": 14449 + }, + { + "epoch": 1.9151756129887343, + "grad_norm": 1.028161644935608, + "learning_rate": 1.4481320942370065e-06, + "loss": 0.0237, + "num_input_tokens_seen": 28286152, + "step": 14450 + }, + { + "epoch": 1.9153081510934393, + "grad_norm": 0.042308032512664795, + "learning_rate": 1.4478171890667709e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28287936, + "step": 14451 + }, + { + "epoch": 1.9154406891981446, + "grad_norm": 4.946495532989502, + "learning_rate": 1.4475023041833445e-06, + "loss": 0.0608, + "num_input_tokens_seen": 28290448, + "step": 14452 + }, + { + "epoch": 1.9155732273028496, + "grad_norm": 7.273913383483887, + "learning_rate": 1.447187439592801e-06, + "loss": 0.0919, + "num_input_tokens_seen": 28292752, + "step": 14453 + }, + { + "epoch": 1.9157057654075547, + "grad_norm": 12.199535369873047, + "learning_rate": 1.4468725953012086e-06, + "loss": 0.263, + "num_input_tokens_seen": 28295144, + "step": 14454 + }, + { + "epoch": 1.9158383035122597, + "grad_norm": 0.02083752676844597, + "learning_rate": 1.4465577713146404e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28296528, + "step": 14455 + }, + { + "epoch": 1.9159708416169647, + "grad_norm": 5.584634304046631, + "learning_rate": 1.4462429676391648e-06, + "loss": 0.1056, + "num_input_tokens_seen": 28297968, + "step": 14456 + }, + { + "epoch": 1.91610337972167, + "grad_norm": 9.967475891113281, + "learning_rate": 1.4459281842808509e-06, + "loss": 0.168, + "num_input_tokens_seen": 28299520, + "step": 14457 + }, + { + "epoch": 1.916235917826375, + "grad_norm": 6.392851829528809, + "learning_rate": 1.44561342124577e-06, + "loss": 0.0691, + "num_input_tokens_seen": 28301536, + "step": 14458 + }, + { + "epoch": 1.9163684559310803, + "grad_norm": 0.0661567896604538, + "learning_rate": 1.4452986785399895e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28303600, + "step": 14459 + }, + { + "epoch": 1.9165009940357853, + "grad_norm": 0.017987767234444618, + "learning_rate": 1.4449839561695772e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28305760, + "step": 14460 + }, + { + "epoch": 1.9166335321404904, + "grad_norm": 2.0596981048583984, + "learning_rate": 1.4446692541406026e-06, + "loss": 0.0193, + "num_input_tokens_seen": 28307536, + "step": 14461 + }, + { + "epoch": 1.9167660702451954, + "grad_norm": 4.042823314666748, + "learning_rate": 1.4443545724591334e-06, + "loss": 0.1048, + "num_input_tokens_seen": 28310744, + "step": 14462 + }, + { + "epoch": 1.9168986083499004, + "grad_norm": 0.46401628851890564, + "learning_rate": 1.444039911131235e-06, + "loss": 0.0026, + "num_input_tokens_seen": 28313048, + "step": 14463 + }, + { + "epoch": 1.9170311464546057, + "grad_norm": 6.0290021896362305, + "learning_rate": 1.4437252701629768e-06, + "loss": 0.1615, + "num_input_tokens_seen": 28314656, + "step": 14464 + }, + { + "epoch": 1.917163684559311, + "grad_norm": 13.83427906036377, + "learning_rate": 1.4434106495604228e-06, + "loss": 0.1866, + "num_input_tokens_seen": 28317160, + "step": 14465 + }, + { + "epoch": 1.917296222664016, + "grad_norm": 0.4276355803012848, + "learning_rate": 1.4430960493296415e-06, + "loss": 0.002, + "num_input_tokens_seen": 28318520, + "step": 14466 + }, + { + "epoch": 1.917428760768721, + "grad_norm": 8.597620964050293, + "learning_rate": 1.4427814694766972e-06, + "loss": 0.1137, + "num_input_tokens_seen": 28320352, + "step": 14467 + }, + { + "epoch": 1.917561298873426, + "grad_norm": 0.1282566487789154, + "learning_rate": 1.4424669100076548e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28321768, + "step": 14468 + }, + { + "epoch": 1.9176938369781311, + "grad_norm": 0.11541794240474701, + "learning_rate": 1.4421523709285812e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28323864, + "step": 14469 + }, + { + "epoch": 1.9178263750828362, + "grad_norm": 0.02432304620742798, + "learning_rate": 1.4418378522455396e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28325320, + "step": 14470 + }, + { + "epoch": 1.9179589131875414, + "grad_norm": 0.05120117962360382, + "learning_rate": 1.4415233539645929e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28326944, + "step": 14471 + }, + { + "epoch": 1.9180914512922467, + "grad_norm": 7.1296000480651855, + "learning_rate": 1.441208876091807e-06, + "loss": 0.204, + "num_input_tokens_seen": 28329280, + "step": 14472 + }, + { + "epoch": 1.9182239893969517, + "grad_norm": 0.5529530048370361, + "learning_rate": 1.4408944186332434e-06, + "loss": 0.0035, + "num_input_tokens_seen": 28330808, + "step": 14473 + }, + { + "epoch": 1.9183565275016567, + "grad_norm": 15.381190299987793, + "learning_rate": 1.4405799815949675e-06, + "loss": 0.0981, + "num_input_tokens_seen": 28333024, + "step": 14474 + }, + { + "epoch": 1.9184890656063618, + "grad_norm": 0.797319233417511, + "learning_rate": 1.4402655649830402e-06, + "loss": 0.0064, + "num_input_tokens_seen": 28334656, + "step": 14475 + }, + { + "epoch": 1.9186216037110668, + "grad_norm": 0.040282685309648514, + "learning_rate": 1.439951168803524e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28336960, + "step": 14476 + }, + { + "epoch": 1.918754141815772, + "grad_norm": 5.1428375244140625, + "learning_rate": 1.4396367930624794e-06, + "loss": 0.0402, + "num_input_tokens_seen": 28338560, + "step": 14477 + }, + { + "epoch": 1.9188866799204771, + "grad_norm": 0.1068536713719368, + "learning_rate": 1.4393224377659686e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28340040, + "step": 14478 + }, + { + "epoch": 1.9190192180251824, + "grad_norm": 11.043889999389648, + "learning_rate": 1.4390081029200542e-06, + "loss": 0.1553, + "num_input_tokens_seen": 28341696, + "step": 14479 + }, + { + "epoch": 1.9191517561298874, + "grad_norm": 8.010275840759277, + "learning_rate": 1.4386937885307957e-06, + "loss": 0.106, + "num_input_tokens_seen": 28343592, + "step": 14480 + }, + { + "epoch": 1.9192842942345925, + "grad_norm": 6.7649688720703125, + "learning_rate": 1.4383794946042532e-06, + "loss": 0.0336, + "num_input_tokens_seen": 28345120, + "step": 14481 + }, + { + "epoch": 1.9194168323392975, + "grad_norm": 4.509862899780273, + "learning_rate": 1.4380652211464863e-06, + "loss": 0.0782, + "num_input_tokens_seen": 28347256, + "step": 14482 + }, + { + "epoch": 1.9195493704440025, + "grad_norm": 0.003938871435821056, + "learning_rate": 1.4377509681635532e-06, + "loss": 0.0, + "num_input_tokens_seen": 28348584, + "step": 14483 + }, + { + "epoch": 1.9196819085487078, + "grad_norm": 7.963360786437988, + "learning_rate": 1.4374367356615147e-06, + "loss": 0.1787, + "num_input_tokens_seen": 28352040, + "step": 14484 + }, + { + "epoch": 1.9198144466534128, + "grad_norm": 16.060741424560547, + "learning_rate": 1.4371225236464298e-06, + "loss": 0.1265, + "num_input_tokens_seen": 28353848, + "step": 14485 + }, + { + "epoch": 1.919946984758118, + "grad_norm": 5.6197829246521, + "learning_rate": 1.4368083321243556e-06, + "loss": 0.0287, + "num_input_tokens_seen": 28355648, + "step": 14486 + }, + { + "epoch": 1.9200795228628231, + "grad_norm": 18.31355094909668, + "learning_rate": 1.4364941611013505e-06, + "loss": 0.4455, + "num_input_tokens_seen": 28357760, + "step": 14487 + }, + { + "epoch": 1.9202120609675282, + "grad_norm": 10.761831283569336, + "learning_rate": 1.4361800105834717e-06, + "loss": 0.3233, + "num_input_tokens_seen": 28359992, + "step": 14488 + }, + { + "epoch": 1.9203445990722332, + "grad_norm": 0.015185891650617123, + "learning_rate": 1.435865880576775e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28361888, + "step": 14489 + }, + { + "epoch": 1.9204771371769382, + "grad_norm": 13.749794006347656, + "learning_rate": 1.4355517710873184e-06, + "loss": 0.2082, + "num_input_tokens_seen": 28363392, + "step": 14490 + }, + { + "epoch": 1.9206096752816435, + "grad_norm": 0.10136348009109497, + "learning_rate": 1.4352376821211589e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28366384, + "step": 14491 + }, + { + "epoch": 1.9207422133863485, + "grad_norm": 1.2167774438858032, + "learning_rate": 1.4349236136843514e-06, + "loss": 0.0148, + "num_input_tokens_seen": 28369472, + "step": 14492 + }, + { + "epoch": 1.9208747514910538, + "grad_norm": 6.388339996337891, + "learning_rate": 1.4346095657829512e-06, + "loss": 0.1352, + "num_input_tokens_seen": 28372040, + "step": 14493 + }, + { + "epoch": 1.9210072895957588, + "grad_norm": 11.298988342285156, + "learning_rate": 1.4342955384230128e-06, + "loss": 0.1768, + "num_input_tokens_seen": 28374000, + "step": 14494 + }, + { + "epoch": 1.9211398277004639, + "grad_norm": 13.300827980041504, + "learning_rate": 1.4339815316105915e-06, + "loss": 0.0622, + "num_input_tokens_seen": 28375688, + "step": 14495 + }, + { + "epoch": 1.921272365805169, + "grad_norm": 0.8824145197868347, + "learning_rate": 1.433667545351743e-06, + "loss": 0.0082, + "num_input_tokens_seen": 28377128, + "step": 14496 + }, + { + "epoch": 1.921404903909874, + "grad_norm": 5.568937301635742, + "learning_rate": 1.4333535796525194e-06, + "loss": 0.1287, + "num_input_tokens_seen": 28379520, + "step": 14497 + }, + { + "epoch": 1.9215374420145792, + "grad_norm": 4.481696128845215, + "learning_rate": 1.433039634518975e-06, + "loss": 0.193, + "num_input_tokens_seen": 28381736, + "step": 14498 + }, + { + "epoch": 1.9216699801192842, + "grad_norm": 3.872025966644287, + "learning_rate": 1.4327257099571613e-06, + "loss": 0.0855, + "num_input_tokens_seen": 28383640, + "step": 14499 + }, + { + "epoch": 1.9218025182239895, + "grad_norm": 0.012724610045552254, + "learning_rate": 1.4324118059731333e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28385472, + "step": 14500 + }, + { + "epoch": 1.9219350563286945, + "grad_norm": 0.017046354711055756, + "learning_rate": 1.4320979225729408e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28386776, + "step": 14501 + }, + { + "epoch": 1.9220675944333996, + "grad_norm": 15.89002513885498, + "learning_rate": 1.4317840597626387e-06, + "loss": 0.2919, + "num_input_tokens_seen": 28389416, + "step": 14502 + }, + { + "epoch": 1.9222001325381046, + "grad_norm": 12.773972511291504, + "learning_rate": 1.4314702175482764e-06, + "loss": 0.3049, + "num_input_tokens_seen": 28392144, + "step": 14503 + }, + { + "epoch": 1.9223326706428097, + "grad_norm": 6.142188549041748, + "learning_rate": 1.4311563959359043e-06, + "loss": 0.1264, + "num_input_tokens_seen": 28393408, + "step": 14504 + }, + { + "epoch": 1.922465208747515, + "grad_norm": 0.16367526352405548, + "learning_rate": 1.4308425949315758e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28395808, + "step": 14505 + }, + { + "epoch": 1.9225977468522202, + "grad_norm": 10.55117416381836, + "learning_rate": 1.4305288145413392e-06, + "loss": 0.2586, + "num_input_tokens_seen": 28398720, + "step": 14506 + }, + { + "epoch": 1.9227302849569252, + "grad_norm": 0.3092440366744995, + "learning_rate": 1.430215054771244e-06, + "loss": 0.0021, + "num_input_tokens_seen": 28401272, + "step": 14507 + }, + { + "epoch": 1.9228628230616303, + "grad_norm": 3.0988776683807373, + "learning_rate": 1.4299013156273415e-06, + "loss": 0.0202, + "num_input_tokens_seen": 28402992, + "step": 14508 + }, + { + "epoch": 1.9229953611663353, + "grad_norm": 12.431899070739746, + "learning_rate": 1.429587597115679e-06, + "loss": 0.2637, + "num_input_tokens_seen": 28404952, + "step": 14509 + }, + { + "epoch": 1.9231278992710403, + "grad_norm": 6.113668918609619, + "learning_rate": 1.4292738992423066e-06, + "loss": 0.065, + "num_input_tokens_seen": 28406928, + "step": 14510 + }, + { + "epoch": 1.9232604373757454, + "grad_norm": 8.003411293029785, + "learning_rate": 1.4289602220132725e-06, + "loss": 0.1521, + "num_input_tokens_seen": 28409048, + "step": 14511 + }, + { + "epoch": 1.9233929754804506, + "grad_norm": 0.47147056460380554, + "learning_rate": 1.4286465654346243e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28411096, + "step": 14512 + }, + { + "epoch": 1.9235255135851559, + "grad_norm": 1.3238030672073364, + "learning_rate": 1.4283329295124082e-06, + "loss": 0.0102, + "num_input_tokens_seen": 28412552, + "step": 14513 + }, + { + "epoch": 1.923658051689861, + "grad_norm": 0.018518054857850075, + "learning_rate": 1.4280193142526728e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28413448, + "step": 14514 + }, + { + "epoch": 1.923790589794566, + "grad_norm": 8.533416748046875, + "learning_rate": 1.4277057196614652e-06, + "loss": 0.0843, + "num_input_tokens_seen": 28415400, + "step": 14515 + }, + { + "epoch": 1.923923127899271, + "grad_norm": 5.133886814117432, + "learning_rate": 1.4273921457448309e-06, + "loss": 0.0702, + "num_input_tokens_seen": 28417248, + "step": 14516 + }, + { + "epoch": 1.924055666003976, + "grad_norm": 9.422061920166016, + "learning_rate": 1.4270785925088166e-06, + "loss": 0.1534, + "num_input_tokens_seen": 28419720, + "step": 14517 + }, + { + "epoch": 1.9241882041086813, + "grad_norm": 0.08589878678321838, + "learning_rate": 1.4267650599594656e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28421624, + "step": 14518 + }, + { + "epoch": 1.9243207422133863, + "grad_norm": 12.224078178405762, + "learning_rate": 1.426451548102826e-06, + "loss": 0.3511, + "num_input_tokens_seen": 28424400, + "step": 14519 + }, + { + "epoch": 1.9244532803180916, + "grad_norm": 2.035879373550415, + "learning_rate": 1.4261380569449402e-06, + "loss": 0.0303, + "num_input_tokens_seen": 28426280, + "step": 14520 + }, + { + "epoch": 1.9245858184227966, + "grad_norm": 5.446162223815918, + "learning_rate": 1.425824586491854e-06, + "loss": 0.1369, + "num_input_tokens_seen": 28428648, + "step": 14521 + }, + { + "epoch": 1.9247183565275017, + "grad_norm": 6.415218353271484, + "learning_rate": 1.4255111367496111e-06, + "loss": 0.0557, + "num_input_tokens_seen": 28430432, + "step": 14522 + }, + { + "epoch": 1.9248508946322067, + "grad_norm": 2.677095413208008, + "learning_rate": 1.4251977077242549e-06, + "loss": 0.03, + "num_input_tokens_seen": 28433368, + "step": 14523 + }, + { + "epoch": 1.9249834327369117, + "grad_norm": 0.11434061080217361, + "learning_rate": 1.424884299421827e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28435096, + "step": 14524 + }, + { + "epoch": 1.925115970841617, + "grad_norm": 6.683300971984863, + "learning_rate": 1.424570911848372e-06, + "loss": 0.0791, + "num_input_tokens_seen": 28436568, + "step": 14525 + }, + { + "epoch": 1.925248508946322, + "grad_norm": 0.058350272476673126, + "learning_rate": 1.4242575450099324e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28437888, + "step": 14526 + }, + { + "epoch": 1.9253810470510273, + "grad_norm": 1.7590957880020142, + "learning_rate": 1.4239441989125497e-06, + "loss": 0.0119, + "num_input_tokens_seen": 28439328, + "step": 14527 + }, + { + "epoch": 1.9255135851557323, + "grad_norm": 0.2827964425086975, + "learning_rate": 1.4236308735622648e-06, + "loss": 0.0014, + "num_input_tokens_seen": 28440480, + "step": 14528 + }, + { + "epoch": 1.9256461232604374, + "grad_norm": 0.735896646976471, + "learning_rate": 1.4233175689651193e-06, + "loss": 0.0034, + "num_input_tokens_seen": 28441984, + "step": 14529 + }, + { + "epoch": 1.9257786613651424, + "grad_norm": 8.681852340698242, + "learning_rate": 1.4230042851271531e-06, + "loss": 0.2294, + "num_input_tokens_seen": 28444504, + "step": 14530 + }, + { + "epoch": 1.9259111994698475, + "grad_norm": 0.06583154201507568, + "learning_rate": 1.422691022054407e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28446456, + "step": 14531 + }, + { + "epoch": 1.9260437375745527, + "grad_norm": 10.106581687927246, + "learning_rate": 1.422377779752922e-06, + "loss": 0.417, + "num_input_tokens_seen": 28449344, + "step": 14532 + }, + { + "epoch": 1.9261762756792578, + "grad_norm": 4.655391216278076, + "learning_rate": 1.4220645582287373e-06, + "loss": 0.0279, + "num_input_tokens_seen": 28452056, + "step": 14533 + }, + { + "epoch": 1.926308813783963, + "grad_norm": 7.4563727378845215, + "learning_rate": 1.4217513574878913e-06, + "loss": 0.2362, + "num_input_tokens_seen": 28453816, + "step": 14534 + }, + { + "epoch": 1.926441351888668, + "grad_norm": 6.052512168884277, + "learning_rate": 1.4214381775364223e-06, + "loss": 0.0793, + "num_input_tokens_seen": 28456120, + "step": 14535 + }, + { + "epoch": 1.926573889993373, + "grad_norm": 0.5566394329071045, + "learning_rate": 1.4211250183803698e-06, + "loss": 0.0042, + "num_input_tokens_seen": 28458064, + "step": 14536 + }, + { + "epoch": 1.9267064280980781, + "grad_norm": 8.530388832092285, + "learning_rate": 1.4208118800257703e-06, + "loss": 0.129, + "num_input_tokens_seen": 28461024, + "step": 14537 + }, + { + "epoch": 1.9268389662027832, + "grad_norm": 7.138511657714844, + "learning_rate": 1.4204987624786634e-06, + "loss": 0.1371, + "num_input_tokens_seen": 28462256, + "step": 14538 + }, + { + "epoch": 1.9269715043074884, + "grad_norm": 2.7308220863342285, + "learning_rate": 1.4201856657450853e-06, + "loss": 0.0509, + "num_input_tokens_seen": 28464200, + "step": 14539 + }, + { + "epoch": 1.9271040424121935, + "grad_norm": 11.084391593933105, + "learning_rate": 1.4198725898310712e-06, + "loss": 0.0417, + "num_input_tokens_seen": 28465608, + "step": 14540 + }, + { + "epoch": 1.9272365805168987, + "grad_norm": 6.178929328918457, + "learning_rate": 1.4195595347426593e-06, + "loss": 0.1377, + "num_input_tokens_seen": 28467528, + "step": 14541 + }, + { + "epoch": 1.9273691186216038, + "grad_norm": 8.426530838012695, + "learning_rate": 1.4192465004858856e-06, + "loss": 0.1989, + "num_input_tokens_seen": 28469400, + "step": 14542 + }, + { + "epoch": 1.9275016567263088, + "grad_norm": 0.036309584975242615, + "learning_rate": 1.4189334870667836e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28471080, + "step": 14543 + }, + { + "epoch": 1.9276341948310138, + "grad_norm": 6.903929233551025, + "learning_rate": 1.4186204944913912e-06, + "loss": 0.2244, + "num_input_tokens_seen": 28472616, + "step": 14544 + }, + { + "epoch": 1.9277667329357189, + "grad_norm": 0.0949307307600975, + "learning_rate": 1.418307522765741e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28475080, + "step": 14545 + }, + { + "epoch": 1.9278992710404241, + "grad_norm": 8.07598876953125, + "learning_rate": 1.4179945718958677e-06, + "loss": 0.2139, + "num_input_tokens_seen": 28477320, + "step": 14546 + }, + { + "epoch": 1.9280318091451292, + "grad_norm": 2.8299310207366943, + "learning_rate": 1.417681641887806e-06, + "loss": 0.0325, + "num_input_tokens_seen": 28478616, + "step": 14547 + }, + { + "epoch": 1.9281643472498344, + "grad_norm": 4.273895263671875, + "learning_rate": 1.417368732747588e-06, + "loss": 0.0073, + "num_input_tokens_seen": 28480344, + "step": 14548 + }, + { + "epoch": 1.9282968853545395, + "grad_norm": 8.862760543823242, + "learning_rate": 1.4170558444812488e-06, + "loss": 0.288, + "num_input_tokens_seen": 28483040, + "step": 14549 + }, + { + "epoch": 1.9284294234592445, + "grad_norm": 10.843574523925781, + "learning_rate": 1.41674297709482e-06, + "loss": 0.308, + "num_input_tokens_seen": 28484592, + "step": 14550 + }, + { + "epoch": 1.9285619615639495, + "grad_norm": 2.0836310386657715, + "learning_rate": 1.4164301305943327e-06, + "loss": 0.0151, + "num_input_tokens_seen": 28486000, + "step": 14551 + }, + { + "epoch": 1.9286944996686546, + "grad_norm": 6.719988822937012, + "learning_rate": 1.4161173049858212e-06, + "loss": 0.1317, + "num_input_tokens_seen": 28488416, + "step": 14552 + }, + { + "epoch": 1.9288270377733598, + "grad_norm": 0.10176331549882889, + "learning_rate": 1.4158045002753156e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28490080, + "step": 14553 + }, + { + "epoch": 1.928959575878065, + "grad_norm": 0.10741537809371948, + "learning_rate": 1.4154917164688464e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28491152, + "step": 14554 + }, + { + "epoch": 1.9290921139827701, + "grad_norm": 7.245759963989258, + "learning_rate": 1.4151789535724458e-06, + "loss": 0.1009, + "num_input_tokens_seen": 28493680, + "step": 14555 + }, + { + "epoch": 1.9292246520874752, + "grad_norm": 2.1338467597961426, + "learning_rate": 1.4148662115921425e-06, + "loss": 0.0261, + "num_input_tokens_seen": 28495600, + "step": 14556 + }, + { + "epoch": 1.9293571901921802, + "grad_norm": 5.444281578063965, + "learning_rate": 1.4145534905339683e-06, + "loss": 0.0332, + "num_input_tokens_seen": 28498256, + "step": 14557 + }, + { + "epoch": 1.9294897282968853, + "grad_norm": 0.01628575660288334, + "learning_rate": 1.4142407904039516e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28499712, + "step": 14558 + }, + { + "epoch": 1.9296222664015903, + "grad_norm": 0.2893092632293701, + "learning_rate": 1.4139281112081216e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28501712, + "step": 14559 + }, + { + "epoch": 1.9297548045062956, + "grad_norm": 3.414501190185547, + "learning_rate": 1.4136154529525053e-06, + "loss": 0.0326, + "num_input_tokens_seen": 28503560, + "step": 14560 + }, + { + "epoch": 1.9298873426110008, + "grad_norm": 3.0467071533203125, + "learning_rate": 1.4133028156431333e-06, + "loss": 0.0195, + "num_input_tokens_seen": 28506384, + "step": 14561 + }, + { + "epoch": 1.9300198807157058, + "grad_norm": 2.362006902694702, + "learning_rate": 1.4129901992860335e-06, + "loss": 0.0192, + "num_input_tokens_seen": 28507744, + "step": 14562 + }, + { + "epoch": 1.9301524188204109, + "grad_norm": 2.259338855743408, + "learning_rate": 1.4126776038872319e-06, + "loss": 0.0253, + "num_input_tokens_seen": 28509584, + "step": 14563 + }, + { + "epoch": 1.930284956925116, + "grad_norm": 0.021720731630921364, + "learning_rate": 1.4123650294527568e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28511840, + "step": 14564 + }, + { + "epoch": 1.930417495029821, + "grad_norm": 0.5089496970176697, + "learning_rate": 1.4120524759886343e-06, + "loss": 0.0024, + "num_input_tokens_seen": 28513416, + "step": 14565 + }, + { + "epoch": 1.9305500331345262, + "grad_norm": 6.575616836547852, + "learning_rate": 1.4117399435008895e-06, + "loss": 0.1721, + "num_input_tokens_seen": 28515256, + "step": 14566 + }, + { + "epoch": 1.9306825712392313, + "grad_norm": 13.048566818237305, + "learning_rate": 1.411427431995549e-06, + "loss": 0.3847, + "num_input_tokens_seen": 28517632, + "step": 14567 + }, + { + "epoch": 1.9308151093439365, + "grad_norm": 3.2150468826293945, + "learning_rate": 1.4111149414786401e-06, + "loss": 0.0263, + "num_input_tokens_seen": 28519672, + "step": 14568 + }, + { + "epoch": 1.9309476474486416, + "grad_norm": 4.492439270019531, + "learning_rate": 1.4108024719561857e-06, + "loss": 0.0916, + "num_input_tokens_seen": 28521608, + "step": 14569 + }, + { + "epoch": 1.9310801855533466, + "grad_norm": 12.285988807678223, + "learning_rate": 1.4104900234342118e-06, + "loss": 0.1564, + "num_input_tokens_seen": 28523072, + "step": 14570 + }, + { + "epoch": 1.9312127236580516, + "grad_norm": 0.035410039126873016, + "learning_rate": 1.4101775959187402e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28525472, + "step": 14571 + }, + { + "epoch": 1.9313452617627567, + "grad_norm": 0.3409900963306427, + "learning_rate": 1.4098651894157967e-06, + "loss": 0.0023, + "num_input_tokens_seen": 28527584, + "step": 14572 + }, + { + "epoch": 1.931477799867462, + "grad_norm": 2.896045684814453, + "learning_rate": 1.4095528039314055e-06, + "loss": 0.0978, + "num_input_tokens_seen": 28529592, + "step": 14573 + }, + { + "epoch": 1.931610337972167, + "grad_norm": 6.497830867767334, + "learning_rate": 1.4092404394715884e-06, + "loss": 0.1189, + "num_input_tokens_seen": 28531528, + "step": 14574 + }, + { + "epoch": 1.9317428760768722, + "grad_norm": 12.242908477783203, + "learning_rate": 1.408928096042368e-06, + "loss": 0.2839, + "num_input_tokens_seen": 28533696, + "step": 14575 + }, + { + "epoch": 1.9318754141815773, + "grad_norm": 9.6052885055542, + "learning_rate": 1.4086157736497667e-06, + "loss": 0.183, + "num_input_tokens_seen": 28536056, + "step": 14576 + }, + { + "epoch": 1.9320079522862823, + "grad_norm": 5.231362342834473, + "learning_rate": 1.4083034722998052e-06, + "loss": 0.1055, + "num_input_tokens_seen": 28537856, + "step": 14577 + }, + { + "epoch": 1.9321404903909873, + "grad_norm": 1.3147205114364624, + "learning_rate": 1.4079911919985055e-06, + "loss": 0.0289, + "num_input_tokens_seen": 28539440, + "step": 14578 + }, + { + "epoch": 1.9322730284956924, + "grad_norm": 0.8507856130599976, + "learning_rate": 1.4076789327518903e-06, + "loss": 0.0049, + "num_input_tokens_seen": 28541352, + "step": 14579 + }, + { + "epoch": 1.9324055666003976, + "grad_norm": 0.0316254086792469, + "learning_rate": 1.407366694565979e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28543128, + "step": 14580 + }, + { + "epoch": 1.9325381047051027, + "grad_norm": 11.630775451660156, + "learning_rate": 1.4070544774467914e-06, + "loss": 0.2546, + "num_input_tokens_seen": 28545184, + "step": 14581 + }, + { + "epoch": 1.932670642809808, + "grad_norm": 7.414968490600586, + "learning_rate": 1.4067422814003463e-06, + "loss": 0.1368, + "num_input_tokens_seen": 28547024, + "step": 14582 + }, + { + "epoch": 1.932803180914513, + "grad_norm": 5.031907081604004, + "learning_rate": 1.4064301064326654e-06, + "loss": 0.0291, + "num_input_tokens_seen": 28548816, + "step": 14583 + }, + { + "epoch": 1.932935719019218, + "grad_norm": 1.428748607635498, + "learning_rate": 1.4061179525497653e-06, + "loss": 0.0119, + "num_input_tokens_seen": 28550096, + "step": 14584 + }, + { + "epoch": 1.933068257123923, + "grad_norm": 0.13369989395141602, + "learning_rate": 1.4058058197576671e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28552456, + "step": 14585 + }, + { + "epoch": 1.933200795228628, + "grad_norm": 6.122941493988037, + "learning_rate": 1.4054937080623871e-06, + "loss": 0.1364, + "num_input_tokens_seen": 28553968, + "step": 14586 + }, + { + "epoch": 1.9333333333333333, + "grad_norm": 0.22955013811588287, + "learning_rate": 1.4051816174699428e-06, + "loss": 0.0016, + "num_input_tokens_seen": 28556112, + "step": 14587 + }, + { + "epoch": 1.9334658714380384, + "grad_norm": 1.2341172695159912, + "learning_rate": 1.404869547986353e-06, + "loss": 0.0216, + "num_input_tokens_seen": 28558024, + "step": 14588 + }, + { + "epoch": 1.9335984095427436, + "grad_norm": 0.12363634258508682, + "learning_rate": 1.404557499617634e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28560184, + "step": 14589 + }, + { + "epoch": 1.9337309476474487, + "grad_norm": 5.505316734313965, + "learning_rate": 1.4042454723698006e-06, + "loss": 0.0758, + "num_input_tokens_seen": 28562176, + "step": 14590 + }, + { + "epoch": 1.9338634857521537, + "grad_norm": 7.320895671844482, + "learning_rate": 1.403933466248872e-06, + "loss": 0.0663, + "num_input_tokens_seen": 28564672, + "step": 14591 + }, + { + "epoch": 1.9339960238568588, + "grad_norm": 2.202357053756714, + "learning_rate": 1.4036214812608613e-06, + "loss": 0.0212, + "num_input_tokens_seen": 28566352, + "step": 14592 + }, + { + "epoch": 1.9341285619615638, + "grad_norm": 7.182968616485596, + "learning_rate": 1.4033095174117856e-06, + "loss": 0.2428, + "num_input_tokens_seen": 28568816, + "step": 14593 + }, + { + "epoch": 1.934261100066269, + "grad_norm": 0.03679567575454712, + "learning_rate": 1.4029975747076588e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28570288, + "step": 14594 + }, + { + "epoch": 1.9343936381709743, + "grad_norm": 0.23885899782180786, + "learning_rate": 1.4026856531544957e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28571896, + "step": 14595 + }, + { + "epoch": 1.9345261762756794, + "grad_norm": 4.883234977722168, + "learning_rate": 1.4023737527583092e-06, + "loss": 0.1274, + "num_input_tokens_seen": 28574656, + "step": 14596 + }, + { + "epoch": 1.9346587143803844, + "grad_norm": 0.20378774404525757, + "learning_rate": 1.402061873525114e-06, + "loss": 0.001, + "num_input_tokens_seen": 28576904, + "step": 14597 + }, + { + "epoch": 1.9347912524850894, + "grad_norm": 6.817506313323975, + "learning_rate": 1.4017500154609243e-06, + "loss": 0.1862, + "num_input_tokens_seen": 28579128, + "step": 14598 + }, + { + "epoch": 1.9349237905897945, + "grad_norm": 0.020190421491861343, + "learning_rate": 1.4014381785717517e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28580552, + "step": 14599 + }, + { + "epoch": 1.9350563286944995, + "grad_norm": 7.722602367401123, + "learning_rate": 1.401126362863609e-06, + "loss": 0.0682, + "num_input_tokens_seen": 28582944, + "step": 14600 + }, + { + "epoch": 1.9351888667992048, + "grad_norm": 2.3326830863952637, + "learning_rate": 1.4008145683425072e-06, + "loss": 0.0194, + "num_input_tokens_seen": 28584680, + "step": 14601 + }, + { + "epoch": 1.93532140490391, + "grad_norm": 0.14842797815799713, + "learning_rate": 1.40050279501446e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28586224, + "step": 14602 + }, + { + "epoch": 1.935453943008615, + "grad_norm": 9.247849464416504, + "learning_rate": 1.4001910428854762e-06, + "loss": 0.038, + "num_input_tokens_seen": 28587928, + "step": 14603 + }, + { + "epoch": 1.93558648111332, + "grad_norm": 3.5706992149353027, + "learning_rate": 1.399879311961569e-06, + "loss": 0.0604, + "num_input_tokens_seen": 28590128, + "step": 14604 + }, + { + "epoch": 1.9357190192180251, + "grad_norm": 0.06635161489248276, + "learning_rate": 1.3995676022487472e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28591568, + "step": 14605 + }, + { + "epoch": 1.9358515573227302, + "grad_norm": 6.257473945617676, + "learning_rate": 1.3992559137530215e-06, + "loss": 0.1042, + "num_input_tokens_seen": 28592904, + "step": 14606 + }, + { + "epoch": 1.9359840954274354, + "grad_norm": 10.173773765563965, + "learning_rate": 1.3989442464804e-06, + "loss": 0.0915, + "num_input_tokens_seen": 28595128, + "step": 14607 + }, + { + "epoch": 1.9361166335321405, + "grad_norm": 6.5874786376953125, + "learning_rate": 1.3986326004368934e-06, + "loss": 0.096, + "num_input_tokens_seen": 28596920, + "step": 14608 + }, + { + "epoch": 1.9362491716368457, + "grad_norm": 0.01202325988560915, + "learning_rate": 1.3983209756285105e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28598648, + "step": 14609 + }, + { + "epoch": 1.9363817097415508, + "grad_norm": 7.9543986320495605, + "learning_rate": 1.3980093720612592e-06, + "loss": 0.1664, + "num_input_tokens_seen": 28601216, + "step": 14610 + }, + { + "epoch": 1.9365142478462558, + "grad_norm": 14.929435729980469, + "learning_rate": 1.3976977897411478e-06, + "loss": 0.1642, + "num_input_tokens_seen": 28603568, + "step": 14611 + }, + { + "epoch": 1.9366467859509608, + "grad_norm": 0.027997706085443497, + "learning_rate": 1.3973862286741836e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28605384, + "step": 14612 + }, + { + "epoch": 1.9367793240556659, + "grad_norm": 0.03364469110965729, + "learning_rate": 1.3970746888663722e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28607496, + "step": 14613 + }, + { + "epoch": 1.9369118621603711, + "grad_norm": 0.009779251180589199, + "learning_rate": 1.3967631703237217e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28609008, + "step": 14614 + }, + { + "epoch": 1.9370444002650762, + "grad_norm": 6.381690502166748, + "learning_rate": 1.3964516730522393e-06, + "loss": 0.1407, + "num_input_tokens_seen": 28611136, + "step": 14615 + }, + { + "epoch": 1.9371769383697814, + "grad_norm": 0.03693179041147232, + "learning_rate": 1.39614019705793e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28612552, + "step": 14616 + }, + { + "epoch": 1.9373094764744865, + "grad_norm": 2.7750744819641113, + "learning_rate": 1.3958287423467991e-06, + "loss": 0.0243, + "num_input_tokens_seen": 28614976, + "step": 14617 + }, + { + "epoch": 1.9374420145791915, + "grad_norm": 0.13844090700149536, + "learning_rate": 1.395517308924851e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28616448, + "step": 14618 + }, + { + "epoch": 1.9375745526838966, + "grad_norm": 9.090386390686035, + "learning_rate": 1.3952058967980922e-06, + "loss": 0.1497, + "num_input_tokens_seen": 28618648, + "step": 14619 + }, + { + "epoch": 1.9377070907886016, + "grad_norm": 0.8743656277656555, + "learning_rate": 1.3948945059725247e-06, + "loss": 0.0044, + "num_input_tokens_seen": 28621160, + "step": 14620 + }, + { + "epoch": 1.9378396288933069, + "grad_norm": 5.282532691955566, + "learning_rate": 1.3945831364541545e-06, + "loss": 0.118, + "num_input_tokens_seen": 28623200, + "step": 14621 + }, + { + "epoch": 1.937972166998012, + "grad_norm": 0.013399886898696423, + "learning_rate": 1.3942717882489841e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28624480, + "step": 14622 + }, + { + "epoch": 1.9381047051027172, + "grad_norm": 4.835678577423096, + "learning_rate": 1.3939604613630154e-06, + "loss": 0.1337, + "num_input_tokens_seen": 28626880, + "step": 14623 + }, + { + "epoch": 1.9382372432074222, + "grad_norm": 0.15624113380908966, + "learning_rate": 1.393649155802253e-06, + "loss": 0.0011, + "num_input_tokens_seen": 28628120, + "step": 14624 + }, + { + "epoch": 1.9383697813121272, + "grad_norm": 5.864776134490967, + "learning_rate": 1.3933378715726969e-06, + "loss": 0.1204, + "num_input_tokens_seen": 28630312, + "step": 14625 + }, + { + "epoch": 1.9385023194168323, + "grad_norm": 8.581633567810059, + "learning_rate": 1.3930266086803513e-06, + "loss": 0.1206, + "num_input_tokens_seen": 28632528, + "step": 14626 + }, + { + "epoch": 1.9386348575215373, + "grad_norm": 11.165970802307129, + "learning_rate": 1.3927153671312166e-06, + "loss": 0.0718, + "num_input_tokens_seen": 28634224, + "step": 14627 + }, + { + "epoch": 1.9387673956262426, + "grad_norm": 4.139102458953857, + "learning_rate": 1.3924041469312922e-06, + "loss": 0.0701, + "num_input_tokens_seen": 28635904, + "step": 14628 + }, + { + "epoch": 1.9388999337309476, + "grad_norm": 12.607486724853516, + "learning_rate": 1.3920929480865808e-06, + "loss": 0.1329, + "num_input_tokens_seen": 28637448, + "step": 14629 + }, + { + "epoch": 1.9390324718356529, + "grad_norm": 0.06494516879320145, + "learning_rate": 1.3917817706030816e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28639344, + "step": 14630 + }, + { + "epoch": 1.939165009940358, + "grad_norm": 6.403761863708496, + "learning_rate": 1.391470614486794e-06, + "loss": 0.1125, + "num_input_tokens_seen": 28641000, + "step": 14631 + }, + { + "epoch": 1.939297548045063, + "grad_norm": 5.491398334503174, + "learning_rate": 1.3911594797437184e-06, + "loss": 0.156, + "num_input_tokens_seen": 28643280, + "step": 14632 + }, + { + "epoch": 1.939430086149768, + "grad_norm": 13.304581642150879, + "learning_rate": 1.3908483663798528e-06, + "loss": 0.205, + "num_input_tokens_seen": 28645368, + "step": 14633 + }, + { + "epoch": 1.939562624254473, + "grad_norm": 0.6657033562660217, + "learning_rate": 1.3905372744011946e-06, + "loss": 0.0064, + "num_input_tokens_seen": 28646632, + "step": 14634 + }, + { + "epoch": 1.9396951623591783, + "grad_norm": 12.469066619873047, + "learning_rate": 1.3902262038137449e-06, + "loss": 0.2113, + "num_input_tokens_seen": 28649280, + "step": 14635 + }, + { + "epoch": 1.9398277004638835, + "grad_norm": 9.4768705368042, + "learning_rate": 1.389915154623499e-06, + "loss": 0.1522, + "num_input_tokens_seen": 28650688, + "step": 14636 + }, + { + "epoch": 1.9399602385685886, + "grad_norm": 0.017998971045017242, + "learning_rate": 1.3896041268364539e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28652944, + "step": 14637 + }, + { + "epoch": 1.9400927766732936, + "grad_norm": 4.276162147521973, + "learning_rate": 1.389293120458608e-06, + "loss": 0.0487, + "num_input_tokens_seen": 28654792, + "step": 14638 + }, + { + "epoch": 1.9402253147779986, + "grad_norm": 0.05417890101671219, + "learning_rate": 1.3889821354959565e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28657328, + "step": 14639 + }, + { + "epoch": 1.9403578528827037, + "grad_norm": 0.012029226869344711, + "learning_rate": 1.3886711719544965e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28658552, + "step": 14640 + }, + { + "epoch": 1.9404903909874087, + "grad_norm": 6.007042407989502, + "learning_rate": 1.3883602298402232e-06, + "loss": 0.1798, + "num_input_tokens_seen": 28661368, + "step": 14641 + }, + { + "epoch": 1.940622929092114, + "grad_norm": 3.0820279121398926, + "learning_rate": 1.3880493091591314e-06, + "loss": 0.0209, + "num_input_tokens_seen": 28663264, + "step": 14642 + }, + { + "epoch": 1.9407554671968192, + "grad_norm": 0.015500135719776154, + "learning_rate": 1.3877384099172147e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28664552, + "step": 14643 + }, + { + "epoch": 1.9408880053015243, + "grad_norm": 0.01828496716916561, + "learning_rate": 1.3874275321204694e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28666448, + "step": 14644 + }, + { + "epoch": 1.9410205434062293, + "grad_norm": 2.442807674407959, + "learning_rate": 1.3871166757748893e-06, + "loss": 0.05, + "num_input_tokens_seen": 28668632, + "step": 14645 + }, + { + "epoch": 1.9411530815109344, + "grad_norm": 0.013095048256218433, + "learning_rate": 1.3868058408864676e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28670520, + "step": 14646 + }, + { + "epoch": 1.9412856196156394, + "grad_norm": 4.288139820098877, + "learning_rate": 1.3864950274611974e-06, + "loss": 0.1245, + "num_input_tokens_seen": 28672664, + "step": 14647 + }, + { + "epoch": 1.9414181577203447, + "grad_norm": 4.198489665985107, + "learning_rate": 1.3861842355050712e-06, + "loss": 0.0641, + "num_input_tokens_seen": 28674776, + "step": 14648 + }, + { + "epoch": 1.9415506958250497, + "grad_norm": 5.618628978729248, + "learning_rate": 1.3858734650240802e-06, + "loss": 0.1448, + "num_input_tokens_seen": 28677080, + "step": 14649 + }, + { + "epoch": 1.941683233929755, + "grad_norm": 0.05193592235445976, + "learning_rate": 1.3855627160242175e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28679472, + "step": 14650 + }, + { + "epoch": 1.94181577203446, + "grad_norm": 7.951456069946289, + "learning_rate": 1.3852519885114751e-06, + "loss": 0.2437, + "num_input_tokens_seen": 28682320, + "step": 14651 + }, + { + "epoch": 1.941948310139165, + "grad_norm": 0.0734550878405571, + "learning_rate": 1.3849412824918438e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28684384, + "step": 14652 + }, + { + "epoch": 1.94208084824387, + "grad_norm": 7.789407730102539, + "learning_rate": 1.3846305979713136e-06, + "loss": 0.1154, + "num_input_tokens_seen": 28685984, + "step": 14653 + }, + { + "epoch": 1.942213386348575, + "grad_norm": 2.748812437057495, + "learning_rate": 1.3843199349558738e-06, + "loss": 0.057, + "num_input_tokens_seen": 28688784, + "step": 14654 + }, + { + "epoch": 1.9423459244532804, + "grad_norm": 8.302749633789062, + "learning_rate": 1.384009293451516e-06, + "loss": 0.23, + "num_input_tokens_seen": 28691192, + "step": 14655 + }, + { + "epoch": 1.9424784625579854, + "grad_norm": 0.023133253678679466, + "learning_rate": 1.3836986734642295e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28692840, + "step": 14656 + }, + { + "epoch": 1.9426110006626907, + "grad_norm": 9.725693702697754, + "learning_rate": 1.3833880750000023e-06, + "loss": 0.2032, + "num_input_tokens_seen": 28695208, + "step": 14657 + }, + { + "epoch": 1.9427435387673957, + "grad_norm": 0.8284279704093933, + "learning_rate": 1.3830774980648237e-06, + "loss": 0.011, + "num_input_tokens_seen": 28696320, + "step": 14658 + }, + { + "epoch": 1.9428760768721007, + "grad_norm": 9.413773536682129, + "learning_rate": 1.3827669426646812e-06, + "loss": 0.1615, + "num_input_tokens_seen": 28698312, + "step": 14659 + }, + { + "epoch": 1.9430086149768058, + "grad_norm": 9.086424827575684, + "learning_rate": 1.382456408805562e-06, + "loss": 0.0592, + "num_input_tokens_seen": 28701128, + "step": 14660 + }, + { + "epoch": 1.9431411530815108, + "grad_norm": 3.0442428588867188, + "learning_rate": 1.3821458964934542e-06, + "loss": 0.0153, + "num_input_tokens_seen": 28703192, + "step": 14661 + }, + { + "epoch": 1.943273691186216, + "grad_norm": 7.821380615234375, + "learning_rate": 1.3818354057343459e-06, + "loss": 0.2679, + "num_input_tokens_seen": 28705632, + "step": 14662 + }, + { + "epoch": 1.943406229290921, + "grad_norm": 5.3158793449401855, + "learning_rate": 1.381524936534222e-06, + "loss": 0.0335, + "num_input_tokens_seen": 28707256, + "step": 14663 + }, + { + "epoch": 1.9435387673956264, + "grad_norm": 8.956122398376465, + "learning_rate": 1.381214488899069e-06, + "loss": 0.1111, + "num_input_tokens_seen": 28709672, + "step": 14664 + }, + { + "epoch": 1.9436713055003314, + "grad_norm": 0.029865404590964317, + "learning_rate": 1.3809040628348714e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28710904, + "step": 14665 + }, + { + "epoch": 1.9438038436050364, + "grad_norm": 0.052165061235427856, + "learning_rate": 1.3805936583476164e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28713232, + "step": 14666 + }, + { + "epoch": 1.9439363817097415, + "grad_norm": 8.316707611083984, + "learning_rate": 1.380283275443287e-06, + "loss": 0.2502, + "num_input_tokens_seen": 28715352, + "step": 14667 + }, + { + "epoch": 1.9440689198144465, + "grad_norm": 0.02401457354426384, + "learning_rate": 1.3799729141278701e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28717496, + "step": 14668 + }, + { + "epoch": 1.9442014579191518, + "grad_norm": 11.197239875793457, + "learning_rate": 1.3796625744073471e-06, + "loss": 0.1392, + "num_input_tokens_seen": 28719832, + "step": 14669 + }, + { + "epoch": 1.9443339960238568, + "grad_norm": 2.6308822631835938, + "learning_rate": 1.379352256287702e-06, + "loss": 0.0333, + "num_input_tokens_seen": 28721440, + "step": 14670 + }, + { + "epoch": 1.944466534128562, + "grad_norm": 0.01773657090961933, + "learning_rate": 1.3790419597749198e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28722944, + "step": 14671 + }, + { + "epoch": 1.9445990722332671, + "grad_norm": 2.6789276599884033, + "learning_rate": 1.3787316848749816e-06, + "loss": 0.0292, + "num_input_tokens_seen": 28724200, + "step": 14672 + }, + { + "epoch": 1.9447316103379721, + "grad_norm": 4.435582160949707, + "learning_rate": 1.3784214315938691e-06, + "loss": 0.0155, + "num_input_tokens_seen": 28726272, + "step": 14673 + }, + { + "epoch": 1.9448641484426772, + "grad_norm": 3.9609580039978027, + "learning_rate": 1.3781111999375662e-06, + "loss": 0.0947, + "num_input_tokens_seen": 28728752, + "step": 14674 + }, + { + "epoch": 1.9449966865473822, + "grad_norm": 7.49310827255249, + "learning_rate": 1.377800989912052e-06, + "loss": 0.0435, + "num_input_tokens_seen": 28730496, + "step": 14675 + }, + { + "epoch": 1.9451292246520875, + "grad_norm": 0.042895857244729996, + "learning_rate": 1.3774908015233102e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28732424, + "step": 14676 + }, + { + "epoch": 1.9452617627567925, + "grad_norm": 1.0791136026382446, + "learning_rate": 1.37718063477732e-06, + "loss": 0.0039, + "num_input_tokens_seen": 28734376, + "step": 14677 + }, + { + "epoch": 1.9453943008614978, + "grad_norm": 9.463659286499023, + "learning_rate": 1.3768704896800608e-06, + "loss": 0.1, + "num_input_tokens_seen": 28736528, + "step": 14678 + }, + { + "epoch": 1.9455268389662028, + "grad_norm": 0.14655163884162903, + "learning_rate": 1.3765603662375143e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28738208, + "step": 14679 + }, + { + "epoch": 1.9456593770709079, + "grad_norm": 7.303836345672607, + "learning_rate": 1.376250264455658e-06, + "loss": 0.1555, + "num_input_tokens_seen": 28740544, + "step": 14680 + }, + { + "epoch": 1.945791915175613, + "grad_norm": 0.0055287862196564674, + "learning_rate": 1.3759401843404728e-06, + "loss": 0.0, + "num_input_tokens_seen": 28741696, + "step": 14681 + }, + { + "epoch": 1.945924453280318, + "grad_norm": 0.026806052774190903, + "learning_rate": 1.3756301258979366e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28743088, + "step": 14682 + }, + { + "epoch": 1.9460569913850232, + "grad_norm": 2.64050030708313, + "learning_rate": 1.3753200891340268e-06, + "loss": 0.0314, + "num_input_tokens_seen": 28744848, + "step": 14683 + }, + { + "epoch": 1.9461895294897285, + "grad_norm": 9.417302131652832, + "learning_rate": 1.375010074054721e-06, + "loss": 0.0711, + "num_input_tokens_seen": 28746840, + "step": 14684 + }, + { + "epoch": 1.9463220675944335, + "grad_norm": 0.08746056258678436, + "learning_rate": 1.3747000806659966e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28748728, + "step": 14685 + }, + { + "epoch": 1.9464546056991385, + "grad_norm": 4.36961555480957, + "learning_rate": 1.3743901089738321e-06, + "loss": 0.0159, + "num_input_tokens_seen": 28750760, + "step": 14686 + }, + { + "epoch": 1.9465871438038436, + "grad_norm": 6.71688985824585, + "learning_rate": 1.3740801589842029e-06, + "loss": 0.2345, + "num_input_tokens_seen": 28752752, + "step": 14687 + }, + { + "epoch": 1.9467196819085486, + "grad_norm": 0.05255643650889397, + "learning_rate": 1.373770230703085e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28755400, + "step": 14688 + }, + { + "epoch": 1.9468522200132539, + "grad_norm": 0.06645620614290237, + "learning_rate": 1.3734603241364542e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28758176, + "step": 14689 + }, + { + "epoch": 1.946984758117959, + "grad_norm": 6.391659259796143, + "learning_rate": 1.3731504392902838e-06, + "loss": 0.212, + "num_input_tokens_seen": 28760712, + "step": 14690 + }, + { + "epoch": 1.9471172962226642, + "grad_norm": 4.438530445098877, + "learning_rate": 1.372840576170551e-06, + "loss": 0.1191, + "num_input_tokens_seen": 28762472, + "step": 14691 + }, + { + "epoch": 1.9472498343273692, + "grad_norm": 4.386795997619629, + "learning_rate": 1.37253073478323e-06, + "loss": 0.0904, + "num_input_tokens_seen": 28764632, + "step": 14692 + }, + { + "epoch": 1.9473823724320742, + "grad_norm": 18.760112762451172, + "learning_rate": 1.3722209151342947e-06, + "loss": 0.2118, + "num_input_tokens_seen": 28766648, + "step": 14693 + }, + { + "epoch": 1.9475149105367793, + "grad_norm": 4.268288612365723, + "learning_rate": 1.3719111172297178e-06, + "loss": 0.112, + "num_input_tokens_seen": 28768864, + "step": 14694 + }, + { + "epoch": 1.9476474486414843, + "grad_norm": 18.963247299194336, + "learning_rate": 1.371601341075473e-06, + "loss": 0.1057, + "num_input_tokens_seen": 28770656, + "step": 14695 + }, + { + "epoch": 1.9477799867461896, + "grad_norm": 19.655405044555664, + "learning_rate": 1.3712915866775318e-06, + "loss": 0.1838, + "num_input_tokens_seen": 28772496, + "step": 14696 + }, + { + "epoch": 1.9479125248508946, + "grad_norm": 2.468867063522339, + "learning_rate": 1.3709818540418673e-06, + "loss": 0.0346, + "num_input_tokens_seen": 28774016, + "step": 14697 + }, + { + "epoch": 1.9480450629555999, + "grad_norm": 0.01792384870350361, + "learning_rate": 1.3706721431744527e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28775704, + "step": 14698 + }, + { + "epoch": 1.948177601060305, + "grad_norm": 13.417511940002441, + "learning_rate": 1.3703624540812582e-06, + "loss": 0.1681, + "num_input_tokens_seen": 28777936, + "step": 14699 + }, + { + "epoch": 1.94831013916501, + "grad_norm": 0.07239798456430435, + "learning_rate": 1.3700527867682547e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28779744, + "step": 14700 + }, + { + "epoch": 1.948442677269715, + "grad_norm": 0.047060493379831314, + "learning_rate": 1.3697431412414123e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28781784, + "step": 14701 + }, + { + "epoch": 1.94857521537442, + "grad_norm": 5.032929420471191, + "learning_rate": 1.3694335175067024e-06, + "loss": 0.0318, + "num_input_tokens_seen": 28783944, + "step": 14702 + }, + { + "epoch": 1.9487077534791253, + "grad_norm": 13.099404335021973, + "learning_rate": 1.3691239155700936e-06, + "loss": 0.5596, + "num_input_tokens_seen": 28786248, + "step": 14703 + }, + { + "epoch": 1.9488402915838303, + "grad_norm": 0.6062484979629517, + "learning_rate": 1.3688143354375568e-06, + "loss": 0.0024, + "num_input_tokens_seen": 28787976, + "step": 14704 + }, + { + "epoch": 1.9489728296885356, + "grad_norm": 11.420902252197266, + "learning_rate": 1.36850477711506e-06, + "loss": 0.3039, + "num_input_tokens_seen": 28790520, + "step": 14705 + }, + { + "epoch": 1.9491053677932406, + "grad_norm": 3.5838351249694824, + "learning_rate": 1.3681952406085707e-06, + "loss": 0.044, + "num_input_tokens_seen": 28792464, + "step": 14706 + }, + { + "epoch": 1.9492379058979457, + "grad_norm": 0.1063372939825058, + "learning_rate": 1.3678857259240588e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28795000, + "step": 14707 + }, + { + "epoch": 1.9493704440026507, + "grad_norm": 13.210976600646973, + "learning_rate": 1.3675762330674902e-06, + "loss": 0.243, + "num_input_tokens_seen": 28796944, + "step": 14708 + }, + { + "epoch": 1.9495029821073557, + "grad_norm": 0.0642801821231842, + "learning_rate": 1.3672667620448338e-06, + "loss": 0.0005, + "num_input_tokens_seen": 28798032, + "step": 14709 + }, + { + "epoch": 1.949635520212061, + "grad_norm": 4.017451763153076, + "learning_rate": 1.366957312862056e-06, + "loss": 0.0535, + "num_input_tokens_seen": 28800880, + "step": 14710 + }, + { + "epoch": 1.949768058316766, + "grad_norm": 0.038332462310791016, + "learning_rate": 1.366647885525122e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28803424, + "step": 14711 + }, + { + "epoch": 1.9499005964214713, + "grad_norm": 0.19714200496673584, + "learning_rate": 1.3663384800399992e-06, + "loss": 0.001, + "num_input_tokens_seen": 28806088, + "step": 14712 + }, + { + "epoch": 1.9500331345261763, + "grad_norm": 2.0855164527893066, + "learning_rate": 1.3660290964126527e-06, + "loss": 0.0348, + "num_input_tokens_seen": 28808120, + "step": 14713 + }, + { + "epoch": 1.9501656726308814, + "grad_norm": 6.318480491638184, + "learning_rate": 1.3657197346490463e-06, + "loss": 0.1104, + "num_input_tokens_seen": 28810040, + "step": 14714 + }, + { + "epoch": 1.9502982107355864, + "grad_norm": 0.8638790249824524, + "learning_rate": 1.3654103947551473e-06, + "loss": 0.0056, + "num_input_tokens_seen": 28811488, + "step": 14715 + }, + { + "epoch": 1.9504307488402914, + "grad_norm": 0.014980366453528404, + "learning_rate": 1.3651010767369178e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28813856, + "step": 14716 + }, + { + "epoch": 1.9505632869449967, + "grad_norm": 7.972902297973633, + "learning_rate": 1.364791780600323e-06, + "loss": 0.2391, + "num_input_tokens_seen": 28815328, + "step": 14717 + }, + { + "epoch": 1.9506958250497017, + "grad_norm": 1.5050245523452759, + "learning_rate": 1.3644825063513259e-06, + "loss": 0.0154, + "num_input_tokens_seen": 28817680, + "step": 14718 + }, + { + "epoch": 1.950828363154407, + "grad_norm": 7.361939907073975, + "learning_rate": 1.3641732539958895e-06, + "loss": 0.1417, + "num_input_tokens_seen": 28821288, + "step": 14719 + }, + { + "epoch": 1.950960901259112, + "grad_norm": 7.258730888366699, + "learning_rate": 1.3638640235399753e-06, + "loss": 0.1803, + "num_input_tokens_seen": 28822944, + "step": 14720 + }, + { + "epoch": 1.951093439363817, + "grad_norm": 11.681361198425293, + "learning_rate": 1.3635548149895475e-06, + "loss": 0.1543, + "num_input_tokens_seen": 28825040, + "step": 14721 + }, + { + "epoch": 1.951225977468522, + "grad_norm": 11.65433406829834, + "learning_rate": 1.3632456283505658e-06, + "loss": 0.0755, + "num_input_tokens_seen": 28826760, + "step": 14722 + }, + { + "epoch": 1.9513585155732271, + "grad_norm": 11.703380584716797, + "learning_rate": 1.3629364636289939e-06, + "loss": 0.3211, + "num_input_tokens_seen": 28828416, + "step": 14723 + }, + { + "epoch": 1.9514910536779324, + "grad_norm": 7.617846965789795, + "learning_rate": 1.3626273208307912e-06, + "loss": 0.1217, + "num_input_tokens_seen": 28830176, + "step": 14724 + }, + { + "epoch": 1.9516235917826377, + "grad_norm": 0.021498100832104683, + "learning_rate": 1.3623181999619185e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28831640, + "step": 14725 + }, + { + "epoch": 1.9517561298873427, + "grad_norm": 0.011297020129859447, + "learning_rate": 1.3620091010283342e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28832944, + "step": 14726 + }, + { + "epoch": 1.9518886679920477, + "grad_norm": 0.020409978926181793, + "learning_rate": 1.361700024036e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28834448, + "step": 14727 + }, + { + "epoch": 1.9520212060967528, + "grad_norm": 12.548238754272461, + "learning_rate": 1.3613909689908755e-06, + "loss": 0.1465, + "num_input_tokens_seen": 28836440, + "step": 14728 + }, + { + "epoch": 1.9521537442014578, + "grad_norm": 3.1456000804901123, + "learning_rate": 1.3610819358989186e-06, + "loss": 0.0533, + "num_input_tokens_seen": 28838608, + "step": 14729 + }, + { + "epoch": 1.9522862823061629, + "grad_norm": 8.6223783493042, + "learning_rate": 1.3607729247660877e-06, + "loss": 0.0548, + "num_input_tokens_seen": 28839856, + "step": 14730 + }, + { + "epoch": 1.9524188204108681, + "grad_norm": 5.883285999298096, + "learning_rate": 1.3604639355983395e-06, + "loss": 0.0986, + "num_input_tokens_seen": 28841472, + "step": 14731 + }, + { + "epoch": 1.9525513585155734, + "grad_norm": 3.47570538520813, + "learning_rate": 1.3601549684016332e-06, + "loss": 0.0196, + "num_input_tokens_seen": 28842608, + "step": 14732 + }, + { + "epoch": 1.9526838966202784, + "grad_norm": 0.17962372303009033, + "learning_rate": 1.359846023181926e-06, + "loss": 0.0013, + "num_input_tokens_seen": 28845312, + "step": 14733 + }, + { + "epoch": 1.9528164347249835, + "grad_norm": 9.276968955993652, + "learning_rate": 1.3595370999451745e-06, + "loss": 0.0722, + "num_input_tokens_seen": 28847736, + "step": 14734 + }, + { + "epoch": 1.9529489728296885, + "grad_norm": 6.3852219581604, + "learning_rate": 1.3592281986973343e-06, + "loss": 0.1305, + "num_input_tokens_seen": 28849720, + "step": 14735 + }, + { + "epoch": 1.9530815109343935, + "grad_norm": 1.415165662765503, + "learning_rate": 1.3589193194443612e-06, + "loss": 0.0125, + "num_input_tokens_seen": 28851184, + "step": 14736 + }, + { + "epoch": 1.9532140490390988, + "grad_norm": 3.0497210025787354, + "learning_rate": 1.35861046219221e-06, + "loss": 0.0207, + "num_input_tokens_seen": 28852312, + "step": 14737 + }, + { + "epoch": 1.9533465871438038, + "grad_norm": 5.9520087242126465, + "learning_rate": 1.3583016269468362e-06, + "loss": 0.0929, + "num_input_tokens_seen": 28854000, + "step": 14738 + }, + { + "epoch": 1.953479125248509, + "grad_norm": 0.1340920776128769, + "learning_rate": 1.3579928137141962e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28856472, + "step": 14739 + }, + { + "epoch": 1.9536116633532141, + "grad_norm": 2.7222604751586914, + "learning_rate": 1.357684022500242e-06, + "loss": 0.0634, + "num_input_tokens_seen": 28858360, + "step": 14740 + }, + { + "epoch": 1.9537442014579192, + "grad_norm": 13.631305694580078, + "learning_rate": 1.3573752533109283e-06, + "loss": 0.2023, + "num_input_tokens_seen": 28860544, + "step": 14741 + }, + { + "epoch": 1.9538767395626242, + "grad_norm": 0.012690866366028786, + "learning_rate": 1.3570665061522067e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28862008, + "step": 14742 + }, + { + "epoch": 1.9540092776673292, + "grad_norm": 1.4957959651947021, + "learning_rate": 1.3567577810300325e-06, + "loss": 0.0172, + "num_input_tokens_seen": 28863200, + "step": 14743 + }, + { + "epoch": 1.9541418157720345, + "grad_norm": 5.015166282653809, + "learning_rate": 1.3564490779503558e-06, + "loss": 0.1212, + "num_input_tokens_seen": 28864504, + "step": 14744 + }, + { + "epoch": 1.9542743538767395, + "grad_norm": 9.7816801071167, + "learning_rate": 1.3561403969191311e-06, + "loss": 0.1368, + "num_input_tokens_seen": 28866632, + "step": 14745 + }, + { + "epoch": 1.9544068919814448, + "grad_norm": 14.755289077758789, + "learning_rate": 1.3558317379423083e-06, + "loss": 0.0704, + "num_input_tokens_seen": 28868200, + "step": 14746 + }, + { + "epoch": 1.9545394300861498, + "grad_norm": 0.02982102334499359, + "learning_rate": 1.355523101025839e-06, + "loss": 0.0001, + "num_input_tokens_seen": 28870272, + "step": 14747 + }, + { + "epoch": 1.9546719681908549, + "grad_norm": 0.2428574562072754, + "learning_rate": 1.355214486175673e-06, + "loss": 0.0014, + "num_input_tokens_seen": 28871696, + "step": 14748 + }, + { + "epoch": 1.95480450629556, + "grad_norm": 6.164900302886963, + "learning_rate": 1.3549058933977625e-06, + "loss": 0.2072, + "num_input_tokens_seen": 28873736, + "step": 14749 + }, + { + "epoch": 1.954937044400265, + "grad_norm": 5.2071075439453125, + "learning_rate": 1.3545973226980553e-06, + "loss": 0.0374, + "num_input_tokens_seen": 28875728, + "step": 14750 + }, + { + "epoch": 1.9550695825049702, + "grad_norm": 0.033458635210990906, + "learning_rate": 1.3542887740825025e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28877208, + "step": 14751 + }, + { + "epoch": 1.9552021206096752, + "grad_norm": 7.464413642883301, + "learning_rate": 1.353980247557053e-06, + "loss": 0.1056, + "num_input_tokens_seen": 28878968, + "step": 14752 + }, + { + "epoch": 1.9553346587143805, + "grad_norm": 0.07793564349412918, + "learning_rate": 1.3536717431276535e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28880576, + "step": 14753 + }, + { + "epoch": 1.9554671968190855, + "grad_norm": 8.440590858459473, + "learning_rate": 1.353363260800255e-06, + "loss": 0.1812, + "num_input_tokens_seen": 28882184, + "step": 14754 + }, + { + "epoch": 1.9555997349237906, + "grad_norm": 6.732773780822754, + "learning_rate": 1.3530548005808026e-06, + "loss": 0.0935, + "num_input_tokens_seen": 28883616, + "step": 14755 + }, + { + "epoch": 1.9557322730284956, + "grad_norm": 18.820287704467773, + "learning_rate": 1.352746362475246e-06, + "loss": 0.3558, + "num_input_tokens_seen": 28886080, + "step": 14756 + }, + { + "epoch": 1.9558648111332007, + "grad_norm": 5.306849002838135, + "learning_rate": 1.352437946489531e-06, + "loss": 0.118, + "num_input_tokens_seen": 28887760, + "step": 14757 + }, + { + "epoch": 1.955997349237906, + "grad_norm": 3.3443362712860107, + "learning_rate": 1.352129552629603e-06, + "loss": 0.0818, + "num_input_tokens_seen": 28889480, + "step": 14758 + }, + { + "epoch": 1.956129887342611, + "grad_norm": 3.163560628890991, + "learning_rate": 1.3518211809014098e-06, + "loss": 0.0115, + "num_input_tokens_seen": 28892896, + "step": 14759 + }, + { + "epoch": 1.9562624254473162, + "grad_norm": 2.148686408996582, + "learning_rate": 1.3515128313108966e-06, + "loss": 0.0085, + "num_input_tokens_seen": 28895552, + "step": 14760 + }, + { + "epoch": 1.9563949635520212, + "grad_norm": 1.6802475452423096, + "learning_rate": 1.3512045038640075e-06, + "loss": 0.0133, + "num_input_tokens_seen": 28897432, + "step": 14761 + }, + { + "epoch": 1.9565275016567263, + "grad_norm": 5.437595844268799, + "learning_rate": 1.350896198566689e-06, + "loss": 0.0432, + "num_input_tokens_seen": 28899544, + "step": 14762 + }, + { + "epoch": 1.9566600397614313, + "grad_norm": 2.3035781383514404, + "learning_rate": 1.3505879154248835e-06, + "loss": 0.0299, + "num_input_tokens_seen": 28900832, + "step": 14763 + }, + { + "epoch": 1.9567925778661364, + "grad_norm": 7.638674259185791, + "learning_rate": 1.3502796544445368e-06, + "loss": 0.1946, + "num_input_tokens_seen": 28902944, + "step": 14764 + }, + { + "epoch": 1.9569251159708416, + "grad_norm": 7.515084743499756, + "learning_rate": 1.3499714156315916e-06, + "loss": 0.1615, + "num_input_tokens_seen": 28904680, + "step": 14765 + }, + { + "epoch": 1.9570576540755469, + "grad_norm": 0.0420452281832695, + "learning_rate": 1.3496631989919907e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28906528, + "step": 14766 + }, + { + "epoch": 1.957190192180252, + "grad_norm": 8.105485916137695, + "learning_rate": 1.3493550045316762e-06, + "loss": 0.1913, + "num_input_tokens_seen": 28908128, + "step": 14767 + }, + { + "epoch": 1.957322730284957, + "grad_norm": 8.300603866577148, + "learning_rate": 1.3490468322565908e-06, + "loss": 0.2639, + "num_input_tokens_seen": 28910664, + "step": 14768 + }, + { + "epoch": 1.957455268389662, + "grad_norm": 2.736945390701294, + "learning_rate": 1.3487386821726774e-06, + "loss": 0.0196, + "num_input_tokens_seen": 28912144, + "step": 14769 + }, + { + "epoch": 1.957587806494367, + "grad_norm": 3.5149857997894287, + "learning_rate": 1.3484305542858768e-06, + "loss": 0.0309, + "num_input_tokens_seen": 28913920, + "step": 14770 + }, + { + "epoch": 1.957720344599072, + "grad_norm": 7.921489715576172, + "learning_rate": 1.348122448602129e-06, + "loss": 0.0791, + "num_input_tokens_seen": 28915960, + "step": 14771 + }, + { + "epoch": 1.9578528827037773, + "grad_norm": 0.1012229174375534, + "learning_rate": 1.3478143651273757e-06, + "loss": 0.0007, + "num_input_tokens_seen": 28917984, + "step": 14772 + }, + { + "epoch": 1.9579854208084826, + "grad_norm": 0.15451732277870178, + "learning_rate": 1.3475063038675546e-06, + "loss": 0.001, + "num_input_tokens_seen": 28921048, + "step": 14773 + }, + { + "epoch": 1.9581179589131876, + "grad_norm": 0.0649258941411972, + "learning_rate": 1.3471982648286075e-06, + "loss": 0.0004, + "num_input_tokens_seen": 28922800, + "step": 14774 + }, + { + "epoch": 1.9582504970178927, + "grad_norm": 0.14012020826339722, + "learning_rate": 1.346890248016474e-06, + "loss": 0.0008, + "num_input_tokens_seen": 28924640, + "step": 14775 + }, + { + "epoch": 1.9583830351225977, + "grad_norm": 0.11704191565513611, + "learning_rate": 1.3465822534370921e-06, + "loss": 0.002, + "num_input_tokens_seen": 28925744, + "step": 14776 + }, + { + "epoch": 1.9585155732273027, + "grad_norm": 4.9457292556762695, + "learning_rate": 1.3462742810963997e-06, + "loss": 0.062, + "num_input_tokens_seen": 28927888, + "step": 14777 + }, + { + "epoch": 1.958648111332008, + "grad_norm": 0.006525153294205666, + "learning_rate": 1.345966331000335e-06, + "loss": 0.0, + "num_input_tokens_seen": 28929232, + "step": 14778 + }, + { + "epoch": 1.958780649436713, + "grad_norm": 9.499655723571777, + "learning_rate": 1.3456584031548354e-06, + "loss": 0.1507, + "num_input_tokens_seen": 28931536, + "step": 14779 + }, + { + "epoch": 1.9589131875414183, + "grad_norm": 1.9727414846420288, + "learning_rate": 1.3453504975658375e-06, + "loss": 0.0067, + "num_input_tokens_seen": 28932968, + "step": 14780 + }, + { + "epoch": 1.9590457256461233, + "grad_norm": 5.839777946472168, + "learning_rate": 1.3450426142392796e-06, + "loss": 0.0223, + "num_input_tokens_seen": 28935296, + "step": 14781 + }, + { + "epoch": 1.9591782637508284, + "grad_norm": 0.09975003451108932, + "learning_rate": 1.3447347531810967e-06, + "loss": 0.0006, + "num_input_tokens_seen": 28938112, + "step": 14782 + }, + { + "epoch": 1.9593108018555334, + "grad_norm": 5.660719871520996, + "learning_rate": 1.344426914397225e-06, + "loss": 0.1118, + "num_input_tokens_seen": 28940288, + "step": 14783 + }, + { + "epoch": 1.9594433399602385, + "grad_norm": 0.7562618255615234, + "learning_rate": 1.3441190978935987e-06, + "loss": 0.0064, + "num_input_tokens_seen": 28941848, + "step": 14784 + }, + { + "epoch": 1.9595758780649437, + "grad_norm": 5.044239521026611, + "learning_rate": 1.3438113036761536e-06, + "loss": 0.0834, + "num_input_tokens_seen": 28943928, + "step": 14785 + }, + { + "epoch": 1.9597084161696487, + "grad_norm": 5.52391242980957, + "learning_rate": 1.343503531750825e-06, + "loss": 0.0968, + "num_input_tokens_seen": 28945944, + "step": 14786 + }, + { + "epoch": 1.959840954274354, + "grad_norm": 0.2941533923149109, + "learning_rate": 1.3431957821235457e-06, + "loss": 0.0012, + "num_input_tokens_seen": 28948536, + "step": 14787 + }, + { + "epoch": 1.959973492379059, + "grad_norm": 16.821487426757812, + "learning_rate": 1.3428880548002504e-06, + "loss": 0.3574, + "num_input_tokens_seen": 28950568, + "step": 14788 + }, + { + "epoch": 1.960106030483764, + "grad_norm": 17.752267837524414, + "learning_rate": 1.3425803497868706e-06, + "loss": 0.2871, + "num_input_tokens_seen": 28953712, + "step": 14789 + }, + { + "epoch": 1.9602385685884691, + "grad_norm": 12.329522132873535, + "learning_rate": 1.342272667089341e-06, + "loss": 0.3062, + "num_input_tokens_seen": 28956760, + "step": 14790 + }, + { + "epoch": 1.9603711066931742, + "grad_norm": 3.807431697845459, + "learning_rate": 1.341965006713592e-06, + "loss": 0.0854, + "num_input_tokens_seen": 28958576, + "step": 14791 + }, + { + "epoch": 1.9605036447978794, + "grad_norm": 9.05179500579834, + "learning_rate": 1.3416573686655576e-06, + "loss": 0.2176, + "num_input_tokens_seen": 28959904, + "step": 14792 + }, + { + "epoch": 1.9606361829025845, + "grad_norm": 7.315910339355469, + "learning_rate": 1.3413497529511683e-06, + "loss": 0.0312, + "num_input_tokens_seen": 28960888, + "step": 14793 + }, + { + "epoch": 1.9607687210072897, + "grad_norm": 11.204451560974121, + "learning_rate": 1.341042159576354e-06, + "loss": 0.2346, + "num_input_tokens_seen": 28962776, + "step": 14794 + }, + { + "epoch": 1.9609012591119948, + "grad_norm": 0.03700202703475952, + "learning_rate": 1.3407345885470472e-06, + "loss": 0.0002, + "num_input_tokens_seen": 28964880, + "step": 14795 + }, + { + "epoch": 1.9610337972166998, + "grad_norm": 9.792357444763184, + "learning_rate": 1.3404270398691774e-06, + "loss": 0.1411, + "num_input_tokens_seen": 28966656, + "step": 14796 + }, + { + "epoch": 1.9611663353214048, + "grad_norm": 0.025123370811343193, + "learning_rate": 1.3401195135486733e-06, + "loss": 0.0003, + "num_input_tokens_seen": 28968184, + "step": 14797 + }, + { + "epoch": 1.9612988734261099, + "grad_norm": 19.056276321411133, + "learning_rate": 1.3398120095914663e-06, + "loss": 0.3234, + "num_input_tokens_seen": 28969728, + "step": 14798 + }, + { + "epoch": 1.9614314115308151, + "grad_norm": 6.127427101135254, + "learning_rate": 1.339504528003483e-06, + "loss": 0.0672, + "num_input_tokens_seen": 28972272, + "step": 14799 + }, + { + "epoch": 1.9615639496355202, + "grad_norm": 3.6329784393310547, + "learning_rate": 1.3391970687906536e-06, + "loss": 0.0301, + "num_input_tokens_seen": 28974416, + "step": 14800 + }, + { + "epoch": 1.9616964877402254, + "grad_norm": 13.48880386352539, + "learning_rate": 1.3388896319589059e-06, + "loss": 0.3449, + "num_input_tokens_seen": 28976384, + "step": 14801 + }, + { + "epoch": 1.9618290258449305, + "grad_norm": 2.9296669960021973, + "learning_rate": 1.3385822175141672e-06, + "loss": 0.0217, + "num_input_tokens_seen": 28978552, + "step": 14802 + }, + { + "epoch": 1.9619615639496355, + "grad_norm": 11.347014427185059, + "learning_rate": 1.3382748254623633e-06, + "loss": 0.2705, + "num_input_tokens_seen": 28980192, + "step": 14803 + }, + { + "epoch": 1.9620941020543405, + "grad_norm": 15.219050407409668, + "learning_rate": 1.3379674558094233e-06, + "loss": 0.2193, + "num_input_tokens_seen": 28982120, + "step": 14804 + }, + { + "epoch": 1.9622266401590456, + "grad_norm": 0.1350218802690506, + "learning_rate": 1.3376601085612712e-06, + "loss": 0.0009, + "num_input_tokens_seen": 28984304, + "step": 14805 + }, + { + "epoch": 1.9623591782637508, + "grad_norm": 7.657247543334961, + "learning_rate": 1.3373527837238354e-06, + "loss": 0.0721, + "num_input_tokens_seen": 28985760, + "step": 14806 + }, + { + "epoch": 1.962491716368456, + "grad_norm": 1.1194578409194946, + "learning_rate": 1.3370454813030398e-06, + "loss": 0.0041, + "num_input_tokens_seen": 28987376, + "step": 14807 + }, + { + "epoch": 1.9626242544731611, + "grad_norm": 9.307700157165527, + "learning_rate": 1.3367382013048086e-06, + "loss": 0.3009, + "num_input_tokens_seen": 28989408, + "step": 14808 + }, + { + "epoch": 1.9627567925778662, + "grad_norm": 1.810801386833191, + "learning_rate": 1.3364309437350687e-06, + "loss": 0.0038, + "num_input_tokens_seen": 28990928, + "step": 14809 + }, + { + "epoch": 1.9628893306825712, + "grad_norm": 9.638711929321289, + "learning_rate": 1.3361237085997413e-06, + "loss": 0.0461, + "num_input_tokens_seen": 28993784, + "step": 14810 + }, + { + "epoch": 1.9630218687872762, + "grad_norm": 8.024345397949219, + "learning_rate": 1.3358164959047532e-06, + "loss": 0.2054, + "num_input_tokens_seen": 28996848, + "step": 14811 + }, + { + "epoch": 1.9631544068919813, + "grad_norm": 7.8461432456970215, + "learning_rate": 1.3355093056560261e-06, + "loss": 0.228, + "num_input_tokens_seen": 28998736, + "step": 14812 + }, + { + "epoch": 1.9632869449966865, + "grad_norm": 4.576639175415039, + "learning_rate": 1.3352021378594828e-06, + "loss": 0.0702, + "num_input_tokens_seen": 29001328, + "step": 14813 + }, + { + "epoch": 1.9634194831013918, + "grad_norm": 7.119454860687256, + "learning_rate": 1.334894992521045e-06, + "loss": 0.1664, + "num_input_tokens_seen": 29003232, + "step": 14814 + }, + { + "epoch": 1.9635520212060968, + "grad_norm": 11.186477661132812, + "learning_rate": 1.3345878696466352e-06, + "loss": 0.2555, + "num_input_tokens_seen": 29006120, + "step": 14815 + }, + { + "epoch": 1.9636845593108019, + "grad_norm": 0.7726321220397949, + "learning_rate": 1.3342807692421766e-06, + "loss": 0.0082, + "num_input_tokens_seen": 29008304, + "step": 14816 + }, + { + "epoch": 1.963817097415507, + "grad_norm": 0.3907501697540283, + "learning_rate": 1.333973691313589e-06, + "loss": 0.0019, + "num_input_tokens_seen": 29010816, + "step": 14817 + }, + { + "epoch": 1.963949635520212, + "grad_norm": 0.6814530491828918, + "learning_rate": 1.3336666358667928e-06, + "loss": 0.003, + "num_input_tokens_seen": 29012416, + "step": 14818 + }, + { + "epoch": 1.9640821736249172, + "grad_norm": 4.373108386993408, + "learning_rate": 1.3333596029077085e-06, + "loss": 0.0409, + "num_input_tokens_seen": 29013872, + "step": 14819 + }, + { + "epoch": 1.9642147117296223, + "grad_norm": 13.989361763000488, + "learning_rate": 1.333052592442255e-06, + "loss": 0.2727, + "num_input_tokens_seen": 29015744, + "step": 14820 + }, + { + "epoch": 1.9643472498343275, + "grad_norm": 10.115144729614258, + "learning_rate": 1.3327456044763525e-06, + "loss": 0.1478, + "num_input_tokens_seen": 29017968, + "step": 14821 + }, + { + "epoch": 1.9644797879390326, + "grad_norm": 3.979059934616089, + "learning_rate": 1.3324386390159209e-06, + "loss": 0.0426, + "num_input_tokens_seen": 29019912, + "step": 14822 + }, + { + "epoch": 1.9646123260437376, + "grad_norm": 1.4778681993484497, + "learning_rate": 1.3321316960668778e-06, + "loss": 0.0071, + "num_input_tokens_seen": 29021576, + "step": 14823 + }, + { + "epoch": 1.9647448641484426, + "grad_norm": 0.6960933208465576, + "learning_rate": 1.3318247756351414e-06, + "loss": 0.0095, + "num_input_tokens_seen": 29025288, + "step": 14824 + }, + { + "epoch": 1.9648774022531477, + "grad_norm": 3.7301688194274902, + "learning_rate": 1.331517877726628e-06, + "loss": 0.032, + "num_input_tokens_seen": 29027112, + "step": 14825 + }, + { + "epoch": 1.965009940357853, + "grad_norm": 10.736807823181152, + "learning_rate": 1.3312110023472572e-06, + "loss": 0.2991, + "num_input_tokens_seen": 29029048, + "step": 14826 + }, + { + "epoch": 1.965142478462558, + "grad_norm": 12.247562408447266, + "learning_rate": 1.3309041495029435e-06, + "loss": 0.1796, + "num_input_tokens_seen": 29031320, + "step": 14827 + }, + { + "epoch": 1.9652750165672632, + "grad_norm": 7.985411643981934, + "learning_rate": 1.3305973191996051e-06, + "loss": 0.0956, + "num_input_tokens_seen": 29033432, + "step": 14828 + }, + { + "epoch": 1.9654075546719683, + "grad_norm": 6.477376461029053, + "learning_rate": 1.3302905114431575e-06, + "loss": 0.1322, + "num_input_tokens_seen": 29034968, + "step": 14829 + }, + { + "epoch": 1.9655400927766733, + "grad_norm": 6.349009037017822, + "learning_rate": 1.3299837262395149e-06, + "loss": 0.1587, + "num_input_tokens_seen": 29037440, + "step": 14830 + }, + { + "epoch": 1.9656726308813783, + "grad_norm": 2.4001638889312744, + "learning_rate": 1.3296769635945938e-06, + "loss": 0.0535, + "num_input_tokens_seen": 29038912, + "step": 14831 + }, + { + "epoch": 1.9658051689860834, + "grad_norm": 0.303119421005249, + "learning_rate": 1.3293702235143085e-06, + "loss": 0.0032, + "num_input_tokens_seen": 29040984, + "step": 14832 + }, + { + "epoch": 1.9659377070907886, + "grad_norm": 9.171063423156738, + "learning_rate": 1.3290635060045715e-06, + "loss": 0.188, + "num_input_tokens_seen": 29043144, + "step": 14833 + }, + { + "epoch": 1.9660702451954937, + "grad_norm": 7.708461284637451, + "learning_rate": 1.3287568110712992e-06, + "loss": 0.0982, + "num_input_tokens_seen": 29044872, + "step": 14834 + }, + { + "epoch": 1.966202783300199, + "grad_norm": 0.05881329998373985, + "learning_rate": 1.3284501387204035e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29046184, + "step": 14835 + }, + { + "epoch": 1.966335321404904, + "grad_norm": 8.188450813293457, + "learning_rate": 1.3281434889577965e-06, + "loss": 0.0541, + "num_input_tokens_seen": 29047728, + "step": 14836 + }, + { + "epoch": 1.966467859509609, + "grad_norm": 3.0618462562561035, + "learning_rate": 1.3278368617893921e-06, + "loss": 0.0167, + "num_input_tokens_seen": 29050424, + "step": 14837 + }, + { + "epoch": 1.966600397614314, + "grad_norm": 7.491856575012207, + "learning_rate": 1.3275302572211008e-06, + "loss": 0.2012, + "num_input_tokens_seen": 29053792, + "step": 14838 + }, + { + "epoch": 1.966732935719019, + "grad_norm": 4.789963722229004, + "learning_rate": 1.327223675258836e-06, + "loss": 0.0283, + "num_input_tokens_seen": 29055400, + "step": 14839 + }, + { + "epoch": 1.9668654738237243, + "grad_norm": 6.070686340332031, + "learning_rate": 1.326917115908508e-06, + "loss": 0.1422, + "num_input_tokens_seen": 29057416, + "step": 14840 + }, + { + "epoch": 1.9669980119284294, + "grad_norm": 7.813318252563477, + "learning_rate": 1.3266105791760258e-06, + "loss": 0.105, + "num_input_tokens_seen": 29059456, + "step": 14841 + }, + { + "epoch": 1.9671305500331346, + "grad_norm": 9.205842018127441, + "learning_rate": 1.3263040650673026e-06, + "loss": 0.1905, + "num_input_tokens_seen": 29061224, + "step": 14842 + }, + { + "epoch": 1.9672630881378397, + "grad_norm": 0.06410596519708633, + "learning_rate": 1.3259975735882462e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29063216, + "step": 14843 + }, + { + "epoch": 1.9673956262425447, + "grad_norm": 0.04958916828036308, + "learning_rate": 1.3256911047447662e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29065608, + "step": 14844 + }, + { + "epoch": 1.9675281643472498, + "grad_norm": 1.9039580821990967, + "learning_rate": 1.3253846585427724e-06, + "loss": 0.0269, + "num_input_tokens_seen": 29068024, + "step": 14845 + }, + { + "epoch": 1.9676607024519548, + "grad_norm": 7.274997711181641, + "learning_rate": 1.3250782349881716e-06, + "loss": 0.103, + "num_input_tokens_seen": 29070232, + "step": 14846 + }, + { + "epoch": 1.96779324055666, + "grad_norm": 0.006930314935743809, + "learning_rate": 1.3247718340868744e-06, + "loss": 0.0, + "num_input_tokens_seen": 29071296, + "step": 14847 + }, + { + "epoch": 1.967925778661365, + "grad_norm": 5.472148418426514, + "learning_rate": 1.3244654558447863e-06, + "loss": 0.054, + "num_input_tokens_seen": 29073296, + "step": 14848 + }, + { + "epoch": 1.9680583167660703, + "grad_norm": 8.862009048461914, + "learning_rate": 1.3241591002678155e-06, + "loss": 0.2247, + "num_input_tokens_seen": 29075688, + "step": 14849 + }, + { + "epoch": 1.9681908548707754, + "grad_norm": 0.2510817050933838, + "learning_rate": 1.3238527673618675e-06, + "loss": 0.0015, + "num_input_tokens_seen": 29077016, + "step": 14850 + }, + { + "epoch": 1.9683233929754804, + "grad_norm": 10.646903991699219, + "learning_rate": 1.3235464571328497e-06, + "loss": 0.1412, + "num_input_tokens_seen": 29078744, + "step": 14851 + }, + { + "epoch": 1.9684559310801855, + "grad_norm": 12.21786880493164, + "learning_rate": 1.3232401695866686e-06, + "loss": 0.1384, + "num_input_tokens_seen": 29081712, + "step": 14852 + }, + { + "epoch": 1.9685884691848905, + "grad_norm": 3.819003105163574, + "learning_rate": 1.322933904729229e-06, + "loss": 0.0447, + "num_input_tokens_seen": 29084032, + "step": 14853 + }, + { + "epoch": 1.9687210072895958, + "grad_norm": 4.5528717041015625, + "learning_rate": 1.3226276625664353e-06, + "loss": 0.089, + "num_input_tokens_seen": 29085648, + "step": 14854 + }, + { + "epoch": 1.968853545394301, + "grad_norm": 5.275665760040283, + "learning_rate": 1.3223214431041929e-06, + "loss": 0.0181, + "num_input_tokens_seen": 29087120, + "step": 14855 + }, + { + "epoch": 1.968986083499006, + "grad_norm": 10.391576766967773, + "learning_rate": 1.3220152463484042e-06, + "loss": 0.1076, + "num_input_tokens_seen": 29088736, + "step": 14856 + }, + { + "epoch": 1.969118621603711, + "grad_norm": 0.052978191524744034, + "learning_rate": 1.3217090723049745e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29091064, + "step": 14857 + }, + { + "epoch": 1.9692511597084161, + "grad_norm": 3.019630193710327, + "learning_rate": 1.3214029209798074e-06, + "loss": 0.0401, + "num_input_tokens_seen": 29093032, + "step": 14858 + }, + { + "epoch": 1.9693836978131212, + "grad_norm": 2.8398525714874268, + "learning_rate": 1.3210967923788054e-06, + "loss": 0.0994, + "num_input_tokens_seen": 29094688, + "step": 14859 + }, + { + "epoch": 1.9695162359178264, + "grad_norm": 15.511089324951172, + "learning_rate": 1.3207906865078704e-06, + "loss": 0.2524, + "num_input_tokens_seen": 29096784, + "step": 14860 + }, + { + "epoch": 1.9696487740225315, + "grad_norm": 0.3232240676879883, + "learning_rate": 1.3204846033729036e-06, + "loss": 0.0024, + "num_input_tokens_seen": 29098552, + "step": 14861 + }, + { + "epoch": 1.9697813121272367, + "grad_norm": 6.295639514923096, + "learning_rate": 1.320178542979807e-06, + "loss": 0.0469, + "num_input_tokens_seen": 29101168, + "step": 14862 + }, + { + "epoch": 1.9699138502319418, + "grad_norm": 4.049402713775635, + "learning_rate": 1.3198725053344833e-06, + "loss": 0.0713, + "num_input_tokens_seen": 29103640, + "step": 14863 + }, + { + "epoch": 1.9700463883366468, + "grad_norm": 8.442045211791992, + "learning_rate": 1.3195664904428318e-06, + "loss": 0.0896, + "num_input_tokens_seen": 29104888, + "step": 14864 + }, + { + "epoch": 1.9701789264413518, + "grad_norm": 6.76145076751709, + "learning_rate": 1.3192604983107525e-06, + "loss": 0.1174, + "num_input_tokens_seen": 29106536, + "step": 14865 + }, + { + "epoch": 1.9703114645460569, + "grad_norm": 0.0621190145611763, + "learning_rate": 1.3189545289441457e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29108056, + "step": 14866 + }, + { + "epoch": 1.9704440026507621, + "grad_norm": 0.18670029938220978, + "learning_rate": 1.318648582348909e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29109832, + "step": 14867 + }, + { + "epoch": 1.9705765407554672, + "grad_norm": 9.867266654968262, + "learning_rate": 1.3183426585309428e-06, + "loss": 0.1914, + "num_input_tokens_seen": 29111520, + "step": 14868 + }, + { + "epoch": 1.9707090788601724, + "grad_norm": 3.6712915897369385, + "learning_rate": 1.3180367574961461e-06, + "loss": 0.0461, + "num_input_tokens_seen": 29113688, + "step": 14869 + }, + { + "epoch": 1.9708416169648775, + "grad_norm": 8.011804580688477, + "learning_rate": 1.3177308792504164e-06, + "loss": 0.1234, + "num_input_tokens_seen": 29116272, + "step": 14870 + }, + { + "epoch": 1.9709741550695825, + "grad_norm": 9.179527282714844, + "learning_rate": 1.3174250237996509e-06, + "loss": 0.3132, + "num_input_tokens_seen": 29118408, + "step": 14871 + }, + { + "epoch": 1.9711066931742875, + "grad_norm": 12.198481559753418, + "learning_rate": 1.3171191911497456e-06, + "loss": 0.3657, + "num_input_tokens_seen": 29120560, + "step": 14872 + }, + { + "epoch": 1.9712392312789926, + "grad_norm": 7.397515296936035, + "learning_rate": 1.3168133813065994e-06, + "loss": 0.1178, + "num_input_tokens_seen": 29122136, + "step": 14873 + }, + { + "epoch": 1.9713717693836978, + "grad_norm": 6.7663254737854, + "learning_rate": 1.3165075942761065e-06, + "loss": 0.1387, + "num_input_tokens_seen": 29124096, + "step": 14874 + }, + { + "epoch": 1.9715043074884029, + "grad_norm": 7.305816650390625, + "learning_rate": 1.3162018300641647e-06, + "loss": 0.162, + "num_input_tokens_seen": 29126896, + "step": 14875 + }, + { + "epoch": 1.9716368455931081, + "grad_norm": 0.1084723025560379, + "learning_rate": 1.3158960886766681e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29129072, + "step": 14876 + }, + { + "epoch": 1.9717693836978132, + "grad_norm": 0.490786075592041, + "learning_rate": 1.3155903701195108e-06, + "loss": 0.0028, + "num_input_tokens_seen": 29130328, + "step": 14877 + }, + { + "epoch": 1.9719019218025182, + "grad_norm": 0.09074121713638306, + "learning_rate": 1.3152846743985892e-06, + "loss": 0.0006, + "num_input_tokens_seen": 29132168, + "step": 14878 + }, + { + "epoch": 1.9720344599072233, + "grad_norm": 4.867978096008301, + "learning_rate": 1.3149790015197967e-06, + "loss": 0.118, + "num_input_tokens_seen": 29134792, + "step": 14879 + }, + { + "epoch": 1.9721669980119283, + "grad_norm": 0.21490608155727386, + "learning_rate": 1.3146733514890252e-06, + "loss": 0.0015, + "num_input_tokens_seen": 29136160, + "step": 14880 + }, + { + "epoch": 1.9722995361166336, + "grad_norm": 1.7828940153121948, + "learning_rate": 1.3143677243121705e-06, + "loss": 0.0064, + "num_input_tokens_seen": 29138280, + "step": 14881 + }, + { + "epoch": 1.9724320742213386, + "grad_norm": 0.07908859103918076, + "learning_rate": 1.3140621199951226e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29139656, + "step": 14882 + }, + { + "epoch": 1.9725646123260439, + "grad_norm": 9.952167510986328, + "learning_rate": 1.3137565385437764e-06, + "loss": 0.2031, + "num_input_tokens_seen": 29141464, + "step": 14883 + }, + { + "epoch": 1.972697150430749, + "grad_norm": 0.9749848246574402, + "learning_rate": 1.3134509799640223e-06, + "loss": 0.0089, + "num_input_tokens_seen": 29143280, + "step": 14884 + }, + { + "epoch": 1.972829688535454, + "grad_norm": 0.8748016357421875, + "learning_rate": 1.3131454442617523e-06, + "loss": 0.0075, + "num_input_tokens_seen": 29144672, + "step": 14885 + }, + { + "epoch": 1.972962226640159, + "grad_norm": 0.11748529970645905, + "learning_rate": 1.3128399314428556e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29147152, + "step": 14886 + }, + { + "epoch": 1.973094764744864, + "grad_norm": 3.612283706665039, + "learning_rate": 1.312534441513224e-06, + "loss": 0.049, + "num_input_tokens_seen": 29149008, + "step": 14887 + }, + { + "epoch": 1.9732273028495693, + "grad_norm": 0.13075599074363708, + "learning_rate": 1.3122289744787487e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29152248, + "step": 14888 + }, + { + "epoch": 1.9733598409542743, + "grad_norm": 10.999829292297363, + "learning_rate": 1.311923530345318e-06, + "loss": 0.1947, + "num_input_tokens_seen": 29153776, + "step": 14889 + }, + { + "epoch": 1.9734923790589796, + "grad_norm": 5.921285152435303, + "learning_rate": 1.3116181091188212e-06, + "loss": 0.1024, + "num_input_tokens_seen": 29155592, + "step": 14890 + }, + { + "epoch": 1.9736249171636846, + "grad_norm": 6.906350612640381, + "learning_rate": 1.3113127108051463e-06, + "loss": 0.1521, + "num_input_tokens_seen": 29157848, + "step": 14891 + }, + { + "epoch": 1.9737574552683896, + "grad_norm": 4.8795037269592285, + "learning_rate": 1.3110073354101832e-06, + "loss": 0.111, + "num_input_tokens_seen": 29159712, + "step": 14892 + }, + { + "epoch": 1.9738899933730947, + "grad_norm": 13.084979057312012, + "learning_rate": 1.3107019829398182e-06, + "loss": 0.2393, + "num_input_tokens_seen": 29161472, + "step": 14893 + }, + { + "epoch": 1.9740225314777997, + "grad_norm": 6.58968448638916, + "learning_rate": 1.3103966533999402e-06, + "loss": 0.0351, + "num_input_tokens_seen": 29162904, + "step": 14894 + }, + { + "epoch": 1.974155069582505, + "grad_norm": 2.4697012901306152, + "learning_rate": 1.3100913467964351e-06, + "loss": 0.0163, + "num_input_tokens_seen": 29164904, + "step": 14895 + }, + { + "epoch": 1.9742876076872102, + "grad_norm": 1.950269341468811, + "learning_rate": 1.30978606313519e-06, + "loss": 0.0211, + "num_input_tokens_seen": 29166832, + "step": 14896 + }, + { + "epoch": 1.9744201457919153, + "grad_norm": 0.040524259209632874, + "learning_rate": 1.3094808024220898e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29168232, + "step": 14897 + }, + { + "epoch": 1.9745526838966203, + "grad_norm": 3.985295057296753, + "learning_rate": 1.3091755646630212e-06, + "loss": 0.0162, + "num_input_tokens_seen": 29171008, + "step": 14898 + }, + { + "epoch": 1.9746852220013253, + "grad_norm": 3.2362852096557617, + "learning_rate": 1.3088703498638696e-06, + "loss": 0.0734, + "num_input_tokens_seen": 29172720, + "step": 14899 + }, + { + "epoch": 1.9748177601060304, + "grad_norm": 5.5034894943237305, + "learning_rate": 1.3085651580305197e-06, + "loss": 0.0695, + "num_input_tokens_seen": 29173792, + "step": 14900 + }, + { + "epoch": 1.9749502982107354, + "grad_norm": 1.1807979345321655, + "learning_rate": 1.3082599891688559e-06, + "loss": 0.0089, + "num_input_tokens_seen": 29174992, + "step": 14901 + }, + { + "epoch": 1.9750828363154407, + "grad_norm": 7.608094692230225, + "learning_rate": 1.307954843284761e-06, + "loss": 0.1127, + "num_input_tokens_seen": 29177336, + "step": 14902 + }, + { + "epoch": 1.975215374420146, + "grad_norm": 0.7388755679130554, + "learning_rate": 1.3076497203841181e-06, + "loss": 0.004, + "num_input_tokens_seen": 29179072, + "step": 14903 + }, + { + "epoch": 1.975347912524851, + "grad_norm": 0.21701079607009888, + "learning_rate": 1.3073446204728115e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29180800, + "step": 14904 + }, + { + "epoch": 1.975480450629556, + "grad_norm": 17.94910430908203, + "learning_rate": 1.3070395435567244e-06, + "loss": 0.1879, + "num_input_tokens_seen": 29183088, + "step": 14905 + }, + { + "epoch": 1.975612988734261, + "grad_norm": 11.324033737182617, + "learning_rate": 1.3067344896417378e-06, + "loss": 0.1777, + "num_input_tokens_seen": 29185368, + "step": 14906 + }, + { + "epoch": 1.975745526838966, + "grad_norm": 8.709357261657715, + "learning_rate": 1.3064294587337332e-06, + "loss": 0.1871, + "num_input_tokens_seen": 29187272, + "step": 14907 + }, + { + "epoch": 1.9758780649436714, + "grad_norm": 7.662909984588623, + "learning_rate": 1.3061244508385913e-06, + "loss": 0.1256, + "num_input_tokens_seen": 29189696, + "step": 14908 + }, + { + "epoch": 1.9760106030483764, + "grad_norm": 6.987009048461914, + "learning_rate": 1.3058194659621943e-06, + "loss": 0.0594, + "num_input_tokens_seen": 29190872, + "step": 14909 + }, + { + "epoch": 1.9761431411530817, + "grad_norm": 0.11000020802021027, + "learning_rate": 1.305514504110421e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29192568, + "step": 14910 + }, + { + "epoch": 1.9762756792577867, + "grad_norm": 2.610076427459717, + "learning_rate": 1.3052095652891534e-06, + "loss": 0.0745, + "num_input_tokens_seen": 29194888, + "step": 14911 + }, + { + "epoch": 1.9764082173624917, + "grad_norm": 6.124466419219971, + "learning_rate": 1.3049046495042692e-06, + "loss": 0.1152, + "num_input_tokens_seen": 29196760, + "step": 14912 + }, + { + "epoch": 1.9765407554671968, + "grad_norm": 5.125068664550781, + "learning_rate": 1.3045997567616469e-06, + "loss": 0.1195, + "num_input_tokens_seen": 29198416, + "step": 14913 + }, + { + "epoch": 1.9766732935719018, + "grad_norm": 4.630000591278076, + "learning_rate": 1.304294887067167e-06, + "loss": 0.0866, + "num_input_tokens_seen": 29200840, + "step": 14914 + }, + { + "epoch": 1.976805831676607, + "grad_norm": 3.579505681991577, + "learning_rate": 1.3039900404267056e-06, + "loss": 0.089, + "num_input_tokens_seen": 29202832, + "step": 14915 + }, + { + "epoch": 1.976938369781312, + "grad_norm": 5.4929938316345215, + "learning_rate": 1.3036852168461421e-06, + "loss": 0.0656, + "num_input_tokens_seen": 29205192, + "step": 14916 + }, + { + "epoch": 1.9770709078860174, + "grad_norm": 1.0215038061141968, + "learning_rate": 1.3033804163313531e-06, + "loss": 0.0107, + "num_input_tokens_seen": 29206824, + "step": 14917 + }, + { + "epoch": 1.9772034459907224, + "grad_norm": 0.11023305356502533, + "learning_rate": 1.3030756388882155e-06, + "loss": 0.0006, + "num_input_tokens_seen": 29208696, + "step": 14918 + }, + { + "epoch": 1.9773359840954274, + "grad_norm": 12.214183807373047, + "learning_rate": 1.302770884522604e-06, + "loss": 0.1962, + "num_input_tokens_seen": 29210240, + "step": 14919 + }, + { + "epoch": 1.9774685222001325, + "grad_norm": 3.282313346862793, + "learning_rate": 1.3024661532403966e-06, + "loss": 0.0581, + "num_input_tokens_seen": 29211904, + "step": 14920 + }, + { + "epoch": 1.9776010603048375, + "grad_norm": 11.025667190551758, + "learning_rate": 1.3021614450474667e-06, + "loss": 0.0229, + "num_input_tokens_seen": 29213560, + "step": 14921 + }, + { + "epoch": 1.9777335984095428, + "grad_norm": 5.648624420166016, + "learning_rate": 1.301856759949692e-06, + "loss": 0.0601, + "num_input_tokens_seen": 29215976, + "step": 14922 + }, + { + "epoch": 1.9778661365142478, + "grad_norm": 2.7478837966918945, + "learning_rate": 1.3015520979529452e-06, + "loss": 0.0413, + "num_input_tokens_seen": 29218344, + "step": 14923 + }, + { + "epoch": 1.977998674618953, + "grad_norm": 0.031490396708250046, + "learning_rate": 1.3012474590631e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29219864, + "step": 14924 + }, + { + "epoch": 1.978131212723658, + "grad_norm": 0.01297858078032732, + "learning_rate": 1.3009428432860316e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29220920, + "step": 14925 + }, + { + "epoch": 1.9782637508283631, + "grad_norm": 5.139960289001465, + "learning_rate": 1.3006382506276124e-06, + "loss": 0.0232, + "num_input_tokens_seen": 29222472, + "step": 14926 + }, + { + "epoch": 1.9783962889330682, + "grad_norm": 2.93013858795166, + "learning_rate": 1.300333681093714e-06, + "loss": 0.0579, + "num_input_tokens_seen": 29224632, + "step": 14927 + }, + { + "epoch": 1.9785288270377732, + "grad_norm": 12.069201469421387, + "learning_rate": 1.300029134690211e-06, + "loss": 0.1486, + "num_input_tokens_seen": 29227104, + "step": 14928 + }, + { + "epoch": 1.9786613651424785, + "grad_norm": 0.27290380001068115, + "learning_rate": 1.2997246114229734e-06, + "loss": 0.0019, + "num_input_tokens_seen": 29228960, + "step": 14929 + }, + { + "epoch": 1.9787939032471835, + "grad_norm": 0.05895405262708664, + "learning_rate": 1.2994201112978738e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29230672, + "step": 14930 + }, + { + "epoch": 1.9789264413518888, + "grad_norm": 11.887923240661621, + "learning_rate": 1.2991156343207828e-06, + "loss": 0.1428, + "num_input_tokens_seen": 29231792, + "step": 14931 + }, + { + "epoch": 1.9790589794565938, + "grad_norm": 2.5906054973602295, + "learning_rate": 1.298811180497571e-06, + "loss": 0.04, + "num_input_tokens_seen": 29234272, + "step": 14932 + }, + { + "epoch": 1.9791915175612989, + "grad_norm": 1.6383649110794067, + "learning_rate": 1.298506749834107e-06, + "loss": 0.0149, + "num_input_tokens_seen": 29236328, + "step": 14933 + }, + { + "epoch": 1.979324055666004, + "grad_norm": 5.924740314483643, + "learning_rate": 1.2982023423362623e-06, + "loss": 0.0668, + "num_input_tokens_seen": 29237912, + "step": 14934 + }, + { + "epoch": 1.979456593770709, + "grad_norm": 9.834704399108887, + "learning_rate": 1.2978979580099057e-06, + "loss": 0.1525, + "num_input_tokens_seen": 29239856, + "step": 14935 + }, + { + "epoch": 1.9795891318754142, + "grad_norm": 0.2781409025192261, + "learning_rate": 1.2975935968609062e-06, + "loss": 0.002, + "num_input_tokens_seen": 29242096, + "step": 14936 + }, + { + "epoch": 1.9797216699801194, + "grad_norm": 6.552262306213379, + "learning_rate": 1.297289258895132e-06, + "loss": 0.1053, + "num_input_tokens_seen": 29244288, + "step": 14937 + }, + { + "epoch": 1.9798542080848245, + "grad_norm": 6.329280376434326, + "learning_rate": 1.2969849441184502e-06, + "loss": 0.0869, + "num_input_tokens_seen": 29245704, + "step": 14938 + }, + { + "epoch": 1.9799867461895295, + "grad_norm": 0.014991187490522861, + "learning_rate": 1.2966806525367272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29247408, + "step": 14939 + }, + { + "epoch": 1.9801192842942346, + "grad_norm": 0.03031809628009796, + "learning_rate": 1.296376384155832e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29249080, + "step": 14940 + }, + { + "epoch": 1.9802518223989396, + "grad_norm": 0.1248452365398407, + "learning_rate": 1.296072138981631e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29251096, + "step": 14941 + }, + { + "epoch": 1.9803843605036446, + "grad_norm": 6.064358711242676, + "learning_rate": 1.29576791701999e-06, + "loss": 0.0806, + "num_input_tokens_seen": 29253056, + "step": 14942 + }, + { + "epoch": 1.98051689860835, + "grad_norm": 1.6882566213607788, + "learning_rate": 1.2954637182767744e-06, + "loss": 0.0132, + "num_input_tokens_seen": 29254328, + "step": 14943 + }, + { + "epoch": 1.9806494367130552, + "grad_norm": 2.212655544281006, + "learning_rate": 1.295159542757848e-06, + "loss": 0.0274, + "num_input_tokens_seen": 29256456, + "step": 14944 + }, + { + "epoch": 1.9807819748177602, + "grad_norm": 15.62509536743164, + "learning_rate": 1.294855390469077e-06, + "loss": 0.2974, + "num_input_tokens_seen": 29258448, + "step": 14945 + }, + { + "epoch": 1.9809145129224652, + "grad_norm": 9.234081268310547, + "learning_rate": 1.2945512614163264e-06, + "loss": 0.2232, + "num_input_tokens_seen": 29260472, + "step": 14946 + }, + { + "epoch": 1.9810470510271703, + "grad_norm": 0.1798482984304428, + "learning_rate": 1.2942471556054592e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29262472, + "step": 14947 + }, + { + "epoch": 1.9811795891318753, + "grad_norm": 0.27187666296958923, + "learning_rate": 1.2939430730423384e-06, + "loss": 0.0018, + "num_input_tokens_seen": 29263880, + "step": 14948 + }, + { + "epoch": 1.9813121272365806, + "grad_norm": 3.7519893646240234, + "learning_rate": 1.2936390137328272e-06, + "loss": 0.0446, + "num_input_tokens_seen": 29265784, + "step": 14949 + }, + { + "epoch": 1.9814446653412856, + "grad_norm": 8.041322708129883, + "learning_rate": 1.293334977682787e-06, + "loss": 0.0829, + "num_input_tokens_seen": 29267456, + "step": 14950 + }, + { + "epoch": 1.9815772034459909, + "grad_norm": 8.203190803527832, + "learning_rate": 1.293030964898081e-06, + "loss": 0.1435, + "num_input_tokens_seen": 29269440, + "step": 14951 + }, + { + "epoch": 1.981709741550696, + "grad_norm": 1.8591647148132324, + "learning_rate": 1.2927269753845716e-06, + "loss": 0.0345, + "num_input_tokens_seen": 29271752, + "step": 14952 + }, + { + "epoch": 1.981842279655401, + "grad_norm": 4.607569217681885, + "learning_rate": 1.292423009148119e-06, + "loss": 0.0684, + "num_input_tokens_seen": 29273344, + "step": 14953 + }, + { + "epoch": 1.981974817760106, + "grad_norm": 11.287821769714355, + "learning_rate": 1.292119066194584e-06, + "loss": 0.2822, + "num_input_tokens_seen": 29276672, + "step": 14954 + }, + { + "epoch": 1.982107355864811, + "grad_norm": 1.4310781955718994, + "learning_rate": 1.2918151465298256e-06, + "loss": 0.0052, + "num_input_tokens_seen": 29278536, + "step": 14955 + }, + { + "epoch": 1.9822398939695163, + "grad_norm": 5.801882743835449, + "learning_rate": 1.2915112501597055e-06, + "loss": 0.0541, + "num_input_tokens_seen": 29280320, + "step": 14956 + }, + { + "epoch": 1.9823724320742213, + "grad_norm": 3.4595510959625244, + "learning_rate": 1.2912073770900813e-06, + "loss": 0.0695, + "num_input_tokens_seen": 29284408, + "step": 14957 + }, + { + "epoch": 1.9825049701789266, + "grad_norm": 0.13448534905910492, + "learning_rate": 1.2909035273268137e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29286696, + "step": 14958 + }, + { + "epoch": 1.9826375082836316, + "grad_norm": 3.0875461101531982, + "learning_rate": 1.2905997008757604e-06, + "loss": 0.0182, + "num_input_tokens_seen": 29290048, + "step": 14959 + }, + { + "epoch": 1.9827700463883366, + "grad_norm": 11.961390495300293, + "learning_rate": 1.2902958977427776e-06, + "loss": 0.1786, + "num_input_tokens_seen": 29291840, + "step": 14960 + }, + { + "epoch": 1.9829025844930417, + "grad_norm": 1.6517081260681152, + "learning_rate": 1.289992117933726e-06, + "loss": 0.0101, + "num_input_tokens_seen": 29293864, + "step": 14961 + }, + { + "epoch": 1.9830351225977467, + "grad_norm": 6.134220600128174, + "learning_rate": 1.2896883614544609e-06, + "loss": 0.0632, + "num_input_tokens_seen": 29296264, + "step": 14962 + }, + { + "epoch": 1.983167660702452, + "grad_norm": 10.05469799041748, + "learning_rate": 1.2893846283108385e-06, + "loss": 0.2714, + "num_input_tokens_seen": 29298672, + "step": 14963 + }, + { + "epoch": 1.983300198807157, + "grad_norm": 0.03645828366279602, + "learning_rate": 1.289080918508716e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29300440, + "step": 14964 + }, + { + "epoch": 1.9834327369118623, + "grad_norm": 0.010693750344216824, + "learning_rate": 1.2887772320539482e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29301776, + "step": 14965 + }, + { + "epoch": 1.9835652750165673, + "grad_norm": 12.394100189208984, + "learning_rate": 1.2884735689523919e-06, + "loss": 0.1351, + "num_input_tokens_seen": 29304024, + "step": 14966 + }, + { + "epoch": 1.9836978131212724, + "grad_norm": 4.284935474395752, + "learning_rate": 1.288169929209901e-06, + "loss": 0.0238, + "num_input_tokens_seen": 29305296, + "step": 14967 + }, + { + "epoch": 1.9838303512259774, + "grad_norm": 1.1791915893554688, + "learning_rate": 1.2878663128323288e-06, + "loss": 0.0041, + "num_input_tokens_seen": 29307056, + "step": 14968 + }, + { + "epoch": 1.9839628893306824, + "grad_norm": 6.600908279418945, + "learning_rate": 1.2875627198255314e-06, + "loss": 0.0933, + "num_input_tokens_seen": 29309096, + "step": 14969 + }, + { + "epoch": 1.9840954274353877, + "grad_norm": 3.78352427482605, + "learning_rate": 1.2872591501953599e-06, + "loss": 0.0663, + "num_input_tokens_seen": 29311128, + "step": 14970 + }, + { + "epoch": 1.9842279655400927, + "grad_norm": 9.576079368591309, + "learning_rate": 1.28695560394767e-06, + "loss": 0.1543, + "num_input_tokens_seen": 29313704, + "step": 14971 + }, + { + "epoch": 1.984360503644798, + "grad_norm": 13.428544044494629, + "learning_rate": 1.2866520810883123e-06, + "loss": 0.2213, + "num_input_tokens_seen": 29315752, + "step": 14972 + }, + { + "epoch": 1.984493041749503, + "grad_norm": 9.78488826751709, + "learning_rate": 1.28634858162314e-06, + "loss": 0.1732, + "num_input_tokens_seen": 29317384, + "step": 14973 + }, + { + "epoch": 1.984625579854208, + "grad_norm": 0.15593236684799194, + "learning_rate": 1.2860451055580032e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29319288, + "step": 14974 + }, + { + "epoch": 1.984758117958913, + "grad_norm": 8.514893531799316, + "learning_rate": 1.285741652898755e-06, + "loss": 0.147, + "num_input_tokens_seen": 29321472, + "step": 14975 + }, + { + "epoch": 1.9848906560636181, + "grad_norm": 0.022653639316558838, + "learning_rate": 1.2854382236512447e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29323360, + "step": 14976 + }, + { + "epoch": 1.9850231941683234, + "grad_norm": 13.34898853302002, + "learning_rate": 1.2851348178213244e-06, + "loss": 0.3377, + "num_input_tokens_seen": 29325512, + "step": 14977 + }, + { + "epoch": 1.9851557322730287, + "grad_norm": 2.5087296962738037, + "learning_rate": 1.2848314354148428e-06, + "loss": 0.048, + "num_input_tokens_seen": 29327640, + "step": 14978 + }, + { + "epoch": 1.9852882703777337, + "grad_norm": 12.470858573913574, + "learning_rate": 1.2845280764376494e-06, + "loss": 0.1751, + "num_input_tokens_seen": 29329704, + "step": 14979 + }, + { + "epoch": 1.9854208084824387, + "grad_norm": 9.162280082702637, + "learning_rate": 1.2842247408955922e-06, + "loss": 0.1787, + "num_input_tokens_seen": 29332008, + "step": 14980 + }, + { + "epoch": 1.9855533465871438, + "grad_norm": 0.6234849691390991, + "learning_rate": 1.2839214287945206e-06, + "loss": 0.0087, + "num_input_tokens_seen": 29335288, + "step": 14981 + }, + { + "epoch": 1.9856858846918488, + "grad_norm": 6.43628454208374, + "learning_rate": 1.283618140140284e-06, + "loss": 0.0763, + "num_input_tokens_seen": 29336896, + "step": 14982 + }, + { + "epoch": 1.9858184227965539, + "grad_norm": 0.008916890248656273, + "learning_rate": 1.2833148749387287e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29338760, + "step": 14983 + }, + { + "epoch": 1.985950960901259, + "grad_norm": 0.018107829615473747, + "learning_rate": 1.2830116331957019e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29340080, + "step": 14984 + }, + { + "epoch": 1.9860834990059644, + "grad_norm": 12.252679824829102, + "learning_rate": 1.2827084149170504e-06, + "loss": 0.2424, + "num_input_tokens_seen": 29342512, + "step": 14985 + }, + { + "epoch": 1.9862160371106694, + "grad_norm": 5.954042434692383, + "learning_rate": 1.2824052201086194e-06, + "loss": 0.0339, + "num_input_tokens_seen": 29343576, + "step": 14986 + }, + { + "epoch": 1.9863485752153744, + "grad_norm": 8.77004337310791, + "learning_rate": 1.282102048776256e-06, + "loss": 0.3532, + "num_input_tokens_seen": 29346144, + "step": 14987 + }, + { + "epoch": 1.9864811133200795, + "grad_norm": 0.08105558902025223, + "learning_rate": 1.281798900925806e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29347616, + "step": 14988 + }, + { + "epoch": 1.9866136514247845, + "grad_norm": 1.0167502164840698, + "learning_rate": 1.2814957765631133e-06, + "loss": 0.0113, + "num_input_tokens_seen": 29350208, + "step": 14989 + }, + { + "epoch": 1.9867461895294898, + "grad_norm": 1.1385411024093628, + "learning_rate": 1.281192675694023e-06, + "loss": 0.0074, + "num_input_tokens_seen": 29351832, + "step": 14990 + }, + { + "epoch": 1.9868787276341948, + "grad_norm": 0.15233564376831055, + "learning_rate": 1.2808895983243777e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29353456, + "step": 14991 + }, + { + "epoch": 1.9870112657389, + "grad_norm": 21.02981948852539, + "learning_rate": 1.280586544460023e-06, + "loss": 0.1437, + "num_input_tokens_seen": 29355392, + "step": 14992 + }, + { + "epoch": 1.9871438038436051, + "grad_norm": 0.1611795574426651, + "learning_rate": 1.2802835141067998e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29357824, + "step": 14993 + }, + { + "epoch": 1.9872763419483102, + "grad_norm": 7.989131450653076, + "learning_rate": 1.2799805072705528e-06, + "loss": 0.1645, + "num_input_tokens_seen": 29359688, + "step": 14994 + }, + { + "epoch": 1.9874088800530152, + "grad_norm": 5.402070045471191, + "learning_rate": 1.2796775239571238e-06, + "loss": 0.1805, + "num_input_tokens_seen": 29361864, + "step": 14995 + }, + { + "epoch": 1.9875414181577202, + "grad_norm": 4.802786827087402, + "learning_rate": 1.2793745641723526e-06, + "loss": 0.0348, + "num_input_tokens_seen": 29363776, + "step": 14996 + }, + { + "epoch": 1.9876739562624255, + "grad_norm": 6.909824371337891, + "learning_rate": 1.279071627922083e-06, + "loss": 0.0937, + "num_input_tokens_seen": 29366240, + "step": 14997 + }, + { + "epoch": 1.9878064943671305, + "grad_norm": 0.03242842108011246, + "learning_rate": 1.2787687152121536e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29368624, + "step": 14998 + }, + { + "epoch": 1.9879390324718358, + "grad_norm": 9.624953269958496, + "learning_rate": 1.2784658260484067e-06, + "loss": 0.1457, + "num_input_tokens_seen": 29370592, + "step": 14999 + }, + { + "epoch": 1.9880715705765408, + "grad_norm": 9.715973854064941, + "learning_rate": 1.278162960436682e-06, + "loss": 0.3169, + "num_input_tokens_seen": 29373352, + "step": 15000 + }, + { + "epoch": 1.9882041086812459, + "grad_norm": 8.819573402404785, + "learning_rate": 1.2778601183828166e-06, + "loss": 0.0317, + "num_input_tokens_seen": 29375288, + "step": 15001 + }, + { + "epoch": 1.988336646785951, + "grad_norm": 0.09542513638734818, + "learning_rate": 1.2775572998926525e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29378192, + "step": 15002 + }, + { + "epoch": 1.988469184890656, + "grad_norm": 5.76531457901001, + "learning_rate": 1.277254504972027e-06, + "loss": 0.061, + "num_input_tokens_seen": 29379672, + "step": 15003 + }, + { + "epoch": 1.9886017229953612, + "grad_norm": 6.633455753326416, + "learning_rate": 1.276951733626777e-06, + "loss": 0.0427, + "num_input_tokens_seen": 29380944, + "step": 15004 + }, + { + "epoch": 1.9887342611000662, + "grad_norm": 0.007879002019762993, + "learning_rate": 1.2766489858627423e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29382496, + "step": 15005 + }, + { + "epoch": 1.9888667992047715, + "grad_norm": 4.493411064147949, + "learning_rate": 1.2763462616857595e-06, + "loss": 0.0926, + "num_input_tokens_seen": 29385048, + "step": 15006 + }, + { + "epoch": 1.9889993373094765, + "grad_norm": 0.019767822697758675, + "learning_rate": 1.2760435611016635e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29386640, + "step": 15007 + }, + { + "epoch": 1.9891318754141816, + "grad_norm": 8.19939136505127, + "learning_rate": 1.2757408841162932e-06, + "loss": 0.1468, + "num_input_tokens_seen": 29388456, + "step": 15008 + }, + { + "epoch": 1.9892644135188866, + "grad_norm": 2.3931753635406494, + "learning_rate": 1.2754382307354834e-06, + "loss": 0.028, + "num_input_tokens_seen": 29391184, + "step": 15009 + }, + { + "epoch": 1.9893969516235916, + "grad_norm": 0.019784769043326378, + "learning_rate": 1.275135600965068e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29392904, + "step": 15010 + }, + { + "epoch": 1.989529489728297, + "grad_norm": 0.04237458482384682, + "learning_rate": 1.2748329948108844e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29394976, + "step": 15011 + }, + { + "epoch": 1.989662027833002, + "grad_norm": 10.403319358825684, + "learning_rate": 1.274530412278765e-06, + "loss": 0.0748, + "num_input_tokens_seen": 29397088, + "step": 15012 + }, + { + "epoch": 1.9897945659377072, + "grad_norm": 3.1516165733337402, + "learning_rate": 1.274227853374545e-06, + "loss": 0.0216, + "num_input_tokens_seen": 29399208, + "step": 15013 + }, + { + "epoch": 1.9899271040424122, + "grad_norm": 0.20235677063465118, + "learning_rate": 1.2739253181040584e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29401288, + "step": 15014 + }, + { + "epoch": 1.9900596421471173, + "grad_norm": 9.354519844055176, + "learning_rate": 1.273622806473137e-06, + "loss": 0.1541, + "num_input_tokens_seen": 29403640, + "step": 15015 + }, + { + "epoch": 1.9901921802518223, + "grad_norm": 9.492431640625, + "learning_rate": 1.2733203184876131e-06, + "loss": 0.2732, + "num_input_tokens_seen": 29405320, + "step": 15016 + }, + { + "epoch": 1.9903247183565274, + "grad_norm": 0.05043940991163254, + "learning_rate": 1.2730178541533194e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29408200, + "step": 15017 + }, + { + "epoch": 1.9904572564612326, + "grad_norm": 12.103384017944336, + "learning_rate": 1.2727154134760895e-06, + "loss": 0.2796, + "num_input_tokens_seen": 29410792, + "step": 15018 + }, + { + "epoch": 1.9905897945659377, + "grad_norm": 0.019128022715449333, + "learning_rate": 1.2724129964617526e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29412104, + "step": 15019 + }, + { + "epoch": 1.990722332670643, + "grad_norm": 10.11974811553955, + "learning_rate": 1.2721106031161402e-06, + "loss": 0.1888, + "num_input_tokens_seen": 29413384, + "step": 15020 + }, + { + "epoch": 1.990854870775348, + "grad_norm": 5.954976558685303, + "learning_rate": 1.2718082334450815e-06, + "loss": 0.0819, + "num_input_tokens_seen": 29415640, + "step": 15021 + }, + { + "epoch": 1.990987408880053, + "grad_norm": 0.015992214903235435, + "learning_rate": 1.2715058874544072e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29417184, + "step": 15022 + }, + { + "epoch": 1.991119946984758, + "grad_norm": 0.13484159111976624, + "learning_rate": 1.271203565149948e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29418928, + "step": 15023 + }, + { + "epoch": 1.991252485089463, + "grad_norm": 5.495573043823242, + "learning_rate": 1.2709012665375317e-06, + "loss": 0.1355, + "num_input_tokens_seen": 29421456, + "step": 15024 + }, + { + "epoch": 1.9913850231941683, + "grad_norm": 0.017603913322091103, + "learning_rate": 1.2705989916229868e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29423592, + "step": 15025 + }, + { + "epoch": 1.9915175612988736, + "grad_norm": 0.016949553042650223, + "learning_rate": 1.2702967404121416e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29424832, + "step": 15026 + }, + { + "epoch": 1.9916500994035786, + "grad_norm": 0.02186252363026142, + "learning_rate": 1.2699945129108227e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29426384, + "step": 15027 + }, + { + "epoch": 1.9917826375082837, + "grad_norm": 10.439915657043457, + "learning_rate": 1.2696923091248578e-06, + "loss": 0.2374, + "num_input_tokens_seen": 29429032, + "step": 15028 + }, + { + "epoch": 1.9919151756129887, + "grad_norm": 2.7696712017059326, + "learning_rate": 1.2693901290600751e-06, + "loss": 0.0247, + "num_input_tokens_seen": 29430120, + "step": 15029 + }, + { + "epoch": 1.9920477137176937, + "grad_norm": 0.057111505419015884, + "learning_rate": 1.2690879727223e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29431440, + "step": 15030 + }, + { + "epoch": 1.9921802518223988, + "grad_norm": 11.524256706237793, + "learning_rate": 1.2687858401173576e-06, + "loss": 0.1556, + "num_input_tokens_seen": 29434448, + "step": 15031 + }, + { + "epoch": 1.992312789927104, + "grad_norm": 0.019454503431916237, + "learning_rate": 1.2684837312510735e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29437064, + "step": 15032 + }, + { + "epoch": 1.9924453280318093, + "grad_norm": 0.01588483527302742, + "learning_rate": 1.2681816461292715e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29438856, + "step": 15033 + }, + { + "epoch": 1.9925778661365143, + "grad_norm": 3.3085122108459473, + "learning_rate": 1.2678795847577773e-06, + "loss": 0.0475, + "num_input_tokens_seen": 29440328, + "step": 15034 + }, + { + "epoch": 1.9927104042412194, + "grad_norm": 6.721047401428223, + "learning_rate": 1.267577547142416e-06, + "loss": 0.1052, + "num_input_tokens_seen": 29441952, + "step": 15035 + }, + { + "epoch": 1.9928429423459244, + "grad_norm": 1.3945090770721436, + "learning_rate": 1.2672755332890098e-06, + "loss": 0.0092, + "num_input_tokens_seen": 29444152, + "step": 15036 + }, + { + "epoch": 1.9929754804506294, + "grad_norm": 4.494974136352539, + "learning_rate": 1.266973543203381e-06, + "loss": 0.0672, + "num_input_tokens_seen": 29446344, + "step": 15037 + }, + { + "epoch": 1.9931080185553347, + "grad_norm": 0.1965724527835846, + "learning_rate": 1.2666715768913526e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29448096, + "step": 15038 + }, + { + "epoch": 1.9932405566600397, + "grad_norm": 8.084900856018066, + "learning_rate": 1.266369634358748e-06, + "loss": 0.0702, + "num_input_tokens_seen": 29450032, + "step": 15039 + }, + { + "epoch": 1.993373094764745, + "grad_norm": 4.564589023590088, + "learning_rate": 1.2660677156113866e-06, + "loss": 0.0435, + "num_input_tokens_seen": 29452160, + "step": 15040 + }, + { + "epoch": 1.99350563286945, + "grad_norm": 0.008167847990989685, + "learning_rate": 1.2657658206550922e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29454440, + "step": 15041 + }, + { + "epoch": 1.993638170974155, + "grad_norm": 8.761433601379395, + "learning_rate": 1.2654639494956839e-06, + "loss": 0.1451, + "num_input_tokens_seen": 29457368, + "step": 15042 + }, + { + "epoch": 1.9937707090788601, + "grad_norm": 0.22472958266735077, + "learning_rate": 1.2651621021389815e-06, + "loss": 0.0021, + "num_input_tokens_seen": 29459496, + "step": 15043 + }, + { + "epoch": 1.9939032471835652, + "grad_norm": 5.541337013244629, + "learning_rate": 1.2648602785908066e-06, + "loss": 0.032, + "num_input_tokens_seen": 29461240, + "step": 15044 + }, + { + "epoch": 1.9940357852882704, + "grad_norm": 9.68825912475586, + "learning_rate": 1.2645584788569766e-06, + "loss": 0.1136, + "num_input_tokens_seen": 29463320, + "step": 15045 + }, + { + "epoch": 1.9941683233929755, + "grad_norm": 12.671784400939941, + "learning_rate": 1.2642567029433122e-06, + "loss": 0.294, + "num_input_tokens_seen": 29465024, + "step": 15046 + }, + { + "epoch": 1.9943008614976807, + "grad_norm": 7.378289222717285, + "learning_rate": 1.2639549508556315e-06, + "loss": 0.1446, + "num_input_tokens_seen": 29467136, + "step": 15047 + }, + { + "epoch": 1.9944333996023857, + "grad_norm": 13.606983184814453, + "learning_rate": 1.2636532225997508e-06, + "loss": 0.2464, + "num_input_tokens_seen": 29470032, + "step": 15048 + }, + { + "epoch": 1.9945659377070908, + "grad_norm": 11.810920715332031, + "learning_rate": 1.2633515181814899e-06, + "loss": 0.3046, + "num_input_tokens_seen": 29471640, + "step": 15049 + }, + { + "epoch": 1.9946984758117958, + "grad_norm": 0.07023024559020996, + "learning_rate": 1.2630498376066648e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29472784, + "step": 15050 + }, + { + "epoch": 1.9948310139165009, + "grad_norm": 4.564071178436279, + "learning_rate": 1.2627481808810916e-06, + "loss": 0.085, + "num_input_tokens_seen": 29475096, + "step": 15051 + }, + { + "epoch": 1.9949635520212061, + "grad_norm": 14.904413223266602, + "learning_rate": 1.2624465480105873e-06, + "loss": 0.1335, + "num_input_tokens_seen": 29477208, + "step": 15052 + }, + { + "epoch": 1.9950960901259112, + "grad_norm": 1.5181065797805786, + "learning_rate": 1.2621449390009665e-06, + "loss": 0.0058, + "num_input_tokens_seen": 29479152, + "step": 15053 + }, + { + "epoch": 1.9952286282306164, + "grad_norm": 3.748671531677246, + "learning_rate": 1.2618433538580467e-06, + "loss": 0.0141, + "num_input_tokens_seen": 29481648, + "step": 15054 + }, + { + "epoch": 1.9953611663353215, + "grad_norm": 8.37869930267334, + "learning_rate": 1.2615417925876404e-06, + "loss": 0.0841, + "num_input_tokens_seen": 29484088, + "step": 15055 + }, + { + "epoch": 1.9954937044400265, + "grad_norm": 12.78702163696289, + "learning_rate": 1.2612402551955635e-06, + "loss": 0.3809, + "num_input_tokens_seen": 29487416, + "step": 15056 + }, + { + "epoch": 1.9956262425447315, + "grad_norm": 5.244921684265137, + "learning_rate": 1.2609387416876278e-06, + "loss": 0.0544, + "num_input_tokens_seen": 29489216, + "step": 15057 + }, + { + "epoch": 1.9957587806494366, + "grad_norm": 0.020142938941717148, + "learning_rate": 1.260637252069648e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29490456, + "step": 15058 + }, + { + "epoch": 1.9958913187541418, + "grad_norm": 0.10015234351158142, + "learning_rate": 1.2603357863474377e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29491752, + "step": 15059 + }, + { + "epoch": 1.9960238568588469, + "grad_norm": 0.058342497795820236, + "learning_rate": 1.2600343445268088e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29493824, + "step": 15060 + }, + { + "epoch": 1.9961563949635521, + "grad_norm": 11.053287506103516, + "learning_rate": 1.2597329266135733e-06, + "loss": 0.2014, + "num_input_tokens_seen": 29495696, + "step": 15061 + }, + { + "epoch": 1.9962889330682572, + "grad_norm": 0.010415097698569298, + "learning_rate": 1.259431532613542e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29497568, + "step": 15062 + }, + { + "epoch": 1.9964214711729622, + "grad_norm": 9.868606567382812, + "learning_rate": 1.2591301625325263e-06, + "loss": 0.0954, + "num_input_tokens_seen": 29499272, + "step": 15063 + }, + { + "epoch": 1.9965540092776672, + "grad_norm": 1.5083472728729248, + "learning_rate": 1.2588288163763368e-06, + "loss": 0.0048, + "num_input_tokens_seen": 29500944, + "step": 15064 + }, + { + "epoch": 1.9966865473823723, + "grad_norm": 0.022500133141875267, + "learning_rate": 1.2585274941507849e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29503232, + "step": 15065 + }, + { + "epoch": 1.9968190854870775, + "grad_norm": 5.153323173522949, + "learning_rate": 1.2582261958616793e-06, + "loss": 0.0779, + "num_input_tokens_seen": 29506240, + "step": 15066 + }, + { + "epoch": 1.9969516235917828, + "grad_norm": 8.314993858337402, + "learning_rate": 1.2579249215148295e-06, + "loss": 0.1002, + "num_input_tokens_seen": 29508104, + "step": 15067 + }, + { + "epoch": 1.9970841616964878, + "grad_norm": 0.017672164365649223, + "learning_rate": 1.257623671116044e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29510288, + "step": 15068 + }, + { + "epoch": 1.9972166998011929, + "grad_norm": 7.050225734710693, + "learning_rate": 1.2573224446711302e-06, + "loss": 0.0436, + "num_input_tokens_seen": 29511936, + "step": 15069 + }, + { + "epoch": 1.997349237905898, + "grad_norm": 0.0177437886595726, + "learning_rate": 1.2570212421858968e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29514080, + "step": 15070 + }, + { + "epoch": 1.997481776010603, + "grad_norm": 7.996880531311035, + "learning_rate": 1.2567200636661525e-06, + "loss": 0.1354, + "num_input_tokens_seen": 29515600, + "step": 15071 + }, + { + "epoch": 1.997614314115308, + "grad_norm": 1.1732653379440308, + "learning_rate": 1.256418909117703e-06, + "loss": 0.0033, + "num_input_tokens_seen": 29517688, + "step": 15072 + }, + { + "epoch": 1.9977468522200132, + "grad_norm": 2.853372573852539, + "learning_rate": 1.2561177785463551e-06, + "loss": 0.1032, + "num_input_tokens_seen": 29519392, + "step": 15073 + }, + { + "epoch": 1.9978793903247185, + "grad_norm": 0.03616528958082199, + "learning_rate": 1.2558166719579135e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29520968, + "step": 15074 + }, + { + "epoch": 1.9980119284294235, + "grad_norm": 12.990983963012695, + "learning_rate": 1.2555155893581844e-06, + "loss": 0.101, + "num_input_tokens_seen": 29522328, + "step": 15075 + }, + { + "epoch": 1.9981444665341286, + "grad_norm": 8.177651405334473, + "learning_rate": 1.2552145307529744e-06, + "loss": 0.0778, + "num_input_tokens_seen": 29523648, + "step": 15076 + }, + { + "epoch": 1.9982770046388336, + "grad_norm": 9.80813980102539, + "learning_rate": 1.2549134961480869e-06, + "loss": 0.1563, + "num_input_tokens_seen": 29525496, + "step": 15077 + }, + { + "epoch": 1.9984095427435387, + "grad_norm": 5.188504219055176, + "learning_rate": 1.2546124855493264e-06, + "loss": 0.0124, + "num_input_tokens_seen": 29527768, + "step": 15078 + }, + { + "epoch": 1.998542080848244, + "grad_norm": 9.325885772705078, + "learning_rate": 1.2543114989624952e-06, + "loss": 0.1933, + "num_input_tokens_seen": 29530048, + "step": 15079 + }, + { + "epoch": 1.998674618952949, + "grad_norm": 0.05279998108744621, + "learning_rate": 1.2540105363933986e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29533176, + "step": 15080 + }, + { + "epoch": 1.9988071570576542, + "grad_norm": 0.13106754422187805, + "learning_rate": 1.2537095978478376e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29534296, + "step": 15081 + }, + { + "epoch": 1.9989396951623593, + "grad_norm": 9.442612648010254, + "learning_rate": 1.2534086833316161e-06, + "loss": 0.1579, + "num_input_tokens_seen": 29536736, + "step": 15082 + }, + { + "epoch": 1.9990722332670643, + "grad_norm": 7.0040202140808105, + "learning_rate": 1.2531077928505352e-06, + "loss": 0.1403, + "num_input_tokens_seen": 29538600, + "step": 15083 + }, + { + "epoch": 1.9992047713717693, + "grad_norm": 6.355255603790283, + "learning_rate": 1.2528069264103953e-06, + "loss": 0.0355, + "num_input_tokens_seen": 29540384, + "step": 15084 + }, + { + "epoch": 1.9993373094764744, + "grad_norm": 0.04498272016644478, + "learning_rate": 1.2525060840169994e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29542256, + "step": 15085 + }, + { + "epoch": 1.9994698475811796, + "grad_norm": 3.21889066696167, + "learning_rate": 1.2522052656761468e-06, + "loss": 0.0246, + "num_input_tokens_seen": 29544240, + "step": 15086 + }, + { + "epoch": 1.9996023856858847, + "grad_norm": 0.15578404068946838, + "learning_rate": 1.2519044713936362e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29545400, + "step": 15087 + }, + { + "epoch": 1.99973492379059, + "grad_norm": 0.052895065397024155, + "learning_rate": 1.2516037011752697e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29547640, + "step": 15088 + }, + { + "epoch": 1.999867461895295, + "grad_norm": 0.007841318845748901, + "learning_rate": 1.2513029550268448e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29549512, + "step": 15089 + }, + { + "epoch": 2.0, + "grad_norm": 0.009754818864166737, + "learning_rate": 1.2510022329541595e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29550656, + "step": 15090 + }, + { + "epoch": 2.000132538104705, + "grad_norm": 5.919904708862305, + "learning_rate": 1.2507015349630138e-06, + "loss": 0.1083, + "num_input_tokens_seen": 29552936, + "step": 15091 + }, + { + "epoch": 2.00026507620941, + "grad_norm": 4.115756511688232, + "learning_rate": 1.2504008610592044e-06, + "loss": 0.0574, + "num_input_tokens_seen": 29554888, + "step": 15092 + }, + { + "epoch": 2.000397614314115, + "grad_norm": 0.02611556090414524, + "learning_rate": 1.2501002112485272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29556392, + "step": 15093 + }, + { + "epoch": 2.0005301524188206, + "grad_norm": 1.6775933504104614, + "learning_rate": 1.2497995855367815e-06, + "loss": 0.0267, + "num_input_tokens_seen": 29558520, + "step": 15094 + }, + { + "epoch": 2.0006626905235256, + "grad_norm": 6.486643314361572, + "learning_rate": 1.249498983929761e-06, + "loss": 0.0855, + "num_input_tokens_seen": 29561528, + "step": 15095 + }, + { + "epoch": 2.0007952286282307, + "grad_norm": 20.230329513549805, + "learning_rate": 1.2491984064332641e-06, + "loss": 0.342, + "num_input_tokens_seen": 29564856, + "step": 15096 + }, + { + "epoch": 2.0009277667329357, + "grad_norm": 3.673888683319092, + "learning_rate": 1.2488978530530846e-06, + "loss": 0.0249, + "num_input_tokens_seen": 29566744, + "step": 15097 + }, + { + "epoch": 2.0010603048376407, + "grad_norm": 0.041721418499946594, + "learning_rate": 1.2485973237950166e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29569040, + "step": 15098 + }, + { + "epoch": 2.001192842942346, + "grad_norm": 4.339807510375977, + "learning_rate": 1.2482968186648564e-06, + "loss": 0.0357, + "num_input_tokens_seen": 29570504, + "step": 15099 + }, + { + "epoch": 2.001325381047051, + "grad_norm": 0.12106949090957642, + "learning_rate": 1.2479963376683961e-06, + "loss": 0.0016, + "num_input_tokens_seen": 29572128, + "step": 15100 + }, + { + "epoch": 2.0014579191517563, + "grad_norm": 0.1160544604063034, + "learning_rate": 1.2476958808114311e-06, + "loss": 0.0008, + "num_input_tokens_seen": 29573536, + "step": 15101 + }, + { + "epoch": 2.0015904572564613, + "grad_norm": 6.40834379196167, + "learning_rate": 1.2473954480997535e-06, + "loss": 0.0735, + "num_input_tokens_seen": 29575272, + "step": 15102 + }, + { + "epoch": 2.0017229953611664, + "grad_norm": 3.791527271270752, + "learning_rate": 1.247095039539156e-06, + "loss": 0.0761, + "num_input_tokens_seen": 29577560, + "step": 15103 + }, + { + "epoch": 2.0018555334658714, + "grad_norm": 7.423145771026611, + "learning_rate": 1.2467946551354292e-06, + "loss": 0.0704, + "num_input_tokens_seen": 29579320, + "step": 15104 + }, + { + "epoch": 2.0019880715705765, + "grad_norm": 0.035152118653059006, + "learning_rate": 1.2464942948943659e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29581824, + "step": 15105 + }, + { + "epoch": 2.0021206096752815, + "grad_norm": 3.599280834197998, + "learning_rate": 1.2461939588217587e-06, + "loss": 0.0434, + "num_input_tokens_seen": 29584464, + "step": 15106 + }, + { + "epoch": 2.0022531477799865, + "grad_norm": 0.05427742376923561, + "learning_rate": 1.2458936469233964e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29586088, + "step": 15107 + }, + { + "epoch": 2.002385685884692, + "grad_norm": 12.067769050598145, + "learning_rate": 1.2455933592050704e-06, + "loss": 0.0512, + "num_input_tokens_seen": 29587672, + "step": 15108 + }, + { + "epoch": 2.002518223989397, + "grad_norm": 0.18524309992790222, + "learning_rate": 1.2452930956725692e-06, + "loss": 0.0016, + "num_input_tokens_seen": 29589080, + "step": 15109 + }, + { + "epoch": 2.002650762094102, + "grad_norm": 0.008161114528775215, + "learning_rate": 1.244992856331682e-06, + "loss": 0.0, + "num_input_tokens_seen": 29590432, + "step": 15110 + }, + { + "epoch": 2.002783300198807, + "grad_norm": 0.12214435636997223, + "learning_rate": 1.2446926411881984e-06, + "loss": 0.0011, + "num_input_tokens_seen": 29592240, + "step": 15111 + }, + { + "epoch": 2.002915838303512, + "grad_norm": 6.472517967224121, + "learning_rate": 1.2443924502479077e-06, + "loss": 0.1308, + "num_input_tokens_seen": 29594880, + "step": 15112 + }, + { + "epoch": 2.003048376408217, + "grad_norm": 0.4883570671081543, + "learning_rate": 1.2440922835165964e-06, + "loss": 0.0046, + "num_input_tokens_seen": 29596896, + "step": 15113 + }, + { + "epoch": 2.0031809145129227, + "grad_norm": 3.0127828121185303, + "learning_rate": 1.2437921410000525e-06, + "loss": 0.0507, + "num_input_tokens_seen": 29599512, + "step": 15114 + }, + { + "epoch": 2.0033134526176277, + "grad_norm": 9.517441749572754, + "learning_rate": 1.2434920227040617e-06, + "loss": 0.1389, + "num_input_tokens_seen": 29601368, + "step": 15115 + }, + { + "epoch": 2.0034459907223328, + "grad_norm": 2.953688144683838, + "learning_rate": 1.2431919286344126e-06, + "loss": 0.0378, + "num_input_tokens_seen": 29602944, + "step": 15116 + }, + { + "epoch": 2.003578528827038, + "grad_norm": 0.25521379709243774, + "learning_rate": 1.2428918587968891e-06, + "loss": 0.0021, + "num_input_tokens_seen": 29604312, + "step": 15117 + }, + { + "epoch": 2.003711066931743, + "grad_norm": 7.0436015129089355, + "learning_rate": 1.2425918131972789e-06, + "loss": 0.0587, + "num_input_tokens_seen": 29605992, + "step": 15118 + }, + { + "epoch": 2.003843605036448, + "grad_norm": 0.0047504594549536705, + "learning_rate": 1.2422917918413658e-06, + "loss": 0.0, + "num_input_tokens_seen": 29607248, + "step": 15119 + }, + { + "epoch": 2.003976143141153, + "grad_norm": 0.08487773686647415, + "learning_rate": 1.2419917947349347e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29608984, + "step": 15120 + }, + { + "epoch": 2.0041086812458584, + "grad_norm": 1.627276062965393, + "learning_rate": 1.2416918218837683e-06, + "loss": 0.012, + "num_input_tokens_seen": 29611736, + "step": 15121 + }, + { + "epoch": 2.0042412193505634, + "grad_norm": 5.123021125793457, + "learning_rate": 1.2413918732936531e-06, + "loss": 0.1271, + "num_input_tokens_seen": 29613368, + "step": 15122 + }, + { + "epoch": 2.0043737574552685, + "grad_norm": 2.0752036571502686, + "learning_rate": 1.24109194897037e-06, + "loss": 0.0386, + "num_input_tokens_seen": 29615496, + "step": 15123 + }, + { + "epoch": 2.0045062955599735, + "grad_norm": 5.433506011962891, + "learning_rate": 1.240792048919703e-06, + "loss": 0.0739, + "num_input_tokens_seen": 29617728, + "step": 15124 + }, + { + "epoch": 2.0046388336646785, + "grad_norm": 0.01832788623869419, + "learning_rate": 1.2404921731474345e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29621160, + "step": 15125 + }, + { + "epoch": 2.0047713717693836, + "grad_norm": 0.01260112039744854, + "learning_rate": 1.2401923216593444e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29623032, + "step": 15126 + }, + { + "epoch": 2.0049039098740886, + "grad_norm": 0.840470552444458, + "learning_rate": 1.2398924944612167e-06, + "loss": 0.011, + "num_input_tokens_seen": 29624856, + "step": 15127 + }, + { + "epoch": 2.005036447978794, + "grad_norm": 0.4741806089878082, + "learning_rate": 1.23959269155883e-06, + "loss": 0.003, + "num_input_tokens_seen": 29626432, + "step": 15128 + }, + { + "epoch": 2.005168986083499, + "grad_norm": 10.055848121643066, + "learning_rate": 1.2392929129579668e-06, + "loss": 0.086, + "num_input_tokens_seen": 29629224, + "step": 15129 + }, + { + "epoch": 2.005301524188204, + "grad_norm": 5.045922756195068, + "learning_rate": 1.2389931586644055e-06, + "loss": 0.0784, + "num_input_tokens_seen": 29631120, + "step": 15130 + }, + { + "epoch": 2.005434062292909, + "grad_norm": 0.01161034032702446, + "learning_rate": 1.2386934286839255e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29632512, + "step": 15131 + }, + { + "epoch": 2.0055666003976143, + "grad_norm": 0.11529643088579178, + "learning_rate": 1.238393723022307e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29634728, + "step": 15132 + }, + { + "epoch": 2.0056991385023193, + "grad_norm": 4.420339107513428, + "learning_rate": 1.2380940416853281e-06, + "loss": 0.0503, + "num_input_tokens_seen": 29636776, + "step": 15133 + }, + { + "epoch": 2.0058316766070243, + "grad_norm": 0.012172609567642212, + "learning_rate": 1.2377943846787654e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29639592, + "step": 15134 + }, + { + "epoch": 2.00596421471173, + "grad_norm": 1.3013160228729248, + "learning_rate": 1.237494752008399e-06, + "loss": 0.0107, + "num_input_tokens_seen": 29641176, + "step": 15135 + }, + { + "epoch": 2.006096752816435, + "grad_norm": 0.016934173181653023, + "learning_rate": 1.2371951436800036e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29642672, + "step": 15136 + }, + { + "epoch": 2.00622929092114, + "grad_norm": 13.0425386428833, + "learning_rate": 1.2368955596993579e-06, + "loss": 0.215, + "num_input_tokens_seen": 29644856, + "step": 15137 + }, + { + "epoch": 2.006361829025845, + "grad_norm": 0.5551536679267883, + "learning_rate": 1.2365960000722373e-06, + "loss": 0.003, + "num_input_tokens_seen": 29648072, + "step": 15138 + }, + { + "epoch": 2.00649436713055, + "grad_norm": 0.7830763459205627, + "learning_rate": 1.2362964648044172e-06, + "loss": 0.0058, + "num_input_tokens_seen": 29649560, + "step": 15139 + }, + { + "epoch": 2.006626905235255, + "grad_norm": 3.7863247394561768, + "learning_rate": 1.2359969539016723e-06, + "loss": 0.0881, + "num_input_tokens_seen": 29651840, + "step": 15140 + }, + { + "epoch": 2.00675944333996, + "grad_norm": 0.06023525074124336, + "learning_rate": 1.235697467369778e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29653584, + "step": 15141 + }, + { + "epoch": 2.0068919814446655, + "grad_norm": 0.13295461237430573, + "learning_rate": 1.2353980052145097e-06, + "loss": 0.0009, + "num_input_tokens_seen": 29654976, + "step": 15142 + }, + { + "epoch": 2.0070245195493706, + "grad_norm": 5.31843900680542, + "learning_rate": 1.2350985674416405e-06, + "loss": 0.0438, + "num_input_tokens_seen": 29657848, + "step": 15143 + }, + { + "epoch": 2.0071570576540756, + "grad_norm": 1.993880033493042, + "learning_rate": 1.2347991540569432e-06, + "loss": 0.0147, + "num_input_tokens_seen": 29659848, + "step": 15144 + }, + { + "epoch": 2.0072895957587806, + "grad_norm": 5.006574630737305, + "learning_rate": 1.234499765066191e-06, + "loss": 0.0817, + "num_input_tokens_seen": 29661752, + "step": 15145 + }, + { + "epoch": 2.0074221338634857, + "grad_norm": 0.037379782646894455, + "learning_rate": 1.2342004004751556e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29663624, + "step": 15146 + }, + { + "epoch": 2.0075546719681907, + "grad_norm": 11.495149612426758, + "learning_rate": 1.2339010602896099e-06, + "loss": 0.2195, + "num_input_tokens_seen": 29665784, + "step": 15147 + }, + { + "epoch": 2.0076872100728957, + "grad_norm": 0.45331811904907227, + "learning_rate": 1.2336017445153259e-06, + "loss": 0.004, + "num_input_tokens_seen": 29667904, + "step": 15148 + }, + { + "epoch": 2.0078197481776012, + "grad_norm": 0.0663229376077652, + "learning_rate": 1.2333024531580737e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29669104, + "step": 15149 + }, + { + "epoch": 2.0079522862823063, + "grad_norm": 0.05696311593055725, + "learning_rate": 1.2330031862236243e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29671192, + "step": 15150 + }, + { + "epoch": 2.0080848243870113, + "grad_norm": 4.318670749664307, + "learning_rate": 1.2327039437177466e-06, + "loss": 0.084, + "num_input_tokens_seen": 29673240, + "step": 15151 + }, + { + "epoch": 2.0082173624917163, + "grad_norm": 6.141419887542725, + "learning_rate": 1.232404725646211e-06, + "loss": 0.1721, + "num_input_tokens_seen": 29676536, + "step": 15152 + }, + { + "epoch": 2.0083499005964214, + "grad_norm": 7.464241027832031, + "learning_rate": 1.232105532014788e-06, + "loss": 0.1398, + "num_input_tokens_seen": 29679320, + "step": 15153 + }, + { + "epoch": 2.0084824387011264, + "grad_norm": 6.127373218536377, + "learning_rate": 1.2318063628292446e-06, + "loss": 0.1356, + "num_input_tokens_seen": 29681480, + "step": 15154 + }, + { + "epoch": 2.008614976805832, + "grad_norm": 1.2671122550964355, + "learning_rate": 1.2315072180953498e-06, + "loss": 0.005, + "num_input_tokens_seen": 29682904, + "step": 15155 + }, + { + "epoch": 2.008747514910537, + "grad_norm": 2.4507052898406982, + "learning_rate": 1.2312080978188706e-06, + "loss": 0.0517, + "num_input_tokens_seen": 29684504, + "step": 15156 + }, + { + "epoch": 2.008880053015242, + "grad_norm": 6.647762775421143, + "learning_rate": 1.2309090020055737e-06, + "loss": 0.1557, + "num_input_tokens_seen": 29686880, + "step": 15157 + }, + { + "epoch": 2.009012591119947, + "grad_norm": 2.059262275695801, + "learning_rate": 1.2306099306612269e-06, + "loss": 0.0223, + "num_input_tokens_seen": 29688896, + "step": 15158 + }, + { + "epoch": 2.009145129224652, + "grad_norm": 9.299222946166992, + "learning_rate": 1.230310883791597e-06, + "loss": 0.0602, + "num_input_tokens_seen": 29690840, + "step": 15159 + }, + { + "epoch": 2.009277667329357, + "grad_norm": 0.022173378616571426, + "learning_rate": 1.2300118614024495e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29692296, + "step": 15160 + }, + { + "epoch": 2.009410205434062, + "grad_norm": 1.4448367357254028, + "learning_rate": 1.2297128634995491e-06, + "loss": 0.0052, + "num_input_tokens_seen": 29695232, + "step": 15161 + }, + { + "epoch": 2.0095427435387676, + "grad_norm": 0.004576769657433033, + "learning_rate": 1.2294138900886604e-06, + "loss": 0.0, + "num_input_tokens_seen": 29696816, + "step": 15162 + }, + { + "epoch": 2.0096752816434726, + "grad_norm": 0.49271130561828613, + "learning_rate": 1.2291149411755494e-06, + "loss": 0.0027, + "num_input_tokens_seen": 29698840, + "step": 15163 + }, + { + "epoch": 2.0098078197481777, + "grad_norm": 2.2824604511260986, + "learning_rate": 1.2288160167659777e-06, + "loss": 0.0253, + "num_input_tokens_seen": 29701192, + "step": 15164 + }, + { + "epoch": 2.0099403578528827, + "grad_norm": 0.44211632013320923, + "learning_rate": 1.2285171168657115e-06, + "loss": 0.0034, + "num_input_tokens_seen": 29703864, + "step": 15165 + }, + { + "epoch": 2.0100728959575878, + "grad_norm": 0.0071510993875563145, + "learning_rate": 1.2282182414805122e-06, + "loss": 0.0, + "num_input_tokens_seen": 29705888, + "step": 15166 + }, + { + "epoch": 2.010205434062293, + "grad_norm": 0.02814430743455887, + "learning_rate": 1.2279193906161419e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29707912, + "step": 15167 + }, + { + "epoch": 2.010337972166998, + "grad_norm": 1.4974178075790405, + "learning_rate": 1.227620564278364e-06, + "loss": 0.0208, + "num_input_tokens_seen": 29709648, + "step": 15168 + }, + { + "epoch": 2.0104705102717033, + "grad_norm": 3.9743356704711914, + "learning_rate": 1.2273217624729394e-06, + "loss": 0.0344, + "num_input_tokens_seen": 29711232, + "step": 15169 + }, + { + "epoch": 2.0106030483764084, + "grad_norm": 0.022412829101085663, + "learning_rate": 1.2270229852056282e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29712976, + "step": 15170 + }, + { + "epoch": 2.0107355864811134, + "grad_norm": 0.027235014364123344, + "learning_rate": 1.2267242324821933e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29714584, + "step": 15171 + }, + { + "epoch": 2.0108681245858184, + "grad_norm": 5.773441314697266, + "learning_rate": 1.2264255043083922e-06, + "loss": 0.0932, + "num_input_tokens_seen": 29716632, + "step": 15172 + }, + { + "epoch": 2.0110006626905235, + "grad_norm": 3.4036712646484375, + "learning_rate": 1.2261268006899871e-06, + "loss": 0.0605, + "num_input_tokens_seen": 29719256, + "step": 15173 + }, + { + "epoch": 2.0111332007952285, + "grad_norm": 6.906212329864502, + "learning_rate": 1.2258281216327362e-06, + "loss": 0.0501, + "num_input_tokens_seen": 29721216, + "step": 15174 + }, + { + "epoch": 2.0112657388999335, + "grad_norm": 0.5139371156692505, + "learning_rate": 1.2255294671423981e-06, + "loss": 0.0034, + "num_input_tokens_seen": 29722312, + "step": 15175 + }, + { + "epoch": 2.011398277004639, + "grad_norm": 7.2212324142456055, + "learning_rate": 1.2252308372247302e-06, + "loss": 0.1799, + "num_input_tokens_seen": 29724480, + "step": 15176 + }, + { + "epoch": 2.011530815109344, + "grad_norm": 0.012958239763975143, + "learning_rate": 1.2249322318854917e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29725984, + "step": 15177 + }, + { + "epoch": 2.011663353214049, + "grad_norm": 0.0588473379611969, + "learning_rate": 1.2246336511304387e-06, + "loss": 0.0007, + "num_input_tokens_seen": 29727384, + "step": 15178 + }, + { + "epoch": 2.011795891318754, + "grad_norm": 4.8784332275390625, + "learning_rate": 1.22433509496533e-06, + "loss": 0.083, + "num_input_tokens_seen": 29729664, + "step": 15179 + }, + { + "epoch": 2.011928429423459, + "grad_norm": 1.375204086303711, + "learning_rate": 1.2240365633959204e-06, + "loss": 0.0118, + "num_input_tokens_seen": 29731392, + "step": 15180 + }, + { + "epoch": 2.012060967528164, + "grad_norm": 4.534610748291016, + "learning_rate": 1.2237380564279653e-06, + "loss": 0.0186, + "num_input_tokens_seen": 29733168, + "step": 15181 + }, + { + "epoch": 2.0121935056328693, + "grad_norm": 3.7775685787200928, + "learning_rate": 1.2234395740672214e-06, + "loss": 0.0965, + "num_input_tokens_seen": 29735376, + "step": 15182 + }, + { + "epoch": 2.0123260437375747, + "grad_norm": 0.049699317663908005, + "learning_rate": 1.2231411163194427e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29736832, + "step": 15183 + }, + { + "epoch": 2.0124585818422798, + "grad_norm": 0.007601501420140266, + "learning_rate": 1.222842683190385e-06, + "loss": 0.0, + "num_input_tokens_seen": 29738048, + "step": 15184 + }, + { + "epoch": 2.012591119946985, + "grad_norm": 0.006033395882695913, + "learning_rate": 1.2225442746858013e-06, + "loss": 0.0, + "num_input_tokens_seen": 29740464, + "step": 15185 + }, + { + "epoch": 2.01272365805169, + "grad_norm": 0.007894371636211872, + "learning_rate": 1.2222458908114454e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29741992, + "step": 15186 + }, + { + "epoch": 2.012856196156395, + "grad_norm": 5.792721271514893, + "learning_rate": 1.221947531573069e-06, + "loss": 0.0975, + "num_input_tokens_seen": 29743776, + "step": 15187 + }, + { + "epoch": 2.0129887342611, + "grad_norm": 0.027021728456020355, + "learning_rate": 1.2216491969764264e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29746424, + "step": 15188 + }, + { + "epoch": 2.013121272365805, + "grad_norm": 2.9402287006378174, + "learning_rate": 1.2213508870272697e-06, + "loss": 0.0246, + "num_input_tokens_seen": 29747968, + "step": 15189 + }, + { + "epoch": 2.0132538104705104, + "grad_norm": 0.02559376321732998, + "learning_rate": 1.22105260173135e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29749696, + "step": 15190 + }, + { + "epoch": 2.0133863485752155, + "grad_norm": 8.399367332458496, + "learning_rate": 1.2207543410944187e-06, + "loss": 0.0762, + "num_input_tokens_seen": 29752280, + "step": 15191 + }, + { + "epoch": 2.0135188866799205, + "grad_norm": 0.15359823405742645, + "learning_rate": 1.2204561051222257e-06, + "loss": 0.0016, + "num_input_tokens_seen": 29754736, + "step": 15192 + }, + { + "epoch": 2.0136514247846256, + "grad_norm": 0.07110943645238876, + "learning_rate": 1.2201578938205213e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29756904, + "step": 15193 + }, + { + "epoch": 2.0137839628893306, + "grad_norm": 2.5328383445739746, + "learning_rate": 1.2198597071950554e-06, + "loss": 0.0143, + "num_input_tokens_seen": 29758304, + "step": 15194 + }, + { + "epoch": 2.0139165009940356, + "grad_norm": 0.02865474298596382, + "learning_rate": 1.2195615452515786e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29759600, + "step": 15195 + }, + { + "epoch": 2.0140490390987407, + "grad_norm": 4.0343828201293945, + "learning_rate": 1.2192634079958383e-06, + "loss": 0.0431, + "num_input_tokens_seen": 29762208, + "step": 15196 + }, + { + "epoch": 2.014181577203446, + "grad_norm": 0.005436458624899387, + "learning_rate": 1.2189652954335831e-06, + "loss": 0.0, + "num_input_tokens_seen": 29764696, + "step": 15197 + }, + { + "epoch": 2.014314115308151, + "grad_norm": 6.861377716064453, + "learning_rate": 1.2186672075705597e-06, + "loss": 0.1206, + "num_input_tokens_seen": 29767304, + "step": 15198 + }, + { + "epoch": 2.0144466534128562, + "grad_norm": 0.002730043139308691, + "learning_rate": 1.2183691444125175e-06, + "loss": 0.0, + "num_input_tokens_seen": 29768368, + "step": 15199 + }, + { + "epoch": 2.0145791915175613, + "grad_norm": 2.558640480041504, + "learning_rate": 1.2180711059652014e-06, + "loss": 0.0122, + "num_input_tokens_seen": 29770232, + "step": 15200 + }, + { + "epoch": 2.0147117296222663, + "grad_norm": 7.908247470855713, + "learning_rate": 1.2177730922343596e-06, + "loss": 0.0613, + "num_input_tokens_seen": 29772016, + "step": 15201 + }, + { + "epoch": 2.0148442677269713, + "grad_norm": 4.929527759552002, + "learning_rate": 1.2174751032257377e-06, + "loss": 0.1274, + "num_input_tokens_seen": 29773888, + "step": 15202 + }, + { + "epoch": 2.014976805831677, + "grad_norm": 0.01971244625747204, + "learning_rate": 1.217177138945079e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29776472, + "step": 15203 + }, + { + "epoch": 2.015109343936382, + "grad_norm": 0.012376708909869194, + "learning_rate": 1.216879199398131e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29778960, + "step": 15204 + }, + { + "epoch": 2.015241882041087, + "grad_norm": 3.049663543701172, + "learning_rate": 1.2165812845906367e-06, + "loss": 0.0538, + "num_input_tokens_seen": 29780928, + "step": 15205 + }, + { + "epoch": 2.015374420145792, + "grad_norm": 2.2577626705169678, + "learning_rate": 1.2162833945283413e-06, + "loss": 0.0196, + "num_input_tokens_seen": 29783616, + "step": 15206 + }, + { + "epoch": 2.015506958250497, + "grad_norm": 0.9467397928237915, + "learning_rate": 1.2159855292169876e-06, + "loss": 0.0059, + "num_input_tokens_seen": 29785344, + "step": 15207 + }, + { + "epoch": 2.015639496355202, + "grad_norm": 0.0121595598757267, + "learning_rate": 1.2156876886623187e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29786688, + "step": 15208 + }, + { + "epoch": 2.015772034459907, + "grad_norm": 4.222128868103027, + "learning_rate": 1.215389872870076e-06, + "loss": 0.0808, + "num_input_tokens_seen": 29788960, + "step": 15209 + }, + { + "epoch": 2.0159045725646125, + "grad_norm": 0.03825254738330841, + "learning_rate": 1.215092081846004e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29790944, + "step": 15210 + }, + { + "epoch": 2.0160371106693176, + "grad_norm": 5.104211330413818, + "learning_rate": 1.2147943155958422e-06, + "loss": 0.1107, + "num_input_tokens_seen": 29792952, + "step": 15211 + }, + { + "epoch": 2.0161696487740226, + "grad_norm": 0.14616405963897705, + "learning_rate": 1.2144965741253334e-06, + "loss": 0.0013, + "num_input_tokens_seen": 29794592, + "step": 15212 + }, + { + "epoch": 2.0163021868787276, + "grad_norm": 7.3096418380737305, + "learning_rate": 1.2141988574402176e-06, + "loss": 0.2027, + "num_input_tokens_seen": 29796712, + "step": 15213 + }, + { + "epoch": 2.0164347249834327, + "grad_norm": 0.05767657235264778, + "learning_rate": 1.2139011655462338e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29798760, + "step": 15214 + }, + { + "epoch": 2.0165672630881377, + "grad_norm": 0.0084043825045228, + "learning_rate": 1.2136034984491239e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29800232, + "step": 15215 + }, + { + "epoch": 2.0166998011928428, + "grad_norm": 1.687228798866272, + "learning_rate": 1.2133058561546256e-06, + "loss": 0.0072, + "num_input_tokens_seen": 29802072, + "step": 15216 + }, + { + "epoch": 2.0168323392975482, + "grad_norm": 5.91296911239624, + "learning_rate": 1.2130082386684774e-06, + "loss": 0.0874, + "num_input_tokens_seen": 29804128, + "step": 15217 + }, + { + "epoch": 2.0169648774022533, + "grad_norm": 1.568162202835083, + "learning_rate": 1.212710645996419e-06, + "loss": 0.0155, + "num_input_tokens_seen": 29806688, + "step": 15218 + }, + { + "epoch": 2.0170974155069583, + "grad_norm": 0.6029535531997681, + "learning_rate": 1.2124130781441866e-06, + "loss": 0.0062, + "num_input_tokens_seen": 29807960, + "step": 15219 + }, + { + "epoch": 2.0172299536116634, + "grad_norm": 0.06386114656925201, + "learning_rate": 1.2121155351175192e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29809432, + "step": 15220 + }, + { + "epoch": 2.0173624917163684, + "grad_norm": 1.3042752742767334, + "learning_rate": 1.2118180169221528e-06, + "loss": 0.0114, + "num_input_tokens_seen": 29810968, + "step": 15221 + }, + { + "epoch": 2.0174950298210734, + "grad_norm": 0.684651792049408, + "learning_rate": 1.2115205235638236e-06, + "loss": 0.0041, + "num_input_tokens_seen": 29813104, + "step": 15222 + }, + { + "epoch": 2.0176275679257785, + "grad_norm": 0.15129369497299194, + "learning_rate": 1.2112230550482667e-06, + "loss": 0.0012, + "num_input_tokens_seen": 29815968, + "step": 15223 + }, + { + "epoch": 2.017760106030484, + "grad_norm": 4.362415790557861, + "learning_rate": 1.2109256113812184e-06, + "loss": 0.1207, + "num_input_tokens_seen": 29818456, + "step": 15224 + }, + { + "epoch": 2.017892644135189, + "grad_norm": 0.029975976794958115, + "learning_rate": 1.2106281925684143e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29821184, + "step": 15225 + }, + { + "epoch": 2.018025182239894, + "grad_norm": 0.04778642579913139, + "learning_rate": 1.2103307986155886e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29822928, + "step": 15226 + }, + { + "epoch": 2.018157720344599, + "grad_norm": 8.91598129272461, + "learning_rate": 1.2100334295284743e-06, + "loss": 0.1414, + "num_input_tokens_seen": 29824496, + "step": 15227 + }, + { + "epoch": 2.018290258449304, + "grad_norm": 3.7696890830993652, + "learning_rate": 1.2097360853128056e-06, + "loss": 0.0197, + "num_input_tokens_seen": 29826248, + "step": 15228 + }, + { + "epoch": 2.018422796554009, + "grad_norm": 1.7981632947921753, + "learning_rate": 1.2094387659743146e-06, + "loss": 0.0167, + "num_input_tokens_seen": 29827568, + "step": 15229 + }, + { + "epoch": 2.018555334658714, + "grad_norm": 0.0281238816678524, + "learning_rate": 1.2091414715187342e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29829200, + "step": 15230 + }, + { + "epoch": 2.0186878727634197, + "grad_norm": 7.779087066650391, + "learning_rate": 1.208844201951798e-06, + "loss": 0.0916, + "num_input_tokens_seen": 29831248, + "step": 15231 + }, + { + "epoch": 2.0188204108681247, + "grad_norm": 0.7851071953773499, + "learning_rate": 1.2085469572792358e-06, + "loss": 0.0051, + "num_input_tokens_seen": 29833504, + "step": 15232 + }, + { + "epoch": 2.0189529489728297, + "grad_norm": 3.720806837081909, + "learning_rate": 1.2082497375067794e-06, + "loss": 0.0078, + "num_input_tokens_seen": 29835680, + "step": 15233 + }, + { + "epoch": 2.0190854870775348, + "grad_norm": 9.002038955688477, + "learning_rate": 1.2079525426401584e-06, + "loss": 0.0302, + "num_input_tokens_seen": 29837360, + "step": 15234 + }, + { + "epoch": 2.01921802518224, + "grad_norm": 0.008532645180821419, + "learning_rate": 1.2076553726851037e-06, + "loss": 0.0, + "num_input_tokens_seen": 29838520, + "step": 15235 + }, + { + "epoch": 2.019350563286945, + "grad_norm": 1.1136425733566284, + "learning_rate": 1.2073582276473458e-06, + "loss": 0.0268, + "num_input_tokens_seen": 29840016, + "step": 15236 + }, + { + "epoch": 2.01948310139165, + "grad_norm": 0.3532464802265167, + "learning_rate": 1.207061107532613e-06, + "loss": 0.003, + "num_input_tokens_seen": 29842464, + "step": 15237 + }, + { + "epoch": 2.0196156394963554, + "grad_norm": 0.44632378220558167, + "learning_rate": 1.206764012346634e-06, + "loss": 0.001, + "num_input_tokens_seen": 29843464, + "step": 15238 + }, + { + "epoch": 2.0197481776010604, + "grad_norm": 0.03249475359916687, + "learning_rate": 1.2064669420951372e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29844944, + "step": 15239 + }, + { + "epoch": 2.0198807157057654, + "grad_norm": 0.2376423329114914, + "learning_rate": 1.206169896783849e-06, + "loss": 0.0012, + "num_input_tokens_seen": 29846344, + "step": 15240 + }, + { + "epoch": 2.0200132538104705, + "grad_norm": 6.868544101715088, + "learning_rate": 1.2058728764184976e-06, + "loss": 0.0905, + "num_input_tokens_seen": 29848288, + "step": 15241 + }, + { + "epoch": 2.0201457919151755, + "grad_norm": 1.6024513244628906, + "learning_rate": 1.2055758810048112e-06, + "loss": 0.0185, + "num_input_tokens_seen": 29850584, + "step": 15242 + }, + { + "epoch": 2.0202783300198806, + "grad_norm": 21.54218292236328, + "learning_rate": 1.2052789105485147e-06, + "loss": 0.1268, + "num_input_tokens_seen": 29852320, + "step": 15243 + }, + { + "epoch": 2.020410868124586, + "grad_norm": 7.852740287780762, + "learning_rate": 1.2049819650553337e-06, + "loss": 0.1137, + "num_input_tokens_seen": 29854552, + "step": 15244 + }, + { + "epoch": 2.020543406229291, + "grad_norm": 0.07821565121412277, + "learning_rate": 1.2046850445309931e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29856416, + "step": 15245 + }, + { + "epoch": 2.020675944333996, + "grad_norm": 0.07747553288936615, + "learning_rate": 1.2043881489812195e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29857760, + "step": 15246 + }, + { + "epoch": 2.020808482438701, + "grad_norm": 7.670420169830322, + "learning_rate": 1.204091278411735e-06, + "loss": 0.1363, + "num_input_tokens_seen": 29859568, + "step": 15247 + }, + { + "epoch": 2.020941020543406, + "grad_norm": 1.9448819160461426, + "learning_rate": 1.2037944328282658e-06, + "loss": 0.0176, + "num_input_tokens_seen": 29862856, + "step": 15248 + }, + { + "epoch": 2.0210735586481112, + "grad_norm": 4.692911624908447, + "learning_rate": 1.2034976122365342e-06, + "loss": 0.0864, + "num_input_tokens_seen": 29864464, + "step": 15249 + }, + { + "epoch": 2.0212060967528163, + "grad_norm": 2.484718084335327, + "learning_rate": 1.2032008166422619e-06, + "loss": 0.0264, + "num_input_tokens_seen": 29866120, + "step": 15250 + }, + { + "epoch": 2.0213386348575217, + "grad_norm": 0.4270928204059601, + "learning_rate": 1.202904046051173e-06, + "loss": 0.0013, + "num_input_tokens_seen": 29868520, + "step": 15251 + }, + { + "epoch": 2.021471172962227, + "grad_norm": 0.013615209609270096, + "learning_rate": 1.2026073004689898e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29870120, + "step": 15252 + }, + { + "epoch": 2.021603711066932, + "grad_norm": 0.7138726711273193, + "learning_rate": 1.2023105799014312e-06, + "loss": 0.0064, + "num_input_tokens_seen": 29872192, + "step": 15253 + }, + { + "epoch": 2.021736249171637, + "grad_norm": 0.44421058893203735, + "learning_rate": 1.2020138843542212e-06, + "loss": 0.0031, + "num_input_tokens_seen": 29874232, + "step": 15254 + }, + { + "epoch": 2.021868787276342, + "grad_norm": 2.6380679607391357, + "learning_rate": 1.201717213833078e-06, + "loss": 0.0705, + "num_input_tokens_seen": 29876648, + "step": 15255 + }, + { + "epoch": 2.022001325381047, + "grad_norm": 1.0653774738311768, + "learning_rate": 1.2014205683437233e-06, + "loss": 0.0068, + "num_input_tokens_seen": 29878928, + "step": 15256 + }, + { + "epoch": 2.022133863485752, + "grad_norm": 0.010241253301501274, + "learning_rate": 1.201123947891876e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29880376, + "step": 15257 + }, + { + "epoch": 2.0222664015904575, + "grad_norm": 0.19768106937408447, + "learning_rate": 1.200827352483254e-06, + "loss": 0.001, + "num_input_tokens_seen": 29882480, + "step": 15258 + }, + { + "epoch": 2.0223989396951625, + "grad_norm": 4.946951389312744, + "learning_rate": 1.200530782123578e-06, + "loss": 0.0185, + "num_input_tokens_seen": 29885456, + "step": 15259 + }, + { + "epoch": 2.0225314777998675, + "grad_norm": 0.0911523774266243, + "learning_rate": 1.2002342368185638e-06, + "loss": 0.0004, + "num_input_tokens_seen": 29887768, + "step": 15260 + }, + { + "epoch": 2.0226640159045726, + "grad_norm": 2.6283979415893555, + "learning_rate": 1.1999377165739313e-06, + "loss": 0.0332, + "num_input_tokens_seen": 29890248, + "step": 15261 + }, + { + "epoch": 2.0227965540092776, + "grad_norm": 0.0077752284705638885, + "learning_rate": 1.1996412213953965e-06, + "loss": 0.0, + "num_input_tokens_seen": 29893032, + "step": 15262 + }, + { + "epoch": 2.0229290921139826, + "grad_norm": 7.464926719665527, + "learning_rate": 1.1993447512886762e-06, + "loss": 0.106, + "num_input_tokens_seen": 29895488, + "step": 15263 + }, + { + "epoch": 2.0230616302186877, + "grad_norm": 1.0570793151855469, + "learning_rate": 1.199048306259485e-06, + "loss": 0.0046, + "num_input_tokens_seen": 29897672, + "step": 15264 + }, + { + "epoch": 2.023194168323393, + "grad_norm": 7.703364372253418, + "learning_rate": 1.1987518863135411e-06, + "loss": 0.1396, + "num_input_tokens_seen": 29899144, + "step": 15265 + }, + { + "epoch": 2.023326706428098, + "grad_norm": 7.377545356750488, + "learning_rate": 1.1984554914565574e-06, + "loss": 0.0811, + "num_input_tokens_seen": 29901024, + "step": 15266 + }, + { + "epoch": 2.0234592445328032, + "grad_norm": 2.522902488708496, + "learning_rate": 1.198159121694251e-06, + "loss": 0.0191, + "num_input_tokens_seen": 29902280, + "step": 15267 + }, + { + "epoch": 2.0235917826375083, + "grad_norm": 0.2588520050048828, + "learning_rate": 1.1978627770323346e-06, + "loss": 0.0017, + "num_input_tokens_seen": 29904928, + "step": 15268 + }, + { + "epoch": 2.0237243207422133, + "grad_norm": 3.2792465686798096, + "learning_rate": 1.1975664574765223e-06, + "loss": 0.0315, + "num_input_tokens_seen": 29906792, + "step": 15269 + }, + { + "epoch": 2.0238568588469183, + "grad_norm": 2.2357795238494873, + "learning_rate": 1.1972701630325259e-06, + "loss": 0.0241, + "num_input_tokens_seen": 29908608, + "step": 15270 + }, + { + "epoch": 2.0239893969516234, + "grad_norm": 4.498013019561768, + "learning_rate": 1.19697389370606e-06, + "loss": 0.0515, + "num_input_tokens_seen": 29910512, + "step": 15271 + }, + { + "epoch": 2.024121935056329, + "grad_norm": 0.0038268158677965403, + "learning_rate": 1.1966776495028367e-06, + "loss": 0.0, + "num_input_tokens_seen": 29911696, + "step": 15272 + }, + { + "epoch": 2.024254473161034, + "grad_norm": 0.4202002286911011, + "learning_rate": 1.1963814304285678e-06, + "loss": 0.0013, + "num_input_tokens_seen": 29913736, + "step": 15273 + }, + { + "epoch": 2.024387011265739, + "grad_norm": 0.04044542461633682, + "learning_rate": 1.196085236488964e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29914976, + "step": 15274 + }, + { + "epoch": 2.024519549370444, + "grad_norm": 41.17549514770508, + "learning_rate": 1.195789067689737e-06, + "loss": 0.1119, + "num_input_tokens_seen": 29916816, + "step": 15275 + }, + { + "epoch": 2.024652087475149, + "grad_norm": 0.0474514402449131, + "learning_rate": 1.1954929240365948e-06, + "loss": 0.0002, + "num_input_tokens_seen": 29918648, + "step": 15276 + }, + { + "epoch": 2.024784625579854, + "grad_norm": 4.464804172515869, + "learning_rate": 1.1951968055352492e-06, + "loss": 0.0194, + "num_input_tokens_seen": 29920696, + "step": 15277 + }, + { + "epoch": 2.024917163684559, + "grad_norm": 1.248387336730957, + "learning_rate": 1.1949007121914104e-06, + "loss": 0.0072, + "num_input_tokens_seen": 29922424, + "step": 15278 + }, + { + "epoch": 2.0250497017892646, + "grad_norm": 0.38243377208709717, + "learning_rate": 1.1946046440107862e-06, + "loss": 0.0018, + "num_input_tokens_seen": 29924016, + "step": 15279 + }, + { + "epoch": 2.0251822398939696, + "grad_norm": 0.020485827699303627, + "learning_rate": 1.194308600999085e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29925976, + "step": 15280 + }, + { + "epoch": 2.0253147779986747, + "grad_norm": 5.347994327545166, + "learning_rate": 1.1940125831620136e-06, + "loss": 0.0599, + "num_input_tokens_seen": 29928000, + "step": 15281 + }, + { + "epoch": 2.0254473161033797, + "grad_norm": 5.370848655700684, + "learning_rate": 1.1937165905052816e-06, + "loss": 0.0452, + "num_input_tokens_seen": 29929752, + "step": 15282 + }, + { + "epoch": 2.0255798542080847, + "grad_norm": 1.3163117170333862, + "learning_rate": 1.1934206230345941e-06, + "loss": 0.0034, + "num_input_tokens_seen": 29932064, + "step": 15283 + }, + { + "epoch": 2.0257123923127898, + "grad_norm": 23.513174057006836, + "learning_rate": 1.193124680755659e-06, + "loss": 0.0903, + "num_input_tokens_seen": 29933504, + "step": 15284 + }, + { + "epoch": 2.0258449304174952, + "grad_norm": 6.303351879119873, + "learning_rate": 1.192828763674182e-06, + "loss": 0.1034, + "num_input_tokens_seen": 29935928, + "step": 15285 + }, + { + "epoch": 2.0259774685222003, + "grad_norm": 0.9886231422424316, + "learning_rate": 1.192532871795867e-06, + "loss": 0.0022, + "num_input_tokens_seen": 29937720, + "step": 15286 + }, + { + "epoch": 2.0261100066269053, + "grad_norm": 0.08166089653968811, + "learning_rate": 1.1922370051264212e-06, + "loss": 0.0005, + "num_input_tokens_seen": 29939936, + "step": 15287 + }, + { + "epoch": 2.0262425447316104, + "grad_norm": 0.05150807648897171, + "learning_rate": 1.1919411636715473e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29941608, + "step": 15288 + }, + { + "epoch": 2.0263750828363154, + "grad_norm": 0.008243517950177193, + "learning_rate": 1.1916453474369509e-06, + "loss": 0.0, + "num_input_tokens_seen": 29942688, + "step": 15289 + }, + { + "epoch": 2.0265076209410204, + "grad_norm": 2.652451515197754, + "learning_rate": 1.1913495564283347e-06, + "loss": 0.0262, + "num_input_tokens_seen": 29945032, + "step": 15290 + }, + { + "epoch": 2.0266401590457255, + "grad_norm": 0.046244293451309204, + "learning_rate": 1.1910537906514022e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29947072, + "step": 15291 + }, + { + "epoch": 2.026772697150431, + "grad_norm": 0.011096510104835033, + "learning_rate": 1.1907580501118543e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29948936, + "step": 15292 + }, + { + "epoch": 2.026905235255136, + "grad_norm": 0.0010619750246405602, + "learning_rate": 1.1904623348153957e-06, + "loss": 0.0, + "num_input_tokens_seen": 29950152, + "step": 15293 + }, + { + "epoch": 2.027037773359841, + "grad_norm": 7.358760356903076, + "learning_rate": 1.1901666447677254e-06, + "loss": 0.0592, + "num_input_tokens_seen": 29952048, + "step": 15294 + }, + { + "epoch": 2.027170311464546, + "grad_norm": 8.173836708068848, + "learning_rate": 1.1898709799745469e-06, + "loss": 0.1449, + "num_input_tokens_seen": 29954272, + "step": 15295 + }, + { + "epoch": 2.027302849569251, + "grad_norm": 3.8574378490448, + "learning_rate": 1.1895753404415597e-06, + "loss": 0.0348, + "num_input_tokens_seen": 29956792, + "step": 15296 + }, + { + "epoch": 2.027435387673956, + "grad_norm": 2.9293763637542725, + "learning_rate": 1.189279726174463e-06, + "loss": 0.0246, + "num_input_tokens_seen": 29958752, + "step": 15297 + }, + { + "epoch": 2.027567925778661, + "grad_norm": 0.022476427257061005, + "learning_rate": 1.1889841371789585e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29960248, + "step": 15298 + }, + { + "epoch": 2.0277004638833667, + "grad_norm": 8.384184837341309, + "learning_rate": 1.1886885734607439e-06, + "loss": 0.1421, + "num_input_tokens_seen": 29962328, + "step": 15299 + }, + { + "epoch": 2.0278330019880717, + "grad_norm": 7.027342796325684, + "learning_rate": 1.1883930350255177e-06, + "loss": 0.2152, + "num_input_tokens_seen": 29963808, + "step": 15300 + }, + { + "epoch": 2.0279655400927767, + "grad_norm": 4.785160541534424, + "learning_rate": 1.1880975218789795e-06, + "loss": 0.1047, + "num_input_tokens_seen": 29965368, + "step": 15301 + }, + { + "epoch": 2.028098078197482, + "grad_norm": 0.04877548664808273, + "learning_rate": 1.1878020340268247e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29966448, + "step": 15302 + }, + { + "epoch": 2.028230616302187, + "grad_norm": 3.3449134826660156, + "learning_rate": 1.1875065714747534e-06, + "loss": 0.0544, + "num_input_tokens_seen": 29968504, + "step": 15303 + }, + { + "epoch": 2.028363154406892, + "grad_norm": 0.007268261164426804, + "learning_rate": 1.1872111342284607e-06, + "loss": 0.0, + "num_input_tokens_seen": 29970248, + "step": 15304 + }, + { + "epoch": 2.028495692511597, + "grad_norm": 2.8656768798828125, + "learning_rate": 1.186915722293643e-06, + "loss": 0.045, + "num_input_tokens_seen": 29971792, + "step": 15305 + }, + { + "epoch": 2.0286282306163024, + "grad_norm": 2.714986801147461, + "learning_rate": 1.1866203356759951e-06, + "loss": 0.0388, + "num_input_tokens_seen": 29973912, + "step": 15306 + }, + { + "epoch": 2.0287607687210074, + "grad_norm": 3.7185399532318115, + "learning_rate": 1.186324974381213e-06, + "loss": 0.0388, + "num_input_tokens_seen": 29976600, + "step": 15307 + }, + { + "epoch": 2.0288933068257125, + "grad_norm": 3.9431533813476562, + "learning_rate": 1.1860296384149927e-06, + "loss": 0.0192, + "num_input_tokens_seen": 29978608, + "step": 15308 + }, + { + "epoch": 2.0290258449304175, + "grad_norm": 8.5753173828125, + "learning_rate": 1.1857343277830274e-06, + "loss": 0.1883, + "num_input_tokens_seen": 29980800, + "step": 15309 + }, + { + "epoch": 2.0291583830351225, + "grad_norm": 15.502911567687988, + "learning_rate": 1.1854390424910109e-06, + "loss": 0.0947, + "num_input_tokens_seen": 29982400, + "step": 15310 + }, + { + "epoch": 2.0292909211398276, + "grad_norm": 6.202790260314941, + "learning_rate": 1.1851437825446357e-06, + "loss": 0.108, + "num_input_tokens_seen": 29984176, + "step": 15311 + }, + { + "epoch": 2.0294234592445326, + "grad_norm": 1.4931821823120117, + "learning_rate": 1.1848485479495952e-06, + "loss": 0.0043, + "num_input_tokens_seen": 29985728, + "step": 15312 + }, + { + "epoch": 2.029555997349238, + "grad_norm": 6.15144157409668, + "learning_rate": 1.1845533387115833e-06, + "loss": 0.0126, + "num_input_tokens_seen": 29987344, + "step": 15313 + }, + { + "epoch": 2.029688535453943, + "grad_norm": 19.61886215209961, + "learning_rate": 1.1842581548362903e-06, + "loss": 0.065, + "num_input_tokens_seen": 29989896, + "step": 15314 + }, + { + "epoch": 2.029821073558648, + "grad_norm": 0.01945546269416809, + "learning_rate": 1.1839629963294078e-06, + "loss": 0.0001, + "num_input_tokens_seen": 29991496, + "step": 15315 + }, + { + "epoch": 2.029953611663353, + "grad_norm": 11.86999225616455, + "learning_rate": 1.1836678631966264e-06, + "loss": 0.2258, + "num_input_tokens_seen": 29993552, + "step": 15316 + }, + { + "epoch": 2.0300861497680582, + "grad_norm": 0.04611857980489731, + "learning_rate": 1.1833727554436362e-06, + "loss": 0.0003, + "num_input_tokens_seen": 29995008, + "step": 15317 + }, + { + "epoch": 2.0302186878727633, + "grad_norm": 0.006616382859647274, + "learning_rate": 1.183077673076127e-06, + "loss": 0.0, + "num_input_tokens_seen": 29996512, + "step": 15318 + }, + { + "epoch": 2.0303512259774683, + "grad_norm": 10.329608917236328, + "learning_rate": 1.1827826160997902e-06, + "loss": 0.1922, + "num_input_tokens_seen": 29998448, + "step": 15319 + }, + { + "epoch": 2.030483764082174, + "grad_norm": 3.6575441360473633, + "learning_rate": 1.1824875845203128e-06, + "loss": 0.0373, + "num_input_tokens_seen": 30000648, + "step": 15320 + }, + { + "epoch": 2.030616302186879, + "grad_norm": 4.689066410064697, + "learning_rate": 1.182192578343384e-06, + "loss": 0.0727, + "num_input_tokens_seen": 30002952, + "step": 15321 + }, + { + "epoch": 2.030748840291584, + "grad_norm": 0.13371823728084564, + "learning_rate": 1.1818975975746912e-06, + "loss": 0.0006, + "num_input_tokens_seen": 30005776, + "step": 15322 + }, + { + "epoch": 2.030881378396289, + "grad_norm": 0.005644764751195908, + "learning_rate": 1.1816026422199214e-06, + "loss": 0.0, + "num_input_tokens_seen": 30007320, + "step": 15323 + }, + { + "epoch": 2.031013916500994, + "grad_norm": 2.0594704151153564, + "learning_rate": 1.1813077122847621e-06, + "loss": 0.0107, + "num_input_tokens_seen": 30009336, + "step": 15324 + }, + { + "epoch": 2.031146454605699, + "grad_norm": 0.21792414784431458, + "learning_rate": 1.1810128077749007e-06, + "loss": 0.0015, + "num_input_tokens_seen": 30012256, + "step": 15325 + }, + { + "epoch": 2.031278992710404, + "grad_norm": 2.6742823123931885, + "learning_rate": 1.1807179286960222e-06, + "loss": 0.014, + "num_input_tokens_seen": 30014024, + "step": 15326 + }, + { + "epoch": 2.0314115308151095, + "grad_norm": 3.1119117736816406, + "learning_rate": 1.1804230750538123e-06, + "loss": 0.0187, + "num_input_tokens_seen": 30015544, + "step": 15327 + }, + { + "epoch": 2.0315440689198145, + "grad_norm": 0.002943409839645028, + "learning_rate": 1.1801282468539546e-06, + "loss": 0.0, + "num_input_tokens_seen": 30016928, + "step": 15328 + }, + { + "epoch": 2.0316766070245196, + "grad_norm": 7.745203971862793, + "learning_rate": 1.1798334441021362e-06, + "loss": 0.0868, + "num_input_tokens_seen": 30019240, + "step": 15329 + }, + { + "epoch": 2.0318091451292246, + "grad_norm": 6.1142168045043945, + "learning_rate": 1.1795386668040384e-06, + "loss": 0.0452, + "num_input_tokens_seen": 30021848, + "step": 15330 + }, + { + "epoch": 2.0319416832339297, + "grad_norm": 11.032805442810059, + "learning_rate": 1.1792439149653473e-06, + "loss": 0.1326, + "num_input_tokens_seen": 30023656, + "step": 15331 + }, + { + "epoch": 2.0320742213386347, + "grad_norm": 0.008492165245115757, + "learning_rate": 1.1789491885917446e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30025192, + "step": 15332 + }, + { + "epoch": 2.03220675944334, + "grad_norm": 11.665322303771973, + "learning_rate": 1.178654487688912e-06, + "loss": 0.1104, + "num_input_tokens_seen": 30027864, + "step": 15333 + }, + { + "epoch": 2.032339297548045, + "grad_norm": 0.021263157948851585, + "learning_rate": 1.1783598122625331e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30029488, + "step": 15334 + }, + { + "epoch": 2.0324718356527502, + "grad_norm": 0.06934729218482971, + "learning_rate": 1.178065162318289e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30031128, + "step": 15335 + }, + { + "epoch": 2.0326043737574553, + "grad_norm": 3.3151307106018066, + "learning_rate": 1.1777705378618596e-06, + "loss": 0.0805, + "num_input_tokens_seen": 30033104, + "step": 15336 + }, + { + "epoch": 2.0327369118621603, + "grad_norm": 0.015553489327430725, + "learning_rate": 1.1774759388989272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30034344, + "step": 15337 + }, + { + "epoch": 2.0328694499668654, + "grad_norm": 1.8725436925888062, + "learning_rate": 1.17718136543517e-06, + "loss": 0.0257, + "num_input_tokens_seen": 30035944, + "step": 15338 + }, + { + "epoch": 2.0330019880715704, + "grad_norm": 5.809375286102295, + "learning_rate": 1.17688681747627e-06, + "loss": 0.1169, + "num_input_tokens_seen": 30038672, + "step": 15339 + }, + { + "epoch": 2.033134526176276, + "grad_norm": 0.1271497756242752, + "learning_rate": 1.1765922950279044e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30040784, + "step": 15340 + }, + { + "epoch": 2.033267064280981, + "grad_norm": 2.8759517669677734, + "learning_rate": 1.1762977980957515e-06, + "loss": 0.0239, + "num_input_tokens_seen": 30043168, + "step": 15341 + }, + { + "epoch": 2.033399602385686, + "grad_norm": 0.804709255695343, + "learning_rate": 1.1760033266854915e-06, + "loss": 0.0053, + "num_input_tokens_seen": 30044808, + "step": 15342 + }, + { + "epoch": 2.033532140490391, + "grad_norm": 0.05708109959959984, + "learning_rate": 1.1757088808027997e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30046544, + "step": 15343 + }, + { + "epoch": 2.033664678595096, + "grad_norm": 0.03585457056760788, + "learning_rate": 1.1754144604533553e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30048896, + "step": 15344 + }, + { + "epoch": 2.033797216699801, + "grad_norm": 0.022247979417443275, + "learning_rate": 1.1751200656428334e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30050048, + "step": 15345 + }, + { + "epoch": 2.033929754804506, + "grad_norm": 5.2681732177734375, + "learning_rate": 1.1748256963769108e-06, + "loss": 0.0535, + "num_input_tokens_seen": 30051568, + "step": 15346 + }, + { + "epoch": 2.0340622929092116, + "grad_norm": 0.027139918878674507, + "learning_rate": 1.1745313526612623e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30052864, + "step": 15347 + }, + { + "epoch": 2.0341948310139166, + "grad_norm": 0.004139519762247801, + "learning_rate": 1.1742370345015644e-06, + "loss": 0.0, + "num_input_tokens_seen": 30054848, + "step": 15348 + }, + { + "epoch": 2.0343273691186217, + "grad_norm": 18.6748104095459, + "learning_rate": 1.1739427419034905e-06, + "loss": 0.2886, + "num_input_tokens_seen": 30055912, + "step": 15349 + }, + { + "epoch": 2.0344599072233267, + "grad_norm": 1.8263636827468872, + "learning_rate": 1.1736484748727158e-06, + "loss": 0.0225, + "num_input_tokens_seen": 30059152, + "step": 15350 + }, + { + "epoch": 2.0345924453280317, + "grad_norm": 5.624429702758789, + "learning_rate": 1.173354233414914e-06, + "loss": 0.0521, + "num_input_tokens_seen": 30061048, + "step": 15351 + }, + { + "epoch": 2.0347249834327368, + "grad_norm": 6.0545454025268555, + "learning_rate": 1.1730600175357574e-06, + "loss": 0.0436, + "num_input_tokens_seen": 30062432, + "step": 15352 + }, + { + "epoch": 2.034857521537442, + "grad_norm": 12.210949897766113, + "learning_rate": 1.1727658272409182e-06, + "loss": 0.0577, + "num_input_tokens_seen": 30064376, + "step": 15353 + }, + { + "epoch": 2.0349900596421473, + "grad_norm": 2.5179665088653564, + "learning_rate": 1.1724716625360693e-06, + "loss": 0.0192, + "num_input_tokens_seen": 30066808, + "step": 15354 + }, + { + "epoch": 2.0351225977468523, + "grad_norm": 0.8342695832252502, + "learning_rate": 1.172177523426884e-06, + "loss": 0.0075, + "num_input_tokens_seen": 30068480, + "step": 15355 + }, + { + "epoch": 2.0352551358515574, + "grad_norm": 3.4192352294921875, + "learning_rate": 1.1718834099190316e-06, + "loss": 0.0401, + "num_input_tokens_seen": 30070832, + "step": 15356 + }, + { + "epoch": 2.0353876739562624, + "grad_norm": 0.4294804036617279, + "learning_rate": 1.1715893220181834e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30073520, + "step": 15357 + }, + { + "epoch": 2.0355202120609674, + "grad_norm": 4.821839809417725, + "learning_rate": 1.1712952597300096e-06, + "loss": 0.0843, + "num_input_tokens_seen": 30075176, + "step": 15358 + }, + { + "epoch": 2.0356527501656725, + "grad_norm": 4.818764686584473, + "learning_rate": 1.171001223060179e-06, + "loss": 0.2097, + "num_input_tokens_seen": 30077112, + "step": 15359 + }, + { + "epoch": 2.0357852882703775, + "grad_norm": 4.719126224517822, + "learning_rate": 1.1707072120143614e-06, + "loss": 0.0727, + "num_input_tokens_seen": 30079016, + "step": 15360 + }, + { + "epoch": 2.035917826375083, + "grad_norm": 0.1781775951385498, + "learning_rate": 1.1704132265982267e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30082448, + "step": 15361 + }, + { + "epoch": 2.036050364479788, + "grad_norm": 0.010710245929658413, + "learning_rate": 1.1701192668174425e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30084792, + "step": 15362 + }, + { + "epoch": 2.036182902584493, + "grad_norm": 7.136807441711426, + "learning_rate": 1.169825332677676e-06, + "loss": 0.0495, + "num_input_tokens_seen": 30087312, + "step": 15363 + }, + { + "epoch": 2.036315440689198, + "grad_norm": 2.6020267009735107, + "learning_rate": 1.1695314241845937e-06, + "loss": 0.1133, + "num_input_tokens_seen": 30089120, + "step": 15364 + }, + { + "epoch": 2.036447978793903, + "grad_norm": 0.005258308723568916, + "learning_rate": 1.1692375413438637e-06, + "loss": 0.0, + "num_input_tokens_seen": 30090448, + "step": 15365 + }, + { + "epoch": 2.036580516898608, + "grad_norm": 13.674539566040039, + "learning_rate": 1.168943684161153e-06, + "loss": 0.3189, + "num_input_tokens_seen": 30092168, + "step": 15366 + }, + { + "epoch": 2.0367130550033137, + "grad_norm": 0.2764515280723572, + "learning_rate": 1.1686498526421258e-06, + "loss": 0.0014, + "num_input_tokens_seen": 30094032, + "step": 15367 + }, + { + "epoch": 2.0368455931080187, + "grad_norm": 5.22561502456665, + "learning_rate": 1.1683560467924482e-06, + "loss": 0.0812, + "num_input_tokens_seen": 30096536, + "step": 15368 + }, + { + "epoch": 2.0369781312127238, + "grad_norm": 4.668165683746338, + "learning_rate": 1.1680622666177837e-06, + "loss": 0.0279, + "num_input_tokens_seen": 30098408, + "step": 15369 + }, + { + "epoch": 2.037110669317429, + "grad_norm": 1.4709421396255493, + "learning_rate": 1.1677685121237985e-06, + "loss": 0.004, + "num_input_tokens_seen": 30100256, + "step": 15370 + }, + { + "epoch": 2.037243207422134, + "grad_norm": 5.9648942947387695, + "learning_rate": 1.1674747833161546e-06, + "loss": 0.0613, + "num_input_tokens_seen": 30102192, + "step": 15371 + }, + { + "epoch": 2.037375745526839, + "grad_norm": 0.2224637269973755, + "learning_rate": 1.1671810802005168e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30103496, + "step": 15372 + }, + { + "epoch": 2.037508283631544, + "grad_norm": 0.009925957769155502, + "learning_rate": 1.1668874027825475e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30104880, + "step": 15373 + }, + { + "epoch": 2.0376408217362494, + "grad_norm": 0.4790247082710266, + "learning_rate": 1.1665937510679076e-06, + "loss": 0.0039, + "num_input_tokens_seen": 30106464, + "step": 15374 + }, + { + "epoch": 2.0377733598409544, + "grad_norm": 0.19355347752571106, + "learning_rate": 1.1663001250622612e-06, + "loss": 0.0007, + "num_input_tokens_seen": 30107752, + "step": 15375 + }, + { + "epoch": 2.0379058979456595, + "grad_norm": 0.020875394344329834, + "learning_rate": 1.1660065247712685e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30109184, + "step": 15376 + }, + { + "epoch": 2.0380384360503645, + "grad_norm": 5.725100994110107, + "learning_rate": 1.165712950200589e-06, + "loss": 0.0322, + "num_input_tokens_seen": 30111824, + "step": 15377 + }, + { + "epoch": 2.0381709741550695, + "grad_norm": 2.8452649116516113, + "learning_rate": 1.1654194013558856e-06, + "loss": 0.0155, + "num_input_tokens_seen": 30113328, + "step": 15378 + }, + { + "epoch": 2.0383035122597746, + "grad_norm": 2.3905649185180664, + "learning_rate": 1.1651258782428165e-06, + "loss": 0.0407, + "num_input_tokens_seen": 30115192, + "step": 15379 + }, + { + "epoch": 2.0384360503644796, + "grad_norm": 8.178534507751465, + "learning_rate": 1.1648323808670405e-06, + "loss": 0.0886, + "num_input_tokens_seen": 30117032, + "step": 15380 + }, + { + "epoch": 2.038568588469185, + "grad_norm": 1.2329213619232178, + "learning_rate": 1.1645389092342186e-06, + "loss": 0.0078, + "num_input_tokens_seen": 30118664, + "step": 15381 + }, + { + "epoch": 2.03870112657389, + "grad_norm": 2.0993881225585938, + "learning_rate": 1.1642454633500074e-06, + "loss": 0.0167, + "num_input_tokens_seen": 30120672, + "step": 15382 + }, + { + "epoch": 2.038833664678595, + "grad_norm": 6.3968071937561035, + "learning_rate": 1.1639520432200642e-06, + "loss": 0.0933, + "num_input_tokens_seen": 30123200, + "step": 15383 + }, + { + "epoch": 2.0389662027833, + "grad_norm": 0.024023214355111122, + "learning_rate": 1.1636586488500485e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30124688, + "step": 15384 + }, + { + "epoch": 2.0390987408880052, + "grad_norm": 3.002664804458618, + "learning_rate": 1.163365280245615e-06, + "loss": 0.0438, + "num_input_tokens_seen": 30126192, + "step": 15385 + }, + { + "epoch": 2.0392312789927103, + "grad_norm": 6.3573503494262695, + "learning_rate": 1.1630719374124217e-06, + "loss": 0.0181, + "num_input_tokens_seen": 30127984, + "step": 15386 + }, + { + "epoch": 2.0393638170974153, + "grad_norm": 11.962425231933594, + "learning_rate": 1.1627786203561238e-06, + "loss": 0.2718, + "num_input_tokens_seen": 30129600, + "step": 15387 + }, + { + "epoch": 2.039496355202121, + "grad_norm": 0.06466907262802124, + "learning_rate": 1.1624853290823756e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30132280, + "step": 15388 + }, + { + "epoch": 2.039628893306826, + "grad_norm": 0.05370205640792847, + "learning_rate": 1.1621920635968342e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30133528, + "step": 15389 + }, + { + "epoch": 2.039761431411531, + "grad_norm": 2.077615976333618, + "learning_rate": 1.1618988239051516e-06, + "loss": 0.0109, + "num_input_tokens_seen": 30135600, + "step": 15390 + }, + { + "epoch": 2.039893969516236, + "grad_norm": 0.1612795740365982, + "learning_rate": 1.1616056100129836e-06, + "loss": 0.0017, + "num_input_tokens_seen": 30137016, + "step": 15391 + }, + { + "epoch": 2.040026507620941, + "grad_norm": 2.0692880153656006, + "learning_rate": 1.161312421925983e-06, + "loss": 0.0117, + "num_input_tokens_seen": 30138352, + "step": 15392 + }, + { + "epoch": 2.040159045725646, + "grad_norm": 1.9984077215194702, + "learning_rate": 1.161019259649802e-06, + "loss": 0.0212, + "num_input_tokens_seen": 30140160, + "step": 15393 + }, + { + "epoch": 2.040291583830351, + "grad_norm": 8.414917945861816, + "learning_rate": 1.160726123190093e-06, + "loss": 0.1568, + "num_input_tokens_seen": 30142336, + "step": 15394 + }, + { + "epoch": 2.0404241219350565, + "grad_norm": 0.40815141797065735, + "learning_rate": 1.160433012552508e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30144568, + "step": 15395 + }, + { + "epoch": 2.0405566600397615, + "grad_norm": 1.9453282356262207, + "learning_rate": 1.1601399277426995e-06, + "loss": 0.0163, + "num_input_tokens_seen": 30146416, + "step": 15396 + }, + { + "epoch": 2.0406891981444666, + "grad_norm": 1.9006175994873047, + "learning_rate": 1.1598468687663176e-06, + "loss": 0.0121, + "num_input_tokens_seen": 30148232, + "step": 15397 + }, + { + "epoch": 2.0408217362491716, + "grad_norm": 0.01095342356711626, + "learning_rate": 1.1595538356290126e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30149208, + "step": 15398 + }, + { + "epoch": 2.0409542743538767, + "grad_norm": 0.33900848031044006, + "learning_rate": 1.1592608283364343e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30152288, + "step": 15399 + }, + { + "epoch": 2.0410868124585817, + "grad_norm": 0.035532236099243164, + "learning_rate": 1.1589678468942314e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30154544, + "step": 15400 + }, + { + "epoch": 2.0412193505632867, + "grad_norm": 22.57343292236328, + "learning_rate": 1.1586748913080535e-06, + "loss": 0.2515, + "num_input_tokens_seen": 30157216, + "step": 15401 + }, + { + "epoch": 2.041351888667992, + "grad_norm": 0.033173151314258575, + "learning_rate": 1.15838196158355e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30159656, + "step": 15402 + }, + { + "epoch": 2.0414844267726973, + "grad_norm": 4.623154163360596, + "learning_rate": 1.1580890577263676e-06, + "loss": 0.0924, + "num_input_tokens_seen": 30161840, + "step": 15403 + }, + { + "epoch": 2.0416169648774023, + "grad_norm": 0.023964587599039078, + "learning_rate": 1.157796179742154e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30163008, + "step": 15404 + }, + { + "epoch": 2.0417495029821073, + "grad_norm": 2.778046131134033, + "learning_rate": 1.157503327636556e-06, + "loss": 0.0333, + "num_input_tokens_seen": 30164592, + "step": 15405 + }, + { + "epoch": 2.0418820410868124, + "grad_norm": 5.143064022064209, + "learning_rate": 1.1572105014152191e-06, + "loss": 0.0285, + "num_input_tokens_seen": 30166896, + "step": 15406 + }, + { + "epoch": 2.0420145791915174, + "grad_norm": 4.412442684173584, + "learning_rate": 1.1569177010837898e-06, + "loss": 0.0589, + "num_input_tokens_seen": 30169000, + "step": 15407 + }, + { + "epoch": 2.0421471172962224, + "grad_norm": 0.06809312850236893, + "learning_rate": 1.156624926647915e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30171584, + "step": 15408 + }, + { + "epoch": 2.042279655400928, + "grad_norm": 1.3891651630401611, + "learning_rate": 1.1563321781132382e-06, + "loss": 0.01, + "num_input_tokens_seen": 30173872, + "step": 15409 + }, + { + "epoch": 2.042412193505633, + "grad_norm": 3.154660940170288, + "learning_rate": 1.156039455485404e-06, + "loss": 0.0681, + "num_input_tokens_seen": 30175920, + "step": 15410 + }, + { + "epoch": 2.042544731610338, + "grad_norm": 0.14920218288898468, + "learning_rate": 1.1557467587700554e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30177496, + "step": 15411 + }, + { + "epoch": 2.042677269715043, + "grad_norm": 0.16647225618362427, + "learning_rate": 1.1554540879728377e-06, + "loss": 0.001, + "num_input_tokens_seen": 30179216, + "step": 15412 + }, + { + "epoch": 2.042809807819748, + "grad_norm": 8.918163299560547, + "learning_rate": 1.1551614430993915e-06, + "loss": 0.0918, + "num_input_tokens_seen": 30181696, + "step": 15413 + }, + { + "epoch": 2.042942345924453, + "grad_norm": 0.14532943069934845, + "learning_rate": 1.1548688241553617e-06, + "loss": 0.0006, + "num_input_tokens_seen": 30183464, + "step": 15414 + }, + { + "epoch": 2.0430748840291586, + "grad_norm": 2.7827036380767822, + "learning_rate": 1.1545762311463887e-06, + "loss": 0.0224, + "num_input_tokens_seen": 30185928, + "step": 15415 + }, + { + "epoch": 2.0432074221338636, + "grad_norm": 9.949211120605469, + "learning_rate": 1.1542836640781133e-06, + "loss": 0.1479, + "num_input_tokens_seen": 30187944, + "step": 15416 + }, + { + "epoch": 2.0433399602385687, + "grad_norm": 0.08917324244976044, + "learning_rate": 1.1539911229561779e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30189712, + "step": 15417 + }, + { + "epoch": 2.0434724983432737, + "grad_norm": 10.60329532623291, + "learning_rate": 1.1536986077862217e-06, + "loss": 0.0888, + "num_input_tokens_seen": 30191384, + "step": 15418 + }, + { + "epoch": 2.0436050364479788, + "grad_norm": 1.9410332441329956, + "learning_rate": 1.1534061185738856e-06, + "loss": 0.0221, + "num_input_tokens_seen": 30193528, + "step": 15419 + }, + { + "epoch": 2.043737574552684, + "grad_norm": 3.2017059326171875, + "learning_rate": 1.1531136553248087e-06, + "loss": 0.0387, + "num_input_tokens_seen": 30196168, + "step": 15420 + }, + { + "epoch": 2.043870112657389, + "grad_norm": 9.080785751342773, + "learning_rate": 1.1528212180446288e-06, + "loss": 0.0347, + "num_input_tokens_seen": 30198264, + "step": 15421 + }, + { + "epoch": 2.0440026507620943, + "grad_norm": 2.7377426624298096, + "learning_rate": 1.1525288067389861e-06, + "loss": 0.0615, + "num_input_tokens_seen": 30199400, + "step": 15422 + }, + { + "epoch": 2.0441351888667993, + "grad_norm": 0.007506837602704763, + "learning_rate": 1.1522364214135175e-06, + "loss": 0.0, + "num_input_tokens_seen": 30200568, + "step": 15423 + }, + { + "epoch": 2.0442677269715044, + "grad_norm": 0.007028147578239441, + "learning_rate": 1.1519440620738597e-06, + "loss": 0.0, + "num_input_tokens_seen": 30201848, + "step": 15424 + }, + { + "epoch": 2.0444002650762094, + "grad_norm": 2.7612202167510986, + "learning_rate": 1.1516517287256512e-06, + "loss": 0.0168, + "num_input_tokens_seen": 30204040, + "step": 15425 + }, + { + "epoch": 2.0445328031809145, + "grad_norm": 0.12472488731145859, + "learning_rate": 1.1513594213745266e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30205464, + "step": 15426 + }, + { + "epoch": 2.0446653412856195, + "grad_norm": 0.03016464225947857, + "learning_rate": 1.1510671400261237e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30207496, + "step": 15427 + }, + { + "epoch": 2.0447978793903245, + "grad_norm": 5.654534816741943, + "learning_rate": 1.150774884686077e-06, + "loss": 0.0939, + "num_input_tokens_seen": 30209024, + "step": 15428 + }, + { + "epoch": 2.04493041749503, + "grad_norm": 2.3443603515625, + "learning_rate": 1.1504826553600209e-06, + "loss": 0.0158, + "num_input_tokens_seen": 30211512, + "step": 15429 + }, + { + "epoch": 2.045062955599735, + "grad_norm": 6.268019199371338, + "learning_rate": 1.1501904520535898e-06, + "loss": 0.0263, + "num_input_tokens_seen": 30213200, + "step": 15430 + }, + { + "epoch": 2.04519549370444, + "grad_norm": 0.08043542504310608, + "learning_rate": 1.1498982747724177e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30215480, + "step": 15431 + }, + { + "epoch": 2.045328031809145, + "grad_norm": 0.059432096779346466, + "learning_rate": 1.1496061235221393e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30217360, + "step": 15432 + }, + { + "epoch": 2.04546056991385, + "grad_norm": 0.03536738455295563, + "learning_rate": 1.1493139983083862e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30218544, + "step": 15433 + }, + { + "epoch": 2.045593108018555, + "grad_norm": 4.008764743804932, + "learning_rate": 1.149021899136791e-06, + "loss": 0.0735, + "num_input_tokens_seen": 30220376, + "step": 15434 + }, + { + "epoch": 2.0457256461232602, + "grad_norm": 0.033605098724365234, + "learning_rate": 1.148729826012986e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30222848, + "step": 15435 + }, + { + "epoch": 2.0458581842279657, + "grad_norm": 0.011303989216685295, + "learning_rate": 1.1484377789426006e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30224120, + "step": 15436 + }, + { + "epoch": 2.0459907223326708, + "grad_norm": 0.6575780510902405, + "learning_rate": 1.1481457579312678e-06, + "loss": 0.0018, + "num_input_tokens_seen": 30226472, + "step": 15437 + }, + { + "epoch": 2.046123260437376, + "grad_norm": 0.8789747953414917, + "learning_rate": 1.1478537629846182e-06, + "loss": 0.0047, + "num_input_tokens_seen": 30227880, + "step": 15438 + }, + { + "epoch": 2.046255798542081, + "grad_norm": 7.1446919441223145, + "learning_rate": 1.1475617941082806e-06, + "loss": 0.1004, + "num_input_tokens_seen": 30229840, + "step": 15439 + }, + { + "epoch": 2.046388336646786, + "grad_norm": 0.6669303178787231, + "learning_rate": 1.1472698513078848e-06, + "loss": 0.0028, + "num_input_tokens_seen": 30231168, + "step": 15440 + }, + { + "epoch": 2.046520874751491, + "grad_norm": 0.5729780197143555, + "learning_rate": 1.1469779345890583e-06, + "loss": 0.0028, + "num_input_tokens_seen": 30233496, + "step": 15441 + }, + { + "epoch": 2.046653412856196, + "grad_norm": 0.06405214220285416, + "learning_rate": 1.1466860439574306e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30234848, + "step": 15442 + }, + { + "epoch": 2.0467859509609014, + "grad_norm": 6.955703258514404, + "learning_rate": 1.146394179418631e-06, + "loss": 0.0564, + "num_input_tokens_seen": 30236880, + "step": 15443 + }, + { + "epoch": 2.0469184890656065, + "grad_norm": 5.256700038909912, + "learning_rate": 1.146102340978285e-06, + "loss": 0.1062, + "num_input_tokens_seen": 30238968, + "step": 15444 + }, + { + "epoch": 2.0470510271703115, + "grad_norm": 16.536304473876953, + "learning_rate": 1.1458105286420202e-06, + "loss": 0.186, + "num_input_tokens_seen": 30240384, + "step": 15445 + }, + { + "epoch": 2.0471835652750165, + "grad_norm": 3.872830867767334, + "learning_rate": 1.1455187424154621e-06, + "loss": 0.0179, + "num_input_tokens_seen": 30242088, + "step": 15446 + }, + { + "epoch": 2.0473161033797216, + "grad_norm": 0.3322814106941223, + "learning_rate": 1.1452269823042363e-06, + "loss": 0.0021, + "num_input_tokens_seen": 30243600, + "step": 15447 + }, + { + "epoch": 2.0474486414844266, + "grad_norm": 0.013216373510658741, + "learning_rate": 1.1449352483139693e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30246392, + "step": 15448 + }, + { + "epoch": 2.0475811795891317, + "grad_norm": 0.015294334851205349, + "learning_rate": 1.144643540450286e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30247912, + "step": 15449 + }, + { + "epoch": 2.047713717693837, + "grad_norm": 0.11774849146604538, + "learning_rate": 1.1443518587188104e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30250704, + "step": 15450 + }, + { + "epoch": 2.047846255798542, + "grad_norm": 0.2029794603586197, + "learning_rate": 1.1440602031251662e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30252040, + "step": 15451 + }, + { + "epoch": 2.047978793903247, + "grad_norm": 4.941562175750732, + "learning_rate": 1.143768573674976e-06, + "loss": 0.0869, + "num_input_tokens_seen": 30253912, + "step": 15452 + }, + { + "epoch": 2.0481113320079523, + "grad_norm": 0.008615760132670403, + "learning_rate": 1.143476970373864e-06, + "loss": 0.0, + "num_input_tokens_seen": 30255840, + "step": 15453 + }, + { + "epoch": 2.0482438701126573, + "grad_norm": 0.020869944244623184, + "learning_rate": 1.1431853932274508e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30257608, + "step": 15454 + }, + { + "epoch": 2.0483764082173623, + "grad_norm": 3.7428441047668457, + "learning_rate": 1.1428938422413606e-06, + "loss": 0.0487, + "num_input_tokens_seen": 30259896, + "step": 15455 + }, + { + "epoch": 2.048508946322068, + "grad_norm": 1.587575078010559, + "learning_rate": 1.1426023174212129e-06, + "loss": 0.0066, + "num_input_tokens_seen": 30261880, + "step": 15456 + }, + { + "epoch": 2.048641484426773, + "grad_norm": 0.0302698016166687, + "learning_rate": 1.1423108187726282e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30263880, + "step": 15457 + }, + { + "epoch": 2.048774022531478, + "grad_norm": 2.4072816371917725, + "learning_rate": 1.1420193463012283e-06, + "loss": 0.0148, + "num_input_tokens_seen": 30265400, + "step": 15458 + }, + { + "epoch": 2.048906560636183, + "grad_norm": 1.6232753992080688, + "learning_rate": 1.1417279000126322e-06, + "loss": 0.0291, + "num_input_tokens_seen": 30266712, + "step": 15459 + }, + { + "epoch": 2.049039098740888, + "grad_norm": 0.09677279740571976, + "learning_rate": 1.1414364799124583e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30268440, + "step": 15460 + }, + { + "epoch": 2.049171636845593, + "grad_norm": 5.05303955078125, + "learning_rate": 1.1411450860063276e-06, + "loss": 0.1457, + "num_input_tokens_seen": 30271320, + "step": 15461 + }, + { + "epoch": 2.049304174950298, + "grad_norm": 2.8378937244415283, + "learning_rate": 1.1408537182998566e-06, + "loss": 0.0142, + "num_input_tokens_seen": 30272864, + "step": 15462 + }, + { + "epoch": 2.0494367130550035, + "grad_norm": 0.013245287351310253, + "learning_rate": 1.140562376798663e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30274024, + "step": 15463 + }, + { + "epoch": 2.0495692511597086, + "grad_norm": 13.191045761108398, + "learning_rate": 1.140271061508365e-06, + "loss": 0.2502, + "num_input_tokens_seen": 30276216, + "step": 15464 + }, + { + "epoch": 2.0497017892644136, + "grad_norm": 0.01051954086869955, + "learning_rate": 1.1399797724345796e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30278240, + "step": 15465 + }, + { + "epoch": 2.0498343273691186, + "grad_norm": 4.330178260803223, + "learning_rate": 1.139688509582921e-06, + "loss": 0.0488, + "num_input_tokens_seen": 30280528, + "step": 15466 + }, + { + "epoch": 2.0499668654738237, + "grad_norm": 7.327389717102051, + "learning_rate": 1.1393972729590074e-06, + "loss": 0.114, + "num_input_tokens_seen": 30282336, + "step": 15467 + }, + { + "epoch": 2.0500994035785287, + "grad_norm": 0.01825900934636593, + "learning_rate": 1.1391060625684525e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30284048, + "step": 15468 + }, + { + "epoch": 2.0502319416832337, + "grad_norm": 0.23606400191783905, + "learning_rate": 1.1388148784168721e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30286488, + "step": 15469 + }, + { + "epoch": 2.0503644797879392, + "grad_norm": 4.142344951629639, + "learning_rate": 1.1385237205098798e-06, + "loss": 0.0571, + "num_input_tokens_seen": 30289064, + "step": 15470 + }, + { + "epoch": 2.0504970178926443, + "grad_norm": 4.883716106414795, + "learning_rate": 1.1382325888530888e-06, + "loss": 0.0405, + "num_input_tokens_seen": 30291088, + "step": 15471 + }, + { + "epoch": 2.0506295559973493, + "grad_norm": 0.017013655975461006, + "learning_rate": 1.1379414834521135e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30293072, + "step": 15472 + }, + { + "epoch": 2.0507620941020543, + "grad_norm": 8.204032897949219, + "learning_rate": 1.1376504043125653e-06, + "loss": 0.0763, + "num_input_tokens_seen": 30294864, + "step": 15473 + }, + { + "epoch": 2.0508946322067594, + "grad_norm": 0.7804144620895386, + "learning_rate": 1.137359351440058e-06, + "loss": 0.0048, + "num_input_tokens_seen": 30296696, + "step": 15474 + }, + { + "epoch": 2.0510271703114644, + "grad_norm": 7.004912376403809, + "learning_rate": 1.1370683248402022e-06, + "loss": 0.0242, + "num_input_tokens_seen": 30298160, + "step": 15475 + }, + { + "epoch": 2.0511597084161695, + "grad_norm": 5.126420974731445, + "learning_rate": 1.1367773245186099e-06, + "loss": 0.0514, + "num_input_tokens_seen": 30299824, + "step": 15476 + }, + { + "epoch": 2.051292246520875, + "grad_norm": 0.9875059723854065, + "learning_rate": 1.13648635048089e-06, + "loss": 0.0079, + "num_input_tokens_seen": 30301712, + "step": 15477 + }, + { + "epoch": 2.05142478462558, + "grad_norm": 4.170960426330566, + "learning_rate": 1.136195402732654e-06, + "loss": 0.0148, + "num_input_tokens_seen": 30303296, + "step": 15478 + }, + { + "epoch": 2.051557322730285, + "grad_norm": 6.785438060760498, + "learning_rate": 1.135904481279512e-06, + "loss": 0.0868, + "num_input_tokens_seen": 30306048, + "step": 15479 + }, + { + "epoch": 2.05168986083499, + "grad_norm": 0.008930460549890995, + "learning_rate": 1.135613586127073e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30307528, + "step": 15480 + }, + { + "epoch": 2.051822398939695, + "grad_norm": 0.007853156886994839, + "learning_rate": 1.1353227172809453e-06, + "loss": 0.0, + "num_input_tokens_seen": 30308824, + "step": 15481 + }, + { + "epoch": 2.0519549370444, + "grad_norm": 0.020774422213435173, + "learning_rate": 1.135031874746737e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30310824, + "step": 15482 + }, + { + "epoch": 2.052087475149105, + "grad_norm": 5.407145023345947, + "learning_rate": 1.1347410585300548e-06, + "loss": 0.1288, + "num_input_tokens_seen": 30312184, + "step": 15483 + }, + { + "epoch": 2.0522200132538106, + "grad_norm": 12.113182067871094, + "learning_rate": 1.1344502686365068e-06, + "loss": 0.4789, + "num_input_tokens_seen": 30315592, + "step": 15484 + }, + { + "epoch": 2.0523525513585157, + "grad_norm": 0.30816036462783813, + "learning_rate": 1.1341595050717007e-06, + "loss": 0.0025, + "num_input_tokens_seen": 30317504, + "step": 15485 + }, + { + "epoch": 2.0524850894632207, + "grad_norm": 0.20900918543338776, + "learning_rate": 1.1338687678412415e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30319048, + "step": 15486 + }, + { + "epoch": 2.0526176275679258, + "grad_norm": 2.184577226638794, + "learning_rate": 1.133578056950735e-06, + "loss": 0.0158, + "num_input_tokens_seen": 30321536, + "step": 15487 + }, + { + "epoch": 2.052750165672631, + "grad_norm": 11.88760757446289, + "learning_rate": 1.1332873724057855e-06, + "loss": 0.2146, + "num_input_tokens_seen": 30324288, + "step": 15488 + }, + { + "epoch": 2.052882703777336, + "grad_norm": 2.711827516555786, + "learning_rate": 1.1329967142119987e-06, + "loss": 0.0231, + "num_input_tokens_seen": 30326168, + "step": 15489 + }, + { + "epoch": 2.053015241882041, + "grad_norm": 0.0417311005294323, + "learning_rate": 1.1327060823749781e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30328504, + "step": 15490 + }, + { + "epoch": 2.0531477799867464, + "grad_norm": 0.04743383079767227, + "learning_rate": 1.1324154769003278e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30331040, + "step": 15491 + }, + { + "epoch": 2.0532803180914514, + "grad_norm": 7.717831134796143, + "learning_rate": 1.1321248977936507e-06, + "loss": 0.1109, + "num_input_tokens_seen": 30333448, + "step": 15492 + }, + { + "epoch": 2.0534128561961564, + "grad_norm": 5.353625297546387, + "learning_rate": 1.1318343450605494e-06, + "loss": 0.0681, + "num_input_tokens_seen": 30335584, + "step": 15493 + }, + { + "epoch": 2.0535453943008615, + "grad_norm": 0.005502821411937475, + "learning_rate": 1.1315438187066248e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30337128, + "step": 15494 + }, + { + "epoch": 2.0536779324055665, + "grad_norm": 0.4938804805278778, + "learning_rate": 1.1312533187374791e-06, + "loss": 0.0019, + "num_input_tokens_seen": 30339712, + "step": 15495 + }, + { + "epoch": 2.0538104705102715, + "grad_norm": 0.006141394376754761, + "learning_rate": 1.1309628451587148e-06, + "loss": 0.0, + "num_input_tokens_seen": 30340648, + "step": 15496 + }, + { + "epoch": 2.0539430086149766, + "grad_norm": 0.20575563609600067, + "learning_rate": 1.1306723979759312e-06, + "loss": 0.001, + "num_input_tokens_seen": 30342432, + "step": 15497 + }, + { + "epoch": 2.054075546719682, + "grad_norm": 5.541965484619141, + "learning_rate": 1.1303819771947286e-06, + "loss": 0.1498, + "num_input_tokens_seen": 30344944, + "step": 15498 + }, + { + "epoch": 2.054208084824387, + "grad_norm": 2.4689931869506836, + "learning_rate": 1.1300915828207054e-06, + "loss": 0.0327, + "num_input_tokens_seen": 30346720, + "step": 15499 + }, + { + "epoch": 2.054340622929092, + "grad_norm": 0.0040749190375208855, + "learning_rate": 1.1298012148594622e-06, + "loss": 0.0, + "num_input_tokens_seen": 30347888, + "step": 15500 + }, + { + "epoch": 2.054473161033797, + "grad_norm": 0.02767675742506981, + "learning_rate": 1.1295108733165962e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30349184, + "step": 15501 + }, + { + "epoch": 2.054605699138502, + "grad_norm": 11.09276294708252, + "learning_rate": 1.129220558197707e-06, + "loss": 0.1451, + "num_input_tokens_seen": 30351272, + "step": 15502 + }, + { + "epoch": 2.0547382372432073, + "grad_norm": 11.46237850189209, + "learning_rate": 1.128930269508391e-06, + "loss": 0.1995, + "num_input_tokens_seen": 30353744, + "step": 15503 + }, + { + "epoch": 2.0548707753479127, + "grad_norm": 6.3047194480896, + "learning_rate": 1.1286400072542442e-06, + "loss": 0.02, + "num_input_tokens_seen": 30355888, + "step": 15504 + }, + { + "epoch": 2.0550033134526178, + "grad_norm": 0.3586597442626953, + "learning_rate": 1.128349771440865e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30358368, + "step": 15505 + }, + { + "epoch": 2.055135851557323, + "grad_norm": 1.7006893157958984, + "learning_rate": 1.1280595620738485e-06, + "loss": 0.0076, + "num_input_tokens_seen": 30360104, + "step": 15506 + }, + { + "epoch": 2.055268389662028, + "grad_norm": 0.008015359751880169, + "learning_rate": 1.1277693791587893e-06, + "loss": 0.0, + "num_input_tokens_seen": 30361744, + "step": 15507 + }, + { + "epoch": 2.055400927766733, + "grad_norm": 5.141878604888916, + "learning_rate": 1.127479222701284e-06, + "loss": 0.0734, + "num_input_tokens_seen": 30363432, + "step": 15508 + }, + { + "epoch": 2.055533465871438, + "grad_norm": 6.357543468475342, + "learning_rate": 1.127189092706925e-06, + "loss": 0.0214, + "num_input_tokens_seen": 30364920, + "step": 15509 + }, + { + "epoch": 2.055666003976143, + "grad_norm": 0.00899139791727066, + "learning_rate": 1.1268989891813085e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30366640, + "step": 15510 + }, + { + "epoch": 2.0557985420808484, + "grad_norm": 3.8238232135772705, + "learning_rate": 1.1266089121300266e-06, + "loss": 0.0286, + "num_input_tokens_seen": 30368456, + "step": 15511 + }, + { + "epoch": 2.0559310801855535, + "grad_norm": 3.2958567142486572, + "learning_rate": 1.1263188615586727e-06, + "loss": 0.048, + "num_input_tokens_seen": 30369848, + "step": 15512 + }, + { + "epoch": 2.0560636182902585, + "grad_norm": 4.718137741088867, + "learning_rate": 1.1260288374728375e-06, + "loss": 0.0691, + "num_input_tokens_seen": 30372616, + "step": 15513 + }, + { + "epoch": 2.0561961563949636, + "grad_norm": 3.1013102531433105, + "learning_rate": 1.125738839878114e-06, + "loss": 0.0253, + "num_input_tokens_seen": 30374704, + "step": 15514 + }, + { + "epoch": 2.0563286944996686, + "grad_norm": 0.003794013289734721, + "learning_rate": 1.1254488687800952e-06, + "loss": 0.0, + "num_input_tokens_seen": 30376192, + "step": 15515 + }, + { + "epoch": 2.0564612326043736, + "grad_norm": 30.242639541625977, + "learning_rate": 1.1251589241843702e-06, + "loss": 0.0751, + "num_input_tokens_seen": 30377376, + "step": 15516 + }, + { + "epoch": 2.0565937707090787, + "grad_norm": 0.0033865952864289284, + "learning_rate": 1.1248690060965294e-06, + "loss": 0.0, + "num_input_tokens_seen": 30378576, + "step": 15517 + }, + { + "epoch": 2.056726308813784, + "grad_norm": 0.4592157304286957, + "learning_rate": 1.1245791145221632e-06, + "loss": 0.0031, + "num_input_tokens_seen": 30380880, + "step": 15518 + }, + { + "epoch": 2.056858846918489, + "grad_norm": 0.007732014171779156, + "learning_rate": 1.1242892494668592e-06, + "loss": 0.0, + "num_input_tokens_seen": 30382664, + "step": 15519 + }, + { + "epoch": 2.0569913850231942, + "grad_norm": 1.5622478723526, + "learning_rate": 1.1239994109362079e-06, + "loss": 0.0083, + "num_input_tokens_seen": 30384704, + "step": 15520 + }, + { + "epoch": 2.0571239231278993, + "grad_norm": 7.317628383636475, + "learning_rate": 1.123709598935798e-06, + "loss": 0.0685, + "num_input_tokens_seen": 30387576, + "step": 15521 + }, + { + "epoch": 2.0572564612326043, + "grad_norm": 4.161335468292236, + "learning_rate": 1.1234198134712162e-06, + "loss": 0.0629, + "num_input_tokens_seen": 30389448, + "step": 15522 + }, + { + "epoch": 2.0573889993373093, + "grad_norm": 9.382643699645996, + "learning_rate": 1.1231300545480505e-06, + "loss": 0.0559, + "num_input_tokens_seen": 30391792, + "step": 15523 + }, + { + "epoch": 2.0575215374420144, + "grad_norm": 5.019509315490723, + "learning_rate": 1.122840322171886e-06, + "loss": 0.0602, + "num_input_tokens_seen": 30393288, + "step": 15524 + }, + { + "epoch": 2.05765407554672, + "grad_norm": 0.18929769098758698, + "learning_rate": 1.1225506163483102e-06, + "loss": 0.0014, + "num_input_tokens_seen": 30394712, + "step": 15525 + }, + { + "epoch": 2.057786613651425, + "grad_norm": 10.043717384338379, + "learning_rate": 1.1222609370829096e-06, + "loss": 0.091, + "num_input_tokens_seen": 30397232, + "step": 15526 + }, + { + "epoch": 2.05791915175613, + "grad_norm": 8.963563919067383, + "learning_rate": 1.1219712843812688e-06, + "loss": 0.17, + "num_input_tokens_seen": 30399200, + "step": 15527 + }, + { + "epoch": 2.058051689860835, + "grad_norm": 0.6126041412353516, + "learning_rate": 1.1216816582489724e-06, + "loss": 0.0059, + "num_input_tokens_seen": 30401032, + "step": 15528 + }, + { + "epoch": 2.05818422796554, + "grad_norm": 0.0023997880052775145, + "learning_rate": 1.121392058691604e-06, + "loss": 0.0, + "num_input_tokens_seen": 30402640, + "step": 15529 + }, + { + "epoch": 2.058316766070245, + "grad_norm": 6.047012805938721, + "learning_rate": 1.1211024857147473e-06, + "loss": 0.1444, + "num_input_tokens_seen": 30404832, + "step": 15530 + }, + { + "epoch": 2.05844930417495, + "grad_norm": 4.93029260635376, + "learning_rate": 1.1208129393239856e-06, + "loss": 0.0412, + "num_input_tokens_seen": 30406320, + "step": 15531 + }, + { + "epoch": 2.0585818422796556, + "grad_norm": 6.695636749267578, + "learning_rate": 1.120523419524903e-06, + "loss": 0.1009, + "num_input_tokens_seen": 30408704, + "step": 15532 + }, + { + "epoch": 2.0587143803843606, + "grad_norm": 2.5120351314544678, + "learning_rate": 1.1202339263230805e-06, + "loss": 0.0102, + "num_input_tokens_seen": 30410976, + "step": 15533 + }, + { + "epoch": 2.0588469184890656, + "grad_norm": 0.014119965955615044, + "learning_rate": 1.1199444597240998e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30412760, + "step": 15534 + }, + { + "epoch": 2.0589794565937707, + "grad_norm": 2.5599968433380127, + "learning_rate": 1.119655019733541e-06, + "loss": 0.04, + "num_input_tokens_seen": 30414296, + "step": 15535 + }, + { + "epoch": 2.0591119946984757, + "grad_norm": 4.034679889678955, + "learning_rate": 1.1193656063569863e-06, + "loss": 0.069, + "num_input_tokens_seen": 30416200, + "step": 15536 + }, + { + "epoch": 2.0592445328031808, + "grad_norm": 4.223156929016113, + "learning_rate": 1.1190762196000147e-06, + "loss": 0.0233, + "num_input_tokens_seen": 30418624, + "step": 15537 + }, + { + "epoch": 2.0593770709078862, + "grad_norm": 0.1604103446006775, + "learning_rate": 1.1187868594682068e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30420280, + "step": 15538 + }, + { + "epoch": 2.0595096090125913, + "grad_norm": 0.03562053292989731, + "learning_rate": 1.1184975259671414e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30422072, + "step": 15539 + }, + { + "epoch": 2.0596421471172963, + "grad_norm": 8.290109634399414, + "learning_rate": 1.1182082191023955e-06, + "loss": 0.028, + "num_input_tokens_seen": 30424096, + "step": 15540 + }, + { + "epoch": 2.0597746852220014, + "grad_norm": 1.834067702293396, + "learning_rate": 1.1179189388795495e-06, + "loss": 0.0529, + "num_input_tokens_seen": 30426288, + "step": 15541 + }, + { + "epoch": 2.0599072233267064, + "grad_norm": 0.09055990725755692, + "learning_rate": 1.1176296853041798e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30428312, + "step": 15542 + }, + { + "epoch": 2.0600397614314114, + "grad_norm": 0.26919493079185486, + "learning_rate": 1.1173404583818625e-06, + "loss": 0.0011, + "num_input_tokens_seen": 30430160, + "step": 15543 + }, + { + "epoch": 2.0601722995361165, + "grad_norm": 22.029064178466797, + "learning_rate": 1.1170512581181758e-06, + "loss": 0.0489, + "num_input_tokens_seen": 30432776, + "step": 15544 + }, + { + "epoch": 2.060304837640822, + "grad_norm": 5.290366172790527, + "learning_rate": 1.1167620845186941e-06, + "loss": 0.0781, + "num_input_tokens_seen": 30435080, + "step": 15545 + }, + { + "epoch": 2.060437375745527, + "grad_norm": 2.166100263595581, + "learning_rate": 1.1164729375889945e-06, + "loss": 0.0091, + "num_input_tokens_seen": 30436928, + "step": 15546 + }, + { + "epoch": 2.060569913850232, + "grad_norm": 0.04409104958176613, + "learning_rate": 1.1161838173346516e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30438928, + "step": 15547 + }, + { + "epoch": 2.060702451954937, + "grad_norm": 2.7763524055480957, + "learning_rate": 1.1158947237612378e-06, + "loss": 0.0603, + "num_input_tokens_seen": 30441016, + "step": 15548 + }, + { + "epoch": 2.060834990059642, + "grad_norm": 0.26584023237228394, + "learning_rate": 1.1156056568743298e-06, + "loss": 0.0006, + "num_input_tokens_seen": 30442504, + "step": 15549 + }, + { + "epoch": 2.060967528164347, + "grad_norm": 0.04696989804506302, + "learning_rate": 1.1153166166794996e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30445112, + "step": 15550 + }, + { + "epoch": 2.061100066269052, + "grad_norm": 0.21734485030174255, + "learning_rate": 1.1150276031823194e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30446656, + "step": 15551 + }, + { + "epoch": 2.0612326043737577, + "grad_norm": 0.039966125041246414, + "learning_rate": 1.1147386163883633e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30449464, + "step": 15552 + }, + { + "epoch": 2.0613651424784627, + "grad_norm": 0.12212853878736496, + "learning_rate": 1.1144496563032026e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30451464, + "step": 15553 + }, + { + "epoch": 2.0614976805831677, + "grad_norm": 0.15539419651031494, + "learning_rate": 1.1141607229324072e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30453408, + "step": 15554 + }, + { + "epoch": 2.0616302186878728, + "grad_norm": 1.5211808681488037, + "learning_rate": 1.11387181628155e-06, + "loss": 0.0093, + "num_input_tokens_seen": 30454696, + "step": 15555 + }, + { + "epoch": 2.061762756792578, + "grad_norm": 0.7057515382766724, + "learning_rate": 1.1135829363561998e-06, + "loss": 0.0082, + "num_input_tokens_seen": 30457304, + "step": 15556 + }, + { + "epoch": 2.061895294897283, + "grad_norm": 0.09861530363559723, + "learning_rate": 1.1132940831619277e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30459696, + "step": 15557 + }, + { + "epoch": 2.062027833001988, + "grad_norm": 1.4271506071090698, + "learning_rate": 1.1130052567043024e-06, + "loss": 0.0305, + "num_input_tokens_seen": 30462216, + "step": 15558 + }, + { + "epoch": 2.0621603711066934, + "grad_norm": 3.823723554611206, + "learning_rate": 1.1127164569888923e-06, + "loss": 0.0536, + "num_input_tokens_seen": 30464016, + "step": 15559 + }, + { + "epoch": 2.0622929092113984, + "grad_norm": 0.010620694607496262, + "learning_rate": 1.1124276840212654e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30465360, + "step": 15560 + }, + { + "epoch": 2.0624254473161034, + "grad_norm": 0.34943994879722595, + "learning_rate": 1.11213893780699e-06, + "loss": 0.0021, + "num_input_tokens_seen": 30468168, + "step": 15561 + }, + { + "epoch": 2.0625579854208085, + "grad_norm": 0.05902186036109924, + "learning_rate": 1.1118502183516338e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30469416, + "step": 15562 + }, + { + "epoch": 2.0626905235255135, + "grad_norm": 6.210346221923828, + "learning_rate": 1.1115615256607634e-06, + "loss": 0.0733, + "num_input_tokens_seen": 30471592, + "step": 15563 + }, + { + "epoch": 2.0628230616302186, + "grad_norm": 1.0637727975845337, + "learning_rate": 1.1112728597399447e-06, + "loss": 0.0133, + "num_input_tokens_seen": 30473728, + "step": 15564 + }, + { + "epoch": 2.0629555997349236, + "grad_norm": 5.535642147064209, + "learning_rate": 1.1109842205947429e-06, + "loss": 0.0697, + "num_input_tokens_seen": 30476608, + "step": 15565 + }, + { + "epoch": 2.063088137839629, + "grad_norm": 7.507172584533691, + "learning_rate": 1.110695608230723e-06, + "loss": 0.0352, + "num_input_tokens_seen": 30479048, + "step": 15566 + }, + { + "epoch": 2.063220675944334, + "grad_norm": 12.416289329528809, + "learning_rate": 1.1104070226534502e-06, + "loss": 0.0238, + "num_input_tokens_seen": 30482240, + "step": 15567 + }, + { + "epoch": 2.063353214049039, + "grad_norm": 4.581946849822998, + "learning_rate": 1.1101184638684895e-06, + "loss": 0.1026, + "num_input_tokens_seen": 30484552, + "step": 15568 + }, + { + "epoch": 2.063485752153744, + "grad_norm": 3.624699354171753, + "learning_rate": 1.1098299318814034e-06, + "loss": 0.0426, + "num_input_tokens_seen": 30487320, + "step": 15569 + }, + { + "epoch": 2.0636182902584492, + "grad_norm": 0.01999441161751747, + "learning_rate": 1.1095414266977555e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30488840, + "step": 15570 + }, + { + "epoch": 2.0637508283631543, + "grad_norm": 0.0074171340093016624, + "learning_rate": 1.1092529483231072e-06, + "loss": 0.0, + "num_input_tokens_seen": 30490904, + "step": 15571 + }, + { + "epoch": 2.0638833664678593, + "grad_norm": 0.4564054310321808, + "learning_rate": 1.1089644967630222e-06, + "loss": 0.0018, + "num_input_tokens_seen": 30493416, + "step": 15572 + }, + { + "epoch": 2.064015904572565, + "grad_norm": 3.3340210914611816, + "learning_rate": 1.1086760720230608e-06, + "loss": 0.0284, + "num_input_tokens_seen": 30495224, + "step": 15573 + }, + { + "epoch": 2.06414844267727, + "grad_norm": 4.7557573318481445, + "learning_rate": 1.108387674108785e-06, + "loss": 0.0622, + "num_input_tokens_seen": 30497176, + "step": 15574 + }, + { + "epoch": 2.064280980781975, + "grad_norm": 3.7444674968719482, + "learning_rate": 1.1080993030257552e-06, + "loss": 0.0214, + "num_input_tokens_seen": 30499200, + "step": 15575 + }, + { + "epoch": 2.06441351888668, + "grad_norm": 0.49361658096313477, + "learning_rate": 1.1078109587795311e-06, + "loss": 0.0016, + "num_input_tokens_seen": 30501944, + "step": 15576 + }, + { + "epoch": 2.064546056991385, + "grad_norm": 0.2739591896533966, + "learning_rate": 1.107522641375671e-06, + "loss": 0.0014, + "num_input_tokens_seen": 30504800, + "step": 15577 + }, + { + "epoch": 2.06467859509609, + "grad_norm": 3.0551302433013916, + "learning_rate": 1.107234350819735e-06, + "loss": 0.0338, + "num_input_tokens_seen": 30506624, + "step": 15578 + }, + { + "epoch": 2.064811133200795, + "grad_norm": 0.0026384168304502964, + "learning_rate": 1.1069460871172824e-06, + "loss": 0.0, + "num_input_tokens_seen": 30508160, + "step": 15579 + }, + { + "epoch": 2.0649436713055005, + "grad_norm": 8.979805946350098, + "learning_rate": 1.1066578502738704e-06, + "loss": 0.0652, + "num_input_tokens_seen": 30510032, + "step": 15580 + }, + { + "epoch": 2.0650762094102055, + "grad_norm": 0.24447518587112427, + "learning_rate": 1.1063696402950564e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30511552, + "step": 15581 + }, + { + "epoch": 2.0652087475149106, + "grad_norm": 0.006602340843528509, + "learning_rate": 1.106081457186396e-06, + "loss": 0.0, + "num_input_tokens_seen": 30513392, + "step": 15582 + }, + { + "epoch": 2.0653412856196156, + "grad_norm": 0.08674134314060211, + "learning_rate": 1.1057933009534477e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30515072, + "step": 15583 + }, + { + "epoch": 2.0654738237243206, + "grad_norm": 4.394766807556152, + "learning_rate": 1.1055051716017653e-06, + "loss": 0.039, + "num_input_tokens_seen": 30516920, + "step": 15584 + }, + { + "epoch": 2.0656063618290257, + "grad_norm": 0.7011305093765259, + "learning_rate": 1.1052170691369064e-06, + "loss": 0.003, + "num_input_tokens_seen": 30518464, + "step": 15585 + }, + { + "epoch": 2.0657388999337307, + "grad_norm": 2.0482728481292725, + "learning_rate": 1.1049289935644245e-06, + "loss": 0.0063, + "num_input_tokens_seen": 30520368, + "step": 15586 + }, + { + "epoch": 2.065871438038436, + "grad_norm": 0.005785080138593912, + "learning_rate": 1.1046409448898732e-06, + "loss": 0.0, + "num_input_tokens_seen": 30521688, + "step": 15587 + }, + { + "epoch": 2.0660039761431412, + "grad_norm": 1.315003752708435, + "learning_rate": 1.104352923118808e-06, + "loss": 0.0059, + "num_input_tokens_seen": 30523168, + "step": 15588 + }, + { + "epoch": 2.0661365142478463, + "grad_norm": 8.820904731750488, + "learning_rate": 1.1040649282567812e-06, + "loss": 0.0734, + "num_input_tokens_seen": 30524560, + "step": 15589 + }, + { + "epoch": 2.0662690523525513, + "grad_norm": 4.032207012176514, + "learning_rate": 1.1037769603093445e-06, + "loss": 0.0164, + "num_input_tokens_seen": 30526568, + "step": 15590 + }, + { + "epoch": 2.0664015904572564, + "grad_norm": 0.007713421247899532, + "learning_rate": 1.1034890192820522e-06, + "loss": 0.0, + "num_input_tokens_seen": 30528984, + "step": 15591 + }, + { + "epoch": 2.0665341285619614, + "grad_norm": 0.1903281807899475, + "learning_rate": 1.1032011051804542e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30531552, + "step": 15592 + }, + { + "epoch": 2.066666666666667, + "grad_norm": 1.278005599975586, + "learning_rate": 1.1029132180101031e-06, + "loss": 0.0074, + "num_input_tokens_seen": 30533880, + "step": 15593 + }, + { + "epoch": 2.066799204771372, + "grad_norm": 2.003617525100708, + "learning_rate": 1.1026253577765494e-06, + "loss": 0.016, + "num_input_tokens_seen": 30536072, + "step": 15594 + }, + { + "epoch": 2.066931742876077, + "grad_norm": 11.7857666015625, + "learning_rate": 1.1023375244853427e-06, + "loss": 0.2563, + "num_input_tokens_seen": 30538456, + "step": 15595 + }, + { + "epoch": 2.067064280980782, + "grad_norm": 17.706703186035156, + "learning_rate": 1.1020497181420317e-06, + "loss": 0.1293, + "num_input_tokens_seen": 30540712, + "step": 15596 + }, + { + "epoch": 2.067196819085487, + "grad_norm": 5.082114219665527, + "learning_rate": 1.1017619387521667e-06, + "loss": 0.028, + "num_input_tokens_seen": 30542912, + "step": 15597 + }, + { + "epoch": 2.067329357190192, + "grad_norm": 3.0628409385681152, + "learning_rate": 1.1014741863212969e-06, + "loss": 0.0083, + "num_input_tokens_seen": 30544888, + "step": 15598 + }, + { + "epoch": 2.067461895294897, + "grad_norm": 0.015810780227184296, + "learning_rate": 1.1011864608549694e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30546912, + "step": 15599 + }, + { + "epoch": 2.0675944333996026, + "grad_norm": 0.07897867262363434, + "learning_rate": 1.1008987623587323e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30548136, + "step": 15600 + }, + { + "epoch": 2.0677269715043076, + "grad_norm": 7.408140659332275, + "learning_rate": 1.100611090838131e-06, + "loss": 0.0762, + "num_input_tokens_seen": 30549832, + "step": 15601 + }, + { + "epoch": 2.0678595096090127, + "grad_norm": 0.05522603169083595, + "learning_rate": 1.1003234462987134e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30552488, + "step": 15602 + }, + { + "epoch": 2.0679920477137177, + "grad_norm": 2.586780071258545, + "learning_rate": 1.1000358287460264e-06, + "loss": 0.0204, + "num_input_tokens_seen": 30554136, + "step": 15603 + }, + { + "epoch": 2.0681245858184227, + "grad_norm": 7.495153903961182, + "learning_rate": 1.0997482381856142e-06, + "loss": 0.0526, + "num_input_tokens_seen": 30555520, + "step": 15604 + }, + { + "epoch": 2.0682571239231278, + "grad_norm": 3.767066478729248, + "learning_rate": 1.0994606746230218e-06, + "loss": 0.0153, + "num_input_tokens_seen": 30557344, + "step": 15605 + }, + { + "epoch": 2.068389662027833, + "grad_norm": 0.003917413763701916, + "learning_rate": 1.099173138063794e-06, + "loss": 0.0, + "num_input_tokens_seen": 30560048, + "step": 15606 + }, + { + "epoch": 2.0685222001325383, + "grad_norm": 10.267508506774902, + "learning_rate": 1.0988856285134738e-06, + "loss": 0.0995, + "num_input_tokens_seen": 30562744, + "step": 15607 + }, + { + "epoch": 2.0686547382372433, + "grad_norm": 5.591651439666748, + "learning_rate": 1.0985981459776049e-06, + "loss": 0.0298, + "num_input_tokens_seen": 30563864, + "step": 15608 + }, + { + "epoch": 2.0687872763419484, + "grad_norm": 0.0009399955742992461, + "learning_rate": 1.0983106904617316e-06, + "loss": 0.0, + "num_input_tokens_seen": 30565544, + "step": 15609 + }, + { + "epoch": 2.0689198144466534, + "grad_norm": 3.633188247680664, + "learning_rate": 1.098023261971395e-06, + "loss": 0.0162, + "num_input_tokens_seen": 30566696, + "step": 15610 + }, + { + "epoch": 2.0690523525513584, + "grad_norm": 4.150951385498047, + "learning_rate": 1.0977358605121375e-06, + "loss": 0.0442, + "num_input_tokens_seen": 30568888, + "step": 15611 + }, + { + "epoch": 2.0691848906560635, + "grad_norm": 3.9707016944885254, + "learning_rate": 1.0974484860894996e-06, + "loss": 0.0364, + "num_input_tokens_seen": 30570688, + "step": 15612 + }, + { + "epoch": 2.0693174287607685, + "grad_norm": 10.351153373718262, + "learning_rate": 1.0971611387090213e-06, + "loss": 0.174, + "num_input_tokens_seen": 30573416, + "step": 15613 + }, + { + "epoch": 2.069449966865474, + "grad_norm": 0.05251673609018326, + "learning_rate": 1.0968738183762446e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30575064, + "step": 15614 + }, + { + "epoch": 2.069582504970179, + "grad_norm": 0.006597693543881178, + "learning_rate": 1.0965865250967093e-06, + "loss": 0.0, + "num_input_tokens_seen": 30576736, + "step": 15615 + }, + { + "epoch": 2.069715043074884, + "grad_norm": 0.0020662625320255756, + "learning_rate": 1.0962992588759539e-06, + "loss": 0.0, + "num_input_tokens_seen": 30578488, + "step": 15616 + }, + { + "epoch": 2.069847581179589, + "grad_norm": 11.229107856750488, + "learning_rate": 1.0960120197195173e-06, + "loss": 0.0317, + "num_input_tokens_seen": 30580072, + "step": 15617 + }, + { + "epoch": 2.069980119284294, + "grad_norm": 0.003116697771474719, + "learning_rate": 1.0957248076329365e-06, + "loss": 0.0, + "num_input_tokens_seen": 30581568, + "step": 15618 + }, + { + "epoch": 2.070112657388999, + "grad_norm": 6.35180139541626, + "learning_rate": 1.0954376226217512e-06, + "loss": 0.0588, + "num_input_tokens_seen": 30583744, + "step": 15619 + }, + { + "epoch": 2.0702451954937042, + "grad_norm": 8.3189697265625, + "learning_rate": 1.0951504646914965e-06, + "loss": 0.0829, + "num_input_tokens_seen": 30585736, + "step": 15620 + }, + { + "epoch": 2.0703777335984097, + "grad_norm": 0.0018414610531181097, + "learning_rate": 1.0948633338477108e-06, + "loss": 0.0, + "num_input_tokens_seen": 30587112, + "step": 15621 + }, + { + "epoch": 2.0705102717031147, + "grad_norm": 2.02024245262146, + "learning_rate": 1.0945762300959295e-06, + "loss": 0.0086, + "num_input_tokens_seen": 30588616, + "step": 15622 + }, + { + "epoch": 2.07064280980782, + "grad_norm": 1.6707075834274292, + "learning_rate": 1.0942891534416872e-06, + "loss": 0.0138, + "num_input_tokens_seen": 30590376, + "step": 15623 + }, + { + "epoch": 2.070775347912525, + "grad_norm": 8.425698280334473, + "learning_rate": 1.0940021038905204e-06, + "loss": 0.0832, + "num_input_tokens_seen": 30592304, + "step": 15624 + }, + { + "epoch": 2.07090788601723, + "grad_norm": 1.5428061485290527, + "learning_rate": 1.0937150814479633e-06, + "loss": 0.0109, + "num_input_tokens_seen": 30594056, + "step": 15625 + }, + { + "epoch": 2.071040424121935, + "grad_norm": 0.11055504530668259, + "learning_rate": 1.0934280861195483e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30596888, + "step": 15626 + }, + { + "epoch": 2.0711729622266404, + "grad_norm": 8.346808433532715, + "learning_rate": 1.0931411179108115e-06, + "loss": 0.0952, + "num_input_tokens_seen": 30598880, + "step": 15627 + }, + { + "epoch": 2.0713055003313454, + "grad_norm": 15.91106128692627, + "learning_rate": 1.0928541768272833e-06, + "loss": 0.2532, + "num_input_tokens_seen": 30601056, + "step": 15628 + }, + { + "epoch": 2.0714380384360505, + "grad_norm": 0.3768092095851898, + "learning_rate": 1.0925672628744986e-06, + "loss": 0.0016, + "num_input_tokens_seen": 30602640, + "step": 15629 + }, + { + "epoch": 2.0715705765407555, + "grad_norm": 6.7477192878723145, + "learning_rate": 1.0922803760579875e-06, + "loss": 0.116, + "num_input_tokens_seen": 30604736, + "step": 15630 + }, + { + "epoch": 2.0717031146454605, + "grad_norm": 3.7975878715515137, + "learning_rate": 1.0919935163832812e-06, + "loss": 0.0343, + "num_input_tokens_seen": 30607064, + "step": 15631 + }, + { + "epoch": 2.0718356527501656, + "grad_norm": 0.006137949414551258, + "learning_rate": 1.091706683855912e-06, + "loss": 0.0, + "num_input_tokens_seen": 30609384, + "step": 15632 + }, + { + "epoch": 2.0719681908548706, + "grad_norm": 5.424675464630127, + "learning_rate": 1.0914198784814098e-06, + "loss": 0.0522, + "num_input_tokens_seen": 30611400, + "step": 15633 + }, + { + "epoch": 2.072100728959576, + "grad_norm": 0.001382120419293642, + "learning_rate": 1.0911331002653028e-06, + "loss": 0.0, + "num_input_tokens_seen": 30613456, + "step": 15634 + }, + { + "epoch": 2.072233267064281, + "grad_norm": 11.579028129577637, + "learning_rate": 1.0908463492131227e-06, + "loss": 0.1353, + "num_input_tokens_seen": 30615264, + "step": 15635 + }, + { + "epoch": 2.072365805168986, + "grad_norm": 0.1011621356010437, + "learning_rate": 1.0905596253303968e-06, + "loss": 0.0005, + "num_input_tokens_seen": 30617640, + "step": 15636 + }, + { + "epoch": 2.072498343273691, + "grad_norm": 0.0009561904589645565, + "learning_rate": 1.0902729286226533e-06, + "loss": 0.0, + "num_input_tokens_seen": 30619496, + "step": 15637 + }, + { + "epoch": 2.0726308813783962, + "grad_norm": 6.552178382873535, + "learning_rate": 1.0899862590954208e-06, + "loss": 0.0836, + "num_input_tokens_seen": 30621368, + "step": 15638 + }, + { + "epoch": 2.0727634194831013, + "grad_norm": 10.103249549865723, + "learning_rate": 1.0896996167542248e-06, + "loss": 0.0541, + "num_input_tokens_seen": 30623288, + "step": 15639 + }, + { + "epoch": 2.0728959575878063, + "grad_norm": 0.0059693981893360615, + "learning_rate": 1.0894130016045945e-06, + "loss": 0.0, + "num_input_tokens_seen": 30624696, + "step": 15640 + }, + { + "epoch": 2.073028495692512, + "grad_norm": 0.0026253091637045145, + "learning_rate": 1.0891264136520543e-06, + "loss": 0.0, + "num_input_tokens_seen": 30626360, + "step": 15641 + }, + { + "epoch": 2.073161033797217, + "grad_norm": 0.027038373053073883, + "learning_rate": 1.0888398529021305e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30628784, + "step": 15642 + }, + { + "epoch": 2.073293571901922, + "grad_norm": 4.406414985656738, + "learning_rate": 1.0885533193603465e-06, + "loss": 0.0233, + "num_input_tokens_seen": 30630728, + "step": 15643 + }, + { + "epoch": 2.073426110006627, + "grad_norm": 10.237838745117188, + "learning_rate": 1.0882668130322286e-06, + "loss": 0.0855, + "num_input_tokens_seen": 30633304, + "step": 15644 + }, + { + "epoch": 2.073558648111332, + "grad_norm": 0.11725832521915436, + "learning_rate": 1.0879803339233012e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30634888, + "step": 15645 + }, + { + "epoch": 2.073691186216037, + "grad_norm": 0.007014408241957426, + "learning_rate": 1.087693882039087e-06, + "loss": 0.0, + "num_input_tokens_seen": 30636456, + "step": 15646 + }, + { + "epoch": 2.073823724320742, + "grad_norm": 3.143859624862671, + "learning_rate": 1.087407457385109e-06, + "loss": 0.0237, + "num_input_tokens_seen": 30638368, + "step": 15647 + }, + { + "epoch": 2.0739562624254475, + "grad_norm": 0.0034100699704140425, + "learning_rate": 1.08712105996689e-06, + "loss": 0.0, + "num_input_tokens_seen": 30640248, + "step": 15648 + }, + { + "epoch": 2.0740888005301525, + "grad_norm": 0.0039882175624370575, + "learning_rate": 1.0868346897899504e-06, + "loss": 0.0, + "num_input_tokens_seen": 30641344, + "step": 15649 + }, + { + "epoch": 2.0742213386348576, + "grad_norm": 1.9186447858810425, + "learning_rate": 1.0865483468598131e-06, + "loss": 0.0037, + "num_input_tokens_seen": 30642760, + "step": 15650 + }, + { + "epoch": 2.0743538767395626, + "grad_norm": 7.453917026519775, + "learning_rate": 1.0862620311819995e-06, + "loss": 0.1281, + "num_input_tokens_seen": 30645128, + "step": 15651 + }, + { + "epoch": 2.0744864148442677, + "grad_norm": 0.030806077644228935, + "learning_rate": 1.0859757427620293e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30647232, + "step": 15652 + }, + { + "epoch": 2.0746189529489727, + "grad_norm": 1.731955647468567, + "learning_rate": 1.0856894816054226e-06, + "loss": 0.0041, + "num_input_tokens_seen": 30648952, + "step": 15653 + }, + { + "epoch": 2.0747514910536777, + "grad_norm": 0.0033239470794796944, + "learning_rate": 1.085403247717697e-06, + "loss": 0.0, + "num_input_tokens_seen": 30650640, + "step": 15654 + }, + { + "epoch": 2.074884029158383, + "grad_norm": 3.5409607887268066, + "learning_rate": 1.085117041104373e-06, + "loss": 0.0253, + "num_input_tokens_seen": 30652376, + "step": 15655 + }, + { + "epoch": 2.0750165672630883, + "grad_norm": 0.012350587174296379, + "learning_rate": 1.0848308617709692e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30653896, + "step": 15656 + }, + { + "epoch": 2.0751491053677933, + "grad_norm": 15.54128360748291, + "learning_rate": 1.0845447097230028e-06, + "loss": 0.1714, + "num_input_tokens_seen": 30656072, + "step": 15657 + }, + { + "epoch": 2.0752816434724983, + "grad_norm": 5.086503505706787, + "learning_rate": 1.0842585849659907e-06, + "loss": 0.0153, + "num_input_tokens_seen": 30658000, + "step": 15658 + }, + { + "epoch": 2.0754141815772034, + "grad_norm": 3.505248785018921, + "learning_rate": 1.0839724875054489e-06, + "loss": 0.0341, + "num_input_tokens_seen": 30660904, + "step": 15659 + }, + { + "epoch": 2.0755467196819084, + "grad_norm": 0.0017466357676312327, + "learning_rate": 1.0836864173468952e-06, + "loss": 0.0, + "num_input_tokens_seen": 30662008, + "step": 15660 + }, + { + "epoch": 2.0756792577866134, + "grad_norm": 8.56963062286377, + "learning_rate": 1.0834003744958437e-06, + "loss": 0.0618, + "num_input_tokens_seen": 30664192, + "step": 15661 + }, + { + "epoch": 2.075811795891319, + "grad_norm": 4.824145317077637, + "learning_rate": 1.0831143589578114e-06, + "loss": 0.0246, + "num_input_tokens_seen": 30666016, + "step": 15662 + }, + { + "epoch": 2.075944333996024, + "grad_norm": 2.6475234031677246, + "learning_rate": 1.0828283707383114e-06, + "loss": 0.0212, + "num_input_tokens_seen": 30668576, + "step": 15663 + }, + { + "epoch": 2.076076872100729, + "grad_norm": 0.005755844060331583, + "learning_rate": 1.0825424098428584e-06, + "loss": 0.0, + "num_input_tokens_seen": 30669928, + "step": 15664 + }, + { + "epoch": 2.076209410205434, + "grad_norm": 0.6506161689758301, + "learning_rate": 1.0822564762769642e-06, + "loss": 0.003, + "num_input_tokens_seen": 30671304, + "step": 15665 + }, + { + "epoch": 2.076341948310139, + "grad_norm": 6.855581283569336, + "learning_rate": 1.0819705700461444e-06, + "loss": 0.1124, + "num_input_tokens_seen": 30674312, + "step": 15666 + }, + { + "epoch": 2.076474486414844, + "grad_norm": 0.0036196091677993536, + "learning_rate": 1.0816846911559093e-06, + "loss": 0.0, + "num_input_tokens_seen": 30675928, + "step": 15667 + }, + { + "epoch": 2.076607024519549, + "grad_norm": 6.430718421936035, + "learning_rate": 1.0813988396117726e-06, + "loss": 0.0972, + "num_input_tokens_seen": 30678384, + "step": 15668 + }, + { + "epoch": 2.0767395626242546, + "grad_norm": 0.9290914535522461, + "learning_rate": 1.0811130154192449e-06, + "loss": 0.0041, + "num_input_tokens_seen": 30679816, + "step": 15669 + }, + { + "epoch": 2.0768721007289597, + "grad_norm": 0.01108595822006464, + "learning_rate": 1.0808272185838365e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30682344, + "step": 15670 + }, + { + "epoch": 2.0770046388336647, + "grad_norm": 0.23477958142757416, + "learning_rate": 1.080541449111059e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30683728, + "step": 15671 + }, + { + "epoch": 2.0771371769383697, + "grad_norm": 0.3388933539390564, + "learning_rate": 1.0802557070064216e-06, + "loss": 0.0017, + "num_input_tokens_seen": 30685456, + "step": 15672 + }, + { + "epoch": 2.077269715043075, + "grad_norm": 0.6729179620742798, + "learning_rate": 1.0799699922754325e-06, + "loss": 0.0061, + "num_input_tokens_seen": 30687184, + "step": 15673 + }, + { + "epoch": 2.07740225314778, + "grad_norm": 3.9146993160247803, + "learning_rate": 1.0796843049236029e-06, + "loss": 0.0381, + "num_input_tokens_seen": 30689368, + "step": 15674 + }, + { + "epoch": 2.0775347912524853, + "grad_norm": 1.718767762184143, + "learning_rate": 1.0793986449564386e-06, + "loss": 0.0074, + "num_input_tokens_seen": 30692136, + "step": 15675 + }, + { + "epoch": 2.0776673293571903, + "grad_norm": 0.03927424177527428, + "learning_rate": 1.0791130123794493e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30693712, + "step": 15676 + }, + { + "epoch": 2.0777998674618954, + "grad_norm": 10.546500205993652, + "learning_rate": 1.0788274071981417e-06, + "loss": 0.1615, + "num_input_tokens_seen": 30696520, + "step": 15677 + }, + { + "epoch": 2.0779324055666004, + "grad_norm": 4.845993995666504, + "learning_rate": 1.0785418294180217e-06, + "loss": 0.0101, + "num_input_tokens_seen": 30698120, + "step": 15678 + }, + { + "epoch": 2.0780649436713055, + "grad_norm": 0.7104319930076599, + "learning_rate": 1.0782562790445952e-06, + "loss": 0.003, + "num_input_tokens_seen": 30700216, + "step": 15679 + }, + { + "epoch": 2.0781974817760105, + "grad_norm": 0.008045575581490993, + "learning_rate": 1.0779707560833683e-06, + "loss": 0.0, + "num_input_tokens_seen": 30702304, + "step": 15680 + }, + { + "epoch": 2.0783300198807155, + "grad_norm": 1.4252724647521973, + "learning_rate": 1.077685260539847e-06, + "loss": 0.0125, + "num_input_tokens_seen": 30704840, + "step": 15681 + }, + { + "epoch": 2.078462557985421, + "grad_norm": 0.8729941844940186, + "learning_rate": 1.0773997924195354e-06, + "loss": 0.0107, + "num_input_tokens_seen": 30706792, + "step": 15682 + }, + { + "epoch": 2.078595096090126, + "grad_norm": 0.23830415308475494, + "learning_rate": 1.077114351727937e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30709048, + "step": 15683 + }, + { + "epoch": 2.078727634194831, + "grad_norm": 0.021350722759962082, + "learning_rate": 1.0768289384705547e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30710952, + "step": 15684 + }, + { + "epoch": 2.078860172299536, + "grad_norm": 6.688378810882568, + "learning_rate": 1.0765435526528921e-06, + "loss": 0.0804, + "num_input_tokens_seen": 30713296, + "step": 15685 + }, + { + "epoch": 2.078992710404241, + "grad_norm": 0.025096315890550613, + "learning_rate": 1.0762581942804528e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30715184, + "step": 15686 + }, + { + "epoch": 2.079125248508946, + "grad_norm": 0.0030500064603984356, + "learning_rate": 1.0759728633587376e-06, + "loss": 0.0, + "num_input_tokens_seen": 30717624, + "step": 15687 + }, + { + "epoch": 2.0792577866136512, + "grad_norm": 0.0016398221487179399, + "learning_rate": 1.0756875598932483e-06, + "loss": 0.0, + "num_input_tokens_seen": 30719416, + "step": 15688 + }, + { + "epoch": 2.0793903247183567, + "grad_norm": 0.026959480717778206, + "learning_rate": 1.075402283889485e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30720976, + "step": 15689 + }, + { + "epoch": 2.0795228628230618, + "grad_norm": 8.587615966796875, + "learning_rate": 1.075117035352948e-06, + "loss": 0.144, + "num_input_tokens_seen": 30722408, + "step": 15690 + }, + { + "epoch": 2.079655400927767, + "grad_norm": 26.740758895874023, + "learning_rate": 1.0748318142891373e-06, + "loss": 0.2816, + "num_input_tokens_seen": 30724808, + "step": 15691 + }, + { + "epoch": 2.079787939032472, + "grad_norm": 12.042533874511719, + "learning_rate": 1.0745466207035532e-06, + "loss": 0.1271, + "num_input_tokens_seen": 30727648, + "step": 15692 + }, + { + "epoch": 2.079920477137177, + "grad_norm": 0.0011338124750182033, + "learning_rate": 1.0742614546016938e-06, + "loss": 0.0, + "num_input_tokens_seen": 30729016, + "step": 15693 + }, + { + "epoch": 2.080053015241882, + "grad_norm": 9.849433898925781, + "learning_rate": 1.073976315989057e-06, + "loss": 0.2909, + "num_input_tokens_seen": 30731112, + "step": 15694 + }, + { + "epoch": 2.080185553346587, + "grad_norm": 0.049355655908584595, + "learning_rate": 1.0736912048711406e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30732456, + "step": 15695 + }, + { + "epoch": 2.0803180914512924, + "grad_norm": 0.24109269678592682, + "learning_rate": 1.073406121253441e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30734696, + "step": 15696 + }, + { + "epoch": 2.0804506295559975, + "grad_norm": 5.256565570831299, + "learning_rate": 1.0731210651414554e-06, + "loss": 0.0737, + "num_input_tokens_seen": 30736760, + "step": 15697 + }, + { + "epoch": 2.0805831676607025, + "grad_norm": 3.112889528274536, + "learning_rate": 1.072836036540681e-06, + "loss": 0.0072, + "num_input_tokens_seen": 30738496, + "step": 15698 + }, + { + "epoch": 2.0807157057654075, + "grad_norm": 0.0024426295422017574, + "learning_rate": 1.072551035456612e-06, + "loss": 0.0, + "num_input_tokens_seen": 30739992, + "step": 15699 + }, + { + "epoch": 2.0808482438701126, + "grad_norm": 0.4003775715827942, + "learning_rate": 1.072266061894744e-06, + "loss": 0.003, + "num_input_tokens_seen": 30741296, + "step": 15700 + }, + { + "epoch": 2.0809807819748176, + "grad_norm": 0.0005502295680344105, + "learning_rate": 1.0719811158605705e-06, + "loss": 0.0, + "num_input_tokens_seen": 30742888, + "step": 15701 + }, + { + "epoch": 2.0811133200795227, + "grad_norm": 27.595748901367188, + "learning_rate": 1.0716961973595872e-06, + "loss": 0.3875, + "num_input_tokens_seen": 30745384, + "step": 15702 + }, + { + "epoch": 2.081245858184228, + "grad_norm": 0.013666347600519657, + "learning_rate": 1.0714113063972855e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30747200, + "step": 15703 + }, + { + "epoch": 2.081378396288933, + "grad_norm": 9.846649169921875, + "learning_rate": 1.0711264429791603e-06, + "loss": 0.1984, + "num_input_tokens_seen": 30749872, + "step": 15704 + }, + { + "epoch": 2.081510934393638, + "grad_norm": 0.540513277053833, + "learning_rate": 1.070841607110703e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30752200, + "step": 15705 + }, + { + "epoch": 2.0816434724983433, + "grad_norm": 0.006293957587331533, + "learning_rate": 1.0705567987974044e-06, + "loss": 0.0, + "num_input_tokens_seen": 30754784, + "step": 15706 + }, + { + "epoch": 2.0817760106030483, + "grad_norm": 8.046182632446289, + "learning_rate": 1.070272018044758e-06, + "loss": 0.0724, + "num_input_tokens_seen": 30756776, + "step": 15707 + }, + { + "epoch": 2.0819085487077533, + "grad_norm": 5.029483795166016, + "learning_rate": 1.0699872648582524e-06, + "loss": 0.0823, + "num_input_tokens_seen": 30758872, + "step": 15708 + }, + { + "epoch": 2.082041086812459, + "grad_norm": 7.679155349731445, + "learning_rate": 1.0697025392433796e-06, + "loss": 0.2164, + "num_input_tokens_seen": 30761368, + "step": 15709 + }, + { + "epoch": 2.082173624917164, + "grad_norm": 0.005175208672881126, + "learning_rate": 1.0694178412056286e-06, + "loss": 0.0, + "num_input_tokens_seen": 30763600, + "step": 15710 + }, + { + "epoch": 2.082306163021869, + "grad_norm": 5.752948760986328, + "learning_rate": 1.0691331707504876e-06, + "loss": 0.1721, + "num_input_tokens_seen": 30766288, + "step": 15711 + }, + { + "epoch": 2.082438701126574, + "grad_norm": 0.7267287969589233, + "learning_rate": 1.0688485278834473e-06, + "loss": 0.0034, + "num_input_tokens_seen": 30768656, + "step": 15712 + }, + { + "epoch": 2.082571239231279, + "grad_norm": 0.00043109190301038325, + "learning_rate": 1.0685639126099946e-06, + "loss": 0.0, + "num_input_tokens_seen": 30770320, + "step": 15713 + }, + { + "epoch": 2.082703777335984, + "grad_norm": 0.012856950983405113, + "learning_rate": 1.068279324935616e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30771712, + "step": 15714 + }, + { + "epoch": 2.082836315440689, + "grad_norm": 0.01941719278693199, + "learning_rate": 1.067994764865801e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30774136, + "step": 15715 + }, + { + "epoch": 2.0829688535453945, + "grad_norm": 8.578277587890625, + "learning_rate": 1.0677102324060337e-06, + "loss": 0.0513, + "num_input_tokens_seen": 30776848, + "step": 15716 + }, + { + "epoch": 2.0831013916500996, + "grad_norm": 0.0035853462759405375, + "learning_rate": 1.0674257275618022e-06, + "loss": 0.0, + "num_input_tokens_seen": 30778608, + "step": 15717 + }, + { + "epoch": 2.0832339297548046, + "grad_norm": 1.1351906061172485, + "learning_rate": 1.0671412503385909e-06, + "loss": 0.0083, + "num_input_tokens_seen": 30780360, + "step": 15718 + }, + { + "epoch": 2.0833664678595096, + "grad_norm": 0.0022894712164998055, + "learning_rate": 1.0668568007418847e-06, + "loss": 0.0, + "num_input_tokens_seen": 30782232, + "step": 15719 + }, + { + "epoch": 2.0834990059642147, + "grad_norm": 17.818450927734375, + "learning_rate": 1.0665723787771674e-06, + "loss": 0.0557, + "num_input_tokens_seen": 30784704, + "step": 15720 + }, + { + "epoch": 2.0836315440689197, + "grad_norm": 0.0014743497595191002, + "learning_rate": 1.066287984449924e-06, + "loss": 0.0, + "num_input_tokens_seen": 30786176, + "step": 15721 + }, + { + "epoch": 2.0837640821736247, + "grad_norm": 0.0021800766699016094, + "learning_rate": 1.0660036177656368e-06, + "loss": 0.0, + "num_input_tokens_seen": 30788672, + "step": 15722 + }, + { + "epoch": 2.0838966202783302, + "grad_norm": 0.005285558290779591, + "learning_rate": 1.0657192787297899e-06, + "loss": 0.0, + "num_input_tokens_seen": 30790512, + "step": 15723 + }, + { + "epoch": 2.0840291583830353, + "grad_norm": 7.095405101776123, + "learning_rate": 1.0654349673478647e-06, + "loss": 0.0623, + "num_input_tokens_seen": 30793192, + "step": 15724 + }, + { + "epoch": 2.0841616964877403, + "grad_norm": 12.228784561157227, + "learning_rate": 1.0651506836253432e-06, + "loss": 0.0968, + "num_input_tokens_seen": 30795608, + "step": 15725 + }, + { + "epoch": 2.0842942345924453, + "grad_norm": 7.088786602020264, + "learning_rate": 1.064866427567705e-06, + "loss": 0.0733, + "num_input_tokens_seen": 30797592, + "step": 15726 + }, + { + "epoch": 2.0844267726971504, + "grad_norm": 1.7811346054077148, + "learning_rate": 1.0645821991804325e-06, + "loss": 0.0037, + "num_input_tokens_seen": 30799416, + "step": 15727 + }, + { + "epoch": 2.0845593108018554, + "grad_norm": 0.026214804500341415, + "learning_rate": 1.0642979984690062e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30800784, + "step": 15728 + }, + { + "epoch": 2.0846918489065605, + "grad_norm": 0.023870134726166725, + "learning_rate": 1.0640138254389051e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30803352, + "step": 15729 + }, + { + "epoch": 2.084824387011266, + "grad_norm": 8.722799301147461, + "learning_rate": 1.063729680095608e-06, + "loss": 0.0493, + "num_input_tokens_seen": 30805408, + "step": 15730 + }, + { + "epoch": 2.084956925115971, + "grad_norm": 13.073636054992676, + "learning_rate": 1.0634455624445927e-06, + "loss": 0.1758, + "num_input_tokens_seen": 30807136, + "step": 15731 + }, + { + "epoch": 2.085089463220676, + "grad_norm": 3.7375450134277344, + "learning_rate": 1.0631614724913387e-06, + "loss": 0.0738, + "num_input_tokens_seen": 30808688, + "step": 15732 + }, + { + "epoch": 2.085222001325381, + "grad_norm": 2.272077798843384, + "learning_rate": 1.062877410241322e-06, + "loss": 0.0223, + "num_input_tokens_seen": 30810712, + "step": 15733 + }, + { + "epoch": 2.085354539430086, + "grad_norm": 4.507503509521484, + "learning_rate": 1.0625933757000209e-06, + "loss": 0.0783, + "num_input_tokens_seen": 30813480, + "step": 15734 + }, + { + "epoch": 2.085487077534791, + "grad_norm": 6.6946702003479, + "learning_rate": 1.0623093688729114e-06, + "loss": 0.0495, + "num_input_tokens_seen": 30815104, + "step": 15735 + }, + { + "epoch": 2.085619615639496, + "grad_norm": 10.333877563476562, + "learning_rate": 1.062025389765469e-06, + "loss": 0.1036, + "num_input_tokens_seen": 30816592, + "step": 15736 + }, + { + "epoch": 2.0857521537442016, + "grad_norm": 0.027525320649147034, + "learning_rate": 1.0617414383831682e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30818584, + "step": 15737 + }, + { + "epoch": 2.0858846918489067, + "grad_norm": 0.006066696718335152, + "learning_rate": 1.0614575147314845e-06, + "loss": 0.0, + "num_input_tokens_seen": 30820576, + "step": 15738 + }, + { + "epoch": 2.0860172299536117, + "grad_norm": 0.0009308741427958012, + "learning_rate": 1.0611736188158934e-06, + "loss": 0.0, + "num_input_tokens_seen": 30821864, + "step": 15739 + }, + { + "epoch": 2.0861497680583168, + "grad_norm": 0.46596428751945496, + "learning_rate": 1.0608897506418676e-06, + "loss": 0.0012, + "num_input_tokens_seen": 30823344, + "step": 15740 + }, + { + "epoch": 2.086282306163022, + "grad_norm": 0.00742074241861701, + "learning_rate": 1.0606059102148799e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30825264, + "step": 15741 + }, + { + "epoch": 2.086414844267727, + "grad_norm": 0.006214355118572712, + "learning_rate": 1.0603220975404024e-06, + "loss": 0.0, + "num_input_tokens_seen": 30827480, + "step": 15742 + }, + { + "epoch": 2.086547382372432, + "grad_norm": 0.006490678060799837, + "learning_rate": 1.060038312623909e-06, + "loss": 0.0, + "num_input_tokens_seen": 30829008, + "step": 15743 + }, + { + "epoch": 2.0866799204771374, + "grad_norm": 1.5100146532058716, + "learning_rate": 1.0597545554708696e-06, + "loss": 0.0117, + "num_input_tokens_seen": 30830976, + "step": 15744 + }, + { + "epoch": 2.0868124585818424, + "grad_norm": 3.784529447555542, + "learning_rate": 1.0594708260867567e-06, + "loss": 0.0677, + "num_input_tokens_seen": 30832760, + "step": 15745 + }, + { + "epoch": 2.0869449966865474, + "grad_norm": 0.9434930682182312, + "learning_rate": 1.05918712447704e-06, + "loss": 0.014, + "num_input_tokens_seen": 30834480, + "step": 15746 + }, + { + "epoch": 2.0870775347912525, + "grad_norm": 0.37713301181793213, + "learning_rate": 1.0589034506471888e-06, + "loss": 0.0017, + "num_input_tokens_seen": 30835880, + "step": 15747 + }, + { + "epoch": 2.0872100728959575, + "grad_norm": 4.0520477294921875, + "learning_rate": 1.0586198046026739e-06, + "loss": 0.0194, + "num_input_tokens_seen": 30838720, + "step": 15748 + }, + { + "epoch": 2.0873426110006625, + "grad_norm": 0.01979968696832657, + "learning_rate": 1.0583361863489637e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30841552, + "step": 15749 + }, + { + "epoch": 2.0874751491053676, + "grad_norm": 5.28080940246582, + "learning_rate": 1.0580525958915252e-06, + "loss": 0.0282, + "num_input_tokens_seen": 30843368, + "step": 15750 + }, + { + "epoch": 2.087607687210073, + "grad_norm": 0.10151394456624985, + "learning_rate": 1.0577690332358284e-06, + "loss": 0.0009, + "num_input_tokens_seen": 30845472, + "step": 15751 + }, + { + "epoch": 2.087740225314778, + "grad_norm": 7.579641342163086, + "learning_rate": 1.0574854983873399e-06, + "loss": 0.0678, + "num_input_tokens_seen": 30846880, + "step": 15752 + }, + { + "epoch": 2.087872763419483, + "grad_norm": 2.807560682296753, + "learning_rate": 1.057201991351525e-06, + "loss": 0.0331, + "num_input_tokens_seen": 30848208, + "step": 15753 + }, + { + "epoch": 2.088005301524188, + "grad_norm": 0.01925724372267723, + "learning_rate": 1.0569185121338518e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30849456, + "step": 15754 + }, + { + "epoch": 2.088137839628893, + "grad_norm": 0.04092009738087654, + "learning_rate": 1.0566350607397855e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30851448, + "step": 15755 + }, + { + "epoch": 2.0882703777335982, + "grad_norm": 0.0008798489579930902, + "learning_rate": 1.0563516371747899e-06, + "loss": 0.0, + "num_input_tokens_seen": 30852776, + "step": 15756 + }, + { + "epoch": 2.0884029158383033, + "grad_norm": 4.096704483032227, + "learning_rate": 1.0560682414443315e-06, + "loss": 0.0821, + "num_input_tokens_seen": 30854656, + "step": 15757 + }, + { + "epoch": 2.0885354539430088, + "grad_norm": 5.232241153717041, + "learning_rate": 1.055784873553873e-06, + "loss": 0.0692, + "num_input_tokens_seen": 30857176, + "step": 15758 + }, + { + "epoch": 2.088667992047714, + "grad_norm": 0.0029214764945209026, + "learning_rate": 1.0555015335088786e-06, + "loss": 0.0, + "num_input_tokens_seen": 30858496, + "step": 15759 + }, + { + "epoch": 2.088800530152419, + "grad_norm": 0.010639924556016922, + "learning_rate": 1.0552182213148119e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30861792, + "step": 15760 + }, + { + "epoch": 2.088933068257124, + "grad_norm": 0.005878801457583904, + "learning_rate": 1.0549349369771333e-06, + "loss": 0.0, + "num_input_tokens_seen": 30863576, + "step": 15761 + }, + { + "epoch": 2.089065606361829, + "grad_norm": 0.4838116765022278, + "learning_rate": 1.0546516805013068e-06, + "loss": 0.0034, + "num_input_tokens_seen": 30865000, + "step": 15762 + }, + { + "epoch": 2.089198144466534, + "grad_norm": 4.713444232940674, + "learning_rate": 1.0543684518927924e-06, + "loss": 0.0361, + "num_input_tokens_seen": 30866720, + "step": 15763 + }, + { + "epoch": 2.0893306825712394, + "grad_norm": 1.145693302154541, + "learning_rate": 1.0540852511570524e-06, + "loss": 0.0094, + "num_input_tokens_seen": 30868248, + "step": 15764 + }, + { + "epoch": 2.0894632206759445, + "grad_norm": 0.01238220650702715, + "learning_rate": 1.053802078299546e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30869544, + "step": 15765 + }, + { + "epoch": 2.0895957587806495, + "grad_norm": 10.222021102905273, + "learning_rate": 1.0535189333257334e-06, + "loss": 0.1139, + "num_input_tokens_seen": 30872752, + "step": 15766 + }, + { + "epoch": 2.0897282968853546, + "grad_norm": 8.535482406616211, + "learning_rate": 1.0532358162410728e-06, + "loss": 0.0782, + "num_input_tokens_seen": 30874544, + "step": 15767 + }, + { + "epoch": 2.0898608349900596, + "grad_norm": 0.03400085121393204, + "learning_rate": 1.0529527270510236e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30875968, + "step": 15768 + }, + { + "epoch": 2.0899933730947646, + "grad_norm": 0.1607217788696289, + "learning_rate": 1.0526696657610452e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30877944, + "step": 15769 + }, + { + "epoch": 2.0901259111994697, + "grad_norm": 4.264970779418945, + "learning_rate": 1.0523866323765939e-06, + "loss": 0.0465, + "num_input_tokens_seen": 30879688, + "step": 15770 + }, + { + "epoch": 2.090258449304175, + "grad_norm": 0.02093798853456974, + "learning_rate": 1.0521036269031272e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30881104, + "step": 15771 + }, + { + "epoch": 2.09039098740888, + "grad_norm": 0.010911175981163979, + "learning_rate": 1.0518206493461011e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30882808, + "step": 15772 + }, + { + "epoch": 2.0905235255135852, + "grad_norm": 0.8723084926605225, + "learning_rate": 1.0515376997109714e-06, + "loss": 0.0039, + "num_input_tokens_seen": 30885168, + "step": 15773 + }, + { + "epoch": 2.0906560636182903, + "grad_norm": 0.6231458783149719, + "learning_rate": 1.0512547780031936e-06, + "loss": 0.0034, + "num_input_tokens_seen": 30886416, + "step": 15774 + }, + { + "epoch": 2.0907886017229953, + "grad_norm": 1.060481309890747, + "learning_rate": 1.0509718842282244e-06, + "loss": 0.0116, + "num_input_tokens_seen": 30888296, + "step": 15775 + }, + { + "epoch": 2.0909211398277003, + "grad_norm": 0.2933771312236786, + "learning_rate": 1.050689018391517e-06, + "loss": 0.0019, + "num_input_tokens_seen": 30889768, + "step": 15776 + }, + { + "epoch": 2.0910536779324054, + "grad_norm": 0.39020004868507385, + "learning_rate": 1.050406180498525e-06, + "loss": 0.003, + "num_input_tokens_seen": 30892304, + "step": 15777 + }, + { + "epoch": 2.091186216037111, + "grad_norm": 0.008754143491387367, + "learning_rate": 1.0501233705547017e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30893848, + "step": 15778 + }, + { + "epoch": 2.091318754141816, + "grad_norm": 3.399904489517212, + "learning_rate": 1.049840588565499e-06, + "loss": 0.0442, + "num_input_tokens_seen": 30895400, + "step": 15779 + }, + { + "epoch": 2.091451292246521, + "grad_norm": 9.70892333984375, + "learning_rate": 1.0495578345363707e-06, + "loss": 0.1642, + "num_input_tokens_seen": 30896888, + "step": 15780 + }, + { + "epoch": 2.091583830351226, + "grad_norm": 0.03751688078045845, + "learning_rate": 1.0492751084727684e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30898304, + "step": 15781 + }, + { + "epoch": 2.091716368455931, + "grad_norm": 0.0934995487332344, + "learning_rate": 1.0489924103801433e-06, + "loss": 0.0003, + "num_input_tokens_seen": 30900344, + "step": 15782 + }, + { + "epoch": 2.091848906560636, + "grad_norm": 2.26963210105896, + "learning_rate": 1.0487097402639452e-06, + "loss": 0.0145, + "num_input_tokens_seen": 30903096, + "step": 15783 + }, + { + "epoch": 2.091981444665341, + "grad_norm": 2.6690514087677, + "learning_rate": 1.0484270981296236e-06, + "loss": 0.021, + "num_input_tokens_seen": 30904928, + "step": 15784 + }, + { + "epoch": 2.0921139827700466, + "grad_norm": 0.009096693247556686, + "learning_rate": 1.0481444839826288e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30906928, + "step": 15785 + }, + { + "epoch": 2.0922465208747516, + "grad_norm": 0.009975298307836056, + "learning_rate": 1.047861897828411e-06, + "loss": 0.0, + "num_input_tokens_seen": 30908728, + "step": 15786 + }, + { + "epoch": 2.0923790589794566, + "grad_norm": 0.12505173683166504, + "learning_rate": 1.0475793396724176e-06, + "loss": 0.0008, + "num_input_tokens_seen": 30911792, + "step": 15787 + }, + { + "epoch": 2.0925115970841617, + "grad_norm": 0.007718898355960846, + "learning_rate": 1.0472968095200967e-06, + "loss": 0.0, + "num_input_tokens_seen": 30913344, + "step": 15788 + }, + { + "epoch": 2.0926441351888667, + "grad_norm": 0.005531830247491598, + "learning_rate": 1.0470143073768943e-06, + "loss": 0.0, + "num_input_tokens_seen": 30915392, + "step": 15789 + }, + { + "epoch": 2.0927766732935718, + "grad_norm": 1.8126064538955688, + "learning_rate": 1.0467318332482593e-06, + "loss": 0.0171, + "num_input_tokens_seen": 30917344, + "step": 15790 + }, + { + "epoch": 2.092909211398277, + "grad_norm": 2.6063647270202637, + "learning_rate": 1.0464493871396363e-06, + "loss": 0.019, + "num_input_tokens_seen": 30919432, + "step": 15791 + }, + { + "epoch": 2.0930417495029823, + "grad_norm": 15.73050594329834, + "learning_rate": 1.0461669690564727e-06, + "loss": 0.0927, + "num_input_tokens_seen": 30922680, + "step": 15792 + }, + { + "epoch": 2.0931742876076873, + "grad_norm": 0.19147707521915436, + "learning_rate": 1.045884579004213e-06, + "loss": 0.0007, + "num_input_tokens_seen": 30924400, + "step": 15793 + }, + { + "epoch": 2.0933068257123923, + "grad_norm": 0.904897153377533, + "learning_rate": 1.0456022169883009e-06, + "loss": 0.0036, + "num_input_tokens_seen": 30926376, + "step": 15794 + }, + { + "epoch": 2.0934393638170974, + "grad_norm": 1.8791215419769287, + "learning_rate": 1.0453198830141823e-06, + "loss": 0.0051, + "num_input_tokens_seen": 30928608, + "step": 15795 + }, + { + "epoch": 2.0935719019218024, + "grad_norm": 8.004446029663086, + "learning_rate": 1.0450375770872997e-06, + "loss": 0.2814, + "num_input_tokens_seen": 30930464, + "step": 15796 + }, + { + "epoch": 2.0937044400265075, + "grad_norm": 0.0018178971949964762, + "learning_rate": 1.0447552992130956e-06, + "loss": 0.0, + "num_input_tokens_seen": 30931936, + "step": 15797 + }, + { + "epoch": 2.093836978131213, + "grad_norm": 2.8168511390686035, + "learning_rate": 1.044473049397014e-06, + "loss": 0.0341, + "num_input_tokens_seen": 30934056, + "step": 15798 + }, + { + "epoch": 2.093969516235918, + "grad_norm": 0.004515695385634899, + "learning_rate": 1.0441908276444953e-06, + "loss": 0.0, + "num_input_tokens_seen": 30937272, + "step": 15799 + }, + { + "epoch": 2.094102054340623, + "grad_norm": 3.269775867462158, + "learning_rate": 1.0439086339609828e-06, + "loss": 0.0326, + "num_input_tokens_seen": 30939704, + "step": 15800 + }, + { + "epoch": 2.094234592445328, + "grad_norm": 0.002671262715011835, + "learning_rate": 1.0436264683519163e-06, + "loss": 0.0, + "num_input_tokens_seen": 30941200, + "step": 15801 + }, + { + "epoch": 2.094367130550033, + "grad_norm": 2.299652576446533, + "learning_rate": 1.043344330822736e-06, + "loss": 0.0179, + "num_input_tokens_seen": 30943296, + "step": 15802 + }, + { + "epoch": 2.094499668654738, + "grad_norm": 0.0012987097725272179, + "learning_rate": 1.043062221378881e-06, + "loss": 0.0, + "num_input_tokens_seen": 30944720, + "step": 15803 + }, + { + "epoch": 2.094632206759443, + "grad_norm": 8.830548286437988, + "learning_rate": 1.0427801400257917e-06, + "loss": 0.0977, + "num_input_tokens_seen": 30947608, + "step": 15804 + }, + { + "epoch": 2.0947647448641487, + "grad_norm": 10.112425804138184, + "learning_rate": 1.042498086768907e-06, + "loss": 0.142, + "num_input_tokens_seen": 30949600, + "step": 15805 + }, + { + "epoch": 2.0948972829688537, + "grad_norm": 0.003482073312625289, + "learning_rate": 1.0422160616136653e-06, + "loss": 0.0, + "num_input_tokens_seen": 30951128, + "step": 15806 + }, + { + "epoch": 2.0950298210735587, + "grad_norm": 0.055163461714982986, + "learning_rate": 1.0419340645655032e-06, + "loss": 0.0004, + "num_input_tokens_seen": 30952920, + "step": 15807 + }, + { + "epoch": 2.0951623591782638, + "grad_norm": 5.391628742218018, + "learning_rate": 1.0416520956298585e-06, + "loss": 0.1044, + "num_input_tokens_seen": 30954656, + "step": 15808 + }, + { + "epoch": 2.095294897282969, + "grad_norm": 0.007142943330109119, + "learning_rate": 1.0413701548121664e-06, + "loss": 0.0, + "num_input_tokens_seen": 30956592, + "step": 15809 + }, + { + "epoch": 2.095427435387674, + "grad_norm": 4.809557914733887, + "learning_rate": 1.041088242117864e-06, + "loss": 0.0855, + "num_input_tokens_seen": 30959008, + "step": 15810 + }, + { + "epoch": 2.095559973492379, + "grad_norm": 5.410335063934326, + "learning_rate": 1.0408063575523874e-06, + "loss": 0.0861, + "num_input_tokens_seen": 30961624, + "step": 15811 + }, + { + "epoch": 2.0956925115970844, + "grad_norm": 0.03331515192985535, + "learning_rate": 1.040524501121171e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30964056, + "step": 15812 + }, + { + "epoch": 2.0958250497017894, + "grad_norm": 0.6891270875930786, + "learning_rate": 1.0402426728296495e-06, + "loss": 0.0035, + "num_input_tokens_seen": 30966128, + "step": 15813 + }, + { + "epoch": 2.0959575878064944, + "grad_norm": 5.943944931030273, + "learning_rate": 1.039960872683255e-06, + "loss": 0.035, + "num_input_tokens_seen": 30967760, + "step": 15814 + }, + { + "epoch": 2.0960901259111995, + "grad_norm": 1.827434778213501, + "learning_rate": 1.0396791006874218e-06, + "loss": 0.0212, + "num_input_tokens_seen": 30970392, + "step": 15815 + }, + { + "epoch": 2.0962226640159045, + "grad_norm": 10.489002227783203, + "learning_rate": 1.0393973568475843e-06, + "loss": 0.0826, + "num_input_tokens_seen": 30971784, + "step": 15816 + }, + { + "epoch": 2.0963552021206096, + "grad_norm": 0.013517944142222404, + "learning_rate": 1.0391156411691733e-06, + "loss": 0.0001, + "num_input_tokens_seen": 30973392, + "step": 15817 + }, + { + "epoch": 2.0964877402253146, + "grad_norm": 8.6538667678833, + "learning_rate": 1.0388339536576206e-06, + "loss": 0.1636, + "num_input_tokens_seen": 30975472, + "step": 15818 + }, + { + "epoch": 2.09662027833002, + "grad_norm": 8.85480785369873, + "learning_rate": 1.0385522943183572e-06, + "loss": 0.1616, + "num_input_tokens_seen": 30977696, + "step": 15819 + }, + { + "epoch": 2.096752816434725, + "grad_norm": 0.04853692278265953, + "learning_rate": 1.038270663156813e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30980488, + "step": 15820 + }, + { + "epoch": 2.09688535453943, + "grad_norm": 0.42406994104385376, + "learning_rate": 1.0379890601784184e-06, + "loss": 0.0031, + "num_input_tokens_seen": 30982168, + "step": 15821 + }, + { + "epoch": 2.097017892644135, + "grad_norm": 8.757364273071289, + "learning_rate": 1.0377074853886045e-06, + "loss": 0.202, + "num_input_tokens_seen": 30984176, + "step": 15822 + }, + { + "epoch": 2.09715043074884, + "grad_norm": 0.6955289840698242, + "learning_rate": 1.0374259387927992e-06, + "loss": 0.0037, + "num_input_tokens_seen": 30985968, + "step": 15823 + }, + { + "epoch": 2.0972829688535453, + "grad_norm": 4.125407695770264, + "learning_rate": 1.0371444203964307e-06, + "loss": 0.0324, + "num_input_tokens_seen": 30987344, + "step": 15824 + }, + { + "epoch": 2.0974155069582503, + "grad_norm": 1.7335323095321655, + "learning_rate": 1.036862930204926e-06, + "loss": 0.0097, + "num_input_tokens_seen": 30990208, + "step": 15825 + }, + { + "epoch": 2.097548045062956, + "grad_norm": 0.03396067023277283, + "learning_rate": 1.0365814682237142e-06, + "loss": 0.0002, + "num_input_tokens_seen": 30992280, + "step": 15826 + }, + { + "epoch": 2.097680583167661, + "grad_norm": 0.005177884362637997, + "learning_rate": 1.0363000344582205e-06, + "loss": 0.0, + "num_input_tokens_seen": 30993784, + "step": 15827 + }, + { + "epoch": 2.097813121272366, + "grad_norm": 7.927840709686279, + "learning_rate": 1.0360186289138727e-06, + "loss": 0.1362, + "num_input_tokens_seen": 30995592, + "step": 15828 + }, + { + "epoch": 2.097945659377071, + "grad_norm": 6.203861236572266, + "learning_rate": 1.0357372515960956e-06, + "loss": 0.057, + "num_input_tokens_seen": 30997440, + "step": 15829 + }, + { + "epoch": 2.098078197481776, + "grad_norm": 0.4799310266971588, + "learning_rate": 1.0354559025103136e-06, + "loss": 0.0013, + "num_input_tokens_seen": 30999304, + "step": 15830 + }, + { + "epoch": 2.098210735586481, + "grad_norm": 6.7321906089782715, + "learning_rate": 1.035174581661953e-06, + "loss": 0.0681, + "num_input_tokens_seen": 31001368, + "step": 15831 + }, + { + "epoch": 2.098343273691186, + "grad_norm": 0.24848414957523346, + "learning_rate": 1.0348932890564373e-06, + "loss": 0.0013, + "num_input_tokens_seen": 31002600, + "step": 15832 + }, + { + "epoch": 2.0984758117958915, + "grad_norm": 6.72873067855835, + "learning_rate": 1.0346120246991884e-06, + "loss": 0.0252, + "num_input_tokens_seen": 31004312, + "step": 15833 + }, + { + "epoch": 2.0986083499005965, + "grad_norm": 0.00857654120773077, + "learning_rate": 1.0343307885956315e-06, + "loss": 0.0, + "num_input_tokens_seen": 31005856, + "step": 15834 + }, + { + "epoch": 2.0987408880053016, + "grad_norm": 8.274728775024414, + "learning_rate": 1.0340495807511882e-06, + "loss": 0.2256, + "num_input_tokens_seen": 31007416, + "step": 15835 + }, + { + "epoch": 2.0988734261100066, + "grad_norm": 0.3416224420070648, + "learning_rate": 1.0337684011712796e-06, + "loss": 0.0009, + "num_input_tokens_seen": 31009888, + "step": 15836 + }, + { + "epoch": 2.0990059642147116, + "grad_norm": 0.013166550546884537, + "learning_rate": 1.0334872498613285e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31011936, + "step": 15837 + }, + { + "epoch": 2.0991385023194167, + "grad_norm": 5.158039093017578, + "learning_rate": 1.033206126826754e-06, + "loss": 0.0488, + "num_input_tokens_seen": 31013952, + "step": 15838 + }, + { + "epoch": 2.0992710404241217, + "grad_norm": 14.018601417541504, + "learning_rate": 1.032925032072978e-06, + "loss": 0.1567, + "num_input_tokens_seen": 31015928, + "step": 15839 + }, + { + "epoch": 2.099403578528827, + "grad_norm": 0.015515340492129326, + "learning_rate": 1.03264396560542e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31017544, + "step": 15840 + }, + { + "epoch": 2.0995361166335322, + "grad_norm": 11.384153366088867, + "learning_rate": 1.032362927429497e-06, + "loss": 0.0522, + "num_input_tokens_seen": 31018744, + "step": 15841 + }, + { + "epoch": 2.0996686547382373, + "grad_norm": 0.00803851056843996, + "learning_rate": 1.0320819175506305e-06, + "loss": 0.0, + "num_input_tokens_seen": 31020168, + "step": 15842 + }, + { + "epoch": 2.0998011928429423, + "grad_norm": 1.1091930866241455, + "learning_rate": 1.0318009359742373e-06, + "loss": 0.0043, + "num_input_tokens_seen": 31021616, + "step": 15843 + }, + { + "epoch": 2.0999337309476473, + "grad_norm": 3.204047918319702, + "learning_rate": 1.031519982705734e-06, + "loss": 0.0057, + "num_input_tokens_seen": 31023720, + "step": 15844 + }, + { + "epoch": 2.1000662690523524, + "grad_norm": 1.6260164976119995, + "learning_rate": 1.0312390577505393e-06, + "loss": 0.0068, + "num_input_tokens_seen": 31025744, + "step": 15845 + }, + { + "epoch": 2.100198807157058, + "grad_norm": 3.710658550262451, + "learning_rate": 1.0309581611140681e-06, + "loss": 0.0631, + "num_input_tokens_seen": 31027752, + "step": 15846 + }, + { + "epoch": 2.100331345261763, + "grad_norm": 8.605237007141113, + "learning_rate": 1.0306772928017378e-06, + "loss": 0.1073, + "num_input_tokens_seen": 31030376, + "step": 15847 + }, + { + "epoch": 2.100463883366468, + "grad_norm": 3.5550413131713867, + "learning_rate": 1.0303964528189629e-06, + "loss": 0.0655, + "num_input_tokens_seen": 31033416, + "step": 15848 + }, + { + "epoch": 2.100596421471173, + "grad_norm": 0.021615002304315567, + "learning_rate": 1.0301156411711582e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31035224, + "step": 15849 + }, + { + "epoch": 2.100728959575878, + "grad_norm": 0.008738775737583637, + "learning_rate": 1.029834857863737e-06, + "loss": 0.0, + "num_input_tokens_seen": 31036480, + "step": 15850 + }, + { + "epoch": 2.100861497680583, + "grad_norm": 0.017540819942951202, + "learning_rate": 1.0295541029021142e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31037800, + "step": 15851 + }, + { + "epoch": 2.100994035785288, + "grad_norm": 1.212479829788208, + "learning_rate": 1.0292733762917033e-06, + "loss": 0.0077, + "num_input_tokens_seen": 31039352, + "step": 15852 + }, + { + "epoch": 2.1011265738899936, + "grad_norm": 2.112584114074707, + "learning_rate": 1.0289926780379165e-06, + "loss": 0.0166, + "num_input_tokens_seen": 31041736, + "step": 15853 + }, + { + "epoch": 2.1012591119946986, + "grad_norm": 0.16184380650520325, + "learning_rate": 1.0287120081461654e-06, + "loss": 0.0017, + "num_input_tokens_seen": 31043096, + "step": 15854 + }, + { + "epoch": 2.1013916500994037, + "grad_norm": 0.008505909703671932, + "learning_rate": 1.028431366621862e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31044904, + "step": 15855 + }, + { + "epoch": 2.1015241882041087, + "grad_norm": 1.3323477506637573, + "learning_rate": 1.0281507534704164e-06, + "loss": 0.0119, + "num_input_tokens_seen": 31046952, + "step": 15856 + }, + { + "epoch": 2.1016567263088137, + "grad_norm": 2.7004241943359375, + "learning_rate": 1.0278701686972391e-06, + "loss": 0.0187, + "num_input_tokens_seen": 31048984, + "step": 15857 + }, + { + "epoch": 2.1017892644135188, + "grad_norm": 0.1896669864654541, + "learning_rate": 1.0275896123077416e-06, + "loss": 0.0005, + "num_input_tokens_seen": 31050856, + "step": 15858 + }, + { + "epoch": 2.101921802518224, + "grad_norm": 9.643930435180664, + "learning_rate": 1.0273090843073324e-06, + "loss": 0.195, + "num_input_tokens_seen": 31053096, + "step": 15859 + }, + { + "epoch": 2.1020543406229293, + "grad_norm": 2.5604121685028076, + "learning_rate": 1.02702858470142e-06, + "loss": 0.0164, + "num_input_tokens_seen": 31054928, + "step": 15860 + }, + { + "epoch": 2.1021868787276343, + "grad_norm": 0.011899290606379509, + "learning_rate": 1.0267481134954113e-06, + "loss": 0.0, + "num_input_tokens_seen": 31056072, + "step": 15861 + }, + { + "epoch": 2.1023194168323394, + "grad_norm": 2.410548448562622, + "learning_rate": 1.0264676706947166e-06, + "loss": 0.0429, + "num_input_tokens_seen": 31057920, + "step": 15862 + }, + { + "epoch": 2.1024519549370444, + "grad_norm": 0.5909061431884766, + "learning_rate": 1.0261872563047406e-06, + "loss": 0.0039, + "num_input_tokens_seen": 31059768, + "step": 15863 + }, + { + "epoch": 2.1025844930417494, + "grad_norm": 5.635152339935303, + "learning_rate": 1.0259068703308923e-06, + "loss": 0.039, + "num_input_tokens_seen": 31061800, + "step": 15864 + }, + { + "epoch": 2.1027170311464545, + "grad_norm": 12.06176471710205, + "learning_rate": 1.0256265127785762e-06, + "loss": 0.1931, + "num_input_tokens_seen": 31064000, + "step": 15865 + }, + { + "epoch": 2.1028495692511595, + "grad_norm": 1.787699580192566, + "learning_rate": 1.025346183653198e-06, + "loss": 0.008, + "num_input_tokens_seen": 31065752, + "step": 15866 + }, + { + "epoch": 2.102982107355865, + "grad_norm": 0.023606708273291588, + "learning_rate": 1.0250658829601617e-06, + "loss": 0.0002, + "num_input_tokens_seen": 31067616, + "step": 15867 + }, + { + "epoch": 2.10311464546057, + "grad_norm": 12.96444034576416, + "learning_rate": 1.024785610704873e-06, + "loss": 0.1763, + "num_input_tokens_seen": 31069712, + "step": 15868 + }, + { + "epoch": 2.103247183565275, + "grad_norm": 9.074623107910156, + "learning_rate": 1.0245053668927362e-06, + "loss": 0.1813, + "num_input_tokens_seen": 31072392, + "step": 15869 + }, + { + "epoch": 2.10337972166998, + "grad_norm": 0.41853076219558716, + "learning_rate": 1.0242251515291537e-06, + "loss": 0.0022, + "num_input_tokens_seen": 31073896, + "step": 15870 + }, + { + "epoch": 2.103512259774685, + "grad_norm": 0.07969501614570618, + "learning_rate": 1.0239449646195285e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31076264, + "step": 15871 + }, + { + "epoch": 2.10364479787939, + "grad_norm": 8.31026554107666, + "learning_rate": 1.0236648061692616e-06, + "loss": 0.1045, + "num_input_tokens_seen": 31077656, + "step": 15872 + }, + { + "epoch": 2.103777335984095, + "grad_norm": 8.121954917907715, + "learning_rate": 1.0233846761837567e-06, + "loss": 0.0953, + "num_input_tokens_seen": 31079920, + "step": 15873 + }, + { + "epoch": 2.1039098740888007, + "grad_norm": 0.7636157274246216, + "learning_rate": 1.0231045746684133e-06, + "loss": 0.0024, + "num_input_tokens_seen": 31082640, + "step": 15874 + }, + { + "epoch": 2.1040424121935057, + "grad_norm": 10.376847267150879, + "learning_rate": 1.0228245016286331e-06, + "loss": 0.113, + "num_input_tokens_seen": 31085368, + "step": 15875 + }, + { + "epoch": 2.1041749502982108, + "grad_norm": 2.506401777267456, + "learning_rate": 1.0225444570698156e-06, + "loss": 0.0224, + "num_input_tokens_seen": 31087456, + "step": 15876 + }, + { + "epoch": 2.104307488402916, + "grad_norm": 9.249018669128418, + "learning_rate": 1.0222644409973596e-06, + "loss": 0.0401, + "num_input_tokens_seen": 31089272, + "step": 15877 + }, + { + "epoch": 2.104440026507621, + "grad_norm": 4.882899761199951, + "learning_rate": 1.021984453416665e-06, + "loss": 0.0245, + "num_input_tokens_seen": 31091184, + "step": 15878 + }, + { + "epoch": 2.104572564612326, + "grad_norm": 6.868321418762207, + "learning_rate": 1.0217044943331301e-06, + "loss": 0.0598, + "num_input_tokens_seen": 31093072, + "step": 15879 + }, + { + "epoch": 2.1047051027170314, + "grad_norm": 2.662890672683716, + "learning_rate": 1.0214245637521514e-06, + "loss": 0.0146, + "num_input_tokens_seen": 31094528, + "step": 15880 + }, + { + "epoch": 2.1048376408217364, + "grad_norm": 2.5376861095428467, + "learning_rate": 1.0211446616791281e-06, + "loss": 0.0185, + "num_input_tokens_seen": 31097088, + "step": 15881 + }, + { + "epoch": 2.1049701789264414, + "grad_norm": 0.005738845095038414, + "learning_rate": 1.020864788119455e-06, + "loss": 0.0, + "num_input_tokens_seen": 31098992, + "step": 15882 + }, + { + "epoch": 2.1051027170311465, + "grad_norm": 0.010538849979639053, + "learning_rate": 1.02058494307853e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31101856, + "step": 15883 + }, + { + "epoch": 2.1052352551358515, + "grad_norm": 0.040175389498472214, + "learning_rate": 1.020305126561748e-06, + "loss": 0.0002, + "num_input_tokens_seen": 31104856, + "step": 15884 + }, + { + "epoch": 2.1053677932405566, + "grad_norm": 0.065611831843853, + "learning_rate": 1.020025338574504e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31106136, + "step": 15885 + }, + { + "epoch": 2.1055003313452616, + "grad_norm": 0.049114301800727844, + "learning_rate": 1.0197455791221913e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31108328, + "step": 15886 + }, + { + "epoch": 2.105632869449967, + "grad_norm": 3.7536838054656982, + "learning_rate": 1.0194658482102051e-06, + "loss": 0.0462, + "num_input_tokens_seen": 31110456, + "step": 15887 + }, + { + "epoch": 2.105765407554672, + "grad_norm": 7.078662872314453, + "learning_rate": 1.0191861458439397e-06, + "loss": 0.1159, + "num_input_tokens_seen": 31112360, + "step": 15888 + }, + { + "epoch": 2.105897945659377, + "grad_norm": 1.5046520233154297, + "learning_rate": 1.0189064720287871e-06, + "loss": 0.0147, + "num_input_tokens_seen": 31114248, + "step": 15889 + }, + { + "epoch": 2.106030483764082, + "grad_norm": 0.04844164475798607, + "learning_rate": 1.0186268267701393e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31115720, + "step": 15890 + }, + { + "epoch": 2.1061630218687872, + "grad_norm": 3.4674792289733887, + "learning_rate": 1.0183472100733874e-06, + "loss": 0.0072, + "num_input_tokens_seen": 31117232, + "step": 15891 + }, + { + "epoch": 2.1062955599734923, + "grad_norm": 5.048121929168701, + "learning_rate": 1.0180676219439242e-06, + "loss": 0.0588, + "num_input_tokens_seen": 31119160, + "step": 15892 + }, + { + "epoch": 2.1064280980781973, + "grad_norm": 0.27222344279289246, + "learning_rate": 1.0177880623871389e-06, + "loss": 0.002, + "num_input_tokens_seen": 31120824, + "step": 15893 + }, + { + "epoch": 2.106560636182903, + "grad_norm": 9.71750259399414, + "learning_rate": 1.017508531408423e-06, + "loss": 0.1307, + "num_input_tokens_seen": 31122784, + "step": 15894 + }, + { + "epoch": 2.106693174287608, + "grad_norm": 0.01615164987742901, + "learning_rate": 1.0172290290131654e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31124168, + "step": 15895 + }, + { + "epoch": 2.106825712392313, + "grad_norm": 12.569095611572266, + "learning_rate": 1.0169495552067549e-06, + "loss": 0.1598, + "num_input_tokens_seen": 31126464, + "step": 15896 + }, + { + "epoch": 2.106958250497018, + "grad_norm": 0.011246584355831146, + "learning_rate": 1.0166701099945793e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31127872, + "step": 15897 + }, + { + "epoch": 2.107090788601723, + "grad_norm": 0.0025829714722931385, + "learning_rate": 1.0163906933820275e-06, + "loss": 0.0, + "num_input_tokens_seen": 31129064, + "step": 15898 + }, + { + "epoch": 2.107223326706428, + "grad_norm": 0.15759709477424622, + "learning_rate": 1.0161113053744872e-06, + "loss": 0.0005, + "num_input_tokens_seen": 31130464, + "step": 15899 + }, + { + "epoch": 2.107355864811133, + "grad_norm": 0.044281162321567535, + "learning_rate": 1.0158319459773448e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31132808, + "step": 15900 + }, + { + "epoch": 2.1074884029158385, + "grad_norm": 6.325697422027588, + "learning_rate": 1.015552615195986e-06, + "loss": 0.1642, + "num_input_tokens_seen": 31134688, + "step": 15901 + }, + { + "epoch": 2.1076209410205435, + "grad_norm": 0.09797005355358124, + "learning_rate": 1.0152733130357972e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31136432, + "step": 15902 + }, + { + "epoch": 2.1077534791252486, + "grad_norm": 0.2263217568397522, + "learning_rate": 1.0149940395021623e-06, + "loss": 0.0011, + "num_input_tokens_seen": 31138456, + "step": 15903 + }, + { + "epoch": 2.1078860172299536, + "grad_norm": 5.082943916320801, + "learning_rate": 1.0147147946004666e-06, + "loss": 0.0426, + "num_input_tokens_seen": 31140576, + "step": 15904 + }, + { + "epoch": 2.1080185553346587, + "grad_norm": 0.004184241872280836, + "learning_rate": 1.0144355783360953e-06, + "loss": 0.0, + "num_input_tokens_seen": 31142120, + "step": 15905 + }, + { + "epoch": 2.1081510934393637, + "grad_norm": 0.0060673123225569725, + "learning_rate": 1.0141563907144307e-06, + "loss": 0.0, + "num_input_tokens_seen": 31143664, + "step": 15906 + }, + { + "epoch": 2.1082836315440687, + "grad_norm": 7.490222930908203, + "learning_rate": 1.0138772317408563e-06, + "loss": 0.0756, + "num_input_tokens_seen": 31145864, + "step": 15907 + }, + { + "epoch": 2.108416169648774, + "grad_norm": 7.861691951751709, + "learning_rate": 1.013598101420753e-06, + "loss": 0.1636, + "num_input_tokens_seen": 31148160, + "step": 15908 + }, + { + "epoch": 2.1085487077534792, + "grad_norm": 5.4685750007629395, + "learning_rate": 1.0133189997595045e-06, + "loss": 0.0634, + "num_input_tokens_seen": 31149776, + "step": 15909 + }, + { + "epoch": 2.1086812458581843, + "grad_norm": 8.065530776977539, + "learning_rate": 1.0130399267624905e-06, + "loss": 0.0376, + "num_input_tokens_seen": 31151288, + "step": 15910 + }, + { + "epoch": 2.1088137839628893, + "grad_norm": 6.5656890869140625, + "learning_rate": 1.0127608824350936e-06, + "loss": 0.0458, + "num_input_tokens_seen": 31153056, + "step": 15911 + }, + { + "epoch": 2.1089463220675944, + "grad_norm": 10.338579177856445, + "learning_rate": 1.0124818667826924e-06, + "loss": 0.1058, + "num_input_tokens_seen": 31155616, + "step": 15912 + }, + { + "epoch": 2.1090788601722994, + "grad_norm": 0.01501214038580656, + "learning_rate": 1.0122028798106664e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31157160, + "step": 15913 + }, + { + "epoch": 2.1092113982770044, + "grad_norm": 0.12210843712091446, + "learning_rate": 1.0119239215243963e-06, + "loss": 0.0008, + "num_input_tokens_seen": 31158744, + "step": 15914 + }, + { + "epoch": 2.10934393638171, + "grad_norm": 2.61883544921875, + "learning_rate": 1.0116449919292593e-06, + "loss": 0.0112, + "num_input_tokens_seen": 31161656, + "step": 15915 + }, + { + "epoch": 2.109476474486415, + "grad_norm": 0.305880606174469, + "learning_rate": 1.0113660910306328e-06, + "loss": 0.0013, + "num_input_tokens_seen": 31163680, + "step": 15916 + }, + { + "epoch": 2.10960901259112, + "grad_norm": 3.902306079864502, + "learning_rate": 1.011087218833896e-06, + "loss": 0.0667, + "num_input_tokens_seen": 31165960, + "step": 15917 + }, + { + "epoch": 2.109741550695825, + "grad_norm": 0.007223166991025209, + "learning_rate": 1.0108083753444236e-06, + "loss": 0.0, + "num_input_tokens_seen": 31167888, + "step": 15918 + }, + { + "epoch": 2.10987408880053, + "grad_norm": 3.985076904296875, + "learning_rate": 1.0105295605675944e-06, + "loss": 0.055, + "num_input_tokens_seen": 31169528, + "step": 15919 + }, + { + "epoch": 2.110006626905235, + "grad_norm": 0.010819315910339355, + "learning_rate": 1.0102507745087824e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31171032, + "step": 15920 + }, + { + "epoch": 2.11013916500994, + "grad_norm": 0.2970164120197296, + "learning_rate": 1.0099720171733625e-06, + "loss": 0.0014, + "num_input_tokens_seen": 31173288, + "step": 15921 + }, + { + "epoch": 2.1102717031146456, + "grad_norm": 1.3870792388916016, + "learning_rate": 1.009693288566711e-06, + "loss": 0.0072, + "num_input_tokens_seen": 31175504, + "step": 15922 + }, + { + "epoch": 2.1104042412193507, + "grad_norm": 3.8207406997680664, + "learning_rate": 1.0094145886942009e-06, + "loss": 0.0414, + "num_input_tokens_seen": 31177416, + "step": 15923 + }, + { + "epoch": 2.1105367793240557, + "grad_norm": 0.01220555417239666, + "learning_rate": 1.0091359175612048e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31178704, + "step": 15924 + }, + { + "epoch": 2.1106693174287607, + "grad_norm": 5.103734970092773, + "learning_rate": 1.0088572751730979e-06, + "loss": 0.1156, + "num_input_tokens_seen": 31180560, + "step": 15925 + }, + { + "epoch": 2.1108018555334658, + "grad_norm": 2.618957042694092, + "learning_rate": 1.008578661535251e-06, + "loss": 0.0129, + "num_input_tokens_seen": 31182320, + "step": 15926 + }, + { + "epoch": 2.110934393638171, + "grad_norm": 0.3424279987812042, + "learning_rate": 1.008300076653036e-06, + "loss": 0.0017, + "num_input_tokens_seen": 31184304, + "step": 15927 + }, + { + "epoch": 2.111066931742876, + "grad_norm": 4.514231204986572, + "learning_rate": 1.0080215205318254e-06, + "loss": 0.0777, + "num_input_tokens_seen": 31187208, + "step": 15928 + }, + { + "epoch": 2.1111994698475813, + "grad_norm": 15.18362045288086, + "learning_rate": 1.0077429931769879e-06, + "loss": 0.0963, + "num_input_tokens_seen": 31188136, + "step": 15929 + }, + { + "epoch": 2.1113320079522864, + "grad_norm": 0.2735540270805359, + "learning_rate": 1.0074644945938961e-06, + "loss": 0.0008, + "num_input_tokens_seen": 31189872, + "step": 15930 + }, + { + "epoch": 2.1114645460569914, + "grad_norm": 4.074028968811035, + "learning_rate": 1.0071860247879183e-06, + "loss": 0.1265, + "num_input_tokens_seen": 31191560, + "step": 15931 + }, + { + "epoch": 2.1115970841616964, + "grad_norm": 8.576210975646973, + "learning_rate": 1.0069075837644239e-06, + "loss": 0.1008, + "num_input_tokens_seen": 31193600, + "step": 15932 + }, + { + "epoch": 2.1117296222664015, + "grad_norm": 5.452406406402588, + "learning_rate": 1.0066291715287805e-06, + "loss": 0.0579, + "num_input_tokens_seen": 31196304, + "step": 15933 + }, + { + "epoch": 2.1118621603711065, + "grad_norm": 0.02765427902340889, + "learning_rate": 1.006350788086357e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31198392, + "step": 15934 + }, + { + "epoch": 2.111994698475812, + "grad_norm": 8.22218132019043, + "learning_rate": 1.0060724334425212e-06, + "loss": 0.0574, + "num_input_tokens_seen": 31200320, + "step": 15935 + }, + { + "epoch": 2.112127236580517, + "grad_norm": 1.6232014894485474, + "learning_rate": 1.0057941076026399e-06, + "loss": 0.009, + "num_input_tokens_seen": 31203344, + "step": 15936 + }, + { + "epoch": 2.112259774685222, + "grad_norm": 0.7143456935882568, + "learning_rate": 1.0055158105720785e-06, + "loss": 0.004, + "num_input_tokens_seen": 31205064, + "step": 15937 + }, + { + "epoch": 2.112392312789927, + "grad_norm": 2.280484199523926, + "learning_rate": 1.0052375423562038e-06, + "loss": 0.0142, + "num_input_tokens_seen": 31207080, + "step": 15938 + }, + { + "epoch": 2.112524850894632, + "grad_norm": 0.03964947536587715, + "learning_rate": 1.0049593029603794e-06, + "loss": 0.0004, + "num_input_tokens_seen": 31208808, + "step": 15939 + }, + { + "epoch": 2.112657388999337, + "grad_norm": 0.06965214759111404, + "learning_rate": 1.0046810923899707e-06, + "loss": 0.0003, + "num_input_tokens_seen": 31210128, + "step": 15940 + }, + { + "epoch": 2.1127899271040422, + "grad_norm": 1.1292997598648071, + "learning_rate": 1.0044029106503437e-06, + "loss": 0.0075, + "num_input_tokens_seen": 31212664, + "step": 15941 + }, + { + "epoch": 2.1129224652087477, + "grad_norm": 3.159147262573242, + "learning_rate": 1.0041247577468596e-06, + "loss": 0.0537, + "num_input_tokens_seen": 31215080, + "step": 15942 + }, + { + "epoch": 2.1130550033134528, + "grad_norm": 7.49318790435791, + "learning_rate": 1.0038466336848826e-06, + "loss": 0.1755, + "num_input_tokens_seen": 31217272, + "step": 15943 + }, + { + "epoch": 2.113187541418158, + "grad_norm": 0.04262695461511612, + "learning_rate": 1.0035685384697736e-06, + "loss": 0.0002, + "num_input_tokens_seen": 31218632, + "step": 15944 + }, + { + "epoch": 2.113320079522863, + "grad_norm": 5.605983734130859, + "learning_rate": 1.0032904721068953e-06, + "loss": 0.0864, + "num_input_tokens_seen": 31220264, + "step": 15945 + }, + { + "epoch": 2.113452617627568, + "grad_norm": 3.892982006072998, + "learning_rate": 1.0030124346016104e-06, + "loss": 0.023, + "num_input_tokens_seen": 31223744, + "step": 15946 + }, + { + "epoch": 2.113585155732273, + "grad_norm": 0.2520269751548767, + "learning_rate": 1.0027344259592786e-06, + "loss": 0.0009, + "num_input_tokens_seen": 31225840, + "step": 15947 + }, + { + "epoch": 2.113717693836978, + "grad_norm": 3.2943215370178223, + "learning_rate": 1.0024564461852598e-06, + "loss": 0.0315, + "num_input_tokens_seen": 31227520, + "step": 15948 + }, + { + "epoch": 2.1138502319416834, + "grad_norm": 10.864590644836426, + "learning_rate": 1.0021784952849137e-06, + "loss": 0.155, + "num_input_tokens_seen": 31228864, + "step": 15949 + }, + { + "epoch": 2.1139827700463885, + "grad_norm": 1.5398967266082764, + "learning_rate": 1.0019005732635987e-06, + "loss": 0.0094, + "num_input_tokens_seen": 31230448, + "step": 15950 + }, + { + "epoch": 2.1141153081510935, + "grad_norm": 12.04830551147461, + "learning_rate": 1.0016226801266744e-06, + "loss": 0.2083, + "num_input_tokens_seen": 31233456, + "step": 15951 + }, + { + "epoch": 2.1142478462557985, + "grad_norm": 0.008589185774326324, + "learning_rate": 1.001344815879499e-06, + "loss": 0.0001, + "num_input_tokens_seen": 31234648, + "step": 15952 + }, + { + "epoch": 2.1143803843605036, + "grad_norm": 1.2209203243255615, + "learning_rate": 1.0010669805274295e-06, + "loss": 0.0027, + "num_input_tokens_seen": 31236400, + "step": 15953 + }, + { + "epoch": 2.1145129224652086, + "grad_norm": 0.07187455892562866, + "learning_rate": 1.0007891740758227e-06, + "loss": 0.0005, + "num_input_tokens_seen": 31238224, + "step": 15954 + }, + { + "epoch": 2.1146454605699136, + "grad_norm": 0.7243847250938416, + "learning_rate": 1.0005113965300343e-06, + "loss": 0.0043, + "num_input_tokens_seen": 31240200, + "step": 15955 + }, + { + "epoch": 2.114777998674619, + "grad_norm": 0.3958112895488739, + "learning_rate": 1.0002336478954211e-06, + "loss": 0.0009, + "num_input_tokens_seen": 31242016, + "step": 15956 + }, + { + "epoch": 2.114910536779324, + "grad_norm": 1.3609455823898315, + "learning_rate": 9.99955928177337e-07, + "loss": 0.0191, + "num_input_tokens_seen": 31244464, + "step": 15957 + }, + { + "epoch": 2.115043074884029, + "grad_norm": 2.805771827697754, + "learning_rate": 9.996782373811384e-07, + "loss": 0.0157, + "num_input_tokens_seen": 31246024, + "step": 15958 + }, + { + "epoch": 2.1151756129887342, + "grad_norm": 1.5725172758102417, + "learning_rate": 9.994005755121784e-07, + "loss": 0.0156, + "num_input_tokens_seen": 31247872, + "step": 15959 + }, + { + "epoch": 2.1153081510934393, + "grad_norm": 0.12252626568078995, + "learning_rate": 9.991229425758095e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31249864, + "step": 15960 + }, + { + "epoch": 2.1154406891981443, + "grad_norm": 0.005042593460530043, + "learning_rate": 9.988453385773866e-07, + "loss": 0.0, + "num_input_tokens_seen": 31251632, + "step": 15961 + }, + { + "epoch": 2.1155732273028494, + "grad_norm": 0.13577313721179962, + "learning_rate": 9.985677635222612e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31254840, + "step": 15962 + }, + { + "epoch": 2.115705765407555, + "grad_norm": 1.2255592346191406, + "learning_rate": 9.982902174157844e-07, + "loss": 0.0101, + "num_input_tokens_seen": 31256480, + "step": 15963 + }, + { + "epoch": 2.11583830351226, + "grad_norm": 3.4641661643981934, + "learning_rate": 9.980127002633088e-07, + "loss": 0.0094, + "num_input_tokens_seen": 31258584, + "step": 15964 + }, + { + "epoch": 2.115970841616965, + "grad_norm": 1.2744196653366089, + "learning_rate": 9.97735212070184e-07, + "loss": 0.007, + "num_input_tokens_seen": 31261520, + "step": 15965 + }, + { + "epoch": 2.11610337972167, + "grad_norm": 8.298657417297363, + "learning_rate": 9.974577528417613e-07, + "loss": 0.081, + "num_input_tokens_seen": 31263224, + "step": 15966 + }, + { + "epoch": 2.116235917826375, + "grad_norm": 5.913610458374023, + "learning_rate": 9.971803225833894e-07, + "loss": 0.1112, + "num_input_tokens_seen": 31266648, + "step": 15967 + }, + { + "epoch": 2.11636845593108, + "grad_norm": 0.01634967513382435, + "learning_rate": 9.96902921300418e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31269184, + "step": 15968 + }, + { + "epoch": 2.1165009940357855, + "grad_norm": 5.69858455657959, + "learning_rate": 9.966255489981943e-07, + "loss": 0.1304, + "num_input_tokens_seen": 31270872, + "step": 15969 + }, + { + "epoch": 2.1166335321404905, + "grad_norm": 8.893097877502441, + "learning_rate": 9.963482056820669e-07, + "loss": 0.1104, + "num_input_tokens_seen": 31273080, + "step": 15970 + }, + { + "epoch": 2.1167660702451956, + "grad_norm": 3.0060222148895264, + "learning_rate": 9.960708913573846e-07, + "loss": 0.0116, + "num_input_tokens_seen": 31274496, + "step": 15971 + }, + { + "epoch": 2.1168986083499006, + "grad_norm": 3.0118281841278076, + "learning_rate": 9.957936060294928e-07, + "loss": 0.0218, + "num_input_tokens_seen": 31276672, + "step": 15972 + }, + { + "epoch": 2.1170311464546057, + "grad_norm": 3.4252753257751465, + "learning_rate": 9.955163497037382e-07, + "loss": 0.0354, + "num_input_tokens_seen": 31278472, + "step": 15973 + }, + { + "epoch": 2.1171636845593107, + "grad_norm": 4.892392158508301, + "learning_rate": 9.952391223854653e-07, + "loss": 0.0609, + "num_input_tokens_seen": 31280056, + "step": 15974 + }, + { + "epoch": 2.1172962226640157, + "grad_norm": 21.116289138793945, + "learning_rate": 9.949619240800198e-07, + "loss": 0.1467, + "num_input_tokens_seen": 31281928, + "step": 15975 + }, + { + "epoch": 2.117428760768721, + "grad_norm": 0.01190525945276022, + "learning_rate": 9.94684754792748e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31283376, + "step": 15976 + }, + { + "epoch": 2.1175612988734263, + "grad_norm": 3.9007999897003174, + "learning_rate": 9.944076145289925e-07, + "loss": 0.0598, + "num_input_tokens_seen": 31285232, + "step": 15977 + }, + { + "epoch": 2.1176938369781313, + "grad_norm": 0.11487153172492981, + "learning_rate": 9.941305032940968e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31286440, + "step": 15978 + }, + { + "epoch": 2.1178263750828363, + "grad_norm": 0.6625118851661682, + "learning_rate": 9.938534210934038e-07, + "loss": 0.0047, + "num_input_tokens_seen": 31287760, + "step": 15979 + }, + { + "epoch": 2.1179589131875414, + "grad_norm": 18.259695053100586, + "learning_rate": 9.935763679322553e-07, + "loss": 0.2927, + "num_input_tokens_seen": 31289680, + "step": 15980 + }, + { + "epoch": 2.1180914512922464, + "grad_norm": 18.65428924560547, + "learning_rate": 9.932993438159931e-07, + "loss": 0.0817, + "num_input_tokens_seen": 31291560, + "step": 15981 + }, + { + "epoch": 2.1182239893969514, + "grad_norm": 1.9163814783096313, + "learning_rate": 9.930223487499605e-07, + "loss": 0.0079, + "num_input_tokens_seen": 31293960, + "step": 15982 + }, + { + "epoch": 2.118356527501657, + "grad_norm": 2.2967591285705566, + "learning_rate": 9.92745382739496e-07, + "loss": 0.0155, + "num_input_tokens_seen": 31296736, + "step": 15983 + }, + { + "epoch": 2.118489065606362, + "grad_norm": 0.02329343557357788, + "learning_rate": 9.924684457899408e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31298504, + "step": 15984 + }, + { + "epoch": 2.118621603711067, + "grad_norm": 0.04614463821053505, + "learning_rate": 9.92191537906634e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31300224, + "step": 15985 + }, + { + "epoch": 2.118754141815772, + "grad_norm": 3.9793007373809814, + "learning_rate": 9.919146590949133e-07, + "loss": 0.0707, + "num_input_tokens_seen": 31301880, + "step": 15986 + }, + { + "epoch": 2.118886679920477, + "grad_norm": 0.554431140422821, + "learning_rate": 9.916378093601184e-07, + "loss": 0.0022, + "num_input_tokens_seen": 31303712, + "step": 15987 + }, + { + "epoch": 2.119019218025182, + "grad_norm": 5.004972457885742, + "learning_rate": 9.913609887075881e-07, + "loss": 0.1117, + "num_input_tokens_seen": 31306464, + "step": 15988 + }, + { + "epoch": 2.119151756129887, + "grad_norm": 12.363912582397461, + "learning_rate": 9.910841971426589e-07, + "loss": 0.2642, + "num_input_tokens_seen": 31309136, + "step": 15989 + }, + { + "epoch": 2.1192842942345926, + "grad_norm": 2.2543981075286865, + "learning_rate": 9.90807434670667e-07, + "loss": 0.0288, + "num_input_tokens_seen": 31311288, + "step": 15990 + }, + { + "epoch": 2.1194168323392977, + "grad_norm": 2.8324477672576904, + "learning_rate": 9.905307012969481e-07, + "loss": 0.0156, + "num_input_tokens_seen": 31313904, + "step": 15991 + }, + { + "epoch": 2.1195493704440027, + "grad_norm": 0.549984335899353, + "learning_rate": 9.902539970268393e-07, + "loss": 0.0048, + "num_input_tokens_seen": 31315568, + "step": 15992 + }, + { + "epoch": 2.1196819085487077, + "grad_norm": 0.00872162077575922, + "learning_rate": 9.899773218656745e-07, + "loss": 0.0, + "num_input_tokens_seen": 31317144, + "step": 15993 + }, + { + "epoch": 2.119814446653413, + "grad_norm": 7.813802242279053, + "learning_rate": 9.89700675818789e-07, + "loss": 0.1264, + "num_input_tokens_seen": 31318880, + "step": 15994 + }, + { + "epoch": 2.119946984758118, + "grad_norm": 2.485776662826538, + "learning_rate": 9.894240588915168e-07, + "loss": 0.033, + "num_input_tokens_seen": 31320832, + "step": 15995 + }, + { + "epoch": 2.120079522862823, + "grad_norm": 0.8729603886604309, + "learning_rate": 9.8914747108919e-07, + "loss": 0.0046, + "num_input_tokens_seen": 31322296, + "step": 15996 + }, + { + "epoch": 2.1202120609675283, + "grad_norm": 1.4836153984069824, + "learning_rate": 9.888709124171429e-07, + "loss": 0.0095, + "num_input_tokens_seen": 31324000, + "step": 15997 + }, + { + "epoch": 2.1203445990722334, + "grad_norm": 0.16681288182735443, + "learning_rate": 9.885943828807062e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31325640, + "step": 15998 + }, + { + "epoch": 2.1204771371769384, + "grad_norm": 7.054441452026367, + "learning_rate": 9.883178824852133e-07, + "loss": 0.0537, + "num_input_tokens_seen": 31326896, + "step": 15999 + }, + { + "epoch": 2.1206096752816435, + "grad_norm": 4.794320583343506, + "learning_rate": 9.880414112359945e-07, + "loss": 0.0548, + "num_input_tokens_seen": 31328744, + "step": 16000 + }, + { + "epoch": 2.1207422133863485, + "grad_norm": 0.05177433416247368, + "learning_rate": 9.877649691383797e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31330512, + "step": 16001 + }, + { + "epoch": 2.1208747514910535, + "grad_norm": 1.4180458784103394, + "learning_rate": 9.874885561977e-07, + "loss": 0.0101, + "num_input_tokens_seen": 31333200, + "step": 16002 + }, + { + "epoch": 2.1210072895957586, + "grad_norm": 0.0033680996857583523, + "learning_rate": 9.872121724192849e-07, + "loss": 0.0, + "num_input_tokens_seen": 31334888, + "step": 16003 + }, + { + "epoch": 2.121139827700464, + "grad_norm": 3.0794763565063477, + "learning_rate": 9.869358178084614e-07, + "loss": 0.0148, + "num_input_tokens_seen": 31336512, + "step": 16004 + }, + { + "epoch": 2.121272365805169, + "grad_norm": 0.07193078100681305, + "learning_rate": 9.866594923705602e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31339328, + "step": 16005 + }, + { + "epoch": 2.121404903909874, + "grad_norm": 0.027965696528553963, + "learning_rate": 9.86383196110908e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31341512, + "step": 16006 + }, + { + "epoch": 2.121537442014579, + "grad_norm": 6.011144638061523, + "learning_rate": 9.861069290348313e-07, + "loss": 0.0635, + "num_input_tokens_seen": 31342960, + "step": 16007 + }, + { + "epoch": 2.121669980119284, + "grad_norm": 9.07699966430664, + "learning_rate": 9.858306911476577e-07, + "loss": 0.1208, + "num_input_tokens_seen": 31346008, + "step": 16008 + }, + { + "epoch": 2.1218025182239892, + "grad_norm": 17.39802360534668, + "learning_rate": 9.855544824547133e-07, + "loss": 0.1293, + "num_input_tokens_seen": 31348080, + "step": 16009 + }, + { + "epoch": 2.1219350563286943, + "grad_norm": 5.495151519775391, + "learning_rate": 9.852783029613224e-07, + "loss": 0.0322, + "num_input_tokens_seen": 31350000, + "step": 16010 + }, + { + "epoch": 2.1220675944333998, + "grad_norm": 3.1166462898254395, + "learning_rate": 9.850021526728119e-07, + "loss": 0.0201, + "num_input_tokens_seen": 31351936, + "step": 16011 + }, + { + "epoch": 2.122200132538105, + "grad_norm": 0.42338091135025024, + "learning_rate": 9.847260315945038e-07, + "loss": 0.0023, + "num_input_tokens_seen": 31355128, + "step": 16012 + }, + { + "epoch": 2.12233267064281, + "grad_norm": 0.005450528580695391, + "learning_rate": 9.844499397317239e-07, + "loss": 0.0, + "num_input_tokens_seen": 31356600, + "step": 16013 + }, + { + "epoch": 2.122465208747515, + "grad_norm": 5.787471771240234, + "learning_rate": 9.841738770897948e-07, + "loss": 0.0883, + "num_input_tokens_seen": 31358824, + "step": 16014 + }, + { + "epoch": 2.12259774685222, + "grad_norm": 10.324423789978027, + "learning_rate": 9.838978436740393e-07, + "loss": 0.1273, + "num_input_tokens_seen": 31361000, + "step": 16015 + }, + { + "epoch": 2.122730284956925, + "grad_norm": 0.052438125014305115, + "learning_rate": 9.83621839489778e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31362840, + "step": 16016 + }, + { + "epoch": 2.1228628230616304, + "grad_norm": 0.0914560854434967, + "learning_rate": 9.833458645423341e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31364752, + "step": 16017 + }, + { + "epoch": 2.1229953611663355, + "grad_norm": 11.242875099182129, + "learning_rate": 9.830699188370292e-07, + "loss": 0.1178, + "num_input_tokens_seen": 31366752, + "step": 16018 + }, + { + "epoch": 2.1231278992710405, + "grad_norm": 0.5296412706375122, + "learning_rate": 9.827940023791823e-07, + "loss": 0.0024, + "num_input_tokens_seen": 31369016, + "step": 16019 + }, + { + "epoch": 2.1232604373757455, + "grad_norm": 4.376650810241699, + "learning_rate": 9.825181151741138e-07, + "loss": 0.02, + "num_input_tokens_seen": 31372000, + "step": 16020 + }, + { + "epoch": 2.1233929754804506, + "grad_norm": 0.0015726073179394007, + "learning_rate": 9.822422572271422e-07, + "loss": 0.0, + "num_input_tokens_seen": 31373640, + "step": 16021 + }, + { + "epoch": 2.1235255135851556, + "grad_norm": 1.7273216247558594, + "learning_rate": 9.81966428543588e-07, + "loss": 0.0129, + "num_input_tokens_seen": 31375480, + "step": 16022 + }, + { + "epoch": 2.1236580516898607, + "grad_norm": 0.04559807851910591, + "learning_rate": 9.81690629128767e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31376720, + "step": 16023 + }, + { + "epoch": 2.123790589794566, + "grad_norm": 4.228126525878906, + "learning_rate": 9.81414858987999e-07, + "loss": 0.0361, + "num_input_tokens_seen": 31378512, + "step": 16024 + }, + { + "epoch": 2.123923127899271, + "grad_norm": 0.025753268972039223, + "learning_rate": 9.811391181266003e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31381368, + "step": 16025 + }, + { + "epoch": 2.124055666003976, + "grad_norm": 7.938784122467041, + "learning_rate": 9.80863406549887e-07, + "loss": 0.1007, + "num_input_tokens_seen": 31383648, + "step": 16026 + }, + { + "epoch": 2.1241882041086813, + "grad_norm": 0.003898393828421831, + "learning_rate": 9.805877242631745e-07, + "loss": 0.0, + "num_input_tokens_seen": 31386144, + "step": 16027 + }, + { + "epoch": 2.1243207422133863, + "grad_norm": 0.2597859799861908, + "learning_rate": 9.80312071271779e-07, + "loss": 0.0013, + "num_input_tokens_seen": 31388736, + "step": 16028 + }, + { + "epoch": 2.1244532803180913, + "grad_norm": 0.004055833909660578, + "learning_rate": 9.800364475810158e-07, + "loss": 0.0, + "num_input_tokens_seen": 31391560, + "step": 16029 + }, + { + "epoch": 2.1245858184227964, + "grad_norm": 0.02276485599577427, + "learning_rate": 9.797608531961986e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31392736, + "step": 16030 + }, + { + "epoch": 2.124718356527502, + "grad_norm": 0.012399180792272091, + "learning_rate": 9.79485288122641e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31394608, + "step": 16031 + }, + { + "epoch": 2.124850894632207, + "grad_norm": 1.0706788301467896, + "learning_rate": 9.79209752365655e-07, + "loss": 0.0049, + "num_input_tokens_seen": 31396424, + "step": 16032 + }, + { + "epoch": 2.124983432736912, + "grad_norm": 15.55600643157959, + "learning_rate": 9.789342459305547e-07, + "loss": 0.0434, + "num_input_tokens_seen": 31398288, + "step": 16033 + }, + { + "epoch": 2.125115970841617, + "grad_norm": 0.31384390592575073, + "learning_rate": 9.786587688226509e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31400048, + "step": 16034 + }, + { + "epoch": 2.125248508946322, + "grad_norm": 2.1488723754882812, + "learning_rate": 9.783833210472566e-07, + "loss": 0.0171, + "num_input_tokens_seen": 31402672, + "step": 16035 + }, + { + "epoch": 2.125381047051027, + "grad_norm": 1.6600793600082397, + "learning_rate": 9.781079026096813e-07, + "loss": 0.0088, + "num_input_tokens_seen": 31406328, + "step": 16036 + }, + { + "epoch": 2.125513585155732, + "grad_norm": 9.093141555786133, + "learning_rate": 9.778325135152356e-07, + "loss": 0.0366, + "num_input_tokens_seen": 31408984, + "step": 16037 + }, + { + "epoch": 2.1256461232604376, + "grad_norm": 7.948393821716309, + "learning_rate": 9.775571537692282e-07, + "loss": 0.0802, + "num_input_tokens_seen": 31410848, + "step": 16038 + }, + { + "epoch": 2.1257786613651426, + "grad_norm": 0.02403217926621437, + "learning_rate": 9.7728182337697e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31412928, + "step": 16039 + }, + { + "epoch": 2.1259111994698476, + "grad_norm": 5.993346214294434, + "learning_rate": 9.77006522343768e-07, + "loss": 0.0818, + "num_input_tokens_seen": 31414568, + "step": 16040 + }, + { + "epoch": 2.1260437375745527, + "grad_norm": 0.8455209136009216, + "learning_rate": 9.76731250674932e-07, + "loss": 0.0045, + "num_input_tokens_seen": 31416680, + "step": 16041 + }, + { + "epoch": 2.1261762756792577, + "grad_norm": 3.664370059967041, + "learning_rate": 9.76456008375768e-07, + "loss": 0.0114, + "num_input_tokens_seen": 31418768, + "step": 16042 + }, + { + "epoch": 2.1263088137839627, + "grad_norm": 2.9327104091644287, + "learning_rate": 9.761807954515822e-07, + "loss": 0.0336, + "num_input_tokens_seen": 31421104, + "step": 16043 + }, + { + "epoch": 2.126441351888668, + "grad_norm": 1.1890151500701904, + "learning_rate": 9.759056119076828e-07, + "loss": 0.0064, + "num_input_tokens_seen": 31422896, + "step": 16044 + }, + { + "epoch": 2.1265738899933733, + "grad_norm": 9.620471000671387, + "learning_rate": 9.75630457749375e-07, + "loss": 0.0794, + "num_input_tokens_seen": 31423800, + "step": 16045 + }, + { + "epoch": 2.1267064280980783, + "grad_norm": 0.2077944129705429, + "learning_rate": 9.753553329819625e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31425248, + "step": 16046 + }, + { + "epoch": 2.1268389662027833, + "grad_norm": 2.230100154876709, + "learning_rate": 9.750802376107518e-07, + "loss": 0.0072, + "num_input_tokens_seen": 31426896, + "step": 16047 + }, + { + "epoch": 2.1269715043074884, + "grad_norm": 0.0026732729747891426, + "learning_rate": 9.748051716410453e-07, + "loss": 0.0, + "num_input_tokens_seen": 31428568, + "step": 16048 + }, + { + "epoch": 2.1271040424121934, + "grad_norm": 16.94239616394043, + "learning_rate": 9.74530135078148e-07, + "loss": 0.2333, + "num_input_tokens_seen": 31430664, + "step": 16049 + }, + { + "epoch": 2.1272365805168985, + "grad_norm": 5.136758327484131, + "learning_rate": 9.742551279273625e-07, + "loss": 0.1026, + "num_input_tokens_seen": 31433024, + "step": 16050 + }, + { + "epoch": 2.127369118621604, + "grad_norm": 0.01774507761001587, + "learning_rate": 9.73980150193989e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31434856, + "step": 16051 + }, + { + "epoch": 2.127501656726309, + "grad_norm": 8.356134414672852, + "learning_rate": 9.737052018833326e-07, + "loss": 0.1812, + "num_input_tokens_seen": 31437320, + "step": 16052 + }, + { + "epoch": 2.127634194831014, + "grad_norm": 7.8876800537109375, + "learning_rate": 9.734302830006917e-07, + "loss": 0.1496, + "num_input_tokens_seen": 31439160, + "step": 16053 + }, + { + "epoch": 2.127766732935719, + "grad_norm": 0.06373758614063263, + "learning_rate": 9.731553935513688e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31440584, + "step": 16054 + }, + { + "epoch": 2.127899271040424, + "grad_norm": 0.20476488769054413, + "learning_rate": 9.728805335406635e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31442464, + "step": 16055 + }, + { + "epoch": 2.128031809145129, + "grad_norm": 0.143484428524971, + "learning_rate": 9.726057029738748e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31444384, + "step": 16056 + }, + { + "epoch": 2.128164347249834, + "grad_norm": 0.20091512799263, + "learning_rate": 9.72330901856301e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31446272, + "step": 16057 + }, + { + "epoch": 2.1282968853545396, + "grad_norm": 0.10682906955480576, + "learning_rate": 9.720561301932413e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31448248, + "step": 16058 + }, + { + "epoch": 2.1284294234592447, + "grad_norm": 5.417721748352051, + "learning_rate": 9.717813879899946e-07, + "loss": 0.0129, + "num_input_tokens_seen": 31450112, + "step": 16059 + }, + { + "epoch": 2.1285619615639497, + "grad_norm": 9.350624084472656, + "learning_rate": 9.715066752518567e-07, + "loss": 0.029, + "num_input_tokens_seen": 31452304, + "step": 16060 + }, + { + "epoch": 2.1286944996686548, + "grad_norm": 10.480183601379395, + "learning_rate": 9.712319919841246e-07, + "loss": 0.0676, + "num_input_tokens_seen": 31454384, + "step": 16061 + }, + { + "epoch": 2.12882703777336, + "grad_norm": 0.050779614597558975, + "learning_rate": 9.709573381920945e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31455936, + "step": 16062 + }, + { + "epoch": 2.128959575878065, + "grad_norm": 0.06771764904260635, + "learning_rate": 9.706827138810608e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31458576, + "step": 16063 + }, + { + "epoch": 2.12909211398277, + "grad_norm": 0.0005205015768297017, + "learning_rate": 9.704081190563192e-07, + "loss": 0.0, + "num_input_tokens_seen": 31459744, + "step": 16064 + }, + { + "epoch": 2.1292246520874754, + "grad_norm": 8.332296371459961, + "learning_rate": 9.701335537231655e-07, + "loss": 0.155, + "num_input_tokens_seen": 31461928, + "step": 16065 + }, + { + "epoch": 2.1293571901921804, + "grad_norm": 0.04889029264450073, + "learning_rate": 9.698590178868919e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31463544, + "step": 16066 + }, + { + "epoch": 2.1294897282968854, + "grad_norm": 7.734241008758545, + "learning_rate": 9.695845115527924e-07, + "loss": 0.0321, + "num_input_tokens_seen": 31466328, + "step": 16067 + }, + { + "epoch": 2.1296222664015905, + "grad_norm": 0.019083110615611076, + "learning_rate": 9.693100347261592e-07, + "loss": 0.0, + "num_input_tokens_seen": 31467624, + "step": 16068 + }, + { + "epoch": 2.1297548045062955, + "grad_norm": 0.463288813829422, + "learning_rate": 9.690355874122833e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31469360, + "step": 16069 + }, + { + "epoch": 2.1298873426110005, + "grad_norm": 2.1234171390533447, + "learning_rate": 9.687611696164579e-07, + "loss": 0.0048, + "num_input_tokens_seen": 31471312, + "step": 16070 + }, + { + "epoch": 2.1300198807157056, + "grad_norm": 2.0269062519073486, + "learning_rate": 9.68486781343974e-07, + "loss": 0.0138, + "num_input_tokens_seen": 31473232, + "step": 16071 + }, + { + "epoch": 2.130152418820411, + "grad_norm": 0.0676170065999031, + "learning_rate": 9.682124226001216e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31475432, + "step": 16072 + }, + { + "epoch": 2.130284956925116, + "grad_norm": 0.0007454505539499223, + "learning_rate": 9.679380933901905e-07, + "loss": 0.0, + "num_input_tokens_seen": 31476696, + "step": 16073 + }, + { + "epoch": 2.130417495029821, + "grad_norm": 10.975934982299805, + "learning_rate": 9.67663793719469e-07, + "loss": 0.3094, + "num_input_tokens_seen": 31479936, + "step": 16074 + }, + { + "epoch": 2.130550033134526, + "grad_norm": 5.366577625274658, + "learning_rate": 9.673895235932465e-07, + "loss": 0.0135, + "num_input_tokens_seen": 31481816, + "step": 16075 + }, + { + "epoch": 2.130682571239231, + "grad_norm": 0.029743866994976997, + "learning_rate": 9.671152830168124e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31483224, + "step": 16076 + }, + { + "epoch": 2.1308151093439363, + "grad_norm": 0.019760040566325188, + "learning_rate": 9.66841071995453e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31485992, + "step": 16077 + }, + { + "epoch": 2.1309476474486413, + "grad_norm": 4.939930438995361, + "learning_rate": 9.665668905344555e-07, + "loss": 0.0324, + "num_input_tokens_seen": 31487416, + "step": 16078 + }, + { + "epoch": 2.1310801855533468, + "grad_norm": 8.268176078796387, + "learning_rate": 9.662927386391053e-07, + "loss": 0.2331, + "num_input_tokens_seen": 31490056, + "step": 16079 + }, + { + "epoch": 2.131212723658052, + "grad_norm": 4.270195960998535, + "learning_rate": 9.660186163146898e-07, + "loss": 0.0779, + "num_input_tokens_seen": 31493184, + "step": 16080 + }, + { + "epoch": 2.131345261762757, + "grad_norm": 2.958547592163086, + "learning_rate": 9.65744523566493e-07, + "loss": 0.0077, + "num_input_tokens_seen": 31494936, + "step": 16081 + }, + { + "epoch": 2.131477799867462, + "grad_norm": 0.027521083131432533, + "learning_rate": 9.654704603998011e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31497288, + "step": 16082 + }, + { + "epoch": 2.131610337972167, + "grad_norm": 0.007150406017899513, + "learning_rate": 9.65196426819897e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31499520, + "step": 16083 + }, + { + "epoch": 2.131742876076872, + "grad_norm": 0.10605286061763763, + "learning_rate": 9.64922422832064e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31501992, + "step": 16084 + }, + { + "epoch": 2.131875414181577, + "grad_norm": 0.02458733692765236, + "learning_rate": 9.646484484415867e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31504480, + "step": 16085 + }, + { + "epoch": 2.1320079522862825, + "grad_norm": 0.4717639088630676, + "learning_rate": 9.643745036537461e-07, + "loss": 0.0014, + "num_input_tokens_seen": 31506680, + "step": 16086 + }, + { + "epoch": 2.1321404903909875, + "grad_norm": 5.20466947555542, + "learning_rate": 9.64100588473824e-07, + "loss": 0.0596, + "num_input_tokens_seen": 31508600, + "step": 16087 + }, + { + "epoch": 2.1322730284956926, + "grad_norm": 2.5027499198913574, + "learning_rate": 9.638267029071027e-07, + "loss": 0.0214, + "num_input_tokens_seen": 31510616, + "step": 16088 + }, + { + "epoch": 2.1324055666003976, + "grad_norm": 2.1486763954162598, + "learning_rate": 9.635528469588614e-07, + "loss": 0.0115, + "num_input_tokens_seen": 31512112, + "step": 16089 + }, + { + "epoch": 2.1325381047051026, + "grad_norm": 2.9380295276641846, + "learning_rate": 9.632790206343822e-07, + "loss": 0.0243, + "num_input_tokens_seen": 31513848, + "step": 16090 + }, + { + "epoch": 2.1326706428098077, + "grad_norm": 0.004848671145737171, + "learning_rate": 9.630052239389438e-07, + "loss": 0.0, + "num_input_tokens_seen": 31515720, + "step": 16091 + }, + { + "epoch": 2.1328031809145127, + "grad_norm": 2.190732955932617, + "learning_rate": 9.627314568778246e-07, + "loss": 0.0184, + "num_input_tokens_seen": 31517528, + "step": 16092 + }, + { + "epoch": 2.132935719019218, + "grad_norm": 3.7082090377807617, + "learning_rate": 9.62457719456303e-07, + "loss": 0.017, + "num_input_tokens_seen": 31520472, + "step": 16093 + }, + { + "epoch": 2.1330682571239232, + "grad_norm": 0.31992393732070923, + "learning_rate": 9.621840116796577e-07, + "loss": 0.0021, + "num_input_tokens_seen": 31522328, + "step": 16094 + }, + { + "epoch": 2.1332007952286283, + "grad_norm": 16.42392349243164, + "learning_rate": 9.619103335531646e-07, + "loss": 0.1801, + "num_input_tokens_seen": 31524352, + "step": 16095 + }, + { + "epoch": 2.1333333333333333, + "grad_norm": 0.23243871331214905, + "learning_rate": 9.616366850821025e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31526336, + "step": 16096 + }, + { + "epoch": 2.1334658714380383, + "grad_norm": 5.045673847198486, + "learning_rate": 9.613630662717463e-07, + "loss": 0.0154, + "num_input_tokens_seen": 31528144, + "step": 16097 + }, + { + "epoch": 2.1335984095427434, + "grad_norm": 0.18616047501564026, + "learning_rate": 9.610894771273716e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31529640, + "step": 16098 + }, + { + "epoch": 2.1337309476474484, + "grad_norm": 2.5941483974456787, + "learning_rate": 9.608159176542525e-07, + "loss": 0.0059, + "num_input_tokens_seen": 31531184, + "step": 16099 + }, + { + "epoch": 2.133863485752154, + "grad_norm": 3.2780237197875977, + "learning_rate": 9.605423878576646e-07, + "loss": 0.0554, + "num_input_tokens_seen": 31533720, + "step": 16100 + }, + { + "epoch": 2.133996023856859, + "grad_norm": 0.0056445179507136345, + "learning_rate": 9.602688877428822e-07, + "loss": 0.0, + "num_input_tokens_seen": 31535168, + "step": 16101 + }, + { + "epoch": 2.134128561961564, + "grad_norm": 11.270421028137207, + "learning_rate": 9.59995417315178e-07, + "loss": 0.1496, + "num_input_tokens_seen": 31537376, + "step": 16102 + }, + { + "epoch": 2.134261100066269, + "grad_norm": 3.9139246940612793, + "learning_rate": 9.597219765798241e-07, + "loss": 0.0455, + "num_input_tokens_seen": 31539704, + "step": 16103 + }, + { + "epoch": 2.134393638170974, + "grad_norm": 4.7583746910095215, + "learning_rate": 9.594485655420926e-07, + "loss": 0.0339, + "num_input_tokens_seen": 31541552, + "step": 16104 + }, + { + "epoch": 2.134526176275679, + "grad_norm": 8.119093894958496, + "learning_rate": 9.591751842072552e-07, + "loss": 0.069, + "num_input_tokens_seen": 31543048, + "step": 16105 + }, + { + "epoch": 2.134658714380384, + "grad_norm": 0.2847495377063751, + "learning_rate": 9.589018325805842e-07, + "loss": 0.001, + "num_input_tokens_seen": 31544696, + "step": 16106 + }, + { + "epoch": 2.1347912524850896, + "grad_norm": 0.023146186023950577, + "learning_rate": 9.586285106673492e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31545984, + "step": 16107 + }, + { + "epoch": 2.1349237905897946, + "grad_norm": 0.024002045392990112, + "learning_rate": 9.5835521847282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31547232, + "step": 16108 + }, + { + "epoch": 2.1350563286944997, + "grad_norm": 0.11687221378087997, + "learning_rate": 9.580819560022654e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31548888, + "step": 16109 + }, + { + "epoch": 2.1351888667992047, + "grad_norm": 0.19441835582256317, + "learning_rate": 9.578087232609536e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31550224, + "step": 16110 + }, + { + "epoch": 2.1353214049039098, + "grad_norm": 1.8425302505493164, + "learning_rate": 9.575355202541533e-07, + "loss": 0.0129, + "num_input_tokens_seen": 31552104, + "step": 16111 + }, + { + "epoch": 2.135453943008615, + "grad_norm": 0.005997309461236, + "learning_rate": 9.572623469871336e-07, + "loss": 0.0, + "num_input_tokens_seen": 31553696, + "step": 16112 + }, + { + "epoch": 2.1355864811133203, + "grad_norm": 0.42871078848838806, + "learning_rate": 9.569892034651598e-07, + "loss": 0.002, + "num_input_tokens_seen": 31555336, + "step": 16113 + }, + { + "epoch": 2.1357190192180253, + "grad_norm": 0.8083357214927673, + "learning_rate": 9.567160896934988e-07, + "loss": 0.0017, + "num_input_tokens_seen": 31557016, + "step": 16114 + }, + { + "epoch": 2.1358515573227304, + "grad_norm": 0.09059926122426987, + "learning_rate": 9.564430056774151e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31558904, + "step": 16115 + }, + { + "epoch": 2.1359840954274354, + "grad_norm": 0.07792149484157562, + "learning_rate": 9.561699514221763e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31560864, + "step": 16116 + }, + { + "epoch": 2.1361166335321404, + "grad_norm": 1.5018413066864014, + "learning_rate": 9.558969269330448e-07, + "loss": 0.0065, + "num_input_tokens_seen": 31563040, + "step": 16117 + }, + { + "epoch": 2.1362491716368455, + "grad_norm": 1.0631963014602661, + "learning_rate": 9.556239322152866e-07, + "loss": 0.0048, + "num_input_tokens_seen": 31564928, + "step": 16118 + }, + { + "epoch": 2.1363817097415505, + "grad_norm": 4.5471625328063965, + "learning_rate": 9.553509672741646e-07, + "loss": 0.1125, + "num_input_tokens_seen": 31567320, + "step": 16119 + }, + { + "epoch": 2.136514247846256, + "grad_norm": 0.09209774434566498, + "learning_rate": 9.550780321149414e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31568448, + "step": 16120 + }, + { + "epoch": 2.136646785950961, + "grad_norm": 1.036643147468567, + "learning_rate": 9.548051267428787e-07, + "loss": 0.0063, + "num_input_tokens_seen": 31570088, + "step": 16121 + }, + { + "epoch": 2.136779324055666, + "grad_norm": 0.916536808013916, + "learning_rate": 9.545322511632401e-07, + "loss": 0.0044, + "num_input_tokens_seen": 31572064, + "step": 16122 + }, + { + "epoch": 2.136911862160371, + "grad_norm": 4.551767349243164, + "learning_rate": 9.542594053812848e-07, + "loss": 0.0298, + "num_input_tokens_seen": 31573320, + "step": 16123 + }, + { + "epoch": 2.137044400265076, + "grad_norm": 7.391839027404785, + "learning_rate": 9.539865894022755e-07, + "loss": 0.0669, + "num_input_tokens_seen": 31575096, + "step": 16124 + }, + { + "epoch": 2.137176938369781, + "grad_norm": 0.07263413816690445, + "learning_rate": 9.537138032314713e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31576344, + "step": 16125 + }, + { + "epoch": 2.137309476474486, + "grad_norm": 25.39282989501953, + "learning_rate": 9.534410468741309e-07, + "loss": 0.2838, + "num_input_tokens_seen": 31578712, + "step": 16126 + }, + { + "epoch": 2.1374420145791917, + "grad_norm": 0.557320773601532, + "learning_rate": 9.531683203355146e-07, + "loss": 0.0024, + "num_input_tokens_seen": 31580344, + "step": 16127 + }, + { + "epoch": 2.1375745526838967, + "grad_norm": 0.2329101413488388, + "learning_rate": 9.528956236208797e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31581864, + "step": 16128 + }, + { + "epoch": 2.1377070907886018, + "grad_norm": 6.1121087074279785, + "learning_rate": 9.52622956735485e-07, + "loss": 0.0442, + "num_input_tokens_seen": 31583704, + "step": 16129 + }, + { + "epoch": 2.137839628893307, + "grad_norm": 0.03288009390234947, + "learning_rate": 9.523503196845873e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31585480, + "step": 16130 + }, + { + "epoch": 2.137972166998012, + "grad_norm": 7.6009368896484375, + "learning_rate": 9.520777124734423e-07, + "loss": 0.0741, + "num_input_tokens_seen": 31587488, + "step": 16131 + }, + { + "epoch": 2.138104705102717, + "grad_norm": 0.21550118923187256, + "learning_rate": 9.518051351073079e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31589280, + "step": 16132 + }, + { + "epoch": 2.1382372432074224, + "grad_norm": 0.002960493788123131, + "learning_rate": 9.515325875914383e-07, + "loss": 0.0, + "num_input_tokens_seen": 31591024, + "step": 16133 + }, + { + "epoch": 2.1383697813121274, + "grad_norm": 0.2940198481082916, + "learning_rate": 9.512600699310878e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31592736, + "step": 16134 + }, + { + "epoch": 2.1385023194168324, + "grad_norm": 8.266256332397461, + "learning_rate": 9.509875821315126e-07, + "loss": 0.1394, + "num_input_tokens_seen": 31594472, + "step": 16135 + }, + { + "epoch": 2.1386348575215375, + "grad_norm": 0.0049509345553815365, + "learning_rate": 9.507151241979643e-07, + "loss": 0.0, + "num_input_tokens_seen": 31596128, + "step": 16136 + }, + { + "epoch": 2.1387673956262425, + "grad_norm": 0.012205123901367188, + "learning_rate": 9.504426961356983e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31598272, + "step": 16137 + }, + { + "epoch": 2.1388999337309476, + "grad_norm": 3.4081907272338867, + "learning_rate": 9.501702979499658e-07, + "loss": 0.0113, + "num_input_tokens_seen": 31599664, + "step": 16138 + }, + { + "epoch": 2.1390324718356526, + "grad_norm": 0.01042995322495699, + "learning_rate": 9.498979296460195e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31602992, + "step": 16139 + }, + { + "epoch": 2.139165009940358, + "grad_norm": 0.04743897169828415, + "learning_rate": 9.496255912291095e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31605688, + "step": 16140 + }, + { + "epoch": 2.139297548045063, + "grad_norm": 0.01022800151258707, + "learning_rate": 9.493532827044874e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31607216, + "step": 16141 + }, + { + "epoch": 2.139430086149768, + "grad_norm": 0.012211198918521404, + "learning_rate": 9.490810040774048e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31609624, + "step": 16142 + }, + { + "epoch": 2.139562624254473, + "grad_norm": 0.0026489999145269394, + "learning_rate": 9.488087553531103e-07, + "loss": 0.0, + "num_input_tokens_seen": 31611952, + "step": 16143 + }, + { + "epoch": 2.1396951623591782, + "grad_norm": 9.145845413208008, + "learning_rate": 9.485365365368532e-07, + "loss": 0.0543, + "num_input_tokens_seen": 31614104, + "step": 16144 + }, + { + "epoch": 2.1398277004638833, + "grad_norm": 0.007660697679966688, + "learning_rate": 9.482643476338821e-07, + "loss": 0.0, + "num_input_tokens_seen": 31615896, + "step": 16145 + }, + { + "epoch": 2.1399602385685883, + "grad_norm": 9.002161979675293, + "learning_rate": 9.479921886494437e-07, + "loss": 0.144, + "num_input_tokens_seen": 31617768, + "step": 16146 + }, + { + "epoch": 2.140092776673294, + "grad_norm": 0.4844762086868286, + "learning_rate": 9.477200595887868e-07, + "loss": 0.0024, + "num_input_tokens_seen": 31619504, + "step": 16147 + }, + { + "epoch": 2.140225314777999, + "grad_norm": 0.017951352521777153, + "learning_rate": 9.474479604571588e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31621960, + "step": 16148 + }, + { + "epoch": 2.140357852882704, + "grad_norm": 0.007865986786782742, + "learning_rate": 9.47175891259805e-07, + "loss": 0.0, + "num_input_tokens_seen": 31623280, + "step": 16149 + }, + { + "epoch": 2.140490390987409, + "grad_norm": 0.0025304299779236317, + "learning_rate": 9.469038520019716e-07, + "loss": 0.0, + "num_input_tokens_seen": 31624776, + "step": 16150 + }, + { + "epoch": 2.140622929092114, + "grad_norm": 4.182048320770264, + "learning_rate": 9.466318426889032e-07, + "loss": 0.0633, + "num_input_tokens_seen": 31626616, + "step": 16151 + }, + { + "epoch": 2.140755467196819, + "grad_norm": 1.7968076467514038, + "learning_rate": 9.463598633258437e-07, + "loss": 0.009, + "num_input_tokens_seen": 31629864, + "step": 16152 + }, + { + "epoch": 2.140888005301524, + "grad_norm": 0.07165373116731644, + "learning_rate": 9.460879139180376e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31631792, + "step": 16153 + }, + { + "epoch": 2.1410205434062295, + "grad_norm": 8.528525352478027, + "learning_rate": 9.458159944707296e-07, + "loss": 0.1164, + "num_input_tokens_seen": 31633744, + "step": 16154 + }, + { + "epoch": 2.1411530815109345, + "grad_norm": 12.273754119873047, + "learning_rate": 9.455441049891612e-07, + "loss": 0.0443, + "num_input_tokens_seen": 31635440, + "step": 16155 + }, + { + "epoch": 2.1412856196156396, + "grad_norm": 0.01286132913082838, + "learning_rate": 9.452722454785749e-07, + "loss": 0.0, + "num_input_tokens_seen": 31637784, + "step": 16156 + }, + { + "epoch": 2.1414181577203446, + "grad_norm": 0.09625675529241562, + "learning_rate": 9.450004159442114e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31639752, + "step": 16157 + }, + { + "epoch": 2.1415506958250496, + "grad_norm": 0.0034940026234835386, + "learning_rate": 9.447286163913128e-07, + "loss": 0.0, + "num_input_tokens_seen": 31641744, + "step": 16158 + }, + { + "epoch": 2.1416832339297547, + "grad_norm": 1.0387438535690308, + "learning_rate": 9.4445684682512e-07, + "loss": 0.0025, + "num_input_tokens_seen": 31643552, + "step": 16159 + }, + { + "epoch": 2.1418157720344597, + "grad_norm": 0.13720466196537018, + "learning_rate": 9.441851072508726e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31645824, + "step": 16160 + }, + { + "epoch": 2.141948310139165, + "grad_norm": 7.158527851104736, + "learning_rate": 9.439133976738094e-07, + "loss": 0.0594, + "num_input_tokens_seen": 31647216, + "step": 16161 + }, + { + "epoch": 2.1420808482438702, + "grad_norm": 3.2074477672576904, + "learning_rate": 9.436417180991686e-07, + "loss": 0.0703, + "num_input_tokens_seen": 31648936, + "step": 16162 + }, + { + "epoch": 2.1422133863485753, + "grad_norm": 0.04987587034702301, + "learning_rate": 9.4337006853219e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31651040, + "step": 16163 + }, + { + "epoch": 2.1423459244532803, + "grad_norm": 0.001366147887893021, + "learning_rate": 9.430984489781095e-07, + "loss": 0.0, + "num_input_tokens_seen": 31653640, + "step": 16164 + }, + { + "epoch": 2.1424784625579854, + "grad_norm": 8.50261402130127, + "learning_rate": 9.428268594421658e-07, + "loss": 0.1152, + "num_input_tokens_seen": 31655560, + "step": 16165 + }, + { + "epoch": 2.1426110006626904, + "grad_norm": 0.003825852647423744, + "learning_rate": 9.425552999295945e-07, + "loss": 0.0, + "num_input_tokens_seen": 31657472, + "step": 16166 + }, + { + "epoch": 2.1427435387673954, + "grad_norm": 12.706666946411133, + "learning_rate": 9.422837704456306e-07, + "loss": 0.1536, + "num_input_tokens_seen": 31659328, + "step": 16167 + }, + { + "epoch": 2.142876076872101, + "grad_norm": 10.95345401763916, + "learning_rate": 9.420122709955109e-07, + "loss": 0.1022, + "num_input_tokens_seen": 31661112, + "step": 16168 + }, + { + "epoch": 2.143008614976806, + "grad_norm": 0.2134910523891449, + "learning_rate": 9.417408015844695e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31662688, + "step": 16169 + }, + { + "epoch": 2.143141153081511, + "grad_norm": 0.00654176389798522, + "learning_rate": 9.414693622177398e-07, + "loss": 0.0, + "num_input_tokens_seen": 31664840, + "step": 16170 + }, + { + "epoch": 2.143273691186216, + "grad_norm": 0.009351802058517933, + "learning_rate": 9.411979529005566e-07, + "loss": 0.0, + "num_input_tokens_seen": 31666400, + "step": 16171 + }, + { + "epoch": 2.143406229290921, + "grad_norm": 8.891071319580078, + "learning_rate": 9.409265736381515e-07, + "loss": 0.1067, + "num_input_tokens_seen": 31667960, + "step": 16172 + }, + { + "epoch": 2.143538767395626, + "grad_norm": 9.3027925491333, + "learning_rate": 9.406552244357584e-07, + "loss": 0.1951, + "num_input_tokens_seen": 31670512, + "step": 16173 + }, + { + "epoch": 2.143671305500331, + "grad_norm": 11.335594177246094, + "learning_rate": 9.403839052986083e-07, + "loss": 0.0715, + "num_input_tokens_seen": 31673912, + "step": 16174 + }, + { + "epoch": 2.1438038436050366, + "grad_norm": 0.0008645054185763001, + "learning_rate": 9.401126162319324e-07, + "loss": 0.0, + "num_input_tokens_seen": 31675224, + "step": 16175 + }, + { + "epoch": 2.1439363817097417, + "grad_norm": 0.1555292159318924, + "learning_rate": 9.398413572409606e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31676928, + "step": 16176 + }, + { + "epoch": 2.1440689198144467, + "grad_norm": 0.08556928485631943, + "learning_rate": 9.395701283309245e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31679056, + "step": 16177 + }, + { + "epoch": 2.1442014579191517, + "grad_norm": 0.001294081099331379, + "learning_rate": 9.39298929507052e-07, + "loss": 0.0, + "num_input_tokens_seen": 31680600, + "step": 16178 + }, + { + "epoch": 2.1443339960238568, + "grad_norm": 6.066516876220703, + "learning_rate": 9.390277607745738e-07, + "loss": 0.051, + "num_input_tokens_seen": 31682176, + "step": 16179 + }, + { + "epoch": 2.144466534128562, + "grad_norm": 0.6687232851982117, + "learning_rate": 9.38756622138717e-07, + "loss": 0.0039, + "num_input_tokens_seen": 31684032, + "step": 16180 + }, + { + "epoch": 2.144599072233267, + "grad_norm": 2.428736448287964, + "learning_rate": 9.384855136047088e-07, + "loss": 0.0211, + "num_input_tokens_seen": 31686432, + "step": 16181 + }, + { + "epoch": 2.1447316103379723, + "grad_norm": 3.453789234161377, + "learning_rate": 9.382144351777781e-07, + "loss": 0.0191, + "num_input_tokens_seen": 31688400, + "step": 16182 + }, + { + "epoch": 2.1448641484426774, + "grad_norm": 5.131911277770996, + "learning_rate": 9.379433868631493e-07, + "loss": 0.0699, + "num_input_tokens_seen": 31690552, + "step": 16183 + }, + { + "epoch": 2.1449966865473824, + "grad_norm": 0.19395923614501953, + "learning_rate": 9.376723686660508e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31691560, + "step": 16184 + }, + { + "epoch": 2.1451292246520874, + "grad_norm": 2.869584560394287, + "learning_rate": 9.374013805917068e-07, + "loss": 0.0236, + "num_input_tokens_seen": 31693864, + "step": 16185 + }, + { + "epoch": 2.1452617627567925, + "grad_norm": 0.021380914375185966, + "learning_rate": 9.37130422645342e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31695288, + "step": 16186 + }, + { + "epoch": 2.1453943008614975, + "grad_norm": 0.022113464772701263, + "learning_rate": 9.368594948321802e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31696592, + "step": 16187 + }, + { + "epoch": 2.1455268389662026, + "grad_norm": 0.000471513340016827, + "learning_rate": 9.365885971574456e-07, + "loss": 0.0, + "num_input_tokens_seen": 31698200, + "step": 16188 + }, + { + "epoch": 2.145659377070908, + "grad_norm": 2.6180081367492676, + "learning_rate": 9.36317729626362e-07, + "loss": 0.0118, + "num_input_tokens_seen": 31699976, + "step": 16189 + }, + { + "epoch": 2.145791915175613, + "grad_norm": 0.01344381459057331, + "learning_rate": 9.360468922441518e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31703056, + "step": 16190 + }, + { + "epoch": 2.145924453280318, + "grad_norm": 6.0160722732543945, + "learning_rate": 9.357760850160361e-07, + "loss": 0.0688, + "num_input_tokens_seen": 31705304, + "step": 16191 + }, + { + "epoch": 2.146056991385023, + "grad_norm": 0.00019644621352199465, + "learning_rate": 9.355053079472365e-07, + "loss": 0.0, + "num_input_tokens_seen": 31706328, + "step": 16192 + }, + { + "epoch": 2.146189529489728, + "grad_norm": 4.057782173156738, + "learning_rate": 9.352345610429733e-07, + "loss": 0.0427, + "num_input_tokens_seen": 31708208, + "step": 16193 + }, + { + "epoch": 2.1463220675944332, + "grad_norm": 9.826642990112305, + "learning_rate": 9.349638443084669e-07, + "loss": 0.133, + "num_input_tokens_seen": 31710168, + "step": 16194 + }, + { + "epoch": 2.1464546056991387, + "grad_norm": 0.0009362462442368269, + "learning_rate": 9.346931577489383e-07, + "loss": 0.0, + "num_input_tokens_seen": 31711272, + "step": 16195 + }, + { + "epoch": 2.1465871438038437, + "grad_norm": 0.16852040588855743, + "learning_rate": 9.344225013696054e-07, + "loss": 0.0009, + "num_input_tokens_seen": 31713656, + "step": 16196 + }, + { + "epoch": 2.146719681908549, + "grad_norm": 0.003864973085001111, + "learning_rate": 9.341518751756867e-07, + "loss": 0.0, + "num_input_tokens_seen": 31715360, + "step": 16197 + }, + { + "epoch": 2.146852220013254, + "grad_norm": 0.02112683095037937, + "learning_rate": 9.338812791723995e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31717800, + "step": 16198 + }, + { + "epoch": 2.146984758117959, + "grad_norm": 0.005130508448928595, + "learning_rate": 9.336107133649622e-07, + "loss": 0.0, + "num_input_tokens_seen": 31720088, + "step": 16199 + }, + { + "epoch": 2.147117296222664, + "grad_norm": 2.187309741973877, + "learning_rate": 9.333401777585902e-07, + "loss": 0.0057, + "num_input_tokens_seen": 31724184, + "step": 16200 + }, + { + "epoch": 2.147249834327369, + "grad_norm": 0.09846512228250504, + "learning_rate": 9.330696723585012e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31726112, + "step": 16201 + }, + { + "epoch": 2.1473823724320744, + "grad_norm": 2.1234724521636963, + "learning_rate": 9.327991971699097e-07, + "loss": 0.0204, + "num_input_tokens_seen": 31728040, + "step": 16202 + }, + { + "epoch": 2.1475149105367795, + "grad_norm": 3.657836437225342, + "learning_rate": 9.325287521980303e-07, + "loss": 0.0352, + "num_input_tokens_seen": 31729840, + "step": 16203 + }, + { + "epoch": 2.1476474486414845, + "grad_norm": 0.13401801884174347, + "learning_rate": 9.322583374480784e-07, + "loss": 0.0004, + "num_input_tokens_seen": 31731120, + "step": 16204 + }, + { + "epoch": 2.1477799867461895, + "grad_norm": 0.01660325564444065, + "learning_rate": 9.319879529252676e-07, + "loss": 0.0, + "num_input_tokens_seen": 31732256, + "step": 16205 + }, + { + "epoch": 2.1479125248508946, + "grad_norm": 0.04423169046640396, + "learning_rate": 9.317175986348098e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31733656, + "step": 16206 + }, + { + "epoch": 2.1480450629555996, + "grad_norm": 1.9051802158355713, + "learning_rate": 9.314472745819194e-07, + "loss": 0.0105, + "num_input_tokens_seen": 31734736, + "step": 16207 + }, + { + "epoch": 2.1481776010603046, + "grad_norm": 0.26849591732025146, + "learning_rate": 9.311769807718076e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31735888, + "step": 16208 + }, + { + "epoch": 2.14831013916501, + "grad_norm": 0.002372746355831623, + "learning_rate": 9.309067172096853e-07, + "loss": 0.0, + "num_input_tokens_seen": 31737800, + "step": 16209 + }, + { + "epoch": 2.148442677269715, + "grad_norm": 13.417776107788086, + "learning_rate": 9.306364839007645e-07, + "loss": 0.16, + "num_input_tokens_seen": 31739504, + "step": 16210 + }, + { + "epoch": 2.14857521537442, + "grad_norm": 4.874273300170898, + "learning_rate": 9.303662808502542e-07, + "loss": 0.0115, + "num_input_tokens_seen": 31741464, + "step": 16211 + }, + { + "epoch": 2.1487077534791252, + "grad_norm": 9.336577415466309, + "learning_rate": 9.300961080633659e-07, + "loss": 0.056, + "num_input_tokens_seen": 31743016, + "step": 16212 + }, + { + "epoch": 2.1488402915838303, + "grad_norm": 0.1485712081193924, + "learning_rate": 9.298259655453074e-07, + "loss": 0.0011, + "num_input_tokens_seen": 31745192, + "step": 16213 + }, + { + "epoch": 2.1489728296885353, + "grad_norm": 1.395764946937561, + "learning_rate": 9.295558533012867e-07, + "loss": 0.0223, + "num_input_tokens_seen": 31747440, + "step": 16214 + }, + { + "epoch": 2.1491053677932404, + "grad_norm": 0.10491873323917389, + "learning_rate": 9.292857713365134e-07, + "loss": 0.0007, + "num_input_tokens_seen": 31749304, + "step": 16215 + }, + { + "epoch": 2.149237905897946, + "grad_norm": 1.2465040683746338, + "learning_rate": 9.290157196561939e-07, + "loss": 0.0081, + "num_input_tokens_seen": 31751832, + "step": 16216 + }, + { + "epoch": 2.149370444002651, + "grad_norm": 0.0006115460419096053, + "learning_rate": 9.287456982655343e-07, + "loss": 0.0, + "num_input_tokens_seen": 31753424, + "step": 16217 + }, + { + "epoch": 2.149502982107356, + "grad_norm": 11.82949447631836, + "learning_rate": 9.284757071697426e-07, + "loss": 0.0768, + "num_input_tokens_seen": 31755656, + "step": 16218 + }, + { + "epoch": 2.149635520212061, + "grad_norm": 5.837401390075684, + "learning_rate": 9.282057463740224e-07, + "loss": 0.0344, + "num_input_tokens_seen": 31757504, + "step": 16219 + }, + { + "epoch": 2.149768058316766, + "grad_norm": 0.28341424465179443, + "learning_rate": 9.279358158835808e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31759040, + "step": 16220 + }, + { + "epoch": 2.149900596421471, + "grad_norm": 11.043609619140625, + "learning_rate": 9.276659157036208e-07, + "loss": 0.1107, + "num_input_tokens_seen": 31761504, + "step": 16221 + }, + { + "epoch": 2.1500331345261765, + "grad_norm": 2.8094217777252197, + "learning_rate": 9.273960458393469e-07, + "loss": 0.0186, + "num_input_tokens_seen": 31763600, + "step": 16222 + }, + { + "epoch": 2.1501656726308815, + "grad_norm": 19.75331687927246, + "learning_rate": 9.271262062959613e-07, + "loss": 0.1066, + "num_input_tokens_seen": 31766008, + "step": 16223 + }, + { + "epoch": 2.1502982107355866, + "grad_norm": 4.31569766998291, + "learning_rate": 9.268563970786673e-07, + "loss": 0.0426, + "num_input_tokens_seen": 31767904, + "step": 16224 + }, + { + "epoch": 2.1504307488402916, + "grad_norm": 11.932907104492188, + "learning_rate": 9.265866181926683e-07, + "loss": 0.1437, + "num_input_tokens_seen": 31770104, + "step": 16225 + }, + { + "epoch": 2.1505632869449967, + "grad_norm": 13.723921775817871, + "learning_rate": 9.263168696431646e-07, + "loss": 0.2389, + "num_input_tokens_seen": 31772200, + "step": 16226 + }, + { + "epoch": 2.1506958250497017, + "grad_norm": 0.01985761523246765, + "learning_rate": 9.260471514353575e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31774056, + "step": 16227 + }, + { + "epoch": 2.1508283631544067, + "grad_norm": 6.340223789215088, + "learning_rate": 9.257774635744468e-07, + "loss": 0.0343, + "num_input_tokens_seen": 31775864, + "step": 16228 + }, + { + "epoch": 2.150960901259112, + "grad_norm": 0.005917272996157408, + "learning_rate": 9.255078060656319e-07, + "loss": 0.0, + "num_input_tokens_seen": 31777704, + "step": 16229 + }, + { + "epoch": 2.1510934393638173, + "grad_norm": 1.6982152462005615, + "learning_rate": 9.252381789141126e-07, + "loss": 0.012, + "num_input_tokens_seen": 31780568, + "step": 16230 + }, + { + "epoch": 2.1512259774685223, + "grad_norm": 0.007099973503500223, + "learning_rate": 9.249685821250887e-07, + "loss": 0.0, + "num_input_tokens_seen": 31782160, + "step": 16231 + }, + { + "epoch": 2.1513585155732273, + "grad_norm": 4.672240734100342, + "learning_rate": 9.246990157037569e-07, + "loss": 0.039, + "num_input_tokens_seen": 31784696, + "step": 16232 + }, + { + "epoch": 2.1514910536779324, + "grad_norm": 0.9148737788200378, + "learning_rate": 9.24429479655315e-07, + "loss": 0.0036, + "num_input_tokens_seen": 31786296, + "step": 16233 + }, + { + "epoch": 2.1516235917826374, + "grad_norm": 6.01843786239624, + "learning_rate": 9.241599739849585e-07, + "loss": 0.0548, + "num_input_tokens_seen": 31788592, + "step": 16234 + }, + { + "epoch": 2.1517561298873424, + "grad_norm": 7.280119895935059, + "learning_rate": 9.23890498697885e-07, + "loss": 0.2176, + "num_input_tokens_seen": 31790984, + "step": 16235 + }, + { + "epoch": 2.151888667992048, + "grad_norm": 0.0006190254935063422, + "learning_rate": 9.23621053799291e-07, + "loss": 0.0, + "num_input_tokens_seen": 31792400, + "step": 16236 + }, + { + "epoch": 2.152021206096753, + "grad_norm": 0.054704733192920685, + "learning_rate": 9.233516392943703e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31794048, + "step": 16237 + }, + { + "epoch": 2.152153744201458, + "grad_norm": 0.028584782034158707, + "learning_rate": 9.230822551883179e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31796120, + "step": 16238 + }, + { + "epoch": 2.152286282306163, + "grad_norm": 0.0022372419480234385, + "learning_rate": 9.228129014863271e-07, + "loss": 0.0, + "num_input_tokens_seen": 31797432, + "step": 16239 + }, + { + "epoch": 2.152418820410868, + "grad_norm": 7.567423343658447, + "learning_rate": 9.225435781935909e-07, + "loss": 0.1204, + "num_input_tokens_seen": 31799864, + "step": 16240 + }, + { + "epoch": 2.152551358515573, + "grad_norm": 0.0038301527965813875, + "learning_rate": 9.22274285315303e-07, + "loss": 0.0, + "num_input_tokens_seen": 31801048, + "step": 16241 + }, + { + "epoch": 2.152683896620278, + "grad_norm": 3.1408138275146484, + "learning_rate": 9.22005022856656e-07, + "loss": 0.0355, + "num_input_tokens_seen": 31803160, + "step": 16242 + }, + { + "epoch": 2.1528164347249836, + "grad_norm": 2.440631866455078, + "learning_rate": 9.217357908228409e-07, + "loss": 0.0166, + "num_input_tokens_seen": 31805464, + "step": 16243 + }, + { + "epoch": 2.1529489728296887, + "grad_norm": 11.36818790435791, + "learning_rate": 9.214665892190484e-07, + "loss": 0.1031, + "num_input_tokens_seen": 31807144, + "step": 16244 + }, + { + "epoch": 2.1530815109343937, + "grad_norm": 8.45652961730957, + "learning_rate": 9.211974180504679e-07, + "loss": 0.0603, + "num_input_tokens_seen": 31809568, + "step": 16245 + }, + { + "epoch": 2.1532140490390987, + "grad_norm": 0.635740339756012, + "learning_rate": 9.209282773222916e-07, + "loss": 0.0047, + "num_input_tokens_seen": 31811128, + "step": 16246 + }, + { + "epoch": 2.153346587143804, + "grad_norm": 3.3793442249298096, + "learning_rate": 9.206591670397064e-07, + "loss": 0.0206, + "num_input_tokens_seen": 31812496, + "step": 16247 + }, + { + "epoch": 2.153479125248509, + "grad_norm": 20.20541763305664, + "learning_rate": 9.20390087207903e-07, + "loss": 0.3728, + "num_input_tokens_seen": 31814680, + "step": 16248 + }, + { + "epoch": 2.153611663353214, + "grad_norm": 1.4733071327209473, + "learning_rate": 9.201210378320683e-07, + "loss": 0.0057, + "num_input_tokens_seen": 31816064, + "step": 16249 + }, + { + "epoch": 2.1537442014579193, + "grad_norm": 13.205214500427246, + "learning_rate": 9.19852018917389e-07, + "loss": 0.0845, + "num_input_tokens_seen": 31818832, + "step": 16250 + }, + { + "epoch": 2.1538767395626244, + "grad_norm": 4.623105525970459, + "learning_rate": 9.195830304690539e-07, + "loss": 0.0465, + "num_input_tokens_seen": 31820320, + "step": 16251 + }, + { + "epoch": 2.1540092776673294, + "grad_norm": 0.00034794409293681383, + "learning_rate": 9.193140724922481e-07, + "loss": 0.0, + "num_input_tokens_seen": 31821624, + "step": 16252 + }, + { + "epoch": 2.1541418157720345, + "grad_norm": 0.00833373237401247, + "learning_rate": 9.190451449921567e-07, + "loss": 0.0, + "num_input_tokens_seen": 31823232, + "step": 16253 + }, + { + "epoch": 2.1542743538767395, + "grad_norm": 0.908818244934082, + "learning_rate": 9.187762479739665e-07, + "loss": 0.0029, + "num_input_tokens_seen": 31824936, + "step": 16254 + }, + { + "epoch": 2.1544068919814445, + "grad_norm": 13.074993133544922, + "learning_rate": 9.185073814428599e-07, + "loss": 0.0965, + "num_input_tokens_seen": 31826928, + "step": 16255 + }, + { + "epoch": 2.1545394300861496, + "grad_norm": 1.2655054330825806, + "learning_rate": 9.18238545404023e-07, + "loss": 0.0096, + "num_input_tokens_seen": 31829144, + "step": 16256 + }, + { + "epoch": 2.154671968190855, + "grad_norm": 0.42516398429870605, + "learning_rate": 9.179697398626383e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31831304, + "step": 16257 + }, + { + "epoch": 2.15480450629556, + "grad_norm": 0.005742785520851612, + "learning_rate": 9.177009648238882e-07, + "loss": 0.0, + "num_input_tokens_seen": 31832680, + "step": 16258 + }, + { + "epoch": 2.154937044400265, + "grad_norm": 5.27374267578125, + "learning_rate": 9.174322202929542e-07, + "loss": 0.0438, + "num_input_tokens_seen": 31835200, + "step": 16259 + }, + { + "epoch": 2.15506958250497, + "grad_norm": 0.4690706431865692, + "learning_rate": 9.171635062750189e-07, + "loss": 0.0012, + "num_input_tokens_seen": 31837488, + "step": 16260 + }, + { + "epoch": 2.155202120609675, + "grad_norm": 2.084514856338501, + "learning_rate": 9.168948227752639e-07, + "loss": 0.009, + "num_input_tokens_seen": 31839624, + "step": 16261 + }, + { + "epoch": 2.1553346587143802, + "grad_norm": 0.22302556037902832, + "learning_rate": 9.166261697988687e-07, + "loss": 0.0005, + "num_input_tokens_seen": 31841016, + "step": 16262 + }, + { + "epoch": 2.1554671968190853, + "grad_norm": 0.0037711237091571093, + "learning_rate": 9.163575473510136e-07, + "loss": 0.0, + "num_input_tokens_seen": 31842840, + "step": 16263 + }, + { + "epoch": 2.1555997349237908, + "grad_norm": 21.521520614624023, + "learning_rate": 9.160889554368766e-07, + "loss": 0.1458, + "num_input_tokens_seen": 31844912, + "step": 16264 + }, + { + "epoch": 2.155732273028496, + "grad_norm": 10.142009735107422, + "learning_rate": 9.158203940616378e-07, + "loss": 0.0926, + "num_input_tokens_seen": 31846984, + "step": 16265 + }, + { + "epoch": 2.155864811133201, + "grad_norm": 0.055978547781705856, + "learning_rate": 9.155518632304738e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31849272, + "step": 16266 + }, + { + "epoch": 2.155997349237906, + "grad_norm": 0.02795438840985298, + "learning_rate": 9.152833629485641e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31851536, + "step": 16267 + }, + { + "epoch": 2.156129887342611, + "grad_norm": 0.01588273234665394, + "learning_rate": 9.150148932210842e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31852920, + "step": 16268 + }, + { + "epoch": 2.156262425447316, + "grad_norm": 0.002919077407568693, + "learning_rate": 9.147464540532108e-07, + "loss": 0.0, + "num_input_tokens_seen": 31854528, + "step": 16269 + }, + { + "epoch": 2.156394963552021, + "grad_norm": 15.744500160217285, + "learning_rate": 9.144780454501181e-07, + "loss": 0.021, + "num_input_tokens_seen": 31857072, + "step": 16270 + }, + { + "epoch": 2.1565275016567265, + "grad_norm": 0.1647627055644989, + "learning_rate": 9.142096674169829e-07, + "loss": 0.001, + "num_input_tokens_seen": 31858992, + "step": 16271 + }, + { + "epoch": 2.1566600397614315, + "grad_norm": 3.7383735179901123, + "learning_rate": 9.1394131995898e-07, + "loss": 0.0498, + "num_input_tokens_seen": 31861304, + "step": 16272 + }, + { + "epoch": 2.1567925778661365, + "grad_norm": 0.02968645468354225, + "learning_rate": 9.136730030812827e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31863736, + "step": 16273 + }, + { + "epoch": 2.1569251159708416, + "grad_norm": 6.896124839782715, + "learning_rate": 9.134047167890639e-07, + "loss": 0.0399, + "num_input_tokens_seen": 31865544, + "step": 16274 + }, + { + "epoch": 2.1570576540755466, + "grad_norm": 0.00278258603066206, + "learning_rate": 9.131364610874971e-07, + "loss": 0.0, + "num_input_tokens_seen": 31867304, + "step": 16275 + }, + { + "epoch": 2.1571901921802517, + "grad_norm": 0.0015640315832570195, + "learning_rate": 9.128682359817532e-07, + "loss": 0.0, + "num_input_tokens_seen": 31869168, + "step": 16276 + }, + { + "epoch": 2.1573227302849567, + "grad_norm": 2.173910140991211, + "learning_rate": 9.126000414770042e-07, + "loss": 0.0099, + "num_input_tokens_seen": 31871640, + "step": 16277 + }, + { + "epoch": 2.157455268389662, + "grad_norm": 0.7526139616966248, + "learning_rate": 9.123318775784227e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31873528, + "step": 16278 + }, + { + "epoch": 2.157587806494367, + "grad_norm": 8.941062927246094, + "learning_rate": 9.120637442911779e-07, + "loss": 0.121, + "num_input_tokens_seen": 31875728, + "step": 16279 + }, + { + "epoch": 2.1577203445990722, + "grad_norm": 0.17758284509181976, + "learning_rate": 9.117956416204393e-07, + "loss": 0.0006, + "num_input_tokens_seen": 31877872, + "step": 16280 + }, + { + "epoch": 2.1578528827037773, + "grad_norm": 0.0022955616004765034, + "learning_rate": 9.115275695713757e-07, + "loss": 0.0, + "num_input_tokens_seen": 31879272, + "step": 16281 + }, + { + "epoch": 2.1579854208084823, + "grad_norm": 0.0018755816854536533, + "learning_rate": 9.112595281491571e-07, + "loss": 0.0, + "num_input_tokens_seen": 31881072, + "step": 16282 + }, + { + "epoch": 2.1581179589131874, + "grad_norm": 9.561823844909668, + "learning_rate": 9.109915173589501e-07, + "loss": 0.061, + "num_input_tokens_seen": 31883496, + "step": 16283 + }, + { + "epoch": 2.158250497017893, + "grad_norm": 1.0439566373825073, + "learning_rate": 9.107235372059236e-07, + "loss": 0.002, + "num_input_tokens_seen": 31886032, + "step": 16284 + }, + { + "epoch": 2.158383035122598, + "grad_norm": 1.5033072233200073, + "learning_rate": 9.10455587695244e-07, + "loss": 0.014, + "num_input_tokens_seen": 31888432, + "step": 16285 + }, + { + "epoch": 2.158515573227303, + "grad_norm": 0.009445133619010448, + "learning_rate": 9.10187668832076e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31890104, + "step": 16286 + }, + { + "epoch": 2.158648111332008, + "grad_norm": 6.966722011566162, + "learning_rate": 9.099197806215875e-07, + "loss": 0.1207, + "num_input_tokens_seen": 31893096, + "step": 16287 + }, + { + "epoch": 2.158780649436713, + "grad_norm": 6.857524871826172, + "learning_rate": 9.096519230689418e-07, + "loss": 0.0516, + "num_input_tokens_seen": 31895480, + "step": 16288 + }, + { + "epoch": 2.158913187541418, + "grad_norm": 0.0023178448900580406, + "learning_rate": 9.093840961793048e-07, + "loss": 0.0, + "num_input_tokens_seen": 31896976, + "step": 16289 + }, + { + "epoch": 2.159045725646123, + "grad_norm": 15.556846618652344, + "learning_rate": 9.091162999578398e-07, + "loss": 0.0339, + "num_input_tokens_seen": 31898712, + "step": 16290 + }, + { + "epoch": 2.1591782637508286, + "grad_norm": 5.336599349975586, + "learning_rate": 9.088485344097095e-07, + "loss": 0.1755, + "num_input_tokens_seen": 31901136, + "step": 16291 + }, + { + "epoch": 2.1593108018555336, + "grad_norm": 10.42993450164795, + "learning_rate": 9.085807995400775e-07, + "loss": 0.134, + "num_input_tokens_seen": 31903784, + "step": 16292 + }, + { + "epoch": 2.1594433399602386, + "grad_norm": 15.401012420654297, + "learning_rate": 9.083130953541058e-07, + "loss": 0.2098, + "num_input_tokens_seen": 31905600, + "step": 16293 + }, + { + "epoch": 2.1595758780649437, + "grad_norm": 5.290477275848389, + "learning_rate": 9.080454218569548e-07, + "loss": 0.034, + "num_input_tokens_seen": 31907768, + "step": 16294 + }, + { + "epoch": 2.1597084161696487, + "grad_norm": 0.0001051467697834596, + "learning_rate": 9.077777790537873e-07, + "loss": 0.0, + "num_input_tokens_seen": 31908672, + "step": 16295 + }, + { + "epoch": 2.1598409542743537, + "grad_norm": 6.950831413269043, + "learning_rate": 9.075101669497624e-07, + "loss": 0.0871, + "num_input_tokens_seen": 31911128, + "step": 16296 + }, + { + "epoch": 2.159973492379059, + "grad_norm": 0.002090666675940156, + "learning_rate": 9.072425855500394e-07, + "loss": 0.0, + "num_input_tokens_seen": 31912776, + "step": 16297 + }, + { + "epoch": 2.1601060304837643, + "grad_norm": 0.03462889418005943, + "learning_rate": 9.069750348597789e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31915280, + "step": 16298 + }, + { + "epoch": 2.1602385685884693, + "grad_norm": 5.907403945922852, + "learning_rate": 9.067075148841387e-07, + "loss": 0.037, + "num_input_tokens_seen": 31917376, + "step": 16299 + }, + { + "epoch": 2.1603711066931743, + "grad_norm": 0.0038726096972823143, + "learning_rate": 9.064400256282757e-07, + "loss": 0.0, + "num_input_tokens_seen": 31919512, + "step": 16300 + }, + { + "epoch": 2.1605036447978794, + "grad_norm": 6.817558765411377, + "learning_rate": 9.061725670973495e-07, + "loss": 0.0686, + "num_input_tokens_seen": 31921544, + "step": 16301 + }, + { + "epoch": 2.1606361829025844, + "grad_norm": 0.0014543962897732854, + "learning_rate": 9.059051392965149e-07, + "loss": 0.0, + "num_input_tokens_seen": 31922904, + "step": 16302 + }, + { + "epoch": 2.1607687210072895, + "grad_norm": 0.020216206088662148, + "learning_rate": 9.056377422309295e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31924352, + "step": 16303 + }, + { + "epoch": 2.160901259111995, + "grad_norm": 0.029913511127233505, + "learning_rate": 9.053703759057486e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31926120, + "step": 16304 + }, + { + "epoch": 2.1610337972167, + "grad_norm": 0.002127459505572915, + "learning_rate": 9.051030403261268e-07, + "loss": 0.0, + "num_input_tokens_seen": 31927632, + "step": 16305 + }, + { + "epoch": 2.161166335321405, + "grad_norm": 0.481268048286438, + "learning_rate": 9.048357354972179e-07, + "loss": 0.0015, + "num_input_tokens_seen": 31929504, + "step": 16306 + }, + { + "epoch": 2.16129887342611, + "grad_norm": 1.5549007654190063, + "learning_rate": 9.045684614241762e-07, + "loss": 0.0152, + "num_input_tokens_seen": 31931032, + "step": 16307 + }, + { + "epoch": 2.161431411530815, + "grad_norm": 11.882316589355469, + "learning_rate": 9.043012181121563e-07, + "loss": 0.1671, + "num_input_tokens_seen": 31933400, + "step": 16308 + }, + { + "epoch": 2.16156394963552, + "grad_norm": 0.005381524097174406, + "learning_rate": 9.040340055663097e-07, + "loss": 0.0, + "num_input_tokens_seen": 31934976, + "step": 16309 + }, + { + "epoch": 2.161696487740225, + "grad_norm": 21.94584083557129, + "learning_rate": 9.037668237917885e-07, + "loss": 0.1753, + "num_input_tokens_seen": 31936584, + "step": 16310 + }, + { + "epoch": 2.1618290258449306, + "grad_norm": 12.660004615783691, + "learning_rate": 9.03499672793744e-07, + "loss": 0.1887, + "num_input_tokens_seen": 31938328, + "step": 16311 + }, + { + "epoch": 2.1619615639496357, + "grad_norm": 9.35374641418457, + "learning_rate": 9.032325525773263e-07, + "loss": 0.1923, + "num_input_tokens_seen": 31941208, + "step": 16312 + }, + { + "epoch": 2.1620941020543407, + "grad_norm": 0.05568844452500343, + "learning_rate": 9.029654631476867e-07, + "loss": 0.0003, + "num_input_tokens_seen": 31942760, + "step": 16313 + }, + { + "epoch": 2.1622266401590458, + "grad_norm": 2.158252239227295, + "learning_rate": 9.026984045099754e-07, + "loss": 0.0132, + "num_input_tokens_seen": 31944504, + "step": 16314 + }, + { + "epoch": 2.162359178263751, + "grad_norm": 4.426802158355713, + "learning_rate": 9.02431376669341e-07, + "loss": 0.049, + "num_input_tokens_seen": 31946232, + "step": 16315 + }, + { + "epoch": 2.162491716368456, + "grad_norm": 0.012634278275072575, + "learning_rate": 9.021643796309315e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31947648, + "step": 16316 + }, + { + "epoch": 2.162624254473161, + "grad_norm": 0.016432592645287514, + "learning_rate": 9.018974133998945e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31949688, + "step": 16317 + }, + { + "epoch": 2.1627567925778663, + "grad_norm": 11.417874336242676, + "learning_rate": 9.016304779813776e-07, + "loss": 0.1375, + "num_input_tokens_seen": 31952120, + "step": 16318 + }, + { + "epoch": 2.1628893306825714, + "grad_norm": 4.407896041870117, + "learning_rate": 9.013635733805287e-07, + "loss": 0.04, + "num_input_tokens_seen": 31954096, + "step": 16319 + }, + { + "epoch": 2.1630218687872764, + "grad_norm": 0.015102413482964039, + "learning_rate": 9.010966996024928e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31955704, + "step": 16320 + }, + { + "epoch": 2.1631544068919815, + "grad_norm": 2.9844865798950195, + "learning_rate": 9.008298566524157e-07, + "loss": 0.0215, + "num_input_tokens_seen": 31957776, + "step": 16321 + }, + { + "epoch": 2.1632869449966865, + "grad_norm": 3.856421947479248, + "learning_rate": 9.005630445354421e-07, + "loss": 0.0098, + "num_input_tokens_seen": 31959696, + "step": 16322 + }, + { + "epoch": 2.1634194831013915, + "grad_norm": 4.188047885894775, + "learning_rate": 9.002962632567159e-07, + "loss": 0.0515, + "num_input_tokens_seen": 31961584, + "step": 16323 + }, + { + "epoch": 2.1635520212060966, + "grad_norm": 12.772509574890137, + "learning_rate": 9.00029512821381e-07, + "loss": 0.213, + "num_input_tokens_seen": 31963224, + "step": 16324 + }, + { + "epoch": 2.163684559310802, + "grad_norm": 5.330288887023926, + "learning_rate": 8.997627932345815e-07, + "loss": 0.0212, + "num_input_tokens_seen": 31965448, + "step": 16325 + }, + { + "epoch": 2.163817097415507, + "grad_norm": 1.5916491746902466, + "learning_rate": 8.994961045014597e-07, + "loss": 0.0035, + "num_input_tokens_seen": 31967560, + "step": 16326 + }, + { + "epoch": 2.163949635520212, + "grad_norm": 3.6776208877563477, + "learning_rate": 8.992294466271567e-07, + "loss": 0.0205, + "num_input_tokens_seen": 31969520, + "step": 16327 + }, + { + "epoch": 2.164082173624917, + "grad_norm": 0.0019953283481299877, + "learning_rate": 8.989628196168137e-07, + "loss": 0.0, + "num_input_tokens_seen": 31971832, + "step": 16328 + }, + { + "epoch": 2.164214711729622, + "grad_norm": 7.119016170501709, + "learning_rate": 8.98696223475573e-07, + "loss": 0.1252, + "num_input_tokens_seen": 31974008, + "step": 16329 + }, + { + "epoch": 2.1643472498343272, + "grad_norm": 0.41225719451904297, + "learning_rate": 8.984296582085727e-07, + "loss": 0.0019, + "num_input_tokens_seen": 31976488, + "step": 16330 + }, + { + "epoch": 2.1644797879390323, + "grad_norm": 0.029439054429531097, + "learning_rate": 8.981631238209546e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31977584, + "step": 16331 + }, + { + "epoch": 2.1646123260437378, + "grad_norm": 1.5935410261154175, + "learning_rate": 8.978966203178562e-07, + "loss": 0.0069, + "num_input_tokens_seen": 31980568, + "step": 16332 + }, + { + "epoch": 2.164744864148443, + "grad_norm": 2.0579516887664795, + "learning_rate": 8.976301477044156e-07, + "loss": 0.0139, + "num_input_tokens_seen": 31982512, + "step": 16333 + }, + { + "epoch": 2.164877402253148, + "grad_norm": 0.0004243080038577318, + "learning_rate": 8.973637059857718e-07, + "loss": 0.0, + "num_input_tokens_seen": 31983808, + "step": 16334 + }, + { + "epoch": 2.165009940357853, + "grad_norm": 0.023278528824448586, + "learning_rate": 8.970972951670615e-07, + "loss": 0.0001, + "num_input_tokens_seen": 31986056, + "step": 16335 + }, + { + "epoch": 2.165142478462558, + "grad_norm": 0.03380856662988663, + "learning_rate": 8.968309152534202e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31987320, + "step": 16336 + }, + { + "epoch": 2.165275016567263, + "grad_norm": 0.03233925253152847, + "learning_rate": 8.965645662499858e-07, + "loss": 0.0002, + "num_input_tokens_seen": 31989424, + "step": 16337 + }, + { + "epoch": 2.165407554671968, + "grad_norm": 6.156039237976074, + "learning_rate": 8.962982481618917e-07, + "loss": 0.0337, + "num_input_tokens_seen": 31991760, + "step": 16338 + }, + { + "epoch": 2.1655400927766735, + "grad_norm": 0.1429811418056488, + "learning_rate": 8.960319609942747e-07, + "loss": 0.0008, + "num_input_tokens_seen": 31993368, + "step": 16339 + }, + { + "epoch": 2.1656726308813785, + "grad_norm": 6.612421989440918, + "learning_rate": 8.95765704752268e-07, + "loss": 0.0419, + "num_input_tokens_seen": 31994936, + "step": 16340 + }, + { + "epoch": 2.1658051689860836, + "grad_norm": 14.760262489318848, + "learning_rate": 8.954994794410044e-07, + "loss": 0.1268, + "num_input_tokens_seen": 31997000, + "step": 16341 + }, + { + "epoch": 2.1659377070907886, + "grad_norm": 5.923161029815674, + "learning_rate": 8.952332850656184e-07, + "loss": 0.0384, + "num_input_tokens_seen": 31999112, + "step": 16342 + }, + { + "epoch": 2.1660702451954936, + "grad_norm": 1.843796730041504, + "learning_rate": 8.949671216312411e-07, + "loss": 0.0161, + "num_input_tokens_seen": 32000936, + "step": 16343 + }, + { + "epoch": 2.1662027833001987, + "grad_norm": 0.029117045924067497, + "learning_rate": 8.947009891430056e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32002680, + "step": 16344 + }, + { + "epoch": 2.1663353214049037, + "grad_norm": 0.0009290559682995081, + "learning_rate": 8.944348876060426e-07, + "loss": 0.0, + "num_input_tokens_seen": 32003992, + "step": 16345 + }, + { + "epoch": 2.166467859509609, + "grad_norm": 12.250194549560547, + "learning_rate": 8.941688170254826e-07, + "loss": 0.2548, + "num_input_tokens_seen": 32006504, + "step": 16346 + }, + { + "epoch": 2.166600397614314, + "grad_norm": 0.05723026394844055, + "learning_rate": 8.939027774064546e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32007704, + "step": 16347 + }, + { + "epoch": 2.1667329357190193, + "grad_norm": 5.852693557739258, + "learning_rate": 8.936367687540893e-07, + "loss": 0.0433, + "num_input_tokens_seen": 32009424, + "step": 16348 + }, + { + "epoch": 2.1668654738237243, + "grad_norm": 7.560417175292969, + "learning_rate": 8.933707910735159e-07, + "loss": 0.1496, + "num_input_tokens_seen": 32011336, + "step": 16349 + }, + { + "epoch": 2.1669980119284293, + "grad_norm": 0.049138542264699936, + "learning_rate": 8.93104844369862e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32013048, + "step": 16350 + }, + { + "epoch": 2.1671305500331344, + "grad_norm": 0.06259223073720932, + "learning_rate": 8.928389286482555e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32014336, + "step": 16351 + }, + { + "epoch": 2.1672630881378394, + "grad_norm": 0.0021550392266362906, + "learning_rate": 8.925730439138231e-07, + "loss": 0.0, + "num_input_tokens_seen": 32015744, + "step": 16352 + }, + { + "epoch": 2.167395626242545, + "grad_norm": 1.1689785718917847, + "learning_rate": 8.923071901716903e-07, + "loss": 0.0093, + "num_input_tokens_seen": 32017672, + "step": 16353 + }, + { + "epoch": 2.16752816434725, + "grad_norm": 1.061637043952942, + "learning_rate": 8.92041367426984e-07, + "loss": 0.0057, + "num_input_tokens_seen": 32019680, + "step": 16354 + }, + { + "epoch": 2.167660702451955, + "grad_norm": 0.0325373113155365, + "learning_rate": 8.917755756848304e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32021520, + "step": 16355 + }, + { + "epoch": 2.16779324055666, + "grad_norm": 0.025693921372294426, + "learning_rate": 8.915098149503528e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32023792, + "step": 16356 + }, + { + "epoch": 2.167925778661365, + "grad_norm": 0.03290697559714317, + "learning_rate": 8.912440852286761e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32025896, + "step": 16357 + }, + { + "epoch": 2.16805831676607, + "grad_norm": 12.221582412719727, + "learning_rate": 8.90978386524923e-07, + "loss": 0.1534, + "num_input_tokens_seen": 32028048, + "step": 16358 + }, + { + "epoch": 2.168190854870775, + "grad_norm": 9.645878791809082, + "learning_rate": 8.907127188442158e-07, + "loss": 0.1706, + "num_input_tokens_seen": 32029840, + "step": 16359 + }, + { + "epoch": 2.1683233929754806, + "grad_norm": 0.11162801086902618, + "learning_rate": 8.904470821916775e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32033240, + "step": 16360 + }, + { + "epoch": 2.1684559310801856, + "grad_norm": 0.0052468422800302505, + "learning_rate": 8.901814765724307e-07, + "loss": 0.0, + "num_input_tokens_seen": 32035536, + "step": 16361 + }, + { + "epoch": 2.1685884691848907, + "grad_norm": 1.023766040802002, + "learning_rate": 8.899159019915957e-07, + "loss": 0.0048, + "num_input_tokens_seen": 32037288, + "step": 16362 + }, + { + "epoch": 2.1687210072895957, + "grad_norm": 2.839874029159546, + "learning_rate": 8.896503584542926e-07, + "loss": 0.0263, + "num_input_tokens_seen": 32039344, + "step": 16363 + }, + { + "epoch": 2.1688535453943008, + "grad_norm": 3.3941948413848877, + "learning_rate": 8.893848459656409e-07, + "loss": 0.0192, + "num_input_tokens_seen": 32040592, + "step": 16364 + }, + { + "epoch": 2.168986083499006, + "grad_norm": 9.822312355041504, + "learning_rate": 8.891193645307614e-07, + "loss": 0.1876, + "num_input_tokens_seen": 32043248, + "step": 16365 + }, + { + "epoch": 2.1691186216037113, + "grad_norm": 4.423951148986816, + "learning_rate": 8.888539141547709e-07, + "loss": 0.0195, + "num_input_tokens_seen": 32045520, + "step": 16366 + }, + { + "epoch": 2.1692511597084163, + "grad_norm": 0.8300106525421143, + "learning_rate": 8.885884948427892e-07, + "loss": 0.0025, + "num_input_tokens_seen": 32046968, + "step": 16367 + }, + { + "epoch": 2.1693836978131213, + "grad_norm": 4.133303165435791, + "learning_rate": 8.883231065999329e-07, + "loss": 0.0396, + "num_input_tokens_seen": 32049584, + "step": 16368 + }, + { + "epoch": 2.1695162359178264, + "grad_norm": 2.550511121749878, + "learning_rate": 8.88057749431318e-07, + "loss": 0.0129, + "num_input_tokens_seen": 32052280, + "step": 16369 + }, + { + "epoch": 2.1696487740225314, + "grad_norm": 0.015759941190481186, + "learning_rate": 8.877924233420629e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32054144, + "step": 16370 + }, + { + "epoch": 2.1697813121272365, + "grad_norm": 7.0325212478637695, + "learning_rate": 8.87527128337281e-07, + "loss": 0.0467, + "num_input_tokens_seen": 32056360, + "step": 16371 + }, + { + "epoch": 2.1699138502319415, + "grad_norm": 0.008993811905384064, + "learning_rate": 8.872618644220895e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32058656, + "step": 16372 + }, + { + "epoch": 2.170046388336647, + "grad_norm": 0.009372849948704243, + "learning_rate": 8.869966316016015e-07, + "loss": 0.0, + "num_input_tokens_seen": 32060056, + "step": 16373 + }, + { + "epoch": 2.170178926441352, + "grad_norm": 9.357629776000977, + "learning_rate": 8.867314298809307e-07, + "loss": 0.0731, + "num_input_tokens_seen": 32062008, + "step": 16374 + }, + { + "epoch": 2.170311464546057, + "grad_norm": 0.0015723721589893103, + "learning_rate": 8.864662592651915e-07, + "loss": 0.0, + "num_input_tokens_seen": 32063568, + "step": 16375 + }, + { + "epoch": 2.170444002650762, + "grad_norm": 6.99209451675415, + "learning_rate": 8.86201119759496e-07, + "loss": 0.0972, + "num_input_tokens_seen": 32065272, + "step": 16376 + }, + { + "epoch": 2.170576540755467, + "grad_norm": 2.6327908039093018, + "learning_rate": 8.859360113689555e-07, + "loss": 0.0238, + "num_input_tokens_seen": 32067056, + "step": 16377 + }, + { + "epoch": 2.170709078860172, + "grad_norm": 0.40840256214141846, + "learning_rate": 8.85670934098683e-07, + "loss": 0.0027, + "num_input_tokens_seen": 32069440, + "step": 16378 + }, + { + "epoch": 2.170841616964877, + "grad_norm": 8.189689636230469, + "learning_rate": 8.854058879537883e-07, + "loss": 0.1326, + "num_input_tokens_seen": 32071336, + "step": 16379 + }, + { + "epoch": 2.1709741550695827, + "grad_norm": 0.0016157937934622169, + "learning_rate": 8.851408729393812e-07, + "loss": 0.0, + "num_input_tokens_seen": 32072680, + "step": 16380 + }, + { + "epoch": 2.1711066931742877, + "grad_norm": 0.0027830060571432114, + "learning_rate": 8.848758890605732e-07, + "loss": 0.0, + "num_input_tokens_seen": 32073808, + "step": 16381 + }, + { + "epoch": 2.1712392312789928, + "grad_norm": 8.20941162109375, + "learning_rate": 8.846109363224719e-07, + "loss": 0.0528, + "num_input_tokens_seen": 32075672, + "step": 16382 + }, + { + "epoch": 2.171371769383698, + "grad_norm": 11.36362361907959, + "learning_rate": 8.843460147301855e-07, + "loss": 0.2182, + "num_input_tokens_seen": 32078504, + "step": 16383 + }, + { + "epoch": 2.171504307488403, + "grad_norm": 12.60506820678711, + "learning_rate": 8.840811242888234e-07, + "loss": 0.1181, + "num_input_tokens_seen": 32080232, + "step": 16384 + }, + { + "epoch": 2.171636845593108, + "grad_norm": 0.005351016763597727, + "learning_rate": 8.838162650034912e-07, + "loss": 0.0, + "num_input_tokens_seen": 32081528, + "step": 16385 + }, + { + "epoch": 2.171769383697813, + "grad_norm": 0.03924409672617912, + "learning_rate": 8.835514368792972e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32082912, + "step": 16386 + }, + { + "epoch": 2.1719019218025184, + "grad_norm": 0.007604679558426142, + "learning_rate": 8.832866399213463e-07, + "loss": 0.0, + "num_input_tokens_seen": 32084208, + "step": 16387 + }, + { + "epoch": 2.1720344599072234, + "grad_norm": 0.004771833308041096, + "learning_rate": 8.830218741347446e-07, + "loss": 0.0, + "num_input_tokens_seen": 32085776, + "step": 16388 + }, + { + "epoch": 2.1721669980119285, + "grad_norm": 8.157522201538086, + "learning_rate": 8.827571395245957e-07, + "loss": 0.1436, + "num_input_tokens_seen": 32088256, + "step": 16389 + }, + { + "epoch": 2.1722995361166335, + "grad_norm": 0.0032732984982430935, + "learning_rate": 8.824924360960049e-07, + "loss": 0.0, + "num_input_tokens_seen": 32089280, + "step": 16390 + }, + { + "epoch": 2.1724320742213385, + "grad_norm": 2.30367374420166, + "learning_rate": 8.822277638540766e-07, + "loss": 0.0134, + "num_input_tokens_seen": 32091872, + "step": 16391 + }, + { + "epoch": 2.1725646123260436, + "grad_norm": 2.602233648300171, + "learning_rate": 8.81963122803913e-07, + "loss": 0.01, + "num_input_tokens_seen": 32093488, + "step": 16392 + }, + { + "epoch": 2.172697150430749, + "grad_norm": 0.10372641682624817, + "learning_rate": 8.816985129506167e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32095336, + "step": 16393 + }, + { + "epoch": 2.172829688535454, + "grad_norm": 0.8153428435325623, + "learning_rate": 8.814339342992886e-07, + "loss": 0.0028, + "num_input_tokens_seen": 32096808, + "step": 16394 + }, + { + "epoch": 2.172962226640159, + "grad_norm": 0.026446107774972916, + "learning_rate": 8.811693868550309e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32098168, + "step": 16395 + }, + { + "epoch": 2.173094764744864, + "grad_norm": 0.0017325254157185555, + "learning_rate": 8.809048706229451e-07, + "loss": 0.0, + "num_input_tokens_seen": 32099296, + "step": 16396 + }, + { + "epoch": 2.173227302849569, + "grad_norm": 2.445796012878418, + "learning_rate": 8.806403856081302e-07, + "loss": 0.0075, + "num_input_tokens_seen": 32101200, + "step": 16397 + }, + { + "epoch": 2.1733598409542743, + "grad_norm": 0.000621061073616147, + "learning_rate": 8.803759318156857e-07, + "loss": 0.0, + "num_input_tokens_seen": 32103104, + "step": 16398 + }, + { + "epoch": 2.1734923790589793, + "grad_norm": 12.472467422485352, + "learning_rate": 8.801115092507109e-07, + "loss": 0.0221, + "num_input_tokens_seen": 32104904, + "step": 16399 + }, + { + "epoch": 2.1736249171636848, + "grad_norm": 0.02417619526386261, + "learning_rate": 8.798471179183027e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32106984, + "step": 16400 + }, + { + "epoch": 2.17375745526839, + "grad_norm": 0.0045822300016880035, + "learning_rate": 8.795827578235597e-07, + "loss": 0.0, + "num_input_tokens_seen": 32109672, + "step": 16401 + }, + { + "epoch": 2.173889993373095, + "grad_norm": 6.171019554138184, + "learning_rate": 8.793184289715797e-07, + "loss": 0.0263, + "num_input_tokens_seen": 32111304, + "step": 16402 + }, + { + "epoch": 2.1740225314778, + "grad_norm": 4.854536056518555, + "learning_rate": 8.790541313674586e-07, + "loss": 0.0605, + "num_input_tokens_seen": 32113288, + "step": 16403 + }, + { + "epoch": 2.174155069582505, + "grad_norm": 7.49040412902832, + "learning_rate": 8.787898650162921e-07, + "loss": 0.0583, + "num_input_tokens_seen": 32115152, + "step": 16404 + }, + { + "epoch": 2.17428760768721, + "grad_norm": 28.883913040161133, + "learning_rate": 8.785256299231745e-07, + "loss": 0.1415, + "num_input_tokens_seen": 32117824, + "step": 16405 + }, + { + "epoch": 2.174420145791915, + "grad_norm": 0.005794128403067589, + "learning_rate": 8.782614260932024e-07, + "loss": 0.0, + "num_input_tokens_seen": 32119520, + "step": 16406 + }, + { + "epoch": 2.1745526838966205, + "grad_norm": 0.000828034186270088, + "learning_rate": 8.779972535314676e-07, + "loss": 0.0, + "num_input_tokens_seen": 32120832, + "step": 16407 + }, + { + "epoch": 2.1746852220013255, + "grad_norm": 0.02971603535115719, + "learning_rate": 8.777331122430658e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32122680, + "step": 16408 + }, + { + "epoch": 2.1748177601060306, + "grad_norm": 0.3095114231109619, + "learning_rate": 8.774690022330887e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32124488, + "step": 16409 + }, + { + "epoch": 2.1749502982107356, + "grad_norm": 0.0004727187333628535, + "learning_rate": 8.772049235066285e-07, + "loss": 0.0, + "num_input_tokens_seen": 32125944, + "step": 16410 + }, + { + "epoch": 2.1750828363154406, + "grad_norm": 9.651729583740234, + "learning_rate": 8.769408760687762e-07, + "loss": 0.0438, + "num_input_tokens_seen": 32128248, + "step": 16411 + }, + { + "epoch": 2.1752153744201457, + "grad_norm": 6.555649280548096, + "learning_rate": 8.766768599246242e-07, + "loss": 0.1173, + "num_input_tokens_seen": 32130064, + "step": 16412 + }, + { + "epoch": 2.1753479125248507, + "grad_norm": 5.126222133636475, + "learning_rate": 8.764128750792614e-07, + "loss": 0.0537, + "num_input_tokens_seen": 32132144, + "step": 16413 + }, + { + "epoch": 2.175480450629556, + "grad_norm": 0.00010566495620878413, + "learning_rate": 8.761489215377794e-07, + "loss": 0.0, + "num_input_tokens_seen": 32133336, + "step": 16414 + }, + { + "epoch": 2.1756129887342612, + "grad_norm": 0.0008844821713864803, + "learning_rate": 8.758849993052662e-07, + "loss": 0.0, + "num_input_tokens_seen": 32134744, + "step": 16415 + }, + { + "epoch": 2.1757455268389663, + "grad_norm": 7.598770618438721, + "learning_rate": 8.756211083868099e-07, + "loss": 0.1315, + "num_input_tokens_seen": 32136376, + "step": 16416 + }, + { + "epoch": 2.1758780649436713, + "grad_norm": 1.847217082977295, + "learning_rate": 8.753572487875e-07, + "loss": 0.0246, + "num_input_tokens_seen": 32138960, + "step": 16417 + }, + { + "epoch": 2.1760106030483763, + "grad_norm": 4.659603595733643, + "learning_rate": 8.750934205124226e-07, + "loss": 0.0441, + "num_input_tokens_seen": 32140568, + "step": 16418 + }, + { + "epoch": 2.1761431411530814, + "grad_norm": 3.483297348022461, + "learning_rate": 8.748296235666653e-07, + "loss": 0.0112, + "num_input_tokens_seen": 32142280, + "step": 16419 + }, + { + "epoch": 2.1762756792577864, + "grad_norm": 0.6684598326683044, + "learning_rate": 8.745658579553146e-07, + "loss": 0.0035, + "num_input_tokens_seen": 32145432, + "step": 16420 + }, + { + "epoch": 2.176408217362492, + "grad_norm": 0.006277100648730993, + "learning_rate": 8.743021236834543e-07, + "loss": 0.0, + "num_input_tokens_seen": 32146944, + "step": 16421 + }, + { + "epoch": 2.176540755467197, + "grad_norm": 10.952794075012207, + "learning_rate": 8.740384207561715e-07, + "loss": 0.1437, + "num_input_tokens_seen": 32149264, + "step": 16422 + }, + { + "epoch": 2.176673293571902, + "grad_norm": 0.21170520782470703, + "learning_rate": 8.737747491785495e-07, + "loss": 0.0016, + "num_input_tokens_seen": 32151928, + "step": 16423 + }, + { + "epoch": 2.176805831676607, + "grad_norm": 4.580447196960449, + "learning_rate": 8.735111089556716e-07, + "loss": 0.0668, + "num_input_tokens_seen": 32154184, + "step": 16424 + }, + { + "epoch": 2.176938369781312, + "grad_norm": 0.015064590610563755, + "learning_rate": 8.732475000926222e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32156408, + "step": 16425 + }, + { + "epoch": 2.177070907886017, + "grad_norm": 0.00421043811365962, + "learning_rate": 8.729839225944825e-07, + "loss": 0.0, + "num_input_tokens_seen": 32157944, + "step": 16426 + }, + { + "epoch": 2.177203445990722, + "grad_norm": 6.991897106170654, + "learning_rate": 8.727203764663361e-07, + "loss": 0.1093, + "num_input_tokens_seen": 32159584, + "step": 16427 + }, + { + "epoch": 2.1773359840954276, + "grad_norm": 7.092871189117432, + "learning_rate": 8.724568617132634e-07, + "loss": 0.0364, + "num_input_tokens_seen": 32162008, + "step": 16428 + }, + { + "epoch": 2.1774685222001327, + "grad_norm": 0.14041098952293396, + "learning_rate": 8.721933783403453e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32163584, + "step": 16429 + }, + { + "epoch": 2.1776010603048377, + "grad_norm": 1.4582666158676147, + "learning_rate": 8.719299263526607e-07, + "loss": 0.011, + "num_input_tokens_seen": 32165488, + "step": 16430 + }, + { + "epoch": 2.1777335984095427, + "grad_norm": 0.014736780896782875, + "learning_rate": 8.716665057552903e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32167400, + "step": 16431 + }, + { + "epoch": 2.1778661365142478, + "grad_norm": 0.014151995070278645, + "learning_rate": 8.71403116553314e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32168904, + "step": 16432 + }, + { + "epoch": 2.177998674618953, + "grad_norm": 31.933948516845703, + "learning_rate": 8.711397587518092e-07, + "loss": 0.1483, + "num_input_tokens_seen": 32171248, + "step": 16433 + }, + { + "epoch": 2.178131212723658, + "grad_norm": 10.695718765258789, + "learning_rate": 8.708764323558533e-07, + "loss": 0.1239, + "num_input_tokens_seen": 32173288, + "step": 16434 + }, + { + "epoch": 2.1782637508283633, + "grad_norm": 0.054913926869630814, + "learning_rate": 8.70613137370524e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32175416, + "step": 16435 + }, + { + "epoch": 2.1783962889330684, + "grad_norm": 0.011469722725450993, + "learning_rate": 8.703498738008965e-07, + "loss": 0.0, + "num_input_tokens_seen": 32176960, + "step": 16436 + }, + { + "epoch": 2.1785288270377734, + "grad_norm": 3.1874213218688965, + "learning_rate": 8.700866416520473e-07, + "loss": 0.0561, + "num_input_tokens_seen": 32179128, + "step": 16437 + }, + { + "epoch": 2.1786613651424784, + "grad_norm": 0.2929127812385559, + "learning_rate": 8.698234409290535e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32181264, + "step": 16438 + }, + { + "epoch": 2.1787939032471835, + "grad_norm": 0.13607093691825867, + "learning_rate": 8.69560271636988e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32182888, + "step": 16439 + }, + { + "epoch": 2.1789264413518885, + "grad_norm": 10.752280235290527, + "learning_rate": 8.692971337809253e-07, + "loss": 0.1905, + "num_input_tokens_seen": 32184776, + "step": 16440 + }, + { + "epoch": 2.1790589794565935, + "grad_norm": 0.25187352299690247, + "learning_rate": 8.690340273659387e-07, + "loss": 0.0019, + "num_input_tokens_seen": 32186816, + "step": 16441 + }, + { + "epoch": 2.179191517561299, + "grad_norm": 0.00032210929202847183, + "learning_rate": 8.687709523971005e-07, + "loss": 0.0, + "num_input_tokens_seen": 32188776, + "step": 16442 + }, + { + "epoch": 2.179324055666004, + "grad_norm": 0.8406180143356323, + "learning_rate": 8.685079088794838e-07, + "loss": 0.0064, + "num_input_tokens_seen": 32190864, + "step": 16443 + }, + { + "epoch": 2.179456593770709, + "grad_norm": 1.4805094003677368, + "learning_rate": 8.682448968181606e-07, + "loss": 0.0067, + "num_input_tokens_seen": 32193240, + "step": 16444 + }, + { + "epoch": 2.179589131875414, + "grad_norm": 4.409290313720703, + "learning_rate": 8.679819162182019e-07, + "loss": 0.0389, + "num_input_tokens_seen": 32195128, + "step": 16445 + }, + { + "epoch": 2.179721669980119, + "grad_norm": 10.170660972595215, + "learning_rate": 8.677189670846775e-07, + "loss": 0.1347, + "num_input_tokens_seen": 32196936, + "step": 16446 + }, + { + "epoch": 2.179854208084824, + "grad_norm": 0.0032179669942706823, + "learning_rate": 8.674560494226566e-07, + "loss": 0.0, + "num_input_tokens_seen": 32199496, + "step": 16447 + }, + { + "epoch": 2.1799867461895293, + "grad_norm": 0.002872919663786888, + "learning_rate": 8.671931632372094e-07, + "loss": 0.0, + "num_input_tokens_seen": 32201520, + "step": 16448 + }, + { + "epoch": 2.1801192842942347, + "grad_norm": 16.09385871887207, + "learning_rate": 8.669303085334052e-07, + "loss": 0.0794, + "num_input_tokens_seen": 32203240, + "step": 16449 + }, + { + "epoch": 2.1802518223989398, + "grad_norm": 0.00070221844362095, + "learning_rate": 8.666674853163112e-07, + "loss": 0.0, + "num_input_tokens_seen": 32204696, + "step": 16450 + }, + { + "epoch": 2.180384360503645, + "grad_norm": 0.7485249638557434, + "learning_rate": 8.664046935909951e-07, + "loss": 0.0079, + "num_input_tokens_seen": 32206840, + "step": 16451 + }, + { + "epoch": 2.18051689860835, + "grad_norm": 0.018234029412269592, + "learning_rate": 8.661419333625223e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32208752, + "step": 16452 + }, + { + "epoch": 2.180649436713055, + "grad_norm": 0.006148578133434057, + "learning_rate": 8.658792046359612e-07, + "loss": 0.0, + "num_input_tokens_seen": 32210688, + "step": 16453 + }, + { + "epoch": 2.18078197481776, + "grad_norm": 0.008509054780006409, + "learning_rate": 8.656165074163755e-07, + "loss": 0.0, + "num_input_tokens_seen": 32213352, + "step": 16454 + }, + { + "epoch": 2.1809145129224654, + "grad_norm": 0.5992113351821899, + "learning_rate": 8.65353841708832e-07, + "loss": 0.0029, + "num_input_tokens_seen": 32216352, + "step": 16455 + }, + { + "epoch": 2.1810470510271704, + "grad_norm": 4.760822772979736, + "learning_rate": 8.650912075183938e-07, + "loss": 0.0668, + "num_input_tokens_seen": 32217840, + "step": 16456 + }, + { + "epoch": 2.1811795891318755, + "grad_norm": 5.125214576721191, + "learning_rate": 8.648286048501245e-07, + "loss": 0.0355, + "num_input_tokens_seen": 32219240, + "step": 16457 + }, + { + "epoch": 2.1813121272365805, + "grad_norm": 0.00920234713703394, + "learning_rate": 8.645660337090883e-07, + "loss": 0.0, + "num_input_tokens_seen": 32221272, + "step": 16458 + }, + { + "epoch": 2.1814446653412856, + "grad_norm": 4.813745498657227, + "learning_rate": 8.643034941003473e-07, + "loss": 0.0245, + "num_input_tokens_seen": 32223256, + "step": 16459 + }, + { + "epoch": 2.1815772034459906, + "grad_norm": 2.919987916946411, + "learning_rate": 8.640409860289625e-07, + "loss": 0.0132, + "num_input_tokens_seen": 32225296, + "step": 16460 + }, + { + "epoch": 2.1817097415506956, + "grad_norm": 0.3796074092388153, + "learning_rate": 8.63778509499997e-07, + "loss": 0.0021, + "num_input_tokens_seen": 32227656, + "step": 16461 + }, + { + "epoch": 2.181842279655401, + "grad_norm": 0.007414957042783499, + "learning_rate": 8.635160645185095e-07, + "loss": 0.0, + "num_input_tokens_seen": 32229696, + "step": 16462 + }, + { + "epoch": 2.181974817760106, + "grad_norm": 9.742204666137695, + "learning_rate": 8.632536510895623e-07, + "loss": 0.0411, + "num_input_tokens_seen": 32231600, + "step": 16463 + }, + { + "epoch": 2.182107355864811, + "grad_norm": 0.11146488785743713, + "learning_rate": 8.629912692182138e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32233768, + "step": 16464 + }, + { + "epoch": 2.1822398939695162, + "grad_norm": 9.099875450134277, + "learning_rate": 8.627289189095231e-07, + "loss": 0.0349, + "num_input_tokens_seen": 32235808, + "step": 16465 + }, + { + "epoch": 2.1823724320742213, + "grad_norm": 3.2788429260253906, + "learning_rate": 8.624666001685472e-07, + "loss": 0.0173, + "num_input_tokens_seen": 32237232, + "step": 16466 + }, + { + "epoch": 2.1825049701789263, + "grad_norm": 9.758905410766602, + "learning_rate": 8.62204313000346e-07, + "loss": 0.2092, + "num_input_tokens_seen": 32239024, + "step": 16467 + }, + { + "epoch": 2.1826375082836313, + "grad_norm": 0.002124861115589738, + "learning_rate": 8.619420574099746e-07, + "loss": 0.0, + "num_input_tokens_seen": 32240352, + "step": 16468 + }, + { + "epoch": 2.182770046388337, + "grad_norm": 11.174568176269531, + "learning_rate": 8.616798334024912e-07, + "loss": 0.0916, + "num_input_tokens_seen": 32242624, + "step": 16469 + }, + { + "epoch": 2.182902584493042, + "grad_norm": 2.3794476985931396, + "learning_rate": 8.614176409829509e-07, + "loss": 0.0285, + "num_input_tokens_seen": 32244880, + "step": 16470 + }, + { + "epoch": 2.183035122597747, + "grad_norm": 12.936930656433105, + "learning_rate": 8.611554801564079e-07, + "loss": 0.1134, + "num_input_tokens_seen": 32246784, + "step": 16471 + }, + { + "epoch": 2.183167660702452, + "grad_norm": 4.877511978149414, + "learning_rate": 8.608933509279188e-07, + "loss": 0.0481, + "num_input_tokens_seen": 32249168, + "step": 16472 + }, + { + "epoch": 2.183300198807157, + "grad_norm": 5.332021236419678, + "learning_rate": 8.606312533025358e-07, + "loss": 0.0173, + "num_input_tokens_seen": 32251776, + "step": 16473 + }, + { + "epoch": 2.183432736911862, + "grad_norm": 0.06053527072072029, + "learning_rate": 8.603691872853137e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32254008, + "step": 16474 + }, + { + "epoch": 2.1835652750165675, + "grad_norm": 6.473111152648926, + "learning_rate": 8.601071528813051e-07, + "loss": 0.0711, + "num_input_tokens_seen": 32255752, + "step": 16475 + }, + { + "epoch": 2.1836978131212725, + "grad_norm": 0.3763246536254883, + "learning_rate": 8.598451500955618e-07, + "loss": 0.0015, + "num_input_tokens_seen": 32257264, + "step": 16476 + }, + { + "epoch": 2.1838303512259776, + "grad_norm": 11.567811012268066, + "learning_rate": 8.59583178933135e-07, + "loss": 0.0955, + "num_input_tokens_seen": 32259352, + "step": 16477 + }, + { + "epoch": 2.1839628893306826, + "grad_norm": 0.2376769632101059, + "learning_rate": 8.593212393990757e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32261312, + "step": 16478 + }, + { + "epoch": 2.1840954274353876, + "grad_norm": 1.1171437501907349, + "learning_rate": 8.590593314984358e-07, + "loss": 0.0068, + "num_input_tokens_seen": 32264008, + "step": 16479 + }, + { + "epoch": 2.1842279655400927, + "grad_norm": 3.2087719440460205, + "learning_rate": 8.587974552362641e-07, + "loss": 0.0166, + "num_input_tokens_seen": 32265616, + "step": 16480 + }, + { + "epoch": 2.1843605036447977, + "grad_norm": 0.0557829886674881, + "learning_rate": 8.585356106176093e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32266856, + "step": 16481 + }, + { + "epoch": 2.184493041749503, + "grad_norm": 0.45588070154190063, + "learning_rate": 8.582737976475205e-07, + "loss": 0.0015, + "num_input_tokens_seen": 32268440, + "step": 16482 + }, + { + "epoch": 2.1846255798542082, + "grad_norm": 8.27389144897461, + "learning_rate": 8.580120163310449e-07, + "loss": 0.1307, + "num_input_tokens_seen": 32270936, + "step": 16483 + }, + { + "epoch": 2.1847581179589133, + "grad_norm": 0.00022269890177994967, + "learning_rate": 8.577502666732301e-07, + "loss": 0.0, + "num_input_tokens_seen": 32272136, + "step": 16484 + }, + { + "epoch": 2.1848906560636183, + "grad_norm": 0.062458913773298264, + "learning_rate": 8.57488548679124e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32274168, + "step": 16485 + }, + { + "epoch": 2.1850231941683234, + "grad_norm": 1.0263233184814453, + "learning_rate": 8.572268623537719e-07, + "loss": 0.004, + "num_input_tokens_seen": 32275984, + "step": 16486 + }, + { + "epoch": 2.1851557322730284, + "grad_norm": 9.072057723999023, + "learning_rate": 8.569652077022189e-07, + "loss": 0.1722, + "num_input_tokens_seen": 32278328, + "step": 16487 + }, + { + "epoch": 2.1852882703777334, + "grad_norm": 4.590048313140869, + "learning_rate": 8.567035847295096e-07, + "loss": 0.0146, + "num_input_tokens_seen": 32280760, + "step": 16488 + }, + { + "epoch": 2.185420808482439, + "grad_norm": 5.983201503753662, + "learning_rate": 8.564419934406895e-07, + "loss": 0.0707, + "num_input_tokens_seen": 32282480, + "step": 16489 + }, + { + "epoch": 2.185553346587144, + "grad_norm": 0.006004919297993183, + "learning_rate": 8.561804338408008e-07, + "loss": 0.0, + "num_input_tokens_seen": 32284248, + "step": 16490 + }, + { + "epoch": 2.185685884691849, + "grad_norm": 0.013163235038518906, + "learning_rate": 8.559189059348883e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32285648, + "step": 16491 + }, + { + "epoch": 2.185818422796554, + "grad_norm": 0.0029043289832770824, + "learning_rate": 8.556574097279933e-07, + "loss": 0.0, + "num_input_tokens_seen": 32287144, + "step": 16492 + }, + { + "epoch": 2.185950960901259, + "grad_norm": 11.34067153930664, + "learning_rate": 8.553959452251579e-07, + "loss": 0.0773, + "num_input_tokens_seen": 32288296, + "step": 16493 + }, + { + "epoch": 2.186083499005964, + "grad_norm": 4.677226543426514, + "learning_rate": 8.551345124314225e-07, + "loss": 0.1079, + "num_input_tokens_seen": 32290272, + "step": 16494 + }, + { + "epoch": 2.186216037110669, + "grad_norm": 2.2177865505218506, + "learning_rate": 8.548731113518292e-07, + "loss": 0.0089, + "num_input_tokens_seen": 32292848, + "step": 16495 + }, + { + "epoch": 2.1863485752153746, + "grad_norm": 0.01839907467365265, + "learning_rate": 8.546117419914162e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32294272, + "step": 16496 + }, + { + "epoch": 2.1864811133200797, + "grad_norm": 9.268694877624512, + "learning_rate": 8.543504043552251e-07, + "loss": 0.072, + "num_input_tokens_seen": 32296432, + "step": 16497 + }, + { + "epoch": 2.1866136514247847, + "grad_norm": 0.09686466306447983, + "learning_rate": 8.540890984482933e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32298352, + "step": 16498 + }, + { + "epoch": 2.1867461895294897, + "grad_norm": 4.109129428863525, + "learning_rate": 8.538278242756581e-07, + "loss": 0.0428, + "num_input_tokens_seen": 32300280, + "step": 16499 + }, + { + "epoch": 2.1868787276341948, + "grad_norm": 0.01647254452109337, + "learning_rate": 8.535665818423591e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32303048, + "step": 16500 + }, + { + "epoch": 2.1870112657389, + "grad_norm": 0.8939768671989441, + "learning_rate": 8.533053711534314e-07, + "loss": 0.0059, + "num_input_tokens_seen": 32304792, + "step": 16501 + }, + { + "epoch": 2.187143803843605, + "grad_norm": 0.7834133505821228, + "learning_rate": 8.530441922139132e-07, + "loss": 0.0049, + "num_input_tokens_seen": 32306704, + "step": 16502 + }, + { + "epoch": 2.1872763419483103, + "grad_norm": 0.9840855002403259, + "learning_rate": 8.527830450288387e-07, + "loss": 0.0031, + "num_input_tokens_seen": 32308656, + "step": 16503 + }, + { + "epoch": 2.1874088800530154, + "grad_norm": 0.002331552328541875, + "learning_rate": 8.52521929603243e-07, + "loss": 0.0, + "num_input_tokens_seen": 32310176, + "step": 16504 + }, + { + "epoch": 2.1875414181577204, + "grad_norm": 0.054897282272577286, + "learning_rate": 8.522608459421617e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32311280, + "step": 16505 + }, + { + "epoch": 2.1876739562624254, + "grad_norm": 0.0017160241259261966, + "learning_rate": 8.519997940506281e-07, + "loss": 0.0, + "num_input_tokens_seen": 32312800, + "step": 16506 + }, + { + "epoch": 2.1878064943671305, + "grad_norm": 6.117879867553711, + "learning_rate": 8.517387739336743e-07, + "loss": 0.151, + "num_input_tokens_seen": 32314872, + "step": 16507 + }, + { + "epoch": 2.1879390324718355, + "grad_norm": 6.077617645263672, + "learning_rate": 8.514777855963349e-07, + "loss": 0.037, + "num_input_tokens_seen": 32316736, + "step": 16508 + }, + { + "epoch": 2.1880715705765406, + "grad_norm": 0.6500634551048279, + "learning_rate": 8.512168290436404e-07, + "loss": 0.0018, + "num_input_tokens_seen": 32318048, + "step": 16509 + }, + { + "epoch": 2.188204108681246, + "grad_norm": 0.3877097964286804, + "learning_rate": 8.509559042806237e-07, + "loss": 0.0014, + "num_input_tokens_seen": 32319984, + "step": 16510 + }, + { + "epoch": 2.188336646785951, + "grad_norm": 4.627021312713623, + "learning_rate": 8.506950113123147e-07, + "loss": 0.0462, + "num_input_tokens_seen": 32321976, + "step": 16511 + }, + { + "epoch": 2.188469184890656, + "grad_norm": 0.014595831744372845, + "learning_rate": 8.504341501437435e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32323768, + "step": 16512 + }, + { + "epoch": 2.188601722995361, + "grad_norm": 1.4934358596801758, + "learning_rate": 8.501733207799393e-07, + "loss": 0.0055, + "num_input_tokens_seen": 32326672, + "step": 16513 + }, + { + "epoch": 2.188734261100066, + "grad_norm": 0.03707326203584671, + "learning_rate": 8.499125232259318e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32328864, + "step": 16514 + }, + { + "epoch": 2.1888667992047712, + "grad_norm": 7.298274993896484, + "learning_rate": 8.496517574867496e-07, + "loss": 0.0906, + "num_input_tokens_seen": 32330664, + "step": 16515 + }, + { + "epoch": 2.1889993373094763, + "grad_norm": 6.642621040344238, + "learning_rate": 8.493910235674202e-07, + "loss": 0.0201, + "num_input_tokens_seen": 32332488, + "step": 16516 + }, + { + "epoch": 2.1891318754141817, + "grad_norm": 4.521309852600098, + "learning_rate": 8.491303214729704e-07, + "loss": 0.0748, + "num_input_tokens_seen": 32334168, + "step": 16517 + }, + { + "epoch": 2.189264413518887, + "grad_norm": 4.338212490081787, + "learning_rate": 8.488696512084271e-07, + "loss": 0.0217, + "num_input_tokens_seen": 32335400, + "step": 16518 + }, + { + "epoch": 2.189396951623592, + "grad_norm": 0.009581783786416054, + "learning_rate": 8.486090127788152e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32337752, + "step": 16519 + }, + { + "epoch": 2.189529489728297, + "grad_norm": 0.30978938937187195, + "learning_rate": 8.483484061891606e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32339376, + "step": 16520 + }, + { + "epoch": 2.189662027833002, + "grad_norm": 5.421680450439453, + "learning_rate": 8.48087831444489e-07, + "loss": 0.1188, + "num_input_tokens_seen": 32341144, + "step": 16521 + }, + { + "epoch": 2.189794565937707, + "grad_norm": 0.004379692953079939, + "learning_rate": 8.478272885498237e-07, + "loss": 0.0, + "num_input_tokens_seen": 32342976, + "step": 16522 + }, + { + "epoch": 2.189927104042412, + "grad_norm": 7.226802349090576, + "learning_rate": 8.475667775101881e-07, + "loss": 0.0322, + "num_input_tokens_seen": 32344952, + "step": 16523 + }, + { + "epoch": 2.1900596421471175, + "grad_norm": 4.630097389221191, + "learning_rate": 8.47306298330604e-07, + "loss": 0.0721, + "num_input_tokens_seen": 32346784, + "step": 16524 + }, + { + "epoch": 2.1901921802518225, + "grad_norm": 0.0009398441179655492, + "learning_rate": 8.470458510160945e-07, + "loss": 0.0, + "num_input_tokens_seen": 32347896, + "step": 16525 + }, + { + "epoch": 2.1903247183565275, + "grad_norm": 12.004461288452148, + "learning_rate": 8.467854355716823e-07, + "loss": 0.0944, + "num_input_tokens_seen": 32350472, + "step": 16526 + }, + { + "epoch": 2.1904572564612326, + "grad_norm": 3.0960607528686523, + "learning_rate": 8.465250520023874e-07, + "loss": 0.0292, + "num_input_tokens_seen": 32352168, + "step": 16527 + }, + { + "epoch": 2.1905897945659376, + "grad_norm": 0.22534780204296112, + "learning_rate": 8.462647003132301e-07, + "loss": 0.0017, + "num_input_tokens_seen": 32355112, + "step": 16528 + }, + { + "epoch": 2.1907223326706426, + "grad_norm": 0.004439543467015028, + "learning_rate": 8.460043805092305e-07, + "loss": 0.0, + "num_input_tokens_seen": 32356496, + "step": 16529 + }, + { + "epoch": 2.1908548707753477, + "grad_norm": 0.5017176270484924, + "learning_rate": 8.457440925954063e-07, + "loss": 0.0021, + "num_input_tokens_seen": 32358320, + "step": 16530 + }, + { + "epoch": 2.190987408880053, + "grad_norm": 0.25894895195961, + "learning_rate": 8.454838365767773e-07, + "loss": 0.0015, + "num_input_tokens_seen": 32360008, + "step": 16531 + }, + { + "epoch": 2.191119946984758, + "grad_norm": 2.5129244327545166, + "learning_rate": 8.452236124583624e-07, + "loss": 0.0112, + "num_input_tokens_seen": 32361728, + "step": 16532 + }, + { + "epoch": 2.1912524850894632, + "grad_norm": 0.026141416281461716, + "learning_rate": 8.449634202451775e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32364472, + "step": 16533 + }, + { + "epoch": 2.1913850231941683, + "grad_norm": 19.51425552368164, + "learning_rate": 8.447032599422398e-07, + "loss": 0.0969, + "num_input_tokens_seen": 32367040, + "step": 16534 + }, + { + "epoch": 2.1915175612988733, + "grad_norm": 2.536156415939331, + "learning_rate": 8.444431315545642e-07, + "loss": 0.0434, + "num_input_tokens_seen": 32369136, + "step": 16535 + }, + { + "epoch": 2.1916500994035784, + "grad_norm": 22.4178466796875, + "learning_rate": 8.441830350871679e-07, + "loss": 0.2222, + "num_input_tokens_seen": 32371248, + "step": 16536 + }, + { + "epoch": 2.191782637508284, + "grad_norm": 0.6694629192352295, + "learning_rate": 8.439229705450644e-07, + "loss": 0.0033, + "num_input_tokens_seen": 32372928, + "step": 16537 + }, + { + "epoch": 2.191915175612989, + "grad_norm": 4.045031547546387, + "learning_rate": 8.436629379332693e-07, + "loss": 0.1143, + "num_input_tokens_seen": 32374416, + "step": 16538 + }, + { + "epoch": 2.192047713717694, + "grad_norm": 13.851426124572754, + "learning_rate": 8.434029372567953e-07, + "loss": 0.1598, + "num_input_tokens_seen": 32376856, + "step": 16539 + }, + { + "epoch": 2.192180251822399, + "grad_norm": 3.52768874168396, + "learning_rate": 8.431429685206547e-07, + "loss": 0.0589, + "num_input_tokens_seen": 32379648, + "step": 16540 + }, + { + "epoch": 2.192312789927104, + "grad_norm": 0.001265904982574284, + "learning_rate": 8.428830317298614e-07, + "loss": 0.0, + "num_input_tokens_seen": 32380928, + "step": 16541 + }, + { + "epoch": 2.192445328031809, + "grad_norm": 17.802461624145508, + "learning_rate": 8.426231268894266e-07, + "loss": 0.3686, + "num_input_tokens_seen": 32383712, + "step": 16542 + }, + { + "epoch": 2.192577866136514, + "grad_norm": 6.707571506500244, + "learning_rate": 8.423632540043603e-07, + "loss": 0.0644, + "num_input_tokens_seen": 32385624, + "step": 16543 + }, + { + "epoch": 2.1927104042412195, + "grad_norm": 1.2263346910476685, + "learning_rate": 8.421034130796748e-07, + "loss": 0.0016, + "num_input_tokens_seen": 32387808, + "step": 16544 + }, + { + "epoch": 2.1928429423459246, + "grad_norm": 0.021623998880386353, + "learning_rate": 8.418436041203787e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32390280, + "step": 16545 + }, + { + "epoch": 2.1929754804506296, + "grad_norm": 0.09988313168287277, + "learning_rate": 8.415838271314825e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32391824, + "step": 16546 + }, + { + "epoch": 2.1931080185553347, + "grad_norm": 0.05018071457743645, + "learning_rate": 8.413240821179941e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32393304, + "step": 16547 + }, + { + "epoch": 2.1932405566600397, + "grad_norm": 6.960991382598877, + "learning_rate": 8.410643690849215e-07, + "loss": 0.0847, + "num_input_tokens_seen": 32395504, + "step": 16548 + }, + { + "epoch": 2.1933730947647447, + "grad_norm": 0.014155656099319458, + "learning_rate": 8.408046880372717e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32397216, + "step": 16549 + }, + { + "epoch": 2.1935056328694498, + "grad_norm": 3.7262864112854004, + "learning_rate": 8.40545038980053e-07, + "loss": 0.0348, + "num_input_tokens_seen": 32399032, + "step": 16550 + }, + { + "epoch": 2.1936381709741553, + "grad_norm": 5.613471031188965, + "learning_rate": 8.402854219182699e-07, + "loss": 0.117, + "num_input_tokens_seen": 32400608, + "step": 16551 + }, + { + "epoch": 2.1937707090788603, + "grad_norm": 0.0005248048692010343, + "learning_rate": 8.400258368569297e-07, + "loss": 0.0, + "num_input_tokens_seen": 32401912, + "step": 16552 + }, + { + "epoch": 2.1939032471835653, + "grad_norm": 11.366371154785156, + "learning_rate": 8.397662838010365e-07, + "loss": 0.1462, + "num_input_tokens_seen": 32404024, + "step": 16553 + }, + { + "epoch": 2.1940357852882704, + "grad_norm": 14.923547744750977, + "learning_rate": 8.395067627555937e-07, + "loss": 0.136, + "num_input_tokens_seen": 32405784, + "step": 16554 + }, + { + "epoch": 2.1941683233929754, + "grad_norm": 8.638009071350098, + "learning_rate": 8.392472737256069e-07, + "loss": 0.1959, + "num_input_tokens_seen": 32407592, + "step": 16555 + }, + { + "epoch": 2.1943008614976804, + "grad_norm": 3.1502857208251953, + "learning_rate": 8.389878167160775e-07, + "loss": 0.0251, + "num_input_tokens_seen": 32410416, + "step": 16556 + }, + { + "epoch": 2.1944333996023855, + "grad_norm": 6.3921966552734375, + "learning_rate": 8.387283917320099e-07, + "loss": 0.0642, + "num_input_tokens_seen": 32412280, + "step": 16557 + }, + { + "epoch": 2.194565937707091, + "grad_norm": 4.556399345397949, + "learning_rate": 8.384689987784047e-07, + "loss": 0.0306, + "num_input_tokens_seen": 32414312, + "step": 16558 + }, + { + "epoch": 2.194698475811796, + "grad_norm": 0.0019420023309066892, + "learning_rate": 8.382096378602639e-07, + "loss": 0.0, + "num_input_tokens_seen": 32415872, + "step": 16559 + }, + { + "epoch": 2.194831013916501, + "grad_norm": 0.4089391529560089, + "learning_rate": 8.379503089825863e-07, + "loss": 0.0013, + "num_input_tokens_seen": 32417544, + "step": 16560 + }, + { + "epoch": 2.194963552021206, + "grad_norm": 0.0075423214584589005, + "learning_rate": 8.376910121503737e-07, + "loss": 0.0, + "num_input_tokens_seen": 32419272, + "step": 16561 + }, + { + "epoch": 2.195096090125911, + "grad_norm": 15.569775581359863, + "learning_rate": 8.374317473686259e-07, + "loss": 0.4376, + "num_input_tokens_seen": 32421000, + "step": 16562 + }, + { + "epoch": 2.195228628230616, + "grad_norm": 2.2102811336517334, + "learning_rate": 8.371725146423409e-07, + "loss": 0.0118, + "num_input_tokens_seen": 32422856, + "step": 16563 + }, + { + "epoch": 2.1953611663353216, + "grad_norm": 0.0014408637071028352, + "learning_rate": 8.369133139765171e-07, + "loss": 0.0, + "num_input_tokens_seen": 32424520, + "step": 16564 + }, + { + "epoch": 2.1954937044400267, + "grad_norm": 0.6970670819282532, + "learning_rate": 8.366541453761515e-07, + "loss": 0.0043, + "num_input_tokens_seen": 32426328, + "step": 16565 + }, + { + "epoch": 2.1956262425447317, + "grad_norm": 0.0062262252904474735, + "learning_rate": 8.363950088462411e-07, + "loss": 0.0, + "num_input_tokens_seen": 32428272, + "step": 16566 + }, + { + "epoch": 2.1957587806494367, + "grad_norm": 0.2609323263168335, + "learning_rate": 8.361359043917824e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32430400, + "step": 16567 + }, + { + "epoch": 2.195891318754142, + "grad_norm": 3.6146416664123535, + "learning_rate": 8.358768320177721e-07, + "loss": 0.0305, + "num_input_tokens_seen": 32432120, + "step": 16568 + }, + { + "epoch": 2.196023856858847, + "grad_norm": 0.02466299571096897, + "learning_rate": 8.356177917292044e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32434464, + "step": 16569 + }, + { + "epoch": 2.196156394963552, + "grad_norm": 4.014787197113037, + "learning_rate": 8.353587835310742e-07, + "loss": 0.1579, + "num_input_tokens_seen": 32436200, + "step": 16570 + }, + { + "epoch": 2.1962889330682573, + "grad_norm": 3.356247901916504, + "learning_rate": 8.350998074283739e-07, + "loss": 0.0287, + "num_input_tokens_seen": 32438448, + "step": 16571 + }, + { + "epoch": 2.1964214711729624, + "grad_norm": 1.1415212154388428, + "learning_rate": 8.348408634260988e-07, + "loss": 0.056, + "num_input_tokens_seen": 32439848, + "step": 16572 + }, + { + "epoch": 2.1965540092776674, + "grad_norm": 0.006085709203034639, + "learning_rate": 8.345819515292397e-07, + "loss": 0.0, + "num_input_tokens_seen": 32441440, + "step": 16573 + }, + { + "epoch": 2.1966865473823725, + "grad_norm": 0.005499835126101971, + "learning_rate": 8.343230717427906e-07, + "loss": 0.0, + "num_input_tokens_seen": 32443456, + "step": 16574 + }, + { + "epoch": 2.1968190854870775, + "grad_norm": 0.042069803923368454, + "learning_rate": 8.340642240717414e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32444768, + "step": 16575 + }, + { + "epoch": 2.1969516235917825, + "grad_norm": 0.10017409920692444, + "learning_rate": 8.338054085210826e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32446032, + "step": 16576 + }, + { + "epoch": 2.1970841616964876, + "grad_norm": 5.813887119293213, + "learning_rate": 8.335466250958058e-07, + "loss": 0.0932, + "num_input_tokens_seen": 32448032, + "step": 16577 + }, + { + "epoch": 2.197216699801193, + "grad_norm": 0.003848862834274769, + "learning_rate": 8.332878738008987e-07, + "loss": 0.0, + "num_input_tokens_seen": 32449888, + "step": 16578 + }, + { + "epoch": 2.197349237905898, + "grad_norm": 7.274786472320557, + "learning_rate": 8.330291546413522e-07, + "loss": 0.1682, + "num_input_tokens_seen": 32451952, + "step": 16579 + }, + { + "epoch": 2.197481776010603, + "grad_norm": 0.03515326976776123, + "learning_rate": 8.327704676221534e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32453320, + "step": 16580 + }, + { + "epoch": 2.197614314115308, + "grad_norm": 1.4648410081863403, + "learning_rate": 8.325118127482903e-07, + "loss": 0.0101, + "num_input_tokens_seen": 32455504, + "step": 16581 + }, + { + "epoch": 2.197746852220013, + "grad_norm": 0.4241339862346649, + "learning_rate": 8.322531900247491e-07, + "loss": 0.0018, + "num_input_tokens_seen": 32457264, + "step": 16582 + }, + { + "epoch": 2.1978793903247182, + "grad_norm": 0.006087826564908028, + "learning_rate": 8.319945994565173e-07, + "loss": 0.0, + "num_input_tokens_seen": 32458400, + "step": 16583 + }, + { + "epoch": 2.1980119284294233, + "grad_norm": 4.9124579429626465, + "learning_rate": 8.3173604104858e-07, + "loss": 0.0198, + "num_input_tokens_seen": 32460224, + "step": 16584 + }, + { + "epoch": 2.1981444665341288, + "grad_norm": 0.5875461101531982, + "learning_rate": 8.314775148059231e-07, + "loss": 0.003, + "num_input_tokens_seen": 32461784, + "step": 16585 + }, + { + "epoch": 2.198277004638834, + "grad_norm": 0.9466050267219543, + "learning_rate": 8.312190207335311e-07, + "loss": 0.0109, + "num_input_tokens_seen": 32463432, + "step": 16586 + }, + { + "epoch": 2.198409542743539, + "grad_norm": 0.1075681522488594, + "learning_rate": 8.309605588363867e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32465416, + "step": 16587 + }, + { + "epoch": 2.198542080848244, + "grad_norm": 0.742644190788269, + "learning_rate": 8.30702129119475e-07, + "loss": 0.002, + "num_input_tokens_seen": 32467280, + "step": 16588 + }, + { + "epoch": 2.198674618952949, + "grad_norm": 0.026090240105986595, + "learning_rate": 8.304437315877775e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32469152, + "step": 16589 + }, + { + "epoch": 2.198807157057654, + "grad_norm": 2.9998509883880615, + "learning_rate": 8.301853662462761e-07, + "loss": 0.0238, + "num_input_tokens_seen": 32470744, + "step": 16590 + }, + { + "epoch": 2.198939695162359, + "grad_norm": 2.4081480503082275, + "learning_rate": 8.299270330999537e-07, + "loss": 0.0113, + "num_input_tokens_seen": 32472704, + "step": 16591 + }, + { + "epoch": 2.1990722332670645, + "grad_norm": 9.72903060913086, + "learning_rate": 8.296687321537892e-07, + "loss": 0.1357, + "num_input_tokens_seen": 32474560, + "step": 16592 + }, + { + "epoch": 2.1992047713717695, + "grad_norm": 19.19078826904297, + "learning_rate": 8.294104634127648e-07, + "loss": 0.2384, + "num_input_tokens_seen": 32476024, + "step": 16593 + }, + { + "epoch": 2.1993373094764745, + "grad_norm": 3.7494773864746094, + "learning_rate": 8.291522268818592e-07, + "loss": 0.0314, + "num_input_tokens_seen": 32478448, + "step": 16594 + }, + { + "epoch": 2.1994698475811796, + "grad_norm": 0.023266751319169998, + "learning_rate": 8.288940225660511e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32479872, + "step": 16595 + }, + { + "epoch": 2.1996023856858846, + "grad_norm": 7.55430269241333, + "learning_rate": 8.286358504703185e-07, + "loss": 0.054, + "num_input_tokens_seen": 32481576, + "step": 16596 + }, + { + "epoch": 2.1997349237905897, + "grad_norm": 4.618304252624512, + "learning_rate": 8.283777105996393e-07, + "loss": 0.0751, + "num_input_tokens_seen": 32484224, + "step": 16597 + }, + { + "epoch": 2.1998674618952947, + "grad_norm": 4.229299545288086, + "learning_rate": 8.281196029589922e-07, + "loss": 0.0499, + "num_input_tokens_seen": 32486936, + "step": 16598 + }, + { + "epoch": 2.2, + "grad_norm": 7.89039421081543, + "learning_rate": 8.278615275533525e-07, + "loss": 0.0353, + "num_input_tokens_seen": 32488552, + "step": 16599 + }, + { + "epoch": 2.200132538104705, + "grad_norm": 0.11992044746875763, + "learning_rate": 8.276034843876963e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32490840, + "step": 16600 + }, + { + "epoch": 2.2002650762094103, + "grad_norm": 0.6093519926071167, + "learning_rate": 8.273454734669984e-07, + "loss": 0.0024, + "num_input_tokens_seen": 32492768, + "step": 16601 + }, + { + "epoch": 2.2003976143141153, + "grad_norm": 9.697235107421875, + "learning_rate": 8.270874947962326e-07, + "loss": 0.0194, + "num_input_tokens_seen": 32494560, + "step": 16602 + }, + { + "epoch": 2.2005301524188203, + "grad_norm": 6.168498992919922, + "learning_rate": 8.268295483803745e-07, + "loss": 0.0408, + "num_input_tokens_seen": 32496280, + "step": 16603 + }, + { + "epoch": 2.2006626905235254, + "grad_norm": 0.09125087410211563, + "learning_rate": 8.265716342243973e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32497696, + "step": 16604 + }, + { + "epoch": 2.2007952286282304, + "grad_norm": 0.1364143341779709, + "learning_rate": 8.263137523332737e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32499456, + "step": 16605 + }, + { + "epoch": 2.200927766732936, + "grad_norm": 0.16730304062366486, + "learning_rate": 8.260559027119758e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32501152, + "step": 16606 + }, + { + "epoch": 2.201060304837641, + "grad_norm": 0.7307750582695007, + "learning_rate": 8.257980853654737e-07, + "loss": 0.005, + "num_input_tokens_seen": 32503192, + "step": 16607 + }, + { + "epoch": 2.201192842942346, + "grad_norm": 4.9991278648376465, + "learning_rate": 8.255403002987397e-07, + "loss": 0.0624, + "num_input_tokens_seen": 32504960, + "step": 16608 + }, + { + "epoch": 2.201325381047051, + "grad_norm": 1.3817178010940552, + "learning_rate": 8.252825475167445e-07, + "loss": 0.0081, + "num_input_tokens_seen": 32506576, + "step": 16609 + }, + { + "epoch": 2.201457919151756, + "grad_norm": 6.537020683288574, + "learning_rate": 8.250248270244571e-07, + "loss": 0.0729, + "num_input_tokens_seen": 32508504, + "step": 16610 + }, + { + "epoch": 2.201590457256461, + "grad_norm": 0.4114634394645691, + "learning_rate": 8.247671388268466e-07, + "loss": 0.0025, + "num_input_tokens_seen": 32510600, + "step": 16611 + }, + { + "epoch": 2.201722995361166, + "grad_norm": 0.014505065977573395, + "learning_rate": 8.245094829288816e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32511728, + "step": 16612 + }, + { + "epoch": 2.2018555334658716, + "grad_norm": 4.720791339874268, + "learning_rate": 8.242518593355287e-07, + "loss": 0.0358, + "num_input_tokens_seen": 32513384, + "step": 16613 + }, + { + "epoch": 2.2019880715705766, + "grad_norm": 0.02104461006820202, + "learning_rate": 8.239942680517557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32514920, + "step": 16614 + }, + { + "epoch": 2.2021206096752817, + "grad_norm": 5.362493991851807, + "learning_rate": 8.237367090825305e-07, + "loss": 0.0328, + "num_input_tokens_seen": 32516760, + "step": 16615 + }, + { + "epoch": 2.2022531477799867, + "grad_norm": 4.5430588722229, + "learning_rate": 8.234791824328179e-07, + "loss": 0.0263, + "num_input_tokens_seen": 32518536, + "step": 16616 + }, + { + "epoch": 2.2023856858846917, + "grad_norm": 0.19859392940998077, + "learning_rate": 8.232216881075833e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32520016, + "step": 16617 + }, + { + "epoch": 2.202518223989397, + "grad_norm": 9.521278381347656, + "learning_rate": 8.229642261117904e-07, + "loss": 0.082, + "num_input_tokens_seen": 32522224, + "step": 16618 + }, + { + "epoch": 2.202650762094102, + "grad_norm": 0.004801636096090078, + "learning_rate": 8.227067964504049e-07, + "loss": 0.0, + "num_input_tokens_seen": 32524912, + "step": 16619 + }, + { + "epoch": 2.2027833001988073, + "grad_norm": 0.005690832156687975, + "learning_rate": 8.224493991283886e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32528456, + "step": 16620 + }, + { + "epoch": 2.2029158383035123, + "grad_norm": 7.751559734344482, + "learning_rate": 8.221920341507062e-07, + "loss": 0.0428, + "num_input_tokens_seen": 32530576, + "step": 16621 + }, + { + "epoch": 2.2030483764082174, + "grad_norm": 6.102159023284912, + "learning_rate": 8.219347015223186e-07, + "loss": 0.1543, + "num_input_tokens_seen": 32532640, + "step": 16622 + }, + { + "epoch": 2.2031809145129224, + "grad_norm": 8.567307472229004, + "learning_rate": 8.216774012481871e-07, + "loss": 0.1467, + "num_input_tokens_seen": 32534216, + "step": 16623 + }, + { + "epoch": 2.2033134526176275, + "grad_norm": 0.2641359865665436, + "learning_rate": 8.214201333332735e-07, + "loss": 0.001, + "num_input_tokens_seen": 32536472, + "step": 16624 + }, + { + "epoch": 2.2034459907223325, + "grad_norm": 3.0709033012390137, + "learning_rate": 8.211628977825381e-07, + "loss": 0.0175, + "num_input_tokens_seen": 32538728, + "step": 16625 + }, + { + "epoch": 2.203578528827038, + "grad_norm": 1.872612476348877, + "learning_rate": 8.209056946009394e-07, + "loss": 0.01, + "num_input_tokens_seen": 32541896, + "step": 16626 + }, + { + "epoch": 2.203711066931743, + "grad_norm": 7.065799236297607, + "learning_rate": 8.206485237934378e-07, + "loss": 0.1257, + "num_input_tokens_seen": 32543664, + "step": 16627 + }, + { + "epoch": 2.203843605036448, + "grad_norm": 39.87990188598633, + "learning_rate": 8.203913853649906e-07, + "loss": 0.2339, + "num_input_tokens_seen": 32545744, + "step": 16628 + }, + { + "epoch": 2.203976143141153, + "grad_norm": 0.061339370906353, + "learning_rate": 8.201342793205569e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32547568, + "step": 16629 + }, + { + "epoch": 2.204108681245858, + "grad_norm": 2.6804893016815186, + "learning_rate": 8.198772056650933e-07, + "loss": 0.0112, + "num_input_tokens_seen": 32549776, + "step": 16630 + }, + { + "epoch": 2.204241219350563, + "grad_norm": 1.8356661796569824, + "learning_rate": 8.196201644035551e-07, + "loss": 0.0081, + "num_input_tokens_seen": 32552144, + "step": 16631 + }, + { + "epoch": 2.204373757455268, + "grad_norm": 5.348264217376709, + "learning_rate": 8.193631555409004e-07, + "loss": 0.017, + "num_input_tokens_seen": 32554296, + "step": 16632 + }, + { + "epoch": 2.2045062955599737, + "grad_norm": 0.0521753765642643, + "learning_rate": 8.191061790820829e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32555704, + "step": 16633 + }, + { + "epoch": 2.2046388336646787, + "grad_norm": 5.644750118255615, + "learning_rate": 8.188492350320582e-07, + "loss": 0.0312, + "num_input_tokens_seen": 32558272, + "step": 16634 + }, + { + "epoch": 2.2047713717693838, + "grad_norm": 0.15384791791439056, + "learning_rate": 8.185923233957802e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32561136, + "step": 16635 + }, + { + "epoch": 2.204903909874089, + "grad_norm": 1.3080133199691772, + "learning_rate": 8.183354441782024e-07, + "loss": 0.0111, + "num_input_tokens_seen": 32564160, + "step": 16636 + }, + { + "epoch": 2.205036447978794, + "grad_norm": 13.994810104370117, + "learning_rate": 8.180785973842761e-07, + "loss": 0.2095, + "num_input_tokens_seen": 32566080, + "step": 16637 + }, + { + "epoch": 2.205168986083499, + "grad_norm": 0.05276124179363251, + "learning_rate": 8.178217830189558e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32568168, + "step": 16638 + }, + { + "epoch": 2.205301524188204, + "grad_norm": 2.325650453567505, + "learning_rate": 8.175650010871914e-07, + "loss": 0.0243, + "num_input_tokens_seen": 32570304, + "step": 16639 + }, + { + "epoch": 2.2054340622929094, + "grad_norm": 7.423624515533447, + "learning_rate": 8.173082515939348e-07, + "loss": 0.0249, + "num_input_tokens_seen": 32571744, + "step": 16640 + }, + { + "epoch": 2.2055666003976144, + "grad_norm": 1.45160973072052, + "learning_rate": 8.170515345441362e-07, + "loss": 0.011, + "num_input_tokens_seen": 32574384, + "step": 16641 + }, + { + "epoch": 2.2056991385023195, + "grad_norm": 4.078460216522217, + "learning_rate": 8.16794849942745e-07, + "loss": 0.0393, + "num_input_tokens_seen": 32576632, + "step": 16642 + }, + { + "epoch": 2.2058316766070245, + "grad_norm": 8.769227981567383, + "learning_rate": 8.165381977947093e-07, + "loss": 0.0647, + "num_input_tokens_seen": 32579056, + "step": 16643 + }, + { + "epoch": 2.2059642147117295, + "grad_norm": 10.753658294677734, + "learning_rate": 8.162815781049787e-07, + "loss": 0.0603, + "num_input_tokens_seen": 32581168, + "step": 16644 + }, + { + "epoch": 2.2060967528164346, + "grad_norm": 1.511300802230835, + "learning_rate": 8.160249908785017e-07, + "loss": 0.0058, + "num_input_tokens_seen": 32582640, + "step": 16645 + }, + { + "epoch": 2.20622929092114, + "grad_norm": 2.334587335586548, + "learning_rate": 8.157684361202242e-07, + "loss": 0.0021, + "num_input_tokens_seen": 32584368, + "step": 16646 + }, + { + "epoch": 2.206361829025845, + "grad_norm": 0.17476649582386017, + "learning_rate": 8.155119138350937e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32585976, + "step": 16647 + }, + { + "epoch": 2.20649436713055, + "grad_norm": 0.07024337351322174, + "learning_rate": 8.152554240280552e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32587624, + "step": 16648 + }, + { + "epoch": 2.206626905235255, + "grad_norm": 11.482390403747559, + "learning_rate": 8.149989667040537e-07, + "loss": 0.1987, + "num_input_tokens_seen": 32590440, + "step": 16649 + }, + { + "epoch": 2.20675944333996, + "grad_norm": 6.394782066345215, + "learning_rate": 8.147425418680343e-07, + "loss": 0.1144, + "num_input_tokens_seen": 32592160, + "step": 16650 + }, + { + "epoch": 2.2068919814446653, + "grad_norm": 0.014118979685008526, + "learning_rate": 8.144861495249424e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32593752, + "step": 16651 + }, + { + "epoch": 2.2070245195493703, + "grad_norm": 0.0030741780065000057, + "learning_rate": 8.142297896797203e-07, + "loss": 0.0, + "num_input_tokens_seen": 32594712, + "step": 16652 + }, + { + "epoch": 2.2071570576540758, + "grad_norm": 1.702795386314392, + "learning_rate": 8.139734623373105e-07, + "loss": 0.0133, + "num_input_tokens_seen": 32596552, + "step": 16653 + }, + { + "epoch": 2.207289595758781, + "grad_norm": 0.07550080865621567, + "learning_rate": 8.137171675026548e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32599304, + "step": 16654 + }, + { + "epoch": 2.207422133863486, + "grad_norm": 0.027994675561785698, + "learning_rate": 8.134609051806964e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32601208, + "step": 16655 + }, + { + "epoch": 2.207554671968191, + "grad_norm": 6.728792667388916, + "learning_rate": 8.132046753763742e-07, + "loss": 0.0448, + "num_input_tokens_seen": 32603712, + "step": 16656 + }, + { + "epoch": 2.207687210072896, + "grad_norm": 0.005654821638017893, + "learning_rate": 8.129484780946304e-07, + "loss": 0.0, + "num_input_tokens_seen": 32604976, + "step": 16657 + }, + { + "epoch": 2.207819748177601, + "grad_norm": 7.937885761260986, + "learning_rate": 8.126923133404038e-07, + "loss": 0.0474, + "num_input_tokens_seen": 32606568, + "step": 16658 + }, + { + "epoch": 2.207952286282306, + "grad_norm": 0.036151982843875885, + "learning_rate": 8.124361811186327e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32609280, + "step": 16659 + }, + { + "epoch": 2.2080848243870115, + "grad_norm": 0.022098803892731667, + "learning_rate": 8.12180081434257e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32610808, + "step": 16660 + }, + { + "epoch": 2.2082173624917165, + "grad_norm": 0.08687372505664825, + "learning_rate": 8.119240142922127e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32613120, + "step": 16661 + }, + { + "epoch": 2.2083499005964216, + "grad_norm": 0.07096479833126068, + "learning_rate": 8.116679796974389e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32615904, + "step": 16662 + }, + { + "epoch": 2.2084824387011266, + "grad_norm": 1.863954782485962, + "learning_rate": 8.114119776548713e-07, + "loss": 0.0535, + "num_input_tokens_seen": 32617392, + "step": 16663 + }, + { + "epoch": 2.2086149768058316, + "grad_norm": 1.3302783966064453, + "learning_rate": 8.111560081694456e-07, + "loss": 0.0041, + "num_input_tokens_seen": 32618928, + "step": 16664 + }, + { + "epoch": 2.2087475149105367, + "grad_norm": 0.08653838187456131, + "learning_rate": 8.109000712460963e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32620528, + "step": 16665 + }, + { + "epoch": 2.2088800530152417, + "grad_norm": 2.831339120864868, + "learning_rate": 8.106441668897597e-07, + "loss": 0.0101, + "num_input_tokens_seen": 32622336, + "step": 16666 + }, + { + "epoch": 2.209012591119947, + "grad_norm": 0.018863758072257042, + "learning_rate": 8.103882951053679e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32624384, + "step": 16667 + }, + { + "epoch": 2.2091451292246522, + "grad_norm": 1.2936036586761475, + "learning_rate": 8.101324558978566e-07, + "loss": 0.01, + "num_input_tokens_seen": 32626240, + "step": 16668 + }, + { + "epoch": 2.2092776673293573, + "grad_norm": 3.5421905517578125, + "learning_rate": 8.098766492721572e-07, + "loss": 0.0242, + "num_input_tokens_seen": 32628296, + "step": 16669 + }, + { + "epoch": 2.2094102054340623, + "grad_norm": 2.020473003387451, + "learning_rate": 8.096208752332007e-07, + "loss": 0.0088, + "num_input_tokens_seen": 32629944, + "step": 16670 + }, + { + "epoch": 2.2095427435387673, + "grad_norm": 1.850967526435852, + "learning_rate": 8.093651337859213e-07, + "loss": 0.0043, + "num_input_tokens_seen": 32632552, + "step": 16671 + }, + { + "epoch": 2.2096752816434724, + "grad_norm": 0.899761974811554, + "learning_rate": 8.091094249352483e-07, + "loss": 0.003, + "num_input_tokens_seen": 32633896, + "step": 16672 + }, + { + "epoch": 2.2098078197481774, + "grad_norm": 0.008522593416273594, + "learning_rate": 8.088537486861109e-07, + "loss": 0.0, + "num_input_tokens_seen": 32635216, + "step": 16673 + }, + { + "epoch": 2.209940357852883, + "grad_norm": 2.7074930667877197, + "learning_rate": 8.08598105043441e-07, + "loss": 0.015, + "num_input_tokens_seen": 32636744, + "step": 16674 + }, + { + "epoch": 2.210072895957588, + "grad_norm": 0.05558546632528305, + "learning_rate": 8.083424940121657e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32638208, + "step": 16675 + }, + { + "epoch": 2.210205434062293, + "grad_norm": 5.4678473472595215, + "learning_rate": 8.080869155972149e-07, + "loss": 0.0389, + "num_input_tokens_seen": 32640824, + "step": 16676 + }, + { + "epoch": 2.210337972166998, + "grad_norm": 1.7655972242355347, + "learning_rate": 8.078313698035154e-07, + "loss": 0.008, + "num_input_tokens_seen": 32642824, + "step": 16677 + }, + { + "epoch": 2.210470510271703, + "grad_norm": 12.888080596923828, + "learning_rate": 8.075758566359946e-07, + "loss": 0.2428, + "num_input_tokens_seen": 32644768, + "step": 16678 + }, + { + "epoch": 2.210603048376408, + "grad_norm": 0.07891834527254105, + "learning_rate": 8.073203760995779e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32647160, + "step": 16679 + }, + { + "epoch": 2.210735586481113, + "grad_norm": 0.09008906036615372, + "learning_rate": 8.070649281991921e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32649656, + "step": 16680 + }, + { + "epoch": 2.2108681245858186, + "grad_norm": 0.0008526545134373009, + "learning_rate": 8.068095129397635e-07, + "loss": 0.0, + "num_input_tokens_seen": 32650712, + "step": 16681 + }, + { + "epoch": 2.2110006626905236, + "grad_norm": 3.7387852668762207, + "learning_rate": 8.06554130326215e-07, + "loss": 0.0449, + "num_input_tokens_seen": 32652728, + "step": 16682 + }, + { + "epoch": 2.2111332007952287, + "grad_norm": 1.3489062786102295, + "learning_rate": 8.062987803634717e-07, + "loss": 0.0107, + "num_input_tokens_seen": 32655664, + "step": 16683 + }, + { + "epoch": 2.2112657388999337, + "grad_norm": 0.04860488697886467, + "learning_rate": 8.060434630564551e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32657376, + "step": 16684 + }, + { + "epoch": 2.2113982770046388, + "grad_norm": 0.004314373712986708, + "learning_rate": 8.057881784100893e-07, + "loss": 0.0, + "num_input_tokens_seen": 32658584, + "step": 16685 + }, + { + "epoch": 2.211530815109344, + "grad_norm": 0.15226362645626068, + "learning_rate": 8.055329264292971e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32661000, + "step": 16686 + }, + { + "epoch": 2.211663353214049, + "grad_norm": 0.039376676082611084, + "learning_rate": 8.052777071189988e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32662072, + "step": 16687 + }, + { + "epoch": 2.2117958913187543, + "grad_norm": 8.777050971984863, + "learning_rate": 8.050225204841155e-07, + "loss": 0.0442, + "num_input_tokens_seen": 32664272, + "step": 16688 + }, + { + "epoch": 2.2119284294234594, + "grad_norm": 0.025790821760892868, + "learning_rate": 8.047673665295674e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32665920, + "step": 16689 + }, + { + "epoch": 2.2120609675281644, + "grad_norm": 3.2006733417510986, + "learning_rate": 8.045122452602733e-07, + "loss": 0.0223, + "num_input_tokens_seen": 32668416, + "step": 16690 + }, + { + "epoch": 2.2121935056328694, + "grad_norm": 0.013851161114871502, + "learning_rate": 8.042571566811524e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32670808, + "step": 16691 + }, + { + "epoch": 2.2123260437375745, + "grad_norm": 8.55340576171875, + "learning_rate": 8.040021007971243e-07, + "loss": 0.1795, + "num_input_tokens_seen": 32673360, + "step": 16692 + }, + { + "epoch": 2.2124585818422795, + "grad_norm": 5.639500617980957, + "learning_rate": 8.03747077613106e-07, + "loss": 0.0623, + "num_input_tokens_seen": 32675440, + "step": 16693 + }, + { + "epoch": 2.2125911199469845, + "grad_norm": 2.0292844772338867, + "learning_rate": 8.034920871340137e-07, + "loss": 0.0284, + "num_input_tokens_seen": 32677120, + "step": 16694 + }, + { + "epoch": 2.21272365805169, + "grad_norm": 3.819126844406128, + "learning_rate": 8.032371293647648e-07, + "loss": 0.0502, + "num_input_tokens_seen": 32679992, + "step": 16695 + }, + { + "epoch": 2.212856196156395, + "grad_norm": 10.78261661529541, + "learning_rate": 8.029822043102736e-07, + "loss": 0.2112, + "num_input_tokens_seen": 32682128, + "step": 16696 + }, + { + "epoch": 2.2129887342611, + "grad_norm": 8.088414192199707, + "learning_rate": 8.027273119754561e-07, + "loss": 0.1415, + "num_input_tokens_seen": 32684480, + "step": 16697 + }, + { + "epoch": 2.213121272365805, + "grad_norm": 0.008392506279051304, + "learning_rate": 8.024724523652278e-07, + "loss": 0.0, + "num_input_tokens_seen": 32686376, + "step": 16698 + }, + { + "epoch": 2.21325381047051, + "grad_norm": 1.8394683599472046, + "learning_rate": 8.022176254845018e-07, + "loss": 0.0032, + "num_input_tokens_seen": 32688608, + "step": 16699 + }, + { + "epoch": 2.213386348575215, + "grad_norm": 0.01865784451365471, + "learning_rate": 8.019628313381911e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32690232, + "step": 16700 + }, + { + "epoch": 2.2135188866799203, + "grad_norm": 11.831122398376465, + "learning_rate": 8.017080699312074e-07, + "loss": 0.1272, + "num_input_tokens_seen": 32692264, + "step": 16701 + }, + { + "epoch": 2.2136514247846257, + "grad_norm": 33.87800979614258, + "learning_rate": 8.01453341268465e-07, + "loss": 0.1935, + "num_input_tokens_seen": 32694768, + "step": 16702 + }, + { + "epoch": 2.2137839628893308, + "grad_norm": 5.259215831756592, + "learning_rate": 8.011986453548728e-07, + "loss": 0.0492, + "num_input_tokens_seen": 32697744, + "step": 16703 + }, + { + "epoch": 2.213916500994036, + "grad_norm": 4.190415382385254, + "learning_rate": 8.009439821953435e-07, + "loss": 0.03, + "num_input_tokens_seen": 32699416, + "step": 16704 + }, + { + "epoch": 2.214049039098741, + "grad_norm": 0.271725594997406, + "learning_rate": 8.006893517947864e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32700832, + "step": 16705 + }, + { + "epoch": 2.214181577203446, + "grad_norm": 6.647470474243164, + "learning_rate": 8.004347541581101e-07, + "loss": 0.1416, + "num_input_tokens_seen": 32702416, + "step": 16706 + }, + { + "epoch": 2.214314115308151, + "grad_norm": 0.08262130618095398, + "learning_rate": 8.00180189290225e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32703392, + "step": 16707 + }, + { + "epoch": 2.2144466534128564, + "grad_norm": 2.116563081741333, + "learning_rate": 7.999256571960384e-07, + "loss": 0.0254, + "num_input_tokens_seen": 32706056, + "step": 16708 + }, + { + "epoch": 2.2145791915175614, + "grad_norm": 4.042857646942139, + "learning_rate": 7.996711578804572e-07, + "loss": 0.0558, + "num_input_tokens_seen": 32707720, + "step": 16709 + }, + { + "epoch": 2.2147117296222665, + "grad_norm": 9.864252090454102, + "learning_rate": 7.9941669134839e-07, + "loss": 0.1283, + "num_input_tokens_seen": 32709656, + "step": 16710 + }, + { + "epoch": 2.2148442677269715, + "grad_norm": 0.07578421384096146, + "learning_rate": 7.991622576047414e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32712440, + "step": 16711 + }, + { + "epoch": 2.2149768058316766, + "grad_norm": 14.956700325012207, + "learning_rate": 7.989078566544184e-07, + "loss": 0.1698, + "num_input_tokens_seen": 32714304, + "step": 16712 + }, + { + "epoch": 2.2151093439363816, + "grad_norm": 0.04846203327178955, + "learning_rate": 7.986534885023256e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32715920, + "step": 16713 + }, + { + "epoch": 2.2152418820410866, + "grad_norm": 0.521878719329834, + "learning_rate": 7.983991531533664e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32717800, + "step": 16714 + }, + { + "epoch": 2.215374420145792, + "grad_norm": 8.667522430419922, + "learning_rate": 7.981448506124462e-07, + "loss": 0.088, + "num_input_tokens_seen": 32719520, + "step": 16715 + }, + { + "epoch": 2.215506958250497, + "grad_norm": 2.6611430644989014, + "learning_rate": 7.978905808844664e-07, + "loss": 0.0219, + "num_input_tokens_seen": 32721576, + "step": 16716 + }, + { + "epoch": 2.215639496355202, + "grad_norm": 0.46542611718177795, + "learning_rate": 7.976363439743312e-07, + "loss": 0.0011, + "num_input_tokens_seen": 32723552, + "step": 16717 + }, + { + "epoch": 2.2157720344599072, + "grad_norm": 0.14953237771987915, + "learning_rate": 7.97382139886942e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32724960, + "step": 16718 + }, + { + "epoch": 2.2159045725646123, + "grad_norm": 1.4781609773635864, + "learning_rate": 7.971279686271996e-07, + "loss": 0.0059, + "num_input_tokens_seen": 32727200, + "step": 16719 + }, + { + "epoch": 2.2160371106693173, + "grad_norm": 0.09826435148715973, + "learning_rate": 7.968738302000037e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32730008, + "step": 16720 + }, + { + "epoch": 2.2161696487740223, + "grad_norm": 0.0050934781320393085, + "learning_rate": 7.966197246102564e-07, + "loss": 0.0, + "num_input_tokens_seen": 32731416, + "step": 16721 + }, + { + "epoch": 2.216302186878728, + "grad_norm": 1.038631558418274, + "learning_rate": 7.963656518628548e-07, + "loss": 0.0045, + "num_input_tokens_seen": 32733712, + "step": 16722 + }, + { + "epoch": 2.216434724983433, + "grad_norm": 0.0030344754923135042, + "learning_rate": 7.961116119626996e-07, + "loss": 0.0, + "num_input_tokens_seen": 32734952, + "step": 16723 + }, + { + "epoch": 2.216567263088138, + "grad_norm": 5.364160060882568, + "learning_rate": 7.958576049146882e-07, + "loss": 0.0527, + "num_input_tokens_seen": 32738368, + "step": 16724 + }, + { + "epoch": 2.216699801192843, + "grad_norm": 6.421642303466797, + "learning_rate": 7.956036307237175e-07, + "loss": 0.0665, + "num_input_tokens_seen": 32741408, + "step": 16725 + }, + { + "epoch": 2.216832339297548, + "grad_norm": 3.126265287399292, + "learning_rate": 7.953496893946841e-07, + "loss": 0.018, + "num_input_tokens_seen": 32743104, + "step": 16726 + }, + { + "epoch": 2.216964877402253, + "grad_norm": 6.314855575561523, + "learning_rate": 7.950957809324844e-07, + "loss": 0.0542, + "num_input_tokens_seen": 32744432, + "step": 16727 + }, + { + "epoch": 2.217097415506958, + "grad_norm": 0.0030501838773489, + "learning_rate": 7.94841905342015e-07, + "loss": 0.0, + "num_input_tokens_seen": 32745808, + "step": 16728 + }, + { + "epoch": 2.2172299536116635, + "grad_norm": 1.86149001121521, + "learning_rate": 7.945880626281702e-07, + "loss": 0.0068, + "num_input_tokens_seen": 32747824, + "step": 16729 + }, + { + "epoch": 2.2173624917163686, + "grad_norm": 0.003636228386312723, + "learning_rate": 7.943342527958439e-07, + "loss": 0.0, + "num_input_tokens_seen": 32749104, + "step": 16730 + }, + { + "epoch": 2.2174950298210736, + "grad_norm": 0.0030643995851278305, + "learning_rate": 7.940804758499302e-07, + "loss": 0.0, + "num_input_tokens_seen": 32750304, + "step": 16731 + }, + { + "epoch": 2.2176275679257786, + "grad_norm": 0.007272868882864714, + "learning_rate": 7.938267317953205e-07, + "loss": 0.0, + "num_input_tokens_seen": 32753040, + "step": 16732 + }, + { + "epoch": 2.2177601060304837, + "grad_norm": 0.0020478698424994946, + "learning_rate": 7.935730206369088e-07, + "loss": 0.0, + "num_input_tokens_seen": 32755064, + "step": 16733 + }, + { + "epoch": 2.2178926441351887, + "grad_norm": 0.010774509981274605, + "learning_rate": 7.933193423795871e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32756472, + "step": 16734 + }, + { + "epoch": 2.218025182239894, + "grad_norm": 0.019999122247099876, + "learning_rate": 7.930656970282457e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32758520, + "step": 16735 + }, + { + "epoch": 2.2181577203445992, + "grad_norm": 5.0175018310546875, + "learning_rate": 7.928120845877754e-07, + "loss": 0.0405, + "num_input_tokens_seen": 32760848, + "step": 16736 + }, + { + "epoch": 2.2182902584493043, + "grad_norm": 0.40085798501968384, + "learning_rate": 7.925585050630652e-07, + "loss": 0.0017, + "num_input_tokens_seen": 32762192, + "step": 16737 + }, + { + "epoch": 2.2184227965540093, + "grad_norm": 1.258528232574463, + "learning_rate": 7.923049584590048e-07, + "loss": 0.0028, + "num_input_tokens_seen": 32764536, + "step": 16738 + }, + { + "epoch": 2.2185553346587144, + "grad_norm": 0.00344264879822731, + "learning_rate": 7.920514447804836e-07, + "loss": 0.0, + "num_input_tokens_seen": 32765776, + "step": 16739 + }, + { + "epoch": 2.2186878727634194, + "grad_norm": 0.1471462845802307, + "learning_rate": 7.917979640323889e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32767744, + "step": 16740 + }, + { + "epoch": 2.2188204108681244, + "grad_norm": 16.883075714111328, + "learning_rate": 7.915445162196078e-07, + "loss": 0.0807, + "num_input_tokens_seen": 32770552, + "step": 16741 + }, + { + "epoch": 2.21895294897283, + "grad_norm": 0.003178149461746216, + "learning_rate": 7.912911013470262e-07, + "loss": 0.0, + "num_input_tokens_seen": 32772016, + "step": 16742 + }, + { + "epoch": 2.219085487077535, + "grad_norm": 0.009037372656166553, + "learning_rate": 7.910377194195318e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32774032, + "step": 16743 + }, + { + "epoch": 2.21921802518224, + "grad_norm": 7.590287208557129, + "learning_rate": 7.907843704420082e-07, + "loss": 0.1487, + "num_input_tokens_seen": 32776160, + "step": 16744 + }, + { + "epoch": 2.219350563286945, + "grad_norm": 16.331134796142578, + "learning_rate": 7.905310544193421e-07, + "loss": 0.1996, + "num_input_tokens_seen": 32779040, + "step": 16745 + }, + { + "epoch": 2.21948310139165, + "grad_norm": 3.98402738571167, + "learning_rate": 7.902777713564163e-07, + "loss": 0.0271, + "num_input_tokens_seen": 32780704, + "step": 16746 + }, + { + "epoch": 2.219615639496355, + "grad_norm": 2.928151845932007, + "learning_rate": 7.90024521258114e-07, + "loss": 0.0434, + "num_input_tokens_seen": 32783016, + "step": 16747 + }, + { + "epoch": 2.21974817760106, + "grad_norm": 2.808687686920166, + "learning_rate": 7.897713041293192e-07, + "loss": 0.0301, + "num_input_tokens_seen": 32784904, + "step": 16748 + }, + { + "epoch": 2.2198807157057656, + "grad_norm": 8.514762878417969, + "learning_rate": 7.895181199749135e-07, + "loss": 0.1574, + "num_input_tokens_seen": 32786824, + "step": 16749 + }, + { + "epoch": 2.2200132538104707, + "grad_norm": 8.368415832519531, + "learning_rate": 7.892649687997778e-07, + "loss": 0.2039, + "num_input_tokens_seen": 32788912, + "step": 16750 + }, + { + "epoch": 2.2201457919151757, + "grad_norm": 0.14122797548770905, + "learning_rate": 7.890118506087946e-07, + "loss": 0.0006, + "num_input_tokens_seen": 32790280, + "step": 16751 + }, + { + "epoch": 2.2202783300198807, + "grad_norm": 0.20348365604877472, + "learning_rate": 7.887587654068429e-07, + "loss": 0.0008, + "num_input_tokens_seen": 32792608, + "step": 16752 + }, + { + "epoch": 2.2204108681245858, + "grad_norm": 0.0017029353184625506, + "learning_rate": 7.885057131988022e-07, + "loss": 0.0, + "num_input_tokens_seen": 32794576, + "step": 16753 + }, + { + "epoch": 2.220543406229291, + "grad_norm": 13.156296730041504, + "learning_rate": 7.882526939895527e-07, + "loss": 0.0717, + "num_input_tokens_seen": 32797072, + "step": 16754 + }, + { + "epoch": 2.220675944333996, + "grad_norm": 0.002089474583044648, + "learning_rate": 7.879997077839721e-07, + "loss": 0.0, + "num_input_tokens_seen": 32799328, + "step": 16755 + }, + { + "epoch": 2.2208084824387013, + "grad_norm": 0.0729425773024559, + "learning_rate": 7.877467545869375e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32800976, + "step": 16756 + }, + { + "epoch": 2.2209410205434064, + "grad_norm": 19.320341110229492, + "learning_rate": 7.874938344033275e-07, + "loss": 0.0668, + "num_input_tokens_seen": 32802664, + "step": 16757 + }, + { + "epoch": 2.2210735586481114, + "grad_norm": 0.7069845795631409, + "learning_rate": 7.872409472380168e-07, + "loss": 0.0024, + "num_input_tokens_seen": 32804888, + "step": 16758 + }, + { + "epoch": 2.2212060967528164, + "grad_norm": 13.998156547546387, + "learning_rate": 7.869880930958831e-07, + "loss": 0.1536, + "num_input_tokens_seen": 32806976, + "step": 16759 + }, + { + "epoch": 2.2213386348575215, + "grad_norm": 11.881112098693848, + "learning_rate": 7.867352719818008e-07, + "loss": 0.1128, + "num_input_tokens_seen": 32808640, + "step": 16760 + }, + { + "epoch": 2.2214711729622265, + "grad_norm": 0.02552521601319313, + "learning_rate": 7.864824839006436e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32810936, + "step": 16761 + }, + { + "epoch": 2.2216037110669316, + "grad_norm": 6.907048225402832, + "learning_rate": 7.862297288572867e-07, + "loss": 0.0552, + "num_input_tokens_seen": 32812712, + "step": 16762 + }, + { + "epoch": 2.221736249171637, + "grad_norm": 0.07258374243974686, + "learning_rate": 7.859770068566025e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32813872, + "step": 16763 + }, + { + "epoch": 2.221868787276342, + "grad_norm": 1.089223027229309, + "learning_rate": 7.857243179034646e-07, + "loss": 0.0089, + "num_input_tokens_seen": 32816008, + "step": 16764 + }, + { + "epoch": 2.222001325381047, + "grad_norm": 0.012824106961488724, + "learning_rate": 7.854716620027444e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32817448, + "step": 16765 + }, + { + "epoch": 2.222133863485752, + "grad_norm": 2.4600746631622314, + "learning_rate": 7.852190391593137e-07, + "loss": 0.0088, + "num_input_tokens_seen": 32819360, + "step": 16766 + }, + { + "epoch": 2.222266401590457, + "grad_norm": 11.200146675109863, + "learning_rate": 7.849664493780418e-07, + "loss": 0.0731, + "num_input_tokens_seen": 32821344, + "step": 16767 + }, + { + "epoch": 2.2223989396951622, + "grad_norm": 8.935330390930176, + "learning_rate": 7.847138926638001e-07, + "loss": 0.0448, + "num_input_tokens_seen": 32823088, + "step": 16768 + }, + { + "epoch": 2.2225314777998673, + "grad_norm": 9.436653137207031, + "learning_rate": 7.844613690214583e-07, + "loss": 0.183, + "num_input_tokens_seen": 32825512, + "step": 16769 + }, + { + "epoch": 2.2226640159045727, + "grad_norm": 2.1117258071899414, + "learning_rate": 7.842088784558852e-07, + "loss": 0.0187, + "num_input_tokens_seen": 32826872, + "step": 16770 + }, + { + "epoch": 2.222796554009278, + "grad_norm": 0.6298040747642517, + "learning_rate": 7.839564209719483e-07, + "loss": 0.0062, + "num_input_tokens_seen": 32828456, + "step": 16771 + }, + { + "epoch": 2.222929092113983, + "grad_norm": 0.007674476597458124, + "learning_rate": 7.837039965745156e-07, + "loss": 0.0, + "num_input_tokens_seen": 32830192, + "step": 16772 + }, + { + "epoch": 2.223061630218688, + "grad_norm": 2.7154605388641357, + "learning_rate": 7.834516052684529e-07, + "loss": 0.0183, + "num_input_tokens_seen": 32831744, + "step": 16773 + }, + { + "epoch": 2.223194168323393, + "grad_norm": 7.294100284576416, + "learning_rate": 7.831992470586278e-07, + "loss": 0.062, + "num_input_tokens_seen": 32833944, + "step": 16774 + }, + { + "epoch": 2.223326706428098, + "grad_norm": 0.8680421710014343, + "learning_rate": 7.829469219499062e-07, + "loss": 0.0032, + "num_input_tokens_seen": 32835720, + "step": 16775 + }, + { + "epoch": 2.223459244532803, + "grad_norm": 4.07961368560791, + "learning_rate": 7.826946299471522e-07, + "loss": 0.0232, + "num_input_tokens_seen": 32837632, + "step": 16776 + }, + { + "epoch": 2.2235917826375085, + "grad_norm": 2.9624900817871094, + "learning_rate": 7.824423710552307e-07, + "loss": 0.024, + "num_input_tokens_seen": 32840040, + "step": 16777 + }, + { + "epoch": 2.2237243207422135, + "grad_norm": 0.04612875357270241, + "learning_rate": 7.821901452790042e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32842168, + "step": 16778 + }, + { + "epoch": 2.2238568588469185, + "grad_norm": 0.7843812108039856, + "learning_rate": 7.819379526233378e-07, + "loss": 0.0022, + "num_input_tokens_seen": 32844008, + "step": 16779 + }, + { + "epoch": 2.2239893969516236, + "grad_norm": 8.857994079589844, + "learning_rate": 7.816857930930921e-07, + "loss": 0.1771, + "num_input_tokens_seen": 32847000, + "step": 16780 + }, + { + "epoch": 2.2241219350563286, + "grad_norm": 0.023332104086875916, + "learning_rate": 7.814336666931302e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32848480, + "step": 16781 + }, + { + "epoch": 2.2242544731610336, + "grad_norm": 0.018700242042541504, + "learning_rate": 7.811815734283132e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32851512, + "step": 16782 + }, + { + "epoch": 2.2243870112657387, + "grad_norm": 0.07183434814214706, + "learning_rate": 7.809295133035008e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32852688, + "step": 16783 + }, + { + "epoch": 2.224519549370444, + "grad_norm": 0.02249935269355774, + "learning_rate": 7.806774863235528e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32854968, + "step": 16784 + }, + { + "epoch": 2.224652087475149, + "grad_norm": 12.225175857543945, + "learning_rate": 7.804254924933297e-07, + "loss": 0.0679, + "num_input_tokens_seen": 32857048, + "step": 16785 + }, + { + "epoch": 2.2247846255798542, + "grad_norm": 9.280887603759766, + "learning_rate": 7.801735318176884e-07, + "loss": 0.068, + "num_input_tokens_seen": 32860120, + "step": 16786 + }, + { + "epoch": 2.2249171636845593, + "grad_norm": 1.8865400552749634, + "learning_rate": 7.79921604301489e-07, + "loss": 0.0093, + "num_input_tokens_seen": 32861808, + "step": 16787 + }, + { + "epoch": 2.2250497017892643, + "grad_norm": 4.242854118347168, + "learning_rate": 7.796697099495873e-07, + "loss": 0.0217, + "num_input_tokens_seen": 32864368, + "step": 16788 + }, + { + "epoch": 2.2251822398939693, + "grad_norm": 2.5046091079711914, + "learning_rate": 7.794178487668399e-07, + "loss": 0.028, + "num_input_tokens_seen": 32866704, + "step": 16789 + }, + { + "epoch": 2.2253147779986744, + "grad_norm": 0.00515584135428071, + "learning_rate": 7.79166020758104e-07, + "loss": 0.0, + "num_input_tokens_seen": 32867920, + "step": 16790 + }, + { + "epoch": 2.22544731610338, + "grad_norm": 1.6025937795639038, + "learning_rate": 7.789142259282337e-07, + "loss": 0.0085, + "num_input_tokens_seen": 32870016, + "step": 16791 + }, + { + "epoch": 2.225579854208085, + "grad_norm": 10.482933044433594, + "learning_rate": 7.78662464282085e-07, + "loss": 0.0865, + "num_input_tokens_seen": 32872256, + "step": 16792 + }, + { + "epoch": 2.22571239231279, + "grad_norm": 0.24362346529960632, + "learning_rate": 7.784107358245116e-07, + "loss": 0.001, + "num_input_tokens_seen": 32874080, + "step": 16793 + }, + { + "epoch": 2.225844930417495, + "grad_norm": 4.1341376304626465, + "learning_rate": 7.781590405603662e-07, + "loss": 0.0325, + "num_input_tokens_seen": 32876624, + "step": 16794 + }, + { + "epoch": 2.2259774685222, + "grad_norm": 0.031135013327002525, + "learning_rate": 7.779073784945029e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32878480, + "step": 16795 + }, + { + "epoch": 2.226110006626905, + "grad_norm": 0.22645603120326996, + "learning_rate": 7.776557496317736e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32880408, + "step": 16796 + }, + { + "epoch": 2.2262425447316105, + "grad_norm": 0.4474324584007263, + "learning_rate": 7.774041539770286e-07, + "loss": 0.0023, + "num_input_tokens_seen": 32882112, + "step": 16797 + }, + { + "epoch": 2.2263750828363156, + "grad_norm": 0.04452750086784363, + "learning_rate": 7.771525915351208e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32883992, + "step": 16798 + }, + { + "epoch": 2.2265076209410206, + "grad_norm": 0.023510918021202087, + "learning_rate": 7.769010623108985e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32885952, + "step": 16799 + }, + { + "epoch": 2.2266401590457257, + "grad_norm": 8.683014869689941, + "learning_rate": 7.766495663092135e-07, + "loss": 0.0579, + "num_input_tokens_seen": 32888128, + "step": 16800 + }, + { + "epoch": 2.2267726971504307, + "grad_norm": 0.09306829422712326, + "learning_rate": 7.763981035349139e-07, + "loss": 0.0009, + "num_input_tokens_seen": 32890128, + "step": 16801 + }, + { + "epoch": 2.2269052352551357, + "grad_norm": 5.03671932220459, + "learning_rate": 7.761466739928477e-07, + "loss": 0.0541, + "num_input_tokens_seen": 32892408, + "step": 16802 + }, + { + "epoch": 2.2270377733598408, + "grad_norm": 8.420702934265137, + "learning_rate": 7.75895277687862e-07, + "loss": 0.099, + "num_input_tokens_seen": 32894032, + "step": 16803 + }, + { + "epoch": 2.2271703114645462, + "grad_norm": 0.0015115085989236832, + "learning_rate": 7.756439146248048e-07, + "loss": 0.0, + "num_input_tokens_seen": 32896496, + "step": 16804 + }, + { + "epoch": 2.2273028495692513, + "grad_norm": 5.855273723602295, + "learning_rate": 7.753925848085233e-07, + "loss": 0.1367, + "num_input_tokens_seen": 32898304, + "step": 16805 + }, + { + "epoch": 2.2274353876739563, + "grad_norm": 5.21196985244751, + "learning_rate": 7.751412882438624e-07, + "loss": 0.0346, + "num_input_tokens_seen": 32899920, + "step": 16806 + }, + { + "epoch": 2.2275679257786614, + "grad_norm": 5.572089195251465, + "learning_rate": 7.748900249356678e-07, + "loss": 0.0711, + "num_input_tokens_seen": 32902280, + "step": 16807 + }, + { + "epoch": 2.2277004638833664, + "grad_norm": 1.6589252948760986, + "learning_rate": 7.746387948887832e-07, + "loss": 0.0224, + "num_input_tokens_seen": 32904160, + "step": 16808 + }, + { + "epoch": 2.2278330019880714, + "grad_norm": 8.232868194580078, + "learning_rate": 7.743875981080523e-07, + "loss": 0.1095, + "num_input_tokens_seen": 32905992, + "step": 16809 + }, + { + "epoch": 2.2279655400927765, + "grad_norm": 0.2717493772506714, + "learning_rate": 7.741364345983188e-07, + "loss": 0.0012, + "num_input_tokens_seen": 32907888, + "step": 16810 + }, + { + "epoch": 2.228098078197482, + "grad_norm": 0.007738631684333086, + "learning_rate": 7.738853043644263e-07, + "loss": 0.0, + "num_input_tokens_seen": 32909512, + "step": 16811 + }, + { + "epoch": 2.228230616302187, + "grad_norm": 1.4256256818771362, + "learning_rate": 7.736342074112161e-07, + "loss": 0.0081, + "num_input_tokens_seen": 32911976, + "step": 16812 + }, + { + "epoch": 2.228363154406892, + "grad_norm": 0.02294052019715309, + "learning_rate": 7.73383143743529e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32913472, + "step": 16813 + }, + { + "epoch": 2.228495692511597, + "grad_norm": 9.606719017028809, + "learning_rate": 7.731321133662054e-07, + "loss": 0.0895, + "num_input_tokens_seen": 32916200, + "step": 16814 + }, + { + "epoch": 2.228628230616302, + "grad_norm": 9.122140884399414, + "learning_rate": 7.72881116284086e-07, + "loss": 0.1038, + "num_input_tokens_seen": 32917632, + "step": 16815 + }, + { + "epoch": 2.228760768721007, + "grad_norm": 11.978522300720215, + "learning_rate": 7.726301525020108e-07, + "loss": 0.1113, + "num_input_tokens_seen": 32919336, + "step": 16816 + }, + { + "epoch": 2.2288933068257126, + "grad_norm": 16.88580894470215, + "learning_rate": 7.72379222024818e-07, + "loss": 0.0639, + "num_input_tokens_seen": 32921392, + "step": 16817 + }, + { + "epoch": 2.2290258449304177, + "grad_norm": 0.0026927597355097532, + "learning_rate": 7.721283248573458e-07, + "loss": 0.0, + "num_input_tokens_seen": 32922456, + "step": 16818 + }, + { + "epoch": 2.2291583830351227, + "grad_norm": 3.9795942306518555, + "learning_rate": 7.718774610044313e-07, + "loss": 0.0689, + "num_input_tokens_seen": 32924256, + "step": 16819 + }, + { + "epoch": 2.2292909211398277, + "grad_norm": 0.08937589079141617, + "learning_rate": 7.716266304709108e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32925872, + "step": 16820 + }, + { + "epoch": 2.229423459244533, + "grad_norm": 0.9465895891189575, + "learning_rate": 7.713758332616211e-07, + "loss": 0.0065, + "num_input_tokens_seen": 32927648, + "step": 16821 + }, + { + "epoch": 2.229555997349238, + "grad_norm": 0.005049168597906828, + "learning_rate": 7.711250693813987e-07, + "loss": 0.0, + "num_input_tokens_seen": 32929048, + "step": 16822 + }, + { + "epoch": 2.229688535453943, + "grad_norm": 7.678413391113281, + "learning_rate": 7.708743388350776e-07, + "loss": 0.1044, + "num_input_tokens_seen": 32931952, + "step": 16823 + }, + { + "epoch": 2.2298210735586483, + "grad_norm": 0.03244945779442787, + "learning_rate": 7.706236416274924e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32933168, + "step": 16824 + }, + { + "epoch": 2.2299536116633534, + "grad_norm": 5.87950325012207, + "learning_rate": 7.703729777634752e-07, + "loss": 0.0991, + "num_input_tokens_seen": 32935240, + "step": 16825 + }, + { + "epoch": 2.2300861497680584, + "grad_norm": 4.280216217041016, + "learning_rate": 7.701223472478614e-07, + "loss": 0.0765, + "num_input_tokens_seen": 32937104, + "step": 16826 + }, + { + "epoch": 2.2302186878727635, + "grad_norm": 4.3898468017578125, + "learning_rate": 7.69871750085481e-07, + "loss": 0.0287, + "num_input_tokens_seen": 32939512, + "step": 16827 + }, + { + "epoch": 2.2303512259774685, + "grad_norm": 0.023879118263721466, + "learning_rate": 7.696211862811678e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32942248, + "step": 16828 + }, + { + "epoch": 2.2304837640821735, + "grad_norm": 0.22583164274692535, + "learning_rate": 7.693706558397518e-07, + "loss": 0.0005, + "num_input_tokens_seen": 32944688, + "step": 16829 + }, + { + "epoch": 2.2306163021868786, + "grad_norm": 6.575562477111816, + "learning_rate": 7.691201587660627e-07, + "loss": 0.0557, + "num_input_tokens_seen": 32946912, + "step": 16830 + }, + { + "epoch": 2.230748840291584, + "grad_norm": 1.9189794063568115, + "learning_rate": 7.688696950649316e-07, + "loss": 0.0181, + "num_input_tokens_seen": 32949096, + "step": 16831 + }, + { + "epoch": 2.230881378396289, + "grad_norm": 0.0566316582262516, + "learning_rate": 7.686192647411872e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32950768, + "step": 16832 + }, + { + "epoch": 2.231013916500994, + "grad_norm": 0.004090065136551857, + "learning_rate": 7.68368867799657e-07, + "loss": 0.0, + "num_input_tokens_seen": 32952216, + "step": 16833 + }, + { + "epoch": 2.231146454605699, + "grad_norm": 0.05288415029644966, + "learning_rate": 7.681185042451705e-07, + "loss": 0.0003, + "num_input_tokens_seen": 32953680, + "step": 16834 + }, + { + "epoch": 2.231278992710404, + "grad_norm": 12.346076965332031, + "learning_rate": 7.67868174082553e-07, + "loss": 0.2145, + "num_input_tokens_seen": 32955704, + "step": 16835 + }, + { + "epoch": 2.2314115308151092, + "grad_norm": 2.4233548641204834, + "learning_rate": 7.676178773166329e-07, + "loss": 0.0339, + "num_input_tokens_seen": 32957976, + "step": 16836 + }, + { + "epoch": 2.2315440689198143, + "grad_norm": 2.8592193126678467, + "learning_rate": 7.673676139522354e-07, + "loss": 0.0298, + "num_input_tokens_seen": 32960248, + "step": 16837 + }, + { + "epoch": 2.2316766070245198, + "grad_norm": 9.551393508911133, + "learning_rate": 7.671173839941853e-07, + "loss": 0.1521, + "num_input_tokens_seen": 32962496, + "step": 16838 + }, + { + "epoch": 2.231809145129225, + "grad_norm": 1.5247143507003784, + "learning_rate": 7.668671874473069e-07, + "loss": 0.0058, + "num_input_tokens_seen": 32964224, + "step": 16839 + }, + { + "epoch": 2.23194168323393, + "grad_norm": 0.003496789839118719, + "learning_rate": 7.666170243164256e-07, + "loss": 0.0, + "num_input_tokens_seen": 32965472, + "step": 16840 + }, + { + "epoch": 2.232074221338635, + "grad_norm": 0.012420128099620342, + "learning_rate": 7.663668946063629e-07, + "loss": 0.0001, + "num_input_tokens_seen": 32967160, + "step": 16841 + }, + { + "epoch": 2.23220675944334, + "grad_norm": 1.791758418083191, + "learning_rate": 7.661167983219434e-07, + "loss": 0.0036, + "num_input_tokens_seen": 32968752, + "step": 16842 + }, + { + "epoch": 2.232339297548045, + "grad_norm": 0.036408431828022, + "learning_rate": 7.65866735467988e-07, + "loss": 0.0002, + "num_input_tokens_seen": 32970248, + "step": 16843 + }, + { + "epoch": 2.23247183565275, + "grad_norm": 0.41861966252326965, + "learning_rate": 7.656167060493177e-07, + "loss": 0.0014, + "num_input_tokens_seen": 32971504, + "step": 16844 + }, + { + "epoch": 2.2326043737574555, + "grad_norm": 6.684903144836426, + "learning_rate": 7.653667100707543e-07, + "loss": 0.0581, + "num_input_tokens_seen": 32973264, + "step": 16845 + }, + { + "epoch": 2.2327369118621605, + "grad_norm": 0.05923507362604141, + "learning_rate": 7.651167475371169e-07, + "loss": 0.0004, + "num_input_tokens_seen": 32975264, + "step": 16846 + }, + { + "epoch": 2.2328694499668655, + "grad_norm": 7.135880470275879, + "learning_rate": 7.648668184532259e-07, + "loss": 0.1775, + "num_input_tokens_seen": 32977424, + "step": 16847 + }, + { + "epoch": 2.2330019880715706, + "grad_norm": 0.12432753294706345, + "learning_rate": 7.646169228239001e-07, + "loss": 0.0007, + "num_input_tokens_seen": 32978816, + "step": 16848 + }, + { + "epoch": 2.2331345261762756, + "grad_norm": 5.3253278732299805, + "learning_rate": 7.643670606539569e-07, + "loss": 0.0423, + "num_input_tokens_seen": 32980712, + "step": 16849 + }, + { + "epoch": 2.2332670642809807, + "grad_norm": 12.118880271911621, + "learning_rate": 7.641172319482132e-07, + "loss": 0.0448, + "num_input_tokens_seen": 32982552, + "step": 16850 + }, + { + "epoch": 2.2333996023856857, + "grad_norm": 7.602474212646484, + "learning_rate": 7.638674367114871e-07, + "loss": 0.0754, + "num_input_tokens_seen": 32983872, + "step": 16851 + }, + { + "epoch": 2.233532140490391, + "grad_norm": 8.997574806213379, + "learning_rate": 7.636176749485952e-07, + "loss": 0.0346, + "num_input_tokens_seen": 32986112, + "step": 16852 + }, + { + "epoch": 2.233664678595096, + "grad_norm": 3.0022573471069336, + "learning_rate": 7.633679466643523e-07, + "loss": 0.0302, + "num_input_tokens_seen": 32988736, + "step": 16853 + }, + { + "epoch": 2.2337972166998012, + "grad_norm": 0.2232588678598404, + "learning_rate": 7.631182518635736e-07, + "loss": 0.001, + "num_input_tokens_seen": 32990432, + "step": 16854 + }, + { + "epoch": 2.2339297548045063, + "grad_norm": 6.605444431304932, + "learning_rate": 7.62868590551073e-07, + "loss": 0.0114, + "num_input_tokens_seen": 32992056, + "step": 16855 + }, + { + "epoch": 2.2340622929092113, + "grad_norm": 3.551065683364868, + "learning_rate": 7.626189627316635e-07, + "loss": 0.0208, + "num_input_tokens_seen": 32994072, + "step": 16856 + }, + { + "epoch": 2.2341948310139164, + "grad_norm": 0.006108480971306562, + "learning_rate": 7.623693684101593e-07, + "loss": 0.0, + "num_input_tokens_seen": 32996192, + "step": 16857 + }, + { + "epoch": 2.2343273691186214, + "grad_norm": 6.323681831359863, + "learning_rate": 7.62119807591373e-07, + "loss": 0.0387, + "num_input_tokens_seen": 32998896, + "step": 16858 + }, + { + "epoch": 2.234459907223327, + "grad_norm": 0.006001184228807688, + "learning_rate": 7.618702802801158e-07, + "loss": 0.0, + "num_input_tokens_seen": 33000384, + "step": 16859 + }, + { + "epoch": 2.234592445328032, + "grad_norm": 0.016904622316360474, + "learning_rate": 7.616207864811986e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33002672, + "step": 16860 + }, + { + "epoch": 2.234724983432737, + "grad_norm": 0.011634291149675846, + "learning_rate": 7.61371326199431e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33005736, + "step": 16861 + }, + { + "epoch": 2.234857521537442, + "grad_norm": 0.1562369465827942, + "learning_rate": 7.611218994396246e-07, + "loss": 0.0009, + "num_input_tokens_seen": 33008200, + "step": 16862 + }, + { + "epoch": 2.234990059642147, + "grad_norm": 6.2754974365234375, + "learning_rate": 7.608725062065867e-07, + "loss": 0.0866, + "num_input_tokens_seen": 33010296, + "step": 16863 + }, + { + "epoch": 2.235122597746852, + "grad_norm": 4.577400207519531, + "learning_rate": 7.606231465051275e-07, + "loss": 0.0477, + "num_input_tokens_seen": 33012424, + "step": 16864 + }, + { + "epoch": 2.235255135851557, + "grad_norm": 8.511613845825195, + "learning_rate": 7.60373820340054e-07, + "loss": 0.019, + "num_input_tokens_seen": 33014248, + "step": 16865 + }, + { + "epoch": 2.2353876739562626, + "grad_norm": 0.03635704889893532, + "learning_rate": 7.601245277161731e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33016752, + "step": 16866 + }, + { + "epoch": 2.2355202120609676, + "grad_norm": 0.031176378950476646, + "learning_rate": 7.59875268638291e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33018336, + "step": 16867 + }, + { + "epoch": 2.2356527501656727, + "grad_norm": 1.4374096393585205, + "learning_rate": 7.596260431112143e-07, + "loss": 0.0057, + "num_input_tokens_seen": 33019848, + "step": 16868 + }, + { + "epoch": 2.2357852882703777, + "grad_norm": 0.0037554167211055756, + "learning_rate": 7.593768511397487e-07, + "loss": 0.0, + "num_input_tokens_seen": 33021632, + "step": 16869 + }, + { + "epoch": 2.2359178263750827, + "grad_norm": 1.0293668508529663, + "learning_rate": 7.591276927286984e-07, + "loss": 0.0035, + "num_input_tokens_seen": 33023120, + "step": 16870 + }, + { + "epoch": 2.2360503644797878, + "grad_norm": 16.602781295776367, + "learning_rate": 7.588785678828669e-07, + "loss": 0.1243, + "num_input_tokens_seen": 33025768, + "step": 16871 + }, + { + "epoch": 2.236182902584493, + "grad_norm": 5.745857238769531, + "learning_rate": 7.586294766070571e-07, + "loss": 0.0997, + "num_input_tokens_seen": 33027528, + "step": 16872 + }, + { + "epoch": 2.2363154406891983, + "grad_norm": 12.850393295288086, + "learning_rate": 7.583804189060729e-07, + "loss": 0.1092, + "num_input_tokens_seen": 33029304, + "step": 16873 + }, + { + "epoch": 2.2364479787939033, + "grad_norm": 0.005411691032350063, + "learning_rate": 7.581313947847152e-07, + "loss": 0.0, + "num_input_tokens_seen": 33030968, + "step": 16874 + }, + { + "epoch": 2.2365805168986084, + "grad_norm": 16.323911666870117, + "learning_rate": 7.578824042477865e-07, + "loss": 0.1628, + "num_input_tokens_seen": 33033288, + "step": 16875 + }, + { + "epoch": 2.2367130550033134, + "grad_norm": 4.657427787780762, + "learning_rate": 7.576334473000868e-07, + "loss": 0.039, + "num_input_tokens_seen": 33036128, + "step": 16876 + }, + { + "epoch": 2.2368455931080184, + "grad_norm": 0.03632344678044319, + "learning_rate": 7.573845239464156e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33038088, + "step": 16877 + }, + { + "epoch": 2.2369781312127235, + "grad_norm": 4.514306545257568, + "learning_rate": 7.571356341915737e-07, + "loss": 0.0317, + "num_input_tokens_seen": 33039920, + "step": 16878 + }, + { + "epoch": 2.237110669317429, + "grad_norm": 0.035691998898983, + "learning_rate": 7.568867780403591e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33042304, + "step": 16879 + }, + { + "epoch": 2.237243207422134, + "grad_norm": 0.023275118321180344, + "learning_rate": 7.566379554975692e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33044136, + "step": 16880 + }, + { + "epoch": 2.237375745526839, + "grad_norm": 0.015332008711993694, + "learning_rate": 7.563891665680029e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33045944, + "step": 16881 + }, + { + "epoch": 2.237508283631544, + "grad_norm": 0.03269106149673462, + "learning_rate": 7.561404112564555e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33047960, + "step": 16882 + }, + { + "epoch": 2.237640821736249, + "grad_norm": 10.386913299560547, + "learning_rate": 7.558916895677249e-07, + "loss": 0.1604, + "num_input_tokens_seen": 33050280, + "step": 16883 + }, + { + "epoch": 2.237773359840954, + "grad_norm": 0.0517621673643589, + "learning_rate": 7.556430015066055e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33052088, + "step": 16884 + }, + { + "epoch": 2.237905897945659, + "grad_norm": 0.02438417449593544, + "learning_rate": 7.553943470778927e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33054248, + "step": 16885 + }, + { + "epoch": 2.2380384360503647, + "grad_norm": 1.4206547737121582, + "learning_rate": 7.551457262863792e-07, + "loss": 0.0036, + "num_input_tokens_seen": 33056528, + "step": 16886 + }, + { + "epoch": 2.2381709741550697, + "grad_norm": 0.03010665439069271, + "learning_rate": 7.548971391368604e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33057968, + "step": 16887 + }, + { + "epoch": 2.2383035122597748, + "grad_norm": 8.699987411499023, + "learning_rate": 7.54648585634129e-07, + "loss": 0.0633, + "num_input_tokens_seen": 33060152, + "step": 16888 + }, + { + "epoch": 2.23843605036448, + "grad_norm": 0.5269138216972351, + "learning_rate": 7.544000657829773e-07, + "loss": 0.0013, + "num_input_tokens_seen": 33062752, + "step": 16889 + }, + { + "epoch": 2.238568588469185, + "grad_norm": 11.476886749267578, + "learning_rate": 7.541515795881962e-07, + "loss": 0.0702, + "num_input_tokens_seen": 33064720, + "step": 16890 + }, + { + "epoch": 2.23870112657389, + "grad_norm": 0.032786667346954346, + "learning_rate": 7.539031270545771e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33066504, + "step": 16891 + }, + { + "epoch": 2.238833664678595, + "grad_norm": 6.707982063293457, + "learning_rate": 7.536547081869097e-07, + "loss": 0.0603, + "num_input_tokens_seen": 33068576, + "step": 16892 + }, + { + "epoch": 2.2389662027833004, + "grad_norm": 6.941318035125732, + "learning_rate": 7.534063229899841e-07, + "loss": 0.0964, + "num_input_tokens_seen": 33070272, + "step": 16893 + }, + { + "epoch": 2.2390987408880054, + "grad_norm": 0.03787539154291153, + "learning_rate": 7.531579714685902e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33072072, + "step": 16894 + }, + { + "epoch": 2.2392312789927105, + "grad_norm": 0.012064690701663494, + "learning_rate": 7.52909653627516e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33073680, + "step": 16895 + }, + { + "epoch": 2.2393638170974155, + "grad_norm": 7.186579704284668, + "learning_rate": 7.526613694715487e-07, + "loss": 0.1506, + "num_input_tokens_seen": 33075944, + "step": 16896 + }, + { + "epoch": 2.2394963552021205, + "grad_norm": 5.0201005935668945, + "learning_rate": 7.524131190054748e-07, + "loss": 0.1431, + "num_input_tokens_seen": 33077960, + "step": 16897 + }, + { + "epoch": 2.2396288933068256, + "grad_norm": 0.024932969361543655, + "learning_rate": 7.521649022340816e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33079896, + "step": 16898 + }, + { + "epoch": 2.2397614314115306, + "grad_norm": 6.946509838104248, + "learning_rate": 7.519167191621557e-07, + "loss": 0.1276, + "num_input_tokens_seen": 33081808, + "step": 16899 + }, + { + "epoch": 2.239893969516236, + "grad_norm": 5.004718780517578, + "learning_rate": 7.516685697944815e-07, + "loss": 0.0327, + "num_input_tokens_seen": 33083904, + "step": 16900 + }, + { + "epoch": 2.240026507620941, + "grad_norm": 0.18041519820690155, + "learning_rate": 7.514204541358433e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33085488, + "step": 16901 + }, + { + "epoch": 2.240159045725646, + "grad_norm": 9.388216972351074, + "learning_rate": 7.511723721910249e-07, + "loss": 0.1134, + "num_input_tokens_seen": 33088224, + "step": 16902 + }, + { + "epoch": 2.240291583830351, + "grad_norm": 20.20255470275879, + "learning_rate": 7.50924323964809e-07, + "loss": 0.0625, + "num_input_tokens_seen": 33090024, + "step": 16903 + }, + { + "epoch": 2.2404241219350562, + "grad_norm": 3.309440851211548, + "learning_rate": 7.506763094619788e-07, + "loss": 0.0896, + "num_input_tokens_seen": 33091528, + "step": 16904 + }, + { + "epoch": 2.2405566600397613, + "grad_norm": 0.022734861820936203, + "learning_rate": 7.504283286873168e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33094696, + "step": 16905 + }, + { + "epoch": 2.2406891981444668, + "grad_norm": 0.40271276235580444, + "learning_rate": 7.501803816456036e-07, + "loss": 0.0025, + "num_input_tokens_seen": 33096208, + "step": 16906 + }, + { + "epoch": 2.240821736249172, + "grad_norm": 2.050246238708496, + "learning_rate": 7.499324683416198e-07, + "loss": 0.0304, + "num_input_tokens_seen": 33098976, + "step": 16907 + }, + { + "epoch": 2.240954274353877, + "grad_norm": 4.149683475494385, + "learning_rate": 7.496845887801447e-07, + "loss": 0.0381, + "num_input_tokens_seen": 33100744, + "step": 16908 + }, + { + "epoch": 2.241086812458582, + "grad_norm": 2.672752618789673, + "learning_rate": 7.494367429659588e-07, + "loss": 0.0177, + "num_input_tokens_seen": 33103808, + "step": 16909 + }, + { + "epoch": 2.241219350563287, + "grad_norm": 0.034271519631147385, + "learning_rate": 7.491889309038391e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33105776, + "step": 16910 + }, + { + "epoch": 2.241351888667992, + "grad_norm": 3.9220025539398193, + "learning_rate": 7.48941152598566e-07, + "loss": 0.0483, + "num_input_tokens_seen": 33107360, + "step": 16911 + }, + { + "epoch": 2.241484426772697, + "grad_norm": 1.9702450037002563, + "learning_rate": 7.486934080549152e-07, + "loss": 0.0052, + "num_input_tokens_seen": 33109944, + "step": 16912 + }, + { + "epoch": 2.2416169648774025, + "grad_norm": 0.05215461179614067, + "learning_rate": 7.484456972776627e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33111712, + "step": 16913 + }, + { + "epoch": 2.2417495029821075, + "grad_norm": 1.3901699781417847, + "learning_rate": 7.481980202715866e-07, + "loss": 0.021, + "num_input_tokens_seen": 33113120, + "step": 16914 + }, + { + "epoch": 2.2418820410868125, + "grad_norm": 3.4148108959198, + "learning_rate": 7.479503770414608e-07, + "loss": 0.0168, + "num_input_tokens_seen": 33114328, + "step": 16915 + }, + { + "epoch": 2.2420145791915176, + "grad_norm": 6.229007244110107, + "learning_rate": 7.477027675920601e-07, + "loss": 0.0885, + "num_input_tokens_seen": 33116640, + "step": 16916 + }, + { + "epoch": 2.2421471172962226, + "grad_norm": 0.06428591907024384, + "learning_rate": 7.474551919281591e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33118752, + "step": 16917 + }, + { + "epoch": 2.2422796554009277, + "grad_norm": 0.08684971183538437, + "learning_rate": 7.472076500545305e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33120712, + "step": 16918 + }, + { + "epoch": 2.2424121935056327, + "grad_norm": 0.01004707906395197, + "learning_rate": 7.469601419759487e-07, + "loss": 0.0, + "num_input_tokens_seen": 33121736, + "step": 16919 + }, + { + "epoch": 2.242544731610338, + "grad_norm": 1.1019450426101685, + "learning_rate": 7.467126676971844e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33123832, + "step": 16920 + }, + { + "epoch": 2.242677269715043, + "grad_norm": 6.03755521774292, + "learning_rate": 7.464652272230086e-07, + "loss": 0.051, + "num_input_tokens_seen": 33125720, + "step": 16921 + }, + { + "epoch": 2.2428098078197483, + "grad_norm": 0.15352152287960052, + "learning_rate": 7.462178205581938e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33126824, + "step": 16922 + }, + { + "epoch": 2.2429423459244533, + "grad_norm": 0.057611990720033646, + "learning_rate": 7.459704477075091e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33128256, + "step": 16923 + }, + { + "epoch": 2.2430748840291583, + "grad_norm": 0.0035571185871958733, + "learning_rate": 7.457231086757238e-07, + "loss": 0.0, + "num_input_tokens_seen": 33129632, + "step": 16924 + }, + { + "epoch": 2.2432074221338634, + "grad_norm": 8.817341804504395, + "learning_rate": 7.454758034676077e-07, + "loss": 0.1276, + "num_input_tokens_seen": 33131984, + "step": 16925 + }, + { + "epoch": 2.2433399602385684, + "grad_norm": 0.9332042336463928, + "learning_rate": 7.452285320879285e-07, + "loss": 0.0072, + "num_input_tokens_seen": 33133360, + "step": 16926 + }, + { + "epoch": 2.243472498343274, + "grad_norm": 0.01454442273825407, + "learning_rate": 7.449812945414531e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33135912, + "step": 16927 + }, + { + "epoch": 2.243605036447979, + "grad_norm": 2.380324125289917, + "learning_rate": 7.447340908329498e-07, + "loss": 0.005, + "num_input_tokens_seen": 33137376, + "step": 16928 + }, + { + "epoch": 2.243737574552684, + "grad_norm": 2.013598680496216, + "learning_rate": 7.444869209671832e-07, + "loss": 0.0081, + "num_input_tokens_seen": 33139472, + "step": 16929 + }, + { + "epoch": 2.243870112657389, + "grad_norm": 2.8410463333129883, + "learning_rate": 7.442397849489208e-07, + "loss": 0.0195, + "num_input_tokens_seen": 33141328, + "step": 16930 + }, + { + "epoch": 2.244002650762094, + "grad_norm": 6.372222423553467, + "learning_rate": 7.439926827829263e-07, + "loss": 0.0395, + "num_input_tokens_seen": 33143000, + "step": 16931 + }, + { + "epoch": 2.244135188866799, + "grad_norm": 3.541367769241333, + "learning_rate": 7.437456144739646e-07, + "loss": 0.0338, + "num_input_tokens_seen": 33145592, + "step": 16932 + }, + { + "epoch": 2.244267726971504, + "grad_norm": 11.826542854309082, + "learning_rate": 7.434985800267982e-07, + "loss": 0.3244, + "num_input_tokens_seen": 33148368, + "step": 16933 + }, + { + "epoch": 2.2444002650762096, + "grad_norm": 0.0016426644288003445, + "learning_rate": 7.432515794461909e-07, + "loss": 0.0, + "num_input_tokens_seen": 33149584, + "step": 16934 + }, + { + "epoch": 2.2445328031809146, + "grad_norm": 0.05555108189582825, + "learning_rate": 7.430046127369056e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33151136, + "step": 16935 + }, + { + "epoch": 2.2446653412856197, + "grad_norm": 33.76434326171875, + "learning_rate": 7.427576799037037e-07, + "loss": 0.0903, + "num_input_tokens_seen": 33153080, + "step": 16936 + }, + { + "epoch": 2.2447978793903247, + "grad_norm": 3.8862385749816895, + "learning_rate": 7.42510780951346e-07, + "loss": 0.0602, + "num_input_tokens_seen": 33154752, + "step": 16937 + }, + { + "epoch": 2.2449304174950298, + "grad_norm": 3.9612860679626465, + "learning_rate": 7.422639158845929e-07, + "loss": 0.0391, + "num_input_tokens_seen": 33157032, + "step": 16938 + }, + { + "epoch": 2.245062955599735, + "grad_norm": 5.586040496826172, + "learning_rate": 7.420170847082031e-07, + "loss": 0.0569, + "num_input_tokens_seen": 33159320, + "step": 16939 + }, + { + "epoch": 2.24519549370444, + "grad_norm": 7.117069244384766, + "learning_rate": 7.417702874269369e-07, + "loss": 0.0452, + "num_input_tokens_seen": 33161272, + "step": 16940 + }, + { + "epoch": 2.2453280318091453, + "grad_norm": 4.0987348556518555, + "learning_rate": 7.415235240455531e-07, + "loss": 0.0441, + "num_input_tokens_seen": 33163008, + "step": 16941 + }, + { + "epoch": 2.2454605699138503, + "grad_norm": 0.15577000379562378, + "learning_rate": 7.41276794568809e-07, + "loss": 0.0008, + "num_input_tokens_seen": 33165608, + "step": 16942 + }, + { + "epoch": 2.2455931080185554, + "grad_norm": 8.19677734375, + "learning_rate": 7.410300990014616e-07, + "loss": 0.0833, + "num_input_tokens_seen": 33167264, + "step": 16943 + }, + { + "epoch": 2.2457256461232604, + "grad_norm": 6.9497456550598145, + "learning_rate": 7.407834373482667e-07, + "loss": 0.1176, + "num_input_tokens_seen": 33169496, + "step": 16944 + }, + { + "epoch": 2.2458581842279655, + "grad_norm": 13.79938793182373, + "learning_rate": 7.405368096139812e-07, + "loss": 0.0209, + "num_input_tokens_seen": 33171328, + "step": 16945 + }, + { + "epoch": 2.2459907223326705, + "grad_norm": 0.0009604765800759196, + "learning_rate": 7.402902158033593e-07, + "loss": 0.0, + "num_input_tokens_seen": 33172608, + "step": 16946 + }, + { + "epoch": 2.2461232604373755, + "grad_norm": 5.148166179656982, + "learning_rate": 7.400436559211566e-07, + "loss": 0.0145, + "num_input_tokens_seen": 33174096, + "step": 16947 + }, + { + "epoch": 2.246255798542081, + "grad_norm": 10.47939395904541, + "learning_rate": 7.397971299721262e-07, + "loss": 0.2954, + "num_input_tokens_seen": 33176136, + "step": 16948 + }, + { + "epoch": 2.246388336646786, + "grad_norm": 0.39862412214279175, + "learning_rate": 7.39550637961021e-07, + "loss": 0.0017, + "num_input_tokens_seen": 33178616, + "step": 16949 + }, + { + "epoch": 2.246520874751491, + "grad_norm": 0.8816923499107361, + "learning_rate": 7.393041798925946e-07, + "loss": 0.0042, + "num_input_tokens_seen": 33180512, + "step": 16950 + }, + { + "epoch": 2.246653412856196, + "grad_norm": 5.178239345550537, + "learning_rate": 7.390577557715975e-07, + "loss": 0.0181, + "num_input_tokens_seen": 33182776, + "step": 16951 + }, + { + "epoch": 2.246785950960901, + "grad_norm": 0.4570491313934326, + "learning_rate": 7.388113656027824e-07, + "loss": 0.0015, + "num_input_tokens_seen": 33184552, + "step": 16952 + }, + { + "epoch": 2.246918489065606, + "grad_norm": 0.24592724442481995, + "learning_rate": 7.385650093908992e-07, + "loss": 0.0008, + "num_input_tokens_seen": 33186048, + "step": 16953 + }, + { + "epoch": 2.2470510271703112, + "grad_norm": 0.02860875241458416, + "learning_rate": 7.383186871406978e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33187976, + "step": 16954 + }, + { + "epoch": 2.2471835652750167, + "grad_norm": 5.490097522735596, + "learning_rate": 7.380723988569266e-07, + "loss": 0.0519, + "num_input_tokens_seen": 33189960, + "step": 16955 + }, + { + "epoch": 2.2473161033797218, + "grad_norm": 0.05248027667403221, + "learning_rate": 7.378261445443358e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33191816, + "step": 16956 + }, + { + "epoch": 2.247448641484427, + "grad_norm": 6.085441589355469, + "learning_rate": 7.375799242076717e-07, + "loss": 0.1032, + "num_input_tokens_seen": 33193520, + "step": 16957 + }, + { + "epoch": 2.247581179589132, + "grad_norm": 1.8667737245559692, + "learning_rate": 7.373337378516835e-07, + "loss": 0.0072, + "num_input_tokens_seen": 33195192, + "step": 16958 + }, + { + "epoch": 2.247713717693837, + "grad_norm": 0.11567371338605881, + "learning_rate": 7.370875854811169e-07, + "loss": 0.0004, + "num_input_tokens_seen": 33196400, + "step": 16959 + }, + { + "epoch": 2.247846255798542, + "grad_norm": 0.025613414123654366, + "learning_rate": 7.368414671007168e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33199000, + "step": 16960 + }, + { + "epoch": 2.247978793903247, + "grad_norm": 9.597737312316895, + "learning_rate": 7.365953827152303e-07, + "loss": 0.0675, + "num_input_tokens_seen": 33200792, + "step": 16961 + }, + { + "epoch": 2.2481113320079524, + "grad_norm": 2.251826047897339, + "learning_rate": 7.363493323294015e-07, + "loss": 0.0272, + "num_input_tokens_seen": 33202880, + "step": 16962 + }, + { + "epoch": 2.2482438701126575, + "grad_norm": 13.39017391204834, + "learning_rate": 7.361033159479735e-07, + "loss": 0.2389, + "num_input_tokens_seen": 33206120, + "step": 16963 + }, + { + "epoch": 2.2483764082173625, + "grad_norm": 0.005103795789182186, + "learning_rate": 7.358573335756911e-07, + "loss": 0.0, + "num_input_tokens_seen": 33207640, + "step": 16964 + }, + { + "epoch": 2.2485089463220675, + "grad_norm": 0.002359428210183978, + "learning_rate": 7.356113852172955e-07, + "loss": 0.0, + "num_input_tokens_seen": 33209136, + "step": 16965 + }, + { + "epoch": 2.2486414844267726, + "grad_norm": 2.287686586380005, + "learning_rate": 7.353654708775307e-07, + "loss": 0.014, + "num_input_tokens_seen": 33211088, + "step": 16966 + }, + { + "epoch": 2.2487740225314776, + "grad_norm": 0.009008623659610748, + "learning_rate": 7.351195905611366e-07, + "loss": 0.0, + "num_input_tokens_seen": 33213160, + "step": 16967 + }, + { + "epoch": 2.248906560636183, + "grad_norm": 2.3068599700927734, + "learning_rate": 7.348737442728543e-07, + "loss": 0.0258, + "num_input_tokens_seen": 33215664, + "step": 16968 + }, + { + "epoch": 2.249039098740888, + "grad_norm": 0.019841045141220093, + "learning_rate": 7.346279320174235e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33218024, + "step": 16969 + }, + { + "epoch": 2.249171636845593, + "grad_norm": 10.485225677490234, + "learning_rate": 7.343821537995838e-07, + "loss": 0.035, + "num_input_tokens_seen": 33220160, + "step": 16970 + }, + { + "epoch": 2.249304174950298, + "grad_norm": 3.2425382137298584, + "learning_rate": 7.34136409624075e-07, + "loss": 0.0347, + "num_input_tokens_seen": 33222120, + "step": 16971 + }, + { + "epoch": 2.2494367130550033, + "grad_norm": 1.1141399145126343, + "learning_rate": 7.338906994956344e-07, + "loss": 0.008, + "num_input_tokens_seen": 33224224, + "step": 16972 + }, + { + "epoch": 2.2495692511597083, + "grad_norm": 8.122712135314941, + "learning_rate": 7.336450234189996e-07, + "loss": 0.0266, + "num_input_tokens_seen": 33225584, + "step": 16973 + }, + { + "epoch": 2.2497017892644133, + "grad_norm": 0.0022021664772182703, + "learning_rate": 7.333993813989063e-07, + "loss": 0.0, + "num_input_tokens_seen": 33227344, + "step": 16974 + }, + { + "epoch": 2.249834327369119, + "grad_norm": 0.004999179393053055, + "learning_rate": 7.331537734400918e-07, + "loss": 0.0, + "num_input_tokens_seen": 33229120, + "step": 16975 + }, + { + "epoch": 2.249966865473824, + "grad_norm": 5.185283184051514, + "learning_rate": 7.329081995472922e-07, + "loss": 0.0417, + "num_input_tokens_seen": 33231208, + "step": 16976 + }, + { + "epoch": 2.250099403578529, + "grad_norm": 0.05826427787542343, + "learning_rate": 7.326626597252415e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33233224, + "step": 16977 + }, + { + "epoch": 2.250231941683234, + "grad_norm": 1.199054479598999, + "learning_rate": 7.32417153978674e-07, + "loss": 0.0137, + "num_input_tokens_seen": 33234856, + "step": 16978 + }, + { + "epoch": 2.250364479787939, + "grad_norm": 0.12127724289894104, + "learning_rate": 7.321716823123232e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33236680, + "step": 16979 + }, + { + "epoch": 2.250497017892644, + "grad_norm": 0.14179617166519165, + "learning_rate": 7.319262447309211e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33237960, + "step": 16980 + }, + { + "epoch": 2.2506295559973495, + "grad_norm": 1.946344017982483, + "learning_rate": 7.316808412392007e-07, + "loss": 0.0224, + "num_input_tokens_seen": 33240376, + "step": 16981 + }, + { + "epoch": 2.2507620941020545, + "grad_norm": 0.01241837628185749, + "learning_rate": 7.314354718418946e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33241496, + "step": 16982 + }, + { + "epoch": 2.2508946322067596, + "grad_norm": 0.029551241546869278, + "learning_rate": 7.311901365437324e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33243336, + "step": 16983 + }, + { + "epoch": 2.2510271703114646, + "grad_norm": 0.0013921392383053899, + "learning_rate": 7.309448353494447e-07, + "loss": 0.0, + "num_input_tokens_seen": 33245632, + "step": 16984 + }, + { + "epoch": 2.2511597084161696, + "grad_norm": 0.009858516976237297, + "learning_rate": 7.30699568263761e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33247704, + "step": 16985 + }, + { + "epoch": 2.2512922465208747, + "grad_norm": 4.5557026863098145, + "learning_rate": 7.304543352914093e-07, + "loss": 0.0337, + "num_input_tokens_seen": 33249880, + "step": 16986 + }, + { + "epoch": 2.2514247846255797, + "grad_norm": 0.007679368369281292, + "learning_rate": 7.302091364371189e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33251720, + "step": 16987 + }, + { + "epoch": 2.251557322730285, + "grad_norm": 0.5825331211090088, + "learning_rate": 7.299639717056181e-07, + "loss": 0.0017, + "num_input_tokens_seen": 33254000, + "step": 16988 + }, + { + "epoch": 2.2516898608349902, + "grad_norm": 0.21338331699371338, + "learning_rate": 7.297188411016329e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33255880, + "step": 16989 + }, + { + "epoch": 2.2518223989396953, + "grad_norm": 0.024999016895890236, + "learning_rate": 7.294737446298897e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33257496, + "step": 16990 + }, + { + "epoch": 2.2519549370444003, + "grad_norm": 8.251734733581543, + "learning_rate": 7.292286822951134e-07, + "loss": 0.0932, + "num_input_tokens_seen": 33260696, + "step": 16991 + }, + { + "epoch": 2.2520874751491053, + "grad_norm": 0.07410049438476562, + "learning_rate": 7.289836541020303e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33262080, + "step": 16992 + }, + { + "epoch": 2.2522200132538104, + "grad_norm": 6.856213092803955, + "learning_rate": 7.287386600553636e-07, + "loss": 0.1598, + "num_input_tokens_seen": 33263912, + "step": 16993 + }, + { + "epoch": 2.2523525513585154, + "grad_norm": 4.953722953796387, + "learning_rate": 7.28493700159838e-07, + "loss": 0.0426, + "num_input_tokens_seen": 33265872, + "step": 16994 + }, + { + "epoch": 2.252485089463221, + "grad_norm": 8.043919563293457, + "learning_rate": 7.282487744201761e-07, + "loss": 0.2656, + "num_input_tokens_seen": 33268296, + "step": 16995 + }, + { + "epoch": 2.252617627567926, + "grad_norm": 0.09154964983463287, + "learning_rate": 7.280038828410993e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33270864, + "step": 16996 + }, + { + "epoch": 2.252750165672631, + "grad_norm": 7.528890609741211, + "learning_rate": 7.277590254273309e-07, + "loss": 0.057, + "num_input_tokens_seen": 33272744, + "step": 16997 + }, + { + "epoch": 2.252882703777336, + "grad_norm": 0.8290294408798218, + "learning_rate": 7.27514202183591e-07, + "loss": 0.0013, + "num_input_tokens_seen": 33275888, + "step": 16998 + }, + { + "epoch": 2.253015241882041, + "grad_norm": 9.201217651367188, + "learning_rate": 7.272694131145993e-07, + "loss": 0.097, + "num_input_tokens_seen": 33278096, + "step": 16999 + }, + { + "epoch": 2.253147779986746, + "grad_norm": 3.091181755065918, + "learning_rate": 7.27024658225077e-07, + "loss": 0.0207, + "num_input_tokens_seen": 33279976, + "step": 17000 + }, + { + "epoch": 2.253280318091451, + "grad_norm": 12.717276573181152, + "learning_rate": 7.267799375197418e-07, + "loss": 0.0488, + "num_input_tokens_seen": 33282160, + "step": 17001 + }, + { + "epoch": 2.2534128561961566, + "grad_norm": 6.23261022567749, + "learning_rate": 7.265352510033133e-07, + "loss": 0.0907, + "num_input_tokens_seen": 33284280, + "step": 17002 + }, + { + "epoch": 2.2535453943008616, + "grad_norm": 0.938535213470459, + "learning_rate": 7.262905986805088e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33285744, + "step": 17003 + }, + { + "epoch": 2.2536779324055667, + "grad_norm": 6.548614501953125, + "learning_rate": 7.26045980556044e-07, + "loss": 0.1454, + "num_input_tokens_seen": 33287680, + "step": 17004 + }, + { + "epoch": 2.2538104705102717, + "grad_norm": 0.0010226767044514418, + "learning_rate": 7.258013966346378e-07, + "loss": 0.0, + "num_input_tokens_seen": 33288992, + "step": 17005 + }, + { + "epoch": 2.2539430086149768, + "grad_norm": 18.0094051361084, + "learning_rate": 7.255568469210033e-07, + "loss": 0.1424, + "num_input_tokens_seen": 33291112, + "step": 17006 + }, + { + "epoch": 2.254075546719682, + "grad_norm": 0.029837286099791527, + "learning_rate": 7.253123314198582e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33292688, + "step": 17007 + }, + { + "epoch": 2.254208084824387, + "grad_norm": 0.45921260118484497, + "learning_rate": 7.250678501359154e-07, + "loss": 0.0015, + "num_input_tokens_seen": 33294184, + "step": 17008 + }, + { + "epoch": 2.2543406229290923, + "grad_norm": 0.15770047903060913, + "learning_rate": 7.248234030738888e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33295864, + "step": 17009 + }, + { + "epoch": 2.2544731610337974, + "grad_norm": 0.04620315134525299, + "learning_rate": 7.245789902384908e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33297752, + "step": 17010 + }, + { + "epoch": 2.2546056991385024, + "grad_norm": 0.03155709058046341, + "learning_rate": 7.243346116344357e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33299992, + "step": 17011 + }, + { + "epoch": 2.2547382372432074, + "grad_norm": 0.09925250709056854, + "learning_rate": 7.240902672664335e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33302624, + "step": 17012 + }, + { + "epoch": 2.2548707753479125, + "grad_norm": 7.438824653625488, + "learning_rate": 7.238459571391967e-07, + "loss": 0.0215, + "num_input_tokens_seen": 33304592, + "step": 17013 + }, + { + "epoch": 2.2550033134526175, + "grad_norm": 11.135329246520996, + "learning_rate": 7.236016812574353e-07, + "loss": 0.145, + "num_input_tokens_seen": 33306424, + "step": 17014 + }, + { + "epoch": 2.2551358515573225, + "grad_norm": 8.121220588684082, + "learning_rate": 7.233574396258589e-07, + "loss": 0.0753, + "num_input_tokens_seen": 33308296, + "step": 17015 + }, + { + "epoch": 2.255268389662028, + "grad_norm": 8.018284797668457, + "learning_rate": 7.231132322491758e-07, + "loss": 0.142, + "num_input_tokens_seen": 33310360, + "step": 17016 + }, + { + "epoch": 2.255400927766733, + "grad_norm": 6.242404937744141, + "learning_rate": 7.228690591320955e-07, + "loss": 0.054, + "num_input_tokens_seen": 33313120, + "step": 17017 + }, + { + "epoch": 2.255533465871438, + "grad_norm": 0.0052351271733641624, + "learning_rate": 7.226249202793264e-07, + "loss": 0.0, + "num_input_tokens_seen": 33314784, + "step": 17018 + }, + { + "epoch": 2.255666003976143, + "grad_norm": 5.323879718780518, + "learning_rate": 7.223808156955752e-07, + "loss": 0.0839, + "num_input_tokens_seen": 33316912, + "step": 17019 + }, + { + "epoch": 2.255798542080848, + "grad_norm": 0.013013062067329884, + "learning_rate": 7.221367453855479e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33318312, + "step": 17020 + }, + { + "epoch": 2.255931080185553, + "grad_norm": 0.5815606713294983, + "learning_rate": 7.21892709353951e-07, + "loss": 0.0028, + "num_input_tokens_seen": 33320152, + "step": 17021 + }, + { + "epoch": 2.2560636182902583, + "grad_norm": 12.585061073303223, + "learning_rate": 7.216487076054881e-07, + "loss": 0.0501, + "num_input_tokens_seen": 33321984, + "step": 17022 + }, + { + "epoch": 2.2561961563949637, + "grad_norm": 9.091734886169434, + "learning_rate": 7.214047401448654e-07, + "loss": 0.0925, + "num_input_tokens_seen": 33324048, + "step": 17023 + }, + { + "epoch": 2.2563286944996688, + "grad_norm": 0.014654953964054585, + "learning_rate": 7.211608069767867e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33326504, + "step": 17024 + }, + { + "epoch": 2.256461232604374, + "grad_norm": 11.473068237304688, + "learning_rate": 7.20916908105955e-07, + "loss": 0.0729, + "num_input_tokens_seen": 33329408, + "step": 17025 + }, + { + "epoch": 2.256593770709079, + "grad_norm": 9.856328010559082, + "learning_rate": 7.206730435370727e-07, + "loss": 0.3116, + "num_input_tokens_seen": 33332712, + "step": 17026 + }, + { + "epoch": 2.256726308813784, + "grad_norm": 3.275170087814331, + "learning_rate": 7.204292132748406e-07, + "loss": 0.028, + "num_input_tokens_seen": 33335248, + "step": 17027 + }, + { + "epoch": 2.256858846918489, + "grad_norm": 13.823945045471191, + "learning_rate": 7.201854173239611e-07, + "loss": 0.0794, + "num_input_tokens_seen": 33337632, + "step": 17028 + }, + { + "epoch": 2.256991385023194, + "grad_norm": 0.018344588577747345, + "learning_rate": 7.199416556891353e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33339544, + "step": 17029 + }, + { + "epoch": 2.2571239231278994, + "grad_norm": 0.004460104275494814, + "learning_rate": 7.196979283750625e-07, + "loss": 0.0, + "num_input_tokens_seen": 33340872, + "step": 17030 + }, + { + "epoch": 2.2572564612326045, + "grad_norm": 0.0099294139072299, + "learning_rate": 7.194542353864417e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33342704, + "step": 17031 + }, + { + "epoch": 2.2573889993373095, + "grad_norm": 10.825511932373047, + "learning_rate": 7.192105767279709e-07, + "loss": 0.0708, + "num_input_tokens_seen": 33345512, + "step": 17032 + }, + { + "epoch": 2.2575215374420146, + "grad_norm": 2.3327972888946533, + "learning_rate": 7.189669524043491e-07, + "loss": 0.0107, + "num_input_tokens_seen": 33347488, + "step": 17033 + }, + { + "epoch": 2.2576540755467196, + "grad_norm": 0.012312586419284344, + "learning_rate": 7.187233624202727e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33349240, + "step": 17034 + }, + { + "epoch": 2.2577866136514246, + "grad_norm": 4.407036781311035, + "learning_rate": 7.184798067804394e-07, + "loss": 0.0186, + "num_input_tokens_seen": 33351416, + "step": 17035 + }, + { + "epoch": 2.2579191517561297, + "grad_norm": 4.566205024719238, + "learning_rate": 7.182362854895445e-07, + "loss": 0.0494, + "num_input_tokens_seen": 33353592, + "step": 17036 + }, + { + "epoch": 2.258051689860835, + "grad_norm": 0.45175901055336, + "learning_rate": 7.17992798552283e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33355712, + "step": 17037 + }, + { + "epoch": 2.25818422796554, + "grad_norm": 9.643722534179688, + "learning_rate": 7.177493459733493e-07, + "loss": 0.0615, + "num_input_tokens_seen": 33357592, + "step": 17038 + }, + { + "epoch": 2.2583167660702452, + "grad_norm": 2.7171199321746826, + "learning_rate": 7.175059277574381e-07, + "loss": 0.013, + "num_input_tokens_seen": 33359768, + "step": 17039 + }, + { + "epoch": 2.2584493041749503, + "grad_norm": 0.007482321932911873, + "learning_rate": 7.172625439092414e-07, + "loss": 0.0, + "num_input_tokens_seen": 33361080, + "step": 17040 + }, + { + "epoch": 2.2585818422796553, + "grad_norm": 3.1417672634124756, + "learning_rate": 7.17019194433454e-07, + "loss": 0.0192, + "num_input_tokens_seen": 33362912, + "step": 17041 + }, + { + "epoch": 2.2587143803843603, + "grad_norm": 1.260101556777954, + "learning_rate": 7.167758793347662e-07, + "loss": 0.007, + "num_input_tokens_seen": 33364456, + "step": 17042 + }, + { + "epoch": 2.2588469184890654, + "grad_norm": 0.04365816339850426, + "learning_rate": 7.16532598617869e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33365776, + "step": 17043 + }, + { + "epoch": 2.258979456593771, + "grad_norm": 2.846550226211548, + "learning_rate": 7.162893522874542e-07, + "loss": 0.0374, + "num_input_tokens_seen": 33367800, + "step": 17044 + }, + { + "epoch": 2.259111994698476, + "grad_norm": 10.436948776245117, + "learning_rate": 7.160461403482116e-07, + "loss": 0.0774, + "num_input_tokens_seen": 33369648, + "step": 17045 + }, + { + "epoch": 2.259244532803181, + "grad_norm": 1.1857064962387085, + "learning_rate": 7.15802962804829e-07, + "loss": 0.0059, + "num_input_tokens_seen": 33371712, + "step": 17046 + }, + { + "epoch": 2.259377070907886, + "grad_norm": 4.265346527099609, + "learning_rate": 7.15559819661997e-07, + "loss": 0.0406, + "num_input_tokens_seen": 33373840, + "step": 17047 + }, + { + "epoch": 2.259509609012591, + "grad_norm": 2.5166361331939697, + "learning_rate": 7.153167109244019e-07, + "loss": 0.0032, + "num_input_tokens_seen": 33375624, + "step": 17048 + }, + { + "epoch": 2.259642147117296, + "grad_norm": 16.485225677490234, + "learning_rate": 7.150736365967326e-07, + "loss": 0.1606, + "num_input_tokens_seen": 33377456, + "step": 17049 + }, + { + "epoch": 2.259774685222001, + "grad_norm": 0.01974525861442089, + "learning_rate": 7.14830596683675e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33379136, + "step": 17050 + }, + { + "epoch": 2.2599072233267066, + "grad_norm": 3.940603494644165, + "learning_rate": 7.145875911899142e-07, + "loss": 0.046, + "num_input_tokens_seen": 33381288, + "step": 17051 + }, + { + "epoch": 2.2600397614314116, + "grad_norm": 4.029561519622803, + "learning_rate": 7.143446201201371e-07, + "loss": 0.0675, + "num_input_tokens_seen": 33383160, + "step": 17052 + }, + { + "epoch": 2.2601722995361166, + "grad_norm": 3.8174209594726562, + "learning_rate": 7.141016834790268e-07, + "loss": 0.0511, + "num_input_tokens_seen": 33385000, + "step": 17053 + }, + { + "epoch": 2.2603048376408217, + "grad_norm": 7.234439373016357, + "learning_rate": 7.138587812712688e-07, + "loss": 0.0859, + "num_input_tokens_seen": 33386880, + "step": 17054 + }, + { + "epoch": 2.2604373757455267, + "grad_norm": 0.0020689249504357576, + "learning_rate": 7.136159135015458e-07, + "loss": 0.0, + "num_input_tokens_seen": 33388736, + "step": 17055 + }, + { + "epoch": 2.2605699138502318, + "grad_norm": 17.782318115234375, + "learning_rate": 7.133730801745403e-07, + "loss": 0.1428, + "num_input_tokens_seen": 33390496, + "step": 17056 + }, + { + "epoch": 2.260702451954937, + "grad_norm": 0.0010639396496117115, + "learning_rate": 7.131302812949336e-07, + "loss": 0.0, + "num_input_tokens_seen": 33392032, + "step": 17057 + }, + { + "epoch": 2.2608349900596423, + "grad_norm": 2.871506690979004, + "learning_rate": 7.128875168674076e-07, + "loss": 0.0456, + "num_input_tokens_seen": 33393448, + "step": 17058 + }, + { + "epoch": 2.2609675281643473, + "grad_norm": 8.979290962219238, + "learning_rate": 7.126447868966441e-07, + "loss": 0.1293, + "num_input_tokens_seen": 33395736, + "step": 17059 + }, + { + "epoch": 2.2611000662690524, + "grad_norm": 1.359527587890625, + "learning_rate": 7.124020913873222e-07, + "loss": 0.0124, + "num_input_tokens_seen": 33397952, + "step": 17060 + }, + { + "epoch": 2.2612326043737574, + "grad_norm": 1.771660327911377, + "learning_rate": 7.121594303441209e-07, + "loss": 0.0221, + "num_input_tokens_seen": 33399672, + "step": 17061 + }, + { + "epoch": 2.2613651424784624, + "grad_norm": 1.9435672760009766, + "learning_rate": 7.119168037717194e-07, + "loss": 0.0082, + "num_input_tokens_seen": 33402112, + "step": 17062 + }, + { + "epoch": 2.2614976805831675, + "grad_norm": 11.306968688964844, + "learning_rate": 7.116742116747946e-07, + "loss": 0.0698, + "num_input_tokens_seen": 33404152, + "step": 17063 + }, + { + "epoch": 2.261630218687873, + "grad_norm": 0.4223754107952118, + "learning_rate": 7.114316540580249e-07, + "loss": 0.0026, + "num_input_tokens_seen": 33406424, + "step": 17064 + }, + { + "epoch": 2.261762756792578, + "grad_norm": 0.0034249506425112486, + "learning_rate": 7.111891309260874e-07, + "loss": 0.0, + "num_input_tokens_seen": 33408680, + "step": 17065 + }, + { + "epoch": 2.261895294897283, + "grad_norm": 6.980777740478516, + "learning_rate": 7.109466422836572e-07, + "loss": 0.0219, + "num_input_tokens_seen": 33410392, + "step": 17066 + }, + { + "epoch": 2.262027833001988, + "grad_norm": 10.331180572509766, + "learning_rate": 7.107041881354105e-07, + "loss": 0.058, + "num_input_tokens_seen": 33412096, + "step": 17067 + }, + { + "epoch": 2.262160371106693, + "grad_norm": 5.07744026184082, + "learning_rate": 7.10461768486021e-07, + "loss": 0.0718, + "num_input_tokens_seen": 33413712, + "step": 17068 + }, + { + "epoch": 2.262292909211398, + "grad_norm": 1.858208417892456, + "learning_rate": 7.102193833401624e-07, + "loss": 0.0205, + "num_input_tokens_seen": 33415520, + "step": 17069 + }, + { + "epoch": 2.2624254473161036, + "grad_norm": 0.005696216598153114, + "learning_rate": 7.099770327025091e-07, + "loss": 0.0, + "num_input_tokens_seen": 33417472, + "step": 17070 + }, + { + "epoch": 2.2625579854208087, + "grad_norm": 0.42151540517807007, + "learning_rate": 7.097347165777337e-07, + "loss": 0.0019, + "num_input_tokens_seen": 33419488, + "step": 17071 + }, + { + "epoch": 2.2626905235255137, + "grad_norm": 0.011717605404555798, + "learning_rate": 7.094924349705085e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33421376, + "step": 17072 + }, + { + "epoch": 2.2628230616302187, + "grad_norm": 1.4437997341156006, + "learning_rate": 7.092501878855043e-07, + "loss": 0.0146, + "num_input_tokens_seen": 33424000, + "step": 17073 + }, + { + "epoch": 2.2629555997349238, + "grad_norm": 8.156682014465332, + "learning_rate": 7.09007975327391e-07, + "loss": 0.0659, + "num_input_tokens_seen": 33425504, + "step": 17074 + }, + { + "epoch": 2.263088137839629, + "grad_norm": 0.010174905881285667, + "learning_rate": 7.087657973008402e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33428224, + "step": 17075 + }, + { + "epoch": 2.263220675944334, + "grad_norm": 0.017349964007735252, + "learning_rate": 7.085236538105197e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33430328, + "step": 17076 + }, + { + "epoch": 2.2633532140490393, + "grad_norm": 2.326019048690796, + "learning_rate": 7.082815448611e-07, + "loss": 0.0141, + "num_input_tokens_seen": 33432640, + "step": 17077 + }, + { + "epoch": 2.2634857521537444, + "grad_norm": 1.7204554080963135, + "learning_rate": 7.080394704572483e-07, + "loss": 0.0089, + "num_input_tokens_seen": 33434496, + "step": 17078 + }, + { + "epoch": 2.2636182902584494, + "grad_norm": 13.064606666564941, + "learning_rate": 7.077974306036306e-07, + "loss": 0.2042, + "num_input_tokens_seen": 33436744, + "step": 17079 + }, + { + "epoch": 2.2637508283631544, + "grad_norm": 7.238364219665527, + "learning_rate": 7.075554253049158e-07, + "loss": 0.1136, + "num_input_tokens_seen": 33438784, + "step": 17080 + }, + { + "epoch": 2.2638833664678595, + "grad_norm": 0.0011723835486918688, + "learning_rate": 7.073134545657681e-07, + "loss": 0.0, + "num_input_tokens_seen": 33440016, + "step": 17081 + }, + { + "epoch": 2.2640159045725645, + "grad_norm": 2.58549165725708, + "learning_rate": 7.070715183908547e-07, + "loss": 0.026, + "num_input_tokens_seen": 33442192, + "step": 17082 + }, + { + "epoch": 2.2641484426772696, + "grad_norm": 0.0011719600297510624, + "learning_rate": 7.06829616784839e-07, + "loss": 0.0, + "num_input_tokens_seen": 33443864, + "step": 17083 + }, + { + "epoch": 2.264280980781975, + "grad_norm": 6.057003498077393, + "learning_rate": 7.065877497523848e-07, + "loss": 0.0824, + "num_input_tokens_seen": 33446200, + "step": 17084 + }, + { + "epoch": 2.26441351888668, + "grad_norm": 0.07533871382474899, + "learning_rate": 7.063459172981568e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33448704, + "step": 17085 + }, + { + "epoch": 2.264546056991385, + "grad_norm": 0.6643083095550537, + "learning_rate": 7.061041194268167e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33449952, + "step": 17086 + }, + { + "epoch": 2.26467859509609, + "grad_norm": 0.0022547622211277485, + "learning_rate": 7.058623561430261e-07, + "loss": 0.0, + "num_input_tokens_seen": 33451216, + "step": 17087 + }, + { + "epoch": 2.264811133200795, + "grad_norm": 0.006819826550781727, + "learning_rate": 7.056206274514476e-07, + "loss": 0.0, + "num_input_tokens_seen": 33452800, + "step": 17088 + }, + { + "epoch": 2.2649436713055002, + "grad_norm": 0.6193521022796631, + "learning_rate": 7.053789333567407e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33454936, + "step": 17089 + }, + { + "epoch": 2.2650762094102053, + "grad_norm": 0.03560137003660202, + "learning_rate": 7.051372738635667e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33456544, + "step": 17090 + }, + { + "epoch": 2.2652087475149107, + "grad_norm": 0.6458995938301086, + "learning_rate": 7.048956489765843e-07, + "loss": 0.0032, + "num_input_tokens_seen": 33458240, + "step": 17091 + }, + { + "epoch": 2.265341285619616, + "grad_norm": 0.011510340496897697, + "learning_rate": 7.046540587004522e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33460168, + "step": 17092 + }, + { + "epoch": 2.265473823724321, + "grad_norm": 5.781800746917725, + "learning_rate": 7.044125030398274e-07, + "loss": 0.0751, + "num_input_tokens_seen": 33462416, + "step": 17093 + }, + { + "epoch": 2.265606361829026, + "grad_norm": 0.3827444314956665, + "learning_rate": 7.041709819993692e-07, + "loss": 0.0021, + "num_input_tokens_seen": 33463584, + "step": 17094 + }, + { + "epoch": 2.265738899933731, + "grad_norm": 0.0319744311273098, + "learning_rate": 7.039294955837325e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33465960, + "step": 17095 + }, + { + "epoch": 2.265871438038436, + "grad_norm": 0.05853966251015663, + "learning_rate": 7.036880437975749e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33467160, + "step": 17096 + }, + { + "epoch": 2.266003976143141, + "grad_norm": 0.000984572572633624, + "learning_rate": 7.034466266455512e-07, + "loss": 0.0, + "num_input_tokens_seen": 33468736, + "step": 17097 + }, + { + "epoch": 2.2661365142478465, + "grad_norm": 3.6588613986968994, + "learning_rate": 7.032052441323159e-07, + "loss": 0.0682, + "num_input_tokens_seen": 33470264, + "step": 17098 + }, + { + "epoch": 2.2662690523525515, + "grad_norm": 0.00226827641017735, + "learning_rate": 7.029638962625221e-07, + "loss": 0.0, + "num_input_tokens_seen": 33472176, + "step": 17099 + }, + { + "epoch": 2.2664015904572565, + "grad_norm": 0.03111991472542286, + "learning_rate": 7.027225830408244e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33473952, + "step": 17100 + }, + { + "epoch": 2.2665341285619616, + "grad_norm": 0.0010720975697040558, + "learning_rate": 7.024813044718756e-07, + "loss": 0.0, + "num_input_tokens_seen": 33475240, + "step": 17101 + }, + { + "epoch": 2.2666666666666666, + "grad_norm": 0.12969861924648285, + "learning_rate": 7.022400605603274e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33476960, + "step": 17102 + }, + { + "epoch": 2.2667992047713716, + "grad_norm": 2.939267635345459, + "learning_rate": 7.019988513108311e-07, + "loss": 0.0157, + "num_input_tokens_seen": 33478912, + "step": 17103 + }, + { + "epoch": 2.2669317428760767, + "grad_norm": 0.008926770649850368, + "learning_rate": 7.017576767280366e-07, + "loss": 0.0, + "num_input_tokens_seen": 33479808, + "step": 17104 + }, + { + "epoch": 2.267064280980782, + "grad_norm": 17.49217987060547, + "learning_rate": 7.015165368165943e-07, + "loss": 0.0523, + "num_input_tokens_seen": 33481952, + "step": 17105 + }, + { + "epoch": 2.267196819085487, + "grad_norm": 5.248671054840088, + "learning_rate": 7.012754315811551e-07, + "loss": 0.0309, + "num_input_tokens_seen": 33483568, + "step": 17106 + }, + { + "epoch": 2.2673293571901922, + "grad_norm": 5.2360029220581055, + "learning_rate": 7.010343610263662e-07, + "loss": 0.0074, + "num_input_tokens_seen": 33485488, + "step": 17107 + }, + { + "epoch": 2.2674618952948973, + "grad_norm": 0.1071607917547226, + "learning_rate": 7.007933251568761e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33487736, + "step": 17108 + }, + { + "epoch": 2.2675944333996023, + "grad_norm": 6.894968509674072, + "learning_rate": 7.005523239773318e-07, + "loss": 0.0496, + "num_input_tokens_seen": 33489752, + "step": 17109 + }, + { + "epoch": 2.2677269715043074, + "grad_norm": 5.43184232711792, + "learning_rate": 7.003113574923792e-07, + "loss": 0.0903, + "num_input_tokens_seen": 33492048, + "step": 17110 + }, + { + "epoch": 2.2678595096090124, + "grad_norm": 18.994386672973633, + "learning_rate": 7.000704257066651e-07, + "loss": 0.3573, + "num_input_tokens_seen": 33495816, + "step": 17111 + }, + { + "epoch": 2.267992047713718, + "grad_norm": 0.03943656384944916, + "learning_rate": 6.998295286248358e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33497576, + "step": 17112 + }, + { + "epoch": 2.268124585818423, + "grad_norm": 8.894815444946289, + "learning_rate": 6.99588666251535e-07, + "loss": 0.0445, + "num_input_tokens_seen": 33500624, + "step": 17113 + }, + { + "epoch": 2.268257123923128, + "grad_norm": 8.034154891967773, + "learning_rate": 6.993478385914068e-07, + "loss": 0.163, + "num_input_tokens_seen": 33503448, + "step": 17114 + }, + { + "epoch": 2.268389662027833, + "grad_norm": 1.729291319847107, + "learning_rate": 6.991070456490937e-07, + "loss": 0.0033, + "num_input_tokens_seen": 33505568, + "step": 17115 + }, + { + "epoch": 2.268522200132538, + "grad_norm": 0.0003514259587973356, + "learning_rate": 6.988662874292399e-07, + "loss": 0.0, + "num_input_tokens_seen": 33506880, + "step": 17116 + }, + { + "epoch": 2.268654738237243, + "grad_norm": 0.053705185651779175, + "learning_rate": 6.986255639364858e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33508824, + "step": 17117 + }, + { + "epoch": 2.268787276341948, + "grad_norm": 0.02403806895017624, + "learning_rate": 6.983848751754743e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33511352, + "step": 17118 + }, + { + "epoch": 2.2689198144466536, + "grad_norm": 7.016064643859863, + "learning_rate": 6.981442211508455e-07, + "loss": 0.0171, + "num_input_tokens_seen": 33512760, + "step": 17119 + }, + { + "epoch": 2.2690523525513586, + "grad_norm": 0.0016484780935570598, + "learning_rate": 6.97903601867238e-07, + "loss": 0.0, + "num_input_tokens_seen": 33514008, + "step": 17120 + }, + { + "epoch": 2.2691848906560637, + "grad_norm": 0.0005891553009860218, + "learning_rate": 6.976630173292934e-07, + "loss": 0.0, + "num_input_tokens_seen": 33515640, + "step": 17121 + }, + { + "epoch": 2.2693174287607687, + "grad_norm": 0.0027264917735010386, + "learning_rate": 6.974224675416492e-07, + "loss": 0.0, + "num_input_tokens_seen": 33516984, + "step": 17122 + }, + { + "epoch": 2.2694499668654737, + "grad_norm": 58.46063995361328, + "learning_rate": 6.971819525089424e-07, + "loss": 0.2015, + "num_input_tokens_seen": 33518608, + "step": 17123 + }, + { + "epoch": 2.2695825049701788, + "grad_norm": 0.3263755738735199, + "learning_rate": 6.96941472235812e-07, + "loss": 0.001, + "num_input_tokens_seen": 33520104, + "step": 17124 + }, + { + "epoch": 2.269715043074884, + "grad_norm": 1.459546446800232, + "learning_rate": 6.96701026726894e-07, + "loss": 0.0166, + "num_input_tokens_seen": 33522696, + "step": 17125 + }, + { + "epoch": 2.2698475811795893, + "grad_norm": 0.0055835675448179245, + "learning_rate": 6.964606159868231e-07, + "loss": 0.0, + "num_input_tokens_seen": 33523824, + "step": 17126 + }, + { + "epoch": 2.2699801192842943, + "grad_norm": 1.5316977500915527, + "learning_rate": 6.962202400202369e-07, + "loss": 0.006, + "num_input_tokens_seen": 33525976, + "step": 17127 + }, + { + "epoch": 2.2701126573889994, + "grad_norm": 2.9116830825805664, + "learning_rate": 6.959798988317687e-07, + "loss": 0.0997, + "num_input_tokens_seen": 33527600, + "step": 17128 + }, + { + "epoch": 2.2702451954937044, + "grad_norm": 0.001662257476709783, + "learning_rate": 6.957395924260519e-07, + "loss": 0.0, + "num_input_tokens_seen": 33528968, + "step": 17129 + }, + { + "epoch": 2.2703777335984094, + "grad_norm": 13.415013313293457, + "learning_rate": 6.954993208077212e-07, + "loss": 0.2684, + "num_input_tokens_seen": 33531096, + "step": 17130 + }, + { + "epoch": 2.2705102717031145, + "grad_norm": 6.666678428649902, + "learning_rate": 6.952590839814075e-07, + "loss": 0.0295, + "num_input_tokens_seen": 33533008, + "step": 17131 + }, + { + "epoch": 2.2706428098078195, + "grad_norm": 1.479818344116211, + "learning_rate": 6.950188819517448e-07, + "loss": 0.0036, + "num_input_tokens_seen": 33534416, + "step": 17132 + }, + { + "epoch": 2.270775347912525, + "grad_norm": 1.9704241752624512, + "learning_rate": 6.947787147233628e-07, + "loss": 0.0255, + "num_input_tokens_seen": 33535944, + "step": 17133 + }, + { + "epoch": 2.27090788601723, + "grad_norm": 10.994791030883789, + "learning_rate": 6.945385823008921e-07, + "loss": 0.1061, + "num_input_tokens_seen": 33538416, + "step": 17134 + }, + { + "epoch": 2.271040424121935, + "grad_norm": 0.4942953288555145, + "learning_rate": 6.942984846889639e-07, + "loss": 0.0011, + "num_input_tokens_seen": 33540640, + "step": 17135 + }, + { + "epoch": 2.27117296222664, + "grad_norm": 0.0034859045408666134, + "learning_rate": 6.940584218922055e-07, + "loss": 0.0, + "num_input_tokens_seen": 33541816, + "step": 17136 + }, + { + "epoch": 2.271305500331345, + "grad_norm": 3.9905009269714355, + "learning_rate": 6.938183939152476e-07, + "loss": 0.0579, + "num_input_tokens_seen": 33543344, + "step": 17137 + }, + { + "epoch": 2.27143803843605, + "grad_norm": 1.971089243888855, + "learning_rate": 6.93578400762717e-07, + "loss": 0.0386, + "num_input_tokens_seen": 33544736, + "step": 17138 + }, + { + "epoch": 2.2715705765407552, + "grad_norm": 0.011892507784068584, + "learning_rate": 6.933384424392411e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33546296, + "step": 17139 + }, + { + "epoch": 2.2717031146454607, + "grad_norm": 2.8978114128112793, + "learning_rate": 6.930985189494455e-07, + "loss": 0.0252, + "num_input_tokens_seen": 33548160, + "step": 17140 + }, + { + "epoch": 2.2718356527501657, + "grad_norm": 0.026118934154510498, + "learning_rate": 6.92858630297957e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33551112, + "step": 17141 + }, + { + "epoch": 2.271968190854871, + "grad_norm": 0.013567560352385044, + "learning_rate": 6.926187764894015e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33552872, + "step": 17142 + }, + { + "epoch": 2.272100728959576, + "grad_norm": 0.000865636277012527, + "learning_rate": 6.923789575284032e-07, + "loss": 0.0, + "num_input_tokens_seen": 33554248, + "step": 17143 + }, + { + "epoch": 2.272233267064281, + "grad_norm": 0.06431833654642105, + "learning_rate": 6.921391734195851e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33556152, + "step": 17144 + }, + { + "epoch": 2.272365805168986, + "grad_norm": 0.014610175043344498, + "learning_rate": 6.918994241675711e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33557872, + "step": 17145 + }, + { + "epoch": 2.2724983432736914, + "grad_norm": 9.243873596191406, + "learning_rate": 6.916597097769828e-07, + "loss": 0.0831, + "num_input_tokens_seen": 33560256, + "step": 17146 + }, + { + "epoch": 2.2726308813783964, + "grad_norm": 1.0632901191711426, + "learning_rate": 6.914200302524429e-07, + "loss": 0.0071, + "num_input_tokens_seen": 33562720, + "step": 17147 + }, + { + "epoch": 2.2727634194831015, + "grad_norm": 0.8729991912841797, + "learning_rate": 6.911803855985732e-07, + "loss": 0.0057, + "num_input_tokens_seen": 33564608, + "step": 17148 + }, + { + "epoch": 2.2728959575878065, + "grad_norm": 4.214803218841553, + "learning_rate": 6.909407758199935e-07, + "loss": 0.0334, + "num_input_tokens_seen": 33566472, + "step": 17149 + }, + { + "epoch": 2.2730284956925115, + "grad_norm": 7.322861671447754, + "learning_rate": 6.907012009213238e-07, + "loss": 0.0863, + "num_input_tokens_seen": 33568248, + "step": 17150 + }, + { + "epoch": 2.2731610337972166, + "grad_norm": 12.07220458984375, + "learning_rate": 6.904616609071829e-07, + "loss": 0.2201, + "num_input_tokens_seen": 33570320, + "step": 17151 + }, + { + "epoch": 2.273293571901922, + "grad_norm": 0.015552198514342308, + "learning_rate": 6.90222155782189e-07, + "loss": 0.0, + "num_input_tokens_seen": 33571584, + "step": 17152 + }, + { + "epoch": 2.273426110006627, + "grad_norm": 0.09032328426837921, + "learning_rate": 6.8998268555096e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33573392, + "step": 17153 + }, + { + "epoch": 2.273558648111332, + "grad_norm": 1.9093289375305176, + "learning_rate": 6.897432502181145e-07, + "loss": 0.012, + "num_input_tokens_seen": 33575624, + "step": 17154 + }, + { + "epoch": 2.273691186216037, + "grad_norm": 0.001122051733545959, + "learning_rate": 6.89503849788268e-07, + "loss": 0.0, + "num_input_tokens_seen": 33577144, + "step": 17155 + }, + { + "epoch": 2.273823724320742, + "grad_norm": 3.0209832191467285, + "learning_rate": 6.892644842660362e-07, + "loss": 0.0154, + "num_input_tokens_seen": 33579280, + "step": 17156 + }, + { + "epoch": 2.2739562624254472, + "grad_norm": 0.7257760167121887, + "learning_rate": 6.890251536560335e-07, + "loss": 0.0045, + "num_input_tokens_seen": 33581336, + "step": 17157 + }, + { + "epoch": 2.2740888005301523, + "grad_norm": 0.005764069501310587, + "learning_rate": 6.887858579628753e-07, + "loss": 0.0, + "num_input_tokens_seen": 33582808, + "step": 17158 + }, + { + "epoch": 2.2742213386348578, + "grad_norm": 0.5104198455810547, + "learning_rate": 6.885465971911762e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33584280, + "step": 17159 + }, + { + "epoch": 2.274353876739563, + "grad_norm": 0.007316774222999811, + "learning_rate": 6.883073713455479e-07, + "loss": 0.0, + "num_input_tokens_seen": 33585656, + "step": 17160 + }, + { + "epoch": 2.274486414844268, + "grad_norm": 0.9329511523246765, + "learning_rate": 6.880681804306036e-07, + "loss": 0.0074, + "num_input_tokens_seen": 33588024, + "step": 17161 + }, + { + "epoch": 2.274618952948973, + "grad_norm": 0.043191444128751755, + "learning_rate": 6.878290244509539e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33589800, + "step": 17162 + }, + { + "epoch": 2.274751491053678, + "grad_norm": 0.42962002754211426, + "learning_rate": 6.875899034112115e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33592000, + "step": 17163 + }, + { + "epoch": 2.274884029158383, + "grad_norm": 5.053799152374268, + "learning_rate": 6.873508173159857e-07, + "loss": 0.0627, + "num_input_tokens_seen": 33594208, + "step": 17164 + }, + { + "epoch": 2.275016567263088, + "grad_norm": 0.026130879297852516, + "learning_rate": 6.87111766169887e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33596808, + "step": 17165 + }, + { + "epoch": 2.2751491053677935, + "grad_norm": 7.647356033325195, + "learning_rate": 6.868727499775241e-07, + "loss": 0.1306, + "num_input_tokens_seen": 33598840, + "step": 17166 + }, + { + "epoch": 2.2752816434724985, + "grad_norm": 0.06074904650449753, + "learning_rate": 6.866337687435046e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33600424, + "step": 17167 + }, + { + "epoch": 2.2754141815772035, + "grad_norm": 1.1922178268432617, + "learning_rate": 6.863948224724379e-07, + "loss": 0.0041, + "num_input_tokens_seen": 33602592, + "step": 17168 + }, + { + "epoch": 2.2755467196819086, + "grad_norm": 0.1906481385231018, + "learning_rate": 6.861559111689303e-07, + "loss": 0.0012, + "num_input_tokens_seen": 33604336, + "step": 17169 + }, + { + "epoch": 2.2756792577866136, + "grad_norm": 0.006680391263216734, + "learning_rate": 6.859170348375871e-07, + "loss": 0.0, + "num_input_tokens_seen": 33605840, + "step": 17170 + }, + { + "epoch": 2.2758117958913187, + "grad_norm": 7.8207106590271, + "learning_rate": 6.856781934830156e-07, + "loss": 0.0804, + "num_input_tokens_seen": 33608032, + "step": 17171 + }, + { + "epoch": 2.2759443339960237, + "grad_norm": 8.933942794799805, + "learning_rate": 6.854393871098195e-07, + "loss": 0.1089, + "num_input_tokens_seen": 33611552, + "step": 17172 + }, + { + "epoch": 2.276076872100729, + "grad_norm": 13.739423751831055, + "learning_rate": 6.852006157226046e-07, + "loss": 0.158, + "num_input_tokens_seen": 33614256, + "step": 17173 + }, + { + "epoch": 2.276209410205434, + "grad_norm": 0.02363816648721695, + "learning_rate": 6.849618793259737e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33616656, + "step": 17174 + }, + { + "epoch": 2.2763419483101393, + "grad_norm": 0.738784670829773, + "learning_rate": 6.8472317792453e-07, + "loss": 0.0029, + "num_input_tokens_seen": 33618368, + "step": 17175 + }, + { + "epoch": 2.2764744864148443, + "grad_norm": 0.012709178030490875, + "learning_rate": 6.844845115228751e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33620192, + "step": 17176 + }, + { + "epoch": 2.2766070245195493, + "grad_norm": 3.3790881633758545, + "learning_rate": 6.84245880125611e-07, + "loss": 0.0358, + "num_input_tokens_seen": 33623224, + "step": 17177 + }, + { + "epoch": 2.2767395626242544, + "grad_norm": 10.765379905700684, + "learning_rate": 6.840072837373398e-07, + "loss": 0.1547, + "num_input_tokens_seen": 33625000, + "step": 17178 + }, + { + "epoch": 2.2768721007289594, + "grad_norm": 0.6045952439308167, + "learning_rate": 6.837687223626612e-07, + "loss": 0.0013, + "num_input_tokens_seen": 33627496, + "step": 17179 + }, + { + "epoch": 2.277004638833665, + "grad_norm": 0.2937418818473816, + "learning_rate": 6.835301960061744e-07, + "loss": 0.0012, + "num_input_tokens_seen": 33629232, + "step": 17180 + }, + { + "epoch": 2.27713717693837, + "grad_norm": 0.7388772964477539, + "learning_rate": 6.832917046724785e-07, + "loss": 0.0018, + "num_input_tokens_seen": 33631200, + "step": 17181 + }, + { + "epoch": 2.277269715043075, + "grad_norm": 2.528766632080078, + "learning_rate": 6.830532483661712e-07, + "loss": 0.0408, + "num_input_tokens_seen": 33633344, + "step": 17182 + }, + { + "epoch": 2.27740225314778, + "grad_norm": 0.02051347680389881, + "learning_rate": 6.828148270918505e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33636488, + "step": 17183 + }, + { + "epoch": 2.277534791252485, + "grad_norm": 0.04230494797229767, + "learning_rate": 6.825764408541144e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33638464, + "step": 17184 + }, + { + "epoch": 2.27766732935719, + "grad_norm": 4.3038787841796875, + "learning_rate": 6.823380896575585e-07, + "loss": 0.0577, + "num_input_tokens_seen": 33640176, + "step": 17185 + }, + { + "epoch": 2.277799867461895, + "grad_norm": 2.9065003395080566, + "learning_rate": 6.820997735067777e-07, + "loss": 0.0167, + "num_input_tokens_seen": 33642520, + "step": 17186 + }, + { + "epoch": 2.2779324055666006, + "grad_norm": 3.8384220600128174, + "learning_rate": 6.818614924063671e-07, + "loss": 0.031, + "num_input_tokens_seen": 33644568, + "step": 17187 + }, + { + "epoch": 2.2780649436713056, + "grad_norm": 0.02768145315349102, + "learning_rate": 6.81623246360921e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33646560, + "step": 17188 + }, + { + "epoch": 2.2781974817760107, + "grad_norm": 0.3521237075328827, + "learning_rate": 6.813850353750337e-07, + "loss": 0.0014, + "num_input_tokens_seen": 33648456, + "step": 17189 + }, + { + "epoch": 2.2783300198807157, + "grad_norm": 0.8258435130119324, + "learning_rate": 6.811468594532977e-07, + "loss": 0.0027, + "num_input_tokens_seen": 33650088, + "step": 17190 + }, + { + "epoch": 2.2784625579854207, + "grad_norm": 4.314850330352783, + "learning_rate": 6.809087186003053e-07, + "loss": 0.0406, + "num_input_tokens_seen": 33653144, + "step": 17191 + }, + { + "epoch": 2.278595096090126, + "grad_norm": 22.659772872924805, + "learning_rate": 6.806706128206473e-07, + "loss": 0.3002, + "num_input_tokens_seen": 33654744, + "step": 17192 + }, + { + "epoch": 2.278727634194831, + "grad_norm": 23.597919464111328, + "learning_rate": 6.804325421189145e-07, + "loss": 0.0992, + "num_input_tokens_seen": 33657344, + "step": 17193 + }, + { + "epoch": 2.2788601722995363, + "grad_norm": 17.917827606201172, + "learning_rate": 6.801945064996973e-07, + "loss": 0.1021, + "num_input_tokens_seen": 33658688, + "step": 17194 + }, + { + "epoch": 2.2789927104042413, + "grad_norm": 12.376590728759766, + "learning_rate": 6.799565059675864e-07, + "loss": 0.0142, + "num_input_tokens_seen": 33661416, + "step": 17195 + }, + { + "epoch": 2.2791252485089464, + "grad_norm": 7.23751974105835, + "learning_rate": 6.797185405271694e-07, + "loss": 0.0291, + "num_input_tokens_seen": 33663792, + "step": 17196 + }, + { + "epoch": 2.2792577866136514, + "grad_norm": 0.008207432925701141, + "learning_rate": 6.794806101830348e-07, + "loss": 0.0, + "num_input_tokens_seen": 33665336, + "step": 17197 + }, + { + "epoch": 2.2793903247183565, + "grad_norm": 6.429232597351074, + "learning_rate": 6.792427149397693e-07, + "loss": 0.0436, + "num_input_tokens_seen": 33667752, + "step": 17198 + }, + { + "epoch": 2.2795228628230615, + "grad_norm": 4.00638484954834, + "learning_rate": 6.790048548019612e-07, + "loss": 0.0528, + "num_input_tokens_seen": 33669544, + "step": 17199 + }, + { + "epoch": 2.2796554009277665, + "grad_norm": 4.34742546081543, + "learning_rate": 6.787670297741947e-07, + "loss": 0.0536, + "num_input_tokens_seen": 33671752, + "step": 17200 + }, + { + "epoch": 2.279787939032472, + "grad_norm": 20.829042434692383, + "learning_rate": 6.785292398610571e-07, + "loss": 0.3345, + "num_input_tokens_seen": 33674176, + "step": 17201 + }, + { + "epoch": 2.279920477137177, + "grad_norm": 20.358360290527344, + "learning_rate": 6.782914850671324e-07, + "loss": 0.1129, + "num_input_tokens_seen": 33676080, + "step": 17202 + }, + { + "epoch": 2.280053015241882, + "grad_norm": 0.4165240526199341, + "learning_rate": 6.780537653970037e-07, + "loss": 0.002, + "num_input_tokens_seen": 33678136, + "step": 17203 + }, + { + "epoch": 2.280185553346587, + "grad_norm": 0.361018568277359, + "learning_rate": 6.778160808552561e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33679800, + "step": 17204 + }, + { + "epoch": 2.280318091451292, + "grad_norm": 6.846236705780029, + "learning_rate": 6.775784314464717e-07, + "loss": 0.0458, + "num_input_tokens_seen": 33681648, + "step": 17205 + }, + { + "epoch": 2.280450629555997, + "grad_norm": 0.1197298914194107, + "learning_rate": 6.773408171752316e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33683120, + "step": 17206 + }, + { + "epoch": 2.2805831676607022, + "grad_norm": 6.323878765106201, + "learning_rate": 6.771032380461184e-07, + "loss": 0.0177, + "num_input_tokens_seen": 33684512, + "step": 17207 + }, + { + "epoch": 2.2807157057654077, + "grad_norm": 8.152327537536621, + "learning_rate": 6.768656940637125e-07, + "loss": 0.1193, + "num_input_tokens_seen": 33686056, + "step": 17208 + }, + { + "epoch": 2.2808482438701128, + "grad_norm": 0.11660125106573105, + "learning_rate": 6.766281852325932e-07, + "loss": 0.0006, + "num_input_tokens_seen": 33687872, + "step": 17209 + }, + { + "epoch": 2.280980781974818, + "grad_norm": 0.023254210129380226, + "learning_rate": 6.763907115573407e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33690192, + "step": 17210 + }, + { + "epoch": 2.281113320079523, + "grad_norm": 3.624354124069214, + "learning_rate": 6.761532730425327e-07, + "loss": 0.0317, + "num_input_tokens_seen": 33692256, + "step": 17211 + }, + { + "epoch": 2.281245858184228, + "grad_norm": 0.04643579199910164, + "learning_rate": 6.759158696927487e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33693376, + "step": 17212 + }, + { + "epoch": 2.281378396288933, + "grad_norm": 0.2431427389383316, + "learning_rate": 6.756785015125649e-07, + "loss": 0.0005, + "num_input_tokens_seen": 33694912, + "step": 17213 + }, + { + "epoch": 2.281510934393638, + "grad_norm": 0.32663822174072266, + "learning_rate": 6.754411685065576e-07, + "loss": 0.0012, + "num_input_tokens_seen": 33696032, + "step": 17214 + }, + { + "epoch": 2.2816434724983434, + "grad_norm": 0.010221016593277454, + "learning_rate": 6.752038706793041e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33697520, + "step": 17215 + }, + { + "epoch": 2.2817760106030485, + "grad_norm": 5.816827774047852, + "learning_rate": 6.749666080353787e-07, + "loss": 0.1025, + "num_input_tokens_seen": 33700296, + "step": 17216 + }, + { + "epoch": 2.2819085487077535, + "grad_norm": 0.02846689522266388, + "learning_rate": 6.747293805793553e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33702616, + "step": 17217 + }, + { + "epoch": 2.2820410868124585, + "grad_norm": 9.767670631408691, + "learning_rate": 6.744921883158092e-07, + "loss": 0.0314, + "num_input_tokens_seen": 33704072, + "step": 17218 + }, + { + "epoch": 2.2821736249171636, + "grad_norm": 7.06099271774292, + "learning_rate": 6.742550312493126e-07, + "loss": 0.119, + "num_input_tokens_seen": 33705896, + "step": 17219 + }, + { + "epoch": 2.2823061630218686, + "grad_norm": 2.4810256958007812, + "learning_rate": 6.740179093844393e-07, + "loss": 0.0113, + "num_input_tokens_seen": 33707768, + "step": 17220 + }, + { + "epoch": 2.2824387011265737, + "grad_norm": 5.996617794036865, + "learning_rate": 6.737808227257603e-07, + "loss": 0.0398, + "num_input_tokens_seen": 33709248, + "step": 17221 + }, + { + "epoch": 2.282571239231279, + "grad_norm": 0.001515745185315609, + "learning_rate": 6.735437712778467e-07, + "loss": 0.0, + "num_input_tokens_seen": 33711072, + "step": 17222 + }, + { + "epoch": 2.282703777335984, + "grad_norm": 27.77338981628418, + "learning_rate": 6.733067550452687e-07, + "loss": 0.0613, + "num_input_tokens_seen": 33713432, + "step": 17223 + }, + { + "epoch": 2.282836315440689, + "grad_norm": 0.020663917064666748, + "learning_rate": 6.730697740325965e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33715088, + "step": 17224 + }, + { + "epoch": 2.2829688535453942, + "grad_norm": 0.8269073963165283, + "learning_rate": 6.728328282444003e-07, + "loss": 0.0031, + "num_input_tokens_seen": 33717072, + "step": 17225 + }, + { + "epoch": 2.2831013916500993, + "grad_norm": 0.0026791368145495653, + "learning_rate": 6.725959176852476e-07, + "loss": 0.0, + "num_input_tokens_seen": 33718352, + "step": 17226 + }, + { + "epoch": 2.2832339297548043, + "grad_norm": 0.3679599463939667, + "learning_rate": 6.723590423597062e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33720272, + "step": 17227 + }, + { + "epoch": 2.2833664678595094, + "grad_norm": 42.52999496459961, + "learning_rate": 6.721222022723431e-07, + "loss": 0.1488, + "num_input_tokens_seen": 33722280, + "step": 17228 + }, + { + "epoch": 2.283499005964215, + "grad_norm": 1.9862474203109741, + "learning_rate": 6.718853974277245e-07, + "loss": 0.0049, + "num_input_tokens_seen": 33724184, + "step": 17229 + }, + { + "epoch": 2.28363154406892, + "grad_norm": 0.30755671858787537, + "learning_rate": 6.716486278304165e-07, + "loss": 0.0009, + "num_input_tokens_seen": 33726280, + "step": 17230 + }, + { + "epoch": 2.283764082173625, + "grad_norm": 15.270941734313965, + "learning_rate": 6.71411893484985e-07, + "loss": 0.1066, + "num_input_tokens_seen": 33728560, + "step": 17231 + }, + { + "epoch": 2.28389662027833, + "grad_norm": 4.877659797668457, + "learning_rate": 6.711751943959938e-07, + "loss": 0.0396, + "num_input_tokens_seen": 33730176, + "step": 17232 + }, + { + "epoch": 2.284029158383035, + "grad_norm": 4.986163139343262, + "learning_rate": 6.709385305680063e-07, + "loss": 0.0268, + "num_input_tokens_seen": 33731800, + "step": 17233 + }, + { + "epoch": 2.28416169648774, + "grad_norm": 0.004596749786287546, + "learning_rate": 6.707019020055849e-07, + "loss": 0.0, + "num_input_tokens_seen": 33733056, + "step": 17234 + }, + { + "epoch": 2.2842942345924455, + "grad_norm": 0.005441832821816206, + "learning_rate": 6.704653087132937e-07, + "loss": 0.0, + "num_input_tokens_seen": 33734616, + "step": 17235 + }, + { + "epoch": 2.2844267726971506, + "grad_norm": 0.09138097614049911, + "learning_rate": 6.702287506956928e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33736160, + "step": 17236 + }, + { + "epoch": 2.2845593108018556, + "grad_norm": 2.222072124481201, + "learning_rate": 6.699922279573445e-07, + "loss": 0.012, + "num_input_tokens_seen": 33738232, + "step": 17237 + }, + { + "epoch": 2.2846918489065606, + "grad_norm": 8.131004333496094, + "learning_rate": 6.697557405028085e-07, + "loss": 0.0893, + "num_input_tokens_seen": 33740632, + "step": 17238 + }, + { + "epoch": 2.2848243870112657, + "grad_norm": 0.1675586998462677, + "learning_rate": 6.695192883366447e-07, + "loss": 0.0009, + "num_input_tokens_seen": 33742424, + "step": 17239 + }, + { + "epoch": 2.2849569251159707, + "grad_norm": 0.0021445814054459333, + "learning_rate": 6.692828714634109e-07, + "loss": 0.0, + "num_input_tokens_seen": 33744584, + "step": 17240 + }, + { + "epoch": 2.285089463220676, + "grad_norm": 3.928619384765625, + "learning_rate": 6.690464898876661e-07, + "loss": 0.0279, + "num_input_tokens_seen": 33746568, + "step": 17241 + }, + { + "epoch": 2.2852220013253812, + "grad_norm": 1.7057392597198486, + "learning_rate": 6.688101436139691e-07, + "loss": 0.0092, + "num_input_tokens_seen": 33748416, + "step": 17242 + }, + { + "epoch": 2.2853545394300863, + "grad_norm": 4.884451389312744, + "learning_rate": 6.685738326468754e-07, + "loss": 0.063, + "num_input_tokens_seen": 33750016, + "step": 17243 + }, + { + "epoch": 2.2854870775347913, + "grad_norm": 2.580627679824829, + "learning_rate": 6.68337556990942e-07, + "loss": 0.0143, + "num_input_tokens_seen": 33752336, + "step": 17244 + }, + { + "epoch": 2.2856196156394963, + "grad_norm": 7.145664215087891, + "learning_rate": 6.681013166507233e-07, + "loss": 0.0333, + "num_input_tokens_seen": 33755384, + "step": 17245 + }, + { + "epoch": 2.2857521537442014, + "grad_norm": 0.000903077598195523, + "learning_rate": 6.678651116307758e-07, + "loss": 0.0, + "num_input_tokens_seen": 33756728, + "step": 17246 + }, + { + "epoch": 2.2858846918489064, + "grad_norm": 0.4160853922367096, + "learning_rate": 6.676289419356521e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33758520, + "step": 17247 + }, + { + "epoch": 2.286017229953612, + "grad_norm": 13.208892822265625, + "learning_rate": 6.673928075699071e-07, + "loss": 0.0622, + "num_input_tokens_seen": 33760368, + "step": 17248 + }, + { + "epoch": 2.286149768058317, + "grad_norm": 0.06685098260641098, + "learning_rate": 6.671567085380932e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33762208, + "step": 17249 + }, + { + "epoch": 2.286282306163022, + "grad_norm": 10.69072151184082, + "learning_rate": 6.669206448447613e-07, + "loss": 0.0501, + "num_input_tokens_seen": 33764400, + "step": 17250 + }, + { + "epoch": 2.286414844267727, + "grad_norm": 1.2607381343841553, + "learning_rate": 6.666846164944649e-07, + "loss": 0.0026, + "num_input_tokens_seen": 33765888, + "step": 17251 + }, + { + "epoch": 2.286547382372432, + "grad_norm": 4.747951507568359, + "learning_rate": 6.664486234917538e-07, + "loss": 0.0309, + "num_input_tokens_seen": 33767912, + "step": 17252 + }, + { + "epoch": 2.286679920477137, + "grad_norm": 0.2989721894264221, + "learning_rate": 6.662126658411775e-07, + "loss": 0.0011, + "num_input_tokens_seen": 33769776, + "step": 17253 + }, + { + "epoch": 2.286812458581842, + "grad_norm": 0.012381265871226788, + "learning_rate": 6.659767435472866e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33772736, + "step": 17254 + }, + { + "epoch": 2.2869449966865476, + "grad_norm": 4.098250865936279, + "learning_rate": 6.657408566146289e-07, + "loss": 0.0235, + "num_input_tokens_seen": 33774912, + "step": 17255 + }, + { + "epoch": 2.2870775347912526, + "grad_norm": 0.8500166535377502, + "learning_rate": 6.655050050477535e-07, + "loss": 0.0052, + "num_input_tokens_seen": 33776888, + "step": 17256 + }, + { + "epoch": 2.2872100728959577, + "grad_norm": 1.0955398082733154, + "learning_rate": 6.65269188851207e-07, + "loss": 0.0048, + "num_input_tokens_seen": 33778176, + "step": 17257 + }, + { + "epoch": 2.2873426110006627, + "grad_norm": 8.449195861816406, + "learning_rate": 6.650334080295365e-07, + "loss": 0.052, + "num_input_tokens_seen": 33780144, + "step": 17258 + }, + { + "epoch": 2.2874751491053678, + "grad_norm": 6.545801162719727, + "learning_rate": 6.647976625872868e-07, + "loss": 0.0737, + "num_input_tokens_seen": 33781968, + "step": 17259 + }, + { + "epoch": 2.287607687210073, + "grad_norm": 6.022459506988525, + "learning_rate": 6.645619525290043e-07, + "loss": 0.0971, + "num_input_tokens_seen": 33783496, + "step": 17260 + }, + { + "epoch": 2.287740225314778, + "grad_norm": 0.01692957989871502, + "learning_rate": 6.643262778592341e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33785808, + "step": 17261 + }, + { + "epoch": 2.2878727634194833, + "grad_norm": 0.012556714937090874, + "learning_rate": 6.6409063858252e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33787776, + "step": 17262 + }, + { + "epoch": 2.2880053015241884, + "grad_norm": 11.481949806213379, + "learning_rate": 6.638550347034045e-07, + "loss": 0.0821, + "num_input_tokens_seen": 33789488, + "step": 17263 + }, + { + "epoch": 2.2881378396288934, + "grad_norm": 0.008078769780695438, + "learning_rate": 6.636194662264303e-07, + "loss": 0.0, + "num_input_tokens_seen": 33790504, + "step": 17264 + }, + { + "epoch": 2.2882703777335984, + "grad_norm": 14.337054252624512, + "learning_rate": 6.633839331561392e-07, + "loss": 0.1183, + "num_input_tokens_seen": 33793288, + "step": 17265 + }, + { + "epoch": 2.2884029158383035, + "grad_norm": 9.385490417480469, + "learning_rate": 6.631484354970741e-07, + "loss": 0.0376, + "num_input_tokens_seen": 33796216, + "step": 17266 + }, + { + "epoch": 2.2885354539430085, + "grad_norm": 8.287616729736328, + "learning_rate": 6.629129732537739e-07, + "loss": 0.0705, + "num_input_tokens_seen": 33798200, + "step": 17267 + }, + { + "epoch": 2.2886679920477135, + "grad_norm": 6.220067977905273, + "learning_rate": 6.626775464307791e-07, + "loss": 0.087, + "num_input_tokens_seen": 33800256, + "step": 17268 + }, + { + "epoch": 2.288800530152419, + "grad_norm": 8.855901718139648, + "learning_rate": 6.62442155032629e-07, + "loss": 0.0838, + "num_input_tokens_seen": 33802768, + "step": 17269 + }, + { + "epoch": 2.288933068257124, + "grad_norm": 0.005684299394488335, + "learning_rate": 6.622067990638605e-07, + "loss": 0.0, + "num_input_tokens_seen": 33804776, + "step": 17270 + }, + { + "epoch": 2.289065606361829, + "grad_norm": 5.73058557510376, + "learning_rate": 6.619714785290132e-07, + "loss": 0.0335, + "num_input_tokens_seen": 33806040, + "step": 17271 + }, + { + "epoch": 2.289198144466534, + "grad_norm": 0.6521172523498535, + "learning_rate": 6.617361934326244e-07, + "loss": 0.0017, + "num_input_tokens_seen": 33808376, + "step": 17272 + }, + { + "epoch": 2.289330682571239, + "grad_norm": 1.0816845893859863, + "learning_rate": 6.615009437792299e-07, + "loss": 0.0024, + "num_input_tokens_seen": 33810080, + "step": 17273 + }, + { + "epoch": 2.289463220675944, + "grad_norm": 5.530097961425781, + "learning_rate": 6.612657295733657e-07, + "loss": 0.0157, + "num_input_tokens_seen": 33811880, + "step": 17274 + }, + { + "epoch": 2.2895957587806492, + "grad_norm": 0.012489169836044312, + "learning_rate": 6.610305508195666e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33813536, + "step": 17275 + }, + { + "epoch": 2.2897282968853547, + "grad_norm": 0.06914237886667252, + "learning_rate": 6.607954075223663e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33816128, + "step": 17276 + }, + { + "epoch": 2.2898608349900598, + "grad_norm": 0.00520706083625555, + "learning_rate": 6.605602996862992e-07, + "loss": 0.0, + "num_input_tokens_seen": 33818088, + "step": 17277 + }, + { + "epoch": 2.289993373094765, + "grad_norm": 1.816707968711853, + "learning_rate": 6.603252273158994e-07, + "loss": 0.0163, + "num_input_tokens_seen": 33820080, + "step": 17278 + }, + { + "epoch": 2.29012591119947, + "grad_norm": 14.06533432006836, + "learning_rate": 6.600901904156984e-07, + "loss": 0.1308, + "num_input_tokens_seen": 33822288, + "step": 17279 + }, + { + "epoch": 2.290258449304175, + "grad_norm": 0.6660693287849426, + "learning_rate": 6.59855188990228e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33824472, + "step": 17280 + }, + { + "epoch": 2.29039098740888, + "grad_norm": 4.842857360839844, + "learning_rate": 6.59620223044018e-07, + "loss": 0.0346, + "num_input_tokens_seen": 33827584, + "step": 17281 + }, + { + "epoch": 2.290523525513585, + "grad_norm": 0.002522021532058716, + "learning_rate": 6.593852925816005e-07, + "loss": 0.0, + "num_input_tokens_seen": 33830136, + "step": 17282 + }, + { + "epoch": 2.2906560636182904, + "grad_norm": 14.116924285888672, + "learning_rate": 6.591503976075034e-07, + "loss": 0.0853, + "num_input_tokens_seen": 33831800, + "step": 17283 + }, + { + "epoch": 2.2907886017229955, + "grad_norm": 0.1627703607082367, + "learning_rate": 6.589155381262577e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33834160, + "step": 17284 + }, + { + "epoch": 2.2909211398277005, + "grad_norm": 4.929999828338623, + "learning_rate": 6.586807141423903e-07, + "loss": 0.0165, + "num_input_tokens_seen": 33835960, + "step": 17285 + }, + { + "epoch": 2.2910536779324056, + "grad_norm": 2.613187074661255, + "learning_rate": 6.584459256604281e-07, + "loss": 0.0136, + "num_input_tokens_seen": 33837936, + "step": 17286 + }, + { + "epoch": 2.2911862160371106, + "grad_norm": 8.95068359375, + "learning_rate": 6.582111726849e-07, + "loss": 0.0701, + "num_input_tokens_seen": 33841376, + "step": 17287 + }, + { + "epoch": 2.2913187541418156, + "grad_norm": 0.3064829409122467, + "learning_rate": 6.579764552203308e-07, + "loss": 0.0021, + "num_input_tokens_seen": 33843752, + "step": 17288 + }, + { + "epoch": 2.2914512922465207, + "grad_norm": 4.905959129333496, + "learning_rate": 6.577417732712458e-07, + "loss": 0.0363, + "num_input_tokens_seen": 33845680, + "step": 17289 + }, + { + "epoch": 2.291583830351226, + "grad_norm": 56.3450813293457, + "learning_rate": 6.575071268421706e-07, + "loss": 0.2672, + "num_input_tokens_seen": 33847416, + "step": 17290 + }, + { + "epoch": 2.291716368455931, + "grad_norm": 0.002270760713145137, + "learning_rate": 6.572725159376286e-07, + "loss": 0.0, + "num_input_tokens_seen": 33848968, + "step": 17291 + }, + { + "epoch": 2.2918489065606362, + "grad_norm": 0.5188500881195068, + "learning_rate": 6.570379405621446e-07, + "loss": 0.005, + "num_input_tokens_seen": 33850560, + "step": 17292 + }, + { + "epoch": 2.2919814446653413, + "grad_norm": 7.926735877990723, + "learning_rate": 6.568034007202403e-07, + "loss": 0.0786, + "num_input_tokens_seen": 33853016, + "step": 17293 + }, + { + "epoch": 2.2921139827700463, + "grad_norm": 0.5771359205245972, + "learning_rate": 6.565688964164374e-07, + "loss": 0.0022, + "num_input_tokens_seen": 33855240, + "step": 17294 + }, + { + "epoch": 2.2922465208747513, + "grad_norm": 0.03052263706922531, + "learning_rate": 6.563344276552586e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33856840, + "step": 17295 + }, + { + "epoch": 2.2923790589794564, + "grad_norm": 0.004999891854822636, + "learning_rate": 6.560999944412238e-07, + "loss": 0.0, + "num_input_tokens_seen": 33858272, + "step": 17296 + }, + { + "epoch": 2.292511597084162, + "grad_norm": 0.029456255957484245, + "learning_rate": 6.558655967788524e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33860792, + "step": 17297 + }, + { + "epoch": 2.292644135188867, + "grad_norm": 0.009995020925998688, + "learning_rate": 6.556312346726654e-07, + "loss": 0.0, + "num_input_tokens_seen": 33862336, + "step": 17298 + }, + { + "epoch": 2.292776673293572, + "grad_norm": 11.427156448364258, + "learning_rate": 6.553969081271805e-07, + "loss": 0.0707, + "num_input_tokens_seen": 33863992, + "step": 17299 + }, + { + "epoch": 2.292909211398277, + "grad_norm": 0.0020285286009311676, + "learning_rate": 6.55162617146915e-07, + "loss": 0.0, + "num_input_tokens_seen": 33865800, + "step": 17300 + }, + { + "epoch": 2.293041749502982, + "grad_norm": 4.617921352386475, + "learning_rate": 6.549283617363875e-07, + "loss": 0.1224, + "num_input_tokens_seen": 33869032, + "step": 17301 + }, + { + "epoch": 2.293174287607687, + "grad_norm": 8.810025215148926, + "learning_rate": 6.546941419001135e-07, + "loss": 0.0938, + "num_input_tokens_seen": 33871104, + "step": 17302 + }, + { + "epoch": 2.293306825712392, + "grad_norm": 6.478766918182373, + "learning_rate": 6.5445995764261e-07, + "loss": 0.0204, + "num_input_tokens_seen": 33873448, + "step": 17303 + }, + { + "epoch": 2.2934393638170976, + "grad_norm": 3.5151381492614746, + "learning_rate": 6.54225808968392e-07, + "loss": 0.0097, + "num_input_tokens_seen": 33876304, + "step": 17304 + }, + { + "epoch": 2.2935719019218026, + "grad_norm": 0.003657284192740917, + "learning_rate": 6.539916958819733e-07, + "loss": 0.0, + "num_input_tokens_seen": 33877808, + "step": 17305 + }, + { + "epoch": 2.2937044400265076, + "grad_norm": 0.00358693883754313, + "learning_rate": 6.53757618387868e-07, + "loss": 0.0, + "num_input_tokens_seen": 33879408, + "step": 17306 + }, + { + "epoch": 2.2938369781312127, + "grad_norm": 12.573284149169922, + "learning_rate": 6.535235764905889e-07, + "loss": 0.2451, + "num_input_tokens_seen": 33881760, + "step": 17307 + }, + { + "epoch": 2.2939695162359177, + "grad_norm": 2.56776762008667, + "learning_rate": 6.532895701946504e-07, + "loss": 0.0287, + "num_input_tokens_seen": 33883376, + "step": 17308 + }, + { + "epoch": 2.2941020543406228, + "grad_norm": 0.7532691955566406, + "learning_rate": 6.530555995045626e-07, + "loss": 0.0051, + "num_input_tokens_seen": 33884928, + "step": 17309 + }, + { + "epoch": 2.294234592445328, + "grad_norm": 4.874903202056885, + "learning_rate": 6.528216644248369e-07, + "loss": 0.0968, + "num_input_tokens_seen": 33886616, + "step": 17310 + }, + { + "epoch": 2.2943671305500333, + "grad_norm": 3.833845615386963, + "learning_rate": 6.52587764959984e-07, + "loss": 0.0647, + "num_input_tokens_seen": 33889248, + "step": 17311 + }, + { + "epoch": 2.2944996686547383, + "grad_norm": 4.895381927490234, + "learning_rate": 6.523539011145128e-07, + "loss": 0.0362, + "num_input_tokens_seen": 33891480, + "step": 17312 + }, + { + "epoch": 2.2946322067594433, + "grad_norm": 4.5541672706604, + "learning_rate": 6.521200728929328e-07, + "loss": 0.0175, + "num_input_tokens_seen": 33893144, + "step": 17313 + }, + { + "epoch": 2.2947647448641484, + "grad_norm": 3.6391258239746094, + "learning_rate": 6.518862802997534e-07, + "loss": 0.0135, + "num_input_tokens_seen": 33895376, + "step": 17314 + }, + { + "epoch": 2.2948972829688534, + "grad_norm": 3.257713794708252, + "learning_rate": 6.516525233394816e-07, + "loss": 0.0188, + "num_input_tokens_seen": 33896896, + "step": 17315 + }, + { + "epoch": 2.2950298210735585, + "grad_norm": 0.002250396180897951, + "learning_rate": 6.51418802016624e-07, + "loss": 0.0, + "num_input_tokens_seen": 33898976, + "step": 17316 + }, + { + "epoch": 2.295162359178264, + "grad_norm": 3.0367236137390137, + "learning_rate": 6.511851163356867e-07, + "loss": 0.0201, + "num_input_tokens_seen": 33901416, + "step": 17317 + }, + { + "epoch": 2.295294897282969, + "grad_norm": 0.1726343184709549, + "learning_rate": 6.509514663011757e-07, + "loss": 0.0007, + "num_input_tokens_seen": 33902760, + "step": 17318 + }, + { + "epoch": 2.295427435387674, + "grad_norm": 0.002547759795561433, + "learning_rate": 6.507178519175966e-07, + "loss": 0.0, + "num_input_tokens_seen": 33905008, + "step": 17319 + }, + { + "epoch": 2.295559973492379, + "grad_norm": 0.0041004871018230915, + "learning_rate": 6.504842731894531e-07, + "loss": 0.0, + "num_input_tokens_seen": 33906432, + "step": 17320 + }, + { + "epoch": 2.295692511597084, + "grad_norm": 0.0021888678893446922, + "learning_rate": 6.502507301212488e-07, + "loss": 0.0, + "num_input_tokens_seen": 33908648, + "step": 17321 + }, + { + "epoch": 2.295825049701789, + "grad_norm": 2.3207578659057617, + "learning_rate": 6.500172227174859e-07, + "loss": 0.0167, + "num_input_tokens_seen": 33910496, + "step": 17322 + }, + { + "epoch": 2.2959575878064946, + "grad_norm": 14.416236877441406, + "learning_rate": 6.497837509826676e-07, + "loss": 0.1378, + "num_input_tokens_seen": 33912680, + "step": 17323 + }, + { + "epoch": 2.2960901259111997, + "grad_norm": 4.982019424438477, + "learning_rate": 6.495503149212945e-07, + "loss": 0.0722, + "num_input_tokens_seen": 33915152, + "step": 17324 + }, + { + "epoch": 2.2962226640159047, + "grad_norm": 3.0305893421173096, + "learning_rate": 6.493169145378686e-07, + "loss": 0.0164, + "num_input_tokens_seen": 33917536, + "step": 17325 + }, + { + "epoch": 2.2963552021206097, + "grad_norm": 2.0287387371063232, + "learning_rate": 6.490835498368892e-07, + "loss": 0.0164, + "num_input_tokens_seen": 33918984, + "step": 17326 + }, + { + "epoch": 2.2964877402253148, + "grad_norm": 1.8714946508407593, + "learning_rate": 6.488502208228559e-07, + "loss": 0.0056, + "num_input_tokens_seen": 33920328, + "step": 17327 + }, + { + "epoch": 2.29662027833002, + "grad_norm": 3.10929012298584, + "learning_rate": 6.486169275002669e-07, + "loss": 0.0195, + "num_input_tokens_seen": 33921904, + "step": 17328 + }, + { + "epoch": 2.296752816434725, + "grad_norm": 2.7655887603759766, + "learning_rate": 6.483836698736213e-07, + "loss": 0.023, + "num_input_tokens_seen": 33924048, + "step": 17329 + }, + { + "epoch": 2.2968853545394303, + "grad_norm": 0.03369118273258209, + "learning_rate": 6.481504479474148e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33926016, + "step": 17330 + }, + { + "epoch": 2.2970178926441354, + "grad_norm": 1.4533121585845947, + "learning_rate": 6.479172617261464e-07, + "loss": 0.0045, + "num_input_tokens_seen": 33927696, + "step": 17331 + }, + { + "epoch": 2.2971504307488404, + "grad_norm": 8.492051124572754, + "learning_rate": 6.476841112143106e-07, + "loss": 0.0806, + "num_input_tokens_seen": 33929656, + "step": 17332 + }, + { + "epoch": 2.2972829688535454, + "grad_norm": 0.09242302924394608, + "learning_rate": 6.474509964164025e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33932552, + "step": 17333 + }, + { + "epoch": 2.2974155069582505, + "grad_norm": 9.955517768859863, + "learning_rate": 6.472179173369178e-07, + "loss": 0.2098, + "num_input_tokens_seen": 33934816, + "step": 17334 + }, + { + "epoch": 2.2975480450629555, + "grad_norm": 4.512258529663086, + "learning_rate": 6.469848739803497e-07, + "loss": 0.0335, + "num_input_tokens_seen": 33937048, + "step": 17335 + }, + { + "epoch": 2.2976805831676606, + "grad_norm": 0.002681705402210355, + "learning_rate": 6.46751866351191e-07, + "loss": 0.0, + "num_input_tokens_seen": 33938520, + "step": 17336 + }, + { + "epoch": 2.297813121272366, + "grad_norm": 0.028903024271130562, + "learning_rate": 6.465188944539356e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33941328, + "step": 17337 + }, + { + "epoch": 2.297945659377071, + "grad_norm": 0.04518900811672211, + "learning_rate": 6.462859582930736e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33943960, + "step": 17338 + }, + { + "epoch": 2.298078197481776, + "grad_norm": 14.531993865966797, + "learning_rate": 6.460530578730981e-07, + "loss": 0.1869, + "num_input_tokens_seen": 33946264, + "step": 17339 + }, + { + "epoch": 2.298210735586481, + "grad_norm": 1.4146671295166016, + "learning_rate": 6.458201931984984e-07, + "loss": 0.0069, + "num_input_tokens_seen": 33948304, + "step": 17340 + }, + { + "epoch": 2.298343273691186, + "grad_norm": 8.857565879821777, + "learning_rate": 6.455873642737645e-07, + "loss": 0.0814, + "num_input_tokens_seen": 33950536, + "step": 17341 + }, + { + "epoch": 2.298475811795891, + "grad_norm": 4.4139204025268555, + "learning_rate": 6.453545711033849e-07, + "loss": 0.0592, + "num_input_tokens_seen": 33952336, + "step": 17342 + }, + { + "epoch": 2.2986083499005963, + "grad_norm": 0.003098440356552601, + "learning_rate": 6.451218136918486e-07, + "loss": 0.0, + "num_input_tokens_seen": 33954080, + "step": 17343 + }, + { + "epoch": 2.2987408880053017, + "grad_norm": 0.04723961278796196, + "learning_rate": 6.44889092043644e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33956408, + "step": 17344 + }, + { + "epoch": 2.298873426110007, + "grad_norm": 0.01167050376534462, + "learning_rate": 6.446564061632576e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33958672, + "step": 17345 + }, + { + "epoch": 2.299005964214712, + "grad_norm": 4.171689033508301, + "learning_rate": 6.444237560551758e-07, + "loss": 0.0231, + "num_input_tokens_seen": 33960352, + "step": 17346 + }, + { + "epoch": 2.299138502319417, + "grad_norm": 11.312682151794434, + "learning_rate": 6.44191141723883e-07, + "loss": 0.1031, + "num_input_tokens_seen": 33962328, + "step": 17347 + }, + { + "epoch": 2.299271040424122, + "grad_norm": 4.8951311111450195, + "learning_rate": 6.439585631738654e-07, + "loss": 0.0783, + "num_input_tokens_seen": 33964296, + "step": 17348 + }, + { + "epoch": 2.299403578528827, + "grad_norm": 0.0019012545235455036, + "learning_rate": 6.43726020409608e-07, + "loss": 0.0, + "num_input_tokens_seen": 33966328, + "step": 17349 + }, + { + "epoch": 2.299536116633532, + "grad_norm": 10.843986511230469, + "learning_rate": 6.434935134355932e-07, + "loss": 0.0733, + "num_input_tokens_seen": 33968160, + "step": 17350 + }, + { + "epoch": 2.2996686547382374, + "grad_norm": 0.03430134057998657, + "learning_rate": 6.432610422563043e-07, + "loss": 0.0002, + "num_input_tokens_seen": 33970848, + "step": 17351 + }, + { + "epoch": 2.2998011928429425, + "grad_norm": 0.8317570686340332, + "learning_rate": 6.430286068762234e-07, + "loss": 0.004, + "num_input_tokens_seen": 33972328, + "step": 17352 + }, + { + "epoch": 2.2999337309476475, + "grad_norm": 0.0016466263914480805, + "learning_rate": 6.427962072998315e-07, + "loss": 0.0, + "num_input_tokens_seen": 33973720, + "step": 17353 + }, + { + "epoch": 2.3000662690523526, + "grad_norm": 0.003895401954650879, + "learning_rate": 6.425638435316098e-07, + "loss": 0.0, + "num_input_tokens_seen": 33975072, + "step": 17354 + }, + { + "epoch": 2.3001988071570576, + "grad_norm": 0.8389959335327148, + "learning_rate": 6.423315155760393e-07, + "loss": 0.0026, + "num_input_tokens_seen": 33976880, + "step": 17355 + }, + { + "epoch": 2.3003313452617626, + "grad_norm": 0.15988609194755554, + "learning_rate": 6.420992234375986e-07, + "loss": 0.0003, + "num_input_tokens_seen": 33978424, + "step": 17356 + }, + { + "epoch": 2.3004638833664677, + "grad_norm": 0.3522300124168396, + "learning_rate": 6.418669671207666e-07, + "loss": 0.0018, + "num_input_tokens_seen": 33980192, + "step": 17357 + }, + { + "epoch": 2.300596421471173, + "grad_norm": 2.64011905528605e-05, + "learning_rate": 6.416347466300216e-07, + "loss": 0.0, + "num_input_tokens_seen": 33981056, + "step": 17358 + }, + { + "epoch": 2.300728959575878, + "grad_norm": 0.010874209925532341, + "learning_rate": 6.414025619698397e-07, + "loss": 0.0, + "num_input_tokens_seen": 33982080, + "step": 17359 + }, + { + "epoch": 2.3008614976805832, + "grad_norm": 52.74601745605469, + "learning_rate": 6.411704131446986e-07, + "loss": 0.7225, + "num_input_tokens_seen": 33984096, + "step": 17360 + }, + { + "epoch": 2.3009940357852883, + "grad_norm": 0.0023135209921747446, + "learning_rate": 6.409383001590752e-07, + "loss": 0.0, + "num_input_tokens_seen": 33985400, + "step": 17361 + }, + { + "epoch": 2.3011265738899933, + "grad_norm": 5.6897196769714355, + "learning_rate": 6.407062230174438e-07, + "loss": 0.0224, + "num_input_tokens_seen": 33986784, + "step": 17362 + }, + { + "epoch": 2.3012591119946983, + "grad_norm": 6.37033224105835, + "learning_rate": 6.40474181724279e-07, + "loss": 0.0405, + "num_input_tokens_seen": 33989128, + "step": 17363 + }, + { + "epoch": 2.3013916500994034, + "grad_norm": 5.6761579513549805, + "learning_rate": 6.402421762840541e-07, + "loss": 0.0201, + "num_input_tokens_seen": 33991496, + "step": 17364 + }, + { + "epoch": 2.301524188204109, + "grad_norm": 3.370162010192871, + "learning_rate": 6.400102067012437e-07, + "loss": 0.0334, + "num_input_tokens_seen": 33993168, + "step": 17365 + }, + { + "epoch": 2.301656726308814, + "grad_norm": 3.429090976715088, + "learning_rate": 6.397782729803189e-07, + "loss": 0.0384, + "num_input_tokens_seen": 33995208, + "step": 17366 + }, + { + "epoch": 2.301789264413519, + "grad_norm": 0.014693419449031353, + "learning_rate": 6.39546375125753e-07, + "loss": 0.0001, + "num_input_tokens_seen": 33996824, + "step": 17367 + }, + { + "epoch": 2.301921802518224, + "grad_norm": 4.771506309509277, + "learning_rate": 6.393145131420167e-07, + "loss": 0.0355, + "num_input_tokens_seen": 33998208, + "step": 17368 + }, + { + "epoch": 2.302054340622929, + "grad_norm": 4.365818500518799, + "learning_rate": 6.390826870335793e-07, + "loss": 0.0469, + "num_input_tokens_seen": 34000552, + "step": 17369 + }, + { + "epoch": 2.302186878727634, + "grad_norm": 0.0018083525355905294, + "learning_rate": 6.388508968049123e-07, + "loss": 0.0, + "num_input_tokens_seen": 34002112, + "step": 17370 + }, + { + "epoch": 2.302319416832339, + "grad_norm": 9.06754207611084, + "learning_rate": 6.386191424604832e-07, + "loss": 0.1127, + "num_input_tokens_seen": 34003632, + "step": 17371 + }, + { + "epoch": 2.3024519549370446, + "grad_norm": 0.02337239868938923, + "learning_rate": 6.383874240047616e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34005224, + "step": 17372 + }, + { + "epoch": 2.3025844930417496, + "grad_norm": 6.863280296325684, + "learning_rate": 6.381557414422151e-07, + "loss": 0.073, + "num_input_tokens_seen": 34007104, + "step": 17373 + }, + { + "epoch": 2.3027170311464547, + "grad_norm": 2.428260326385498, + "learning_rate": 6.379240947773093e-07, + "loss": 0.026, + "num_input_tokens_seen": 34008888, + "step": 17374 + }, + { + "epoch": 2.3028495692511597, + "grad_norm": 6.709317684173584, + "learning_rate": 6.376924840145126e-07, + "loss": 0.0415, + "num_input_tokens_seen": 34010552, + "step": 17375 + }, + { + "epoch": 2.3029821073558647, + "grad_norm": 0.001654457300901413, + "learning_rate": 6.374609091582892e-07, + "loss": 0.0, + "num_input_tokens_seen": 34011992, + "step": 17376 + }, + { + "epoch": 2.3031146454605698, + "grad_norm": 8.586210250854492, + "learning_rate": 6.372293702131038e-07, + "loss": 0.2208, + "num_input_tokens_seen": 34014768, + "step": 17377 + }, + { + "epoch": 2.303247183565275, + "grad_norm": 0.009012611582875252, + "learning_rate": 6.36997867183422e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34017744, + "step": 17378 + }, + { + "epoch": 2.3033797216699803, + "grad_norm": 7.295900821685791, + "learning_rate": 6.367664000737056e-07, + "loss": 0.0199, + "num_input_tokens_seen": 34020088, + "step": 17379 + }, + { + "epoch": 2.3035122597746853, + "grad_norm": 4.810347557067871, + "learning_rate": 6.365349688884193e-07, + "loss": 0.0312, + "num_input_tokens_seen": 34022312, + "step": 17380 + }, + { + "epoch": 2.3036447978793904, + "grad_norm": 10.125640869140625, + "learning_rate": 6.363035736320244e-07, + "loss": 0.2754, + "num_input_tokens_seen": 34023816, + "step": 17381 + }, + { + "epoch": 2.3037773359840954, + "grad_norm": 25.63713836669922, + "learning_rate": 6.360722143089823e-07, + "loss": 0.2223, + "num_input_tokens_seen": 34026080, + "step": 17382 + }, + { + "epoch": 2.3039098740888004, + "grad_norm": 8.104232788085938, + "learning_rate": 6.358408909237529e-07, + "loss": 0.0653, + "num_input_tokens_seen": 34028392, + "step": 17383 + }, + { + "epoch": 2.3040424121935055, + "grad_norm": 0.022738385945558548, + "learning_rate": 6.356096034807979e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34029440, + "step": 17384 + }, + { + "epoch": 2.3041749502982105, + "grad_norm": 5.936624050140381, + "learning_rate": 6.353783519845752e-07, + "loss": 0.0462, + "num_input_tokens_seen": 34031408, + "step": 17385 + }, + { + "epoch": 2.304307488402916, + "grad_norm": 4.948999404907227, + "learning_rate": 6.351471364395448e-07, + "loss": 0.0506, + "num_input_tokens_seen": 34034312, + "step": 17386 + }, + { + "epoch": 2.304440026507621, + "grad_norm": 5.173861026763916, + "learning_rate": 6.349159568501642e-07, + "loss": 0.0325, + "num_input_tokens_seen": 34036928, + "step": 17387 + }, + { + "epoch": 2.304572564612326, + "grad_norm": 0.008088823407888412, + "learning_rate": 6.346848132208907e-07, + "loss": 0.0, + "num_input_tokens_seen": 34039264, + "step": 17388 + }, + { + "epoch": 2.304705102717031, + "grad_norm": 0.00701061962172389, + "learning_rate": 6.344537055561801e-07, + "loss": 0.0, + "num_input_tokens_seen": 34041416, + "step": 17389 + }, + { + "epoch": 2.304837640821736, + "grad_norm": 6.62491512298584, + "learning_rate": 6.34222633860489e-07, + "loss": 0.0709, + "num_input_tokens_seen": 34043184, + "step": 17390 + }, + { + "epoch": 2.304970178926441, + "grad_norm": 8.353791236877441, + "learning_rate": 6.339915981382733e-07, + "loss": 0.0487, + "num_input_tokens_seen": 34045520, + "step": 17391 + }, + { + "epoch": 2.305102717031146, + "grad_norm": 0.5801758170127869, + "learning_rate": 6.337605983939868e-07, + "loss": 0.002, + "num_input_tokens_seen": 34047208, + "step": 17392 + }, + { + "epoch": 2.3052352551358517, + "grad_norm": 0.09612268209457397, + "learning_rate": 6.335296346320835e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34048992, + "step": 17393 + }, + { + "epoch": 2.3053677932405567, + "grad_norm": 4.952916622161865, + "learning_rate": 6.33298706857016e-07, + "loss": 0.0265, + "num_input_tokens_seen": 34051096, + "step": 17394 + }, + { + "epoch": 2.3055003313452618, + "grad_norm": 2.593785285949707, + "learning_rate": 6.330678150732375e-07, + "loss": 0.0081, + "num_input_tokens_seen": 34053120, + "step": 17395 + }, + { + "epoch": 2.305632869449967, + "grad_norm": 0.009736204519867897, + "learning_rate": 6.328369592851991e-07, + "loss": 0.0, + "num_input_tokens_seen": 34055416, + "step": 17396 + }, + { + "epoch": 2.305765407554672, + "grad_norm": 1.550420880317688, + "learning_rate": 6.326061394973526e-07, + "loss": 0.0034, + "num_input_tokens_seen": 34057256, + "step": 17397 + }, + { + "epoch": 2.305897945659377, + "grad_norm": 9.012833595275879, + "learning_rate": 6.323753557141482e-07, + "loss": 0.0569, + "num_input_tokens_seen": 34058736, + "step": 17398 + }, + { + "epoch": 2.306030483764082, + "grad_norm": 0.5295625925064087, + "learning_rate": 6.321446079400353e-07, + "loss": 0.0015, + "num_input_tokens_seen": 34060792, + "step": 17399 + }, + { + "epoch": 2.3061630218687874, + "grad_norm": 0.010379916988313198, + "learning_rate": 6.319138961794622e-07, + "loss": 0.0, + "num_input_tokens_seen": 34062224, + "step": 17400 + }, + { + "epoch": 2.3062955599734924, + "grad_norm": 0.6112679243087769, + "learning_rate": 6.316832204368778e-07, + "loss": 0.0052, + "num_input_tokens_seen": 34063704, + "step": 17401 + }, + { + "epoch": 2.3064280980781975, + "grad_norm": 0.11307967454195023, + "learning_rate": 6.314525807167307e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34065944, + "step": 17402 + }, + { + "epoch": 2.3065606361829025, + "grad_norm": 27.54071044921875, + "learning_rate": 6.312219770234668e-07, + "loss": 0.24, + "num_input_tokens_seen": 34068440, + "step": 17403 + }, + { + "epoch": 2.3066931742876076, + "grad_norm": 0.0004808777302969247, + "learning_rate": 6.309914093615324e-07, + "loss": 0.0, + "num_input_tokens_seen": 34069632, + "step": 17404 + }, + { + "epoch": 2.3068257123923126, + "grad_norm": 1.9486286640167236, + "learning_rate": 6.307608777353721e-07, + "loss": 0.0122, + "num_input_tokens_seen": 34071432, + "step": 17405 + }, + { + "epoch": 2.306958250497018, + "grad_norm": 3.151869535446167, + "learning_rate": 6.305303821494327e-07, + "loss": 0.0369, + "num_input_tokens_seen": 34073680, + "step": 17406 + }, + { + "epoch": 2.307090788601723, + "grad_norm": 0.1785130351781845, + "learning_rate": 6.302999226081563e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34075440, + "step": 17407 + }, + { + "epoch": 2.307223326706428, + "grad_norm": 0.012536933645606041, + "learning_rate": 6.300694991159878e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34076752, + "step": 17408 + }, + { + "epoch": 2.307355864811133, + "grad_norm": 1.7249717712402344, + "learning_rate": 6.298391116773695e-07, + "loss": 0.0086, + "num_input_tokens_seen": 34078056, + "step": 17409 + }, + { + "epoch": 2.3074884029158382, + "grad_norm": 0.023449795320630074, + "learning_rate": 6.296087602967433e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34080032, + "step": 17410 + }, + { + "epoch": 2.3076209410205433, + "grad_norm": 0.009539180435240269, + "learning_rate": 6.293784449785497e-07, + "loss": 0.0, + "num_input_tokens_seen": 34081704, + "step": 17411 + }, + { + "epoch": 2.3077534791252488, + "grad_norm": 9.424128532409668, + "learning_rate": 6.291481657272311e-07, + "loss": 0.0805, + "num_input_tokens_seen": 34083408, + "step": 17412 + }, + { + "epoch": 2.307886017229954, + "grad_norm": 0.021270060911774635, + "learning_rate": 6.289179225472256e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34085712, + "step": 17413 + }, + { + "epoch": 2.308018555334659, + "grad_norm": 0.05455867946147919, + "learning_rate": 6.286877154429741e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34087864, + "step": 17414 + }, + { + "epoch": 2.308151093439364, + "grad_norm": 3.456040620803833, + "learning_rate": 6.284575444189142e-07, + "loss": 0.0066, + "num_input_tokens_seen": 34090424, + "step": 17415 + }, + { + "epoch": 2.308283631544069, + "grad_norm": 5.385505676269531, + "learning_rate": 6.282274094794835e-07, + "loss": 0.0408, + "num_input_tokens_seen": 34092952, + "step": 17416 + }, + { + "epoch": 2.308416169648774, + "grad_norm": 0.07475034892559052, + "learning_rate": 6.279973106291204e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34094800, + "step": 17417 + }, + { + "epoch": 2.308548707753479, + "grad_norm": 0.001812883885577321, + "learning_rate": 6.277672478722605e-07, + "loss": 0.0, + "num_input_tokens_seen": 34096464, + "step": 17418 + }, + { + "epoch": 2.3086812458581845, + "grad_norm": 0.48870426416397095, + "learning_rate": 6.275372212133387e-07, + "loss": 0.0021, + "num_input_tokens_seen": 34097952, + "step": 17419 + }, + { + "epoch": 2.3088137839628895, + "grad_norm": 9.149806022644043, + "learning_rate": 6.273072306567921e-07, + "loss": 0.0641, + "num_input_tokens_seen": 34100152, + "step": 17420 + }, + { + "epoch": 2.3089463220675945, + "grad_norm": 15.399107933044434, + "learning_rate": 6.270772762070529e-07, + "loss": 0.426, + "num_input_tokens_seen": 34102056, + "step": 17421 + }, + { + "epoch": 2.3090788601722996, + "grad_norm": 0.0061037675477564335, + "learning_rate": 6.268473578685569e-07, + "loss": 0.0, + "num_input_tokens_seen": 34103656, + "step": 17422 + }, + { + "epoch": 2.3092113982770046, + "grad_norm": 5.362113952636719, + "learning_rate": 6.266174756457358e-07, + "loss": 0.0199, + "num_input_tokens_seen": 34105312, + "step": 17423 + }, + { + "epoch": 2.3093439363817096, + "grad_norm": 0.015905849635601044, + "learning_rate": 6.263876295430216e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34108112, + "step": 17424 + }, + { + "epoch": 2.3094764744864147, + "grad_norm": 0.21974192559719086, + "learning_rate": 6.261578195648471e-07, + "loss": 0.0008, + "num_input_tokens_seen": 34110136, + "step": 17425 + }, + { + "epoch": 2.30960901259112, + "grad_norm": 7.264702320098877, + "learning_rate": 6.259280457156419e-07, + "loss": 0.0346, + "num_input_tokens_seen": 34112896, + "step": 17426 + }, + { + "epoch": 2.309741550695825, + "grad_norm": 9.846139907836914, + "learning_rate": 6.256983079998375e-07, + "loss": 0.0257, + "num_input_tokens_seen": 34115064, + "step": 17427 + }, + { + "epoch": 2.3098740888005302, + "grad_norm": 8.1863431930542, + "learning_rate": 6.254686064218629e-07, + "loss": 0.0205, + "num_input_tokens_seen": 34116904, + "step": 17428 + }, + { + "epoch": 2.3100066269052353, + "grad_norm": 2.7293477058410645, + "learning_rate": 6.252389409861464e-07, + "loss": 0.0825, + "num_input_tokens_seen": 34119224, + "step": 17429 + }, + { + "epoch": 2.3101391650099403, + "grad_norm": 0.007741585373878479, + "learning_rate": 6.250093116971159e-07, + "loss": 0.0, + "num_input_tokens_seen": 34121072, + "step": 17430 + }, + { + "epoch": 2.3102717031146454, + "grad_norm": 13.848981857299805, + "learning_rate": 6.247797185591994e-07, + "loss": 0.1134, + "num_input_tokens_seen": 34122296, + "step": 17431 + }, + { + "epoch": 2.3104042412193504, + "grad_norm": 0.0018485405016690493, + "learning_rate": 6.245501615768243e-07, + "loss": 0.0, + "num_input_tokens_seen": 34124584, + "step": 17432 + }, + { + "epoch": 2.310536779324056, + "grad_norm": 0.0035898378118872643, + "learning_rate": 6.243206407544158e-07, + "loss": 0.0, + "num_input_tokens_seen": 34126312, + "step": 17433 + }, + { + "epoch": 2.310669317428761, + "grad_norm": 0.7700881958007812, + "learning_rate": 6.240911560963994e-07, + "loss": 0.0014, + "num_input_tokens_seen": 34128536, + "step": 17434 + }, + { + "epoch": 2.310801855533466, + "grad_norm": 0.039068803191185, + "learning_rate": 6.238617076071998e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34130360, + "step": 17435 + }, + { + "epoch": 2.310934393638171, + "grad_norm": 9.645856857299805, + "learning_rate": 6.236322952912397e-07, + "loss": 0.1447, + "num_input_tokens_seen": 34132576, + "step": 17436 + }, + { + "epoch": 2.311066931742876, + "grad_norm": 0.009736839681863785, + "learning_rate": 6.234029191529437e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34134328, + "step": 17437 + }, + { + "epoch": 2.311199469847581, + "grad_norm": 0.0023013781756162643, + "learning_rate": 6.231735791967344e-07, + "loss": 0.0, + "num_input_tokens_seen": 34135768, + "step": 17438 + }, + { + "epoch": 2.311332007952286, + "grad_norm": 0.0032288292422890663, + "learning_rate": 6.229442754270334e-07, + "loss": 0.0, + "num_input_tokens_seen": 34137864, + "step": 17439 + }, + { + "epoch": 2.3114645460569916, + "grad_norm": 12.149410247802734, + "learning_rate": 6.227150078482619e-07, + "loss": 0.1378, + "num_input_tokens_seen": 34139944, + "step": 17440 + }, + { + "epoch": 2.3115970841616966, + "grad_norm": 0.38071051239967346, + "learning_rate": 6.224857764648399e-07, + "loss": 0.0023, + "num_input_tokens_seen": 34142256, + "step": 17441 + }, + { + "epoch": 2.3117296222664017, + "grad_norm": 0.6701205968856812, + "learning_rate": 6.222565812811865e-07, + "loss": 0.0021, + "num_input_tokens_seen": 34144328, + "step": 17442 + }, + { + "epoch": 2.3118621603711067, + "grad_norm": 0.0004493389278650284, + "learning_rate": 6.220274223017217e-07, + "loss": 0.0, + "num_input_tokens_seen": 34145800, + "step": 17443 + }, + { + "epoch": 2.3119946984758117, + "grad_norm": 0.0058547696098685265, + "learning_rate": 6.217982995308647e-07, + "loss": 0.0, + "num_input_tokens_seen": 34147584, + "step": 17444 + }, + { + "epoch": 2.3121272365805168, + "grad_norm": 6.524087905883789, + "learning_rate": 6.215692129730319e-07, + "loss": 0.0741, + "num_input_tokens_seen": 34149656, + "step": 17445 + }, + { + "epoch": 2.312259774685222, + "grad_norm": 0.07347678393125534, + "learning_rate": 6.213401626326407e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34151488, + "step": 17446 + }, + { + "epoch": 2.3123923127899273, + "grad_norm": 5.120787620544434, + "learning_rate": 6.211111485141064e-07, + "loss": 0.0344, + "num_input_tokens_seen": 34153144, + "step": 17447 + }, + { + "epoch": 2.3125248508946323, + "grad_norm": 5.737492561340332, + "learning_rate": 6.208821706218454e-07, + "loss": 0.0298, + "num_input_tokens_seen": 34154944, + "step": 17448 + }, + { + "epoch": 2.3126573889993374, + "grad_norm": 0.05463609844446182, + "learning_rate": 6.206532289602732e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34156928, + "step": 17449 + }, + { + "epoch": 2.3127899271040424, + "grad_norm": 7.841002464294434, + "learning_rate": 6.204243235338031e-07, + "loss": 0.2214, + "num_input_tokens_seen": 34158720, + "step": 17450 + }, + { + "epoch": 2.3129224652087474, + "grad_norm": 7.806709289550781, + "learning_rate": 6.201954543468489e-07, + "loss": 0.1132, + "num_input_tokens_seen": 34161208, + "step": 17451 + }, + { + "epoch": 2.3130550033134525, + "grad_norm": 6.092062473297119, + "learning_rate": 6.199666214038221e-07, + "loss": 0.061, + "num_input_tokens_seen": 34163440, + "step": 17452 + }, + { + "epoch": 2.3131875414181575, + "grad_norm": 12.838902473449707, + "learning_rate": 6.197378247091371e-07, + "loss": 0.219, + "num_input_tokens_seen": 34165624, + "step": 17453 + }, + { + "epoch": 2.313320079522863, + "grad_norm": 8.640066146850586, + "learning_rate": 6.195090642672028e-07, + "loss": 0.1452, + "num_input_tokens_seen": 34168928, + "step": 17454 + }, + { + "epoch": 2.313452617627568, + "grad_norm": 1.8319815397262573, + "learning_rate": 6.192803400824319e-07, + "loss": 0.0304, + "num_input_tokens_seen": 34170888, + "step": 17455 + }, + { + "epoch": 2.313585155732273, + "grad_norm": 15.635564804077148, + "learning_rate": 6.190516521592333e-07, + "loss": 0.2442, + "num_input_tokens_seen": 34173792, + "step": 17456 + }, + { + "epoch": 2.313717693836978, + "grad_norm": 0.3475709557533264, + "learning_rate": 6.18823000502016e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34175000, + "step": 17457 + }, + { + "epoch": 2.313850231941683, + "grad_norm": 10.969120025634766, + "learning_rate": 6.185943851151896e-07, + "loss": 0.077, + "num_input_tokens_seen": 34176984, + "step": 17458 + }, + { + "epoch": 2.313982770046388, + "grad_norm": 9.706406593322754, + "learning_rate": 6.183658060031614e-07, + "loss": 0.0662, + "num_input_tokens_seen": 34179128, + "step": 17459 + }, + { + "epoch": 2.3141153081510932, + "grad_norm": 7.153923511505127, + "learning_rate": 6.181372631703375e-07, + "loss": 0.0451, + "num_input_tokens_seen": 34181608, + "step": 17460 + }, + { + "epoch": 2.3142478462557987, + "grad_norm": 12.300728797912598, + "learning_rate": 6.179087566211264e-07, + "loss": 0.0482, + "num_input_tokens_seen": 34183088, + "step": 17461 + }, + { + "epoch": 2.3143803843605038, + "grad_norm": 6.0571722984313965, + "learning_rate": 6.176802863599321e-07, + "loss": 0.0868, + "num_input_tokens_seen": 34184704, + "step": 17462 + }, + { + "epoch": 2.314512922465209, + "grad_norm": 5.647861480712891, + "learning_rate": 6.174518523911613e-07, + "loss": 0.034, + "num_input_tokens_seen": 34186272, + "step": 17463 + }, + { + "epoch": 2.314645460569914, + "grad_norm": 8.814887046813965, + "learning_rate": 6.172234547192174e-07, + "loss": 0.0987, + "num_input_tokens_seen": 34187792, + "step": 17464 + }, + { + "epoch": 2.314777998674619, + "grad_norm": 1.4750927686691284, + "learning_rate": 6.169950933485042e-07, + "loss": 0.0103, + "num_input_tokens_seen": 34190128, + "step": 17465 + }, + { + "epoch": 2.314910536779324, + "grad_norm": 0.6887134909629822, + "learning_rate": 6.167667682834236e-07, + "loss": 0.0019, + "num_input_tokens_seen": 34192536, + "step": 17466 + }, + { + "epoch": 2.315043074884029, + "grad_norm": 2.6638736724853516, + "learning_rate": 6.165384795283799e-07, + "loss": 0.0078, + "num_input_tokens_seen": 34194648, + "step": 17467 + }, + { + "epoch": 2.3151756129887344, + "grad_norm": 13.005650520324707, + "learning_rate": 6.16310227087773e-07, + "loss": 0.2692, + "num_input_tokens_seen": 34196904, + "step": 17468 + }, + { + "epoch": 2.3153081510934395, + "grad_norm": 11.053622245788574, + "learning_rate": 6.160820109660048e-07, + "loss": 0.1966, + "num_input_tokens_seen": 34199080, + "step": 17469 + }, + { + "epoch": 2.3154406891981445, + "grad_norm": 9.409247398376465, + "learning_rate": 6.158538311674753e-07, + "loss": 0.0866, + "num_input_tokens_seen": 34200928, + "step": 17470 + }, + { + "epoch": 2.3155732273028495, + "grad_norm": 2.0592150688171387, + "learning_rate": 6.156256876965838e-07, + "loss": 0.0075, + "num_input_tokens_seen": 34204216, + "step": 17471 + }, + { + "epoch": 2.3157057654075546, + "grad_norm": 13.114396095275879, + "learning_rate": 6.153975805577281e-07, + "loss": 0.2038, + "num_input_tokens_seen": 34205888, + "step": 17472 + }, + { + "epoch": 2.3158383035122596, + "grad_norm": 0.004014753736555576, + "learning_rate": 6.151695097553073e-07, + "loss": 0.0, + "num_input_tokens_seen": 34207552, + "step": 17473 + }, + { + "epoch": 2.3159708416169646, + "grad_norm": 5.944278240203857, + "learning_rate": 6.149414752937191e-07, + "loss": 0.0299, + "num_input_tokens_seen": 34209816, + "step": 17474 + }, + { + "epoch": 2.31610337972167, + "grad_norm": 0.00847630389034748, + "learning_rate": 6.1471347717736e-07, + "loss": 0.0, + "num_input_tokens_seen": 34211296, + "step": 17475 + }, + { + "epoch": 2.316235917826375, + "grad_norm": 7.452869892120361, + "learning_rate": 6.144855154106256e-07, + "loss": 0.1066, + "num_input_tokens_seen": 34213184, + "step": 17476 + }, + { + "epoch": 2.31636845593108, + "grad_norm": 6.115650177001953, + "learning_rate": 6.142575899979103e-07, + "loss": 0.1479, + "num_input_tokens_seen": 34216040, + "step": 17477 + }, + { + "epoch": 2.3165009940357852, + "grad_norm": 0.02240338735282421, + "learning_rate": 6.140297009436097e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34218040, + "step": 17478 + }, + { + "epoch": 2.3166335321404903, + "grad_norm": 8.943943977355957, + "learning_rate": 6.138018482521183e-07, + "loss": 0.0322, + "num_input_tokens_seen": 34219688, + "step": 17479 + }, + { + "epoch": 2.3167660702451953, + "grad_norm": 0.027780799195170403, + "learning_rate": 6.135740319278285e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34221992, + "step": 17480 + }, + { + "epoch": 2.3168986083499004, + "grad_norm": 7.907403469085693, + "learning_rate": 6.133462519751327e-07, + "loss": 0.0222, + "num_input_tokens_seen": 34223448, + "step": 17481 + }, + { + "epoch": 2.317031146454606, + "grad_norm": 0.031955257058143616, + "learning_rate": 6.131185083984226e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34226208, + "step": 17482 + }, + { + "epoch": 2.317163684559311, + "grad_norm": 0.004978460725396872, + "learning_rate": 6.128908012020887e-07, + "loss": 0.0, + "num_input_tokens_seen": 34227936, + "step": 17483 + }, + { + "epoch": 2.317296222664016, + "grad_norm": 0.023532742634415627, + "learning_rate": 6.12663130390522e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34230144, + "step": 17484 + }, + { + "epoch": 2.317428760768721, + "grad_norm": 5.205182075500488, + "learning_rate": 6.124354959681131e-07, + "loss": 0.093, + "num_input_tokens_seen": 34231816, + "step": 17485 + }, + { + "epoch": 2.317561298873426, + "grad_norm": 0.02311347983777523, + "learning_rate": 6.122078979392498e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34233904, + "step": 17486 + }, + { + "epoch": 2.317693836978131, + "grad_norm": 0.003053916385397315, + "learning_rate": 6.119803363083205e-07, + "loss": 0.0, + "num_input_tokens_seen": 34236184, + "step": 17487 + }, + { + "epoch": 2.317826375082836, + "grad_norm": 5.242100238800049, + "learning_rate": 6.117528110797122e-07, + "loss": 0.0513, + "num_input_tokens_seen": 34238384, + "step": 17488 + }, + { + "epoch": 2.3179589131875415, + "grad_norm": 1.8733874559402466, + "learning_rate": 6.11525322257813e-07, + "loss": 0.0075, + "num_input_tokens_seen": 34241056, + "step": 17489 + }, + { + "epoch": 2.3180914512922466, + "grad_norm": 11.557846069335938, + "learning_rate": 6.112978698470073e-07, + "loss": 0.1964, + "num_input_tokens_seen": 34243896, + "step": 17490 + }, + { + "epoch": 2.3182239893969516, + "grad_norm": 0.04524039849638939, + "learning_rate": 6.110704538516829e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34245288, + "step": 17491 + }, + { + "epoch": 2.3183565275016567, + "grad_norm": 2.667144536972046, + "learning_rate": 6.108430742762231e-07, + "loss": 0.0251, + "num_input_tokens_seen": 34246584, + "step": 17492 + }, + { + "epoch": 2.3184890656063617, + "grad_norm": 5.066293239593506, + "learning_rate": 6.106157311250111e-07, + "loss": 0.0443, + "num_input_tokens_seen": 34248840, + "step": 17493 + }, + { + "epoch": 2.318621603711067, + "grad_norm": 6.315952301025391, + "learning_rate": 6.103884244024322e-07, + "loss": 0.0969, + "num_input_tokens_seen": 34250496, + "step": 17494 + }, + { + "epoch": 2.318754141815772, + "grad_norm": 0.030659189447760582, + "learning_rate": 6.10161154112868e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34252152, + "step": 17495 + }, + { + "epoch": 2.3188866799204773, + "grad_norm": 6.6434645652771, + "learning_rate": 6.099339202606997e-07, + "loss": 0.0696, + "num_input_tokens_seen": 34254248, + "step": 17496 + }, + { + "epoch": 2.3190192180251823, + "grad_norm": 5.905621528625488, + "learning_rate": 6.097067228503101e-07, + "loss": 0.0397, + "num_input_tokens_seen": 34256592, + "step": 17497 + }, + { + "epoch": 2.3191517561298873, + "grad_norm": 0.005513168405741453, + "learning_rate": 6.094795618860789e-07, + "loss": 0.0, + "num_input_tokens_seen": 34258024, + "step": 17498 + }, + { + "epoch": 2.3192842942345924, + "grad_norm": 0.559405505657196, + "learning_rate": 6.092524373723852e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34260064, + "step": 17499 + }, + { + "epoch": 2.3194168323392974, + "grad_norm": 6.910223007202148, + "learning_rate": 6.090253493136098e-07, + "loss": 0.0494, + "num_input_tokens_seen": 34261832, + "step": 17500 + }, + { + "epoch": 2.319549370444003, + "grad_norm": 6.656306266784668, + "learning_rate": 6.087982977141293e-07, + "loss": 0.0762, + "num_input_tokens_seen": 34263784, + "step": 17501 + }, + { + "epoch": 2.319681908548708, + "grad_norm": 0.011607710272073746, + "learning_rate": 6.08571282578323e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34266144, + "step": 17502 + }, + { + "epoch": 2.319814446653413, + "grad_norm": 0.09195312112569809, + "learning_rate": 6.083443039105671e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34267784, + "step": 17503 + }, + { + "epoch": 2.319946984758118, + "grad_norm": 0.049151066690683365, + "learning_rate": 6.081173617152375e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34269048, + "step": 17504 + }, + { + "epoch": 2.320079522862823, + "grad_norm": 1.0855520963668823, + "learning_rate": 6.078904559967108e-07, + "loss": 0.0037, + "num_input_tokens_seen": 34271224, + "step": 17505 + }, + { + "epoch": 2.320212060967528, + "grad_norm": 0.02064576745033264, + "learning_rate": 6.076635867593616e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34272872, + "step": 17506 + }, + { + "epoch": 2.320344599072233, + "grad_norm": 0.24677470326423645, + "learning_rate": 6.074367540075632e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34274416, + "step": 17507 + }, + { + "epoch": 2.3204771371769386, + "grad_norm": 0.006489635445177555, + "learning_rate": 6.072099577456902e-07, + "loss": 0.0, + "num_input_tokens_seen": 34277424, + "step": 17508 + }, + { + "epoch": 2.3206096752816436, + "grad_norm": 0.04955438897013664, + "learning_rate": 6.069831979781146e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34278896, + "step": 17509 + }, + { + "epoch": 2.3207422133863487, + "grad_norm": 0.3823723793029785, + "learning_rate": 6.067564747092095e-07, + "loss": 0.001, + "num_input_tokens_seen": 34281480, + "step": 17510 + }, + { + "epoch": 2.3208747514910537, + "grad_norm": 0.013615868985652924, + "learning_rate": 6.065297879433458e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34283104, + "step": 17511 + }, + { + "epoch": 2.3210072895957587, + "grad_norm": 9.324460983276367, + "learning_rate": 6.063031376848938e-07, + "loss": 0.0176, + "num_input_tokens_seen": 34284752, + "step": 17512 + }, + { + "epoch": 2.321139827700464, + "grad_norm": 0.017228689044713974, + "learning_rate": 6.06076523938223e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34287584, + "step": 17513 + }, + { + "epoch": 2.321272365805169, + "grad_norm": 3.7913687229156494, + "learning_rate": 6.058499467077033e-07, + "loss": 0.0407, + "num_input_tokens_seen": 34289824, + "step": 17514 + }, + { + "epoch": 2.3214049039098743, + "grad_norm": 0.0031578068155795336, + "learning_rate": 6.056234059977043e-07, + "loss": 0.0, + "num_input_tokens_seen": 34291168, + "step": 17515 + }, + { + "epoch": 2.3215374420145793, + "grad_norm": 0.03165988251566887, + "learning_rate": 6.053969018125927e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34293304, + "step": 17516 + }, + { + "epoch": 2.3216699801192844, + "grad_norm": 7.365094184875488, + "learning_rate": 6.051704341567358e-07, + "loss": 0.0518, + "num_input_tokens_seen": 34295616, + "step": 17517 + }, + { + "epoch": 2.3218025182239894, + "grad_norm": 0.009375381283462048, + "learning_rate": 6.049440030345003e-07, + "loss": 0.0, + "num_input_tokens_seen": 34298152, + "step": 17518 + }, + { + "epoch": 2.3219350563286945, + "grad_norm": 8.492448806762695, + "learning_rate": 6.04717608450251e-07, + "loss": 0.0381, + "num_input_tokens_seen": 34299664, + "step": 17519 + }, + { + "epoch": 2.3220675944333995, + "grad_norm": 0.08540981262922287, + "learning_rate": 6.044912504083536e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34301096, + "step": 17520 + }, + { + "epoch": 2.3222001325381045, + "grad_norm": 2.470785140991211, + "learning_rate": 6.042649289131733e-07, + "loss": 0.0222, + "num_input_tokens_seen": 34303216, + "step": 17521 + }, + { + "epoch": 2.32233267064281, + "grad_norm": 1.3713630437850952, + "learning_rate": 6.040386439690729e-07, + "loss": 0.0145, + "num_input_tokens_seen": 34304960, + "step": 17522 + }, + { + "epoch": 2.322465208747515, + "grad_norm": 1.4415295124053955, + "learning_rate": 6.038123955804154e-07, + "loss": 0.0022, + "num_input_tokens_seen": 34306656, + "step": 17523 + }, + { + "epoch": 2.32259774685222, + "grad_norm": 0.616477370262146, + "learning_rate": 6.035861837515633e-07, + "loss": 0.0016, + "num_input_tokens_seen": 34308576, + "step": 17524 + }, + { + "epoch": 2.322730284956925, + "grad_norm": 20.2178897857666, + "learning_rate": 6.033600084868768e-07, + "loss": 0.2979, + "num_input_tokens_seen": 34310992, + "step": 17525 + }, + { + "epoch": 2.32286282306163, + "grad_norm": 19.339744567871094, + "learning_rate": 6.03133869790718e-07, + "loss": 0.0704, + "num_input_tokens_seen": 34313544, + "step": 17526 + }, + { + "epoch": 2.322995361166335, + "grad_norm": 0.0014028099831193686, + "learning_rate": 6.029077676674472e-07, + "loss": 0.0, + "num_input_tokens_seen": 34316032, + "step": 17527 + }, + { + "epoch": 2.3231278992710402, + "grad_norm": 4.5301833152771, + "learning_rate": 6.026817021214237e-07, + "loss": 0.0536, + "num_input_tokens_seen": 34318136, + "step": 17528 + }, + { + "epoch": 2.3232604373757457, + "grad_norm": 6.068673133850098, + "learning_rate": 6.024556731570056e-07, + "loss": 0.1258, + "num_input_tokens_seen": 34320352, + "step": 17529 + }, + { + "epoch": 2.3233929754804508, + "grad_norm": 14.968864440917969, + "learning_rate": 6.022296807785508e-07, + "loss": 0.2476, + "num_input_tokens_seen": 34322648, + "step": 17530 + }, + { + "epoch": 2.323525513585156, + "grad_norm": 0.001745099201798439, + "learning_rate": 6.020037249904164e-07, + "loss": 0.0, + "num_input_tokens_seen": 34324120, + "step": 17531 + }, + { + "epoch": 2.323658051689861, + "grad_norm": 8.776473045349121, + "learning_rate": 6.017778057969609e-07, + "loss": 0.0319, + "num_input_tokens_seen": 34326000, + "step": 17532 + }, + { + "epoch": 2.323790589794566, + "grad_norm": 0.08864894509315491, + "learning_rate": 6.015519232025386e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34327576, + "step": 17533 + }, + { + "epoch": 2.323923127899271, + "grad_norm": 0.003666086122393608, + "learning_rate": 6.013260772115046e-07, + "loss": 0.0, + "num_input_tokens_seen": 34328952, + "step": 17534 + }, + { + "epoch": 2.324055666003976, + "grad_norm": 0.023752545937895775, + "learning_rate": 6.011002678282132e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34332288, + "step": 17535 + }, + { + "epoch": 2.3241882041086814, + "grad_norm": 8.306499481201172, + "learning_rate": 6.008744950570191e-07, + "loss": 0.1092, + "num_input_tokens_seen": 34334576, + "step": 17536 + }, + { + "epoch": 2.3243207422133865, + "grad_norm": 8.844409942626953, + "learning_rate": 6.006487589022744e-07, + "loss": 0.0365, + "num_input_tokens_seen": 34335944, + "step": 17537 + }, + { + "epoch": 2.3244532803180915, + "grad_norm": 0.24395331740379333, + "learning_rate": 6.004230593683327e-07, + "loss": 0.0014, + "num_input_tokens_seen": 34338768, + "step": 17538 + }, + { + "epoch": 2.3245858184227965, + "grad_norm": 0.002414434216916561, + "learning_rate": 6.001973964595448e-07, + "loss": 0.0, + "num_input_tokens_seen": 34339976, + "step": 17539 + }, + { + "epoch": 2.3247183565275016, + "grad_norm": 0.125911682844162, + "learning_rate": 5.99971770180261e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34342448, + "step": 17540 + }, + { + "epoch": 2.3248508946322066, + "grad_norm": 6.829288959503174, + "learning_rate": 5.997461805348329e-07, + "loss": 0.1215, + "num_input_tokens_seen": 34344600, + "step": 17541 + }, + { + "epoch": 2.3249834327369117, + "grad_norm": 5.314018249511719, + "learning_rate": 5.995206275276091e-07, + "loss": 0.0511, + "num_input_tokens_seen": 34346912, + "step": 17542 + }, + { + "epoch": 2.325115970841617, + "grad_norm": 1.6567069292068481, + "learning_rate": 5.992951111629383e-07, + "loss": 0.0018, + "num_input_tokens_seen": 34349424, + "step": 17543 + }, + { + "epoch": 2.325248508946322, + "grad_norm": 0.2776012718677521, + "learning_rate": 5.990696314451697e-07, + "loss": 0.0019, + "num_input_tokens_seen": 34352312, + "step": 17544 + }, + { + "epoch": 2.325381047051027, + "grad_norm": 0.9171609878540039, + "learning_rate": 5.988441883786491e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34354080, + "step": 17545 + }, + { + "epoch": 2.3255135851557323, + "grad_norm": 1.4970611333847046, + "learning_rate": 5.98618781967725e-07, + "loss": 0.0071, + "num_input_tokens_seen": 34355952, + "step": 17546 + }, + { + "epoch": 2.3256461232604373, + "grad_norm": 0.01866193301975727, + "learning_rate": 5.983934122167423e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34357944, + "step": 17547 + }, + { + "epoch": 2.3257786613651423, + "grad_norm": 3.1532461643218994, + "learning_rate": 5.981680791300465e-07, + "loss": 0.0095, + "num_input_tokens_seen": 34359232, + "step": 17548 + }, + { + "epoch": 2.3259111994698474, + "grad_norm": 6.691530704498291, + "learning_rate": 5.979427827119816e-07, + "loss": 0.0979, + "num_input_tokens_seen": 34361424, + "step": 17549 + }, + { + "epoch": 2.326043737574553, + "grad_norm": 0.0038891262374818325, + "learning_rate": 5.977175229668919e-07, + "loss": 0.0, + "num_input_tokens_seen": 34363136, + "step": 17550 + }, + { + "epoch": 2.326176275679258, + "grad_norm": 0.061748627573251724, + "learning_rate": 5.974922998991211e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34364912, + "step": 17551 + }, + { + "epoch": 2.326308813783963, + "grad_norm": 0.21538491547107697, + "learning_rate": 5.972671135130118e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34367016, + "step": 17552 + }, + { + "epoch": 2.326441351888668, + "grad_norm": 0.022838467732071877, + "learning_rate": 5.970419638129046e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34368632, + "step": 17553 + }, + { + "epoch": 2.326573889993373, + "grad_norm": 5.000819206237793, + "learning_rate": 5.968168508031407e-07, + "loss": 0.0393, + "num_input_tokens_seen": 34370168, + "step": 17554 + }, + { + "epoch": 2.326706428098078, + "grad_norm": 3.834779739379883, + "learning_rate": 5.965917744880617e-07, + "loss": 0.0788, + "num_input_tokens_seen": 34372136, + "step": 17555 + }, + { + "epoch": 2.326838966202783, + "grad_norm": 0.0011536399833858013, + "learning_rate": 5.963667348720053e-07, + "loss": 0.0, + "num_input_tokens_seen": 34374408, + "step": 17556 + }, + { + "epoch": 2.3269715043074886, + "grad_norm": 0.04256986454129219, + "learning_rate": 5.961417319593126e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34376312, + "step": 17557 + }, + { + "epoch": 2.3271040424121936, + "grad_norm": 0.032977521419525146, + "learning_rate": 5.959167657543206e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34378272, + "step": 17558 + }, + { + "epoch": 2.3272365805168986, + "grad_norm": 0.0018362957052886486, + "learning_rate": 5.956918362613667e-07, + "loss": 0.0, + "num_input_tokens_seen": 34379568, + "step": 17559 + }, + { + "epoch": 2.3273691186216037, + "grad_norm": 0.31921473145484924, + "learning_rate": 5.954669434847873e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34381752, + "step": 17560 + }, + { + "epoch": 2.3275016567263087, + "grad_norm": 1.303246259689331, + "learning_rate": 5.952420874289192e-07, + "loss": 0.0108, + "num_input_tokens_seen": 34383656, + "step": 17561 + }, + { + "epoch": 2.3276341948310137, + "grad_norm": 4.99975061416626, + "learning_rate": 5.950172680980984e-07, + "loss": 0.035, + "num_input_tokens_seen": 34386096, + "step": 17562 + }, + { + "epoch": 2.327766732935719, + "grad_norm": 0.11590797454118729, + "learning_rate": 5.947924854966589e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34388016, + "step": 17563 + }, + { + "epoch": 2.3278992710404243, + "grad_norm": 0.016185129061341286, + "learning_rate": 5.945677396289345e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34390080, + "step": 17564 + }, + { + "epoch": 2.3280318091451293, + "grad_norm": 8.13571834564209, + "learning_rate": 5.943430304992584e-07, + "loss": 0.0579, + "num_input_tokens_seen": 34392320, + "step": 17565 + }, + { + "epoch": 2.3281643472498343, + "grad_norm": 0.0026644368190318346, + "learning_rate": 5.941183581119628e-07, + "loss": 0.0, + "num_input_tokens_seen": 34393632, + "step": 17566 + }, + { + "epoch": 2.3282968853545394, + "grad_norm": 0.5635635852813721, + "learning_rate": 5.9389372247138e-07, + "loss": 0.0046, + "num_input_tokens_seen": 34395712, + "step": 17567 + }, + { + "epoch": 2.3284294234592444, + "grad_norm": 0.028154077008366585, + "learning_rate": 5.93669123581842e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34397280, + "step": 17568 + }, + { + "epoch": 2.3285619615639495, + "grad_norm": 0.045411452651023865, + "learning_rate": 5.934445614476783e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34400192, + "step": 17569 + }, + { + "epoch": 2.3286944996686545, + "grad_norm": 0.38398876786231995, + "learning_rate": 5.93220036073219e-07, + "loss": 0.0018, + "num_input_tokens_seen": 34402632, + "step": 17570 + }, + { + "epoch": 2.32882703777336, + "grad_norm": 0.02424808032810688, + "learning_rate": 5.929955474627918e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34404312, + "step": 17571 + }, + { + "epoch": 2.328959575878065, + "grad_norm": 0.024519380182027817, + "learning_rate": 5.92771095620727e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34406496, + "step": 17572 + }, + { + "epoch": 2.32909211398277, + "grad_norm": 2.9812142848968506, + "learning_rate": 5.925466805513502e-07, + "loss": 0.0093, + "num_input_tokens_seen": 34408376, + "step": 17573 + }, + { + "epoch": 2.329224652087475, + "grad_norm": 0.002150762127712369, + "learning_rate": 5.9232230225899e-07, + "loss": 0.0, + "num_input_tokens_seen": 34409896, + "step": 17574 + }, + { + "epoch": 2.32935719019218, + "grad_norm": 0.24683372676372528, + "learning_rate": 5.920979607479722e-07, + "loss": 0.0013, + "num_input_tokens_seen": 34411864, + "step": 17575 + }, + { + "epoch": 2.329489728296885, + "grad_norm": 0.06616546958684921, + "learning_rate": 5.918736560226207e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34413440, + "step": 17576 + }, + { + "epoch": 2.3296222664015906, + "grad_norm": 0.39153680205345154, + "learning_rate": 5.916493880872626e-07, + "loss": 0.0008, + "num_input_tokens_seen": 34414840, + "step": 17577 + }, + { + "epoch": 2.3297548045062957, + "grad_norm": 2.3274972438812256, + "learning_rate": 5.914251569462203e-07, + "loss": 0.0064, + "num_input_tokens_seen": 34416264, + "step": 17578 + }, + { + "epoch": 2.3298873426110007, + "grad_norm": 0.011358942836523056, + "learning_rate": 5.912009626038173e-07, + "loss": 0.0, + "num_input_tokens_seen": 34417808, + "step": 17579 + }, + { + "epoch": 2.3300198807157058, + "grad_norm": 1.6097493171691895, + "learning_rate": 5.909768050643774e-07, + "loss": 0.0071, + "num_input_tokens_seen": 34419184, + "step": 17580 + }, + { + "epoch": 2.330152418820411, + "grad_norm": 0.07590187340974808, + "learning_rate": 5.907526843322215e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34421040, + "step": 17581 + }, + { + "epoch": 2.330284956925116, + "grad_norm": 1.1785894632339478, + "learning_rate": 5.905286004116701e-07, + "loss": 0.011, + "num_input_tokens_seen": 34423184, + "step": 17582 + }, + { + "epoch": 2.3304174950298213, + "grad_norm": 0.01239937637001276, + "learning_rate": 5.903045533070453e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34425616, + "step": 17583 + }, + { + "epoch": 2.3305500331345264, + "grad_norm": 4.729865074157715, + "learning_rate": 5.900805430226659e-07, + "loss": 0.0315, + "num_input_tokens_seen": 34427488, + "step": 17584 + }, + { + "epoch": 2.3306825712392314, + "grad_norm": 8.750303268432617, + "learning_rate": 5.898565695628513e-07, + "loss": 0.1421, + "num_input_tokens_seen": 34429720, + "step": 17585 + }, + { + "epoch": 2.3308151093439364, + "grad_norm": 2.342752456665039, + "learning_rate": 5.896326329319202e-07, + "loss": 0.0149, + "num_input_tokens_seen": 34431872, + "step": 17586 + }, + { + "epoch": 2.3309476474486415, + "grad_norm": 0.30999332666397095, + "learning_rate": 5.894087331341888e-07, + "loss": 0.0011, + "num_input_tokens_seen": 34433552, + "step": 17587 + }, + { + "epoch": 2.3310801855533465, + "grad_norm": 0.008141516707837582, + "learning_rate": 5.891848701739761e-07, + "loss": 0.0, + "num_input_tokens_seen": 34435480, + "step": 17588 + }, + { + "epoch": 2.3312127236580515, + "grad_norm": 0.00680879782885313, + "learning_rate": 5.88961044055597e-07, + "loss": 0.0, + "num_input_tokens_seen": 34438048, + "step": 17589 + }, + { + "epoch": 2.331345261762757, + "grad_norm": 2.4601306915283203, + "learning_rate": 5.88737254783367e-07, + "loss": 0.009, + "num_input_tokens_seen": 34439640, + "step": 17590 + }, + { + "epoch": 2.331477799867462, + "grad_norm": 15.724160194396973, + "learning_rate": 5.885135023616018e-07, + "loss": 0.2631, + "num_input_tokens_seen": 34441520, + "step": 17591 + }, + { + "epoch": 2.331610337972167, + "grad_norm": 0.8926312923431396, + "learning_rate": 5.882897867946142e-07, + "loss": 0.0032, + "num_input_tokens_seen": 34443424, + "step": 17592 + }, + { + "epoch": 2.331742876076872, + "grad_norm": 0.7517162561416626, + "learning_rate": 5.880661080867189e-07, + "loss": 0.002, + "num_input_tokens_seen": 34445096, + "step": 17593 + }, + { + "epoch": 2.331875414181577, + "grad_norm": 6.381129741668701, + "learning_rate": 5.87842466242228e-07, + "loss": 0.198, + "num_input_tokens_seen": 34448240, + "step": 17594 + }, + { + "epoch": 2.332007952286282, + "grad_norm": 0.0035911162849515676, + "learning_rate": 5.876188612654535e-07, + "loss": 0.0, + "num_input_tokens_seen": 34450992, + "step": 17595 + }, + { + "epoch": 2.3321404903909873, + "grad_norm": 0.4697306454181671, + "learning_rate": 5.87395293160706e-07, + "loss": 0.0012, + "num_input_tokens_seen": 34452304, + "step": 17596 + }, + { + "epoch": 2.3322730284956927, + "grad_norm": 8.574317932128906, + "learning_rate": 5.87171761932297e-07, + "loss": 0.0329, + "num_input_tokens_seen": 34454016, + "step": 17597 + }, + { + "epoch": 2.3324055666003978, + "grad_norm": 9.321894645690918, + "learning_rate": 5.869482675845362e-07, + "loss": 0.0835, + "num_input_tokens_seen": 34455512, + "step": 17598 + }, + { + "epoch": 2.332538104705103, + "grad_norm": 4.100316047668457, + "learning_rate": 5.86724810121733e-07, + "loss": 0.0285, + "num_input_tokens_seen": 34457192, + "step": 17599 + }, + { + "epoch": 2.332670642809808, + "grad_norm": 0.007517335936427116, + "learning_rate": 5.865013895481949e-07, + "loss": 0.0, + "num_input_tokens_seen": 34459344, + "step": 17600 + }, + { + "epoch": 2.332803180914513, + "grad_norm": 0.024029167369008064, + "learning_rate": 5.862780058682304e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34461416, + "step": 17601 + }, + { + "epoch": 2.332935719019218, + "grad_norm": 1.6193987131118774, + "learning_rate": 5.860546590861454e-07, + "loss": 0.0059, + "num_input_tokens_seen": 34464192, + "step": 17602 + }, + { + "epoch": 2.333068257123923, + "grad_norm": 0.6515053510665894, + "learning_rate": 5.85831349206247e-07, + "loss": 0.003, + "num_input_tokens_seen": 34466248, + "step": 17603 + }, + { + "epoch": 2.3332007952286284, + "grad_norm": 2.240462303161621, + "learning_rate": 5.856080762328411e-07, + "loss": 0.0097, + "num_input_tokens_seen": 34468264, + "step": 17604 + }, + { + "epoch": 2.3333333333333335, + "grad_norm": 0.0017234095139428973, + "learning_rate": 5.853848401702326e-07, + "loss": 0.0, + "num_input_tokens_seen": 34469696, + "step": 17605 + }, + { + "epoch": 2.3334658714380385, + "grad_norm": 13.389839172363281, + "learning_rate": 5.851616410227248e-07, + "loss": 0.074, + "num_input_tokens_seen": 34471480, + "step": 17606 + }, + { + "epoch": 2.3335984095427436, + "grad_norm": 7.411147117614746, + "learning_rate": 5.84938478794621e-07, + "loss": 0.1003, + "num_input_tokens_seen": 34474000, + "step": 17607 + }, + { + "epoch": 2.3337309476474486, + "grad_norm": 3.7476766109466553, + "learning_rate": 5.847153534902244e-07, + "loss": 0.0121, + "num_input_tokens_seen": 34476152, + "step": 17608 + }, + { + "epoch": 2.3338634857521536, + "grad_norm": 8.368447303771973, + "learning_rate": 5.844922651138379e-07, + "loss": 0.0476, + "num_input_tokens_seen": 34477408, + "step": 17609 + }, + { + "epoch": 2.3339960238568587, + "grad_norm": 0.0031103440560400486, + "learning_rate": 5.84269213669762e-07, + "loss": 0.0, + "num_input_tokens_seen": 34479064, + "step": 17610 + }, + { + "epoch": 2.334128561961564, + "grad_norm": 1.5398308038711548, + "learning_rate": 5.840461991622973e-07, + "loss": 0.0027, + "num_input_tokens_seen": 34480920, + "step": 17611 + }, + { + "epoch": 2.334261100066269, + "grad_norm": 1.2834726572036743, + "learning_rate": 5.838232215957435e-07, + "loss": 0.0048, + "num_input_tokens_seen": 34482728, + "step": 17612 + }, + { + "epoch": 2.3343936381709742, + "grad_norm": 11.526973724365234, + "learning_rate": 5.83600280974399e-07, + "loss": 0.1979, + "num_input_tokens_seen": 34485888, + "step": 17613 + }, + { + "epoch": 2.3345261762756793, + "grad_norm": 0.0016845462378114462, + "learning_rate": 5.833773773025637e-07, + "loss": 0.0, + "num_input_tokens_seen": 34487272, + "step": 17614 + }, + { + "epoch": 2.3346587143803843, + "grad_norm": 1.169955849647522, + "learning_rate": 5.831545105845348e-07, + "loss": 0.0036, + "num_input_tokens_seen": 34489872, + "step": 17615 + }, + { + "epoch": 2.3347912524850893, + "grad_norm": 0.0023731132969260216, + "learning_rate": 5.829316808246097e-07, + "loss": 0.0, + "num_input_tokens_seen": 34491024, + "step": 17616 + }, + { + "epoch": 2.3349237905897944, + "grad_norm": 0.0006979045574553311, + "learning_rate": 5.827088880270843e-07, + "loss": 0.0, + "num_input_tokens_seen": 34492744, + "step": 17617 + }, + { + "epoch": 2.3350563286945, + "grad_norm": 30.849979400634766, + "learning_rate": 5.824861321962533e-07, + "loss": 0.1466, + "num_input_tokens_seen": 34494392, + "step": 17618 + }, + { + "epoch": 2.335188866799205, + "grad_norm": 0.17767080664634705, + "learning_rate": 5.822634133364133e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34495960, + "step": 17619 + }, + { + "epoch": 2.33532140490391, + "grad_norm": 1.834625244140625, + "learning_rate": 5.82040731451857e-07, + "loss": 0.0034, + "num_input_tokens_seen": 34498224, + "step": 17620 + }, + { + "epoch": 2.335453943008615, + "grad_norm": 0.0036174836568534374, + "learning_rate": 5.818180865468792e-07, + "loss": 0.0, + "num_input_tokens_seen": 34501312, + "step": 17621 + }, + { + "epoch": 2.33558648111332, + "grad_norm": 1.0485659837722778, + "learning_rate": 5.815954786257721e-07, + "loss": 0.0067, + "num_input_tokens_seen": 34503248, + "step": 17622 + }, + { + "epoch": 2.335719019218025, + "grad_norm": 11.614334106445312, + "learning_rate": 5.813729076928268e-07, + "loss": 0.2444, + "num_input_tokens_seen": 34505016, + "step": 17623 + }, + { + "epoch": 2.33585155732273, + "grad_norm": 0.011938834562897682, + "learning_rate": 5.811503737523361e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34506968, + "step": 17624 + }, + { + "epoch": 2.3359840954274356, + "grad_norm": 0.06251510977745056, + "learning_rate": 5.809278768085902e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34508808, + "step": 17625 + }, + { + "epoch": 2.3361166335321406, + "grad_norm": 0.004024461843073368, + "learning_rate": 5.807054168658777e-07, + "loss": 0.0, + "num_input_tokens_seen": 34510120, + "step": 17626 + }, + { + "epoch": 2.3362491716368456, + "grad_norm": 0.038239527493715286, + "learning_rate": 5.804829939284898e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34512520, + "step": 17627 + }, + { + "epoch": 2.3363817097415507, + "grad_norm": 0.5902060270309448, + "learning_rate": 5.802606080007131e-07, + "loss": 0.0031, + "num_input_tokens_seen": 34515128, + "step": 17628 + }, + { + "epoch": 2.3365142478462557, + "grad_norm": 6.013433456420898, + "learning_rate": 5.80038259086837e-07, + "loss": 0.0362, + "num_input_tokens_seen": 34516472, + "step": 17629 + }, + { + "epoch": 2.3366467859509608, + "grad_norm": 0.7240469455718994, + "learning_rate": 5.798159471911477e-07, + "loss": 0.0019, + "num_input_tokens_seen": 34519112, + "step": 17630 + }, + { + "epoch": 2.336779324055666, + "grad_norm": 10.085693359375, + "learning_rate": 5.795936723179315e-07, + "loss": 0.0955, + "num_input_tokens_seen": 34521000, + "step": 17631 + }, + { + "epoch": 2.3369118621603713, + "grad_norm": 0.003768005408346653, + "learning_rate": 5.793714344714735e-07, + "loss": 0.0, + "num_input_tokens_seen": 34523176, + "step": 17632 + }, + { + "epoch": 2.3370444002650763, + "grad_norm": 0.0018901200965046883, + "learning_rate": 5.791492336560595e-07, + "loss": 0.0, + "num_input_tokens_seen": 34525432, + "step": 17633 + }, + { + "epoch": 2.3371769383697814, + "grad_norm": 0.00073260284261778, + "learning_rate": 5.789270698759739e-07, + "loss": 0.0, + "num_input_tokens_seen": 34526752, + "step": 17634 + }, + { + "epoch": 2.3373094764744864, + "grad_norm": 0.0010563539108261466, + "learning_rate": 5.787049431354996e-07, + "loss": 0.0, + "num_input_tokens_seen": 34528248, + "step": 17635 + }, + { + "epoch": 2.3374420145791914, + "grad_norm": 4.916848182678223, + "learning_rate": 5.784828534389195e-07, + "loss": 0.0468, + "num_input_tokens_seen": 34529840, + "step": 17636 + }, + { + "epoch": 2.3375745526838965, + "grad_norm": 6.7946014404296875, + "learning_rate": 5.782608007905147e-07, + "loss": 0.0493, + "num_input_tokens_seen": 34532160, + "step": 17637 + }, + { + "epoch": 2.3377070907886015, + "grad_norm": 0.02789085917174816, + "learning_rate": 5.780387851945684e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34534480, + "step": 17638 + }, + { + "epoch": 2.337839628893307, + "grad_norm": 0.0032948346342891455, + "learning_rate": 5.778168066553594e-07, + "loss": 0.0, + "num_input_tokens_seen": 34536216, + "step": 17639 + }, + { + "epoch": 2.337972166998012, + "grad_norm": 6.148429870605469, + "learning_rate": 5.77594865177169e-07, + "loss": 0.0682, + "num_input_tokens_seen": 34537800, + "step": 17640 + }, + { + "epoch": 2.338104705102717, + "grad_norm": 1.0397987365722656, + "learning_rate": 5.773729607642758e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34538984, + "step": 17641 + }, + { + "epoch": 2.338237243207422, + "grad_norm": 0.0028499579057097435, + "learning_rate": 5.771510934209584e-07, + "loss": 0.0, + "num_input_tokens_seen": 34541104, + "step": 17642 + }, + { + "epoch": 2.338369781312127, + "grad_norm": 7.302776336669922, + "learning_rate": 5.769292631514936e-07, + "loss": 0.0455, + "num_input_tokens_seen": 34543216, + "step": 17643 + }, + { + "epoch": 2.338502319416832, + "grad_norm": 0.0008341590291820467, + "learning_rate": 5.767074699601594e-07, + "loss": 0.0, + "num_input_tokens_seen": 34544688, + "step": 17644 + }, + { + "epoch": 2.338634857521537, + "grad_norm": 13.567420959472656, + "learning_rate": 5.764857138512328e-07, + "loss": 0.111, + "num_input_tokens_seen": 34546616, + "step": 17645 + }, + { + "epoch": 2.3387673956262427, + "grad_norm": 0.006198303308337927, + "learning_rate": 5.762639948289883e-07, + "loss": 0.0, + "num_input_tokens_seen": 34548192, + "step": 17646 + }, + { + "epoch": 2.3388999337309477, + "grad_norm": 0.005080592352896929, + "learning_rate": 5.760423128977013e-07, + "loss": 0.0, + "num_input_tokens_seen": 34549656, + "step": 17647 + }, + { + "epoch": 2.3390324718356528, + "grad_norm": 0.016734832897782326, + "learning_rate": 5.758206680616458e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34551456, + "step": 17648 + }, + { + "epoch": 2.339165009940358, + "grad_norm": 0.006007571239024401, + "learning_rate": 5.755990603250943e-07, + "loss": 0.0, + "num_input_tokens_seen": 34552504, + "step": 17649 + }, + { + "epoch": 2.339297548045063, + "grad_norm": 0.012889403849840164, + "learning_rate": 5.753774896923206e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34554592, + "step": 17650 + }, + { + "epoch": 2.339430086149768, + "grad_norm": 20.680400848388672, + "learning_rate": 5.751559561675973e-07, + "loss": 0.2099, + "num_input_tokens_seen": 34557712, + "step": 17651 + }, + { + "epoch": 2.339562624254473, + "grad_norm": 2.7195699214935303, + "learning_rate": 5.749344597551954e-07, + "loss": 0.0184, + "num_input_tokens_seen": 34560080, + "step": 17652 + }, + { + "epoch": 2.3396951623591784, + "grad_norm": 8.803916931152344, + "learning_rate": 5.747130004593848e-07, + "loss": 0.0801, + "num_input_tokens_seen": 34562064, + "step": 17653 + }, + { + "epoch": 2.3398277004638834, + "grad_norm": 0.022728994488716125, + "learning_rate": 5.744915782844352e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34563544, + "step": 17654 + }, + { + "epoch": 2.3399602385685885, + "grad_norm": 0.7523548603057861, + "learning_rate": 5.742701932346167e-07, + "loss": 0.0017, + "num_input_tokens_seen": 34565216, + "step": 17655 + }, + { + "epoch": 2.3400927766732935, + "grad_norm": 0.005428750533610582, + "learning_rate": 5.740488453141971e-07, + "loss": 0.0, + "num_input_tokens_seen": 34566696, + "step": 17656 + }, + { + "epoch": 2.3402253147779986, + "grad_norm": 0.010625329799950123, + "learning_rate": 5.738275345274447e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34569632, + "step": 17657 + }, + { + "epoch": 2.3403578528827036, + "grad_norm": 1.113126516342163, + "learning_rate": 5.736062608786267e-07, + "loss": 0.0026, + "num_input_tokens_seen": 34572264, + "step": 17658 + }, + { + "epoch": 2.3404903909874086, + "grad_norm": 1.1560052633285522, + "learning_rate": 5.73385024372008e-07, + "loss": 0.0083, + "num_input_tokens_seen": 34574368, + "step": 17659 + }, + { + "epoch": 2.340622929092114, + "grad_norm": 0.0013780479785054922, + "learning_rate": 5.731638250118556e-07, + "loss": 0.0, + "num_input_tokens_seen": 34575560, + "step": 17660 + }, + { + "epoch": 2.340755467196819, + "grad_norm": 10.694581985473633, + "learning_rate": 5.729426628024334e-07, + "loss": 0.1475, + "num_input_tokens_seen": 34577296, + "step": 17661 + }, + { + "epoch": 2.340888005301524, + "grad_norm": 0.01612936146557331, + "learning_rate": 5.727215377480069e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34578832, + "step": 17662 + }, + { + "epoch": 2.3410205434062292, + "grad_norm": 8.009583473205566, + "learning_rate": 5.725004498528386e-07, + "loss": 0.0343, + "num_input_tokens_seen": 34580296, + "step": 17663 + }, + { + "epoch": 2.3411530815109343, + "grad_norm": 6.21445369720459, + "learning_rate": 5.722793991211905e-07, + "loss": 0.1695, + "num_input_tokens_seen": 34582832, + "step": 17664 + }, + { + "epoch": 2.3412856196156397, + "grad_norm": 0.005807481240481138, + "learning_rate": 5.720583855573264e-07, + "loss": 0.0, + "num_input_tokens_seen": 34584568, + "step": 17665 + }, + { + "epoch": 2.341418157720345, + "grad_norm": 4.9380693435668945, + "learning_rate": 5.718374091655066e-07, + "loss": 0.0559, + "num_input_tokens_seen": 34586744, + "step": 17666 + }, + { + "epoch": 2.34155069582505, + "grad_norm": 0.3747180998325348, + "learning_rate": 5.716164699499907e-07, + "loss": 0.0029, + "num_input_tokens_seen": 34588336, + "step": 17667 + }, + { + "epoch": 2.341683233929755, + "grad_norm": 0.00281967269256711, + "learning_rate": 5.713955679150406e-07, + "loss": 0.0, + "num_input_tokens_seen": 34590536, + "step": 17668 + }, + { + "epoch": 2.34181577203446, + "grad_norm": 0.02476070448756218, + "learning_rate": 5.711747030649146e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34592808, + "step": 17669 + }, + { + "epoch": 2.341948310139165, + "grad_norm": 0.07425132393836975, + "learning_rate": 5.709538754038699e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34594592, + "step": 17670 + }, + { + "epoch": 2.34208084824387, + "grad_norm": 0.524229109287262, + "learning_rate": 5.707330849361662e-07, + "loss": 0.0024, + "num_input_tokens_seen": 34596144, + "step": 17671 + }, + { + "epoch": 2.3422133863485755, + "grad_norm": 0.003684363095089793, + "learning_rate": 5.705123316660593e-07, + "loss": 0.0, + "num_input_tokens_seen": 34597640, + "step": 17672 + }, + { + "epoch": 2.3423459244532805, + "grad_norm": 11.933063507080078, + "learning_rate": 5.702916155978053e-07, + "loss": 0.264, + "num_input_tokens_seen": 34599504, + "step": 17673 + }, + { + "epoch": 2.3424784625579855, + "grad_norm": 0.027486419305205345, + "learning_rate": 5.700709367356605e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34601696, + "step": 17674 + }, + { + "epoch": 2.3426110006626906, + "grad_norm": 15.83261489868164, + "learning_rate": 5.698502950838791e-07, + "loss": 0.1737, + "num_input_tokens_seen": 34603864, + "step": 17675 + }, + { + "epoch": 2.3427435387673956, + "grad_norm": 0.036929138004779816, + "learning_rate": 5.69629690646716e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34606560, + "step": 17676 + }, + { + "epoch": 2.3428760768721006, + "grad_norm": 0.30800551176071167, + "learning_rate": 5.694091234284244e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34607928, + "step": 17677 + }, + { + "epoch": 2.3430086149768057, + "grad_norm": 0.014617717824876308, + "learning_rate": 5.691885934332566e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34609344, + "step": 17678 + }, + { + "epoch": 2.343141153081511, + "grad_norm": 2.2037384510040283, + "learning_rate": 5.68968100665464e-07, + "loss": 0.014, + "num_input_tokens_seen": 34611312, + "step": 17679 + }, + { + "epoch": 2.343273691186216, + "grad_norm": 0.6311166882514954, + "learning_rate": 5.687476451292989e-07, + "loss": 0.0024, + "num_input_tokens_seen": 34613488, + "step": 17680 + }, + { + "epoch": 2.3434062292909212, + "grad_norm": 8.508742332458496, + "learning_rate": 5.685272268290118e-07, + "loss": 0.082, + "num_input_tokens_seen": 34615712, + "step": 17681 + }, + { + "epoch": 2.3435387673956263, + "grad_norm": 13.103141784667969, + "learning_rate": 5.683068457688523e-07, + "loss": 0.2137, + "num_input_tokens_seen": 34617984, + "step": 17682 + }, + { + "epoch": 2.3436713055003313, + "grad_norm": 6.899737358093262, + "learning_rate": 5.680865019530696e-07, + "loss": 0.1721, + "num_input_tokens_seen": 34621272, + "step": 17683 + }, + { + "epoch": 2.3438038436050364, + "grad_norm": 3.798013925552368, + "learning_rate": 5.678661953859119e-07, + "loss": 0.0305, + "num_input_tokens_seen": 34622768, + "step": 17684 + }, + { + "epoch": 2.3439363817097414, + "grad_norm": 1.620809555053711, + "learning_rate": 5.676459260716258e-07, + "loss": 0.004, + "num_input_tokens_seen": 34624488, + "step": 17685 + }, + { + "epoch": 2.344068919814447, + "grad_norm": 0.008004768751561642, + "learning_rate": 5.674256940144596e-07, + "loss": 0.0, + "num_input_tokens_seen": 34626440, + "step": 17686 + }, + { + "epoch": 2.344201457919152, + "grad_norm": 10.122072219848633, + "learning_rate": 5.672054992186598e-07, + "loss": 0.2048, + "num_input_tokens_seen": 34628592, + "step": 17687 + }, + { + "epoch": 2.344333996023857, + "grad_norm": 0.0034033653791993856, + "learning_rate": 5.669853416884716e-07, + "loss": 0.0, + "num_input_tokens_seen": 34630704, + "step": 17688 + }, + { + "epoch": 2.344466534128562, + "grad_norm": 0.010396234691143036, + "learning_rate": 5.667652214281394e-07, + "loss": 0.0, + "num_input_tokens_seen": 34632304, + "step": 17689 + }, + { + "epoch": 2.344599072233267, + "grad_norm": 8.901415824890137, + "learning_rate": 5.665451384419066e-07, + "loss": 0.0744, + "num_input_tokens_seen": 34634696, + "step": 17690 + }, + { + "epoch": 2.344731610337972, + "grad_norm": 3.1280500888824463, + "learning_rate": 5.663250927340175e-07, + "loss": 0.0252, + "num_input_tokens_seen": 34637976, + "step": 17691 + }, + { + "epoch": 2.344864148442677, + "grad_norm": 0.04859183728694916, + "learning_rate": 5.661050843087151e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34639560, + "step": 17692 + }, + { + "epoch": 2.3449966865473826, + "grad_norm": 0.6622272729873657, + "learning_rate": 5.658851131702409e-07, + "loss": 0.0018, + "num_input_tokens_seen": 34641272, + "step": 17693 + }, + { + "epoch": 2.3451292246520876, + "grad_norm": 6.628150463104248, + "learning_rate": 5.65665179322836e-07, + "loss": 0.086, + "num_input_tokens_seen": 34643360, + "step": 17694 + }, + { + "epoch": 2.3452617627567927, + "grad_norm": 4.334777355194092, + "learning_rate": 5.654452827707408e-07, + "loss": 0.0795, + "num_input_tokens_seen": 34645640, + "step": 17695 + }, + { + "epoch": 2.3453943008614977, + "grad_norm": 3.512651205062866, + "learning_rate": 5.652254235181944e-07, + "loss": 0.0051, + "num_input_tokens_seen": 34647968, + "step": 17696 + }, + { + "epoch": 2.3455268389662027, + "grad_norm": 0.21486470103263855, + "learning_rate": 5.650056015694369e-07, + "loss": 0.001, + "num_input_tokens_seen": 34649840, + "step": 17697 + }, + { + "epoch": 2.3456593770709078, + "grad_norm": 5.920050144195557, + "learning_rate": 5.647858169287065e-07, + "loss": 0.1063, + "num_input_tokens_seen": 34651032, + "step": 17698 + }, + { + "epoch": 2.345791915175613, + "grad_norm": 0.037337467074394226, + "learning_rate": 5.645660696002411e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34654096, + "step": 17699 + }, + { + "epoch": 2.3459244532803183, + "grad_norm": 14.79647445678711, + "learning_rate": 5.643463595882767e-07, + "loss": 0.1011, + "num_input_tokens_seen": 34655648, + "step": 17700 + }, + { + "epoch": 2.3460569913850233, + "grad_norm": 2.6657516956329346, + "learning_rate": 5.641266868970493e-07, + "loss": 0.0029, + "num_input_tokens_seen": 34656776, + "step": 17701 + }, + { + "epoch": 2.3461895294897284, + "grad_norm": 0.3144253194332123, + "learning_rate": 5.639070515307954e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34659248, + "step": 17702 + }, + { + "epoch": 2.3463220675944334, + "grad_norm": 6.668276786804199, + "learning_rate": 5.636874534937486e-07, + "loss": 0.0904, + "num_input_tokens_seen": 34660952, + "step": 17703 + }, + { + "epoch": 2.3464546056991384, + "grad_norm": 12.12117862701416, + "learning_rate": 5.634678927901441e-07, + "loss": 0.048, + "num_input_tokens_seen": 34662824, + "step": 17704 + }, + { + "epoch": 2.3465871438038435, + "grad_norm": 0.19158318638801575, + "learning_rate": 5.632483694242147e-07, + "loss": 0.0013, + "num_input_tokens_seen": 34665488, + "step": 17705 + }, + { + "epoch": 2.3467196819085485, + "grad_norm": 7.196081638336182, + "learning_rate": 5.63028883400192e-07, + "loss": 0.0294, + "num_input_tokens_seen": 34668152, + "step": 17706 + }, + { + "epoch": 2.346852220013254, + "grad_norm": 2.298901081085205, + "learning_rate": 5.628094347223095e-07, + "loss": 0.0155, + "num_input_tokens_seen": 34670272, + "step": 17707 + }, + { + "epoch": 2.346984758117959, + "grad_norm": 1.7421051263809204, + "learning_rate": 5.625900233947975e-07, + "loss": 0.0077, + "num_input_tokens_seen": 34672408, + "step": 17708 + }, + { + "epoch": 2.347117296222664, + "grad_norm": 0.01892952248454094, + "learning_rate": 5.623706494218856e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34674040, + "step": 17709 + }, + { + "epoch": 2.347249834327369, + "grad_norm": 0.3770451843738556, + "learning_rate": 5.621513128078051e-07, + "loss": 0.0009, + "num_input_tokens_seen": 34675488, + "step": 17710 + }, + { + "epoch": 2.347382372432074, + "grad_norm": 5.000911235809326, + "learning_rate": 5.619320135567832e-07, + "loss": 0.0468, + "num_input_tokens_seen": 34676968, + "step": 17711 + }, + { + "epoch": 2.347514910536779, + "grad_norm": 0.031268663704395294, + "learning_rate": 5.6171275167305e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34678864, + "step": 17712 + }, + { + "epoch": 2.3476474486414842, + "grad_norm": 0.04435854032635689, + "learning_rate": 5.614935271608321e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34680768, + "step": 17713 + }, + { + "epoch": 2.3477799867461897, + "grad_norm": 5.804210662841797, + "learning_rate": 5.612743400243556e-07, + "loss": 0.0381, + "num_input_tokens_seen": 34682792, + "step": 17714 + }, + { + "epoch": 2.3479125248508947, + "grad_norm": 0.022592786699533463, + "learning_rate": 5.610551902678479e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34684464, + "step": 17715 + }, + { + "epoch": 2.3480450629556, + "grad_norm": 0.5734321475028992, + "learning_rate": 5.608360778955332e-07, + "loss": 0.0037, + "num_input_tokens_seen": 34686480, + "step": 17716 + }, + { + "epoch": 2.348177601060305, + "grad_norm": 0.5023155808448792, + "learning_rate": 5.606170029116372e-07, + "loss": 0.0025, + "num_input_tokens_seen": 34689600, + "step": 17717 + }, + { + "epoch": 2.34831013916501, + "grad_norm": 0.013136826455593109, + "learning_rate": 5.603979653203833e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34692392, + "step": 17718 + }, + { + "epoch": 2.348442677269715, + "grad_norm": 0.43581584095954895, + "learning_rate": 5.601789651259948e-07, + "loss": 0.0021, + "num_input_tokens_seen": 34695192, + "step": 17719 + }, + { + "epoch": 2.34857521537442, + "grad_norm": 0.006335685029625893, + "learning_rate": 5.599600023326935e-07, + "loss": 0.0, + "num_input_tokens_seen": 34696936, + "step": 17720 + }, + { + "epoch": 2.3487077534791254, + "grad_norm": 0.07462137937545776, + "learning_rate": 5.597410769447015e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34698768, + "step": 17721 + }, + { + "epoch": 2.3488402915838305, + "grad_norm": 7.639307022094727, + "learning_rate": 5.595221889662408e-07, + "loss": 0.0667, + "num_input_tokens_seen": 34700992, + "step": 17722 + }, + { + "epoch": 2.3489728296885355, + "grad_norm": 0.016179468482732773, + "learning_rate": 5.593033384015309e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34702368, + "step": 17723 + }, + { + "epoch": 2.3491053677932405, + "grad_norm": 7.36820650100708, + "learning_rate": 5.590845252547914e-07, + "loss": 0.0405, + "num_input_tokens_seen": 34704528, + "step": 17724 + }, + { + "epoch": 2.3492379058979456, + "grad_norm": 5.769047737121582, + "learning_rate": 5.588657495302413e-07, + "loss": 0.0515, + "num_input_tokens_seen": 34706688, + "step": 17725 + }, + { + "epoch": 2.3493704440026506, + "grad_norm": 14.09211254119873, + "learning_rate": 5.586470112320979e-07, + "loss": 0.2951, + "num_input_tokens_seen": 34708408, + "step": 17726 + }, + { + "epoch": 2.3495029821073556, + "grad_norm": 0.00042978691635653377, + "learning_rate": 5.584283103645796e-07, + "loss": 0.0, + "num_input_tokens_seen": 34709968, + "step": 17727 + }, + { + "epoch": 2.349635520212061, + "grad_norm": 2.0365657806396484, + "learning_rate": 5.582096469319037e-07, + "loss": 0.0227, + "num_input_tokens_seen": 34711760, + "step": 17728 + }, + { + "epoch": 2.349768058316766, + "grad_norm": 2.229172945022583, + "learning_rate": 5.579910209382849e-07, + "loss": 0.0134, + "num_input_tokens_seen": 34714864, + "step": 17729 + }, + { + "epoch": 2.349900596421471, + "grad_norm": 0.028426343575119972, + "learning_rate": 5.577724323879394e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34717008, + "step": 17730 + }, + { + "epoch": 2.3500331345261762, + "grad_norm": 0.0038648161571472883, + "learning_rate": 5.575538812850812e-07, + "loss": 0.0, + "num_input_tokens_seen": 34718416, + "step": 17731 + }, + { + "epoch": 2.3501656726308813, + "grad_norm": 0.08603201806545258, + "learning_rate": 5.573353676339233e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34720600, + "step": 17732 + }, + { + "epoch": 2.3502982107355863, + "grad_norm": 0.3695821166038513, + "learning_rate": 5.571168914386796e-07, + "loss": 0.0015, + "num_input_tokens_seen": 34722144, + "step": 17733 + }, + { + "epoch": 2.3504307488402914, + "grad_norm": 7.192691802978516, + "learning_rate": 5.568984527035634e-07, + "loss": 0.0442, + "num_input_tokens_seen": 34723952, + "step": 17734 + }, + { + "epoch": 2.350563286944997, + "grad_norm": 3.2021846771240234, + "learning_rate": 5.566800514327858e-07, + "loss": 0.0188, + "num_input_tokens_seen": 34725880, + "step": 17735 + }, + { + "epoch": 2.350695825049702, + "grad_norm": 0.20106668770313263, + "learning_rate": 5.56461687630557e-07, + "loss": 0.0013, + "num_input_tokens_seen": 34728776, + "step": 17736 + }, + { + "epoch": 2.350828363154407, + "grad_norm": 4.721794128417969, + "learning_rate": 5.562433613010873e-07, + "loss": 0.0585, + "num_input_tokens_seen": 34732240, + "step": 17737 + }, + { + "epoch": 2.350960901259112, + "grad_norm": 6.336400985717773, + "learning_rate": 5.560250724485869e-07, + "loss": 0.2205, + "num_input_tokens_seen": 34733816, + "step": 17738 + }, + { + "epoch": 2.351093439363817, + "grad_norm": 0.14346235990524292, + "learning_rate": 5.558068210772635e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34735024, + "step": 17739 + }, + { + "epoch": 2.351225977468522, + "grad_norm": 13.50838565826416, + "learning_rate": 5.555886071913269e-07, + "loss": 0.0865, + "num_input_tokens_seen": 34736608, + "step": 17740 + }, + { + "epoch": 2.351358515573227, + "grad_norm": 1.2651335000991821, + "learning_rate": 5.553704307949828e-07, + "loss": 0.005, + "num_input_tokens_seen": 34738744, + "step": 17741 + }, + { + "epoch": 2.3514910536779325, + "grad_norm": 12.157574653625488, + "learning_rate": 5.551522918924379e-07, + "loss": 0.1472, + "num_input_tokens_seen": 34740784, + "step": 17742 + }, + { + "epoch": 2.3516235917826376, + "grad_norm": 0.006949228700250387, + "learning_rate": 5.549341904878994e-07, + "loss": 0.0, + "num_input_tokens_seen": 34742096, + "step": 17743 + }, + { + "epoch": 2.3517561298873426, + "grad_norm": 0.06277748942375183, + "learning_rate": 5.547161265855705e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34743528, + "step": 17744 + }, + { + "epoch": 2.3518886679920477, + "grad_norm": 4.195850849151611, + "learning_rate": 5.544981001896577e-07, + "loss": 0.0313, + "num_input_tokens_seen": 34745024, + "step": 17745 + }, + { + "epoch": 2.3520212060967527, + "grad_norm": 0.015423735603690147, + "learning_rate": 5.542801113043633e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34746928, + "step": 17746 + }, + { + "epoch": 2.3521537442014577, + "grad_norm": 0.009266690351068974, + "learning_rate": 5.540621599338902e-07, + "loss": 0.0, + "num_input_tokens_seen": 34748920, + "step": 17747 + }, + { + "epoch": 2.352286282306163, + "grad_norm": 0.4075634479522705, + "learning_rate": 5.538442460824417e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34750248, + "step": 17748 + }, + { + "epoch": 2.3524188204108682, + "grad_norm": 0.6627886295318604, + "learning_rate": 5.536263697542185e-07, + "loss": 0.0029, + "num_input_tokens_seen": 34752216, + "step": 17749 + }, + { + "epoch": 2.3525513585155733, + "grad_norm": 0.010573110543191433, + "learning_rate": 5.534085309534212e-07, + "loss": 0.0, + "num_input_tokens_seen": 34753800, + "step": 17750 + }, + { + "epoch": 2.3526838966202783, + "grad_norm": 0.007072928361594677, + "learning_rate": 5.531907296842509e-07, + "loss": 0.0, + "num_input_tokens_seen": 34756456, + "step": 17751 + }, + { + "epoch": 2.3528164347249834, + "grad_norm": 4.514529228210449, + "learning_rate": 5.529729659509059e-07, + "loss": 0.005, + "num_input_tokens_seen": 34759208, + "step": 17752 + }, + { + "epoch": 2.3529489728296884, + "grad_norm": 0.06037493422627449, + "learning_rate": 5.527552397575858e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34760880, + "step": 17753 + }, + { + "epoch": 2.353081510934394, + "grad_norm": 5.566935062408447, + "learning_rate": 5.525375511084879e-07, + "loss": 0.0514, + "num_input_tokens_seen": 34762376, + "step": 17754 + }, + { + "epoch": 2.353214049039099, + "grad_norm": 0.19817079603672028, + "learning_rate": 5.523199000078097e-07, + "loss": 0.0016, + "num_input_tokens_seen": 34764224, + "step": 17755 + }, + { + "epoch": 2.353346587143804, + "grad_norm": 0.2292715162038803, + "learning_rate": 5.521022864597466e-07, + "loss": 0.0009, + "num_input_tokens_seen": 34766176, + "step": 17756 + }, + { + "epoch": 2.353479125248509, + "grad_norm": 0.10731744021177292, + "learning_rate": 5.51884710468496e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34768736, + "step": 17757 + }, + { + "epoch": 2.353611663353214, + "grad_norm": 0.15225407481193542, + "learning_rate": 5.516671720382513e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34770984, + "step": 17758 + }, + { + "epoch": 2.353744201457919, + "grad_norm": 0.021273259073495865, + "learning_rate": 5.514496711732084e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34773880, + "step": 17759 + }, + { + "epoch": 2.353876739562624, + "grad_norm": 11.22998332977295, + "learning_rate": 5.512322078775603e-07, + "loss": 0.0522, + "num_input_tokens_seen": 34775472, + "step": 17760 + }, + { + "epoch": 2.3540092776673296, + "grad_norm": 0.0019208334852010012, + "learning_rate": 5.510147821554992e-07, + "loss": 0.0, + "num_input_tokens_seen": 34776936, + "step": 17761 + }, + { + "epoch": 2.3541418157720346, + "grad_norm": 9.687651634216309, + "learning_rate": 5.507973940112171e-07, + "loss": 0.0306, + "num_input_tokens_seen": 34778568, + "step": 17762 + }, + { + "epoch": 2.3542743538767397, + "grad_norm": 0.006687212735414505, + "learning_rate": 5.505800434489062e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34779968, + "step": 17763 + }, + { + "epoch": 2.3544068919814447, + "grad_norm": 0.004950502887368202, + "learning_rate": 5.503627304727574e-07, + "loss": 0.0, + "num_input_tokens_seen": 34781096, + "step": 17764 + }, + { + "epoch": 2.3545394300861497, + "grad_norm": 0.000394042901461944, + "learning_rate": 5.501454550869601e-07, + "loss": 0.0, + "num_input_tokens_seen": 34782696, + "step": 17765 + }, + { + "epoch": 2.354671968190855, + "grad_norm": 0.005813139490783215, + "learning_rate": 5.499282172957035e-07, + "loss": 0.0, + "num_input_tokens_seen": 34784456, + "step": 17766 + }, + { + "epoch": 2.35480450629556, + "grad_norm": 0.003222453873604536, + "learning_rate": 5.497110171031755e-07, + "loss": 0.0, + "num_input_tokens_seen": 34786464, + "step": 17767 + }, + { + "epoch": 2.3549370444002653, + "grad_norm": 3.797583818435669, + "learning_rate": 5.494938545135645e-07, + "loss": 0.0179, + "num_input_tokens_seen": 34788392, + "step": 17768 + }, + { + "epoch": 2.3550695825049703, + "grad_norm": 12.619410514831543, + "learning_rate": 5.492767295310584e-07, + "loss": 0.1586, + "num_input_tokens_seen": 34790208, + "step": 17769 + }, + { + "epoch": 2.3552021206096754, + "grad_norm": 1.6835739612579346, + "learning_rate": 5.490596421598426e-07, + "loss": 0.0082, + "num_input_tokens_seen": 34792184, + "step": 17770 + }, + { + "epoch": 2.3553346587143804, + "grad_norm": 0.0028643279802054167, + "learning_rate": 5.488425924041027e-07, + "loss": 0.0, + "num_input_tokens_seen": 34793376, + "step": 17771 + }, + { + "epoch": 2.3554671968190855, + "grad_norm": 0.024906128644943237, + "learning_rate": 5.486255802680237e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34796184, + "step": 17772 + }, + { + "epoch": 2.3555997349237905, + "grad_norm": 0.06921370327472687, + "learning_rate": 5.484086057557892e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34797928, + "step": 17773 + }, + { + "epoch": 2.3557322730284955, + "grad_norm": 4.544421672821045, + "learning_rate": 5.48191668871583e-07, + "loss": 0.0481, + "num_input_tokens_seen": 34801088, + "step": 17774 + }, + { + "epoch": 2.355864811133201, + "grad_norm": 8.340815544128418, + "learning_rate": 5.479747696195887e-07, + "loss": 0.0668, + "num_input_tokens_seen": 34803200, + "step": 17775 + }, + { + "epoch": 2.355997349237906, + "grad_norm": 15.619290351867676, + "learning_rate": 5.477579080039872e-07, + "loss": 0.1167, + "num_input_tokens_seen": 34805032, + "step": 17776 + }, + { + "epoch": 2.356129887342611, + "grad_norm": 0.011956840753555298, + "learning_rate": 5.475410840289603e-07, + "loss": 0.0, + "num_input_tokens_seen": 34806768, + "step": 17777 + }, + { + "epoch": 2.356262425447316, + "grad_norm": 5.885092258453369, + "learning_rate": 5.473242976986873e-07, + "loss": 0.0278, + "num_input_tokens_seen": 34808912, + "step": 17778 + }, + { + "epoch": 2.356394963552021, + "grad_norm": 8.172468185424805, + "learning_rate": 5.471075490173497e-07, + "loss": 0.1538, + "num_input_tokens_seen": 34811248, + "step": 17779 + }, + { + "epoch": 2.356527501656726, + "grad_norm": 0.0726267471909523, + "learning_rate": 5.46890837989125e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34813176, + "step": 17780 + }, + { + "epoch": 2.3566600397614312, + "grad_norm": 3.2818403244018555, + "learning_rate": 5.466741646181931e-07, + "loss": 0.0112, + "num_input_tokens_seen": 34814648, + "step": 17781 + }, + { + "epoch": 2.3567925778661367, + "grad_norm": 2.5179409980773926, + "learning_rate": 5.464575289087309e-07, + "loss": 0.025, + "num_input_tokens_seen": 34816784, + "step": 17782 + }, + { + "epoch": 2.3569251159708418, + "grad_norm": 0.38421401381492615, + "learning_rate": 5.462409308649153e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34819160, + "step": 17783 + }, + { + "epoch": 2.357057654075547, + "grad_norm": 1.3034144639968872, + "learning_rate": 5.460243704909216e-07, + "loss": 0.0037, + "num_input_tokens_seen": 34820752, + "step": 17784 + }, + { + "epoch": 2.357190192180252, + "grad_norm": 0.011089128442108631, + "learning_rate": 5.458078477909265e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34823032, + "step": 17785 + }, + { + "epoch": 2.357322730284957, + "grad_norm": 2.9588115215301514, + "learning_rate": 5.455913627691037e-07, + "loss": 0.0127, + "num_input_tokens_seen": 34824352, + "step": 17786 + }, + { + "epoch": 2.357455268389662, + "grad_norm": 0.6513294577598572, + "learning_rate": 5.453749154296284e-07, + "loss": 0.0033, + "num_input_tokens_seen": 34826720, + "step": 17787 + }, + { + "epoch": 2.357587806494367, + "grad_norm": 0.0477660708129406, + "learning_rate": 5.451585057766731e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34828336, + "step": 17788 + }, + { + "epoch": 2.3577203445990724, + "grad_norm": 0.04405251145362854, + "learning_rate": 5.449421338144098e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34829632, + "step": 17789 + }, + { + "epoch": 2.3578528827037775, + "grad_norm": 0.622642993927002, + "learning_rate": 5.447257995470115e-07, + "loss": 0.0045, + "num_input_tokens_seen": 34831280, + "step": 17790 + }, + { + "epoch": 2.3579854208084825, + "grad_norm": 14.460265159606934, + "learning_rate": 5.445095029786482e-07, + "loss": 0.0946, + "num_input_tokens_seen": 34833664, + "step": 17791 + }, + { + "epoch": 2.3581179589131875, + "grad_norm": 16.176565170288086, + "learning_rate": 5.44293244113491e-07, + "loss": 0.2562, + "num_input_tokens_seen": 34836032, + "step": 17792 + }, + { + "epoch": 2.3582504970178926, + "grad_norm": 0.8949641585350037, + "learning_rate": 5.440770229557096e-07, + "loss": 0.0033, + "num_input_tokens_seen": 34838848, + "step": 17793 + }, + { + "epoch": 2.3583830351225976, + "grad_norm": 2.097344160079956, + "learning_rate": 5.438608395094716e-07, + "loss": 0.0127, + "num_input_tokens_seen": 34841240, + "step": 17794 + }, + { + "epoch": 2.3585155732273027, + "grad_norm": 3.823345422744751, + "learning_rate": 5.43644693778947e-07, + "loss": 0.0848, + "num_input_tokens_seen": 34842928, + "step": 17795 + }, + { + "epoch": 2.358648111332008, + "grad_norm": 9.817488670349121, + "learning_rate": 5.43428585768302e-07, + "loss": 0.1675, + "num_input_tokens_seen": 34844552, + "step": 17796 + }, + { + "epoch": 2.358780649436713, + "grad_norm": 0.4838305115699768, + "learning_rate": 5.432125154817031e-07, + "loss": 0.0014, + "num_input_tokens_seen": 34846448, + "step": 17797 + }, + { + "epoch": 2.358913187541418, + "grad_norm": 0.0014672423712909222, + "learning_rate": 5.429964829233176e-07, + "loss": 0.0, + "num_input_tokens_seen": 34847816, + "step": 17798 + }, + { + "epoch": 2.3590457256461232, + "grad_norm": 12.609827995300293, + "learning_rate": 5.427804880973092e-07, + "loss": 0.0998, + "num_input_tokens_seen": 34849824, + "step": 17799 + }, + { + "epoch": 2.3591782637508283, + "grad_norm": 0.11343824863433838, + "learning_rate": 5.425645310078437e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34851760, + "step": 17800 + }, + { + "epoch": 2.3593108018555333, + "grad_norm": 0.000761420582421124, + "learning_rate": 5.423486116590848e-07, + "loss": 0.0, + "num_input_tokens_seen": 34853312, + "step": 17801 + }, + { + "epoch": 2.3594433399602384, + "grad_norm": 0.0037159365601837635, + "learning_rate": 5.421327300551949e-07, + "loss": 0.0, + "num_input_tokens_seen": 34854920, + "step": 17802 + }, + { + "epoch": 2.359575878064944, + "grad_norm": 0.044683124870061874, + "learning_rate": 5.41916886200336e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34857776, + "step": 17803 + }, + { + "epoch": 2.359708416169649, + "grad_norm": 8.224814414978027, + "learning_rate": 5.417010800986703e-07, + "loss": 0.0627, + "num_input_tokens_seen": 34859904, + "step": 17804 + }, + { + "epoch": 2.359840954274354, + "grad_norm": 0.014492901042103767, + "learning_rate": 5.414853117543595e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34861488, + "step": 17805 + }, + { + "epoch": 2.359973492379059, + "grad_norm": 0.03416812792420387, + "learning_rate": 5.412695811715629e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34863568, + "step": 17806 + }, + { + "epoch": 2.360106030483764, + "grad_norm": 0.07887546718120575, + "learning_rate": 5.410538883544403e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34865272, + "step": 17807 + }, + { + "epoch": 2.360238568588469, + "grad_norm": 3.5303268432617188, + "learning_rate": 5.408382333071499e-07, + "loss": 0.0109, + "num_input_tokens_seen": 34867280, + "step": 17808 + }, + { + "epoch": 2.360371106693174, + "grad_norm": 2.625739812850952, + "learning_rate": 5.406226160338493e-07, + "loss": 0.0112, + "num_input_tokens_seen": 34868576, + "step": 17809 + }, + { + "epoch": 2.3605036447978796, + "grad_norm": 0.021193284541368484, + "learning_rate": 5.404070365386965e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34870904, + "step": 17810 + }, + { + "epoch": 2.3606361829025846, + "grad_norm": 13.384984016418457, + "learning_rate": 5.401914948258482e-07, + "loss": 0.4126, + "num_input_tokens_seen": 34872520, + "step": 17811 + }, + { + "epoch": 2.3607687210072896, + "grad_norm": 6.515951156616211, + "learning_rate": 5.399759908994603e-07, + "loss": 0.0546, + "num_input_tokens_seen": 34874272, + "step": 17812 + }, + { + "epoch": 2.3609012591119947, + "grad_norm": 0.02144785411655903, + "learning_rate": 5.397605247636872e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34876208, + "step": 17813 + }, + { + "epoch": 2.3610337972166997, + "grad_norm": 2.452218770980835, + "learning_rate": 5.395450964226836e-07, + "loss": 0.0139, + "num_input_tokens_seen": 34877984, + "step": 17814 + }, + { + "epoch": 2.3611663353214047, + "grad_norm": 0.08504106849431992, + "learning_rate": 5.393297058806022e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34879712, + "step": 17815 + }, + { + "epoch": 2.36129887342611, + "grad_norm": 4.739107608795166, + "learning_rate": 5.391143531415968e-07, + "loss": 0.0423, + "num_input_tokens_seen": 34881640, + "step": 17816 + }, + { + "epoch": 2.3614314115308153, + "grad_norm": 0.00333572831004858, + "learning_rate": 5.3889903820982e-07, + "loss": 0.0, + "num_input_tokens_seen": 34883232, + "step": 17817 + }, + { + "epoch": 2.3615639496355203, + "grad_norm": 3.4142680168151855, + "learning_rate": 5.386837610894227e-07, + "loss": 0.0266, + "num_input_tokens_seen": 34884760, + "step": 17818 + }, + { + "epoch": 2.3616964877402253, + "grad_norm": 0.03513708338141441, + "learning_rate": 5.384685217845553e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34886192, + "step": 17819 + }, + { + "epoch": 2.3618290258449304, + "grad_norm": 0.0014698661398142576, + "learning_rate": 5.382533202993676e-07, + "loss": 0.0, + "num_input_tokens_seen": 34887560, + "step": 17820 + }, + { + "epoch": 2.3619615639496354, + "grad_norm": 8.751652717590332, + "learning_rate": 5.380381566380091e-07, + "loss": 0.1137, + "num_input_tokens_seen": 34889320, + "step": 17821 + }, + { + "epoch": 2.3620941020543404, + "grad_norm": 1.3840405941009521, + "learning_rate": 5.378230308046292e-07, + "loss": 0.0124, + "num_input_tokens_seen": 34891104, + "step": 17822 + }, + { + "epoch": 2.3622266401590455, + "grad_norm": 0.005729067139327526, + "learning_rate": 5.376079428033748e-07, + "loss": 0.0, + "num_input_tokens_seen": 34892544, + "step": 17823 + }, + { + "epoch": 2.362359178263751, + "grad_norm": 0.006435960065573454, + "learning_rate": 5.373928926383931e-07, + "loss": 0.0, + "num_input_tokens_seen": 34894008, + "step": 17824 + }, + { + "epoch": 2.362491716368456, + "grad_norm": 0.02071291208267212, + "learning_rate": 5.371778803138298e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34895968, + "step": 17825 + }, + { + "epoch": 2.362624254473161, + "grad_norm": 0.08949607610702515, + "learning_rate": 5.369629058338316e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34897824, + "step": 17826 + }, + { + "epoch": 2.362756792577866, + "grad_norm": 4.069151401519775, + "learning_rate": 5.367479692025421e-07, + "loss": 0.0125, + "num_input_tokens_seen": 34899360, + "step": 17827 + }, + { + "epoch": 2.362889330682571, + "grad_norm": 0.1709366738796234, + "learning_rate": 5.365330704241067e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34900800, + "step": 17828 + }, + { + "epoch": 2.363021868787276, + "grad_norm": 3.698108673095703, + "learning_rate": 5.363182095026684e-07, + "loss": 0.1146, + "num_input_tokens_seen": 34901960, + "step": 17829 + }, + { + "epoch": 2.363154406891981, + "grad_norm": 0.12536188960075378, + "learning_rate": 5.361033864423689e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34903920, + "step": 17830 + }, + { + "epoch": 2.3632869449966867, + "grad_norm": 9.294626235961914, + "learning_rate": 5.358886012473519e-07, + "loss": 0.0983, + "num_input_tokens_seen": 34906024, + "step": 17831 + }, + { + "epoch": 2.3634194831013917, + "grad_norm": 7.790512561798096, + "learning_rate": 5.356738539217574e-07, + "loss": 0.1184, + "num_input_tokens_seen": 34908192, + "step": 17832 + }, + { + "epoch": 2.3635520212060968, + "grad_norm": 0.006251086946576834, + "learning_rate": 5.354591444697254e-07, + "loss": 0.0, + "num_input_tokens_seen": 34909984, + "step": 17833 + }, + { + "epoch": 2.363684559310802, + "grad_norm": 0.01941339485347271, + "learning_rate": 5.352444728953971e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34912024, + "step": 17834 + }, + { + "epoch": 2.363817097415507, + "grad_norm": 0.14774712920188904, + "learning_rate": 5.350298392029102e-07, + "loss": 0.0007, + "num_input_tokens_seen": 34914168, + "step": 17835 + }, + { + "epoch": 2.363949635520212, + "grad_norm": 0.02007228322327137, + "learning_rate": 5.348152433964041e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34916856, + "step": 17836 + }, + { + "epoch": 2.3640821736249173, + "grad_norm": 0.005125201307237148, + "learning_rate": 5.346006854800157e-07, + "loss": 0.0, + "num_input_tokens_seen": 34918304, + "step": 17837 + }, + { + "epoch": 2.3642147117296224, + "grad_norm": 0.0013130478328093886, + "learning_rate": 5.343861654578822e-07, + "loss": 0.0, + "num_input_tokens_seen": 34919984, + "step": 17838 + }, + { + "epoch": 2.3643472498343274, + "grad_norm": 0.05215870589017868, + "learning_rate": 5.341716833341387e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34922064, + "step": 17839 + }, + { + "epoch": 2.3644797879390325, + "grad_norm": 0.010648339055478573, + "learning_rate": 5.339572391129219e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34924240, + "step": 17840 + }, + { + "epoch": 2.3646123260437375, + "grad_norm": 8.304643630981445, + "learning_rate": 5.337428327983651e-07, + "loss": 0.0448, + "num_input_tokens_seen": 34927104, + "step": 17841 + }, + { + "epoch": 2.3647448641484425, + "grad_norm": 4.449934482574463, + "learning_rate": 5.335284643946037e-07, + "loss": 0.0302, + "num_input_tokens_seen": 34929184, + "step": 17842 + }, + { + "epoch": 2.364877402253148, + "grad_norm": 4.5544047355651855, + "learning_rate": 5.333141339057701e-07, + "loss": 0.0668, + "num_input_tokens_seen": 34932024, + "step": 17843 + }, + { + "epoch": 2.365009940357853, + "grad_norm": 6.115437984466553, + "learning_rate": 5.330998413359961e-07, + "loss": 0.1089, + "num_input_tokens_seen": 34934024, + "step": 17844 + }, + { + "epoch": 2.365142478462558, + "grad_norm": 0.21305787563323975, + "learning_rate": 5.328855866894148e-07, + "loss": 0.0015, + "num_input_tokens_seen": 34938024, + "step": 17845 + }, + { + "epoch": 2.365275016567263, + "grad_norm": 0.1069553792476654, + "learning_rate": 5.326713699701558e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34940904, + "step": 17846 + }, + { + "epoch": 2.365407554671968, + "grad_norm": 0.09191861748695374, + "learning_rate": 5.324571911823503e-07, + "loss": 0.0005, + "num_input_tokens_seen": 34942432, + "step": 17847 + }, + { + "epoch": 2.365540092776673, + "grad_norm": 0.0708169937133789, + "learning_rate": 5.322430503301279e-07, + "loss": 0.0004, + "num_input_tokens_seen": 34944304, + "step": 17848 + }, + { + "epoch": 2.3656726308813782, + "grad_norm": 0.021539289504289627, + "learning_rate": 5.320289474176168e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34946368, + "step": 17849 + }, + { + "epoch": 2.3658051689860837, + "grad_norm": 10.883551597595215, + "learning_rate": 5.318148824489444e-07, + "loss": 0.2097, + "num_input_tokens_seen": 34948184, + "step": 17850 + }, + { + "epoch": 2.3659377070907888, + "grad_norm": 7.069830894470215, + "learning_rate": 5.31600855428239e-07, + "loss": 0.0622, + "num_input_tokens_seen": 34949784, + "step": 17851 + }, + { + "epoch": 2.366070245195494, + "grad_norm": 0.017010947689414024, + "learning_rate": 5.313868663596278e-07, + "loss": 0.0, + "num_input_tokens_seen": 34950880, + "step": 17852 + }, + { + "epoch": 2.366202783300199, + "grad_norm": 3.331115961074829, + "learning_rate": 5.311729152472359e-07, + "loss": 0.0341, + "num_input_tokens_seen": 34952992, + "step": 17853 + }, + { + "epoch": 2.366335321404904, + "grad_norm": 3.3038928508758545, + "learning_rate": 5.309590020951882e-07, + "loss": 0.0229, + "num_input_tokens_seen": 34954744, + "step": 17854 + }, + { + "epoch": 2.366467859509609, + "grad_norm": 13.353264808654785, + "learning_rate": 5.307451269076094e-07, + "loss": 0.096, + "num_input_tokens_seen": 34956920, + "step": 17855 + }, + { + "epoch": 2.366600397614314, + "grad_norm": 7.725100994110107, + "learning_rate": 5.305312896886225e-07, + "loss": 0.1217, + "num_input_tokens_seen": 34959288, + "step": 17856 + }, + { + "epoch": 2.3667329357190194, + "grad_norm": 7.400303840637207, + "learning_rate": 5.303174904423508e-07, + "loss": 0.0451, + "num_input_tokens_seen": 34961584, + "step": 17857 + }, + { + "epoch": 2.3668654738237245, + "grad_norm": 0.034982409328222275, + "learning_rate": 5.301037291729174e-07, + "loss": 0.0002, + "num_input_tokens_seen": 34964136, + "step": 17858 + }, + { + "epoch": 2.3669980119284295, + "grad_norm": 17.188966751098633, + "learning_rate": 5.298900058844434e-07, + "loss": 0.3595, + "num_input_tokens_seen": 34966144, + "step": 17859 + }, + { + "epoch": 2.3671305500331346, + "grad_norm": 6.802550315856934, + "learning_rate": 5.29676320581049e-07, + "loss": 0.0478, + "num_input_tokens_seen": 34968408, + "step": 17860 + }, + { + "epoch": 2.3672630881378396, + "grad_norm": 0.0053653898648917675, + "learning_rate": 5.294626732668537e-07, + "loss": 0.0, + "num_input_tokens_seen": 34970144, + "step": 17861 + }, + { + "epoch": 2.3673956262425446, + "grad_norm": 0.41255563497543335, + "learning_rate": 5.29249063945978e-07, + "loss": 0.0006, + "num_input_tokens_seen": 34971456, + "step": 17862 + }, + { + "epoch": 2.3675281643472497, + "grad_norm": 0.002705028047785163, + "learning_rate": 5.290354926225394e-07, + "loss": 0.0, + "num_input_tokens_seen": 34972904, + "step": 17863 + }, + { + "epoch": 2.367660702451955, + "grad_norm": 3.1188786029815674, + "learning_rate": 5.288219593006568e-07, + "loss": 0.0151, + "num_input_tokens_seen": 34975032, + "step": 17864 + }, + { + "epoch": 2.36779324055666, + "grad_norm": 5.2777886390686035, + "learning_rate": 5.286084639844466e-07, + "loss": 0.0507, + "num_input_tokens_seen": 34977496, + "step": 17865 + }, + { + "epoch": 2.367925778661365, + "grad_norm": 0.011733113788068295, + "learning_rate": 5.283950066780247e-07, + "loss": 0.0001, + "num_input_tokens_seen": 34980208, + "step": 17866 + }, + { + "epoch": 2.3680583167660703, + "grad_norm": 0.05583785101771355, + "learning_rate": 5.281815873855079e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34981880, + "step": 17867 + }, + { + "epoch": 2.3681908548707753, + "grad_norm": 0.726688802242279, + "learning_rate": 5.279682061110103e-07, + "loss": 0.0054, + "num_input_tokens_seen": 34984176, + "step": 17868 + }, + { + "epoch": 2.3683233929754803, + "grad_norm": 14.965158462524414, + "learning_rate": 5.277548628586455e-07, + "loss": 0.1856, + "num_input_tokens_seen": 34986376, + "step": 17869 + }, + { + "epoch": 2.3684559310801854, + "grad_norm": 0.09659792482852936, + "learning_rate": 5.27541557632528e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34987456, + "step": 17870 + }, + { + "epoch": 2.368588469184891, + "grad_norm": 0.051037922501564026, + "learning_rate": 5.273282904367701e-07, + "loss": 0.0003, + "num_input_tokens_seen": 34989776, + "step": 17871 + }, + { + "epoch": 2.368721007289596, + "grad_norm": 1.24022376537323, + "learning_rate": 5.27115061275483e-07, + "loss": 0.0086, + "num_input_tokens_seen": 34991440, + "step": 17872 + }, + { + "epoch": 2.368853545394301, + "grad_norm": 4.3537421226501465, + "learning_rate": 5.269018701527792e-07, + "loss": 0.0186, + "num_input_tokens_seen": 34993792, + "step": 17873 + }, + { + "epoch": 2.368986083499006, + "grad_norm": 0.8581714630126953, + "learning_rate": 5.26688717072768e-07, + "loss": 0.005, + "num_input_tokens_seen": 34995168, + "step": 17874 + }, + { + "epoch": 2.369118621603711, + "grad_norm": 0.7221105098724365, + "learning_rate": 5.2647560203956e-07, + "loss": 0.0028, + "num_input_tokens_seen": 34997720, + "step": 17875 + }, + { + "epoch": 2.369251159708416, + "grad_norm": 0.7373464703559875, + "learning_rate": 5.262625250572642e-07, + "loss": 0.0027, + "num_input_tokens_seen": 34999224, + "step": 17876 + }, + { + "epoch": 2.369383697813121, + "grad_norm": 1.2851636409759521, + "learning_rate": 5.260494861299875e-07, + "loss": 0.0076, + "num_input_tokens_seen": 35002000, + "step": 17877 + }, + { + "epoch": 2.3695162359178266, + "grad_norm": 0.0021371126640588045, + "learning_rate": 5.258364852618395e-07, + "loss": 0.0, + "num_input_tokens_seen": 35003248, + "step": 17878 + }, + { + "epoch": 2.3696487740225316, + "grad_norm": 0.009958760812878609, + "learning_rate": 5.256235224569259e-07, + "loss": 0.0, + "num_input_tokens_seen": 35004456, + "step": 17879 + }, + { + "epoch": 2.3697813121272366, + "grad_norm": 0.18617406487464905, + "learning_rate": 5.254105977193519e-07, + "loss": 0.0011, + "num_input_tokens_seen": 35005936, + "step": 17880 + }, + { + "epoch": 2.3699138502319417, + "grad_norm": 0.04857746139168739, + "learning_rate": 5.251977110532247e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35007568, + "step": 17881 + }, + { + "epoch": 2.3700463883366467, + "grad_norm": 0.02612837590277195, + "learning_rate": 5.249848624626472e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35008632, + "step": 17882 + }, + { + "epoch": 2.3701789264413518, + "grad_norm": 0.039052385836839676, + "learning_rate": 5.247720519517246e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35011656, + "step": 17883 + }, + { + "epoch": 2.370311464546057, + "grad_norm": 6.019850730895996, + "learning_rate": 5.245592795245597e-07, + "loss": 0.1, + "num_input_tokens_seen": 35013664, + "step": 17884 + }, + { + "epoch": 2.3704440026507623, + "grad_norm": 4.909743785858154, + "learning_rate": 5.243465451852548e-07, + "loss": 0.0281, + "num_input_tokens_seen": 35017024, + "step": 17885 + }, + { + "epoch": 2.3705765407554673, + "grad_norm": 1.2272380590438843, + "learning_rate": 5.241338489379102e-07, + "loss": 0.0013, + "num_input_tokens_seen": 35018928, + "step": 17886 + }, + { + "epoch": 2.3707090788601723, + "grad_norm": 10.323346138000488, + "learning_rate": 5.239211907866288e-07, + "loss": 0.0381, + "num_input_tokens_seen": 35021384, + "step": 17887 + }, + { + "epoch": 2.3708416169648774, + "grad_norm": 1.7019084692001343, + "learning_rate": 5.237085707355103e-07, + "loss": 0.0294, + "num_input_tokens_seen": 35023480, + "step": 17888 + }, + { + "epoch": 2.3709741550695824, + "grad_norm": 10.059270858764648, + "learning_rate": 5.23495988788654e-07, + "loss": 0.0693, + "num_input_tokens_seen": 35026272, + "step": 17889 + }, + { + "epoch": 2.3711066931742875, + "grad_norm": 11.62209415435791, + "learning_rate": 5.232834449501584e-07, + "loss": 0.2196, + "num_input_tokens_seen": 35029488, + "step": 17890 + }, + { + "epoch": 2.3712392312789925, + "grad_norm": 0.04964036867022514, + "learning_rate": 5.230709392241218e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35030808, + "step": 17891 + }, + { + "epoch": 2.371371769383698, + "grad_norm": 0.0075523448176681995, + "learning_rate": 5.228584716146407e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35032568, + "step": 17892 + }, + { + "epoch": 2.371504307488403, + "grad_norm": 5.44835090637207, + "learning_rate": 5.226460421258123e-07, + "loss": 0.0563, + "num_input_tokens_seen": 35034280, + "step": 17893 + }, + { + "epoch": 2.371636845593108, + "grad_norm": 9.484182357788086, + "learning_rate": 5.224336507617328e-07, + "loss": 0.0412, + "num_input_tokens_seen": 35035984, + "step": 17894 + }, + { + "epoch": 2.371769383697813, + "grad_norm": 0.0019039280014112592, + "learning_rate": 5.222212975264967e-07, + "loss": 0.0, + "num_input_tokens_seen": 35037384, + "step": 17895 + }, + { + "epoch": 2.371901921802518, + "grad_norm": 0.003801350947469473, + "learning_rate": 5.220089824241987e-07, + "loss": 0.0, + "num_input_tokens_seen": 35039080, + "step": 17896 + }, + { + "epoch": 2.372034459907223, + "grad_norm": 0.01347715687006712, + "learning_rate": 5.217967054589313e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35041720, + "step": 17897 + }, + { + "epoch": 2.372166998011928, + "grad_norm": 0.5990731716156006, + "learning_rate": 5.215844666347878e-07, + "loss": 0.0029, + "num_input_tokens_seen": 35044024, + "step": 17898 + }, + { + "epoch": 2.3722995361166337, + "grad_norm": 0.0016939198831096292, + "learning_rate": 5.213722659558615e-07, + "loss": 0.0, + "num_input_tokens_seen": 35045528, + "step": 17899 + }, + { + "epoch": 2.3724320742213387, + "grad_norm": 0.015038426034152508, + "learning_rate": 5.211601034262429e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35047216, + "step": 17900 + }, + { + "epoch": 2.3725646123260438, + "grad_norm": 0.00941755436360836, + "learning_rate": 5.209479790500227e-07, + "loss": 0.0, + "num_input_tokens_seen": 35048776, + "step": 17901 + }, + { + "epoch": 2.372697150430749, + "grad_norm": 0.4415956437587738, + "learning_rate": 5.207358928312905e-07, + "loss": 0.0031, + "num_input_tokens_seen": 35050856, + "step": 17902 + }, + { + "epoch": 2.372829688535454, + "grad_norm": 8.411741256713867, + "learning_rate": 5.205238447741354e-07, + "loss": 0.0919, + "num_input_tokens_seen": 35052512, + "step": 17903 + }, + { + "epoch": 2.372962226640159, + "grad_norm": 11.490489959716797, + "learning_rate": 5.203118348826461e-07, + "loss": 0.1827, + "num_input_tokens_seen": 35054720, + "step": 17904 + }, + { + "epoch": 2.373094764744864, + "grad_norm": 4.641931056976318, + "learning_rate": 5.200998631609108e-07, + "loss": 0.0327, + "num_input_tokens_seen": 35056288, + "step": 17905 + }, + { + "epoch": 2.3732273028495694, + "grad_norm": 0.0057508512400090694, + "learning_rate": 5.19887929613016e-07, + "loss": 0.0, + "num_input_tokens_seen": 35057760, + "step": 17906 + }, + { + "epoch": 2.3733598409542744, + "grad_norm": 0.0136649738997221, + "learning_rate": 5.196760342430479e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35059320, + "step": 17907 + }, + { + "epoch": 2.3734923790589795, + "grad_norm": 2.1688294410705566, + "learning_rate": 5.194641770550915e-07, + "loss": 0.0065, + "num_input_tokens_seen": 35061304, + "step": 17908 + }, + { + "epoch": 2.3736249171636845, + "grad_norm": 4.105848789215088, + "learning_rate": 5.192523580532327e-07, + "loss": 0.0157, + "num_input_tokens_seen": 35063072, + "step": 17909 + }, + { + "epoch": 2.3737574552683895, + "grad_norm": 2.588618278503418, + "learning_rate": 5.190405772415544e-07, + "loss": 0.0096, + "num_input_tokens_seen": 35065232, + "step": 17910 + }, + { + "epoch": 2.3738899933730946, + "grad_norm": 7.72862434387207, + "learning_rate": 5.188288346241408e-07, + "loss": 0.1321, + "num_input_tokens_seen": 35067312, + "step": 17911 + }, + { + "epoch": 2.3740225314777996, + "grad_norm": 3.853945255279541, + "learning_rate": 5.186171302050741e-07, + "loss": 0.0312, + "num_input_tokens_seen": 35069312, + "step": 17912 + }, + { + "epoch": 2.374155069582505, + "grad_norm": 0.037188608199357986, + "learning_rate": 5.18405463988435e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35070592, + "step": 17913 + }, + { + "epoch": 2.37428760768721, + "grad_norm": 0.12726527452468872, + "learning_rate": 5.181938359783068e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35073056, + "step": 17914 + }, + { + "epoch": 2.374420145791915, + "grad_norm": 1.373931884765625, + "learning_rate": 5.179822461787685e-07, + "loss": 0.0074, + "num_input_tokens_seen": 35074264, + "step": 17915 + }, + { + "epoch": 2.37455268389662, + "grad_norm": 0.5332595705986023, + "learning_rate": 5.177706945938988e-07, + "loss": 0.0023, + "num_input_tokens_seen": 35075912, + "step": 17916 + }, + { + "epoch": 2.3746852220013253, + "grad_norm": 0.020860079675912857, + "learning_rate": 5.175591812277786e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35078416, + "step": 17917 + }, + { + "epoch": 2.3748177601060303, + "grad_norm": 14.250446319580078, + "learning_rate": 5.17347706084484e-07, + "loss": 0.1237, + "num_input_tokens_seen": 35081096, + "step": 17918 + }, + { + "epoch": 2.3749502982107358, + "grad_norm": 0.016021398827433586, + "learning_rate": 5.171362691680943e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35082424, + "step": 17919 + }, + { + "epoch": 2.375082836315441, + "grad_norm": 5.326563835144043, + "learning_rate": 5.169248704826851e-07, + "loss": 0.0995, + "num_input_tokens_seen": 35084496, + "step": 17920 + }, + { + "epoch": 2.375215374420146, + "grad_norm": 4.2434282302856445, + "learning_rate": 5.167135100323326e-07, + "loss": 0.0501, + "num_input_tokens_seen": 35086184, + "step": 17921 + }, + { + "epoch": 2.375347912524851, + "grad_norm": 0.0033141958992928267, + "learning_rate": 5.165021878211112e-07, + "loss": 0.0, + "num_input_tokens_seen": 35088112, + "step": 17922 + }, + { + "epoch": 2.375480450629556, + "grad_norm": 12.980299949645996, + "learning_rate": 5.162909038530959e-07, + "loss": 0.0782, + "num_input_tokens_seen": 35089776, + "step": 17923 + }, + { + "epoch": 2.375612988734261, + "grad_norm": 0.0279797725379467, + "learning_rate": 5.16079658132361e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35091968, + "step": 17924 + }, + { + "epoch": 2.3757455268389664, + "grad_norm": 0.002451819134876132, + "learning_rate": 5.158684506629791e-07, + "loss": 0.0, + "num_input_tokens_seen": 35093752, + "step": 17925 + }, + { + "epoch": 2.3758780649436715, + "grad_norm": 4.416686534881592, + "learning_rate": 5.156572814490222e-07, + "loss": 0.0184, + "num_input_tokens_seen": 35095728, + "step": 17926 + }, + { + "epoch": 2.3760106030483765, + "grad_norm": 16.32256317138672, + "learning_rate": 5.15446150494561e-07, + "loss": 0.219, + "num_input_tokens_seen": 35098104, + "step": 17927 + }, + { + "epoch": 2.3761431411530816, + "grad_norm": 9.956915855407715, + "learning_rate": 5.15235057803668e-07, + "loss": 0.1266, + "num_input_tokens_seen": 35099584, + "step": 17928 + }, + { + "epoch": 2.3762756792577866, + "grad_norm": 0.011720165610313416, + "learning_rate": 5.150240033804116e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35100448, + "step": 17929 + }, + { + "epoch": 2.3764082173624916, + "grad_norm": 29.025320053100586, + "learning_rate": 5.148129872288624e-07, + "loss": 0.2877, + "num_input_tokens_seen": 35102896, + "step": 17930 + }, + { + "epoch": 2.3765407554671967, + "grad_norm": 4.745757579803467, + "learning_rate": 5.146020093530882e-07, + "loss": 0.068, + "num_input_tokens_seen": 35104752, + "step": 17931 + }, + { + "epoch": 2.376673293571902, + "grad_norm": 5.560002326965332, + "learning_rate": 5.143910697571571e-07, + "loss": 0.0428, + "num_input_tokens_seen": 35106720, + "step": 17932 + }, + { + "epoch": 2.376805831676607, + "grad_norm": 0.0006894422695040703, + "learning_rate": 5.141801684451353e-07, + "loss": 0.0, + "num_input_tokens_seen": 35108136, + "step": 17933 + }, + { + "epoch": 2.3769383697813122, + "grad_norm": 0.004063890781253576, + "learning_rate": 5.139693054210895e-07, + "loss": 0.0, + "num_input_tokens_seen": 35109344, + "step": 17934 + }, + { + "epoch": 2.3770709078860173, + "grad_norm": 2.4895477294921875, + "learning_rate": 5.137584806890866e-07, + "loss": 0.0061, + "num_input_tokens_seen": 35111176, + "step": 17935 + }, + { + "epoch": 2.3772034459907223, + "grad_norm": 0.04672565683722496, + "learning_rate": 5.135476942531903e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35113120, + "step": 17936 + }, + { + "epoch": 2.3773359840954273, + "grad_norm": 11.556010246276855, + "learning_rate": 5.133369461174647e-07, + "loss": 0.1202, + "num_input_tokens_seen": 35115736, + "step": 17937 + }, + { + "epoch": 2.3774685222001324, + "grad_norm": 1.7991528511047363, + "learning_rate": 5.131262362859738e-07, + "loss": 0.0392, + "num_input_tokens_seen": 35117408, + "step": 17938 + }, + { + "epoch": 2.377601060304838, + "grad_norm": 12.910868644714355, + "learning_rate": 5.129155647627787e-07, + "loss": 0.1214, + "num_input_tokens_seen": 35119496, + "step": 17939 + }, + { + "epoch": 2.377733598409543, + "grad_norm": 0.011820790357887745, + "learning_rate": 5.127049315519422e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35121976, + "step": 17940 + }, + { + "epoch": 2.377866136514248, + "grad_norm": 5.301743984222412, + "learning_rate": 5.124943366575263e-07, + "loss": 0.0559, + "num_input_tokens_seen": 35124528, + "step": 17941 + }, + { + "epoch": 2.377998674618953, + "grad_norm": 0.08360441029071808, + "learning_rate": 5.122837800835909e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35126296, + "step": 17942 + }, + { + "epoch": 2.378131212723658, + "grad_norm": 0.007838529534637928, + "learning_rate": 5.120732618341956e-07, + "loss": 0.0, + "num_input_tokens_seen": 35128448, + "step": 17943 + }, + { + "epoch": 2.378263750828363, + "grad_norm": 3.1454050540924072, + "learning_rate": 5.118627819133981e-07, + "loss": 0.0371, + "num_input_tokens_seen": 35130176, + "step": 17944 + }, + { + "epoch": 2.378396288933068, + "grad_norm": 0.10389475524425507, + "learning_rate": 5.116523403252588e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35132152, + "step": 17945 + }, + { + "epoch": 2.3785288270377736, + "grad_norm": 1.531826138496399, + "learning_rate": 5.11441937073833e-07, + "loss": 0.0071, + "num_input_tokens_seen": 35134392, + "step": 17946 + }, + { + "epoch": 2.3786613651424786, + "grad_norm": 9.040937423706055, + "learning_rate": 5.112315721631795e-07, + "loss": 0.0807, + "num_input_tokens_seen": 35136856, + "step": 17947 + }, + { + "epoch": 2.3787939032471836, + "grad_norm": 0.019851993769407272, + "learning_rate": 5.110212455973532e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35138552, + "step": 17948 + }, + { + "epoch": 2.3789264413518887, + "grad_norm": 2.7148897647857666, + "learning_rate": 5.108109573804085e-07, + "loss": 0.0255, + "num_input_tokens_seen": 35140792, + "step": 17949 + }, + { + "epoch": 2.3790589794565937, + "grad_norm": 0.0018293705070391297, + "learning_rate": 5.106007075164018e-07, + "loss": 0.0, + "num_input_tokens_seen": 35141992, + "step": 17950 + }, + { + "epoch": 2.3791915175612988, + "grad_norm": 10.630107879638672, + "learning_rate": 5.10390496009385e-07, + "loss": 0.1317, + "num_input_tokens_seen": 35144960, + "step": 17951 + }, + { + "epoch": 2.379324055666004, + "grad_norm": 0.5853550434112549, + "learning_rate": 5.101803228634127e-07, + "loss": 0.004, + "num_input_tokens_seen": 35146760, + "step": 17952 + }, + { + "epoch": 2.3794565937707093, + "grad_norm": 2.4751431941986084, + "learning_rate": 5.099701880825366e-07, + "loss": 0.0169, + "num_input_tokens_seen": 35148960, + "step": 17953 + }, + { + "epoch": 2.3795891318754143, + "grad_norm": 15.273058891296387, + "learning_rate": 5.097600916708081e-07, + "loss": 0.1693, + "num_input_tokens_seen": 35150912, + "step": 17954 + }, + { + "epoch": 2.3797216699801194, + "grad_norm": 0.010250061750411987, + "learning_rate": 5.095500336322772e-07, + "loss": 0.0, + "num_input_tokens_seen": 35152320, + "step": 17955 + }, + { + "epoch": 2.3798542080848244, + "grad_norm": 0.0028061058837920427, + "learning_rate": 5.093400139709956e-07, + "loss": 0.0, + "num_input_tokens_seen": 35154024, + "step": 17956 + }, + { + "epoch": 2.3799867461895294, + "grad_norm": 0.008211425505578518, + "learning_rate": 5.091300326910112e-07, + "loss": 0.0, + "num_input_tokens_seen": 35155424, + "step": 17957 + }, + { + "epoch": 2.3801192842942345, + "grad_norm": 6.763659954071045, + "learning_rate": 5.089200897963736e-07, + "loss": 0.054, + "num_input_tokens_seen": 35157520, + "step": 17958 + }, + { + "epoch": 2.3802518223989395, + "grad_norm": 0.00388971040956676, + "learning_rate": 5.087101852911305e-07, + "loss": 0.0, + "num_input_tokens_seen": 35159736, + "step": 17959 + }, + { + "epoch": 2.380384360503645, + "grad_norm": 0.019698435440659523, + "learning_rate": 5.085003191793281e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35162384, + "step": 17960 + }, + { + "epoch": 2.38051689860835, + "grad_norm": 8.145330429077148, + "learning_rate": 5.082904914650139e-07, + "loss": 0.0431, + "num_input_tokens_seen": 35164688, + "step": 17961 + }, + { + "epoch": 2.380649436713055, + "grad_norm": 27.213287353515625, + "learning_rate": 5.080807021522332e-07, + "loss": 0.317, + "num_input_tokens_seen": 35167208, + "step": 17962 + }, + { + "epoch": 2.38078197481776, + "grad_norm": 1.1561954021453857, + "learning_rate": 5.0787095124503e-07, + "loss": 0.0031, + "num_input_tokens_seen": 35168752, + "step": 17963 + }, + { + "epoch": 2.380914512922465, + "grad_norm": 5.090138912200928, + "learning_rate": 5.076612387474497e-07, + "loss": 0.0269, + "num_input_tokens_seen": 35170752, + "step": 17964 + }, + { + "epoch": 2.38104705102717, + "grad_norm": 7.058280944824219, + "learning_rate": 5.074515646635348e-07, + "loss": 0.169, + "num_input_tokens_seen": 35172608, + "step": 17965 + }, + { + "epoch": 2.381179589131875, + "grad_norm": 0.06047163903713226, + "learning_rate": 5.072419289973285e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35174192, + "step": 17966 + }, + { + "epoch": 2.3813121272365807, + "grad_norm": 9.287342071533203, + "learning_rate": 5.07032331752873e-07, + "loss": 0.057, + "num_input_tokens_seen": 35175912, + "step": 17967 + }, + { + "epoch": 2.3814446653412857, + "grad_norm": 0.004644722677767277, + "learning_rate": 5.068227729342087e-07, + "loss": 0.0, + "num_input_tokens_seen": 35177384, + "step": 17968 + }, + { + "epoch": 2.3815772034459908, + "grad_norm": 2.6040971279144287, + "learning_rate": 5.06613252545376e-07, + "loss": 0.0165, + "num_input_tokens_seen": 35179480, + "step": 17969 + }, + { + "epoch": 2.381709741550696, + "grad_norm": 0.4529944360256195, + "learning_rate": 5.064037705904145e-07, + "loss": 0.0014, + "num_input_tokens_seen": 35180792, + "step": 17970 + }, + { + "epoch": 2.381842279655401, + "grad_norm": 0.011084871366620064, + "learning_rate": 5.061943270733647e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35183032, + "step": 17971 + }, + { + "epoch": 2.381974817760106, + "grad_norm": 0.0010478443000465631, + "learning_rate": 5.059849219982637e-07, + "loss": 0.0, + "num_input_tokens_seen": 35184392, + "step": 17972 + }, + { + "epoch": 2.382107355864811, + "grad_norm": 0.01291678473353386, + "learning_rate": 5.057755553691488e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35186064, + "step": 17973 + }, + { + "epoch": 2.3822398939695164, + "grad_norm": 0.2940012216567993, + "learning_rate": 5.055662271900571e-07, + "loss": 0.0018, + "num_input_tokens_seen": 35188208, + "step": 17974 + }, + { + "epoch": 2.3823724320742214, + "grad_norm": 0.0004471022402867675, + "learning_rate": 5.053569374650239e-07, + "loss": 0.0, + "num_input_tokens_seen": 35189328, + "step": 17975 + }, + { + "epoch": 2.3825049701789265, + "grad_norm": 0.07502160221338272, + "learning_rate": 5.051476861980847e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35191320, + "step": 17976 + }, + { + "epoch": 2.3826375082836315, + "grad_norm": 2.128720283508301, + "learning_rate": 5.04938473393275e-07, + "loss": 0.0076, + "num_input_tokens_seen": 35193352, + "step": 17977 + }, + { + "epoch": 2.3827700463883366, + "grad_norm": 1.0366307497024536, + "learning_rate": 5.047292990546279e-07, + "loss": 0.0035, + "num_input_tokens_seen": 35195296, + "step": 17978 + }, + { + "epoch": 2.3829025844930416, + "grad_norm": 18.773576736450195, + "learning_rate": 5.045201631861762e-07, + "loss": 0.1827, + "num_input_tokens_seen": 35196928, + "step": 17979 + }, + { + "epoch": 2.3830351225977466, + "grad_norm": 0.2759280502796173, + "learning_rate": 5.04311065791952e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35198584, + "step": 17980 + }, + { + "epoch": 2.383167660702452, + "grad_norm": 0.12578228116035461, + "learning_rate": 5.041020068759872e-07, + "loss": 0.001, + "num_input_tokens_seen": 35200152, + "step": 17981 + }, + { + "epoch": 2.383300198807157, + "grad_norm": 5.767873287200928, + "learning_rate": 5.038929864423131e-07, + "loss": 0.0657, + "num_input_tokens_seen": 35201896, + "step": 17982 + }, + { + "epoch": 2.383432736911862, + "grad_norm": 1.2965185642242432, + "learning_rate": 5.036840044949593e-07, + "loss": 0.0065, + "num_input_tokens_seen": 35204400, + "step": 17983 + }, + { + "epoch": 2.3835652750165672, + "grad_norm": 0.08428892493247986, + "learning_rate": 5.034750610379552e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35205976, + "step": 17984 + }, + { + "epoch": 2.3836978131212723, + "grad_norm": 0.0033565452322363853, + "learning_rate": 5.03266156075329e-07, + "loss": 0.0, + "num_input_tokens_seen": 35207136, + "step": 17985 + }, + { + "epoch": 2.3838303512259773, + "grad_norm": 20.848039627075195, + "learning_rate": 5.030572896111083e-07, + "loss": 0.4158, + "num_input_tokens_seen": 35209056, + "step": 17986 + }, + { + "epoch": 2.3839628893306823, + "grad_norm": 0.0039758263155817986, + "learning_rate": 5.028484616493206e-07, + "loss": 0.0, + "num_input_tokens_seen": 35210576, + "step": 17987 + }, + { + "epoch": 2.384095427435388, + "grad_norm": 0.051597170531749725, + "learning_rate": 5.02639672193993e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35213472, + "step": 17988 + }, + { + "epoch": 2.384227965540093, + "grad_norm": 7.71702241897583, + "learning_rate": 5.024309212491507e-07, + "loss": 0.1154, + "num_input_tokens_seen": 35214656, + "step": 17989 + }, + { + "epoch": 2.384360503644798, + "grad_norm": 0.05339091643691063, + "learning_rate": 5.022222088188181e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35216120, + "step": 17990 + }, + { + "epoch": 2.384493041749503, + "grad_norm": 4.701279163360596, + "learning_rate": 5.020135349070188e-07, + "loss": 0.0208, + "num_input_tokens_seen": 35217824, + "step": 17991 + }, + { + "epoch": 2.384625579854208, + "grad_norm": 0.05870716646313667, + "learning_rate": 5.018048995177774e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35220152, + "step": 17992 + }, + { + "epoch": 2.384758117958913, + "grad_norm": 0.023498330265283585, + "learning_rate": 5.015963026551154e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35221680, + "step": 17993 + }, + { + "epoch": 2.384890656063618, + "grad_norm": 0.011212069541215897, + "learning_rate": 5.013877443230563e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35222912, + "step": 17994 + }, + { + "epoch": 2.3850231941683235, + "grad_norm": 4.699239253997803, + "learning_rate": 5.0117922452562e-07, + "loss": 0.0257, + "num_input_tokens_seen": 35224592, + "step": 17995 + }, + { + "epoch": 2.3851557322730286, + "grad_norm": 0.34986379742622375, + "learning_rate": 5.009707432668265e-07, + "loss": 0.0026, + "num_input_tokens_seen": 35227224, + "step": 17996 + }, + { + "epoch": 2.3852882703777336, + "grad_norm": 0.06769727170467377, + "learning_rate": 5.007623005506971e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35229136, + "step": 17997 + }, + { + "epoch": 2.3854208084824386, + "grad_norm": 0.008928444236516953, + "learning_rate": 5.005538963812493e-07, + "loss": 0.0, + "num_input_tokens_seen": 35230864, + "step": 17998 + }, + { + "epoch": 2.3855533465871437, + "grad_norm": 1.4347572326660156, + "learning_rate": 5.003455307625013e-07, + "loss": 0.0038, + "num_input_tokens_seen": 35232392, + "step": 17999 + }, + { + "epoch": 2.3856858846918487, + "grad_norm": 0.0009519436280243099, + "learning_rate": 5.001372036984717e-07, + "loss": 0.0, + "num_input_tokens_seen": 35233888, + "step": 18000 + }, + { + "epoch": 2.3858184227965538, + "grad_norm": 0.19126462936401367, + "learning_rate": 4.999289151931755e-07, + "loss": 0.0016, + "num_input_tokens_seen": 35235856, + "step": 18001 + }, + { + "epoch": 2.3859509609012592, + "grad_norm": 1.900070071220398, + "learning_rate": 4.997206652506303e-07, + "loss": 0.0222, + "num_input_tokens_seen": 35238312, + "step": 18002 + }, + { + "epoch": 2.3860834990059643, + "grad_norm": 0.0020103466231375933, + "learning_rate": 4.995124538748508e-07, + "loss": 0.0, + "num_input_tokens_seen": 35239352, + "step": 18003 + }, + { + "epoch": 2.3862160371106693, + "grad_norm": 3.927797317504883, + "learning_rate": 4.993042810698507e-07, + "loss": 0.0412, + "num_input_tokens_seen": 35241336, + "step": 18004 + }, + { + "epoch": 2.3863485752153744, + "grad_norm": 6.308338642120361, + "learning_rate": 4.990961468396446e-07, + "loss": 0.0379, + "num_input_tokens_seen": 35243040, + "step": 18005 + }, + { + "epoch": 2.3864811133200794, + "grad_norm": 0.0027931940276175737, + "learning_rate": 4.988880511882447e-07, + "loss": 0.0, + "num_input_tokens_seen": 35244544, + "step": 18006 + }, + { + "epoch": 2.3866136514247844, + "grad_norm": 0.0005692624254152179, + "learning_rate": 4.986799941196643e-07, + "loss": 0.0, + "num_input_tokens_seen": 35245904, + "step": 18007 + }, + { + "epoch": 2.38674618952949, + "grad_norm": 0.8246408700942993, + "learning_rate": 4.984719756379141e-07, + "loss": 0.0058, + "num_input_tokens_seen": 35247760, + "step": 18008 + }, + { + "epoch": 2.386878727634195, + "grad_norm": 4.985980033874512, + "learning_rate": 4.98263995747005e-07, + "loss": 0.1092, + "num_input_tokens_seen": 35250064, + "step": 18009 + }, + { + "epoch": 2.3870112657389, + "grad_norm": 8.307755470275879, + "learning_rate": 4.980560544509467e-07, + "loss": 0.0233, + "num_input_tokens_seen": 35251792, + "step": 18010 + }, + { + "epoch": 2.387143803843605, + "grad_norm": 2.374363899230957, + "learning_rate": 4.97848151753749e-07, + "loss": 0.0041, + "num_input_tokens_seen": 35253312, + "step": 18011 + }, + { + "epoch": 2.38727634194831, + "grad_norm": 0.2714846432209015, + "learning_rate": 4.976402876594196e-07, + "loss": 0.0025, + "num_input_tokens_seen": 35255408, + "step": 18012 + }, + { + "epoch": 2.387408880053015, + "grad_norm": 1.2457352876663208, + "learning_rate": 4.974324621719676e-07, + "loss": 0.0015, + "num_input_tokens_seen": 35256760, + "step": 18013 + }, + { + "epoch": 2.3875414181577206, + "grad_norm": 0.08192801475524902, + "learning_rate": 4.972246752953991e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35258120, + "step": 18014 + }, + { + "epoch": 2.3876739562624256, + "grad_norm": 7.829074382781982, + "learning_rate": 4.970169270337205e-07, + "loss": 0.1039, + "num_input_tokens_seen": 35260672, + "step": 18015 + }, + { + "epoch": 2.3878064943671307, + "grad_norm": 0.00040108885150402784, + "learning_rate": 4.968092173909367e-07, + "loss": 0.0, + "num_input_tokens_seen": 35261984, + "step": 18016 + }, + { + "epoch": 2.3879390324718357, + "grad_norm": 0.026104629039764404, + "learning_rate": 4.96601546371053e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35263496, + "step": 18017 + }, + { + "epoch": 2.3880715705765407, + "grad_norm": 1.5895689725875854, + "learning_rate": 4.963939139780743e-07, + "loss": 0.0134, + "num_input_tokens_seen": 35265152, + "step": 18018 + }, + { + "epoch": 2.3882041086812458, + "grad_norm": 0.054714106023311615, + "learning_rate": 4.961863202160033e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35267224, + "step": 18019 + }, + { + "epoch": 2.388336646785951, + "grad_norm": 0.39415812492370605, + "learning_rate": 4.959787650888423e-07, + "loss": 0.002, + "num_input_tokens_seen": 35268608, + "step": 18020 + }, + { + "epoch": 2.3884691848906563, + "grad_norm": 6.771104335784912, + "learning_rate": 4.957712486005933e-07, + "loss": 0.0345, + "num_input_tokens_seen": 35271072, + "step": 18021 + }, + { + "epoch": 2.3886017229953613, + "grad_norm": 0.0914878249168396, + "learning_rate": 4.955637707552565e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35274304, + "step": 18022 + }, + { + "epoch": 2.3887342611000664, + "grad_norm": 12.44843578338623, + "learning_rate": 4.95356331556833e-07, + "loss": 0.1105, + "num_input_tokens_seen": 35276080, + "step": 18023 + }, + { + "epoch": 2.3888667992047714, + "grad_norm": 0.018801383674144745, + "learning_rate": 4.951489310093229e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35278400, + "step": 18024 + }, + { + "epoch": 2.3889993373094764, + "grad_norm": 1.5168118476867676, + "learning_rate": 4.949415691167248e-07, + "loss": 0.0072, + "num_input_tokens_seen": 35281000, + "step": 18025 + }, + { + "epoch": 2.3891318754141815, + "grad_norm": 1.2630919218063354, + "learning_rate": 4.947342458830362e-07, + "loss": 0.0035, + "num_input_tokens_seen": 35283512, + "step": 18026 + }, + { + "epoch": 2.3892644135188865, + "grad_norm": 6.789336204528809, + "learning_rate": 4.945269613122541e-07, + "loss": 0.0633, + "num_input_tokens_seen": 35285888, + "step": 18027 + }, + { + "epoch": 2.389396951623592, + "grad_norm": 3.4781599044799805, + "learning_rate": 4.943197154083765e-07, + "loss": 0.0615, + "num_input_tokens_seen": 35287712, + "step": 18028 + }, + { + "epoch": 2.389529489728297, + "grad_norm": 3.359518527984619, + "learning_rate": 4.941125081753976e-07, + "loss": 0.0166, + "num_input_tokens_seen": 35289416, + "step": 18029 + }, + { + "epoch": 2.389662027833002, + "grad_norm": 0.02825923264026642, + "learning_rate": 4.93905339617314e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35291576, + "step": 18030 + }, + { + "epoch": 2.389794565937707, + "grad_norm": 0.02149035781621933, + "learning_rate": 4.936982097381193e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35293720, + "step": 18031 + }, + { + "epoch": 2.389927104042412, + "grad_norm": 1.1241884231567383, + "learning_rate": 4.934911185418067e-07, + "loss": 0.0117, + "num_input_tokens_seen": 35295640, + "step": 18032 + }, + { + "epoch": 2.390059642147117, + "grad_norm": 1.6864402294158936, + "learning_rate": 4.932840660323704e-07, + "loss": 0.0055, + "num_input_tokens_seen": 35298008, + "step": 18033 + }, + { + "epoch": 2.3901921802518222, + "grad_norm": 0.28321102261543274, + "learning_rate": 4.930770522138006e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35300616, + "step": 18034 + }, + { + "epoch": 2.3903247183565277, + "grad_norm": 2.5125503540039062, + "learning_rate": 4.928700770900907e-07, + "loss": 0.0148, + "num_input_tokens_seen": 35302488, + "step": 18035 + }, + { + "epoch": 2.3904572564612327, + "grad_norm": 0.0071412259712815285, + "learning_rate": 4.926631406652302e-07, + "loss": 0.0, + "num_input_tokens_seen": 35304448, + "step": 18036 + }, + { + "epoch": 2.390589794565938, + "grad_norm": 1.1198303699493408, + "learning_rate": 4.924562429432087e-07, + "loss": 0.002, + "num_input_tokens_seen": 35306392, + "step": 18037 + }, + { + "epoch": 2.390722332670643, + "grad_norm": 10.347325325012207, + "learning_rate": 4.922493839280162e-07, + "loss": 0.114, + "num_input_tokens_seen": 35308816, + "step": 18038 + }, + { + "epoch": 2.390854870775348, + "grad_norm": 5.873945236206055, + "learning_rate": 4.920425636236406e-07, + "loss": 0.0505, + "num_input_tokens_seen": 35311312, + "step": 18039 + }, + { + "epoch": 2.390987408880053, + "grad_norm": 14.954638481140137, + "learning_rate": 4.918357820340691e-07, + "loss": 0.08, + "num_input_tokens_seen": 35313320, + "step": 18040 + }, + { + "epoch": 2.391119946984758, + "grad_norm": 0.0013999970396980643, + "learning_rate": 4.916290391632897e-07, + "loss": 0.0, + "num_input_tokens_seen": 35314648, + "step": 18041 + }, + { + "epoch": 2.3912524850894634, + "grad_norm": 6.466757297515869, + "learning_rate": 4.914223350152878e-07, + "loss": 0.089, + "num_input_tokens_seen": 35316752, + "step": 18042 + }, + { + "epoch": 2.3913850231941685, + "grad_norm": 11.982085227966309, + "learning_rate": 4.912156695940484e-07, + "loss": 0.2459, + "num_input_tokens_seen": 35319048, + "step": 18043 + }, + { + "epoch": 2.3915175612988735, + "grad_norm": 8.030454635620117, + "learning_rate": 4.910090429035575e-07, + "loss": 0.0442, + "num_input_tokens_seen": 35321152, + "step": 18044 + }, + { + "epoch": 2.3916500994035785, + "grad_norm": 1.0896844863891602, + "learning_rate": 4.90802454947798e-07, + "loss": 0.006, + "num_input_tokens_seen": 35322944, + "step": 18045 + }, + { + "epoch": 2.3917826375082836, + "grad_norm": 0.01842232048511505, + "learning_rate": 4.905959057307525e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35325872, + "step": 18046 + }, + { + "epoch": 2.3919151756129886, + "grad_norm": 2.0054469108581543, + "learning_rate": 4.903893952564049e-07, + "loss": 0.0131, + "num_input_tokens_seen": 35328032, + "step": 18047 + }, + { + "epoch": 2.3920477137176936, + "grad_norm": 5.685820579528809, + "learning_rate": 4.901829235287356e-07, + "loss": 0.0998, + "num_input_tokens_seen": 35330712, + "step": 18048 + }, + { + "epoch": 2.392180251822399, + "grad_norm": 0.6882884502410889, + "learning_rate": 4.899764905517265e-07, + "loss": 0.0009, + "num_input_tokens_seen": 35332624, + "step": 18049 + }, + { + "epoch": 2.392312789927104, + "grad_norm": 0.051814790815114975, + "learning_rate": 4.897700963293572e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35334872, + "step": 18050 + }, + { + "epoch": 2.392445328031809, + "grad_norm": 0.00880675483494997, + "learning_rate": 4.895637408656075e-07, + "loss": 0.0, + "num_input_tokens_seen": 35338232, + "step": 18051 + }, + { + "epoch": 2.3925778661365142, + "grad_norm": 0.015536037273705006, + "learning_rate": 4.89357424164455e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35340032, + "step": 18052 + }, + { + "epoch": 2.3927104042412193, + "grad_norm": 6.628492832183838, + "learning_rate": 4.891511462298784e-07, + "loss": 0.0855, + "num_input_tokens_seen": 35342624, + "step": 18053 + }, + { + "epoch": 2.3928429423459243, + "grad_norm": 8.933393478393555, + "learning_rate": 4.889449070658558e-07, + "loss": 0.1109, + "num_input_tokens_seen": 35344496, + "step": 18054 + }, + { + "epoch": 2.3929754804506294, + "grad_norm": 0.040000446140766144, + "learning_rate": 4.887387066763625e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35346080, + "step": 18055 + }, + { + "epoch": 2.393108018555335, + "grad_norm": 0.0006348509923554957, + "learning_rate": 4.885325450653747e-07, + "loss": 0.0, + "num_input_tokens_seen": 35347320, + "step": 18056 + }, + { + "epoch": 2.39324055666004, + "grad_norm": 2.0450828075408936, + "learning_rate": 4.883264222368661e-07, + "loss": 0.0125, + "num_input_tokens_seen": 35349328, + "step": 18057 + }, + { + "epoch": 2.393373094764745, + "grad_norm": 2.423931837081909, + "learning_rate": 4.881203381948121e-07, + "loss": 0.0036, + "num_input_tokens_seen": 35351672, + "step": 18058 + }, + { + "epoch": 2.39350563286945, + "grad_norm": 7.251317501068115, + "learning_rate": 4.879142929431863e-07, + "loss": 0.0996, + "num_input_tokens_seen": 35353376, + "step": 18059 + }, + { + "epoch": 2.393638170974155, + "grad_norm": 0.002008693525567651, + "learning_rate": 4.877082864859611e-07, + "loss": 0.0, + "num_input_tokens_seen": 35354744, + "step": 18060 + }, + { + "epoch": 2.39377070907886, + "grad_norm": 0.0003734497295226902, + "learning_rate": 4.875023188271085e-07, + "loss": 0.0, + "num_input_tokens_seen": 35356232, + "step": 18061 + }, + { + "epoch": 2.393903247183565, + "grad_norm": 0.4390147626399994, + "learning_rate": 4.872963899705996e-07, + "loss": 0.0021, + "num_input_tokens_seen": 35358208, + "step": 18062 + }, + { + "epoch": 2.3940357852882705, + "grad_norm": 0.10972969979047775, + "learning_rate": 4.87090499920404e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35359712, + "step": 18063 + }, + { + "epoch": 2.3941683233929756, + "grad_norm": 0.0017021679086610675, + "learning_rate": 4.86884648680492e-07, + "loss": 0.0, + "num_input_tokens_seen": 35361240, + "step": 18064 + }, + { + "epoch": 2.3943008614976806, + "grad_norm": 0.0034408760257065296, + "learning_rate": 4.866788362548336e-07, + "loss": 0.0, + "num_input_tokens_seen": 35363384, + "step": 18065 + }, + { + "epoch": 2.3944333996023857, + "grad_norm": 6.084743499755859, + "learning_rate": 4.864730626473962e-07, + "loss": 0.0302, + "num_input_tokens_seen": 35365480, + "step": 18066 + }, + { + "epoch": 2.3945659377070907, + "grad_norm": 0.0009702668758109212, + "learning_rate": 4.862673278621472e-07, + "loss": 0.0, + "num_input_tokens_seen": 35366976, + "step": 18067 + }, + { + "epoch": 2.3946984758117957, + "grad_norm": 0.8273171782493591, + "learning_rate": 4.860616319030534e-07, + "loss": 0.0027, + "num_input_tokens_seen": 35368600, + "step": 18068 + }, + { + "epoch": 2.3948310139165008, + "grad_norm": 13.322151184082031, + "learning_rate": 4.858559747740798e-07, + "loss": 0.2269, + "num_input_tokens_seen": 35371112, + "step": 18069 + }, + { + "epoch": 2.3949635520212063, + "grad_norm": 0.0008569032070226967, + "learning_rate": 4.856503564791926e-07, + "loss": 0.0, + "num_input_tokens_seen": 35372480, + "step": 18070 + }, + { + "epoch": 2.3950960901259113, + "grad_norm": 10.47722339630127, + "learning_rate": 4.85444777022357e-07, + "loss": 0.1041, + "num_input_tokens_seen": 35374320, + "step": 18071 + }, + { + "epoch": 2.3952286282306163, + "grad_norm": 4.897650718688965, + "learning_rate": 4.852392364075357e-07, + "loss": 0.0603, + "num_input_tokens_seen": 35376208, + "step": 18072 + }, + { + "epoch": 2.3953611663353214, + "grad_norm": 0.1023603081703186, + "learning_rate": 4.850337346386916e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35377888, + "step": 18073 + }, + { + "epoch": 2.3954937044400264, + "grad_norm": 0.007483744993805885, + "learning_rate": 4.848282717197866e-07, + "loss": 0.0, + "num_input_tokens_seen": 35380432, + "step": 18074 + }, + { + "epoch": 2.3956262425447314, + "grad_norm": 15.703322410583496, + "learning_rate": 4.846228476547837e-07, + "loss": 0.213, + "num_input_tokens_seen": 35381888, + "step": 18075 + }, + { + "epoch": 2.3957587806494365, + "grad_norm": 0.016008207574486732, + "learning_rate": 4.844174624476417e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35383520, + "step": 18076 + }, + { + "epoch": 2.395891318754142, + "grad_norm": 0.029001623392105103, + "learning_rate": 4.842121161023222e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35384928, + "step": 18077 + }, + { + "epoch": 2.396023856858847, + "grad_norm": 0.0028256913647055626, + "learning_rate": 4.840068086227837e-07, + "loss": 0.0, + "num_input_tokens_seen": 35386688, + "step": 18078 + }, + { + "epoch": 2.396156394963552, + "grad_norm": 0.0021167208906263113, + "learning_rate": 4.838015400129842e-07, + "loss": 0.0, + "num_input_tokens_seen": 35387960, + "step": 18079 + }, + { + "epoch": 2.396288933068257, + "grad_norm": 0.008040952496230602, + "learning_rate": 4.835963102768823e-07, + "loss": 0.0, + "num_input_tokens_seen": 35389696, + "step": 18080 + }, + { + "epoch": 2.396421471172962, + "grad_norm": 5.167471408843994, + "learning_rate": 4.83391119418434e-07, + "loss": 0.0479, + "num_input_tokens_seen": 35391584, + "step": 18081 + }, + { + "epoch": 2.396554009277667, + "grad_norm": 0.015606870874762535, + "learning_rate": 4.83185967441597e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35393152, + "step": 18082 + }, + { + "epoch": 2.396686547382372, + "grad_norm": 0.0010417028097435832, + "learning_rate": 4.829808543503256e-07, + "loss": 0.0, + "num_input_tokens_seen": 35394720, + "step": 18083 + }, + { + "epoch": 2.3968190854870777, + "grad_norm": 12.353904724121094, + "learning_rate": 4.827757801485744e-07, + "loss": 0.3407, + "num_input_tokens_seen": 35396064, + "step": 18084 + }, + { + "epoch": 2.3969516235917827, + "grad_norm": 0.0026123649440705776, + "learning_rate": 4.825707448402983e-07, + "loss": 0.0, + "num_input_tokens_seen": 35397248, + "step": 18085 + }, + { + "epoch": 2.3970841616964877, + "grad_norm": 9.295557022094727, + "learning_rate": 4.8236574842945e-07, + "loss": 0.1123, + "num_input_tokens_seen": 35398992, + "step": 18086 + }, + { + "epoch": 2.397216699801193, + "grad_norm": 0.011044790036976337, + "learning_rate": 4.821607909199813e-07, + "loss": 0.0, + "num_input_tokens_seen": 35400512, + "step": 18087 + }, + { + "epoch": 2.397349237905898, + "grad_norm": 12.825777053833008, + "learning_rate": 4.819558723158452e-07, + "loss": 0.0981, + "num_input_tokens_seen": 35401960, + "step": 18088 + }, + { + "epoch": 2.397481776010603, + "grad_norm": 2.2096049785614014, + "learning_rate": 4.817509926209915e-07, + "loss": 0.0071, + "num_input_tokens_seen": 35404072, + "step": 18089 + }, + { + "epoch": 2.3976143141153083, + "grad_norm": 3.461277961730957, + "learning_rate": 4.815461518393713e-07, + "loss": 0.0305, + "num_input_tokens_seen": 35406176, + "step": 18090 + }, + { + "epoch": 2.3977468522200134, + "grad_norm": 0.8326310515403748, + "learning_rate": 4.813413499749342e-07, + "loss": 0.0053, + "num_input_tokens_seen": 35407744, + "step": 18091 + }, + { + "epoch": 2.3978793903247184, + "grad_norm": 0.1329413205385208, + "learning_rate": 4.811365870316281e-07, + "loss": 0.0008, + "num_input_tokens_seen": 35409624, + "step": 18092 + }, + { + "epoch": 2.3980119284294235, + "grad_norm": 0.04257022216916084, + "learning_rate": 4.809318630134011e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35411664, + "step": 18093 + }, + { + "epoch": 2.3981444665341285, + "grad_norm": 0.1821708083152771, + "learning_rate": 4.807271779242004e-07, + "loss": 0.0009, + "num_input_tokens_seen": 35414072, + "step": 18094 + }, + { + "epoch": 2.3982770046388335, + "grad_norm": 5.76358699798584, + "learning_rate": 4.805225317679735e-07, + "loss": 0.0339, + "num_input_tokens_seen": 35416488, + "step": 18095 + }, + { + "epoch": 2.398409542743539, + "grad_norm": 13.017148971557617, + "learning_rate": 4.803179245486653e-07, + "loss": 0.1863, + "num_input_tokens_seen": 35418200, + "step": 18096 + }, + { + "epoch": 2.398542080848244, + "grad_norm": 7.730273723602295, + "learning_rate": 4.801133562702207e-07, + "loss": 0.1846, + "num_input_tokens_seen": 35419816, + "step": 18097 + }, + { + "epoch": 2.398674618952949, + "grad_norm": 2.7729527950286865, + "learning_rate": 4.799088269365842e-07, + "loss": 0.0062, + "num_input_tokens_seen": 35421520, + "step": 18098 + }, + { + "epoch": 2.398807157057654, + "grad_norm": 1.5554373264312744, + "learning_rate": 4.797043365516985e-07, + "loss": 0.003, + "num_input_tokens_seen": 35423816, + "step": 18099 + }, + { + "epoch": 2.398939695162359, + "grad_norm": 0.007829305715858936, + "learning_rate": 4.794998851195067e-07, + "loss": 0.0, + "num_input_tokens_seen": 35426056, + "step": 18100 + }, + { + "epoch": 2.399072233267064, + "grad_norm": 0.003956565633416176, + "learning_rate": 4.792954726439516e-07, + "loss": 0.0, + "num_input_tokens_seen": 35427320, + "step": 18101 + }, + { + "epoch": 2.3992047713717692, + "grad_norm": 0.22089898586273193, + "learning_rate": 4.790910991289741e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35429160, + "step": 18102 + }, + { + "epoch": 2.3993373094764747, + "grad_norm": 0.002144523896276951, + "learning_rate": 4.788867645785142e-07, + "loss": 0.0, + "num_input_tokens_seen": 35430880, + "step": 18103 + }, + { + "epoch": 2.3994698475811798, + "grad_norm": 1.5161532163619995, + "learning_rate": 4.786824689965119e-07, + "loss": 0.0101, + "num_input_tokens_seen": 35434080, + "step": 18104 + }, + { + "epoch": 2.399602385685885, + "grad_norm": 3.8733556270599365, + "learning_rate": 4.784782123869053e-07, + "loss": 0.0914, + "num_input_tokens_seen": 35437784, + "step": 18105 + }, + { + "epoch": 2.39973492379059, + "grad_norm": 0.0008409291040152311, + "learning_rate": 4.782739947536333e-07, + "loss": 0.0, + "num_input_tokens_seen": 35439264, + "step": 18106 + }, + { + "epoch": 2.399867461895295, + "grad_norm": 12.212885856628418, + "learning_rate": 4.780698161006342e-07, + "loss": 0.3253, + "num_input_tokens_seen": 35440960, + "step": 18107 + }, + { + "epoch": 2.4, + "grad_norm": 0.002437872113659978, + "learning_rate": 4.778656764318438e-07, + "loss": 0.0, + "num_input_tokens_seen": 35442304, + "step": 18108 + }, + { + "epoch": 2.400132538104705, + "grad_norm": 4.9556779861450195, + "learning_rate": 4.776615757511979e-07, + "loss": 0.0659, + "num_input_tokens_seen": 35444136, + "step": 18109 + }, + { + "epoch": 2.4002650762094104, + "grad_norm": 0.32914668321609497, + "learning_rate": 4.774575140626317e-07, + "loss": 0.0023, + "num_input_tokens_seen": 35446416, + "step": 18110 + }, + { + "epoch": 2.4003976143141155, + "grad_norm": 0.006213827058672905, + "learning_rate": 4.772534913700796e-07, + "loss": 0.0, + "num_input_tokens_seen": 35449088, + "step": 18111 + }, + { + "epoch": 2.4005301524188205, + "grad_norm": 0.001021114643663168, + "learning_rate": 4.770495076774764e-07, + "loss": 0.0, + "num_input_tokens_seen": 35450408, + "step": 18112 + }, + { + "epoch": 2.4006626905235255, + "grad_norm": 0.0019876467995345592, + "learning_rate": 4.768455629887544e-07, + "loss": 0.0, + "num_input_tokens_seen": 35451696, + "step": 18113 + }, + { + "epoch": 2.4007952286282306, + "grad_norm": 9.154934883117676, + "learning_rate": 4.7664165730784554e-07, + "loss": 0.1141, + "num_input_tokens_seen": 35453632, + "step": 18114 + }, + { + "epoch": 2.4009277667329356, + "grad_norm": 12.785589218139648, + "learning_rate": 4.764377906386805e-07, + "loss": 0.3063, + "num_input_tokens_seen": 35456144, + "step": 18115 + }, + { + "epoch": 2.4010603048376407, + "grad_norm": 0.00505057442933321, + "learning_rate": 4.762339629851917e-07, + "loss": 0.0, + "num_input_tokens_seen": 35457600, + "step": 18116 + }, + { + "epoch": 2.401192842942346, + "grad_norm": 8.348502159118652, + "learning_rate": 4.7603017435130766e-07, + "loss": 0.0453, + "num_input_tokens_seen": 35459672, + "step": 18117 + }, + { + "epoch": 2.401325381047051, + "grad_norm": 18.144914627075195, + "learning_rate": 4.758264247409586e-07, + "loss": 0.1553, + "num_input_tokens_seen": 35461768, + "step": 18118 + }, + { + "epoch": 2.401457919151756, + "grad_norm": 0.031061789020895958, + "learning_rate": 4.756227141580727e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35463224, + "step": 18119 + }, + { + "epoch": 2.4015904572564613, + "grad_norm": 12.244922637939453, + "learning_rate": 4.754190426065766e-07, + "loss": 0.164, + "num_input_tokens_seen": 35465320, + "step": 18120 + }, + { + "epoch": 2.4017229953611663, + "grad_norm": 12.03762149810791, + "learning_rate": 4.7521541009039855e-07, + "loss": 0.1964, + "num_input_tokens_seen": 35467776, + "step": 18121 + }, + { + "epoch": 2.4018555334658713, + "grad_norm": 7.465327262878418, + "learning_rate": 4.7501181661346455e-07, + "loss": 0.126, + "num_input_tokens_seen": 35470080, + "step": 18122 + }, + { + "epoch": 2.4019880715705764, + "grad_norm": 0.03978775069117546, + "learning_rate": 4.748082621796987e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35471816, + "step": 18123 + }, + { + "epoch": 2.402120609675282, + "grad_norm": 7.178983688354492, + "learning_rate": 4.746047467930276e-07, + "loss": 0.0627, + "num_input_tokens_seen": 35474584, + "step": 18124 + }, + { + "epoch": 2.402253147779987, + "grad_norm": 8.820255279541016, + "learning_rate": 4.7440127045737414e-07, + "loss": 0.0103, + "num_input_tokens_seen": 35476768, + "step": 18125 + }, + { + "epoch": 2.402385685884692, + "grad_norm": 13.912646293640137, + "learning_rate": 4.7419783317666087e-07, + "loss": 0.0864, + "num_input_tokens_seen": 35479400, + "step": 18126 + }, + { + "epoch": 2.402518223989397, + "grad_norm": 0.029091836884617805, + "learning_rate": 4.7399443495481145e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35481680, + "step": 18127 + }, + { + "epoch": 2.402650762094102, + "grad_norm": 0.05253088101744652, + "learning_rate": 4.7379107579574726e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35483344, + "step": 18128 + }, + { + "epoch": 2.402783300198807, + "grad_norm": 5.921629905700684, + "learning_rate": 4.73587755703388e-07, + "loss": 0.0234, + "num_input_tokens_seen": 35485528, + "step": 18129 + }, + { + "epoch": 2.402915838303512, + "grad_norm": 0.014086742885410786, + "learning_rate": 4.733844746816557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35487296, + "step": 18130 + }, + { + "epoch": 2.4030483764082176, + "grad_norm": 2.082362651824951, + "learning_rate": 4.731812327344681e-07, + "loss": 0.0131, + "num_input_tokens_seen": 35490160, + "step": 18131 + }, + { + "epoch": 2.4031809145129226, + "grad_norm": 1.1473093032836914, + "learning_rate": 4.7297802986574495e-07, + "loss": 0.0091, + "num_input_tokens_seen": 35492288, + "step": 18132 + }, + { + "epoch": 2.4033134526176276, + "grad_norm": 0.01222185231745243, + "learning_rate": 4.7277486607940403e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35494320, + "step": 18133 + }, + { + "epoch": 2.4034459907223327, + "grad_norm": 0.04856293648481369, + "learning_rate": 4.725717413793615e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35496248, + "step": 18134 + }, + { + "epoch": 2.4035785288270377, + "grad_norm": 0.06495780497789383, + "learning_rate": 4.723686557695351e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35497768, + "step": 18135 + }, + { + "epoch": 2.4037110669317427, + "grad_norm": 6.831676483154297, + "learning_rate": 4.72165609253839e-07, + "loss": 0.0228, + "num_input_tokens_seen": 35499680, + "step": 18136 + }, + { + "epoch": 2.403843605036448, + "grad_norm": 6.890519142150879, + "learning_rate": 4.7196260183618977e-07, + "loss": 0.0651, + "num_input_tokens_seen": 35502072, + "step": 18137 + }, + { + "epoch": 2.4039761431411533, + "grad_norm": 6.579684257507324, + "learning_rate": 4.7175963352050045e-07, + "loss": 0.1259, + "num_input_tokens_seen": 35503976, + "step": 18138 + }, + { + "epoch": 2.4041086812458583, + "grad_norm": 8.526119232177734, + "learning_rate": 4.7155670431068473e-07, + "loss": 0.1591, + "num_input_tokens_seen": 35506256, + "step": 18139 + }, + { + "epoch": 2.4042412193505633, + "grad_norm": 7.475154399871826, + "learning_rate": 4.713538142106544e-07, + "loss": 0.0607, + "num_input_tokens_seen": 35508368, + "step": 18140 + }, + { + "epoch": 2.4043737574552684, + "grad_norm": 3.8581767082214355, + "learning_rate": 4.711509632243222e-07, + "loss": 0.0513, + "num_input_tokens_seen": 35510272, + "step": 18141 + }, + { + "epoch": 2.4045062955599734, + "grad_norm": 0.49727436900138855, + "learning_rate": 4.709481513555994e-07, + "loss": 0.002, + "num_input_tokens_seen": 35511800, + "step": 18142 + }, + { + "epoch": 2.4046388336646785, + "grad_norm": 4.463983058929443, + "learning_rate": 4.7074537860839626e-07, + "loss": 0.0226, + "num_input_tokens_seen": 35513488, + "step": 18143 + }, + { + "epoch": 2.4047713717693835, + "grad_norm": 0.013124100863933563, + "learning_rate": 4.705426449866221e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35515504, + "step": 18144 + }, + { + "epoch": 2.404903909874089, + "grad_norm": 0.008876031264662743, + "learning_rate": 4.703399504941858e-07, + "loss": 0.0, + "num_input_tokens_seen": 35517288, + "step": 18145 + }, + { + "epoch": 2.405036447978794, + "grad_norm": 4.817626953125, + "learning_rate": 4.7013729513499475e-07, + "loss": 0.028, + "num_input_tokens_seen": 35519216, + "step": 18146 + }, + { + "epoch": 2.405168986083499, + "grad_norm": 0.09164362400770187, + "learning_rate": 4.699346789129569e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35521224, + "step": 18147 + }, + { + "epoch": 2.405301524188204, + "grad_norm": 0.1068929135799408, + "learning_rate": 4.697321018319795e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35522696, + "step": 18148 + }, + { + "epoch": 2.405434062292909, + "grad_norm": 0.0580691322684288, + "learning_rate": 4.6952956389596795e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35524368, + "step": 18149 + }, + { + "epoch": 2.405566600397614, + "grad_norm": 0.045484162867069244, + "learning_rate": 4.693270651088272e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35527416, + "step": 18150 + }, + { + "epoch": 2.405699138502319, + "grad_norm": 6.020226955413818, + "learning_rate": 4.6912460547446083e-07, + "loss": 0.1113, + "num_input_tokens_seen": 35529304, + "step": 18151 + }, + { + "epoch": 2.4058316766070247, + "grad_norm": 12.10814094543457, + "learning_rate": 4.6892218499677374e-07, + "loss": 0.1609, + "num_input_tokens_seen": 35531280, + "step": 18152 + }, + { + "epoch": 2.4059642147117297, + "grad_norm": 0.019423136487603188, + "learning_rate": 4.6871980367966724e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35532672, + "step": 18153 + }, + { + "epoch": 2.4060967528164348, + "grad_norm": 0.3122580647468567, + "learning_rate": 4.685174615270452e-07, + "loss": 0.0009, + "num_input_tokens_seen": 35535104, + "step": 18154 + }, + { + "epoch": 2.40622929092114, + "grad_norm": 4.540923595428467, + "learning_rate": 4.683151585428078e-07, + "loss": 0.0501, + "num_input_tokens_seen": 35536912, + "step": 18155 + }, + { + "epoch": 2.406361829025845, + "grad_norm": 0.8943704962730408, + "learning_rate": 4.6811289473085554e-07, + "loss": 0.0072, + "num_input_tokens_seen": 35538816, + "step": 18156 + }, + { + "epoch": 2.40649436713055, + "grad_norm": 3.107003927230835, + "learning_rate": 4.679106700950881e-07, + "loss": 0.0107, + "num_input_tokens_seen": 35540688, + "step": 18157 + }, + { + "epoch": 2.406626905235255, + "grad_norm": 0.045324575155973434, + "learning_rate": 4.677084846394053e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35542872, + "step": 18158 + }, + { + "epoch": 2.4067594433399604, + "grad_norm": 9.803524017333984, + "learning_rate": 4.675063383677042e-07, + "loss": 0.116, + "num_input_tokens_seen": 35544576, + "step": 18159 + }, + { + "epoch": 2.4068919814446654, + "grad_norm": 3.5478901863098145, + "learning_rate": 4.673042312838838e-07, + "loss": 0.0256, + "num_input_tokens_seen": 35546848, + "step": 18160 + }, + { + "epoch": 2.4070245195493705, + "grad_norm": 5.151865005493164, + "learning_rate": 4.671021633918399e-07, + "loss": 0.0338, + "num_input_tokens_seen": 35548656, + "step": 18161 + }, + { + "epoch": 2.4071570576540755, + "grad_norm": 11.641858100891113, + "learning_rate": 4.6690013469546825e-07, + "loss": 0.0836, + "num_input_tokens_seen": 35550144, + "step": 18162 + }, + { + "epoch": 2.4072895957587805, + "grad_norm": 0.2483617663383484, + "learning_rate": 4.666981451986652e-07, + "loss": 0.0019, + "num_input_tokens_seen": 35552232, + "step": 18163 + }, + { + "epoch": 2.4074221338634856, + "grad_norm": 2.4867842197418213, + "learning_rate": 4.66496194905324e-07, + "loss": 0.0223, + "num_input_tokens_seen": 35553696, + "step": 18164 + }, + { + "epoch": 2.4075546719681906, + "grad_norm": 0.1135510578751564, + "learning_rate": 4.6629428381933963e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35554904, + "step": 18165 + }, + { + "epoch": 2.407687210072896, + "grad_norm": 2.1824302673339844, + "learning_rate": 4.660924119446045e-07, + "loss": 0.0078, + "num_input_tokens_seen": 35556752, + "step": 18166 + }, + { + "epoch": 2.407819748177601, + "grad_norm": 8.605531692504883, + "learning_rate": 4.658905792850099e-07, + "loss": 0.0802, + "num_input_tokens_seen": 35558224, + "step": 18167 + }, + { + "epoch": 2.407952286282306, + "grad_norm": 0.0029591170605272055, + "learning_rate": 4.656887858444492e-07, + "loss": 0.0, + "num_input_tokens_seen": 35559680, + "step": 18168 + }, + { + "epoch": 2.408084824387011, + "grad_norm": 20.020736694335938, + "learning_rate": 4.6548703162681174e-07, + "loss": 0.1175, + "num_input_tokens_seen": 35560680, + "step": 18169 + }, + { + "epoch": 2.4082173624917163, + "grad_norm": 0.012199283577501774, + "learning_rate": 4.652853166359875e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35562544, + "step": 18170 + }, + { + "epoch": 2.4083499005964213, + "grad_norm": 0.05306343734264374, + "learning_rate": 4.650836408758666e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35565168, + "step": 18171 + }, + { + "epoch": 2.4084824387011263, + "grad_norm": 2.9107887744903564, + "learning_rate": 4.648820043503363e-07, + "loss": 0.0169, + "num_input_tokens_seen": 35567296, + "step": 18172 + }, + { + "epoch": 2.408614976805832, + "grad_norm": 0.0007972423336468637, + "learning_rate": 4.6468040706328543e-07, + "loss": 0.0, + "num_input_tokens_seen": 35569464, + "step": 18173 + }, + { + "epoch": 2.408747514910537, + "grad_norm": 0.023977655917406082, + "learning_rate": 4.644788490186003e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35571880, + "step": 18174 + }, + { + "epoch": 2.408880053015242, + "grad_norm": 0.35315513610839844, + "learning_rate": 4.642773302201675e-07, + "loss": 0.0023, + "num_input_tokens_seen": 35573312, + "step": 18175 + }, + { + "epoch": 2.409012591119947, + "grad_norm": 0.27598655223846436, + "learning_rate": 4.640758506718715e-07, + "loss": 0.0015, + "num_input_tokens_seen": 35575416, + "step": 18176 + }, + { + "epoch": 2.409145129224652, + "grad_norm": 0.06557110697031021, + "learning_rate": 4.6387441037759743e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35576904, + "step": 18177 + }, + { + "epoch": 2.409277667329357, + "grad_norm": 0.02413679100573063, + "learning_rate": 4.6367300934123006e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35579200, + "step": 18178 + }, + { + "epoch": 2.4094102054340625, + "grad_norm": 0.004373766016215086, + "learning_rate": 4.6347164756665175e-07, + "loss": 0.0, + "num_input_tokens_seen": 35580864, + "step": 18179 + }, + { + "epoch": 2.4095427435387675, + "grad_norm": 3.9342076778411865, + "learning_rate": 4.6327032505774526e-07, + "loss": 0.0045, + "num_input_tokens_seen": 35582200, + "step": 18180 + }, + { + "epoch": 2.4096752816434726, + "grad_norm": 3.4398348331451416, + "learning_rate": 4.630690418183917e-07, + "loss": 0.0164, + "num_input_tokens_seen": 35584816, + "step": 18181 + }, + { + "epoch": 2.4098078197481776, + "grad_norm": 0.015541591681540012, + "learning_rate": 4.6286779785247176e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35587200, + "step": 18182 + }, + { + "epoch": 2.4099403578528826, + "grad_norm": 0.014683382585644722, + "learning_rate": 4.62666593163866e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35588848, + "step": 18183 + }, + { + "epoch": 2.4100728959575877, + "grad_norm": 4.659676551818848, + "learning_rate": 4.6246542775645444e-07, + "loss": 0.0771, + "num_input_tokens_seen": 35590664, + "step": 18184 + }, + { + "epoch": 2.410205434062293, + "grad_norm": 8.4768705368042, + "learning_rate": 4.6226430163411496e-07, + "loss": 0.119, + "num_input_tokens_seen": 35592512, + "step": 18185 + }, + { + "epoch": 2.410337972166998, + "grad_norm": 0.028431642800569534, + "learning_rate": 4.620632148007256e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35594600, + "step": 18186 + }, + { + "epoch": 2.4104705102717032, + "grad_norm": 6.089627742767334, + "learning_rate": 4.618621672601628e-07, + "loss": 0.0082, + "num_input_tokens_seen": 35596680, + "step": 18187 + }, + { + "epoch": 2.4106030483764083, + "grad_norm": 2.853551149368286, + "learning_rate": 4.6166115901630336e-07, + "loss": 0.0231, + "num_input_tokens_seen": 35598704, + "step": 18188 + }, + { + "epoch": 2.4107355864811133, + "grad_norm": 0.8654852509498596, + "learning_rate": 4.6146019007302367e-07, + "loss": 0.004, + "num_input_tokens_seen": 35599864, + "step": 18189 + }, + { + "epoch": 2.4108681245858183, + "grad_norm": 0.0009166355594061315, + "learning_rate": 4.6125926043419756e-07, + "loss": 0.0, + "num_input_tokens_seen": 35601096, + "step": 18190 + }, + { + "epoch": 2.4110006626905234, + "grad_norm": 0.09492700546979904, + "learning_rate": 4.610583701036997e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35602792, + "step": 18191 + }, + { + "epoch": 2.411133200795229, + "grad_norm": 6.42224645614624, + "learning_rate": 4.6085751908540285e-07, + "loss": 0.0875, + "num_input_tokens_seen": 35604480, + "step": 18192 + }, + { + "epoch": 2.411265738899934, + "grad_norm": 0.0027386806905269623, + "learning_rate": 4.6065670738317914e-07, + "loss": 0.0, + "num_input_tokens_seen": 35606080, + "step": 18193 + }, + { + "epoch": 2.411398277004639, + "grad_norm": 1.2168889045715332, + "learning_rate": 4.604559350009011e-07, + "loss": 0.0063, + "num_input_tokens_seen": 35607584, + "step": 18194 + }, + { + "epoch": 2.411530815109344, + "grad_norm": 0.04797476530075073, + "learning_rate": 4.602552019424403e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35609128, + "step": 18195 + }, + { + "epoch": 2.411663353214049, + "grad_norm": 2.40864896774292, + "learning_rate": 4.6005450821166616e-07, + "loss": 0.0067, + "num_input_tokens_seen": 35611552, + "step": 18196 + }, + { + "epoch": 2.411795891318754, + "grad_norm": 5.762424945831299, + "learning_rate": 4.598538538124486e-07, + "loss": 0.0573, + "num_input_tokens_seen": 35612904, + "step": 18197 + }, + { + "epoch": 2.411928429423459, + "grad_norm": 0.02459900453686714, + "learning_rate": 4.596532387486555e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35614440, + "step": 18198 + }, + { + "epoch": 2.4120609675281646, + "grad_norm": 7.797262668609619, + "learning_rate": 4.594526630241558e-07, + "loss": 0.0256, + "num_input_tokens_seen": 35616440, + "step": 18199 + }, + { + "epoch": 2.4121935056328696, + "grad_norm": 9.702192306518555, + "learning_rate": 4.592521266428163e-07, + "loss": 0.2826, + "num_input_tokens_seen": 35619856, + "step": 18200 + }, + { + "epoch": 2.4123260437375746, + "grad_norm": 0.0009254252654500306, + "learning_rate": 4.5905162960850403e-07, + "loss": 0.0, + "num_input_tokens_seen": 35621192, + "step": 18201 + }, + { + "epoch": 2.4124585818422797, + "grad_norm": 0.16143274307250977, + "learning_rate": 4.588511719250843e-07, + "loss": 0.0011, + "num_input_tokens_seen": 35624992, + "step": 18202 + }, + { + "epoch": 2.4125911199469847, + "grad_norm": 0.5152807235717773, + "learning_rate": 4.586507535964216e-07, + "loss": 0.0019, + "num_input_tokens_seen": 35627192, + "step": 18203 + }, + { + "epoch": 2.4127236580516898, + "grad_norm": 1.4740726947784424, + "learning_rate": 4.5845037462638104e-07, + "loss": 0.0102, + "num_input_tokens_seen": 35629392, + "step": 18204 + }, + { + "epoch": 2.412856196156395, + "grad_norm": 0.008987060748040676, + "learning_rate": 4.58250035018826e-07, + "loss": 0.0, + "num_input_tokens_seen": 35630704, + "step": 18205 + }, + { + "epoch": 2.4129887342611003, + "grad_norm": 13.788135528564453, + "learning_rate": 4.580497347776178e-07, + "loss": 0.0991, + "num_input_tokens_seen": 35632728, + "step": 18206 + }, + { + "epoch": 2.4131212723658053, + "grad_norm": 6.456593990325928, + "learning_rate": 4.5784947390662027e-07, + "loss": 0.0946, + "num_input_tokens_seen": 35634696, + "step": 18207 + }, + { + "epoch": 2.4132538104705104, + "grad_norm": 0.009794460609555244, + "learning_rate": 4.5764925240969285e-07, + "loss": 0.0, + "num_input_tokens_seen": 35636832, + "step": 18208 + }, + { + "epoch": 2.4133863485752154, + "grad_norm": 0.0008709046524018049, + "learning_rate": 4.574490702906978e-07, + "loss": 0.0, + "num_input_tokens_seen": 35638800, + "step": 18209 + }, + { + "epoch": 2.4135188866799204, + "grad_norm": 7.6576247215271, + "learning_rate": 4.5724892755349333e-07, + "loss": 0.0746, + "num_input_tokens_seen": 35640784, + "step": 18210 + }, + { + "epoch": 2.4136514247846255, + "grad_norm": 4.782994747161865, + "learning_rate": 4.570488242019391e-07, + "loss": 0.0712, + "num_input_tokens_seen": 35643632, + "step": 18211 + }, + { + "epoch": 2.4137839628893305, + "grad_norm": 1.3521519899368286, + "learning_rate": 4.5684876023989187e-07, + "loss": 0.0057, + "num_input_tokens_seen": 35645496, + "step": 18212 + }, + { + "epoch": 2.413916500994036, + "grad_norm": 4.821298122406006, + "learning_rate": 4.56648735671211e-07, + "loss": 0.0156, + "num_input_tokens_seen": 35647336, + "step": 18213 + }, + { + "epoch": 2.414049039098741, + "grad_norm": 4.241542339324951, + "learning_rate": 4.564487504997514e-07, + "loss": 0.0314, + "num_input_tokens_seen": 35649984, + "step": 18214 + }, + { + "epoch": 2.414181577203446, + "grad_norm": 8.686492919921875, + "learning_rate": 4.562488047293703e-07, + "loss": 0.1723, + "num_input_tokens_seen": 35651944, + "step": 18215 + }, + { + "epoch": 2.414314115308151, + "grad_norm": 1.873984456062317, + "learning_rate": 4.560488983639222e-07, + "loss": 0.0031, + "num_input_tokens_seen": 35653344, + "step": 18216 + }, + { + "epoch": 2.414446653412856, + "grad_norm": 0.006413490977138281, + "learning_rate": 4.5584903140726083e-07, + "loss": 0.0, + "num_input_tokens_seen": 35655216, + "step": 18217 + }, + { + "epoch": 2.414579191517561, + "grad_norm": 0.0023879469372332096, + "learning_rate": 4.5564920386324066e-07, + "loss": 0.0, + "num_input_tokens_seen": 35656392, + "step": 18218 + }, + { + "epoch": 2.414711729622266, + "grad_norm": 0.013316905125975609, + "learning_rate": 4.5544941573571393e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35657976, + "step": 18219 + }, + { + "epoch": 2.4148442677269717, + "grad_norm": 0.08912398666143417, + "learning_rate": 4.552496670285333e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35660544, + "step": 18220 + }, + { + "epoch": 2.4149768058316767, + "grad_norm": 4.048020839691162, + "learning_rate": 4.550499577455497e-07, + "loss": 0.0409, + "num_input_tokens_seen": 35661784, + "step": 18221 + }, + { + "epoch": 2.4151093439363818, + "grad_norm": 0.10014895349740982, + "learning_rate": 4.5485028789061386e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35664536, + "step": 18222 + }, + { + "epoch": 2.415241882041087, + "grad_norm": 2.833055019378662, + "learning_rate": 4.546506574675744e-07, + "loss": 0.0241, + "num_input_tokens_seen": 35667472, + "step": 18223 + }, + { + "epoch": 2.415374420145792, + "grad_norm": 10.043545722961426, + "learning_rate": 4.544510664802815e-07, + "loss": 0.2494, + "num_input_tokens_seen": 35669792, + "step": 18224 + }, + { + "epoch": 2.415506958250497, + "grad_norm": 0.24592944979667664, + "learning_rate": 4.5425151493258377e-07, + "loss": 0.0012, + "num_input_tokens_seen": 35672056, + "step": 18225 + }, + { + "epoch": 2.415639496355202, + "grad_norm": 8.025667190551758, + "learning_rate": 4.5405200282832795e-07, + "loss": 0.078, + "num_input_tokens_seen": 35673632, + "step": 18226 + }, + { + "epoch": 2.4157720344599074, + "grad_norm": 7.607851982116699, + "learning_rate": 4.5385253017136114e-07, + "loss": 0.0639, + "num_input_tokens_seen": 35675856, + "step": 18227 + }, + { + "epoch": 2.4159045725646124, + "grad_norm": 0.05425567552447319, + "learning_rate": 4.5365309696552925e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35677888, + "step": 18228 + }, + { + "epoch": 2.4160371106693175, + "grad_norm": 2.7542035579681396, + "learning_rate": 4.534537032146763e-07, + "loss": 0.0266, + "num_input_tokens_seen": 35681464, + "step": 18229 + }, + { + "epoch": 2.4161696487740225, + "grad_norm": 0.04528532922267914, + "learning_rate": 4.5325434892264817e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35682960, + "step": 18230 + }, + { + "epoch": 2.4163021868787276, + "grad_norm": 14.158076286315918, + "learning_rate": 4.530550340932885e-07, + "loss": 0.1303, + "num_input_tokens_seen": 35685704, + "step": 18231 + }, + { + "epoch": 2.4164347249834326, + "grad_norm": 5.1780171394348145, + "learning_rate": 4.5285575873044025e-07, + "loss": 0.0429, + "num_input_tokens_seen": 35687456, + "step": 18232 + }, + { + "epoch": 2.4165672630881376, + "grad_norm": 7.798304557800293, + "learning_rate": 4.5265652283794483e-07, + "loss": 0.0324, + "num_input_tokens_seen": 35689232, + "step": 18233 + }, + { + "epoch": 2.416699801192843, + "grad_norm": 0.0011623292230069637, + "learning_rate": 4.5245732641964384e-07, + "loss": 0.0, + "num_input_tokens_seen": 35690800, + "step": 18234 + }, + { + "epoch": 2.416832339297548, + "grad_norm": 0.032207831740379333, + "learning_rate": 4.5225816947937843e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35692952, + "step": 18235 + }, + { + "epoch": 2.416964877402253, + "grad_norm": 0.027162840589880943, + "learning_rate": 4.520590520209875e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35694680, + "step": 18236 + }, + { + "epoch": 2.4170974155069582, + "grad_norm": 11.363536834716797, + "learning_rate": 4.518599740483118e-07, + "loss": 0.0653, + "num_input_tokens_seen": 35696520, + "step": 18237 + }, + { + "epoch": 2.4172299536116633, + "grad_norm": 12.262215614318848, + "learning_rate": 4.516609355651885e-07, + "loss": 0.0791, + "num_input_tokens_seen": 35697928, + "step": 18238 + }, + { + "epoch": 2.4173624917163683, + "grad_norm": 6.310816764831543, + "learning_rate": 4.514619365754555e-07, + "loss": 0.1987, + "num_input_tokens_seen": 35699168, + "step": 18239 + }, + { + "epoch": 2.4174950298210733, + "grad_norm": 7.653509616851807, + "learning_rate": 4.512629770829488e-07, + "loss": 0.0981, + "num_input_tokens_seen": 35700944, + "step": 18240 + }, + { + "epoch": 2.417627567925779, + "grad_norm": 1.8968865871429443, + "learning_rate": 4.5106405709150536e-07, + "loss": 0.0182, + "num_input_tokens_seen": 35703224, + "step": 18241 + }, + { + "epoch": 2.417760106030484, + "grad_norm": 8.001379013061523, + "learning_rate": 4.5086517660496124e-07, + "loss": 0.0476, + "num_input_tokens_seen": 35705224, + "step": 18242 + }, + { + "epoch": 2.417892644135189, + "grad_norm": 6.293928146362305, + "learning_rate": 4.5066633562714986e-07, + "loss": 0.1107, + "num_input_tokens_seen": 35707064, + "step": 18243 + }, + { + "epoch": 2.418025182239894, + "grad_norm": 2.669416904449463, + "learning_rate": 4.504675341619055e-07, + "loss": 0.0261, + "num_input_tokens_seen": 35709544, + "step": 18244 + }, + { + "epoch": 2.418157720344599, + "grad_norm": 0.004193441942334175, + "learning_rate": 4.5026877221306025e-07, + "loss": 0.0, + "num_input_tokens_seen": 35712192, + "step": 18245 + }, + { + "epoch": 2.418290258449304, + "grad_norm": 0.31449371576309204, + "learning_rate": 4.500700497844476e-07, + "loss": 0.001, + "num_input_tokens_seen": 35714640, + "step": 18246 + }, + { + "epoch": 2.418422796554009, + "grad_norm": 0.7206229567527771, + "learning_rate": 4.4987136687989817e-07, + "loss": 0.0037, + "num_input_tokens_seen": 35716176, + "step": 18247 + }, + { + "epoch": 2.4185553346587145, + "grad_norm": 0.04445688799023628, + "learning_rate": 4.496727235032436e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35717808, + "step": 18248 + }, + { + "epoch": 2.4186878727634196, + "grad_norm": 7.169434547424316, + "learning_rate": 4.494741196583133e-07, + "loss": 0.0396, + "num_input_tokens_seen": 35719792, + "step": 18249 + }, + { + "epoch": 2.4188204108681246, + "grad_norm": 4.15717887878418, + "learning_rate": 4.4927555534893616e-07, + "loss": 0.0127, + "num_input_tokens_seen": 35722048, + "step": 18250 + }, + { + "epoch": 2.4189529489728296, + "grad_norm": 4.315068244934082, + "learning_rate": 4.490770305789413e-07, + "loss": 0.0691, + "num_input_tokens_seen": 35724544, + "step": 18251 + }, + { + "epoch": 2.4190854870775347, + "grad_norm": 10.593759536743164, + "learning_rate": 4.488785453521566e-07, + "loss": 0.1639, + "num_input_tokens_seen": 35726528, + "step": 18252 + }, + { + "epoch": 2.4192180251822397, + "grad_norm": 10.113214492797852, + "learning_rate": 4.486800996724075e-07, + "loss": 0.2198, + "num_input_tokens_seen": 35728560, + "step": 18253 + }, + { + "epoch": 2.4193505632869448, + "grad_norm": 0.004312264733016491, + "learning_rate": 4.484816935435221e-07, + "loss": 0.0, + "num_input_tokens_seen": 35729720, + "step": 18254 + }, + { + "epoch": 2.4194831013916502, + "grad_norm": 5.775733947753906, + "learning_rate": 4.4828332696932405e-07, + "loss": 0.0265, + "num_input_tokens_seen": 35731224, + "step": 18255 + }, + { + "epoch": 2.4196156394963553, + "grad_norm": 0.0003091749385930598, + "learning_rate": 4.480849999536396e-07, + "loss": 0.0, + "num_input_tokens_seen": 35732368, + "step": 18256 + }, + { + "epoch": 2.4197481776010603, + "grad_norm": 0.02270517870783806, + "learning_rate": 4.4788671250029197e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35733888, + "step": 18257 + }, + { + "epoch": 2.4198807157057654, + "grad_norm": 13.564950942993164, + "learning_rate": 4.476884646131044e-07, + "loss": 0.2249, + "num_input_tokens_seen": 35735584, + "step": 18258 + }, + { + "epoch": 2.4200132538104704, + "grad_norm": 1.9107574224472046, + "learning_rate": 4.47490256295898e-07, + "loss": 0.0089, + "num_input_tokens_seen": 35737224, + "step": 18259 + }, + { + "epoch": 2.4201457919151754, + "grad_norm": 0.5527098774909973, + "learning_rate": 4.472920875524958e-07, + "loss": 0.002, + "num_input_tokens_seen": 35739216, + "step": 18260 + }, + { + "epoch": 2.420278330019881, + "grad_norm": 0.0026816122699528933, + "learning_rate": 4.470939583867187e-07, + "loss": 0.0, + "num_input_tokens_seen": 35740584, + "step": 18261 + }, + { + "epoch": 2.420410868124586, + "grad_norm": 1.262227177619934, + "learning_rate": 4.468958688023861e-07, + "loss": 0.0054, + "num_input_tokens_seen": 35742336, + "step": 18262 + }, + { + "epoch": 2.420543406229291, + "grad_norm": 5.2343525886535645, + "learning_rate": 4.4669781880331776e-07, + "loss": 0.0578, + "num_input_tokens_seen": 35744856, + "step": 18263 + }, + { + "epoch": 2.420675944333996, + "grad_norm": 0.018396543338894844, + "learning_rate": 4.4649980839333195e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35747280, + "step": 18264 + }, + { + "epoch": 2.420808482438701, + "grad_norm": 10.031655311584473, + "learning_rate": 4.4630183757624595e-07, + "loss": 0.119, + "num_input_tokens_seen": 35749544, + "step": 18265 + }, + { + "epoch": 2.420941020543406, + "grad_norm": 0.7376269102096558, + "learning_rate": 4.4610390635587696e-07, + "loss": 0.0053, + "num_input_tokens_seen": 35751528, + "step": 18266 + }, + { + "epoch": 2.4210735586481116, + "grad_norm": 4.251041889190674, + "learning_rate": 4.459060147360425e-07, + "loss": 0.0281, + "num_input_tokens_seen": 35753528, + "step": 18267 + }, + { + "epoch": 2.4212060967528166, + "grad_norm": 0.01935018040239811, + "learning_rate": 4.45708162720557e-07, + "loss": 0.0, + "num_input_tokens_seen": 35754856, + "step": 18268 + }, + { + "epoch": 2.4213386348575217, + "grad_norm": 15.803794860839844, + "learning_rate": 4.455103503132352e-07, + "loss": 0.1105, + "num_input_tokens_seen": 35756904, + "step": 18269 + }, + { + "epoch": 2.4214711729622267, + "grad_norm": 0.007716186810284853, + "learning_rate": 4.453125775178907e-07, + "loss": 0.0, + "num_input_tokens_seen": 35759584, + "step": 18270 + }, + { + "epoch": 2.4216037110669317, + "grad_norm": 10.491011619567871, + "learning_rate": 4.4511484433833714e-07, + "loss": 0.0091, + "num_input_tokens_seen": 35761864, + "step": 18271 + }, + { + "epoch": 2.4217362491716368, + "grad_norm": 5.620283603668213, + "learning_rate": 4.449171507783875e-07, + "loss": 0.0522, + "num_input_tokens_seen": 35763880, + "step": 18272 + }, + { + "epoch": 2.421868787276342, + "grad_norm": 11.039116859436035, + "learning_rate": 4.447194968418531e-07, + "loss": 0.1958, + "num_input_tokens_seen": 35765944, + "step": 18273 + }, + { + "epoch": 2.4220013253810473, + "grad_norm": 5.693419456481934, + "learning_rate": 4.445218825325445e-07, + "loss": 0.0275, + "num_input_tokens_seen": 35767992, + "step": 18274 + }, + { + "epoch": 2.4221338634857523, + "grad_norm": 0.0010750835062935948, + "learning_rate": 4.443243078542722e-07, + "loss": 0.0, + "num_input_tokens_seen": 35769080, + "step": 18275 + }, + { + "epoch": 2.4222664015904574, + "grad_norm": 0.7256829142570496, + "learning_rate": 4.441267728108445e-07, + "loss": 0.0045, + "num_input_tokens_seen": 35770760, + "step": 18276 + }, + { + "epoch": 2.4223989396951624, + "grad_norm": 4.712086200714111, + "learning_rate": 4.4392927740607104e-07, + "loss": 0.0445, + "num_input_tokens_seen": 35772648, + "step": 18277 + }, + { + "epoch": 2.4225314777998674, + "grad_norm": 0.4947657883167267, + "learning_rate": 4.437318216437603e-07, + "loss": 0.0032, + "num_input_tokens_seen": 35775304, + "step": 18278 + }, + { + "epoch": 2.4226640159045725, + "grad_norm": 6.993027210235596, + "learning_rate": 4.4353440552771825e-07, + "loss": 0.0742, + "num_input_tokens_seen": 35777192, + "step": 18279 + }, + { + "epoch": 2.4227965540092775, + "grad_norm": 0.017004508525133133, + "learning_rate": 4.433370290617517e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35779096, + "step": 18280 + }, + { + "epoch": 2.422929092113983, + "grad_norm": 0.013942967168986797, + "learning_rate": 4.431396922496656e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35781000, + "step": 18281 + }, + { + "epoch": 2.423061630218688, + "grad_norm": 5.452723026275635, + "learning_rate": 4.429423950952655e-07, + "loss": 0.0702, + "num_input_tokens_seen": 35783872, + "step": 18282 + }, + { + "epoch": 2.423194168323393, + "grad_norm": 0.02666877768933773, + "learning_rate": 4.427451376023548e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35785016, + "step": 18283 + }, + { + "epoch": 2.423326706428098, + "grad_norm": 10.672096252441406, + "learning_rate": 4.4254791977473733e-07, + "loss": 0.1691, + "num_input_tokens_seen": 35787400, + "step": 18284 + }, + { + "epoch": 2.423459244532803, + "grad_norm": 4.464118957519531, + "learning_rate": 4.4235074161621565e-07, + "loss": 0.0414, + "num_input_tokens_seen": 35789800, + "step": 18285 + }, + { + "epoch": 2.423591782637508, + "grad_norm": 0.20853915810585022, + "learning_rate": 4.4215360313059037e-07, + "loss": 0.001, + "num_input_tokens_seen": 35791264, + "step": 18286 + }, + { + "epoch": 2.4237243207422132, + "grad_norm": 4.23888635635376, + "learning_rate": 4.4195650432166393e-07, + "loss": 0.0892, + "num_input_tokens_seen": 35792424, + "step": 18287 + }, + { + "epoch": 2.4238568588469187, + "grad_norm": 0.01026932429522276, + "learning_rate": 4.417594451932361e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35794080, + "step": 18288 + }, + { + "epoch": 2.4239893969516237, + "grad_norm": 9.736784934997559, + "learning_rate": 4.4156242574910524e-07, + "loss": 0.0544, + "num_input_tokens_seen": 35796904, + "step": 18289 + }, + { + "epoch": 2.424121935056329, + "grad_norm": 13.2636079788208, + "learning_rate": 4.4136544599307136e-07, + "loss": 0.1242, + "num_input_tokens_seen": 35798896, + "step": 18290 + }, + { + "epoch": 2.424254473161034, + "grad_norm": 20.14436149597168, + "learning_rate": 4.411685059289314e-07, + "loss": 0.2413, + "num_input_tokens_seen": 35800216, + "step": 18291 + }, + { + "epoch": 2.424387011265739, + "grad_norm": 3.798980236053467, + "learning_rate": 4.4097160556048346e-07, + "loss": 0.0328, + "num_input_tokens_seen": 35803096, + "step": 18292 + }, + { + "epoch": 2.424519549370444, + "grad_norm": 3.8704378604888916, + "learning_rate": 4.407747448915234e-07, + "loss": 0.0206, + "num_input_tokens_seen": 35804936, + "step": 18293 + }, + { + "epoch": 2.424652087475149, + "grad_norm": 2.4681756496429443, + "learning_rate": 4.405779239258465e-07, + "loss": 0.008, + "num_input_tokens_seen": 35806472, + "step": 18294 + }, + { + "epoch": 2.4247846255798544, + "grad_norm": 0.006476826965808868, + "learning_rate": 4.403811426672483e-07, + "loss": 0.0, + "num_input_tokens_seen": 35809216, + "step": 18295 + }, + { + "epoch": 2.4249171636845595, + "grad_norm": 1.637824535369873, + "learning_rate": 4.4018440111952195e-07, + "loss": 0.0072, + "num_input_tokens_seen": 35811184, + "step": 18296 + }, + { + "epoch": 2.4250497017892645, + "grad_norm": 15.572833061218262, + "learning_rate": 4.3998769928646186e-07, + "loss": 0.2156, + "num_input_tokens_seen": 35813072, + "step": 18297 + }, + { + "epoch": 2.4251822398939695, + "grad_norm": 8.276287078857422, + "learning_rate": 4.397910371718603e-07, + "loss": 0.1311, + "num_input_tokens_seen": 35815368, + "step": 18298 + }, + { + "epoch": 2.4253147779986746, + "grad_norm": 0.07721289247274399, + "learning_rate": 4.3959441477950865e-07, + "loss": 0.0004, + "num_input_tokens_seen": 35816976, + "step": 18299 + }, + { + "epoch": 2.4254473161033796, + "grad_norm": 0.024493522942066193, + "learning_rate": 4.3939783211319754e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35818896, + "step": 18300 + }, + { + "epoch": 2.4255798542080846, + "grad_norm": 0.000995882204733789, + "learning_rate": 4.392012891767183e-07, + "loss": 0.0, + "num_input_tokens_seen": 35820344, + "step": 18301 + }, + { + "epoch": 2.42571239231279, + "grad_norm": 17.389694213867188, + "learning_rate": 4.3900478597385945e-07, + "loss": 0.1847, + "num_input_tokens_seen": 35822272, + "step": 18302 + }, + { + "epoch": 2.425844930417495, + "grad_norm": 0.07688923180103302, + "learning_rate": 4.3880832250841056e-07, + "loss": 0.0005, + "num_input_tokens_seen": 35823608, + "step": 18303 + }, + { + "epoch": 2.4259774685222, + "grad_norm": 0.0225998405367136, + "learning_rate": 4.386118987841592e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35824928, + "step": 18304 + }, + { + "epoch": 2.4261100066269052, + "grad_norm": 5.627675533294678, + "learning_rate": 4.3841551480489243e-07, + "loss": 0.1071, + "num_input_tokens_seen": 35827832, + "step": 18305 + }, + { + "epoch": 2.4262425447316103, + "grad_norm": 2.758574962615967, + "learning_rate": 4.382191705743963e-07, + "loss": 0.0154, + "num_input_tokens_seen": 35831160, + "step": 18306 + }, + { + "epoch": 2.4263750828363153, + "grad_norm": 4.219793796539307, + "learning_rate": 4.3802286609645696e-07, + "loss": 0.0689, + "num_input_tokens_seen": 35833424, + "step": 18307 + }, + { + "epoch": 2.4265076209410203, + "grad_norm": 0.21684300899505615, + "learning_rate": 4.3782660137485973e-07, + "loss": 0.0008, + "num_input_tokens_seen": 35835248, + "step": 18308 + }, + { + "epoch": 2.426640159045726, + "grad_norm": 0.025491613894701004, + "learning_rate": 4.3763037641338826e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35837008, + "step": 18309 + }, + { + "epoch": 2.426772697150431, + "grad_norm": 0.019090726971626282, + "learning_rate": 4.374341912158259e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35839072, + "step": 18310 + }, + { + "epoch": 2.426905235255136, + "grad_norm": 0.0326387956738472, + "learning_rate": 4.372380457859551e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35840456, + "step": 18311 + }, + { + "epoch": 2.427037773359841, + "grad_norm": 3.0513579845428467, + "learning_rate": 4.370419401275572e-07, + "loss": 0.0232, + "num_input_tokens_seen": 35842312, + "step": 18312 + }, + { + "epoch": 2.427170311464546, + "grad_norm": 0.13179492950439453, + "learning_rate": 4.36845874244414e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35843760, + "step": 18313 + }, + { + "epoch": 2.427302849569251, + "grad_norm": 19.33431625366211, + "learning_rate": 4.3664984814030615e-07, + "loss": 0.1414, + "num_input_tokens_seen": 35846360, + "step": 18314 + }, + { + "epoch": 2.427435387673956, + "grad_norm": 3.8488097190856934, + "learning_rate": 4.3645386181901283e-07, + "loss": 0.0325, + "num_input_tokens_seen": 35848008, + "step": 18315 + }, + { + "epoch": 2.4275679257786615, + "grad_norm": 9.158230781555176, + "learning_rate": 4.3625791528431246e-07, + "loss": 0.099, + "num_input_tokens_seen": 35850312, + "step": 18316 + }, + { + "epoch": 2.4277004638833666, + "grad_norm": 15.860053062438965, + "learning_rate": 4.360620085399825e-07, + "loss": 0.2384, + "num_input_tokens_seen": 35852096, + "step": 18317 + }, + { + "epoch": 2.4278330019880716, + "grad_norm": 12.958687782287598, + "learning_rate": 4.358661415898016e-07, + "loss": 0.2383, + "num_input_tokens_seen": 35854416, + "step": 18318 + }, + { + "epoch": 2.4279655400927767, + "grad_norm": 0.011256652884185314, + "learning_rate": 4.356703144375449e-07, + "loss": 0.0, + "num_input_tokens_seen": 35855864, + "step": 18319 + }, + { + "epoch": 2.4280980781974817, + "grad_norm": 0.14236581325531006, + "learning_rate": 4.354745270869892e-07, + "loss": 0.0006, + "num_input_tokens_seen": 35857712, + "step": 18320 + }, + { + "epoch": 2.4282306163021867, + "grad_norm": 3.0555832386016846, + "learning_rate": 4.352787795419089e-07, + "loss": 0.0206, + "num_input_tokens_seen": 35859368, + "step": 18321 + }, + { + "epoch": 2.4283631544068918, + "grad_norm": 0.11765335500240326, + "learning_rate": 4.350830718060775e-07, + "loss": 0.0008, + "num_input_tokens_seen": 35861432, + "step": 18322 + }, + { + "epoch": 2.4284956925115972, + "grad_norm": 8.695486068725586, + "learning_rate": 4.3488740388326955e-07, + "loss": 0.0476, + "num_input_tokens_seen": 35862912, + "step": 18323 + }, + { + "epoch": 2.4286282306163023, + "grad_norm": 0.036051925271749496, + "learning_rate": 4.3469177577725645e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35865032, + "step": 18324 + }, + { + "epoch": 2.4287607687210073, + "grad_norm": 3.1093356609344482, + "learning_rate": 4.3449618749181133e-07, + "loss": 0.0231, + "num_input_tokens_seen": 35866704, + "step": 18325 + }, + { + "epoch": 2.4288933068257124, + "grad_norm": 9.437972068786621, + "learning_rate": 4.3430063903070474e-07, + "loss": 0.2568, + "num_input_tokens_seen": 35869376, + "step": 18326 + }, + { + "epoch": 2.4290258449304174, + "grad_norm": 0.008098899386823177, + "learning_rate": 4.341051303977067e-07, + "loss": 0.0, + "num_input_tokens_seen": 35871048, + "step": 18327 + }, + { + "epoch": 2.4291583830351224, + "grad_norm": 9.822820663452148, + "learning_rate": 4.339096615965865e-07, + "loss": 0.0792, + "num_input_tokens_seen": 35872800, + "step": 18328 + }, + { + "epoch": 2.4292909211398275, + "grad_norm": 0.002726078499108553, + "learning_rate": 4.337142326311139e-07, + "loss": 0.0, + "num_input_tokens_seen": 35874592, + "step": 18329 + }, + { + "epoch": 2.429423459244533, + "grad_norm": 0.0192753616720438, + "learning_rate": 4.3351884350505554e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35876048, + "step": 18330 + }, + { + "epoch": 2.429555997349238, + "grad_norm": 1.172118067741394, + "learning_rate": 4.3332349422218033e-07, + "loss": 0.0048, + "num_input_tokens_seen": 35877632, + "step": 18331 + }, + { + "epoch": 2.429688535453943, + "grad_norm": 0.977995753288269, + "learning_rate": 4.3312818478625367e-07, + "loss": 0.0024, + "num_input_tokens_seen": 35879848, + "step": 18332 + }, + { + "epoch": 2.429821073558648, + "grad_norm": 0.13878194987773895, + "learning_rate": 4.3293291520104114e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35881480, + "step": 18333 + }, + { + "epoch": 2.429953611663353, + "grad_norm": 8.973982810974121, + "learning_rate": 4.327376854703086e-07, + "loss": 0.2234, + "num_input_tokens_seen": 35883560, + "step": 18334 + }, + { + "epoch": 2.430086149768058, + "grad_norm": 0.0032459511421620846, + "learning_rate": 4.325424955978194e-07, + "loss": 0.0, + "num_input_tokens_seen": 35885392, + "step": 18335 + }, + { + "epoch": 2.430218687872763, + "grad_norm": 0.0009680012008175254, + "learning_rate": 4.3234734558733644e-07, + "loss": 0.0, + "num_input_tokens_seen": 35886544, + "step": 18336 + }, + { + "epoch": 2.4303512259774687, + "grad_norm": 0.025460895150899887, + "learning_rate": 4.3215223544262387e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35888768, + "step": 18337 + }, + { + "epoch": 2.4304837640821737, + "grad_norm": 0.04833018407225609, + "learning_rate": 4.319571651674423e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35890696, + "step": 18338 + }, + { + "epoch": 2.4306163021868787, + "grad_norm": 9.924674034118652, + "learning_rate": 4.3176213476555347e-07, + "loss": 0.1204, + "num_input_tokens_seen": 35893008, + "step": 18339 + }, + { + "epoch": 2.430748840291584, + "grad_norm": 5.924070358276367, + "learning_rate": 4.3156714424071767e-07, + "loss": 0.0644, + "num_input_tokens_seen": 35894544, + "step": 18340 + }, + { + "epoch": 2.430881378396289, + "grad_norm": 0.02826007455587387, + "learning_rate": 4.313721935966944e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35896200, + "step": 18341 + }, + { + "epoch": 2.431013916500994, + "grad_norm": 3.287541389465332, + "learning_rate": 4.311772828372415e-07, + "loss": 0.0573, + "num_input_tokens_seen": 35898416, + "step": 18342 + }, + { + "epoch": 2.431146454605699, + "grad_norm": 5.100732803344727, + "learning_rate": 4.3098241196611797e-07, + "loss": 0.0261, + "num_input_tokens_seen": 35900336, + "step": 18343 + }, + { + "epoch": 2.4312789927104044, + "grad_norm": 12.204575538635254, + "learning_rate": 4.307875809870815e-07, + "loss": 0.2029, + "num_input_tokens_seen": 35903184, + "step": 18344 + }, + { + "epoch": 2.4314115308151094, + "grad_norm": 8.511176109313965, + "learning_rate": 4.305927899038878e-07, + "loss": 0.135, + "num_input_tokens_seen": 35905824, + "step": 18345 + }, + { + "epoch": 2.4315440689198144, + "grad_norm": 0.020928053185343742, + "learning_rate": 4.3039803872029275e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35908008, + "step": 18346 + }, + { + "epoch": 2.4316766070245195, + "grad_norm": 6.845074653625488, + "learning_rate": 4.302033274400505e-07, + "loss": 0.0719, + "num_input_tokens_seen": 35910456, + "step": 18347 + }, + { + "epoch": 2.4318091451292245, + "grad_norm": 10.301386833190918, + "learning_rate": 4.3000865606691615e-07, + "loss": 0.086, + "num_input_tokens_seen": 35912048, + "step": 18348 + }, + { + "epoch": 2.4319416832339296, + "grad_norm": 6.19709587097168, + "learning_rate": 4.2981402460464366e-07, + "loss": 0.1242, + "num_input_tokens_seen": 35914104, + "step": 18349 + }, + { + "epoch": 2.432074221338635, + "grad_norm": 0.03213613107800484, + "learning_rate": 4.2961943305698474e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35916600, + "step": 18350 + }, + { + "epoch": 2.43220675944334, + "grad_norm": 3.0651750564575195, + "learning_rate": 4.294248814276916e-07, + "loss": 0.0517, + "num_input_tokens_seen": 35919144, + "step": 18351 + }, + { + "epoch": 2.432339297548045, + "grad_norm": 0.013049193657934666, + "learning_rate": 4.2923036972051497e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35920440, + "step": 18352 + }, + { + "epoch": 2.43247183565275, + "grad_norm": 0.011416442692279816, + "learning_rate": 4.290358979392048e-07, + "loss": 0.0, + "num_input_tokens_seen": 35921760, + "step": 18353 + }, + { + "epoch": 2.432604373757455, + "grad_norm": 0.5775468349456787, + "learning_rate": 4.288414660875112e-07, + "loss": 0.0022, + "num_input_tokens_seen": 35923448, + "step": 18354 + }, + { + "epoch": 2.4327369118621602, + "grad_norm": 9.361068725585938, + "learning_rate": 4.2864707416918365e-07, + "loss": 0.1805, + "num_input_tokens_seen": 35925120, + "step": 18355 + }, + { + "epoch": 2.4328694499668657, + "grad_norm": 6.171670913696289, + "learning_rate": 4.2845272218796945e-07, + "loss": 0.0928, + "num_input_tokens_seen": 35926624, + "step": 18356 + }, + { + "epoch": 2.4330019880715708, + "grad_norm": 0.07428599148988724, + "learning_rate": 4.282584101476159e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35927768, + "step": 18357 + }, + { + "epoch": 2.433134526176276, + "grad_norm": 2.862386703491211, + "learning_rate": 4.280641380518691e-07, + "loss": 0.022, + "num_input_tokens_seen": 35929416, + "step": 18358 + }, + { + "epoch": 2.433267064280981, + "grad_norm": 0.2997550964355469, + "learning_rate": 4.278699059044747e-07, + "loss": 0.0007, + "num_input_tokens_seen": 35931384, + "step": 18359 + }, + { + "epoch": 2.433399602385686, + "grad_norm": 9.919206619262695, + "learning_rate": 4.2767571370917806e-07, + "loss": 0.0693, + "num_input_tokens_seen": 35933312, + "step": 18360 + }, + { + "epoch": 2.433532140490391, + "grad_norm": 3.051115036010742, + "learning_rate": 4.2748156146972393e-07, + "loss": 0.008, + "num_input_tokens_seen": 35935224, + "step": 18361 + }, + { + "epoch": 2.433664678595096, + "grad_norm": 2.03763747215271, + "learning_rate": 4.272874491898549e-07, + "loss": 0.0096, + "num_input_tokens_seen": 35937176, + "step": 18362 + }, + { + "epoch": 2.4337972166998014, + "grad_norm": 4.422829627990723, + "learning_rate": 4.2709337687331374e-07, + "loss": 0.0251, + "num_input_tokens_seen": 35938624, + "step": 18363 + }, + { + "epoch": 2.4339297548045065, + "grad_norm": 1.6534972190856934, + "learning_rate": 4.2689934452384175e-07, + "loss": 0.0065, + "num_input_tokens_seen": 35940600, + "step": 18364 + }, + { + "epoch": 2.4340622929092115, + "grad_norm": 2.9853992462158203, + "learning_rate": 4.267053521451811e-07, + "loss": 0.0199, + "num_input_tokens_seen": 35942560, + "step": 18365 + }, + { + "epoch": 2.4341948310139165, + "grad_norm": 0.008861691690981388, + "learning_rate": 4.265113997410711e-07, + "loss": 0.0, + "num_input_tokens_seen": 35944304, + "step": 18366 + }, + { + "epoch": 2.4343273691186216, + "grad_norm": 0.00162942532915622, + "learning_rate": 4.263174873152523e-07, + "loss": 0.0, + "num_input_tokens_seen": 35945384, + "step": 18367 + }, + { + "epoch": 2.4344599072233266, + "grad_norm": 0.04876639321446419, + "learning_rate": 4.2612361487146285e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35946960, + "step": 18368 + }, + { + "epoch": 2.4345924453280317, + "grad_norm": 0.06672238558530807, + "learning_rate": 4.2592978241344007e-07, + "loss": 0.0003, + "num_input_tokens_seen": 35949232, + "step": 18369 + }, + { + "epoch": 2.434724983432737, + "grad_norm": 11.845396041870117, + "learning_rate": 4.257359899449226e-07, + "loss": 0.1805, + "num_input_tokens_seen": 35950680, + "step": 18370 + }, + { + "epoch": 2.434857521537442, + "grad_norm": 0.010267109610140324, + "learning_rate": 4.2554223746964636e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35951856, + "step": 18371 + }, + { + "epoch": 2.434990059642147, + "grad_norm": 2.477538585662842, + "learning_rate": 4.253485249913461e-07, + "loss": 0.0191, + "num_input_tokens_seen": 35954240, + "step": 18372 + }, + { + "epoch": 2.4351225977468522, + "grad_norm": 0.8585048913955688, + "learning_rate": 4.251548525137583e-07, + "loss": 0.0021, + "num_input_tokens_seen": 35956248, + "step": 18373 + }, + { + "epoch": 2.4352551358515573, + "grad_norm": 0.0016985032707452774, + "learning_rate": 4.249612200406156e-07, + "loss": 0.0, + "num_input_tokens_seen": 35957800, + "step": 18374 + }, + { + "epoch": 2.4353876739562623, + "grad_norm": 2.598919153213501, + "learning_rate": 4.247676275756527e-07, + "loss": 0.027, + "num_input_tokens_seen": 35959568, + "step": 18375 + }, + { + "epoch": 2.4355202120609674, + "grad_norm": 6.376715183258057, + "learning_rate": 4.245740751226013e-07, + "loss": 0.0614, + "num_input_tokens_seen": 35962072, + "step": 18376 + }, + { + "epoch": 2.435652750165673, + "grad_norm": 6.837149620056152, + "learning_rate": 4.2438056268519324e-07, + "loss": 0.0519, + "num_input_tokens_seen": 35963872, + "step": 18377 + }, + { + "epoch": 2.435785288270378, + "grad_norm": 0.05405694991350174, + "learning_rate": 4.241870902671602e-07, + "loss": 0.0002, + "num_input_tokens_seen": 35965192, + "step": 18378 + }, + { + "epoch": 2.435917826375083, + "grad_norm": 0.7467674016952515, + "learning_rate": 4.2399365787223176e-07, + "loss": 0.0052, + "num_input_tokens_seen": 35967488, + "step": 18379 + }, + { + "epoch": 2.436050364479788, + "grad_norm": 0.015552084892988205, + "learning_rate": 4.2380026550413816e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35970584, + "step": 18380 + }, + { + "epoch": 2.436182902584493, + "grad_norm": 0.6305965781211853, + "learning_rate": 4.236069131666076e-07, + "loss": 0.0039, + "num_input_tokens_seen": 35972416, + "step": 18381 + }, + { + "epoch": 2.436315440689198, + "grad_norm": 11.510557174682617, + "learning_rate": 4.2341360086336855e-07, + "loss": 0.0937, + "num_input_tokens_seen": 35974368, + "step": 18382 + }, + { + "epoch": 2.436447978793903, + "grad_norm": 1.6999883651733398, + "learning_rate": 4.2322032859814706e-07, + "loss": 0.0154, + "num_input_tokens_seen": 35976912, + "step": 18383 + }, + { + "epoch": 2.4365805168986086, + "grad_norm": 1.2743343114852905, + "learning_rate": 4.230270963746708e-07, + "loss": 0.0053, + "num_input_tokens_seen": 35978344, + "step": 18384 + }, + { + "epoch": 2.4367130550033136, + "grad_norm": 0.001416211947798729, + "learning_rate": 4.228339041966645e-07, + "loss": 0.0, + "num_input_tokens_seen": 35979640, + "step": 18385 + }, + { + "epoch": 2.4368455931080186, + "grad_norm": 4.7986884117126465, + "learning_rate": 4.226407520678541e-07, + "loss": 0.0395, + "num_input_tokens_seen": 35982032, + "step": 18386 + }, + { + "epoch": 2.4369781312127237, + "grad_norm": 6.503503322601318, + "learning_rate": 4.22447639991963e-07, + "loss": 0.0687, + "num_input_tokens_seen": 35984664, + "step": 18387 + }, + { + "epoch": 2.4371106693174287, + "grad_norm": 7.361541271209717, + "learning_rate": 4.222545679727147e-07, + "loss": 0.057, + "num_input_tokens_seen": 35987088, + "step": 18388 + }, + { + "epoch": 2.4372432074221337, + "grad_norm": 3.8410732746124268, + "learning_rate": 4.220615360138311e-07, + "loss": 0.0299, + "num_input_tokens_seen": 35989728, + "step": 18389 + }, + { + "epoch": 2.4373757455268388, + "grad_norm": 7.192863464355469, + "learning_rate": 4.2186854411903456e-07, + "loss": 0.1564, + "num_input_tokens_seen": 35991544, + "step": 18390 + }, + { + "epoch": 2.4375082836315443, + "grad_norm": 9.349955558776855, + "learning_rate": 4.216755922920468e-07, + "loss": 0.1583, + "num_input_tokens_seen": 35993776, + "step": 18391 + }, + { + "epoch": 2.4376408217362493, + "grad_norm": 7.483748912811279, + "learning_rate": 4.214826805365871e-07, + "loss": 0.1314, + "num_input_tokens_seen": 35995232, + "step": 18392 + }, + { + "epoch": 2.4377733598409543, + "grad_norm": 8.77556324005127, + "learning_rate": 4.212898088563755e-07, + "loss": 0.2755, + "num_input_tokens_seen": 35997256, + "step": 18393 + }, + { + "epoch": 2.4379058979456594, + "grad_norm": 0.030269550159573555, + "learning_rate": 4.210969772551304e-07, + "loss": 0.0001, + "num_input_tokens_seen": 35999112, + "step": 18394 + }, + { + "epoch": 2.4380384360503644, + "grad_norm": 3.167874336242676, + "learning_rate": 4.2090418573656895e-07, + "loss": 0.0095, + "num_input_tokens_seen": 36000792, + "step": 18395 + }, + { + "epoch": 2.4381709741550694, + "grad_norm": 0.1536400020122528, + "learning_rate": 4.2071143430440943e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36002392, + "step": 18396 + }, + { + "epoch": 2.4383035122597745, + "grad_norm": 5.353066921234131, + "learning_rate": 4.2051872296236806e-07, + "loss": 0.0901, + "num_input_tokens_seen": 36004824, + "step": 18397 + }, + { + "epoch": 2.43843605036448, + "grad_norm": 0.0030064054299145937, + "learning_rate": 4.203260517141605e-07, + "loss": 0.0, + "num_input_tokens_seen": 36007048, + "step": 18398 + }, + { + "epoch": 2.438568588469185, + "grad_norm": 1.3286194801330566, + "learning_rate": 4.2013342056350133e-07, + "loss": 0.0103, + "num_input_tokens_seen": 36009632, + "step": 18399 + }, + { + "epoch": 2.43870112657389, + "grad_norm": 0.013480495661497116, + "learning_rate": 4.1994082951410414e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36010872, + "step": 18400 + }, + { + "epoch": 2.438833664678595, + "grad_norm": 0.032784976065158844, + "learning_rate": 4.197482785696827e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36012424, + "step": 18401 + }, + { + "epoch": 2.4389662027833, + "grad_norm": 0.007632888853549957, + "learning_rate": 4.1955576773394984e-07, + "loss": 0.0, + "num_input_tokens_seen": 36014024, + "step": 18402 + }, + { + "epoch": 2.439098740888005, + "grad_norm": 0.0037206937558948994, + "learning_rate": 4.1936329701061736e-07, + "loss": 0.0, + "num_input_tokens_seen": 36015680, + "step": 18403 + }, + { + "epoch": 2.43923127899271, + "grad_norm": 1.278149127960205, + "learning_rate": 4.191708664033958e-07, + "loss": 0.0039, + "num_input_tokens_seen": 36017408, + "step": 18404 + }, + { + "epoch": 2.4393638170974157, + "grad_norm": 14.313703536987305, + "learning_rate": 4.1897847591599454e-07, + "loss": 0.0999, + "num_input_tokens_seen": 36018712, + "step": 18405 + }, + { + "epoch": 2.4394963552021207, + "grad_norm": 0.04546213895082474, + "learning_rate": 4.18786125552125e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36020288, + "step": 18406 + }, + { + "epoch": 2.4396288933068258, + "grad_norm": 0.07428284734487534, + "learning_rate": 4.1859381531549363e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36021760, + "step": 18407 + }, + { + "epoch": 2.439761431411531, + "grad_norm": 5.490110397338867, + "learning_rate": 4.184015452098103e-07, + "loss": 0.0182, + "num_input_tokens_seen": 36024528, + "step": 18408 + }, + { + "epoch": 2.439893969516236, + "grad_norm": 4.9820427894592285, + "learning_rate": 4.1820931523878117e-07, + "loss": 0.0251, + "num_input_tokens_seen": 36026720, + "step": 18409 + }, + { + "epoch": 2.440026507620941, + "grad_norm": 15.380413055419922, + "learning_rate": 4.180171254061119e-07, + "loss": 0.1256, + "num_input_tokens_seen": 36029040, + "step": 18410 + }, + { + "epoch": 2.440159045725646, + "grad_norm": 3.798063039779663, + "learning_rate": 4.1782497571550923e-07, + "loss": 0.0145, + "num_input_tokens_seen": 36030840, + "step": 18411 + }, + { + "epoch": 2.4402915838303514, + "grad_norm": 1.2348486185073853, + "learning_rate": 4.1763286617067744e-07, + "loss": 0.0037, + "num_input_tokens_seen": 36033104, + "step": 18412 + }, + { + "epoch": 2.4404241219350564, + "grad_norm": 0.008932110853493214, + "learning_rate": 4.174407967753202e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36035816, + "step": 18413 + }, + { + "epoch": 2.4405566600397615, + "grad_norm": 0.05620727688074112, + "learning_rate": 4.172487675331416e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36038128, + "step": 18414 + }, + { + "epoch": 2.4406891981444665, + "grad_norm": 9.432465553283691, + "learning_rate": 4.1705677844784354e-07, + "loss": 0.1278, + "num_input_tokens_seen": 36039272, + "step": 18415 + }, + { + "epoch": 2.4408217362491715, + "grad_norm": 0.013605829328298569, + "learning_rate": 4.16864829523127e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36040352, + "step": 18416 + }, + { + "epoch": 2.4409542743538766, + "grad_norm": 0.07038331031799316, + "learning_rate": 4.1667292076269434e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36041976, + "step": 18417 + }, + { + "epoch": 2.4410868124585816, + "grad_norm": 2.9397194385528564, + "learning_rate": 4.1648105217024503e-07, + "loss": 0.0096, + "num_input_tokens_seen": 36043920, + "step": 18418 + }, + { + "epoch": 2.441219350563287, + "grad_norm": 0.051928140223026276, + "learning_rate": 4.1628922374947785e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36046032, + "step": 18419 + }, + { + "epoch": 2.441351888667992, + "grad_norm": 0.5381191968917847, + "learning_rate": 4.1609743550409227e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36048112, + "step": 18420 + }, + { + "epoch": 2.441484426772697, + "grad_norm": 0.03849567472934723, + "learning_rate": 4.159056874377854e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36049824, + "step": 18421 + }, + { + "epoch": 2.441616964877402, + "grad_norm": 5.573018550872803, + "learning_rate": 4.1571397955425505e-07, + "loss": 0.1024, + "num_input_tokens_seen": 36051600, + "step": 18422 + }, + { + "epoch": 2.4417495029821072, + "grad_norm": 0.04648677259683609, + "learning_rate": 4.1552231185719715e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36053512, + "step": 18423 + }, + { + "epoch": 2.4418820410868123, + "grad_norm": 1.9818496704101562, + "learning_rate": 4.153306843503063e-07, + "loss": 0.0134, + "num_input_tokens_seen": 36054912, + "step": 18424 + }, + { + "epoch": 2.4420145791915173, + "grad_norm": 4.1605987548828125, + "learning_rate": 4.15139097037279e-07, + "loss": 0.1069, + "num_input_tokens_seen": 36057312, + "step": 18425 + }, + { + "epoch": 2.442147117296223, + "grad_norm": 0.0053329914808273315, + "learning_rate": 4.1494754992180727e-07, + "loss": 0.0, + "num_input_tokens_seen": 36058920, + "step": 18426 + }, + { + "epoch": 2.442279655400928, + "grad_norm": 0.528232753276825, + "learning_rate": 4.1475604300758585e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36061048, + "step": 18427 + }, + { + "epoch": 2.442412193505633, + "grad_norm": 2.681910991668701, + "learning_rate": 4.1456457629830637e-07, + "loss": 0.0113, + "num_input_tokens_seen": 36062864, + "step": 18428 + }, + { + "epoch": 2.442544731610338, + "grad_norm": 3.688399314880371, + "learning_rate": 4.143731497976605e-07, + "loss": 0.0266, + "num_input_tokens_seen": 36065232, + "step": 18429 + }, + { + "epoch": 2.442677269715043, + "grad_norm": 3.1692559719085693, + "learning_rate": 4.141817635093387e-07, + "loss": 0.0199, + "num_input_tokens_seen": 36067208, + "step": 18430 + }, + { + "epoch": 2.442809807819748, + "grad_norm": 3.5751874446868896, + "learning_rate": 4.139904174370313e-07, + "loss": 0.0294, + "num_input_tokens_seen": 36069296, + "step": 18431 + }, + { + "epoch": 2.4429423459244535, + "grad_norm": 12.03130054473877, + "learning_rate": 4.1379911158442835e-07, + "loss": 0.0883, + "num_input_tokens_seen": 36071368, + "step": 18432 + }, + { + "epoch": 2.4430748840291585, + "grad_norm": 0.045436322689056396, + "learning_rate": 4.1360784595521756e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36072624, + "step": 18433 + }, + { + "epoch": 2.4432074221338635, + "grad_norm": 1.3194892406463623, + "learning_rate": 4.134166205530871e-07, + "loss": 0.0031, + "num_input_tokens_seen": 36075000, + "step": 18434 + }, + { + "epoch": 2.4433399602385686, + "grad_norm": 3.343655586242676, + "learning_rate": 4.132254353817236e-07, + "loss": 0.0219, + "num_input_tokens_seen": 36076864, + "step": 18435 + }, + { + "epoch": 2.4434724983432736, + "grad_norm": 4.3004150390625, + "learning_rate": 4.1303429044481256e-07, + "loss": 0.0406, + "num_input_tokens_seen": 36078952, + "step": 18436 + }, + { + "epoch": 2.4436050364479787, + "grad_norm": 28.068340301513672, + "learning_rate": 4.128431857460402e-07, + "loss": 0.1997, + "num_input_tokens_seen": 36080600, + "step": 18437 + }, + { + "epoch": 2.443737574552684, + "grad_norm": 0.027430184185504913, + "learning_rate": 4.126521212890916e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36082432, + "step": 18438 + }, + { + "epoch": 2.443870112657389, + "grad_norm": 4.455007553100586, + "learning_rate": 4.124610970776502e-07, + "loss": 0.0172, + "num_input_tokens_seen": 36084472, + "step": 18439 + }, + { + "epoch": 2.444002650762094, + "grad_norm": 0.14643605053424835, + "learning_rate": 4.122701131153989e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36085864, + "step": 18440 + }, + { + "epoch": 2.4441351888667993, + "grad_norm": 0.015648264437913895, + "learning_rate": 4.120791694060203e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36087848, + "step": 18441 + }, + { + "epoch": 2.4442677269715043, + "grad_norm": 2.361349582672119, + "learning_rate": 4.1188826595319473e-07, + "loss": 0.0167, + "num_input_tokens_seen": 36089888, + "step": 18442 + }, + { + "epoch": 2.4444002650762093, + "grad_norm": 0.0550403818488121, + "learning_rate": 4.116974027606041e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36091792, + "step": 18443 + }, + { + "epoch": 2.4445328031809144, + "grad_norm": 5.834690093994141, + "learning_rate": 4.115065798319287e-07, + "loss": 0.0391, + "num_input_tokens_seen": 36094872, + "step": 18444 + }, + { + "epoch": 2.44466534128562, + "grad_norm": 0.7376577854156494, + "learning_rate": 4.113157971708473e-07, + "loss": 0.0046, + "num_input_tokens_seen": 36096712, + "step": 18445 + }, + { + "epoch": 2.444797879390325, + "grad_norm": 0.0024754374753683805, + "learning_rate": 4.111250547810383e-07, + "loss": 0.0, + "num_input_tokens_seen": 36098256, + "step": 18446 + }, + { + "epoch": 2.44493041749503, + "grad_norm": 0.046855054795742035, + "learning_rate": 4.1093435266617855e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36100848, + "step": 18447 + }, + { + "epoch": 2.445062955599735, + "grad_norm": 0.004084752406924963, + "learning_rate": 4.107436908299464e-07, + "loss": 0.0, + "num_input_tokens_seen": 36102176, + "step": 18448 + }, + { + "epoch": 2.44519549370444, + "grad_norm": 0.012817305512726307, + "learning_rate": 4.1055306927601653e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36103680, + "step": 18449 + }, + { + "epoch": 2.445328031809145, + "grad_norm": 0.9219167232513428, + "learning_rate": 4.103624880080656e-07, + "loss": 0.0024, + "num_input_tokens_seen": 36105008, + "step": 18450 + }, + { + "epoch": 2.44546056991385, + "grad_norm": 4.6600775718688965, + "learning_rate": 4.1017194702976717e-07, + "loss": 0.0429, + "num_input_tokens_seen": 36106784, + "step": 18451 + }, + { + "epoch": 2.4455931080185556, + "grad_norm": 5.627447128295898, + "learning_rate": 4.0998144634479485e-07, + "loss": 0.0164, + "num_input_tokens_seen": 36108064, + "step": 18452 + }, + { + "epoch": 2.4457256461232606, + "grad_norm": 0.22064460813999176, + "learning_rate": 4.0979098595682276e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36109424, + "step": 18453 + }, + { + "epoch": 2.4458581842279656, + "grad_norm": 0.08552543073892593, + "learning_rate": 4.096005658695218e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36111376, + "step": 18454 + }, + { + "epoch": 2.4459907223326707, + "grad_norm": 0.5202300548553467, + "learning_rate": 4.094101860865646e-07, + "loss": 0.0022, + "num_input_tokens_seen": 36113824, + "step": 18455 + }, + { + "epoch": 2.4461232604373757, + "grad_norm": 3.65033221244812, + "learning_rate": 4.0921984661162124e-07, + "loss": 0.0453, + "num_input_tokens_seen": 36116832, + "step": 18456 + }, + { + "epoch": 2.4462557985420808, + "grad_norm": 6.604290962219238, + "learning_rate": 4.0902954744836106e-07, + "loss": 0.0529, + "num_input_tokens_seen": 36118752, + "step": 18457 + }, + { + "epoch": 2.446388336646786, + "grad_norm": 2.9772605895996094, + "learning_rate": 4.0883928860045415e-07, + "loss": 0.0176, + "num_input_tokens_seen": 36120136, + "step": 18458 + }, + { + "epoch": 2.4465208747514913, + "grad_norm": 0.6155550479888916, + "learning_rate": 4.086490700715687e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36122032, + "step": 18459 + }, + { + "epoch": 2.4466534128561963, + "grad_norm": 0.011906280182301998, + "learning_rate": 4.084588918653709e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36123840, + "step": 18460 + }, + { + "epoch": 2.4467859509609013, + "grad_norm": 0.12272311002016068, + "learning_rate": 4.082687539855293e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36125096, + "step": 18461 + }, + { + "epoch": 2.4469184890656064, + "grad_norm": 7.3983588218688965, + "learning_rate": 4.0807865643570865e-07, + "loss": 0.04, + "num_input_tokens_seen": 36126528, + "step": 18462 + }, + { + "epoch": 2.4470510271703114, + "grad_norm": 0.06703300774097443, + "learning_rate": 4.078885992195752e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36128520, + "step": 18463 + }, + { + "epoch": 2.4471835652750165, + "grad_norm": 0.002901841886341572, + "learning_rate": 4.0769858234079277e-07, + "loss": 0.0, + "num_input_tokens_seen": 36130000, + "step": 18464 + }, + { + "epoch": 2.4473161033797215, + "grad_norm": 0.014710960909724236, + "learning_rate": 4.0750860580302503e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36132728, + "step": 18465 + }, + { + "epoch": 2.447448641484427, + "grad_norm": 2.1773293018341064, + "learning_rate": 4.073186696099343e-07, + "loss": 0.011, + "num_input_tokens_seen": 36135328, + "step": 18466 + }, + { + "epoch": 2.447581179589132, + "grad_norm": 0.011082114651799202, + "learning_rate": 4.0712877376518327e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36136640, + "step": 18467 + }, + { + "epoch": 2.447713717693837, + "grad_norm": 11.57297420501709, + "learning_rate": 4.0693891827243397e-07, + "loss": 0.1207, + "num_input_tokens_seen": 36138264, + "step": 18468 + }, + { + "epoch": 2.447846255798542, + "grad_norm": 0.02986838109791279, + "learning_rate": 4.0674910313534627e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36139328, + "step": 18469 + }, + { + "epoch": 2.447978793903247, + "grad_norm": 10.477578163146973, + "learning_rate": 4.0655932835758e-07, + "loss": 0.0428, + "num_input_tokens_seen": 36141024, + "step": 18470 + }, + { + "epoch": 2.448111332007952, + "grad_norm": 0.09542964398860931, + "learning_rate": 4.063695939427939e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36142536, + "step": 18471 + }, + { + "epoch": 2.448243870112657, + "grad_norm": 0.2583884596824646, + "learning_rate": 4.061798998946459e-07, + "loss": 0.001, + "num_input_tokens_seen": 36144256, + "step": 18472 + }, + { + "epoch": 2.4483764082173627, + "grad_norm": 5.531585216522217, + "learning_rate": 4.059902462167939e-07, + "loss": 0.0302, + "num_input_tokens_seen": 36146480, + "step": 18473 + }, + { + "epoch": 2.4485089463220677, + "grad_norm": 0.6507936716079712, + "learning_rate": 4.0580063291289496e-07, + "loss": 0.0035, + "num_input_tokens_seen": 36149096, + "step": 18474 + }, + { + "epoch": 2.4486414844267728, + "grad_norm": 7.938992977142334, + "learning_rate": 4.056110599866045e-07, + "loss": 0.0444, + "num_input_tokens_seen": 36150848, + "step": 18475 + }, + { + "epoch": 2.448774022531478, + "grad_norm": 0.8242024183273315, + "learning_rate": 4.0542152744157794e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36152720, + "step": 18476 + }, + { + "epoch": 2.448906560636183, + "grad_norm": 1.5624604225158691, + "learning_rate": 4.052320352814684e-07, + "loss": 0.0091, + "num_input_tokens_seen": 36154584, + "step": 18477 + }, + { + "epoch": 2.449039098740888, + "grad_norm": 0.1616496741771698, + "learning_rate": 4.050425835099306e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36157448, + "step": 18478 + }, + { + "epoch": 2.449171636845593, + "grad_norm": 0.3109237253665924, + "learning_rate": 4.048531721306173e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36160808, + "step": 18479 + }, + { + "epoch": 2.4493041749502984, + "grad_norm": 10.860774040222168, + "learning_rate": 4.046638011471804e-07, + "loss": 0.3004, + "num_input_tokens_seen": 36163192, + "step": 18480 + }, + { + "epoch": 2.4494367130550034, + "grad_norm": 0.6216098666191101, + "learning_rate": 4.044744705632711e-07, + "loss": 0.0034, + "num_input_tokens_seen": 36165504, + "step": 18481 + }, + { + "epoch": 2.4495692511597085, + "grad_norm": 2.1604909896850586, + "learning_rate": 4.0428518038253926e-07, + "loss": 0.0049, + "num_input_tokens_seen": 36168392, + "step": 18482 + }, + { + "epoch": 2.4497017892644135, + "grad_norm": 0.08943673223257065, + "learning_rate": 4.040959306086345e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36169768, + "step": 18483 + }, + { + "epoch": 2.4498343273691185, + "grad_norm": 5.890272617340088, + "learning_rate": 4.0390672124520607e-07, + "loss": 0.041, + "num_input_tokens_seen": 36171624, + "step": 18484 + }, + { + "epoch": 2.4499668654738236, + "grad_norm": 8.719010353088379, + "learning_rate": 4.0371755229590273e-07, + "loss": 0.071, + "num_input_tokens_seen": 36173328, + "step": 18485 + }, + { + "epoch": 2.4500994035785286, + "grad_norm": 10.766963005065918, + "learning_rate": 4.0352842376437107e-07, + "loss": 0.0944, + "num_input_tokens_seen": 36175152, + "step": 18486 + }, + { + "epoch": 2.450231941683234, + "grad_norm": 1.6075553894042969, + "learning_rate": 4.0333933565425755e-07, + "loss": 0.0151, + "num_input_tokens_seen": 36176800, + "step": 18487 + }, + { + "epoch": 2.450364479787939, + "grad_norm": 12.83462905883789, + "learning_rate": 4.031502879692076e-07, + "loss": 0.0881, + "num_input_tokens_seen": 36178744, + "step": 18488 + }, + { + "epoch": 2.450497017892644, + "grad_norm": 0.001172952470369637, + "learning_rate": 4.029612807128674e-07, + "loss": 0.0, + "num_input_tokens_seen": 36180096, + "step": 18489 + }, + { + "epoch": 2.450629555997349, + "grad_norm": 10.649200439453125, + "learning_rate": 4.0277231388887947e-07, + "loss": 0.0157, + "num_input_tokens_seen": 36181808, + "step": 18490 + }, + { + "epoch": 2.4507620941020543, + "grad_norm": 0.35138416290283203, + "learning_rate": 4.0258338750088886e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36183304, + "step": 18491 + }, + { + "epoch": 2.4508946322067593, + "grad_norm": 0.0034369833301752806, + "learning_rate": 4.0239450155253766e-07, + "loss": 0.0, + "num_input_tokens_seen": 36185160, + "step": 18492 + }, + { + "epoch": 2.4510271703114643, + "grad_norm": 2.6676578521728516, + "learning_rate": 4.022056560474666e-07, + "loss": 0.0943, + "num_input_tokens_seen": 36187656, + "step": 18493 + }, + { + "epoch": 2.45115970841617, + "grad_norm": 0.39595407247543335, + "learning_rate": 4.0201685098931855e-07, + "loss": 0.002, + "num_input_tokens_seen": 36188832, + "step": 18494 + }, + { + "epoch": 2.451292246520875, + "grad_norm": 0.016962377354502678, + "learning_rate": 4.018280863817328e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36191904, + "step": 18495 + }, + { + "epoch": 2.45142478462558, + "grad_norm": 0.001013073604553938, + "learning_rate": 4.016393622283485e-07, + "loss": 0.0, + "num_input_tokens_seen": 36193192, + "step": 18496 + }, + { + "epoch": 2.451557322730285, + "grad_norm": 0.0008697627345100045, + "learning_rate": 4.014506785328054e-07, + "loss": 0.0, + "num_input_tokens_seen": 36195344, + "step": 18497 + }, + { + "epoch": 2.45168986083499, + "grad_norm": 0.18789683282375336, + "learning_rate": 4.012620352987409e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36197296, + "step": 18498 + }, + { + "epoch": 2.451822398939695, + "grad_norm": 0.027016781270503998, + "learning_rate": 4.0107343252979157e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36200280, + "step": 18499 + }, + { + "epoch": 2.4519549370444, + "grad_norm": 9.296707153320312, + "learning_rate": 4.0088487022959507e-07, + "loss": 0.1531, + "num_input_tokens_seen": 36202512, + "step": 18500 + }, + { + "epoch": 2.4520874751491055, + "grad_norm": 5.446923732757568, + "learning_rate": 4.0069634840178645e-07, + "loss": 0.102, + "num_input_tokens_seen": 36204840, + "step": 18501 + }, + { + "epoch": 2.4522200132538106, + "grad_norm": 0.012347945012152195, + "learning_rate": 4.0050786704999985e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36206552, + "step": 18502 + }, + { + "epoch": 2.4523525513585156, + "grad_norm": 1.0581101179122925, + "learning_rate": 4.0031942617787063e-07, + "loss": 0.006, + "num_input_tokens_seen": 36207728, + "step": 18503 + }, + { + "epoch": 2.4524850894632206, + "grad_norm": 6.921823024749756, + "learning_rate": 4.001310257890306e-07, + "loss": 0.0622, + "num_input_tokens_seen": 36209592, + "step": 18504 + }, + { + "epoch": 2.4526176275679257, + "grad_norm": 6.245072364807129, + "learning_rate": 3.999426658871136e-07, + "loss": 0.0174, + "num_input_tokens_seen": 36212592, + "step": 18505 + }, + { + "epoch": 2.4527501656726307, + "grad_norm": 1.3434382677078247, + "learning_rate": 3.9975434647575083e-07, + "loss": 0.0019, + "num_input_tokens_seen": 36213984, + "step": 18506 + }, + { + "epoch": 2.4528827037773357, + "grad_norm": 0.032076429575681686, + "learning_rate": 3.995660675585725e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36215760, + "step": 18507 + }, + { + "epoch": 2.4530152418820412, + "grad_norm": 6.930546283721924, + "learning_rate": 3.9937782913921e-07, + "loss": 0.0521, + "num_input_tokens_seen": 36217704, + "step": 18508 + }, + { + "epoch": 2.4531477799867463, + "grad_norm": 0.9492597579956055, + "learning_rate": 3.9918963122129175e-07, + "loss": 0.0017, + "num_input_tokens_seen": 36219568, + "step": 18509 + }, + { + "epoch": 2.4532803180914513, + "grad_norm": 0.0065710642375051975, + "learning_rate": 3.9900147380844716e-07, + "loss": 0.0, + "num_input_tokens_seen": 36220880, + "step": 18510 + }, + { + "epoch": 2.4534128561961563, + "grad_norm": 0.0010866832453757524, + "learning_rate": 3.9881335690430345e-07, + "loss": 0.0, + "num_input_tokens_seen": 36223008, + "step": 18511 + }, + { + "epoch": 2.4535453943008614, + "grad_norm": 0.23792217671871185, + "learning_rate": 3.9862528051248764e-07, + "loss": 0.0007, + "num_input_tokens_seen": 36224568, + "step": 18512 + }, + { + "epoch": 2.4536779324055664, + "grad_norm": 0.012285387143492699, + "learning_rate": 3.984372446366258e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36226752, + "step": 18513 + }, + { + "epoch": 2.4538104705102715, + "grad_norm": 8.636557579040527, + "learning_rate": 3.9824924928034333e-07, + "loss": 0.2031, + "num_input_tokens_seen": 36228432, + "step": 18514 + }, + { + "epoch": 2.453943008614977, + "grad_norm": 4.483791828155518, + "learning_rate": 3.9806129444726615e-07, + "loss": 0.0713, + "num_input_tokens_seen": 36231328, + "step": 18515 + }, + { + "epoch": 2.454075546719682, + "grad_norm": 0.38840046525001526, + "learning_rate": 3.978733801410173e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36233216, + "step": 18516 + }, + { + "epoch": 2.454208084824387, + "grad_norm": 0.705833911895752, + "learning_rate": 3.9768550636521966e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36234584, + "step": 18517 + }, + { + "epoch": 2.454340622929092, + "grad_norm": 0.3550834655761719, + "learning_rate": 3.9749767312349585e-07, + "loss": 0.0013, + "num_input_tokens_seen": 36236032, + "step": 18518 + }, + { + "epoch": 2.454473161033797, + "grad_norm": 0.39238330721855164, + "learning_rate": 3.9730988041946664e-07, + "loss": 0.001, + "num_input_tokens_seen": 36237704, + "step": 18519 + }, + { + "epoch": 2.454605699138502, + "grad_norm": 0.08152070641517639, + "learning_rate": 3.971221282567536e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36238952, + "step": 18520 + }, + { + "epoch": 2.4547382372432076, + "grad_norm": 9.114176750183105, + "learning_rate": 3.969344166389771e-07, + "loss": 0.0583, + "num_input_tokens_seen": 36240968, + "step": 18521 + }, + { + "epoch": 2.4548707753479126, + "grad_norm": 7.351638317108154, + "learning_rate": 3.96746745569756e-07, + "loss": 0.1613, + "num_input_tokens_seen": 36243296, + "step": 18522 + }, + { + "epoch": 2.4550033134526177, + "grad_norm": 13.040792465209961, + "learning_rate": 3.965591150527087e-07, + "loss": 0.1516, + "num_input_tokens_seen": 36245752, + "step": 18523 + }, + { + "epoch": 2.4551358515573227, + "grad_norm": 0.03130553662776947, + "learning_rate": 3.963715250914521e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36248136, + "step": 18524 + }, + { + "epoch": 2.4552683896620278, + "grad_norm": 5.817678928375244, + "learning_rate": 3.961839756896041e-07, + "loss": 0.053, + "num_input_tokens_seen": 36250272, + "step": 18525 + }, + { + "epoch": 2.455400927766733, + "grad_norm": 0.0018244199454784393, + "learning_rate": 3.9599646685078016e-07, + "loss": 0.0, + "num_input_tokens_seen": 36251736, + "step": 18526 + }, + { + "epoch": 2.4555334658714383, + "grad_norm": 7.069921970367432, + "learning_rate": 3.958089985785962e-07, + "loss": 0.0978, + "num_input_tokens_seen": 36253928, + "step": 18527 + }, + { + "epoch": 2.4556660039761433, + "grad_norm": 4.119227886199951, + "learning_rate": 3.956215708766664e-07, + "loss": 0.0153, + "num_input_tokens_seen": 36256224, + "step": 18528 + }, + { + "epoch": 2.4557985420808484, + "grad_norm": 2.882883071899414, + "learning_rate": 3.9543418374860446e-07, + "loss": 0.0704, + "num_input_tokens_seen": 36258816, + "step": 18529 + }, + { + "epoch": 2.4559310801855534, + "grad_norm": 0.0659695565700531, + "learning_rate": 3.9524683719802255e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36260704, + "step": 18530 + }, + { + "epoch": 2.4560636182902584, + "grad_norm": 0.052687473595142365, + "learning_rate": 3.950595312285338e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36262552, + "step": 18531 + }, + { + "epoch": 2.4561961563949635, + "grad_norm": 0.01680474914610386, + "learning_rate": 3.948722658437501e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36263848, + "step": 18532 + }, + { + "epoch": 2.4563286944996685, + "grad_norm": 14.849852561950684, + "learning_rate": 3.9468504104728107e-07, + "loss": 0.2957, + "num_input_tokens_seen": 36265472, + "step": 18533 + }, + { + "epoch": 2.456461232604374, + "grad_norm": 19.147478103637695, + "learning_rate": 3.944978568427371e-07, + "loss": 0.3487, + "num_input_tokens_seen": 36267112, + "step": 18534 + }, + { + "epoch": 2.456593770709079, + "grad_norm": 1.466558575630188, + "learning_rate": 3.9431071323372623e-07, + "loss": 0.004, + "num_input_tokens_seen": 36269504, + "step": 18535 + }, + { + "epoch": 2.456726308813784, + "grad_norm": 0.021101413294672966, + "learning_rate": 3.94123610223858e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36271240, + "step": 18536 + }, + { + "epoch": 2.456858846918489, + "grad_norm": 3.013065814971924, + "learning_rate": 3.9393654781673893e-07, + "loss": 0.0523, + "num_input_tokens_seen": 36273184, + "step": 18537 + }, + { + "epoch": 2.456991385023194, + "grad_norm": 0.25481125712394714, + "learning_rate": 3.9374952601597654e-07, + "loss": 0.0015, + "num_input_tokens_seen": 36275496, + "step": 18538 + }, + { + "epoch": 2.457123923127899, + "grad_norm": 0.0035919276997447014, + "learning_rate": 3.935625448251765e-07, + "loss": 0.0, + "num_input_tokens_seen": 36276984, + "step": 18539 + }, + { + "epoch": 2.457256461232604, + "grad_norm": 0.009860724210739136, + "learning_rate": 3.933756042479428e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36278680, + "step": 18540 + }, + { + "epoch": 2.4573889993373097, + "grad_norm": 4.453540802001953, + "learning_rate": 3.931887042878815e-07, + "loss": 0.011, + "num_input_tokens_seen": 36280336, + "step": 18541 + }, + { + "epoch": 2.4575215374420147, + "grad_norm": 1.2259290218353271, + "learning_rate": 3.930018449485956e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36282464, + "step": 18542 + }, + { + "epoch": 2.4576540755467198, + "grad_norm": 0.015249701216816902, + "learning_rate": 3.928150262336869e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36283752, + "step": 18543 + }, + { + "epoch": 2.457786613651425, + "grad_norm": 2.2574620246887207, + "learning_rate": 3.926282481467589e-07, + "loss": 0.022, + "num_input_tokens_seen": 36285480, + "step": 18544 + }, + { + "epoch": 2.45791915175613, + "grad_norm": 0.017547357827425003, + "learning_rate": 3.924415106914112e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36287912, + "step": 18545 + }, + { + "epoch": 2.458051689860835, + "grad_norm": 0.019435573369264603, + "learning_rate": 3.9225481387124594e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36289632, + "step": 18546 + }, + { + "epoch": 2.45818422796554, + "grad_norm": 1.5946136713027954, + "learning_rate": 3.920681576898619e-07, + "loss": 0.0062, + "num_input_tokens_seen": 36291336, + "step": 18547 + }, + { + "epoch": 2.4583167660702454, + "grad_norm": 0.0018522939644753933, + "learning_rate": 3.9188154215085786e-07, + "loss": 0.0, + "num_input_tokens_seen": 36292376, + "step": 18548 + }, + { + "epoch": 2.4584493041749504, + "grad_norm": 6.19691801071167, + "learning_rate": 3.916949672578316e-07, + "loss": 0.1191, + "num_input_tokens_seen": 36295440, + "step": 18549 + }, + { + "epoch": 2.4585818422796555, + "grad_norm": 0.012406140565872192, + "learning_rate": 3.9150843301438063e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36297232, + "step": 18550 + }, + { + "epoch": 2.4587143803843605, + "grad_norm": 0.20916685461997986, + "learning_rate": 3.9132193942410244e-07, + "loss": 0.0013, + "num_input_tokens_seen": 36299496, + "step": 18551 + }, + { + "epoch": 2.4588469184890656, + "grad_norm": 0.05357753857970238, + "learning_rate": 3.9113548649059167e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36301848, + "step": 18552 + }, + { + "epoch": 2.4589794565937706, + "grad_norm": 5.810751438140869, + "learning_rate": 3.9094907421744375e-07, + "loss": 0.0474, + "num_input_tokens_seen": 36303944, + "step": 18553 + }, + { + "epoch": 2.4591119946984756, + "grad_norm": 0.12448681145906448, + "learning_rate": 3.907627026082525e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36306536, + "step": 18554 + }, + { + "epoch": 2.459244532803181, + "grad_norm": 0.010513396002352238, + "learning_rate": 3.9057637166661113e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36307888, + "step": 18555 + }, + { + "epoch": 2.459377070907886, + "grad_norm": 11.488607406616211, + "learning_rate": 3.903900813961123e-07, + "loss": 0.0607, + "num_input_tokens_seen": 36309224, + "step": 18556 + }, + { + "epoch": 2.459509609012591, + "grad_norm": 7.867898941040039, + "learning_rate": 3.902038318003487e-07, + "loss": 0.0652, + "num_input_tokens_seen": 36310960, + "step": 18557 + }, + { + "epoch": 2.4596421471172962, + "grad_norm": 0.0015349120367318392, + "learning_rate": 3.9001762288291056e-07, + "loss": 0.0, + "num_input_tokens_seen": 36312072, + "step": 18558 + }, + { + "epoch": 2.4597746852220013, + "grad_norm": 2.8339264392852783, + "learning_rate": 3.898314546473883e-07, + "loss": 0.0121, + "num_input_tokens_seen": 36313712, + "step": 18559 + }, + { + "epoch": 2.4599072233267063, + "grad_norm": 5.4413042068481445, + "learning_rate": 3.8964532709737103e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36316000, + "step": 18560 + }, + { + "epoch": 2.4600397614314113, + "grad_norm": 5.859724998474121, + "learning_rate": 3.894592402364472e-07, + "loss": 0.0722, + "num_input_tokens_seen": 36318744, + "step": 18561 + }, + { + "epoch": 2.460172299536117, + "grad_norm": 0.0006884496542625129, + "learning_rate": 3.8927319406820625e-07, + "loss": 0.0, + "num_input_tokens_seen": 36320192, + "step": 18562 + }, + { + "epoch": 2.460304837640822, + "grad_norm": 8.242111206054688, + "learning_rate": 3.8908718859623413e-07, + "loss": 0.1392, + "num_input_tokens_seen": 36322384, + "step": 18563 + }, + { + "epoch": 2.460437375745527, + "grad_norm": 4.685074329376221, + "learning_rate": 3.8890122382411714e-07, + "loss": 0.0755, + "num_input_tokens_seen": 36324728, + "step": 18564 + }, + { + "epoch": 2.460569913850232, + "grad_norm": 0.04208492860198021, + "learning_rate": 3.8871529975544084e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36326528, + "step": 18565 + }, + { + "epoch": 2.460702451954937, + "grad_norm": 0.0041338251903653145, + "learning_rate": 3.885294163937897e-07, + "loss": 0.0, + "num_input_tokens_seen": 36327976, + "step": 18566 + }, + { + "epoch": 2.460834990059642, + "grad_norm": 20.510738372802734, + "learning_rate": 3.8834357374274793e-07, + "loss": 0.1064, + "num_input_tokens_seen": 36329216, + "step": 18567 + }, + { + "epoch": 2.460967528164347, + "grad_norm": 0.0022442529443651438, + "learning_rate": 3.881577718058993e-07, + "loss": 0.0, + "num_input_tokens_seen": 36330984, + "step": 18568 + }, + { + "epoch": 2.4611000662690525, + "grad_norm": 0.3472481071949005, + "learning_rate": 3.8797201058682595e-07, + "loss": 0.002, + "num_input_tokens_seen": 36333032, + "step": 18569 + }, + { + "epoch": 2.4612326043737576, + "grad_norm": 3.3336098194122314, + "learning_rate": 3.8778629008910913e-07, + "loss": 0.0084, + "num_input_tokens_seen": 36335824, + "step": 18570 + }, + { + "epoch": 2.4613651424784626, + "grad_norm": 1.921223521232605, + "learning_rate": 3.876006103163293e-07, + "loss": 0.0145, + "num_input_tokens_seen": 36337488, + "step": 18571 + }, + { + "epoch": 2.4614976805831676, + "grad_norm": 10.020763397216797, + "learning_rate": 3.8741497127206733e-07, + "loss": 0.2283, + "num_input_tokens_seen": 36339880, + "step": 18572 + }, + { + "epoch": 2.4616302186878727, + "grad_norm": 5.586206912994385, + "learning_rate": 3.8722937295990163e-07, + "loss": 0.0714, + "num_input_tokens_seen": 36341824, + "step": 18573 + }, + { + "epoch": 2.4617627567925777, + "grad_norm": 1.663621187210083, + "learning_rate": 3.870438153834119e-07, + "loss": 0.0161, + "num_input_tokens_seen": 36344568, + "step": 18574 + }, + { + "epoch": 2.4618952948972828, + "grad_norm": 0.010140071623027325, + "learning_rate": 3.86858298546175e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36346104, + "step": 18575 + }, + { + "epoch": 2.4620278330019882, + "grad_norm": 0.01147930882871151, + "learning_rate": 3.866728224517671e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36347664, + "step": 18576 + }, + { + "epoch": 2.4621603711066933, + "grad_norm": 0.15439902245998383, + "learning_rate": 3.8648738710376584e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36349464, + "step": 18577 + }, + { + "epoch": 2.4622929092113983, + "grad_norm": 0.0025804725009948015, + "learning_rate": 3.863019925057457e-07, + "loss": 0.0, + "num_input_tokens_seen": 36350840, + "step": 18578 + }, + { + "epoch": 2.4624254473161034, + "grad_norm": 0.08611530810594559, + "learning_rate": 3.861166386612808e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36353352, + "step": 18579 + }, + { + "epoch": 2.4625579854208084, + "grad_norm": 0.2755880355834961, + "learning_rate": 3.859313255739458e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36355088, + "step": 18580 + }, + { + "epoch": 2.4626905235255134, + "grad_norm": 0.07325536757707596, + "learning_rate": 3.8574605324731287e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36356488, + "step": 18581 + }, + { + "epoch": 2.4628230616302185, + "grad_norm": 0.8562663793563843, + "learning_rate": 3.855608216849552e-07, + "loss": 0.003, + "num_input_tokens_seen": 36357832, + "step": 18582 + }, + { + "epoch": 2.462955599734924, + "grad_norm": 0.017841368913650513, + "learning_rate": 3.8537563089044355e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36360312, + "step": 18583 + }, + { + "epoch": 2.463088137839629, + "grad_norm": 2.6896965503692627, + "learning_rate": 3.851904808673479e-07, + "loss": 0.0278, + "num_input_tokens_seen": 36362816, + "step": 18584 + }, + { + "epoch": 2.463220675944334, + "grad_norm": 0.028345245867967606, + "learning_rate": 3.8500537161923923e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36364936, + "step": 18585 + }, + { + "epoch": 2.463353214049039, + "grad_norm": 4.704026699066162, + "learning_rate": 3.848203031496861e-07, + "loss": 0.076, + "num_input_tokens_seen": 36367544, + "step": 18586 + }, + { + "epoch": 2.463485752153744, + "grad_norm": 8.027031898498535, + "learning_rate": 3.846352754622562e-07, + "loss": 0.1695, + "num_input_tokens_seen": 36369976, + "step": 18587 + }, + { + "epoch": 2.463618290258449, + "grad_norm": 0.032721854746341705, + "learning_rate": 3.844502885605181e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36371568, + "step": 18588 + }, + { + "epoch": 2.463750828363154, + "grad_norm": 5.697801113128662, + "learning_rate": 3.8426534244803774e-07, + "loss": 0.1086, + "num_input_tokens_seen": 36373536, + "step": 18589 + }, + { + "epoch": 2.4638833664678597, + "grad_norm": 14.564227104187012, + "learning_rate": 3.8408043712838074e-07, + "loss": 0.0802, + "num_input_tokens_seen": 36375112, + "step": 18590 + }, + { + "epoch": 2.4640159045725647, + "grad_norm": 0.040207985788583755, + "learning_rate": 3.83895572605113e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36376944, + "step": 18591 + }, + { + "epoch": 2.4641484426772697, + "grad_norm": 0.013511697761714458, + "learning_rate": 3.8371074888179814e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36378896, + "step": 18592 + }, + { + "epoch": 2.4642809807819748, + "grad_norm": 0.003365330398082733, + "learning_rate": 3.835259659620003e-07, + "loss": 0.0, + "num_input_tokens_seen": 36381528, + "step": 18593 + }, + { + "epoch": 2.46441351888668, + "grad_norm": 0.010893715545535088, + "learning_rate": 3.83341223849282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36383824, + "step": 18594 + }, + { + "epoch": 2.464546056991385, + "grad_norm": 6.247860431671143, + "learning_rate": 3.83156522547205e-07, + "loss": 0.0622, + "num_input_tokens_seen": 36385560, + "step": 18595 + }, + { + "epoch": 2.46467859509609, + "grad_norm": 0.0010095748584717512, + "learning_rate": 3.8297186205933034e-07, + "loss": 0.0, + "num_input_tokens_seen": 36387000, + "step": 18596 + }, + { + "epoch": 2.4648111332007954, + "grad_norm": 5.720786094665527, + "learning_rate": 3.827872423892184e-07, + "loss": 0.026, + "num_input_tokens_seen": 36389624, + "step": 18597 + }, + { + "epoch": 2.4649436713055004, + "grad_norm": 0.07707821577787399, + "learning_rate": 3.8260266354042954e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36391048, + "step": 18598 + }, + { + "epoch": 2.4650762094102054, + "grad_norm": 0.26295992732048035, + "learning_rate": 3.8241812551652215e-07, + "loss": 0.0014, + "num_input_tokens_seen": 36392616, + "step": 18599 + }, + { + "epoch": 2.4652087475149105, + "grad_norm": 0.02838672511279583, + "learning_rate": 3.8223362832105427e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36394232, + "step": 18600 + }, + { + "epoch": 2.4653412856196155, + "grad_norm": 7.368450164794922, + "learning_rate": 3.820491719575828e-07, + "loss": 0.07, + "num_input_tokens_seen": 36396928, + "step": 18601 + }, + { + "epoch": 2.4654738237243206, + "grad_norm": 0.8114721775054932, + "learning_rate": 3.8186475642966376e-07, + "loss": 0.0035, + "num_input_tokens_seen": 36398672, + "step": 18602 + }, + { + "epoch": 2.465606361829026, + "grad_norm": 0.0015176148153841496, + "learning_rate": 3.8168038174085373e-07, + "loss": 0.0, + "num_input_tokens_seen": 36399880, + "step": 18603 + }, + { + "epoch": 2.465738899933731, + "grad_norm": 8.708642959594727, + "learning_rate": 3.8149604789470775e-07, + "loss": 0.2358, + "num_input_tokens_seen": 36403016, + "step": 18604 + }, + { + "epoch": 2.465871438038436, + "grad_norm": 2.6724283695220947, + "learning_rate": 3.813117548947792e-07, + "loss": 0.0057, + "num_input_tokens_seen": 36404504, + "step": 18605 + }, + { + "epoch": 2.466003976143141, + "grad_norm": 6.241840839385986, + "learning_rate": 3.811275027446221e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36406024, + "step": 18606 + }, + { + "epoch": 2.466136514247846, + "grad_norm": 6.874896049499512, + "learning_rate": 3.8094329144778756e-07, + "loss": 0.0768, + "num_input_tokens_seen": 36407568, + "step": 18607 + }, + { + "epoch": 2.4662690523525512, + "grad_norm": 3.1563775539398193, + "learning_rate": 3.8075912100782877e-07, + "loss": 0.026, + "num_input_tokens_seen": 36409168, + "step": 18608 + }, + { + "epoch": 2.4664015904572567, + "grad_norm": 5.883502960205078, + "learning_rate": 3.805749914282955e-07, + "loss": 0.0669, + "num_input_tokens_seen": 36411416, + "step": 18609 + }, + { + "epoch": 2.4665341285619617, + "grad_norm": 0.36826008558273315, + "learning_rate": 3.803909027127395e-07, + "loss": 0.0023, + "num_input_tokens_seen": 36413112, + "step": 18610 + }, + { + "epoch": 2.466666666666667, + "grad_norm": 2.848257064819336, + "learning_rate": 3.8020685486470863e-07, + "loss": 0.0113, + "num_input_tokens_seen": 36416000, + "step": 18611 + }, + { + "epoch": 2.466799204771372, + "grad_norm": 3.7428433895111084, + "learning_rate": 3.800228478877524e-07, + "loss": 0.0316, + "num_input_tokens_seen": 36417912, + "step": 18612 + }, + { + "epoch": 2.466931742876077, + "grad_norm": 2.251021146774292, + "learning_rate": 3.7983888178541734e-07, + "loss": 0.0158, + "num_input_tokens_seen": 36419736, + "step": 18613 + }, + { + "epoch": 2.467064280980782, + "grad_norm": 6.864626407623291, + "learning_rate": 3.796549565612512e-07, + "loss": 0.0238, + "num_input_tokens_seen": 36422304, + "step": 18614 + }, + { + "epoch": 2.467196819085487, + "grad_norm": 8.772578239440918, + "learning_rate": 3.7947107221880107e-07, + "loss": 0.1593, + "num_input_tokens_seen": 36423960, + "step": 18615 + }, + { + "epoch": 2.4673293571901924, + "grad_norm": 10.461966514587402, + "learning_rate": 3.7928722876161143e-07, + "loss": 0.2263, + "num_input_tokens_seen": 36426192, + "step": 18616 + }, + { + "epoch": 2.4674618952948975, + "grad_norm": 21.60616683959961, + "learning_rate": 3.7910342619322694e-07, + "loss": 0.1168, + "num_input_tokens_seen": 36428144, + "step": 18617 + }, + { + "epoch": 2.4675944333996025, + "grad_norm": 0.8281954526901245, + "learning_rate": 3.7891966451719107e-07, + "loss": 0.0033, + "num_input_tokens_seen": 36430032, + "step": 18618 + }, + { + "epoch": 2.4677269715043075, + "grad_norm": 0.02571220137178898, + "learning_rate": 3.7873594373704775e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36431832, + "step": 18619 + }, + { + "epoch": 2.4678595096090126, + "grad_norm": 0.5457932949066162, + "learning_rate": 3.785522638563385e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36434232, + "step": 18620 + }, + { + "epoch": 2.4679920477137176, + "grad_norm": 2.104452610015869, + "learning_rate": 3.783686248786053e-07, + "loss": 0.0132, + "num_input_tokens_seen": 36436032, + "step": 18621 + }, + { + "epoch": 2.4681245858184226, + "grad_norm": 4.263936996459961, + "learning_rate": 3.7818502680738914e-07, + "loss": 0.0272, + "num_input_tokens_seen": 36437688, + "step": 18622 + }, + { + "epoch": 2.468257123923128, + "grad_norm": 2.0617122650146484, + "learning_rate": 3.7800146964622833e-07, + "loss": 0.0054, + "num_input_tokens_seen": 36440208, + "step": 18623 + }, + { + "epoch": 2.468389662027833, + "grad_norm": 11.768367767333984, + "learning_rate": 3.778179533986642e-07, + "loss": 0.0906, + "num_input_tokens_seen": 36441992, + "step": 18624 + }, + { + "epoch": 2.468522200132538, + "grad_norm": 0.14102783799171448, + "learning_rate": 3.7763447806823366e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36446072, + "step": 18625 + }, + { + "epoch": 2.4686547382372432, + "grad_norm": 0.0030637281015515327, + "learning_rate": 3.7745104365847384e-07, + "loss": 0.0, + "num_input_tokens_seen": 36448152, + "step": 18626 + }, + { + "epoch": 2.4687872763419483, + "grad_norm": 2.3659050464630127, + "learning_rate": 3.7726765017292277e-07, + "loss": 0.013, + "num_input_tokens_seen": 36450256, + "step": 18627 + }, + { + "epoch": 2.4689198144466533, + "grad_norm": 0.17747730016708374, + "learning_rate": 3.770842976151154e-07, + "loss": 0.0007, + "num_input_tokens_seen": 36452432, + "step": 18628 + }, + { + "epoch": 2.4690523525513584, + "grad_norm": 3.586778402328491, + "learning_rate": 3.769009859885878e-07, + "loss": 0.016, + "num_input_tokens_seen": 36454640, + "step": 18629 + }, + { + "epoch": 2.469184890656064, + "grad_norm": 0.044169340282678604, + "learning_rate": 3.7671771529687374e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36456752, + "step": 18630 + }, + { + "epoch": 2.469317428760769, + "grad_norm": 11.662440299987793, + "learning_rate": 3.765344855435071e-07, + "loss": 0.1469, + "num_input_tokens_seen": 36458600, + "step": 18631 + }, + { + "epoch": 2.469449966865474, + "grad_norm": 8.108439445495605, + "learning_rate": 3.7635129673201984e-07, + "loss": 0.0599, + "num_input_tokens_seen": 36460736, + "step": 18632 + }, + { + "epoch": 2.469582504970179, + "grad_norm": 28.31918716430664, + "learning_rate": 3.7616814886594467e-07, + "loss": 0.1525, + "num_input_tokens_seen": 36462344, + "step": 18633 + }, + { + "epoch": 2.469715043074884, + "grad_norm": 0.03383000195026398, + "learning_rate": 3.7598504194881315e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36464024, + "step": 18634 + }, + { + "epoch": 2.469847581179589, + "grad_norm": 9.165836334228516, + "learning_rate": 3.7580197598415523e-07, + "loss": 0.1452, + "num_input_tokens_seen": 36465176, + "step": 18635 + }, + { + "epoch": 2.469980119284294, + "grad_norm": 1.2978737354278564, + "learning_rate": 3.756189509755009e-07, + "loss": 0.0039, + "num_input_tokens_seen": 36466720, + "step": 18636 + }, + { + "epoch": 2.4701126573889995, + "grad_norm": 0.005410389043390751, + "learning_rate": 3.75435966926378e-07, + "loss": 0.0, + "num_input_tokens_seen": 36468304, + "step": 18637 + }, + { + "epoch": 2.4702451954937046, + "grad_norm": 3.268007516860962, + "learning_rate": 3.7525302384031543e-07, + "loss": 0.0105, + "num_input_tokens_seen": 36469944, + "step": 18638 + }, + { + "epoch": 2.4703777335984096, + "grad_norm": 0.024959152564406395, + "learning_rate": 3.7507012172084076e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36471800, + "step": 18639 + }, + { + "epoch": 2.4705102717031147, + "grad_norm": 4.738266944885254, + "learning_rate": 3.748872605714801e-07, + "loss": 0.0823, + "num_input_tokens_seen": 36473504, + "step": 18640 + }, + { + "epoch": 2.4706428098078197, + "grad_norm": 0.001865852507762611, + "learning_rate": 3.747044403957592e-07, + "loss": 0.0, + "num_input_tokens_seen": 36475024, + "step": 18641 + }, + { + "epoch": 2.4707753479125247, + "grad_norm": 8.800101280212402, + "learning_rate": 3.7452166119720275e-07, + "loss": 0.1303, + "num_input_tokens_seen": 36478192, + "step": 18642 + }, + { + "epoch": 2.4709078860172298, + "grad_norm": 5.0085768699646, + "learning_rate": 3.7433892297933453e-07, + "loss": 0.023, + "num_input_tokens_seen": 36480392, + "step": 18643 + }, + { + "epoch": 2.4710404241219353, + "grad_norm": 0.019891148433089256, + "learning_rate": 3.7415622574567823e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36482280, + "step": 18644 + }, + { + "epoch": 2.4711729622266403, + "grad_norm": 0.007515651639550924, + "learning_rate": 3.7397356949975704e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36483920, + "step": 18645 + }, + { + "epoch": 2.4713055003313453, + "grad_norm": 4.763917922973633, + "learning_rate": 3.737909542450918e-07, + "loss": 0.0339, + "num_input_tokens_seen": 36486152, + "step": 18646 + }, + { + "epoch": 2.4714380384360504, + "grad_norm": 0.5105686783790588, + "learning_rate": 3.7360837998520416e-07, + "loss": 0.0022, + "num_input_tokens_seen": 36487896, + "step": 18647 + }, + { + "epoch": 2.4715705765407554, + "grad_norm": 3.8065185546875, + "learning_rate": 3.734258467236138e-07, + "loss": 0.04, + "num_input_tokens_seen": 36489792, + "step": 18648 + }, + { + "epoch": 2.4717031146454604, + "grad_norm": 7.1392998695373535, + "learning_rate": 3.732433544638395e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36491608, + "step": 18649 + }, + { + "epoch": 2.4718356527501655, + "grad_norm": 0.06258106231689453, + "learning_rate": 3.7306090320940044e-07, + "loss": 0.0005, + "num_input_tokens_seen": 36493480, + "step": 18650 + }, + { + "epoch": 2.471968190854871, + "grad_norm": 0.07136065512895584, + "learning_rate": 3.7287849296381515e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36495456, + "step": 18651 + }, + { + "epoch": 2.472100728959576, + "grad_norm": 0.003425769740715623, + "learning_rate": 3.726961237305998e-07, + "loss": 0.0, + "num_input_tokens_seen": 36497752, + "step": 18652 + }, + { + "epoch": 2.472233267064281, + "grad_norm": 5.968837738037109, + "learning_rate": 3.725137955132707e-07, + "loss": 0.0432, + "num_input_tokens_seen": 36500104, + "step": 18653 + }, + { + "epoch": 2.472365805168986, + "grad_norm": 0.0020306508522480726, + "learning_rate": 3.723315083153431e-07, + "loss": 0.0, + "num_input_tokens_seen": 36501600, + "step": 18654 + }, + { + "epoch": 2.472498343273691, + "grad_norm": 0.8280400037765503, + "learning_rate": 3.721492621403322e-07, + "loss": 0.0042, + "num_input_tokens_seen": 36504064, + "step": 18655 + }, + { + "epoch": 2.472630881378396, + "grad_norm": 4.275320529937744, + "learning_rate": 3.719670569917508e-07, + "loss": 0.0199, + "num_input_tokens_seen": 36505952, + "step": 18656 + }, + { + "epoch": 2.472763419483101, + "grad_norm": 1.9094735383987427, + "learning_rate": 3.7178489287311295e-07, + "loss": 0.0046, + "num_input_tokens_seen": 36508768, + "step": 18657 + }, + { + "epoch": 2.4728959575878067, + "grad_norm": 0.16728071868419647, + "learning_rate": 3.7160276978793096e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36510216, + "step": 18658 + }, + { + "epoch": 2.4730284956925117, + "grad_norm": 0.047469545155763626, + "learning_rate": 3.71420687739715e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36513248, + "step": 18659 + }, + { + "epoch": 2.4731610337972167, + "grad_norm": 0.0017732606502249837, + "learning_rate": 3.712386467319776e-07, + "loss": 0.0, + "num_input_tokens_seen": 36514752, + "step": 18660 + }, + { + "epoch": 2.473293571901922, + "grad_norm": 4.72714376449585, + "learning_rate": 3.710566467682272e-07, + "loss": 0.0208, + "num_input_tokens_seen": 36516696, + "step": 18661 + }, + { + "epoch": 2.473426110006627, + "grad_norm": 24.258129119873047, + "learning_rate": 3.708746878519731e-07, + "loss": 0.2875, + "num_input_tokens_seen": 36518168, + "step": 18662 + }, + { + "epoch": 2.473558648111332, + "grad_norm": 0.8548184633255005, + "learning_rate": 3.706927699867241e-07, + "loss": 0.0034, + "num_input_tokens_seen": 36519624, + "step": 18663 + }, + { + "epoch": 2.473691186216037, + "grad_norm": 0.6532331705093384, + "learning_rate": 3.705108931759871e-07, + "loss": 0.0029, + "num_input_tokens_seen": 36521544, + "step": 18664 + }, + { + "epoch": 2.4738237243207424, + "grad_norm": 0.7739023566246033, + "learning_rate": 3.703290574232696e-07, + "loss": 0.003, + "num_input_tokens_seen": 36523568, + "step": 18665 + }, + { + "epoch": 2.4739562624254474, + "grad_norm": 4.31135368347168, + "learning_rate": 3.7014726273207706e-07, + "loss": 0.0579, + "num_input_tokens_seen": 36526032, + "step": 18666 + }, + { + "epoch": 2.4740888005301525, + "grad_norm": 0.013768148608505726, + "learning_rate": 3.69965509105914e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36527312, + "step": 18667 + }, + { + "epoch": 2.4742213386348575, + "grad_norm": 1.9507547616958618, + "learning_rate": 3.697837965482859e-07, + "loss": 0.015, + "num_input_tokens_seen": 36528832, + "step": 18668 + }, + { + "epoch": 2.4743538767395625, + "grad_norm": 6.322918891906738, + "learning_rate": 3.696021250626958e-07, + "loss": 0.065, + "num_input_tokens_seen": 36530616, + "step": 18669 + }, + { + "epoch": 2.4744864148442676, + "grad_norm": 7.7717742919921875, + "learning_rate": 3.6942049465264585e-07, + "loss": 0.0878, + "num_input_tokens_seen": 36532472, + "step": 18670 + }, + { + "epoch": 2.4746189529489726, + "grad_norm": 1.8606345653533936, + "learning_rate": 3.6923890532163915e-07, + "loss": 0.0053, + "num_input_tokens_seen": 36534336, + "step": 18671 + }, + { + "epoch": 2.474751491053678, + "grad_norm": 4.085430145263672, + "learning_rate": 3.690573570731765e-07, + "loss": 0.0201, + "num_input_tokens_seen": 36536672, + "step": 18672 + }, + { + "epoch": 2.474884029158383, + "grad_norm": 6.766450881958008, + "learning_rate": 3.6887584991075723e-07, + "loss": 0.0645, + "num_input_tokens_seen": 36539088, + "step": 18673 + }, + { + "epoch": 2.475016567263088, + "grad_norm": 0.13217997550964355, + "learning_rate": 3.686943838378823e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36541056, + "step": 18674 + }, + { + "epoch": 2.475149105367793, + "grad_norm": 8.302579879760742, + "learning_rate": 3.6851295885804966e-07, + "loss": 0.0475, + "num_input_tokens_seen": 36543840, + "step": 18675 + }, + { + "epoch": 2.4752816434724982, + "grad_norm": 8.71478271484375, + "learning_rate": 3.683315749747579e-07, + "loss": 0.0768, + "num_input_tokens_seen": 36546128, + "step": 18676 + }, + { + "epoch": 2.4754141815772033, + "grad_norm": 0.040390629321336746, + "learning_rate": 3.6815023219150427e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36547640, + "step": 18677 + }, + { + "epoch": 2.4755467196819083, + "grad_norm": 1.09035062789917, + "learning_rate": 3.679689305117845e-07, + "loss": 0.005, + "num_input_tokens_seen": 36549896, + "step": 18678 + }, + { + "epoch": 2.475679257786614, + "grad_norm": 0.0018565859645605087, + "learning_rate": 3.677876699390942e-07, + "loss": 0.0, + "num_input_tokens_seen": 36551808, + "step": 18679 + }, + { + "epoch": 2.475811795891319, + "grad_norm": 6.177809238433838, + "learning_rate": 3.6760645047692834e-07, + "loss": 0.021, + "num_input_tokens_seen": 36553616, + "step": 18680 + }, + { + "epoch": 2.475944333996024, + "grad_norm": 8.347784042358398, + "learning_rate": 3.674252721287819e-07, + "loss": 0.0753, + "num_input_tokens_seen": 36555704, + "step": 18681 + }, + { + "epoch": 2.476076872100729, + "grad_norm": 0.8276697993278503, + "learning_rate": 3.672441348981476e-07, + "loss": 0.0018, + "num_input_tokens_seen": 36557544, + "step": 18682 + }, + { + "epoch": 2.476209410205434, + "grad_norm": 5.259163856506348, + "learning_rate": 3.670630387885174e-07, + "loss": 0.0656, + "num_input_tokens_seen": 36559696, + "step": 18683 + }, + { + "epoch": 2.476341948310139, + "grad_norm": 3.6759846210479736, + "learning_rate": 3.6688198380338323e-07, + "loss": 0.1345, + "num_input_tokens_seen": 36561288, + "step": 18684 + }, + { + "epoch": 2.476474486414844, + "grad_norm": 4.614109516143799, + "learning_rate": 3.667009699462357e-07, + "loss": 0.0182, + "num_input_tokens_seen": 36563024, + "step": 18685 + }, + { + "epoch": 2.4766070245195495, + "grad_norm": 0.4406585991382599, + "learning_rate": 3.665199972205649e-07, + "loss": 0.0026, + "num_input_tokens_seen": 36565264, + "step": 18686 + }, + { + "epoch": 2.4767395626242545, + "grad_norm": 0.03262486308813095, + "learning_rate": 3.66339065629861e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36566656, + "step": 18687 + }, + { + "epoch": 2.4768721007289596, + "grad_norm": 7.582146644592285, + "learning_rate": 3.6615817517761194e-07, + "loss": 0.1146, + "num_input_tokens_seen": 36569128, + "step": 18688 + }, + { + "epoch": 2.4770046388336646, + "grad_norm": 3.941302537918091, + "learning_rate": 3.6597732586730523e-07, + "loss": 0.0289, + "num_input_tokens_seen": 36571104, + "step": 18689 + }, + { + "epoch": 2.4771371769383697, + "grad_norm": 0.0013158038491383195, + "learning_rate": 3.6579651770242724e-07, + "loss": 0.0, + "num_input_tokens_seen": 36573192, + "step": 18690 + }, + { + "epoch": 2.4772697150430747, + "grad_norm": 0.001474212622269988, + "learning_rate": 3.6561575068646467e-07, + "loss": 0.0, + "num_input_tokens_seen": 36574432, + "step": 18691 + }, + { + "epoch": 2.47740225314778, + "grad_norm": 15.631548881530762, + "learning_rate": 3.6543502482290354e-07, + "loss": 0.0682, + "num_input_tokens_seen": 36576440, + "step": 18692 + }, + { + "epoch": 2.477534791252485, + "grad_norm": 0.014167402870953083, + "learning_rate": 3.652543401152278e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36578328, + "step": 18693 + }, + { + "epoch": 2.4776673293571903, + "grad_norm": 4.524556636810303, + "learning_rate": 3.6507369656692104e-07, + "loss": 0.0408, + "num_input_tokens_seen": 36580320, + "step": 18694 + }, + { + "epoch": 2.4777998674618953, + "grad_norm": 3.2678520679473877, + "learning_rate": 3.6489309418146546e-07, + "loss": 0.0125, + "num_input_tokens_seen": 36582504, + "step": 18695 + }, + { + "epoch": 2.4779324055666003, + "grad_norm": 0.03931229189038277, + "learning_rate": 3.6471253296234464e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36584416, + "step": 18696 + }, + { + "epoch": 2.4780649436713054, + "grad_norm": 4.788264274597168, + "learning_rate": 3.645320129130386e-07, + "loss": 0.0992, + "num_input_tokens_seen": 36587544, + "step": 18697 + }, + { + "epoch": 2.478197481776011, + "grad_norm": 0.9232210516929626, + "learning_rate": 3.643515340370293e-07, + "loss": 0.0044, + "num_input_tokens_seen": 36589184, + "step": 18698 + }, + { + "epoch": 2.478330019880716, + "grad_norm": 7.604608535766602, + "learning_rate": 3.6417109633779564e-07, + "loss": 0.1169, + "num_input_tokens_seen": 36591768, + "step": 18699 + }, + { + "epoch": 2.478462557985421, + "grad_norm": 9.31635570526123, + "learning_rate": 3.639906998188167e-07, + "loss": 0.1002, + "num_input_tokens_seen": 36593832, + "step": 18700 + }, + { + "epoch": 2.478595096090126, + "grad_norm": 6.626319885253906, + "learning_rate": 3.6381034448356974e-07, + "loss": 0.0567, + "num_input_tokens_seen": 36596096, + "step": 18701 + }, + { + "epoch": 2.478727634194831, + "grad_norm": 6.331774711608887, + "learning_rate": 3.636300303355339e-07, + "loss": 0.1068, + "num_input_tokens_seen": 36597832, + "step": 18702 + }, + { + "epoch": 2.478860172299536, + "grad_norm": 0.019286390393972397, + "learning_rate": 3.6344975737818423e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36599816, + "step": 18703 + }, + { + "epoch": 2.478992710404241, + "grad_norm": 0.4375932514667511, + "learning_rate": 3.632695256149979e-07, + "loss": 0.001, + "num_input_tokens_seen": 36602376, + "step": 18704 + }, + { + "epoch": 2.4791252485089466, + "grad_norm": 10.119908332824707, + "learning_rate": 3.630893350494491e-07, + "loss": 0.0209, + "num_input_tokens_seen": 36605496, + "step": 18705 + }, + { + "epoch": 2.4792577866136516, + "grad_norm": 0.007768499664962292, + "learning_rate": 3.6290918568501145e-07, + "loss": 0.0, + "num_input_tokens_seen": 36606824, + "step": 18706 + }, + { + "epoch": 2.4793903247183566, + "grad_norm": 3.785700559616089, + "learning_rate": 3.6272907752515964e-07, + "loss": 0.0212, + "num_input_tokens_seen": 36609344, + "step": 18707 + }, + { + "epoch": 2.4795228628230617, + "grad_norm": 0.279410183429718, + "learning_rate": 3.625490105733653e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36610656, + "step": 18708 + }, + { + "epoch": 2.4796554009277667, + "grad_norm": 0.046907536685466766, + "learning_rate": 3.6236898483310053e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36612152, + "step": 18709 + }, + { + "epoch": 2.4797879390324717, + "grad_norm": 12.53381633758545, + "learning_rate": 3.6218900030783683e-07, + "loss": 0.0743, + "num_input_tokens_seen": 36614120, + "step": 18710 + }, + { + "epoch": 2.479920477137177, + "grad_norm": 3.6469523906707764, + "learning_rate": 3.6200905700104314e-07, + "loss": 0.0093, + "num_input_tokens_seen": 36617576, + "step": 18711 + }, + { + "epoch": 2.4800530152418823, + "grad_norm": 0.046498291194438934, + "learning_rate": 3.6182915491619065e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36619224, + "step": 18712 + }, + { + "epoch": 2.4801855533465873, + "grad_norm": 0.0005093045765534043, + "learning_rate": 3.61649294056747e-07, + "loss": 0.0, + "num_input_tokens_seen": 36620800, + "step": 18713 + }, + { + "epoch": 2.4803180914512923, + "grad_norm": 3.954202175140381, + "learning_rate": 3.6146947442618015e-07, + "loss": 0.0523, + "num_input_tokens_seen": 36622168, + "step": 18714 + }, + { + "epoch": 2.4804506295559974, + "grad_norm": 9.797955513000488, + "learning_rate": 3.612896960279566e-07, + "loss": 0.0539, + "num_input_tokens_seen": 36624200, + "step": 18715 + }, + { + "epoch": 2.4805831676607024, + "grad_norm": 0.003079358022660017, + "learning_rate": 3.6110995886554283e-07, + "loss": 0.0, + "num_input_tokens_seen": 36626352, + "step": 18716 + }, + { + "epoch": 2.4807157057654075, + "grad_norm": 3.5536882877349854, + "learning_rate": 3.609302629424055e-07, + "loss": 0.041, + "num_input_tokens_seen": 36628224, + "step": 18717 + }, + { + "epoch": 2.4808482438701125, + "grad_norm": 0.0454619862139225, + "learning_rate": 3.6075060826200823e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36631472, + "step": 18718 + }, + { + "epoch": 2.480980781974818, + "grad_norm": 6.280172824859619, + "learning_rate": 3.605709948278152e-07, + "loss": 0.1026, + "num_input_tokens_seen": 36633048, + "step": 18719 + }, + { + "epoch": 2.481113320079523, + "grad_norm": 3.46936297416687, + "learning_rate": 3.6039142264328863e-07, + "loss": 0.0161, + "num_input_tokens_seen": 36634752, + "step": 18720 + }, + { + "epoch": 2.481245858184228, + "grad_norm": 0.0014698642771691084, + "learning_rate": 3.6021189171189133e-07, + "loss": 0.0, + "num_input_tokens_seen": 36635760, + "step": 18721 + }, + { + "epoch": 2.481378396288933, + "grad_norm": 7.820882320404053, + "learning_rate": 3.600324020370857e-07, + "loss": 0.0591, + "num_input_tokens_seen": 36637720, + "step": 18722 + }, + { + "epoch": 2.481510934393638, + "grad_norm": 2.352278470993042, + "learning_rate": 3.598529536223316e-07, + "loss": 0.0374, + "num_input_tokens_seen": 36639440, + "step": 18723 + }, + { + "epoch": 2.481643472498343, + "grad_norm": 1.7555536031723022, + "learning_rate": 3.5967354647108875e-07, + "loss": 0.0045, + "num_input_tokens_seen": 36641040, + "step": 18724 + }, + { + "epoch": 2.481776010603048, + "grad_norm": 1.144910454750061, + "learning_rate": 3.594941805868168e-07, + "loss": 0.0059, + "num_input_tokens_seen": 36642944, + "step": 18725 + }, + { + "epoch": 2.4819085487077537, + "grad_norm": 10.142992973327637, + "learning_rate": 3.593148559729728e-07, + "loss": 0.1221, + "num_input_tokens_seen": 36645096, + "step": 18726 + }, + { + "epoch": 2.4820410868124587, + "grad_norm": 3.3010411262512207, + "learning_rate": 3.5913557263301536e-07, + "loss": 0.0031, + "num_input_tokens_seen": 36647144, + "step": 18727 + }, + { + "epoch": 2.4821736249171638, + "grad_norm": 3.5845608711242676, + "learning_rate": 3.5895633057040163e-07, + "loss": 0.0074, + "num_input_tokens_seen": 36648704, + "step": 18728 + }, + { + "epoch": 2.482306163021869, + "grad_norm": 1.3885129690170288, + "learning_rate": 3.587771297885867e-07, + "loss": 0.0082, + "num_input_tokens_seen": 36650696, + "step": 18729 + }, + { + "epoch": 2.482438701126574, + "grad_norm": 2.4023869037628174, + "learning_rate": 3.585979702910261e-07, + "loss": 0.0124, + "num_input_tokens_seen": 36653528, + "step": 18730 + }, + { + "epoch": 2.482571239231279, + "grad_norm": 0.0190268587321043, + "learning_rate": 3.584188520811738e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36657168, + "step": 18731 + }, + { + "epoch": 2.482703777335984, + "grad_norm": 0.004037338308990002, + "learning_rate": 3.5823977516248277e-07, + "loss": 0.0, + "num_input_tokens_seen": 36659600, + "step": 18732 + }, + { + "epoch": 2.4828363154406894, + "grad_norm": 0.008879962377250195, + "learning_rate": 3.5806073953840643e-07, + "loss": 0.0, + "num_input_tokens_seen": 36662272, + "step": 18733 + }, + { + "epoch": 2.4829688535453944, + "grad_norm": 8.757277488708496, + "learning_rate": 3.5788174521239727e-07, + "loss": 0.2213, + "num_input_tokens_seen": 36663952, + "step": 18734 + }, + { + "epoch": 2.4831013916500995, + "grad_norm": 0.027300016954541206, + "learning_rate": 3.577027921879059e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36666472, + "step": 18735 + }, + { + "epoch": 2.4832339297548045, + "grad_norm": 0.3722897171974182, + "learning_rate": 3.5752388046838225e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36667872, + "step": 18736 + }, + { + "epoch": 2.4833664678595095, + "grad_norm": 7.305905342102051, + "learning_rate": 3.573450100572759e-07, + "loss": 0.0729, + "num_input_tokens_seen": 36670896, + "step": 18737 + }, + { + "epoch": 2.4834990059642146, + "grad_norm": 0.17900992929935455, + "learning_rate": 3.5716618095803654e-07, + "loss": 0.001, + "num_input_tokens_seen": 36673104, + "step": 18738 + }, + { + "epoch": 2.4836315440689196, + "grad_norm": 0.029045643284916878, + "learning_rate": 3.569873931741108e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36674896, + "step": 18739 + }, + { + "epoch": 2.483764082173625, + "grad_norm": 1.4598139524459839, + "learning_rate": 3.568086467089471e-07, + "loss": 0.0114, + "num_input_tokens_seen": 36677144, + "step": 18740 + }, + { + "epoch": 2.48389662027833, + "grad_norm": 1.2496943473815918, + "learning_rate": 3.566299415659913e-07, + "loss": 0.0026, + "num_input_tokens_seen": 36678672, + "step": 18741 + }, + { + "epoch": 2.484029158383035, + "grad_norm": 10.979873657226562, + "learning_rate": 3.564512777486881e-07, + "loss": 0.0962, + "num_input_tokens_seen": 36680784, + "step": 18742 + }, + { + "epoch": 2.48416169648774, + "grad_norm": 0.30730950832366943, + "learning_rate": 3.562726552604839e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36682432, + "step": 18743 + }, + { + "epoch": 2.4842942345924452, + "grad_norm": 18.25986671447754, + "learning_rate": 3.5609407410482103e-07, + "loss": 0.0487, + "num_input_tokens_seen": 36684272, + "step": 18744 + }, + { + "epoch": 2.4844267726971503, + "grad_norm": 1.9328157901763916, + "learning_rate": 3.5591553428514393e-07, + "loss": 0.0043, + "num_input_tokens_seen": 36686232, + "step": 18745 + }, + { + "epoch": 2.4845593108018553, + "grad_norm": 0.07898975163698196, + "learning_rate": 3.557370358048945e-07, + "loss": 0.0007, + "num_input_tokens_seen": 36689208, + "step": 18746 + }, + { + "epoch": 2.484691848906561, + "grad_norm": 0.24928021430969238, + "learning_rate": 3.5555857866751365e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36692160, + "step": 18747 + }, + { + "epoch": 2.484824387011266, + "grad_norm": 19.410900115966797, + "learning_rate": 3.553801628764433e-07, + "loss": 0.3261, + "num_input_tokens_seen": 36694992, + "step": 18748 + }, + { + "epoch": 2.484956925115971, + "grad_norm": 0.05703128129243851, + "learning_rate": 3.5520178843512303e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36697280, + "step": 18749 + }, + { + "epoch": 2.485089463220676, + "grad_norm": 0.06111735850572586, + "learning_rate": 3.550234553469914e-07, + "loss": 0.0004, + "num_input_tokens_seen": 36698976, + "step": 18750 + }, + { + "epoch": 2.485222001325381, + "grad_norm": 0.0015816851519048214, + "learning_rate": 3.5484516361548787e-07, + "loss": 0.0, + "num_input_tokens_seen": 36700176, + "step": 18751 + }, + { + "epoch": 2.485354539430086, + "grad_norm": 17.781381607055664, + "learning_rate": 3.546669132440486e-07, + "loss": 0.1251, + "num_input_tokens_seen": 36702032, + "step": 18752 + }, + { + "epoch": 2.485487077534791, + "grad_norm": 5.4291486740112305, + "learning_rate": 3.5448870423611197e-07, + "loss": 0.0746, + "num_input_tokens_seen": 36704320, + "step": 18753 + }, + { + "epoch": 2.4856196156394965, + "grad_norm": 1.171979308128357, + "learning_rate": 3.5431053659511327e-07, + "loss": 0.008, + "num_input_tokens_seen": 36706648, + "step": 18754 + }, + { + "epoch": 2.4857521537442016, + "grad_norm": 0.03141823038458824, + "learning_rate": 3.541324103244878e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36707816, + "step": 18755 + }, + { + "epoch": 2.4858846918489066, + "grad_norm": 0.00999024510383606, + "learning_rate": 3.5395432542766893e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36709768, + "step": 18756 + }, + { + "epoch": 2.4860172299536116, + "grad_norm": 22.54648208618164, + "learning_rate": 3.53776281908092e-07, + "loss": 0.0932, + "num_input_tokens_seen": 36711208, + "step": 18757 + }, + { + "epoch": 2.4861497680583167, + "grad_norm": 0.007172875106334686, + "learning_rate": 3.5359827976918807e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36712744, + "step": 18758 + }, + { + "epoch": 2.4862823061630217, + "grad_norm": 6.4906415939331055, + "learning_rate": 3.5342031901439087e-07, + "loss": 0.0776, + "num_input_tokens_seen": 36715664, + "step": 18759 + }, + { + "epoch": 2.4864148442677267, + "grad_norm": 0.026268085464835167, + "learning_rate": 3.532423996471307e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36718848, + "step": 18760 + }, + { + "epoch": 2.4865473823724322, + "grad_norm": 10.058436393737793, + "learning_rate": 3.530645216708381e-07, + "loss": 0.1365, + "num_input_tokens_seen": 36721272, + "step": 18761 + }, + { + "epoch": 2.4866799204771373, + "grad_norm": 3.5997114181518555, + "learning_rate": 3.5288668508894203e-07, + "loss": 0.0196, + "num_input_tokens_seen": 36723568, + "step": 18762 + }, + { + "epoch": 2.4868124585818423, + "grad_norm": 5.4899797439575195, + "learning_rate": 3.5270888990487167e-07, + "loss": 0.0488, + "num_input_tokens_seen": 36726104, + "step": 18763 + }, + { + "epoch": 2.4869449966865473, + "grad_norm": 0.05004940554499626, + "learning_rate": 3.5253113612205595e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36728240, + "step": 18764 + }, + { + "epoch": 2.4870775347912524, + "grad_norm": 0.09019999951124191, + "learning_rate": 3.523534237439216e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36731072, + "step": 18765 + }, + { + "epoch": 2.4872100728959574, + "grad_norm": 2.283766984939575, + "learning_rate": 3.5217575277389474e-07, + "loss": 0.0606, + "num_input_tokens_seen": 36734040, + "step": 18766 + }, + { + "epoch": 2.4873426110006625, + "grad_norm": 2.919184684753418, + "learning_rate": 3.519981232154004e-07, + "loss": 0.0152, + "num_input_tokens_seen": 36736088, + "step": 18767 + }, + { + "epoch": 2.487475149105368, + "grad_norm": 1.461369514465332, + "learning_rate": 3.518205350718645e-07, + "loss": 0.0094, + "num_input_tokens_seen": 36737736, + "step": 18768 + }, + { + "epoch": 2.487607687210073, + "grad_norm": 0.05060702934861183, + "learning_rate": 3.516429883467104e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36739496, + "step": 18769 + }, + { + "epoch": 2.487740225314778, + "grad_norm": 5.8037004470825195, + "learning_rate": 3.51465483043362e-07, + "loss": 0.025, + "num_input_tokens_seen": 36741120, + "step": 18770 + }, + { + "epoch": 2.487872763419483, + "grad_norm": 5.818715572357178, + "learning_rate": 3.5128801916524123e-07, + "loss": 0.0746, + "num_input_tokens_seen": 36743888, + "step": 18771 + }, + { + "epoch": 2.488005301524188, + "grad_norm": 0.043172262609004974, + "learning_rate": 3.5111059671576964e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36745448, + "step": 18772 + }, + { + "epoch": 2.488137839628893, + "grad_norm": 5.840713977813721, + "learning_rate": 3.5093321569836776e-07, + "loss": 0.114, + "num_input_tokens_seen": 36747528, + "step": 18773 + }, + { + "epoch": 2.488270377733598, + "grad_norm": 0.13453559577465057, + "learning_rate": 3.507558761164562e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36748832, + "step": 18774 + }, + { + "epoch": 2.4884029158383036, + "grad_norm": 1.9982856512069702, + "learning_rate": 3.505785779734544e-07, + "loss": 0.007, + "num_input_tokens_seen": 36750544, + "step": 18775 + }, + { + "epoch": 2.4885354539430087, + "grad_norm": 0.016761427745223045, + "learning_rate": 3.5040132127278054e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36752064, + "step": 18776 + }, + { + "epoch": 2.4886679920477137, + "grad_norm": 0.32652461528778076, + "learning_rate": 3.5022410601785184e-07, + "loss": 0.001, + "num_input_tokens_seen": 36753928, + "step": 18777 + }, + { + "epoch": 2.4888005301524188, + "grad_norm": 0.7855021953582764, + "learning_rate": 3.5004693221208527e-07, + "loss": 0.0155, + "num_input_tokens_seen": 36756792, + "step": 18778 + }, + { + "epoch": 2.488933068257124, + "grad_norm": 0.022242972627282143, + "learning_rate": 3.4986979985889735e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36758656, + "step": 18779 + }, + { + "epoch": 2.4890656063618293, + "grad_norm": 3.048884630203247, + "learning_rate": 3.496927089617025e-07, + "loss": 0.0207, + "num_input_tokens_seen": 36761224, + "step": 18780 + }, + { + "epoch": 2.4891981444665343, + "grad_norm": 0.005539495497941971, + "learning_rate": 3.495156595239163e-07, + "loss": 0.0, + "num_input_tokens_seen": 36762448, + "step": 18781 + }, + { + "epoch": 2.4893306825712394, + "grad_norm": 0.008072884753346443, + "learning_rate": 3.4933865154895163e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36764176, + "step": 18782 + }, + { + "epoch": 2.4894632206759444, + "grad_norm": 4.643518447875977, + "learning_rate": 3.4916168504022073e-07, + "loss": 0.0816, + "num_input_tokens_seen": 36765904, + "step": 18783 + }, + { + "epoch": 2.4895957587806494, + "grad_norm": 7.051122665405273, + "learning_rate": 3.4898476000113704e-07, + "loss": 0.0417, + "num_input_tokens_seen": 36768200, + "step": 18784 + }, + { + "epoch": 2.4897282968853545, + "grad_norm": 5.871222496032715, + "learning_rate": 3.4880787643511107e-07, + "loss": 0.0408, + "num_input_tokens_seen": 36769920, + "step": 18785 + }, + { + "epoch": 2.4898608349900595, + "grad_norm": 0.01995050720870495, + "learning_rate": 3.486310343455526e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36771152, + "step": 18786 + }, + { + "epoch": 2.489993373094765, + "grad_norm": 5.006399631500244, + "learning_rate": 3.4845423373587287e-07, + "loss": 0.0469, + "num_input_tokens_seen": 36773144, + "step": 18787 + }, + { + "epoch": 2.49012591119947, + "grad_norm": 0.0025954325683414936, + "learning_rate": 3.482774746094794e-07, + "loss": 0.0, + "num_input_tokens_seen": 36775072, + "step": 18788 + }, + { + "epoch": 2.490258449304175, + "grad_norm": 10.669304847717285, + "learning_rate": 3.481007569697803e-07, + "loss": 0.0812, + "num_input_tokens_seen": 36777128, + "step": 18789 + }, + { + "epoch": 2.49039098740888, + "grad_norm": 0.029443757608532906, + "learning_rate": 3.4792408082018336e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36778744, + "step": 18790 + }, + { + "epoch": 2.490523525513585, + "grad_norm": 0.03344215825200081, + "learning_rate": 3.477474461640951e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36780520, + "step": 18791 + }, + { + "epoch": 2.49065606361829, + "grad_norm": 0.032965466380119324, + "learning_rate": 3.4757085300492016e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36781896, + "step": 18792 + }, + { + "epoch": 2.490788601722995, + "grad_norm": 0.0040173460729420185, + "learning_rate": 3.4739430134606455e-07, + "loss": 0.0, + "num_input_tokens_seen": 36783720, + "step": 18793 + }, + { + "epoch": 2.4909211398277007, + "grad_norm": 0.001309259096160531, + "learning_rate": 3.4721779119093133e-07, + "loss": 0.0, + "num_input_tokens_seen": 36785392, + "step": 18794 + }, + { + "epoch": 2.4910536779324057, + "grad_norm": 0.36717554926872253, + "learning_rate": 3.4704132254292503e-07, + "loss": 0.0025, + "num_input_tokens_seen": 36787064, + "step": 18795 + }, + { + "epoch": 2.4911862160371108, + "grad_norm": 5.448441982269287, + "learning_rate": 3.468648954054468e-07, + "loss": 0.0139, + "num_input_tokens_seen": 36788808, + "step": 18796 + }, + { + "epoch": 2.491318754141816, + "grad_norm": 0.44331854581832886, + "learning_rate": 3.466885097818987e-07, + "loss": 0.0019, + "num_input_tokens_seen": 36790104, + "step": 18797 + }, + { + "epoch": 2.491451292246521, + "grad_norm": 8.136528968811035, + "learning_rate": 3.4651216567568174e-07, + "loss": 0.0569, + "num_input_tokens_seen": 36793560, + "step": 18798 + }, + { + "epoch": 2.491583830351226, + "grad_norm": 1.0523157119750977, + "learning_rate": 3.4633586309019555e-07, + "loss": 0.0017, + "num_input_tokens_seen": 36794840, + "step": 18799 + }, + { + "epoch": 2.491716368455931, + "grad_norm": 0.006942837964743376, + "learning_rate": 3.461596020288402e-07, + "loss": 0.0, + "num_input_tokens_seen": 36796552, + "step": 18800 + }, + { + "epoch": 2.4918489065606364, + "grad_norm": 0.05755011737346649, + "learning_rate": 3.4598338249501343e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36798264, + "step": 18801 + }, + { + "epoch": 2.4919814446653414, + "grad_norm": 0.008022606372833252, + "learning_rate": 3.458072044921132e-07, + "loss": 0.0, + "num_input_tokens_seen": 36800528, + "step": 18802 + }, + { + "epoch": 2.4921139827700465, + "grad_norm": 11.006196975708008, + "learning_rate": 3.4563106802353557e-07, + "loss": 0.1532, + "num_input_tokens_seen": 36802488, + "step": 18803 + }, + { + "epoch": 2.4922465208747515, + "grad_norm": 0.010539903305470943, + "learning_rate": 3.4545497309267705e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36803480, + "step": 18804 + }, + { + "epoch": 2.4923790589794566, + "grad_norm": 0.006182404700666666, + "learning_rate": 3.4527891970293356e-07, + "loss": 0.0, + "num_input_tokens_seen": 36804576, + "step": 18805 + }, + { + "epoch": 2.4925115970841616, + "grad_norm": 8.655243873596191, + "learning_rate": 3.4510290785769894e-07, + "loss": 0.0877, + "num_input_tokens_seen": 36806648, + "step": 18806 + }, + { + "epoch": 2.4926441351888666, + "grad_norm": 0.002805377123877406, + "learning_rate": 3.44926937560367e-07, + "loss": 0.0, + "num_input_tokens_seen": 36808416, + "step": 18807 + }, + { + "epoch": 2.492776673293572, + "grad_norm": 0.0010355893755331635, + "learning_rate": 3.447510088143305e-07, + "loss": 0.0, + "num_input_tokens_seen": 36809592, + "step": 18808 + }, + { + "epoch": 2.492909211398277, + "grad_norm": 3.04388165473938, + "learning_rate": 3.445751216229806e-07, + "loss": 0.0164, + "num_input_tokens_seen": 36811328, + "step": 18809 + }, + { + "epoch": 2.493041749502982, + "grad_norm": 0.25169745087623596, + "learning_rate": 3.443992759897094e-07, + "loss": 0.0008, + "num_input_tokens_seen": 36812816, + "step": 18810 + }, + { + "epoch": 2.4931742876076872, + "grad_norm": 5.490306854248047, + "learning_rate": 3.4422347191790773e-07, + "loss": 0.0293, + "num_input_tokens_seen": 36815176, + "step": 18811 + }, + { + "epoch": 2.4933068257123923, + "grad_norm": 0.026315122842788696, + "learning_rate": 3.4404770941096484e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36817016, + "step": 18812 + }, + { + "epoch": 2.4934393638170973, + "grad_norm": 0.003766394918784499, + "learning_rate": 3.4387198847226913e-07, + "loss": 0.0, + "num_input_tokens_seen": 36818464, + "step": 18813 + }, + { + "epoch": 2.4935719019218023, + "grad_norm": 5.842089653015137, + "learning_rate": 3.436963091052092e-07, + "loss": 0.0533, + "num_input_tokens_seen": 36820360, + "step": 18814 + }, + { + "epoch": 2.493704440026508, + "grad_norm": 0.220312237739563, + "learning_rate": 3.435206713131714e-07, + "loss": 0.0017, + "num_input_tokens_seen": 36822632, + "step": 18815 + }, + { + "epoch": 2.493836978131213, + "grad_norm": 0.06877513974905014, + "learning_rate": 3.433450750995426e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36823712, + "step": 18816 + }, + { + "epoch": 2.493969516235918, + "grad_norm": 14.457984924316406, + "learning_rate": 3.4316952046770933e-07, + "loss": 0.1503, + "num_input_tokens_seen": 36826048, + "step": 18817 + }, + { + "epoch": 2.494102054340623, + "grad_norm": 0.01403570082038641, + "learning_rate": 3.4299400742105553e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36828288, + "step": 18818 + }, + { + "epoch": 2.494234592445328, + "grad_norm": 3.67305588722229, + "learning_rate": 3.4281853596296516e-07, + "loss": 0.0304, + "num_input_tokens_seen": 36829888, + "step": 18819 + }, + { + "epoch": 2.494367130550033, + "grad_norm": 2.767547130584717, + "learning_rate": 3.4264310609682105e-07, + "loss": 0.0106, + "num_input_tokens_seen": 36831680, + "step": 18820 + }, + { + "epoch": 2.494499668654738, + "grad_norm": 18.199670791625977, + "learning_rate": 3.4246771782600636e-07, + "loss": 0.0944, + "num_input_tokens_seen": 36833872, + "step": 18821 + }, + { + "epoch": 2.4946322067594435, + "grad_norm": 0.021108925342559814, + "learning_rate": 3.422923711539028e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36836088, + "step": 18822 + }, + { + "epoch": 2.4947647448641486, + "grad_norm": 0.003045568708330393, + "learning_rate": 3.42117066083891e-07, + "loss": 0.0, + "num_input_tokens_seen": 36837384, + "step": 18823 + }, + { + "epoch": 2.4948972829688536, + "grad_norm": 2.9254539012908936, + "learning_rate": 3.419418026193508e-07, + "loss": 0.0091, + "num_input_tokens_seen": 36840648, + "step": 18824 + }, + { + "epoch": 2.4950298210735586, + "grad_norm": 9.042760848999023, + "learning_rate": 3.417665807636608e-07, + "loss": 0.1737, + "num_input_tokens_seen": 36842200, + "step": 18825 + }, + { + "epoch": 2.4951623591782637, + "grad_norm": 2.5750064849853516, + "learning_rate": 3.415914005202006e-07, + "loss": 0.0216, + "num_input_tokens_seen": 36844376, + "step": 18826 + }, + { + "epoch": 2.4952948972829687, + "grad_norm": 11.376178741455078, + "learning_rate": 3.4141626189234665e-07, + "loss": 0.0333, + "num_input_tokens_seen": 36846504, + "step": 18827 + }, + { + "epoch": 2.4954274353876738, + "grad_norm": 9.08418083190918, + "learning_rate": 3.412411648834768e-07, + "loss": 0.1164, + "num_input_tokens_seen": 36848616, + "step": 18828 + }, + { + "epoch": 2.4955599734923792, + "grad_norm": 0.030434440821409225, + "learning_rate": 3.4106610949696666e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36850224, + "step": 18829 + }, + { + "epoch": 2.4956925115970843, + "grad_norm": 0.007946821860969067, + "learning_rate": 3.408910957361908e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36851488, + "step": 18830 + }, + { + "epoch": 2.4958250497017893, + "grad_norm": 0.0014632802922278643, + "learning_rate": 3.407161236045245e-07, + "loss": 0.0, + "num_input_tokens_seen": 36852720, + "step": 18831 + }, + { + "epoch": 2.4959575878064943, + "grad_norm": 9.387550354003906, + "learning_rate": 3.405411931053409e-07, + "loss": 0.0508, + "num_input_tokens_seen": 36854920, + "step": 18832 + }, + { + "epoch": 2.4960901259111994, + "grad_norm": 6.4261474609375, + "learning_rate": 3.4036630424201246e-07, + "loss": 0.0529, + "num_input_tokens_seen": 36856448, + "step": 18833 + }, + { + "epoch": 2.4962226640159044, + "grad_norm": 14.683920860290527, + "learning_rate": 3.4019145701791186e-07, + "loss": 0.049, + "num_input_tokens_seen": 36858048, + "step": 18834 + }, + { + "epoch": 2.4963552021206095, + "grad_norm": 10.79285717010498, + "learning_rate": 3.400166514364095e-07, + "loss": 0.1052, + "num_input_tokens_seen": 36861432, + "step": 18835 + }, + { + "epoch": 2.496487740225315, + "grad_norm": 0.09410117566585541, + "learning_rate": 3.3984188750087686e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36863280, + "step": 18836 + }, + { + "epoch": 2.49662027833002, + "grad_norm": 14.954526901245117, + "learning_rate": 3.396671652146827e-07, + "loss": 0.4126, + "num_input_tokens_seen": 36864784, + "step": 18837 + }, + { + "epoch": 2.496752816434725, + "grad_norm": 4.765635013580322, + "learning_rate": 3.394924845811959e-07, + "loss": 0.0287, + "num_input_tokens_seen": 36868056, + "step": 18838 + }, + { + "epoch": 2.49688535453943, + "grad_norm": 0.38782310485839844, + "learning_rate": 3.3931784560378405e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36869664, + "step": 18839 + }, + { + "epoch": 2.497017892644135, + "grad_norm": 5.310091018676758, + "learning_rate": 3.391432482858148e-07, + "loss": 0.1737, + "num_input_tokens_seen": 36872256, + "step": 18840 + }, + { + "epoch": 2.49715043074884, + "grad_norm": 10.568957328796387, + "learning_rate": 3.389686926306548e-07, + "loss": 0.1863, + "num_input_tokens_seen": 36874584, + "step": 18841 + }, + { + "epoch": 2.497282968853545, + "grad_norm": 0.9207376837730408, + "learning_rate": 3.387941786416693e-07, + "loss": 0.0044, + "num_input_tokens_seen": 36876992, + "step": 18842 + }, + { + "epoch": 2.4974155069582507, + "grad_norm": 0.5306827425956726, + "learning_rate": 3.386197063222227e-07, + "loss": 0.0034, + "num_input_tokens_seen": 36880272, + "step": 18843 + }, + { + "epoch": 2.4975480450629557, + "grad_norm": 12.747725486755371, + "learning_rate": 3.3844527567567953e-07, + "loss": 0.289, + "num_input_tokens_seen": 36882120, + "step": 18844 + }, + { + "epoch": 2.4976805831676607, + "grad_norm": 14.568350791931152, + "learning_rate": 3.3827088670540217e-07, + "loss": 0.3602, + "num_input_tokens_seen": 36884232, + "step": 18845 + }, + { + "epoch": 2.4978131212723658, + "grad_norm": 0.28530025482177734, + "learning_rate": 3.380965394147531e-07, + "loss": 0.0012, + "num_input_tokens_seen": 36886544, + "step": 18846 + }, + { + "epoch": 2.497945659377071, + "grad_norm": 5.931352615356445, + "learning_rate": 3.3792223380709476e-07, + "loss": 0.033, + "num_input_tokens_seen": 36889152, + "step": 18847 + }, + { + "epoch": 2.498078197481776, + "grad_norm": 5.934521198272705, + "learning_rate": 3.3774796988578747e-07, + "loss": 0.0848, + "num_input_tokens_seen": 36891440, + "step": 18848 + }, + { + "epoch": 2.498210735586481, + "grad_norm": 4.612947940826416, + "learning_rate": 3.37573747654191e-07, + "loss": 0.0602, + "num_input_tokens_seen": 36892960, + "step": 18849 + }, + { + "epoch": 2.4983432736911864, + "grad_norm": 0.02554892562329769, + "learning_rate": 3.373995671156638e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36894352, + "step": 18850 + }, + { + "epoch": 2.4984758117958914, + "grad_norm": 1.5647541284561157, + "learning_rate": 3.3722542827356485e-07, + "loss": 0.0126, + "num_input_tokens_seen": 36897216, + "step": 18851 + }, + { + "epoch": 2.4986083499005964, + "grad_norm": 5.874993324279785, + "learning_rate": 3.3705133113125207e-07, + "loss": 0.0533, + "num_input_tokens_seen": 36898960, + "step": 18852 + }, + { + "epoch": 2.4987408880053015, + "grad_norm": 0.021260902285575867, + "learning_rate": 3.3687727569208214e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36900696, + "step": 18853 + }, + { + "epoch": 2.4988734261100065, + "grad_norm": 7.199407577514648, + "learning_rate": 3.3670326195941015e-07, + "loss": 0.0571, + "num_input_tokens_seen": 36902208, + "step": 18854 + }, + { + "epoch": 2.4990059642147116, + "grad_norm": 1.9947681427001953, + "learning_rate": 3.365292899365921e-07, + "loss": 0.0022, + "num_input_tokens_seen": 36903480, + "step": 18855 + }, + { + "epoch": 2.4991385023194166, + "grad_norm": 0.012593426741659641, + "learning_rate": 3.3635535962698086e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36905696, + "step": 18856 + }, + { + "epoch": 2.499271040424122, + "grad_norm": 0.2400263100862503, + "learning_rate": 3.3618147103393116e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36907832, + "step": 18857 + }, + { + "epoch": 2.499403578528827, + "grad_norm": 0.024175256490707397, + "learning_rate": 3.36007624160796e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36909944, + "step": 18858 + }, + { + "epoch": 2.499536116633532, + "grad_norm": 0.02062061056494713, + "learning_rate": 3.358338190109267e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36911248, + "step": 18859 + }, + { + "epoch": 2.499668654738237, + "grad_norm": 5.3736252784729, + "learning_rate": 3.3566005558767433e-07, + "loss": 0.051, + "num_input_tokens_seen": 36913296, + "step": 18860 + }, + { + "epoch": 2.499801192842942, + "grad_norm": 0.0045803021639585495, + "learning_rate": 3.354863338943887e-07, + "loss": 0.0, + "num_input_tokens_seen": 36914952, + "step": 18861 + }, + { + "epoch": 2.4999337309476473, + "grad_norm": 14.366836547851562, + "learning_rate": 3.353126539344201e-07, + "loss": 0.2001, + "num_input_tokens_seen": 36917136, + "step": 18862 + }, + { + "epoch": 2.5000662690523523, + "grad_norm": 0.017743512988090515, + "learning_rate": 3.3513901571111645e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36918592, + "step": 18863 + }, + { + "epoch": 2.500198807157058, + "grad_norm": 9.841443061828613, + "learning_rate": 3.3496541922782676e-07, + "loss": 0.283, + "num_input_tokens_seen": 36920776, + "step": 18864 + }, + { + "epoch": 2.500331345261763, + "grad_norm": 3.488628387451172, + "learning_rate": 3.3479186448789694e-07, + "loss": 0.1371, + "num_input_tokens_seen": 36923184, + "step": 18865 + }, + { + "epoch": 2.500463883366468, + "grad_norm": 0.21213752031326294, + "learning_rate": 3.3461835149467356e-07, + "loss": 0.0009, + "num_input_tokens_seen": 36925400, + "step": 18866 + }, + { + "epoch": 2.500596421471173, + "grad_norm": 3.745331048965454, + "learning_rate": 3.3444488025150265e-07, + "loss": 0.0078, + "num_input_tokens_seen": 36926864, + "step": 18867 + }, + { + "epoch": 2.500728959575878, + "grad_norm": 11.848283767700195, + "learning_rate": 3.342714507617281e-07, + "loss": 0.1565, + "num_input_tokens_seen": 36929280, + "step": 18868 + }, + { + "epoch": 2.5008614976805834, + "grad_norm": 0.0011726762168109417, + "learning_rate": 3.3409806302869385e-07, + "loss": 0.0, + "num_input_tokens_seen": 36930592, + "step": 18869 + }, + { + "epoch": 2.500994035785288, + "grad_norm": 0.02145821414887905, + "learning_rate": 3.339247170557436e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36933128, + "step": 18870 + }, + { + "epoch": 2.5011265738899935, + "grad_norm": 0.0023923423141241074, + "learning_rate": 3.337514128462188e-07, + "loss": 0.0, + "num_input_tokens_seen": 36935896, + "step": 18871 + }, + { + "epoch": 2.5012591119946985, + "grad_norm": 5.935612201690674, + "learning_rate": 3.33578150403461e-07, + "loss": 0.0396, + "num_input_tokens_seen": 36937816, + "step": 18872 + }, + { + "epoch": 2.5013916500994036, + "grad_norm": 1.558914065361023, + "learning_rate": 3.3340492973081144e-07, + "loss": 0.0051, + "num_input_tokens_seen": 36939744, + "step": 18873 + }, + { + "epoch": 2.5015241882041086, + "grad_norm": 1.0587198734283447, + "learning_rate": 3.332317508316088e-07, + "loss": 0.0049, + "num_input_tokens_seen": 36941544, + "step": 18874 + }, + { + "epoch": 2.5016567263088136, + "grad_norm": 1.4513193368911743, + "learning_rate": 3.3305861370919347e-07, + "loss": 0.0058, + "num_input_tokens_seen": 36943024, + "step": 18875 + }, + { + "epoch": 2.501789264413519, + "grad_norm": 2.5282719135284424, + "learning_rate": 3.32885518366903e-07, + "loss": 0.0389, + "num_input_tokens_seen": 36944864, + "step": 18876 + }, + { + "epoch": 2.5019218025182237, + "grad_norm": 5.884391784667969, + "learning_rate": 3.32712464808074e-07, + "loss": 0.0463, + "num_input_tokens_seen": 36948232, + "step": 18877 + }, + { + "epoch": 2.502054340622929, + "grad_norm": 0.08367583155632019, + "learning_rate": 3.3253945303604455e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36950736, + "step": 18878 + }, + { + "epoch": 2.5021868787276342, + "grad_norm": 6.371726036071777, + "learning_rate": 3.3236648305414955e-07, + "loss": 0.081, + "num_input_tokens_seen": 36953824, + "step": 18879 + }, + { + "epoch": 2.5023194168323393, + "grad_norm": 0.0019569601863622665, + "learning_rate": 3.321935548657237e-07, + "loss": 0.0, + "num_input_tokens_seen": 36955888, + "step": 18880 + }, + { + "epoch": 2.5024519549370443, + "grad_norm": 11.512117385864258, + "learning_rate": 3.320206684741023e-07, + "loss": 0.0903, + "num_input_tokens_seen": 36957776, + "step": 18881 + }, + { + "epoch": 2.5025844930417493, + "grad_norm": 0.1372195929288864, + "learning_rate": 3.3184782388261727e-07, + "loss": 0.0006, + "num_input_tokens_seen": 36959832, + "step": 18882 + }, + { + "epoch": 2.502717031146455, + "grad_norm": 5.810431003570557, + "learning_rate": 3.3167502109460236e-07, + "loss": 0.0653, + "num_input_tokens_seen": 36961672, + "step": 18883 + }, + { + "epoch": 2.50284956925116, + "grad_norm": 0.00299549987539649, + "learning_rate": 3.315022601133891e-07, + "loss": 0.0, + "num_input_tokens_seen": 36963160, + "step": 18884 + }, + { + "epoch": 2.502982107355865, + "grad_norm": 0.3385556638240814, + "learning_rate": 3.3132954094230813e-07, + "loss": 0.0016, + "num_input_tokens_seen": 36964856, + "step": 18885 + }, + { + "epoch": 2.50311464546057, + "grad_norm": 2.9573817253112793, + "learning_rate": 3.311568635846893e-07, + "loss": 0.0083, + "num_input_tokens_seen": 36967984, + "step": 18886 + }, + { + "epoch": 2.503247183565275, + "grad_norm": 0.02622293308377266, + "learning_rate": 3.3098422804386217e-07, + "loss": 0.0001, + "num_input_tokens_seen": 36970512, + "step": 18887 + }, + { + "epoch": 2.50337972166998, + "grad_norm": 0.4121561646461487, + "learning_rate": 3.30811634323156e-07, + "loss": 0.0015, + "num_input_tokens_seen": 36972368, + "step": 18888 + }, + { + "epoch": 2.503512259774685, + "grad_norm": 0.04656155779957771, + "learning_rate": 3.306390824258981e-07, + "loss": 0.0002, + "num_input_tokens_seen": 36974080, + "step": 18889 + }, + { + "epoch": 2.5036447978793905, + "grad_norm": 0.22439758479595184, + "learning_rate": 3.304665723554151e-07, + "loss": 0.0011, + "num_input_tokens_seen": 36976576, + "step": 18890 + }, + { + "epoch": 2.5037773359840956, + "grad_norm": 8.613420486450195, + "learning_rate": 3.302941041150334e-07, + "loss": 0.1072, + "num_input_tokens_seen": 36979096, + "step": 18891 + }, + { + "epoch": 2.5039098740888006, + "grad_norm": 10.852705001831055, + "learning_rate": 3.301216777080776e-07, + "loss": 0.129, + "num_input_tokens_seen": 36980840, + "step": 18892 + }, + { + "epoch": 2.5040424121935057, + "grad_norm": 0.00690833106637001, + "learning_rate": 3.299492931378728e-07, + "loss": 0.0, + "num_input_tokens_seen": 36982192, + "step": 18893 + }, + { + "epoch": 2.5041749502982107, + "grad_norm": 5.08875036239624, + "learning_rate": 3.297769504077433e-07, + "loss": 0.021, + "num_input_tokens_seen": 36984088, + "step": 18894 + }, + { + "epoch": 2.5043074884029157, + "grad_norm": 0.0623430572450161, + "learning_rate": 3.296046495210112e-07, + "loss": 0.0003, + "num_input_tokens_seen": 36985680, + "step": 18895 + }, + { + "epoch": 2.5044400265076208, + "grad_norm": 0.8401451110839844, + "learning_rate": 3.294323904809987e-07, + "loss": 0.004, + "num_input_tokens_seen": 36987648, + "step": 18896 + }, + { + "epoch": 2.5045725646123262, + "grad_norm": 14.340987205505371, + "learning_rate": 3.2926017329102667e-07, + "loss": 0.1984, + "num_input_tokens_seen": 36989872, + "step": 18897 + }, + { + "epoch": 2.5047051027170313, + "grad_norm": 0.17604050040245056, + "learning_rate": 3.290879979544165e-07, + "loss": 0.001, + "num_input_tokens_seen": 36992544, + "step": 18898 + }, + { + "epoch": 2.5048376408217363, + "grad_norm": 1.127850890159607, + "learning_rate": 3.2891586447448693e-07, + "loss": 0.0039, + "num_input_tokens_seen": 36995336, + "step": 18899 + }, + { + "epoch": 2.5049701789264414, + "grad_norm": 0.2068016231060028, + "learning_rate": 3.287437728545578e-07, + "loss": 0.0015, + "num_input_tokens_seen": 36997536, + "step": 18900 + }, + { + "epoch": 2.5051027170311464, + "grad_norm": 1.2962006330490112, + "learning_rate": 3.2857172309794654e-07, + "loss": 0.0125, + "num_input_tokens_seen": 36999304, + "step": 18901 + }, + { + "epoch": 2.5052352551358514, + "grad_norm": 0.028670739382505417, + "learning_rate": 3.2839971520797044e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37000904, + "step": 18902 + }, + { + "epoch": 2.5053677932405565, + "grad_norm": 0.5956410765647888, + "learning_rate": 3.282277491879454e-07, + "loss": 0.0027, + "num_input_tokens_seen": 37002960, + "step": 18903 + }, + { + "epoch": 2.505500331345262, + "grad_norm": 0.03883851692080498, + "learning_rate": 3.280558250411875e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37004352, + "step": 18904 + }, + { + "epoch": 2.505632869449967, + "grad_norm": 15.943716049194336, + "learning_rate": 3.278839427710123e-07, + "loss": 0.2493, + "num_input_tokens_seen": 37006704, + "step": 18905 + }, + { + "epoch": 2.505765407554672, + "grad_norm": 6.611527442932129, + "learning_rate": 3.2771210238073307e-07, + "loss": 0.0648, + "num_input_tokens_seen": 37009120, + "step": 18906 + }, + { + "epoch": 2.505897945659377, + "grad_norm": 0.36734530329704285, + "learning_rate": 3.27540303873663e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37011304, + "step": 18907 + }, + { + "epoch": 2.506030483764082, + "grad_norm": 0.05755903571844101, + "learning_rate": 3.273685472531143e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37013656, + "step": 18908 + }, + { + "epoch": 2.506163021868787, + "grad_norm": 2.1778171062469482, + "learning_rate": 3.2719683252239927e-07, + "loss": 0.0186, + "num_input_tokens_seen": 37015496, + "step": 18909 + }, + { + "epoch": 2.506295559973492, + "grad_norm": 5.037810802459717, + "learning_rate": 3.2702515968482757e-07, + "loss": 0.0523, + "num_input_tokens_seen": 37017616, + "step": 18910 + }, + { + "epoch": 2.5064280980781977, + "grad_norm": 8.038813591003418, + "learning_rate": 3.268535287437105e-07, + "loss": 0.0674, + "num_input_tokens_seen": 37019520, + "step": 18911 + }, + { + "epoch": 2.5065606361829027, + "grad_norm": 0.12796185910701752, + "learning_rate": 3.2668193970235655e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37022648, + "step": 18912 + }, + { + "epoch": 2.5066931742876077, + "grad_norm": 0.004791236482560635, + "learning_rate": 3.265103925640736e-07, + "loss": 0.0, + "num_input_tokens_seen": 37023672, + "step": 18913 + }, + { + "epoch": 2.5068257123923128, + "grad_norm": 0.00309697724878788, + "learning_rate": 3.263388873321702e-07, + "loss": 0.0, + "num_input_tokens_seen": 37024816, + "step": 18914 + }, + { + "epoch": 2.506958250497018, + "grad_norm": 0.025032825767993927, + "learning_rate": 3.261674240099524e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37026848, + "step": 18915 + }, + { + "epoch": 2.507090788601723, + "grad_norm": 5.085031509399414, + "learning_rate": 3.259960026007261e-07, + "loss": 0.0806, + "num_input_tokens_seen": 37028904, + "step": 18916 + }, + { + "epoch": 2.507223326706428, + "grad_norm": 2.8521907329559326, + "learning_rate": 3.2582462310779715e-07, + "loss": 0.0233, + "num_input_tokens_seen": 37030584, + "step": 18917 + }, + { + "epoch": 2.5073558648111334, + "grad_norm": 0.29547789692878723, + "learning_rate": 3.256532855344685e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37032120, + "step": 18918 + }, + { + "epoch": 2.5074884029158384, + "grad_norm": 0.03684595227241516, + "learning_rate": 3.2548198988404526e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37033768, + "step": 18919 + }, + { + "epoch": 2.5076209410205434, + "grad_norm": 11.6662015914917, + "learning_rate": 3.253107361598296e-07, + "loss": 0.0687, + "num_input_tokens_seen": 37035912, + "step": 18920 + }, + { + "epoch": 2.5077534791252485, + "grad_norm": 0.011618968099355698, + "learning_rate": 3.2513952436512285e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37037872, + "step": 18921 + }, + { + "epoch": 2.5078860172299535, + "grad_norm": 0.005466192029416561, + "learning_rate": 3.249683545032259e-07, + "loss": 0.0, + "num_input_tokens_seen": 37039392, + "step": 18922 + }, + { + "epoch": 2.5080185553346586, + "grad_norm": 5.545663356781006, + "learning_rate": 3.247972265774396e-07, + "loss": 0.0275, + "num_input_tokens_seen": 37041064, + "step": 18923 + }, + { + "epoch": 2.5081510934393636, + "grad_norm": 2.71606707572937, + "learning_rate": 3.246261405910642e-07, + "loss": 0.0234, + "num_input_tokens_seen": 37042832, + "step": 18924 + }, + { + "epoch": 2.508283631544069, + "grad_norm": 0.01454972755163908, + "learning_rate": 3.244550965473972e-07, + "loss": 0.0, + "num_input_tokens_seen": 37044136, + "step": 18925 + }, + { + "epoch": 2.508416169648774, + "grad_norm": 8.307259559631348, + "learning_rate": 3.242840944497369e-07, + "loss": 0.0944, + "num_input_tokens_seen": 37045904, + "step": 18926 + }, + { + "epoch": 2.508548707753479, + "grad_norm": 7.576040267944336, + "learning_rate": 3.241131343013795e-07, + "loss": 0.0907, + "num_input_tokens_seen": 37047992, + "step": 18927 + }, + { + "epoch": 2.508681245858184, + "grad_norm": 0.03288733586668968, + "learning_rate": 3.239422161056227e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37049896, + "step": 18928 + }, + { + "epoch": 2.5088137839628892, + "grad_norm": 0.012413440272212029, + "learning_rate": 3.2377133986576046e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37052832, + "step": 18929 + }, + { + "epoch": 2.5089463220675943, + "grad_norm": 9.242318153381348, + "learning_rate": 3.236005055850888e-07, + "loss": 0.0069, + "num_input_tokens_seen": 37054136, + "step": 18930 + }, + { + "epoch": 2.5090788601722993, + "grad_norm": 0.0018430276541039348, + "learning_rate": 3.2342971326690066e-07, + "loss": 0.0, + "num_input_tokens_seen": 37056192, + "step": 18931 + }, + { + "epoch": 2.509211398277005, + "grad_norm": 1.339027762413025, + "learning_rate": 3.2325896291448916e-07, + "loss": 0.0072, + "num_input_tokens_seen": 37059624, + "step": 18932 + }, + { + "epoch": 2.50934393638171, + "grad_norm": 0.13388855755329132, + "learning_rate": 3.230882545311462e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37061056, + "step": 18933 + }, + { + "epoch": 2.509476474486415, + "grad_norm": 5.6394219398498535, + "learning_rate": 3.2291758812016324e-07, + "loss": 0.0199, + "num_input_tokens_seen": 37063232, + "step": 18934 + }, + { + "epoch": 2.50960901259112, + "grad_norm": 1.5580370426177979, + "learning_rate": 3.2274696368483153e-07, + "loss": 0.0082, + "num_input_tokens_seen": 37065056, + "step": 18935 + }, + { + "epoch": 2.509741550695825, + "grad_norm": 0.5308508276939392, + "learning_rate": 3.2257638122844047e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37066248, + "step": 18936 + }, + { + "epoch": 2.5098740888005304, + "grad_norm": 9.7587308883667, + "learning_rate": 3.2240584075427906e-07, + "loss": 0.1319, + "num_input_tokens_seen": 37067944, + "step": 18937 + }, + { + "epoch": 2.510006626905235, + "grad_norm": 2.983492374420166, + "learning_rate": 3.222353422656352e-07, + "loss": 0.033, + "num_input_tokens_seen": 37070336, + "step": 18938 + }, + { + "epoch": 2.5101391650099405, + "grad_norm": 0.0697803646326065, + "learning_rate": 3.220648857657957e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37073576, + "step": 18939 + }, + { + "epoch": 2.5102717031146455, + "grad_norm": 2.575366735458374, + "learning_rate": 3.218944712580477e-07, + "loss": 0.0472, + "num_input_tokens_seen": 37075336, + "step": 18940 + }, + { + "epoch": 2.5104042412193506, + "grad_norm": 2.5171701908111572, + "learning_rate": 3.217240987456774e-07, + "loss": 0.0208, + "num_input_tokens_seen": 37077768, + "step": 18941 + }, + { + "epoch": 2.5105367793240556, + "grad_norm": 2.3216018676757812, + "learning_rate": 3.215537682319694e-07, + "loss": 0.0105, + "num_input_tokens_seen": 37079808, + "step": 18942 + }, + { + "epoch": 2.5106693174287606, + "grad_norm": 0.13588246703147888, + "learning_rate": 3.213834797202073e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37081392, + "step": 18943 + }, + { + "epoch": 2.510801855533466, + "grad_norm": 1.2300422191619873, + "learning_rate": 3.212132332136744e-07, + "loss": 0.0053, + "num_input_tokens_seen": 37084744, + "step": 18944 + }, + { + "epoch": 2.5109343936381707, + "grad_norm": 0.013956381939351559, + "learning_rate": 3.210430287156538e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37087000, + "step": 18945 + }, + { + "epoch": 2.511066931742876, + "grad_norm": 10.498563766479492, + "learning_rate": 3.2087286622942635e-07, + "loss": 0.2096, + "num_input_tokens_seen": 37088944, + "step": 18946 + }, + { + "epoch": 2.5111994698475812, + "grad_norm": 3.5410022735595703, + "learning_rate": 3.207027457582737e-07, + "loss": 0.0193, + "num_input_tokens_seen": 37090384, + "step": 18947 + }, + { + "epoch": 2.5113320079522863, + "grad_norm": 2.39983868598938, + "learning_rate": 3.2053266730547567e-07, + "loss": 0.0064, + "num_input_tokens_seen": 37092520, + "step": 18948 + }, + { + "epoch": 2.5114645460569913, + "grad_norm": 1.04558527469635, + "learning_rate": 3.2036263087431075e-07, + "loss": 0.0026, + "num_input_tokens_seen": 37094840, + "step": 18949 + }, + { + "epoch": 2.5115970841616964, + "grad_norm": 3.031851053237915, + "learning_rate": 3.2019263646805854e-07, + "loss": 0.0379, + "num_input_tokens_seen": 37096768, + "step": 18950 + }, + { + "epoch": 2.511729622266402, + "grad_norm": 0.01281486451625824, + "learning_rate": 3.2002268408999616e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37098832, + "step": 18951 + }, + { + "epoch": 2.5118621603711064, + "grad_norm": 0.0042800335213541985, + "learning_rate": 3.198527737433996e-07, + "loss": 0.0, + "num_input_tokens_seen": 37100864, + "step": 18952 + }, + { + "epoch": 2.511994698475812, + "grad_norm": 0.024975012987852097, + "learning_rate": 3.1968290543154615e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37103272, + "step": 18953 + }, + { + "epoch": 2.512127236580517, + "grad_norm": 0.8042102456092834, + "learning_rate": 3.1951307915771e-07, + "loss": 0.002, + "num_input_tokens_seen": 37105488, + "step": 18954 + }, + { + "epoch": 2.512259774685222, + "grad_norm": 2.6198372840881348, + "learning_rate": 3.1934329492516627e-07, + "loss": 0.026, + "num_input_tokens_seen": 37108064, + "step": 18955 + }, + { + "epoch": 2.512392312789927, + "grad_norm": 8.025418281555176, + "learning_rate": 3.191735527371884e-07, + "loss": 0.0307, + "num_input_tokens_seen": 37110024, + "step": 18956 + }, + { + "epoch": 2.512524850894632, + "grad_norm": 2.5593149662017822, + "learning_rate": 3.190038525970482e-07, + "loss": 0.0223, + "num_input_tokens_seen": 37111336, + "step": 18957 + }, + { + "epoch": 2.5126573889993375, + "grad_norm": 0.11412045359611511, + "learning_rate": 3.1883419450801894e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37112720, + "step": 18958 + }, + { + "epoch": 2.512789927104042, + "grad_norm": 2.7619855403900146, + "learning_rate": 3.186645784733711e-07, + "loss": 0.0327, + "num_input_tokens_seen": 37114792, + "step": 18959 + }, + { + "epoch": 2.5129224652087476, + "grad_norm": 7.100040912628174, + "learning_rate": 3.184950044963744e-07, + "loss": 0.0873, + "num_input_tokens_seen": 37116680, + "step": 18960 + }, + { + "epoch": 2.5130550033134527, + "grad_norm": 0.03837904706597328, + "learning_rate": 3.183254725802995e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37120320, + "step": 18961 + }, + { + "epoch": 2.5131875414181577, + "grad_norm": 0.18688632547855377, + "learning_rate": 3.1815598272841474e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37122168, + "step": 18962 + }, + { + "epoch": 2.5133200795228627, + "grad_norm": 0.8362486958503723, + "learning_rate": 3.17986534943987e-07, + "loss": 0.0051, + "num_input_tokens_seen": 37124208, + "step": 18963 + }, + { + "epoch": 2.5134526176275678, + "grad_norm": 5.50975227355957, + "learning_rate": 3.178171292302848e-07, + "loss": 0.0942, + "num_input_tokens_seen": 37125448, + "step": 18964 + }, + { + "epoch": 2.5135851557322733, + "grad_norm": 5.371541500091553, + "learning_rate": 3.1764776559057327e-07, + "loss": 0.0314, + "num_input_tokens_seen": 37127552, + "step": 18965 + }, + { + "epoch": 2.5137176938369783, + "grad_norm": 12.527759552001953, + "learning_rate": 3.1747844402811893e-07, + "loss": 0.1917, + "num_input_tokens_seen": 37129608, + "step": 18966 + }, + { + "epoch": 2.5138502319416833, + "grad_norm": 1.2726984024047852, + "learning_rate": 3.1730916454618565e-07, + "loss": 0.0076, + "num_input_tokens_seen": 37133200, + "step": 18967 + }, + { + "epoch": 2.5139827700463884, + "grad_norm": 7.60409688949585, + "learning_rate": 3.171399271480377e-07, + "loss": 0.0725, + "num_input_tokens_seen": 37134960, + "step": 18968 + }, + { + "epoch": 2.5141153081510934, + "grad_norm": 0.5263475179672241, + "learning_rate": 3.1697073183693723e-07, + "loss": 0.0023, + "num_input_tokens_seen": 37136568, + "step": 18969 + }, + { + "epoch": 2.5142478462557984, + "grad_norm": 0.19430802762508392, + "learning_rate": 3.1680157861614684e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37138056, + "step": 18970 + }, + { + "epoch": 2.5143803843605035, + "grad_norm": 0.0027702138759195805, + "learning_rate": 3.1663246748892875e-07, + "loss": 0.0, + "num_input_tokens_seen": 37139960, + "step": 18971 + }, + { + "epoch": 2.514512922465209, + "grad_norm": 2.9984428882598877, + "learning_rate": 3.1646339845854304e-07, + "loss": 0.0076, + "num_input_tokens_seen": 37141264, + "step": 18972 + }, + { + "epoch": 2.514645460569914, + "grad_norm": 1.7659131288528442, + "learning_rate": 3.162943715282493e-07, + "loss": 0.0058, + "num_input_tokens_seen": 37142400, + "step": 18973 + }, + { + "epoch": 2.514777998674619, + "grad_norm": 2.246964693069458, + "learning_rate": 3.1612538670130644e-07, + "loss": 0.0168, + "num_input_tokens_seen": 37144296, + "step": 18974 + }, + { + "epoch": 2.514910536779324, + "grad_norm": 0.053303394466638565, + "learning_rate": 3.159564439809723e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37145768, + "step": 18975 + }, + { + "epoch": 2.515043074884029, + "grad_norm": 0.1905931681394577, + "learning_rate": 3.157875433705046e-07, + "loss": 0.0013, + "num_input_tokens_seen": 37147384, + "step": 18976 + }, + { + "epoch": 2.515175612988734, + "grad_norm": 4.551131725311279, + "learning_rate": 3.1561868487316016e-07, + "loss": 0.0447, + "num_input_tokens_seen": 37149872, + "step": 18977 + }, + { + "epoch": 2.515308151093439, + "grad_norm": 0.04451128467917442, + "learning_rate": 3.1544986849219473e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37151480, + "step": 18978 + }, + { + "epoch": 2.5154406891981447, + "grad_norm": 0.0039344895631074905, + "learning_rate": 3.1528109423086264e-07, + "loss": 0.0, + "num_input_tokens_seen": 37154368, + "step": 18979 + }, + { + "epoch": 2.5155732273028497, + "grad_norm": 0.3041742146015167, + "learning_rate": 3.151123620924179e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37156664, + "step": 18980 + }, + { + "epoch": 2.5157057654075548, + "grad_norm": 0.10289274156093597, + "learning_rate": 3.149436720801138e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37157912, + "step": 18981 + }, + { + "epoch": 2.51583830351226, + "grad_norm": 7.035677909851074, + "learning_rate": 3.147750241972039e-07, + "loss": 0.0733, + "num_input_tokens_seen": 37159664, + "step": 18982 + }, + { + "epoch": 2.515970841616965, + "grad_norm": 0.8407468795776367, + "learning_rate": 3.1460641844693885e-07, + "loss": 0.0055, + "num_input_tokens_seen": 37161640, + "step": 18983 + }, + { + "epoch": 2.51610337972167, + "grad_norm": 5.838760852813721, + "learning_rate": 3.1443785483256996e-07, + "loss": 0.0194, + "num_input_tokens_seen": 37164136, + "step": 18984 + }, + { + "epoch": 2.516235917826375, + "grad_norm": 10.091032981872559, + "learning_rate": 3.142693333573468e-07, + "loss": 0.1177, + "num_input_tokens_seen": 37166256, + "step": 18985 + }, + { + "epoch": 2.5163684559310804, + "grad_norm": 3.496364116668701, + "learning_rate": 3.141008540245183e-07, + "loss": 0.0086, + "num_input_tokens_seen": 37167584, + "step": 18986 + }, + { + "epoch": 2.5165009940357854, + "grad_norm": 0.020223980769515038, + "learning_rate": 3.1393241683733313e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37168968, + "step": 18987 + }, + { + "epoch": 2.5166335321404905, + "grad_norm": 1.2177257537841797, + "learning_rate": 3.1376402179903953e-07, + "loss": 0.0078, + "num_input_tokens_seen": 37170936, + "step": 18988 + }, + { + "epoch": 2.5167660702451955, + "grad_norm": 0.03331724926829338, + "learning_rate": 3.135956689128841e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37172232, + "step": 18989 + }, + { + "epoch": 2.5168986083499005, + "grad_norm": 0.02631368301808834, + "learning_rate": 3.134273581821123e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37174896, + "step": 18990 + }, + { + "epoch": 2.5170311464546056, + "grad_norm": 0.2929513156414032, + "learning_rate": 3.132590896099691e-07, + "loss": 0.0024, + "num_input_tokens_seen": 37176776, + "step": 18991 + }, + { + "epoch": 2.5171636845593106, + "grad_norm": 4.12161922454834, + "learning_rate": 3.1309086319969957e-07, + "loss": 0.0187, + "num_input_tokens_seen": 37178864, + "step": 18992 + }, + { + "epoch": 2.517296222664016, + "grad_norm": 6.546437740325928, + "learning_rate": 3.129226789545464e-07, + "loss": 0.0523, + "num_input_tokens_seen": 37180184, + "step": 18993 + }, + { + "epoch": 2.517428760768721, + "grad_norm": 0.19710469245910645, + "learning_rate": 3.127545368777532e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37182168, + "step": 18994 + }, + { + "epoch": 2.517561298873426, + "grad_norm": 4.459694862365723, + "learning_rate": 3.125864369725615e-07, + "loss": 0.0765, + "num_input_tokens_seen": 37183944, + "step": 18995 + }, + { + "epoch": 2.517693836978131, + "grad_norm": 10.04840087890625, + "learning_rate": 3.124183792422117e-07, + "loss": 0.0476, + "num_input_tokens_seen": 37186240, + "step": 18996 + }, + { + "epoch": 2.5178263750828362, + "grad_norm": 0.061082880944013596, + "learning_rate": 3.1225036368994545e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37187456, + "step": 18997 + }, + { + "epoch": 2.5179589131875413, + "grad_norm": 0.0019496860913932323, + "learning_rate": 3.1208239031900125e-07, + "loss": 0.0, + "num_input_tokens_seen": 37188664, + "step": 18998 + }, + { + "epoch": 2.5180914512922463, + "grad_norm": 0.0017281313193961978, + "learning_rate": 3.119144591326176e-07, + "loss": 0.0, + "num_input_tokens_seen": 37189520, + "step": 18999 + }, + { + "epoch": 2.518223989396952, + "grad_norm": 4.99782657623291, + "learning_rate": 3.1174657013403303e-07, + "loss": 0.1069, + "num_input_tokens_seen": 37192008, + "step": 19000 + }, + { + "epoch": 2.518356527501657, + "grad_norm": 0.030006704851984978, + "learning_rate": 3.1157872332648357e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37193336, + "step": 19001 + }, + { + "epoch": 2.518489065606362, + "grad_norm": 0.0035458526108413935, + "learning_rate": 3.1141091871320667e-07, + "loss": 0.0, + "num_input_tokens_seen": 37194888, + "step": 19002 + }, + { + "epoch": 2.518621603711067, + "grad_norm": 0.04300444573163986, + "learning_rate": 3.112431562974372e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37195872, + "step": 19003 + }, + { + "epoch": 2.518754141815772, + "grad_norm": 0.09322241693735123, + "learning_rate": 3.110754360824095e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37198440, + "step": 19004 + }, + { + "epoch": 2.518886679920477, + "grad_norm": 0.08047468215227127, + "learning_rate": 3.109077580713568e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37200200, + "step": 19005 + }, + { + "epoch": 2.519019218025182, + "grad_norm": 0.3719690442085266, + "learning_rate": 3.1074012226751297e-07, + "loss": 0.001, + "num_input_tokens_seen": 37202688, + "step": 19006 + }, + { + "epoch": 2.5191517561298875, + "grad_norm": 1.1955033540725708, + "learning_rate": 3.1057252867411013e-07, + "loss": 0.003, + "num_input_tokens_seen": 37205144, + "step": 19007 + }, + { + "epoch": 2.5192842942345925, + "grad_norm": 1.8531615734100342, + "learning_rate": 3.1040497729437955e-07, + "loss": 0.0086, + "num_input_tokens_seen": 37206536, + "step": 19008 + }, + { + "epoch": 2.5194168323392976, + "grad_norm": 0.028094176203012466, + "learning_rate": 3.102374681315515e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37209200, + "step": 19009 + }, + { + "epoch": 2.5195493704440026, + "grad_norm": 13.5997896194458, + "learning_rate": 3.1007000118885523e-07, + "loss": 0.1316, + "num_input_tokens_seen": 37212112, + "step": 19010 + }, + { + "epoch": 2.5196819085487077, + "grad_norm": 6.746583938598633, + "learning_rate": 3.0990257646951985e-07, + "loss": 0.0231, + "num_input_tokens_seen": 37215104, + "step": 19011 + }, + { + "epoch": 2.5198144466534127, + "grad_norm": 0.029580211266875267, + "learning_rate": 3.0973519397677425e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37217136, + "step": 19012 + }, + { + "epoch": 2.5199469847581177, + "grad_norm": 4.094579696655273, + "learning_rate": 3.0956785371384525e-07, + "loss": 0.1179, + "num_input_tokens_seen": 37218408, + "step": 19013 + }, + { + "epoch": 2.520079522862823, + "grad_norm": 8.75252914428711, + "learning_rate": 3.094005556839591e-07, + "loss": 0.1848, + "num_input_tokens_seen": 37220504, + "step": 19014 + }, + { + "epoch": 2.5202120609675283, + "grad_norm": 7.873892784118652, + "learning_rate": 3.092332998903416e-07, + "loss": 0.1052, + "num_input_tokens_seen": 37222256, + "step": 19015 + }, + { + "epoch": 2.5203445990722333, + "grad_norm": 0.0066873664036393166, + "learning_rate": 3.090660863362166e-07, + "loss": 0.0, + "num_input_tokens_seen": 37223744, + "step": 19016 + }, + { + "epoch": 2.5204771371769383, + "grad_norm": 1.5027353763580322, + "learning_rate": 3.0889891502480896e-07, + "loss": 0.0065, + "num_input_tokens_seen": 37226368, + "step": 19017 + }, + { + "epoch": 2.5206096752816434, + "grad_norm": 4.3736748695373535, + "learning_rate": 3.087317859593425e-07, + "loss": 0.0109, + "num_input_tokens_seen": 37228176, + "step": 19018 + }, + { + "epoch": 2.520742213386349, + "grad_norm": 10.199136734008789, + "learning_rate": 3.0856469914303883e-07, + "loss": 0.1101, + "num_input_tokens_seen": 37229752, + "step": 19019 + }, + { + "epoch": 2.5208747514910534, + "grad_norm": 7.644498825073242, + "learning_rate": 3.0839765457911954e-07, + "loss": 0.2549, + "num_input_tokens_seen": 37231832, + "step": 19020 + }, + { + "epoch": 2.521007289595759, + "grad_norm": 0.22376547753810883, + "learning_rate": 3.0823065227080536e-07, + "loss": 0.001, + "num_input_tokens_seen": 37234008, + "step": 19021 + }, + { + "epoch": 2.521139827700464, + "grad_norm": 0.013103737495839596, + "learning_rate": 3.0806369222131565e-07, + "loss": 0.0, + "num_input_tokens_seen": 37236320, + "step": 19022 + }, + { + "epoch": 2.521272365805169, + "grad_norm": 6.850834369659424, + "learning_rate": 3.078967744338701e-07, + "loss": 0.091, + "num_input_tokens_seen": 37238336, + "step": 19023 + }, + { + "epoch": 2.521404903909874, + "grad_norm": 2.564728260040283, + "learning_rate": 3.077298989116875e-07, + "loss": 0.0118, + "num_input_tokens_seen": 37240312, + "step": 19024 + }, + { + "epoch": 2.521537442014579, + "grad_norm": 0.01958959363400936, + "learning_rate": 3.0756306565798476e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37242992, + "step": 19025 + }, + { + "epoch": 2.5216699801192846, + "grad_norm": 8.58803939819336, + "learning_rate": 3.073962746759787e-07, + "loss": 0.102, + "num_input_tokens_seen": 37245400, + "step": 19026 + }, + { + "epoch": 2.521802518223989, + "grad_norm": 8.174155235290527, + "learning_rate": 3.0722952596888457e-07, + "loss": 0.2566, + "num_input_tokens_seen": 37247240, + "step": 19027 + }, + { + "epoch": 2.5219350563286946, + "grad_norm": 6.473876476287842, + "learning_rate": 3.0706281953991834e-07, + "loss": 0.1216, + "num_input_tokens_seen": 37249152, + "step": 19028 + }, + { + "epoch": 2.5220675944333997, + "grad_norm": 4.075709819793701, + "learning_rate": 3.0689615539229336e-07, + "loss": 0.0419, + "num_input_tokens_seen": 37250832, + "step": 19029 + }, + { + "epoch": 2.5222001325381047, + "grad_norm": 0.5353427529335022, + "learning_rate": 3.067295335292239e-07, + "loss": 0.0023, + "num_input_tokens_seen": 37251896, + "step": 19030 + }, + { + "epoch": 2.5223326706428097, + "grad_norm": 0.16234004497528076, + "learning_rate": 3.0656295395392224e-07, + "loss": 0.0013, + "num_input_tokens_seen": 37254816, + "step": 19031 + }, + { + "epoch": 2.522465208747515, + "grad_norm": 0.00024320707598235458, + "learning_rate": 3.063964166695993e-07, + "loss": 0.0, + "num_input_tokens_seen": 37255984, + "step": 19032 + }, + { + "epoch": 2.5225977468522203, + "grad_norm": 16.064165115356445, + "learning_rate": 3.062299216794673e-07, + "loss": 0.1522, + "num_input_tokens_seen": 37257672, + "step": 19033 + }, + { + "epoch": 2.522730284956925, + "grad_norm": 1.3186776638031006, + "learning_rate": 3.060634689867353e-07, + "loss": 0.0094, + "num_input_tokens_seen": 37259344, + "step": 19034 + }, + { + "epoch": 2.5228628230616303, + "grad_norm": 0.007920119911432266, + "learning_rate": 3.058970585946136e-07, + "loss": 0.0, + "num_input_tokens_seen": 37260624, + "step": 19035 + }, + { + "epoch": 2.5229953611663354, + "grad_norm": 0.0016489775152876973, + "learning_rate": 3.057306905063104e-07, + "loss": 0.0, + "num_input_tokens_seen": 37261832, + "step": 19036 + }, + { + "epoch": 2.5231278992710404, + "grad_norm": 11.083040237426758, + "learning_rate": 3.0556436472503256e-07, + "loss": 0.1377, + "num_input_tokens_seen": 37263360, + "step": 19037 + }, + { + "epoch": 2.5232604373757455, + "grad_norm": 10.893657684326172, + "learning_rate": 3.0539808125398807e-07, + "loss": 0.0726, + "num_input_tokens_seen": 37265392, + "step": 19038 + }, + { + "epoch": 2.5233929754804505, + "grad_norm": 0.5558332800865173, + "learning_rate": 3.0523184009638276e-07, + "loss": 0.0032, + "num_input_tokens_seen": 37267272, + "step": 19039 + }, + { + "epoch": 2.523525513585156, + "grad_norm": 10.004725456237793, + "learning_rate": 3.0506564125542123e-07, + "loss": 0.1095, + "num_input_tokens_seen": 37269272, + "step": 19040 + }, + { + "epoch": 2.5236580516898606, + "grad_norm": 0.005695379339158535, + "learning_rate": 3.048994847343087e-07, + "loss": 0.0, + "num_input_tokens_seen": 37271776, + "step": 19041 + }, + { + "epoch": 2.523790589794566, + "grad_norm": 9.489371299743652, + "learning_rate": 3.047333705362482e-07, + "loss": 0.0478, + "num_input_tokens_seen": 37274736, + "step": 19042 + }, + { + "epoch": 2.523923127899271, + "grad_norm": 7.947813987731934, + "learning_rate": 3.045672986644427e-07, + "loss": 0.0474, + "num_input_tokens_seen": 37276320, + "step": 19043 + }, + { + "epoch": 2.524055666003976, + "grad_norm": 5.883983612060547, + "learning_rate": 3.0440126912209434e-07, + "loss": 0.0437, + "num_input_tokens_seen": 37278552, + "step": 19044 + }, + { + "epoch": 2.524188204108681, + "grad_norm": 0.040536753833293915, + "learning_rate": 3.0423528191240447e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37280424, + "step": 19045 + }, + { + "epoch": 2.524320742213386, + "grad_norm": 0.7967009544372559, + "learning_rate": 3.040693370385725e-07, + "loss": 0.0035, + "num_input_tokens_seen": 37283800, + "step": 19046 + }, + { + "epoch": 2.5244532803180917, + "grad_norm": 10.937032699584961, + "learning_rate": 3.039034345037992e-07, + "loss": 0.1011, + "num_input_tokens_seen": 37285336, + "step": 19047 + }, + { + "epoch": 2.5245858184227963, + "grad_norm": 0.004720596130937338, + "learning_rate": 3.0373757431128194e-07, + "loss": 0.0, + "num_input_tokens_seen": 37288136, + "step": 19048 + }, + { + "epoch": 2.5247183565275018, + "grad_norm": 6.496044635772705, + "learning_rate": 3.0357175646422014e-07, + "loss": 0.0526, + "num_input_tokens_seen": 37290536, + "step": 19049 + }, + { + "epoch": 2.524850894632207, + "grad_norm": 2.2700207233428955, + "learning_rate": 3.034059809658099e-07, + "loss": 0.0123, + "num_input_tokens_seen": 37292592, + "step": 19050 + }, + { + "epoch": 2.524983432736912, + "grad_norm": 0.014312869869172573, + "learning_rate": 3.032402478192481e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37293920, + "step": 19051 + }, + { + "epoch": 2.525115970841617, + "grad_norm": 0.012016148306429386, + "learning_rate": 3.0307455702772883e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37295104, + "step": 19052 + }, + { + "epoch": 2.525248508946322, + "grad_norm": 0.0016730931820347905, + "learning_rate": 3.0290890859444784e-07, + "loss": 0.0, + "num_input_tokens_seen": 37296488, + "step": 19053 + }, + { + "epoch": 2.5253810470510274, + "grad_norm": 5.655860900878906, + "learning_rate": 3.0274330252259925e-07, + "loss": 0.0334, + "num_input_tokens_seen": 37298240, + "step": 19054 + }, + { + "epoch": 2.5255135851557324, + "grad_norm": 20.5645694732666, + "learning_rate": 3.0257773881537583e-07, + "loss": 0.1837, + "num_input_tokens_seen": 37300280, + "step": 19055 + }, + { + "epoch": 2.5256461232604375, + "grad_norm": 4.748203754425049, + "learning_rate": 3.0241221747596943e-07, + "loss": 0.0492, + "num_input_tokens_seen": 37302888, + "step": 19056 + }, + { + "epoch": 2.5257786613651425, + "grad_norm": 4.462448596954346, + "learning_rate": 3.022467385075714e-07, + "loss": 0.1032, + "num_input_tokens_seen": 37305408, + "step": 19057 + }, + { + "epoch": 2.5259111994698475, + "grad_norm": 0.002763837343081832, + "learning_rate": 3.02081301913372e-07, + "loss": 0.0, + "num_input_tokens_seen": 37307744, + "step": 19058 + }, + { + "epoch": 2.5260437375745526, + "grad_norm": 1.0047616958618164, + "learning_rate": 3.019159076965611e-07, + "loss": 0.0045, + "num_input_tokens_seen": 37309112, + "step": 19059 + }, + { + "epoch": 2.5261762756792576, + "grad_norm": 0.035448722541332245, + "learning_rate": 3.017505558603287e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37311592, + "step": 19060 + }, + { + "epoch": 2.526308813783963, + "grad_norm": 14.925313949584961, + "learning_rate": 3.01585246407862e-07, + "loss": 0.3552, + "num_input_tokens_seen": 37313856, + "step": 19061 + }, + { + "epoch": 2.526441351888668, + "grad_norm": 0.010677700862288475, + "learning_rate": 3.0141997934234836e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37315296, + "step": 19062 + }, + { + "epoch": 2.526573889993373, + "grad_norm": 3.28476619720459, + "learning_rate": 3.012547546669736e-07, + "loss": 0.0352, + "num_input_tokens_seen": 37318032, + "step": 19063 + }, + { + "epoch": 2.526706428098078, + "grad_norm": 0.023423900827765465, + "learning_rate": 3.0108957238492416e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37319176, + "step": 19064 + }, + { + "epoch": 2.5268389662027833, + "grad_norm": 8.360081672668457, + "learning_rate": 3.009244324993851e-07, + "loss": 0.0708, + "num_input_tokens_seen": 37321464, + "step": 19065 + }, + { + "epoch": 2.5269715043074883, + "grad_norm": 0.007863742299377918, + "learning_rate": 3.0075933501354016e-07, + "loss": 0.0, + "num_input_tokens_seen": 37323968, + "step": 19066 + }, + { + "epoch": 2.5271040424121933, + "grad_norm": 24.61621856689453, + "learning_rate": 3.005942799305725e-07, + "loss": 0.3447, + "num_input_tokens_seen": 37325824, + "step": 19067 + }, + { + "epoch": 2.527236580516899, + "grad_norm": 10.274988174438477, + "learning_rate": 3.004292672536638e-07, + "loss": 0.227, + "num_input_tokens_seen": 37328200, + "step": 19068 + }, + { + "epoch": 2.527369118621604, + "grad_norm": 2.4371399879455566, + "learning_rate": 3.0026429698599673e-07, + "loss": 0.0498, + "num_input_tokens_seen": 37330056, + "step": 19069 + }, + { + "epoch": 2.527501656726309, + "grad_norm": 0.006653674878180027, + "learning_rate": 3.0009936913075106e-07, + "loss": 0.0, + "num_input_tokens_seen": 37332048, + "step": 19070 + }, + { + "epoch": 2.527634194831014, + "grad_norm": 0.015350362285971642, + "learning_rate": 2.999344836911075e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37333768, + "step": 19071 + }, + { + "epoch": 2.527766732935719, + "grad_norm": 8.021217346191406, + "learning_rate": 2.997696406702452e-07, + "loss": 0.2334, + "num_input_tokens_seen": 37335984, + "step": 19072 + }, + { + "epoch": 2.527899271040424, + "grad_norm": 0.05985564738512039, + "learning_rate": 2.996048400713419e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37337944, + "step": 19073 + }, + { + "epoch": 2.528031809145129, + "grad_norm": 0.00936909206211567, + "learning_rate": 2.9944008189757457e-07, + "loss": 0.0, + "num_input_tokens_seen": 37340096, + "step": 19074 + }, + { + "epoch": 2.5281643472498345, + "grad_norm": 7.633286476135254, + "learning_rate": 2.992753661521214e-07, + "loss": 0.086, + "num_input_tokens_seen": 37342664, + "step": 19075 + }, + { + "epoch": 2.5282968853545396, + "grad_norm": 4.702107906341553, + "learning_rate": 2.991106928381565e-07, + "loss": 0.0227, + "num_input_tokens_seen": 37344992, + "step": 19076 + }, + { + "epoch": 2.5284294234592446, + "grad_norm": 7.830382823944092, + "learning_rate": 2.989460619588566e-07, + "loss": 0.035, + "num_input_tokens_seen": 37346728, + "step": 19077 + }, + { + "epoch": 2.5285619615639496, + "grad_norm": 5.351593971252441, + "learning_rate": 2.9878147351739496e-07, + "loss": 0.0329, + "num_input_tokens_seen": 37349240, + "step": 19078 + }, + { + "epoch": 2.5286944996686547, + "grad_norm": 6.137148380279541, + "learning_rate": 2.9861692751694456e-07, + "loss": 0.093, + "num_input_tokens_seen": 37351352, + "step": 19079 + }, + { + "epoch": 2.5288270377733597, + "grad_norm": 0.11415832489728928, + "learning_rate": 2.984524239606787e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37353472, + "step": 19080 + }, + { + "epoch": 2.5289595758780647, + "grad_norm": 1.6513500213623047, + "learning_rate": 2.982879628517693e-07, + "loss": 0.0072, + "num_input_tokens_seen": 37355936, + "step": 19081 + }, + { + "epoch": 2.5290921139827702, + "grad_norm": 0.021916721016168594, + "learning_rate": 2.9812354419338606e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37357768, + "step": 19082 + }, + { + "epoch": 2.5292246520874753, + "grad_norm": 9.223024368286133, + "learning_rate": 2.979591679887003e-07, + "loss": 0.1057, + "num_input_tokens_seen": 37359320, + "step": 19083 + }, + { + "epoch": 2.5293571901921803, + "grad_norm": 0.22989630699157715, + "learning_rate": 2.977948342408807e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37360872, + "step": 19084 + }, + { + "epoch": 2.5294897282968853, + "grad_norm": 0.08252662420272827, + "learning_rate": 2.9763054295309625e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37362600, + "step": 19085 + }, + { + "epoch": 2.5296222664015904, + "grad_norm": 0.03387834504246712, + "learning_rate": 2.974662941285142e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37365024, + "step": 19086 + }, + { + "epoch": 2.5297548045062954, + "grad_norm": 0.009304218925535679, + "learning_rate": 2.973020877703012e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37366976, + "step": 19087 + }, + { + "epoch": 2.5298873426110005, + "grad_norm": 0.0758136734366417, + "learning_rate": 2.971379238816238e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37368656, + "step": 19088 + }, + { + "epoch": 2.530019880715706, + "grad_norm": 3.143813371658325, + "learning_rate": 2.9697380246564654e-07, + "loss": 0.0227, + "num_input_tokens_seen": 37370400, + "step": 19089 + }, + { + "epoch": 2.530152418820411, + "grad_norm": 19.974788665771484, + "learning_rate": 2.968097235255343e-07, + "loss": 0.2177, + "num_input_tokens_seen": 37371952, + "step": 19090 + }, + { + "epoch": 2.530284956925116, + "grad_norm": 4.7282280921936035, + "learning_rate": 2.96645687064451e-07, + "loss": 0.0299, + "num_input_tokens_seen": 37374032, + "step": 19091 + }, + { + "epoch": 2.530417495029821, + "grad_norm": 0.014639724045991898, + "learning_rate": 2.964816930855585e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37376000, + "step": 19092 + }, + { + "epoch": 2.530550033134526, + "grad_norm": 8.441856384277344, + "learning_rate": 2.9631774159201876e-07, + "loss": 0.1273, + "num_input_tokens_seen": 37378024, + "step": 19093 + }, + { + "epoch": 2.530682571239231, + "grad_norm": 13.380906105041504, + "learning_rate": 2.961538325869931e-07, + "loss": 0.0627, + "num_input_tokens_seen": 37380864, + "step": 19094 + }, + { + "epoch": 2.530815109343936, + "grad_norm": 1.010128140449524, + "learning_rate": 2.959899660736426e-07, + "loss": 0.0112, + "num_input_tokens_seen": 37383328, + "step": 19095 + }, + { + "epoch": 2.5309476474486416, + "grad_norm": 0.3424445390701294, + "learning_rate": 2.9582614205512586e-07, + "loss": 0.0024, + "num_input_tokens_seen": 37385664, + "step": 19096 + }, + { + "epoch": 2.5310801855533467, + "grad_norm": 0.008097711019217968, + "learning_rate": 2.956623605346018e-07, + "loss": 0.0, + "num_input_tokens_seen": 37387032, + "step": 19097 + }, + { + "epoch": 2.5312127236580517, + "grad_norm": 1.4307278394699097, + "learning_rate": 2.9549862151522806e-07, + "loss": 0.0138, + "num_input_tokens_seen": 37388592, + "step": 19098 + }, + { + "epoch": 2.5313452617627568, + "grad_norm": 7.536437034606934, + "learning_rate": 2.953349250001611e-07, + "loss": 0.0673, + "num_input_tokens_seen": 37390272, + "step": 19099 + }, + { + "epoch": 2.531477799867462, + "grad_norm": 0.01898566447198391, + "learning_rate": 2.951712709925578e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37391488, + "step": 19100 + }, + { + "epoch": 2.531610337972167, + "grad_norm": 7.185465335845947, + "learning_rate": 2.950076594955739e-07, + "loss": 0.0442, + "num_input_tokens_seen": 37393144, + "step": 19101 + }, + { + "epoch": 2.531742876076872, + "grad_norm": 1.1171246767044067, + "learning_rate": 2.948440905123634e-07, + "loss": 0.0093, + "num_input_tokens_seen": 37395672, + "step": 19102 + }, + { + "epoch": 2.5318754141815774, + "grad_norm": 11.81508731842041, + "learning_rate": 2.9468056404608036e-07, + "loss": 0.1703, + "num_input_tokens_seen": 37398368, + "step": 19103 + }, + { + "epoch": 2.5320079522862824, + "grad_norm": 0.059792373329401016, + "learning_rate": 2.9451708009987727e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37399856, + "step": 19104 + }, + { + "epoch": 2.5321404903909874, + "grad_norm": 1.567510724067688, + "learning_rate": 2.943536386769058e-07, + "loss": 0.0066, + "num_input_tokens_seen": 37401712, + "step": 19105 + }, + { + "epoch": 2.5322730284956925, + "grad_norm": 8.388509750366211, + "learning_rate": 2.9419023978031786e-07, + "loss": 0.0448, + "num_input_tokens_seen": 37404096, + "step": 19106 + }, + { + "epoch": 2.5324055666003975, + "grad_norm": 0.009316482581198215, + "learning_rate": 2.9402688341326427e-07, + "loss": 0.0, + "num_input_tokens_seen": 37405544, + "step": 19107 + }, + { + "epoch": 2.532538104705103, + "grad_norm": 10.814212799072266, + "learning_rate": 2.938635695788941e-07, + "loss": 0.1891, + "num_input_tokens_seen": 37408576, + "step": 19108 + }, + { + "epoch": 2.5326706428098076, + "grad_norm": 0.028352294117212296, + "learning_rate": 2.937002982803563e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37410000, + "step": 19109 + }, + { + "epoch": 2.532803180914513, + "grad_norm": 5.990534782409668, + "learning_rate": 2.9353706952079813e-07, + "loss": 0.0394, + "num_input_tokens_seen": 37412032, + "step": 19110 + }, + { + "epoch": 2.532935719019218, + "grad_norm": 0.01575646921992302, + "learning_rate": 2.933738833033678e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37414208, + "step": 19111 + }, + { + "epoch": 2.533068257123923, + "grad_norm": 0.0018914544489234686, + "learning_rate": 2.9321073963121144e-07, + "loss": 0.0, + "num_input_tokens_seen": 37415752, + "step": 19112 + }, + { + "epoch": 2.533200795228628, + "grad_norm": 0.18259583413600922, + "learning_rate": 2.930476385074746e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37418072, + "step": 19113 + }, + { + "epoch": 2.533333333333333, + "grad_norm": 2.512240409851074, + "learning_rate": 2.9288457993530167e-07, + "loss": 0.0141, + "num_input_tokens_seen": 37420112, + "step": 19114 + }, + { + "epoch": 2.5334658714380387, + "grad_norm": 0.07118674367666245, + "learning_rate": 2.9272156391783627e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37421936, + "step": 19115 + }, + { + "epoch": 2.5335984095427433, + "grad_norm": 5.437435626983643, + "learning_rate": 2.925585904582223e-07, + "loss": 0.0513, + "num_input_tokens_seen": 37424344, + "step": 19116 + }, + { + "epoch": 2.5337309476474488, + "grad_norm": 0.007428389973938465, + "learning_rate": 2.9239565955960113e-07, + "loss": 0.0, + "num_input_tokens_seen": 37426064, + "step": 19117 + }, + { + "epoch": 2.533863485752154, + "grad_norm": 0.5026679635047913, + "learning_rate": 2.9223277122511495e-07, + "loss": 0.0025, + "num_input_tokens_seen": 37427808, + "step": 19118 + }, + { + "epoch": 2.533996023856859, + "grad_norm": 26.859704971313477, + "learning_rate": 2.9206992545790404e-07, + "loss": 0.2483, + "num_input_tokens_seen": 37429256, + "step": 19119 + }, + { + "epoch": 2.534128561961564, + "grad_norm": 4.2761359214782715, + "learning_rate": 2.919071222611075e-07, + "loss": 0.0176, + "num_input_tokens_seen": 37431728, + "step": 19120 + }, + { + "epoch": 2.534261100066269, + "grad_norm": 0.01922869123518467, + "learning_rate": 2.9174436163786566e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37433736, + "step": 19121 + }, + { + "epoch": 2.5343936381709744, + "grad_norm": 6.303127288818359, + "learning_rate": 2.9158164359131576e-07, + "loss": 0.0389, + "num_input_tokens_seen": 37435648, + "step": 19122 + }, + { + "epoch": 2.534526176275679, + "grad_norm": 2.154287099838257, + "learning_rate": 2.914189681245949e-07, + "loss": 0.0106, + "num_input_tokens_seen": 37437536, + "step": 19123 + }, + { + "epoch": 2.5346587143803845, + "grad_norm": 3.551905870437622, + "learning_rate": 2.912563352408404e-07, + "loss": 0.0127, + "num_input_tokens_seen": 37439288, + "step": 19124 + }, + { + "epoch": 2.5347912524850895, + "grad_norm": 2.208467483520508, + "learning_rate": 2.9109374494318693e-07, + "loss": 0.004, + "num_input_tokens_seen": 37440800, + "step": 19125 + }, + { + "epoch": 2.5349237905897946, + "grad_norm": 0.48554596304893494, + "learning_rate": 2.909311972347706e-07, + "loss": 0.0014, + "num_input_tokens_seen": 37442280, + "step": 19126 + }, + { + "epoch": 2.5350563286944996, + "grad_norm": 2.0004382133483887, + "learning_rate": 2.9076869211872445e-07, + "loss": 0.0111, + "num_input_tokens_seen": 37444304, + "step": 19127 + }, + { + "epoch": 2.5351888667992046, + "grad_norm": 0.005225060507655144, + "learning_rate": 2.9060622959818236e-07, + "loss": 0.0, + "num_input_tokens_seen": 37445880, + "step": 19128 + }, + { + "epoch": 2.53532140490391, + "grad_norm": 0.013014730997383595, + "learning_rate": 2.9044380967627544e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37448640, + "step": 19129 + }, + { + "epoch": 2.5354539430086147, + "grad_norm": 0.022811781615018845, + "learning_rate": 2.9028143235613705e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37450856, + "step": 19130 + }, + { + "epoch": 2.53558648111332, + "grad_norm": 9.4717435836792, + "learning_rate": 2.901190976408963e-07, + "loss": 0.1386, + "num_input_tokens_seen": 37453392, + "step": 19131 + }, + { + "epoch": 2.5357190192180252, + "grad_norm": 1.8154377937316895, + "learning_rate": 2.899568055336843e-07, + "loss": 0.0065, + "num_input_tokens_seen": 37455024, + "step": 19132 + }, + { + "epoch": 2.5358515573227303, + "grad_norm": 0.00735109718516469, + "learning_rate": 2.8979455603763003e-07, + "loss": 0.0, + "num_input_tokens_seen": 37456448, + "step": 19133 + }, + { + "epoch": 2.5359840954274353, + "grad_norm": 10.321700096130371, + "learning_rate": 2.8963234915586113e-07, + "loss": 0.0898, + "num_input_tokens_seen": 37458568, + "step": 19134 + }, + { + "epoch": 2.5361166335321403, + "grad_norm": 10.98218822479248, + "learning_rate": 2.894701848915052e-07, + "loss": 0.0311, + "num_input_tokens_seen": 37460848, + "step": 19135 + }, + { + "epoch": 2.536249171636846, + "grad_norm": 3.5249624252319336, + "learning_rate": 2.8930806324768885e-07, + "loss": 0.0074, + "num_input_tokens_seen": 37462752, + "step": 19136 + }, + { + "epoch": 2.536381709741551, + "grad_norm": 0.13867440819740295, + "learning_rate": 2.8914598422753873e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37464688, + "step": 19137 + }, + { + "epoch": 2.536514247846256, + "grad_norm": 0.02282278798520565, + "learning_rate": 2.889839478341791e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37466408, + "step": 19138 + }, + { + "epoch": 2.536646785950961, + "grad_norm": 4.181307315826416, + "learning_rate": 2.888219540707343e-07, + "loss": 0.0329, + "num_input_tokens_seen": 37468176, + "step": 19139 + }, + { + "epoch": 2.536779324055666, + "grad_norm": 3.544297456741333, + "learning_rate": 2.886600029403272e-07, + "loss": 0.0227, + "num_input_tokens_seen": 37470600, + "step": 19140 + }, + { + "epoch": 2.536911862160371, + "grad_norm": 6.721055507659912, + "learning_rate": 2.884980944460808e-07, + "loss": 0.0465, + "num_input_tokens_seen": 37473480, + "step": 19141 + }, + { + "epoch": 2.537044400265076, + "grad_norm": 4.9972991943359375, + "learning_rate": 2.883362285911173e-07, + "loss": 0.0364, + "num_input_tokens_seen": 37475728, + "step": 19142 + }, + { + "epoch": 2.5371769383697815, + "grad_norm": 0.02297527901828289, + "learning_rate": 2.881744053785571e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37477552, + "step": 19143 + }, + { + "epoch": 2.5373094764744866, + "grad_norm": 0.00940045528113842, + "learning_rate": 2.8801262481152e-07, + "loss": 0.0, + "num_input_tokens_seen": 37478872, + "step": 19144 + }, + { + "epoch": 2.5374420145791916, + "grad_norm": 2.807574987411499, + "learning_rate": 2.878508868931254e-07, + "loss": 0.0108, + "num_input_tokens_seen": 37481128, + "step": 19145 + }, + { + "epoch": 2.5375745526838966, + "grad_norm": 19.909229278564453, + "learning_rate": 2.876891916264915e-07, + "loss": 0.112, + "num_input_tokens_seen": 37482936, + "step": 19146 + }, + { + "epoch": 2.5377070907886017, + "grad_norm": 1.5621196031570435, + "learning_rate": 2.875275390147361e-07, + "loss": 0.0133, + "num_input_tokens_seen": 37484656, + "step": 19147 + }, + { + "epoch": 2.5378396288933067, + "grad_norm": 0.06808166950941086, + "learning_rate": 2.8736592906097675e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37486272, + "step": 19148 + }, + { + "epoch": 2.5379721669980118, + "grad_norm": 0.019649337977170944, + "learning_rate": 2.8720436176832847e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37487888, + "step": 19149 + }, + { + "epoch": 2.5381047051027172, + "grad_norm": 0.00863607693463564, + "learning_rate": 2.8704283713990674e-07, + "loss": 0.0, + "num_input_tokens_seen": 37489224, + "step": 19150 + }, + { + "epoch": 2.5382372432074223, + "grad_norm": 18.46916389465332, + "learning_rate": 2.868813551788252e-07, + "loss": 0.125, + "num_input_tokens_seen": 37491152, + "step": 19151 + }, + { + "epoch": 2.5383697813121273, + "grad_norm": 6.598438739776611, + "learning_rate": 2.8671991588819835e-07, + "loss": 0.0706, + "num_input_tokens_seen": 37493456, + "step": 19152 + }, + { + "epoch": 2.5385023194168324, + "grad_norm": 2.5307908058166504, + "learning_rate": 2.8655851927113786e-07, + "loss": 0.0082, + "num_input_tokens_seen": 37495768, + "step": 19153 + }, + { + "epoch": 2.5386348575215374, + "grad_norm": 4.513319492340088, + "learning_rate": 2.863971653307568e-07, + "loss": 0.0237, + "num_input_tokens_seen": 37497352, + "step": 19154 + }, + { + "epoch": 2.5387673956262424, + "grad_norm": 0.7258305549621582, + "learning_rate": 2.862358540701654e-07, + "loss": 0.0036, + "num_input_tokens_seen": 37499752, + "step": 19155 + }, + { + "epoch": 2.5388999337309475, + "grad_norm": 0.010591251775622368, + "learning_rate": 2.860745854924737e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37501384, + "step": 19156 + }, + { + "epoch": 2.539032471835653, + "grad_norm": 0.1885674148797989, + "learning_rate": 2.85913359600791e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37503320, + "step": 19157 + }, + { + "epoch": 2.539165009940358, + "grad_norm": 0.00333246192894876, + "learning_rate": 2.8575217639822686e-07, + "loss": 0.0, + "num_input_tokens_seen": 37505264, + "step": 19158 + }, + { + "epoch": 2.539297548045063, + "grad_norm": 5.3531341552734375, + "learning_rate": 2.8559103588788746e-07, + "loss": 0.0105, + "num_input_tokens_seen": 37506536, + "step": 19159 + }, + { + "epoch": 2.539430086149768, + "grad_norm": 10.839872360229492, + "learning_rate": 2.8542993807288117e-07, + "loss": 0.2191, + "num_input_tokens_seen": 37508328, + "step": 19160 + }, + { + "epoch": 2.539562624254473, + "grad_norm": 0.3431721031665802, + "learning_rate": 2.8526888295631325e-07, + "loss": 0.0014, + "num_input_tokens_seen": 37509992, + "step": 19161 + }, + { + "epoch": 2.539695162359178, + "grad_norm": 2.787536859512329, + "learning_rate": 2.851078705412888e-07, + "loss": 0.0232, + "num_input_tokens_seen": 37512272, + "step": 19162 + }, + { + "epoch": 2.539827700463883, + "grad_norm": 7.519652366638184, + "learning_rate": 2.84946900830913e-07, + "loss": 0.077, + "num_input_tokens_seen": 37514504, + "step": 19163 + }, + { + "epoch": 2.5399602385685887, + "grad_norm": 0.25927790999412537, + "learning_rate": 2.847859738282885e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37516008, + "step": 19164 + }, + { + "epoch": 2.5400927766732937, + "grad_norm": 2.9976625442504883, + "learning_rate": 2.8462508953651935e-07, + "loss": 0.0101, + "num_input_tokens_seen": 37518776, + "step": 19165 + }, + { + "epoch": 2.5402253147779987, + "grad_norm": 0.07422026246786118, + "learning_rate": 2.8446424795870677e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37521936, + "step": 19166 + }, + { + "epoch": 2.5403578528827038, + "grad_norm": 0.12871003150939941, + "learning_rate": 2.84303449097951e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37524424, + "step": 19167 + }, + { + "epoch": 2.540490390987409, + "grad_norm": 1.0708467960357666, + "learning_rate": 2.841426929573543e-07, + "loss": 0.004, + "num_input_tokens_seen": 37527248, + "step": 19168 + }, + { + "epoch": 2.540622929092114, + "grad_norm": 7.618175983428955, + "learning_rate": 2.8398197954001475e-07, + "loss": 0.0963, + "num_input_tokens_seen": 37529184, + "step": 19169 + }, + { + "epoch": 2.540755467196819, + "grad_norm": 1.7641981840133667, + "learning_rate": 2.8382130884903103e-07, + "loss": 0.0047, + "num_input_tokens_seen": 37530952, + "step": 19170 + }, + { + "epoch": 2.5408880053015244, + "grad_norm": 0.013728641904890537, + "learning_rate": 2.836606808875017e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37533264, + "step": 19171 + }, + { + "epoch": 2.5410205434062294, + "grad_norm": 2.108384132385254, + "learning_rate": 2.835000956585232e-07, + "loss": 0.0447, + "num_input_tokens_seen": 37534880, + "step": 19172 + }, + { + "epoch": 2.5411530815109344, + "grad_norm": 0.001985525246709585, + "learning_rate": 2.8333955316519224e-07, + "loss": 0.0, + "num_input_tokens_seen": 37535952, + "step": 19173 + }, + { + "epoch": 2.5412856196156395, + "grad_norm": 27.595172882080078, + "learning_rate": 2.831790534106038e-07, + "loss": 0.4104, + "num_input_tokens_seen": 37538040, + "step": 19174 + }, + { + "epoch": 2.5414181577203445, + "grad_norm": 5.20789098739624, + "learning_rate": 2.830185963978527e-07, + "loss": 0.076, + "num_input_tokens_seen": 37539872, + "step": 19175 + }, + { + "epoch": 2.5415506958250496, + "grad_norm": 0.09321755170822144, + "learning_rate": 2.828581821300319e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37540960, + "step": 19176 + }, + { + "epoch": 2.5416832339297546, + "grad_norm": 0.021792927756905556, + "learning_rate": 2.826978106102349e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37542400, + "step": 19177 + }, + { + "epoch": 2.54181577203446, + "grad_norm": 0.14601649343967438, + "learning_rate": 2.825374818415541e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37544496, + "step": 19178 + }, + { + "epoch": 2.541948310139165, + "grad_norm": 1.7685610055923462, + "learning_rate": 2.823771958270807e-07, + "loss": 0.0087, + "num_input_tokens_seen": 37546704, + "step": 19179 + }, + { + "epoch": 2.54208084824387, + "grad_norm": 0.031205739825963974, + "learning_rate": 2.822169525699045e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37548736, + "step": 19180 + }, + { + "epoch": 2.542213386348575, + "grad_norm": 0.000769249745644629, + "learning_rate": 2.820567520731157e-07, + "loss": 0.0, + "num_input_tokens_seen": 37550016, + "step": 19181 + }, + { + "epoch": 2.5423459244532802, + "grad_norm": 0.19897986948490143, + "learning_rate": 2.8189659433980223e-07, + "loss": 0.0009, + "num_input_tokens_seen": 37551648, + "step": 19182 + }, + { + "epoch": 2.5424784625579853, + "grad_norm": 0.1513667106628418, + "learning_rate": 2.817364793730526e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37554000, + "step": 19183 + }, + { + "epoch": 2.5426110006626903, + "grad_norm": 0.0219032634049654, + "learning_rate": 2.815764071759544e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37556240, + "step": 19184 + }, + { + "epoch": 2.542743538767396, + "grad_norm": 0.0010836496949195862, + "learning_rate": 2.8141637775159327e-07, + "loss": 0.0, + "num_input_tokens_seen": 37557768, + "step": 19185 + }, + { + "epoch": 2.542876076872101, + "grad_norm": 0.5151396989822388, + "learning_rate": 2.8125639110305527e-07, + "loss": 0.0013, + "num_input_tokens_seen": 37559384, + "step": 19186 + }, + { + "epoch": 2.543008614976806, + "grad_norm": 0.008022317662835121, + "learning_rate": 2.810964472334246e-07, + "loss": 0.0, + "num_input_tokens_seen": 37560672, + "step": 19187 + }, + { + "epoch": 2.543141153081511, + "grad_norm": 1.752504587173462, + "learning_rate": 2.809365461457844e-07, + "loss": 0.0113, + "num_input_tokens_seen": 37563432, + "step": 19188 + }, + { + "epoch": 2.543273691186216, + "grad_norm": 10.425017356872559, + "learning_rate": 2.8077668784321887e-07, + "loss": 0.1909, + "num_input_tokens_seen": 37564616, + "step": 19189 + }, + { + "epoch": 2.5434062292909214, + "grad_norm": 0.015368139371275902, + "learning_rate": 2.8061687232880995e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37566272, + "step": 19190 + }, + { + "epoch": 2.543538767395626, + "grad_norm": 0.08149521052837372, + "learning_rate": 2.8045709960563885e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37568368, + "step": 19191 + }, + { + "epoch": 2.5436713055003315, + "grad_norm": 2.3762598037719727, + "learning_rate": 2.802973696767861e-07, + "loss": 0.0089, + "num_input_tokens_seen": 37570648, + "step": 19192 + }, + { + "epoch": 2.5438038436050365, + "grad_norm": 3.361557722091675, + "learning_rate": 2.8013768254533085e-07, + "loss": 0.0282, + "num_input_tokens_seen": 37572640, + "step": 19193 + }, + { + "epoch": 2.5439363817097416, + "grad_norm": 0.05279209092259407, + "learning_rate": 2.799780382143524e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37574104, + "step": 19194 + }, + { + "epoch": 2.5440689198144466, + "grad_norm": 0.0015046474291011691, + "learning_rate": 2.798184366869297e-07, + "loss": 0.0, + "num_input_tokens_seen": 37576128, + "step": 19195 + }, + { + "epoch": 2.5442014579191516, + "grad_norm": 0.7899875044822693, + "learning_rate": 2.796588779661388e-07, + "loss": 0.0041, + "num_input_tokens_seen": 37577696, + "step": 19196 + }, + { + "epoch": 2.544333996023857, + "grad_norm": 1.9544918537139893, + "learning_rate": 2.7949936205505677e-07, + "loss": 0.0093, + "num_input_tokens_seen": 37579336, + "step": 19197 + }, + { + "epoch": 2.5444665341285617, + "grad_norm": 17.732507705688477, + "learning_rate": 2.7933988895675805e-07, + "loss": 0.1545, + "num_input_tokens_seen": 37581248, + "step": 19198 + }, + { + "epoch": 2.544599072233267, + "grad_norm": 3.6685752868652344, + "learning_rate": 2.791804586743191e-07, + "loss": 0.026, + "num_input_tokens_seen": 37582728, + "step": 19199 + }, + { + "epoch": 2.5447316103379722, + "grad_norm": 5.845583915710449, + "learning_rate": 2.7902107121081214e-07, + "loss": 0.0483, + "num_input_tokens_seen": 37584496, + "step": 19200 + }, + { + "epoch": 2.5448641484426773, + "grad_norm": 0.007427958771586418, + "learning_rate": 2.788617265693119e-07, + "loss": 0.0, + "num_input_tokens_seen": 37585664, + "step": 19201 + }, + { + "epoch": 2.5449966865473823, + "grad_norm": 10.987776756286621, + "learning_rate": 2.7870242475288966e-07, + "loss": 0.0613, + "num_input_tokens_seen": 37587448, + "step": 19202 + }, + { + "epoch": 2.5451292246520874, + "grad_norm": 7.798466205596924, + "learning_rate": 2.785431657646165e-07, + "loss": 0.0642, + "num_input_tokens_seen": 37589720, + "step": 19203 + }, + { + "epoch": 2.545261762756793, + "grad_norm": 1.2548589706420898, + "learning_rate": 2.7838394960756436e-07, + "loss": 0.0057, + "num_input_tokens_seen": 37591840, + "step": 19204 + }, + { + "epoch": 2.5453943008614974, + "grad_norm": 0.06541841477155685, + "learning_rate": 2.78224776284802e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37593656, + "step": 19205 + }, + { + "epoch": 2.545526838966203, + "grad_norm": 0.19835114479064941, + "learning_rate": 2.780656457993983e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37595064, + "step": 19206 + }, + { + "epoch": 2.545659377070908, + "grad_norm": 0.21120081841945648, + "learning_rate": 2.779065581544224e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37596536, + "step": 19207 + }, + { + "epoch": 2.545791915175613, + "grad_norm": 0.15744860470294952, + "learning_rate": 2.777475133529403e-07, + "loss": 0.001, + "num_input_tokens_seen": 37598024, + "step": 19208 + }, + { + "epoch": 2.545924453280318, + "grad_norm": 0.012701173312962055, + "learning_rate": 2.775885113980198e-07, + "loss": 0.0, + "num_input_tokens_seen": 37599512, + "step": 19209 + }, + { + "epoch": 2.546056991385023, + "grad_norm": 12.160787582397461, + "learning_rate": 2.774295522927259e-07, + "loss": 0.0622, + "num_input_tokens_seen": 37601528, + "step": 19210 + }, + { + "epoch": 2.5461895294897285, + "grad_norm": 0.011698375456035137, + "learning_rate": 2.7727063604012366e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37603816, + "step": 19211 + }, + { + "epoch": 2.546322067594433, + "grad_norm": 0.06989102810621262, + "learning_rate": 2.771117626432762e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37605976, + "step": 19212 + }, + { + "epoch": 2.5464546056991386, + "grad_norm": 0.026223503053188324, + "learning_rate": 2.7695293210524834e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37608008, + "step": 19213 + }, + { + "epoch": 2.5465871438038437, + "grad_norm": 0.6472287178039551, + "learning_rate": 2.7679414442910057e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37610128, + "step": 19214 + }, + { + "epoch": 2.5467196819085487, + "grad_norm": 0.025056691840291023, + "learning_rate": 2.7663539961789635e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37611824, + "step": 19215 + }, + { + "epoch": 2.5468522200132537, + "grad_norm": 0.002045080531388521, + "learning_rate": 2.764766976746952e-07, + "loss": 0.0, + "num_input_tokens_seen": 37613272, + "step": 19216 + }, + { + "epoch": 2.5469847581179588, + "grad_norm": 5.3993048667907715, + "learning_rate": 2.763180386025566e-07, + "loss": 0.0658, + "num_input_tokens_seen": 37615424, + "step": 19217 + }, + { + "epoch": 2.5471172962226643, + "grad_norm": 5.393725395202637, + "learning_rate": 2.7615942240454106e-07, + "loss": 0.066, + "num_input_tokens_seen": 37617560, + "step": 19218 + }, + { + "epoch": 2.547249834327369, + "grad_norm": 5.836322784423828, + "learning_rate": 2.7600084908370543e-07, + "loss": 0.067, + "num_input_tokens_seen": 37619296, + "step": 19219 + }, + { + "epoch": 2.5473823724320743, + "grad_norm": 0.04517173394560814, + "learning_rate": 2.758423186431081e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37620496, + "step": 19220 + }, + { + "epoch": 2.5475149105367794, + "grad_norm": 2.786724090576172, + "learning_rate": 2.7568383108580536e-07, + "loss": 0.0093, + "num_input_tokens_seen": 37621584, + "step": 19221 + }, + { + "epoch": 2.5476474486414844, + "grad_norm": 0.001452822471037507, + "learning_rate": 2.7552538641485273e-07, + "loss": 0.0, + "num_input_tokens_seen": 37622824, + "step": 19222 + }, + { + "epoch": 2.5477799867461894, + "grad_norm": 0.10762270539999008, + "learning_rate": 2.753669846333046e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37625176, + "step": 19223 + }, + { + "epoch": 2.5479125248508945, + "grad_norm": 0.41375023126602173, + "learning_rate": 2.7520862574421604e-07, + "loss": 0.0023, + "num_input_tokens_seen": 37626936, + "step": 19224 + }, + { + "epoch": 2.5480450629556, + "grad_norm": 9.824305534362793, + "learning_rate": 2.750503097506402e-07, + "loss": 0.0662, + "num_input_tokens_seen": 37628824, + "step": 19225 + }, + { + "epoch": 2.548177601060305, + "grad_norm": 0.004199706017971039, + "learning_rate": 2.748920366556293e-07, + "loss": 0.0, + "num_input_tokens_seen": 37630120, + "step": 19226 + }, + { + "epoch": 2.54831013916501, + "grad_norm": 2.5526397228240967, + "learning_rate": 2.747338064622351e-07, + "loss": 0.0071, + "num_input_tokens_seen": 37631688, + "step": 19227 + }, + { + "epoch": 2.548442677269715, + "grad_norm": 5.496508598327637, + "learning_rate": 2.745756191735083e-07, + "loss": 0.1582, + "num_input_tokens_seen": 37635056, + "step": 19228 + }, + { + "epoch": 2.54857521537442, + "grad_norm": 4.5125250816345215, + "learning_rate": 2.7441747479249825e-07, + "loss": 0.0912, + "num_input_tokens_seen": 37636280, + "step": 19229 + }, + { + "epoch": 2.548707753479125, + "grad_norm": 0.17312651872634888, + "learning_rate": 2.7425937332225456e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37637968, + "step": 19230 + }, + { + "epoch": 2.54884029158383, + "grad_norm": 0.029593251645565033, + "learning_rate": 2.7410131476582615e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37640968, + "step": 19231 + }, + { + "epoch": 2.5489728296885357, + "grad_norm": 0.5128489136695862, + "learning_rate": 2.739432991262597e-07, + "loss": 0.003, + "num_input_tokens_seen": 37642224, + "step": 19232 + }, + { + "epoch": 2.5491053677932407, + "grad_norm": 0.8938080072402954, + "learning_rate": 2.737853264066026e-07, + "loss": 0.0016, + "num_input_tokens_seen": 37644024, + "step": 19233 + }, + { + "epoch": 2.5492379058979457, + "grad_norm": 7.7527055740356445, + "learning_rate": 2.7362739660989927e-07, + "loss": 0.118, + "num_input_tokens_seen": 37646248, + "step": 19234 + }, + { + "epoch": 2.549370444002651, + "grad_norm": 3.9511706829071045, + "learning_rate": 2.734695097391965e-07, + "loss": 0.0244, + "num_input_tokens_seen": 37649048, + "step": 19235 + }, + { + "epoch": 2.549502982107356, + "grad_norm": 0.12787789106369019, + "learning_rate": 2.733116657975368e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37651672, + "step": 19236 + }, + { + "epoch": 2.549635520212061, + "grad_norm": 22.463727951049805, + "learning_rate": 2.73153864787965e-07, + "loss": 0.5195, + "num_input_tokens_seen": 37652952, + "step": 19237 + }, + { + "epoch": 2.549768058316766, + "grad_norm": 2.1905441284179688, + "learning_rate": 2.7299610671352285e-07, + "loss": 0.0137, + "num_input_tokens_seen": 37655040, + "step": 19238 + }, + { + "epoch": 2.5499005964214714, + "grad_norm": 0.0384017750620842, + "learning_rate": 2.7283839157725146e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37657272, + "step": 19239 + }, + { + "epoch": 2.5500331345261764, + "grad_norm": 11.75296401977539, + "learning_rate": 2.7268071938219285e-07, + "loss": 0.1115, + "num_input_tokens_seen": 37659136, + "step": 19240 + }, + { + "epoch": 2.5501656726308815, + "grad_norm": 0.004305411130189896, + "learning_rate": 2.725230901313866e-07, + "loss": 0.0, + "num_input_tokens_seen": 37660808, + "step": 19241 + }, + { + "epoch": 2.5502982107355865, + "grad_norm": 6.9022979736328125, + "learning_rate": 2.7236550382787136e-07, + "loss": 0.1004, + "num_input_tokens_seen": 37663432, + "step": 19242 + }, + { + "epoch": 2.5504307488402915, + "grad_norm": 0.026946282014250755, + "learning_rate": 2.722079604746866e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37665104, + "step": 19243 + }, + { + "epoch": 2.5505632869449966, + "grad_norm": 3.5444226264953613, + "learning_rate": 2.7205046007486885e-07, + "loss": 0.0271, + "num_input_tokens_seen": 37666704, + "step": 19244 + }, + { + "epoch": 2.5506958250497016, + "grad_norm": 0.08248116075992584, + "learning_rate": 2.718930026314551e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37668936, + "step": 19245 + }, + { + "epoch": 2.550828363154407, + "grad_norm": 0.06398060917854309, + "learning_rate": 2.7173558814748173e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37671464, + "step": 19246 + }, + { + "epoch": 2.550960901259112, + "grad_norm": 0.013547554612159729, + "learning_rate": 2.7157821662598285e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37673160, + "step": 19247 + }, + { + "epoch": 2.551093439363817, + "grad_norm": 0.012475227005779743, + "learning_rate": 2.714208880699937e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37675464, + "step": 19248 + }, + { + "epoch": 2.551225977468522, + "grad_norm": 0.47060561180114746, + "learning_rate": 2.712636024825474e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37676688, + "step": 19249 + }, + { + "epoch": 2.5513585155732272, + "grad_norm": 0.4960634708404541, + "learning_rate": 2.7110635986667577e-07, + "loss": 0.0018, + "num_input_tokens_seen": 37678536, + "step": 19250 + }, + { + "epoch": 2.5514910536779323, + "grad_norm": 7.8419976234436035, + "learning_rate": 2.709491602254116e-07, + "loss": 0.0581, + "num_input_tokens_seen": 37681312, + "step": 19251 + }, + { + "epoch": 2.5516235917826373, + "grad_norm": 1.3166944980621338, + "learning_rate": 2.7079200356178557e-07, + "loss": 0.0059, + "num_input_tokens_seen": 37683376, + "step": 19252 + }, + { + "epoch": 2.551756129887343, + "grad_norm": 0.46660521626472473, + "learning_rate": 2.706348898788269e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37685448, + "step": 19253 + }, + { + "epoch": 2.551888667992048, + "grad_norm": 0.11908669769763947, + "learning_rate": 2.704778191795662e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37687192, + "step": 19254 + }, + { + "epoch": 2.552021206096753, + "grad_norm": 0.3663778305053711, + "learning_rate": 2.7032079146703053e-07, + "loss": 0.002, + "num_input_tokens_seen": 37690504, + "step": 19255 + }, + { + "epoch": 2.552153744201458, + "grad_norm": 1.0788378715515137, + "learning_rate": 2.701638067442486e-07, + "loss": 0.0062, + "num_input_tokens_seen": 37692328, + "step": 19256 + }, + { + "epoch": 2.552286282306163, + "grad_norm": 0.003124698530882597, + "learning_rate": 2.7000686501424707e-07, + "loss": 0.0, + "num_input_tokens_seen": 37694048, + "step": 19257 + }, + { + "epoch": 2.552418820410868, + "grad_norm": 6.319106578826904, + "learning_rate": 2.6984996628005136e-07, + "loss": 0.0684, + "num_input_tokens_seen": 37696088, + "step": 19258 + }, + { + "epoch": 2.552551358515573, + "grad_norm": 0.9498832821846008, + "learning_rate": 2.696931105446862e-07, + "loss": 0.0041, + "num_input_tokens_seen": 37698208, + "step": 19259 + }, + { + "epoch": 2.5526838966202785, + "grad_norm": 1.3055788278579712, + "learning_rate": 2.6953629781117654e-07, + "loss": 0.0058, + "num_input_tokens_seen": 37700072, + "step": 19260 + }, + { + "epoch": 2.5528164347249835, + "grad_norm": 0.001714140991680324, + "learning_rate": 2.6937952808254646e-07, + "loss": 0.0, + "num_input_tokens_seen": 37701912, + "step": 19261 + }, + { + "epoch": 2.5529489728296886, + "grad_norm": 0.014134910888969898, + "learning_rate": 2.692228013618178e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37703840, + "step": 19262 + }, + { + "epoch": 2.5530815109343936, + "grad_norm": 4.216078758239746, + "learning_rate": 2.6906611765201236e-07, + "loss": 0.0887, + "num_input_tokens_seen": 37705720, + "step": 19263 + }, + { + "epoch": 2.5532140490390987, + "grad_norm": 0.054867763072252274, + "learning_rate": 2.689094769561515e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37708144, + "step": 19264 + }, + { + "epoch": 2.5533465871438037, + "grad_norm": 0.5840003490447998, + "learning_rate": 2.6875287927725425e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37709696, + "step": 19265 + }, + { + "epoch": 2.5534791252485087, + "grad_norm": 0.18417644500732422, + "learning_rate": 2.6859632461834095e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37711880, + "step": 19266 + }, + { + "epoch": 2.553611663353214, + "grad_norm": 0.951231062412262, + "learning_rate": 2.684398129824303e-07, + "loss": 0.0043, + "num_input_tokens_seen": 37714328, + "step": 19267 + }, + { + "epoch": 2.5537442014579192, + "grad_norm": 0.010857123881578445, + "learning_rate": 2.682833443725394e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37716440, + "step": 19268 + }, + { + "epoch": 2.5538767395626243, + "grad_norm": 0.02390293963253498, + "learning_rate": 2.6812691879168543e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37718104, + "step": 19269 + }, + { + "epoch": 2.5540092776673293, + "grad_norm": 2.378444194793701, + "learning_rate": 2.679705362428836e-07, + "loss": 0.0064, + "num_input_tokens_seen": 37719952, + "step": 19270 + }, + { + "epoch": 2.5541418157720344, + "grad_norm": 0.001149016316048801, + "learning_rate": 2.678141967291495e-07, + "loss": 0.0, + "num_input_tokens_seen": 37720952, + "step": 19271 + }, + { + "epoch": 2.5542743538767394, + "grad_norm": 6.384291648864746, + "learning_rate": 2.676579002534982e-07, + "loss": 0.0276, + "num_input_tokens_seen": 37724000, + "step": 19272 + }, + { + "epoch": 2.5544068919814444, + "grad_norm": 0.007838216610252857, + "learning_rate": 2.675016468189426e-07, + "loss": 0.0, + "num_input_tokens_seen": 37725552, + "step": 19273 + }, + { + "epoch": 2.55453943008615, + "grad_norm": 0.004879423882812262, + "learning_rate": 2.6734543642849553e-07, + "loss": 0.0, + "num_input_tokens_seen": 37727176, + "step": 19274 + }, + { + "epoch": 2.554671968190855, + "grad_norm": 0.009679163806140423, + "learning_rate": 2.671892690851685e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37728360, + "step": 19275 + }, + { + "epoch": 2.55480450629556, + "grad_norm": 7.4938836097717285, + "learning_rate": 2.6703314479197215e-07, + "loss": 0.0764, + "num_input_tokens_seen": 37730544, + "step": 19276 + }, + { + "epoch": 2.554937044400265, + "grad_norm": 0.0029349392279982567, + "learning_rate": 2.6687706355191714e-07, + "loss": 0.0, + "num_input_tokens_seen": 37732768, + "step": 19277 + }, + { + "epoch": 2.55506958250497, + "grad_norm": 2.6308388710021973, + "learning_rate": 2.667210253680136e-07, + "loss": 0.0156, + "num_input_tokens_seen": 37736064, + "step": 19278 + }, + { + "epoch": 2.5552021206096756, + "grad_norm": 3.973207950592041, + "learning_rate": 2.665650302432693e-07, + "loss": 0.0439, + "num_input_tokens_seen": 37738784, + "step": 19279 + }, + { + "epoch": 2.55533465871438, + "grad_norm": 0.0034349444322288036, + "learning_rate": 2.664090781806919e-07, + "loss": 0.0, + "num_input_tokens_seen": 37740120, + "step": 19280 + }, + { + "epoch": 2.5554671968190856, + "grad_norm": 0.006652281153947115, + "learning_rate": 2.6625316918328787e-07, + "loss": 0.0, + "num_input_tokens_seen": 37742248, + "step": 19281 + }, + { + "epoch": 2.5555997349237907, + "grad_norm": 5.322209358215332, + "learning_rate": 2.6609730325406424e-07, + "loss": 0.0717, + "num_input_tokens_seen": 37744368, + "step": 19282 + }, + { + "epoch": 2.5557322730284957, + "grad_norm": 0.8250563740730286, + "learning_rate": 2.659414803960253e-07, + "loss": 0.003, + "num_input_tokens_seen": 37746600, + "step": 19283 + }, + { + "epoch": 2.5558648111332007, + "grad_norm": 6.899227619171143, + "learning_rate": 2.6578570061217614e-07, + "loss": 0.0696, + "num_input_tokens_seen": 37749136, + "step": 19284 + }, + { + "epoch": 2.555997349237906, + "grad_norm": 8.682537078857422, + "learning_rate": 2.6562996390552015e-07, + "loss": 0.0338, + "num_input_tokens_seen": 37752072, + "step": 19285 + }, + { + "epoch": 2.5561298873426113, + "grad_norm": 0.01274094358086586, + "learning_rate": 2.6547427027905944e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37753992, + "step": 19286 + }, + { + "epoch": 2.556262425447316, + "grad_norm": 0.006973768584430218, + "learning_rate": 2.653186197357965e-07, + "loss": 0.0, + "num_input_tokens_seen": 37756224, + "step": 19287 + }, + { + "epoch": 2.5563949635520213, + "grad_norm": 0.036773841828107834, + "learning_rate": 2.6516301227873244e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37759152, + "step": 19288 + }, + { + "epoch": 2.5565275016567264, + "grad_norm": 0.0697697252035141, + "learning_rate": 2.6500744791086664e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37761504, + "step": 19289 + }, + { + "epoch": 2.5566600397614314, + "grad_norm": 0.18524616956710815, + "learning_rate": 2.6485192663519953e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37763056, + "step": 19290 + }, + { + "epoch": 2.5567925778661365, + "grad_norm": 0.08111553639173508, + "learning_rate": 2.6469644845472875e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37766024, + "step": 19291 + }, + { + "epoch": 2.5569251159708415, + "grad_norm": 3.277122974395752, + "learning_rate": 2.6454101337245323e-07, + "loss": 0.0051, + "num_input_tokens_seen": 37767952, + "step": 19292 + }, + { + "epoch": 2.557057654075547, + "grad_norm": 8.206999778747559, + "learning_rate": 2.64385621391369e-07, + "loss": 0.0636, + "num_input_tokens_seen": 37770304, + "step": 19293 + }, + { + "epoch": 2.5571901921802516, + "grad_norm": 0.022250914946198463, + "learning_rate": 2.6423027251447215e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37772840, + "step": 19294 + }, + { + "epoch": 2.557322730284957, + "grad_norm": 0.0005052585038356483, + "learning_rate": 2.6407496674475755e-07, + "loss": 0.0, + "num_input_tokens_seen": 37774176, + "step": 19295 + }, + { + "epoch": 2.557455268389662, + "grad_norm": 0.31731081008911133, + "learning_rate": 2.639197040852201e-07, + "loss": 0.0012, + "num_input_tokens_seen": 37777392, + "step": 19296 + }, + { + "epoch": 2.557587806494367, + "grad_norm": 15.8176851272583, + "learning_rate": 2.63764484538854e-07, + "loss": 0.239, + "num_input_tokens_seen": 37779096, + "step": 19297 + }, + { + "epoch": 2.557720344599072, + "grad_norm": 0.020382242277264595, + "learning_rate": 2.6360930810865103e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37781288, + "step": 19298 + }, + { + "epoch": 2.557852882703777, + "grad_norm": 0.5020246505737305, + "learning_rate": 2.6345417479760354e-07, + "loss": 0.0033, + "num_input_tokens_seen": 37782808, + "step": 19299 + }, + { + "epoch": 2.5579854208084827, + "grad_norm": 0.32342737913131714, + "learning_rate": 2.6329908460870217e-07, + "loss": 0.0017, + "num_input_tokens_seen": 37785024, + "step": 19300 + }, + { + "epoch": 2.5581179589131873, + "grad_norm": 3.78509521484375, + "learning_rate": 2.631440375449379e-07, + "loss": 0.0346, + "num_input_tokens_seen": 37786776, + "step": 19301 + }, + { + "epoch": 2.5582504970178928, + "grad_norm": 0.009793227538466454, + "learning_rate": 2.629890336092991e-07, + "loss": 0.0, + "num_input_tokens_seen": 37788256, + "step": 19302 + }, + { + "epoch": 2.558383035122598, + "grad_norm": 11.976445198059082, + "learning_rate": 2.628340728047754e-07, + "loss": 0.1692, + "num_input_tokens_seen": 37791280, + "step": 19303 + }, + { + "epoch": 2.558515573227303, + "grad_norm": 9.773712158203125, + "learning_rate": 2.626791551343541e-07, + "loss": 0.1128, + "num_input_tokens_seen": 37793368, + "step": 19304 + }, + { + "epoch": 2.558648111332008, + "grad_norm": 2.7494139671325684, + "learning_rate": 2.6252428060102225e-07, + "loss": 0.0332, + "num_input_tokens_seen": 37795424, + "step": 19305 + }, + { + "epoch": 2.558780649436713, + "grad_norm": 0.029653625562787056, + "learning_rate": 2.6236944920776553e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37796552, + "step": 19306 + }, + { + "epoch": 2.5589131875414184, + "grad_norm": 0.1921263039112091, + "learning_rate": 2.622146609575693e-07, + "loss": 0.0006, + "num_input_tokens_seen": 37797856, + "step": 19307 + }, + { + "epoch": 2.5590457256461234, + "grad_norm": 4.230957508087158, + "learning_rate": 2.620599158534184e-07, + "loss": 0.0135, + "num_input_tokens_seen": 37799976, + "step": 19308 + }, + { + "epoch": 2.5591782637508285, + "grad_norm": 3.679116725921631, + "learning_rate": 2.6190521389829665e-07, + "loss": 0.0151, + "num_input_tokens_seen": 37801536, + "step": 19309 + }, + { + "epoch": 2.5593108018555335, + "grad_norm": 0.023809203878045082, + "learning_rate": 2.6175055509518625e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37803616, + "step": 19310 + }, + { + "epoch": 2.5594433399602385, + "grad_norm": 0.1380164474248886, + "learning_rate": 2.6159593944706907e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37805824, + "step": 19311 + }, + { + "epoch": 2.5595758780649436, + "grad_norm": 0.005310839507728815, + "learning_rate": 2.61441366956926e-07, + "loss": 0.0, + "num_input_tokens_seen": 37807304, + "step": 19312 + }, + { + "epoch": 2.5597084161696486, + "grad_norm": 10.6792631149292, + "learning_rate": 2.612868376277375e-07, + "loss": 0.0733, + "num_input_tokens_seen": 37809144, + "step": 19313 + }, + { + "epoch": 2.559840954274354, + "grad_norm": 19.786666870117188, + "learning_rate": 2.6113235146248387e-07, + "loss": 0.1312, + "num_input_tokens_seen": 37811504, + "step": 19314 + }, + { + "epoch": 2.559973492379059, + "grad_norm": 3.425522565841675, + "learning_rate": 2.609779084641431e-07, + "loss": 0.013, + "num_input_tokens_seen": 37813312, + "step": 19315 + }, + { + "epoch": 2.560106030483764, + "grad_norm": 0.09007898718118668, + "learning_rate": 2.608235086356925e-07, + "loss": 0.0005, + "num_input_tokens_seen": 37814888, + "step": 19316 + }, + { + "epoch": 2.560238568588469, + "grad_norm": 0.0021935717668384314, + "learning_rate": 2.606691519801094e-07, + "loss": 0.0, + "num_input_tokens_seen": 37815984, + "step": 19317 + }, + { + "epoch": 2.5603711066931742, + "grad_norm": 0.07366465032100677, + "learning_rate": 2.6051483850037e-07, + "loss": 0.0004, + "num_input_tokens_seen": 37818280, + "step": 19318 + }, + { + "epoch": 2.5605036447978793, + "grad_norm": 0.03161676228046417, + "learning_rate": 2.603605681994489e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37821072, + "step": 19319 + }, + { + "epoch": 2.5606361829025843, + "grad_norm": 0.27088600397109985, + "learning_rate": 2.6020634108032185e-07, + "loss": 0.0009, + "num_input_tokens_seen": 37822672, + "step": 19320 + }, + { + "epoch": 2.56076872100729, + "grad_norm": 3.1013357639312744, + "learning_rate": 2.600521571459616e-07, + "loss": 0.0144, + "num_input_tokens_seen": 37825648, + "step": 19321 + }, + { + "epoch": 2.560901259111995, + "grad_norm": 8.471653938293457, + "learning_rate": 2.598980163993406e-07, + "loss": 0.0646, + "num_input_tokens_seen": 37827592, + "step": 19322 + }, + { + "epoch": 2.5610337972167, + "grad_norm": 10.068063735961914, + "learning_rate": 2.597439188434317e-07, + "loss": 0.0369, + "num_input_tokens_seen": 37829448, + "step": 19323 + }, + { + "epoch": 2.561166335321405, + "grad_norm": 0.9850419759750366, + "learning_rate": 2.5958986448120476e-07, + "loss": 0.0052, + "num_input_tokens_seen": 37831400, + "step": 19324 + }, + { + "epoch": 2.56129887342611, + "grad_norm": 0.22837767004966736, + "learning_rate": 2.5943585331563157e-07, + "loss": 0.0008, + "num_input_tokens_seen": 37832832, + "step": 19325 + }, + { + "epoch": 2.561431411530815, + "grad_norm": 4.082931995391846, + "learning_rate": 2.592818853496809e-07, + "loss": 0.0354, + "num_input_tokens_seen": 37834944, + "step": 19326 + }, + { + "epoch": 2.56156394963552, + "grad_norm": 0.22462134063243866, + "learning_rate": 2.5912796058632063e-07, + "loss": 0.0011, + "num_input_tokens_seen": 37837008, + "step": 19327 + }, + { + "epoch": 2.5616964877402255, + "grad_norm": 0.015617863275110722, + "learning_rate": 2.5897407902851973e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37838872, + "step": 19328 + }, + { + "epoch": 2.5618290258449306, + "grad_norm": 0.010446170344948769, + "learning_rate": 2.588202406792445e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37840000, + "step": 19329 + }, + { + "epoch": 2.5619615639496356, + "grad_norm": 2.222850799560547, + "learning_rate": 2.5866644554146057e-07, + "loss": 0.0069, + "num_input_tokens_seen": 37841872, + "step": 19330 + }, + { + "epoch": 2.5620941020543406, + "grad_norm": 0.017828362062573433, + "learning_rate": 2.585126936181345e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37843432, + "step": 19331 + }, + { + "epoch": 2.5622266401590457, + "grad_norm": 0.03534896299242973, + "learning_rate": 2.583589849122298e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37845600, + "step": 19332 + }, + { + "epoch": 2.5623591782637507, + "grad_norm": 11.328756332397461, + "learning_rate": 2.5820531942671005e-07, + "loss": 0.1134, + "num_input_tokens_seen": 37847304, + "step": 19333 + }, + { + "epoch": 2.5624917163684557, + "grad_norm": 0.7523468732833862, + "learning_rate": 2.580516971645386e-07, + "loss": 0.004, + "num_input_tokens_seen": 37848648, + "step": 19334 + }, + { + "epoch": 2.5626242544731612, + "grad_norm": 5.9187421798706055, + "learning_rate": 2.5789811812867717e-07, + "loss": 0.0544, + "num_input_tokens_seen": 37851128, + "step": 19335 + }, + { + "epoch": 2.5627567925778663, + "grad_norm": 0.001379901310428977, + "learning_rate": 2.5774458232208616e-07, + "loss": 0.0, + "num_input_tokens_seen": 37852520, + "step": 19336 + }, + { + "epoch": 2.5628893306825713, + "grad_norm": 0.5638102293014526, + "learning_rate": 2.5759108974772686e-07, + "loss": 0.0025, + "num_input_tokens_seen": 37854640, + "step": 19337 + }, + { + "epoch": 2.5630218687872763, + "grad_norm": 0.5026506185531616, + "learning_rate": 2.5743764040855795e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37856192, + "step": 19338 + }, + { + "epoch": 2.5631544068919814, + "grad_norm": 3.8375697135925293, + "learning_rate": 2.5728423430753907e-07, + "loss": 0.0283, + "num_input_tokens_seen": 37857440, + "step": 19339 + }, + { + "epoch": 2.5632869449966864, + "grad_norm": 2.4448704719543457, + "learning_rate": 2.57130871447627e-07, + "loss": 0.0096, + "num_input_tokens_seen": 37860000, + "step": 19340 + }, + { + "epoch": 2.5634194831013914, + "grad_norm": 2.7009222507476807, + "learning_rate": 2.569775518317791e-07, + "loss": 0.0631, + "num_input_tokens_seen": 37862280, + "step": 19341 + }, + { + "epoch": 2.563552021206097, + "grad_norm": 0.47407266497612, + "learning_rate": 2.5682427546295103e-07, + "loss": 0.0022, + "num_input_tokens_seen": 37863656, + "step": 19342 + }, + { + "epoch": 2.563684559310802, + "grad_norm": 0.9600747227668762, + "learning_rate": 2.5667104234409824e-07, + "loss": 0.0034, + "num_input_tokens_seen": 37865312, + "step": 19343 + }, + { + "epoch": 2.563817097415507, + "grad_norm": 0.0018711484735831618, + "learning_rate": 2.565178524781761e-07, + "loss": 0.0, + "num_input_tokens_seen": 37866984, + "step": 19344 + }, + { + "epoch": 2.563949635520212, + "grad_norm": 0.045118555426597595, + "learning_rate": 2.563647058681373e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37868448, + "step": 19345 + }, + { + "epoch": 2.564082173624917, + "grad_norm": 5.06044864654541, + "learning_rate": 2.5621160251693476e-07, + "loss": 0.0142, + "num_input_tokens_seen": 37871336, + "step": 19346 + }, + { + "epoch": 2.564214711729622, + "grad_norm": 9.049171447753906, + "learning_rate": 2.560585424275203e-07, + "loss": 0.0994, + "num_input_tokens_seen": 37874000, + "step": 19347 + }, + { + "epoch": 2.564347249834327, + "grad_norm": 0.03440026193857193, + "learning_rate": 2.5590552560284477e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37875832, + "step": 19348 + }, + { + "epoch": 2.5644797879390326, + "grad_norm": 9.536746978759766, + "learning_rate": 2.55752552045859e-07, + "loss": 0.0276, + "num_input_tokens_seen": 37877584, + "step": 19349 + }, + { + "epoch": 2.5646123260437377, + "grad_norm": 3.630237102508545, + "learning_rate": 2.5559962175951246e-07, + "loss": 0.0248, + "num_input_tokens_seen": 37879368, + "step": 19350 + }, + { + "epoch": 2.5647448641484427, + "grad_norm": 3.94929575920105, + "learning_rate": 2.5544673474675376e-07, + "loss": 0.0321, + "num_input_tokens_seen": 37881112, + "step": 19351 + }, + { + "epoch": 2.5648774022531478, + "grad_norm": 6.679806232452393, + "learning_rate": 2.552938910105304e-07, + "loss": 0.0244, + "num_input_tokens_seen": 37883528, + "step": 19352 + }, + { + "epoch": 2.565009940357853, + "grad_norm": 0.3834489583969116, + "learning_rate": 2.551410905537888e-07, + "loss": 0.0015, + "num_input_tokens_seen": 37885984, + "step": 19353 + }, + { + "epoch": 2.565142478462558, + "grad_norm": 0.0032387960236519575, + "learning_rate": 2.5498833337947587e-07, + "loss": 0.0, + "num_input_tokens_seen": 37888456, + "step": 19354 + }, + { + "epoch": 2.565275016567263, + "grad_norm": 0.05228766053915024, + "learning_rate": 2.5483561949053686e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37890064, + "step": 19355 + }, + { + "epoch": 2.5654075546719683, + "grad_norm": 4.123272895812988, + "learning_rate": 2.5468294888991606e-07, + "loss": 0.0394, + "num_input_tokens_seen": 37892072, + "step": 19356 + }, + { + "epoch": 2.5655400927766734, + "grad_norm": 0.0013840856263414025, + "learning_rate": 2.5453032158055695e-07, + "loss": 0.0, + "num_input_tokens_seen": 37893952, + "step": 19357 + }, + { + "epoch": 2.5656726308813784, + "grad_norm": 2.8300416469573975, + "learning_rate": 2.543777375654022e-07, + "loss": 0.0223, + "num_input_tokens_seen": 37895936, + "step": 19358 + }, + { + "epoch": 2.5658051689860835, + "grad_norm": 11.97438907623291, + "learning_rate": 2.5422519684739353e-07, + "loss": 0.0777, + "num_input_tokens_seen": 37898264, + "step": 19359 + }, + { + "epoch": 2.5659377070907885, + "grad_norm": 0.0016476156888529658, + "learning_rate": 2.5407269942947233e-07, + "loss": 0.0, + "num_input_tokens_seen": 37899664, + "step": 19360 + }, + { + "epoch": 2.566070245195494, + "grad_norm": 0.002000865526497364, + "learning_rate": 2.539202453145792e-07, + "loss": 0.0, + "num_input_tokens_seen": 37900840, + "step": 19361 + }, + { + "epoch": 2.5662027833001986, + "grad_norm": 2.706514835357666, + "learning_rate": 2.5376783450565353e-07, + "loss": 0.0161, + "num_input_tokens_seen": 37902120, + "step": 19362 + }, + { + "epoch": 2.566335321404904, + "grad_norm": 0.2820376753807068, + "learning_rate": 2.536154670056332e-07, + "loss": 0.0017, + "num_input_tokens_seen": 37905312, + "step": 19363 + }, + { + "epoch": 2.566467859509609, + "grad_norm": 0.0015822445275261998, + "learning_rate": 2.534631428174561e-07, + "loss": 0.0, + "num_input_tokens_seen": 37906896, + "step": 19364 + }, + { + "epoch": 2.566600397614314, + "grad_norm": 0.03181130811572075, + "learning_rate": 2.5331086194405997e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37908792, + "step": 19365 + }, + { + "epoch": 2.566732935719019, + "grad_norm": 0.0025381636805832386, + "learning_rate": 2.531586243883799e-07, + "loss": 0.0, + "num_input_tokens_seen": 37910280, + "step": 19366 + }, + { + "epoch": 2.566865473823724, + "grad_norm": 3.2885313034057617, + "learning_rate": 2.530064301533519e-07, + "loss": 0.0233, + "num_input_tokens_seen": 37912600, + "step": 19367 + }, + { + "epoch": 2.5669980119284297, + "grad_norm": 0.004531858488917351, + "learning_rate": 2.5285427924191e-07, + "loss": 0.0, + "num_input_tokens_seen": 37913728, + "step": 19368 + }, + { + "epoch": 2.5671305500331343, + "grad_norm": 1.7539565563201904, + "learning_rate": 2.5270217165698747e-07, + "loss": 0.0055, + "num_input_tokens_seen": 37915152, + "step": 19369 + }, + { + "epoch": 2.5672630881378398, + "grad_norm": 0.057718753814697266, + "learning_rate": 2.525501074015177e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37916456, + "step": 19370 + }, + { + "epoch": 2.567395626242545, + "grad_norm": 12.765116691589355, + "learning_rate": 2.5239808647843253e-07, + "loss": 0.1194, + "num_input_tokens_seen": 37918208, + "step": 19371 + }, + { + "epoch": 2.56752816434725, + "grad_norm": 0.01136563066393137, + "learning_rate": 2.522461088906622e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37920672, + "step": 19372 + }, + { + "epoch": 2.567660702451955, + "grad_norm": 14.36377239227295, + "learning_rate": 2.520941746411379e-07, + "loss": 0.1969, + "num_input_tokens_seen": 37923472, + "step": 19373 + }, + { + "epoch": 2.56779324055666, + "grad_norm": 0.7322146892547607, + "learning_rate": 2.519422837327884e-07, + "loss": 0.0035, + "num_input_tokens_seen": 37925856, + "step": 19374 + }, + { + "epoch": 2.5679257786613654, + "grad_norm": 6.907450199127197, + "learning_rate": 2.517904361685428e-07, + "loss": 0.0812, + "num_input_tokens_seen": 37927664, + "step": 19375 + }, + { + "epoch": 2.56805831676607, + "grad_norm": 7.3366498947143555, + "learning_rate": 2.5163863195132865e-07, + "loss": 0.1034, + "num_input_tokens_seen": 37929376, + "step": 19376 + }, + { + "epoch": 2.5681908548707755, + "grad_norm": 0.0013101528165861964, + "learning_rate": 2.514868710840723e-07, + "loss": 0.0, + "num_input_tokens_seen": 37930592, + "step": 19377 + }, + { + "epoch": 2.5683233929754805, + "grad_norm": 3.063955783843994, + "learning_rate": 2.513351535697009e-07, + "loss": 0.0069, + "num_input_tokens_seen": 37932096, + "step": 19378 + }, + { + "epoch": 2.5684559310801856, + "grad_norm": 0.02319006808102131, + "learning_rate": 2.511834794111381e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37934056, + "step": 19379 + }, + { + "epoch": 2.5685884691848906, + "grad_norm": 5.567600250244141, + "learning_rate": 2.5103184861131e-07, + "loss": 0.0254, + "num_input_tokens_seen": 37937240, + "step": 19380 + }, + { + "epoch": 2.5687210072895956, + "grad_norm": 0.0043224976398050785, + "learning_rate": 2.508802611731392e-07, + "loss": 0.0, + "num_input_tokens_seen": 37938816, + "step": 19381 + }, + { + "epoch": 2.568853545394301, + "grad_norm": 2.747615098953247, + "learning_rate": 2.5072871709954874e-07, + "loss": 0.0106, + "num_input_tokens_seen": 37940816, + "step": 19382 + }, + { + "epoch": 2.5689860834990057, + "grad_norm": 1.1238667964935303, + "learning_rate": 2.5057721639345974e-07, + "loss": 0.0033, + "num_input_tokens_seen": 37942704, + "step": 19383 + }, + { + "epoch": 2.569118621603711, + "grad_norm": 3.017476797103882, + "learning_rate": 2.5042575905779356e-07, + "loss": 0.0213, + "num_input_tokens_seen": 37945104, + "step": 19384 + }, + { + "epoch": 2.569251159708416, + "grad_norm": 4.955749034881592, + "learning_rate": 2.5027434509547143e-07, + "loss": 0.0155, + "num_input_tokens_seen": 37947232, + "step": 19385 + }, + { + "epoch": 2.5693836978131213, + "grad_norm": 0.21100133657455444, + "learning_rate": 2.5012297450941166e-07, + "loss": 0.0007, + "num_input_tokens_seen": 37949056, + "step": 19386 + }, + { + "epoch": 2.5695162359178263, + "grad_norm": 6.351183891296387, + "learning_rate": 2.499716473025332e-07, + "loss": 0.0398, + "num_input_tokens_seen": 37950632, + "step": 19387 + }, + { + "epoch": 2.5696487740225313, + "grad_norm": 0.02148575708270073, + "learning_rate": 2.498203634777538e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37951992, + "step": 19388 + }, + { + "epoch": 2.569781312127237, + "grad_norm": 0.032897453755140305, + "learning_rate": 2.496691230379894e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37953448, + "step": 19389 + }, + { + "epoch": 2.5699138502319414, + "grad_norm": 1.4907045364379883, + "learning_rate": 2.4951792598615686e-07, + "loss": 0.0059, + "num_input_tokens_seen": 37955320, + "step": 19390 + }, + { + "epoch": 2.570046388336647, + "grad_norm": 13.814324378967285, + "learning_rate": 2.4936677232517167e-07, + "loss": 0.0575, + "num_input_tokens_seen": 37957568, + "step": 19391 + }, + { + "epoch": 2.570178926441352, + "grad_norm": 0.006732525769621134, + "learning_rate": 2.4921566205794753e-07, + "loss": 0.0, + "num_input_tokens_seen": 37960464, + "step": 19392 + }, + { + "epoch": 2.570311464546057, + "grad_norm": 0.5687081217765808, + "learning_rate": 2.4906459518739823e-07, + "loss": 0.003, + "num_input_tokens_seen": 37962160, + "step": 19393 + }, + { + "epoch": 2.570444002650762, + "grad_norm": 0.6054650545120239, + "learning_rate": 2.4891357171643646e-07, + "loss": 0.0046, + "num_input_tokens_seen": 37964656, + "step": 19394 + }, + { + "epoch": 2.570576540755467, + "grad_norm": 0.7665790915489197, + "learning_rate": 2.487625916479736e-07, + "loss": 0.003, + "num_input_tokens_seen": 37967008, + "step": 19395 + }, + { + "epoch": 2.5707090788601725, + "grad_norm": 0.005277692805975676, + "learning_rate": 2.4861165498492104e-07, + "loss": 0.0, + "num_input_tokens_seen": 37969608, + "step": 19396 + }, + { + "epoch": 2.5708416169648776, + "grad_norm": 1.2636367082595825, + "learning_rate": 2.484607617301893e-07, + "loss": 0.01, + "num_input_tokens_seen": 37971960, + "step": 19397 + }, + { + "epoch": 2.5709741550695826, + "grad_norm": 0.01345908734947443, + "learning_rate": 2.483099118866872e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37973720, + "step": 19398 + }, + { + "epoch": 2.5711066931742876, + "grad_norm": 0.01251994352787733, + "learning_rate": 2.4815910545732347e-07, + "loss": 0.0, + "num_input_tokens_seen": 37975864, + "step": 19399 + }, + { + "epoch": 2.5712392312789927, + "grad_norm": 2.6812777519226074, + "learning_rate": 2.4800834244500525e-07, + "loss": 0.039, + "num_input_tokens_seen": 37977504, + "step": 19400 + }, + { + "epoch": 2.5713717693836977, + "grad_norm": 0.0434565432369709, + "learning_rate": 2.4785762285264025e-07, + "loss": 0.0002, + "num_input_tokens_seen": 37979480, + "step": 19401 + }, + { + "epoch": 2.5715043074884028, + "grad_norm": 1.7957371473312378, + "learning_rate": 2.477069466831333e-07, + "loss": 0.0043, + "num_input_tokens_seen": 37982216, + "step": 19402 + }, + { + "epoch": 2.5716368455931082, + "grad_norm": 10.812566757202148, + "learning_rate": 2.4755631393939077e-07, + "loss": 0.0906, + "num_input_tokens_seen": 37984248, + "step": 19403 + }, + { + "epoch": 2.5717693836978133, + "grad_norm": 0.027528712525963783, + "learning_rate": 2.474057246243164e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37987032, + "step": 19404 + }, + { + "epoch": 2.5719019218025183, + "grad_norm": 1.2115453481674194, + "learning_rate": 2.472551787408131e-07, + "loss": 0.0057, + "num_input_tokens_seen": 37989040, + "step": 19405 + }, + { + "epoch": 2.5720344599072233, + "grad_norm": 0.01788945496082306, + "learning_rate": 2.4710467629178475e-07, + "loss": 0.0001, + "num_input_tokens_seen": 37991800, + "step": 19406 + }, + { + "epoch": 2.5721669980119284, + "grad_norm": 0.0048600719310343266, + "learning_rate": 2.4695421728013176e-07, + "loss": 0.0, + "num_input_tokens_seen": 37993640, + "step": 19407 + }, + { + "epoch": 2.5722995361166334, + "grad_norm": 7.064468860626221, + "learning_rate": 2.4680380170875623e-07, + "loss": 0.1352, + "num_input_tokens_seen": 37995912, + "step": 19408 + }, + { + "epoch": 2.5724320742213385, + "grad_norm": 0.0709582045674324, + "learning_rate": 2.466534295805578e-07, + "loss": 0.0003, + "num_input_tokens_seen": 37998240, + "step": 19409 + }, + { + "epoch": 2.572564612326044, + "grad_norm": 0.09355524182319641, + "learning_rate": 2.465031008984353e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38000184, + "step": 19410 + }, + { + "epoch": 2.572697150430749, + "grad_norm": 0.36136022210121155, + "learning_rate": 2.463528156652881e-07, + "loss": 0.002, + "num_input_tokens_seen": 38001216, + "step": 19411 + }, + { + "epoch": 2.572829688535454, + "grad_norm": 0.009657833725214005, + "learning_rate": 2.462025738840135e-07, + "loss": 0.0, + "num_input_tokens_seen": 38002744, + "step": 19412 + }, + { + "epoch": 2.572962226640159, + "grad_norm": 6.810157299041748, + "learning_rate": 2.460523755575073e-07, + "loss": 0.0534, + "num_input_tokens_seen": 38004672, + "step": 19413 + }, + { + "epoch": 2.573094764744864, + "grad_norm": 7.609522819519043, + "learning_rate": 2.4590222068866685e-07, + "loss": 0.1706, + "num_input_tokens_seen": 38007064, + "step": 19414 + }, + { + "epoch": 2.573227302849569, + "grad_norm": 15.750736236572266, + "learning_rate": 2.457521092803866e-07, + "loss": 0.1735, + "num_input_tokens_seen": 38009248, + "step": 19415 + }, + { + "epoch": 2.573359840954274, + "grad_norm": 0.0074454983696341515, + "learning_rate": 2.4560204133556033e-07, + "loss": 0.0, + "num_input_tokens_seen": 38010984, + "step": 19416 + }, + { + "epoch": 2.5734923790589797, + "grad_norm": 4.2924885749816895, + "learning_rate": 2.454520168570826e-07, + "loss": 0.0201, + "num_input_tokens_seen": 38014264, + "step": 19417 + }, + { + "epoch": 2.5736249171636847, + "grad_norm": 5.503175735473633, + "learning_rate": 2.45302035847845e-07, + "loss": 0.0349, + "num_input_tokens_seen": 38015880, + "step": 19418 + }, + { + "epoch": 2.5737574552683897, + "grad_norm": 9.279829025268555, + "learning_rate": 2.4515209831073915e-07, + "loss": 0.0426, + "num_input_tokens_seen": 38017336, + "step": 19419 + }, + { + "epoch": 2.5738899933730948, + "grad_norm": 0.6075912714004517, + "learning_rate": 2.4500220424865715e-07, + "loss": 0.0029, + "num_input_tokens_seen": 38020208, + "step": 19420 + }, + { + "epoch": 2.5740225314778, + "grad_norm": 0.03560463711619377, + "learning_rate": 2.4485235366448754e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38022656, + "step": 19421 + }, + { + "epoch": 2.574155069582505, + "grad_norm": 4.7690629959106445, + "learning_rate": 2.447025465611208e-07, + "loss": 0.0246, + "num_input_tokens_seen": 38024776, + "step": 19422 + }, + { + "epoch": 2.57428760768721, + "grad_norm": 7.32528829574585, + "learning_rate": 2.4455278294144486e-07, + "loss": 0.0836, + "num_input_tokens_seen": 38026544, + "step": 19423 + }, + { + "epoch": 2.5744201457919154, + "grad_norm": 7.695858478546143, + "learning_rate": 2.444030628083474e-07, + "loss": 0.0485, + "num_input_tokens_seen": 38028320, + "step": 19424 + }, + { + "epoch": 2.5745526838966204, + "grad_norm": 9.423506736755371, + "learning_rate": 2.442533861647142e-07, + "loss": 0.1202, + "num_input_tokens_seen": 38030616, + "step": 19425 + }, + { + "epoch": 2.5746852220013254, + "grad_norm": 23.255292892456055, + "learning_rate": 2.4410375301343186e-07, + "loss": 0.1148, + "num_input_tokens_seen": 38033120, + "step": 19426 + }, + { + "epoch": 2.5748177601060305, + "grad_norm": 0.008706755936145782, + "learning_rate": 2.439541633573861e-07, + "loss": 0.0, + "num_input_tokens_seen": 38034688, + "step": 19427 + }, + { + "epoch": 2.5749502982107355, + "grad_norm": 5.490692615509033, + "learning_rate": 2.438046171994604e-07, + "loss": 0.0445, + "num_input_tokens_seen": 38036232, + "step": 19428 + }, + { + "epoch": 2.5750828363154405, + "grad_norm": 3.0497794151306152, + "learning_rate": 2.436551145425381e-07, + "loss": 0.0089, + "num_input_tokens_seen": 38038600, + "step": 19429 + }, + { + "epoch": 2.5752153744201456, + "grad_norm": 0.4662231504917145, + "learning_rate": 2.435056553895013e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38040184, + "step": 19430 + }, + { + "epoch": 2.575347912524851, + "grad_norm": 0.02149279974400997, + "learning_rate": 2.4335623974323207e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38042480, + "step": 19431 + }, + { + "epoch": 2.575480450629556, + "grad_norm": 3.182718276977539, + "learning_rate": 2.4320686760661184e-07, + "loss": 0.0127, + "num_input_tokens_seen": 38044416, + "step": 19432 + }, + { + "epoch": 2.575612988734261, + "grad_norm": 0.019041849300265312, + "learning_rate": 2.430575389825202e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38046376, + "step": 19433 + }, + { + "epoch": 2.575745526838966, + "grad_norm": 4.771291732788086, + "learning_rate": 2.429082538738359e-07, + "loss": 0.0645, + "num_input_tokens_seen": 38049256, + "step": 19434 + }, + { + "epoch": 2.575878064943671, + "grad_norm": 0.003284144913777709, + "learning_rate": 2.4275901228343777e-07, + "loss": 0.0, + "num_input_tokens_seen": 38050552, + "step": 19435 + }, + { + "epoch": 2.5760106030483763, + "grad_norm": 23.600391387939453, + "learning_rate": 2.426098142142025e-07, + "loss": 0.2925, + "num_input_tokens_seen": 38052880, + "step": 19436 + }, + { + "epoch": 2.5761431411530813, + "grad_norm": 1.059726357460022, + "learning_rate": 2.424606596690074e-07, + "loss": 0.0053, + "num_input_tokens_seen": 38055184, + "step": 19437 + }, + { + "epoch": 2.5762756792577868, + "grad_norm": 9.864409446716309, + "learning_rate": 2.4231154865072883e-07, + "loss": 0.0227, + "num_input_tokens_seen": 38056752, + "step": 19438 + }, + { + "epoch": 2.576408217362492, + "grad_norm": 7.650106430053711, + "learning_rate": 2.4216248116224084e-07, + "loss": 0.0525, + "num_input_tokens_seen": 38058736, + "step": 19439 + }, + { + "epoch": 2.576540755467197, + "grad_norm": 6.320418357849121, + "learning_rate": 2.4201345720641783e-07, + "loss": 0.073, + "num_input_tokens_seen": 38060528, + "step": 19440 + }, + { + "epoch": 2.576673293571902, + "grad_norm": 2.3626770973205566, + "learning_rate": 2.418644767861325e-07, + "loss": 0.0057, + "num_input_tokens_seen": 38062616, + "step": 19441 + }, + { + "epoch": 2.576805831676607, + "grad_norm": 16.425256729125977, + "learning_rate": 2.417155399042587e-07, + "loss": 0.241, + "num_input_tokens_seen": 38064256, + "step": 19442 + }, + { + "epoch": 2.576938369781312, + "grad_norm": 2.527681827545166, + "learning_rate": 2.415666465636665e-07, + "loss": 0.01, + "num_input_tokens_seen": 38066320, + "step": 19443 + }, + { + "epoch": 2.577070907886017, + "grad_norm": 1.396911859512329, + "learning_rate": 2.4141779676722767e-07, + "loss": 0.0149, + "num_input_tokens_seen": 38067856, + "step": 19444 + }, + { + "epoch": 2.5772034459907225, + "grad_norm": 8.709297180175781, + "learning_rate": 2.4126899051781197e-07, + "loss": 0.1239, + "num_input_tokens_seen": 38069904, + "step": 19445 + }, + { + "epoch": 2.5773359840954275, + "grad_norm": 0.007917642593383789, + "learning_rate": 2.4112022781828836e-07, + "loss": 0.0, + "num_input_tokens_seen": 38071352, + "step": 19446 + }, + { + "epoch": 2.5774685222001326, + "grad_norm": 0.009600375778973103, + "learning_rate": 2.4097150867152474e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38073064, + "step": 19447 + }, + { + "epoch": 2.5776010603048376, + "grad_norm": 0.0012321866815909743, + "learning_rate": 2.408228330803891e-07, + "loss": 0.0, + "num_input_tokens_seen": 38074136, + "step": 19448 + }, + { + "epoch": 2.5777335984095426, + "grad_norm": 0.03692163527011871, + "learning_rate": 2.406742010477475e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38076296, + "step": 19449 + }, + { + "epoch": 2.577866136514248, + "grad_norm": 12.00407600402832, + "learning_rate": 2.405256125764663e-07, + "loss": 0.1698, + "num_input_tokens_seen": 38077592, + "step": 19450 + }, + { + "epoch": 2.5779986746189527, + "grad_norm": 0.9321497678756714, + "learning_rate": 2.4037706766941007e-07, + "loss": 0.0028, + "num_input_tokens_seen": 38079432, + "step": 19451 + }, + { + "epoch": 2.578131212723658, + "grad_norm": 0.004490045364946127, + "learning_rate": 2.4022856632944236e-07, + "loss": 0.0, + "num_input_tokens_seen": 38081592, + "step": 19452 + }, + { + "epoch": 2.5782637508283632, + "grad_norm": 0.280457466840744, + "learning_rate": 2.4008010855942734e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38083448, + "step": 19453 + }, + { + "epoch": 2.5783962889330683, + "grad_norm": 3.5100326538085938, + "learning_rate": 2.3993169436222624e-07, + "loss": 0.0321, + "num_input_tokens_seen": 38085864, + "step": 19454 + }, + { + "epoch": 2.5785288270377733, + "grad_norm": 0.13419193029403687, + "learning_rate": 2.3978332374070186e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38087208, + "step": 19455 + }, + { + "epoch": 2.5786613651424783, + "grad_norm": 1.6064867973327637, + "learning_rate": 2.3963499669771406e-07, + "loss": 0.0045, + "num_input_tokens_seen": 38088368, + "step": 19456 + }, + { + "epoch": 2.578793903247184, + "grad_norm": 28.58725357055664, + "learning_rate": 2.3948671323612253e-07, + "loss": 0.1833, + "num_input_tokens_seen": 38090264, + "step": 19457 + }, + { + "epoch": 2.5789264413518884, + "grad_norm": 5.1721272468566895, + "learning_rate": 2.3933847335878695e-07, + "loss": 0.0401, + "num_input_tokens_seen": 38091976, + "step": 19458 + }, + { + "epoch": 2.579058979456594, + "grad_norm": 0.002186292316764593, + "learning_rate": 2.3919027706856526e-07, + "loss": 0.0, + "num_input_tokens_seen": 38093960, + "step": 19459 + }, + { + "epoch": 2.579191517561299, + "grad_norm": 6.574543476104736, + "learning_rate": 2.3904212436831415e-07, + "loss": 0.0453, + "num_input_tokens_seen": 38096240, + "step": 19460 + }, + { + "epoch": 2.579324055666004, + "grad_norm": 0.00038848823169246316, + "learning_rate": 2.388940152608912e-07, + "loss": 0.0, + "num_input_tokens_seen": 38097864, + "step": 19461 + }, + { + "epoch": 2.579456593770709, + "grad_norm": 0.01779775694012642, + "learning_rate": 2.3874594974915094e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38099696, + "step": 19462 + }, + { + "epoch": 2.579589131875414, + "grad_norm": 5.215701103210449, + "learning_rate": 2.38597927835949e-07, + "loss": 0.0398, + "num_input_tokens_seen": 38102000, + "step": 19463 + }, + { + "epoch": 2.5797216699801195, + "grad_norm": 15.066582679748535, + "learning_rate": 2.384499495241394e-07, + "loss": 0.0579, + "num_input_tokens_seen": 38104032, + "step": 19464 + }, + { + "epoch": 2.579854208084824, + "grad_norm": 8.454154014587402, + "learning_rate": 2.383020148165749e-07, + "loss": 0.0599, + "num_input_tokens_seen": 38106080, + "step": 19465 + }, + { + "epoch": 2.5799867461895296, + "grad_norm": 2.4973719120025635, + "learning_rate": 2.3815412371610725e-07, + "loss": 0.0112, + "num_input_tokens_seen": 38107840, + "step": 19466 + }, + { + "epoch": 2.5801192842942346, + "grad_norm": 0.7363899946212769, + "learning_rate": 2.3800627622558858e-07, + "loss": 0.0038, + "num_input_tokens_seen": 38109472, + "step": 19467 + }, + { + "epoch": 2.5802518223989397, + "grad_norm": 4.367335796356201, + "learning_rate": 2.3785847234786968e-07, + "loss": 0.0109, + "num_input_tokens_seen": 38111848, + "step": 19468 + }, + { + "epoch": 2.5803843605036447, + "grad_norm": 0.006820421665906906, + "learning_rate": 2.3771071208580022e-07, + "loss": 0.0, + "num_input_tokens_seen": 38113264, + "step": 19469 + }, + { + "epoch": 2.5805168986083498, + "grad_norm": 12.771903991699219, + "learning_rate": 2.375629954422287e-07, + "loss": 0.0904, + "num_input_tokens_seen": 38115184, + "step": 19470 + }, + { + "epoch": 2.5806494367130552, + "grad_norm": 0.007003570906817913, + "learning_rate": 2.3741532242000347e-07, + "loss": 0.0, + "num_input_tokens_seen": 38116176, + "step": 19471 + }, + { + "epoch": 2.58078197481776, + "grad_norm": 1.1385854482650757, + "learning_rate": 2.372676930219711e-07, + "loss": 0.0049, + "num_input_tokens_seen": 38118240, + "step": 19472 + }, + { + "epoch": 2.5809145129224653, + "grad_norm": 0.1380559653043747, + "learning_rate": 2.3712010725097879e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38120560, + "step": 19473 + }, + { + "epoch": 2.5810470510271704, + "grad_norm": 9.46606731414795, + "learning_rate": 2.3697256510987227e-07, + "loss": 0.2537, + "num_input_tokens_seen": 38123360, + "step": 19474 + }, + { + "epoch": 2.5811795891318754, + "grad_norm": 0.026126910001039505, + "learning_rate": 2.3682506660149597e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38124720, + "step": 19475 + }, + { + "epoch": 2.5813121272365804, + "grad_norm": 0.19773024320602417, + "learning_rate": 2.366776117286934e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38126520, + "step": 19476 + }, + { + "epoch": 2.5814446653412855, + "grad_norm": 6.872732639312744, + "learning_rate": 2.365302004943082e-07, + "loss": 0.0982, + "num_input_tokens_seen": 38129176, + "step": 19477 + }, + { + "epoch": 2.581577203445991, + "grad_norm": 0.002044921973720193, + "learning_rate": 2.3638283290118163e-07, + "loss": 0.0, + "num_input_tokens_seen": 38130544, + "step": 19478 + }, + { + "epoch": 2.581709741550696, + "grad_norm": 0.2781258225440979, + "learning_rate": 2.3623550895215563e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38131624, + "step": 19479 + }, + { + "epoch": 2.581842279655401, + "grad_norm": 4.32877779006958, + "learning_rate": 2.3608822865007097e-07, + "loss": 0.0794, + "num_input_tokens_seen": 38134696, + "step": 19480 + }, + { + "epoch": 2.581974817760106, + "grad_norm": 0.003592919558286667, + "learning_rate": 2.3594099199776733e-07, + "loss": 0.0, + "num_input_tokens_seen": 38136800, + "step": 19481 + }, + { + "epoch": 2.582107355864811, + "grad_norm": 0.002581442706286907, + "learning_rate": 2.3579379899808326e-07, + "loss": 0.0, + "num_input_tokens_seen": 38138488, + "step": 19482 + }, + { + "epoch": 2.582239893969516, + "grad_norm": 0.026846833527088165, + "learning_rate": 2.356466496538562e-07, + "loss": 0.0, + "num_input_tokens_seen": 38139944, + "step": 19483 + }, + { + "epoch": 2.582372432074221, + "grad_norm": 2.8415000438690186, + "learning_rate": 2.3549954396792363e-07, + "loss": 0.0217, + "num_input_tokens_seen": 38141336, + "step": 19484 + }, + { + "epoch": 2.5825049701789267, + "grad_norm": 21.553850173950195, + "learning_rate": 2.3535248194312272e-07, + "loss": 0.0164, + "num_input_tokens_seen": 38143168, + "step": 19485 + }, + { + "epoch": 2.5826375082836317, + "grad_norm": 5.537283420562744, + "learning_rate": 2.352054635822884e-07, + "loss": 0.0496, + "num_input_tokens_seen": 38144864, + "step": 19486 + }, + { + "epoch": 2.5827700463883367, + "grad_norm": 13.871557235717773, + "learning_rate": 2.3505848888825482e-07, + "loss": 0.18, + "num_input_tokens_seen": 38147120, + "step": 19487 + }, + { + "epoch": 2.5829025844930418, + "grad_norm": 4.882599830627441, + "learning_rate": 2.3491155786385583e-07, + "loss": 0.0397, + "num_input_tokens_seen": 38149392, + "step": 19488 + }, + { + "epoch": 2.583035122597747, + "grad_norm": 0.00277733919210732, + "learning_rate": 2.3476467051192497e-07, + "loss": 0.0, + "num_input_tokens_seen": 38150984, + "step": 19489 + }, + { + "epoch": 2.583167660702452, + "grad_norm": 0.09833642840385437, + "learning_rate": 2.346178268352936e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38153768, + "step": 19490 + }, + { + "epoch": 2.583300198807157, + "grad_norm": 8.486614227294922, + "learning_rate": 2.344710268367939e-07, + "loss": 0.1154, + "num_input_tokens_seen": 38155832, + "step": 19491 + }, + { + "epoch": 2.5834327369118624, + "grad_norm": 4.544781684875488, + "learning_rate": 2.3432427051925555e-07, + "loss": 0.0419, + "num_input_tokens_seen": 38158288, + "step": 19492 + }, + { + "epoch": 2.5835652750165674, + "grad_norm": 2.195694923400879, + "learning_rate": 2.3417755788550767e-07, + "loss": 0.0252, + "num_input_tokens_seen": 38160488, + "step": 19493 + }, + { + "epoch": 2.5836978131212724, + "grad_norm": 0.29723379015922546, + "learning_rate": 2.3403088893838021e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38163312, + "step": 19494 + }, + { + "epoch": 2.5838303512259775, + "grad_norm": 1.874769687652588, + "learning_rate": 2.3388426368070067e-07, + "loss": 0.0139, + "num_input_tokens_seen": 38165120, + "step": 19495 + }, + { + "epoch": 2.5839628893306825, + "grad_norm": 0.006234204396605492, + "learning_rate": 2.3373768211529506e-07, + "loss": 0.0, + "num_input_tokens_seen": 38166968, + "step": 19496 + }, + { + "epoch": 2.5840954274353876, + "grad_norm": 0.1711202710866928, + "learning_rate": 2.335911442449909e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38168456, + "step": 19497 + }, + { + "epoch": 2.5842279655400926, + "grad_norm": 9.714573860168457, + "learning_rate": 2.334446500726123e-07, + "loss": 0.0447, + "num_input_tokens_seen": 38170640, + "step": 19498 + }, + { + "epoch": 2.584360503644798, + "grad_norm": 0.0012651566648855805, + "learning_rate": 2.3329819960098532e-07, + "loss": 0.0, + "num_input_tokens_seen": 38172104, + "step": 19499 + }, + { + "epoch": 2.584493041749503, + "grad_norm": 0.005524888634681702, + "learning_rate": 2.3315179283293242e-07, + "loss": 0.0, + "num_input_tokens_seen": 38173224, + "step": 19500 + }, + { + "epoch": 2.584625579854208, + "grad_norm": 12.879678726196289, + "learning_rate": 2.3300542977127695e-07, + "loss": 0.1676, + "num_input_tokens_seen": 38174944, + "step": 19501 + }, + { + "epoch": 2.584758117958913, + "grad_norm": 5.7510085105896, + "learning_rate": 2.3285911041884046e-07, + "loss": 0.0934, + "num_input_tokens_seen": 38176408, + "step": 19502 + }, + { + "epoch": 2.5848906560636182, + "grad_norm": 9.69985294342041, + "learning_rate": 2.3271283477844436e-07, + "loss": 0.1832, + "num_input_tokens_seen": 38179144, + "step": 19503 + }, + { + "epoch": 2.5850231941683233, + "grad_norm": 0.026296650990843773, + "learning_rate": 2.3256660285290887e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38180520, + "step": 19504 + }, + { + "epoch": 2.5851557322730283, + "grad_norm": 1.7171012163162231, + "learning_rate": 2.324204146450537e-07, + "loss": 0.0028, + "num_input_tokens_seen": 38183008, + "step": 19505 + }, + { + "epoch": 2.585288270377734, + "grad_norm": 0.0023586058523505926, + "learning_rate": 2.3227427015769742e-07, + "loss": 0.0, + "num_input_tokens_seen": 38184264, + "step": 19506 + }, + { + "epoch": 2.585420808482439, + "grad_norm": 0.003217240097001195, + "learning_rate": 2.3212816939365695e-07, + "loss": 0.0, + "num_input_tokens_seen": 38185760, + "step": 19507 + }, + { + "epoch": 2.585553346587144, + "grad_norm": 1.6808384656906128, + "learning_rate": 2.3198211235575058e-07, + "loss": 0.0088, + "num_input_tokens_seen": 38187152, + "step": 19508 + }, + { + "epoch": 2.585685884691849, + "grad_norm": 0.23419268429279327, + "learning_rate": 2.3183609904679328e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38188680, + "step": 19509 + }, + { + "epoch": 2.585818422796554, + "grad_norm": 0.5774477124214172, + "learning_rate": 2.3169012946960083e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38190056, + "step": 19510 + }, + { + "epoch": 2.585950960901259, + "grad_norm": 0.6518896222114563, + "learning_rate": 2.31544203626988e-07, + "loss": 0.0039, + "num_input_tokens_seen": 38192360, + "step": 19511 + }, + { + "epoch": 2.586083499005964, + "grad_norm": 8.013463973999023, + "learning_rate": 2.3139832152176744e-07, + "loss": 0.1075, + "num_input_tokens_seen": 38194808, + "step": 19512 + }, + { + "epoch": 2.5862160371106695, + "grad_norm": 5.267388820648193, + "learning_rate": 2.3125248315675196e-07, + "loss": 0.0943, + "num_input_tokens_seen": 38196600, + "step": 19513 + }, + { + "epoch": 2.5863485752153745, + "grad_norm": 8.684226036071777, + "learning_rate": 2.3110668853475378e-07, + "loss": 0.0941, + "num_input_tokens_seen": 38198576, + "step": 19514 + }, + { + "epoch": 2.5864811133200796, + "grad_norm": 7.114933967590332, + "learning_rate": 2.309609376585842e-07, + "loss": 0.076, + "num_input_tokens_seen": 38200440, + "step": 19515 + }, + { + "epoch": 2.5866136514247846, + "grad_norm": 0.06926994770765305, + "learning_rate": 2.3081523053105322e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38202128, + "step": 19516 + }, + { + "epoch": 2.5867461895294896, + "grad_norm": 0.06178737431764603, + "learning_rate": 2.3066956715496998e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38203472, + "step": 19517 + }, + { + "epoch": 2.5868787276341947, + "grad_norm": 8.441856384277344, + "learning_rate": 2.3052394753314305e-07, + "loss": 0.218, + "num_input_tokens_seen": 38205376, + "step": 19518 + }, + { + "epoch": 2.5870112657388997, + "grad_norm": 1.3803714513778687, + "learning_rate": 2.303783716683794e-07, + "loss": 0.0039, + "num_input_tokens_seen": 38207424, + "step": 19519 + }, + { + "epoch": 2.587143803843605, + "grad_norm": 28.150075912475586, + "learning_rate": 2.3023283956348676e-07, + "loss": 0.2354, + "num_input_tokens_seen": 38210624, + "step": 19520 + }, + { + "epoch": 2.5872763419483102, + "grad_norm": 0.023670602589845657, + "learning_rate": 2.3008735122127117e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38212584, + "step": 19521 + }, + { + "epoch": 2.5874088800530153, + "grad_norm": 3.379124641418457, + "learning_rate": 2.2994190664453713e-07, + "loss": 0.0072, + "num_input_tokens_seen": 38215312, + "step": 19522 + }, + { + "epoch": 2.5875414181577203, + "grad_norm": 5.892861366271973, + "learning_rate": 2.2979650583608958e-07, + "loss": 0.0354, + "num_input_tokens_seen": 38216760, + "step": 19523 + }, + { + "epoch": 2.5876739562624254, + "grad_norm": 0.003627873957157135, + "learning_rate": 2.2965114879873074e-07, + "loss": 0.0, + "num_input_tokens_seen": 38218480, + "step": 19524 + }, + { + "epoch": 2.5878064943671304, + "grad_norm": 0.003729845630005002, + "learning_rate": 2.2950583553526474e-07, + "loss": 0.0, + "num_input_tokens_seen": 38220832, + "step": 19525 + }, + { + "epoch": 2.5879390324718354, + "grad_norm": 0.006826526951044798, + "learning_rate": 2.2936056604849184e-07, + "loss": 0.0, + "num_input_tokens_seen": 38223504, + "step": 19526 + }, + { + "epoch": 2.588071570576541, + "grad_norm": 0.001559249241836369, + "learning_rate": 2.2921534034121422e-07, + "loss": 0.0, + "num_input_tokens_seen": 38224968, + "step": 19527 + }, + { + "epoch": 2.588204108681246, + "grad_norm": 0.0007498703198507428, + "learning_rate": 2.2907015841623137e-07, + "loss": 0.0, + "num_input_tokens_seen": 38226328, + "step": 19528 + }, + { + "epoch": 2.588336646785951, + "grad_norm": 3.114485740661621, + "learning_rate": 2.289250202763424e-07, + "loss": 0.0071, + "num_input_tokens_seen": 38227848, + "step": 19529 + }, + { + "epoch": 2.588469184890656, + "grad_norm": 9.804993629455566, + "learning_rate": 2.2877992592434533e-07, + "loss": 0.0302, + "num_input_tokens_seen": 38230464, + "step": 19530 + }, + { + "epoch": 2.588601722995361, + "grad_norm": 2.340512990951538, + "learning_rate": 2.286348753630388e-07, + "loss": 0.0079, + "num_input_tokens_seen": 38232616, + "step": 19531 + }, + { + "epoch": 2.588734261100066, + "grad_norm": 0.005360286682844162, + "learning_rate": 2.2848986859521805e-07, + "loss": 0.0, + "num_input_tokens_seen": 38233736, + "step": 19532 + }, + { + "epoch": 2.588866799204771, + "grad_norm": 0.010043726302683353, + "learning_rate": 2.2834490562368028e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38235552, + "step": 19533 + }, + { + "epoch": 2.5889993373094766, + "grad_norm": 0.9141721725463867, + "learning_rate": 2.2819998645121992e-07, + "loss": 0.006, + "num_input_tokens_seen": 38237320, + "step": 19534 + }, + { + "epoch": 2.5891318754141817, + "grad_norm": 1.2118431329727173, + "learning_rate": 2.2805511108063062e-07, + "loss": 0.0064, + "num_input_tokens_seen": 38240384, + "step": 19535 + }, + { + "epoch": 2.5892644135188867, + "grad_norm": 2.083002805709839, + "learning_rate": 2.2791027951470647e-07, + "loss": 0.0085, + "num_input_tokens_seen": 38242000, + "step": 19536 + }, + { + "epoch": 2.5893969516235917, + "grad_norm": 8.474562644958496, + "learning_rate": 2.2776549175623912e-07, + "loss": 0.141, + "num_input_tokens_seen": 38243280, + "step": 19537 + }, + { + "epoch": 2.5895294897282968, + "grad_norm": 3.1480631828308105, + "learning_rate": 2.2762074780802113e-07, + "loss": 0.0195, + "num_input_tokens_seen": 38245304, + "step": 19538 + }, + { + "epoch": 2.5896620278330023, + "grad_norm": 0.1373857855796814, + "learning_rate": 2.2747604767284272e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38247360, + "step": 19539 + }, + { + "epoch": 2.589794565937707, + "grad_norm": 7.851412773132324, + "learning_rate": 2.273313913534933e-07, + "loss": 0.0486, + "num_input_tokens_seen": 38249344, + "step": 19540 + }, + { + "epoch": 2.5899271040424123, + "grad_norm": 1.4062966108322144, + "learning_rate": 2.271867788527632e-07, + "loss": 0.0071, + "num_input_tokens_seen": 38251040, + "step": 19541 + }, + { + "epoch": 2.5900596421471174, + "grad_norm": 0.0016251326305791736, + "learning_rate": 2.2704221017343957e-07, + "loss": 0.0, + "num_input_tokens_seen": 38253160, + "step": 19542 + }, + { + "epoch": 2.5901921802518224, + "grad_norm": 6.189863204956055, + "learning_rate": 2.2689768531830997e-07, + "loss": 0.0297, + "num_input_tokens_seen": 38254896, + "step": 19543 + }, + { + "epoch": 2.5903247183565274, + "grad_norm": 2.76934814453125, + "learning_rate": 2.2675320429016156e-07, + "loss": 0.0211, + "num_input_tokens_seen": 38257280, + "step": 19544 + }, + { + "epoch": 2.5904572564612325, + "grad_norm": 0.09911293536424637, + "learning_rate": 2.2660876709177908e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38259016, + "step": 19545 + }, + { + "epoch": 2.590589794565938, + "grad_norm": 0.008780150674283504, + "learning_rate": 2.2646437372594838e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38260536, + "step": 19546 + }, + { + "epoch": 2.5907223326706426, + "grad_norm": 0.0021694921888411045, + "learning_rate": 2.2632002419545302e-07, + "loss": 0.0, + "num_input_tokens_seen": 38262192, + "step": 19547 + }, + { + "epoch": 2.590854870775348, + "grad_norm": 2.959047317504883, + "learning_rate": 2.2617571850307606e-07, + "loss": 0.0179, + "num_input_tokens_seen": 38264264, + "step": 19548 + }, + { + "epoch": 2.590987408880053, + "grad_norm": 0.005289941094815731, + "learning_rate": 2.2603145665159948e-07, + "loss": 0.0, + "num_input_tokens_seen": 38265600, + "step": 19549 + }, + { + "epoch": 2.591119946984758, + "grad_norm": 0.02008618600666523, + "learning_rate": 2.2588723864380519e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38267840, + "step": 19550 + }, + { + "epoch": 2.591252485089463, + "grad_norm": 0.018083341419696808, + "learning_rate": 2.2574306448247402e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38270072, + "step": 19551 + }, + { + "epoch": 2.591385023194168, + "grad_norm": 0.40605488419532776, + "learning_rate": 2.2559893417038569e-07, + "loss": 0.0018, + "num_input_tokens_seen": 38272784, + "step": 19552 + }, + { + "epoch": 2.5915175612988737, + "grad_norm": 10.036961555480957, + "learning_rate": 2.2545484771031884e-07, + "loss": 0.1048, + "num_input_tokens_seen": 38274440, + "step": 19553 + }, + { + "epoch": 2.5916500994035783, + "grad_norm": 0.0020510826725512743, + "learning_rate": 2.2531080510505176e-07, + "loss": 0.0, + "num_input_tokens_seen": 38275744, + "step": 19554 + }, + { + "epoch": 2.5917826375082837, + "grad_norm": 6.2653021812438965, + "learning_rate": 2.2516680635736088e-07, + "loss": 0.0927, + "num_input_tokens_seen": 38277856, + "step": 19555 + }, + { + "epoch": 2.591915175612989, + "grad_norm": 0.10841788351535797, + "learning_rate": 2.2502285147002367e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38279880, + "step": 19556 + }, + { + "epoch": 2.592047713717694, + "grad_norm": 4.138819694519043, + "learning_rate": 2.2487894044581544e-07, + "loss": 0.0223, + "num_input_tokens_seen": 38281760, + "step": 19557 + }, + { + "epoch": 2.592180251822399, + "grad_norm": 5.491577625274658, + "learning_rate": 2.2473507328751086e-07, + "loss": 0.0381, + "num_input_tokens_seen": 38283728, + "step": 19558 + }, + { + "epoch": 2.592312789927104, + "grad_norm": 3.116621971130371, + "learning_rate": 2.245912499978839e-07, + "loss": 0.0087, + "num_input_tokens_seen": 38286200, + "step": 19559 + }, + { + "epoch": 2.5924453280318094, + "grad_norm": 10.72745418548584, + "learning_rate": 2.2444747057970674e-07, + "loss": 0.0616, + "num_input_tokens_seen": 38288712, + "step": 19560 + }, + { + "epoch": 2.592577866136514, + "grad_norm": 0.09034241735935211, + "learning_rate": 2.2430373503575214e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38291736, + "step": 19561 + }, + { + "epoch": 2.5927104042412195, + "grad_norm": 8.30131721496582, + "learning_rate": 2.2416004336879183e-07, + "loss": 0.1322, + "num_input_tokens_seen": 38293184, + "step": 19562 + }, + { + "epoch": 2.5928429423459245, + "grad_norm": 0.49436691403388977, + "learning_rate": 2.2401639558159605e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38295272, + "step": 19563 + }, + { + "epoch": 2.5929754804506295, + "grad_norm": 0.1546715945005417, + "learning_rate": 2.2387279167693427e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38297184, + "step": 19564 + }, + { + "epoch": 2.5931080185553346, + "grad_norm": 0.0016089346027001739, + "learning_rate": 2.2372923165757536e-07, + "loss": 0.0, + "num_input_tokens_seen": 38298824, + "step": 19565 + }, + { + "epoch": 2.5932405566600396, + "grad_norm": 0.14386631548404694, + "learning_rate": 2.235857155262866e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38300784, + "step": 19566 + }, + { + "epoch": 2.593373094764745, + "grad_norm": 7.597013473510742, + "learning_rate": 2.2344224328583575e-07, + "loss": 0.062, + "num_input_tokens_seen": 38304640, + "step": 19567 + }, + { + "epoch": 2.59350563286945, + "grad_norm": 0.001097539090551436, + "learning_rate": 2.2329881493898947e-07, + "loss": 0.0, + "num_input_tokens_seen": 38306256, + "step": 19568 + }, + { + "epoch": 2.593638170974155, + "grad_norm": 0.16022011637687683, + "learning_rate": 2.231554304885125e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38308248, + "step": 19569 + }, + { + "epoch": 2.59377070907886, + "grad_norm": 0.034476395696401596, + "learning_rate": 2.230120899371696e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38310272, + "step": 19570 + }, + { + "epoch": 2.5939032471835652, + "grad_norm": 0.002575445221737027, + "learning_rate": 2.2286879328772383e-07, + "loss": 0.0, + "num_input_tokens_seen": 38312592, + "step": 19571 + }, + { + "epoch": 2.5940357852882703, + "grad_norm": 4.131199359893799, + "learning_rate": 2.2272554054293934e-07, + "loss": 0.0283, + "num_input_tokens_seen": 38314752, + "step": 19572 + }, + { + "epoch": 2.5941683233929753, + "grad_norm": 11.348933219909668, + "learning_rate": 2.2258233170557668e-07, + "loss": 0.0175, + "num_input_tokens_seen": 38317176, + "step": 19573 + }, + { + "epoch": 2.594300861497681, + "grad_norm": 7.754245758056641, + "learning_rate": 2.2243916677839844e-07, + "loss": 0.1297, + "num_input_tokens_seen": 38319184, + "step": 19574 + }, + { + "epoch": 2.594433399602386, + "grad_norm": 7.891770362854004, + "learning_rate": 2.222960457641643e-07, + "loss": 0.0711, + "num_input_tokens_seen": 38321304, + "step": 19575 + }, + { + "epoch": 2.594565937707091, + "grad_norm": 10.571821212768555, + "learning_rate": 2.2215296866563317e-07, + "loss": 0.0348, + "num_input_tokens_seen": 38322976, + "step": 19576 + }, + { + "epoch": 2.594698475811796, + "grad_norm": 0.008921639062464237, + "learning_rate": 2.2200993548556483e-07, + "loss": 0.0, + "num_input_tokens_seen": 38323984, + "step": 19577 + }, + { + "epoch": 2.594831013916501, + "grad_norm": 0.0035092367324978113, + "learning_rate": 2.2186694622671618e-07, + "loss": 0.0, + "num_input_tokens_seen": 38327016, + "step": 19578 + }, + { + "epoch": 2.594963552021206, + "grad_norm": 0.07848535478115082, + "learning_rate": 2.217240008918442e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38329952, + "step": 19579 + }, + { + "epoch": 2.595096090125911, + "grad_norm": 3.8175082206726074, + "learning_rate": 2.215810994837056e-07, + "loss": 0.011, + "num_input_tokens_seen": 38332536, + "step": 19580 + }, + { + "epoch": 2.5952286282306165, + "grad_norm": 4.941031455993652, + "learning_rate": 2.2143824200505454e-07, + "loss": 0.0066, + "num_input_tokens_seen": 38335448, + "step": 19581 + }, + { + "epoch": 2.5953611663353215, + "grad_norm": 0.04654120281338692, + "learning_rate": 2.212954284586466e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38337328, + "step": 19582 + }, + { + "epoch": 2.5954937044400266, + "grad_norm": 0.0020885588601231575, + "learning_rate": 2.2115265884723486e-07, + "loss": 0.0, + "num_input_tokens_seen": 38338280, + "step": 19583 + }, + { + "epoch": 2.5956262425447316, + "grad_norm": 5.172085762023926, + "learning_rate": 2.210099331735721e-07, + "loss": 0.0894, + "num_input_tokens_seen": 38340808, + "step": 19584 + }, + { + "epoch": 2.5957587806494367, + "grad_norm": 0.010889441706240177, + "learning_rate": 2.2086725144040922e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38342448, + "step": 19585 + }, + { + "epoch": 2.5958913187541417, + "grad_norm": 0.16189153492450714, + "learning_rate": 2.2072461365049868e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38343816, + "step": 19586 + }, + { + "epoch": 2.5960238568588467, + "grad_norm": 1.4364497661590576, + "learning_rate": 2.2058201980658972e-07, + "loss": 0.0062, + "num_input_tokens_seen": 38345440, + "step": 19587 + }, + { + "epoch": 2.596156394963552, + "grad_norm": 0.010228211060166359, + "learning_rate": 2.2043946991143205e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38347304, + "step": 19588 + }, + { + "epoch": 2.5962889330682573, + "grad_norm": 19.569616317749023, + "learning_rate": 2.2029696396777405e-07, + "loss": 0.1177, + "num_input_tokens_seen": 38350048, + "step": 19589 + }, + { + "epoch": 2.5964214711729623, + "grad_norm": 6.20168399810791, + "learning_rate": 2.2015450197836296e-07, + "loss": 0.0782, + "num_input_tokens_seen": 38351960, + "step": 19590 + }, + { + "epoch": 2.5965540092776673, + "grad_norm": 3.105771541595459, + "learning_rate": 2.200120839459463e-07, + "loss": 0.0286, + "num_input_tokens_seen": 38354864, + "step": 19591 + }, + { + "epoch": 2.5966865473823724, + "grad_norm": 0.001977552194148302, + "learning_rate": 2.1986970987326884e-07, + "loss": 0.0, + "num_input_tokens_seen": 38356464, + "step": 19592 + }, + { + "epoch": 2.5968190854870774, + "grad_norm": 0.0007803388289175928, + "learning_rate": 2.1972737976307697e-07, + "loss": 0.0, + "num_input_tokens_seen": 38358088, + "step": 19593 + }, + { + "epoch": 2.5969516235917824, + "grad_norm": 0.0019044795772060752, + "learning_rate": 2.195850936181143e-07, + "loss": 0.0, + "num_input_tokens_seen": 38360024, + "step": 19594 + }, + { + "epoch": 2.597084161696488, + "grad_norm": 0.026728440076112747, + "learning_rate": 2.1944285144112425e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38362528, + "step": 19595 + }, + { + "epoch": 2.597216699801193, + "grad_norm": 10.568843841552734, + "learning_rate": 2.1930065323484878e-07, + "loss": 0.0612, + "num_input_tokens_seen": 38363920, + "step": 19596 + }, + { + "epoch": 2.597349237905898, + "grad_norm": 1.8160940408706665, + "learning_rate": 2.1915849900203012e-07, + "loss": 0.0078, + "num_input_tokens_seen": 38366984, + "step": 19597 + }, + { + "epoch": 2.597481776010603, + "grad_norm": 16.5985107421875, + "learning_rate": 2.1901638874540941e-07, + "loss": 0.1434, + "num_input_tokens_seen": 38369496, + "step": 19598 + }, + { + "epoch": 2.597614314115308, + "grad_norm": 6.536657333374023, + "learning_rate": 2.1887432246772644e-07, + "loss": 0.0322, + "num_input_tokens_seen": 38372328, + "step": 19599 + }, + { + "epoch": 2.597746852220013, + "grad_norm": 0.053532056510448456, + "learning_rate": 2.1873230017172037e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38373456, + "step": 19600 + }, + { + "epoch": 2.597879390324718, + "grad_norm": 7.111681938171387, + "learning_rate": 2.1859032186012903e-07, + "loss": 0.0939, + "num_input_tokens_seen": 38375688, + "step": 19601 + }, + { + "epoch": 2.5980119284294236, + "grad_norm": 7.735266208648682, + "learning_rate": 2.1844838753568965e-07, + "loss": 0.0383, + "num_input_tokens_seen": 38378328, + "step": 19602 + }, + { + "epoch": 2.5981444665341287, + "grad_norm": 14.824787139892578, + "learning_rate": 2.1830649720113951e-07, + "loss": 0.2376, + "num_input_tokens_seen": 38380912, + "step": 19603 + }, + { + "epoch": 2.5982770046388337, + "grad_norm": 9.278714179992676, + "learning_rate": 2.1816465085921473e-07, + "loss": 0.1838, + "num_input_tokens_seen": 38383064, + "step": 19604 + }, + { + "epoch": 2.5984095427435387, + "grad_norm": 7.4793171882629395, + "learning_rate": 2.1802284851264927e-07, + "loss": 0.0311, + "num_input_tokens_seen": 38385360, + "step": 19605 + }, + { + "epoch": 2.598542080848244, + "grad_norm": 5.897233963012695, + "learning_rate": 2.1788109016417785e-07, + "loss": 0.0108, + "num_input_tokens_seen": 38386712, + "step": 19606 + }, + { + "epoch": 2.598674618952949, + "grad_norm": 0.10957270115613937, + "learning_rate": 2.1773937581653277e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38388752, + "step": 19607 + }, + { + "epoch": 2.598807157057654, + "grad_norm": 0.0015440797433257103, + "learning_rate": 2.1759770547244735e-07, + "loss": 0.0, + "num_input_tokens_seen": 38389944, + "step": 19608 + }, + { + "epoch": 2.5989396951623593, + "grad_norm": 0.0008896925719454885, + "learning_rate": 2.174560791346525e-07, + "loss": 0.0, + "num_input_tokens_seen": 38391552, + "step": 19609 + }, + { + "epoch": 2.5990722332670644, + "grad_norm": 0.22280244529247284, + "learning_rate": 2.1731449680587936e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38392728, + "step": 19610 + }, + { + "epoch": 2.5992047713717694, + "grad_norm": 4.767943382263184, + "learning_rate": 2.1717295848885767e-07, + "loss": 0.0552, + "num_input_tokens_seen": 38394944, + "step": 19611 + }, + { + "epoch": 2.5993373094764745, + "grad_norm": 0.5313977003097534, + "learning_rate": 2.1703146418631553e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38396616, + "step": 19612 + }, + { + "epoch": 2.5994698475811795, + "grad_norm": 0.002957290969789028, + "learning_rate": 2.168900139009822e-07, + "loss": 0.0, + "num_input_tokens_seen": 38398144, + "step": 19613 + }, + { + "epoch": 2.5996023856858845, + "grad_norm": 0.0017025766428560019, + "learning_rate": 2.1674860763558402e-07, + "loss": 0.0, + "num_input_tokens_seen": 38399176, + "step": 19614 + }, + { + "epoch": 2.5997349237905896, + "grad_norm": 2.0331015586853027, + "learning_rate": 2.1660724539284805e-07, + "loss": 0.0081, + "num_input_tokens_seen": 38401336, + "step": 19615 + }, + { + "epoch": 2.599867461895295, + "grad_norm": 0.001170025090686977, + "learning_rate": 2.1646592717549985e-07, + "loss": 0.0, + "num_input_tokens_seen": 38402464, + "step": 19616 + }, + { + "epoch": 2.6, + "grad_norm": 0.6683072447776794, + "learning_rate": 2.1632465298626392e-07, + "loss": 0.0031, + "num_input_tokens_seen": 38405488, + "step": 19617 + }, + { + "epoch": 2.600132538104705, + "grad_norm": 0.004597685765475035, + "learning_rate": 2.1618342282786363e-07, + "loss": 0.0, + "num_input_tokens_seen": 38408296, + "step": 19618 + }, + { + "epoch": 2.60026507620941, + "grad_norm": 3.408809185028076, + "learning_rate": 2.1604223670302293e-07, + "loss": 0.0121, + "num_input_tokens_seen": 38410456, + "step": 19619 + }, + { + "epoch": 2.600397614314115, + "grad_norm": 0.0016405662754550576, + "learning_rate": 2.1590109461446297e-07, + "loss": 0.0, + "num_input_tokens_seen": 38411800, + "step": 19620 + }, + { + "epoch": 2.6005301524188207, + "grad_norm": 11.907539367675781, + "learning_rate": 2.1575999656490626e-07, + "loss": 0.0669, + "num_input_tokens_seen": 38413512, + "step": 19621 + }, + { + "epoch": 2.6006626905235253, + "grad_norm": 0.04382339492440224, + "learning_rate": 2.1561894255707234e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38415216, + "step": 19622 + }, + { + "epoch": 2.6007952286282308, + "grad_norm": 0.1933593600988388, + "learning_rate": 2.1547793259368093e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38417752, + "step": 19623 + }, + { + "epoch": 2.600927766732936, + "grad_norm": 1.444933533668518, + "learning_rate": 2.153369666774513e-07, + "loss": 0.0066, + "num_input_tokens_seen": 38420288, + "step": 19624 + }, + { + "epoch": 2.601060304837641, + "grad_norm": 0.011689778417348862, + "learning_rate": 2.1519604481110124e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38421984, + "step": 19625 + }, + { + "epoch": 2.601192842942346, + "grad_norm": 10.084622383117676, + "learning_rate": 2.1505516699734692e-07, + "loss": 0.2342, + "num_input_tokens_seen": 38424192, + "step": 19626 + }, + { + "epoch": 2.601325381047051, + "grad_norm": 0.38927197456359863, + "learning_rate": 2.1491433323890586e-07, + "loss": 0.0029, + "num_input_tokens_seen": 38426304, + "step": 19627 + }, + { + "epoch": 2.6014579191517564, + "grad_norm": 5.027788162231445, + "learning_rate": 2.1477354353849262e-07, + "loss": 0.0308, + "num_input_tokens_seen": 38427920, + "step": 19628 + }, + { + "epoch": 2.601590457256461, + "grad_norm": 0.04316222295165062, + "learning_rate": 2.1463279789882217e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38429760, + "step": 19629 + }, + { + "epoch": 2.6017229953611665, + "grad_norm": 8.21989917755127, + "learning_rate": 2.1449209632260797e-07, + "loss": 0.1081, + "num_input_tokens_seen": 38431880, + "step": 19630 + }, + { + "epoch": 2.6018555334658715, + "grad_norm": 0.020876847207546234, + "learning_rate": 2.1435143881256282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38433520, + "step": 19631 + }, + { + "epoch": 2.6019880715705765, + "grad_norm": 0.5855117440223694, + "learning_rate": 2.1421082537139842e-07, + "loss": 0.0016, + "num_input_tokens_seen": 38435848, + "step": 19632 + }, + { + "epoch": 2.6021206096752816, + "grad_norm": 2.1936540603637695, + "learning_rate": 2.1407025600182624e-07, + "loss": 0.0036, + "num_input_tokens_seen": 38437240, + "step": 19633 + }, + { + "epoch": 2.6022531477799866, + "grad_norm": 1.4765433073043823, + "learning_rate": 2.139297307065566e-07, + "loss": 0.006, + "num_input_tokens_seen": 38439280, + "step": 19634 + }, + { + "epoch": 2.602385685884692, + "grad_norm": 5.887489318847656, + "learning_rate": 2.1378924948829926e-07, + "loss": 0.0065, + "num_input_tokens_seen": 38440736, + "step": 19635 + }, + { + "epoch": 2.6025182239893967, + "grad_norm": 16.165857315063477, + "learning_rate": 2.136488123497621e-07, + "loss": 0.2541, + "num_input_tokens_seen": 38443480, + "step": 19636 + }, + { + "epoch": 2.602650762094102, + "grad_norm": 4.440367698669434, + "learning_rate": 2.135084192936532e-07, + "loss": 0.0349, + "num_input_tokens_seen": 38445752, + "step": 19637 + }, + { + "epoch": 2.602783300198807, + "grad_norm": 2.2103991508483887, + "learning_rate": 2.133680703226787e-07, + "loss": 0.0135, + "num_input_tokens_seen": 38447824, + "step": 19638 + }, + { + "epoch": 2.6029158383035123, + "grad_norm": 0.22706687450408936, + "learning_rate": 2.1322776543954565e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38450312, + "step": 19639 + }, + { + "epoch": 2.6030483764082173, + "grad_norm": 0.0026858109049499035, + "learning_rate": 2.130875046469591e-07, + "loss": 0.0, + "num_input_tokens_seen": 38452440, + "step": 19640 + }, + { + "epoch": 2.6031809145129223, + "grad_norm": 1.896992802619934, + "learning_rate": 2.1294728794762297e-07, + "loss": 0.0041, + "num_input_tokens_seen": 38453728, + "step": 19641 + }, + { + "epoch": 2.603313452617628, + "grad_norm": 0.06573653966188431, + "learning_rate": 2.1280711534424097e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38455392, + "step": 19642 + }, + { + "epoch": 2.6034459907223324, + "grad_norm": 10.373908996582031, + "learning_rate": 2.1266698683951535e-07, + "loss": 0.2887, + "num_input_tokens_seen": 38458016, + "step": 19643 + }, + { + "epoch": 2.603578528827038, + "grad_norm": 0.05259266495704651, + "learning_rate": 2.1252690243614814e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38459344, + "step": 19644 + }, + { + "epoch": 2.603711066931743, + "grad_norm": 0.007535157725214958, + "learning_rate": 2.123868621368405e-07, + "loss": 0.0, + "num_input_tokens_seen": 38460624, + "step": 19645 + }, + { + "epoch": 2.603843605036448, + "grad_norm": 10.991229057312012, + "learning_rate": 2.122468659442925e-07, + "loss": 0.0961, + "num_input_tokens_seen": 38462640, + "step": 19646 + }, + { + "epoch": 2.603976143141153, + "grad_norm": 7.567541122436523, + "learning_rate": 2.1210691386120308e-07, + "loss": 0.1298, + "num_input_tokens_seen": 38464632, + "step": 19647 + }, + { + "epoch": 2.604108681245858, + "grad_norm": 7.787850856781006, + "learning_rate": 2.119670058902709e-07, + "loss": 0.0786, + "num_input_tokens_seen": 38466824, + "step": 19648 + }, + { + "epoch": 2.6042412193505635, + "grad_norm": 0.005632633343338966, + "learning_rate": 2.1182714203419276e-07, + "loss": 0.0, + "num_input_tokens_seen": 38469408, + "step": 19649 + }, + { + "epoch": 2.604373757455268, + "grad_norm": 0.001964293885976076, + "learning_rate": 2.1168732229566557e-07, + "loss": 0.0, + "num_input_tokens_seen": 38471224, + "step": 19650 + }, + { + "epoch": 2.6045062955599736, + "grad_norm": 0.06351301819086075, + "learning_rate": 2.1154754667738615e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38473056, + "step": 19651 + }, + { + "epoch": 2.6046388336646786, + "grad_norm": 9.607240676879883, + "learning_rate": 2.1140781518204866e-07, + "loss": 0.1671, + "num_input_tokens_seen": 38475232, + "step": 19652 + }, + { + "epoch": 2.6047713717693837, + "grad_norm": 0.015724049881100655, + "learning_rate": 2.112681278123474e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38476840, + "step": 19653 + }, + { + "epoch": 2.6049039098740887, + "grad_norm": 0.09589043259620667, + "learning_rate": 2.111284845709752e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38478816, + "step": 19654 + }, + { + "epoch": 2.6050364479787937, + "grad_norm": 0.012372137047350407, + "learning_rate": 2.1098888546062514e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38480760, + "step": 19655 + }, + { + "epoch": 2.6051689860834992, + "grad_norm": 0.14548827707767487, + "learning_rate": 2.1084933048398787e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38482240, + "step": 19656 + }, + { + "epoch": 2.6053015241882043, + "grad_norm": 0.029473038390278816, + "learning_rate": 2.107098196437554e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38483968, + "step": 19657 + }, + { + "epoch": 2.6054340622929093, + "grad_norm": 0.029876407235860825, + "learning_rate": 2.1057035294261674e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38485880, + "step": 19658 + }, + { + "epoch": 2.6055666003976143, + "grad_norm": 0.0411628820002079, + "learning_rate": 2.1043093038326078e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38488440, + "step": 19659 + }, + { + "epoch": 2.6056991385023194, + "grad_norm": 0.005252644885331392, + "learning_rate": 2.1029155196837624e-07, + "loss": 0.0, + "num_input_tokens_seen": 38489584, + "step": 19660 + }, + { + "epoch": 2.6058316766070244, + "grad_norm": 0.26746857166290283, + "learning_rate": 2.1015221770065015e-07, + "loss": 0.001, + "num_input_tokens_seen": 38491952, + "step": 19661 + }, + { + "epoch": 2.6059642147117295, + "grad_norm": 0.03166719526052475, + "learning_rate": 2.1001292758276864e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38493488, + "step": 19662 + }, + { + "epoch": 2.606096752816435, + "grad_norm": 3.5101544857025146, + "learning_rate": 2.0987368161741822e-07, + "loss": 0.0137, + "num_input_tokens_seen": 38495272, + "step": 19663 + }, + { + "epoch": 2.60622929092114, + "grad_norm": 3.5140631198883057, + "learning_rate": 2.0973447980728257e-07, + "loss": 0.0277, + "num_input_tokens_seen": 38497840, + "step": 19664 + }, + { + "epoch": 2.606361829025845, + "grad_norm": 0.0383896604180336, + "learning_rate": 2.0959532215504646e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38499408, + "step": 19665 + }, + { + "epoch": 2.60649436713055, + "grad_norm": 6.661445617675781, + "learning_rate": 2.0945620866339277e-07, + "loss": 0.0596, + "num_input_tokens_seen": 38500880, + "step": 19666 + }, + { + "epoch": 2.606626905235255, + "grad_norm": 0.8470848798751831, + "learning_rate": 2.0931713933500298e-07, + "loss": 0.0009, + "num_input_tokens_seen": 38502440, + "step": 19667 + }, + { + "epoch": 2.60675944333996, + "grad_norm": 8.894847869873047, + "learning_rate": 2.0917811417255963e-07, + "loss": 0.1285, + "num_input_tokens_seen": 38503896, + "step": 19668 + }, + { + "epoch": 2.606891981444665, + "grad_norm": 0.014560201205313206, + "learning_rate": 2.0903913317874198e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38506288, + "step": 19669 + }, + { + "epoch": 2.6070245195493706, + "grad_norm": 1.5319017171859741, + "learning_rate": 2.0890019635623092e-07, + "loss": 0.0102, + "num_input_tokens_seen": 38508792, + "step": 19670 + }, + { + "epoch": 2.6071570576540757, + "grad_norm": 5.752842903137207, + "learning_rate": 2.0876130370770438e-07, + "loss": 0.0739, + "num_input_tokens_seen": 38511128, + "step": 19671 + }, + { + "epoch": 2.6072895957587807, + "grad_norm": 0.006269050296396017, + "learning_rate": 2.086224552358407e-07, + "loss": 0.0, + "num_input_tokens_seen": 38512768, + "step": 19672 + }, + { + "epoch": 2.6074221338634858, + "grad_norm": 8.103026390075684, + "learning_rate": 2.0848365094331635e-07, + "loss": 0.0489, + "num_input_tokens_seen": 38515224, + "step": 19673 + }, + { + "epoch": 2.607554671968191, + "grad_norm": 6.0618085861206055, + "learning_rate": 2.083448908328084e-07, + "loss": 0.1086, + "num_input_tokens_seen": 38518168, + "step": 19674 + }, + { + "epoch": 2.607687210072896, + "grad_norm": 4.855641841888428, + "learning_rate": 2.0820617490699163e-07, + "loss": 0.0793, + "num_input_tokens_seen": 38520648, + "step": 19675 + }, + { + "epoch": 2.607819748177601, + "grad_norm": 0.0010878577595576644, + "learning_rate": 2.0806750316854114e-07, + "loss": 0.0, + "num_input_tokens_seen": 38521912, + "step": 19676 + }, + { + "epoch": 2.6079522862823064, + "grad_norm": 1.47963547706604, + "learning_rate": 2.0792887562013032e-07, + "loss": 0.0034, + "num_input_tokens_seen": 38523928, + "step": 19677 + }, + { + "epoch": 2.6080848243870114, + "grad_norm": 2.3803086280822754, + "learning_rate": 2.0779029226443205e-07, + "loss": 0.0096, + "num_input_tokens_seen": 38525632, + "step": 19678 + }, + { + "epoch": 2.6082173624917164, + "grad_norm": 10.975857734680176, + "learning_rate": 2.0765175310411778e-07, + "loss": 0.2862, + "num_input_tokens_seen": 38528128, + "step": 19679 + }, + { + "epoch": 2.6083499005964215, + "grad_norm": 3.9681003093719482, + "learning_rate": 2.07513258141859e-07, + "loss": 0.0132, + "num_input_tokens_seen": 38529696, + "step": 19680 + }, + { + "epoch": 2.6084824387011265, + "grad_norm": 2.673328399658203, + "learning_rate": 2.0737480738032666e-07, + "loss": 0.0138, + "num_input_tokens_seen": 38531536, + "step": 19681 + }, + { + "epoch": 2.6086149768058315, + "grad_norm": 3.9161808490753174, + "learning_rate": 2.0723640082218972e-07, + "loss": 0.0605, + "num_input_tokens_seen": 38533776, + "step": 19682 + }, + { + "epoch": 2.6087475149105366, + "grad_norm": 0.005036740563809872, + "learning_rate": 2.0709803847011655e-07, + "loss": 0.0, + "num_input_tokens_seen": 38535152, + "step": 19683 + }, + { + "epoch": 2.608880053015242, + "grad_norm": 15.925858497619629, + "learning_rate": 2.0695972032677508e-07, + "loss": 0.0739, + "num_input_tokens_seen": 38537336, + "step": 19684 + }, + { + "epoch": 2.609012591119947, + "grad_norm": 8.88155460357666, + "learning_rate": 2.068214463948315e-07, + "loss": 0.0698, + "num_input_tokens_seen": 38538352, + "step": 19685 + }, + { + "epoch": 2.609145129224652, + "grad_norm": 0.048788294196128845, + "learning_rate": 2.066832166769525e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38539952, + "step": 19686 + }, + { + "epoch": 2.609277667329357, + "grad_norm": 0.0354636050760746, + "learning_rate": 2.0654503117580381e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38541880, + "step": 19687 + }, + { + "epoch": 2.609410205434062, + "grad_norm": 5.091892242431641, + "learning_rate": 2.0640688989404883e-07, + "loss": 0.0289, + "num_input_tokens_seen": 38544648, + "step": 19688 + }, + { + "epoch": 2.6095427435387673, + "grad_norm": 2.6286814212799072, + "learning_rate": 2.0626879283435124e-07, + "loss": 0.0339, + "num_input_tokens_seen": 38546424, + "step": 19689 + }, + { + "epoch": 2.6096752816434723, + "grad_norm": 0.005861126352101564, + "learning_rate": 2.061307399993734e-07, + "loss": 0.0, + "num_input_tokens_seen": 38548296, + "step": 19690 + }, + { + "epoch": 2.6098078197481778, + "grad_norm": 2.2982873916625977, + "learning_rate": 2.0599273139177785e-07, + "loss": 0.0072, + "num_input_tokens_seen": 38550120, + "step": 19691 + }, + { + "epoch": 2.609940357852883, + "grad_norm": 0.004637660458683968, + "learning_rate": 2.058547670142244e-07, + "loss": 0.0, + "num_input_tokens_seen": 38552280, + "step": 19692 + }, + { + "epoch": 2.610072895957588, + "grad_norm": 6.655600547790527, + "learning_rate": 2.0571684686937433e-07, + "loss": 0.0874, + "num_input_tokens_seen": 38554056, + "step": 19693 + }, + { + "epoch": 2.610205434062293, + "grad_norm": 0.2024775743484497, + "learning_rate": 2.05578970959886e-07, + "loss": 0.001, + "num_input_tokens_seen": 38556608, + "step": 19694 + }, + { + "epoch": 2.610337972166998, + "grad_norm": 0.004785206634551287, + "learning_rate": 2.0544113928841757e-07, + "loss": 0.0, + "num_input_tokens_seen": 38558032, + "step": 19695 + }, + { + "epoch": 2.610470510271703, + "grad_norm": 0.0558529756963253, + "learning_rate": 2.0530335185762724e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38560616, + "step": 19696 + }, + { + "epoch": 2.610603048376408, + "grad_norm": 0.010985753498971462, + "learning_rate": 2.0516560867017089e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38562504, + "step": 19697 + }, + { + "epoch": 2.6107355864811135, + "grad_norm": 0.0026474446058273315, + "learning_rate": 2.050279097287053e-07, + "loss": 0.0, + "num_input_tokens_seen": 38564704, + "step": 19698 + }, + { + "epoch": 2.6108681245858185, + "grad_norm": 3.0736896991729736, + "learning_rate": 2.048902550358847e-07, + "loss": 0.0157, + "num_input_tokens_seen": 38566416, + "step": 19699 + }, + { + "epoch": 2.6110006626905236, + "grad_norm": 0.7595178484916687, + "learning_rate": 2.0475264459436346e-07, + "loss": 0.0089, + "num_input_tokens_seen": 38567952, + "step": 19700 + }, + { + "epoch": 2.6111332007952286, + "grad_norm": 0.0016683790599927306, + "learning_rate": 2.0461507840679435e-07, + "loss": 0.0, + "num_input_tokens_seen": 38569552, + "step": 19701 + }, + { + "epoch": 2.6112657388999336, + "grad_norm": 0.026529155671596527, + "learning_rate": 2.0447755647583e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38572280, + "step": 19702 + }, + { + "epoch": 2.6113982770046387, + "grad_norm": 0.9153798222541809, + "learning_rate": 2.0434007880412192e-07, + "loss": 0.005, + "num_input_tokens_seen": 38574536, + "step": 19703 + }, + { + "epoch": 2.6115308151093437, + "grad_norm": 0.008862215094268322, + "learning_rate": 2.0420264539432105e-07, + "loss": 0.0, + "num_input_tokens_seen": 38577160, + "step": 19704 + }, + { + "epoch": 2.611663353214049, + "grad_norm": 16.374385833740234, + "learning_rate": 2.0406525624907718e-07, + "loss": 0.054, + "num_input_tokens_seen": 38579064, + "step": 19705 + }, + { + "epoch": 2.6117958913187542, + "grad_norm": 0.15715391933918, + "learning_rate": 2.0392791137103822e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38581208, + "step": 19706 + }, + { + "epoch": 2.6119284294234593, + "grad_norm": 2.4186015129089355, + "learning_rate": 2.03790610762854e-07, + "loss": 0.005, + "num_input_tokens_seen": 38583208, + "step": 19707 + }, + { + "epoch": 2.6120609675281643, + "grad_norm": 2.1412997245788574, + "learning_rate": 2.0365335442717072e-07, + "loss": 0.0141, + "num_input_tokens_seen": 38584760, + "step": 19708 + }, + { + "epoch": 2.6121935056328693, + "grad_norm": 0.009292821399867535, + "learning_rate": 2.035161423666343e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38586568, + "step": 19709 + }, + { + "epoch": 2.612326043737575, + "grad_norm": 0.012547353282570839, + "learning_rate": 2.0337897458389154e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38588744, + "step": 19710 + }, + { + "epoch": 2.6124585818422794, + "grad_norm": 0.0037126350216567516, + "learning_rate": 2.032418510815859e-07, + "loss": 0.0, + "num_input_tokens_seen": 38591640, + "step": 19711 + }, + { + "epoch": 2.612591119946985, + "grad_norm": 0.5583294034004211, + "learning_rate": 2.0310477186236242e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38593264, + "step": 19712 + }, + { + "epoch": 2.61272365805169, + "grad_norm": 1.7309136390686035, + "learning_rate": 2.0296773692886352e-07, + "loss": 0.0069, + "num_input_tokens_seen": 38594472, + "step": 19713 + }, + { + "epoch": 2.612856196156395, + "grad_norm": 0.0544796884059906, + "learning_rate": 2.0283074628373119e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38595904, + "step": 19714 + }, + { + "epoch": 2.6129887342611, + "grad_norm": 5.0832953453063965, + "learning_rate": 2.0269379992960636e-07, + "loss": 0.0216, + "num_input_tokens_seen": 38597760, + "step": 19715 + }, + { + "epoch": 2.613121272365805, + "grad_norm": 12.340690612792969, + "learning_rate": 2.0255689786913003e-07, + "loss": 0.2385, + "num_input_tokens_seen": 38599080, + "step": 19716 + }, + { + "epoch": 2.6132538104705105, + "grad_norm": 8.06580924987793, + "learning_rate": 2.0242004010494198e-07, + "loss": 0.0291, + "num_input_tokens_seen": 38601344, + "step": 19717 + }, + { + "epoch": 2.613386348575215, + "grad_norm": 0.4431365728378296, + "learning_rate": 2.022832266396807e-07, + "loss": 0.001, + "num_input_tokens_seen": 38604200, + "step": 19718 + }, + { + "epoch": 2.6135188866799206, + "grad_norm": 14.249427795410156, + "learning_rate": 2.0214645747598376e-07, + "loss": 0.1641, + "num_input_tokens_seen": 38605816, + "step": 19719 + }, + { + "epoch": 2.6136514247846256, + "grad_norm": 0.4850020706653595, + "learning_rate": 2.02009732616488e-07, + "loss": 0.001, + "num_input_tokens_seen": 38607088, + "step": 19720 + }, + { + "epoch": 2.6137839628893307, + "grad_norm": 11.44346809387207, + "learning_rate": 2.0187305206382984e-07, + "loss": 0.0855, + "num_input_tokens_seen": 38608880, + "step": 19721 + }, + { + "epoch": 2.6139165009940357, + "grad_norm": 6.483201503753662, + "learning_rate": 2.01736415820645e-07, + "loss": 0.1367, + "num_input_tokens_seen": 38610800, + "step": 19722 + }, + { + "epoch": 2.6140490390987408, + "grad_norm": 2.7182555198669434, + "learning_rate": 2.015998238895675e-07, + "loss": 0.0409, + "num_input_tokens_seen": 38612824, + "step": 19723 + }, + { + "epoch": 2.6141815772034462, + "grad_norm": 0.010767446830868721, + "learning_rate": 2.0146327627323102e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38614688, + "step": 19724 + }, + { + "epoch": 2.614314115308151, + "grad_norm": 11.460749626159668, + "learning_rate": 2.013267729742685e-07, + "loss": 0.1839, + "num_input_tokens_seen": 38616656, + "step": 19725 + }, + { + "epoch": 2.6144466534128563, + "grad_norm": 14.148900985717773, + "learning_rate": 2.0119031399531087e-07, + "loss": 0.2544, + "num_input_tokens_seen": 38619312, + "step": 19726 + }, + { + "epoch": 2.6145791915175614, + "grad_norm": 3.1021413803100586, + "learning_rate": 2.010538993389899e-07, + "loss": 0.0367, + "num_input_tokens_seen": 38621176, + "step": 19727 + }, + { + "epoch": 2.6147117296222664, + "grad_norm": 0.01930908113718033, + "learning_rate": 2.0091752900793626e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38623120, + "step": 19728 + }, + { + "epoch": 2.6148442677269714, + "grad_norm": 2.3271484375, + "learning_rate": 2.0078120300477872e-07, + "loss": 0.0228, + "num_input_tokens_seen": 38624912, + "step": 19729 + }, + { + "epoch": 2.6149768058316765, + "grad_norm": 4.01146936416626, + "learning_rate": 2.006449213321457e-07, + "loss": 0.0341, + "num_input_tokens_seen": 38627240, + "step": 19730 + }, + { + "epoch": 2.615109343936382, + "grad_norm": 0.2731715738773346, + "learning_rate": 2.0050868399266483e-07, + "loss": 0.0013, + "num_input_tokens_seen": 38629728, + "step": 19731 + }, + { + "epoch": 2.6152418820410865, + "grad_norm": 13.137104034423828, + "learning_rate": 2.0037249098896234e-07, + "loss": 0.1277, + "num_input_tokens_seen": 38631696, + "step": 19732 + }, + { + "epoch": 2.615374420145792, + "grad_norm": 0.14065180718898773, + "learning_rate": 2.0023634232366473e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38633200, + "step": 19733 + }, + { + "epoch": 2.615506958250497, + "grad_norm": 3.7055394649505615, + "learning_rate": 2.0010023799939743e-07, + "loss": 0.0395, + "num_input_tokens_seen": 38635432, + "step": 19734 + }, + { + "epoch": 2.615639496355202, + "grad_norm": 0.007867217995226383, + "learning_rate": 1.9996417801878416e-07, + "loss": 0.0, + "num_input_tokens_seen": 38637232, + "step": 19735 + }, + { + "epoch": 2.615772034459907, + "grad_norm": 1.7203454971313477, + "learning_rate": 1.9982816238444807e-07, + "loss": 0.0112, + "num_input_tokens_seen": 38638688, + "step": 19736 + }, + { + "epoch": 2.615904572564612, + "grad_norm": 1.2049305438995361, + "learning_rate": 1.9969219109901155e-07, + "loss": 0.0037, + "num_input_tokens_seen": 38641152, + "step": 19737 + }, + { + "epoch": 2.6160371106693177, + "grad_norm": 0.01971018873155117, + "learning_rate": 1.9955626416509693e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38642288, + "step": 19738 + }, + { + "epoch": 2.6161696487740227, + "grad_norm": 0.021865589544177055, + "learning_rate": 1.9942038158532407e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38644648, + "step": 19739 + }, + { + "epoch": 2.6163021868787277, + "grad_norm": 0.001193903386592865, + "learning_rate": 1.992845433623139e-07, + "loss": 0.0, + "num_input_tokens_seen": 38646744, + "step": 19740 + }, + { + "epoch": 2.6164347249834328, + "grad_norm": 0.19450832903385162, + "learning_rate": 1.9914874949868463e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38648472, + "step": 19741 + }, + { + "epoch": 2.616567263088138, + "grad_norm": 0.022375067695975304, + "learning_rate": 1.990129999970547e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38650328, + "step": 19742 + }, + { + "epoch": 2.616699801192843, + "grad_norm": 0.10503179579973221, + "learning_rate": 1.988772948600415e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38652400, + "step": 19743 + }, + { + "epoch": 2.616832339297548, + "grad_norm": 0.010269483551383018, + "learning_rate": 1.9874163409026175e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38654144, + "step": 19744 + }, + { + "epoch": 2.6169648774022534, + "grad_norm": 12.245887756347656, + "learning_rate": 1.9860601769033038e-07, + "loss": 0.0645, + "num_input_tokens_seen": 38655864, + "step": 19745 + }, + { + "epoch": 2.6170974155069584, + "grad_norm": 2.6453616619110107, + "learning_rate": 1.9847044566286305e-07, + "loss": 0.0112, + "num_input_tokens_seen": 38657440, + "step": 19746 + }, + { + "epoch": 2.6172299536116634, + "grad_norm": 5.343145370483398, + "learning_rate": 1.9833491801047296e-07, + "loss": 0.1042, + "num_input_tokens_seen": 38659568, + "step": 19747 + }, + { + "epoch": 2.6173624917163685, + "grad_norm": 10.84970474243164, + "learning_rate": 1.981994347357738e-07, + "loss": 0.0948, + "num_input_tokens_seen": 38661736, + "step": 19748 + }, + { + "epoch": 2.6174950298210735, + "grad_norm": 0.003658079309388995, + "learning_rate": 1.980639958413777e-07, + "loss": 0.0, + "num_input_tokens_seen": 38663016, + "step": 19749 + }, + { + "epoch": 2.6176275679257786, + "grad_norm": 0.006934002973139286, + "learning_rate": 1.9792860132989504e-07, + "loss": 0.0, + "num_input_tokens_seen": 38664952, + "step": 19750 + }, + { + "epoch": 2.6177601060304836, + "grad_norm": 16.418716430664062, + "learning_rate": 1.9779325120393767e-07, + "loss": 0.1344, + "num_input_tokens_seen": 38667184, + "step": 19751 + }, + { + "epoch": 2.617892644135189, + "grad_norm": 8.170684814453125, + "learning_rate": 1.97657945466114e-07, + "loss": 0.2289, + "num_input_tokens_seen": 38670488, + "step": 19752 + }, + { + "epoch": 2.618025182239894, + "grad_norm": 1.1484946012496948, + "learning_rate": 1.9752268411903418e-07, + "loss": 0.0041, + "num_input_tokens_seen": 38673144, + "step": 19753 + }, + { + "epoch": 2.618157720344599, + "grad_norm": 0.0027064899913966656, + "learning_rate": 1.9738746716530504e-07, + "loss": 0.0, + "num_input_tokens_seen": 38674712, + "step": 19754 + }, + { + "epoch": 2.618290258449304, + "grad_norm": 0.07577101141214371, + "learning_rate": 1.9725229460753447e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38676624, + "step": 19755 + }, + { + "epoch": 2.6184227965540092, + "grad_norm": 8.376341819763184, + "learning_rate": 1.9711716644832734e-07, + "loss": 0.0273, + "num_input_tokens_seen": 38679440, + "step": 19756 + }, + { + "epoch": 2.6185553346587143, + "grad_norm": 4.80224609375, + "learning_rate": 1.9698208269029073e-07, + "loss": 0.0567, + "num_input_tokens_seen": 38680960, + "step": 19757 + }, + { + "epoch": 2.6186878727634193, + "grad_norm": 5.651721000671387, + "learning_rate": 1.9684704333602783e-07, + "loss": 0.0269, + "num_input_tokens_seen": 38683400, + "step": 19758 + }, + { + "epoch": 2.618820410868125, + "grad_norm": 0.0049553425051271915, + "learning_rate": 1.9671204838814296e-07, + "loss": 0.0, + "num_input_tokens_seen": 38685408, + "step": 19759 + }, + { + "epoch": 2.61895294897283, + "grad_norm": 0.030724303796887398, + "learning_rate": 1.96577097849239e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38687472, + "step": 19760 + }, + { + "epoch": 2.619085487077535, + "grad_norm": 11.732736587524414, + "learning_rate": 1.9644219172191754e-07, + "loss": 0.0595, + "num_input_tokens_seen": 38689408, + "step": 19761 + }, + { + "epoch": 2.61921802518224, + "grad_norm": 0.009748328477144241, + "learning_rate": 1.963073300087795e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38691312, + "step": 19762 + }, + { + "epoch": 2.619350563286945, + "grad_norm": 0.7420490980148315, + "learning_rate": 1.9617251271242533e-07, + "loss": 0.0298, + "num_input_tokens_seen": 38693256, + "step": 19763 + }, + { + "epoch": 2.61948310139165, + "grad_norm": 0.0563078299164772, + "learning_rate": 1.9603773983545488e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38695472, + "step": 19764 + }, + { + "epoch": 2.619615639496355, + "grad_norm": 0.011395145207643509, + "learning_rate": 1.9590301138046607e-07, + "loss": 0.0, + "num_input_tokens_seen": 38697192, + "step": 19765 + }, + { + "epoch": 2.6197481776010605, + "grad_norm": 0.24805064499378204, + "learning_rate": 1.9576832735005686e-07, + "loss": 0.0017, + "num_input_tokens_seen": 38698840, + "step": 19766 + }, + { + "epoch": 2.6198807157057655, + "grad_norm": 3.8066189289093018, + "learning_rate": 1.9563368774682373e-07, + "loss": 0.0595, + "num_input_tokens_seen": 38701296, + "step": 19767 + }, + { + "epoch": 2.6200132538104706, + "grad_norm": 0.22127187252044678, + "learning_rate": 1.954990925733624e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38702952, + "step": 19768 + }, + { + "epoch": 2.6201457919151756, + "grad_norm": 3.8527517318725586, + "learning_rate": 1.953645418322686e-07, + "loss": 0.0126, + "num_input_tokens_seen": 38705208, + "step": 19769 + }, + { + "epoch": 2.6202783300198806, + "grad_norm": 9.357540130615234, + "learning_rate": 1.952300355261366e-07, + "loss": 0.0837, + "num_input_tokens_seen": 38706672, + "step": 19770 + }, + { + "epoch": 2.6204108681245857, + "grad_norm": 5.711824417114258, + "learning_rate": 1.9509557365755938e-07, + "loss": 0.0542, + "num_input_tokens_seen": 38709752, + "step": 19771 + }, + { + "epoch": 2.6205434062292907, + "grad_norm": 0.030969567596912384, + "learning_rate": 1.949611562291298e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38710776, + "step": 19772 + }, + { + "epoch": 2.620675944333996, + "grad_norm": 2.8518829345703125, + "learning_rate": 1.9482678324343863e-07, + "loss": 0.0289, + "num_input_tokens_seen": 38712656, + "step": 19773 + }, + { + "epoch": 2.6208084824387012, + "grad_norm": 1.0748099088668823, + "learning_rate": 1.9469245470307762e-07, + "loss": 0.0017, + "num_input_tokens_seen": 38714408, + "step": 19774 + }, + { + "epoch": 2.6209410205434063, + "grad_norm": 7.755034446716309, + "learning_rate": 1.945581706106367e-07, + "loss": 0.1486, + "num_input_tokens_seen": 38716488, + "step": 19775 + }, + { + "epoch": 2.6210735586481113, + "grad_norm": 5.888571739196777, + "learning_rate": 1.944239309687046e-07, + "loss": 0.2444, + "num_input_tokens_seen": 38718296, + "step": 19776 + }, + { + "epoch": 2.6212060967528164, + "grad_norm": 0.017607321962714195, + "learning_rate": 1.9428973577986982e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38719936, + "step": 19777 + }, + { + "epoch": 2.6213386348575214, + "grad_norm": 0.03258022293448448, + "learning_rate": 1.9415558504671888e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38721592, + "step": 19778 + }, + { + "epoch": 2.6214711729622264, + "grad_norm": 0.00026192908990196884, + "learning_rate": 1.9402147877183974e-07, + "loss": 0.0, + "num_input_tokens_seen": 38722896, + "step": 19779 + }, + { + "epoch": 2.621603711066932, + "grad_norm": 3.2329914569854736, + "learning_rate": 1.938874169578167e-07, + "loss": 0.0207, + "num_input_tokens_seen": 38726096, + "step": 19780 + }, + { + "epoch": 2.621736249171637, + "grad_norm": 0.029188159853219986, + "learning_rate": 1.937533996072355e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38728080, + "step": 19781 + }, + { + "epoch": 2.621868787276342, + "grad_norm": 0.021158233284950256, + "learning_rate": 1.9361942672267985e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38729856, + "step": 19782 + }, + { + "epoch": 2.622001325381047, + "grad_norm": 0.0012191388523206115, + "learning_rate": 1.9348549830673246e-07, + "loss": 0.0, + "num_input_tokens_seen": 38730856, + "step": 19783 + }, + { + "epoch": 2.622133863485752, + "grad_norm": 8.106405258178711, + "learning_rate": 1.9335161436197598e-07, + "loss": 0.136, + "num_input_tokens_seen": 38732456, + "step": 19784 + }, + { + "epoch": 2.622266401590457, + "grad_norm": 0.0011384871322661638, + "learning_rate": 1.9321777489099192e-07, + "loss": 0.0, + "num_input_tokens_seen": 38733800, + "step": 19785 + }, + { + "epoch": 2.622398939695162, + "grad_norm": 0.012584177777171135, + "learning_rate": 1.930839798963599e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38736632, + "step": 19786 + }, + { + "epoch": 2.6225314777998676, + "grad_norm": 4.519819736480713, + "learning_rate": 1.9295022938066066e-07, + "loss": 0.0261, + "num_input_tokens_seen": 38739512, + "step": 19787 + }, + { + "epoch": 2.6226640159045727, + "grad_norm": 0.11794044077396393, + "learning_rate": 1.9281652334647265e-07, + "loss": 0.0008, + "num_input_tokens_seen": 38741512, + "step": 19788 + }, + { + "epoch": 2.6227965540092777, + "grad_norm": 0.05870175361633301, + "learning_rate": 1.926828617963733e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38742696, + "step": 19789 + }, + { + "epoch": 2.6229290921139827, + "grad_norm": 8.147379875183105, + "learning_rate": 1.9254924473294052e-07, + "loss": 0.078, + "num_input_tokens_seen": 38745128, + "step": 19790 + }, + { + "epoch": 2.6230616302186878, + "grad_norm": 3.9784226417541504, + "learning_rate": 1.9241567215875e-07, + "loss": 0.0438, + "num_input_tokens_seen": 38747608, + "step": 19791 + }, + { + "epoch": 2.6231941683233932, + "grad_norm": 0.04090183600783348, + "learning_rate": 1.9228214407637695e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38748864, + "step": 19792 + }, + { + "epoch": 2.623326706428098, + "grad_norm": 6.516653060913086, + "learning_rate": 1.9214866048839654e-07, + "loss": 0.0429, + "num_input_tokens_seen": 38750536, + "step": 19793 + }, + { + "epoch": 2.6234592445328033, + "grad_norm": 0.03304719924926758, + "learning_rate": 1.9201522139738167e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38753008, + "step": 19794 + }, + { + "epoch": 2.6235917826375084, + "grad_norm": 0.004906546790152788, + "learning_rate": 1.918818268059061e-07, + "loss": 0.0, + "num_input_tokens_seen": 38754536, + "step": 19795 + }, + { + "epoch": 2.6237243207422134, + "grad_norm": 5.391851902008057, + "learning_rate": 1.917484767165409e-07, + "loss": 0.0338, + "num_input_tokens_seen": 38755592, + "step": 19796 + }, + { + "epoch": 2.6238568588469184, + "grad_norm": 1.4228373765945435, + "learning_rate": 1.916151711318573e-07, + "loss": 0.0389, + "num_input_tokens_seen": 38758480, + "step": 19797 + }, + { + "epoch": 2.6239893969516235, + "grad_norm": 0.01757168397307396, + "learning_rate": 1.91481910054426e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38760736, + "step": 19798 + }, + { + "epoch": 2.624121935056329, + "grad_norm": 0.0023080434184521437, + "learning_rate": 1.9134869348681556e-07, + "loss": 0.0, + "num_input_tokens_seen": 38762568, + "step": 19799 + }, + { + "epoch": 2.6242544731610336, + "grad_norm": 8.883512496948242, + "learning_rate": 1.9121552143159528e-07, + "loss": 0.1218, + "num_input_tokens_seen": 38764800, + "step": 19800 + }, + { + "epoch": 2.624387011265739, + "grad_norm": 0.8498203754425049, + "learning_rate": 1.910823938913328e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38766760, + "step": 19801 + }, + { + "epoch": 2.624519549370444, + "grad_norm": 0.004248417913913727, + "learning_rate": 1.909493108685942e-07, + "loss": 0.0, + "num_input_tokens_seen": 38767984, + "step": 19802 + }, + { + "epoch": 2.624652087475149, + "grad_norm": 0.005198840983211994, + "learning_rate": 1.908162723659457e-07, + "loss": 0.0, + "num_input_tokens_seen": 38769504, + "step": 19803 + }, + { + "epoch": 2.624784625579854, + "grad_norm": 0.0010867668315768242, + "learning_rate": 1.9068327838595246e-07, + "loss": 0.0, + "num_input_tokens_seen": 38770896, + "step": 19804 + }, + { + "epoch": 2.624917163684559, + "grad_norm": 0.01152516808360815, + "learning_rate": 1.9055032893117915e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38772896, + "step": 19805 + }, + { + "epoch": 2.6250497017892647, + "grad_norm": 5.803727626800537, + "learning_rate": 1.9041742400418866e-07, + "loss": 0.0076, + "num_input_tokens_seen": 38775808, + "step": 19806 + }, + { + "epoch": 2.6251822398939693, + "grad_norm": 4.524374961853027, + "learning_rate": 1.9028456360754345e-07, + "loss": 0.0321, + "num_input_tokens_seen": 38777784, + "step": 19807 + }, + { + "epoch": 2.6253147779986747, + "grad_norm": 0.0013586783315986395, + "learning_rate": 1.9015174774380528e-07, + "loss": 0.0, + "num_input_tokens_seen": 38778744, + "step": 19808 + }, + { + "epoch": 2.62544731610338, + "grad_norm": 6.243824481964111, + "learning_rate": 1.900189764155347e-07, + "loss": 0.0482, + "num_input_tokens_seen": 38780192, + "step": 19809 + }, + { + "epoch": 2.625579854208085, + "grad_norm": 3.989624500274658, + "learning_rate": 1.8988624962529151e-07, + "loss": 0.0304, + "num_input_tokens_seen": 38783488, + "step": 19810 + }, + { + "epoch": 2.62571239231279, + "grad_norm": 0.006453671958297491, + "learning_rate": 1.8975356737563567e-07, + "loss": 0.0, + "num_input_tokens_seen": 38784560, + "step": 19811 + }, + { + "epoch": 2.625844930417495, + "grad_norm": 10.892070770263672, + "learning_rate": 1.8962092966912483e-07, + "loss": 0.0658, + "num_input_tokens_seen": 38786240, + "step": 19812 + }, + { + "epoch": 2.6259774685222004, + "grad_norm": 0.002781492890790105, + "learning_rate": 1.894883365083164e-07, + "loss": 0.0, + "num_input_tokens_seen": 38787784, + "step": 19813 + }, + { + "epoch": 2.626110006626905, + "grad_norm": 0.007054154761135578, + "learning_rate": 1.8935578789576607e-07, + "loss": 0.0, + "num_input_tokens_seen": 38789096, + "step": 19814 + }, + { + "epoch": 2.6262425447316105, + "grad_norm": 0.28943291306495667, + "learning_rate": 1.8922328383403104e-07, + "loss": 0.0017, + "num_input_tokens_seen": 38791016, + "step": 19815 + }, + { + "epoch": 2.6263750828363155, + "grad_norm": 0.05346442013978958, + "learning_rate": 1.890908243256645e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38792808, + "step": 19816 + }, + { + "epoch": 2.6265076209410205, + "grad_norm": 5.49091911315918, + "learning_rate": 1.8895840937322134e-07, + "loss": 0.1693, + "num_input_tokens_seen": 38795824, + "step": 19817 + }, + { + "epoch": 2.6266401590457256, + "grad_norm": 0.026946239173412323, + "learning_rate": 1.8882603897925482e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38797368, + "step": 19818 + }, + { + "epoch": 2.6267726971504306, + "grad_norm": 0.0009256310295313597, + "learning_rate": 1.8869371314631623e-07, + "loss": 0.0, + "num_input_tokens_seen": 38799104, + "step": 19819 + }, + { + "epoch": 2.626905235255136, + "grad_norm": 5.3360395431518555, + "learning_rate": 1.8856143187695713e-07, + "loss": 0.0324, + "num_input_tokens_seen": 38800496, + "step": 19820 + }, + { + "epoch": 2.6270377733598407, + "grad_norm": 0.17862439155578613, + "learning_rate": 1.8842919517372854e-07, + "loss": 0.0012, + "num_input_tokens_seen": 38803248, + "step": 19821 + }, + { + "epoch": 2.627170311464546, + "grad_norm": 4.026628494262695, + "learning_rate": 1.8829700303917953e-07, + "loss": 0.0225, + "num_input_tokens_seen": 38805848, + "step": 19822 + }, + { + "epoch": 2.627302849569251, + "grad_norm": 7.196382999420166, + "learning_rate": 1.8816485547585916e-07, + "loss": 0.101, + "num_input_tokens_seen": 38807448, + "step": 19823 + }, + { + "epoch": 2.6274353876739562, + "grad_norm": 0.016932401806116104, + "learning_rate": 1.8803275248631542e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38809568, + "step": 19824 + }, + { + "epoch": 2.6275679257786613, + "grad_norm": 0.22900737822055817, + "learning_rate": 1.879006940730946e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38811464, + "step": 19825 + }, + { + "epoch": 2.6277004638833663, + "grad_norm": 0.26289063692092896, + "learning_rate": 1.8776868023874407e-07, + "loss": 0.0014, + "num_input_tokens_seen": 38813176, + "step": 19826 + }, + { + "epoch": 2.627833001988072, + "grad_norm": 14.400627136230469, + "learning_rate": 1.8763671098580792e-07, + "loss": 0.1487, + "num_input_tokens_seen": 38814808, + "step": 19827 + }, + { + "epoch": 2.627965540092777, + "grad_norm": 0.0033969345968216658, + "learning_rate": 1.8750478631683167e-07, + "loss": 0.0, + "num_input_tokens_seen": 38815816, + "step": 19828 + }, + { + "epoch": 2.628098078197482, + "grad_norm": 9.857460975646973, + "learning_rate": 1.873729062343585e-07, + "loss": 0.0272, + "num_input_tokens_seen": 38817824, + "step": 19829 + }, + { + "epoch": 2.628230616302187, + "grad_norm": 0.21560563147068024, + "learning_rate": 1.8724107074093057e-07, + "loss": 0.0007, + "num_input_tokens_seen": 38819672, + "step": 19830 + }, + { + "epoch": 2.628363154406892, + "grad_norm": 5.877389907836914, + "learning_rate": 1.8710927983909084e-07, + "loss": 0.0533, + "num_input_tokens_seen": 38822784, + "step": 19831 + }, + { + "epoch": 2.628495692511597, + "grad_norm": 0.019122915342450142, + "learning_rate": 1.8697753353137976e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38824544, + "step": 19832 + }, + { + "epoch": 2.628628230616302, + "grad_norm": 0.0026731607504189014, + "learning_rate": 1.86845831820337e-07, + "loss": 0.0, + "num_input_tokens_seen": 38825944, + "step": 19833 + }, + { + "epoch": 2.6287607687210075, + "grad_norm": 6.117276191711426, + "learning_rate": 1.8671417470850273e-07, + "loss": 0.16, + "num_input_tokens_seen": 38827936, + "step": 19834 + }, + { + "epoch": 2.6288933068257125, + "grad_norm": 12.60441780090332, + "learning_rate": 1.8658256219841463e-07, + "loss": 0.1214, + "num_input_tokens_seen": 38829528, + "step": 19835 + }, + { + "epoch": 2.6290258449304176, + "grad_norm": 10.467912673950195, + "learning_rate": 1.8645099429261127e-07, + "loss": 0.2085, + "num_input_tokens_seen": 38831216, + "step": 19836 + }, + { + "epoch": 2.6291583830351226, + "grad_norm": 0.005683396942913532, + "learning_rate": 1.8631947099362862e-07, + "loss": 0.0, + "num_input_tokens_seen": 38832512, + "step": 19837 + }, + { + "epoch": 2.6292909211398277, + "grad_norm": 0.00114800117444247, + "learning_rate": 1.8618799230400274e-07, + "loss": 0.0, + "num_input_tokens_seen": 38833880, + "step": 19838 + }, + { + "epoch": 2.6294234592445327, + "grad_norm": 2.264744997024536, + "learning_rate": 1.8605655822626828e-07, + "loss": 0.0152, + "num_input_tokens_seen": 38836352, + "step": 19839 + }, + { + "epoch": 2.6295559973492377, + "grad_norm": 27.523895263671875, + "learning_rate": 1.8592516876295957e-07, + "loss": 0.0684, + "num_input_tokens_seen": 38837696, + "step": 19840 + }, + { + "epoch": 2.629688535453943, + "grad_norm": 0.05799351632595062, + "learning_rate": 1.8579382391661043e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38839480, + "step": 19841 + }, + { + "epoch": 2.6298210735586482, + "grad_norm": 1.1518042087554932, + "learning_rate": 1.8566252368975275e-07, + "loss": 0.0027, + "num_input_tokens_seen": 38841496, + "step": 19842 + }, + { + "epoch": 2.6299536116633533, + "grad_norm": 5.671234607696533, + "learning_rate": 1.8553126808491832e-07, + "loss": 0.0395, + "num_input_tokens_seen": 38843912, + "step": 19843 + }, + { + "epoch": 2.6300861497680583, + "grad_norm": 0.9645246267318726, + "learning_rate": 1.854000571046377e-07, + "loss": 0.0018, + "num_input_tokens_seen": 38846984, + "step": 19844 + }, + { + "epoch": 2.6302186878727634, + "grad_norm": 0.0026462748646736145, + "learning_rate": 1.852688907514402e-07, + "loss": 0.0, + "num_input_tokens_seen": 38848728, + "step": 19845 + }, + { + "epoch": 2.6303512259774684, + "grad_norm": 8.64064884185791, + "learning_rate": 1.851377690278555e-07, + "loss": 0.047, + "num_input_tokens_seen": 38850792, + "step": 19846 + }, + { + "epoch": 2.6304837640821734, + "grad_norm": 4.990572929382324, + "learning_rate": 1.8500669193641186e-07, + "loss": 0.0417, + "num_input_tokens_seen": 38853112, + "step": 19847 + }, + { + "epoch": 2.630616302186879, + "grad_norm": 0.002292696852236986, + "learning_rate": 1.8487565947963638e-07, + "loss": 0.0, + "num_input_tokens_seen": 38855384, + "step": 19848 + }, + { + "epoch": 2.630748840291584, + "grad_norm": 13.123645782470703, + "learning_rate": 1.847446716600551e-07, + "loss": 0.0749, + "num_input_tokens_seen": 38857440, + "step": 19849 + }, + { + "epoch": 2.630881378396289, + "grad_norm": 0.028990715742111206, + "learning_rate": 1.8461372848019355e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38859288, + "step": 19850 + }, + { + "epoch": 2.631013916500994, + "grad_norm": 0.040633898228406906, + "learning_rate": 1.844828299425766e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38860912, + "step": 19851 + }, + { + "epoch": 2.631146454605699, + "grad_norm": 0.005968830548226833, + "learning_rate": 1.8435197604972838e-07, + "loss": 0.0, + "num_input_tokens_seen": 38862248, + "step": 19852 + }, + { + "epoch": 2.631278992710404, + "grad_norm": 0.07968772202730179, + "learning_rate": 1.8422116680417156e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38863480, + "step": 19853 + }, + { + "epoch": 2.631411530815109, + "grad_norm": 0.011876623146235943, + "learning_rate": 1.8409040220842834e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38865680, + "step": 19854 + }, + { + "epoch": 2.6315440689198146, + "grad_norm": 0.02079741843044758, + "learning_rate": 1.839596822650197e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38867120, + "step": 19855 + }, + { + "epoch": 2.6316766070245197, + "grad_norm": 0.18633709847927094, + "learning_rate": 1.8382900697646587e-07, + "loss": 0.0009, + "num_input_tokens_seen": 38868936, + "step": 19856 + }, + { + "epoch": 2.6318091451292247, + "grad_norm": 4.441710948944092, + "learning_rate": 1.8369837634528654e-07, + "loss": 0.0746, + "num_input_tokens_seen": 38871032, + "step": 19857 + }, + { + "epoch": 2.6319416832339297, + "grad_norm": 16.848413467407227, + "learning_rate": 1.8356779037400075e-07, + "loss": 0.1032, + "num_input_tokens_seen": 38873120, + "step": 19858 + }, + { + "epoch": 2.632074221338635, + "grad_norm": 0.01287469919770956, + "learning_rate": 1.8343724906512593e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38874776, + "step": 19859 + }, + { + "epoch": 2.63220675944334, + "grad_norm": 0.027764474973082542, + "learning_rate": 1.8330675242117929e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38875920, + "step": 19860 + }, + { + "epoch": 2.632339297548045, + "grad_norm": 0.007164470851421356, + "learning_rate": 1.8317630044467626e-07, + "loss": 0.0, + "num_input_tokens_seen": 38879152, + "step": 19861 + }, + { + "epoch": 2.6324718356527503, + "grad_norm": 0.00500657269731164, + "learning_rate": 1.8304589313813264e-07, + "loss": 0.0, + "num_input_tokens_seen": 38881712, + "step": 19862 + }, + { + "epoch": 2.6326043737574554, + "grad_norm": 0.07775654643774033, + "learning_rate": 1.8291553050406251e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38883064, + "step": 19863 + }, + { + "epoch": 2.6327369118621604, + "grad_norm": 2.480588436126709, + "learning_rate": 1.8278521254497944e-07, + "loss": 0.011, + "num_input_tokens_seen": 38884392, + "step": 19864 + }, + { + "epoch": 2.6328694499668654, + "grad_norm": 0.3145724833011627, + "learning_rate": 1.826549392633964e-07, + "loss": 0.0014, + "num_input_tokens_seen": 38886384, + "step": 19865 + }, + { + "epoch": 2.6330019880715705, + "grad_norm": 0.016920631751418114, + "learning_rate": 1.8252471066182415e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38888648, + "step": 19866 + }, + { + "epoch": 2.6331345261762755, + "grad_norm": 3.8198182582855225, + "learning_rate": 1.8239452674277485e-07, + "loss": 0.0208, + "num_input_tokens_seen": 38890496, + "step": 19867 + }, + { + "epoch": 2.6332670642809806, + "grad_norm": 3.271207332611084, + "learning_rate": 1.8226438750875763e-07, + "loss": 0.0164, + "num_input_tokens_seen": 38892096, + "step": 19868 + }, + { + "epoch": 2.633399602385686, + "grad_norm": 0.02111208066344261, + "learning_rate": 1.8213429296228158e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38893688, + "step": 19869 + }, + { + "epoch": 2.633532140490391, + "grad_norm": 4.609452724456787, + "learning_rate": 1.8200424310585606e-07, + "loss": 0.0188, + "num_input_tokens_seen": 38896368, + "step": 19870 + }, + { + "epoch": 2.633664678595096, + "grad_norm": 0.015867408365011215, + "learning_rate": 1.8187423794198716e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38897640, + "step": 19871 + }, + { + "epoch": 2.633797216699801, + "grad_norm": 12.80637264251709, + "learning_rate": 1.8174427747318258e-07, + "loss": 0.219, + "num_input_tokens_seen": 38898656, + "step": 19872 + }, + { + "epoch": 2.633929754804506, + "grad_norm": 0.004511797334998846, + "learning_rate": 1.8161436170194778e-07, + "loss": 0.0, + "num_input_tokens_seen": 38900280, + "step": 19873 + }, + { + "epoch": 2.6340622929092112, + "grad_norm": 2.459672212600708, + "learning_rate": 1.8148449063078723e-07, + "loss": 0.0212, + "num_input_tokens_seen": 38902632, + "step": 19874 + }, + { + "epoch": 2.6341948310139163, + "grad_norm": 8.193979263305664, + "learning_rate": 1.8135466426220495e-07, + "loss": 0.0357, + "num_input_tokens_seen": 38904736, + "step": 19875 + }, + { + "epoch": 2.6343273691186218, + "grad_norm": 1.1457719802856445, + "learning_rate": 1.8122488259870452e-07, + "loss": 0.0038, + "num_input_tokens_seen": 38906368, + "step": 19876 + }, + { + "epoch": 2.634459907223327, + "grad_norm": 3.193279504776001, + "learning_rate": 1.8109514564278786e-07, + "loss": 0.0093, + "num_input_tokens_seen": 38908208, + "step": 19877 + }, + { + "epoch": 2.634592445328032, + "grad_norm": 0.01182013563811779, + "learning_rate": 1.8096545339695655e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38909704, + "step": 19878 + }, + { + "epoch": 2.634724983432737, + "grad_norm": 6.101032733917236, + "learning_rate": 1.8083580586371134e-07, + "loss": 0.116, + "num_input_tokens_seen": 38912320, + "step": 19879 + }, + { + "epoch": 2.634857521537442, + "grad_norm": 0.003880533156916499, + "learning_rate": 1.8070620304555142e-07, + "loss": 0.0, + "num_input_tokens_seen": 38914000, + "step": 19880 + }, + { + "epoch": 2.6349900596421474, + "grad_norm": 1.8346939086914062, + "learning_rate": 1.8057664494497613e-07, + "loss": 0.0038, + "num_input_tokens_seen": 38915184, + "step": 19881 + }, + { + "epoch": 2.635122597746852, + "grad_norm": 0.03053249418735504, + "learning_rate": 1.804471315644829e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38917856, + "step": 19882 + }, + { + "epoch": 2.6352551358515575, + "grad_norm": 5.642035007476807, + "learning_rate": 1.803176629065695e-07, + "loss": 0.0425, + "num_input_tokens_seen": 38920192, + "step": 19883 + }, + { + "epoch": 2.6353876739562625, + "grad_norm": 15.781593322753906, + "learning_rate": 1.8018823897373167e-07, + "loss": 0.2407, + "num_input_tokens_seen": 38922224, + "step": 19884 + }, + { + "epoch": 2.6355202120609675, + "grad_norm": 0.04698694124817848, + "learning_rate": 1.8005885976846522e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38923768, + "step": 19885 + }, + { + "epoch": 2.6356527501656726, + "grad_norm": 0.007424511481076479, + "learning_rate": 1.7992952529326369e-07, + "loss": 0.0, + "num_input_tokens_seen": 38925576, + "step": 19886 + }, + { + "epoch": 2.6357852882703776, + "grad_norm": 0.003051064210012555, + "learning_rate": 1.7980023555062175e-07, + "loss": 0.0, + "num_input_tokens_seen": 38926960, + "step": 19887 + }, + { + "epoch": 2.635917826375083, + "grad_norm": 1.1274958848953247, + "learning_rate": 1.7967099054303217e-07, + "loss": 0.0052, + "num_input_tokens_seen": 38928576, + "step": 19888 + }, + { + "epoch": 2.6360503644797877, + "grad_norm": 0.09458813816308975, + "learning_rate": 1.795417902729865e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38930224, + "step": 19889 + }, + { + "epoch": 2.636182902584493, + "grad_norm": 0.07431977242231369, + "learning_rate": 1.7941263474297616e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38931752, + "step": 19890 + }, + { + "epoch": 2.636315440689198, + "grad_norm": 0.05226682871580124, + "learning_rate": 1.7928352395549104e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38934688, + "step": 19891 + }, + { + "epoch": 2.6364479787939032, + "grad_norm": 15.73684310913086, + "learning_rate": 1.7915445791302e-07, + "loss": 0.2547, + "num_input_tokens_seen": 38936656, + "step": 19892 + }, + { + "epoch": 2.6365805168986083, + "grad_norm": 3.693511724472046, + "learning_rate": 1.7902543661805217e-07, + "loss": 0.0431, + "num_input_tokens_seen": 38938440, + "step": 19893 + }, + { + "epoch": 2.6367130550033133, + "grad_norm": 14.132867813110352, + "learning_rate": 1.7889646007307553e-07, + "loss": 0.113, + "num_input_tokens_seen": 38940632, + "step": 19894 + }, + { + "epoch": 2.636845593108019, + "grad_norm": 0.5871493816375732, + "learning_rate": 1.7876752828057647e-07, + "loss": 0.002, + "num_input_tokens_seen": 38942072, + "step": 19895 + }, + { + "epoch": 2.6369781312127234, + "grad_norm": 0.05219053104519844, + "learning_rate": 1.7863864124304047e-07, + "loss": 0.0003, + "num_input_tokens_seen": 38944152, + "step": 19896 + }, + { + "epoch": 2.637110669317429, + "grad_norm": 0.008763797581195831, + "learning_rate": 1.7850979896295278e-07, + "loss": 0.0, + "num_input_tokens_seen": 38945872, + "step": 19897 + }, + { + "epoch": 2.637243207422134, + "grad_norm": 0.024244124069809914, + "learning_rate": 1.7838100144279808e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38947832, + "step": 19898 + }, + { + "epoch": 2.637375745526839, + "grad_norm": 17.92586326599121, + "learning_rate": 1.782522486850588e-07, + "loss": 0.1235, + "num_input_tokens_seen": 38949520, + "step": 19899 + }, + { + "epoch": 2.637508283631544, + "grad_norm": 0.19952444732189178, + "learning_rate": 1.7812354069221826e-07, + "loss": 0.001, + "num_input_tokens_seen": 38950832, + "step": 19900 + }, + { + "epoch": 2.637640821736249, + "grad_norm": 0.004044728819280863, + "learning_rate": 1.7799487746675754e-07, + "loss": 0.0, + "num_input_tokens_seen": 38952136, + "step": 19901 + }, + { + "epoch": 2.6377733598409545, + "grad_norm": 0.09898005425930023, + "learning_rate": 1.7786625901115767e-07, + "loss": 0.0005, + "num_input_tokens_seen": 38955088, + "step": 19902 + }, + { + "epoch": 2.637905897945659, + "grad_norm": 3.3267083168029785, + "learning_rate": 1.777376853278978e-07, + "loss": 0.033, + "num_input_tokens_seen": 38956840, + "step": 19903 + }, + { + "epoch": 2.6380384360503646, + "grad_norm": 0.019604451954364777, + "learning_rate": 1.7760915641945736e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38957904, + "step": 19904 + }, + { + "epoch": 2.6381709741550696, + "grad_norm": 0.34980395436286926, + "learning_rate": 1.774806722883149e-07, + "loss": 0.0015, + "num_input_tokens_seen": 38959536, + "step": 19905 + }, + { + "epoch": 2.6383035122597747, + "grad_norm": 3.580228567123413, + "learning_rate": 1.773522329369473e-07, + "loss": 0.015, + "num_input_tokens_seen": 38961464, + "step": 19906 + }, + { + "epoch": 2.6384360503644797, + "grad_norm": 0.026035038754343987, + "learning_rate": 1.7722383836783096e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38962704, + "step": 19907 + }, + { + "epoch": 2.6385685884691847, + "grad_norm": 0.003725981106981635, + "learning_rate": 1.7709548858344112e-07, + "loss": 0.0, + "num_input_tokens_seen": 38964488, + "step": 19908 + }, + { + "epoch": 2.63870112657389, + "grad_norm": 4.675106525421143, + "learning_rate": 1.7696718358625297e-07, + "loss": 0.0308, + "num_input_tokens_seen": 38966400, + "step": 19909 + }, + { + "epoch": 2.6388336646785953, + "grad_norm": 0.006604394875466824, + "learning_rate": 1.7683892337873987e-07, + "loss": 0.0, + "num_input_tokens_seen": 38967816, + "step": 19910 + }, + { + "epoch": 2.6389662027833003, + "grad_norm": 4.267369270324707, + "learning_rate": 1.7671070796337535e-07, + "loss": 0.0399, + "num_input_tokens_seen": 38969656, + "step": 19911 + }, + { + "epoch": 2.6390987408880053, + "grad_norm": 0.3346015512943268, + "learning_rate": 1.7658253734263108e-07, + "loss": 0.0014, + "num_input_tokens_seen": 38971112, + "step": 19912 + }, + { + "epoch": 2.6392312789927104, + "grad_norm": 0.14386485517024994, + "learning_rate": 1.7645441151897786e-07, + "loss": 0.0004, + "num_input_tokens_seen": 38973728, + "step": 19913 + }, + { + "epoch": 2.6393638170974154, + "grad_norm": 2.9693682193756104, + "learning_rate": 1.76326330494887e-07, + "loss": 0.0138, + "num_input_tokens_seen": 38976016, + "step": 19914 + }, + { + "epoch": 2.6394963552021204, + "grad_norm": 2.772496223449707, + "learning_rate": 1.761982942728277e-07, + "loss": 0.0116, + "num_input_tokens_seen": 38977704, + "step": 19915 + }, + { + "epoch": 2.639628893306826, + "grad_norm": 4.7372026443481445, + "learning_rate": 1.7607030285526767e-07, + "loss": 0.053, + "num_input_tokens_seen": 38980416, + "step": 19916 + }, + { + "epoch": 2.639761431411531, + "grad_norm": 0.011975102126598358, + "learning_rate": 1.7594235624467605e-07, + "loss": 0.0001, + "num_input_tokens_seen": 38981872, + "step": 19917 + }, + { + "epoch": 2.639893969516236, + "grad_norm": 0.3138246238231659, + "learning_rate": 1.7581445444351862e-07, + "loss": 0.0013, + "num_input_tokens_seen": 38983144, + "step": 19918 + }, + { + "epoch": 2.640026507620941, + "grad_norm": 7.129380226135254, + "learning_rate": 1.756865974542621e-07, + "loss": 0.1041, + "num_input_tokens_seen": 38984920, + "step": 19919 + }, + { + "epoch": 2.640159045725646, + "grad_norm": 5.539901256561279, + "learning_rate": 1.7555878527937164e-07, + "loss": 0.0971, + "num_input_tokens_seen": 38986480, + "step": 19920 + }, + { + "epoch": 2.640291583830351, + "grad_norm": 17.023334503173828, + "learning_rate": 1.7543101792131145e-07, + "loss": 0.1507, + "num_input_tokens_seen": 38989328, + "step": 19921 + }, + { + "epoch": 2.640424121935056, + "grad_norm": 14.090907096862793, + "learning_rate": 1.7530329538254425e-07, + "loss": 0.2161, + "num_input_tokens_seen": 38990888, + "step": 19922 + }, + { + "epoch": 2.6405566600397616, + "grad_norm": 0.0051709674298763275, + "learning_rate": 1.7517561766553337e-07, + "loss": 0.0, + "num_input_tokens_seen": 38992536, + "step": 19923 + }, + { + "epoch": 2.6406891981444667, + "grad_norm": 1.495229721069336, + "learning_rate": 1.750479847727407e-07, + "loss": 0.0025, + "num_input_tokens_seen": 38994320, + "step": 19924 + }, + { + "epoch": 2.6408217362491717, + "grad_norm": 0.15092863142490387, + "learning_rate": 1.749203967066268e-07, + "loss": 0.0006, + "num_input_tokens_seen": 38997080, + "step": 19925 + }, + { + "epoch": 2.6409542743538768, + "grad_norm": 0.03637028485536575, + "learning_rate": 1.7479285346965162e-07, + "loss": 0.0002, + "num_input_tokens_seen": 38999280, + "step": 19926 + }, + { + "epoch": 2.641086812458582, + "grad_norm": 4.16127872467041, + "learning_rate": 1.7466535506427434e-07, + "loss": 0.0698, + "num_input_tokens_seen": 39001240, + "step": 19927 + }, + { + "epoch": 2.641219350563287, + "grad_norm": 0.0031853823456913233, + "learning_rate": 1.7453790149295296e-07, + "loss": 0.0, + "num_input_tokens_seen": 39002928, + "step": 19928 + }, + { + "epoch": 2.641351888667992, + "grad_norm": 0.8193962574005127, + "learning_rate": 1.744104927581447e-07, + "loss": 0.0019, + "num_input_tokens_seen": 39004568, + "step": 19929 + }, + { + "epoch": 2.6414844267726973, + "grad_norm": 0.03946051001548767, + "learning_rate": 1.742831288623073e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39006584, + "step": 19930 + }, + { + "epoch": 2.6416169648774024, + "grad_norm": 0.007678720634430647, + "learning_rate": 1.7415580980789522e-07, + "loss": 0.0, + "num_input_tokens_seen": 39008040, + "step": 19931 + }, + { + "epoch": 2.6417495029821074, + "grad_norm": 1.199819564819336, + "learning_rate": 1.7402853559736393e-07, + "loss": 0.0063, + "num_input_tokens_seen": 39010128, + "step": 19932 + }, + { + "epoch": 2.6418820410868125, + "grad_norm": 17.225217819213867, + "learning_rate": 1.7390130623316653e-07, + "loss": 0.207, + "num_input_tokens_seen": 39011696, + "step": 19933 + }, + { + "epoch": 2.6420145791915175, + "grad_norm": 0.04431646689772606, + "learning_rate": 1.7377412171775687e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39014336, + "step": 19934 + }, + { + "epoch": 2.6421471172962225, + "grad_norm": 14.560745239257812, + "learning_rate": 1.7364698205358715e-07, + "loss": 0.0488, + "num_input_tokens_seen": 39016568, + "step": 19935 + }, + { + "epoch": 2.6422796554009276, + "grad_norm": 0.004816378001123667, + "learning_rate": 1.7351988724310848e-07, + "loss": 0.0, + "num_input_tokens_seen": 39018424, + "step": 19936 + }, + { + "epoch": 2.642412193505633, + "grad_norm": 1.3067947626113892, + "learning_rate": 1.7339283728877139e-07, + "loss": 0.0083, + "num_input_tokens_seen": 39020640, + "step": 19937 + }, + { + "epoch": 2.642544731610338, + "grad_norm": 9.525301933288574, + "learning_rate": 1.732658321930253e-07, + "loss": 0.0819, + "num_input_tokens_seen": 39022872, + "step": 19938 + }, + { + "epoch": 2.642677269715043, + "grad_norm": 0.13601581752300262, + "learning_rate": 1.731388719583188e-07, + "loss": 0.0007, + "num_input_tokens_seen": 39024160, + "step": 19939 + }, + { + "epoch": 2.642809807819748, + "grad_norm": 4.722878932952881, + "learning_rate": 1.7301195658709996e-07, + "loss": 0.0496, + "num_input_tokens_seen": 39026040, + "step": 19940 + }, + { + "epoch": 2.642942345924453, + "grad_norm": 11.298348426818848, + "learning_rate": 1.7288508608181652e-07, + "loss": 0.1451, + "num_input_tokens_seen": 39028560, + "step": 19941 + }, + { + "epoch": 2.6430748840291582, + "grad_norm": 0.6074582934379578, + "learning_rate": 1.7275826044491378e-07, + "loss": 0.0017, + "num_input_tokens_seen": 39031816, + "step": 19942 + }, + { + "epoch": 2.6432074221338633, + "grad_norm": 0.04165493696928024, + "learning_rate": 1.7263147967883753e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39033400, + "step": 19943 + }, + { + "epoch": 2.6433399602385688, + "grad_norm": 0.010375391691923141, + "learning_rate": 1.7250474378603137e-07, + "loss": 0.0, + "num_input_tokens_seen": 39034640, + "step": 19944 + }, + { + "epoch": 2.643472498343274, + "grad_norm": 4.652912139892578, + "learning_rate": 1.7237805276893975e-07, + "loss": 0.0718, + "num_input_tokens_seen": 39036184, + "step": 19945 + }, + { + "epoch": 2.643605036447979, + "grad_norm": 21.221359252929688, + "learning_rate": 1.7225140663000462e-07, + "loss": 0.1263, + "num_input_tokens_seen": 39038120, + "step": 19946 + }, + { + "epoch": 2.643737574552684, + "grad_norm": 0.020312394946813583, + "learning_rate": 1.721248053716687e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39039672, + "step": 19947 + }, + { + "epoch": 2.643870112657389, + "grad_norm": 0.028406143188476562, + "learning_rate": 1.719982489963723e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39041048, + "step": 19948 + }, + { + "epoch": 2.644002650762094, + "grad_norm": 3.6935346126556396, + "learning_rate": 1.718717375065554e-07, + "loss": 0.0266, + "num_input_tokens_seen": 39042824, + "step": 19949 + }, + { + "epoch": 2.644135188866799, + "grad_norm": 15.869932174682617, + "learning_rate": 1.7174527090465798e-07, + "loss": 0.0229, + "num_input_tokens_seen": 39044888, + "step": 19950 + }, + { + "epoch": 2.6442677269715045, + "grad_norm": 0.4168020486831665, + "learning_rate": 1.7161884919311783e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39046600, + "step": 19951 + }, + { + "epoch": 2.6444002650762095, + "grad_norm": 21.429616928100586, + "learning_rate": 1.7149247237437215e-07, + "loss": 0.0845, + "num_input_tokens_seen": 39047992, + "step": 19952 + }, + { + "epoch": 2.6445328031809145, + "grad_norm": 0.9962335824966431, + "learning_rate": 1.713661404508582e-07, + "loss": 0.0064, + "num_input_tokens_seen": 39049656, + "step": 19953 + }, + { + "epoch": 2.6446653412856196, + "grad_norm": 0.1471930295228958, + "learning_rate": 1.712398534250112e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39051072, + "step": 19954 + }, + { + "epoch": 2.6447978793903246, + "grad_norm": 4.736299514770508, + "learning_rate": 1.7111361129926674e-07, + "loss": 0.0157, + "num_input_tokens_seen": 39052592, + "step": 19955 + }, + { + "epoch": 2.6449304174950297, + "grad_norm": 0.05444004759192467, + "learning_rate": 1.7098741407605868e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39053912, + "step": 19956 + }, + { + "epoch": 2.6450629555997347, + "grad_norm": 9.947511672973633, + "learning_rate": 1.7086126175781926e-07, + "loss": 0.166, + "num_input_tokens_seen": 39056856, + "step": 19957 + }, + { + "epoch": 2.64519549370444, + "grad_norm": 0.0481526181101799, + "learning_rate": 1.7073515434698207e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39058928, + "step": 19958 + }, + { + "epoch": 2.645328031809145, + "grad_norm": 0.006598897278308868, + "learning_rate": 1.7060909184597797e-07, + "loss": 0.0, + "num_input_tokens_seen": 39060424, + "step": 19959 + }, + { + "epoch": 2.6454605699138503, + "grad_norm": 0.0009480995358899236, + "learning_rate": 1.704830742572372e-07, + "loss": 0.0, + "num_input_tokens_seen": 39061736, + "step": 19960 + }, + { + "epoch": 2.6455931080185553, + "grad_norm": 0.0014780407072976232, + "learning_rate": 1.703571015831901e-07, + "loss": 0.0, + "num_input_tokens_seen": 39062840, + "step": 19961 + }, + { + "epoch": 2.6457256461232603, + "grad_norm": 0.6250894665718079, + "learning_rate": 1.7023117382626518e-07, + "loss": 0.0021, + "num_input_tokens_seen": 39064896, + "step": 19962 + }, + { + "epoch": 2.645858184227966, + "grad_norm": 0.002213862957432866, + "learning_rate": 1.7010529098889034e-07, + "loss": 0.0, + "num_input_tokens_seen": 39066224, + "step": 19963 + }, + { + "epoch": 2.6459907223326704, + "grad_norm": 7.723633766174316, + "learning_rate": 1.6997945307349302e-07, + "loss": 0.0511, + "num_input_tokens_seen": 39069408, + "step": 19964 + }, + { + "epoch": 2.646123260437376, + "grad_norm": 0.018439266830682755, + "learning_rate": 1.6985366008249875e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39070664, + "step": 19965 + }, + { + "epoch": 2.646255798542081, + "grad_norm": 12.208579063415527, + "learning_rate": 1.697279120183337e-07, + "loss": 0.1349, + "num_input_tokens_seen": 39072512, + "step": 19966 + }, + { + "epoch": 2.646388336646786, + "grad_norm": 5.34529447555542, + "learning_rate": 1.6960220888342233e-07, + "loss": 0.0333, + "num_input_tokens_seen": 39074344, + "step": 19967 + }, + { + "epoch": 2.646520874751491, + "grad_norm": 3.3625733852386475, + "learning_rate": 1.6947655068018793e-07, + "loss": 0.0318, + "num_input_tokens_seen": 39076168, + "step": 19968 + }, + { + "epoch": 2.646653412856196, + "grad_norm": 0.09358619153499603, + "learning_rate": 1.6935093741105302e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39078136, + "step": 19969 + }, + { + "epoch": 2.6467859509609015, + "grad_norm": 11.284737586975098, + "learning_rate": 1.6922536907843983e-07, + "loss": 0.105, + "num_input_tokens_seen": 39079288, + "step": 19970 + }, + { + "epoch": 2.646918489065606, + "grad_norm": 12.570952415466309, + "learning_rate": 1.6909984568477007e-07, + "loss": 0.0717, + "num_input_tokens_seen": 39082000, + "step": 19971 + }, + { + "epoch": 2.6470510271703116, + "grad_norm": 15.462092399597168, + "learning_rate": 1.6897436723246284e-07, + "loss": 0.2438, + "num_input_tokens_seen": 39083848, + "step": 19972 + }, + { + "epoch": 2.6471835652750166, + "grad_norm": 0.006328567396849394, + "learning_rate": 1.6884893372393823e-07, + "loss": 0.0, + "num_input_tokens_seen": 39085256, + "step": 19973 + }, + { + "epoch": 2.6473161033797217, + "grad_norm": 0.011133326217532158, + "learning_rate": 1.6872354516161427e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39086768, + "step": 19974 + }, + { + "epoch": 2.6474486414844267, + "grad_norm": 5.95301628112793, + "learning_rate": 1.6859820154790819e-07, + "loss": 0.0932, + "num_input_tokens_seen": 39088624, + "step": 19975 + }, + { + "epoch": 2.6475811795891318, + "grad_norm": 3.5081679821014404, + "learning_rate": 1.6847290288523722e-07, + "loss": 0.0609, + "num_input_tokens_seen": 39090136, + "step": 19976 + }, + { + "epoch": 2.6477137176938372, + "grad_norm": 5.2423624992370605, + "learning_rate": 1.6834764917601749e-07, + "loss": 0.0132, + "num_input_tokens_seen": 39091904, + "step": 19977 + }, + { + "epoch": 2.647846255798542, + "grad_norm": 0.34484416246414185, + "learning_rate": 1.6822244042266345e-07, + "loss": 0.0013, + "num_input_tokens_seen": 39094352, + "step": 19978 + }, + { + "epoch": 2.6479787939032473, + "grad_norm": 0.11933187395334244, + "learning_rate": 1.6809727662758958e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39096840, + "step": 19979 + }, + { + "epoch": 2.6481113320079523, + "grad_norm": 0.03326604142785072, + "learning_rate": 1.6797215779320864e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39098472, + "step": 19980 + }, + { + "epoch": 2.6482438701126574, + "grad_norm": 0.00959748961031437, + "learning_rate": 1.6784708392193344e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39101304, + "step": 19981 + }, + { + "epoch": 2.6483764082173624, + "grad_norm": 4.482297897338867, + "learning_rate": 1.6772205501617482e-07, + "loss": 0.0214, + "num_input_tokens_seen": 39103456, + "step": 19982 + }, + { + "epoch": 2.6485089463220675, + "grad_norm": 4.820776462554932, + "learning_rate": 1.675970710783445e-07, + "loss": 0.0455, + "num_input_tokens_seen": 39105648, + "step": 19983 + }, + { + "epoch": 2.648641484426773, + "grad_norm": 0.055431704968214035, + "learning_rate": 1.674721321108519e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39108032, + "step": 19984 + }, + { + "epoch": 2.6487740225314775, + "grad_norm": 3.939870595932007, + "learning_rate": 1.673472381161051e-07, + "loss": 0.0462, + "num_input_tokens_seen": 39110272, + "step": 19985 + }, + { + "epoch": 2.648906560636183, + "grad_norm": 0.06875581294298172, + "learning_rate": 1.67222389096513e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39113216, + "step": 19986 + }, + { + "epoch": 2.649039098740888, + "grad_norm": 0.004226888995617628, + "learning_rate": 1.670975850544823e-07, + "loss": 0.0, + "num_input_tokens_seen": 39115896, + "step": 19987 + }, + { + "epoch": 2.649171636845593, + "grad_norm": 2.1376240253448486, + "learning_rate": 1.6697282599241998e-07, + "loss": 0.006, + "num_input_tokens_seen": 39116952, + "step": 19988 + }, + { + "epoch": 2.649304174950298, + "grad_norm": 13.674684524536133, + "learning_rate": 1.6684811191273104e-07, + "loss": 0.1966, + "num_input_tokens_seen": 39119520, + "step": 19989 + }, + { + "epoch": 2.649436713055003, + "grad_norm": 0.5422107577323914, + "learning_rate": 1.6672344281781994e-07, + "loss": 0.0021, + "num_input_tokens_seen": 39121696, + "step": 19990 + }, + { + "epoch": 2.6495692511597086, + "grad_norm": 0.005797104444354773, + "learning_rate": 1.6659881871009032e-07, + "loss": 0.0, + "num_input_tokens_seen": 39123520, + "step": 19991 + }, + { + "epoch": 2.6497017892644132, + "grad_norm": 4.735316276550293, + "learning_rate": 1.6647423959194554e-07, + "loss": 0.0399, + "num_input_tokens_seen": 39125328, + "step": 19992 + }, + { + "epoch": 2.6498343273691187, + "grad_norm": 0.011999591253697872, + "learning_rate": 1.6634970546578672e-07, + "loss": 0.0, + "num_input_tokens_seen": 39126584, + "step": 19993 + }, + { + "epoch": 2.6499668654738238, + "grad_norm": 0.24750719964504242, + "learning_rate": 1.6622521633401612e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39128784, + "step": 19994 + }, + { + "epoch": 2.650099403578529, + "grad_norm": 3.515619993209839, + "learning_rate": 1.6610077219903292e-07, + "loss": 0.0575, + "num_input_tokens_seen": 39131256, + "step": 19995 + }, + { + "epoch": 2.650231941683234, + "grad_norm": 7.976091384887695, + "learning_rate": 1.659763730632369e-07, + "loss": 0.1472, + "num_input_tokens_seen": 39133248, + "step": 19996 + }, + { + "epoch": 2.650364479787939, + "grad_norm": 8.442564010620117, + "learning_rate": 1.658520189290269e-07, + "loss": 0.0996, + "num_input_tokens_seen": 39135272, + "step": 19997 + }, + { + "epoch": 2.6504970178926444, + "grad_norm": 0.8371568918228149, + "learning_rate": 1.657277097988e-07, + "loss": 0.0038, + "num_input_tokens_seen": 39137376, + "step": 19998 + }, + { + "epoch": 2.6506295559973494, + "grad_norm": 7.709126949310303, + "learning_rate": 1.6560344567495307e-07, + "loss": 0.0709, + "num_input_tokens_seen": 39139376, + "step": 19999 + }, + { + "epoch": 2.6507620941020544, + "grad_norm": 0.45898982882499695, + "learning_rate": 1.654792265598823e-07, + "loss": 0.002, + "num_input_tokens_seen": 39141376, + "step": 20000 + }, + { + "epoch": 2.6508946322067595, + "grad_norm": 3.2740676403045654, + "learning_rate": 1.6535505245598215e-07, + "loss": 0.0165, + "num_input_tokens_seen": 39143256, + "step": 20001 + }, + { + "epoch": 2.6510271703114645, + "grad_norm": 0.0170175451785326, + "learning_rate": 1.6523092336564768e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39144640, + "step": 20002 + }, + { + "epoch": 2.6511597084161695, + "grad_norm": 11.66884994506836, + "learning_rate": 1.6510683929127192e-07, + "loss": 0.1005, + "num_input_tokens_seen": 39147272, + "step": 20003 + }, + { + "epoch": 2.6512922465208746, + "grad_norm": 0.01447171438485384, + "learning_rate": 1.649828002352466e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39148952, + "step": 20004 + }, + { + "epoch": 2.65142478462558, + "grad_norm": 5.252066612243652, + "learning_rate": 1.648588061999637e-07, + "loss": 0.0328, + "num_input_tokens_seen": 39150856, + "step": 20005 + }, + { + "epoch": 2.651557322730285, + "grad_norm": 7.80180549621582, + "learning_rate": 1.647348571878138e-07, + "loss": 0.0612, + "num_input_tokens_seen": 39152544, + "step": 20006 + }, + { + "epoch": 2.65168986083499, + "grad_norm": 0.15701831877231598, + "learning_rate": 1.646109532011872e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39154024, + "step": 20007 + }, + { + "epoch": 2.651822398939695, + "grad_norm": 3.1685616970062256, + "learning_rate": 1.6448709424247256e-07, + "loss": 0.0168, + "num_input_tokens_seen": 39155264, + "step": 20008 + }, + { + "epoch": 2.6519549370444, + "grad_norm": 0.016454381868243217, + "learning_rate": 1.6436328031405796e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39156616, + "step": 20009 + }, + { + "epoch": 2.6520874751491053, + "grad_norm": 8.28774642944336, + "learning_rate": 1.642395114183301e-07, + "loss": 0.0458, + "num_input_tokens_seen": 39159264, + "step": 20010 + }, + { + "epoch": 2.6522200132538103, + "grad_norm": 4.7118048667907715, + "learning_rate": 1.64115787557676e-07, + "loss": 0.0521, + "num_input_tokens_seen": 39161656, + "step": 20011 + }, + { + "epoch": 2.6523525513585158, + "grad_norm": 2.692826271057129, + "learning_rate": 1.639921087344812e-07, + "loss": 0.0113, + "num_input_tokens_seen": 39163192, + "step": 20012 + }, + { + "epoch": 2.652485089463221, + "grad_norm": 9.105107307434082, + "learning_rate": 1.6386847495113017e-07, + "loss": 0.0741, + "num_input_tokens_seen": 39165008, + "step": 20013 + }, + { + "epoch": 2.652617627567926, + "grad_norm": 3.4778482913970947, + "learning_rate": 1.6374488621000662e-07, + "loss": 0.023, + "num_input_tokens_seen": 39166880, + "step": 20014 + }, + { + "epoch": 2.652750165672631, + "grad_norm": 5.938304901123047, + "learning_rate": 1.6362134251349332e-07, + "loss": 0.0589, + "num_input_tokens_seen": 39169112, + "step": 20015 + }, + { + "epoch": 2.652882703777336, + "grad_norm": 2.8815531730651855, + "learning_rate": 1.634978438639717e-07, + "loss": 0.0362, + "num_input_tokens_seen": 39171424, + "step": 20016 + }, + { + "epoch": 2.653015241882041, + "grad_norm": 5.1492815017700195, + "learning_rate": 1.633743902638238e-07, + "loss": 0.0474, + "num_input_tokens_seen": 39173640, + "step": 20017 + }, + { + "epoch": 2.653147779986746, + "grad_norm": 0.01200445368885994, + "learning_rate": 1.6325098171542986e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39176200, + "step": 20018 + }, + { + "epoch": 2.6532803180914515, + "grad_norm": 0.16650548577308655, + "learning_rate": 1.6312761822116914e-07, + "loss": 0.0007, + "num_input_tokens_seen": 39177848, + "step": 20019 + }, + { + "epoch": 2.6534128561961565, + "grad_norm": 0.0016646881122142076, + "learning_rate": 1.6300429978341997e-07, + "loss": 0.0, + "num_input_tokens_seen": 39179048, + "step": 20020 + }, + { + "epoch": 2.6535453943008616, + "grad_norm": 0.009938289411365986, + "learning_rate": 1.6288102640455993e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39180648, + "step": 20021 + }, + { + "epoch": 2.6536779324055666, + "grad_norm": 0.06868237257003784, + "learning_rate": 1.62757798086966e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39182360, + "step": 20022 + }, + { + "epoch": 2.6538104705102716, + "grad_norm": 0.0029044339898973703, + "learning_rate": 1.626346148330138e-07, + "loss": 0.0, + "num_input_tokens_seen": 39184008, + "step": 20023 + }, + { + "epoch": 2.6539430086149767, + "grad_norm": 3.9993114471435547, + "learning_rate": 1.6251147664507917e-07, + "loss": 0.0263, + "num_input_tokens_seen": 39186424, + "step": 20024 + }, + { + "epoch": 2.6540755467196817, + "grad_norm": 0.1993933618068695, + "learning_rate": 1.6238838352553603e-07, + "loss": 0.001, + "num_input_tokens_seen": 39188064, + "step": 20025 + }, + { + "epoch": 2.654208084824387, + "grad_norm": 0.996856689453125, + "learning_rate": 1.6226533547675726e-07, + "loss": 0.0027, + "num_input_tokens_seen": 39189456, + "step": 20026 + }, + { + "epoch": 2.6543406229290922, + "grad_norm": 1.2736454010009766, + "learning_rate": 1.621423325011151e-07, + "loss": 0.0185, + "num_input_tokens_seen": 39190800, + "step": 20027 + }, + { + "epoch": 2.6544731610337973, + "grad_norm": 18.34808349609375, + "learning_rate": 1.620193746009821e-07, + "loss": 0.2632, + "num_input_tokens_seen": 39192400, + "step": 20028 + }, + { + "epoch": 2.6546056991385023, + "grad_norm": 11.78628158569336, + "learning_rate": 1.6189646177872804e-07, + "loss": 0.24, + "num_input_tokens_seen": 39194800, + "step": 20029 + }, + { + "epoch": 2.6547382372432073, + "grad_norm": 0.11824502795934677, + "learning_rate": 1.617735940367235e-07, + "loss": 0.0008, + "num_input_tokens_seen": 39197024, + "step": 20030 + }, + { + "epoch": 2.6548707753479124, + "grad_norm": 1.2106844186782837, + "learning_rate": 1.6165077137733715e-07, + "loss": 0.0096, + "num_input_tokens_seen": 39199280, + "step": 20031 + }, + { + "epoch": 2.6550033134526174, + "grad_norm": 0.033760473132133484, + "learning_rate": 1.6152799380293683e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39200808, + "step": 20032 + }, + { + "epoch": 2.655135851557323, + "grad_norm": 0.06833388656377792, + "learning_rate": 1.6140526131589035e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39202744, + "step": 20033 + }, + { + "epoch": 2.655268389662028, + "grad_norm": 0.031996142119169235, + "learning_rate": 1.6128257391856362e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39205224, + "step": 20034 + }, + { + "epoch": 2.655400927766733, + "grad_norm": 87.51895141601562, + "learning_rate": 1.6115993161332193e-07, + "loss": 0.1354, + "num_input_tokens_seen": 39207520, + "step": 20035 + }, + { + "epoch": 2.655533465871438, + "grad_norm": 4.961874961853027, + "learning_rate": 1.6103733440253066e-07, + "loss": 0.0359, + "num_input_tokens_seen": 39209240, + "step": 20036 + }, + { + "epoch": 2.655666003976143, + "grad_norm": 0.05917447432875633, + "learning_rate": 1.609147822885526e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39210456, + "step": 20037 + }, + { + "epoch": 2.655798542080848, + "grad_norm": 1.1534103155136108, + "learning_rate": 1.6079227527375175e-07, + "loss": 0.0055, + "num_input_tokens_seen": 39212240, + "step": 20038 + }, + { + "epoch": 2.655931080185553, + "grad_norm": 2.2544357776641846, + "learning_rate": 1.6066981336048947e-07, + "loss": 0.0182, + "num_input_tokens_seen": 39215136, + "step": 20039 + }, + { + "epoch": 2.6560636182902586, + "grad_norm": 1.5119657516479492, + "learning_rate": 1.6054739655112672e-07, + "loss": 0.0063, + "num_input_tokens_seen": 39216776, + "step": 20040 + }, + { + "epoch": 2.6561961563949636, + "grad_norm": 0.021279633045196533, + "learning_rate": 1.6042502484802463e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39218128, + "step": 20041 + }, + { + "epoch": 2.6563286944996687, + "grad_norm": 4.328943252563477, + "learning_rate": 1.6030269825354133e-07, + "loss": 0.0696, + "num_input_tokens_seen": 39219584, + "step": 20042 + }, + { + "epoch": 2.6564612326043737, + "grad_norm": 0.04322853684425354, + "learning_rate": 1.601804167700366e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39221344, + "step": 20043 + }, + { + "epoch": 2.6565937707090788, + "grad_norm": 6.227418422698975, + "learning_rate": 1.600581803998677e-07, + "loss": 0.0517, + "num_input_tokens_seen": 39223648, + "step": 20044 + }, + { + "epoch": 2.656726308813784, + "grad_norm": 49.591705322265625, + "learning_rate": 1.599359891453911e-07, + "loss": 0.1447, + "num_input_tokens_seen": 39226208, + "step": 20045 + }, + { + "epoch": 2.656858846918489, + "grad_norm": 6.170390605926514, + "learning_rate": 1.5981384300896268e-07, + "loss": 0.0707, + "num_input_tokens_seen": 39228200, + "step": 20046 + }, + { + "epoch": 2.6569913850231943, + "grad_norm": 0.04464423283934593, + "learning_rate": 1.5969174199293806e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39230232, + "step": 20047 + }, + { + "epoch": 2.6571239231278994, + "grad_norm": 0.007255627308040857, + "learning_rate": 1.5956968609967094e-07, + "loss": 0.0, + "num_input_tokens_seen": 39231600, + "step": 20048 + }, + { + "epoch": 2.6572564612326044, + "grad_norm": 0.0022484089713543653, + "learning_rate": 1.5944767533151522e-07, + "loss": 0.0, + "num_input_tokens_seen": 39232896, + "step": 20049 + }, + { + "epoch": 2.6573889993373094, + "grad_norm": 23.103734970092773, + "learning_rate": 1.5932570969082296e-07, + "loss": 0.1865, + "num_input_tokens_seen": 39234752, + "step": 20050 + }, + { + "epoch": 2.6575215374420145, + "grad_norm": 0.03214700520038605, + "learning_rate": 1.5920378917994583e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39236856, + "step": 20051 + }, + { + "epoch": 2.65765407554672, + "grad_norm": 0.021375279873609543, + "learning_rate": 1.5908191380123395e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39238544, + "step": 20052 + }, + { + "epoch": 2.6577866136514245, + "grad_norm": 5.277658939361572, + "learning_rate": 1.5896008355703764e-07, + "loss": 0.0318, + "num_input_tokens_seen": 39240864, + "step": 20053 + }, + { + "epoch": 2.65791915175613, + "grad_norm": 11.660393714904785, + "learning_rate": 1.588382984497064e-07, + "loss": 0.2908, + "num_input_tokens_seen": 39242368, + "step": 20054 + }, + { + "epoch": 2.658051689860835, + "grad_norm": 0.002004727255553007, + "learning_rate": 1.587165584815878e-07, + "loss": 0.0, + "num_input_tokens_seen": 39244000, + "step": 20055 + }, + { + "epoch": 2.65818422796554, + "grad_norm": 0.05760011821985245, + "learning_rate": 1.585948636550294e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39246176, + "step": 20056 + }, + { + "epoch": 2.658316766070245, + "grad_norm": 0.01596280187368393, + "learning_rate": 1.5847321397237685e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39247952, + "step": 20057 + }, + { + "epoch": 2.65844930417495, + "grad_norm": 0.008537213318049908, + "learning_rate": 1.5835160943597606e-07, + "loss": 0.0, + "num_input_tokens_seen": 39249896, + "step": 20058 + }, + { + "epoch": 2.6585818422796557, + "grad_norm": 0.33254188299179077, + "learning_rate": 1.5823005004817148e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39251576, + "step": 20059 + }, + { + "epoch": 2.6587143803843603, + "grad_norm": 7.203460693359375, + "learning_rate": 1.581085358113074e-07, + "loss": 0.0325, + "num_input_tokens_seen": 39252744, + "step": 20060 + }, + { + "epoch": 2.6588469184890657, + "grad_norm": 7.312133312225342, + "learning_rate": 1.579870667277264e-07, + "loss": 0.0428, + "num_input_tokens_seen": 39254536, + "step": 20061 + }, + { + "epoch": 2.6589794565937708, + "grad_norm": 0.012560809031128883, + "learning_rate": 1.5786564279977046e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39256592, + "step": 20062 + }, + { + "epoch": 2.659111994698476, + "grad_norm": 6.9692206382751465, + "learning_rate": 1.5774426402978021e-07, + "loss": 0.0631, + "num_input_tokens_seen": 39258216, + "step": 20063 + }, + { + "epoch": 2.659244532803181, + "grad_norm": 3.811007022857666, + "learning_rate": 1.576229304200963e-07, + "loss": 0.0136, + "num_input_tokens_seen": 39260728, + "step": 20064 + }, + { + "epoch": 2.659377070907886, + "grad_norm": 4.833829879760742, + "learning_rate": 1.575016419730588e-07, + "loss": 0.0691, + "num_input_tokens_seen": 39263080, + "step": 20065 + }, + { + "epoch": 2.6595096090125914, + "grad_norm": 0.841262698173523, + "learning_rate": 1.5738039869100552e-07, + "loss": 0.0046, + "num_input_tokens_seen": 39265736, + "step": 20066 + }, + { + "epoch": 2.659642147117296, + "grad_norm": 5.980198383331299, + "learning_rate": 1.5725920057627437e-07, + "loss": 0.097, + "num_input_tokens_seen": 39268448, + "step": 20067 + }, + { + "epoch": 2.6597746852220014, + "grad_norm": 37.981143951416016, + "learning_rate": 1.571380476312015e-07, + "loss": 0.7511, + "num_input_tokens_seen": 39270984, + "step": 20068 + }, + { + "epoch": 2.6599072233267065, + "grad_norm": 6.292543888092041, + "learning_rate": 1.5701693985812365e-07, + "loss": 0.1116, + "num_input_tokens_seen": 39273040, + "step": 20069 + }, + { + "epoch": 2.6600397614314115, + "grad_norm": 0.0018822691636160016, + "learning_rate": 1.568958772593754e-07, + "loss": 0.0, + "num_input_tokens_seen": 39274152, + "step": 20070 + }, + { + "epoch": 2.6601722995361166, + "grad_norm": 2.0688834190368652, + "learning_rate": 1.5677485983729119e-07, + "loss": 0.0071, + "num_input_tokens_seen": 39275664, + "step": 20071 + }, + { + "epoch": 2.6603048376408216, + "grad_norm": 0.001039625145494938, + "learning_rate": 1.5665388759420447e-07, + "loss": 0.0, + "num_input_tokens_seen": 39276824, + "step": 20072 + }, + { + "epoch": 2.660437375745527, + "grad_norm": 0.02869611792266369, + "learning_rate": 1.5653296053244727e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39278672, + "step": 20073 + }, + { + "epoch": 2.6605699138502317, + "grad_norm": 7.082756042480469, + "learning_rate": 1.5641207865435077e-07, + "loss": 0.0675, + "num_input_tokens_seen": 39280544, + "step": 20074 + }, + { + "epoch": 2.660702451954937, + "grad_norm": 0.01785850152373314, + "learning_rate": 1.5629124196224672e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39282352, + "step": 20075 + }, + { + "epoch": 2.660834990059642, + "grad_norm": 6.0198469161987305, + "learning_rate": 1.561704504584638e-07, + "loss": 0.0372, + "num_input_tokens_seen": 39284296, + "step": 20076 + }, + { + "epoch": 2.6609675281643472, + "grad_norm": 0.008046872913837433, + "learning_rate": 1.5604970414533183e-07, + "loss": 0.0, + "num_input_tokens_seen": 39287096, + "step": 20077 + }, + { + "epoch": 2.6611000662690523, + "grad_norm": 0.054896097630262375, + "learning_rate": 1.5592900302517867e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39288112, + "step": 20078 + }, + { + "epoch": 2.6612326043737573, + "grad_norm": 4.530753135681152, + "learning_rate": 1.5580834710033132e-07, + "loss": 0.0738, + "num_input_tokens_seen": 39290848, + "step": 20079 + }, + { + "epoch": 2.661365142478463, + "grad_norm": 7.721060752868652, + "learning_rate": 1.556877363731163e-07, + "loss": 0.0638, + "num_input_tokens_seen": 39292928, + "step": 20080 + }, + { + "epoch": 2.661497680583168, + "grad_norm": 11.560966491699219, + "learning_rate": 1.5556717084585892e-07, + "loss": 0.123, + "num_input_tokens_seen": 39294976, + "step": 20081 + }, + { + "epoch": 2.661630218687873, + "grad_norm": 0.0696026012301445, + "learning_rate": 1.5544665052088376e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39296664, + "step": 20082 + }, + { + "epoch": 2.661762756792578, + "grad_norm": 0.015878230333328247, + "learning_rate": 1.5532617540051476e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39298912, + "step": 20083 + }, + { + "epoch": 2.661895294897283, + "grad_norm": 1.1882286071777344, + "learning_rate": 1.5520574548707422e-07, + "loss": 0.0021, + "num_input_tokens_seen": 39301104, + "step": 20084 + }, + { + "epoch": 2.662027833001988, + "grad_norm": 0.1862114667892456, + "learning_rate": 1.5508536078288478e-07, + "loss": 0.0007, + "num_input_tokens_seen": 39302864, + "step": 20085 + }, + { + "epoch": 2.662160371106693, + "grad_norm": 0.0048501272685825825, + "learning_rate": 1.5496502129026758e-07, + "loss": 0.0, + "num_input_tokens_seen": 39304624, + "step": 20086 + }, + { + "epoch": 2.6622929092113985, + "grad_norm": 0.06142023950815201, + "learning_rate": 1.548447270115422e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39306792, + "step": 20087 + }, + { + "epoch": 2.6624254473161035, + "grad_norm": 11.073729515075684, + "learning_rate": 1.5472447794902811e-07, + "loss": 0.1335, + "num_input_tokens_seen": 39309440, + "step": 20088 + }, + { + "epoch": 2.6625579854208086, + "grad_norm": 3.9331328868865967, + "learning_rate": 1.546042741050441e-07, + "loss": 0.0189, + "num_input_tokens_seen": 39311800, + "step": 20089 + }, + { + "epoch": 2.6626905235255136, + "grad_norm": 10.820836067199707, + "learning_rate": 1.5448411548190795e-07, + "loss": 0.0439, + "num_input_tokens_seen": 39313240, + "step": 20090 + }, + { + "epoch": 2.6628230616302186, + "grad_norm": 2.4432740211486816, + "learning_rate": 1.543640020819359e-07, + "loss": 0.0189, + "num_input_tokens_seen": 39315144, + "step": 20091 + }, + { + "epoch": 2.6629555997349237, + "grad_norm": 0.014453635551035404, + "learning_rate": 1.5424393390744446e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39317112, + "step": 20092 + }, + { + "epoch": 2.6630881378396287, + "grad_norm": 0.008074669167399406, + "learning_rate": 1.5412391096074757e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39319120, + "step": 20093 + }, + { + "epoch": 2.663220675944334, + "grad_norm": 8.264554023742676, + "learning_rate": 1.5400393324416035e-07, + "loss": 0.1257, + "num_input_tokens_seen": 39322072, + "step": 20094 + }, + { + "epoch": 2.6633532140490392, + "grad_norm": 0.02673794887959957, + "learning_rate": 1.5388400075999566e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39323960, + "step": 20095 + }, + { + "epoch": 2.6634857521537443, + "grad_norm": 0.021921608597040176, + "learning_rate": 1.5376411351056635e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39325712, + "step": 20096 + }, + { + "epoch": 2.6636182902584493, + "grad_norm": 0.012615563347935677, + "learning_rate": 1.5364427149818312e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39326856, + "step": 20097 + }, + { + "epoch": 2.6637508283631544, + "grad_norm": 0.03368218615651131, + "learning_rate": 1.5352447472515742e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39329128, + "step": 20098 + }, + { + "epoch": 2.6638833664678594, + "grad_norm": 0.09718035906553268, + "learning_rate": 1.5340472319379795e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39331160, + "step": 20099 + }, + { + "epoch": 2.6640159045725644, + "grad_norm": 0.13043227791786194, + "learning_rate": 1.532850169064143e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39332952, + "step": 20100 + }, + { + "epoch": 2.66414844267727, + "grad_norm": 2.2386772632598877, + "learning_rate": 1.5316535586531483e-07, + "loss": 0.0154, + "num_input_tokens_seen": 39335088, + "step": 20101 + }, + { + "epoch": 2.664280980781975, + "grad_norm": 0.0015371773624792695, + "learning_rate": 1.5304574007280636e-07, + "loss": 0.0, + "num_input_tokens_seen": 39336192, + "step": 20102 + }, + { + "epoch": 2.66441351888668, + "grad_norm": 0.047920484095811844, + "learning_rate": 1.5292616953119483e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39337816, + "step": 20103 + }, + { + "epoch": 2.664546056991385, + "grad_norm": 12.439166069030762, + "learning_rate": 1.5280664424278612e-07, + "loss": 0.0622, + "num_input_tokens_seen": 39340384, + "step": 20104 + }, + { + "epoch": 2.66467859509609, + "grad_norm": 0.24778370559215546, + "learning_rate": 1.5268716420988426e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39342168, + "step": 20105 + }, + { + "epoch": 2.664811133200795, + "grad_norm": 7.261645793914795, + "learning_rate": 1.5256772943479325e-07, + "loss": 0.0372, + "num_input_tokens_seen": 39344040, + "step": 20106 + }, + { + "epoch": 2.6649436713055, + "grad_norm": 0.010847168043255806, + "learning_rate": 1.5244833991981595e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39346056, + "step": 20107 + }, + { + "epoch": 2.6650762094102056, + "grad_norm": 6.037286758422852, + "learning_rate": 1.523289956672544e-07, + "loss": 0.054, + "num_input_tokens_seen": 39348680, + "step": 20108 + }, + { + "epoch": 2.6652087475149107, + "grad_norm": 2.160426616668701, + "learning_rate": 1.5220969667940928e-07, + "loss": 0.0268, + "num_input_tokens_seen": 39350424, + "step": 20109 + }, + { + "epoch": 2.6653412856196157, + "grad_norm": 2.9819531440734863, + "learning_rate": 1.5209044295858038e-07, + "loss": 0.0074, + "num_input_tokens_seen": 39351960, + "step": 20110 + }, + { + "epoch": 2.6654738237243207, + "grad_norm": 2.256443738937378, + "learning_rate": 1.5197123450706786e-07, + "loss": 0.0127, + "num_input_tokens_seen": 39354200, + "step": 20111 + }, + { + "epoch": 2.6656063618290258, + "grad_norm": 0.24322111904621124, + "learning_rate": 1.5185207132716957e-07, + "loss": 0.001, + "num_input_tokens_seen": 39356048, + "step": 20112 + }, + { + "epoch": 2.665738899933731, + "grad_norm": 0.0934867113828659, + "learning_rate": 1.517329534211834e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39357512, + "step": 20113 + }, + { + "epoch": 2.665871438038436, + "grad_norm": 0.02310285158455372, + "learning_rate": 1.516138807914061e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39358864, + "step": 20114 + }, + { + "epoch": 2.6660039761431413, + "grad_norm": 0.023409908637404442, + "learning_rate": 1.5149485344013282e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39360584, + "step": 20115 + }, + { + "epoch": 2.6661365142478464, + "grad_norm": 2.965247631072998, + "learning_rate": 1.513758713696592e-07, + "loss": 0.0225, + "num_input_tokens_seen": 39362496, + "step": 20116 + }, + { + "epoch": 2.6662690523525514, + "grad_norm": 0.01717386208474636, + "learning_rate": 1.5125693458227868e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39364408, + "step": 20117 + }, + { + "epoch": 2.6664015904572564, + "grad_norm": 1.7209481000900269, + "learning_rate": 1.5113804308028502e-07, + "loss": 0.007, + "num_input_tokens_seen": 39366344, + "step": 20118 + }, + { + "epoch": 2.6665341285619615, + "grad_norm": 4.734864234924316, + "learning_rate": 1.510191968659705e-07, + "loss": 0.0473, + "num_input_tokens_seen": 39367672, + "step": 20119 + }, + { + "epoch": 2.6666666666666665, + "grad_norm": 20.694290161132812, + "learning_rate": 1.509003959416258e-07, + "loss": 0.1722, + "num_input_tokens_seen": 39370400, + "step": 20120 + }, + { + "epoch": 2.6667992047713716, + "grad_norm": 8.548318862915039, + "learning_rate": 1.5078164030954244e-07, + "loss": 0.0725, + "num_input_tokens_seen": 39373200, + "step": 20121 + }, + { + "epoch": 2.666931742876077, + "grad_norm": 0.075322225689888, + "learning_rate": 1.5066292997201e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39375072, + "step": 20122 + }, + { + "epoch": 2.667064280980782, + "grad_norm": 5.661335468292236, + "learning_rate": 1.505442649313163e-07, + "loss": 0.0442, + "num_input_tokens_seen": 39376968, + "step": 20123 + }, + { + "epoch": 2.667196819085487, + "grad_norm": 0.5694214105606079, + "learning_rate": 1.504256451897504e-07, + "loss": 0.0019, + "num_input_tokens_seen": 39379048, + "step": 20124 + }, + { + "epoch": 2.667329357190192, + "grad_norm": 2.161294937133789, + "learning_rate": 1.503070707495985e-07, + "loss": 0.0085, + "num_input_tokens_seen": 39380848, + "step": 20125 + }, + { + "epoch": 2.667461895294897, + "grad_norm": 0.7247650027275085, + "learning_rate": 1.5018854161314767e-07, + "loss": 0.0033, + "num_input_tokens_seen": 39382856, + "step": 20126 + }, + { + "epoch": 2.6675944333996022, + "grad_norm": 4.434040546417236, + "learning_rate": 1.5007005778268302e-07, + "loss": 0.0301, + "num_input_tokens_seen": 39385216, + "step": 20127 + }, + { + "epoch": 2.6677269715043073, + "grad_norm": 0.012582316994667053, + "learning_rate": 1.4995161926048856e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39386504, + "step": 20128 + }, + { + "epoch": 2.6678595096090127, + "grad_norm": 7.426968097686768, + "learning_rate": 1.4983322604884777e-07, + "loss": 0.0587, + "num_input_tokens_seen": 39387888, + "step": 20129 + }, + { + "epoch": 2.667992047713718, + "grad_norm": 11.776243209838867, + "learning_rate": 1.4971487815004405e-07, + "loss": 0.0874, + "num_input_tokens_seen": 39390048, + "step": 20130 + }, + { + "epoch": 2.668124585818423, + "grad_norm": 2.1628201007843018, + "learning_rate": 1.4959657556635866e-07, + "loss": 0.0272, + "num_input_tokens_seen": 39392488, + "step": 20131 + }, + { + "epoch": 2.668257123923128, + "grad_norm": 0.25032714009284973, + "learning_rate": 1.494783183000728e-07, + "loss": 0.0012, + "num_input_tokens_seen": 39395104, + "step": 20132 + }, + { + "epoch": 2.668389662027833, + "grad_norm": 0.09875693917274475, + "learning_rate": 1.4936010635346666e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39396760, + "step": 20133 + }, + { + "epoch": 2.6685222001325384, + "grad_norm": 0.0052293166518211365, + "learning_rate": 1.4924193972881944e-07, + "loss": 0.0, + "num_input_tokens_seen": 39398128, + "step": 20134 + }, + { + "epoch": 2.668654738237243, + "grad_norm": 21.74353790283203, + "learning_rate": 1.4912381842840884e-07, + "loss": 0.0809, + "num_input_tokens_seen": 39400120, + "step": 20135 + }, + { + "epoch": 2.6687872763419485, + "grad_norm": 9.714179039001465, + "learning_rate": 1.490057424545127e-07, + "loss": 0.1488, + "num_input_tokens_seen": 39402904, + "step": 20136 + }, + { + "epoch": 2.6689198144466535, + "grad_norm": 2.7182931900024414, + "learning_rate": 1.4888771180940815e-07, + "loss": 0.0141, + "num_input_tokens_seen": 39404608, + "step": 20137 + }, + { + "epoch": 2.6690523525513585, + "grad_norm": 6.90073299407959, + "learning_rate": 1.4876972649537053e-07, + "loss": 0.0383, + "num_input_tokens_seen": 39406488, + "step": 20138 + }, + { + "epoch": 2.6691848906560636, + "grad_norm": 1.1990959644317627, + "learning_rate": 1.4865178651467444e-07, + "loss": 0.0203, + "num_input_tokens_seen": 39407992, + "step": 20139 + }, + { + "epoch": 2.6693174287607686, + "grad_norm": 0.1924542784690857, + "learning_rate": 1.4853389186959388e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39409448, + "step": 20140 + }, + { + "epoch": 2.669449966865474, + "grad_norm": 1.3991565704345703, + "learning_rate": 1.4841604256240205e-07, + "loss": 0.006, + "num_input_tokens_seen": 39411000, + "step": 20141 + }, + { + "epoch": 2.6695825049701787, + "grad_norm": 6.912725925445557, + "learning_rate": 1.482982385953713e-07, + "loss": 0.1095, + "num_input_tokens_seen": 39413008, + "step": 20142 + }, + { + "epoch": 2.669715043074884, + "grad_norm": 0.029663022607564926, + "learning_rate": 1.4818047997077312e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39415376, + "step": 20143 + }, + { + "epoch": 2.669847581179589, + "grad_norm": 3.212301015853882, + "learning_rate": 1.4806276669087765e-07, + "loss": 0.0091, + "num_input_tokens_seen": 39417920, + "step": 20144 + }, + { + "epoch": 2.6699801192842942, + "grad_norm": 0.003484267508611083, + "learning_rate": 1.479450987579545e-07, + "loss": 0.0, + "num_input_tokens_seen": 39419040, + "step": 20145 + }, + { + "epoch": 2.6701126573889993, + "grad_norm": 2.7343859672546387, + "learning_rate": 1.4782747617427234e-07, + "loss": 0.0225, + "num_input_tokens_seen": 39421000, + "step": 20146 + }, + { + "epoch": 2.6702451954937043, + "grad_norm": 0.009740045294165611, + "learning_rate": 1.4770989894209886e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39422624, + "step": 20147 + }, + { + "epoch": 2.67037773359841, + "grad_norm": 0.0016459949547424912, + "learning_rate": 1.4759236706370167e-07, + "loss": 0.0, + "num_input_tokens_seen": 39423752, + "step": 20148 + }, + { + "epoch": 2.6705102717031144, + "grad_norm": 0.034503061324357986, + "learning_rate": 1.4747488054134646e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39426056, + "step": 20149 + }, + { + "epoch": 2.67064280980782, + "grad_norm": 0.07384388893842697, + "learning_rate": 1.4735743937729862e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39427912, + "step": 20150 + }, + { + "epoch": 2.670775347912525, + "grad_norm": 12.226487159729004, + "learning_rate": 1.4724004357382192e-07, + "loss": 0.0574, + "num_input_tokens_seen": 39430776, + "step": 20151 + }, + { + "epoch": 2.67090788601723, + "grad_norm": 0.24289873242378235, + "learning_rate": 1.4712269313318067e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39432456, + "step": 20152 + }, + { + "epoch": 2.671040424121935, + "grad_norm": 0.024418234825134277, + "learning_rate": 1.4700538805763664e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39433688, + "step": 20153 + }, + { + "epoch": 2.67117296222664, + "grad_norm": 7.3896965980529785, + "learning_rate": 1.468881283494525e-07, + "loss": 0.0113, + "num_input_tokens_seen": 39435280, + "step": 20154 + }, + { + "epoch": 2.6713055003313455, + "grad_norm": 0.011946018785238266, + "learning_rate": 1.4677091401088833e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39437752, + "step": 20155 + }, + { + "epoch": 2.67143803843605, + "grad_norm": 0.18004576861858368, + "learning_rate": 1.4665374504420404e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39440184, + "step": 20156 + }, + { + "epoch": 2.6715705765407556, + "grad_norm": 0.008589798584580421, + "learning_rate": 1.4653662145165947e-07, + "loss": 0.0, + "num_input_tokens_seen": 39441760, + "step": 20157 + }, + { + "epoch": 2.6717031146454606, + "grad_norm": 4.811905384063721, + "learning_rate": 1.4641954323551226e-07, + "loss": 0.0368, + "num_input_tokens_seen": 39443776, + "step": 20158 + }, + { + "epoch": 2.6718356527501657, + "grad_norm": 0.022709475830197334, + "learning_rate": 1.4630251039801978e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39446088, + "step": 20159 + }, + { + "epoch": 2.6719681908548707, + "grad_norm": 2.7338054180145264, + "learning_rate": 1.4618552294143884e-07, + "loss": 0.0651, + "num_input_tokens_seen": 39447936, + "step": 20160 + }, + { + "epoch": 2.6721007289595757, + "grad_norm": 8.300863265991211, + "learning_rate": 1.4606858086802483e-07, + "loss": 0.0715, + "num_input_tokens_seen": 39450656, + "step": 20161 + }, + { + "epoch": 2.672233267064281, + "grad_norm": 10.302836418151855, + "learning_rate": 1.4595168418003235e-07, + "loss": 0.1274, + "num_input_tokens_seen": 39452368, + "step": 20162 + }, + { + "epoch": 2.672365805168986, + "grad_norm": 6.975489139556885, + "learning_rate": 1.4583483287971546e-07, + "loss": 0.1961, + "num_input_tokens_seen": 39453488, + "step": 20163 + }, + { + "epoch": 2.6724983432736913, + "grad_norm": 0.018723439425230026, + "learning_rate": 1.457180269693273e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39455288, + "step": 20164 + }, + { + "epoch": 2.6726308813783963, + "grad_norm": 6.84435510635376, + "learning_rate": 1.4560126645111915e-07, + "loss": 0.0278, + "num_input_tokens_seen": 39457544, + "step": 20165 + }, + { + "epoch": 2.6727634194831014, + "grad_norm": 0.06169802322983742, + "learning_rate": 1.4548455132734313e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39460576, + "step": 20166 + }, + { + "epoch": 2.6728959575878064, + "grad_norm": 0.0019228770397603512, + "learning_rate": 1.4536788160024879e-07, + "loss": 0.0, + "num_input_tokens_seen": 39461872, + "step": 20167 + }, + { + "epoch": 2.6730284956925114, + "grad_norm": 2.4049911499023438, + "learning_rate": 1.4525125727208682e-07, + "loss": 0.0337, + "num_input_tokens_seen": 39463360, + "step": 20168 + }, + { + "epoch": 2.673161033797217, + "grad_norm": 4.048755168914795, + "learning_rate": 1.4513467834510463e-07, + "loss": 0.0451, + "num_input_tokens_seen": 39465192, + "step": 20169 + }, + { + "epoch": 2.673293571901922, + "grad_norm": 0.01354187447577715, + "learning_rate": 1.450181448215504e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39467872, + "step": 20170 + }, + { + "epoch": 2.673426110006627, + "grad_norm": 0.01715157739818096, + "learning_rate": 1.4490165670367122e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39469712, + "step": 20171 + }, + { + "epoch": 2.673558648111332, + "grad_norm": 2.8186209201812744, + "learning_rate": 1.4478521399371225e-07, + "loss": 0.0193, + "num_input_tokens_seen": 39471752, + "step": 20172 + }, + { + "epoch": 2.673691186216037, + "grad_norm": 5.104423999786377, + "learning_rate": 1.4466881669391976e-07, + "loss": 0.0245, + "num_input_tokens_seen": 39473424, + "step": 20173 + }, + { + "epoch": 2.673823724320742, + "grad_norm": 0.2736017405986786, + "learning_rate": 1.4455246480653717e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39476656, + "step": 20174 + }, + { + "epoch": 2.673956262425447, + "grad_norm": 0.4044327139854431, + "learning_rate": 1.4443615833380804e-07, + "loss": 0.0018, + "num_input_tokens_seen": 39479184, + "step": 20175 + }, + { + "epoch": 2.6740888005301526, + "grad_norm": 10.494331359863281, + "learning_rate": 1.443198972779744e-07, + "loss": 0.2165, + "num_input_tokens_seen": 39480848, + "step": 20176 + }, + { + "epoch": 2.6742213386348577, + "grad_norm": 0.007487769704312086, + "learning_rate": 1.4420368164127813e-07, + "loss": 0.0, + "num_input_tokens_seen": 39482896, + "step": 20177 + }, + { + "epoch": 2.6743538767395627, + "grad_norm": 0.10096654295921326, + "learning_rate": 1.4408751142596073e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39484792, + "step": 20178 + }, + { + "epoch": 2.6744864148442677, + "grad_norm": 10.122913360595703, + "learning_rate": 1.4397138663426125e-07, + "loss": 0.1066, + "num_input_tokens_seen": 39486864, + "step": 20179 + }, + { + "epoch": 2.674618952948973, + "grad_norm": 0.0019637218210846186, + "learning_rate": 1.4385530726841872e-07, + "loss": 0.0, + "num_input_tokens_seen": 39488696, + "step": 20180 + }, + { + "epoch": 2.674751491053678, + "grad_norm": 0.20172810554504395, + "learning_rate": 1.4373927333067113e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39490560, + "step": 20181 + }, + { + "epoch": 2.674884029158383, + "grad_norm": 0.040239885449409485, + "learning_rate": 1.4362328482325577e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39493744, + "step": 20182 + }, + { + "epoch": 2.6750165672630883, + "grad_norm": 5.654191017150879, + "learning_rate": 1.4350734174840897e-07, + "loss": 0.0254, + "num_input_tokens_seen": 39495888, + "step": 20183 + }, + { + "epoch": 2.6751491053677934, + "grad_norm": 4.878161907196045, + "learning_rate": 1.4339144410836642e-07, + "loss": 0.0609, + "num_input_tokens_seen": 39498464, + "step": 20184 + }, + { + "epoch": 2.6752816434724984, + "grad_norm": 0.1461607962846756, + "learning_rate": 1.43275591905363e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39500296, + "step": 20185 + }, + { + "epoch": 2.6754141815772035, + "grad_norm": 2.244842052459717, + "learning_rate": 1.4315978514163164e-07, + "loss": 0.0084, + "num_input_tokens_seen": 39502688, + "step": 20186 + }, + { + "epoch": 2.6755467196819085, + "grad_norm": 0.9511129856109619, + "learning_rate": 1.4304402381940556e-07, + "loss": 0.006, + "num_input_tokens_seen": 39504160, + "step": 20187 + }, + { + "epoch": 2.6756792577866135, + "grad_norm": 0.010936187580227852, + "learning_rate": 1.4292830794091662e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39505400, + "step": 20188 + }, + { + "epoch": 2.6758117958913186, + "grad_norm": 5.239866733551025, + "learning_rate": 1.4281263750839548e-07, + "loss": 0.0753, + "num_input_tokens_seen": 39507408, + "step": 20189 + }, + { + "epoch": 2.675944333996024, + "grad_norm": 24.428874969482422, + "learning_rate": 1.426970125240737e-07, + "loss": 0.1246, + "num_input_tokens_seen": 39509224, + "step": 20190 + }, + { + "epoch": 2.676076872100729, + "grad_norm": 0.005128705408424139, + "learning_rate": 1.4258143299017924e-07, + "loss": 0.0, + "num_input_tokens_seen": 39510896, + "step": 20191 + }, + { + "epoch": 2.676209410205434, + "grad_norm": 0.014148305170238018, + "learning_rate": 1.4246589890894142e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39512632, + "step": 20192 + }, + { + "epoch": 2.676341948310139, + "grad_norm": 0.056967880576848984, + "learning_rate": 1.4235041028258706e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39514264, + "step": 20193 + }, + { + "epoch": 2.676474486414844, + "grad_norm": 0.09654107689857483, + "learning_rate": 1.42234967113343e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39516288, + "step": 20194 + }, + { + "epoch": 2.6766070245195492, + "grad_norm": 6.095205783843994, + "learning_rate": 1.421195694034358e-07, + "loss": 0.0808, + "num_input_tokens_seen": 39518584, + "step": 20195 + }, + { + "epoch": 2.6767395626242543, + "grad_norm": 3.4731605052948, + "learning_rate": 1.4200421715509006e-07, + "loss": 0.0477, + "num_input_tokens_seen": 39520256, + "step": 20196 + }, + { + "epoch": 2.6768721007289598, + "grad_norm": 3.3745572566986084, + "learning_rate": 1.4188891037052953e-07, + "loss": 0.0304, + "num_input_tokens_seen": 39522408, + "step": 20197 + }, + { + "epoch": 2.677004638833665, + "grad_norm": 3.6716883182525635, + "learning_rate": 1.417736490519772e-07, + "loss": 0.0136, + "num_input_tokens_seen": 39524584, + "step": 20198 + }, + { + "epoch": 2.67713717693837, + "grad_norm": 0.1443951576948166, + "learning_rate": 1.4165843320165628e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39525952, + "step": 20199 + }, + { + "epoch": 2.677269715043075, + "grad_norm": 1.744572401046753, + "learning_rate": 1.4154326282178748e-07, + "loss": 0.0124, + "num_input_tokens_seen": 39527408, + "step": 20200 + }, + { + "epoch": 2.67740225314778, + "grad_norm": 1.2068439722061157, + "learning_rate": 1.4142813791459154e-07, + "loss": 0.0037, + "num_input_tokens_seen": 39529424, + "step": 20201 + }, + { + "epoch": 2.677534791252485, + "grad_norm": 0.003543563885614276, + "learning_rate": 1.413130584822886e-07, + "loss": 0.0, + "num_input_tokens_seen": 39531352, + "step": 20202 + }, + { + "epoch": 2.67766732935719, + "grad_norm": 0.08373633027076721, + "learning_rate": 1.4119802452709635e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39532920, + "step": 20203 + }, + { + "epoch": 2.6777998674618955, + "grad_norm": 0.04483358561992645, + "learning_rate": 1.4108303605123413e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39534536, + "step": 20204 + }, + { + "epoch": 2.6779324055666005, + "grad_norm": 4.8608903884887695, + "learning_rate": 1.4096809305691822e-07, + "loss": 0.084, + "num_input_tokens_seen": 39535896, + "step": 20205 + }, + { + "epoch": 2.6780649436713055, + "grad_norm": 0.01978892646729946, + "learning_rate": 1.4085319554636435e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39537560, + "step": 20206 + }, + { + "epoch": 2.6781974817760106, + "grad_norm": 0.4883391857147217, + "learning_rate": 1.4073834352178879e-07, + "loss": 0.0033, + "num_input_tokens_seen": 39538976, + "step": 20207 + }, + { + "epoch": 2.6783300198807156, + "grad_norm": 7.455320835113525, + "learning_rate": 1.4062353698540532e-07, + "loss": 0.1018, + "num_input_tokens_seen": 39541624, + "step": 20208 + }, + { + "epoch": 2.6784625579854207, + "grad_norm": 1.334483027458191, + "learning_rate": 1.4050877593942802e-07, + "loss": 0.0051, + "num_input_tokens_seen": 39543728, + "step": 20209 + }, + { + "epoch": 2.6785950960901257, + "grad_norm": 2.351060628890991, + "learning_rate": 1.40394060386069e-07, + "loss": 0.0168, + "num_input_tokens_seen": 39546000, + "step": 20210 + }, + { + "epoch": 2.678727634194831, + "grad_norm": 0.007957668974995613, + "learning_rate": 1.4027939032754067e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39547480, + "step": 20211 + }, + { + "epoch": 2.678860172299536, + "grad_norm": 0.008340725675225258, + "learning_rate": 1.4016476576605292e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39549320, + "step": 20212 + }, + { + "epoch": 2.6789927104042413, + "grad_norm": 2.645320415496826, + "learning_rate": 1.4005018670381675e-07, + "loss": 0.0143, + "num_input_tokens_seen": 39551960, + "step": 20213 + }, + { + "epoch": 2.6791252485089463, + "grad_norm": 0.0015474415849894285, + "learning_rate": 1.3993565314304126e-07, + "loss": 0.0, + "num_input_tokens_seen": 39553544, + "step": 20214 + }, + { + "epoch": 2.6792577866136513, + "grad_norm": 0.00988653115928173, + "learning_rate": 1.3982116508593436e-07, + "loss": 0.0, + "num_input_tokens_seen": 39555360, + "step": 20215 + }, + { + "epoch": 2.6793903247183564, + "grad_norm": 0.06097639724612236, + "learning_rate": 1.3970672253470375e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39556448, + "step": 20216 + }, + { + "epoch": 2.6795228628230614, + "grad_norm": 0.02217528410255909, + "learning_rate": 1.395923254915557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39558096, + "step": 20217 + }, + { + "epoch": 2.679655400927767, + "grad_norm": 7.531145095825195, + "learning_rate": 1.3947797395869572e-07, + "loss": 0.075, + "num_input_tokens_seen": 39559928, + "step": 20218 + }, + { + "epoch": 2.679787939032472, + "grad_norm": 7.074980735778809, + "learning_rate": 1.3936366793832895e-07, + "loss": 0.0872, + "num_input_tokens_seen": 39561984, + "step": 20219 + }, + { + "epoch": 2.679920477137177, + "grad_norm": 2.1431424617767334, + "learning_rate": 1.392494074326592e-07, + "loss": 0.0281, + "num_input_tokens_seen": 39563736, + "step": 20220 + }, + { + "epoch": 2.680053015241882, + "grad_norm": 1.197313666343689, + "learning_rate": 1.3913519244388967e-07, + "loss": 0.0051, + "num_input_tokens_seen": 39565968, + "step": 20221 + }, + { + "epoch": 2.680185553346587, + "grad_norm": 0.022982394322752953, + "learning_rate": 1.3902102297422255e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39567864, + "step": 20222 + }, + { + "epoch": 2.6803180914512925, + "grad_norm": 2.231358766555786, + "learning_rate": 1.3890689902585824e-07, + "loss": 0.0182, + "num_input_tokens_seen": 39569672, + "step": 20223 + }, + { + "epoch": 2.680450629555997, + "grad_norm": 11.15102481842041, + "learning_rate": 1.3879282060099754e-07, + "loss": 0.1709, + "num_input_tokens_seen": 39573152, + "step": 20224 + }, + { + "epoch": 2.6805831676607026, + "grad_norm": 1.9883564710617065, + "learning_rate": 1.3867878770184085e-07, + "loss": 0.013, + "num_input_tokens_seen": 39576064, + "step": 20225 + }, + { + "epoch": 2.6807157057654076, + "grad_norm": 0.019533313810825348, + "learning_rate": 1.3856480033058617e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39577584, + "step": 20226 + }, + { + "epoch": 2.6808482438701127, + "grad_norm": 0.006272313185036182, + "learning_rate": 1.384508584894309e-07, + "loss": 0.0, + "num_input_tokens_seen": 39579152, + "step": 20227 + }, + { + "epoch": 2.6809807819748177, + "grad_norm": 8.300698280334473, + "learning_rate": 1.3833696218057247e-07, + "loss": 0.0389, + "num_input_tokens_seen": 39581432, + "step": 20228 + }, + { + "epoch": 2.6811133200795227, + "grad_norm": 0.015048502013087273, + "learning_rate": 1.382231114062063e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39583272, + "step": 20229 + }, + { + "epoch": 2.6812458581842282, + "grad_norm": 13.196106910705566, + "learning_rate": 1.3810930616852764e-07, + "loss": 0.1391, + "num_input_tokens_seen": 39586312, + "step": 20230 + }, + { + "epoch": 2.681378396288933, + "grad_norm": 0.7480204105377197, + "learning_rate": 1.3799554646973163e-07, + "loss": 0.0022, + "num_input_tokens_seen": 39588032, + "step": 20231 + }, + { + "epoch": 2.6815109343936383, + "grad_norm": 7.550303936004639, + "learning_rate": 1.378818323120107e-07, + "loss": 0.0949, + "num_input_tokens_seen": 39589624, + "step": 20232 + }, + { + "epoch": 2.6816434724983433, + "grad_norm": 4.663870334625244, + "learning_rate": 1.3776816369755752e-07, + "loss": 0.0281, + "num_input_tokens_seen": 39591240, + "step": 20233 + }, + { + "epoch": 2.6817760106030484, + "grad_norm": 10.037118911743164, + "learning_rate": 1.3765454062856343e-07, + "loss": 0.0577, + "num_input_tokens_seen": 39593680, + "step": 20234 + }, + { + "epoch": 2.6819085487077534, + "grad_norm": 0.0015440036077052355, + "learning_rate": 1.3754096310721997e-07, + "loss": 0.0, + "num_input_tokens_seen": 39594800, + "step": 20235 + }, + { + "epoch": 2.6820410868124585, + "grad_norm": 0.007052072323858738, + "learning_rate": 1.3742743113571628e-07, + "loss": 0.0, + "num_input_tokens_seen": 39595816, + "step": 20236 + }, + { + "epoch": 2.682173624917164, + "grad_norm": 3.039276599884033, + "learning_rate": 1.3731394471624165e-07, + "loss": 0.0226, + "num_input_tokens_seen": 39598936, + "step": 20237 + }, + { + "epoch": 2.6823061630218685, + "grad_norm": 0.01326199434697628, + "learning_rate": 1.372005038509844e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39600696, + "step": 20238 + }, + { + "epoch": 2.682438701126574, + "grad_norm": 0.032343730330467224, + "learning_rate": 1.3708710854213074e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39602184, + "step": 20239 + }, + { + "epoch": 2.682571239231279, + "grad_norm": 21.16706085205078, + "learning_rate": 1.3697375879186846e-07, + "loss": 0.1707, + "num_input_tokens_seen": 39604720, + "step": 20240 + }, + { + "epoch": 2.682703777335984, + "grad_norm": 0.11128988116979599, + "learning_rate": 1.368604546023819e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39607104, + "step": 20241 + }, + { + "epoch": 2.682836315440689, + "grad_norm": 4.010493278503418, + "learning_rate": 1.3674719597585596e-07, + "loss": 0.0676, + "num_input_tokens_seen": 39610424, + "step": 20242 + }, + { + "epoch": 2.682968853545394, + "grad_norm": 0.05256155878305435, + "learning_rate": 1.3663398291447444e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39611496, + "step": 20243 + }, + { + "epoch": 2.6831013916500996, + "grad_norm": 5.813283443450928, + "learning_rate": 1.3652081542042033e-07, + "loss": 0.0905, + "num_input_tokens_seen": 39614264, + "step": 20244 + }, + { + "epoch": 2.6832339297548042, + "grad_norm": 0.2944090664386749, + "learning_rate": 1.3640769349587523e-07, + "loss": 0.0012, + "num_input_tokens_seen": 39616872, + "step": 20245 + }, + { + "epoch": 2.6833664678595097, + "grad_norm": 0.05702001601457596, + "learning_rate": 1.3629461714302046e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39619592, + "step": 20246 + }, + { + "epoch": 2.6834990059642148, + "grad_norm": 0.014209458604454994, + "learning_rate": 1.361815863640359e-07, + "loss": 0.0, + "num_input_tokens_seen": 39620832, + "step": 20247 + }, + { + "epoch": 2.68363154406892, + "grad_norm": 6.479780197143555, + "learning_rate": 1.360686011611012e-07, + "loss": 0.1706, + "num_input_tokens_seen": 39623872, + "step": 20248 + }, + { + "epoch": 2.683764082173625, + "grad_norm": 3.0763556957244873, + "learning_rate": 1.3595566153639493e-07, + "loss": 0.038, + "num_input_tokens_seen": 39625576, + "step": 20249 + }, + { + "epoch": 2.68389662027833, + "grad_norm": 2.2298595905303955, + "learning_rate": 1.3584276749209367e-07, + "loss": 0.0416, + "num_input_tokens_seen": 39628080, + "step": 20250 + }, + { + "epoch": 2.6840291583830354, + "grad_norm": 0.1068248525261879, + "learning_rate": 1.357299190303754e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39630440, + "step": 20251 + }, + { + "epoch": 2.6841616964877404, + "grad_norm": 20.213184356689453, + "learning_rate": 1.3561711615341534e-07, + "loss": 0.4817, + "num_input_tokens_seen": 39633128, + "step": 20252 + }, + { + "epoch": 2.6842942345924454, + "grad_norm": 10.266946792602539, + "learning_rate": 1.355043588633881e-07, + "loss": 0.0793, + "num_input_tokens_seen": 39635456, + "step": 20253 + }, + { + "epoch": 2.6844267726971505, + "grad_norm": 0.09329124540090561, + "learning_rate": 1.3539164716246806e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39637432, + "step": 20254 + }, + { + "epoch": 2.6845593108018555, + "grad_norm": 0.12536819279193878, + "learning_rate": 1.3527898105282821e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39638616, + "step": 20255 + }, + { + "epoch": 2.6846918489065605, + "grad_norm": 0.00541206868365407, + "learning_rate": 1.351663605366413e-07, + "loss": 0.0, + "num_input_tokens_seen": 39641168, + "step": 20256 + }, + { + "epoch": 2.6848243870112656, + "grad_norm": 9.480112075805664, + "learning_rate": 1.350537856160783e-07, + "loss": 0.3359, + "num_input_tokens_seen": 39643232, + "step": 20257 + }, + { + "epoch": 2.684956925115971, + "grad_norm": 3.5848605632781982, + "learning_rate": 1.3494125629330974e-07, + "loss": 0.0268, + "num_input_tokens_seen": 39645160, + "step": 20258 + }, + { + "epoch": 2.685089463220676, + "grad_norm": 0.03447338566184044, + "learning_rate": 1.3482877257050498e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39647520, + "step": 20259 + }, + { + "epoch": 2.685222001325381, + "grad_norm": 0.03422676771879196, + "learning_rate": 1.3471633444983312e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39650368, + "step": 20260 + }, + { + "epoch": 2.685354539430086, + "grad_norm": 7.019379615783691, + "learning_rate": 1.346039419334627e-07, + "loss": 0.111, + "num_input_tokens_seen": 39653208, + "step": 20261 + }, + { + "epoch": 2.685487077534791, + "grad_norm": 1.5970743894577026, + "learning_rate": 1.344915950235598e-07, + "loss": 0.0041, + "num_input_tokens_seen": 39656200, + "step": 20262 + }, + { + "epoch": 2.6856196156394962, + "grad_norm": 0.007372781168669462, + "learning_rate": 1.3437929372229098e-07, + "loss": 0.0, + "num_input_tokens_seen": 39658296, + "step": 20263 + }, + { + "epoch": 2.6857521537442013, + "grad_norm": 7.088783264160156, + "learning_rate": 1.3426703803182117e-07, + "loss": 0.0953, + "num_input_tokens_seen": 39660624, + "step": 20264 + }, + { + "epoch": 2.6858846918489068, + "grad_norm": 8.35385799407959, + "learning_rate": 1.341548279543145e-07, + "loss": 0.1057, + "num_input_tokens_seen": 39663952, + "step": 20265 + }, + { + "epoch": 2.686017229953612, + "grad_norm": 5.946142196655273, + "learning_rate": 1.3404266349193506e-07, + "loss": 0.0386, + "num_input_tokens_seen": 39666880, + "step": 20266 + }, + { + "epoch": 2.686149768058317, + "grad_norm": 0.013135652057826519, + "learning_rate": 1.3393054464684557e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39668992, + "step": 20267 + }, + { + "epoch": 2.686282306163022, + "grad_norm": 3.1865711212158203, + "learning_rate": 1.3381847142120736e-07, + "loss": 0.0272, + "num_input_tokens_seen": 39671224, + "step": 20268 + }, + { + "epoch": 2.686414844267727, + "grad_norm": 0.03475270792841911, + "learning_rate": 1.3370644381718145e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39672696, + "step": 20269 + }, + { + "epoch": 2.686547382372432, + "grad_norm": 0.36105677485466003, + "learning_rate": 1.3359446183692726e-07, + "loss": 0.002, + "num_input_tokens_seen": 39674256, + "step": 20270 + }, + { + "epoch": 2.686679920477137, + "grad_norm": 0.015268632210791111, + "learning_rate": 1.33482525482605e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39675864, + "step": 20271 + }, + { + "epoch": 2.6868124585818425, + "grad_norm": 0.5047983527183533, + "learning_rate": 1.3337063475637152e-07, + "loss": 0.001, + "num_input_tokens_seen": 39677256, + "step": 20272 + }, + { + "epoch": 2.6869449966865475, + "grad_norm": 7.422905445098877, + "learning_rate": 1.3325878966038542e-07, + "loss": 0.2324, + "num_input_tokens_seen": 39680080, + "step": 20273 + }, + { + "epoch": 2.6870775347912526, + "grad_norm": 9.941550254821777, + "learning_rate": 1.3314699019680245e-07, + "loss": 0.1157, + "num_input_tokens_seen": 39682568, + "step": 20274 + }, + { + "epoch": 2.6872100728959576, + "grad_norm": 0.011494150385260582, + "learning_rate": 1.3303523636777838e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39684024, + "step": 20275 + }, + { + "epoch": 2.6873426110006626, + "grad_norm": 5.960836887359619, + "learning_rate": 1.329235281754676e-07, + "loss": 0.0722, + "num_input_tokens_seen": 39686240, + "step": 20276 + }, + { + "epoch": 2.6874751491053677, + "grad_norm": 1.843982458114624, + "learning_rate": 1.3281186562202396e-07, + "loss": 0.0061, + "num_input_tokens_seen": 39688656, + "step": 20277 + }, + { + "epoch": 2.6876076872100727, + "grad_norm": 0.024961229413747787, + "learning_rate": 1.3270024870960102e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39690328, + "step": 20278 + }, + { + "epoch": 2.687740225314778, + "grad_norm": 2.6101198196411133, + "learning_rate": 1.3258867744035037e-07, + "loss": 0.0412, + "num_input_tokens_seen": 39692704, + "step": 20279 + }, + { + "epoch": 2.6878727634194832, + "grad_norm": 16.861854553222656, + "learning_rate": 1.3247715181642334e-07, + "loss": 0.0859, + "num_input_tokens_seen": 39694600, + "step": 20280 + }, + { + "epoch": 2.6880053015241883, + "grad_norm": 11.09103012084961, + "learning_rate": 1.3236567183996963e-07, + "loss": 0.1181, + "num_input_tokens_seen": 39696768, + "step": 20281 + }, + { + "epoch": 2.6881378396288933, + "grad_norm": 0.32551276683807373, + "learning_rate": 1.3225423751313942e-07, + "loss": 0.0016, + "num_input_tokens_seen": 39698736, + "step": 20282 + }, + { + "epoch": 2.6882703777335983, + "grad_norm": 0.04987425357103348, + "learning_rate": 1.3214284883808076e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39700488, + "step": 20283 + }, + { + "epoch": 2.6884029158383034, + "grad_norm": 2.375267505645752, + "learning_rate": 1.3203150581694163e-07, + "loss": 0.0178, + "num_input_tokens_seen": 39702520, + "step": 20284 + }, + { + "epoch": 2.6885354539430084, + "grad_norm": 0.01946786791086197, + "learning_rate": 1.3192020845186864e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39704864, + "step": 20285 + }, + { + "epoch": 2.688667992047714, + "grad_norm": 14.088971138000488, + "learning_rate": 1.318089567450076e-07, + "loss": 0.1571, + "num_input_tokens_seen": 39707680, + "step": 20286 + }, + { + "epoch": 2.688800530152419, + "grad_norm": 1.4880197048187256, + "learning_rate": 1.3169775069850372e-07, + "loss": 0.0088, + "num_input_tokens_seen": 39709272, + "step": 20287 + }, + { + "epoch": 2.688933068257124, + "grad_norm": 0.015204011462628841, + "learning_rate": 1.315865903145011e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39710888, + "step": 20288 + }, + { + "epoch": 2.689065606361829, + "grad_norm": 0.00498259486630559, + "learning_rate": 1.314754755951425e-07, + "loss": 0.0, + "num_input_tokens_seen": 39713624, + "step": 20289 + }, + { + "epoch": 2.689198144466534, + "grad_norm": 0.3188038170337677, + "learning_rate": 1.3136440654257122e-07, + "loss": 0.0015, + "num_input_tokens_seen": 39715424, + "step": 20290 + }, + { + "epoch": 2.689330682571239, + "grad_norm": 4.13944673538208, + "learning_rate": 1.312533831589277e-07, + "loss": 0.0391, + "num_input_tokens_seen": 39716944, + "step": 20291 + }, + { + "epoch": 2.689463220675944, + "grad_norm": 0.002933989744633436, + "learning_rate": 1.3114240544635337e-07, + "loss": 0.0, + "num_input_tokens_seen": 39718232, + "step": 20292 + }, + { + "epoch": 2.6895957587806496, + "grad_norm": 3.713808059692383, + "learning_rate": 1.3103147340698758e-07, + "loss": 0.0106, + "num_input_tokens_seen": 39720176, + "step": 20293 + }, + { + "epoch": 2.6897282968853546, + "grad_norm": 0.14484186470508575, + "learning_rate": 1.3092058704296945e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39721360, + "step": 20294 + }, + { + "epoch": 2.6898608349900597, + "grad_norm": 0.0018538759322836995, + "learning_rate": 1.3080974635643646e-07, + "loss": 0.0, + "num_input_tokens_seen": 39723048, + "step": 20295 + }, + { + "epoch": 2.6899933730947647, + "grad_norm": 19.220539093017578, + "learning_rate": 1.3069895134952577e-07, + "loss": 0.2743, + "num_input_tokens_seen": 39725920, + "step": 20296 + }, + { + "epoch": 2.6901259111994698, + "grad_norm": 0.016886474564671516, + "learning_rate": 1.3058820202437427e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39727216, + "step": 20297 + }, + { + "epoch": 2.690258449304175, + "grad_norm": 7.439931392669678, + "learning_rate": 1.3047749838311667e-07, + "loss": 0.087, + "num_input_tokens_seen": 39729520, + "step": 20298 + }, + { + "epoch": 2.69039098740888, + "grad_norm": 1.7826076745986938, + "learning_rate": 1.3036684042788766e-07, + "loss": 0.0044, + "num_input_tokens_seen": 39731216, + "step": 20299 + }, + { + "epoch": 2.6905235255135853, + "grad_norm": 0.004218373913317919, + "learning_rate": 1.302562281608205e-07, + "loss": 0.0, + "num_input_tokens_seen": 39733704, + "step": 20300 + }, + { + "epoch": 2.6906560636182904, + "grad_norm": 0.10931126773357391, + "learning_rate": 1.3014566158404824e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39735264, + "step": 20301 + }, + { + "epoch": 2.6907886017229954, + "grad_norm": 2.7251193523406982, + "learning_rate": 1.300351406997022e-07, + "loss": 0.0122, + "num_input_tokens_seen": 39737520, + "step": 20302 + }, + { + "epoch": 2.6909211398277004, + "grad_norm": 0.7056270241737366, + "learning_rate": 1.2992466550991372e-07, + "loss": 0.0043, + "num_input_tokens_seen": 39738840, + "step": 20303 + }, + { + "epoch": 2.6910536779324055, + "grad_norm": 9.411016464233398, + "learning_rate": 1.2981423601681308e-07, + "loss": 0.0859, + "num_input_tokens_seen": 39740784, + "step": 20304 + }, + { + "epoch": 2.691186216037111, + "grad_norm": 0.022363554686307907, + "learning_rate": 1.2970385222252884e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39742792, + "step": 20305 + }, + { + "epoch": 2.6913187541418155, + "grad_norm": 0.0990038514137268, + "learning_rate": 1.295935141291893e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39744568, + "step": 20306 + }, + { + "epoch": 2.691451292246521, + "grad_norm": 5.8893914222717285, + "learning_rate": 1.2948322173892193e-07, + "loss": 0.0662, + "num_input_tokens_seen": 39746648, + "step": 20307 + }, + { + "epoch": 2.691583830351226, + "grad_norm": 33.46512222290039, + "learning_rate": 1.2937297505385387e-07, + "loss": 0.1409, + "num_input_tokens_seen": 39749568, + "step": 20308 + }, + { + "epoch": 2.691716368455931, + "grad_norm": 0.0046052513644099236, + "learning_rate": 1.2926277407611016e-07, + "loss": 0.0, + "num_input_tokens_seen": 39751192, + "step": 20309 + }, + { + "epoch": 2.691848906560636, + "grad_norm": 7.8816022872924805, + "learning_rate": 1.291526188078157e-07, + "loss": 0.0758, + "num_input_tokens_seen": 39752624, + "step": 20310 + }, + { + "epoch": 2.691981444665341, + "grad_norm": 0.2195933610200882, + "learning_rate": 1.290425092510944e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39754816, + "step": 20311 + }, + { + "epoch": 2.6921139827700467, + "grad_norm": 0.024156082421541214, + "learning_rate": 1.2893244540806872e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39756584, + "step": 20312 + }, + { + "epoch": 2.6922465208747512, + "grad_norm": 0.6879380345344543, + "learning_rate": 1.288224272808611e-07, + "loss": 0.01, + "num_input_tokens_seen": 39758992, + "step": 20313 + }, + { + "epoch": 2.6923790589794567, + "grad_norm": 0.022204674780368805, + "learning_rate": 1.2871245487159346e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39760720, + "step": 20314 + }, + { + "epoch": 2.6925115970841618, + "grad_norm": 0.0149612445384264, + "learning_rate": 1.286025281823852e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39762088, + "step": 20315 + }, + { + "epoch": 2.692644135188867, + "grad_norm": 7.528134346008301, + "learning_rate": 1.2849264721535638e-07, + "loss": 0.0646, + "num_input_tokens_seen": 39763896, + "step": 20316 + }, + { + "epoch": 2.692776673293572, + "grad_norm": 0.03728026524186134, + "learning_rate": 1.2838281197262493e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39765560, + "step": 20317 + }, + { + "epoch": 2.692909211398277, + "grad_norm": 1.3240609169006348, + "learning_rate": 1.2827302245630946e-07, + "loss": 0.0055, + "num_input_tokens_seen": 39767280, + "step": 20318 + }, + { + "epoch": 2.6930417495029824, + "grad_norm": 8.028139114379883, + "learning_rate": 1.281632786685258e-07, + "loss": 0.0831, + "num_input_tokens_seen": 39769400, + "step": 20319 + }, + { + "epoch": 2.693174287607687, + "grad_norm": 0.01482705119997263, + "learning_rate": 1.2805358061139084e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39772192, + "step": 20320 + }, + { + "epoch": 2.6933068257123924, + "grad_norm": 0.0503116212785244, + "learning_rate": 1.2794392828701902e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39773496, + "step": 20321 + }, + { + "epoch": 2.6934393638170975, + "grad_norm": 0.022360673174262047, + "learning_rate": 1.2783432169752446e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39776240, + "step": 20322 + }, + { + "epoch": 2.6935719019218025, + "grad_norm": 0.04282457381486893, + "learning_rate": 1.2772476084502078e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39778416, + "step": 20323 + }, + { + "epoch": 2.6937044400265076, + "grad_norm": 0.5014520883560181, + "learning_rate": 1.2761524573162043e-07, + "loss": 0.0019, + "num_input_tokens_seen": 39780656, + "step": 20324 + }, + { + "epoch": 2.6938369781312126, + "grad_norm": 14.330720901489258, + "learning_rate": 1.275057763594345e-07, + "loss": 0.0996, + "num_input_tokens_seen": 39782296, + "step": 20325 + }, + { + "epoch": 2.693969516235918, + "grad_norm": 0.006834366358816624, + "learning_rate": 1.2739635273057411e-07, + "loss": 0.0, + "num_input_tokens_seen": 39783608, + "step": 20326 + }, + { + "epoch": 2.6941020543406227, + "grad_norm": 0.009059164673089981, + "learning_rate": 1.2728697484714836e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39784920, + "step": 20327 + }, + { + "epoch": 2.694234592445328, + "grad_norm": 0.0007869730470702052, + "learning_rate": 1.2717764271126725e-07, + "loss": 0.0, + "num_input_tokens_seen": 39786136, + "step": 20328 + }, + { + "epoch": 2.694367130550033, + "grad_norm": 9.232940673828125, + "learning_rate": 1.2706835632503773e-07, + "loss": 0.0539, + "num_input_tokens_seen": 39787576, + "step": 20329 + }, + { + "epoch": 2.6944996686547382, + "grad_norm": 0.004180433228611946, + "learning_rate": 1.2695911569056723e-07, + "loss": 0.0, + "num_input_tokens_seen": 39788672, + "step": 20330 + }, + { + "epoch": 2.6946322067594433, + "grad_norm": 0.005995085462927818, + "learning_rate": 1.2684992080996245e-07, + "loss": 0.0, + "num_input_tokens_seen": 39790424, + "step": 20331 + }, + { + "epoch": 2.6947647448641483, + "grad_norm": 1.3178893327713013, + "learning_rate": 1.2674077168532806e-07, + "loss": 0.0114, + "num_input_tokens_seen": 39792424, + "step": 20332 + }, + { + "epoch": 2.694897282968854, + "grad_norm": 0.041404444724321365, + "learning_rate": 1.2663166831876878e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39794584, + "step": 20333 + }, + { + "epoch": 2.6950298210735584, + "grad_norm": 9.767465591430664, + "learning_rate": 1.2652261071238847e-07, + "loss": 0.1181, + "num_input_tokens_seen": 39795968, + "step": 20334 + }, + { + "epoch": 2.695162359178264, + "grad_norm": 0.009301705285906792, + "learning_rate": 1.2641359886828935e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39798904, + "step": 20335 + }, + { + "epoch": 2.695294897282969, + "grad_norm": 0.0045341686345636845, + "learning_rate": 1.2630463278857336e-07, + "loss": 0.0, + "num_input_tokens_seen": 39801016, + "step": 20336 + }, + { + "epoch": 2.695427435387674, + "grad_norm": 15.451719284057617, + "learning_rate": 1.2619571247534212e-07, + "loss": 0.1004, + "num_input_tokens_seen": 39802752, + "step": 20337 + }, + { + "epoch": 2.695559973492379, + "grad_norm": 0.46395382285118103, + "learning_rate": 1.2608683793069455e-07, + "loss": 0.0016, + "num_input_tokens_seen": 39804936, + "step": 20338 + }, + { + "epoch": 2.695692511597084, + "grad_norm": 9.996124267578125, + "learning_rate": 1.2597800915673087e-07, + "loss": 0.1075, + "num_input_tokens_seen": 39807032, + "step": 20339 + }, + { + "epoch": 2.6958250497017895, + "grad_norm": 2.716503143310547, + "learning_rate": 1.2586922615554887e-07, + "loss": 0.0128, + "num_input_tokens_seen": 39808768, + "step": 20340 + }, + { + "epoch": 2.6959575878064945, + "grad_norm": 0.00889415480196476, + "learning_rate": 1.2576048892924602e-07, + "loss": 0.0, + "num_input_tokens_seen": 39810992, + "step": 20341 + }, + { + "epoch": 2.6960901259111996, + "grad_norm": 0.9031978845596313, + "learning_rate": 1.2565179747991846e-07, + "loss": 0.0023, + "num_input_tokens_seen": 39813976, + "step": 20342 + }, + { + "epoch": 2.6962226640159046, + "grad_norm": 9.870047569274902, + "learning_rate": 1.2554315180966224e-07, + "loss": 0.1339, + "num_input_tokens_seen": 39815600, + "step": 20343 + }, + { + "epoch": 2.6963552021206096, + "grad_norm": 5.533182621002197, + "learning_rate": 1.254345519205727e-07, + "loss": 0.0702, + "num_input_tokens_seen": 39817440, + "step": 20344 + }, + { + "epoch": 2.6964877402253147, + "grad_norm": 0.0019746068865060806, + "learning_rate": 1.2532599781474282e-07, + "loss": 0.0, + "num_input_tokens_seen": 39818752, + "step": 20345 + }, + { + "epoch": 2.6966202783300197, + "grad_norm": 0.01331594679504633, + "learning_rate": 1.2521748949426594e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39820416, + "step": 20346 + }, + { + "epoch": 2.696752816434725, + "grad_norm": 9.39315128326416, + "learning_rate": 1.2510902696123427e-07, + "loss": 0.08, + "num_input_tokens_seen": 39822208, + "step": 20347 + }, + { + "epoch": 2.6968853545394302, + "grad_norm": 0.024104658514261246, + "learning_rate": 1.2500061021773867e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39824080, + "step": 20348 + }, + { + "epoch": 2.6970178926441353, + "grad_norm": 1.7579188346862793, + "learning_rate": 1.248922392658694e-07, + "loss": 0.0089, + "num_input_tokens_seen": 39826192, + "step": 20349 + }, + { + "epoch": 2.6971504307488403, + "grad_norm": 0.9980867505073547, + "learning_rate": 1.2478391410771701e-07, + "loss": 0.0024, + "num_input_tokens_seen": 39827928, + "step": 20350 + }, + { + "epoch": 2.6972829688535453, + "grad_norm": 0.0054858666844666, + "learning_rate": 1.2467563474536898e-07, + "loss": 0.0, + "num_input_tokens_seen": 39829880, + "step": 20351 + }, + { + "epoch": 2.6974155069582504, + "grad_norm": 0.0034914363641291857, + "learning_rate": 1.2456740118091338e-07, + "loss": 0.0, + "num_input_tokens_seen": 39831112, + "step": 20352 + }, + { + "epoch": 2.6975480450629554, + "grad_norm": 0.0014470757450908422, + "learning_rate": 1.2445921341643686e-07, + "loss": 0.0, + "num_input_tokens_seen": 39832592, + "step": 20353 + }, + { + "epoch": 2.697680583167661, + "grad_norm": 6.767105579376221, + "learning_rate": 1.2435107145402553e-07, + "loss": 0.1556, + "num_input_tokens_seen": 39834424, + "step": 20354 + }, + { + "epoch": 2.697813121272366, + "grad_norm": 1.029522180557251, + "learning_rate": 1.2424297529576469e-07, + "loss": 0.0038, + "num_input_tokens_seen": 39836432, + "step": 20355 + }, + { + "epoch": 2.697945659377071, + "grad_norm": 0.9925873279571533, + "learning_rate": 1.2413492494373818e-07, + "loss": 0.0085, + "num_input_tokens_seen": 39838528, + "step": 20356 + }, + { + "epoch": 2.698078197481776, + "grad_norm": 0.003812601091340184, + "learning_rate": 1.240269204000294e-07, + "loss": 0.0, + "num_input_tokens_seen": 39840032, + "step": 20357 + }, + { + "epoch": 2.698210735586481, + "grad_norm": 1.8558276891708374, + "learning_rate": 1.2391896166672023e-07, + "loss": 0.0056, + "num_input_tokens_seen": 39842040, + "step": 20358 + }, + { + "epoch": 2.698343273691186, + "grad_norm": 10.4681396484375, + "learning_rate": 1.2381104874589294e-07, + "loss": 0.1118, + "num_input_tokens_seen": 39843976, + "step": 20359 + }, + { + "epoch": 2.698475811795891, + "grad_norm": 4.482240676879883, + "learning_rate": 1.237031816396278e-07, + "loss": 0.1225, + "num_input_tokens_seen": 39845632, + "step": 20360 + }, + { + "epoch": 2.6986083499005966, + "grad_norm": 4.063783645629883, + "learning_rate": 1.235953603500048e-07, + "loss": 0.0212, + "num_input_tokens_seen": 39846944, + "step": 20361 + }, + { + "epoch": 2.6987408880053017, + "grad_norm": 0.013657841831445694, + "learning_rate": 1.2348758487910283e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39848408, + "step": 20362 + }, + { + "epoch": 2.6988734261100067, + "grad_norm": 0.329316645860672, + "learning_rate": 1.2337985522899942e-07, + "loss": 0.0011, + "num_input_tokens_seen": 39850600, + "step": 20363 + }, + { + "epoch": 2.6990059642147117, + "grad_norm": 0.6962037682533264, + "learning_rate": 1.2327217140177177e-07, + "loss": 0.002, + "num_input_tokens_seen": 39851992, + "step": 20364 + }, + { + "epoch": 2.6991385023194168, + "grad_norm": 0.0760614275932312, + "learning_rate": 1.2316453339949658e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39853352, + "step": 20365 + }, + { + "epoch": 2.699271040424122, + "grad_norm": 0.0036921033170074224, + "learning_rate": 1.2305694122424884e-07, + "loss": 0.0, + "num_input_tokens_seen": 39854584, + "step": 20366 + }, + { + "epoch": 2.699403578528827, + "grad_norm": 9.803718566894531, + "learning_rate": 1.22949394878103e-07, + "loss": 0.1309, + "num_input_tokens_seen": 39856672, + "step": 20367 + }, + { + "epoch": 2.6995361166335323, + "grad_norm": 11.173903465270996, + "learning_rate": 1.2284189436313265e-07, + "loss": 0.078, + "num_input_tokens_seen": 39858560, + "step": 20368 + }, + { + "epoch": 2.6996686547382374, + "grad_norm": 9.086496353149414, + "learning_rate": 1.2273443968141037e-07, + "loss": 0.0834, + "num_input_tokens_seen": 39860776, + "step": 20369 + }, + { + "epoch": 2.6998011928429424, + "grad_norm": 2.188953161239624, + "learning_rate": 1.2262703083500832e-07, + "loss": 0.0113, + "num_input_tokens_seen": 39862672, + "step": 20370 + }, + { + "epoch": 2.6999337309476474, + "grad_norm": 3.627107858657837, + "learning_rate": 1.2251966782599738e-07, + "loss": 0.0316, + "num_input_tokens_seen": 39864280, + "step": 20371 + }, + { + "epoch": 2.7000662690523525, + "grad_norm": 0.26889508962631226, + "learning_rate": 1.2241235065644675e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39866824, + "step": 20372 + }, + { + "epoch": 2.7001988071570575, + "grad_norm": 18.8335018157959, + "learning_rate": 1.2230507932842668e-07, + "loss": 0.1985, + "num_input_tokens_seen": 39868864, + "step": 20373 + }, + { + "epoch": 2.7003313452617626, + "grad_norm": 6.819803714752197, + "learning_rate": 1.221978538440047e-07, + "loss": 0.059, + "num_input_tokens_seen": 39870808, + "step": 20374 + }, + { + "epoch": 2.700463883366468, + "grad_norm": 0.045212216675281525, + "learning_rate": 1.2209067420524856e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39872376, + "step": 20375 + }, + { + "epoch": 2.700596421471173, + "grad_norm": 2.1256027221679688, + "learning_rate": 1.2198354041422499e-07, + "loss": 0.0237, + "num_input_tokens_seen": 39874992, + "step": 20376 + }, + { + "epoch": 2.700728959575878, + "grad_norm": 0.019258426502346992, + "learning_rate": 1.21876452472999e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39876568, + "step": 20377 + }, + { + "epoch": 2.700861497680583, + "grad_norm": 7.593324661254883, + "learning_rate": 1.2176941038363532e-07, + "loss": 0.0368, + "num_input_tokens_seen": 39878976, + "step": 20378 + }, + { + "epoch": 2.700994035785288, + "grad_norm": 0.007217365317046642, + "learning_rate": 1.2166241414819812e-07, + "loss": 0.0, + "num_input_tokens_seen": 39880120, + "step": 20379 + }, + { + "epoch": 2.701126573889993, + "grad_norm": 22.74839210510254, + "learning_rate": 1.215554637687505e-07, + "loss": 0.2364, + "num_input_tokens_seen": 39881832, + "step": 20380 + }, + { + "epoch": 2.7012591119946983, + "grad_norm": 0.024011442437767982, + "learning_rate": 1.2144855924735467e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39883336, + "step": 20381 + }, + { + "epoch": 2.7013916500994037, + "grad_norm": 0.02151578478515148, + "learning_rate": 1.213417005860712e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39884648, + "step": 20382 + }, + { + "epoch": 2.701524188204109, + "grad_norm": 0.4968040883541107, + "learning_rate": 1.2123488778696042e-07, + "loss": 0.0022, + "num_input_tokens_seen": 39887496, + "step": 20383 + }, + { + "epoch": 2.701656726308814, + "grad_norm": 15.344085693359375, + "learning_rate": 1.2112812085208204e-07, + "loss": 0.1312, + "num_input_tokens_seen": 39889248, + "step": 20384 + }, + { + "epoch": 2.701789264413519, + "grad_norm": 0.46730637550354004, + "learning_rate": 1.2102139978349497e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39890576, + "step": 20385 + }, + { + "epoch": 2.701921802518224, + "grad_norm": 0.03659910336136818, + "learning_rate": 1.2091472458325648e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39892312, + "step": 20386 + }, + { + "epoch": 2.702054340622929, + "grad_norm": 0.5470610857009888, + "learning_rate": 1.2080809525342324e-07, + "loss": 0.0026, + "num_input_tokens_seen": 39894120, + "step": 20387 + }, + { + "epoch": 2.702186878727634, + "grad_norm": 0.20464904606342316, + "learning_rate": 1.2070151179605137e-07, + "loss": 0.0008, + "num_input_tokens_seen": 39895712, + "step": 20388 + }, + { + "epoch": 2.7023194168323394, + "grad_norm": 0.8235451579093933, + "learning_rate": 1.2059497421319537e-07, + "loss": 0.0023, + "num_input_tokens_seen": 39898424, + "step": 20389 + }, + { + "epoch": 2.7024519549370445, + "grad_norm": 1.1988577842712402, + "learning_rate": 1.204884825069097e-07, + "loss": 0.0086, + "num_input_tokens_seen": 39900240, + "step": 20390 + }, + { + "epoch": 2.7025844930417495, + "grad_norm": 19.02069091796875, + "learning_rate": 1.2038203667924797e-07, + "loss": 0.2477, + "num_input_tokens_seen": 39902640, + "step": 20391 + }, + { + "epoch": 2.7027170311464546, + "grad_norm": 2.2827587127685547, + "learning_rate": 1.2027563673226217e-07, + "loss": 0.0039, + "num_input_tokens_seen": 39904408, + "step": 20392 + }, + { + "epoch": 2.7028495692511596, + "grad_norm": 2.2632927894592285, + "learning_rate": 1.20169282668004e-07, + "loss": 0.0135, + "num_input_tokens_seen": 39906648, + "step": 20393 + }, + { + "epoch": 2.702982107355865, + "grad_norm": 0.8650773167610168, + "learning_rate": 1.2006297448852344e-07, + "loss": 0.0061, + "num_input_tokens_seen": 39908064, + "step": 20394 + }, + { + "epoch": 2.7031146454605697, + "grad_norm": 0.004232404287904501, + "learning_rate": 1.1995671219587058e-07, + "loss": 0.0, + "num_input_tokens_seen": 39909440, + "step": 20395 + }, + { + "epoch": 2.703247183565275, + "grad_norm": 0.10431836545467377, + "learning_rate": 1.1985049579209402e-07, + "loss": 0.0003, + "num_input_tokens_seen": 39910840, + "step": 20396 + }, + { + "epoch": 2.70337972166998, + "grad_norm": 0.06244365870952606, + "learning_rate": 1.197443252792424e-07, + "loss": 0.0004, + "num_input_tokens_seen": 39912792, + "step": 20397 + }, + { + "epoch": 2.7035122597746852, + "grad_norm": 0.017905300483107567, + "learning_rate": 1.1963820065936188e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39914464, + "step": 20398 + }, + { + "epoch": 2.7036447978793903, + "grad_norm": 0.09973317384719849, + "learning_rate": 1.1953212193449943e-07, + "loss": 0.0006, + "num_input_tokens_seen": 39916520, + "step": 20399 + }, + { + "epoch": 2.7037773359840953, + "grad_norm": 0.048305001109838486, + "learning_rate": 1.1942608910669924e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39918584, + "step": 20400 + }, + { + "epoch": 2.703909874088801, + "grad_norm": 0.029026715084910393, + "learning_rate": 1.193201021780066e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39920560, + "step": 20401 + }, + { + "epoch": 2.7040424121935054, + "grad_norm": 0.46186208724975586, + "learning_rate": 1.1921416115046463e-07, + "loss": 0.0013, + "num_input_tokens_seen": 39922720, + "step": 20402 + }, + { + "epoch": 2.704174950298211, + "grad_norm": 4.987401485443115, + "learning_rate": 1.1910826602611642e-07, + "loss": 0.0172, + "num_input_tokens_seen": 39925008, + "step": 20403 + }, + { + "epoch": 2.704307488402916, + "grad_norm": 5.420884609222412, + "learning_rate": 1.1900241680700308e-07, + "loss": 0.0275, + "num_input_tokens_seen": 39926752, + "step": 20404 + }, + { + "epoch": 2.704440026507621, + "grad_norm": 0.003904491662979126, + "learning_rate": 1.1889661349516552e-07, + "loss": 0.0, + "num_input_tokens_seen": 39928224, + "step": 20405 + }, + { + "epoch": 2.704572564612326, + "grad_norm": 4.0419602394104, + "learning_rate": 1.187908560926443e-07, + "loss": 0.0225, + "num_input_tokens_seen": 39929936, + "step": 20406 + }, + { + "epoch": 2.704705102717031, + "grad_norm": 0.0070715174078941345, + "learning_rate": 1.1868514460147751e-07, + "loss": 0.0, + "num_input_tokens_seen": 39931288, + "step": 20407 + }, + { + "epoch": 2.7048376408217365, + "grad_norm": 0.02131757140159607, + "learning_rate": 1.1857947902370437e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39933976, + "step": 20408 + }, + { + "epoch": 2.704970178926441, + "grad_norm": 0.0004918212071061134, + "learning_rate": 1.1847385936136186e-07, + "loss": 0.0, + "num_input_tokens_seen": 39935184, + "step": 20409 + }, + { + "epoch": 2.7051027170311466, + "grad_norm": 2.3985321521759033, + "learning_rate": 1.1836828561648583e-07, + "loss": 0.0084, + "num_input_tokens_seen": 39937392, + "step": 20410 + }, + { + "epoch": 2.7052352551358516, + "grad_norm": 1.473010540008545, + "learning_rate": 1.1826275779111274e-07, + "loss": 0.0049, + "num_input_tokens_seen": 39938880, + "step": 20411 + }, + { + "epoch": 2.7053677932405567, + "grad_norm": 5.794705390930176, + "learning_rate": 1.1815727588727648e-07, + "loss": 0.0629, + "num_input_tokens_seen": 39941256, + "step": 20412 + }, + { + "epoch": 2.7055003313452617, + "grad_norm": 2.4563493728637695, + "learning_rate": 1.1805183990701102e-07, + "loss": 0.0135, + "num_input_tokens_seen": 39942840, + "step": 20413 + }, + { + "epoch": 2.7056328694499667, + "grad_norm": 1.3914251327514648, + "learning_rate": 1.1794644985234943e-07, + "loss": 0.0077, + "num_input_tokens_seen": 39944768, + "step": 20414 + }, + { + "epoch": 2.705765407554672, + "grad_norm": 10.71847915649414, + "learning_rate": 1.1784110572532342e-07, + "loss": 0.0653, + "num_input_tokens_seen": 39946248, + "step": 20415 + }, + { + "epoch": 2.705897945659377, + "grad_norm": 0.015905441716313362, + "learning_rate": 1.1773580752796443e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39948800, + "step": 20416 + }, + { + "epoch": 2.7060304837640823, + "grad_norm": 0.02157069742679596, + "learning_rate": 1.176305552623025e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39950520, + "step": 20417 + }, + { + "epoch": 2.7061630218687873, + "grad_norm": 0.00991250853985548, + "learning_rate": 1.175253489303671e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39951816, + "step": 20418 + }, + { + "epoch": 2.7062955599734924, + "grad_norm": 0.0071641551330685616, + "learning_rate": 1.1742018853418608e-07, + "loss": 0.0, + "num_input_tokens_seen": 39954040, + "step": 20419 + }, + { + "epoch": 2.7064280980781974, + "grad_norm": 0.0017371606081724167, + "learning_rate": 1.1731507407578807e-07, + "loss": 0.0, + "num_input_tokens_seen": 39956000, + "step": 20420 + }, + { + "epoch": 2.7065606361829024, + "grad_norm": 1.1266764402389526, + "learning_rate": 1.1721000555719869e-07, + "loss": 0.0043, + "num_input_tokens_seen": 39957664, + "step": 20421 + }, + { + "epoch": 2.706693174287608, + "grad_norm": 0.006660205312073231, + "learning_rate": 1.1710498298044437e-07, + "loss": 0.0, + "num_input_tokens_seen": 39960280, + "step": 20422 + }, + { + "epoch": 2.706825712392313, + "grad_norm": 0.004107495304197073, + "learning_rate": 1.1700000634755015e-07, + "loss": 0.0, + "num_input_tokens_seen": 39961832, + "step": 20423 + }, + { + "epoch": 2.706958250497018, + "grad_norm": 7.976728916168213, + "learning_rate": 1.168950756605397e-07, + "loss": 0.1257, + "num_input_tokens_seen": 39963336, + "step": 20424 + }, + { + "epoch": 2.707090788601723, + "grad_norm": 0.010293417610228062, + "learning_rate": 1.1679019092143585e-07, + "loss": 0.0, + "num_input_tokens_seen": 39964744, + "step": 20425 + }, + { + "epoch": 2.707223326706428, + "grad_norm": 0.04261060804128647, + "learning_rate": 1.1668535213226112e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39966448, + "step": 20426 + }, + { + "epoch": 2.707355864811133, + "grad_norm": 4.443118095397949, + "learning_rate": 1.1658055929503725e-07, + "loss": 0.0578, + "num_input_tokens_seen": 39968440, + "step": 20427 + }, + { + "epoch": 2.707488402915838, + "grad_norm": 0.004546963144093752, + "learning_rate": 1.1647581241178457e-07, + "loss": 0.0, + "num_input_tokens_seen": 39971024, + "step": 20428 + }, + { + "epoch": 2.7076209410205436, + "grad_norm": 0.003629885846748948, + "learning_rate": 1.1637111148452257e-07, + "loss": 0.0, + "num_input_tokens_seen": 39972504, + "step": 20429 + }, + { + "epoch": 2.7077534791252487, + "grad_norm": 0.38038837909698486, + "learning_rate": 1.1626645651526935e-07, + "loss": 0.0009, + "num_input_tokens_seen": 39974376, + "step": 20430 + }, + { + "epoch": 2.7078860172299537, + "grad_norm": 4.97283411026001, + "learning_rate": 1.1616184750604387e-07, + "loss": 0.026, + "num_input_tokens_seen": 39976392, + "step": 20431 + }, + { + "epoch": 2.7080185553346587, + "grad_norm": 0.13921299576759338, + "learning_rate": 1.16057284458862e-07, + "loss": 0.0005, + "num_input_tokens_seen": 39977728, + "step": 20432 + }, + { + "epoch": 2.7081510934393638, + "grad_norm": 0.019957350566983223, + "learning_rate": 1.1595276737574074e-07, + "loss": 0.0001, + "num_input_tokens_seen": 39979536, + "step": 20433 + }, + { + "epoch": 2.708283631544069, + "grad_norm": 4.023921012878418, + "learning_rate": 1.1584829625869487e-07, + "loss": 0.0376, + "num_input_tokens_seen": 39981032, + "step": 20434 + }, + { + "epoch": 2.708416169648774, + "grad_norm": 0.027752919122576714, + "learning_rate": 1.1574387110973834e-07, + "loss": 0.0002, + "num_input_tokens_seen": 39983312, + "step": 20435 + }, + { + "epoch": 2.7085487077534793, + "grad_norm": 0.34686166048049927, + "learning_rate": 1.1563949193088453e-07, + "loss": 0.0014, + "num_input_tokens_seen": 39986016, + "step": 20436 + }, + { + "epoch": 2.7086812458581844, + "grad_norm": 10.66120433807373, + "learning_rate": 1.1553515872414628e-07, + "loss": 0.0998, + "num_input_tokens_seen": 39988152, + "step": 20437 + }, + { + "epoch": 2.7088137839628894, + "grad_norm": 0.003483023727312684, + "learning_rate": 1.1543087149153559e-07, + "loss": 0.0, + "num_input_tokens_seen": 39990192, + "step": 20438 + }, + { + "epoch": 2.7089463220675944, + "grad_norm": 6.696458339691162, + "learning_rate": 1.1532663023506251e-07, + "loss": 0.0492, + "num_input_tokens_seen": 39993136, + "step": 20439 + }, + { + "epoch": 2.7090788601722995, + "grad_norm": 3.7017924785614014, + "learning_rate": 1.1522243495673713e-07, + "loss": 0.0088, + "num_input_tokens_seen": 39995056, + "step": 20440 + }, + { + "epoch": 2.7092113982770045, + "grad_norm": 6.560924530029297, + "learning_rate": 1.1511828565856809e-07, + "loss": 0.0128, + "num_input_tokens_seen": 39996888, + "step": 20441 + }, + { + "epoch": 2.7093439363817096, + "grad_norm": 10.480481147766113, + "learning_rate": 1.1501418234256406e-07, + "loss": 0.0384, + "num_input_tokens_seen": 39998472, + "step": 20442 + }, + { + "epoch": 2.709476474486415, + "grad_norm": 9.672799110412598, + "learning_rate": 1.1491012501073152e-07, + "loss": 0.0716, + "num_input_tokens_seen": 40000760, + "step": 20443 + }, + { + "epoch": 2.70960901259112, + "grad_norm": 0.2651550769805908, + "learning_rate": 1.1480611366507771e-07, + "loss": 0.0021, + "num_input_tokens_seen": 40002512, + "step": 20444 + }, + { + "epoch": 2.709741550695825, + "grad_norm": 0.0073428223840892315, + "learning_rate": 1.1470214830760717e-07, + "loss": 0.0, + "num_input_tokens_seen": 40003960, + "step": 20445 + }, + { + "epoch": 2.70987408880053, + "grad_norm": 0.04767048358917236, + "learning_rate": 1.1459822894032497e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40005648, + "step": 20446 + }, + { + "epoch": 2.710006626905235, + "grad_norm": 0.6073043942451477, + "learning_rate": 1.1449435556523419e-07, + "loss": 0.0026, + "num_input_tokens_seen": 40007568, + "step": 20447 + }, + { + "epoch": 2.7101391650099402, + "grad_norm": 1.798175573348999, + "learning_rate": 1.1439052818433826e-07, + "loss": 0.0113, + "num_input_tokens_seen": 40009664, + "step": 20448 + }, + { + "epoch": 2.7102717031146453, + "grad_norm": 0.03706727921962738, + "learning_rate": 1.1428674679963836e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40011160, + "step": 20449 + }, + { + "epoch": 2.7104042412193508, + "grad_norm": 0.0514959879219532, + "learning_rate": 1.1418301141313592e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40013464, + "step": 20450 + }, + { + "epoch": 2.710536779324056, + "grad_norm": 2.8121190071105957, + "learning_rate": 1.1407932202683103e-07, + "loss": 0.0164, + "num_input_tokens_seen": 40015320, + "step": 20451 + }, + { + "epoch": 2.710669317428761, + "grad_norm": 7.000250339508057, + "learning_rate": 1.1397567864272263e-07, + "loss": 0.0455, + "num_input_tokens_seen": 40017328, + "step": 20452 + }, + { + "epoch": 2.710801855533466, + "grad_norm": 5.649206161499023, + "learning_rate": 1.1387208126280913e-07, + "loss": 0.0467, + "num_input_tokens_seen": 40019280, + "step": 20453 + }, + { + "epoch": 2.710934393638171, + "grad_norm": 1.0253263711929321, + "learning_rate": 1.1376852988908837e-07, + "loss": 0.004, + "num_input_tokens_seen": 40021936, + "step": 20454 + }, + { + "epoch": 2.711066931742876, + "grad_norm": 0.005749219097197056, + "learning_rate": 1.1366502452355599e-07, + "loss": 0.0, + "num_input_tokens_seen": 40023536, + "step": 20455 + }, + { + "epoch": 2.711199469847581, + "grad_norm": 0.35451579093933105, + "learning_rate": 1.135615651682087e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40025264, + "step": 20456 + }, + { + "epoch": 2.7113320079522865, + "grad_norm": 2.415989398956299, + "learning_rate": 1.1345815182504021e-07, + "loss": 0.0093, + "num_input_tokens_seen": 40027440, + "step": 20457 + }, + { + "epoch": 2.7114645460569915, + "grad_norm": 13.429655075073242, + "learning_rate": 1.133547844960453e-07, + "loss": 0.097, + "num_input_tokens_seen": 40029696, + "step": 20458 + }, + { + "epoch": 2.7115970841616965, + "grad_norm": 1.1104086637496948, + "learning_rate": 1.1325146318321684e-07, + "loss": 0.0033, + "num_input_tokens_seen": 40031704, + "step": 20459 + }, + { + "epoch": 2.7117296222664016, + "grad_norm": 0.022360466420650482, + "learning_rate": 1.1314818788854626e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40033472, + "step": 20460 + }, + { + "epoch": 2.7118621603711066, + "grad_norm": 0.0052514513954520226, + "learning_rate": 1.1304495861402531e-07, + "loss": 0.0, + "num_input_tokens_seen": 40035912, + "step": 20461 + }, + { + "epoch": 2.7119946984758116, + "grad_norm": 11.62448501586914, + "learning_rate": 1.1294177536164408e-07, + "loss": 0.1042, + "num_input_tokens_seen": 40038400, + "step": 20462 + }, + { + "epoch": 2.7121272365805167, + "grad_norm": 3.156332492828369, + "learning_rate": 1.1283863813339263e-07, + "loss": 0.0181, + "num_input_tokens_seen": 40040488, + "step": 20463 + }, + { + "epoch": 2.712259774685222, + "grad_norm": 0.008256812579929829, + "learning_rate": 1.1273554693125883e-07, + "loss": 0.0, + "num_input_tokens_seen": 40043160, + "step": 20464 + }, + { + "epoch": 2.712392312789927, + "grad_norm": 0.026214120909571648, + "learning_rate": 1.1263250175723078e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40045056, + "step": 20465 + }, + { + "epoch": 2.7125248508946322, + "grad_norm": 2.1159303188323975, + "learning_rate": 1.125295026132947e-07, + "loss": 0.0114, + "num_input_tokens_seen": 40048360, + "step": 20466 + }, + { + "epoch": 2.7126573889993373, + "grad_norm": 0.03746640682220459, + "learning_rate": 1.1242654950143678e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40049504, + "step": 20467 + }, + { + "epoch": 2.7127899271040423, + "grad_norm": 2.9890410900115967, + "learning_rate": 1.1232364242364236e-07, + "loss": 0.018, + "num_input_tokens_seen": 40051448, + "step": 20468 + }, + { + "epoch": 2.7129224652087474, + "grad_norm": 0.6385653614997864, + "learning_rate": 1.122207813818954e-07, + "loss": 0.0017, + "num_input_tokens_seen": 40053640, + "step": 20469 + }, + { + "epoch": 2.7130550033134524, + "grad_norm": 3.001546621322632, + "learning_rate": 1.1211796637817879e-07, + "loss": 0.0138, + "num_input_tokens_seen": 40056600, + "step": 20470 + }, + { + "epoch": 2.713187541418158, + "grad_norm": 1.5109045505523682, + "learning_rate": 1.1201519741447536e-07, + "loss": 0.0076, + "num_input_tokens_seen": 40058824, + "step": 20471 + }, + { + "epoch": 2.713320079522863, + "grad_norm": 0.00196451204828918, + "learning_rate": 1.1191247449276576e-07, + "loss": 0.0, + "num_input_tokens_seen": 40060240, + "step": 20472 + }, + { + "epoch": 2.713452617627568, + "grad_norm": 0.003959778696298599, + "learning_rate": 1.1180979761503147e-07, + "loss": 0.0, + "num_input_tokens_seen": 40061520, + "step": 20473 + }, + { + "epoch": 2.713585155732273, + "grad_norm": 0.47768163681030273, + "learning_rate": 1.1170716678325171e-07, + "loss": 0.0013, + "num_input_tokens_seen": 40063840, + "step": 20474 + }, + { + "epoch": 2.713717693836978, + "grad_norm": 0.07340512424707413, + "learning_rate": 1.1160458199940577e-07, + "loss": 0.0004, + "num_input_tokens_seen": 40066592, + "step": 20475 + }, + { + "epoch": 2.7138502319416835, + "grad_norm": 1.4453693628311157, + "learning_rate": 1.1150204326547092e-07, + "loss": 0.0166, + "num_input_tokens_seen": 40068968, + "step": 20476 + }, + { + "epoch": 2.713982770046388, + "grad_norm": 0.0018821981502696872, + "learning_rate": 1.113995505834245e-07, + "loss": 0.0, + "num_input_tokens_seen": 40069984, + "step": 20477 + }, + { + "epoch": 2.7141153081510936, + "grad_norm": 2.4498016834259033, + "learning_rate": 1.1129710395524213e-07, + "loss": 0.0067, + "num_input_tokens_seen": 40071968, + "step": 20478 + }, + { + "epoch": 2.7142478462557986, + "grad_norm": 4.701002597808838, + "learning_rate": 1.1119470338289945e-07, + "loss": 0.0252, + "num_input_tokens_seen": 40073848, + "step": 20479 + }, + { + "epoch": 2.7143803843605037, + "grad_norm": 0.08684976398944855, + "learning_rate": 1.1109234886837127e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40076144, + "step": 20480 + }, + { + "epoch": 2.7145129224652087, + "grad_norm": 0.024829061701893806, + "learning_rate": 1.1099004041363049e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40077656, + "step": 20481 + }, + { + "epoch": 2.7146454605699137, + "grad_norm": 0.00728806434199214, + "learning_rate": 1.1088777802064993e-07, + "loss": 0.0, + "num_input_tokens_seen": 40079648, + "step": 20482 + }, + { + "epoch": 2.714777998674619, + "grad_norm": 2.1082491874694824, + "learning_rate": 1.1078556169140109e-07, + "loss": 0.0098, + "num_input_tokens_seen": 40081672, + "step": 20483 + }, + { + "epoch": 2.714910536779324, + "grad_norm": 0.6471569538116455, + "learning_rate": 1.1068339142785462e-07, + "loss": 0.0022, + "num_input_tokens_seen": 40083920, + "step": 20484 + }, + { + "epoch": 2.7150430748840293, + "grad_norm": 0.020151810720562935, + "learning_rate": 1.1058126723198088e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40085984, + "step": 20485 + }, + { + "epoch": 2.7151756129887343, + "grad_norm": 0.01663009449839592, + "learning_rate": 1.1047918910574884e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40087648, + "step": 20486 + }, + { + "epoch": 2.7153081510934394, + "grad_norm": 10.400846481323242, + "learning_rate": 1.1037715705112639e-07, + "loss": 0.0343, + "num_input_tokens_seen": 40089632, + "step": 20487 + }, + { + "epoch": 2.7154406891981444, + "grad_norm": 0.05939977243542671, + "learning_rate": 1.1027517107008057e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40091512, + "step": 20488 + }, + { + "epoch": 2.7155732273028494, + "grad_norm": 14.993009567260742, + "learning_rate": 1.101732311645784e-07, + "loss": 0.1527, + "num_input_tokens_seen": 40093936, + "step": 20489 + }, + { + "epoch": 2.715705765407555, + "grad_norm": 0.001280203927308321, + "learning_rate": 1.100713373365847e-07, + "loss": 0.0, + "num_input_tokens_seen": 40095896, + "step": 20490 + }, + { + "epoch": 2.7158383035122595, + "grad_norm": 0.005018872674554586, + "learning_rate": 1.0996948958806459e-07, + "loss": 0.0, + "num_input_tokens_seen": 40098392, + "step": 20491 + }, + { + "epoch": 2.715970841616965, + "grad_norm": 0.04099457710981369, + "learning_rate": 1.0986768792098146e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40099656, + "step": 20492 + }, + { + "epoch": 2.71610337972167, + "grad_norm": 10.873488426208496, + "learning_rate": 1.0976593233729793e-07, + "loss": 0.0858, + "num_input_tokens_seen": 40101896, + "step": 20493 + }, + { + "epoch": 2.716235917826375, + "grad_norm": 0.0017908806912600994, + "learning_rate": 1.096642228389766e-07, + "loss": 0.0, + "num_input_tokens_seen": 40103064, + "step": 20494 + }, + { + "epoch": 2.71636845593108, + "grad_norm": 0.006518849637359381, + "learning_rate": 1.0956255942797784e-07, + "loss": 0.0, + "num_input_tokens_seen": 40104296, + "step": 20495 + }, + { + "epoch": 2.716500994035785, + "grad_norm": 9.36495304107666, + "learning_rate": 1.0946094210626201e-07, + "loss": 0.1394, + "num_input_tokens_seen": 40107104, + "step": 20496 + }, + { + "epoch": 2.7166335321404906, + "grad_norm": 3.4203884601593018, + "learning_rate": 1.093593708757884e-07, + "loss": 0.0118, + "num_input_tokens_seen": 40109296, + "step": 20497 + }, + { + "epoch": 2.7167660702451952, + "grad_norm": 0.003240822581574321, + "learning_rate": 1.0925784573851517e-07, + "loss": 0.0, + "num_input_tokens_seen": 40111472, + "step": 20498 + }, + { + "epoch": 2.7168986083499007, + "grad_norm": 6.11899995803833, + "learning_rate": 1.0915636669640017e-07, + "loss": 0.0676, + "num_input_tokens_seen": 40113328, + "step": 20499 + }, + { + "epoch": 2.7170311464546058, + "grad_norm": 1.2890818119049072, + "learning_rate": 1.0905493375139963e-07, + "loss": 0.0071, + "num_input_tokens_seen": 40114576, + "step": 20500 + }, + { + "epoch": 2.717163684559311, + "grad_norm": 0.14043845236301422, + "learning_rate": 1.0895354690546978e-07, + "loss": 0.0007, + "num_input_tokens_seen": 40115792, + "step": 20501 + }, + { + "epoch": 2.717296222664016, + "grad_norm": 11.39294147491455, + "learning_rate": 1.0885220616056458e-07, + "loss": 0.2703, + "num_input_tokens_seen": 40118256, + "step": 20502 + }, + { + "epoch": 2.717428760768721, + "grad_norm": 8.292712211608887, + "learning_rate": 1.0875091151863859e-07, + "loss": 0.0941, + "num_input_tokens_seen": 40119832, + "step": 20503 + }, + { + "epoch": 2.7175612988734263, + "grad_norm": 0.020115241408348083, + "learning_rate": 1.0864966298164442e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40121432, + "step": 20504 + }, + { + "epoch": 2.717693836978131, + "grad_norm": 0.0244462713599205, + "learning_rate": 1.0854846055153468e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40122968, + "step": 20505 + }, + { + "epoch": 2.7178263750828364, + "grad_norm": 5.001358509063721, + "learning_rate": 1.0844730423026057e-07, + "loss": 0.0049, + "num_input_tokens_seen": 40125144, + "step": 20506 + }, + { + "epoch": 2.7179589131875415, + "grad_norm": 0.007635052781552076, + "learning_rate": 1.083461940197722e-07, + "loss": 0.0, + "num_input_tokens_seen": 40128648, + "step": 20507 + }, + { + "epoch": 2.7180914512922465, + "grad_norm": 0.08132961392402649, + "learning_rate": 1.0824512992201886e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40131584, + "step": 20508 + }, + { + "epoch": 2.7182239893969515, + "grad_norm": 2.2775979042053223, + "learning_rate": 1.0814411193894952e-07, + "loss": 0.0112, + "num_input_tokens_seen": 40134184, + "step": 20509 + }, + { + "epoch": 2.7183565275016566, + "grad_norm": 0.33755895495414734, + "learning_rate": 1.0804314007251182e-07, + "loss": 0.0019, + "num_input_tokens_seen": 40136680, + "step": 20510 + }, + { + "epoch": 2.718489065606362, + "grad_norm": 0.021252945065498352, + "learning_rate": 1.0794221432465252e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40139896, + "step": 20511 + }, + { + "epoch": 2.718621603711067, + "grad_norm": 2.2145538330078125, + "learning_rate": 1.0784133469731784e-07, + "loss": 0.0116, + "num_input_tokens_seen": 40142248, + "step": 20512 + }, + { + "epoch": 2.718754141815772, + "grad_norm": 17.48003387451172, + "learning_rate": 1.0774050119245178e-07, + "loss": 0.1989, + "num_input_tokens_seen": 40144680, + "step": 20513 + }, + { + "epoch": 2.718886679920477, + "grad_norm": 0.017997637391090393, + "learning_rate": 1.0763971381199945e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40146520, + "step": 20514 + }, + { + "epoch": 2.719019218025182, + "grad_norm": 0.002188366837799549, + "learning_rate": 1.0753897255790402e-07, + "loss": 0.0, + "num_input_tokens_seen": 40147968, + "step": 20515 + }, + { + "epoch": 2.7191517561298872, + "grad_norm": 0.013410797342658043, + "learning_rate": 1.0743827743210783e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40149648, + "step": 20516 + }, + { + "epoch": 2.7192842942345923, + "grad_norm": 0.006881359498947859, + "learning_rate": 1.073376284365521e-07, + "loss": 0.0, + "num_input_tokens_seen": 40151928, + "step": 20517 + }, + { + "epoch": 2.7194168323392978, + "grad_norm": 1.909382700920105, + "learning_rate": 1.072370255731775e-07, + "loss": 0.0054, + "num_input_tokens_seen": 40153800, + "step": 20518 + }, + { + "epoch": 2.719549370444003, + "grad_norm": 0.8635737299919128, + "learning_rate": 1.0713646884392331e-07, + "loss": 0.003, + "num_input_tokens_seen": 40157112, + "step": 20519 + }, + { + "epoch": 2.719681908548708, + "grad_norm": 0.06327981501817703, + "learning_rate": 1.0703595825072882e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40158472, + "step": 20520 + }, + { + "epoch": 2.719814446653413, + "grad_norm": 6.974562644958496, + "learning_rate": 1.0693549379553219e-07, + "loss": 0.0805, + "num_input_tokens_seen": 40160856, + "step": 20521 + }, + { + "epoch": 2.719946984758118, + "grad_norm": 5.166565418243408, + "learning_rate": 1.0683507548027022e-07, + "loss": 0.0498, + "num_input_tokens_seen": 40163760, + "step": 20522 + }, + { + "epoch": 2.720079522862823, + "grad_norm": 11.195116996765137, + "learning_rate": 1.0673470330687913e-07, + "loss": 0.0944, + "num_input_tokens_seen": 40165944, + "step": 20523 + }, + { + "epoch": 2.720212060967528, + "grad_norm": 0.1436731368303299, + "learning_rate": 1.066343772772932e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40168904, + "step": 20524 + }, + { + "epoch": 2.7203445990722335, + "grad_norm": 0.313079833984375, + "learning_rate": 1.0653409739344839e-07, + "loss": 0.0013, + "num_input_tokens_seen": 40170928, + "step": 20525 + }, + { + "epoch": 2.7204771371769385, + "grad_norm": 37.44199752807617, + "learning_rate": 1.0643386365727675e-07, + "loss": 0.1942, + "num_input_tokens_seen": 40172720, + "step": 20526 + }, + { + "epoch": 2.7206096752816435, + "grad_norm": 0.0012883244780823588, + "learning_rate": 1.0633367607071176e-07, + "loss": 0.0, + "num_input_tokens_seen": 40174112, + "step": 20527 + }, + { + "epoch": 2.7207422133863486, + "grad_norm": 0.19330883026123047, + "learning_rate": 1.0623353463568493e-07, + "loss": 0.0008, + "num_input_tokens_seen": 40176360, + "step": 20528 + }, + { + "epoch": 2.7208747514910536, + "grad_norm": 1.4043216705322266, + "learning_rate": 1.0613343935412635e-07, + "loss": 0.0065, + "num_input_tokens_seen": 40177496, + "step": 20529 + }, + { + "epoch": 2.7210072895957587, + "grad_norm": 0.015906674787402153, + "learning_rate": 1.06033390227967e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40180416, + "step": 20530 + }, + { + "epoch": 2.7211398277004637, + "grad_norm": 0.22724610567092896, + "learning_rate": 1.0593338725913532e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40182400, + "step": 20531 + }, + { + "epoch": 2.721272365805169, + "grad_norm": 0.6512168049812317, + "learning_rate": 1.0583343044955923e-07, + "loss": 0.0012, + "num_input_tokens_seen": 40184272, + "step": 20532 + }, + { + "epoch": 2.721404903909874, + "grad_norm": 0.03858548030257225, + "learning_rate": 1.0573351980116664e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40186016, + "step": 20533 + }, + { + "epoch": 2.7215374420145793, + "grad_norm": 8.55422592163086, + "learning_rate": 1.0563365531588349e-07, + "loss": 0.057, + "num_input_tokens_seen": 40187752, + "step": 20534 + }, + { + "epoch": 2.7216699801192843, + "grad_norm": 7.8189592361450195, + "learning_rate": 1.0553383699563491e-07, + "loss": 0.1266, + "num_input_tokens_seen": 40190760, + "step": 20535 + }, + { + "epoch": 2.7218025182239893, + "grad_norm": 9.852140426635742, + "learning_rate": 1.0543406484234631e-07, + "loss": 0.1764, + "num_input_tokens_seen": 40193104, + "step": 20536 + }, + { + "epoch": 2.7219350563286944, + "grad_norm": 0.9803377985954285, + "learning_rate": 1.0533433885794031e-07, + "loss": 0.004, + "num_input_tokens_seen": 40196088, + "step": 20537 + }, + { + "epoch": 2.7220675944333994, + "grad_norm": 2.134528398513794, + "learning_rate": 1.0523465904434066e-07, + "loss": 0.0087, + "num_input_tokens_seen": 40197712, + "step": 20538 + }, + { + "epoch": 2.722200132538105, + "grad_norm": 17.87036895751953, + "learning_rate": 1.0513502540346888e-07, + "loss": 0.019, + "num_input_tokens_seen": 40199376, + "step": 20539 + }, + { + "epoch": 2.72233267064281, + "grad_norm": 0.0033193696290254593, + "learning_rate": 1.0503543793724563e-07, + "loss": 0.0, + "num_input_tokens_seen": 40200840, + "step": 20540 + }, + { + "epoch": 2.722465208747515, + "grad_norm": 1.9549384117126465, + "learning_rate": 1.0493589664759163e-07, + "loss": 0.0129, + "num_input_tokens_seen": 40202664, + "step": 20541 + }, + { + "epoch": 2.72259774685222, + "grad_norm": 5.965747833251953, + "learning_rate": 1.0483640153642561e-07, + "loss": 0.0227, + "num_input_tokens_seen": 40205176, + "step": 20542 + }, + { + "epoch": 2.722730284956925, + "grad_norm": 21.051149368286133, + "learning_rate": 1.0473695260566602e-07, + "loss": 0.3597, + "num_input_tokens_seen": 40207336, + "step": 20543 + }, + { + "epoch": 2.72286282306163, + "grad_norm": 0.5468198657035828, + "learning_rate": 1.0463754985723051e-07, + "loss": 0.0022, + "num_input_tokens_seen": 40209776, + "step": 20544 + }, + { + "epoch": 2.722995361166335, + "grad_norm": 0.15997539460659027, + "learning_rate": 1.045381932930356e-07, + "loss": 0.0004, + "num_input_tokens_seen": 40211464, + "step": 20545 + }, + { + "epoch": 2.7231278992710406, + "grad_norm": 0.167790487408638, + "learning_rate": 1.0443888291499671e-07, + "loss": 0.0012, + "num_input_tokens_seen": 40213968, + "step": 20546 + }, + { + "epoch": 2.7232604373757456, + "grad_norm": 0.7253275513648987, + "learning_rate": 1.0433961872502895e-07, + "loss": 0.003, + "num_input_tokens_seen": 40216184, + "step": 20547 + }, + { + "epoch": 2.7233929754804507, + "grad_norm": 9.830698013305664, + "learning_rate": 1.042404007250461e-07, + "loss": 0.1966, + "num_input_tokens_seen": 40217920, + "step": 20548 + }, + { + "epoch": 2.7235255135851557, + "grad_norm": 0.06328345835208893, + "learning_rate": 1.0414122891696077e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40219920, + "step": 20549 + }, + { + "epoch": 2.7236580516898607, + "grad_norm": 0.11352048814296722, + "learning_rate": 1.0404210330268532e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40221296, + "step": 20550 + }, + { + "epoch": 2.723790589794566, + "grad_norm": 2.7292401790618896, + "learning_rate": 1.039430238841313e-07, + "loss": 0.0172, + "num_input_tokens_seen": 40223568, + "step": 20551 + }, + { + "epoch": 2.723923127899271, + "grad_norm": 8.333146095275879, + "learning_rate": 1.0384399066320883e-07, + "loss": 0.1421, + "num_input_tokens_seen": 40225400, + "step": 20552 + }, + { + "epoch": 2.7240556660039763, + "grad_norm": 0.14083242416381836, + "learning_rate": 1.0374500364182722e-07, + "loss": 0.0006, + "num_input_tokens_seen": 40227656, + "step": 20553 + }, + { + "epoch": 2.7241882041086813, + "grad_norm": 0.000848158320877701, + "learning_rate": 1.0364606282189493e-07, + "loss": 0.0, + "num_input_tokens_seen": 40229248, + "step": 20554 + }, + { + "epoch": 2.7243207422133864, + "grad_norm": 46.73067092895508, + "learning_rate": 1.0354716820531935e-07, + "loss": 0.2044, + "num_input_tokens_seen": 40231304, + "step": 20555 + }, + { + "epoch": 2.7244532803180914, + "grad_norm": 0.04204120859503746, + "learning_rate": 1.0344831979400754e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40233544, + "step": 20556 + }, + { + "epoch": 2.7245858184227965, + "grad_norm": 7.8568315505981445, + "learning_rate": 1.0334951758986606e-07, + "loss": 0.0511, + "num_input_tokens_seen": 40235944, + "step": 20557 + }, + { + "epoch": 2.7247183565275015, + "grad_norm": 0.030321598052978516, + "learning_rate": 1.032507615947989e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40237576, + "step": 20558 + }, + { + "epoch": 2.7248508946322065, + "grad_norm": 0.6467282772064209, + "learning_rate": 1.031520518107107e-07, + "loss": 0.0036, + "num_input_tokens_seen": 40240144, + "step": 20559 + }, + { + "epoch": 2.724983432736912, + "grad_norm": 0.07581186294555664, + "learning_rate": 1.0305338823950434e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40241328, + "step": 20560 + }, + { + "epoch": 2.725115970841617, + "grad_norm": 6.682172775268555, + "learning_rate": 1.0295477088308193e-07, + "loss": 0.0393, + "num_input_tokens_seen": 40243152, + "step": 20561 + }, + { + "epoch": 2.725248508946322, + "grad_norm": 0.06568250805139542, + "learning_rate": 1.0285619974334526e-07, + "loss": 0.0003, + "num_input_tokens_seen": 40245304, + "step": 20562 + }, + { + "epoch": 2.725381047051027, + "grad_norm": 0.04685897380113602, + "learning_rate": 1.0275767482219506e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40247744, + "step": 20563 + }, + { + "epoch": 2.725513585155732, + "grad_norm": 3.6662306785583496, + "learning_rate": 1.0265919612153064e-07, + "loss": 0.0531, + "num_input_tokens_seen": 40249472, + "step": 20564 + }, + { + "epoch": 2.7256461232604376, + "grad_norm": 0.060763824731111526, + "learning_rate": 1.0256076364325073e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40251808, + "step": 20565 + }, + { + "epoch": 2.7257786613651422, + "grad_norm": 0.013884919695556164, + "learning_rate": 1.0246237738925302e-07, + "loss": 0.0, + "num_input_tokens_seen": 40253496, + "step": 20566 + }, + { + "epoch": 2.7259111994698477, + "grad_norm": 0.05732065066695213, + "learning_rate": 1.023640373614343e-07, + "loss": 0.0005, + "num_input_tokens_seen": 40255168, + "step": 20567 + }, + { + "epoch": 2.7260437375745528, + "grad_norm": 0.004776959307491779, + "learning_rate": 1.0226574356169167e-07, + "loss": 0.0, + "num_input_tokens_seen": 40257360, + "step": 20568 + }, + { + "epoch": 2.726176275679258, + "grad_norm": 11.196110725402832, + "learning_rate": 1.0216749599191944e-07, + "loss": 0.0613, + "num_input_tokens_seen": 40259720, + "step": 20569 + }, + { + "epoch": 2.726308813783963, + "grad_norm": 2.9785289764404297, + "learning_rate": 1.0206929465401222e-07, + "loss": 0.0132, + "num_input_tokens_seen": 40262408, + "step": 20570 + }, + { + "epoch": 2.726441351888668, + "grad_norm": 13.020023345947266, + "learning_rate": 1.0197113954986266e-07, + "loss": 0.1254, + "num_input_tokens_seen": 40264656, + "step": 20571 + }, + { + "epoch": 2.7265738899933734, + "grad_norm": 3.677790403366089, + "learning_rate": 1.0187303068136423e-07, + "loss": 0.021, + "num_input_tokens_seen": 40266432, + "step": 20572 + }, + { + "epoch": 2.726706428098078, + "grad_norm": 5.411695957183838, + "learning_rate": 1.0177496805040794e-07, + "loss": 0.0929, + "num_input_tokens_seen": 40268856, + "step": 20573 + }, + { + "epoch": 2.7268389662027834, + "grad_norm": 6.035541534423828, + "learning_rate": 1.0167695165888502e-07, + "loss": 0.0481, + "num_input_tokens_seen": 40271360, + "step": 20574 + }, + { + "epoch": 2.7269715043074885, + "grad_norm": 0.11402358114719391, + "learning_rate": 1.0157898150868512e-07, + "loss": 0.0007, + "num_input_tokens_seen": 40273064, + "step": 20575 + }, + { + "epoch": 2.7271040424121935, + "grad_norm": 17.241437911987305, + "learning_rate": 1.0148105760169669e-07, + "loss": 0.1222, + "num_input_tokens_seen": 40275128, + "step": 20576 + }, + { + "epoch": 2.7272365805168985, + "grad_norm": 10.276262283325195, + "learning_rate": 1.0138317993980823e-07, + "loss": 0.1347, + "num_input_tokens_seen": 40277168, + "step": 20577 + }, + { + "epoch": 2.7273691186216036, + "grad_norm": 2.896395206451416, + "learning_rate": 1.0128534852490685e-07, + "loss": 0.0249, + "num_input_tokens_seen": 40279104, + "step": 20578 + }, + { + "epoch": 2.727501656726309, + "grad_norm": 8.9425630569458, + "learning_rate": 1.0118756335887852e-07, + "loss": 0.2136, + "num_input_tokens_seen": 40281344, + "step": 20579 + }, + { + "epoch": 2.7276341948310137, + "grad_norm": 6.429861545562744, + "learning_rate": 1.0108982444360899e-07, + "loss": 0.0223, + "num_input_tokens_seen": 40283584, + "step": 20580 + }, + { + "epoch": 2.727766732935719, + "grad_norm": 2.63631010055542, + "learning_rate": 1.0099213178098228e-07, + "loss": 0.0156, + "num_input_tokens_seen": 40286416, + "step": 20581 + }, + { + "epoch": 2.727899271040424, + "grad_norm": 8.04603099822998, + "learning_rate": 1.0089448537288271e-07, + "loss": 0.0522, + "num_input_tokens_seen": 40288208, + "step": 20582 + }, + { + "epoch": 2.728031809145129, + "grad_norm": 1.5973155498504639, + "learning_rate": 1.007968852211924e-07, + "loss": 0.0134, + "num_input_tokens_seen": 40290464, + "step": 20583 + }, + { + "epoch": 2.7281643472498343, + "grad_norm": 5.981142520904541, + "learning_rate": 1.0069933132779347e-07, + "loss": 0.0949, + "num_input_tokens_seen": 40292616, + "step": 20584 + }, + { + "epoch": 2.7282968853545393, + "grad_norm": 0.012942900881171227, + "learning_rate": 1.0060182369456606e-07, + "loss": 0.0001, + "num_input_tokens_seen": 40294192, + "step": 20585 + }, + { + "epoch": 2.7284294234592448, + "grad_norm": 7.4312052726745605, + "learning_rate": 1.005043623233909e-07, + "loss": 0.0836, + "num_input_tokens_seen": 40296168, + "step": 20586 + }, + { + "epoch": 2.7285619615639494, + "grad_norm": 2.779864549636841, + "learning_rate": 1.004069472161473e-07, + "loss": 0.0154, + "num_input_tokens_seen": 40298040, + "step": 20587 + }, + { + "epoch": 2.728694499668655, + "grad_norm": 3.4366843700408936, + "learning_rate": 1.0030957837471294e-07, + "loss": 0.0202, + "num_input_tokens_seen": 40301424, + "step": 20588 + }, + { + "epoch": 2.72882703777336, + "grad_norm": 6.422103404998779, + "learning_rate": 1.002122558009655e-07, + "loss": 0.0117, + "num_input_tokens_seen": 40303032, + "step": 20589 + }, + { + "epoch": 2.728959575878065, + "grad_norm": 0.006842087022960186, + "learning_rate": 1.0011497949678096e-07, + "loss": 0.0, + "num_input_tokens_seen": 40305016, + "step": 20590 + }, + { + "epoch": 2.72909211398277, + "grad_norm": 0.023462209850549698, + "learning_rate": 1.0001774946403558e-07, + "loss": 0.0002, + "num_input_tokens_seen": 40306912, + "step": 20591 + }, + { + "epoch": 2.729224652087475, + "grad_norm": 1.7935649156570435, + "learning_rate": 9.992056570460345e-08, + "loss": 0.0077, + "num_input_tokens_seen": 40308384, + "step": 20592 + }, + { + "epoch": 2.7293571901921805, + "grad_norm": 5.512087821960449, + "learning_rate": 9.982342822035862e-08, + "loss": 0.0652, + "num_input_tokens_seen": 40310944, + "step": 20593 + }, + { + "epoch": 2.7294897282968855, + "grad_norm": 0.008757694624364376, + "learning_rate": 9.972633701317403e-08, + "loss": 0.0, + "num_input_tokens_seen": 40313744, + "step": 20594 + }, + { + "epoch": 2.7296222664015906, + "grad_norm": 9.620189666748047, + "learning_rate": 9.96292920849215e-08, + "loss": 0.0826, + "num_input_tokens_seen": 40315488, + "step": 20595 + }, + { + "epoch": 2.7297548045062956, + "grad_norm": 0.0023674629628658295, + "learning_rate": 9.953229343747179e-08, + "loss": 0.0, + "num_input_tokens_seen": 40316768, + "step": 20596 + }, + { + "epoch": 2.7298873426110006, + "grad_norm": 0.0042010038159787655, + "learning_rate": 9.943534107269559e-08, + "loss": 0.0, + "num_input_tokens_seen": 40319152, + "step": 20597 + }, + { + "epoch": 2.7300198807157057, + "grad_norm": 0.09010634571313858, + "learning_rate": 9.933843499246226e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40321376, + "step": 20598 + }, + { + "epoch": 2.7301524188204107, + "grad_norm": 0.0031219448428601027, + "learning_rate": 9.924157519864003e-08, + "loss": 0.0, + "num_input_tokens_seen": 40323592, + "step": 20599 + }, + { + "epoch": 2.730284956925116, + "grad_norm": 0.002106622327119112, + "learning_rate": 9.914476169309655e-08, + "loss": 0.0, + "num_input_tokens_seen": 40324696, + "step": 20600 + }, + { + "epoch": 2.7304174950298212, + "grad_norm": 5.996222496032715, + "learning_rate": 9.904799447769813e-08, + "loss": 0.0206, + "num_input_tokens_seen": 40326336, + "step": 20601 + }, + { + "epoch": 2.7305500331345263, + "grad_norm": 0.03086123801767826, + "learning_rate": 9.89512735543105e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40329136, + "step": 20602 + }, + { + "epoch": 2.7306825712392313, + "grad_norm": 0.11009085178375244, + "learning_rate": 9.885459892479882e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40330688, + "step": 20603 + }, + { + "epoch": 2.7308151093439363, + "grad_norm": 0.027499202638864517, + "learning_rate": 9.875797059102715e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40332768, + "step": 20604 + }, + { + "epoch": 2.7309476474486414, + "grad_norm": 2.2852234840393066, + "learning_rate": 9.866138855485819e-08, + "loss": 0.0065, + "num_input_tokens_seen": 40334464, + "step": 20605 + }, + { + "epoch": 2.7310801855533464, + "grad_norm": 9.260998725891113, + "learning_rate": 9.856485281815459e-08, + "loss": 0.1636, + "num_input_tokens_seen": 40336736, + "step": 20606 + }, + { + "epoch": 2.731212723658052, + "grad_norm": 0.0059330156072974205, + "learning_rate": 9.846836338277682e-08, + "loss": 0.0, + "num_input_tokens_seen": 40337744, + "step": 20607 + }, + { + "epoch": 2.731345261762757, + "grad_norm": 0.020890355110168457, + "learning_rate": 9.83719202505859e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40339264, + "step": 20608 + }, + { + "epoch": 2.731477799867462, + "grad_norm": 4.8022332191467285, + "learning_rate": 9.827552342344116e-08, + "loss": 0.0517, + "num_input_tokens_seen": 40341032, + "step": 20609 + }, + { + "epoch": 2.731610337972167, + "grad_norm": 6.902804851531982, + "learning_rate": 9.817917290320112e-08, + "loss": 0.0809, + "num_input_tokens_seen": 40343896, + "step": 20610 + }, + { + "epoch": 2.731742876076872, + "grad_norm": 0.04349290207028389, + "learning_rate": 9.808286869172373e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40345608, + "step": 20611 + }, + { + "epoch": 2.731875414181577, + "grad_norm": 3.818340539932251, + "learning_rate": 9.798661079086557e-08, + "loss": 0.0233, + "num_input_tokens_seen": 40347328, + "step": 20612 + }, + { + "epoch": 2.732007952286282, + "grad_norm": 0.024737080559134483, + "learning_rate": 9.789039920248266e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40349560, + "step": 20613 + }, + { + "epoch": 2.7321404903909876, + "grad_norm": 3.0820424556732178, + "learning_rate": 9.779423392842991e-08, + "loss": 0.008, + "num_input_tokens_seen": 40350664, + "step": 20614 + }, + { + "epoch": 2.7322730284956926, + "grad_norm": 8.274417877197266, + "learning_rate": 9.769811497056137e-08, + "loss": 0.1507, + "num_input_tokens_seen": 40352328, + "step": 20615 + }, + { + "epoch": 2.7324055666003977, + "grad_norm": 0.007910707965493202, + "learning_rate": 9.760204233073084e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40354336, + "step": 20616 + }, + { + "epoch": 2.7325381047051027, + "grad_norm": 0.0007721353904344141, + "learning_rate": 9.750601601078991e-08, + "loss": 0.0, + "num_input_tokens_seen": 40355704, + "step": 20617 + }, + { + "epoch": 2.7326706428098078, + "grad_norm": 1.7725874185562134, + "learning_rate": 9.741003601259041e-08, + "loss": 0.0289, + "num_input_tokens_seen": 40357560, + "step": 20618 + }, + { + "epoch": 2.732803180914513, + "grad_norm": 9.851848602294922, + "learning_rate": 9.73141023379831e-08, + "loss": 0.1228, + "num_input_tokens_seen": 40359760, + "step": 20619 + }, + { + "epoch": 2.732935719019218, + "grad_norm": 0.0025030917022377253, + "learning_rate": 9.721821498881706e-08, + "loss": 0.0, + "num_input_tokens_seen": 40361512, + "step": 20620 + }, + { + "epoch": 2.7330682571239233, + "grad_norm": 7.826012134552002, + "learning_rate": 9.712237396694191e-08, + "loss": 0.1075, + "num_input_tokens_seen": 40363112, + "step": 20621 + }, + { + "epoch": 2.7332007952286284, + "grad_norm": 0.012881021946668625, + "learning_rate": 9.702657927420478e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40364992, + "step": 20622 + }, + { + "epoch": 2.7333333333333334, + "grad_norm": 13.361252784729004, + "learning_rate": 9.693083091245281e-08, + "loss": 0.1845, + "num_input_tokens_seen": 40366976, + "step": 20623 + }, + { + "epoch": 2.7334658714380384, + "grad_norm": 16.721614837646484, + "learning_rate": 9.68351288835323e-08, + "loss": 0.2106, + "num_input_tokens_seen": 40369536, + "step": 20624 + }, + { + "epoch": 2.7335984095427435, + "grad_norm": 0.012255587615072727, + "learning_rate": 9.673947318928873e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40372208, + "step": 20625 + }, + { + "epoch": 2.7337309476474485, + "grad_norm": 9.030549049377441, + "learning_rate": 9.66438638315656e-08, + "loss": 0.1213, + "num_input_tokens_seen": 40375080, + "step": 20626 + }, + { + "epoch": 2.7338634857521535, + "grad_norm": 4.068104267120361, + "learning_rate": 9.6548300812207e-08, + "loss": 0.0208, + "num_input_tokens_seen": 40377256, + "step": 20627 + }, + { + "epoch": 2.733996023856859, + "grad_norm": 9.125537872314453, + "learning_rate": 9.645278413305481e-08, + "loss": 0.046, + "num_input_tokens_seen": 40379832, + "step": 20628 + }, + { + "epoch": 2.734128561961564, + "grad_norm": 1.1615562438964844, + "learning_rate": 9.635731379595143e-08, + "loss": 0.0054, + "num_input_tokens_seen": 40381904, + "step": 20629 + }, + { + "epoch": 2.734261100066269, + "grad_norm": 6.887634754180908, + "learning_rate": 9.626188980273732e-08, + "loss": 0.0542, + "num_input_tokens_seen": 40384024, + "step": 20630 + }, + { + "epoch": 2.734393638170974, + "grad_norm": 14.204608917236328, + "learning_rate": 9.616651215525213e-08, + "loss": 0.1652, + "num_input_tokens_seen": 40386184, + "step": 20631 + }, + { + "epoch": 2.734526176275679, + "grad_norm": 31.906185150146484, + "learning_rate": 9.607118085533468e-08, + "loss": 0.3946, + "num_input_tokens_seen": 40387960, + "step": 20632 + }, + { + "epoch": 2.734658714380384, + "grad_norm": 0.016838302835822105, + "learning_rate": 9.59758959048232e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40390000, + "step": 20633 + }, + { + "epoch": 2.7347912524850893, + "grad_norm": 7.177703857421875, + "learning_rate": 9.588065730555513e-08, + "loss": 0.122, + "num_input_tokens_seen": 40391960, + "step": 20634 + }, + { + "epoch": 2.7349237905897947, + "grad_norm": 12.038917541503906, + "learning_rate": 9.578546505936675e-08, + "loss": 0.0667, + "num_input_tokens_seen": 40394040, + "step": 20635 + }, + { + "epoch": 2.7350563286944998, + "grad_norm": 0.13613131642341614, + "learning_rate": 9.569031916809301e-08, + "loss": 0.0009, + "num_input_tokens_seen": 40395912, + "step": 20636 + }, + { + "epoch": 2.735188866799205, + "grad_norm": 0.00870995968580246, + "learning_rate": 9.559521963356855e-08, + "loss": 0.0, + "num_input_tokens_seen": 40398064, + "step": 20637 + }, + { + "epoch": 2.73532140490391, + "grad_norm": 0.036005210131406784, + "learning_rate": 9.55001664576266e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40399592, + "step": 20638 + }, + { + "epoch": 2.735453943008615, + "grad_norm": 0.003369431011378765, + "learning_rate": 9.540515964210045e-08, + "loss": 0.0, + "num_input_tokens_seen": 40401032, + "step": 20639 + }, + { + "epoch": 2.73558648111332, + "grad_norm": 5.880390167236328, + "learning_rate": 9.531019918882195e-08, + "loss": 0.0289, + "num_input_tokens_seen": 40403776, + "step": 20640 + }, + { + "epoch": 2.735719019218025, + "grad_norm": 0.0331774465739727, + "learning_rate": 9.521528509962158e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40405744, + "step": 20641 + }, + { + "epoch": 2.7358515573227304, + "grad_norm": 0.015433989465236664, + "learning_rate": 9.512041737632955e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40407160, + "step": 20642 + }, + { + "epoch": 2.7359840954274355, + "grad_norm": 2.6368601322174072, + "learning_rate": 9.502559602077438e-08, + "loss": 0.0121, + "num_input_tokens_seen": 40409072, + "step": 20643 + }, + { + "epoch": 2.7361166335321405, + "grad_norm": 0.010278803296387196, + "learning_rate": 9.493082103478519e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40410888, + "step": 20644 + }, + { + "epoch": 2.7362491716368456, + "grad_norm": 0.029607700183987617, + "learning_rate": 9.48360924201891e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40412544, + "step": 20645 + }, + { + "epoch": 2.7363817097415506, + "grad_norm": 0.0024321903474628925, + "learning_rate": 9.474141017881245e-08, + "loss": 0.0, + "num_input_tokens_seen": 40414040, + "step": 20646 + }, + { + "epoch": 2.736514247846256, + "grad_norm": 0.001133545534685254, + "learning_rate": 9.464677431248042e-08, + "loss": 0.0, + "num_input_tokens_seen": 40415272, + "step": 20647 + }, + { + "epoch": 2.7366467859509607, + "grad_norm": 1.2533169984817505, + "learning_rate": 9.455218482301826e-08, + "loss": 0.0061, + "num_input_tokens_seen": 40417864, + "step": 20648 + }, + { + "epoch": 2.736779324055666, + "grad_norm": 17.05585289001465, + "learning_rate": 9.445764171224891e-08, + "loss": 0.1668, + "num_input_tokens_seen": 40419680, + "step": 20649 + }, + { + "epoch": 2.736911862160371, + "grad_norm": 4.985896587371826, + "learning_rate": 9.436314498199595e-08, + "loss": 0.0579, + "num_input_tokens_seen": 40422232, + "step": 20650 + }, + { + "epoch": 2.7370444002650762, + "grad_norm": 0.015136467292904854, + "learning_rate": 9.426869463408122e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40424080, + "step": 20651 + }, + { + "epoch": 2.7371769383697813, + "grad_norm": 0.4803467392921448, + "learning_rate": 9.41742906703258e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40425128, + "step": 20652 + }, + { + "epoch": 2.7373094764744863, + "grad_norm": 7.718040466308594, + "learning_rate": 9.407993309254959e-08, + "loss": 0.1486, + "num_input_tokens_seen": 40426896, + "step": 20653 + }, + { + "epoch": 2.737442014579192, + "grad_norm": 6.133661270141602, + "learning_rate": 9.398562190257199e-08, + "loss": 0.0403, + "num_input_tokens_seen": 40428776, + "step": 20654 + }, + { + "epoch": 2.7375745526838964, + "grad_norm": 0.003038499504327774, + "learning_rate": 9.389135710221153e-08, + "loss": 0.0, + "num_input_tokens_seen": 40430304, + "step": 20655 + }, + { + "epoch": 2.737707090788602, + "grad_norm": 8.800638198852539, + "learning_rate": 9.379713869328538e-08, + "loss": 0.0914, + "num_input_tokens_seen": 40431880, + "step": 20656 + }, + { + "epoch": 2.737839628893307, + "grad_norm": 0.7635812163352966, + "learning_rate": 9.37029666776107e-08, + "loss": 0.0013, + "num_input_tokens_seen": 40433616, + "step": 20657 + }, + { + "epoch": 2.737972166998012, + "grad_norm": 1.2712606191635132, + "learning_rate": 9.360884105700269e-08, + "loss": 0.0106, + "num_input_tokens_seen": 40435472, + "step": 20658 + }, + { + "epoch": 2.738104705102717, + "grad_norm": 0.5395106077194214, + "learning_rate": 9.351476183327601e-08, + "loss": 0.0012, + "num_input_tokens_seen": 40437456, + "step": 20659 + }, + { + "epoch": 2.738237243207422, + "grad_norm": 1.3326441049575806, + "learning_rate": 9.342072900824533e-08, + "loss": 0.007, + "num_input_tokens_seen": 40439872, + "step": 20660 + }, + { + "epoch": 2.7383697813121275, + "grad_norm": 5.483769416809082, + "learning_rate": 9.33267425837231e-08, + "loss": 0.1187, + "num_input_tokens_seen": 40442224, + "step": 20661 + }, + { + "epoch": 2.738502319416832, + "grad_norm": 0.00310563575476408, + "learning_rate": 9.323280256152118e-08, + "loss": 0.0, + "num_input_tokens_seen": 40444128, + "step": 20662 + }, + { + "epoch": 2.7386348575215376, + "grad_norm": 0.024852773174643517, + "learning_rate": 9.313890894345173e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40445720, + "step": 20663 + }, + { + "epoch": 2.7387673956262426, + "grad_norm": 10.2554931640625, + "learning_rate": 9.304506173132416e-08, + "loss": 0.2218, + "num_input_tokens_seen": 40448440, + "step": 20664 + }, + { + "epoch": 2.7388999337309476, + "grad_norm": 4.317249298095703, + "learning_rate": 9.295126092694839e-08, + "loss": 0.0261, + "num_input_tokens_seen": 40449984, + "step": 20665 + }, + { + "epoch": 2.7390324718356527, + "grad_norm": 6.298765659332275, + "learning_rate": 9.2857506532133e-08, + "loss": 0.0526, + "num_input_tokens_seen": 40452104, + "step": 20666 + }, + { + "epoch": 2.7391650099403577, + "grad_norm": 0.005699994508177042, + "learning_rate": 9.27637985486854e-08, + "loss": 0.0, + "num_input_tokens_seen": 40454424, + "step": 20667 + }, + { + "epoch": 2.739297548045063, + "grad_norm": 0.1396913379430771, + "learning_rate": 9.267013697841193e-08, + "loss": 0.0009, + "num_input_tokens_seen": 40457312, + "step": 20668 + }, + { + "epoch": 2.739430086149768, + "grad_norm": 0.010176203213632107, + "learning_rate": 9.257652182311921e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40460192, + "step": 20669 + }, + { + "epoch": 2.7395626242544733, + "grad_norm": 0.4269968867301941, + "learning_rate": 9.24829530846122e-08, + "loss": 0.0039, + "num_input_tokens_seen": 40462104, + "step": 20670 + }, + { + "epoch": 2.7396951623591783, + "grad_norm": 7.088038921356201, + "learning_rate": 9.238943076469469e-08, + "loss": 0.0626, + "num_input_tokens_seen": 40463376, + "step": 20671 + }, + { + "epoch": 2.7398277004638834, + "grad_norm": 5.937478065490723, + "learning_rate": 9.229595486517001e-08, + "loss": 0.0773, + "num_input_tokens_seen": 40465584, + "step": 20672 + }, + { + "epoch": 2.7399602385685884, + "grad_norm": 6.387305736541748, + "learning_rate": 9.220252538784002e-08, + "loss": 0.0335, + "num_input_tokens_seen": 40467264, + "step": 20673 + }, + { + "epoch": 2.7400927766732934, + "grad_norm": 0.07741384953260422, + "learning_rate": 9.210914233450635e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40469080, + "step": 20674 + }, + { + "epoch": 2.740225314777999, + "grad_norm": 2.6026041507720947, + "learning_rate": 9.20158057069695e-08, + "loss": 0.0089, + "num_input_tokens_seen": 40470976, + "step": 20675 + }, + { + "epoch": 2.7403578528827035, + "grad_norm": 2.2284111976623535, + "learning_rate": 9.19225155070294e-08, + "loss": 0.0202, + "num_input_tokens_seen": 40474480, + "step": 20676 + }, + { + "epoch": 2.740490390987409, + "grad_norm": 0.017774587497115135, + "learning_rate": 9.182927173648437e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40476296, + "step": 20677 + }, + { + "epoch": 2.740622929092114, + "grad_norm": 0.17431522905826569, + "learning_rate": 9.173607439713239e-08, + "loss": 0.0008, + "num_input_tokens_seen": 40479224, + "step": 20678 + }, + { + "epoch": 2.740755467196819, + "grad_norm": 6.192979335784912, + "learning_rate": 9.164292349077009e-08, + "loss": 0.0786, + "num_input_tokens_seen": 40481104, + "step": 20679 + }, + { + "epoch": 2.740888005301524, + "grad_norm": 1.1193798780441284, + "learning_rate": 9.154981901919324e-08, + "loss": 0.0033, + "num_input_tokens_seen": 40484024, + "step": 20680 + }, + { + "epoch": 2.741020543406229, + "grad_norm": 18.16061782836914, + "learning_rate": 9.145676098419793e-08, + "loss": 0.0539, + "num_input_tokens_seen": 40486408, + "step": 20681 + }, + { + "epoch": 2.7411530815109346, + "grad_norm": 5.657936096191406, + "learning_rate": 9.136374938757798e-08, + "loss": 0.0112, + "num_input_tokens_seen": 40488936, + "step": 20682 + }, + { + "epoch": 2.7412856196156397, + "grad_norm": 0.3479876220226288, + "learning_rate": 9.12707842311264e-08, + "loss": 0.0024, + "num_input_tokens_seen": 40491696, + "step": 20683 + }, + { + "epoch": 2.7414181577203447, + "grad_norm": 12.141497611999512, + "learning_rate": 9.117786551663594e-08, + "loss": 0.1574, + "num_input_tokens_seen": 40494320, + "step": 20684 + }, + { + "epoch": 2.7415506958250497, + "grad_norm": 0.02492293156683445, + "learning_rate": 9.108499324589765e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40495864, + "step": 20685 + }, + { + "epoch": 2.7416832339297548, + "grad_norm": 0.039177246391773224, + "learning_rate": 9.099216742070232e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40497056, + "step": 20686 + }, + { + "epoch": 2.74181577203446, + "grad_norm": 0.01595601998269558, + "learning_rate": 9.08993880428402e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40498632, + "step": 20687 + }, + { + "epoch": 2.741948310139165, + "grad_norm": 0.010404431261122227, + "learning_rate": 9.080665511410014e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40500528, + "step": 20688 + }, + { + "epoch": 2.7420808482438703, + "grad_norm": 0.025889527052640915, + "learning_rate": 9.071396863626958e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40502856, + "step": 20689 + }, + { + "epoch": 2.7422133863485754, + "grad_norm": 14.627632141113281, + "learning_rate": 9.062132861113542e-08, + "loss": 0.2475, + "num_input_tokens_seen": 40505872, + "step": 20690 + }, + { + "epoch": 2.7423459244532804, + "grad_norm": 4.508406162261963, + "learning_rate": 9.05287350404846e-08, + "loss": 0.0306, + "num_input_tokens_seen": 40507808, + "step": 20691 + }, + { + "epoch": 2.7424784625579854, + "grad_norm": 0.0013602660037577152, + "learning_rate": 9.043618792610176e-08, + "loss": 0.0, + "num_input_tokens_seen": 40509288, + "step": 20692 + }, + { + "epoch": 2.7426110006626905, + "grad_norm": 3.037480115890503, + "learning_rate": 9.034368726977161e-08, + "loss": 0.0234, + "num_input_tokens_seen": 40511576, + "step": 20693 + }, + { + "epoch": 2.7427435387673955, + "grad_norm": 5.327826499938965, + "learning_rate": 9.025123307327771e-08, + "loss": 0.0992, + "num_input_tokens_seen": 40513664, + "step": 20694 + }, + { + "epoch": 2.7428760768721006, + "grad_norm": 17.871667861938477, + "learning_rate": 9.015882533840198e-08, + "loss": 0.3611, + "num_input_tokens_seen": 40516288, + "step": 20695 + }, + { + "epoch": 2.743008614976806, + "grad_norm": 11.369023323059082, + "learning_rate": 9.006646406692688e-08, + "loss": 0.3064, + "num_input_tokens_seen": 40517432, + "step": 20696 + }, + { + "epoch": 2.743141153081511, + "grad_norm": 18.61103630065918, + "learning_rate": 8.997414926063264e-08, + "loss": 0.0495, + "num_input_tokens_seen": 40520264, + "step": 20697 + }, + { + "epoch": 2.743273691186216, + "grad_norm": 0.0007582338294014335, + "learning_rate": 8.988188092129951e-08, + "loss": 0.0, + "num_input_tokens_seen": 40521200, + "step": 20698 + }, + { + "epoch": 2.743406229290921, + "grad_norm": 0.023078473284840584, + "learning_rate": 8.978965905070664e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40522544, + "step": 20699 + }, + { + "epoch": 2.743538767395626, + "grad_norm": 0.019972823560237885, + "learning_rate": 8.969748365063146e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40523696, + "step": 20700 + }, + { + "epoch": 2.7436713055003312, + "grad_norm": 0.027034739032387733, + "learning_rate": 8.960535472285175e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40526896, + "step": 20701 + }, + { + "epoch": 2.7438038436050363, + "grad_norm": 0.005604673642665148, + "learning_rate": 8.951327226914386e-08, + "loss": 0.0, + "num_input_tokens_seen": 40528408, + "step": 20702 + }, + { + "epoch": 2.7439363817097417, + "grad_norm": 8.542337417602539, + "learning_rate": 8.942123629128247e-08, + "loss": 0.0557, + "num_input_tokens_seen": 40530856, + "step": 20703 + }, + { + "epoch": 2.744068919814447, + "grad_norm": 8.739341735839844, + "learning_rate": 8.93292467910431e-08, + "loss": 0.1558, + "num_input_tokens_seen": 40533240, + "step": 20704 + }, + { + "epoch": 2.744201457919152, + "grad_norm": 8.053001403808594, + "learning_rate": 8.92373037701988e-08, + "loss": 0.0333, + "num_input_tokens_seen": 40535304, + "step": 20705 + }, + { + "epoch": 2.744333996023857, + "grad_norm": 0.0044760992750525475, + "learning_rate": 8.9145407230522e-08, + "loss": 0.0, + "num_input_tokens_seen": 40537360, + "step": 20706 + }, + { + "epoch": 2.744466534128562, + "grad_norm": 3.009662389755249, + "learning_rate": 8.905355717378523e-08, + "loss": 0.0062, + "num_input_tokens_seen": 40539520, + "step": 20707 + }, + { + "epoch": 2.744599072233267, + "grad_norm": 12.790186882019043, + "learning_rate": 8.896175360175923e-08, + "loss": 0.0328, + "num_input_tokens_seen": 40541096, + "step": 20708 + }, + { + "epoch": 2.744731610337972, + "grad_norm": 0.020984278991818428, + "learning_rate": 8.886999651621347e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40542824, + "step": 20709 + }, + { + "epoch": 2.7448641484426775, + "grad_norm": 1.5154893398284912, + "learning_rate": 8.877828591891819e-08, + "loss": 0.0093, + "num_input_tokens_seen": 40544512, + "step": 20710 + }, + { + "epoch": 2.7449966865473825, + "grad_norm": 8.19878101348877, + "learning_rate": 8.868662181164028e-08, + "loss": 0.0731, + "num_input_tokens_seen": 40546024, + "step": 20711 + }, + { + "epoch": 2.7451292246520875, + "grad_norm": 0.02542228065431118, + "learning_rate": 8.859500419614808e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40547528, + "step": 20712 + }, + { + "epoch": 2.7452617627567926, + "grad_norm": 0.8276879787445068, + "learning_rate": 8.850343307420794e-08, + "loss": 0.0028, + "num_input_tokens_seen": 40549280, + "step": 20713 + }, + { + "epoch": 2.7453943008614976, + "grad_norm": 6.590904235839844, + "learning_rate": 8.841190844758512e-08, + "loss": 0.1788, + "num_input_tokens_seen": 40550912, + "step": 20714 + }, + { + "epoch": 2.7455268389662026, + "grad_norm": 12.48646354675293, + "learning_rate": 8.832043031804405e-08, + "loss": 0.0503, + "num_input_tokens_seen": 40553280, + "step": 20715 + }, + { + "epoch": 2.7456593770709077, + "grad_norm": 0.0037856181152164936, + "learning_rate": 8.822899868734885e-08, + "loss": 0.0, + "num_input_tokens_seen": 40554576, + "step": 20716 + }, + { + "epoch": 2.745791915175613, + "grad_norm": 0.001498855766840279, + "learning_rate": 8.813761355726286e-08, + "loss": 0.0, + "num_input_tokens_seen": 40556120, + "step": 20717 + }, + { + "epoch": 2.745924453280318, + "grad_norm": 0.00438922131434083, + "learning_rate": 8.804627492954742e-08, + "loss": 0.0, + "num_input_tokens_seen": 40558056, + "step": 20718 + }, + { + "epoch": 2.7460569913850232, + "grad_norm": 6.076627254486084, + "learning_rate": 8.795498280596337e-08, + "loss": 0.0759, + "num_input_tokens_seen": 40559960, + "step": 20719 + }, + { + "epoch": 2.7461895294897283, + "grad_norm": 0.14451400935649872, + "learning_rate": 8.786373718827152e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40562560, + "step": 20720 + }, + { + "epoch": 2.7463220675944333, + "grad_norm": 0.9155290722846985, + "learning_rate": 8.777253807823071e-08, + "loss": 0.005, + "num_input_tokens_seen": 40564296, + "step": 20721 + }, + { + "epoch": 2.7464546056991384, + "grad_norm": 0.08196693658828735, + "learning_rate": 8.76813854775993e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40565544, + "step": 20722 + }, + { + "epoch": 2.7465871438038434, + "grad_norm": 0.009713605046272278, + "learning_rate": 8.75902793881353e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40567576, + "step": 20723 + }, + { + "epoch": 2.746719681908549, + "grad_norm": 3.408336639404297, + "learning_rate": 8.749921981159482e-08, + "loss": 0.0067, + "num_input_tokens_seen": 40570616, + "step": 20724 + }, + { + "epoch": 2.746852220013254, + "grad_norm": 5.829514503479004, + "learning_rate": 8.740820674973393e-08, + "loss": 0.0341, + "num_input_tokens_seen": 40572312, + "step": 20725 + }, + { + "epoch": 2.746984758117959, + "grad_norm": 0.01758240908384323, + "learning_rate": 8.731724020430654e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40574064, + "step": 20726 + }, + { + "epoch": 2.747117296222664, + "grad_norm": 8.522876739501953, + "learning_rate": 8.722632017706762e-08, + "loss": 0.0445, + "num_input_tokens_seen": 40575664, + "step": 20727 + }, + { + "epoch": 2.747249834327369, + "grad_norm": 6.124189853668213, + "learning_rate": 8.713544666976965e-08, + "loss": 0.1465, + "num_input_tokens_seen": 40577464, + "step": 20728 + }, + { + "epoch": 2.747382372432074, + "grad_norm": 8.647217750549316, + "learning_rate": 8.704461968416511e-08, + "loss": 0.13, + "num_input_tokens_seen": 40578904, + "step": 20729 + }, + { + "epoch": 2.747514910536779, + "grad_norm": 7.488789081573486, + "learning_rate": 8.695383922200457e-08, + "loss": 0.014, + "num_input_tokens_seen": 40580384, + "step": 20730 + }, + { + "epoch": 2.7476474486414846, + "grad_norm": 0.019429726526141167, + "learning_rate": 8.686310528503883e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40581840, + "step": 20731 + }, + { + "epoch": 2.7477799867461896, + "grad_norm": 0.6497260928153992, + "learning_rate": 8.677241787501706e-08, + "loss": 0.0048, + "num_input_tokens_seen": 40583824, + "step": 20732 + }, + { + "epoch": 2.7479125248508947, + "grad_norm": 0.7497528195381165, + "learning_rate": 8.668177699368757e-08, + "loss": 0.0013, + "num_input_tokens_seen": 40586168, + "step": 20733 + }, + { + "epoch": 2.7480450629555997, + "grad_norm": 5.29608678817749, + "learning_rate": 8.659118264279898e-08, + "loss": 0.0684, + "num_input_tokens_seen": 40588080, + "step": 20734 + }, + { + "epoch": 2.7481776010603047, + "grad_norm": 12.830812454223633, + "learning_rate": 8.650063482409681e-08, + "loss": 0.1249, + "num_input_tokens_seen": 40591136, + "step": 20735 + }, + { + "epoch": 2.74831013916501, + "grad_norm": 2.3125052452087402, + "learning_rate": 8.641013353932775e-08, + "loss": 0.0184, + "num_input_tokens_seen": 40593960, + "step": 20736 + }, + { + "epoch": 2.748442677269715, + "grad_norm": 1.837138056755066, + "learning_rate": 8.631967879023595e-08, + "loss": 0.0126, + "num_input_tokens_seen": 40595696, + "step": 20737 + }, + { + "epoch": 2.7485752153744203, + "grad_norm": 0.24660219252109528, + "learning_rate": 8.622927057856612e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40597528, + "step": 20738 + }, + { + "epoch": 2.7487077534791253, + "grad_norm": 0.004943624138832092, + "learning_rate": 8.613890890606103e-08, + "loss": 0.0, + "num_input_tokens_seen": 40600872, + "step": 20739 + }, + { + "epoch": 2.7488402915838304, + "grad_norm": 0.009159441106021404, + "learning_rate": 8.604859377446317e-08, + "loss": 0.0, + "num_input_tokens_seen": 40603424, + "step": 20740 + }, + { + "epoch": 2.7489728296885354, + "grad_norm": 0.005963070783764124, + "learning_rate": 8.595832518551367e-08, + "loss": 0.0, + "num_input_tokens_seen": 40605080, + "step": 20741 + }, + { + "epoch": 2.7491053677932404, + "grad_norm": 1.7647782564163208, + "learning_rate": 8.586810314095278e-08, + "loss": 0.0078, + "num_input_tokens_seen": 40607216, + "step": 20742 + }, + { + "epoch": 2.749237905897946, + "grad_norm": 16.16608238220215, + "learning_rate": 8.577792764252052e-08, + "loss": 0.1861, + "num_input_tokens_seen": 40609232, + "step": 20743 + }, + { + "epoch": 2.7493704440026505, + "grad_norm": 2.951291084289551, + "learning_rate": 8.56877986919552e-08, + "loss": 0.0676, + "num_input_tokens_seen": 40611312, + "step": 20744 + }, + { + "epoch": 2.749502982107356, + "grad_norm": 4.2243452072143555, + "learning_rate": 8.559771629099462e-08, + "loss": 0.0249, + "num_input_tokens_seen": 40613688, + "step": 20745 + }, + { + "epoch": 2.749635520212061, + "grad_norm": 0.018397625535726547, + "learning_rate": 8.550768044137597e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40615160, + "step": 20746 + }, + { + "epoch": 2.749768058316766, + "grad_norm": 0.012802147306501865, + "learning_rate": 8.541769114483456e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40616672, + "step": 20747 + }, + { + "epoch": 2.749900596421471, + "grad_norm": 7.6945905685424805, + "learning_rate": 8.532774840310592e-08, + "loss": 0.0935, + "num_input_tokens_seen": 40618640, + "step": 20748 + }, + { + "epoch": 2.750033134526176, + "grad_norm": 0.01403286587446928, + "learning_rate": 8.523785221792424e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40620544, + "step": 20749 + }, + { + "epoch": 2.7501656726308816, + "grad_norm": 17.7221622467041, + "learning_rate": 8.514800259102229e-08, + "loss": 0.1382, + "num_input_tokens_seen": 40622824, + "step": 20750 + }, + { + "epoch": 2.7502982107355862, + "grad_norm": 21.403738021850586, + "learning_rate": 8.505819952413314e-08, + "loss": 0.1369, + "num_input_tokens_seen": 40624528, + "step": 20751 + }, + { + "epoch": 2.7504307488402917, + "grad_norm": 0.014931654557585716, + "learning_rate": 8.49684430189876e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40625824, + "step": 20752 + }, + { + "epoch": 2.7505632869449967, + "grad_norm": 0.003229240421205759, + "learning_rate": 8.487873307731681e-08, + "loss": 0.0, + "num_input_tokens_seen": 40626872, + "step": 20753 + }, + { + "epoch": 2.750695825049702, + "grad_norm": 4.609385967254639, + "learning_rate": 8.478906970084994e-08, + "loss": 0.0191, + "num_input_tokens_seen": 40628712, + "step": 20754 + }, + { + "epoch": 2.750828363154407, + "grad_norm": 4.673152446746826, + "learning_rate": 8.469945289131614e-08, + "loss": 0.0149, + "num_input_tokens_seen": 40631864, + "step": 20755 + }, + { + "epoch": 2.750960901259112, + "grad_norm": 1.2935545444488525, + "learning_rate": 8.460988265044295e-08, + "loss": 0.0198, + "num_input_tokens_seen": 40633184, + "step": 20756 + }, + { + "epoch": 2.7510934393638173, + "grad_norm": 2.5498416423797607, + "learning_rate": 8.45203589799573e-08, + "loss": 0.008, + "num_input_tokens_seen": 40635072, + "step": 20757 + }, + { + "epoch": 2.751225977468522, + "grad_norm": 0.16308946907520294, + "learning_rate": 8.443088188158588e-08, + "loss": 0.0009, + "num_input_tokens_seen": 40636576, + "step": 20758 + }, + { + "epoch": 2.7513585155732274, + "grad_norm": 0.0250396765768528, + "learning_rate": 8.434145135705341e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40639032, + "step": 20759 + }, + { + "epoch": 2.7514910536779325, + "grad_norm": 0.04512974992394447, + "learning_rate": 8.425206740808434e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40640568, + "step": 20760 + }, + { + "epoch": 2.7516235917826375, + "grad_norm": 3.204676628112793, + "learning_rate": 8.416273003640202e-08, + "loss": 0.074, + "num_input_tokens_seen": 40642696, + "step": 20761 + }, + { + "epoch": 2.7517561298873425, + "grad_norm": 0.014112602919340134, + "learning_rate": 8.40734392437284e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40643856, + "step": 20762 + }, + { + "epoch": 2.7518886679920476, + "grad_norm": 0.1166965439915657, + "learning_rate": 8.398419503178545e-08, + "loss": 0.0005, + "num_input_tokens_seen": 40645616, + "step": 20763 + }, + { + "epoch": 2.752021206096753, + "grad_norm": 4.574771881103516, + "learning_rate": 8.389499740229457e-08, + "loss": 0.0248, + "num_input_tokens_seen": 40647272, + "step": 20764 + }, + { + "epoch": 2.752153744201458, + "grad_norm": 0.012392591685056686, + "learning_rate": 8.380584635697464e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40649704, + "step": 20765 + }, + { + "epoch": 2.752286282306163, + "grad_norm": 3.191887855529785, + "learning_rate": 8.371674189754487e-08, + "loss": 0.0184, + "num_input_tokens_seen": 40651872, + "step": 20766 + }, + { + "epoch": 2.752418820410868, + "grad_norm": 0.11252931505441666, + "learning_rate": 8.36276840257233e-08, + "loss": 0.0008, + "num_input_tokens_seen": 40655256, + "step": 20767 + }, + { + "epoch": 2.752551358515573, + "grad_norm": 0.26427769660949707, + "learning_rate": 8.353867274322663e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40656944, + "step": 20768 + }, + { + "epoch": 2.7526838966202782, + "grad_norm": 0.020294105634093285, + "learning_rate": 8.344970805177127e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40658368, + "step": 20769 + }, + { + "epoch": 2.7528164347249833, + "grad_norm": 0.08789995312690735, + "learning_rate": 8.336078995307306e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40660112, + "step": 20770 + }, + { + "epoch": 2.7529489728296888, + "grad_norm": 0.1142592504620552, + "learning_rate": 8.327191844884619e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40661320, + "step": 20771 + }, + { + "epoch": 2.753081510934394, + "grad_norm": 0.009458131156861782, + "learning_rate": 8.318309354080345e-08, + "loss": 0.0, + "num_input_tokens_seen": 40662976, + "step": 20772 + }, + { + "epoch": 2.753214049039099, + "grad_norm": 0.09801451116800308, + "learning_rate": 8.309431523065792e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40665720, + "step": 20773 + }, + { + "epoch": 2.753346587143804, + "grad_norm": 0.7977538108825684, + "learning_rate": 8.300558352012183e-08, + "loss": 0.0019, + "num_input_tokens_seen": 40667968, + "step": 20774 + }, + { + "epoch": 2.753479125248509, + "grad_norm": 3.537339687347412, + "learning_rate": 8.291689841090495e-08, + "loss": 0.0222, + "num_input_tokens_seen": 40670184, + "step": 20775 + }, + { + "epoch": 2.753611663353214, + "grad_norm": 3.0308964252471924, + "learning_rate": 8.28282599047181e-08, + "loss": 0.0219, + "num_input_tokens_seen": 40672376, + "step": 20776 + }, + { + "epoch": 2.753744201457919, + "grad_norm": 0.06346801668405533, + "learning_rate": 8.273966800326965e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40674384, + "step": 20777 + }, + { + "epoch": 2.7538767395626245, + "grad_norm": 17.348079681396484, + "learning_rate": 8.265112270826797e-08, + "loss": 0.0901, + "num_input_tokens_seen": 40676456, + "step": 20778 + }, + { + "epoch": 2.7540092776673295, + "grad_norm": 7.964555263519287, + "learning_rate": 8.256262402142057e-08, + "loss": 0.086, + "num_input_tokens_seen": 40678360, + "step": 20779 + }, + { + "epoch": 2.7541418157720345, + "grad_norm": 0.023211030289530754, + "learning_rate": 8.24741719444333e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40680016, + "step": 20780 + }, + { + "epoch": 2.7542743538767396, + "grad_norm": 5.3977131843566895, + "learning_rate": 8.238576647901175e-08, + "loss": 0.0192, + "num_input_tokens_seen": 40681856, + "step": 20781 + }, + { + "epoch": 2.7544068919814446, + "grad_norm": 0.8784810304641724, + "learning_rate": 8.229740762686068e-08, + "loss": 0.0022, + "num_input_tokens_seen": 40683488, + "step": 20782 + }, + { + "epoch": 2.7545394300861497, + "grad_norm": 0.048423800617456436, + "learning_rate": 8.220909538968314e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40686384, + "step": 20783 + }, + { + "epoch": 2.7546719681908547, + "grad_norm": 6.812203407287598, + "learning_rate": 8.212082976918223e-08, + "loss": 0.0789, + "num_input_tokens_seen": 40688672, + "step": 20784 + }, + { + "epoch": 2.75480450629556, + "grad_norm": 0.0023199389688670635, + "learning_rate": 8.203261076705993e-08, + "loss": 0.0, + "num_input_tokens_seen": 40690200, + "step": 20785 + }, + { + "epoch": 2.754937044400265, + "grad_norm": 4.256412982940674, + "learning_rate": 8.194443838501681e-08, + "loss": 0.0419, + "num_input_tokens_seen": 40692496, + "step": 20786 + }, + { + "epoch": 2.7550695825049702, + "grad_norm": 0.0037354445084929466, + "learning_rate": 8.18563126247532e-08, + "loss": 0.0, + "num_input_tokens_seen": 40693968, + "step": 20787 + }, + { + "epoch": 2.7552021206096753, + "grad_norm": 7.825641632080078, + "learning_rate": 8.176823348796825e-08, + "loss": 0.1034, + "num_input_tokens_seen": 40695640, + "step": 20788 + }, + { + "epoch": 2.7553346587143803, + "grad_norm": 0.028580544516444206, + "learning_rate": 8.168020097635954e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40697176, + "step": 20789 + }, + { + "epoch": 2.7554671968190854, + "grad_norm": 0.24258102476596832, + "learning_rate": 8.159221509162512e-08, + "loss": 0.0014, + "num_input_tokens_seen": 40698808, + "step": 20790 + }, + { + "epoch": 2.7555997349237904, + "grad_norm": 12.722267150878906, + "learning_rate": 8.150427583546117e-08, + "loss": 0.0787, + "num_input_tokens_seen": 40700824, + "step": 20791 + }, + { + "epoch": 2.755732273028496, + "grad_norm": 3.0444629192352295, + "learning_rate": 8.141638320956297e-08, + "loss": 0.005, + "num_input_tokens_seen": 40702904, + "step": 20792 + }, + { + "epoch": 2.755864811133201, + "grad_norm": 11.818035125732422, + "learning_rate": 8.132853721562583e-08, + "loss": 0.1787, + "num_input_tokens_seen": 40704664, + "step": 20793 + }, + { + "epoch": 2.755997349237906, + "grad_norm": 3.7424509525299072, + "learning_rate": 8.124073785534258e-08, + "loss": 0.0346, + "num_input_tokens_seen": 40706432, + "step": 20794 + }, + { + "epoch": 2.756129887342611, + "grad_norm": 3.7779476642608643, + "learning_rate": 8.115298513040687e-08, + "loss": 0.0131, + "num_input_tokens_seen": 40708536, + "step": 20795 + }, + { + "epoch": 2.756262425447316, + "grad_norm": 0.0285557359457016, + "learning_rate": 8.10652790425101e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40710544, + "step": 20796 + }, + { + "epoch": 2.756394963552021, + "grad_norm": 0.7302746176719666, + "learning_rate": 8.097761959334371e-08, + "loss": 0.0097, + "num_input_tokens_seen": 40712112, + "step": 20797 + }, + { + "epoch": 2.756527501656726, + "grad_norm": 0.010622425004839897, + "learning_rate": 8.089000678459746e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40715464, + "step": 20798 + }, + { + "epoch": 2.7566600397614316, + "grad_norm": 5.550331115722656, + "learning_rate": 8.080244061796056e-08, + "loss": 0.0592, + "num_input_tokens_seen": 40717136, + "step": 20799 + }, + { + "epoch": 2.7567925778661366, + "grad_norm": 0.015374637208878994, + "learning_rate": 8.071492109512164e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40719128, + "step": 20800 + }, + { + "epoch": 2.7569251159708417, + "grad_norm": 0.4079461991786957, + "learning_rate": 8.062744821776825e-08, + "loss": 0.002, + "num_input_tokens_seen": 40721336, + "step": 20801 + }, + { + "epoch": 2.7570576540755467, + "grad_norm": 5.408421039581299, + "learning_rate": 8.054002198758654e-08, + "loss": 0.0664, + "num_input_tokens_seen": 40724096, + "step": 20802 + }, + { + "epoch": 2.7571901921802517, + "grad_norm": 31.234981536865234, + "learning_rate": 8.04526424062621e-08, + "loss": 0.4707, + "num_input_tokens_seen": 40726152, + "step": 20803 + }, + { + "epoch": 2.757322730284957, + "grad_norm": 5.949959754943848, + "learning_rate": 8.036530947547999e-08, + "loss": 0.0693, + "num_input_tokens_seen": 40728472, + "step": 20804 + }, + { + "epoch": 2.757455268389662, + "grad_norm": 0.0016995753394439816, + "learning_rate": 8.027802319692413e-08, + "loss": 0.0, + "num_input_tokens_seen": 40730560, + "step": 20805 + }, + { + "epoch": 2.7575878064943673, + "grad_norm": 12.175122261047363, + "learning_rate": 8.019078357227734e-08, + "loss": 0.2992, + "num_input_tokens_seen": 40731576, + "step": 20806 + }, + { + "epoch": 2.7577203445990723, + "grad_norm": 24.102895736694336, + "learning_rate": 8.010359060322131e-08, + "loss": 0.3805, + "num_input_tokens_seen": 40733928, + "step": 20807 + }, + { + "epoch": 2.7578528827037774, + "grad_norm": 0.014085857197642326, + "learning_rate": 8.00164442914378e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40735656, + "step": 20808 + }, + { + "epoch": 2.7579854208084824, + "grad_norm": 0.03189467266201973, + "learning_rate": 7.992934463860624e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40737688, + "step": 20809 + }, + { + "epoch": 2.7581179589131875, + "grad_norm": 2.0268285274505615, + "learning_rate": 7.984229164640645e-08, + "loss": 0.0243, + "num_input_tokens_seen": 40740064, + "step": 20810 + }, + { + "epoch": 2.7582504970178925, + "grad_norm": 0.013389559462666512, + "learning_rate": 7.975528531651705e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40742416, + "step": 20811 + }, + { + "epoch": 2.7583830351225975, + "grad_norm": 0.28944456577301025, + "learning_rate": 7.966832565061561e-08, + "loss": 0.0013, + "num_input_tokens_seen": 40744248, + "step": 20812 + }, + { + "epoch": 2.758515573227303, + "grad_norm": 1.5062832832336426, + "learning_rate": 7.958141265037828e-08, + "loss": 0.0109, + "num_input_tokens_seen": 40746352, + "step": 20813 + }, + { + "epoch": 2.758648111332008, + "grad_norm": 0.026987936347723007, + "learning_rate": 7.949454631748094e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40748312, + "step": 20814 + }, + { + "epoch": 2.758780649436713, + "grad_norm": 0.970618486404419, + "learning_rate": 7.940772665359891e-08, + "loss": 0.0015, + "num_input_tokens_seen": 40749544, + "step": 20815 + }, + { + "epoch": 2.758913187541418, + "grad_norm": 0.051948267966508865, + "learning_rate": 7.93209536604056e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40751040, + "step": 20816 + }, + { + "epoch": 2.759045725646123, + "grad_norm": 0.005507080815732479, + "learning_rate": 7.923422733957437e-08, + "loss": 0.0, + "num_input_tokens_seen": 40752528, + "step": 20817 + }, + { + "epoch": 2.759178263750828, + "grad_norm": 5.02571964263916, + "learning_rate": 7.914754769277721e-08, + "loss": 0.04, + "num_input_tokens_seen": 40754176, + "step": 20818 + }, + { + "epoch": 2.7593108018555332, + "grad_norm": 7.491484642028809, + "learning_rate": 7.906091472168531e-08, + "loss": 0.0364, + "num_input_tokens_seen": 40756376, + "step": 20819 + }, + { + "epoch": 2.7594433399602387, + "grad_norm": 8.351678848266602, + "learning_rate": 7.897432842796898e-08, + "loss": 0.0856, + "num_input_tokens_seen": 40758680, + "step": 20820 + }, + { + "epoch": 2.7595758780649438, + "grad_norm": 0.4821520149707794, + "learning_rate": 7.8887788813298e-08, + "loss": 0.0021, + "num_input_tokens_seen": 40760424, + "step": 20821 + }, + { + "epoch": 2.759708416169649, + "grad_norm": 0.01757717877626419, + "learning_rate": 7.88012958793405e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40761792, + "step": 20822 + }, + { + "epoch": 2.759840954274354, + "grad_norm": 13.423911094665527, + "learning_rate": 7.871484962776454e-08, + "loss": 0.1356, + "num_input_tokens_seen": 40763704, + "step": 20823 + }, + { + "epoch": 2.759973492379059, + "grad_norm": 10.499930381774902, + "learning_rate": 7.862845006023661e-08, + "loss": 0.0595, + "num_input_tokens_seen": 40765816, + "step": 20824 + }, + { + "epoch": 2.7601060304837643, + "grad_norm": 0.08448812365531921, + "learning_rate": 7.854209717842231e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40767688, + "step": 20825 + }, + { + "epoch": 2.760238568588469, + "grad_norm": 0.01673898473381996, + "learning_rate": 7.845579098398698e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40769336, + "step": 20826 + }, + { + "epoch": 2.7603711066931744, + "grad_norm": 0.029192348942160606, + "learning_rate": 7.836953147859455e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40770680, + "step": 20827 + }, + { + "epoch": 2.7605036447978795, + "grad_norm": 9.478084564208984, + "learning_rate": 7.828331866390815e-08, + "loss": 0.0725, + "num_input_tokens_seen": 40772496, + "step": 20828 + }, + { + "epoch": 2.7606361829025845, + "grad_norm": 0.0016814350383356214, + "learning_rate": 7.819715254159033e-08, + "loss": 0.0, + "num_input_tokens_seen": 40773744, + "step": 20829 + }, + { + "epoch": 2.7607687210072895, + "grad_norm": 0.004367490764707327, + "learning_rate": 7.811103311330142e-08, + "loss": 0.0, + "num_input_tokens_seen": 40775584, + "step": 20830 + }, + { + "epoch": 2.7609012591119946, + "grad_norm": 0.003849869128316641, + "learning_rate": 7.802496038070318e-08, + "loss": 0.0, + "num_input_tokens_seen": 40777240, + "step": 20831 + }, + { + "epoch": 2.7610337972167, + "grad_norm": 0.002572358585894108, + "learning_rate": 7.793893434545452e-08, + "loss": 0.0, + "num_input_tokens_seen": 40778800, + "step": 20832 + }, + { + "epoch": 2.7611663353214047, + "grad_norm": 0.003549224929884076, + "learning_rate": 7.785295500921386e-08, + "loss": 0.0, + "num_input_tokens_seen": 40780568, + "step": 20833 + }, + { + "epoch": 2.76129887342611, + "grad_norm": 0.07412654906511307, + "learning_rate": 7.776702237363931e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40782392, + "step": 20834 + }, + { + "epoch": 2.761431411530815, + "grad_norm": 13.964412689208984, + "learning_rate": 7.768113644038733e-08, + "loss": 0.1081, + "num_input_tokens_seen": 40784832, + "step": 20835 + }, + { + "epoch": 2.76156394963552, + "grad_norm": 9.393669128417969, + "learning_rate": 7.759529721111437e-08, + "loss": 0.1035, + "num_input_tokens_seen": 40787456, + "step": 20836 + }, + { + "epoch": 2.7616964877402252, + "grad_norm": 2.863393545150757, + "learning_rate": 7.75095046874752e-08, + "loss": 0.01, + "num_input_tokens_seen": 40789528, + "step": 20837 + }, + { + "epoch": 2.7618290258449303, + "grad_norm": 0.0035786584485322237, + "learning_rate": 7.742375887112407e-08, + "loss": 0.0, + "num_input_tokens_seen": 40790952, + "step": 20838 + }, + { + "epoch": 2.7619615639496358, + "grad_norm": 6.241516590118408, + "learning_rate": 7.733805976371384e-08, + "loss": 0.0718, + "num_input_tokens_seen": 40792808, + "step": 20839 + }, + { + "epoch": 2.7620941020543404, + "grad_norm": 5.104973316192627, + "learning_rate": 7.725240736689704e-08, + "loss": 0.0514, + "num_input_tokens_seen": 40794488, + "step": 20840 + }, + { + "epoch": 2.762226640159046, + "grad_norm": 4.05593204498291, + "learning_rate": 7.716680168232543e-08, + "loss": 0.034, + "num_input_tokens_seen": 40796648, + "step": 20841 + }, + { + "epoch": 2.762359178263751, + "grad_norm": 0.020614732056856155, + "learning_rate": 7.708124271164962e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40798376, + "step": 20842 + }, + { + "epoch": 2.762491716368456, + "grad_norm": 3.2341105937957764, + "learning_rate": 7.69957304565186e-08, + "loss": 0.0205, + "num_input_tokens_seen": 40800704, + "step": 20843 + }, + { + "epoch": 2.762624254473161, + "grad_norm": 2.981468439102173, + "learning_rate": 7.691026491858155e-08, + "loss": 0.0089, + "num_input_tokens_seen": 40802104, + "step": 20844 + }, + { + "epoch": 2.762756792577866, + "grad_norm": 0.06487394869327545, + "learning_rate": 7.682484609948582e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40804848, + "step": 20845 + }, + { + "epoch": 2.7628893306825715, + "grad_norm": 0.026254601776599884, + "learning_rate": 7.673947400087894e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40807112, + "step": 20846 + }, + { + "epoch": 2.763021868787276, + "grad_norm": 0.011117507703602314, + "learning_rate": 7.665414862440684e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40809064, + "step": 20847 + }, + { + "epoch": 2.7631544068919816, + "grad_norm": 0.004128988366574049, + "learning_rate": 7.656886997171459e-08, + "loss": 0.0, + "num_input_tokens_seen": 40810424, + "step": 20848 + }, + { + "epoch": 2.7632869449966866, + "grad_norm": 7.297088623046875, + "learning_rate": 7.648363804444642e-08, + "loss": 0.076, + "num_input_tokens_seen": 40811808, + "step": 20849 + }, + { + "epoch": 2.7634194831013916, + "grad_norm": 2.4560353755950928, + "learning_rate": 7.639845284424546e-08, + "loss": 0.0057, + "num_input_tokens_seen": 40814472, + "step": 20850 + }, + { + "epoch": 2.7635520212060967, + "grad_norm": 0.1690322607755661, + "learning_rate": 7.631331437275402e-08, + "loss": 0.0006, + "num_input_tokens_seen": 40815856, + "step": 20851 + }, + { + "epoch": 2.7636845593108017, + "grad_norm": 0.0036196240689605474, + "learning_rate": 7.622822263161411e-08, + "loss": 0.0, + "num_input_tokens_seen": 40817096, + "step": 20852 + }, + { + "epoch": 2.763817097415507, + "grad_norm": 0.07059808820486069, + "learning_rate": 7.614317762246637e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40818520, + "step": 20853 + }, + { + "epoch": 2.7639496355202122, + "grad_norm": 1.5186347961425781, + "learning_rate": 7.605817934695003e-08, + "loss": 0.0082, + "num_input_tokens_seen": 40820080, + "step": 20854 + }, + { + "epoch": 2.7640821736249173, + "grad_norm": 5.195520401000977, + "learning_rate": 7.597322780670435e-08, + "loss": 0.0338, + "num_input_tokens_seen": 40821768, + "step": 20855 + }, + { + "epoch": 2.7642147117296223, + "grad_norm": 2.5688111782073975, + "learning_rate": 7.588832300336691e-08, + "loss": 0.0115, + "num_input_tokens_seen": 40823824, + "step": 20856 + }, + { + "epoch": 2.7643472498343273, + "grad_norm": 2.1141586303710938, + "learning_rate": 7.58034649385747e-08, + "loss": 0.0115, + "num_input_tokens_seen": 40827040, + "step": 20857 + }, + { + "epoch": 2.7644797879390324, + "grad_norm": 4.456235885620117, + "learning_rate": 7.571865361396452e-08, + "loss": 0.0366, + "num_input_tokens_seen": 40828720, + "step": 20858 + }, + { + "epoch": 2.7646123260437374, + "grad_norm": 0.008224617689847946, + "learning_rate": 7.563388903117114e-08, + "loss": 0.0, + "num_input_tokens_seen": 40830400, + "step": 20859 + }, + { + "epoch": 2.764744864148443, + "grad_norm": 0.008496693335473537, + "learning_rate": 7.55491711918288e-08, + "loss": 0.0, + "num_input_tokens_seen": 40832592, + "step": 20860 + }, + { + "epoch": 2.764877402253148, + "grad_norm": 0.8227792382240295, + "learning_rate": 7.546450009757067e-08, + "loss": 0.0034, + "num_input_tokens_seen": 40834584, + "step": 20861 + }, + { + "epoch": 2.765009940357853, + "grad_norm": 4.207841873168945, + "learning_rate": 7.537987575002986e-08, + "loss": 0.0343, + "num_input_tokens_seen": 40837328, + "step": 20862 + }, + { + "epoch": 2.765142478462558, + "grad_norm": 0.006260550580918789, + "learning_rate": 7.529529815083731e-08, + "loss": 0.0, + "num_input_tokens_seen": 40839520, + "step": 20863 + }, + { + "epoch": 2.765275016567263, + "grad_norm": 22.401485443115234, + "learning_rate": 7.521076730162446e-08, + "loss": 0.0867, + "num_input_tokens_seen": 40842968, + "step": 20864 + }, + { + "epoch": 2.765407554671968, + "grad_norm": 9.3337984085083, + "learning_rate": 7.512628320402088e-08, + "loss": 0.063, + "num_input_tokens_seen": 40844952, + "step": 20865 + }, + { + "epoch": 2.765540092776673, + "grad_norm": 3.445998430252075, + "learning_rate": 7.504184585965523e-08, + "loss": 0.0239, + "num_input_tokens_seen": 40847200, + "step": 20866 + }, + { + "epoch": 2.7656726308813786, + "grad_norm": 4.49904727935791, + "learning_rate": 7.495745527015569e-08, + "loss": 0.013, + "num_input_tokens_seen": 40848712, + "step": 20867 + }, + { + "epoch": 2.7658051689860836, + "grad_norm": 0.01743980497121811, + "learning_rate": 7.487311143714954e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40851400, + "step": 20868 + }, + { + "epoch": 2.7659377070907887, + "grad_norm": 0.26251015067100525, + "learning_rate": 7.478881436226271e-08, + "loss": 0.0007, + "num_input_tokens_seen": 40852968, + "step": 20869 + }, + { + "epoch": 2.7660702451954937, + "grad_norm": 0.0017102982383221388, + "learning_rate": 7.470456404712056e-08, + "loss": 0.0, + "num_input_tokens_seen": 40854416, + "step": 20870 + }, + { + "epoch": 2.7662027833001988, + "grad_norm": 2.284578561782837, + "learning_rate": 7.462036049334736e-08, + "loss": 0.0082, + "num_input_tokens_seen": 40856608, + "step": 20871 + }, + { + "epoch": 2.766335321404904, + "grad_norm": 0.0017699371092021465, + "learning_rate": 7.453620370256709e-08, + "loss": 0.0, + "num_input_tokens_seen": 40858200, + "step": 20872 + }, + { + "epoch": 2.766467859509609, + "grad_norm": 0.3686170279979706, + "learning_rate": 7.445209367640205e-08, + "loss": 0.002, + "num_input_tokens_seen": 40859912, + "step": 20873 + }, + { + "epoch": 2.7666003976143143, + "grad_norm": 14.988755226135254, + "learning_rate": 7.4368030416474e-08, + "loss": 0.0879, + "num_input_tokens_seen": 40861568, + "step": 20874 + }, + { + "epoch": 2.7667329357190193, + "grad_norm": 0.00611950783059001, + "learning_rate": 7.428401392440332e-08, + "loss": 0.0, + "num_input_tokens_seen": 40864296, + "step": 20875 + }, + { + "epoch": 2.7668654738237244, + "grad_norm": 3.680931329727173, + "learning_rate": 7.420004420181065e-08, + "loss": 0.031, + "num_input_tokens_seen": 40867280, + "step": 20876 + }, + { + "epoch": 2.7669980119284294, + "grad_norm": 1.0681432485580444, + "learning_rate": 7.411612125031415e-08, + "loss": 0.0048, + "num_input_tokens_seen": 40869296, + "step": 20877 + }, + { + "epoch": 2.7671305500331345, + "grad_norm": 3.815697431564331, + "learning_rate": 7.403224507153278e-08, + "loss": 0.0536, + "num_input_tokens_seen": 40870872, + "step": 20878 + }, + { + "epoch": 2.7672630881378395, + "grad_norm": 0.001125411712564528, + "learning_rate": 7.394841566708333e-08, + "loss": 0.0, + "num_input_tokens_seen": 40871928, + "step": 20879 + }, + { + "epoch": 2.7673956262425445, + "grad_norm": 3.9910011291503906, + "learning_rate": 7.386463303858171e-08, + "loss": 0.0243, + "num_input_tokens_seen": 40873616, + "step": 20880 + }, + { + "epoch": 2.76752816434725, + "grad_norm": 1.0161473751068115, + "learning_rate": 7.378089718764386e-08, + "loss": 0.0028, + "num_input_tokens_seen": 40875128, + "step": 20881 + }, + { + "epoch": 2.767660702451955, + "grad_norm": 6.072625160217285, + "learning_rate": 7.369720811588405e-08, + "loss": 0.0427, + "num_input_tokens_seen": 40876864, + "step": 20882 + }, + { + "epoch": 2.76779324055666, + "grad_norm": 9.03811264038086, + "learning_rate": 7.361356582491596e-08, + "loss": 0.0916, + "num_input_tokens_seen": 40878352, + "step": 20883 + }, + { + "epoch": 2.767925778661365, + "grad_norm": 3.590909242630005, + "learning_rate": 7.352997031635223e-08, + "loss": 0.0342, + "num_input_tokens_seen": 40880872, + "step": 20884 + }, + { + "epoch": 2.76805831676607, + "grad_norm": 3.073624849319458, + "learning_rate": 7.34464215918046e-08, + "loss": 0.0098, + "num_input_tokens_seen": 40882824, + "step": 20885 + }, + { + "epoch": 2.768190854870775, + "grad_norm": 1.668739676475525, + "learning_rate": 7.336291965288372e-08, + "loss": 0.0082, + "num_input_tokens_seen": 40884744, + "step": 20886 + }, + { + "epoch": 2.7683233929754802, + "grad_norm": 5.776982307434082, + "learning_rate": 7.327946450119999e-08, + "loss": 0.2135, + "num_input_tokens_seen": 40886432, + "step": 20887 + }, + { + "epoch": 2.7684559310801857, + "grad_norm": 17.412174224853516, + "learning_rate": 7.319605613836239e-08, + "loss": 0.167, + "num_input_tokens_seen": 40889000, + "step": 20888 + }, + { + "epoch": 2.7685884691848908, + "grad_norm": 0.002139165299013257, + "learning_rate": 7.31126945659788e-08, + "loss": 0.0, + "num_input_tokens_seen": 40890464, + "step": 20889 + }, + { + "epoch": 2.768721007289596, + "grad_norm": 5.644901752471924, + "learning_rate": 7.302937978565683e-08, + "loss": 0.0466, + "num_input_tokens_seen": 40892568, + "step": 20890 + }, + { + "epoch": 2.768853545394301, + "grad_norm": 0.024387791752815247, + "learning_rate": 7.294611179900297e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40893920, + "step": 20891 + }, + { + "epoch": 2.768986083499006, + "grad_norm": 0.035539500415325165, + "learning_rate": 7.286289060762175e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40896656, + "step": 20892 + }, + { + "epoch": 2.769118621603711, + "grad_norm": 0.0007234837394207716, + "learning_rate": 7.277971621311858e-08, + "loss": 0.0, + "num_input_tokens_seen": 40897744, + "step": 20893 + }, + { + "epoch": 2.769251159708416, + "grad_norm": 12.200126647949219, + "learning_rate": 7.269658861709717e-08, + "loss": 0.0584, + "num_input_tokens_seen": 40899296, + "step": 20894 + }, + { + "epoch": 2.7693836978131214, + "grad_norm": 0.021504683420062065, + "learning_rate": 7.261350782116012e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40900792, + "step": 20895 + }, + { + "epoch": 2.7695162359178265, + "grad_norm": 0.015467756427824497, + "learning_rate": 7.25304738269092e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40902688, + "step": 20896 + }, + { + "epoch": 2.7696487740225315, + "grad_norm": 1.2827223539352417, + "learning_rate": 7.244748663594509e-08, + "loss": 0.0023, + "num_input_tokens_seen": 40904528, + "step": 20897 + }, + { + "epoch": 2.7697813121272365, + "grad_norm": 4.967916965484619, + "learning_rate": 7.236454624986816e-08, + "loss": 0.0251, + "num_input_tokens_seen": 40906280, + "step": 20898 + }, + { + "epoch": 2.7699138502319416, + "grad_norm": 0.008002682588994503, + "learning_rate": 7.228165267027743e-08, + "loss": 0.0, + "num_input_tokens_seen": 40907544, + "step": 20899 + }, + { + "epoch": 2.7700463883366466, + "grad_norm": 0.13958871364593506, + "learning_rate": 7.219880589877159e-08, + "loss": 0.0008, + "num_input_tokens_seen": 40909144, + "step": 20900 + }, + { + "epoch": 2.7701789264413517, + "grad_norm": 9.278409004211426, + "learning_rate": 7.211600593694745e-08, + "loss": 0.1496, + "num_input_tokens_seen": 40911640, + "step": 20901 + }, + { + "epoch": 2.770311464546057, + "grad_norm": 0.06530249118804932, + "learning_rate": 7.20332527864015e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40913104, + "step": 20902 + }, + { + "epoch": 2.770444002650762, + "grad_norm": 2.7947771549224854, + "learning_rate": 7.195054644872968e-08, + "loss": 0.0236, + "num_input_tokens_seen": 40915496, + "step": 20903 + }, + { + "epoch": 2.770576540755467, + "grad_norm": 10.681421279907227, + "learning_rate": 7.186788692552626e-08, + "loss": 0.0613, + "num_input_tokens_seen": 40917552, + "step": 20904 + }, + { + "epoch": 2.7707090788601723, + "grad_norm": 0.03688772767782211, + "learning_rate": 7.178527421838471e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40919312, + "step": 20905 + }, + { + "epoch": 2.7708416169648773, + "grad_norm": 10.164468765258789, + "learning_rate": 7.170270832889875e-08, + "loss": 0.0447, + "num_input_tokens_seen": 40920920, + "step": 20906 + }, + { + "epoch": 2.770974155069583, + "grad_norm": 2.313426971435547, + "learning_rate": 7.16201892586596e-08, + "loss": 0.0384, + "num_input_tokens_seen": 40922656, + "step": 20907 + }, + { + "epoch": 2.7711066931742874, + "grad_norm": 0.006964238826185465, + "learning_rate": 7.153771700925821e-08, + "loss": 0.0, + "num_input_tokens_seen": 40924840, + "step": 20908 + }, + { + "epoch": 2.771239231278993, + "grad_norm": 11.521326065063477, + "learning_rate": 7.145529158228525e-08, + "loss": 0.1032, + "num_input_tokens_seen": 40926456, + "step": 20909 + }, + { + "epoch": 2.771371769383698, + "grad_norm": 0.06942639499902725, + "learning_rate": 7.13729129793292e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40928096, + "step": 20910 + }, + { + "epoch": 2.771504307488403, + "grad_norm": 9.1969633102417, + "learning_rate": 7.12905812019793e-08, + "loss": 0.0378, + "num_input_tokens_seen": 40930856, + "step": 20911 + }, + { + "epoch": 2.771636845593108, + "grad_norm": 9.78416919708252, + "learning_rate": 7.120829625182235e-08, + "loss": 0.0876, + "num_input_tokens_seen": 40932688, + "step": 20912 + }, + { + "epoch": 2.771769383697813, + "grad_norm": 4.0840840339660645, + "learning_rate": 7.112605813044459e-08, + "loss": 0.0267, + "num_input_tokens_seen": 40935208, + "step": 20913 + }, + { + "epoch": 2.7719019218025185, + "grad_norm": 2.2518157958984375, + "learning_rate": 7.104386683943253e-08, + "loss": 0.01, + "num_input_tokens_seen": 40936552, + "step": 20914 + }, + { + "epoch": 2.772034459907223, + "grad_norm": 0.03784725442528725, + "learning_rate": 7.096172238037018e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40939064, + "step": 20915 + }, + { + "epoch": 2.7721669980119286, + "grad_norm": 1.79575777053833, + "learning_rate": 7.087962475484156e-08, + "loss": 0.0144, + "num_input_tokens_seen": 40941840, + "step": 20916 + }, + { + "epoch": 2.7722995361166336, + "grad_norm": 0.2588895559310913, + "learning_rate": 7.079757396442954e-08, + "loss": 0.0012, + "num_input_tokens_seen": 40943616, + "step": 20917 + }, + { + "epoch": 2.7724320742213386, + "grad_norm": 0.004944967571645975, + "learning_rate": 7.071557001071594e-08, + "loss": 0.0, + "num_input_tokens_seen": 40945016, + "step": 20918 + }, + { + "epoch": 2.7725646123260437, + "grad_norm": 0.021314293146133423, + "learning_rate": 7.063361289528225e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40946856, + "step": 20919 + }, + { + "epoch": 2.7726971504307487, + "grad_norm": 2.8499176502227783, + "learning_rate": 7.055170261970861e-08, + "loss": 0.0124, + "num_input_tokens_seen": 40948608, + "step": 20920 + }, + { + "epoch": 2.772829688535454, + "grad_norm": 7.742518424987793, + "learning_rate": 7.046983918557377e-08, + "loss": 0.0411, + "num_input_tokens_seen": 40950288, + "step": 20921 + }, + { + "epoch": 2.772962226640159, + "grad_norm": 0.006479662377387285, + "learning_rate": 7.038802259445643e-08, + "loss": 0.0, + "num_input_tokens_seen": 40951704, + "step": 20922 + }, + { + "epoch": 2.7730947647448643, + "grad_norm": 0.48367395997047424, + "learning_rate": 7.030625284793424e-08, + "loss": 0.0029, + "num_input_tokens_seen": 40953320, + "step": 20923 + }, + { + "epoch": 2.7732273028495693, + "grad_norm": 0.9125158190727234, + "learning_rate": 7.022452994758372e-08, + "loss": 0.0028, + "num_input_tokens_seen": 40955176, + "step": 20924 + }, + { + "epoch": 2.7733598409542743, + "grad_norm": 0.6000428199768066, + "learning_rate": 7.014285389498055e-08, + "loss": 0.002, + "num_input_tokens_seen": 40956960, + "step": 20925 + }, + { + "epoch": 2.7734923790589794, + "grad_norm": 0.008195624686777592, + "learning_rate": 7.006122469169957e-08, + "loss": 0.0, + "num_input_tokens_seen": 40958472, + "step": 20926 + }, + { + "epoch": 2.7736249171636844, + "grad_norm": 4.389254570007324, + "learning_rate": 6.997964233931426e-08, + "loss": 0.0439, + "num_input_tokens_seen": 40960416, + "step": 20927 + }, + { + "epoch": 2.77375745526839, + "grad_norm": 20.38875961303711, + "learning_rate": 6.98981068393978e-08, + "loss": 1.0028, + "num_input_tokens_seen": 40963448, + "step": 20928 + }, + { + "epoch": 2.7738899933730945, + "grad_norm": 17.16028594970703, + "learning_rate": 6.981661819352197e-08, + "loss": 0.1438, + "num_input_tokens_seen": 40966440, + "step": 20929 + }, + { + "epoch": 2.7740225314778, + "grad_norm": 0.0930047258734703, + "learning_rate": 6.973517640325889e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40969664, + "step": 20930 + }, + { + "epoch": 2.774155069582505, + "grad_norm": 4.141513347625732, + "learning_rate": 6.965378147017782e-08, + "loss": 0.0135, + "num_input_tokens_seen": 40972504, + "step": 20931 + }, + { + "epoch": 2.77428760768721, + "grad_norm": 13.593473434448242, + "learning_rate": 6.957243339584862e-08, + "loss": 0.3344, + "num_input_tokens_seen": 40975432, + "step": 20932 + }, + { + "epoch": 2.774420145791915, + "grad_norm": 0.00039170836680568755, + "learning_rate": 6.949113218183923e-08, + "loss": 0.0, + "num_input_tokens_seen": 40976400, + "step": 20933 + }, + { + "epoch": 2.77455268389662, + "grad_norm": 0.09563025832176208, + "learning_rate": 6.940987782971781e-08, + "loss": 0.0004, + "num_input_tokens_seen": 40977664, + "step": 20934 + }, + { + "epoch": 2.7746852220013256, + "grad_norm": 9.69224739074707, + "learning_rate": 6.932867034105062e-08, + "loss": 0.1041, + "num_input_tokens_seen": 40979776, + "step": 20935 + }, + { + "epoch": 2.77481776010603, + "grad_norm": 0.01672360673546791, + "learning_rate": 6.924750971740363e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40982360, + "step": 20936 + }, + { + "epoch": 2.7749502982107357, + "grad_norm": 0.054197996854782104, + "learning_rate": 6.91663959603417e-08, + "loss": 0.0003, + "num_input_tokens_seen": 40984832, + "step": 20937 + }, + { + "epoch": 2.7750828363154407, + "grad_norm": 1.2980748414993286, + "learning_rate": 6.908532907142829e-08, + "loss": 0.003, + "num_input_tokens_seen": 40986464, + "step": 20938 + }, + { + "epoch": 2.7752153744201458, + "grad_norm": 0.8785792589187622, + "learning_rate": 6.90043090522266e-08, + "loss": 0.0022, + "num_input_tokens_seen": 40987720, + "step": 20939 + }, + { + "epoch": 2.775347912524851, + "grad_norm": 0.016567552462220192, + "learning_rate": 6.8923335904299e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40989208, + "step": 20940 + }, + { + "epoch": 2.775480450629556, + "grad_norm": 0.0059869615361094475, + "learning_rate": 6.884240962920674e-08, + "loss": 0.0, + "num_input_tokens_seen": 40990984, + "step": 20941 + }, + { + "epoch": 2.7756129887342613, + "grad_norm": 0.003520689904689789, + "learning_rate": 6.876153022851023e-08, + "loss": 0.0, + "num_input_tokens_seen": 40993672, + "step": 20942 + }, + { + "epoch": 2.7757455268389664, + "grad_norm": 0.013717461377382278, + "learning_rate": 6.868069770376823e-08, + "loss": 0.0001, + "num_input_tokens_seen": 40995248, + "step": 20943 + }, + { + "epoch": 2.7758780649436714, + "grad_norm": 0.04156718775629997, + "learning_rate": 6.859991205653976e-08, + "loss": 0.0002, + "num_input_tokens_seen": 40997632, + "step": 20944 + }, + { + "epoch": 2.7760106030483764, + "grad_norm": 9.642149925231934, + "learning_rate": 6.851917328838248e-08, + "loss": 0.2821, + "num_input_tokens_seen": 40999312, + "step": 20945 + }, + { + "epoch": 2.7761431411530815, + "grad_norm": 1.878269910812378, + "learning_rate": 6.843848140085263e-08, + "loss": 0.0242, + "num_input_tokens_seen": 41001688, + "step": 20946 + }, + { + "epoch": 2.7762756792577865, + "grad_norm": 0.007642155978828669, + "learning_rate": 6.835783639550647e-08, + "loss": 0.0, + "num_input_tokens_seen": 41004504, + "step": 20947 + }, + { + "epoch": 2.7764082173624915, + "grad_norm": 6.041691303253174, + "learning_rate": 6.827723827389888e-08, + "loss": 0.1587, + "num_input_tokens_seen": 41006464, + "step": 20948 + }, + { + "epoch": 2.776540755467197, + "grad_norm": 0.08418311178684235, + "learning_rate": 6.81966870375833e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41008680, + "step": 20949 + }, + { + "epoch": 2.776673293571902, + "grad_norm": 0.005496255587786436, + "learning_rate": 6.811618268811381e-08, + "loss": 0.0, + "num_input_tokens_seen": 41010008, + "step": 20950 + }, + { + "epoch": 2.776805831676607, + "grad_norm": 0.012865745462477207, + "learning_rate": 6.803572522704166e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41011872, + "step": 20951 + }, + { + "epoch": 2.776938369781312, + "grad_norm": 10.924593925476074, + "learning_rate": 6.795531465591838e-08, + "loss": 0.0895, + "num_input_tokens_seen": 41014808, + "step": 20952 + }, + { + "epoch": 2.777070907886017, + "grad_norm": 1.9252498149871826, + "learning_rate": 6.787495097629438e-08, + "loss": 0.0165, + "num_input_tokens_seen": 41016424, + "step": 20953 + }, + { + "epoch": 2.777203445990722, + "grad_norm": 0.0039898911491036415, + "learning_rate": 6.779463418971926e-08, + "loss": 0.0, + "num_input_tokens_seen": 41018072, + "step": 20954 + }, + { + "epoch": 2.7773359840954273, + "grad_norm": 3.61431884765625, + "learning_rate": 6.771436429774153e-08, + "loss": 0.0196, + "num_input_tokens_seen": 41020376, + "step": 20955 + }, + { + "epoch": 2.7774685222001327, + "grad_norm": 0.003355487948283553, + "learning_rate": 6.763414130190882e-08, + "loss": 0.0, + "num_input_tokens_seen": 41021840, + "step": 20956 + }, + { + "epoch": 2.7776010603048378, + "grad_norm": 10.288333892822266, + "learning_rate": 6.755396520376794e-08, + "loss": 0.116, + "num_input_tokens_seen": 41023656, + "step": 20957 + }, + { + "epoch": 2.777733598409543, + "grad_norm": 11.278108596801758, + "learning_rate": 6.747383600486435e-08, + "loss": 0.114, + "num_input_tokens_seen": 41025544, + "step": 20958 + }, + { + "epoch": 2.777866136514248, + "grad_norm": 0.0066740806214511395, + "learning_rate": 6.739375370674317e-08, + "loss": 0.0, + "num_input_tokens_seen": 41027352, + "step": 20959 + }, + { + "epoch": 2.777998674618953, + "grad_norm": 14.183767318725586, + "learning_rate": 6.731371831094901e-08, + "loss": 0.0629, + "num_input_tokens_seen": 41029024, + "step": 20960 + }, + { + "epoch": 2.778131212723658, + "grad_norm": 0.0038550645112991333, + "learning_rate": 6.723372981902481e-08, + "loss": 0.0, + "num_input_tokens_seen": 41030304, + "step": 20961 + }, + { + "epoch": 2.778263750828363, + "grad_norm": 0.11425229161977768, + "learning_rate": 6.715378823251212e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41032240, + "step": 20962 + }, + { + "epoch": 2.7783962889330684, + "grad_norm": 11.547921180725098, + "learning_rate": 6.707389355295273e-08, + "loss": 0.0341, + "num_input_tokens_seen": 41034352, + "step": 20963 + }, + { + "epoch": 2.7785288270377735, + "grad_norm": 0.7887674570083618, + "learning_rate": 6.69940457818874e-08, + "loss": 0.005, + "num_input_tokens_seen": 41035840, + "step": 20964 + }, + { + "epoch": 2.7786613651424785, + "grad_norm": 0.02141967974603176, + "learning_rate": 6.691424492085486e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41038048, + "step": 20965 + }, + { + "epoch": 2.7787939032471836, + "grad_norm": 0.21203473210334778, + "learning_rate": 6.683449097139471e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41039888, + "step": 20966 + }, + { + "epoch": 2.7789264413518886, + "grad_norm": 14.88135051727295, + "learning_rate": 6.675478393504381e-08, + "loss": 0.2256, + "num_input_tokens_seen": 41042184, + "step": 20967 + }, + { + "epoch": 2.7790589794565936, + "grad_norm": 0.012147413566708565, + "learning_rate": 6.667512381333951e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41044184, + "step": 20968 + }, + { + "epoch": 2.7791915175612987, + "grad_norm": 9.570160865783691, + "learning_rate": 6.659551060781699e-08, + "loss": 0.0594, + "num_input_tokens_seen": 41045856, + "step": 20969 + }, + { + "epoch": 2.779324055666004, + "grad_norm": 0.04716145992279053, + "learning_rate": 6.651594432001197e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41047144, + "step": 20970 + }, + { + "epoch": 2.779456593770709, + "grad_norm": 18.108707427978516, + "learning_rate": 6.643642495145847e-08, + "loss": 0.078, + "num_input_tokens_seen": 41049832, + "step": 20971 + }, + { + "epoch": 2.7795891318754142, + "grad_norm": 0.04913478344678879, + "learning_rate": 6.635695250368945e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41052064, + "step": 20972 + }, + { + "epoch": 2.7797216699801193, + "grad_norm": 6.319462776184082, + "learning_rate": 6.627752697823758e-08, + "loss": 0.0428, + "num_input_tokens_seen": 41053824, + "step": 20973 + }, + { + "epoch": 2.7798542080848243, + "grad_norm": 2.920759916305542, + "learning_rate": 6.619814837663357e-08, + "loss": 0.0215, + "num_input_tokens_seen": 41055656, + "step": 20974 + }, + { + "epoch": 2.7799867461895293, + "grad_norm": 0.05145959183573723, + "learning_rate": 6.611881670040815e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41057384, + "step": 20975 + }, + { + "epoch": 2.7801192842942344, + "grad_norm": 0.014735309407114983, + "learning_rate": 6.603953195109119e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41058728, + "step": 20976 + }, + { + "epoch": 2.78025182239894, + "grad_norm": 0.008051185868680477, + "learning_rate": 6.596029413021121e-08, + "loss": 0.0, + "num_input_tokens_seen": 41060328, + "step": 20977 + }, + { + "epoch": 2.780384360503645, + "grad_norm": 0.14655928313732147, + "learning_rate": 6.588110323929586e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41062072, + "step": 20978 + }, + { + "epoch": 2.78051689860835, + "grad_norm": 1.7804315090179443, + "learning_rate": 6.580195927987199e-08, + "loss": 0.0075, + "num_input_tokens_seen": 41063224, + "step": 20979 + }, + { + "epoch": 2.780649436713055, + "grad_norm": 0.5162862539291382, + "learning_rate": 6.572286225346558e-08, + "loss": 0.0028, + "num_input_tokens_seen": 41064680, + "step": 20980 + }, + { + "epoch": 2.78078197481776, + "grad_norm": 7.215555191040039, + "learning_rate": 6.564381216160181e-08, + "loss": 0.0704, + "num_input_tokens_seen": 41066296, + "step": 20981 + }, + { + "epoch": 2.780914512922465, + "grad_norm": 5.670719146728516, + "learning_rate": 6.556480900580448e-08, + "loss": 0.0152, + "num_input_tokens_seen": 41068880, + "step": 20982 + }, + { + "epoch": 2.78104705102717, + "grad_norm": 0.21926355361938477, + "learning_rate": 6.548585278759733e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41071256, + "step": 20983 + }, + { + "epoch": 2.7811795891318756, + "grad_norm": 7.80220365524292, + "learning_rate": 6.540694350850252e-08, + "loss": 0.153, + "num_input_tokens_seen": 41072688, + "step": 20984 + }, + { + "epoch": 2.7813121272365806, + "grad_norm": 6.4989166259765625, + "learning_rate": 6.532808117004102e-08, + "loss": 0.0674, + "num_input_tokens_seen": 41075048, + "step": 20985 + }, + { + "epoch": 2.7814446653412856, + "grad_norm": 0.36534222960472107, + "learning_rate": 6.524926577373414e-08, + "loss": 0.0016, + "num_input_tokens_seen": 41077528, + "step": 20986 + }, + { + "epoch": 2.7815772034459907, + "grad_norm": 0.174643412232399, + "learning_rate": 6.517049732110064e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41079352, + "step": 20987 + }, + { + "epoch": 2.7817097415506957, + "grad_norm": 0.062140483409166336, + "learning_rate": 6.509177581365989e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41080960, + "step": 20988 + }, + { + "epoch": 2.7818422796554008, + "grad_norm": 0.08671267330646515, + "learning_rate": 6.501310125292953e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41082728, + "step": 20989 + }, + { + "epoch": 2.781974817760106, + "grad_norm": 6.544454574584961, + "learning_rate": 6.493447364042643e-08, + "loss": 0.0227, + "num_input_tokens_seen": 41084568, + "step": 20990 + }, + { + "epoch": 2.7821073558648113, + "grad_norm": 6.627952575683594, + "learning_rate": 6.485589297766603e-08, + "loss": 0.0737, + "num_input_tokens_seen": 41086464, + "step": 20991 + }, + { + "epoch": 2.7822398939695163, + "grad_norm": 0.0019624680280685425, + "learning_rate": 6.477735926616436e-08, + "loss": 0.0, + "num_input_tokens_seen": 41087936, + "step": 20992 + }, + { + "epoch": 2.7823724320742214, + "grad_norm": 0.06000867113471031, + "learning_rate": 6.46988725074349e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41089320, + "step": 20993 + }, + { + "epoch": 2.7825049701789264, + "grad_norm": 9.613629341125488, + "learning_rate": 6.462043270299174e-08, + "loss": 0.0933, + "num_input_tokens_seen": 41091288, + "step": 20994 + }, + { + "epoch": 2.7826375082836314, + "grad_norm": 0.061959296464920044, + "learning_rate": 6.454203985434643e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41092800, + "step": 20995 + }, + { + "epoch": 2.782770046388337, + "grad_norm": 0.013948083855211735, + "learning_rate": 6.446369396301055e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41095352, + "step": 20996 + }, + { + "epoch": 2.7829025844930415, + "grad_norm": 6.633408546447754, + "learning_rate": 6.438539503049513e-08, + "loss": 0.0548, + "num_input_tokens_seen": 41097592, + "step": 20997 + }, + { + "epoch": 2.783035122597747, + "grad_norm": 0.3199999928474426, + "learning_rate": 6.43071430583092e-08, + "loss": 0.0015, + "num_input_tokens_seen": 41099096, + "step": 20998 + }, + { + "epoch": 2.783167660702452, + "grad_norm": 0.003453528042882681, + "learning_rate": 6.422893804796215e-08, + "loss": 0.0, + "num_input_tokens_seen": 41100520, + "step": 20999 + }, + { + "epoch": 2.783300198807157, + "grad_norm": 0.913486123085022, + "learning_rate": 6.415078000096137e-08, + "loss": 0.0018, + "num_input_tokens_seen": 41102136, + "step": 21000 + }, + { + "epoch": 2.783432736911862, + "grad_norm": 0.5370334982872009, + "learning_rate": 6.407266891881397e-08, + "loss": 0.0024, + "num_input_tokens_seen": 41104144, + "step": 21001 + }, + { + "epoch": 2.783565275016567, + "grad_norm": 0.19792629778385162, + "learning_rate": 6.399460480302599e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41105504, + "step": 21002 + }, + { + "epoch": 2.7836978131212726, + "grad_norm": 2.6696712970733643, + "learning_rate": 6.391658765510261e-08, + "loss": 0.0065, + "num_input_tokens_seen": 41106944, + "step": 21003 + }, + { + "epoch": 2.783830351225977, + "grad_norm": 0.011088461615145206, + "learning_rate": 6.383861747654818e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41109040, + "step": 21004 + }, + { + "epoch": 2.7839628893306827, + "grad_norm": 0.018623841926455498, + "learning_rate": 6.376069426886538e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41111256, + "step": 21005 + }, + { + "epoch": 2.7840954274353877, + "grad_norm": 0.08331770449876785, + "learning_rate": 6.368281803355692e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41113304, + "step": 21006 + }, + { + "epoch": 2.7842279655400928, + "grad_norm": 0.035351209342479706, + "learning_rate": 6.36049887721249e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41115184, + "step": 21007 + }, + { + "epoch": 2.784360503644798, + "grad_norm": 4.194624900817871, + "learning_rate": 6.352720648606953e-08, + "loss": 0.0173, + "num_input_tokens_seen": 41116832, + "step": 21008 + }, + { + "epoch": 2.784493041749503, + "grad_norm": 0.04171781241893768, + "learning_rate": 6.344947117689043e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41118408, + "step": 21009 + }, + { + "epoch": 2.7846255798542083, + "grad_norm": 0.028762217611074448, + "learning_rate": 6.337178284608641e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41120184, + "step": 21010 + }, + { + "epoch": 2.784758117958913, + "grad_norm": 0.1323934942483902, + "learning_rate": 6.329414149515516e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41122192, + "step": 21011 + }, + { + "epoch": 2.7848906560636184, + "grad_norm": 0.12103257328271866, + "learning_rate": 6.321654712559382e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41123800, + "step": 21012 + }, + { + "epoch": 2.7850231941683234, + "grad_norm": 4.631160259246826, + "learning_rate": 6.31389997388987e-08, + "loss": 0.0287, + "num_input_tokens_seen": 41125768, + "step": 21013 + }, + { + "epoch": 2.7851557322730285, + "grad_norm": 0.3393952548503876, + "learning_rate": 6.306149933656469e-08, + "loss": 0.001, + "num_input_tokens_seen": 41127384, + "step": 21014 + }, + { + "epoch": 2.7852882703777335, + "grad_norm": 0.04788094386458397, + "learning_rate": 6.298404592008617e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41129392, + "step": 21015 + }, + { + "epoch": 2.7854208084824386, + "grad_norm": 3.0164635181427, + "learning_rate": 6.290663949095637e-08, + "loss": 0.0414, + "num_input_tokens_seen": 41130928, + "step": 21016 + }, + { + "epoch": 2.785553346587144, + "grad_norm": 2.257233142852783, + "learning_rate": 6.282928005066773e-08, + "loss": 0.0071, + "num_input_tokens_seen": 41132136, + "step": 21017 + }, + { + "epoch": 2.7856858846918486, + "grad_norm": 1.1426843404769897, + "learning_rate": 6.275196760071212e-08, + "loss": 0.0069, + "num_input_tokens_seen": 41134312, + "step": 21018 + }, + { + "epoch": 2.785818422796554, + "grad_norm": 5.766793251037598, + "learning_rate": 6.267470214257999e-08, + "loss": 0.0566, + "num_input_tokens_seen": 41135912, + "step": 21019 + }, + { + "epoch": 2.785950960901259, + "grad_norm": 0.09359381347894669, + "learning_rate": 6.259748367776098e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41137632, + "step": 21020 + }, + { + "epoch": 2.786083499005964, + "grad_norm": 9.862256050109863, + "learning_rate": 6.252031220774391e-08, + "loss": 0.138, + "num_input_tokens_seen": 41138848, + "step": 21021 + }, + { + "epoch": 2.7862160371106692, + "grad_norm": 0.6382250189781189, + "learning_rate": 6.244318773401676e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41140416, + "step": 21022 + }, + { + "epoch": 2.7863485752153743, + "grad_norm": 0.016723182052373886, + "learning_rate": 6.23661102580661e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41141848, + "step": 21023 + }, + { + "epoch": 2.7864811133200797, + "grad_norm": 30.496265411376953, + "learning_rate": 6.22890797813791e-08, + "loss": 0.1064, + "num_input_tokens_seen": 41143696, + "step": 21024 + }, + { + "epoch": 2.786613651424785, + "grad_norm": 0.16997209191322327, + "learning_rate": 6.221209630544011e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41145048, + "step": 21025 + }, + { + "epoch": 2.78674618952949, + "grad_norm": 0.0016112951561808586, + "learning_rate": 6.21351598317338e-08, + "loss": 0.0, + "num_input_tokens_seen": 41146480, + "step": 21026 + }, + { + "epoch": 2.786878727634195, + "grad_norm": 4.7025580406188965, + "learning_rate": 6.205827036174311e-08, + "loss": 0.0475, + "num_input_tokens_seen": 41148424, + "step": 21027 + }, + { + "epoch": 2.7870112657389, + "grad_norm": 0.00173857097979635, + "learning_rate": 6.198142789695105e-08, + "loss": 0.0, + "num_input_tokens_seen": 41149456, + "step": 21028 + }, + { + "epoch": 2.787143803843605, + "grad_norm": 6.694767475128174, + "learning_rate": 6.190463243883865e-08, + "loss": 0.022, + "num_input_tokens_seen": 41151104, + "step": 21029 + }, + { + "epoch": 2.78727634194831, + "grad_norm": 0.001707921619527042, + "learning_rate": 6.182788398888722e-08, + "loss": 0.0, + "num_input_tokens_seen": 41152808, + "step": 21030 + }, + { + "epoch": 2.7874088800530155, + "grad_norm": 0.8749745488166809, + "learning_rate": 6.175118254857614e-08, + "loss": 0.0032, + "num_input_tokens_seen": 41154528, + "step": 21031 + }, + { + "epoch": 2.7875414181577205, + "grad_norm": 0.003589886473491788, + "learning_rate": 6.167452811938423e-08, + "loss": 0.0, + "num_input_tokens_seen": 41156608, + "step": 21032 + }, + { + "epoch": 2.7876739562624255, + "grad_norm": 4.973377704620361, + "learning_rate": 6.159792070278946e-08, + "loss": 0.0347, + "num_input_tokens_seen": 41158952, + "step": 21033 + }, + { + "epoch": 2.7878064943671306, + "grad_norm": 8.801827430725098, + "learning_rate": 6.152136030026928e-08, + "loss": 0.0778, + "num_input_tokens_seen": 41160904, + "step": 21034 + }, + { + "epoch": 2.7879390324718356, + "grad_norm": 4.197114944458008, + "learning_rate": 6.144484691329916e-08, + "loss": 0.0446, + "num_input_tokens_seen": 41163760, + "step": 21035 + }, + { + "epoch": 2.7880715705765406, + "grad_norm": 6.506473541259766, + "learning_rate": 6.136838054335487e-08, + "loss": 0.0874, + "num_input_tokens_seen": 41165608, + "step": 21036 + }, + { + "epoch": 2.7882041086812457, + "grad_norm": 0.02419748529791832, + "learning_rate": 6.129196119191022e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41167192, + "step": 21037 + }, + { + "epoch": 2.788336646785951, + "grad_norm": 0.007670126389712095, + "learning_rate": 6.121558886043932e-08, + "loss": 0.0, + "num_input_tokens_seen": 41168832, + "step": 21038 + }, + { + "epoch": 2.788469184890656, + "grad_norm": 0.6606788635253906, + "learning_rate": 6.113926355041406e-08, + "loss": 0.002, + "num_input_tokens_seen": 41170656, + "step": 21039 + }, + { + "epoch": 2.7886017229953612, + "grad_norm": 0.015165066346526146, + "learning_rate": 6.106298526330629e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41172280, + "step": 21040 + }, + { + "epoch": 2.7887342611000663, + "grad_norm": 9.663131713867188, + "learning_rate": 6.098675400058679e-08, + "loss": 0.1466, + "num_input_tokens_seen": 41174200, + "step": 21041 + }, + { + "epoch": 2.7888667992047713, + "grad_norm": 10.645883560180664, + "learning_rate": 6.091056976372523e-08, + "loss": 0.045, + "num_input_tokens_seen": 41176288, + "step": 21042 + }, + { + "epoch": 2.7889993373094764, + "grad_norm": 0.006707888096570969, + "learning_rate": 6.083443255419041e-08, + "loss": 0.0, + "num_input_tokens_seen": 41177504, + "step": 21043 + }, + { + "epoch": 2.7891318754141814, + "grad_norm": 0.03991345316171646, + "learning_rate": 6.075834237345062e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41179008, + "step": 21044 + }, + { + "epoch": 2.789264413518887, + "grad_norm": 2.372570276260376, + "learning_rate": 6.068229922297275e-08, + "loss": 0.0134, + "num_input_tokens_seen": 41180824, + "step": 21045 + }, + { + "epoch": 2.789396951623592, + "grad_norm": 0.7408421039581299, + "learning_rate": 6.060630310422283e-08, + "loss": 0.0054, + "num_input_tokens_seen": 41182392, + "step": 21046 + }, + { + "epoch": 2.789529489728297, + "grad_norm": 0.0022928647231310606, + "learning_rate": 6.053035401866636e-08, + "loss": 0.0, + "num_input_tokens_seen": 41184736, + "step": 21047 + }, + { + "epoch": 2.789662027833002, + "grad_norm": 0.0016083281952887774, + "learning_rate": 6.045445196776745e-08, + "loss": 0.0, + "num_input_tokens_seen": 41186016, + "step": 21048 + }, + { + "epoch": 2.789794565937707, + "grad_norm": 0.006037278566509485, + "learning_rate": 6.037859695298964e-08, + "loss": 0.0, + "num_input_tokens_seen": 41187840, + "step": 21049 + }, + { + "epoch": 2.789927104042412, + "grad_norm": 0.0038180644623935223, + "learning_rate": 6.030278897579567e-08, + "loss": 0.0, + "num_input_tokens_seen": 41189240, + "step": 21050 + }, + { + "epoch": 2.790059642147117, + "grad_norm": 0.0028970923740416765, + "learning_rate": 6.022702803764685e-08, + "loss": 0.0, + "num_input_tokens_seen": 41190576, + "step": 21051 + }, + { + "epoch": 2.7901921802518226, + "grad_norm": 0.03345775976777077, + "learning_rate": 6.015131414000397e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41191768, + "step": 21052 + }, + { + "epoch": 2.7903247183565276, + "grad_norm": 0.4801238775253296, + "learning_rate": 6.007564728432669e-08, + "loss": 0.0012, + "num_input_tokens_seen": 41194200, + "step": 21053 + }, + { + "epoch": 2.7904572564612327, + "grad_norm": 0.0259841438382864, + "learning_rate": 6.000002747207468e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41196000, + "step": 21054 + }, + { + "epoch": 2.7905897945659377, + "grad_norm": 0.18014776706695557, + "learning_rate": 5.992445470470537e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41197592, + "step": 21055 + }, + { + "epoch": 2.7907223326706427, + "grad_norm": 0.006258269306272268, + "learning_rate": 5.984892898367567e-08, + "loss": 0.0, + "num_input_tokens_seen": 41198768, + "step": 21056 + }, + { + "epoch": 2.7908548707753478, + "grad_norm": 5.35130500793457, + "learning_rate": 5.977345031044219e-08, + "loss": 0.2189, + "num_input_tokens_seen": 41201680, + "step": 21057 + }, + { + "epoch": 2.790987408880053, + "grad_norm": 0.01256349217146635, + "learning_rate": 5.969801868645958e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41204120, + "step": 21058 + }, + { + "epoch": 2.7911199469847583, + "grad_norm": 4.266199588775635, + "learning_rate": 5.96226341131828e-08, + "loss": 0.0224, + "num_input_tokens_seen": 41206392, + "step": 21059 + }, + { + "epoch": 2.7912524850894633, + "grad_norm": 28.84193229675293, + "learning_rate": 5.954729659206543e-08, + "loss": 0.4753, + "num_input_tokens_seen": 41209168, + "step": 21060 + }, + { + "epoch": 2.7913850231941684, + "grad_norm": 10.301603317260742, + "learning_rate": 5.947200612455961e-08, + "loss": 0.0526, + "num_input_tokens_seen": 41210424, + "step": 21061 + }, + { + "epoch": 2.7915175612988734, + "grad_norm": 6.536253452301025, + "learning_rate": 5.939676271211725e-08, + "loss": 0.0659, + "num_input_tokens_seen": 41212264, + "step": 21062 + }, + { + "epoch": 2.7916500994035784, + "grad_norm": 0.04836488142609596, + "learning_rate": 5.9321566356188856e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41213832, + "step": 21063 + }, + { + "epoch": 2.7917826375082835, + "grad_norm": 5.425322532653809, + "learning_rate": 5.9246417058224645e-08, + "loss": 0.0165, + "num_input_tokens_seen": 41215776, + "step": 21064 + }, + { + "epoch": 2.7919151756129885, + "grad_norm": 8.702264785766602, + "learning_rate": 5.917131481967292e-08, + "loss": 0.1585, + "num_input_tokens_seen": 41217144, + "step": 21065 + }, + { + "epoch": 2.792047713717694, + "grad_norm": 19.054758071899414, + "learning_rate": 5.9096259641982234e-08, + "loss": 0.0849, + "num_input_tokens_seen": 41219560, + "step": 21066 + }, + { + "epoch": 2.792180251822399, + "grad_norm": 5.8528313636779785, + "learning_rate": 5.902125152659977e-08, + "loss": 0.0227, + "num_input_tokens_seen": 41222208, + "step": 21067 + }, + { + "epoch": 2.792312789927104, + "grad_norm": 0.0013631965266540647, + "learning_rate": 5.894629047497102e-08, + "loss": 0.0, + "num_input_tokens_seen": 41223472, + "step": 21068 + }, + { + "epoch": 2.792445328031809, + "grad_norm": 6.5479350090026855, + "learning_rate": 5.887137648854235e-08, + "loss": 0.0461, + "num_input_tokens_seen": 41225312, + "step": 21069 + }, + { + "epoch": 2.792577866136514, + "grad_norm": 3.0046913623809814, + "learning_rate": 5.879650956875704e-08, + "loss": 0.0311, + "num_input_tokens_seen": 41227288, + "step": 21070 + }, + { + "epoch": 2.792710404241219, + "grad_norm": 0.004020113032311201, + "learning_rate": 5.872168971705949e-08, + "loss": 0.0, + "num_input_tokens_seen": 41228664, + "step": 21071 + }, + { + "epoch": 2.7928429423459242, + "grad_norm": 4.783579349517822, + "learning_rate": 5.864691693489216e-08, + "loss": 0.1455, + "num_input_tokens_seen": 41230976, + "step": 21072 + }, + { + "epoch": 2.7929754804506297, + "grad_norm": 0.011726445518434048, + "learning_rate": 5.857219122369584e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41233696, + "step": 21073 + }, + { + "epoch": 2.7931080185553347, + "grad_norm": 18.745065689086914, + "learning_rate": 5.849751258491243e-08, + "loss": 0.1397, + "num_input_tokens_seen": 41235264, + "step": 21074 + }, + { + "epoch": 2.79324055666004, + "grad_norm": 10.672466278076172, + "learning_rate": 5.842288101998106e-08, + "loss": 0.1801, + "num_input_tokens_seen": 41237632, + "step": 21075 + }, + { + "epoch": 2.793373094764745, + "grad_norm": 6.761448383331299, + "learning_rate": 5.834829653034085e-08, + "loss": 0.1107, + "num_input_tokens_seen": 41239984, + "step": 21076 + }, + { + "epoch": 2.79350563286945, + "grad_norm": 4.067572593688965, + "learning_rate": 5.827375911743011e-08, + "loss": 0.0257, + "num_input_tokens_seen": 41242088, + "step": 21077 + }, + { + "epoch": 2.7936381709741553, + "grad_norm": 8.263463973999023, + "learning_rate": 5.8199268782685724e-08, + "loss": 0.0641, + "num_input_tokens_seen": 41244496, + "step": 21078 + }, + { + "epoch": 2.79377070907886, + "grad_norm": 0.0018659187480807304, + "learning_rate": 5.812482552754378e-08, + "loss": 0.0, + "num_input_tokens_seen": 41246264, + "step": 21079 + }, + { + "epoch": 2.7939032471835654, + "grad_norm": 14.75499439239502, + "learning_rate": 5.80504293534398e-08, + "loss": 0.1684, + "num_input_tokens_seen": 41248768, + "step": 21080 + }, + { + "epoch": 2.7940357852882705, + "grad_norm": 5.678816795349121, + "learning_rate": 5.7976080261808456e-08, + "loss": 0.0192, + "num_input_tokens_seen": 41251192, + "step": 21081 + }, + { + "epoch": 2.7941683233929755, + "grad_norm": 0.04435134306550026, + "learning_rate": 5.7901778254082495e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41252600, + "step": 21082 + }, + { + "epoch": 2.7943008614976805, + "grad_norm": 0.01724880561232567, + "learning_rate": 5.782752333169522e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41254024, + "step": 21083 + }, + { + "epoch": 2.7944333996023856, + "grad_norm": 6.973931789398193, + "learning_rate": 5.775331549607799e-08, + "loss": 0.0548, + "num_input_tokens_seen": 41256040, + "step": 21084 + }, + { + "epoch": 2.794565937707091, + "grad_norm": 7.36980676651001, + "learning_rate": 5.767915474866159e-08, + "loss": 0.1465, + "num_input_tokens_seen": 41258208, + "step": 21085 + }, + { + "epoch": 2.7946984758117956, + "grad_norm": 6.036591529846191, + "learning_rate": 5.760504109087628e-08, + "loss": 0.0708, + "num_input_tokens_seen": 41259800, + "step": 21086 + }, + { + "epoch": 2.794831013916501, + "grad_norm": 4.778675556182861, + "learning_rate": 5.753097452415063e-08, + "loss": 0.0308, + "num_input_tokens_seen": 41261512, + "step": 21087 + }, + { + "epoch": 2.794963552021206, + "grad_norm": 0.6089677214622498, + "learning_rate": 5.745695504991239e-08, + "loss": 0.0023, + "num_input_tokens_seen": 41264016, + "step": 21088 + }, + { + "epoch": 2.795096090125911, + "grad_norm": 4.966409683227539, + "learning_rate": 5.738298266958903e-08, + "loss": 0.025, + "num_input_tokens_seen": 41265792, + "step": 21089 + }, + { + "epoch": 2.7952286282306162, + "grad_norm": 0.11304580420255661, + "learning_rate": 5.7309057384607184e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41267536, + "step": 21090 + }, + { + "epoch": 2.7953611663353213, + "grad_norm": 8.519670486450195, + "learning_rate": 5.723517919639182e-08, + "loss": 0.0351, + "num_input_tokens_seen": 41269704, + "step": 21091 + }, + { + "epoch": 2.7954937044400268, + "grad_norm": 0.012391739524900913, + "learning_rate": 5.716134810636736e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41271848, + "step": 21092 + }, + { + "epoch": 2.7956262425447314, + "grad_norm": 4.687692165374756, + "learning_rate": 5.708756411595712e-08, + "loss": 0.0194, + "num_input_tokens_seen": 41273552, + "step": 21093 + }, + { + "epoch": 2.795758780649437, + "grad_norm": 0.19010545313358307, + "learning_rate": 5.7013827226584104e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41275032, + "step": 21094 + }, + { + "epoch": 2.795891318754142, + "grad_norm": 0.004423375241458416, + "learning_rate": 5.6940137439669974e-08, + "loss": 0.0, + "num_input_tokens_seen": 41276496, + "step": 21095 + }, + { + "epoch": 2.796023856858847, + "grad_norm": 3.5739452838897705, + "learning_rate": 5.686649475663525e-08, + "loss": 0.0097, + "num_input_tokens_seen": 41279376, + "step": 21096 + }, + { + "epoch": 2.796156394963552, + "grad_norm": 0.06174447759985924, + "learning_rate": 5.6792899178899905e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41281744, + "step": 21097 + }, + { + "epoch": 2.796288933068257, + "grad_norm": 2.365490674972534, + "learning_rate": 5.6719350707883095e-08, + "loss": 0.0073, + "num_input_tokens_seen": 41283520, + "step": 21098 + }, + { + "epoch": 2.7964214711729625, + "grad_norm": 0.046070653945207596, + "learning_rate": 5.664584934500228e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41285160, + "step": 21099 + }, + { + "epoch": 2.796554009277667, + "grad_norm": 4.9522318840026855, + "learning_rate": 5.6572395091675225e-08, + "loss": 0.1332, + "num_input_tokens_seen": 41287120, + "step": 21100 + }, + { + "epoch": 2.7966865473823725, + "grad_norm": 11.270883560180664, + "learning_rate": 5.64989879493183e-08, + "loss": 0.1348, + "num_input_tokens_seen": 41289152, + "step": 21101 + }, + { + "epoch": 2.7968190854870776, + "grad_norm": 1.6935293674468994, + "learning_rate": 5.6425627919346746e-08, + "loss": 0.0112, + "num_input_tokens_seen": 41290616, + "step": 21102 + }, + { + "epoch": 2.7969516235917826, + "grad_norm": 8.659612655639648, + "learning_rate": 5.635231500317445e-08, + "loss": 0.1384, + "num_input_tokens_seen": 41292912, + "step": 21103 + }, + { + "epoch": 2.7970841616964877, + "grad_norm": 9.90807056427002, + "learning_rate": 5.6279049202215553e-08, + "loss": 0.1649, + "num_input_tokens_seen": 41295760, + "step": 21104 + }, + { + "epoch": 2.7972166998011927, + "grad_norm": 3.3314456939697266, + "learning_rate": 5.620583051788198e-08, + "loss": 0.0261, + "num_input_tokens_seen": 41297728, + "step": 21105 + }, + { + "epoch": 2.797349237905898, + "grad_norm": 7.96833610534668, + "learning_rate": 5.613265895158621e-08, + "loss": 0.0752, + "num_input_tokens_seen": 41300112, + "step": 21106 + }, + { + "epoch": 2.7974817760106028, + "grad_norm": 0.2128216177225113, + "learning_rate": 5.605953450473878e-08, + "loss": 0.001, + "num_input_tokens_seen": 41301680, + "step": 21107 + }, + { + "epoch": 2.7976143141153083, + "grad_norm": 5.336821556091309, + "learning_rate": 5.5986457178749395e-08, + "loss": 0.0091, + "num_input_tokens_seen": 41304136, + "step": 21108 + }, + { + "epoch": 2.7977468522200133, + "grad_norm": 0.013649891130626202, + "learning_rate": 5.591342697502722e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41306096, + "step": 21109 + }, + { + "epoch": 2.7978793903247183, + "grad_norm": 0.033881302922964096, + "learning_rate": 5.584044389498e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41307648, + "step": 21110 + }, + { + "epoch": 2.7980119284294234, + "grad_norm": 0.006086244247853756, + "learning_rate": 5.576750794001551e-08, + "loss": 0.0, + "num_input_tokens_seen": 41310032, + "step": 21111 + }, + { + "epoch": 2.7981444665341284, + "grad_norm": 5.599295616149902, + "learning_rate": 5.569461911153928e-08, + "loss": 0.1362, + "num_input_tokens_seen": 41311648, + "step": 21112 + }, + { + "epoch": 2.798277004638834, + "grad_norm": 0.0022967602126300335, + "learning_rate": 5.562177741095742e-08, + "loss": 0.0, + "num_input_tokens_seen": 41313176, + "step": 21113 + }, + { + "epoch": 2.798409542743539, + "grad_norm": 0.0066515132784843445, + "learning_rate": 5.5548982839673803e-08, + "loss": 0.0, + "num_input_tokens_seen": 41314688, + "step": 21114 + }, + { + "epoch": 2.798542080848244, + "grad_norm": 0.22072042524814606, + "learning_rate": 5.5476235399092026e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41316232, + "step": 21115 + }, + { + "epoch": 2.798674618952949, + "grad_norm": 4.813520431518555, + "learning_rate": 5.540353509061513e-08, + "loss": 0.0683, + "num_input_tokens_seen": 41320200, + "step": 21116 + }, + { + "epoch": 2.798807157057654, + "grad_norm": 0.03269220143556595, + "learning_rate": 5.533088191564423e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41322080, + "step": 21117 + }, + { + "epoch": 2.798939695162359, + "grad_norm": 3.635256052017212, + "learning_rate": 5.5258275875580415e-08, + "loss": 0.0115, + "num_input_tokens_seen": 41324184, + "step": 21118 + }, + { + "epoch": 2.799072233267064, + "grad_norm": 13.741676330566406, + "learning_rate": 5.518571697182395e-08, + "loss": 0.0822, + "num_input_tokens_seen": 41326496, + "step": 21119 + }, + { + "epoch": 2.7992047713717696, + "grad_norm": 0.18275916576385498, + "learning_rate": 5.5113205205772905e-08, + "loss": 0.0015, + "num_input_tokens_seen": 41329088, + "step": 21120 + }, + { + "epoch": 2.7993373094764746, + "grad_norm": 6.986661434173584, + "learning_rate": 5.504074057882641e-08, + "loss": 0.0361, + "num_input_tokens_seen": 41330992, + "step": 21121 + }, + { + "epoch": 2.7994698475811797, + "grad_norm": 2.232555627822876, + "learning_rate": 5.496832309238087e-08, + "loss": 0.0089, + "num_input_tokens_seen": 41333232, + "step": 21122 + }, + { + "epoch": 2.7996023856858847, + "grad_norm": 0.01850157231092453, + "learning_rate": 5.489595274783266e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41335448, + "step": 21123 + }, + { + "epoch": 2.7997349237905897, + "grad_norm": 0.04674866795539856, + "learning_rate": 5.482362954657761e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41337472, + "step": 21124 + }, + { + "epoch": 2.799867461895295, + "grad_norm": 10.575713157653809, + "learning_rate": 5.4751353490009594e-08, + "loss": 0.0665, + "num_input_tokens_seen": 41339416, + "step": 21125 + }, + { + "epoch": 2.8, + "grad_norm": 0.0015305984998121858, + "learning_rate": 5.4679124579522515e-08, + "loss": 0.0, + "num_input_tokens_seen": 41340528, + "step": 21126 + }, + { + "epoch": 2.8001325381047053, + "grad_norm": 2.921983242034912, + "learning_rate": 5.460694281650886e-08, + "loss": 0.0072, + "num_input_tokens_seen": 41342368, + "step": 21127 + }, + { + "epoch": 2.8002650762094103, + "grad_norm": 0.032284971326589584, + "learning_rate": 5.453480820236029e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41344808, + "step": 21128 + }, + { + "epoch": 2.8003976143141154, + "grad_norm": 14.392049789428711, + "learning_rate": 5.446272073846764e-08, + "loss": 0.1713, + "num_input_tokens_seen": 41346672, + "step": 21129 + }, + { + "epoch": 2.8005301524188204, + "grad_norm": 0.002186872297897935, + "learning_rate": 5.4390680426220644e-08, + "loss": 0.0, + "num_input_tokens_seen": 41347848, + "step": 21130 + }, + { + "epoch": 2.8006626905235255, + "grad_norm": 5.429933547973633, + "learning_rate": 5.431868726700873e-08, + "loss": 0.1056, + "num_input_tokens_seen": 41350160, + "step": 21131 + }, + { + "epoch": 2.8007952286282305, + "grad_norm": 7.646900653839111, + "learning_rate": 5.4246741262219685e-08, + "loss": 0.0231, + "num_input_tokens_seen": 41352320, + "step": 21132 + }, + { + "epoch": 2.8009277667329355, + "grad_norm": 2.3302557468414307, + "learning_rate": 5.417484241324072e-08, + "loss": 0.0056, + "num_input_tokens_seen": 41353544, + "step": 21133 + }, + { + "epoch": 2.801060304837641, + "grad_norm": 0.05373460799455643, + "learning_rate": 5.410299072145797e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41355824, + "step": 21134 + }, + { + "epoch": 2.801192842942346, + "grad_norm": 0.8139528632164001, + "learning_rate": 5.40311861882567e-08, + "loss": 0.006, + "num_input_tokens_seen": 41357480, + "step": 21135 + }, + { + "epoch": 2.801325381047051, + "grad_norm": 14.065767288208008, + "learning_rate": 5.3959428815021644e-08, + "loss": 0.3127, + "num_input_tokens_seen": 41359952, + "step": 21136 + }, + { + "epoch": 2.801457919151756, + "grad_norm": 4.053398132324219, + "learning_rate": 5.388771860313669e-08, + "loss": 0.0118, + "num_input_tokens_seen": 41362200, + "step": 21137 + }, + { + "epoch": 2.801590457256461, + "grad_norm": 0.04186026006937027, + "learning_rate": 5.381605555398378e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41364232, + "step": 21138 + }, + { + "epoch": 2.801722995361166, + "grad_norm": 0.034189168363809586, + "learning_rate": 5.374443966894488e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41367536, + "step": 21139 + }, + { + "epoch": 2.8018555334658712, + "grad_norm": 6.118852615356445, + "learning_rate": 5.3672870949400544e-08, + "loss": 0.05, + "num_input_tokens_seen": 41369224, + "step": 21140 + }, + { + "epoch": 2.8019880715705767, + "grad_norm": 4.129786014556885, + "learning_rate": 5.3601349396730784e-08, + "loss": 0.0205, + "num_input_tokens_seen": 41371336, + "step": 21141 + }, + { + "epoch": 2.8021206096752818, + "grad_norm": 0.05202076956629753, + "learning_rate": 5.352987501231477e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41373136, + "step": 21142 + }, + { + "epoch": 2.802253147779987, + "grad_norm": 10.510772705078125, + "learning_rate": 5.345844779753084e-08, + "loss": 0.1063, + "num_input_tokens_seen": 41375912, + "step": 21143 + }, + { + "epoch": 2.802385685884692, + "grad_norm": 0.00344017893075943, + "learning_rate": 5.3387067753755686e-08, + "loss": 0.0, + "num_input_tokens_seen": 41378080, + "step": 21144 + }, + { + "epoch": 2.802518223989397, + "grad_norm": 0.05713677778840065, + "learning_rate": 5.331573488236569e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41379328, + "step": 21145 + }, + { + "epoch": 2.802650762094102, + "grad_norm": 0.03259960561990738, + "learning_rate": 5.324444918473615e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41380600, + "step": 21146 + }, + { + "epoch": 2.802783300198807, + "grad_norm": 0.005337974056601524, + "learning_rate": 5.317321066224124e-08, + "loss": 0.0, + "num_input_tokens_seen": 41382344, + "step": 21147 + }, + { + "epoch": 2.8029158383035124, + "grad_norm": 2.9660754203796387, + "learning_rate": 5.310201931625542e-08, + "loss": 0.0215, + "num_input_tokens_seen": 41384320, + "step": 21148 + }, + { + "epoch": 2.8030483764082175, + "grad_norm": 0.08560872077941895, + "learning_rate": 5.303087514815036e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41386200, + "step": 21149 + }, + { + "epoch": 2.8031809145129225, + "grad_norm": 0.26001647114753723, + "learning_rate": 5.295977815929831e-08, + "loss": 0.001, + "num_input_tokens_seen": 41387824, + "step": 21150 + }, + { + "epoch": 2.8033134526176275, + "grad_norm": 0.021474014967679977, + "learning_rate": 5.2888728351069564e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41389944, + "step": 21151 + }, + { + "epoch": 2.8034459907223326, + "grad_norm": 0.004883387126028538, + "learning_rate": 5.28177257248344e-08, + "loss": 0.0, + "num_input_tokens_seen": 41391568, + "step": 21152 + }, + { + "epoch": 2.8035785288270376, + "grad_norm": 0.02623615972697735, + "learning_rate": 5.274677028196173e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41393992, + "step": 21153 + }, + { + "epoch": 2.8037110669317427, + "grad_norm": 8.970613479614258, + "learning_rate": 5.2675862023819636e-08, + "loss": 0.0371, + "num_input_tokens_seen": 41395920, + "step": 21154 + }, + { + "epoch": 2.803843605036448, + "grad_norm": 12.674955368041992, + "learning_rate": 5.260500095177534e-08, + "loss": 0.235, + "num_input_tokens_seen": 41398048, + "step": 21155 + }, + { + "epoch": 2.803976143141153, + "grad_norm": 0.03006616048514843, + "learning_rate": 5.253418706719471e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41400208, + "step": 21156 + }, + { + "epoch": 2.804108681245858, + "grad_norm": 0.9721900820732117, + "learning_rate": 5.246342037144359e-08, + "loss": 0.0029, + "num_input_tokens_seen": 41402192, + "step": 21157 + }, + { + "epoch": 2.8042412193505633, + "grad_norm": 0.6990938782691956, + "learning_rate": 5.239270086588616e-08, + "loss": 0.0044, + "num_input_tokens_seen": 41403848, + "step": 21158 + }, + { + "epoch": 2.8043737574552683, + "grad_norm": 5.602118015289307, + "learning_rate": 5.232202855188606e-08, + "loss": 0.0319, + "num_input_tokens_seen": 41405936, + "step": 21159 + }, + { + "epoch": 2.8045062955599733, + "grad_norm": 0.005795423407107592, + "learning_rate": 5.2251403430805816e-08, + "loss": 0.0, + "num_input_tokens_seen": 41407456, + "step": 21160 + }, + { + "epoch": 2.8046388336646784, + "grad_norm": 57.483123779296875, + "learning_rate": 5.2180825504007106e-08, + "loss": 0.1406, + "num_input_tokens_seen": 41409024, + "step": 21161 + }, + { + "epoch": 2.804771371769384, + "grad_norm": 0.004263599403202534, + "learning_rate": 5.211029477285051e-08, + "loss": 0.0, + "num_input_tokens_seen": 41410528, + "step": 21162 + }, + { + "epoch": 2.804903909874089, + "grad_norm": 0.0070289019495248795, + "learning_rate": 5.203981123869634e-08, + "loss": 0.0, + "num_input_tokens_seen": 41413056, + "step": 21163 + }, + { + "epoch": 2.805036447978794, + "grad_norm": 17.672651290893555, + "learning_rate": 5.196937490290349e-08, + "loss": 0.0609, + "num_input_tokens_seen": 41415480, + "step": 21164 + }, + { + "epoch": 2.805168986083499, + "grad_norm": 9.004027366638184, + "learning_rate": 5.18989857668295e-08, + "loss": 0.0467, + "num_input_tokens_seen": 41418496, + "step": 21165 + }, + { + "epoch": 2.805301524188204, + "grad_norm": 3.9029955863952637, + "learning_rate": 5.182864383183217e-08, + "loss": 0.0087, + "num_input_tokens_seen": 41420448, + "step": 21166 + }, + { + "epoch": 2.8054340622929095, + "grad_norm": 5.305731773376465, + "learning_rate": 5.175834909926736e-08, + "loss": 0.0848, + "num_input_tokens_seen": 41423072, + "step": 21167 + }, + { + "epoch": 2.805566600397614, + "grad_norm": 0.0071297441609203815, + "learning_rate": 5.1688101570490926e-08, + "loss": 0.0, + "num_input_tokens_seen": 41424376, + "step": 21168 + }, + { + "epoch": 2.8056991385023196, + "grad_norm": 0.0024708209093660116, + "learning_rate": 5.1617901246856785e-08, + "loss": 0.0, + "num_input_tokens_seen": 41425592, + "step": 21169 + }, + { + "epoch": 2.8058316766070246, + "grad_norm": 5.7150559425354, + "learning_rate": 5.1547748129718025e-08, + "loss": 0.0466, + "num_input_tokens_seen": 41427448, + "step": 21170 + }, + { + "epoch": 2.8059642147117296, + "grad_norm": 11.907758712768555, + "learning_rate": 5.147764222042828e-08, + "loss": 0.1049, + "num_input_tokens_seen": 41429320, + "step": 21171 + }, + { + "epoch": 2.8060967528164347, + "grad_norm": 1.3341501951217651, + "learning_rate": 5.14075835203387e-08, + "loss": 0.0077, + "num_input_tokens_seen": 41431096, + "step": 21172 + }, + { + "epoch": 2.8062292909211397, + "grad_norm": 0.06699223816394806, + "learning_rate": 5.1337572030800145e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41433912, + "step": 21173 + }, + { + "epoch": 2.806361829025845, + "grad_norm": 1.0817219018936157, + "learning_rate": 5.1267607753162364e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41435264, + "step": 21174 + }, + { + "epoch": 2.80649436713055, + "grad_norm": 8.84842586517334, + "learning_rate": 5.119769068877456e-08, + "loss": 0.2363, + "num_input_tokens_seen": 41437840, + "step": 21175 + }, + { + "epoch": 2.8066269052352553, + "grad_norm": 0.019686629995703697, + "learning_rate": 5.1127820838984263e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41440560, + "step": 21176 + }, + { + "epoch": 2.8067594433399603, + "grad_norm": 3.311279535293579, + "learning_rate": 5.105799820513902e-08, + "loss": 0.0218, + "num_input_tokens_seen": 41442768, + "step": 21177 + }, + { + "epoch": 2.8068919814446653, + "grad_norm": 0.1113070696592331, + "learning_rate": 5.098822278858523e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41445320, + "step": 21178 + }, + { + "epoch": 2.8070245195493704, + "grad_norm": 0.006468723528087139, + "learning_rate": 5.091849459066794e-08, + "loss": 0.0, + "num_input_tokens_seen": 41447552, + "step": 21179 + }, + { + "epoch": 2.8071570576540754, + "grad_norm": 17.911327362060547, + "learning_rate": 5.084881361273164e-08, + "loss": 0.2814, + "num_input_tokens_seen": 41449624, + "step": 21180 + }, + { + "epoch": 2.807289595758781, + "grad_norm": 4.388555526733398, + "learning_rate": 5.077917985611969e-08, + "loss": 0.0395, + "num_input_tokens_seen": 41451664, + "step": 21181 + }, + { + "epoch": 2.8074221338634855, + "grad_norm": 5.563365459442139, + "learning_rate": 5.07095933221749e-08, + "loss": 0.097, + "num_input_tokens_seen": 41453568, + "step": 21182 + }, + { + "epoch": 2.807554671968191, + "grad_norm": 0.25721418857574463, + "learning_rate": 5.064005401223843e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41456304, + "step": 21183 + }, + { + "epoch": 2.807687210072896, + "grad_norm": 0.8028609156608582, + "learning_rate": 5.0570561927651974e-08, + "loss": 0.0038, + "num_input_tokens_seen": 41458208, + "step": 21184 + }, + { + "epoch": 2.807819748177601, + "grad_norm": 9.616104125976562, + "learning_rate": 5.050111706975475e-08, + "loss": 0.0279, + "num_input_tokens_seen": 41459728, + "step": 21185 + }, + { + "epoch": 2.807952286282306, + "grad_norm": 0.04375437647104263, + "learning_rate": 5.0431719439885674e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41462752, + "step": 21186 + }, + { + "epoch": 2.808084824387011, + "grad_norm": 0.001760742161422968, + "learning_rate": 5.036236903938285e-08, + "loss": 0.0, + "num_input_tokens_seen": 41464248, + "step": 21187 + }, + { + "epoch": 2.8082173624917166, + "grad_norm": 11.687002182006836, + "learning_rate": 5.029306586958355e-08, + "loss": 0.1101, + "num_input_tokens_seen": 41467456, + "step": 21188 + }, + { + "epoch": 2.808349900596421, + "grad_norm": 0.5118199586868286, + "learning_rate": 5.0223809931823906e-08, + "loss": 0.0018, + "num_input_tokens_seen": 41469696, + "step": 21189 + }, + { + "epoch": 2.8084824387011267, + "grad_norm": 12.227437019348145, + "learning_rate": 5.015460122743926e-08, + "loss": 0.2561, + "num_input_tokens_seen": 41472120, + "step": 21190 + }, + { + "epoch": 2.8086149768058317, + "grad_norm": 0.019973209127783775, + "learning_rate": 5.0085439757764085e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41473512, + "step": 21191 + }, + { + "epoch": 2.8087475149105368, + "grad_norm": 0.022125286981463432, + "learning_rate": 5.001632552413177e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41475136, + "step": 21192 + }, + { + "epoch": 2.808880053015242, + "grad_norm": 4.517755031585693, + "learning_rate": 4.994725852787458e-08, + "loss": 0.0572, + "num_input_tokens_seen": 41476720, + "step": 21193 + }, + { + "epoch": 2.809012591119947, + "grad_norm": 0.03753714635968208, + "learning_rate": 4.9878238770324494e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41479128, + "step": 21194 + }, + { + "epoch": 2.8091451292246523, + "grad_norm": 0.012316010892391205, + "learning_rate": 4.980926625281213e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41480760, + "step": 21195 + }, + { + "epoch": 2.8092776673293574, + "grad_norm": 4.032469272613525, + "learning_rate": 4.97403409766678e-08, + "loss": 0.0349, + "num_input_tokens_seen": 41482576, + "step": 21196 + }, + { + "epoch": 2.8094102054340624, + "grad_norm": 0.012639536522328854, + "learning_rate": 4.9671462943219895e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41484592, + "step": 21197 + }, + { + "epoch": 2.8095427435387674, + "grad_norm": 4.469357967376709, + "learning_rate": 4.9602632153796235e-08, + "loss": 0.0561, + "num_input_tokens_seen": 41485800, + "step": 21198 + }, + { + "epoch": 2.8096752816434725, + "grad_norm": 0.02814772166311741, + "learning_rate": 4.953384860972465e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41488176, + "step": 21199 + }, + { + "epoch": 2.8098078197481775, + "grad_norm": 0.008501028642058372, + "learning_rate": 4.9465112312330756e-08, + "loss": 0.0, + "num_input_tokens_seen": 41489520, + "step": 21200 + }, + { + "epoch": 2.8099403578528825, + "grad_norm": 4.758168697357178, + "learning_rate": 4.9396423262940143e-08, + "loss": 0.0157, + "num_input_tokens_seen": 41491520, + "step": 21201 + }, + { + "epoch": 2.810072895957588, + "grad_norm": 0.008862193673849106, + "learning_rate": 4.932778146287703e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41494960, + "step": 21202 + }, + { + "epoch": 2.810205434062293, + "grad_norm": 0.06783480197191238, + "learning_rate": 4.925918691346482e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41496736, + "step": 21203 + }, + { + "epoch": 2.810337972166998, + "grad_norm": 1.5066395998001099, + "learning_rate": 4.9190639616026324e-08, + "loss": 0.009, + "num_input_tokens_seen": 41498720, + "step": 21204 + }, + { + "epoch": 2.810470510271703, + "grad_norm": 2.028540849685669, + "learning_rate": 4.912213957188328e-08, + "loss": 0.0053, + "num_input_tokens_seen": 41500800, + "step": 21205 + }, + { + "epoch": 2.810603048376408, + "grad_norm": 0.027135441079735756, + "learning_rate": 4.9053686782355724e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41502856, + "step": 21206 + }, + { + "epoch": 2.810735586481113, + "grad_norm": 5.882522106170654, + "learning_rate": 4.8985281248764006e-08, + "loss": 0.0677, + "num_input_tokens_seen": 41505528, + "step": 21207 + }, + { + "epoch": 2.8108681245858183, + "grad_norm": 0.051870886236429214, + "learning_rate": 4.891692297242678e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41507496, + "step": 21208 + }, + { + "epoch": 2.8110006626905237, + "grad_norm": 3.69916033744812, + "learning_rate": 4.884861195466245e-08, + "loss": 0.0218, + "num_input_tokens_seen": 41510120, + "step": 21209 + }, + { + "epoch": 2.8111332007952288, + "grad_norm": 0.010116532444953918, + "learning_rate": 4.878034819678801e-08, + "loss": 0.0, + "num_input_tokens_seen": 41512480, + "step": 21210 + }, + { + "epoch": 2.811265738899934, + "grad_norm": 0.03615608438849449, + "learning_rate": 4.871213170011935e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41514264, + "step": 21211 + }, + { + "epoch": 2.811398277004639, + "grad_norm": 3.6562039852142334, + "learning_rate": 4.864396246597153e-08, + "loss": 0.0269, + "num_input_tokens_seen": 41515896, + "step": 21212 + }, + { + "epoch": 2.811530815109344, + "grad_norm": 6.809515476226807, + "learning_rate": 4.8575840495659335e-08, + "loss": 0.1403, + "num_input_tokens_seen": 41518136, + "step": 21213 + }, + { + "epoch": 2.811663353214049, + "grad_norm": 18.032827377319336, + "learning_rate": 4.850776579049615e-08, + "loss": 0.1232, + "num_input_tokens_seen": 41520304, + "step": 21214 + }, + { + "epoch": 2.811795891318754, + "grad_norm": 0.3632330596446991, + "learning_rate": 4.843973835179455e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41522256, + "step": 21215 + }, + { + "epoch": 2.8119284294234594, + "grad_norm": 11.840888023376465, + "learning_rate": 4.837175818086598e-08, + "loss": 0.1179, + "num_input_tokens_seen": 41523456, + "step": 21216 + }, + { + "epoch": 2.8120609675281645, + "grad_norm": 4.350199222564697, + "learning_rate": 4.8303825279021336e-08, + "loss": 0.0243, + "num_input_tokens_seen": 41525304, + "step": 21217 + }, + { + "epoch": 2.8121935056328695, + "grad_norm": 0.08766380697488785, + "learning_rate": 4.823593964757012e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41527112, + "step": 21218 + }, + { + "epoch": 2.8123260437375746, + "grad_norm": 0.14347699284553528, + "learning_rate": 4.816810128782101e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41528528, + "step": 21219 + }, + { + "epoch": 2.8124585818422796, + "grad_norm": 5.1562180519104, + "learning_rate": 4.810031020108297e-08, + "loss": 0.1279, + "num_input_tokens_seen": 41530616, + "step": 21220 + }, + { + "epoch": 2.8125911199469846, + "grad_norm": 0.005039736162871122, + "learning_rate": 4.803256638866216e-08, + "loss": 0.0, + "num_input_tokens_seen": 41531696, + "step": 21221 + }, + { + "epoch": 2.8127236580516897, + "grad_norm": 13.648358345031738, + "learning_rate": 4.7964869851865046e-08, + "loss": 0.1187, + "num_input_tokens_seen": 41533176, + "step": 21222 + }, + { + "epoch": 2.812856196156395, + "grad_norm": 13.263527870178223, + "learning_rate": 4.789722059199669e-08, + "loss": 0.2443, + "num_input_tokens_seen": 41534920, + "step": 21223 + }, + { + "epoch": 2.8129887342611, + "grad_norm": 0.06892092525959015, + "learning_rate": 4.782961861036134e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41536848, + "step": 21224 + }, + { + "epoch": 2.8131212723658052, + "grad_norm": 0.020196134224534035, + "learning_rate": 4.776206390826293e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41538576, + "step": 21225 + }, + { + "epoch": 2.8132538104705103, + "grad_norm": 0.00526905944570899, + "learning_rate": 4.769455648700377e-08, + "loss": 0.0, + "num_input_tokens_seen": 41540400, + "step": 21226 + }, + { + "epoch": 2.8133863485752153, + "grad_norm": 17.075319290161133, + "learning_rate": 4.7627096347885316e-08, + "loss": 0.1684, + "num_input_tokens_seen": 41542064, + "step": 21227 + }, + { + "epoch": 2.8135188866799203, + "grad_norm": 4.7833333015441895, + "learning_rate": 4.7559683492208184e-08, + "loss": 0.0905, + "num_input_tokens_seen": 41543720, + "step": 21228 + }, + { + "epoch": 2.8136514247846254, + "grad_norm": 0.006947199814021587, + "learning_rate": 4.74923179212719e-08, + "loss": 0.0, + "num_input_tokens_seen": 41546040, + "step": 21229 + }, + { + "epoch": 2.813783962889331, + "grad_norm": 0.12753786146640778, + "learning_rate": 4.74249996363757e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41548120, + "step": 21230 + }, + { + "epoch": 2.813916500994036, + "grad_norm": 11.77702808380127, + "learning_rate": 4.7357728638817716e-08, + "loss": 0.0916, + "num_input_tokens_seen": 41549784, + "step": 21231 + }, + { + "epoch": 2.814049039098741, + "grad_norm": 0.006870923563838005, + "learning_rate": 4.72905049298944e-08, + "loss": 0.0, + "num_input_tokens_seen": 41551040, + "step": 21232 + }, + { + "epoch": 2.814181577203446, + "grad_norm": 0.052990805357694626, + "learning_rate": 4.72233285109025e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41552504, + "step": 21233 + }, + { + "epoch": 2.814314115308151, + "grad_norm": 4.455300331115723, + "learning_rate": 4.7156199383136814e-08, + "loss": 0.0683, + "num_input_tokens_seen": 41554696, + "step": 21234 + }, + { + "epoch": 2.814446653412856, + "grad_norm": 1.5458555221557617, + "learning_rate": 4.708911754789158e-08, + "loss": 0.0257, + "num_input_tokens_seen": 41556824, + "step": 21235 + }, + { + "epoch": 2.814579191517561, + "grad_norm": 0.002492510713636875, + "learning_rate": 4.70220830064605e-08, + "loss": 0.0, + "num_input_tokens_seen": 41558136, + "step": 21236 + }, + { + "epoch": 2.8147117296222666, + "grad_norm": 0.006433361209928989, + "learning_rate": 4.695509576013585e-08, + "loss": 0.0, + "num_input_tokens_seen": 41560368, + "step": 21237 + }, + { + "epoch": 2.8148442677269716, + "grad_norm": 0.04005099833011627, + "learning_rate": 4.688815581020911e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41563432, + "step": 21238 + }, + { + "epoch": 2.8149768058316766, + "grad_norm": 7.580732345581055, + "learning_rate": 4.6821263157971195e-08, + "loss": 0.1198, + "num_input_tokens_seen": 41565808, + "step": 21239 + }, + { + "epoch": 2.8151093439363817, + "grad_norm": 9.633988380432129, + "learning_rate": 4.675441780471163e-08, + "loss": 0.0349, + "num_input_tokens_seen": 41568112, + "step": 21240 + }, + { + "epoch": 2.8152418820410867, + "grad_norm": 0.05486686900258064, + "learning_rate": 4.668761975171937e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41570264, + "step": 21241 + }, + { + "epoch": 2.8153744201457918, + "grad_norm": 0.008673026226460934, + "learning_rate": 4.662086900028201e-08, + "loss": 0.0, + "num_input_tokens_seen": 41571336, + "step": 21242 + }, + { + "epoch": 2.815506958250497, + "grad_norm": 3.4414398670196533, + "learning_rate": 4.655416555168713e-08, + "loss": 0.0253, + "num_input_tokens_seen": 41573632, + "step": 21243 + }, + { + "epoch": 2.8156394963552023, + "grad_norm": 0.015590169467031956, + "learning_rate": 4.6487509407220074e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41576104, + "step": 21244 + }, + { + "epoch": 2.8157720344599073, + "grad_norm": 0.007496792823076248, + "learning_rate": 4.642090056816678e-08, + "loss": 0.0, + "num_input_tokens_seen": 41577904, + "step": 21245 + }, + { + "epoch": 2.8159045725646124, + "grad_norm": 16.19715690612793, + "learning_rate": 4.6354339035811215e-08, + "loss": 0.1702, + "num_input_tokens_seen": 41579080, + "step": 21246 + }, + { + "epoch": 2.8160371106693174, + "grad_norm": 1.3593823909759521, + "learning_rate": 4.628782481143651e-08, + "loss": 0.0076, + "num_input_tokens_seen": 41580960, + "step": 21247 + }, + { + "epoch": 2.8161696487740224, + "grad_norm": 0.04407981410622597, + "learning_rate": 4.622135789632526e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41582512, + "step": 21248 + }, + { + "epoch": 2.816302186878728, + "grad_norm": 0.07390999048948288, + "learning_rate": 4.6154938291758936e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41585016, + "step": 21249 + }, + { + "epoch": 2.8164347249834325, + "grad_norm": 5.110679626464844, + "learning_rate": 4.6088565999018174e-08, + "loss": 0.0414, + "num_input_tokens_seen": 41587288, + "step": 21250 + }, + { + "epoch": 2.816567263088138, + "grad_norm": 6.790787220001221, + "learning_rate": 4.602224101938307e-08, + "loss": 0.034, + "num_input_tokens_seen": 41590056, + "step": 21251 + }, + { + "epoch": 2.816699801192843, + "grad_norm": 0.01827739179134369, + "learning_rate": 4.595596335413177e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41592288, + "step": 21252 + }, + { + "epoch": 2.816832339297548, + "grad_norm": 0.005573027767241001, + "learning_rate": 4.588973300454241e-08, + "loss": 0.0, + "num_input_tokens_seen": 41594248, + "step": 21253 + }, + { + "epoch": 2.816964877402253, + "grad_norm": 2.179642915725708, + "learning_rate": 4.582354997189231e-08, + "loss": 0.0043, + "num_input_tokens_seen": 41595848, + "step": 21254 + }, + { + "epoch": 2.817097415506958, + "grad_norm": 4.831472396850586, + "learning_rate": 4.575741425745683e-08, + "loss": 0.0703, + "num_input_tokens_seen": 41598264, + "step": 21255 + }, + { + "epoch": 2.8172299536116636, + "grad_norm": 0.007969295606017113, + "learning_rate": 4.56913258625119e-08, + "loss": 0.0, + "num_input_tokens_seen": 41599344, + "step": 21256 + }, + { + "epoch": 2.817362491716368, + "grad_norm": 3.166008234024048, + "learning_rate": 4.5625284788331226e-08, + "loss": 0.0174, + "num_input_tokens_seen": 41601000, + "step": 21257 + }, + { + "epoch": 2.8174950298210737, + "grad_norm": 3.363495111465454, + "learning_rate": 4.5559291036188227e-08, + "loss": 0.0404, + "num_input_tokens_seen": 41603136, + "step": 21258 + }, + { + "epoch": 2.8176275679257787, + "grad_norm": 0.0033262053038924932, + "learning_rate": 4.5493344607355214e-08, + "loss": 0.0, + "num_input_tokens_seen": 41604808, + "step": 21259 + }, + { + "epoch": 2.8177601060304838, + "grad_norm": 0.0867895856499672, + "learning_rate": 4.542744550310368e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41606848, + "step": 21260 + }, + { + "epoch": 2.817892644135189, + "grad_norm": 0.025034377351403236, + "learning_rate": 4.5361593724704554e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41608472, + "step": 21261 + }, + { + "epoch": 2.818025182239894, + "grad_norm": 0.009451201185584068, + "learning_rate": 4.529578927342737e-08, + "loss": 0.0, + "num_input_tokens_seen": 41609808, + "step": 21262 + }, + { + "epoch": 2.8181577203445993, + "grad_norm": 0.005809496156871319, + "learning_rate": 4.523003215054056e-08, + "loss": 0.0, + "num_input_tokens_seen": 41611984, + "step": 21263 + }, + { + "epoch": 2.818290258449304, + "grad_norm": 8.191415786743164, + "learning_rate": 4.5164322357312276e-08, + "loss": 0.1402, + "num_input_tokens_seen": 41615344, + "step": 21264 + }, + { + "epoch": 2.8184227965540094, + "grad_norm": 0.001972722355276346, + "learning_rate": 4.509865989500928e-08, + "loss": 0.0, + "num_input_tokens_seen": 41617368, + "step": 21265 + }, + { + "epoch": 2.8185553346587144, + "grad_norm": 2.6391422748565674, + "learning_rate": 4.5033044764897503e-08, + "loss": 0.0202, + "num_input_tokens_seen": 41620080, + "step": 21266 + }, + { + "epoch": 2.8186878727634195, + "grad_norm": 4.681728839874268, + "learning_rate": 4.496747696824261e-08, + "loss": 0.0298, + "num_input_tokens_seen": 41621688, + "step": 21267 + }, + { + "epoch": 2.8188204108681245, + "grad_norm": 1.3220518827438354, + "learning_rate": 4.49019565063083e-08, + "loss": 0.0039, + "num_input_tokens_seen": 41623664, + "step": 21268 + }, + { + "epoch": 2.8189529489728296, + "grad_norm": 2.9818472862243652, + "learning_rate": 4.483648338035801e-08, + "loss": 0.0668, + "num_input_tokens_seen": 41625848, + "step": 21269 + }, + { + "epoch": 2.819085487077535, + "grad_norm": 0.0044041285291314125, + "learning_rate": 4.477105759165379e-08, + "loss": 0.0, + "num_input_tokens_seen": 41627408, + "step": 21270 + }, + { + "epoch": 2.8192180251822396, + "grad_norm": 0.0022272781934589148, + "learning_rate": 4.470567914145768e-08, + "loss": 0.0, + "num_input_tokens_seen": 41628464, + "step": 21271 + }, + { + "epoch": 2.819350563286945, + "grad_norm": 8.511528968811035, + "learning_rate": 4.464034803102951e-08, + "loss": 0.0525, + "num_input_tokens_seen": 41630464, + "step": 21272 + }, + { + "epoch": 2.81948310139165, + "grad_norm": 0.007058646529912949, + "learning_rate": 4.4575064261629665e-08, + "loss": 0.0, + "num_input_tokens_seen": 41632064, + "step": 21273 + }, + { + "epoch": 2.819615639496355, + "grad_norm": 1.1773110628128052, + "learning_rate": 4.4509827834516296e-08, + "loss": 0.0075, + "num_input_tokens_seen": 41634360, + "step": 21274 + }, + { + "epoch": 2.8197481776010602, + "grad_norm": 0.005149673204869032, + "learning_rate": 4.4444638750947564e-08, + "loss": 0.0, + "num_input_tokens_seen": 41635688, + "step": 21275 + }, + { + "epoch": 2.8198807157057653, + "grad_norm": 0.001669332617893815, + "learning_rate": 4.4379497012179976e-08, + "loss": 0.0, + "num_input_tokens_seen": 41637104, + "step": 21276 + }, + { + "epoch": 2.8200132538104707, + "grad_norm": 0.4741596579551697, + "learning_rate": 4.431440261946946e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41638936, + "step": 21277 + }, + { + "epoch": 2.8201457919151753, + "grad_norm": 0.005232417490333319, + "learning_rate": 4.424935557407195e-08, + "loss": 0.0, + "num_input_tokens_seen": 41640832, + "step": 21278 + }, + { + "epoch": 2.820278330019881, + "grad_norm": 0.019071562215685844, + "learning_rate": 4.4184355877240906e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41642600, + "step": 21279 + }, + { + "epoch": 2.820410868124586, + "grad_norm": 3.601416826248169, + "learning_rate": 4.4119403530229475e-08, + "loss": 0.0284, + "num_input_tokens_seen": 41644408, + "step": 21280 + }, + { + "epoch": 2.820543406229291, + "grad_norm": 0.1430717557668686, + "learning_rate": 4.4054498534290005e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41645992, + "step": 21281 + }, + { + "epoch": 2.820675944333996, + "grad_norm": 0.1317349672317505, + "learning_rate": 4.3989640890674536e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41648496, + "step": 21282 + }, + { + "epoch": 2.820808482438701, + "grad_norm": 0.006044508423656225, + "learning_rate": 4.392483060063263e-08, + "loss": 0.0, + "num_input_tokens_seen": 41649720, + "step": 21283 + }, + { + "epoch": 2.8209410205434065, + "grad_norm": 0.003988482989370823, + "learning_rate": 4.386006766541467e-08, + "loss": 0.0, + "num_input_tokens_seen": 41651992, + "step": 21284 + }, + { + "epoch": 2.8210735586481115, + "grad_norm": 8.106592178344727, + "learning_rate": 4.379535208626884e-08, + "loss": 0.1144, + "num_input_tokens_seen": 41653992, + "step": 21285 + }, + { + "epoch": 2.8212060967528165, + "grad_norm": 8.010564804077148, + "learning_rate": 4.373068386444301e-08, + "loss": 0.053, + "num_input_tokens_seen": 41655560, + "step": 21286 + }, + { + "epoch": 2.8213386348575216, + "grad_norm": 5.563754081726074, + "learning_rate": 4.3666063001184535e-08, + "loss": 0.0279, + "num_input_tokens_seen": 41657584, + "step": 21287 + }, + { + "epoch": 2.8214711729622266, + "grad_norm": 0.007190825883299112, + "learning_rate": 4.360148949773851e-08, + "loss": 0.0, + "num_input_tokens_seen": 41659704, + "step": 21288 + }, + { + "epoch": 2.8216037110669316, + "grad_norm": 0.5484961867332458, + "learning_rate": 4.3536963355350345e-08, + "loss": 0.002, + "num_input_tokens_seen": 41661472, + "step": 21289 + }, + { + "epoch": 2.8217362491716367, + "grad_norm": 0.05635608732700348, + "learning_rate": 4.3472484575264315e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41663216, + "step": 21290 + }, + { + "epoch": 2.821868787276342, + "grad_norm": 8.621072769165039, + "learning_rate": 4.3408053158723315e-08, + "loss": 0.0541, + "num_input_tokens_seen": 41664952, + "step": 21291 + }, + { + "epoch": 2.822001325381047, + "grad_norm": 5.946181297302246, + "learning_rate": 4.334366910696969e-08, + "loss": 0.0463, + "num_input_tokens_seen": 41666880, + "step": 21292 + }, + { + "epoch": 2.8221338634857522, + "grad_norm": 0.13684526085853577, + "learning_rate": 4.3279332421245214e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41669272, + "step": 21293 + }, + { + "epoch": 2.8222664015904573, + "grad_norm": 5.767205238342285, + "learning_rate": 4.321504310279001e-08, + "loss": 0.0483, + "num_input_tokens_seen": 41671624, + "step": 21294 + }, + { + "epoch": 2.8223989396951623, + "grad_norm": 0.02296694554388523, + "learning_rate": 4.315080115284309e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41673144, + "step": 21295 + }, + { + "epoch": 2.8225314777998673, + "grad_norm": 0.0019314229721203446, + "learning_rate": 4.3086606572644016e-08, + "loss": 0.0, + "num_input_tokens_seen": 41674696, + "step": 21296 + }, + { + "epoch": 2.8226640159045724, + "grad_norm": 5.506106853485107, + "learning_rate": 4.302245936343014e-08, + "loss": 0.0147, + "num_input_tokens_seen": 41677064, + "step": 21297 + }, + { + "epoch": 2.822796554009278, + "grad_norm": 0.2841896712779999, + "learning_rate": 4.2958359526438235e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41679952, + "step": 21298 + }, + { + "epoch": 2.822929092113983, + "grad_norm": 6.363249778747559, + "learning_rate": 4.2894307062903984e-08, + "loss": 0.0063, + "num_input_tokens_seen": 41682360, + "step": 21299 + }, + { + "epoch": 2.823061630218688, + "grad_norm": 0.025439860299229622, + "learning_rate": 4.2830301974062796e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41684904, + "step": 21300 + }, + { + "epoch": 2.823194168323393, + "grad_norm": 3.287243366241455, + "learning_rate": 4.276634426114812e-08, + "loss": 0.0283, + "num_input_tokens_seen": 41687144, + "step": 21301 + }, + { + "epoch": 2.823326706428098, + "grad_norm": 0.7168206572532654, + "learning_rate": 4.2702433925393696e-08, + "loss": 0.005, + "num_input_tokens_seen": 41689640, + "step": 21302 + }, + { + "epoch": 2.823459244532803, + "grad_norm": 0.1533549726009369, + "learning_rate": 4.263857096803159e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41691392, + "step": 21303 + }, + { + "epoch": 2.823591782637508, + "grad_norm": 0.0039391000755131245, + "learning_rate": 4.257475539029332e-08, + "loss": 0.0, + "num_input_tokens_seen": 41692536, + "step": 21304 + }, + { + "epoch": 2.8237243207422136, + "grad_norm": 0.6914017200469971, + "learning_rate": 4.251098719340874e-08, + "loss": 0.0019, + "num_input_tokens_seen": 41694456, + "step": 21305 + }, + { + "epoch": 2.8238568588469186, + "grad_norm": 0.08038034290075302, + "learning_rate": 4.244726637860769e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41696112, + "step": 21306 + }, + { + "epoch": 2.8239893969516237, + "grad_norm": 15.284549713134766, + "learning_rate": 4.238359294711863e-08, + "loss": 0.2504, + "num_input_tokens_seen": 41698728, + "step": 21307 + }, + { + "epoch": 2.8241219350563287, + "grad_norm": 2.6776864528656006, + "learning_rate": 4.231996690016948e-08, + "loss": 0.0087, + "num_input_tokens_seen": 41700464, + "step": 21308 + }, + { + "epoch": 2.8242544731610337, + "grad_norm": 0.01853269338607788, + "learning_rate": 4.225638823898703e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41701808, + "step": 21309 + }, + { + "epoch": 2.8243870112657388, + "grad_norm": 5.682422161102295, + "learning_rate": 4.219285696479669e-08, + "loss": 0.0221, + "num_input_tokens_seen": 41703568, + "step": 21310 + }, + { + "epoch": 2.824519549370444, + "grad_norm": 0.006058938801288605, + "learning_rate": 4.212937307882386e-08, + "loss": 0.0, + "num_input_tokens_seen": 41705352, + "step": 21311 + }, + { + "epoch": 2.8246520874751493, + "grad_norm": 0.004415520001202822, + "learning_rate": 4.206593658229174e-08, + "loss": 0.0, + "num_input_tokens_seen": 41706560, + "step": 21312 + }, + { + "epoch": 2.8247846255798543, + "grad_norm": 8.943802833557129, + "learning_rate": 4.200254747642435e-08, + "loss": 0.0782, + "num_input_tokens_seen": 41708704, + "step": 21313 + }, + { + "epoch": 2.8249171636845594, + "grad_norm": 14.423078536987305, + "learning_rate": 4.1939205762443756e-08, + "loss": 0.164, + "num_input_tokens_seen": 41711392, + "step": 21314 + }, + { + "epoch": 2.8250497017892644, + "grad_norm": 0.022188182920217514, + "learning_rate": 4.187591144157066e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41712616, + "step": 21315 + }, + { + "epoch": 2.8251822398939694, + "grad_norm": 0.9098058342933655, + "learning_rate": 4.1812664515026026e-08, + "loss": 0.0056, + "num_input_tokens_seen": 41715384, + "step": 21316 + }, + { + "epoch": 2.8253147779986745, + "grad_norm": 5.674572467803955, + "learning_rate": 4.1749464984028874e-08, + "loss": 0.0126, + "num_input_tokens_seen": 41717576, + "step": 21317 + }, + { + "epoch": 2.8254473161033795, + "grad_norm": 0.2418396919965744, + "learning_rate": 4.168631284979796e-08, + "loss": 0.0014, + "num_input_tokens_seen": 41718912, + "step": 21318 + }, + { + "epoch": 2.825579854208085, + "grad_norm": 18.161022186279297, + "learning_rate": 4.162320811355064e-08, + "loss": 0.1263, + "num_input_tokens_seen": 41721472, + "step": 21319 + }, + { + "epoch": 2.82571239231279, + "grad_norm": 0.3156079649925232, + "learning_rate": 4.156015077650399e-08, + "loss": 0.0022, + "num_input_tokens_seen": 41723304, + "step": 21320 + }, + { + "epoch": 2.825844930417495, + "grad_norm": 0.10809608548879623, + "learning_rate": 4.1497140839873715e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41724584, + "step": 21321 + }, + { + "epoch": 2.8259774685222, + "grad_norm": 0.03469456732273102, + "learning_rate": 4.14341783048744e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41727160, + "step": 21322 + }, + { + "epoch": 2.826110006626905, + "grad_norm": 2.7486681938171387, + "learning_rate": 4.1371263172720336e-08, + "loss": 0.0285, + "num_input_tokens_seen": 41729304, + "step": 21323 + }, + { + "epoch": 2.82624254473161, + "grad_norm": 0.029182739555835724, + "learning_rate": 4.130839544462445e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41730688, + "step": 21324 + }, + { + "epoch": 2.8263750828363152, + "grad_norm": 2.0474400520324707, + "learning_rate": 4.124557512179883e-08, + "loss": 0.0169, + "num_input_tokens_seen": 41732040, + "step": 21325 + }, + { + "epoch": 2.8265076209410207, + "grad_norm": 2.942699670791626, + "learning_rate": 4.118280220545473e-08, + "loss": 0.0248, + "num_input_tokens_seen": 41733840, + "step": 21326 + }, + { + "epoch": 2.8266401590457257, + "grad_norm": 5.175823211669922, + "learning_rate": 4.112007669680229e-08, + "loss": 0.0368, + "num_input_tokens_seen": 41735592, + "step": 21327 + }, + { + "epoch": 2.826772697150431, + "grad_norm": 0.1909402310848236, + "learning_rate": 4.105739859705138e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41737568, + "step": 21328 + }, + { + "epoch": 2.826905235255136, + "grad_norm": 0.09783075749874115, + "learning_rate": 4.0994767907410196e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41738888, + "step": 21329 + }, + { + "epoch": 2.827037773359841, + "grad_norm": 0.008746135048568249, + "learning_rate": 4.093218462908582e-08, + "loss": 0.0, + "num_input_tokens_seen": 41740200, + "step": 21330 + }, + { + "epoch": 2.827170311464546, + "grad_norm": 0.010528885759413242, + "learning_rate": 4.0869648763285643e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41742360, + "step": 21331 + }, + { + "epoch": 2.827302849569251, + "grad_norm": 0.0025462631601840258, + "learning_rate": 4.0807160311215066e-08, + "loss": 0.0, + "num_input_tokens_seen": 41744048, + "step": 21332 + }, + { + "epoch": 2.8274353876739564, + "grad_norm": 8.750323295593262, + "learning_rate": 4.074471927407897e-08, + "loss": 0.0278, + "num_input_tokens_seen": 41746248, + "step": 21333 + }, + { + "epoch": 2.8275679257786615, + "grad_norm": 0.04769982770085335, + "learning_rate": 4.068232565308139e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41748576, + "step": 21334 + }, + { + "epoch": 2.8277004638833665, + "grad_norm": 0.5535390973091125, + "learning_rate": 4.0619979449424974e-08, + "loss": 0.0039, + "num_input_tokens_seen": 41750904, + "step": 21335 + }, + { + "epoch": 2.8278330019880715, + "grad_norm": 2.0264904499053955, + "learning_rate": 4.0557680664311816e-08, + "loss": 0.0139, + "num_input_tokens_seen": 41752768, + "step": 21336 + }, + { + "epoch": 2.8279655400927766, + "grad_norm": 0.004613807424902916, + "learning_rate": 4.049542929894346e-08, + "loss": 0.0, + "num_input_tokens_seen": 41754112, + "step": 21337 + }, + { + "epoch": 2.828098078197482, + "grad_norm": 3.950345277786255, + "learning_rate": 4.0433225354520046e-08, + "loss": 0.0246, + "num_input_tokens_seen": 41756280, + "step": 21338 + }, + { + "epoch": 2.8282306163021866, + "grad_norm": 0.024955151602625847, + "learning_rate": 4.037106883224062e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41757768, + "step": 21339 + }, + { + "epoch": 2.828363154406892, + "grad_norm": 6.444292068481445, + "learning_rate": 4.0308959733303955e-08, + "loss": 0.1045, + "num_input_tokens_seen": 41759288, + "step": 21340 + }, + { + "epoch": 2.828495692511597, + "grad_norm": 0.023813916370272636, + "learning_rate": 4.024689805890741e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41760536, + "step": 21341 + }, + { + "epoch": 2.828628230616302, + "grad_norm": 3.578228712081909, + "learning_rate": 4.018488381024754e-08, + "loss": 0.0177, + "num_input_tokens_seen": 41762488, + "step": 21342 + }, + { + "epoch": 2.8287607687210072, + "grad_norm": 2.963191270828247, + "learning_rate": 4.012291698851978e-08, + "loss": 0.0151, + "num_input_tokens_seen": 41764304, + "step": 21343 + }, + { + "epoch": 2.8288933068257123, + "grad_norm": 6.463123321533203, + "learning_rate": 4.0060997594919546e-08, + "loss": 0.0299, + "num_input_tokens_seen": 41767464, + "step": 21344 + }, + { + "epoch": 2.8290258449304178, + "grad_norm": 0.004640256520360708, + "learning_rate": 3.999912563064007e-08, + "loss": 0.0, + "num_input_tokens_seen": 41768848, + "step": 21345 + }, + { + "epoch": 2.8291583830351223, + "grad_norm": 7.133349895477295, + "learning_rate": 3.993730109687482e-08, + "loss": 0.1231, + "num_input_tokens_seen": 41771456, + "step": 21346 + }, + { + "epoch": 2.829290921139828, + "grad_norm": 1.109593152999878, + "learning_rate": 3.987552399481537e-08, + "loss": 0.0081, + "num_input_tokens_seen": 41773120, + "step": 21347 + }, + { + "epoch": 2.829423459244533, + "grad_norm": 9.424050331115723, + "learning_rate": 3.981379432565269e-08, + "loss": 0.182, + "num_input_tokens_seen": 41775112, + "step": 21348 + }, + { + "epoch": 2.829555997349238, + "grad_norm": 0.0021270166616886854, + "learning_rate": 3.9752112090577224e-08, + "loss": 0.0, + "num_input_tokens_seen": 41776584, + "step": 21349 + }, + { + "epoch": 2.829688535453943, + "grad_norm": 3.2307441234588623, + "learning_rate": 3.969047729077857e-08, + "loss": 0.0182, + "num_input_tokens_seen": 41778952, + "step": 21350 + }, + { + "epoch": 2.829821073558648, + "grad_norm": 4.46967887878418, + "learning_rate": 3.962888992744496e-08, + "loss": 0.07, + "num_input_tokens_seen": 41780640, + "step": 21351 + }, + { + "epoch": 2.8299536116633535, + "grad_norm": 0.004322728607803583, + "learning_rate": 3.956735000176348e-08, + "loss": 0.0, + "num_input_tokens_seen": 41782632, + "step": 21352 + }, + { + "epoch": 2.830086149768058, + "grad_norm": 0.780724823474884, + "learning_rate": 3.95058575149207e-08, + "loss": 0.0038, + "num_input_tokens_seen": 41784024, + "step": 21353 + }, + { + "epoch": 2.8302186878727635, + "grad_norm": 0.12405820935964584, + "learning_rate": 3.94444124681026e-08, + "loss": 0.0006, + "num_input_tokens_seen": 41786888, + "step": 21354 + }, + { + "epoch": 2.8303512259774686, + "grad_norm": 7.429314613342285, + "learning_rate": 3.9383014862493516e-08, + "loss": 0.047, + "num_input_tokens_seen": 41789008, + "step": 21355 + }, + { + "epoch": 2.8304837640821736, + "grad_norm": 0.05965806171298027, + "learning_rate": 3.9321664699277504e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41790344, + "step": 21356 + }, + { + "epoch": 2.8306163021868787, + "grad_norm": 0.012387754395604134, + "learning_rate": 3.926036197963723e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41792544, + "step": 21357 + }, + { + "epoch": 2.8307488402915837, + "grad_norm": 1.214707851409912, + "learning_rate": 3.91991067047548e-08, + "loss": 0.0068, + "num_input_tokens_seen": 41793968, + "step": 21358 + }, + { + "epoch": 2.830881378396289, + "grad_norm": 0.004752099979668856, + "learning_rate": 3.9137898875811206e-08, + "loss": 0.0, + "num_input_tokens_seen": 41795808, + "step": 21359 + }, + { + "epoch": 2.8310139165009938, + "grad_norm": 0.0037499689497053623, + "learning_rate": 3.907673849398663e-08, + "loss": 0.0, + "num_input_tokens_seen": 41797848, + "step": 21360 + }, + { + "epoch": 2.8311464546056992, + "grad_norm": 0.005664592143148184, + "learning_rate": 3.90156255604604e-08, + "loss": 0.0, + "num_input_tokens_seen": 41799744, + "step": 21361 + }, + { + "epoch": 2.8312789927104043, + "grad_norm": 10.73759651184082, + "learning_rate": 3.8954560076410464e-08, + "loss": 0.1291, + "num_input_tokens_seen": 41802264, + "step": 21362 + }, + { + "epoch": 2.8314115308151093, + "grad_norm": 5.420210838317871, + "learning_rate": 3.889354204301449e-08, + "loss": 0.0437, + "num_input_tokens_seen": 41804536, + "step": 21363 + }, + { + "epoch": 2.8315440689198144, + "grad_norm": 0.01144046988338232, + "learning_rate": 3.883257146144875e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41806208, + "step": 21364 + }, + { + "epoch": 2.8316766070245194, + "grad_norm": 2.0986413955688477, + "learning_rate": 3.877164833288899e-08, + "loss": 0.0127, + "num_input_tokens_seen": 41808464, + "step": 21365 + }, + { + "epoch": 2.831809145129225, + "grad_norm": 12.3529691696167, + "learning_rate": 3.8710772658509534e-08, + "loss": 0.1597, + "num_input_tokens_seen": 41810072, + "step": 21366 + }, + { + "epoch": 2.83194168323393, + "grad_norm": 6.094432353973389, + "learning_rate": 3.864994443948444e-08, + "loss": 0.0578, + "num_input_tokens_seen": 41812304, + "step": 21367 + }, + { + "epoch": 2.832074221338635, + "grad_norm": 0.00438559427857399, + "learning_rate": 3.8589163676986674e-08, + "loss": 0.0, + "num_input_tokens_seen": 41813952, + "step": 21368 + }, + { + "epoch": 2.83220675944334, + "grad_norm": 0.23814915120601654, + "learning_rate": 3.852843037218751e-08, + "loss": 0.001, + "num_input_tokens_seen": 41816160, + "step": 21369 + }, + { + "epoch": 2.832339297548045, + "grad_norm": 5.790221214294434, + "learning_rate": 3.846774452625851e-08, + "loss": 0.0645, + "num_input_tokens_seen": 41818592, + "step": 21370 + }, + { + "epoch": 2.83247183565275, + "grad_norm": 2.2277114391326904, + "learning_rate": 3.8407106140369574e-08, + "loss": 0.009, + "num_input_tokens_seen": 41820536, + "step": 21371 + }, + { + "epoch": 2.832604373757455, + "grad_norm": 0.33863967657089233, + "learning_rate": 3.8346515215689773e-08, + "loss": 0.0025, + "num_input_tokens_seen": 41822264, + "step": 21372 + }, + { + "epoch": 2.8327369118621606, + "grad_norm": 0.05382567271590233, + "learning_rate": 3.828597175338733e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41824784, + "step": 21373 + }, + { + "epoch": 2.8328694499668656, + "grad_norm": 0.4005905091762543, + "learning_rate": 3.822547575462937e-08, + "loss": 0.002, + "num_input_tokens_seen": 41827224, + "step": 21374 + }, + { + "epoch": 2.8330019880715707, + "grad_norm": 0.17862588167190552, + "learning_rate": 3.816502722058274e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41830264, + "step": 21375 + }, + { + "epoch": 2.8331345261762757, + "grad_norm": 13.751076698303223, + "learning_rate": 3.8104626152412894e-08, + "loss": 0.1711, + "num_input_tokens_seen": 41832352, + "step": 21376 + }, + { + "epoch": 2.8332670642809807, + "grad_norm": 7.563451766967773, + "learning_rate": 3.80442725512839e-08, + "loss": 0.0592, + "num_input_tokens_seen": 41834544, + "step": 21377 + }, + { + "epoch": 2.833399602385686, + "grad_norm": 0.03853147104382515, + "learning_rate": 3.798396641835983e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41836288, + "step": 21378 + }, + { + "epoch": 2.833532140490391, + "grad_norm": 0.03218938782811165, + "learning_rate": 3.792370775480336e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41837784, + "step": 21379 + }, + { + "epoch": 2.8336646785950963, + "grad_norm": 1.1423343420028687, + "learning_rate": 3.786349656177635e-08, + "loss": 0.0088, + "num_input_tokens_seen": 41840056, + "step": 21380 + }, + { + "epoch": 2.8337972166998013, + "grad_norm": 0.41114315390586853, + "learning_rate": 3.78033328404398e-08, + "loss": 0.0015, + "num_input_tokens_seen": 41841888, + "step": 21381 + }, + { + "epoch": 2.8339297548045064, + "grad_norm": 0.012818088755011559, + "learning_rate": 3.7743216591953626e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41843248, + "step": 21382 + }, + { + "epoch": 2.8340622929092114, + "grad_norm": 0.01361959706991911, + "learning_rate": 3.768314781747634e-08, + "loss": 0.0, + "num_input_tokens_seen": 41844784, + "step": 21383 + }, + { + "epoch": 2.8341948310139164, + "grad_norm": 0.027121368795633316, + "learning_rate": 3.762312651816702e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41846128, + "step": 21384 + }, + { + "epoch": 2.8343273691186215, + "grad_norm": 0.001676503336057067, + "learning_rate": 3.756315269518251e-08, + "loss": 0.0, + "num_input_tokens_seen": 41847712, + "step": 21385 + }, + { + "epoch": 2.8344599072233265, + "grad_norm": 0.004906956572085619, + "learning_rate": 3.7503226349679124e-08, + "loss": 0.0, + "num_input_tokens_seen": 41849584, + "step": 21386 + }, + { + "epoch": 2.834592445328032, + "grad_norm": 1.1343759298324585, + "learning_rate": 3.744334748281231e-08, + "loss": 0.0086, + "num_input_tokens_seen": 41851280, + "step": 21387 + }, + { + "epoch": 2.834724983432737, + "grad_norm": 0.06775186955928802, + "learning_rate": 3.73835160957367e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41852920, + "step": 21388 + }, + { + "epoch": 2.834857521537442, + "grad_norm": 0.2680496573448181, + "learning_rate": 3.732373218960556e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41855488, + "step": 21389 + }, + { + "epoch": 2.834990059642147, + "grad_norm": 2.7450804710388184, + "learning_rate": 3.726399576557183e-08, + "loss": 0.016, + "num_input_tokens_seen": 41857784, + "step": 21390 + }, + { + "epoch": 2.835122597746852, + "grad_norm": 5.901760578155518, + "learning_rate": 3.720430682478737e-08, + "loss": 0.0878, + "num_input_tokens_seen": 41859792, + "step": 21391 + }, + { + "epoch": 2.835255135851557, + "grad_norm": 5.245533466339111, + "learning_rate": 3.714466536840267e-08, + "loss": 0.0567, + "num_input_tokens_seen": 41863696, + "step": 21392 + }, + { + "epoch": 2.8353876739562622, + "grad_norm": 6.626520156860352, + "learning_rate": 3.708507139756817e-08, + "loss": 0.0736, + "num_input_tokens_seen": 41865384, + "step": 21393 + }, + { + "epoch": 2.8355202120609677, + "grad_norm": 0.03496141731739044, + "learning_rate": 3.702552491343242e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41867072, + "step": 21394 + }, + { + "epoch": 2.8356527501656728, + "grad_norm": 6.933764457702637, + "learning_rate": 3.696602591714338e-08, + "loss": 0.1065, + "num_input_tokens_seen": 41869688, + "step": 21395 + }, + { + "epoch": 2.835785288270378, + "grad_norm": 19.10161781311035, + "learning_rate": 3.690657440984874e-08, + "loss": 0.3098, + "num_input_tokens_seen": 41871736, + "step": 21396 + }, + { + "epoch": 2.835917826375083, + "grad_norm": 1.3146227598190308, + "learning_rate": 3.684717039269453e-08, + "loss": 0.0066, + "num_input_tokens_seen": 41874368, + "step": 21397 + }, + { + "epoch": 2.836050364479788, + "grad_norm": 0.005302970297634602, + "learning_rate": 3.678781386682623e-08, + "loss": 0.0, + "num_input_tokens_seen": 41876864, + "step": 21398 + }, + { + "epoch": 2.836182902584493, + "grad_norm": 14.017012596130371, + "learning_rate": 3.672850483338819e-08, + "loss": 0.3651, + "num_input_tokens_seen": 41878744, + "step": 21399 + }, + { + "epoch": 2.836315440689198, + "grad_norm": 4.511245250701904, + "learning_rate": 3.666924329352367e-08, + "loss": 0.0216, + "num_input_tokens_seen": 41880904, + "step": 21400 + }, + { + "epoch": 2.8364479787939034, + "grad_norm": 0.02728136070072651, + "learning_rate": 3.6610029248375644e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41882472, + "step": 21401 + }, + { + "epoch": 2.8365805168986085, + "grad_norm": 0.0032947382424026728, + "learning_rate": 3.6550862699085696e-08, + "loss": 0.0, + "num_input_tokens_seen": 41884544, + "step": 21402 + }, + { + "epoch": 2.8367130550033135, + "grad_norm": 0.06398927420377731, + "learning_rate": 3.6491743646794584e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41886568, + "step": 21403 + }, + { + "epoch": 2.8368455931080185, + "grad_norm": 0.008374019525945187, + "learning_rate": 3.643267209264195e-08, + "loss": 0.0, + "num_input_tokens_seen": 41890320, + "step": 21404 + }, + { + "epoch": 2.8369781312127236, + "grad_norm": 0.019741594791412354, + "learning_rate": 3.637364803776688e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41892904, + "step": 21405 + }, + { + "epoch": 2.8371106693174286, + "grad_norm": 0.016110295429825783, + "learning_rate": 3.6314671483307916e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41894696, + "step": 21406 + }, + { + "epoch": 2.8372432074221337, + "grad_norm": 0.011761624366044998, + "learning_rate": 3.6255742430401364e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41897480, + "step": 21407 + }, + { + "epoch": 2.837375745526839, + "grad_norm": 0.4244985282421112, + "learning_rate": 3.619686088018354e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41899568, + "step": 21408 + }, + { + "epoch": 2.837508283631544, + "grad_norm": 0.11555639654397964, + "learning_rate": 3.6138026833790193e-08, + "loss": 0.0005, + "num_input_tokens_seen": 41901184, + "step": 21409 + }, + { + "epoch": 2.837640821736249, + "grad_norm": 4.921369552612305, + "learning_rate": 3.607924029235543e-08, + "loss": 0.0608, + "num_input_tokens_seen": 41903408, + "step": 21410 + }, + { + "epoch": 2.8377733598409542, + "grad_norm": 0.5179631114006042, + "learning_rate": 3.6020501257012506e-08, + "loss": 0.0036, + "num_input_tokens_seen": 41905520, + "step": 21411 + }, + { + "epoch": 2.8379058979456593, + "grad_norm": 5.513009548187256, + "learning_rate": 3.5961809728894407e-08, + "loss": 0.0205, + "num_input_tokens_seen": 41906888, + "step": 21412 + }, + { + "epoch": 2.8380384360503643, + "grad_norm": 5.5876784324646, + "learning_rate": 3.590316570913216e-08, + "loss": 0.0605, + "num_input_tokens_seen": 41908656, + "step": 21413 + }, + { + "epoch": 2.8381709741550694, + "grad_norm": 0.36041584610939026, + "learning_rate": 3.584456919885709e-08, + "loss": 0.0013, + "num_input_tokens_seen": 41911320, + "step": 21414 + }, + { + "epoch": 2.838303512259775, + "grad_norm": 8.429523468017578, + "learning_rate": 3.57860201991983e-08, + "loss": 0.0608, + "num_input_tokens_seen": 41913408, + "step": 21415 + }, + { + "epoch": 2.83843605036448, + "grad_norm": 9.752354621887207, + "learning_rate": 3.5727518711285435e-08, + "loss": 0.0828, + "num_input_tokens_seen": 41915208, + "step": 21416 + }, + { + "epoch": 2.838568588469185, + "grad_norm": 11.552865982055664, + "learning_rate": 3.566906473624593e-08, + "loss": 0.1979, + "num_input_tokens_seen": 41916976, + "step": 21417 + }, + { + "epoch": 2.83870112657389, + "grad_norm": 1.6927932500839233, + "learning_rate": 3.561065827520665e-08, + "loss": 0.0062, + "num_input_tokens_seen": 41919360, + "step": 21418 + }, + { + "epoch": 2.838833664678595, + "grad_norm": 0.041958149522542953, + "learning_rate": 3.5552299329294215e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41921504, + "step": 21419 + }, + { + "epoch": 2.8389662027833005, + "grad_norm": 0.17980051040649414, + "learning_rate": 3.549398789963354e-08, + "loss": 0.0008, + "num_input_tokens_seen": 41923512, + "step": 21420 + }, + { + "epoch": 2.839098740888005, + "grad_norm": 17.875896453857422, + "learning_rate": 3.5435723987348734e-08, + "loss": 0.286, + "num_input_tokens_seen": 41925704, + "step": 21421 + }, + { + "epoch": 2.8392312789927105, + "grad_norm": 13.347850799560547, + "learning_rate": 3.537750759356362e-08, + "loss": 0.0199, + "num_input_tokens_seen": 41927312, + "step": 21422 + }, + { + "epoch": 2.8393638170974156, + "grad_norm": 4.012181758880615, + "learning_rate": 3.531933871940035e-08, + "loss": 0.024, + "num_input_tokens_seen": 41929592, + "step": 21423 + }, + { + "epoch": 2.8394963552021206, + "grad_norm": 0.01615353487432003, + "learning_rate": 3.526121736598054e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41931008, + "step": 21424 + }, + { + "epoch": 2.8396288933068257, + "grad_norm": 1.0778565406799316, + "learning_rate": 3.520314353442467e-08, + "loss": 0.0088, + "num_input_tokens_seen": 41933104, + "step": 21425 + }, + { + "epoch": 2.8397614314115307, + "grad_norm": 0.057106051594018936, + "learning_rate": 3.5145117225852675e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41935368, + "step": 21426 + }, + { + "epoch": 2.839893969516236, + "grad_norm": 3.0264198780059814, + "learning_rate": 3.508713844138312e-08, + "loss": 0.0153, + "num_input_tokens_seen": 41937648, + "step": 21427 + }, + { + "epoch": 2.8400265076209408, + "grad_norm": 0.003958333749324083, + "learning_rate": 3.5029207182134264e-08, + "loss": 0.0, + "num_input_tokens_seen": 41939528, + "step": 21428 + }, + { + "epoch": 2.8401590457256463, + "grad_norm": 0.020841307938098907, + "learning_rate": 3.4971323449222716e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41941856, + "step": 21429 + }, + { + "epoch": 2.8402915838303513, + "grad_norm": 11.71628475189209, + "learning_rate": 3.491348724376453e-08, + "loss": 0.0897, + "num_input_tokens_seen": 41945304, + "step": 21430 + }, + { + "epoch": 2.8404241219350563, + "grad_norm": 0.03598780930042267, + "learning_rate": 3.485569856687465e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41947504, + "step": 21431 + }, + { + "epoch": 2.8405566600397614, + "grad_norm": 0.02070513181388378, + "learning_rate": 3.4797957419667736e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41948912, + "step": 21432 + }, + { + "epoch": 2.8406891981444664, + "grad_norm": 9.764309883117676, + "learning_rate": 3.474026380325679e-08, + "loss": 0.0882, + "num_input_tokens_seen": 41950792, + "step": 21433 + }, + { + "epoch": 2.840821736249172, + "grad_norm": 0.20964300632476807, + "learning_rate": 3.468261771875453e-08, + "loss": 0.0007, + "num_input_tokens_seen": 41952944, + "step": 21434 + }, + { + "epoch": 2.8409542743538765, + "grad_norm": 0.00671512121334672, + "learning_rate": 3.462501916727201e-08, + "loss": 0.0, + "num_input_tokens_seen": 41954488, + "step": 21435 + }, + { + "epoch": 2.841086812458582, + "grad_norm": 8.857194900512695, + "learning_rate": 3.4567468149919734e-08, + "loss": 0.0155, + "num_input_tokens_seen": 41955904, + "step": 21436 + }, + { + "epoch": 2.841219350563287, + "grad_norm": 7.722423553466797, + "learning_rate": 3.450996466780737e-08, + "loss": 0.1254, + "num_input_tokens_seen": 41957264, + "step": 21437 + }, + { + "epoch": 2.841351888667992, + "grad_norm": 0.21999236941337585, + "learning_rate": 3.445250872204403e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41959064, + "step": 21438 + }, + { + "epoch": 2.841484426772697, + "grad_norm": 0.046196501702070236, + "learning_rate": 3.439510031373716e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41960728, + "step": 21439 + }, + { + "epoch": 2.841616964877402, + "grad_norm": 0.006579110864549875, + "learning_rate": 3.433773944399365e-08, + "loss": 0.0, + "num_input_tokens_seen": 41962272, + "step": 21440 + }, + { + "epoch": 2.8417495029821076, + "grad_norm": 13.444130897521973, + "learning_rate": 3.42804261139193e-08, + "loss": 0.1641, + "num_input_tokens_seen": 41964056, + "step": 21441 + }, + { + "epoch": 2.841882041086812, + "grad_norm": 0.020831700414419174, + "learning_rate": 3.4223160324619586e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41965792, + "step": 21442 + }, + { + "epoch": 2.8420145791915177, + "grad_norm": 13.28009033203125, + "learning_rate": 3.416594207719837e-08, + "loss": 0.0445, + "num_input_tokens_seen": 41967488, + "step": 21443 + }, + { + "epoch": 2.8421471172962227, + "grad_norm": 0.19583982229232788, + "learning_rate": 3.410877137275892e-08, + "loss": 0.0009, + "num_input_tokens_seen": 41969824, + "step": 21444 + }, + { + "epoch": 2.8422796554009278, + "grad_norm": 9.200377464294434, + "learning_rate": 3.405164821240342e-08, + "loss": 0.0679, + "num_input_tokens_seen": 41973128, + "step": 21445 + }, + { + "epoch": 2.842412193505633, + "grad_norm": 5.699094772338867, + "learning_rate": 3.3994572597233214e-08, + "loss": 0.058, + "num_input_tokens_seen": 41975296, + "step": 21446 + }, + { + "epoch": 2.842544731610338, + "grad_norm": 0.001877969945780933, + "learning_rate": 3.393754452834907e-08, + "loss": 0.0, + "num_input_tokens_seen": 41976736, + "step": 21447 + }, + { + "epoch": 2.8426772697150433, + "grad_norm": 0.019672375172376633, + "learning_rate": 3.388056400685014e-08, + "loss": 0.0002, + "num_input_tokens_seen": 41978280, + "step": 21448 + }, + { + "epoch": 2.842809807819748, + "grad_norm": 3.8077802658081055, + "learning_rate": 3.382363103383524e-08, + "loss": 0.0122, + "num_input_tokens_seen": 41979856, + "step": 21449 + }, + { + "epoch": 2.8429423459244534, + "grad_norm": 0.127094566822052, + "learning_rate": 3.3766745610402106e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41981552, + "step": 21450 + }, + { + "epoch": 2.8430748840291584, + "grad_norm": 0.024055523797869682, + "learning_rate": 3.370990773764765e-08, + "loss": 0.0001, + "num_input_tokens_seen": 41983520, + "step": 21451 + }, + { + "epoch": 2.8432074221338635, + "grad_norm": 0.0021653759758919477, + "learning_rate": 3.365311741666738e-08, + "loss": 0.0, + "num_input_tokens_seen": 41984936, + "step": 21452 + }, + { + "epoch": 2.8433399602385685, + "grad_norm": 7.9955644607543945, + "learning_rate": 3.359637464855653e-08, + "loss": 0.0644, + "num_input_tokens_seen": 41987344, + "step": 21453 + }, + { + "epoch": 2.8434724983432735, + "grad_norm": 3.1849682331085205, + "learning_rate": 3.353967943440895e-08, + "loss": 0.0845, + "num_input_tokens_seen": 41988928, + "step": 21454 + }, + { + "epoch": 2.843605036447979, + "grad_norm": 0.49534451961517334, + "learning_rate": 3.348303177531792e-08, + "loss": 0.0011, + "num_input_tokens_seen": 41990768, + "step": 21455 + }, + { + "epoch": 2.843737574552684, + "grad_norm": 0.05766313895583153, + "learning_rate": 3.342643167237564e-08, + "loss": 0.0003, + "num_input_tokens_seen": 41992720, + "step": 21456 + }, + { + "epoch": 2.843870112657389, + "grad_norm": 0.07199223339557648, + "learning_rate": 3.3369879126673167e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41994744, + "step": 21457 + }, + { + "epoch": 2.844002650762094, + "grad_norm": 9.784435272216797, + "learning_rate": 3.331337413930158e-08, + "loss": 0.2137, + "num_input_tokens_seen": 41996848, + "step": 21458 + }, + { + "epoch": 2.844135188866799, + "grad_norm": 0.064348004758358, + "learning_rate": 3.325691671134945e-08, + "loss": 0.0004, + "num_input_tokens_seen": 41999600, + "step": 21459 + }, + { + "epoch": 2.844267726971504, + "grad_norm": 0.011450551450252533, + "learning_rate": 3.320050684390563e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42002416, + "step": 21460 + }, + { + "epoch": 2.8444002650762092, + "grad_norm": 11.707417488098145, + "learning_rate": 3.314414453805786e-08, + "loss": 0.2008, + "num_input_tokens_seen": 42004528, + "step": 21461 + }, + { + "epoch": 2.8445328031809147, + "grad_norm": 0.00412170821800828, + "learning_rate": 3.3087829794892775e-08, + "loss": 0.0, + "num_input_tokens_seen": 42006824, + "step": 21462 + }, + { + "epoch": 2.8446653412856198, + "grad_norm": 0.0063974191434681416, + "learning_rate": 3.3031562615496174e-08, + "loss": 0.0, + "num_input_tokens_seen": 42008656, + "step": 21463 + }, + { + "epoch": 2.844797879390325, + "grad_norm": 0.005561056546866894, + "learning_rate": 3.297534300095301e-08, + "loss": 0.0, + "num_input_tokens_seen": 42010664, + "step": 21464 + }, + { + "epoch": 2.84493041749503, + "grad_norm": 0.01984023116528988, + "learning_rate": 3.291917095234715e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42012000, + "step": 21465 + }, + { + "epoch": 2.845062955599735, + "grad_norm": 0.01753745973110199, + "learning_rate": 3.2863046470761605e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42014256, + "step": 21466 + }, + { + "epoch": 2.84519549370444, + "grad_norm": 0.5938788056373596, + "learning_rate": 3.28069695572783e-08, + "loss": 0.002, + "num_input_tokens_seen": 42015976, + "step": 21467 + }, + { + "epoch": 2.845328031809145, + "grad_norm": 0.012784359976649284, + "learning_rate": 3.2750940212978865e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42017920, + "step": 21468 + }, + { + "epoch": 2.8454605699138504, + "grad_norm": 9.3268404006958, + "learning_rate": 3.269495843894327e-08, + "loss": 0.0412, + "num_input_tokens_seen": 42019952, + "step": 21469 + }, + { + "epoch": 2.8455931080185555, + "grad_norm": 0.057686544954776764, + "learning_rate": 3.2639024236251207e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42021696, + "step": 21470 + }, + { + "epoch": 2.8457256461232605, + "grad_norm": 4.762962818145752, + "learning_rate": 3.25831376059807e-08, + "loss": 0.0227, + "num_input_tokens_seen": 42024216, + "step": 21471 + }, + { + "epoch": 2.8458581842279655, + "grad_norm": 7.897347450256348, + "learning_rate": 3.25272985492095e-08, + "loss": 0.0801, + "num_input_tokens_seen": 42025952, + "step": 21472 + }, + { + "epoch": 2.8459907223326706, + "grad_norm": 0.46802207827568054, + "learning_rate": 3.2471507067013964e-08, + "loss": 0.0018, + "num_input_tokens_seen": 42027608, + "step": 21473 + }, + { + "epoch": 2.8461232604373756, + "grad_norm": 0.6081012487411499, + "learning_rate": 3.241576316047046e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42029664, + "step": 21474 + }, + { + "epoch": 2.8462557985420807, + "grad_norm": 5.416201591491699, + "learning_rate": 3.2360066830653124e-08, + "loss": 0.0951, + "num_input_tokens_seen": 42031048, + "step": 21475 + }, + { + "epoch": 2.846388336646786, + "grad_norm": 11.232903480529785, + "learning_rate": 3.23044180786361e-08, + "loss": 0.1064, + "num_input_tokens_seen": 42033040, + "step": 21476 + }, + { + "epoch": 2.846520874751491, + "grad_norm": 0.0017418210627511144, + "learning_rate": 3.224881690549242e-08, + "loss": 0.0, + "num_input_tokens_seen": 42034144, + "step": 21477 + }, + { + "epoch": 2.846653412856196, + "grad_norm": 0.0023322266060858965, + "learning_rate": 3.219326331229372e-08, + "loss": 0.0, + "num_input_tokens_seen": 42036288, + "step": 21478 + }, + { + "epoch": 2.8467859509609013, + "grad_norm": 0.02629624493420124, + "learning_rate": 3.2137757300111375e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42038352, + "step": 21479 + }, + { + "epoch": 2.8469184890656063, + "grad_norm": 4.990286350250244, + "learning_rate": 3.208229887001563e-08, + "loss": 0.0299, + "num_input_tokens_seen": 42040088, + "step": 21480 + }, + { + "epoch": 2.8470510271703113, + "grad_norm": 1.9148160219192505, + "learning_rate": 3.202688802307563e-08, + "loss": 0.0128, + "num_input_tokens_seen": 42041880, + "step": 21481 + }, + { + "epoch": 2.8471835652750164, + "grad_norm": 0.26209819316864014, + "learning_rate": 3.1971524760359974e-08, + "loss": 0.0015, + "num_input_tokens_seen": 42043632, + "step": 21482 + }, + { + "epoch": 2.847316103379722, + "grad_norm": 0.004109885543584824, + "learning_rate": 3.191620908293586e-08, + "loss": 0.0, + "num_input_tokens_seen": 42045344, + "step": 21483 + }, + { + "epoch": 2.847448641484427, + "grad_norm": 0.1027844101190567, + "learning_rate": 3.186094099186965e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42047768, + "step": 21484 + }, + { + "epoch": 2.847581179589132, + "grad_norm": 0.005945008248090744, + "learning_rate": 3.1805720488227445e-08, + "loss": 0.0, + "num_input_tokens_seen": 42049000, + "step": 21485 + }, + { + "epoch": 2.847713717693837, + "grad_norm": 3.1874094009399414, + "learning_rate": 3.175054757307366e-08, + "loss": 0.0363, + "num_input_tokens_seen": 42051448, + "step": 21486 + }, + { + "epoch": 2.847846255798542, + "grad_norm": 0.007606113329529762, + "learning_rate": 3.169542224747191e-08, + "loss": 0.0, + "num_input_tokens_seen": 42053168, + "step": 21487 + }, + { + "epoch": 2.847978793903247, + "grad_norm": 7.422728061676025, + "learning_rate": 3.164034451248521e-08, + "loss": 0.0649, + "num_input_tokens_seen": 42055208, + "step": 21488 + }, + { + "epoch": 2.848111332007952, + "grad_norm": 4.923513889312744, + "learning_rate": 3.15853143691755e-08, + "loss": 0.0218, + "num_input_tokens_seen": 42057680, + "step": 21489 + }, + { + "epoch": 2.8482438701126576, + "grad_norm": 0.023214422166347504, + "learning_rate": 3.1530331818603876e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42059320, + "step": 21490 + }, + { + "epoch": 2.8483764082173626, + "grad_norm": 0.005103986710309982, + "learning_rate": 3.1475396861830596e-08, + "loss": 0.0, + "num_input_tokens_seen": 42061832, + "step": 21491 + }, + { + "epoch": 2.8485089463220676, + "grad_norm": 0.05062860995531082, + "learning_rate": 3.1420509499914266e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42063224, + "step": 21492 + }, + { + "epoch": 2.8486414844267727, + "grad_norm": 0.0015596362063661218, + "learning_rate": 3.136566973391347e-08, + "loss": 0.0, + "num_input_tokens_seen": 42064432, + "step": 21493 + }, + { + "epoch": 2.8487740225314777, + "grad_norm": 0.039342768490314484, + "learning_rate": 3.131087756488599e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42066752, + "step": 21494 + }, + { + "epoch": 2.8489065606361827, + "grad_norm": 7.154979705810547, + "learning_rate": 3.1256132993887636e-08, + "loss": 0.0616, + "num_input_tokens_seen": 42069064, + "step": 21495 + }, + { + "epoch": 2.849039098740888, + "grad_norm": 0.0047095525078475475, + "learning_rate": 3.120143602197395e-08, + "loss": 0.0, + "num_input_tokens_seen": 42070960, + "step": 21496 + }, + { + "epoch": 2.8491716368455933, + "grad_norm": 0.011831262148916721, + "learning_rate": 3.114678665019993e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42072360, + "step": 21497 + }, + { + "epoch": 2.8493041749502983, + "grad_norm": 0.7917279601097107, + "learning_rate": 3.1092184879618904e-08, + "loss": 0.0028, + "num_input_tokens_seen": 42074480, + "step": 21498 + }, + { + "epoch": 2.8494367130550033, + "grad_norm": 0.02553957886993885, + "learning_rate": 3.1037630711283904e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42075640, + "step": 21499 + }, + { + "epoch": 2.8495692511597084, + "grad_norm": 0.012959788553416729, + "learning_rate": 3.0983124146246604e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42078296, + "step": 21500 + }, + { + "epoch": 2.8497017892644134, + "grad_norm": 16.327404022216797, + "learning_rate": 3.0928665185557815e-08, + "loss": 0.0726, + "num_input_tokens_seen": 42080184, + "step": 21501 + }, + { + "epoch": 2.8498343273691185, + "grad_norm": 0.19364070892333984, + "learning_rate": 3.0874253830267816e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42081744, + "step": 21502 + }, + { + "epoch": 2.8499668654738235, + "grad_norm": 16.6882381439209, + "learning_rate": 3.0819890081425494e-08, + "loss": 0.0525, + "num_input_tokens_seen": 42084384, + "step": 21503 + }, + { + "epoch": 2.850099403578529, + "grad_norm": 0.223484605550766, + "learning_rate": 3.076557394007917e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42086544, + "step": 21504 + }, + { + "epoch": 2.850231941683234, + "grad_norm": 0.19100338220596313, + "learning_rate": 3.071130540727607e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42088224, + "step": 21505 + }, + { + "epoch": 2.850364479787939, + "grad_norm": 0.31649988889694214, + "learning_rate": 3.065708448406229e-08, + "loss": 0.001, + "num_input_tokens_seen": 42090016, + "step": 21506 + }, + { + "epoch": 2.850497017892644, + "grad_norm": 0.4848686754703522, + "learning_rate": 3.0602911171483674e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42092016, + "step": 21507 + }, + { + "epoch": 2.850629555997349, + "grad_norm": 0.002843445399776101, + "learning_rate": 3.0548785470584095e-08, + "loss": 0.0, + "num_input_tokens_seen": 42093160, + "step": 21508 + }, + { + "epoch": 2.8507620941020546, + "grad_norm": 0.8613713979721069, + "learning_rate": 3.0494707382407727e-08, + "loss": 0.005, + "num_input_tokens_seen": 42095056, + "step": 21509 + }, + { + "epoch": 2.850894632206759, + "grad_norm": 8.344206809997559, + "learning_rate": 3.044067690799707e-08, + "loss": 0.024, + "num_input_tokens_seen": 42096808, + "step": 21510 + }, + { + "epoch": 2.8510271703114647, + "grad_norm": 0.01259254477918148, + "learning_rate": 3.0386694048394064e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42098408, + "step": 21511 + }, + { + "epoch": 2.8511597084161697, + "grad_norm": 10.377538681030273, + "learning_rate": 3.033275880463898e-08, + "loss": 0.1754, + "num_input_tokens_seen": 42100600, + "step": 21512 + }, + { + "epoch": 2.8512922465208748, + "grad_norm": 6.459046840667725, + "learning_rate": 3.0278871177772116e-08, + "loss": 0.0413, + "num_input_tokens_seen": 42103432, + "step": 21513 + }, + { + "epoch": 2.85142478462558, + "grad_norm": 7.098331451416016, + "learning_rate": 3.022503116883208e-08, + "loss": 0.0703, + "num_input_tokens_seen": 42105096, + "step": 21514 + }, + { + "epoch": 2.851557322730285, + "grad_norm": 8.956415176391602, + "learning_rate": 3.017123877885775e-08, + "loss": 0.2043, + "num_input_tokens_seen": 42107208, + "step": 21515 + }, + { + "epoch": 2.8516898608349903, + "grad_norm": 3.7101073265075684, + "learning_rate": 3.011749400888553e-08, + "loss": 0.0206, + "num_input_tokens_seen": 42109648, + "step": 21516 + }, + { + "epoch": 2.851822398939695, + "grad_norm": 0.07020027935504913, + "learning_rate": 3.006379685995209e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42111048, + "step": 21517 + }, + { + "epoch": 2.8519549370444004, + "grad_norm": 3.9727425575256348, + "learning_rate": 3.001014733309243e-08, + "loss": 0.0046, + "num_input_tokens_seen": 42112872, + "step": 21518 + }, + { + "epoch": 2.8520874751491054, + "grad_norm": 0.017590822651982307, + "learning_rate": 2.995654542934101e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42115600, + "step": 21519 + }, + { + "epoch": 2.8522200132538105, + "grad_norm": 0.03579111769795418, + "learning_rate": 2.9902991149731444e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42117944, + "step": 21520 + }, + { + "epoch": 2.8523525513585155, + "grad_norm": 8.085173606872559, + "learning_rate": 2.984948449529651e-08, + "loss": 0.0299, + "num_input_tokens_seen": 42120760, + "step": 21521 + }, + { + "epoch": 2.8524850894632205, + "grad_norm": 0.045443933457136154, + "learning_rate": 2.9796025467067337e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42124080, + "step": 21522 + }, + { + "epoch": 2.852617627567926, + "grad_norm": 8.209148406982422, + "learning_rate": 2.9742614066075038e-08, + "loss": 0.1279, + "num_input_tokens_seen": 42126328, + "step": 21523 + }, + { + "epoch": 2.8527501656726306, + "grad_norm": 0.007594657130539417, + "learning_rate": 2.968925029334907e-08, + "loss": 0.0, + "num_input_tokens_seen": 42127936, + "step": 21524 + }, + { + "epoch": 2.852882703777336, + "grad_norm": 0.0020971691701561213, + "learning_rate": 2.963593414991861e-08, + "loss": 0.0, + "num_input_tokens_seen": 42129240, + "step": 21525 + }, + { + "epoch": 2.853015241882041, + "grad_norm": 0.002518667373806238, + "learning_rate": 2.9582665636811447e-08, + "loss": 0.0, + "num_input_tokens_seen": 42130944, + "step": 21526 + }, + { + "epoch": 2.853147779986746, + "grad_norm": 3.5018136501312256, + "learning_rate": 2.9529444755054816e-08, + "loss": 0.0053, + "num_input_tokens_seen": 42132192, + "step": 21527 + }, + { + "epoch": 2.853280318091451, + "grad_norm": 6.4626288414001465, + "learning_rate": 2.9476271505675115e-08, + "loss": 0.068, + "num_input_tokens_seen": 42133848, + "step": 21528 + }, + { + "epoch": 2.8534128561961563, + "grad_norm": 7.315345764160156, + "learning_rate": 2.9423145889696804e-08, + "loss": 0.0425, + "num_input_tokens_seen": 42135704, + "step": 21529 + }, + { + "epoch": 2.8535453943008617, + "grad_norm": 0.12128118425607681, + "learning_rate": 2.9370067908144895e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42137392, + "step": 21530 + }, + { + "epoch": 2.8536779324055663, + "grad_norm": 0.12631213665008545, + "learning_rate": 2.9317037562042183e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42139688, + "step": 21531 + }, + { + "epoch": 2.853810470510272, + "grad_norm": 8.350948333740234, + "learning_rate": 2.926405485241146e-08, + "loss": 0.0308, + "num_input_tokens_seen": 42142600, + "step": 21532 + }, + { + "epoch": 2.853943008614977, + "grad_norm": 3.4920592308044434, + "learning_rate": 2.921111978027441e-08, + "loss": 0.0385, + "num_input_tokens_seen": 42144504, + "step": 21533 + }, + { + "epoch": 2.854075546719682, + "grad_norm": 3.794992208480835, + "learning_rate": 2.9158232346651605e-08, + "loss": 0.0235, + "num_input_tokens_seen": 42146504, + "step": 21534 + }, + { + "epoch": 2.854208084824387, + "grad_norm": 10.224516868591309, + "learning_rate": 2.910539255256223e-08, + "loss": 0.0334, + "num_input_tokens_seen": 42149472, + "step": 21535 + }, + { + "epoch": 2.854340622929092, + "grad_norm": 0.009973562322556973, + "learning_rate": 2.9052600399025744e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42151656, + "step": 21536 + }, + { + "epoch": 2.8544731610337974, + "grad_norm": 0.02455044910311699, + "learning_rate": 2.899985588705967e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42153504, + "step": 21537 + }, + { + "epoch": 2.8546056991385025, + "grad_norm": 6.4873809814453125, + "learning_rate": 2.894715901768097e-08, + "loss": 0.0721, + "num_input_tokens_seen": 42155608, + "step": 21538 + }, + { + "epoch": 2.8547382372432075, + "grad_norm": 0.05195096880197525, + "learning_rate": 2.8894509791906055e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42157568, + "step": 21539 + }, + { + "epoch": 2.8548707753479126, + "grad_norm": 0.0142402034252882, + "learning_rate": 2.8841908210749114e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42159160, + "step": 21540 + }, + { + "epoch": 2.8550033134526176, + "grad_norm": 0.08431531488895416, + "learning_rate": 2.8789354275225444e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42161712, + "step": 21541 + }, + { + "epoch": 2.8551358515573226, + "grad_norm": 0.004095221403986216, + "learning_rate": 2.873684798634785e-08, + "loss": 0.0, + "num_input_tokens_seen": 42162848, + "step": 21542 + }, + { + "epoch": 2.8552683896620277, + "grad_norm": 0.0011919178068637848, + "learning_rate": 2.8684389345128295e-08, + "loss": 0.0, + "num_input_tokens_seen": 42163880, + "step": 21543 + }, + { + "epoch": 2.855400927766733, + "grad_norm": 3.6090047359466553, + "learning_rate": 2.863197835257875e-08, + "loss": 0.0129, + "num_input_tokens_seen": 42165136, + "step": 21544 + }, + { + "epoch": 2.855533465871438, + "grad_norm": 0.031554218381643295, + "learning_rate": 2.8579615009709517e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42167088, + "step": 21545 + }, + { + "epoch": 2.8556660039761432, + "grad_norm": 2.682666778564453, + "learning_rate": 2.8527299317530345e-08, + "loss": 0.0618, + "num_input_tokens_seen": 42169224, + "step": 21546 + }, + { + "epoch": 2.8557985420808483, + "grad_norm": 0.22623561322689056, + "learning_rate": 2.8475031277050145e-08, + "loss": 0.0015, + "num_input_tokens_seen": 42171216, + "step": 21547 + }, + { + "epoch": 2.8559310801855533, + "grad_norm": 11.862945556640625, + "learning_rate": 2.8422810889275898e-08, + "loss": 0.1963, + "num_input_tokens_seen": 42173960, + "step": 21548 + }, + { + "epoch": 2.8560636182902583, + "grad_norm": 0.015091180801391602, + "learning_rate": 2.8370638155215125e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42175728, + "step": 21549 + }, + { + "epoch": 2.8561961563949634, + "grad_norm": 6.337652683258057, + "learning_rate": 2.8318513075873132e-08, + "loss": 0.0489, + "num_input_tokens_seen": 42177640, + "step": 21550 + }, + { + "epoch": 2.856328694499669, + "grad_norm": 3.359755039215088, + "learning_rate": 2.8266435652255785e-08, + "loss": 0.0186, + "num_input_tokens_seen": 42179592, + "step": 21551 + }, + { + "epoch": 2.856461232604374, + "grad_norm": 1.9638458490371704, + "learning_rate": 2.8214405885366724e-08, + "loss": 0.0113, + "num_input_tokens_seen": 42181832, + "step": 21552 + }, + { + "epoch": 2.856593770709079, + "grad_norm": 0.8414820432662964, + "learning_rate": 2.8162423776209035e-08, + "loss": 0.0031, + "num_input_tokens_seen": 42183512, + "step": 21553 + }, + { + "epoch": 2.856726308813784, + "grad_norm": 9.75345230102539, + "learning_rate": 2.8110489325784974e-08, + "loss": 0.0736, + "num_input_tokens_seen": 42185016, + "step": 21554 + }, + { + "epoch": 2.856858846918489, + "grad_norm": 5.08085298538208, + "learning_rate": 2.8058602535095957e-08, + "loss": 0.1567, + "num_input_tokens_seen": 42186624, + "step": 21555 + }, + { + "epoch": 2.856991385023194, + "grad_norm": 7.474252223968506, + "learning_rate": 2.8006763405142302e-08, + "loss": 0.0576, + "num_input_tokens_seen": 42188296, + "step": 21556 + }, + { + "epoch": 2.857123923127899, + "grad_norm": 0.012581606395542622, + "learning_rate": 2.7954971936923758e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42190144, + "step": 21557 + }, + { + "epoch": 2.8572564612326046, + "grad_norm": 3.340372323989868, + "learning_rate": 2.7903228131438697e-08, + "loss": 0.0196, + "num_input_tokens_seen": 42192488, + "step": 21558 + }, + { + "epoch": 2.8573889993373096, + "grad_norm": 11.64097785949707, + "learning_rate": 2.7851531989684932e-08, + "loss": 0.0741, + "num_input_tokens_seen": 42195144, + "step": 21559 + }, + { + "epoch": 2.8575215374420146, + "grad_norm": 0.012781533412635326, + "learning_rate": 2.779988351265861e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42196904, + "step": 21560 + }, + { + "epoch": 2.8576540755467197, + "grad_norm": 0.5476394295692444, + "learning_rate": 2.774828270135643e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42198904, + "step": 21561 + }, + { + "epoch": 2.8577866136514247, + "grad_norm": 0.5305120944976807, + "learning_rate": 2.7696729556772884e-08, + "loss": 0.0014, + "num_input_tokens_seen": 42200560, + "step": 21562 + }, + { + "epoch": 2.8579191517561298, + "grad_norm": 4.503376007080078, + "learning_rate": 2.7645224079901887e-08, + "loss": 0.047, + "num_input_tokens_seen": 42203152, + "step": 21563 + }, + { + "epoch": 2.858051689860835, + "grad_norm": 0.09058692306280136, + "learning_rate": 2.7593766271736544e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42205832, + "step": 21564 + }, + { + "epoch": 2.8581842279655403, + "grad_norm": 3.534839391708374, + "learning_rate": 2.7542356133268832e-08, + "loss": 0.01, + "num_input_tokens_seen": 42207688, + "step": 21565 + }, + { + "epoch": 2.8583167660702453, + "grad_norm": 15.308016777038574, + "learning_rate": 2.7490993665490462e-08, + "loss": 0.0819, + "num_input_tokens_seen": 42209232, + "step": 21566 + }, + { + "epoch": 2.8584493041749504, + "grad_norm": 2.941460132598877, + "learning_rate": 2.7439678869390917e-08, + "loss": 0.0093, + "num_input_tokens_seen": 42210632, + "step": 21567 + }, + { + "epoch": 2.8585818422796554, + "grad_norm": 3.7181968688964844, + "learning_rate": 2.7388411745960518e-08, + "loss": 0.03, + "num_input_tokens_seen": 42212784, + "step": 21568 + }, + { + "epoch": 2.8587143803843604, + "grad_norm": 6.756582736968994, + "learning_rate": 2.7337192296187364e-08, + "loss": 0.0859, + "num_input_tokens_seen": 42215224, + "step": 21569 + }, + { + "epoch": 2.8588469184890655, + "grad_norm": 0.0030467670876532793, + "learning_rate": 2.7286020521058998e-08, + "loss": 0.0, + "num_input_tokens_seen": 42216896, + "step": 21570 + }, + { + "epoch": 2.8589794565937705, + "grad_norm": 0.009037742391228676, + "learning_rate": 2.7234896421561573e-08, + "loss": 0.0, + "num_input_tokens_seen": 42218184, + "step": 21571 + }, + { + "epoch": 2.859111994698476, + "grad_norm": 2.048365592956543, + "learning_rate": 2.7183819998681526e-08, + "loss": 0.0052, + "num_input_tokens_seen": 42220232, + "step": 21572 + }, + { + "epoch": 2.859244532803181, + "grad_norm": 0.003953130450099707, + "learning_rate": 2.7132791253403345e-08, + "loss": 0.0, + "num_input_tokens_seen": 42221760, + "step": 21573 + }, + { + "epoch": 2.859377070907886, + "grad_norm": 6.039165019989014, + "learning_rate": 2.7081810186710688e-08, + "loss": 0.0333, + "num_input_tokens_seen": 42223472, + "step": 21574 + }, + { + "epoch": 2.859509609012591, + "grad_norm": 4.942966938018799, + "learning_rate": 2.7030876799586935e-08, + "loss": 0.0221, + "num_input_tokens_seen": 42225488, + "step": 21575 + }, + { + "epoch": 2.859642147117296, + "grad_norm": 0.8841825723648071, + "learning_rate": 2.69799910930138e-08, + "loss": 0.0044, + "num_input_tokens_seen": 42226984, + "step": 21576 + }, + { + "epoch": 2.859774685222001, + "grad_norm": 18.89573097229004, + "learning_rate": 2.6929153067972447e-08, + "loss": 0.1817, + "num_input_tokens_seen": 42229656, + "step": 21577 + }, + { + "epoch": 2.859907223326706, + "grad_norm": 15.131582260131836, + "learning_rate": 2.6878362725443198e-08, + "loss": 0.2164, + "num_input_tokens_seen": 42231448, + "step": 21578 + }, + { + "epoch": 2.8600397614314117, + "grad_norm": 0.0098275700584054, + "learning_rate": 2.6827620066405267e-08, + "loss": 0.0, + "num_input_tokens_seen": 42232736, + "step": 21579 + }, + { + "epoch": 2.8601722995361167, + "grad_norm": 2.343675374984741, + "learning_rate": 2.677692509183677e-08, + "loss": 0.0037, + "num_input_tokens_seen": 42235104, + "step": 21580 + }, + { + "epoch": 2.8603048376408218, + "grad_norm": 0.017611177638173103, + "learning_rate": 2.6726277802715528e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42237288, + "step": 21581 + }, + { + "epoch": 2.860437375745527, + "grad_norm": 6.342570781707764, + "learning_rate": 2.667567820001771e-08, + "loss": 0.0689, + "num_input_tokens_seen": 42239728, + "step": 21582 + }, + { + "epoch": 2.860569913850232, + "grad_norm": 0.3231405019760132, + "learning_rate": 2.6625126284719192e-08, + "loss": 0.0012, + "num_input_tokens_seen": 42241704, + "step": 21583 + }, + { + "epoch": 2.860702451954937, + "grad_norm": 7.155397415161133, + "learning_rate": 2.6574622057794762e-08, + "loss": 0.0473, + "num_input_tokens_seen": 42244248, + "step": 21584 + }, + { + "epoch": 2.860834990059642, + "grad_norm": 2.798198699951172, + "learning_rate": 2.6524165520217526e-08, + "loss": 0.0205, + "num_input_tokens_seen": 42247440, + "step": 21585 + }, + { + "epoch": 2.8609675281643474, + "grad_norm": 0.8360603451728821, + "learning_rate": 2.647375667296087e-08, + "loss": 0.0014, + "num_input_tokens_seen": 42248680, + "step": 21586 + }, + { + "epoch": 2.8611000662690524, + "grad_norm": 0.14519105851650238, + "learning_rate": 2.6423395516996798e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42250360, + "step": 21587 + }, + { + "epoch": 2.8612326043737575, + "grad_norm": 5.92405366897583, + "learning_rate": 2.637308205329592e-08, + "loss": 0.0208, + "num_input_tokens_seen": 42252944, + "step": 21588 + }, + { + "epoch": 2.8613651424784625, + "grad_norm": 5.489123344421387, + "learning_rate": 2.6322816282828567e-08, + "loss": 0.0588, + "num_input_tokens_seen": 42254632, + "step": 21589 + }, + { + "epoch": 2.8614976805831676, + "grad_norm": 0.11977170407772064, + "learning_rate": 2.6272598206563692e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42256904, + "step": 21590 + }, + { + "epoch": 2.861630218687873, + "grad_norm": 4.432560920715332, + "learning_rate": 2.6222427825469687e-08, + "loss": 0.0497, + "num_input_tokens_seen": 42258792, + "step": 21591 + }, + { + "epoch": 2.8617627567925776, + "grad_norm": 0.0009176672901958227, + "learning_rate": 2.617230514051383e-08, + "loss": 0.0, + "num_input_tokens_seen": 42260112, + "step": 21592 + }, + { + "epoch": 2.861895294897283, + "grad_norm": 0.002038666745647788, + "learning_rate": 2.6122230152662576e-08, + "loss": 0.0, + "num_input_tokens_seen": 42261280, + "step": 21593 + }, + { + "epoch": 2.862027833001988, + "grad_norm": 16.328203201293945, + "learning_rate": 2.6072202862881534e-08, + "loss": 0.1102, + "num_input_tokens_seen": 42263592, + "step": 21594 + }, + { + "epoch": 2.862160371106693, + "grad_norm": 0.03127090632915497, + "learning_rate": 2.602222327213494e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42265544, + "step": 21595 + }, + { + "epoch": 2.8622929092113982, + "grad_norm": 0.05780075490474701, + "learning_rate": 2.597229138138646e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42267160, + "step": 21596 + }, + { + "epoch": 2.8624254473161033, + "grad_norm": 1.4880731105804443, + "learning_rate": 2.592240719159894e-08, + "loss": 0.0026, + "num_input_tokens_seen": 42269168, + "step": 21597 + }, + { + "epoch": 2.8625579854208087, + "grad_norm": 0.032713957130908966, + "learning_rate": 2.587257070373439e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42271256, + "step": 21598 + }, + { + "epoch": 2.8626905235255133, + "grad_norm": 0.010266105644404888, + "learning_rate": 2.5822781918753426e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42272480, + "step": 21599 + }, + { + "epoch": 2.862823061630219, + "grad_norm": 0.0373479388654232, + "learning_rate": 2.5773040837616116e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42274784, + "step": 21600 + }, + { + "epoch": 2.862955599734924, + "grad_norm": 6.0270562171936035, + "learning_rate": 2.572334746128141e-08, + "loss": 0.0411, + "num_input_tokens_seen": 42276328, + "step": 21601 + }, + { + "epoch": 2.863088137839629, + "grad_norm": 0.4605582058429718, + "learning_rate": 2.567370179070744e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42277968, + "step": 21602 + }, + { + "epoch": 2.863220675944334, + "grad_norm": 0.02336639165878296, + "learning_rate": 2.562410382685149e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42279776, + "step": 21603 + }, + { + "epoch": 2.863353214049039, + "grad_norm": 0.003615527180954814, + "learning_rate": 2.5574553570669736e-08, + "loss": 0.0, + "num_input_tokens_seen": 42281928, + "step": 21604 + }, + { + "epoch": 2.8634857521537445, + "grad_norm": 5.4126973152160645, + "learning_rate": 2.5525051023117807e-08, + "loss": 0.0255, + "num_input_tokens_seen": 42283800, + "step": 21605 + }, + { + "epoch": 2.863618290258449, + "grad_norm": 0.001508770976215601, + "learning_rate": 2.5475596185149944e-08, + "loss": 0.0, + "num_input_tokens_seen": 42285296, + "step": 21606 + }, + { + "epoch": 2.8637508283631545, + "grad_norm": 53.955726623535156, + "learning_rate": 2.542618905771954e-08, + "loss": 0.9585, + "num_input_tokens_seen": 42287376, + "step": 21607 + }, + { + "epoch": 2.8638833664678596, + "grad_norm": 16.93720054626465, + "learning_rate": 2.5376829641779177e-08, + "loss": 0.0801, + "num_input_tokens_seen": 42288912, + "step": 21608 + }, + { + "epoch": 2.8640159045725646, + "grad_norm": 2.663635492324829, + "learning_rate": 2.5327517938280867e-08, + "loss": 0.0158, + "num_input_tokens_seen": 42291776, + "step": 21609 + }, + { + "epoch": 2.8641484426772696, + "grad_norm": 0.9739689230918884, + "learning_rate": 2.5278253948175237e-08, + "loss": 0.0062, + "num_input_tokens_seen": 42293800, + "step": 21610 + }, + { + "epoch": 2.8642809807819747, + "grad_norm": 2.988729476928711, + "learning_rate": 2.522903767241208e-08, + "loss": 0.0103, + "num_input_tokens_seen": 42295512, + "step": 21611 + }, + { + "epoch": 2.86441351888668, + "grad_norm": 2.6339926719665527, + "learning_rate": 2.517986911194009e-08, + "loss": 0.0075, + "num_input_tokens_seen": 42298152, + "step": 21612 + }, + { + "epoch": 2.8645460569913848, + "grad_norm": 3.9611356258392334, + "learning_rate": 2.513074826770795e-08, + "loss": 0.0114, + "num_input_tokens_seen": 42299992, + "step": 21613 + }, + { + "epoch": 2.8646785950960902, + "grad_norm": 0.027816010639071465, + "learning_rate": 2.508167514066212e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42301920, + "step": 21614 + }, + { + "epoch": 2.8648111332007953, + "grad_norm": 0.0120164779946208, + "learning_rate": 2.5032649731748792e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42303096, + "step": 21615 + }, + { + "epoch": 2.8649436713055003, + "grad_norm": 7.948295593261719, + "learning_rate": 2.4983672041913598e-08, + "loss": 0.1091, + "num_input_tokens_seen": 42304824, + "step": 21616 + }, + { + "epoch": 2.8650762094102054, + "grad_norm": 2.3466310501098633, + "learning_rate": 2.4934742072100505e-08, + "loss": 0.0074, + "num_input_tokens_seen": 42307216, + "step": 21617 + }, + { + "epoch": 2.8652087475149104, + "grad_norm": 0.0011500369291752577, + "learning_rate": 2.4885859823252924e-08, + "loss": 0.0, + "num_input_tokens_seen": 42308328, + "step": 21618 + }, + { + "epoch": 2.865341285619616, + "grad_norm": 8.245307922363281, + "learning_rate": 2.4837025296313712e-08, + "loss": 0.1021, + "num_input_tokens_seen": 42310416, + "step": 21619 + }, + { + "epoch": 2.8654738237243205, + "grad_norm": 0.10181114822626114, + "learning_rate": 2.478823849222406e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42312736, + "step": 21620 + }, + { + "epoch": 2.865606361829026, + "grad_norm": 0.00629626726731658, + "learning_rate": 2.4739499411924607e-08, + "loss": 0.0, + "num_input_tokens_seen": 42315488, + "step": 21621 + }, + { + "epoch": 2.865738899933731, + "grad_norm": 6.9653778076171875, + "learning_rate": 2.4690808056355432e-08, + "loss": 0.0901, + "num_input_tokens_seen": 42317952, + "step": 21622 + }, + { + "epoch": 2.865871438038436, + "grad_norm": 0.023661013692617416, + "learning_rate": 2.464216442645495e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42319536, + "step": 21623 + }, + { + "epoch": 2.866003976143141, + "grad_norm": 0.28355541825294495, + "learning_rate": 2.4593568523161303e-08, + "loss": 0.0013, + "num_input_tokens_seen": 42321344, + "step": 21624 + }, + { + "epoch": 2.866136514247846, + "grad_norm": 10.655150413513184, + "learning_rate": 2.454502034741152e-08, + "loss": 0.1781, + "num_input_tokens_seen": 42323304, + "step": 21625 + }, + { + "epoch": 2.8662690523525516, + "grad_norm": 0.012025518342852592, + "learning_rate": 2.4496519900140957e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42324784, + "step": 21626 + }, + { + "epoch": 2.8664015904572566, + "grad_norm": 11.229488372802734, + "learning_rate": 2.4448067182285818e-08, + "loss": 0.1752, + "num_input_tokens_seen": 42326496, + "step": 21627 + }, + { + "epoch": 2.8665341285619617, + "grad_norm": 6.366613388061523, + "learning_rate": 2.4399662194779238e-08, + "loss": 0.0481, + "num_input_tokens_seen": 42329376, + "step": 21628 + }, + { + "epoch": 2.8666666666666667, + "grad_norm": 1.2863168716430664, + "learning_rate": 2.4351304938555196e-08, + "loss": 0.006, + "num_input_tokens_seen": 42331800, + "step": 21629 + }, + { + "epoch": 2.8667992047713717, + "grad_norm": 9.116541862487793, + "learning_rate": 2.4302995414546005e-08, + "loss": 0.0714, + "num_input_tokens_seen": 42333480, + "step": 21630 + }, + { + "epoch": 2.8669317428760768, + "grad_norm": 23.86290168762207, + "learning_rate": 2.4254733623682858e-08, + "loss": 0.1617, + "num_input_tokens_seen": 42336456, + "step": 21631 + }, + { + "epoch": 2.867064280980782, + "grad_norm": 0.014077488332986832, + "learning_rate": 2.4206519566896403e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42338240, + "step": 21632 + }, + { + "epoch": 2.8671968190854873, + "grad_norm": 0.4011901617050171, + "learning_rate": 2.415835324511617e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42340160, + "step": 21633 + }, + { + "epoch": 2.8673293571901923, + "grad_norm": 0.0015562600456178188, + "learning_rate": 2.411023465927087e-08, + "loss": 0.0, + "num_input_tokens_seen": 42341928, + "step": 21634 + }, + { + "epoch": 2.8674618952948974, + "grad_norm": 0.1240721195936203, + "learning_rate": 2.4062163810288363e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42343448, + "step": 21635 + }, + { + "epoch": 2.8675944333996024, + "grad_norm": 1.2250924110412598, + "learning_rate": 2.401414069909541e-08, + "loss": 0.0094, + "num_input_tokens_seen": 42345328, + "step": 21636 + }, + { + "epoch": 2.8677269715043074, + "grad_norm": 2.543734550476074, + "learning_rate": 2.396616532661794e-08, + "loss": 0.0108, + "num_input_tokens_seen": 42348208, + "step": 21637 + }, + { + "epoch": 2.8678595096090125, + "grad_norm": 0.0018578172894194722, + "learning_rate": 2.3918237693780767e-08, + "loss": 0.0, + "num_input_tokens_seen": 42349432, + "step": 21638 + }, + { + "epoch": 2.8679920477137175, + "grad_norm": 0.0189815703779459, + "learning_rate": 2.387035780150787e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42350520, + "step": 21639 + }, + { + "epoch": 2.868124585818423, + "grad_norm": 0.00974790845066309, + "learning_rate": 2.382252565072324e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42352304, + "step": 21640 + }, + { + "epoch": 2.868257123923128, + "grad_norm": 4.263134956359863, + "learning_rate": 2.3774741242348355e-08, + "loss": 0.0239, + "num_input_tokens_seen": 42354096, + "step": 21641 + }, + { + "epoch": 2.868389662027833, + "grad_norm": 4.719553470611572, + "learning_rate": 2.37270045773047e-08, + "loss": 0.0676, + "num_input_tokens_seen": 42356560, + "step": 21642 + }, + { + "epoch": 2.868522200132538, + "grad_norm": 0.03760210797190666, + "learning_rate": 2.3679315656512382e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42359408, + "step": 21643 + }, + { + "epoch": 2.868654738237243, + "grad_norm": 1.6443088054656982, + "learning_rate": 2.3631674480891486e-08, + "loss": 0.023, + "num_input_tokens_seen": 42362096, + "step": 21644 + }, + { + "epoch": 2.868787276341948, + "grad_norm": 0.043302327394485474, + "learning_rate": 2.3584081051360174e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42364392, + "step": 21645 + }, + { + "epoch": 2.8689198144466532, + "grad_norm": 0.005287370178848505, + "learning_rate": 2.3536535368836323e-08, + "loss": 0.0, + "num_input_tokens_seen": 42366888, + "step": 21646 + }, + { + "epoch": 2.8690523525513587, + "grad_norm": 0.23173081874847412, + "learning_rate": 2.3489037434236418e-08, + "loss": 0.001, + "num_input_tokens_seen": 42369392, + "step": 21647 + }, + { + "epoch": 2.8691848906560637, + "grad_norm": 3.143131971359253, + "learning_rate": 2.3441587248476394e-08, + "loss": 0.0566, + "num_input_tokens_seen": 42372128, + "step": 21648 + }, + { + "epoch": 2.869317428760769, + "grad_norm": 0.008277269080281258, + "learning_rate": 2.3394184812471078e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42373696, + "step": 21649 + }, + { + "epoch": 2.869449966865474, + "grad_norm": 0.020477479323744774, + "learning_rate": 2.334683012713418e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42375600, + "step": 21650 + }, + { + "epoch": 2.869582504970179, + "grad_norm": 0.20695693790912628, + "learning_rate": 2.3299523193379138e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42378040, + "step": 21651 + }, + { + "epoch": 2.869715043074884, + "grad_norm": 0.0027679097838699818, + "learning_rate": 2.325226401211772e-08, + "loss": 0.0, + "num_input_tokens_seen": 42379232, + "step": 21652 + }, + { + "epoch": 2.869847581179589, + "grad_norm": 5.683372974395752, + "learning_rate": 2.320505258426142e-08, + "loss": 0.0388, + "num_input_tokens_seen": 42380600, + "step": 21653 + }, + { + "epoch": 2.8699801192842944, + "grad_norm": 0.09511028230190277, + "learning_rate": 2.315788891072035e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42383328, + "step": 21654 + }, + { + "epoch": 2.8701126573889995, + "grad_norm": 0.20621126890182495, + "learning_rate": 2.3110772992403774e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42385128, + "step": 21655 + }, + { + "epoch": 2.8702451954937045, + "grad_norm": 0.00502427015453577, + "learning_rate": 2.3063704830220136e-08, + "loss": 0.0, + "num_input_tokens_seen": 42387344, + "step": 21656 + }, + { + "epoch": 2.8703777335984095, + "grad_norm": 6.2559099197387695, + "learning_rate": 2.301668442507732e-08, + "loss": 0.033, + "num_input_tokens_seen": 42389192, + "step": 21657 + }, + { + "epoch": 2.8705102717031146, + "grad_norm": 3.7927937507629395, + "learning_rate": 2.2969711777881264e-08, + "loss": 0.019, + "num_input_tokens_seen": 42392288, + "step": 21658 + }, + { + "epoch": 2.8706428098078196, + "grad_norm": 0.008257139474153519, + "learning_rate": 2.2922786889538196e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42395112, + "step": 21659 + }, + { + "epoch": 2.8707753479125246, + "grad_norm": 10.56733226776123, + "learning_rate": 2.2875909760952665e-08, + "loss": 0.0757, + "num_input_tokens_seen": 42397064, + "step": 21660 + }, + { + "epoch": 2.87090788601723, + "grad_norm": 6.8338541984558105, + "learning_rate": 2.282908039302839e-08, + "loss": 0.0192, + "num_input_tokens_seen": 42398960, + "step": 21661 + }, + { + "epoch": 2.871040424121935, + "grad_norm": 20.688587188720703, + "learning_rate": 2.2782298786668265e-08, + "loss": 0.1028, + "num_input_tokens_seen": 42400576, + "step": 21662 + }, + { + "epoch": 2.87117296222664, + "grad_norm": 10.25086784362793, + "learning_rate": 2.2735564942774622e-08, + "loss": 0.0355, + "num_input_tokens_seen": 42402832, + "step": 21663 + }, + { + "epoch": 2.8713055003313452, + "grad_norm": 0.3733934462070465, + "learning_rate": 2.268887886224813e-08, + "loss": 0.0012, + "num_input_tokens_seen": 42404392, + "step": 21664 + }, + { + "epoch": 2.8714380384360503, + "grad_norm": 7.752166748046875, + "learning_rate": 2.2642240545988904e-08, + "loss": 0.1862, + "num_input_tokens_seen": 42406208, + "step": 21665 + }, + { + "epoch": 2.8715705765407553, + "grad_norm": 0.15452830493450165, + "learning_rate": 2.2595649994896494e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42407744, + "step": 21666 + }, + { + "epoch": 2.8717031146454604, + "grad_norm": 0.09544361382722855, + "learning_rate": 2.2549107209869082e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42409480, + "step": 21667 + }, + { + "epoch": 2.871835652750166, + "grad_norm": 3.3384268283843994, + "learning_rate": 2.2502612191803995e-08, + "loss": 0.0086, + "num_input_tokens_seen": 42411240, + "step": 21668 + }, + { + "epoch": 2.871968190854871, + "grad_norm": 1.4291062355041504, + "learning_rate": 2.2456164941597468e-08, + "loss": 0.0036, + "num_input_tokens_seen": 42413320, + "step": 21669 + }, + { + "epoch": 2.872100728959576, + "grad_norm": 9.687260627746582, + "learning_rate": 2.240976546014545e-08, + "loss": 0.1018, + "num_input_tokens_seen": 42414960, + "step": 21670 + }, + { + "epoch": 2.872233267064281, + "grad_norm": 3.645359754562378, + "learning_rate": 2.2363413748342223e-08, + "loss": 0.0463, + "num_input_tokens_seen": 42417040, + "step": 21671 + }, + { + "epoch": 2.872365805168986, + "grad_norm": 0.12051080912351608, + "learning_rate": 2.2317109807081794e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42418416, + "step": 21672 + }, + { + "epoch": 2.872498343273691, + "grad_norm": 0.31452521681785583, + "learning_rate": 2.2270853637256507e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42419912, + "step": 21673 + }, + { + "epoch": 2.872630881378396, + "grad_norm": 7.765163421630859, + "learning_rate": 2.2224645239758424e-08, + "loss": 0.088, + "num_input_tokens_seen": 42422232, + "step": 21674 + }, + { + "epoch": 2.8727634194831015, + "grad_norm": 6.41986608505249, + "learning_rate": 2.217848461547878e-08, + "loss": 0.0684, + "num_input_tokens_seen": 42423704, + "step": 21675 + }, + { + "epoch": 2.8728959575878066, + "grad_norm": 8.917693138122559, + "learning_rate": 2.2132371765307137e-08, + "loss": 0.0417, + "num_input_tokens_seen": 42426456, + "step": 21676 + }, + { + "epoch": 2.8730284956925116, + "grad_norm": 0.028219355270266533, + "learning_rate": 2.2086306690133062e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42428776, + "step": 21677 + }, + { + "epoch": 2.8731610337972167, + "grad_norm": 0.0066528404131531715, + "learning_rate": 2.2040289390844183e-08, + "loss": 0.0, + "num_input_tokens_seen": 42430672, + "step": 21678 + }, + { + "epoch": 2.8732935719019217, + "grad_norm": 3.178255796432495, + "learning_rate": 2.199431986832784e-08, + "loss": 0.0377, + "num_input_tokens_seen": 42432936, + "step": 21679 + }, + { + "epoch": 2.873426110006627, + "grad_norm": 3.7675628662109375, + "learning_rate": 2.194839812347055e-08, + "loss": 0.0282, + "num_input_tokens_seen": 42434432, + "step": 21680 + }, + { + "epoch": 2.8735586481113318, + "grad_norm": 3.441983222961426, + "learning_rate": 2.1902524157157988e-08, + "loss": 0.0081, + "num_input_tokens_seen": 42436304, + "step": 21681 + }, + { + "epoch": 2.8736911862160373, + "grad_norm": 0.007487286813557148, + "learning_rate": 2.18566979702739e-08, + "loss": 0.0, + "num_input_tokens_seen": 42439264, + "step": 21682 + }, + { + "epoch": 2.8738237243207423, + "grad_norm": 1.8212895393371582, + "learning_rate": 2.181091956370257e-08, + "loss": 0.0116, + "num_input_tokens_seen": 42441544, + "step": 21683 + }, + { + "epoch": 2.8739562624254473, + "grad_norm": 0.8910925984382629, + "learning_rate": 2.1765188938326354e-08, + "loss": 0.0048, + "num_input_tokens_seen": 42442816, + "step": 21684 + }, + { + "epoch": 2.8740888005301524, + "grad_norm": 9.363848686218262, + "learning_rate": 2.1719506095026767e-08, + "loss": 0.2196, + "num_input_tokens_seen": 42445088, + "step": 21685 + }, + { + "epoch": 2.8742213386348574, + "grad_norm": 0.5202776193618774, + "learning_rate": 2.1673871034684492e-08, + "loss": 0.0025, + "num_input_tokens_seen": 42447032, + "step": 21686 + }, + { + "epoch": 2.874353876739563, + "grad_norm": 9.840773582458496, + "learning_rate": 2.1628283758180215e-08, + "loss": 0.0919, + "num_input_tokens_seen": 42448936, + "step": 21687 + }, + { + "epoch": 2.8744864148442675, + "grad_norm": 0.005742209032177925, + "learning_rate": 2.158274426639212e-08, + "loss": 0.0, + "num_input_tokens_seen": 42450832, + "step": 21688 + }, + { + "epoch": 2.874618952948973, + "grad_norm": 0.03901435807347298, + "learning_rate": 2.1537252560198674e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42452984, + "step": 21689 + }, + { + "epoch": 2.874751491053678, + "grad_norm": 0.006571086123585701, + "learning_rate": 2.1491808640476396e-08, + "loss": 0.0, + "num_input_tokens_seen": 42455736, + "step": 21690 + }, + { + "epoch": 2.874884029158383, + "grad_norm": 4.665439128875732, + "learning_rate": 2.1446412508102366e-08, + "loss": 0.0328, + "num_input_tokens_seen": 42458072, + "step": 21691 + }, + { + "epoch": 2.875016567263088, + "grad_norm": 0.6568962931632996, + "learning_rate": 2.140106416395088e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42459448, + "step": 21692 + }, + { + "epoch": 2.875149105367793, + "grad_norm": 2.5970985889434814, + "learning_rate": 2.1355763608897072e-08, + "loss": 0.0147, + "num_input_tokens_seen": 42461104, + "step": 21693 + }, + { + "epoch": 2.8752816434724986, + "grad_norm": 0.8434082865715027, + "learning_rate": 2.1310510843814137e-08, + "loss": 0.0022, + "num_input_tokens_seen": 42463064, + "step": 21694 + }, + { + "epoch": 2.875414181577203, + "grad_norm": 0.04172539338469505, + "learning_rate": 2.1265305869574426e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42464944, + "step": 21695 + }, + { + "epoch": 2.8755467196819087, + "grad_norm": 0.002152903936803341, + "learning_rate": 2.122014868704947e-08, + "loss": 0.0, + "num_input_tokens_seen": 42466488, + "step": 21696 + }, + { + "epoch": 2.8756792577866137, + "grad_norm": 6.342823505401611, + "learning_rate": 2.1175039297110235e-08, + "loss": 0.039, + "num_input_tokens_seen": 42467848, + "step": 21697 + }, + { + "epoch": 2.8758117958913187, + "grad_norm": 0.06377577781677246, + "learning_rate": 2.1129977700626304e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42470000, + "step": 21698 + }, + { + "epoch": 2.875944333996024, + "grad_norm": 1.3428319692611694, + "learning_rate": 2.1084963898466427e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42471216, + "step": 21699 + }, + { + "epoch": 2.876076872100729, + "grad_norm": 0.01016664132475853, + "learning_rate": 2.1039997891498522e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42474608, + "step": 21700 + }, + { + "epoch": 2.8762094102054343, + "grad_norm": 12.080531120300293, + "learning_rate": 2.099507968058967e-08, + "loss": 0.1034, + "num_input_tokens_seen": 42476360, + "step": 21701 + }, + { + "epoch": 2.876341948310139, + "grad_norm": 0.036984700709581375, + "learning_rate": 2.0950209266605846e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42479440, + "step": 21702 + }, + { + "epoch": 2.8764744864148444, + "grad_norm": 8.265290260314941, + "learning_rate": 2.0905386650412197e-08, + "loss": 0.1447, + "num_input_tokens_seen": 42481464, + "step": 21703 + }, + { + "epoch": 2.8766070245195494, + "grad_norm": 0.4845183193683624, + "learning_rate": 2.0860611832873024e-08, + "loss": 0.0022, + "num_input_tokens_seen": 42483000, + "step": 21704 + }, + { + "epoch": 2.8767395626242545, + "grad_norm": 0.013882378116250038, + "learning_rate": 2.081588481485125e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42484728, + "step": 21705 + }, + { + "epoch": 2.8768721007289595, + "grad_norm": 0.2727926969528198, + "learning_rate": 2.0771205597209798e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42486768, + "step": 21706 + }, + { + "epoch": 2.8770046388336645, + "grad_norm": 0.015065119601786137, + "learning_rate": 2.0726574180809646e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42488552, + "step": 21707 + }, + { + "epoch": 2.87713717693837, + "grad_norm": 0.021624000743031502, + "learning_rate": 2.0681990566511768e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42490104, + "step": 21708 + }, + { + "epoch": 2.877269715043075, + "grad_norm": 0.14539587497711182, + "learning_rate": 2.0637454755175203e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42492544, + "step": 21709 + }, + { + "epoch": 2.87740225314778, + "grad_norm": 0.06341344863176346, + "learning_rate": 2.0592966747658983e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42494744, + "step": 21710 + }, + { + "epoch": 2.877534791252485, + "grad_norm": 0.03968055918812752, + "learning_rate": 2.0548526544821033e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42496696, + "step": 21711 + }, + { + "epoch": 2.87766732935719, + "grad_norm": 0.0029678787104785442, + "learning_rate": 2.0504134147517894e-08, + "loss": 0.0, + "num_input_tokens_seen": 42498392, + "step": 21712 + }, + { + "epoch": 2.877799867461895, + "grad_norm": 0.17011205852031708, + "learning_rate": 2.0459789556605548e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42500440, + "step": 21713 + }, + { + "epoch": 2.8779324055666002, + "grad_norm": 4.736098766326904, + "learning_rate": 2.0415492772938862e-08, + "loss": 0.0498, + "num_input_tokens_seen": 42502424, + "step": 21714 + }, + { + "epoch": 2.8780649436713057, + "grad_norm": 6.867688179016113, + "learning_rate": 2.0371243797372152e-08, + "loss": 0.0531, + "num_input_tokens_seen": 42504400, + "step": 21715 + }, + { + "epoch": 2.8781974817760108, + "grad_norm": 0.007529549766331911, + "learning_rate": 2.0327042630758355e-08, + "loss": 0.0, + "num_input_tokens_seen": 42506792, + "step": 21716 + }, + { + "epoch": 2.878330019880716, + "grad_norm": 5.492095947265625, + "learning_rate": 2.0282889273950114e-08, + "loss": 0.0499, + "num_input_tokens_seen": 42508944, + "step": 21717 + }, + { + "epoch": 2.878462557985421, + "grad_norm": 0.07597468048334122, + "learning_rate": 2.0238783727798138e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42510712, + "step": 21718 + }, + { + "epoch": 2.878595096090126, + "grad_norm": 6.721797943115234, + "learning_rate": 2.0194725993153418e-08, + "loss": 0.0291, + "num_input_tokens_seen": 42512656, + "step": 21719 + }, + { + "epoch": 2.878727634194831, + "grad_norm": 4.492206573486328, + "learning_rate": 2.0150716070864995e-08, + "loss": 0.0152, + "num_input_tokens_seen": 42514312, + "step": 21720 + }, + { + "epoch": 2.878860172299536, + "grad_norm": 0.4439235031604767, + "learning_rate": 2.0106753961781354e-08, + "loss": 0.0029, + "num_input_tokens_seen": 42516360, + "step": 21721 + }, + { + "epoch": 2.8789927104042414, + "grad_norm": 0.021872833371162415, + "learning_rate": 2.0062839666750154e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42519032, + "step": 21722 + }, + { + "epoch": 2.8791252485089465, + "grad_norm": 0.0074595315381884575, + "learning_rate": 2.0018973186618494e-08, + "loss": 0.0, + "num_input_tokens_seen": 42520248, + "step": 21723 + }, + { + "epoch": 2.8792577866136515, + "grad_norm": 0.01594364084303379, + "learning_rate": 1.9975154522232087e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42521784, + "step": 21724 + }, + { + "epoch": 2.8793903247183565, + "grad_norm": 0.011900728568434715, + "learning_rate": 1.9931383674435255e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42523408, + "step": 21725 + }, + { + "epoch": 2.8795228628230616, + "grad_norm": 0.009303472936153412, + "learning_rate": 1.9887660644072325e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42524568, + "step": 21726 + }, + { + "epoch": 2.8796554009277666, + "grad_norm": 6.740594387054443, + "learning_rate": 1.9843985431986235e-08, + "loss": 0.0195, + "num_input_tokens_seen": 42526728, + "step": 21727 + }, + { + "epoch": 2.8797879390324717, + "grad_norm": 0.009153252467513084, + "learning_rate": 1.9800358039019086e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42529176, + "step": 21728 + }, + { + "epoch": 2.879920477137177, + "grad_norm": 0.009961471892893314, + "learning_rate": 1.975677846601215e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42530720, + "step": 21729 + }, + { + "epoch": 2.880053015241882, + "grad_norm": 2.2072718143463135, + "learning_rate": 1.9713246713805588e-08, + "loss": 0.0043, + "num_input_tokens_seen": 42531856, + "step": 21730 + }, + { + "epoch": 2.880185553346587, + "grad_norm": 10.182709693908691, + "learning_rate": 1.9669762783238456e-08, + "loss": 0.1179, + "num_input_tokens_seen": 42534376, + "step": 21731 + }, + { + "epoch": 2.8803180914512923, + "grad_norm": 0.14054341614246368, + "learning_rate": 1.9626326675149522e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42536656, + "step": 21732 + }, + { + "epoch": 2.8804506295559973, + "grad_norm": 0.009076383896172047, + "learning_rate": 1.9582938390375893e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42538096, + "step": 21733 + }, + { + "epoch": 2.8805831676607023, + "grad_norm": 0.01048740092664957, + "learning_rate": 1.9539597929754683e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42540968, + "step": 21734 + }, + { + "epoch": 2.8807157057654074, + "grad_norm": 0.07054173201322556, + "learning_rate": 1.949630529412133e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42543272, + "step": 21735 + }, + { + "epoch": 2.880848243870113, + "grad_norm": 0.03623688220977783, + "learning_rate": 1.945306048431017e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42545344, + "step": 21736 + }, + { + "epoch": 2.880980781974818, + "grad_norm": 0.028118977323174477, + "learning_rate": 1.9409863501155258e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42547176, + "step": 21737 + }, + { + "epoch": 2.881113320079523, + "grad_norm": 15.747359275817871, + "learning_rate": 1.9366714345489534e-08, + "loss": 0.1386, + "num_input_tokens_seen": 42550160, + "step": 21738 + }, + { + "epoch": 2.881245858184228, + "grad_norm": 4.383615970611572, + "learning_rate": 1.932361301814456e-08, + "loss": 0.0119, + "num_input_tokens_seen": 42551864, + "step": 21739 + }, + { + "epoch": 2.881378396288933, + "grad_norm": 2.640383005142212, + "learning_rate": 1.928055951995189e-08, + "loss": 0.0349, + "num_input_tokens_seen": 42553472, + "step": 21740 + }, + { + "epoch": 2.881510934393638, + "grad_norm": 1.5517865419387817, + "learning_rate": 1.923755385174142e-08, + "loss": 0.0109, + "num_input_tokens_seen": 42555400, + "step": 21741 + }, + { + "epoch": 2.881643472498343, + "grad_norm": 0.03025534376502037, + "learning_rate": 1.9194596014342204e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42556992, + "step": 21742 + }, + { + "epoch": 2.8817760106030486, + "grad_norm": 14.83239459991455, + "learning_rate": 1.9151686008582747e-08, + "loss": 0.3637, + "num_input_tokens_seen": 42561088, + "step": 21743 + }, + { + "epoch": 2.8819085487077536, + "grad_norm": 16.01445770263672, + "learning_rate": 1.9108823835290168e-08, + "loss": 0.2057, + "num_input_tokens_seen": 42564112, + "step": 21744 + }, + { + "epoch": 2.8820410868124586, + "grad_norm": 2.6291191577911377, + "learning_rate": 1.9066009495291028e-08, + "loss": 0.0071, + "num_input_tokens_seen": 42565552, + "step": 21745 + }, + { + "epoch": 2.8821736249171637, + "grad_norm": 0.9352185726165771, + "learning_rate": 1.9023242989410496e-08, + "loss": 0.0027, + "num_input_tokens_seen": 42567480, + "step": 21746 + }, + { + "epoch": 2.8823061630218687, + "grad_norm": 0.018471039831638336, + "learning_rate": 1.898052431847347e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42570792, + "step": 21747 + }, + { + "epoch": 2.8824387011265737, + "grad_norm": 0.0039279102347791195, + "learning_rate": 1.8937853483303735e-08, + "loss": 0.0, + "num_input_tokens_seen": 42572664, + "step": 21748 + }, + { + "epoch": 2.882571239231279, + "grad_norm": 0.02657441236078739, + "learning_rate": 1.8895230484723692e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42575224, + "step": 21749 + }, + { + "epoch": 2.8827037773359843, + "grad_norm": 12.278406143188477, + "learning_rate": 1.885265532355518e-08, + "loss": 0.0869, + "num_input_tokens_seen": 42577728, + "step": 21750 + }, + { + "epoch": 2.8828363154406893, + "grad_norm": 16.79652214050293, + "learning_rate": 1.8810128000618932e-08, + "loss": 0.0758, + "num_input_tokens_seen": 42579176, + "step": 21751 + }, + { + "epoch": 2.8829688535453943, + "grad_norm": 8.590455055236816, + "learning_rate": 1.8767648516735126e-08, + "loss": 0.1589, + "num_input_tokens_seen": 42581704, + "step": 21752 + }, + { + "epoch": 2.8831013916500994, + "grad_norm": 0.6413662433624268, + "learning_rate": 1.8725216872722828e-08, + "loss": 0.003, + "num_input_tokens_seen": 42583904, + "step": 21753 + }, + { + "epoch": 2.8832339297548044, + "grad_norm": 0.13234147429466248, + "learning_rate": 1.8682833069400274e-08, + "loss": 0.001, + "num_input_tokens_seen": 42585240, + "step": 21754 + }, + { + "epoch": 2.8833664678595095, + "grad_norm": 0.002945690881460905, + "learning_rate": 1.8640497107584586e-08, + "loss": 0.0, + "num_input_tokens_seen": 42586896, + "step": 21755 + }, + { + "epoch": 2.8834990059642145, + "grad_norm": 1.6607190370559692, + "learning_rate": 1.8598208988091504e-08, + "loss": 0.0128, + "num_input_tokens_seen": 42588888, + "step": 21756 + }, + { + "epoch": 2.88363154406892, + "grad_norm": 3.9055895805358887, + "learning_rate": 1.855596871173676e-08, + "loss": 0.0287, + "num_input_tokens_seen": 42590536, + "step": 21757 + }, + { + "epoch": 2.883764082173625, + "grad_norm": 0.08381219953298569, + "learning_rate": 1.851377627933526e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42591760, + "step": 21758 + }, + { + "epoch": 2.88389662027833, + "grad_norm": 0.008764654397964478, + "learning_rate": 1.8471631691699688e-08, + "loss": 0.0, + "num_input_tokens_seen": 42592968, + "step": 21759 + }, + { + "epoch": 2.884029158383035, + "grad_norm": 0.03767247125506401, + "learning_rate": 1.842953494964328e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42595616, + "step": 21760 + }, + { + "epoch": 2.88416169648774, + "grad_norm": 4.955318927764893, + "learning_rate": 1.8387486053977056e-08, + "loss": 0.0516, + "num_input_tokens_seen": 42598472, + "step": 21761 + }, + { + "epoch": 2.8842942345924456, + "grad_norm": 2.9059388637542725, + "learning_rate": 1.834548500551231e-08, + "loss": 0.0247, + "num_input_tokens_seen": 42600120, + "step": 21762 + }, + { + "epoch": 2.88442677269715, + "grad_norm": 25.11546516418457, + "learning_rate": 1.8303531805058394e-08, + "loss": 0.266, + "num_input_tokens_seen": 42601904, + "step": 21763 + }, + { + "epoch": 2.8845593108018557, + "grad_norm": 0.009374380111694336, + "learning_rate": 1.8261626453424663e-08, + "loss": 0.0, + "num_input_tokens_seen": 42603256, + "step": 21764 + }, + { + "epoch": 2.8846918489065607, + "grad_norm": 0.26204389333724976, + "learning_rate": 1.8219768951418527e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42605320, + "step": 21765 + }, + { + "epoch": 2.8848243870112658, + "grad_norm": 4.270134925842285, + "learning_rate": 1.817795929984767e-08, + "loss": 0.0294, + "num_input_tokens_seen": 42606936, + "step": 21766 + }, + { + "epoch": 2.884956925115971, + "grad_norm": 9.965041160583496, + "learning_rate": 1.813619749951784e-08, + "loss": 0.1455, + "num_input_tokens_seen": 42609440, + "step": 21767 + }, + { + "epoch": 2.885089463220676, + "grad_norm": 21.464330673217773, + "learning_rate": 1.8094483551233943e-08, + "loss": 0.2571, + "num_input_tokens_seen": 42610944, + "step": 21768 + }, + { + "epoch": 2.8852220013253813, + "grad_norm": 3.57464599609375, + "learning_rate": 1.8052817455800897e-08, + "loss": 0.0305, + "num_input_tokens_seen": 42612848, + "step": 21769 + }, + { + "epoch": 2.885354539430086, + "grad_norm": 0.2957526743412018, + "learning_rate": 1.801119921402167e-08, + "loss": 0.0015, + "num_input_tokens_seen": 42614472, + "step": 21770 + }, + { + "epoch": 2.8854870775347914, + "grad_norm": 4.880345344543457, + "learning_rate": 1.796962882669867e-08, + "loss": 0.0183, + "num_input_tokens_seen": 42616760, + "step": 21771 + }, + { + "epoch": 2.8856196156394964, + "grad_norm": 8.757031440734863, + "learning_rate": 1.792810629463376e-08, + "loss": 0.0154, + "num_input_tokens_seen": 42619656, + "step": 21772 + }, + { + "epoch": 2.8857521537442015, + "grad_norm": 0.007824905216693878, + "learning_rate": 1.7886631618626858e-08, + "loss": 0.0, + "num_input_tokens_seen": 42620800, + "step": 21773 + }, + { + "epoch": 2.8858846918489065, + "grad_norm": 2.5010392665863037, + "learning_rate": 1.7845204799478434e-08, + "loss": 0.0097, + "num_input_tokens_seen": 42622280, + "step": 21774 + }, + { + "epoch": 2.8860172299536115, + "grad_norm": 1.4397038221359253, + "learning_rate": 1.7803825837986456e-08, + "loss": 0.0067, + "num_input_tokens_seen": 42624280, + "step": 21775 + }, + { + "epoch": 2.886149768058317, + "grad_norm": 0.34597355127334595, + "learning_rate": 1.7762494734949176e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42626472, + "step": 21776 + }, + { + "epoch": 2.8862823061630216, + "grad_norm": 8.39917278289795, + "learning_rate": 1.7721211491163458e-08, + "loss": 0.0552, + "num_input_tokens_seen": 42628840, + "step": 21777 + }, + { + "epoch": 2.886414844267727, + "grad_norm": 5.2002997398376465, + "learning_rate": 1.7679976107425333e-08, + "loss": 0.0254, + "num_input_tokens_seen": 42630688, + "step": 21778 + }, + { + "epoch": 2.886547382372432, + "grad_norm": 6.080469131469727, + "learning_rate": 1.763878858452972e-08, + "loss": 0.0227, + "num_input_tokens_seen": 42633032, + "step": 21779 + }, + { + "epoch": 2.886679920477137, + "grad_norm": 2.3813304901123047, + "learning_rate": 1.7597648923270426e-08, + "loss": 0.0024, + "num_input_tokens_seen": 42634480, + "step": 21780 + }, + { + "epoch": 2.886812458581842, + "grad_norm": 0.039499830454587936, + "learning_rate": 1.7556557124441264e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42636584, + "step": 21781 + }, + { + "epoch": 2.8869449966865472, + "grad_norm": 0.25914257764816284, + "learning_rate": 1.7515513188834375e-08, + "loss": 0.0013, + "num_input_tokens_seen": 42638888, + "step": 21782 + }, + { + "epoch": 2.8870775347912527, + "grad_norm": 6.190903663635254, + "learning_rate": 1.7474517117240518e-08, + "loss": 0.0443, + "num_input_tokens_seen": 42640968, + "step": 21783 + }, + { + "epoch": 2.8872100728959573, + "grad_norm": 7.2174072265625, + "learning_rate": 1.7433568910451003e-08, + "loss": 0.1181, + "num_input_tokens_seen": 42643128, + "step": 21784 + }, + { + "epoch": 2.887342611000663, + "grad_norm": 0.4529682695865631, + "learning_rate": 1.7392668569254645e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42644856, + "step": 21785 + }, + { + "epoch": 2.887475149105368, + "grad_norm": 0.14502069354057312, + "learning_rate": 1.7351816094440534e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42647392, + "step": 21786 + }, + { + "epoch": 2.887607687210073, + "grad_norm": 6.466854095458984, + "learning_rate": 1.7311011486795816e-08, + "loss": 0.0263, + "num_input_tokens_seen": 42649416, + "step": 21787 + }, + { + "epoch": 2.887740225314778, + "grad_norm": 0.2678705155849457, + "learning_rate": 1.727025474710764e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42651040, + "step": 21788 + }, + { + "epoch": 2.887872763419483, + "grad_norm": 3.4545094966888428, + "learning_rate": 1.722954587616177e-08, + "loss": 0.0167, + "num_input_tokens_seen": 42653032, + "step": 21789 + }, + { + "epoch": 2.8880053015241884, + "grad_norm": 16.618690490722656, + "learning_rate": 1.718888487474313e-08, + "loss": 0.1934, + "num_input_tokens_seen": 42654856, + "step": 21790 + }, + { + "epoch": 2.888137839628893, + "grad_norm": 4.440697193145752, + "learning_rate": 1.7148271743635536e-08, + "loss": 0.0119, + "num_input_tokens_seen": 42657368, + "step": 21791 + }, + { + "epoch": 2.8882703777335985, + "grad_norm": 0.014543090015649796, + "learning_rate": 1.71077064836217e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42659016, + "step": 21792 + }, + { + "epoch": 2.8884029158383036, + "grad_norm": 4.472564220428467, + "learning_rate": 1.7067189095484605e-08, + "loss": 0.0598, + "num_input_tokens_seen": 42660656, + "step": 21793 + }, + { + "epoch": 2.8885354539430086, + "grad_norm": 0.02428354322910309, + "learning_rate": 1.7026719580004736e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42662544, + "step": 21794 + }, + { + "epoch": 2.8886679920477136, + "grad_norm": 9.320484161376953, + "learning_rate": 1.698629793796286e-08, + "loss": 0.1232, + "num_input_tokens_seen": 42664512, + "step": 21795 + }, + { + "epoch": 2.8888005301524187, + "grad_norm": 0.9706075191497803, + "learning_rate": 1.6945924170138072e-08, + "loss": 0.0054, + "num_input_tokens_seen": 42666728, + "step": 21796 + }, + { + "epoch": 2.888933068257124, + "grad_norm": 6.47089958190918, + "learning_rate": 1.6905598277308644e-08, + "loss": 0.14, + "num_input_tokens_seen": 42669016, + "step": 21797 + }, + { + "epoch": 2.889065606361829, + "grad_norm": 5.111827373504639, + "learning_rate": 1.686532026025228e-08, + "loss": 0.0289, + "num_input_tokens_seen": 42670728, + "step": 21798 + }, + { + "epoch": 2.8891981444665342, + "grad_norm": 0.054378002882003784, + "learning_rate": 1.682509011974559e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42672608, + "step": 21799 + }, + { + "epoch": 2.8893306825712393, + "grad_norm": 0.5560510754585266, + "learning_rate": 1.6784907856564336e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42674736, + "step": 21800 + }, + { + "epoch": 2.8894632206759443, + "grad_norm": 0.00109343440271914, + "learning_rate": 1.6744773471483178e-08, + "loss": 0.0, + "num_input_tokens_seen": 42676152, + "step": 21801 + }, + { + "epoch": 2.8895957587806493, + "grad_norm": 0.03358738496899605, + "learning_rate": 1.670468696527594e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42677808, + "step": 21802 + }, + { + "epoch": 2.8897282968853544, + "grad_norm": 0.05505892634391785, + "learning_rate": 1.6664648338715338e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42679752, + "step": 21803 + }, + { + "epoch": 2.88986083499006, + "grad_norm": 1.9368375539779663, + "learning_rate": 1.6624657592573534e-08, + "loss": 0.0043, + "num_input_tokens_seen": 42681128, + "step": 21804 + }, + { + "epoch": 2.889993373094765, + "grad_norm": 0.0030798695515841246, + "learning_rate": 1.6584714727621297e-08, + "loss": 0.0, + "num_input_tokens_seen": 42682536, + "step": 21805 + }, + { + "epoch": 2.89012591119947, + "grad_norm": 0.27509772777557373, + "learning_rate": 1.6544819744629124e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42684216, + "step": 21806 + }, + { + "epoch": 2.890258449304175, + "grad_norm": 0.028223685920238495, + "learning_rate": 1.65049726443664e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42685664, + "step": 21807 + }, + { + "epoch": 2.89039098740888, + "grad_norm": 16.499895095825195, + "learning_rate": 1.6465173427600844e-08, + "loss": 0.1276, + "num_input_tokens_seen": 42688664, + "step": 21808 + }, + { + "epoch": 2.890523525513585, + "grad_norm": 0.047535490244627, + "learning_rate": 1.6425422095099898e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42690336, + "step": 21809 + }, + { + "epoch": 2.89065606361829, + "grad_norm": 0.28025877475738525, + "learning_rate": 1.6385718647630166e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42693080, + "step": 21810 + }, + { + "epoch": 2.8907886017229956, + "grad_norm": 0.0013176877982914448, + "learning_rate": 1.6346063085957155e-08, + "loss": 0.0, + "num_input_tokens_seen": 42695720, + "step": 21811 + }, + { + "epoch": 2.8909211398277006, + "grad_norm": 8.358757972717285, + "learning_rate": 1.6306455410845522e-08, + "loss": 0.0827, + "num_input_tokens_seen": 42697360, + "step": 21812 + }, + { + "epoch": 2.8910536779324056, + "grad_norm": 0.2825828790664673, + "learning_rate": 1.626689562305883e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42700296, + "step": 21813 + }, + { + "epoch": 2.8911862160371107, + "grad_norm": 15.404608726501465, + "learning_rate": 1.62273837233598e-08, + "loss": 0.187, + "num_input_tokens_seen": 42701800, + "step": 21814 + }, + { + "epoch": 2.8913187541418157, + "grad_norm": 0.007021215278655291, + "learning_rate": 1.6187919712510324e-08, + "loss": 0.0, + "num_input_tokens_seen": 42703240, + "step": 21815 + }, + { + "epoch": 2.8914512922465208, + "grad_norm": 3.0171751976013184, + "learning_rate": 1.6148503591271182e-08, + "loss": 0.0101, + "num_input_tokens_seen": 42705456, + "step": 21816 + }, + { + "epoch": 2.891583830351226, + "grad_norm": 0.016001442447304726, + "learning_rate": 1.6109135360402595e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42707464, + "step": 21817 + }, + { + "epoch": 2.8917163684559313, + "grad_norm": 12.613093376159668, + "learning_rate": 1.6069815020663125e-08, + "loss": 0.0871, + "num_input_tokens_seen": 42709360, + "step": 21818 + }, + { + "epoch": 2.8918489065606363, + "grad_norm": 0.2810207009315491, + "learning_rate": 1.6030542572811615e-08, + "loss": 0.0011, + "num_input_tokens_seen": 42710944, + "step": 21819 + }, + { + "epoch": 2.8919814446653413, + "grad_norm": 0.003911016974598169, + "learning_rate": 1.5991318017604395e-08, + "loss": 0.0, + "num_input_tokens_seen": 42712712, + "step": 21820 + }, + { + "epoch": 2.8921139827700464, + "grad_norm": 8.695013046264648, + "learning_rate": 1.5952141355798368e-08, + "loss": 0.0594, + "num_input_tokens_seen": 42715336, + "step": 21821 + }, + { + "epoch": 2.8922465208747514, + "grad_norm": 0.08680420368909836, + "learning_rate": 1.5913012588148757e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42717240, + "step": 21822 + }, + { + "epoch": 2.8923790589794565, + "grad_norm": 20.08997917175293, + "learning_rate": 1.587393171540996e-08, + "loss": 0.4566, + "num_input_tokens_seen": 42719456, + "step": 21823 + }, + { + "epoch": 2.8925115970841615, + "grad_norm": 16.35171890258789, + "learning_rate": 1.583489873833527e-08, + "loss": 0.195, + "num_input_tokens_seen": 42720960, + "step": 21824 + }, + { + "epoch": 2.892644135188867, + "grad_norm": 1.8816537857055664, + "learning_rate": 1.5795913657677686e-08, + "loss": 0.0082, + "num_input_tokens_seen": 42723368, + "step": 21825 + }, + { + "epoch": 2.892776673293572, + "grad_norm": 4.2345967292785645, + "learning_rate": 1.5756976474188558e-08, + "loss": 0.1209, + "num_input_tokens_seen": 42725544, + "step": 21826 + }, + { + "epoch": 2.892909211398277, + "grad_norm": 0.023701287806034088, + "learning_rate": 1.5718087188618948e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42727472, + "step": 21827 + }, + { + "epoch": 2.893041749502982, + "grad_norm": 0.15921413898468018, + "learning_rate": 1.5679245801717978e-08, + "loss": 0.0008, + "num_input_tokens_seen": 42729704, + "step": 21828 + }, + { + "epoch": 2.893174287607687, + "grad_norm": 0.1450648456811905, + "learning_rate": 1.5640452314235332e-08, + "loss": 0.0006, + "num_input_tokens_seen": 42731496, + "step": 21829 + }, + { + "epoch": 2.893306825712392, + "grad_norm": 6.471755504608154, + "learning_rate": 1.5601706726918463e-08, + "loss": 0.0444, + "num_input_tokens_seen": 42733696, + "step": 21830 + }, + { + "epoch": 2.893439363817097, + "grad_norm": 4.941380500793457, + "learning_rate": 1.556300904051483e-08, + "loss": 0.0272, + "num_input_tokens_seen": 42735936, + "step": 21831 + }, + { + "epoch": 2.8935719019218027, + "grad_norm": 0.02417609840631485, + "learning_rate": 1.5524359255770227e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42737936, + "step": 21832 + }, + { + "epoch": 2.8937044400265077, + "grad_norm": 0.768993079662323, + "learning_rate": 1.548575737342989e-08, + "loss": 0.0053, + "num_input_tokens_seen": 42739872, + "step": 21833 + }, + { + "epoch": 2.8938369781312128, + "grad_norm": 0.00539828184992075, + "learning_rate": 1.544720339423794e-08, + "loss": 0.0, + "num_input_tokens_seen": 42741704, + "step": 21834 + }, + { + "epoch": 2.893969516235918, + "grad_norm": 1.2141324281692505, + "learning_rate": 1.540869731893796e-08, + "loss": 0.0046, + "num_input_tokens_seen": 42743696, + "step": 21835 + }, + { + "epoch": 2.894102054340623, + "grad_norm": 0.002828523050993681, + "learning_rate": 1.5370239148272682e-08, + "loss": 0.0, + "num_input_tokens_seen": 42745360, + "step": 21836 + }, + { + "epoch": 2.894234592445328, + "grad_norm": 0.053335040807724, + "learning_rate": 1.53318288829829e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42747808, + "step": 21837 + }, + { + "epoch": 2.894367130550033, + "grad_norm": 8.15924072265625, + "learning_rate": 1.5293466523809697e-08, + "loss": 0.0482, + "num_input_tokens_seen": 42749888, + "step": 21838 + }, + { + "epoch": 2.8944996686547384, + "grad_norm": 2.0875802040100098, + "learning_rate": 1.5255152071492475e-08, + "loss": 0.0077, + "num_input_tokens_seen": 42752392, + "step": 21839 + }, + { + "epoch": 2.8946322067594434, + "grad_norm": 0.19174259901046753, + "learning_rate": 1.5216885526770087e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42754184, + "step": 21840 + }, + { + "epoch": 2.8947647448641485, + "grad_norm": 1.917540192604065, + "learning_rate": 1.5178666890380278e-08, + "loss": 0.0066, + "num_input_tokens_seen": 42755624, + "step": 21841 + }, + { + "epoch": 2.8948972829688535, + "grad_norm": 12.75284481048584, + "learning_rate": 1.5140496163060236e-08, + "loss": 0.0721, + "num_input_tokens_seen": 42757320, + "step": 21842 + }, + { + "epoch": 2.8950298210735586, + "grad_norm": 5.695208549499512, + "learning_rate": 1.5102373345545484e-08, + "loss": 0.0247, + "num_input_tokens_seen": 42760448, + "step": 21843 + }, + { + "epoch": 2.8951623591782636, + "grad_norm": 9.881443977355957, + "learning_rate": 1.506429843857099e-08, + "loss": 0.0937, + "num_input_tokens_seen": 42762704, + "step": 21844 + }, + { + "epoch": 2.8952948972829686, + "grad_norm": 1.167162299156189, + "learning_rate": 1.5026271442871165e-08, + "loss": 0.0035, + "num_input_tokens_seen": 42764848, + "step": 21845 + }, + { + "epoch": 2.895427435387674, + "grad_norm": 0.0025954912416636944, + "learning_rate": 1.4988292359179314e-08, + "loss": 0.0, + "num_input_tokens_seen": 42767504, + "step": 21846 + }, + { + "epoch": 2.895559973492379, + "grad_norm": 0.003800133476033807, + "learning_rate": 1.4950361188227348e-08, + "loss": 0.0, + "num_input_tokens_seen": 42769008, + "step": 21847 + }, + { + "epoch": 2.895692511597084, + "grad_norm": 0.02113240770995617, + "learning_rate": 1.4912477930746905e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42771008, + "step": 21848 + }, + { + "epoch": 2.8958250497017892, + "grad_norm": 0.0873739942908287, + "learning_rate": 1.4874642587468235e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42772040, + "step": 21849 + }, + { + "epoch": 2.8959575878064943, + "grad_norm": 1.607867956161499, + "learning_rate": 1.4836855159120755e-08, + "loss": 0.0032, + "num_input_tokens_seen": 42773800, + "step": 21850 + }, + { + "epoch": 2.8960901259111997, + "grad_norm": 3.8669376373291016, + "learning_rate": 1.4799115646433327e-08, + "loss": 0.0213, + "num_input_tokens_seen": 42776120, + "step": 21851 + }, + { + "epoch": 2.8962226640159043, + "grad_norm": 15.551241874694824, + "learning_rate": 1.4761424050133144e-08, + "loss": 0.1471, + "num_input_tokens_seen": 42778688, + "step": 21852 + }, + { + "epoch": 2.89635520212061, + "grad_norm": 1.2815444469451904, + "learning_rate": 1.4723780370947405e-08, + "loss": 0.0062, + "num_input_tokens_seen": 42781064, + "step": 21853 + }, + { + "epoch": 2.896487740225315, + "grad_norm": 0.01603313535451889, + "learning_rate": 1.4686184609601639e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42782680, + "step": 21854 + }, + { + "epoch": 2.89662027833002, + "grad_norm": 0.8123252391815186, + "learning_rate": 1.4648636766820546e-08, + "loss": 0.0028, + "num_input_tokens_seen": 42783784, + "step": 21855 + }, + { + "epoch": 2.896752816434725, + "grad_norm": 0.06824760884046555, + "learning_rate": 1.4611136843328544e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42786288, + "step": 21856 + }, + { + "epoch": 2.89688535453943, + "grad_norm": 0.5590487122535706, + "learning_rate": 1.4573684839848112e-08, + "loss": 0.0024, + "num_input_tokens_seen": 42787888, + "step": 21857 + }, + { + "epoch": 2.8970178926441355, + "grad_norm": 0.01573786325752735, + "learning_rate": 1.4536280757102005e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42789584, + "step": 21858 + }, + { + "epoch": 2.89715043074884, + "grad_norm": 0.003916813526302576, + "learning_rate": 1.4498924595810759e-08, + "loss": 0.0, + "num_input_tokens_seen": 42791976, + "step": 21859 + }, + { + "epoch": 2.8972829688535455, + "grad_norm": 0.018391158431768417, + "learning_rate": 1.4461616356695185e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42794936, + "step": 21860 + }, + { + "epoch": 2.8974155069582506, + "grad_norm": 0.15034545958042145, + "learning_rate": 1.4424356040474152e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42796288, + "step": 21861 + }, + { + "epoch": 2.8975480450629556, + "grad_norm": 7.587205410003662, + "learning_rate": 1.4387143647866253e-08, + "loss": 0.0767, + "num_input_tokens_seen": 42798000, + "step": 21862 + }, + { + "epoch": 2.8976805831676606, + "grad_norm": 0.005003215279430151, + "learning_rate": 1.4349979179588969e-08, + "loss": 0.0, + "num_input_tokens_seen": 42799408, + "step": 21863 + }, + { + "epoch": 2.8978131212723657, + "grad_norm": 8.567745208740234, + "learning_rate": 1.431286263635867e-08, + "loss": 0.0899, + "num_input_tokens_seen": 42800928, + "step": 21864 + }, + { + "epoch": 2.897945659377071, + "grad_norm": 0.012640919536352158, + "learning_rate": 1.4275794018891454e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42802632, + "step": 21865 + }, + { + "epoch": 2.8980781974817758, + "grad_norm": 5.966353893280029, + "learning_rate": 1.4238773327901745e-08, + "loss": 0.0344, + "num_input_tokens_seen": 42804760, + "step": 21866 + }, + { + "epoch": 2.8982107355864812, + "grad_norm": 7.464968204498291, + "learning_rate": 1.420180056410314e-08, + "loss": 0.0582, + "num_input_tokens_seen": 42806280, + "step": 21867 + }, + { + "epoch": 2.8983432736911863, + "grad_norm": 0.02829921618103981, + "learning_rate": 1.4164875728208682e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42808760, + "step": 21868 + }, + { + "epoch": 2.8984758117958913, + "grad_norm": 12.499402046203613, + "learning_rate": 1.41279988209303e-08, + "loss": 0.0787, + "num_input_tokens_seen": 42812128, + "step": 21869 + }, + { + "epoch": 2.8986083499005963, + "grad_norm": 10.971367835998535, + "learning_rate": 1.4091169842979368e-08, + "loss": 0.0779, + "num_input_tokens_seen": 42813664, + "step": 21870 + }, + { + "epoch": 2.8987408880053014, + "grad_norm": 1.0918554067611694, + "learning_rate": 1.4054388795065321e-08, + "loss": 0.0054, + "num_input_tokens_seen": 42815192, + "step": 21871 + }, + { + "epoch": 2.898873426110007, + "grad_norm": 14.199649810791016, + "learning_rate": 1.401765567789759e-08, + "loss": 0.1929, + "num_input_tokens_seen": 42817328, + "step": 21872 + }, + { + "epoch": 2.8990059642147115, + "grad_norm": 0.014770323410630226, + "learning_rate": 1.3980970492184498e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42818776, + "step": 21873 + }, + { + "epoch": 2.899138502319417, + "grad_norm": 0.003389711258932948, + "learning_rate": 1.3944333238633534e-08, + "loss": 0.0, + "num_input_tokens_seen": 42820960, + "step": 21874 + }, + { + "epoch": 2.899271040424122, + "grad_norm": 32.26531982421875, + "learning_rate": 1.3907743917950523e-08, + "loss": 0.0435, + "num_input_tokens_seen": 42823688, + "step": 21875 + }, + { + "epoch": 2.899403578528827, + "grad_norm": 0.23862943053245544, + "learning_rate": 1.3871202530841287e-08, + "loss": 0.001, + "num_input_tokens_seen": 42826656, + "step": 21876 + }, + { + "epoch": 2.899536116633532, + "grad_norm": 3.6919634342193604, + "learning_rate": 1.3834709078010544e-08, + "loss": 0.0155, + "num_input_tokens_seen": 42828528, + "step": 21877 + }, + { + "epoch": 2.899668654738237, + "grad_norm": 0.6939218044281006, + "learning_rate": 1.3798263560161617e-08, + "loss": 0.0038, + "num_input_tokens_seen": 42830376, + "step": 21878 + }, + { + "epoch": 2.8998011928429426, + "grad_norm": 0.005500981118530035, + "learning_rate": 1.3761865977997558e-08, + "loss": 0.0, + "num_input_tokens_seen": 42832032, + "step": 21879 + }, + { + "epoch": 2.8999337309476476, + "grad_norm": 0.7904248833656311, + "learning_rate": 1.3725516332219747e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42833872, + "step": 21880 + }, + { + "epoch": 2.9000662690523527, + "grad_norm": 6.683494567871094, + "learning_rate": 1.3689214623529012e-08, + "loss": 0.0693, + "num_input_tokens_seen": 42835912, + "step": 21881 + }, + { + "epoch": 2.9001988071570577, + "grad_norm": 0.08821951597929001, + "learning_rate": 1.365296085262563e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42838616, + "step": 21882 + }, + { + "epoch": 2.9003313452617627, + "grad_norm": 0.02909945882856846, + "learning_rate": 1.3616755020208206e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42840728, + "step": 21883 + }, + { + "epoch": 2.9004638833664678, + "grad_norm": 0.05134959891438484, + "learning_rate": 1.3580597126975347e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42842856, + "step": 21884 + }, + { + "epoch": 2.900596421471173, + "grad_norm": 0.9567461609840393, + "learning_rate": 1.3544487173623444e-08, + "loss": 0.0063, + "num_input_tokens_seen": 42844680, + "step": 21885 + }, + { + "epoch": 2.9007289595758783, + "grad_norm": 12.670013427734375, + "learning_rate": 1.3508425160849437e-08, + "loss": 0.186, + "num_input_tokens_seen": 42847536, + "step": 21886 + }, + { + "epoch": 2.9008614976805833, + "grad_norm": 0.8445271849632263, + "learning_rate": 1.3472411089348048e-08, + "loss": 0.005, + "num_input_tokens_seen": 42849088, + "step": 21887 + }, + { + "epoch": 2.9009940357852884, + "grad_norm": 0.014230293221771717, + "learning_rate": 1.3436444959814277e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42850432, + "step": 21888 + }, + { + "epoch": 2.9011265738899934, + "grad_norm": 0.6979024410247803, + "learning_rate": 1.340052677294118e-08, + "loss": 0.0055, + "num_input_tokens_seen": 42852552, + "step": 21889 + }, + { + "epoch": 2.9012591119946984, + "grad_norm": 0.020527120679616928, + "learning_rate": 1.336465652942126e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42854128, + "step": 21890 + }, + { + "epoch": 2.9013916500994035, + "grad_norm": 4.5034499168396, + "learning_rate": 1.3328834229946464e-08, + "loss": 0.048, + "num_input_tokens_seen": 42856336, + "step": 21891 + }, + { + "epoch": 2.9015241882041085, + "grad_norm": 0.21529565751552582, + "learning_rate": 1.3293059875206793e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42859056, + "step": 21892 + }, + { + "epoch": 2.901656726308814, + "grad_norm": 0.006279053632169962, + "learning_rate": 1.325733346589253e-08, + "loss": 0.0, + "num_input_tokens_seen": 42860576, + "step": 21893 + }, + { + "epoch": 2.901789264413519, + "grad_norm": 0.15658703446388245, + "learning_rate": 1.3221655002692569e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42861864, + "step": 21894 + }, + { + "epoch": 2.901921802518224, + "grad_norm": 0.13757097721099854, + "learning_rate": 1.3186024486294414e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42863744, + "step": 21895 + }, + { + "epoch": 2.902054340622929, + "grad_norm": 14.049901962280273, + "learning_rate": 1.315044191738557e-08, + "loss": 0.1589, + "num_input_tokens_seen": 42865576, + "step": 21896 + }, + { + "epoch": 2.902186878727634, + "grad_norm": 0.003701205365359783, + "learning_rate": 1.3114907296651325e-08, + "loss": 0.0, + "num_input_tokens_seen": 42866736, + "step": 21897 + }, + { + "epoch": 2.902319416832339, + "grad_norm": 12.016429901123047, + "learning_rate": 1.3079420624777794e-08, + "loss": 0.1122, + "num_input_tokens_seen": 42869520, + "step": 21898 + }, + { + "epoch": 2.902451954937044, + "grad_norm": 0.46425268054008484, + "learning_rate": 1.3043981902448322e-08, + "loss": 0.0019, + "num_input_tokens_seen": 42871544, + "step": 21899 + }, + { + "epoch": 2.9025844930417497, + "grad_norm": 0.14612586796283722, + "learning_rate": 1.3008591130346804e-08, + "loss": 0.0005, + "num_input_tokens_seen": 42873448, + "step": 21900 + }, + { + "epoch": 2.9027170311464547, + "grad_norm": 0.012677825056016445, + "learning_rate": 1.2973248309155195e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42874936, + "step": 21901 + }, + { + "epoch": 2.90284956925116, + "grad_norm": 0.06714598089456558, + "learning_rate": 1.2937953439554895e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42876760, + "step": 21902 + }, + { + "epoch": 2.902982107355865, + "grad_norm": 0.002638844307512045, + "learning_rate": 1.2902706522226749e-08, + "loss": 0.0, + "num_input_tokens_seen": 42878016, + "step": 21903 + }, + { + "epoch": 2.90311464546057, + "grad_norm": 0.012105557136237621, + "learning_rate": 1.2867507557850211e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42880648, + "step": 21904 + }, + { + "epoch": 2.903247183565275, + "grad_norm": 3.1819558143615723, + "learning_rate": 1.2832356547103907e-08, + "loss": 0.0161, + "num_input_tokens_seen": 42881896, + "step": 21905 + }, + { + "epoch": 2.90337972166998, + "grad_norm": 7.1907806396484375, + "learning_rate": 1.279725349066563e-08, + "loss": 0.0687, + "num_input_tokens_seen": 42883400, + "step": 21906 + }, + { + "epoch": 2.9035122597746854, + "grad_norm": 11.399194717407227, + "learning_rate": 1.2762198389212055e-08, + "loss": 0.1373, + "num_input_tokens_seen": 42886496, + "step": 21907 + }, + { + "epoch": 2.9036447978793904, + "grad_norm": 3.959879159927368, + "learning_rate": 1.2727191243419313e-08, + "loss": 0.0157, + "num_input_tokens_seen": 42888232, + "step": 21908 + }, + { + "epoch": 2.9037773359840955, + "grad_norm": 0.022855183109641075, + "learning_rate": 1.269223205396214e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42890248, + "step": 21909 + }, + { + "epoch": 2.9039098740888005, + "grad_norm": 0.04584252089262009, + "learning_rate": 1.265732082151444e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42891888, + "step": 21910 + }, + { + "epoch": 2.9040424121935056, + "grad_norm": 0.006457976531237364, + "learning_rate": 1.2622457546749567e-08, + "loss": 0.0, + "num_input_tokens_seen": 42893736, + "step": 21911 + }, + { + "epoch": 2.9041749502982106, + "grad_norm": 1.5480132102966309, + "learning_rate": 1.2587642230339759e-08, + "loss": 0.0089, + "num_input_tokens_seen": 42896448, + "step": 21912 + }, + { + "epoch": 2.9043074884029156, + "grad_norm": 0.03996611014008522, + "learning_rate": 1.2552874872956145e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42897784, + "step": 21913 + }, + { + "epoch": 2.904440026507621, + "grad_norm": 0.005707287695258856, + "learning_rate": 1.25181554752693e-08, + "loss": 0.0, + "num_input_tokens_seen": 42900160, + "step": 21914 + }, + { + "epoch": 2.904572564612326, + "grad_norm": 5.709275722503662, + "learning_rate": 1.2483484037948135e-08, + "loss": 0.0924, + "num_input_tokens_seen": 42902296, + "step": 21915 + }, + { + "epoch": 2.904705102717031, + "grad_norm": 15.23489761352539, + "learning_rate": 1.2448860561661558e-08, + "loss": 0.1701, + "num_input_tokens_seen": 42904200, + "step": 21916 + }, + { + "epoch": 2.9048376408217362, + "grad_norm": 0.0033224602229893208, + "learning_rate": 1.241428504707709e-08, + "loss": 0.0, + "num_input_tokens_seen": 42905488, + "step": 21917 + }, + { + "epoch": 2.9049701789264413, + "grad_norm": 0.0005927822785452008, + "learning_rate": 1.2379757494861421e-08, + "loss": 0.0, + "num_input_tokens_seen": 42907000, + "step": 21918 + }, + { + "epoch": 2.9051027170311463, + "grad_norm": 0.382308691740036, + "learning_rate": 1.2345277905679854e-08, + "loss": 0.0014, + "num_input_tokens_seen": 42908568, + "step": 21919 + }, + { + "epoch": 2.9052352551358513, + "grad_norm": 0.001161378575488925, + "learning_rate": 1.2310846280197686e-08, + "loss": 0.0, + "num_input_tokens_seen": 42909960, + "step": 21920 + }, + { + "epoch": 2.905367793240557, + "grad_norm": 4.968019008636475, + "learning_rate": 1.2276462619078556e-08, + "loss": 0.0569, + "num_input_tokens_seen": 42911976, + "step": 21921 + }, + { + "epoch": 2.905500331345262, + "grad_norm": 0.05725034698843956, + "learning_rate": 1.2242126922985265e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42913928, + "step": 21922 + }, + { + "epoch": 2.905632869449967, + "grad_norm": 3.928481340408325, + "learning_rate": 1.2207839192580062e-08, + "loss": 0.0035, + "num_input_tokens_seen": 42917288, + "step": 21923 + }, + { + "epoch": 2.905765407554672, + "grad_norm": 12.014176368713379, + "learning_rate": 1.2173599428524086e-08, + "loss": 0.3217, + "num_input_tokens_seen": 42918896, + "step": 21924 + }, + { + "epoch": 2.905897945659377, + "grad_norm": 0.029615573585033417, + "learning_rate": 1.2139407631477362e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42920016, + "step": 21925 + }, + { + "epoch": 2.906030483764082, + "grad_norm": 11.053147315979004, + "learning_rate": 1.2105263802099088e-08, + "loss": 0.3689, + "num_input_tokens_seen": 42922944, + "step": 21926 + }, + { + "epoch": 2.906163021868787, + "grad_norm": 0.017649173736572266, + "learning_rate": 1.2071167941047624e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42924336, + "step": 21927 + }, + { + "epoch": 2.9062955599734925, + "grad_norm": 0.00022445783542934805, + "learning_rate": 1.2037120048980222e-08, + "loss": 0.0, + "num_input_tokens_seen": 42925328, + "step": 21928 + }, + { + "epoch": 2.9064280980781976, + "grad_norm": 2.2284164428710938, + "learning_rate": 1.200312012655358e-08, + "loss": 0.004, + "num_input_tokens_seen": 42926536, + "step": 21929 + }, + { + "epoch": 2.9065606361829026, + "grad_norm": 1.1413416862487793, + "learning_rate": 1.1969168174423284e-08, + "loss": 0.0076, + "num_input_tokens_seen": 42928416, + "step": 21930 + }, + { + "epoch": 2.9066931742876077, + "grad_norm": 0.018550578504800797, + "learning_rate": 1.1935264193243813e-08, + "loss": 0.0, + "num_input_tokens_seen": 42929912, + "step": 21931 + }, + { + "epoch": 2.9068257123923127, + "grad_norm": 0.004678811877965927, + "learning_rate": 1.1901408183668806e-08, + "loss": 0.0, + "num_input_tokens_seen": 42931816, + "step": 21932 + }, + { + "epoch": 2.9069582504970177, + "grad_norm": 0.009757760912179947, + "learning_rate": 1.1867600146351076e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42933576, + "step": 21933 + }, + { + "epoch": 2.9070907886017228, + "grad_norm": 0.013394701294600964, + "learning_rate": 1.1833840081942605e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42935560, + "step": 21934 + }, + { + "epoch": 2.9072233267064282, + "grad_norm": 3.623309850692749, + "learning_rate": 1.1800127991093979e-08, + "loss": 0.0154, + "num_input_tokens_seen": 42937992, + "step": 21935 + }, + { + "epoch": 2.9073558648111333, + "grad_norm": 0.1036694347858429, + "learning_rate": 1.176646387445579e-08, + "loss": 0.0004, + "num_input_tokens_seen": 42940808, + "step": 21936 + }, + { + "epoch": 2.9074884029158383, + "grad_norm": 0.018242409452795982, + "learning_rate": 1.1732847732676411e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42942192, + "step": 21937 + }, + { + "epoch": 2.9076209410205434, + "grad_norm": 0.09169457852840424, + "learning_rate": 1.1699279566404487e-08, + "loss": 0.0002, + "num_input_tokens_seen": 42943832, + "step": 21938 + }, + { + "epoch": 2.9077534791252484, + "grad_norm": 0.002927461639046669, + "learning_rate": 1.1665759376287001e-08, + "loss": 0.0, + "num_input_tokens_seen": 42945064, + "step": 21939 + }, + { + "epoch": 2.907886017229954, + "grad_norm": 11.159092903137207, + "learning_rate": 1.1632287162970102e-08, + "loss": 0.0303, + "num_input_tokens_seen": 42946600, + "step": 21940 + }, + { + "epoch": 2.9080185553346585, + "grad_norm": 2.7261157035827637, + "learning_rate": 1.1598862927099386e-08, + "loss": 0.0065, + "num_input_tokens_seen": 42948056, + "step": 21941 + }, + { + "epoch": 2.908151093439364, + "grad_norm": 0.028012461960315704, + "learning_rate": 1.1565486669319336e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42950328, + "step": 21942 + }, + { + "epoch": 2.908283631544069, + "grad_norm": 2.4944710731506348, + "learning_rate": 1.1532158390273606e-08, + "loss": 0.0085, + "num_input_tokens_seen": 42952568, + "step": 21943 + }, + { + "epoch": 2.908416169648774, + "grad_norm": 0.02497400902211666, + "learning_rate": 1.1498878090604181e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42953912, + "step": 21944 + }, + { + "epoch": 2.908548707753479, + "grad_norm": 0.5636566281318665, + "learning_rate": 1.1465645770953326e-08, + "loss": 0.0018, + "num_input_tokens_seen": 42956840, + "step": 21945 + }, + { + "epoch": 2.908681245858184, + "grad_norm": 0.010956265963613987, + "learning_rate": 1.1432461431961361e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42958840, + "step": 21946 + }, + { + "epoch": 2.9088137839628896, + "grad_norm": 6.515491008758545, + "learning_rate": 1.1399325074268608e-08, + "loss": 0.06, + "num_input_tokens_seen": 42960592, + "step": 21947 + }, + { + "epoch": 2.908946322067594, + "grad_norm": 0.011846862733364105, + "learning_rate": 1.1366236698513444e-08, + "loss": 0.0, + "num_input_tokens_seen": 42961760, + "step": 21948 + }, + { + "epoch": 2.9090788601722997, + "grad_norm": 9.874768257141113, + "learning_rate": 1.1333196305334249e-08, + "loss": 0.061, + "num_input_tokens_seen": 42964240, + "step": 21949 + }, + { + "epoch": 2.9092113982770047, + "grad_norm": 4.613884449005127, + "learning_rate": 1.1300203895367735e-08, + "loss": 0.0471, + "num_input_tokens_seen": 42966784, + "step": 21950 + }, + { + "epoch": 2.9093439363817097, + "grad_norm": 3.0748848915100098, + "learning_rate": 1.1267259469250336e-08, + "loss": 0.0392, + "num_input_tokens_seen": 42969256, + "step": 21951 + }, + { + "epoch": 2.9094764744864148, + "grad_norm": 0.7355468273162842, + "learning_rate": 1.1234363027616824e-08, + "loss": 0.0034, + "num_input_tokens_seen": 42970768, + "step": 21952 + }, + { + "epoch": 2.90960901259112, + "grad_norm": 0.006784104276448488, + "learning_rate": 1.120151457110169e-08, + "loss": 0.0, + "num_input_tokens_seen": 42972144, + "step": 21953 + }, + { + "epoch": 2.9097415506958253, + "grad_norm": 0.8847712278366089, + "learning_rate": 1.1168714100338317e-08, + "loss": 0.0017, + "num_input_tokens_seen": 42973688, + "step": 21954 + }, + { + "epoch": 2.90987408880053, + "grad_norm": 0.1828608512878418, + "learning_rate": 1.1135961615959256e-08, + "loss": 0.0009, + "num_input_tokens_seen": 42975536, + "step": 21955 + }, + { + "epoch": 2.9100066269052354, + "grad_norm": 6.940862655639648, + "learning_rate": 1.1103257118595666e-08, + "loss": 0.1052, + "num_input_tokens_seen": 42977992, + "step": 21956 + }, + { + "epoch": 2.9101391650099404, + "grad_norm": 7.962825298309326, + "learning_rate": 1.1070600608878434e-08, + "loss": 0.079, + "num_input_tokens_seen": 42979584, + "step": 21957 + }, + { + "epoch": 2.9102717031146454, + "grad_norm": 0.5806574821472168, + "learning_rate": 1.1037992087437056e-08, + "loss": 0.0016, + "num_input_tokens_seen": 42981104, + "step": 21958 + }, + { + "epoch": 2.9104042412193505, + "grad_norm": 10.117878913879395, + "learning_rate": 1.1005431554899915e-08, + "loss": 0.0726, + "num_input_tokens_seen": 42983464, + "step": 21959 + }, + { + "epoch": 2.9105367793240555, + "grad_norm": 3.5498950481414795, + "learning_rate": 1.09729190118954e-08, + "loss": 0.0422, + "num_input_tokens_seen": 42985944, + "step": 21960 + }, + { + "epoch": 2.910669317428761, + "grad_norm": 0.008531622588634491, + "learning_rate": 1.0940454459050232e-08, + "loss": 0.0, + "num_input_tokens_seen": 42987264, + "step": 21961 + }, + { + "epoch": 2.9108018555334656, + "grad_norm": 0.027749083936214447, + "learning_rate": 1.090803789699002e-08, + "loss": 0.0003, + "num_input_tokens_seen": 42989112, + "step": 21962 + }, + { + "epoch": 2.910934393638171, + "grad_norm": 2.5667002201080322, + "learning_rate": 1.0875669326340099e-08, + "loss": 0.0108, + "num_input_tokens_seen": 42991168, + "step": 21963 + }, + { + "epoch": 2.911066931742876, + "grad_norm": 0.6141388416290283, + "learning_rate": 1.0843348747724136e-08, + "loss": 0.0007, + "num_input_tokens_seen": 42993008, + "step": 21964 + }, + { + "epoch": 2.911199469847581, + "grad_norm": 0.022096291184425354, + "learning_rate": 1.0811076161765799e-08, + "loss": 0.0001, + "num_input_tokens_seen": 42994480, + "step": 21965 + }, + { + "epoch": 2.911332007952286, + "grad_norm": 0.006765156984329224, + "learning_rate": 1.077885156908709e-08, + "loss": 0.0, + "num_input_tokens_seen": 42997648, + "step": 21966 + }, + { + "epoch": 2.9114645460569912, + "grad_norm": 6.568155765533447, + "learning_rate": 1.0746674970309456e-08, + "loss": 0.0646, + "num_input_tokens_seen": 43000128, + "step": 21967 + }, + { + "epoch": 2.9115970841616967, + "grad_norm": 4.378548622131348, + "learning_rate": 1.0714546366053235e-08, + "loss": 0.0398, + "num_input_tokens_seen": 43002016, + "step": 21968 + }, + { + "epoch": 2.9117296222664018, + "grad_norm": 5.3975090980529785, + "learning_rate": 1.0682465756937654e-08, + "loss": 0.055, + "num_input_tokens_seen": 43003424, + "step": 21969 + }, + { + "epoch": 2.911862160371107, + "grad_norm": 0.0014704520581290126, + "learning_rate": 1.0650433143581384e-08, + "loss": 0.0, + "num_input_tokens_seen": 43004712, + "step": 21970 + }, + { + "epoch": 2.911994698475812, + "grad_norm": 0.6462353467941284, + "learning_rate": 1.0618448526601988e-08, + "loss": 0.0033, + "num_input_tokens_seen": 43006928, + "step": 21971 + }, + { + "epoch": 2.912127236580517, + "grad_norm": 2.3356761932373047, + "learning_rate": 1.058651190661647e-08, + "loss": 0.0629, + "num_input_tokens_seen": 43009312, + "step": 21972 + }, + { + "epoch": 2.912259774685222, + "grad_norm": 0.0044085378758609295, + "learning_rate": 1.055462328424045e-08, + "loss": 0.0, + "num_input_tokens_seen": 43010776, + "step": 21973 + }, + { + "epoch": 2.912392312789927, + "grad_norm": 0.117121122777462, + "learning_rate": 1.0522782660088437e-08, + "loss": 0.0006, + "num_input_tokens_seen": 43013696, + "step": 21974 + }, + { + "epoch": 2.9125248508946324, + "grad_norm": 11.036858558654785, + "learning_rate": 1.0490990034774663e-08, + "loss": 0.1612, + "num_input_tokens_seen": 43016976, + "step": 21975 + }, + { + "epoch": 2.9126573889993375, + "grad_norm": 6.189133644104004, + "learning_rate": 1.0459245408911966e-08, + "loss": 0.0174, + "num_input_tokens_seen": 43019552, + "step": 21976 + }, + { + "epoch": 2.9127899271040425, + "grad_norm": 3.0199368000030518, + "learning_rate": 1.042754878311264e-08, + "loss": 0.0049, + "num_input_tokens_seen": 43021192, + "step": 21977 + }, + { + "epoch": 2.9129224652087475, + "grad_norm": 4.815978050231934, + "learning_rate": 1.0395900157987304e-08, + "loss": 0.0425, + "num_input_tokens_seen": 43023048, + "step": 21978 + }, + { + "epoch": 2.9130550033134526, + "grad_norm": 4.038658142089844, + "learning_rate": 1.036429953414686e-08, + "loss": 0.0161, + "num_input_tokens_seen": 43024752, + "step": 21979 + }, + { + "epoch": 2.9131875414181576, + "grad_norm": 9.997885704040527, + "learning_rate": 1.0332746912199987e-08, + "loss": 0.1582, + "num_input_tokens_seen": 43027264, + "step": 21980 + }, + { + "epoch": 2.9133200795228626, + "grad_norm": 9.532692909240723, + "learning_rate": 1.0301242292755364e-08, + "loss": 0.0373, + "num_input_tokens_seen": 43028512, + "step": 21981 + }, + { + "epoch": 2.913452617627568, + "grad_norm": 0.6367543339729309, + "learning_rate": 1.0269785676420285e-08, + "loss": 0.0038, + "num_input_tokens_seen": 43030088, + "step": 21982 + }, + { + "epoch": 2.913585155732273, + "grad_norm": 0.008711429312825203, + "learning_rate": 1.0238377063801486e-08, + "loss": 0.0, + "num_input_tokens_seen": 43031768, + "step": 21983 + }, + { + "epoch": 2.913717693836978, + "grad_norm": 2.50688099861145, + "learning_rate": 1.0207016455504316e-08, + "loss": 0.0097, + "num_input_tokens_seen": 43035576, + "step": 21984 + }, + { + "epoch": 2.9138502319416832, + "grad_norm": 0.8532982468605042, + "learning_rate": 1.0175703852133567e-08, + "loss": 0.0078, + "num_input_tokens_seen": 43037608, + "step": 21985 + }, + { + "epoch": 2.9139827700463883, + "grad_norm": 3.4834022521972656, + "learning_rate": 1.0144439254292649e-08, + "loss": 0.0202, + "num_input_tokens_seen": 43039520, + "step": 21986 + }, + { + "epoch": 2.9141153081510933, + "grad_norm": 0.03925604373216629, + "learning_rate": 1.0113222662584966e-08, + "loss": 0.0002, + "num_input_tokens_seen": 43042080, + "step": 21987 + }, + { + "epoch": 2.9142478462557984, + "grad_norm": 11.040791511535645, + "learning_rate": 1.0082054077611703e-08, + "loss": 0.1806, + "num_input_tokens_seen": 43043760, + "step": 21988 + }, + { + "epoch": 2.914380384360504, + "grad_norm": 0.021875865757465363, + "learning_rate": 1.0050933499974325e-08, + "loss": 0.0001, + "num_input_tokens_seen": 43045920, + "step": 21989 + }, + { + "epoch": 2.914512922465209, + "grad_norm": 14.984296798706055, + "learning_rate": 1.0019860930272352e-08, + "loss": 0.2619, + "num_input_tokens_seen": 43047240, + "step": 21990 + }, + { + "epoch": 2.914645460569914, + "grad_norm": 0.18902479112148285, + "learning_rate": 9.988836369105582e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43050416, + "step": 21991 + }, + { + "epoch": 2.914777998674619, + "grad_norm": 7.049749374389648, + "learning_rate": 9.95785981707159e-09, + "loss": 0.1074, + "num_input_tokens_seen": 43052240, + "step": 21992 + }, + { + "epoch": 2.914910536779324, + "grad_norm": 0.6406229734420776, + "learning_rate": 9.926931274767959e-09, + "loss": 0.0028, + "num_input_tokens_seen": 43054920, + "step": 21993 + }, + { + "epoch": 2.915043074884029, + "grad_norm": 0.06147696450352669, + "learning_rate": 9.896050742790875e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43056472, + "step": 21994 + }, + { + "epoch": 2.915175612988734, + "grad_norm": 0.05534979701042175, + "learning_rate": 9.865218221735973e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43058184, + "step": 21995 + }, + { + "epoch": 2.9153081510934395, + "grad_norm": 13.993824005126953, + "learning_rate": 9.834433712197223e-09, + "loss": 0.0456, + "num_input_tokens_seen": 43060016, + "step": 21996 + }, + { + "epoch": 2.9154406891981446, + "grad_norm": 0.11426708102226257, + "learning_rate": 9.803697214768593e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43062056, + "step": 21997 + }, + { + "epoch": 2.9155732273028496, + "grad_norm": 0.0015103942714631557, + "learning_rate": 9.773008730042666e-09, + "loss": 0.0, + "num_input_tokens_seen": 43064688, + "step": 21998 + }, + { + "epoch": 2.9157057654075547, + "grad_norm": 8.768732070922852, + "learning_rate": 9.742368258610912e-09, + "loss": 0.0597, + "num_input_tokens_seen": 43067832, + "step": 21999 + }, + { + "epoch": 2.9158383035122597, + "grad_norm": 0.08799783885478973, + "learning_rate": 9.71177580106425e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43069616, + "step": 22000 + }, + { + "epoch": 2.9159708416169647, + "grad_norm": 0.16143526136875153, + "learning_rate": 9.681231357992481e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43071320, + "step": 22001 + }, + { + "epoch": 2.9161033797216698, + "grad_norm": 0.6979979872703552, + "learning_rate": 9.650734929984584e-09, + "loss": 0.0023, + "num_input_tokens_seen": 43072640, + "step": 22002 + }, + { + "epoch": 2.9162359178263753, + "grad_norm": 0.00871757697314024, + "learning_rate": 9.620286517628696e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43074552, + "step": 22003 + }, + { + "epoch": 2.9163684559310803, + "grad_norm": 3.8733153343200684, + "learning_rate": 9.589886121511572e-09, + "loss": 0.0328, + "num_input_tokens_seen": 43077056, + "step": 22004 + }, + { + "epoch": 2.9165009940357853, + "grad_norm": 0.16095322370529175, + "learning_rate": 9.559533742219407e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43078560, + "step": 22005 + }, + { + "epoch": 2.9166335321404904, + "grad_norm": 0.015874097123742104, + "learning_rate": 9.529229380337569e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43080056, + "step": 22006 + }, + { + "epoch": 2.9167660702451954, + "grad_norm": 9.986083984375, + "learning_rate": 9.49897303645031e-09, + "loss": 0.1752, + "num_input_tokens_seen": 43082744, + "step": 22007 + }, + { + "epoch": 2.9168986083499004, + "grad_norm": 0.014211458154022694, + "learning_rate": 9.468764711141054e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43084776, + "step": 22008 + }, + { + "epoch": 2.9170311464546055, + "grad_norm": 3.568197250366211, + "learning_rate": 9.438604404991835e-09, + "loss": 0.0172, + "num_input_tokens_seen": 43086784, + "step": 22009 + }, + { + "epoch": 2.917163684559311, + "grad_norm": 6.67360258102417, + "learning_rate": 9.408492118584689e-09, + "loss": 0.0694, + "num_input_tokens_seen": 43088824, + "step": 22010 + }, + { + "epoch": 2.917296222664016, + "grad_norm": 0.007190667558461428, + "learning_rate": 9.378427852499983e-09, + "loss": 0.0, + "num_input_tokens_seen": 43091248, + "step": 22011 + }, + { + "epoch": 2.917428760768721, + "grad_norm": 0.37744802236557007, + "learning_rate": 9.348411607317254e-09, + "loss": 0.001, + "num_input_tokens_seen": 43093168, + "step": 22012 + }, + { + "epoch": 2.917561298873426, + "grad_norm": 0.0015196386957541108, + "learning_rate": 9.318443383615483e-09, + "loss": 0.0, + "num_input_tokens_seen": 43095504, + "step": 22013 + }, + { + "epoch": 2.917693836978131, + "grad_norm": 0.03816041350364685, + "learning_rate": 9.288523181972541e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43097048, + "step": 22014 + }, + { + "epoch": 2.917826375082836, + "grad_norm": 15.683837890625, + "learning_rate": 9.258651002964913e-09, + "loss": 0.0953, + "num_input_tokens_seen": 43098768, + "step": 22015 + }, + { + "epoch": 2.917958913187541, + "grad_norm": 0.7249067425727844, + "learning_rate": 9.228826847168804e-09, + "loss": 0.0017, + "num_input_tokens_seen": 43101632, + "step": 22016 + }, + { + "epoch": 2.9180914512922467, + "grad_norm": 0.018533840775489807, + "learning_rate": 9.19905071515903e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43105176, + "step": 22017 + }, + { + "epoch": 2.9182239893969517, + "grad_norm": 19.001815795898438, + "learning_rate": 9.169322607510134e-09, + "loss": 0.2542, + "num_input_tokens_seen": 43106752, + "step": 22018 + }, + { + "epoch": 2.9183565275016567, + "grad_norm": 0.008577525615692139, + "learning_rate": 9.139642524794712e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43108664, + "step": 22019 + }, + { + "epoch": 2.918489065606362, + "grad_norm": 0.0036467225290834904, + "learning_rate": 9.110010467585639e-09, + "loss": 0.0, + "num_input_tokens_seen": 43111024, + "step": 22020 + }, + { + "epoch": 2.918621603711067, + "grad_norm": 4.102461338043213, + "learning_rate": 9.080426436453849e-09, + "loss": 0.0158, + "num_input_tokens_seen": 43112784, + "step": 22021 + }, + { + "epoch": 2.9187541418157723, + "grad_norm": 0.08176983892917633, + "learning_rate": 9.050890431969994e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43115360, + "step": 22022 + }, + { + "epoch": 2.918886679920477, + "grad_norm": 0.01711432635784149, + "learning_rate": 9.021402454703065e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43117640, + "step": 22023 + }, + { + "epoch": 2.9190192180251824, + "grad_norm": 8.551813125610352, + "learning_rate": 8.991962505222052e-09, + "loss": 0.0542, + "num_input_tokens_seen": 43119024, + "step": 22024 + }, + { + "epoch": 2.9191517561298874, + "grad_norm": 3.147411346435547, + "learning_rate": 8.962570584094554e-09, + "loss": 0.0185, + "num_input_tokens_seen": 43120968, + "step": 22025 + }, + { + "epoch": 2.9192842942345925, + "grad_norm": 21.117834091186523, + "learning_rate": 8.933226691887343e-09, + "loss": 0.17, + "num_input_tokens_seen": 43122920, + "step": 22026 + }, + { + "epoch": 2.9194168323392975, + "grad_norm": 15.083314895629883, + "learning_rate": 8.903930829165519e-09, + "loss": 0.2737, + "num_input_tokens_seen": 43125112, + "step": 22027 + }, + { + "epoch": 2.9195493704440025, + "grad_norm": 0.10068300366401672, + "learning_rate": 8.874682996494743e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43126536, + "step": 22028 + }, + { + "epoch": 2.919681908548708, + "grad_norm": 12.075376510620117, + "learning_rate": 8.845483194438732e-09, + "loss": 0.0499, + "num_input_tokens_seen": 43128488, + "step": 22029 + }, + { + "epoch": 2.9198144466534126, + "grad_norm": 1.986091136932373, + "learning_rate": 8.816331423560087e-09, + "loss": 0.0091, + "num_input_tokens_seen": 43130376, + "step": 22030 + }, + { + "epoch": 2.919946984758118, + "grad_norm": 0.00848328322172165, + "learning_rate": 8.787227684421417e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43132560, + "step": 22031 + }, + { + "epoch": 2.920079522862823, + "grad_norm": 2.598376989364624, + "learning_rate": 8.758171977583386e-09, + "loss": 0.0245, + "num_input_tokens_seen": 43135240, + "step": 22032 + }, + { + "epoch": 2.920212060967528, + "grad_norm": 0.0036690249107778072, + "learning_rate": 8.729164303606652e-09, + "loss": 0.0, + "num_input_tokens_seen": 43136640, + "step": 22033 + }, + { + "epoch": 2.920344599072233, + "grad_norm": 0.016206033527851105, + "learning_rate": 8.700204663049939e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43139072, + "step": 22034 + }, + { + "epoch": 2.9204771371769382, + "grad_norm": 0.8606730699539185, + "learning_rate": 8.67129305647224e-09, + "loss": 0.0041, + "num_input_tokens_seen": 43141088, + "step": 22035 + }, + { + "epoch": 2.9206096752816437, + "grad_norm": 0.06360591948032379, + "learning_rate": 8.642429484430615e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43143576, + "step": 22036 + }, + { + "epoch": 2.9207422133863483, + "grad_norm": 4.6535844802856445, + "learning_rate": 8.613613947481558e-09, + "loss": 0.0354, + "num_input_tokens_seen": 43144856, + "step": 22037 + }, + { + "epoch": 2.920874751491054, + "grad_norm": 10.734253883361816, + "learning_rate": 8.584846446180739e-09, + "loss": 0.1165, + "num_input_tokens_seen": 43146888, + "step": 22038 + }, + { + "epoch": 2.921007289595759, + "grad_norm": 0.0016261411365121603, + "learning_rate": 8.556126981082991e-09, + "loss": 0.0, + "num_input_tokens_seen": 43148384, + "step": 22039 + }, + { + "epoch": 2.921139827700464, + "grad_norm": 0.0018114912090823054, + "learning_rate": 8.52745555274176e-09, + "loss": 0.0, + "num_input_tokens_seen": 43149816, + "step": 22040 + }, + { + "epoch": 2.921272365805169, + "grad_norm": 0.08052407205104828, + "learning_rate": 8.498832161709935e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43150952, + "step": 22041 + }, + { + "epoch": 2.921404903909874, + "grad_norm": 0.012318454682826996, + "learning_rate": 8.470256808539301e-09, + "loss": 0.0, + "num_input_tokens_seen": 43152136, + "step": 22042 + }, + { + "epoch": 2.9215374420145794, + "grad_norm": 0.053288139402866364, + "learning_rate": 8.441729493781081e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43154864, + "step": 22043 + }, + { + "epoch": 2.921669980119284, + "grad_norm": 2.100132465362549, + "learning_rate": 8.413250217985114e-09, + "loss": 0.0146, + "num_input_tokens_seen": 43157304, + "step": 22044 + }, + { + "epoch": 2.9218025182239895, + "grad_norm": 6.771554946899414, + "learning_rate": 8.384818981700683e-09, + "loss": 0.069, + "num_input_tokens_seen": 43159224, + "step": 22045 + }, + { + "epoch": 2.9219350563286945, + "grad_norm": 0.018923955038189888, + "learning_rate": 8.35643578547568e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43161008, + "step": 22046 + }, + { + "epoch": 2.9220675944333996, + "grad_norm": 0.0010692656505852938, + "learning_rate": 8.328100629857449e-09, + "loss": 0.0, + "num_input_tokens_seen": 43162384, + "step": 22047 + }, + { + "epoch": 2.9222001325381046, + "grad_norm": 3.4071366786956787, + "learning_rate": 8.299813515392496e-09, + "loss": 0.0061, + "num_input_tokens_seen": 43164576, + "step": 22048 + }, + { + "epoch": 2.9223326706428097, + "grad_norm": 0.02812289632856846, + "learning_rate": 8.27157444262594e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43166288, + "step": 22049 + }, + { + "epoch": 2.922465208747515, + "grad_norm": 0.2410457879304886, + "learning_rate": 8.243383412102623e-09, + "loss": 0.0016, + "num_input_tokens_seen": 43168120, + "step": 22050 + }, + { + "epoch": 2.92259774685222, + "grad_norm": 0.010149221867322922, + "learning_rate": 8.215240424365723e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43170488, + "step": 22051 + }, + { + "epoch": 2.922730284956925, + "grad_norm": 3.368898391723633, + "learning_rate": 8.187145479957858e-09, + "loss": 0.0166, + "num_input_tokens_seen": 43172424, + "step": 22052 + }, + { + "epoch": 2.9228628230616303, + "grad_norm": 8.495651245117188, + "learning_rate": 8.15909857942082e-09, + "loss": 0.0831, + "num_input_tokens_seen": 43174240, + "step": 22053 + }, + { + "epoch": 2.9229953611663353, + "grad_norm": 0.1026514545083046, + "learning_rate": 8.131099723295565e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43176376, + "step": 22054 + }, + { + "epoch": 2.9231278992710403, + "grad_norm": 1.635671615600586, + "learning_rate": 8.103148912121661e-09, + "loss": 0.004, + "num_input_tokens_seen": 43178048, + "step": 22055 + }, + { + "epoch": 2.9232604373757454, + "grad_norm": 0.002948101842775941, + "learning_rate": 8.07524614643812e-09, + "loss": 0.0, + "num_input_tokens_seen": 43180392, + "step": 22056 + }, + { + "epoch": 2.923392975480451, + "grad_norm": 11.108196258544922, + "learning_rate": 8.047391426783124e-09, + "loss": 0.0662, + "num_input_tokens_seen": 43182856, + "step": 22057 + }, + { + "epoch": 2.923525513585156, + "grad_norm": 0.1270332783460617, + "learning_rate": 8.019584753693189e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43185008, + "step": 22058 + }, + { + "epoch": 2.923658051689861, + "grad_norm": 0.05493020638823509, + "learning_rate": 7.991826127705105e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43186440, + "step": 22059 + }, + { + "epoch": 2.923790589794566, + "grad_norm": 7.82921028137207, + "learning_rate": 7.964115549353447e-09, + "loss": 0.1504, + "num_input_tokens_seen": 43190024, + "step": 22060 + }, + { + "epoch": 2.923923127899271, + "grad_norm": 8.035615921020508, + "learning_rate": 7.936453019173063e-09, + "loss": 0.1009, + "num_input_tokens_seen": 43192320, + "step": 22061 + }, + { + "epoch": 2.924055666003976, + "grad_norm": 0.05808660387992859, + "learning_rate": 7.908838537697138e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43195456, + "step": 22062 + }, + { + "epoch": 2.924188204108681, + "grad_norm": 9.034675598144531, + "learning_rate": 7.88127210545775e-09, + "loss": 0.1319, + "num_input_tokens_seen": 43197872, + "step": 22063 + }, + { + "epoch": 2.9243207422133866, + "grad_norm": 2.089660167694092, + "learning_rate": 7.85375372298669e-09, + "loss": 0.0054, + "num_input_tokens_seen": 43200832, + "step": 22064 + }, + { + "epoch": 2.9244532803180916, + "grad_norm": 8.944283485412598, + "learning_rate": 7.826283390814648e-09, + "loss": 0.1389, + "num_input_tokens_seen": 43202624, + "step": 22065 + }, + { + "epoch": 2.9245858184227966, + "grad_norm": 3.8535234928131104, + "learning_rate": 7.798861109470923e-09, + "loss": 0.0113, + "num_input_tokens_seen": 43204856, + "step": 22066 + }, + { + "epoch": 2.9247183565275017, + "grad_norm": 0.016583627089858055, + "learning_rate": 7.771486879484535e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43206936, + "step": 22067 + }, + { + "epoch": 2.9248508946322067, + "grad_norm": 6.6017937660217285, + "learning_rate": 7.744160701383118e-09, + "loss": 0.0577, + "num_input_tokens_seen": 43208464, + "step": 22068 + }, + { + "epoch": 2.9249834327369117, + "grad_norm": 0.008596937172114849, + "learning_rate": 7.716882575693752e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43210432, + "step": 22069 + }, + { + "epoch": 2.925115970841617, + "grad_norm": 0.6601366400718689, + "learning_rate": 7.689652502942124e-09, + "loss": 0.002, + "num_input_tokens_seen": 43212288, + "step": 22070 + }, + { + "epoch": 2.9252485089463223, + "grad_norm": 7.792044162750244, + "learning_rate": 7.662470483653373e-09, + "loss": 0.1357, + "num_input_tokens_seen": 43213976, + "step": 22071 + }, + { + "epoch": 2.9253810470510273, + "grad_norm": 0.0022907129023224115, + "learning_rate": 7.6353365183518e-09, + "loss": 0.0, + "num_input_tokens_seen": 43215176, + "step": 22072 + }, + { + "epoch": 2.9255135851557323, + "grad_norm": 0.2264651656150818, + "learning_rate": 7.608250607560042e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43216872, + "step": 22073 + }, + { + "epoch": 2.9256461232604374, + "grad_norm": 0.009814048185944557, + "learning_rate": 7.581212751800737e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43218544, + "step": 22074 + }, + { + "epoch": 2.9257786613651424, + "grad_norm": 0.14068816602230072, + "learning_rate": 7.554222951594859e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43220128, + "step": 22075 + }, + { + "epoch": 2.9259111994698475, + "grad_norm": 3.8782832622528076, + "learning_rate": 7.527281207463377e-09, + "loss": 0.0329, + "num_input_tokens_seen": 43221744, + "step": 22076 + }, + { + "epoch": 2.9260437375745525, + "grad_norm": 8.24238395690918, + "learning_rate": 7.500387519925046e-09, + "loss": 0.0139, + "num_input_tokens_seen": 43222888, + "step": 22077 + }, + { + "epoch": 2.926176275679258, + "grad_norm": 6.80824613571167, + "learning_rate": 7.473541889498892e-09, + "loss": 0.048, + "num_input_tokens_seen": 43225336, + "step": 22078 + }, + { + "epoch": 2.926308813783963, + "grad_norm": 2.690898895263672, + "learning_rate": 7.446744316702281e-09, + "loss": 0.0139, + "num_input_tokens_seen": 43226992, + "step": 22079 + }, + { + "epoch": 2.926441351888668, + "grad_norm": 0.4056514501571655, + "learning_rate": 7.419994802052022e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43228504, + "step": 22080 + }, + { + "epoch": 2.926573889993373, + "grad_norm": 0.05016142874956131, + "learning_rate": 7.39329334606409e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43230224, + "step": 22081 + }, + { + "epoch": 2.926706428098078, + "grad_norm": 1.9146174192428589, + "learning_rate": 7.366639949252518e-09, + "loss": 0.0027, + "num_input_tokens_seen": 43232416, + "step": 22082 + }, + { + "epoch": 2.926838966202783, + "grad_norm": 0.005480424966663122, + "learning_rate": 7.340034612132174e-09, + "loss": 0.0, + "num_input_tokens_seen": 43234000, + "step": 22083 + }, + { + "epoch": 2.926971504307488, + "grad_norm": 1.8438187837600708, + "learning_rate": 7.3134773352151464e-09, + "loss": 0.0052, + "num_input_tokens_seen": 43236248, + "step": 22084 + }, + { + "epoch": 2.9271040424121937, + "grad_norm": 8.427469253540039, + "learning_rate": 7.286968119014081e-09, + "loss": 0.0715, + "num_input_tokens_seen": 43238664, + "step": 22085 + }, + { + "epoch": 2.9272365805168987, + "grad_norm": 6.219549179077148, + "learning_rate": 7.2605069640399595e-09, + "loss": 0.0726, + "num_input_tokens_seen": 43240680, + "step": 22086 + }, + { + "epoch": 2.9273691186216038, + "grad_norm": 22.618549346923828, + "learning_rate": 7.234093870802927e-09, + "loss": 0.0383, + "num_input_tokens_seen": 43243240, + "step": 22087 + }, + { + "epoch": 2.927501656726309, + "grad_norm": 0.016974564641714096, + "learning_rate": 7.207728839812023e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43245736, + "step": 22088 + }, + { + "epoch": 2.927634194831014, + "grad_norm": 11.528935432434082, + "learning_rate": 7.181411871576005e-09, + "loss": 0.0586, + "num_input_tokens_seen": 43247808, + "step": 22089 + }, + { + "epoch": 2.927766732935719, + "grad_norm": 6.52501106262207, + "learning_rate": 7.155142966601969e-09, + "loss": 0.0536, + "num_input_tokens_seen": 43249328, + "step": 22090 + }, + { + "epoch": 2.927899271040424, + "grad_norm": 4.307399272918701, + "learning_rate": 7.128922125396454e-09, + "loss": 0.0384, + "num_input_tokens_seen": 43251272, + "step": 22091 + }, + { + "epoch": 2.9280318091451294, + "grad_norm": 10.056846618652344, + "learning_rate": 7.102749348465166e-09, + "loss": 0.0423, + "num_input_tokens_seen": 43253688, + "step": 22092 + }, + { + "epoch": 2.9281643472498344, + "grad_norm": 2.213285207748413, + "learning_rate": 7.076624636312701e-09, + "loss": 0.0033, + "num_input_tokens_seen": 43256056, + "step": 22093 + }, + { + "epoch": 2.9282968853545395, + "grad_norm": 0.6583153605461121, + "learning_rate": 7.050547989442546e-09, + "loss": 0.0018, + "num_input_tokens_seen": 43257832, + "step": 22094 + }, + { + "epoch": 2.9284294234592445, + "grad_norm": 0.015409549698233604, + "learning_rate": 7.024519408357633e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43260384, + "step": 22095 + }, + { + "epoch": 2.9285619615639495, + "grad_norm": 0.9824042320251465, + "learning_rate": 6.998538893559781e-09, + "loss": 0.004, + "num_input_tokens_seen": 43262664, + "step": 22096 + }, + { + "epoch": 2.9286944996686546, + "grad_norm": 0.0654655396938324, + "learning_rate": 6.9726064455502564e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43264256, + "step": 22097 + }, + { + "epoch": 2.9288270377733596, + "grad_norm": 2.583324670791626, + "learning_rate": 6.946722064828382e-09, + "loss": 0.0159, + "num_input_tokens_seen": 43266320, + "step": 22098 + }, + { + "epoch": 2.928959575878065, + "grad_norm": 10.743614196777344, + "learning_rate": 6.9208857518934805e-09, + "loss": 0.1085, + "num_input_tokens_seen": 43268592, + "step": 22099 + }, + { + "epoch": 2.92909211398277, + "grad_norm": 0.002843249123543501, + "learning_rate": 6.895097507244042e-09, + "loss": 0.0, + "num_input_tokens_seen": 43270008, + "step": 22100 + }, + { + "epoch": 2.929224652087475, + "grad_norm": 5.35045862197876, + "learning_rate": 6.869357331376891e-09, + "loss": 0.0668, + "num_input_tokens_seen": 43271480, + "step": 22101 + }, + { + "epoch": 2.92935719019218, + "grad_norm": 30.963146209716797, + "learning_rate": 6.843665224788576e-09, + "loss": 0.2139, + "num_input_tokens_seen": 43273000, + "step": 22102 + }, + { + "epoch": 2.9294897282968853, + "grad_norm": 7.191398620605469, + "learning_rate": 6.818021187974533e-09, + "loss": 0.0695, + "num_input_tokens_seen": 43275728, + "step": 22103 + }, + { + "epoch": 2.9296222664015903, + "grad_norm": 6.045431613922119, + "learning_rate": 6.7924252214285336e-09, + "loss": 0.0272, + "num_input_tokens_seen": 43277720, + "step": 22104 + }, + { + "epoch": 2.9297548045062953, + "grad_norm": 0.005579132121056318, + "learning_rate": 6.766877325644905e-09, + "loss": 0.0, + "num_input_tokens_seen": 43279304, + "step": 22105 + }, + { + "epoch": 2.929887342611001, + "grad_norm": 6.941376209259033, + "learning_rate": 6.7413775011154756e-09, + "loss": 0.0479, + "num_input_tokens_seen": 43280944, + "step": 22106 + }, + { + "epoch": 2.930019880715706, + "grad_norm": 9.945730209350586, + "learning_rate": 6.71592574833263e-09, + "loss": 0.0831, + "num_input_tokens_seen": 43283592, + "step": 22107 + }, + { + "epoch": 2.930152418820411, + "grad_norm": 0.029946571215987206, + "learning_rate": 6.6905220677868085e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43285352, + "step": 22108 + }, + { + "epoch": 2.930284956925116, + "grad_norm": 2.69757342338562, + "learning_rate": 6.6651664599676204e-09, + "loss": 0.0137, + "num_input_tokens_seen": 43287736, + "step": 22109 + }, + { + "epoch": 2.930417495029821, + "grad_norm": 8.09864330291748, + "learning_rate": 6.639858925364118e-09, + "loss": 0.1031, + "num_input_tokens_seen": 43289640, + "step": 22110 + }, + { + "epoch": 2.9305500331345264, + "grad_norm": 14.94510555267334, + "learning_rate": 6.6145994644642445e-09, + "loss": 0.0743, + "num_input_tokens_seen": 43292136, + "step": 22111 + }, + { + "epoch": 2.930682571239231, + "grad_norm": 3.3469364643096924, + "learning_rate": 6.589388077754833e-09, + "loss": 0.0344, + "num_input_tokens_seen": 43294640, + "step": 22112 + }, + { + "epoch": 2.9308151093439365, + "grad_norm": 0.3360113799571991, + "learning_rate": 6.5642247657224376e-09, + "loss": 0.0012, + "num_input_tokens_seen": 43296968, + "step": 22113 + }, + { + "epoch": 2.9309476474486416, + "grad_norm": 0.016380127519369125, + "learning_rate": 6.539109528851673e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43298568, + "step": 22114 + }, + { + "epoch": 2.9310801855533466, + "grad_norm": 3.8965156078338623, + "learning_rate": 6.514042367627149e-09, + "loss": 0.0435, + "num_input_tokens_seen": 43300112, + "step": 22115 + }, + { + "epoch": 2.9312127236580516, + "grad_norm": 2.0914340019226074, + "learning_rate": 6.489023282532092e-09, + "loss": 0.0083, + "num_input_tokens_seen": 43301824, + "step": 22116 + }, + { + "epoch": 2.9313452617627567, + "grad_norm": 2.017146110534668, + "learning_rate": 6.4640522740486155e-09, + "loss": 0.031, + "num_input_tokens_seen": 43303640, + "step": 22117 + }, + { + "epoch": 2.931477799867462, + "grad_norm": 1.4194573163986206, + "learning_rate": 6.439129342658557e-09, + "loss": 0.0081, + "num_input_tokens_seen": 43305520, + "step": 22118 + }, + { + "epoch": 2.9316103379721667, + "grad_norm": 0.0023405931424349546, + "learning_rate": 6.414254488842364e-09, + "loss": 0.0, + "num_input_tokens_seen": 43306952, + "step": 22119 + }, + { + "epoch": 2.9317428760768722, + "grad_norm": 2.6504392623901367, + "learning_rate": 6.3894277130796545e-09, + "loss": 0.0102, + "num_input_tokens_seen": 43308784, + "step": 22120 + }, + { + "epoch": 2.9318754141815773, + "grad_norm": 2.050424575805664, + "learning_rate": 6.364649015848934e-09, + "loss": 0.0242, + "num_input_tokens_seen": 43310560, + "step": 22121 + }, + { + "epoch": 2.9320079522862823, + "grad_norm": 0.023232610896229744, + "learning_rate": 6.339918397627876e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43312104, + "step": 22122 + }, + { + "epoch": 2.9321404903909873, + "grad_norm": 0.11372028291225433, + "learning_rate": 6.315235858893598e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43313664, + "step": 22123 + }, + { + "epoch": 2.9322730284956924, + "grad_norm": 8.348061561584473, + "learning_rate": 6.2906014001221094e-09, + "loss": 0.0924, + "num_input_tokens_seen": 43315784, + "step": 22124 + }, + { + "epoch": 2.932405566600398, + "grad_norm": 0.014346299692988396, + "learning_rate": 6.266015021787752e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43317440, + "step": 22125 + }, + { + "epoch": 2.9325381047051025, + "grad_norm": 0.03806941956281662, + "learning_rate": 6.241476724365148e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43318760, + "step": 22126 + }, + { + "epoch": 2.932670642809808, + "grad_norm": 0.30412936210632324, + "learning_rate": 6.216986508327527e-09, + "loss": 0.0011, + "num_input_tokens_seen": 43320680, + "step": 22127 + }, + { + "epoch": 2.932803180914513, + "grad_norm": 0.7329542636871338, + "learning_rate": 6.192544374146458e-09, + "loss": 0.0034, + "num_input_tokens_seen": 43322992, + "step": 22128 + }, + { + "epoch": 2.932935719019218, + "grad_norm": 1.9308414459228516, + "learning_rate": 6.1681503222935094e-09, + "loss": 0.0091, + "num_input_tokens_seen": 43326168, + "step": 22129 + }, + { + "epoch": 2.933068257123923, + "grad_norm": 2.010263681411743, + "learning_rate": 6.143804353238858e-09, + "loss": 0.0076, + "num_input_tokens_seen": 43329000, + "step": 22130 + }, + { + "epoch": 2.933200795228628, + "grad_norm": 0.009435562416911125, + "learning_rate": 6.119506467452408e-09, + "loss": 0.0, + "num_input_tokens_seen": 43330568, + "step": 22131 + }, + { + "epoch": 2.9333333333333336, + "grad_norm": 10.957011222839355, + "learning_rate": 6.0952566654023934e-09, + "loss": 0.0802, + "num_input_tokens_seen": 43332560, + "step": 22132 + }, + { + "epoch": 2.933465871438038, + "grad_norm": 0.014063953422009945, + "learning_rate": 6.071054947555943e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43333912, + "step": 22133 + }, + { + "epoch": 2.9335984095427436, + "grad_norm": 14.409337043762207, + "learning_rate": 6.046901314380183e-09, + "loss": 0.2201, + "num_input_tokens_seen": 43336160, + "step": 22134 + }, + { + "epoch": 2.9337309476474487, + "grad_norm": 0.01625487580895424, + "learning_rate": 6.022795766340572e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43338160, + "step": 22135 + }, + { + "epoch": 2.9338634857521537, + "grad_norm": 7.523234844207764, + "learning_rate": 5.998738303902018e-09, + "loss": 0.0902, + "num_input_tokens_seen": 43341040, + "step": 22136 + }, + { + "epoch": 2.9339960238568588, + "grad_norm": 0.002209529746323824, + "learning_rate": 5.974728927528595e-09, + "loss": 0.0, + "num_input_tokens_seen": 43342176, + "step": 22137 + }, + { + "epoch": 2.934128561961564, + "grad_norm": 5.534908771514893, + "learning_rate": 5.9507676376827085e-09, + "loss": 0.0838, + "num_input_tokens_seen": 43344416, + "step": 22138 + }, + { + "epoch": 2.9342611000662693, + "grad_norm": 4.271093845367432, + "learning_rate": 5.92685443482649e-09, + "loss": 0.0197, + "num_input_tokens_seen": 43347416, + "step": 22139 + }, + { + "epoch": 2.9343936381709743, + "grad_norm": 0.03302037715911865, + "learning_rate": 5.902989319421237e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43349656, + "step": 22140 + }, + { + "epoch": 2.9345261762756794, + "grad_norm": 5.448806285858154, + "learning_rate": 5.87917229192686e-09, + "loss": 0.0332, + "num_input_tokens_seen": 43351768, + "step": 22141 + }, + { + "epoch": 2.9346587143803844, + "grad_norm": 0.008495145477354527, + "learning_rate": 5.8554033528024355e-09, + "loss": 0.0, + "num_input_tokens_seen": 43353656, + "step": 22142 + }, + { + "epoch": 2.9347912524850894, + "grad_norm": 0.012205966748297215, + "learning_rate": 5.831682502506764e-09, + "loss": 0.0, + "num_input_tokens_seen": 43356000, + "step": 22143 + }, + { + "epoch": 2.9349237905897945, + "grad_norm": 0.0032853432931005955, + "learning_rate": 5.8080097414967e-09, + "loss": 0.0, + "num_input_tokens_seen": 43357568, + "step": 22144 + }, + { + "epoch": 2.9350563286944995, + "grad_norm": 0.006267149467021227, + "learning_rate": 5.784385070229104e-09, + "loss": 0.0, + "num_input_tokens_seen": 43359344, + "step": 22145 + }, + { + "epoch": 2.935188866799205, + "grad_norm": 10.19390869140625, + "learning_rate": 5.760808489159164e-09, + "loss": 0.1342, + "num_input_tokens_seen": 43361912, + "step": 22146 + }, + { + "epoch": 2.93532140490391, + "grad_norm": 0.03335731104016304, + "learning_rate": 5.737279998741241e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43364440, + "step": 22147 + }, + { + "epoch": 2.935453943008615, + "grad_norm": 0.43734079599380493, + "learning_rate": 5.713799599429693e-09, + "loss": 0.0012, + "num_input_tokens_seen": 43365896, + "step": 22148 + }, + { + "epoch": 2.93558648111332, + "grad_norm": 0.08593138307332993, + "learning_rate": 5.69036729167638e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43367896, + "step": 22149 + }, + { + "epoch": 2.935719019218025, + "grad_norm": 0.009426298551261425, + "learning_rate": 5.6669830759339965e-09, + "loss": 0.0, + "num_input_tokens_seen": 43369072, + "step": 22150 + }, + { + "epoch": 2.93585155732273, + "grad_norm": 6.8926239013671875, + "learning_rate": 5.64364695265246e-09, + "loss": 0.0327, + "num_input_tokens_seen": 43371120, + "step": 22151 + }, + { + "epoch": 2.935984095427435, + "grad_norm": 0.005670865066349506, + "learning_rate": 5.6203589222825205e-09, + "loss": 0.0, + "num_input_tokens_seen": 43372152, + "step": 22152 + }, + { + "epoch": 2.9361166335321407, + "grad_norm": 0.8136738538742065, + "learning_rate": 5.59711898527271e-09, + "loss": 0.0039, + "num_input_tokens_seen": 43375024, + "step": 22153 + }, + { + "epoch": 2.9362491716368457, + "grad_norm": 5.071423530578613, + "learning_rate": 5.5739271420712785e-09, + "loss": 0.0506, + "num_input_tokens_seen": 43376624, + "step": 22154 + }, + { + "epoch": 2.9363817097415508, + "grad_norm": 24.13330078125, + "learning_rate": 5.550783393125092e-09, + "loss": 0.1184, + "num_input_tokens_seen": 43378248, + "step": 22155 + }, + { + "epoch": 2.936514247846256, + "grad_norm": 0.002653921488672495, + "learning_rate": 5.5276877388810155e-09, + "loss": 0.0, + "num_input_tokens_seen": 43380880, + "step": 22156 + }, + { + "epoch": 2.936646785950961, + "grad_norm": 0.011623536236584187, + "learning_rate": 5.504640179783693e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43382688, + "step": 22157 + }, + { + "epoch": 2.936779324055666, + "grad_norm": 0.046251118183135986, + "learning_rate": 5.481640716278047e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43383696, + "step": 22158 + }, + { + "epoch": 2.936911862160371, + "grad_norm": 0.0017245863564312458, + "learning_rate": 5.4586893488070555e-09, + "loss": 0.0, + "num_input_tokens_seen": 43384928, + "step": 22159 + }, + { + "epoch": 2.9370444002650764, + "grad_norm": 0.03072090446949005, + "learning_rate": 5.435786077813421e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43386896, + "step": 22160 + }, + { + "epoch": 2.9371769383697814, + "grad_norm": 2.2341530323028564, + "learning_rate": 5.412930903738734e-09, + "loss": 0.0122, + "num_input_tokens_seen": 43388824, + "step": 22161 + }, + { + "epoch": 2.9373094764744865, + "grad_norm": 10.868108749389648, + "learning_rate": 5.390123827023752e-09, + "loss": 0.0932, + "num_input_tokens_seen": 43390600, + "step": 22162 + }, + { + "epoch": 2.9374420145791915, + "grad_norm": 0.0027919115964323282, + "learning_rate": 5.367364848108125e-09, + "loss": 0.0, + "num_input_tokens_seen": 43391528, + "step": 22163 + }, + { + "epoch": 2.9375745526838966, + "grad_norm": 0.06976006925106049, + "learning_rate": 5.344653967430669e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43392984, + "step": 22164 + }, + { + "epoch": 2.9377070907886016, + "grad_norm": 2.8172214031219482, + "learning_rate": 5.321991185429087e-09, + "loss": 0.012, + "num_input_tokens_seen": 43395120, + "step": 22165 + }, + { + "epoch": 2.9378396288933066, + "grad_norm": 2.775331974029541, + "learning_rate": 5.299376502540809e-09, + "loss": 0.0324, + "num_input_tokens_seen": 43397072, + "step": 22166 + }, + { + "epoch": 2.937972166998012, + "grad_norm": 0.09739279001951218, + "learning_rate": 5.27680991920132e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43398416, + "step": 22167 + }, + { + "epoch": 2.938104705102717, + "grad_norm": 8.417837142944336, + "learning_rate": 5.254291435846104e-09, + "loss": 0.1836, + "num_input_tokens_seen": 43401040, + "step": 22168 + }, + { + "epoch": 2.938237243207422, + "grad_norm": 7.034914493560791, + "learning_rate": 5.231821052908981e-09, + "loss": 0.0269, + "num_input_tokens_seen": 43403104, + "step": 22169 + }, + { + "epoch": 2.9383697813121272, + "grad_norm": 17.984704971313477, + "learning_rate": 5.209398770823493e-09, + "loss": 0.2277, + "num_input_tokens_seen": 43404984, + "step": 22170 + }, + { + "epoch": 2.9385023194168323, + "grad_norm": 4.409945964813232, + "learning_rate": 5.187024590021794e-09, + "loss": 0.0273, + "num_input_tokens_seen": 43406632, + "step": 22171 + }, + { + "epoch": 2.9386348575215373, + "grad_norm": 0.01551005057990551, + "learning_rate": 5.164698510935484e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43408688, + "step": 22172 + }, + { + "epoch": 2.9387673956262423, + "grad_norm": 0.00377973192371428, + "learning_rate": 5.142420533995052e-09, + "loss": 0.0, + "num_input_tokens_seen": 43409912, + "step": 22173 + }, + { + "epoch": 2.938899933730948, + "grad_norm": 0.007364246528595686, + "learning_rate": 5.120190659629598e-09, + "loss": 0.0, + "num_input_tokens_seen": 43412008, + "step": 22174 + }, + { + "epoch": 2.939032471835653, + "grad_norm": 12.22370719909668, + "learning_rate": 5.098008888267947e-09, + "loss": 0.2074, + "num_input_tokens_seen": 43414400, + "step": 22175 + }, + { + "epoch": 2.939165009940358, + "grad_norm": 0.0016230563633143902, + "learning_rate": 5.075875220338089e-09, + "loss": 0.0, + "num_input_tokens_seen": 43415832, + "step": 22176 + }, + { + "epoch": 2.939297548045063, + "grad_norm": 4.920330047607422, + "learning_rate": 5.05378965626635e-09, + "loss": 0.041, + "num_input_tokens_seen": 43417576, + "step": 22177 + }, + { + "epoch": 2.939430086149768, + "grad_norm": 2.4089043140411377, + "learning_rate": 5.0317521964787786e-09, + "loss": 0.0204, + "num_input_tokens_seen": 43420160, + "step": 22178 + }, + { + "epoch": 2.939562624254473, + "grad_norm": 4.749571800231934, + "learning_rate": 5.009762841400034e-09, + "loss": 0.0695, + "num_input_tokens_seen": 43422056, + "step": 22179 + }, + { + "epoch": 2.939695162359178, + "grad_norm": 0.0010952723678201437, + "learning_rate": 4.9878215914545004e-09, + "loss": 0.0, + "num_input_tokens_seen": 43423408, + "step": 22180 + }, + { + "epoch": 2.9398277004638835, + "grad_norm": 0.22786812484264374, + "learning_rate": 4.9659284470648935e-09, + "loss": 0.0009, + "num_input_tokens_seen": 43425184, + "step": 22181 + }, + { + "epoch": 2.9399602385685886, + "grad_norm": 14.400517463684082, + "learning_rate": 4.9440834086533775e-09, + "loss": 0.3224, + "num_input_tokens_seen": 43427024, + "step": 22182 + }, + { + "epoch": 2.9400927766732936, + "grad_norm": 0.012812037952244282, + "learning_rate": 4.92228647664128e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43428888, + "step": 22183 + }, + { + "epoch": 2.9402253147779986, + "grad_norm": 0.008589325472712517, + "learning_rate": 4.900537651448545e-09, + "loss": 0.0, + "num_input_tokens_seen": 43430088, + "step": 22184 + }, + { + "epoch": 2.9403578528827037, + "grad_norm": 5.465794086456299, + "learning_rate": 4.8788369334951126e-09, + "loss": 0.0433, + "num_input_tokens_seen": 43433848, + "step": 22185 + }, + { + "epoch": 2.9404903909874087, + "grad_norm": 0.04985884577035904, + "learning_rate": 4.857184323198705e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43436752, + "step": 22186 + }, + { + "epoch": 2.9406229290921138, + "grad_norm": 0.1549299955368042, + "learning_rate": 4.835579820977043e-09, + "loss": 0.0011, + "num_input_tokens_seen": 43438840, + "step": 22187 + }, + { + "epoch": 2.9407554671968192, + "grad_norm": 13.72365665435791, + "learning_rate": 4.814023427247017e-09, + "loss": 0.3077, + "num_input_tokens_seen": 43441104, + "step": 22188 + }, + { + "epoch": 2.9408880053015243, + "grad_norm": 0.02718745730817318, + "learning_rate": 4.792515142423848e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43444024, + "step": 22189 + }, + { + "epoch": 2.9410205434062293, + "grad_norm": 2.9345405101776123, + "learning_rate": 4.7710549669222065e-09, + "loss": 0.0165, + "num_input_tokens_seen": 43445672, + "step": 22190 + }, + { + "epoch": 2.9411530815109344, + "grad_norm": 6.276704788208008, + "learning_rate": 4.749642901156204e-09, + "loss": 0.0132, + "num_input_tokens_seen": 43447584, + "step": 22191 + }, + { + "epoch": 2.9412856196156394, + "grad_norm": 0.008495446294546127, + "learning_rate": 4.728278945538289e-09, + "loss": 0.0, + "num_input_tokens_seen": 43448784, + "step": 22192 + }, + { + "epoch": 2.941418157720345, + "grad_norm": 9.648369789123535, + "learning_rate": 4.706963100480633e-09, + "loss": 0.0192, + "num_input_tokens_seen": 43451120, + "step": 22193 + }, + { + "epoch": 2.9415506958250495, + "grad_norm": 0.2611417770385742, + "learning_rate": 4.685695366394016e-09, + "loss": 0.0018, + "num_input_tokens_seen": 43453992, + "step": 22194 + }, + { + "epoch": 2.941683233929755, + "grad_norm": 14.668900489807129, + "learning_rate": 4.664475743688668e-09, + "loss": 0.2126, + "num_input_tokens_seen": 43456448, + "step": 22195 + }, + { + "epoch": 2.94181577203446, + "grad_norm": 0.08406632393598557, + "learning_rate": 4.643304232773982e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43459360, + "step": 22196 + }, + { + "epoch": 2.941948310139165, + "grad_norm": 0.3660418689250946, + "learning_rate": 4.62218083405741e-09, + "loss": 0.0016, + "num_input_tokens_seen": 43461160, + "step": 22197 + }, + { + "epoch": 2.94208084824387, + "grad_norm": 0.5038986206054688, + "learning_rate": 4.60110554794696e-09, + "loss": 0.0036, + "num_input_tokens_seen": 43464288, + "step": 22198 + }, + { + "epoch": 2.942213386348575, + "grad_norm": 12.731736183166504, + "learning_rate": 4.5800783748486955e-09, + "loss": 0.1609, + "num_input_tokens_seen": 43467112, + "step": 22199 + }, + { + "epoch": 2.9423459244532806, + "grad_norm": 0.003218056634068489, + "learning_rate": 4.559099315167848e-09, + "loss": 0.0, + "num_input_tokens_seen": 43468408, + "step": 22200 + }, + { + "epoch": 2.942478462557985, + "grad_norm": 6.425694465637207, + "learning_rate": 4.538168369309093e-09, + "loss": 0.0485, + "num_input_tokens_seen": 43470848, + "step": 22201 + }, + { + "epoch": 2.9426110006626907, + "grad_norm": 2.1874780654907227, + "learning_rate": 4.517285537675997e-09, + "loss": 0.0075, + "num_input_tokens_seen": 43472400, + "step": 22202 + }, + { + "epoch": 2.9427435387673957, + "grad_norm": 7.34139347076416, + "learning_rate": 4.496450820671294e-09, + "loss": 0.1725, + "num_input_tokens_seen": 43474648, + "step": 22203 + }, + { + "epoch": 2.9428760768721007, + "grad_norm": 0.006921963766217232, + "learning_rate": 4.4756642186963295e-09, + "loss": 0.0, + "num_input_tokens_seen": 43476512, + "step": 22204 + }, + { + "epoch": 2.9430086149768058, + "grad_norm": 11.82992935180664, + "learning_rate": 4.454925732152449e-09, + "loss": 0.1437, + "num_input_tokens_seen": 43478288, + "step": 22205 + }, + { + "epoch": 2.943141153081511, + "grad_norm": 5.393231391906738, + "learning_rate": 4.434235361439054e-09, + "loss": 0.0232, + "num_input_tokens_seen": 43480312, + "step": 22206 + }, + { + "epoch": 2.9432736911862163, + "grad_norm": 10.708026885986328, + "learning_rate": 4.413593106955272e-09, + "loss": 0.2381, + "num_input_tokens_seen": 43481856, + "step": 22207 + }, + { + "epoch": 2.943406229290921, + "grad_norm": 6.932523250579834, + "learning_rate": 4.392998969098838e-09, + "loss": 0.0521, + "num_input_tokens_seen": 43483912, + "step": 22208 + }, + { + "epoch": 2.9435387673956264, + "grad_norm": 2.2146403789520264, + "learning_rate": 4.372452948267214e-09, + "loss": 0.0143, + "num_input_tokens_seen": 43485280, + "step": 22209 + }, + { + "epoch": 2.9436713055003314, + "grad_norm": 0.24946315586566925, + "learning_rate": 4.3519550448561935e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43488680, + "step": 22210 + }, + { + "epoch": 2.9438038436050364, + "grad_norm": 0.6993536949157715, + "learning_rate": 4.331505259261293e-09, + "loss": 0.0056, + "num_input_tokens_seen": 43490576, + "step": 22211 + }, + { + "epoch": 2.9439363817097415, + "grad_norm": 14.776391983032227, + "learning_rate": 4.311103591876365e-09, + "loss": 0.2447, + "num_input_tokens_seen": 43494168, + "step": 22212 + }, + { + "epoch": 2.9440689198144465, + "grad_norm": 7.063780784606934, + "learning_rate": 4.2907500430952595e-09, + "loss": 0.0752, + "num_input_tokens_seen": 43497616, + "step": 22213 + }, + { + "epoch": 2.944201457919152, + "grad_norm": 0.0016312790103256702, + "learning_rate": 4.2704446133101655e-09, + "loss": 0.0, + "num_input_tokens_seen": 43499184, + "step": 22214 + }, + { + "epoch": 2.9443339960238566, + "grad_norm": 11.208063125610352, + "learning_rate": 4.2501873029127115e-09, + "loss": 0.0647, + "num_input_tokens_seen": 43501440, + "step": 22215 + }, + { + "epoch": 2.944466534128562, + "grad_norm": 0.06850332021713257, + "learning_rate": 4.22997811229342e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43503512, + "step": 22216 + }, + { + "epoch": 2.944599072233267, + "grad_norm": 0.010271979495882988, + "learning_rate": 4.209817041841702e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43504464, + "step": 22217 + }, + { + "epoch": 2.944731610337972, + "grad_norm": 0.16310912370681763, + "learning_rate": 4.189704091946411e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43506520, + "step": 22218 + }, + { + "epoch": 2.944864148442677, + "grad_norm": 0.6446613669395447, + "learning_rate": 4.169639262995573e-09, + "loss": 0.0024, + "num_input_tokens_seen": 43509936, + "step": 22219 + }, + { + "epoch": 2.9449966865473822, + "grad_norm": 0.03429146856069565, + "learning_rate": 4.149622555375821e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43511656, + "step": 22220 + }, + { + "epoch": 2.9451292246520877, + "grad_norm": 5.493871688842773, + "learning_rate": 4.1296539694732355e-09, + "loss": 0.0597, + "num_input_tokens_seen": 43513872, + "step": 22221 + }, + { + "epoch": 2.9452617627567923, + "grad_norm": 0.004199087154120207, + "learning_rate": 4.109733505672509e-09, + "loss": 0.0, + "num_input_tokens_seen": 43515952, + "step": 22222 + }, + { + "epoch": 2.945394300861498, + "grad_norm": 0.35710567235946655, + "learning_rate": 4.089861164358056e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43517608, + "step": 22223 + }, + { + "epoch": 2.945526838966203, + "grad_norm": 0.03404812514781952, + "learning_rate": 4.070036945912903e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43518848, + "step": 22224 + }, + { + "epoch": 2.945659377070908, + "grad_norm": 0.5212902426719666, + "learning_rate": 4.0502608507192454e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43521176, + "step": 22225 + }, + { + "epoch": 2.945791915175613, + "grad_norm": 0.12299291789531708, + "learning_rate": 4.030532879158722e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43523376, + "step": 22226 + }, + { + "epoch": 2.945924453280318, + "grad_norm": 3.2495760917663574, + "learning_rate": 4.010853031611029e-09, + "loss": 0.0426, + "num_input_tokens_seen": 43525152, + "step": 22227 + }, + { + "epoch": 2.9460569913850234, + "grad_norm": 0.0035223516169935465, + "learning_rate": 3.991221308456139e-09, + "loss": 0.0, + "num_input_tokens_seen": 43526520, + "step": 22228 + }, + { + "epoch": 2.9461895294897285, + "grad_norm": 1.9483466148376465, + "learning_rate": 3.971637710072363e-09, + "loss": 0.0149, + "num_input_tokens_seen": 43528272, + "step": 22229 + }, + { + "epoch": 2.9463220675944335, + "grad_norm": 0.03639443218708038, + "learning_rate": 3.952102236837452e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43530632, + "step": 22230 + }, + { + "epoch": 2.9464546056991385, + "grad_norm": 6.411543846130371, + "learning_rate": 3.93261488912805e-09, + "loss": 0.0262, + "num_input_tokens_seen": 43533008, + "step": 22231 + }, + { + "epoch": 2.9465871438038436, + "grad_norm": 4.313691139221191, + "learning_rate": 3.913175667319413e-09, + "loss": 0.0317, + "num_input_tokens_seen": 43534960, + "step": 22232 + }, + { + "epoch": 2.9467196819085486, + "grad_norm": 5.763996601104736, + "learning_rate": 3.893784571787074e-09, + "loss": 0.0392, + "num_input_tokens_seen": 43536904, + "step": 22233 + }, + { + "epoch": 2.9468522200132536, + "grad_norm": 0.23853237926959991, + "learning_rate": 3.874441602904344e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43537968, + "step": 22234 + }, + { + "epoch": 2.946984758117959, + "grad_norm": 0.0018829447217285633, + "learning_rate": 3.855146761044259e-09, + "loss": 0.0, + "num_input_tokens_seen": 43539104, + "step": 22235 + }, + { + "epoch": 2.947117296222664, + "grad_norm": 0.03619382530450821, + "learning_rate": 3.8359000465793e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43541744, + "step": 22236 + }, + { + "epoch": 2.947249834327369, + "grad_norm": 0.0006016155239194632, + "learning_rate": 3.816701459880001e-09, + "loss": 0.0, + "num_input_tokens_seen": 43543160, + "step": 22237 + }, + { + "epoch": 2.9473823724320742, + "grad_norm": 4.760390281677246, + "learning_rate": 3.797551001316624e-09, + "loss": 0.0733, + "num_input_tokens_seen": 43546168, + "step": 22238 + }, + { + "epoch": 2.9475149105367793, + "grad_norm": 0.00532658351585269, + "learning_rate": 3.7784486712585946e-09, + "loss": 0.0, + "num_input_tokens_seen": 43547784, + "step": 22239 + }, + { + "epoch": 2.9476474486414843, + "grad_norm": 0.11292336881160736, + "learning_rate": 3.759394470074229e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43549192, + "step": 22240 + }, + { + "epoch": 2.9477799867461894, + "grad_norm": 2.300103187561035, + "learning_rate": 3.740388398130734e-09, + "loss": 0.0075, + "num_input_tokens_seen": 43550616, + "step": 22241 + }, + { + "epoch": 2.947912524850895, + "grad_norm": 14.270966529846191, + "learning_rate": 3.7214304557944835e-09, + "loss": 0.0856, + "num_input_tokens_seen": 43552808, + "step": 22242 + }, + { + "epoch": 2.9480450629556, + "grad_norm": 12.490785598754883, + "learning_rate": 3.7025206434312954e-09, + "loss": 0.0888, + "num_input_tokens_seen": 43554880, + "step": 22243 + }, + { + "epoch": 2.948177601060305, + "grad_norm": 5.024721622467041, + "learning_rate": 3.6836589614056007e-09, + "loss": 0.0841, + "num_input_tokens_seen": 43556528, + "step": 22244 + }, + { + "epoch": 2.94831013916501, + "grad_norm": 10.244945526123047, + "learning_rate": 3.664845410080997e-09, + "loss": 0.0604, + "num_input_tokens_seen": 43558416, + "step": 22245 + }, + { + "epoch": 2.948442677269715, + "grad_norm": 0.7364751100540161, + "learning_rate": 3.646079989820528e-09, + "loss": 0.0017, + "num_input_tokens_seen": 43560624, + "step": 22246 + }, + { + "epoch": 2.94857521537442, + "grad_norm": 7.57244873046875, + "learning_rate": 3.6273627009855706e-09, + "loss": 0.0554, + "num_input_tokens_seen": 43563104, + "step": 22247 + }, + { + "epoch": 2.948707753479125, + "grad_norm": 7.464260101318359, + "learning_rate": 3.608693543937225e-09, + "loss": 0.0753, + "num_input_tokens_seen": 43565280, + "step": 22248 + }, + { + "epoch": 2.9488402915838305, + "grad_norm": 8.373775482177734, + "learning_rate": 3.5900725190357587e-09, + "loss": 0.1406, + "num_input_tokens_seen": 43566992, + "step": 22249 + }, + { + "epoch": 2.9489728296885356, + "grad_norm": 0.002331664552912116, + "learning_rate": 3.571499626639496e-09, + "loss": 0.0, + "num_input_tokens_seen": 43568344, + "step": 22250 + }, + { + "epoch": 2.9491053677932406, + "grad_norm": 0.7943106889724731, + "learning_rate": 3.5529748671070396e-09, + "loss": 0.0037, + "num_input_tokens_seen": 43571104, + "step": 22251 + }, + { + "epoch": 2.9492379058979457, + "grad_norm": 0.027450673282146454, + "learning_rate": 3.534498240795603e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43572840, + "step": 22252 + }, + { + "epoch": 2.9493704440026507, + "grad_norm": 0.0012822701828554273, + "learning_rate": 3.5160697480610127e-09, + "loss": 0.0, + "num_input_tokens_seen": 43574528, + "step": 22253 + }, + { + "epoch": 2.9495029821073557, + "grad_norm": 0.05112503841519356, + "learning_rate": 3.497689389258818e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43576272, + "step": 22254 + }, + { + "epoch": 2.9496355202120608, + "grad_norm": 10.213202476501465, + "learning_rate": 3.4793571647434577e-09, + "loss": 0.1349, + "num_input_tokens_seen": 43578112, + "step": 22255 + }, + { + "epoch": 2.9497680583167663, + "grad_norm": 1.7686731815338135, + "learning_rate": 3.461073074868537e-09, + "loss": 0.0048, + "num_input_tokens_seen": 43580344, + "step": 22256 + }, + { + "epoch": 2.9499005964214713, + "grad_norm": 3.5689826011657715, + "learning_rate": 3.4428371199862755e-09, + "loss": 0.0103, + "num_input_tokens_seen": 43582160, + "step": 22257 + }, + { + "epoch": 2.9500331345261763, + "grad_norm": 0.048518940806388855, + "learning_rate": 3.4246493004486127e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43584136, + "step": 22258 + }, + { + "epoch": 2.9501656726308814, + "grad_norm": 0.6350401043891907, + "learning_rate": 3.4065096166055465e-09, + "loss": 0.0027, + "num_input_tokens_seen": 43586048, + "step": 22259 + }, + { + "epoch": 2.9502982107355864, + "grad_norm": 0.01981395110487938, + "learning_rate": 3.3884180688076308e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43587912, + "step": 22260 + }, + { + "epoch": 2.9504307488402914, + "grad_norm": 4.001582145690918, + "learning_rate": 3.370374657403197e-09, + "loss": 0.0267, + "num_input_tokens_seen": 43589856, + "step": 22261 + }, + { + "epoch": 2.9505632869449965, + "grad_norm": 6.8600687980651855, + "learning_rate": 3.352379382740578e-09, + "loss": 0.0568, + "num_input_tokens_seen": 43591248, + "step": 22262 + }, + { + "epoch": 2.950695825049702, + "grad_norm": 0.006536876782774925, + "learning_rate": 3.3344322451661636e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43592904, + "step": 22263 + }, + { + "epoch": 2.950828363154407, + "grad_norm": 0.25441277027130127, + "learning_rate": 3.316533245026343e-09, + "loss": 0.0011, + "num_input_tokens_seen": 43594672, + "step": 22264 + }, + { + "epoch": 2.950960901259112, + "grad_norm": 0.5788674354553223, + "learning_rate": 3.298682382665841e-09, + "loss": 0.003, + "num_input_tokens_seen": 43596576, + "step": 22265 + }, + { + "epoch": 2.951093439363817, + "grad_norm": 0.01784122921526432, + "learning_rate": 3.280879658429381e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43599136, + "step": 22266 + }, + { + "epoch": 2.951225977468522, + "grad_norm": 0.005329910200089216, + "learning_rate": 3.263125072660023e-09, + "loss": 0.0, + "num_input_tokens_seen": 43601392, + "step": 22267 + }, + { + "epoch": 2.951358515573227, + "grad_norm": 15.184979438781738, + "learning_rate": 3.245418625699992e-09, + "loss": 0.1412, + "num_input_tokens_seen": 43603408, + "step": 22268 + }, + { + "epoch": 2.951491053677932, + "grad_norm": 0.030959444120526314, + "learning_rate": 3.2277603178906826e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43605240, + "step": 22269 + }, + { + "epoch": 2.9516235917826377, + "grad_norm": 10.12108325958252, + "learning_rate": 3.210150149572655e-09, + "loss": 0.1279, + "num_input_tokens_seen": 43608064, + "step": 22270 + }, + { + "epoch": 2.9517561298873427, + "grad_norm": 0.0018814560025930405, + "learning_rate": 3.1925881210853606e-09, + "loss": 0.0, + "num_input_tokens_seen": 43609416, + "step": 22271 + }, + { + "epoch": 2.9518886679920477, + "grad_norm": 0.002194805070757866, + "learning_rate": 3.175074232767139e-09, + "loss": 0.0, + "num_input_tokens_seen": 43610984, + "step": 22272 + }, + { + "epoch": 2.952021206096753, + "grad_norm": 2.2957074642181396, + "learning_rate": 3.1576084849563315e-09, + "loss": 0.0123, + "num_input_tokens_seen": 43613936, + "step": 22273 + }, + { + "epoch": 2.952153744201458, + "grad_norm": 5.1449360847473145, + "learning_rate": 3.1401908779890576e-09, + "loss": 0.0935, + "num_input_tokens_seen": 43615304, + "step": 22274 + }, + { + "epoch": 2.952286282306163, + "grad_norm": 3.04215669631958, + "learning_rate": 3.122821412201438e-09, + "loss": 0.027, + "num_input_tokens_seen": 43617168, + "step": 22275 + }, + { + "epoch": 2.952418820410868, + "grad_norm": 0.05018129572272301, + "learning_rate": 3.1055000879284815e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43619016, + "step": 22276 + }, + { + "epoch": 2.9525513585155734, + "grad_norm": 0.24577747285366058, + "learning_rate": 3.088226905504088e-09, + "loss": 0.0012, + "num_input_tokens_seen": 43620576, + "step": 22277 + }, + { + "epoch": 2.9526838966202784, + "grad_norm": 0.007668768987059593, + "learning_rate": 3.0710018652610472e-09, + "loss": 0.0, + "num_input_tokens_seen": 43622936, + "step": 22278 + }, + { + "epoch": 2.9528164347249835, + "grad_norm": 0.026538889855146408, + "learning_rate": 3.0538249675315935e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43625712, + "step": 22279 + }, + { + "epoch": 2.9529489728296885, + "grad_norm": 4.520501613616943, + "learning_rate": 3.03669621264685e-09, + "loss": 0.0218, + "num_input_tokens_seen": 43627824, + "step": 22280 + }, + { + "epoch": 2.9530815109343935, + "grad_norm": 8.250967979431152, + "learning_rate": 3.0196156009373865e-09, + "loss": 0.0393, + "num_input_tokens_seen": 43629976, + "step": 22281 + }, + { + "epoch": 2.953214049039099, + "grad_norm": 0.13710132241249084, + "learning_rate": 3.0025831327321063e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43631288, + "step": 22282 + }, + { + "epoch": 2.9533465871438036, + "grad_norm": 4.798572540283203, + "learning_rate": 2.985598808359913e-09, + "loss": 0.0291, + "num_input_tokens_seen": 43633784, + "step": 22283 + }, + { + "epoch": 2.953479125248509, + "grad_norm": 0.04624618589878082, + "learning_rate": 2.968662628147767e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43635528, + "step": 22284 + }, + { + "epoch": 2.953611663353214, + "grad_norm": 0.008210758678615093, + "learning_rate": 2.9517745924223517e-09, + "loss": 0.0, + "num_input_tokens_seen": 43637408, + "step": 22285 + }, + { + "epoch": 2.953744201457919, + "grad_norm": 0.01774030737578869, + "learning_rate": 2.9349347015095175e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43639840, + "step": 22286 + }, + { + "epoch": 2.953876739562624, + "grad_norm": 0.10867586731910706, + "learning_rate": 2.918142955733727e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43642440, + "step": 22287 + }, + { + "epoch": 2.9540092776673292, + "grad_norm": 0.003712777979671955, + "learning_rate": 2.901399355418888e-09, + "loss": 0.0, + "num_input_tokens_seen": 43644424, + "step": 22288 + }, + { + "epoch": 2.9541418157720347, + "grad_norm": 0.008637025021016598, + "learning_rate": 2.88470390088752e-09, + "loss": 0.0, + "num_input_tokens_seen": 43645864, + "step": 22289 + }, + { + "epoch": 2.9542743538767393, + "grad_norm": 4.615153789520264, + "learning_rate": 2.8680565924618653e-09, + "loss": 0.0238, + "num_input_tokens_seen": 43648088, + "step": 22290 + }, + { + "epoch": 2.954406891981445, + "grad_norm": 0.05423276126384735, + "learning_rate": 2.8514574304627785e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43649544, + "step": 22291 + }, + { + "epoch": 2.95453943008615, + "grad_norm": 0.005249144975095987, + "learning_rate": 2.8349064152102812e-09, + "loss": 0.0, + "num_input_tokens_seen": 43650736, + "step": 22292 + }, + { + "epoch": 2.954671968190855, + "grad_norm": 0.9359302520751953, + "learning_rate": 2.818403547023285e-09, + "loss": 0.0048, + "num_input_tokens_seen": 43652608, + "step": 22293 + }, + { + "epoch": 2.95480450629556, + "grad_norm": 4.693918704986572, + "learning_rate": 2.801948826220424e-09, + "loss": 0.0437, + "num_input_tokens_seen": 43654536, + "step": 22294 + }, + { + "epoch": 2.954937044400265, + "grad_norm": 0.018951239064335823, + "learning_rate": 2.785542253118667e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43656384, + "step": 22295 + }, + { + "epoch": 2.9550695825049704, + "grad_norm": 9.953413009643555, + "learning_rate": 2.76918382803415e-09, + "loss": 0.0716, + "num_input_tokens_seen": 43658232, + "step": 22296 + }, + { + "epoch": 2.955202120609675, + "grad_norm": 8.604491233825684, + "learning_rate": 2.7528735512830085e-09, + "loss": 0.0523, + "num_input_tokens_seen": 43659984, + "step": 22297 + }, + { + "epoch": 2.9553346587143805, + "grad_norm": 11.26625919342041, + "learning_rate": 2.736611423178881e-09, + "loss": 0.249, + "num_input_tokens_seen": 43661808, + "step": 22298 + }, + { + "epoch": 2.9554671968190855, + "grad_norm": 0.10009501874446869, + "learning_rate": 2.7203974440356827e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43663512, + "step": 22299 + }, + { + "epoch": 2.9555997349237906, + "grad_norm": 3.3866069316864014, + "learning_rate": 2.7042316141662195e-09, + "loss": 0.0184, + "num_input_tokens_seen": 43666384, + "step": 22300 + }, + { + "epoch": 2.9557322730284956, + "grad_norm": 0.009596092626452446, + "learning_rate": 2.6881139338816307e-09, + "loss": 0.0, + "num_input_tokens_seen": 43668424, + "step": 22301 + }, + { + "epoch": 2.9558648111332007, + "grad_norm": 0.004632224328815937, + "learning_rate": 2.6720444034933347e-09, + "loss": 0.0, + "num_input_tokens_seen": 43669440, + "step": 22302 + }, + { + "epoch": 2.955997349237906, + "grad_norm": 4.62300968170166, + "learning_rate": 2.6560230233105277e-09, + "loss": 0.0389, + "num_input_tokens_seen": 43672344, + "step": 22303 + }, + { + "epoch": 2.9561298873426107, + "grad_norm": 18.987808227539062, + "learning_rate": 2.640049793642685e-09, + "loss": 0.0542, + "num_input_tokens_seen": 43675760, + "step": 22304 + }, + { + "epoch": 2.956262425447316, + "grad_norm": 13.165765762329102, + "learning_rate": 2.624124714797338e-09, + "loss": 0.0775, + "num_input_tokens_seen": 43678248, + "step": 22305 + }, + { + "epoch": 2.9563949635520212, + "grad_norm": 15.375874519348145, + "learning_rate": 2.608247787082019e-09, + "loss": 0.2101, + "num_input_tokens_seen": 43680072, + "step": 22306 + }, + { + "epoch": 2.9565275016567263, + "grad_norm": 7.167605400085449, + "learning_rate": 2.5924190108023164e-09, + "loss": 0.0641, + "num_input_tokens_seen": 43682152, + "step": 22307 + }, + { + "epoch": 2.9566600397614313, + "grad_norm": 0.015214335173368454, + "learning_rate": 2.576638386263541e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43683896, + "step": 22308 + }, + { + "epoch": 2.9567925778661364, + "grad_norm": 2.014601707458496, + "learning_rate": 2.560905913770173e-09, + "loss": 0.0166, + "num_input_tokens_seen": 43686896, + "step": 22309 + }, + { + "epoch": 2.956925115970842, + "grad_norm": 5.356799125671387, + "learning_rate": 2.5452215936255796e-09, + "loss": 0.0239, + "num_input_tokens_seen": 43689000, + "step": 22310 + }, + { + "epoch": 2.957057654075547, + "grad_norm": 0.09059500694274902, + "learning_rate": 2.5295854261317422e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43691888, + "step": 22311 + }, + { + "epoch": 2.957190192180252, + "grad_norm": 3.72603178024292, + "learning_rate": 2.5139974115906407e-09, + "loss": 0.0411, + "num_input_tokens_seen": 43694016, + "step": 22312 + }, + { + "epoch": 2.957322730284957, + "grad_norm": 0.004890168085694313, + "learning_rate": 2.498457550302591e-09, + "loss": 0.0, + "num_input_tokens_seen": 43695776, + "step": 22313 + }, + { + "epoch": 2.957455268389662, + "grad_norm": 6.017292022705078, + "learning_rate": 2.4829658425670755e-09, + "loss": 0.0281, + "num_input_tokens_seen": 43697736, + "step": 22314 + }, + { + "epoch": 2.957587806494367, + "grad_norm": 0.03325015306472778, + "learning_rate": 2.467522288683022e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43699432, + "step": 22315 + }, + { + "epoch": 2.957720344599072, + "grad_norm": 3.026155948638916, + "learning_rate": 2.45212688894797e-09, + "loss": 0.0235, + "num_input_tokens_seen": 43701200, + "step": 22316 + }, + { + "epoch": 2.9578528827037776, + "grad_norm": 0.0852789431810379, + "learning_rate": 2.436779643659182e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43703584, + "step": 22317 + }, + { + "epoch": 2.9579854208084826, + "grad_norm": 0.04867374151945114, + "learning_rate": 2.4214805531119767e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43705704, + "step": 22318 + }, + { + "epoch": 2.9581179589131876, + "grad_norm": 0.11292661726474762, + "learning_rate": 2.406229617601674e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43707848, + "step": 22319 + }, + { + "epoch": 2.9582504970178927, + "grad_norm": 0.024184376001358032, + "learning_rate": 2.3910268374222055e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43709784, + "step": 22320 + }, + { + "epoch": 2.9583830351225977, + "grad_norm": 0.0027894002851098776, + "learning_rate": 2.3758722128669477e-09, + "loss": 0.0, + "num_input_tokens_seen": 43711184, + "step": 22321 + }, + { + "epoch": 2.9585155732273027, + "grad_norm": 0.0005841794773004949, + "learning_rate": 2.360765744227889e-09, + "loss": 0.0, + "num_input_tokens_seen": 43712456, + "step": 22322 + }, + { + "epoch": 2.958648111332008, + "grad_norm": 0.09099941700696945, + "learning_rate": 2.3457074317961847e-09, + "loss": 0.0005, + "num_input_tokens_seen": 43714544, + "step": 22323 + }, + { + "epoch": 2.9587806494367133, + "grad_norm": 0.9017846584320068, + "learning_rate": 2.3306972758621594e-09, + "loss": 0.0026, + "num_input_tokens_seen": 43716648, + "step": 22324 + }, + { + "epoch": 2.9589131875414183, + "grad_norm": 16.434083938598633, + "learning_rate": 2.3157352767155807e-09, + "loss": 0.0761, + "num_input_tokens_seen": 43718560, + "step": 22325 + }, + { + "epoch": 2.9590457256461233, + "grad_norm": 6.358641147613525, + "learning_rate": 2.300821434644551e-09, + "loss": 0.0549, + "num_input_tokens_seen": 43720544, + "step": 22326 + }, + { + "epoch": 2.9591782637508284, + "grad_norm": 0.013488908298313618, + "learning_rate": 2.2859557499368966e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43722256, + "step": 22327 + }, + { + "epoch": 2.9593108018555334, + "grad_norm": 0.0003470120718702674, + "learning_rate": 2.2711382228790547e-09, + "loss": 0.0, + "num_input_tokens_seen": 43723568, + "step": 22328 + }, + { + "epoch": 2.9594433399602385, + "grad_norm": 9.97823715209961, + "learning_rate": 2.2563688537566298e-09, + "loss": 0.027, + "num_input_tokens_seen": 43725224, + "step": 22329 + }, + { + "epoch": 2.9595758780649435, + "grad_norm": 12.326144218444824, + "learning_rate": 2.2416476428546717e-09, + "loss": 0.0796, + "num_input_tokens_seen": 43727288, + "step": 22330 + }, + { + "epoch": 2.959708416169649, + "grad_norm": 8.557718276977539, + "learning_rate": 2.226974590456843e-09, + "loss": 0.1543, + "num_input_tokens_seen": 43729784, + "step": 22331 + }, + { + "epoch": 2.959840954274354, + "grad_norm": 0.7549514770507812, + "learning_rate": 2.2123496968459723e-09, + "loss": 0.0043, + "num_input_tokens_seen": 43732112, + "step": 22332 + }, + { + "epoch": 2.959973492379059, + "grad_norm": 4.409550189971924, + "learning_rate": 2.1977729623040565e-09, + "loss": 0.0172, + "num_input_tokens_seen": 43733752, + "step": 22333 + }, + { + "epoch": 2.960106030483764, + "grad_norm": 1.5269321203231812, + "learning_rate": 2.1832443871125374e-09, + "loss": 0.0066, + "num_input_tokens_seen": 43736048, + "step": 22334 + }, + { + "epoch": 2.960238568588469, + "grad_norm": 0.010068727657198906, + "learning_rate": 2.1687639715509136e-09, + "loss": 0.0, + "num_input_tokens_seen": 43737608, + "step": 22335 + }, + { + "epoch": 2.960371106693174, + "grad_norm": 5.898979663848877, + "learning_rate": 2.154331715898683e-09, + "loss": 0.0427, + "num_input_tokens_seen": 43739568, + "step": 22336 + }, + { + "epoch": 2.960503644797879, + "grad_norm": 0.0009231868316419423, + "learning_rate": 2.1399476204345126e-09, + "loss": 0.0, + "num_input_tokens_seen": 43740744, + "step": 22337 + }, + { + "epoch": 2.9606361829025847, + "grad_norm": 0.0025715793017297983, + "learning_rate": 2.1256116854348472e-09, + "loss": 0.0, + "num_input_tokens_seen": 43742320, + "step": 22338 + }, + { + "epoch": 2.9607687210072897, + "grad_norm": 8.020583152770996, + "learning_rate": 2.1113239111769655e-09, + "loss": 0.1574, + "num_input_tokens_seen": 43744944, + "step": 22339 + }, + { + "epoch": 2.9609012591119948, + "grad_norm": 0.0890028178691864, + "learning_rate": 2.0970842979356476e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43747768, + "step": 22340 + }, + { + "epoch": 2.9610337972167, + "grad_norm": 12.441834449768066, + "learning_rate": 2.082892845985951e-09, + "loss": 0.1038, + "num_input_tokens_seen": 43750176, + "step": 22341 + }, + { + "epoch": 2.961166335321405, + "grad_norm": 21.394775390625, + "learning_rate": 2.068749555601268e-09, + "loss": 0.1581, + "num_input_tokens_seen": 43752368, + "step": 22342 + }, + { + "epoch": 2.96129887342611, + "grad_norm": 0.08104350417852402, + "learning_rate": 2.0546544270544365e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43753536, + "step": 22343 + }, + { + "epoch": 2.961431411530815, + "grad_norm": 0.021069826558232307, + "learning_rate": 2.040607460616906e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43754912, + "step": 22344 + }, + { + "epoch": 2.9615639496355204, + "grad_norm": 0.0027820041868835688, + "learning_rate": 2.0266086565598474e-09, + "loss": 0.0, + "num_input_tokens_seen": 43757088, + "step": 22345 + }, + { + "epoch": 2.9616964877402254, + "grad_norm": 0.015443779528141022, + "learning_rate": 2.012658015153046e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43758616, + "step": 22346 + }, + { + "epoch": 2.9618290258449305, + "grad_norm": 0.001395764178596437, + "learning_rate": 1.998755536665453e-09, + "loss": 0.0, + "num_input_tokens_seen": 43760328, + "step": 22347 + }, + { + "epoch": 2.9619615639496355, + "grad_norm": 8.027894020080566, + "learning_rate": 1.9849012213649097e-09, + "loss": 0.0304, + "num_input_tokens_seen": 43762528, + "step": 22348 + }, + { + "epoch": 2.9620941020543405, + "grad_norm": 0.005758329294621944, + "learning_rate": 1.97109506951898e-09, + "loss": 0.0, + "num_input_tokens_seen": 43764144, + "step": 22349 + }, + { + "epoch": 2.9622266401590456, + "grad_norm": 7.215410232543945, + "learning_rate": 1.9573370813935623e-09, + "loss": 0.0195, + "num_input_tokens_seen": 43766400, + "step": 22350 + }, + { + "epoch": 2.9623591782637506, + "grad_norm": 3.4682328701019287, + "learning_rate": 1.943627257254277e-09, + "loss": 0.0299, + "num_input_tokens_seen": 43768440, + "step": 22351 + }, + { + "epoch": 2.962491716368456, + "grad_norm": 0.0022721586283296347, + "learning_rate": 1.9299655973648023e-09, + "loss": 0.0, + "num_input_tokens_seen": 43771040, + "step": 22352 + }, + { + "epoch": 2.962624254473161, + "grad_norm": 3.0962419509887695, + "learning_rate": 1.916352101989094e-09, + "loss": 0.0175, + "num_input_tokens_seen": 43773704, + "step": 22353 + }, + { + "epoch": 2.962756792577866, + "grad_norm": 0.007636042311787605, + "learning_rate": 1.9027867713894422e-09, + "loss": 0.0, + "num_input_tokens_seen": 43775384, + "step": 22354 + }, + { + "epoch": 2.962889330682571, + "grad_norm": 7.977814197540283, + "learning_rate": 1.889269605827304e-09, + "loss": 0.0983, + "num_input_tokens_seen": 43777928, + "step": 22355 + }, + { + "epoch": 2.9630218687872762, + "grad_norm": 0.032154861837625504, + "learning_rate": 1.8758006055635823e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43780304, + "step": 22356 + }, + { + "epoch": 2.9631544068919813, + "grad_norm": 0.03983138129115105, + "learning_rate": 1.8623797708577918e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43781864, + "step": 22357 + }, + { + "epoch": 2.9632869449966863, + "grad_norm": 0.005701002664864063, + "learning_rate": 1.849007101968614e-09, + "loss": 0.0, + "num_input_tokens_seen": 43783296, + "step": 22358 + }, + { + "epoch": 2.963419483101392, + "grad_norm": 1.1917616128921509, + "learning_rate": 1.8356825991538985e-09, + "loss": 0.0043, + "num_input_tokens_seen": 43785504, + "step": 22359 + }, + { + "epoch": 2.963552021206097, + "grad_norm": 8.105329513549805, + "learning_rate": 1.8224062626706618e-09, + "loss": 0.102, + "num_input_tokens_seen": 43787680, + "step": 22360 + }, + { + "epoch": 2.963684559310802, + "grad_norm": 0.19337278604507446, + "learning_rate": 1.8091780927750879e-09, + "loss": 0.0007, + "num_input_tokens_seen": 43789504, + "step": 22361 + }, + { + "epoch": 2.963817097415507, + "grad_norm": 2.403597116470337, + "learning_rate": 1.7959980897216955e-09, + "loss": 0.0112, + "num_input_tokens_seen": 43791336, + "step": 22362 + }, + { + "epoch": 2.963949635520212, + "grad_norm": 4.3618245124816895, + "learning_rate": 1.7828662537650032e-09, + "loss": 0.0126, + "num_input_tokens_seen": 43792976, + "step": 22363 + }, + { + "epoch": 2.9640821736249174, + "grad_norm": 0.025620654225349426, + "learning_rate": 1.7697825851578642e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43795952, + "step": 22364 + }, + { + "epoch": 2.964214711729622, + "grad_norm": 0.010524922050535679, + "learning_rate": 1.7567470841528545e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43797608, + "step": 22365 + }, + { + "epoch": 2.9643472498343275, + "grad_norm": 0.4931896924972534, + "learning_rate": 1.7437597510014391e-09, + "loss": 0.0014, + "num_input_tokens_seen": 43800080, + "step": 22366 + }, + { + "epoch": 2.9644797879390326, + "grad_norm": 0.008791539818048477, + "learning_rate": 1.7308205859536965e-09, + "loss": 0.0, + "num_input_tokens_seen": 43802880, + "step": 22367 + }, + { + "epoch": 2.9646123260437376, + "grad_norm": 0.01890513114631176, + "learning_rate": 1.717929589258871e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43804032, + "step": 22368 + }, + { + "epoch": 2.9647448641484426, + "grad_norm": 8.224040031433105, + "learning_rate": 1.705086761166208e-09, + "loss": 0.0619, + "num_input_tokens_seen": 43805592, + "step": 22369 + }, + { + "epoch": 2.9648774022531477, + "grad_norm": 0.0042699105106294155, + "learning_rate": 1.6922921019227323e-09, + "loss": 0.0, + "num_input_tokens_seen": 43807192, + "step": 22370 + }, + { + "epoch": 2.965009940357853, + "grad_norm": 0.0141218900680542, + "learning_rate": 1.6795456117757458e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43808696, + "step": 22371 + }, + { + "epoch": 2.9651424784625577, + "grad_norm": 9.345793724060059, + "learning_rate": 1.6668472909703304e-09, + "loss": 0.0384, + "num_input_tokens_seen": 43811288, + "step": 22372 + }, + { + "epoch": 2.9652750165672632, + "grad_norm": 7.4340081214904785, + "learning_rate": 1.6541971397515677e-09, + "loss": 0.0337, + "num_input_tokens_seen": 43813256, + "step": 22373 + }, + { + "epoch": 2.9654075546719683, + "grad_norm": 1.4314326047897339, + "learning_rate": 1.6415951583634293e-09, + "loss": 0.0213, + "num_input_tokens_seen": 43814656, + "step": 22374 + }, + { + "epoch": 2.9655400927766733, + "grad_norm": 1.2346673011779785, + "learning_rate": 1.6290413470487765e-09, + "loss": 0.0059, + "num_input_tokens_seen": 43816456, + "step": 22375 + }, + { + "epoch": 2.9656726308813783, + "grad_norm": 8.996658325195312, + "learning_rate": 1.6165357060499154e-09, + "loss": 0.152, + "num_input_tokens_seen": 43818984, + "step": 22376 + }, + { + "epoch": 2.9658051689860834, + "grad_norm": 3.562676429748535, + "learning_rate": 1.6040782356077643e-09, + "loss": 0.0384, + "num_input_tokens_seen": 43821472, + "step": 22377 + }, + { + "epoch": 2.965937707090789, + "grad_norm": 8.882349014282227, + "learning_rate": 1.591668935962687e-09, + "loss": 0.0211, + "num_input_tokens_seen": 43823736, + "step": 22378 + }, + { + "epoch": 2.9660702451954934, + "grad_norm": 17.305540084838867, + "learning_rate": 1.5793078073533808e-09, + "loss": 0.0941, + "num_input_tokens_seen": 43825648, + "step": 22379 + }, + { + "epoch": 2.966202783300199, + "grad_norm": 0.07756513357162476, + "learning_rate": 1.5669948500188215e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43827624, + "step": 22380 + }, + { + "epoch": 2.966335321404904, + "grad_norm": 11.90113353729248, + "learning_rate": 1.5547300641963192e-09, + "loss": 0.2061, + "num_input_tokens_seen": 43830744, + "step": 22381 + }, + { + "epoch": 2.966467859509609, + "grad_norm": 0.01230569463223219, + "learning_rate": 1.542513450122074e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43833536, + "step": 22382 + }, + { + "epoch": 2.966600397614314, + "grad_norm": 1.1517153978347778, + "learning_rate": 1.5303450080320082e-09, + "loss": 0.0031, + "num_input_tokens_seen": 43835136, + "step": 22383 + }, + { + "epoch": 2.966732935719019, + "grad_norm": 1.1581480503082275, + "learning_rate": 1.5182247381601011e-09, + "loss": 0.0101, + "num_input_tokens_seen": 43837672, + "step": 22384 + }, + { + "epoch": 2.9668654738237246, + "grad_norm": 3.0572574138641357, + "learning_rate": 1.5061526407406102e-09, + "loss": 0.0364, + "num_input_tokens_seen": 43839368, + "step": 22385 + }, + { + "epoch": 2.966998011928429, + "grad_norm": 0.01920732669532299, + "learning_rate": 1.494128716006127e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43841112, + "step": 22386 + }, + { + "epoch": 2.9671305500331346, + "grad_norm": 0.0026114489883184433, + "learning_rate": 1.4821529641884103e-09, + "loss": 0.0, + "num_input_tokens_seen": 43843904, + "step": 22387 + }, + { + "epoch": 2.9672630881378397, + "grad_norm": 6.04542350769043, + "learning_rate": 1.4702253855186644e-09, + "loss": 0.1423, + "num_input_tokens_seen": 43845392, + "step": 22388 + }, + { + "epoch": 2.9673956262425447, + "grad_norm": 0.014861948788166046, + "learning_rate": 1.4583459802264278e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43846792, + "step": 22389 + }, + { + "epoch": 2.9675281643472498, + "grad_norm": 5.665372371673584, + "learning_rate": 1.4465147485406839e-09, + "loss": 0.0361, + "num_input_tokens_seen": 43848232, + "step": 22390 + }, + { + "epoch": 2.967660702451955, + "grad_norm": 0.017988082021474838, + "learning_rate": 1.4347316906901387e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43849744, + "step": 22391 + }, + { + "epoch": 2.9677932405566603, + "grad_norm": 0.26280468702316284, + "learning_rate": 1.4229968069015553e-09, + "loss": 0.0008, + "num_input_tokens_seen": 43852096, + "step": 22392 + }, + { + "epoch": 2.967925778661365, + "grad_norm": 14.28861141204834, + "learning_rate": 1.4113100974014193e-09, + "loss": 0.0911, + "num_input_tokens_seen": 43854728, + "step": 22393 + }, + { + "epoch": 2.9680583167660703, + "grad_norm": 5.226220607757568, + "learning_rate": 1.3996715624148282e-09, + "loss": 0.0997, + "num_input_tokens_seen": 43857104, + "step": 22394 + }, + { + "epoch": 2.9681908548707754, + "grad_norm": 0.05354820564389229, + "learning_rate": 1.3880812021660473e-09, + "loss": 0.0003, + "num_input_tokens_seen": 43858864, + "step": 22395 + }, + { + "epoch": 2.9683233929754804, + "grad_norm": 14.342785835266113, + "learning_rate": 1.3765390168790637e-09, + "loss": 0.1293, + "num_input_tokens_seen": 43861424, + "step": 22396 + }, + { + "epoch": 2.9684559310801855, + "grad_norm": 0.04000642150640488, + "learning_rate": 1.3650450067759224e-09, + "loss": 0.0002, + "num_input_tokens_seen": 43863568, + "step": 22397 + }, + { + "epoch": 2.9685884691848905, + "grad_norm": 0.0033949394710361958, + "learning_rate": 1.3535991720783903e-09, + "loss": 0.0, + "num_input_tokens_seen": 43865104, + "step": 22398 + }, + { + "epoch": 2.968721007289596, + "grad_norm": 0.28686603903770447, + "learning_rate": 1.3422015130074017e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43867616, + "step": 22399 + }, + { + "epoch": 2.968853545394301, + "grad_norm": 0.5833792090415955, + "learning_rate": 1.3308520297822258e-09, + "loss": 0.0022, + "num_input_tokens_seen": 43869520, + "step": 22400 + }, + { + "epoch": 2.968986083499006, + "grad_norm": 7.897106647491455, + "learning_rate": 1.3195507226221315e-09, + "loss": 0.1092, + "num_input_tokens_seen": 43871736, + "step": 22401 + }, + { + "epoch": 2.969118621603711, + "grad_norm": 5.990362644195557, + "learning_rate": 1.3082975917450003e-09, + "loss": 0.0722, + "num_input_tokens_seen": 43874032, + "step": 22402 + }, + { + "epoch": 2.969251159708416, + "grad_norm": 3.174128770828247, + "learning_rate": 1.2970926373676028e-09, + "loss": 0.0058, + "num_input_tokens_seen": 43875632, + "step": 22403 + }, + { + "epoch": 2.969383697813121, + "grad_norm": 0.0164306852966547, + "learning_rate": 1.285935859705878e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43877552, + "step": 22404 + }, + { + "epoch": 2.969516235917826, + "grad_norm": 0.08274020999670029, + "learning_rate": 1.2748272589749311e-09, + "loss": 0.0004, + "num_input_tokens_seen": 43880000, + "step": 22405 + }, + { + "epoch": 2.9696487740225317, + "grad_norm": 4.216237545013428, + "learning_rate": 1.263766835389313e-09, + "loss": 0.0159, + "num_input_tokens_seen": 43881992, + "step": 22406 + }, + { + "epoch": 2.9697813121272367, + "grad_norm": 0.00994815956801176, + "learning_rate": 1.2527545891621862e-09, + "loss": 0.0, + "num_input_tokens_seen": 43883624, + "step": 22407 + }, + { + "epoch": 2.9699138502319418, + "grad_norm": 0.5836260914802551, + "learning_rate": 1.2417905205056036e-09, + "loss": 0.0019, + "num_input_tokens_seen": 43885576, + "step": 22408 + }, + { + "epoch": 2.970046388336647, + "grad_norm": 0.012959951534867287, + "learning_rate": 1.2308746296310626e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43887304, + "step": 22409 + }, + { + "epoch": 2.970178926441352, + "grad_norm": 0.002590167336165905, + "learning_rate": 1.220006916749228e-09, + "loss": 0.0, + "num_input_tokens_seen": 43889432, + "step": 22410 + }, + { + "epoch": 2.970311464546057, + "grad_norm": 0.008520927280187607, + "learning_rate": 1.2091873820693767e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43891000, + "step": 22411 + }, + { + "epoch": 2.970444002650762, + "grad_norm": 8.114709854125977, + "learning_rate": 1.198416025800231e-09, + "loss": 0.0892, + "num_input_tokens_seen": 43892912, + "step": 22412 + }, + { + "epoch": 2.9705765407554674, + "grad_norm": 0.005912213586270809, + "learning_rate": 1.1876928481494021e-09, + "loss": 0.0, + "num_input_tokens_seen": 43894584, + "step": 22413 + }, + { + "epoch": 2.9707090788601724, + "grad_norm": 0.3754428029060364, + "learning_rate": 1.1770178493236695e-09, + "loss": 0.0021, + "num_input_tokens_seen": 43896224, + "step": 22414 + }, + { + "epoch": 2.9708416169648775, + "grad_norm": 0.5932297706604004, + "learning_rate": 1.1663910295289793e-09, + "loss": 0.0021, + "num_input_tokens_seen": 43898016, + "step": 22415 + }, + { + "epoch": 2.9709741550695825, + "grad_norm": 4.471325874328613, + "learning_rate": 1.1558123889701679e-09, + "loss": 0.0255, + "num_input_tokens_seen": 43899608, + "step": 22416 + }, + { + "epoch": 2.9711066931742875, + "grad_norm": 0.011148176155984402, + "learning_rate": 1.145281927850961e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43901712, + "step": 22417 + }, + { + "epoch": 2.9712392312789926, + "grad_norm": 0.0071175298653542995, + "learning_rate": 1.1347996463748069e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43903440, + "step": 22418 + }, + { + "epoch": 2.9713717693836976, + "grad_norm": 2.276231527328491, + "learning_rate": 1.1243655447434886e-09, + "loss": 0.0064, + "num_input_tokens_seen": 43905992, + "step": 22419 + }, + { + "epoch": 2.971504307488403, + "grad_norm": 13.152486801147461, + "learning_rate": 1.1139796231582346e-09, + "loss": 0.1398, + "num_input_tokens_seen": 43908416, + "step": 22420 + }, + { + "epoch": 2.971636845593108, + "grad_norm": 0.008481040596961975, + "learning_rate": 1.1036418818194394e-09, + "loss": 0.0, + "num_input_tokens_seen": 43910544, + "step": 22421 + }, + { + "epoch": 2.971769383697813, + "grad_norm": 0.011056071147322655, + "learning_rate": 1.0933523209263885e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43912336, + "step": 22422 + }, + { + "epoch": 2.971901921802518, + "grad_norm": 2.5400233268737793, + "learning_rate": 1.0831109406772567e-09, + "loss": 0.0241, + "num_input_tokens_seen": 43914016, + "step": 22423 + }, + { + "epoch": 2.9720344599072233, + "grad_norm": 0.032160475850105286, + "learning_rate": 1.0729177412696634e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43917192, + "step": 22424 + }, + { + "epoch": 2.9721669980119283, + "grad_norm": 4.5012102127075195, + "learning_rate": 1.0627727229003959e-09, + "loss": 0.108, + "num_input_tokens_seen": 43919968, + "step": 22425 + }, + { + "epoch": 2.9722995361166333, + "grad_norm": 6.585148811340332, + "learning_rate": 1.0526758857645758e-09, + "loss": 0.111, + "num_input_tokens_seen": 43922920, + "step": 22426 + }, + { + "epoch": 2.972432074221339, + "grad_norm": 5.541047096252441, + "learning_rate": 1.0426272300570471e-09, + "loss": 0.0991, + "num_input_tokens_seen": 43924928, + "step": 22427 + }, + { + "epoch": 2.972564612326044, + "grad_norm": 12.602825164794922, + "learning_rate": 1.0326267559718217e-09, + "loss": 0.0647, + "num_input_tokens_seen": 43927560, + "step": 22428 + }, + { + "epoch": 2.972697150430749, + "grad_norm": 9.28304386138916, + "learning_rate": 1.0226744637012453e-09, + "loss": 0.1327, + "num_input_tokens_seen": 43929600, + "step": 22429 + }, + { + "epoch": 2.972829688535454, + "grad_norm": 0.011068164370954037, + "learning_rate": 1.0127703534376643e-09, + "loss": 0.0001, + "num_input_tokens_seen": 43931776, + "step": 22430 + }, + { + "epoch": 2.972962226640159, + "grad_norm": 0.05678822472691536, + "learning_rate": 1.0029144253717593e-09, + "loss": 0.0006, + "num_input_tokens_seen": 43933528, + "step": 22431 + }, + { + "epoch": 2.973094764744864, + "grad_norm": 11.85108757019043, + "learning_rate": 9.931066796936561e-10, + "loss": 0.0431, + "num_input_tokens_seen": 43934928, + "step": 22432 + }, + { + "epoch": 2.973227302849569, + "grad_norm": 25.780689239501953, + "learning_rate": 9.833471165923702e-10, + "loss": 0.2594, + "num_input_tokens_seen": 43937064, + "step": 22433 + }, + { + "epoch": 2.9733598409542745, + "grad_norm": 1.2261377573013306, + "learning_rate": 9.736357362560844e-10, + "loss": 0.0051, + "num_input_tokens_seen": 43938656, + "step": 22434 + }, + { + "epoch": 2.9734923790589796, + "grad_norm": 11.480022430419922, + "learning_rate": 9.639725388721488e-10, + "loss": 0.0515, + "num_input_tokens_seen": 43940976, + "step": 22435 + }, + { + "epoch": 2.9736249171636846, + "grad_norm": 9.060023307800293, + "learning_rate": 9.54357524627081e-10, + "loss": 0.1407, + "num_input_tokens_seen": 43942992, + "step": 22436 + }, + { + "epoch": 2.9737574552683896, + "grad_norm": 10.538068771362305, + "learning_rate": 9.447906937057327e-10, + "loss": 0.1695, + "num_input_tokens_seen": 43946656, + "step": 22437 + }, + { + "epoch": 2.9738899933730947, + "grad_norm": 1.1125993728637695, + "learning_rate": 9.35272046292679e-10, + "loss": 0.0046, + "num_input_tokens_seen": 43948272, + "step": 22438 + }, + { + "epoch": 2.9740225314777997, + "grad_norm": 0.006630345713347197, + "learning_rate": 9.258015825719391e-10, + "loss": 0.0, + "num_input_tokens_seen": 43949776, + "step": 22439 + }, + { + "epoch": 2.9741550695825048, + "grad_norm": 5.808896064758301, + "learning_rate": 9.163793027255896e-10, + "loss": 0.0596, + "num_input_tokens_seen": 43951544, + "step": 22440 + }, + { + "epoch": 2.9742876076872102, + "grad_norm": 5.979946136474609, + "learning_rate": 9.070052069354296e-10, + "loss": 0.0613, + "num_input_tokens_seen": 43953264, + "step": 22441 + }, + { + "epoch": 2.9744201457919153, + "grad_norm": 0.09204027056694031, + "learning_rate": 8.976792953824254e-10, + "loss": 0.0003, + "num_input_tokens_seen": 43954656, + "step": 22442 + }, + { + "epoch": 2.9745526838966203, + "grad_norm": 15.386218070983887, + "learning_rate": 8.884015682461555e-10, + "loss": 0.1559, + "num_input_tokens_seen": 43957136, + "step": 22443 + }, + { + "epoch": 2.9746852220013253, + "grad_norm": 1.254500150680542, + "learning_rate": 8.79172025705366e-10, + "loss": 0.0074, + "num_input_tokens_seen": 43958768, + "step": 22444 + }, + { + "epoch": 2.9748177601060304, + "grad_norm": 5.828731536865234, + "learning_rate": 8.699906679382475e-10, + "loss": 0.0635, + "num_input_tokens_seen": 43960568, + "step": 22445 + }, + { + "epoch": 2.9749502982107354, + "grad_norm": 0.5708998441696167, + "learning_rate": 8.608574951218807e-10, + "loss": 0.002, + "num_input_tokens_seen": 43963160, + "step": 22446 + }, + { + "epoch": 2.9750828363154405, + "grad_norm": 11.24099349975586, + "learning_rate": 8.517725074322358e-10, + "loss": 0.2347, + "num_input_tokens_seen": 43964840, + "step": 22447 + }, + { + "epoch": 2.975215374420146, + "grad_norm": 0.007305128499865532, + "learning_rate": 8.427357050444506e-10, + "loss": 0.0, + "num_input_tokens_seen": 43966160, + "step": 22448 + }, + { + "epoch": 2.975347912524851, + "grad_norm": 0.38213807344436646, + "learning_rate": 8.337470881328302e-10, + "loss": 0.0012, + "num_input_tokens_seen": 43967760, + "step": 22449 + }, + { + "epoch": 2.975480450629556, + "grad_norm": 12.351956367492676, + "learning_rate": 8.248066568708469e-10, + "loss": 0.2888, + "num_input_tokens_seen": 43969400, + "step": 22450 + }, + { + "epoch": 2.975612988734261, + "grad_norm": 4.127171516418457, + "learning_rate": 8.159144114303075e-10, + "loss": 0.019, + "num_input_tokens_seen": 43972136, + "step": 22451 + }, + { + "epoch": 2.975745526838966, + "grad_norm": 0.01602078601717949, + "learning_rate": 8.070703519832967e-10, + "loss": 0.0001, + "num_input_tokens_seen": 43973480, + "step": 22452 + }, + { + "epoch": 2.9758780649436716, + "grad_norm": 4.002138614654541, + "learning_rate": 7.982744786999563e-10, + "loss": 0.0436, + "num_input_tokens_seen": 43975848, + "step": 22453 + }, + { + "epoch": 2.976010603048376, + "grad_norm": 4.734738349914551, + "learning_rate": 7.895267917501503e-10, + "loss": 0.0334, + "num_input_tokens_seen": 43977696, + "step": 22454 + }, + { + "epoch": 2.9761431411530817, + "grad_norm": 4.16130256652832, + "learning_rate": 7.808272913020776e-10, + "loss": 0.0158, + "num_input_tokens_seen": 43979456, + "step": 22455 + }, + { + "epoch": 2.9762756792577867, + "grad_norm": 0.09407790750265121, + "learning_rate": 7.721759775239368e-10, + "loss": 0.0003, + "num_input_tokens_seen": 43982024, + "step": 22456 + }, + { + "epoch": 2.9764082173624917, + "grad_norm": 0.002813558094203472, + "learning_rate": 7.63572850582539e-10, + "loss": 0.0, + "num_input_tokens_seen": 43983552, + "step": 22457 + }, + { + "epoch": 2.9765407554671968, + "grad_norm": 0.01731523871421814, + "learning_rate": 7.550179106433075e-10, + "loss": 0.0001, + "num_input_tokens_seen": 43985136, + "step": 22458 + }, + { + "epoch": 2.976673293571902, + "grad_norm": 4.934605121612549, + "learning_rate": 7.465111578716655e-10, + "loss": 0.0429, + "num_input_tokens_seen": 43987672, + "step": 22459 + }, + { + "epoch": 2.9768058316766073, + "grad_norm": 1.0088497400283813, + "learning_rate": 7.380525924313709e-10, + "loss": 0.0062, + "num_input_tokens_seen": 43990008, + "step": 22460 + }, + { + "epoch": 2.976938369781312, + "grad_norm": 13.008758544921875, + "learning_rate": 7.296422144856263e-10, + "loss": 0.1086, + "num_input_tokens_seen": 43992056, + "step": 22461 + }, + { + "epoch": 2.9770709078860174, + "grad_norm": 0.08129282295703888, + "learning_rate": 7.212800241965245e-10, + "loss": 0.0002, + "num_input_tokens_seen": 43993640, + "step": 22462 + }, + { + "epoch": 2.9772034459907224, + "grad_norm": 0.557762086391449, + "learning_rate": 7.129660217253254e-10, + "loss": 0.0018, + "num_input_tokens_seen": 43996384, + "step": 22463 + }, + { + "epoch": 2.9773359840954274, + "grad_norm": 4.946264743804932, + "learning_rate": 7.047002072321785e-10, + "loss": 0.0773, + "num_input_tokens_seen": 43999336, + "step": 22464 + }, + { + "epoch": 2.9774685222001325, + "grad_norm": 0.06037917733192444, + "learning_rate": 6.964825808766785e-10, + "loss": 0.0002, + "num_input_tokens_seen": 44001816, + "step": 22465 + }, + { + "epoch": 2.9776010603048375, + "grad_norm": 0.40494289994239807, + "learning_rate": 6.883131428173095e-10, + "loss": 0.0013, + "num_input_tokens_seen": 44003464, + "step": 22466 + }, + { + "epoch": 2.977733598409543, + "grad_norm": 0.004346027504652739, + "learning_rate": 6.801918932111684e-10, + "loss": 0.0, + "num_input_tokens_seen": 44005768, + "step": 22467 + }, + { + "epoch": 2.9778661365142476, + "grad_norm": 0.001597817288711667, + "learning_rate": 6.721188322153516e-10, + "loss": 0.0, + "num_input_tokens_seen": 44007080, + "step": 22468 + }, + { + "epoch": 2.977998674618953, + "grad_norm": 10.53309154510498, + "learning_rate": 6.640939599852902e-10, + "loss": 0.248, + "num_input_tokens_seen": 44009144, + "step": 22469 + }, + { + "epoch": 2.978131212723658, + "grad_norm": 0.00469657639041543, + "learning_rate": 6.56117276675583e-10, + "loss": 0.0, + "num_input_tokens_seen": 44010720, + "step": 22470 + }, + { + "epoch": 2.978263750828363, + "grad_norm": 0.07269161194562912, + "learning_rate": 6.481887824399957e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44012648, + "step": 22471 + }, + { + "epoch": 2.978396288933068, + "grad_norm": 4.372887134552002, + "learning_rate": 6.403084774317392e-10, + "loss": 0.0262, + "num_input_tokens_seen": 44014176, + "step": 22472 + }, + { + "epoch": 2.978528827037773, + "grad_norm": 10.702216148376465, + "learning_rate": 6.324763618026363e-10, + "loss": 0.0834, + "num_input_tokens_seen": 44015704, + "step": 22473 + }, + { + "epoch": 2.9786613651424787, + "grad_norm": 0.007718060631304979, + "learning_rate": 6.246924357034001e-10, + "loss": 0.0, + "num_input_tokens_seen": 44017280, + "step": 22474 + }, + { + "epoch": 2.9787939032471833, + "grad_norm": 0.2517492175102234, + "learning_rate": 6.169566992844656e-10, + "loss": 0.0005, + "num_input_tokens_seen": 44019264, + "step": 22475 + }, + { + "epoch": 2.9789264413518888, + "grad_norm": 0.33524131774902344, + "learning_rate": 6.092691526948801e-10, + "loss": 0.0006, + "num_input_tokens_seen": 44021336, + "step": 22476 + }, + { + "epoch": 2.979058979456594, + "grad_norm": 0.09051000326871872, + "learning_rate": 6.016297960828588e-10, + "loss": 0.0004, + "num_input_tokens_seen": 44023696, + "step": 22477 + }, + { + "epoch": 2.979191517561299, + "grad_norm": 0.5951526165008545, + "learning_rate": 5.940386295955058e-10, + "loss": 0.004, + "num_input_tokens_seen": 44025456, + "step": 22478 + }, + { + "epoch": 2.979324055666004, + "grad_norm": 3.501281976699829, + "learning_rate": 5.864956533793709e-10, + "loss": 0.0158, + "num_input_tokens_seen": 44027192, + "step": 22479 + }, + { + "epoch": 2.979456593770709, + "grad_norm": 6.802612781524658, + "learning_rate": 5.790008675798931e-10, + "loss": 0.0358, + "num_input_tokens_seen": 44029272, + "step": 22480 + }, + { + "epoch": 2.9795891318754144, + "grad_norm": 0.10742016136646271, + "learning_rate": 5.715542723414014e-10, + "loss": 0.0005, + "num_input_tokens_seen": 44030920, + "step": 22481 + }, + { + "epoch": 2.9797216699801194, + "grad_norm": 8.273235321044922, + "learning_rate": 5.641558678079473e-10, + "loss": 0.0778, + "num_input_tokens_seen": 44033720, + "step": 22482 + }, + { + "epoch": 2.9798542080848245, + "grad_norm": 0.005858945660293102, + "learning_rate": 5.568056541213618e-10, + "loss": 0.0, + "num_input_tokens_seen": 44035200, + "step": 22483 + }, + { + "epoch": 2.9799867461895295, + "grad_norm": 0.23889635503292084, + "learning_rate": 5.495036314243085e-10, + "loss": 0.0007, + "num_input_tokens_seen": 44037048, + "step": 22484 + }, + { + "epoch": 2.9801192842942346, + "grad_norm": 1.9455432891845703, + "learning_rate": 5.422497998569532e-10, + "loss": 0.0062, + "num_input_tokens_seen": 44038696, + "step": 22485 + }, + { + "epoch": 2.9802518223989396, + "grad_norm": 0.01828172616660595, + "learning_rate": 5.350441595591837e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44040680, + "step": 22486 + }, + { + "epoch": 2.9803843605036446, + "grad_norm": 0.0012640360509976745, + "learning_rate": 5.278867106700558e-10, + "loss": 0.0, + "num_input_tokens_seen": 44042072, + "step": 22487 + }, + { + "epoch": 2.98051689860835, + "grad_norm": 0.5344723463058472, + "learning_rate": 5.20777453327792e-10, + "loss": 0.0019, + "num_input_tokens_seen": 44043920, + "step": 22488 + }, + { + "epoch": 2.980649436713055, + "grad_norm": 14.965801239013672, + "learning_rate": 5.137163876689499e-10, + "loss": 0.3176, + "num_input_tokens_seen": 44045968, + "step": 22489 + }, + { + "epoch": 2.98078197481776, + "grad_norm": 1.2716041803359985, + "learning_rate": 5.067035138300869e-10, + "loss": 0.0064, + "num_input_tokens_seen": 44048048, + "step": 22490 + }, + { + "epoch": 2.9809145129224652, + "grad_norm": 0.29344311356544495, + "learning_rate": 4.997388319463726e-10, + "loss": 0.0015, + "num_input_tokens_seen": 44049928, + "step": 22491 + }, + { + "epoch": 2.9810470510271703, + "grad_norm": 0.014174328185617924, + "learning_rate": 4.928223421518663e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44051712, + "step": 22492 + }, + { + "epoch": 2.9811795891318753, + "grad_norm": 3.300236940383911, + "learning_rate": 4.859540445803501e-10, + "loss": 0.0228, + "num_input_tokens_seen": 44054040, + "step": 22493 + }, + { + "epoch": 2.9813121272365803, + "grad_norm": 0.04087667539715767, + "learning_rate": 4.791339393636629e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44056880, + "step": 22494 + }, + { + "epoch": 2.981444665341286, + "grad_norm": 0.0296641793102026, + "learning_rate": 4.723620266336437e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44058200, + "step": 22495 + }, + { + "epoch": 2.981577203445991, + "grad_norm": 11.552082061767578, + "learning_rate": 4.6563830652102127e-10, + "loss": 0.102, + "num_input_tokens_seen": 44060352, + "step": 22496 + }, + { + "epoch": 2.981709741550696, + "grad_norm": 0.003502878127619624, + "learning_rate": 4.5896277915513655e-10, + "loss": 0.0, + "num_input_tokens_seen": 44061784, + "step": 22497 + }, + { + "epoch": 2.981842279655401, + "grad_norm": 1.863431692123413, + "learning_rate": 4.5233544466449786e-10, + "loss": 0.0207, + "num_input_tokens_seen": 44064000, + "step": 22498 + }, + { + "epoch": 2.981974817760106, + "grad_norm": 3.064136266708374, + "learning_rate": 4.457563031776135e-10, + "loss": 0.0189, + "num_input_tokens_seen": 44066064, + "step": 22499 + }, + { + "epoch": 2.982107355864811, + "grad_norm": 0.005188322626054287, + "learning_rate": 4.3922535482077145e-10, + "loss": 0.0, + "num_input_tokens_seen": 44067472, + "step": 22500 + }, + { + "epoch": 2.982239893969516, + "grad_norm": 0.11821889132261276, + "learning_rate": 4.327425997199819e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44069032, + "step": 22501 + }, + { + "epoch": 2.9823724320742215, + "grad_norm": 3.676971673965454, + "learning_rate": 4.26308038000145e-10, + "loss": 0.0209, + "num_input_tokens_seen": 44070760, + "step": 22502 + }, + { + "epoch": 2.9825049701789266, + "grad_norm": 0.012415418401360512, + "learning_rate": 4.1992166978560567e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44072320, + "step": 22503 + }, + { + "epoch": 2.9826375082836316, + "grad_norm": 3.4719927310943604, + "learning_rate": 4.1358349519932115e-10, + "loss": 0.0084, + "num_input_tokens_seen": 44074304, + "step": 22504 + }, + { + "epoch": 2.9827700463883366, + "grad_norm": 4.517679691314697, + "learning_rate": 4.072935143636936e-10, + "loss": 0.0361, + "num_input_tokens_seen": 44075760, + "step": 22505 + }, + { + "epoch": 2.9829025844930417, + "grad_norm": 0.04147573933005333, + "learning_rate": 4.0105172739945963e-10, + "loss": 0.0002, + "num_input_tokens_seen": 44077208, + "step": 22506 + }, + { + "epoch": 2.9830351225977467, + "grad_norm": 8.671402931213379, + "learning_rate": 3.9485813442763365e-10, + "loss": 0.06, + "num_input_tokens_seen": 44078920, + "step": 22507 + }, + { + "epoch": 2.9831676607024518, + "grad_norm": 1.8591692447662354, + "learning_rate": 3.8871273556728706e-10, + "loss": 0.0085, + "num_input_tokens_seen": 44080912, + "step": 22508 + }, + { + "epoch": 2.9833001988071572, + "grad_norm": 0.035686902701854706, + "learning_rate": 3.8261553093693617e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44082384, + "step": 22509 + }, + { + "epoch": 2.9834327369118623, + "grad_norm": 6.499451160430908, + "learning_rate": 3.76566520653987e-10, + "loss": 0.0249, + "num_input_tokens_seen": 44085016, + "step": 22510 + }, + { + "epoch": 2.9835652750165673, + "grad_norm": 3.103484630584717, + "learning_rate": 3.705657048355682e-10, + "loss": 0.0412, + "num_input_tokens_seen": 44086904, + "step": 22511 + }, + { + "epoch": 2.9836978131212724, + "grad_norm": 7.763436317443848, + "learning_rate": 3.646130835968653e-10, + "loss": 0.0919, + "num_input_tokens_seen": 44089464, + "step": 22512 + }, + { + "epoch": 2.9838303512259774, + "grad_norm": 8.521469116210938, + "learning_rate": 3.5870865705278647e-10, + "loss": 0.1375, + "num_input_tokens_seen": 44093072, + "step": 22513 + }, + { + "epoch": 2.9839628893306824, + "grad_norm": 12.874971389770508, + "learning_rate": 3.528524253171295e-10, + "loss": 0.2204, + "num_input_tokens_seen": 44095064, + "step": 22514 + }, + { + "epoch": 2.9840954274353875, + "grad_norm": 0.02091335505247116, + "learning_rate": 3.4704438850313715e-10, + "loss": 0.0002, + "num_input_tokens_seen": 44096400, + "step": 22515 + }, + { + "epoch": 2.984227965540093, + "grad_norm": 11.117433547973633, + "learning_rate": 3.4128454672238687e-10, + "loss": 0.0713, + "num_input_tokens_seen": 44098248, + "step": 22516 + }, + { + "epoch": 2.984360503644798, + "grad_norm": 2.2027745246887207, + "learning_rate": 3.3557290008617847e-10, + "loss": 0.0082, + "num_input_tokens_seen": 44100040, + "step": 22517 + }, + { + "epoch": 2.984493041749503, + "grad_norm": 0.24879984557628632, + "learning_rate": 3.299094487044241e-10, + "loss": 0.0015, + "num_input_tokens_seen": 44101360, + "step": 22518 + }, + { + "epoch": 2.984625579854208, + "grad_norm": 5.670065879821777, + "learning_rate": 3.2429419268648067e-10, + "loss": 0.0451, + "num_input_tokens_seen": 44103216, + "step": 22519 + }, + { + "epoch": 2.984758117958913, + "grad_norm": 19.086732864379883, + "learning_rate": 3.187271321405949e-10, + "loss": 0.2993, + "num_input_tokens_seen": 44104920, + "step": 22520 + }, + { + "epoch": 2.984890656063618, + "grad_norm": 7.6504435539245605, + "learning_rate": 3.1320826717418093e-10, + "loss": 0.0263, + "num_input_tokens_seen": 44107680, + "step": 22521 + }, + { + "epoch": 2.985023194168323, + "grad_norm": 4.6792402267456055, + "learning_rate": 3.077375978935426e-10, + "loss": 0.0732, + "num_input_tokens_seen": 44109800, + "step": 22522 + }, + { + "epoch": 2.9851557322730287, + "grad_norm": 2.2937140464782715, + "learning_rate": 3.0231512440415114e-10, + "loss": 0.0123, + "num_input_tokens_seen": 44111960, + "step": 22523 + }, + { + "epoch": 2.9852882703777337, + "grad_norm": 4.477351665496826, + "learning_rate": 2.9694084681064496e-10, + "loss": 0.0527, + "num_input_tokens_seen": 44113680, + "step": 22524 + }, + { + "epoch": 2.9854208084824387, + "grad_norm": 0.008505197241902351, + "learning_rate": 2.916147652165524e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44115888, + "step": 22525 + }, + { + "epoch": 2.9855533465871438, + "grad_norm": 0.00716635026037693, + "learning_rate": 2.8633687972456915e-10, + "loss": 0.0, + "num_input_tokens_seen": 44117384, + "step": 22526 + }, + { + "epoch": 2.985685884691849, + "grad_norm": 7.6649699211120605, + "learning_rate": 2.8110719043628056e-10, + "loss": 0.0321, + "num_input_tokens_seen": 44118960, + "step": 22527 + }, + { + "epoch": 2.985818422796554, + "grad_norm": 21.992382049560547, + "learning_rate": 2.759256974529945e-10, + "loss": 0.1726, + "num_input_tokens_seen": 44120472, + "step": 22528 + }, + { + "epoch": 2.985950960901259, + "grad_norm": 0.8311477899551392, + "learning_rate": 2.707924008740759e-10, + "loss": 0.0026, + "num_input_tokens_seen": 44122768, + "step": 22529 + }, + { + "epoch": 2.9860834990059644, + "grad_norm": 0.6071740388870239, + "learning_rate": 2.657073007988897e-10, + "loss": 0.0018, + "num_input_tokens_seen": 44124360, + "step": 22530 + }, + { + "epoch": 2.9862160371106694, + "grad_norm": 14.059874534606934, + "learning_rate": 2.606703973254132e-10, + "loss": 0.1835, + "num_input_tokens_seen": 44126384, + "step": 22531 + }, + { + "epoch": 2.9863485752153744, + "grad_norm": 0.002456819172948599, + "learning_rate": 2.5568169055079085e-10, + "loss": 0.0, + "num_input_tokens_seen": 44127824, + "step": 22532 + }, + { + "epoch": 2.9864811133200795, + "grad_norm": 24.06719970703125, + "learning_rate": 2.507411805707793e-10, + "loss": 0.2299, + "num_input_tokens_seen": 44129832, + "step": 22533 + }, + { + "epoch": 2.9866136514247845, + "grad_norm": 1.5957129001617432, + "learning_rate": 2.458488674811355e-10, + "loss": 0.0087, + "num_input_tokens_seen": 44132280, + "step": 22534 + }, + { + "epoch": 2.98674618952949, + "grad_norm": 1.1026782989501953, + "learning_rate": 2.4100475137622816e-10, + "loss": 0.0028, + "num_input_tokens_seen": 44134200, + "step": 22535 + }, + { + "epoch": 2.9868787276341946, + "grad_norm": 0.047960489988327026, + "learning_rate": 2.362088323490386e-10, + "loss": 0.0003, + "num_input_tokens_seen": 44136240, + "step": 22536 + }, + { + "epoch": 2.9870112657389, + "grad_norm": 4.072607040405273, + "learning_rate": 2.3146111049199281e-10, + "loss": 0.0072, + "num_input_tokens_seen": 44137928, + "step": 22537 + }, + { + "epoch": 2.987143803843605, + "grad_norm": 0.01629113033413887, + "learning_rate": 2.267615858972394e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44139584, + "step": 22538 + }, + { + "epoch": 2.98727634194831, + "grad_norm": 0.016805415973067284, + "learning_rate": 2.2211025865498392e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44141152, + "step": 22539 + }, + { + "epoch": 2.987408880053015, + "grad_norm": 0.003400669898837805, + "learning_rate": 2.175071288548769e-10, + "loss": 0.0, + "num_input_tokens_seen": 44143464, + "step": 22540 + }, + { + "epoch": 2.9875414181577202, + "grad_norm": 3.5520541667938232, + "learning_rate": 2.1295219658573618e-10, + "loss": 0.0159, + "num_input_tokens_seen": 44145512, + "step": 22541 + }, + { + "epoch": 2.9876739562624257, + "grad_norm": 0.9891106486320496, + "learning_rate": 2.084454619352694e-10, + "loss": 0.0038, + "num_input_tokens_seen": 44147056, + "step": 22542 + }, + { + "epoch": 2.9878064943671303, + "grad_norm": 0.6001947522163391, + "learning_rate": 2.03986924990629e-10, + "loss": 0.0016, + "num_input_tokens_seen": 44149904, + "step": 22543 + }, + { + "epoch": 2.987939032471836, + "grad_norm": 5.142385482788086, + "learning_rate": 1.9957658583785733e-10, + "loss": 0.029, + "num_input_tokens_seen": 44152776, + "step": 22544 + }, + { + "epoch": 2.988071570576541, + "grad_norm": 8.903682708740234, + "learning_rate": 1.9521444456133133e-10, + "loss": 0.1973, + "num_input_tokens_seen": 44155600, + "step": 22545 + }, + { + "epoch": 2.988204108681246, + "grad_norm": 3.744699716567993, + "learning_rate": 1.9090050124598302e-10, + "loss": 0.0165, + "num_input_tokens_seen": 44157136, + "step": 22546 + }, + { + "epoch": 2.988336646785951, + "grad_norm": 9.884406089782715, + "learning_rate": 1.8663475597424652e-10, + "loss": 0.0885, + "num_input_tokens_seen": 44158640, + "step": 22547 + }, + { + "epoch": 2.988469184890656, + "grad_norm": 0.5473750233650208, + "learning_rate": 1.8241720882911096e-10, + "loss": 0.0012, + "num_input_tokens_seen": 44160152, + "step": 22548 + }, + { + "epoch": 2.9886017229953614, + "grad_norm": 16.15572166442871, + "learning_rate": 1.7824785989134508e-10, + "loss": 0.1119, + "num_input_tokens_seen": 44162104, + "step": 22549 + }, + { + "epoch": 2.988734261100066, + "grad_norm": 0.017358332872390747, + "learning_rate": 1.7412670924144004e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44164312, + "step": 22550 + }, + { + "epoch": 2.9888667992047715, + "grad_norm": 0.05452156439423561, + "learning_rate": 1.700537569587768e-10, + "loss": 0.0004, + "num_input_tokens_seen": 44166440, + "step": 22551 + }, + { + "epoch": 2.9889993373094765, + "grad_norm": 0.5943291187286377, + "learning_rate": 1.660290031221812e-10, + "loss": 0.0027, + "num_input_tokens_seen": 44167944, + "step": 22552 + }, + { + "epoch": 2.9891318754141816, + "grad_norm": 1.6413581371307373, + "learning_rate": 1.6205244780909123e-10, + "loss": 0.0138, + "num_input_tokens_seen": 44170032, + "step": 22553 + }, + { + "epoch": 2.9892644135188866, + "grad_norm": 9.999971389770508, + "learning_rate": 1.5812409109638994e-10, + "loss": 0.1212, + "num_input_tokens_seen": 44171528, + "step": 22554 + }, + { + "epoch": 2.9893969516235916, + "grad_norm": 2.721292018890381, + "learning_rate": 1.5424393305929486e-10, + "loss": 0.0301, + "num_input_tokens_seen": 44172624, + "step": 22555 + }, + { + "epoch": 2.989529489728297, + "grad_norm": 0.2592402398586273, + "learning_rate": 1.5041197377302365e-10, + "loss": 0.0013, + "num_input_tokens_seen": 44174992, + "step": 22556 + }, + { + "epoch": 2.9896620278330017, + "grad_norm": 3.2145674228668213, + "learning_rate": 1.4662821331140609e-10, + "loss": 0.0217, + "num_input_tokens_seen": 44176512, + "step": 22557 + }, + { + "epoch": 2.989794565937707, + "grad_norm": 0.0013348259963095188, + "learning_rate": 1.428926517474394e-10, + "loss": 0.0, + "num_input_tokens_seen": 44177672, + "step": 22558 + }, + { + "epoch": 2.9899271040424122, + "grad_norm": 1.804548740386963, + "learning_rate": 1.3920528915301047e-10, + "loss": 0.0118, + "num_input_tokens_seen": 44179824, + "step": 22559 + }, + { + "epoch": 2.9900596421471173, + "grad_norm": 4.515546798706055, + "learning_rate": 1.3556612559917358e-10, + "loss": 0.0456, + "num_input_tokens_seen": 44182488, + "step": 22560 + }, + { + "epoch": 2.9901921802518223, + "grad_norm": 3.5564351081848145, + "learning_rate": 1.3197516115615038e-10, + "loss": 0.0196, + "num_input_tokens_seen": 44184392, + "step": 22561 + }, + { + "epoch": 2.9903247183565274, + "grad_norm": 11.872001647949219, + "learning_rate": 1.284323958933298e-10, + "loss": 0.2508, + "num_input_tokens_seen": 44186488, + "step": 22562 + }, + { + "epoch": 2.990457256461233, + "grad_norm": 0.06354028731584549, + "learning_rate": 1.249378298789905e-10, + "loss": 0.0005, + "num_input_tokens_seen": 44188768, + "step": 22563 + }, + { + "epoch": 2.9905897945659374, + "grad_norm": 0.009352052584290504, + "learning_rate": 1.2149146318030103e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44190824, + "step": 22564 + }, + { + "epoch": 2.990722332670643, + "grad_norm": 0.004185742232948542, + "learning_rate": 1.1809329586387476e-10, + "loss": 0.0, + "num_input_tokens_seen": 44192504, + "step": 22565 + }, + { + "epoch": 2.990854870775348, + "grad_norm": 0.02018456719815731, + "learning_rate": 1.1474332799493726e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44195280, + "step": 22566 + }, + { + "epoch": 2.990987408880053, + "grad_norm": 1.6735354661941528, + "learning_rate": 1.1144155963871417e-10, + "loss": 0.0052, + "num_input_tokens_seen": 44197072, + "step": 22567 + }, + { + "epoch": 2.991119946984758, + "grad_norm": 0.3514725863933563, + "learning_rate": 1.0818799085821063e-10, + "loss": 0.001, + "num_input_tokens_seen": 44198536, + "step": 22568 + }, + { + "epoch": 2.991252485089463, + "grad_norm": 0.026112373918294907, + "learning_rate": 1.0498262171670937e-10, + "loss": 0.0001, + "num_input_tokens_seen": 44200768, + "step": 22569 + }, + { + "epoch": 2.9913850231941685, + "grad_norm": 0.005100660491734743, + "learning_rate": 1.0182545227555018e-10, + "loss": 0.0, + "num_input_tokens_seen": 44202896, + "step": 22570 + }, + { + "epoch": 2.9915175612988736, + "grad_norm": 1.691542387008667, + "learning_rate": 9.871648259579536e-11, + "loss": 0.0086, + "num_input_tokens_seen": 44204488, + "step": 22571 + }, + { + "epoch": 2.9916500994035786, + "grad_norm": 0.0029435441829264164, + "learning_rate": 9.565571273739693e-11, + "loss": 0.0, + "num_input_tokens_seen": 44206608, + "step": 22572 + }, + { + "epoch": 2.9917826375082837, + "grad_norm": 0.04887622594833374, + "learning_rate": 9.264314275919673e-11, + "loss": 0.0005, + "num_input_tokens_seen": 44209008, + "step": 22573 + }, + { + "epoch": 2.9919151756129887, + "grad_norm": 6.049227237701416, + "learning_rate": 8.9678772719759e-11, + "loss": 0.0492, + "num_input_tokens_seen": 44211152, + "step": 22574 + }, + { + "epoch": 2.9920477137176937, + "grad_norm": 0.1889122724533081, + "learning_rate": 8.676260267570514e-11, + "loss": 0.0009, + "num_input_tokens_seen": 44213528, + "step": 22575 + }, + { + "epoch": 2.9921802518223988, + "grad_norm": 0.0025527379475533962, + "learning_rate": 8.389463268337894e-11, + "loss": 0.0, + "num_input_tokens_seen": 44215128, + "step": 22576 + }, + { + "epoch": 2.9923127899271043, + "grad_norm": 0.031091947108507156, + "learning_rate": 8.107486279829157e-11, + "loss": 0.0002, + "num_input_tokens_seen": 44216504, + "step": 22577 + }, + { + "epoch": 2.9924453280318093, + "grad_norm": 0.058732688426971436, + "learning_rate": 7.830329307484397e-11, + "loss": 0.0002, + "num_input_tokens_seen": 44218464, + "step": 22578 + }, + { + "epoch": 2.9925778661365143, + "grad_norm": 0.08767752349376678, + "learning_rate": 7.557992356604926e-11, + "loss": 0.0005, + "num_input_tokens_seen": 44219944, + "step": 22579 + }, + { + "epoch": 2.9927104042412194, + "grad_norm": 6.561985015869141, + "learning_rate": 7.290475432464305e-11, + "loss": 0.0376, + "num_input_tokens_seen": 44221752, + "step": 22580 + }, + { + "epoch": 2.9928429423459244, + "grad_norm": 0.0009230970172211528, + "learning_rate": 7.027778540252827e-11, + "loss": 0.0, + "num_input_tokens_seen": 44223144, + "step": 22581 + }, + { + "epoch": 2.9929754804506294, + "grad_norm": 0.04239053651690483, + "learning_rate": 6.769901684994251e-11, + "loss": 0.0003, + "num_input_tokens_seen": 44224520, + "step": 22582 + }, + { + "epoch": 2.9931080185553345, + "grad_norm": 8.81534481048584, + "learning_rate": 6.51684487168458e-11, + "loss": 0.0337, + "num_input_tokens_seen": 44226248, + "step": 22583 + }, + { + "epoch": 2.99324055666004, + "grad_norm": 6.648081302642822, + "learning_rate": 6.268608105153285e-11, + "loss": 0.0174, + "num_input_tokens_seen": 44228128, + "step": 22584 + }, + { + "epoch": 2.993373094764745, + "grad_norm": 5.100999355316162, + "learning_rate": 6.02519139025759e-11, + "loss": 0.0402, + "num_input_tokens_seen": 44230344, + "step": 22585 + }, + { + "epoch": 2.99350563286945, + "grad_norm": 0.0026779421605169773, + "learning_rate": 5.786594731660433e-11, + "loss": 0.0, + "num_input_tokens_seen": 44232328, + "step": 22586 + }, + { + "epoch": 2.993638170974155, + "grad_norm": 11.860074996948242, + "learning_rate": 5.552818133941484e-11, + "loss": 0.0903, + "num_input_tokens_seen": 44233584, + "step": 22587 + }, + { + "epoch": 2.99377070907886, + "grad_norm": 0.14862053096294403, + "learning_rate": 5.323861601652658e-11, + "loss": 0.0011, + "num_input_tokens_seen": 44235288, + "step": 22588 + }, + { + "epoch": 2.993903247183565, + "grad_norm": 8.668434143066406, + "learning_rate": 5.099725139151579e-11, + "loss": 0.0902, + "num_input_tokens_seen": 44236944, + "step": 22589 + }, + { + "epoch": 2.99403578528827, + "grad_norm": 0.0036657059099525213, + "learning_rate": 4.880408750823629e-11, + "loss": 0.0, + "num_input_tokens_seen": 44238264, + "step": 22590 + }, + { + "epoch": 2.9941683233929757, + "grad_norm": 0.005773690063506365, + "learning_rate": 4.665912440832143e-11, + "loss": 0.0, + "num_input_tokens_seen": 44240160, + "step": 22591 + }, + { + "epoch": 2.9943008614976807, + "grad_norm": 12.544565200805664, + "learning_rate": 4.4562362133682144e-11, + "loss": 0.1789, + "num_input_tokens_seen": 44241752, + "step": 22592 + }, + { + "epoch": 2.9944333996023857, + "grad_norm": 1.4391350746154785, + "learning_rate": 4.251380072428646e-11, + "loss": 0.0072, + "num_input_tokens_seen": 44243072, + "step": 22593 + }, + { + "epoch": 2.994565937707091, + "grad_norm": 12.043181419372559, + "learning_rate": 4.0513440220102395e-11, + "loss": 0.0887, + "num_input_tokens_seen": 44245064, + "step": 22594 + }, + { + "epoch": 2.994698475811796, + "grad_norm": 0.003705475479364395, + "learning_rate": 3.856128065943265e-11, + "loss": 0.0, + "num_input_tokens_seen": 44247000, + "step": 22595 + }, + { + "epoch": 2.994831013916501, + "grad_norm": 0.6523666977882385, + "learning_rate": 3.665732207974726e-11, + "loss": 0.003, + "num_input_tokens_seen": 44248984, + "step": 22596 + }, + { + "epoch": 2.994963552021206, + "grad_norm": 0.020966388285160065, + "learning_rate": 3.480156451796113e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44250576, + "step": 22597 + }, + { + "epoch": 2.9950960901259114, + "grad_norm": 5.690288543701172, + "learning_rate": 3.2994008009878954e-11, + "loss": 0.0901, + "num_input_tokens_seen": 44253224, + "step": 22598 + }, + { + "epoch": 2.9952286282306164, + "grad_norm": 6.685713768005371, + "learning_rate": 3.1234652590472756e-11, + "loss": 0.0525, + "num_input_tokens_seen": 44255072, + "step": 22599 + }, + { + "epoch": 2.9953611663353215, + "grad_norm": 3.420220375061035, + "learning_rate": 2.952349829332679e-11, + "loss": 0.0296, + "num_input_tokens_seen": 44257408, + "step": 22600 + }, + { + "epoch": 2.9954937044400265, + "grad_norm": 0.003240854712203145, + "learning_rate": 2.7860545151747743e-11, + "loss": 0.0, + "num_input_tokens_seen": 44259456, + "step": 22601 + }, + { + "epoch": 2.9956262425447315, + "grad_norm": 4.917562484741211, + "learning_rate": 2.6245793197376966e-11, + "loss": 0.1933, + "num_input_tokens_seen": 44261464, + "step": 22602 + }, + { + "epoch": 2.9957587806494366, + "grad_norm": 0.0024403154384344816, + "learning_rate": 2.4679242461855824e-11, + "loss": 0.0, + "num_input_tokens_seen": 44262992, + "step": 22603 + }, + { + "epoch": 2.9958913187541416, + "grad_norm": 0.19025234878063202, + "learning_rate": 2.316089297516033e-11, + "loss": 0.0009, + "num_input_tokens_seen": 44264936, + "step": 22604 + }, + { + "epoch": 2.996023856858847, + "grad_norm": 3.1127891540527344, + "learning_rate": 2.1690744766711404e-11, + "loss": 0.0103, + "num_input_tokens_seen": 44266608, + "step": 22605 + }, + { + "epoch": 2.996156394963552, + "grad_norm": 0.020279603078961372, + "learning_rate": 2.0268797864542165e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44268088, + "step": 22606 + }, + { + "epoch": 2.996288933068257, + "grad_norm": 14.725159645080566, + "learning_rate": 1.8895052296130644e-11, + "loss": 0.2132, + "num_input_tokens_seen": 44270304, + "step": 22607 + }, + { + "epoch": 2.996421471172962, + "grad_norm": 1.5043866634368896, + "learning_rate": 1.7569508088122188e-11, + "loss": 0.0072, + "num_input_tokens_seen": 44273064, + "step": 22608 + }, + { + "epoch": 2.9965540092776672, + "grad_norm": 9.167046546936035, + "learning_rate": 1.6292165266051928e-11, + "loss": 0.0885, + "num_input_tokens_seen": 44275352, + "step": 22609 + }, + { + "epoch": 2.9966865473823723, + "grad_norm": 0.012785854749381542, + "learning_rate": 1.5063023854622327e-11, + "loss": 0.0, + "num_input_tokens_seen": 44277384, + "step": 22610 + }, + { + "epoch": 2.9968190854870773, + "grad_norm": 5.353344440460205, + "learning_rate": 1.3882083877425623e-11, + "loss": 0.0449, + "num_input_tokens_seen": 44279248, + "step": 22611 + }, + { + "epoch": 2.996951623591783, + "grad_norm": 5.932577133178711, + "learning_rate": 1.2749345356943832e-11, + "loss": 0.0851, + "num_input_tokens_seen": 44281792, + "step": 22612 + }, + { + "epoch": 2.997084161696488, + "grad_norm": 0.02163410186767578, + "learning_rate": 1.166480831565897e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44283144, + "step": 22613 + }, + { + "epoch": 2.997216699801193, + "grad_norm": 0.025362735614180565, + "learning_rate": 1.0628472774110166e-11, + "loss": 0.0001, + "num_input_tokens_seen": 44285152, + "step": 22614 + }, + { + "epoch": 2.997349237905898, + "grad_norm": 0.006480336654931307, + "learning_rate": 9.640338752003874e-12, + "loss": 0.0, + "num_input_tokens_seen": 44286680, + "step": 22615 + }, + { + "epoch": 2.997481776010603, + "grad_norm": 0.2815084457397461, + "learning_rate": 8.700406269046557e-12, + "loss": 0.0014, + "num_input_tokens_seen": 44288672, + "step": 22616 + }, + { + "epoch": 2.997614314115308, + "grad_norm": 0.770248532295227, + "learning_rate": 7.808675342724226e-12, + "loss": 0.0045, + "num_input_tokens_seen": 44290808, + "step": 22617 + }, + { + "epoch": 2.997746852220013, + "grad_norm": 6.655081272125244, + "learning_rate": 6.965145990522892e-12, + "loss": 0.067, + "num_input_tokens_seen": 44294128, + "step": 22618 + }, + { + "epoch": 2.9978793903247185, + "grad_norm": 9.320930480957031, + "learning_rate": 6.169818228818347e-12, + "loss": 0.2274, + "num_input_tokens_seen": 44296600, + "step": 22619 + }, + { + "epoch": 2.9980119284294235, + "grad_norm": 0.0037947280798107386, + "learning_rate": 5.422692072876157e-12, + "loss": 0.0, + "num_input_tokens_seen": 44297888, + "step": 22620 + }, + { + "epoch": 2.9981444665341286, + "grad_norm": 8.301339149475098, + "learning_rate": 4.723767536851665e-12, + "loss": 0.202, + "num_input_tokens_seen": 44299320, + "step": 22621 + }, + { + "epoch": 2.9982770046388336, + "grad_norm": 0.0010123125975951552, + "learning_rate": 4.073044634345102e-12, + "loss": 0.0, + "num_input_tokens_seen": 44300664, + "step": 22622 + }, + { + "epoch": 2.9984095427435387, + "grad_norm": 0.012102228589355946, + "learning_rate": 3.4705233781240354e-12, + "loss": 0.0001, + "num_input_tokens_seen": 44303000, + "step": 22623 + }, + { + "epoch": 2.998542080848244, + "grad_norm": 0.06029818207025528, + "learning_rate": 2.9162037798458056e-12, + "loss": 0.0003, + "num_input_tokens_seen": 44304840, + "step": 22624 + }, + { + "epoch": 2.9986746189529487, + "grad_norm": 0.025797370821237564, + "learning_rate": 2.410085849779975e-12, + "loss": 0.0, + "num_input_tokens_seen": 44306280, + "step": 22625 + }, + { + "epoch": 2.998807157057654, + "grad_norm": 0.030400771647691727, + "learning_rate": 1.9521695979185518e-12, + "loss": 0.0002, + "num_input_tokens_seen": 44308704, + "step": 22626 + }, + { + "epoch": 2.9989396951623593, + "grad_norm": 0.15217946469783783, + "learning_rate": 1.5424550331433197e-12, + "loss": 0.0007, + "num_input_tokens_seen": 44311464, + "step": 22627 + }, + { + "epoch": 2.9990722332670643, + "grad_norm": 2.7459113597869873, + "learning_rate": 1.18094216322584e-12, + "loss": 0.0105, + "num_input_tokens_seen": 44313784, + "step": 22628 + }, + { + "epoch": 2.9992047713717693, + "grad_norm": 0.0004933705204166472, + "learning_rate": 8.676309951050066e-13, + "loss": 0.0, + "num_input_tokens_seen": 44315000, + "step": 22629 + }, + { + "epoch": 2.9993373094764744, + "grad_norm": 6.124077796936035, + "learning_rate": 6.025215351646019e-13, + "loss": 0.1049, + "num_input_tokens_seen": 44316504, + "step": 22630 + }, + { + "epoch": 2.99946984758118, + "grad_norm": 0.4443013072013855, + "learning_rate": 3.856137881230737e-13, + "loss": 0.0017, + "num_input_tokens_seen": 44318792, + "step": 22631 + }, + { + "epoch": 2.9996023856858844, + "grad_norm": 8.954855918884277, + "learning_rate": 2.1690775814375842e-13, + "loss": 0.0622, + "num_input_tokens_seen": 44320520, + "step": 22632 + }, + { + "epoch": 2.99973492379059, + "grad_norm": 5.586569309234619, + "learning_rate": 9.640344883488084e-14, + "loss": 0.0457, + "num_input_tokens_seen": 44322392, + "step": 22633 + }, + { + "epoch": 2.999867461895295, + "grad_norm": 0.010882946662604809, + "learning_rate": 2.4100862416887028e-14, + "loss": 0.0001, + "num_input_tokens_seen": 44324256, + "step": 22634 + }, + { + "epoch": 3.0, + "grad_norm": 0.3562160134315491, + "learning_rate": 0.0, + "loss": 0.0017, + "num_input_tokens_seen": 44325984, + "step": 22635 + }, + { + "epoch": 3.0, + "num_input_tokens_seen": 44325984, + "step": 22635, + "total_flos": 1.8804729049283297e+18, + "train_loss": 0.11007208550827785, + "train_runtime": 220429.5839, + "train_samples_per_second": 0.205, + "train_steps_per_second": 0.103 + } + ], + "logging_steps": 1, + "max_steps": 22635, + "num_input_tokens_seen": 44325984, + "num_train_epochs": 3, + "save_steps": 5000, + "stateful_callbacks": { + "TrainerControl": { + "args": { + "should_epoch_stop": false, + "should_evaluate": false, + "should_log": false, + "should_save": true, + "should_training_stop": true + }, + "attributes": {} + } + }, + "total_flos": 1.8804729049283297e+18, + "train_batch_size": 1, + "trial_name": null, + "trial_params": null +} diff --git a/training_args.bin b/training_args.bin new file mode 100644 index 0000000000000000000000000000000000000000..e91b84a7340f44c3720906811a8270ba00a7d3aa --- /dev/null +++ b/training_args.bin @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3469befa03cfdc61d08fe4993d0b0451d621d80513a23011f8b231cbcb3efb30 +size 7416 diff --git a/training_loss.png b/training_loss.png new file mode 100644 index 0000000000000000000000000000000000000000..b675c6cc57d71b432259a000acad7aebb9ebdd3e Binary files /dev/null and b/training_loss.png differ diff --git a/vocab.json b/vocab.json new file mode 100644 index 0000000000000000000000000000000000000000..4783fe10ac3adce15ac8f358ef5462739852c569 --- /dev/null +++ b/vocab.json @@ -0,0 +1 @@ +{"!":0,"\"":1,"#":2,"$":3,"%":4,"&":5,"'":6,"(":7,")":8,"*":9,"+":10,",":11,"-":12,".":13,"/":14,"0":15,"1":16,"2":17,"3":18,"4":19,"5":20,"6":21,"7":22,"8":23,"9":24,":":25,";":26,"<":27,"=":28,">":29,"?":30,"@":31,"A":32,"B":33,"C":34,"D":35,"E":36,"F":37,"G":38,"H":39,"I":40,"J":41,"K":42,"L":43,"M":44,"N":45,"O":46,"P":47,"Q":48,"R":49,"S":50,"T":51,"U":52,"V":53,"W":54,"X":55,"Y":56,"Z":57,"[":58,"\\":59,"]":60,"^":61,"_":62,"`":63,"a":64,"b":65,"c":66,"d":67,"e":68,"f":69,"g":70,"h":71,"i":72,"j":73,"k":74,"l":75,"m":76,"n":77,"o":78,"p":79,"q":80,"r":81,"s":82,"t":83,"u":84,"v":85,"w":86,"x":87,"y":88,"z":89,"{":90,"|":91,"}":92,"~":93,"¡":94,"¢":95,"£":96,"¤":97,"¥":98,"¦":99,"§":100,"¨":101,"©":102,"ª":103,"«":104,"¬":105,"®":106,"¯":107,"°":108,"±":109,"²":110,"³":111,"´":112,"µ":113,"¶":114,"·":115,"¸":116,"¹":117,"º":118,"»":119,"¼":120,"½":121,"¾":122,"¿":123,"À":124,"Á":125,"Â":126,"Ã":127,"Ä":128,"Å":129,"Æ":130,"Ç":131,"È":132,"É":133,"Ê":134,"Ë":135,"Ì":136,"Í":137,"Î":138,"Ï":139,"Ð":140,"Ñ":141,"Ò":142,"Ó":143,"Ô":144,"Õ":145,"Ö":146,"×":147,"Ø":148,"Ù":149,"Ú":150,"Û":151,"Ü":152,"Ý":153,"Þ":154,"ß":155,"à":156,"á":157,"â":158,"ã":159,"ä":160,"å":161,"æ":162,"ç":163,"è":164,"é":165,"ê":166,"ë":167,"ì":168,"í":169,"î":170,"ï":171,"ð":172,"ñ":173,"ò":174,"ó":175,"ô":176,"õ":177,"ö":178,"÷":179,"ø":180,"ù":181,"ú":182,"û":183,"ü":184,"ý":185,"þ":186,"ÿ":187,"Ā":188,"ā":189,"Ă":190,"ă":191,"Ą":192,"ą":193,"Ć":194,"ć":195,"Ĉ":196,"ĉ":197,"Ċ":198,"ċ":199,"Č":200,"č":201,"Ď":202,"ď":203,"Đ":204,"đ":205,"Ē":206,"ē":207,"Ĕ":208,"ĕ":209,"Ė":210,"ė":211,"Ę":212,"ę":213,"Ě":214,"ě":215,"Ĝ":216,"ĝ":217,"Ğ":218,"ğ":219,"Ġ":220,"ġ":221,"Ģ":222,"ģ":223,"Ĥ":224,"ĥ":225,"Ħ":226,"ħ":227,"Ĩ":228,"ĩ":229,"Ī":230,"ī":231,"Ĭ":232,"ĭ":233,"Į":234,"į":235,"İ":236,"ı":237,"IJ":238,"ij":239,"Ĵ":240,"ĵ":241,"Ķ":242,"ķ":243,"ĸ":244,"Ĺ":245,"ĺ":246,"Ļ":247,"ļ":248,"Ľ":249,"ľ":250,"Ŀ":251,"ŀ":252,"Ł":253,"ł":254,"Ń":255,"ĠĠ":256,"ĠĠĠĠ":257,"in":258,"Ġt":259,"ĠĠĠĠĠĠĠĠ":260,"er":261,"ĠĠĠ":262,"on":263,"Ġa":264,"re":265,"at":266,"st":267,"en":268,"or":269,"Ġth":270,"ĊĊ":271,"Ġc":272,"le":273,"Ġs":274,"it":275,"an":276,"ar":277,"al":278,"Ġthe":279,";Ċ":280,"Ġp":281,"Ġf":282,"ou":283,"Ġ=":284,"is":285,"ĠĠĠĠĠĠĠ":286,"ing":287,"es":288,"Ġw":289,"ion":290,"ed":291,"ic":292,"Ġb":293,"Ġd":294,"et":295,"Ġm":296,"Ġo":297,"ĉĉ":298,"ro":299,"as":300,"el":301,"ct":302,"nd":303,"Ġin":304,"Ġh":305,"ent":306,"id":307,"Ġn":308,"am":309,"ĠĠĠĠĠĠĠĠĠĠĠ":310,"Ġto":311,"Ġre":312,"--":313,"Ġ{":314,"Ġof":315,"om":316,");Ċ":317,"im":318,"čĊ":319,"Ġ(":320,"il":321,"//":322,"Ġand":323,"ur":324,"se":325,"Ġl":326,"ex":327,"ĠS":328,"ad":329,"Ġ\"":330,"ch":331,"ut":332,"if":333,"**":334,"Ġ}":335,"em":336,"ol":337,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":338,"th":339,")Ċ":340,"Ġ{Ċ":341,"Ġg":342,"ig":343,"iv":344,",Ċ":345,"ce":346,"od":347,"Ġv":348,"ate":349,"ĠT":350,"ag":351,"ay":352,"Ġ*":353,"ot":354,"us":355,"ĠC":356,"Ġst":357,"ĠI":358,"un":359,"ul":360,"ue":361,"ĠA":362,"ow":363,"Ġ'":364,"ew":365,"Ġ<":366,"ation":367,"()":368,"Ġfor":369,"ab":370,"ort":371,"um":372,"ame":373,"Ġis":374,"pe":375,"tr":376,"ck":377,"âĢ":378,"Ġy":379,"ist":380,"----":381,".ĊĊ":382,"he":383,"Ġe":384,"lo":385,"ĠM":386,"Ġbe":387,"ers":388,"Ġon":389,"Ġcon":390,"ap":391,"ub":392,"ĠP":393,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":394,"ass":395,"int":396,">Ċ":397,"ly":398,"urn":399,"Ġ$":400,";ĊĊ":401,"av":402,"port":403,"ir":404,"->":405,"nt":406,"ction":407,"end":408,"Ġde":409,"ith":410,"out":411,"turn":412,"our":413,"ĠĠĠĠĠ":414,"lic":415,"res":416,"pt":417,"==":418,"Ġthis":419,"Ġwh":420,"Ġif":421,"ĠD":422,"ver":423,"age":424,"ĠB":425,"ht":426,"ext":427,"=\"":428,"Ġthat":429,"****":430,"ĠR":431,"Ġit":432,"ess":433,"ĠF":434,"Ġr":435,"os":436,"and":437,"Ġas":438,"ect":439,"ke":440,"rom":441,"Ġ//":442,"con":443,"ĠL":444,"(\"":445,"qu":446,"lass":447,"Ġwith":448,"iz":449,"de":450,"ĠN":451,"Ġal":452,"op":453,"up":454,"get":455,"Ġ}Ċ":456,"ile":457,"Ġan":458,"ata":459,"ore":460,"ri":461,"Ġpro":462,";čĊ":463,"ĉĉĉĉ":464,"ter":465,"ain":466,"ĠW":467,"ĠE":468,"Ġcom":469,"Ġreturn":470,"art":471,"ĠH":472,"ack":473,"import":474,"ublic":475,"Ġor":476,"est":477,"ment":478,"ĠG":479,"able":480,"Ġ-":481,"ine":482,"ill":483,"ind":484,"ere":485,"::":486,"ity":487,"Ġ+":488,"Ġtr":489,"elf":490,"ight":491,"('":492,"orm":493,"ult":494,"str":495,"..":496,"\",":497,"Ġyou":498,"ype":499,"pl":500,"Ġnew":501,"Ġj":502,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":503,"Ġfrom":504,"Ġex":505,"ĠO":506,"ld":507,"Ġ[":508,"oc":509,":Ċ":510,"Ġse":511,"Ġle":512,"--------":513,".s":514,"{Ċ":515,"',":516,"ant":517,"Ġat":518,"ase":519,".c":520,"Ġch":521,"":589,"ust":590,"que":591,"Ġres":592,"))":593,"'s":594,"Ġk":595,"ans":596,"yst":597,"unction":598,"********":599,"Ġi":600,"Ġus":601,"pp":602,"one":603,"ail":604,"====":605,"name":606,"Ġstr":607,"Ġ/":608,"Ġ&":609,"ach":610,"div":611,"ystem":612,"ell":613,"Ġhave":614,"err":615,"ould":616,"ull":617,"pon":618,"ĠJ":619,"_p":620,"Ġ==":621,"ign":622,"St":623,".Ċ":624,"Ġpl":625,");ĊĊ":626,"form":627,"put":628,"ount":629,"}ĊĊ":630,"dd":631,"ite":632,"Ġget":633,"rr":634,"ome":635,"ĠâĢ":636,"aram":637,"cc":638,"Ġ*/":639,"ER":640,"In":641,"les":642,"_s":643,"ong":644,"ie":645,"Ġcan":646,"ĠV":647,"erv":648,"pr":649,"Ġun":650,"row":651,"ber":652,"Ġdo":653,"ll":654,"Ġel":655,"Ġself":656,"ated":657,"ary":658,"Ġ.":659,"']":660,"ud":661,"Ġen":662,"ĠTh":663,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":664,"te":665,"_c":666,"uct":667,"Ġab":668,"ork":669,".get":670,"Ġ#":671,"aw":672,"ress":673,"ob":674,"Name":675,"app":676,"['":677,"Ġall":678,"ory":679,"ition":680,"ance":681,"ear":682,"Ġcont":683,"vent":684,"ia":685,"Ġwill":686,"IN":687,"ĠĠĠĠĠĠĠĠĠ":688,"return":689,"Ġ":755,"\",Ċ":756,"ec":757,"ĠIn":758,"ph":759,"Ġ|":760,"_f":761,"Ġvar":762,"ence":763,"Id":764,"ree":765,"ink":766,"lect":767,"ug":768,"eth":769,"Ġelse":770,"----------------":771,"cont":772,"Ġso":773,"atic":774,"Ġlo":775,"pro":776,"ton":777,"ss":778,"own":779,"abel":780,"oint":781,"ous":782,"eld":783,"ST":784,"The":785,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":786,"RE":787,"\":":788,"olor":789,"tp":790,"eg":791,"key":792,"ude":793,"ĠSt":794,"ound":795,"Ġar":796,"\");Ċ":797,"ener":798,"ser":799,"bject":800,"essage":801,"fer":802,"Ġmore":803,"ations":804,"ents":805,"Ġhis":806,"Ġthey":807,".S":808,"ĠY":809,"use":810,"ne":811,"ish":812,"old":813,"_d":814,"io":815,"ield":816,"Ġper":817,"Cont":818,"ings":819,"####":820,"Ġdata":821,"Ġsa":822,"ef":823,"fo":824,"Ġone":825,"eng":826,"Ġdis":827,"AT":828,"Ġname":829,"Ġtrue":830,"val":831,"led":832,".f":833,"Ġne":834,"Ġend":835,".T":836,"cre":837,"ark":838,"log":839,"Ex":840,"error":841,"_id":842,"urre":843,"ange":844,"Ġnull":845,"rray":846,"Ġmy":847,"pan":848,"ict":849,"ator":850,"View":851,"List":852,"ĉreturn":853,"âĢĿ":854,"Ġpre":855,"Ġx":856,"clude":857,"arg":858,"ov":859,".h":860,"Ġ>":861,"Ġtheir":862,"')":863,"irst":864,"ick":865,"gh":866,"LE":867,"OR":868,"Ġprivate":869,"tem":870,"čĊčĊ":871,"user":872,"Ġ)":873,"com":874,".A":875,"\";Ċ":876,"Ġid":877,"read":878,"Ġwho":879,"_b":880,"\">Ċ":881,"Ġtime":882,"Ġman":883,"ry":884,"========":885,"roup":886,"rop":887,"public":888,"vel":889,"umber":890,"ble":891,"Ġwhich":892,"****************":893,"Ġany":894,"Ġfalse":895,"we":896,"Ġvalue":897,"Ġli":898,"\")":899,"nder":900,"gr":901,"Ġno":902,"param":903,"fig":904,".com":905,"Ġapp":906,"_l":907,"ions":908,".D":909,"ĠCh":910,"Ġabout":911,"Ġadd":912,"Ġsu":913,"Ġstring":914,"ID":915,"Ġover":916,"string":917,".l":918,"ource":919,"_C":920,"]Ċ":921,"Ġqu":922,"ĠString":923,"ca":924,"SE":925,"Ġro":926,"sh":927,"ual":928,"Type":929,"son":930,"new":931,"ern":932,"Ġag":933,"AR":934,"];Ċ":935,"].":936,"Ġ?":937,"ical":938,"Ġdes":939,"uth":940,"ix":941,"ays":942,"Ġtype":943,"'t":944,"ault":945,"Ġinter":946,"var":947,".b":948,"Ġpart":949,".d":950,"urrent":951,"IT":952,"EN":953,"enc":954,"(f":955,"ra":956,"value":957,"cho":958,"utton":959,"ose":960,"Ġ!=":961,"ater":962,"é":963,"reate":964,"oll":965,"pos":966,"yle":967,"ng":968,"AL":969,"using":970,"ames":971,"Ġ{čĊ":972,"ates":973,"ely":974,"Ġwork":975,"Ġem":976,"inal":977,"Ġsp":978,"Ġwhen":979,".set":980,"ĠĠĠĠĠĠ":981,"):Ċ":982,"to":983,"quire":984,"indow":985,"lement":986,"pect":987,"ash":988,"[i":989,"Ġuse":990,".F":991,"pec":992,"Ġad":993,"ove":994,"ception":995,"ength":996,"include":997,"ader":998,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":999,"atus":1000,"Th":1001,"itle":1002,"rit":1003,"void":1004,"().":1005,"(Ċ":1006,"Ġoff":1007,"Ġother":1008,"Ġ&&":1009,"';Ċ":1010,"ms":1011,"Ġbeen":1012,"Ġte":1013,"ml":1014,"co":1015,"nc":1016,"ervice":1017,"Ġ%":1018,"**Ċ":1019,"ann":1020,"ade":1021,"ĊĊĊĊ":1022,"lock":1023,"const":1024,"ponse":1025,"Ġsup":1026,"++":1027,"date":1028,"Ġacc":1029,"Ġhad":1030,"Ġbu":1031,"ĠRe":1032,"Ġwere":1033,"Ġfile":1034,"Ġwould":1035,"ĠâĢľ":1036,"ven":1037,"iss":1038,"Ġour":1039,"class":1040,"raw":1041,"Ġyear":1042,"Data":1043,"Ġval":1044,"Ġsome":1045,"fter":1046,"ys":1047,"Ġ///":1048,"round":1049,"view":1050,"Ġpe":1051,"Ġthere":1052,"Ġsaid":1053,"du":1054,"of":1055,"line":1056,"/*":1057,"duct":1058,"Ġher":1059,"ĠĠĠĠĠĠĠĠĠĠĠĠĠ":1060,"Res":1061,"Ġco":1062,"Ġcomm":1063,"ise":1064,"min":1065,"ĠĠĠĠĊ":1066,"#include":1067,"ethod":1068,".P":1069,"ute":1070,"Ġass":1071,"Int":1072,"ask":1073,"loc":1074,"Ġlike":1075,"ody":1076,"Ġlet":1077,"load":1078,"Ġam":1079,"rol":1080,"Ġgr":1081,"yp":1082,"Ġalso":1083,"ĠIt":1084,"url":1085,"ific":1086,"ors":1087,"_P":1088,"_n":1089,"igh":1090,"Ġthan":1091,"Com":1092,"AN":1093,"UL":1094,"ating":1095,"ĠThis":1096,"ref":1097,"_S":1098,"Ġstatic":1099,"roll":1100,"Ġjust":1101,"Ġresult":1102,"ian":1103,"idth":1104,"Ġthem":1105,"));Ċ":1106,"der":1107,"reak":1108,"Con":1109,"://":1110,"ule":1111,"...":1112,"arch":1113,"ement":1114,"Ġ<<":1115,"ush":1116,"ense":1117,"arr":1118,"Ġinto":1119,"cess":1120,"amp":1121,"ied":1122,"ument":1123,"Ġ\\":1124,"],":1125,"wo":1126,"als":1127,"Ġwhat":1128,"anc":1129,"Value":1130,"='":1131,"olum":1132,"Ġpos":1133,"ages":1134,"ayer":1135,"Ġsc":1136,"ues":1137,"\")Ċ":1138,"_T":1139,"Ġlist":1140,"(s":1141,"Ġcase":1142,"Ch":1143,"ĉĉĉĉĉ":1144,"////////":1145,"ponent":1146,"Ġz":1147,"Ġkn":1148,"let":1149,"DE":1150,"red":1151,"Ġfe":1152,"Ġ},Ċ":1153,"Ġ,":1154,"(t":1155,"Ġfirst":1156,"');Ċ":1157,"word":1158,"Ġimport":1159,"Ġact":1160,"Ġchar":1161,"CT":1162,"ĠTr":1163,"ople":1164,"={":1165,"ĉf":1166,"ient":1167,"cent":1168,".j":1169,"lection":1170,"))Ċ":1171,"Ġonly":1172,"Ġprint":1173,"mer":1174,".W":1175,"ock":1176,"Ġ--":1177,"Text":1178,"Ġop":1179,"ank":1180,"Ġits":1181,"Ġback":1182,"[\"":1183,"Ġneed":1184,"Ġcl":1185,"Ġsub":1186,"Ġla":1187,"((":1188,".\"":1189,"Object":1190,"Ġstart":1191,"file":1192,"(self":1193,"ner":1194,"ey":1195,"Ġuser":1196,"Ġent":1197,"ĠCom":1198,"its":1199,"ĠCon":1200,"ouble":1201,"ower":1202,"item":1203,"very":1204,"ĠWe":1205,"lick":1206,"ĠQ":1207,"php":1208,"ttp":1209,"':":1210,"ics":1211,"Ġunder":1212,"Ġ*Ċ":1213,".L":1214,");":1215,"ices":1216,"Ġreg":1217,")čĊ":1218,"ĉpublic":1219,"SS":1220,"Ġthen":1221,"reat":1222,"ious":1223,".G":1224,"ek":1225,"irect":1226,"heck":1227,"cript":1228,"ning":1229,"ĠUn":1230,"Ġmay":1231,"ĠWh":1232,"Bo":1233,"Item":1234,"struct":1235,".st":1236,"ream":1237,"ible":1238,"loat":1239,"Ġorg":1240,"und":1241,"sum":1242,"_in":1243,"../":1244,"_M":1245,"Ġhow":1246,"rite":1247,"'Ċ":1248,"To":1249,"ww":1250,"Ġpeople":1251,"index":1252,".n":1253,"http":1254,"(m":1255,"ector":1256,"Ġind":1257,"Ġjav":1258,"],Ċ":1259,"ĠHe":1260,"_st":1261,"ful":1262,"ole":1263,"){Ċ":1264,"Ġshould":1265,"opy":1266,"elp":1267,"ier":1268,"_name":1269,"erson":1270,"ION":1271,"ote":1272,"Ġtest":1273,"Ġbet":1274,"rror":1275,"ular":1276,"ãĢ":1277,"ĠÐ":1278,"bs":1279,"ting":1280,"Ġmake":1281,"Tr":1282,"Ġafter":1283,"arget":1284,"RO":1285,"olumn":1286,"rc":1287,"_re":1288,"define":1289,"Ġright":1290,"right":1291,"day":1292,"Ġlong":1293,"[]":1294,"(p":1295,"td":1296,"cond":1297,"ĠPro":1298,"Ġrem":1299,"ptions":1300,"vid":1301,".g":1302,"Ġext":1303,"Ġ__":1304,"')Ċ":1305,"pace":1306,"mp":1307,"Ġmin":1308,"stance":1309,"air":1310,"action":1311,"wh":1312,"type":1313,"util":1314,"ait":1315,"ĊĊ":1339,"Ġshe":1340,"\"]":1341,"aph":1342,"Ġexp":1343,"erty":1344,"ĠSe":1345,"Ġpar":1346,"unc":1347,"ET":1348,"Ġread":1349,"print":1350,"Ġrel":1351,"Ġform":1352,"Ġdr":1353,"Exception":1354,"input":1355,"Ġtrans":1356,"########":1357,"order":1358,"By":1359,"Ġaw":1360,"ities":1361,"uff":1362,"play":1363,".add":1364,"ĠâĢĵ":1365,"Ġwant":1366,"Ġcomp":1367,"ments":1368,"Ġ||":1369,"az":1370,"be":1371,"Ġnumber":1372,"Ġrequire":1373,"ĠEx":1374,"Ġcol":1375,"Ġkey":1376,"ember":1377,"Ġtwo":1378,"Ġsize":1379,"Ġwhere":1380,"UT":1381,"result":1382,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":1383,"ough":1384,"orld":1385,"ood":1386,"uch":1387,"ative":1388,"ger":1389,"arent":1390,"Ġ/*":1391,"Ġarg":1392,"Ġwhile":1393,"(this":1394,"Ġrec":1395,"Ġdif":1396,"State":1397,"Ġspec":1398,"ride":1399,"_F":1400,"Ġlook":1401,"AM":1402,"ility":1403,"eter":1404,"âĢĻt":1405,"ĊĊĊ":1406,"ayout":1407,"--------------------------------":1408,"ager":1409,"Ġcould":1410,"Ġbr":1411,"ends":1412,"ures":1413,"Ġknow":1414,"ets":1415,"ĠIf":1416,"ĠSh":1417,".w":1418,"back":1419,"Ġser":1420,"Ġ+=":1421,"Ġfr":1422,"());Ċ":1423,"Ġhand":1424,"Ind":1425,"ULL":1426,"Im":1427,"();ĊĊ":1428,"Ġmost":1429,"Ġtry":1430,"Ġnow":1431,"rough":1432,">čĊ":1433,"ackage":1434,"Ġhim":1435,"._":1436,"ify":1437,"Ġbreak":1438,"Ġ);Ċ":1439,"ren":1440,"#define":1441,"itt":1442,"Ġap":1443,"ĉc":1444,"(n":1445,"ĠYou":1446,":ĊĊ":1447,"-m":1448,"Ġevery":1449,"ustom":1450,"lient":1451,"ocument":1452,"cription":1453,"Error":1454,"-b":1455,"о":1456,"][":1457,"trans":1458,"Ġpoint":1459,"Ġstd":1460,"Ġfil":1461,"Time":1462,"Ġmod":1463,"Ġ->":1464,"Ġerror":1465,"ah":1466,"Ġtext":1467,"roller":1468,"lose":1469,"ql":1470,"Ġpol":1471,"><":1784,".B":1785,"-c":1786,"Ġopen":1787,"Ġest":1788,"ĠĠĠĠĠĠĠĠĊ":1789,"Ġnext":1790,"IM":1791,"ÑĤ":1792,"OT":1793,"ó":1794,"Ġfollow":1795,"content":1796,"ĠĠĠĠĠĠĠĠĠĠĠĠ":1797,"Ġinclud":1798,"HE":1799,"ĠRes":1800,"Ġhref":1801,"и":1802,"Ġcar":1803,"ypes":1804,"image":1805,"Un":1806,"Ġbool":1807,"AD":1808,"Ġgame":1809,".Form":1810,"rows":1811,"*/":1812,"velop":1813,".Drawing":1814,"Ġpath":1815,"ision":1816,"Ġeach":1817,"ĠPl":1818,"_type":1819,"Path":1820,"nection":1821,"Ġav":1822,"').":1823,"Ġsupport":1824,"ENT":1825,"rem":1826,"\").":1827,"Ġown":1828,"Ġcor":1829,"count":1830,"miss":1831,"ually":1832,"Ġmem":1833,"std":1834,"ience":1835,"search":1836,"\"ĊĊ":1837,"Form":1838,"Ġsex":1839,"ename":1840,"Ġsign":1841,"Ġet":1842,"ĠĠĠĠĠĠĠĠĠĠ":1843,"','":1844,"ĠApp":1845,"Ġthose":1846,"off":1847,"Ġerr":1848,"Ġsystem":1849,"Ġbest":1850,"code":1851,"Ġsame":1852,"Ġdi":1853,"uss":1854,"Ġcreate":1855,"ather":1856,"Array":1857,".in":1858,"fe":1859,"Service":1860,"UN":1861,"ats":1862,"ĠZ":1863,"alth":1864,"Ġmade":1865,"true":1866,"AB":1867,"Ġmark":1868,"rid":1869,"ified":1870,",čĊ":1871,"yn":1872,"press":1873,"Ġgroup":1874,"Ġfin":1875,"ĠLicense":1876,"Field":1877,"eger":1878,"Ġworld":1879,"iness":1880,"ty":1881,"Ġprocess":1882,"(b":1883,"Ġcre":1884,"arn":1885,"ives":1886,"Ġmain":1887,"ideo":1888,"_g":1889,"AG":1890,"valid":1891,"img":1892,"PI":1893,"Ġcolor":1894,"Ġreport":1895,"Ġtake":1896,"rib":1897,"OM":1898,"Ġday":1899,"Request":1900,"Ġsk":1901,"bers":1902,"ĉs":1903,".Add":1904,"oot":1905,"Image":1906,"Ġcomple":1907,"ollection":1908,"Ġtop":1909,"Ġfree":1910,"AS":1911,"De":1912,"ĠOn":1913,"IG":1914,"eta":1915,"Date":1916,"Ġaction":1917,"Over":1918,"itor":1919,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":1920,"not":1921,"Ġindex":1922,"her":1923,"icon":1924,"On":1925,";čĊčĊ":1926,"ivity":1927,"mand":1928,".Windows":1929,"OL":1930,"Ġreal":1931,"Ġmax":1932,"land":1933,"....":1934,"raph":1935,"Ġbuild":1936,"leg":1937,"assword":1938,"?ĊĊ":1939,"â̦":1940,"ook":1941,"uck":1942,"Ġmessage":1943,"test":1944,"ivers":1945,"Ġinput":1946,"Ġart":1947,"Ġbetween":1948,"Get":1949,"enter":1950,"ground":1951,"ene":1952,"á":1953,".length":1954,"Node":1955,"(i":1956,"Class":1957,"for":1958,"ĠâĢĶ":1959,"ten":1960,"oin":1961,"Ġke":1962,"ui":1963,"ĠIN":1964,"Ġtable":1965,"sub":1966,"ĠLe":1967,"Ġhead":1968,"Ġmust":1969,"////////////////":1970,".util":1971,"Context":1972,"Ġorder":1973,"Ġmov":1974,"over":1975,"Ġcontin":1976,"Ġsay":1977,"static":1978,".Text":1979,"ĠclassName":1980,"pany":1981,"Ġter":1982,"head":1983,"rg":1984,"Ġproduct":1985,"This":1986,".âĢĿ":1987,"ĠBut":1988,"loy":1989,"Ġdouble":1990,"sg":1991,"Ġplace":1992,".x":1993,"message":1994,"Ġinformation":1995,"private":1996,"Ġoper":1997,"ced":1998,"db":1999,"\">":2179,"aterial":2180,"iled":2181,"Ġput":2182,"Qu":2183,"ÑĢ":2184,"ung":2185,"map":2186,"ĉĉĉĉĉĉĉĉ":2187,"Ġlevel":2188,"Component":2189,"book":2190,"creen":2191,"_RE":2192,"Ġconfig":2193,"ãģ":2194,"Or":2195,".data":2196,"Ġdocument":2197,"\",\"":2198,"tribute":2199,"ux":2200,"Log":2201,"ference":2202,"post":2203,"_e":2204,"Ġlocal":2205,"andom":2206,"assert":2207,"Val":2208,"lected":2209,"ina":2210,"atabase":2211,"Add":2212,"Ġcontent":2213,".print":2214,"signed":2215,"ric":2216,".\"ĊĊ":2217,"Ġfa":2218,"!ĊĊ":2219,"-f":2220,"ived":2221,"Ġquest":2222,".ex":2223,"Ġfloat":2224,"Ġdevelop":2225,"оÐ":2226,"Map":2227,"ading":2228,"Ġposs":2229,"UE":2230,"namespace":2231,"_O":2232,"ĉb":2233,".Get":2234,">(":2235,"json":2236,"etails":2237,"Ġtoo":2238,"Ġextends":2239,"ĠNone":2240,"Ġfore":2241,"(String":2242,"format":2243,"Ġgreat":2244,"inter":2245,"cale":2246,"Ñģ":2247,"ron":2248,"iving":2249,"Ent":2250,"ency":2251,"xt":2252,"oy":2253,"Ġmonth":2254,"Ġhapp":2255,"Ġsuper":2256,"bar":2257,"default":2258,"_de":2259,"ords":2260,"ln":2261,"({Ċ":2262,"ĠInd":2263,"ases":2264,"Ġtitle":2265,"Ġcontext":2266,"oh":2267,"-p":2268,"Em":2269,"Ġmet":2270,"Test":2271,"Ġlife":2272,"_v":2273,"ĠUS":2274,"UI":2275,"ocation":2276,"md":2277,"Ġ[Ċ":2278,"Ġ]":2279,"sw":2280,"Ġincre":2281,"script":2282,"ential":2283,"ways":2284,".de":2285,"Ġsrc":2286,"Ġcatch":2287,"ĠAmeric":2288,"//Ċ":2289,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":2290,"Ġpay":2291,"plit":2292,"âĢĶ":2293,"Ġcoun":2294,"obj":2295,".php":2296,"Ġchange":2297,"ething":2298,"'re":2299,"aster":2300,"los":2301,"lation":2302,"ĠĠĊ":2303,"Le":2304,"ä":2305,"({":2306,"ready":2307,"ĠNo":2308,"Ġposition":2309,"Ġold":2310,"Ġbook":2311,"abled":2312,"bug":2313,"Hand":2314,"};ĊĊ":2315,"isplay":2316,"aving":2317,"Ġgover":2318,"Ġversion":2319,"System":2320,"nect":2321,"response":2322,"Style":2323,"Up":2324,"angu":2325,"Ġthree":2326,"init":2327,"ero":2328,"Ġlaw":2329,"endif":2330,"Ġbase":2331,"email":2332,"(l":2333,"_V":2334,"Ġconf":2335,"ATE":2336,"Ġduring":2337,"tes":2338,"Ġconsole":2339,"ĠPr":2340,"Ġspe":2341,"ves":2342,"path":2343,"ialog":2344,"dition":2345,"_to":2346,"ards":2347,"Ġagainst":2348,"etwork":2349,"ĠPh":2350,"_L":2351,"cur":2352,"imit":2353,"With":2354,"Ġpower":2355,"ium":2356,"';ĊĊ":2357,"Ġwom":2358,"left":2359,"ources":2360,"atri":2361,"ĠIm":2362,"ĠMan":2363,"orth":2364,"${":2365,"quals":2366,"ese":2367,"_size":2368,"Ġiss":2369,"otal":2370,"-g":2371,"ique":2372,"rame":2373,"Ġwidth":2374,"erg":2375,")(":2376,"ittle":2377,"TR":2378,"ĠThey":2379,"ences":2380,"rl":2381,"ons":2382,"Ġlabel":2383,".y":2384,"-t":2385,"update":2386,"anel":2387,"sc":2388,".to":2389,"Ġproject":2390,"ü":2391,"Ġelement":2392,"Ġsuccess":2393,"ĉĉĊ":2394,".sh":2395,"ram":2396,"ched":2397,"())Ċ":2398,"Ġ(Ċ":2399,"Ġdate":2400,"Ġtot":2401,"_ST":2402,"All":2403,"ification":2404,"ĉvar":2405,"Ġtri":2406,"chem":2407,"my":2408,"Ġbig":2409,"ĠAd":2410,"ĠAt":2411,"ots":2412,"num":2413,"Act":2414,"Ġmap":2415,"era":2416,"cope":2417,".$":2418,",âĢĿ":2419,"Ġpop":2420,"Ġfew":2421,"Ġlen":2422,"uid":2423,"eters":2424,"ules":2425,"ÃŃ":2426,"source":2427,"https":2428,"Ġdem":2429,"Ġear":2430,"################":2431,"Ġmatch":2432,"ories":2433,"aces":2434,"ĠCl":2435,"Ġnode":2436,"irc":2437,"local":2438,"unity":2439,"};Ċ":2440,"Ġanother":2441,"<<":2442,"ogle":2443,"Ġsit":2444,"ework":2445,"TE":2446,".I":2447,"NS":2448,"ology":2449,"ought":2450,".Cont":2451,">>":2452,"Ġcare":2453,"state":2454,"ĉprivate":2455,"Ġeffect":2456,"++)":2457,"_file":2458,"ending":2459,"Line":2460,"For":2461,"ior":2462,"ĠSc":2463,"Ġfun":2464,".Size":2465,"ĉelse":2466,"])":2467,"start":2468,"vious":2469,"Ġ},":2470,"ours":2471,"Ġleg":2472,"Ġservice":2473,"Ġsince":2474,"iron":2475,"Label":2476,"Ġnon":2477,"Ġlos":2478,"iction":2479,"Ġfull":2480,"acter":2481,"board":2482,"gress":2483,"Ġturn":2484,"ither":2485,".size":2486,"Ġbody":2487,"resh":2488,"eturn":2489,"(_":2490,"yles":2491,"ormal":2492,"pi":2493,"Ġsomething":2494,"!--":2495,"uint":2496,"Ġprodu":2497,"Ġstand":2498,"Ġproble":2499,"Ġavailable":2500,"mt":2501,"ĠBl":2502,"Ġ...":2503,"Ġblock":2504,"Input":2505,"Ġkeep":2506,"Count":2507,"open":2508,"Ġ['":2509,"Ġthrow":2510,"uilder":2511,"Action":2512,"Ġthings":2513,"True":2514,"Ġurl":2515,"ĠBo":2516,"printf":2517,"Ġred":2518,"js":2519,".create":2520,"ĠOr":2521,"Status":2522,"Instance":2523,"Ġcontrol":2524,"Ġcome":2525,"Ġcustom":2526,"location":2527,"model":2528,"ĠčĊ":2529,"Ġsource":2530,"Ġeas":2531,".out":2532,"]ĊĊ":2533,"oney":2534,"Ġawait":2535,"Ġpartic":2536,"AP":2537,"ublish":2538,"odes":2539,"_pro":2540,"ply":2541,"riter":2542,"Ġprov":2543,"Ġmill":2544,"HT":2545,"])Ċ":2546,"Ġchang":2547,"Ġask":2548,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":2549,"Ġoutput":2550,"Ġemail":2551,".push":2552,"Ġ}čĊčĊ":2553,"ination":2554,"atrix":2555,"Table":2556,"uccess":2557,"]);Ċ":2558,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":2559,"Ġdisc":2560,"([":2561,"Ġbusiness":2562,"height":2563,".html":2564,"ta":2565,"field":2566,"Ġrequired":2567,"_R":2568,"Ġgovern":2569,"}čĊčĊ":2570,"lex":2571,".,":2572,"ĠSet":2573,"urch":2574,"///":2575,"ts":2576,"af":2577,"Ġmight":2578,"istory":2579,"Str":2580,"Ġnever":2581,"Response":2582,"arse":2583,"ada":2584,"ĠHow":2585,"Ġ*)":2586,"Ġ;":2587,"Ġhard":2588,"Ad":2589,"Ġintern":2590,"used":2591,"(data":2592,"mod":2593,"annel":2594,"Ġnp":2595,"ugg":2596,"Ġ/>Ċ":2597,"Ġcalled":2598,"body":2599,"Ġcho":2600,"(r":2601,"_set":2602,"ird":2603,"Ġ>=":2604,"Ġ};Ċ":2605,"Ġoptions":2606,"ĠGener":2607,"Ġheight":2608,"Point":2609,"You":2610,"ety":2611,"Click":2612,"Ġsmall":2613,"Ġide":2614,"Ġaccess":2615,"anguage":2616,"Ġprotected":2617,"Ġjob":2618,"ĠThere":2619,"Def":2620,"Ġaddress":2621,"Ġuint":2622,"Not":2623,"oo":2624,"aps":2625,"":2759,"ĉĠĠĠ":2760,"\"))":2761,"Content":2762,"_W":2763,"plement":2764,"Ġwon":2765,"Ġvideo":2766,"adi":2767,"point":2768,"%%":2769,"Ġgl":2770,"erved":2771,"viron":2772,"IF":2773,"uted":2774,"ãĥ":2775,"'m":2776,"Ġcert":2777,"Ġprof":2778,"Ġcell":2779,"ari":2780,"Ġplayer":2781,"ais":2782,"Ġcost":2783,"Ġhum":2784,"(R":2785,"Ġoffic":2786,"ks":2787,".text":2788,"atures":2789,"Ġtotal":2790,"Ġ*/ĊĊ":2791,"ope":2792,"Ġstat":2793,"UM":2794,"Ġload":2795,"ights":2796,"Ġclear":2797,"uro":2798,"Ġtechn":2799,"upport":2800,"IR":2801,"Ġrow":2802,"Ġseem":2803,"Ġq":2804,"Ġshort":2805,"ĠNot":2806,"ipp":2807,"Group":2808,"section":2809,"max":2810,"irl":2811,"Ġoverride":2812,"Ġcompany":2813,"Ġdone":2814,"\");čĊ":2815,"Ġgre":2816,".Re":2817,"Ġbelie":2818,"rist":2819,"Ġhealth":2820,"ANT":2821,"()ĊĊ":2822,"ĠBe":2823,".value":2824,"ĠGr":2825,"ottom":2826,"Ġargs":2827,"PT":2828,"status":2829,"func":2830,"uments":2831,"-h":2832,"Number":2833,":čĊ":2834,"ĠLog":2835,"erver":2836,"Ġ),Ċ":2837,"ament":2838,"Ġobj":2839,"inc":2840,"Ġchildren":2841,"icy":2842,"IZ":2843,"ands":2844,"ably":2845,"Ġdistrib":2846,"Ġcur":2847,"erial":2848,"Ġdays":2849,"reated":2850,"rect":2851,"-l":2852,"irm":2853,"idden":2854,"omb":2855,"Ġinitial":2856,".js":2857,"Ġâ":2858,"Query":2859,"Ġonline":2860,"imal":2861,".con":2862,"au":2863,"Url":2864,"control":2865,"irection":2866,"Ġinstance":2867,"ORT":2868,"ĠFr":2869,"where":2870,"Ġjavax":2871,"Ġorgan":2872,"apter":2873,"Ġreason":2874,"options":2875,"ĠMar":2876,"(a":2877,"Ġwithin":2878,".âĢĿĊĊ":2879,"ODE":2880,"_DE":2881,"admin":2882,"ended":2883,"Ġdesign":2884,"ĠData":2885,"une":2886,"ĠFile":2887,"root":2888,"Ġcent":2889,"Ġarr":2890,"_add":2891,"len":2892,"page":2893,",'":2894,"_str":2895,"Ġbro":2896,"ability":2897,"outh":2898,"/c":2899,"pose":2900,"irtual":2901,"earch":2902,"_url":2903,"argin":2904,"Http":2905,"Ġschool":2906,"ava":2907,"Ġconsider":2908,".label":2909,"ĠArray":2910,"web":2911,"opt":2912,".println":2913,"ulation":2914,"Ġfunc":2915,"PL":2916,"Ġ\"\\":2917,"ĠText":2918,"actory":2919,"(function":2920,"null":2921,"Ġeng":2922,"down":2923,"Ġinclude":2924,"ĠEn":2925,"ĠDr":2926,"Ġdb":2927,"!!":2928,"side":2929,"Ġinit":2930,"quired":2931,"ĠShe":2932,"Column":2933,"react":2934,"Ġann":2935,"Ġstop":2936,"Ġlater":2937,"ĠThat":2938,"ention":2939,"df":2940,"UG":2941,"ILE":2942,"Ġclient":2943,"raft":2944,"ffer":2945,"POST":2946,"elper":2947,"Ġlove":2948,"quote":2949,"oud":2950,"Ġjson":2951,"Ġable":2952,"Ġmen":2953,"AX":2954,"ĠCopyright":2955,"ö":2956,"avig":2957,"req":2958,"Client":2959,"});Ċ":2960,".Com":2961,"erc":2962,"ilt":2963,"pecial":2964,"_com":2965,"room":2966,".Name":2967,"Ġgive":2968,"amb":2969,"ike":2970,"Ġcondition":2971,"client":2972,"ators":2973,":\"":2974,"Ġcopy":2975,"uture":2976,"iversity":2977,"ernal":2978,"{{":2979,"ĠCan":2980,"ounc":2981,"do":2982,"Ġocc":2983,"Ġappro":2984,"thers":2985,"ze":2986,"Ġeither":2987,"ĠFl":2988,"Ġimportant":2989,"Ġlead":2990,"attr":2991,"ART":2992,"Equal":2993,"Ġda":2994,"etch":2995,"entity":2996,"Ġfamily":2997,"adding":2998,"Ġoption":2999,"Ġexist":3000,"ica":3001,"ĠObject":3002,"'ve":3003,"vers":3004,"itional":3005,"output":3006,"ĠTrue":3007,"ĠOF":3008,"_time":3009,"Ġoffer":3010,"Ġ});ĊĊ":3011,"HER":3012,"egin":3013,"\"\"":3014,"Ġwater":3015,"Ġche":3016,"ĠMy":3017,"ored":3018,"Ġstep":3019,"ances":3020,"CK":3021,"AY":3022,"à¸":3023,"struction":3024,"(C":3025,"ouch":3026,"Stream":3027,"active":3028,"ama":3029,"Entity":3030,"product":3031,"(){Ċ":3032,"Ġgovernment":3033,"ĠID":3034,"ajor":3035,"And":3036,"Ġdisplay":3037,"л":3038,"Ġtimes":3039,"Ġfour":3040,"Ġfar":3041,"Ġpresent":3042,"ĠNS":3043,"Ġ\\Ċ":3044,"uest":3045,"Ġbas":3046,"echo":3047,"child":3048,"ifier":3049,"Handler":3050,"Ġlib":3051,"Property":3052,"translation":3053,"Ġroom":3054,"Ġonce":3055,"Ġ[]":3056,"center":3057,"================================":3058,"Ġresults":3059,"Ġcontinue":3060,"Ġtalk":3061,"_get":3062,"Ġgrow":3063,".sw":3064,"eb":3065,"ĠPublic":3066,"OP":3067,"ecute":3068,"ols":3069,"Ġ**":3070,"\");ĊĊ":3071,"Ġmass":3072,"ured":3073,".class":3074,"omic":3075,"Ġmean":3076,"ips":3077,"Ġaut":3078,");čĊčĊ":3079,"Ġuntil":3080,"Ġmarket":3081,"Ġarea":3082,"uit":3083,"Ġlength":3084,"ĠWith":3085,"structor":3086,"event":3087,"\"><":3088,"ĠSp":3089,"IV":3090,"Ġmus":3091,"iff":3092,"Ġkind":3093,"author":3094,"ounds":3095,"mb":3096,"_key":3097,"width":3098,"pository":3099,"Ġlight":3100,"uk":3101,"Row":3102,"ohn":3103,"alf":3104,"vironment":3105,"apper":3106,"ollections":3107,"Ġside":3108,"_info":3109,"Ġexample":3110,"imary":3111,"Ġwr":3112,"Ġcamp":3113,"cribe":3114,"\"/":3115,"Ġmiss":3116,"way":3117,"Ġbased":3118,"Ġplan":3119,"Vis":3120,"omain":3121,"unk":3122,"Ġaway":3123,"UP":3124,"":3370,"Ġden":3371,"obile":3372,"change":3373,"ĠĠĠĠĠĠĠĠĠĠĠĠĊ":3374,"ici":3375,"na":3376,"ĠForm":3377,"Ġsort":3378,"Select":3379,"pare":3380,"Ġthought":3381,"_con":3382,"Ġtask":3383,"ocus":3384,"ĠDE":3385,"ĠMin":3386,"Ġopt":3387,"ĉbreak":3388,"umer":3389,"KE":3390,"then":3391,"Ġdet":3392,"ĠTest":3393,"ports":3394,"Ġreview":3395,"('/":3396,"move":3397,"Ġswitch":3398,"ERT":3399,"patch":3400,"annot":3401,"ãĤ":3402,"Ġabove":3403,"itive":3404,"Ġquestion":3405,"ĠQu":3406,"ãĢĤĊĊ":3407,"gle":3408,"Ġword":3409,"Ġprovide":3410,"ĠReturn":3411,"Ġresearch":3412,"ão":3413,"ustr":3414,"Ġpublish":3415,"chema":3416,"}}":3417,"ĠCON":3418,"-in":3419,"allback":3420,"Ġcover":3421,"\\\\":3422,"color":3423,"ĠIS":3424,"Ġwhether":3425,"imate":3426,"isc":3427,"Bar":3428,"Ġdiv":3429,"Be":3430,"ourn":3431,"Ġhaving":3432,"lem":3433,"player":3434,"abs":3435,"amera":3436,"ney":3437,"Ġexc":3438,"gether":3439,"plied":3440,"ao":3441,"[$":3442,"Ġ++":3443,"ipe":3444,"show":3445,"/d":3446,"[:":3447,"agement":3448,"lev":3449,"_ID":3450,"rary":3451,"ades":3452,"_se":3453,"ause":3454,"Ġemploy":3455,"Ġ*/čĊ":3456,"Ġfre":3457,"Ġ'@":3458,"Ġcomplet":3459,"Ġlarge":3460,"ral":3461,"\\x":3462,"Ġfac":3463,">":3578,"Ġface":3579,"CTION":3580,"Ġsave":3581,"Ġtyp":3582,"dev":3583,"(\"#":3584,"AGE":3585,"container":3586,"edit":3587,"QL":3588,"Ġitems":3589,"Ġsocial":3590,"ien":3591,"ĠReact":3592,").ĊĊ":3593,"Ġmar":3594,"Ġredu":3595,"ĠRE":3596,".put":3597,"Ġmajor":3598,"Cell":3599,"next":3600,"Ġexpected":3601,"Ġyet":3602,"Ġindiv":3603,"tributes":3604,"atis":3605,"amed":3606,"Ġfood":3607,"Source":3608,"(string":3609,"Ġ+Ċ":3610,"ites":3611,"dr":3612,"Ġmembers":3613,"Ġcomb":3614,"items":3615,"ĠPer":3616,"TH":3617,"=True":3618,"Ġbar":3619,"_SE":3620,"comm":3621,"(w":3622,")ĊĊĊ":3623,"Ġsend":3624,"Ġinc":3625,"unsigned":3626,"FA":3627,"Ġparams":3628,"apping":3629,"ros":3630,"ugin":3631,"fa":3632,"Ġconnection":3633,"Ġ};ĊĊ":3634,"Ġbecome":3635,"Mode":3636,"Ġev":3637,"Ġdiff":3638,"ĠUnited":3639,"Height":3640,"fully":3641,"images":3642,"Ġmakes":3643,"Ġglobal":3644,"Ġcontact":3645,"':Ċ":3646,"Ġabs":3647,"аÐ":3648,"float":3649,"Ġexcept":3650,"ĠPol":3651,"Child":3652,"typ":3653,"Ġcertain":3654,"ión":3655,"OUT":3656,"Ġimpro":3657,"iles":3658,"Ġ-->Ċ":3659,"ĠPart":3660,"values":3661,"oss":3662,"/**":3663,"ilit":3664,"ĠEvent":3665,"curity":3666,"ster":3667,"Ġcharacter":3668,"Ġnews":3669,"Ġ\",":3670,"Ġdevice":3671,"cel":3672,"login":3673,"heet":3674,"Default":3675,"@\"":3676,"ĉĠ":3677,"click":3678,"(value":3679,"ĠAb":3680,"Ġprevious":3681,"ERROR":3682,"ocal":3683,"Ġmaterial":3684,"Ġbelow":3685,"ĠChrist":3686,"Ġmedia":3687,"cover":3688,"ĠUI":3689,"Ġfail":3690,"Ġblack":3691,"Ġcomponent":3692,"ĠAmerican":3693,"Ġadded":3694,"Ġbuy":3695,"stit":3696,"Ġcame":3697,"Ġdelete":3698,"property":3699,"oding":3700,"Ġcard":3701,"rops":3702,"Ġhttps":3703,"Ġroot":3704,"Ġhandle":3705,"CC":3706,"Back":3707,"emplate":3708,"Ġgetting":3709,"_by":3710,"mail":3711,"_sh":3712,".assert":3713,"ĠDec":3714,"(true":3715,"Ġcomput":3716,"Ġclaim":3717,"'=>":3718,"ĠSub":3719,"Ġair":3720,"ops":3721,"nav":3722,"ements":3723,"(id":3724,"Ġenter":3725,"anged":3726,"End":3727,"Ġlocation":3728,"Ġnight":3729,"Ġdoing":3730,"ĠRed":3731,"lin":3732,"}ĊĊĊ":3733,"vider":3734,"Ġpick":3735,"Ġwatch":3736,"essages":3737,"Ġhuman":3738,"Ġdam":3739,"pend":3740,"dir":3741,"Ġtax":3742,"Ġgirl":3743,"reet":3744,"Ġbox":3745,"Ġstrong":3746,"(v":3747,"rel":3748,"Ġinterface":3749,"Ġmsg":3750,"fect":3751,"_at":3752,"Ġhouse":3753,"Ġtrack":3754,"');ĊĊ":3755,"je":3756,"ĠJohn":3757,"istr":3758,"(S":3759,"ube":3760,"Ġce":3761,"itted":3762,"VER":3763,"*)":3764,"parent":3765,"Ġapplication":3766,"any":3767,".swing":3768,"Ġpack":3769,"\\u":3770,"Ġpract":3771,"Ġsection":3772,"ctx":3773,"Ġunsigned":3774,".Point":3775,"ĠOne":3776,"ı":3777,"iple":3778,"aid":3779,"Ñĥ":3780,"Vector":3781,"byte":3782,"Ġwait":3783,"ĠÃł":3784,"Ã¥":3785,"Ġtogether":3786,"Ġthrows":3787,"FO":3788,"'))":3789,"host":3790,"ising":3791,".view":3792,"Ġterms":3793,"framework":3794,"-r":3795,"Ġapply":3796,"Ġsession":3797,"Options":3798,"uggest":3799,"Ġothers":3800,"witter":3801,"Ġfund":3802,"Init":3803,"__(":3804,"ensor":3805,"GET":3806,"Ġseveral":3807,"ii":3808,"[j":3809,"IO":3810,"Ġtemplate":3811,"Position":3812,"Ġecon":3813,"achine":3814,"Ġil":3815,".spring":3816,"main":3817,"elt":3818,"iment":3819,"Rec":3820,"mm":3821,"ĠUniversity":3822,"ursor":3823,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":3824,"GL":3825,"icture":3826,"ithub":3827,"cer":3828,"cast":3829,"From":3830,"ales":3831,"Ġsubject":3832,"password":3833,"ny":3834,"Ġesc":3835,".write":3836,"ï¼Į":3837,"What":3838,".H":3839,"Ġhistory":3840,"ĠFe":3841,"Ġindividual":3842,"unit":3843,"Ġ-->":3844,"Ġdu":3845,"IST":3846,"Ġusers":3847,"fs":3848,"false":3849,"unt":3850,"Title":3851,"Ġmot":3852,"Ġfuture":3853,"ached":3854,"Ġstarted":3855,"Ġmode":3856,"Ġ'<":3857,"_array":3858,"Ġax":3859,"'];Ċ":3860,"ires":3861,"There":3862,"ught":3863,"tml":3864,"posed":3865,"icult":3866,"Ġtook":3867,"Ġgames":3868,"Ġ}}":3869,"Ġ?>Ċ":3870,"Ġproducts":3871,"Is":3872,"Ġbad":3873,"ĠDes":3874,".path":3875,"'ĊĊ":3876,"ĠPost":3877,"avel":3878,"(:":3879,"Ġneeds":3880,"Ġknown":3881,"Fl":3882,"Ġexec":3883,"Ġseen":3884,"ume":3885,"Ġborder":3886,"Ġlive":3887,"temp":3888,"Per":3889,"Ġvariable":3890,"iet":3891,"ĠDef":3892,"Ġge":3893,"eme":3894,"_back":3895,"first":3896,"Ġprovided":3897,"////////////////////////////////":3898,"Ġfilename":3899,"Ġhope":3900,"uly":3901,"auto":3902,"find":3903,"_string":3904,"btn":3905,"itude":3906,"Attribute":3907,"Ġyoung":3908,".txt":3909,"Ġwebsite":3910,"ĠProp":3911,"Ġey":3912,">();Ċ":3913,"ional":3914,"ARR":3915,"ictionary":3916,"urther":3917,".":3997,"tx":3998,"Ġpur":3999,"uel":4000,"ymbol":4001,"uation":4002,"anger":4003,"Ġbackground":4004,"ecess":4005,"efined":4006,"........":4007,"Ġdescription":4008,"Ġrepresent":4009,"\"));Ċ":4010,"pression":4011,"rowser":4012,"Ġseries":4013,"wards":4014,"($_":4015,"aise":4016,"Ġhot":4017,"acity":4018,"ries":4019,"actions":4020,"Create":4021,"adio":4022,"amples":4023,"Ġoriginal":4024,"ensive":4025,"font":4026,"stream":4027,"using":4028,".springframework":4029,"server":4030,"Ġbill":4031,"ACK":4032,"ilename":4033,"Ġframe":4034,"Ġ=Ċ":4035,"Edit":4036,"adius":4037,"Ġdraw":4038,"anks":4039,"Ġdeter":4040,"Ġcomes":4041,"_int":4042,"Ġforeach":4043,"angle":4044,"Ġelect":4045,"pected":4046,"Header":4047,"istration":4048,"False":4049,"ĠGame":4050,"Ġfilter":4051,"Activity":4052,"Ġlarg":4053,"inition":4054,"Ġ\"<":4055,"ised":4056,"Ġremove":4057,"ĠTrans":4058,"met":4059,"see":4060,"Format":4061,"Command":4062,"ĠEX":4063,"None":4064,"Ġfront":4065,"ASE":4066,"ĠRec":4067,"oundation":4068,"Ġvo":4069,"=\\\"":4070,"(*":4071,"Change":4072,".Write":4073,"group":4074,"ients":4075,"uy":4076,"****************************************************************":4077,"Ġdig":4078,"hr":4079,"(-":4080,"Ġgen":4081,"number":4082,"vec":4083,"urope":4084,"entry":4085,"LL":4086,"Ġste":4087,"Valid":4088,"'],":4089,"_param":4090,"Ġselected":4091,"Ġaccording":4092,"ĠDis":4093,"Ġutil":4094,"Buffer":4095,"_error":4096,"Ġassoci":4097,"_SIZE":4098,"Ġwor":4099,"Ġprintf":4100,"rag":4101,"Âł":4102,"DD":4103,"ĠVal":4104,"Ġactiv":4105,"Eng":4106,"etime":4107,"Ġvirtual":4108,"aign":4109,"aur":4110,"ĠPres":4111,"ĠException":4112,"Ġanything":4113,"ĠOff":4114,"Ġhours":4115,"Ġwar":4116,"Args":4117,"aging":4118,"Ġmodels":4119,"ĠTime":4120,"Ob":4121,"ams":4122,"joy":4123,"Ġearly":4124,".read":4125,"Ġcenter":4126,"ĠInitial":4127,"Ġlanguage":4128,"length":4129,"xy":4130,"Ġsn":4131,"Ġinf":4132,"Post":4133,"Ġago":4134,"Ġeasy":4135,"_code":4136,"ĠANY":4137,"_ch":4138,"Ġdownload":4139,"(T":4140,"aved":4141,"âĢĵ":4142,"Ġstudents":4143,"Ġfig":4144,"light":4145,"xx":4146,"Ġbuffer":4147,"ĠDep":4148,"ĠMath":4149,"ITH":4150,"Ġvari":4151,"Ġdue":4152,"Factory":4153,"Ġpor":4154,"Ġep":4155,"otype":4156,"Ġcannot":4157,"Ġwhite":4158,"čĊ":4424,".annot":4425,"Ġcollection":4426,"'.":4427,"Ġsimilar":4428,"Ġtaken":4429,"(\"%":4430,"Order":4431,"']Ċ":4432,"-md":4433,"ĠTH":4434,"aced":4435,"Ġisn":4436,"/j":4437,"Ġson":4438,"graph":4439,"ĠInteger":4440,"Ġnecess":4441,"reen":4442,"Ġum":4443,"Ġ\\<":4444,"Ġmoment":4445,"Ġbring":4446,"Ġindic":4447,"ysis":4448,"Level":4449,"verse":4450,"urrenc":4451,"_test":4452,"Ġentire":4453,"Down":4454,"Ġ}ĊĊĊ":4455,"(result":4456,"ĠRead":4457,"è":4458,"Mod":4459,"Ġtrying":4460,"\"),Ċ":4461,"Ġmember":4462,"ĠCor":4463,"ODO":4464,"-control":4465,"untime":4466,"ĠSim":4467,"Dialog":4468,"plot":4469,"_on":4470,"Ġphys":4471,"}/":4472,"Ġnamespace":4473,"ĉčĊ":4474,"acc":4475,"Player":4476,"ARE":4477,"Ġfoot":4478,"Ġboard":4479,"part":4480,"Ġsus":4481,"wise":4482,"ĠMc":4483,"Ġpush":4484,"ATA":4485,"Ġplease":4486,"ried":4487,"weet":4488,"bit":4489,"ided":4490,"VE":4491,"ĠSw":4492,"UB":4493,"Ġtypes":4494,"edia":4495,"Ġclos":4496,"acebook":4497,"When":4498,"Ġedit":4499,"igger":4500,"Ġenerg":4501,"Container":4502,"Ġphot":4503,"ĠCount":4504,"ĠEurope":4505,".Is":4506,"ĠRuss":4507,"peed":4508,"ĠStr":4509,"Ġpy":4510,"Ġcult":4511,"Ġdefined":4512,"ccount":4513,"Ġobt":4514,".Location":4515,"Ġthread":4516,"ille":4517,"Ġinstead":4518,"strong":4519,"ĠSec":4520,"URE":4521,"Ġidea":4522,".se":4523,"emy":4524,"selected":4525,"Connection":4526,"acing":4527,"thread":4528,".next":4529,"Ġcoll":4530,"Ġfilm":4531,"istic":4532,"Ġcompet":4533,"Ġconn":4534,"though":4535,"Ġcompan":4536,"ocket":4537,"Ġteach":4538,"=(":4539,"Ġphone":4540,"Ġactive":4541,"delete":4542,"tries":4543,"Ġmo":4544,"Ġdeath":4545,"});ĊĊ":4546,"ocol":4547,"Widget":4548,"Ġarticle":4549,"rodu":4550,"andid":4551,"Ñĭ":4552,"ĠCr":4553,"ka":4554,"():":4555,"lood":4556,"ĉĉĉĊ":4557,"Ġalmost":4558,"Ġsell":4559,"ervlet":4560,"rip":4561,"Unit":4562,"Ġapplic":4563,"Ġconnect":4564,"Ġfeature":4565,"Ġvia":4566,"'),":4567,"Ġlim":4568,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":4569,"ĠGu":4570,"Engine":4571,"Ġens":4572,"Ġenvironment":4573,"block":4574,"HERE":4575,"NULL":4576,"gy":4577,"tag":4578,")).":4579,"exp":4580,"Ġcompl":4581,"Ġinstall":4582,"Ġcomplete":4583,"queue":4584,"atural":4585,"Ġgeneral":4586,"thon":4587,"Ġasked":4588,"ores":4589,"(res":4590,"Ġreserved":4591,"SP":4592,"Ġâ̦":4593,"ÅĤ":4594,"Ġsignific":4595,"Off":4596,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":4597,"ĠAg":4598,"ĠJust":4599,"ĠError":4600,"Ġinfl":4601,"adata":4602,"Ġicon":4603,"asks":4604,"''":4605,"_LO":4606,"?.":4607,"account":4608,"Ġ(*":4609,"')ĊĊ":4610,"rap":4611,"_var":4612,"ĠFOR":4613,"Ġparty":4614,"ĠYour":4615,"cat":4616,"stry":4617,".new":4618,"boot":4619,"ĠNov":4620,"Ġvector":4621,"Ġnormal":4622,"Ġfurther":4623,"Repository":4624,"Ġdatabase":4625,"attle":4626,"Ġmusic":4627,"Ġspeed":4628,"Ġdoc":4629,"process":4630,"IGHT":4631,".parse":4632,"Ġtaking":4633,"Ġviol":4634,"ceed":4635,"ĠAfter":4636,"Ġforward":4637,"Ġcrit":4638,"\"/>Ċ":4639,"rot":4640,"Ġfailed":4641,"efore":4642,"Ġconcern":4643,"oe":4644,"ba":4645,"Ġsender":4646,"Ġterm":4647,"has":4648,"=\"#":4649,"Ġpotential":4650,"Num":4651,"Ġpublished":4652,".close":4653,"ĠImage":4654,"straint":4655,"UD":4656,"ĠOb":4657,"Ġprobably":4658,"lim":4659,"\":Ċ":4660,"olume":4661,"Ġconsum":4662,"ague":4663,"ensions":4664,"Ġinvestig":4665,"-year":4666,"');":4667,"-sm":4668,"Ġenjoy":4669,"orig":4670,"ering":4671,"cp":4672,"leased":4673,"plements":4674,"Ġreturns":4675,"pat":4676,"BO":4677,"ĠHouse":4678,".Label":4679,"Ġweight":4680,"ighb":4681,"Ġconditions":4682,"Ġexception":4683,"description":4684,"Ġtrad":4685,"-to":4686,"Ġ{}":4687,"Ġmodule":4688,"END":4689,".ap":4690,".props":4691,"Ġconstructor":4692,"aves":4693,"Ġfavor":4694,"ĠNow":4695,";i":4696,"ĠMain":4697,"_k":4698,"eries":4699,"âĢĻll":4700,"transform":4701,"imestamp":4702,"Pre":4703,"Ġmer":4704,".res":4705,"stant":4706,"Location":4707,"_NAME":4708,"Ġloss":4709,"ĠĊĊ":4710,"net":4711,"Ġengine":4712,"Block":4713,"Ġissues":4714,"Ġparse":4715,"ĠBar":4716,"Ġstay":4717,"ĠJSON":4718,"Ġdom":4719,"airs":4720,"wner":4721,"Ġlower":4722,"\",čĊ":4723,"ĠDem":4724,"ufact":4725,"Ġps":4726,"Ġperfect":4727,"RL":4728,"Ġeduc":4729,"ls":4730,"emory":4731,"ARRANT":4732,"uge":4733,"Ġexact":4734,".key":4735,"alled":4736,"ech":4737,"ief":4738,"\\/":4739,"oke":4740,"Ġformer":4741,"alloc":4742,"Ġsix":4743,"ida":4744,"Ġmargin":4745,"Ġheart":4746,"ald":4747,"pack":4748,".getElementById":4749,"ĠWARRANT":4750,"Ġrather":4751,"Ġbuilding":4752,"erman":4753,"lice":4754,"Ġquestions":4755,"izes":4756,"lege":4757,"irectory":4758,"Ġje":4759,"Ġcas":4760,"props":4761,"utf":4762,"Ġsecurity":4763,"Ġhowever":4764,"weight":4765,"Ġinside":4766,"Ġpresident":4767,"Char":4768,"ĠWITH":4769,".map":4770,"Ġgraph":4771,"Ġtag":4772,"_status":4773,"Ġattempt":4774,"opp":4775,"uses":4776,"ĉconst":4777,"Ġround":4778,",$":4779,"Ġfriends":4780,"Email":4781,"?>":4782,"Resource":4783,"KEY":4784,"osp":4785,".query":4786,"ĠNorth":4787,"ables":4788,"istrib":4789,"_class":4790,"ello":4791,"That":4792,"к":4793,"pecially":4794,"ĠPresident":4795,"Ġcampaign":4796,"Ġalt":4797,"area":4798,"Ġchall":4799,"Ġopport":4800,".Con":4801,"Ġenergy":4802,"like":4803,".string":4804,"ington":4805,")*":4806,"yy":4807,"Ġprofession":4808,"irth":4809,"Ġseg":4810,"æľ":4811,"Ġhor":4812,"iers":4813,"can":4814,"Ġbehind":4815,"Product":4816,"fg":4817,"ĠSk":4818,".jpg":4819,"?:":4820,"];ĊĊ":4821,"Ġcallback":4822,"ĠHttp":4823,"ÑĮ":4824,"long":4825,"MS":4826,"ATH":4827,"Ġraise":4828,"Ġwanted":4829,"rown":4830,"utor":4831,"lt":4832,"]=":4833,"eline":4834,"MA":4835,"Ġsepar":4836,"cs":4837,"semb":4838,"Dis":4839,"bserv":4840,"ĠWill":4841,"Ġpolicy":4842,"Ġthird":4843,"phone":4844,"Ġbed":4845,"/g":4846,".__":4847,"ĠInc":4848,"izing":4849,".remove":4850,"instance":4851,".type":4852,"Ġserv":4853,"Each":4854,"Ġhar":4855,"ĠMessage":4856,"(key":4857,"SELECT":4858,"Pos":4859,"));čĊ":4860,"Ġrecomm":4861,"Ġtraining":4862,"ĠEnt":4863,"ĠChar":4864,"icht":4865,"(file":4866,"Ġprior":4867,"Game":4868,"Ġexit":4869,"Params":4870,".core":4871,"PC":4872,"nes":4873,"anced":4874,"(request":4875,"Password":4876,"}>Ċ":4877,"Ġmag":4878,"Ġrelease":4879,"Ġshall":4880,"udent":4881,"ĠSouth":4882,"ando":4883,":'":4884,".TabIndex":4885,"sk":4886,"anner":4887,"isset":4888,"Ġoutside":4889,"ledge":4890,"Ġå":4891,"ĠRob":4892,"Ġimm":4893,"!Ċ":4894,"ĠWeb":4895,"Des":4896,"BC":4897,"ancial":4898,"Route":4899,"Dec":4900,"ferences":4901,"Ġpurch":4902,"ĠModel":4903,"ctor":4904,"gn":4905,"_start":4906,"_un":4907,".*":4908,"ises":4909,"Ġground":4910,"Ġunique":4911,"Ġbeaut":4912,"{\"":4913,"Ġpour":4914,"ĠOct":4915,"Ġtree":4916,"sets":4917,"_res":4918,"')->":4919,"_reg":4920,"(\"\\":4921,"Ġbyte":4922,"Bl":4923,"Ġdating":4924,"Ġmatter":4925,"ĠRem":4926,"Ġ'../":4927,"ĠAug":4928,"ĠLa":4929,"Ġ$(":4930,"ournal":4931,"iam":4932,"Ġshows":4933,"write":4934,"Ġball":4935,"Ġsimply":4936,"Ġfast":4937,"Ġmemory":4938,"ASS":4939,"ĠOf":4940,"oved":4941,"ante":4942,"aul":4943,"istry":4944,")));Ċ":4945,"Ġfit":4946,"_":5129,"\")ĊĊ":5130,"ox":5131,"application":5132,"Ġ]Ċ":5133,"ĊĊĊĊĊĊ":5134,"Ġsoon":5135,"ctions":5136,"inger":5137,"Ġjoin":5138,"ĠPe":5139,"Ġë":5140,"Ġlas":5141,".E":5142,"css":5143,"/or":5144,"ĠStart":5145,"ĠTO":5146,"Ġsubs":5147,"conn":5148,"components":5149,"DEBUG":5150,"quare":5151,"Function":5152,"endar":5153,".index":5154,"Ġfill":5155,"ÄĻ":5156,"Ġchoose":5157,"how":5158,"ĠAmerica":5159,"assets":5160,"------------":5161,"ĠValue":5162,"Ġoffice":5163,"Ġveh":5164,"Ġtransform":5165,"ĠArt":5166,"Ġinde":5167,"Ġfn":5168,"Ġimplements":5169,"ango":5170,"plete":5171,"+\"":5172,"tmp":5173,"amily":5174,"Ġhash":5175,"missions":5176,"EST":5177,"gt":5178,"Provider":5179,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":5180,"Ġflag":5181,"Ġparticip":5182,"den":5183,"ĠReturns":5184,"Ġnote":5185,"ür":5186,"pm":5187,"ideos":5188,"Ġspecified":5189,"ĠEN":5190,"ester":5191,"olid":5192,"Ġupon":5193,"(std":5194,"ĉv":5195,"Ġ'\\":5196,"uz":5197,"Ġvert":5198,"Ġvict":5199,"ĉself":5200,"Ġ\"$":5201,".k":5202,"Ġgroups":5203,"github":5204,"lang":5205,"Ġmut":5206,"TO":5207,"Ġve":5208,"ĠPlease":5209,";ĊĊĊ":5210,"access":5211,"Ġ{\"":5212,"rea":5213,"Ġrisk":5214,"icker":5215,"oggle":5216,"ĉwhile":5217,"ANG":5218,".send":5219,"Ġwoman":5220,"Ġgets":5221,"Ġign":5222,"ĠId":5223,"_log":5224,"ONE":5225,"Ġevid":5226,"ĠHar":5227,"_sub":5228,"Ġendl":5229,"Ġincluded":5230,"());ĊĊ":5231,"ĠAp":5232,"igr":5233,"Ġsem":5234,"ĠBlack":5235,"doc":5236,"_table":5237,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":5238,"-up":5239,"Ġcause":5240,"Ġ..":5241,"Ġvan":5242,"_dict":5243,"Ġfocus":5244,"IND":5245,"CESS":5246,".Log":5247,"Ġmultiple":5248,"ido":5249,"Ġregard":5250,"-M":5251,"andler":5252,"ourse":5253,"Ġdeg":5254,".U":5255,"Ġaddition":5256,"Ġvarious":5257,"Ġreceive":5258,"ен":5259,"ĠHT":5260,"Obj":5261,"DF":5262,"Ġincrease":5263,"ĠOpen":5264,"];":5265,"Ġcommit":5266,"?Ċ":5267,"ategories":5268,"atory":5269,"ship":5270,"ĠMich":5271,"Ġhtml":5272,"romise":5273,"Ġleave":5274,"Ġstrateg":5275,"aven":5276,"ĠConsole":5277,"known":5278,"-n":5279,"_LE":5280,".component":5281,"Ġbre":5282,"Session":5283,"iance":5284,"Ġalign":5285,"typedef":5286,"_result":5287,"ĠWHERE":5288,".split":5289,"Ġreading":5290,"FAULT":5291,"Ġclo":5292,"Ġnotice":5293,"_pr":5294,"arter":5295,"Ġlock":5296,"Ġstandard":5297,"etic":5298,"ellow":5299,"Ġpadding":5300,"ĠHis":5301,"Ġstates":5302,"_cast":5303,"(P":5304,"aa":5305,"Ġinternal":5306,"ean":5307,"ĠPRO":5308,"ĠKey":5309,"Ġespecially":5310,"ming":5311,"Ġcross":5312,"Ġnational":5313,"_object":5314,"filter":5315,"Ġscript":5316,".update":5317,"_i":5318,"ĠAssert":5319,"/core":5320,"%%%%":5321,"Ġproblems":5322,"istor":5323,"Ġ.=":5324,"Ġarch":5325,"Ġwritten":5326,"Ġmilit":5327,"MENT":5328,".ch":5329,"cape":5330,"ĠMus":5331,"_config":5332,"ĠAPI":5333,"foot":5334,"Ġimages":5335,"endl":5336,".In":5337,"First":5338,"Ġplatform":5339,".prot":5340,"Option":5341,"ste":5342,"ĠTODO":5343,"Ġforce":5344,".cont":5345,"ĉecho":5346,"ĠDav":5347,"Ptr":5348,"(B":5349,"RT":5350,"ĠBase":5351,"]['":5352,"Ġannounc":5353,"console":5354,"ĠPy":5355,"ds":5356,".as":5357,"Ġprevent":5358,"apan":5359,"Ġ{'":5360,"}'":5592,"Ġdead":5593,"VAL":5594,"QUE":5595,"************************************************************************":5596,"Ġcharg":5597,"Return":5598,"Ġful":5599,"dom":5600,"Ġrules":5601,"Ġmodify":5602,"Ġeval":5603,"ham":5604,"atement":5605,"\\<":5606,"ula":5607,"=False":5608,"RA":5609,"Ġcontains":5610,"Ġstack":5611,"mar":5612,"Ġ{}Ċ":5613,"Ġundefined":5614,"Ass":5615,"ĠChina":5616,"vey":5617,"*Ċ":5618,"Ġplaying":5619,")/":5620,"actor":5621,"Ġbottom":5622,"lier":5623,"ĠNumber":5624,"Ġcouple":5625,"DC":5626,"ĠSO":5627,"gor":5628,".setText":5629,"success":5630,"command":5631,"Filter":5632,"ĠOur":5633,"_item":5634,"Ġctx":5635,"Ġroad":5636,"Version":5637,"case":5638,"urt":5639,"avior":5640,"ych":5641,"sembly":5642,"ĠProduct":5643,"Ġheld":5644,"afe":5645,"Ġincludes":5646,"&":5789,"CON":5790,"Ġrepl":5791,"Ġregular":5792,"Storage":5793,"ramework":5794,"Ġgoal":5795,"Ġtouch":5796,".widget":5797,"Ġbuilt":5798,"des":5799,"Part":5800,"(re":5801,"Ġworth":5802,"hib":5803,"game":5804,"Ġв":5805,"acion":5806,"ĠWhite":5807,"(type":5808,"(`":5809,"Ġnatural":5810,"Ġinj":5811,"Ġcalcul":5812,"ĠApril":5813,".List":5814,"Ġassociated":5815,"ĉSystem":5816,"~~":5817,"=[":5818,"Ġstorage":5819,"Ġbytes":5820,"Ġtravel":5821,"Ġsou":5822,"Ġpassed":5823,"!=":5824,"ascript":5825,".open":5826,"Ġgrid":5827,"Ġbus":5828,"Ġrecogn":5829,"Ab":5830,"Ġhon":5831,"ĠCenter":5832,"Ġprec":5833,"build":5834,"HTML":5835,"ĠSan":5836,"Ġcountries":5837,"aled":5838,"token":5839,"kt":5840,"Ġqual":5841,"Last":5842,"adow":5843,"Ġmanufact":5844,"idad":5845,"jango":5846,"Next":5847,"xf":5848,".a":5849,"Ġporno":5850,"ĠPM":5851,"erve":5852,"iting":5853,"_th":5854,"ci":5855,"=None":5856,"gs":5857,"Ġlogin":5858,"atives":5859,"']);Ċ":5860,"Äħ":5861,"Ġill":5862,"IA":5863,"children":5864,"DO":5865,"Ġlevels":5866,"Ġ{{":5867,"Ġlooks":5868,"Ġ\"#":5869,"ToString":5870,"Ġnecessary":5871,"ĠĠĠĊ":5872,"cell":5873,"Entry":5874,"Ġ'#":5875,"Ġextrem":5876,"Selector":5877,"Ġplaceholder":5878,"Load":5879,"Ġreleased":5880,"ORE":5881,"Enumer":5882,"ĠTV":5883,"SET":5884,"inq":5885,"Press":5886,"ĠDepartment":5887,"Ġproperties":5888,"Ġrespond":5889,"Search":5890,"ael":5891,"Ġrequ":5892,"ĠBook":5893,"/Ċ":5894,"(st":5895,"Ġfinancial":5896,"icket":5897,"_input":5898,"Ġthreat":5899,"(in":5900,"Strip":5901,"ìĿ":5902,"ção":5903,"Ġevidence":5904,"));":5905,"ĠBro":5906,"Ġ[];Ċ":5907,"Ġou":5908,"buf":5909,"Script":5910,"dat":5911,"Ġrule":5912,"#import":5913,"=\"/":5914,"Serial":5915,"Ġstarting":5916,"[index":5917,"ae":5918,"Ġcontrib":5919,"session":5920,"_new":5921,"utable":5922,"ober":5923,"Ġ\"./":5924,"Ġlogger":5925,"Ġrecently":5926,"Ġreturned":5927,"ččĊ":5928,")))Ċ":5929,"itions":5930,"Ġseek":5931,"Ġcommunic":5932,"Ġ\".":5933,"Ġusername":5934,"ECT":5935,"DS":5936,"Ġotherwise":5937,"ĠGerman":5938,".aw":5939,"Adapter":5940,"ixel":5941,"Ġsystems":5942,"Ġdrop":5943,"Ġstructure":5944,"Ġ$(\"#":5945,"encies":5946,"anning":5947,"ĠLink":5948,"ĠResponse":5949,"Ġstri":5950,"ż":5951,"ĠDB":5952,"æĹ":5953,"android":5954,"submit":5955,"otion":5956,"(@":5957,".test":5958,"ĊĊĊĊĊĊĊĊ":5959,"];čĊ":5960,"Ġdirectly":5961,"Ġ\"%":5962,"ris":5963,"elta":5964,"AIL":5965,"){čĊ":5966,"mine":5967,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":5968,"(k":5969,"bon":5970,"asic":5971,"pite":5972,"___":5973,"Max":5974,"Ġerrors":5975,"ĠWhile":5976,"Ġarguments":5977,"Ġensure":5978,"Right":5979,"-based":5980,"Web":5981,"Ġ-=":5982,"Ġintrodu":5983,"ĠInst":5984,"ĠWash":5985,"ordin":5986,"join":5987,"Database":5988,"Ġgrad":5989,"Ġusually":5990,"ITE":5991,"Props":5992,"?>Ċ":5993,"ĠGo":5994,"@Override":5995,"REF":5996,"Ġip":5997,"ĠAustral":5998,"Ġist":5999,"ViewById":6000,"Ġserious":6001,"Ġcustomer":6002,".prototype":6003,"odo":6004,"cor":6005,"Ġdoor":6006,"ĠWITHOUT":6007,"Ġplant":6008,"Ġbegan":6009,"Ġdistance":6010,"()).":6011,"Ġchance":6012,"Ġord":6013,"came":6014,"pragma":6015,"Ġprotect":6016,"ragment":6017,"ĠNode":6018,"ening":6019,"Ñĩ":6020,"Ġroute":6021,"ĠSchool":6022,"hi":6023,"Ġneighb":6024,"After":6025,"licit":6026,"Ġcontr":6027,"Ġprimary":6028,"AA":6029,".WriteLine":6030,"utils":6031,"Ġbi":6032,"Red":6033,".Linq":6034,".object":6035,"Ġleaders":6036,"unities":6037,"Ġgun":6038,"onth":6039,"ĠDev":6040,"FILE":6041,"Ġcomments":6042,"_len":6043,"arrow":6044,"amount":6045,"Range":6046,"sert":6047,"GridView":6048,"Ġupdated":6049,"ĠMo":6050,"Ġinform":6051,"ociety":6052,"ala":6053,"Access":6054,"Ġhab":6055,"Ġcreat":6056,"_arg":6057,"ĠJanuary":6058,"ĠDay":6059,"\")čĊ":6060,"uple":6061,"document":6062,"gorith":6063,"menu":6064,"ĠOver":6065,"bb":6066,".title":6067,"_out":6068,"Ġled":6069,"uri":6070,"Ġ?>Ċ":6107,"run":6108,"Ġscene":6109,"(array":6110,"device":6111,"_title":6112,"agon":6113,"]čĊ":6114,"aby":6115,"Ġbecame":6116,"boolean":6117,"Ġpark":6118,"ĠCode":6119,"upload":6120,"riday":6121,"ĠSeptember":6122,"Fe":6123,"Ġsen":6124,"cing":6125,"FL":6126,"Col":6127,"uts":6128,"_page":6129,"inn":6130,"Ġimplied":6131,"aling":6132,"Ġyourself":6133,".Count":6134,"conf":6135,"Ġaud":6136,"_init":6137,".)":6138,"Ġwrote":6139,"NG":6140,".Error":6141,"ä»":6142,".for":6143,"Ġequal":6144,"ĠRequest":6145,"Ġserial":6146,"Ġallows":6147,"XX":6148,"Ġmiddle":6149,"chor":6150,"ø":6151,"erval":6152,".Column":6153,"reading":6154,"Ġescort":6155,"ĠAugust":6156,"Ġquickly":6157,"Ġweap":6158,"ĠCG":6159,"ropri":6160,"ho":6161,"Ġcop":6162,"(struct":6163,"ĠBig":6164,"Ġvs":6165,"Ġfrequ":6166,".Value":6167,"Ġactions":6168,"Ġproper":6169,"Ġinn":6170,"Ġobjects":6171,"Ġmatrix":6172,"avascript":6173,"Ġones":6174,".group":6175,"Ġgreen":6176,"Ġpaint":6177,"ools":6178,"ycl":6179,"encode":6180,"olt":6181,"comment":6182,".api":6183,"Dir":6184,"Ġune":6185,"izont":6186,".position":6187,"Ġdesigned":6188,"_val":6189,"avi":6190,"iring":6191,"tab":6192,"Ġlayer":6193,"Ġviews":6194,"Ġreve":6195,"rael":6196,"ĠON":6197,"rics":6198,"np":6199,"Ġcore":6200,"());čĊ":6201,"Main":6202,"Ġexpert":6203,"ĉĉčĊ":6204,"_en":6205,"Ġ/>":6206,"utter":6207,"IAL":6208,"ails":6209,"ĠKing":6210,"*/ĊĊ":6211,"ĠMet":6212,"_end":6213,"addr":6214,"ora":6215,"Ġir":6216,"Min":6217,"Ġsurpr":6218,"Ġrepe":6219,"Ġdirectory":6220,"PUT":6221,"-S":6222,"Ġelection":6223,"haps":6224,".pre":6225,"cm":6226,"Values":6227,"Ġ\"Ċ":6228,"column":6229,"ivil":6230,"Login":6231,"inue":6232,"Ġbeautiful":6233,"Ġsecret":6234,"(event":6235,"Ġchat":6236,"ums":6237,"Ġorigin":6238,"Ġeffects":6239,"Ġmanagement":6240,"illa":6241,"tk":6242,"Ġsetting":6243,"ĠCour":6244,"Ġmassage":6245,"ĉend":6246,"Ġhappy":6247,"Ġfinish":6248,"Ġcamera":6249,"ĠVer":6250,"ĠDemocr":6251,"ĠHer":6252,"(Q":6253,"cons":6254,"ita":6255,"Ġ'.":6256,"{}":6257,"ĉC":6258,"Ġstuff":6259,"Ġ:Ċ":6260,"ĠAR":6261,"Task":6262,"hidden":6263,"eros":6264,"IGN":6265,"atio":6266,"ĠHealth":6267,"olute":6268,"Enter":6269,"'>":6270,"ĠTwitter":6271,"ĠCounty":6272,"scribe":6273,"Ġ=>Ċ":6274,"Ġhy":6275,"fit":6276,"Ġmilitary":6277,"Ġsale":6278,"required":6279,"non":6280,"bootstrap":6281,"hold":6282,"rim":6283,"-old":6284,"ĠDown":6285,"Ġmention":6286,"contact":6287,"_group":6288,"oday":6289,"Ġtown":6290,"Ġsolution":6291,"uate":6292,"elling":6293,"]->":6294,"otes":6295,"ental":6296,"omen":6297,"ospital":6298,"ĠSup":6299,"_EN":6300,"Ġslow":6301,"SESSION":6302,"Ġblue":6303,"ago":6304,"Ġlives":6305,"Ġ^":6306,".un":6307,"inst":6308,"enge":6309,"Ġcustomers":6310,"Ġcast":6311,"udget":6312,"ï¼ģ":6313,"icens":6314,"Ġdetermin":6315,"Selected":6316,"_pl":6317,"ueue":6318,"Ġdark":6319,"//ĊĊ":6320,"si":6321,"thern":6322,"ĠJapan":6323,"/w":6324,"PU":6325,"ĠEast":6326,"ovie":6327,"Ġpackage":6328,"Ġnor":6329,"Ġapi":6330,"bot":6331,"\"];Ċ":6332,"_post":6333,"ulate":6334,"Ġclub":6335,"'));Ċ":6336,"Ġloop":6337,"PIO":6338,"ione":6339,"shot":6340,"Initial":6341,"Ġplayed":6342,"register":6343,"rought":6344,"_max":6345,"acement":6346,"match":6347,"raphics":6348,"AST":6349,"Ġexisting":6350,"Ġcomplex":6351,"DA":6352,".Ch":6353,".common":6354,"mo":6355,"Ġ'../../":6356,"ito":6357,"Ġanalysis":6358,"Ġdeliver":6359,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":6360,"idx":6361,"Ãł":6362,"ongo":6363,"ĠEnglish":6364,"Ċ":9992,"_default":9993,"ĠDatabase":9994,"rep":9995,"ESS":9996,"nergy":9997,".Find":9998,"_mask":9999,"Ġrise":10000,"Ġkernel":10001,"::$":10002,".Q":10003,"Ġoffering":10004,"decl":10005,"ĠCS":10006,"Ġlisted":10007,"Ġmostly":10008,"enger":10009,"Ġblocks":10010,"olo":10011,"Ġgoverning":10012,"\\F":10013,"Ġconcent":10014,".getText":10015,"Ġmb":10016,"Ġoccurred":10017,"Ġchanging":10018,"Scene":10019,"_CODE":10020,"Beh":10021,"\"The":10022,"Ġtile":10023,"ĠAssociation":10024,"ĉP":10025,"alty":10026,"_ad":10027,"odies":10028,"iated":10029,"Ġprepared":10030,"possible":10031,"Ġmort":10032,"TEST":10033,"Ġignore":10034,"Ġcalc":10035,"Ġrs":10036,"ĠassertEquals":10037,"Ġsz":10038,"ĠTHIS":10039,".\"Ċ":10040,"Ġcanvas":10041,"java":10042,"Ġdut":10043,"VALID":10044,".sql":10045,".input":10046,"Ġaux":10047,"Sup":10048,"Ġartist":10049,"Vec":10050,"_TIME":10051,".stringify":10052,"etween":10053,"ĠCategory":10054,"Ġ[-":10055,"ĠDevExpress":10056,"ĠJul":10057,"Ġring":10058,".ed":10059,"YY":10060,"Let":10061,"TextField":10062,"Ġflat":10063,"_print":10064,"ĠOTHER":10065,"adian":10066,"Ġchecked":10067,"ele":10068,"Align":10069,"standing":10070,"Ġ[],":10071,"Ġlab":10072,"ucky":10073,"ĠChristmas":10074,"(image":10075,".module":10076,"Ġlots":10077,"Ġslightly":10078,"(final":10079,"erge":10080,"è¿":10081,"ĠPolice":10082,"ĠRight":10083,"Ġaward":10084,"ĠOS":10085,"Ġ{}ĊĊ":10086,"Ġptr":10087,"oves":10088,"icated":10089,"ем":10090,"Ġmanage":10091,"oliday":10092,"Amount":10093,"oolStrip":10094,"tbody":10095,"Nav":10096,"wrap":10097,"BB":10098,"Ġwatching":10099,"arios":10100,"Ġoptional":10101,"_K":10102,"ĠLicensed":10103,".Map":10104,"Timer":10105,"ĠAP":10106,"ĠRev":10107,"(o":10108,",c":10109,"umin":10110,"etailed":10111,"ĠHy":10112,"Ġblank":10113,"agger":10114,"ĠSelf":10115,"()[":10116,".make":10117,"earn":10118,"channel":10119,";Ċ":10133,"World":10134,"Ġpython":10135,"Ġlif":10136,"Ġtrav":10137,"Ġconven":10138,"company":10139,"ĠClub":10140,"Ver":10141,"Btn":10142,"Ġzone":10143,"products":10144,"ĠEduc":10145,"Ġverify":10146,"ĠMil":10147,"ono":10148,"]);ĊĊ":10149,"ENCE":10150,"Ġpacket":10151,"Ġcer":10152,"Ġenumer":10153,"Ġpars":10154,"formed":10155,"Ġoccup":10156,"tre":10157,"Ġexercise":10158,"Day":10159,"_sum":10160,"Ġasking":10161,"aption":10162,"Ġorders":10163,"Ġspending":10164,"ĠERR":10165,".Dis":10166,"ĠUtil":10167,"âĢľI":10168,"\\'":10169,"?)":10170,"/>Ċ":10171,"Ġemot":10172,"Ġinfluence":10173,"ĠAfrica":10174,"atters":10175,"Ùħ":10176,".session":10177,"Ġchief":10178,"ĉĉĉĉĉĉĉĉĉĉĉ":10179,"Ġtom":10180,"cluded":10181,"serial":10182,"_handler":10183,".Type":10184,"aped":10185,"Ġpolicies":10186,"-ex":10187,"-tr":10188,"blank":10189,"merce":10190,"Ġcoverage":10191,"Ġrc":10192,"_matrix":10193,"_box":10194,"Ġcharges":10195,"ĠBoston":10196,"Pe":10197,"Ġcircum":10198,"Ġfilled":10199,"Ġnorth":10200,"ictureBox":10201,"ĉres":10202,"è®":10203,"Ġtermin":10204,"Ġ[â̦":10205,"IRECT":10206,"Ġber":10207,"Ġ\"../../":10208,"retch":10209,".code":10210,"_col":10211,"ĠGovernment":10212,"Ġargv":10213,"ĠLord":10214,"asi":10215,"Exec":10216,"ĉlet":10217,"vertis":10218,"Ġdiscussion":10219,"enance":10220,"outube":10221,"typeof":10222,"Ġserved":10223,"ĠPut":10224,"ĉx":10225,"Ġsweet":10226,"Before":10227,"ategy":10228,".of":10229,"ĠMaterial":10230,"Sort":10231,"ONT":10232,"igital":10233,"Why":10234,"Ġsust":10235,"Ġç":10236,"abet":10237,"Ġsegment":10238,"Ġ[],Ċ":10239,"ĠMuslim":10240,"ĠfindViewById":10241,"cut":10242,"_TEXT":10243,"ĠMary":10244,"Ġloved":10245,"Ġlie":10246,"ĠJO":10247,"Ġisset":10248,"month":10249,"Ġprime":10250,"ti":10251,"ĠCarol":10252,"Use":10253,"ĠPop":10254,"ĠSave":10255,"Interval":10256,"execute":10257,"dy":10258,"ĠIran":10259,"_cont":10260,"ĉT":10261,"Ġphase":10262,"checkbox":10263,"week":10264,"Ġhide":10265,"Ġtil":10266,"Ġju":10267,"Custom":10268,"burg":10269,"/M":10270,"TON":10271,"Ġquant":10272,"Ġrub":10273,"ixels":10274,"Ġinstalled":10275,"Ġdump":10276,"Ġproperly":10277,"(List":10278,"Ġdecide":10279,"apply":10280,"Has":10281,"Ġkeeping":10282,"Ġcitizens":10283,"Ġjoint":10284,"pool":10285,"Socket":10286,"_op":10287,"Ġweapon":10288,"gnore":10289,"ĠExec":10290,"otten":10291,"ĠMS":10292,"Ġ(-":10293,"ĠReview":10294,"Ġexamples":10295,"Ġtight":10296,"!(":10297,"DP":10298,"ĠMessageBox":10299,"Ġphotograph":10300,"URI":10301,"ét":10302,"low":10303,"ĠGrand":10304,".persistence":10305,"Ġmaintain":10306,"Ġnums":10307,"Ġzip":10308,"ials":10309,"ĠGets":10310,"peg":10311,"ĠBuffer":10312,"~~~~":10313,"rastructure":10314,"ĠPL":10315,"uen":10316,"obby":10317,"sizeof":10318,"Ġpic":10319,"Ġseed":10320,"Ġexperienced":10321,"Ġodd":10322,"Ġkick":10323,"Ġprocedure":10324,"avigator":10325,"-on":10326,",j":10327,"ĠAlthough":10328,"ĠuserId":10329,"accept":10330,"Blue":10331,"IColor":10332,"layer":10333,"available":10334,"Ġends":10335,".table":10336,"Ġdataset":10337,"bus":10338,"Ġexplain":10339,"(pro":10340,"ĠCommittee":10341,"Ġnoted":10342,"]:Ċ":10343,"Dim":10344,"stdio":10345,".\",Ċ":10346,"_source":10347,"ĠWeek":10348,"ĠEdge":10349,"Ġoperating":10350,"Ġeste":10351,"ipl":10352,"agination":10353,"Ġproceed":10354,"Ġanimation":10355,".Models":10356,"ĠWatch":10357,"iat":10358,"Ġoppon":10359,"/A":10360,"Report":10361,"Ġsounds":10362,"_buf":10363,"IELD":10364,"Ġbund":10365,"ĉget":10366,".pr":10367,"(tmp":10368,"Ġkid":10369,">ĊĊĊ":10370,"Ġyang":10371,"NotFound":10372,"ÑĨ":10373,"math":10374,"@gmail":10375,"ĠLIMIT":10376,"redients":10377,"Ġvent":10378,"avigate":10379,"Look":10380,"Ġreligious":10381,"Ġrand":10382,"rio":10383,"(GL":10384,"_ip":10385,"uan":10386,"iciency":10387,"ĠChange":10388,">čĊčĊ":10389,"ĠEntity":10390,"Ġrencontre":10391,"ĠRet":10392,"plan":10393,"én":10394,"BOOL":10395,"uries":10396,"train":10397,"Definition":10398,"============":10399,"zz":10400,"Animation":10401,"ĠOK":10402,"_menu":10403,".bl":10404,"_score":10405,"Ġacad":10406,"(System":10407,"Ġrefresh":10408,"'=>$":10409,".Graphics":10410,"amento":10411,"pid":10412,"tc":10413,"Ġtips":10414,"Ġhomes":10415,"Ġfuel":10416,"âĸ":10417,"_helper":10418,"ĠĠčĊ":10419,"ĠRoom":10420,".Close":10421,"_attr":10422,"ĠMount":10423,"ĠEv":10424,"arser":10425,"_top":10426,"eah":10427,"ĠDelete":10428,"ãĢį":10429,"uke":10430,"Ġusage":10431,"aria":10432,"_dev":10433,"Ġtexture":10434,"Ġconversation":10435,"eper":10436,"Bean":10437,"done":10438,"nonatomic":10439,"ĠSecond":10440,"Ġshooting":10441,"_pre":10442,"Components":10443,"Ġ]ĊĊ":10444,"__,":10445,"stitution":10446,".Char":10447,">();ĊĊ":10448,"Ġpresented":10449,"Ġwa":10450,"oker":10451,"-ĊĊ":10452,"iner":10453,"Ġbecoming":10454,"Ġincident":10455,"Att":10456,"Ġrevealed":10457,"forc":10458,"Ġboot":10459,".page":10460,"Enumerator":10461,"_->":10462,"Photo":10463,"Ġspring":10464,".\",":10465,"ĠDictionary":10466,"BJECT":10467,"Ġlocations":10468,"Ġsamples":10469,"InputStream":10470,"ĠBrown":10471,"Ġstats":10472,"quality":10473,"Ñħ":10474,"-dis":10475,"Ġhelping":10476,"Ġped":10477,"(se":10478,"ĠWho":10479,"alian":10480,"internal":10481,"Ġft":10482,">().":10483,"->{":10484,"Ġmine":10485,"Ġsector":10486,"Ġgro":10487,"Ġopportunities":10488,"Ġü":10489,"Ġmp":10490,"Ġalleged":10491,"Ġdoubt":10492,"Mouse":10493,"About":10494,"_part":10495,"Ġchair":10496,"Ġstopped":10497,"loop":10498,"entities":10499,"Ġapps":10500,"ansion":10501,"Ġmental":10502,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":10503,"FR":10504,"Ġdefend":10505,"care":10506,"Ġideal":10507,"/api":10508,"urface":10509,"Ġele":10510,"ulator":10511,"ĠRights":10512,"anguages":10513,"Ġfunds":10514,"Ġadapt":10515,"Attributes":10516,"Ġdeploy":10517,"opts":10518,"Ġvalidation":10519,"Ġconcerns":10520,"uce":10521,".num":10522,"ulture":10523,"ila":10524,"Ġcup":10525,"Ġpure":10526,".Fore":10527,"ĠHashMap":10528,".valueOf":10529,"asm":10530,"MO":10531,"Ġcs":10532,"Ġstores":10533,"Ġ************************************************************************":10534,"Ġcommunication":10535,"mem":10536,".EventHandler":10537,".Status":10538,"_right":10539,".setOn":10540,"Sheet":10541,"Ġidentify":10542,"enerated":10543,"ordered":10544,"Ġ\"[":10545,"Ġswe":10546,"Condition":10547,"ĠAccording":10548,"Ġprepare":10549,"Ġrob":10550,"Pool":10551,"Ġsport":10552,"rv":10553,"ĠRouter":10554,"Ġalternative":10555,"([]":10556,"ĠChicago":10557,"ipher":10558,"ische":10559,"ĠDirector":10560,"kl":10561,"ĠWil":10562,"keys":10563,"Ġmysql":10564,"Ġwelcome":10565,"king":10566,"ĠManager":10567,"Ġcaught":10568,")}Ċ":10569,"Score":10570,"_PR":10571,"Ġsurvey":10572,"hab":10573,"Headers":10574,"ADER":10575,"Ġdecor":10576,"Ġturns":10577,"Ġradius":10578,"errupt":10579,"Cor":10580,"Ġmel":10581,"Ġintr":10582,"(q":10583,"ĠAC":10584,"amos":10585,"MAX":10586,"ĠGrid":10587,"ĠJesus":10588,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":10589,".DE":10590,"Ġts":10591,"Ġlinked":10592,"free":10593,"ĠQt":10594,"Ġ/**čĊ":10595,"Ġfaster":10596,"ctr":10597,"_J":10598,"DT":10599,".Check":10600,"Ġcombination":10601,"Ġintended":10602,"-the":10603,"-type":10604,"ectors":10605,"ami":10606,"uting":10607,"Ġuma":10608,"XML":10609,"UCT":10610,"Ap":10611,"ĠRandom":10612,"Ġran":10613,".sort":10614,"Ġsorted":10615,".Un":10616,"_PER":10617,"itory":10618,"Ġpriority":10619,"ĠGal":10620,"ĠOld":10621,"hot":10622,"ĠDisplay":10623,"(sub":10624,"_TH":10625,"_Y":10626,"ĠCare":10627,"loading":10628,"Kind":10629,"_handle":10630,",,":10631,"rase":10632,"_replace":10633,".addEventListener":10634,"ĠRT":10635,"Ġentered":10636,"gers":10637,"Ġich":10638,"(start":10639,"/app":10640,"Ġbrother":10641,"Memory":10642,"Outlet":10643,"Ġutf":10644,"prec":10645,"Ġnavigation":10646,"ORK":10647,"Ġdst":10648,"Detail":10649,"Ġaudience":10650,"Ġdur":10651,"Ġcluster":10652,"unched":10653,"Ġ],":10654,"Ġcomfortable":10655,".values":10656,"ĠTotal":10657,"Ġsnap":10658,"Ġstandards":10659,"Ġperformed":10660,"hand":10661,"(\"@":10662,"åŃ":10663,"Ġphil":10664,"ibr":10665,"trim":10666,"Ġforget":10667,"Ġdoctor":10668,".TextBox":10669,"icons":10670,",s":10671,"ĠOp":10672,"Sm":10673,"Stop":10674,"ĉList":10675,"ĉu":10676,"Comment":10677,"_VERSION":10678,".Xtra":10679,"Person":10680,"rb":10681,"LOB":10682,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":10683,"ĠCentral":10684,"ICK":10685,"raq":10686,"Ġputting":10687,"Ġmd":10688,"ĠLove":10689,"Program":10690,"Border":10691,"oor":10692,"Ġallowing":10693,"after":10694,"Ġentries":10695,"ĠMaybe":10696,"]).":10697,"ĠShort":10698,")\\":10699,".now":10700,"friend":10701,"Ġprefer":10702,"ĠGPIO":10703,"osis":10704,"ĠGameObject":10705,"Ġskip":10706,"Ġcompetition":10707,"_match":10708,"lications":10709,"_CONT":10710,".groupBox":10711,"Ġals":10712,"\"We":10713,"_eq":10714,"lan":10715,"_search":10716,"ĠMusic":10717,"asis":10718,"Ġbind":10719,"ĠIsland":10720,"rum":10721,"(E":10722,"Ġseat":10723,"Video":10724,"Ġack":10725,"reek":10726,"={()":10727,"Ġrating":10728,"Ġrestaurant":10729,"DEX":10730,"(buf":10731,"pping":10732,"uality":10733,"Ġleague":10734,"Ġfocused":10735,"apon":10736,"$data":10737,"CLUD":10738,"CLUDING":10739,"Ġabsolute":10740,"(query":10741,"Ġtells":10742,"Ang":10743,"Ġcommunities":10744,"Ġhonest":10745,"oking":10746,"Ġapart":10747,"arity":10748,"/$":10749,"_module":10750,"ĠEnc":10751,".an":10752,".Config":10753,"Cre":10754,"Ġshock":10755,"ĠArab":10756,"IENT":10757,"/re":10758,"Ġretrie":10759,"ycler":10760,"isa":10761,"ĠOrgan":10762,".graph":10763,"Ġí":10764,"ĠBAS":10765,"Enum":10766,"Ġpossibly":10767,"ÑĢаÐ":10768,"ĠJapanese":10769,"Ġcraft":10770,"ĠPlace":10771,"Ġtalent":10772,"Ġfunding":10773,"Ġconfirmed":10774,"Ġcycle":10775,"/x":10776,"GE":10777,"Ġhearing":10778,"Ġplants":10779,"Ġmouth":10780,"pages":10781,"oria":10782,"ĠRemove":10783,"_total":10784,"Ġod":10785,"ollapse":10786,"door":10787,"Ġbought":10788,"Ġaddr":10789,"ARCH":10790,"_dim":10791,"dden":10792,"Ġdecades":10793,"REQUEST":10794,"Ġversions":10795,"fire":10796,"Ġmoves":10797,"fb":10798,"Ġcoffee":10799,".connect":10800,"ĠRow":10801,"Ġschema":10802,"Scope":10803,"-Type":10804,"Ġfighting":10805,"Ġretail":10806,"Ġmodified":10807,"TF":10808,"Files":10809,"nie":10810,"_command":10811,"stone":10812,"ĠÑĤ":10813,"_thread":10814,"Ġbond":10815,"ĠDevelopment":10816,"Ġpt":10817,"FORM":10818,"plet":10819,"Ġidentified":10820,"cpp":10821,"Ġcoding":10822,"oked":10823,"ĠMaster":10824,"IDTH":10825,"Ġresidents":10826,"redit":10827,"ĠPhoto":10828,"=-":10829,"unte":10830,"ateur":10831,"_STATE":10832,"ĠSing":10833,"Ġsheet":10834,".val":10835,"orse":10836,"Ġhers":10837,"Ġdetermined":10838,"Common":10839,"Ġwed":10840,"_queue":10841,"PH":10842,"ĠAtl":10843,"cred":10844,"/LICENSE":10845,"Ġmes":10846,"Ġadvanced":10847,".java":10848,".Sh":10849,"Go":10850,"kill":10851,"fp":10852,"_settings":10853,"Ġpal":10854,"Ġtruck":10855,"Ġcombined":10856,"Ġ\"${":10857,"ĠCorpor":10858,"Ġjoined":10859,"ĠJose":10860,"ĠCup":10861,"uns":10862,"estival":10863,"levision":10864,"Ġbroken":10865,"Ġmarriage":10866,"ĠWestern":10867,"Ġrepresents":10868,"ĠTitle":10869,"Ġss":10870,".Ass":10871,"ongoose":10872,"iento":10873,"<>();Ċ":10874,"Ġabsolutely":10875,"Ġsmooth":10876,"TERN":10877,"ĠUnless":10878,"Word":10879,"Ġmerge":10880,"igan":10881,"ĠVol":10882,"Ġnn":10883,".getId":10884,"Ġз":10885,"Ġsexy":10886,"Ġseeking":10887,"Single":10888,".this":10889,"Ġkom":10890,"bound":10891,";\"":10892,"ĠfontSize":10893,"_df":10894,"Ġinjury":10895,"(H":10896,"Ġissued":10897,"_END":10898,":self":10899,"Ġpatch":10900,"Ġleaves":10901,"Ġadopt":10902,"FileName":10903,"ãĢIJ":10904,"Ġexecutive":10905,"ĠByte":10906,"]))Ċ":10907,"Ġnu":10908,"outing":10909,"cluding":10910,"-R":10911,".options":10912,"Ġsubstant":10913,"avax":10914,"ĠBUT":10915,"Ġtechnical":10916,"Ġtwice":10917,"Ġmás":10918,"Ġunivers":10919,"yr":10920,"Ġdrag":10921,"ĠDC":10922,"Ġsed":10923,"Ġbot":10924,"ĠPal":10925,"ĠHall":10926,"forcement":10927,"Ġauch":10928,".mod":10929,"notation":10930,"_files":10931,".line":10932,"_flag":10933,"[name":10934,"Ġresolution":10935,"Ġbott":10936,"(\"[":10937,"ende":10938,"(arr":10939,"Free":10940,"(@\"":10941,"ĠDistrict":10942,"PEC":10943,":-":10944,"Picker":10945,"ĠJo":10946,"ĠĠĠĠĠĊ":10947,"ĠRiver":10948,"_rows":10949,"Ġhelpful":10950,"Ġmassive":10951,"---Ċ":10952,"Ġmeasures":10953,"ĠRuntime":10954,"Ġworry":10955,"ĠSpec":10956,"ĉD":10957,"ãĢij":10958,"Ġ){Ċ":10959,"Ġworse":10960,"(filename":10961,"Ġlay":10962,"Ġmagic":10963,"ĠTheir":10964,"oul":10965,"stroy":10966,"ĠWhere":10967,"Ġsudden":10968,"Ġdefe":10969,"Ġbinding":10970,"Ġflight":10971,"ĠOnInit":10972,"ĠWomen":10973,"ĠPolicy":10974,"Ġdrugs":10975,"ishing":10976,"('../":10977,"ĠMel":10978,"peat":10979,"tor":10980,"Ġproposed":10981,"Ġstated":10982,"_RES":10983,"Ġeast":10984,"ĠCONDITION":10985,"_desc":10986,"Ġwinning":10987,"folio":10988,"Mapper":10989,"ĠPan":10990,"ĠAnge":10991,".servlet":10992,"Ġcopies":10993,"LM":10994,"Ġvm":10995,"åį":10996,"Ġdictionary":10997,"Seg":10998,"elines":10999,"ĠSend":11000,"Ġiron":11001,"ĠFort":11002,".domain":11003,"Ġdebate":11004,"NotNull":11005,"eq":11006,"acher":11007,"lf":11008,"ĉfmt":11009,"Ġlawy":11010,"ÄŁ":11011,"ĠMen":11012,"Ġtrim":11013,"(NULL":11014,"Ġ!!":11015,"Ġpad":11016,"Ġfollows":11017,"\"][\"":11018,"requ":11019,"ĠEp":11020,".github":11021,"(img":11022,"eto":11023,"('\\":11024,"Services":11025,"umbnail":11026,"_main":11027,"pleted":11028,"fortunately":11029,"Ġwindows":11030,"Ġplane":11031,"ĠConnection":11032,".local":11033,"uard":11034,"}\\":11035,"==\"":11036,"andon":11037,"ĠRoy":11038,"west":11039,"iginal":11040,"emies":11041,"itz":11042,"'):Ċ":11043,"ĠPeter":11044,"Ġtough":11045,"Ġreduced":11046,"Ġcalculate":11047,"Ġrapid":11048,"customer":11049,"Ġefficient":11050,"Ġmedium":11051,"Ġfell":11052,".ref":11053,"ĠCas":11054,"Ġfeedback":11055,"Speed":11056,"(output":11057,"aje":11058,"Ġcategories":11059,"Ġfee":11060,"};":11061,"Ġdeleted":11062,"reh":11063,"Ġproof":11064,"Desc":11065,"Build":11066,"Ġsides":11067,".ArrayList":11068,"-%":11069,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":11070,"ر":11071,".match":11072,"ли":11073,"Ġfeels":11074,"Ġachieve":11075,"Ġclim":11076,"_ON":11077,"ĠCD":11078,"Ġteacher":11079,"_current":11080,"bn":11081,"_PL":11082,"isting":11083,"Enable":11084,"GEN":11085,"Ġtv":11086,"Ġsock":11087,"Ġplays":11088,"Ġdiscount":11089,"ĠKE":11090,"ĠDebug":11091,"Fore":11092,"ĠIraq":11093,"Ġappearance":11094,"Mon":11095,"Ġstyled":11096,"ĠHuman":11097,"iot":11098,"ĠHistory":11099,"Ġsac":11100,"ĠCollection":11101,"Ġrecommended":11102,".Selected":11103,"Ġorganizations":11104,"Ġdiscovered":11105,"cohol":11106,"adas":11107,"ĠThomas":11108,"May":11109,"Ġconserv":11110,"Ġdomin":11111,"ĠFollow":11112,"ĠSection":11113,"ĠThanks":11114,"Username":11115,"Ġrecipe":11116,"Ġwonderful":11117,".sleep":11118,"_if":11119,"ĉĊĉĊ":11120,"orno":11121,"Ġru":11122,"_target":11123,".\"\"":11124,"à¦":11125,"EventArgs":11126,"Ġinputs":11127,"Ġfif":11128,"Ġvision":11129,"cy":11130,"ĠSeries":11131,")(((":11132,"Ġtrading":11133,"Ġmarker":11134,"Begin":11135,"Ġtypically":11136,"Ġcauses":11137,"dropdown":11138,"_DEBUG":11139,"Ġdetect":11140,"country":11141,"!\");Ċ":11142,"ĉR":11143,"appy":11144,"Ġcref":11145,"('<":11146,"\"=>":11147,"ĠLE":11148,"reader":11149,"Ġadministr":11150,"õ":11151,"ucket":11152,"Ġfashion":11153,".char":11154,"izar":11155,"Ġdisable":11156,"Ġsuc":11157,"ĠLive":11158,"issue":11159,"Ġmetadata":11160,"flags":11161,"ĠðŁ":11162,"Ġcommitted":11163,"Ġva":11164,"Ġrough":11165,"Ġ'''Ċ":11166,"Ġhighlight":11167,"_vars":11168,"VO":11169,"Ġencoding":11170,"-Z":11171,"_sign":11172,"$(\"#":11173,"Ġrain":11174,"reatest":11175,"ĠEND":11176,"Selection":11177,"Ġcandidates":11178,"Ġsav":11179,".Empty":11180,"Ġdecisions":11181,"Ġcollabor":11182,"ridge":11183,"feed":11184,"ression":11185,"Ġpersons":11186,"VM":11187,"ega":11188,"_BIT":11189,"According":11190,"acked":11191,"Ġdollars":11192,"_loss":11193,"ĠCost":11194,"}\"Ċ":11195,"Notification":11196,"Ġprostit":11197,"Ġauthority":11198,".rec":11199,"Ġspokes":11200,"ĠToday":11201,"istant":11202,"ĠHead":11203,"âĢĿ.":11204,"ertainment":11205,"cean":11206,"culate":11207,"Ġven":11208,"However":11209,"_arr":11210,"Ġtokens":11211,"Graph":11212,"ĠJud":11213,"ĠVirgin":11214,"ĠSerial":11215,"unning":11216,"Mutable":11217,"agers":11218,".csv":11219,"Ġdeveloping":11220,"Ġinstructions":11221,"Ġpromise":11222,"Ġrequested":11223,"_encode":11224,"/\"":11225,"ĠIcon":11226,"uilt":11227,"-day":11228,"Ġintelligence":11229,".IS":11230,"ĠObservable":11231,"ĠHard":11232,"Bool":11233,"idential":11234,".Anchor":11235,"Ġselling":11236,"CI":11237,"AGES":11238,"tle":11239,"bur":11240,"UFFER":11241,"RY":11242,"Ġbigger":11243,"Ġrat":11244,"Ġfamous":11245,"Ġtypename":11246,"Ġexplained":11247,"}}Ċ":11248,"Ġnuclear":11249,"-N":11250,"Ġcrisis":11251,"ĠEnter":11252,"Ġanswers":11253,"/${":11254,"/pl":11255,"Ġsequ":11256,"_next":11257,"mask":11258,"Ġstanding":11259,"Ġplenty":11260,"ĠCross":11261,"ĉret":11262,"dro":11263,"ĠCast":11264,"=true":11265,"ĠChris":11266,"icio":11267,"ĠMike":11268,"Decimal":11269,"addComponent":11270,"Len":11271,"Ġcock":11272,"Ġ#{":11273,"URN":11274,"":11403,"Ġ*=":11404,"ĠPS":11405,"Ġdangerous":11406,"[p":11407,"OME":11408,"Other":11409,"ĠStringBuilder":11410,"Points":11411,"heading":11412,"Ġcurrency":11413,"Ġpercentage":11414,"_API":11415,"Ġclassic":11416,"thead":11417,"ĠMO":11418,"FE":11419,"Idx":11420,"await":11421,"Ġè":11422,"Ġaccident":11423,"Ġvariant":11424,"Ġmyst":11425,"ĠLand":11426,"ĠBre":11427,"Ġharm":11428,"ĠAcc":11429,"Ġcharged":11430,"iones":11431,"Visibility":11432,"arry":11433,"ĠLanguage":11434,"Ġwalking":11435,"\".ĊĊ":11436,"ifer":11437,"Ġleadership":11438,".From":11439,"ynam":11440,"Ġtimestamp":11441,"ipt":11442,"ĠHas":11443,"REFER":11444,"ĠIts":11445,"Ġlistener":11446,"UTE":11447,"_description":11448,"Ġexperiences":11449,"Ġcreates":11450,"RS":11451,"cart":11452,"black":11453,"Ġchoices":11454,"war":11455,"Ġ'''":11456,"Ġordered":11457,"Ġevening":11458,"Ġpil":11459,"Ġtun":11460,"ĠBad":11461,"(app":11462,"random":11463,"Ġexplicit":11464,"Ġarrived":11465,"Ġfly":11466,"Ġeconom":11467,"-mail":11468,"Ġlists":11469,"Ġarchitect":11470,"ĠPay":11471,"Ġds":11472,"ĠSol":11473,"Ġvehicles":11474,"Hz":11475,"-com":11476,"Ġking":11477,"_equal":11478,"ĠHelp":11479,"Ġabuse":11480,"--;Ċ":11481,"Ġextr":11482,"Ġchemical":11483,"ä¿":11484,"Ġorient":11485,"Ġbreath":11486,"ĠSpace":11487,"(element":11488,"wait":11489,"DED":11490,"igma":11491,"Ġentr":11492,"Ġsob":11493,"-name":11494,"Ġaffected":11495,"ika":11496,"Ġcoal":11497,"_work":11498,"Ġhundreds":11499,"Ġpolitics":11500,"subject":11501,"Ġconsumer":11502,"ANGE":11503,"Ġrepeated":11504,"Send":11505,"Ġ#[":11506,"Ġprotocol":11507,"Ġleads":11508,"useum":11509,"Every":11510,"Import":11511,"(count":11512,"Ġchallenges":11513,"Ġnovel":11514,"Ġdepart":11515,"bits":11516,".Current":11517,"Ġ`${":11518,"oting":11519,"(\\":11520,"Ġcreative":11521,"Ġbuff":11522,"Ġintroduced":11523,"usic":11524,"modules":11525,"Are":11526,"-doc":11527,"language":11528,"_cache":11529,"Ġtod":11530,"?>{{":11764,"ĠResource":11765,"ĠStandard":11766,"ĠPrem":11767,"updated":11768,"ivalent":11769,"Ġassets":11770,"_temp":11771,"Ġinterests":11772,"Ġhardware":11773,"ĠRom":11774,"ĠShare":11775,"Ġ''Ċ":11776,"Ġ*,":11777,"ĠTake":11778,"ĠImages":11779,"_CHECK":11780,"(typeof":11781,"ĠJun":11782,"\\<^":11783,"Ġliqu":11784,"Ġworst":11785,"ymbols":11786,"ĉĉĉĠĠĠ":11787,"Ġdrivers":11788,"ĠDocument":11789,"eno":11790,"ĠTechnology":11791,"Ġapproved":11792,"umps":11793,"Ġsnow":11794,"formance":11795,"_ASSERT":11796,"uits":11797,"ÙĨ":11798,"Ġdifferences":11799,".Visible":11800,"ĉĉĉčĊ":11801,"ĠPs":11802,"_fetch":11803,"Ġtodo":11804,".',Ċ":11805,"Ġsel":11806,"urers":11807,"invalid":11808,"Ġtweet":11809,"VEL":11810,"Ġresearchers":11811,"Ġsprintf":11812,"ĠRO":11813,"Ġpel":11814,".Trans":11815,"Ġillegal":11816,"dialog":11817,"smarty":11818,"lg":11819,"_MIN":11820,"Ġhero":11821,"final":11822,"Ġpp":11823,".Le":11824,"Ġci":11825,"ĉRT":11826,"Ġsuggested":11827,"pdf":11828,"aching":11829,"ĠRo":11830,"ĠProperties":11831,"ĠSi":11832,"Ġbuying":11833,"Ġmu":11834,"Ġlands":11835,"ifiers":11836,"ĠFILE":11837,"ROUP":11838,"Ġholder":11839,"ĠSon":11840,"Ġsympt":11841,".route":11842,")?":11843,"Ġargc":11844,"Ġfort":11845,"Ġcasino":11846,"_category":11847,"Ġforum":11848,"prefix":11849,"apture":11850,"Tube":11851,"ems":11852,"imize":11853,"Ġnue":11854,"aus":11855,"course":11856,"ATOR":11857,"()),":11858,"Advertis":11859,"INGS":11860,"Ġacknow":11861,"ĠKorea":11862,"pling":11863,"Ġworker":11864,"PLIED":11865,"hal":11866,"ĠRichard":11867,"Elements":11868,"ĉĉĉĠ":11869,"star":11870,"Ġrelationships":11871,"Ġcheap":11872,"ACH":11873,"ĠXML":11874,",&":11875,"ĠLouis":11876,"Ġride":11877,"_FAIL":11878,"Ġchunk":11879,"[s":11880,"_OUT":11881,"Ġchosen":11882,"_[":11883,"/(":11884,"ĠJeff":11885,"_sl":11886,"priv":11887,"ĠCanadian":11888,"Ġunable":11889,"_FLAG":11890,"Ġnos":11891,"high":11892,"Ġlift":11893,"fun":11894,"(){":11895,"elly":11896,"yclerView":11897,"_as":11898,"_LIST":11899,"Ġradi":11900,".getValue":11901,"ĠAngeles":11902,"ĠSpan":11903,"_instance":11904,"itors":11905,"Ġmigration":11906,"AK":11907,"Oh":11908,"®":11909,".selected":11910,"ĠGT":11911,"Ġadvance":11912,"ĠStyle":11913,".DataGridView":11914,"ection":11915,"Ñİ":11916,"pio":11917,"rog":11918,"Ġshopping":11919,"ĠRect":11920,"Illuminate":11921,"OU":11922,"ĉarray":11923,"Ġsubstantial":11924,"Ġpregn":11925,"Ġpromote":11926,"IEW":11927,".Layout":11928,"Ġsigns":11929,"/.":11930,"Ġletters":11931,"Board":11932,"ctrl":11933,"\"\\":11934,"ĠJones":11935,"Ġvertex":11936,"Ġja":11937,"Ġaffili":11938,"Ġwealth":11939,"ĉdefault":11940,"Ġsignificantly":11941,"Ġec":11942,"Ġxs":11943,"actual":11944,".per":11945,"_step":11946,"anvas":11947,"mac":11948,"Ġtransl":11949,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":11950,"Iterator":11951,"Ġoch":11952,"agnostic":11953,"ĠDuring":11954,"ĠDEFAULT":11955,"Ġtill":11956,"Ġsignature":11957,"Ġbird":11958,"ĠOl":11959,"ĠIr":11960,"HS":11961,"avatar":11962,"ESSAGE":11963,"Ġelev":11964,"Ġmt":11965,"ĠNav":11966,"Ġrelax":11967,"Ġplate":11968,"ITEM":11969,"(date":11970,".not":11971,"Ġgrade":11972,"Ġ}),Ċ":11973,"?\"ĊĊ":11974,"iences":11975,"High":11976,"ĠDIS":11977,"disabled":11978,"QUI":11979,"Ġnoise":11980,"aux":11981,"ĠUP":11982,"osa":11983,"Ġvoc":11984,"Ġ))":11985,"ocom":11986,"_OFF":11987,"ĠDb":11988,"Lock":11989,".eclipse":11990,",d":11991,"ĠDraw":11992,"Ġ\"(":11993,"Ġvisited":11994,"ĠâĪ":11995,"Ġsucceed":11996,"Ġimpossible":11997,"aire":11998,"ĠTurn":11999,"Ġdish":12000,"FG":12001,"Ġsensor":12002,"ANN":12003,"aba":12004,"Ġsurg":12005,"]);čĊ":12006,"Ġfp":12007,"_an":12008,"-J":12009,"-G":12010,"ĠJob":12011,"Convert":12012,"ĠKEY":12013,"Ġauthors":12014,"_server":12015,"\\r":12016,"Ġ-*-":12017,"flex":12018,"Ġsoc":12019,"Ret":12020,"Ġsalt":12021,"Ġâ̦ĊĊ":12022,"ĠClear":12023,"(page":12024,"-danger":12025,"Ġrooms":12026,"conv":12027,"#{":12028,".op":12029,"ĠArea":12030,"_SC":12031,"hen":12032,"Ġbegins":12033,"-y":12034,"Ġexcited":12035,"Ġignored":12036,"Ġbonus":12037,"student":12038,"ĠMember":12039,"Ġrelatively":12040,"ĠLow":12041,"ĠProdu":12042,"ateway":12043,"posure":12044,"Ġthick":12045,"aniel":12046,"(view":12047,"ĠCrush":12048,"Extension":12049,"Il":12050,"eed":12051,"LOC":12052,".im":12053,".Items":12054,"Ġconflict":12055,".prevent":12056,"ĠonCreate":12057,"uv":12058,"iser":12059,"Ġwave":12060,"Mar":12061,"ĠCommunity":12062,"iche":12063,"ĠNothing":12064,"[m":12065,"ĠLee":12066,"riends":12067,"ère":12068,"!!!":12069,"anz":12070,".result":12071,"ĠSK":12072,"_PARAM":12073,"Ġdemocr":12074,"BackColor":12075,".exists":12076,"\"It":12077,"(options":12078,"razy":12079,"aser":12080,"\\Database":12081,"alendar":12082,"_ass":12083,";}Ċ":12084,"vertex":12085,"inecraft":12086,"Warning":12087,"argo":12088,"Ġactor":12089,"ĠInstead":12090,"ĠUsing":12091,"Self":12092,"@interface":12093,"Ġspeaking":12094,"ĠParis":12095,"ĠLICENSE":12096,".node":12097,"ĠFood":12098,"EIF":12099,"ĠBi":12100,".Start":12101,"ĠIB":12102,"Ġuniversity":12103,"ĠHeader":12104,".product":12105,"Copy":12106,"etc":12107,"rical":12108,"Ġ>>>":12109,"books":12110,"Ġalgorithm":12111,"Ġ'__":12112,"(javax":12113,"Ġnumerous":12114,"Share":12115,"Have":12116,"Ġrecru":12117,"Ġprove":12118,".substring":12119,"health":12120,"ел":12121,"Ġdecimal":12122,"Ġcommission":12123,"scription":12124,"xC":12125,"Ġsummary":12126,"atted":12127,"Ġcloser":12128,"finished":12129,"()){Ċ":12130,"ĠWood":12131,"_fields":12132,"ku":12133,"_items":12134,"Flag":12135,"Ġconfidence":12136,"ĠFederal":12137,"dux":12138,"Ġcompat":12139,"Ġvertical":12140,"й":12141,"ès":12142,";\">Ċ":12143,"_manager":12144,"()))Ċ":12145,"IDE":12146,":\",":12147,"__Ċ":12148,"ĠWay":12149,"ÑĪ":12150,"Temp":12151,"ĠSTR":12152,"ritten":12153,"Sync":12154,"ĠAV":12155,"ĠCEO":12156,"ĠGuid":12157,"Ġenvironmental":12158,"Ġcorresponding":12159,"ĉconsole":12160,"Ġjustice":12161,"ĠJS":12162,"Ġlived":12163,"gar":12164,"ĠGraph":12165,"ĠStat":12166,"ĠiPhone":12167,".al":12168,"ĠHD":12169,"Ġoccur":12170,"Ġthreshold":12171,"Ġonclick":12172,"REG":12173,".GraphicsUnit":12174,"Meta":12175,"ž":12176,"Ġcum":12177,".gnu":12178,"ë":12179,"Ġobtained":12180,"Ġcomplaint":12181,"Ġeating":12182,"Ġtar":12183,"_task":12184,"Ġopts":12185,"(to":12186,"Pass":12187,"Ġplastic":12188,"tility":12189,"ĠWin":12190,".preventDefault":12191,"pile":12192,"ĠGar":12193,"Ġquantity":12194,"_last":12195,"Ġgreatest":12196,"Dao":12197,"_DIS":12198,"ĠUsed":12199,"ĠHP":12200,"riting":12201,"SION":12202,"blue":12203,"domain":12204,"Ġscores":12205,"Normal":12206,"_admin":12207,"ĠASSERT":12208,"Then":12209,"***":12210,"dist":12211,"lon":12212,"Ġhate":12213,"shal":12214,"ImageView":12215,"database":12216,"Ġpand":12217,"Ġlogic":12218,"=false":12219,"bg":12220,"ĠConfiguration":12221,"Ġnur":12222,"OG":12223,"Ġmarried":12224,":+":12225,"Ġdropped":12226,"Ġregistration":12227,"ом":12228,"ultiple":12229,"izers":12230,"shape":12231,".copy":12232,"Ġwearing":12233,"ĠCath":12234,"Ġdedicated":12235,"Ġ...Ċ":12236,"Ġadvoc":12237,"ĠFamily":12238,"Ġstatements":12239,"ematic":12240,"ampionship":12241,"Ġmotiv":12242,"ĠHave":12243,"Ġblow":12244,"Job":12245,"cert":12246,"_vector":12247,"install":12248,"ĠCOPY":12249,"embed":12250,"DIR":12251,"ĠSpring":12252,"Ġexhib":12253,"cdn":12254,"ĠComment":12255,"ĠOptional":12256,".player":12257,"ĠDark":12258,"(pos":12259,"ĠShould":12260,"Ġcentre":12261,"ĠGuard":12262,"ów":12263,"Ġtrouble":12264,"ENER":12265,"(unsigned":12266,"_service":12267,"Ġns":12268,"uling":12269,"ĠMexico":12270,"ĠNY":12271,"mysql":12272,"Ġlic":12273,"åľ":12274,"Mr":12275,"-fl":12276,"ĠCustomer":12277,"idi":12278,"Ġ?>ĊĊ":12279,"rible":12280,"ĠпÑĢ":12281,"Ġsizes":12282,"_STRING":12283,"validation":12284,"ĠJon":12285,"(Http":12286,"addClass":12287,"Nodes":12288,"Ġfragment":12289,"Ġspoke":12290,"Ġwaste":12291,"Join":12292,"Ġillustr":12293,"eli":12294,"cient":12295,"Ġaid":12296,"Ġprosec":12297,"'){Ċ":12298,"Ġpassing":12299,"Ġfaces":12300,"Shape":12301,"_Z":12302,"iti":12303,"Ġalle":12304,"Ġrobot":12305,"ĠĠĠĠĠĠĠĊ":12306,"ĠSpe":12307,"Ġreceiving":12308,"ĠDetails":12309,"Ġ\")":12310,"mg":12311,"_REF":12312,"Ġcomparison":12313,"*,":12314,"ĠFound":12315,"_session":12316,"(U":12317,"/F":12318,"Ġxxx":12319,"Network":12320,"ders":12321,"Ġcapture":12322,"Ġcorre":12323,"ĠLtd":12324,"ĠAdv":12325,"[@":12326,"Ġclip":12327,"Mill":12328,"ĠProfile":12329,"Ġendif":12330,"Ġoblig":12331,"describe":12332,".element":12333,"riterion":12334,"LD":12335,"ered":12336,"Ġfavour":12337,"score":12338,"ĠFilter":12339,"attributes":12340,"Ġchecks":12341,"Inflater":12342,"ĠPlus":12343,"Ġscientific":12344,"Ġprivacy":12345,"Head":12346,"Ġfeat":12347,"Ġdegrees":12348,"ĠPale":12349,";\">":12350,"Ġfilms":12351,"ĠAudio":12352,"ĠTag":12353,"ĠEnergy":12354,"itar":12355,"parator":12356,"Ġfellow":12357,"Ġevt":12358,"ĠTri":12359,"ĠDAM":12360,"cloud":12361,"ĠPassword":12362,"ĠDemocrats":12363,"ĠAcad":12364,"$lang":12365,"Ġreb":12366,"())ĊĊ":12367,"нÑĭ":12368,"ĠBur":12369,"readcr":12370,"Ġhex":12371,"Console":12372,"ctl":12373,"ousel":12374,"ĠWilliam":12375,"Ġaz":12376,"_PORT":12377,"Ġpractices":12378,"Ġanywhere":12379,"ĠPosition":12380,"Ġ->Ċ":12381,"iams":12382,".username":12383,"placeholder":12384,"Ġoder":12385,"ĠSecretary":12386,"ĠiT":12387,"mond":12388,"events":12389,"?âĢĿ":12390,".Sub":12391,"Ġattached":12392,"Ġnão":12393,"Ġestate":12394,".action":12395,"Ġfigures":12396,"Ġ});čĊ":12397,"Ġsubscri":12398,".tag":12399,"nam":12400,".plot":12401,"noon":12402,"liament":12403,"Character":12404,".tab":12405,"Ġwinter":12406,"ĠVariable":12407,"Ġtrees":12408,"Ġproud":12409,"(V":12410,"_load":12411,"Ġhier":12412,"ĠEcon":12413,"Ġfd":12414,"Ġvictims":12415,"Rest":12416,"iana":12417,"Ġfake":12418,".Println":12419,"Ġstrlen":12420,"Ġsad":12421,"Ġble":12422,"Prot":12423,"Ġbuttons":12424,"Ġtelevision":12425,"Ġlogo":12426,"extension":12427,"ĉj":12428,"stein":12429,"aciones":12430,"Ġ\"\"\"ĊĊ":12431,"Ġsimp":12432,"Ġrecorded":12433,"Ġbrings":12434,"Ġprincipal":12435,"Ġfees":12436,"(source":12437,"kdir":12438,"Ġutils":12439,"Ġcorrectly":12440,"fil":12441,"Ġwel":12442,"Pair":12443,"-button":12444,"scale":12445,"verify":12446,"[c":12447,"Ġ---":12448,"Ġescape":12449,"ikes":12450,"LowerCase":12451,"ician":12452,"Ġchapter":12453,"ĠTYPE":12454,"Ġshadow":12455,"Ġawesome":12456,"WE":12457,"elif":12458,"Ġlambda":12459,"Ġdistinct":12460,"Ġbare":12461,"-off":12462,"Ġcolour":12463,".appendChild":12464,"olec":12465,"aga":12466,".fill":12467,"ĉsuper":12468,"Ġadj":12469,"(position":12470,".getItem":12471,"Short":12472,"Ġtotally":12473,"VD":12474,"ĠTre":12475,"_ep":12476,"vements":12477,"ĠSolution":12478,"Ġfundament":12479,"Follow":12480,"Ġfacility":12481,"Ġhappening":12482,"OF":12483,".textBox":12484,"Span":12485,"Ġ«":12486,"iden":12487,"Ġexceed":12488,"(parent":12489,"Ġcp":12490,"ç»":12491,"Ġhasn":12492,"Ġpri":12493,"Ġconsequ":12494,"nen":12495,"ĠINTO":12496,"Ignore":12497,"ĠFuture":12498,"Ġcarbon":12499,"ĠSteel":12500,"fmt":12501,"okie":12502,"Ġspl":12503,"(title":12504,"-info":12505,"Ġdeals":12506,"Ġfixture":12507,"ea":12508,"Div":12509,"Ġtested":12510,"_return":12511,")ĊĊĊĊ":12512,"upported":12513,"ĠCook":12514,"Ġpaying":12515,"ĠIll":12516,"Ġarrested":12517,"ĠPrime":12518,"_callback":12519,">,Ċ":12520,"driver":12521,"Once":12522,"abb":12523,"_bytes":12524,"ĠSets":12525,"(Object":12526,"Ġcc":12527,"Ġshell":12528,"alo":12529,");//":12530,"(log":12531,"ctors":12532,")":13004,"Ġ$(\".":13005,".pos":13006,"Ġboys":13007,"Ġwedding":13008,"Ġagents":13009,"=\"_":13010,"ĠArmy":13011,"Ġhint":13012,"vision":13013,"Ġtech":13014,"ĠConnect":13015,"Ġlegend":13016,"ĠBet":13017,".Base":13018,"Subject":13019,"Ġlit":13020,"Remove":13021,"Ġ\":":13022,"ĠFinal":13023,"pearance":13024,"ĠiTunes":13025,"Ġparticipants":13026,"ĠPython":13027,"Ġbusy":13028,"iel":13029,"vertices":13030,"ĠtemplateUrl":13031,"ĠClose":13032,"Img":13033,"ĠCorporation":13034,"timestamp":13035,"Ġextend":13036,"Ġwebsites":13037,"Ġpossibility":13038,"оÑĤ":13039,"Ġkö":13040,"Ġmeat":13041,"Ġrepresentation":13042,"Ġĉĉ":13043,"_START":13044,".apply":13045,"ĠValley":13046,"ĠSuccess":13047,"Hi":13048,"Ġnob":13049,"ĠIEnumerable":13050,"_select":13051,"geo":13052,".\")Ċ":13053,"Ġturning":13054,"Ġfabric":13055,"(\"\");Ċ":13056,"Ġperspective":13057,"éĹ":13058,"ĠSn":13059,"Thank":13060,";j":13061,".Parameters":13062,"ĉĠĠĠĠĠĠĠĠĠĠĠ":13063,"Ġfacts":13064,"Ġunt":13065,".instance":13066,"################################################################":13067,"-end":13068,"ĠJOIN":13069,"ĠHen":13070,"Ġuri":13071,"åIJį":13072,"Ġна":13073,"ĠInfo":13074,"Ġconducted":13075,"ĠÃ¥":13076,"OURCE":13077,"Ġwine":13078,"John":13079,".Errorf":13080,"ĠAge":13081,"ounded":13082,"Ġrealize":13083,"Ġ];":13084,"Ġsubsequ":13085,",m":13086,"(User":13087,"iano":13088,"Ġaccompl":13089,"isp":13090,".std":13091,"éĩ":13092,"ĠBed":13093,".setAttribute":13094,"BR":13095,"keep":13096,"ĠALL":13097,"Ġisol":13098,"amma":13099,"Package":13100,"Ġoccasion":13101,"-success":13102,"ед":13103,"ĠLIMITED":13104,"strip":13105,"()ĊĊĊ":13106,"istribution":13107,"Colors":13108,"Ġ+:+":13109,"DidLoad":13110,"aler":13111,"Ġtid":13112,"ĠLED":13113,"ĠLinked":13114,"ĠCart":13115,"())čĊ":13116,"_READ":13117,"Ġkilling":13118,"ĠPHP":13119,"fection":13120,"Ġinstances":13121,"cv":13122,"\"/>":13123,"Ġsf":13124,"Ġtaxes":13125,"_location":13126,"ĠBitcoin":13127,"uable":13128,"rank":13129,"ignore":13130,"track":13131,"ка":13132,"Ġshouldn":13133,"ĠOP":13134,"=>{Ċ":13135,"Ġkm":13136,"Ġhelper":13137,"_head":13138,"ĠWhether":13139,"oco":13140,"_bl":13141,"Ġstatistics":13142,"Ġbeauty":13143,"Ġtog":13144,"tip":13145,"ëĭ¤":13146,"Ġcsv":13147,"(sql":13148,"stdlib":13149,"weak":13150,"Ġlikes":13151,"Äį":13152,"Ġrepeat":13153,"Ġapartment":13154,"Ġemph":13155,"_edit":13156,"Ġvit":13157,"ĉtype":13158,"Even":13159,"uten":13160,"Ġcircumstances":13161,"bian":13162,"Ġsugar":13163,"Windows":13164,"ìŀ":13165,"Ġobserved":13166,"/data":13167,"Ġcalendar":13168,"Ġstrike":13169,"ĠRES":13170,"_sc":13171,"fony":13172,"orem":13173,"(z":13174,"power":13175,"etect":13176,"ĠSat":13177,".description":13178,"Ġgang":13179,"ĠSports":13180,"ongs":13181,"ĠBundle":13182,".sum":13183,"once":13184,"Ġaccused":13185,"Ġexplore":13186,"Ġapproximately":13187,"Ġlosing":13188,"thesis":13189,"ĠFund":13190,"Ġdiagn":13191,"Autowired":13192,"properties":13193,"Ġ_.":13194,"Ġcnt":13195,"cedure":13196,"Ġyy":13197,"Ġgrant":13198,"sock":13199,".innerHTML":13200,"Ġ]);Ċ":13201,"ĠCONFIG":13202,"='$":13203,"]];Ċ":13204,"UND":13205,"Ġglob":13206,"Ġdire":13207,"uffle":13208,"_MEM":13209,"Ġauthentic":13210,">(\"":13211,"Ġdecade":13212,"ĠImport":13213,"Ġoriginally":13214,"ĠjQuery":13215,"Ġindicate":13216,"Ġourselves":13217,"Sw":13218,".lbl":13219,"enerate":13220,"Ġbasically":13221,"ĠHom":13222,"Ġ+#+":13223,"ĠBritain":13224,"ĠKar":13225,"toEqual":13226,".stop":13227,"Ġmodal":13228,"isi":13229,"Ġsuggests":13230,"Ġdtype":13231,"Ġtur":13232,"bf":13233,"Ġconnections":13234,"ĠBefore":13235,"isted":13236,"mouse":13237,"Ġpulled":13238,".build":13239,"Ġlegislation":13240,"Ġforth":13241,"pad":13242,"ego":13243,".Now":13244,"Ġexciting":13245,"}ĊĊĊĊ":13246,"Ġcompr":13247,"Ġshares":13248,"Ġrig":13249,"green":13250,"_vec":13251,"Ġenumerate":13252,"Auto":13253,"icator":13254,"ĠRay":13255,"asse":13256,"Ġholiday":13257,"Ġnullable":13258,"gun":13259,"_details":13260,"Ġwrapper":13261,"seq":13262,"ĠYoung":13263,"juana":13264,"Ġ\"__":13265,"license":13266,"serve":13267,"^(":13268,"iders":13269,".Remove":13270,"ropdown":13271,"'S":13272,"pin":13273,"(token":13274,".Default":13275,"Ġreasonable":13276,"ampion":13277,"ĠSociety":13278,"Ġbei":13279,"erves":13280,"rad":13281,"ĠFox":13282,"_images":13283,"Ġwheel":13284,"')[":13285,"Ġcfg":13286,"(By":13287,"Constructor":13288,"Ġvary":13289,".swift":13290,"Ġproxy":13291,"ĉH":13292,"ĠAnother":13293,"ĠPen":13294,"Ġchecking":13295,"Ġjest":13296,"manager":13297,"Origin":13298,"ugs":13299,"oir":13300,">čĊ":15956,"Ġrelief":15957,"lap":15958,"quer":15959,"_parent":15960,"heap":15961,"LOSE":15962,"Ġcombine":15963,"ĠRose":15964,"owers":15965,"Ġprocedures":15966,"ĠSort":15967,"anim":15968,"variant":15969,"ehicle":15970,"Ġsigning":15971,"Primary":15972,"currency":15973,"Ġsexe":15974,"oen":15975,"theta":15976,"eman":15977,"Ġimpressive":15978,"('_":15979,"ĉU":15980,"ĠTextStyle":15981,"_cnt":15982,"Ġslice":15983,"(':":15984,"Ġunderstood":15985,"His":15986,"Ġinformed":15987,"Ġnick":15988,"(TAG":15989,"hd":15990,"Ġelections":15991,"esture":15992,"ĠSanta":15993,"ĠCoast":15994,".pdf":15995,"inciple":15996,".clone":15997,"born":15998,"uta":15999,"Ġlicensed":16000,"Cr":16001,"Ġbread":16002,"ĠHouston":16003,"Ġnod":16004,"Ġhopes":16005,"ĠCGRect":16006,"Ġguilty":16007,".gif":16008,"Ġrose":16009,".Common":16010,"Tip":16011,"ANK":16012,"ĠFC":16013,"During":16014,"ĠSymfony":16015,"Ġdefensive":16016,"km":16017,")>":16018,"archive":16019,"ĠURI":16020,"ycling":16021,"-o":16022,"ĠWebsite":16023,"AMP":16024,"ishment":16025,"Ġdoctors":16026,"Direct":16027,"ARI":16028,"ĠRedirect":16029,"ieren":16030,"_dist":16031,"yo":16032,"ĠProgress":16033,"Ġzum":16034,"Ġmemor":16035,"ĠED":16036,"Ġjur":16037,"æį®":16038,"_TABLE":16039,"Ġuuid":16040,"Expr":16041,".head":16042,"('%":16043,"pointer":16044,"Ġestimate":16045,"ĠGreg":16046,"Ġloader":16047,"ĠiOS":16048,"Ġmens":16049,"[y":16050,"Ġrefused":16051,"Ġprecision":16052,"isch":16053,"ĠACTION":16054,"Cloud":16055,"sWith":16056,"(ret":16057,"_ADDR":16058,"_conf":16059,"(df":16060,"Ġlocked":16061,"Ġrising":16062,"ãĥ»ãĥ»":16063,"ĠMs":16064,"Ġscenes":16065,"_EXT":16066,"_raw":16067,"_the":16068,"people":16069,"Ġrecon":16070,"ĠFun":16071,"Ġbless":16072,"ĠUpdated":16073,"ün":16074,"ĠĠĠĠĠĠĠĠĠĠĠĠčĊ":16075,"pection":16076,"Release":16077,".logger":16078,"ĠSY":16079,"Ġcounsel":16080,"urd":16081,"_true":16082,"Ġeverybody":16083,"ivot":16084,"Ġhence":16085,"ĠNAS":16086,"Ġopposed":16087,"unknown":16088,"ĠDESC":16089,"ĠChair":16090,"failed":16091,"ĠINCLUDING":16092,"Ġwriters":16093,"{}Ċ":16094,"ÃŃt":16095,"_copy":16096,"}:":16097,"ĠBat":16098,"Ġconverted":16099,"eding":16100,"placement":16101,"ĠHost":16102,"Sound":16103,"им":16104,"Ġsought":16105,"mid":16106,"Ġsalary":16107,"ogg":16108,"âĦ¢":16109,"bul":16110,"Ġwir":16111,"validator":16112,"_STAT":16113,".store":16114,"ĠBattle":16115,"ın":16116,"Ġ-->ĊĊ":16117,"Trump":16118,"dot":16119,"ĠCONT":16120,".fetch":16121,"Ġcontinu":16122,"was":16123,"Ġfraud":16124,"_tmp":16125,"mitter":16126,".pictureBox":16127,"GA":16128,"Ġtournament":16129,".Input":16130,"[r":16131,"exion":16132,"centage":16133,"ĠKorean":16134,"undef":16135,"ĠAvailable":16136,"reshape":16137,"Ġkit":16138,"ĠStruct":16139,"ĠSUB":16140,"Answer":16141,"_lib":16142,".twitter":16143,"Ġore":16144,"ĠDragon":16145,".Ext":16146,",k":16147,"Ġexplanation":16148,"refs":16149,"ĠDrive":16150,"ĠTraining":16151,".Has":16152,"intage":16153,"big":16154,"ologist":16155,"ennis":16156,"Ùĩ":16157,"Ġchicken":16158,"ĠĠĠĠĠĠĠĠĠĠĊ":16159,"çĽ":16160,"ãģ§":16161,"Ġpeak":16162,"Ġdrinking":16163,"Ġencode":16164,"ĠNEW":16165,"malloc":16166,"ĉfprintf":16167,"Ġ=================================================================":16168,"including":16169,"Ġprinciples":16170,"ĠMah":16171,"storage":16172,"-key":16173,"Ġkeyword":16174,"%;":16175,"Ġtrained":16176,".contrib":16177,"Ġkv":16178,"__':Ċ":16179,"ĠBoy":16180,"parameter":16181,"Ġsuite":16182,"Ġthousand":16183,"Ġcoordinate":16184,"-generated":16185,"íķĺ":16186,"generated":16187,"Ġadmitted":16188,"Ġpussy":16189,"#w":16190,"Ġswim":16191,"union":16192,"Na":16193,"ĠRoyal":16194,".channel":16195,"Updated":16196,"_ROOT":16197,"Ġvital":16198,"raction":16199,"ĠCrusher":16200,"Ġpreced":16201,"Ġhorizontal":16202,"Blueprint":16203,"Ġattrs":16204,"Ġsmoke":16205,"ÐĴ":16206,".Equals":16207,"FB":16208,"ĠResources":16209,"rolling":16210,"Ġpasses":16211,"ĠNum":16212,"rotate":16213,"etype":16214,"\\\",":16215,"Ġsensitive":16216,"Ġtall":16217,"?âĢĿĊĊ":16218,"Proxy":16219,"iy":16220,"_section":16221,"âĢĶâĢĶâĢĶâĢĶ":16222,"brid":16223,"Ġcircuit":16224,"atan":16225,"ENC":16226,"Ġdriven":16227,"Ġvoted":16228,"Ġeducational":16229,"Ġinteraction":16230,"abetes":16231,"Ġtone":16232,"ĠInitializeComponent":16233,"Ġmerely":16234,"Ġìŀ":16235,"cookie":16236,"_div":16237,"ĠUILabel":16238,"vely":16239,"});čĊ":16240,"_ENT":16241,"#+#+":16242,"articles":16243,"ĠSouthern":16244,"Ġstronger":16245,"ĠGiven":16246,"ĠEric":16247,"ĠIR":16248,"abstract":16249,"Under":16250,"nable":16251,"Ġincrement":16252,"oven":16253,"Ġcoin":16254,"_timer":16255,"Ġsuffered":16256,"ĠFREE":16257,"'].\"":16258,"ĠQueen":16259,"stats":16260,"Ġmeetings":16261,"Ġentering":16262,"Ġalongside":16263,"(session":16264,"itals":16265,"Ġfoundation":16266,"ĠCredit":16267,".div":16268,"_ALL":16269,"pcion":16270,"_stat":16271,"icking":16272,"Defaults":16273,"_src":16274,"Ġoutputs":16275,"/B":16276,"Ġenthus":16277,"-bl":16278,".ForeColor":16279,"ĉtemp":16280,"Face":16281,"Ġinteract":16282,"Ġweird":16283,"Mount":16284,"rell":16285,"udents":16286,"Ġrequirement":16287,"ĠSus":16288,"IER":16289,"Ġelected":16290,"reference":16291,"ĠME":16292,"Ġservers":16293,".wait":16294,"Ġsnapshot":16295,"ilton":16296,"Ġtries":16297,"Ġtipo":16298,".Time":16299,">w":16300,"Ġmountain":16301,"Ġpounds":16302,"Ġ[...":16303,"exists":16304,"ĠngOn":16305,"_MAP":16306,"Ġflying":16307,"xiety":16308,"ĉvalue":16309,"_DB":16310,"uno":16311,"Ġseats":16312,"TURN":16313,".author":16314,"!)":16315,"orce":16316,"Ġindicated":16317,".sin":16318,"Ġassignment":16319,"imiento":16320,"ĠFrame":16321,"_gen":16322,"inery":16323,"_)":16324,"messages":16325,".settings":16326,"ĠMean":16327,"ĠMuseum":16328,"irq":16329,"attach":16330,"ĠPalestin":16331,"_QU":16332,"_tags":16333,"Ġcasual":16334,"emen":16335,"ASSWORD":16336,"$s":16337,"ĠCirc":16338,"ой":16339,"etric":16340,"/P":16341,"Ġepoch":16342,"The":16357,"ĠAk":16358,"Ġgrass":16359,"/*čĊ":16360,"(dis":16361,"Ġguns":16362,"Ġtb":16363,"ĠKevin":16364,".args":16365,"ĠAh":16366,"oped":16367,"(J":16368,"columns":16369,"arguments":16370,"ĠWithEvents":16371,"_full":16372,"ĠDefense":16373,"Simple":16374,"Ġdeaths":16375,"Ġextensive":16376,"ĠStill":16377,"ĠExpression":16378,"ĠAgency":16379,"Ġperforming":16380,"FX":16381,"Ġusuario":16382,"UAL":16383,"Side":16384,"odos":16385,"aptop":16386,"Ġcredentials":16387,"_cap":16388,"atient":16389,"ĠDisney":16390,"Ġai":16391,"Ġchip":16392,"Ġvolt":16393,".makeText":16394,"%%%%%%%%%%%%%%%%":16395,"Ġbelief":16396,"_LOC":16397,"ĠCivil":16398,"Navigation":16399,"Ġreveal":16400,"Ġviolent":16401,"ĠFil":16402,"Ġcatalog":16403,"emed":16404,"scan":16405,".control":16406,"Ġconstitution":16407,"Country":16408,"Separator":16409,"_APP":16410,"topic":16411,"uetooth":16412,"MIN":16413,"Ġdescriptor":16414,"yt":16415,"ETHER":16416,"Ġdistribute":16417,"'}Ċ":16418,".trim":16419,".Line":16420,"Ġlbl":16421,"assertEquals":16422,"ĠDet":16423,"ombok":16424,"(width":16425,"Ġtort":16426,"ĠEXPRESS":16427,"aco":16428,"Using":16429,"ĠBrand":16430,"wall":16431,"EMENT":16432,"ĠCommunic":16433,"(Ċ":17055,"?>\"":17056,"Ġ///Ċ":17057,"Ġeiner":17058,"Ġweekly":17059,"ĉlogger":17060,"_pop":17061,"_man":17062,"Ġmigrations":17063,"Ġasks":17064,"Ġbs":17065,"Ġfalls":17066,".Where":17067,"-height":17068,"_feature":17069,".Min":17070,"Ġhyper":17071,"Ġvolatile":17072,"Ġtwenty":17073,"Typography":17074,"Unable":17075,"Det":17076,",f":17077,"-mod":17078,"Ġsettlement":17079,"Ġcontracts":17080,"nome":17081,"Bad":17082,"ĠBrian":17083,"(username":17084,"!!!!":17085,"Ġhack":17086,".Field":17087,"HR":17088,"ĠJordan":17089,"iza":17090,"ĠÂł":17091,"ĠSher":17092,".header":17093,"(other":17094,"ĠDub":17095,"(op":17096,"ĠRound":17097,"Ġvie":17098,"Ġappl":17099,"ĉJ":17100,"ĠInsert":17101,"ĠLP":17102,"regon":17103,"ĠMPI":17104,"Ġanchor":17105,"aca":17106,"ør":17107,"Ġade":17108,"anchor":17109,"quee":17110,"ĠTreeNode":17111,"Ġtargeted":17112,"Ġlaid":17113,"ABEL":17114,"vet":17115,"ĠOrigin":17116,"Ant":17117,".');Ċ":17118,"expect":17119,"edReader":17120,"ĠMajor":17121,"Ġinch":17122,"Compar":17123,"Ġpreview":17124,"Ġillness":17125,"ĠCONTRACT":17126,"ĠIndepend":17127,"uuid":17128,"Ġnome":17129,"Ġtc":17130,"ĠAvenue":17131,"isan":17132,"Ġphrase":17133,"_move":17134,"\")[":17135,"Ġprovision":17136,"Ġconcentr":17137,"_IR":17138,"ĠUt":17139,"()+":17140,"Ġnas":17141,"!,":17142,"ĠRobin":17143,"iations":17144,"atitude":17145,"Ġpx":17146,"ĠWithout":17147,"/bash":17148,"ekt":17149,"reement":17150,"Observer":17151,"ĠRegion":17152,"UBLIC":17153,"Ġ{//":17154,"KN":17155,"å·":17156,"GameObject":17157,"å¾":17158,"encoding":17159,"Ġ***":17160,"projects":17161,"Ġtk":17162,"Ġcheese":17163,"EMPL":17164,"aro":17165,"ĠاÙĦ":17166,"Ġconsists":17167,"refresh":17168,"ureau":17169,"ĠScanner":17170,"Ġsoil":17171,"Ġflavor":17172,"DataSource":17173,"Execute":17174,"ение":17175,"Ġshit":17176,"åĪĨ":17177,"Ċ":17419,"Ġsubsequent":17420,"posable":17421,"-fluid":17422,"Ġthorough":17423,"Ġpublicly":17424,"apters":17425,"ĠWilson":17426,"_PRE":17427,"yard":17428,"ä¼":17429,"ĉin":17430,"Ġrevers":17431,"Ġbullet":17432,"cribed":17433,"nesota":17434,"Ġ($_":17435,"annon":17436,"cursor":17437,"Ġclothing":17438,"ĠMulti":17439,":',":17440,"Ġvess":17441,"ordinator":17442,"Ġeinem":17443,"Cannot":17444,"Ġarmed":17445,"ĉV":17446,"ä¸Ĭ":17447,".Flat":17448,"ĠSep":17449,"ĠSubject":17450,"_font":17451,"Ġcharacteristics":17452,"Done":17453,"eln":17454,"############":17455,"POS":17456,"Ġdensity":17457,"ĠPlatform":17458,"-items":17459,"Ġovers":17460,"Ġpushing":17461,"ç¤":17462,".Connection":17463,"_term":17464,"Ġinitialization":17465,"________________________________":17466,"ç¬":17467,".document":17468,"lesh":17469,"ĉdocument":17470,"ĠPin":17471,"ça":17472,"Ġdefinitions":17473,".Path":17474,"_WRITE":17475,"ĠĉĊ":17476,"?>ĊĊ":17477,"Ġterrible":17478,"bean":17479,"ickets":17480,"ĠSV":17481,"Buy":17482,"(task":17483,"Ġregime":17484,"google":17485,"Ġcrack":17486,".visit":17487,"NUM":17488,"energy":17489,"Ġstruck":17490,"_sample":17491,".payload":17492,"Ġrevis":17493,"ĠScene":17494,"Ġpg":17495,"Ġbreakfast":17496,"URRENT":17497,".charAt":17498,"_exception":17499,"ĠAnton":17500,"Ġguidelines":17501,"Ġexhaust":17502,"ĠFinancial":17503,"Ġindent":17504,"Ġdesktop":17505,"Hidden":17506,"Failure":17507,"Ġprinciple":17508,"Ġiv":17509,"Ġseks":17510,"network":17511,"ĠnumberOf":17512,"ĠAlbert":17513,"ĉlong":17514,",.":17515,"Ġzeros":17516,"fade":17517,"ĠTyp":17518,"ĠTerm":17519,"ĠArts":17520,".Application":17521,"Ġbehalf":17522,"æĪ·":17523,"Ġmere":17524,"(`${":17525,"Ġawareness":17526,"elpers":17527,"flix":17528,"Ġweigh":17529,"Ġestimates":17530,".child":17531,"/O":17532,"ĠBitmap":17533,".bottom":17534,"Ġ**************************************************************************":17535,"Expect":17536,"ento":17537,"ĠForum":17538,"veral":17539,"Ġjail":17540,"Ġabilities":17541,"ĠHOLD":17542,"ĠCit":17543,"Ġdynam":17544,"Ġgray":17545,"ĉĉĉĉĉĉĉĉĉĉĉĉĉ":17546,".nextInt":17547,"antly":17548,"ĠARISING":17549,"(private":17550,"Ġrejected":17551,"ĠNic":17552,"Ġleather":17553,"={Ċ":17554,"alytics":17555,"thetic":17556,".Top":17557,".Page":17558,"={`":17559,"Ġ;čĊ":17560,"depth":17561,"mann":17562,"WD":17563,"ĠSom":17564,".Right":17565,"Ġ)}Ċ":17566,"Ġtrait":17567,"ÃĹ":17568,"iac":17569,"Ġrv":17570,"Sample":17571,".Xml":17572,"opped":17573,"ĠÑĦ":17574,"lists":17575,"Ġtear":17576,"iversary":17577,".collection":17578,"ĠConstitution":17579,"ĠHttpResponse":17580,"Ġbrill":17581,"ĠProm":17582,"hover":17583,"ĠMiami":17584,"Ġargue":17585,"_float":17586,"ĠãĤ":17587,"Ġnat":17588,"ĠTal":17589,"Ġintegration":17590,"(cur":17591,"Ġremoving":17592,"Ġcoeff":17593,"ĠThough":17594,"Ġforecast":17595,"ĠVegas":17596,"Site":17597,"Ġtrab":17598,"ĠHenry":17599,"-i":17600,"Ġinvolves":17601,"BT":17602,"Ġslo":17603,"Invoke":17604,"Ġlucky":17605,"rat":17606,"Ġ?Ċ":17607,"Ġhandled":17608,"(fd":17609,"contents":17610,"ĠOFF":17611,"RF":17612,"Ġsty":17613,"ĠMotor":17614,"tery":17615,"tax":17616,"MAP":17617,"ĠMrs":17618,"Ġphones":17619,"ĠUIView":17620,"\")));Ċ":17621,"(dev":17622,"ĠIrish":17623,"Ġws":17624,"DI":17625,"_OFFSET":17626,"ĠEvents":17627,"Ġstages":17628,"Ġ}//":17629,"Ġhaben":17630,"STANCE":17631,"ĠSin":17632,"ĠMoney":17633,"(top":17634,"Ġappointment":17635,"VERSION":17636,"metadata":17637,"_comment":17638,"Ġcolleagues":17639,"maps":17640,"âĺ":17641,"ĊĉĊ":17642,"(al":17643,"_req":17644,"Ġfut":17645,"Ġarchitecture":17646,"ĠWHETHER":17647,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":17648,"_screen":17649,"ĠstyleUrls":17650,"Ġmonster":17651,".up":17652,"phia":17653,"Ġprocessor":17654,"ĠTerr":17655,"=',":17656,"ĠManufact":17657,"ĠNT":17658,"kel":17659,"ibern":17660,"ĉfile":17661,"Ali":17662,"rientation":17663,"Ġ//!":17664,"apore":17665,"aneous":17666,"ĠCreat":17667,"folder":17668,"Ġhay":17669,"Suppress":17670,"(left":17671,"Ġeuro":17672,"Ġdisclaimer":17673,"ustry":17674,"ships":17675,"_fd":17676,"ĠFa":17677,"_insert":17678,"Ġrol":17679,"ifting":17680,"ĠComments":17681,"_br":17682,"Ġlosses":17683,"ĠAdded":17684,"charg":17685,"Ġпо":17686,"_system":17687,"ĠSometimes":17688,"ĠSpain":17689,"(group":17690,"ialis":17691,"Ġdollar":17692,"ĠArgs":17693,"quires":17694,"ĠTen":17695,".scss":17696,"Ġsurvive":17697,"usage":17698,"Ġjun":17699,"imiter":17700,"ï¼ģĊĊ":17701,"Ġfifth":17702,"toggle":17703,"Ġdecline":17704,"($\"":17705,"(Long":17706,"inge":17707,"Ġpilot":17708,"-light":17709,"-radius":17710,"Ġpodcast":17711,"Ġnaturally":17712,"Pages":17713,"为":17714,"ĠDespite":17715,"Ġlighting":17716,"Ġcrate":17717,"ĠBinary":17718,"Ġreducing":17719,"Ġeleg":17720,"ĠMouse":17721,"ĠTestBed":17722,"ĠbeforeEach":17723,"_ARRAY":17724,"Redirect":17725,"Ġflood":17726,"Ġships":17727,"Ġelectricity":17728,")*(":17729,"ê¸":17730,"ĠViet":17731,"hero":17732,"Ġdia":17733,"ĠKent":17734,"heart":17735,"Ġthreats":17736,"_acc":17737,"Ġsymbols":17738,"ischen":17739,"_inst":17740,"Criterion":17741,"ĠTIM":17742,".Height":17743,"ĠâĢĻ":17744,"();ĊĊĊ":17745,"Products":17746,"_SP":17747,"ĠCy":17748,"Ġdependent":17749,"este":17750,"Ġdatos":17751,"dit":17752,"ав":17753,"IGNAL":17754,"Ġlesson":17755,"\">'":17756,"ĠCover":17757,"ĠHope":17758,"ĠTimer":17759,"Ġdad":17760,"viders":17761,"ĠPhot":17762,"/?":17763,"ropy":17764,"oming":17765,"asion":17766,"Ġ\\(":17767,"ĠET":17768,"ĠReading":17769,"Ġepisodes":17770,"lm":17771,"echa":17772,"Ġneuro":17773,"Ġharmon":17774,"Ġliberal":17775,"-ind":17776,"DATA":17777,"Ġeveryday":17778,"Ġdivided":17779,"ĠActiveRecord":17780,"figure":17781,"UA":17782,"ä¹":17783,"riendly":17784,"tech":17785,".gameObject":17786,"иÑĤÑĮ":17787,"Ġmoon":17788,"ftime":17789,"Ġnoch":17790,"ĠTORT":17791,"ĠVM":17792,".initial":17793,"(child":17794,"Ġmusical":17795,"Ġoc":17796,"bas":17797,"ĠHay":17798,"_long":17799,"Ġmemset":17800,"iley":17801,"adelphia":17802,"SV":17803,"roat":17804,"_tx":17805,"Ġlon":17806,"ĠngOnInit":17807,"bp":17808,"ĠGolden":17809,"ACHE":17810,"Ġworried":17811,"azi":17812,"Ear":17813,"Take":17814,"(fp":17815,"burgh":17816,"_Data":17817,"gres":17818,"ĠOnt":17819,"pus":17820,"Ġtransparent":17821,"Ġpocket":17822,"Ġram":17823,"igrations":17824,".čĊčĊ":17825,"Ġ[(":17826,"Ġadopted":17827,"Ġreportedly":17828,"ĠDream":17829,"Ġ}));Ċ":17830,"losing":17831,"Ġteeth":17832,"ĠBooks":17833,"\",&":17834,"enny":17835,"LEMENT":17836,"Ġgel":17837,"ĠPlant":17838,"!âĢĿ":17839,".host":17840,"ĠReply":17841,"rength":17842,"Ġrecognition":17843,"Ġ}}>Ċ":17844,"LA":17845,"Ġmirror":17846,"Ġassistant":17847,"(device":17848,"Ġspiritual":17849,"builder":17850,"§":17851,"Ġoutr":17852,"Ġtt":17853,"ĠPER":17854,"Ġradical":17855,"Methods":17856,"Ġpace":17857,"udy":17858,"Ġgut":17859,"ĠGreek":17860,"Ġnonatomic":17861,"ĠPaper":17862,"_GPIO":17863,"Ġobst":17864,".Ad":17865,"vironments":17866,"ĠSov":17867,"(con":17868,"ĠTransaction":17869,".assign":17870,"ĉcatch":17871,"elter":17872,"Ġbitcoin":17873,"_GR":17874,"ĠčĊ":17989,"metic":17990,"Ġtransformation":17991,"åı·":17992,"Ġrgb":17993,"istributions":17994,"Ġimplicit":17995,"/in":17996,"destination":17997,"аÑĤÑĮ":17998,"Zero":17999,"Ġunset":18000,".where":18001,".go":18002,"Ġformation":18003,"Ġdeclaration":18004,"()čĊčĊ":18005,"ĠExpl":18006,"ĉĉĉĠĠ":18007,"/pro":18008,".JSON":18009,"Ġdesk":18010,".substr":18011,"//----------------------------------------------------------------------------":18012,"lyn":18013,"pson":18014,"disable":18015,"ĠFunc":18016,"ĉAssert":18017,"ĠMARK":18018,"Ġdefeat":18019,"Ġblind":18020,"Ġconstants":18021,".headers":18022,"UILD":18023,"Ġexpenses":18024,"Pixel":18025,"Ġhr":18026,"Ġfel":18027,"ĠEastern":18028,"_del":18029,"ĠCub":18030,"Ġsq":18031,"ĉcount":18032,"ĠDirectory":18033,"Ġexclus":18034,"Ġhistoric":18035,"Ġ------------------------------------------------":18036,"Ġcomposition":18037,"ĠdataGridView":18038,"ĠBurn":18039,"ĠBC":18040,"Master":18041,"Ġspawn":18042,"Ġbearing":18043,".SetActive":18044,"ilo":18045,"Ġgallery":18046,"Ġfounded":18047,"Ġavailability":18048,".sqrt":18049,"Ġpes":18050,"ĠDOM":18051,"mate":18052,"Oct":18053,"Ġmatched":18054,"itivity":18055,"Ġanxiety":18056,".price":18057,"ĠInstant":18058,"ìĬ":18059,"Ġtut":18060,"ICollection":18061,".shared":18062,"_sql":18063,"tbl":18064,"library":18065,"_destroy":18066,"ermal":18067,"ĠNotes":18068,"ĠEin":18069,"Ġsouthern":18070,"ĠOTHERWISE":18071,"Ġmacro":18072,".lower":18073,"cls":18074,"ContentView":18075,".link":18076,"constant":18077,"ĠBes":18078,"Ġsomebody":18079,"nb":18080,"\">{":18081,"(local":18082,".....":18083,"ĠNull":18084,"mx":18085,"Ġç":18086,"Ġpause":18087,"-----------":18088,"_MO":18089,"ĠCM":18090,"ĠforKey":18091,"ĠDVD":18092,"Ġclosest":18093,"_DEVICE":18094,"ĠStephen":18095,"ĠBBC":18096,"ĠTravel":18097,"Paint":18098,"ĠResults":18099,"ĠRule":18100,"Ġtp":18101,"Ġratings":18102,"cin":18103,"csv":18104,">/":18105,"ĠGOP":18106,"lad":18107,"ĠÑĢ":18108,"ĠindexPath":18109,"matrix":18110,"=f":18111,"arsed":18112,"Ġ});":18113,"ĠCos":18114,"ĠScore":18115,"Ġtak":18116,"ĠESP":18117,"ĠINC":18118,"_NULL":18119,"-flex":18120,"\"][":18121,"into":18122,"eland":18123,"Authorization":18124,"_FALSE":18125,"Ġgate":18126,"Ġvid":18127,"istent":18128,"TIME":18129,"Ġrewrite":18130,"Ġtie":18131,"Ġarchive":18132,".events":18133,".getParameter":18134,"ĠPermission":18135,"Ġprogramme":18136,"Ġé":18137,"jud":18138,"Ġcameras":18139,"(sys":18140,"ĠSyrian":18141,"Ġimprovements":18142,"Ġhip":18143,"Ġsuicide":18144,"Ġscholar":18145,"Ġcompatible":18146,"remote":18147,".down":18148,"FUNCTION":18149,"Ġmanaging":18150,"ĠUIKit":18151,".raw":18152,">>>>":18153,"Ġdemands":18154,"ellite":18155,"Ġdent":18156,"ĠMicro":18157,"åıĸ":18158,"'][$":18159,"ĠIE":18160,"imension":18161,"Ġtrem":18162,"Ġgained":18163,".with":18164,".ok":18165,"hou":18166,"Ġbom":18167,"ampaign":18168,"Ġjoining":18169,"fish":18170,"ĠaddSubview":18171,"Ġnorthern":18172,".cor":18173,"oret":18174,"Die":18175,"inish":18176,"_comp":18177,"Ġattended":18178,"Ġcollapse":18179,"ĠSS":18180,"acent":18181,"_EQUAL":18182,"ĠDeep":18183,"RGB":18184,"ĉtest":18185,"olves":18186,"uset":18187,"UnityEngine":18188,"writer":18189,"Resolver":18190,",%":18191,"ifference":18192,"_remove":18193,"onda":18194,"Ġfemme":18195,"decode":18196,"Branch":18197,"Ġflush":18198,"Ġinnovative":18199,"Tests":18200,"Ġ['./":18201,"Ġcovering":18202,".admin":18203,"ultipart":18204,"(lambda":18205,"namespace":18206,"ĠSport":18207,"Ġ!(":18208,"acles":18209,"Ġdepression":18210,"ĠKong":18211,"Ġpert":18212,"ĠConn":18213,"ĠOtherwise":18214,"/home":18215,"supported":18216,"Ġpink":18217,"Ġinvited":18218,"ños":18219,"_enabled":18220,"Ġ-Ċ":18221,"FW":18222,"eners":18223,"ĠMY":18224,"Ġsuggestions":18225,"Canvas":18226,"Ġfer":18227,"ĠMarketing":18228,"@Test":18229,"untu":18230,"ĠVen":18231,"ĠCou":18232,"ivals":18233,"Donald":18234,"limited":18235,"ĉĉĉĉĉĉĊ":18236,"Ġanalyst":18237,"(entry":18238,"Ġrepresentative":18239,"_attributes":18240,"Ġfur":18241,".hide":18242,"resp":18243,"adores":18244,"rides":18245,"ĠJosh":18246,"robot":18247,"ĠNAT":18248,"Ġsesso":18249,"Ġintegrated":18250,":true":18251,"parts":18252,"Ġstupid":18253,":event":18254,"@endsection":18255,"Ġpu":18256,".Table":18257,"ĠYii":18258,"`;ĊĊ":18259,"Ġclang":18260,"=\"\">":18261,"engan":18262,"_parameters":18263,".internal":18264,"ĠModern":18265,"Ġmetric":18266,"Ġsemi":18267,"={{Ċ":18268,".amazon":18269,"ĠBB":18270,"ainty":18271,"viewport":18272,"ĠstartActivity":18273,"dispatch":18274,"*****":18275,"Ġflav":18276,"ifferent":18277,"[this":18278,"Ġstake":18279,"Ġargued":18280,"viously":18281,".work":18282,"ĠOak":18283,"Old":18284,"(async":18285,"notes":18286,"Ġflip":18287,"Ġdisag":18288,"ĠTE":18289,"ĉerror":18290,"<'":18291,"Ġ»ĊĊ":18292,"Ġfiltered":18293,"ĠMach":18294,"Ġhung":18295,"_dump":18296,"_samples":18297,"-dismiss":18298,"Ġray":18299,"Implemented":18300,"DK":18301,"Ġjed":18302,"Ġbreaks":18303,"Ġfits":18304,".gr":18305,"ĠZero":18306,"oro":18307,"Ġequally":18308,"Ġ'[":18309,"Ġconcerning":18310,"<":18407,"Ġpromot":18408,"Ġincl":18409,"_only":18410,"를":18411,"ĠAttorney":18412,"-date":18413,"Ġlandscape":18414,"Ġfu":18415,"SY":18416,".prop":18417,"ĠArr":18418,"pag":18419,"ParallelGroup":18420,"':čĊ":18421,"Ġlogs":18422,"aunch":18423,"unci":18424,"nama":18425,"TableCell":18426,"issues":18427,".{":18428,"ecurity":18429,"_exec":18430,"olds":18431,"Ġhosts":18432,"Ġproto":18433,"_import":18434,"_sort":18435,"ĠBow":18436,"ĠNormal":18437,"ĠFarm":18438,".createParallelGroup":18439,"Rotation":18440,".err":18441,"Ġpleased":18442,"itage":18443,".Wh":18444,"ĉĉĠĠĠĠ":18445,"MR":18446,"ĠMORE":18447,"ĠNatural":18448,"_transform":18449,"BASE":18450,"eneral":18451,"utdown":18452,".commons":18453,"WT":18454,"Ġaan":18455,".Result":18456,"dog":18457,"Ġclicking":18458,"),ĊĊ":18459,"#line":18460,"Operator":18461,"Ġciv":18462,"Ġmerg":18463,"obuf":18464,"ngthen":18465,"Ġ[{":18466,"Ġcancell":18467,"trigger":18468,".:":18469,"WORK":18470,"declare":18471,"Ġdecrease":18472,"ÅĽci":18473,"loom":18474,".None":18475,"ĠMI":18476,"ĠJason":18477,"Ġhealthcare":18478,"iamond":18479,"sylvania":18480,"*x":18481,"ĠRa":18482,"[b":18483,"Ġprinting":18484,"phabet":18485,"ĠLabour":18486,"opper":18487,"Ġzijn":18488,"-target":18489,"_FUNCTION":18490,"Ġoct":18491,"ениÑı":18492,"åľ¨":18493,"Ġwestern":18494,"Ġcomputers":18495,"ĠRET":18496,"HashMap":18497,"[String":18498,"getValue":18499,"_DATE":18500,".Next":18501,"ĠFif":18502,"él":18503,"icked":18504,"æİ":18505,"-MM":18506,"Ġ{ĊĊĊ":18507,"Ġcontacts":18508,"Ġdigits":18509,"Produ":18510,"Ġunusual":18511,"Ġrapidly":18512,"tures":18513,"Ġangry":18514,"cancel":18515,"xxxx":18516,"_parser":18517,"idity":18518,"_PREFIX":18519,"Ġmehr":18520,"Ġrarely":18521,"ethe":18522,"opes":18523,"Ġ%.":18524,"works":18525,"Ġtheta":18526,"Ġcontribution":18527,"ĠTony":18528,"Ġsquad":18529,"ай":18530,"Ġîn":18531,"there":18532,"outed":18533,"ĉq":18534,"ĻĤ":18535,"good":18536,"LI":18537,"页":18538,"ĠLiving":18539,"izabeth":18540,"Ġkt":18541,"ĠDallas":18542,"]],Ċ":18543,"Ġ/>ĊĊ":18544,"Ġraising":18545,"/router":18546,"_game":18547,"ĠCUR":18548,"zens":18549,".es":18550,"ĠfontWeight":18551,"(func":18552,"notification":18553,"Ġ'../../../":18554,"Ġblame":18555,"ãĢĤĊĊĊĊ":18556,"anco":18557,"Identity":18558,"follow":18559,"Ġarts":18560,"xs":18561,"Ġofficially":18562,"ĠStudio":18563,"Ġrecommendations":18564,"Ġlocale":18565,"Ġamateur":18566,"ĠEnable":18567,"Ġcaps":18568,".End":18569,"-add":18570,"_gshared":18571,"ĠCT":18572,"Force":18573,"ĊĠĠĠĠĠĠĠĠĠĠĠĠĊ":18574,"Ġorange":18575,"Ġlp":18576,"Ġanswered":18577,".Grid":18578,"Ġdual":18579,"Ġstrategic":18580,"Ġnobody":18581,"Ġfatal":18582,"_est":18583,"(el":18584,"Ġìł":18585,"ĠBudd":18586,"AIT":18587,"_factor":18588,"-one":18589,"ĠHAVE":18590,"\"čĊčĊ":18591,"Prof":18592,"Ġär":18593,"strings":18594,"Ġdirty":18595,"ĠFace":18596,"ĠBegin":18597,"ĠBus":18598,"Ġwis":18599,"åŃĹ":18600,"Ġspeaker":18601,"Ġcarrier":18602,"ĠOm":18603,"Ġhadn":18604,"Allow":18605,"::__":18606,"Ġverb":18607,"ĠComplete":18608,"ĠEasy":18609,"Ġbills":18610,"ĠĠĊĊ":18611,"Vertical":18612,"Ġpron":18613,"ĠDefine":18614,"Ġlookup":18615,"variables":18616,"Ġpandas":18617,"umes":18618,"Ġinnoc":18619,"ĠsetUp":18620,"ĠChampionship":18621,"artist":18622,"ĠCType":18623,"Foundation":18624,"à¹Ī":18625,"ĠSetup":18626,"Ġrecipes":18627,"ĠUIColor":18628,"ĠFight":18629,"Ġauthorized":18630,"_click":18631,"_success":18632,"angan":18633,"ĠMountain":18634,"ĠDoctor":18635,"Ġegg":18636,"ĠMedicine":18637,"cles":18638,"`.Ċ":18639,"[int":18640,"dashboard":18641,"ĠAppro":18642,"-dr":18643,"Ġproduces":18644,"Ġrental":18645,"Ġreload":18646,"Ġarrival":18647,"spot":18648,"Ġundert":18649,"Ġequipped":18650,"Ġproved":18651,"Ġcenters":18652,"Ġdefines":18653,"also":18654,"Ġopacity":18655,"ĠUnfortunately":18656,"ĠIllinois":18657,"Ġне":18658,"ĠTemple":18659,"ĠTrail":18660,"ĠKelly":18661,"Ġmeasurement":18662,"Ġseparated":18663,"-circle":18664,"Hey":18665,"ĠREAD":18666,"igits":18667,"Ġib":18668,"ĠMOD":18669,"attery":18670,"аз":18671,"Ġvend":18672,"енÑĤ":18673,"ĠHttpClient":18674,"safe":18675,"_ASS":18676,"icit":18677,"ĠConstruct":18678,"ĠClo":18679,"ĠSix":18680,"_TOKEN":18681,"(block":18682,"Ġwarned":18683,"/*!":18684,"!Ċ":18769,"Ġinnovation":18770,"_\"":18771,"Ġ);čĊčĊ":18772,"Ġspots":18773,"Ġchoosing":18774,".cs":18775,"Ġflexible":18776,"UInt":18777,"Ġscratch":18778,"-al":18779,"Ġfestival":18780,"Ġoutstanding":18781,"================================================":18782,"Mean":18783,"ĠOregon":18784,"symbol":18785,".account":18786,"dney":18787,"'''":18788,"!\",":18789,"Ġparticle":18790,"Ãĥ":18791,"[MAX":18792,"IVER":18793,"ERENCE":18794,"NSMutable":18795,"ĠColumbia":18796,"_ĊĊ":18797,".fr":18798,"Ġcogn":18799,"VR":18800,"ĠMethods":18801,"ĠMade":18802,"ĠBR":18803,"ĠElse":18804,"Ġeggs":18805,"Ġswing":18806,"ĠInv":18807,"Ġdiseases":18808,"Ġfirms":18809,"Ġlemma":18810,"}`);Ċ":18811,"lings":18812,"Ġgym":18813,"uminum":18814,".Trim":18815,"Mem":18816,"Ġcriticism":18817,"ibernate":18818,"_TX":18819,"ioni":18820,"Ġguidance":18821,"Ġrepeatedly":18822,"Ġsupplier":18823,"Ġpainting":18824,".Fragment":18825,"edException":18826,"Ġwiring":18827,"Ġcourts":18828,"WEB":18829,"æľī":18830,"\\.":18831,"illance":18832,"Ġbrows":18833,"ĠPattern":18834,"PLICATION":18835,"ĠSummer":18836,"Chain":18837,"Ġcute":18838,"mercial":18839,"Ġdil":18840,"ĠFranklin":18841,"ĉglobal":18842,"INCLUDING":18843,"history":18844,"Ġlst":18845,"Qt":18846,"SDL":18847,"alia":18848,"iere":18849,"(...":18850,"ĉcin":18851,"iffs":18852,"velope":18853,"ĠRoot":18854,"cluster":18855,"UserName":18856,"igne":18857,"()Ċ":18949,"Ġapplying":18950,"Ġpromised":18951,"Ġox":18952,"ncia":18953,"ĠValidation":18954,"orts":18955,"_cur":18956,"elect":18957,"eye":18958,"(Data":18959,"Ġreporter":18960,"ĠBuff":18961,"Ġsr":18962,"Ġ\";":18963,"icky":18964,"Ġtempor":18965,"SN":18966,"Ġresident":18967,"pires":18968,"ysical":18969,"Ġendorse":18970,"ĠSong":18971,"isEmpty":18972,"leet":18973,"_util":18974,"Ġdistingu":18975,"ĠTalk":18976,"ĠMot":18977,"(default":18978,".Arg":18979,"gorithms":18980,"_words":18981,"immer":18982,"_reset":18983,"family":18984,"WW":18985,"Ġsavings":18986,"ĠâĢĿ":18987,"_enable":18988,"sidebar":18989,"Running":18990,"Ġali":18991,"Ġtestim":18992,"Ġwarnings":18993,"ĠChem":18994,"ĠExit":18995,"Ġfounder":18996,"pector":18997,"Ġrm":18998,"_dataset":18999,"ĠDas":19000,"Ġhan":19001,"Getty":19002,"ál":19003,"Ġny":19004,"Ġpoverty":19005,"Ġresulted":19006,".by":19007,"ĠVisit":19008,"Ġobtaining":19009,"/'.$":19010,"ĠĠĠĠĠĠĠĠĠĠĠĊ":19011,"shall":19012,"_LEFT":19013,"UIImage":19014,"_Name":19015,"have":19016,"ĠNob":19017,"lr":19018,"-footer":19019,"Ġnaked":19020,"ĠGarden":19021,"\\Facades":19022,"Ġgraduate":19023,"Ġfranchise":19024,"plane":19025,"Ġcontributions":19026,"ĠstringWith":19027,"Ġcrypto":19028,"Ġmovements":19029,"athers":19030,"Ġlifetime":19031,"Ġcommunicate":19032,"jar":19033,"ĠFragment":19034,"_IF":19035,"ĠNavy":19036,"ĠFigure":19037,"Ġsimulation":19038,"_stop":19039,"Ġreporters":19040,"Ġversus":19041,"aja":19042,"Ġα":19043,"Ġgovernor":19044,"ListItem":19045,"Ġsealed":19046,".Background":19047,"edi":19048,"ashing":19049,"Ġlip":19050,"ĠIh":19051,"merge":19052,"Ġnec":19053,"elocity":19054,"ATEG":19055,"Ġseeds":19056,"Ġfloating":19057,"_FA":19058,"walk":19059,"ĉuser":19060,"_depth":19061,"Ġwage":19062,"@app":19063,"Nil":19064,"([\"":19065,"(vector":19066,"Ġsecretary":19067,"ĠjPanel":19068,"vez":19069,"³³³³":19070,"direction":19071,"ĠEP":19072,"Ġhunt":19073,"JsonProperty":19074,"ĠPORT":19075,"]\",":19076,"ап":19077,"ĠForeign":19078,"panic":19079,"Ġtrials":19080,"ĠAle":19081,"Ġrural":19082,"-value":19083,"authorized":19084,"ĠScotland":19085,".drop":19086,"ĠMT":19087,"ç±":19088,"rowth":19089,"FilePath":19090,"Ġrecall":19091,"ifle":19092,"Ġcel":19093,"ĠSELECT":19094,"kn":19095,"_case":19096,"Ġcrop":19097,"sure":19098,"pot":19099,"ICS":19100,"Ġstem":19101,"Ġindustries":19102,"Put":19103,"Ġaber":19104,"roadcast":19105,"Icons":19106,")\")Ċ":19107,"æĪIJåĬŁ":19108,"gui":19109,"Ġassumed":19110,"Ġrx":19111,"EA":19112,"è§":19113,"ELL":19114,"Ġdose":19115,"Ġine":19116,"Ġdeeper":19117,"lider":19118,"Ġordinary":19119,"Ġgolf":19120,"_IMAGE":19121,"ĠNAME":19122,"(module":19123,"Ġatom":19124,"Ġbelt":19125,"Ġoffices":19126,"beta":19127,"Ġphilosophy":19128,"(JSON":19129,"-field":19130,"Ġintroduce":19131,"Ġconvenience":19132,"optim":19133,">\"Ċ":19134,"athy":19135,"Ġemployer":19136,"quate":19137,"Ġedited":19138,"Arguments":19139,"ĠNations":19140,"__)":19141,"Ġnose":19142,"ĠSample":19143,"')ĊĊĊ":19144,"Ġcake":19145,".getAttribute":19146,"HD":19147,"Modified":19148,"Ġpredicted":19149,"ÅĦ":19150,"anie":19151,"Sorry":19152,"(doc":19153,"wind":19154,"ieve":19155,"Ġprovisions":19156,"ATER":19157,"OTE":19158,"MY":19159,".Autowired":19160,"ĠBath":19161,".Boolean":19162,"Ġbackend":19163,".Mouse":19164,"ateral":19165,"paper":19166,"Const":19167,"ĠVR":19168,"_entity":19169,"_CTRL":19170,"ĠProtection":19171,"ĠGM":19172,"ĠStudy":19173,"Ġsoup":19174,"otime":19175,"'use":19176,"]\"":19177,"/users":19178,"aug":19179,"ĠHong":19180,"_norm":19181,"ãģ¨":19182,"Ġsecre":19183,"(Build":19184,"ĠContract":19185,"olas":19186,"Ġsauce":19187,"Ġaggressive":19188,"Ġracial":19189,"character":19190,"@@":19191,"Ġcompile":19192,"ĠVoid":19193,"_rem":19194,"_memory":19195,"kk":19196,"Ġmic":19197,"Same":19198,"Utility":19199,"ĠHtml":19200,"ĠXml":19201,"Ready":19202,"Ġgall":19203,"Ġallegedly":19204,"ĉĉĉĉĠĠĠ":19205,"ĠMetal":19206,"ĠPersonal":19207,"ĠborderRadius":19208,"rxjs":19209,"objects":19210,"Ġwanting":19211,"Ġbowl":19212,"vendor":19213,"offsetof":19214,"ĠRs":19215,"ĠRating":19216,"Ġrally":19217,"_NODE":19218,"ĠMix":19219,"Ġadvertis":19220,"Ġnarrative":19221,"sal":19222,"Ġmc":19223,"SError":19224,"Ġfingers":19225,"Ġaccompany":19226,"Ġtired":19227,"Ġstride":19228,"Ġgui":19229,"elist":19230,"Locale":19231,"Ġreleases":19232,"iking":19233,"Ġanger":19234,")))ĊĊ":19235,"allest":19236,"Summary":19237,"(O":19238,"(for":19239,"Ġbasketball":19240,"Ġroads":19241,"ĠInstall":19242,"ĠFab":19243,"itmap":19244,"Ġ))Ċ":19245,"Ġintersection":19246,"ighbor":19247,"ĠBry":19248,"ĠHERE":19249,"Software":19250,"elfare":19251,"acs":19252,"Ġtrailer":19253,".getClass":19254,"chars":19255,"Ġregulation":19256,"Ġrefers":19257,"Ġdestruction":19258,"Ġcontinuous":19259,"ĠAustin":19260,"é¢":19261,"akan":19262,".window":19263,"ĠTemplates":19264,"Ġabsence":19265,":n":19266,"Ġdisorder":19267,"flash":19268,"Ġdelet":19269,"boards":19270,"ĠĠĉ":19271,"ROP":19272,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":19273,"Ġacqu":19274,"Ġlawsuit":19275,"ĠReviews":19276,"Ġgarage":19277,"timer":19278,"Ġej":19279,"ĠRectangle":19280,"Ġflowers":19281,"ilst":19282,"ĠInstance":19283,"Super":19284,"det":19285,"disposing":19286,"ĠES":19287,"ĠIC":19288,"vere":19289,"Sk":19290,"_channels":19291,"puted":19292,"/null":19293,"nnen":19294,"ĠGallery":19295,"_global":19296,"Authentication":19297,"ĠRank":19298,"Ġblocked":19299,"Ġcalm":19300,"market":19301,"ĉval":19302,"Ġaug":19303,"period":19304,"ĠConstant":19305,"Ġ?>\">Ċ":19306,"Ġlobby":19307,"pal":19308,"Ġsink":19309,"iah":19310,"С":19311,"urname":19312,"Ġconver":19313,"Ġinvestigate":19314,"Christ":19315,"Hub":19316,"ĠIND":19317,"ĠPed":19318,"uras":19319,"ĉurl":19320,"ĠTro":19321,"Ġpreferences":19322,"Ġguaranteed":19323,"`ĊĊ":19324,"Ġportions":19325,"Ġevalu":19326,"'>;ĊĊ":19421,".AutoScaleMode":19422,"Ġcats":19423,"Ġregistry":19424,"ulus":19425,"FI":19426,"payload":19427,"-search":19428,"Ġstaying":19429,"acious":19430,"Decoration":19431,"Review":19432,"Inf":19433,"Keep":19434,"itis":19435,",String":19436,"Coord":19437,"Ġpero":19438,"Sex":19439,"ĠAtlanta":19440,"uesta":19441,"Argb":19442,">*":19443,"}_":19444,"Footer":19445,"Ġemployed":19446,"_bound":19447,"vide":19448,".func":19449,"$scope":19450,"Ġspo":19451,"ĠAnal":19452,"ounced":19453,"around":19454,"Ġrestriction":19455,"Ġshops":19456,"åĢ":19457,"ĠLatin":19458,"-col":19459,"Ġbarely":19460,"ĠEuro":19461,"Er":19462,"Ġfaire":19463,"_distance":19464,"_unlock":19465,"Quote":19466,"IVATE":19467,"ĠåĪ":19468,"Ġaimed":19469,"ĠRetrie":19470,".iter":19471,"Ġwrapped":19472,"Ġagreements":19473,"strument":19474,"(product":19475,"Ġstudied":19476,".setValue":19477,"Ġye":19478,"ĠCache":19479,"MBOL":19480,"Ġquarterback":19481,"Ġsyntax":19482,".getElementsBy":19483,".version":19484,"website":19485,"Runner":19486,"_single":19487,"ativ":19488,"ĠAltern":19489,"ĠBeautiful":19490,"rightarrow":19491,"Ġdiversity":19492,"plash":19493,"(co":19494,".Fill":19495,"Ġtyping":19496,"Ġclar":19497,"Hit":19498,"OO":19499,"acco":19500,"worth":19501,"Ġscripts":19502,"ĠMuslims":19503,"ĠLL":19504,"erving":19505,"(boolean":19506,"Ġbaseball":19507,"ĠCAN":19508,"MAIL":19509,"depend":19510,"Ġrespective":19511,"Ġconstexpr":19512,".*;ĊĊ":19513,"']))Ċ":19514,"Ġyard":19515,"Ġidentical":19516,"ifecycle":19517,"USH":19518,"upiter":19519,".validate":19520,"cli":19521,"ISTER":19522,"Indicator":19523,"Fail":19524,"Ġdemocracy":19525,".var":19526,"Ġsatisfied":19527,"-------------":19528,"encer":19529,"hor":19530,"Ġrounds":19531,"DAO":19532,"oa":19533,"Ġflask":19534,"=c":19535,"[]Ċ":19536,"/dist":19537,"Ġparte":19538,"Ġconfirmation":19539,"eron":19540,"aware":19541,"":19542,"Ġdependencies":19543,"ĠVideos":19544,"-row":19545,"Ġ**/Ċ":19546,"Ġnou":19547,"Ġhover":19548,"æŀ":19549,"Ġnin":19550,"ĠUSD":19551,"Mac":19552,"_Load":19553,"Ġoutcomes":19554,"_socket":19555,"Ġqueries":19556,"wm":19557,"Ġhitting":19558,"inux":19559,"Mich":19560,"udge":19561,"ATAB":19562,"Ġvulnerable":19563,"ä¾":19564,"Ġportfolio":19565,":YES":19566,"ĉmap":19567,"Bound":19568,"Ġiteration":19569,"incess":19570,"Ġactors":19571,"ĠQual":19572,"_clean":19573,"ãĢijãĢIJ":19574,"MSG":19575,"Green":19576,"ĠOfficer":19577,"Ġsmoking":19578,">',":19579,"ĠFlo":19580,"++;":19581,"olygon":19582,"Ġbulk":19583,"Ġdrama":19584,"Ġexceptions":19585,"osed":19586,"Ġ+čĊ":19587,"Ġlegacy":19588,"CV":19589,"Ġcontributed":19590,"ĠTerms":19591,"Ġbt":19592,"Ġuntuk":19593,"Ġalien":19594,"===Ċ":19595,"ĉVector":19596,"Ġls":19597,"Online":19598,".facebook":19599,"numeric":19600,"ockets":19601,"Aut":19602,"bury":19603,"-redux":19604,"ĠRedistributions":19605,"GLOBALS":19606,"urrencies":19607,"Ġtons":19608,"âĢĻ,":19609,"Ġê":19610,"(col":19611,"ĠSymbol":19612,"Ġstayed":19613,"ĠML":19614,"Ġmunicip":19615,"Ġsexo":19616,"Sen":19617,"nr":19618,"Ġgains":19619,"Ġshortly":19620,".Menu":19621,"ý":19622,"KNOWN":19623,"Ġoperators":19624,"-V":19625,"ĠPatrick":19626,"/add":19627,"_CO":19628,"iration":19629,"(post":19630,"Posts":19631,"/_":19632,"Ġplug":19633,"Ġintellectual":19634,"Ġmetab":19635,"Ġpregnancy":19636,"ĠPremier":19637,"nm":19638,"Ġprediction":19639,"ĠMinistry":19640,"Three":19641,"valuate":19642,"ĠMini":19643,"bu":19644,"оз":19645,"\";čĊ":20078,"ĠSav":20079,".Bold":20080,"Ġenables":20081,"ĉtmp":20082,"Ġmanually":20083,"ĠSqu":20084,"userid":20085,".function":20086,".cache":20087,"LOPT":20088,".Services":20089,"ddit":20090,"tim":20091,">>":20154,"station":20155,"lore":20156,"atype":20157,"ishop":20158,"/****************************************************************":20159,"ComboBox":20160,"Ġvacation":20161,"Ġinitiative":20162,"ĠdefaultValue":20163,"concat":20164,"ĠKh":20165,"ĠWelcome":20166,"izedName":20167,"Migration":20168,"Ġgradient":20169,"Hot":20170,"Ġhardly":20171,"elo":20172,"ĠStudents":20173,"Ġloose":20174,"atz":20175,".Send":20176,"'/":20177,"Ġuniversal":20178,"Ġenterprise":20179,"Ġregex":20180,"Ġvisitor":20181,"ĠFly":20182,"Seq":20183,"à¸Ļ":20184,"ĠVisual":20185,"Ġlibraries":20186,"atoes":20187,"Payment":20188,"Ġpent":20189,"Ġgathered":20190,"VRTX":20191,"ĠDM":20192,"Split":20193,"Ġletting":20194,"ÐĿ":20195,"_errors":20196,"epoch":20197,"PARAM":20198,"cu":20199,"ÑģÑĤв":20200,"olutions":20201,"Editing":20202,"fonts":20203,"Ġallocated":20204,"ĠBased":20205,"(Y":20206,"ĠJudge":20207,"Ġbrothers":20208,"FILES":20209,"ço":20210,"wb":20211,"_PI":20212,"'^":20213,"Ġsword":20214,".services":20215,"Ġnl":20216,"Tim":20217,"igg":20218,"ĠMoore":20219,"Ġcryptoc":20220,"åĩº":20221,"_posts":20222,"otate":20223,"?'":20224,"....ĊĊ":20225,"Ġkl":20226,"=\"$":20227,"Ġdecoration":20228,"ạ":20229,"ĠDIRECT":20230,"GUI":20231,")=>{Ċ":20232,"Ġnewsletter":20233,"Ġprecis":20234,"(point":20235,"ĠEquipment":20236,"uty":20237,"ĠDave":20238,"Ġparticipation":20239,"uarios":20240,"xit":20241,".As":20242,"ETER":20243,"orous":20244,"Ġshield":20245,"[]>":20246,"ilitary":20247,".origin":20248,"Ġpromotion":20249,"Unt":20250,"Ġct":20251,"TRA":20252,"ViewHolder":20253,"Ġsigma":20254,"delta":20255,"arehouse":20256,"contract":20257,"(Vector":20258,"Ġcompete":20259,"/form":20260,"/components":20261,"Ġnr":20262,"ĠIndones":20263,"ĠоÑĤ":20264,"ĠVolume":20265,".files":20266,"(resp":20267,"/models":20268,"Ġsurf":20269,"standard":20270,"/o":20271,"ĠXCTAssert":20272,"VICES":20273,".Code":20274,"SED":20275,"Ġactivate":20276,"Delta":20277,"Ġlimitation":20278,"rij":20279,"Ġpregnant":20280,":^(":20281,"Ġsour":20282,"pie":20283,"Ġexpense":20284,"ication":20285,"ĠLarge":20286,"Ġ±":20287,"ĠBowl":20288,"(models":20289,"/N":20290,"Pa":20291,".reload":20292,"Ġwondering":20293,"Execution":20294,"ĉĠĠĠĠĠĠ":20295,"ĠGraphics":20296,"ĠContin":20297,"_job":20298,"ĠgetName":20299,"ĠMagn":20300,"ĠDWORD":20301,"mad":20302,"Ġnh":20303,"features":20304,"}\");Ċ":20305,"heets":20306,"(train":20307,"zn":20308,"Ġrecruit":20309,".connection":20310,"Ġbarrel":20311,"Ġsteam":20312,"_setting":20313,"Ġangular":20314,"aneously":20315,"Ġbil":20316,"ĠNorm":20317,"(!$":20318,"ibt":20319,"%(":20320,"Ġposit":20321,"ĠFather":20322,"intendo":20323,"Live":20324,"Ġports":20325,"Ġmej":20326,"Ġlanding":20327,"ponder":20328,"Ġcod":20329,"_HEADER":20330,".Margin":20331,"Ġballs":20332,"Ġdiscussions":20333,"Ġblend":20334,"Hex":20335,"Ġfarmers":20336,"Ġmaintaining":20337,"ĠĠĠčĊ":20338,"syn":20339,"[T":20340,"rus":20341,"uffers":20342,"Ġcontributors":20343,"_sys":20344,".Debug":20345,"Ġconstructed":20346,"omes":20347,"?id":20348,"slider":20349,"Ġsuppliers":20350,"scriber":20351,"pes":20352,"Ðŀ":20353,"\":čĊ":20354,"\\Controller":20355,"))ĊĊĊ":20356,"Ġlua":20357,"Multi":20358,"ENS":20359,"Src":20360,"Ġpetition":20361,"Ġslave":20362,"looking":20363,"VERT":20364,"ĉvector":20365,"Special":20366,"hh":20367,"anne":20368,"ĠNiger":20369,"/views":20370,"zing":20371,"endant":20372,"(":20591,".Product":20592,"Forms":20593,"NEW":20594,"Pay":20595,"ĉboolean":20596,"_contact":20597,"ĠElectric":20598,"skip":20599,"Ġwur":20600,"Ġchronic":20601,"_driver":20602,"ĠSab":20603,"ĠUlt":20604,"ĠRad":20605,"STATUS":20606,"ĠLewis":20607,"OB":20608,"Ġgifts":20609,".Rec":20610,"TRUE":20611,"Ġintensity":20612,"Marker":20613,".compare":20614,"ffic":20615,"Cookie":20616,"ĠBaby":20617,"ĠBigDecimal":20618,"ilet":20619,"ĠHOLDERS":20620,"ĠLady":20621,"Ġlung":20622,"ĠAlabama":20623,"Ġdess":20624,"`);Ċ":20625,"ĠBuilder":20626,"_region":20627,"Ġneutral":20628,"Both":20629,"Ġhp":20630,"Ġhorn":20631,"Ġsegments":20632,"ĠEC":20633,"\"=>\"":20634,"(rec":20635,"ĠPi":20636,"GM":20637,"Ġlaptop":20638,"Scalar":20639,"isd":20640,"-dialog":20641,"ĠAnderson":20642,"Ġmistakes":20643,"ĠHan":20644,"jes":20645,"estination":20646,"Ġpromises":20647,"bid":20648,"ĠScient":20649,"GIN":20650,"ĠPerformance":20651,"bage":20652,".users":20653,"leading":20654,"Ġoral":20655,"Graphics":20656,"_PTR":20657,"hang":20658,"Ġinev":20659,"processing":20660,"Factor":20661,"ĠNA":20662,"$string":20663,"Ġgrounds":20664,".SaveChanges":20665,"clock":20666,"cripcion":20667,"ĠNewton":20668,"gc":20669,".includes":20670,"Ġblast":20671,"Ġ'-'":20672,"Ġpuede":20673,".Session":20674,"Ġgrep":20675,"_final":20676,"ĠGay":20677,"ĠGive":20678,"iri":20679,"-star":20680,"ĠUIImage":20681,"_epoch":20682,"ubb":20683,"enth":20684,"Ġelite":20685,"Ġcampaigns":20686,"ĠPorno":20687,"_assign":20688,"Protocol":20689,"ĠBeing":20690,"ĠAirport":20691,"Ġconventional":20692,"ĠWat":20693,"ĠCI":20694,"ETA":20695,"ĠAnthony":20696,"Ġtablet":20697,"(format":20698,"Ġconsistently":20699,"ĠIowa":20700,"Ġavatar":20701,".cursor":20702,"![":20703,"Ġhanging":20704,"Her":20705,"Such":20706,"';ĊĊĊ":20707,"orgeous":20708,"()==":20709,"ĠviewModel":20710,"Ġãĥ":20711,"Ġels":20712,"ĠAgent":20713,"Fetch":20714,"apor":20715,"Ġcx":20716,"pread":20717,"ĠPier":20718,"oeff":20719,"Sn":20720,"ĠVirtual":20721,"Apr":20722,".White":20723,"_MOD":20724,"ĠPoints":20725,"失":20726,"Ġgenes":20727,"Ġvendor":20728,"Ġmainstream":20729,"Ċ":20758,"Filename":20759,"Ġsne":20760,"ĠFootball":20761,"Ġrival":20762,"Ġdisaster":20763,"ionic":20764,"ĠDamage":20765,".Resource":20766,"-en":20767,"ĠTypes":20768,"getString":20769,"(board":20770,"Ġbol":20771,"plain":20772,"zym":20773,"า":20774,"Ġscanner":20775,"ilder":20776,"_msgs":20777,"æı":20778,"(intent":20779,"Ġdestruct":20780,"Ġbust":20781,"ĠEmploy":20782,"oni":20783,"ĠUIViewController":20784,"Ġodds":20785,"earer":20786,"Geometry":20787,"Ġyii":20788,"_EXPORT":20789,"ĠAttack":20790,"Ġniet":20791,"Ġimpression":20792,"ĠGil":20793,"_prob":20794,"ĠCF":20795,"ĠExperience":20796,"/plugins":20797,".Method":20798,"Ġbeliefs":20799,"Native":20800,"_build":20801,"Ġvig":20802,"Ġranks":20803,"covered":20804,"such":20805,"Guard":20806,".pack":20807,"adder":20808,"ivia":20809,"lng":20810,"ĠвÑĭ":20811,"Timestamp":20812,"_now":20813,"Ġpoker":20814,"Ġunc":20815,"Ġshapes":20816,"-types":20817,"_period":20818,"pk":20819,"Ġveteran":20820,"Ġsono":20821,"Ġappointed":20822,"overflow":20823,".driver":20824,"_cat":20825,"utt":20826,"plant":20827,"imb":20828,"ĠAccept":20829,"Ġconcert":20830,"ĉnode":20831,"ĉz":20832,"?>čĊ":20833,"Ġbanned":20834,"ĉĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":20835,"Ġtoxic":20836,"Ġdisappe":20837,"ÈĽ":20838,"Ġgrace":20839,"ateful":20840,"Reply":20841,"ĠCruz":20842,"Ġscrap":20843,"Ġkeywords":20844,"simp":20845,"Ġmortgage":20846,"Ġcyber":20847,"ĠExecute":20848,"Ġlatitude":20849,"ifu":20850,".COM":20851,"dbo":20852,"Ġsorts":20853,"ĠGas":20854,"omial":20855,".Local":20856,"Cells":20857,".Replace":20858,"Strings":20859,".fit":20860,"ĠThird":20861,"%\",Ċ":20862,"Ġ{}\".":20863,"ĠSony":20864,"Ġ[:":20865,"Ġfallen":20866,".')Ċ":20867,"inh":20868,"ĠMC":20869,"Ġredis":20870,"Codes":20871,"Ġprofiles":20872,"hook":20873,"Reducer":20874,"_FUNC":20875,"Ġnavigate":20876,"strlen":20877,"Ġhorm":20878,"áŀ":20879,"ĠSR":20880,".boot":20881,"Ġdigest":20882,"ĉheader":20883,".findOne":20884,"æģ":20885,"DbType":20886,"nia":20887,"_merge":20888,"Ġdonne":20889,"/Getty":20890,"_CHAR":20891,"Ġbands":20892,".URL":20893,"artial":20894,"Ġfreq":20895,"Ġsist":20896,"Ng":20897,"Ġrendering":20898,"\\Core":20899,"Widgets":20900,"ĠVA":20901,"Ġactivists":20902,"Ste":20903,"=_":20904,"alla":20905,"Stamp":20906,"Ġloads":20907,"Ġxx":20908,"ĠLearning":20909,".Mvc":20910,"uir":20911,"(\"$":20912,"Ġconnecting":20913,"ReadOnly":20914,"uru":20915,"ĠEag":20916,"BIT":20917,"_DEL":20918,"å§":20919,"arrass":20920,"external":20921,"ĠYOUR":20922,"ĠBrew":20923,"ĠFive":20924,"Ġresize":20925,"igid":20926,"eration":20927,"ĠÑį":20928,"åĬł":20929,"ĠCatch":20930,"Ùģ":20931,"ĠLeon":20932,"amil":20933,".Body":20934,"Clip":20935,"/list":20936,".br":20937,"EditText":20938,"ĉdb":20939,".Game":20940,"(BuildContext":20941,"backend":20942,".Red":20943,"facebook":20944,".urls":20945,"mr":20946,"rolled":20947,"-------":20948,"Ġintervention":20949,"Ġretirement":20950,"ĠKit":20951,"ĠPRE":20952,"UpperCase":20953,"ĠSocket":20954,"Ġ:-":20955,"Ġstudying":20956,"ĠMetro":20957,"arded":20958,"Ġconversations":20959,"Called":20960,"Ġexamine":20961,"ertificate":20962,".gz":20963,"-responsive":20964,"Ġrefund":20965,"_network":20966,"allowed":20967,"empt":20968,"Ġmeals":20969,"Categories":20970,"Ġtraveling":20971,"Ġkg":20972,"Ġshame":20973,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":20974,"Ġexplicitly":20975,"Ġmathematic":20976,"ĠSuite":20977,"ĠRGB":20978,"******/":20979,"Ġmixture":20980,"learning":20981,".template":20982,"atts":20983,"wx":20984,"ĉctx":20985,".properties":20986,"Ġdrinks":20987,"ĠEither":20988,"setText":20989,".getData":20990,".zip":20991,"Ġreveals":20992,".Ċ":21005,"Ġranked":21006,"_impl":21007,"ĠHandles":21008,"Ġhosted":21009,"Ġupdating":21010,"album":21011,"éĿ":21012,"Ġshader":21013,"Editors":21014,"-round":21015,"[]{":21016,"Ġsep":21017,"ĠHi":21018,"TEM":21019,"lookup":21020,".man":21021,"_INPUT":21022,"Ġthreatened":21023,"_IMPORT":21024,"Ġdrops":21025,"ruit":21026,"sid":21027,"both":21028,"ĠExcel":21029,"Ġjer":21030,"ordinary":21031,"ей":21032,"VIEW":21033,"reply":21034,"Ġ):Ċ":21035,"colors":21036,"verified":21037,"_Tr":21038,"_parse":21039,"Ġcongress":21040,"Promise":21041,"ints":21042,"ĠMother":21043,".Api":21044,"ĠDuration":21045,"ĠfirstName":21046,"inheritdoc":21047,"ĠMars":21048,"Ġapr":21049,"ODY":21050,"Ġvisits":21051,"Ġhealing":21052,"letters":21053,")));čĊ":21054,"future":21055,".Framework":21056,"Ġkiss":21057,"Ġinvolve":21058,"Ġsilent":21059,"adows":21060,"Ġanybody":21061,"sch":21062,"Ġsolely":21063,"-img":21064,"Ġpropri":21065,"Ġinstruct":21066,"Ġlicenses":21067,"Ġmeth":21068,"Ġcondem":21069,"ĠDomain":21070,"ĠHarris":21071,"ĠsÃ¥":21072,"CEPT":21073,"Batch":21074,"@extends":21075,"ĠCONTRIBUT":21076,".DataFrame":21077,"_packet":21078,"recision":21079,"Ġfocusing":21080,".ht":21081,"__\":Ċ":21082,":Get":21083,"ĠKC":21084,"Ġpassage":21085,"Segment":21086,"_center":21087,"-zA":21088,"_BL":21089,"Ġconvin":21090,"Ġclassified":21091,"ĠNSMutable":21092,"_ap":21093,"tile":21094,"Rectangle":21095,"(nums":21096,"vens":21097,"ĠUIButton":21098,"ĠFeder":21099,"amo":21100,"Ġoutline":21101,"ĠParser":21102,"Ġâī":21103,"ĠWorks":21104,".Schema":21105,"Ġengines":21106,"_common":21107,"_old":21108,"ĠsetContentView":21109,"Ġ///<":21110,"ĠBT":21111,"fm":21112,"Ġdivers":21113,"_weights":21114,"emark":21115,"ĠACT":21116,"Ġproportion":21117,"overlay":21118,".dirname":21119,"ĠGit":21120,"_REFERENCE":21121,"<>":21122,"lb":21123,"_rule":21124,"è´¥":21125,"ĠPutin":21126,"Ġsleeping":21127,"():čĊ":21128,"Ġpreserve":21129,"Ġparliament":21130,"ĠLooking":21131,"Ġpicking":21132,"ĠDispatch":21133,"Ġslip":21134,"ëĵ":21135,"ĠLyn":21136,"_signal":21137,"configuration":21138,"ĠPitt":21139,"aden":21140,"procedure":21141,"Ġenthusi":21142,"fight":21143,"ĠConsider":21144,"Ġtorn":21145,"Connected":21146,".cos":21147,"_groups":21148,"ĠThink":21149,"Ġdeliber":21150,"Ġresid":21151,"working":21152,".columns":21153,"ĠCalled":21154,"Ġeslint":21155,">\",":21156,"_DOWN":21157,"hist":21158,"ĠAdvanced":21159,"Ġrewards":21160,"actors":21161,"Ġsilence":21162,"Ġmyth":21163,"Ġneur":21164,"Ġauction":21165,".GetString":21166,"eks":21167,"(project":21168,"ĉmsg":21169,"ĉoutput":21170,"Ġcomplaints":21171,",S":21172,"Ġtbl":21173,"Ġ,ĊĊ":21174,"riors":21175,"ahren":21176,"Ġlawyers":21177,"redux":21178,"_symbol":21179,"offee":21180,"_RESULT":21181,"(Name":21182,"UTC":21183,".currentTime":21184,"Ġorganis":21185,".arg":21186,"Ġminim":21187,"wick":21188,"Ġreceives":21189,"Balance":21190,"Ġspeaks":21191,"ĠDays":21192,"ĠBelow":21193,"tipo":21194,"Present":21195,"Ġreserv":21196,"hp":21197,"Ġrit":21198,"_RIGHT":21199,"--)":21200,"Ġchairman":21201,"DIS":21202,"ĠBOOST":21203,"Ġexperiments":21204,"__);Ċ":21205,"Ġstamp":21206,"Ġfert":21207,"Ġfond":21208,"Ter":21209,"elve":21210,"uren":21211,"+i":21212,"endency":21213,"Ġvirtually":21214,"...\"":21215,"ï½ŀ":21216,"-cent":21217,"_unique":21218,"Ġpricing":21219,"mic":21220,"RESH":21221,"Ġ:::":21222,"Ġannotation":21223,"ĠCircle":21224,"ongodb":21225,"itas":21226,"Ġ%(":21227,"(component":21228,"Ġоб":21229,"(port":21230,"-hour":21231,".obj":21232,"LBL":21233,"Ġjury":21234,"GBT":21235,"Ġspy":21236,"ĠProfessional":21237,"Ġ\"\";ĊĊ":21238,"Ġstriking":21239,"Ġdiscrimination":21240,"Ġpays":21241,"lict":21242,"entes":21243,"Ġthrowing":21244,"ĠPlugin":21245,"(def":21246,"ĠRuntimeException":21247,"ĠMigration":21248,"Ġdic":21249,"bag":21250,"onia":21251,"Ġcorruption":21252,"(Map":21253,"Ġprz":21254,".dto":21255,"Ġacquire":21256,"StateToProps":21257,"Ġloving":21258,"ож":21259,"_pattern":21260,"Ġemotions":21261,"Ġpublisher":21262,"_be":21263,"Ġcouples":21264,"oj":21265,"ĠChart":21266,"Ġtrop":21267,".tool":21268,"Ġestablishment":21269,"Ġdol":21270,"Ġtower":21271,"Ġlane":21272,"ĠSydney":21273,"Ġfilling":21274,"claimed":21275,"Ġdialogue":21276,"Ġconvention":21277,"booking":21278,"parency":21279,"æ±":21280,"ĠGeneric":21281,"\\Schema":21282,"Ġranges":21283,"/ch":21284,"Ġpanels":21285,"Ġruled":21286,"çĶŁ":21287,".ts":21288,"_sets":21289,"Ġcleanup":21290,"Previous":21291,"ĠAnimal":21292,"($(":21293,"ĠAve":21294,"ollar":21295,"_eval":21296,"ĉName":21297,"(tree":21298,"Ġ\"]":21299,"Ġduties":21300,"='/":21301,"Clicked":21302,"Ġdifferently":21303,"ĠClark":21304,"Ġdit":21305,"ologists":21306,"Ġsynd":21307,"Ġsends":21308,"-known":21309,"kb":21310,"ĠModal":21311,"itative":21312,"Ġracing":21313,"Ġhighlights":21314,"ĠSimon":21315,"ĠCaptain":21316,"ä¿¡":21317,"ĠCB":21318,"contin":21319,"aran":21320,"Ġphysics":21321,"retty":21322,"etal":21323,".md":21324,"axios":21325,"Ġspeakers":21326,"Ġprep":21327,"Ġawarded":21328,"ì§Ģ":21329,"ĠCorn":21330,"ĠNature":21331,"UDIO":21332,"Ġproj":21333,"-pre":21334,"[u":21335,"Features":21336,"ĠisEqual":21337,"Binary":21338,"sig":21339,"Ġconfusion":21340,"ĠHat":21341,"Ġktó":21342,".configure":21343,"MON":21344,"/edit":21345,"_Add":21346,",true":21347,"Ġcli":21348,"ErrorMessage":21349,"-loader":21350,"Dimensions":21351,"ultiply":21352,"Ġ{!!":21353,"ĠSqlCommand":21354,"Ġspoken":21355,"Ġpics":21356,"Ġtoy":21357,"(Key":21358,"ĠLoop":21359,"ب":21360,"EATURE":21361,"inction":21362,"_setup":21363,"wrapper":21364,"Ġtong":21365,"cular":21366,"Opt":21367,".Pl":21368,"=\",":21369,"(length":21370,"umn":21371,"Ġchrom":21372,"Ġsevent":21373,"ĠIllegalArgumentException":21374,"ĉstart":21375,"Ġbegun":21376,"CEPTION":21377,"dataset":21378,"ĠFailed":21379,"cols":21380,"Ġknee":21381,"imore":21382,".splice":21383,"shell":21384,"iggers":21385,"Ġthemes":21386,"ĠDJ":21387,"ĠAssistant":21388,"-$":21389,"Maybe":21390,"Ġordering":21391,"ĠIntelligence":21392,"ĠMassachusetts":21393,"Ġfailing":21394,"elson":21395,"Great":21396,"=i":21397,".rest":21398,"Ġinvite":21399,"-disable":21400,".GroupBox":21401,"âĢĻest":21402,"Ġtackle":21403,"gv":21404,"etter":21405,"Ġ),čĊ":21406,"_rules":21407,".warn":21408,"functions":21409,"ĠChristians":21410,"Ġbacked":21411,"Ġslider":21412,"Ġenjoying":21413,"nest":21414,"Ġhij":21415,"_ms":21416,"//*":21417,"Annotations":21418,"ĠVariables":21419,"":21620,"cycle":21621,"ĠBull":21622,"paths":21623,"Ġunp":21624,"ĠviewDidLoad":21625,"_Model":21626,"ĠassertTrue":21627,"Ġrated":21628,"Decl":21629,"verted":21630,"ĠDat":21631,"brew":21632,"Ġpointing":21633,"Ms":21634,"ĠPointer":21635,")'":21636,"_non":21637,"ĠSEC":21638,"Ġyeah":21639,"gency":21640,"initialize":21641,"fly":21642,"[pos":21643,",g":21644,"Tele":21645,"Ġjoke":21646,"Ġclause":21647,".findById":21648,"enes":21649,"(instance":21650,"£":21651,"Ġslic":21652,"_home":21653,"Ġ*/}Ċ":21654,"_pages":21655,"(service":21656,"RP":21657,"ĠAmong":21658,".getCurrent":21659,"ãĤ¹":21660,"Ġslee":21661,"=[Ċ":22071,"oler":22072,"Ġlibert":22073,"Ġ`Ċ":22074,"Ġwenn":22075,"lated":22076,"Ġimmune":22077,"(Node":22078,"ĠProblem":22079,"ĠAbs":22080,"logs":22081,"Ġ../":22082,"ĠADC":22083,"Ġ}}\">Ċ":22084,">');Ċ":22085,"=b":22086,"ĠWind":22087,"lahoma":22088,"Ġallocate":22089,"orian":22090,"Ġprescription":22091,"-quality":22092,"ĠMayor":22093,"inely":22094,"endforeach":22095,"ĠComplex":22096,"kom":22097,"TY":22098,"]].":22099,".Style":22100,"_many":22101,"','$":22102,"Ġbarrier":22103,"ĠFetch":22104,"ĠMarvel":22105,"Ġresist":22106,"ого":22107,"bidden":22108,"ĠRunnable":22109,":false":22110,"Ġbuilds":22111,"ĠStage":22112,"Ġdub":22113,"empo":22114,".site":22115,";ĊĊĊĊ":22116,"ĠDenver":22117,"Ġrevel":22118,"Ġtriggered":22119,"Ġdice":22120,"_fail":22121,"Ġgc":22122,"ĉX":22123,"ĠThrowable":22124,".router":22125,"ĠRevolution":22126,"ÑĢа":22127,"_NON":22128,"Ł¥":22129,"Ġelder":22130,"Ġabroad":22131,"Ġе":22132,"ĠAdult":22133,"blr":22134,"glyphicon":22135,"Ġpromoting":22136,"Ġiz":22137,"ĠSolid":22138,"_loader":22139,"early":22140,".enabled":22141,"-edit":22142,"ĠUL":22143,"_play":22144,"ĠInterrupt":22145,"Ġadvantages":22146,"ucle":22147,"Ġmechanical":22148,".tableLayoutPanel":22149,"ĠWorking":22150,"Ġanonymous":22151,"Rating":22152,"igious":22153,"_phone":22154,".addActionListener":22155,"Ġfran":22156,"unden":22157,"Ġ*)&":22158,"_bool":22159,"ulative":22160,"Ġcone":22161,"ĠMult":22162,"Ġmö":22163,"ĠForward":22164,"]):Ċ":22165,"Ġconvinced":22166,"acted":22167,"ãģĵ":22168,"ĠConfigure":22169,"Ġceiling":22170,"Der":22171,"Ġpassengers":22172,"Groups":22173,"Ġsoccer":22174,"/W":22175,"aviors":22176,"swith":22177,"ĠZone":22178,".Options":22179,"ĠMom":22180,"ieder":22181,"Arrays":22182,"Ġtreatments":22183,"Ġprotecting":22184,"fac":22185,"Ġpickle":22186,"ButtonItem":22187,"Ġblocking":22188,"strar":22189,"ò":22190,"ĠExport":22191,"Ġthrew":22192,"otta":22193,"ĠBASE":22194,".ws":22195,".LEADING":22196,"orderBy":22197,"_delay":22198,"ĠPu":22199,".dll":22200,"ĠChoose":22201,"Police":22202,"ĠBEGIN":22203,"boxes":22204,"Ġdiamond":22205,",l":22206,"Ġĉĉĉ":22207,"Ġcurious":22208,"tv":22209,"Ġerotische":22210,"ackages":22211,"ĉSet":22212,"Tick":22213,".border":22214,"staticmethod":22215,"Ġcher":22216,"invoice":22217,"Ġcru":22218,"Ġdefect":22219,"_metadata":22220,"relation":22221,"ikan":22222,"[N":22223,"(Qt":22224,"(Base":22225,"æģ¯":22226,"beat":22227,"ĠEmpty":22228,"ĉo":22229,"_shift":22230,"Ġregret":22231,"Those":22232,"Cent":22233,"ĠPortug":22234,"ĠIslands":22235,"ĠTIME":22236,"Management":22237,"-sp":22238,"ême":22239,"Ġnotion":22240,"unifu":22241,"PK":22242,"è¡Į":22243,"ĠCURLOPT":22244,"\\\"\\":22245,"UV":22246,"çº":22247,"dra":22248,"cou":22249,"=`":22250,"ĠDestroy":22251,"rp":22252,".cancel":22253,"GG":22254,"runtime":22255,"ĠVue":22256,"Ġprogressive":22257,"/services":22258,"Ġrunner":22259,"_FRAME":22260,".ToolStripMenuItem":22261,"Ġ','":22262,"delay":22263,"=utf":22264,"Ġscreening":22265,"Ġpulling":22266,"omas":22267,"Ġanth":22268,"-new":22269,"/local":22270,"ĠiPad":22271,"Ġtwitter":22272,"Ġdying":22273,"Ġheaven":22274,"ĠUInt":22275,"ĠSenator":22276,"Ġpresum":22277,"ĠWalker":22278,"Ġovercome":22279,"etection":22280,"Ġembarrass":22281,"China":22282,"Include":22283,"ROLL":22284,"ĠdataType":22285,"David":22286,"ร":22287,"lop":22288,"-month":22289,"Ġscar":22290,"ĠSafe":22291,"Ġ****************************************************************":22292,"Ġaccessories":22293,"Ġramp":22294,"_USE":22295,"Ġcontrad":22296,"))]Ċ":22297,"Ġprest":22298,"ĠHR":22299,"ĠRap":22300,"Ġusize":22301,"Ġcapability":22302,"Ġcort":22303,"-next":22304,"Ġburden":22305,"_reader":22306,"Ġ@@":22307,"regular":22308,"ĠKa":22309,"MAN":22310,"Ġastr":22311,"Ġ'')Ċ":22312,"Ġfed":22313,"Ġparsing":22314,"ĠYears":22315,"Ġbroker":22316,"\":{\"":22317,"Ġakt":22318,"Inventory":22319,"abeled":22320,"Ġargparse":22321,"*******Ċ":22322,"versation":22323,"Ġcord":22324,"ĠTi":22325,"Ġhopefully":22326,"Ġah":22327,"verb":22328,"Ġstolen":22329,".Entry":22330,"Ġexpecting":22331,"Orientation":22332,"Ġpowered":22333,"Ġpersist":22334,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":22335,"']);":22336,"')),Ċ":22337,"ĠCash":22338,"ĉitem":22339,"grades":22340,"ropol":22341,"basic":22342,"Ġ\");čĊ":22343,"Ġawards":22344,"(range":22345,"-all":22346,"ĠIBOutlet":22347,"ĠIndeed":22348,"----------------------------------------------------------------------------":22349,"Ġstomach":22350,"Ġflower":22351,"Ġsew":22352,"_times":22353,"avis":22354,"QString":22355,"ĠRoutes":22356,"_prot":22357,"Ġcomedy":22358,"Ġlogout":22359,"Ġwooden":22360,"Ġposter":22361,"piece":22362,".Join":22363,"ĠPok":22364,"celona":22365,"mutex":22366,";čĊčĊčĊ":22367,"Ġstrikes":22368,"Loaded":22369,")arg":22370,"esa":22371,"United":22372,"Ep":22373,"PELL":22374,"ĠAtlantic":22375,"ullet":22376,"apple":22377,"Ġsettled":22378,"acon":22379,"Ġprinter":22380,"ĠGC":22381,"å®ļ":22382,"Ġrendered":22383,",âĢĻ":22384,"heit":22385,"social":22386,".ge":22387,"ĠRick":22388,"ĠUtah":22389,"got":22390,"onical":22391,"ĠScroll":22392,"ĠSciences":22393,"Ġjug":22394,"Ġampl":22395,"enti":22396,"LEFT":22397,"Ġtabs":22398,"Ġenormous":22399,".getKey":22400,"locate":22401,".EX":22402,".storage":22403,".We":22404,"Ġtoast":22405,"ĠAdditionally":22406,"ĠNOW":22407,"_UPDATE":22408,"Ġtransferred":22409,"tha":22410,".Display":22411,"_ui":22412,"IDEO":22413,"Ġmeaningful":22414,"ĠMoscow":22415,",this":22416,"ĠVictoria":22417,"æĶ¹":22418,"ĠÐŁ":22419,".stack":22420,"ĠBarn":22421,"paredStatement":22422,":string":22423,"Ġbij":22424,"ĠSTATE":22425,"Ġemployers":22426,"ĉinput":22427,"(|":22428,"Ġlex":22429,"invoke":22430,"ĉnum":22431,"++,":22432,"atial":22433,"orses":22434,"Ġfork":22435,"_txt":22436,"ĠAntonio":22437,"Ġ(<":22438,"averse":22439,"Ġdevast":22440,"ãĢĢ":22441,".Dec":22442,"ĠGard":22443,"/ui":22444,".%":22445,"tri":22446,"Ġrolled":22447,"ValuePair":22448,"itten":22449,"ĠTher":22450,"Ġvrou":22451,"ĠFlow":22452,"ĠFinance":22453,"ĠComb":22454,"HC":22455,".setVisible":22456,"isl":22457,"Ġpk":22458,"Ġupset":22459,"(raw":22460,"ĠVice":22461,"eatures":22462,"ĠLang":22463,"Looking":22464,"ĠAST":22465,"Ġtrips":22466,"ĠJustin":22467,"browser":22468,"=\"'.$":22469,".vertices":22470,"-co":22471,"}/{":22472,"Ġ?,":22473,"ĠDomin":22474,"ĠBelg":22475,"\"<":22476,"Ġsuppose":22477,"addy":22478,"Ġwalks":22479,"ERRU":22480,"_filters":22481,"Preferred":22482,"scene":22483,"еÑģ":22484,"ĠAffairs":22485,"Ġ\"#{":22486,"ĠonSubmit":22487,"Ġstocks":22488,"/view":22489,"gree":22490,"-get":22491,"hit":22492,"Jo":22493,".getC":22494,"Initialized":22495,"ÑĤи":22496,"cuts":22497,"(Type":22498,"ĠAgreement":22499,"ĠVietnam":22500,"Ġ/*!":22501,"Ġpizza":22502,"-view":22503,"_em":22504,"Ġlhs":22505,"Ġmuy":22506,"ĠIdent":22507,"ĠFriends":22508,"Ġabund":22509,"_AD":22510,".timestamp":22511,"-'":22512,"Ġduplicate":22513,"Ġhunting":22514,"Ġregulatory":22515,"iao":22516,"amous":22517,"ĠEntertainment":22518,"[A":22519,"iatric":22520,"_CLIENT":22521,"ĠKids":22522,"/pkg":22523,"Break":22524,")));ĊĊ":22525,"ĠShape":22526,"Ġrelating":22527,"Interrupt":22528,"ableOpacity":22529,"embre":22530,"Ġmystery":22531,"Ġjournalists":22532,"ritable":22533,".Link":22534,"Ġstopping":22535,"CRET":22536,".DB":22537,"Ġpopularity":22538,"Ġgew":22539,"Ġimpr":22540,"setValue":22541,"FLAG":22542,"ĉmax":22543,"Ġbake":22544,"wy":22545,"ĠEconomic":22546,"Ġencontr":22547,"Ġfname":22548,"/de":22549,"Rank":22550,"Ġbugs":22551,".sm":22552,"Ġmedian":22553,"DOWN":22554,"ĠSure":22555,"AtIndex":22556,"ĠDick":22557,"Ġ(__":22558,".delta":22559,"Fr":22560,"Ġsuggesting":22561,"ĠRecyclerView":22562,",e":22563,"START":22564,"/****************************************************************************":22565,"xford":22566,"Ġreceipt":22567,"CLAIM":22568,"readonly":22569,"Ġengaging":22570,"Ca":22571,"asma":22572,"Ġensuring":22573,"English":22574,"ĠVancouver":22575,"hyth":22576,"Ġpurchasing":22577,"ĠPI":22578,".word":22579,"(sp":22580,".home":22581,":def":22582,"Ġgig":22583,"ĠVe":22584,"forum":22585,"ĠMitch":22586,"Bay":22587,"_FL":22588,"Ġsoll":22589,"_columns":22590,"Ġminority":22591,"bird":22592,"Ġhanded":22593,"SSL":22594,"STAT":22595,"Ġnervous":22596,"ĥ½":22597,"ĠfilePath":22598,"CREATE":22599,"Aw":22600,"Ġpens":22601,"seed":22602,"ĠCompute":22603,"olk":22604,"ĠAsset":22605,"reach":22606,"'),čĊ":22607,"navigation":22608,"LF":22609,"/util":22610,"ĠPub":22611,"ĠâĶ":22612,"cion":22613,"##Ċ":22614,"III":22615,"TagName":22616,"Ġamid":22617,"permission":22618,"ifiable":22619,"xFFFFFFFF":22620,"ни":22621,".Buffer":22622,"_irq":22623,"dark":22624,"Ġretval":22625,".fire":22626,"production":22627,".listen":22628,"ĠWeather":22629,"Ġbuyers":22630,".ne":22631,"erp":22632,"ĠPent":22633,"Ġwelfare":22634,"ĠpageSize":22635,"ĠStadium":22636,"erta":22637,"Ġlev":22638,"ampa":22639,"Pager":22640,"Ġcharging":22641,"ĠNetflix":22642,"|null":22643,"_random":22644,".xpath":22645,"Ġstere":22646,"ĠISIS":22647,"ponses":22648,"(loc":22649,"eyond":22650,"ĠOfficial":22651,"ĠMaryland":22652,"DataType":22653,"_par":22654,"{},":22655,"ĠEnjoy":22656,"_SHIFT":22657,"ĠAwards":22658,"_ENTRY":22659,"Ġseemingly":22660,"enticate":22661,"Ġhearts":22662,"_;ĊĊ":22663,"ĠHIV":22664,"Ġindivid":22665,"ĠFlag":22666,"_ctrl":22667,"ĠCallback":22668,",z":22669,"ĠGPU":22670,"ĉobj":22671,"ĠPhoenix":22672,"ĠBUS":22673,"Ġrubber":22674,"_AUTH":22675,"ĠSolutions":22676,"(location":22677,"Variables":22678,".setEnabled":22679,"_high":22680,"WO":22681,"Gesture":22682,"Ġretry":22683,"ĠobjectForKey":22684,"alloween":22685,"Ġmos":22686,"ĠCele":22687,"Ġikke":22688,"(cell":22689,"ĠMODE":22690,"rena":22691,"Ġdescribing":22692,"Ġphi":22693,"Ġrd":22694,"Ġdeserve":22695,"Ġwheels":22696,"å¸Ĥ":22697,"Ġcritics":22698,"Namespace":22699,"ĠFra":22700,"ĠĊĊĊĊ":22701,"Ġalla":22702,"Ġrequiring":22703,"æľŁ":22704,"utation":22705,"Ġdelayed":22706,"Ġadministrative":22707,"Ġbay":22708,".hidden":22709,"Tex":22710,"Ġboundaries":22711,"Ġ]);ĊĊ":22712,"ĠFollowing":22713,"~/":22714,"Fi":22715,"_conv":22716,"_TITLE":22717,"Ġdesde":22718,"ICollectionView":22719,"Alias":22720,"Ġbite":22721,"patient":22722,"_COMMAND":22723,"Completed":22724,"ĉelif":22725,"(<":22726,"Business":22727,"ĠPool":22728,"Ġpursue":22729,"ĠBan":22730,"_steps":22731,"_DECL":22732,"umble":22733,"Ġcombo":22734,"ĠLayer":22735,".xr":22736,"Ġdup":22737,"---------":22738,"Ġmodifier":22739,"rob":22740,"rez":22741,"Ġathletes":22742,"Used":22743,"wear":22744,"Ġlegitimate":22745,"Ġ\"ĊĊ":22746,"Ġhv":22747,"Std":22748,"ĠHold":22749,"Ġsurviv":22750,"ĠAlliance":22751,"ĠEarly":22752,"Behavior":22753,"(font":22754,"/libs":22755,"Ġrectangle":22756,"Ġsinger":22757,"Ġamp":22758,"EqualTo":22759,"Ġ\".\"":22760,"Ġgirlfriend":22761,"å±":22762,"linear":22763,"observ":22764,"Ġpiù":22765,"Ġcomplement":22766,"WithValue":22767,"(password":22768,"take":22769,"Blank":22770,"ĠCompar":22771,"'\",":22772,"_policy":22773,"mongoose":22774,"_FAILED":22775,".report":22776,"Ratio":22777,".PerformLayout":22778,"usable":22779,"mers":22780,"_render":22781,"PEED":22782,"Ġlesb":22783,"ĉE":22784,"_tool":22785,"Ġladies":22786,"оÑģ":22787,"))))Ċ":22788,";;;;":22789,".dot":22790,"Ġnest":22791,"peak":22792,"ukkit":22793,"eca":22794,"_SW":22795,"Ġ&(":22796,"ĠOklahoma":22797,"Ġbanking":22798,"ĠNintendo":22799,"Ġreproduce":22800,"_elements":22801,"_mac":22802,"proxy":22803,"Ġremarkable":22804,"}/${":22805,"Ġouts":22806,".hasNext":22807,"MODE":22808,"Ġanime":22809,".conn":22810,"Unique":22811,"Dom":22812,"Ġimportantly":22813,"itty":22814,"Ġjuice":22815,"Tw":22816,"ĠPartners":22817,"Ġattacking":22818,"Ġportable":22819,"amiento":22820,".PictureBox":22821,".gen":22822,"Ġoptimal":22823,"Ġrecre":22824,"Ġjournalist":22825,"ĠExtract":22826,"ĠMoreover":22827,"ĠmarginTop":22828,".Ap":22829,"Ġfiring":22830,"NaN":22831,"ĉtemplate":22832,"ад":22833,".En":22834,"Ġdefence":22835,"ĠTel":22836,"ilen":22837,"jan":22838,"=data":22839,"ĠUrl":22840,"ĠReuters":22841,"(total":22842,"ĠFifth":22843,"Ġessays":22844,"Ġinterpretation":22845,"Ġcharity":22846,"ĠRules":22847,"Ġsubsection":22848,"styled":22849,"azer":22850,"lags":22851,"LIST":22852,"Ġuploaded":22853,"Ġtrash":22854,"Ġregistr":22855,"Ġseller":22856,">';čĊ":22857,"ĠstartTime":22858,"çĻ":22859,"sy":22860,"(HttpServletRequest":22861,"Ġtrap":22862,"GC":22863,"Ġembedded":22864,"Ġsurrounded":22865,"imits":22866,"TX":22867,"ylinder":22868,"ĠFal":22869,"Ġsentences":22870,"ĠJa":22871,"IFICATION":22872,"weapon":22873,"ovation":22874,"Ġcoat":22875,"Ġinterpol":22876,"Ġlips":22877,"ĠKy":22878,"Ġvectors":22879,"_am":22880,"Ġintake":22881,".world":22882,"Ġinbox":22883,"ĠMAC":22884,"_ab":22885,"(nameof":22886,"Ġentert":22887,"Ġgathering":22888,"ĠSIM":22889,"++.":22890,"nya":22891,"'}}":22892,"ĠUPDATE":22893,"Ġpac":22894,"(html":22895,"ĠSant":22896,"iating":22897,"ĠIdeas":22898,"Ġspray":22899,"ĠHart":22900,"Ġverification":22901,"adesh":22902,"/modules":22903,"ĠMind":22904,"ĠSizedBox":22905,"Ġshelter":22906,"Ġheroes":22907,"atty":22908,"Ġcertified":22909,"sj":22910,"Ġêtre":22911,"ÅĤo":22912,"Ġpublishing":22913,"ĠMalays":22914,".getUser":22915,"ĠProvider":22916,"ĠLinkedList":22917,"ĠBor":22918,"ROUND":22919,"did":22920,"tain":22921,"pire":22922,"ĠJenn":22923,"tel":22924,"ande":22925,"_front":22926,"ĠMcG":22927,"TestMethod":22928,"à¸Ń":22929,"Ġoccasionally":22930,"ĠWales":22931,"Ġexercises":22932,"ĠÐĴ":22933,"-plus":22934,"Ġvalidator":22935,"Ġprayer":22936,"LATED":22937,"_author":22938,"Ġlabour":22939,"++Ċ":22940,"-equiv":22941,"ĠGPL":22942,"Ġfacebook":22943,"simple":22944,"gly":22945,"Processor":22946,"ipy":22947,"Ġ*>":22948,"Ġcleared":22949,"ĠPush":22950,"Ġpenis":22951,"Structure":22952,"lij":22953,"ĠMorgan":22954,"Ġhandful":22955,"\".Ċ":22956,"|\\":22957,"Ġ********************************":22958,"ĠAqu":22959,"_IC":22960,".loads":22961,"Ġmeter":22962,"ĠMarine":22963,"::{":22964,"ĠTS":22965,"ĠArrays":22966,".Title":22967,"GRAM":22968,"termin":22969,"Ġcoinc":22970,"Else":22971,"_states":22972,"-run":22973,"members":22974,"astro":22975,"ĠonPress":22976,"Ġbeings":22977,"Ġabandoned":22978,"Ġtaxp":22979,"owners":22980,".mode":22981,"Ġdiagnosis":22982,"Ġ_Ċ":22983,"ĠKnight":22984,"ĉA":22985,"Ġobserve":22986,"),'":22987,"!\")Ċ":22988,"ĠPara":22989,"Ġvariation":22990,"(False":22991,"ĠAnti":22992,"Ġgri":22993,"Ġhomeless":22994,"?v":22995,"Ġbez":22996,".Server":22997,"release":22998,"ĠPatri":22999,"Ġchars":23000,"Ġranking":23001,"activation":23002,"Ġwides":23003,"qr":23004,".Sql":23005,"acular":23006,"ĠBot":23007,"_sync":23008,"Ġhappiness":23009,"Ġvolunteers":23010,"Ġsits":23011,"/<":23012,"[e":23013,"(fileName":23014,"Ġcapac":23015,"ĠMaria":23016,"father":23017,"Ġgram":23018,"*i":23019,"Ġcaso":23020,"_draw":23021,"ĠRaw":23022,"ĠIterator":23023,"ĠPadding":23024,"PD":23025,"BOX":23026,"ĠSPECIAL":23027,"Ġfecha":23028,"Ġvide":23029,"ĠLeader":23030,"以":23031,"$(\".":23032,"Ġdiameter":23033,"Ġmild":23034,"Ġrocks":23035,"appings":23036,"directory":23037,".flush":23038,"ĠJess":23039,"UNIT":23040,"ĠPear":23041,"Ġmandatory":23042,"Sur":23043,"qt":23044,"Ġstreams":23045,"Ġcooperation":23046,"ĠSac":23047,"Ġcheaper":23048,"ĉch":23049,"animation":23050,"fare":23051,"(height":23052,"(True":23053,"NY":23054,"Ġwrest":23055,"Ġpolls":23056,"Ġencountered":23057,"ĠMarketable":23058,"_PASSWORD":23059,"_SELECT":23060,"ĠArabia":23061,"_clock":23062,"Ġvoy":23063,"Ġиз":23064,"Ġstir":23065,"isible":23066,"-effect":23067,".created":23068,"Ġtoys":23069,"ĠTradable":23070,"Ġrust":23071,"Ġstrcpy":23072,"_timestamp":23073,"Ġtalented":23074,",null":23075,"ĠJobs":23076,"ĠPortland":23077,"Ġweakness":23078,"Throw":23079,"ĠAngel":23080,"ä¿®":23081,"Ġuncert":23082,"ï¼īĊ":23083,"ĠìĿ´":23084,"Which":23085,"Ġ[-]:":23086,"Something":23087,"Ġconvicted":23088,"kle":23089,"edium":23090,"Ġbranches":23091,"Ġbases":23092,"ç®":23093,"Ġcomplexity":23094,"ĠFig":23095,".reshape":23096,"$db":23097,"_CONST":23098,"ĠTes":23099,".runtime":23100,"Ġdeny":23101,"ĠBSD":23102,"Ġkr":23103,"hatt":23104,"ĠStatic":23105,"Ġuniversities":23106,"Replace":23107,"Ġdrove":23108,"Ġadoles":23109,"_plugin":23110,"ĠLGBT":23111,"Ġtex":23112,"duction":23113,"EDI":23114,"ĠTed":23115,"_URI":23116,"Ġreception":23117,"arten":23118,".Single":23119,"rice":23120,"scious":23121,"_bg":23122,"Ġwages":23123,"ĠServlet":23124,"UILayout":23125,"Ġformatted":23126,".Mod":23127,"',Ċ":23174,"Ġexpanding":23175,"ĠHamilton":23176,"ĠContrib":23177,".Tables":23178,"Activ":23179,"HH":23180,"ocommerce":23181,"_;":23182,"Ġamongst":23183,"owing":23184,"ĠCold":23185,"APH":23186,"Ġpsychological":23187,"_tensor":23188,"Ġpackaging":23189,"ĠSweden":23190,"Ġpare":23191,"Ġaggregate":23192,"Ġmoderate":23193,"_hand":23194,"Ġdesignated":23195,"Ġdrum":23196,"ĠgetUser":23197,"ĠCreek":23198,"_scope":23199,"ĠTransfer":23200,"ĠMarg":23201,"Ġfighters":23202,"Wnd":23203,"ĠSel":23204,"ĠLaunch":23205,"Ġemerging":23206,"iframe":23207,"ĠAdditional":23208,"Ġfears":23209,"Ġsatellite":23210,"_:":23211,"Ġdisposing":23212,"GetValue":23213,"HttpPost":23214,"ATIVE":23215,"ulary":23216,"Views":23217,"Ġattending":23218,"ĠTennessee":23219,"ĠMission":23220,"Ġmedication":23221,"ĠWy":23222,"ĠAnna":23223,"ع":23224,"ĠVertex":23225,".types":23226,"Organ":23227,".DataGridViewTextBoxColumn":23228,"ĠRS":23229,"Ġtempo":23230,"(App":23231,"VersionUID":23232,".point":23233,"ĠDutch":23234,"Hours":23235,"LU":23236,"Ġquoted":23237,".builder":23238,"ĠPerfect":23239,"ĠAlways":23240,"_two":23241,"Ġexclusively":23242,"ĠCra":23243,"ificar":23244,"ĠAWS":23245,"ingham":23246,"complex":23247,"kernel":23248,"Ġgravity":23249,"Ġwi":23250,"Ġoverview":23251,"ĠWant":23252,"ĠWP":23253,"(sh":23254,".rotation":23255,"States":23256,"ĠTeen":23257,"_components":23258,"ìĪĺ":23259,"Received":23260,"Ġlyrics":23261,"rites":23262,"ĉĉĉĉĉĠ":23263,"-American":23264,"[num":23265,"/python":23266,"ĠUART":23267,"Ġapple":23268,"ĠJonathan":23269,"Ġmomentum":23270,"ั":23271,"Ĥ¹":23272,"Ġmich":23273,"andra":23274,"Ġbiological":23275,"ĠMens":23276,"Ġ%%":23277,"elsea":23278,"ĠMexican":23279,".randint":23280,"Ġtale":23281,"ĠValidate":23282,"Ġdefeated":23283,".htm":23284,"Ġcopper":23285,"=/":23286,"cosystem":23287,"Ġrip":23288,"decimal":23289,".VISIBLE":23290,"ĠTa":23291,"ĉĉĉĉĉĉĉĉĉĉĉĉĉĉ":23292,"Ġdownloaded":23293,"environment":23294,"Ġnomine":23295,"building":23296,"ĠSpot":23297,"ipheral":23298,"Ġalto":23299,"quet":23300,"ĠFT":23301,"/get":23302,"/master":23303,"WIN":23304,"åħĥ":23305,"West":23306,"argc":23307,"Ġproducers":23308,"ĠMuch":23309,"_storage":23310,"credit":23311,"CONT":23312,"Ġvet":23313,"Ġvoices":23314,"('',":23315,"Ġinstruments":23316,"ĠMSG":23317,"esse":23318,"repository":23319,"omics":23320,"Ġdealer":23321,"Still":23322,"Ġbanner":23323,"ascii":23324,"Ġremarks":23325,"[js":23326,"Ġshorter":23327,"gulp":23328,"Ġmyster":23329,"Ġkun":23330,"ĠBird":23331,"Ġtiene":23332,"nut":23333,"ĠUm":23334,"Ġwise":23335,"Yeah":23336,"INESS":23337,"_begin":23338,"-heading":23339,"Course":23340,"ĠčĊčĊ":23341,"ombie":23342,"graded":23343,"ĠGPS":23344,"Ġże":23345,"Fit":23346,"caption":23347,"ön":23348,"/image":23349,"lia":23350,"(mod":23351,"Ġleak":23352,"enza":23353,"/H":23354,"ĠHappy":23355,"Dist":23356,"nx":23357,"ĠGovernor":23358,"(last":23359,"teacher":23360,"ĠSent":23361,"support":23362,"jectory":23363,"ĠÙħ":23364,"Registration":23365,"ĠGray":23366,",false":23367,"Ġadjusted":23368,"(settings":23369,"'Ċ":23431,"-fold":23432,"æĬ":23433,"ĠBetter":23434,"Ġ\"\\<":23435,"spacing":23436,"Ġfurnished":23437,"oser":23438,"]}Ċ":23439,"Ġ$\"":23440,"pull":23441,".Post":23442,"(ip":23443,"Ĺı":23444,".front":23445,"nte":23446,"ĠFM":23447,"guid":23448,"Ġnegotiations":23449,"agonal":23450,"Ġtremend":23451,"ungeon":23452,"Adv":23453,"carousel":23454,"ÃŁe":23455,"_DESC":23456,"Ġhammer":23457,"áºŃ":23458,"ĠĠĠĠĠĠĠĠĊĊ":23459,"-core":23460,"-service":23461,"Ġcorners":23462,"ĠSF":23463,"pred":23464,">A":23465,"ĠJLabel":23466,"Ġromantic":23467,"Ġtestimony":23468,"osc":23469,"ĠGeneration":23470,"asures":23471,"_internal":23472,"Ġprints":23473,"Ġ])Ċ":23474,"ĠCleveland":23475,"repo":23476,"Disc":23477,"Ġ\">Ċ":23478,"����":23479,"Ġnearest":23480,"_tb":23481,"(require":23482,"EOF":23483,"-child":23484,"Ġbudd":23485,".XtraEditors":23486,"alties":23487,"\\\":\\\"":23488,"Words":23489,"Ġlocally":23490,"Ġpurchases":23491,"Drawer":23492,"extract":23493,"Ġexecut":23494,"}'.":23495,"userdata":23496,"Ġfocuses":23497,"-minute":23498,"ĠPublish":23499,"ogo":23500,"Ġmountains":23501,"Bot":23502,"}>{":23503,"Ġtension":23504,"rod":23505,"mesh":23506,"Ġtransformed":23507,",R":23508,"()}Ċ":23509,".long":23510,"Ġgorgeous":23511,"ĠSchedule":23512,"Ġoldest":23513,"Ġsubprocess":23514,"(IN":23515,"yect":23516,"ĠCooper":23517,"arness":23518,"ĠMonitor":23519,".part":23520,"ĠNBC":23521,"Ġcotton":23522,"Ġhol":23523,"Ġrgba":23524,"ĠBio":23525,"Continue":23526,"Pod":23527,"Ġparticipating":23528,"clusions":23529,"(ByVal":23530,"ì":23531,"ĠHOW":23532,"_setopt":23533,"Ġaccompanying":23534,"aton":23535,"Ġ/\\":23536,"ĠAuthentication":23537,"ién":23538,"ĠBarack":23539,"/*.":23540,"Ġeager":23541,"ĠCancel":23542,"$":23586,"OLEAN":23587,"OKIE":23588,"IBILITY":23589,"UAGE":23590,"ĠSurvey":23591,"Ġresign":23592,"wing":23593,"Ġsecrets":23594,"Ġchips":23595,"JSONObject":23596,"Desktop":23597,"_SYMBOL":23598,"(resource":23599,"ĠĊ":23600,"Ġnewest":23601,"uli":23602,"Ġdesert":23603,"Ġdip":23604,"ĠPow":23605,"Ġequation":23606,"Ġpossibilities":23607,"ĠFed":23608,"osph":23609,"Ġ[%":23610,"Ġbubble":23611,"etherlands":23612,"Ġcement":23613,".auto":23614,"_AN":23615,"âĢĻ.":23616,"selection":23617,"ĠBond":23618,"Den":23619,"-O":23620,".getType":23621,".Window":23622,"pres":23623,"Ġswinger":23624,"\"})Ċ":23625,"Ġpip":23626,"Ġmice":23627,"Ġcompound":23628,"-plugin":23629,"iko":23630,"Ġcenturies":23631,"icular":23632,"-inline":23633,"ĉkey":23634,">\\<":23635,"ENSION":23636,"Ġ[čĊ":23637,"Ġprecisely":23638,"Ġété":23639,"ĠPast":23640,"ĠCambridge":23641,"-full":23642,"Ġanalyze":23643,"ĠSteven":23644,"Ġnem":23645,"due":23646,"oren":23647,"Ġmuscles":23648,"ijing":23649,"/-":23650,"ĠKennedy":23651,"RM":23652,"ossible":23653,"Ġactress":23654,"Ġdolor":23655,"å½ķ":23656,"Need":23657,".toggle":23658,"ĠRace":23659,"wers":23660,".material":23661,"ĠDue":23662,"ĠPel":23663,"#print":23664,"Ġindependence":23665,"exus":23666,"Shadow":23667,"Ġencoder":23668,"(level":23669,"ĠSwift":23670,".doc":23671,"_selection":23672,"ĠserialVersionUID":23673,"Labels":23674,"Ġperformances":23675,".Tag":23676,"ĠNHL":23677,"izen":23678,"/UIKit":23679,"_CONTROL":23680,"Ġearnings":23681,"ĠAlt":23682,"_HANDLE":23683,"Ctx":23684,"Ġpersu":23685,"Ġtran":23686,"ç¨":23687,"_CHANNEL":23688,"Ġsatisfaction":23689,"ĠGP":23690,"iox":23691,"mitt":23692,"lando":23693,"Ġpig":23694,"inals":23695,"ência":23696,"Surface":23697,"ĠUUID":23698,"Ġbeneficial":23699,"Ġsequences":23700,"ĉmemset":23701,"Ġmagical":23702,"«":23703,"Ġworn":23704,"ASC":23705,"popup":23706,"COMP":23707,"_before":23708,"eness":23709,"Ui":23710,"Les":23711,".require":23712,".Serializable":23713,"addGap":23714,"Ġauthorization":23715,".pyplot":23716,"urray":23717,"latitude":23718,"frames":23719,"ajs":23720,"Ġcompass":23721,"Ġobservations":23722,"_sup":23723,".environ":23724,"Ġtriple":23725,"ĠRuby":23726,"Ġdrain":23727,"_FILTER":23728,"San":23729,"UMP":23730,"NullException":23731,"ĠGab":23732,"owe":23733,"ĠTurkish":23734,"_sequence":23735,"ĠGrant":23736,"uela":23737,"Ġwo":23738,"Ġcube":23739,"iq":23740,"Ġdisorders":23741,"Ġextraordinary":23742,"Ġctrl":23743,"ĠSeq":23744,"entr":23745,"Ġsanctions":23746,"utsch":23747,"Reports":23748,"Ġinherit":23749,"Period":23750,"Ġphotography":23751,"ĠFramework":23752,"Ġspecialist":23753,"Ġ?ĊĊ":23754,"_selected":23755,".Player":23756,"Ġallocation":23757,"(account":23758,"Ġstructural":23759,"vable":23760,"-offset":23761,".AppCompatActivity":23762,"ам":23763,".AddWithValue":23764,"Ġicons":23765,"Ġshutdown":23766,"_low":23767,"ĠCompare":23768,"ĠCe":23769,"=head":23770,"lam":23771,".predict":23772,"_DEC":23773,"ĠSleep":23774,"ĠGratis":23775,"Ġsuggestion":23776,"ĠDEL":23777,"caff":23778,"avirus":23779,"Nothing":23780,"ŀĭ":23781,"Ġwidespread":23782,"Ġmechanisms":23783,"ĠtextAlign":23784,"occup":23785,"ĠRail":23786,":NS":23787,"Ġfiber":23788,"Ġmk":23789,"Ġvintage":23790,"-long":23791,".reduce":23792,".Entities":23793,"(record":23794,"Ġpleasant":23795,"FRING":23796,".Cells":23797,"OTT":23798,"ĉelseif":23799,"_confirm":23800,"ĠViewGroup":23801,"sym":23802,"Ġpray":23803,"Ġsuspected":23804,"Contains":23805,"Ġborders":23806,"ĠcomponentDid":23807,"ASSERT":23808,"Ġinfinite":23809,"-order":23810,"Ġhello":23811,"ĠGrade":23812,".currentTimeMillis":23813,"apolis":23814,"zh":23815,"ĉObject":23816,":\\\\":23817,"HO":23818,"valuation":23819,"Ġvocab":23820,"Ġcoupon":23821,"atabases":23822,".GetType":23823,"Learn":23824,"]=\"":23825,"ĠGary":23826,"otive":23827,"Ġash":23828,"Ġbib":23829,"XXXX":23830,"Ġbalanced":23831,"VALUE":23832,"ĠNat":23833,"_Ad":23834,"<":23976,"Ġfool":23977,"Ġesk":23978,".Null":23979,"ĠDies":23980,"_OUTPUT":23981,"_TYPED":23982,"Ġpainted":23983,"Ġsophistic":23984,"ĠBear":23985,"*n":23986,"_PACK":23987,"Ġdelivering":23988,"ĠCOUNT":23989,"åįķ":23990,"Ġjeg":23991,"-car":23992,"fname":23993,"Ġranging":23994,"ĠNeg":23995,"/******/":23996,"ĠCHAR":23997,"Ġultra":23998,"Grad":23999,"=t":24000,"Ġjudges":24001,"ĠDise":24002,"anners":24003,"Ġscal":24004,"_cal":24005,"ĠCONNECTION":24006,"_embed":24007,"(fn":24008,"ĠCraft":24009,"ĠPas":24010,"\")->":24011,".convert":24012,".resource":24013,"ĠSTATUS":24014,"ông":24015,"ĠTit":24016,"Ġclassroom":24017,"ĠArchitect":24018,"ĠKings":24019,"Ġsteady":24020,"/*!Ċ":24021,"ĠGene":24022,")\";Ċ":24023,"icia":24024,"stan":24025,"ĠConstruction":24026,"umper":24027,"wc":24028,"ĠCBS":24029,"inging":24030,"-party":24031,"(driver":24032,"MARK":24033,"Ġnested":24034,"eward":24035,"Ġdependency":24036,"Ġmales":24037,"ĠONE":24038,"ĠProduction":24039,"][$":24040,"ãĥ¼ãĥ":24041,"_LOAD":24042,"ĠBol":24043,"elry":24044,"łéϤ":24045,"ĠRequire":24046,"Ġplacing":24047,"xxx":24048,"CALE":24049,"Ġthumb":24050,"Choose":24051,"Ġprototype":24052,"VOID":24053,"Ġlesbian":24054,"Ġtraits":24055,"Sharp":24056,"Ġconsume":24057,"Truth":24058,"ĠactionPerformed":24059,"ĠEnvironmental":24060,"ĠDean":24061,"Ġestado":24062,"same":24063,"Ġnumeric":24064,"Ġtransit":24065,".Email":24066,"-side":24067,"_RUN":24068,"ĠVillage":24069,"_OPEN":24070,"è¦":24071,".rem":24072,"-warning":24073,"anya":24074,"PropertyChanged":24075,"Ġ(!_":24076,"(check":24077,"ilia":24078,"ĠSoft":24079,"steps":24080,"ĠMadrid":24081,"MemoryWarning":24082,"Ġhandlers":24083,"Ġexperiencing":24084,"Ġinspect":24085,"buttons":24086,"ReceiveMemoryWarning":24087,"chemy":24088,"Links":24089,"Ġurllib":24090,".SystemColors":24091,"ĠEigen":24092,"Ġpunishment":24093,":UIControl":24094,"bara":24095,"-set":24096,"Ġ}čĊčĊčĊ":24097,"Ġtolerance":24098,"Ġinterfaces":24099,".redirect":24100,"ighbors":24101,"csrf":24102,"_background":24103,".Utils":24104,"_HT":24105,"ĠInterest":24106,"imos":24107,"Ġgrants":24108,"Ġexamined":24109,"ÐĶ":24110,"Ġcf":24111,"forge":24112,"backs":24113,"ĠObjects":24114,"_sent":24115,".entry":24116,"ĠTHEN":24117,"ellido":24118,"cia":24119,",res":24120,"/stdc":24121,".nd":24122,"(Int":24123,"ĠAuthors":24124,"ĠAppCompatActivity":24125,"'{":24126,"Ġmedi":24127,"Music":24128,"igm":24129,"ceipt":24130,"Ġauss":24131,"Ġtargeting":24132,"ĠKeys":24133,"hn":24134,":]Ċ":24135,"Ġmineral":24136,"î":24137,".ca":24138,"omed":24139,"Ġsheets":24140,"Ġcamb":24141,"Ġdeadly":24142,".inject":24143,"(unit":24144,"ĠSelection":24145,".gms":24146,"(connection":24147,"Ġ$(\"":24148,"émon":24149,"ĠCurrently":24150,"pte":24151,"_paths":24152,"leaf":24153,"Ġimplications":24154,"posal":24155,"ä½į":24156,"[/":24157,"ancia":24158,"éĽ":24159,"mul":24160,"cie":24161,"Ġgeile":24162,"imals":24163,"UIView":24164,"Ġsurre":24165,"serialize":24166,"ISO":24167,"Ġarbitrary":24168,"Ġsockaddr":24169,".fn":24170,"ĠMerc":24171,"Ġcasting":24172,"KeyDown":24173,"ĠnewValue":24174,"opens":24175,"Todo":24176,"Ġflexibility":24177,"ĉĉĉĉĠĠ":24178,"Velocity":24179,"ún":24180,"rowing":24181,"Ġcomputed":24182,"`)Ċ":24183,"statement":24184,"Ġri":24185,"_cart":24186,"Low":24187,"transfer":24188,".nav":24189,"Ġgrave":24190,"ĠDoor":24191,"ĉalert":24192,".subscribe":24193,"-profile":24194,"ĉbase":24195,"ĠâĪĴ":24196,"__ĊĊ":24197,"Ġengineers":24198,"Ġexplosion":24199,"Ġdari":24200,"ĉLog":24201,"onal":24202,"Ġisolated":24203,"{i":24204,"ĠMsg":24205,"Future":24206,"Ġracist":24207,"-wrap":24208,"ĠVers":24209,"borg":24210,"ISION":24211,"ĠÑĢаÐ":24212,"ĠYan":24213,"initWith":24214,"Ġnomin":24215,"(empty":24216,"ÃŃn":24217,"ãĤ¤":24218,"ĉwidth":24219,"Ġchamber":24220,"/ajax":24221,"EMP":24222,"Ġneces":24223,"ivos":24224,"logic":24225,"*)&":24226,"cripts":24227,"RowAt":24228,"iblings":24229,"Ġears":24230,"Ġcomputing":24231,"Ġmaker":24232,"ĠNeither":24233,"breadcrumb":24234,"Ġserialize":24235,"ĠWithin":24236,"Ġdell":24237,"_TRACE":24238,"=a":24239,"Ġwishes":24240,"-inch":24241,"ĠDor":24242,"Ġinnocent":24243,"ĠDol":24244,"Ġintens":24245,"forced":24246,"ĠBIT":24247,"Ġphotographs":24248,"Ġcasa":24249,"ĠLen":24250,"\\Framework":24251,".Simple":24252,"Ġdear":24253,")/(":24254,"ippi":24255,"Ġowns":24256,"Players":24257,"Ġproposals":24258,".pi":24259,"usalem":24260,"Damage":24261,"Ġcalories":24262,"ĠCreative":24263,"Ġ[$":24264,"Ġ//čĊ":24265,"AndView":24266,"ème":24267,".custom":24268,"_factory":24269,"commands":24270,"_look":24271,"Ġstrcmp":24272,"YN":24273,"aired":24274,"Ġaudit":24275,"оÑģÑĤ":24276,"ĠReverse":24277,"ropriate":24278,"etics":24279,"';Ċ":24352,"Ġpepper":24353,"Ġshed":24354,"ĠMedium":24355,"ĠCookie":24356,"Ġoverseas":24357,"edor":24358,"asurement":24359,"åŃĺ":24360,"Ġ'.'":24361,"Ġphp":24362,"ĠPROC":24363,"Ġexceptional":24364,"(th":24365,"ĠJet":24366,"Ġoccupied":24367,".setImage":24368,"ĠRelated":24369,"ucker":24370,"Members":24371,"PRINT":24372,"ĠGlo":24373,"_VIEW":24374,"}\",Ċ":24375,"Ġadoption":24376,"[])Ċ":24377,"ĠMissouri":24378,"ĠLincoln":24379,"erald":24380,"Popup":24381,"Ġfate":24382,"-bootstrap":24383,"fections":24384,"ĠPoll":24385,"_ARGS":24386,"inance":24387,"-home":24388,".),":24389,"_done":24390,":ĊĊĊ":24391,"Ġdiscussing":24392,"ĠSQLException":24393,"Ġelectro":24394,"ĉreq":24395,"Ġzw":24396,"Ġlui":24397,"Ġovernight":24398,"$user":24399,"ĠWAY":24400,"Ġallerg":24401,"Ġdisappointed":24402,"Ġradiation":24403,"Ġimpressed":24404,"ificates":24405,"Ġtob":24406,"CLASS":24407,"Ġcuda":24408,"_det":24409,"-post":24410,"ulu":24411,"Translation":24412,"-hand":24413,".year":24414,"ĠMongo":24415,"Ġunclear":24416,".engine":24417,"WEBPACK":24418,"rices":24419,"_ACCESS":24420,"Ġholidays":24421,"percent":24422,".Identity":24423,"ĠGov":24424,"Ġpassionate":24425,"!!.":24426,"ĠGreece":24427,"plusplus":24428,"'));":24429,"GP":24430,"Ġexcit":24431,".tabPage":24432,"_cond":24433,"Ġsponsor":24434,"MODULE":24435,"_proc":24436,"Ġ$Ċ":24437,"Ġrational":24438,".Tool":24439,"Ġihr":24440,"cca":24441,"åĵģ":24442,"ĠEstate":24443,"IBUTE":24444,"ActionPerformed":24445,"ĠSolar":24446,"¦Ĥ":24447,"Ġequity":24448,"tid":24449,"Ġrecip":24450,".simple":24451,"mk":24452,"ĠLuke":24453,"ĠGuardian":24454,"Ġencrypted":24455,"Ġdominant":24456,".place":24457,"ĠNV":24458,"Ġtongue":24459,"(Get":24460,"Ġstainless":24461,".Play":24462,"Ġeb":24463,"aci":24464,".buffer":24465,"readcrumbs":24466,"Ġvaccine":24467,"prom":24468,"ĠuserInfo":24469,"Ġslug":24470,"SerializedName":24471,"-wide":24472,"Ġreactions":24473,"ĠYang":24474,"ĠAdds":24475,"(userId":24476,"Ġplates":24477,"ĠMEM":24478,"Ġbail":24479,"Inside":24480,"eted":24481,"Ġelsif":24482,"Ġsake":24483,"Ġcycles":24484,"ĠìĹ":24485,"ĉI":24486,"-collapse":24487,"ĠGMT":24488,"Declaration":24489,"Ġgros":24490,"Ġreaches":24491,"Ġcustody":24492,"Until":24493,"tu":24494,"ĠChen":24495,"Ġnx":24496,"(addr":24497,"ĠOffer":24498,"Ġcolleg":24499,"assador":24500,"Ġmapper":24501,"ĠSIGNAL":24502,"ĠBloom":24503,"ĠHoll":24504,"ĠImper":24505,"-des":24506,"_site":24507,"Proc":24508,"Equ":24509,"Ġatomic":24510,"ĠWoman":24511,"sent":24512,"scar":24513,"Ġintelligent":24514,"ĠGetting":24515,"ĠRegistration":24516,"ĠPhill":24517,"Ġkiller":24518,"unicode":24519,"ĊĉĉĊ":24520,"ĠJacob":24521,"ĠConst":24522,"Ġlocate":24523,"Ġcaus":24524,"ĠScholar":24525,"Ġconstitutional":24526,"Ġinflation":24527,"ĠGot":24528,"=array":24529,"endum":24530,"Ġtranslated":24531,"Ġdivorce":24532,"Entries":24533,"Ġsor":24534,"ĠQuote":24535,"irlines":24536,"UK":24537,"Ġexcel":24538,"(opt":24539,"ĠADV":24540,",:,":24541,"Ġcontacted":24542,"ĠDA":24543,"Ġrings":24544,"ĠIndustrial":24545,".getContext":24546,"Ġforgotten":24547,"ĠTan":24548,"Ġpants":24549,"Ġov":24550,"Ġdecoder":24551,"ĠPartial":24552,"Ġvc":24553,"Ġbattles":24554,"Arial":24555,"FRINGEMENT":24556,"irates":24557,",w":24558,"aintenance":24559,"ĠOd":24560,"ĠTechnologies":24561,"åīį":24562,"ĠCarter":24563,".findAll":24564,"Nome":24565,"Ben":24566,"ĠUsage":24567,"ĠPicture":24568,"Ġbadly":24569,"_panel":24570,"Ġpatent":24571,"ĠProtocol":24572,"lotte":24573,"ĉplayer":24574,"jections":24575,"Ġdou":24576,"_release":24577,"urniture":24578,"_tax":24579,"ĠFields":24580,".dataset":24581,"_master":24582,"CLUDE":24583,"ĠPharm":24584,"bst":24585,"Ġoperational":24586,".cell":24587,"Ġidentifying":24588,"Ġjwt":24589,"tuple":24590,"ĠTC":24591,"ĠCro":24592,"ixmap":24593,"-components":24594,"general":24595,"Ġoz":24596,"_De":24597,"_double":24598,"ĠToo":24599,".ViewGroup":24600,"gate":24601,"dings":24602,"photos":24603,"Ġgrande":24604,"ollect":24605,"_lin":24606,"Ġawful":24607,"filters":24608,"Ġalternate":24609,"esp":24610,"Ġcompress":24611,"eo":24612,"ĠScale":24613,"Ġindirect":24614,"Ġinvoice":24615,"ĊĊĊĊĊĊĊĊĊĊĊĊĊĊĊĊ":24616,"Starting":24617,"ĠPlayers":24618,"iele":24619,".then":24620,"Ord":24621,"ĠTuple":24622,"Ġbout":24623,"ĠStatistics":24624,"Preview":24625,"Ġpuzzle":24626,"ĠWidth":24627,"STATE":24628,"Ġoverlay":24629,"ĉon":24630,"Ġinfr":24631,"Ġsmallest":24632,"locked":24633,"ÑĤо":24634,"ssl":24635,"Ġdeemed":24636,"Ġsco":24637,"reck":24638,"ĠjButton":24639,"Ġmissions":24640,"ç§°":24641,".SelectedIndex":24642,"TABLE":24643,"Sept":24644,"Ġacknowledge":24645,"Ġstrtotime":24646,"ĠTell":24647,"ĠDak":24648,"Ġaluminum":24649,"Ġfence":24650,"ĠStars":24651,"CONFIG":24652,"Ġretrofit":24653,"Ġemphasis":24654,"/header":24655,"ĠSomething":24656,"inished":24657,"='\".$":24658,"ĠValidators":24659,"Ġpolar":24660,"sections":24661,".aspx":24662,"Ġaspir":24663,".Mock":24664,"CodeGen":24665,"Ġpeut":24666,"Ġaccepting":24667,"Ġbacking":24668,"Picture":24669,"/ap":24670,"ег":24671,"_SEC":24672,"-use":24673,"annotation":24674,"Ġcognitive":24675,"Ġgrip":24676,"hour":24677,"ĠLegal":24678,"Ġepic":24679,".toolStrip":24680,".notify":24681,".Last":24682,"ORIZ":24683,"Middleware":24684,"criptions":24685,"lash":24686,"_FOUND":24687,"ĠLiverpool":24688,"Ġ{}\",":24689,"Install":24690,"Ġnit":24691,"Ġfigured":24692,"[len":24693,".Win":24694,".platform":24695,"Ġgambling":24696,"(dt":24697,"avery":24698,"ĉinclude":24699,"Whether":24700,"Routing":24701,"Ġtherap":24702,"Remote":24703,"ĠLoss":24704,"yll":24705,"Ġapproached":24706,"ĠVehicle":24707,"ĠAlpha":24708,"Ġvocê":24709,"answers":24710,"NSDictionary":24711,"consider":24712,"unused":24713,"ĠFan":24714,"orable":24715,"fre":24716,"ĠDISCLAIM":24717,"ĠActor":24718,".]":24719,"toHave":24720,".userId":24721,"Ġspeeds":24722,"eway":24723,"Ġrecurs":24724,"Ġг":24725,"_priv":24726,"!âĢĿĊĊ":24727,"Choice":24728,"Ġsettle":24729,"Ġplanes":24730,"'},":24731,"Tom":24732,"ITER":24733,"!\"Ċ":24734,"å»":24735,"achelor":24736,"Ġseparation":24737,"Ġdal":24738,"adj":24739,"Ġregisters":24740,"riz":24741,"ĠNotice":24742,"Ġlu":24743,"Ġcourage":24744,"Ġaxes":24745,"cellent":24746,".async":24747,"Ġcompatibility":24748,"ç«":24749,"Ġ!ĊĊ":24750,"ĉtitle":24751,"YLE":24752,"ĉmessage":24753,"UUID":24754,"OLDER":24755,"ĠHH":24756,"ĠStyleSheet":24757,"Ġaccessed":24758,".validation":24759,"tasks":24760,"Ġpollution":24761,".canvas":24762,"Ġingredient":24763,"ĠCabin":24764,"Ah":24765,"oldown":24766,"ĠNOI":24767,"ĠÃĹ":24768,"[f":24769,"educ":24770,"yalty":24771,"(not":24772,"_State":24773,"amen":24774,"Ġdao":24775,"udad":24776,"ellers":24777,"}&":24778,"licity":24779,"_WINDOW":24780,"Ġtatto":24781,"valor":24782,".Range":24783,"Ġreferenced":24784,"ĠReserve":24785,"Money":24786,"SCRIPT":24787,"/product":24788,"choices":24789,"Ġtin":24790,"ãĤĵ":24791,"Ġseparator":24792,"Ġpkg":24793,"ammed":24794,"ĠMAT":24795,"!!ĊĊ":24796,"Ġraid":24797,"Ġmotivation":24798,"ĠXP":24799,"ĠBackground":24800,"ĠQuaternion":24801,".defineProperty":24802,"iker":24803,"ĉparent":24804,"ĠOriginally":24805,"antage":24806,"ĠHans":24807,"Ġtimeline":24808,".cur":24809,"opic":24810,"ĠSequ":24811,"must":24812,"ĠCoal":24813,"Ġformatter":24814,"_RGB":24815,"Ġ_(\"":24816,"'}),Ċ":24817,"Ġ=================":24818,"ĠFUNCTION":24819,"Ġlng":24820,"icates":24821,"live":24822,"_engine":24823,"Ġtowns":24824,"'))ĊĊ":24825,"ĠPK":24826,"(api":24827,"ĉscanf":24828,"packet":24829,".phone":24830,"áĢ":24831,"ĠAndy":24832,"_NAMES":24833,"PLY":24834,"Ġmins":24835,"imi":24836,"Ġbrick":24837,"Ġblade":24838,".stdout":24839,"}`;Ċ":24840,"Shift":24841,"ĉsb":24842,"ĠChecks":24843,"Ġphenomenon":24844,"Avatar":24845,"Ġministry":24846,"rose":24847,"ĉFile":24848,"Ġtitled":24849,"(LOG":24850,"Ġgan":24851,"design":24852,"(),čĊ":24853,"Ġbones":24854,"stm":24855,"ÅĽÄĩ":24856,"ĠInputStream":24857,"Ġvolunt":24858,"ĠSerializable":24859,"Ġfighter":24860,"ĠDrag":24861,"Twitter":24862,"Ġsubsid":24863,"ç¼":24864,"Ġforums":24865,".loading":24866,"logged":24867,"_this":24868,"Ġterrain":24869,"Ġirre":24870,"ĠIng":24871,"ĠCN":24872,"_objects":24873,".uid":24874,"Ġconsciousness":24875,"TINGS":24876,"ĠGall":24877,"Ġportray":24878,"ĠDeveloper":24879,"Ġparticipant":24880,"Ġ\";čĊ":24881,"/model":24882,"ĠOperations":24883,"^\\":24884,"ĠLater":24885,"Ġraises":24886,"-none":24887,".meta":24888,"='.$":24889,"Finished":24890,"Ġreplacing":24891,"Ġsampling":24892,"ĠJen":24893,"\"There":24894,"REAL":24895,"ALE":24896,"ìĬ¤":24897,"Orders":24898,"_parameter":24899,"ĠOlympic":24900,"Ġtrès":24901,"Ġarena":24902,"iol":24903,";?>":24904,"Ġimpacts":24905,"ĠWS":24906,":get":24907,"Ġflights":24908,"ĠRussell":24909,"camera":24910,"Fn":24911,"sigma":24912,"Ġforcing":24913,"Ġlocals":24914,"Ġdeparture":24915,"Ġcelebration":24916,"ĠSay":24917,"ï¼Ĵ":24918,"ĠHills":24919,".hasOwnProperty":24920,"Ġtypings":24921,".API":24922,"Ġdonation":24923,"OperationException":24924,".Activity":24925,"cplusplus":24926,"ĠCharlie":24927,"Ġimported":24928,"Ġdann":24929,"Ġoccasions":24930,"Ġimplementing":24931,"Ġpurple":24932,".dialog":24933,"SQLException":24934,"erno":24935,"Ġwars":24936,"Ġpaste":24937,"Ġdecreased":24938,"Ġharsh":24939,"Ġelabor":24940,"inputs":24941,"ĠViews":24942,"ĠerrorMessage":24943,"_mul":24944,"ĉwrite":24945,"ĠCop":24946,"ĠAnnual":24947,"(button":24948,"Ġvida":24949,"bars":24950,"ĠHarvard":24951,"ĉexpect":24952,"Ġindexes":24953,"Ġdocumentary":24954,"Ġflesh":24955,"ORLD":24956,"ĠDelta":24957,"MAND":24958,"Brush":24959,"-column":24960,"Ġdevelopments":24961,"methodVisitor":24962,"slice":24963,"ĠPDO":24964,"Ġinvesting":24965,"irable":24966,"Ġxmlns":24967,"ï¼Ľ":24968,"arta":24969,"Ġtheories":24970,"_city":24971,"Ġ$__":24972,"Creating":24973,"(pr":24974,"Dropdown":24975,"ismatch":24976,"ĠNET":24977,"'])){Ċ":24978,"ĠValues":24979,"ĠSEO":24980,"ĠSTAT":24981,"Ġecosystem":24982,"Ġtempt":24983,"Ġ\\\\":24984,"Ġ//{Ċ":24985,"ĠChristopher":24986,"ĠKentucky":24987,"ĠHttpServletResponse":24988,"Ġhybrid":24989,"yon":24990,"Ġfeeding":24991,"ĠExtra":24992,"Norm":24993,"ITCH":24994,"ĠSean":24995,"ĠUpload":24996,"mun":24997,"pur":24998,"Ġpersistent":24999,"ĠIDC":25000,"ĠPerform":25001,".merge":25002,"_room":25003,"Meanwhile":25004,"!='":25005,"ĠWel":25006,"ArgsConstructor":25007,".Database":25008,"Ġcounting":25009,"()*":25010,"ĶåĽŀ":25011,"ĠTOP":25012,"mill":25013,"ĠDT":25014,"IGNED":25015,"ĠKB":25016,"Ġcomply":25017,"South":25018,"_collection":25019,"Chapter":25020,"Ġexplaining":25021,"_AM":25022,"_ts":25023,"cards":25024,"Ġquel":25025,"Ġpole":25026,"Ġtouchdown":25027,"ĠOthers":25028,"Ġpeers":25029,"ĠTypeError":25030,"Ġsixth":25031,"Ġcheer":25032,"Ġdispute":25033,"usc":25034,")],":25035,"thumb":25036,"Ġhiding":25037,"ĠSIG":25038,"likes":25039,"ĠPAGE":25040,".Reflection":25041,"Ġheadquarters":25042,"TING":25043,"ĠGhost":25044,"MLE":25045,"$Ċ":25046,"Ġcontrary":25047,"extend":25048,"']).":25049,"FFECT":25050,"ĠPinterest":25051,"úmero":25052,"ricane":25053,"ĉsession":25054,"Ġcrystal":25055,"-Control":25056,"overnment":25057,"ograf":25058,"-action":25059,"volume":25060,"ften":25061,"Ġuncon":25062,"Ġanimate":25063,"Ġlease":25064,"scr":25065,"Ġrefuse":25066,"ãĢĭ":25067,"ftp":25068,"information":25069,"Ġevaluated":25070,"Ġinjection":25071,"Ġjack":25072,"Ġworkshop":25073,"注":25074,"PTH":25075,"ĠTs":25076,"offer":25077,"ĉos":25078,"Ġkingdom":25079,"Missing":25080,"Ġlawmakers":25081,"extField":25082,"Ġsinging":25083,"abi":25084,"/client":25085,".media":25086,"ATEGORY":25087,"Signature":25088,"%',Ċ":25089,"ĠFuck":25090,"][:":25091,"Ġsensors":25092,"/com":25093,"ĠPrimary":25094,".SQL":25095,"_program":25096,"Ġpills":25097,"Ġintegral":25098,"Ġfleet":25099,"Ġdropping":25100,".sl":25101,"Been":25102,"Ġpets":25103,"Ġadvised":25104,"Ġdragon":25105,"_EDIT":25106,"(im":25107,"FER":25108,"ĠDrug":25109,"(random":25110,"Ġcompression":25111,"oust":25112,"[%":25113,"Ġbuyer":25114,"hop":25115,"Roles":25116,"manage":25117,"Ġpainful":25118,"ĠBranch":25119,"-modal":25120,"enant":25121,"ĠMesh":25122,"/font":25123,"ĠGraham":25124,"Ġâĺ":25125,"Ġnc":25126,"ĠFrancis":25127,"Ġspecification":25128,"Ġdamages":25129,"-config":25130,"Ġtheoret":25131,"secure":25132,"_multi":25133,"aceutical":25134,"Ġdemanding":25135,"enne":25136,"ISTS":25137,"()));ĊĊ":25138,"Reason":25139,"Recent":25140,"phase":25141,"Ġpsy":25142,"_MAN":25143,"Ġvolunteer":25144,"å¿":25145,"istributed":25146,"lio":25147,"Ġproductivity":25148,"_comm":25149,"Spring":25150,"nis":25151,".weight":25152,"ĠCancer":25153,"Alloc":25154,"ĠTweet":25155,"Ġseparately":25156,"ĉcheck":25157,"_properties":25158,".Unit":25159,"_CLK":25160,"Ġgt":25161,"Ġ();ĊĊ":25162,"Ġhandy":25163,"ĠThompson":25164,"Ġunnecessary":25165,"ĠReader":25166,"GN":25167,"=request":25168,"ĠUtility":25169,".Repository":25170,"ĠAx":25171,"hydr":25172,"ieu":25173,"Ġthy":25174,"Ġlt":25175,"_mail":25176,"ä¿®æĶ¹":25177,"ailand":25178,"ĠPhilip":25179,"Ġbitter":25180,"Ġbetting":25181,"Ġtimed":25182,"ocks":25183,"'a":25184,"Ġalgorithms":25185,"Ġreinterpret":25186,"Ġtoss":25187,"rogen":25188,"Ġhoped":25189,"(selected":25190,"Ġventure":25191,"TEX":25192,"ĠLeave":25193,".Substring":25194,"Ġgrateful":25195,"uka":25196,"ĠConsumer":25197,"Ġaggreg":25198,"Circle":25199,"à¸ģ":25200,"_blocks":25201,"Ġlegally":25202,"Ġ\"|":25203,"ãĥĥ":25204,".board":25205,".Ab":25206,"Functions":25207,"recipe":25208,"èĩ":25209,"ĠOxford":25210,"Ġwholes":25211,".Build":25212,"_changed":25213,"hai":25214,"Ġdepartments":25215,"Imp":25216,"Ġcoalition":25217,"INFRINGEMENT":25218,"Ġempower":25219,"itches":25220,"North":25221,"Ġinflamm":25222,"ONSE":25223,"Ġmissile":25224,"ĠRaj":25225,"ĠIssue":25226,"Ġatoi":25227,"caled":25228,".Controllers":25229,"ĠWolf":25230,"Ġcrushers":25231,"á»ĩ":25232,".Auth":25233,".addAttribute":25234,"his":25235,"Ġboots":25236,".clean":25237,"camp":25238,"Ġtenant":25239,"Ġtune":25240,"Ġ{}'.":25241,"Ġworkout":25242,"Repo":25243,"Ġpartially":25244,"MISSION":25245,"jamin":25246,"ĠSB":25247,"Ġdetermination":25248,"Ġ'');Ċ":25249,"ĠBeng":25250,"Ġvos":25251,"Ġinhab":25252,"/lang":25253,"sburgh":25254,"Executor":25255,"hone":25256,"ĠChallenge":25257,"_links":25258,".Level":25259,"Ġunderground":25260,"-code":25261,"Ġoptimization":25262,"logging":25263,"_dest":25264,"Ġsnake":25265,"Ġchemicals":25266,"_IMPORTED":25267,"adoop":25268,"ĠTHAT":25269,"managed":25270,"Ġreduces":25271,"ĠREAL":25272,"ĠGuy":25273,"_GENERIC":25274,"/********************************":25275,".amount":25276,"Ġdere":25277,"getTime":25278,"Ġpant":25279,"anonymous":25280,"Ġharmony":25281,"ĠAlan":25282,"Ġscenarios":25283,"Ġdirt":25284,"htags":25285,"Mc":25286,"Shell":25287,"rin":25288,"{čĊčĊ":25289,".pow":25290,"ĉclient":25291,"Ġconspiracy":25292,"Ġadmission":25293,"ĠRegional":25294,"ĠViewController":25295,"ĠPhilippines":25296,"Ġdepos":25297,"Ġpap":25298,"ĠPad":25299,"Paul":25300,".ComboBox":25301,"Ġtutor":25302,"ĠRecipe":25303,"writing":25304,"Ġcontributor":25305,"OTH":25306,"Small":25307,"VI":25308,"Ġhacer":25309,"equ":25310,"ĠExamples":25311,"human":25312,".messages":25313,"ĉtyp":25314,"Ġ(čĊ":25315,"ĠSSL":25316,"LEN":25317,"ĠRomney":25318,"(grid":25319,"ĉmin":25320,"Ġ>ĊĊ":25321,"Ġfruits":25322,"Ġvoter":25323,"Inline":25324,"pane":25325,"ĠCollections":25326,"charset":25327,"Ġspam":25328,"zb":25329,"itemap":25330,"Ġsucceeded":25331,"_COL":25332,"Ġelapsed":25333,"imeter":25334,"Ġrecovered":25335,"Tensor":25336,"hattan":25337,".setup":25338,"isto":25339,"(head":25340,"ĠSIZE":25341,"Ġtactics":25342,"Ġdistur":25343,"Ġpreval":25344,"icios":25345,"(Value":25346,"_cols":25347,"ĠFat":25348,"Ġseal":25349,"Ġsons":25350,"Ġensures":25351,"Ġpressing":25352,"=&":25353,"igenous":25354,"Ġharassment":25355,"_JSON":25356,"Ġignor":25357,"ynomial":25358,"omer":25359,"_static":25360,"Ġsignificance":25361,"Ġcircles":25362,"_System":25363,"Ġdiscipline":25364,"Ġdressed":25365,"Ġsphere":25366,"Ġclimb":25367,"_actions":25368,"ĠBab":25369,"Ġ'=',":25370,"_schema":25371,"\"use":25372,"Ġunders":25373,"Ġcups":25374,".screen":25375,"/new":25376,"Ġappearing":25377,"TOP":25378,"vised":25379,"clang":25380,"Ġinvestigators":25381,"Ġmysterious":25382,"Ġpromising":25383,"Ġqualify":25384,"Ġcave":25385,"Ġequip":25386,"=x":25387,"GT":25388,"(link":25389,".velocity":25390,".erase":25391,"oter":25392,"++++++++":25393,"profit":25394,"Ġzones":25395,"_uid":25396,"-ser":25397,"Ġobjectives":25398,"Ġmilf":25399,"webkit":25400,"(match":25401,"neh":25402,"ĠAssociated":25403,"ĠTodo":25404,"=d":25405,"Cam":25406,"Ġvocal":25407,"Ġsudo":25408,"(EX":25409,"Ġtrou":25410,"ABC":25411,".bean":25412,"ĠGround":25413,"ĠREST":25414,"weets":25415,"Ing":25416,"imon":25417,"_bus":25418,"ĠCOLOR":25419,"unto":25420,"Ġfoss":25421,"ĠLinks":25422,"äng":25423,"/forms":25424,"prises":25425,"Ġachievement":25426,"CALL":25427,"елÑĮ":25428,"ĠVerify":25429,"_SOURCE":25430,"aptcha":25431,"IDD":25432,"_reference":25433,"Gold":25434,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":25435,"Receiver":25436,"Ġaj":25437,"_direction":25438,"}]":25439,"ĠCompet":25440,"Ġbang":25441,"ĠCass":25442,"-url":25443,"techn":25444,"ĠJerusalem":25445,"longitude":25446,"');čĊčĊ":25447,"Ġwinners":25448,"Tasks":25449,"ĠDMA":25450,"Ġtooltip":25451,"İ·":25452,"ĠBra":25453,"_duration":25454,"cury":25455,"parents":25456,"---->(":25526,"ĠKir":25527,"Ġintros":25528,"Ġsketch":25529,"Ġskilled":25530,"Ġimmer":25531,"Ġadequate":25532,"_rep":25533,"(header":25534,"_like":25535,"Ġperceived":25536,"ssh":25537,"Ġassuming":25538,"Ġff":25539,"_uuid":25540,"ulas":25541,"Ġdemocratic":25542,".entities":25543,"Series":25544,"aphore":25545,"Ġnewer":25546,"}(":25547,"SEC":25548,"airo":25549,"Ġcommod":25550,"Ġprivilege":25551,"Ġdeux":25552,"ĠHop":25553,".'/":25554,"ctic":25555,".';Ċ":25556,"C":25630,"ĠWarren":25631,"Ġoptimizer":25632,"ĠSERVICES":25633,"_oper":25634,"getAttribute":25635,"ĠMcK":25636,"_self":25637,".rs":25638,"\")ĊĊĊ":25639,"GetComponent":25640,"erce":25641,"Ġtous":25642,"units":25643,"']);čĊ":25644,"Zoom":25645,"/E":25646,"Ġobsc":25647,"Ġfastest":25648,"online":25649,"Ġpeaceful":25650,"ffen":25651,"Ġcargo":25652,"ĉpr":25653,"Ġseeks":25654,"zu":25655,"Trim":25656,"Ġward":25657,"Ġverd":25658,"Ġblogs":25659,".exceptions":25660,"ĠPremium":25661,"ĠNetherlands":25662,"Safe":25663,"Finish":25664,"ĠAlbum":25665,"_ACC":25666,"=this":25667,"virtual":25668,"]>":25669,"_LABEL":25670,"ĠNich":25671,"_win":25672,"ĠAaron":25673,"WP":25674,";$":25675,"aims":25676,"ĠImageView":25677,"Ġendless":25678,"ERA":25679,"_DISABLE":25680,"Ġcancelled":25681,"-us":25682,"Ġinspection":25683,"emin":25684,"ĠGrey":25685,"-open":25686,"Ġiterations":25687,".owner":25688,"Ġkeras":25689,".Password":25690,"ĠRy":25691,"ĠINS":25692,"Air":25693,"ĠSeveral":25694,".TabStop":25695,"INGLE":25696,"ĠHair":25697,"ĠCanvas":25698,"AAAA":25699,"Ġflaw":25700,"cedes":25701,".Report":25702,"íĬ":25703,"ĠTips":25704,"criptors":25705,".transaction":25706,".Spring":25707,"Ġviewer":25708,"Ġinsights":25709,"è¾ĵ":25710,"ordion":25711,"UINT":25712,"seek":25713,"ĠAuf":25714,"ìŀIJ":25715,"Ġstrain":25716,"Tooltip":25717,"Ġdz":25718,"ignal":25719,"adt":25720,"Ġuc":25721,"finite":25722,"Ġnm":25723,".cmd":25724,"ĠMySql":25725,"[data":25726,".jackson":25727,".tree":25728,"RequestParam":25729,"_agent":25730,"\")]čĊ":25731,"Ġassass":25732,"(Constants":25733,":ss":25734,"ĠMAN":25735,"+-+-":25736,"ĠBottom":25737,"prints":25738,"ĠSame":25739,"@Autowired":25740,"swap":25741,"ición":25742,"Ġprotesters":25743,"Ġhoney":25744,"ĠVeter":25745,"(Calendar":25746,"-ad":25747,"ĠBrooklyn":25748,"Life":25749,"_VAR":25750,"zech":25751,"ĠCALL":25752,"_CAST":25753,"ĠElection":25754,"Ġthickness":25755,"Very":25756,"_INTEGER":25757,"-dev":25758,"))))":25759,"apat":25760,"oooo":25761,"demo":25762,"ĠparseFloat":25763,"ĠRather":25764,"STIT":25765,"maker":25766,"[current":25767,"chrono":25768,"Ġchrist":25769,"ãģª":25770,"ĠDetail":25771,"ưá»":25772,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":25773,"Ġsul":25774,"idency":25775,"Que":25776,"Ġelegant":25777,"apons":25778,"Ġdishes":25779,"Ġintegers":25780,"(read":25781,"findViewById":25782,"ĠAmount":25783,"ĠSkip":25784,"Ġhabits":25785,"*)(":25786,"Ġmonsters":25787,"MAC":25788,":end":25789,"Ġfrank":25790,"Assembly":25791,"Ġdfs":25792,"Ġneut":25793,"_TYPES":25794,"equal":25795,"loyd":25796,"(uri":25797,"Ġchi":25798,"Ġdefendant":25799,"Ġconflicts":25800,"Ġvil":25801,"-js":25802,"ĠPeace":25803,"Ġmutable":25804,")sender":25805,"ĠFocus":25806,"建":25807,"Ġappreciated":25808,"sleep":25809,"ĠRED":25810,"Culture":25811,"Ġdesigners":25812,"_generator":25813,"codes":25814,"/ex":25815,".GetValue":25816,"umbled":25817,".scalajs":25818,"peror":25819,"Ġveterans":25820,"Ġ})čĊ":25821,"Ġunfortunately":25822,"_CREATE":25823,"Mass":25824,"ĠCLAIM":25825,"ĠMeet":25826,"_support":25827,"Bank":25828,"().Ċ":25829,"Dark":25830,"_LOW":25831,"ĠMining":25832,"ĠOwner":25833,"iera":25834,"Cliente":25835,"Ġencouraging":25836,">S":25837,"Ġboyfriend":25838,"ĠHalf":25839,"ĠACC":25840,"Aff":25841,"_ar":25842,"-life":25843,"cx":25844,".JButton":25845,"izado":25846,".zero":25847,".openqa":25848,"oton":25849,".textContent":25850,"Ġtoll":25851,"atie":25852,"Ġballot":25853,"-number":25854,".Exception":25855,"ĉparams":25856,"circle":25857,"-map":25858,"Ġnap":25859,"ĠRobot":25860,"ĠIch":25861,"registration":25862,"Amazon":25863,"rollment":25864,"(exp":25865,"Ġtanks":25866,"ĠGordon":25867,"Ġmachinery":25868,"Ġbaseline":25869,"æĭ":25870,"Ø©":25871,"ĠConvention":25872,"ĉconfig":25873,"ookies":25874,"mult":25875,"Records":25876,"ĠEST":25877,"Ġgarbage":25878,"Ġconform":25879,"idal":25880,"Ġbarg":25881,"Ġsurvived":25882,"Ġinvestigations":25883,".containsKey":25884,"--------------------------------------------------------------------------Ċ":25885,"ortion":25886,"Ġhorr":25887,"_http":25888,"Ġmant":25889,"];čĊčĊ":25890,"binary":25891,"empl":25892,"Ġinquiry":25893,"ĠMeanwhile":25894,"Ġcollecting":25895,".EntityFramework":25896,"\",ĊĊ":25897,"ĠPic":25898,"@Inject":25899,"ickness":25900,"ĠBinding":25901,"Ġcontrolling":25902,"reverse":25903,"Ġchairs":25904,"sembled":25905,"(add":25906,"Disabled":25907,"anas":25908,".translate":25909,"-----------Ċ":25910,"Ġreflected":25911,"\"]ĊĊ":25912,"External":25913,"Arrow":25914,"Singleton":25915,"%x":25916,"ĠÅ":25917,"Ġancest":25918,"ĠOrleans":25919,"ĉcmd":25920,"Ġprohibited":25921,"ithmetic":25922,"(channel":25923,"_css":25924,"Forward":25925,".socket":25926,"Ġluc":25927,"âĨ":25928,"ĠFirefox":25929,"ĠMovies":25930,")_":25931,".ends":25932,"(shape":25933,"Ġdealt":25934,"Ġsaves":25935,"Ġglory":25936,"Ġmejor":25937,"Ġbreathing":25938,"Ġeller":25939,"getData":25940,"Ġangles":25941,"Ġtoolbar":25942,"Ġspacing":25943,"IPS":25944,"Ġfloors":25945,"_ACTIVE":25946,"Ġshuffle":25947,"/shared":25948,"ĠEle":25949,"edish":25950,"Ġwebcam":25951,".expect":25952,"iloc":25953,"ĠIncludes":25954,"Ġtweeted":25955,"Ġ:)":25956,"ĠEssay":25957,"Fix":25958,"-between":25959,"_web":25960,".conv":25961,"Ġracism":25962,"Ġreflects":25963,"umm":25964,"иÑĤе":25965,"_footer":25966,"/docs":25967,"ĠPour":25968,"NgModule":25969,".initialize":25970,"patterns":25971,"_In":25972,"ĠAbb":25973,"*čĊ":25974,"Ġsentiment":25975,"buff":25976,"_counts":25977,"Ġreuse":25978,"chunk":25979,"Ġimposed":25980,"PrimaryKey":25981,"Foreground":25982,"Ġconsumed":25983,"?!":25984,"Ġdick":25985,"Ġchron":25986,"ĠFern":25987,"Ġresponsive":25988,"Ġinsect":25989,"iculty":25990,"Ġrw":25991,"Ġalike":25992,"Ġsubset":25993,"ĠCookies":25994,"ĠPair":25995,"Ġtier":25996,"IFO":25997,"avour":25998,"ĠQU":25999,",sizeof":26000,"Ġmerged":26001,"mv":26002,"itol":26003,"ylon":26004,"Ġjumped":26005,".role":26006,"ensaje":26007,"Rules":26008,"Ġbrowse":26009,"Animator":26010,"Ġyoga":26011,"Ġvariants":26012,"Ġcourtesy":26013,"uran":26014,"pbs":26015,"elseif":26016,"Alt":26017,"ĠLane":26018,"CLK":26019,"IMARY":26020,"_PROPERTY":26021,"ï¼IJ":26022,"Ġchan":26023,"Ġgradually":26024,"Ġshake":26025,"Ġblonde":26026,"...\");Ċ":26027,"-sex":26028,"Ġgameplay":26029,"acies":26030,".refresh":26031,"USB":26032,"ĠPlot":26033,"Was":26034,"issippi":26035,"ĠTensor":26036,"Ġcryptocurrency":26037,"Ġdifficulties":26038,"Deleted":26039,"Without":26040,"_append":26041,"_ver":26042,"\"))čĊ":26043,"Ġhonestly":26044,"Ġpivot":26045,"Ġtemps":26046,"_ps":26047,"ĠUnlike":26048,"[:-":26049,"VS":26050,"_inf":26051,"Ġjunior":26052,"Ġanimations":26053,"Ġfilepath":26054,"?{{$":26076,"Ġunicode":26077,"places":26078,"ĠCoffee":26079,".SE":26080,"ĠPAR":26081,"(txt":26082,"gebra":26083,"Ġfires":26084,"MainWindow":26085,"medium":26086,"Ġ(âĢľ":26087,"Ġlg":26088,"Ġcmp":26089,"/base":26090,"_layers":26091,"_entries":26092,"Ġadminister":26093,"ĠSUCH":26094,"BP":26095,"ĠScottish":26096,"ĉčĊĉčĊ":26097,"guard":26098,"ĠStrong":26099,"Insn":26100,"ĠCAP":26101,"asury":26102,"ĠSEE":26103,"Clock":26104,"erie":26105,"\\models":26106,"Ġ$$":26107,"ĠCab":26108,"Ġwurde":26109,"Ġsoldier":26110,"Ġclips":26111,"Ġarrangement":26112,"ĠWonder":26113,"ĠHorn":26114,"Ġscared":26115,"Ġcure":26116,"mkdir":26117,"Ġaligned":26118,"ĠPink":26119,"Ġlanded":26120,"Dimension":26121,"ScrollPane":26122,".chat":26123,".With":26124,"ĠTrain":26125,"].Ċ":26126,"Ġthirty":26127,"Ġdurable":26128,"Ġld":26129,"Ġlateinit":26130,"Ġcharts":26131,"Ġinsult":26132,".Fatal":26133,"_ct":26134,"Ġmasks":26135,"CLUDED":26136,"President":26137,"Ġcolours":26138,"gments":26139,".attributes":26140,"ĠFlex":26141,"ĠClock":26142,"ÃŃcul":26143,"imen":26144,"JO":26145,"ĠRegex":26146,"_LINK":26147,"Ġcouch":26148,"ĠINPUT":26149,"Ġbeating":26150,"business":26151,"preced":26152,".unit":26153,"ĠFel":26154,"Never":26155,"ospel":26156,".startswith":26157,"ĠEPA":26158,".only":26159,"Ġpreventing":26160,"yer":26161,"ColumnName":26162,"Ġelevation":26163,"flu":26164,"icycle":26165,"Ġoffline":26166,"Toolbar":26167,"Ġcompeting":26168,")].":26169,"Ġmog":26170,"ĠisValid":26171,"Ask":26172,"_av":26173,"_lat":26174,"ANC":26175,"ĠJoh":26176,"kers":26177,"Ġguards":26178,"Ġchains":26179,"ĠSimpleDateFormat":26180,".static":26181,"Ġvessel":26182,"Ġmud":26183,"Ġstabil":26184,"Ġstret":26185,"gm":26186,"amation":26187,"çľ":26188,"-with":26189,"Ġros":26190,"_PA":26191,"Ġresultado":26192,"Ġconfidential":26193,"ĠTokyo":26194,"ĉusing":26195,"ĠMathf":26196,"ombine":26197,"ĠESPN":26198,"Ġdealers":26199,"Ġdismissed":26200,"TRY":26201,"Ġteens":26202,"records":26203,"Ġwings":26204,"gallery":26205,"accounts":26206,"_LIB":26207,"Ġjacket":26208,"ĠNSObject":26209,"Ġstones":26210,"ĠDelivery":26211,"ĠDiet":26212,"/watch":26213,"Ġtoilet":26214,"ĠGuest":26215,".day":26216,"Ġintval":26217,"Visit":26218,"Ġinvestigated":26219,"Ġpentru":26220,"ĠTheatre":26221,"andidates":26222,"Lang":26223,"ĠServ":26224,"Ġcontrollers":26225,"ĠsetTitle":26226,"NP":26227,"amy":26228,"flat":26229,"(ui":26230,"_document":26231,"èĥ½":26232,"ĠCoin":26233,"ĠAdams":26234,"ptic":26235,"Ġproductive":26236,"Ġaccomplished":26237,"čĊčĊčĊčĊ":26238,"Ġdeferred":26239,"ientes":26240,"Ġsinc":26241,"olars":26242,"Rightarrow":26243,"Ġvariations":26244,"(offset":26245,".LayoutInflater":26246,"Ġsuspend":26247,"Ġprevention":26248,"_private":26249,"_js":26250,"âĺħ":26251,"Ġwieder":26252,"atum":26253,"ĴĮ":26254,"Ġappearances":26255,".Document":26256,"Ġvalidates":26257,"calendar":26258,"}\";Ċ":26259,".demo":26260,"conut":26261,"Ġcorrection":26262,"ĠDeal":26263,"Ġbatteries":26264,".duration":26265,",\\":26266,"_marker":26267,"multi":26268,"Ġhalt":26269,"Ġcms":26270,"Ġshaped":26271,"Bro":26272,"reduce":26273,"Ġ####":26274,"CTOR":26275,"ĠBenef":26276,"Ġiconic":26277,"Ġpiano":26278,"Ġeffectiveness":26279,"|.Ċ":26280,"Ġajax":26281,"Ġvolumes":26282,"ม":26283,"Ġcljs":26284,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":26285,"aths":26286,"raits":26287,"大":26288,"Ñĸ":26289,"_mult":26290,"Ġfascinating":26291,"Average":26292,"Ġpré":26293,"ĠChairman":26294,".findElement":26295,"_pin":26296,"Ġcomparing":26297,"Ġdarkness":26298,"-Fi":26299,"-server":26300,"Ġselecting":26301,"sterdam":26302,"ĠParts":26303,"FORMATION":26304,"Ġnoting":26305,"Ġpile":26306,"ogs":26307,"Ġpalette":26308,"_do":26309,"itize":26310,"()(":26311,"Ġdefining":26312,"Ġremainder":26313,"Units":26314,"_TASK":26315,"HttpClient":26316,"Social":26317,"Ġfundra":26318,"NR":26319,"chest":26320,"Currency":26321,".adapter":26322,"Ġdop":26323,"unting":26324,"ANGUAGE":26325,"\"He":26326,"ĉindex":26327,"_package":26328,".Icon":26329,"Ġrepet":26330,"mass":26331,"=\".$":26332,"ĠSud":26333,"Ġlid":26334,"province":26335,"ìľ":26336,"GPIO":26337,"Ðļ":26338,"ĠMySQL":26339,"Ġdocs":26340,"ĠGA":26341,"Ġipsum":26342,"Kernel":26343,"Ġaccepts":26344,"Ġfitting":26345,"Ġcuando":26346,"Ġduplic":26347,"ĠBrother":26348,"ĠKle":26349,"nums":26350,"Ġmorph":26351,"Ġ########":26352,"ĠCGPoint":26353,"manual":26667,"ĠTechnical":26668,"Ġcorporation":26669,"ĠHW":26670,"anka":26671,"TAIL":26672,"istas":26673,"Ġperforms":26674,"ĠBehavior":26675,".For":26676,"_ORDER":26677,"ĠKick":26678,"Ġcallbacks":26679,"_dr":26680,"uego":26681,"hub":26682,"ufficient":26683,"sky":26684,"Ġbp":26685,"htable":26686,"ĠONLY":26687,"ĠAUTHORS":26688,".Argument":26689,"\"};Ċ":26690,"ĠThunder":26691,"ĠKom":26692,".Should":26693,"AUTH":26694,"ahu":26695,"_payment":26696,"Ġstarter":26697,"ìĦľ":26698,"ìļ©":26699,"Blog":26700,".patch":26701,"Ġgoverned":26702,"assy":26703,"-found":26704,"Ġtheater":26705,"ĠFontWeight":26706,"ĠBatman":26707,"\"If":26708,".Random":26709,"_delta":26710,"ĠCE":26711,"Authenticated":26712,"Ġdrone":26713,"Ġcous":26714,"radius":26715,"Mer":26716,"(None":26717,"ĠNJ":26718,"_headers":26719,"Ġamer":26720,"pytest":26721,"ĠActions":26722,"ĉĉĉĠĠĠĠ":26723,"Ġett":26724,"Ġholy":26725,"Ġuncomfort":26726,"ĠNin":26727,"ĠDecimal":26728,"ĠMessages":26729,".sender":26730,"]])Ċ":26731,"Ġembrace":26732,"Though":26733,"/sp":26734,"Ġcultures":26735,"Ġhighway":26736,"tar":26737,".fail":26738,"_hidden":26739,"ĠcomponentDidMount":26740,"ĠWright":26741,"Ġjag":26742,"_il":26743,"../../../":26744,"igu":26745,"Food":26746,"Ġace":26747,"Ġaños":26748,"USD":26749,"Ġmutual":26750,"Logic":26751,"Ġtemple":26752,"Ġbriefly":26753,"ĠTrip":26754,"classmethod":26755,"defaults":26756,"Ġchunks":26757,",,,,":26758,"ĠReason":26759,"$id":26760,"-ups":26761,"Ġdamn":26762,"Ġtrucks":26763,"Ġunlimited":26764,"Ġsculpt":26765,"ĠCards":26766,"Ġautor":26767,"ĠTesting":26768,"Ġdiese":26769,"shops":26770,"ç´":26771,"(payload":26772,"ĠPATH":26773,"ĠMemorial":26774,"Ġridiculous":26775,"egree":26776,"-winning":26777,"Ġrehab":26778,"Ġsophisticated":26779,"wpdb":26780,"ĉpath":26781,"!\";Ċ":26782,"_SYS":26783,".speed":26784,"Ġsoap":26785,"suffix":26786,"Wrap":26787,"Ġenhancement":26788,"Ãī":26789,"úb":26790,"Ġplaylist":26791,"Ġmixing":26792,"antidad":26793,"=\"\";Ċ":26794,"ĠRevision":26795,"ĠBeat":26796,".inc":26797,"-way":26798,"encias":26799,"ulers":26800,"Cat":26801,"idel":26802,"ĠShip":26803,".setColor":26804,"Ġthreatening":26805,".modules":26806,"Ġafterwards":26807,"ĠDashboard":26808,"ĊĠĊ":26809,"Signal":26810,"Ġprimer":26811,"orneys":26812,"iciary":26813,"Ġligne":26814,"_predict":26815,"Ġaest":26816,"_https":26817,">:":26818,"ĠLex":26819,"Ġrencontres":26820,"egral":26821,"scala":26822,"_family":26823,"ÃŁen":26824,"_sym":26825,"Ġuncertainty":26826,"ĠVALUE":26827,"Ġ};čĊčĊ":26828,"Ġbroader":26829,"Ġhorses":26830,"ãģĿ":26831,"ĠKal":26832,"oba":26833,"_INET":26834,"ĠKill":26835,"jquery":26836,"amination":26837,"[@\"":26838,"Ġmuj":26839,"###Ċ":26840,"FirstOrDefault":26841,"thenReturn":26842,"Che":26843,"/footer":26844,"Ġparks":26845,"asje":26846,"ĠGulf":26847,"Ġmodest":26848,".Init":26849,"ï¼ŁĊĊ":26850,"Ġprospects":26851,"Ġsvg":26852,"Ġåı":26853,".Dialog":26854,"_NET":26855,"Ġ(($":26856,"Ġek":26857,"ĠWarning":26858,"ĠMK":26859,"":27166,"ĠRepair":27167,"_BE":27168,"Brand":27169,"uart":27170,"preview":27171,"Ġinitiatives":27172,"running":27173,"bang":27174,"ĉupdate":27175,"ĠCoach":27176,"Rich":27177,"Ġyoutube":27178,"Ġritual":27179,"appa":27180,"ĠRobinson":27181,"precision":27182,"////////////////////////////////////////////////////////////////////////////":27183,"=[]Ċ":27184,"Ġcelebrated":27185,"OTO":27186,"Ġinclusion":27187,"JP":27188,"';čĊčĊ":27189,"Ġnotable":27190,"(_.":27191,"Managed":27192,"Ġguides":27193," ":27194,"atedRoute":27195,"ĠAdjust":27196,"Ġcolored":27197,"_scores":27198,"ĠTesla":27199,"_progress":27200,".inst":27201,"['_":27202,".flags":27203,"Ġfclose":27204,"_OPER":27205,"ży":27206,"_note":27207,"Ġtransgender":27208,"åķ":27209,"RIPT":27210,"Ġabsent":27211,"Ġamet":27212,"Ġoperand":27213,"ë©":27214,"Ġhood":27215,"toLowerCase":27216,"avo":27217,"ĠCircuit":27218,"ĠLind":27219,"--}}Ċ":27220,"=m":27221,"Ġsuppress":27222,"ĠMAP":27223,"iang":27224,"-admin":27225,"Ġsidebar":27226,"ĠBu":27227,"ĠHex":27228,",F":27229,"ĠSignal":27230,"Ġtransparency":27231,"ĠFederation":27232,"/V":27233,"Req":27234,"Ġpulse":27235,"Ġtends":27236,"Numbers":27237,"%'":27238,"Ġdeport":27239,"datas":27240,"_UINT":27241,"_tra":27242,"oko":27243,"Ġ\"?":27244,"compet":27245,"solete":27246,"undry":27247,"Ġoverlap":27248,"}`,Ċ":27249,".ly":27250,"_summary":27251,"ĠLost":27252,".Center":27253,"Ġdisability":27254,".Serialization":27255,"Ġgeom":27256,"Ġ?:":27257,"ĠWo":27258,"Ġshipped":27259,"Ĥæķ°":27260,"Ġugly":27261,"Ġexcitement":27262,"Ġexterior":27263,"Ġcheckout":27264,"Ġkur":27265,",D":27266,"ĠAlaska":27267,"Ġsynthetic":27268,"ĠBudget":27269,"ĠSubscribe":27270,"Ġ&Ċ":27271,"ÈĻi":27272,"ĠYu":27273,"ĉquery":27274,"}.Ċ":27275,"Ġtraged":27276,"assen":27277,"Ġaccommodation":27278,"Ġphysician":27279,"Ġrenamed":27280,"Ġtidak":27281,"zÄħ":27282,"Ġminus":27283,"nych":27284,"_EXCEPTION":27285,"threads":27286,"Ġtire":27287,"_created":27288,"ensure":27289,"Ġworthy":27290,"Ġexcuse":27291,"Ġcloth":27292,".parentNode":27293,"/platform":27294,"ĠUFC":27295,"ĠGtk":27296,"unny":27297,"Ġgibt":27298,"keley":27299,"hum":27300,"(tx":27301,"ĉdev":27302,"Ġoutfit":27303,"doors":27304,"Ġfon":27305,"icut":27306,"volatile":27307,"Ġhomosex":27308,"Maximum":27309,"Ġexpend":27310,"Ġ});ĊĊĊ":27311,"Eq":27312,"onders":27313,"department":27314,"ĠPhysics":27315,"\"});Ċ":27316,"Ġparad":27317,".Str":27318,"Ġsele":27319,"IFIED":27320,"Ġdelivers":27321,"ivan":27322,"Ġresponsibilities":27323,"Ġadvocates":27324,"èµ":27325,"ĠRID":27326,".parameters":27327,"Metrics":27328,"ronics":27329,"ĠUITableViewCell":27330,"Absolute":27331,"ipse":27332,"ylum":27333,"MLElement":27334,"_VALID":27335,"\\<^":27530,"Ġios":27531,"sound":27532,"\"];":27533,"Ġfreed":27534,"rottle":27535,"ĠLower":27536,"[count":27537,"åĿ":27538,"Ġpale":27539,"ĠWayne":27540,"earth":27541,"_categories":27542,"UCK":27543,".metadata":27544,"Ġsummon":27545,"HOME":27546,"олÑĮз":27547,"Ġmanufactured":27548,"Ġdock":27549,"Ġcompetitors":27550,"_MODEL":27551,"okia":27552,"ĠHey":27553,"ο":27554,"Ġbackward":27555,"ĠPOSS":27556,"ropa":27557,"Ġcri":27558,"_OBJ":27559,"Transport":27560,"-high":27561,"Ġerotik":27562,"_slot":27563,"Ġartic":27564,"_framework":27565,"-serif":27566,"ĠSqlDbType":27567,"')(":27568,"+\"/":27569,"Ġwore":27570,"Sil":27571,"Ġstoring":27572,"ĠPhase":27573,"uant":27574,"Ġbump":27575,"inho":27576,"Ġdign":27577,"Ġbacks":27578,"qq":27579,"(hash":27580,"Ġgeo":27581,"Ġtender":27582,"Logo":27583,"!)Ċ":27584,"ĠMX":27585,"ĠArthur":27586,"essoa":27587,"_Ch":27588,"Ġbedrooms":27589,"=\"#\"><":27590,"Ġthroat":27591,"insic":27592,".integer":27593,"Ġprimitive":27594,"Truthy":27595,"Ġfacilitate":27596,"Ġcreativity":27597,"ĠDNS":27598,"Ġgra":27599,"uez":27600,"Ġcountless":27601,"ĠPoland":27602,"'M":27603,"ĠDist":27604,"Ġvest":27605,"Ġcertification":27606,"á»ij":27607,"held":27608,"extensions":27609,"(static":27610,"Ġgrades":27611,"ĠUber":27612,"ãģŁ":27613,"Ġ[])Ċ":27614,"datos":27615,"ĠgetData":27616,"ĠCharg":27617,"ĠBS":27618,".microsoft":27619,".video":27620,".direction":27621,"->{'":27622,"lua":27623,"apest":27624,"Ġboiler":27625,"erek":27626,"Ġdecides":27627,".jar":27628,"ISC":27629,"ĠWords":27630,"(CON":27631,"EMPLATE":27632,"reeze":27633,"shots":27634,"apps":27635,"unted":27636,".setName":27637,"::<":27638,"-bold":27639,"ê²":27640,"å¯Ĩ":27641,"Longrightarrow":27642,"Ġunfair":27643,"Ġearning":27644,"Ġshelf":27645,"UREMENT":27646,"Ġidle":27647,"_MENU":27648,".Custom":27649,"AGER":27650,"-\"":27651,"_switch":27652,"because":27653,")view":27654,"mare":27655,"_condition":27656,"ĠStarting":27657,"Mvc":27658,"(pre":27659,"dump":27660,"_LOCK":27661,"atetime":27662,".callback":27663,"ĠCer":27664,"opol":27665,"ibrary":27666,"Ġreservation":27667,"ĉĉĉĉĉĉĉĊ":27668,"lector":27669,"graduate":27670,"Ġgenerous":27671,"Ġion":27672,"ricao":27673,"mq":27674,"_complete":27675,"(cursor":27676,"ĠFormControl":27677,":center":27678,"Ġsubstitute":27679,"ĠPlanning":27680,"Ġpension":27681,"Ġrecommendation":27682,"ĠTags":27683,"Ġgef":27684,"Ġalbums":27685,"Ġwashing":27686,"roc":27687,"Ġtrains":27688,"atings":27689,"Ġexponent":27690,"ackbar":27691,"-ln":27692,"ág":27693,".DataAnnotations":27694,"ĠEIF":27695,"ĠMalaysia":27696,"ĉPORT":27697,"onus":27698,"Ġclever":27699,"Ġpeu":27700,">ĊĊĊĊ":27701,"ĠArguments":27702,"Ġdebugging":27703,"(right":27704,"'D":27705,"compute":27706,"Ġfinest":27707,"ORAGE":27708,"Ġspectacular":27709,"phrase":27710,"Ġindia":27711,"Ġlegendary":27712,"birth":27713,"Ġcomposite":27714,"Ġgrows":27715,"ĠTD":27716,"Ġepid":27717,"Ġlaunching":27718,"]][":27719,"Minutes":27720,"ĠCha":27721,"Ġcleaned":27722,"Ġwitnesses":27723,"ukan":27724,"ĉType":27725,"Ġhabe":27726,"paragraph":27727,"ĠJPanel":27728,"ĠHann":27729,"Ġvaried":27730,"ĠPokemon":27731,"ĠMUST":27732,"åĬ¨":27733,".visibility":27734,"opup":27735,"^[":27736,".expand":27737,"Ġ\"',":27738,".fasterxml":27739,"_auto":27740,"ĠSheet":27741,"marker":27742,"Parcel":27743,"ews":27744,"ĠStrategy":27745,"-making":27746,"Ġunve":27747,"Ġtrailing":27748,"Ġclicks":27749,"ĠGetComponent":27750,"ĉcontent":27751,"IGENCE":27752,"ERNEL":27753,"NSMutableArray":27754,"Ġbreat":27755,"Ġharmful":27756,"¶Ī":27757,"Ġbesides":27758,"Ġboring":27759,"Ġbrutal":27760,"vang":27761,"(parse":27762,"quick":27763,"Ġpytest":27764,"Ġswitching":27765,"()]Ċ":27766,"ĠìĦ":27767,"LER":27768,"ĉfont":27769,"Ġnett":27770,")]ĊĊ":27771,"(/\\":27772,"æŀľ":27773,"toArray":27774,"Ġbreed":27775,"ĠCAR":27776,"ĠWeapon":27777,"Abs":27778,"tot":27779,"ĠsetName":27780,"aptive":27781,"Ġ:,":27782,"Ġescaped":27783,"orden":27784,"ĠPri":27785,"thumbnail":27786,"Ġdescriptions":27787,"/styles":27788,"ĠPCI":27789,"Ġalphabet":27790,"asticsearch":27791,"NOTE":27792,"Ġcialis":27793,"ĠGriff":27794,"Ġporque":27795,"Ġproteins":27796,"plays":27797,"Ġstating":27798,"Ġimagination":27799,"Ġfacial":27800,"ĠMechan":27801,"Ġarranged":27802,"_used":27803,"Ġarrangements":27804,"ĠPipe":27805,"hostname":27806,"Ġprovinc":27807,"Tit":27808,".FlatStyle":27809,"ĠSplit":27810,"ĠLoader":27811,".cc":27812,"Ġclinic":27813,"----------------------------":27814,"Ġbaking":27815,"ĠENT":27816,"neath":27817,"ãĢģĊĊ":27818,"ANE":27819,".EntityFrameworkCore":27820,"appers":27821,".ic":27822,"ĠNgModule":27823,"ĠFORM":27824,"Ġ';":27825,"-profit":27826,"hw":27827,"enemy":27828,"ĠEye":27829,"Ġcaution":27830,"town":27831,"Ġurged":27832,"ĠJimmy":27833,"ynchronous":27834,"-sized":27835,"making":27836,",{":27837,"]',":27838,"_Object":27839,"ahoma":27840,"Ġactivist":27841,"INVAL":27842,"ĠCommercial":27843,"ĠOrlando":27844,"(tab":27845,"Ġب":27846,"Algorithm":27847,"Ġheritage":27848,"GetMapping":27849,"Ġfailures":27850,"rios":27851,"ativa":27852,"Ġtet":27853,"Ġcarpet":27854,"(Z":27855,"three":27856,"Ġdisclosure":27857,".ERROR":27858,"_called":27859,"Ġdial":27860,"Ġoccasional":27861,".Err":27862,"Ġfuncion":27863,"caffold":27864,"Ġreleasing":27865,"ï¼īĊĊ":27866,"_Value":27867,"ĠVari":27868,"yellow":27869,"Ġstruggles":27870,".cal":27871,"ĠDakota":27872,"ĉclose":27873,"Ġsandwich":27874,"Ġanalytics":27875,"Ġ**)":27876,"&#":27877,"ĠJos":27878,"Ġpassive":27879,"ATTR":27880,"Throwable":27881,"ĠMun":27882,"ĠUint":27883,"(disposing":27884,"arak":27885,"ĠLeaders":27886,"Ġaffecting":27887,"ĠitemView":27888,"Ġeconomics":27889,"fv":27890,"à¹Ģ":27891,".rb":27892,"ĠOverall":27893,"Ġwealthy":27894,"Ġevolved":27895,"nda":27896,"ĠHus":27897,"restrict":27898,"umen":27899,"ĠAgricult":27900,"!ĊĊĊ":27901,"Ġexpires":27902,"Ġspokesperson":27903,"interval":27904,"Ġâ":27905,"Ġqueen":27906,"(nil":27907,"ingo":27908,"Heap":27909,"Ùİ":27910,"Ġcomplain":27911,"Sym":27912,"ĠClone":27913,"ĠRu":27914,"ĠWILL":27915,"ĠCrystal":27916,"/content":27917,"ingen":27918,"ointment":27919,"LastName":27920,"avicon":27921,"ĠIBM":27922,"ĠDimension":27923,"anh":27924,"icipants":27925,"ĠAnne":27926,".progress":27927,"Ġalgo":27928,"obil":27929,"ĠVoice":27930,"ĠFE":27931,"Ġgli":27932,"Ġved":27933,"Ġprevents":27934,"\\Column":27935,"Ġfolk":27936,"etti":27937,"Ġmn":27938,"ĠCLASS":27939,"Ġdisplaying":27940,"ĠKl":27941,"ĠFerr":27942,"duto":27943,".ib":27944,"Ġdados":27945,"'name":27946,"-space":27947,"Ġitalian":27948,"Ġinverse":27949,"Ġdense":27950,"uter":27951,"ĠIEnumerator":27952,"-sign":27953,"Ġnationwide":27954,"Ġpersona":27955,"Ġsolved":27956,"Ġdramatically":27957,"Logout":27958,"Ġgrav":27959,"Ġanalyses":27960,"ollo":27961,"Ġlamp":27962,".team":27963,"ĠErot":27964,"=[\"":27965,"Ġdancing":27966,"Ġ?>/":27967,"Ġcater":27968,"ffe":27969,"ĠSha":27970,"ĠBos":27971,"ĠREQUIRE":27972,"ĠMonster":27973,"ĠRB":27974,"ĠIDE":27975,"Ġsuits":27976,"ĠformData":27977,"(theta":27978,"Ġspatial":27979,"=NULL":27980,"ĠSqlConnection":27981,"Ġà":27982,"ĠVenez":27983,"ĠMorning":27984,"Ġpublications":27985,"ĠNONINFRINGEMENT":27986,"firstName":27987,"uds":27988,"Would":27989,"_HEAD":27990,"Ġinvested":27991,"stable":27992,"fred":27993,"Ġcommander":27994,"SES":27995,"âĢĶa":27996,"anche":27997,"ĠMovement":27998,"ë³":27999,"Suite":28000,"Ġjurisdiction":28001,"리":28002,"ĠBeth":28003,"jQuery":28004,"ĠIsa":28005,"Ġdental":28006,",*":28007,"ĠLimit":28008,"iliation":28009,"=\"{":28010,"bast":28011,"Ġturb":28012,"isy":28013,"OOK":28014,"Ġadvocate":28015,"imag":28016,"LECTION":28017,"лÑĮ":28018,"(category":28019,".dec":28020,"Ġuniqu":28021,"_sn":28022,"Ġattracted":28023,"ĠÃī":28024,"ĠRunning":28025,"_edges":28026,"ĠDisable":28027,"_AS":28028,"åĽ¾":28029,"Ġnetworking":28030,"_branch":28031,"Having":28032,"toBeTruthy":28033,"GI":28034,"Ġcamps":28035,"sep":28036,"-part":28037,"Ġ)ĊĊĊĊĊĊĊĊ":28038,"ustralia":28039,"ĠReports":28040,"rito":28041,"Ġwaist":28042,"_plus":28043,"ĠWW":28044,"-person":28045,"April":28046,"Ġsar":28047,".tar":28048,"Ġagricultural":28049,"tic":28050,"Ġtcp":28051,"ĠsetValue":28052,"agento":28053,"ĠAppe":28054,"piler":28055,"CADE":28056,"Ġanche":28057,"atcher":28058,"Ġcomics":28059,"Ġlbs":28060,"_segment":28061,"']=$":28062,"itters":28063,"icher":28064,"GINE":28065,"Ġutilize":28066,"ĠCursor":28067,"_expression":28068,"Ġdag":28069,"x":28257,".Task":28258,"money":28259,"ibaba":28260,"'});Ċ":28261,"ĠSpecific":28262,"ĠLinear":28263,"_OPT":28264,"HashCode":28265,"(Player":28266,".ContainsKey":28267,"Ġcollapsed":28268,"transparent":28269,"_RANGE":28270,"Viewer":28271,"(cfg":28272,"Ġsorting":28273,"Ġinfected":28274,"ĠNach":28275,"Ġaccommodate":28276,".elements":28277,"_PART":28278,"ĠSexy":28279,"=get":28280,"(year":28281,"Ġxhr":28282,":]":28283,"owski":28284,"Ġsummar":28285,"Ġ¿":28286,"Ġinte":28287,"Ġworkflow":28288,"ĠTaiwan":28289,"versions":28290,"åıij":28291,"Ġsurprisingly":28292,"Ġoptical":28293,"Ġproces":28294,"Ġdisagree":28295,"Ġnuevo":28296,"ĠCAM":28297,"sorted":28298,"leases":28299,"istle":28300,"Ident":28301,"ĉevent":28302,"jected":28303,"Chunk":28304,"Vars":28305,".provider":28306,"Ġproceedings":28307,"Ġinclusive":28308,"Ġartwork":28309,"endants":28310,"ï¼ļĊ":28311,"seen":28312,"Ġlig":28313,"Ġmakers":28314,"_fun":28315,"Ġlengths":28316,"PathVariable":28317,"[item":28318,"ี":28319,"Dead":28320,"FFFFFF":28321,"ĠUrban":28322,"uples":28323,"ichen":28324,"(nullptr":28325,".spec":28326,",System":28327,"URATION":28328,"(job":28329,"å¼ı":28330,"Ġtracker":28331,"ÅĻ":28332,"ĠMR":28333,"ĠSQLite":28334,"Ġdto":28335,"Ġ;;Ċ":28336,"Ġmint":28337,"ĠIntroduction":28338,"cao":28339,"Ġquestioned":28340,"Ġfitted":28341,"revision":28342,"sq":28343,"Ġmig":28344,"_units":28345,"_async":28346,"Ġflick":28347,"});ĊĊĊ":28348,"Ġnotre":28349,"}`,":28350,"Filters":28351,"Ġmundo":28352,"_days":28353,"Ġfrm":28354,"utc":28355,"Ġvals":28356,"ewidth":28357,"ĠGenerator":28358,"ĠArtist":28359,"ĠIDs":28360,"ĠArticles":28361,"reater":28362,"ĠComponentFixture":28363,".=":28364,"Ġrou":28365,"-no":28366,".bukkit":28367,"egg":28368,"ĠDiff":28369,"atics":28370,"ÑĥÑĩ":28371,"âĢĶĊĊ":28372,"ĠCharlotte":28373,"bye":28374,"Ġ});čĊčĊ":28375,"ĠVik":28376,"ĠBrow":28377,"Ġlv":28378,"ĠGib":28379,"-wing":28380,"GLIGENCE":28381,"(Il":28382,"ĠEngineer":28383,".Wait":28384,"ĠPictures":28385,"Ġrhet":28386,"Ġthermal":28387,"Ġpraise":28388,"<>();ĊĊ":28389,"ĠSpider":28390,"Pause":28391,"ĠBaker":28392,"Ġslower":28393,"Ġ}]Ċ":28394,"_enqueue":28395,"Ġdisappeared":28396,"ĠTicket":28397,"INUX":28398,"_LOCAL":28399,"аÑģÑģ":28400,"@Injectable":28401,"community":28402,"GestureRecognizer":28403,"åĽ½":28404,"Ġscales":28405,"Ġ-(":28406,"/'+":28407,"ĠSit":28408,"Ġexecutives":28409,"arding":28410,"Ġadvers":28411,"Ġbackwards":28412,"ĉcontext":28413,"ĠHamp":28414,"ĠPF":28415,"ĠDeck":28416,"ĠCraig":28417,"American":28418,"Ġbell":28419,"Ġprol":28420,"ufen":28421,"Ġrng":28422,"arshal":28423,"ĠSimply":28424,"firstname":28425,"shore":28426,"July":28427,"Ġmortality":28428,"ĠâĨĴĊĊ":28429,"Helpers":28430,"Ġbenchmark":28431,"emade":28432,"Ġorganisations":28433,".gson":28434,"ĠTextField":28435,"Ġcivilians":28436,".Arrays":28437,"ĠMississippi":28438,"Ġintermediate":28439,"getUser":28440,"_cluster":28441,"Relative":28442,"foreign":28443,".querySelectorAll":28444,"ForeignKey":28445,"Ġreasonably":28446,"---------Ċ":28447,"Cards":28448,"ĠKam":28449,"ĠThor":28450,"Ġroller":28451,"-element":28452,"ĠCurrency":28453,"ddie":28454,"ALLY":28455,"ĠRA":28456,"Ġpermet":28457,"aaaa":28458,"Ġhomework":28459,"ĠVit":28460,"Ġmold":28461,"ĠFer":28462,"[start":28463,"Ġstatistical":28464,"Ġscary":28465,"_HOME":28466,".Begin":28467,"Construct":28468,"ogenic":28469,"ĠDEALINGS":28470,"Ġtambién":28471,"ixon":28472,".ind":28473,"acre":28474,"Ġtransforms":28475,"ĠNap":28476,".Block":28477,"ussia":28478,"piration":28479,"ulent":28480,"Ġceil":28481,"Clause":28482,"naire":28483,"TES":28484,"Ġneat":28485,"STD":28486,"ĠRegExp":28487,"perform":28488,":)":28489,"Ġunions":28490,"Ġsublic":28491,"Ġwinds":28492,"loating":28493,"glich":28494,"Ġpagination":28495,"Skill":28496,"Apply":28497,"ĠOperator":28498,"istogram":28499,"Ġqualities":28500,"Cross":28501,"Ġdecom":28502,"],\"":28503,"ĠJuan":28504,".modal":28505,".Child":28506,"ĠRoger":28507,"STITUTE":28508,":CGRectMake":28509,"alette":28510,"Ġsta":28511,"aside":28512,"Ġblur":28513,"ĠWa":28514,"ifetime":28515,"reed":28516,"controls":28517,"Ġbins":28518,"Ġпол":28519,"*/,Ċ":28520,"UIS":28521,"ĠRou":28522,"ĠDemo":28523,"-awesome":28524,"ĠChain":28525,"Ġhasta":28526,"ĠBart":28527,".KEY":28528,"Ġvendors":28529,"nofollow":28530,"ĠDest":28531,"_builder":28532,"Ġargues":28533,"_answer":28534,"goto":28535,"ĠRESULT":28536,"ĠMON":28537,"Ġpoder":28538,"oons":28539,"_CASE":28540,"Ġreplic":28541,"Ġfinancing":28542,"ĠDATE":28543,"cern":28544,"_track":28545,"ties":28546,"/logo":28547,"ĠNEGLIGENCE":28548,"getType":28549,">T":28550,"bet":28551,"girl":28552,"ĠINCIDENTAL":28553,"-site":28554,".trigger":28555,"ĠLisa":28556,"_inputs":28557,"Ġrelatives":28558,"LoggedIn":28559,"Configure":28560,"IK":28561,".accept":28562,"Resume":28563,"ĠDraft":28564,"Ġ*>(":28565,"ĠWA":28566,"edian":28567,"erness":28568,"ĠLayoutInflater":28569,"*/čĊčĊ":28570,"othy":28571,"Ġobligation":28572,"Subscribe":28573,"Ġthumbnail":28574,"exist":28575,"Ġinsisted":28576,"ĠUICollectionView":28577,"ĠAngular":28578,"Ġtablets":28579,"ĠImpact":28580,"ãĢįĊĊ":28581,"aho":28582,"Ġcharacteristic":28583,"gd":28584,"Ġ=================================================":28585,"ourt":28586,"`.":28587,"Appro":28588,"Coordinate":28589,"Remember":28590,"Ġmarine":28591,"]=='":28592,"ĠAdministrator":28593,".getDefault":28594,"Ġforgot":28595,"ĠStructure":28596,"Vue":28597,"arsing":28598,"moment":28599,"kw":28600,"_cursor":28601,"Attack":28602,"Ġathletic":28603,"Ġdiagnosed":28604,"Ġende":28605,"åĪłéϤ":28606,"House":28607,"ĠPARAM":28608,"Ġwiki":28609,"ĠOpp":28610,"Ġconservation":28611,"Ġsnd":28612,"_tem":28613,"substr":28614,"ĠCape":28615,".sim":28616,"UTION":28617,"anan":28618,"âĢĻun":28619,"Ġgy":28620,"-work":28621,"Ġcompelling":28622,"='#":28623,"ĉsub":28624,"Ġdirectories":28625,"íĬ¸":28626,"Ġtouches":28627,"outines":28628,".Collection":28629,"schedule":28630,".lat":28631,"ĠDoctrine":28632,"CAA":28633,"ĠRefer":28634,"Ġshifts":28635,"Ġlikelihood":28636,"preter":28637,"ĠFemale":28638,"Ġintercept":28639,"Ġlou":28640,"çĻ»":28641,"Ġrug":28642,"ĠCrown":28643,"Ġ****************************************************************************":28644,"-product":28645,"Ġprompted":28646,"ungle":28647,"docker":28648,"ĠTu":28649,"ĠUnique":28650,"_Error":28651,"ulos":28652,"ĠâĦ":28653,"Ġ(`":28654,"Getting":28655,"_scal":28656,"ĠEnh":28657,"üt":28658,"Ġsustained":28659,"Ġpatches":28660,"Ġprosper":28661,"ĠGaza":28662,"_light":28663,"Ġincons":28664,"--------Ċ":28665,"ĉĉĠĠĠĠĠĠ":28666,"SF":28667,"CN":28668,":\";Ċ":28669,"ĠCollins":28670,"(*)":28671,"Ġcompilation":28672,"']čĊ":28673,"Ġconsequence":28674,",...":28675,"Ġdm":28676,"ĠBLOCK":28677,"Cluster":28678,"Ġski":28679,"(argc":28680,"Tuple":28681,"Ġjoins":28682,"ĠSheriff":28683,"War":28684,"indi":28685,"Ġcommented":28686,"HOST":28687,"Ġinvitation":28688,"apanese":28689,"Ġpermits":28690,"precedented":28691,"_zone":28692,"ĠAmy":28693,"_RD":28694,"Minimum":28695,"Ġinvocation":28696,".enable":28697,"ichten":28698,"-owned":28699,"\"id":28700,"_POINTER":28701,"Fac":28702,"Ġspecifications":28703,"Ġnomination":28704,"Ġgp":28705,"<(":28706,"Ġrobots":28707,"ĠJerry":28708,"Ġholders":28709,"Ġwand":28710,"cms":28711,"Ġ}))Ċ":28712,".Toast":28713,"ĠIList":28714,"Based":28715,"zoom":28716,"/style":28717,"ĠBeck":28718,"Men":28719,"Ġcontributing":28720,"Ġundo":28721,"ĠOH":28722,"ĠaddObject":28723,"Ġeigen":28724,"signup":28725,"éĶĻ":28726,"Ġdistant":28727,"PARATOR":28728,"ĠMari":28729,"Ġmá":28730,"Emp":28731,"ós":28732,"ĠìĪĺ":28733,"evt":28734,"+j":28735,"park":28736,"ĠStay":28737,"ĠDun":28738,"Ġsoy":28739,">%":28740,"azines":28741,"Ġtiempo":28742,"(me":28743,"present":28744,".This":28745,"Ġeditors":28746,"FIELD":28747,".Work":28748,"ĠUniverse":28749,"Ġdrunk":28750,".timer":28751,"Ġaltered":28752,"ĠNar":28753,"ëł¥":28754,".Active":28755,"idor":28756,"çŃ":28757,".deltaTime":28758,"Ġawkward":28759,""":28760,"ĠSafari":28761,"Ġtricks":28762,"MENTS":28763,"division":28764,"Ġvarying":28765,"ĠHighway":28766,"Ġphotographer":28767,"ĠStewart":28768,"Ġlasting":28769,".Pre":28770,".amazonaws":28771,"ĠLuck":28772,".Description":28773,"ĠNaz":28774,"neg":28775,"Ġcó":28776,"<<\"\\":28777,"ĠSurv":28778,"ĠUnc":28779,"Recipe":28780,".BorderStyle":28781,"Ġmodifications":28782,"-at":28783,"ATFORM":28784,"hdr":28785,"ako":28786,"Ġsublicense":28787,"ĠJump":28788,"Ġbeim":28789,"ĠManhattan":28790,".bool":28791,"_hw":28792,"ÑĤÑĮ":28793,"Bin":28794,"Ġgateway":28795,"\"\":":28796,"ĠUIS":28797,":\"+":28798,"-def":28799,"ĠRegular":28800,"/testing":28801,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":28802,"stringstream":28803,"Ġdispar":28804,"Ġmobil":28805,"-read":28806,"ĠAdapter":28807,"ĠChampions":28808,"Ġscheduler":28809,"Ġkills":28810,"ĠMultiple":28811,"irror":28812,"Ġgods":28813,"ADO":28814,"akte":28815,"ĠUsuario":28816,".circular":28817,"Ġrecept":28818,"ĠExpr":28819,"Ġelderly":28820,"Ġnicely":28821,"Ġbeste":28822,"Want":28823,"Ġclassical":28824,".sprite":28825,"objc":28826,"ĠMason":28827,"Ġsistema":28828,".Black":28829,"eso":28830,"ĠZeit":28831,"Ġdivid":28832,"Ġenters":28833,"_subject":28834,"ĠPlanet":28835,".warning":28836,"ĠGram":28837,"_tokens":28838,"Ġhouseholds":28839,"_customer":28840,"userName":28841,"cross":28842,"Ġpione":28843,"Ġassists":28844,"_SM":28845,"ibo":28846,"Ġloyal":28847,"Ġuseless":28848,"#elif":28849,"ĠUltimate":28850,"Come":28851,"gel":28852,"Ġdich":28853,"xyz":28854,"ikel":28855,"obra":28856,"_scan":28857,"ĠInterior":28858,"ĠNice":28859,"Ġplac":28860,"ĉtarget":28861,"Ġviral":28862,"asso":28863,"()/":28864,"unde":28865,"ĠAdobe":28866,"Os":28867,"visited":28868,"ĠOW":28869,"ĠFeed":28870,"ĠSequence":28871,"Ġmanages":28872,"inson":28873,"ĠLouisiana":28874,"{})":28875,"ĠHab":28876,"ĠLD":28877,"Ġbip":28878,"prites":28879,"(elem":28880,".hibernate":28881,"élé":28882,"Ġohne":28883,"_transaction":28884,"Ġannunci":28885,"Published":28886,"ĠHonda":28887,"ĠTam":28888,"ĠPacket":28889,"_selector":28890,"Ġchallenged":28891,"Processing":28892,"-hover":28893,"Ġtrainer":28894,"_cancel":28895,"ĠNSDictionary":28896,"abric":28897,"ĠMLS":28898,"_sensor":28899,"Ġshrink":28900,"ĠFX":28901,"threshold":28902,"ĉHX":28903,"-mark":28904,"`.`":28905,"Scheme":28906,"(full":28907,"_writer":28908,"ĠSys":28909,"Ġfled":28910,"ĠCin":28911,"-widget":28912,"ĠPrevious":28913,"Gender":28914,"_question":28915,"Feed":28916,"Ġscrut":28917,"(prefix":28918,"ãĢĤãĢĤ":28919,"Ġinfections":28920,"Parts":28921,"Ġhierarchy":28922,"_DELETE":28923,"ĠPatient":28924,"_pay":28925,"Ġpromoted":28926,"Ġìĭ":28927,"Ġcivilian":28928,"Ġagriculture":28929,"ĠPiece":28930,"Ġstance":28931,"utsche":28932,"Assign":28933,".ACTION":28934,"Fig":28935,"_radius":28936,"ĠSync":28937,"ducer":28938,"failure":28939,"ensed":28940,"ptime":28941,"BM":28942,"_datetime":28943,"quivo":28944,"QUEUE":28945,"èĢħ":28946,"Appear":28947,"Ġsummit":28948,":void":28949,"Ġvine":28950,"认":28951,"onne":28952,"_TRANS":28953,".green":28954,"_cc":28955,"Ġhungry":28956,"Ġ\">":28957,"());čĊčĊ":28958,"Extract":28959,"izens":28960,"Ġsolver":28961,"Notify":28962,"Ġenglish":28963,"ĠShopping":28964,"interfaces":28965,"REQ":28966,"Ġilleg":28967,"ĠUIImageView":28968,"Ġdisconnect":28969,"ĠUntil":28970,"ĠConservative":28971,"@Column":28972,"Ġshifted":28973,"Ġ:čĊ":28974,"Ġfich":28975,"Ġdla":28976,"Ġshoe":28977,"\"),čĊ":28978,"ularity":28979,"_RESP":28980,"Weather":28981,"UIApplication":28982,".iterator":28983,"Ġaging":28984,".Parent":28985,"owie":28986,"(equal":28987,"ĠConv":28988,"/default":28989,"Ġmeasuring":28990,".prev":28991,".IsValid":28992,".Fat":28993,"ĠsÄĥ":28994,"keywords":28995,"without":28996,"Ġsovere":28997,"Ġexchanges":28998,"Ġmelt":28999,"Ġislands":29000,"ĠIntegr":29001,"Ġjumping":29002,"Ġgle":29003,"Ġjournalism":29004,"Ġdated":29005,"Localized":29006,"ĠRefresh":29007,"Particle":29008,"Ġaa":29009,"ĠSTRICT":29010,"Ġbod":29011,".Process":29012,"_AUTO":29013,"ĠPublished":29014,"every":29015,"Ġtechnological":29016,"lsx":29017,"Ġirrit":29018,"Additional":29019,"Ġdelimiter":29020,"_language":29021,"-area":29022,"boys":29023,"ĠTube":29024,"Ġwat":29025,"Ġmechanics":29026,"_owner":29027,"Spell":29028,"ĠStories":29029,".AppendLine":29030,"TableView":29031,"hem":29032,"stick":29033,"ollower":29034,"IFF":29035,"ĠUV":29036,"ollision":29037,"SUB":29038,"Ġcomparable":29039,"Ġdonde":29040,"sales":29041,"llvm":29042,"Ġ}],Ċ":29043,"OTTOM":29044,"ĠPurpose":29045,"Lab":29046,"Ġinterviewed":29047,"ois":29048,"asil":29049,".setId":29050,"ĠInstruction":29051,"-->":29052,"ĠModified":29053,"ationally":29054,"ĠMeeting":29055,"误":29056,"#region":29057,"Ġrouting":29058,".focus":29059,"ĠYouth":29060,"<":29348,"Ġunto":29349,"ologically":29350,"ĠMul":29351,"VIDIA":29352,"Ġslim":29353,"ĠCommissioner":29354,"(on":29355,"Ġunderneath":29356,"/db":29357,"vote":29358,"(Message":29359,"ĠPope":29360,"Defined":29361,"Ġswift":29362,"urf":29363,"Ġadapted":29364,"SEL":29365,"Ġrevenues":29366,"Ġdivine":29367,"=y":29368,"Gradient":29369,"_act":29370,"Ġ/*!<":29371,"Ġpolygon":29372,"ĠFDA":29373,"ĠCarr":29374,"atables":29375,"(stdout":29376,"Ġrefriger":29377,"Ġcoordin":29378,"avorites":29379,"ÑĪи":29380,"Ġcompassion":29381,"ĠPOSSIBILITY":29382,"-secondary":29383,"uracy":29384,"Ġcompromise":29385,"_AV":29386,"_os":29387,"Ġbeside":29388,"ĥĿ":29389,"Ġln":29390,".plugins":29391,"Capacity":29392,"alah":29393,".bin":29394,"ĠCRC":29395,"_balance":29396,"ĠflexDirection":29397,"Ġambit":29398,"Ġnickname":29399,"ĠForces":29400,"CLE":29401,"ĠShell":29402,"Ġsail":29403,"ĠWriter":29404,"ĠAlice":29405,"dw":29406,"ĠIndians":29407,"ĠMarshall":29408,"_SRC":29409,"Ġnormalized":29410,"ĠJag":29411,"ãĤĴ":29412,"zeit":29413,"rpc":29414,"ÃŃc":29415,".inline":29416,"Ġtravers":29417,"_numeric":29418,"Ġutilities":29419,"Ġevac":29420,"INPUT":29421,"ĉregister":29422,"MX":29423,"ĠCampbell":29424,"Ġdatasets":29425,"Ġdemanded":29426,"ĠinitialState":29427,"gan":29428,"Ġei":29429,"Unexpected":29430,"-web":29431,"trait":29432,",Y":29433,"ĠTodd":29434,"Ġskeleton":29435,"Ġoptimize":29436,"第":29437,"ĠUpon":29438,"ĠStObject":29439,"Ġaplic":29440,".'P":29478,"vron":29479,".UN":29480,"Ġpainter":29481,"izarre":29482,"Ġlav":29483,"Ġpom":29484,"preg":29485,"=function":29486,"(serial":29487,"ifica":29488,"uming":29489,"åľ°":29490,"ãģĤ":29491,"-op":29492,"UCH":29493,"ĠHend":29494,".propTypes":29495,"Ġyo":29496,"Ġroutines":29497,"Ġcaring":29498,"Sem":29499,"Ġreserves":29500,"Ġpriorities":29501,"redits":29502,"ISTR":29503,"ContentType":29504,"ĠSchw":29505,"/media":29506,"Ġestr":29507,"Ġclimbing":29508,"-week":29509,"cherche":29510,"sensor":29511,"ToArray":29512,"ĠMontreal":29513,"Ġclouds":29514,"ĠInjectable":29515,"ĠRice":29516,"Ġpropaganda":29517,"_provider":29518,"Ġindoor":29519,"Ġinaug":29520,"Ġdiplom":29521,"Ġmessaging":29522,"_mut":29523,"å¦Ĥ":29524,"Ġkw":29525,"ONS":29526,"arians":29527,"RPC":29528,")]čĊ":29529,"-ray":29530,"ĠSor":29531,"mall":29532,"Ġmarketplace":29533,"Ġvtk":29534,"Ma":29535,"ogan":29536,"igi":29537,"Ġsponsored":29538,"ĠDani":29539,".SEVER":29540,">'.$":29541,"multipart":29542,"ĠWol":29543,"ĠtableName":29544,"ĠUsername":29545,"BackgroundColor":29546,"Ġfright":29547,"_EMAIL":29548,"September":29549,"_vals":29550,"opia":29551,"Ġspotted":29552,"-Ch":29553,"ĠdataSource":29554,"/\"Ċ":29555,"екÑĤ":29556,"ĠRequestMethod":29557,"ĠReplace":29558,"-do":29559,"ahn":29560,"ĠPhD":29561,"].ĊĊ":29562,"NON":29563,"gement":29564,"ĠThr":29565,"Ġquietly":29566,"Ġtorture":29567,"Ġteas":29568,"ĠCY":29569,"Ġatr":29570,"development":29571,"-detail":29572,"Ġlighter":29573,"Ġarguing":29574,"Ġdeserves":29575,"Ġcurriculum":29576,"_CONTEXT":29577,"ÅĤy":29578,"HITE":29579,"ĉID":29580,"/uploads":29581,"Ġtits":29582,"reo":29583,"_drop":29584,".UTF":29585,"Ġpickup":29586,"Ġgrocery":29587,"ĠPure":29588,"Ġeasiest":29589,"Phil":29590,".feature":29591,"(\"*":29592,"Ġinvestor":29593,"tok":29594,"Ġjar":29595,"Los":29596,"âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ":29597,".queue":29598,"-speed":29599,"Mal":29600,"umblr":29601,"ĠCONST":29602,"ĠHRESULT":29603,"ĠDance":29604,"(filePath":29605,"Ġattributed":29606,"à¥į":29607,"ĠBund":29608,"coins":29609,"Ġsão":29610,"Ġpir":29611,"personal":29612,"Ġprelim":29613,"Ġpropose":29614,"ĠTL":29615,"]])":29616,"ĠSubscription":29617,"ĠKre":29618,",len":29619,".FirstOrDefault":29620,")--":29621,"_products":29622,".GetBytes":29623,"Ship":29624,"Ġencrypt":29625,"ĠSG":29626,"ĠMyst":29627,"hir":29628,"Ġiterate":29629,"Ġintend":29630,".mockito":29631,"Ġchapters":29632,"(angle":29633,"ĠVlad":29634,"设":29635,"'.ĊĊ":29636,"ResponseBody":29637,"ĠAbd":29638,"deal":29639,"Ġbarriers":29640,"-outline":29641,"bill":29642,"ĠFalls":29643,"_second":29644,".include":29645,".ceil":29646,"Ġoccupation":29647,"phony":29648,".moveTo":29649,"ĠJennifer":29650,"ASTER":29651,";\"><":29652,"ĠEnabled":29653,"Ġterminate":29654,"ĠIo":29655,"lations":29656,"ĠTHEORY":29657,"Ġearliest":29658,"Ġrack":29659,"ĠScar":29660,"shake":29661,"chip":29662,"Ġuv":29663,"Ġalliance":29664,"пиÑģ":29665,"ĠGOODS":29666,"zione":29667,"ĠVI":29668,"Ġ{-":29669,"Ġfiltering":29670,"Ġmiscon":29671,".DockStyle":29672,"Ġbush":29673,"Ġjunk":29674,"æĮ":29675,"ĠQUE":29676,"Ġhooks":29677,"Ġfirmware":29678,"Ġmiddleware":29679,"dic":29680,"ĠOakland":29681,"Ġarrives":29682,"Payload":29683,"pixel":29684,"]|":29685,"ĠstartDate":29686,".PRO":29687,"_audio":29688,"Ġmidfield":29689,"igidbody":29690,"ĠSwiss":29691,"ĠClip":29692,"ĠDump":29693,"ĠTextBox":29694,"Ġgeh":29695,"yield":29696,"ods":29697,"Ġreferendum":29698,"Backend":29699,"ĠCream":29700,"Ġdominated":29701,"ĠArchive":29702,"Ġriders":29703,".prepareStatement":29704,"Ġquando":29705,"Ġchef":29706,"wiki":29707,"inel":29708,"ampling":29709,"(\"\\\\":29710,"Ġsag":29711,"_proxy":29712,"ãģķ":29713,"pdo":29714,".getElementsByTagName":29715,"Ġdemonstration":29716,"ĠNPC":29717,"Ġarchivo":29718,"endance":29719,"Ġefficiently":29720,"(actual":29721,".tableView":29722,"Ġmush":29723,"Ġbears":29724,"_threads":29725,"jas":29726,"ahun":29727,"Ġneural":29728,"Ġdesigning":29729,"ĠGDP":29730,"Ġlifted":29731,"缮":29732,"ĠJoint":29733,"ĠInclude":29734,"ĠGiants":29735,"Ġwithdrawal":29736,"ĠRent":29737,"native":29738,"ĠSeek":29739,"gression":29740,"_CPU":29741,"\\S":29742,"ĠShield":29743,"Ġsolic":29744,"Ġboom":29745,"yecto":29746,"Ġmanufacture":29747,"ĠâĢĭ":29748,"Ġbbox":29749,"Ġearthqu":29750,"ollectors":29751,":@\"%":29752,"Ġloops":29753,"Je":29754,"alking":29755,"ĠWhats":29756,"ĠBoys":29757,".book":29758,"ARGE":29759,"_pixel":29760,"Ġsuspects":29761,"ι":29762,"usp":29763,"ĠBMW":29764,"ieces":29765,"(person":29766,"å¼Ģ":29767,"é»":29768,"ĠPodcast":29769,"Ġbou":29770,"(Item":29771,"û":29772,"(Input":29773,"HttpGet":29774,"Ġburg":29775,")^":29776,"BOARD":29777,"*/,":29778,"Ġgulp":29779,"ĠBenn":29780,"Ġdecks":29781,".statusCode":29782,"Ġacute":29783,"Ġhug":29784,"ugu":29785,"Ġpled":29786,",\"%":29787,"hape":29788,"Ġзап":29789,"ĠMaine":29790,".real":29791,"Ġdalam":29792,"ĠMinor":29793,".Float":29794,"disp":29795,"Ġtl":29796,"Ġencount":29797,"=>$":29798,"Ġfg":29799,"tees":29800,"ĠRecomm":29801,"äl":29802,"Ġchemistry":29803,"Blocks":29804,"OID":29805,"Ġforex":29806,"ĠAppend":29807,"Ġ{*":29808,"ĠSupply":29809,"CGFloat":29810,"(bl":29811,"Ġate":29812,"adora":29813,"Ġgust":29814,"Associ":29815,">.Ċ":29816,"FETCH":29817,".serial":29818,"widgets":29819,"ardless":29820,"iefs":29821,"_FULL":29822,"ernetes":29823,"ĠPred":29824,"ØŃ":29825,"äºĭ":29826,"ubernetes":29827,"ĠLaura":29828,"Ġlabeled":29829,"Highlight":29830,"Ġannoying":29831,"/update":29832,"(description":29833,"Ġintimid":29834,"$c":29835,"\")))Ċ":29836,".AP":29837,"Ġ[]*":29838,"ĠEXIT":29839,".Host":29840,"ĠOPEN":29841,".sendMessage":29842,"_camera":29843,"_tile":29844,"Ġtherm":29845,"onomous":29846,"Ġdisadv":29847,"Ġnaar":29848,"indexOf":29849,"ĠPP":29850,".protocol":29851,"AFE":29852,"Ġtextures":29853,"################################################":29854,"umbai":29855,".stats":29856,"ĠGE":29857,"Ġie":29858,"ĠSTD":29859,"ĠMann":29860,".reflect":29861,"KB":29862,"Ġdive":29863,".wav":29864,"/*----------------------------------------------------------------":29865,"/settings":29866,".lifecycle":29867,"Ġdaughters":29868,"orus":29869,"uber":29870,"NING":29871,"stri":29872,"ĠTip":29873,"Ġzn":29874,"Ġswitched":29875,"inet":29876,"uffy":29877,"ĠTransportation":29878,"(conf":29879,"frica":29880,"ĠXL":29881,"ĠLead":29882,"_percent":29883,"__":29899,"permissions":29900,"ĠDetermine":29901,".Man":29902,"Ġadvances":29903,".InputStream":29904,"Ġstrongest":29905,"ĠeBay":29906,"Ġ#-":29907,"Ġdirname":29908,"ĠSMS":29909,"Ġmedications":29910,"Ġamended":29911,"Ġchurches":29912,"ĠImperial":29913,"$row":29914,"ĠMadison":29915,"ĠInsp":29916,"Ġaffair":29917,"Ġpsychology":29918,"vh":29919,"Ġseverity":29920,"âĢIJ":29921,"Ġstrips":29922,"AH":29923,"vertising":29924,"Ġconse":29925,"IMAGE":29926,"ĠStats":29927,"ĉsc":29928,".Cursor":29929,"Ġfreeze":29930,"sson":29931,"(xml":29932,"ĠSusan":29933,".tile":29934,"eded":29935,"ĠĠĠĠĉĉĉ":29936,"uelle":29937,"ĠMitchell":29938,"based":29939,"Operand":29940,"½æķ°":29941,"ĠFF":29942,"ĉstrcpy":29943,"ounces":29944,"ildo":29945,".executeQuery":29946,"Ġapproaching":29947,"ĠSeven":29948,"Ġnuts":29949,"Ġric":29950,"assignment":29951,"Ġcalculator":29952,"ĠMurphy":29953,"ĠBou":29954,"íĦ":29955,"Ġbutt":29956,"Ġticks":29957,"Projects":29958,"ilib":29959,".textColor":29960,"mov":29961,"_logo":29962,"(template":29963,"ĠINIT":29964,"ĠimageView":29965,"scriptions":29966,"ORITY":29967,"Consumer":29968,"Ġunprecedented":29969,"Ġtourist":29970,"Ġbron":29971,"Ġcontractor":29972,"Ġlicence":29973,"ĠNam":29974,"æ¯":29975,"(transform":29976,"_ATT":29977,"Pref":29978,"ĠGam":29979,"Ġvessels":29980,"Ġhav":29981,"Later":29982,".ToLower":29983,"Ġurls":29984,"Ġbreakdown":29985,"Ġpenalties":29986,"Ġfoster":29987,"ĠUE":29988,"Ġclue":29989,"comed":29990,"åIJįç§°":29991,"-main":29992,"Ġpts":29993,"Ġcounted":29994,"icts":29995,"/post":29996,"Ġgetattr":29997,"Ġping":29998,"ANCEL":29999,"Ġpec":30000,"Ñħод":30001,"antom":30002,"ĠBlueprint":30003,"ĠEventEmitter":30004,"Ġlä":30005,"æ²":30006,"Ġstraw":30007,"(comp":30008,"'une":30009,">N":30010,"-client":30011,"esModule":30012,"-base":30013,"Ġretreat":30014,"_simple":30015,"ĉĉĉĉĉĉĠ":30016,"fee":30017,"')čĊčĊ":30018,"ControlItem":30019,"Ġsubscribers":30020,"please":30021,"ĠEff":30022,"Ġpound":30023,"ĠBytes":30024,"ĠTea":30025,"_activity":30026,"Ġmaxim":30027,"Ġopcode":30028,"BSD":30029,".constant":30030,";}":30031,"ombres":30032,"Ġcareers":30033,").ĊĊĊĊ":30034,"Ġspreading":30035,"-expanded":30036,"ĠOrd":30037,"amarin":30038,"Ġmobility":30039,"Unfortunately":30040,"akk":30041,"NL":30042,"_redirect":30043,"ĠPG":30044,"ĠSensor":30045,"bol":30046,"tap":30047,"_MEMORY":30048,"ĠUIAlert":30049,"plitude":30050,"Website":30051,"ĠLogo":30052,"love":30053,"[ind":30054,"Ġaltogether":30055,"Ġwondered":30056,"Ġesper":30057,"ĠLiberal":30058,"Ġoss":30059,"Ġelit":30060,"Ġstiff":30061,"odox":30062,"_mentions":30063,"ĠDouglas":30064,"_pid":30065,"ĠCK":30066,"ĠinitWithFrame":30067,".blog":30068,"pkg":30069,"anghai":30070,"QUIRED":30071,"uu":30072,"Ġmkdir":30073,"ATAL":30074,"Ġunh":30075,"inces":30076,"sth":30077,"Ġhypothesis":30078,"Ġcata":30079,"ĠTB":30080,"ĠClar":30081,"Ġpredecess":30082,"Ġsituated":30083,"-world":30084,"))/":30085,"Ġheadlines":30086,".stat":30087,"Ġoutbreak":30088,"spath":30089,"_FLAGS":30090,"ĠServletException":30091,"Sun":30092,"FROM":30093,"ĠDir":30094,"ãĥ»ãĥ»ãĥ»":30095,"_coord":30096,"ĠOptim":30097,"Monitor":30098,".bit":30099,"XXX":30100,"Ġtodas":30101,"feld":30102,"ÑĢи":30103,"imir":30104,"Ġpolitically":30105,"Ġmolecular":30106,"Ġtraded":30107,"Ġ{{$":30108,"ĠSwedish":30109,"Ġ'@/":30110,"_REAL":30111,"Ġwarehouse":30112,"today":30113,",L":30114,"orp":30115,"false":30392,"Ġspa":30393,"ĠNear":30394,"ìķ":30395,"Ġintrig":30396,"_members":30397,"wave":30398,"Ġanalysts":30399,"_OS":30400,"edin":30401,"ĠFri":30402,"Ġretrieved":30403,"Regular":30404,"_obs":30405,"EXPORT":30406,"')}}\"":30407,"\"class":30408,"__((":30409,"bucket":30410,"Ġstro":30411,"ĠPatch":30412,"ystick":30413,"fulness":30414,"apos":30415,"Da":30416,"ĉĉĉĉĉĠĠĠ":30417,"Ġenrich":30418,"unordered":30419,"hole":30420,"Cong":30421,"';ĊĊ":30463,"STRUCT":30464,"QR":30465,"IDs":30466,"(arguments":30467,"_aux":30468,"(Event":30469,"_PRIVATE":30470,"ĠTrek":30471,"Ġdownloads":30472,"mutable":30473,"_STRUCT":30474,"(wx":30475,"Ġdomains":30476,"jspx":30477,"ĠViagra":30478,"Commands":30479,"Js":30480,".cfg":30481,"ContentPane":30482,"ĠEditText":30483,"à¥įà¤":30484,"Attach":30485,"ĠARM":30486,"positive":30487,"ĠGenerated":30488,"Ġseized":30489,"=:":30490,"Ġelectronics":30491,"ĠAppComponent":30492,"/',Ċ":30493,".equalsIgnoreCase":30494,"Doctrine":30495,"disk":30496,"ĠPolitical":30497,"CHO":30498,"":30584,"ĠBeauty":30585,"Ġ`<":30586,"Ġtouching":30587,"Ġ|--":30588,"ĉflag":30589,"normalize":30590,"Ġtrapped":30591,"Ġestablishing":30592,"/build":30593,"AJ":30594,"fy":30595,"-react":30596,"avn":30597,"RIPTION":30598,"Ġkut":30599,"ĠFashion":30600,"ĠInform":30601,"curities":30602,"{Ċ":30634,"Ġgarlic":30635,"Ġrepr":30636,"Ġreplies":30637,"(prop":30638,"Ġspirits":30639,"Ġinspire":30640,"Ġbasement":30641,".reject":30642,"Ġhints":30643,"Ġpolling":30644,"ĉĠĊ":30645,"_rating":30646,"Ġcath":30647,"avier":30648,"Ġcompressed":30649,"ĠVS":30650,"]'":30651,"Ġjudicial":30652,"ĠTrend":30653,"training":30654,"ESTAMP":30655,"ognition":30656,"Äģ":30657,"SENT":30658,"ventions":30659,"Ġconsultant":30660,"umph":30661,"ĠuserService":30662,",NULL":30663,"kh":30664,"Dear":30665,"_BAD":30666,"itations":30667,"Ġmetaph":30668,"'é":30669,"andise":30670,"-font":30671,".chart":30672,"Ġsg":30673,"_Controller":30674,".jpeg":30675,"ĠULONG":30676,"ĉgame":30677,"(ss":30678,"ĠMaj":30679,"ĉgo":30680,"ĠSad":30681,"ĠBerg":30682,"ĠMine":30683,"Pack":30684,"Ġresistant":30685,"ĠROM":30686,"Ġpeg":30687,"ĠStanford":30688,"ĠYahoo":30689,"Ġscaled":30690,"Ġlan":30691,"=[]":30692,"\"/>ččĊ":30736,"Ġsud":30737,"ĉbackground":30738,"Ġscholars":30739,"-muted":30740,"ará":30741,"Ġ=====":30742,"Ġ____":30743,"Creat":30744,"enever":30745,"/wp":30746,"ĠVPN":30747,"ErrorCode":30748,")],Ċ":30749,"(builder":30750,"ĠEnemy":30751,"Sensor":30752,"usa":30753,"Ġtriggers":30754,"Ġplayoffs":30755,"_REQ":30756,"Ġ(~":30757,"ĠBarry":30758,"Ġpermanently":30759,"ĠRUN":30760,"Ġbure":30761,".Fatalf":30762,"Ġchick":30763,"ĉpanic":30764,"psi":30765,"oka":30766,"éĢī":30767,">[":30768,"Ġunderstands":30769,"ĠJunior":30770,"ĠINFO":30771,"=mysqli":30772,"ustain":30773,"-source":30774,"serv":30775,"ĠCREATE":30776,".au":30777,"Ġsells":30778,"ĠĠĊĠĠĊ":30779,"Europe":30780,"zw":30781,"preh":30782,"ĠNSA":30783,"Ġxy":30784,"ิ":30785,"ĠBeyond":30786,"Instead":30787,"NonQuery":30788,"Ġarise":30789,"Ġavoided":30790,".emplace":30791,"_models":30792,"}),Ċ":30793,"Ġhid":30794,"Ġ&_":30795,".points":30796,".getWidth":30797,".Exec":30798,"Ġ////":30799,"ĠSessions":30800,"...\\":30801,"ĠColomb":30802,"Ġacceleration":30803,"restore":30804,"Ġile":30805,"obic":30806,"}Ċ":31296,"plaint":31297,"getText":31298,"Ġindividually":31299,"Ġcheckbox":31300,"UY":31301,"ĠLamb":31302,"Ġdysfunction":31303,"ĠLar":31304,"à°":31305,"ĠCreating":31306,"');ĊĊĊ":31307,"\"They":31308,"locations":31309,"_CORE":31310,"Interaction":31311,"umbnails":31312,"ĠPartner":31313,"brit":31314,"Ġlesser":31315,"ĠSlot":31316,"setAttribute":31317,"ĠWave":31318,".po":31319,"/store":31320,"Ġbrowsing":31321,"_pd":31322,"sume":31323,"sed":31324,"Curve":31325,"Ġplasma":31326,"Ġsuspicious":31327,"ìĿ¸":31328,"ĠBah":31329,"ĠExplicit":31330,"_CC":31331,".ClientSize":31332,"\\View":31333,"Ġsubstit":31334,"loon":31335,"ĠGAME":31336,"ĠBrid":31337,"Ľå»º":31338,"_User":31339,"Ġsquares":31340,"fone":31341,"Ġsacred":31342,"ughs":31343,"]interface":31344,"ĠThrow":31345,"ĠKirk":31346,"Ġempire":31347,"Ġassessed":31348,"Tax":31349,"ĠHeaven":31350,"-buffer":31351,"_STATIC":31352,"éné":31353,"-bordered":31354,"Ġpunct":31355,"(mode":31356,"Ġkeine":31357,"Sent":31358,"ĠCalcul":31359,"ĠEve":31360,"Ġstylish":31361,"Ġoils":31362,".TestCase":31363,"Ġtrademark":31364,"Ġliterary":31365,"Ġconcentrations":31366,"ĠRelations":31367,"(Class":31368,"Ġstdin":31369,"Ġvæ":31370,"backup":31371,".VERSION":31372,".AutoScaleDimensions":31373,"starter":31374,"Transactional":31375,"-panel":31376,"Studio":31377,"kc":31378,"ĠChamber":31379,"ĠSpiel":31380,"Ġrho":31381,"اÙĦ":31382,"!'":31383,".Attributes":31384,"Ġmurdered":31385,"apeutic":31386,"Ġintimate":31387,"ĠtextField":31388,"ĠBuffalo":31389,"dummy":31390,"\"%":31391,"ĠLiberty":31392,"obar":31393,"ĠTank":31394,"ĠPopular":31395,"ervisor":31396,"ĠIniti":31397,"ĠMall":31398,"ĠPrior":31399,"CAP":31400,"ĠClay":31401,"ĠCertificate":31402,".Lock":31403,"-strip":31404,"-driven":31405,"/all":31406,"ĠMessageBoxButtons":31407,"_SECRET":31408,"_pb":31409,"Ġrats":31410,"ाà¤":31411,"Ġnt":31412,".Router":31413,"_topic":31414,"Ġtennis":31415,"ĠPUBLIC":31416,"ĠActivatedRoute":31417,"Ġ',Ċ":31418,"Ġcostume":31419,"Ġjokes":31420,".Handle":31421,"ĉbyte":31422,"Ġflavors":31423,"(cc":31424,"Ġpersonas":31425,"ĉimage":31426,"ĠNazi":31427,"Ġgrammar":31428,"Ġúlt":31429,"Ġvalve":31430,"Ġvic":31431,"ĠRachel":31432,"_invalid":31433,"Prefs":31434,"stdint":31435,"(route":31436,"Ġhtmlspecialchars":31437,"Ġpeoples":31438,"pline":31439,"Ġnv":31440,"ĠQuant":31441,"oppers":31442,"ĠcurrentUser":31443,"ĠCatal":31444,"Ġreconc":31445,"Ġconjunction":31446,"lx":31447,"amburg":31448,"Ġinfluential":31449,"danger":31450,"inders":31451,"Ġ%@\",":31452,".configuration":31453,"osome":31454,".identity":31455,"Ġpicker":31456,"nost":31457,"ĠDIY":31458,"August":31459,"ablo":31460,"Leaf":31461,"ĠReco":31462,"cko":31463,"DOC":31464,"ĠHerm":31465,":any":31466,"ĠInterview":31467,"ĠTex":31468,"xfe":31469,"(work":31470,"Ġleap":31471,"Heading":31472,"Ġquarters":31473,"\\Bundle":31474,"reb":31475,"Perhaps":31476,"ĠGmbH":31477,"Birth":31478,"ĉsum":31479,"ĠWatson":31480,".nil":31481,"ç¡":31482,"{}ĊĊ":31483,"icaid":31484,"Getter":31485,"\"name":31486,"Ġ\"čĊ":31487,"_none":31488,"zm":31489,"acute":31490,"uesto":31491,"Ġsous":31492,"Ġrebuild":31493,"Ġnewspapers":31494,"ĠHaz":31495,"Ġkits":31496,"ifo":31497,"Blur":31498,"Ġsuited":31499,"-In":31500,"à¯":31501,"ĠKeith":31502,"ĠNorway":31503,"INIT":31504,"ireccion":31505,"ieties":31506,"_usage":31507,"ĠDoug":31508,"rise":31509,"Ġtrillion":31510,"imited":31511,"ĠREL":31512,"alic":31513,"Ġcriticized":31514,"theorem":31515,"Ġcease":31516,"Ġsidew":31517,"ĠTerry":31518,"Ġsubsidi":31519,"Ġfirmly":31520,"Ġaws":31521,"Ġhott":31522,"Ġdressing":31523,"badge":31524,"ĠApplications":31525,"è¿ĶåĽŀ":31526,"Ġlaughed":31527,"Ġhobby":31528,"Ġmusicians":31529,"Ġ*.":31530,".placeholder":31531,"Ġcounters":31532,"ĠCapitol":31533,"SDK":31534,"Ġhelmet":31535,"andbox":31536,"quit":31537,"Ġcriminals":31538,"Ġteenager":31539,"(update":31540,"Gl":31541,".selection":31542,"Ġdischarge":31543,"Ġpresenting":31544,"ufacturer":31545,"_UNKNOWN":31546,"Ġstressed":31547,"åύ":31548,"Proto":31549,"_correct":31550,"haus":31551,"Ġrenov":31552,"Ġfirearms":31553,"Ġtechnically":31554,"-browser":31555,"Ġcandy":31556,"Stroke":31557,"Ġexecutor":31558,"Ġoccurrence":31559,"ĠIPv":31560,"_INTERFACE":31561,"ĠRetrieve":31562,".bad":31563,"Exchange":31564,"Navbar":31565,"ĠKid":31566,"(getApplicationContext":31567,"_STOP":31568,"ĠBoss":31569,"Listeners":31570,"Ġshooter":31571,"ĠAlb":31572,"äch":31573,"Ġpix":31574,".keyCode":31575,"alone":31576,"Ġabsurd":31577,"ĠCum":31578,"ĠNewtonsoft":31579,"ikt":31580,"Ġlaughing":31581,"Ġcapitalism":31582,"reeNode":31583,"Tx":31584,"_QUERY":31585,".Sleep":31586,"(login":31587,"WebElement":31588,"Ġcelebrating":31589,"Ġdeprecated":31590,"Ġmaar":31591,"Ġartistic":31592,"_ASSOC":31593,"ĠBorderRadius":31594,"ĉwp":31595,"Ġsurvivors":31596,"Inner":31597,"-red":31598,"Ġprosecution":31599,"_pp":31600,"(\"$":31682,"Ġcomma":31683,"unchecked":31684,"graphics":31685,"rors":31686,"GROUND":31687,"(public":31688,"Ġcustomized":31689,"ĠArkansas":31690,"ĠRew":31691,"Ġexpiration":31692,"×ķ":31693,"ĠCul":31694,"Ġnons":31695,".Filter":31696,"Ġsenator":31697,"_definition":31698,"ashington":31699,"ymph":31700,"/J":31701,"Ġfuse":31702,"ramid":31703,"ĠSupplier":31704,"Ġautocomplete":31705,"Ġ}),":31706,".\"ĊĊĊ":31707,"_functions":31708,"ĉto":31709,".eval":31710,"ĠTObject":31711,"References":31712,"Ġheated":31713,"HAL":31714,"Ġ))}Ċ":31715,"}$":31716,"ĠBarr":31717,"_UNIT":31718,"+$":31719,"ĠgetValue":31720,"iped":31721,"chied":31722,"(vm":31723,"cue":31724,"_integer":31725,"_course":31726,"third":31727,"Ġrevised":31728,"**/Ċ":31729,"_DIRECT":31730,"OutOf":31731,"(\"(":31732,"ĠFeel":31733,"Ġreass":31734,"Ġsubtitle":31735,"peri":31736,"nf":31737,"Ġenjoys":31738,"Ġtreats":31739,")this":31740,"-tabs":31741,"ancers":31742,"Ġcontinent":31743,"Ġcardio":31744,"Ser":31745,".question":31746,"Ġphrases":31747,"Validators":31748,"Ġpopul":31749,"ĠlÃŃ":31750,"song":31751,"_INTERNAL":31752,"Ġadviser":31753,"Ġpuzz":31754,"Ġambitious":31755,"ĠTob":31756,"ĠDP":31757,"Ġpresidency":31758,"Ġsurrender":31759,"Ġwatches":31760,"_binary":31761,"ĠSoon":31762,"Ġcanada":31763,"(\"\")Ċ":31764,"]='":31765,"ĠBrandon":31766,"epsilon":31767,"rw":31768,".addChild":31769,".Copy":31770,"Principal":31771,"Photos":31772,"Ġmarginal":31773,"Ġbasics":31774,"eing":31775,"Must":31776,"_String":31777,"Ġole":31778,"Magento":31779,".customer":31780,"(prev":31781,"ล":31782,"Ġloyalty":31783,"Cog":31784,"Ġprotocols":31785,"ĠCompanies":31786,"Ġtheoretical":31787,"Ġaccessing":31788,"ĠZen":31789,".ones":31790,"attice":31791,"_world":31792,"zes":31793,"Ġtattoo":31794,"Ġmenos":31795,"Ġintersect":31796,"\"];ĊĊ":31797,"belie":31798,"Ġinactive":31799,".readline":31800,"-labelled":31801,".done":31802,"lickr":31803,"ĠWORK":31804,"Ġderivative":31805,"Ġdatabases":31806,"âĤĤ":31807,"Ġsx":31808,".isArray":31809,"Ġys":31810,"Ġpada":31811,"ĠBullet":31812,"(`/":31813,"isActive":31814,"ĠCGSize":31815,"(equalTo":31816,"ĠColumbus":31817,"Ġmarry":31818,"DEV":31819,"_limits":31820,"rones":31821,"IAS":31822,"Ġtau":31823,"mino":31824,"_Write":31825,"ĠWine":31826,"Ġ[['":31827,"ĠPull":31828,"riters":31829,"rients":31830,"Ġshifting":31831,"upp":31832,"_TIMER":31833,"ĠConditions":31834,"ấ":31835,"ĠOrders":31836,"ĠStrength":31837,"æīĢ":31838,"Ġvalidity":31839,"Ġfot":31840,"etur":31841,"Ġbolt":31842,"åĨħ":31843,"ĠAlong":31844,"oshi":31845,"Ġassumptions":31846,"Ġmagazines":31847,"_SPI":31848,"Ġpunt":31849,"_PRODUCT":31850,"Ġrelay":31851,"ĠJavascript":31852,".te":31853,"-es":31854,"Ġwidgets":31855,"(fs":31856,"\";":31923,"atching":31924,"ĠKnowledge":31925,"ĉThe":31926,";margin":31927,"lessness":31928,"opard":31929,"umatic":31930,"()));čĊ":31931,"Ġfals":31932,"(cache":31933,"TypeId":31934,"éĢļ":31935,"_choice":31936,"ĠGoth":31937,"ĠSites":31938,"MG":31939,"_border":31940,"Indices":31941,"Comparer":31942,"ĠRedistribution":31943,"Ġcloset":31944,"Ġversatile":31945,"Inputs":31946,"********************":31947,"Ġobesity":31948,"quiz":31949,"gra":31950,"(global":31951,"åĬ¡":31952,"Ġcollector":31953,"Ġkor":31954,"ovable":31955,"ADC":31956,"ĠEventHandler":31957,".nc":31958,"Ġplayback":31959,"ientos":31960,"_perm":31961,"_WARNING":31962,"ĠOlympics":31963,".norm":31964,"ĠBroadcast":31965,"_small":31966,"drive":31967,".iloc":31968,"Ġtyped":31969,"MEM":31970,"_cons":31971,"DMETHOD":31972,"Ġlun":31973,".distance":31974,"(par":31975,"poon":31976,"Ġbast":31977,"activities":31978,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":31979,":čĊčĊ":31980,"SER":31981,")&&":31982,"_lst":31983,"ĠPolish":31984,"Ġknocked":31985,"Ġfrustration":31986,"aukee":31987,"Ġphosph":31988,"iquid":31989,"_coeff":31990,"æŃ¤":31991,"Latest":31992,"ĠDust":31993,"Tipo":31994,"Ġmaintains":31995,"Ġmarsh":31996,"incinn":31997,"lbl":31998,"Care":31999,"Ġneighborhoods":32000,"_gpio":32001,"ĠArsenal":32002,"Dem":32003,"ĠWhe":32004,"_hook":32005,"Ġldc":32006,"ĠHarper":32007,"ĠBerkeley":32008,"Ġgraduated":32009,"Percent":32010,"Ġarriving":32011,"ĠAdventure":32012,"(scope":32013,"('*":32014,"quarter":32015,"ĠMarie":32016,"Speaking":32017,"_codegen":32018,"Ġimmun":32019,"caster":32020,"ãĤĮ":32021,"åķĨ":32022,"ĠDimensions":32023,".record":32024,"Ġtexto":32025,"ĠMichelle":32026,"Pending":32027,"(by":32028,"_PAR":32029,"ucht":32030,"bee":32031,".Thread":32032,"ampire":32033,"know":32034,"ĠClinical":32035,"ĠmarginBottom":32036,"Ġdistinguish":32037,".Full":32038,".undefined":32039,"ĠSequelize":32040,"############################################################################":32041,"Ġeducated":32042,"_OVER":32043,"åºı":32044,"ĠÂłĠÂł":32045,"_each":32046,"Ġurge":32047,"depart":32048,"Ġdonors":32049,"ĠAu":32050,"Ġbillions":32051,"Ġbelonging":32052,"_age":32053,"_Int":32054,"Ġsubstances":32055,"machine":32056,"!!!ĊĊ":32057,"Ġjsonify":32058,"ibbean":32059,"ĠCad":32060,"ĠendTime":32061,"Ġcycling":32062,"ĠUITextField":32063,"Ġleverage":32064,"Ġvanilla":32065,"eat":32066,"Launch":32067,"(pt":32068,"states":32069,"ĠControls":32070,"ĠRespons":32071,"ĠJake":32072,"Ġasleep":32073,"fortunate":32074,".nextLine":32075,"SizeMode":32076,"ìĿ¼":32077,"TestingModule":32078,"German":32079,"ĠInvestig":32080,".reverse":32081,"ĠBACK":32082,"(DateTime":32083,"Ġnonprofit":32084,"ĠExpect":32085,"Ġtanto":32086,"']),":32087,"ĉthe":32088,"Multiple":32089,"(getActivity":32090,"_WAIT":32091,"Ġjá":32092,"decor":32093,"levance":32094,"ĠGitHub":32095,"mination":32096,"_quantity":32097,".Scanner":32098,"ĠLion":32099,"éĶĻ误":32100,"Ġdre":32101,"Ġtantra":32102,"ĠcontentType":32103,"Ġfid":32104,"_alt":32105,"NSIndexPath":32106,"-pl":32107,"åĮĸ":32108,"Ġantibiot":32109,"tables":32110,"acial":32111,"ĠRegistry":32112,"Ġolive":32113,"igers":32114,"Ġsubscriber":32115,"_pres":32116,"ĠSyntax":32117,"Ġlovers":32118,".Byte":32119,"olders":32120,"_forward":32121,"always":32122,"Caption":32123,"Priv":32124,"ĠTampa":32125,"isateur":32126,"-labelledby":32127,"ĠToString":32128,"ĠìĤ¬":32129,"Ġinitiated":32130,"WF":32131,"Ġinstitutional":32132,"inject":32133,"ĠScr":32134,"Ġdoctrine":32135,"Ġspacious":32136,"isure":32137,"ĠAna":32138,"\"time":32139,"essaging":32140,"Ġcid":32141,"ĠNan":32142,"Ġincomplete":32143,"TAG":32144,"-build":32145,"December":32146,"Ġresidual":32147,"(PDO":32148,"ĠListen":32149,"Ġglyph":32150,"Ġgaps":32151,"nea":32152,".Rect":32153,"Ġsau":32154,"ĠPhotograph":32155,"Ġexecutable":32156,"ĠExpert":32157,"Coroutine":32158,"_sizes":32159,"ĠNL":32160,".isValid":32161,");}Ċ":32162,"-reg":32163,"Ġciting":32164,"cwd":32165,"ĠOttawa":32166,"ĠBatt":32167,"Ġrenewable":32168,"Ġpreliminary":32169,"Ġasylum":32170,"Ġwrist":32171,"Ġutiliz":32172,"Ġdetention":32173,"Fast":32174,"Ġange":32175,"incinnati":32176,"Ġsteering":32177,"ĠNaN":32178,"iosity":32179,"/page":32180,"Ġè¿":32181,"sterol":32182,"Ġdisg":32183,"(DB":32184,"ĠDESCRIPTION":32185,"Ġ_$":32186,"Ġobstacle":32187,"Ġbizarre":32188,"Ġextraction":32189,"_expected":32190,"Ġloses":32191,"ĠCelebr":32192,"ĠhtmlFor":32193,"Ġexploit":32194,"олÑĮзов":32195,"XYZ":32196,"Ġmagnet":32197,"amped":32198,"Ġatoms":32199,"Sources":32200,"pectives":32201,"Ñģли":32202,"Ġ=čĊ":32203,"Ġdare":32204,"ĠWalter":32205,"Ġbrightness":32206,"Ġannotations":32207,"ëı":32208,"iske":32209,"Schedule":32210,".images":32211,"rosso":32212,"Ġ\"..":32213,"gamma":32214,"Ġinstructor":32215,"Ġoverwrite":32216,"-am":32217,"Ġdevastating":32218,"ĠSaints":32219,"Ġhs":32220,"Ġbonuses":32221,"$output":32222,"ijd":32223,"(ActionEvent":32224,"monitor":32225,"Ġmattress":32226,"January":32227,".jp":32228,"Ġcaracter":32229,"Ġimpose":32230,"_rest":32231,"ĠSignature":32232,"Ġcoronavirus":32233,"ãģĬ":32234,"_compare":32235,"Measure":32236,"itated":32237,"elijk":32238,"igos":32239,"esar":32240,"Ġrushed":32241,"metry":32242,"_SEPARATOR":32243,"_WE":32244,"_ATTRIBUTE":32245,"Ġyaml":32246,"Ġspecs":32247,"ĠRah":32248,"pheric":32249,"ĠInvestment":32250,"äll":32251,"Ġappealing":32252,"Ġviewport":32253,"ç©":32254,"ĠmarginLeft":32255,"Ġsubtract":32256,"ĠEDIT":32257,"ĉArrayList":32258,"grading":32259,"ĠFailure":32260,"asper":32261,"EEK":32262,"(now":32263,")Ċ":32279,"Collision":32280,"ĠGreater":32281,"ĠRacing":32282,"alan":32283,"Ġmonetary":32284,",new":32285,"ĠSorry":32286,".Enable":32287,"ĠInstantiate":32288,"ollen":32289,"ë©´":32290,"ĠCalling":32291,"_hour":32292,"ADA":32293,"Ġshy":32294,")**":32295,"Ġ==>":32296,"Ġespecial":32297,"Ġinterpreted":32298,"!=\"":32299,"Ġpharmacy":32300,".single":32301,"ĠCialis":32302,"Ġparas":32303,".toUpperCase":32304,"ĠDemon":32305,"Prime":32306,"Ġrankings":32307,"Adding":32308,"_HASH":32309,"ĠExam":32310,"Ú©":32311,"ĠVictor":32312,"Okay":32313,"\"];čĊ":32314,"Ġfortune":32315,"ĠFETCH":32316,"expand":32317,".Interop":32318,"Ġbarn":32319,"æ¶Ī":32320,"uevo":32321,"Ġspeculation":32322,"âĶĢâĶĢâĶĢâĶĢ":32323,"ĠNu":32324,"ĠBlues":32325,"(fname":32326,"Ġinhabit":32327,"Ġ\\\"%":32328,"CES":32329,"ulario":32330,"_cr":32331,"Ġvalidated":32332,"Ġmidnight":32333,"anking":32334,"Ġincorporate":32335,"Ġpursuit":32336,"EXP":32337,"prime":32338,"Pid":32339,"-US":32340,"ĠNurs":32341,"ĠWheel":32342,"éĺ":32343,"Ġinp":32344,"Ġsupportive":32345,".member":32346,"ĠShot":32347,".CheckBox":32348,"Ġaffirm":32349,"Tor":32350,"FullYear":32351,"Ġconsiderably":32352,"credentials":32353,"_opts":32354,"Roll":32355,"(round":32356,"Ġcoment":32357,"_UART":32358,"Ġextending":32359,"RG":32360,"resultado":32361,"itu":32362,".getSession":32363,"Ġattraction":32364,"&D":32365,"$html":32366,"ĠJessica":32367,"ĠAssociate":32368,"añ":32369,"_ed":32370,"ĠLag":32371,"Ġorigins":32372,"())->":32373,"addEventListener":32374,"IALOG":32375,"åIJ¦":32376,".Compare":32377,"Album":32378,"ĠKu":32379,"\";ĊĊ":32423,"quisite":32424,"channels":32425,"/res":32426,"ĠAnalytics":32427,".appcompat":32428,"/to":32429,"ĠonError":32430,"(attr":32431,"IRM":32432,"Ġragaz":32433,"-as":32434,".Second":32435,"oriented":32436,"Ġdonn":32437,"Ġlightning":32438,"fid":32439,"ĠPle":32440,"ãģ¾ãģĻ":32441,"tro":32442,".True":32443,"Observable":32444,"×Ļ":32445,"umbing":32446,"Ġprospective":32447,"-filter":32448,"Ġpursuant":32449,"(points":32450,".Bind":32451,"Ġpalm":32452,"clearfix":32453,"ös":32454,"ĠGonz":32455,"Ġweaken":32456,"Drive":32457,"enido":32458,"lld":32459,"obox":32460,"anean":32461,"Got":32462,"ä¿Ŀ":32463,"Regex":32464,"æĥ":32465,"Ġsalad":32466,"assis":32467,"\"net":32468,"inheritDoc":32469,"ĠRV":32470,"quier":32471,"Ġclazz":32472,"Ä±ÅŁ":32473,"osterone":32474,"Ġairline":32475,".listdir":32476,"Ġdownloading":32477,"ĠPalm":32478,"waukee":32479,"<":32480,".BL":32481,"_INLINE":32482,"offs":32483,"<<(":32484,"_news":32485,"Ġchase":32486,"/><":32487,"Ġeuros":32488,"ĠEgyptian":32489,"ĠStainless":32490,"_BOOL":32491,"ĠGuild":32492,"ĠDynam":32493,"[indexPath":32494,"Ġï":32495,"Ġmemorable":32496,"ĠChampion":32497,"ResourceManager":32498,".Login":32499,"ĠFormer":32500,"yped":32501,"Ġlleg":32502,";\",":32503,"DWORD":32504,"Ġtaxi":32505,"Ġbombs":32506,"rah":32507,".tags":32508,"_tests":32509,"stones":32510,"âĢĿ)":32511,"[g":32512,"rtype":32513,"Ġvu":32514,"Ġhostile":32515,"Chars":32516,"ĠPatriots":32517,"/status":32518,"());Ċ":32872,"ajÄħ":32873,"_OCC":32874,"Ġplanets":32875,"æŁ¥":32876,"ĠDublin":32877,"Ġserie":32878,".printf":32879,"deep":32880,"`)":32881,"Ġ\\$":32882,"Ġμ":32883,"_VIDEO":32884,"endors":32885,"ĠCrypto":32886,"Far":32887,".Transparent":32888,".TR":32889,"iasm":32890,"_training":32891,"Ġteaches":32892,"ĠBelt":32893,"Ġlimiting":32894,"ĠKath":32895,"ĠIndexPath":32896,"Ġachievements":32897,"Ġserá":32898,"interopRequire":32899,"Ġdisse":32900,".If":32901,"arming":32902,"ulsion":32903,"Po":32904,"_DETAIL":32905,"Prototype":32906,"ĠCAL":32907,"Ġagrees":32908,".vo":32909,".ExecuteNonQuery":32910,"ĠTopic":32911,"Ġ'{}":32912,"Arm":32913,"Ġecc":32914,"Mag":32915,"Ġserialized":32916,"ĉconn":32917,"cached":32918,"=tf":32919,"ĠByteArray":32920,"protobuf":32921,"varchar":32922,"ĉASSERT":32923,"Ġliste":32924,"_trigger":32925,"·¸":32926,"Feel":32927,"Tahoma":32928,"ĠLik":32929,"Ġstructured":32930,"ergus":32931,".Initial":32932,"_ge":32933,"cljs":32934,".contact":32935,"Ġandere":32936,"$stmt":32937,"_CURRENT":32938,"ĠDiscover":32939,"$res":32940,"formatter":32941,"Ha":32942,"vangst":32943,"Ġemerge":32944,"ãĢĤâĢĿ":32945,"ĠCabinet":32946,"-square":32947,"éĥ¨":32948,"Ġrage":32949,"ĠAJ":32950,"ĠVT":32951,"shadow":32952,"ĠFaith":32953,"enames":32954,"pretty":32955,"hasil":32956,"party":32957,"Ġvarchar":32958,"Ġfotos":32959,"Ġalum":32960,"ĠBelgium":32961,".ylabel":32962,"Ġdej":32963,"_numbers":32964,"Ġhu":32965,".setAdapter":32966,"ĠUsually":32967,"(sample":32968,".Shared":32969,"Ġbooked":32970,"Ġ>>=":32971,"Ġminerals":32972,"\">":32991,"prog":32992,"boo":32993,"_md":32994,"_pack":32995,"(express":32996,"utz":32997,"\\Auth":32998,",id":32999,"ĠChile":33000,"actice":33001,"Ġrecruitment":33002,"Ġposes":33003,"Ġvulnerability":33004,"instanc":33005,"orum":33006,"dess":33007,"Ġxl":33008,"%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%":33009,"(fig":33010,"Ġdeleting":33011,".del":33012,")')Ċ":33013,"ĠWeekly":33014,"???":33015,"(strcmp":33016,"smith":33017,"Ġpursuing":33018,"-so":33019,"ĠApps":33020,"/'Ċ":33021,"Ġdecis":33022,"FORE":33023,"Everyone":33024,"Ġlanes":33025,"Virtual":33026,".attach":33027,"(Log":33028,"ĠMedicaid":33029,"(Path":33030,"ĠTurner":33031,"/application":33032,"Ġportrait":33033,"Ġoppose":33034,"checkout":33035,"Ġfinishes":33036,"_ME":33037,"Barrier":33038,"Song":33039,"VAR":33040,"Earlier":33041,"rella":33042,"Ġhast":33043,"azar":33044,"Ġpulls":33045,"ngx":33046,"Ġinspiring":33047,"ÑĥÑİ":33048,"-direction":33049,"Ġexplosive":33050,"ĠcreatedAt":33051,"sto":33052,"Ġwheat":33053,"ĠBuilt":33054,"'ai":33055,"Ġtracked":33056,"hammad":33057,"RowAtIndexPath":33058,"_heap":33059,"Due":33060,"Ġconnects":33061,".publish":33062,"emu":33063,"Ġbullets":33064,"BAR":33065,"olate":33066,"Ġinternally":33067,"Ġcatching":33068,"-password":33069,"ouched":33070,"æĢ§":33071,"eous":33072,"Ġxrange":33073,"Quality":33074,"vv":33075,"Manage":33076,"(($":33077,"acements":33078,"ĠBrothers":33079,"ĠHEAD":33080,"ĠUnsupported":33081,"san":33082,"esi":33083,"***Ċ":33084,"Ġadaptation":33085,"ĠWorker":33086,"']/":33087,".savefig":33088,"(trans":33089,"ج":33090,"nee":33091,"Correct":33092,"...\")Ċ":33093,"Ġsubmitting":33094,"-path":33095,"ĉlast":33096,"issan":33097,".xlabel":33098,"ĠSepar":33099,"/no":33100,"_best":33101,"ĠMills":33102,"_sock":33103,"(flag":33104,"Ġdestinations":33105,"emption":33106,"ĠFAIL":33107,"åĴĮ":33108,"Ġrp":33109,"fact":33110,"ĉlen":33111,"DAY":33112,"Ġseiz":33113,"_dst":33114,"lip":33115,".Linear":33116,"ĠBasket":33117,"$t":33118,"$i":33119,"-brand":33120,"ĠNeil":33121,"ĠEq":33122,"Ġthou":33123,"ogene":33124,"Ġscholarship":33125,"æĽ´":33126,"Ġswo":33127,"aginator":33128,"eni":33129,"(book":33130,"Ġblink":33131,"thus":33132,"ĠcancellationToken":33133,"ĠPalestinians":33134,"Ġprofitable":33135,"Ġbackpack":33136,"enson":33137,"true":33284,"ĠNYC":33285,"Ġbored":33286,"ĠDetect":33287,"Ġappar":33288,"Ġjeans":33289,"ĠTak":33290,"IOD":33291,"ĠHorse":33292,"(FILE":33293,"(?":33294,"rique":33295,"optimizer":33296,"nat":33297,"loys":33298,"ĉToken":33299,"oubted":33300,"uess":33301,"ocoa":33302,"DataMember":33303,"_POWER":33304,"classList":33305,"PushButton":33306,"ĠWiFi":33307,".Stream":33308,".guild":33309,"Ġnog":33310,"ĠPortugal":33311,"ĠUnter":33312,"Primitive":33313,"boss":33314,"ĠDeutsch":33315,"Ġerotic":33316,"Ġstrconv":33317,".TryParse":33318,"Ġgrams":33319,".Success":33320,"_pk":33321,"ĠHarvey":33322,"-minded":33323,".country":33324,"[]\"":33325,"Ġangel":33326,"Ġbeats":33327,"ĠVor":33328,"ilio":33329,".master":33330,"something":33331,"ĠPACK":33332,"(if":33333,"RequestBody":33334,"Ġantes":33335,"/widget":33336,"Ġmodo":33337,"ĠAW":33338,"finder":33339,"Ġoptimized":33340,"Ġmissiles":33341,"NB":33342,"ĉinternal":33343,"tex":33344,"ĠSri":33345,"Ġdamaging":33346,"ĠMais":33347,"-Allow":33348,"ĠZh":33349,"-alt":33350,"Ġ));ĊĊ":33351,"èī":33352,"Ġinfluences":33353,"Ġcatal":33354,"_REGISTER":33355,"ĠAPIs":33356,"-century":33357,"Ġbiology":33358,"ĠActual":33359,"Ġheels":33360,"TRACE":33361,"_DIG":33362,"Dataset":33363,"ĠMatter":33364,"Ġclassifier":33365,".wikipedia":33366,"ĠRogers":33367,"Ġdonated":33368,"rawler":33369,"enen":33370,"Ġcasinos":33371,"ortal":33372,"Ġprive":33373,"spe":33374,"ducers":33375,".ep":33376,"Ġgrasp":33377,"acji":33378,"Ġdairy":33379,"Ġbuses":33380,".comm":33381,".ins":33382,"ĠIRS":33383,"ĠBeer":33384,"adc":33385,"oard":33386,"_MET":33387,"Ġ'+'":33388,"rans":33389,"Ġkinda":33390,"ĠâĶĤ":33391,"ĠMaur":33392,"аг":33393,"Ġbandwidth":33394,"ibus":33395,"ĠDifferent":33396,"(mat":33397,"ĠResume":33398,"_UNS":33399,"establish":33400,"Ġfonction":33401,"Subscription":33402,"_company":33403,"Ġlightly":33404,".confirm":33405,".yaml":33406,"ĠBoost":33407,"Commerce":33408,"-template":33409,"_DELAY":33410,"ĠHI":33411,"Ġnavig":33412,"(Sender":33413,"ĠHS":33414,"_\"+":33415,"ĠREQUEST":33416,"Ġwifi":33417,"=\"\"Ċ":33418,"])->":33419,"Ġrope":33420,"Ġviolated":33421,"Ġglance":33422,"ĠKurd":33423,"Ġè®":33424,"deck":33425,"ĠISBN":33426,"Ġinfect":33427,"ĠFoo":33428,"Ġgetter":33429,"Ġtener":33430,"appe":33431,".hh":33432,"_hot":33433,"\".$":33643,"Ġrelies":33644,"(Console":33645,"International":33646,"->{$":33647,"Mid":33648,"Ġdissert":33649,"dds":33650,"Ġdeposits":33651,"ĉdriver":33652,"#ga":33653,"prising":33654,"println":33655,"Ġpresenter":33656,"Ġmines":33657,"CSS":33658,"ĠDual":33659,"(!(":33660,"Ġkam":33661,"ĠisLoading":33662,"ĠProtect":33663,".upper":33664,"arium":33665,"]:ĊĊĊ":33666,"Yii":33667,"-shirt":33668,"ĠIMAGE":33669,"_colors":33670,"Ġurgent":33671,".Container":33672,"!(Ċ":33673,"Saturday":33674,"Ġsocieties":33675,"ĠThan":33676,"ĠCod":33677,"=@":33678,"Ġattachments":33679,".mobile":33680,"Ġspite":33681,"Ġbounce":33682,"rawl":33683,"instancetype":33684,"ĠTruck":33685,"Ġmanipulation":33686,"(Config":33687,"-inst":33688,"Ġstor":33689,"itution":33690,"PreferredGap":33691,"ĠmainAxisAlignment":33692,"Ġlistened":33693,"'''ĊĊ":33694,"ottage":33695,"-project":33696,".APPLICATION":33697,"ĉroot":33698,"Ġwhit":33699,"Ġbilder":33700,"Ġker":33701,"Ġappliances":33702,"rowave":33703,"ìĿĢ":33704,"ematics":33705,"ĠOrg":33706,"oping":33707,"_SEARCH":33708,"Ġcham":33709,"addContainerGap":33710,"Ġ().":33711,"ĠArrow":33712,"Illegal":33713,"Currently":33714,"Ġusa":33715,"Ġpasswords":33716,"Ġrenown":33717,"avern":33718,"ĠEvil":33719,"Ġconcat":33720,"Ġduo":33721,"Ġvale":33722,"ĠBean":33723,"Ġindicators":33724,"cmath":33725,"ĠPump":33726,"November":33727,"ificant":33728,"_DOMAIN":33729,"regar":33730,"ĠPortal":33731,"\"$":33732,"Ġformerly":33733,"\"]:Ċ":33734,"ĠVisibility":33735,".getElementsByClassName":33736,"_RED":33737,"Ġchampions":33738,"à´":33739,"Valor":33740,"_es":33741,"*a":33742,"-repeat":33743,"Band":33744,".stage":33745,"Ġbureauc":33746,"Cnt":33747,"eten":33748,"-function":33749,"Ġmuito":33750,"PID":33751,"_editor":33752,"Ġcrashed":33753,"dead":33754,"kat":33755,"agh":33756,"ĠEXT":33757,"asser":33758,"-small":33759,"Ġrealiz":33760,"(Entity":33761,"ús":33762,"ĠActually":33763,"ĠElite":33764,"Ġhelm":33765,"(nonatomic":33766,"asher":33767,"Community":33768,"alleng":33769,"iry":33770,"ĠGrowth":33771,"Ġsue":33772,"Ġfrequencies":33773,"_descriptor":33774,".Attribute":33775,"Ġrecipients":33776,"_NS":33777,"/\"+":33778,"iban":33779,"Ġathlete":33780,"ĠIgn":33781,"_DMA":33782,"(ds":33783,"ĠRequirements":33784,"ADI":33785,"erez":33786,"\\Admin":33787,"braska":33788,"ĠRust":33789,"Relation":33790,"COD":33791,"ĠVERSION":33792,"emma":33793,")){":33794,".Duration":33795,"ĠCamb":33796,"-logo":33797,"Ġreadable":33798,"Ġcreators":33799,"()];Ċ":33800,"UpDown":33801,"-half":33802,".getMonth":33803,"(sf":33804,"Pic":33805,"Ġhunger":33806,".tx":33807,"Ġexceeded":33808,"_seed":33809,"(^":33810,"_sk":33811,".perform":33812,"Ġ>::":33813,"Ġmongo":33814,"=float":33815,"bindParam":33816,"Smart":33817,"ifa":33818,"Ġsecurities":33819,"Ġprejud":33820,"Ġ,\"":33821,"Ġcorps":33822,"Ġvra":33823,"amacare":33824,"iterr":33825,"(Media":33826,"uche":33827,"Ġcob":33828,"Ġliber":33829,".geometry":33830,"Locator":33831,"Ġsliding":33832,"Ġsurgical":33833,"_CUR":33834,"Ġconsect":33835,"[*":33836,"ĠResort":33837,"Stub":33838,"_DOUBLE":33839,"ĠSoph":33840,"Ġelectoral":33841,"_disable":33842,"ĠÑģо":33843,"ĠLightning":33844,"Ġmentions":33845,"ocy":33846,"Ġleaked":33847,"Ġrelaxing":33848,"Presenter":33849,"vsp":33850,"Ġguilt":33851,"=-=-":33852,".reply":33853,"ĠMirror":33854,"Camp":33855,"Ġ+#+#+#+":33856,"Ġ+#+#+#+#+#+":33857,".Author":33858,"Ġdirective":33859,"-hook":33860,"íĦ°":33861,"}ĊĊĊĊĊ":33862,"@pytest":33863,"_rand":33864,"mis":33865,"Ġcolorful":33866,"uje":33867,"lasses":33868,"ĠClasses":33869,".have":33870,"%),":33871,"é¢ĺ":33872,"Ġdisturbing":33873,"substring":33874,"ĠKoh":33875,"Invest":33876,"purchase":33877,"Ġrecycling":33878,"ĠART":33879,"ierarchy":33880,"Ġfps":33881,".checkBox":33882,"íķ´":33883,"_material":33884,"ducation":33885,"Ġfw":33886,"udit":33887,"Ġreviewing":33888,"ĠSid":33889,"Syntax":33890,"ĠWritten":33891,"argar":33892,"UME":33893,"/q":33894,"Classifier":33895,"Official":33896,"Ġjazz":33897,"Ġomega":33898,"Physics":33899,"Ġlugar":33900,"_accessor":33901,".commands":33902,"Ability":33903,"ĠBatch":33904,"RAM":33905,"Ġencounters":33906,".Qu":33907,"BYTE":33908,"ĠDistribution":33909,"Ġuso":33910,"ĠRecovery":33911,"approved":33912,"Ġdenial":33913,"/share":33914,"LinkedList":33915,")čĊčĊčĊ":33916,"uddy":33917,"Ġfines":33918,"Ġry":33919,"Unicode":33920,"ĉrender":33921,"Ġpremises":33922,"Ġpon":33923,"aliases":33924,"/Foundation":33925,"cuda":33926,"ĠCock":33927,",:)":33928,"(folder":33929,"Ġméd":33930,"drag":33931,"Ġtalents":33932,"ĠĠĠĊĊ":33933,"еÑģÑĤв":33934,"mob":33935,".yml":33936,"Ġaster":33937,"Ġdiscre":33938,"goal":33939,"ĠGTX":33940,"ĠSUCCESS":33941,"ĠLONG":33942,"(find":33943,"Ġsingular":33944,"_sz":33945,"ĠEthereum":33946,"..Ċ":33947,"Ġirres":33948,"')){Ċ":33949,"Ġministers":33950,"Steps":33951,"iversal":33952,"ĠNevertheless":33953,"-led":33954,"Ġ(%)":33955,"ç¡®":33956,"Ġtimezone":33957,"Ġstranger":33958,"(render":33959,"Ġshutil":33960,"Ġmph":33961,"Ġtrio":33962,"ppy":33963,"Ġpredomin":33964,"Ġendors":33965,"ĠRussians":33966,"ĉrow":33967,"Ġwizard":33968,".serialize":33969,"Ġcomplained":33970,"Ġsido":33971,"Ġdelighted":33972,"-me":33973,"ĠRav":33974,"Human":33975,"adays":33976,"recv":33977,"Working":33978,"Jump":33979,"ĠÃ¥r":33980,"ĠAutomatic":33981,"_Base":33982,"æł¼":33983,"aurants":33984,"¯":33985,"æ¸":33986,"(CType":33987,"IFI":33988,"(amount":33989,"Ġbelieving":33990,"=mysql":33991,"Ġfir":33992,"Ġrestoration":33993,"ereco":33994,"Т":33995,"_'+":33996,"Ġebook":33997,"Ġdebris":33998,"(inputs":33999,"AYOUT":34000,"Ġscreaming":34001,"avia":34002,"lander":34003,"Ġdistress":34004,"Ġassembled":34005,"ĠAvoid":34006,"(thread":34007,"ĠRPC":34008,"_EXIT":34009,"(queue":34010,"иÑģÑĤ":34011,"Dll":34012,"Ġskull":34013,"_pub":34014,"chez":34015,"minate":34016,"ensen":34017,"Ġinsane":34018,"bounds":34019,"ĠRosen":34020,"Ġconditioning":34021,"processed":34022,"videos":34023,"four":34024,".Conv":34025,"|;Ċ":34026,"Personal":34027,"cerpt":34028,":UIControlStateNormal":34029,"Ġdoses":34030,"ĠKarl":34031,"ĠFrequ":34032,".BASE":34033,"ĠVote":34034,"Ġconcurrent":34035,"ĠMessageBoxIcon":34036,"ĠÃĸ":34037,"ĠDubai":34038,"ĠRetail":34039,":number":34040,"ĠObserver":34041,"ĠBigInteger":34042,"_origin":34043,"_WORK":34044,"Frames":34045,"Ġnotably":34046,".âĢľ":34047,"Ġtropical":34048,"Ġniche":34049,"amina":34050,".sys":34051,"(tokens":34052,"modify":34053,"osit":34054,"strom":34055,"ĠComics":34056,"OPTION":34057,"Ticket":34058,"Ġfactories":34059,"Ġdisput":34060,"_File":34061,"ĠFinn":34062,"eee":34063,"ĠDiscord":34064,"_money":34065,".tpl":34066,"_safe":34067,"LB":34068,"Ġglut":34069,"JK":34070,".flow":34071,"-cont":34072,"gos":34073,"Ġhorizon":34074,"ĠRush":34075,"::*":34076,"Pipe":34077,"ulla":34078,"borough":34079,"heimer":34080,"(move":34081,"(Text":34082,"});čĊčĊ":34083,"welcome":34084,"ĠComponents":34085,"Ġgovernance":34086,"closed":34087,"ĉmargin":34088,"Ġlaundry":34089,"ĠTerminal":34090,"izards":34091,".âĢĶ":34092,".remote":34093,".radius":34094,"ĠQuebec":34095,"Ġdh":34096,"Tech":34097,"ĠMist":34098,"seller":34099,"_literal":34100,"Ġgenius":34101,"Ġbrains":34102,"gem":34103,"ĠMeasure":34104,"Ġcatast":34105,"rance":34106,".TextField":34107,"Ġconsuming":34108,"Ġ'\\''":34109,"oubtedly":34110,"ĠCertain":34111,"Ev":34112,"erti":34113,"being":34114,"Experience":34115,"Ġ//[":34116,"ĠArabic":34117,"ĠCrist":34118,"ĠAzure":34119,"Ġhora":34120,"ladesh":34121,"\\Blueprint":34122,"dar":34123,".rel":34124,"Ġsuprem":34125,"ĠReagan":34126,"ĠAttributes":34127,"-sidebar":34128,"ĠuseStyles":34129,"ĠAirlines":34130,"Ġhills":34131,"/xhtml":34132,"vinc":34133,"_mock":34134,"ĊĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":34135,"ĠPill":34136,".LayoutStyle":34137,"ĠCommander":34138,"]<":34139,"signature":34140,"Ġ{}čĊ":34141,"Ġhatred":34142,"Ġëĭ":34143,"olesterol":34144,"Ġ********":34145,"ancellor":34146,"crop":34147,"TIM":34148,"ĉĉĊĊ":34149,"ysqli":34150,"uitive":34151,"ĉunset":34152,"_sel":34153,"Ġmenus":34154,"tick":34155,"Ġconstitute":34156,"ĠElements":34157,"ĠRedis":34158,"aggio":34159,"_fp":34160,"_depend":34161,"emas":34162,"CAST":34163,"orange":34164,"jon":34165,"ĠEmily":34166,"Ġpotatoes":34167,"Ġreceptor":34168,"ĠElectronic":34169,"ĠLights":34170,"Ġcombining":34171,"ĠSomeone":34172,"Ġ########.":34173,"ĠTOD":34174,"/show":34175,"Xd":34176,".\"'":34177,"afx":34178,"Ġtragic":34179,"Styled":34180,"ĠMarco":34181,"Gallery":34182,"dale":34183,".âĢĿĊĊĊĊ":34184,"érie":34185,"/service":34186,"äºĨ":34187,"Ġambient":34188,"_SETTINGS":34189,".Adapter":34190,"lene":34191,"Ġtravels":34192,"Notice":34193,"Ġcleans":34194,"ĠFem":34195,"chair":34196,"Ñĥн":34197,"/my":34198,"_bad":34199,"ĠEconomics":34200,"ISA":34201,"_CNT":34202,"(Menu":34203,"äºİ":34204,"ĠRidge":34205,"Ġlengthy":34206,"Dot":34207,"Ġjumps":34208,"Ġhey":34209,"$pdf":34210,"Ġworm":34211,"Ġsut":34212,"Ġsher":34213,"iamo":34214,"ĠCalc":34215,"trieve":34216,"Ġcops":34217,"ĠChrom":34218,"Ġregulated":34219,"reatment":34220,"ĠHigher":34221,"oks":34222,"Ġdeze":34223,"LOCATION":34224,"ongsTo":34225,"Ġfinite":34226,"Ġvaries":34227,"Ġpositioned":34228,"'il":34229,"éĩij":34230,"Ġhike":34231,"(done":34232,"playlist":34233,"Ġada":34234,"Ġcoastal":34235,"ĠNancy":34236,".DateTimeField":34237,"CppCodeGen":34238,"ĠSimilarly":34239,"reur":34240,"ĠContr":34241,"ĠHidden":34242,"ĠBeta":34243,"atched":34244,"_install":34245,".Output":34246,"Lookup":34247,"ĠRichmond":34248,"quared":34249,"Ġmanga":34250,"-controls":34251,"ĠBernard":34252,"Large":34253,"Ġslices":34254,"Ġoffence":34255,"ĠMega":34256,"Ġestar":34257,"Ġjoints":34258,"Ġsumm":34259,"_platform":34260,"Buff":34261,".addSubview":34262,"Ġretained":34263,"Letter":34264,".dim":34265,"Ġessere":34266,"ĠScaffold":34267,"EXPECT":34268,"ĉRE":34269,".longitude":34270,"ünd":34271,"Ġstatue":34272,".addWidget":34273,"ĠCaribbean":34274,"addPreferredGap":34275,"ilde":34276,"UILabel":34277,"ĠOpport":34278,"Ġimperial":34279,"ursion":34280,"Ġmandate":34281,"Ġpromotional":34282,"Ġvk":34283,"iaÅĤ":34284,"Ġpyl":34285,"ĠCreation":34286,"озд":34287,"Ġsimpler":34288,".what":34289,"ĠRecent":34290,"Storm":34291,".quantity":34292,"ĠLov":34293,"\"-":34294,"ubbles":34295,"_notification":34296,"(world":34297,"urger":34298,"*(-":34299,":\"Ċ":34300,"hm":34301,"anship":34302,"ĠAlmost":34303,"Ġmotorcycle":34304,"_fee":34305,"Ġabsorb":34306,"ĠVincent":34307,"Ġsounded":34308,"ÃŃst":34309,"Ġpharmaceutical":34310,"htag":34311,"ĠKindle":34312,"italize":34313,"ĠEmperor":34314,"oustic":34315,"Ġspecialists":34316,"åħ¬":34317,"BorderStyle":34318,"/\\":34319,"RELATED":34320,"(',',":34321,"(expr":34322,"Ġht":34323,"åįĪ":34324,"_Create":34325,"Ġspecially":34326,"Ġ[];čĊ":34327,"Ġheel":34328,"Ġsept":34329,"_arch":34330,"(initial":34331,"%.ĊĊ":34332,"\\\",\\\"":34333,"Ġdiscusses":34334,"Ġupt":34335,"Ġ[&":34336,"Ġmanus":34337,".hand":34338,"ĠMAIN":34339,"ĠDenmark":34340,"Ġ],čĊ":34341,"Ġcryst":34342,"Ġnack":34343,"Coords":34344,"_inner":34345,"Ġmidst":34346,"Ġawake":34347,"ĠÐŀ":34348,"-break":34349,"ÃŃvel":34350,"_PASS":34351,"ĠParams":34352,"Ġdetr":34353,"Ġspider":34354,"ĠConcept":34355,"Ġprend":34356,"CHED":34357,".Exit":34358,"Ġpopulated":34359,"Ġvirtue":34360,"_SESSION":34361,"Ġnouvel":34362,"oauth":34363,"ĠданнÑĭ":34364,"rink":34365,".HeaderText":34366,"aturated":34367,"Ġerst":34368,"Ġåħ":34369,"à¥ĩ":34370,"_visible":34371,"eyer":34372,"Ġliable":34373,"Ġdebe":34374,"Ġbw":34375,"{-#":34376,"_WIN":34377,"dfs":34378,"Hover":34379,"ĠPUT":34380,"-angle":34381,"Ġnoble":34382,"Ġtraces":34383,"encv":34384,"ĠuserData":34385,"_ins":34386,"ĠSuz":34387,"Ġnewsletters":34388,"ĠModi":34389,"Ġentrepreneurs":34390,"Ġtribute":34391,"Ġrumors":34392,"Ġrr":34393,"ĠQuarter":34394,"ê³ł":34395,"Ġfeeds":34396,"óg":34397,"Ġenvelope":34398,"Ġlear":34399,"Ġkø":34400,"developer":34401,"Similar":34402,":\")Ċ":34403,"subscription":34404,"Modifier":34405,"italic":34406,"Ġnasty":34407,"Ġtermination":34408,"Ġcharming":34409,"ĠâŁ":34410,"tons":34411,".trace":34412,"hots":34413,"ĠUR":34414,"Mont":34415,"Ġjustified":34416,"ĠGang":34417,"inea":34418,"Ġbog":34419,"(ap":34420,"_$":34421,"Ġcontamin":34422,".Dot":34423,"ĉDebug":34424,"(exports":34425,"Ġpaired":34426,"ĠAssignment":34427,"Ġautomobile":34428,"ĵį":34429,"Ġphases":34430,"vw":34431,"@SuppressWarnings":34432,"=\\":34433,"rant":34434,"-ed":34435,"ĉawait":34436,"Ġcertificates":34437,"'>\"":34438,"Ġintact":34439,"CTRL":34440,"Mike":34441,"gregation":34442,"ATTERN":34443,"Ġrepublic":34444,"_upper":34445,"iliary":34446,"Ġcomputation":34447,"hire":34448,"ĠShin":34449,"_ANY":34450,"ĠManufacturer":34451,"ĠCarm":34452,"Ġbearings":34453,"_comb":34454,"cad":34455,"uristic":34456,"Ġwholesale":34457,"Ġdonor":34458,".interfaces":34459,"presso":34460,"ĠBrun":34461,"-close":34462,"prove":34463,"_SK":34464,"ĉframe":34465,"etros":34466,"ĠPain":34467,"_EXP":34468,"ĠLT":34469,"_fs":34470,".datas":34471,"ĉss":34472,"voir":34473,"ĠAxis":34474,"Major":34475,"=\"<":34476,"[h":34477,"Ġprofess":34478,"igrate":34479,"(score":34480,"Keyword":34481,"\"os":34482,"ĠĠĠĠĉĊ":34483,"analysis":34484,"Ġreplay":34485,".pass":34486,"\\d":34487,"tls":34488,"Ġsanct":34489,".light":34490,"_mobile":34491,"ÑģÑĤÑĮ":34492,"ĉtotal":34493,"uity":34494,"Ġpaused":34495,"NAS":34496,"Ġencore":34497,"loe":34498,"Ġ-*-ĊĊ":34499,".high":34500,"ampler":34501,"ĠSecure":34502,"Ġfragments":34503,"_vel":34504,"illary":34505,"ĠStein":34506,"ĠDawn":34507,"Ġmaximize":34508,"ย":34509,"Ġ/^":34510,"Ġcontinually":34511,"Ġshadows":34512,"ĉĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":34513,"ĠIActionResult":34514,"Ġinformación":34515,"CHECK":34516,".SelectedItem":34517,"bundle":34518,"olley":34519,"<":34681,"Ġtrajectory":34682,"_ring":34683,"Ġhydrogen":34684,"tron":34685,"Ġstatute":34686,"Ġconditional":34687,"Ġtray":34688,"-school":34689,"(widget":34690,"$config":34691,"Ġrequesting":34692,".uint":34693,"eton":34694,"brities":34695,"OfType":34696,"ADMIN":34697,"predict":34698,"Ġgegen":34699,"ĠHapp":34700,"OCUMENT":34701,"ĠApart":34702,"Ġ-----":34703,"roe":34704,"uide":34705,"justify":34706,"ĠSquad":34707,"Ġprofes":34708,".bot":34709,"_currency":34710,"innen":34711,"ĠMumbai":34712,"ĠNumbers":34713,"avanaugh":34714,"agnitude":34715,"âĢľThere":34716,"=http":34717,"çīĩ":34718,"Ġvb":34719,"+'{{$":34802,"Ġinode":34803,"sil":34804,"Ġhace":34805,"Ġseverely":34806,"ĠOverview":34807,"Ġspraw":34808,"Ġbeaches":34809,":left":34810,"·»":34811,"(${":34812,"ĠFIRST":34813,"ĠSpa":34814,"-ass":34815,"Ġbaise":34816,"ĠNODE":34817,"ĠPizza":34818,"Pet":34819,"(seq":34820,"\\\">Ċ":34821,"CppMethodPointer":34822,"Ġvp":34823,"Ġia":34824,"_seconds":34825,"emet":34826,"/blob":34827,"_THRESH":34828,"...čĊ":34829,"Dest":34830,"ĠNH":34831,".dataSource":34832,"ités":34833,"ĠJak":34834,"sell":34835,"Ġworkshops":34836,"\",Ċ":35452,"_Pin":35453,"uese":35454,"Ġoverrides":35455,"_ready":35456,"Advanced":35457,"Ġopi":35458,"-cart":35459,"(\"/\",":35460,"ĠDeb":35461,"CRY":35462,"ĠVertical":35463,"ĠOVER":35464,"ĠCorporate":35465,"Ġ\"\";":35466,"Ġstepping":35467,"ej":35468,"Ġaccusations":35469,"Ġoraz":35470,"_tail":35471,"Ġinduced":35472,"Ġelastic":35473,"Ġblown":35474,",//":35475,"Ġbackgrounds":35476,"âĢĻune":35477,"-sdk":35478,"ĠsetInterval":35479,"Ġincentives":35480,"Ġvegetable":35481,"_On":35482,"expanded":35483,"pix":35484,"_shader":35485,"ĠSPDX":35486,"@example":35487,"ĠWrapper":35488,".Zero":35489,"Positive":35490,"Ġspinner":35491,"Ġinvented":35492,"ĠGates":35493,"оÑĤоÑĢ":35494,"Ġcomparisons":35495,"è·":35496,".primary":35497,"dataProvider":35498,"additional":35499,"ĉoptions":35500,"snapshot":35501,".setHorizontal":35502,"Ġ\"{}":35503,"ĠFisher":35504,"halten":35505,"":35538,"ĠRegistered":35539,"INED":35540,"kal":35541,"parison":35542,"Ġobjeto":35543,"Vi":35544,"manda":35545,"Ġrenewed":35546,"ĠSof":35547,"essel":35548,".ndarray":35549,"Ġcrap":35550,"管":35551,".abspath":35552,"(up":35553,"Ġclearance":35554,"ĠTW":35555,"_COPY":35556,"ĠĠĠĠĠĠĠĠĠĠĠĠĉ":35557,"Ġforests":35558,"Ġarguably":35559,"ĠASS":35560,"hey":35561,"amel":35562,"_fore":35563,"ĠSoutheast":35564,"Ġabused":35565,"Ġpracticing":35566,"akedirs":35567,"主":35568,"_resources":35569,"Ġpond":35570,".Fixed":35571,"LastError":35572,"ĠPsychology":35573,"Ġ\"//":35574,"!:":35575,"Reusable":35576,"Ġmensaje":35577,"Ġrospy":35578,"Ġbour":35579,"Ġvarieties":35580,"Ġempath":35581,"(({":35582,"_org":35583,"ĠMes":35584,"ĠMagento":35585,"ISTORY":35586,"Unless":35587,"Ġhj":35588,"ĠDuty":35589,"Jun":35590,",size":35591,"Ġpaintings":35592,"Ġdispens":35593,"dart":35594,"Ġbehavioral":35595,"Ġrpc":35596,"calculate":35597,"fruit":35598,"_mm":35599,"ĉpthread":35600,"MaxLength":35601,"Ġcurrencies":35602,"_capacity":35603,"ĠOz":35604,"Ġfirearm":35605,"Ġcoefficient":35606,"Ġbankruptcy":35607,"wart":35608,"Ġfatigue":35609,"AVA":35610,"Ġespa":35611,"_pc":35612,"ĠQuotes":35613,"_LIGHT":35614,"ĠTickets":35615,"Ġrelates":35616,"Ġpublishers":35617,"Ġunlocked":35618,"Ġ//----------------------------------------------------------------":35619,"ĠInterruptedException":35620,"Ġoutlook":35621,"rn":35622,"Ġrebels":35623,"Written":35624,"Ġasian":35625,"otto":35626,"Ġĉĉĉĉ":35627,"_gpu":35628,"Txt":35629,".ImageView":35630,"Ġsuis":35631,"_tables":35632,".RecyclerView":35633,"Ġwhatsoever":35634,"èģ":35635,"]++;Ċ":35636,"assertTrue":35637,"_verify":35638,"ĠRivers":35639,"Ġ][":35640,"Jet":35641,"idian":35642,"Sibling":35643,"Ġgenres":35644,".Access":35645,"OPS":35646,"Ġtrivial":35647,"ส":35648,"alen":35649,"вед":35650,"ĠSword":35651,"Ġscrutiny":35652,"(cb":35653,"Ġcommerce":35654,"Ġguarantees":35655,"_adv":35656,"ĠLET":35657,"recio":35658,"Ġhilar":35659,"Ġbackyard":35660,"ãĢı":35661,"Ġillustrated":35662,"/vendor":35663,".Util":35664,"Ġwow":35665,"LOY":35666,"ĠMarshal":35667,"\">'.$":35668,"ĠBak":35669,"Ġmodifiers":35670,"dictionary":35671,"ĠStre":35672,"multiple":35673,"\")),":35674,"ĠCort":35675,"']\").":35676,"(admin":35677,"ĠCreator":35678,"Internet":35679,"(ms":35680,"logy":35681,"DECLARE":35682,"ĠMarcus":35683,"<<<<":35684,"ãģł":35685,"_my":35686,"(inst":35687,"Ġsciences":35688,"NDER":35689,".enter":35690,"Ġitu":35691,"Ġbehave":35692,"Pan":35693,"ombies":35694,"='<":35695,"'));čĊ":35696,"ĠMENU":35697,"ĠWorkers":35698,".NoError":35699,"Ġbindings":35700,"Ġdisabilities":35701,"{\\":35702,"ĠMunicip":35703,"Ġcores":35704,"urple":35705,"ĠNokia":35706,"usions":35707,"ĠFitness":35708,".handleChange":35709,"Ġjavascript":35710,"ìļĶ":35711,"(dec":35712,"Ġpacking":35713,"-depend":35714,"Ġtranscript":35715,"zeros":35716,"_alert":35717,"?\",Ċ":35718,"libs":35719,"±Ð¾ÑĤ":35720,"Ġ|ĊĊ":35721,"trained":35722,"ĠGent":35723,"ĠRab":35724,"xp":35725,"_configuration":35726,"天":35727,"_accept":35728,".recyclerview":35729,":url":35730,"ĠMuhammad":35731,"Ġprivileges":35732,"_bank":35733,"uku":35734,"wallet":35735,"ĠROOT":35736,"Ġencuent":35737,"?family":35738,"ĉposition":35739,"Ġcg":35740,"Ġprecip":35741,"methods":35742,"_fast":35743,"increment":35744,"ĠTiger":35745,"_OCCURRED":35746,"quip":35747,"ĠHAS":35748,"_dom":35749,"Ġwreck":35750,"bj":35751,"Ġdern":35752,"Ġorgans":35753,".entries":35754,"Ġ_('":35755,"ramento":35756,"ĠJamie":35757,"Ġpunk":35758,"IPP":35759,"Ġprograma":35760,"Ġattain":35761,"Ġproves":35762,"/sign":35763,"Ġanswering":35764,"Ġladder":35765,"****************************":35766,"ĠWalmart":35767,"ĠCONTENT":35768,"ductor":35769,"Ġverbal":35770,"ĠPID":35771,"crypto":35772,"_CALLBACK":35773,"Ġ=================================":35774,"Ġpotent":35775,"Ġshorts":35776,".Uri":35777,".uniform":35778,";border":35779,"ĠWer":35780,"Ġherein":35781,"lla":35782,"ĠIhr":35783,"Pixmap":35784,"literal":35785,"!)ĊĊ":35786,"generic":35787,"rust":35788,"_scripts":35789,"osto":35790,"itus":35791,"ĠCoalition":35792,"Ġremot":35793,"deploy":35794,"ĠEagle":35795,"ãĢģãĢĮ":35796,"Ġimportante":35797,"ĉobject":35798,"Ġseasonal":35799,"nej":35800,"aidu":35801,"BindView":35802,"ĠSierra":35803,"-bg":35804,"ĠmakeStyles":35805,"[offset":35806,"Games":35807,"Ġhormone":35808,"ARIO":35809,"heads":35810,"(select":35811,"ĠStarted":35812,"@param":35813,"_decl":35814,"_blog":35815,"Ġaño":35816,"\\Api":35817,"ĠMilwaukee":35818,"Provid":35819,"Animated":35820,"Ġcooler":35821,"ĠSeed":35822,".Edit":35823,"ÏĦ":35824,"ĠTaking":35825,"ĠborderColor":35826,"-founder":35827,".LoggerFactory":35828,"Ġ\"\"ĊĊ":35829,"ALT":35830,"ĠLate":35831,"EDIATE":35832,"Ġ);ĊĊĊ":35833,"afa":35834,"Ġcancellation":35835,"Atom":35836,"ĠBirmingham":35837,"empresa":35838,"HEMA":35839,"ascal":35840,"Ġupside":35841,".Version":35842,"ĠFolder":35843,"ĠEight":35844,"ĠVintage":35845,"ĠAppDelegate":35846,"ĠPrevention":35847,".separator":35848,"STM":35849,"(room":35850,"generator":35851,"Ġcattle":35852,"ĉZ":35853,"ĠParticle":35854,"'};Ċ":35855,"Ġneighbours":35856,"ĠStateless":35857,"Ġaltitude":35858,"Ġsaint":35859,"обав":35860,"Ġconvinc":35861,"ĠContents":35862,"Ġjeune":35863,"(ts":35864,"Serialization":35865,"(collection":35866,"ĠJazz":35867,"ĠDod":35868,"ĠRoch":35869,"acio":35870,"commended":35871,"DEFINE":35872,".onload":35873,"Ġspecialty":35874,"PLACE":35875,"_MOVE":35876,"Ġaccountable":35877,"Reuters":35878,"Ġficken":35879,"Ġdepr":35880,"Wow":35881,"Void":35882,".space":35883,"à¸Ĺ":35884,"Ġtq":35885,"ĠPets":35886,"<$":35887,"(Current":35888,"berries":35889,"planation":35890,"ĠlistOf":35891,"ĠThu":35892,"ĠPRINT":35893,"Ġmismo":35894,"Ġdoi":35895,"chk":35896,"ĠUnicode":35897,"(role":35898,"Ġvirgin":35899,"-->Ċ":36360,"Vol":36361,"ĠSSD":36362,"))),":36363,".Optional":36364,"Ġnurses":36365,"Ġorb":36366,"_pe":36367,");čĊčĊčĊ":36368,"placed":36369,"esser":36370,"Ġtherapeutic":36371,"Ġwhitespace":36372,"Ġaston":36373,"Successful":36374,"Ġpraised":36375,"ĠWes":36376,"Ġeighth":36377,"iral":36378,"Ġvrouw":36379,"Ġfaction":36380,"_bias":36381,"Ġwitch":36382,"Ġnpc":36383,"(sb":36384,"ĠRodrig":36385,"_big":36386,"Dependency":36387,"ĠAbraham":36388,"ardi":36389,"CAR":36390,"nos":36391,"Ġabundance":36392,"Ġnutrients":36393,"instein":36394,".Vert":36395,"ĠISS":36396,"D":36495,"Ġservlet":36496,"bastian":36497,"Ġ>&":36498,"SID":36499,"_clk":36500,"Ġdivisions":36501,"}',Ċ":36502,"Ġdildo":36503,"Ġparade":36504,"major":36505,"Ġaboard":36506,";++":36507,"Ġfusion":36508,"\"},{\"":36509,"ĠDialogResult":36510,"ĉarr":36511,"-em":36512,"_nr":36513,"(handler":36514,".NET":36515,".XtraReports":36516,"ĠShah":36517,"ĠBrief":36518,"-,":36519,"Ġprecio":36520,"ĉĉĉĠĠĠĠĠĠ":36521,"Ġtant":36522,"ĠGrande":36523,"/xml":36524,"_ICON":36525,"ĠRetro":36526,"unque":36527,"Ġnag":36528,"toFixed":36529,"XL":36530,"Ġdeclaring":36531,"ĠConcrete":36532,"ĠAmazing":36533,"ĉprintk":36534,"Ġdebates":36535,"DATED":36536,"Ġaesthetic":36537,"emetery":36538,"RoutingModule":36539,"ĠNashville":36540,"WAYS":36541,"Ġwolf":36542,"Ġobservers":36543,"OTA":36544,"anson":36545,"Ġea":36546,"Ġgreenhouse":36547,"ĵįä½ľ":36548,"Ġstair":36549,"Ġimmigrant":36550,"_apply":36551,"peare":36552,"ĠBloomberg":36553,"_PLAYER":36554,"Resp":36555,"æŃ£":36556,"Chooser":36557,"ĠICollection":36558,"Peter":36559,"Erro":36560,".detectChanges":36561,"Maps":36562,"Ġsqueeze":36563,"ĠHomes":36564,"wegian":36565,"Ġformatting":36566,"Ġnegotiate":36567,"uld":36568,"ĠNep":36569,"ĠQB":36570,"Ġeconomies":36571,"Ġ*/,":36572,"Ġredund":36573,"ĠAber":36574,".IsNullOrWhiteSpace":36575,"ycled":36576,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":36577,"_Sh":36578,"Ġskept":36579,"Ġrecreated":36580,"ĠgetType":36581,"Ġmargins":36582,"Ġcolonial":36583,"charts":36584,"//@":36585,"Ġprocessors":36586,"说":36587,"batis":36588,"æĦı":36589,"atorio":36590,"mentioned":36591,"Patient":36592,"Ġprey":36593,"Checkbox":36594,"_xpath":36595,".skip":36596,"ĠMormon":36597,"ĠMemoryStream":36598,"CREMENT":36599,"Ġku":36600,"meld":36601,"\\Data":36602,"ĠKernel":36603,"iltr":36604,"éĢģ":36605,"(profile":36606,"Carbon":36607,"ROLE":36608,"(pl":36609,"]*(":36610,".memory":36611,"Ġmedal":36612,"Ġadvisor":36613,"ität":36614,"Ġhdr":36615,"ierung":36616,"ĠProvides":36617,"(alpha":36618,"Ġteenagers":36619,"-parser":36620,".LatLng":36621,"]()Ċ":36622,"Ġfelony":36623,"ĉĉĉĊĉĉĉĊ":36624,"BOOK":36625,"Ġslash":36626,"Ġclearfix":36627,"ĠProphet":36628,"容":36629,"rightness":36630,"-fi":36631,".kind":36632,"erton":36633,"Jim":36634,"Ġmanipulate":36635,"Ġworksheet":36636,"olin":36637,"stars":36638,"Ġartifact":36639,"_EMPTY":36640,"ĉmain":36641,"-------------';":36709,"Ġexpressing":36710,"ĠIQ":36711,"ĠFact":36712,"/*******************************************************************************Ċ":36713,"_mass":36714,")):":36715,"Ġcondom":36716,"ĠcreateState":36717,"ometown":36718,"Ġirr":36719,"Ġ>(":36720,">B":36721,"iteration":36722,"ãĥª":36723,"Ġshirts":36724,"ounty":36725,"->$":36726,"_SIGN":36727,"ĠDale":36728,"Ġjj":36729,"Easy":36730,"Fre":36731,"ĠNy":36732,"Ġchlor":36733,"matched":36734,"ĠGerm":36735,"-UA":36736,"ĠNathan":36737,"education":36738,"-yard":36739,"-che":36740,"houses":36741,"ritional":36742,"Ġproximity":36743,"Ġdiesem":36744,"áºŃp":36745,"Ġdrought":36746,".audio":36747,"ĠLeo":36748,"Ġfavorable":36749,"inch":36750,"ĠDaw":36751,"ribly":36752,"_student":36753,"idable":36754,"OVE":36755,"Ġlacks":36756,"ouncing":36757,".business":36758,"Ġreopen":36759,"maybe":36760,"_GLOBAL":36761,"Ġdresses":36762,"ĠEdwards":36763,"ensible":36764,"ĠHardware":36765,"ĠExcellent":36766,"ĠTimeUnit":36767,"CTIONS":36768,"Ġschedules":36769,"Ġsegue":36770,"Opens":36771,"ammen":36772,"-Identifier":36773,"Ġstaring":36774,"Ġhappily":36775,"ĠHob":36776,"'_":36777,"Ġ\");":36778,"amentos":36779,"etched":36780,"Ġ/>}Ċ":36781,".Users":36782,"Ġinterrupted":36783,"Contacts":36784,"Ġregistro":36785,"inburgh":36786,"CHA":36787,"_imp":36788,"phis":36789,"say":36790,"Ġretailer":36791,".NODE":36792,"/maps":36793,"_LAST":36794,"ĠCharge":36795,"_guard":36796,"Collider":36797,"ĠStatelessWidget":36798,"\":[\"":36799,"(\"../../":36800,"ioxide":36801,"ĠSund":36802,"Ġ'';":36803,"unset":36804,"addWidget":36805,"лÑİ":36806,"elles":36807,"alker":36808,"Arc":36809,"Ġdeduct":36810,"GUILayout":36811,"ĠVilla":36812,"Ġforbidden":36813,"_where":36814,"Ġ\\/":36815,"ĠTib":36816,"_AX":36817,"]čĊčĊ":36818,"ĠBir":36819,"Ġbend":36820,"ĠMAKE":36821,"ĠMET":36822,"Ġfutures":36823,"Ġweighted":36824,"\"\"\"čĊ":36825,"Ġauthorize":36826,"(program":36827,"},{\"":36828,"Ġcoefficients":36829,"ês":36830,"PerPage":36831,"ĠBathroom":36832,"ĠPublishing":36833,"GPL":36834,"Ġsubmissions":36835,"ĠNUMBER":36836,"jÄħ":36837,"Ġadditionally":36838,"empre":36839,"ĠShel":36840,"otyp":36841,"Solution":36842,"Ġthunder":36843,"_ec":36844,"ĠĊĠĠĠĠĊ":36845,"ĠFellow":36846,"Ġkay":36847,"ĠnewState":36848,"ONTAL":36849,"Implementation":36850,".Look":36851,"Ġents":36852,"Ġlors":36853,"ĠBIG":36854,"fab":36855,"Ġaveraged":36856,"ĠFeedback":36857,"ĠWells":36858,"Ġmartial":36859,"Ġindul":36860,"ĠCommunist":36861,"ĠForex":36862,"ĠAgriculture":36863,"\"[":36864,"Ġquar":36865,"ĠKont":36866,"ĉview":36867,".Bytes":36868,"desktop":36869,"ĠMakes":36870,"akespeare":36871,".Nullable":36872,"Ġspotlight":36873,"VB":36874,"owy":36875,"(torch":36876,"tridge":36877,"_bounds":36878,"Ġapologize":36879,".addItem":36880,"antd":36881,"*);Ċ":36882,",u":36883,"(gen":36884,"ç»ĵ":36885,"reator":36886,"ĠCord":36887,"oupper":36888,".metro":36889,"Ġew":36890,"ĠWORD":36891,".After":36892,"Ġdetained":36893,"ĠHammer":36894,"existing":36895,"Ġost":36896,"Ġmonument":36897,"-custom":36898,"UserID":36899,"ĠNom":36900,"Ġrejection":36901,"(dim":36902,"Ġsingleton":36903,"ĉdie":36904,"ariance":36905,"reports":36906,"]!=":36907,"elda":36908,"Ġprevalence":36909,"_regs":36910,".\".":36911,"Ġfeminist":36912,"Codec":36913,"Ġ**Ċ":36914,"(labels":36915,"_MARK":36916,"FAILED":36917,"Ġadministered":36918,"WN":36919,"ĠĠĠĠĠĠĠĠĉĉ":36920,"Ġnoun":36921,"wig":36922,"Ġgotta":36923,"Ġrif":36924,"-im":36925,"ĠPaulo":36926,"ĠCommandType":36927,"]))ĊĊ":36928,"-zero":36929,"Training":36930,"Ġlord":36931,"_art":36932,"reddit":36933,"Cert":36934,"Ġpeso":36935,"Rot":36936,"Ġendanger":36937,".dr":36938,"userInfo":36939,"unts":36940,"nv":36941,"ĠTrailer":36942,"-first":36943,"(make":36944,"Ġbenefici":36945,"-black":36946,"iÃŁ":36947,"Ġundoubtedly":36948,"Ġmex":36949,"ĠAncient":36950,"(as":36951,"Ġdescent":36952,"Pick":36953,"Ġreplica":36954,"$obj":36955,"ähr":36956,"Ġarrows":36957,"fty":36958,"ĠLibya":36959,"uga":36960,"charged":36961,"Tur":36962,"Ġhomic":36963,"issen":36964,"ĠFake":36965,"Ġbeers":36966,"Ġscattered":36967,"(Time":36968,"UTIL":36969,"Ġbureaucr":36970,"/plain":36971,"Ġsticking":36972,"FAIL":36973,"ĠCovid":36974,"Third":36975,"_present":36976,"ĠPierre":36977,"Ġëª":36978,"Ġ[...]ĊĊ":36979,"Prob":36980,"ĠTraffic":36981,"icao":36982,"doctor":36983,"Ġ),ĊĊ":36984,"Tabs":36985,"alu":36986,"ï¼ļâĢľ":36987,"Ġinherent":36988,"_No":36989,"ritis":36990,"ĠProof":36991,".basename":36992,"ä¼ļ":36993,"Ġchim":36994,"ĠProtected":36995,"crit":36996,"Ġprone":36997,"Ġкон":36998,"ĠHeroes":36999,"Ġanxious":37000,"Ġanos":37001,"Ġweekends":37002,"Ġsext":37003,"Ġreducer":37004,"=UTF":37005,"half":37006,"ĠSaw":37007,".mm":37008,"Ġnueva":37009,".currentTarget":37010,".lua":37011,"_EXTENSION":37012,"ĉreg":37013,"ĠCtrl":37014,"_align":37015,"acceptable":37016,"Ġrushing":37017,"frac":37018,"Ġboasts":37019,"Five":37020,"±":37021,"ĠTemperature":37022,">):":37023,"Ġcharter":37024,"REATED":37025,"Ġsubjected":37026,"Ġopc":37027,"healthy":37028,"使ç͍":37029,"ĠScientific":37030,"Ġfrau":37031,"riages":37032,"à¸Ķ":37033,".inventory":37034,"ationale":37035,"Mad":37036,"minutes":37037,">>();Ċ":37038,"ĠEnv":37039,"Ġrecordings":37040,"Ġsuspicion":37041,"sqlite":37042,"ĉread":37043,"ãģ¦":37044,"Ġworries":37045,".putString":37046,"ĠShanghai":37047,"(uid":37048,"rer":37049,"ĠvÃŃde":37050,"\"):":37051,"Ġmethodology":37052,"ĠкоÑĤоÑĢ":37053,"ccc":37054,"avad":37055,"Ġinduction":37056,"ĉThread":37057,",string":37058,"ại":37059,"nehmen":37060,"uition":37061,"Ġ*__":37062,".emf":37063,"Ġìľ":37064,"/themes":37065,"ĠNine":37066,".One":37067,"ĠEmbed":37068,"Ġfaz":37069,"uations":37070,"Ġprivately":37071,"Ġling":37072,"[F":37073,"ushi":37074,"Ġlaunches":37075,"(KEY":37076,"GMT":37077,"Ġaiming":37078,"patible":37079,"ĠBiden":37080,"iw":37081,"ĠDegree":37082,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":37083,"Ġ$('<":37084,"ários":37085,"toUpperCase":37086,"ìłľ":37087,"ĠEUR":37088,"Ġoversight":37089,"Ġtablesp":37090,"Updates":37091,".makedirs":37092,"Ġhumidity":37093,"/template":37094,"Always":37095,"(IS":37096,"_cert":37097,"Dig":37098,"Ġunderway":37099,"orton":37100,"ĠHurricane":37101,"Ġspends":37102,"ĠSegment":37103,"Ġflies":37104,"ĠToggle":37105,"ĠLynch":37106,"Ġsenses":37107,"ĠKos":37108,"setEnabled":37109,"istically":37110,"Ġtester":37111,"Ġadministrators":37112,"Ġtagged":37113,"Ðĵ":37114,"Ġshortcut":37115,"ĠResolution":37116,"Ġsupervision":37117,"ĠAshley":37118,"Tracking":37119,"ulatory":37120,"andel":37121,"isten":37122,"Ġunre":37123,"(diff":37124,"ANTS":37125,"Ġrider":37126,"ĠsÄħ":37127,".Series":37128,"_orders":37129,"ORIZONTAL":37130,"Ġretention":37131,"ãĢĤčĊčĊ":37235,"Ġdiagonal":37236,"ĠCancellationToken":37237,"_Internal":37238,"Ġruin":37239,".Qt":37240,"ocratic":37241,"Tel":37242,"ĠAnswers":37243,"matic":37244,"Ġxp":37245,"atem":37246,"_jobs":37247,"_any":37248,"Ġseniors":37249,"Ġlandmark":37250,"ĠQList":37251,"Ġmaneu":37252,"otify":37253,"/\";Ċ":37254,"/server":37255,"ĠPhilosoph":37256,"utenant":37257,"(io":37258,"hz":37259,"Ġauthenticated":37260,"dv":37261,"-Compatible":37262,"Originally":37263,",function":37264,"ãĢĤčĊ":37265,"ĠRepresentative":37266,"asily":37267,"ircuit":37268,".dt":37269,"(math":37270,".Marshal":37271,"[,":37272,"ĠCities":37273,"_turn":37274,"|)Ċ":37275,"Ġcantidad":37276,"alter":37277,"ĉui":37278,"ĠNebraska":37279,"Ġskirt":37280,".bg":37281,"SharedPreferences":37282,"(style":37283,"Ġgrief":37284,"gew":37285,"Ġsafeg":37286,"olang":37287,"_lists":37288,"ìĽ":37289,"Ġgranite":37290,"Ġhottest":37291,".jdbc":37292,".Customer":37293,"Ġâī¤":37294,"Ġwaar":37295,"_scene":37296,"+'/":37297,"ĠJTextField":37298,"Ġseating":37299,"Ġwears":37300,"Ġ`/":37301,"Cases":37302,"ĠYoutube":37303,"ım":37304,"Ġbalcon":37305,",G":37306,"MetaData":37307,"-price":37308,"SCR":37309,"Unity":37310,"Ġtrunk":37311,"={`${":37312,"Ġearthquake":37313,"Partial":37314,"Ġsubst":37315,"Ġelimin":37316,"=\"'.":37317,"//*[@":37318,"Ġsupervisor":37319,"vrolet":37320,"_article":37321,"Ġpane":37322,"bio":37323,"Ġmotors":37324,"NM":37325,"Frank":37326,"Ġonion":37327,"-word":37328,"ItemClickListener":37329,"Ġbrit":37330,"endencies":37331,"Computer":37332,"_running":37333,"(day":37334,"-he":37335,"(named":37336,"ĠSach":37337,"оÑĩ":37338,"campaign":37339,".Abstract":37340,"(wrapper":37341,".pay":37342,"Ġuw":37343,"Geo":37344,"rails":37345,"/select":37346,"ichte":37347,"sons":37348,"EVENT":37349,"Ġaliment":37350,"Providers":37351,"Await":37352,"_INTERVAL":37353,".off":37354,"Ġgluten":37355,"_cloud":37356,"Ġwen":37357,".extract":37358,"ĉbutton":37359,"/MM":37360,"Party":37361,"Ġdemographic":37362,"_errno":37363,"Ġhiking":37364,"('')Ċ":37365,"\",@\"":37366,"Ġwit":37367,"rá":37368,"ologie":37369,"ĠStyles":37370,"ĠBrowserModule":37371,".RequestMapping":37372,"icans":37373,"PAGE":37374,"creation":37375,"ĠFerguson":37376,"uded":37377,"numbers":37378,"ĠGTK":37379,"Ġpresentations":37380,"ĠBobby":37381,"_span":37382,"estyle":37383,"Ġillegally":37384,"abela":37385,"Ġbattlefield":37386,"capacity":37387,"terror":37388,"]\");Ċ":37389,"Ġwarrior":37390,"leader":37391,"ĠDBG":37392,"ĠRevenue":37393,"Ġvigil":37394,"Ġcounterparts":37395,"(Error":37396,"ACTER":37397,"Ġheeft":37398,"Ġselections":37399,"zeug":37400,"tom":37401,"-two":37402,".;Ċ":37403,"_statement":37404,"ĠAid":37405,"ĠVul":37406,"_rgb":37407,"Ġprizes":37408,"Ġeditable":37409,"ĉform":37410,"ını":37411,".decor":37412,"Demo":37413,"lices":37414,"Ġenctype":37415,"ratulations":37416,"ĠROS":37417,"_chars":37418,"ĠJahr":37419,"partial":37420,"ÑĥÑĤ":37421,"ĠReceive":37422,"ĠLands":37423,"APTER":37424,"Ġchopped":37425,"..\"":37426,"ĠAnaly":37427,"ĠUID":37428,"ĠRadeon":37429,"ĠBee":37430,"Ġunm":37431,">M":37432,".findall":37433,"Tokenizer":37434,"ĠWHAT":37435,"Ġsj":37436,"Drawing":37437,"Ess":37438,"OND":37439,"Ĭ¶":37440,"(packet":37441,"âĢĶbut":37442,"Invocation":37443,"ĠNuclear":37444,"?;Ċ":37445,"Ġgrandes":37446,"ĠCrypt":37447,"remark":37448,"Ġ'../../../../":37449,"Ġinability":37450,"magic":37451,"cats":37452,"Ġsimulate":37453,":${":37454,"inflate":37455,"Ġener":37456,":NO":37457,"iples":37458,"Ġmerit":37459,"ĠRated":37460,"Ġglue":37461,"/blog":37462,"Ġgren":37463,"Ġthrilled":37464,".CH":37465,"uncan":37466,"ĠPRIMARY":37467,"Ġpersec":37468,"Ġfeared":37469,".MIN":37470,"ĠTheater":37471,"éĴ":37472,"ategorie":37473,"段":37474,"Ġappetite":37475,"square":37476,"ĠAlexand":37477,".UserId":37478,"_gt":37479,"_enter":37480,"Ġgraduates":37481,"FragmentManager":37482,"Authorize":37483,"-NLS":37484,"(My":37485,"Ġtriumph":37486,"usting":37487,"_PARAMS":37488,"Characters":37489,"(:,:,":37490,"_BUILD":37491,"MHz":37492,"Ġwashed":37493,"Ġuncle":37494,"Steve":37495,"ardown":37496,"${":37680,"_confirmation":37681,"Ġtrophy":37682,"Works":37683,"ĠElectronics":37684,"ĠMediterranean":37685,"_metrics":37686,"Ġannouncing":37687,"ĠDAY":37688,"_proto":37689,"Ġpear":37690,"baseUrl":37691,"ĉĉĉĉĉĉĉĉĊ":37692,"Ġcoordination":37693,":N":37694,".animate":37695,"ĠCotton":37696,"_hit":37697,"âľ":37698,"Ġjetzt":37699,"ifter":37700,"(fields":37701,"ownload":37702,"ificacion":37703,".cuda":37704,"ĠLiu":37705,">equals":37706,"ĠAce":37707,"ÑĢам":37708,"ĠSuperman":37709,"ĠGarcia":37710,"Ġarrests":37711,"agar":37712,"Ġ{})":37713,"Ġmacros":37714,"roupe":37715,"être":37716,"Ġtwisted":37717,"struments":37718,"_(\"":37719,"_vertices":37720,"ĠTransition":37721,"ик":37722,"[max":37723,"mind":37724,"ĠaccessToken":37725,"Ġunle":37726,"mus":37727,"cop":37728,"ĠFactor":37729,"Ġconced":37730,"Ġretr":37731,".linalg":37732,"-slider":37733,"obl":37734,"_StaticFields":37735,"Ġzombie":37736,"selling":37737,"Ġchap":37738,"Ġshaking":37739,"ĠTranslate":37740,"ĠAmsterdam":37741,"ĠETH":37742,"_EXTERN":37743,"kd":37744,"_disc":37745,"Ġpreceding":37746,"Ġprix":37747,"ObjectName":37748,"_modified":37749,"ardware":37750,"Ġ?>\">":37751,"ĠDW":37752,"`${":37753,"Ġ?>\">ĊĊ":37859,"Ġspinning":37860,"_pending":37861,"Matchers":37862,".Keys":37863,"ĠPV":37864,"enus":37865,"antis":37866,"Ġdiscard":37867,"Ġhaul":37868,"Ġempir":37869,"Ġpathway":37870,"Ġoak":37871,"мен":37872,"-induced":37873,"Ġimpair":37874,"ĠCalgary":37875,".isHidden":37876,"dz":37877,"_include":37878,"Ġgm":37879,"Ġ'('":37880,"PY":37881,"uggestions":37882,"Ġcommodity":37883,"cro":37884,"/sub":37885,"ĠgetInstance":37886,"ĠLegacy":37887,"ĠKil":37888,"Bal":37889,"(short":37890,"Inform":37891,"+x":37892,"*r":37893,"ĠHopefully":37894,"orate":37895,"Ġmachen":37896,"Ġtreaty":37897,"ĠOri":37898,".public":37899,"-horizontal":37900,"Ġtactic":37901,"Ġbord":37902,"wares":37903,"Ġammo":37904,"ĠLists":37905,"Ġequations":37906,"/her":37907,"ĠNSW":37908,"Bounding":37909,"_Collections":37910,"Ġavail":37911,".DropDown":37912,"è°":37913,"Ġhh":37914,"ĠlÃł":37915,".pb":37916,"Ġmemorial":37917,"ĠATTR":37918,"Ġexhausted":37919,"Ġtsp":37920,"ĉredirect":37921,"Ġlikewise":37922,"STER":37923,"Ljava":37924,"Ġcondemned":37925,"ocaust":37926,"(strict":37927,"Ġexempt":37928,"Ġsms":37929,"Ġexagger":37930,"SYS":37931,"Ġlounge":37932,":^":37933,"Ġtodd":37934,"deb":37935,"atorial":37936,"ĠPorter":37937,"Ġtuition":37938,"Ġexempl":37939,"Ġparen":37940,".lineTo":37941,"Ġkidney":37942,"Ġça":37943,"Ġcui":37944,"ï¼Į请":37945,"XC":37946,"Ġmoż":37947,"Ġnominated":37948,"lung":37949,"ImGui":37950,"ĠBuzz":37951,"Ġstereo":37952,"portal":37953,"resas":37954,"Ġklass":37955,"Ġdrafted":37956,"Ġprojectile":37957,"/gpl":37958,"(parameters":37959,"*)Ċ":37960,"Ġassisted":37961,"ĠNSInteger":37962,"sitemap":37963,":nth":37964,".Views":37965,".ArgumentParser":37966,"Ġmeer":37967,"zier":37968,"ĠDig":37969,"Ċ":38036,"Ġplag":38037,"pine":38038,"Ġblanket":38039,"Ġ:-":38643,"Ġlcd":38644,"---------------":38645,"(\"\"":38646,"Ġtactical":38647,"ĠRonald":38648,"extr":38649,"ĠFest":38650,"Ġfuer":38651,"-navigation":38652,"Ġkb":38653,"ghost":38654,"ĠhandleChange":38655,"_cls":38656,"()!=":38657,"Comparator":38658,".vm":38659,"ĠCox":38660,"_review":38661,"/@":38662,"_cookie":38663,"Ġrecognised":38664,"ldap":38665,"Threads":38666,"ĠSexual":38667,"ĠBearing":38668,"(SQL":38669,"Ġxr":38670,"Ġthigh":38671,"URLConnection":38672,"ĠSUV":38673,"ĠmContext":38674,"Ġincidence":38675,"ĠEste":38676,".sup":38677,"_te":38678,"(EXIT":38679,"CMD":38680,"/\">":38681,"Almost":38682,"ĠUne":38683,"Ġanderen":38684,"ĠSingleton":38685,"Ġbore":38686,"Think":38687,"Ġnarc":38688,"]initWith":38689,"_shop":38690,"(strategy":38691,"!',":38692,"herits":38693,"ĠDesk":38694,"_machine":38695,".netty":38696,"ında":38697,"=<":38698,"ĠQR":38699,"ĠSidebar":38700,".splitContainer":38701,"ĠonSuccess":38702,"Ġmonkey":38703,"Enjoy":38704,"(nodes":38705,"pectrum":38706,"Ġ(*(":38707,"ĉUINT":38708,",height":38709,"ĠNetworks":38710,".tail":38711,".linspace":38712,"Ġ\"...":38713,"Listen":38714,"Æ¡":38715,".Channel":38716,"-defined":38717,"Repeat":38718,"adjust":38719,"ERM":38720,"_application":38721,".assertNotNull":38722,"-stream":38723,"Ġrabbit":38724,"Ġpositioning":38725,"Ġwoke":38726,"Ġfing":38727,"Ġmultiplayer":38728,"Ġregistering":38729,"until":38730,"Ã¥n":38731,"(::":38732,"ussions":38733,"Ġpotato":38734,"ĠEquals":38735,".Sup":38736,"/apache":38737,"Ġ(=":38738,".\")":38739,".ptr":38740,"ĠSpeech":38741,".clip":38742,"ĠGabriel":38743,"Ġmusician":38744,"/issues":38745,".shop":38746,"ĠHier":38747,"_RET":38748,"_bucket":38749,"ãĥ¡":38750,"avs":38751,"Ġroz":38752,"flower":38753,"WriteBarrier":38754,"ĠMilan":38755,"Ġlegislature":38756,"ĠDoll":38757,"Ġproving":38758,".concatenate":38759,"âķIJ":38760,"Ġgchar":38761,"cdnjs":38762,"bles":38763,"ĠListing":38764,"ло":38765,".xrLabel":38766,"ĠSak":38767,"justice":38768,"ĠValentine":38769,"unless":38770,"Ġpiger":38771,"(run":38772,"Ġtestified":38773,"ANA":38774,"ĠRemoves":38775,"))));Ċ":38776,"recated":38777,"ĠRuntimeMethod":38778,"Ġconqu":38779,"ãĤ¢":38780,"Ġtissues":38781,"ailer":38782,"été":38783,"-Star":38784,"Ġflames":38785,".setIcon":38786,"Ġsupern":38787,"Ġvagina":38788,"-variable":38789,"Ġwellness":38790,"CUR":38791,"Ġbelle":38792,".getRequest":38793,"Ġpoco":38794,"benh":38795,"agens":38796,"Ġspill":38797,"ĠJur":38798,"Ġdispatcher":38799,"ного":38800,"emonic":38801,"(dirname":38802,"ĠÐĶ":38803,"Ġpasse":38804,"Ġganz":38805,"ricing":38806,"EU":38807,"Ġmujeres":38808,"essen":38809,".attribute":38810,"jj":38811,"ĉĉĠĊ":38812,"[^":38813,"Ġstrtolower":38814,"lexer":38815,"ectar":38816,"hotel":38817,".square":38818,"Ġrall":38819,"Ġlowered":38820,"handled":38821,"Market":38822,"ĠUses":38823,"ivas":38824,".Business":38825,"ãģĹãģ¦":38826,"DIV":38827,"Ġwasted":38828,"Ġavoir":38829,"êm":38830,"_ACCOUNT":38831,".et":38832,"ĉSDL":38833,"kap":38834,"Ġfox":38835,"uppet":38836,"{},Ċ":38837,"\",'":38838,"Favorite":38839,"PEND":38840,"ĠAES":38841,"}),":38842,"Ġdeduction":38843,"ĠpolÃŃt":38844,"ĠcomponentWill":38845,"ĠTelerik":38846,"_SELF":38847,"Ġmuse":38848,"Craft":38849,"Ġdens":38850,"ि":38851,"(tp":38852,"Ġtasty":38853,"Ġbalances":38854,"Ġdedication":38855,"ĠWallace":38856,"Ġunlaw":38857,"\\\">\\":38858,"Ġmum":38859,"-update":38860,"emente":38861,"Ġsoda":38862,"Republic":38863,"asmine":38864,"éric":38865,"(Status":38866,"ĠJsonConvert":38867,"ĠDisk":38868,".Redirect":38869,"Ġfilming":38870,"/mol":38871,"Ro":38872,"Ġville":38873,"Ġtrabaj":38874,"Ġsynthesis":38875,"rega":38876,"Ġrl":38877,"Scheduler":38878,"ISHED":38879,"currentUser":38880,"(errors":38881,"'h":38882,"_bot":38883,"ximo":38884,"ĠUSART":38885,"_super":38886,"_DECREF":38887,"ной":38888,"_ROW":38889,"Ġpromotes":38890,"ĠTA":38891,"Ġhoras":38892,"ĠRepresents":38893,"Ġnameof":38894,"ĠExc":38895,"ĠGarage":38896,"Ġseine":38897,",#":38898,"Ġherb":38899,"/resources":38900,"Ġpleaded":38901,".radioButton":38902,"Ġæĺ":38903,"Ops":38904,"ĠNest":38905,"cstring":38906,"ĠDefence":38907,"Ġrefere":38908,"_leaf":38909,"Ġrevelation":38910,"ë§":38911,".executeUpdate":38912,"_WORLD":38913,"Ġexpans":38914,"(\"\\\"":38915,"jab":38916,"Ġdoubts":38917,"ĠGeometry":38918,"Ġintroduces":38919,"Ġsenators":38920,"Ġcanal":38921,".helper":38922,"ĠBiology":38923,"_SENS":38924,".previous":38925,"-touch":38926,"abit":38927,"Ġimpacted":38928,"Ġbrackets":38929,".direct":38930,"accum":38931,"Ġtestosterone":38932,"ĉaction":38933,"ĠChance":38934,"Ġpeaks":38935,"CppCodeGenWriteBarrier":38936,"Ġunbelie":38937,"_press":38938,".Rel":38939,"angled":38940,"/templates":38941,"-->čĊ":38942,"lime":38943,"Ġsufficiently":38944,"_nt":38945,"Expand":38946,".isfile":38947,"ĠisEmpty":38948,"Ġqt":38949,"Ġmulher":38950,"acob":38951,"George":38952,"常":38953,"Ġassim":38954,"aso":38955,"Ġcomprised":38956,"OV":38957,"(CONFIG":38958,"ĉwriter":38959,"Ġdesp":38960,"Ġtenure":38961,"(cr":38962,".pool":38963,"ĠBrend":38964,"Ġcensor":38965,"(timeout":38966,"Ġplea":38967,".Wrap":38968,"Ġtightly":38969,"ĠWere":38970,"ĠIgnore":38971,"abei":38972,"Ġbridges":38973,"Ġcondemn":38974,"Ġsimplicity":38975,"Ġroutinely":38976,"Ġblacks":38977,"jb":38978,"ĠPit":38979,"Utf":38980,"Ġ/Ċ":38981,"reload":38982,"ĠsetObject":38983,"/global":38984,"Ġfatty":38985,"Ġsocks":38986,"Couldn":38987,"Ġerotisk":38988,"æĿ¡":38989,"ĠPressure":38990,"ĠMaz":38991,"npos":38992,"tolower":38993,"ĠEQ":38994,"uteur":38995,"ĠMoment":38996,"Ġeta":38997,"{{--":38998,"Ġgraphs":38999,"ĠGuar":39000,"rine":39001,"(--":39002,"ĠHttpStatus":39003,"(student":39004,"*np":39005,"Ġrailway":39006,"Ġasynchronous":39007,"_vm":39008,"'],'":39009,",text":39010,"merchant":39011,"(Guid":39012,"ĠGra":39013,"ixer":39014,"fetchAll":39015,".addListener":39016,"flip":39017,"*$":39018,">(),":39019,"Ġsunlight":39020,"assigned":39021,"Ġabc":39022,"ĠCOLUMN":39023,"ĠðŁĻĤĊĊ":39024,")...":39025,"Ġensemble":39026,"Ġnewline":39027,"_SINGLE":39028,"iedad":39029,"Ġdarker":39030,"ormap":39031,"Ġlion":39032,"plits":39033,"Ġillustration":39034,"ĠIEEE":39035,"Ġvista":39036,"ousands":39037,"*******":39038,"ĠTommy":39039,"Ġhue":39040,"Sel":39041,"Ġaura":39042,"ĠTherapy":39043,"Ġanimator":39044,".constraints":39045,"Ġvague":39046,"(\"\")":39047,"Ġvillain":39048,"Ġblessing":39049,"ĠstringBuilder":39050,"ĠMisc":39051,"ĠDIR":39052,"fax":39053,"-node":39054,"ĠWalking":39055,"ĠAU":39056,"sess":39057,"Ġgrill":39058,"VERTISE":39059,"ĠFoods":39060,"Ġtournaments":39061,"Ãĵ":39062,"ĠMarsh":39063,"Ġwonders":39064,"Longitude":39065,".CommandText":39066,"=input":39067,"_encoder":39068,"pageSize":39069,"ĠgetState":39070,">>Ċ":39071,".grey":39072,"pod":39073,"Ġreadings":39074,"Ġreconsider":39075,"Startup":39076,"Ġexcer":39077,".balance":39078,"_cycle":39079,"_Time":39080,"LOCAL":39081,"ĠEFI":39082,"ĠReyn":39083,".setForeground":39084,"byn":39085,"Ġdisconnected":39086,"ACTIVE":39087,"Ġembedding":39088,"ickers":39089,"Ġsurroundings":39090,"*c":39091,"Ġgarant":39092,"Ġbf":39093,"Ġwipe":39094,"Ġä¸ĭ":39095,"_TRA":39096,"adox":39097,"çķ":39098,"Ġsucks":39099,"ĠSongs":39100,"ĠAssociates":39101,"ĠBald":39102,"ĠBrett":39103,"venile":39104,"Ġvt":39105,"Ġinade":39106,"Ġresigned":39107,"ĠGlenn":39108,".pattern":39109,".DataBind":39110,"Ñĥм":39111,"LayoutInflater":39112,"chet":39113,"ĠTestament":39114,".ms":39115,"Ġpav":39116,"ĠReactDOM":39117,"urdy":39118,"ADATA":39119,"Mu":39120,"/actions":39121,"ĠJs":39122,"_extract":39123,"ĠBring":39124,":id":39125,"strt":39126,"ivation":39127,"Ġoutright":39128,"azu":39129,"loyment":39130,"иÑı":39131,"aldo":39132,"ĠPublisher":39133,"Education":39134,"Palette":39135,"_drv":39136,"Ġ($(":39137,"ĠAnda":39138,"Ġremedy":39139,"Ġinconsistent":39140,"tection":39141,"Ġregulators":39142,"Ġshortest":39143,"(pair":39144,"ĠInstallation":39145,"Ġdefendants":39146,"Ġ();":39147,"-large":39148,"Mel":39149,"Ġthreaten":39150,"нÑı":39151,"Ġfetish":39152,"otine":39153,"_dic":39154,"Ġ<$":39155,"Ġstagger":39156,"spi":39157,"$response":39158,"Serv":39159,"-born":39160,"jos":39161,"ĉimg":39162,"ĉWHERE":39163,"_lt":39164,"å½ĵ":39165,".cost":39166,"ĠTue":39167,".labels":39168,"ĠLV":39169,"wcsstore":39170,"ĠJesse":39171,"ห":39172,"Trade":39173,"Ġpredecessor":39174,"ëĤ":39175,"finally":39176,"_general":39177,"oggler":39178,"_REGION":39179,"nement":39180,"Ġblogger":39181,"ĠHarbor":39182,"ĠDataset":39183,"[w":39184,"Ġattendees":39185,".ico":39186,"maximum":39187,".Unlock":39188,"_SYNC":39189,"ágina":39190,"Ġdowns":39191,"ĠWii":39192,"])/":39193,"Ġkicking":39194,"unication":39195,"ĠDAC":39196,"ĠIDS":39197,"ĠRental":39198,"ĠcurrentTime":39199,"Ġvaccines":39200,"ĠDevil":39201,"Ġnors":39202,"_mouse":39203,"urrection":39204,"(no":39205,"Ġ>čĊ":39206,"Ġaggression":39207,"Ġbreeding":39208,".symbol":39209,"iman":39210,"AbsolutePath":39211,"ĠWHO":39212,"_flush":39213,"-root":39214,"arna":39215,"&M":39216,"Ġfathers":39217,"ĠRocket":39218,"iveau":39219,"Ġwander":39220,"Ġcompos":39221,"ĠWarrior":39222,"ĠSeat":39223,"ĠClinic":39224,"_invoice":39225,"(dispatch":39226,"Producto":39227,"aturing":39228,"ossier":39229,"ĠMAY":39230,"Ġdagger":39231,"Ġsanitized":39232,"ĠRFC":39233,"Ġproph":39234,"Ġurine":39235,"Ġgrind":39236,"ĠExpanded":39237,"descripcion":39238,"-fw":39239,"ĠKerry":39240,"=name":39241,"Ġchk":39242,"Ġnationally":39243,"Ġthee":39244,"Inc":39245,"Ġ?>>":39246,".RadioButton":39247,".HttpServletResponse":39248,"/Y":39249,"ĉfield":39250,"Ġhomme":39251,"yper":39252,"Physical":39253,"=v":39254,"Ġdriv":39255,"ĠErrors":39256,"ĠcÄĥ":39257,"Death":39258,"ĠWINDOW":39259,"Ġpoet":39260,"ĠSharp":39261,"ĠImmutable":39262,"ĉcreate":39263,"Ġgeht":39264,"ĠReform":39265,"aiser":39266,"ĠInitialization":39267,"Ġimmunity":39268,".compose":39269,"Ġlatency":39270,"ĠLebanon":39271,"ĠParad":39272,"Ġfuels":39273,"ĠExhib":39274,"coh":39275,"%\">Ċ":39276,"ĠCLI":39277,")initWith":39278,"-Za":39279,"_CLEAR":39280,"regn":39281,"Ġfinances":39282,".standard":39283,"_CATEGORY":39284,".library":39285,"Ġtravelers":39286,"_wp":39287,"ĠEvaluation":39288,"starting":39289,"Ġ)),Ċ":39290,"episode":39291,"ĠVariant":39292,"Ġdaemon":39293,"ĠJulia":39294,"ĠNR":39295,"Ġdoubles":39296,"'":39526,"Ġqueryset":39527,";}čĊ":39528,"ĠPopulation":39529,"utedString":39530,"resident":39531,"_FONT":39532,"ĠRespond":39533,"Ġobscure":39534,"Ġobservable":39535,"ĠContributors":39536,"kon":39537,"ĠMusk":39538,"exao":39539,"ĠTub":39540,"BootApplication":39541,"SOR":39542,".Horizontal":39543,".findBy":39544,".power":39545,"Ġpositively":39546,"venience":39547,"ĠJong":39548,"Ġwhistle":39549,"ĠзнаÑĩ":39550,"Ġlending":39551,"Ġdestructive":39552,"ĠonDelete":39553,"authorization":39554,"();?>":39555,"_original":39556,"science":39557,"atra":39558,"?,?,":39559,"ĠAsc":39560,"Ġconvincing":39561,"$a":39562,"orgen":39563,"_Date":39564,"ĠProvide":39565,"Ġlonely":39566,")'Ċ":39567,"exchange":39568,";?>Ċ":39569,".fast":39570,"Samples":39571,"London":39572,"'])čĊ":39573,"ĠIonic":39574,"Ġpesso":39575,"ĠKnights":39576,"ĠRaf":39577,"_attrs":39578,"Ġrepeal":39579,">Main":39580,"ĠOrdered":39581,"_New":39582,"=\"\">\";Ċ":39663,"ĠSERVER":39664,"ĠHEADER":39665,"_velocity":39666,"ĠInvoke":39667,".timestamps":39668,"Ġsulf":39669,"IQUE":39670,"Ġinhabitants":39671,"phins":39672,"azzo":39673,"Ġmono":39674,"Legend":39675,"Ġnonce":39676,"IFE":39677,";\";Ċ":39678,"-create":39679,"\"\",Ċ":39680,"permit":39681,"ĠImmigration":39682,"Ġpathname":39683,"ffective":39684,"âĻĢâĻĢ":39685,"Ġexams":39686,"-event":39687,"ĠTill":39688,"[mid":39689,"FIX":39690,";color":39691,"(Order":39692,"_traits":39693,"ĠorderBy":39694,"Ġsunt":39695,"ĠNicholas":39696,"ز":39697,"Ġsunny":39698,"iners":39699,"Ġaccessibility":39700,"ĠHB":39701,".comp":39702,"ĉop":39703,"Ġminorities":39704,"etheus":39705,"Ġcollaborative":39706,"prit":39707,"HIR":39708,"Ġwraps":39709,"ĉdraw":39710,"god":39711,"ĠIX":39712,".apps":39713,"ĠNM":39714,"Ġirrelevant":39715,"ĠTigers":39716,"Ġdiag":39717,"GV":39718,"ĠAccessories":39719,"kont":39720,"Ġsimplify":39721,"ĠFavorite":39722,"_tools":39723,"([]);Ċ":39724,"Ġtowers":39725,"Bes":39726,"Ġhunter":39727,"Ġsalon":39728,"(buff":39729,"ĉdebug":39730,"Ġmalware":39731,"Moving":39732,"-options":39733,")+'":39734,"ĠLOVE":39735,"_SOCKET":39736,"_fin":39737,"ĠDelaware":39738,"Ġsheriff":39739,"-invalid":39740,"ĠFULL":39741,"Ġпод":39742,"elas":39743,"\"strings":39744,"ĠRepresentatives":39745,"surface":39746,"resolved":39747,"htdocs":39748,")):čĊ":39749,"Ġpressures":39750,"Ġnorms":39751,"Ġpla":39752,"Ġsurname":39753,"Ġpostal":39754,"ĠDepart":39755,"Ġslaughter":39756,"orida":39757,"Ġhebben":39758,"Ġdesar":39759,"compact":39760,"_LANG":39761,"åIJĪ":39762,"opoly":39763,"_rad":39764,"ĠSTDMETHOD":39765,"Lazy":39766,"ĠĠĠĉ":39767,"...,":39768,"(web":39769,"ĠPont":39770,"Ġetwas":39771,"Ġupward":39772,"_hat":39773,"Ġ],ĊĊ":39774,"ĠbaseUrl":39775,"Ġworrying":39776,"-addon":39777,"(getClass":39778,"SPI":39779,"Ġcapturing":39780,")},Ċ":39781,"Effects":39782,"Ġcompetent":39783,"Ġfoul":39784,"Ġsubscribing":39785,"ĠOBJECT":39786,"IXEL":39787,"bucks":39788,"(edge":39789,"(pass":39790,"ĠPeterson":39791,"Ġboobs":39792,"ĠDelay":39793,"_square":39794,"elim":39795,"oters":39796,"_PC":39797,"%E":39798,"onclick":39799,"ĠSVG":39800,"Ġtopped":39801,"Ġfist":39802,"smart":39803,"ĠRalph":39804,"(owner":39805,"jours":39806,"Ġbronze":39807,"ĠArgumentException":39808,"(original":39809,"_SCALE":39810,"_cp":39811,"Ġrecommends":39812,".setStyle":39813,"Sure":39814,"LAND":39815,"Ġrepeating":39816,"Matt":39817,".Visibility":39818,"Ġenterprises":39819,".Setup":39820,"(scene":39821,"ĠReactive":39822,"urge":39823,"bw":39824,".Put":39825,"persist":39826,".cookie":39827,"ĠAudi":39828,"`s":39829,"supplier":39830,"(Form":39831,"¡":39832,"_so":39833,"ĮĢ":39834,"ĠLegion":39835,"tte":39836,"Nd":39837,"Loss":39838,"(attrs":39839,".scatter":39840,"Ġgroom":39841,"Ġglimpse":39842,"Ġnails":39843,"Ġcumulative":39844,"Ġfazer":39845,"_services":39846,".Num":39847,"ibilit":39848,"_resolution":39849,"ĠTx":39850,"uminium":39851,"opa":39852,".schedule":39853,"smtp":39854,"à¸ķ":39855,"urry":39856,"ük":39857,"goog":39858,"_signature":39859,".into":39860,"ĠSteps":39861,"Ġhomeowners":39862,"ĠNSURL":39863,"ĠPAC":39864,"ĠĠĠĠĠĠĠĠĠĠĠĠĊĊ":39865,">')Ċ":39866,"enh":39867,"Ġincap":39868,"$MESS":39869,"Ġmoins":39870,"ĠFi":39871,"Ġoffseason":39872,"pressions":39873,">.Ċ":39945,"ĠGrass":39946,"ĠGoal":39947,"_pdf":39948,"Handlers":39949,"Ġstacks":39950,".getFullYear":39951,"=[];Ċ":39952,"车":39953,",V":39954,"(split":39955,"Ñĥнк":39956,"Ġbakeca":39957,"Ġ~/.":39958,"pez":39959,"tails":39960,"ĠGlen":39961,"ĠsetImage":39962,"ĠComic":39963,"BLOCK":39964,"ĉThis":39965,"oader":39966,"Ġcapitalist":39967,"_STEP":39968,"(Boolean":39969,"ĠCorrect":39970,"rina":39971,"Ġconcaten":39972,"å®ŀ":39973,"():ĊĊ":39974,"Ġunanim":39975,"lli":39976,"alars":39977,"-ne":39978,"Ġdivor":39979,"ĠKickstarter":39980,"]._":39981,"*'+":40622,"åĿĢ":40623,"acency":40624,"(URL":40625,"_half":40626,"=l":40627,"ĠlistView":40628,"(section":40629,".toArray":40630,"+/":40631,"ĠRodriguez":40632,"istream":40633,"Ġeligibility":40634,"::-":40635,".newInstance":40636,"PB":40637,"ĠAssets":40638,"ĠComposite":40639,"ĠLabs":40640,"ĠHamas":40641,"++);Ċ":40642,"Ġblk":40643,"ĠNeo":40644,"Luc":40645,"@login":40646,"Ġunaware":40647,".met":40648,"_RELEASE":40649,"(ST":40650,"AMIL":40651,"rike":40652,"Ġ(){Ċ":40653,"(sprintf":40654,"ĠAccounts":40655,"ĠVIEW":40656,"ĠAj":40657,"ãĤ°":40658,"Ġwhisk":40659,"Ġidi":40660,"Ġrode":40661,"Ġihn":40662,"ĠElementary":40663,"Qty":40664,"Ġintriguing":40665,"Ġå¤":40666,"Jobs":40667,"ĉoffset":40668,"ĠAhmed":40669,"ĠTaliban":40670,"Ġèİ·åıĸ":40671,"Ġinjected":40672,".Authentication":40673,"_linear":40674,".Decimal":40675,"Ġapples":40676,"Ġshareholders":40677,"Ġbaked":40678,".diff":40679,"ĠEddie":40680,"okers":40681,"Ġconfronted":40682,"voices":40683,"Ġtus":40684,"ĠSpin":40685,"NODE":40686,"_Un":40687,"CTX":40688,"/google":40689,"Temperature":40690,"Ġ'').":40691,"Ġmagnificent":40692,"ĠstartIndex":40693,"sembles":40694,"Anyone":40695,"zk":40696,"ehen":40697,"ĠDame":40698,".strict":40699,"Ġreplaces":40700,"Ġlineback":40701,"Ġpushes":40702,"Ġcheek":40703,"ĠShi":40704,"_BYTES":40705,"REA":40706,"ản":40707,"_CONNECTION":40708,"Gateway":40709,"ĠTravis":40710,"ĠAX":40711,"ĠBasically":40712,"ĠUpgrade":40713,"àª":40714,"themes":40715,"ermo":40716,"kor":40717,"Female":40718,"_attach":40719,"ĠìĤ¬ìļ©":40720,"Ġpoz":40721,"==============Ċ":40722,"(symbol":40723,"ĠSector":40724,"__)ĊĊ":40725,"_padding":40726,"ï¼ļ\"":40727,"Ġfabs":40728,"Ġranged":40729,"setName":40730,"Ġperror":40731,"âĹ":40732,"ĠFileReader":40733,"Ġfulfilled":40734,"_Current":40735,"Ġdominate":40736,"Ġsmugg":40737,"PostMapping":40738,"_force":40739,"Ġbloc":40740,"ĠGiant":40741,"(video":40742,"ĠCU":40743,"SystemService":40744,"Ġelf":40745,"Ġkontakt":40746,"ëª":40747,"kees":40748,"gtk":40749,"ĠparamInt":40750,"Ġmarkup":40751,"uales":40752,"Ġaccounted":40753,"Ġgangbang":40754,"RYPT":40755,"ĠWrong":40756,"Ġcredited":40757,"ĠMESSAGE":40758,"Ġflaws":40759,"Ġbbw":40760,"Ġmetabolic":40761,"ĠOEM":40762,"/event":40763,"(Collectors":40764,"monton":40765,"appear":40766,"Ġopted":40767,"Ġcheat":40768,"Ġdav":40769,"ĠProceed":40770,"Ġê¸":40771,"anked":40772,"из":40773,"ansk":40774,"ĠHang":40775,"ĠCler":40776,"Ġdisgu":40777,"Ġcmap":40778,".cljs":40779,"Ġaument":40780,"lez":40781,"ĠJoined":40782,"_received":40783,"Ġaerial":40784,"otel":40785,"Ġgreet":40786,"\"s":40787,"ĠGenesis":40788,"ĠCalif":40789,"panion":40790,"Ġtailored":40791,"mapping":40792,"andExpect":40793,".track":40794,"atomy":40795,"ĠOw":40796,"ullah":40797,".Yes":40798,"ĠSimpleName":40799,"dbh":40800,"'en":40801,"Ġnonsense":40802,"Ġphilosophical":40803,"(getContext":40804,"Ġisso":40805,"ĠACE":40806,"startDate":40807,"ĠbÄĻd":40808,"ĠAUTHOR":40809,"ĠGlobe":40810,"Ġinsects":40811,"_Al":40812,"ushing":40813,"è®°":40814,"/Home":40815,"ĠLocalDate":40816,"needed":40817,"hesive":40818,"Ġillusion":40819,"äºĮ":40820,"Ġtrat":40821,"xo":40822,"/detail":40823,"_MATCH":40824,"Ġbroadband":40825,"Ġwal":40826,"ĠIllegalStateException":40827,"IRECTION":40828,"Ġnortheast":40829,"esium":40830,"ĠCliente":40831,"ulance":40832,"nty":40833,"Ġtecn":40834,"Devices":40835,"Ġgrains":40836,"ĠOg":40837,"ĠSEL":40838,"udiant":40839,"Ġ++;Ċ":40840,"Ġexplanations":40841,"occo":40842,"Ġdiets":40843,"Ġcohort":40844,"(controller":40845,".Iterator":40846,"-rich":40847,"rocess":40848,"GD":40849,"Ġcarbohydr":40850,"Ġfried":40851,"ĠEmployment":40852,"ìŀ¥":40853,"ĠLeonard":40854,"_${":40855,"quares":40856,"Ġcompanions":40857,"Ġparis":40858,"Ġstimulation":40859,"ĠZoo":40860,"Ġrelevance":40861,"ĠColour":40862,"Ġspear":40863,"otional":40864,"ĠLite":40865,"ĠKosten":40866,"Ġó":40867,"_attachment":40868,"orphic":40869,"Ġdamit":40870,"Ġdlg":40871,"Ġthrive":40872,"CHANGE":40873,"ĠApparently":40874,"Ġatual":40875,"Ġrooted":40876,"(images":40877,"awi":40878,"ariat":40879,"Ġcherry":40880,"STATIC":40881,"mnt":40882,"ĠUserId":40883,"illet":40884,"ĠHispanic":40885,"Ġnak":40886,"Ġcentro":40887,"Ġdims":40888,"_initialize":40889,"ık":40890,"ĠCenters":40891,"REN":40892,"Ġevolutionary":40893,"ĠTopics":40894,"_damage":40895,"emer":40896,"Ġrund":40897,"Ġpunished":40898,"Ġcubic":40899,"fair":40900,"[];ĊĊ":40901,"Ġinstantiate":40902,"Ġoversee":40903,"-delete":40904,"unteer":40905,"startTime":40906,"ĠPipeline":40907,"_GAME":40908,"ĠCir":40909,"ĉNull":40910,".Formatting":40911,"ucumber":40912,"ĠRide":40913,"Ġzoo":40914,"Ġchecker":40915,"åIJĮ":40916,"=C":40917,"Ġgrit":40918,"\");//":40919,"_xy":40920,"ĠDeclaration":40921,"Ġcallable":40922,"Foo":40923,"ĠListItem":40924,"Ġinaccur":40925,"mlin":40926,"ĉData":40927,"Ġevolving":40928,"awan":40929,"Ġcafe":40930,"folk":40931,"_IDX":40932,"ĠAnything":40933,"ĠPalestine":40934,"ĠGridView":40935,"Ġcolony":40936,"ĠGermans":40937,"(+":40938,".pid":40939,".jsx":40940,"ĠSuperior":40941,"Christian":40942,"ĠLect":40943,"ĉGame":40944,"Ġinstrumental":40945,"Animations":40946,"дал":40947,"ĠMoses":40948,"ĉĉčĊĉĉčĊ":40949,"zs":40950,"kte":40951,"ä¸ļ":40952,"_DIST":40953,"bitmap":40954,"dB":40955,"Ġpersistence":40956,"ÑĢоÑģ":40957,"$l":40958,"Bron":40959,"Ġ{|":40960,"_chart":40961,"ĠConsum":40962,"Ġhemp":40963,"Ġ\"))Ċ":40964,"Ġattackers":40965,"Ġknowledgeable":40966,"Ġcet":40967,"Ġviruses":40968,"'I":40969,"Ġpitcher":40970,"Ġsweeping":40971,"=list":40972,"aptops":40973,".depth":40974,"Ġinstructed":40975,"ĠRus":40976,"benhavn":40977,"Ġин":40978,"Sports":40979,"Ġonset":40980,"æĿĥ":40981,".RED":40982,"_si":40983,"ĠPST":40984,".onChange":40985,">tag":40986,"ĠRoh":40987,"_character":40988,"ĠLaws":40989,"ĠBachelor":40990,"_swap":40991,".reactivex":40992,"Ġrewarding":40993,"Medium":40994,"-[":40995,"ĠRecently":40996,"Joint":40997,"partition":40998,"ĠMinutes":40999,"Ġindo":41000,"Ġabsorbed":41001,"ĠGN":41002,"_IND":41003,"Ġsaber":41004,"Spawn":41005,"outputs":41006,"ĠJeffrey":41007,"Ġmedieval":41008,"hed":41009,"Guide":41010,"Ġpsycho":41011,"Ġglam":41012,"Elim":41013,"ädchen":41014,"_plain":41015,"ĠSau":41016,"-four":41017,"Ġanalyzing":41018,"QUERY":41019,"Ġtomato":41020,"_buttons":41021,"VEN":41022,".setStatus":41023,".Url":41024,"+ĊĊ":41025,"Ġcomplaining":41026,"degree":41027,"confirmed":41028,"Ġsubt":41029,"parsed":41030,"Ġtorque":41031,"Ġtroubled":41032,"ĠTARGET":41033,"Ġtrademarks":41034,"ĠCoordinate":41035,"ĠViv":41036,"Ġ//}ĊĊ":41037,"Ġaprès":41038,".getPosition":41039,"(KeyCode":41040,"ĠSilva":41041,"Ġmeteor":41042,"Ġendorsement":41043,"Overview":41044,"ĠPoss":41045,".Inject":41046,"Ġevenly":41047,"Ġvisualization":41048,"Ġwchar":41049,"ĠHDMI":41050,"Ġfunct":41051,"ickname":41052,"','','":41053,"Ġforwards":41054,"ManagedObject":41055,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":41056,"ĉserver":41057,"ĠOutlook":41058,"ĠChronicle":41059,"Ġdubbed":41060,"Ġdok":41061,"ĠWear":41062,".AL":41063,"paren":41064,".Interface":41065,"Interfaces":41066,".cod":41067,"Ġdib":41068,".Globalization":41069,"ĠAcademic":41070,"Ġassms":41071,"Autom":41072,"Ġlw":41073,"ĠNW":41074,"Ġ&&čĊ":41075,"Ġproblema":41076,"ĠManufacturing":41077,"limits":41078,"-mobile":41079,"Ġfilme":41080,"/map":41081,"Ġdoit":41082,"ĠInk":41083,"Ġsued":41084,".arr":41085,"Ġundermin":41086,"ĠProc":41087,"crollView":41088,"__$":41089,"Ġsidewalk":41090,"(that":41091,"ื":41092,"[q":41093,"grammar":41094,"Ġtë":41095,"quito":41096,"Ġspiral":41097,"extended":41098,"Ġfocal":41099,"Ġdigging":41100,"pas":41101,"ĠTall":41102,".proxy":41103,"itures":41104,"TRACT":41105,"ĠRealm":41106,"Ġfeder":41107,"Ġoriented":41108,"ĠAlternative":41109,"Ġowe":41110,"Ġsourced":41111,"inker":41112,".det":41113,"Sep":41114,"ĠQui":41115,"ĠPalmer":41116,"(_,":41117,"samples":41118,"oyer":41119,"ullan":41120,"quez":41121,"Edges":41122,"Ġshout":41123,"ĠAchie":41124,"Ġhaar":41125,"_Construct":41126,"Ġpremature":41127,"Ġrevert":41128,"').Ċ":41129,"Ġschn":41130,"filtered":41131,"nullptr":41132,"Saved":41133,"itecture":41134,"CLA":41135,"Ġvl":41136,"stell":41137,"ĉMe":41138,"ĠLip":41139,"national":41140,"Ġwholly":41141,"Ġsprings":41142,".Timer":41143,"ĉsrc":41144,"elsen":41145,"åħ¶":41146,"Ġcommunicating":41147,"ĠQuiz":41148,"Ġteng":41149,"Ġgez":41150,"ĠOutside":41151,".Sign":41152,"(cs":41153,"Ġdisputes":41154,"ĠWeiss":41155,"annes":41156,">No":41157,"ĠBach":41158,".removeAll":41159,"refer":41160,"/dashboard":41161,"ĠAjax":41162,"IndexChanged":41163,"ĠWeak":41164,"'\"Ċ":41165,"Ġsights":41166,"accessToken":41167,"ĠJoi":41168,"(domain":41169,"ĉcv":41170,"Ġcontinuation":41171,"Ġplum":41172,"adir":41173,".setMessage":41174,"Ġï¼Į":41175,"Ġswallow":41176,"ĠLamp":41177,"Ġqw":41178,"Ġuu":41179,"Coin":41180,"ubic":41181,"ĠDeals":41182,"race":41183,"Ġdictator":41184,"Ġmeme":41185,"turned":41186,"ĠJulie":41187,".gridColumn":41188,"Ġpuppy":41189,"Ġpam":41190,"Ġ){čĊ":41191,"Ġinviting":41192,"Ġfrench":41193,"vim":41194,"Ġwrapping":41195,"Ġ#-}Ċ":41196,"([-":41197,"Early":41198,"Ġshiny":41199,".faces":41200,"Ġrebell":41201,"abcdef":41202,"ält":41203,"Ġestimation":41204,"phys":41205,"losures":41206,"_REL":41207,"Ġexclusion":41208,"ĠSkype":41209,"weise":41210,"-stop":41211,"nothing":41212,"ĠEgg":41213,"isors":41214,"Richard":41215,"Ġcounseling":41216,"Ġcommem":41217,"ĠQMessageBox":41218,"ĠSynd":41219,"ĠFrost":41220,"ĠCompetition":41221,"ĠAwake":41222,"Ġted":41223,"iciones":41224,"ĠDevComponents":41225,"VERTISEMENT":41226,"otti":41227,".runner":41228,"Ġuniquely":41229,".flag":41230,"ĉrs":41231,"_generic":41232,"Ġ```Ċ":41233,"ACHINE":41234,"Ġmein":41235,"(Application":41236,"(br":41237,"Ġratios":41238,":,":41239,"ĠXCTest":41240,"ustainable":41241,"-www":41242,"itles":41243,"_TEMP":41244,"Ġsyst":41245,"umericUpDown":41246,"ĉassertTrue":41247,"Ġwf":41248,".peek":41249,"ĠBulg":41250,"Ġterrifying":41251,".MODE":41252,"ĠGW":41253,"ár":41254,"Ġfic":41255,"Ġcommitments":41256,"-tech":41257,"ĠLiquid":41258,"opez":41259,"zheimer":41260,"aña":41261,"-media":41262,"(animated":41263,"_goal":41264,"Ġgum":41265,"ystone":41266,".SET":41267,"ĠWend":41268,"setCellValue":41269,"Ġmsgs":41270,"cash":41271,"ALLOC":41272,"/aws":41273,"Ġmicrowave":41274,".Pointer":41275,"ĉConsole":41276,"_sorted":41277,"ĠFilip":41278,"Prod":41279,"Ġ//!<":41280,"ingroup":41281,"Ġks":41282,"_TRI":41283,"Ġteaspoon":41284,"ĠATT":41285,"Ġrecovering":41286,"ĠGLOBAL":41287,".Par":41288,"Ġ/>;Ċ":41289,"Ġmarble":41290,"ulators":41291,"ĠCycle":41292,"Ġherbs":41293,"_metric":41294,")!":41295,"_CLOCK":41296,"_Button":41297,"Harry":41298,"è¿Ľ":41299,"Ġstrains":41300,"ĠAppBar":41301,"ĠChan":41302,"/video":41303,"Ġbam":41304,".Progress":41305,"$f":41306,"lemen":41307,"Ġirregular":41308,"ĠDuncan":41309,"ĠMint":41310,"-video":41311,"া":41312,"ówn":41313,"ĠEMPTY":41314,"Ġstacked":41315,"ĠHA":41316,"_cut":41317,"Ġwherein":41318,"ĠWays":41319,"(counter":41320,"è¯ķ":41321,"FormGroup":41322,"Ġblew":41323,"courses":41324,"Ġproductos":41325,"rys":41326,"ĠRestr":41327,"Ġstyling":41328,">s":41329,"Ġpiv":41330,"Ġitertools":41331,"getRepository":41332,"ĠIk":41333,"_devices":41334,"layui":41335,"Ġhalfway":41336,"Ġfranç":41337,"Ġtuning":41338,"OA":41339,"_Node":41340,"arde":41341,"Ġfierce":41342,"licted":41343,"#čĊ":41344,"Ġbreakthrough":41345,"ĠErik":41346,"Ġbride":41347,"Ġ.\"":41348,"culus":41349,"inside":41350,"ĠIndianapolis":41351,"ĠEE":41352,"Ġyog":41353,"urret":41354,".fs":41355,".grad":41356,"_cards":41357,"_accuracy":41358,"_epi":41359,"queda":41360,"/org":41361,"éªĮ":41362,"Ġcompte":41363,"))[":41364,"Outside":41365,"Greater":41366,"ĠRenderer":41367,".actor":41368,"Accounts":41369,"Idle":41370,"_hours":41371,"erner":41372,"Joined":41373,"Ġmenj":41374,"requires":41375,"ĠOPER":41376,".removeChild":41377,"ĉsp":41378,"Ġesse":41379,"rift":41380,"xFE":41381,"ĠShakespeare":41382,"____________":41383,"Ġbudgets":41384,"ModelState":41385,"fillable":41386,"-component":41387,"ocos":41388,"ĠBUTTON":41389,"/io":41390,",out":41391,"sms":41392,"Thomas":41393,"ĠArmed":41394,"resume":41395,"Ġrotating":41396,"ĠVault":41397,"Ġseus":41398,".(*":41399,"Ġamino":41400,"Ġ[]);ĊĊ":41401,"Ġprovoc":41402,"nox":41403,".GetEnumerator":41404,"=======Ċ":41405,"æĸĻ":41406,"_scroll":41407,"Ġfilmed":41408,"ĠSoci":41409,"gap":41410,"gro":41411,"Vote":41412,"\"But":41413,"_RC":41414,"Animal":41415,"ÂĢ":41416,"ibile":41417,"Ġawaken":41418,"orest":41419,"inja":41420,"ĠIvan":41421,"(Command":41422,"Ġ*****":41423,"η":41424,"Ġkvinder":41425,"/helpers":41426,"_cases":41427,"tg":41428,"ìĦ¸":41429,"Registered":41430,"ĉpass":41431,"_digits":41432,"Ġcontour":41433,"Ġinfants":41434,"Ġjustification":41435,"ĠFortunately":41436,"Contr":41437,"ĠonCreateView":41438,"_SAMPLE":41439,"ĠallowNull":41440,"Ġnud":41441,"Ġfetched":41442,"_equ":41443,"ĠUnable":41444,"=\\\"\"":41445,">{Ċ":41446,"Ġcommittees":41447,"istema":41448,"+\".":41449,"ÃŃan":41450,"mant":41451,"Ġsoutheast":41452,"ï¼ĮĊ":41453,"dialogs":41454,"PROJECT":41455,"charger":41456,"-port":41457,"(uuid":41458,".export":41459,"Six":41460,"ĠRP":41461,"Prem":41462,"Ġconscience":41463,"ĠmarginRight":41464,"_distribution":41465,"yaml":41466,"resizing":41467,"Dock":41468,"ĠLocations":41469,"GY":41470,"Seed":41471,"BUFFER":41472,"ossip":41473,"ullen":41474,"Things":41475,"-self":41476,".poll":41477,"PLAYER":41478,"Ġå®":41479,"GROUP":41480,"ĠAway":41481,"Ġgospel":41482,"xfd":41483,"Mary":41484,"ĠPortable":41485,"TURE":41486,"Ġutilis":41487,"Ġseit":41488,"Ġstrand":41489,"Ġtransc":41490,"Ġ(^":41491,"ĠAlfred":41492,".mem":41493,".circle":41494,"Ġ~/":41495,"forcing":41496,"Ġriot":41497,"prox":41498,"THON":41499,"ización":41500,"ĠNI":41501,"rost":41502,"Ġdispro":41503,"_instances":41504,"ï¼ĮâĢľ":41505,"ographer":41506,"endas":41507,"ĠIsaac":41508,"ĠPine":41509,"/dis":41510,"ĠcolorWith":41511,"iterate":41512,"_stride":41513,"Ġpunto":41514,".EventArgs":41515,"(center":41516,"Ġneighboring":41517,"ĠPrison":41518,"ĠMessenger":41519,"Ġepidemic":41520,"dao":41521,"_complex":41522,"Ġgravel":41523,"_DIP":41524,"ément":41525,"ĠAri":41526,"_bitmap":41527,".quit":41528,"(valid":41529,"Ġpend":41530,"Ġrespiratory":41531,"Ġrebound":41532,"DefaultValue":41533,"ãĥŃ":41534,"Ġcommits":41535,".tests":41536,"_fr":41537,"itet":41538,".sf":41539,"Ġspacecraft":41540,"critical":41541,"Ġdepressed":41542,"ĠAnyObject":41543,"Ġunb":41544,"Ġdiscern":41545,"(mysql":41546,"Latin":41547,"ĠBog":41548,"ĠWildlife":41549,"ToFile":41550,"ioxid":41551,"@RestController":41552,"Ġ\"$(":41553,"Ġ<<\"":41554,"Ġdefects":41555,"Ġdatum":41556,"hin":41557,"Ġrealizar":41558,"anyahu":41559,"ĠSig":41560,"@Data":41561,"adaptive":41562,"ĠCatherine":41563,".cr":41564,"ĠCOOKIE":41565,"Ġpictured":41566,"ĠFighter":41567,"Queryable":41568,"ĠAnyway":41569,"ĠGLFW":41570,"_namespace":41571,"_ft":41572,"Ġ])":41573,"Organization":41574,"Ġconstitutes":41575,"Ġquand":41576,"(chunk":41577,"\"/>čĊ":41578,"ĠLakes":41579,"mainwindow":41580,"Carthy":41581,"spin":41582,"(csv":41583,":red":41584,"-commerce":41585,"ู":41586,"Ġdiscovering":41587,"Ġeco":41588,"_fac":41589,"inceton":41590,"ĠGreens":41591,"jwt":41592,"ص":41593,"ĠBroncos":41594,"ĠGoods":41595,"(GTK":41596,"ĠreturnValue":41597,"Ġsiempre":41598,"Ġneutr":41599,"went":41600,"ĠNatal":41601,"Ġenthusiastic":41602,"á»į":41603,"FN":41604,"/database":41605,"Catalog":41606,"Ġbrun":41607,"ĠKash":41608,"_Pl":41609,"iscrim":41610,",width":41611,"Ġinmates":41612,"Assignment":41613,"ĠHaven":41614,"Ġplayground":41615,"exam":41616,"@Controller":41617,"uliar":41618,".getParent":41619,"Ġ\";ĊĊ":41620,":size":41621,"issors":41622,"Ġfis":41623,"Ġalc":41624,"ensation":41625,"ĠNixon":41626,"Ġmighty":41627,"-str":41628,"_special":41629,"_ADC":41630,"ĠTwig":41631,"umbling":41632,"-address":41633,"Ġheroin":41634,"YTE":41635,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":41636,"Friend":41637,"Ġave":41638,"ĠPNG":41639,"ĠKurdish":41640,"DataSetChanged":41641,"Ġblades":41642,"bral":41643,"Steam":41644,"Ġsigu":41645,"IRTUAL":41646,"acos":41647,"UDP":41648,"(database":41649,"hec":41650,"ĠStrings":41651,"_scalar":41652,"ĉdesc":41653,"ĠTLS":41654,";\"Ċ":41655,"ĠCorbyn":41656,"SimpleName":41657,"uell":41658,"ĠEntre":41659,"ellites":41660,"-place":41661,"Ġfrankly":41662,"ĠErf":41663,"CEL":41664,"ĠpaÃŃs":41665,"Ġhedge":41666,"Ġlatent":41667,"ĠIRQ":41668,"ĠHerald":41669,"ĠPrec":41670,"ë³´":41671,".TEXT":41672,"Salary":41673,"Ġautumn":41674,"Ġtravail":41675,".Sum":41676,"Ġcared":41677,"Mor":41678,"Ġintuitive":41679,"Ġjournals":41680,"_IT":41681,"ĠTrou":41682,"ä¼ł":41683,"HasColumnName":41684,"Composite":41685,"Ġspice":41686,"_disk":41687,"_CODES":41688,"ĠIntroduced":41689,"iona":41690,"Ġnuestra":41691,"oct":41692,"ĠĠĠĠĊĠĠĠĠĊĠĠĠĠĊ":41693,"(parameter":41694,"Ġstudios":41695,"ĠprojectId":41696,"Ġbdsm":41697,".SqlClient":41698,"imizer":41699,"ĠCARD":41700,"+t":41701,"aan":41702,".sol":41703,"_Adjust":41704,"Ġrighteous":41705,"ĠLogging":41706,".filters":41707,"_TAB":41708,"ĉsys":41709,"rophic":41710,"otherapy":41711,"ĠBrowse":41712,"keyboard":41713,"RON":41714,"+\\":41715,"ropped":41716,"Ġextensively":41717,"fk":41718,"Ġlime":41719,"years":41720,"Exc":41721,"Ġsph":41722,"Ġcheating":41723,"andro":41724,"ÃŃo":41725,"Ġprince":41726,"oire":41727,"ĠDestination":41728,"ĠConverts":41729,"Ġupstream":41730,"oled":41731,"Ġservants":41732,"Ġsemantic":41733,"Ġcrunch":41734,"Ġeventual":41735,"runner":41736,"/error":41737,"Spin":41738,"Ġsecretly":41739,"Ġassemble":41740,".Person":41741,"enderror":41742,"_<":41743,"Ġpendant":41744,"Sleep":41745,"ĠChemistry":41746,"Ġbosses":41747,"lk":41748,"))),Ċ":41749,"Blockly":41750,"DEVICE":41751,"Ġreflecting":41752,"Ġample":41753,"Milliseconds":41754,"ĠPresidential":41755,"Ġusuarios":41756,"ĠNZ":41757,"ĠSalary":41758,"ĠAmanda":41759,"_np":41760,"jury":41761,"Ġkön":41762,"Ġtherapist":41763,"Ġhomosexual":41764,"ĠDrake":41765,"-window":41766,"ĠLocated":41767,".Driver":41768,"ĠVIDEO":41769,"Ġmerchants":41770,"ĠChest":41771,"-lock":41772,"/php":41773,"Ġmilano":41774,"_STYLE":41775,"arger":41776,"idea":41777,"GUID":41778,"advanced":41779,"meal":41780,"OptionsItemSelected":41781,"='%":41782,"ĠCham":41783,":data":41784,"(stat":41785,"WillAppear":41786,"Ġinformal":41787,"aji":41788,"Ġreproductive":41789,"ĠCAS":41790,"ãģ£":41791,"FUNC":41792,"ĠRuth":41793,")+(":41794,"CONST":41795,"ĠFans":41796,"ĠgroupId":41797,"xffffffff":41798,"Ġsampler":41799,"Ġ}}\">":41800,".the":41801,"Ġhollow":41802,"WAY":41803,"ĠFaculty":41804,"AttributedString":41805,"ĠLooks":41806,"ĠRex":41807,"jk":41808,"ĠMIL":41809,"Ġbard":41810,".Long":41811,"Ġlivest":41812,"Ġskal":41813,"icism":41814,"MAIN":41815,"Ġmucho":41816,"BODY":41817,"Ġese":41818,"ĉuse":41819,"Foot":41820,".SQLException":41821,"Ġinheritance":41822,"received":41823,"Ġputas":41824,"edis":41825,"alsa":41826,"ĠErrorMessage":41827,"Booking":41828,"Ġtract":41829,"acz":41830,"ĠCant":41831,"_regex":41832,"Ġideological":41833,"Ġjihad":41834,"hos":41835,"/sys":41836,"colm":41837,"(pool":41838,"Ġestán":41839,"ĠPending":41840,"emás":41841,"Ġktóry":41842,"));ĊĊĊ":41843,"transactions":41844,"Ġwield":41845,"itere":41846,"erture":41847,"_ss":41848,"Ġstretching":41849,"Ġprisoner":41850,".ReadAll":41851,"Ġbesch":41852,"--;čĊ":41853,"Ġcrisp":41854,"_SCAN":41855,"Ġae":41856,"Strict":41857,"ĠMinneapolis":41858,"ĠBoeing":41859,"aris":41860,"rek":41861,"_pipe":41862,"Ġpriests":41863,"(EIF":41864,"ehicles":41865,"ĠInteractive":41866,"between":41867,"ĉNullCheck":41868,"ĠBlair":41869,"ĠLt":41870,"_inline":41871,"ethyl":41872,"¼":41873,"_packages":41874,"Ġbarrels":41875,"_he":41876,"Ġregexp":41877,"_pts":41878,"_Handler":41879,"ingular":41880,"ĠNissan":41881,"ĠRanch":41882,"Ġperch":41883,"Unsupported":41884,"Smith":41885,"ĠLegends":41886,"Mi":41887,"Ġgf":41888,"steder":41889,"Ġacquiring":41890,"Ġsimulator":41891,"(),\"":41892,"receive":41893,"Ġinplace":41894,"ACTION":41895,"ĠWebDriver":41896,"filesystem":41897,"'+Ċ":41909,"Ġcredible":41910,"amat":41911,"playing":41912,".setImageResource":41913,"quel":41914,"Ġpodr":41915,"geom":41916,"Ek":41917,"ĠQatar":41918,"Ġgeld":41919,"?',Ċ":41920,"Ġcyl":41921,"(ax":41922,"ĠWI":41923,"urally":41924,"ĠBrasil":41925,"Ġsenza":41926,"aley":41927,"onen":41928,"Ġbah":41929,"Ġmolecule":41930,"Rad":41931,"è¿°":41932,"ANCH":41933,"-background":41934,"-agent":41935,"Ġprolifer":41936,":boolean":41937,"Ġtide":41938,"erializer":41939,"_;čĊ":41940,"Fee":41941,"**)":41942,"ergy":41943,"ĠHonor":41944,".Logging":41945,"iris":41946,"Ġundermine":41947,"ĠDy":41948,"Ġtyr":41949,"Ġdeque":41950,"Ġdamer":41951,"([])Ċ":41952,".layoutControlItem":41953,"peated":41954,"CAN":41955,"ragments":41956,"Land":41957,")]);Ċ":41958,"ĠSah":41959,"ĠDECL":41960,"Within":41961,"ĠNamespace":41962,"another":41963,"sembling":41964,".describe":41965,"Consum":41966,"ĠFear":41967,"given":41968,"Orange":41969,"This":41993,"ĠdataIndex":41994,"Ġprintable":41995,"ĠEyes":41996,"_targets":41997,"(Py":41998,".over":41999,"Ġbru":42000,"ampton":42001,"Ġplaintiff":42002,");Ċ":42013,"invest":42014,".*ĊĊ":42015,"Ġtélé":42016,"Ġsuperf":42017,"Ġcascade":42018,"DTD":42019,"Ġvivid":42020,"Ġsubsidies":42021,"ĠHass":42022,"Ġcollaps":42023,"Ġceramic":42024,"{}\".":42025,"ĠLeakage":42026,"-trash":42027,"collapsed":42028,"-social":42029,"ĠChad":42030,"Ġinclined":42031,"Ġsto":42032,"Ġstoryboard":42033,".payment":42034,"stackoverflow":42035,"ĠRaiders":42036,"Ġ#'":42037,"olicies":42038,"ìľ¼ë¡ľ":42039,"emap":42040,"Ġkj":42041,"Ġquota":42042,"ĠGardens":42043,"ë²Ī":42044,"ĠAngels":42045,"Ġoft":42046,"Ġlowercase":42047,"ĠiParam":42048,"Ġcheapest":42049,"unta":42050,"_pkt":42051,"icators":42052,"Ġleurs":42053,"Ġdecreases":42054,"ĉdefine":42055,"PREC":42056,"ammers":42057,"ĠPreparedStatement":42058,"(direction":42059,"Ġcrews":42060,"arked":42061,"ĠMemphis":42062,"ĠSell":42063,"GTK":42064,"Ġmaid":42065,":disable":42066,"éĽĨ":42067,"ĠPf":42068,"Ġalbeit":42069,"openh":42070,"?>\">Ċ":42071,".getSource":42072,"(scale":42073,"Du":42074,"ĠPIL":42075,"_refresh":42076,"Ġbets":42077,"(car":42078,"ĠVon":42079,"|--------------------------------------------------------------------------Ċ":42080,"ĠGrat":42081,"Much":42082,"(Dialog":42083,".stopPropagation":42084,"Ġtek":42085,"Ġexits":42086,"'],$":42087,"ĠphoneNumber":42088,"ucs":42089,"ecimal":42090,"--------------":42091,"inp":42092,".pojo":42093,"Ġcorpus":42094,"Ġpractitioners":42095,".pic":42096,"\"testing":42097,"ĠstringBy":42098,".NotNull":42099,"Ġrang":42100,".Dynamic":42101,"_Render":42102,"аÑĤа":42103,"Waiting":42104,"ĠWik":42105,"Ġoverwhelmed":42106,"%\">":42107,"ĠAE":42108,"}}>Ċ":42109,"uw":42110,"_typ":42111,"Ġbuckets":42112,"Ġgreeting":42113,"Ġlaughter":42114,"Ġantagon":42115,"uggestion":42116,"-email":42117,"ĉtop":42118,"Ġeros":42119,"_tri":42120,"Ġissuing":42121,"Ġhá":42122,"Ġisolate":42123,"Overflow":42124,",E":42125,"Ġnutritional":42126,"ĠAbbott":42127,"Ġnf":42128,".touch":42129,".fetchall":42130,"_zip":42131,"\")}Ċ":42132,"Ġamat":42133,"ĠCisco":42134,"ĠnÃ¥":42135,"PLEX":42136,"Ġsei":42137,"foto":42138,".toJson":42139,"å¤ļ":42140,"ĠKlein":42141,"Ġlibc":42142,"Ġminers":42143,"å¢":42144,"-print":42145,"ĠPride":42146,"Todos":42147,"Ġmasked":42148,"ĠsetData":42149,"Ġtelefon":42150,"Ġunhappy":42151,"ĠTables":42152,"geb":42153,"(debug":42154,"_allowed":42155,"-access":42156,"Ġlogistics":42157,"Ġgems":42158,"ĠMature":42159,"Ġrsp":42160,"ĠAlle":42161,".getBytes":42162,"\\web":42163,"ynchronized":42164,"Paragraph":42165,"Ġthrottle":42166,".sqlite":42167,"consulta":42168,"ĠSeah":42169,"Ce":42170,"Ġsubmar":42171,"ERE":42172,"Vous":42173,"Ġreddit":42174,"Ġsqlalchemy":42175,"-mile":42176,"ocide":42177,"Pour":42178,"}}\">Ċ":42179,"stead":42180,"Ġ@(":42181,"Ġ[])":42182,"ĠAds":42183,"Ġoverload":42184,"ridden":42185,"ĠDesert":42186,"ĠWrap":42187,"ĠPortuguese":42188,"etz":42189,"ĉfirst":42190,"Ġmilestone":42191,"æĹł":42192,"ÑĥÑī":42193,"(success":42194,"\")Ċ":42363,"ĠDollar":42364,"Ġemoji":42365,"Carousel":42366,"-player":42367,"Ġadjusting":42368,"Ġjuga":42369,"allenges":42370,"gene":42371,"(bodyParser":42372,"lopedia":42373,"ĠBehind":42374,"Ġsleeves":42375,"Ġdragging":42376,"ĠChevrolet":42377,"Ġbiz":42378,"ivities":42379,"ĠFrequency":42380,",char":42381,".WHITE":42382,"_preview":42383,")';Ċ":42384,"_ax":42385,"IONS":42386,".cpu":42387,".inputs":42388,"UBE":42389,"_feed":42390,"ĠSupplement":42391,"!).":42392,"esus":42393,"ĠUDP":42394,"Ġmicrophone":42395,"Ġconfirms":42396,".isNotEmpty":42397,"\":\"\",Ċ":42398,"_SCREEN":42399,"ĉexpected":42400,"+-+-+-+-":42401,"ĠHait":42402,"fastcall":42403,"Ġdepict":42404,"vb":42405,"_picture":42406,"ĉdescription":42407,"ĠWife":42408,"uci":42409,"Ġvicious":42410,"ä»ĸ":42411,"ueba":42412,"ĠsetUser":42413,"ãģ¡":42414,"Ġdiving":42415,"Ġopera":42416,"usercontent":42417,"arah":42418,")},":42419,"yun":42420,"velt":42421,"Ġuncovered":42422,"Ġhips":42423,"Ġoscill":42424,"Ġasserting":42425,"ĠXi":42426,".restore":42427,"kea":42428,"Ġspelling":42429,"Ġderive":42430,"abwe":42431,"ĠDow":42432,".setType":42433,"_vs":42434,"Ġcozy":42435,".categories":42436,"Org":42437,"_mgr":42438,"Ġdungeon":42439,"collectionView":42440,"ĠBlank":42441,"acias":42442,"ää":42443,"_cleanup":42444,"_ACTIVITY":42445,"Ġtriangles":42446,".MenuItem":42447,"Ġiphone":42448,"ĠWon":42449,"]]ĊĊ":42450,"ĠComparison":42451,".Doc":42452,"Ġcanonical":42453,"ĠSudan":42454,"'){":42455,"UpInside":42456,"builtin":42457,"ENCY":42458,"xbe":42459,"Ġchuck":42460,"Ġcontradict":42461,"Ġnuestro":42462,"Ġarchitectural":42463,"ĠFib":42464,"Ġcompares":42465,"*k":42466,"Cfg":42467,"çĦ¡":42468,"nten":42469,"Matches":42470,"ĠDOWNLOAD":42471,"_HANDLER":42472,"management":42473,"[S":42474,"ENG":42475,"ÂĢÂ":42476,"fang":42477,"Ġslipped":42478,"ĠLanka":42479,"escaping":42480,"Ġtackles":42481,"ĠPedro":42482,".Prop":42483,".''":42484,".Generated":42485,".NewGuid":42486,"atrigesimal":42487,"illon":42488,"Ġstatistic":42489,"species":42490,"holding":42491,"Drupal":42492,"Ġfundamentally":42493,"Ġbondage":42494,"Ġresolutions":42495,"InlineData":42496,"\\Type":42497,"estion":42498,".wrap":42499,"Ġwarriors":42500,"ĠLOCAL":42501,"Archive":42502,"Ġembraced":42503,"á»§":42504,".Ver":42505,"ĠAffordable":42506,"olesale":42507,"ĠApplied":42508,"ĠConversion":42509,"mega":42510,"_cam":42511,"Ġceremon":42512,"aurus":42513,"ĠVolk":42514,".opens":42515,"/about":42516,"ĠStd":42517,"journal":42518,"()){čĊ":42519,",\"\\":42520,"(Arrays":42521,"ĠDense":42522,"aseña":42523,"änner":42524,"/stat":42525,"userData":42526,"Ġgerman":42527,"Ġtz":42528,"worthy":42529,"FormatException":42530,"pherd":42531,"Ġsmiles":42532,"ĠWhenever":42533,"(adapter":42534,".badlogic":42535,"Ġbriefing":42536,".GridColumn":42537,"-char":42538,"dimension":42539,"ĠCopper":42540,"Ġninth":42541,"Ġ'{{":42542,"Ġrav":42543,"_Table":42544,"Ġderivatives":42545,"ĠRaise":42546,"ĠFut":42547,"armor":42548,"-padding":42549,"Ġremin":42550,"ĉstyle":42551,"ĠMembership":42552,"Ġspreads":42553,"Ġgalleries":42554,"ĠClarke":42555,"Ġconception":42556,"minute":42557,"Ġabusive":42558,"_adj":42559,"Ġterrific":42560,"Ġovert":42561,"ourcing":42562,"Ġentrada":42563,"levels":42564,"Ġcritique":42565,"Ġrespects":42566,"ĠMMA":42567,"iene":42568,"Ġencaps":42569,"ĠRaymond":42570,"Divider":42571,"ivable":42572,"baz":42573,"Ġ@_;Ċ":42574,"ĠClaire":42575,"Ġurging":42576,"CEE":42577,"Ġtransformer":42578,"discord":42579,"ĠJourney":42580,"tos":42581,"Ġcompetitions":42582,"ĠOBJ":42583,"ĠBis":42584,"Ġrelaxation":42585,"idy":42586,"_INSTANCE":42587,"ĠPref":42588,"dados":42589,"iciencies":42590,"ĠMediaQuery":42591,"ĠCube":42592,"ĠStrange":42593,"gpu":42594,"(days":42595,"_InitStruct":42596,"Ġfingerprint":42597,"emat":42598,"ĠGecko":42599,"Ġrails":42600,"ĠLum":42601,"straction":42602,"igung":42603,"(movie":42604,"_dictionary":42605,"_interrupt":42606,"ĠQC":42607,"iked":42608,"appendChild":42609,"recipient":42610,"ré":42611,"Ve":42612,"Ġtowel":42613,".lastIndexOf":42614,"Ġplacebo":42615,"ĠWie":42616,".esp":42617,"(Debug":42618,"operative":42619,"Ġdeceased":42620,"&id":42621,"ĉmutex":42622,"elic":42623,"Ġbapt":42624,"ĉčĊčĊ":42625,"Ġfarther":42626,"Half":42627,".disable":42628,".menuStrip":42629,"leccion":42630,"ĠresultCode":42631,"Ġcans":42632,"-election":42633,"female":42634,"_FIX":42635,"ausible":42636,"ĠPOWER":42637,"Ġreconstruction":42638,"Ġscans":42639,".XtraBars":42640,"âĢĺs":42641,"Removed":42642,"Ġparagraphs":42643,"_margin":42644,"Ġlymph":42645,"Ġbos":42646,"lington":42647,"ĠBaptist":42648,"Ġadvertisements":42649,"ĠManage":42650,"/yyyy":42651,"IOUS":42652,"ENCES":42653,"ĠFiction":42654,"ĉmenu":42655,"ĠFileOutputStream":42656,"ovan":42657,"ĠFeng":42658,"Ġskipping":42659,"getClass":42660,"anni":42661,"Ġrebounds":42662,"Ġpublicity":42663,"Ġingres":42664,"usement":42665,"Ġthoughtful":42666,".Chart":42667,"Ġhatte":42668,"passport":42669,"Ġhooked":42670,"ĠLens":42671,"Ġflagship":42672,"Ġstip":42673,"ĠGEN":42674,"Ġclues":42675,"ipv":42676,"ĠRise":42677,"ĠGew":42678,"tablename":42679,"Ġforemost":42680,"_validate":42681,"_analysis":42682,"olla":42683,"Ġqualifications":42684,"Ġdistributions":42685,"ĠFlower":42686,"Ġtense":42687,"Ġthankful":42688,"Ġclutch":42689,"Ġunified":42690,"roads":42691,"Ġsiti":42692,"Ġstall":42693,"_PRIORITY":42694,"cstdlib":42695,"_USERNAME":42696,".bytes":42697,"?page":42698,"ermalink":42699,"ĠVeget":42700,"/vnd":42701,"-author":42702,".NONE":42703,"ĠConcurrent":42704,"ĠCry":42705,"Ġstarters":42706,"ĠInteraction":42707,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":42708,"ĠLEVEL":42709,"Ell":42710,"ĠcomboBox":42711,"ĠTheresa":42712,"tek":42713,"_Handle":42714,"Ġaby":42715,".gdx":42716,",end":42717,"(Local":42718,"Ol":42719,"knife":42720,"arial":42721,"ĠHoff":42722,"Ġprostituerade":42723,"Doctor":42724,"Instances":42725,".SetValue":42726,"ĉfrom":42727,"Ġluxurious":42728,"Indent":42729,"Allocator":42730,"_DRAW":42731,"(\",\",":42732,"ĠFrances":42733,"ĠgroupBox":42734,"(schema":42735,"Printf":42736,"ORIES":42737,"-gradient":42738,"Ġreput":42739,"arin":42740,"_DONE":42741,"incre":42742,"ignty":42743,"Ġexert":42744,"Ġ-.":42745,"/App":42746,"-through":42747,"Ġdeclining":42748,"Ġdessert":42749,"Ġincumb":42750,"Ġdesignation":42751,".PORT":42752,",strong":42753,"Ġsandbox":42754,"Ġwines":42755,"ĠPav":42756,"$str":42757,"askell":42758,"Ġhö":42759,"ĠPY":42760,"GetInstance":42761,"TextInput":42762,"gameObject":42763,"/events":42764,"createdAt":42765,"ĠlocalVar":42766,"ĠWHITE":42767,"pered":42768,"ilege":42769,"efficient":42770,",color":42771,"cate":42772,"ĠCafe":42773,"Ġsimilarities":42774,"Ġpumps":42775,"ĠHungary":42776,".Username":42777,"Ġskate":42778,"Ġtouchdowns":42779,"Ġaccelerate":42780,"ĠHelen":42781,"OMEM":42782,"ĠKun":42783,"_vol":42784,"ĠfindAll":42785,"ĠMenschen":42786,"ahead":42787,");\"":42788,"kommen":42789,"Ġpossessed":42790,".argmax":42791,".transition":42792,"ARP":42793,"OLUME":42794,"(script":42795,"ĠÐĺ":42796,"ĠFinding":42797,"onces":42798,"Io":42799,"Bold":42800,"Ġrenewal":42801,"_DIALOG":42802,"Ġdisreg":42803,"INTERN":42804,"Ġtoute":42805,"Ġelectr":42806,"ĠGross":42807,"ĉtrue":42808,".Fields":42809,"ĠWIDTH":42810,"ĠDent":42811,"ĠÃģ":42812,"NSNotification":42813,"Ġaos":42814,"Ġmelee":42815,".Validation":42816,"ĠDEC":42817,"-dependent":42818,"Ġsuic":42819,"Traits":42820,"$message":42821,"ĠDear":42822,"ĉFILE":42823,"languages":42824,".Prot":42825,".addr":42826,"-generation":42827,"ICON":42828,"Ġtransplant":42829,"-description":42830,"Ġchasing":42831,"Ġchees":42832,"Ġ}*/Ċ":42833,"Trad":42834,"queries":42835,"/widgets":42836,"subpackage":42837,"Ġespec":42838,"Ġcracked":42839,"Ġcompetitor":42840,"Purchase":42841,"-team":42842,"olecular":42843,"orThunk":42844,"&P":42845,"Ġrelent":42846,"/#{":42847,"ĠproductId":42848,"Ġè¾":42849,"ĠLav":42850,"ĠAlter":42851,".Mode":42852,"ADIO":42853,"grp":42854,"æ·»åĬł":42855,"Quit":42856,"Ġdepths":42857,"-category":42858,"ĠDATABASE":42859,"SPELL":42860,"ĠFalcon":42861,"ĠQStringList":42862,"Ġ''.":42863,"ĠInstitution":42864,"damage":42865,"azor":42866,"belongsTo":42867,"verages":42868,"ĠNONE":42869,"ippets":42870,",\\Ċ":42871,"Ġfootprint":42872,"_archive":42873,"nak":42874,".getField":42875,"ĠReflection":42876,"Ġ']":42877,"ĠHBO":42878,"_discount":42879,"Ġincest":42880,"ĠDodge":42881,"ĠWade":42882,".NO":42883,"\"encoding":42884,"ĠBlockchain":42885,"Ġlawsuits":42886,"ĠMaint":42887,"chten":42888,"Ġétait":42889,"Ġktóre":42890,"_ctl":42891,"(timer":42892,"Battle":42893,"izo":42894,"ayed":42895,"IOR":42896,"ĠGlasgow":42897,"Ġsynth":42898,"_logs":42899,".pose":42900,"_AdjustorThunk":42901,"((&":42902,"Ġunsure":42903,"ystate":42904,"íķĺëĬĶ":42905,"OULD":42906,".ng":42907,"Ġdefaultdict":42908,"workspace":42909,"Ġselective":42910,"PickerController":42911,"YNAMIC":42912,".methods":42913,"Ġpathways":42914,"ĠFew":42915,"KG":42916,"CRYPT":42917,"following":42918,"ĠDLC":42919,"ĠSara":42920,"Ġpreset":42921,"estructor":42922,"ĠKurt":42923,"Ġairplane":42924,"Ġomp":42925,"ĠParents":42926,"ĠMartinez":42927,".complete":42928,"Ġbroadly":42929,"Ġscare":42930,"ĠMé":42931,"Ġelimination":42932,"Ġpoured":42933,"/sw":42934,"Ġcomun":42935,"Ġmasc":42936,"ĠOrganic":42937,"ĠStringUtils":42938,"ilateral":42939,"Ġreluctant":42940,"-age":42941,"Ġnz":42942,".\"\\":42943,"Ġpastor":42944,"alez":42945,"Ġefect":42946,"prov":42947,"/init":42948,"Ġpenn":42949,"unds":42950,"Ġssize":42951,"ĠProj":42952,"basename":42953,"Ġshells":42954,"ĠNeck":42955,"ĠEnforcement":42956,"vided":42957,"stown":42958,"Sphere":42959,"$r":42960,"ussen":42961,"afil":42962,"ĠTelegram":42963,"Ġanalytical":42964,"нÑĭе":42965,"usually":42966,"xn":42967,"Ġhistorian":42968,"ĠGregory":42969,"olph":42970,"ĠUna":42971,"Ġcontributes":42972,"%-":42973,"antiago":42974,"ÑĢед":42975,".region":42976,"Ġabrupt":42977,"ĠUnsupportedOperationException":42978,"ĠTASK":42979,"_finish":42980,"Ġnotorious":42981,"ĠVs":42982,"ĠMQ":42983,"Ġsunset":42984,"Ġunacceptable":42985,"arcer":42986,"Ġillumin":42987,"ĠOrb":42988,"Ġbh":42989,"Este":42990,"_dispatch":42991,"Ġripped":42992,"Ġtoujours":42993,"ĠParcel":42994,"_ll":42995,".userName":42996,".classes":42997,"SOURCE":42998,"(Number":42999,"елÑı":43000,"Ġheadphones":43001,"(side":43002,"constitution":43003,"annah":43004,"čĊĠĠĠĠĠĠĠĠčĊ":43005,"Ġcliff":43006,"-ref":43007,"Ġmostrar":43008,"ĠPowell":43009,"+y":43010,"ĠBG":43011,"_fragment":43012,".Port":43013,"Ġrealizing":43014,"paramref":43015,"Ġhometown":43016,"@Table":43017,"+\"--}}Ċ":43196,"French":43197,"EntityManager":43198,"ĠPlain":43199,"////////////////////////////////////////////////////////////////////":43200,"³":43201,"(RE":43202,"capt":43203,"Ġorganisms":43204,"Ġjets":43205,"olocation":43206,"ĠAppRoutingModule":43207,"Ġglorious":43208,"æľį":43209,"Ġdiscarded":43210,"ĉĉĉĉĠĠĠĠĠ":43211,"ĠArnold":43212,"lug":43213,"Ġparl":43214,"Ġhormones":43215,"Ġmah":43216,"ĠSonic":43217,"Ġorganizers":43218,"_PLATFORM":43219,".inv":43220,"Ġchord":43221,"ventional":43222,"ĉof":43223,"Episode":43224,".Enum":43225,"unkt":43226,"ĠDh":43227,"ĠJared":43228,"ĠNak":43229,"Ġintends":43230,"Endian":43231,"Ġaustralia":43232,"_cv":43233,"(resolve":43234,"Ġclinics":43235,"liked":43236,"ASHINGTON":43237,"inha":43238,"'*":43239,"ĠNP":43240,"_beh":43241,"Ġhf":43242,"Ġwür":43243,"categoria":43244,"$form":43245,"Ġsubway":43246,"ĠisActive":43247,"popular":43248,"Cour":43249,"Ġcooldown":43250,"Ġainsi":43251,"ĠGLuint":43252,"ereal":43253,"ĠarrayOf":43254,"Ġhatch":43255,"==========":43256,"resses":43257,"_PP":43258,".^":43259,"_decay":43260,"ĠBless":43261,"metrics":43262,"ĠCOPYING":43263,"ĠDumpster":43264,"ĠJosé":43265,"ĠDesigns":43266,"<":43269,"Ġ\"}Ċ":43270,"timezone":43271,"Ġeer":43272,"maxcdn":43273,"ĠESC":43274,"igaret":43275,"_connected":43276,"_reverse":43277,"Ġquestionable":43278,"ĠUSC":43279,"Ġtutti":43280,"Ġdropout":43281,"ĠActivities":43282,"ĠWinds":43283,"')));Ċ":43284,"Ġcongest":43285,"ģı":43286,"Ġprolonged":43287,"è¿Ļ":43288,"ĠCrossAxisAlignment":43289,"LEEP":43290,"ĠVALID":43291,"ĠGaz":43292,"Ġdependence":43293,"ĠPrix":43294,".CompilerServices":43295,"jump":43296,"Ġstrat":43297,"circ":43298,"ĠCUSTOM":43299,"xaa":43300,"Ġbmp":43301,"Ġbureau":43302,"Ġwaren":43303,"NX":43304,"(Window":43305,"ĠChristie":43306,"_FE":43307,"Ġtn":43308,"ĠOmega":43309,"communications":43310,"HomePage":43311,"completion":43312,"Ġsupplying":43313,"YPES":43314,"ável":43315,"åζ":43316,"(click":43317,"\\Contracts":43318,"/questions":43319,"Ġez":43320,"AMS":43321,".mesh":43322,"Ġ'\\Ċ":43373,"Robot":43374,"JsonObject":43375,"ĠDF":43376,"ĠProcessor":43377,"_should":43378,".protobuf":43379,"-users":43380,"Ġembry":43381,"FONT":43382,"Ġstartups":43383,"ĠDataSource":43384,")#":43385,"uros":43386,"_Color":43387,"Ġstandalone":43388,"}[":43389,"jd":43390,"Ġforgive":43391,"Ġngx":43392,"ĠGenerally":43393,"Ġconfigurable":43394,"/order":43395,"Ġvas":43396,"')\";Ċ":43397,"ĠRR":43398,"ĠTroy":43399,"Ġcompromised":43400,"ĠSwan":43401,"intendent":43402,"Central":43403,"_keeper":43404,"Ġarquivo":43405,"ĠReadOnly":43406,"_curve":43407,"kv":43408,"entin":43409,"è±":43410,"ĠEy":43411,".imread":43412,"ĠPam":43413,"iffe":43414,"ativity":43415,"xbc":43416,"Ġgrim":43417,"-filled":43418,"namese":43419,"']:":43420,"Ġaur":43421,"ĠGibson":43422,".MouseEvent":43423,"Ġlado":43424,"avadoc":43425,"Ġfamil":43426,"ĠModer":43427,"fps":43428,"ãĢĢãĢĢ":43429,"-example":43430,"ĠAlzheimer":43431,"ĠUtf":43432,"_arguments":43433,"Conclusion":43434,"textContent":43435,"remaining":43436,"Ġinterrupts":43437,"ĠBackup":43438,"ĠMong":43439,"Ġreceptors":43440,"histor":43441,".coroutines":43442,"Ġshouted":43443,"Alarm":43444,"Ġcombust":43445,"Ġgrote":43446,"ultural":43447,"(ids":43448,"--------------------------------------------------------------------------------":43449,"iplinary":43450,"Opts":43451,"ĠYale":43452,"localStorage":43453,"Ġequival":43454,"ĠFleet":43455,"\\b":43456,"*pi":43457,"ĠQLabel":43458,"æ¡":43459,"Ġvx":43460,"ĠACL":43461,"Ġsucesso":43462,"Ġperc":43463,"ĠNotre":43464,"Ġanarch":43465,"Ring":43466,"spb":43467,"Ġstrpos":43468,"stores":43469,"ĠMaple":43470,"(MainActivity":43471,"(\"\"))":43472,"ĠviewHolder":43473,"Quad":43474,"Ġigual":43475,"orsche":43476,".margin":43477,"Ġindie":43478,"Ġfranc":43479,"ĠFormBuilder":43480,"ĠParticip":43481,".flash":43482,"Ġstorms":43483,"Ult":43484,"Ġfen":43485,"[new":43486,"Ever":43487,"=\"Ċ":43488,"Ġlocalized":43489,"_follow":43490,"Ġnave":43491,"Ġdominance":43492,"(tile":43493,"Journal":43494,"ĠVC":43495,"Ġpenetration":43496,"ï¼ķ":43497,"Ġcompartment":43498,"Ġbids":43499,"Formatted":43500,"******/ĊĊ":43501,"(city":43502,"âĢĶit":43503,"[C":43504,"ĠuseCallback":43505,"aub":43506,")?.":43507,"ĠVAR":43508,"ĠSebastian":43509,"ĠMoss":43510,"Ġabundant":43511,"Greg":43512,"ÑĤа":43513,"_ci":43514,"Ġbibli":43515,"CRM":43516,"ĠAttempt":43517,"isme":43518,"dash":43519,"ãĢİ":43520,"_mu":43521,".FormattingEnabled":43522,"Indeed":43523,"-direct":43524,"Ġsucking":43525,"Ġpne":43526,"ocabulary":43527,"ĠPackers":43528,".Navigation":43529,"Ġpied":43530,"cribing":43531,"ĠStuart":43532,".ToDouble":43533,"ĠSecondary":43534,"Saving":43535,"ĠDut":43536,"ĠMadd":43537,"Magic":43538,",H":43539,".documentElement":43540,"ĠBST":43541,"Ġdiffers":43542,"Ġmoreover":43543,"_nd":43544,"SEARCH":43545,"пÑĢав":43546,"æ´":43547,"toMatch":43548,"Ġdecreasing":43549,"-member":43550,"ampus":43551,"(boost":43552,"Daily":43553,"DataGridView":43554,"ĠHttpContext":43555,"Ġhipp":43556,"_workers":43557,"-language":43558,"éĵ":43559,"Ġconsisted":43560,"athing":43561,"ĠMercury":43562,"$content":43563,"Ġpracticed":43564,"ĠModules":43565,"_DAY":43566,"Ġweaknesses":43567,"ĠLodge":43568,"Ġnar":43569,"ĠMate":43570,"Ġjp":43571,"ĠHttpHeaders":43572,"Ġsmo":43573,"ĠTOKEN":43574,"])(":43575,"Ġaqui":43576,"swagen":43577,"Ġsrv":43578,"ĉans":43579,"Around":43580,"ĠManuel":43581,"Ġfictional":43582,"ĠIMG":43583,"Ġ.'":43584,"ĠBerry":43585,"Ġwallpaper":43586,"sexual":43587,"iero":43588,"ĠçļĦ":43589,"ìĨĮ":43590,"BackingField":43591,"ĠAdrian":43592,"BASEPATH":43593,"Ġrepeats":43594,"Ġblues":43595,"Ġunpredict":43596,"_coll":43597,"stacle":43598,"ĠTumblr":43599,"ĠElf":43600,"Ġassurance":43601,"Ġcensus":43602,"ĠIMPORT":43603,"ENDER":43604,"anos":43605,"Ġ=(":43606,"ĠEllis":43607,"\"ĊĊĊĊ":43608,".win":43609,"ĠAbove":43610,"alon":43611,"_tick":43612,"Ġrepresentations":43613,"Ġæķ":43614,"wid":43615,"ĠArms":43616,"Lista":43617,"_failure":43618,"_cm":43619,".FlatAppearance":43620,"Ġthrone":43621,"Patch":43622,"ĠVoy":43623,"engl":43624,"Ġnegotiating":43625,">`":43626,"Ġshoots":43627,"ĠFPS":43628,".Year":43629,"ĠKiss":43630,"ención":43631,"reeting":43632,"FromFile":43633,"Ġresignation":43634,"Ø·":43635,"Ġtwins":43636,"ượ":43637,"Ġgebru":43638,".getContent":43639,".Tree":43640,"ĠEmployees":43641,"ĠFIFA":43642,"Ġcertainty":43643,"(Cl":43644,"Ġtotals":43645,"editable":43646,"à¥Ģ":43647,".Reporting":43648,"Mas":43649,"quiet":43650,".rules":43651,"ĠVO":43652,"conexion":43653,",K":43654,"Ġallocator":43655,"ĠPowder":43656,"\\Repository":43657,"Beat":43658,"_tipo":43659,"Ġ['',":43660,"_INTR":43661,"Ġ<<<":43662,"\");čĊ":43691,"dropIfExists":43692,"ĠBeg":43693,"_HAL":43694,"ĠcrossAxisAlignment":43695,"ĠEvidence":43696,"Ġpeculiar":43697,"Ġinstitute":43698,"veis":43699,"Ġfft":43700,"Ãģ":43701,"Ġzoekt":43702,"analy":43703,"ĠHomeland":43704,"Ġpenetr":43705,"uddenly":43706,"ĉelement":43707,"ĠBren":43708,"ĠTrudeau":43709,"ĠCuban":43710,"jam":43711,"uslim":43712,"_ev":43713,"Ġstems":43714,"}%":43715,"Ŀå§ĭ":43716,"Ġbranding":43717,"Ġcorrespondence":43718,".jquery":43719,"¢åįķ":43720,"ĠReads":43721,"(HttpStatusCode":43722,"assin":43723,"(slot":43724,"ĠGraduate":43725,"///<":43726,"Ġinformations":43727,"ENABLE":43728,"Ġpuis":43729,"Ġfinder":43730,"ĠBris":43731,"Ġnettsteder":43732,"_mid":43733,"Ġogs":43734,"ĠSterling":43735,"Ġarrog":43736,"strftime":43737,"|ĊĊ":43738,"Ġvox":43739,"ĠRegardless":43740,"Ġeso":43741,"ĠComfort":43742,".BooleanField":43743,"Ġuh":43744,"ACY":43745,"Ġsqueez":43746,"ĠVic":43747,"contro":43748,".lo":43749,"Ġire":43750,"ĠComedy":43751,"ë¶":43752,"Ġoriginated":43753,"Ġshipment":43754,"|max":43755,"_guid":43756,"levation":43757,"наÑı":43758,"(undefined":43759,"ĠDDR":43760,"Ġshootings":43761,"ĠLatino":43762,"ENDOR":43763,"Ġaveraging":43764,"Ġgreeted":43765,"Ġtheaters":43766,"ое":43767,"ĠdB":43768,"Ġgst":43769,"Ġdefinite":43770,".Storage":43771,".her":43772,"Ġafore":43773,"ĠReality":43774,"ĠGods":43775,"versed":43776,"Ġhandsome":43777,"Ġexcluding":43778,"(ad":43779,"Quotes":43780,"ĠScheme":43781,"?q":43782,"ĠTamil":43783,"Ticks":43784,"Ġpest":43785,"'n":43786,"Ġpornography":43787,"_modal":43788,"Ġ----------":43789,"Ġdisposable":43790,"FREE":43791,"Ġshark":43792,"CHE":43793,"Ġdepicted":43794,"Ġdemonstrations":43795,"ĠKilled":43796,"ĠRULE":43797,"Ġobsessed":43798,"Ġsimplified":43799,"Postal":43800,"Ġconceptual":43801,"Ġpst":43802,"Las":43803,"_PROJECT":43804,"ucceeded":43805,"olu":43806,"ÄŁi":43807,"Ġpersonalities":43808,"Ġreshape":43809,"Ġenclosed":43810,"ĉptr":43811,"Ġtutorials":43812,"Ġexploded":43813,"_DIRECTORY":43814,"åĨħ容":43815,"Ġcanon":43816,"Ġrecognise":43817,"PAD":43818,"ĠApprox":43819,"ĠRestore":43820,"ĠImportant":43821,"Ġheavier":43822,".Sequential":43823,"Earth":43824,"ĠMilk":43825,".setRequest":43826,".tem":43827,"Ġreconstruct":43828,"Ġskeptical":43829,"_Private":43830,"BUF":43831,"qua":43832,":a":43833,"Ġsek":43834,"Ġdwell":43835,"ossa":43836,"Ġrewarded":43837,"ий":43838,"(topic":43839,"_partition":43840,"Ġ__________________":43841,"Keywords":43842,"ĠFranco":43843,"Lite":43844,"Ġnaken":43845,"Ġза":43846,"OBJECT":43847,"Ġcrafts":43848,"ĠSwap":43849,".Xna":43850,".Connect":43851,"Ġbalcony":43852,"(real":43853,"ĠBarnes":43854,"bir":43855,"ĠTwenty":43856,"ayan":43857,"atars":43858,"ĠPropel":43859,"ĠIhnen":43860,"Upgrade":43861,"Ġcurb":43862,"-second":43863,"Ġneph":43864,".pres":43865,"ìŀħ":43866,".seq":43867,"Ġpadded":43868,"\"?":43869,"jl":43870,"ãĥ¬":43871,"')a":43875,"Coordinates":43876,"Ġenacted":43877,"ENTS":43878,"Ġlac":43879,".final":43880,"ĠPhpStorm":43881,"called":43882,"Ġinquiries":43883,".middleware":43884,"ĠDowntown":43885,"/';Ċ":43886,"Ġkilomet":43887,"accel":43888,"Ġquien":43889,"wstring":43890,"setData":43891,"Ġmanera":43892,"Ġmodular":43893,"rimp":43894,"Ġtariffs":43895,"âĢĻil":43896,"_THROW":43897,"/color":43898,"ĠHTMLElement":43899,"Ġcarro":43900,"Ġprere":43901,"Ġplotting":43902,"ĠPositive":43903,"ĠMachines":43904,"OTES":43905,"Ỽ":43906,"pleasant":43907,"Ġalte":43908,"Ġainda":43909,"these":43910,"Ġcors":43911,"ipay":43912,"ĠAdvisory":43913,"ĠRubio":43914,"jq":43915,"Ġlimestone":43916,"Ġdetached":43917,"设置":43918,"tenant":43919,"ĠDepth":43920,"alore":43921,"ĠÑģÑĤÑĢок":43922,"ĠFORE":43923,"ĠLay":43924,"presentation":43925,")');Ċ":43926,".subplots":43927,"Ïĥ":43928,"NOW":43929,"Gar":43930,"handles":43931,"abra":43932,"puties":43933,"ĠElectrical":43934,"Middle":43935,"ropic":43936,"ĠJD":43937,"ĠDyn":43938,"ĠBristol":43939,"ĠMcCarthy":43940,"Ġstriker":43941,"Ġenumerable":43942,"ĠEvan":43943,".defaults":43944,"quences":43945,")||":43946,"ĉtoken":43947,"âĹı":43948,"-dropdown":43949,"STORE":43950,"ĠGraphic":43951,"(pp":43952,"Expl":43953,"Ġupwards":43954,"ĠDistributed":43955,"ĠWEB":43956,"Jer":43957,"isNaN":43958,"çĶŁæĪIJ":43959,">R":43960,"üssen":43961,"efs":43962,"Ġuncover":43963,"Ġlud":43964,".calculate":43965,"Ġintptr":43966,"Ġmidfielder":43967,".Headers":43968,"Ġmf":43969,"eref":43970,".Metro":43971,"ĠSpeaking":43972,":b":43973,"Ġcryptocurrencies":43974,"Ġdemons":43975,"ĉEXPECT":43976,"Ġwicked":43977,"youtube":43978,":Int":43979,"ĠHindi":43980,"ĠCAT":43981,"Ġع":43982,"rar":43983,"omore":43984,"/per":43985,"/license":43986,"Ġreim":43987,"Ġawaiting":43988,"Ġlethal":43989,"ĠEF":43990,"rounded":43991,"ĠPlatinum":43992,"ĠвÑģе":43993,".coords":43994,".Device":43995,"/item":43996,"ĠWenn":43997,"compileComponents":43998,"ĠKinder":43999,".removeItem":44000,"Ġanda":44001,"bnb":44002,"Ġpra":44003,"(transaction":44004,"Ġembarrassing":44005,"ĉBOOL":44006,".contentView":44007,"Ġeventdata":44008,"atore":44009,"ĠprovidedIn":44010,"irma":44011,"Ġzona":44012,"_HW":44013,"æĻ":44014,"Ġstove":44015,"Ġcounterpart":44016,"_Product":44017,"_MANAGER":44018,"Ġinfring":44019,"ĠERA":44020,"_party":44021,"Ñij":44022,"Ġinici":44023,"_Request":44024,"Ġmiracle":44025,"ĠcancelButton":44026,"Spy":44027,"ató":44028,"Ġpolish":44029,"ĠNicole":44030,".displayName":44031,"\\Requests":44032,"ĠuseHistory":44033,"RouterModule":44034,"Ġstared":44035,"IDER":44036,"ÑĥнкÑĨи":44037,"Ġnota":44038,"$arr":44039,"pecified":44040,"Ġtopp":44041,"_DRIVER":44042,"/ng":44043,"åł":44044,"_tm":44045,"%timeout":44046,"\"":44488,"tlement":44489,"$(\"":44490,"FromString":44491,"ĠBild":44492,"Ġconventions":44493,"_native":44494,"ĠInspector":44495,"ĠPist":44496,"ubar":44497,"Ġregs":44498,"ĠPilot":44499,"Thus":44500,">'+":44501,"Ġcela":44502,".news":44503,"(Product":44504,"Living":44505,"Russia":44506,"Ġfacet":44507,"etical":44508,"Ġ['$":44509,"/[":44510,"ĠDire":44511,"Ġgases":44512,"ĠINFORMATION":44513,"ĠEat":44514,"ĠForums":44515,"ĠCharacters":44516,"_met":44517,"Ġìĭľ":44518,"Ġkings":44519,"achie":44520,"ĠLambda":44521,"Ġtimers":44522,"ĠLighting":44523,"ĠCasey":44524,"addir":44525,"andex":44526,".answer":44527,"ĠHip":44528,"ĠPrincip":44529,"StartDate":44530,"ĠãĢĮ":44531,"tres":44532,"Ġ&#":44533,".MaxValue":44534,"ĠProblems":44535,"Ġlatex":44536,"OfClass":44537,"ĠLynn":44538,"//'":44539,"Ġvoyage":44540,"Ġshuttle":44541,"ĠRoller":44542,"ĠRuntimeError":44543,"uya":44544,"Dic":44545,"ĉbuilder":44546,"Ġbullying":44547,"Ġsimplest":44548,".called":44549,"ĠLR":44550,"Ġmorality":44551,"Ġsturdy":44552,"tracking":44553,".swagger":44554,"_BIND":44555,"ITOR":44556,"-urlencoded":44557,"ĠÑħ":44558,"ĠTrinity":44559,"Ġtraps":44560,"Ġ|-":44561,"ĠsetText":44562,"Ġbargain":44563,"Ġbrakes":44564,".getCode":44565,"Ġmigrate":44566,"Ġribbon":44567,")return":44568,"Ġcharger":44569,"acom":44570,"ADIUS":44571,"ĠAmbassador":44572,"-after":44573,"Ġanni":44574,"ĉspin":44575,"Concept":44576,"ĠHenderson":44577,"ĠHOST":44578,".rank":44579,"ĠNortheast":44580,"Ġberlin":44581,"Ġrequis":44582,".feed":44583,"ĠsourceMapping":44584,"ĠRencontre":44585,".ajax":44586,"nestjs":44587,"Ġtrek":44588,"ĠNacional":44589,"Ġ&[":44590,"Ġpayable":44591,"ortex":44592,"Ġdept":44593,"fieldName":44594,"Ġcompletes":44595,"ĠRVA":44596,"Ġonions":44597,"alignment":44598,"Formats":44599,"Ġ'{$":44600,"HashSet":44601,"ĠBod":44602,".InvariantCulture":44603,"Ġsettlements":44604,"Ġhydr":44605,".updated":44606,"venth":44607,"(seconds":44608,"=\"/\"":44609,"Ġwebpage":44610,"(ĊĊ":44611,"Ġtir":44612,"Ġtoes":44613,"ĠBrick":44614,"Ġambition":44615,"Pot":44616,"=max":44617,"ETIME":44618,"Ġdepot":44619,"calls":44620,"ĠNorwegian":44621,"`:":44622,"Ġburger":44623,"Ġprofessors":44624,"ĠAllocate":44625,"-thirds":44626,"-chart":44627,"Ġford":44628,"*N":44629,".kotlin":44630,"Ġpaperwork":44631,"ĠDEVICE":44632,"%@\",":44633,"respect":44634,"(mp":44635,"é«ĺ":44636,"-if":44637,"Ġcushion":44638,"obot":44639,"Ġparc":44640,"SPACE":44641,"ĠNetanyahu":44642,"Ġselfish":44643,"feat":44644,"Ġclientes":44645,"-tools":44646,"Ġporch":44647,"Ġjq":44648,".verbose":44649,"Ġliberals":44650,"])ĊĊĊ":44651,"pies":44652,"NotBlank":44653,"(term":44654,"ÈĽi":44655,"_Params":44656,".normalize":44657,"Bullet":44658,"ASIC":44659,"(hex":44660,"_cliente":44661,"+,":44662,"_DI":44663,"Ġforthcoming":44664,"}\")]Ċ":44665,"seo":44666,"Um":44667,">Name":44668,"Ġcomfortably":44669,"irectional":44670,"WITH":44671,"/pr":44672,"ĠPoor":44673,"ĠVitamin":44674,"vic":44675,"GH":44676,"Ġpriorit":44677,"ĠNN":44678,"ĠClosed":44679,"¤í":44680,"ĠisOpen":44681,"\\Console":44682,"AndFeel":44683,".SUCCESS":44684,"_OPERATION":44685,"polation":44686,"ĠTas":44687,"psz":44688,">'.":44689,"CURRENT":44690,"Vendor":44691,"hosts":44692,"ĠErd":44693,">tagger":44694,"ĠsourceMappingURL":44695,"Ġmarathon":44696,"_closed":44697,"Ġexemption":44698,"Ġrecognizes":44699,"ideshow":44700,"'$":44701,"('/');Ċ":44702,"mits":44703,"warz":44704,"ĠCherry":44705,"µ¬":44706,"nor":44707,"porte":44708,"Ġwl":44709,"_backup":44710,".getBoolean":44711,".getResource":44712,"Ġdefinitive":44713,".EditText":44714,"ĠsÃŃ":44715,".CONT":44716,"ĠPLAYER":44717,".cards":44718,"ĠShore":44719,"('/')Ċ":44720,"cluir":44721,"WebDriver":44722,"(month":44723,"-release":44724,"Ġinspector":44725,"å£":44726,"ĠNF":44727,"_clip":44728,"åŃIJ":44729,"Ġinteracting":44730,".tmp":44731,"Ġ'''ĊĊ":44732,"Ġdee":44733,"Ġfrost":44734,"\"]))Ċ":44735,"ĠPlaces":44736,"Throws":44737,"fork":44738,"/day":44739,"iPhone":44740,"ĠMIC":44741,"Ġfolding":44742,"Ġcrore":44743,"ĠChiefs":44744,"pherical":44745,"(price":44746,".WriteString":44747,"Ġexiting":44748,"]',Ċ":44749,"ighting":44750,"Ingredient":44751,"(vertex":44752,"ĠscrollView":44753,"hf":44754,":new":44755,"SEN":44756,"sector":44757,"Ġspins":44758,"ĠScheduler":44759,"otechn":44760,"semicolon":44761,"FontOfSize":44762,"ĠSpecifically":44763,"flamm":44764,".ObjectId":44765,"Ġconta":44766,"_permissions":44767,"ĉFROM":44768,"ICODE":44769,"/kg":44770,"ĠHotels":44771,"-med":44772,"ĠDin":44773,"Ġnavy":44774,"getParam":44775,"Ġmend":44776,"Ġportrayed":44777,"ĠMetropolitan":44778,"Painter":44779,"Ġreferral":44780,"_good":44781,"Ġmarvel":44782,"osaic":44783,">(&":44784,".ur":44785,"Ġestos":44786,"William":44787,"Ġtimber":44788,"Ġquelques":44789,"ĠDocuments":44790,".Xaml":44791,"Ġbatches":44792,"éģĵ":44793,"ĠReleased":44794,"Tail":44795,"COOKIE":44796,"heid":44797,"_station":44798,"ĠVia":44799,"Sale":44800,"ĠRepeat":44801,"Ġpromin":44802,"ĠZo":44803,"-forward":44804,"ĠIon":44805,"itary":44806,"Ġjus":44807,"-request":44808,"Ġproudly":44809,"ĠStreaming":44810,"(MouseEvent":44811,"ĠSprint":44812,"_rotation":44813,"Repositories":44814,"Ġtart":44815,"ĠÑģв":44816,"Ġmappings":44817,"èª":44818,"Cu":44819,"Cycle":44820,"Ġbun":44821,"ĉlua":44822,"ãĥī":44823,"Ġ((!":44824,"Ġcollectively":44825,"ĠCond":44826,"Ġwszyst":44827,"(lib":44828,"openhagen":44829,"_skip":44830,".ColumnHeader":44831,"éĤ":44832,"perienced":44833,"ıè¿°":44834,"_props":44835,"Ġcontrace":44836,"Ġmatchup":44837,"abetic":44838,".members":44839,"RECT":44840,"(dat":44841,"Ġsog":44842,"renom":44843,"_Method":44844,"Customers":44845,"fullname":44846,"ZN":44847,"retry":44848,"Ġkap":44849,"ĠNeu":44850,"èĬ":44851,"addChild":44852,"willReturn":44853,"_permalink":44854,"Ġenergetic":44855,"ĠWet":44856,"ĠMorr":44857,"Ġgcd":44858,"counts":44859,",type":44860,"dig":44861,"(Login":44862,"Ġcracks":44863,"Ġbacterial":44864,"ĠMeat":44865,"ĠArmstrong":44866,"ĠBronze":44867,"Ġapproximate":44868,"_dirs":44869,"liga":44870,"ÅĤad":44871,"Ġkindness":44872,"Ġcontre":44873,"ĠEVERY":44874,"MET":44875,"Ġannouncements":44876,"gpio":44877,"ĠWaitForSeconds":44878,"ĠPhotoshop":44879,"Ġdiscontin":44880,"/dd":44881,"Ġtopology":44882,"anical":44883,".interface":44884,"aucoup":44885,".HashSet":44886,"ARIANT":44887,"(routes":44888,"ĠTeh":44889,"Ġhype":44890,"]\").":44891,"Ġslam":44892,"Ġbroth":44893,"-inter":44894,"ĠRid":44895,"-manager":44896,"Cancelar":44897,"ĠPagination":44898,"Ġsoundtrack":44899,"Ġposterior":44900,"Ġscrub":44901,"creating":44902,"-*":44903,"irteen":44904,".dy":44905,".symmetric":44906,"Ġ\"\".":44907,"===============":44908,"Ġchassis":44909,"ĠnumberOfRows":44910,"Developer":44911,"_bins":44912,"ĠOUR":44913,"rieb":44914,"Pros":44915,"ĠwiÄĻ":44916,"\"d":44917,"Ġasyncio":44918,"zeigen":44919,"_spi":44920,".ALL":44921,"Ġscrews":44922,"Chinese":44923,"ĠapiKey":44924,"Ġunsuccessful":44925,"ĠSeahawks":44926,"ORG":44927,"竳":44928,"Ġprofessionally":44929,"ĠCoupon":44930,"åŃĹæ®µ":44931,"Convention":44932,"Ġpolym":44933,"æīĭ":44934,"Ġsalvation":44935,"Ġengineered":44936,"ĠWrest":44937,"ĠGCC":44938,"Ġwarmer":44939,"LayoutConstraint":44940,"Ġaggrav":44941,"Scripts":44942,"venture":44943,"Ġrefrigerator":44944,"Ġinnovations":44945,"ĠRunner":44946,"NIC":44947,"ĠRolling":44948,"ControlEvents":44949,"Ġloos":44950,"pac":44951,"ĉpanel":44952,"efe":44953,"ĠBuddha":44954,"--------------Ċ":44955,"åºĵ":44956,"(forKey":44957,"Ġlumin":44958,"Ġ(?":44959,"ĠAIDS":44960,",user":44961,"imientos":44962,"contentType":44963,"antlr":44964,"é¦":44965,"ĠWelt":44966,"Production":44967,"might":44968,"ĠVII":44969,"\",(":44970,"Ġobserving":44971,"Ġdeliberate":44972,"(control":44973,"Ġwithd":44974,"Ġsemana":44975,"STACK":44976,"uchen":44977,"Nice":44978,"ĠDeutschland":44979,"ĠSpecifies":44980,"dma":44981,"izio":44982,"ĠFacts":44983,"_popup":44984,"ĠDirectors":44985,"{:":44986,"[R":44987,"ĠÑįлеменÑĤ":44988,"Ġplat":44989,"Ġdirecting":44990,"ä¸ī":44991,"ĠGilbert":44992,"â̦.ĊĊ":44993,".qml":44994,"Ġthereafter":44995,"Ġdisposition":44996,"draft":44997,"Ġsurgeon":44998,"ĠInsider":44999,"Blend":45000,"ĠTrev":45001,"trinsic":45002,"Topics":45003,"rieve":45004,"_FILENAME":45005,"Ġautres":45006,"Jose":45007,"Producer":45008,"erus":45009,"Ġpetit":45010,"ĠNEXT":45011,"ĠFilters":45012,"Ġreplicate":45013,"\"]).":45014,"Ġlenders":45015,"]\",Ċ":45016,";charset":45017,"CppObject":45018,"Ġfloral":45019,"ĠTipo":45020,"Ġcircuits":45021,"easy":45022,"(&$":45023,"itta":45024,"eryl":45025,"_COMMON":45026,"'}}>Ċ":45027,"-backed":45028,"(variable":45029,"(Index":45030,"Ġvoir":45031,"_locations":45032,"++){":45033,"ĠLouisville":45034,"Ġgratitude":45035,".Mockito":45036,"ĠPowers":45037,"ieurs":45038,"Ġgeographic":45039,"rale":45040,"Ġcra":45041,"ĠSpurs":45042,"iphertext":45043,"ACION":45044,"-common":45045,"Ġvictories":45046,"ĠFinals":45047,".shuffle":45048,"-million":45049,"_PROC":45050,"assume":45051,"Ġils":45052,"DBC":45053,"BootTest":45054,"Ġlavor":45055,".testing":45056,".ast":45057,"\"]/":45058,"moid":45059,"Ġqualification":45060,"gesch":45061,"ĉput":45062,"Ġairports":45063,"JI":45064,"Teacher":45065,"_uniform":45066,"Ġnama":45067,"ĠBast":45068,"ertype":45069,"capture":45070,"getAll":45071,"ĠReynolds":45072,"ooled":45073,".comments":45074,"Ġchin":45075,").*":45076,"Ġили":45077,"tgl":45078,"udos":45079,"ĠdÃŃas":45080,"chai":45081,".program":45082,"Ġpsz":45083,"ĉicon":45084,"phil":45085,"entral":45086,"_WRAP":45087,"ovi":45088,"Ġnostalg":45089,"Infinity":45090,"ĉyield":45091,"Ġvitamins":45092,"Quaternion":45093,"Sink":45094,"_goods":45095,"Ġ........":45096,"ĠWings":45097,"uridad":45098,"-story":45099,"\"])ĊĊ":45100,"idelity":45101,"TypeDef":45102,"Gtk":45103,"ĠíĮ":45104,"_Main":45105,"Ġchez":45106,"ĠRaven":45107,"Ġpayroll":45108,"Ġfreelance":45109,"LLU":45110,"ĠMend":45111,"eday":45112,"ApiModelProperty":45113,".FormBorderStyle":45114,"Ġeconomist":45115,"stanbul":45116,"Ġfreight":45117,"-Agent":45118,"(meta":45119,"Ġsymmetry":45120,"Ġ'..":45121,".Calendar":45122,"-aut":45123,"gf":45124,"pent":45125,"yclopedia":45126,"Ġwishing":45127,"ĊĊĊĊĊĊĊĊĊĊĊĊ":45128,"Ġgentleman":45129,"Ġê³":45130,"=#":45131,"Ġlectures":45132,"âĢľIn":45133,"Ġ!_":45134,"Ġhb":45135,"ĠVendor":45136,"Recently":45137,"_notes":45138,"æıIJ示":45139,"\"My":45140,"HeadersHeight":45141,"_SO":45142,"Ġunwilling":45143,"Ġsuperhero":45144,"gio":45145,"psy":45146,"ĠPeer":45147,"javax":45148,"&apos":45149,"ĠCrisis":45150,"ordinal":45151,"Memcpy":45152,"++++++++++++++++":45153,"-val":45154,"Ġworkbook":45155,"-ap":45156,"=k":45157,"Ġmetallic":45158,"_peer":45159,"ByPrimaryKey":45160,"_SD":45161,"uator":45162,"_SHADER":45163,")Math":45164,".Transform":45165,"Ġcows":45166,"Phi":45167,"ĠClem":45168,"(_(\"":45169,"ĠLud":45170,"-delay":45171,"ĠSecurities":45172,"ĠOrthodox":45173,"Symfony":45174,"(report":45175,"Ġentertain":45176,"EPS":45177,"izoph":45178,"exual":45179,"IRD":45180,"ä»İ":45181,"Ġlith":45182,"Ġsanitize":45183,"Ġfeminine":45184,"ISBN":45185,".authentication":45186,"_pipeline":45187,"/constants":45188,"ĠCONF":45189,"Ġlucr":45190,"ricia":45191,".ttf":45192,".setContent":45193,"Ġstan":45194,"orean":45195,"ĠLloyd":45196,".rawValue":45197,"Ġgor":45198,"ĠBrowns":45199,"Regression":45200,"Ġlowering":45201,"naissance":45202,"Ġblows":45203,"Ġamazed":45204,"Ġunrelated":45205,"Reviews":45206,"Ġruby":45207,"ĠModifier":45208,"Ġgiants":45209,".thread":45210,"Ġcontainment":45211,"ĠStartCoroutine":45212,"umat":45213,"orelease":45214,"ĠRandy":45215,"@endif":45216,"Digest":45217,"Ġsuburban":45218,"=\");Ċ":45219,"Ġannonce":45220,".variable":45221,"\\Foundation":45222,"Ġacre":45223,"Van":45224,"Ġtuples":45225,"dns":45226,"ĠStanding":45227,"_large":45228,"Ġboxing":45229,"SupportActionBar":45230,"ĠFortune":45231,"ĠRum":45232,"_multiple":45233,"archical":45234,"Ġfwrite":45235,"_quote":45236,"Ġfoolish":45237,"Ġcomprising":45238,"Ġоп":45239,"-selected":45240,"vf":45241,"maid":45242,"Nama":45243,"(datetime":45244,"Ġindirectly":45245,"gart":45246,"fixtures":45247,"chos":45248,"ĠHalo":45249,"Ġrecurring":45250,"-news":45251,"vil":45252,"ĠNursing":45253,"-produ":45254,"ĠHQ":45255,"\\HttpFoundation":45256,"enci":45257,"auen":45258,"Ġvy":45259,"ocracy":45260,"Ġdelegation":45261,"Ġasphalt":45262,"ĠsetSelected":45263,"kok":45264,"/rest":45265,"metics":45266,"ĠNSDate":45267,"Ġtravelled":45268,"Ġrecib":45269,"Ġmime":45270,"CLIENT":45271,"ĠGU":45272,"ĠHANDLE":45273,"/Q":45274,"[z":45275,"Ġbothered":45276,"ĠBBQ":45277,"ças":45278,"_examples":45279,"_FIN":45280,"ĠwhiteColor":45281,"Ġastronom":45282,"-dir":45283,"Ġsovereign":45284,"Ġbreeze":45285,"Ġinning":45286,"ĠEdmonton":45287,"gli":45288,".blogspot":45289,"jsx":45290,"Ġversa":45291,"ĠMohammed":45292,".Job":45293,"-toggler":45294,"ĠполÑĮзоваÑĤ":45295,"ardon":45296,"Ġnewborn":45297,"Ġnaval":45298,"noteq":45299,"Ġtumblr":45300,"Ġhentai":45301,"ĠTypically":45302,"Ġloot":45303,".Sprite":45304,"Flight":45305,"Ġwavelength":45306,"-sk":45307,"ĠElle":45308,"_exports":45309,"ĠÑı":45310,"ĠIH":45311,"izophren":45312,"Ġíģ":45313,"_primary":45314,"Ġmois":45315,"ĠBN":45316,"Ġsystemic":45317,"Ġdiferentes":45318,"INCT":45319,"Ġ''ĊĊ":45320,"$q":45321,"WidgetItem":45322,"clide":45323,"$file":45324,"Lemma":45325,"/table":45326,"agrid":45327,"ĠMongoDB":45328,"inte":45329,"Ġapprent":45330,"ÂŃing":45331,".Db":45332,"ĠÃĤ":45333,"hammer":45334,"='';Ċ":45335,"Ġbrokers":45336,"itlement":45337,"semblies":45338,"Ele":45339,"{x":45340,"Ġlastname":45341,"<-":45342,"Ġflatten":45343,"_band":45344,".Root":45345,".readFileSync":45346,"======":45347,".rx":45348,"?čĊ":45349,"Ġmetaphor":45350,"Ti":45351,"conte":45352,"Ġdebit":45353,"Ġcontempt":45354,"CppType":45355,"æĶ¯":45356,"FormField":45357,"ratio":45358,"osopher":45359,"Ġimplant":45360,"PURE":45361,"Ġalta":45362,"_management":45363,"Ġrefine":45364,"ĠCheckBox":45365,"ĠCharl":45366,"-version":45367,"conditional":45368,"venues":45369,"Ġrifles":45370,"Ġoffspring":45371,"Ġmilling":45372,"Ġsharply":45373,"Ġunderwater":45374,"(origin":45375,"_Control":45376,"Ġ.$":45377,"Plugins":45378,"Ġdrying":45379,"Ġillustrates":45380,"-u":45381,"Ġvegetarian":45382,"npc":45383,"Heart":45384,";',Ċ":45385,"comma":45386,"teenth":45387,"asan":45388,"/spec":45389,"_moves":45390,"-margin":45391,"Ġingen":45392,"³³³":45393,"Ġprojet":45394,"Ġotra":45395,"Ġbras":45396,".utc":45397,"Ġslept":45398,"=sub":45399,"abilit":45400,"poster":45401,"Ġsdk":45402,"ouncill":45403,"Ġwd":45404,"PreparedStatement":45405,"ĠDrum":45406,"(attribute":45407,"ĠEthernet":45408,"ĉDB":45409,"California":45410,"cube":45411,"[I":45412,".Created":45413,"ĠHM":45414,"Ġtracing":45415,"FormsModule":45416,"-you":45417,".currency":45418,"feeding":45419,"Ġtbody":45420,"Li":45421,"accion":45422,"nas":45423,"Ġtrouver":45424,"NONE":45425,"\"},čĊ":45426,"Ġftp":45427,"WithIdentifier":45428,"polate":45429,"FileInfo":45430,"Ġpursued":45431,"ĠĠĠĠčĊĠĠĠĠčĊ":45432,"DESCRIPTION":45433,"}*/Ċ":45434,"FromNib":45435,"Ġdecorative":45436,"_SSL":45437,"(chat":45438,"TLS":45439,"Ġsurprises":45440,"alculate":45441,"ĠSplash":45442,"(Configuration":45443,"ĠSEM":45444,"imson":45445,"/library":45446,"":45521,"GED":45522,"faq":45523,"Ġoptionally":45524,"_Dis":45525,"ĠSuccessful":45526,"ĠCensus":45527,"Ġincarcer":45528,"_CARD":45529,"Ġaviation":45530,"ĠGym":45531,"Authority":45532,".Bean":45533,"shader":45534,"NotExist":45535,"_TextChanged":45536,"ĠSTOP":45537,"(team":45538,"\"H":45539,"wg":45540,"Ġgrinder":45541,"Ġstripe":45542,"Ġpreservation":45543,"Claim":45544,"aversal":45545,"warehouse":45546,"targets":45547,"Trust":45548,"Ġallev":45549,",www":45550,"ousse":45551,"_chan":45552,"_Size":45553,"systems":45554,"Ġobjection":45555,"ĠKane":45556,"Ġcorros":45557,"ĠDSL":45558,"Ġua":45559,"ĠMH":45560,"ĠStrategic":45561,"_tcp":45562,"Ġê°Ĵ":45563,"Ġborrowed":45564,"ĠAch":45565,"ĉcommand":45566,"Ġgps":45567,"leston":45568,"ichever":45569,"ĠUA":45570,"Ġassaulted":45571,"Ġspecializes":45572,"ĉsearch":45573,"Hotel":45574,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠčĊ":45575,"ĠPitch":45576,"ĠÙģ":45577,"READY":45578,"Ġparental":45579,"Ġgéné":45580,"Ġdonnées":45581,"Ġdetain":45582,"TARGET":45583,"Ġprotagonist":45584,"ĠclearInterval":45585,"ĠIconButton":45586,"ĠGetAll":45587,"TypeInfo":45588,"EH":45589,"âĢľThey":45590,"Ġ{[":45591,"Ġgag":45592,"ĠÚ©":45593,"ĠDropdown":45594,".free":45595,"gone":45596,"imens":45597,"Ġinstal":45598,"ĉcurl":45599,"_CAN":45600,"ĠBone":45601,"ï¼Ķ":45602,"onyms":45603,"-government":45604,".bindingNavigator":45605,"ĠDans":45606,"ĠMcL":45607,"(en":45608,">(_":45609,"ÐĴÑĭ":45610,".*;čĊ":45611,"=j":45612,"-cor":45613,"Son":45614,".ToolStripItem":45615,"-around":45616,"_XML":45617,"endDate":45618,"Ġslack":45619,"Ġrotated":45620,"Ġnoqa":45621,"Ġcottage":45622,"Ġencontrar":45623,"_skill":45624,"houette":45625,"!čĊ":45626,".weather":45627,"Ġemphasized":45628,"å®¶":45629,"ĠÑģпиÑģ":45630,"ĠCompiler":45631,"(android":45632,"ĠâĢº":45633,".turn":45634,"Ġsuppression":45635,"_calls":45636,"Ġ*@":45637,"(strlen":45638,".hex":45639,"ĠBills":45640,"ĠRSA":45641,"ÏĤ":45642,"ĠEscape":45643,"ementia":45644,"Ġfrontend":45645,"Ġpint":45646,"_exc":45647,"zzo":45648,"[],Ċ":45649,"Ġ\"','\"":45650,".Environment":45651,"Ġaforementioned":45652,"Ġendure":45653,"prototype":45654,"therapy":45655,"ssi":45656,"Deg":45657,"_plugins":45658,".userInfo":45659,"Printer":45660,"ĠPROGRAM":45661,"Ġruins":45662,"Ġempirical":45663,"Ġcrawl":45664,"ĠBoiler":45665,"-comment":45666,".subplot":45667,"_et":45668,"Ġ'.',":45669,"minor":45670,"ĠCustoms":45671,"Ġyaw":45672,"underline":45673,"ĠComo":45674,"(('":45675,"(mean":45676,"Ġchaque":45677,"ĠBlocks":45678,".rad":45679,"ilibrium":45680,"Ġwebdriver":45681,"Ġmelhor":45682,"dana":45683,"ĠAbuse":45684,"ĠSouthwest":45685,"ĠParen":45686,"PERTIES":45687,"ĉIL":45688,"Ġscream":45689,"vu":45690,"Ġincomes":45691,"Ġnim":45692,"Ġlace":45693,"Ġcompensate":45694,"Reverse":45695,"Dat":45696,"_attack":45697,"Ġnour":45698,"achen":45699,"cek":45700,"\"+":45957,"Ġtokenizer":45958,"Ġsovereignty":45959,"ĠPence":45960,"()\");Ċ":45961,"Ġpessoas":45962,".Ge":45963,"ĠIncluded":45964,"Ġpagina":45965,"Ġexposing":45966,"еÑĪ":45967,"_SCRIPT":45968,"/$',":45969,"Thumbnail":45970,"×Ķ":45971,"webElementX":45972,"webElementXpaths":45973,"pressure":45974,"ĠCurry":45975,"_CP":45976,"OLUTION":45977,"ILES":45978,"protect":45979,"oola":45980,"Workspace":45981,"{};Ċ":45982,"ĠUNS":45983,"Ġsympathy":45984,"roker":45985,"Ġremodel":45986,"ĉcell":45987,"Ġatop":45988,".FullName":45989,"Ġfaut":45990,"ĠEasily":45991,"_dynamic":45992,"Ġframed":45993,"Ġmotive":45994,"è·¯":45995,"sam":45996,"Ġmarca":45997,"ĠTextEditingController":45998,"Ġdestructor":45999,"cream":46000,"Ġrude":46001,"ĠBold":46002,"ĠIndigenous":46003,"Ġgens":46004,"Ġrelacion":46005,"(system":46006,"ĠUIFont":46007,"_charge":46008,"USTER":46009,"EV":46010,".Namespace":46011,"Ġmerger":46012,"Ġcalloc":46013,"gang":46014,"BadRequest":46015,"Ġsper":46016,"-design":46017,"Ġâĩ":46018,"Chan":46019,"Ġorganism":46020,",)":46021,"=id":46022,"_plane":46023,"ĠCases":46024,"elfast":46025,"ĠLegislature":46026,"ĠFaker":46027,"Ġinvoking":46028,"-utils":46029,"().'":46030,".face":46031,"Ġguardian":46032,"myModal":46033,"Ġclipboard":46034,"ĠATM":46035,"Ġpeas":46036,"ĠSylv":46037,".calc":46038,"ĠContacts":46039,"intValue":46040,"Ġmodifying":46041,"ĠBarb":46042,".loss":46043,"_percentage":46044,"Asked":46045,"(lst":46046,"ategorical":46047,"-files":46048,"ĠRomania":46049,".Ac":46050,"Ġhai":46051,"ĠFlying":46052,"Ġż":46053,"jp":46054,"ĠTrainer":46055,".arc":46056,"_deg":46057,"Ġtraceback":46058,"OrFail":46059,"FLOW":46060,".old":46061,"oya":46062,"gmt":46063,"isempty":46064,"Ġvaccination":46065,"Ġobsolete":46066,"recognized":46067,"Ġruined":46068,"ĠRein":46069,"ĠTracking":46070,"xfb":46071,"اÛĮ":46072,"Ġvære":46073,"Ġbryster":46074,"ĠITS":46075,"Ġdestiny":46076,"Ġswear":46077,"Ġredes":46078,"Ġclf":46079,"Ġflipped":46080,"ĉhead":46081,"Bluetooth":46082,"ĠOverrides":46083,":Boolean":46084,"_=":46085,"_lr":46086,"spawn":46087,":index":46088,"VALUES":46089,"iskey":46090,"?\");Ċ":46091,".synthetic":46092,"ĠChecking":46093,"structures":46094,"iping":46095,"Ġvocals":46096,"-Up":46097,"ĠManufacturers":46098,"ĠMarriage":46099,"代çłģ":46100,"Ġgarner":46101,"_Client":46102,"parallel":46103,"RIEND":46104,"Ġvinegar":46105,"segue":46106,"JB":46107,"Ġcontacting":46108,"ĠCarroll":46109,"Ġoutreach":46110,"tensor":46111,"_variant":46112,"Ġtheat":46113,"licable":46114,"{|":46115,"tiny":46116,"_letter":46117,"Ġpencil":46118,"HeadersHeightSizeMode":46119,"iltro":46120,".autoconfigure":46121,".drag":46122,".useState":46123,"ĠBMI":46124,"hint":46125,"Compile":46126,"*\\":46127,"enary":46128,"Ġlvl":46129,".Cache":46130,"+=\"":46131,"_tv":46132,"ruitment":46133,"Ġfread":46134,"Articles":46135,"fila":46136,"Ġpackaged":46137,"âĺĨ":46138,"ATHER":46139,"ĠPlanned":46140,"scheme":46141,"Ġdiary":46142,"Ġoffenses":46143,"/F":46460,"ĠStick":46461,"Ġcerc":46462,"ĠSlee":46463,"ĉĉĠĠĠĠĠĠĠĠ":46464,"":46639,"ĉcol":46640,"VG":46641,"_boolean":46642,"recent":46643,"Ġ*)ĊĊ":46644,"ĠRainbow":46645,"ommen":46646,"Ġlur":46647,"Ġoppression":46648,"(\",\");Ċ":46649,"ĠFacility":46650,"DEFINED":46651,"Ġneon":46652,"Ġoffender":46653,"AFP":46654,"ĠCleaning":46655,"[]):":46656,"Ġundocumented":46657,".Repositories":46658,"ĠGuitar":46659,"аÑģÑģив":46660,"Skills":46661,"Ġtestimon":46662,"ryptography":46663,"ĠAmber":46664,"ĠStalin":46665,"Ġlone":46666,"Ġapenas":46667,"Ġdieses":46668,"ĠArduino":46669,"转":46670,"==-":46671,"_Act":46672,"Ġcoded":46673,"âĸł":46674,"amburger":46675,"-links":46676,"Ġarmour":46677,".High":46678,"getContent":46679,"stag":46680,"Ġheck":46681,"ĠìĹĨ":46682,"ĠMcConnell":46683,"ĠConcert":46684,"ĠAlloc":46685,"äre":46686,".replaceAll":46687,"Ġpartitions":46688,"rott":46689,"ĠFle":46690,"_TREE":46691,"reasonable":46692,"ĠReporting":46693,"Ġbillionaire":46694,"scores":46695,"mins":46696,"-eye":46697,"MORE":46698,"abort":46699,"ĠSWT":46700,"Ġinverted":46701,"ĠTeachers":46702,";n":46703,"Ġastro":46704,"нов":46705,"аниÑĨ":46706,"producto":46707,"countries":46708,"ĠOwen":46709,"Ġcontamination":46710,"Ġvibe":46711,"ĠElli":46712,".script":46713,"ĠOlive":46714,"DMA":46715,"vier":46716,":semicolon":46717,"-module":46718,"gressive":46719,"agu":46720,"_players":46721,"Ġresultados":46722,"started":46723,"scrollTop":46724,"=====":46725,"Ġweighing":46726,"Ġ[[[":46727,"zahl":46728,"(NS":46729,"ĠAssertion":46730,"league":46731,".setTextColor":46732,"ĉMessage":46733,"Ġmoms":46734,"_AF":46735,".wh":46736,"ALS":46737,"Ġautre":46738,"]ĊĊĊĊ":46739,".opacity":46740,"ĠBuddhist":46741,"Ġdeaf":46742,"ĠOrganisation":46743,"(Global":46744,"ensch":46745,"Ġheadache":46746,"ĠAlien":46747,"_inode":46748,"ĠStark":46749,"Ġæī":46750,"-lnd":46751,"oref":46752,"_feat":46753,"Ġpedestrian":46754,"Ġnominal":46755,"Ġballoon":46756,"Ġsprites":46757,"PrototypeOf":46758,"ĠApost":46759,"ĠFEATURE":46760,"OH":46761,"Ġrecess":46762,"ĠDonna":46763,"consumer":46764,"$GLOBALS":46765,"ĠGIF":46766,"-frame":46767,"Inicio":46768,"Ġpassages":46769,"DateString":46770,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":46771,".byte":46772,"Bug":46773,"initializer":46774,"pkt":46775,"odium":46776,"ĠDER":46777,".ops":46778,"leri":46779,"Ġgifted":46780,"Ġdetach":46781,"terrain":46782,"elters":46783,"ãģı":46784,".loader":46785,"ĠNGO":46786,"strncmp":46787,"Kh":46788,"(fontSize":46789,"rocket":46790,"Ġprecedent":46791,"ĠAurora":46792,"ĠExperiment":46793,"isphere":46794,"Encoded":46795,"ĠâĢĵĊĊ":46796,"Ġpyramid":46797,"ĠAnniversary":46798,"ofil":46799,"ëŁ":46800,"(plugin":46801,"Coeff":46802,"Ġcooperate":46803,"Ġpredominantly":46804,"ISM":46805,"Phrase":46806,"_DEFINE":46807,"Flip":46808,"AMILY":46809,"ĠMarkets":46810,"ĠStreamReader":46811,"ĠCombine":46812,"Ġmanuscript":46813,"zza":46814,",tp":46815,"Whatever":46816,"ITICAL":46817,"ighbour":46818,"DataProvider":46819,".Texture":46820,"privacy":46821,".SDK":46822,"Ġrecharge":46823,"Ġcpp":46824,"ĠCFG":46825,"(holder":46826,"(py":46827,"mot":46828,"Ġsavoir":46829,"ĠRosa":46830,"ĠPCs":46831,"ĠíĻ":46832,".heroku":46833,"Ġfren":46834,"ĠRiley":46835,"agate":46836,"Ġsond":46837,".xlsx":46838,"Ġhacked":46839,"stad":46840,"Gi":46841,"Ġsanity":46842,"ĠSqlDataAdapter":46843,"...\",":46844,"ĠPussy":46845,"Ġ****************":46846,"Ġhassle":46847,"_PARENT":46848,"ĠUAE":46849,"Ġbeginners":46850,"(Client":46851,"Ġstatistically":46852,".hour":46853,"edelta":46854,"Ġtraction":46855,"uelve":46856,"arat":46857,"Ġsauna":46858,"INVALID":46859,"Ġindictment":46860,"ALLE":46861,"Ġdissent":46862,"ĠTypography":46863,"Ġintentional":46864,"sit":46865,"ĠAnimals":46866,"Ġcountryside":46867,"Ġuart":46868,"}\\\"":46869,"Ġseamless":46870,"¾ç¤º":46871,"Ġautos":46872,"Ġ\"'\";Ċ":46873,"Flush":46874,"ANNOT":46875,"Ġalgebra":46876,"assoc":46877,"ĠWaters":46878,"Ġpreparations":46879,"ronym":46880,"[,]":46881,"Sans":46882,"Ġarmies":46883,"ipeg":46884,"Ġcreamy":46885,".art":46886,"etre":46887,"ĠAnimated":46888,"Ġunpleasant":46889,"emean":46890,"great":46891,"iÄħ":46892,"ĠEarlier":46893,"Ġchic":46894,"Ġpreserving":46895,"(exec":46896,"ĠInvestigation":46897,"ĉGPIO":46898,"Ġrigorous":46899,"ijo":46900,"=num":46901,"ĠtoolStrip":46902,")set":46903,"+\"&":46904,"ĠAcceler":46905,"Ġdevelopmental":46906,"isposable":46907,"Ġflawed":46908,"rene":46909,"Updating":46910,"Ġwatchdog":46911,"Ġdenominator":46912,"Ġsuburbs":46913,"Ġ...)":46914,"Ġconvictions":46915,"closure":46916,".IP":46917,"Ġtranslates":46918,".swt":46919,".Trace":46920,"Ġmettre":46921,".isEnabled":46922,"ĠEffective":46923,".toInt":46924,"Ġenchant":46925,"Ġstunned":46926,"Ġpoi":46927,"/code":46928,"adm":46929,".databinding":46930,"ĠLorem":46931,"________________________________________________________________":46932,"Ġledger":46933,"Ġcara":46934,"ĠGir":46935,"Ġwaits":46936,"Uno":46937,"Ġcwd":46938,"è¾ij":46939,"ĠTResult":46940,"Ġrejo":46941,"Ġemitted":46942,"ĠWestminster":46943,"ä¸Ģ个":46944,"nek":46945,"_Tis":46946,"Ġenact":46947,"ĉwith":46948,"orgia":46949,"Ġjue":46950,"Perform":46951,"SPATH":46952,".topic":46953,"ĠDaten":46954,"ầ":46955,"Ġsitio":46956,"_MM":46957,"\"So":46958,"bial":46959,"Ġscoped":46960,"Requires":46961,"ĠTOTAL":46962,"ĠChancellor":46963,"(contents":46964,"Ġstealth":46965,"devices":46966,"-pass":46967,"ilih":46968,"ĠMalcolm":46969,"ĠDepot":46970,"Ġconfigur":46971,"aussian":46972,"_constraint":46973,"веÑĤ":46974,"GRA":46975,"ĠRates":46976,".dataGridViewTextBoxColumn":46977,"ĠNobel":46978,"itics":46979,"Ġignorant":46980,"ĠReporter":46981,"ĠEbola":46982,"ĠShock":46983,"_relation":46984,"ĠNinja":46985,")c":46986,"Ġticker":46987,".isChecked":46988,"ĠSuppliers":46989,"ĠRapid":46990,"Levels":46991,"âĤ¬âĦ¢":46992,"ĉqueue":46993,"Ġchop":46994,"ĠUnix":46995,"reject":46996,"-calendar":46997,"(sort":46998,"ène":46999,"ercicio":47000,"Ġhect":47001,"CALLTYPE":47002,"roupon":47003,"Ġrentals":47004,"authors":47005,"{name":47006,"ĠFIFO":47007,"Ġlassen":47008,"ĠNous":47009,"Ġsnapped":47010,"Ġfertility":47011,"\"log":47012,"clicked":47013,"Ġplanting":47014,"Ġgb":47015,"/output":47016,"PEAT":47017,"Ġcategoria":47018,"Ġbach":47019,"Professor":47020,"inth":47021,"\"]čĊ":47022,"Recorder":47023,"serde":47024,"ĠTransmission":47025,"trad":47026,"Ġturbo":47027,"_VERTEX":47028,"\\Event":47029,"ilver":47030,"Ġbodily":47031,"ĠSources":47032,"Ġkillings":47033,".xrTableCell":47034,"Ġfolded":47035,"/legal":47036,"uner":47037,"ĠRifle":47038,"ĠMIDI":47039,"_SelectedIndexChanged":47040,".SizeType":47041,"ĠWebSocket":47042,"Ġseleccion":47043,"Sand":47044,"otros":47045,"Ġenvision":47046,"/etc":47047,"ĠMelissa":47048,"Spot":47049,"ное":47050,"_ARM":47051,"Attempt":47052,"ĠBI":47053,"ãģĶ":47054,"ĠDU":47055,"Ġbacklash":47056,"stride":47057,"/classes":47058,"ĠtextColor":47059,"_staff":47060,"oblin":47061,"agenta":47062,".collections":47063,"illage":47064,"'čĊčĊ":47065,"flatten":47066,"_sales":47067,"_MASTER":47068,"TW":47069,"_da":47070,"Pitch":47071,"phies":47072,"Ġzombies":47073,"ĠVERY":47074,"ĠPharmacy":47075,"ĠprogressBar":47076,"Ġhashtag":47077,"Sidebar":47078,"@stop":47079,"(pc":47080,"олж":47081,"MAKE":47082,"ĠCoron":47083,"Ġkvinner":47084,"ĠMaid":47085,"bob":47086,".titleLabel":47087,"Ġsuccesses":47088,"ĠDemocracy":47089,"ĠSurgery":47090,"Ġcougar":47091,"Ġcurso":47092,"Ġloro":47093,"istency":47094,"Senior":47095,"æk":47096,"ĠAAA":47097,"ĠBOOK":47098,"ко":47099,"WSTR":47100,"Ġ*/,Ċ":47101,"oyal":47102,".vector":47103,"ĠSPEC":47104,"SSF":47105,"Ġcompuls":47106,"ĠAppeals":47107,"ĠWinston":47108,"ĠMockito":47109,"contrib":47110,".available":47111,"entityManager":47112,"arias":47113,"_sale":47114,"_rs":47115,"Ġdecoding":47116,"Ġlocator":47117,"olith":47118,"Ġkol":47119,"Ġascii":47120,"ĠRut":47121,"/interface":47122,"ĉĉĉĉĉĉĠĠĠ":47123,"ĠNumer":47124,".flip":47125,"-del":47126,"Ġbolster":47127,"onomic":47128,"Ġzm":47129,"LG":47130,"FindBy":47131,"Ġadaptive":47132,"loo":47133,"Ġvue":47134,"(reverse":47135,"_canvas":47136,".roles":47137,"ificado":47138,"venient":47139,"\"As":47140,"ĠEntr":47141,"aligned":47142,"Ġbereits":47143,"///ĊĊ":47144,".gwt":47145,".employee":47146,"_cli":47147,"Ġanticipate":47148,"éĻIJ":47149,"Ġpik":47150,"Ġmushrooms":47151,"(tt":47152,"Ġoma":47153,"ĠSanchez":47154,"_google":47155,".Valid":47156,"ĠFileName":47157,"ivative":47158,"ked":47159,"-war":47160,"Ġmaturity":47161,"ид":47162,"Ġminer":47163,"Reducers":47164,"ĠLatLng":47165,"_STD":47166,"Digits":47167,"Calc":47168,"-upload":47169,"Ġhandic":47170,"ีà¹Ī":47171,"egrated":47172,"ĠSTM":47173,"Clients":47174,"ĠTurbo":47175,"SYNC":47176,"Ġphotographers":47177,".Out":47178,".character":47179,"BUILD":47180,".unlock":47181,"Ġarises":47182,"ĠCommands":47183,"(\"\");čĊ":47184,"_FORE":47185,";',":47186,"+\"'":47187,".Images":47188,"\"){":47189,"ĠMeyer":47190,"Ġnegatively":47191,"ĠDLL":47192,"Ġexe":47193,"Ġdeficiency":47194,"Ġwildly":47195,"-switch":47196,"construction":47197,"Ġexceptionally":47198,"ĠLiz":47199,"/java":47200,"Ġtheirs":47201,"ĠContemporary":47202,"lis":47203,".fillRect":47204,"ĠNFC":47205,"Ġrehe":47206,"(numbers":47207,"Ġraster":47208,"Ġfiguring":47209,"Ġshowc":47210,"ĠJill":47211,"Ġarcade":47212,"ĠConstructs":47213,"mdl":47214,"('|":47215,"Ġidentifiers":47216,"Ġstellar":47217,"(Connection":47218,"Ġ\"{{":47219,"yor":47220,"(mysqli":47221,"Ġdove":47222,"OfBirth":47223,".disconnect":47224,"_hi":47225,"Ġzwischen":47226,"ĠGrund":47227,"iros":47228,"_Array":47229,".onclick":47230,"ansom":47231,"Answers":47232,"ĉremove":47233,"Fa":47234,"Ġhurry":47235,"-inf":47236,"ĠgetClass":47237,"ĠRegulation":47238,"ĠFLAGS":47239,"misc":47240,"Ken":47241,"_heading":47242,"GHz":47243,"-entry":47244,"Ġbiography":47245,"Sig":47246,"-mf":47247,"Watcher":47248,"âĢľA":47249,"}px":47250,"Ġspicy":47251,"_sq":47252,"Lost":47253,"(track":47254,"али":47255,"Descending":47256,"((":47453,"survey":47454,"Ġíĺ":47455,"...')Ċ":47456,"ĠDivider":47457,"osl":47458,"_CANCEL":47459,"_prepare":47460,"stin":47461,"ĠHeath":47462,".PrimaryKey":47463,"ĠâĨIJ":47464,"ĠLocalDateTime":47465,"Ġcooperative":47466,"Learning":47467,".enqueue":47468,"Ġgoog":47469,"ĠRegression":47470,"imates":47471,"Ġvoyeur":47472,"ĠDrink":47473,"plug":47474,"Ġlender":47475,"mana":47476,"Ġpersonnes":47477,"ypse":47478,"Ġunlink":47479,"ĠRavens":47480,"Ġhurd":47481,"Ġperiodically":47482,"ARGS":47483,"ĠGH":47484,"characters":47485,"...\"ĊĊ":47486,"-establish":47487,"Ġdn":47488,"(condition":47489,"ĠGravity":47490,"Ġestas":47491,"_focus":47492,"Creature":47493,"(site":47494,"Ġcarr":47495,"ĠRL":47496,"ĠRI":47497,"ĠMoto":47498,"ASF":47499,"ĠLuckily":47500,"ĉRoute":47501,"Ġentropy":47502,"(\",\"":47503,"Collect":47504,"(contact":47505,"ĠFlorence":47506,"Ġpremiums":47507,"Ġlifecycle":47508,"Ġbans":47509,"xef":47510,"WebKit":47511,"ĠFloating":47512,"Ġcosa":47513,"Specific":47514,"ĠLoans":47515,"bread":47516,"Ġdescriptors":47517,"Ġ{:.":47518,"THREAD":47519,"ĠTrent":47520,"Ġscop":47521,"QA":47522,"ĠAntar":47523,"pel":47524,"_difference":47525,"_changes":47526,"(...)":47527,"ĠRotation":47528,"ĠLGPL":47529,"ĠJUST":47530,"(Task":47531,"_subset":47532,"ĠTRANS":47533,"åĬĽ":47534,"ĠScout":47535,"-popup":47536,"Ġsmoked":47537,"_Class":47538,"Ġturnover":47539,"brakk":47540,"ĠRocky":47541,"tas":47542,".RegularExpressions":47543,"ĠElliott":47544,"ĠSpinner":47545,"DUCTION":47546,"Ġlibre":47547,"Ġmolto":47548,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠ":47549,"ĠFTP":47550,"mpeg":47551,"(features":47552,"Ġbald":47553,"ĠVid":47554,"Ġshouting":47555,"Lint":47556,"Ġsockets":47557,"Ġprow":47558,"Ġnouvelle":47559,"iscard":47560,"ĠSponsor":47561,"Ġconsulta":47562,")));":47563,"Indian":47564,"ĠRaspberry":47565,"Ġteammate":47566,"ĠJWT":47567,"ĠGhana":47568,"Ġcakes":47569,"primer":47570,"forma":47571,"ergarten":47572,"_Manager":47573,"Ġpreseason":47574,"GAME":47575,"|\"":47576,"ĠBrock":47577,"Ġoccupy":47578,"Ġdecorations":47579,"ánd":47580,"Ġcot":47581,"Ġparan":47582,"Disk":47583,"remain":47584,">?":47585,"Strong":47586,"Ġfrance":47587,"ĠEra":47588,"-cr":47589,".BufferedReader":47590,"ĠParadise":47591,"ĠVAT":47592,"ĠAnders":47593,"Ġlimb":47594,"ampoo":47595,"Ġimperative":47596,"UTILITY":47597,"ĠRecognition":47598,"Ġragazze":47599,"Ġpops":47600,"ypress":47601,"Ġembargo":47602,"//{Ċ":47603,"Ġsyll":47604,"PTR":47605,"åŃĺåľ¨":47606,"Ġdidnt":47607,"Mailer":47608,"Ġacademics":47609,"ĠFrauen":47610,"neider":47611,"-rel":47612,"Ġrainbow":47613,"(In":47614,"Ġsliced":47615,"=============Ċ":47616,"(send":47617,"NSMutableDictionary":47618,"vos":47619,"(package":47620,"Ġordinance":47621,"viewer":47622,"ĠSantos":47623,"-selling":47624,"Ġgov":47625,"ettle":47626,"Ġfounders":47627,"Ġwaking":47628,"slashes":47629,"-pound":47630,"recht":47631,"ات":47632,".onClick":47633,"Ġnord":47634,"ständ":47635,"_when":47636,"UTERS":47637,"icc":47638,"Ġcapsule":47639,"ĠWid":47640,"Marc":47641,"ุ":47642,"rored":47643,"UGE":47644,"LOUD":47645,"ĠAudit":47646,"ipients":47647,"opian":47648,"ĠSue":47649,"Ġwurden":47650,".Helpers":47651,"Ġfactions":47652,"[np":47653,"-than":47654,"Ġreco":47655,"Ġkas":47656,"Ġcmds":47657,"/network":47658,"xbf":47659,"getColor":47660,"Ġbiased":47661,"ĠLak":47662,"Datas":47663,"vents":47664,"Ġë²":47665,"_PS":47666,".Validate":47667,"Invoker":47668,"Ġneuen":47669,"Ġjuvenile":47670,"VISION":47671,"Ġdevote":47672,"Ġlinha":47673,"Ġdiscounted":47674,"\\Config":47675,"Ġworthwhile":47676,"Ġskinny":47677,"ĠCourses":47678,"leys":47679,"ĠMortgage":47680,"Kevin":47681,"Ġannounces":47682,"])*":47683,"reservation":47684,"Ġæķ°":47685,"Ġprejudice":47686,"ĠStringComparison":47687,"Ġbeard":47688,"-win":47689,"ĠSão":47690,"ĉms":47691,"jal":47692,"ĠEarn":47693,"_ports":47694,"ĠNombre":47695,"_COR":47696,"ĠBUILD":47697,".sound":47698,"Yellow":47699,"Ġlinebacker":47700,"Ġcharitable":47701,"jug":47702,"_NONNULL":47703,"ĠDental":47704,"\">${":47705,"ĉmatch":47706,"Russian":47707,"Ġversch":47708,"Ġpinned":47709,"Ġadopting":47710,"OptionsMenu":47711,"Pag":47712,"Ġpairing":47713,"Ġtread":47714,"ercises":47715,"ĠSpread":47716,")i":47717,"ĠBAD":47718,"_tf":47719,"UIImageView":47720,"populate":47721,"bab":47722,"ĠÏĥ":47723,"[++":47724,"Ġopioid":47725,"Ġ##Ċ":47726,"dtype":47727,"ĠStarts":47728,"('/')":47729,"Ġpersonals":47730,"-market":47731,"Ġredundant":47732,"ĠEssential":47733,"Ġscrapy":47734,"Ġим":47735,"acl":47736,"Ġcrear":47737,"ĠBend":47738,"Ġrelieve":47739,"-room":47740,"wife":47741,"ĠvÃł":47742,"ĠQPoint":47743,"Ġquasi":47744,"ĠmethodName":47745,"\\xc":47746,"ĠPeru":47747,"/The":47748,".orm":47749,"Ġviz":47750,"/pdf":47751,"Located":47752,"Ġconfrontation":47753,"ĠChampionships":47754,"Ġhypert":47755,"Ġdj":47756,"ĠUserInfo":47757,"ĠåĪĽå»º":47758,"\\xb":47759,"(sim":47760,"Ġ==Ċ":47761,"Ġstaging":47762,"Ġdrastically":47763,"åѦ":47764,"lords":47765,".less":47766,"ведиÑĤе":47767,"ĠBucket":47768,"ĠMam":47769,".term":47770,"_pi":47771,"czy":47772,".pub":47773,"precio":47774,"ĠVirt":47775,"Ġroman":47776,"itat":47777,"Lex":47778,"_infos":47779,"İ":47780,".other":47781,"VELO":47782,"Ġponder":47783,"Ġhanno":47784,"(Page":47785,"doi":47786,"Ġpolite":47787,"Ġprogrammer":47788,"Dies":47789,"$d":47790,"Ġreplication":47791,"addColumn":47792,"frican":47793,"Ġleng":47794,"beer":47795,"oit":47796,"Ġwasting":47797,"ylim":47798,"measure":47799,"Neg":47800,"Ġpartie":47801,".console":47802,"ĠGuinea":47803,"TEL":47804,"_fact":47805,".chunk":47806,"Ġlent":47807,"Ġaller":47808,"Ġà¤ķ":47809,"_idle":47810,"Ġadmissions":47811,"JSONArray":47812,"Ġvibration":47813,".helpers":47814,"å¤ĸ":47815,"Ġhen":47816,"john":47817,"ĠìĥĿ":47818,"Ġjudgement":47819,"Ġgeen":47820,"terra":47821,"^{":47822,"ĠIz":47823,"Ġcâ":47824,"instances":47825,"Ġthreatens":47826,"Ġmüssen":47827,"KindOfClass":47828,"Ġstorytelling":47829,"_demo":47830,"rias":47831,"Privacy":47832,"hift":47833,"ĠYi":47834,"esor":47835,"íķł":47836,"ensitivity":47837,".Writer":47838,"à¸Ĥ":47839,"District":47840,".getJSONObject":47841,"Impro":47842,"(getResources":47843,"ĠSPELL":47844,"roduce":47845,"Ġslowed":47846,"Ġlinewidth":47847,"Ġhonesty":47848,"ĠCoord":47849,"ĠFork":47850,"ĠDispatchQueue":47851,"ĠCliff":47852,"ĠWiring":47853,"_TIMESTAMP":47854,"ollah":47855,"avoid":47856,"++];Ċ":47857,"semantic":47858,"-css":47859,"Ġveto":47860,"ĠMerr":47861,"Ġlegislators":47862,"CEEDED":47863,"Ġquestionnaire":47864,"ĠPills":47865,"Calculate":47866,"(core":47867,"'e":47868,"Ġdislike":47869,"ĠPreferences":47870,"_EXTERNAL":47871,"è°ĥ":47872,"Ġdodge":47873,"æľįåĬ¡":47874,".names":47875,".drawImage":47876,"_prom":47877,"uckland":47878,"Ġ<$>":47879,"ız":47880,"/site":47881,"项":47882,"rophe":47883,"Ġcompelled":47884,"Ġlaptops":47885,"Ġuni":47886,"CLOSE":47887,"Ġcasualties":47888,"ĠUniform":47889,"Terminal":47890,".\",\"":47891,"DAT":47892,"(TreeNode":47893,"ĠGandhi":47894,"(stmt":47895,"AXB":47896,"*M":47897,"Ġumbrella":47898,"animal":47899,"Ġgrpc":47900,"Ġwhereby":47901,"Ġfloats":47902,"ĉarg":47903,"Ġdbg":47904,"Ġexceeding":47905,"EventType":47906,".SaveChangesAsync":47907,"Ġ{{{":47908,"Ġowed":47909,"ahrenheit":47910,"Ġì§":47911,"Ġequipo":47912,"urai":47913,"Ġidol":47914,"]\")Ċ":47915,"_major":47916,"Ġentirety":47917,"ingerprint":47918,"ços":47919,"/account":47920,"ĉright":47921,"ursos":47922,"ĠEDT":47923,"_INSERT":47924,"Ġshining":47925,"Ġ<:":47926,"EdgeInsets":47927,"Ġcolonies":47928,".IM":47929,"ĉĠĉ":47930,"ROAD":47931,"CCCC":47932,"placing":47933,"ĠgetActivity":47934,"emacs":47935,"'%(":47936,".clicked":47937,"ĠThem":47938,"isia":47939,"Buscar":47940,".rename":47941,"Ġoath":47942,"Ġafterward":47943,"ĠUFO":47944,"APS":47945,"ĠJacksonville":47946,".some":47947,"Confirmed":47948,".scan":47949,"igInteger":47950,"Decorator":47951,"shield":47952,"ressive":47953,".did":47954,"请è¾ĵåħ¥":47955,"Ġshutter":47956,"Dam":47957,"Ġparenting":47958,"eyed":47959,"$item":47960,"-develop":47961,"Ġextracts":47962,"Ġdecentralized":47963,"ĠElsa":47964,"_spin":47965,"])+":47966,"-initial":47967,"Ġmultitude":47968,"Ġsensory":47969,"ĠMODEL":47970,"Ġsafeguard":47971,"ì¹":47972,"Ġhunters":47973,"ĠTiny":47974,"INO":47975,"decorate":47976,"ĠNoSuch":47977,"Ho":47978,"(Response":47979,"Ġruler":47980,"ĉshort":47981,"Ġcaster":47982,"ĠclientId":47983,"Ġpdb":47984,"ëıĦ":47985,"itic":47986,"ĠGameState":47987,"ĠnewItem":47988,")ĊĊĊĊĊĊ":47989,"ouis":47990,"noc":47991,".BLACK":47992,"_VECTOR":47993,"----------();":48281,".getP":48282,"anye":48283,"Ġneuron":48284,"ifold":48285,"ĠKnown":48286,"Bitcoin":48287,"Anyway":48288,"ayette":48289,"Ġ'['":48290,"Ãłnh":48291,"mgr":48292,"Ġcorrelated":48293,"Ġnause":48294,"Ġmentality":48295,"hasMany":48296,"ĠFG":48297,"ampie":48298,"ITU":48299,"Fs":48300,".Sp":48301,"_between":48302,"Dependencies":48303,"oug":48304,"Placeholder":48305,"=text":48306,"ĠManaging":48307,"ocalypse":48308,"åĮĹ":48309,"_mag":48310,"fld":48311,"âij":48312,"CAM":48313,"ĠHelpers":48314,"Ġdost":48315,"/out":48316,"Ġassassination":48317,".getImage":48318,"ĠKenny":48319,".')ĊĊ":48320,"){//":48321,"ĠRanger":48322,"Ġgek":48323,"Ġsincere":48324,"čĊ":48527,".getResources":48528,"Ġlump":48529,"_consts":48530,"(ext":48531,"ĉdir":48532,"âĿ":48533,"ĠpaddingTop":48534,"Ġobsession":48535,"Ġbanning":48536,"ĠAppModule":48537,"Ġpartisan":48538,"Ġcatalogue":48539,"Ġminors":48540,"Ġpitches":48541,"weep":48542,"Ġundertake":48543,"Ġthemed":48544,"audit":48545,".scrollTop":48546,"Ġrer":48547,"Ġsymptom":48548,"Ġopenings":48549,".blocks":48550,"openid":48551,"Ġassh":48552,"-save":48553,"ĠPig":48554,"Ġregain":48555,"Ġinicial":48556,"/favicon":48557,"ĉexp":48558,"Ġspices":48559,"iska":48560,"claims":48561,"mak":48562,"definitions":48563,"Ġcorrespondent":48564,"ĠCannabis":48565,"__,Ċ":48566,"ĠLucky":48567,"ĠGaussian":48568,"ĠNearly":48569,"CAD":48570,"']]Ċ":48571,"Ġadequately":48572,"ĠTITLE":48573,"constitutional":48574,"-mm":48575,"_override":48576,"Ġblas":48577,".readyState":48578,"Ġreminis":48579,"Ġreinforced":48580,"ĠCollabor":48581,"Ġdecorating":48582,"Ġbachelor":48583,"ERRUPT":48584,"Ġupright":48585,"ipation":48586,"ĠNoble":48587,"ĠvalueForKey":48588,"ĠsetLoading":48589,".Ignore":48590,"åģ":48591,"Globals":48592,"ĠMent":48593,"ASSES":48594,"Ġlimbs":48595,"ĠHUD":48596,"inci":48597,".iv":48598,"ĠQModelIndex":48599,"Fuse":48600,"Ġpedal":48601,"_FREQ":48602,"(verbose":48603,"Ġlongitud":48604,"ĠCharter":48605,"ê·¸":48606,"Ġbundles":48607,".ignore":48608,"umbo":48609,"EMA":48610,".......":48611,"sx":48612,".Card":48613,"Ġheute":48614,"Ġsteer":48615,"jumlah":48616,"Ġ{_":48617,"_Checked":48618,"Ġfax":48619,"ĠGust":48620,"itchens":48621,"Ġ))ĊĊ":48622,"Ġremarkably":48623,"/XML":48624,"-remove":48625,"_bt":48626,"Ġincub":48627,".package":48628,".currentThread":48629,"ĠHighlander":48630,".side":48631,"splash":48632,"Ġici":48633,"=D":48634,"Ġpuck":48635,"Ġballots":48636,"Ġhugely":48637,"coeff":48638,"ĠpData":48639,".COLUMN":48640,"ĠHealing":48641,"Ġordin":48642,"!),":48643,"Ġ'',čĊ":48644,"(md":48645,"ĠSask":48646,"čĊ":48668,"Ġrá":48669,"Ġblunt":48670,"ĠImageIcon":48671,"ifik":48672,"RTC":48673,"Ġfibers":48674,"Ġtoile":48675,".sent":48676,"ĠPyQt":48677,"$app":48678,"Ġmedio":48679,"Ġgranting":48680,"Ġtslint":48681,"ĠMö":48682,"(figsize":48683,"Ġhurricane":48684,"Ġlifes":48685,"ĠÃĦ":48686,"rocessing":48687,"_standard":48688,"-option":48689,"')))":48690,"Ġvacant":48691,"å·¥":48692,"ĠHollow":48693,"handleChange":48694,"Ġdivider":48695,"ĠEngineers":48696,"Ġsvens":48697,"Ġcompliant":48698,"tanggal":48699,"ĠCredits":48700,"ĠEmirates":48701,"RuleContext":48702,"Ġrealization":48703,"Ġdistracted":48704,"]+=":48705,"Ġaugment":48706,"ĠDw":48707,"otp":48708,"orrent":48709,"Editar":48710,".stock":48711,"Study":48712,"pections":48713,"ĠGameManager":48714,"=cut":48715,"Ġflock":48716,"ĠRomans":48717,"them":48718,"-hop":48719,"Ġscreenshots":48720,"Ġ/*!Ċ":48721,"Ġconversions":48722,"Ġnormalization":48723,"(configuration":48724,"Ġaeros":48725,"_security":48726,"!'Ċ":48727,"Bonus":48728,"ĠDRIVER":48729,"ĉDate":48730,"tie":48731,"ĠWyoming":48732,"Stand":48733,"itre":48734,"Ġshoppers":48735,"Ġdisadvantage":48736,"Ġliking":48737,"ç¬ij":48738,"Ġunderstandable":48739,"SEE":48740,"Ġhoy":48741,"Ġninete":48742,"Ġconfer":48743,"Ġnowrap":48744,"ĠVern":48745,",čĊčĊ":48746,"imestep":48747,"LayoutManager":48748,"à·":48749,"ĉwait":48750,"PLETED":48751,"Japan":48752,"Ġinduce":48753,"Ġå¯":48754,"озв":48755,"_ENDPOINT":48756,".horizontal":48757,"Ġaccelerated":48758,"rimon":48759,"IVES":48760,"Transactions":48761,"Lean":48762,"ĠSOUR":48763,"whether":48764,"yg":48765,"Ġoid":48766,"ĠEntityManager":48767,"OUNTRY":48768,"Ġfila":48769,"OLUMNS":48770,"INUE":48771,"ĠAnchor":48772,"TRAN":48773,"woo":48774,"blockquote":48775,"ĠNurse":48776,"ĠCarp":48777,"Ġredeem":48778,".try":48779,"ĠJP":48780,"Ġtimestamps":48781,"Ġ?>\"><":48782,"ĠREMOVE":48783,"ĠStarbucks":48784,"Really":48785,"Ġflooded":48786,".Callback":48787,"DropDown":48788,"ipro":48789,"Ġtended":48790,"lte":48791,"Ġproportions":48792,"-te":48793,"ĠRena":48794,"licate":48795,"forces":48796,".extra":48797,".authenticate":48798,"вод":48799,"¡°":48800,"ĠforControlEvents":48801,"Ġsenha":48802,"Ġkein":48803,"Ġminist":48804,"ĠPreference":48805,"ĠTelegraph":48806,"Ñĥп":48807,"strpos":48808,"Ġillnesses":48809,"Ġpigs":48810,"ĠgetIntent":48811,"Sol":48812,"Ġ¡":48813,"(cpu":48814,"[prop":48815,"screens":48816,"');?>":48817,"ĠActs":48818,"Ġstrdup":48819,"Ġaverages":48820,"anal":48821,"ĠCasual":48822,"GroupBox":48823,"ĠHandbook":48824,"/comments":48825,"Ġnumbered":48826,"Ġbroadcasting":48827,"çĽij":48828,".nativeElement":48829,".mu":48830,"ĠupdatedAt":48831,"ĠDoesn":48832,".AC":48833,".coll":48834,"Ġrecorder":48835,"_sha":48836,"Bg":48837,"bil":48838,"Ġbolts":48839,"Ġç¬":48840,"Ġimposing":48841,"ĠInformationen":48842,"_flashdata":48843,"economic":48844,"Remark":48845,"ucas":48846,"ĠOfficers":48847,"ĠTER":48848,"Walk":48849,"Ġmercado":48850,"_generate":48851,"HY":48852,"Calling":48853,"snap":48854,"scriptId":48855,".operation":48856,"ĠFlame":48857,"liness":48858,"Ġrented":48859,"_toggle":48860,"-changing":48861,"ĠTY":48862,"'util":48863,"EEP":48864,"Ġgraphql":48865,"ĠUni":48866,"Ġimpulse":48867,".Basic":48868,"Ġenergies":48869,"MARY":48870,"ĠMarcel":48871,"Ġmortal":48872,"Ġfres":48873,"mens":48874,"motion":48875,"Ġsampled":48876,"âĢľThat":48877,"iday":48878,"quipment":48879,"getInt":48880,"ĠAbsolute":48881,",'\"":48882,"uned":48883,".share":48884,"Ġ})(":48885,"mmm":48886,"ĠRising":48887,"ä»»":48888,"Ġunemployed":48889,"xfa":48890,".follow":48891,"ĉĉĉĉĠĠĠĠĠĠ":48892,"slt":48893,".Phone":48894,"Ġknives":48895,"Ġeve":48896,"onClick":48897,"]))čĊ":48898,"ĠWitness":48899,"ĉNS":48900,"ĠEOS":48901,"ĠStefan":48902,"ĠPriest":48903,"âĢĶwhich":48904,"GetString":48905,".By":48906,"Ġupstairs":48907,"Ġdetriment":48908,"broken":48909,"embro":48910,"Ġnicotine":48911,"ilion":48912,"Ġastonishing":48913,"_aff":48914,"ĠLesson":48915,"Ġaccidental":48916,"odor":48917,"Ġdecir":48918,"ĠnewName":48919,"+.":48920,"缸":48921,"igslist":48922,"ĠGithub":48923,"Ġsuccessive":48924,"racial":48925,"Ġenviron":48926,"éªĮè¯ģ":48927,"Ġredirected":48928,"TOTAL":48929,"Ġgrabbing":48930,"ĠLance":48931,"Ġforfe":48932,"_CB":48933,"å¾®":48934,"Elapsed":48935,"_way":48936,"(DialogInterface":48937,"_measure":48938,"xbb":48939,"Dog":48940,"Depart":48941,"-src":48942,"resolver":48943,"withstanding":48944,"_shell":48945,"ĠLastName":48946,"ĠAviation":48947,"Ġbeginner":48948,"(\"%.":48949,"(tool":48950,"Ġнов":48951,":init":48952,"(API":48953,"ĠMorrison":48954,"vtColor":48955,"Ġstaple":48956,"/INFO":48957,"Ġsupernatural":48958,"Ġsteak":48959,"timeline":48960,"zzle":48961,"\"`ĊĊ":48962,"Secondary":48963,"ĠNepal":48964,".StringUtils":48965,"Ġadam":48966,"Ġ(...":48967,"Ġsubstitution":48968,"Ġboarding":48969,"ĠKeyword":48970,"ĠAssault":48971,"dbcTemplate":48972,"ĠorderId":48973,"(engine":48974,".assertThat":48975,"ĠVenus":48976,"Ġhomicide":48977,"ĠAval":48978,"Ġgutter":48979,"ĠSupported":48980,"/part":48981,"Ġacclaimed":48982,"Histor":48983,"Ġmeses":48984,"über":48985,"ĠRenew":48986,"Ġgras":48987,"ĠEk":48988,"Ġinfile":48989,"indy":48990,".music":48991,".Scroll":48992,"ĠAges":48993,"ĠNaruto":48994,"ĠGather":48995,"Ġconfirming":48996,"=(\"":48997,"Ġpitched":48998,"oley":48999,"France":49000,"+'\"":49001,"$total":49002,"Ġonde":49003,"Ġditch":49004,"_sigma":49005,"Ġcontinuity":49006,"reward":49007,"-load":49008,"Ġproceso":49009,"Locked":49010,"staw":49011,"Ġspinal":49012,"lazy":49013,"!==":49014,"jest":49015,"Ġdun":49016,"ĠRodgers":49017,"ĉgrid":49018,"Ġlogos":49019,"ĠBengal":49020,".super":49021,"Provides":49022,"Ġnutrient":49023,".Timestamp":49024,"IZATION":49025,"åĨĮ":49026,"Ġfats":49027,"ĠXxx":49028,"ctica":49029,"Targets":49030,"Ġcontours":49031,"Ġreordered":49032,":Array":49033,"Ġtolerate":49034,"Vir":49035,"Ġterribly":49036,"Ġbricks":49037,"(&_":49038,"hb":49039,"Portal":49040,"ĠBread":49041,".which":49042,"ÂŃt":49043,"asInstanceOf":49044,"Ġjobject":49045,"ĉlength":49046,"_MT":49047,";\">čĊ":49048,"_EXIST":49049,"Ġmaternal":49050,"REL":49051,"Ġê²½ìļ°":49052,"hee":49053,"Ġlayouts":49054,"ĠLap":49055,"aisy":49056,"Ġstumbled":49057,"ĠUIG":49058,"ĠSco":49059,"Ġimpaired":49060,"RESSED":49061,"Ġabuses":49062,"VF":49063,"ARB":49064,".NAME":49065,"rch":49066,"primir":49067,"_completed":49068,"Ġpenny":49069,"Chrome":49070,"(begin":49071,"ernen":49072,"-checkbox":49073,"PlainOldData":49074,"ĠLPC":49075,"rade":49076,"spir":49077,"Ġconceived":49078,"Tips":49079,"ĠIoT":49080,"ĠGan":49081,"èģĶ":49082,"Ġbiases":49083,"Ġconsultants":49084,"pled":49085,"_ht":49086,"associated":49087,"],ĊĊ":49088,"Ġdelightful":49089,"ĠÑĤек":49090,"Helvetica":49091,"(load":49092,"-expand":49093,"_WIDGET":49094,"toa":49095,"ĠAkt":49096,"Ġomn":49097,"Ġclauses":49098,"Intel":49099,"*/}Ċ":49100,"_registration":49101,"ĠoldValue":49102,"Ġrestoring":49103,"Ġunreal":49104,"OVER":49105,"ĉĊĉĊĉĊ":49106,"ATS":49107,"_probe":49108,"Ġdivisor":49109,".updateDynamic":49110,"å¹³":49111,"Produces":49112,"stamp":49113,".jboss":49114,"ĉtask":49115,"!(:":49116,"Ġpsychic":49117,"@class":49118,"Martin":49119,"ĠPassed":49120,"clarations":49121,"hel":49122,"аÑĩ":49123,"ĉcopy":49124,"-bin":49125,"zan":49126,"igram":49127,"াà¦":49128,"(sig":49129,"ĠCaval":49130,"_##":49131,"Ġ%=":49132,"outlined":49133,"ĠAcid":49134,"Ġunpredictable":49135,"-dashboard":49136,"HexString":49137,"+c":49138,".Public":49139,"ẩ":49140,"Ġconveyor":49141,"ĠEB":49142,"Ġselects":49143,"Ġknocking":49144,"ĠCec":49145,"IBUTES":49146,"owaÄĩ":49147,"gatsby":49148,"*v":49149,"entropy":49150,"Ġdispatched":49151,"Ġcamel":49152,"ĠSaturn":49153,"Ġoverweight":49154,"(phone":49155,"parable":49156,"%B":49157,"_vectors":49158,"Ġbrewing":49159,"ĠTk":49160,"ĠDownloads":49161,"ĠSaved":49162,".Price":49163,"Ġcurved":49164,"ĠParenthood":49165,"è¶":49166,".pnl":49167,"pletely":49168,".Day":49169,"Ġadvertisers":49170,"Ġejec":49171,"Ġprzed":49172,"ë¯":49173,"!';Ċ":49174,"ĠKush":49175,"ĠTAB":49176,"Ġquests":49177,"Ġcoincidence":49178,"ummies":49179,"ĠKashmir":49180,"ĠEthics":49181,"_growth":49182,"Ġaktiv":49183,"Ġgrouping":49184,"å¢ŀ":49185,"_truth":49186,"åIJ¬":49187,"todos":49188,"iset":49189,"TexCoord":49190,"ätt":49191,"ĠZur":49192,"roys":49193,"_MAGIC":49194,"Ġbrewery":49195,"(State":49196,"ĠSMALL":49197,"ĠPlants":49198,"itbart":49199,"eacher":49200,"ĠAdelaide":49201,"Lu":49202,"Ġfick":49203,"undles":49204,"_loaded":49205,"ие":49206,"Poll":49207,"ritic":49208,"ELY":49209,"Ġ+'":49210,"ĠProfession":49211,"Ġstamps":49212,"ĠSew":49213,"scrollView":49214,"Ġcommunist":49215,"/problems":49216,"}čĊčĊčĊčĊ":49217,",o":49218,"Ġudp":49219,"Ġobese":49220,"approve":49221,"ancellation":49222,"_Game":49223,"ĠHashtable":49224,"adaptiveStyles":49225,"Ġpossesses":49226,".matcher":49227,"functional":49228,"Mrs":49229,"ĉsave":49230,"ĠDbType":49231,"Ġken":49232,"getContext":49233,"Ġmans":49234,"(rel":49235,"ĠBrotherhood":49236,")`Ċ":49237,"è§£":49238,".Information":49239,"OutOfRangeException":49240,"ĠSek":49241,"Cas":49242,"Ġbloggers":49243,"Either":49244,"(\"\"\"":49245,"Ġpinch":49246,"Ġcoarse":49247,")p":49248,"ĠPulse":49249,"Ġlearnt":49250,"Ġdentist":49251,"Ġonchange":49252,"Ġdirectives":49253,"(actions":49254,"nyder":49255,"ĠShir":49256,"Trait":49257,"_dep":49258,"ĠPET":49259,"ĠREP":49260,".AppSettings":49261,"cuador":49262,"idenav":49263,"Ġenvi":49264,"Ġslammed":49265,"ĠShoot":49266,"ĠdateFormat":49267,".joda":49268,"veys":49269,"Ġ).ĊĊ":49270,"Ġcareg":49271,"ĠParallel":49272,"_translation":49273,".functions":49274,".obs":49275,"RuntimeException":49276,"[]=":49277,"overview":49278,"ĠSchl":49279,"Ġnoisy":49280,"ĠOnPropertyChanged":49281,"Sending":49282,"Ġunfamiliar":49283,"Upon":49284,"ĠPrints":49285,".typ":49286,"Ġfleeing":49287,"ĉmove":49288,"(Un":49289,"Ġqr":49290,"׾":49291,"_beta":49292,"Ġskies":49293,"ĉme":49294,"WND":49295,"Ġstickers":49296,"blas":49297,"Ġinserts":49298,"Ġverses":49299,"ĠDew":49300,"Ġtangible":49301,"Ġhecho":49302,"POL":49303,"Ġteardown":49304,"omnia":49305,"IBE":49306,".cover":49307,"_strategy":49308,"^-":49309,"setPosition":49310,"uale":49311,"Signed":49312,"Ġiface":49313,"aseline":49314,".setTime":49315,"ĠMineral":49316,"ĠFighting":49317,"skins":49318,"Ġdiscrimin":49319,"Ġdansk":49320,"ĠPrinceton":49321,"acist":49322,"Ġ());Ċ":49323,"tracks":49324,"imonial":49325,"adecimal":49326,"EPROM":49327,"uggle":49328,".Notification":49329,"$mail":49330,"cantidad":49331,"ĠJung":49332,"Ġseekers":49333,"Ġplausible":49334,"tier":49335,"еж":49336,"Ġrapper":49337,"ĠMana":49338,"ĠHttpStatusCode":49339,"Ġburnt":49340,"loses":49341,"ĠFoto":49342,"ĠJsonObject":49343,"Instagram":49344,"Ġsyscall":49345,"Ġrealities":49346,"ĠMATLAB":49347,":^{Ċ":49348,"TERM":49349,"ĠCbd":49350,"ĠParagraph":49351,"Ġtravés":49352,"Ġconstructing":49353,"Ġswal":49354,"Ġpige":49355,"LLLL":49356,"-existing":49357,"Gets":49358,"Ġmelted":49359,"Ġmitigate":49360,"Hen":49361,"Ġhm":49362,"imas":49363,"ĠAo":49364,"ĠPerez":49365,"ĠDAL":49366,"Ġëĭ¤":49367,"Ġdivis":49368,"StoryboardSegue":49369,"ĠModify":49370,"ĠÃľber":49371,"_OVERRIDE":49372,".pem":49373,"untos":49374,"Ġespañ":49375,"Ġ{?":49376,"ĠPAY":49377,"_ipv":49378,"ĠFury":49379,"__.__":49380,"elow":49381,"-centered":49382,"checks":49383,"_Reg":49384,"-Javadoc":49385,"ĉload":49386,"ĠLikewise":49387,"اÙħ":49388,"UNE":49389,".sem":49390,"xcb":49391,"ĠCave":49392,"_sleep":49393,"Ġsilently":49394,"ĠExtreme":49395,".ToUpper":49396,"ĉCHECK":49397,"Ġcue":49398,"ĠQByteArray":49399,"Ġcorrupted":49400,"ĠDé":49401,"Ġimped":49402,"GetName":49403,"Ġinaccurate":49404,"Ġsober":49405,"ее":49406,"Ġbarcode":49407,"--){Ċ":49408,"inki":49409,"Ġép":49410,"Ġdri":49411,"ĠALT":49412,">>>>>>>>":49413,"onta":49414,"[L":49415,"Ġinteres":49416,"verting":49417,"Ġdiagnostics":49418,"pdev":49419,"è©":49420,"ĠIntegrated":49421,").'":49422,"_gc":49423,"$text":49424,".games":49425,"ĠTerra":49426,"'Re":49427,".transfer":49428,"_FIFO":49429,"getModel":49430,"Ġbland":49431,"ĠColeman":49432,"Ġprimes":49433,"ĠæĪ":49434,"Ġcrosses":49435,"nk":49436,"GING":49437,"Ġ'^":49438,"ĠBlob":49439,"Ġintercourse":49440,"ĠBlvd":49441,"Ġweighs":49442,"_regular":49443,"ĠPerth":49444,"Ġseparating":49445,"Ġbilled":49446,".tabControl":49447,"Ġpuppet":49448,"Ġutilization":49449,"Ġâĸł":49450,"Ġsucces":49451,"Ġlamps":49452,"_proj":49453,"Eric":49454,"Ġrenovation":49455,"ĠFamilies":49456,"ĠBits":49457,"partials":49458,"-Men":49459,"solution":49460,"Ġdwarf":49461,".INTEGER":49462,"ĠLOCK":49463,".ct":49464,"Ġexcerpt":49465,"ĠPix":49466,"ĠFirstName":49467,"ANTED":49468,"ĠAdmir":49469,"-help":49470,"Prior":49471,"ĠAlign":49472,".INSTANCE":49473,"LineEdit":49474,"('/:":49475,"Ġinet":49476,"odus":49477,".pkl":49478,"ĠKY":49479,"upert":49480,"Ġnerves":49481,"_gradient":49482,"}','":49483,"_unref":49484,"Ġsaturated":49485,"ĠConnected":49486,"ĠFN":49487,"EXIT":49488,"Ġteleport":49489,"Ġavait":49490,"PageRoute":49491,"Ġdivorced":49492,"(lang":49493,"fst":49494,"ĠTyr":49495,"Ġmessenger":49496,"ifstream":49497,"XS":49498,"ĠBanking":49499,"Ġinfectious":49500,"ĠMons":49501,"_LOOP":49502,"Ġzurück":49503,"Ġobtener":49504,"/repos":49505,"Vel":49506,"acro":49507,"ĠuserRepository":49508,"styleType":49509,"ĠSRC":49510,"VMLINUX":49511,"recursive":49512,"/bar":49513,"_chip":49514,"ominated":49515,"ĠNit":49516,"âĢĶto":49517,"ĠBuddh":49518,"омеÑĢ":49519,"ĠMAG":49520,"ĠCHE":49521,"_den":49522,".raises":49523,"_degree":49524,"Ġpumpkin":49525,"_templates":49526,"_MEDIA":49527,"ĠTimeline":49528,"Ġbots":49529,"ObjectType":49530,"Ġbuys":49531,".posts":49532,"CAL":49533,"waiting":49534,"ĠDaniels":49535,"Ġdabei":49536,"ĠSigma":49537,"ilor":49538,"igel":49539,",W":49540,"ADS":49541,"(panel":49542,"ì²´":49543,"itating":49544,".palette":49545,"Ġmosquito":49546,"Ġtego":49547,"(parseInt":49548,"Ġdespués":49549,"promise":49550,"Ġwij":49551,"typescript":49552,"ĠTv":49553,"_IDENTIFIER":49554,").ĊĊĊ":49555,"_flat":49556,"itsu":49557,"USR":49558,"experience":49559,"-fit":49560,"phinx":49561,"_thresh":49562,"Ġideally":49563,"ĠFreeman":49564,",DB":49565,"_rw":49566,"çŃī":49567,"Ub":49568,"_statistics":49569,"=\"\"><":49570,"Ġchore":49571,"Ġyork":49572,"installed":49573,"Additionally":49574,"Ġpstmt":49575,"ylko":49576,"::Ċ":49577,"Forest":49578,"Ġheadset":49579,"Ġgallon":49580,"ÑĢем":49581,"Ġwithdrawn":49582,"ĠCandidate":49583,"Ġmelting":49584,"Ġfreezer":49585,"Ġhl":49586,"_HELP":49587,"mime":49588,"(/*":49589,"Ġthirst":49590,"$return":49591,"memberof":49592,"еб":49593,"ĠHttpServletRequest":49594,"(ob":49595,"_Result":49596,"Ġasserted":49597,"Ġfulfilling":49598,"Ġstretches":49599,"parated":49600,"-funded":49601,"ĠåĽ":49602,"ingles":49603,"_ca":49604,".condition":49605,"ĠDisplays":49606,"Ġorang":49607,"ĠCRE":49608,"ĠglBind":49609,"ĠSelector":49610,"/type":49611,"ĠAlexa":49612,"chedules":49613,"ĠPeninsula":49614,"Ġparity":49615,"ĉdest":49616,"ĠDoors":49617,"čĊĉčĊ":49618,"_dimension":49619,"Ġaload":49620,".StoredProcedure":49621,"(paren":49622,"ĠBurke":49623,"')]Ċ":49624,"-engine":49625,"Ġquir":49626,"ĠHybrid":49627,"ĠDoe":49628,"Ġoutlines":49629,"ĠTrends":49630,"_NV":49631,"periments":49632,"ĠHin":49633,"?',":49634,"ĉText":49635,"FUL":49636,"Ġsmells":49637,"Ġslick":49638,"Ġmiserable":49639,"ĠArrayAdapter":49640,"ĠparamString":49641,"Hom":49642,"_literals":49643,"usuarios":49644,"Ġprompting":49645,"_lazy":49646,"ĠActivation":49647,"_oc":49648,"Weak":49649,"Ġanecd":49650,"ĠUCLA":49651,"=re":49652,"issement":49653,"ĠEscorts":49654,"Excellent":49655,"ĠPause":49656,"Ġrepositories":49657,"TOR":49658,"ariate":49659,"_iso":49660,"updates":49661,"halb":49662,"udiante":49663,"ë¡Ŀ":49664,"Ġnaive":49665,"ĠPeg":49666,"ĠLounge":49667,"ARGIN":49668,"(bin":49669,"OnClickListener":49670,"ĠFAILED":49671,"Ġlite":49672,"Ġdzie":49673,"ĠLiteral":49674,"ivor":49675,"fcntl":49676,"Ġeats":49677,"Ġqed":49678,"Unlock":49679,"riding":49680,"undai":49681,"=M":49682,"ATTER":49683,"ConfigureAwait":49684,"icias":49685,"ustomed":49686,"Ġsuccession":49687,"endTime":49688,"ĠJupiter":49689,"Ġjudging":49690,"dration":49691,"_docs":49692,".mo":49693,"Ġeducators":49694,"ĠVine":49695,"Cond":49696,"[out":49697,"qb":49698,"\\Validator":49699,"Ġmeanings":49700,"Ġpresently":49701,"Ġdividing":49702,"ottenham":49703,"ascular":49704,"Ġtrailers":49705,"ĠCLOSE":49706,"ами":49707,"âĢĻai":49708,"ĠGain":49709,"wor":49710,"Ġplanner":49711,"Ġdistributing":49712,"vat":49713,"months":49714,"xlabel":49715,"HF":49716,"Viol":49717,".BASELINE":49718,"еÑĤÑģÑı":49719,"ĠRotate":49720,"Ġtxn":49721,":bold":49722,"Ġbloss":49723,"Forgery":49724,"(embed":49725,"Ġjako":49726,"sprintf":49727,"their":49728,"Ġexhibits":49729,"-static":49730,"hecy":49731,"getActiveSheet":49732,".clients":49733,"ãģį":49734,"_hide":49735,"[word":49736,"Cb":49737,"addItem":49738,"axe":49739,"_radio":49740,"alion":49741,"modifier":49742,"Ġsaturation":49743,"Ġdenom":49744,"_pixels":49745,"mess":49746,"(fl":49747,"atif":49748,"Ġsecs":49749,"Ġprostitution":49750,"Ġgrandchildren":49751,"Ġparadise":49752,"ĠFeld":49753,"_BINARY":49754,"itous":49755,"à¹Ħ":49756,"Ġflashing":49757,"-sided":49758,"Ġcontradiction":49759,"/*ĊĊ":49760,"ylabel":49761,"ĠTet":49762,"Ġadmire":49763,"reso":49764,"Ġletz":49765,"ĠSEARCH":49766,"slots":49767,"ĠRewards":49768,"ĠHog":49769,"ĠNSData":49770,"stash":49771,"Fall":49772,"ĠAmer":49773,"LinearLayout":49774,"/photos":49775,"Ġfeather":49776,"Ġ|čĊ":49777,"Downloads":49778,".StartsWith":49779,"Ġ//#":49780,"ineTransform":49781,"Ġaffid":49782,"Vtbl":49783,"ĠRogue":49784,"scribed":49785,"Ġfauc":49786,"ĠMonroe":49787,"Ġdeclares":49788,"modern":49789,"reon":49790,"aybe":49791,"PASS":49792,"fers":49793,"_MULTI":49794,"ĠMathematics":49795,"Ġsudah":49796,"_ATTACH":49797,"ĠnumberWith":49798,"ĠSolomon":49799,"jin":49800,"ografia":49801,"öl":49802,"_design":49803,"culated":49804,"ĠLuna":49805,"iesz":49806,"Ġ=>'":49807,"Ġrevelations":49808,"Along":49809,"(ed":49810,"ĠFilename":49811,"Ġylabel":49812,"Secure":49813,"Ġbusca":49814,"agnosis":49815,"_RECE":49816,"Ġoverlapping":49817,"Extent":49818,"Ġanticipation":49819,"Checks":49820,"ĠALSO":49821,"orc":49822,"ilingual":49823,"itational":49824,"Ġadvancement":49825,"ouro":49826,"ĠPredicate":49827,"å¾Ĺ":49828,"eria":49829,"ĠPierce":49830,"orio":49831,"Ġmerits":49832,"Ġpeanut":49833,".Package":49834,"ĠConduct":49835,"_SENSOR":49836,"Ġboiling":49837,"Ġintra":49838,"ĠIGN":49839,"ĠFur":49840,".Refresh":49841,"ĠReach":49842,"_decoder":49843,".Exp":49844,"ĠÑĤак":49845,"pill":49846,",Q":49847,"ĠGrill":49848,"Ġpopping":49849,".Ag":49850,"Ġproyecto":49851,"Ġmileage":49852,"Ġecological":49853,"]]);Ċ":49854,"ĠÂŃ":49855,"subplot":49856,"acad":49857,"ĠTrying":49858,"recipes":49859,"$criteria":49860,"ĠPersian":49861,"-bound":49862,"MASK":49863,"ĠGesture":49864,"Ġkk":49865,"ĠPVC":49866,"Ġprohibition":49867,"Ġcomando":49868,"ĠLOOK":49869,"Shopping":49870,"Ġdistortion":49871,"čĊ":49917,".Dependency":49918,".QueryString":49919,".Owner":49920,"Ġexpiry":49921,"Thu":49922,"(Vec":49923,"Ġhazardous":49924,"Ġrpm":49925,"APON":49926,"ĠaddTarget":49927,"sville":49928,"pNet":49929,"ĠImg":49930,"ĠTIMER":49931,".Animation":49932,"Ġbek":49933,"Ġassort":49934,"Ġlebih":49935,"ĠbodyParser":49936,"Ġvibrating":49937,"IDL":49938,"Ġbutterknife":49939,"inters":49940,"Ġpersuade":49941,"ĠLGBTQ":49942,"èĭ":49943,".soft":49944,"Ġbeams":49945,"_sur":49946,".Def":49947,"Ġlabs":49948,"ĉplt":49949,"Ġskins":49950,"Ġtransferring":49951,"Ġimaginary":49952,"_End":49953,";background":49954,"Ġlaps":49955,"_COMMENT":49956,"(SDL":49957,"onds":49958,".Record":49959,"ĠImplements":49960,"_ticks":49961,"()))ĊĊ":49962,"Ġarose":49963,"]?":49964,"ĠMp":49965,"ĠICommand":49966,"Ġsculpture":49967,"Ġcontracted":49968,"\">'":50446,"kinson":50447,"Ġкол":50448,"ognitive":50449,"_li":50450,"Ġimminent":50451,"Ġaffinity":50452,".signal":50453,"Ġnotch":50454,"ĠSteelers":50455,"maxlength":50456,"KK":50457,"ĠEugene":50458,"_PWM":50459,"roi":50460,"ĠâĹı":50461,"ĠHamburg":50462,".Must":50463,"Ġaxe":50464,"enef":50465,"Ġambitions":50466,"ĠSpecies":50467,"ĠStress":50468,"Ġawhile":50469,"ĠбÑĥд":50470,"Ġwithstand":50471,"ĠDecoder":50472,"_inventory":50473,"Ġ{ččĊ":50474,"Ġtgt":50475,"Ġrailroad":50476,"WASHINGTON":50477,"Ġnegotiated":50478,"NST":50479,"-phone":50480,",U":50481,"Ġexercising":50482,"ụ":50483,"_PIXEL":50484,"avors":50485,"iterated":50486,"Ġvampire":50487,"adal":50488,"Ingrese":50489,"Ġung":50490,"jective":50491,".cells":50492,"Ġnano":50493,"Ġmarkdown":50494,"_RULE":50495,"(events":50496,"Ġluggage":50497,"MESSAGE":50498,"igkeit":50499,"$count":50500,"AttributeName":50501,"IGINAL":50502,"_Ent":50503,"ĠBF":50504,"ĠCOMMENT":50505,"_ini":50506,"ĠEuropeans":50507,"ĠBelle":50508,"åij½":50509,")['":50510,"åºĶ":50511,"ĠUseful":50512,".reference":50513,"()\",":50514,"_grade":50515,"ĠKaw":50516,"Ġsentencing":50517,"Ġsocialism":50518,"monster":50519,"_LAYER":50520,"Ġdeepest":50521,"wk":50522,"ĠNoise":50523,"###ĊĊ":50524,"Ġpréc":50525,"otle":50526,"ÑĤе":50527,"auf":50528,"ibal":50529,"Ġconquer":50530,">Email":50531,"Ġambulance":50532,"OAD":50533,"Ġ(\"%":50534,"ĠFI":50535,".fixture":50536,"Ġterse":50537,"ĠĠĠĠĉĉĉĉ":50538,"Ġsanctuary":50539,"ugi":50540,"ĠComparator":50541,"Definitions":50542,"Ġasthma":50543,"Ġlact":50544,"Ġhardwood":50545,".clock":50546,"Ġattracting":50547,"ĠMour":50548,"(distance":50549,"icits":50550,"Ġbonne":50551,"ĠACCESS":50552,".DeserializeObject":50553,"ĠTyped":50554,"Ġjeu":50555,"ĠappId":50556,"ĠClara":50557,"ĠHF":50558,"ĠReich":50559,"ipples":50560,"//--------------------------------------------------------------------------------":50561,"_delivery":50562,"erialization":50563,"Ġplaintiffs":50564,"Scient":50565,"shopping":50566,"ĠDummy":50567,"ĠWald":50568,"GroupName":50569,"Ġinscription":50570,"elog":50571,"::::::::":50572,"_ld":50573,"BackPressed":50574,".Raw":50575,"ĠOnTrigger":50576,"Ġmuseums":50577,"ĠBeen":50578,"ĠAdventures":50579,"Ġslate":50580,"Ġlett":50581,"Ġsund":50582,"ĠGin":50583,"ĠMechanical":50584,".ship":50585,"AppComponent":50586,"Ġdestined":50587,"Ġdwelling":50588,"Profiler":50589,"Prepare":50590,"zeich":50591,"Ġsilicon":50592,"(has":50593,"Ġ#%":50594,"VIDEO":50595,"Ġcollaborate":50596,"Lin":50597,"Ġscopes":50598,"(className":50599,"(sd":50600,"andin":50601,".ham":50602,"ServiceImpl":50603,"-described":50604,"Ġirony":50605,"stial":50606,"ĠHuawei":50607,"(repo":50608,"Ġunexpectedly":50609,"ĠKai":50610,".install":50611,"\\xf":50612,"Ġexhibited":50613,"_TCP":50614,"ĠOx":50615,"_CHO":50616,"Ġprostituerte":50617,"Ġvä":50618,"Ġsito":50619,"Ġconstituents":50620,"ĠContinued":50621,"ĠSAVE":50622,"rss":50623,"/message":50624,"ubes":50625,"Ġmisdemean":50626,"Ġtaxation":50627,"Ġstoryline":50628,"hair":50629,"ĠFinds":50630,"SIG":50631,"verification":50632,"~=":50633,".hp":50634,"Iterable":50635,"Ñĭе":50636,"atori":50637,"Ġctr":50638,"Rx":50639,"_);ĊĊ":50640,"dag":50641,".pin":50642,"Ġpseud":50643,"Ġinvo":50644,"ÑģÑĤÑĢ":50645,"_pix":50646,"为空":50647,"Ġsworn":50648,"âĢĶor":50649,"_registry":50650,"Ġdisasters":50651,"ĠROI":50652,"ĠâĢķ":50653,"aktu":50654,"forest":50655,"beiten":50656,"âĢĶI":50657,"ueva":50658,"egt":50659,"Ġspikes":50660,"URES":50661,"ĠRecommended":50662,"Ġexploited":50663,"ĠFrederick":50664,"_COMPLETE":50665,"ĠDrugs":50666,"!!!!!!!!":50667,"ĠRiv":50668,"STOP":50669,"ROOM":50670,"ĠPASSWORD":50671,"Cookies":50672,".El":50673,"á»Ń":50674,"ĠBert":50675,"Ġhashed":50676,"icester":50677,"Ġdecorator":50678,"ĠqueryString":50679,":;Ċ":50680,"Ġ\"[\"":50681,"otope":50682,"-Americ":50683,"ĠMatthews":50684,"URAL":50685,"âĢľ,":50686,"Summer":50687,"fos":50688,"_CONTAINER":50689,"_ACK":50690,"Ġfiltr":50691,"_disp":50692,"_Re":50693,"Ġfacile":50694,"аÑĪ":50695,"ĠìķĬ":50696,"Ġeben":50697,"Ġsprink":50698,"ĠQuint":50699,">V":50700,"Ġhistorians":50701,"ourmet":50702,"ĠMonitoring":50703,"ledger":50704,"cott":50705,"Ġware":50706,"GGLE":50707,"cars":50708,"ĠMEDIATEK":50709,"Ġvolupt":50710,"_View":50711,"HEL":50712,"(copy":50713,"(stats":50714,"Ġchromosome":50715,"ĠCurtis":50716,"-conf":50717,"(asset":50718,"Ġhvor":50719,"FileSystem":50720,"<>();čĊ":50721,"ocoder":50722,"ĠCannon":50723,")x":50724,"ĠSmooth":50725,"ĠSAS":50726,"_ce":50727,"ĉprev":50728,"_movie":50729,"Ec":50730,"_wall":50731,".ĊĊ":51278,"ogenesis":51279,"ĠOPTIONS":51280,"uptools":51281,"Ġmilitant":51282,"Ġexited":51283,"igar":51284,"ĠCOMM":51285,"ĠDisposable":51286,"aycast":51287,"Ġrowspan":51288,"Ġsynthes":51289,"Ġsondern":51290,"ĠĊ":54769,"ĠJacket":54770,"RATION":54771,".getSelectedItem":54772,"-init":54773,"ĠRegisters":54774,"_sep":54775,"ĠToolkit":54776,".dict":54777,"Ġxlabel":54778,"\\Table":54779,"toc":54780,"_combo":54781,"ĠCompact":54782,"Ġrugged":54783,"à¥ĩà¤":54784,"-management":54785,"')}}\">Ċ":54786,"ĠStamp":54787,"ıl":54788,"rox":54789,"Ġlandscapes":54790,"_NOTE":54791,"monary":54792,"cab":54793,"Ġmoet":54794,"xaf":54795,"rcode":54796,"-cli":54797,"_gate":54798,"[event":54799,"SPORT":54800,"gia":54801,"ĠSUPER":54802,"/Login":54803,"_shutdown":54804,"interrupt":54805,"Ġpretending":54806,"Ġfringe":54807,"ĠReds":54808,"ĠCUDA":54809,"ĠUNIX":54810,"vit":54811,"Ġbrig":54812,"drv":54813,"ĠConnector":54814,"Therefore":54815,"Ġlia":54816,"Detection":54817,"_actor":54818,"Ġtempfile":54819,"Ġeccentric":54820,"-role":54821,"Ġpadx":54822,"dent":54823,"Western":54824,"Ġê·¸":54825,"ĠApplicationRecord":54826,"Ġcampaigning":54827,"_runner":54828,"ĠCivic":54829,"aleigh":54830,"Ġdirekt":54831,".sul":54832,"ĠĠĉĉĉ":54833,"anten":54834,"Ġissuer":54835,"Ġassertions":54836,"(orig":54837,"ATIO":54838,"Ġleaned":54839,"äs":54840,".DTO":54841,"explode":54842,".Observable":54843,"Ġstaggering":54844,"Ġkidnapped":54845,"Ġprogrammers":54846,"ĠInnov":54847,".parameter":54848,"Ġdomination":54849,"Ġskeptic":54850,"Ġæĺ¯":54851,"Ġavoids":54852,".Verify":54853,"ubby":54854,"ĠASN":54855,"Ġformato":54856,"ĠBeatles":54857,"_brand":54858,"Ġinset":54859,"youtu":54860,"Ġtoc":54861,"-final":54862,"Showing":54863,"ĠDoub":54864,"ĠMesa":54865,"Adj":54866,"_medium":54867,"Creates":54868,"(endpoint":54869,"ĉUP":54870,"bbie":54871,"Ġstalk":54872,".databind":54873,".Scan":54874,"agents":54875,"$,":54876,"individual":54877,"+)/":54878,"ĉvm":54879,"(notification":54880,"Ġinex":54881,"ĠClassification":54882,"reno":54883,"Ġolig":54884,"-rated":54885,"Ġformulation":54886,"',{":54887,"Ġacept":54888,"_unpack":54889,"_CA":54890,".Pow":54891,"ĉim":54892,"Ġaluminium":54893,"ANO":54894,"Ġxn":54895,"Ġcómo":54896,"ĠIngredient":54897,"Ġseizures":54898,"åħ±":54899,"ificador":54900,"Ġsiguiente":54901,"ĠInfragistics":54902,"Ġduplicated":54903,"ĠDee":54904,"Ġnø":54905,"ĠACCEPT":54906,"(crate":54907,"иÑĤелÑĮ":54908,"-less":54909,"Ġinfinity":54910,"Analyzer":54911,"-Day":54912,"ritt":54913,"(cin":54914,"ĠGy":54915,"Ġmultiplied":54916,"uchi":54917,"ĠBaldwin":54918,"/ip":54919,"Ġshortcuts":54920,".ADD":54921,"Ġvigor":54922,"_instruction":54923,"(;":54924,"_eta":54925,"è¿ŀ":54926,"utorials":54927,"Ġboosting":54928,"bv":54929,"Ġacknowledges":54930,"Listening":54931,"FAQ":54932,";b":54933,"((-":54934,"Ġarchitects":54935,"Ġzwe":54936,"Ġpuls":54937,"ĠgetCount":54938,"verbs":54939,"ãĢľ":54940,"(Collection":54941,"kre":54942,"Ġjurisdictions":54943,"_bridge":54944,"ĠCrack":54945,"ĠDifficulty":54946,"KO":54947,"Reservation":54948,"_requires":54949,"Tour":54950,"ãģĹãģŁ":54951,".setCurrent":54952,"Ġky":54953,"ĠAlbany":54954,"Ġè§":54955,"ller":54956,"agna":54957,"workers":54958,".blank":54959,"ĠPrayer":54960,"MIC":54961,"Ġresilience":54962,"TeX":54963,"ĠLanguages":54964,"study":54965,"ĉcurr":54966,"Ġenzymes":54967,"Slug":54968,"ĠíĮĮ":54969,"stral":54970,"Ġtumors":54971,"Ġsegunda":54972,"='{":54973,"instruction":54974,"ĠLisp":54975,"/info":54976,"Ġ\"{$":54977,",:),":54978,"Ġgv":54979,"(ErrorMessage":54980,"Ġ'=":54981,"}-${":54982,".Documents":54983,"\"Well":54984,"Ġreminiscent":54985,"Ġgaz":54986,"iropr":54987,"ehr":54988,"Ġsuppressed":54989,"ersh":54990,".scrollTo":54991,"Ġcadena":54992,"ĠgameState":54993,"ÃŃm":54994,"(conv":54995,"ĠTomorrow":54996,"ĠCCT":54997,"Mongo":54998,"ulg":54999,".Camera":55000,".handlers":55001,"mph":55002,"Ġstk":55003,"Ġgenetics":55004,"ACING":55005,"Trivia":55006,"ĠBam":55007,"(marker":55008,".Stretch":55009,"ĠSunni":55010,"ĠBetty":55011,".tolist":55012,"unlikely":55013,".Rectangle":55014,"obsolete":55015,"ILON":55016,"innerText":55017,"embourg":55018,"aN":55019,"ĠVehicles":55020,"unlock":55021,":utf":55022,"nob":55023,"ĠSeeing":55024,"ĠNEVER":55025,"Ġtls":55026,"Ġfilles":55027,"Ġbenefited":55028,"ĠClint":55029,"*/),":55030,".fold":55031,"Ġposible":55032,"ADED":55033,"thouse":55034,".DAL":55035,"ĠOdd":55036,"rokes":55037,"ĠSunny":55038,"ĠPartialEq":55039,"_Buffer":55040,"ĠLevi":55041,"longrightarrow":55042,"eldon":55043,"gages":55044,"_warn":55045,".CreateTable":55046,"ĠDip":55047,"_questions":55048,".logic":55049,"Ġ#\"":55050,"={()=>":55051,"Ġtep":55052,"Ġjuicy":55053,"ìĤ¬":55054,"enko":55055,"ialect":55056,"Ùī":55057,"Ġonboard":55058,"Ġæı":55059,"ĉrt":55060,"_UTF":55061,"ĠQAction":55062,"âĢŀ":55063,"(Component":55064,"(audio":55065,".hit":55066,"gte":55067,"Ġprogrammed":55068,"stateParams":55069,"Ġpolyester":55070,"fires":55071,"byss":55072,"]=(":55073,"_quality":55074,"OfDay":55075,"ĠFairy":55076,"Ġyelled":55077,"opl":55078,"(userName":55079,"ĠDifference":55080,"Ġevaluations":55081,"iffany":55082,"Ġcyclists":55083,"Ġcidade":55084,"Ġtextbook":55085,"Ġprofiling":55086,"__),":55087,"dea":55088,".activate":55089,"Ġindications":55090,"Ðķ":55091,"TouchUpInside":55092,"Ġinvaluable":55093,"ĠMASK":55094,"Ġcontend":55095,"Freq":55096,"Ġrecruits":55097,"(interval":55098,"ĠUserProfile":55099,"Ġ'./../":55100,"edu":55101,"_Callback":55102,"Ġanalogy":55103,"ĠTrophy":55104,"apphire":55105,"Videos":55106,"ĠCher":55107,"ĠHav":55108,"â̦\"":55109,".validator":55110,"gfx":55111,"ĠUObject":55112,"classnames":55113,"triangle":55114,"ĠEncoder":55115,".spy":55116,"Ġpredators":55117,"=status":55118,"-safe":55119,":\",Ċ":55120,"ĠIncluding":55121,"Ġ{};čĊ":55122,"*cos":55123,"Ġendured":55124,".sulake":55125,"Ġnursery":55126,"Ġfragrance":55127,"Ġrebuilding":55128,"Ġnth":55129,"ĠFraser":55130,".setDate":55131,"ĠVince":55132,"_REST":55133,"Ġventilation":55134,"æµ·":55135,"cribes":55136,".asm":55137,"lpVtbl":55138,"ĠAbe":55139,"uisine":55140,",array":55141,"ĉclassName":55142,"errals":55143,"Ġ'ĊĊ":55144,"Checkout":55145,"Ġsolicit":55146,"Aux":55147,"_capture":55148,"Ġribs":55149,"ragon":55150,"viol":55151,"topics":55152,"FunctionFlags":55153,"ĠMarty":55154,"bike":55155,"ĠTucker":55156,"(kernel":55157,"ĠOps":55158,"CloseOperation":55159,"/demo":55160,"ilda":55161,"ĠlÃŃnea":55162,"APPING":55163,"Ġsuites":55164,".visitVarInsn":55165,"urus":55166,"ĠMinute":55167,"(manager":55168,"Ġbutterfly":55169,"Ġapare":55170,"Ġwolves":55171,"JWT":55172,"ĠSalon":55173,"ĉdelay":55174,"-eslint":55175,"isations":55176,".rpc":55177,")|(":55178,"ĠSnapchat":55179,"/mm":55180,"MN":55181,"ceries":55182,".textAlignment":55183,"ĠFrankfurt":55184,"Ġado":55185,"(newValue":55186,"(access":55187,"(Expression":55188,"ĠSignIn":55189,"ĠHaiti":55190,"_tp":55191,".setParameter":55192,"Minute":55193,"Ġmanuals":55194,"ricanes":55195,"ĠPTR":55196,"ĠOuter":55197,"Ġgetline":55198,"ocations":55199,"_CD":55200,"ĠLyon":55201,"/gui":55202,"_live":55203,"idan":55204,".geom":55205,"ĠborderBottom":55206,"imuth":55207,"_checkpoint":55208,"Ġmeu":55209,"ĠIrving":55210,"Ġpeuvent":55211,"(MAX":55212,"ĠARCH":55213,"Ġpov":55214,".sourceforge":55215,"Ġjamais":55216,"Ġark":55217,"ĠBaghdad":55218,"ĠCLEAR":55219,"MenuBar":55220,"Ġtrois":55221,"CHEDULE":55222,"Ġ#čĊ":55223,"(Call":55224,"$order":55225,"(Material":55226,"Ġencontrado":55227,"$list":55228,"ĠMETHODS":55229,".beginTransaction":55230,"_MAG":55231,"StyleSheet":55232,"Ġmajors":55233,"Ġindefinitely":55234,"cleanup":55235,"Ġhomeland":55236,"(dto":55237,"Dates":55238,"Presentation":55239,"ĠDK":55240,"={`/":55241,"ĉKey":55242,"(Block":55243,"_checkbox":55244,"needs":55245,"ĠonComplete":55246,"rico":55247,"Ġgleich":55248,"Ġxm":55249,"OOD":55250,"Better":55251,"ĠSQLITE":55252,".Book":55253,"xad":55254,"ĠGone":55255,"ĉdp":55256,"Ġdevotion":55257,"Ġstm":55258,"Ġobsess":55259,"ĠBackend":55260,"Queries":55261,"Ik":55262,"//****************************************************************":55263,"Ġdividends":55264,".parentElement":55265,"}\")ĊĊ":55266,"ĠMaterialPageRoute":55267,":num":55268,"Ġexplic":55269,"ĠOL":55270,"least":55271,"Oops":55272,"imentos":55273,"Ġinsurers":55274,"Ġheroic":55275,"ĉfields":55276,".imgur":55277,".btnCancel":55278,"ĠDetective":55279,"(sm":55280,"ĠMutableLiveData":55281,".lab":55282,"(([":55283,"Ġhairst":55284,"ĠTransactions":55285,"å¼Ģå§ĭ":55286,"ĠstdClass":55287,"uento":55288,"GIS":55289,"_cod":55290,"Instructions":55291,"Calls":55292,"PointerType":55293,"ĠRw":55294,"Ġassortment":55295,"ĠDIG":55296,"+r":55297,"_CERT":55298,"Ġinstability":55299,"Ġvib":55300,"onas":55301,"Ġroku":55302,"apellido":55303,"Ġangl":55304,"preneur":55305,"Ġfluids":55306,"isease":55307,"Ġdeed":55308,"quist":55309,"_CONSTANT":55310,"Ġequilibrium":55311,"_delegate":55312,"ĠQuantum":55313,"rei":55314,"Capabilities":55315,"rectangle":55316,"?><":55317,"alien":55318,"ĠJug":55319,"DNA":55320,"Tickets":55321,"Occurs":55322,"ĠHawk":55323,".setHorizontalGroup":55324,"\\Collection":55325,"ffiti":55326,"Ġrearr":55327,".setVerticalGroup":55328,"Ġcavity":55329,"Ġadulte":55330,"Facade":55331,"-wh":55332,"ĠLOL":55333,"ذ":55334,"Ġgrandparents":55335,"Swift":55336,"ĉwx":55337,"æīĢæľī":55338,"ifen":55339,"ffset":55340,"Beyond":55341,"//}ĊĊ":55342,"Ġwager":55343,"Ġbury":55344,"Ġcommence":55345,"registro":55346,"scient":55347,"ĠPercent":55348,"Ġдолж":55349,"(identifier":55350,".setModel":55351,"Ġseldom":55352,"nton":55353,"Ġappliance":55354,"amus":55355,"rysler":55356,"Ġpanties":55357,"enguins":55358,"Ġmimic":55359,"ĠonChanged":55360,"Ġalcoholic":55361,".reloadData":55362,"Charge":55363,"ĠFax":55364,"ĠjScrollPane":55365,"Empresa":55366,"Ġshattered":55367,"xba":55368,"Fonts":55369,"?s":55370,"Ġpostseason":55371,"retain":55372,"_rates":55373,"ĠrequestCode":55374,".todo":55375,"´s":55376,"CHK":55377,"ĠKeeping":55378,"engeance":55379,"Ġvscode":55380,"IPPING":55381,"DefaultCloseOperation":55382,"_raise":55383,"ĠOculus":55384,"ograms":55385,"raj":55386,"pci":55387,"Ġcorrosion":55388,".handleSubmit":55389,"Accessible":55390,"ĠPiano":55391,"little":55392,"ACL":55393,"Äĩe":55394,".unwrap":55395,"ĠConvers":55396,"ĠLeben":55397,"ioneer":55398,"ĠMerchant":55399,"ĠJorge":55400,"Ġembracing":55401,"Ġventa":55402,"ást":55403,"Ġviene":55404,"Ċ":55556,"-growing":55557,"Ġdeepcopy":55558,"Ack":55559,"eggies":55560,"Ġ__(\"":55561,"Ġnoir":55562,"terrorism":55563,"Ġanthem":55564,"agency":55565,"_PACKAGE":55566,"ĠClosure":55567,".registry":55568,"Ġmammals":55569,"L":55600,"Ġbluetooth":55601,".Deep":55602,"-standing":55603,"ácil":55604,"Ġrooft":55605,"ĠPaths":55606,"_iterations":55607,"InvalidArgumentException":55608,".spi":55609,"ĠUIAlertAction":55610,"uye":55611,"signin":55612,".priority":55613,"ĠEssays":55614,"='{$":55615,"Ġè¿ĶåĽŀ":55616,"_signed":55617,".persist":55618,"Ġredesign":55619,"ToLower":55620,"ĠNewman":55621,"=start":55622,"ĠIsraelis":55623,"asiswa":55624,"Speech":55625,"Ġnumeros":55626,"handlers":55627,"ĠWong":55628,"ĠмеÑĤод":55629,"Weights":55630,"ĠGujar":55631,"teil":55632,"ĠNonetheless":55633,"_EFFECT":55634,"Ġvect":55635,"ĠOsc":55636,"Ġcoats":55637,"ĠWheat":55638,"Ġgeek":55639,"ĠPROPERTY":55640,"worm":55641,"_constants":55642,"ĠBoulder":55643,"ĠParm":55644,"cole":55645,"ĠdefaultCenter":55646,"ĠRouge":55647,":A":55648,"xcf":55649,"ĠVenice":55650,"median":55651,"Ġredemption":55652,"Fresh":55653,"Ġcosm":55654,"Ġfigur":55655,"Ġrefurb":55656,"COPE":55657,".cd":55658,"Ġchords":55659,"ĠSgt":55660,"Åį":55661,"VPN":55662,"ĠSEND":55663,"ainen":55664,"_accounts":55665,"Ġtenth":55666,"Ġdissolved":55667,"":55907,"Ġlegitimacy":55908,"Ġoo":55909,"Slinky":55910,"Ġnationals":55911,".words":55912,";p":55913,"trap":55914,"omanip":55915,"Ġcues":55916,"Ġgraduating":55917,"Ġsemaphore":55918,"\"]);ĊĊ":55919,"acey":55920,"REET":55921,"Grab":55922,"ĠFelix":55923,"(Id":55924,"_neighbors":55925,"Ġmeaningless":55926,"(del":55927,"Ġjeder":55928,"ĠContentValues":55929,".absolute":55930,"/cl":55931,"Ġxb":55932,"datum":55933,"Ġtortured":55934,"Ġrubbing":55935,"Scores":55936,"ĠðŁĺī":55937,"Ġavons":55938,"Ġamsterdam":55939,"EOS":55940,"Hal":55941,"Ġtrustworthy":55942,"#=":55943,".EXTRA":55944,"Ġmano":55945,"isicing":55946,"-support":55947,"ĉcursor":55948,"ĠSpo":55949,"aimassage":55950,"Mission":55951,"[]{\"":55952,"Ġprinters":55953,"GREEN":55954,"Ġteg":55955,"Ġabdominal":55956,"!ĊĊĊĊĊĊ":55957,".Short":55958,"азв":55959,"ĠGifts":55960,"}\")":55961,"(binding":55962,"xce":55963,"âĢij":55964,"infos":55965,"FormData":55966,"Ġdart":55967,"Ġelems":55968,"(inv":55969,"YL":55970,"tin":55971,"GENER":55972,"ữ":55973,"ĠTaken":55974,"uckle":55975,":e":55976,"Ġspectral":55977,".baidu":55978,"/');Ċ":55979,"Ġgreedy":55980,"esion":55981,",,,,,,,,":55982,"Ġ/>,Ċ":55983,"InternalServerError":55984,"NSNotificationCenter":55985,"ĠAi":55986,"Ġspit":55987,"Ġaugmented":55988,"ĠstandardUserDefaults":55989,"FINITY":55990,"Race":55991,":C":55992,"ĠRECORD":55993,"ĠHighlight":55994,"Ġ'`":55995,"Ġdeficits":55996,"Ġnei":55997,"Ġresearched":55998,"Ta":55999,"Ġcopp":56000,".GetHashCode":56001,"):čĊčĊ":56002,"OnClick":56003,"ĠWellington":56004,"Ġrevival":56005,"æ¯Ķ":56006,"éĹ®":56007,"ĠNSS":56008,"Ġforn":56009,"Ġinté":56010,"ĠKuwait":56011,"_flip":56012,"_bo":56013,"_\\":56014,"Ġoccurrences":56015,"ĠScientists":56016,"SRC":56017,"ogens":56018,"igrant":56019,"REMOTE":56020,"ĠSID":56021,".opts":56022,"uve":56023,"()])Ċ":56024,"Ġlibertarian":56025,"ĠGlide":56026,"lesen":56027,"Ġforme":56028,"owania":56029,"Ġannoyed":56030,"Defs":56031,"ĠExecutor":56032,"Ġcasts":56033,".setChecked":56034,"ĠSharing":56035,".SerializeObject":56036,"Ġselectors":56037,"_OTHER":56038,"미":56039,"(super":56040,"(OS":56041,"_VERIFY":56042,"idunt":56043,"';Ċ":56045,"Ġvidéo":56046,"ĠNegro":56047,"ĠLords":56048,"ĠTours":56049,"Ġsoftly":56050,".receive":56051,"ĠERC":56052,"ĠdataSet":56053,"Badge":56054,"ĉEvent":56055,"Ġperl":56056,"Ġ{}\\":56057,"(sentence":56058,"OrUpdate":56059,"Ġdiminish":56060,"PIN":56061,"(draw":56062,".ToDateTime":56063,".EqualTo":56064,"(pin":56065,"-pencil":56066,"luent":56067,"ĠCaller":56068,"Ġplayful":56069,"-'+":56070,"xca":56071,"swick":56072,"){}Ċ":56073,"}:${":56074,"ĠMeth":56075,".getCell":56076,".break":56077,"Ġymax":56078,"='Ċ":56291,"ĠHiro":56292,"(TRUE":56293,"asurer":56294,"Ġcuer":56295,"Uber":56296,".Operation":56297,"Ġolan":56298,"Ġthrilling":56299,"'.":56321,"ĉvalid":56322,"\"\",":56323,"Instrument":56324,">J":56325,"Ġnostr":56326,"ĠRift":56327,"_Port":56328,"Ġveces":56329,"[['":56330,"Ġrallies":56331,"-series":56332,"Ġvv":56333,".uc":56334,"Ġrtn":56335,"StateChanged":56336,"(ins":56337,"ĠCla":56338,"------------Ċ":56339,"cus":56340,"ĠReload":56341,"//------------------------------------------------------------------------------------------------":56342,".seconds":56343,"_destination":56344,"Ġscrewed":56345,">c":56346,"Thickness":56347,"Designer":56348,"Ġgrids":56349,"nÄħ":56350,"(cookie":56351,"Trip":56352,"-Mobile":56353,"Ġvoll":56354,"Ġgenital":56355,"Ġconfisc":56356,"ĠConfederate":56357,"ĠwebView":56358,"Ġmise":56359,"Ġcler":56360,"(selection":56361,"$date":56362,"Ġsharpen":56363,"ragen":56364,"AndUpdate":56365,"Ġremix":56366,"Ġhtons":56367,"RW":56368,"MPI":56369,"Ġretrieval":56370,"Ġrichest":56371,".Decode":56372,":initComponents":56373,"ĠTValue":56374,"Saint":56375,"@include":56376,"ĠPERSON":56377,".sep":56378,"ĠLDAP":56379,"gba":56380,"ĠgroÃŁe":56381,"Ġreliably":56382,"ĠDFS":56383,".getItemId":56384,"Ġprésent":56385,".getToken":56386,"Ġchinese":56387,"ĠMeal":56388,"YOU":56389,"\">>ĊĊ":56948,"bower":56949,"Ġswapped":56950,"/install":56951,"Ġsinks":56952,"etrize":56953,"Ġdeclines":56954,"ĉmysql":56955,"ĠCString":56956,"ĠMotionEvent":56957,".Language":56958,"Road":56959,"ÑĤеÑĢ":56960,"ascimento":56961,"'))->":56962,".about":56963,"(editor":56964,"ĠRatings":56965,"income":56966,"Å¡e":56967,".dequeueReusableCell":56968,"ĠAustrian":56969,"Ġsulla":56970,"ĠTribunal":56971,"ĠDidn":56972,"оваÑĢ":56973,"Ġinspections":56974,"Boss":56975,"Ġcocktails":56976,"Ġapologized":56977,"_subplot":56978,"opal":56979,"+=(":56980,"Ġresonance":56981,"ibu":56982,"Ġ리":56983,"roma":56984,"reserve":56985,"pls":56986,"ĠTah":56987,"axies":56988,"OPLE":56989,"ĠDarren":56990,"ĠZombie":56991,"_Map":56992,"Ġ])ĊĊ":56993,"ĠQi":56994,"ĠSail":56995,"Ġrestrictive":56996,"Ġerosion":56997,"-par":56998,"WHITE":56999,"Ġoldu":57000,"Ġaperture":57001,"Ġbitcoins":57002,"texto":57003,"ĠComcast":57004,"Ġtimeless":57005,"enkins":57006,"Ġfeeder":57007,"/tmp":57008,"resden":57009,"+'_":57010,".Destroy":57011,"Ġçok":57012,"ĠDOCUMENT":57013,".lng":57014,".tagName":57015,"Ġkullan":57016,"egrate":57017,"Ġ(*.":57018,"ç¼ĸè¾ij":57019,"Ġhandshake":57020,"soc":57021,"_geometry":57022,"ĠDamascus":57023,"Minor":57024,"ĠKafka":57025,"ìŬ":57026,"Florida":57027,"_compute":57028,".expr":57029,"Ġparalle":57030,"ĠDiaz":57031,"cir":57032,"[target":57033,"Ġjoking":57034,"Ġglor":57035,"(setq":57036,"_handlers":57037,"Hang":57038,"Ġferr":57039,"riminal":57040,"ĉĠĠĠĠĉĉ":57041,"enties":57042,"defines":57043,"-tax":57044,"jsonp":57045,"ĠUPS":57046,"metro":57047,"__;Ċ":57048,"ĠUganda":57049,"])):Ċ":57050,"_td":57051,"xae":57052,"lw":57053,".OS":57054,"ĠLogged":57055,"acid":57056,"ĠMayo":57057,"aspect":57058,"Ġvaginal":57059,"Ġinitializing":57060,"Ġsteroids":57061,"fiction":57062,"GRE":57063,"gend":57064,"Ġliabilities":57065,"ĠLets":57066,"Mech":57067,"(nc":57068,"(change":57069,"Ġconnectors":57070,":k":57071,"Ġtast":57072,"!\");ĊĊ":57073,"things":57074,"rophy":57075,"luetooth":57076,"ĠSignUp":57077,".ctrl":57078,"Ġtherein":57079,"orda":57080,".escape":57081,"igator":57082,"Ġpetrol":57083,"Ġspecimen":57084,"Ġdebuted":57085,"-Pro":57086,"Ġcrises":57087,".addView":57088,"ëıĻ":57089,"-door":57090,"Ġmonet":57091,"Ġmillis":57092,"Ġvier":57093,"InternalEnumerator":57094,"Ġadmins":57095,"ĠLair":57096,"zin":57097,"getQuery":57098,"umbles":57099,"LIMIT":57100,"ĠVig":57101,"_song":57102,"":57415,"Ġpasado":57416,"thank":57417,"_Delete":57418,"ĠBrighton":57419,",unsigned":57420,"ä½ľèĢħ":57421,"Ġaspirations":57422,"-how":57423,"Rose":57424,"=((":57425,"_needed":57426,"_plural":57427,">ĊĊ":57545,"Ġsurfaced":57546,"ĠìłĢìŀ¥":57547,"platz":57548,"ĉemail":57549,"ceptors":57550,"\">(":57551,"Ġepile":57552,"读":57553,"ĠDebt":57554,"åijĬ":57555,"NOP":57556,"\"https":57557,":j":57558,"FormItem":57559,"_LICENSE":57560,".getDouble":57561,"ĠAgenda":57562,"ĉfinally":57563,"(filters":57564,"(av":57565,"ç¾İ":57566,"APER":57567,"Ġlava":57568,"еÑĢж":57569,"))))ĊĊ":57570,"Ġfaulty":57571,"_nm":57572,"Ġtrava":57573,"(Bitmap":57574,"Ġspeeding":57575,">').":57576,"Ġscreened":57577,"_roll":57578,"ĠMacBook":57579,"ĠAUD":57580,"Ġdiagnose":57581,".Generate":57582,"Ġ^^":57583,"Ġstrs":57584,"[Test":57585,"Ġransom":57586,"ĠDHCP":57587,"elden":57588,"Ġinterpretations":57589,"()].":57590,"flatMap":57591,"ĠlineHeight":57592,"_mount":57593,"ĠWizards":57594,"Ġsluts":57595,"ehler":57596,"odal":57597,"Ġmilitia":57598,"å²":57599,"earned":57600,"Ġmisery":57601,"intval":57602,"fund":57603,"Ġhides":57604,"Ġdiarr":57605,"ĠWesley":57606,"Ġxmm":57607,"Ġquem":57608,"ĠArabs":57609,"ifth":57610,"ategorized":57611,"Disposable":57612,"Pure":57613,"_NOTIFY":57614,"snippet":57615,"ĠGarrett":57616,".running":57617,".weights":57618,"Ġ(--":57619,"Ġinvariant":57620,"äºĭä»¶":57621,"ĠAllowed":57622,"dirs":57623,"Ġpassions":57624,"Ġlad":57625,"ĠFlush":57626,"menus":57627,":block":57628,"Ġcompra":57629,".chomp":57630,"allocator":57631,"Ġcurated":57632,"ĠKnowing":57633,"ĠPatterson":57634,"Ġtelah":57635,"'ex":57636,"Ġdoomed":57637,"Ġphilanth":57638,"otty":57639,".styles":57640,"Owned":57641,"Ġallergies":57642,"=params":57643,"ocese":57644,"itelist":57645,"ĠSending":57646,"bef":57647,"orrar":57648,"ĠNão":57649,"ĠFargo":57650,"ĠLub":57651,"ĠCombined":57652,"_given":57653,"ĉĉĉĉĉĠĠĠĠ":57654,"Ġreconciliation":57655,"Patterns":57656,"azard":57657,"Ġbiomass":57658,"ĠHouses":57659,"respuesta":57660,"cco":57661,"/topics":57662,"ĠYuk":57663,"Ġweakened":57664,"_calendar":57665,"Ġmulheres":57666,"ĠMarl":57667,"Ġsine":57668,"ĠTil":57669,"ĠSouls":57670,"ĠDeutsche":57671,"ĠFOLLOW":57672,"Ġpipelines":57673,"ĠBeverly":57674,"_DIPSETTING":57675,"\"#":57676,"ĠProto":57677,".big":57678,"ĠSavings":57679,"ĠTanz":57680,"jun":57681,"ĠGamma":57682,"ĠSadd":57683,"Ġadvisors":57684,"Ġroast":57685,"Ġunters":57686,"udies":57687,"_lon":57688,"-pointer":57689,"ĠElementRef":57690,"\\Builder":57691,"exampleInput":57692,".webdriver":57693,"dataType":57694,"ĠQuite":57695,"ĠCeltics":57696,"uil":57697,"-defense":57698,"bish":57699,"ĠUIWindow":57700,"ĠSuddenly":57701,".hot":57702,".reason":57703,"Ġgör":57704,"AMD":57705,".Multi":57706,"authenticated":57707,"regions":57708,";(":57709,"аÑĢам":57710,"ĠKirby":57711,"$route":57712,"PRECATED":57713,"ĠDurham":57714,"owo":57715,"ĠPerforms":57716,"Ġdisregard":57717,"nst":57718,"ĠPols":57719,"ĠgetP":57720,"\"]:":57721,"-colored":57722,"(Keys":57723,"ĠAlleg":57724,"_modify":57725,"_loading":57726,"strained":57727,"Ġatroc":57728,"_phr":57729,"":58721,"ceph":58722,".DateTimePicker":58723,".\";ĊĊ":58724,"ĠTie":58725,",item":58726,"Ġmenn":58727,"Gas":58728,"ocha":58729,"_virtual":58730,"Ġmasterpiece":58731,"_sequences":58732,"LTE":58733,"ĠSubmission":58734,"Caller":58735,"$\\":58736,"Sport":58737,"agus":58738,"ConstraintMaker":58739,"Ġcoloc":58740,"Ġwig":58741,"ĠУ":58742,"ĉArray":58743,"Looks":58744,"ĠGTA":58745,".steps":58746,"atchewan":58747,"_ranges":58748,"extAlignment":58749,"ĠBrennan":58750,"Ġabstraction":58751,"ulerAngles":58752,".misc":58753,"Ġantibodies":58754,"Ġexponential":58755,"ĠCHANNEL":58756,"expense":58757,"'y":58758,"Ġdetectives":58759,"Ġpurported":58760,"YSTEM":58761,"Ġradioactive":58762,"ĠLatina":58763,".Encoding":58764,".TAG":58765,"xin":58766,"Degree":58767,"uracion":58768,"prices":58769,"ĠReferentialAction":58770,"Ġrarity":58771,"Ġpiles":58772,"gende":58773,"_projects":58774,"_globals":58775,".startTime":58776,"Ġ구":58777,"SECTION":58778,"_publish":58779,"Fault":58780,"DDL":58781,"_prior":58782,"Mom":58783,"Ġthicker":58784,"Ġsequelize":58785,"Ġessentials":58786,"stras":58787,"intr":58788,">(()":58789,".management":58790,"eil":58791,"éĹŃ":58792,"Aware":58793,".City":58794,"ĠArbit":58795,"_DM":58796,"_keyboard":58797,"LObject":58798,"-webpack":58799,"ĠNewport":58800,"ĠprincipalColumn":58801,"legant":58802,"Ġpallet":58803,"Ġfracture":58804,"Ġgmail":58805,".Meta":58806,"Above":58807,".KeyEvent":58808,"jit":58809,"_macro":58810,"_PUSH":58811,"ứ":58812,"/controller":58813,"åĬłè½½":58814,"Ġsuperficial":58815,"exterity":58816,"Ġmensagem":58817,"Wind":58818,"iston":58819,".openapi":58820,"иÑĢов":58821,"ĠSerializer":58822,"uctive":58823,"Ġzar":58824,"Places":58825,".Static":58826,"Ba":58827,"Ġinadvert":58828,"ĠIndonesian":58829,"_IPV":58830,"(horizontal":58831,"ĠgetTitle":58832,"idepress":58833,"ĠConsoleColor":58834,"ipers":58835,"$out":58836,"Ġfestive":58837,"Ġevenings":58838,".GetData":58839,"uitka":58840,"ĠManuals":58841,"ussed":58842,"_Max":58843,".Chat":58844,"ĠAircraft":58845,"=com":58846,"FOUND":58847,"apro":58848,"Ġtreasures":58849,"_alive":58850,"Ġgadget":58851,"eking":58852,"ButtonDown":58853,"Browsable":58854,".PERMISSION":58855,"PASSWORD":58856,"ĠHASH":58857,"fé":58858,"\\TestCase":58859,"LOSS":58860,"others":58861,",J":58862,"Ġasshole":58863,"werk":58864,"Ġmã":58865,".ie":58866,"evil":58867,"kontakte":58868,"////////////////////////////////////////////////////////////////////////////////Ċ":58869,"=sys":58870,"ĉlock":58871,"--;ĊĊ":58872,"_FUN":58873,"FillColor":58874,"óa":58875,"prend":58876,"Ġcompressor":58877,"Mother":58878,"ĠArcher":58879,".goto":58880,"Ġwürde":58881,"Ġbamboo":58882,"ï¼İ":58883,"ĠTrees":58884,"Ġbumper":58885,"Ġsausage":58886,"ĠElasticsearch":58887,"Ġhorizontally":58888,"ĠGul":58889,"Immutable":58890,"Ġloser":58891,"Ġaborted":58892,"-demo":58893,"ĠHatch":58894,"Ġunde":58895,"Ġprocesso":58896,"-call":58897,"Income":58898,"åĥ":58899,"_returns":58900,"'].\"'":58901,"(sw":58902,"CBS":58903,"amilies":58904,"ĠYourself":58905,"ĠHolt":58906,".MON":58907,"à§ĩ":58908,"ÑĪе":58909,"anon":58910,"ĠFontAwesome":58911,"producer":58912,"jr":58913,"Ġmau":58914,"ĉinter":58915,"Ġdishonest":58916,"Ġmagna":58917,"ĠCollective":58918,"Ġvraiment":58919,"Ġchoix":58920,"stay":58921,"Ġwelding":58922,"rising":58923,",min":58924,"ĠFate":58925,"glob":58926,"RGBA":58927,"Ġdette":58928,"Ven":58929,"Ġembarrassment":58930,".DELETE":58931,"gregar":58932,"-render":58933,"(bucket":58934,"\">ĊĊĊ":58935,".waitKey":58936,"Busy":58937,"Ġdifferentiation":58938,"ĠCST":58939,".Constant":58940,"ĠlineNumber":58941,"(matches":58942,"Ġwebsocket":58943,"Ġbarred":58944,"Ġpuedes":58945,"Mono":58946,"CORE":58947,"IID":58948,"ĠĠĠĠčĊčĊ":58949,"Ġpúblico":58950,"leaning":58951,"Ġcleansing":58952,"Ġcris":58953,"ĠDevils":58954,"_SETTING":58955,"untary":58956,".);Ċ":58957,"ĊĠĠĠĊ":58958,"[curr":58959,"tsy":58960,"ĠAlexis":58961,"ritel":58962,"Ġpetroleum":58963,".preprocessing":58964,"matter":58965,"ForResult":58966,"-license":58967,"Ġtravellers":58968,"ĠDispatcher":58969,"ennifer":58970,"Ġdigestive":58971,"PED":58972,"hibition":58973,"MASConstraintMaker":58974,"ĠWatt":58975,"Benef":58976,".setView":58977,"dto":58978,"TEE":58979,"ĠPelosi":58980,"_EXTRA":58981,"Ġmedals":58982,"xhr":58983,"forecast":58984,"Ġnargin":58985,"ouns":58986,"-fill":58987,"_CURSOR":58988,"Ġsupervised":58989,"Ġturf":58990,"ĠEdgar":58991,"POSITION":58992,"ĠcategoryId":58993,"âī":58994,"_ER":58995,"á»§a":58996,"Shown":58997,".ll":58998,"_POLICY":58999,"(),'":59000,"ĠPrev":59001,"ĠStringField":59002,"ĉGlobal":59003,"assed":59004,"Throughout":59005,"ostringstream":59006,".awtextra":59007,"Ġslopes":59008,"ĠSequential":59009,"Ġgiorn":59010,"Ġzelf":59011,"Ġversatility":59012,"leneck":59013,".cgi":59014,"Ġdoubling":59015,"ĠBangkok":59016,"Ġbuurt":59017,"Ġusuário":59018,"studio":59019,"Ġjeunes":59020,"Ġmuted":59021,"Ġips":59022,"_fraction":59023,"&&(":59024,"Ġstunt":59025,"');?>čĊ":59049,"Ġevapor":59050,"bable":59051,"ĠPRICE":59052,"Ġæ³":59053,"lucent":59054,"Ġvamp":59055,"ĠTechnician":59056,"Ġuniqueness":59057,"Mes":59058,"urban":59059,".parametrize":59060,"ĠReplay":59061,"Sessions":59062,"embr":59063,"-Americans":59064,"_PROXY":59065,"Ġpian":59066,"Ġtrie":59067,"ĠDestructor":59068,"GameState":59069,"ĠIMF":59070,"chin":59071,"Ġporte":59072,"ĠSwal":59073,"åŁİ":59074,"Substring":59075,"iming":59076,"/Library":59077,"Ġfrightened":59078,"writes":59079,"Ġrecursos":59080,"arResult":59081,"_INITIALIZ":59082,"ĠBadge":59083,"_crc":59084,"Eight":59085,"ĠDISTINCT":59086,"Ġthro":59087,"@Xml":59088,"ĠLegendary":59089,"-twitter":59090,"_easy":59091,"Ġ+++":59092,"(DATA":59093,".Locale":59094,"Ġkä":59095,"Ġnurt":59096,"Ġcruis":59097,"_ios":59098,"Ġsensing":59099,"_Line":59100,"ĊĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":59101,"pong":59102,"oleon":59103,"Ġwildcard":59104,"ç͍æĪ·åIJį":59105,"Ġbegging":59106,"Rod":59107,"ĠÃİ":59108,"_CELL":59109,"Researchers":59110,".selector":59111,"_ing":59112,"Ġaspiring":59113,"Ġimmortal":59114,"Ġymin":59115,"_robot":59116,"Ġplur":59117,"BTC":59118,"ĠDID":59119,"Ġpiercing":59120,"*u":59121,"_DEFINED":59122,"ĠThi":59123,"itaire":59124,"(media":59125,"-ons":59126,"Ġchefs":59127,"Ġ\"*.":59128,"/AP":59129,"Ġrazor":59130,"ĠsearchData":59131,"Ġ=&":59132,"ĠãĢĤ":59133,"Ġmourn":59134,"tingham":59135,"Ġoli":59136,"ĠVernon":59137,"_RS":59138,"ŀæĢ§":59139,"Ġfácil":59140,"angen":59141,"celain":59142,"Ġail":59143,"lest":59144,"ĠQCOMPARE":59145,"gain":59146,"Ġε":59147,"ĠKob":59148,"ĠFault":59149,"_configs":59150,"ç»ĵæŀľ":59151,".+":59152,"calar":59153,"(colors":59154,"Mul":59155,"_ART":59156,"Ġexperimenting":59157,"ermen":59158,"ĠAnglo":59159,".FixedSingle":59160,"Sea":59161,"Ġctxt":59162,".slider":59163,"Collapse":59164,"Grey":59165,"Ġfld":59166,"-proof":59167,".capacity":59168,"getParent":59169,"ĠCompliance":59170,"Ġburgl":59171,"-rec":59172,"Ġoverwritten":59173,"MU":59174,"Ġrouters":59175,"ĉModel":59176,"Ġfantasies":59177,"avian":59178,"_prec":59179,"ĠScandin":59180,"Ġ//<":59181,"/oct":59182,"Ġceremonies":59183,"Months":59184,"undy":59185,"Ġqued":59186,"ĠNou":59187,"ĠVibr":59188,".rgb":59189,"Ġcitrus":59190,"Ġbraces":59191,"-uppercase":59192,"getTable":59193,"Ġdopo":59194,"ĠKerr":59195,"_CHILD":59196,"-cloud":59197,"ĉMatrix":59198,"Ġgardening":59199,"Sing":59200,"almost":59201,"Requirements":59202,"uguay":59203,"(Property":59204,"subscriber":59205,"FAST":59206,"reaction":59207,"(lp":59208,")})Ċ":59209,"`).":59210,".wallet":59211,"_exchange":59212,".Maximum":59213,"ĠVerb":59214,"âĶģ":59215,"()<":59216,"ï¼ĽĊ":59217,"ROT":59218,"CARD":59219,"ubit":59220,"{@":59221,"_kel":59222,"ĠTooltip":59223,"MySQL":59224,"MainActivity":59225,"arf":59226,"Ġmalign":59227,"Ġseinen":59228,"apist":59229,"Ġ<%":59230,"MethodImpl":59231,"Mil":59232,"ĠMick":59233,".depend":59234,">&":59267,"ĉok":59268,"-low":59269,".usuario":59270,"nested":59271,"XB":59272,"OURS":59273,".BorderColor":59274,"Ġbrow":59275,"ĠÐķ":59276,"corr":59277,"ĠRedskins":59278,".getTag":59279,".getTransaction":59280,"Ġstigma":59281,"hardt":59282,"ĠPlayerPrefs":59283,"alsy":59284,"ucson":59285,"Languages":59286,"ĠOlivia":59287,"Ġtac":59288,"Ġbli":59289,"Ġcaval":59290,"Ġconsolidated":59291,"Ġperil":59292,"Ġdele":59293,"Ġformulated":59294,"Ġhighways":59295,".spawn":59296,"==$":59297,"ĠNiet":59298,"Ġveggies":59299,"ypo":59300,"-rule":59301,"ĠVie":59302,"/epl":59303,"Ġenfants":59304,"stringLiteral":59305,"Ġtoughest":59306,"buyer":59307,"Ġcovariance":59308,"Ġili":59309,"ĠSophie":59310,"ĠBAB":59311,"Ġ\"),":59312,"ĠUk":59313,"currentIndex":59314,"_userdata":59315,".codec":59316,"ĠPunjab":59317,"ĠSNP":59318,"lol":59319,"advance":59320,"Ġcomfy":59321,"JsonIgnore":59322,"Ġfashionable":59323,"ĠICON":59324,"Ġora":59325,"ĠPricing":59326,"E":59384,"tering":59385,"/screens":59386,"Ġheightened":59387,"аÑĢÑĤ":59388,"Authorities":59389,"_bbox":59390,"ünst":59391,".fontSize":59392,"ĠBOOLEAN":59393,"divide":59394,"ĠSloven":59395,"ucer":59396,"ÙĴ":59397,"stub":59398,"Ġnavigating":59399,":animated":59400,"_NOW":59401,"_vect":59402,"}{Ċ":59403,"@(":59404,"Ġtelecom":59405,"Ġcontracting":59406,"ĠAssange":59407,"Ġextracting":59408,"Ġgrö":59409,"cobra":59410,".DIS":59411,"Ġcrab":59412,"Ġtwitch":59413,"Ġverts":59414,"Ġrejects":59415,"ĉformat":59416,"Ġregeneration":59417,".Sys":59418,"solve":59419,"ĉdialog":59420,"shi":59421,"meter":59422,"(best":59423,"validators":59424,"Ġonwards":59425,"Ġguru":59426,"Ġmoderator":59427,"owied":59428,"experiment":59429,"rub":59430,"Ġmqtt":59431,"ĠCaucas":59432,"Ġnationalism":59433,"Ġmange":59434,"ĉImGui":59435,"/Edit":59436,"Ġinh":59437,"Ġintellig":59438,"erokee":59439,"ĉexport":59440,"Ġdiscriminate":59441,"subtract":59442,"ĠMoodle":59443,"enser":59444,"ĠGuides":59445,"RAP":59446,"-hot":59447,"_grp":59448,".picture":59449,"XA":59450,"ĠinitView":59451,"_Comm":59452,"Ġoverdose":59453,"Ġ+ĊĊ":59454,"ĠSilent":59455,"shows":59456,"Ġinterpolate":59457,"Formation":59458,"Ġbisc":59459,"markets":59460,"(SC":59461,"Ze":59462,"ĠNetworking":59463,"Ġadrenal":59464,"ĠGuns":59465,"eteor":59466,"Declared":59467,"orgetown":59468,"Ġkarena":59469,"/password":59470,"_addresses":59471,"ITERAL":59472,"Buzz":59473,"ĠConway":59474,"(case":59475,"PWD":59476,"heiro":59477,"(act":59478,"**čĊ":59479,"());ĊĊĊ":59480,"Ġanv":59481,"Ġ..ĊĊ":59482,"(MenuItem":59483,"(mail":59484,"_sections":59485,"ĉnet":59486,"Ġplut":59487,"Ġwrench":59488,"/object":59489,"ĠIst":59490,"ĠVIS":59491,"/pub":59492,"alten":59493,"Ġguitars":59494,"Ġantibiotic":59495,"ï¼ĸ":59496,"¹":59497,"Ġ\"+\"":59498,"formula":59499,"Ġbabes":59500,"ĠPrompt":59501,"Ġenim":59502,"/player":59503,"ĉref":59504,"ĠbyÄĩ":59505,"Ġconsumes":59506,"ĠHast":59507,"ĠTao":59508,"Ġ'))Ċ":59509,"Ġclam":59510,"Ġthighs":59511,"Ġmotif":59512,"ApiOperation":59513,"ĠWL":59514,"getC":59515,"ĉflags":59516,"ointments":59517,"Ġeconomical":59518,"needle":59519,"xls":59520,"practice":59521,"utzer":59522,"timeofday":59523,"-output":59524,"ĠfindById":59525,"ĠBuddy":59526,"ÐŀÑĤ":59527,"Seven":59528,"ĠBark":59529,"Ġenvoy":59530,"_algorithm":59531,"åĪ©":59532,"Ġballistic":59533,"ç§»":59534,"rades":59535,"ĉdoc":59536,"roducing":59537,"ĠEating":59538,"Unmount":59539,"/dataTables":59540,"_bonus":59541,"Ġlitt":59542,"pps":59543,")localObject":59544,"perf":59545,"ĠHelvetica":59546,"shutdown":59547,"/ml":59548,".tokens":59549,"ĠHardcore":59550,",row":59551,"/bg":59552,"Scaler":59553,"âĢĶas":59554,"_logits":59555,"âĢĻint":59556,"ĉApp":59557,"Implicit":59558,".Fprintf":59559,"ETO":59560,"Ġterra":59561,"Ġpossessing":59562,".rstrip":59563,",),":59564,"=yes":59565,"ĠStripe":59566,"?=":59567,"neutral":59568,".good":59569,"Ġkennen":59570,"ĠSung":59571,"fault":59572,"ystatechange":59573,"Canadian":59574,"','\".$":59575,"ĠMits":59576,"ænd":59577,"ĠSTRUCT":59578,"ĠURLWithString":59579,"ĠCompass":59580,"Ġ--ĊĊ":59581,"ĠNSLayoutConstraint":59582,"|min":59583,"-adjust":59584,"Ġrebuilt":59585,"LIGHT":59586,"/se":59587,"-mount":59588,"vpn":59589,"validated":59590,"(QObject":59591,"Ġignition":59592,"ĠChargers":59593,"RYPTO":59594,"]initWithFrame":59595,"ĠFluid":59596,"Ġcadre":59597,"Ġnominations":59598,"Neill":59599,"ĠHou":59600,"Ġcurrents":59601,"_gene":59602,"(inp":59603,"Paris":59604,"zÄĻ":59605,"aggregate":59606,"Ġassoc":59607,"weeted":59608,"errat":59609,"âĢĵĊĊ":59610,"Ġ'/',Ċ":59611,"fixture":59612,"ĠHighest":59613,"ambient":59614,"Ġchmod":59615,"Ġconte":59616,"Ġsensual":59617,"Ġgarment":59618,"zers":59619,"ĠPowered":59620,"domains":59621,"Reward":59622,"iomanip":59623,"Ġcockpit":59624,"outfile":59625,"Ġbuiltin":59626,"Ġinsisting":59627,".vars":59628,"zipcode":59629,"Ġ����":59630,"fails":59631,"Ġconsolidation":59632,"_oid":59633,"Planet":59634,"Ġ=\",":59635,"ĉel":59636,"UILT":59637,"ätz":59638,"afari":59639,"ĠMcCl":59640,"Timeline":59641,"Esta":59642,"Ġfram":59643,"YE":59644,"Ġcerebral":59645,"OfMonth":59646,"ĠPregn":59647,"ĠклаÑģÑģ":59648,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":59649,"ĠFres":59650,"Approved":59651,".Special":59652,"ĠProtestant":59653,"Ġallergy":59654,"_pcm":59655,"ĉCopyright":59656,"ĠsuperClass":59657,"\"strconv":59658,"ĠMohamed":59659,"Ġ'//":59660,"ForeColor":59661,"Arthur":59662,"ĠJungle":59663,"Ġveins":59664,"Sad":59665,"Ġbackups":59666,"ĠOpinion":59667,"ût":59668,"Ġintermitt":59669,"odyn":59670,"ĠChristina":59671,"Ġandre":59672,"Ġevacuation":59673,"palette":59674,"horse":59675,"ĠResident":59676,"ĠHassan":59677,".Nil":59678,"Ġaisle":59679,"ĠGrowing":59680,"Ġbloginfo":59681,"/sql":59682,"_ioctl":59683,"Scaling":59684,"ĠMonad":59685,"_cpp":59686,"ĠHutch":59687,"ĠAppleWebKit":59688,"Expense":59689,"_JOB":59690,"Ġpointless":59691,"FromBody":59692,"antal":59693,"Ġdepicting":59694,"ĠCELL":59695,"Ġrefin":59696,"ĠCNC":59697,"ì¹ĺ":59698,"_dimensions":59699,"ĠSAN":59700,"Ġaft":59701,"Ġfootsteps":59702,"ccoli":59703,"_PHONE":59704,"/math":59705,"-kind":59706,"ĠMeans":59707,"ichael":59708,".guna":59709,"Ġinauguration":59710,"-driving":59711,"(delete":59712,"ĠtotalCount":59713,"_MC":59714,".Extension":59715,"Commercial":59716,"ĠzIndex":59717,"$":59849,"Ġebay":59850,"Ġcaptive":59851,"pliant":59852,"ĠCalculates":59853,"olta":59854,"esting":59855,"_revision":59856,"Ġmús":59857,"+m":59858,"\",\"\",\"":59859,"WHAT":59860,"Ġcompassionate":59861,"harga":59862,"[random":59863,"Ġmodulo":59864,"(sn":59865,"Ġoccupations":59866,"////Ċ":59867,"ĉboard":59868,"ĠBalk":59869,"wiÄħ":59870,"ĠWifi":59871,".Profile":59872,":maj":59873,"ĉmat":59874,"LOCKS":59875,"(jButton":59876,"Ġ('$":59877,"Mur":59878,"æĮī":59879,"bble":59880,"Ġfrog":59881,"-hide":59882,"Ġbroadcaster":59883,"à¸ŀ":59884,"haled":59885,"Ġamusing":59886,"_predictions":59887,"_intr":59888,"Ġeagle":59889,"аÑĤелÑĮ":59890,"ĠgetList":59891,"psilon":59892,"Ġcharacterization":59893,"ARDS":59894,"Ġrelocation":59895,"Ġrulers":59896,"PAY":59897,"ĠDefinitely":59898,"_Action":59899,"Ġclosures":59900,"Ġfactual":59901,"odynamic":59902,"Ġprecautions":59903,"niej":59904,"ĠParties":59905,"ĠSubaru":59906,"Ġcousins":59907,"arbeit":59908,".money":59909,"gunta":59910,"(and":59911,"getitem":59912,".StylePriority":59913,"Ġslid":59914,"singleton":59915,"Ġgarn":59916,"ĠPAS":59917,"Ġdazz":59918,"aż":59919,"Ġbogus":59920,"ĠMog":59921,"Ġrivalry":59922,"isol":59923,"Ġlandmarks":59924,"ñas":59925,"Bern":59926,"ĠSachs":59927,"Ġ\")ĊĊ":59928,"Ġhostility":59929,"_mex":59930,"mere":59931,"Mot":59932,"pictureBox":59933,"Defense":59934,"Ġaffidavit":59935,"otherwise":59936,".directory":59937,"_UnityEngine":59938,"-blog":59939,".skin":59940,"phem":59941,"Apellido":59942,"erchant":59943,"[class":59944,"Ġwart":59945,".\"[":59946,"aleur":59947,"/back":59948,"ĠĠĠĠĉĠĠĠ":59949,"Ġprecipitation":59950,"Ġobstruction":59951,"ĠpObj":59952,"Ġrupt":59953,"UCKET":59954,"aye":59955,"æİĴ":59956,"gx":59957,"Ġecl":59958,"Ġsecrecy":59959,"/Header":59960,"ĠLesb":59961,"Ġlei":59962,"ĠBulletin":59963,"Ġgiveaway":59964,".Home":59965,"_ROOM":59966,"\"W":59967,"Ġcowork":59968,"_ra":59969,"ĠCycling":59970,"ĠPaw":59971,"Ġpupil":59972,"/arch":59973,"ĠFileUtils":59974,"é¦ĸ":59975,"rsp":59976,"Ġfreedoms":59977,"ĠLear":59978,"}`).":59979,"Ġbowls":59980,"/block":59981,"_logging":59982,"Ġmethane":59983,"Ġhorns":59984,"Ġwonderfully":59985,"Ġalterations":59986,"Ġexile":59987,"lsen":59988,"_pause":59989,"_LANGUAGE":59990,"ĠUSDA":59991,"_mysql":59992,"_AMOUNT":59993,"ĠLIFE":59994,"Ġyoungsters":59995,"Ġriots":59996,"[E":59997,"Ġunforgettable":59998,",},Ċ":59999,"Disposed":60000,"ĠAssassin":60001,"UNG":60002,"ĠNewsp":60003,"UserService":60004,":aload":60005,"+',":60006,"Ġsettlers":60007,"Ġscreams":60008,"Ġinconvenience":60009,".Rotate":60010,"Ġjars":60011,"ĠPuzzle":60012,"Ġmest":60013,"arsi":60014,"ĠSharma":60015,"|(":60016,".ds":60017,"ĠSacred":60018,"_evt":60019,"Ġexpresses":60020,"Ġhoch":60021,"ĠDuch":60022,".calls":60023,"thr":60024,"ĠSheffield":60025,".AlertDialog":60026,"Ġradically":60027,"Ġtrous":60028,"Ġprevailing":60029,"ĠWWII":60030,"âĢĻn":60031,"ensely":60032,"ĠYesterday":60033,"ĠSirius":60034,"Ġkillers":60035,"ĠFFT":60036,"Ġoval":60037,"'):čĊ":60038,"Ġìłķë³´":60039,"ourage":60040,"ĠCheckbox":60041,"Workbook":60042,".defer":60043,"_floor":60044,"Ġcouncill":60045,"Ġnorske":60046,"moil":60047,"orea":60048,"Ġmarketed":60049,"_SUR":60050,"xAA":60051,"Ġstained":60052,"eut":60053,"ĠMeng":60054,"Ġieee":60055,".extern":60056,"egie":60057,"Ġrapp":60058,"ĠPyongyang":60059,"'class":60060,"Mob":60061,"ĠinitialValue":60062,"_wave":60063,"Ġjab":60064,"Ġmasculine":60065,"Ġamplifier":60066,"Ġtty":60067,"PathComponent":60068,"_xt":60069,"ĠGFP":60070,"/sec":60071,"ĉdispatch":60072,"markdown":60073,"ĠSchn":60074,"bole":60075,"··":60076,"mousemove":60077,"ĠerrMsg":60078,"Ġasign":60079,"_mono":60080,"ToSelector":60081,"ĠZu":60082,"(Rect":60083,"ĠErrorCode":60084,"latin":60085,"angible":60086,"vtk":60087,"CGSize":60088,"Pokemon":60089,"Ġclassmates":60090,"Ġattracts":60091,"ĠTatto":60092,"ultan":60093,"ológ":60094,"Ġhalted":60095,"न":60096,"ĠKart":60097,"Ġue":60098,"_InitStructure":60099,"TestClass":60100,"ĠAirbnb":60101,"_\",":60102,"Ġcharcoal":60103,"Ġipc":60104,"ĠStretch":60105,".glide":60106,"latesAutoresizingMaskIntoConstraints":60107,"Ġpotion":60108,"ITTLE":60109,"Ġcountert":60110,"_hd":60111,"prepared":60112,"Ads":60113,"ĠVampire":60114,"robots":60115,".CreateIndex":60116,"StatusLabel":60117,"Ġtucked":60118,"afür":60119,"Ut":60120,"Ġsweater":60121,"_FN":60122,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĉ":60123,"ataka":60124,"Ġeyebrows":60125,"acoes":60126,"uden":60127,".LinearLayoutManager":60128,"Ġsway":60129,"Ġmultin":60130,"())))Ċ":60131,"ĠNSUInteger":60132,"ĠMyBase":60133,"Partner":60134,"utschen":60135,"ĠCater":60136,".setBackgroundColor":60137,"Ġaccomplishment":60138,"_problem":60139,".dtd":60140,"ĠpageNumber":60141,"Ġjackets":60142,"Ġcropped":60143,"uels":60144,"ĠHep":60145,"Ġcapped":60146,"*Math":60147,"_callbacks":60148,"Ġpubb":60149,"ĠBrunswick":60150,".respond":60151,"[\"_":60152,"Ġbedding":60153,"hythm":60154,"OX":60155,"(speed":60156,"Ġpesticides":60157,"Ġ-------":60158,".Blue":60159,"Ġnoodles":60160,"ĠGoes":60161,"Ġsaver":60162,"oxy":60163,"_completion":60164,"ĠSwinger":60165,"ĠgetDate":60166,"Ġminded":60167,"integration":60168,"ĠLotus":60169,"(stop":60170,"(',');Ċ":60171,"Ġfloods":60172,"ĠWorkflow":60173,"Ġerupted":60174,"Macro":60175,"ĠSauce":60176,"ĠeventName":60177,"\\Input":60178,"Breaking":60179,"ĉwhen":60180,"_pw":60181,"INDER":60182,"ĠWellness":60183,"Ġvoxel":60184,"ĠMell":60185,"ĠMEDIA":60186,"SENS":60187,"ĠFunds":60188,"ĠMild":60189,"Ċ":60198,"Ġtempting":60199,"Ġtestament":60200,"Ġbible":60201,"Ġconsulted":60202,"ĠIndexError":60203,"è¨ĺ":60204,"Ġkeypad":60205,"izzo":60206,"(ok":60207,"Ġwhatsapp":60208,"ĠRemoteException":60209,"Ġteamed":60210,"âĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶâĢĶ":60211,"»,":60212,"ĠgetTime":60213,"diag":60214,"issy":60215,"Ġhed":60216,"Ġknots":60217,"jom":60218,"Ġfunnel":60219,"-mails":60220,"Ġexporting":60221,"ĠVL":60222,"ĠKarn":60223,"ĠBuddhism":60224,"ĠAllan":60225,"_RADIUS":60226,"Ġwording":60227,"ĠForget":60228,"ĠCorona":60229,"iphy":60230,"Ġlimburg":60231,"uggy":60232,"ĠUserRepository":60233,"imin":60234,"(ele":60235,"Ġlabelled":60236,"社":60237,"ĠHerman":60238,".qq":60239,"Ġ\"));Ċ":60240,"ieber":60241,".Translate":60242,"ryn":60243,"Ġdesenv":60244,"umd":60245,"Simply":60246,"ĉmode":60247,"Rpc":60248,"ĠValencia":60249,"Ġstaffers":60250,"Ġselv":60251,"ĠSpike":60252,"Ġdelic":60253,"Ġeru":60254,"_DT":60255,"Judge":60256,"á»ķ":60257,"ĠBasin":60258,".mutable":60259,"\"url":60260,"Ġtariff":60261,"ĠSleeve":60262,"Ġflare":60263,".dropout":60264,"Ġbrides":60265,")),čĊ":60266,"_constraints":60267,"destruct":60268,"Outline":60269,"Ġdisappears":60270,"_locked":60271,"ĠNSLocalizedString":60272,"cke":60273,"ĉnull":60274,"adresse":60275,"Ġtopping":60276,"ĠJoker":60277,"bishop":60278,"ноÑģÑĤÑĮ":60279,"andering":60280,"_amp":60281,"=time":60282,"_Space":60283,"_PULL":60284,"'=":60285,"Ġantiqu":60286,"Ġcach":60287,"___ĊĊ":60288,"ONES":60289,"оÑı":60290,"Ġunread":60291,".policy":60292,"oooooooo":60293,"룬":60294,"Ġusted":60295,"ĠRece":60296,"Ġallem":60297,"ãĥ¼ãĤ¹":60298,"ĠThoughts":60299,"veillance":60300,"istrate":60301,"_lane":60302,"Ġfamed":60303,".GetName":60304,"Ġsmoother":60305,"ĠQualified":60306,"azers":60307,"_geo":60308,"Fax":60309,"ĠMinds":60310,"ĠRaises":60311,"Ġtranscripts":60312,"Conversation":60313,"Ġremarked":60314,"ëĤĺ":60315,"dling":60316,"Ġdeploying":60317,"ĠsharedApplication":60318,"Ġkp":60319,"FontAwesomeIcon":60320,"_dummy":60321,"reiben":60322,"ĠJaneiro":60323,"Directions":60324,".getBean":60325,"sass":60326,"Ġcommanders":60327,"vation":60328,"errorCode":60329,"ĠAlloy":60330,".localized":60331,"Ðij":60332,"Ġdishwasher":60333,"ĠSoup":60334,"Nu":60335,"_Default":60336,"Ġuneven":60337,"Ġ/>\";Ċ":60338,"-Based":60339,"Ġseamlessly":60340,"-null":60341,"ĠXC":60342,"Ġstew":60343,"(delay":60344,"ATORS":60345,"ĠWheeler":60346,"\"H":60500,"east":60501,".air":60502,"âĢľBut":60503,"ObjectContext":60504,"successfully":60505,"_land":60506,"Ġfolds":60507,"_COORD":60508,"Ġsubpo":60509,".getAddress":60510,"instr":60511,"Materials":60512,"ÑĥÑģÑĤ":60513,"deposit":60514,"-last":60515,"_GRAY":60516,"=find":60517,"Ġmutant":60518,"Ġlesbienne":60519,"letcher":60520,"ROUGH":60521,"ureka":60522,".capture":60523,"Ġenn":60524,"Ġ([[":60525,"ĠFlu":60526,"ĠtaskId":60527,"ĠHussein":60528,".folder":60529,"Ġausterity":60530,"ISTRATION":60531,"_Impl":60532,"注æĦı":60533,"Ġdecree":60534,"-chat":60535,"Ġimplication":60536,"Ġguesses":60537,"ulkan":60538,"Analytics":60539,".plus":60540,"COMMAND":60541,"ели":60542,"»ĊĊ":60543,"_SITE":60544,"ĠequalTo":60545,"SupportFragmentManager":60546,"ĠRecording":60547,"å®ĮæĪIJ":60548,"Ġbaggage":60549,"Ġpitchers":60550,"ĠEh":60551,"oque":60552,"ĉcnt":60553,"Ġ=>$":60554,"/foo":60555,"IRA":60556,"ĠSatellite":60557,"borah":60558,"Ġ}}\"Ċ":60559,"ĠEnds":60560,"ĠSpray":60561,",param":60562,".Chrome":60563,"*q":60564,"thought":60565,"ibrated":60566,"Ġthieves":60567,"Ġbeneficiaries":60568,"Entered":60569,"ottesville":60570,"Ġveterin":60571,"ByID":60572,"quipe":60573,"umption":60574,"-unit":60575,"ExecutionContext":60576,"@s":60577,"ĠGiov":60578,".ToolTip":60579,"_friend":60580,"(attributes":60581,"Ġdumping":60582,"ĠJC":60583,"_DOCUMENT":60584,"ĠArmour":60585,"(insert":60586,".HorizontalAlignment":60587,"ĠQed":60588,"ãģĦãģ¾ãģĻ":60589,"/git":60590,"ĠYYYY":60591,"ĠCardiff":60592,"Ġapa":60593,"organic":60594,"ĠWhereas":60595,"ĠæĿ":60596,"ĠMia":60597,"Ġdemolition":60598,"Ġscars":60599,"Ġpai":60600,"Ġretries":60601,"Ġrq":60602,"ĠDenis":60603,"(Utils":60604,"Ġalleviate":60605,"ĠPIC":60606,"idue":60607,"Ġacknowledging":60608,"Ġ//////////////////////////////////":60609,"ç¡®å®ļ":60610,"Ä«":60611,"\\Json":60612,".binary":60613,"Ġxtype":60614,"signals":60615,"ĠAppearance":60616,"&r":60617,"}s":60618,"Ci":60619,"ĠIllum":60620,"porate":60621,"hog":60622,"ĠindexOf":60623,"\\Command":60624,"_parallel":60625,"ĠSherlock":60626,"íĥ":60627,"Ġ\"\")čĊ":60628,"////////////////////////////////////////////////////////////////////////////////////////////////":60629,"Ġcriticize":60630,"ĠSoap":60631,"ĠMatcher":60632,"Ġgrilled":60633,"*T":60634,"Ġadore":60635,"ulling":60636,"Ġjedoch":60637,"_refs":60638,"leanup":60639,"ĠJAXB":60640,"Ġroses":60641,"ĠLiam":60642,"sizei":60643,"Ġgetchar":60644,"Ġtarde":60645,"-tooltip":60646,"Ġqualifier":60647,"ĠIntermediate":60648,"_Window":60649,"ĠMalta":60650,"Disconnect":60651,"ewhere":60652,"Campo":60653,"Ġirrational":60654,"ledo":60655,"ĠDN":60656,"ARGV":60657,"Ġoutro":60658,"Ġthirteen":60659,"Joseph":60660,"MAR":60661,"/gl":60662,"Jess":60663,"ĠPsychiat":60664,"ĠpaddingBottom":60665,"-loop":60666,"/fonts":60667,"_seen":60668,"Teams":60669,"ReactDOM":60670,"(man":60671,"(xpath":60672,".getSimpleName":60673,">(*":60674,"ĠPvt":60675,"Ġelders":60676,"Ġpies":60677,".userAgent":60678,"-region":60679,"ĠGreeks":60680,"(fragment":60681,"stu":60682,"Ġcouncils":60683,"Ġstamina":60684,"ĠGoddess":60685,"西":60686,"Ġphilosophers":60687,"Ġpersone":60688,"ĠLose":60689,"ĠCLR":60690,"ĠDocs":60691,"Ġsoak":60692,"ĠHOLDER":60693,"Ġbells":60694,"hashCode":60695,"RATE":60696,"_WEIGHT":60697,"inous":60698,"endra":60699,"ophobic":60700,"Ġprose":60701,"Ġfinely":60702,"/oauth":60703,"(space":60704,"adge":60705,"ĠMama":60706,"ĠstringBuffer":60707,"Ġstint":60708,"Ġmisma":60709,"Ġvillains":60710,"ĠCrimea":60711,"Ġdiploma":60712,"ĠпоÑģл":60713,"ĠBea":60714,"(join":60715,"Ġíķ´":60716,"CHAT":60717,"pering":60718,"ĠCros":60719,"Ġmonkeys":60720,"Ġpreds":60721,"yla":60722,",,,":60723,"Ġvibrator":60724,"ĠNU":60725,"åħĪ":60726,"fant":60727,"zet":60728,"Ġbietet":60729,"unft":60730,"sworth":60731,".Flow":60732,"Ġpsyched":60733,"ĠContinental":60734,">t":60735,"Ġquilt":60736,".UP":60737,"Ġexpansive":60738,"Dispose":60739,"(language":60740,"Caps":60741,"_ZONE":60742,"Ġrecycle":60743,"ĠManaged":60744,"currentColor":60745,".broadcast":60746,"signIn":60747,".prom":60748,"llu":60749,"ueblo":60750,"Ġpunches":60751,"Ġautomat":60752,"Ġassigning":60753,"ĠcreateUser":60754,"ĠAllied":60755,"Ġconductor":60756,"Ĥ¨":60757,"Ġsaddle":60758,"Ġdni":60759,"omedical":60760,"-West":60761,"PositiveButton":60762,"Ġitalic":60763,"?[":60764,"(trigger":60765,"Ġelephants":60766,"\":\"\",\"":60767,"Ġcaliber":60768,"rafted":60769,"digits":60770,"Ġmarshal":60771,"milliseconds":60772,"markers":60773,"mom":60774,"/place":60775,"Ġholistic":60776,":t":60777,"#,":60778,"Ġboto":60779,"Ġnausea":60780,"ĠShooting":60781,"itech":60782,"ĠtextStatus":60783,"())Ċ":61004,"ADDRESS":61005,"BST":61006,"etzt":61007,"ĠQgs":61008,"Sense":61009,"ExceptionHandler":61010,"ĠChu":61011,".getOwnProperty":61012,"Ġexercised":61013,"iotic":61014,"ĠReleases":61015,"Ġpinterest":61016,"olie":61017,"isoft":61018,"Ġsequencing":61019,"Ġpadre":61020,"]));čĊ":61021,"(radius":61022,".med":61023,"ainties":61024,".ObjectModel":61025,"Ġemple":61026,"Ġseguro":61027,"Stars":61028,"Ġqualitative":61029,"lemn":61030,"á»±":61031,">\").":61032,"Ġgx":61033,"-cert":61034,"ĠASTM":61035,"Ġfullname":61036,"Ġtelemetry":61037,"ĠCambodia":61038,"_ul":61039,"ĠClare":61040,"CUSTOM":61041,"QC":61042,"ĠUns":61043,"ĠHTTPS":61044,"ĠParkinson":61045,"ancybox":61046,"','.":61047,"Tue":61048,".getLast":61049,"Ġabi":61050,"Äħd":61051,"Ast":61052,"ĠEditing":61053,".Unity":61054,"jmp":61055,"Ġmats":61056,"ĠsharedPreferences":61057,"Captain":61058,".pageSize":61059,"Ġrtl":61060,"Ġanmeld":61061,"RuntimeObject":61062,"Ġdemande":61063,"(\";":61064,"seite":61065,"-headed":61066,"ĠKra":61067,"ĠFONT":61068,"`\\":61069,"ClassNotFoundException":61070,".avg":61071,"atical":61072,"Aj":61073,"Ġpermitting":61074,"Proj":61075,"ERRQ":61076,"Ġcreampie":61077,"ĠBuyer":61078,"-modules":61079,"ĠSundays":61080,"|`Ċ":61081,"Ġdaytime":61082,"Ġ+(":61083,"Ġglitch":61084,"ĠOperand":61085,"Ġtoxins":61086,"inya":61087,"DNS":61088,"ĠSas":61089,"Cake":61090,"ĠNationals":61091,".addTo":61092,"Ġsinking":61093,"Ġcomprehension":61094,"Ġscor":61095,"agements":61096,"Ġtard":61097,"Ġmarching":61098,"ĠMTV":61099,"Ġsane":61100,"CreateInfo":61101,"ắ":61102,"ĠendIndex":61103,"ĉlayout":61104,"ĠåIJį":61105,"SITE":61106,"ĠTHERE":61107,"Ġ[{'":61108,"opathic":61109,"Ġtransmitter":61110,"/body":61111,"Ġpund":61112,"ĠClosing":61113,"Ġsetattr":61114,"Ġbounded":61115,"Atlas":61116,"suming":61117,"(times":61118,"parer":61119,"ynom":61120,"feit":61121,"Ġfrem":61122,"-leg":61123,"ĠBras":61124,">#":61125,"Ġì¶ľëł¥":61126,"ĠINSTANCE":61127,"ĠCouch":61128,"_hosts":61129,"likelihood":61130,".Marker":61131,"ĠMasks":61132,"Ġcereal":61133,"utilities":61134,"Ġelemental":61135,"Ġdistorted":61136,"inactive":61137,"cry":61138,"WL":61139,"UPPORTED":61140,".Throws":61141,"/schema":61142,"serie":61143,".\"',":61144,"ĠBenedict":61145,"-picker":61146,"iggs":61147,"ĠPirate":61148,"åij¨æľŁ":61149,"ĠThema":61150,"ĠSouthampton":61151,"ĠarrayWith":61152,"ĠPaula":61153,"Ġpredictor":61154,"-Ass":61155,".userid":61156,"Ġperi":61157,"Ġexaggerated":61158,"urate":61159,"arseille":61160,"ĠConcent":61161,"ĠPik":61162,"Ġ@_;ĊĊ":61163,"Ġformations":61164,"Ġdenomin":61165,"\"/>.Ċ":61166,"endedor":61167,"Ġpancre":61168,"Ġamt":61169,"ĠonResume":61170,"onDelete":61171,"ĠBCH":61172,")(\"":61173,"movement":61174,"Ġpotassium":61175,"":69726,"ĠPPC":69727,"isz":69728,"akeFromNib":69729,"ĠDisp":69730,"ĠAthletics":69731,"Ġnightclub":69732,"GOOD":69733,".setGeometry":69734,"+[":69735,"/send":69736,"Ġbinaries":69737,"Ġráp":69738,":req":69739,"-consuming":69740,"ertime":69741,"UPDATED":69742,"_nullable":69743,"VIN":69744,"ulia":69745,"cyan":69746,"Ġmisunderstanding":69747,"orical":69748,"degrees":69749,"Leading":69750,".AR":69751,"ickest":69752,"Nuevo":69753,"uforia":69754,"Ġgoodies":69755,"Ġfores":69756,"()<<\"":69757,"ademic":69758,"ActionCreators":69759,"servername":69760,"(nt":69761,"dbContext":69762,"Ġairborne":69763,"Ġexhibitions":69764,"cele":69765,"Ġtela":69766,"":69782,".setPreferredSize":69783,"ĠMID":69784,"ĠAless":69785,"Ġhorsepower":69786,"Ġatm":69787,"ĠPackaging":69788,"Ġciphertext":69789,"RequestMethod":69790,"Ġbeiden":69791,"è£":69792,"ĠPOW":69793,".WriteHeader":69794,"director":69795,"-but":69796,"ãģłãģķãģĦ":69797,"incer":69798,"_dn":69799,"!!!!!":69800,"Ġmanufactures":69801,".TextUtils":69802,"Ġconsciously":69803,"Ġbounced":69804,"culture":69805,"ĠSpar":69806,"ĠPiper":69807,".press":69808,"-owner":69809,"Ġevaluator":69810,"ĠSTREAM":69811,".PictureBoxSizeMode":69812,"Ġsugars":69813,"ScreenWidth":69814,"ĠnextState":69815,"Ġivory":69816,"Ġbrunch":69817,"density":69818,"_OW":69819,"ĠCoronavirus":69820,"ĠCFR":69821,"bak":69822,"\\Category":69823,"æķ°ç»Ħ":69824,"Ġinvokevirtual":69825,"}()Ċ":69826,"Ġsujet":69827,"-marker":69828,"isdigit":69829,"ĠMobil":69830,"ĠJsonRequestBehavior":69831,"_REMOTE":69832,".existsSync":69833,"Ġriches":69834,".presenter":69835,"ĠglColor":69836,"Ġhanya":69837,"Ġfortress":69838,"Ġflashed":69839,"viz":69840,"requently":69841,"buat":69842,"$con":69843,">|":69844,".Func":69845,"Ġhumorous":69846,"uem":69847,".ZERO":69848,"ĠSTL":69849,"ĠBuk":69850,"/sample":69851,"ĠGros":69852,"Recipes":69853,"Ġinflated":69854,"Ġswung":69855,":F":69856,"Facing":69857,".Theme":69858,"ник":69859,"Ġsplendid":69860,"ĠrequestId":69861,".CenterScreen":69862,"/autoload":69863,"embedded":69864,"_depart":69865,"ĠPorts":69866,"à¹ĥ":69867,"айд":69868,"discussion":69869,"_consum":69870,"Ġscouts":69871,"Ġcolabor":69872,".Stage":69873,".nano":69874,"eldorf":69875,"Ġgemacht":69876,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":69877,"Ġpolicymakers":69878,"_PKT":69879,",Th":69880,"oky":69881,"_UID":69882,"Ping":69883,"Ġorchest":69884,"Ġoptics":69885,"uhan":69886,"ĠXOR":69887,"Ġespañol":69888,"ĠAdidas":69889,"rng":69890,"mans":69891,".vstack":69892,"Ġgetaway":69893,"Ġhierarchical":69894,"anoia":69895,"ĠBitmapFactory":69896,"realm":69897,"ĉap":69898,"_apps":69899,"-divider":69900,".drawer":69901,"ĠHARD":69902,"'];?>Ċ":69903,"-packed":69904,"æ²»":69905,"_STRUCTURE":69906,"[Y":69907,"iParam":69908,"(eq":69909,"Ġencompasses":69910,"Ġ\\ĊĊ":69911,"->[":69912,"&utm":69913,"groupon":69914,"strate":69915,"DY":69916,"omorphic":69917,"':[":69918,"Ġgravitational":69919,"ĠMicha":69920,"ĠTencent":69921,"Ġcoached":69922,"ì¶ľ":69923,"ÑĥменÑĤ":69924,"/mobile":69925,"MouseDown":69926,"bud":69927,"ĠYas":69928,"ĠProviders":69929,"NZ":69930,"ĉreport":69931,"errmsg":69932,"ĠimagePath":69933,"acterial":69934,"ĠManga":69935,"wicklung":69936,"(usuario":69937,"\"));čĊčĊ":69938,"/***":69939,"Ġorganise":69940,"Indexed":69941,"_QUAL":69942,"(PyObject":69943,"Ġsurrendered":69944,"POCH":69945,"ĠNOTES":69946,"\\\\\"":69947,"-job":69948,"Ġseventy":69949,"####Ċ":69950,"ĠManor":69951,"Ġdownright":69952,"Ġtimeframe":69953,"insurance":69954,"checker":69955,"ĠSECRET":69956,"Ġechoes":69957,"ĠCarmen":69958,".setHorizontalAlignment":69959,"ĠisChecked":69960,"ĠTOR":69961,"_nn":69962,"('(":69963,"FetchRequest":69964,"ĠPrinted":69965,"Fluid":69966,"ĠSTACK":69967,"GES":69968,"aigned":69969,"igor":69970,".Unknown":69971,"CBC":69972,"ĠCarlson":69973,".URI":69974,"Ġplight":69975,"/start":69976,"ĠPersonnel":69977,"ĠPREFIX":69978,",**":69979,"Ġlimite":69980,"_heat":69981,"%ï¼Į":69982,"ĠDonne":69983,"getNode":69984,"ĠScientology":69985,"Ġcomet":69986,"Ġwenig":69987,"Aside":69988,"ĠMPEG":69989,"'?":69990,"variably":69991,".endDate":69992,"Ġuncont":69993,"ĠScores":69994,"ĠLoginForm":69995,".generated":69996,",ch":69997,"-mar":69998,"ĠNed":69999,"ĠeventId":70000,"+p":70001,"ĠSIN":70002,"/reset":70003,".REACT":70004,"ĠMessi":70005,"_RANK":70006,".writeFile":70007,"Ġcripp":70008,"esthetic":70009,"ERSIST":70010,"Ġreimbursement":70011,"CurrentValue":70012,"Ġunin":70013,"DownLatch":70014,"ĠpaddingRight":70015,"Ġstocked":70016,"/'.":70017,"Ġrepayment":70018,"trak":70019,"/backend":70020,"Ġизмен":70021,"CSR":70022,"Ġpreventive":70023,"Ġpantalla":70024,"_trim":70025,"Pedido":70026,"hospital":70027,"Ġmanageable":70028,"routeParams":70029,"textures":70030,"......ĊĊ":70031,"Ġsélection":70032,"NameValuePair":70033,"Ġpollut":70034,"Modes":70035,"ĠLaud":70036,"jay":70037,"ĠUrs":70038,"Ġsigner":70039,"ĠJJ":70040,"ĠCherokee":70041,"_EXISTS":70042,"Ġdwar":70043,"Ġ($('#":70044,"Ġreef":70045,">{$":70046,"ĠBaylor":70047,"ĠModelState":70048,"-_":70049,"ĠStructures":70050,"Ġsouvent":70051,"Specify":70052,"(pipe":70053,"Ġfracking":70054,"ĠGPA":70055,"Ġbele":70056,"ĉĉĉĉĉĉĉĠĠĠ":70057,"ĠMinority":70058,"Ġtud":70059,"Ġopenness":70060,"ĠIllustrated":70061,"Ġoxidation":70062,"ĠNK":70063,"ĉUpdate":70064,"ĠEMS":70065,"ĠTeddy":70066,"Ġgenerals":70067,"ĉMat":70068,"Ġradios":70069,"ĠAntique":70070,"conomy":70071,"ĠSquadron":70072,")','":70073,"声":70074,"Ġyoure":70075,"ĠMainPage":70076,"Ġbehaviours":70077,"enght":70078,"(@\"%@\",":70079,"Ġtestcase":70080,"ĠCompilation":70081,"Ġflavours":70082,"ĠExtend":70083,"illator":70084,"Ġcoh":70085,"Ġspline":70086,"ĠKG":70087,"-pay":70088,"Ġcommunism":70089,"ĠBusinesses":70090,"ocking":70091,".MaxLength":70092,"assandra":70093,"quiring":70094,"adden":70095,"ĠJeb":70096,"_fault":70097,"[file":70098,"Ġprominence":70099,"disciplinary":70100,"âĢĶthey":70101,"_extent":70102,"ĠVIC":70103,"Ġentails":70104,".partner":70105,"Ġhippoc":70106,"League":70107,"çĶ·":70108,"wipe":70109,"-spinner":70110,"Ġsalute":70111,"ĠSurgical":70112,"(outputs":70113,"worked":70114,"[strlen":70115,"appointed":70116,"ĠHeg":70117,"ĠACPI":70118,"([^":70119,"uala":70120,"_tol":70121,"ĠRit":70122,".Payment":70123,"kowski":70124,"Ġwalmart":70125,"requirements":70126,"ĠFINSEQ":70127,"_BACKGROUND":70128,"ĠOsborne":70129,"(errorMessage":70130,"Reporting":70131,"Ġauctions":70132,"Ġcombos":70133,"ĠNoticed":70134,"_oct":70135,"Ġprimero":70136,"taire":70137,"_hr":70138,"Ġмод":70139,"Ġcontradictory":70140,"=\"@":70141,"achines":70142,"(optarg":70143,"ĠPenguin":70144,"ĠAbbas":70145,"Ġsublime":70146,"Ġpageable":70147,"ĠDefensive":70148,"Ġdistinctly":70149,"ĠAutomatically":70150,"Understanding":70151,"EqualityComparer":70152,"gota":70153,"Ġ\"::":70154,"Ġpulver":70155,"ĠBattles":70156,"Ġunparalleled":70157,"TCHA":70158,"Ġconstrued":70159,"-aff":70160,"Ġprecursor":70161,"-lfs":70162,"Ġmaduras":70163,"ĠDaisy":70164,"ĠArbeits":70165,".Management":70166,"ĉIn":70167,"Ġrobes":70168,"Ġspéc":70169,"âĢľ(":70170,"Ġmaternity":70171,"extent":70172,"ĠSpacer":70173,"DidAppear":70174,"ĉus":70175,".getRequestDispatcher":70176,"(cols":70177,"Ġplummet":70178,"ìħ":70179,"Ġ{ĊĊĊĊ":70180,"érica":70181,"ĠSizes":70182,".enum":70183,".Highlight":70184,"Ġ!!}ĊĊĊ":70193,"Wenn":70194,"Ġclimax":70195,"Ġcrem":70196,"_that":70197,"[â̦":70198,"_domains":70199,"_REPLY":70200,"Ġcompleta":70201,"VEST":70202,"_particle":70203,"Ġsop":70204,"Ġfatalities":70205,"implify":70206,"ĠSKF":70207,"Ġinfusion":70208,"ĠJavier":70209,"Ġballet":70210,"Ġamigo":70211,".want":70212,"Ġcollagen":70213,"ĠLawyer":70214,".Statement":70215,".rt":70216,"baar":70217,"EndPoint":70218,"ĠBek":70219,"SHIP":70220,"Ġpatriarch":70221,"ĠAunt":70222,"_TM":70223,"ĠmÃŃn":70224,"Ġmastered":70225,"WXYZ":70226,"Ġespos":70227,"=logging":70228,"Ġrighteousness":70229,"torrent":70230,"Ġbst":70231,"_CHAIN":70232,"Ġoutskirts":70233,"(rotation":70234,"Ġ'.')":70235,"igrants":70236,"+lsi":70237,"ĠCCTV":70238,"_PHASE":70239,".azure":70240,"_Process":70241,"vae":70242,"ĠTropical":70243,"ĠAnkara":70244,"imageView":70245,"_RUNNING":70246,"Ġ*)__":70247,"ến":70248,"(cli":70249,"scatter":70250,"Ġsche":70251,"Registrar":70252,"Ġairing":70253,"Ġpyplot":70254,"isión":70255,"/customer":70256,"Ġsimplement":70257,"Ġclassy":70258,"ĠDWC":70259,"ĠBashar":70260,"ĠDEVELO":70261,"ĠVick":70262,"avail":70263,"ĠHö":70264,"_extend":70265,"drFc":70266,".isNotBlank":70267,"Ġplais":70268,"|}Ċ":70269,"Ġpornofil":70270,"labs":70271,"Ġhaus":70272,"Ġoriginating":70273,"Ġsurrounds":70274,"ĠQUAL":70275,"meg":70276,"/logger":70277,"[obj":70278,"Ġirresponsible":70279,"ĠPublicKey":70280,"HONE":70281,":'/":70282,"ibox":70283,"ĠFVector":70284,"|{Ċ":70285,"ataloader":70286,"hawks":70287,"HDR":70288,"Ġescalation":70289,"ĠPodsDummy":70290,"elite":70291,"Ġpresup":70292,"Cached":70293,">G":70294,".optimizer":70295,"ĠVisible":70296,"´Ģ":70297,"Ġnen":70298,"Ġpcs":70299,"ĠIdle":70300,"[Any":70301,"Ġkeyboards":70302,"ĠCOMPONENT":70303,"Ġtitanium":70304,"(mut":70305,"ĠLedger":70306,"Ġprosperous":70307,"etrofit":70308,"_LL":70309,"_patient":70310,"Ġpdata":70311,"Ġkontakte":70312,"Swipe":70313,"Ġcheerful":70314,"ĠHonduras":70315,"\"][$":70316,"Ġhemorrh":70317,"\":\"+":70318,"Ġleasing":70319,"Ġinstalls":70320,"ĠPax":70321,"ĠLogistics":70322,"Ġkinetic":70323,"ĠPhon":70324,"_movement":70325,"ĉbytes":70326,"Ġcinco":70327,"ĠMadness":70328,"\")+":70329,"ĠJE":70330,"_ij":70331,"SceneManager":70332,"ĠBust":70333,"ptest":70334,"aea":70335,"Ġbesser":70336,"ÃŃg":70337,"дин":70338,"(tasks":70339,"(\"(\"":70340,"setType":70341,"(outfile":70342,"ĉreset":70343,"ĠARC":70344,"Ġmúsica":70345,"ĠShelf":70346,"ĠminY":70347,"pch":70348,"Ġweiber":70349,"issor":70350,"Ġtrouve":70351,"ĉButton":70352,"Ġregenerated":70353,"Å£i":70354,"imachinery":70355,"blocking":70356,".dataTables":70357,"_frac":70358,"ĠAdvantage":70359,".visitMethod":70360,"éĩįæĸ°":70361,"Ġextrapol":70362,"Ġteasing":70363,"ĠHitch":70364,"ĠGeek":70365,"ESCO":70366,"Ġwich":70367,"ĉax":70368,"_decor":70369,"ĠscreenWidth":70370,"ĠSophia":70371,"Forgot":70372,".uni":70373,"ĠVenture":70374,"_collision":70375,"Ġlawmaker":70376,"(Edit":70377,"blers":70378,"ĠgetNext":70379,"âĢĶyou":70380,"MediaPlayer":70381,"ĠHorde":70382,"ĠCongressman":70383,"observations":70384,"ĉproperty":70385,"Ġ<--":70386,"CreatedAt":70387,"ubyte":70388,"Ġquarantine":70389,"Ġdistressed":70390,"_APB":70391,"ĠGoodman":70392,"ãĤ«":70393,"Ġrecomend":70394,"_PRINTF":70395,"DONE":70396,"Bindable":70397,"rstrip":70398,"centaje":70399,"ĠUnexpected":70400,"ĠSCHOOL":70401,"ĠProfessionals":70402,"ĠGPUs":70403,"Lesson":70404,"Exclusive":70405,"Ġatrav":70406,"ĠDank":70407,"ĠLawyers":70408,"ĠWalton":70409,">[]":70410,"Ġaloud":70411,"=\"../../../":70412,"Ġdebating":70413,"ĠAVG":70414,"_VOL":70415,"/cgi":70416,".deg":70417,":g":70418,".Infof":70419,"MeasureSpec":70420,".song":70421,"mtree":70422,"ulls":70423,"Jordan":70424,"ĠCovers":70425,"Ġattributable":70426,"Ġjedis":70427,"iatrics":70428,"Ġrotterdam":70429,"Ġmeld":70430,"ĠContentType":70431,"Ġmantle":70432,"Ġalice":70433,"_duplicate":70434,"/Internal":70435,"Ġfilesize":70436,"ĉfire":70437,"rese":70438,"ondere":70439,"Ġfamiliarity":70440,"ĠCrest":70441,"Ġkarma":70442,"Ġtorino":70443,"Ġmesa":70444,"/temp":70445,"Ġchir":70446,"ĠOverflow":70447,"Ġtenemos":70448,"unik":70449,"NEXT":70450,"Alle":70451,"Ġnxt":70452,"Mart":70453,"Ġatl":70454,"Ġperiodo":70455,"_you":70456,"Ġ})).":70457,"intestinal":70458,".AdapterView":70459,"Ġhesitant":70460,"Ġcomparatively":70461,".UInt":70462,"(viewModel":70463,"Ġsangat":70464,"ĠResponsive":70465,"ĠZack":70466,"âħ":70467,"JAVA":70468,"ĠFuller":70469,"ĠâĿ¤":70470,".Consumer":70471,"Ġank":70472,"Ġreactors":70473,"fuck":70474,"_rat":70475,"ĠsessionFactory":70476,"_backward":70477,"Ġscrambled":70478,"ĉth":70479,"Ġinsensitive":70480,"Ġchamps":70481,"Ġnginx":70482,"Ġconhec":70483,"ĠJasper":70484,".fm":70485,"StrictEqual":70486,"achsen":70487,"-Nov":70488,"lassen":70489,".integration":70490,"(lbl":70491,"Compose":70492,"ĠFon":70493,"Ãļ":70494,"Gratis":70495,"ĠLime":70496,"ĠAdapterView":70497,"Ġpoisoned":70498,"anchors":70499,"设计":70500,"']?>\"":70501,"Ġprocur":70502,"Italy":70503,".MONTH":70504,"ĠLUA":70505,"ĠLithuania":70506,"ĠHeads":70507,"_CHUNK":70508,"ĠPUSH":70509,"AspectRatio":70510,"Ġweg":70511,"Ġvids":70512,"ĠWein":70513,"ĉINT":70514,"sessionId":70515,"Industry":70516,"Ġdenounced":70517,"JKLM":70518,"ĠVanessa":70519,".Identifier":70520,"propri":70521,"Ġиг":70522,"Ġtécn":70523,"Ġmosaic":70524,"StreamReader":70525,"-Th":70526,"forth":70527,"Ġadherence":70528,"bate":70529,"Ġknights":70530,"sounds":70531,"Ġsalle":70532,"OMET":70533,"ãĤ¹ãĥĪ":70534,"-tm":70535,"ĠRhe":70536,".FileOutputStream":70537,"åĪĨç±»":70538,"ĠENG":70539,"holiday":70540,"ĠCongratulations":70541,")(Ċ":70542,"Ġaggregates":70543,"HOOK":70544,"ewire":70545,"Senator":70546,"Ġembeddings":70547,"epy":70548,"(COM":70549,"Ġrobber":70550,"äter":70551,"wang":70552,"_teacher":70553,"Ġresentment":70554,"Ġlettuce":70555,"erreur":70556,"(ic":70557,"ĠTactical":70558,"ĠContracts":70559,"Ġmænd":70560,"Ġsitios":70561,"Ġbastante":70562,"Ġnuevos":70563,"ĉNdrFc":70564,"ĠprivateKey":70565,"ucch":70566,"MMdd":70567,"Ġè¾ĵåĩº":70568,"umba":70569,"@foreach":70570,":\");ĊĊ":70571,"Ġslippery":70572,"ĠKeystone":70573,"Ġpioneering":70574,"_triangle":70575,"(\"Ċ":70576,"ĉĉĉĉĉĉĉĉĠĠ":70577,"ĠIntervention":70578,"SCI":70579,"ĠcJSON":70580,"Ġterminating":70581,"ë¹Ħ":70582,"Ġbabys":70583,"Subset":70584,"Ġë¡":70585,"Ġseulement":70586,"Ġmuestra":70587,"Entre":70588,"以ä¸Ĭ":70589,"ngo":70590,"\"bytes":70591,"QRST":70592,"Ġypos":70593,"persona":70594,"ĠDeploy":70595,"cee":70596,"Ġà®":70597,".goal":70598,"Ġhabitats":70599,"ĠisAdmin":70600,"Ġexploiting":70601,"Ġventil":70602,"ĠBalls":70603,"اب":70604,"Ġmindfulness":70605,"(kwargs":70606,"Ġresembling":70607,"Ġchoir":70608,"ĠonBackPressed":70609,"ĠSECURITY":70610,"/gtest":70611,"Ġjustices":70612,"ĠintegerValue":70613,"blah":70614,"ĠAim":70615,"_finalize":70616,"keh":70617,"ĠComplexity":70618,"Ġaugust":70619,"getElementsByTagName":70620,"Ġpreach":70621,"Ġpronunciation":70622,"ĠTrash":70623,"-percent":70624,"_PRIV":70625,"ĠHunts":70626,"ĠCurse":70627,"uellen":70628,"Ġheavyweight":70629,"Xi":70630,"ĉselected":70631,"ĠMcCoy":70632,"å¼Ĥ常":70633,"|=Ċ":70634,"ĠBattlefield":70635,"ItemImage":70636,"Ġdeductions":70637,"ĠElemental":70638,"());//":70639,"ĠBurk":70640,"})čĊčĊ":70641,"swift":70642,"/function":70643,"Usually":70644,"_St":70645,"_feats":70646,"ĠIsValid":70647,"Ġzad":70648,"ImageContext":70649,"Ġclassname":70650,"Ġdonner":70651,"Ġ-->ĊĊĊ":70652,"Ġmotorcycles":70653,"+'/'+":70654,"ĠsetBackground":70655,"\\CMS":70656,".AllArgsConstructor":70657,"ĠLexington":70658,".examples":70659,"ĠPurs":70660,"PushMatrix":70661,"Ġ==============================================================":70662,".addTarget":70663,"pora":70664,"Fullscreen":70665,"Ġgoof":70666,"hlen":70667,"äge":70668,"ĠCURL":70669,"ĠInteresting":70670,"Ġretrieves":70671,"_Obj":70672,"inness":70673,"-----ĊĊ":70674,".tsv":70675,"(IM":70676,"ĠBraves":70677,"_ISR":70678,"osti":70679,"á»ĵ":70680,"ĠExterior":70681,"ĠCourtney":70682,"Ġresidues":70683,"Tier":70684,".*;čĊčĊ":70685,":black":70686,"webView":70687,"\"path":70688,"Ġmasa":70689,"]!='":70690,"ĠMatching":70691,"dur":70692,"Jvm":70693,"=context":70694,"_RING":70695,"Ġproponents":70696,"ĠQStringLiteral":70697,"Ġinflate":70698,"\">čĊ":70931,"_COST":70932,"ilinear":70933,"ĠWorkspace":70934,"Ġspel":70935,"agogue":70936,"ĠMillennium":70937,"ĠPopulate":70938,"Ġnid":70939,".parseColor":70940,"Solar":70941,"ĠGad":70942,"Ġì¤ij":70943,"ĠKamp":70944,"ĉrm":70945,"Ġbenz":70946,"ĠHonestly":70947,"Ġelectrode":70948,"ĠPrairie":70949,"ĠPROFILE":70950,"ĠOriental":70951,"ĠOLED":70952,"/copyleft":70953,"awaii":70954,"(products":70955,")\\<":70956,"-created":70957,".ManyToMany":70958,"\"How":70959,"ĠвÑĭп":70960,"Ġmitochondrial":70961,"_testing":70962,"(created":70963,"ĠgetField":70964,"_EVAL":70965,"].\"":70966,"ĠFSM":70967,"ĠRita":70968,"ĠåıĤæķ°":70969,"Ġcôt":70970,"ĠInsight":70971,"ĉmysqli":70972,"_timing":70973,"IDO":70974,")))))Ċ":70975,"COVERY":70976,".imag":70977,"CDF":70978,"lust":70979,"ickt":70980,"_FP":70981,".','":70982,"gcc":70983,"Ġkurz":70984,"_pwm":70985,"Ġodpowied":70986,"ĠBarrier":70987,"/***************************************************************************Ċ":70988,"pak":70989,"-Israel":70990,"ĠRutgers":70991,"ĠselectedItem":70992,"ĠRamirez":70993,"Farm":70994,"Ġcalendars":70995,"gzip":70996,"Ġblockbuster":70997,"ĠPlymouth":70998,"çľĮ":70999,"responses":71000,".DialogInterface":71001,"-grand":71002,"ĠgetSource":71003,"Ġdejtings":71004,"Ġtieten":71005,"Ġcondemnation":71006,"Ġcontinuar":71007,".MockMvc":71008,"/english":71009,"ĠMediaPlayer":71010,"computed":71011,"ĠClippers":71012,"(delegate":71013,".Slf":71014,"Ġë¡ľ":71015,"ĠTide":71016,"Ġihrem":71017,"ĠWan":71018,"ÑĥÑİÑī":71019,"}><":71020,"Discussion":71021,"Ġwatts":71022,"-minus":71023,"ĠJuliet":71024,"éĽħ":71025,"Ġconcluding":71026,"andscape":71027,"Ġúltima":71028,"ĠDERP":71029,"ĠsignUp":71030,"ĠSecondly":71031,"WAIT":71032,"lds":71033,".callbacks":71034,"(hour":71035,"imators":71036,"volent":71037,"AAF":71038,"edriver":71039,"ĠMathematic":71040,"'":71042,"{j":71043,"_ABORT":71044,"Ether":71045,"Ġeducator":71046,"Ġprecaution":71047,"Ġfingertips":71048,"getVar":71049,"camatan":71050,"-debug":71051,"ĠRAF":71052,"[arg":71053,"Ġraced":71054,"Ġtsunami":71055,".flink":71056,"Ġglyc":71057,"uko":71058,"ĠMultiply":71059,"Ġredistribution":71060,"AGO":71061,"ĠRoutine":71062,"Ġopr":71063,"(lower":71064,"ĠFunktion":71065,".dk":71066,"Ġegt":71067,"_BASIC":71068,"syscall":71069,"ĠLSD":71070,"ĠDuplicate":71071,"_sell":71072,"ĠerrorHandler":71073,"_ips":71074,"Ġerv":71075,"annie":71076,"(resourceName":71077,"Ġbottled":71078,"Ġcrawling":71079,"egment":71080,".setTag":71081,"Ġrss":71082,"ĠQuarry":71083,"_exact":71084,".jwt":71085,"ĠBoards":71086,"opi":71087,"Ġnasal":71088,"ĠXYZ":71089,".ud":71090,"Northern":71091,"Ġactivating":71092,"edx":71093,"ovah":71094,"Ġindx":71095,"AlertDialog":71096,"Ġtienes":71097,"annya":71098,"_pan":71099,"(decimal":71100,".Dict":71101,"Ġsubsidiaries":71102,"ProductName":71103,"Few":71104,"dato":71105,"odied":71106,"-under":71107,"Ġê²ĥ":71108,"çīĪæľ¬":71109,"atism":71110,"[Math":71111,".'<":71112,"(infile":71113,"Ġdenotes":71114,"$class":71115,"_SECURITY":71116,"Ġsewage":71117,"melon":71118,"(Character":71119,"/github":71120,"Ġglaring":71121,".Guid":71122,"_sparse":71123,"ĠMargin":71124,"_dns":71125,"Ġmeiner":71126,"Ġleftist":71127,"ĉloc":71128,"abytes":71129,"Ġequipments":71130,"expo":71131,"ĠSomerset":71132,"EK":71133,"æį¢":71134,"Ġlecturer":71135,"Ġmemiliki":71136,"æł¸":71137,"ç´ł":71138,"pron":71139,":pointer":71140,"borrow":71141,"ĠProtective":71142,"_cf":71143,"ĠÐķÑģли":71144,"bpp":71145,"';ĊĊĊĊ":71146,"aturally":71147,"_NAV":71148,"Ġpeptide":71149,">d":71150,"Ġifstream":71151,"_FACTORY":71152,"');//":71153,"joined":71154,"mong":71155,"Ġtimespec":71156,"Ġdestabil":71157,"Ġautop":71158,"-limit":71159,"publication":71160,"ĠDenn":71161,".Memory":71162,"(skb":71163,"ĠAnaheim":71164,"_RETURNTRANSFER":71165,"oueur":71166,"(_('":71167,"legt":71168,"istingu":71169,"ĉpriv":71170,"Ġredirects":71171,"Mt":71172,"Ġalleen":71173,"ĠPointF":71174,"Ġomin":71175,"Ġcitt":71176,"ĠTage":71177,"ĠWalls":71178,"á»ī":71179,"Ġoccupying":71180,"xBF":71181,"rangle":71182,"Ġrelational":71183,"-org":71184,"Ġjpg":71185,"-derived":71186,"Ġmalfunction":71187,"ĠBenson":71188,"(scroll":71189,"ĠXD":71190,"Holy":71191,"(commands":71192,"Ġtipping":71193,"Ġprimitives":71194,"Ġsexle":71195,"CallCheck":71196,"ĠMASTER":71197,"_TEAM":71198,".setRequestHeader":71199,"_specs":71200,"Ġserge":71201,".Master":71202,"Ġims":71203,".SpringBootTest":71204,"paypal":71205,"ĠWANT":71206,".Inst":71207,"ĠCarpet":71208,"Ġwrongly":71209,"($('.":71210,"Ġbild":71211,".Roll":71212,"ĠUrb":71213,"-can":71214,"ãģıãģłãģķãģĦ":71215,"oliberal":71216,"čĊčĊ":71610,"ĠMahm":71611,"}\";ĊĊ":71612,"Ġdq":71613,"ĠPublishers":71614,"ĠAmpl":71615,"ĠDanielle":71616,"Ġtern":71617,"èµ·":71618,"noÅĽÄĩ":71619,"ein":71620,"ĠAsyncStorage":71621,"unger":71622,"rouw":71623,"Ġscissors":71624,"/assert":71625,".bucket":71626,"/archive":71627,"_Man":71628,"Ġintoler":71629,"Ġ()=>":71630,"ĠÐĴÑĭ":71631,"Ġsai":71632,".xy":71633,".\"čĊ":71634,"Ġurinary":71635,"esub":71636,"ISTICS":71637,"Ġκ":71638,"Ġcompliments":71639,"ĠtypingsJapgolly":71640,"ihar":71641,"Expansion":71642,"ĠServing":71643,"_students":71644,"ĠXBOOLE":71645,"(il":71646,"Ġì²ĺ":71647,"Ġjó":71648,"(tol":71649,"(JS":71650,"ĉCG":71651,"ĠDRAW":71652,"twig":71653,"Ġoat":71654,"_smooth":71655,"ĠCSL":71656,"Ġosob":71657,"Ġensuing":71658,"Ġbanker":71659,"ĠBackpack":71660,"_ping":71661,"Ġwishlist":71662,"=ax":71663,"ĉĠĠĠĊ":71664,"Disney":71665,"steady":71666,"\">%":71667,"Ġprophets":71668,"ĠZX":71669,"Ġminimalist":71670,".PLAIN":71671,"Seattle":71672,".ordinal":71673,"ĠPIPE":71674,"Ġretorna":71675,"Ġjugador":71676,"ĠBret":71677,"ĠâĶľ":71678,"Ġplush":71679,"ULATOR":71680,"Sorting":71681,".gridy":71682,"ectomy":71683,"_activ":71684,"rack":71685,"Interactive":71686,"ĠAntarctica":71687,"Ġvengeance":71688,"enso":71689,"_known":71690,"upplier":71691,".Modules":71692,"ĠConnectionState":71693,"éļIJèĹı":71694,"@FindBy":71695,"Ġplacer":71696,"\\model":71697,"<()>":71698,".isSuccessful":71699,"-good":71700,"bz":71701,"ĠDraco":71702,"Assistant":71703,"-extra":71704,"аблиÑĨ":71705,"Ġhypocrisy":71706,"Ġtst":71707,"ĠAgr":71708,"$txt":71709,"Ġlogistic":71710,"licensed":71711,"ĠHof":71712,"Ġtat":71713,"(iv":71714,"Ġintoxic":71715,"postId":71716,"_strike":71717,"Ġhumiliation":71718,"pcodes":71719,"\"sync":71720,"(recipe":71721,"+N":71722,"rente":71723,"ĉClient":71724,"ycopg":71725,"ĠZurich":71726,"ĠProfiles":71727,"Countries":71728,"Ġpict":71729,"Ġrollout":71730,"requencies":71731,"Ġpatched":71732,"Ġcartridges":71733,"Ġshading":71734,"Jar":71735,"Ġsalvage":71736,"ĠTaxes":71737,"Ġstandby":71738,"aporan":71739,"Eigen":71740,".angular":71741,"ĠNested":71742,"享":71743,"ĠisVisible":71744,"ĠDwight":71745,"_BRANCH":71746,".Delay":71747,"Ġkend":71748,"Ġfacilitated":71749,".flatMap":71750,"Ġsanta":71751,"ĉSend":71752,"/messages":71753,"ĠofType":71754,"ĉswap":71755,"#plt":71756,"ĠTurks":71757,"NES":71758,"Ġprogressively":71759,"ĠResidence":71760,"ĠTREE":71761,"Ġnoen":71762,"dio":71763,"Ġnelle":71764,"Ġsogar":71765,"itti":71766,"weekly":71767,"Ġambiguity":71768,"_Settings":71769,"Ware":71770,".neo":71771,"_DST":71772,"Ġæĸ¹":71773,"prep":71774,"lobby":71775,"@email":71776,"/movie":71777,"Ġfunkc":71778,"ĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĠĊ":71779,"ÂŃs":71780,"Ġguardians":71781,"-pos":71782,"Ġconfiguring":71783,"ĠCPS":71784,"ĠDeus":71785,"Ġvidéos":71786,"_empresa":71787,"Ġslapped":71788,"',Ċ":71820,"_XDECREF":71821,"ĠBuzzFeed":71822,"_MARGIN":71823,"PLOY":71824,".small":71825,"ĠmimeType":71826,"Ġholog":71827,"ĉcamera":71828,"lias":71829,"Ġsuspense":71830,"odynam":71831,"bau":71832,"Ġgraveyard":71833,"_named":71834,"\":\"'":71835,"Ġ************************************************":71836,"ĠgameOver":71837,"ĠLENGTH":71838,"ĉscreen":71839,"ĠdoInBackground":71840,"_dependencies":71841,"Ġrtc":71842,"/up":71843,"_ROM":71844,"Hall":71845,"Ġdeficiencies":71846,"(te":71847,"'#":71848,"_equiv":71849,"Ġpreorder":71850,"ĠAxe":71851,"омÑĥ":71852,".sendFile":71853,"Ġfilt":71854,"ĠLimits":71855,"ĠCavaliers":71856,".discount":71857,"âĨIJ":71858,"ĠWit":71859,"QRSTUV":71860,"Ġij":71861,"Ġtegen":71862,"Ġ:\",":71863,"difficulty":71864,"punkt":71865,"ĠEmails":71866,"chlor":71867,"(fun":71868,".Uint":71869,"ĠStall":71870,"_verified":71871,"uD":71872,"FileType":71873,"Ġpleasures":71874,"Ġjudiciary":71875,"Ġsham":71876,"ipur":71877,"_PLUS":71878,"offers":71879,"(foo":71880,"_GT":71881,"ĉcore":71882,"ENTION":71883,"ĠLiberation":71884,"CommandLine":71885,"_department":71886,".Ar":71887,"_neighbor":71888,"ĠSubmitted":71889,"ĠĊ":96121,"Ġdroits":96122,"Ġhomosexuals":96123,"Ġabduction":96124,"ĉwidget":96125,"$headers":96126,"ĠDAR":96127,"Ġfla":96128,"threat":96129,"Ġlouis":96130,".GetProperty":96131,"\"Just":96132,"(frames":96133,"ryo":96134,"profession":96135,"|i":96136,"íķ´ìĦľ":96137,"(sv":96138,"Ġunrecognized":96139,"Ionic":96140,"Fashion":96141,"ScreenState":96142,"ĠIncoming":96143,"NotNil":96144,"Ġsyncing":96145,"emie":96146,"Ġthermo":96147,"_procs":96148,"Ġinconsistency":96149,"religious":96150,".mj":96151,"Ġpersonn":96152,"Ġmomentos":96153,"orarily":96154,"ĠæĬ":96155,"_neurons":96156,"Illustr":96157,"imoto":96158,"ilik":96159,"ĠWoj":96160,"Trading":96161,"Ġappare":96162,"Ġentreprises":96163,"achat":96164,"Ġ¬":96165,"Ġneigh":96166,"BUTTONDOWN":96167,"ĠMaher":96168,"aghan":96169,"-hash":96170,"\"f":96171,"Ġclientele":96172,".addButton":96173,"ĉSP":96174,"Qi":96175,"Ġgrated":96176,"POSITE":96177,":>":96178,"ĠHowell":96179,"ĠComparative":96180,"ĠISC":96181,"ÂŃi":96182,"Ocean":96183,"Davis":96184,"ĠFilme":96185,"Wins":96186,"ĠJIT":96187,"occer":96188,"ĠCorm":96189,"ENCHMARK":96190,"rchive":96191,"icação":96192,"Ġmata":96193,"Ġchildbirth":96194,"ĠOptionally":96195,"Ens":96196,"Ġxhttp":96197,"Ġelucid":96198,"_OscInitStruct":96199,"))):Ċ":96200,"Ġintuit":96201,"ĠDonate":96202,"Ġcorrelates":96203,">Delete":96204,"Ġequipe":96205,"Ġboca":96206,"Ġinflatable":96207,"erah":96208,"ĠDateTimeKind":96209,"Ġcalves":96210,"\\Lib":96211,"Ġemlrt":96212,"ĠTrilogy":96213,"ĠPanc":96214,"ĠDuis":96215,"ĠpelÃŃcula":96216,"WARDS":96217,"_DETECT":96218,"-sectional":96219,"dhcp":96220,"ForRow":96221,"-destruct":96222,"ĠPresenter":96223,"/slick":96224,",on":96225,"ĠCitadel":96226,"loggedin":96227,"_subtype":96228,"Ġsigue":96229,"Ġcuring":96230,"ĠFirewall":96231,"Ġfluorescence":96232,"ĠItalians":96233,"иÑĤÑģÑı":96234,".getStyle":96235,"InSeconds":96236,"jie":96237,"-Smith":96238,"Ġxlink":96239,"Ġsubmissive":96240,"онÑĤ":96241,"arbonate":96242,"ĠFaul":96243,"_goals":96244,"ĠCommissioners":96245,"chartInstance":96246,"_POSTFIELDS":96247,"Ġmedial":96248,"Ġmanos":96249,"Ġdelt":96250,"svm":96251,".Apis":96252,"ephy":96253,"Ġasympt":96254,"ĠappDelegate":96255,"Ġimprobable":96256,"cka":96257,"simd":96258,"/Error":96259,".âĢĵ":96260,"ĠPTS":96261,"deer":96262,"Ġsina":96263,"magnitude":96264,"IDADE":96265,"']}'":96266,"Ġmayores":96267,"ĉcomment":96268,"/console":96269,"\"@":96270,"volt":96271,".sell":96272,"ĠMacy":96273,"Ġmelod":96274,"Ġimágenes":96275,"_chg":96276,"Ġinout":96277,"idente":96278,")'),Ċ":96279,"dni":96280,".blob":96281,"Ġtypography":96282,"Ġeerie":96283,"_OID":96284,"pesan":96285,"ajan":96286,"Ġchopping":96287,"Ġbluff":96288,"adf":96289,"_bases":96290,".Formatter":96291,"Ġ\\%":96292,"ĠPageInfo":96293,"Carrier":96294,"ĠCalibration":96295,"como":96296,"-bodied":96297,"Ġfinancier":96298,"ĠINA":96299,".ERR":96300,"Ġhoodie":96301,"ĠSanity":96302,"guarded":96303,".opendaylight":96304,"ISMATCH":96305,"Highlights":96306,"ünk":96307,"aniem":96308,"angered":96309,"assignments":96310,"Ġregistrado":96311,"ĠUPPER":96312,"ampilkan":96313,"ashire":96314,"ĠNikola":96315,"ĠCFL":96316,"ĠHDC":96317,"Ġpoids":96318,"ĠIPs":96319,"Ġpreventative":96320,"ipsoid":96321,"ifix":96322,".camel":96323,".ga":96324,"Volumes":96325,"-ste":96326,"Yahoo":96327,"_sibling":96328,"Highest":96329,"optgroup":96330,"Ġkvinna":96331,"âĢĿãĢĤĊĊ":96332,"ĠAppliances":96333,"Ġ\"><":96334,"')\")Ċ":96335,"htt":96336,"ĠIdentified":96337,"Ġpencils":96338,"ĠmemberId":96339,"ĠappendString":96340,".loadData":96341,"ĠmockMvc":96342,"Ġjub":96343,"ĠSlut":96344,"ĠTaipei":96345,"statt":96346,"Polit":96347,"Ġpartager":96348,"DidChange":96349,"Increases":96350,")}.":96351,"ĠBaba":96352,"_CLIP":96353,"[unit":96354,"ĠклÑİÑĩ":96355,"Ġalcuni":96356,"ĠLola":96357,"Ġclinging":96358,"@PostMapping":96359,"(concat":96360,"Ġssid":96361,"ĠFauc":96362,"okit":96363,"ĠRecorded":96364,"ález":96365,"($('<":96366,".assertIsNot":96367,"Ġkali":96368,"Volt":96369,"Ġwarmly":96370,"Ġscares":96371,"getti":96372,"führt":96373,"_does":96374,".EMAIL":96375,"imations":96376,"Ġspringfox":96377,"ĠDecom":96378,"arcy":96379,"Ġglitches":96380,"ĠMoff":96381,"ĠVoll":96382,".between":96383,"Ġcoorden":96384,"ĠParticularly":96385,"GBP":96386,"Ġsemble":96387,"Eastern":96388,"_MSB":96389,"]){čĊ":96390,"morgan":96391,"ĠEVAL":96392,"dere":96393,"HOUSE":96394,"moire":96395,"istique":96396,"_lstm":96397,"-commit":96398,"ysterious":96399,"Ġtwink":96400,"-thumbnails":96401,"enÃŃ":96402,":'',":96403,"Ġblackout":96404,"ĠFloors":96405,"Ġsofas":96406,"Ġoui":96407,"leshoot":96408,"ĠRaq":96409,"-abs":96410,"Ġkra":96411,"Mining":96412,"shaft":96413,".setColumns":96414,"Clazz":96415,"PRETTY":96416,".playlist":96417,"éĸ¢":96418,"-Saharan":96419,"MING":96420,"ĉbl":96421,"è®®":96422,"jf":96423,"DOCKER":96424,"hopefully":96425,"(ignore":96426,"ĠUsersController":96427,"ĠMitarbeiter":96428,"ĠLES":96429,"Hamilton":96430,"-metadata":96431,"ĠKK":96432,"iktig":96433,"Ġwollte":96434,"egrator":96435,"]bool":96436,",current":96437,"ĠvalueType":96438,"Ġexcavation":96439,"oland":96440,"Ġverv":96441,"/filepath":96442,"AuthProvider":96443,"Ġprocrast":96444,"ĉULONG":96445,"_MEMBERS":96446,"Ġuplift":96447,"ĠAutonomous":96448,"Ġartworks":96449,"ĠOutreach":96450,"Ġpore":96451,"Homepage":96452,"DialogTitle":96453,"ĠGenerating":96454,"PARSE":96455,"Ġsemanas":96456,"Ġhumano":96457,"JSGlobalScope":96458,"Ġvolte":96459,"Ġbella":96460,"(isinstance":96461,"Ġplc":96462,"\\Catalog":96463,"Ġesteemed":96464,"鼷":96465,"(suffix":96466,"Ġsweeps":96467,"ĉORDER":96468,"Ġdoivent":96469,"ĠSwarm":96470,"ĠCompiled":96471,"getPage":96472,"ADR":96473,".RichTextBox":96474,"ĠNaming":96475,"agged":96476,"ĠGANG":96477,"rasing":96478,"odeled":96479,"Ġgala":96480,"ĠJSName":96481,"ddf":96482,"Ġillust":96483,"ĠLansing":96484,"[port":96485,"-death":96486,"Ġdinheiro":96487,"ĠEighth":96488,"Ġbian":96489,"stÃ¥":96490,"Ġversión":96491,"ĠLinearGradient":96492,"ĠHarding":96493,".*)":96494,"eczy":96495,"$header":96496,"ĠvÃ¥r":96497,"Unchecked":96498,"Ġkoje":96499,"ĠPaladin":96500,"())),":96501,"Giving":96502,"()})Ċ":96503,"Ġdips":96504,"Friendly":96505,"Ġportrays":96506,"Ġhelium":96507,"Ġinsurgency":96508,"_expiry":96509,"ĠstringByAppendingString":96510,"Ġaantal":96511,"slope":96512,"mast":96513,".getInteger":96514,"Ġ########################":96515,"_PIPELINE":96516,"Ġdensely":96517,"Ġmutating":96518,"midi":96519,"ĠSeit":96520,"ayne":96521,"NOWLED":96522,"ĠDesmond":96523,"ĠFName":96524,"ĠNairobi":96525,"\\Context":96526,"Ġcalcular":96527,"-den":96528,"Ġcott":96529,"]):čĊ":96530,"ĠRecommendation":96531,"ĠRolex":96532,"ĠvalidationResult":96533,".pat":96534,"ĠnÃły":96535,"ĠRestClient":96536,"ĠGPI":96537,"ĠAsheville":96538,"ĠOSP":96539,"ĠPERMISSION":96540,"ÐĶаÑĤа":96541,"/notification":96542,"Knight":96543,"_Word":96544,"ĠBender":96545,"ranking":96546,"Ġpartida":96547,"_reservation":96548,"ÌĢ":96549,"ĠmName":96550,"Ġgetch":96551,"Ġborr":96552,"Ġdiligent":96553,"Discuss":96554,"æŃ£åľ¨":96555,"apeake":96556,"ioned":96557,"-Nazi":96558,".cum":96559,"ĠKron":96560,"=$('#":96561,"/single":96562,"Ġerotisch":96563,"ĠVib":96564,"Ġratified":96565,"Ġconcerted":96566,"ĠREGARD":96567,"Ġdobr":96568,".DriverManager":96569,"'r":96570,"Portable":96571,"ĉsuite":96572,"Ġrelaciones":96573,"ĠDop":96574,"emploi":96575,"DOB":96576,"Ġcrumbs":96577,"Ġxls":96578,"_Application":96579,"(':',":96580,"Ġ------------------------------------------------------------------------Ċ":96581,"mse":96582,"Ġberk":96583,"ĠReturnValue":96584,"ĠBelly":96585,"Ġcamar":96586,"ĠPeek":96587,"elsing":96588,"Ġnotifies":96589,"ĠTristan":96590,"ĠGAR":96591,"emme":96592,"ĠElevated":96593,"_CSV":96594,"(chalk":96595,"Ġtwenties":96596,"ĠSearchResult":96597,"=search":96598,"ĠMixing":96599,"ýt":96600,"Ġrecruiter":96601,"ĠIDEOGRAPH":96602,"ĠAgo":96603,"(Operation":96604,"$values":96605,"Ġworldly":96606,"ĠRosenberg":96607,"ĠConfigureServices":96608,">*Ċ":96705,"Ġsnork":96706,"_opacity":96707,"ĠinitWithNibName":96708,"iado":96709,"AAC":96710,"Ġ]).":96711,";z":96712,"_paragraph":96713,"Ġnoses":96714,"stands":96715,"ifr":96716,"_mE":96717,"Iraq":96718,".Predicate":96719,"enaire":96720,"]]];Ċ":96721,"Ġunidad":96722,"Ġretirees":96723,"_hello":96724,"Ġmodele":96725,"ĠUITableViewController":96726,"fwrite":96727,"_numero":96728,"_visited":96729,"Ġrecebe":96730,"(Notification":96731,"Fantastic":96732,"_submenu":96733,"ĠPEM":96734,"ĠCupertino":96735,"approximately":96736,"classed":96737,".ReadString":96738,"Ġdomicile":96739,"_PW":96740,"Ġballpark":96741,"ĠKale":96742,"contra":96743,"_favorite":96744,"/of":96745,"Quite":96746,"ĠOTA":96747,"Ġaccelerometer":96748,"didn":96749,"|^":96750,"ĠRohingya":96751,"ivicrm":96752,"annabin":96753,"обÑĭÑĤи":96754,"orado":96755,"')+":96756,"Haunted":96757,",ID":96758,"(UIAlertAction":96759,"urv":96760,"_bel":96761,"ĠMexicans":96762,"/terms":96763,"ĠPainter":96764,"InputLabel":96765,"ĠVinci":96766,"ĠRosie":96767,"\\uc":96768,"":96929,"_gs":96930,"Ġcompil":96931,"nard":96932,"-exc":96933,"Ġrhyme":96934,"Ġbutto":96935,"says":96936,"antasy":96937,"ë¸":96938,"ĠcittÃł":96939,"Ġcheg":96940,"TimeString":96941,"Ġpositivity":96942,"ĠDabei":96943,"Ġwang":96944,"Ġescre":96945,"\"c":96946,"ĉvideo":96947,"ĠRanked":96948,".strings":96949,">>>(":96950,"ĠинÑĤеÑĢ":96951,"Ġresta":96952,"[:,:":96953,"Ġrendre":96954,"Ġdeser":96955,"Jos":96956,"Ġdisruptions":96957,"ĠопеÑĢ":96958,"sampling":96959,"suppress":96960,"ĠcontainerView":96961,"ĠSeamless":96962,"Ġairy":96963,"Ġonload":96964,".WindowManager":96965,"ĠPLA":96966,"braco":96967,".setPositiveButton":96968,"Ġpdu":96969,"Ġgsi":96970,"ĠCli":96971,"_gradients":96972,"Ñıд":96973,"ĠWhisper":96974,"cstdint":96975,"Ġläng":96976,"Ġformulations":96977,"énom":96978,"ournemouth":96979,"[$_":96980,"Ġordinarily":96981,".setUsername":96982,"Ġfaculties":96983,"MITTED":96984,"/values":96985,"Ġweir":96986,"ĠApt":96987,"MZ":96988,"ĉcf":96989,"ucken":96990,"ĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉĉ":96991,"defense":96992,"[iVar":96993,"ĠBusinessException":96994,"Selectors":96995,"(coordinates":96996,"ĠResets":96997,"ĠDrinks":96998,"oleans":96999,"(stypy":97000,"_IOC":97001,".xxx":97002,"ĠSlater":97003,"ĠBelize":97004,"Ġ/************************************************************************":97005,"addin":97006,"_episodes":97007,"Ġischem":97008,"legalArgumentException":97009,"Danny":97010,"Ġpared":97011,".codehaus":97012,"ĠAssy":97013,"ĉRect":97014,"âŀ":97015,".lista":97016,"ĠваÑĪ":97017,"Ġvets":97018,"HWND":97019,"isoner":97020,"Ġxo":97021,"Ġorally":97022,"ĠStmt":97023,".rnn":97024,"ĠDPI":97025,"ĠStrikes":97026,".setViewportView":97027,"ĠèĩªåĬ¨çĶŁæĪIJ":97028,"YELLOW":97029,"GLenum":97030,"partners":97031,"ĠImplicit":97032,"Ġtako":97033,"âĢĻelle":97034,"Ġermög":97035,"totalCount":97036,"Gil":97037,"ĉwork":97038,"Ġpratic":97039,"inati":97040,"abies":97041,"ĠSkinner":97042,"Ġspirited":97043,"Ġpancreatic":97044,"Ġhdf":97045,"'em":97046,"Ġpsychosis":97047,"olicit":97048,"Ġ\"{\"":97049,"_atual":97050,"Ġélect":97051,"TEAM":97052,"Ġdak":97053,"ĠSWAT":97054,".FragmentManager":97055,"Ġprovisioning":97056,"lifetime":97057,"_EXTENSIONS":97058,"ĠCASCADE":97059,"Ġ![":97060,"(KP":97061,"Ġvem":97062,"ĠInterracial":97063,"']},Ċ":97064,"spacer":97065,"_kv":97066,"Warehouse":97067,"RDD":97068,"_fsm":97069,".StretchImage":97070,",Yes":97071,"ĠRefugee":97072,"ĠBringing":97073,"Ġválido":97074,".intersection":97075,"Ġspooky":97076,"_portal":97077,"Ġmoth":97078,"ĠZodiac":97079,"ĠSOCIAL":97080,"MimeType":97081,"']}}":97200,"_Blue":97201,"Ġbotanical":97202,"Ġfrags":97203,"Ġfamilial":97204,"-du":97205,"Ġseizing":97206,"(blocks":97207,".rd":97208,".checkNotNull":97209,"Ġmiser":97210,"Ġmaxx":97211,"ĠKnee":97212,"ViewItem":97213,"InnerHTML":97214,"Danger":97215,"((__":97216,"Ġprzypad":97217,"createUrl":97218,"**,":97219,"ĠDecorating":97220,"ATEGY":97221,"?>/":97222,".Designer":97223,"hexdigest":97224,"ĠEverywhere":97225,"alleries":97226,".TEXTURE":97227,".Blocks":97228,"zell":97229,"Ġpreço":97230,"Suddenly":97231,"inputEmail":97232,"(sync":97233,".bd":97234,"golden":97235,">');":97236,"ĠDickinson":97237,">>(Ċ":97238,"ĠQUEUE":97239,"ĠgetColumn":97240,"ĠSAND":97241,".piece":97242,"licer":97243,"Flutter":97244,"ĠgetVersion":97245,"ĠresourceId":97246,"ogl":97247,"ÅĤaw":97248,".Branch":97249,"ĉweb":97250,"Ġframerate":97251,"PPP":97252,"Ġfray":97253,"CNT":97254,"Ġinformatie":97255,"']čĊčĊ":97256,"neas":97257,"HeaderCode":97258,"Ġæ¸":97259,"Ġtrg":97260,"rawtypes":97261,"Honda":97262,"Ġmarketer":97263,"ĠrequestData":97264,"ĠPg":97265,"ĉnot":97266,"ĠpageInfo":97267,"Ġaktuellen":97268,"ãģķãĤĵ":97269,"ĠAMS":97270,"pushViewController":97271,"ĉAL":97272,"Ġvests":97273,"produce":97274,"-même":97275,"ĠRahman":97276,"Funny":97277,"EZ":97278,"_Valid":97279,"Ġsquadron":97280,"Ġlash":97281,"Ġirm":97282,"iasco":97283,"ĠParan":97284,"Ġpetites":97285,"ĠDecay":97286,"Ġuninitialized":97287,"privileged":97288,"Ġmbedtls":97289,"å¤ĩ注":97290,"Ġ^.":97291,"Ġecstatic":97292,"Detroit":97293,"Ġparten":97294,"Ġsouvenir":97295,".getLogin":97296,"моÑĤÑĢ":97297,"enção":97298,"ĠmÃŃnimo":97299,"ĠAccessed":97300,"rió":97301,"Mic":97302,"ĠVocal":97303,".SetString":97304,"Ġmensajes":97305,"åĢį":97306,"Ġattravers":97307,"ĠAph":97308,"Ġ');čĊ":97309,"ünde":97310,"Ġenchanted":97311,"ĠRootState":97312,"ĠCLOSED":97313,"ĉĉĉĉĉĉĉĉčĊ":97314,"Ġcaliente":97315,"orris":97316,"Ġphysicists":97317,"hwnd":97318,"_vi":97319,"Ġrápido":97320,"Ġcapitalized":97321,"edBy":97322,"Ġmachining":97323,"Ġhubby":97324,"ĠStacy":97325,".Bus":97326,"drink":97327,"Hur":97328,"Ġpropia":97329,"UnitTest":97330,"Ġmisconception":97331,"__));Ċ":97332,"/dc":97333,"ĠMayweather":97334,"_mC":97335,".createFrom":97336,"ĠQPainter":97337,"ropsych":97338,"innitus":97339,"ayas":97340,"Ġgeg":97341,"(dw":97342,"Ġusado":97343,"Ġtrickle":97344,"Ġannihil":97345,"ĠPasta":97346,"Ġ++Ċ":97347,"(ExpectedConditions":97348,".postValue":97349,"icap":97350,"ĠDonetsk":97351,"_soup":97352,"-publish":97353,"ĠPb":97354,"mentions":97355,"ACCEPT":97356,".Pull":97357,",âĢĻâĢĻ":97358,"Ġretarded":97359,"_ATOM":97360,"ĠTerminator":97361,"-court":97362,"ĠCLLocationCoordinate":97363,"Ġreverence":97364,"ĠSSC":97365,"utely":97366,"ĠWON":97367,"ĠGSL":97368,"frei":97369,".getLongitude":97370,"ĠopenFileDialog":97371,".Butter":97372,"-important":97373,"_MANY":97374,"ĠGong":97375,"âĢľHow":97376,"Ġgorge":97377,"=msg":97378,"ĠEzek":97379,"createCommand":97380,":checked":97381,"Ġinfographic":97382,".WEST":97383,"Dirs":97384,"Ġguarda":97385,"Ġbeetle":97386,"Loading":97460,"_mA":97461,".getRandom":97462,"blings":97463,"Ġcheeses":97464,"tti":97465,".âĢ¢":97466,"ĠBurgess":97467,"enderit":97468,".',čĊ":97469,"(\"\"+":97470,"acb":97471,"%p":97472,"indexed":97473,"_predicate":97474,"nesia":97475,"Ġbied":97476,"ĠCIT":97477,"(Pos":97478,"_radi":97479,"ä»·æł¼":97480,"Biz":97481,"ĠAdolescent":97482,"Ġviên":97483,"cycl":97484,"_Cancel":97485,"Ġconclusive":97486,"Ġappellate":97487,"informatics":97488,"SJ":97489,"Ġelective":97490,"roleId":97491,"Fetcher":97492,"ĉCommand":97493,"(\"(%":97494,"Ġfart":97495,"ILA":97496,"getBlock":97497,"AUSE":97498,"Ġдан":97499,"ĠArte":97500,"Ġnotifying":97501,"Ġgele":97502,".same":97503,"ĠRegel":97504,"ĠBaÅŁ":97505,".creation":97506,"ĠVN":97507,"_community":97508,"Ġunsustainable":97509,"SEX":97510,"ĠgridSize":97511,"rescia":97512,"aversable":97513,"(',')[":97514,"ĠPhelps":97515,"á»ķi":97516,"ANCELED":97517,"-IS":97518,".runners":97519,"ĠStokes":97520,".Produ":97521,"Ġwhipping":97522,"_acquire":97523,"Ġinvestigación":97524,"fried":97525,".copyWith":97526,"ĠHardcover":97527,"-Se":97528,"áŀ¶áŀ":97529,"invitation":97530,"lesai":97531,"ĠDorm":97532,"ĠÑģпиÑģка":97533,"Ġconcatenated":97534,"ophil":97535,"Ġthinker":97536,"/fontawesome":97537,"ĠLeopard":97538,"Ġ\"/\");Ċ":97539,"Ġresiduals":97540,"ĠMicrowave":97541,"Ġconforme":97542,"throp":97543,"Ġdisemb":97544,"ĠOMG":97545,"ĠDiscipline":97546,"ĠAcrobat":97547,"/repository":97548,"dfa":97549,"_MED":97550,"bufio":97551,"Ġméthode":97552,"_HOLD":97553,"iasi":97554,"_legacy":97555,")ččĊ":97556,"æ£Ģ":97557,"GetProcAddress":97558,"Ġyay":97559,"otence":97560,"orderid":97561,"-tw":97562,"Ġdearly":97563,"Incoming":97564,"/il":97565,"Ġneurop":97566,"ucz":97567,");čččĊ":97568,"ĠInnovative":97569,"Ġprofund":97570,"igmat":97571,"SelectionMode":97572,"relevant":97573,".GO":97574,"Ġbruises":97575,"Ġsach":97576,"odef":97577,"Ġreimb":97578,"/desktop":97579,"-spot":97580,"undance":97581,"Entropy":97582,"\\core":97583,"Ġsuger":97584,"ĠMvc":97585,"ĠGNOME":97586,"_indx":97587,"ĠYYSTYPE":97588,"ĠMatlab":97589,"ĠCIF":97590,"Ġ*))":97591,"ĠproductList":97592,"ĠAlright":97593,"acemark":97594,"ÑĤив":97595,"modification":97596,"international":97597,"Ġhomers":97598,"Ġdicts":97599,"ĠQFont":97600,".SQLite":97601,"Ġtransplantation":97602,"ĠMessageBoxButton":97603,"ĠElves":97604,"']])Ċ":97605,"(QIcon":97606,"Ġcinemas":97607,"COORD":97608,"-China":97609,"Ġkhẩu":97610,"æĪijçļĦ":97611,"Ġskulls":97612,"Ġpainstaking":97613,"fce":97614,".XRLabel":97615,"Ġspecifier":97616,"Ġpreferring":97617,"/activity":97618,"(Photo":97619,"ált":97620,".lot":97621,"''.":97622,"annonce":97623,".googlecode":97624,"-pdf":97625,"ĠPoke":97626,"_ACL":97627,"Ġendowed":97628,"discover":97629,".omg":97630,"Ġwoodland":97631,".Magic":97632,"Ġvolont":97633,"NotAllowed":97634,"Ġchave":97635,"BMW":97636,"','=',":97637,"ĠSIX":97638,"æĪij们":97639,"Ġkosher":97640,"Ġaspiration":97641,"intl":97642,"_refptr":97643,"'+Ċ":97644,"mentor":97645,".club":97646,"WindowState":97647,".ARR":97648,"Ġzza":97649,"ĠmessageType":97650,".equ":97651,"Thor":97652,"Ġinjust":97653,"Ġgums":97654,"ĠborderSide":97655,"/////":97656,"ĠTransmit":97657,"Ġbufsize":97658,"Ġhak":97659,"Ġellas":97660,"RANDOM":97661,"ĉmc":97662,"Ġpea":97663,"eko":97664,"documento":97665,"Ġhysteria":97666,"Ġarenas":97667,"Ġgunmen":97668,"Ġmike":97669,"Ġimpunity":97670,"atisation":97671,"_Zero":97672,"_COMPANY":97673,"ĠGors":97674,"ĠuseClass":97675,"(redis":97676,"ĠRUNNING":97677,"ĠBair":97678,"velte":97679,"Ġ','.":97680,"аÑĤÑĮÑģÑı":97681,"öst":97682,"encodeURIComponent":97683,"_restrict":97684,"Ġdecals":97685,"ĠPedido":97686,"Ġaltercation":97687,"Displays":97688,"ĠApplicants":97689,"CUS":97690,"Textarea":97691,"ĠAngola":97692,".future":97693,"ĠUSHORT":97694,"Ġsuppressing":97695,"Ġsetzen":97696,"APolynomial":97697,"Ġtoch":97698,"Ġhallmark":97699,"Ġ$$$":97700,"ĠCHARSET":97701,".rpm":97702,"ĠDich":97703,"--------------------":97704,"_parm":97705,"è¿ĺ":97706,"acciones":97707,"hait":97708,"WARDED":97709,"_routing":97710,"ĠNOM":97711,"Ġenclave":97712,"ĠLotto":97713,"ĉfr":97714,"complexContent":97715,"ĠBallard":97716,"kube":97717,"/win":97718,".getColumnModel":97719,"_REPLACE":97720,"HeaderValue":97721,"Ġestudiantes":97722,"Ġapis":97723,"Ġbpm":97724,"ĠTypeName":97725,"AndGet":97726,"rita":97727,"Plans":97728,">Note":97729,"Ġfetisch":97730,"Ġtoned":97731,"_goto":97732,"onsense":97733,"Ġmolds":97734,"Ġinfiltration":97735,"ĠGuerrero":97736,"ubbo":97737,"cki":97738,"($(\".":97739,"_activities":97740,"(changes":97741,"ĠofApp":97742,"ĠKepler":97743,"ĠDemp":97744,"ĠContinent":97745,".Ticks":97746,"ĠUnsigned":97747,"ĠJahres":97748,"Ġfreshmen":97749,"ĠArchived":97750,"ĠкоÑĤоÑĢÑĭй":97751,"Ġ'::":97752,"Tutorial":97753,"Cc":97754,"ĠtableLayoutPanel":97755,"fromJson":97756,".levels":97757,"_transient":97758,"Ġendorsing":97759,"ĠDIC":97760,"lauf":97761,"Ġshred":97762,"_EMIT":97763,"ificantly":97764,"ALA":97765,"/proto":97766,"Ġnarrowing":97767,"Utc":97768,"Factors":97769,"Ġsentient":97770,"æŀIJ":97771,"lixir":97772,"ĠCROSS":97773,"meteor":97774,"Ġgroin":97775,"Ġmdb":97776,"ĠRotterdam":97777,"Ġcomida":97778,"ĠOpCode":97779,"ĠDefaultValue":97780,"PermissionsResult":97781,"Ġheterogeneous":97782,"Ġmoot":97783,"Ġdeceived":97784,"-independent":97785,"ĠObjectOutputStream":97786,"Ġoverpower":97787,".dup":97788,"Ġldb":97789,"Ġdomestically":97790,"Ġbestellen":97791,"Ġlov":97792,"ĠContractors":97793,"Triangles":97794,"Ġfodder":97795,"Ġfilmes":97796,"ä¼ģ":97797,"Ġrevolver":97798,"StartupScript":97799,"/validation":97800,"ĠResourceType":97801,"iÅŁ":97802,"ĠLaz":97803,"fef":97804,"Ġlstm":97805,"{*":97806,".attachment":97807,".hits":97808,"ewith":97809,"DOG":97810,"Alabama":97811,"Ġmediums":97812,".mContext":97813,"-cols":97814,"åıĭ":97815,".notice":97816,"Ġattn":97817,"ĠPacking":97818,"ĠLn":97819,"_COMPLEX":97820,"/Users":97821,".savetxt":97822,"ĠRounds":97823,"?,?,?,?,":97824,"Ġingl":97825,"ĠROC":97826,"_female":97827,"ĠStard":97828,"]];":97829,"Ġwrestlers":97830,"Ġtorrents":97831,"Ġsinh":97832,"ĊĊ":97833,"ë³µ":97834,"sense":97835,"however":97836,".Physics":97837,"Infrastructure":97838,"ĠSacr":97839,"Fel":97840,"ĠDISTRIBUT":97841,"éments":97842,"ĠValidates":97843,"############################################################":97844,"Ġ|/":97845,"Ġesl":97846,"Ġréseau":97847,"ĠBip":97848,"BYTES":97849,"_WATER":97850,"Turning":97851,"ELS":97852,"Ġjuxtap":97853,"Ġlesbische":97854,"ých":97855,"(Unknown":97856,"Neo":97857,"@JsonProperty":97858,"Ġalumnos":97859,"ĠRaqqa":97860,"imei":97861,".getBounds":97862,".MouseEventHandler":97863,"#######":97864,"GenericType":97865,"/cms":97866,"Ġturno":97867,"Ġмин":97868,"Ġfolklore":97869,"ĠEvo":97870,"Ġconductivity":97871,"Ġleben":97872,"Ġgearbox":97873,"-vs":97874,"ĠÏĨ":97875,"Ġdrinkers":97876,"Ġconexao":97877,"ĠTeeth":97878,"ĠgetArguments":97879,"ĠRAT":97880,"entious":97881,"Educ":97882,"+W":97883,"ĠInstitutional":97884,"ĠBord":97885,"isEqual":97886,"(pwd":97887,"Ġignited":97888,"ĠRousse":97889,"Ġimpactful":97890,"ĠMalk":97891,"Ġgeral":97892,"ĠPivot":97893,"Ġazt":97894,"Ġcsvfile":97895,"ĠRope":97896,"ĠSOLUTION":97897,"ĠArbitrary":97898,"Ġletto":97899,".MouseAdapter":97900,"Ġ}}}":97901,"ĠSailor":97902,"dera":97903,"Putting":97904,"Ġconcentrates":97905,"ĠauthDomain":97906,"âĢĿçļĦ":97907,"-finals":97908,",strlen":97909,"Muon":97910,"ĠOrdinary":97911,"firefox":97912,"ĠLaTeX":97913,"ĠHund":97914,"engineering":97915,"/blue":97916,"edTextBox":97917,"(\"\");":97918,"ĠCDDL":97919,"kept":97920,"ĠGetString":97921,"Kir":97922,"()='":97923,"ĠOCD":97924,"antium":97925,"$menu":97926,"ĠAppalachian":97927,"Secretary":97928,"ë¥ĺ":97929,"ีย":97930,"Semantic":97931,"Ġ*[":97932,"estone":97933,"ungkin":97934,"MaxY":97935,"-tone":97936,"\"};čĊ":97937,"_Part":97938,"ĊĊ":98140,"Lic":98141,"ĠMirage":98142,"ĠAssemblyFileVersion":98143,"TeV":98144,"ĠValueEventListener":98145,"-solving":98146,"Tho":98147,"roulette":98148,"_WP":98149,"Ġuninterrupted":98150,"ĠfieldType":98151,".Typed":98152,"Ġamour":98153,"Ġmockery":98154,"(vol":98155,"ĠSubcommittee":98156,"ĠRuf":98157,"erox":98158,":UIButtonTypeCustom":98159,"ĠBlur":98160,"Ġwykon":98161,"nces":98162,"ASHBOARD":98163,"!!\");Ċ":98164,"Ġmurderers":98165,".daily":98166,"ĠDIAG":98167,"jing":98168,"Ġdolphin":98169,"Ġlòng":98170,"Ġbö":98171,"ĠVocabulary":98172,".StObject":98173,"')\">":98174,"Ġzun":98175,"Ġscrimmage":98176,"tréal":98177,"ĠLig":98178,"[vi":98179,"Cole":98180,"Ġfrosting":98181,".Players":98182,"-translate":98183,"Feels":98184,"=\\\"/":98185,".ButterKnife":98186,"Ġ?>;Ċ":98187,"Ġavi":98188,"innie":98189,".Failure":98190,"Ġspindle":98191,"ConfigurationException":98192,"_hop":98193,"Ġposição":98194,"ĠAwait":98195,"UIImagePickerController":98196,"ĉday":98197,"Ġgenom":98198,"Cab":98199,"ĠÑĢезÑĥлÑĮÑĤаÑĤ":98200,"ORIGINAL":98201,"Ġejaculation":98202,"(tcp":98203,"SECOND":98204,"Ġtonic":98205,"ĠListBox":98206,"ĠĉĉĊ":98207,"()>Ċ":98208,"Ġquatre":98209,"ượng":98210,"withErrors":98211,".Maybe":98212,",â̦":98213,"tokenId":98214,"_UNDEF":98215,"Ġfreshness":98216,"ĠAmendments":98217,".mapbox":98218,".CV":98219,"(blog":98220,"_gettime":98221,".quest":98222,"sparse":98223,"Ġresale":98224,"Ġenthusiastically":98225,"ĠProstitutas":98226,"Wa":98227,"Cargo":98228,".Parcelable":98229,"SENSOR":98230,"ĠRyu":98231,"Laughs":98232,"_Native":98233,"/pg":98234,"ysts":98235,"Ġphotoc":98236,"ç®Ģ":98237,"adopt":98238,".species":98239,"conciliation":98240,"Adjusted":98241,".FirebaseAuth":98242,"uttle":98243,"ordination":98244,"Ġmunch":98245,"ĠStake":98246,".ping":98247,"anker":98248,"(QStringLiteral":98249,"Ġsubscript":98250,"ĠĠĉĊ":98251,"ĠMCC":98252,"_Cmd":98253,"sexy":98254,"iou":98255,"ĠMANY":98256,"Ġnanny":98257,"TRAIN":98258,"Ġflourishing":98259,"ĠWatches":98260,"ĠQMap":98261,"ĠFerm":98262,"Ġwasm":98263,"ĠAbed":98264,"_UD":98265,"ĠGlasses":98266,"+v":98267,"Attend":98268,".Chain":98269,"Ġdecency":98270,"ĠSupplementary":98271,"hunter":98272,"-txt":98273,"Ġ\"}\";Ċ":98274,".setWindowTitle":98275,"(\"":98377,"Ġmascara":98378,"(Profile":98379,"åĬŁèĥ½":98380,"imité":98381,"Ġwildfires":98382,"-ROM":98383,".isOn":98384,"(groupId":98385,"Repair":98386,"accumulate":98387,"Ġ<\",":98388,"Ġhandwritten":98389,"Ġacheter":98390,"ĠMGM":98391,"ĠIrma":98392,"->{_":98393,"gee":98394,"criminal":98395,"Ġèĭ¥è¦ģ":98396,"Ġmomentarily":98397,"\")!=":98398,"_lit":98399,"ĠexpiresIn":98400,".\").":98401,"éķ¿åº¦":98402,"Ġfrække":98403,"vlc":98404,"Ġorbs":98405,"),$":98406,"Ġventured":98407,"/>\\":98408,"charm":98409,"Nuitka":98410,"eldig":98411,"atonin":98412,"Witness":98413,"-lat":98414,"ĠsetHidden":98415,"Ġrelics":98416,"Ġconsulate":98417,".IGNORE":98418,"\"After":98419,"ĠsetAddress":98420,"Ġbesteht":98421,"Ġ'')ĊĊ":98422,".xaxis":98423,"Ġserão":98424,"Ġmisled":98425,"_UNIFORM":98426,"ĠVIA":98427,"incr":98428,"Ġzenith":98429,"Ġviscosity":98430,"Ġthinly":98431,".getSharedPreferences":98432,".ErrorCode":98433,"\"),\"":98434,"ĠMillionen":98435,"Ġ/>)Ċ":98436,"ScrollIndicator":98437,"-seeking":98438,"ĠPOLITICO":98439,"asca":98440,"_rl":98441,"Navig":98442,"(fullfile":98443,"Ġsolitude":98444,"Ġjuven":98445,"Ġhauling":98446,"ĠMacros":98447,"ĠGry":98448,"Ġexercitation":98449,"ĠATTACK":98450,"TickCount":98451,"Ġrites":98452,"Ġdoe":98453,"ParticleSystem":98454,"Ġslu":98455,"WindowText":98456,"ĠClassName":98457,"Ġslander":98458,"ĉPort":98459,"jong":98460,"?a":98461,".Dial":98462,"âĢĶat":98463,"$objPHPExcel":98464,"Ġsoar":98465,"ENN":98466,"appeared":98467,"Ġquotid":98468,"emachine":98469,"Ġnip":98470,"Ġmicrotime":98471,"ĠAlma":98472,";!":98473,"------------------------------------------------------------------------------------------------":98474,"ĠPassage":98475,"Ġdumpsters":98476,"ĠExclude":98477,"Ġsuggestive":98478,"ĠCircularProgressIndicator":98479,"_clr":98480,"ArrayType":98481,"ILLA":98482,"ElapsedTime":98483,"Driven":98484,"ĠresourceName":98485,"ĠGarrison":98486,"serir":98487,"-ahead":98488,"Ġpinnacle":98489,"ĠEspresso":98490,"Sparse":98491,"Ġassays":98492,"ĠGirlfriend":98493,"imid":98494,"]='\\":98495,"ONGLONG":98496,"Ġportraying":98497,"Lane":98498,"Ġbúsqueda":98499,"Ġreinforcements":98500,"ĠSpreadsheet":98501,"ĠArrayCollection":98502,",arr":98503,"lightbox":98504,"icana":98505,"<\"":98506,"builders":98507,"Kid":98508,"ĠMatSnackBar":98509,"EXPR":98510,"odcast":98511,"ĠFoundations":98512,"Ġinds":98513,"='${":98514,"Fizz":98515,"-functional":98516,"(workspace":98517,"Ġstemmed":98518,"_patches":98519,"ĠJarvis":98520,"READING":98521,"Ġdisrespectful":98522,"ĠQDom":98523,"Ġ${Ċ":98524,"estatus":98525,"Reached":98526,"!.ĊĊ":98527,"ILT":98528,"ĠNDEBUG":98529,"ĠCourage":98530,"birthdate":98531,"ĠTing":98532,"Ġutilizado":98533,"ánchez":98534,"Outdoor":98535,"Ġhandguns":98536,"RefCount":98537,"ÉĻ":98538,"romo":98539,"Ġtts":98540,".She":98541,"ĠPane":98542,"ãĢij,ãĢIJ":98543,"ĠIOCTL":98544,"/black":98545,"inscription":98546,"Ġbiopsy":98547,"ĠTimeInterval":98548,".TestCheck":98549,"ĠGUIStyle":98550,"ĠCapability":98551,"ĠBeitrag":98552,"donnees":98553,"Treatment":98554,".backup":98555,"Ġsignings":98556,"ĠBoca":98557,"drm":98558,".MAIN":98559,"Ġgoede":98560,"ĠMarkup":98561,"GREE":98562,"ĠBaseService":98563,".Creator":98564,"Ġjails":98565,"ĠKahn":98566,"IpAddress":98567,"ACHI":98568,"Ġinhibited":98569,"Ġ@$_":98570,"ĠAssass":98571,"Ġenviado":98572,"Heroes":98573,"ÐŁÐµÑĢ":98574,"ĠMaven":98575,".ls":98576,"Ġive":98577,"|RF":98578,"ĠresizeMode":98579,"Ġrumpe":98580,"_attachments":98581,"TU":98582,"Ġtactile":98583,"Attempting":98584,"Ġrobin":98585,"yaw":98586,"Ġmercenaries":98587,"ĠHabitat":98588,"enddate":98589,"Ġoxy":98590,"ĉRandom":98591,"ohon":98592,"IsNull":98593,"ĠValidationResult":98594,"ãĥļ":98595,"umbed":98596,"ppv":98597,"Ġarp":98598,"ichick":98599,"_rnn":98600,"ĠTFT":98601,"TexImage":98602,"\"On":98603,"ĠSampler":98604,"topl":98605,"Ġjane":98606,"yling":98607,"ĠUNICODE":98608,"TabIndex":98609,"<{Ċ":98610,"suspend":98611,"uvian":98612,",application":98613,"олиÑĩеÑģÑĤво":98614,"yat":98615,"ezier":98616,"ĠCHUNK":98617,"ĠAdler":98618,"/Add":98619,"ĠKeyValue":98620,"Ġsposób":98621,"Sampling":98622,"chers":98623,"_AMD":98624,"Ru":98625,".MustCompile":98626,"Nation":98627,"Assoc":98628,"Managing":98629,"ĠEngl":98630,"_GB":98631,"Ġsuccinct":98632,"Ġdisliked":98633,"ĠIke":98634,"Bulletin":98635,"_ARCHIVE":98636,"Proposal":98637,"Ġjogging":98638,".CREATED":98639,"Ġchol":98640,"è£ħ":98641,"Į¨":98642,"-push":98643,"Ġreserva":98644,"corev":98645,"ètre":98646,"THR":98647,"Ġincompetence":98648,"Ġcharisma":98649,"æĦŁ":98650,"Ġ\"==":98651,"BTN":98652,"ĠLocator":98653,"ivet":98654,"('.')Ċ":98655,"ĠforIndexPath":98656,"ôme":98657,"Ġcapacit":98658,"waters":98659,"ĠWRONG":98660,"hoa":98661,"ĠMIPS":98662,"Ġemiss":98663,"ĠJacqueline":98664,"(cmp":98665,"Ġeens":98666,"Leo":98667,".timing":98668,"CLUSION":98669,"Ġ(\"-":98670,"åĵĪ":98671,".kode":98672,"ĠUndert":98673,"Ġbewild":98674,"ĠEssen":98675,".hd":98676,"Ġrenegot":98677,"Ġmower":98678,"Ġlsp":98679,"Ġpenchant":98680,"Ġmanoe":98681,"Ġagli":98682,"Ġrecal":98683,"ĠOPERATION":98684,"(^)(":98685,"Ġν":98686,"ĠScoped":98687,"Ġ@\"Ċ":98688,"=label":98689,"[loc":98690,"Intl":98691,"ĠNz":98692,"tablet":98693,".ColumnName":98694,"ĠscreenSize":98695,"DBus":98696,"cooked":98697,"-registration":98698,"âĢľOne":98699,"-non":98700,"ĠwiÄĻc":98701,"Ġcosta":98702,".addTab":98703,".conditions":98704,"ĠHess":98705,"MEMORY":98706,"ĠAvalanche":98707,"()}}Ċ":98708,"Ġtriplet":98709,"Ġlabyrinth":98710,"ĠNodeList":98711,"ĠNYT":98712,"Ġyeni":98713,"dff":98714,".HtmlControls":98715,"AVIS":98716,"/Math":98717,"Ġmemcmp":98718,"اء":98719,"оÑģÑĮ":98720,"crap":98721,"(pages":98722,"Ġlxml":98723,"ĠQDateTime":98724,"_tcb":98725,"Ġopenid":98726,"Ġsynaptic":98727,"ĠMDMA":98728,"(slug":98729,"igmatic":98730,"enor":98731,"Ġcramped":98732,"GOP":98733,"ŃIJ":98734,".isFile":98735,"ĠDifferential":98736,"Ġ=\"\";Ċ":98737,"ĉĉĉĠĠĠĠĉ":98738,"ĠCooke":98739,"ĉUFUNCTION":98740,"Ġperseverance":98741,"RelativeLayout":98742,"IMPORTANT":98743,"Ġexon":98744,"Ġон":98745,"ibase":98746,"(CONT":98747,"novation":98748,"ä½ķ":98749,"[sub":98750,"AdminController":98751,"HTTPHeader":98752,"crear":98753,"ĠNIR":98754,"ĠDropDownList":98755,"Ġvalide":98756,"Ġdehydration":98757,".']":98758,"(WIN":98759,"Ġ...\\":98760,"Ġphotoshop":98761,"ĉInit":98762,"_cou":98763,"ĠtimeZone":98764,"darwin":98765,"romatic":98766,"NavigationItemSelectedListener":98767,"brates":98768,"]--;Ċ":98769,"Ġtragedies":98770,"ĠPediatrics":98771,"SMART":98772,"-API":98773,"ĠMessageLookup":98774,"ĉvo":98775,"Ġprejudices":98776,"ĠmA":98777,"Ups":98778,"ĠMISSING":98779,"ĉad":98780,"Cream":98781,"ĠTb":98782,"ĠMona":98783,"_ghost":98784,"ĉtypes":98785,"Emb":98786,"ĠDocumentary":98787,"');ĊĊĊĊ":98788,"Ġlup":98789,"_Reference":98790,"ĠBATCH":98791,"Ġintertwined":98792,"":98915,"Ġfoyer":98916,"'utilisation":98917,"ĠMüller":98918,"ĠFetish":98919,"ĠdefaultManager":98920,"Ġbacktrack":98921,"Bah":98922,"Explicit":98923,"_ASCII":98924,"ĠmActivity":98925,"(Msg":98926,"Ġê²Į":98927,"ĠTERMS":98928,"ĠAngie":98929,"HSV":98930,"ĠMosque":98931,".Names":98932,"íĬ¼":98933,"reste":98934,"_parms":98935,"Ġgaping":98936,"Ġcropping":98937,"DataFrame":98938,"Ġresponsiveness":98939,"_undo":98940,"_tran":98941,".terminate":98942,"Ġitaliane":98943,"Ġwalkthrough":98944,"Ġattractiveness":98945,"де":98946,"_STS":98947,"_learn":98948,"Ġchocolates":98949,"ierarchical":98950,"-thinking":98951,"Ġ)))":98952,"ishments":98953,".Logf":98954,"ĠTMZ":98955,"ĠCanary":98956,"foil":98957,"ĠVaccine":98958,".vx":98959,"ĠSurround":98960,"Intermediate":98961,"Ġiov":98962,"vais":98963,"';\";Ċ":98964,"ï½ŀĊĊ":98965,"éĢģæĸĻ":98966,"â̦it":98967,"Seats":98968,"Clar":98969,"Wars":98970,"ĠHutchinson":98971,"ĠHasan":98972,"!')ĊĊ":98973,"ĠRichie":98974,"cheiden":98975,"($('":98976,"York":98977,"Ġlids":98978,"Ġalphanumeric":98979,"ĠGlock":98980,".shapes":98981,"Ġsparking":98982,"_epsilon":98983,"uplicated":98984,".dirty":98985,"])==":98986,"ĠìľĦì¹ĺ":98987,"Ġscn":98988,"Ġ/****************************************************************":98989,"_PREVIEW":98990,"_HC":98991,"ielding":98992,"fgets":98993,"ĠAddison":98994,"ĠproductService":98995,"-figure":98996,"(retval":98997,"zano":98998,"Ġautob":98999,"ĉsd":99000,"_numer":99001,"ĠSetLastError":99002,"ĠFior":99003,"ificance":99004,"Untitled":99005,"Ġinfield":99006,"Ġ{}));Ċ":99007,"Ġspac":99008,"Ġrookies":99009,"(describing":99010,"ngen":99011,"ிà®":99012,".rdf":99013,".Mutex":99014,"Ġkneeling":99015,"ĠQE":99016,"setMax":99017,"ReadStream":99018,"Ġventas":99019,"sut":99020,"cmpeq":99021,".WriteAllText":99022,"ĠExperienced":99023,"$__":99024,"Ġkaum":99025,"ĠLIS":99026,"Ġdocumentos":99027,"_HEALTH":99028,"icontains":99029,"Ġartisans":99030,"OWNER":99031,"Ġblinked":99032,"getDisplay":99033,"Ġtoen":99034,"ĠrowNum":99035,"Ġavril":99036,"Ġinvis":99037,"ĠKear":99038,"toBeInTheDocument":99039,"apur":99040,"Ġracked":99041,"ĠMcMaster":99042,"_ATTRIB":99043,"Haz":99044,"Ġfactura":99045,"/ts":99046,"ĠÑĢазмеÑĢ":99047,"Ġzf":99048,"Ġshortfall":99049,".fasta":99050,"ĠCONSTANT":99051,".managed":99052,"gems":99053,"SharedPointer":99054,"Ġblurry":99055,"brightness":99056,"(components":99057,"Ġ...\"ĊĊ":99058,"SELL":99059,"ĠIllustrator":99060,".getChannel":99061,"Ġtrouvé":99062,"ysters":99063,"Ġvois":99064,"ĠLinden":99065,"Ġemojis":99066,"Ġbrawl":99067,"ĠMSR":99068,"ĠElo":99069,"ĠCroatian":99070,"PopupMenu":99071,"Lewis":99072,".JWT":99073,"Ġastonished":99074,"Bush":99075,"(itemId":99076,"Ġdetachment":99077,"ĠEncore":99078,"å°Ķ":99079,"Ġrekl":99080,"Ġcram":99081,")$/":99082,".getHost":99083,"_recommend":99084,"-HT":99085,"_calibration":99086,"Authenticate":99087,".firebaseapp":99088,"UNIX":99089,"ĉCamera":99090,"ĠHEAP":99091,"Ideal":99092,".office":99093,"Ġgoofy":99094,"(Symbol":99095,"Ġjouer":99096,"_partitions":99097,"Ġrapidement":99098,"ĠGNUNET":99099,"idUser":99100,"Ġsupervise":99101,"(Contact":99102,"AWN":99103,"ãģĺ":99104,"Ġnaam":99105,"Ġaust":99106,"åľ¨çº¿":99107,"_softmax":99108,"AllowAnonymous":99109,"ammable":99110,"ROUTE":99111,"*D":99112,"Ġaden":99113,"ĠCristina":99114,"ĠCristiano":99115,"Ġbloodstream":99116,"subclass":99117,"_persona":99118,"CHILD":99119,"-know":99120,"ĠnavigationOptions":99121,"ĠZukunft":99122,"ĠPixar":99123,"Tyler":99124,"Ġunderworld":99125,"Ġsincerity":99126,"Ġdispenser":99127,"Ġkter":99128,"idders":99129,".addNode":99130,"-checked":99131,"Ġkeyst":99132,"ĠWTO":99133,".signals":99134,"Ġadventurer":99135,"ĠPang":99136,"\\R":99137,"=pos":99138,"Ġdispensaries":99139,"ĠCloset":99140,"(\"{\\\"":99141,"ideon":99142,"Ġnécessaire":99143,"()\"Ċ":99144,"_RECEIVED":99145,"Ġrésultats":99146,"Ġmoden":99147,"ĠIcelandic":99148,";d":99149,".allowed":99150,"(newUser":99151,"Ġmerciless":99152,".WaitFor":99153,"Ġdaycare":99154,"ĠConveyor":99155,"çĸ":99156,"ð¬":99157,"çĥ":99158,"çĹ":99159,"çł":99160,"èĦ":99161,"é²":99162,"å¦":99163,"çĿĢ":99164,"å¾Ī":99165,"éħ":99166,"çĭ":99167,"éª":99168,"æĤ":99169,"é¥":99170,"èħ":99171,"æĥ³":99172,"å¨":99173,"é¹":99174,"çĤ":99175,"åĴ":99176,"çĮ":99177,"è´¨":99178,"æ¢":99179,"æ°Ķ":99180,"ð«":99181,"æķĻ":99182,"çŁ":99183,"åĦ":99184,"åıijå±ķ":99185,"åĪĽ":99186,"èij":99187,"æħ":99188,"åŀ":99189,"åģļ":99190,"æĪĺ":99191,"æIJ":99192,"强":99193,"æ·±":99194,"åĩł":99195,"ç¿":99196,"å©":99197,"èŀ":99198,"å§Ķ":99199,"åIJĦ":99200,"èİ":99201,"é¸":99202,"éº":99203,"åıĹ":99204,"èģĮ":99205,"åĺ":99206,"æ½":99207,"é£İ":99208,"èIJ¥":99209,"åħļ":99210,"èľ":99211,"éĤ£":99212,"é¢Ĩ":99213,"çij":99214,"é³":99215,"æľ¯":99216,"ä»Ģ":99217,"æĪ¿":99218,"ç²¾":99219,"åª":99220,"éĨ":99221,"太":99222,"èĤ¡":99223,"èĽ":99224,"åħī":99225,"æŀģ":99226,"åĬŀ":99227,"èĵ":99228,"çĺ":99229,"å´":99230,"åĹ":99231,"èĬ±":99232,"çłĶ":99233,"å¿«":99234,"å¸Ī":99235,"è¶Ĭ":99236,"è§Ĥ":99237,"æ¤":99238,"æ¦":99239,"çŀ":99240,"èĤ²":99241,"çα":99242,"çϽ":99243,"ä¸ĸ":99244,"ä»Ģä¹Ī":99245,"çľ¼":99246,"å³":99247,"èĴ":99248,"æĵ":99249,"被":99250,"å¹²":99251,"çĹħ":99252,"士":99253,"çĴ":99254,"è¸":99255,"æ¾":99256,"å·¥ä½ľ":99257,"让":99258,"çĥŃ":99259,"è¾ĥ":99260,"åĦ¿":99261,"åĬ©":99262,"积":99263,"ç³":99264,"çĵ":99265,"ç£":99266,"åĤ":99267,"è¹":99268,"èļ":99269,"å·±":99270,"çϾ":99271,"åĬ¿":99272,"èµĽ":99273,"æ¨":99274,"æ¿":99275,"èĸ":99276,"æĿij":99277,"带":99278,"å¢ĥ":99279,"æĬ¤":99280,"éŃ":99281,"å«":99282,"èĩªå·±":99283,"æµİ":99284,"ä½İ":99285,"åĮ»":99286,"éĺ²":99287,"åĨľ":99288,"èĨ":99289,"çĨ":99290,"é«":99291,"åĨĽ":99292,"æĪı":99293,"åįĩ":99294,"æĸ¯":99295,"ä½ı":99296,"èIJ½":99297,"åħ»":99298,"èĩ´":99299,"çĬ":99300,"çĩ":99301,"çħ":99302,"èĶ":99303,"ä¼ģä¸ļ":99304,"åĽ¢":99305,"æīį":99306,"æł¡":99307,"åĩĨ":99308,"å¥ĩ":99309,"åī¯":99310,"é¼":99311,"æ¼Ķ":99312,"马":99313,"èµ°":99314,"ç¥ŀ":99315,"åħĭ":99316,"æľĽ":99317,"æ²¹":99318,"è¾¹":99319,"åįĥ":99320,"å¾Ģ":99321,"åĪĩ":99322,"æ©":99323,"ç¶":99324,"åĻ":99325,"éĻħ":99326,"çīĮ":99327,"社ä¼ļ":99328,"游æĪı":99329,"æĸ½":99330,"çħ§":99331,"æİ§":99332,"满":99333,"è¯Ĩ":99334,"éĩįè¦ģ":99335,"è¶³":99336,"çķĻ":99337,"ç»Ĩ":99338,"åįı":99339,"éĢĤ":99340,"æĩ":99341,"æ§":99342,"éĦ":99343,"èĿ":99344,"å¸Ĥåľº":99345,"ç»ıæµİ":99346,"ä¹ł":99347,"æĸĩåĮĸ":99348,"éļ¾":99349,"ä¹IJ":99350,"åĨ³":99351,"欢":99352,"è§ī":99353,"åĽŃ":99354,"åħ´":99355,"åħħ":99356,"举":99357,"æī¹":99358,"èķ":99359,"æĬĬ":99360,"æĬĢæľ¯":99361,"ç©¶":99362,"第ä¸Ģ":99363,"便":99364,"åĵį":99365,"çİ©":99366,"åĿļ":99367,"èŀį":99368,"åįĬ":99369,"åĸľ":99370,"å±Ĥ":99371,"离":99372,"ä»ħ":99373,"éŁ":99374,"åij³":99375,"念":99376,"åŃ£":99377,"ç´§":99378,"ä¹ħ":99379,"é¤":99380,"éŀ":99381,"è¤":99382,"åĢĻ":99383,"åĨµ":99384,"çŁ³":99385,"åģ¥":99386,"æĢİ":99387,"å®Ŀ":99388,"è¡Ģ":99389,"åŁŁ":99390,"æĹ©":99391,"çŁ¥éģĵ":99392,"è´Ł":99393,"åįļ":99394,"å·´":99395,"亲":99396,"å±ŀ":99397,"严":99398,"äºī":99399,"å¯Ł":99400,"èº":99401,"ç°":99402,"建设":99403,"产ä¸ļ":99404,"åIJĥ":99405,"åŃ©":99406,"æĹħ":99407,"æł¹":99408,"æĿIJ":99409,"ä¼Ĺ":99410,"éļı":99411,"å®ĺ":99412,"åºķ":99413,"彩":99414,"å¯Į":99415,"温":99416,"åį«":99417,"åī§":99418,"çĽĬ":99419,"æĬĹ":99420,"è´¢":99421,"纪":99422,"æĨ":99423,"çĶŁæ´»":99424,"红":99425,"çĶŁäº§":99426,"è¿ľ":99427,"éĴ±":99428,"åĶ®":99429,"群":99430,"çıŃ":99431,"楼":99432,"éĩĩ":99433,"èīº":99434,"å±ħ":99435,"åģĩ":99436,"è°Ī":99437,"æĻļ":99438,"é¬":99439,"èĪª":99440,"害":99441,"èĹ":99442,"çį":99443,"åµ":99444,"çİĭ":99445,"康":99446,"èİ·":99447,"ç»Ń":99448,"äºļ":99449,"é£Ł":99450,"åİĭ":99451,"æĭĽ":99452,"èĮĥ":99453,"许":99454,"åĽ´":99455,"é½":99456,"éĻį":99457,"纳":99458,"åĵª":99459,"æķĻèĤ²":99460,"å·²ç»ı":99461,"å¾·":99462,"æŀĹ":99463,"å®īåħ¨":99464,"é¾Ļ":99465,"大家":99466,"éĿĴ":99467,"åºľ":99468,"æ²³":99469,"åı¤":99470,"èį¯":99471,"åĿĩ":99472,"æĻº":99473,"乡":99474,"çķ¥":99475,"åĨ·":99476,"ç¦ı":99477,"室":99478,"ç»´":99479,"æī¿":99480,"å±Ĭ":99481,"è¯ī":99482,"åĪ»":99483,"èŁ":99484,"æª":99485,"å°±æĺ¯":99486,"è¿Ļ个":99487,"ä¸Ńå¿ĥ":99488,"ä¸ĸçķĮ":99489,"åŁİå¸Ĥ":99490,"éĿŀ常":99491,"åĪĴ":99492,"åıĮ":99493,"æĢİä¹Ī":99494,"åΰäºĨ":99495,"æľĥ":99496,"åı²":99497,"ä¾Ĩ":99498,"å¾ĭ":99499,"å¥ĸ":99500,"ç»Ī":99501,"åªĴ":99502,"å®ģ":99503,"课":99504,"èģĮä¸ļ":99505,"åħį":99506,"æµĭ":99507,"æĢ¥":99508,"æķij":99509,"çĭ¬":99510,"èѦ":99511,"é¤IJ":99512,"æĦ¿":99513,"è´«":99514,"çĸij":99515,"åļ":99516,"她":99517,"åıĪ":99518,"åĽłä¸º":99519,"ä¸įæĺ¯":99520,"å¤Ł":99521,"æĸ¹éĿ¢":99522,"éķĩ":99523,"äºĴ":99524,"éħĴ":99525,"讲":99526,"çĸĹ":99527,"æĺ¥":99528,"æ¹ĸ":99529,"å¤ľ":99530,"责任":99531,"人æ°ij":99532,"åħ°":99533,"çŁŃ":99534,"æķħ":99535,"åĩı":99536,"æĻ®":99537,"亮":99538,"ä¾Ŀ":99539,"åį°":99540,"éĿĻ":99541,"åĢĭ":99542,"å¾ģ":99543,"åIJ¸":99544,"缺":99545,"æĶ»":99546,"åĩĢ":99547,"åħ¸":99548,"åĽº":99549,"访":99550,"ç¹":99551,"çĢ":99552,"æıIJä¾Ľ":99553,"ç»ĩ":99554,"å¾Īå¤ļ":99555,"çłĶç©¶":99556,"è·Ł":99557,"主è¦ģ":99558,"æĥħåĨµ":99559,"çŃĸ":99560,"æŃ»":99561,"大åѦ":99562,"æĶ¿åºľ":99563,"å½±åĵį":99564,"ä¹°":99565,"åħŃ":99566,"éĻ©":99567,"åħ«":99568,"æŁIJ":99569,"è´¨éĩı":99570,"åįł":99571,"å·®":99572,"æĽ´å¤ļ":99573,"æľĭ":99574,"éĿ©":99575,"宣":99576,"çł´":99577,"è½»":99578,"座":99579,"æĺ¾":99580,"稳":99581,"è´µ":99582,"èĥĮ":99583,"èī¯":99584,"çĸ«":99585,"æ¯Ĵ":99586,"ä¹İ":99587,"åĢŁ":99588,"è¿·":99589,"çŃĶ":99590,"æ¿Ģ":99591,"åij¼":99592,"äºĨä¸Ģ":99593,"è¶£":99594,"ä¼´":99595,"ä¼Ļ":99596,"è¼":99597,"ð¬Ń":99598,"åĽ½å®¶":99599,"æ´»åĬ¨":99600,"çİ°åľ¨":99601,"ç§ijæĬĢ":99602,"åį¡":99603,"ä¸įåIJĮ":99604,"个人":99605,"è®°èĢħ":99606,"ä¸įæĸŃ":99607,"éĹ»":99608,"ä¹Ŀ":99609,"èijĹ":99610,"综":99611,"ä¸ĥ":99612,"æłij":99613,"æľĭåıĭ":99614,"åįĸ":99615,"伤":99616,"æ²Ļ":99617,"åĸĦ":99618,"å¥Ĺ":99619,"è½®":99620,"ç©¿":99621,"è¡¥":99622,"ä¸Ģå®ļ":99623,"çªģ":99624,"çĿ£":99625,"追":99626,"å¨ģ":99627,"åı¦":99628,"åĽ°":99629,"æŀ¶":99630,"ç»Ŀ":99631,"æķ£":99632,"æİ¢":99633,"æ´Ĺ":99634,"临":99635,"ä¼¼":99636,"è´¸":99637,"丰":99638,"æĺ¯ä¸Ģ":99639,"ç«ŀ":99640,"è¿İ":99641,"èģļ":99642,"è«":99643,"æįŁ":99644,"æī§":99645,"驾":99646,"è¿Ŀ":99647,"è¥":99648,"èł":99649,"ä»ĸ们":99650,"æĹ¶åĢĻ":99651,"å®ĥ":99652,"人åijĺ":99653,"è¿Ļæł·":99654,"å·¥ç¨ĭ":99655,"åĪĽæĸ°":99656,"åŃ©åŃIJ":99657,"å¸Į":99658,"éĥ¨åĪĨ":99659,"éĵ¶":99660,"代表":99661,"é¦Ļ":99662,"帮":99663,"æİ¨è¿Ľ":99664,"çĽĺ":99665,"积æŀģ":99666,"éĥ¨éŨ":99667,"åŁ¹":99668,"æŃ¦":99669,"ä¸įä¼ļ":99670,"çŃij":99671,"éĢĻ":99672,"çݩ家":99673,"æĭ¿":99674,"åİĤ":99675,"æ¯Ľ":99676,"çģµ":99677,"æŃĮ":99678,"绿":99679,"å¦Ī":99680,"缼":99681,"é¦Ĩ":99682,"顺":99683,"èĦ¸":99684,"å°¼":99685,"丽":99686,"奥":99687,"éģĩ":99688,"è¯į":99689,"å°ģ":99690,"ä¸Ŀ":99691,"好çļĦ":99692,"æĭħ":99693,"èĦ±":99694,"æģ¶":99695,"åİļ":99696,"åĬ³":99697,"缣":99698,"æĬĺ":99699,"åı¥":99700,"æĢĢ":99701,"æŁĵ":99702,"书记":99703,"åĨł":99704,"é²ľ":99705,"æ¦Ĥ":99706,"éļIJ":99707,"å¹ħ":99708,"èµŀ":99709,"å¹ķ":99710,"æ¥Ń":99711,"éģĹ":99712,"åΤ":99713,"èĺ":99714,"å¶":99715,"æĬķèµĦ":99716,"è¡Įä¸ļ":99717,"äºij":99718,"çݯå¢ĥ":99719,"åѦçĶŁ":99720,"åIJĪä½ľ":99721,"åģ¥åº·":99722,"é£ŀ":99723,"ä¸ĢæŃ¥":99724,"ä¸Ģ缴":99725,"åıijçĶŁ":99726,"éĺ¿":99727,"é¢Ĩ导":99728,"åĸľæ¬¢":99729,"åºĶ该":99730,"çĤº":99731,"è®Ń":99732,"æĿĢ":99733,"港":99734,"交éĢļ":99735,"éĺ¶":99736,"éĴ¢":99737,"令":99738,"å°½":99739,"æ¯į":99740,"è¡£":99741,"ç²ī":99742,"é¡¶":99743,"ä¹Łä¸į":99744,"æĬĵ":99745,"èĭ¦":99746,"幸":99747,"礼":99748,"第ä¸ī":99749,"大çļĦ":99750,"éģİ":99751,"çĥŁ":99752,"éģ¿":99753,"ä»į":99754,"åºĨ":99755,"æĢķ":99756,"è°¢":99757,"çĽĸ":99758,"å°Ħ":99759,"éľ²":99760,"æĸĹ":99761,"çĬ¶":99762,"åѸ":99763,"æ¯ķ":99764,"å·¨":99765,"çŁ¿":99766,"çļĩ":99767,"å¸Ń":99768,"çĹĩ":99769,"æī¬":99770,"å»¶":99771,"ä¾§":99772,"æ·¡":99773,"çļĦä¸Ģ":99774,"ç¶²":99775,"æ´ģ":99776,"ç¸":99777,"è§Ī":99778,"çѹ":99779,"ç§ĺ":99780,"è¯Ĭ":99781,"çı¾":99782,"èªī":99783,"毫":99784,"ð¨":99785,"åį´":99786,"æĪIJ为":99787,"èĥ½åĬĽ":99788,"é»Ħ":99789,"æĹħ游":99790,"èά":99791,"æ¯Ķè¾ĥ":99792,"èµ·æĿ¥":99793,"äºĨè§£":99794,"èĩªçĦ¶":99795,"ä¸Ģ次":99796,"åŁºæľ¬":99797,"æĽ¾":99798,"综åIJĪ":99799,"èıľ":99800,"è§īå¾Ĺ":99801,"第äºĮ":99802,"è·ij":99803,"æ³¢":99804,"åĢĴ":99805,"ç¡Ģ":99806,"åħµ":99807,"èįī":99808,"çͳ":99809,"çͰ":99810,"æĤ£":99811,"è§Ħå®ļ":99812,"èĥľ":99813,"èµĦ产":99814,"梦":99815,"æľĿ":99816,"è¿ĻéĩĮ":99817,"夫":99818,"æĮ¥":99819,"ä½Ľ":99820,"å®Ī":99821,"鼶":99822,"æĸ¼":99823,"ç¯ĩ":99824,"å²Ľ":99825,"åĵ¥":99826,"éŃĶ":99827,"ä¸įåΰ":99828,"æīĺ":99829,"åºĬ":99830,"欧":99831,"èį£":99832,"æ±ĩ":99833,"æī©":99834,"åģı":99835,"å¢Ļ":99836,"讯":99837,"å©ļ":99838,"æĥł":99839,"æ´ĭ":99840,"å®ľ":99841,"润":99842,"æħ¢":99843,"éĢı":99844,"宽":99845,"顾":99846,"ç´¯":99847,"污":99848,"çĪĨ":99849,"ç§Ł":99850,"æĥĬ":99851,"涨":99852,"饰":99853,"éĺµ":99854,"饮":99855,"æļĸ":99856,"åºŁ":99857,"æĹĹ":99858,"éļĶ":99859,"ç¶ĵ":99860,"åĭĻ":99861,"實":99862,"éĢĶ":99863,"æī«":99864,"çĥĪ":99865,"鼻":99866,"åĪij":99867,"éĹľ":99868,"éĹª":99869,"å¥ĭ":99870,"åĤ¨":99871,"缩":99872,"ä¾µ":99873,"å¬":99874,"ð¬¶":99875,"åĽ½éĻħ":99876,"ç»Ħç»ĩ":99877,"ä¸ĵä¸ļ":99878,"åıijçݰ":99879,"å¸ĮæľĽ":99880,"ç»ıèIJ¥":99881,"åı«":99882,"æĿ¥è¯´":99883,"éļľ":99884,"ä»»ä½ķ":99885,"交æĺĵ":99886,"éĩįçĤ¹":99887,"çļ®":99888,"ç»į":99889,"æ´¾":99890,"ç§ijåѦ":99891,"åºĶç͍":99892,"建çŃij":99893,"èĤī":99894,"æĶ¹éĿ©":99895,"åŁºç¡Ģ":99896,"æ±ī":99897,"åĩºæĿ¥":99898,"è¿Ļä¹Ī":99899,"åĪļ":99900,"åĿIJ":99901,"ä¸įä»ħ":99902,"ä¼ļè®®":99903,"éĿł":99904,"åªĴä½ĵ":99905,"æ°¸":99906,"åĨ²":99907,"èĭı":99908,"央":99909,"çζ":99910,"åłĤ":99911,"å®ŀéĻħ":99912,"è¡Ĺ":99913,"ç«¥":99914,"éĺħ":99915,"äºĭæĥħ":99916,"åİŁåĽł":99917,"éħ¸":99918,"以æĿ¥":99919,"娱":99920,"宫":99921,"åĿĹ":99922,"绩":99923,"éĩİ":99924,"ä¸įå¾Ĺ":99925,"ä¼łå¥ĩ":99926,"硬":99927,"åİħ":99928,"æĹ¢":99929,"ç»ĥ":99930,"èĦij":99931,"å¼±":99932,"æİĮ":99933,"è´´":99934,"æĮĤ":99935,"åħ³éĶ®":99936,"å°ļ":99937,"é¥Ń":99938,"åºĦ":99939,"çϼ":99940,"åľĭ":99941,"æİĪ":99942,"个æľĪ":99943,"äºĪ":99944,"å¸ģ":99945,"è·Ŀ":99946,"æ²ī":99947,"竣":99948,"åĨ¬":99949,"æĬ½":99950,"éĨĴ":99951,"å¼Ł":99952,"触":99953,"èģĺ":99954,"è±Ĩ":99955,"æļ´":99956,"åijĬè¯ī":99957,"豪":99958,"èµ¢":99959,"è·¨":99960,"è³ĩ":99961,"çΏ":99962,"æĬ±":99963,"浪":99964,"麻":99965,"仪":99966,"è¡¡":99967,"奶":99968,"çģ¾":99969,"èµ¶":99970,"èĤ¥":99971,"å§IJ":99972,"åĢº":99973,"éľĩ":99974,"订":99975,"æ¬Ĭ":99976,"ç·":99977,"å»ī":99978,"ä¿Ĺ":99979,"å¿ĺ":99980,"å¦ĩ":99981,"ç¼ĵ":99982,"åŃķ":99983,"漫":99984,"è£ģ":99985,"çĩĥ":99986,"é»ĺ":99987,"çī¢":99988,"çĪ·":99989,"æĬµ":99990,"宾":99991,"æľīä¸Ģ":99992,"迹":99993,"è¿«":99994,"è²Į":99995,"æľīçļĦ":99996,"ð¬ĺ":99997,"è¿ĺæĺ¯":99998,"æīĢ以":99999,"ä¹Łæĺ¯":100000,"è¿ĻäºĽ":100001,"对äºİ":100002,"åIJ§":100003,"缮åīį":100004,"èĩªå·±çļĦ":100005,"èĥ½å¤Ł":100006,"å¦Ĥä½ķ":100007,"æľºæŀĦ":100008,"åıªæĺ¯":100009,"ç½ijç«Ļ":100010,"åħ¨éĿ¢":100011,"为äºĨ":100012,"å¼Ģåıij":100013,"æĸ°éĹ»":100014,"éĩijèŀį":100015,"ç»§":100016,"客æĪ·":100017,"ä¸Ģèµ·":100018,"èĮ¶":100019,"åħ³æ³¨":100020,"æ°´å¹³":100021,"åİĨåı²":100022,"å¢ŀéķ¿":100023,"é±":100024,"åŁºéĩij":100025,"åºŃ":100026,"åı¶":100027,"ä¿ĥ":100028,"鼨":100029,"æ¶Īè´¹":100030,"èι":100031,"çŁ¥è¯Ĩ":100032,"æĪĺçķ¥":100033,"ç»ıéªĮ":100034,"å³°":100035,"æĽ²":100036,"èĦļ":100037,"åĨ°":100038,"å¤ı":100039,"å½Ĵ":100040,"ç¬Ķ":100041,"èĻij":100042,"çͲ":100043,"åľĪ":100044,"è¯Ĺ":100045,"é½IJ":100046,"容æĺĵ":100047,"çłĶåıij":100048,"骨":100049,"纸":100050,"è·µ":100051,"æĹ§":100052,"çķ¶":100053,"åΏ":100054,"è´·":100055,"åı¬":100056,"ç§ĭ":100057,"æ¶²":100058,"è¡ĮæĶ¿":100059,"çĮ®":100060,"èĤ¤":100061,"éĢIJ":100062,"è¶ĬæĿ¥":100063,"è¶ĬæĿ¥è¶Ĭ":100064,"æĦıè§ģ":100065,"èĪŀ":100066,"åīĤ":100067,"æ¶ī":100068,"ç¨ĭ度":100069,"åħ¬åħ±":100070,"械":100071,"æľ«":100072,"纯":100073,"åͱ":100074,"æ´²":100075,"æĬ¢":100076,"æ¤į":100077,"å¿Ļ":100078,"ä¼°":100079,"å¼¹":100080,"æ³ī":100081,"æľĢ大":100082,"è¶ĭ":100083,"å·§":100084,"ç¦ģ":100085,"æī¶":100086,"åį±":100087,"çıł":100088,"çĨŁ":100089,"æĭľ":100090,"主ä¹ī":100091,"æĿĤ":100092,"éĻĦ":100093,"éģį":100094,"æIJŃ":100095,"æĮ¯":100096,"å¤ļå¹´":100097,"æķ¬":100098,"æijĦ":100099,"纷":100100,"å¼ĥ":100101,"湿":100102,"å¨ĺ":100103,"æ¡£":100104,"é©¶":100105,"æľĹ":100106,"æ®ĸ":100107,"æ¦ľ":100108,"åĵ¡":100109,"ä¸Ģä½ĵ":100110,"æŁ¥çľĭ":100111,"ç¹ģ":100112,"æµĵ":100113,"åħ¬å®ī":100114,"æ½ľ":100115,"è´¯":100116,"éªĹ":100117,"æIJľ":100118,"å·¡":100119,"è¬":100120,"éĬ":100121,"å§Ķä¼ļ":100122,"æĤł":100123,"åī©":100124,"æıŃ":100125,"åŃ£åº¦":100126,"ð«ĺ":100127,"ð¬¬":100128,"ä´":100129,"ðª":100130,"ä½Ĩæĺ¯":100131,"éĥ½æĺ¯":100132,"å¹³åı°":100133,"åŃ¦ä¹ł":100134,"åĵģçīĮ":100135,"ä¸Ķ":100136,"è¿Ļç§į":100137,"æĶ¿çŃĸ":100138,"æĭ¬":100139,"认为":100140,"ä¸Ģèά":100141,"æłĩåĩĨ":100142,"æĶ¯æĮģ":100143,"模å¼ı":100144,"åħ³ç³»":100145,"çļĦæĺ¯":100146,"è¿Ļä¸Ģ":100147,"ä¸įè¦ģ":100148,"çĶļ":100149,"ç²¾ç¥ŀ":100150,"æĭ¥":100151,"åĪ©ç͍":100152,"ä¿ĿæĬ¤":100153,"ä½ľç͍":100154,"èĭ¥":100155,"åĽ½åĨħ":100156,"ä»ĭç»į":100157,"ä¸Ģä¸ĭ":100158,"å·¥ä¸ļ":100159,"缮æłĩ":100160,"æľĢåIJİ":100161,"ä»·å̼":100162,"å°į":100163,"éĵģ":100164,"è°ģ":100165,"ç»ĵæŀĦ":100166,"éĽª":100167,"æĻºèĥ½":100168,"ä¼łç»Ł":100169,"ä½ĵèĤ²":100170,"çĶŁæĢģ":100171,"æĭį":100172,"æİª":100173,"åĨľä¸ļ":100174,"çī¹èī²":100175,"è§Ħ模":100176,"æĹ¶ä»£":100177,"è¿ĩç¨ĭ":100178,"éĴĪ":100179,"æĿ¾":100180,"åĶIJ":100181,"åĮ»çĸĹ":100182,"çģ¯":100183,"åζéĢł":100184,"æł¸å¿ĥ":100185,"ä¸įåı¯":100186,"ç³»åĪĹ":100187,"åIJī":100188,"åľ£":100189,"åĢij":100190,"ä½³":100191,"æĿ¥çľĭ":100192,"æ¯ĶèµĽ":100193,"ä¸ĭæĿ¥":100194,"åĩºäºĨ":100195,"å¹²éĥ¨":100196,"微信":100197,"å½ĵåľ°":100198,"åį·":100199,"åį«çĶŁ":100200,"ä¼Ł":100201,"çĸ«æĥħ":100202,"è°·":100203,"åĩłä¸ª":100204,"éĺ´":100205,"çĶŁçī©":100206,"å°¤":100207,"ä¼Ĭ":100208,"èĤ¯":100209,"éĿ¢ç§¯":100210,"åĪĽéĢł":100211,"æı¡":100212,"åľĨ":100213,"æĻĵ":100214,"æĪIJäºĨ":100215,"åĩ¡":100216,"çĸ¾":100217,"ç«ŀäºī":100218,"讨":100219,"主é¢ĺ":100220,"é²ģ":100221,"迪":100222,"ä¿Ħ":100223,"æĢª":100224,"並":100225,"èĻļ":100226,"æ½®":100227,"çĥ§":100228,"è̳":100229,"æ±ł":100230,"éĢĤåIJĪ":100231,"æł¹æľ¬":100232,"åĬłçĽŁ":100233,"ç͵è§Ĩ":100234,"æ··":100235,"ç¼ĺ":100236,"çªĹ":100237,"çĬ¯":100238,"æĥ¯":100239,"æĦıä¹ī":100240,"åĬŀæ³ķ":100241,"ä¼ij":100242,"æ»ij":100243,"åĭĩ":100244,"æķ¢":100245,"寻":100246,"è¦Ĩ":100247,"éĢĥ":100248,"ç»ıçIJĨ":100249,"åĿı":100250,"æ³½":100251,"ä¹ĺ":100252,"åĪº":100253,"å±ı":100254,"é¡¿":100255,"亡":100256,"éĤĢ":100257,"åħ¼":100258,"åĭ¤":100259,"æ®ĭ":100260,"æĺł":100261,"æ¯ķä¸ļ":100262,"æĪª":100263,"è·Į":100264,"å£ģ":100265,"åı¦ä¸Ģ":100266,"羣å®ŀ":100267,"磨":100268,"è¯ļ":100269,"å¿ħè¦ģ":100270,"æģĭ":100271,"æĩĤ":100272,"å¾Ĵ":100273,"è°ĵ":100274,"æķı":100275,"æĻ¨":100276,"èĥ¸":100277,"æĭ¼":100278,"å¦Ļ":100279,"诸":100280,"èģĬ":100281,"æĤī":100282,"麼":100283,"åĩŃ":100284,"èĪĴ":100285,"æ¶Ĥ":100286,"è¿ģ":100287,"沿":100288,"å¡ij":100289,"æĽ¿":100290,"æ¾³":100291,"å¿į":100292,"èĢĹ":100293,"龸":100294,"åĩłå¹´":100295,"åĪĬ":100296,"èĦī":100297,"èħIJ":100298,"æ¡Į":100299,"çºł":100300,"æ»ļ":100301,"æĤ²":100302,"åĨĴ":100303,"妹":100304,"çķħ":100305,"纵":100306,"æijĩ":100307,"夺":100308,"è·¯ä¸Ĭ":100309,"忽":100310,"èĸª":100311,"æģIJ":100312,"æĦıæĢĿ":100313,"å«Į":100314,"æı´":100315,"æ°§":100316,"èĢĢ":100317,"éĺ»":100318,"轨":100319,"å¹»":100320,"æįķ":100321,"åĿ¦":100322,"åĵĪåĵĪ":100323,"çĭIJ":100324,"滨":100325,"è²»":100326,"è¿Ł":100327,"人éĥ½":100328,"ç»ĺ":100329,"åı¹":100330,"çµIJ":100331,"æī°":100332,"æ»ĭ":100333,"å¥ij":100334,"åĭŁ":100335,"確":100336,"ð¦":100337,"éĽĨåĽ¢":100338,"æĿİ":100339,"å¼Ģå±ķ":100340,"æıIJåįĩ":100341,"åħ¨åĽ½":100342,"汽车":100343,"åŃ¦æł¡":100344,"æł¹æį®":100345,"è¿Ļæĺ¯":100346,"åĩºçݰ":100347,"éĻĪ":100348,"ç½Ĺ":100349,"èİ·å¾Ĺ":100350,"åĪĺ":100351,"éĶĢåĶ®":100352,"æľªæĿ¥":100353,"éľĢæ±Ĥ":100354,"å®ŀæĸ½":100355,"åĿļæĮģ":100356,"åħ¨çIJĥ":100357,"éĵ¶è¡Į":100358,"æİ§åζ":100359,"é¡»":100360,"åľ°åĮº":100361,"æīĵéĢł":100362,"çļĦè¯Ŀ":100363,"帮åĬ©":100364,"ä½ĵç³»":100365,"è¾¾åΰ":100366,"è§ĦåĪĴ":100367,"åŁ¹è®Ń":100368,"两个":100369,"æĬ¥åijĬ":100370,"åľ°æĸ¹":100371,"å®Įåħ¨":100372,"æİī":100373,"ç»ĵåIJĪ":100374,"å®£ä¼ł":100375,"æ³ķå¾ĭ":100376,"èīºæľ¯":100377,"ç͵影":100378,"說":100379,"ä¸ĢçĤ¹":100380,"è¶ħè¿ĩ":100381,"ç͵åŃIJ":100382,"æĢĿæĥ³":100383,"æķĻåѦ":100384,"éĺ¶æ®µ":100385,"åķĨä¸ļ":100386,"çµģ":100387,"åĪĽä¸ļ":100388,"æĸ¹æ¡Ī":100389,"çݰ代":100390,"æ¡¥":100391,"èIJ½å®ŀ":100392,"带æĿ¥":100393,"产çĶŁ":100394,"ç§Ģ":100395,"æ³°":100396,"ä¹±":100397,"åħ·ä½ĵ":100398,"åĸĿ":100399,"èĵĿ":100400,"å®Ĺ":100401,"åįĩ级":100402,"æ·±åħ¥":100403,"ä¿ĿéĻ©":100404,"ç®Ģåįķ":100405,"çĹĽ":100406,"稳å®ļ":100407,"è¾Ĩ":100408,"å±ŀäºİ":100409,"å·Ŀ":100410,"ä¸įå°ij":100411,"åĴ¨":100412,"ä¸ľè¥¿":100413,"å½¢å¼ı":100414,"娱ä¹IJ":100415,"æŃ£å¸¸":100416,"鸡":100417,"åħħåĪĨ":100418,"å®ŀè·µ":100419,"éĩĮéĿ¢":100420,"è·³":100421,"èĻİ":100422,"æĪIJéķ¿":100423,"æļĹ":100424,"çĿ¡":100425,"罪":100426,"çIJĨ念":100427,"æĮij":100428,"èµĦæľ¬":100429,"å¤ļå°ij":100430,"ä¸ĭéĿ¢":100431,"å¸Ŀ":100432,"åħ¬å¼Ģ":100433,"æ¸IJ":100434,"éķ·":100435,"å±ĭ":100436,"欢è¿İ":100437,"å¿ĥçIJĨ":100438,"çĤİ":100439,"æ¹¾":100440,"è®ĵ":100441,"éĤĦ":100442,"ç³ĸ":100443,"ä¹Į":100444,"åĬ±":100445,"çīĻ":100446,"èħ¿":100447,"å²Ĺ":100448,"ä¼į":100449,"æĪIJåijĺ":100450,"åŃĶ":100451,"å°ıç¼ĸ":100452,"èij£":100453,"泡":100454,"åħĪè¿Ľ":100455,"åħ§":100456,"åĺ´":100457,"è´Ŀ":100458,"è»":100459,"æIJŀ":100460,"æ³Ľ":100461,"鸣":100462,"ç½²":100463,"èĽĭ":100464,"主任":100465,"缮çļĦ":100466,"ä¹ı":100467,"æ´¥":100468,"æĪ´":100469,"ä¸¥æł¼":100470,"çħ¤":100471,"çĮ«":100472,"å͝":100473,"å°Ĭ":100474,"çĶľ":100475,"åŀĥ":100476,"åľ¾":100477,"æĭŁ":100478,"çĦ¦":100479,"é«Ķ":100480,"å®ı":100481,"æ©Ł":100482,"é©»":100483,"æĹģ":100484,"å½»":100485,"éĥ½ä¸į":100486,"æij©":100487,"ä»ĵ":100488,"ä¹³":100489,"岸":100490,"è°ĭ":100491,"大å¤ļ":100492,"çģŃ":100493,"èħ¾":100494,"æŁľ":100495,"èĪį":100496,"åħļçļĦ":100497,"å°ĺ":100498,"åįģå¹´":100499,"æĭĴ":100500,"裡":100501,"æŁĶ":100502,"å¹¼":100503,"éĶģ":100504,"ä¸ĵ项":100505,"æīİ":100506,"驾驶":100507,"ç¢İ":100508,"è¢ĭ":100509,"éĶĭ":100510,"壮":100511,"å°ĸ":100512,"çĶµæ±ł":100513,"è¿Ķ":100514,"æ¼ı":100515,"循":100516,"èıĮ":100517,"èĥĥ":100518,"è¾ħ":100519,"éĢĴ":100520,"èĥİ":100521,"éĻª":100522,"寿":100523,"å¥Ķ":100524,"çĮĽ":100525,"纹":100526,"çŁ¥åIJį":100527,"å¿Ĩ":100528,"æ¡ĥ":100529,"æ£ĭ":100530,"éĢĨ":100531,"çĤ¼":100532,"ç±į":100533,"çī§":100534,"æł·çļĦ":100535,"è¾Ľ":100536,"åłĨ":100537,"å®ŀåľ¨":100538,"ä¼ı":100539,"宿":100540,"èµı":100541,"è£Ĥ":100542,"åįĬå¹´":100543,"å̾":100544,"满æĦı":100545,"梯":100546,"æĦıåij³":100547,"åѤ":100548,"ç¥Ŀ":100549,"æĻ¶":100550,"èµĶ":100551,"åģ¿":100552,"èĦĤ":100553,"ç½ļ":100554,"ç¢į":100555,"æ²ĥ":100556,"æĵį":100557,"å´ĩ":100558,"æļĤ":100559,"è·ĥ":100560,"æIJ¬":100561,"å©Ĩ":100562,"éī":100563,"éī´":100564,"åħ´è¶£":100565,"èIJ¥ä¸ļ":100566,"è®Ĭ":100567,"èĦı":100568,"è¾Ī":100569,"å·ŀå¸Ĥ":100570,"è´«åĽ°":100571,"ç©·":100572,"ä¸Ńå°ı":100573,"æ¼Ĥ":100574,"çĻĮ":100575,"èľľ":100576,"ä¼Ļä¼´":100577,"çīµ":100578,"æĤŁ":100579,"éĻ·":100580,"èµĽåŃ£":100581,"樣":100582,"åģ¶":100583,"æĺĨ":100584,"è¢Ń":100585,"æįIJ":100586,"èī°":100587,"æĤ¬":100588,"çĶ¢":100589,"èij¡":100590,"çĽĹ":100591,"å©´":100592,"å°İ":100593,"纽":100594,"åĢ¡":100595,"æī®":100596,"è¨Ń":100597,"æĬij":100598,"ç¡ķ":100599,"è¾ĸ":100600,"éĥģ":100601,"辩":100602,"éĤ»":100603,"çݰåĩº":100604,"è¦ı":100605,"å½¹":100606,"éĺĶ":100607,"åīµ":100608,"诱":100609,"æĥij":100610,"æ·Ģ":100611,"é¢Ī":100612,"侦":100613,"æģ°":100614,"æ£Ģå¯Ł":100615,"éĨ«":100616,"çĦ¶æĺ¯":100617,"åĭĥ":100618,"èĮ«":100619,"äĵ":100620,"ð¬¸":100621,"ä½ľä¸º":100622,"çļĦ人":100623,"éĤ£ä¹Ī":100624,"ç¾İåĽ½":100625,"è¿ĺæľī":100626,"æıIJé«ĺ":100627,"èϽ":100628,"åħ·æľī":100629,"åĮħæĭ¬":100630,"æĪĸèĢħ":100631,"ä¸įè¿ĩ":100632,"ä¸Ĭæµ·":100633,"åĮ»éĻ¢":100634,"èµĦéĩij":100635,"çĶļèĩ³":100636,"åĪ¶åº¦":100637,"è§£åĨ³":100638,"èģĶç½ij":100639,"ç»§ç»Ń":100640,"建ç«ĭ":100641,"è¿Ľä¸ĢæŃ¥":100642,"æĿIJæĸĻ":100643,"ä»Ĭ天":100644,"å¿ħé¡»":100645,"åIJĦç§į":100646,"çİ°åľº":100647,"ä»ĸçļĦ":100648,"å¢ŀåĬł":100649,"é¢ĨåŁŁ":100650,"åıĤä¸İ":100651,"æĮģç»Ń":100652,"ä¹ĭä¸Ģ":100653,"çī¹åĪ«":100654,"é±¼":100655,"åħ±åIJĮ":100656,"åĬª":100657,"çİī":100658,"人们":100659,"åħĪçĶŁ":100660,"ä¼ĺåĬ¿":100661,"ä¿ĿæĮģ":100662,"ä½ľåĵģ":100663,"çīĽ":100664,"æĪIJæľ¬":100665,"æĶ¶åħ¥":100666,"åıĬæĹ¶":100667,"è´Łè´£":100668,"æİ¥åıĹ":100669,"èįIJ":100670,"åıªè¦ģ":100671,"羣çļĦ":100672,"导èĩ´":100673,"æľºåζ":100674,"è¡ĮåĬ¨":100675,"æĸ°çļĦ":100676,"å®ĮåĸĦ":100677,"为ä»Ģä¹Ī":100678,"ä¸Ń央":100679,"æĪIJç«ĭ":100680,"æĦŁè§ī":100681,"åıĺåĮĸ":100682,"åıĹåΰ":100683,"å¹¶ä¸į":100684,"åŃĻ":100685,"æĸ½å·¥":100686,"æĺİæĺ¾":100687,"è¿ĩåİ»":100688,"åıijæĮ¥":100689,"羣æŃ£":100690,"åŁºåľ°":100691,"æĺİç¡®":100692,"èĥ¡":100693,"许å¤ļ":100694,"ä¸Ģå¹´":100695,"æĸ¹åIJij":100696,"æģ©":100697,"çĽ¸ä¿¡":100698,"åľ³":100699,"详ç»Ĩ":100700,"äºĭä¸ļ":100701,"çĶŁåij½":100702,"åĴ¨è¯¢":100703,"æĸĩæĺİ":100704,"çijŀ":100705,"绿èī²":100706,"èİ«":100707,"æĦıè¯Ĩ":100708,"æĬķåħ¥":100709,"åĬłå¿«":100710,"æ¢ħ":100711,"ç¿»":100712,"å¼ĢæĶ¾":100713,"æĻ®éĢļ":100714,"åįıä¼ļ":100715,"æĪIJ绩":100716,"ä»Ļ":100717,"å¯Ĵ":100718,"è¯ģåΏ":100719,"认è¯Ĩ":100720,"丹":100721,"大éĩı":100722,"è¿ħ":100723,"åģļåΰ":100724,"设æĸ½":100725,"è´¸æĺĵ":100726,"èĥ½æºIJ":100727,"æĹ¶æľŁ":100728,"ä¸Ģ天":100729,"æ²»çIJĨ":100730,"åĺī":100731,"å®ĩ":100732,"丰å¯Į":100733,"举è¡Į":100734,"æĪIJæŀľ":100735,"èĤ¯å®ļ":100736,"çĭĹ":100737,"åĬ¨åĬĽ":100738,"森":100739,"åĩłä¹İ":100740,"åĽłç´ł":100741,"æ°ijæĹı":100742,"æ´ŀ":100743,"ç½ijåıĭ":100744,"åIJĪçIJĨ":100745,"广大":100746,"æ®Ĭ":100747,"æ´Ľ":100748,"æĿ¯":100749,"èĴĻ":100750,"ç͍äºİ":100751,"èŀįèµĦ":100752,"ç¥ĸ":100753,"æľºæ¢°":100754,"举åĬŀ":100755,"èĩªåĬ¨":100756,"åĬŀåħ¬":100757,"é»ŀ":100758,"éĽĦ":100759,"å̼å¾Ĺ":100760,"çĮª":100761,"以为":100762,"æĺĮ":100763,"è·Ŀ离":100764,"åIJ¸å¼ķ":100765,"ç»ķ":100766,"éļĨ":100767,"计ç®Ĺ":100768,"éĺŁä¼į":100769,"大ä¼ļ":100770,"å¼ķèµ·":100771,"çī¹çĤ¹":100772,"èĥ¶":100773,"å¹´è½»":100774,"æľ¬èº«":100775,"æľºåħ³":100776,"å®ĺæĸ¹":100777,"éĥij":100778,"æµĻ":100779,"è§Ĵèī²":100780,"èij£äºĭ":100781,"为主":100782,"æĹłè®º":100783,"ä¹łæĥ¯":100784,"æ¥ļ":100785,"æĭĵ":100786,"ç»Łè®¡":100787,"åħĦ":100788,"å¹¿æ³Ľ":100789,"åįĢ":100790,"污æŁĵ":100791,"è«ĭ":100792,"èĬĤ缮":100793,"伦":100794,"è¦ĨçĽĸ":100795,"èĢIJ":100796,"æī¶è´«":100797,"ç»ıåİĨ":100798,"éĩįè¦ģçļĦ":100799,"èĤ¡ä¸ľ":100800,"æĭĽèģĺ":100801,"åĽĽä¸ª":100802,"æĩī":100803,"èĥŀ":100804,"æijĨ":100805,"é«ĺéĢŁ":100806,"麦":100807,"åİŁåĪĻ":100808,"èݱ":100809,"æĽ´å¥½":100810,"éķľ":100811,"åĩĮ":100812,"åŀĥåľ¾":100813,"é̲":100814,"çģ°":100815,"éĵº":100816,"äºĭæķħ":100817,"çĶĺ":100818,"空æ°Ķ":100819,"é¾Ħ":100820,"èı²":100821,"çĵ¶":100822,"æĺ¨":100823,"æĹ¥æĬ¥":100824,"æµ®":100825,"åľ°åĽ¾":100826,"åijĪ":100827,"大åĬĽ":100828,"绪":100829,"å¸ħ":100830,"æľįåĭĻ":100831,"ä¸įéĶĻ":100832,"乡æĿij":100833,"å±¥":100834,"å¹³æĸ¹":100835,"éĹ²":100836,"æī£":100837,"ç´łè´¨":100838,"èµ´":100839,"éģŃ":100840,"èIJ¨":100841,"èĩªä¸»":100842,"éĩijå±ŀ":100843,"èī¯å¥½":100844,"两年":100845,"æ³¥":100846,"é¢ľ":100847,"精彩":100848,"ä¸Ńåįİ":100849,"æĻĭ":100850,"ä¹łè¿ij":100851,"ä¹łè¿ijå¹³":100852,"æĪĺ士":100853,"åģļçļĦ":100854,"éªij":100855,"æ»´":100856,"çĵľ":100857,"çīĪæĿĥ":100858,"èĤł":100859,"æľĥåĵ¡":100860,"çıį":100861,"種":100862,"仿":100863,"çī©ä¸ļ":100864,"åĢĭ人":100865,"妻":100866,"伸":100867,"æ±Ĺ":100868,"æĹº":100869,"çIJĨæĥ³":100870,"æij¸":100871,"è¿Ŀæ³ķ":100872,"å®Įæķ´":100873,"åݦ":100874,"è¸ı":100875,"æĸij":100876,"æ¡Ĥ":100877,"ä½ĵåζ":100878,"師":100879,"æĿĨ":100880,"殿":100881,"æ¯ģ":100882,"é¦Ī":100883,"è§Ĵ度":100884,"欣":100885,"çĥ¦":100886,"èĤº":100887,"éĩĩ访":100888,"æijĺ":100889,"æĮ¡":100890,"æ·ĺ":100891,"åħ»èĢģ":100892,"çĤ¸":100893,"è¿Ī":100894,"åİī":100895,"åĿĬ":100896,"è¾£":100897,"åĩĿ":100898,"泪":100899,"çĸı":100900,"æİĺ":100901,"åĥıæĺ¯":100902,"éĽķ":100903,"ç¼Ŀ":100904,"èį·":100905,"æį·":100906,"åł¡":100907,"åı¥è¯Ŀ":100908,"çĸ¼":100909,"æłı":100910,"éģµ":100911,"碳":100912,"å·¥åķĨ":100913,"æIJº":100914,"åĪ¥":100915,"ä¹Ļ":100916,"æĹĭ":100917,"æĥľ":100918,"ä¸Ģ大":100919,"å±Ĥ次":100920,"èµĸ":100921,"æĬ¬":100922,"æ¨Ĥ":100923,"è¯ŀ":100924,"åħĴ":100925,"篮":100926,"èĤĥ":100927,"å§¿":100928,"æĬļ":100929,"çĵ·":100930,"ç͵åĬ¨":100931,"æĸ°åĨł":100932,"æ¶µ":100933,"ç¢ij":100934,"æ·®":100935,"æĹ¨":100936,"踪":100937,"æ¸Ķ":100938,"æĦĪ":100939,"åıĶ":100940,"åįĹçľģ":100941,"義":100942,"å§Ķ书记":100943,"貸":100944,"æ¶Į":100945,"è«ĸ":100946,"èIJĦ":100947,"æıı":100948,"å¿§":100949,"辦":100950,"å¦Ĩ":100951,"æīŃ":100952,"åijµ":100953,"éģ¥":100954,"許":100955,"ä»ĩ":100956,"åįģä¸ī":100957,"åī²":100958,"èªį":100959,"èΰ":100960,"é¢ĩ":100961,"饱":100962,"çĭł":100963,"é«ĺçļĦ":100964,"çµ±":100965,"æħİ":100966,"é¢ģ":100967,"åIJĪéĢĤ":100968,"æµ´":100969,"èµĭ":100970,"æĬ¼":100971,"妥":100972,"éĻ¢éķ¿":100973,"èĢķ":100974,"辨":100975,"æħ°":100976,"åįģåĽĽ":100977,"æľµ":100978,"èĵĦ":100979,"æŀ¢":100980,"å»·":100981,"æĤĦ":100982,"涯":100983,"磩":100984,"åŃIJéĩĮ":100985,"çĬ¹":100986,"å±Ģéķ¿":100987,"éIJ":100988,"å¥ł":100989,"ä¼ļéķ¿":100990,"æĵļ":100991,"ä¸įåıĬ":100992,"åįģä¹Ŀ":100993,"欺":100994,"躺":100995,"éĺIJ":100996,"çºĮ":100997,"註":100998,"åĨĬ":100999,"èŃĺ":101000,"é«ĺçŃī":101001,"èħº":101002,"å¤ķ":101003,"ç»ij":101004,"åͤ":101005,"èķ´":101006,"çķľ":101007,"æħĭ":101008,"åıĻ":101009,"åıĥ":101010,"峡":101011,"人大":101012,"éħ¿":101013,"éģ©":101014,"奢":101015,"åı£æ°Ķ":101016,"éĮĦ":101017,"éı":101018,"åĭĺ":101019,"è´¿":101020,"éļª":101021,"éĭ":101022,"éļ¶":101023,"ð¥":101024,"ð¬£":101025,"ð£":101026,"ð«į":101027,"ð¬³":101028,"ð«ĵ":101029,"ð«Ħ":101030,"ð«Ł":101031,"ð¨±":101032,"äĹ":101033,"以åıĬ":101034,"æľīéĻIJ":101035,"åij¢":101036,"åIJĹ":101037,"çľĭåΰ":101038,"计åĪĴ":101039,"è¿Ľåħ¥":101040,"缴æİ¥":101041,"åĪĨæŀIJ":101042,"åıªæľī":101043,"设å¤ĩ":101044,"åħ¶å®ŀ":101045,"åĬłå¼º":101046,"ä¸ŃçļĦ":101047,"ä¿Ŀéļľ":101048,"èĢģå¸Ī":101049,"人æīį":101050,"å¾Ĺåΰ":101051,"é£İéĻ©":101052,"ä¸Ģç§į":101053,"空éĹ´":101054,"æĪijåĽ½":101055,"ä¹ĭåīį":101056,"ä¸ĵå®¶":101057,"æĿ¨":101058,"æĹ¥æľ¬":101059,"群ä¼Ĺ":101060,"åıĤåĬł":101061,"æķĪæŀľ":101062,"æľīåħ³":101063,"å®¶åºŃ":101064,"åĮºåŁŁ":101065,"åĬªåĬĽ":101066,"éļıçĿĢ":101067,"æĹłæ³ķ":101068,"交æµģ":101069,"è¡Į为":101070,"æ£ĢæŁ¥":101071,"æľŁéĹ´":101072,"å¦ĤæŃ¤":101073,"èĤ¡ä»½":101074,"å½ĵæĹ¶":101075,"è£ħå¤ĩ":101076,"åĩĨå¤ĩ":101077,"éħĴåºĹ":101078,"è¿IJåĬ¨":101079,"æıIJåĩº":101080,"å·¦åı³":101081,"æİªæĸ½":101082,"é£Łåĵģ":101083,"æ¶Īè´¹èĢħ":101084,"åѦéĻ¢":101085,"æĮĩ导":101086,"è¿IJèIJ¥":101087,"éĩį大":101088,"åĨľæĿij":101089,"éĢłæĪIJ":101090,"æĶ¿æ²»":101091,"éĴĪ对":101092,"æŃ£å¼ı":101093,"åıĸå¾Ĺ":101094,"éĤ£ä¸ª":101095,"éĽĨä¸Ń":101096,"åıªèĥ½":101097,"å¿«éĢŁ":101098,"身ä½ĵ":101099,"åħļåijĺ":101100,"èģĶåIJĪ":101101,"åĬĽéĩı":101102,"éĥ½æľī":101103,"æħ§":101104,"å¡Ķ":101105,"åĪ«äºº":101106,"表çݰ":101107,"æķħäºĭ":101108,"ä¸ĢåĪĩ":101109,"å°ĩ":101110,"èµĦæĸĻ":101111,"åŁ¹åħ»":101112,"éĺħ读":101113,"æľī人":101114,"èIJ¥éĶĢ":101115,"çĽijçĿ£":101116,"çݯä¿Ŀ":101117,"èĢĥèĻij":101118,"æ·±åľ³":101119,"严éĩį":101120,"èĮĥåĽ´":101121,"å§Ķåijĺ":101122,"çĽij管":101123,"ä¸ī个":101124,"è£ħä¿®":101125,"åħ¬éĩĮ":101126,"åĪĨåĪ«":101127,"çIJĨè§£":101128,"飩":101129,"åĬłå·¥":101130,"è®¤çľŁ":101131,"ä¸į好":101132,"åݻ年":101133,"éĻįä½İ":101134,"æľºä¼ļ":101135,"åįıè®®":101136,"符åIJĪ":101137,"å¢ŀ强":101138,"æĬĢèĥ½":101139,"é¦ĸåħĪ":101140,"秦":101141,"ä¸ģ":101142,"å°¾":101143,"æľīäºĨ":101144,"åľ°äº§":101145,"æ¸ł":101146,"æĸ¹ä¾¿":101147,"ç§»åĬ¨":101148,"éĢŁåº¦":101149,"å°¤åħ¶":101150,"éĢļçŁ¥":101151,"åĿĽ":101152,"éģ¿åħį":101153,"æģ¢":101154,"è´¡":101155,"èģĮå·¥":101156,"å®ŀåĬĽ":101157,"æĺ¯ä¸Ģç§į":101158,"åIJ¯åĬ¨":101159,"çĸ¾çĹħ":101160,"æĿ¥äºĨ":101161,"çĽ¸å¯¹":101162,"çݰå®ŀ":101163,"èŀįåIJĪ":101164,"åIJĮæł·":101165,"åħ¬åijĬ":101166,"ç®Ĭ":101167,"ç´«":101168,"ä¸ĭåİ»":101169,"ä¼łæĴŃ":101170,"æľĢ好":101171,"ä¼ĺè´¨":101172,"æ²Ĵ":101173,"æĮº":101174,"æĹ¦":101175,"诺":101176,"ä¸ĢåIJį":101177,"éģĵè·¯":101178,"示èĮĥ":101179,"è¿ĩæĿ¥":101180,"åIJĮåѦ":101181,"é¼ĵ":101182,"æĿŃ":101183,"æľ¬æ¬¡":101184,"åIJĮæĦı":101185,"ä¸ĸ纪":101186,"ç¾Ĭ":101187,"欲":101188,"å·¥èīº":101189,"çĵ¦":101190,"人士":101191,"æľīæīĢ":101192,"ä»İäºĭ":101193,"æľīå¾Īå¤ļ":101194,"ä¸įäºĨ":101195,"å²Ĺä½į":101196,"åıĺå¾Ĺ":101197,"åĬ³åĬ¨":101198,"å¤Ħäºİ":101199,"å¹³åĿĩ":101200,"形象":101201,"å¡ŀ":101202,"åħ±äº«":101203,"çĿĽ":101204,"åĪ©æ¶¦":101205,"æŃ£æĺ¯":101206,"å¾Ģå¾Ģ":101207,"缸æ¯Ķ":101208,"横":101209,"åĪ·":101210,"æµĻæ±Ł":101211,"大éĥ¨åĪĨ":101212,"å¤ļ个":101213,"æĤ¨çļĦ":101214,"ç͵åķĨ":101215,"å¾®åįļ":101216,"å§ĭç»Ī":101217,"çĬ¯ç½ª":101218,"æĺ¯åľ¨":101219,"ç»ĦåIJĪ":101220,"åİŁæĿ¥":101221,"æ¸ħæ¥ļ":101222,"åIJĦåľ°":101223,"æĦŁåıĹ":101224,"å½ĵä¸Ń":101225,"è¶ĭåĬ¿":101226,"æĻ¯åĮº":101227,"羣æĺ¯":101228,"ä¾ĽåºĶ":101229,"转åŀĭ":101230,"çĭĤ":101231,"èĨľ":101232,"èĭĹ":101233,"å¿ł":101234,"å¾Ī大":101235,"èĤ¡æĿĥ":101236,"ç¾İåħĥ":101237,"æİĴåIJį":101238,"åĬ¨çī©":101239,"éĶħ":101240,"墨":101241,"主å¸Ń":101242,"å¾Ī好":101243,"ç»Ŀ对":101244,"æĿľ":101245,"转载":101246,"çĴĥ":101247,"æĿijæ°ij":101248,"åIJ¨":101249,"åĽŃåĮº":101250,"é«ĺ度":101251,"çī©è´¨":101252,"è¾ī":101253,"æĹ¥å¸¸":101254,"æıĴ":101255,"ä¸īå¹´":101256,"ä½ĵçݰ":101257,"æīįæĺ¯":101258,"代çIJĨ":101259,"ä¸į管":101260,"æģĴ":101261,"åľ°ä½į":101262,"ç²®":101263,"èĸĦ":101264,"æĺİçϽ":101265,"ä¸Ģèĩ´":101266,"æĽ¼":101267,"åĵŃ":101268,"åĩ¤":101269,"åĬ²":101270,"æķĮ":101271,"æĪĺæĸĹ":101272,"主ä½ĵ":101273,"åħ¬å¸ĥ":101274,"åıĤèĢĥ":101275,"èĪªç©º":101276,"寺":101277,"åѦä¼ļ":101278,"åıįæĺł":101279,"ç¾İ丽":101280,"太éĺ³":101281,"建æĪIJ":101282,"æħ¢æħ¢":101283,"åIJĦ个":101284,"éĤ¦":101285,"ç»ĦæĪIJ":101286,"ä¸ī大":101287,"éͦ":101288,"大å¤ļæķ°":101289,"æ¦Ĥ念":101290,"éŃĤ":101291,"åħ¬çĽĬ":101292,"èįĴ":101293,"身份":101294,"æ·±åĪ»":101295,"åħ©":101296,"ç»ıåħ¸":101297,"åIJĦ项":101298,"èĻķ":101299,"è¿ĽæŃ¥":101300,"åįģäºĮ":101301,"æī§æ³ķ":101302,"æĥ³åΰ":101303,"æĦŁæŁĵ":101304,"åķĨåĬ¡":101305,"å°ıç»Ħ":101306,"èͬ":101307,"çıŃåŃIJ":101308,"åIJĮå¿Ĺ":101309,"éĿ¢ä¸´":101310,"çĤĴ":101311,"å¤ļç§į":101312,"è§ĤçĤ¹":101313,"åĵªéĩĮ":101314,"å°Ŀ":101315,"å§Ĩ":101316,"èħ¹":101317,"åŁİåĮº":101318,"太å¤ļ":101319,"çĹħæ¯Ĵ":101320,"åľ¨äºİ":101321,"æīĢè°ĵ":101322,"æĻ°":101323,"æŀĿ":101324,"æĭĸ":101325,"å®ħ":101326,"æķ´æ²»":101327,"ä½ıæĪ¿":101328,"åģ·":101329,"çĨĬ":101330,"èµģ":101331,"æ°Ľ":101332,"æł¼å±Ģ":101333,"åŁºç¡Ģä¸Ĭ":101334,"èĥĨ":101335,"åħ½":101336,"鼶åĶ®":101337,"åĿ¡":101338,"女åŃ©":101339,"æĴŀ":101340,"åħ¨åĬĽ":101341,"åĴĸ":101342,"èĤ©":101343,"çľī":101344,"èĩ³äºİ":101345,"åħļç»Ħ":101346,"ä¸Ģä»¶":101347,"æĭĨ":101348,"äºĭå®ŀ":101349,"åĤ³":101350,"æ¹ĺ":101351,"ç¶²ç«Ļ":101352,"循çݯ":101353,"åIJĮæ¯Ķ":101354,"æĭĶ":101355,"åĮ»èį¯":101356,"åħ»æ®ĸ":101357,"åĽºå®ļ":101358,"å®ŀéĻħä¸Ĭ":101359,"è®°å¾Ĺ":101360,"åĪ©äºİ":101361,"æĤ¦":101362,"æĭ³":101363,"èĤĿ":101364,"æķĪçĽĬ":101365,"該":101366,"æ°ij主":101367,"çĹĩçĬ¶":101368,"風":101369,"å¹¼åĦ¿":101370,"å§ij":101371,"æĪĴ":101372,"ä¸ĭçļĦ":101373,"渡":101374,"å¹´åºķ":101375,"è®°å¿Ĩ":101376,"åIJIJ":101377,"大å¹ħ":101378,"å¾½":101379,"åħ¬ä¼Ĺ":101380,"ä¿¡å¿ĥ":101381,"çİĽ":101382,"ä¼ļä¸Ĭ":101383,"ä¹Ķ":101384,"æijĦå½±":101385,"æ£ĭçīĮ":101386,"éĻķ":101387,"åºĶæĢ¥":101388,"æĶ¶è´¹":101389,"æİ§èĤ¡":101390,"仪å¼ı":101391,"çŀ¬":101392,"æīĢåľ¨":101393,"碰":101394,"å§ĵ":101395,"é¡Į":101396,"æĶ¯éĥ¨":101397,"使åij½":101398,"çĤī":101399,"å¯Ħ":101400,"翼":101401,"åľ°ä¸ĭ":101402,"è¾ŀ":101403,"俱":101404,"主æĮģ":101405,"è´§å¸ģ":101406,"æģ¨":101407,"èĤĮ":101408,"çĽĪ":101409,"éĶ»":101410,"å¿ĹæĦ¿":101411,"类似":101412,"æĮĸ":101413,"éĢ»":101414,"總":101415,"纪念":101416,"åķ¥":101417,"弯":101418,"åIJįåŃĹ":101419,"åģ¥èº«":101420,"çļĦå¿ĥ":101421,"驱":101422,"èĥĮåIJİ":101423,"æ³ķå¸Ī":101424,"ç²Ĵ":101425,"èĥ½éĩı":101426,"è¾°":101427,"èī³":101428,"å½¼":101429,"段æĹ¶éĹ´":101430,"åIJĪæ³ķ":101431,"æĵ¦":101432,"ç¾½":101433,"åݨ":101434,"æĪij说":101435,"äºĭåĬ¡":101436,"åĩłå¤©":101437,"åħģ":101438,"ç¼´":101439,"åįĵ":101440,"两ç§į":101441,"çĭ¬çī¹":101442,"帶":101443,"éĴ»":101444,"æĥ©":101445,"é¢ĨåħĪ":101446,"è¶³å¤Ł":101447,"壳":101448,"æĦıåij³çĿĢ":101449,"åĪĨå¸ĥ":101450,"ä¹ĥ":101451,"éģĭ":101452,"佩":101453,"è°±":101454,"çģ£":101455,"èį¡":101456,"贯彻":101457,"å¹¾":101458,"ç£ģ":101459,"åħ¸åŀĭ":101460,"åīĩ":101461,"åĨ»":101462,"æ¬ł":101463,"ä¸įä¹ħ":101464,"浦":101465,"éŃħ":101466,"å¼ĢäºĨ":101467,"使ç͍èĢħ":101468,"è¿Ļ款":101469,"å°Ī":101470,"èĦ±è´«":101471,"æĶ»åĿļ":101472,"ç®Ĺæĺ¯":101473,"ç¨Ģ":101474,"æĹłäºº":101475,"åłµ":101476,"å¥ı":101477,"éĥ½å¸Ĥ":101478,"åı¯è§ģ":101479,"ä¸įåĩº":101480,"æ·»":101481,"äºı":101482,"ç¾İ好":101483,"èĥĸ":101484,"飵":101485,"æłĩå¿Ĺ":101486,"èĬĤèĥ½":101487,"æĬ«":101488,"å°º":101489,"寸":101490,"ä¸Ģ代":101491,"é¢Ĺ":101492,"è̶":101493,"èĴ¸":101494,"åĸ®":101495,"滿":101496,"çĮľ":101497,"æµĨ":101498,"åŁĥ":101499,"åįĥä¸ĩ":101500,"èµĮ":101501,"èģ²":101502,"ä½ľé£İ":101503,"質":101504,"寨":101505,"年人":101506,"åį°è±¡":101507,"æ¡¶":101508,"æĴ¤":101509,"åįģäºĶ":101510,"æ¯ħ":101511,"沪":101512,"åĽ½æľī":101513,"大éĩıçļĦ":101514,"御":101515,"å¯ĵ":101516,"è¦ĸ":101517,"æ¼Ĥ亮":101518,"çľł":101519,"çĤŃ":101520,"é»İ":101521,"èϹ":101522,"åĪ©äºļ":101523,"èŃī":101524,"æµı":101525,"åįģåħ«":101526,"丢":101527,"è¾½":101528,"æľīä¸ĢäºĽ":101529,"æħĪ":101530,"åģľè½¦":101531,"å®ł":101532,"è§£æĶ¾":101533,"æľīå¤ļ":101534,"éĤĬ":101535,"常è§ģ":101536,"æĬ¹":101537,"纤":101538,"親":101539,"æ¡Ĩ":101540,"èİŀ":101541,"æ°§åĮĸ":101542,"è¿Ļä»¶":101543,"åĩ°":101544,"æŁ´":101545,"åıijç͵":101546,"é¼ł":101547,"转åĮĸ":101548,"å¨ĥ":101549,"æĮ¤":101550,"罩":101551,"å¯ĨåĪĩ":101552,"æĪijä¸į":101553,"é«ĺæĸ°":101554,"ä¸Ģç¯ĩ":101555,"è¿Ľç¨ĭ":101556,"è¡°":101557,"è¿ĺä¸į":101558,"çħĮ":101559,"æĸ°åįİ":101560,"èĤ¿":101561,"滩":101562,"ä¸Ģæµģ":101563,"è¯Ī":101564,"å®ŀä½ĵ":101565,"å¤ĸåĽ½":101566,"躲":101567,"èµł":101568,"覺":101569,"æ¢Ŀ":101570,"ä¸įè§ģ":101571,"è¨Ĭ":101572,"åĮ¹":101573,"åįµ":101574,"çĩ¥":101575,"æħķ":101576,"齿":101577,"å®´":101578,"饼":101579,"èij¡èIJĦ":101580,"å°ıå¿ĥ":101581,"æģ¼":101582,"éĻĮ":101583,"æĺĤ":101584,"åĥ¹":101585,"èĬĿ":101586,"æ¯ı个人":101587,"åīįæıIJ":101588,"ä½ĵä¼ļ":101589,"æ¨Ļ":101590,"æIJľçĭIJ":101591,"对åħ¶":101592,"丧":101593,"èľĤ":101594,"浸":101595,"調":101596,"åĿª":101597,"é¢ĸ":101598,"åIJį为":101599,"笼":101600,"èĪĮ":101601,"æľ¬ä¹¦":101602,"èģ¯":101603,"纺":101604,"ç®Ģ缴":101605,"éĽ¢":101606,"ç¾İçļĦ":101607,"éļ¨":101608,"é«ĺå³°":101609,"è¿Ļå®¶":101610,"åĤ¬":101611,"å°¸":101612,"ç¡ķ士":101613,"èŃ·":101614,"è°¨":101615,"æĺı":101616,"æĶ¿åįı":101617,"è¡Ķ":101618,"ç¿Ĵ":101619,"åľĴ":101620,"åĽ½æ°ij":101621,"主è§Ĵ":101622,"è£ķ":101623,"伪":101624,"åºŀ":101625,"æ°ijèIJ¥":101626,"æĥ§":101627,"ç§ĺ书":101628,"çĹķ":101629,"çϾåĪĨ":101630,"溶":101631,"æĹłçĸij":101632,"çļĦçľ¼":101633,"æĵİ":101634,"ä¼Łå¤§":101635,"å½°":101636,"åħ¬å®īå±Ģ":101637,"ç³ķ":101638,"å¼¥":101639,"åĤĻ":101640,"ä¹¾":101641,"毫ä¸į":101642,"注æĺİ":101643,"å̻":101644,"æĦī":101645,"æķ¦":101646,"馨":101647,"æĶĢ":101648,"éĢĿ":101649,"åı¯éĿł":101650,"夸":101651,"åľĺ":101652,"éĿ¢ä¸Ĭ":101653,"æĬĸ":101654,"èĦĨ":101655,"é©°":101656,"ä¼IJ":101657,"妨":101658,"å®ļäºĨ":101659,"ç³Ĭ":101660,"æŃ¡":101661,"éĥ¨éķ¿":101662,"ç§ī":101663,"èĪĨ":101664,"åĪijäºĭ":101665,"åIJµ":101666,"æ¤Ĵ":101667,"è¡ĵ":101668,"豫":101669,"èı©":101670,"åѵ":101671,"饲":101672,"就好":101673,"åłª":101674,"ä¸īè§Ĵ":101675,"åľºæ¯ĶèµĽ":101676,"ä¸įåģľ":101677,"æĵħ":101678,"åħ¨æĸĩ":101679,"æ³ģ":101680,"åѦä½į":101681,"æ±°":101682,"éłĺ":101683,"åıł":101684,"éļĽ":101685,"å¸IJ":101686,"çľĭåĩº":101687,"åĮł":101688,"å±ĢéĿ¢":101689,"æ³Į":101690,"è°Ĭ":101691,"åIJĮæľŁ":101692,"æĬķæłĩ":101693,"奴":101694,"æĿ¥çľĭçľĭ":101695,"èĦ¾":101696,"èŀº":101697,"æŃī":101698,"çĽ¯":101699,"ç¨İåĬ¡":101700,"å»Ĭ":101701,"æİ©":101702,"æħ¨":101703,"çĽ¼":101704,"èĬĴ":101705,"è®Ģ":101706,"æĮ£":101707,"èĮħ":101708,"æĸ¥":101709,"æ¤ħ":101710,"åΰæĿ¥":101711,"èijĹä½ľ":101712,"çĭ±":101713,"äºĮæīĭ":101714,"ä»İæĿ¥":101715,"çĸ²":101716,"åºĬä¸Ĭ":101717,"æĸ°æµª":101718,"æ³Ħ":101719,"å¢ŀå̼":101720,"丼":101721,"æļij":101722,"ä»İä¸ļ":101723,"æ·ĭ":101724,"å¤ļæł·":101725,"æľ´":101726,"份é¢Ŀ":101727,"æŀ£":101728,"西çľģ":101729,"æľ¬è´¨":101730,"深深":101731,"èīĩ":101732,"绵":101733,"产å̼":101734,"æ¼ł":101735,"èħ»":101736,"çŃĽ":101737,"åİĮ":101738,"æģŃ":101739,"å«Įçĸij":101740,"æĪ¶":101741,"æ»ŀ":101742,"èĨĢ":101743,"åĬ£":101744,"座è°Ī":101745,"常æĢģ":101746,"çļĦæĥħ":101747,"覽":101748,"å¯Ĥ":101749,"åĮĨ":101750,"èĩº":101751,"顯":101752,"çķı":101753,"éģ£":101754,"åįľ":101755,"çŃīå¥ĸ":101756,"責":101757,"溯":101758,"éİ":101759,"çĤ¹å¤´":101760,"èĵ¬":101761,"決":101762,"éħ¬":101763,"éģĬ":101764,"è³¼":101765,"註åĨĬ":101766,"æľ¬æĬ¥":101767,"çµķ":101768,"æ´»æĢ§":101769,"åħij":101770,"éĮ¯":101771,"åĨ¶":101772,"åĸ»":101773,"æºĸ":101774,"èĤ¢":101775,"æºĥ":101776,"æĹ¬":101777,"åīĬ":101778,"çIJĨäºĭ":101779,"å±ł":101780,"æ²§":101781,"èļĢ":101782,"鼻åŃIJ":101783,"为æŃ¢":101784,"常å§Ķ":101785,"çµĤ":101786,"éĬ·":101787,"çĭĢ":101788,"ä¾£":101789,"èĥĢ":101790,"èѰ":101791,"çĶ¨è½¦":101792,"åĻª":101793,"æŃ·":101794,"åįĶ":101795,"åι":101796,"竣æĺ¯":101797,"é©Ĺ":101798,"èIJĿ":101799,"çĻ«":101800,"çĹ«":101801,"æŃ§":101802,"å¼Ĭ":101803,"媽":101804,"çıĬ":101805,"è¡·":101806,"éľī":101807,"åŁºçĿ£":101808,"éļ±":101809,"æ°¨":101810,"绸":101811,"å°¼æĸ¯":101812,"çĥĺ":101813,"æľŁåĨħ":101814,"è°ħ":101815,"éĽĩ":101816,"éļĻ":101817,"åĸī":101818,"åī¥":101819,"çĹĺ":101820,"æĮ½":101821,"çĵ£":101822,"æ¹Ľ":101823,"樱":101824,"æ¾İ":101825,"æ¹ĥ":101826,"åĨ¬å¥¥":101827,"棵":101828,"å®°":101829,"åŀĴ":101830,"æ§ĭ":101831,"ä¾Ī":101832,"èĮĦ":101833,"åĺ¿":101834,"èıĩ":101835,"çĻĤ":101836,"åĬĥ":101837,"éį":101838,"èͽ":101839,"çŀŃ":101840,"æķŀ":101841,"ä¹ĸ":101842,"飧":101843,"è¾ľ":101844,"æĩĪ":101845,"ä½£":101846,"çŀ»":101847,"åŁĶ":101848,"èĪħ":101849,"å®ŀäºĭ":101850,"é¨":101851,"å§¥":101852,"絡":101853,"åĺ»":101854,"çķ¢":101855,"æ²ĥå°Ķ":101856,"è¿Ħ":101857,"èĤĩ":101858,"æħij":101859,"ã§":101860,"äı":101861,"ðł":101862,"ð¬ĩ":101863,"ð«Ń":101864,"ð«IJ":101865,"ã³":101866,"©½":101867,"ð«ł":101868,"ãĽ":101869,"ð¬į":101870,"é¿":101871,"ð¬Ĵ":101872,"ãĻ":101873,"ð¬¤":101874,"ð¬´":101875,"ð«ĸ":101876,"ð¤":101877,"ã¬":101878,"ä²":101879,"ð«Ķ":101880,"ð«ļ":101881,"è¦ģæ±Ĥ":101882,"ä¸ĢäºĽ":101883,"å®ŀçݰ":101884,"èĢĮä¸Ķ":101885,"åĽłæŃ¤":101886,"çͱäºİ":101887,"åħ³äºİ":101888,"çĦ¶åIJİ":101889,"æİ¨åĬ¨":101890,"ä¸Ģæł·":101891,"æĮīçħ§":101892,"è¿Ļæł·çļĦ":101893,"å½¢æĪIJ":101894,"æľīäºĽ":101895,"æĽ´åĬł":101896,"ç»ıè¿ĩ":101897,"建议":101898,"æ²»çĸĹ":101899,"ä½łä»¬":101900,"æīįèĥ½":101901,"ä¿ĥè¿Ľ":101902,"åijĺå·¥":101903,"ä½ĵéªĮ":101904,"èĪĩ":101905,"åģļ好":101906,"ä¿Ŀè¯ģ":101907,"æķ´ä¸ª":101908,"æĺ¯ä¸Ģ个":101909,"éĩĩç͍":101910,"çIJĨ论":101911,"æ¯Ķå¦Ĥ":101912,"ä¸ĬçļĦ":101913,"æİ¨èįIJ":101914,"çĶ³è¯·":101915,"天空":101916,"éĥ¨èIJ½":101917,"åįģåĪĨ":101918,"æĿ¥èĩª":101919,"ä¹ĭéĹ´":101920,"è°ĥæķ´":101921,"æ¯ı天":101922,"è°ĥæŁ¥":101923,"æĤ£èĢħ":101924,"è¿ĩç¨ĭä¸Ń":101925,"é¦Ļ港":101926,"广åijĬ":101927,"éĿ¢å¯¹":101928,"满足":101929,"éķ¿æľŁ":101930,"è§ĦèĮĥ":101931,"æķ´ä½ĵ":101932,"æĶ¹åıĺ":101933,"æĻºæħ§":101934,"å¦Īå¦Ī":101935,"å¦Ĥä»Ĭ":101936,"åIJĪåIJĮ":101937,"éĥ½ä¼ļ":101938,"åĦ¿ç«¥":101939,"åĩıå°ij":101940,"éŁ³ä¹IJ":101941,"ç»ı常":101942,"ä¸Ĭå¸Ĥ":101943,"ä¼ĺç§Ģ":101944,"çļĦéĩįè¦ģ":101945,"ä¸ĢæĿ¡":101946,"æµ·å¤ĸ":101947,"åı¦å¤ĸ":101948,"ä¸Ģå®¶":101949,"åİĭåĬĽ":101950,"大åŀĭ":101951,"çľĭçĿĢ":101952,"åĪĢ":101953,"幸ç¦ı":101954,"æİ¨å¹¿":101955,"åIJĽ":101956,"å¾IJ":101957,"æī¾åΰ":101958,"äºİæĺ¯":101959,"èĩªèº«":101960,"ä¸Ģä½į":101961,"åľŁåľ°":101962,"åĬłåħ¥":101963,"æİ¢ç´¢":101964,"æ¢ģ":101965,"主åĬ¨":101966,"å°±ä¸ļ":101967,"女æĢ§":101968,"çªģçł´":101969,"ä¸įåIJĮçļĦ":101970,"è¿IJè¾ĵ":101971,"èĩªçͱ":101972,"å±ħæ°ij":101973,"æŃ¤æ¬¡":101974,"çļĦæĹ¶éĹ´":101975,"å®¶éķ¿":101976,"ä¸Ģ个人":101977,"æ£Ģæµĭ":101978,"åĨħéĥ¨":101979,"广å·ŀ":101980,"缴æĴŃ":101981,"ä»İèĢĮ":101982,"贷款":101983,"åı¬å¼Ģ":101984,"æĶ¹éĢł":101985,"人çĶŁ":101986,"å±ķ示":101987,"æ¯ıå¹´":101988,"女人":101989,"çļĦæĸ¹å¼ı":101990,"æķĪçİĩ":101991,"å±±ä¸ľ":101992,"æ¸łéģĵ":101993,"ä¼¼ä¹İ":101994,"æ¡Īä»¶":101995,"åĪ©çĽĬ":101996,"çľĭçľĭ":101997,"å¿ĥéĩĮ":101998,"ç»´æĬ¤":101999,"å®Ŀå®Ŀ":102000,"ç½ijä¸Ĭ":102001,"论åĿĽ":102002,"å°±åı¯ä»¥":102003,"ä¸įè¶³":102004,"æģ¢å¤į":102005,"å¸ĥå±Ģ":102006,"è´¡çĮ®":102007,"ä¸ĭéĻį":102008,"æİĮæı¡":102009,"çļ®èĤ¤":102010,"å·¥åħ·":102011,"éĩįåºĨ":102012,"åĵģè´¨":102013,"æİ¨åĩº":102014,"çĶ·äºº":102015,"æī¿æĭħ":102016,"çªģåĩº":102017,"èĢĮè¨Ģ":102018,"æ²Ł":102019,"åįıè°ĥ":102020,"æĺ¯ä»Ģä¹Ī":102021,"汤":102022,"æĴij":102023,"çĭ¬ç«ĭ":102024,"çݯèĬĤ":102025,"æī©å¤§":102026,"æ´ª":102027,"æĿ°":102028,"çĽIJ":102029,"ä»ģ":102030,"æ¶īåıĬ":102031,"èĢģ人":102032,"åį³ä½¿":102033,"åįĹ京":102034,"éħįåIJĪ":102035,"鬼":102036,"çĪ¶äº²":102037,"ç½Ĺæĸ¯":102038,"å°ıåĮº":102039,"æķĻæİĪ":102040,"åĨ³çŃĸ":102041,"é¢Ħ计":102042,"æľ¬äºº":102043,"伯":102044,"竹":102045,"åΰåºķ":102046,"å¸Ĥæ°ij":102047,"åĩºåı£":102048,"éĩĩè´Ń":102049,"æĢ»ç»ĵ":102050,"æŃ¦æ±ī":102051,"åĬłå¤§":102052,"å¹¿ä¸ľ":102053,"æµģç¨ĭ":102054,"人åı£":102055,"å¦Ĥæŀľä½ł":102056,"åĩºåİ»":102057,"åĩī":102058,"åĨľæ°ij":102059,"çݰ象":102060,"åĬĽåº¦":102061,"ç»ĻäºĪ":102062,"åħļå§Ķ":102063,"è¯Ńè¨Ģ":102064,"线ä¸Ĭ":102065,"æĢİæł·":102066,"åĦ¿åŃIJ":102067,"ç¡®å®ŀ":102068,"ä¹ĭå¤ĸ":102069,"éĥ½åľ¨":102070,"èī¾":102071,"çļĦæĥħåĨµ":102072,"éĩĮçļĦ":102073,"åĽ´ç»ķ":102074,"æĽ´å¤ļçļĦ":102075,"ä¾Ŀæ³ķ":102076,"åħ¬åĽŃ":102077,"å®¶éĩĮ":102078,"æ¯į亲":102079,"ä¸įåĨį":102080,"èĭ¹":102081,"æ³ķéĻ¢":102082,"éŁ©åĽ½":102083,"缸å½ĵ":102084,"ä¸įçŁ¥":102085,"è¯Ħä¼°":102086,"ä¸įç͍":102087,"顺åĪ©":102088,"éĩįè§Ĩ":102089,"è´¢åĬ¡":102090,"ä»ĸåĢij":102091,"åıijè¡Į":102092,"ä¸ĵéŨ":102093,"åħ·å¤ĩ":102094,"å¹¶ä¸įæĺ¯":102095,"è¶³çIJĥ":102096,"éŀĭ":102097,"åıij表":102098,"æ°¸è¿ľ":102099,"èIJ¥åħ»":102100,"éħįå¥Ĺ":102101,"æķ´åIJĪ":102102,"è´º":102103,"åĽŀçŃĶ":102104,"æĶ¶çĽĬ":102105,"ä¹Łè®¸":102106,"è»Ĭ":102107,"æİ¥è§¦":102108,"æĶ»åĩ»":102109,"åĽĽå·Ŀ":102110,"æĢ§èĥ½":102111,"åĽŀåΰ":102112,"èħ°":102113,"ä¹Łæ²¡æľī":102114,"å¼Ħ":102115,"设ç«ĭ":102116,"éĺ²æİ§":102117,"æĬĢå·§":102118,"éĢļ常":102119,"è´¢æĶ¿":102120,"éĥ¨ç½²":102121,"åľºæĻ¯":102122,"æ±Łèĭı":102123,"表达":102124,"åĸ·":102125,"女åĦ¿":102126,"èζ":102127,"給":102128,"ä¼ļåijĺ":102129,"æĪĸ许":102130,"亩":102131,"举æĸ¹":102132,"天津":102133,"è¿ijå¹´":102134,"çľĭæĿ¥":102135,"æ¯Ķä¾ĭ":102136,"岩":102137,"éĵľ":102138,"çİ»":102139,"å®ŀéªĮ":102140,"æĢĿç»´":102141,"æĭħå¿ĥ":102142,"æ²Ī":102143,"身边":102144,"æ·±åĮĸ":102145,"ç²¾åĩĨ":102146,"ç§ģæľį":102147,"æ¶Īéĺ²":102148,"åİ»äºĨ":102149,"ç»Ĩèĥŀ":102150,"çIJĥéĺŁ":102151,"æĺİæĺŁ":102152,"é£Łçī©":102153,"å¾Īå¿«":102154,"è®©ä½ł":102155,"ä¿¡ç͍":102156,"å͝ä¸Ģ":102157,"åħ¶å®ĥ":102158,"çŃīæĸ¹éĿ¢":102159,"å¾ĭå¸Ī":102160,"æŃ»äº¡":102161,"æŁ³":102162,"ä¸Ģæī¹":102163,"ä¸Ĭ涨":102164,"æľºåľº":102165,"å½¢åĬ¿":102166,"æĦ¿æĦı":102167,"éĽĨä½ĵ":102168,"æĸ°åŀĭ":102169,"æįŁå¤±":102170,"æĽ¸":102171,"ä¸ĭåįĪ":102172,"æ¯ı次":102173,"æĪIJå°±":102174,"åħ¬è·¯":102175,"èĻ«":102176,"åĴ±":102177,"西å®ī":102178,"æľĢä½³":102179,"ç§ijçłĶ":102180,"å¤įæĿĤ":102181,"æľºåύ":102182,"çαæĥħ":102183,"çħ§çīĩ":102184,"å¹´é¾Ħ":102185,"è³ĩæĸĻ":102186,"ç²Ĺ":102187,"åĩĨç¡®":102188,"åĬłä¸Ĭ":102189,"åĩºçīĪ":102190,"è°IJ":102191,"å®¶å±ħ":102192,"èĥĮæĻ¯":102193,"ä¸Ģ线":102194,"äºĭ项":102195,"åĬ¨ä½ľ":102196,"祥":102197,"æĢ»ä½ĵ":102198,"æĪ¿åŃIJ":102199,"ä¹Łå°±æĺ¯":102200,"大æ¦Ĥ":102201,"é«ĺæķĪ":102202,"åIJ¹":102203,"æİĪæĿĥ":102204,"éĻĦè¿ij":102205,"æ¡Īä¾ĭ":102206,"éĹ¹":102207,"çΏçΏ":102208,"彩票":102209,"æĢĴ":102210,"举æĬ¥":102211,"æĻ®éģį":102212,"çķĻä¸ĭ":102213,"è¡£æľį":102214,"æĹłè®ºæĺ¯":102215,"åħħ满":102216,"深度":102217,"æ¡ij":102218,"æĪªèĩ³":102219,"带æĿ¥çļĦ":102220,"éϵ":102221,"æĦŁæĥħ":102222,"èµļ":102223,"åĵªäºĽ":102224,"æķ´æĶ¹":102225,"æĪIJçĨŁ":102226,"å¨ľ":102227,"é¼»":102228,"磼":102229,"çĽ¾":102230,"好好":102231,"ç¬¬åĽĽ":102232,"åĨłåĨĽ":102233,"è´¢å¯Į":102234,"æľĢ好çļĦ":102235,"车åŀĭ":102236,"éĸĢ":102237,"åį³å°Ĩ":102238,"åĪĨ为":102239,"éĿĴå²Ľ":102240,"纷纷":102241,"ä»ĬæĹ¥":102242,"平衡":102243,"å¹³æĸ¹ç±³":102244,"éĤ£ç§į":102245,"åĩºçĶŁ":102246,"éĿĴæĺ¥":102247,"人群":102248,"人工":102249,"ä¹ĭä¸ĭ":102250,"æ¹ĸåĮĹ":102251,"åľ¨æŃ¤":102252,"åįļ士":102253,"æĹ¶åĪ»":102254,"æ²³åĮĹ":102255,"æĶ¾å¼ĥ":102256,"éĢļéģĵ":102257,"森æŀĹ":102258,"çĸĨ":102259,"æķ¸":102260,"èĬ³":102261,"æīĵåĩ»":102262,"æĽ¹":102263,"åĮĸåѦ":102264,"æĥ³è±¡":102265,"ä¸ĩ人":102266,"è´¢ç»ı":102267,"åħĥç´ł":102268,"ä¼ļ计":102269,"åħ¨ä½ĵ":102270,"æĦĽ":102271,"é«ĺä¸Ń":102272,"æľºéģĩ":102273,"å£°éŁ³":102274,"æĹħè¡Į":102275,"浩":102276,"æŁ±":102277,"å°ijå¹´":102278,"åĽ½å¤ĸ":102279,"èijĹåIJį":102280,"çĶŁåŃĺ":102281,"å§ľ":102282,"带é¢Ĩ":102283,"é¢ľèī²":102284,"ä¸Ĭä¸ĭ":102285,"产ä¸ļéĵ¾":102286,"æĽ´å¥½çļĦ":102287,"å²Ń":102288,"ä¼ĺæĥł":102289,"便æĺ¯":102290,"åħ§å®¹":102291,"ä¸Ģåıª":102292,"çIJ´":102293,"梦æĥ³":102294,"ç§Łèµģ":102295,"å¼ĢåIJ¯":102296,"è´Ńçī©":102297,"åĮħåIJ«":102298,"åĪ©çİĩ":102299,"èµ·äºĨ":102300,"æľīåĬĽ":102301,"éĤ£éĩĮ":102302,"审æī¹":102303,"对æīĭ":102304,"çݰéĩij":102305,"天çĦ¶":102306,"çĽĴ":102307,"çν":102308,"å¿ħçĦ¶":102309,"åĮĸå·¥":102310,"ä¸ĵåĪ©":102311,"åķ¡":102312,"å¼Ģå¿ĥ":102313,"人ä½ĵ":102314,"éģĵ士":102315,"æĢģ度":102316,"空è°ĥ":102317,"æĭĽåķĨ":102318,"å§»":102319,"第äºĶ":102320,"æ£Ĵ":102321,"ä¸Ģç³»åĪĹ":102322,"å᱿ľº":102323,"转åıĺ":102324,"åľºæīĢ":102325,"鸣":102326,"æĪ¿éĹ´":102327,"é̼":102328,"è¯ķçĤ¹":102329,"对å¤ĸ":102330,"åĩºåı°":102331,"åľ¨è¿Ļ":102332,"åİĤå®¶":102333,"巨大":102334,"ç®Ģä»ĭ":102335,"çľĭäºĨ":102336,"åħļ建":102337,"æĮĩæĮ¥":102338,"çŁ³æ²¹":102339,"ä¸įåı¯èĥ½":102340,"èݲ":102341,"ä¸į太":102342,"åĪĽæĦı":102343,"第ä¸Ģ个":102344,"è´µå·ŀ":102345,"è¿ĩäºĨ":102346,"æľ¬æĿ¥":102347,"éģĵå¾·":102348,"çŃĶæ¡Ī":102349,"é϶":102350,"ä¸Ģè·¯":102351,"èĤĸ":102352,"æ¸ħæ´ģ":102353,"æľīæľº":102354,"åIJįåįķ":102355,"æĿ±":102356,"åij¼åIJ¸":102357,"ä¸Ī":102358,"ç¦ı建":102359,"è¯ķéªĮ":102360,"å¼ķåıij":102361,"ä¹Łæ²¡":102362,"ä¸įä½ı":102363,"çĨŁæĤī":102364,"èIJ¬":102365,"ä¸įèī¯":102366,"çłĸ":102367,"èĩ´åĬĽ":102368,"çŃ¾è®¢":102369,"åIJĬ":102370,"侯":102371,"çĺ¦":102372,"å§ijå¨ĺ":102373,"æĸ¤":102374,"妻åŃIJ":102375,"æĺ¥èĬĤ":102376,"çά":102377,"æĽĿ":102378,"çĥŃæĥħ":102379,"éķ¿æ²Ļ":102380,"èIJ¥éĢł":102381,"éħ·":102382,"éĵĿ":102383,"åŁºæľ¬ä¸Ĭ":102384,"åij¨åĽ´":102385,"ä»Ģ麼":102386,"认åı¯":102387,"åĪĨåŃIJ":102388,"ä¸Ģæĸ¹éĿ¢":102389,"è½´":102390,"å¼·":102391,"马ä¸Ĭ":102392,"éĽ¾":102393,"èĩ£":102394,"å°¿":102395,"çĶŁæĦı":102396,"å®īå¾½":102397,"ç¥ŀç»ı":102398,"åĩºå¸Ń":102399,"èį¯åĵģ":102400,"çIJĨçͱ":102401,"åįıåIJĮ":102402,"æµģåĬ¨":102403,"åıijåĬ¨":102404,"åĿļå®ļ":102405,"表æĺİ":102406,"åIJİéĿ¢":102407,"ä¹īåĬ¡":102408,"å¦ĸ":102409,"æľīåı¯èĥ½":102410,"年轻人":102411,"大éĻĨ":102412,"å²³":102413,"ä¸įèµ·":102414,"çŀ¬éĹ´":102415,"ä¸įå¾Ĺä¸į":102416,"çŃ¾çº¦":102417,"åIJĪæł¼":102418,"åħļæĶ¯éĥ¨":102419,"æµİåįĹ":102420,"便åĪ©":102421,"éļıæĹ¶":102422,"å¥ī":102423,"称为":102424,"产æĿĥ":102425,"åIJķ":102426,"çĽĨ":102427,"课åłĤ":102428,"ç·ļ":102429,"æ£ī":102430,"线ä¸ĭ":102431,"èĩªè¡Į":102432,"举æİª":102433,"åݦéŨ":102434,"èĩªä¿¡":102435,"å½±è§Ĩ":102436,"ä»Ķ":102437,"çĶŁæ´»ä¸Ń":102438,"æĿĥçĽĬ":102439,"çϽèī²":102440,"å°±ä¸į":102441,"è¿Ľå±ķ":102442,"æ¯ıæĹ¥":102443,"ä¾Ľç»Ļ":102444,"æĿĥåĪ©":102445,"æĹłæķ°":102446,"çIJĨè´¢":102447,"ä¾ĿæĹ§":102448,"ä¸ĬåįĪ":102449,"è¯ĨåĪ«":102450,"çĽĪåĪ©":102451,"çłĤ":102452,"许åı¯":102453,"åIJĮäºĭ":102454,"åĺĽ":102455,"éģ¸":102456,"çĿĢåĬĽ":102457,"éŨåı£":102458,"ä¸įå¤ļ":102459,"åħ¶æ¬¡":102460,"碧":102461,"çī©çIJĨ":102462,"åĨħå¿ĥ":102463,"çϾå§ĵ":102464,"æĢ»ç»Ł":102465,"å¹²åĩĢ":102466,"积累":102467,"åıįé¦Ī":102468,"æłijç«ĭ":102469,"社交":102470,"ç§©":102471,"åįģä¸Ģ":102472,"éĤĵ":102473,"驱åĬ¨":102474,"å±ķè§Ī":102475,"èĪĴéĢĤ":102476,"åŁºåĽł":102477,"å·®å¼Ĥ":102478,"转让":102479,"å°ıå§IJ":102480,"æł·åŃIJ":102481,"ç¿Ķ":102482,"é«ĺåħ´":102483,"å½±åĵįåĬĽ":102484,"æīĭç»Ń":102485,"缸åIJĮ":102486,"缸åºĶ":102487,"æĻĴ":102488,"è§Ģ":102489,"å¸Ĥå§Ķ":102490,"èĬ¯":102491,"å±ķçݰ":102492,"åľ°çIJĥ":102493,"éĤª":102494,"ä¸Ģå®ļçļĦ":102495,"åħģ许":102496,"ä¿¡ä»»":102497,"æīij":102498,"éĻ¢æł¡":102499,"ç®Ģç§°":102500,"åģļæ³ķ":102501,"ä¹ĭè·¯":102502,"æĹĹä¸ĭ":102503,"èħĶ":102504,"æ¶Ī失":102505,"ä¸ĸçķĮä¸Ĭ":102506,"åŁİ乡":102507,"èĪŀåı°":102508,"å¾Ī大çļĦ":102509,"绣çѹ":102510,"åħ¬å¹³":102511,"èĤ¾":102512,"çļĦ好":102513,"æ±ģ":102514,"çľ¼åīį":102515,"éĽ£":102516,"å¹½":102517,"åħ±äº§":102518,"主åĬŀ":102519,"å¤Ħç½ļ":102520,"åºĻ":102521,"éģĵçIJĨ":102522,"å¼µ":102523,"æİ¥çĿĢ":102524,"çĮİ":102525,"çģĮ":102526,"çͱæŃ¤":102527,"人åĬĽ":102528,"æµģè¡Į":102529,"ä¾ł":102530,"åı¯ä»¥è¯´":102531,"èĴĭ":102532,"å½¢æĢģ":102533,"æĹ¥åŃIJ":102534,"æ¼Ĩ":102535,"çķĻåѦ":102536,"缸éĹľ":102537,"æľĢå¤ļ":102538,"åĩŃåĢŁ":102539,"åħ¬äº¤":102540,"æĮĸæİĺ":102541,"æĿĤå¿Ĺ":102542,"主人":102543,"éļľç¢į":102544,"æł¡éķ¿":102545,"æĸ¹ä½į":102546,"ä¸ĬçıŃ":102547,"å¤ļåħĥ":102548,"èĥģ":102549,"éŃħåĬĽ":102550,"èĮĤ":102551,"åħħç͵":102552,"强大":102553,"çĥ¤":102554,"å¥ĭæĸĹ":102555,"å®ŀç͍":102556,"éĺģ":102557,"ç»ĻäºĨ":102558,"æľ¬ç§ij":102559,"æłĭ":102560,"æĭ¨":102561,"æķĻç»ĥ":102562,"éĥ½çŁ¥éģĵ":102563,"æ¯ķä¸ļçĶŁ":102564,"ç¢Ĺ":102565,"åŀĤ":102566,"讼":102567,"å®ģæ³¢":102568,"åѦèĢħ":102569,"谢谢":102570,"åŁİéķĩ":102571,"æĢİä¹ĪåĬŀ":102572,"éģĶ":102573,"æĪIJ交":102574,"æ½ľåĬĽ":102575,"åį§":102576,"æĸ°å¼Ģ":102577,"éħįå¤ĩ":102578,"主åĬĽ":102579,"åij³éģĵ":102580,"çĥĤ":102581,"é£ŀè¡Į":102582,"å«ģ":102583,"大大":102584,"ç»Ļ大家":102585,"å¤ĸéĿ¢":102586,"éĨī":102587,"åıijè¨Ģ":102588,"æĹ©é¤IJ":102589,"åIJĦèĩª":102590,"å®Ļ":102591,"èį£èªī":102592,"æĬ«éľ²":102593,"é¡ŀ":102594,"åĨħçļĦ":102595,"èĤª":102596,"è¾IJ":102597,"æ³µ":102598,"æĬĽ":102599,"æĺŁæľŁ":102600,"ä¸Ģ带":102601,"çĶŁç´ł":102602,"ç»ıéĶĢ":102603,"åĩ¶":102604,"åľ°ä¸Ĭ":102605,"åij½è¿IJ":102606,"åĵ²":102607,"ä¸Ĭåİ»":102608,"æĸĩçī©":102609,"è¯ij":102610,"æĮ¯åħ´":102611,"éķ¿æĹ¶éĹ´":102612,"ç¥Ń":102613,"åIJĪèĤ¥":102614,"è¿Ŀè§Ħ":102615,"èģª":102616,"ä½İäºİ":102617,"éĢĤå½ĵ":102618,"æľīåºı":102619,"æľ¬ç½ij":102620,"çķĻè¨Ģ":102621,"æĥ³æ³ķ":102622,"çŃ¾ç½²":102623,"å§ļ":102624,"æĢ§æł¼":102625,"èĴĻåı¤":102626,"æŁı":102627,"åŀ«":102628,"åѦåİĨ":102629,"ä»ħä»ħ":102630,"讲è¯Ŀ":102631,"éĶIJ":102632,"æĢĸ":102633,"åīª":102634,"èĭį":102635,"åIJĵ":102636,"强çĥĪ":102637,"åģ¥åħ¨":102638,"çĸ¯":102639,"åı¤ä»£":102640,"å¥Ī":102641,"ä¸įçĦ¶":102642,"乡éķĩ":102643,"æľĭåıĭ们":102644,"åĤħ":102645,"èģ½":102646,"个æĢ§":102647,"æ³ķè§Ħ":102648,"å°ıéķĩ":102649,"çĶ»éĿ¢":102650,"第åħŃ":102651,"網路":102652,"åīįæĻ¯":102653,"åIJ¬è¯´":102654,"ä¼łåªĴ":102655,"æĿ¡ä¾ĭ":102656,"åĪ«çļĦ":102657,"ä¸įæĩĤ":102658,"顾éĹ®":102659,"强度":102660,"éĺ¿éĩĮ":102661,"èµ°åĬ¿":102662,"帽":102663,"çļĦç¡®":102664,"åĮºåĪ«":102665,"éĮ¢":102666,"主管":102667,"ä¸Ģçľĭ":102668,"æĸľ":102669,"åŃĺåľ¨çļĦ":102670,"仲":102671,"åį±å®³":102672,"éĵŃ":102673,"游æĪıä¸Ń":102674,"éħ±":102675,"é¾Ļ头":102676,"人å¿ĥ":102677,"éĢĢä¼ij":102678,"æµıè§Ī":102679,"åĬ«":102680,"éĺ²æ²»":102681,"ç®Ń":102682,"å±Ī":102683,"è¾½å®ģ":102684,"壤":102685,"è¿İæĿ¥":102686,"éŀį":102687,"ç͍æĿ¥":102688,"å¤§åľ°":102689,"ä»°":102690,"éĢļ讯":102691,"å¼Ģå·¥":102692,"裤":102693,"å¦ĤåIJĮ":102694,"骤":102695,"éĺŁåijĺ":102696,"轩":102697,"ç¾İæľ¯":102698,"èĻŁ":102699,"åIJĮä¸Ģ":102700,"åľĸ":102701,"书æ³ķ":102702,"æīĵåį°":102703,"åIJ«æľī":102704,"éĽĨæĪIJ":102705,"éĹ·":102706,"å¸Ĥåľºä¸Ĭ":102707,"æĹģè¾¹":102708,"åľ°æĿ¿":102709,"产çĶŁçļĦ":102710,"粤":102711,"éĩįç»Ħ":102712,"è¡Ģæ¶²":102713,"çŃĭ":102714,"åĬŀäºĭ":102715,"常è§ģçļĦ":102716,"ä¸ĬåįĬå¹´":102717,"å±ıå¹ķ":102718,"åIJīæŀĹ":102719,"å·©":102720,"åĸľçα":102721,"ç¿ł":102722,"ä¸īç§į":102723,"æ¡Ĩæŀ¶":102724,"举èİŀ":102725,"çĶĺèĤĥ":102726,"èĬ¬":102727,"åĽ¾ä¹¦":102728,"åĩ¤åĩ°":102729,"æ°ĶåĢĻ":102730,"å°´":102731,"å°¬":102732,"两天":102733,"è¾ħ导":102734,"åĢŁæ¬¾":102735,"æĹ¥èµ·":102736,"æ´Ĵ":102737,"ä¸Ģ度":102738,"è¹Ī":102739,"æ½Ń":102740,"æīĩ":102741,"çĻľ":102742,"æĸ°åħ´":102743,"åĤ²":102744,"诸å¤ļ":102745,"è´ª":102746,"éĻ·åħ¥":102747,"èĪŁ":102748,"èĤºçĤİ":102749,"ä¸Ģæł·çļĦ":102750,"åİĺ":102751,"åľ°çIJĨ":102752,"æĬķæ³¨":102753,"éļĬ":102754,"åħīä¼ı":102755,"ä¿Ŀåģ¥":102756,"åħĶ":102757,"åħ¬åĬ¡":102758,"æīĵçł´":102759,"çĶ·åŃ©":102760,"åĬ³åĬ¡":102761,"ä½łä¼ļ":102762,"çĶ¨åľ°":102763,"溢":102764,"åıijè¾¾":102765,"èĤļ":102766,"è¿ĩäºİ":102767,"èĩĤ":102768,"éĢĻæ¨£":102769,"轻轻":102770,"ä¸Ńåħ±":102771,"åIJĦåĽ½":102772,"åĶĩ":102773,"å®ŀä¹ł":102774,"èϾ":102775,"æ§½":102776,"ä¸įä¸Ĭ":102777,"åħįçĸ«":102778,"åįłæį®":102779,"å·¥ä¼ļ":102780,"åĽĬ":102781,"èĪªå¤©":102782,"åı¯çα":102783,"æĸĹäºī":102784,"çĺ¤":102785,"å¦Ĥæľī":102786,"éĽĸ":102787,"对æĪij":102788,"åĩºç§Ł":102789,"好çľĭ":102790,"太大":102791,"æ°´åĪ©":102792,"åĬ¿åĬĽ":102793,"åħ¨æ°ij":102794,"ç½¢":102795,"èµ¢å¾Ĺ":102796,"çĶµä¿¡":102797,"车éĹ´":102798,"æĻĤåĢĻ":102799,"å°ijæķ°":102800,"éĵ¸":102801,"åħ³èģĶ":102802,"ä¸įä»ħä»ħ":102803,"为æĤ¨":102804,"åĴ¸":102805,"æľºåĬ¨":102806,"è£Ļ":102807,"åĵįåºĶ":102808,"éģł":102809,"è²·":102810,"ç©´":102811,"å¢ħ":102812,"éĶ¡":102813,"çµĦ":102814,"çģ«è½¦":102815,"è³ĩè¨Ĭ":102816,"åĨ³èµĽ":102817,"污水":102818,"èªŀ":102819,"å´Ľ":102820,"ç´§å¯Ĩ":102821,"缺å°ij":102822,"å¤ļ人":102823,"æĢ»ä¹¦è®°":102824,"éĶĪ":102825,"èijĽ":102826,"å¿ĺè®°":102827,"éĻĮçĶŁ":102828,"éķ¿å¤§":102829,"åħĪè¿ĽçļĦ":102830,"ç¡ħ":102831,"åıijæĺİ":102832,"å©´åĦ¿":102833,"æīİå®ŀ":102834,"èĽĭçϽ":102835,"ä¸ĢçϾ":102836,"缮åħī":102837,"æħĮ":102838,"åĬłæ²¹":102839,"åIJŀ":102840,"ä¸Ģ群":102841,"ä¸Ńä»ĭ":102842,"å¸ĸ":102843,"å¿Į":102844,"èģĮèĥ½":102845,"广æĴŃ":102846,"çĽijå¯Ł":102847,"ç§ĺå¯Ĩ":102848,"çĭ®":102849,"è¿ĻæĿ¡":102850,"éĢ¢":102851,"æĢ¨":102852,"åįģåħŃ":102853,"試":102854,"说åΰ":102855,"åĩĿèģļ":102856,"æĮĩ示":102857,"æ°¢":102858,"å¼ĺ":102859,"éĺĢ":102860,"æĸ©":102861,"éłħ":102862,"ä¸Ģå¼Ģå§ĭ":102863,"æİĴè¡Į":102864,"åľ¨æĪij":102865,"纪å½ķ":102866,"æĬĦ":102867,"æłª":102868,"说æ³ķ":102869,"ä¸Ńèį¯":102870,"好å¤ļ":102871,"åıªä¸įè¿ĩ":102872,"çķĻåľ¨":102873,"个å°ıæĹ¶":102874,"è®¤çŁ¥":102875,"çķ«":102876,"è§ģè¿ĩ":102877,"å°ıå¾®":102878,"ä½Ľå±±":102879,"çľ¾":102880,"讲述":102881,"梳":102882,"ç§°åı·":102883,"æĹ¥æĻļ":102884,"è¢ĸ":102885,"åķ¤":102886,"æľªç»ı":102887,"æľĢæĹ©":102888,"æī®æ¼Ķ":102889,"è¡Ģ管":102890,"纱":102891,"æĥħèĬĤ":102892,"第ä¸ĥ":102893,"æį§":102894,"ä»Ĺ":102895,"æ¿ĢçĥĪ":102896,"æĹłçº¿":102897,"ä¸į容æĺĵ":102898,"å¼Ģå¹ķ":102899,"æĸ°çĶŁ":102900,"ä¸ĵ注":102901,"èij±":102902,"åįĹæµ·":102903,"çĩŁ":102904,"èµ·ä¾Ĩ":102905,"æ´¾åĩº":102906,"åĦĴ":102907,"侨":102908,"è¼ĥ":102909,"åįļè§Ī":102910,"é̾":102911,"åĮĢ":102912,"ç»ıæµİåѦ":102913,"æ¸Ĺ":102914,"ä¿ĿèŃ·":102915,"çīº":102916,"çī²":102917,"çİ«":102918,"çij°":102919,"æľĢåIJİä¸Ģ":102920,"æĶ¿åĬ¡":102921,"æ§Ľ":102922,"èĻķçIJĨ":102923,"éļIJæĤ£":102924,"æī¿åĮħ":102925,"極":102926,"æ¡©":102927,"çĽ²":102928,"导åIJij":102929,"èĩ´å¯Į":102930,"ç¼Ĩ":102931,"æģĭçα":102932,"ä¸įåĬ¨":102933,"ç»Ļ人":102934,"å·¢":102935,"表æĥħ":102936,"举åįĹ":102937,"åĨħå¤ĸ":102938,"è¾ĪåŃIJ":102939,"åıī":102940,"åįļä¼ļ":102941,"åĬŁæķĪ":102942,"渴":102943,"屬":102944,"æİĴéϤ":102945,"éĢĽ":102946,"ä¸Ģä¼ļ":102947,"ä¸įå¼Ģ":102948,"å¼Ģå¥ĸ":102949,"é»ijé¾Ļ":102950,"é»ijé¾Ļæ±Ł":102951,"å¿«ä¸ī":102952,"度åģĩ":102953,"åĿ¤":102954,"éĤ®ä»¶":102955,"æĩĴ":102956,"ä¾Ľç͵":102957,"廣":102958,"好è¯Ħ":102959,"ç§ĺ书éķ¿":102960,"æĪĺåľº":102961,"好å¥ĩ":102962,"ä¾µæĿĥ":102963,"æĨ¾":102964,"æľĢåĪĿ":102965,"æī¹åıij":102966,"åİķ":102967,"è¼ķ":102968,"æŀ¯":102969,"ä¸ļåĨħ":102970,"è´ŃæĪ¿":102971,"ä¸įåľ¨":102972,"纪å§Ķ":102973,"æīĢéľĢ":102974,"å¸Ĥéķ¿":102975,"è³½":102976,"å¼ķæĵİ":102977,"çģµéŃĤ":102978,"éĬĢ":102979,"滤":102980,"çĿIJ":102981,"å¤ļ项":102982,"åĽŀ头":102983,"èīĺ":102984,"å¤įå·¥":102985,"éĥ¨ä»¶":102986,"ç´§ç´§":102987,"æŁIJç§į":102988,"使åħ¶":102989,"æĸ°äºº":102990,"æŀļ":102991,"æ³ķå®ļ":102992,"å·´å·´":102993,"æ¶µçĽĸ":102994,"稻":102995,"æĭ¾":102996,"æĻķ":102997,"轿":102998,"éĢļè¡Į":102999,"åĵĢ":103000,"æ³Ĭ":103001,"温馨":103002,"éĽĨèģļ":103003,"çĨĻ":103004,"åĩij":103005,"åįģä¸ĥ":103006,"æ°Ķæģ¯":103007,"æıIJä¾ĽçļĦ":103008,"æ³³":103009,"奥è¿IJ":103010,"çģ¾å®³":103011,"åĩĢåĮĸ":103012,"è·¨è¶Ĭ":103013,"åĵªæĢķ":103014,"éŁ¿":103015,"å¢ŀæ·»":103016,"çĦĬ":103017,"æ®ĭçĸ¾":103018,"ç¢Į":103019,"æĤĶ":103020,"è§ģè¯ģ":103021,"è¾ĸåĮº":103022,"å¿ĥèĦı":103023,"éļ§":103024,"åį¸":103025,"åı¯èĥ½æĢ§":103026,"æľīè¶£":103027,"åī¯ä¹¦è®°":103028,"åĮĸå¦Ĩ":103029,"ä¿Ĥ":103030,"æ£ļ":103031,"éĨĩ":103032,"带头":103033,"éłĪ":103034,"追究":103035,"æijĶ":103036,"è¿Ļéĥ¨":103037,"ä¸į论":103038,"祸":103039,"å³»":103040,"éģķ":103041,"çĶŁèĤ²":103042,"å¤ł":103043,"å¤ĸ交":103044,"è¯Ħ为":103045,"ä»İå°ı":103046,"å°ıå°ı":103047,"饿":103048,"æĴ¼":103049,"è·¨å¢ĥ":103050,"被åijĬ":103051,"åįĹå®ģ":103052,"身å¿ĥ":103053,"åĨįçĶŁ":103054,"æīĢ说":103055,"æĹ¶éĹ´åĨħ":103056,"åĪĹåħ¥":103057,"éĿĴæµ·":103058,"çα好":103059,"çªĦ":103060,"èĪĪ":103061,"è¿ĩ渡":103062,"æ¿Ł":103063,"éĽĢ":103064,"审议":103065,"åĽ½èµĦ":103066,"æŃ¥ä¼IJ":103067,"轨éģĵ":103068,"信念":103069,"ä¸īåĪĨ":103070,"çĨ¬":103071,"åѵåĮĸ":103072,"ç¼ł":103073,"éĥĬ":103074,"èĪĴæľį":103075,"纪æ£Ģ":103076,"ä¸Ģä¸ĭåŃIJ":103077,"éĽ»è©±":103078,"è²ł":103079,"éĴ¥":103080,"åĮĻ":103081,"çĹ´":103082,"è¶ģ":103083,"绣":103084,"çε":103085,"è½°":103086,"éªĦ":103087,"姨":103088,"æĭĺ":103089,"çĮ´":103090,"è®¶":103091,"è¿Ļ座":103092,"çį¨":103093,"æ·ĺæ±°":103094,"çĹħä¾ĭ":103095,"æ²Ļåıij":103096,"è§Ĩ为":103097,"头æĿ¡":103098,"å¿ħè¦ģçļĦ":103099,"åı¯è°ĵ":103100,"è¯Ŀ说":103101,"ç¯Ħ":103102,"æĹ©çĤ¹":103103,"æŀ¢çº½":103104,"羡":103105,"çĪ±åĽ½":103106,"çªģåıij":103107,"éĢĬ":103108,"æ½į":103109,"èį£èĢĢ":103110,"èŁ¹":103111,"æ¦Ĥçİĩ":103112,"å¾Īä¹ħ":103113,"æĥķ":103114,"訴":103115,"åľĨ满":103116,"çļ±":103117,"åĪĨæ³Į":103118,"åħħè¶³":103119,"çľĭæ³ķ":103120,"è¾Ł":103121,"æĭ¦":103122,"æĭ©":103123,"对åºĶ":103124,"ä¸ºæł¸å¿ĥ":103125,"èħĬ":103126,"å¤ļä¹Ī":103127,"æµij":103128,"å®ıè§Ĥ":103129,"èĦĸ":103130,"åIJĪèµĦ":103131,"çĶŁæ¶¯":103132,"å®ŀè´¨":103133,"ä¼ĺçĤ¹":103134,"çĶ¨æ°´":103135,"寿åij½":103136,"沫":103137,"åIJģ":103138,"詹":103139,"åĽ½éĺ²":103140,"å´©":103141,"åĿİ":103142,"èĨı":103143,"ä¸Ģè½®":103144,"éģĹ产":103145,"æ¹¾åĮº":103146,"ç»İ":103147,"åįķ纯":103148,"æ¾Ħ":103149,"åīįåĪĹ":103150,"身影":103151,"é»ĺé»ĺ":103152,"æįī":103153,"çĴ°":103154,"èıĬ":103155,"æĢľ":103156,"åħĭæĢĿ":103157,"æĢ»å±Ģ":103158,"çĩĥæĸĻ":103159,"ä¸ļæĢģ":103160,"åIJĦæł·":103161,"åĴ½":103162,"åĩºèī²":103163,"åĪĿå¿ĥ":103164,"åıĽ":103165,"çłĶ讨":103166,"è¡«":103167,"åİĨç¨ĭ":103168,"禽":103169,"è¶³å¤ŁçļĦ":103170,"èįĨ":103171,"çľĭå¾ħ":103172,"è´©":103173,"åĨ³å¿ĥ":103174,"裹":103175,"å¸ĪèĮĥ":103176,"åŀĦ":103177,"æĿł":103178,"åĩ¸":103179,"çĬ¹è±«":103180,"çĥŃè¡Ģ":103181,"åIJĪä¼Ļ":103182,"éħµ":103183,"èIJ½åľ¨":103184,"åįłåľ°":103185,"衬":103186,"èĵī":103187,"æĦ¤":103188,"æ¸Ĭ":103189,"åĪĨæķ°":103190,"ç¬ijçĿĢ":103191,"太平":103192,"çĤ«":103193,"æİ¨ä»ĭ":103194,"æĸ¯åĿ¦":103195,"形容":103196,"æĵĬ":103197,"æĦŁåħ´è¶£":103198,"åĨĽäºº":103199,"åĩĮæĻ¨":103200,"对çħ§":103201,"åıijçĹħ":103202,"å·¾":103203,"èĪī":103204,"檢":103205,"ç¬ijäºĨ":103206,"ç¡®è¯Ĭ":103207,"è´ŁåĢº":103208,"壮大":103209,"æĪļ":103210,"äºĴèģĶ":103211,"課":103212,"èħ¦":103213,"æĹ±":103214,"åıĹæ¬¢è¿İ":103215,"åįī":103216,"éϢ士":103217,"æ©¡":103218,"ä¸Ģ对":103219,"è¾±":103220,"æ²Ĥ":103221,"åı²ä¸Ĭ":103222,"æIJı":103223,"å´ĸ":103224,"代谢":103225,"磷":103226,"é¡ĺ":103227,"æµĩ":103228,"常ç͍":103229,"åįij":103230,"åĩºåĽ½":103231,"è¯ł":103232,"稳æŃ¥":103233,"ç»ı纪":103234,"å¤ļå¤ļ":103235,"æīĢå¾Ĺ":103236,"为主é¢ĺ":103237,"ä¸ĢåĪĨ":103238,"æł½":103239,"é¡§":103240,"纲":103241,"åĥħ":103242,"å£ĵ":103243,"åĦª":103244,"ç¿°":103245,"æİĢ":103246,"人为":103247,"媳":103248,"æ´½":103249,"èĿ¶":103250,"å¤įåħ´":103251,"ä¼ļå½±åĵį":103252,"åIJĦçķĮ":103253,"éĤ£ä¸Ģ":103254,"颤":103255,"çĢı":103256,"çĢı覽":103257,"å¯ŀ":103258,"åı¯æĢķ":103259,"åį³æĹ¶":103260,"çķ´":103261,"ä¸ĭåįĬå¹´":103262,"ç¬Ķè®°":103263,"éĻĦåĬł":103264,"çĥŃæ°´":103265,"奸":103266,"ç£ħ":103267,"æĿī":103268,"æ¸ħåįİ":103269,"éĸ±":103270,"ç°¡":103271,"å¤Ħå¤Ħ":103272,"åIJĪéĩij":103273,"æ²³æµģ":103274,"ç´°":103275,"è´ŁéĿ¢":103276,"çļĦ羣å®ŀ":103277,"åĻ¨æ¢°":103278,"èĴIJ":103279,"西äºļ":103280,"å·ħ":103281,"ç²¹":103282,"åİŁæĸĩ":103283,"æŀķ":103284,"è¡Ģåİĭ":103285,"åļ´":103286,"å¸ĺ":103287,"åĨĢ":103288,"æĮ«":103289,"çĶµè·¯":103290,"å°ıä¼Ļä¼´":103291,"èĿ´":103292,"æľĢå¿«":103293,"æĭĮ":103294,"宪":103295,"æĸ·":103296,"ç¿ħ":103297,"åĴ³":103298,"åĹ½":103299,"ç¾ŀ":103300,"èººåľ¨":103301,"èµĽè½¦":103302,"æ²IJ":103303,"éĻIJ度":103304,"为ä¸Ģä½ĵ":103305,"èĴľ":103306,"幫":103307,"æIJħ":103308,"åĭĭ":103309,"åīĸ":103310,"纳ç¨İ":103311,"éķ¿æķĪ":103312,"ç½ķ":103313,"åľ¬":103314,"ç©į":103315,"éĴ©":103316,"ç¹¼":103317,"åĽ½åľŁ":103318,"è¼ī":103319,"ä¸įå¿ĺ":103320,"èŃ¦ç¤º":103321,"çģ¿":103322,"å¿ĥå¾Ĺ":103323,"æĦļ":103324,"忽çķ¥":103325,"åĽŀäºĭ":103326,"åįłæľī":103327,"æ·Ħ":103328,"çī¡":103329,"çĽijäºĭ":103330,"ç¿¡":103331,"éĴĪ对æĢ§":103332,"çªĥ":103333,"製":103334,"èĨĿ":103335,"ç³Ł":103336,"港澳":103337,"太太":103338,"澡":103339,"ç»ĨåĮĸ":103340,"åĶ®åIJİ":103341,"å®ŀåľ¨æĺ¯":103342,"ç«£":103343,"çį²":103344,"å̾åIJij":103345,"å¼ķç͍":103346,"é¹ħ":103347,"ç¬ij容":103348,"ä¹IJè¶£":103349,"æ°ijæĶ¿":103350,"éŨæĪ·":103351,"å±ģ":103352,"迷失":103353,"éĶĮ":103354,"å°ı康":103355,"åĭī":103356,"æ³¼":103357,"ä¾ĭåŃIJ":103358,"ä¸īä½į":103359,"å»ł":103360,"èĶĵ":103361,"广éĺĶ":103362,"èĢį":103363,"èĢģèĻİ":103364,"åĭŁéĽĨ":103365,"èĦļæŃ¥":103366,"æĭ¯":103367,"åŃĹåı·":103368,"çĦ°":103369,"é¢ł":103370,"èļĤ":103371,"èļģ":103372,"飯":103373,"人æĢ§":103374,"æĴ°":103375,"åİ¢":103376,"å±ĢéĻIJ":103377,"æľªæĪIJ":103378,"åĵªåĦ¿":103379,"大åıij":103380,"ä¸įå®ļ":103381,"å¾ģæ±Ĥ":103382,"éĥµ":103383,"åĢºæĿĥ":103384,"çĪ±ä½ł":103385,"èºģ":103386,"ä»ħä¾Ľ":103387,"è¿ľå¤Ħ":103388,"éĨĽ":103389,"åĥµ":103390,"积æŀģæĢ§":103391,"æİ¡":103392,"åīįä¸ī":103393,"äºİä¸Ģä½ĵ":103394,"çŀĦ":103395,"çĿģ":103396,"沸":103397,"åħ±èµ¢":103398,"éĢĢå½¹":103399,"è´Ŀå°Ķ":103400,"æİı":103401,"æĪ²":103402,"è¡į":103403,"éĶĤ":103404,"ä¸ĩä½Ļ":103405,"ç§ijåĪĽ":103406,"æ¼Ķåͱ":103407,"欧åħĥ":103408,"æ·¡æ·¡":103409,"éĿĴå±±":103410,"èĹĿ":103411,"绽":103412,"令çīĮ":103413,"éĽĨ群":103414,"ä½ľçī©":103415,"çĢij":103416,"夯":103417,"ç½ij游":103418,"åħ«å¤§":103419,"éªļ":103420,"èªĵ":103421,"ä¼ļå±ķ":103422,"åħļåı²":103423,"æ£Ģå¯ŁéĻ¢":103424,"åĸĺ":103425,"éĺ±":103426,"èĢĮåĩº":103427,"éĢļ车":103428,"éĴĵ":103429,"æĥħ人":103430,"æ¸Ľ":103431,"ä¸Ńç§ĭ":103432,"çĪŃ":103433,"åıªåī©":103434,"æĺĶ":103435,"éĩİçĶŁ":103436,"ç¡«":103437,"èIJĿåįľ":103438,"æĬµæĬĹ":103439,"çĻ«çĹ«":103440,"éĻĢ":103441,"èĶļ":103442,"å¸ľ":103443,"满满":103444,"èı±":103445,"éļĨéĩį":103446,"æĺŁçº§":103447,"æ½ĩ":103448,"åħ¬åħĥ":103449,"è°£":103450,"æ¯Ķäºļ":103451,"æ¡ĮåŃIJ":103452,"èµ£":103453,"è²¼":103454,"æĦ¿æľĽ":103455,"顽":103456,"æ´¾éģ£":103457,"ç¥Ľ":103458,"åªļ":103459,"éĺľ":103460,"èij«":103461,"èĬ¦":103462,"æ³»":103463,"å¡Į":103464,"çĭŃ":103465,"å»īæĶ¿":103466,"å¥ijæľº":103467,"æĹĹèΰ":103468,"æĥ«":103469,"严åİī":103470,"åıĭæĥħ":103471,"å¦Ĭ":103472,"å¨ł":103473,"åĵªå®¶":103474,"èĨ¨":103475,"è¶Ł":103476,"æĮª":103477,"èĻIJ":103478,"éłģ":103479,"çŀ©":103480,"éºŁ":103481,"稣":103482,"èģĶéĢļ":103483,"åı®":103484,"çİĭèĢħ":103485,"ä¸įç¡®å®ļ":103486,"çijľ":103487,"è°İ":103488,"çī¢è®°":103489,"碼":103490,"æĬ¤èĤ¤":103491,"é¡·":103492,"çĦķ":103493,"åģļ强":103494,"éļ±ç§ģ":103495,"éļ±ç§ģæ¬Ĭ":103496,"åıĹ害":103497,"ä¸įçͱ":103498,"çĥ¹":103499,"饪":103500,"驳":103501,"ä¼½":103502,"ä¸Ŀ绸":103503,"è¥Ħ":103504,"åįģä½Ļ":103505,"éºĹ":103506,"æ¬ĬåĪ©":103507,"èģŀ":103508,"åı¤èĢģ":103509,"éģı":103510,"åIJĦå¼ı":103511,"å°±è¡Į":103512,"åħ¥å¢ĥ":103513,"çĥģ":103514,"èľĺ":103515,"èĽĽ":103516,"纬":103517,"磫":103518,"è»Ł":103519,"æ´Ĺè¡£":103520,"æĦ§":103521,"é¢Ħæ¡Ī":103522,"éľĨ":103523,"æ·±åİļ":103524,"éĺ¿æĭī":103525,"åĨĻåŃĹ":103526,"åį¦":103527,"éķĢ":103528,"æ¨¡æł·":103529,"åĤį":103530,"æIJį":103531,"èĸ¯":103532,"åłħ":103533,"åħ¬ç§¯":103534,"è¨İ":103535,"ä¼łæŁĵ":103536,"毯":103537,"çIJĨå·¥":103538,"åĨ·éĵ¾":103539,"ç«ĭæĸ¹":103540,"æ¢Ń":103541,"åľ£è¯ŀ":103542,"综èīº":103543,"çİ©ç¬ij":103544,"æĥ³ä¸įåΰ":103545,"æijĩ头":103546,"æ·¹":103547,"åģĩæĹ¥":103548,"åĢĺ":103549,"è̽":103550,"èİĵ":103551,"åŁ·":103552,"èĩªè´¸":103553,"åįĬ天":103554,"æªĶ":103555,"æ¾İæ¹ĥ":103556,"éķij":103557,"丫":103558,"éĩĮç¨ĭ":103559,"å¼ĢèįĴ":103560,"èıı":103561,"å®Ŀè´µ":103562,"èѬ":103563,"åķŁ":103564,"æŁł":103565,"檬":103566,"é©Ń":103567,"æ±Ľ":103568,"çĨĬçĮ«":103569,"èķī":103570,"éļıä¹ĭ":103571,"å±ij":103572,"è¾ĥ强":103573,"èĥ³":103574,"èĨĬ":103575,"éĿĻéĿĻ":103576,"åĴª":103577,"æĭĽåij¼":103578,"代è¨Ģ":103579,"ä¿¡ç®±":103580,"è£ħéħį":103581,"æĤį":103582,"åįķ车":103583,"èIJİ":103584,"å¤ļ彩":103585,"éϏ":103586,"ä»İ严":103587,"æ©Ħ":103588,"æ¦Ħ":103589,"éĢ®":103590,"éĩĮæĸ¯":103591,"å§¿æĢģ":103592,"太æŀģ":103593,"éĩĿ":103594,"æºī":103595,"è¿Ń":103596,"秸":103597,"ç§Ĩ":103598,"å·¥å§Ķ":103599,"æ±ķ":103600,"èģĨ":103601,"佬":103602,"ç¼ħ":103603,"ç͏":103604,"åī¯å±Ģéķ¿":103605,"éĹº":103606,"誤":103607,"è¤IJ":103608,"ä¸įéĻIJ":103609,"èħķ":103610,"åijķ":103611,"磶":103612,"åĨľå®¶":103613,"管å§Ķä¼ļ":103614,"饺":103615,"èĬľ":103616,"æ¾Ī":103617,"è©¢":103618,"å¨ģå°¼æĸ¯":103619,"ä½ķåĨµ":103620,"å°ıä¼Ļ":103621,"奢ä¾Ī":103622,"è¿Ļç¯ĩ":103623,"诵":103624,"竳ç¨ĭ":103625,"ç´Ģ":103626,"éIJĺ":103627,"éĤ¢":103628,"ç³Ļ":103629,"ç¼Ģ":103630,"ä¹Ĵ":103631,"ä¹ĵ":103632,"çī¢åĽº":103633,"åĿŀ":103634,"å¼Ī":103635,"ä¾ĭå¤ĸ":103636,"廳":103637,"è§Ħ竳":103638,"èĬĻ":103639,"篷":103640,"躯":103641,"æłĪ":103642,"åĿļå®ŀ":103643,"åŁºå»º":103644,"çĿĢçľ¼":103645,"ç·´":103646,"èij©":103647,"ç¼ļ":103648,"æ¦Ĩ":103649,"主åĭķ":103650,"ç¥Ģ":103651,"äºĴéĢļ":103652,"尤为":103653,"å®Ľ":103654,"骼":103655,"æ±²":103656,"ä¾ĥ":103657,"æĤłä¹ħ":103658,"æij§":103659,"æĭĩ":103660,"é«ĵ":103661,"éºĴ":103662,"éĻĽ":103663,"æŀ¸":103664,"æĿŀ":103665,"è´¬":103666,"å°ıé¾Ļ":103667,"åĵ®":103668,"èĵ¬åĭĥ":103669,"åĮĪ":103670,"çķľçī§":103671,"娩":103672,"个å¤ļ":103673,"æ²¥":103674,"æĺ§":103675,"çĦļ":103676,"æĬijéĥģ":103677,"çĸ¡":103678,"èĺij":103679,"éģİç¨ĭ":103680,"橱":103681,"éĿĵ":103682,"大çIJĨ":103683,"髦":103684,"åĪĨ辨":103685,"渤":103686,"çĸ¤":103687,"åĬ¨èĥ½":103688,"å¼łå®¶":103689,"ä¸ĩåįĥ":103690,"滥":103691,"饥":103692,"åºŁå¼ĥ":103693,"帳":103694,"æ¼³":103695,"è±IJ":103696,"ä»ij":103697,"å«ī":103698,"å¦Ĵ":103699,"çŀĴ":103700,"è¡ħ":103701,"çĭ¸":103702,"å¾ģç¨ĭ":103703,"éĤ¯":103704,"éĥ¸":103705,"ç¥Ī":103706,"祷":103707,"è¶´":103708,"ç»ĵæŀĦæĢ§":103709,"è§ĨåIJ¬":103710,"è¬Ŀ":103711,"çĴĢ":103712,"çĴ¨":103713,"åĩºå¤Ħ":103714,"è¯Ģ":103715,"å¾ĺ":103716,"å¾Ĭ":103717,"羨":103718,"åĸĩ":103719,"åıŃ":103720,"åĺ²":103721,"çķ¸":103722,"å¹²äºĭ":103723,"æļ§":103724,"æ²Ľ":103725,"åĦĦ":103726,"å»ĵ":103727,"åİ¿éķ¿":103728,"èĥļ":103729,"çIJ¢":103730,"çŃ·":103731,"éĩĭ":103732,"ä¾®":103733,"åIJ©":103734,"åĴIJ":103735,"åĮ¿":103736,"æĬ¬èµ·":103737,"æ³£":103738,"涤":103739,"麽":103740,"æĽĻ":103741,"åī¯éĻ¢éķ¿":103742,"åħļåĴĮ":103743,"æķ£åıij":103744,"润æ»ij":103745,"åĵº":103746,"æĥ¬":103747,"漫éķ¿":103748,"ä¸įæĩĪ":103749,"åŁł":103750,"åĹĵ":103751,"èĢģçĪ·":103752,"讽":103753,"æĪĺç»ĦåIJĪ":103754,"æ£ł":103755,"åħ¨åŁŁ":103756,"èł¢":103757,"诡":103758,"åīįçŀ»":103759,"æķĽ":103760,"ä¸Ģå°ģ":103761,"å¹Ĥ":103762,"èİĨ":103763,"è¯Ŀè¯Ń":103764,"ç»ĨåĪĻ":103765,"屿":103766,"åµĮ":103767,"éĢį":103768,"åĺ±":103769,"渲":103770,"çĥ¯":103771,"çĿ¹":103772,"é¦Ĵ":103773,"èħ¥":103774,"æĬĹåĩ»":103775,"çĿ«":103776,"èįĶ":103777,"éļİ":103778,"æ³īæ°´":103779,"è¬Ĥ":103780,"çĤ¬":103781,"åĩıæİĴ":103782,"è¸Ĭ":103783,"è·»":103784,"æ·Į":103785,"éľ¾":103786,"å¥ĩ纳":103787,"å¯Ŀ":103788,"æ¤İ":103789,"æŁ¬":103790,"æĸ¯åŁº":103791,"åħ¬ç«ĭ":103792,"è¨ĵ":103793,"é£Ļ":103794,"é©¿":103795,"åĤµ":103796,"èĽĻ":103797,"ç¯ĩ竳":103798,"åĪĨæĶ¯":103799,"ä¸Ĭå¹´":103800,"çŃĿ":103801,"缤":103802,"èĢģæĹ§":103803,"åϬ":103804,"æľ¦":103805,"èĥ§":103806,"æ¶Īè²»":103807,"æĵĶ":103808,"榴":103809,"æ¿Ĵ":103810,"糯":103811,"泸":103812,"æįĨ":103813,"ç»ļ":103814,"èµİ":103815,"çIJIJ":103816,"èµĤ":103817,"æħ®":103818,"æ²Į":103819,"çĦĻ":103820,"æĴŃæĬ¥":103821,"æ·ĩ":103822,"åĪĩåħ¥":103823,"çijķ":103824,"çĸµ":103825,"éģ´":103826,"ç¨ļ":103827,"ç©©":103828,"èŀĥ":103829,"æ£ķ":103830,"æĨ§":103831,"æĨ¬":103832,"伺":103833,"æ¯Ĺ":103834,"æįį":103835,"æĬī":103836,"ç´Ĭ":103837,"å¼Ľ":103838,"æĭŃ":103839,"æĹıèĩªæ²»":103840,"åĿ·":103841,"ç«¶":103842,"詳":103843,"è¿Ħä»Ĭ":103844,"è°´":103845,"çŀŃè§£":103846,"æŁ¿":103847,"é¢Ĭ":103848,"ç°§":103849,"çĥŁèĬ±":103850,"ä¾¥":103851,"çĿ¦":103852,"éħĿ":103853,"æ°ĵ":103854,"çIJī":103855,"å§Ĭ":103856,"æ²®":103857,"æħ·":103858,"èľķ":103859,"çijļ":103860,"éĩĩçŁ¿":103861,"åł°":103862,"åºķèķ´":103863,"èĨ³":103864,"è¾ķ":103865,"éŁŃ":103866,"åĴĻ":103867,"ç²½":103868,"åīĶ":103869,"沦":103870,"èĤ´":103871,"éķ¶":103872,"æĺ¼":103873,"è¾Ĺ":103874,"婪":103875,"åĮ®":103876,"æĸĵ":103877,"æ±¶":103878,"éĥ´":103879,"éł»":103880,"çªĴ":103881,"袱":103882,"åĽ±":103883,"èĢĺ":103884,"èļĮ":103885,"çĭĻ":103886,"çĹ¹":103887,"ç¥ī":103888,"æı®":103889,"æ·Ĩ":103890,"ç£ĭ":103891,"éĺª":103892,"æ«":103893,"ã¸":103894,"϶":103895,"ãij":103896,"ð£²":103897,"ä¢":103898,"ãŃ":103899,"ð¬¨":103900,"ð¬Ģ":103901,"ð¬®":103902,"ð¬¯":103903,"ð¬ľ":103904,"ðª¨":103905,"ð«Ĺ":103906,"ð¬Ĭ":103907,"ð¬±":103908,"ð¬Ł":103909,"äİ":103910,"ð¡":103911,"äĥ":103912,"ãł":103913,"ð©":103914,"ð©¾":103915,"ð¬º":103916,"ð¬Ļ":103917,"ãĢĶ":103918,"ãĢķ":103919,"çļĦæĹ¶åĢĻ":103920,"æľīéĻIJåħ¬åı¸":103921,"ä¹ĭåIJİ":103922,"ä¸ļåĬ¡":103923,"åķĬ":103924,"èϽçĦ¶":103925,"æĭ¥æľī":103926,"äºĴèģĶç½ij":103927,"éĤ£äºĽ":103928,"ä½łçļĦ":103929,"åĨ³å®ļ":103930,"éϤäºĨ":103931,"åĽ¢éĺŁ":103932,"åı¯æĺ¯":103933,"以åIJİ":103934,"社åĮº":103935,"çļĦéĹ®é¢ĺ":103936,"å¹¶ä¸Ķ":103937,"æķĻå¸Ī":103938,"å°±ä¼ļ":103939,"天空éĥ¨èIJ½":103940,"æľĢç»Ī":103941,"å½ĵçĦ¶":103942,"ä¹Łæľī":103943,"ç¡®ä¿Ŀ":103944,"æĥ³è¦ģ":103945,"è´Ńä¹°":103946,"人çļĦ":103947,"åIJ´":103948,"çļĦåıijå±ķ":103949,"ä¸įçŁ¥éģĵ":103950,"软件":103951,"æĪij们çļĦ":103952,"çζæ¯į":103953,"åīij":103954,"èĢĮæĺ¯":103955,"å®īæİĴ":103956,"åIJİæĿ¥":103957,"çļĦåľ°æĸ¹":103958,"èµµ":103959,"èĢĥè¯ķ":103960,"çªģçĦ¶":103961,"ä¸Ģå®ļè¦ģ":103962,"åĪ¶ä½ľ":103963,"è¯Ħä»·":103964,"åħįè´¹":103965,"è´¹ç͍":103966,"绣ä¸Ģ":103967,"çĦ¶èĢĮ":103968,"è¿Ļ次":103969,"éĿĴå¹´":103970,"人类":103971,"亦":103972,"让人":103973,"è´Łè´£äºº":103974,"éĩĩåıĸ":103975,"çļĦäºĭæĥħ":103976,"ä¹Łä¼ļ":103977,"车è¾Ĩ":103978,"æĽ´æĺ¯":103979,"强åĮĸ":103980,"æĪijåĢij":103981,"以åīį":103982,"ä¼ĺåĮĸ":103983,"å§Ķåijĺä¼ļ":103984,"åĽ°éļ¾":103985,"年度":103986,"ä½įäºİ":103987,"æĮĩåĩº":103988,"åĨῬ¡":103989,"åĬŀçIJĨ":103990,"æ¯ı个":103991,"对æĸ¹":103992,"è¿Ľè¡ĮäºĨ":103993,"æľĢé«ĺ":103994,"课ç¨ĭ":103995,"身ä¸Ĭ":103996,"æĽ¾ç»ı":103997,"åĮ»çĶŁ":103998,"å®īè£ħ":103999,"æľ±":104000,"è¿IJè¡Į":104001,"åıĮæĸ¹":104002,"æľĢ大çļĦ":104003,"æŀĦ建":104004,"è¿ŀç»Ń":104005,"çļĦå°ı":104006,"她çļĦ":104007,"çŃīçŃī":104008,"æĶ¹åĸĦ":104009,"åIJĦç±»":104010,"éģĩåΰ":104011,"æľīçĿĢ":104012,"人çī©":104013,"æĢ»æĺ¯":104014,"è¿ħéĢŁ":104015,"åζå®ļ":104016,"å®ĥ们":104017,"å®ĺç½ij":104018,"è¿ĺè¦ģ":104019,"ç»Īäºİ":104020,"æĪ¿åľ°äº§":104021,"è¯ģæĺİ":104022,"èĤ¡ç¥¨":104023,"åºĶå½ĵ":104024,"èĭ±åĽ½":104025,"è¿IJç͍":104026,"æľĢæĸ°":104027,"享åıĹ":104028,"让æĪij":104029,"æĻļä¸Ĭ":104030,"å¾ŀ":104031,"å°ı说":104032,"å°¤åħ¶æĺ¯":104033,"è®Ńç»ĥ":104034,"åħ¨å¸Ĥ":104035,"æĮijæĪĺ":104036,"æľīçĤ¹":104037,"带çĿĢ":104038,"çļĦä¸ľè¥¿":104039,"é£İæł¼":104040,"é»Ħéĩij":104041,"å¼ķ导":104042,"æŃ¤å¤ĸ":104043,"æľĢè¿ij":104044,"追æ±Ĥ":104045,"强è°ĥ":104046,"ä¹Łåı¯ä»¥":104047,"æĦŁåΰ":104048,"èĩªæĪij":104049,"çī¹åĪ«æĺ¯":104050,"æĪIJéĥ½":104051,"éĢIJæ¸IJ":104052,"å¿«ä¹IJ":104053,"ä¹ĭä¸Ń":104054,"æĬķèµĦèĢħ":104055,"ä»ĸ们çļĦ":104056,"æ°ı":104057,"å·¥ä½ľäººåijĺ":104058,"äºĨä¸Ģ个":104059,"åķ¦":104060,"ä¸ĢåĢĭ":104061,"åŁºå±Ĥ":104062,"æ²ŁéĢļ":104063,"第ä¸Ģ次":104064,"并没æľī":104065,"çļĦå·¥ä½ľ":104066,"åľ¨è¿ĻéĩĮ":104067,"æŀª":104068,"æĶ¯æĴij":104069,"æĹ¶å°ļ":104070,"æĿ¥åΰ":104071,"æĶ¶è´Ń":104072,"éĿ©åij½":104073,"æĺ¯ä¸įæĺ¯":104074,"讨论":104075,"ä¸ļ绩":104076,"å°±èĥ½":104077,"ç«ĭåį³":104078,"è¡Ĺéģĵ":104079,"åľ¨ä¸Ģèµ·":104080,"æľĪ份":104081,"é«ĺ端":104082,"å¾Īéļ¾":104083,"ä¿Ħç½Ĺæĸ¯":104084,"æīĭ段":104085,"åģļåĩº":104086,"ä¼Ĺå¤ļ":104087,"å®ŀè¡Į":104088,"æīĵå¼Ģ":104089,"游客":104090,"ä¾ĿçĦ¶":104091,"å°±åĥı":104092,"离å¼Ģ":104093,"说éģĵ":104094,"æĸ°èĥ½æºIJ":104095,"溪":104096,"äºķ":104097,"令人":104098,"ä¸Ģåľº":104099,"æĪijæĥ³":104100,"两人":104101,"èĩ³å°ij":104102,"çļĦçĶŁæ´»":104103,"æĺ¯ä¸ª":104104,"èĭ±è¯Ń":104105,"æ²Ĵæľī":104106,"æĢĿèĢĥ":104107,"éĻIJåζ":104108,"åı°æ¹¾":104109,"ä¸ĢæĹ¦":104110,"çļĦä¸Ģ个":104111,"é«ĺ级":104112,"åĬŀåħ¬å®¤":104113,"å¾·åĽ½":104114,"æĪijå°±":104115,"å®ļä½į":104116,"éĢĤåºĶ":104117,"æĮĩæłĩ":104118,"åħ¨çľģ":104119,"ä¸Ĭè¿°":104120,"å®ĥçļĦ":104121,"åĽŀå®¶":104122,"欧洲":104123,"éĵģè·¯":104124,"é¼ĵåĬ±":104125,"çļĦå½±åĵį":104126,"é«ĺæł¡":104127,"天ä¸ĭ":104128,"é«ĺè´¨éĩı":104129,"æĿŃå·ŀ":104130,"èµĦ讯":104131,"æĶ¾åľ¨":104132,"æľīä¸Ģ个":104133,"å°±è¦ģ":104134,"ä¸ĬéĿ¢":104135,"è§£éĩĬ":104136,"éĢIJæŃ¥":104137,"尽管":104138,"æľīä»Ģä¹Ī":104139,"çļĦäºĭ":104140,"çĻ»è®°":104141,"人æ°ijå¸ģ":104142,"è§Ĥä¼Ĺ":104143,"è§Ĥå¯Ł":104144,"ç͵èĦij":104145,"çļĦåIJĮæĹ¶":104146,"ä½ľä¸ļ":104147,"宣å¸ĥ":104148,"çļĦä½ľç͍":104149,"åĽŀæĿ¥":104150,"éļ¾ä»¥":104151,"æīĢæľīçļĦ":104152,"å°ıåѦ":104153,"æıIJåīį":104154,"æ¤įçī©":104155,"åĩ¯":104156,"ä¸ĬäºĨ":104157,"å°±åľ¨":104158,"åħĪåIJİ":104159,"æīĭæľ¯":104160,"éĥŃ":104161,"éĿ¢åīį":104162,"æ¯ķ竣":104163,"äºĮæĺ¯":104164,"红èī²":104165,"éĺ³åħī":104166,"èĭ¹æŀľ":104167,"å¾Īå¤ļ人":104168,"ç»ĻæĪij":104169,"åĵ¦":104170,"çľ¼çĿĽ":104171,"éłŃ":104172,"ä¸Ģæĺ¯":104173,"åıijå±ķçļĦ":104174,"åıįåºĶ":104175,"æĪ¿å±ĭ":104176,"æľŁå¾ħ":104177,"ç§įæ¤į":104178,"æĸĩåѦ":104179,"åį³åı¯":104180,"é¦ĸ次":104181,"èĭ±éĽĦ":104182,"å¤ļ次":104183,"åĮħè£ħ":104184,"æ²³åįĹ":104185,"ä¹ĭéĹ´çļĦ":104186,"ä»įçĦ¶":104187,"åIJ¬åΰ":104188,"èij£äºĭéķ¿":104189,"è§ĦåĪĻ":104190,"ä¸Ģ份":104191,"大ä¼Ĺ":104192,"使å¾Ĺ":104193,"è¿Ľåı£":104194,"ä¸Ģçīĩ":104195,"æĢ§çļĦ":104196,"çļĦ大":104197,"æĪijæĺ¯":104198,"äºĴåĬ¨":104199,"æ°£":104200,"çļĨ":104201,"åħ¬åı¸çļĦ":104202,"ä¸Ģè¾¹":104203,"åıĬåħ¶":104204,"èī¯å¥½çļĦ":104205,"æĭĵå±ķ":104206,"å½ĵå¹´":104207,"å¹¿åľº":104208,"åģļäºĨ":104209,"åŁºäºİ":104210,"æıIJéĨĴ":104211,"åħĦå¼Ł":104212,"èĢģæĿ¿":104213,"è¿ijæĹ¥":104214,"çĬ¶åĨµ":104215,"注éĩį":104216,"åĪļåĪļ":104217,"è°ĥçłĶ":104218,"å¿ĥä¸Ń":104219,"æĬĬæı¡":104220,"éļıåIJİ":104221,"ä¸įå¤Ł":104222,"åĪĽä½ľ":104223,"ç«Ļåľ¨":104224,"缸äºĴ":104225,"çĸ«æĥħéĺ²æİ§":104226,"年代":104227,"带åĬ¨":104228,"伤害":104229,"竣çĦ¶":104230,"å¼ķè¿Ľ":104231,"累计":104232,"让æĪij们":104233,"åĽŀæĶ¶":104234,"æĬ¥åIJį":104235,"åĬ©åĬĽ":104236,"èģĶ缣":104237,"çŃĸçķ¥":104238,"åij¨è¾¹":104239,"åĭĴ":104240,"è¿ĺåľ¨":104241,"æµģéĩı":104242,"寻æī¾":104243,"ç͵åĬĽ":104244,"èιèζ":104245,"è¿ĺèĥ½":104246,"æĭħä»»":104247,"çļĦæĥħåĨµä¸ĭ":104248,"çļĦåİŁåĽł":104249,"缺ä¹ı":104250,"çIJĥåijĺ":104251,"å²ģçļĦ":104252,"çĶ·åŃIJ":104253,"å·¥èµĦ":104254,"è¿ijå¹´æĿ¥":104255,"åijĢ":104256,"æıIJä¾ĽäºĨ":104257,"她们":104258,"å®¶åħ·":104259,"çĩķ":104260,"è½»æĿ¾":104261,"æł¡åĽŃ":104262,"èĢĥæł¸":104263,"åį±éĻ©":104264,"åħļç»Ħç»ĩ":104265,"æĢ»ç»ıçIJĨ":104266,"çļĦæĸ°":104267,"çİ»çĴĥ":104268,"è¿Ļä½į":104269,"对æŃ¤":104270,"家人":104271,"çļĦè¦ģæ±Ĥ":104272,"温度":104273,"æĮĩæķ°":104274,"缴åΰ":104275,"æŃ¤æĹ¶":104276,"æ¹ĸåįĹ":104277,"éĥ½è¦ģ":104278,"ä½ľåĩº":104279,"åIJĦä½į":104280,"èĢĥçĶŁ":104281,"ä¾Ŀæį®":104282,"说è¯Ŀ":104283,"æĪijä¹Ł":104284,"å·¥åİĤ":104285,"åıĺæĪIJ":104286,"ä»ĸ人":104287,"æĪijè§īå¾Ĺ":104288,"åIJĦ级":104289,"ä¼łå¥ĩç§ģæľį":104290,"ä¸Ĭåįĩ":104291,"好åĥı":104292,"åĬłéĢŁ":104293,"äºĮåįģ":104294,"è¢ģ":104295,"è£ħ饰":104296,"éĥ½èĥ½":104297,"ä¸Ģå¼ł":104298,"åĬ¨æĢģ":104299,"å¹´çļĦ":104300,"è¿Ļå°±æĺ¯":104301,"ä¹Łè¦ģ":104302,"èµĦæł¼":104303,"æĪĺäºī":104304,"æĦŁè°¢":104305,"åŁ¹èĤ²":104306,"天æ°Ķ":104307,"女士":104308,"åı¯èĥ½ä¼ļ":104309,"çļĦ产åĵģ":104310,"ä¹Łå°±":104311,"主è¦ģæĺ¯":104312,"åĪºæ¿Ģ":104313,"ç»Ļä½ł":104314,"大æķ°æį®":104315,"åĮ»åѦ":104316,"åΤæĸŃ":104317,"ä»ĸ说":104318,"表æ¼Ķ":104319,"äºļæ´²":104320,"ä¸ĵé¢ĺ":104321,"ç«ŀäºīåĬĽ":104322,"éĤ£æł·":104323,"å±ķå¼Ģ":104324,"å¹³æĹ¶":104325,"æİ¥ä¸ĭæĿ¥":104326,"æī¿è¯º":104327,"æ³ķåĽ½":104328,"åħ³å¿ĥ":104329,"ä¼ļæľī":104330,"éĤĢ请":104331,"é¢Ħéĺ²":104332,"对æİ¥":104333,"好äºĨ":104334,"åĴ±ä»¬":104335,"çļĦæĦŁè§ī":104336,"æĢĿè·¯":104337,"éĥ½æ²¡æľī":104338,"çļĦæĸ¹æ³ķ":104339,"女åŃIJ":104340,"åı¸æ³ķ":104341,"è¿ĺä¼ļ":104342,"è¶ĬæĿ¥è¶Ĭå¤ļ":104343,"åĽłçĤº":104344,"æµ·åįĹ":104345,"人æķ°":104346,"å°Ĩä¼ļ":104347,"ä¸ļ主":104348,"é¤IJ饮":104349,"å±ħä½ı":104350,"åıijåĩº":104351,"è¿ijæľŁ":104352,"å¼ķé¢Ĩ":104353,"æľºåĻ¨äºº":104354,"åĩºæĿ¥çļĦ":104355,"çľĭè§ģ":104356,"ä¿Ĭ":104357,"让ä»ĸ":104358,"ä¸įæĥ³":104359,"å·¥ä½ľçļĦ":104360,"è¡¥åħħ":104361,"æµħ":104362,"çī¹å¾ģ":104363,"ä¸Ĭå¸Ĥåħ¬åı¸":104364,"ç¾İé£Ł":104365,"广西":104366,"æ¯ıä¸Ģ个":104367,"èIJ½åľ°":104368,"åĵģç§į":104369,"åĴĮè°IJ":104370,"å½»åºķ":104371,"é«ĺèĢĥ":104372,"æĺ¨å¤©":104373,"åīįå¾Ģ":104374,"çĽijæµĭ":104375,"çĻ¾åº¦":104376,"åľ¨ä¸ŃåĽ½":104377,"çļĦéľĢæ±Ĥ":104378,"亿ç¾İåħĥ":104379,"åŃ¦æľ¯":104380,"æĶ¶åΰ":104381,"æĿ¿åĿĹ":104382,"ä¸Ģ段":104383,"æŀĦæĪIJ":104384,"ä¼ģä¸ļçļĦ":104385,"表éĿ¢":104386,"æķ´çIJĨ":104387,"ç»ĵå©ļ":104388,"人家":104389,"åģľæŃ¢":104390,"åѦç§ij":104391,"æĺ¾å¾Ĺ":104392,"ä¼ijæģ¯":104393,"é¢ĦæľŁ":104394,"æĪĸæĺ¯":104395,"çļĦ主è¦ģ":104396,"åºĶ对":104397,"èµ°äºĨ":104398,"ä¸ŃéĹ´":104399,"èµ°è¿Ľ":104400,"åijĪçݰ":104401,"æIJŃéħį":104402,"é¹ı":104403,"æĺ¯åĽłä¸º":104404,"æĥħ绪":104405,"å®ļæľŁ":104406,"社ä¼ļ主ä¹ī":104407,"çŃī级":104408,"çŁĽçĽ¾":104409,"é£ŀæľº":104410,"èĩ³ä»Ĭ":104411,"æĶ¶éĽĨ":104412,"çļĦæķħäºĭ":104413,"åĪĩå®ŀ":104414,"å®ŀçݰäºĨ":104415,"å½¢æĪIJäºĨ":104416,"åįĹæĸ¹":104417,"ä¸ŃåѦ":104418,"æµ·æ´ĭ":104419,"åIJ¦åĪĻ":104420,"æĭįæijĦ":104421,"大åѦçĶŁ":104422,"åĩºçݰäºĨ":104423,"æĦıå¤ĸ":104424,"ä¹Łèĥ½":104425,"çļĦèĥ½åĬĽ":104426,"åĿIJåľ¨":104427,"åĪĻæĺ¯":104428,"èĢĥå¯Ł":104429,"å°Ĭéĩį":104430,"éĺ²æŃ¢":104431,"ç´§å¼ł":104432,"读书":104433,"åĩºè¡Į":104434,"å°±æľī":104435,"å±¥è¡Į":104436,"çݰ代åĮĸ":104437,"åĽ½åĬ¡":104438,"åĽ½åĬ¡éĻ¢":104439,"ç»´ä¿®":104440,"åİŁåĪĽ":104441,"æĺ¯æĮĩ":104442,"ä¼ijéĹ²":104443,"çĤ®":104444,"æĸ°æĹ¶ä»£":104445,"éĢĻåĢĭ":104446,"ä¸įæķ¢":104447,"å®Įç¾İ":104448,"ç»ĨèĬĤ":104449,"éŃı":104450,"èͬèıľ":104451,"é¢Ĩ导çıŃåŃIJ":104452,"è¶ħ级":104453,"è¡Įæĥħ":104454,"人工æĻºèĥ½":104455,"åį°åº¦":104456,"åŁºç¡Ģ设æĸ½":104457,"åıĪæĺ¯":104458,"èį¯çī©":104459,"åIJ¸æĶ¶":104460,"åį´æĺ¯":104461,"éĥİ":104462,"å¥ĸåĬ±":104463,"çļĦæľĭåıĭ":104464,"ä¿ĿçķĻ":104465,"è§Ħå¾ĭ":104466,"æĸ°çĸĨ":104467,"è¿ĺåı¯ä»¥":104468,"æİ¥è¿ij":104469,"æŃ¤åīį":104470,"æī¹åĩĨ":104471,"æĢİä¹Īæł·":104472,"çļĦä½įç½®":104473,"ä¸ĢåĿĹ":104474,"æĭĴç»Ŀ":104475,"顾客":104476,"ä¹Łåľ¨":104477,"ä¸ĢçĶŁ":104478,"éĥ¨éĺŁ":104479,"å¹´åīį":104480,"æĸ¹éĿ¢çļĦ":104481,"å°Ŀè¯ķ":104482,"羣æŃ£çļĦ":104483,"ç¦ģæŃ¢":104484,"è¿ĺ没æľī":104485,"æ°ijçĶŁ":104486,"èµ°åIJij":104487,"èĦ¸ä¸Ĭ":104488,"å½ĵ天":104489,"éĽĨåĽ¢åħ¬åı¸":104490,"çļĦä¸Ģç§į":104491,"西æĸ¹":104492,"åĽŀåºĶ":104493,"ä¸Ģ声":104494,"常常":104495,"æıIJåΰ":104496,"èħ¾è®¯":104497,"æľįè£ħ":104498,"为ä½ķ":104499,"äºijåįĹ":104500,"å°±ç®Ĺ":104501,"ä¼łæī¿":104502,"åıįèĢĮ":104503,"ä¸ĩåIJ¨":104504,"财产":104505,"å¦Ĥä¸ĭ":104506,"æĹ¥åīį":104507,"åİŁæľ¬":104508,"æľĢéĩįè¦ģçļĦ":104509,"认è¯ģ":104510,"ä¸Ģéģĵ":104511,"ä¿¡æģ¯åĮĸ":104512,"å¾ĹåΰäºĨ":104513,"é̲è¡Į":104514,"æĪijè¦ģ":104515,"éĢļä¿¡":104516,"室åĨħ":104517,"èµļéĴ±":104518,"æĶ¶èĹı":104519,"è§£åĨ³æĸ¹æ¡Ī":104520,"æĪ¿äº§":104521,"çĭ¼":104522,"æ´»åĬĽ":104523,"ç»ıæµİåıijå±ķ":104524,"çŃīå¾ħ":104525,"ä¹Łå¾Ī":104526,"åĿij":104527,"å¾Ī好çļĦ":104528,"éļ¾åº¦":104529,"ä¸įå¦Ĥ":104530,"人æ°ijæĶ¿åºľ":104531,"åĩºåıij":104532,"åīįæľŁ":104533,"æ¼Ķåijĺ":104534,"女çĶŁ":104535,"èģļçĦ¦":104536,"审计":104537,"é¢Ħæµĭ":104538,"ä¾Ŀæīĺ":104539,"äºĶå¹´":104540,"补贴":104541,"æ¸ħæĻ°":104542,"éªĤ":104543,"çľĭèµ·æĿ¥":104544,"çļĦåŃ©åŃIJ":104545,"é¢ijéģĵ":104546,"ä½ıå®ħ":104547,"éĿ¢åIJij":104548,"æľĢä½İ":104549,"æĹ¢çĦ¶":104550,"ä¸Ģå¥Ĺ":104551,"æķ°åѦ":104552,"群ä½ĵ":104553,"åĮĹ京å¸Ĥ":104554,"å±ħçĦ¶":104555,"æ°ĽåĽ´":104556,"éĢĶå¾Ħ":104557,"çļĦåŁºç¡Ģä¸Ĭ":104558,"èģĮè´£":104559,"åı¯èĥ½æĺ¯":104560,"åĨĽäºĭ":104561,"æĪIJæķĪ":104562,"åŃ©åŃIJ们":104563,"计ç®Ĺæľº":104564,"赤":104565,"产ä¸ļåıijå±ķ":104566,"巨大çļĦ":104567,"工人":104568,"çĶŁéķ¿":104569,"éĥ½åı¯ä»¥":104570,"çļĦæľºä¼ļ":104571,"èµĦè´¨":104572,"çĹĽèĭ¦":104573,"ç²īä¸Ŀ":104574,"å¢ĵ":104575,"å¹³å®ī":104576,"管éģĵ":104577,"è·ŁçĿĢ":104578,"é¥®é£Ł":104579,"åķĨå®¶":104580,"å¤ļå®¶":104581,"åı¸æľº":104582,"åºĶ该æĺ¯":104583,"éĢıéľ²":104584,"认å®ļ":104585,"è¡Įä¸ļçļĦ":104586,"çļĦä¼ģä¸ļ":104587,"æ¯ıä¸Ģ":104588,"èĮĥåĽ´åĨħ":104589,"è¾ĥ大":104590,"è´¤":104591,"å¤§èµĽ":104592,"å¤ļäºĨ":104593,"鸿":104594,"临åºĬ":104595,"åľ¨è¿Ļ个":104596,"çļĦåĨħ容":104597,"éĶĢéĩı":104598,"å¾Īå°ij":104599,"åŃŁ":104600,"ç»´æĮģ":104601,"åĴĸåķ¡":104602,"æľ¬åľ°":104603,"èī²å½©":104604,"å¹¶éĿŀ":104605,"èĢĮå·²":104606,"温æļĸ":104607,"èIJ§":104608,"æĬĵä½ı":104609,"èĢĮä¸įæĺ¯":104610,"åĸĬ":104611,"çļĦåħ³ç³»":104612,"çī©åĵģ":104613,"éĤ£æĺ¯":104614,"åĨľäº§åĵģ":104615,"è¿ĻæĹ¶":104616,"å©ļå§»":104617,"æ°´æŀľ":104618,"æĶ¶èİ·":104619,"ä»ĺåĩº":104620,"客æĪ·ç«¯":104621,"æ¼Ķåĩº":104622,"åħ¨æĸ°":104623,"è¿Ļä¹Łæĺ¯":104624,"æĺ¯çͱ":104625,"è§Ĥ念":104626,"æľī个":104627,"éĢłåŀĭ":104628,"èĥľåĪ©":104629,"ä¸īæĺ¯":104630,"è¶ħå¸Ĥ":104631,"åħļå»ºå·¥ä½ľ":104632,"æĶ¾å¿ĥ":104633,"线路":104634,"æĭĽçĶŁ":104635,"åIJĥé¥Ń":104636,"è½ī":104637,"å°½éĩı":104638,"è§ģåΰ":104639,"åIJĮæ¯Ķå¢ŀéķ¿":104640,"åįİ为":104641,"æĪijå¸Ĥ":104642,"æıIJåĩºäºĨ":104643,"æ°ijèѦ":104644,"åįļçī©":104645,"åįļçī©é¦Ĩ":104646,"è¯ļä¿¡":104647,"åīįéĿ¢":104648,"山西":104649,"è¾ħåĬ©":104650,"转移":104651,"æĽ´ä¸º":104652,"丰å¯ĮçļĦ":104653,"åį¢":104654,"å¿«éĢĴ":104655,"æĺ¾èijĹ":104656,"çī©èµĦ":104657,"åĪ°è¾¾":104658,"æľīåĪ©äºİ":104659,"åijĨ":104660,"åŃ©åŃIJçļĦ":104661,"ä¸įä½Ĩ":104662,"çłĶç©¶éĻ¢":104663,"çͳæĬ¥":104664,"æļ¨":104665,"æ°ijéĹ´":104666,"åį»":104667,"çļĦå£°éŁ³":104668,"å¸ĤåľºçļĦ":104669,"ä¸Ģåı¥":104670,"çľģ级":104671,"æĿ¥çļĦ":104672,"åĵªä¸ª":104673,"æīįä¼ļ":104674,"åĪĨéħį":104675,"èĶ¡":104676,"ä»ĸåľ¨":104677,"åħ±æľī":104678,"å¡ĺ":104679,"èĴĤ":104680,"éľį":104681,"åıĤè§Ĥ":104682,"ä¸Ī夫":104683,"ä¾ĿéĿł":104684,"æľīæĹ¶":104685,"äºĨå¾Īå¤ļ":104686,"ä¸ĸçķĮæĿ¯":104687,"å®¶æĹı":104688,"ä¸įéľĢè¦ģ":104689,"大å¸Ī":104690,"èŀįåħ¥":104691,"éĿŀæ³ķ":104692,"çĹħ人":104693,"åIJİæľŁ":104694,"大家éĥ½":104695,"ç½ijåĿĢ":104696,"åİŁæĸĻ":104697,"ä¾¿å®ľ":104698,"æ¶Ľ":104699,"ä»¿ä½Ľ":104700,"å·®è·Ŀ":104701,"åı¦ä¸Ģæĸ¹éĿ¢":104702,"产åĵģçļĦ":104703,"赫":104704,"æĥħåĨµä¸ĭ":104705,"éĴ¢éĵģ":104706,"æľ¬ç«Ļ":104707,"纳åħ¥":104708,"å·²æľī":104709,"æľī没æľī":104710,"估计":104711,"é£ĺ":104712,"æľŁè´§":104713,"åĢĭ人è³ĩæĸĻ":104714,"ä¸ĵä¸ļçļĦ":104715,"çĪĨåıij":104716,"èĩ´åĬĽäºİ":104717,"çİ°åľ¨çļĦ":104718,"æľīåĵªäºĽ":104719,"çł´åĿı":104720,"æķ°åŃĹåĮĸ":104721,"åľ°éĿ¢":104722,"é»ijèī²":104723,"å¹¼åĦ¿åĽŃ":104724,"çļĦç²¾ç¥ŀ":104725,"äºŃ":104726,"导æ¼Ķ":104727,"çݰæľī":104728,"æŃ¦åύ":104729,"èĭıå·ŀ":104730,"çİĦ":104731,"æ±Łè¥¿":104732,"延伸":104733,"论æĸĩ":104734,"è¾ĥ为":104735,"çİ©æ³ķ":104736,"é¼İ":104737,"åIJĮæŃ¥":104738,"éĩĬæĶ¾":104739,"æĽĿåħī":104740,"åĿļåĨ³":104741,"å§Ķæīĺ":104742,"å°Ĩåľ¨":104743,"äºĪ以":104744,"ä½ľæĸĩ":104745,"èĢĮåľ¨":104746,"ä¼ĺåħĪ":104747,"åĽŀåİ»":104748,"ä¿®å¤į":104749,"åĽ½åĨħå¤ĸ":104750,"çŃĸåĪĴ":104751,"åıijæĶ¾":104752,"å¿ĥæĥħ":104753,"çļĦåİĨåı²":104754,"éĿ¢è¯ķ":104755,"举åĮĹ":104756,"ä¿¡åı·":104757,"ç²®é£Ł":104758,"è¯ģ书":104759,"æŁIJäºĽ":104760,"è¿IJä½ľ":104761,"åĨ²åĩ»":104762,"çĥŃçĤ¹":104763,"æĹ¶æĹ¶":104764,"æĹ¶æĹ¶å½©":104765,"åľ°çĤ¹":104766,"ä¸Ģä½ĵåĮĸ":104767,"éļ¾é¢ĺ":104768,"æĽ°":104769,"ç«ĭåĪ»":104770,"æĺ¯éĿŀ常":104771,"åħ±åĴĮ":104772,"åħ±åĴĮåĽ½":104773,"æ¿ĢåĬ±":104774,"æľīæķĪçļĦ":104775,"å¤Ħç½®":104776,"该åħ¬åı¸":104777,"æ£ĢéªĮ":104778,"èѦæĸ¹":104779,"è´¾":104780,"äºĨä¸Ģä¸ĭ":104781,"ä»ĬåIJİ":104782,"çħ®":104783,"ç͍åĵģ":104784,"读èĢħ":104785,"æĪijåľ¨":104786,"åĽŀå¤į":104787,"ä¸Ģ座":104788,"è¿ĺ没":104789,"å®ļåζ":104790,"没æĥ³åΰ":104791,"夹":104792,"ä¼łéĢĴ":104793,"ä¸Ģ款":104794,"强大çļĦ":104795,"çļĦè¡Į为":104796,"å¤ı天":104797,"åıijåĬ¨æľº":104798,"é¢ĨåŁŁçļĦ":104799,"å®ŀéªĮ室":104800,"ä¸ĢæĬĬ":104801,"æĺ¯ä¸ºäºĨ":104802,"éĻķ西":104803,"æĭħä¿Ŀ":104804,"è¾¾æĪIJ":104805,"è¦ģæĺ¯":104806,"æĺİ天":104807,"ç»Ļä»ĸ":104808,"建ç«ĭäºĨ":104809,"ä¸įè¡Į":104810,"ä¸Ńæĸĩ":104811,"åľ°è¯´":104812,"åIJİçļĦ":104813,"çĽijæİ§":104814,"é̏":104815,"æĢ»éĥ¨":104816,"æľ¬æĸĩ":104817,"鹿":104818,"æĻ¯è§Ĥ":104819,"çļĦ缮æłĩ":104820,"èĽĩ":104821,"åĨ¯":104822,"ä¸ŃåĮ»":104823,"æķĪåºĶ":104824,"产éĩı":104825,"åŃĿ":104826,"è´¦æĪ·":104827,"è¿Ŀåıį":104828,"èij£äºĭä¼ļ":104829,"äº¬ä¸ľ":104830,"责任ç¼ĸè¾ij":104831,"åķıé¡Į":104832,"çαå¿ĥ":104833,"èŃ¦å¯Ł":104834,"é¤IJåİħ":104835,"å¸ĤæĶ¿åºľ":104836,"天天":104837,"æĸ°é²ľ":104838,"éĥijå·ŀ":104839,"è¶ħè¶Ĭ":104840,"å½Ń":104841,"çŁ¥è¯Ĩ产æĿĥ":104842,"åĽŀå¿Ĩ":104843,"路线":104844,"å»īæ´ģ":104845,"éĿĴå°ijå¹´":104846,"åıĸå¾ĹäºĨ":104847,"çľĭåΰäºĨ":104848,"馬":104849,"ç²¾åĵģ":104850,"åľ°éĵģ":104851,"æĮģæľī":104852,"ä¸ĭäºĨ":104853,"æľīæĹ¶åĢĻ":104854,"ä¸Ģ人":104855,"æĴĴ":104856,"ä»Ķç»Ĩ":104857,"èĢģåħ¬":104858,"äºĭå®ŀä¸Ĭ":104859,"èģĶèµĽ":104860,"ä¾ĽåºĶéĵ¾":104861,"é¢Ħç®Ĺ":104862,"åζéĢłä¸ļ":104863,"å®īåħ¨çĶŁäº§":104864,"俱ä¹IJ":104865,"俱ä¹IJéĥ¨":104866,"çļĦæł¸å¿ĥ":104867,"æīĵç®Ĺ":104868,"å½±çīĩ":104869,"æIJŃ建":104870,"ä¹Łä¸įä¼ļ":104871,"æĭħå½ĵ":104872,"å±ĤéĿ¢":104873,"åѦåijĺ":104874,"临æĹ¶":104875,"缸ç»ĵåIJĪ":104876,"对æ¯Ķ":104877,"ä»ĸæĺ¯":104878,"æĸ°åĮº":104879,"è¿Ľåİ»":104880,"çϾ年":104881,"ä¿©":104882,"尽快":104883,"ç͵åŃIJåķĨåĬ¡":104884,"æĽ´æľī":104885,"æ¸ħçIJĨ":104886,"åı¦ä¸Ģ个":104887,"åĤ»":104888,"ä»Ģä¹Īæł·çļĦ":104889,"æĺ¯æľĢ":104890,"åij¨å¹´":104891,"å¾Ī容æĺĵ":104892,"åĽ¢ç»ĵ":104893,"ç´Ħ":104894,"æĹ©å·²":104895,"çļĦåıĺåĮĸ":104896,"éľŀ":104897,"æĹ¥ä¸ĬåįĪ":104898,"失åİ»":104899,"ä¸Ńåľĭ":104900,"çļĦä¸ĢäºĽ":104901,"å°ıåŃ©":104902,"ä¸ĭè·Į":104903,"éĶ»çĤ¼":104904,"éij":104905,"éij«":104906,"å¿ĹæĦ¿èĢħ":104907,"èĤ¡å¸Ĥ":104908,"èµĽäºĭ":104909,"许åı¯è¯ģ":104910,"åı¯æĮģç»Ń":104911,"åijĬè¯īè®°èĢħ":104912,"éĢ»è¾ij":104913,"å¼ķåħ¥":104914,"çļĦè¿ĩç¨ĭä¸Ń":104915,"è§Ĩè§ī":104916,"èĩªæ²»åĮº":104917,"è¯ģæį®":104918,"è£ħç½®":104919,"第ä¸īæĸ¹":104920,"å¹´æĿ¥":104921,"å¹¿ä¸ľçľģ":104922,"带æĿ¥äºĨ":104923,"éķ¿æ±Ł":104924,"访éĹ®":104925,"å·®ä¸įå¤ļ":104926,"æĺ¯æĪij":104927,"éģŃéģĩ":104928,"æĬĵ好":104929,"é«ĺè¾¾":104930,"å¹¶åľ¨":104931,"èĩªè§ī":104932,"ä¾ĽåºĶåķĨ":104933,"æĥħæĦŁ":104934,"ä½ıäºĨ":104935,"çļĦèģĮä¸ļ":104936,"çļĩå¸Ŀ":104937,"西éĥ¨":104938,"åĴĮå¹³":104939,"çļĦåĬĽéĩı":104940,"汪":104941,"åħħåĪĨåıijæĮ¥":104942,"æĬķè¯ī":104943,"èµ·åΰ":104944,"äºĴ缸":104945,"æ¾³éŨ":104946,"æİ¥åΰ":104947,"æ°´æ³¥":104948,"模åŀĭ":104949,"ä¸ĢåįĬ":104950,"ç§©åºı":104951,"æĪijä»¬åľ¨":104952,"æī¿è®¤":104953,"ä¸Ģéĥ¨åĪĨ":104954,"åįłæ¯Ķ":104955,"å¦ĩ女":104956,"ç²ĺ":104957,"äºĨè§£åΰ":104958,"ä¸Ģå®ļä¼ļ":104959,"åIJĦ大":104960,"èµ°åĩº":104961,"为大家":104962,"é«ĺéĵģ":104963,"åı¯ä»¥åľ¨":104964,"ä½Ĩåľ¨":104965,"çĶŁæĢģçݯå¢ĥ":104966,"èı¯":104967,"çļĦä»·æł¼":104968,"麻çĥ¦":104969,"æ¿Ģåıij":104970,"éĤ£å°±":104971,"çļĦæł·åŃIJ":104972,"为æŃ¤":104973,"å¤©åľ°":104974,"çļĦ缮çļĦ":104975,"åĢºåΏ":104976,"å·²ç¶ĵ":104977,"åĽĽå¤§":104978,"åIJĮæĹ¶ä¹Ł":104979,"å½¼æŃ¤":104980,"æĭ¿åΰ":104981,"åIJ«éĩı":104982,"åįģ大":104983,"éļ¾éģĵ":104984,"å¼Ĺ":104985,"ä¸Ģ段æĹ¶éĹ´":104986,"çħ§é¡¾":104987,"æķ°æį®æĺ¾ç¤º":104988,"æĪIJ为äºĨ":104989,"èµ°åΰ":104990,"æľ¬åħ¬åı¸":104991,"ç»Ī端":104992,"ä¹Łä¸įæĺ¯":104993,"头åıij":104994,"大约":104995,"é£İæĻ¯":104996,"æ¶ĪèĢĹ":104997,"å®¡æŁ¥":104998,"äºīåıĸ":104999,"æ³ķæ²»":105000,"äºĭçī©":105001,"ç¼ĵè§£":105002,"æĥ¨":105003,"缸åºĶçļĦ":105004,"çļĦæķĪæŀľ":105005,"åıįå¤į":105006,"åıijçĶŁäºĨ":105007,"éĢĻäºĽ":105008,"ç»ĥä¹ł":105009,"åݨæĪ¿":105010,"å¼Ģæĭĵ":105011,"欣èµı":105012,"夫妻":105013,"ä¸įä¸Ģæł·":105014,"产èĥ½":105015,"èĬ¯çīĩ":105016,"è¦ģç´ł":105017,"åıį对":105018,"çİĩåħĪ":105019,"è´§çī©":105020,"æĹ¥ç͵":105021,"ä½ľå®¶":105022,"æĶ¹è¿Ľ":105023,"æĪIJåĪĨ":105024,"åĽłèĢĮ":105025,"åĩıèĤ¥":105026,"æ½ĺ":105027,"å±±ä¸ľçľģ":105028,"åĬĿ":105029,"åŁĭ":105030,"æŃ¦è£ħ":105031,"æ±ĩæĬ¥":105032,"ä¸Ģ个æľĪ":105033,"çĥŃéŨ":105034,"大éģĵ":105035,"æ´»åĭķ":105036,"éĥ½å¾Ī":105037,"çĶµæ¢¯":105038,"ç´§æĢ¥":105039,"åĢºåĬ¡":105040,"客æľį":105041,"ä¸Ģéĥ¨":105042,"ä½łæĺ¯":105043,"çݰçĬ¶":105044,"æŃ£ç¡®çļĦ":105045,"ä¹ĭå¤Ħ":105046,"ç¼ĸåζ":105047,"ä½łåı¯ä»¥":105048,"çŃīåľ°":105049,"èİī":105050,"对è¯Ŀ":105051,"æ·ĺå®Ŀ":105052,"è°ĥèĬĤ":105053,"æİĴæĶ¾":105054,"åºĵåŃĺ":105055,"ç´ļ":105056,"çļĦä¼ĺåĬ¿":105057,"æĿĥå¨ģ":105058,"以ä¸ĭç®Ģç§°":105059,"ä¸Ģ项":105060,"èģļéĽĨ":105061,"ä¼łç»ŁçļĦ":105062,"æ··åIJĪ":105063,"è¿Ļä¸ĢçĤ¹":105064,"ä¸Ģçľ¼":105065,"æĹłéĻIJ":105066,"èİ·å¾ĹäºĨ":105067,"éĢīæīĭ":105068,"åζåĵģ":105069,"åįıä½ľ":105070,"çĭ¬çī¹çļĦ":105071,"ä¸Ģ级":105072,"è¿Ļ个éĹ®é¢ĺ":105073,"æĸĮ":105074,"æĺ¯æĪij们":105075,"æķĮ人":105076,"æ¸ħæ´Ĺ":105077,"ä¸ĢçĽ´åľ¨":105078,"å°ıç±³":105079,"çļĦè¿ĩç¨ĭ":105080,"åľ¨åĮĹ京":105081,"ä¸ĢæĶ¯":105082,"æĹ©ä¸Ĭ":105083,"æĸĩèīº":105084,"ç¦ıåĪ©":105085,"é£Łç͍":105086,"æĦŁåĬ¨":105087,"åħ¨ç¨ĭ":105088,"æĶ¯åĩº":105089,"æĸ°å»º":105090,"å¸ķ":105091,"æĺ¾çĦ¶":105092,"羣çļĦæĺ¯":105093,"æĸ°éĹ»ç½ij":105094,"èĥ½åIJ¦":105095,"åįıåĬ©":105096,"亲èĩª":105097,"å¾Īæľī":105098,"çϼå±ķ":105099,"æĦı大":105100,"æĦı大åĪ©":105101,"ç͵ç½ij":105102,"æĹ¥çĽĬ":105103,"çĨ±":105104,"èĤĮèĤ¤":105105,"çĶ·æĢ§":105106,"ç»Ħ建":105107,"çŃīéĹ®é¢ĺ":105108,"æ¶ĪéϤ":105109,"æĬ¤çIJĨ":105110,"å¡ijæĸĻ":105111,"ä¹Įåħĭ":105112,"ä¹Įåħĭåħ°":105113,"åķĨæłĩ":105114,"çIJ³":105115,"æĸ°æīĭ":105116,"çļĦçī¹çĤ¹":105117,"åĴ¬":105118,"å½ĵä¸ĭ":105119,"设计å¸Ī":105120,"èµĶåģ¿":105121,"第åįģ":105122,"æĻºèĥ½åĮĸ":105123,"å¼ĢåıijåĮº":105124,"åı¯ä»¥éĢļè¿ĩ":105125,"åħ±äº§åħļ":105126,"åİī害":105127,"ç쵿´»":105128,"æĹ¶åħī":105129,"éĥ¨ä½į":105130,"人æĸĩ":105131,"è¿ĽæĿ¥":105132,"ä¹ĭæīĢ以":105133,"ä¸īåįģ":105134,"çļĦåѦçĶŁ":105135,"éĺ²æĬ¤":105136,"åĽ½äº§":105137,"æ·±åľ³å¸Ĥ":105138,"éĤ£å°±æĺ¯":105139,"åΰä½į":105140,"çľĹ":105141,"çľĹæĻ®":105142,"å®ŀæĹ¶":105143,"åı°çģ£":105144,"èĢĮä¸į":105145,"æĮĩå®ļ":105146,"åĿĿ":105147,"èħIJè´¥":105148,"çī¹å®ļ":105149,"å¢ŀéĢŁ":105150,"æłĩçѾ":105151,"æĪ¿ä»·":105152,"æĦģ":105153,"贯彻èIJ½å®ŀ":105154,"æĢ§è´¨":105155,"çłĶç©¶çĶŁ":105156,"ç¾İ容":105157,"æī¹è¯Ħ":105158,"究竣":105159,"人åĬĽèµĦæºIJ":105160,"éĸĭå§ĭ":105161,"åĽŀå½Ĵ":105162,"èIJ¥åķĨ":105163,"èIJ¥åķĨçݯå¢ĥ":105164,"ä¸ŃåĽ½äºº":105165,"çļĦåŁºæľ¬":105166,"è¯Ŀé¢ĺ":105167,"æłĩåĩĨåĮĸ":105168,"西èĹı":105169,"åĭ¾":105170,"çļĦ设计":105171,"ç®ĢåįķçļĦ":105172,"å¤įåζ":105173,"æ¸IJæ¸IJ":105174,"以å¤ĸ":105175,"èģĶåĬ¨":105176,"两次":105177,"æĢ§åĴĮ":105178,"æĽ´å¤§":105179,"çļĦåIJįåŃĹ":105180,"飦":105181,"ä½łè¦ģ":105182,"å¢ĥå¤ĸ":105183,"æĹ©æľŁ":105184,"åĪĿæŃ¥":105185,"è´¦åı·":105186,"害æĢķ":105187,"æĺ¨æĹ¥":105188,"åĪļæīį":105189,"ç¥ŀç§ĺ":105190,"ç²¾å¿ĥ":105191,"æµģéĢļ":105192,"åħ¨æĸ¹ä½į":105193,"以å¾Ģ":105194,"ä¹Łå°Ĩ":105195,"æĺ¯ä¸ŃåĽ½":105196,"åĽ½å®¶çº§":105197,"å°ĨåĨĽ":105198,"æijĬ":105199,"æľĢ为":105200,"第ä¸ĢæĹ¶éĹ´":105201,"æ¶Īæ¯Ĵ":105202,"å°Ĩäºİ":105203,"å¨ģèĥģ":105204,"èĭ±æĸĩ":105205,"æīĭä¸Ń":105206,"çIJĥè¿·":105207,"è§Ĥçľĭ":105208,"离å©ļ":105209,"æľ¬åľŁ":105210,"åĪĨæķ£":105211,"æĻ´":105212,"è¦ģ注æĦı":105213,"浪费":105214,"管æİ§":105215,"åĩºåĶ®":105216,"æĢ»è£ģ":105217,"ä¸Ģéĺµ":105218,"å¨ĩ":105219,"äºĶ个":105220,"å½ĵåĪĿ":105221,"çºłçº·":105222,"ä¸ĵç͍":105223,"å¤ĩæ¡Ī":105224,"åĪĿæľŁ":105225,"å®ĥæĺ¯":105226,"åĮºåĿĹ":105227,"åĮºåĿĹéĵ¾":105228,"大è¿ŀ":105229,"è¿Ļç±»":105230,"åıĺæĪIJäºĨ":105231,"éĤĦæĺ¯":105232,"åįļ客":105233,"çı¾åľ¨":105234,"ä¸Ģæĸ¹":105235,"å®ĮæĪIJäºĨ":105236,"è¿Ļ个æĹ¶åĢĻ":105237,"åħ¨å¹´":105238,"ä¸Ĭ线":105239,"ç½IJ":105240,"ç«ŀèµĽ":105241,"åĩºçīĪ社":105242,"åĵ¥åĵ¥":105243,"寫":105244,"å¾Ĺ以":105245,"èĬ±åĽŃ":105246,"äºĨèµ·æĿ¥":105247,"èĦ±è´«æĶ»åĿļ":105248,"çļĦåİŁåĪĻ":105249,"讲解":105250,"æ¶ĪåĮĸ":105251,"æįŁå®³":105252,"æļĤæĹ¶":105253,"å¾ĹçŁ¥":105254,"éĢĤç͍":105255,"éŨåºĹ":105256,"解读":105257,"æĻ®åıĬ":105258,"人æ°ijæ³ķéĻ¢":105259,"åī¯ä¸»ä»»":105260,"å¿ĥçģµ":105261,"è¯ĬæĸŃ":105262,"ç¾İ女":105263,"æŁ¯":105264,"年以æĿ¥":105265,"æ´»è·ĥ":105266,"åĢŁåĬ©":105267,"åħ±å»º":105268,"è¯ī讼":105269,"æĶ¾æĿ¾":105270,"çªĹåı£":105271,"ä¼ģæ¥Ń":105272,"åĬłæĭ¿":105273,"åĬłæĭ¿å¤§":105274,"ä¹°äºĨ":105275,"主æµģ":105276,"æĩĤå¾Ĺ":105277,"å°Ĩåħ¶":105278,"éĢıæĺİ":105279,"å·¥ä½ľä¸Ń":105280,"èĤ¡ä»·":105281,"æ¡£æ¡Ī":105282,"没æľīä»»ä½ķ":105283,"åijĬçŁ¥":105284,"å¹´åĪĿ":105285,"æĹ¥ä¸ĭåįĪ":105286,"åİĤåķĨ":105287,"èĬĤå¥ı":105288,"主导":105289,"è£Ŀ":105290,"åħ³éĶ®è¯į":105291,"èģĬ天":105292,"åĨĻä½ľ":105293,"æĶ¹éĿ©å¼ĢæĶ¾":105294,"æľīæľĽ":105295,"éĢļæĬ¥":105296,"èIJĮ":105297,"æĢ»é¢Ŀ":105298,"çŁŃæľŁ":105299,"ä¸Ģçķª":105300,"çĶŁæ´»çļĦ":105301,"åĮĸçļĦ":105302,"æĺ¥å¤©":105303,"è¿Ļåľº":105304,"æĸ°å¼Ģä¼łå¥ĩ":105305,"æĺ¯è¦ģ":105306,"å°ļæľª":105307,"åıĺæĽ´":105308,"ä¸Ģåij¨":105309,"客è§Ĥ":105310,"æĹ¥èĩ³":105311,"é¹°":105312,"çݲ":105313,"å°ĨæĿ¥":105314,"客人":105315,"åıĺéĿ©":105316,"说äºĨ":105317,"åİŁçIJĨ":105318,"èģĮåĬ¡":105319,"åıĪæľī":105320,"ä¸Ģåı¥è¯Ŀ":105321,"æĦŁåıĹåΰ":105322,"ç¬ĶèĢħ":105323,"ç§»æ°ij":105324,"西åįĹ":105325,"ä¹ĥèĩ³":105326,"æŃ£è§Ħ":105327,"åĪĿä¸Ń":105328,"çĬ¬":105329,"å½ĵäºĭ":105330,"å½ĵäºĭ人":105331,"æĪij们è¦ģ":105332,"åħ¥åı£":105333,"éĤ£æĹ¶":105334,"æľīéĻIJ责任":105335,"å°ij女":105336,"è¿Ļä¹Īå¤ļ":105337,"åĪĨåħ¬åı¸":105338,"å®ĩå®Ļ":105339,"çļĦéĢīæĭ©":105340,"å§IJå§IJ":105341,"åıijèµ·":105342,"è»į":105343,"æĽ´å¥½åľ°":105344,"éĻĨç»Ń":105345,"æľ¬æľįåĭĻ":105346,"å«©":105347,"èµ¶ç´§":105348,"èĦĤèĤª":105349,"第äºĮ天":105350,"æĪijä¼ļ":105351,"两ä½į":105352,"æķ²":105353,"åħ¬å®īæľºåħ³":105354,"ç§ijæĬĢåĪĽæĸ°":105355,"尺寸":105356,"è¾IJå°Ħ":105357,"å®ĹæķĻ":105358,"转æį¢":105359,"åĩºçİ°åľ¨":105360,"ä¸Ģé¢Ĺ":105361,"æľŁéĻIJ":105362,"åIJĮåѦ们":105363,"åĮĹæĸ¹":105364,"ä½łå°±":105365,"ä¸Ģ带ä¸Ģè·¯":105366,"èĢģå©Ĩ":105367,"游æĪıçݩ家":105368,"çļĦç»ĵæŀľ":105369,"è¡¥åģ¿":105370,"å¤ĸè´¸":105371,"对å¾ħ":105372,"ç»´çĶŁç´ł":105373,"ç»ıéĶĢåķĨ":105374,"è¿ĺå°Ĩ":105375,"åŃIJ女":105376,"æĽ´é«ĺ":105377,"ä¸į大":105378,"éī´å®ļ":105379,"让ä»ĸ们":105380,"æīĢè°ĵçļĦ":105381,"æŃ»äºĨ":105382,"帮æī¶":105383,"åĵ²åѦ":105384,"以ä¸ĬçļĦ":105385,"çļĦåħ³éĶ®":105386,"æĹ©å°±":105387,"æĬ¥ä»·":105388,"éģµå®Ī":105389,"æī©å¼ł":105390,"æĺ¯å¾Ī":105391,"å¼ĢéĢļ":105392,"æĸ°åĬł":105393,"æĸ°åĬłåĿ¡":105394,"ç¿»è¯ij":105395,"询éĹ®":105396,"é¸Ń":105397,"ä½ĵåĨħ":105398,"两个人":105399,"çι":105400,"éľľ":105401,"乡æĿijæĮ¯åħ´":105402,"çĿ¡è§ī":105403,"å®ĺåijĺ":105404,"åĪĽå§ĭ":105405,"åĪĽå§ĭ人":105406,"ä¼Ĺ人":105407,"åį³ä¾¿":105408,"çĸ«èĭĹ":105409,"ä¼ģä¸ļå®¶":105410,"渣":105411,"ç²¾åĬĽ":105412,"å¤ĸéĥ¨":105413,"èģªæĺİ":105414,"è¿Ļä¹Ł":105415,"å½ķåıĸ":105416,"åĨ²çªģ":105417,"åħ¨èº«":105418,"åŃ£èĬĤ":105419,"忽çĦ¶":105420,"çļĦæĢģ度":105421,"åĤ¨å¤ĩ":105422,"ä¿Ŀåħ»":105423,"çļĦæĥ³æ³ķ":105424,"ä¸Ĭæµ·å¸Ĥ":105425,"æIJºæīĭ":105426,"çļĦä¿¡æģ¯":105427,"åķĨåľº":105428,"çļĦæĢĿæĥ³":105429,"æĿĥåĬĽ":105430,"毫æĹł":105431,"æĢĢåŃķ":105432,"硬件":105433,"åĨħèĴĻåı¤":105434,"æİ¢è®¨":105435,"åħ»çĶŁ":105436,"çļĦ表çݰ":105437,"空ä¸Ń":105438,"æģIJæĢĸ":105439,"å¾Īé«ĺ":105440,"ç»ıæµİ社ä¼ļ":105441,"ä¸ĬæĿ¥":105442,"å»¶ç»Ń":105443,"éĩįå¤į":105444,"éĺ²èĮĥ":105445,"çļĦå½¢å¼ı":105446,"æľĪåºķ":105447,"èĢģ年人":105448,"绿åĮĸ":105449,"å±±åĮº":105450,"æĭ¿åĩº":105451,"æĹħ客":105452,"æĽ´æį¢":105453,"åħ¬ä¸»":105454,"èĬĤ约":105455,"åħ¨åİ¿":105456,"åĽŀæĬ¥":105457,"çIJĨæĢ§":105458,"çĸ¯çĭĤ":105459,"æ¶īå«Į":105460,"åī§æĥħ":105461,"åĨ¬åŃ£":105462,"åIJİç»Ń":105463,"è¿Ļæĺ¯ä¸Ģ个":105464,"æ¼Ķ讲":105465,"ä¸Ģå±Ĥ":105466,"æľīåħ³éĥ¨éŨ":105467,"æĹłå¥Ī":105468,"ç§įç±»":105469,"缸åħ³çļĦ":105470,"æĪĸèĢħæĺ¯":105471,"æī¶æĮģ":105472,"å¤ļæķ°":105473,"çļĦä½ľåĵģ":105474,"ä¸ĭä¸ĢæŃ¥":105475,"å¸ĪåĤħ":105476,"é«ĺéĢŁåħ¬è·¯":105477,"好åıĭ":105478,"ä¼ĺç§ĢçļĦ":105479,"è¿ĽäºĨ":105480,"æģIJæĢķ":105481,"äºĨåIJ§":105482,"大è§Ħ模":105483,"çļĦä¸ĸçķĮ":105484,"æĢĢçĸij":105485,"å··":105486,"åħ´å¥ĭ":105487,"æĪ°":105488,"æĿijéĩĮ":105489,"æľĭåıĭåľĪ":105490,"åĨ¬å¤©":105491,"ä¸Ńåįİ人æ°ij":105492,"åįıåķĨ":105493,"è¯ĦéĢī":105494,"æĹŃ":105495,"å¢ŀåĬłäºĨ":105496,"åıĹ伤":105497,"ä¸ĢèĤ¡":105498,"便æį·":105499,"ä¸ij":105500,"鹤":105501,"å¤ĸè§Ĥ":105502,"å·¥ç¨ĭå¸Ī":105503,"åĴĮåħ¶ä»ĸ":105504,"è¿Ļå°±":105505,"ä¸Ńå°ıä¼ģä¸ļ":105506,"西åĮĹ":105507,"åĽ½æľīä¼ģä¸ļ":105508,"èĭ¥æĺ¯":105509,"åı¯æĥľ":105510,"çĶŁæĹ¥":105511,"åĩ½":105512,"ä¹°åįĸ":105513,"ç¥Ŀç¦ı":105514,"人æ°ij群ä¼Ĺ":105515,"åħīæĺİ":105516,"åħ¬å¯ĵ":105517,"æĺ¯è°ģ":105518,"æĪijçŁ¥éģĵ":105519,"è¯Ńæĸĩ":105520,"æķıæĦŁ":105521,"ä¸įéĶĻçļĦ":105522,"æĿ¥è®²":105523,"æ³¢åĬ¨":105524,"çļĦ第ä¸Ģ":105525,"åľ°éľĩ":105526,"åľ¨åħ¨åĽ½":105527,"骨干":105528,"å®īç½®":105529,"å®¶ç͵":105530,"ä¸İæŃ¤":105531,"ä¸İæŃ¤åIJĮæĹ¶":105532,"åıĹçģ¾":105533,"çĥŃ线":105534,"çļĦæĬĢæľ¯":105535,"æµĭéĩı":105536,"ä¾Ŀèµĸ":105537,"ä¸ŃåĽ½çļĦ":105538,"ç̧":105539,"è¾ĥé«ĺ":105540,"踩":105541,"ä¼ļåľ¨":105542,"建éĢł":105543,"导èĪª":105544,"æĥ³èµ·":105545,"åħ¨ä¸ĸçķĮ":105546,"建æĿIJ":105547,"ç¯Ģ":105548,"çļĦåŁºç¡Ģ":105549,"èĩªåĬ¨åĮĸ":105550,"åīįåIJİ":105551,"çĿ¡çľł":105552,"æİ¨è¡Į":105553,"æį®äºĨè§£":105554,"ä»Ģä¹ĪæĹ¶åĢĻ":105555,"ä¸įåĸľæ¬¢":105556,"çħ¤çĤŃ":105557,"éĤ£ä¹Īå¤ļ":105558,"å¸ĤåľºåĮĸ":105559,"ä¸į管æĺ¯":105560,"ç«ĭåľº":105561,"éĥ½æ²¡":105562,"课é¢ĺ":105563,"æĪij们å°Ĩ":105564,"è¿ĩçļĦ":105565,"åĨįåĬłä¸Ĭ":105566,"çξ":105567,"身æĿIJ":105568,"çͷ女":105569,"è¿ľè¿ľ":105570,"çĶ·çĶŁ":105571,"èĩªèº«çļĦ":105572,"è´Łæĭħ":105573,"çϾä¸ĩ":105574,"西çıŃ":105575,"西çıŃçīĻ":105576,"åĩĢåĪ©æ¶¦":105577,"澳大":105578,"澳大åĪ©äºļ":105579,"ä¸įåİ»":105580,"æī¿åıĹ":105581,"楼çĽĺ":105582,"å¢ĥåĨħ":105583,"æ··åĩĿ":105584,"æ··åĩĿåľŁ":105585,"æĢĿæĥ³æĶ¿æ²»":105586,"å¸ĤåĮº":105587,"æĭĽæłĩ":105588,"åĽ¢ä½ĵ":105589,"è¿Ľåº¦":105590,"åĨĽéĺŁ":105591,"åıįå¼¹":105592,"äºĨä¸ĢäºĽ":105593,"æİ¥å¾ħ":105594,"çļĦåŃ¦ä¹ł":105595,"éħįéĢģ":105596,"é£Łåĵģå®īåħ¨":105597,"æĽ¿ä»£":105598,"æĺ¯ä»¥":105599,"éĢļç͍":105600,"çłĶç©¶æīĢ":105601,"ç¦ħ":105602,"æīĶ":105603,"éļĶ离":105604,"ä¸ĩå¹³æĸ¹ç±³":105605,"çļĦè§Ħå®ļ":105606,"ç»ĻæĪij们":105607,"æ¿Ģåħī":105608,"ä¼ļåĩºçݰ":105609,"çŁŃä¿¡":105610,"ç©¿çĿĢ":105611,"æ²Īéĺ³":105612,"æķĻæĿIJ":105613,"éĺ²çĸ«":105614,"ä¼ĺèī¯":105615,"约å®ļ":105616,"æĪijçľģ":105617,"åħ¬æ°ij":105618,"é쏿ĵ":105619,"é쏿ĵĩ":105620,"å·²æĪIJ为":105621,"ä¸įå¿ħ":105622,"ç¥ĸåĽ½":105623,"å¹¶æľª":105624,"åľŁå£¤":105625,"å¾®ç¬ij":105626,"äºĭä¸ļåįķä½į":105627,"çļĦ游æĪı":105628,"åħ¬ç¤º":105629,"åIJĪçIJĨçļĦ":105630,"çªĿ":105631,"æ°Ķ象":105632,"å®¶ä¸Ń":105633,"äº®çĽ¸":105634,"å᫿ĺŁ":105635,"è®°è½½":105636,"è§Ĩéĩİ":105637,"åľ°åĮºçļĦ":105638,"ä½Ĩä»ĸ":105639,"èĤĮèĤī":105640,"äºıæįŁ":105641,"åĬŀåѦ":105642,"ä¸Ģè¡Į":105643,"è¯ŀçĶŁ":105644,"åıijå¸ĥçļĦ":105645,"çļĦæľįåĬ¡":105646,"çļĦçłĶç©¶":105647,"åij¨æľ«":105648,"产ä¸ļåĽŃ":105649,"é«ĺ温":105650,"æĪIJåĬŁçļĦ":105651,"æŃ¥éª¤":105652,"åŃĺåĤ¨":105653,"åŃIJåħ¬åı¸":105654,"让她":105655,"ä¸Ńæľī":105656,"åĺī宾":105657,"妮":105658,"æĺİå¹´":105659,"äºĨåIJĹ":105660,"äºīè®®":105661,"æĪĪ":105662,"ä¸Ģæľ¬":105663,"ç¾İ丽çļĦ":105664,"ä½łè¯´":105665,"大人":105666,"æĶ»çķ¥":105667,"ä¸įæľĥ":105668,"å¾ħéģĩ":105669,"ä¸Ģè¾Ĩ":105670,"çīĪæĿĥæīĢæľī":105671,"æ°ijä¼Ĺ":105672,"åĬŁå¤«":105673,"å±ķä¼ļ":105674,"大èĦij":105675,"æ¯ıæľĪ":105676,"å°ı麦":105677,"æµĻæ±Łçľģ":105678,"çļĦæīĢæľī":105679,"ä¸ĭæ»ij":105680,"èĵĿèī²":105681,"è¦ģæĥ³":105682,"åѦçĶŁçļĦ":105683,"å½ĵä½ł":105684,"ä½ľæĪĺ":105685,"家乡":105686,"å¤ļåIJį":105687,"é«ĺäºİ":105688,"åĿļ强":105689,"è¿ŀéĶģ":105690,"åIJİæŀľ":105691,"人äºĭ":105692,"ç´ħ":105693,"æ¿ĢåĬ¨":105694,"è¿ĽæĶ»":105695,"ç©Ĩ":105696,"ä¸ĺ":105697,"让èĩªå·±":105698,"以æŃ¤":105699,"夫人":105700,"å¼Ģ设":105701,"æ°Ķè´¨":105702,"鸡èĽĭ":105703,"çĦ¡æ³ķ":105704,"åIJĥäºĨ":105705,"åĪĨåĪ«ä¸º":105706,"èģĶåIJĪåĽ½":105707,"å½ĵ代":105708,"å¦Ĥæŀľæĺ¯":105709,"è¿ľç¨ĭ":105710,"åĸĤ":105711,"è®°ä½ı":105712,"æ¸ħåįķ":105713,"åIJĪä½ľä¼Ļä¼´":105714,"åİ»åģļ":105715,"æķħéļľ":105716,"模æĭŁ":105717,"å¸ĪçĶŁ":105718,"åīįæĿ¥":105719,"ç͵è§Ĩåī§":105720,"çĥŃçα":105721,"éľ²åĩº":105722,"é«ĺå±Ĥ":105723,"ç͵åύ":105724,"纪å¾ĭ":105725,"å¼ĢåıijåķĨ":105726,"éķ¿å®ī":105727,"è½½ä½ĵ":105728,"çļĦå°±æĺ¯":105729,"被人":105730,"åıĹçIJĨ":105731,"篮çIJĥ":105732,"èİİ":105733,"交ç»Ļ":105734,"æľªæĿ¥çļĦ":105735,"两大":105736,"åIJķå¸ĥ":105737,"çŃī人":105738,"çļĦæĹ¥åŃIJ":105739,"åIJĪä½ľç¤¾":105740,"æĮijéĢī":105741,"åŃĺæ¬¾":105742,"ç³»ç»ŁçļĦ":105743,"æĬĬå®ĥ":105744,"没æľīä»Ģä¹Ī":105745,"ä»İæŃ¤":105746,"ä¸ŃåįĪ":105747,"çĸ¼çĹĽ":105748,"å·©åĽº":105749,"浪漫":105750,"缸åħ³éĥ¨éŨ":105751,"éķ¿åŁİ":105752,"纤维":105753,"ä¸ĬéŨ":105754,"çĪĨçĤ¸":105755,"èµ·çĤ¹":105756,"çļĦéĢļçŁ¥":105757,"èĢĮæĿ¥":105758,"çļĦèĢģ":105759,"æīĭéĩĮ":105760,"è¯ŃéŁ³":105761,"è¾Ľèĭ¦":105762,"æ±Łèĭıçľģ":105763,"ç͍äºĨ":105764,"身份è¯ģ":105765,"æľīåĬ©":105766,"æľīåĬ©äºİ":105767,"çī©èģĶç½ij":105768,"åĩºéŨ":105769,"å¼ŁåŃIJ":105770,"æĥ¹":105771,"è¿Ļä»¶äºĭ":105772,"æĪij们åı¯ä»¥":105773,"çļĦçĶŁåij½":105774,"æľīä¸Ģç§į":105775,"åºĹéĵº":105776,"åıĮæīĭ":105777,"çļĦæ¶Īæģ¯":105778,"èĢIJå¿ĥ":105779,"å°´å°¬":105780,"éĤ£å¤©":105781,"é¦ĸæī¹":105782,"æĺ¯ä¸Ģå®¶":105783,"人æ°Ķ":105784,"åıįæŃ£":105785,"æĪijåĴĮ":105786,"å®łçī©":105787,"ä¸į对":105788,"寻æ±Ĥ":105789,"çĽ¸ä¼¼":105790,"åľ¨ç¾İåĽ½":105791,"åı«åģļ":105792,"åĹİ":105793,"ç«ĭè¶³":105794,"ç͍éĢĶ":105795,"åħĨ":105796,"大æ°Ķ":105797,"åIJijä¸Ĭ":105798,"ä»ĸå°±":105799,"é¡¹çĽ®å»ºè®¾":105800,"èĭ¥å¹²":105801,"æĺ¯æľī":105802,"æ¿Ģæĥħ":105803,"çļĦæĦıä¹ī":105804,"æĺŃ":105805,"严éĩįçļĦ":105806,"å¯ĨéĽĨ":105807,"èĪŀè¹Ī":105808,"èį£èİ·":105809,"èİ·æĤī":105810,"æ±ŁåįĹ":105811,"åģĩå¦Ĥ":105812,"æĪ·å¤ĸ":105813,"线索":105814,"ç§ģ人":105815,"转åŀĭåįĩ级":105816,"çļĦä»·å̼":105817,"åįķçĭ¬":105818,"èĢģçϾå§ĵ":105819,"å°įæĸ¼":105820,"åĽ½éĻħåĮĸ":105821,"ä¼°å̼":105822,"æľįåĬ¡ä¸ļ":105823,"èĩŃ":105824,"æİīäºĨ":105825,"è§£åĨ³äºĨ":105826,"ä¹Łä¸įèĥ½":105827,"åħ¹":105828,"æĸ¯çī¹":105829,"æķħæĦı":105830,"è¿ĩ度":105831,"èĬĤæĹ¥":105832,"çϽçĻľ":105833,"çϽçĻľé£İ":105834,"ç»§æī¿":105835,"äºĨä¸įå°ij":105836,"äºĮ人":105837,"è§ģéĿ¢":105838,"æĥ³æĥ³":105839,"å¤įåIJĪ":105840,"康å¤į":105841,"åİ¿åŁİ":105842,"åľ¨åĽ½åĨħ":105843,"åľºåľ°":105844,"é϶çĵ·":105845,"è¿Ļ项":105846,"çľ¼ä¸Ń":105847,"糸":105848,"æĦŁè§īåΰ":105849,"æŀľçĦ¶":105850,"æĶ¾åħ¥":105851,"约æĿŁ":105852,"æİĴæŁ¥":105853,"车主":105854,"çļĦæĦıæĢĿ":105855,"æĸ°åŁİ":105856,"æĥ³çĿĢ":105857,"éģĤ":105858,"èĮ¶åı¶":105859,"ä¹°æĪ¿":105860,"åĨľæĪ·":105861,"é«ĺæīĭ":105862,"çİīç±³":105863,"æĸ°åĨłèĤºçĤİ":105864,"çħ§æĺİ":105865,"æĮĩåįĹ":105866,"踢":105867,"æķijæı´":105868,"æĻ¯çĤ¹":105869,"ç¨İæĶ¶":105870,"çļĦæīĭ":105871,"æŃ£å¥½":105872,"è¦ģæĬĬ":105873,"éļıæĦı":105874,"åħ¶å®ŀæĺ¯":105875,"ç»Ļèĩªå·±":105876,"è°ĪåΤ":105877,"æ¯ı天éĥ½":105878,"æĢģåĬ¿":105879,"é¢Ħ约":105880,"åİĨåı²ä¸Ĭ":105881,"å®Ŀè´Ŀ":105882,"åīįè¿Ľ":105883,"ä¹Łå°±æĺ¯è¯´":105884,"çļĦæĦıè§ģ":105885,"åı£ç½©":105886,"åİĺç±³":105887,"èĬ±è´¹":105888,"ä½ĵèĤ²æĬķæ³¨":105889,"åħ¬ä¼Ĺåı·":105890,"èijĹåIJįçļĦ":105891,"å¼ĢæĪ·":105892,"æĭįåįĸ":105893,"å²ģæľĪ":105894,"åĨħæ¶µ":105895,"å®Įæķ´çļĦ":105896,"é«ĺåİĭ":105897,"åħ¬åĬ¡åijĺ":105898,"使ç͍çļĦ":105899,"çĶŁäº§çº¿":105900,"妹妹":105901,"走访":105902,"æĺ¯åı¯ä»¥":105903,"åľ¨å®¶":105904,"æļ´åĬĽ":105905,"æ³°åĽ½":105906,"è´¨çĸij":105907,"ä¸įéģİ":105908,"天çĦ¶æ°Ķ":105909,"缺çĤ¹":105910,"å°ıåŀĭ":105911,"ä¸įä»ħæĺ¯":105912,"é»ijæļĹ":105913,"梨":105914,"æĸĩæĹħ":105915,"è¦ģæľī":105916,"ä¸Ńå±±":105917,"çļĦæķ°æį®":105918,"å¾Ĺå¾Ī":105919,"以便":105920,"对ä»ĸ":105921,"åĬłä»¥":105922,"çϼçı¾":105923,"设å®ļ":105924,"èĤļåŃIJ":105925,"éĿĸ":105926,"å¥īçĮ®":105927,"ä¸įåıĺ":105928,"åı£ç¢ij":105929,"åľ¨åĵªéĩĮ":105930,"ä½IJ":105931,"è¿Ļ两个":105932,"çļĦæĸ¹åIJij":105933,"æŀ«":105934,"äºĮ次":105935,"çīĩåĮº":105936,"éłIJ":105937,"ç£Ĭ":105938,"æĭ¿çĿĢ":105939,"å·²ç»ıæĪIJ为":105940,"ä¹ĭä¸Ĭ":105941,"å®ĹæĹ¨":105942,"奶奶":105943,"é«ĺæĸ°åĮº":105944,"社æľĥ":105945,"è·Łè¸ª":105946,"æľįåĬ¡ä¸Ńå¿ĥ":105947,"æī¯":105948,"æīĭæĮĩ":105949,"礼çī©":105950,"宿èĪį":105951,"ç͍å¿ĥ":105952,"æıIJé«ĺäºĨ":105953,"亮çĤ¹":105954,"ä¸įæĦ¿æĦı":105955,"æĴѿ;":105956,"å¤ļå°ijéĴ±":105957,"没ä»Ģä¹Ī":105958,"æķ°åįģ":105959,"æĢ»çĽij":105960,"çļĦåŁİå¸Ĥ":105961,"æī¾åΰäºĨ":105962,"åĨħåľ°":105963,"åΰçİ°åľ¨":105964,"æĪĺæĸĹåĬĽ":105965,"åİŁå§ĭ":105966,"åĥ§":105967,"åĢĴæĺ¯":105968,"æľĢåħ·":105969,"è´«åĽ°æĪ·":105970,"éĢģåΰ":105971,"级åĪ«":105972,"åĩºèµĦ":105973,"æĪªæŃ¢":105974,"ç§įåŃIJ":105975,"èĥ½ä¸įèĥ½":105976,"幸è¿IJ":105977,"èĸĩ":105978,"项éĵ¾":105979,"æĮĤçīĮ":105980,"ä¸Ģ樣":105981,"ä¹ĺ客":105982,"èIJ½åIJİ":105983,"ä½ĨæĪij":105984,"æĹ©åľ¨":105985,"åĬ¨æ¼«":105986,"å¹³çŃī":105987,"å¯¹ä½ł":105988,"ä¸įæĢķ":105989,"å¤ĸçķĮ":105990,"å¤ļå¹´æĿ¥":105991,"é¦ĸ个":105992,"æ²³åįĹçľģ":105993,"æĪĸåħ¶ä»ĸ":105994,"éķľå¤´":105995,"åįĹæĺĮ":105996,"ä¸ĢéĿ¢":105997,"éĢłæĪIJçļĦ":105998,"å´Ķ":105999,"çŃĴ":106000,"æķĻèĤ²éĥ¨":106001,"åľ°åŁŁ":106002,"æĺĨæĺİ":106003,"å·´é»İ":106004,"æīĭ游":106005,"ä¸ĢæĹ¶":106006,"çłį":106007,"顶级":106008,"åħ±è®¡":106009,"åİŁæ²¹":106010,"è¾īçħĮ":106011,"说æĺ¯":106012,"æĸ°åįİ社":106013,"ç»ıåİĨäºĨ":106014,"ä¸įæŃ¢":106015,"è¦ģä¹Ī":106016,"èĢħçļĦ":106017,"æĢ»æĬķèµĦ":106018,"è¡Įé©¶":106019,"ä¸Ĭå¸Ŀ":106020,"年纪":106021,"çIJ¼":106022,"ä¼łè¯´":106023,"ç²¾èĭ±":106024,"æĸ¹éĴĪ":106025,"æ±Łæ¹ĸ":106026,"æĪIJçĤº":106027,"æĢ»éĩı":106028,"æĬķæĶ¾":106029,"åĬ¨çĶ»":106030,"èŤ":106031,"ç͵æºIJ":106032,"éĴĻ":106033,"åIJĮè¡Į":106034,"æĻ®éĢļçļĦ":106035,"åĽ¾ä¹¦é¦Ĩ":106036,"è¯ĪéªĹ":106037,"æħĪåĸĦ":106038,"è¿Ļ份":106039,"主æĮģ人":106040,"å°±è¿Ļæł·":106041,"èĢĮæĪIJ":106042,"èĩªè¡Į车":106043,"ä¸ŃåĽ½çī¹èī²":106044,"èĤ¿çĺ¤":106045,"åIJ¾":106046,"å¼Łå¼Ł":106047,"åıĹçĽĬ":106048,"éĢīæĭ©äºĨ":106049,"æĺİæĺ¾çļĦ":106050,"æĬ¥èĢĥ":106051,"ç¬ijéģĵ":106052,"éĽĸçĦ¶":106053,"温å·ŀ":106054,"éĿŀæ´²":106055,"ç§įç§į":106056,"åıĤåĬłäºĨ":106057,"è´§è¿IJ":106058,"éļı便":106059,"就没æľī":106060,"縣":106061,"央è§Ĩ":106062,"ç©¿è¶Ĭ":106063,"çļĦçݰ象":106064,"åĩłæ¬¡":106065,"çļĦé£İéĻ©":106066,"æŃĮæĽ²":106067,"æľ¬å±Ĭ":106068,"å¹´åĨħ":106069,"ä¸įè¶ħè¿ĩ":106070,"è¿ĩå¤ļ":106071,"å¿ħé¡»è¦ģ":106072,"ç»ĵ论":106073,"åĢŁéī´":106074,"ç¥ŀå¥ĩ":106075,"æľŁæľĽ":106076,"ä¸ĵ享":106077,"éĿŀ常éĩįè¦ģ":106078,"æĦıè¯Ĩåΰ":106079,"åIJĪå¹¶":106080,"æĬĬèĩªå·±":106081,"å¥Ĺè£ħ":106082,"éŃĶæ³ķ":106083,"å¤ıåŃ£":106084,"ä¸įåĥı":106085,"å¢ĥçķĮ":106086,"æĥĬåĸľ":106087,"æľīä¸Ģ天":106088,"çĦ¦çĤ¹":106089,"æĪij认为":106090,"åħ°å·ŀ":106091,"ç͵æ°Ķ":106092,"èģĶç³»æĪij们":106093,"ç§ijæĻ®":106094,"她说":106095,"çļĦæĸĩ竳":106096,"å¥ĩæĢª":106097,"åıĭ好":106098,"饮æĸĻ":106099,"çļĦæĶ¯æĮģ":106100,"çŃĶåºĶ":106101,"éĩįéĩı":106102,"çij¶":106103,"åĩıè½»":106104,"ç§ijåѦ家":106105,"巴西":106106,"éĩijèŀįæľºæŀĦ":106107,"åħļå§Ķ书记":106108,"貸款":106109,"ç²¾èĩ´":106110,"ä»İæľª":106111,"åį°åĪ·":106112,"åĽŀ顾":106113,"é¦ĸéĥ½":106114,"åıijèĤ²":106115,"éĹ®éģĵ":106116,"è¾¾åΰäºĨ":106117,"å¿įä¸įä½ı":106118,"æīįæľī":106119,"æįIJèµł":106120,"ä½ĽæķĻ":106121,"ä¸įæ¸ħ":106122,"éĺŁéķ¿":106123,"缸åıį":106124,"æĬ¥èѦ":106125,"大åħ¨":106126,"æ¬§çĽŁ":106127,"帮å¿Ļ":106128,"çļĦæĻĤåĢĻ":106129,"缮å½ķ":106130,"足以":106131,"èī°éļ¾":106132,"ä»ĸä¹Ł":106133,"å·¥ä½ľèĢħ":106134,"头èĦij":106135,"缺éĻ·":106136,"æĪIJç«ĭäºĨ":106137,"å°±å¼Ģå§ĭ":106138,"认åIJĮ":106139,"é»Ħèī²":106140,"çĹħæĥħ":106141,"覺å¾Ĺ":106142,"è¿Ļ两":106143,"ä¿¡ä»°":106144,"åľĭå®¶":106145,"ä¸įä»ħä»ħæĺ¯":106146,"çĭ¬å®¶":106147,"èάçļĦ":106148,"æĿIJè´¨":106149,"æµ·ä¸Ĭ":106150,"çĤºäºĨ":106151,"æľºåĬ¨è½¦":106152,"缸å½ĵäºİ":106153,"å¤ļåħĥåĮĸ":106154,"æĽ´å¤§çļĦ":106155,"èĽ®":106156,"åģĩæľŁ":106157,"å¼ıçļĦ":106158,"交éĢļè¿IJè¾ĵ":106159,"çľģå§Ķ":106160,"ä¸įç®Ĺ":106161,"æĶ¾ä¸ĭ":106162,"éĹ¯":106163,"äººåľ¨":106164,"港åı£":106165,"æĹ¨åľ¨":106166,"åij½ä»¤":106167,"æŁIJ个":106168,"平稳":106169,"åıªå¥½":106170,"人人":106171,"äºŀ":106172,"äºĮç»´":106173,"äºĮç»´çłģ":106174,"æŀģ为":106175,"åĪ«å¢ħ":106176,"åħ¶ä½Ļ":106177,"大äºĭ":106178,"主管éĥ¨éŨ":106179,"æĹłéĶ¡":106180,"éŵ":106181,"éģŃåΰ":106182,"说è¿ĩ":106183,"ä¸ºä½ł":106184,"è§£çŃĶ":106185,"éªĮæĶ¶":106186,"çļĦç»ıéªĮ":106187,"åĮ¹éħį":106188,"çģ«ç®Ń":106189,"豪åįİ":106190,"æŁIJæŁIJ":106191,"çļĦæĹ¶ä»£":106192,"书éĿ¢":106193,"æģĴ大":106194,"å»¶éķ¿":106195,"ä¸ĢåIJĮ":106196,"æľªèĥ½":106197,"交æį¢":106198,"çĶ¢åĵģ":106199,"çŃīåΰ":106200,"åĪĨ离":106201,"æīĵç͵è¯Ŀ":106202,"å¹²çĩ¥":106203,"è¾ĥå¤ļ":106204,"å¤ļå¹´çļĦ":106205,"èĥĮæĻ¯ä¸ĭ":106206,"为ä¾ĭ":106207,"æijĺè¦ģ":106208,"å´Ľèµ·":106209,"æŃ¤åĪ»":106210,"æľīæľºä¼ļ":106211,"æĿ¡æ¬¾":106212,"é¢Ĩ导å°ıç»Ħ":106213,"çļĦ身ä½ĵ":106214,"åįķä¸Ģ":106215,"央è¡Į":106216,"ä¸įæĸŃæıIJé«ĺ":106217,"ä»·å̼è§Ĥ":106218,"èĬ½":106219,"èIJį":106220,"æ³ķå¾ĭæ³ķè§Ħ":106221,"ä¸įéĶĪ":106222,"ä¸įéĶĪéĴ¢":106223,"åĩºäºİ":106224,"èĻļæĭŁ":106225,"æį®æĤī":106226,"çĥ¦æģ¼":106227,"åħ¨æĸ°çļĦ":106228,"æī«æıı":106229,"çĻ»éĻĨ":106230,"èīºæľ¯å®¶":106231,"çļĦé£Łçī©":106232,"çļĦåŃĺåľ¨":106233,"客åİħ":106234,"æĪij们就":106235,"æŁ¥çľĭæĽ´å¤ļ":106236,"è¯Ħ审":106237,"å¸Ĥåł´":106238,"è¬Ľ":106239,"巨头":106240,"ä¸ŃåĽ½ç»ıæµİ":106241,"äºĨèĩªå·±çļĦ":106242,"åĨ³è®®":106243,"çĽijçĿ£ç®¡çIJĨ":106244,"æĬķ票":106245,"åĨį度":106246,"è¡ĮçĤº":106247,"注åħ¥":106248,"ä½ľä¸ºä¸Ģ个":106249,"æ¯ı个人éĥ½":106250,"åįķåħĥ":106251,"è¦ģçŁ¥éģĵ":106252,"被称为":106253,"ä¹ĭéĻħ":106254,"è§£éϤ":106255,"丸":106256,"溫":106257,"ä¸īæĺŁ":106258,"é²ľæĺİ":106259,"ä¹Łéĥ½":106260,"æĹ¶æľº":106261,"åĩºæīĭ":106262,"æĥħå½¢":106263,"åķĨè´¸":106264,"éĢī举":106265,"对èĩªå·±":106266,"çĶŁåĬ¨":106267,"åħĭæľį":106268,"个ä½ĵ":106269,"èĭij":106270,"稱":106271,"大åݦ":106272,"æĺ¯å¯¹":106273,"åĪ©æģ¯":106274,"è¿IJåĬ¨åijĺ":106275,"åĮĸè§£":106276,"åīįæ²¿":106277,"æĦŁæģ©":106278,"æĢ»ä¹ĭ":106279,"é«ĺæĸ°æĬĢæľ¯":106280,"åĿĩ为":106281,"åħ¨åĮº":106282,"æ°Ķæ°Ľ":106283,"åı¯ä»¥è¯´æĺ¯":106284,"ä½ı宿":106285,"åħļåijĺå¹²éĥ¨":106286,"åĹ¯":106287,"è·µè¡Į":106288,"çļĦä¸ĵä¸ļ":106289,"èĢĥéªĮ":106290,"èķ¾":106291,"åħ¬åŃIJ":106292,"çļĦçĬ¶æĢģ":106293,"æ½®æµģ":106294,"ä¿¡æīĺ":106295,"è´¼":106296,"åIJĦæĸ¹":106297,"æķijåĬ©":106298,"éĿŀ常çļĦ":106299,"æ¡¥æ¢ģ":106300,"åħ¬æĸ¤":106301,"ä¼¼çļĦ":106302,"çľĭ好":106303,"å±Ģéĥ¨":106304,"å®īéĿĻ":106305,"éħįä»¶":106306,"常è§Ħ":106307,"å¼Ģ车":106308,"第äºĮ次":106309,"ä¸Ĭ级":106310,"åıĤèµĽ":106311,"å®¶å±ŀ":106312,"强åĬ¿":106313,"åľ¨ä»ĸ":106314,"åIJijåīį":106315,"ä¹ĭåľ°":106316,"éĥ¡":106317,"è¡Įç¨ĭ":106318,"èѦåijĬ":106319,"è§Ħå®ļçļĦ":106320,"åķĨåŁİ":106321,"äºĶ大":106322,"æķĻ室":106323,"åįģè¶³":106324,"æīĢä»¥åľ¨":106325,"å°Ĩç»§ç»Ń":106326,"çŃīæĸ¹å¼ı":106327,"å®¶ä¼ģä¸ļ":106328,"交ä»ĺ":106329,"çĤ¹è¯Ħ":106330,"ç»ĵç®Ĺ":106331,"ä¹Łåı¯":106332,"å¤ĸæ±ĩ":106333,"è¿Ļç§įæĥħåĨµ":106334,"æİĪäºĪ":106335,"å¸ĥç½®":106336,"æĪIJç«ĭäºİ":106337,"é¢ĦèѦ":106338,"管çIJĨ人åijĺ":106339,"å©ļ礼":106340,"ç»ĵæĿŁåIJİ":106341,"åħ¥éĢī":106342,"æĹłæ¯Ķ":106343,"åĴĮåıijå±ķ":106344,"çϽéħĴ":106345,"çİ©åħ·":106346,"ä¸ĩç¾İåħĥ":106347,"çļĦæĪIJ绩":106348,"æĭįçħ§":106349,"èĢĥèĻijåΰ":106350,"ä¼ģä¸ļåıijå±ķ":106351,"äºĨ个":106352,"çĶŁæ°Ķ":106353,"çļĦ女人":106354,"äºĶåįģ":106355,"çĪ·çĪ·":106356,"纽约":106357,"éĥ½è¢«":106358,"ä¸Ĭ课":106359,"çĽ¡":106360,"ä¼łç»ŁæĸĩåĮĸ":106361,"æ½ľåľ¨":106362,"åıijå°Ħ":106363,"ä¸Ģ身":106364,"éĺ²å®Ī":106365,"åĪ®":106366,"é¢ĺ缮":106367,"åľ¨åĨħçļĦ":106368,"ç¾İ好çļĦ":106369,"è¿ĻéĩĮçļĦ":106370,"ä¸Ģä¸Ŀ":106371,"人åĿĩ":106372,"å̡坼":106373,"身åIJİ":106374,"æī©å±ķ":106375,"大éŨ":106376,"就被":106377,"è¯¥é¡¹çĽ®":106378,"æŀ¶æŀĦ":106379,"ä¸Ģåı£":106380,"ä¿¡æģ¯æĬĢæľ¯":106381,"å¼Ģä¸ļ":106382,"æĶ¶åıĸ":106383,"ç½ij页":106384,"æĶ¯æı´":106385,"å°ģéĹŃ":106386,"å¡ijéĢł":106387,"大èĥĨ":106388,"å¿«éĢŁåıijå±ķ":106389,"çľĭä¼¼":106390,"æ¸Ŀ":106391,"è¿Ļæł·ä¸Ģ个":106392,"模åĿĹ":106393,"注æĦıåΰ":106394,"çł´è§£":106395,"èĩªä»İ":106396,"åijµåijµ":106397,"ä¹ĭå¾Į":106398,"ä¹ĭæĹħ":106399,"è·ŁæĪij":106400,"æ³ķ人":106401,"æİĴè¡Įæ¦ľ":106402,"åĿļå®Ī":106403,"好å¤Ħ":106404,"çŁ³å¤´":106405,"å¹¶å°Ĩ":106406,"èα":106407,"æŃĩ":106408,"两岸":106409,"å¤ļä¹ħ":106410,"象å¾ģ":106411,"个æĢ§åĮĸ":106412,"çļĦè§Ĵ度":106413,"å¸Ĩ":106414,"ç¦ıå·ŀ":106415,"æŁ¥å¤Ħ":106416,"ä¸¤åĽ½":106417,"åIJ¸å¼ķäºĨ":106418,"é¦ĸå¸Ń":106419,"大åĵ¥":106420,"é¤Ĭ":106421,"涨å¹ħ":106422,"éĢīç͍":106423,"許å¤ļ":106424,"èIJ½æĪ·":106425,"åĵĪå°Ķ":106426,"åĵĪå°Ķ滨":106427,"åģļä»Ģä¹Ī":106428,"以åħį":106429,"é¾į":106430,"æĹłéľĢ":106431,"åΰåºķæĺ¯":106432,"æĢ¡":106433,"åijĬè¯īä½ł":106434,"éĺ²æ°´":106435,"è¿ĻæĹ¶åĢĻ":106436,"欢ä¹IJ":106437,"转åIJij":106438,"è¿Ļä¸ªåľ°åĽ¾":106439,"åħ¥é©»":106440,"èįīåİŁ":106441,"æĹ¶ä»£çļĦ":106442,"åıĺåĬ¨":106443,"åĬłå¼ºå¯¹":106444,"åģ¶å°Ķ":106445,"å®ĪæĬ¤":106446,"æ°Ķ温":106447,"人éĹ´":106448,"æľĿé²ľ":106449,"ç»ıè´¹":106450,"åĽŃæŀĹ":106451,"å·¥åľ°":106452,"è§Ħæł¼":106453,"åĩłåįģ":106454,"è¯ķåĽ¾":106455,"å¦ĥ":106456,"éĤ£æĹ¶åĢĻ":106457,"å¼ĺæī¬":106458,"ä¸ļçķĮ":106459,"çļĦéĢŁåº¦":106460,"ä¼ļä¸įä¼ļ":106461,"èIJ¥æĶ¶":106462,"å°ıå¾®ä¼ģä¸ļ":106463,"çľĭè¿ĩ":106464,"æĬĬä»ĸ":106465,"éģµå¾ª":106466,"è¿Ļè¾¹":106467,"没æľī人":106468,"壶":106469,"æ¹ĸåįĹçľģ":106470,"æŀģåħ¶":106471,"çļĦ人çĶŁ":106472,"ä»ĸè¿ĺ":106473,"转åĮĸ为":106474,"èµ°è¿ĩ":106475,"æĬ±çĿĢ":106476,"çīĽå¥¶":106477,"ä¸ĩ亩":106478,"å¿ĥæĢģ":106479,"æĹ¥å¸¸çĶŁæ´»":106480,"ä½ĵæ£Ģ":106481,"æĻĥ":106482,"çŃīé¢ĨåŁŁ":106483,"æĩī該":106484,"åı¯ä»¥çľĭåΰ":106485,"æī¾ä¸įåΰ":106486,"èĢģå¹´":106487,"æĬĬæĪij":106488,"积åĪĨ":106489,"梳çIJĨ":106490,"绳":106491,"çļĦæĶ¿æ²»":106492,"å¸ĿåĽ½":106493,"éĻªä¼´":106494,"æ´Ľéĺ³":106495,"åħ¬æŃ£":106496,"å¼Ģåı£":106497,"çī¹èī²çļĦ":106498,"åĽ°å¢ĥ":106499,"ä¸Ĭæľī":106500,"ç«ĭä½ĵ":106501,"æīĵå·¥":106502,"åķ¤éħĴ":106503,"åľ¨éĤ£éĩĮ":106504,"éĤ£è¾¹":106505,"个åĪ«":106506,"ä¸Ģå®ļæĺ¯":106507,"çļĦéĩįè¦ģæĢ§":106508,"ä¸»å¼ł":106509,"åĴĮæľįåĬ¡":106510,"ä¸Ĭç½ij":106511,"è¡¥åĬ©":106512,"åıªéľĢ":106513,"弦":106514,"éģ®":106515,"åĬĽäºī":106516,"度è¿ĩ":106517,"èij¬":106518,"é¡¿æĹ¶":106519,"éĦī":106520,"纺ç»ĩ":106521,"åľ°åĿĹ":106522,"ä¿¡ç͍åį¡":106523,"ç½ļ款":106524,"åijĬè¯īæĪij":106525,"éĽĻ":106526,"书çĶ»":106527,"è¨Ńè¨Ī":106528,"æĢ»ä¼ļ":106529,"åΤåĨ³":106530,"ä¿¡èªī":106531,"个èĤ¡":106532,"平常":106533,"æĢİ麼":106534,"ä½ĵçİ°åľ¨":106535,"é»Ħæ²³":106536,"åĽĽå·Ŀçľģ":106537,"羣缸":106538,"åIJĦé¡¹å·¥ä½ľ":106539,"åĬ¨åijĺ":106540,"å³°ä¼ļ":106541,"ä¸ĢæľŁ":106542,"æľīä¸Ģå®ļçļĦ":106543,"é«ĺ度éĩįè§Ĩ":106544,"ç¹ģèį£":106545,"åıijçݰäºĨ":106546,"ç½ij红":106547,"æīĭæ³ķ":106548,"å®¶åĽŃ":106549,"仪åύ":106550,"è¾ĥä½İ":106551,"çļĦå®īåħ¨":106552,"æ¡IJ":106553,"ä»ĺ款":106554,"æĬijåζ":106555,"åįĵè¶Ĭ":106556,"æŃ£éĿ¢":106557,"åĵij":106558,"强åζ":106559,"ä»Ĭ天çļĦ":106560,"æĪĺèĥľ":106561,"楼å¸Ĥ":106562,"æĭ¿ä¸ĭ":106563,"é¢ľå̼":106564,"举éĥ¨":106565,"çłĶåζ":106566,"çļĦæĪĺçķ¥":106567,"åľ¨ä¸Ģ个":106568,"ä¸ī人":106569,"å®ĮäºĨ":106570,"æĸ°æĬĢæľ¯":106571,"ç»ıæµİæķĪçĽĬ":106572,"å¯Įæľī":106573,"澳洲":106574,"åĬ©çIJĨ":106575,"é¢Ĩåıĸ":106576,"è°Ń":106577,"çĩĥçĥ§":106578,"ç´łåħ»":106579,"éĤĦæľī":106580,"è¿ĽèĢĮ":106581,"ä»Ģä¹Īæĺ¯":106582,"çłĶç©¶ä¸Ńå¿ĥ":106583,"éĢĤç͍äºİ":106584,"æİ¥æĶ¶":106585,"å¤±æľĽ":106586,"äºĮ级":106587,"éĹ´çļĦ":106588,"åİŁæłĩé¢ĺ":106589,"èªįçĤº":106590,"æį¡":106591,"对çĿĢ":106592,"对éĿ¢":106593,"ä¸ŃåİŁ":106594,"éĵĥ":106595,"çĶŁäº§çļĦ":106596,"åıijå¸ĥä¼ļ":106597,"士åħµ":106598,"è¿Ļåı¥è¯Ŀ":106599,"缴纳":106600,"ä¸Ģ个个":106601,"åѸçĶŁ":106602,"çĸijéĹ®":106603,"交èѦ":106604,"示èĮĥåĮº":106605,"天使":106606,"åľ¨ä¸Ĭæµ·":106607,"åIJĮæĻĤ":106608,"è½»æĺĵ":106609,"å͝ä¸ĢçļĦ":106610,"çĥŃéĹ¹":106611,"ä¹IJè§Ĥ":106612,"çļĦ身份":106613,"åĸĦäºİ":106614,"大åİħ":106615,"èĤ¯å®ļæĺ¯":106616,"éĺ²çģ«":106617,"å¤ĸåĩº":106618,"æį®è¯´":106619,"é¡¹çĽ®çļĦ":106620,"ä¸Ģåı°":106621,"èĻļåģĩ":106622,"ä¸Ģç¬Ķ":106623,"ç«ĭæ³ķ":106624,"严èĤĥ":106625,"æī¿åĬŀ":106626,"åįģåĩł":106627,"çļĦ空éĹ´":106628,"æľ¬ç½ijç«Ļ":106629,"åģļå¾Ĺ":106630,"ä¿Ŀ温":106631,"æľĪåĪĿ":106632,"åľ¨ç½ijä¸Ĭ":106633,"åIJĦæĸ¹éĿ¢":106634,"ä¸ī天":106635,"交æĺĵæīĢ":106636,"è§£æŀIJ":106637,"åħļä¸Ń央":106638,"è¿Ľåĩºåı£":106639,"åĴĮ社ä¼ļ":106640,"次æķ°":106641,"ä¹ĭå®¶":106642,"维度":106643,"æ´¾åĩºæīĢ":106644,"产çĶŁäºĨ":106645,"带æľī":106646,"å¾Ī强":106647,"æľīäºĽäºº":106648,"å¹´åIJİ":106649,"äºĨ许å¤ļ":106650,"å¯Ĩ度":106651,"åŃ¦æľŁ":106652,"çıłæµ·":106653,"æľĢå¤ļçļĦ":106654,"è¾¹ç¼ĺ":106655,"容éĩı":106656,"第äºĮ个":106657,"ä¸Ģ缴æĺ¯":106658,"ä¸įç¦ģ":106659,"æŃ²":106660,"ä»ĭç»įäºĨ":106661,"ä¼ĺéĽħ":106662,"æ¯Ķè¼ĥ":106663,"èģĮä½į":106664,"温æŁĶ":106665,"æľīéĴ±":106666,"æľĢé«ĺçļĦ":106667,"åįļè§Īä¼ļ":106668,"ä¸įæĪIJ":106669,"éĶĻäºĨ":106670,"è¯ģçĽij":106671,"è¯ģçĽijä¼ļ":106672,"æĪIJ人":106673,"åĿĩåĮĢ":106674,"æľīåĪ©":106675,"è¶ĬåįĹ":106676,"æīĵäºĨ":106677,"好åIJĥ":106678,"系統":106679,"è·Łéļı":106680,"çļĦåľ°ä½į":106681,"æŃ£å¦Ĥ":106682,"ç¨įå¾®":106683,"åį°åıij":106684,"åĪĽç«ĭ":106685,"é£İåħī":106686,"å°ĨæĪIJ为":106687,"ä¸įé«ĺ":106688,"é¢ijç¹ģ":106689,"设æľī":106690,"ä¼ŀ":106691,"æĭĨéϤ":106692,"å½±åĥı":106693,"æ¸ĹéĢı":106694,"å¹´å¼Ģå§ĭ":106695,"ç½ijæĺĵ":106696,"è¦ģåģļ":106697,"ç͵åĬ¨è½¦":106698,"羣å¿ĥ":106699,"æµ·åĨĽ":106700,"ä¼łæĿ¥":106701,"å·®åĪ«":106702,"è°¨æħİ":106703,"çĥŁåı°":106704,"åįĥå¹´":106705,"è¯ģå®ŀ":106706,"çIJª":106707,"çļĦåħ·ä½ĵ":106708,"åΰå¤Ħ":106709,"ä¸įå®ľ":106710,"èľĢ":106711,"èĥ½åĬĽåĴĮ":106712,"çīºçī²":106713,"çļĦéĴ±":106714,"大éĺŁ":106715,"é¦ĸè¦ģ":106716,"ä¸įæĦ¿":106717,"çİ«çij°":106718,"人æ°ijç½ij":106719,"è¿ĺæĺ¯è¦ģ":106720,"åĽĽå¹´":106721,"æįŁä¼¤":106722,"çļĦåģļæ³ķ":106723,"éĿĪ":106724,"è¡Ķæİ¥":106725,"åIJĪæĪIJ":106726,"没人":106727,"éĹ¨æ§Ľ":106728,"ä¿¡è´·":106729,"çļĦ缸åħ³":106730,"举é£İ":106731,"社ä¿Ŀ":106732,"ä¸ĭ游":106733,"åĿĹéĴ±":106734,"è¿ĩåIJİ":106735,"çļĦåºĶç͍":106736,"饶":106737,"é¢ģåıij":106738,"ä¸Ģå¤Ħ":106739,"åįİå¤ı":106740,"为ä¼ģä¸ļ":106741,"åıªä¼ļ":106742,"侵害":106743,"çļĦåĬŁèĥ½":106744,"åѸç¿Ĵ":106745,"ä¸Ńåįİæ°ijæĹı":106746,"åıijå¸ĥäºĨ":106747,"è¿İæİ¥":106748,"æĪijèĩªå·±":106749,"è¿ĺéľĢè¦ģ":106750,"太éĺ³èĥ½":106751,"åİ»ä¸ĸ":106752,"æĺ¯ä½ł":106753,"åIJĪåĬĽ":106754,"ç»ĺçĶ»":106755,"åı°åĮĹ":106756,"çĿ£ä¿ĥ":106757,"åĮĹéĥ¨":106758,"æľīå¤ļå°ij":106759,"å¾Īéĩįè¦ģ":106760,"åĪĴåĪĨ":106761,"åı·çº¿":106762,"æĶ¾å¤§":106763,"ä¼ļ被":106764,"èİ·å¥ĸ":106765,"ä¹ĭåĨħ":106766,"失åİ»äºĨ":106767,"çݩ家们":106768,"éĩĩéĽĨ":106769,"壹":106770,"å®¶ä¼Ļ":106771,"çϽ天":106772,"åĽłä¸ºä»ĸ":106773,"社ä¼ļæ²»çIJĨ":106774,"å¼ĢåĪĽ":106775,"ç͵ç¼Ĩ":106776,"æĸ°ä¸Ģ代":106777,"å¹¶è´Ń":106778,"就已ç»ı":106779,"çļĦ社ä¼ļ":106780,"éϤéĿŀ":106781,"åı¯ä»¥ç͍":106782,"å©ī":106783,"æ¯Ķè¾ĥ好":106784,"å®ŀä¸ļ":106785,"åĪĽåĬŀ":106786,"æıIJèµ·":106787,"é»ĥ":106788,"ä½ıåľ¨":106789,"å¸ĤæĶ¿":106790,"éĿ¢ä¸´çļĦ":106791,"èĥ½åľ¨":106792,"çŁŃçŁŃ":106793,"çľŁäºº":106794,"æĺİæĺİ":106795,"èµĦåĬ©":106796,"çļĦä¸įåIJĮ":106797,"å°ıæľĭåıĭ":106798,"é¢ĺæĿIJ":106799,"ç¾İåij³":106800,"æĺŁåº§":106801,"ä¸įä¸Ģæł·çļĦ":106802,"çľĭä¸Ĭåİ»":106803,"ä¸Ģæł¹":106804,"广å·ŀå¸Ĥ":106805,"åıijçĶŁçļĦ":106806,"é«ĺç§ijæĬĢ":106807,"ä¸Ģè¾ĪåŃIJ":106808,"交åıī":106809,"ä½ĵ系建设":106810,"åĽłä¸ºæĪij":106811,"çıįæĥľ":106812,"ä¸ĬåѦ":106813,"æĪĺæľ¯":106814,"æŃ¤ç±»":106815,"交å¾Ģ":106816,"æĮīæij©":106817,"人们çļĦ":106818,"åħ¶å¯¦":106819,"åİŁæĿIJæĸĻ":106820,"æ¸´æľĽ":106821,"缸å¤Ħ":106822,"微微":106823,"æ®·":106824,"ä¹ĺåĿIJ":106825,"å¼Ģå±ķäºĨ":106826,"é«ĺåĵģè´¨":106827,"æĹłäººæľº":106828,"ä¸įæĺ¯å¾Ī":106829,"çļĦæĬķèµĦ":106830,"èĬĤçľģ":106831,"èĩī":106832,"ç²¾éĢī":106833,"çļĦæłĩåĩĨ":106834,"åįĹéĥ¨":106835,"认è¯Ĩåΰ":106836,"å¹³éĿĻ":106837,"èĹ¥":106838,"æī«é»ij":106839,"æī«é»ijéϤ":106840,"æī«é»ijéϤæģ¶":106841,"éĢĻ種":106842,"建çŃijéĿ¢ç§¯":106843,"ç¡®ç«ĭ":106844,"管çIJĨåĬŀæ³ķ":106845,"æĦıå¿Ĺ":106846,"丨":106847,"让åŃ©åŃIJ":106848,"æķijçģ¾":106849,"å½ĵä»Ĭ":106850,"çģ«çģ¾":106851,"åIJĦéĥ¨éŨ":106852,"ä¾µçĬ¯":106853,"æ¯ıåij¨":106854,"æı½":106855,"ä¸Ģ次æĢ§":106856,"åħ¶ä»ĸ人":106857,"éĶĻè¿ĩ":106858,"ä¸İåħ¶":106859,"åĭĩæ°Ķ":106860,"çĩĥæ°Ķ":106861,"é¦ĸå±Ĭ":106862,"æľį饰":106863,"ç²¥":106864,"å®Įæ¯ķ":106865,"å°±æĬĬ":106866,"åĬŀäºĭå¤Ħ":106867,"ä¸Ģä¼ļåĦ¿":106868,"离ä¸įå¼Ģ":106869,"å¦ĤæŀľæĤ¨":106870,"ä»ĵåºĵ":106871,"导å¸Ī":106872,"åIJĪéĢĤçļĦ":106873,"毫米":106874,"å®īåħ¨æĢ§":106875,"ä¾Ŀçħ§":106876,"产ä¸ļåĮĸ":106877,"ä½łçľĭ":106878,"羣çļĦå¾Ī":106879,"åѤçĭ¬":106880,"éĺ²å¾¡":106881,"å¾Īç®Ģåįķ":106882,"é£İæ°´":106883,"ä½Ĩä¹Ł":106884,"æİ¨åĩºäºĨ":106885,"æ°ijèIJ¥ä¼ģä¸ļ":106886,"çłģ头":106887,"å¤įæĿĤçļĦ":106888,"ç»ĦæĪIJéĥ¨åĪĨ":106889,"åħħ满äºĨ":106890,"è¿ijåĩłå¹´":106891,"çľģæĶ¿åºľ":106892,"æľīå¿ħè¦ģ":106893,"éϳ":106894,"ä¹ĭç±»":106895,"ä¹ĭç±»çļĦ":106896,"æĢ§ä»·":106897,"æĢ§ä»·æ¯Ķ":106898,"åķĨåºĹ":106899,"å¸Ĥå̼":106900,"人æīįåŁ¹åħ»":106901,"æ·±åıĹ":106902,"管çIJĨå±Ģ":106903,"æģIJæĥ§":106904,"ä»ħæľī":106905,"æĬµè¾¾":106906,"æµ·åħ³":106907,"èµĭäºĪ":106908,"äºĭåĦ¿":106909,"ä»·éĴ±":106910,"æīĭä¸Ĭ":106911,"èĩªå¾ĭ":106912,"åħ³çα":106913,"享æľī":106914,"éģĹæĨ¾":106915,"å¾Īå¿«å°±":106916,"æĽ´å¿«":106917,"æłĩè¯Ĩ":106918,"åºĨç¥Ŀ":106919,"ä¹Łå¥½":106920,"ä¸įæĺĵ":106921,"æĪijå¾Ī":106922,"æĶ¹éĿ©åıijå±ķ":106923,"å¤ĸåľ°":106924,"æĬµæĬ¼":106925,"è¯Ĺ人":106926,"åİķæīĢ":106927,"æĸ°åªĴä½ĵ":106928,"èĸĽ":106929,"è°Īè¯Ŀ":106930,"ä¸Ģå®ļç¨ĭ度":106931,"èµ°åľ¨":106932,"æľĢ强":106933,"åĬŁçİĩ":106934,"åħ±è¯Ĩ":106935,"大桥":106936,"ä¸ĭæĸ¹":106937,"å¤ĸèµĦ":106938,"碱":106939,"å·¡è§Ĩ":106940,"æ¹ĸåĮĹçľģ":106941,"个çϾåĪĨ":106942,"个çϾåĪĨçĤ¹":106943,"çļĦ责任":106944,"çļĦåĵģçīĮ":106945,"åĬ©æİ¨":106946,"åĪĽéĢłäºĨ":106947,"ä»»èģĮ":106948,"å¿«æį·":106949,"æĿijåºĦ":106950,"åİ»çľĭ":106951,"æīįèĥ½å¤Ł":106952,"層":106953,"æĪijå®¶":106954,"æĺ¯ä¸Ģ款":106955,"ç¾ħ":106956,"åĨ°éĽª":106957,"æŀģ大":106958,"çģ¯åħī":106959,"éĨĭ":106960,"ä¸İåħ¶ä»ĸ":106961,"æıIJåĩºçļĦ":106962,"éĿłè¿ij":106963,"è°ĥåĬ¨":106964,"å°½åı¯èĥ½":106965,"åıijåĬĽ":106966,"ç»Ļ她":106967,"éĢĤéĩı":106968,"è·¨åĽ½":106969,"åħĪè¡Į":106970,"æĸ°æĿIJæĸĻ":106971,"ä½ľäºĨ":106972,"满äºĨ":106973,"ä¸į满":106974,"çļĦçľ¼çĿĽ":106975,"çľĭå¾Ĺ":106976,"è¿Ļä¸Ģ次":106977,"é½IJåħ¨":106978,"çļĦä¸Ģéĥ¨åĪĨ":106979,"ä¸Ļ":106980,"æ¸ħæĸ°":106981,"說æĺİ":106982,"身边çļĦ":106983,"æīĢæľī人":106984,"å½°æĺ¾":106985,"è±¹":106986,"åį¿":106987,"è¿IJ转":106988,"æĮĩå¼ķ":106989,"å¸Ĥåħ¬å®īå±Ģ":106990,"åıĤå±ķ":106991,"ä¹ĭæĹ¶":106992,"éĩijèŀįæľįåĬ¡":106993,"èµĦæľ¬å¸Ĥåľº":106994,"èĥ½è®©":106995,"å¿ĺäºĨ":106996,"天åłĤ":106997,"æ¯Ķå¦Ĥ说":106998,"éĬĢè¡Į":106999,"èĽĭç³ķ":107000,"çĶ©":107001,"æł¸å®ŀ":107002,"æĻ®äº¬":107003,"ä¼ĺç¾İ":107004,"åı£èħĶ":107005,"漫çĶ»":107006,"çľ¼éĩĮ":107007,"äºĨä¸ĭæĿ¥":107008,"æĪijä»¬ä¹Ł":107009,"ä¾į":107010,"为ä¸Ńå¿ĥ":107011,"å¥ĩ迹":107012,"éĿĴçĿIJ":107013,"æĪªèĩ³çĽ®åīį":107014,"åĩºä¾Ĩ":107015,"æĢ»åħ¬åı¸":107016,"弥补":107017,"ç®Ĺæ³ķ":107018,"å·¥ä½ľå®¤":107019,"æīĢ以æĪij":107020,"æ°´åĪĨ":107021,"æīĢå±ŀ":107022,"ä¸į说":107023,"ä½Ĩæĺ¯åľ¨":107024,"è¦ģåİ»":107025,"åĪĽä¸ļèĢħ":107026,"ä¸įæ¸ħæ¥ļ":107027,"åĽĽåij¨":107028,"æĺ¯ä»İ":107029,"çļĦæł¹æľ¬":107030,"çģ¶":107031,"æ¯Ľæ³½":107032,"æ¯Ľæ³½ä¸ľ":107033,"æµ·åı£":107034,"åĽĽåįģ":107035,"ä¹Łè¢«":107036,"èģ·":107037,"ä¸Ģæīĭ":107038,"绩æķĪ":107039,"çļĦçĶ·äºº":107040,"书ç±į":107041,"ä¸ĢèĦ¸":107042,"大äºİ":107043,"鼶éĥ¨ä»¶":107044,"åħ³æĢĢ":107045,"平米":107046,"æļ´éľ²":107047,"å¾Ĺå¤ļ":107048,"ä¸ī级":107049,"æľ¬åij¨":107050,"两èĢħ":107051,"对ä¸ŃåĽ½":107052,"åıªè§ģ":107053,"欧ç¾İ":107054,"å¦Ĥæŀľæľī":107055,"å·²ç»ıæĺ¯":107056,"çľĭå®Į":107057,"çģ«éĶħ":107058,"èµIJ":107059,"ä¸Ģéģį":107060,"æĦŁåĨĴ":107061,"ç»ĵå±Ģ":107062,"ä»ĵåĤ¨":107063,"å®ŀåľ°":107064,"å̻ç»ıçIJĨ":107065,"ä¹Łä¸įçŁ¥éģĵ":107066,"碰åΰ":107067,"åIJĪ计":107068,"客æĪ·çļĦ":107069,"ç½Ĺ马":107070,"æĦīå¿«":107071,"é£Ľ":107072,"çĥŃçĥĪ":107073,"伦æķ¦":107074,"åĮ»ä¿Ŀ":107075,"éĺ¿éĩĮå·´å·´":107076,"åĨį说":107077,"ä¸ºåŁºç¡Ģ":107078,"çĶŁäº§ç»ıèIJ¥":107079,"è¿ĻäºĽäºº":107080,"åĪĹ车":107081,"æ²³åĮĹçľģ":107082,"è¿Ļ段":107083,"æ´»åĬ¨ä¸Ń":107084,"å©·":107085,"çĶŁçIJĨ":107086,"ä¸ŃåĽ½äººæ°ij":107087,"éĦĤ":107088,"åIJ¬åıĸ":107089,"å¤įä¹ł":107090,"æľīçĽĬ":107091,"æĶ¶æĭ¾":107092,"å¾Īåı¯èĥ½":107093,"ç½ijç»ľæ¸¸æĪı":107094,"们çļĦ":107095,"èµĭèĥ½":107096,"éļ¾å¾Ĺ":107097,"åĪĨæīĭ":107098,"羣è¯ļ":107099,"åħ¬åı¸åľ¨":107100,"åĿĩè¡¡":107101,"åı£åij³":107102,"çīµå¤´":107103,"ä¸ĢèάçļĦ":107104,"轿车":107105,"çŃīäºİ":107106,"æ²īé»ĺ":107107,"æĪijéĥ½":107108,"å°ıç¨ĭåºı":107109,"ä¸Ģåī¯":107110,"æī¿è½½":107111,"åľ°è´¨":107112,"çķĮéĿ¢":107113,"çĶµæľº":107114,"çĦ¦èĻij":107115,"éĶĢåĶ®é¢Ŀ":107116,"æĸ°è½¦":107117,"ä¸Ĭ游":107118,"主æ¼Ķ":107119,"éļIJç§ģ":107120,"åıijå±ķæĪĺçķ¥":107121,"çļĦåĬªåĬĽ":107122,"å¼Ģåħ³":107123,"è§£åĨ³éĹ®é¢ĺ":107124,"çĿ£å¯¼":107125,"对æĬĹ":107126,"å¾Īå¤ļ人éĥ½":107127,"æĹłæķĪ":107128,"产åĵģè´¨éĩı":107129,"å®īå¿ĥ":107130,"åįİ人":107131,"ä¸į符åIJĪ":107132,"èĩªå®¶":107133,"éĺµå®¹":107134,"çļĦåIJĦç§į":107135,"çļĦçIJĨ念":107136,"çļĦæĸĩåĮĸ":107137,"为èĩªå·±":107138,"山水":107139,"游泳":107140,"éľĩèį¡":107141,"çĶŁæ´»æĸ¹å¼ı":107142,"è¿ľç¦»":107143,"çŁ³åĮĸ":107144,"æŃ¤äºĭ":107145,"æĺ¯çľŁçļĦ":107146,"çļĦæ¯Ķä¾ĭ":107147,"ç͍ç͵":107148,"奥è¿IJä¼ļ":107149,"ä¿Ŀå®ī":107150,"èĽĭçĻ½è´¨":107151,"çļĦå¿ĥçIJĨ":107152,"å·«":107153,"åı·çłģ":107154,"æ°Ķä½ĵ":107155,"åıijæĶ¹":107156,"åıijæĶ¹å§Ķ":107157,"åĮ»å¸Ī":107158,"æ¶ĤæĸĻ":107159,"æĺĬ":107160,"å¸Ĥ级":107161,"ä¸ĸçķĮçļĦ":107162,"åĪĨåĪ«æĺ¯":107163,"çł´äº§":107164,"ä¸ĢæĿ¯":107165,"æĭīå¼Ģ":107166,"å¹³åĩ¡":107167,"çļĦåıijçĶŁ":107168,"åĬ¨æīĭ":107169,"ä¸ĢçĽ´ä»¥æĿ¥":107170,"æīĭå·¥":107171,"éĩĮéĿ¢çļĦ":107172,"æĹłåħ³":107173,"ä»ĭåħ¥":107174,"èµ°ä¸Ĭ":107175,"å°±æĺ¯è¦ģ":107176,"å¹´éĹ´":107177,"åĩºçı¾":107178,"å½±éŁ¿":107179,"å¹ħ度":107180,"éĽģ":107181,"éģĵåħ·":107182,"缮çļĦåľ°":107183,"åIJİèĢħ":107184,"ä¸Ĭæ¼Ķ":107185,"äºĨåĩł":107186,"æ®ĭçĸ¾äºº":107187,"å¿Ļç¢Į":107188,"æĺ¯åIJ¦æľī":107189,"并对":107190,"ä¼ļ导èĩ´":107191,"æ°´åºĵ":107192,"ç»Ĩèĩ´":107193,"åIJİæĤĶ":107194,"å¿ĥæĢĿ":107195,"åģļäºĭ":107196,"åİĤæĪ¿":107197,"çĿ¿":107198,"è¿IJèIJ¥åķĨ":107199,"头éĥ¨":107200,"çļĦè§Ĵèī²":107201,"æĺ¯ä»ĸ":107202,"æĹ¢æľī":107203,"å°ıæĹ¶åĢĻ":107204,"强åĬ²":107205,"主æĴŃ":107206,"åħ¨åĽ½åIJĦåľ°":107207,"æįı":107208,"æįŁåĿı":107209,"åķĨä¼ļ":107210,"ä¿Ŀç½Ĺ":107211,"çľģå¸Ĥ":107212,"éļ§éģĵ":107213,"æľīä¸įå°ij":107214,"è¦ģåľ¨":107215,"å»ºè®¾é¡¹çĽ®":107216,"ç³ĸå°¿":107217,"ç³ĸå°¿çĹħ":107218,"æĿ¡ä»¶ä¸ĭ":107219,"ä¼ĺè´¨çļĦ":107220,"é¦ĸåıij":107221,"å½ĵæĹ¶çļĦ":107222,"丰çͰ":107223,"大çĽĺ":107224,"缸继":107225,"å®ģå¤ı":107226,"åħ¥ä½ı":107227,"æĪijè¿ĺ":107228,"åħĭæĸ¯":107229,"å®ļä»·":107230,"å¹³æĸ¹åħ¬éĩĮ":107231,"çļĦçŁ¥è¯Ĩ":107232,"æĪij们ä¼ļ":107233,"åħĥå®Ŀ":107234,"ä½ĵéĩį":107235,"è³£":107236,"对æĪij们":107237,"çŁ³å®¶":107238,"çŁ³å®¶åºĦ":107239,"ç²¾åįİ":107240,"å½¢çĬ¶":107241,"åıĹåΰäºĨ":107242,"修订":107243,"ç¾İåľĭ":107244,"é«ĺæ¸ħ":107245,"çľ¼éķľ":107246,"è§īå¾Ĺèĩªå·±":107247,"带ç»Ļ":107248,"åͮ价":107249,"éĹ¨ç¥¨":107250,"åŃķå¦ĩ":107251,"ç͵è§Ĩåı°":107252,"åıijä½ľ":107253,"çļĦåij³éģĵ":107254,"éķ¿è¿ľ":107255,"åħ¬åħ±æľįåĬ¡":107256,"æŃ£å¸¸çļĦ":107257,"æľīè¿ĩ":107258,"é£İæĥħ":107259,"æ¯Ķéĩį":107260,"åIJ»":107261,"管çIJĨå·¥ä½ľ":107262,"综åIJο̧":107263,"已被":107264,"说起":107265,"æİĴæ°´":107266,"ä¸įæĸŃåľ°":107267,"æĥħæĢĢ":107268,"è¾ĵéĢģ":107269,"è¿ĩæķı":107270,"çļĦåı¯èĥ½æĢ§":107271,"æľįç͍":107272,"æľī许å¤ļ":107273,"å§Ķåī¯ä¹¦è®°":107274,"åĮĸå¦Ĩåĵģ":107275,"æļĤåģľ":107276,"æĬķèµĦ人":107277,"çıŃ级":107278,"说çĿĢ":107279,"åįĹåĮĹ":107280,"åĪĨè¡Į":107281,"çıłå®Ŀ":107282,"寶":107283,"å¢ŀå¤ļ":107284,"被åĬ¨":107285,"ç®ĬçļĦ":107286,"éĹľä¿Ĥ":107287,"çļĦèĦ¸":107288,"æĥŁ":107289,"ä¸įä¸Ģå®ļ":107290,"ç¶Ń":107291,"çģ«çĪĨ":107292,"ç§Łéĩij":107293,"çŀ§":107294,"éĩį建":107295,"è·ª":107296,"ä¸Ģ種":107297,"çļĦåIJĪä½ľ":107298,"å®īæħ°":107299,"ä»įæĺ¯":107300,"ä¸ĵä¸ļåĮĸ":107301,"è°ĥè§£":107302,"ä¸į妨":107303,"éĢĻæĺ¯":107304,"å¿ħéłĪ":107305,"ä¼ĬæľĹ":107306,"å¾ĹäºĨ":107307,"æľįåĬ¡å¹³åı°":107308,"姬":107309,"åħĪéĶĭ":107310,"çİĭåŃIJ":107311,"çļĦä¸ĢåĪĩ":107312,"æĢ»çIJĨ":107313,"åĵ¼":107314,"çªij":107315,"çļĦå¿ĥæĥħ":107316,"çļĦéĩį大":107317,"çijŁ":107318,"ä¸Ģç¬ij":107319,"åıijå±ķä¸Ń":107320,"åģ¥åº·åıijå±ķ":107321,"åĵģçīĮçļĦ":107322,"禮":107323,"ä½Ļ人":107324,"ä»Ĭ年以æĿ¥":107325,"æķ°çłģ":107326,"çѾè¯ģ":107327,"åİ»æī¾":107328,"åŁºéĩijä¼ļ":107329,"æĬ±æĢ¨":107330,"æŃ£å½ĵ":107331,"çıŃåŃIJæĪIJåijĺ":107332,"ä¸įåIJĪæł¼":107333,"åζå®ļäºĨ":107334,"ç¼ĵæħ¢":107335,"åĪ¶çº¦":107336,"æłı缮":107337,"å¸Ĥåľºç»ıæµİ":107338,"ç»ĦæĪIJçļĦ":107339,"严峻":107340,"æĹ¥è®¯":107341,"ä¸ĢçĤ¹çĤ¹":107342,"æĺ¯æĢİä¹Ī":107343,"çļĦçħ§çīĩ":107344,"éĺ»æŃ¢":107345,"模ç³Ĭ":107346,"缸":107347,"éģķåıį":107348,"æIJ¬è¿ģ":107349,"éĩijéĴ±":107350,"彬":107351,"ä¸įå®ī":107352,"æĪĺçķ¥åIJĪä½ľ":107353,"å¡«åĨĻ":107354,"讲究":107355,"åħħåĪĨåĪ©ç͍":107356,"èĥ½å¤ł":107357,"èij¡èIJĦéħĴ":107358,"éĩĩç͍äºĨ":107359,"åľ¨ä»Ĭå¹´":107360,"ä¸Ńå°ıåѦ":107361,"åľ¨æĦı":107362,"çļĦåİĭåĬĽ":107363,"ä¸į幸":107364,"åζèį¯":107365,"åı¯ä»¥è®©":107366,"被è¯Ħ为":107367,"ç»ĨèıĮ":107368,"æĪıåī§":107369,"åįĬ导":107370,"åįĬ导ä½ĵ":107371,"è§Ĩè§Ĵ":107372,"åĸľæŃ¡":107373,"å¾ģæĶ¶":107374,"è°ĭåĪĴ":107375,"æŀģ大çļĦ":107376,"çĤ¹èµŀ":107377,"è®°èĢħä»İ":107378,"两åIJį":107379,"èĩªåĬ©":107380,"èµ·æŃ¥":107381,"æĬ¤å£«":107382,"å®Ŀ马":107383,"太åŃIJ":107384,"å°ıå°ıçļĦ":107385,"温æ³ī":107386,"åĩºç§Łè½¦":107387,"ç§ŁæĪ¿":107388,"两家":107389,"éľĩæĴ¼":107390,"ç§īæī¿":107391,"ä¸Ģä»¶äºĭ":107392,"çĥĪ士":107393,"å®ĺåħµ":107394,"转身":107395,"ä¹IJåĽŃ":107396,"çĻĮçĹĩ":107397,"模èĮĥ":107398,"æĦ£":107399,"è¿ĩåİ»çļĦ":107400,"代价":107401,"çļĦæ¦Ĥ念":107402,"åĩłçϾ":107403,"è´µéĺ³":107404,"æĭħå¿§":107405,"éĢĤå®ľ":107406,"çݯå¢ĥä¿ĿæĬ¤":107407,"çĥ«":107408,"ä½łæĥ³":107409,"æŃ¤åIJİ":107410,"ä½łä¹Ł":107411,"çįİ":107412,"éϤæŃ¤":107413,"éϤæŃ¤ä¹ĭå¤ĸ":107414,"è°ĥ度":107415,"ç§ij缮":107416,"æīĢ说çļĦ":107417,"åĬĩ":107418,"忽è§Ĩ":107419,"ä¸ī次":107420,"ä¸ĢæĹ¥":107421,"åŀĤ缴":107422,"ç«ŀæĬĢ":107423,"éĿ¢åĮħ":107424,"大æĪĺ":107425,"æIJºå¸¦":107426,"å¦Ĥæŀľæ²¡æľī":107427,"åħ»æĪIJ":107428,"åĩºè¡Ģ":107429,"çα好èĢħ":107430,"æīĵéĢļ":107431,"èµ·è¯ī":107432,"åijĪçݰåĩº":107433,"æŃĮæīĭ":107434,"åľ¨å¤ĸ":107435,"é¢Ĩ导干éĥ¨":107436,"åĨ¥":107437,"èĪĨ论":107438,"æıIJåıĸ":107439,"éĺ¿å°Ķ":107440,"æľĽçĿĢ":107441,"ä¸īäºļ":107442,"財":107443,"åĪ·æĸ°":107444,"æĻļæĬ¥":107445,"è¿ĺæľīä¸Ģ个":107446,"åĨ°ç®±":107447,"ç½ijçĤ¹":107448,"åĩºåħ·":107449,"强çĥĪçļĦ":107450,"æĪijçĽ¸ä¿¡":107451,"å¸ĮæľĽèĥ½":107452,"çīĻ齿":107453,"äºĭå®ľ":107454,"ä¸ļåĨħ人士":107455,"ä»£æĽ¿":107456,"åıĺå½¢":107457,"éĽ²":107458,"è°ĥæİ§":107459,"åĪĽæĸ°åĪĽä¸ļ":107460,"æĭĨè¿ģ":107461,"æł¸æŁ¥":107462,"éĢĹ":107463,"åħ¥åѦ":107464,"æĦıåIJij":107465,"æıĽ":107466,"ä¸ĭ次":107467,"ä¼łè¾ĵ":107468,"ä»ĸä»¬åľ¨":107469,"èĢĮä¸Ķè¿ĺ":107470,"æĹ¥åľ¨":107471,"æķĻè®Ń":107472,"æ´»çĿĢ":107473,"çļĦæľīæķĪ":107474,"å¤įå·¥å¤į":107475,"å¤įå·¥å¤į产":107476,"æĺ¯ä¸Ģä»¶":107477,"çŃīçĿĢ":107478,"復":107479,"åĭĩæķ¢":107480,"éģŃåıĹ":107481,"å¥Ķé©°":107482,"讲座":107483,"说å®Į":107484,"ç»Ļåĩº":107485,"è°¦":107486,"è¯ĬçĸĹ":107487,"çĽ²çĽ®":107488,"客è¿IJ":107489,"å°±è¿ŀ":107490,"å¼Ģåħĥ":107491,"å¼Ģåħĥæ£ĭçīĮ":107492,"ä¸įæĸŃæıIJåįĩ":107493,"ç͍æĪ·çļĦ":107494,"æĴķ":107495,"ä¾Ľæ°´":107496,"ç¶ĵæ¿Ł":107497,"ä¸ŃåĮ»èį¯":107498,"èģĶæĥ³":107499,"åħ¬äº¤è½¦":107500,"èĪªçıŃ":107501,"æĬĢè¡ĵ":107502,"å¼ķèµ·çļĦ":107503,"å°¹":107504,"èµĦæ·±":107505,"åĽ½èµĦå§Ķ":107506,"èĺŃ":107507,"é¼»åŃIJ":107508,"éĹ½":107509,"æİĴéĺŁ":107510,"è§Ĥåħī":107511,"éģĹåĿĢ":107512,"ä¸ľäº¬":107513,"é¥ŃåºĹ":107514,"ä¸įæĸŃçļĦ":107515,"å°±æĺ¯ä¸Ģ个":107516,"éķ¿ä¹ħ":107517,"çļĦè§ĤçĤ¹":107518,"娶":107519,"æĪijçİ°åľ¨":107520,"çķ°":107521,"å¾Ĺåĩº":107522,"å¿ħå®ļ":107523,"ä¸įåıĹ":107524,"åıªéľĢè¦ģ":107525,"åĽ°æī°":107526,"ç§ijåѦæĬĢæľ¯":107527,"çīĽèĤī":107528,"è¾ĥé«ĺçļĦ":107529,"è·ijæŃ¥":107530,"æ²¾":107531,"èı©èIJ¨":107532,"æľĢå¾Į":107533,"ä¿Ŀå¯Ĩ":107534,"æ²»å®ī":107535,"éĤ±":107536,"常è¯Ĩ":107537,"èĦ¸èī²":107538,"åĮĹ大":107539,"æ±ĩèģļ":107540,"æijĨèĦ±":107541,"é¾Ļ头ä¼ģä¸ļ":107542,"女åıĭ":107543,"çŃīå·¥ä½ľ":107544,"ä¸Ńç¾İ":107545,"èģĮåľº":107546,"èĦijè¢ĭ":107547,"åĨĻçļĦ":107548,"饲æĸĻ":107549,"åĬ³åĬ¨åĬĽ":107550,"屯":107551,"æĮģèĤ¡":107552,"åĽ¾åĥı":107553,"è¿ĩåİ»äºĨ":107554,"貨":107555,"è¾²":107556,"éĹ®æĪij":107557,"è·Łä½ł":107558,"çĶŁæŃ»":107559,"审ç¾İ":107560,"é¢Ĺç²Ĵ":107561,"ä¸Ńæĸ¹":107562,"åĬłçĥŃ":107563,"æĹħè¡Į社":107564,"çϼçĶŁ":107565,"ä¸įåłª":107566,"åĤ·":107567,"æ¥ł":107568,"åĬŀæ¡Ī":107569,"æŁĦ":107570,"æĹ¢æĺ¯":107571,"å¤ĦåĪĨ":107572,"羣å®ŀçļĦ":107573,"æĬ¥çº¸":107574,"å¸Īçζ":107575,"å®īå¾½çľģ":107576,"åī¯ä¸»å¸Ń":107577,"ä¹ĭéģĵ":107578,"导弹":107579,"åŃ¦æł¡çļĦ":107580,"åŁİå¸ĤçļĦ":107581,"è°Īåΰ":107582,"æ¢Ĺ":107583,"å¹³éĿ¢":107584,"说ä»Ģä¹Ī":107585,"é¢ijçİĩ":107586,"éķ¿ä¸īè§Ĵ":107587,"çļĦåĪ©çĽĬ":107588,"黨":107589,"è±ĨèħIJ":107590,"å®ŀéĻħæĥħåĨµ":107591,"æŀĹä¸ļ":107592,"纪æ£ĢçĽijå¯Ł":107593,"ä½ıéĻ¢":107594,"çļĦæķ´ä½ĵ":107595,"åīįè¡Į":107596,"æĮ¨":107597,"çħ¤çŁ¿":107598,"å̻è£ģ":107599,"å°ıåIJĥ":107600,"æŀģ端":107601,"å©Ĩå©Ĩ":107602,"çݰ货":107603,"è¯ĹæŃĮ":107604,"éĴ¥åĮĻ":107605,"缩çŁŃ":107606,"ä½Ĩè¿Ļ":107607,"æĸ°åĵģ":107608,"è¿Ļ对":107609,"çŁ¥åIJį度":107610,"å¿ĹæĦ¿æľįåĬ¡":107611,"大å±Ģ":107612,"è¡¡éĩı":107613,"ä½ĵçݰäºĨ":107614,"æ¡ĥèĬ±":107615,"åIJ¸å¼ķåĬĽ":107616,"åł¤":107617,"æĵħéķ¿":107618,"åĴĴ":107619,"çĽ¸æľº":107620,"ä¸Ģç«Ļ":107621,"ä¸Ģç«Ļå¼ı":107622,"æľĢç¾İ":107623,"æ°¸ä¹ħ":107624,"çļĦéĥ¨åĪĨ":107625,"åĪĨå·¥":107626,"å·¥ç¨ĭ建设":107627,"æIJŃè½½":107628,"æ°´ä¸Ń":107629,"èĮ¨":107630,"çļĦæĵįä½ľ":107631,"ç»Łæ²»":107632,"çķħéĢļ":107633,"åħļçļĦåįģ":107634,"輸":107635,"測":107636,"ç¾İè§Ĥ":107637,"ä¸įåĪ©":107638,"åıįæĢĿ":107639,"éªĦåĤ²":107640,"æłĩçļĦ":107641,"æĿĢ人":107642,"éĺ¿å§¨":107643,"é£ŁæĿIJ":107644,"åIJĥçļĦ":107645,"åIJİåĨį":107646,"çŁ£":107647,"两侧":107648,"æ¸ħæ°´":107649,"è¿ĽçIJĥ":107650,"å¼Ģå§ĭäºĨ":107651,"åIJ¬äºĨ":107652,"çĦĬæİ¥":107653,"磮":107654,"å¨Ł":107655,"为人":107656,"éĢģç»Ļ":107657,"åĨĴéĻ©":107658,"æķ·":107659,"ç»ĪæŃ¢":107660,"æīįçŁ¥éģĵ":107661,"è¿IJæ°Ķ":107662,"éĢļé£İ":107663,"æĥĬè®¶":107664,"ç§ijåѦéĻ¢":107665,"æıIJéĹ®":107666,"太åİŁ":107667,"缸åIJĮçļĦ":107668,"ä»ķ":107669,"èģĸ":107670,"æĥħæ³ģ":107671,"é¢Ĩ导人":107672,"åĩºæĿ¥äºĨ":107673,"沿线":107674,"éϽ":107675,"æĦŁè¦º":107676,"ä»įåľ¨":107677,"æ©Ļ":107678,"约为":107679,"åĸĿéħĴ":107680,"ç͍èį¯":107681,"ä¸ĭä¸Ģ":107682,"æ³ķå®ĺ":107683,"顺åºı":107684,"åģļä¸Ģ个":107685,"åĭ¢":107686,"æŃª":107687,"ç͵ç«ŀ":107688,"ä¼´éļıçĿĢ":107689,"ä¹ĭåĬĽ":107690,"ä¹ĭ人":107691,"äºij计ç®Ĺ":107692,"åĪ«äººçļĦ":107693,"ç§ijåѦåıijå±ķ":107694,"第åħ«":107695,"å¹²æī°":107696,"女ç¥ŀ":107697,"è¿Ļæł·åģļ":107698,"å¤Ħåľ¨":107699,"æ°´è´¨":107700,"éķ¿æĺ¥":107701,"å¸ĤåľºéľĢæ±Ĥ":107702,"ç»´æĿĥ":107703,"èĢ³æľµ":107704,"æĸĩåĮĸçļĦ":107705,"奶ç²ī":107706,"ä¼łè¾¾":107707,"æīĭæľºçīĪ":107708,"æĽ¾åľ¨":107709,"äºĮæľŁ":107710,"åİŁåĽłæĺ¯":107711,"æºIJ头":107712,"åıĪèĥ½":107713,"裸":107714,"æĬĢæľ¯åĪĽæĸ°":107715,"æĸĩåĮĸæĹħ游":107716,"åıij票":107717,"年级":107718,"ä½łä¸į":107719,"ä¹ĭå¿ĥ":107720,"æķ°çϾ":107721,"åIJijå¾Ģ":107722,"èĢģå®¶":107723,"åľĭéļĽ":107724,"çļĦé«ĺ度":107725,"æľĿéĺ³":107726,"æ¸ħéϤ":107727,"èĩªæľī":107728,"书ä¸Ń":107729,"游æĪıè£ħå¤ĩ":107730,"ä¸ĩå¤ļ":107731,"驾驶åijĺ":107732,"ä½łçŁ¥éģĵ":107733,"åĽ½åºĨ":107734,"é£ŁåłĤ":107735,"æİ¥åı£":107736,"æĢ»æķ°":107737,"åħ¶ä»ĸçļĦ":107738,"çĶŁåij½çļĦ":107739,"ä½łåľ¨":107740,"çļĦ缮åħī":107741,"è¿Ļæĸ¹éĿ¢":107742,"éĥ½è¯´":107743,"çĸĹæ³ķ":107744,"åĭĩ士":107745,"åľ¨åħ¨çIJĥ":107746,"ä¿ĿéĻ©åħ¬åı¸":107747,"çĿ£æŁ¥":107748,"åĸĦèī¯":107749,"表彰":107750,"è¹²":107751,"路段":107752,"æľĥåĵ¡è¦ı":107753,"æľĥåĵ¡è¦ıç¯Ħ":107754,"æĪ·åŀĭ":107755,"ä¿ĥ使":107756,"修建":107757,"é«ĺæ°´å¹³":107758,"åģļåĩºäºĨ":107759,"ä¸»åľº":107760,"è¡Įèµ°":107761,"空çϽ":107762,"æľī人说":107763,"è¿Ļ个ä¸ĸçķĮ":107764,"åIJįä¹ī":107765,"å®Įç¾İçļĦ":107766,"羡æħķ":107767,"åıĬåħ¶ä»ĸ":107768,"åı¯ç͍":107769,"æĭIJ":107770,"è¾ĥ大çļĦ":107771,"æĬĢæľ¯åĴĮ":107772,"å°¼äºļ":107773,"çĻ¾è´§":107774,"æıī":107775,"éĢīè´Ń":107776,"éĺŁåıĭ":107777,"ä¼łæĦŁ":107778,"ä¼łæĦŁåύ":107779,"åıªè¦ģä½ł":107780,"为ä»Ģä¹Īè¦ģ":107781,"ä¸ĵ注äºİ":107782,"ä½Ļé¢Ŀ":107783,"åħ¸åŀĭçļĦ":107784,"缮åīįå·²":107785,"æ¬²æľĽ":107786,"èģĶ绾":107787,"æµģä¼ł":107788,"çļĦå®¶åºŃ":107789,"åı·åı¬":107790,"çıįè´µ":107791,"ä¼Łå¤§çļĦ":107792,"éī´äºİ":107793,"è·Łä»ĸ":107794,"产çī©":107795,"ä¸įå·²":107796,"è¿Ŀæ³ķè¡Į为":107797,"头ä¸Ĭ":107798,"åĪĨè§£":107799,"åı¯ä»¥çľĭåĩº":107800,"æł¡åĮº":107801,"åŃĹä½ĵ":107802,"ä¿®çĤ¼":107803,"çĶļèĩ³æĺ¯":107804,"微信åħ¬ä¼Ĺ":107805,"åıĸ代":107806,"èIJ¥ä¸ļæĶ¶åħ¥":107807,"æ½įåĿĬ":107808,"ä½łèĥ½":107809,"社ä¼ļä¿Ŀéļľ":107810,"æ¯ĶèµĽä¸Ń":107811,"污水å¤ĦçIJĨ":107812,"夫å¦ĩ":107813,"ä¸Ģå¹ħ":107814,"沿海":107815,"åı£æĦŁ":107816,"ä½Ĩåį´":107817,"å½ĵæĹ¥":107818,"çļĦæľĢ大":107819,"æ¯ıä¸Ģä½į":107820,"没äºĭ":107821,"çī¹åĪ¥":107822,"å¼ĢåѦ":107823,"è·¯éĿ¢":107824,"å¿ĥçIJĨåѦ":107825,"æĶ¾ç½®":107826,"éĩįåºĨå¸Ĥ":107827,"ä½łèĩªå·±":107828,"æ¶Īè´¹èĢħçļĦ":107829,"ä¸Ģæ³¢":107830,"èѦæĥķ":107831,"åį§å®¤":107832,"注å°Ħ":107833,"é£İ鼨":107834,"沿çĿĢ":107835,"åijĬ訴":107836,"表çݰåĩº":107837,"åĽĽæĺ¯":107838,"åı¤åħ¸":107839,"æĽ´éĩįè¦ģçļĦ":107840,"好äºĭ":107841,"çľ¼æ³ª":107842,"æ¨ĵ":107843,"审åΤ":107844,"碰æĴŀ":107845,"车ç«Ļ":107846,"è¿Ľåħ¥äºĨ":107847,"éĽĨåIJĪ":107848,"æł¼å¤ĸ":107849,"宾é¦Ĩ":107850,"æĶ¯ä»ĺå®Ŀ":107851,"她æĺ¯":107852,"æĺ¯å¦Ĥä½ķ":107853,"人次":107854,"çļĦæĪIJåĬŁ":107855,"æĹłåĬĽ":107856,"æµ·æĭĶ":107857,"æĺ¥åŃ£":107858,"éĥ½ä¸įä¼ļ":107859,"çŃīå¤ļç§į":107860,"ä¸Ģ个å°ı":107861,"åģľè½¦åľº":107862,"è®©æĽ´å¤ļ":107863,"è¿ĻçĤ¹":107864,"æĪIJåĵģ":107865,"éĴī":107866,"éģĩè§ģ":107867,"çıŃ主任":107868,"æĦıæĦ¿":107869,"çļĦåIJĮåѦ":107870,"游è§Ī":107871,"åİĭ缩":107872,"åľ¨ä¼łå¥ĩ":107873,"å¼¹æĢ§":107874,"æĹ¥åĨħ":107875,"ç¦ı建çľģ":107876,"è§ĴèIJ½":107877,"åĪĨå¼Ģ":107878,"ä¼ļ让":107879,"å¤ĸåĽ´":107880,"çĨŁæĤīçļĦ":107881,"çĨĶ":107882,"ä¸ĩè¾Ĩ":107883,"å¤ľéĹ´":107884,"车身":107885,"ä¸ŃæľŁ":107886,"å®ĮåĸĦçļĦ":107887,"åĵģç±»":107888,"åıĭè°Ĭ":107889,"éĢīæĭĶ":107890,"éªij士":107891,"彦":107892,"çļĦçľĭæ³ķ":107893,"åĽ½çİĭ":107894,"è¾£æ¤Ĵ":107895,"åıijå¸ĥæĹ¶éĹ´":107896,"åı¤åŁİ":107897,"éļıæľº":107898,"ç«ĸ":107899,"å¼Ģè¾Ł":107900,"ä¼ĹçĶŁ":107901,"没åĬŀæ³ķ":107902,"åįĥéĩĮ":107903,"æĿ¥æºIJäºİ":107904,"çļĦæĿĥåĪ©":107905,"æ¯ĶåĪĨ":107906,"满æĦıçļĦ":107907,"ä¿®è¡Į":107908,"åĿł":107909,"大海":107910,"èݹ":107911,"åĩºèº«":107912,"è«ĩ":107913,"åħ³èĬĤ":107914,"åIJį人":107915,"éľĢè¦ģ注æĦı":107916,"æĹ©æĻ¨":107917,"å¤ĸåįĸ":107918,"åıĪè¦ģ":107919,"æ¶īæ¡Ī":107920,"çĶ³è¯·äºº":107921,"éĻĦè¿ijçļĦ":107922,"åĬłå¿«æİ¨è¿Ľ":107923,"æĸ°å¹´":107924,"大è¡Ĺ":107925,"ä¸Ģé»ŀ":107926,"èĭıå®ģ":107927,"æĤĦæĤĦ":107928,"èĦ¾æ°Ķ":107929,"å¸ĮèħĬ":107930,"éļıåį³":107931,"æķ¢äºİ":107932,"å®ŀè·µä¸Ń":107933,"æĺ¯æ²¡æľī":107934,"æľīè¶£çļĦ":107935,"æĿ¥èĩªäºİ":107936,"è£ģåΤ":107937,"女åŃ©åŃIJ":107938,"èĩ³åħ³":107939,"èĩ³åħ³éĩįè¦ģ":107940,"æĻºåĬĽ":107941,"èµ°åĩºåİ»":107942,"çŁŃæĿ¿":107943,"å¤§åĽ½":107944,"çļĦ认è¯Ĩ":107945,"å¹´å¤ľ":107946,"åĨįåΰ":107947,"åIJĮæł·çļĦ":107948,"å¯Ĩå°ģ":107949,"å¤ĸ交éĥ¨":107950,"çĶŁæķĪ":107951,"æĤ¨åı¯ä»¥":107952,"ä½łåĢij":107953,"è¿ĩå¹´":107954,"å¼ĵ":107955,"è¡ĮæĿİ":107956,"æ¯Ķèµ·":107957,"身é«ĺ":107958,"è¿Ļ个人":107959,"ä¸Ńå¤ĸ":107960,"éģĵæŃī":107961,"çĽ¯çĿĢ":107962,"亲åŃIJ":107963,"éŸ":107964,"çϽäºij":107965,"èĦĸåŃIJ":107966,"ä¸ĢåĪĩéĥ½":107967,"æ·ij":107968,"è°ľ":107969,"åģ¶çĦ¶":107970,"éĿłè°±":107971,"é«ĺ管":107972,"ä¸ĭåıij":107973,"æĶ¾åΰ":107974,"ç±»åĪ«":107975,"ä¸ĭåĪĹ":107976,"æ··ä¹±":107977,"åIJĪæ³ķæĿĥçĽĬ":107978,"çݯçIJĥ":107979,"æľīæķĪåľ°":107980,"åķĨæĪ·":107981,"æ¹ĸ人":107982,"海岸":107983,"æĬķ产":107984,"两个æľĪ":107985,"éĥ½éĿŀ常":107986,"å¢ŀ强äºĨ":107987,"æĿ¥åΰäºĨ":107988,"åī©ä½Ļ":107989,"æĤ¨çļĦåŃ©åŃIJ":107990,"æµģæ°´":107991,"æŃ£ä¹ī":107992,"天çĮ«":107993,"åģļè¿ĩ":107994,"ä½ķæĹ¶":107995,"æĪijåİ»":107996,"çľģ份":107997,"å¥ĸéĩij":107998,"该å¦Ĥä½ķ":107999,"ä¸ĭçıŃ":108000,"åģ¶åĥı":108001,"æijĨæĶ¾":108002,"æĸ°æ¨¡å¼ı":108003,"æĬķè³ĩ":108004,"è·¯åı£":108005,"åĨľæ°ijå·¥":108006,"大åѸ":108007,"ä»¶äºĭ":108008,"æł¹æľ¬ä¸į":108009,"æµĵ度":108010,"æµĵåİļ":108011,"è½®èĥİ":108012,"æĪ¿ä¼ģ":108013,"éĿŀ常好":108014,"ä»İä¸Ń":108015,"äººæł¼":108016,"ç¿ģ":108017,"æĹ¶éĹ´åĴĮ":108018,"è¿Ļä¸įæĺ¯":108019,"åΏåķĨ":108020,"æĥĬ人":108021,"åύå®ĺ":108022,"åĩĨåĪĻ":108023,"æĥħæĻ¯":108024,"æĽ´é«ĺçļĦ":108025,"åѦ家":108026,"泡沫":108027,"åľ°æĸ¹æĶ¿åºľ":108028,"å°±çŁ¥éģĵ":108029,"åij¼åIJģ":108030,"ç»ıè´¸":108031,"èĬ±éĴ±":108032,"æľīä¸Ģ次":108033,"æĦŁæħ¨":108034,"ä¸Ģåįĥ":108035,"å¤ľæĻļ":108036,"詹å§Ĩ":108037,"詹å§Ĩæĸ¯":108038,"è¦ģéĹ»":108039,"ç»Ĵ":108040,"æºIJäºİ":108041,"çļĦè´¨éĩı":108042,"注æĦıäºĭ项":108043,"æħ¢æĢ§":108044,"稳å®ļçļĦ":108045,"建设åĴĮ":108046,"æĻ¯è±¡":108047,"éĩıåĮĸ":108048,"çļĦ話":108049,"è¯Ħ级":108050,"æºľ":108051,"红åĮħ":108052,"éĢļéģİ":108053,"社ä¼ļ责任":108054,"æĸ°äº§åĵģ":108055,"åĨ·éĿĻ":108056,"çľĭä¸įåΰ":108057,"èģĶéĤ¦":108058,"éŃĦ":108059,"çļĦåīįæıIJ":108060,"çļĦåīįæıIJä¸ĭ":108061,"è¾ĥ好":108062,"çļĦæĦŁæĥħ":108063,"客æĪ·æıIJä¾Ľ":108064,"çĭ¬èĩª":108065,"å¢ŀæĶ¶":108066,"æĸĩçĮ®":108067,"æĭ¼åij½":108068,"管çIJĨåĴĮ":108069,"æµģåĬ¨æĢ§":108070,"åħ¨å®¶":108071,"ä¸Ĭæĸ¹":108072,"æİ¨åĩºçļĦ":108073,"ä¸īåĽ½":108074,"ä¸Ģ个æĺ¯":108075,"æĸ°ä¸Ģè½®":108076,"æĸĩåĮĸéģĹ产":108077,"殺":108078,"大湾åĮº":108079,"éĥ½éľĢè¦ģ":108080,"çļĦå®ŀéĻħ":108081,"ç·Ĭ":108082,"大å¥ĸ":108083,"åħīèĬĴ":108084,"便äºİ":108085,"çļĦ表æĥħ":108086,"æ¼Ķç»İ":108087,"红åĨĽ":108088,"å½ĵæĪij":108089,"æ²»æĦĪ":108090,"é¢Ŀ度":108091,"éĿľ":108092,"ä»»ä½ķ人":108093,"è¡Ĺ头":108094,"çĸ¯":108095,"çĸ¯æĭī":108096,"åĮ»çĸĹæľºæŀĦ":108097,"ç»ĻåŃ©åŃIJ":108098,"è§Ħ磩":108099,"è£ľ":108100,"çļĦ身影":108101,"ä¸ĵæłı":108102,"æĿ¥ä¸´":108103,"童年":108104,"å¤įèĭı":108105,"è¨Ĥ":108106,"åŀĭåı·":108107,"åĽ¾æ¡Ī":108108,"ç®ĢåİĨ":108109,"æĭ±":108110,"èį·åħ°":108111,"ä»»æĦı":108112,"æī¿æİ¥":108113,"è¿Ļæīį":108114,"客车":108115,"æľĿçĿĢ":108116,"éłħ缮":108117,"åı°é£İ":108118,"çļĦæĪ¿åŃIJ":108119,"éªı":108120,"æĿ±è¥¿":108121,"éģĹä¼ł":108122,"è¶Ĭå¤ļ":108123,"äºĨä»ĸçļĦ":108124,"ä¸Ĭåij¨":108125,"管çIJĨåĪ¶åº¦":108126,"失ä¸ļ":108127,"çĶ·åıĭ":108128,"æİ¥ç§į":108129,"å¨ģåIJį":108130,"çĴ°å¢ĥ":108131,"åıijçĶŁåľ¨":108132,"ä¸ªåĽ½å®¶":108133,"åĪĽæĸ°åıijå±ķ":108134,"æĶ¹åıĺäºĨ":108135,"åģ¥åº·çļĦ":108136,"å̼å¾Ĺä¸Ģ":108137,"å̼å¾Ĺä¸ĢæıIJ":108138,"åĽ¢ä¼Ļ":108139,"åģĩ设":108140,"åı°ä¸Ĭ":108141,"è§ĦèĮĥåĮĸ":108142,"éĻªåIJĮ":108143,"座æ¤ħ":108144,"åı¯æĢľ":108145,"åħĭæĢĿ主ä¹ī":108146,"æ³ķå¾ĭ责任":108147,"ä¸Ģé¡¿":108148,"æĬ¬å¤´":108149,"为éĩįçĤ¹":108150,"è¿ľæ´ĭ":108151,"éĢıè¿ĩ":108152,"åħ¨çIJĥåĮĸ":108153,"è¶£åij³":108154,"票æĪ¿":108155,"æ¯ı人":108156,"åIJĦç§įåIJĦæł·":108157,"äºĨåĩºæĿ¥":108158,"ç»Ŀ对æĺ¯":108159,"ä¸ĭå±ŀ":108160,"ä¸ĢåıĮ":108161,"è¿ĻåĿĹ":108162,"æĬĹçĸ«":108163,"è¦ģçĤ¹":108164,"å½¢æĪIJçļĦ":108165,"æĪijçľĭ":108166,"ä¸ĩéĩĮ":108167,"èĢĥçłĶ":108168,"为åħ¶":108169,"æ°ij宿":108170,"å¤ļä½į":108171,"大èĩ´":108172,"ä»ĺè´¹":108173,"åħ¥æīĭ":108174,"å±ħå®¶":108175,"æīĢåľ¨åľ°":108176,"人身":108177,"è¿ĩå¾Ĺ":108178,"è¯ķè¯ķ":108179,"访è°Ī":108180,"åĬłéĩį":108181,"å°±ä¸įä¼ļ":108182,"çĶŁäº§ä¼ģä¸ļ":108183,"åĽŀåĽ½":108184,"åºķ线":108185,"èµ¶åΰ":108186,"æĶ¯éĺŁ":108187,"æĪij们éĥ½":108188,"éĤ®æĶ¿":108189,"缴èĩ³":108190,"éĴ¢çIJ´":108191,"åħľ":108192,"çłĶ讨ä¼ļ":108193,"æľĪ亮":108194,"åĿļæĮģ以":108195,"åħ¬å®īéĥ¨":108196,"éĴ¢ç®¡":108197,"å°ıçϽ":108198,"ç½®ä¸ļ":108199,"èģĭ":108200,"书åĨĻ":108201,"æĿı":108202,"éħįæĸ¹":108203,"èĢĮåıĪ":108204,"çijŀ士":108205,"çķĮçļĦ":108206,"èĢģ大":108207,"æĪIJçĨŁçļĦ":108208,"å¹²ä»Ģä¹Ī":108209,"ä¸ĵ项æĸĹäºī":108210,"çŃīå¤ļ个":108211,"èĦ±ç¦»":108212,"ä¸ī个æľĪ":108213,"çłĶç©¶åijĺ":108214,"æĹĭ转":108215,"æŀģèĩ´":108216,"åħįè´£":108217,"åħį责声æĺİ":108218,"å¾Īå¤ļçݩ家":108219,"车ä¸Ĭ":108220,"交äºĴ":108221,"å·²æĺ¯":108222,"ä¸Ģå°ı":108223,"çļĦéĩįçĤ¹":108224,"èĬ±äºĨ":108225,"ä¸įæĺİ":108226,"æľīåħ³è§Ħå®ļ":108227,"çĬ¹å¦Ĥ":108228,"羸":108229,"寡":108230,"çļĦè¡£æľį":108231,"åĮħ裹":108232,"身åŃIJ":108233,"å¸ĪèĮĥ大åѦ":108234,"äºĭåħĪ":108235,"线æĿ¡":108236,"æ³ķåζ":108237,"åħ»æĬ¤":108238,"稳å®ļæĢ§":108239,"éĤµ":108240,"åŀĦæĸŃ":108241,"é¡į":108242,"èĢĥåı¤":108243,"æĿłæĿĨ":108244,"èĭıèģĶ":108245,"æ°´ç͵":108246,"åħ·ä½ĵçļĦ":108247,"æ¿Ģæ´»":108248,"æĪijæł¡":108249,"åĪļå¼Ģå§ĭ":108250,"åĩ¸æĺ¾":108251,"禾":108252,"åħ¼èģĮ":108253,"éĢıéģİ":108254,"åľ¨æ¸¸æĪıä¸Ń":108255,"社ä¼ļåıijå±ķ":108256,"好çİ©":108257,"å¹»æĥ³":108258,"ä¸į代表":108259,"注æĦıåĬĽ":108260,"æ£į":108261,"ç͍æīĭ":108262,"ç¾İ人":108263,"许å¤ļ人":108264,"å¾Īæĺ¯":108265,"çļĦçłĶåıij":108266,"æīĵåĩº":108267,"åIJĪä¼Ļ人":108268,"ä¸Ģå¤ľ":108269,"ç¼ĵç¼ĵ":108270,"ä¿®æŃ£":108271,"æĦŁçŁ¥":108272,"ç»Ī身":108273,"æ¿Ģç´ł":108274,"çݯå¢ĥä¸ĭ":108275,"次ä¼ļè®®":108276,"ç»ıæµİå¢ŀéķ¿":108277,"æīĽ":108278,"åıijéħµ":108279,"åĪĨæŀIJå¸Ī":108280,"åľ¨æľªæĿ¥":108281,"主è¦ģæľī":108282,"ä¸ĢåŃ£åº¦":108283,"çļĦ说æ³ķ":108284,"ä»İæĿ¥æ²¡æľī":108285,"货车":108286,"缩å°ı":108287,"太è¿ĩ":108288,"æķĪåĬĽ":108289,"ä¸įä¸ĭ":108290,"æĬķ稿":108291,"èį¯ä¸ļ":108292,"ç»Ħéķ¿":108293,"ç«ĻçĤ¹":108294,"å¾Īåĸľæ¬¢":108295,"éIJµ":108296,"åĬ¿å¤´":108297,"æ¼ıæ´ŀ":108298,"æĦ¤æĢĴ":108299,"åħħå®ŀ":108300,"åĪĽä¸ļæĿ¿":108301,"çĪª":108302,"æľªå¿ħ":108303,"åºķéĥ¨":108304,"å¾ĹåĪĨ":108305,"人æ°ijåĮ»éĻ¢":108306,"äºĮæīĭæĪ¿":108307,"å·²ç»ı被":108308,"大楼":108309,"æĸ°æĪ¿":108310,"辦æ³ķ":108311,"ç͍åĬĽ":108312,"æĭĵ宽":108313,"åĨħåľ¨":108314,"æĴŃåĩº":108315,"饰æ¼Ķ":108316,"ä¹Łè®©":108317,"ä½ľçĤº":108318,"çī©ä¸ļ管çIJĨ":108319,"åį´ä¸į":108320,"为ä¸ŃåĽ½":108321,"å±ĢåĬ¿":108322,"ä¸įèĤ¯":108323,"æľĢæĸ°çļĦ":108324,"åı¯ä»¥éĢīæĭ©":108325,"æĺ¾çݰ":108326,"å°±ç®Ĺæĺ¯":108327,"åľ¨æł¡":108328,"é¾Ł":108329,"两æĿ¡":108330,"çļĦå®ŀåĬĽ":108331,"è¶Ĭ好":108332,"å¥¹åľ¨":108333,"å¿łè¯ļ":108334,"ä¹ŁéľĢè¦ģ":108335,"游æĪıæĵįä½ľ":108336,"è¶ħåĩº":108337,"å¦Ĥæŀľä¸į":108338,"æīĢåľ¨çļĦ":108339,"ä½łè¿ĺ":108340,"以åĨħ":108341,"æľīä¸Ģå®ļ":108342,"åı¯è¾¾":108343,"è·ijåΰ":108344,"åīĽ":108345,"建ç«ĭåģ¥åħ¨":108346,"æķ´è½¦":108347,"åīįæĸ¹":108348,"éĹ´æİ¥":108349,"çѹå¤ĩ":108350,"çĸ²åĬ³":108351,"离å¼ĢäºĨ":108352,"æ±Ŀ":108353,"éĿ¢éĥ¨":108354,"ä¹ĭåīįçļĦ":108355,"åıĺ为":108356,"å¦Ĥæŀľè¯´":108357,"对ä»ĺ":108358,"åĿĩåı¯":108359,"被åijĬ人":108360,"ç²¾ç¾İ":108361,"èģļä¼ļ":108362,"çĿ̥̿":108363,"è°·æŃĮ":108364,"ä¸Ģåı·":108365,"红åĪ©":108366,"ä¼łå¥ĩ游æĪı":108367,"å»ĸ":108368,"è´ŀ":108369,"ä¹°åΰ":108370,"éŃļ":108371,"ä½ĵè´¨":108372,"å°ijäºĨ":108373,"æ³īå·ŀ":108374,"åIJŁ":108375,"ç»Ŀä¸į":108376,"é»ijæģ¶":108377,"é»ijæģ¶åĬ¿åĬĽ":108378,"ä¸Ĭæĺł":108379,"çļĦè¯Ŀé¢ĺ":108380,"ä¸ĩ人次":108381,"ä¸ĸéĹ´":108382,"ç͍工":108383,"贯穿":108384,"å®ĿçŁ³":108385,"ä½łå¥½":108386,"åĪĩåī²":108387,"å¼ºåĽ½":108388,"åĽŀèIJ½":108389,"æ°´æĻ¶":108390,"模仿":108391,"洪水":108392,"éĢĻ麼":108393,"åįģä¸īäºĶ":108394,"ä½ij":108395,"éĻĦä»¶":108396,"çļĦå¢ŀéķ¿":108397,"éĻĦå±ŀ":108398,"çݰ已":108399,"å¸®ä½ł":108400,"éĩijçīĮ":108401,"é«ĺåİŁ":108402,"åľ¨å®¶éĩĮ":108403,"éĺ²èħIJ":108404,"ç¡®å®ŀæĺ¯":108405,"宣讲":108406,"天æīį":108407,"ç»ıèIJ¥ç®¡çIJĨ":108408,"éĶħçĤī":108409,"åIJĪä¸Ģ":108410,"è§Ĥèµı":108411,"éķ¿è¾¾":108412,"主ä¹īæĢĿæĥ³":108413,"éĤ£éº¼":108414,"é£İäºij":108415,"为主çļĦ":108416,"æļijåģĩ":108417,"æĮģä¹ħ":108418,"å¼Ĥåľ°":108419,"å¼ĢéŨ":108420,"模æĿ¿":108421,"æī¹æ¬¡":108422,"ä¸į便":108423,"天çĶŁ":108424,"åĩłä¸ªæľĪ":108425,"ä¸ĵç§ij":108426,"åı¦æľī":108427,"åħ¬å¸ĥçļĦ":108428,"æĩ·":108429,"åľºåIJĪ":108430,"çļĦå¿ĥæĢģ":108431,"è¿ĺ好":108432,"å®ŀæĪĺ":108433,"èĢģå¸ĪçļĦ":108434,"åħ©åĢĭ":108435,"åı¯åľ¨":108436,"éĤ£ä½į":108437,"å¥łå®ļäºĨ":108438,"ä¿ĥéĶĢ":108439,"æı´åĬ©":108440,"ä¸ĩçī©":108441,"æĥħæĬ¥":108442,"é¦ĸåħĪè¦ģ":108443,"æĸĩåĮĸåĴĮ":108444,"éĥ½å·²ç»ı":108445,"ä¸Ĭä¸ĸ纪":108446,"åĨľåľº":108447,"大æī¹":108448,"æĺİçϽäºĨ":108449,"çļĦæĪIJéķ¿":108450,"çļĦæ¯ĶèµĽ":108451,"失误":108452,"åģļæĪIJ":108453,"ä»Ĭ天å°ıç¼ĸ":108454,"é¢Ĩè¢ĸ":108455,"æıIJåįĩäºĨ":108456,"å¾IJå·ŀ":108457,"ä»įæľī":108458,"è¿ĩ滤":108459,"å¹½é»ĺ":108460,"çĥŃéĩı":108461,"ä¸Ģé¦ĸ":108462,"æ¼Ĥ亮çļĦ":108463,"åĩłç§į":108464,"åĢ¡è®®":108465,"å°±åı¯ä»¥äºĨ":108466,"æİĴåĪĹ":108467,"éĩįéĩį":108468,"ä¼ģä¸ļåĴĮ":108469,"ä¸ĵå±ŀ":108470,"çħİ":108471,"亲æĪļ":108472,"çϾåĪĨä¹ĭ":108473,"稿件":108474,"è¿ĺå¾Ĺ":108475,"人åĵ¡":108476,"äºī夺":108477,"æĽ´å®¹æĺĵ":108478,"大èĩªçĦ¶":108479,"鼻èħ¦":108480,"太空":108481,"åľ°å¤Ħ":108482,"夢":108483,"ä»ĸ对":108484,"å¿ħå°Ĩ":108485,"ä¸įå½ĵ":108486,"严谨":108487,"åĩºåľº":108488,"å·²ç»ıæľī":108489,"é¢ĨåĨĽ":108490,"é«ĺæ¡£":108491,"ä¸ĢæīĢ":108492,"æłĹ":108493,"让åѦçĶŁ":108494,"æĽ¹æĵį":108495,"æŁIJä¸Ģ":108496,"伸åĩº":108497,"èĬ±åįī":108498,"æ¸ħéĨĴ":108499,"èģĶç³»æĸ¹å¼ı":108500,"åĪĨå±Ģ":108501,"èħ³":108502,"æ©¡èĥ¶":108503,"éķ¿å¾Ĺ":108504,"ç»¿åľ°":108505,"è¢į":108506,"çļĦèīºæľ¯":108507,"女æľĭåıĭ":108508,"ä¸Ńè¶ħ":108509,"离åŃIJ":108510,"å¤ļæł·åĮĸ":108511,"éĺ³åı°":108512,"ä½İ碳":108513,"ä¸Ģç±»":108514,"çŃīæĸ¹éĿ¢çļĦ":108515,"å¾Ĺ好":108516,"模åħ·":108517,"ä¸ĩ亿":108518,"çķĻæĦı":108519,"临æ²Ĥ":108520,"å°ijéĩı":108521,"çľĭåIJij":108522,"ç»ıèIJ¥èĢħ":108523,"çķĻä¸ĭäºĨ":108524,"åĿıäºĨ":108525,"åijĬåĪ«":108526,"羣çIJĨ":108527,"ç¼´è´¹":108528,"æĬĬä½ł":108529,"çļĦä»»åĬ¡":108530,"æĪij对":108531,"ä¹°åħ¥":108532,"çĻ»ä¸Ĭ":108533,"æľī两个":108534,"ä¸Ģ头":108535,"æĵįæİ§":108536,"åħ¨è¦ĨçĽĸ":108537,"çĿĢæīĭ":108538,"å¢ĻéĿ¢":108539,"å¤ļæĸ¹":108540,"åı¯çαçļĦ":108541,"ä¹Łåı¯èĥ½":108542,"æľĢæľī":108543,"è¿ĻäºĽéĥ½æĺ¯":108544,"æĥ¡":108545,"å®®":108546,"å¾Īå°ı":108547,"éĹ®é¢ĺæĺ¯":108548,"åĿĩæľī":108549,"å¾ģéĽĨ":108550,"说åĩº":108551,"æľīæĦı":108552,"é¢Ĥ":108553,"æī¬å·ŀ":108554,"åķĨä¸ļ模å¼ı":108555,"çĶŁèĤĸ":108556,"æįIJ款":108557,"å²Ĥ":108558,"ç¾İæĻ¯":108559,"è¿ĺ羣":108560,"æĭ¥æĬ±":108561,"身ä½ĵåģ¥åº·":108562,"æ·±å¤Ħ":108563,"çľ¼ç¥ŀ":108564,"çļĦ形象":108565,"ä¼ĺè¶Ĭ":108566,"å½ĵæĪIJ":108567,"åĮºåĪĨ":108568,"åİ»éϤ":108569,"注å®ļ":108570,"å§IJ妹":108571,"åĮºåĨħ":108572,"é©ļ":108573,"æļĹ示":108574,"æĺİ亮":108575,"æħ°éĹ®":108576,"å¸Ĥåľºä»½é¢Ŀ":108577,"çĮªèĤī":108578,"çļĦèµĦéĩij":108579,"åİĨç»ı":108580,"å§ĭç»ĪåĿļæĮģ":108581,"çĶŁæľº":108582,"ä¸į顾":108583,"éĩijåĪļ":108584,"大声":108585,"éĻķ西çľģ":108586,"é²į":108587,"åĨľä¸ļåĨľæĿij":108588,"æľī害":108589,"éŨè¯Ĭ":108590,"æ¯ıä¸Ģ次":108591,"çļĦåĽłç´ł":108592,"é¢Ŀå¤ĸ":108593,"åݿ级":108594,"çļĩåIJİ":108595,"åĽ½ä¼ģ":108596,"é¦ĸéĢī":108597,"ç¼ĸåĨĻ":108598,"æĭ¿èµ·":108599,"åģ·åģ·":108600,"ä¸İä¸ŃåĽ½":108601,"åįĸå®¶":108602,"ç»Ļä»ĸ们":108603,"ç¥ŀè¯Ŀ":108604,"åŃ¸æł¡":108605,"æĪijä¸Ģ缴":108606,"çŁ¥éģĵäºĨ":108607,"åįĴ":108608,"åĴĮåľ°åĮº":108609,"ä»Ģä¹Īéĥ½":108610,"çͻ家":108611,"æľ¬çĿĢ":108612,"ä½ĻåIJį":108613,"审çIJĨ":108614,"ä¸ĢåIJij":108615,"åıijå±ķè¶ĭåĬ¿":108616,"åĮºéĹ´":108617,"注åĨĮèµĦæľ¬":108618,"çIJ¦":108619,"ä¸įåı¯ä»¥":108620,"çļĦåĦ¿åŃIJ":108621,"å̼çıŃ":108622,"ä¸¥æł¼çļĦ":108623,"å®ŀä½ĵç»ıæµİ":108624,"æľīæĿĥ":108625,"æĪijåıĪ":108626,"éĵ¶æ²³":108627,"ç«ĭ马":108628,"æĿĢäºĨ":108629,"åĮħ容":108630,"管家":108631,"身é«Ķ":108632,"éĵħ":108633,"å°ıåŃIJ":108634,"管çIJĨç³»ç»Ł":108635,"æľīçļĦ人":108636,"é£İç͵":108637,"æĻºèĥ½åζéĢł":108638,"精确":108639,"æĭĽåķĨå¼ķ":108640,"æĭĽåķĨå¼ķèµĦ":108641,"äºĮæīĭ车":108642,"åİ¿å§Ķ":108643,"èīºäºº":108644,"å¥ķ":108645,"è¿İæĿ¥äºĨ":108646,"ç»ĵæĿŁäºĨ":108647,"çļĦä¼łç»Ł":108648,"æĭ¼æIJı":108649,"奥迪":108650,"çĸijæĥij":108651,"ä¹ĭæĹ¥èµ·":108652,"æłĩå¿ĹçĿĢ":108653,"åľ°åįĢ":108654,"è¯łéĩĬ":108655,"åĪ°æľŁ":108656,"åħ¨éĥ½":108657,"çŁŃæļĤ":108658,"æĺ¯æĪijåĽ½":108659,"æĪijå·²ç»ı":108660,"æ»´æ»´":108661,"天èµĭ":108662,"对她":108663,"åį«çĶŁéĹ´":108664,"çĶŁäº§åŁºåľ°":108665,"æĹ¥è®°":108666,"çļĦæķĻåѦ":108667,"åĵĩ":108668,"æ°ijäºĭ":108669,"è¿ĺåİŁ":108670,"æīĭä¸ŃçļĦ":108671,"çļĦèī¯å¥½":108672,"æ·«":108673,"ä¸Ńåħ±ä¸Ń央":108674,"åĪĥ":108675,"åĵĦ":108676,"åľ¨ä»ĸçļĦ":108677,"å°Īæ¥Ń":108678,"åľºéĿ¢":108679,"éĤ»å±ħ":108680,"çĹĴ":108681,"å¦Ħ":108682,"å¤ĸç§ij":108683,"ä¸įéĢĤ":108684,"举åĬŀçļĦ":108685,"éĤ¹":108686,"åħļçļĦ建设":108687,"çĻ¼è¡¨":108688,"è·¨çķĮ":108689,"æ²īæ·Ģ":108690,"大çīĩ":108691,"è¶Ĭé«ĺ":108692,"å°Ĩæĺ¯":108693,"è§īéĨĴ":108694,"åĤ¨åŃĺ":108695,"å¢ŀ大":108696,"ä¸į让":108697,"æķ´å½¢":108698,"å¹³åı°ä¸Ĭ":108699,"åĩłä½į":108700,"è¯īæ±Ĥ":108701,"好ä¸į好":108702,"åľį":108703,"æĸĩæľ¬":108704,"é̲åħ¥":108705,"ç´į":108706,"æł¹æĵļ":108707,"èįīæ¡Ī":108708,"åħŃ个":108709,"åĭ¿":108710,"åζæĪIJ":108711,"饮水":108712,"æ°¸æģĴ":108713,"èĩªæĿĢ":108714,"åı¸é©¬":108715,"éļ¾çĤ¹":108716,"为æĪij们":108717,"å¼§":108718,"åī©ä¸ĭçļĦ":108719,"åĩĨå¤ĩ好":108720,"çļĦæľĢä½³":108721,"èģĶåIJĪä¼ļ":108722,"æĤ£èĢħçļĦ":108723,"æĪijä¸įçŁ¥éģĵ":108724,"ä¸ĭä¸Ģ个":108725,"åıijå±ķæĸ¹åIJij":108726,"笨":108727,"æīĢ以æĪij们":108728,"åĨĻäºĨ":108729,"éĢłæĪIJäºĨ":108730,"æ²Ļæ¼ł":108731,"çŃĽéĢī":108732,"çģ¾åĮº":108733,"ä¸Ĭçľĭ":108734,"éħ¶":108735,"æ»ļåĬ¨":108736,"éļ¾åħį":108737,"åIJīåĪ©":108738,"ä¸Ģä¸Ģ":108739,"ç²¾å¯Ĩ":108740,"伸æīĭ":108741,"礼仪":108742,"åħ¨æĺ¯":108743,"è¶Ĭ大":108744,"ä¸Ńæłĩ":108745,"åıĸåĨ³":108746,"åıĸåĨ³äºİ":108747,"éĢĶä¸Ń":108748,"讨åİĮ":108749,"æīĭåĨĮ":108750,"第ä¹Ŀ":108751,"åŃĶåŃIJ":108752,"çĦ¶å¾Į":108753,"ä¸Ģåħ±":108754,"æµ·æĬ¥":108755,"款å¼ı":108756,"æķ´å¤©":108757,"è¾¹çķĮ":108758,"路边":108759,"æĻĭ级":108760,"åIJIJæ§½":108761,"çļĦåħ³æ³¨":108762,"æĪij没æľī":108763,"å°±æĺ¯åľ¨":108764,"缮çļĦæĺ¯":108765,"åį³ä½¿æĺ¯":108766,"é¡¶å°ĸ":108767,"å·²ç»ıåľ¨":108768,"å®īåħ¨éļIJæĤ£":108769,"æłĩæĿĨ":108770,"åįĹéĢļ":108771,"ä¼ļ对":108772,"座ä½į":108773,"èµ¢å¾ĹäºĨ":108774,"åİŁæĿ¥çļĦ":108775,"身为":108776,"书åºĹ":108777,"è¢Ńåĩ»":108778,"ä»ĬæĻļ":108779,"以èī²":108780,"以èī²åĪĹ":108781,"æĬĸéŁ³":108782,"åį´æ²¡æľī":108783,"丧失":108784,"çļĦå±ĢéĿ¢":108785,"åįģåĽĽäºĶ":108786,"çŃī缸åħ³":108787,"æ±ĩæĢ»":108788,"å¤ĸ表":108789,"为æ°ij":108790,"éľĩæĥĬ":108791,"å¥Ĺè·¯":108792,"çĬ¯ç½ªå«Įçĸij":108793,"å°Ĩ以":108794,"çİĩé¢Ĩ":108795,"éħĴåIJ§":108796,"è¡Įä¸ļåıijå±ķ":108797,"å¹´èĩ³":108798,"åύæĿIJ":108799,"åĴĮæĬĢæľ¯":108800,"æľĢå°ı":108801,"è¿Ļä¸ĢåĪĩ":108802,"èģĮç§°":108803,"å½ĵä½ľ":108804,"æİĢèµ·":108805,"åĴĭ":108806,"ä¸Ńéĥ¨":108807,"æīĭèĩĤ":108808,"ç½¢äºĨ":108809,"媳å¦ĩ":108810,"æ´½è°Ī":108811,"æĹ¶ä»£ä¸ŃåĽ½":108812,"人çĶŁçļĦ":108813,"æŀģéĻIJ":108814,"ç¦Ħ":108815,"åĮºæĶ¿åºľ":108816,"æľ¬éĴ±":108817,"礼åĵģ":108818,"çļĦéĤ£ä¸ª":108819,"ä¾¦æŁ¥":108820,"太å¤ļçļĦ":108821,"å®ŀæĸ½æĸ¹æ¡Ī":108822,"é«ĺæłĩåĩĨ":108823,"æĮĩæĮ¥éĥ¨":108824,"å̾æĸľ":108825,"çī¹èī²ç¤¾ä¼ļ":108826,"çµIJæŀľ":108827,"éĴ»çٳ":108828,"ç§»æ¤į":108829,"çī¹ç§į":108830,"èĩªæĦ¿":108831,"æĭľçĻ»":108832,"åįķ身":108833,"åį´åıĪ":108834,"åĪ¥äºº":108835,"åIJĪè§Ħ":108836,"æľºç͵":108837,"çĦı":108838,"å½ĵåīįä½įç½®":108839,"ä¹°å®¶":108840,"åIJĪ约":108841,"èĤ©èĨĢ":108842,"为åĩĨ":108843,"å®¶è£ħ":108844,"çļĦçĥŃæĥħ":108845,"éĿŀéģĹ":108846,"çļĦéŃħåĬĽ":108847,"åİŁåijĬ":108848,"社ä¼ļåIJĦçķĮ":108849,"ä¹°çļĦ":108850,"å¤ļåIJĥ":108851,"éĽķå¡ij":108852,"èµ·ä¹ī":108853,"åĬłåī§":108854,"éĤ£ä¸ĢåĪ»":108855,"å°Ĩè¿Ľä¸ĢæŃ¥":108856,"æ¡ĤæŀĹ":108857,"æĽ´å¼º":108858,"对ä¼ģä¸ļ":108859,"æĹłæĦı":108860,"ä¹łè¿ijå¹³æĸ°":108861,"æµģ失":108862,"微软":108863,"çĽ¸å¯¹äºİ":108864,"座è°Īä¼ļ":108865,"主èIJ¥ä¸ļ":108866,"主èIJ¥ä¸ļåĬ¡":108867,"ç§ģåĭŁ":108868,"å±ķ示äºĨ":108869,"常æĢģåĮĸ":108870,"è²´":108871,"符åı·":108872,"å¹´è½»çļĦ":108873,"å°±éľĢè¦ģ":108874,"ä¹ŁæĽ¾":108875,"çļĦæĥħ绪":108876,"è¾¾æłĩ":108877,"èĩ¨":108878,"ä½įå±ħ":108879,"ä»ħ为":108880,"é¦ĸå®¶":108881,"éĺ´éĺ³":108882,"ä¸įåĨįæĺ¯":108883,"åĽłä¸ºå®ĥ":108884,"ä¼ģä¸ļåľ¨":108885,"çĺ¾":108886,"åIJ¬è§ģ":108887,"åİŁæľī":108888,"åζè£ģ":108889,"å¯Ĥå¯ŀ":108890,"éĢļè¿ĩ对":108891,"æ»ijéĽª":108892,"è¿Ļå¼ł":108893,"çļĦçIJĨè§£":108894,"æĸ°ä¸ŃåĽ½":108895,"è¿ĻåĦ¿":108896,"ä½İä»·":108897,"æĥ³è¿ĩ":108898,"çļĦä¿¡å¿ĥ":108899,"建çŃijçī©":108900,"çļĦé¢ľèī²":108901,"ä¸įåºĶ该":108902,"æĹłçĸijæĺ¯":108903,"å¼ķèµ·äºĨ":108904,"åħ¨åijĺ":108905,"æĿ°åĩº":108906,"è¿Ļæĺ¯æĪij":108907,"誰":108908,"èĺĩ":108909,"éĺµåľ°":108910,"åħħå̼":108911,"çŁ¿ä¸ļ":108912,"çĿĢä»ĸ":108913,"信访":108914,"ä¸ĩè¾¾":108915,"æij©æĵ¦":108916,"å¼Ģ端":108917,"èı²å¾ĭ":108918,"èı²å¾ĭ宾":108919,"车åŃIJ":108920,"æľ¬èº«çļĦ":108921,"çģ«è½¦ç«Ļ":108922,"常å·ŀ":108923,"为代表":108924,"为代表çļĦ":108925,"广ç͵":108926,"亲人":108927,"åı³æīĭ":108928,"éĽĨè£ħ":108929,"éĽĨè£ħç®±":108930,"çļĦåį°è±¡":108931,"æ©Łæľĥ":108932,"åĮĨåĮĨ":108933,"åħīç͵":108934,"大æĸ¹":108935,"è¿ĺæľª":108936,"åΩ好":108937,"ç»Ŀ大å¤ļæķ°":108938,"åľ¨è¿Ļç§į":108939,"ä¸Ģç»Ħ":108940,"æĸ°èĤ¡":108941,"转åıij":108942,"æ³ķåºŃ":108943,"æĹłæīĢ":108944,"éģĵè·¯ä¸Ĭ":108945,"çŁ¿å±±":108946,"èijī":108947,"æĶ¶åĽŀ":108948,"ç§°ä¹ĭ":108949,"ç§°ä¹ĭ为":108950,"æıŃéľ²":108951,"åı£å²¸":108952,"åIJ¼":108953,"å¿ĥæĥ³":108954,"çļĦ梦æĥ³":108955,"éĽ¯":108956,"ä¹ĭåĪĿ":108957,"å¥ĸ项":108958,"订éĺħ":108959,"èĵĿ天":108960,"åĿ¦åħĭ":108961,"ç«ĭæ¡Ī":108962,"èģĶæīĭ":108963,"ä½Ĩæĺ¯æĪij":108964,"帮æĪij":108965,"ä»ħ代表":108966,"说æĪij":108967,"çļĦè¶ĭåĬ¿":108968,"æ¯Ķè¾ĥ大":108969,"èµ°å»Ĭ":108970,"éĩįçĤ¹é¡¹çĽ®":108971,"èµĮåľº":108972,"åIJįçīĩ":108973,"æĦŁåı¹":108974,"åľ¨åľ°ä¸Ĭ":108975,"åıijçĥŃ":108976,"èĮĥçķ´":108977,"çļĦéģĵè·¯":108978,"éĩijèī²":108979,"ä»ĸåıĪ":108980,"ä¼ļ产çĶŁ":108981,"æ°ijåĽ½":108982,"å®ĺæĸ¹ç½ijç«Ļ":108983,"æĶ¶çĽĬçİĩ":108984,"çļĦåΰæĿ¥":108985,"çļĦåĬŀæ³ķ":108986,"æĶ¹åζ":108987,"ä¸ĩç§ij":108988,"ä¸įäºĪ":108989,"è¿ĻäºĽéĹ®é¢ĺ":108990,"çαä¸Ĭ":108991,"çIJĥåľº":108992,"责令":108993,"æİĪ课":108994,"åľ¨é¦Ļ港":108995,"ç»Ĩèħ»":108996,"å¤ļä¸ĩ":108997,"åIJĮå¹´":108998,"大使":108999,"æĸĭ":109000,"ä¹Łä¸º":109001,"æĥłå·ŀ":109002,"åIJī祥":109003,"çͰåĽŃ":109004,"åĽ½å®¶éĺŁ":109005,"éĩįçĶŁ":109006,"åľ¨åħ¶":109007,"é¦Ļåij³":109008,"è´Łèį·":109009,"亲åĪĩ":109010,"èĩªè±ª":109011,"没éĶĻ":109012,"åĽłä¸ºåľ¨":109013,"æĺŁæĺŁ":109014,"éĤij":109015,"è¿ĺæľīå¾Īå¤ļ":109016,"æij©æīĺ":109017,"æij©æīĺ车":109018,"æŃ¥è¡Į":109019,"管çIJĨä½ĵç³»":109020,"èĦļä¸ĭ":109021,"éģİåİ»":109022,"æ±īè¯Ń":109023,"对ä¸įèµ·":109024,"çļĦç»ıåİĨ":109025,"åıĬ缸åħ³":109026,"ä¸įå°ij人":109027,"éĩįç£ħ":109028,"åĬ³åĬ¨èĢħ":109029,"大åĬĽåıijå±ķ":109030,"æĢİä¹Īåģļ":109031,"çĭĹçĭĹ":109032,"举åįĹäºļ":109033,"åĭĩäºİ":109034,"åħ¬éĸĭ":109035,"çĵ·çłĸ":109036,"åıĤçħ§":109037,"广æĴŃç͵è§Ĩ":109038,"举åĬ¨":109039,"æ±Łè¥¿çľģ":109040,"æķĪèĥ½":109041,"å͝æľī":109042,"éĿ¢è²Į":109043,"èĩªåĬ¨é©¾é©¶":109044,"æ¦ľåįķ":109045,"å½ĵæĪij们":109046,"仲è£ģ":109047,"æľ¨æĿIJ":109048,"ç±³åħ°":109049,"çϽéĵ¶":109050,"çļĦ人éĥ½":109051,"å°±åĥıæĺ¯":109052,"æŃ¥åħ¥":109053,"åįłç͍":109054,"åĩ»è´¥":109055,"让大家":109056,"ä¼ļè®©ä½ł":109057,"åİ¿æĶ¿åºľ":109058,"è¦ģç͍":109059,"çŃīå½¢å¼ı":109060,"åįĩé«ĺ":109061,"责任æĦŁ":109062,"å¤ĩç͍":109063,"ä»ĸ认为":109064,"æ¸ħåįİ大åѦ":109065,"ä»ĸèĩªå·±":109066,"éĸ±è®Ģ":109067,"太平æ´ĭ":109068,"éĶģå®ļ":109069,"çŃĨ":109070,"è¿Ļçīĩ":109071,"æī§æĶ¿":109072,"è¿ĶåĽŀæIJľçĭIJ":109073,"å°±æŃ¤":109074,"éģĩåΰäºĨ":109075,"å¼Ģå¹ķå¼ı":109076,"管çIJĨéĥ¨éŨ":109077,"å§¿åĬ¿":109078,"设æĥ³":109079,"åĽĽåŃ£":109080,"æĬĢæľ¯äººåijĺ":109081,"å·®çĤ¹":109082,"è¾ŀèģĮ":109083,"èĢģ師":109084,"çļĦæĦŁåıĹ":109085,"ä¹ŁéĿŀ常":109086,"å¹´ä¸ĬåįĬå¹´":109087,"æĢªçī©":109088,"èĮĥæĸĩ":109089,"æĪĺå½¹":109090,"åIJ«ä¹ī":109091,"åħ¨è¿ĩç¨ĭ":109092,"èĢĮéĿŀ":109093,"éĢļ讯åijĺ":109094,"è¿Ļæł·æīįèĥ½":109095,"æľºç»Ħ":109096,"è£ı":109097,"çķ¶çĦ¶":109098,"èµĮåįļ":109099,"åIJĦæľī":109100,"å·¥ä½ľæľºåζ":109101,"äºĭåIJİ":109102,"åī§éĻ¢":109103,"å±ĬæĹ¶":109104,"åĺ´éĩĮ":109105,"主线":109106,"ä¸ĢåľĪ":109107,"主è¦ģåİŁåĽł":109108,"å°¸ä½ĵ":109109,"åĮ»çĸĹåĻ¨æ¢°":109110,"ä½łæĢİä¹Ī":109111,"ä½Ĩçͱäºİ":109112,"æĹ¶ç©º":109113,"çĶ·æľĭåıĭ":109114,"çĶľèľľ":109115,"é«ĺåľ°":109116,"æĻĸ":109117,"èĴIJéĽĨ":109118,"åĩĿèģļåĬĽ":109119,"å¤ĩåıĹ":109120,"æĸĩåĪĽ":109121,"马æĿ¥":109122,"马æĿ¥è¥¿äºļ":109123,"æŁ´æ²¹":109124,"使人":109125,"æķĻä¼ļ":109126,"ç§ĭ天":109127,"æĺİçıł":109128,"åħŃåįģ":109129,"çݯå¢ĥä¸Ń":109130,"æ¸ħæĻ¨":109131,"积æŀģåıĤä¸İ":109132,"å·ħå³°":109133,"ä¸ºæľŁ":109134,"çѾåŃĹ":109135,"æĦŁæ¿Ģ":109136,"ç§ĭåŃ£":109137,"æĿijåŃIJ":109138,"æ¢ħ西":109139,"æļ´éĽ¨":109140,"çĶŁæ´»åľ¨":109141,"çªĹæĪ·":109142,"æģ¶åĬ£":109143,"纯粹":109144,"åľ¨æİ¥åıĹ":109145,"没èĥ½":109146,"è¡Į人":109147,"åĭº":109148,"æĭ¨æīĵ":109149,"ä½ľåĩºäºĨ":109150,"çļĦ主é¢ĺ":109151,"æľªä¾Ĩ":109152,"ä¸ŃæľĢ":109153,"æ¾ľ":109154,"é«ĺè¡Ģåİĭ":109155,"åħ´èµ·":109156,"æŃ£èĥ½éĩı":109157,"åŁ¹è®ŃçıŃ":109158,"æİ¥åħ¥":109159,"çĦ¶åIJİåĨį":109160,"åѦçĶŁä»¬":109161,"é¢ĨåħĪçļĦ":109162,"çģ«çĥŃ":109163,"ä¸ĵèģĮ":109164,"æĪĸèĢħ说":109165,"建è¨Ń":109166,"é»ı":109167,"对åħ¬åı¸":109168,"çľīçļĦ":109169,"åħīèį£":109170,"å½ĵåľº":109171,"éĿ¢åŃIJ":109172,"èµĦ产管çIJĨ":109173,"æĹ¶æľŁçļĦ":109174,"çŀİ":109175,"åįİ举":109176,"åıĪä¸Ģ次":109177,"èĥİåĦ¿":109178,"å®ļçĤ¹":109179,"头çĹĽ":109180,"æ¶²ä½ĵ":109181,"æĺ¯ä¸Ģä½į":109182,"帽åŃIJ":109183,"å¹´èµ·":109184,"ä¸įä½İäºİ":109185,"è¾ĥå°ij":109186,"éĿ¢ä¸´çĿĢ":109187,"å±Ĥå±Ĥ":109188,"èĿ´èĿ¶":109189,"èī°èĭ¦":109190,"éĺ¿æł¹":109191,"éĺ¿æł¹å»·":109192,"æ¦Ĥæĭ¬":109193,"请éĹ®":109194,"èµ·åºĬ":109195,"å±Ģå±Ģéķ¿":109196,"稳åģ¥":109197,"å¦ĤæŀľæĪij们":109198,"éħĴç²¾":109199,"æĪ·åı£":109200,"æĦŁæĤŁ":109201,"æĪij们éľĢè¦ģ":109202,"æĬĢèīº":109203,"èĩªåªĴä½ĵ":109204,"è¿ĽåĮĸ":109205,"æ¿ĢçĥĪçļĦ":109206,"ä½ĵ温":109207,"èļķ":109208,"èĩ´è¾ŀ":109209,"宪æ³ķ":109210,"ä¸ĢçŃīå¥ĸ":109211,"çĵ¶é¢Ī":109212,"æĥłæ°ij":109213,"èµ°è·¯":109214,"çݰ任":109215,"åķĨéĩı":109216,"ä¸ĭ车":109217,"åĪł":109218,"責任":109219,"èŀįåIJĪåıijå±ķ":109220,"ç´łæĿIJ":109221,"油价":109222,"åģļ人":109223,"çŀª":109224,"æĶ¹éĿ©åĪĽæĸ°":109225,"çļĦåĮºåĪ«":109226,"è·¨å¢ĥç͵åķĨ":109227,"æ¶īåıĬåΰ":109228,"æīĺ管":109229,"æĪijè¿ĺæĺ¯":109230,"åĿIJæłĩ":109231,"ç½ij讯":109232,"å½ĵåľ°çļĦ":109233,"追溯":109234,"åľŁè̳":109235,"åľŁè̳åħ¶":109236,"åºķä¸ĭ":109237,"åĩłåįģå¹´":109238,"ç©¿è¿ĩ":109239,"çĶŁæĢģæĸĩæĺİ":109240,"æİ¨èĸ":109241,"æİ¨èĸ¦":109242,"éłĨ":109243,"åĴ³åĹ½":109244,"åĪĨæĪIJ":109245,"çĹķ迹":109246,"æĪ·ç±į":109247,"éĥ½ä¸įèĥ½":109248,"æĻļä¼ļ":109249,"åĢ©":109250,"ä½ĵåĬĽ":109251,"è¿Ļ个èģĮä¸ļ":109252,"æĹłå½¢":109253,"åıªæĥ³":109254,"è¿Ľåıĸ":109255,"æĿ̿ѻ":109256,"èĦĬ":109257,"äºijåįĹçľģ":109258,"æľªçŁ¥":109259,"ç¾İèģĶ":109260,"ç¾İèģĶåĤ¨":109261,"å¤ĸå½¢":109262,"诱æĥij":109263,"çĽ£":109264,"è¡Į使":109265,"åłĨ积":109266,"çĨŁç»ĥ":109267,"éĺIJè¿°":109268,"æľĢ大éĻIJ度":109269,"å·¡æŁ¥":109270,"夺åĨł":109271,"ä¼ģä¸ļæĸĩåĮĸ":109272,"çĭ®åŃIJ":109273,"ä¿Ŀå®Ī":109274,"ä¸ºæł¸å¿ĥçļĦ":109275,"æī©æķ£":109276,"åζéĢłåķĨ":109277,"æŁĶ软":109278,"为ä¸Ģä½ĵçļĦ":109279,"游çİ©":109280,"çĶŁçĹħ":109281,"幫åĬ©":109282,"åͱæŃĮ":109283,"æīįåı¯ä»¥":109284,"宽æĿ¾":109285,"è¦ģæ¯Ķ":109286,"æĺ¯æĢİæł·":109287,"çģ°èī²":109288,"çİĭåĽ½":109289,"æIJħæĭĮ":109290,"计éĩı":109291,"åij¨åĽ´çļĦ":109292,"æĻºèĥ½æīĭæľº":109293,"常åĬ¡":109294,"常åĬ¡åī¯":109295,"é©´":109296,"å°Ĩè¿ij":109297,"寻常":109298,"ä¸ŃåĽ½å¸Ĥåľº":109299,"容åύ":109300,"å±±ä¸Ĭ":109301,"èĥĮåIJİçļĦ":109302,"亲å¯Ĩ":109303,"æīĢ以说":109304,"éİ®":109305,"çļĦçIJĨçͱ":109306,"大åŁİå¸Ĥ":109307,"常年":109308,"æĹħ游ä¸ļ":109309,"å°±æĺ¯è¿Ļæł·":109310,"åĨįæĿ¥":109311,"é«ĺä½į":109312,"åĨħ饰":109313,"æŀĦéĢł":109314,"ä¸Ģèµ·æĿ¥":109315,"çͳè«ĭ":109316,"å·²ç»ıå¼Ģå§ĭ":109317,"çļĦåĬ¨ä½ľ":109318,"被迫":109319,"éģįå¸ĥ":109320,"åīĸæŀIJ":109321,"å°ıäºĭ":109322,"å¿ĥä¸ŃçļĦ":109323,"ä½ĵåζæĶ¹éĿ©":109324,"çļĩå®¶":109325,"æķĻåłĤ":109326,"åIJĥå®Į":109327,"åĽ½æ°ijåħļ":109328,"æĺİç¡®äºĨ":109329,"åıijå±ķè§ĦåĪĴ":109330,"第ä¸ĢæŃ¥":109331,"å¾Ĺèµ·":109332,"åľ¨åĵª":109333,"çļĦè·¯ä¸Ĭ":109334,"é»Ķ":109335,"çķ¶æĻĤ":109336,"大åĬĽæĶ¯æĮģ":109337,"åıĮéĩį":109338,"çŁ¥éģĵèĩªå·±":109339,"åIJĪä½ľåįıè®®":109340,"æ°ĶåĬ¿":109341,"éķ¿æķĪæľºåζ":109342,"ç½ķè§ģ":109343,"åĽŀæĿ¥äºĨ":109344,"ä»ĸä¼ļ":109345,"ä¸Ńæĸ°":109346,"ä¸Ńæĸ°ç½ij":109347,"çļĦåķĨåĵģ":109348,"èµłéĢģ":109349,"決å®ļ":109350,"å¸ĤåľºçĽij管":109351,"çķĻåѦçĶŁ":109352,"ç͵åİĭ":109353,"äºļ马":109354,"äºļ马éĢĬ":109355,"è¿ĺæĺ¯æ¯Ķè¾ĥ":109356,"ä¿ĥè¿ĽäºĨ":109357,"æµģåħ¥":109358,"æijĦåĥı":109359,"æijĦåĥı头":109360,"æıIJåıĬ":109361,"åıijæİĺ":109362,"æī¾åĩº":109363,"æ¢Ŀä»¶":109364,"ç¹¼çºĮ":109365,"æĪijåĸľæ¬¢":109366,"å¥İ":109367,"æ¦ľæł·":109368,"å¼ĢèĬ±":109369,"æ²īéĩį":109370,"åŁºåĩĨ":109371,"ä»ħä»ħæĺ¯":109372,"轨éģĵ交éĢļ":109373,"åĶIJå±±":109374,"çŃīä¸Ģç³»åĪĹ":109375,"ä¸įè¿ĩæĺ¯":109376,"åŃĺåľ¨çĿĢ":109377,"èĬ±çĶŁ":109378,"夷":109379,"ç»Īç©¶":109380,"ä¹Łæĺ¯ä¸Ģ个":109381,"åįģåŃĹ":109382,"èĸªéħ¬":109383,"伤å¿ĥ":109384,"æĺ¥ç§ĭ":109385,"åĨ·åį´":109386,"ç²¾çģµ":109387,"çļĦåľ°åĽ¾":109388,"æ¯Ķçī¹":109389,"æ¯Ķçī¹å¸ģ":109390,"æĢ§åĪ«":109391,"ä½Ļä¸ĩåħĥ":109392,"ä¸įå¿ĺåĪĿå¿ĥ":109393,"å¿ĥçĸ¼":109394,"æĽ²çº¿":109395,"é«ĺä½İ":109396,"è¦ıå®ļ":109397,"æĻ¯èī²":109398,"è¦ģ说":109399,"åħ¬åı¸å°Ĩ":109400,"æ¶²åİĭ":109401,"è¿Ŀ约":109402,"åİļ度":109403,"åºŀ大çļĦ":109404,"è¿ĺæĺ¯å¾Ī":109405,"é¦ĸåħĪæĺ¯":109406,"çµ²":109407,"åĬ¡å®ŀ":109408,"並ä¸Ķ":109409,"å¢ŀè¿Ľ":109410,"ç»Ħç»ĩå¼Ģå±ķ":109411,"èµ·æĿ¥äºĨ":109412,"è¾ĥå°ı":109413,"导游":109414,"ä¸¤åľ°":109415,"ç¿ĺ":109416,"çģ¿çĥĤ":109417,"é£İéĩĩ":109418,"æĶ¯çº¿":109419,"æĶ¯çº¿ä»»åĬ¡":109420,"娱ä¹IJåľĪ":109421,"天津å¸Ĥ":109422,"åĮħåĽ´":109423,"æľ¬èµĽåŃ£":109424,"éĩįè¦ģ讲è¯Ŀ":109425,"åıĮåIJij":109426,"åįİ丽":109427,"éͤ":109428,"åĦ¿å¥³":109429,"åįĸåĩº":109430,"ä¾Ĩ說":109431,"ä»ĭç»įä¸Ģä¸ĭ":109432,"åIJ¦è®¤":109433,"åĭĿ":109434,"æĻ®éĢļ人":109435,"çļĦåĬ¨åĬĽ":109436,"涨åģľ":109437,"åŁºéĩij管çIJĨ":109438,"ä¸Ģ个éĩįè¦ģ":109439,"è¿IJæ²³":109440,"çħŀ":109441,"è´¢æĶ¿éĥ¨":109442,"è¡Įä¸ļåįıä¼ļ":109443,"éĥ½å°Ĩ":109444,"è¨Ģ论":109445,"ä¸ĭä¾Ĩ":109446,"墨西":109447,"墨西åĵ¥":109448,"åĽłä¸ºä»ĸ们":109449,"æĢİä¹ĪåĽŀäºĭ":109450,"åĬłå¤§å¯¹":109451,"èĬŃ":109452,"çīĮåŃIJ":109453,"ä¼ļ使":109454,"妹åŃIJ":109455,"ç«Ļéķ¿":109456,"å¿ħå¤ĩ":109457,"æłijæľ¨":109458,"æģ¶æĦı":109459,"æ²³éģĵ":109460,"å¯Įè£ķ":109461,"ç¹ģåįİ":109462,"ä»£è¡¨åĽ¢":109463,"æµij身":109464,"é¦ĸä½į":109465,"èĪªç©ºåħ¬åı¸":109466,"éĽ»å½±":109467,"ä¸ĵè¾ij":109468,"æ°´æºIJ":109469,"ä¸Ńæ¯Ĵ":109470,"並ä¸į":109471,"èĢĮåİ»":109472,"éĥĿ":109473,"äºİæŃ¤":109474,"æĸĩåĮĸ建设":109475,"èĤ¯å®ļä¼ļ":109476,"å¸ĮæľĽå¤§å®¶":109477,"æııåĨĻ":109478,"ä½İè°ĥ":109479,"æĸ°åħ´äº§ä¸ļ":109480,"æ·Ħåįļ":109481,"æĶ¾å¼Ģ":109482,"çļĦæĢ§æł¼":109483,"çĸ¾çĹħçļĦ":109484,"æķ´é¡¿":109485,"线ä¸Ĭ线ä¸ĭ":109486,"éĢī项":109487,"çļĦ认åı¯":109488,"æķ´é½IJ":109489,"çĶļä¹Ī":109490,"çľģåĨħ":109491,"åı¤äºº":109492,"æ°ijä¿Ĺ":109493,"çī¡ä¸¹":109494,"éŨçªĹ":109495,"éĤ£æł·çļĦ":109496,"çĽijäºĭä¼ļ":109497,"ç¿¡ç¿ł":109498,"禹":109499,"åįĥä¸ĩä¸įè¦ģ":109500,"æĶ¶ç¼©":109501,"çļĦæĸĩåŃĹ":109502,"åĴĮå°ļ":109503,"æĮĩ令":109504,"åħ±äº§åħļåijĺ":109505,"çļĦçĪ¶äº²":109506,"å®Įå·¥":109507,"åĬ¡å·¥":109508,"马æĭī":109509,"马æĭīæĿ¾":109510,"æµĭè¯Ħ":109511,"å²ļ":109512,"ä¸įåģļ":109513,"ä¸ĥå¹´":109514,"åĿĩä»·":109515,"主è§Ĥ":109516,"å¾Īä¸įéĶĻ":109517,"èĤ¡ä¸ľå¤§ä¼ļ":109518,"äºĶä¸Ģ":109519,"é£İåIJ¹":109520,"å¼Ģéĩĩ":109521,"è¿Ļä¹Ī大":109522,"èĥ½çľĭåΰ":109523,"èĢĥè¯Ħ":109524,"åį³ä¾¿æĺ¯":109525,"çݰ代åĨľä¸ļ":109526,"æ¯Ķè¾ĥé«ĺ":109527,"è¦ģçľĭ":109528,"没äºĨ":109529,"解決":109530,"çݯæ¯Ķ":109531,"åĨ²åĬ¨":109532,"æ·±å¤ľ":109533,"åĩłåįĥ":109534,"ä¿ı":109535,"ç½ijæ°ij":109536,"就没":109537,"ä»ĸ表示":109538,"éĩıåŃIJ":109539,"æĹ©é¤IJåĬłçĽŁ":109540,"åįĬå²Ľ":109541,"æIJŀç¬ij":109542,"ä¸ĬæĬ¥":109543,"審":109544,"é¢Ħ订":109545,"èľĤèľľ":109546,"æŁ¥æī¾":109547,"ä¼ĹæīĢ":109548,"ä¼ĹæīĢåij¨":109549,"ä¼ĹæīĢåij¨çŁ¥":109550,"æĹ©æĹ¥":109551,"åıijæī¬":109552,"åĴĮ个人":109553,"åĬłåħ¥äºĨ":109554,"åĸ®ä½į":109555,"åĪĨæĺİ":109556,"第ä¸Ģæī¹":109557,"ç¾İåĨĽ":109558,"æĿĢæīĭ":109559,"éŨå¤ĸ":109560,"åķĨåľĪ":109561,"ä¸ĢåĪ»":109562,"çļĦçľ¼ç¥ŀ":109563,"éľĦ":109564,"äºĽä»Ģä¹Ī":109565,"åĬłæ·±":109566,"æ¯ıä½į":109567,"å¸ĤéĿ¢ä¸Ĭ":109568,"åıĶåıĶ":109569,"çļĦéĤ£ç§į":109570,"粤港澳":109571,"è´´å¿ĥ":109572,"æĸĩåĮĸ产ä¸ļ":109573,"红æĹĹ":109574,"åĺīåħ´":109575,"æĶ¶çĽĺ":109576,"å®ĮæĪIJåIJİ":109577,"ä¼ģä¸ļ管çIJĨ":109578,"纵横":109579,"ä¸įä¿¡":109580,"æĪIJéĥ½å¸Ĥ":109581,"æ´Ĺ澡":109582,"举è¡ĮçļĦ":109583,"çĶ¢çĶŁ":109584,"ç©¿ä¸Ĭ":109585,"åĪļ好":109586,"åħī线":109587,"æīĵæŀ¶":109588,"è¿Ļæľ¬ä¹¦":109589,"åĶ®åIJİæľįåĬ¡":109590,"åĩłåĪĨ":109591,"ä¸Ĭ次":109592,"ä¸įåĪĨ":109593,"产åIJİ":109594,"éģ¿å¼Ģ":109595,"ç»Īæŀģ":109596,"代表大ä¼ļ":109597,"æ¼ĶæĬĢ":109598,"åĽŀè´Ń":109599,"åŃ¦è´¹":109600,"éĺ»ç¢į":109601,"ä¸Ģ大æī¹":109602,"竣工":109603,"åĨ³å®ļäºĨ":109604,"ä½Ĩå¦Ĥæŀľ":109605,"ç͵æµģ":109606,"ä¸Ŀ毫":109607,"èĥ½å¤Łåľ¨":109608,"éĶĢåĶ®æĶ¶åħ¥":109609,"åľ¨åŃ¦æł¡":109610,"æ°´åĩĨ":109611,"è§Ĩ线":109612,"èĩªåľ¨":109613,"åķĨä¸ļéĵ¶è¡Į":109614,"为äºĨ让":109615,"çį²å¾Ĺ":109616,"çݩ家æľĭåıĭ":109617,"éĿ¢èĨľ":109618,"åĪĨåī²":109619,"åī§æľ¬":109620,"ç«Ń":109621,"说å¾Ĺ":109622,"æĥ³çŁ¥éģĵ":109623,"çļĦ人çī©":109624,"èĮħåı°":109625,"åIJĮä¸Ģ个":109626,"æķ°æį®ä¸Ńå¿ĥ":109627,"çĶĦ":109628,"åĸľæĤ¦":109629,"ä¸ĭæĿ¥çļĦ":109630,"å®ļåIJij":109631,"æŀģåħ·":109632,"çļĦåľŁåľ°":109633,"éĤ£åĢĭ":109634,"æijĦåħ¥":109635,"äºĨæĪijçļĦ":109636,"马路":109637,"åħ¨ç¤¾ä¼ļ":109638,"è®®æ¡Ī":109639,"å±ĭåŃIJ":109640,"åIJįåı«":109641,"åĮª":109642,"åľ¨å¤ĸéĿ¢":109643,"åįİåįĹ":109644,"åıijè´§":109645,"å¯ĴåĨ·":109646,"é«ĺçŃīæķĻèĤ²":109647,"详ç»ĨçļĦ":109648,"ä¸ªé¡¹çĽ®":109649,"çĶŁäº§åĬĽ":109650,"æĹ¶å¸¸":109651,"å°±æľĥ":109652,"ä¸ĩèĤ¡":109653,"éĻĮçĶŁäºº":109654,"æııç»ĺ":109655,"å½ĵçĦ¶æĺ¯":109656,"æĭīåĬ¨":109657,"éĵ¾æĿ¡":109658,"æī£éϤ":109659,"ä¸Ģ缴éĥ½":109660,"å°ıåŃ©åŃIJ":109661,"伤åı£":109662,"第äºĮå±Ĭ":109663,"è´Ńç½®":109664,"çļĩ马":109665,"æĹłèģĬ":109666,"表åĨ³":109667,"诸å¦Ĥ":109668,"åĵįèµ·":109669,"é£İæļ´":109670,"ä¸ĢæµģçļĦ":109671,"ç·¨":109672,"è§£æĶ¾åĨĽ":109673,"室å¤ĸ":109674,"å°±è¿Ļä¹Ī":109675,"å³¶":109676,"æīĢæľī人éĥ½":109677,"æIJľç´¢å¼ķæĵİ":109678,"çļĦæĪIJæľ¬":109679,"åħļæĶ¿":109680,"åıijè¡Į人":109681,"çļĦäºĭå®ŀ":109682,"对该":109683,"åıĹæįŁ":109684,"ä¿Ħä¹Į":109685,"é²ľèĬ±":109686,"åĨľèį¯":109687,"æŀģéĢŁ":109688,"æĢ¥æĢ§":109689,"两ä¼ļ":109690,"ä¸ĢèάæĿ¥è¯´":109691,"æµ·é²ľ":109692,"åĨĪ":109693,"çĶ¨äºº":109694,"çĶ¨äººåįķä½į":109695,"åĢª":109696,"åĦªæĥł":109697,"æł¹æºIJ":109698,"åĽ¢è´Ń":109699,"ç¾İæ´²":109700,"ä¸ĭè¡Į":109701,"å¹´æľ«":109702,"èľ¡":109703,"è¯ģä»¶":109704,"åľ¨æĪijåĽ½":109705,"ä¸įåºĶ":109706,"æĮīæĹ¶":109707,"åłªç§°":109708,"åľºä¸Ĭ":109709,"å¹²éĥ¨èģĮå·¥":109710,"æľīå¾Ī大çļĦ":109711,"æķ°åŃĹç»ıæµİ":109712,"æ¼Ķç»ĥ":109713,"æį®ç»Łè®¡":109714,"å¾ĢæĿ¥":109715,"广åijĬæľįåĬ¡":109716,"çļĦè·Ŀ离":109717,"æŃ¸":109718,"è¨Ģè¯Ń":109719,"被èªī":109720,"被èªī为":109721,"åĭī强":109722,"å°Ĭæķ¬":109723,"ä¸ĩ亿åħĥ":109724,"ä¸ŃåĽ½åĽ½éĻħ":109725,"å¹²é¢Ħ":109726,"年产":109727,"èĢķåľ°":109728,"èĮİ":109729,"å᳿ĺ¯":109730,"æĺ¨æĻļ":109731,"æĪIJ为ä¸Ģ个":109732,"çºłæŃ£":109733,"åij½åIJį":109734,"é¢ģå¸ĥ":109735,"çĮľæµĭ":109736,"ä¿ĿèŃ·æĶ¿çŃĸ":109737,"æĭ¢":109738,"活泼":109739,"çŃīéĥ¨éŨ":109740,"åѦåΰ":109741,"å¢ŀå̼ç¨İ":109742,"èĪªçº¿":109743,"åĨ¤":109744,"åįģåĩłå¹´":109745,"æİ§èĤ¡èĤ¡ä¸ľ":109746,"ä¸ĢéŨ":109747,"ä¸ªå·¥ä½ľ":109748,"ä¸ªå·¥ä½ľæĹ¥":109749,"æĸ°è¥¿":109750,"æĸ°è¥¿åħ°":109751,"论è¯ģ":109752,"ä»Ĩ":109753,"åı¦å¤ĸä¸Ģ个":109754,"æĶ¹ç¼ĸ":109755,"严ç¦ģ":109756,"åĸľå¥½":109757,"个人信æģ¯":109758,"满æĦı度":109759,"åĵ¨":109760,"å¸ĪèµĦ":109761,"æĶ¹ä¸º":109762,"ç«ŀäºī对æīĭ":109763,"åĩºçĤī":109764,"åķĨ人":109765,"大æ£ļ":109766,"æĮĩ导ä¸ĭ":109767,"å¦ĩç§ij":109768,"輪":109769,"æīģ":109770,"åIJĮæĹ¶è¿ĺ":109771,"å¹¶éĢļè¿ĩ":109772,"æĪĺéĺŁ":109773,"èĶĵå»¶":109774,"ä¿ŀ":109775,"éĢĤå½ĵçļĦ":109776,"åīįè¾Ī":109777,"åĵģåij³":109778,"æ¹¿åľ°":109779,"æĪIJåŀĭ":109780,"ä¸įåıªæĺ¯":109781,"æĥ©ç½ļ":109782,"åĩºåı°äºĨ":109783,"çݩ游æĪı":109784,"æīįåıijçݰ":109785,"åºĶèģĺ":109786,"å¤ĸæĿ¥":109787,"åįłé¢Ĩ":109788,"å±ķæľĽ":109789,"å«Ĥ":109790,"港èĤ¡":109791,"æ¡Įä¸Ĭ":109792,"æĶ¯æŁ±":109793,"çļĦæĥħå½¢":109794,"广éĺĶçļĦ":109795,"æĶ¯è¡Į":109796,"å´©æºĥ":109797,"æľĪä¸Ń":109798,"æľĪä¸ŃæĹ¬":109799,"ç»įåħ´":109800,"临è¿ij":109801,"æĬ¤æłı":109802,"æļ®":109803,"åįķèģĮä¸ļ":109804,"è¾¹å¢ĥ":109805,"æĹ¥çħ§":109806,"ä¸ĢåłĨ":109807,"缴å¾Ħ":109808,"åħ±åIJĮä½ĵ":109809,"æĸ°åįİç½ij":109810,"æīĵ好":109811,"ç͵åĬ¨æ±½è½¦":109812,"ä¸įæĺİçϽ":109813,"éĢĻ裡":109814,"çĽĽå¤§":109815,"çİĭæľĿ":109816,"åĨįä¸Ģ次":109817,"åĬŀåħ¬åİħ":109818,"è´¨æĬ¼":109819,"åIJĪåĩ»":109820,"人们对":109821,"éĽ¶é£Ł":109822,"éĥ½ä¸įçŁ¥éģĵ":109823,"çļĦè¯Ńè¨Ģ":109824,"åĭŁéĽĨèµĦéĩij":109825,"åĬ¨èĦī":109826,"彤":109827,"è¿Ļåĩłå¹´":109828,"çŁŃè§Ĩé¢ij":109829,"太é«ĺ":109830,"常å§Ķä¼ļ":109831,"åĬłçıŃ":109832,"éĩįå¿ĥ":109833,"åªĴä½ĵæĬ¥éģĵ":109834,"没æ³ķ":109835,"éĹ»åIJį":109836,"çĥŃ度":109837,"å¹¿æ³ĽçļĦ":109838,"åħŃ大":109839,"çī©ä½ĵ":109840,"ä¸į该":109841,"é¢ĺ主":109842,"精彩çļĦ":109843,"ä¸ºè¿Ľä¸ĢæŃ¥":109844,"èĻŀ":109845,"åĽºçĦ¶":109846,"è´µå·ŀçľģ":109847,"çºłç»ĵ":109848,"代çIJĨ人":109849,"æ³ķå®ļ代表":109850,"åı¦ä¸Ģç§į":109851,"ä¸įåIJ«":109852,"æĭ¯æķij":109853,"ä¼ļç»Ļ":109854,"è¯Ĺè¯į":109855,"åIJĮç±»":109856,"å¾Ĺä¸įåΰ":109857,"æĬĵç´§":109858,"以åħ¶":109859,"åħ¥åħļ":109860,"è¿ĺåı¯":109861,"æľŁåĪĬ":109862,"å¾Īå¤ļæĹ¶åĢĻ":109863,"æĹ¥åIJİ":109864,"åħ¬çº¦":109865,"ä¸Ģ举":109866,"æ¯Ķè¾ĥå¤ļ":109867,"éĩijæ²Ļ":109868,"æįŀ":109869,"æİĴåĩº":109870,"æŃ¦æľ¯":109871,"ä¸įæĸ·":109872,"ä¸ŃèĢĥ":109873,"ä¿¡èµĸ":109874,"ä»İä¸ļ人åijĺ":109875,"çģ«çĦ°":109876,"éĨĴæĿ¥":109877,"ä½İ温":109878,"éĢ¾æľŁ":109879,"åĬ±å¿Ĺ":109880,"éħ¥":109881,"åı¯è°ĵæĺ¯":109882,"è¿ĻæĦıåij³çĿĢ":109883,"é¢łè¦Ĩ":109884,"åĮĹ京大åѦ":109885,"ä¸ĵ线":109886,"åıĬ以ä¸Ĭ":109887,"訪":109888,"èĢĮåIJİ":109889,"çŁ¥ä¹İ":109890,"ä¸Ģ对ä¸Ģ":109891,"å¨ĥå¨ĥ":109892,"çģ¾éļ¾":109893,"åħ¨å±Ģ":109894,"æīĢå¾Ĺç¨İ":109895,"å®ŀæĥł":109896,"èļĤèļģ":109897,"ä¹ŁçŁ¥éģĵ":109898,"温åĴĮ":109899,"èIJ½ä¸ĭ":109900,"åŀĭä¼ģä¸ļ":109901,"åĨįä¹Ł":109902,"ä¾ĽçĥŃ":109903,"é«ĺæ½®":109904,"çĢı覽åύ":109905,"çļĦ巨大":109906,"åħĪ天":109907,"å¹´ä¸ŃåĽ½":109908,"类似çļĦ":109909,"çIJĨäºĭä¼ļ":109910,"空éĸĵ":109911,"ç쵿ĦŁ":109912,"åĬĽæ°Ķ":109913,"带ä¸Ĭ":109914,"ä¸į好æĦıæĢĿ":109915,"æľīä½ķ":109916,"å·²åľ¨":109917,"åıĸåĩº":109918,"è¿Ŀæ³ķçĬ¯ç½ª":109919,"åŃ¦ä¹łè´¯å½»":109920,"åľ°å¸¦":109921,"楼梯":109922,"çŃīæĥħåĨµ":109923,"ä»İåīį":109924,"çļĦä¹łæĥ¯":109925,"ç³Łç³ķ":109926,"å°±èĥ½å¤Ł":109927,"è©ķ":109928,"ä¸Ģå¾ĭ":109929,"æĮ«æĬĺ":109930,"åİŁæĸĩåľ°åĿĢ":109931,"å½ĵå±Ģ":109932,"ä¸įéĢļ":109933,"æķ°åįĥ":109934,"éĺŁä¼į建设":109935,"æĹ¶èĬĤ":109936,"åģļèµ·":109937,"çļĦè®°å¿Ĩ":109938,"ç½ij绾å®īåħ¨":109939,"åĩ¡æĺ¯":109940,"æ°¯":109941,"éĽķåĪ»":109942,"åŁĥåıĬ":109943,"æĪijåı¯ä»¥":109944,"çĽijçIJĨ":109945,"æĽ´åħ·":109946,"åŁİ管":109947,"èĭ¯":109948,"åı¥åŃIJ":109949,"èĭ¥æľī":109950,"ä»İæĿ¥ä¸į":109951,"缸åħ³è´Łè´£":109952,"å®īåħ¨æĦŁ":109953,"æĽ´è¦ģ":109954,"çļĦæĥħæĦŁ":109955,"çī¢çī¢":109956,"è¾ĥ好çļĦ":109957,"æ°®":109958,"ç¬ijè¯Ŀ":109959,"车å±ķ":109960,"ä¹ĭç¾İ":109961,"ç®Ģ约":109962,"ç±»åŀĭçļĦ":109963,"èĢģåĮĸ":109964,"çľĭä½ł":109965,"è¿ĩåĪĨ":109966,"éŨåīį":109967,"ä¸ĢéĹ´":109968,"æĥ³åİ»":109969,"åªĽ":109970,"åľŁè±Ĩ":109971,"åıĪç§°":109972,"ä¸Ńä¿¡":109973,"åŃĺéĩı":109974,"马äºij":109975,"èĩ´ä½¿":109976,"åħĪåīį":109977,"èĢģåŃIJ":109978,"æīĵæī®":109979,"æ¯ķä¸ļäºİ":109980,"æ¯ķä¸ļåIJİ":109981,"ç¾İ好çĶŁæ´»":109982,"å·¥ä¸ļä¼ģä¸ļ":109983,"就好äºĨ":109984,"èħIJèļĢ":109985,"çıįçıł":109986,"åΰè¿ĻéĩĮ":109987,"æīĢéľĢçļĦ":109988,"è¿Ļæĺ¯åĽłä¸º":109989,"çIJĨæĥ³çļĦ":109990,"å·®å¼ĤåĮĸ":109991,"é®":109992,"é®®":109993,"äºļ太":109994,"æĹłç©·":109995,"æıIJçݰ":109996,"ä¸ĵä¸ļæĬĢæľ¯":109997,"çĶ¢æ¥Ń":109998,"åѦåŃIJ":109999,"ç§ijå¹»":110000,"åįłåľ°éĿ¢ç§¯":110001,"ä¸įåĩĨ":110002,"æľªæĪIJ年人":110003,"æĶ¶å½ķ":110004,"è¿ĺ款":110005,"éĴ¢çŃĭ":110006,"æ¼¢":110007,"å¾ĹæĦı":110008,"综åIJĪä½ĵ":110009,"æŀģé«ĺ":110010,"åįķè¯į":110011,"é«ĺæķĪçļĦ":110012,"骨头":110013,"æī§çĿĢ":110014,"缼ä¸ĸ":110015,"模çī¹":110016,"æĽ´èĥ½":110017,"ç»ĿæľĽ":110018,"对åºĶçļĦ":110019,"æ¨Ĭ":110020,"æĸ°ä¸ī":110021,"æĸ°ä¸īæĿ¿":110022,"æģ°æģ°":110023,"åIJįå®¶":110024,"æł¸å¿ĥæĬĢæľ¯":110025,"个å°ı":110026,"æĢİä¹Īä¼ļ":110027,"说ä¸įå®ļ":110028,"西çĵľ":110029,"åĵİ":110030,"ç¢Ł":110031,"å¿ħä¸įåı¯":110032,"å¿ħä¸įåı¯å°ij":110033,"ä¹ĭéĸĵ":110034,"åĪĨ管":110035,"交éĢļäºĭæķħ":110036,"å¼ĢåĬŀ":110037,"å¾ģæ±ĤæĦıè§ģ":110038,"亨":110039,"鼻åŃIJéĥµ":110040,"鼻åŃIJéĥµä»¶":110041,"ä¿¡æģ¯æľįåĬ¡":110042,"ä½łè§īå¾Ĺ":110043,"缴è§Ĥ":110044,"å·²å®ĮæĪIJ":110045,"åĪĨä¼ļ":110046,"åĽŀåįĩ":110047,"éļ»":110048,"好人":110049,"äºĨè§£ä¸Ģä¸ĭ":110050,"å᫿µ´":110051,"æľĢçα":110052,"åºŀ大":110053,"客æĪ¿":110054,"çijŀåħ¸":110055,"éĥ½ä¸įæĺ¯":110056,"館":110057,"èĹī":110058,"çļĦåIJĦ项":110059,"ä¸ºçĽ®æłĩ":110060,"çļĦè®¤çŁ¥":110061,"å½±åĵįåĬĽçļĦ":110062,"å¤¸å¼ł":110063,"佩æĪ´":110064,"æ±ĩçİĩ":110065,"çļĦçαæĥħ":110066,"æĺ¥é£İ":110067,"æĺ¯æĪijçļĦ":110068,"樹":110069,"åįĬå°ıæĹ¶":110070,"å±±åİ¿":110071,"山西çľģ":110072,"èĢĮè¿Ļ":110073,"æĽ´å¤ļä¿¡æģ¯":110074,"è¿ĺæľīä¸ĢäºĽ":110075,"ç²¾ç»ĨåĮĸ":110076,"ç¾İåѦ":110077,"çͱæĸ¼":110078,"ä»ħä¾ĽåıĤèĢĥ":110079,"å¾Īé«ĺçļĦ":110080,"åıłåĬł":110081,"è¿Ļä¹Ī说":110082,"å±ķåĩº":110083,"åĽĽå¤Ħ":110084,"ä¸ĩå®¶":110085,"æĭĽåĭŁ":110086,"çļĦ强大":110087,"æĤ£æľī":110088,"å°ıäºİ":110089,"ä¹Łè®¸æĺ¯":110090,"对èĩªå·±çļĦ":110091,"èģĮä¸ļæķĻèĤ²":110092,"æĿ¥è¿Ľè¡Į":110093,"档次":110094,"æīĵèµ¢":110095,"éĥ½æľīçĿĢ":110096,"庸":110097,"è¯Ńæ°Ķ":110098,"çͲéĨĽ":110099,"空åĨĽ":110100,"车åĨħ":110101,"åĽłä¸ºä½ł":110102,"å®ŀæķĪ":110103,"æĥħä¾£":110104,"åıijè¾¾åĽ½å®¶":110105,"éķľåŃIJ":110106,"æ¯įå©´":110107,"ä½Ĩæĺ¯ä»ĸ":110108,"积æŀģæİ¨è¿Ľ":110109,"大å¹ħ度":110110,"çļĦ女åĦ¿":110111,"é¤IJæ¡Į":110112,"åIJ¬å¾Ĺ":110113,"çļĦ积æŀģæĢ§":110114,"好åIJ§":110115,"æĹ¥æ¶Īæģ¯":110116,"æľīä»»ä½ķ":110117,"æ¯Ĵåĵģ":110118,"æĹ©çĤ¹åĬłçĽŁ":110119,"第ä¸Ģ天":110120,"å°½åĬĽ":110121,"æłĸ":110122,"主æīĵ":110123,"æĺ¯ä¸ĢåIJį":110124,"çĪĨæĸĻ":110125,"äºĭä¸ļåıijå±ķ":110126,"å¾®åķĨ":110127,"äºİä¸Ģä½ĵçļĦ":110128,"çĶŁçĮª":110129,"èĩªçĦ¶èµĦæºIJ":110130,"çŀĦåĩĨ":110131,"è§Ħ模åĮĸ":110132,"å¹¶ä¸İ":110133,"èĤ¥èĥĸ":110134,"å®¶ç͍":110135,"大çĪ·":110136,"é¢ĦåijĬ":110137,"æĿ¥åģļ":110138,"éĺ³åİ¿":110139,"æŀĦçŃij":110140,"é¢ģå¥ĸ":110141,"åİĨåı²æĸĩåĮĸ":110142,"æľįåĭĻæĪĸ":110143,"æĢ»åĨ³èµĽ":110144,"åıijåŀĭ":110145,"æĪij羣çļĦ":110146,"æĽ¦":110147,"åıĤä¼ļ":110148,"èĦĨå¼±":110149,"åĩĨåħ¥":110150,"èħ¹éĥ¨":110151,"åı¸ä»¤":110152,"æĤ²åī§":110153,"天ä¸Ĭ":110154,"åı£ä¸Ń":110155,"ä¸ĩ个":110156,"åѦä¸ļ":110157,"æıIJåĢ¡":110158,"两边":110159,"大èĤ¡ä¸ľ":110160,"åı¤éķĩ":110161,"è¡Ģç³ĸ":110162,"çļĦç¨ĭ度":110163,"æ£īèĬ±":110164,"åIJİåı°":110165,"å°±åĮ»":110166,"æķ´æķ´":110167,"èĴ²":110168,"çĽĪåĪ©èĥ½åĬĽ":110169,"ç±½":110170,"èĦ«":110171,"çľĭéĩį":110172,"å®¶éķ·":110173,"èģĺç͍":110174,"èµĽéģĵ":110175,"åīįèĢħ":110176,"建èѰ":110177,"å¾ĭå¸ĪäºĭåĬ¡":110178,"èīºæľ¯åĵģ":110179,"æľīèĩªå·±çļĦ":110180,"åIJ¦å®ļ":110181,"ç¤¾åĽ¢":110182,"åij¨äºĶ":110183,"带åΰ":110184,"å·¥ä½ľä¼ļè®®":110185,"èĤ¡æľ¬":110186,"å¤ĸåĮħ":110187,"å®¶åħ¬åı¸":110188,"çĽijçĭ±":110189,"èĪĬ":110190,"åIJįæł¡":110191,"西æ¹ĸ":110192,"è¶ħè¿ĩäºĨ":110193,"åįĹå±±":110194,"ç»Ħä»¶":110195,"å̼å¾Ĺ注æĦı":110196,"æĮ£æīİ":110197,"äºĭ迹":110198,"ç¶ĵçĩŁ":110199,"ç§ij室":110200,"好åIJĹ":110201,"æ¤ħåŃIJ":110202,"åľĪåŃIJ":110203,"ä½Ĩ她":110204,"æµģçķħ":110205,"åIJĦèĩªçļĦ":110206,"èģĮåijĺ":110207,"è¡įçĶŁ":110208,"åħ¨åľº":110209,"æĴ¤éĶĢ":110210,"åį´è¢«":110211,"å®ģéĿĻ":110212,"åīįæīĢ":110213,"åīįæīĢæľª":110214,"åīįæīĢæľªæľī":110215,"主ä¸ļ":110216,"åĮĹç¾İ":110217,"è¯Ħå®ļ":110218,"åĵģå°Ŀ":110219,"大家éĥ½åľ¨":110220,"主å¸ħ":110221,"ç»Ĩå¿ĥ":110222,"ä¿¡æģ¯æĬ«éľ²":110223,"çļĦç«ŀäºī":110224,"éĢĻæ¨£çļĦ":110225,"ç§ijåĪĽæĿ¿":110226,"éĩĩæijĺ":110227,"票æį®":110228,"éĢIJå¹´":110229,"èĭ±è¶ħ":110230,"è¡Įä¸ļåĨħ":110231,"人寿":110232,"åIJİåĭ¤":110233,"å¦ĤæĦı":110234,"ç¬Ķè¯ķ":110235,"æ·¡æ·¡çļĦ":110236,"ä¸įèĪĴæľį":110237,"ä½ĵ积":110238,"ä¹Łä¸įè¦ģ":110239,"éĿ¢æĸĻ":110240,"æł·æľ¬":110241,"ç¥ģ":110242,"æĮīè§Ħå®ļ":110243,"大æ¦Ĥæĺ¯":110244,"æĥħåĨµè¿Ľè¡Į":110245,"åIJĦåįķä½į":110246,"çļĦç¬ij容":110247,"åĩºèī²çļĦ":110248,"代表æĢ§":110249,"çļĦç¾İ好":110250,"éĴ¦":110251,"å¾®çĶŁçī©":110252,"è¶Ĭæĺ¯":110253,"æĸ¹åı¯":110254,"å¹²èĦĨ":110255,"éģĬæĪ²":110256,"çļĦåħ´è¶£":110257,"éĹ®è´£":110258,"åĽłä¸ºæĪij们":110259,"èĢĥéĩı":110260,"çĶŁçĶŁ":110261,"éĺ»åĬĽ":110262,"ä¸įåħģ许":110263,"æıIJè®®":110264,"åĩıæĮģ":110265,"åıªæĺ¯ä¸Ģ个":110266,"æĪijæĬĬ":110267,"åıijçݰèĩªå·±":110268,"å¢ŀå¹ħ":110269,"å¦į":110270,"èĹĿè¡ĵ":110271,"ä¸Ģ家人":110272,"åĪĨ级":110273,"çļĦæķ°éĩı":110274,"è½®èŀįèµĦ":110275,"çŃīåĽłç´ł":110276,"大夫":110277,"èģĺ请":110278,"é£İæľº":110279,"绽æĶ¾":110280,"ä»»ä½ķä¸Ģ个":110281,"éłĤ":110282,"éĺ¶çº§":110283,"æĬĬ她":110284,"è¿ĽåĨĽ":110285,"èĥ½åģļåΰ":110286,"åŁ¹è®ŃæľºæŀĦ":110287,"çĸĻ":110288,"ç«¥è¯Ŀ":110289,"æĮĩ导æĦıè§ģ":110290,"éĺ®":110291,"æ·±åħ¥æİ¨è¿Ľ":110292,"ä¸»æľº":110293,"æ¸Ķä¸ļ":110294,"ä¸įæľį":110295,"æµĵéĥģ":110296,"è¡Ĺä¸Ĭ":110297,"ä¾Ŀ次":110298,"æĹ¶æ®µ":110299,"梵":110300,"çļĦåĸľçα":110301,"å¾Īéķ¿":110302,"åĪĿ级":110303,"æŀľæĸŃ":110304,"æĬ¢æķij":110305,"é¼ĵèĪŀ":110306,"ä¾ĽéľĢ":110307,"æ·±åħ¥å¼Ģå±ķ":110308,"产ä¸ļéĽĨ群":110309,"åĻªéŁ³":110310,"åIJ¬çĿĢ":110311,"æ·±åĪ»çļĦ":110312,"å¿įåıĹ":110313,"ç͵ç£ģ":110314,"强èĢħ":110315,"æ»ĭåij³":110316,"æĽ¼èģĶ":110317,"åı¯ä»¥çĽ´æİ¥":110318,"大米":110319,"æŃ·åı²":110320,"æĶ¿åĬ¡æľįåĬ¡":110321,"åħ¬å¼ı":110322,"社群":110323,"éģĵ士èģĮä¸ļ":110324,"ä¹ĭæĥħ":110325,"æµ·æ°´":110326,"æ¼Ķå¥ı":110327,"åºĹéĩĮ":110328,"迹象":110329,"åıijå±ķçIJĨ念":110330,"é«ĺ空":110331,"åij¨åĪĬ":110332,"åĽŀåΰäºĨ":110333,"ä¸įéĢĤåIJĪ":110334,"åłµå¡ŀ":110335,"åĬĪ":110336,"æ°´ä¸Ĭ":110337,"çĢijå¸ĥ":110338,"纳ç¨İ人":110339,"çĩĥæ²¹":110340,"å·¥ç¨ĭé¡¹çĽ®":110341,"峡谷":110342,"æľīéĴĪ对æĢ§":110343,"åľĨå½¢":110344,"æľ¬å¸Ĥ":110345,"è¿Ļè¯Ŀ":110346,"管çIJĨèĢħ":110347,"ç¡®è¯ĬçĹħä¾ĭ":110348,"æĬĬæīĭ":110349,"彩èī²":110350,"ä¸Ĭåīį":110351,"夯å®ŀ":110352,"ç¾ĬèĤī":110353,"å¾Ģå¹´":110354,"æĵħèĩª":110355,"迷人":110356,"èĪªæ¯į":110357,"ç²¾ç»Ĩ":110358,"åľ¨æĪijçļĦ":110359,"åĪĽæĬķ":110360,"麦åħĭ":110361,"æľĪç»ı":110362,"åĮĹæµ·":110363,"ä¹ĭæĺŁ":110364,"åı¶åŃIJ":110365,"å¸Ĥåľºç«ŀäºī":110366,"è¿Ļäºĭ":110367,"åıĥèĪĩ":110368,"äº§åľ°":110369,"åĶī":110370,"åķĨåĵģæĪ¿":110371,"èĪªè¿IJ":110372,"ä¼ĺå¼Ĥ":110373,"ä»ĸ们æĺ¯":110374,"éĽ¨æ°´":110375,"è¯įæ±ĩ":110376,"åĨľçͰ":110377,"欧éĺ³":110378,"çŁŃ线":110379,"管ç½ij":110380,"æł¹åŁº":110381,"åıªæľīä¸Ģ个":110382,"éŀĭåŃIJ":110383,"å¸Ĥå§Ķ书记":110384,"åĪ»æĦı":110385,"è¡Į车":110386,"åıĪ被":110387,"åı¯éĿłæĢ§":110388,"è´±":110389,"ä»»åij½":110390,"åºĶåľ¨":110391,"å°±å¾Ĺ":110392,"æľįåĬ¡ä½ĵç³»":110393,"æĶ¿æĿĥ":110394,"åıijè¨Ģ人":110395,"è¿ĩå¾Ģ":110396,"两åıª":110397,"èĻ½è¯´":110398,"éĢģä¸Ĭ":110399,"ä»Ģä¹Īäºĭ":110400,"æķ£æĸĩ":110401,"æİĮæİ§":110402,"èĸĦå¼±":110403,"ä¸ĭéĿ¢å°±":110404,"主è¦ģåĨħ容":110405,"å¾Īéĩįè¦ģçļĦ":110406,"就说":110407,"çϽèī²çļĦ":110408,"éĤ£ä¸ªæĹ¶åĢĻ":110409,"ç»ı纪人":110410,"çļĦæ¯į亲":110411,"ç¬Ķè®°æľ¬":110412,"åºķå±Ĥ":110413,"è¿ij代":110414,"解说":110415,"è²łè²¬":110416,"æľĢ大åĮĸ":110417,"åķĨéĵº":110418,"æł¡åıĭ":110419,"æ²ģ":110420,"ä¸įåĩºæĿ¥":110421,"éĻ·éĺ±":110422,"ç¨ħ":110423,"åħ¬å¸ĥäºĨ":110424,"åĩĢå̼":110425,"çĽ¸å¯¹è¾ĥ":110426,"笼":110427,"æł¸ç®Ĺ":110428,"åįİ侨":110429,"æĢ¥æķij":110430,"æĮºå¥½":110431,"åħĴç«¥":110432,"äºĮèĥİ":110433,"åĩºèĩª":110434,"åĿŁ":110435,"æīĭä¸ĭ":110436,"屡":110437,"åĪĽéĢłæĢ§":110438,"ä¸¥æł¼æĮīçħ§":110439,"åĨįåİ»":110440,"举缣":110441,"人æµģ":110442,"äºĨä¸Ģ声":110443,"å°ıæĹ¶åīį":110444,"è´µæĹı":110445,"éľĸ":110446,"ä¹Łæĺ¯éĿŀ常":110447,"é̱":110448,"çľĭäºĨçľĭ":110449,"ç¹ģæ®ĸ":110450,"èĩ³æŃ¤":110451,"é¢Ħå¤ĩ":110452,"å¾Īæĺİæĺ¾":110453,"æ¼Ķèīº":110454,"åĿIJçĿĢ":110455,"ä¿ĦåĨĽ":110456,"åľ¨è¿ĩåİ»":110457,"ä¹ĭäºĭ":110458,"æĬĵèİ·":110459,"åĿIJä¸ĭ":110460,"çͱä¸ŃåĽ½":110461,"ä¹Łå¼Ģå§ĭ":110462,"çŃĶå¤į":110463,"åŀĥåľ¾åĪĨç±»":110464,"éĴĵé±¼":110465,"åIJĦ種":110466,"缸éģĩ":110467,"ä¸įåģľçļĦ":110468,"æī¹éĩı":110469,"éĩįè¦ģä½ľç͍":110470,"å§Ķå±Ī":110471,"åħŃå¹´":110472,"ä¸ĥåįģ":110473,"ä¹ĭæĪĺ":110474,"é£İéĻ©ç®¡çIJĨ":110475,"éŁ³æ¨Ĥ":110476,"è¡ĮæĶ¿å¤Ħç½ļ":110477,"æľ¬äºĭ":110478,"æĴ°åĨĻ":110479,"èģļåIJĪ":110480,"éĢĤæĹ¶":110481,"æIJ¬å®¶":110482,"ç¢İçīĩ":110483,"çĽĽå®´":110484,"ç®Ģæ´ģ":110485,"åı¬éĽĨ":110486,"ç®ĢåĮĸ":110487,"åĮĹ京æĹ¶éĹ´":110488,"第ä¸īå±Ĭ":110489,"æĿ¥åĽŀ":110490,"常ç͍çļĦ":110491,"京津":110492,"京津åĨĢ":110493,"梦幻":110494,"è¯ķè¡Į":110495,"æľºåºĬ":110496,"åΰæľĢåIJİ":110497,"åĬ©æīĭ":110498,"åĪĨ彩":110499,"åĩºåĵģ":110500,"åĪ¹è½¦":110501,"åIJ¯åıij":110502,"ä¾§éĿ¢":110503,"æ¯ıå½ĵ":110504,"缸åħ³è§Ħå®ļ":110505,"ä¸ĸ人":110506,"è´Ń车":110507,"å¿ĥ缮":110508,"å¿ĥ缮ä¸Ń":110509,"äºĶéĩij":110510,"è¿ĺè®°å¾Ĺ":110511,"ä¾ĿçĦ¶æĺ¯":110512,"æıIJæ¡Ī":110513,"ç͵åķĨå¹³åı°":110514,"åģļåΰäºĨ":110515,"æĿľç»Ŀ":110516,"å®īåįĵ":110517,"ä¸ĸçķĮåIJĦåľ°":110518,"åīįéĢĶ":110519,"æ´ĹåĩĢ":110520,"å¥ĭåĬĽ":110521,"åŁİå¸Ĥ建设":110522,"å¤ļåĬŁèĥ½":110523,"ä¼ļéĢłæĪIJ":110524,"åıijå¸ĥä¼ļä¸Ĭ":110525,"究竣æĺ¯":110526,"åĪĨ红":110527,"çŁ¥èŃĺ":110528,"éĿ¢æĿ¿":110529,"æĹłå£°":110530,"æĢ¥éľĢ":110531,"å¤±çľł":110532,"çΏå¦Ī":110533,"äºĤ":110534,"åħ¨æĻ¯":110535,"ç»ıåħ¸çļĦ":110536,"åī§ä¸Ń":110537,"é¢Ĩ导ä¸ĭ":110538,"åħļåĨħ":110539,"åħ¥ä¾µ":110540,"æĭīæĸ¯":110541,"ä¸Ģå¹ķ":110542,"åĬłä¹ĭ":110543,"èĤĨ":110544,"èĭ±æł¼":110545,"èĭ±æł¼åħ°":110546,"å·§åħĭ":110547,"å·§åħĭåĬĽ":110548,"ä¸Ģå¿ĥ":110549,"èģĤ":110550,"å¾Ģå¾Ģæĺ¯":110551,"管çIJĨå±Ĥ":110552,"çĻ»åħ¥":110553,"建ç«ĭèµ·":110554,"å»ºåĽ½":110555,"åŃIJ宫":110556,"åºĶä»ĺ":110557,"æİ¢ç©¶":110558,"第ä¸Ģä½į":110559,"ä½Ļå®¶":110560,"çŃīæ´»åĬ¨":110561,"æīĢèĩ´":110562,"è¾ĥå¿«":110563,"æĺ¯éĿŀ":110564,"æıIJåIJį":110565,"äºĮèĢħ":110566,"åıªåī©ä¸ĭ":110567,"åħ¶ä¸ŃåĮħæĭ¬":110568,"ç¼ĸç¨ĭ":110569,"çł´ç¢İ":110570,"ä¸Ń举":110571,"å·¥ä½ľæĬ¥åijĬ":110572,"çѾåIJį":110573,"éħĴä¸ļ":110574,"çŁ¥æĻĵ":110575,"çĥŃå¿ĥ":110576,"éĿŀåĩ¡":110577,"èIJ¥ä¸ļæī§":110578,"èIJ¥ä¸ļæī§çħ§":110579,"人大代表":110580,"ä¸Ģ个æĸ°çļĦ":110581,"å¨ģæµ·":110582,"éĤ£äºº":110583,"涨价":110584,"æ¶ĪçģŃ":110585,"éļ¾å¿ĺ":110586,"ç¶ĵé©Ĺ":110587,"åı£è¢ĭ":110588,"ç³»æķ°":110589,"æĸĩä¸Ń":110590,"好转":110591,"æĸ°éĽ¶åĶ®":110592,"讲述äºĨ":110593,"å¼ĢçĽĺ":110594,"çķĻç»Ļ":110595,"æħ¢æħ¢çļĦ":110596,"æĤ²ä¼¤":110597,"æľ¬æľŁ":110598,"äºĨå¤ļå°ij":110599,"è¿Ļ让":110600,"åIJĮçŃī":110601,"æ¸ħæĺİ":110602,"个åŁİå¸Ĥ":110603,"æºĸåĤĻ":110604,"åĩłä¹İæĺ¯":110605,"强åĬĽ":110606,"俯":110607,"水稻":110608,"åĽºå®ļçļĦ":110609,"æł¸åĩĨ":110610,"说æľį":110611,"顯示":110612,"è¿Ļå¥Ĺ":110613,"æĻºæħ§åŁİå¸Ĥ":110614,"å±ĭé¡¶":110615,"ä¸įæĿ¥":110616,"çĶŁé²ľ":110617,"çŁ¥æĥħ":110618,"æĬķ身":110619,"åijĬè¯īæĪij们":110620,"ä¸īåĽĽ":110621,"ä¸ĩä¸Ģ":110622,"è¾Ĩ车":110623,"为ä¹ĭ":110624,"åΰæĹ¶åĢĻ":110625,"è¿Ļæīįæĺ¯":110626,"åIJįçīĮ":110627,"åºŁæ°´":110628,"åݻ年åIJĮæľŁ":110629,"å¹´éĻIJ":110630,"éģĭåĭķ":110631,"åıĮçľ¼":110632,"è¦ģç´§":110633,"对çŃĸ":110634,"åľºé¦Ĩ":110635,"çϾç§ij":110636,"è¶Ĭéĩİ":110637,"å¯ĮåIJ«":110638,"大å¤ļæķ°äºº":110639,"æľĢå°ij":110640,"åı¬åͤ":110641,"åħ¸èĮĥ":110642,"åĨľæľº":110643,"æŃ£æĸĩ":110644,"åºĶç͍äºİ":110645,"æ·±èĢķ":110646,"ä¿Ń":110647,"ä»Ģä¹Īä¸ľè¥¿":110648,"å¥Ĺé¤IJ":110649,"å½ĵéĢī":110650,"å·¦æīĭ":110651,"è°ĥçIJĨ":110652,"æĻļé¤IJ":110653,"éļ¾åħ³":110654,"åĩŃè¯ģ":110655,"çĪ±äºº":110656,"æĮĩè´£":110657,"è´£ç¼ĸ":110658,"çļĦä¸Ģ款":110659,"éĵ²":110660,"åįģ个":110661,"èĢ»":110662,"æľįåĬ¡åķĨ":110663,"åľ°çĭ±":110664,"è¿ŀå¿Ļ":110665,"åĽ°æĥij":110666,"çļĵ":110667,"ä¸įåIJĥ":110668,"çİ°åľ¨å·²ç»ı":110669,"çĽĺçĤ¹":110670,"ä¸įåģľåľ°":110671,"管çIJĨ模å¼ı":110672,"è¿Ļ段æĹ¶éĹ´":110673,"椰":110674,"礼åĮħ":110675,"æµģ转":110676,"æī«çłģ":110677,"éĽĨä¸Ńåľ¨":110678,"æ±ĤåĬ©":110679,"åįĬ个":110680,"å¿«éĢŁå¢ŀéķ¿":110681,"å¾Ģä¸ĭ":110682,"è¯ĦåĪĨ":110683,"å°±æĥ³":110684,"åķĨåĬ¡éĥ¨":110685,"æľīéĹ®é¢ĺ":110686,"èİ·åĪ©":110687,"æ¯ĽçĹħ":110688,"æĦŁåºĶ":110689,"è̧":110690,"åĪĨæŃ§":110691,"åĨī":110692,"æĪij们çİ°åľ¨":110693,"è¦ģåĬłå¼º":110694,"å·§å¦Ļ":110695,"èŀºæĹĭ":110696,"åĪĩæį¢":110697,"çĭĦ":110698,"顺çķħ":110699,"å°¤åħ¶æĺ¯åľ¨":110700,"èĬĿ麻":110701,"éļ¾è¿ĩ":110702,"æĹĹå¸ľ":110703,"å¤įåį°":110704,"å¤įåį°ä»¶":110705,"å¿ħéľĢ":110706,"对å¤ĸå¼ĢæĶ¾":110707,"éļ¾åıĹ":110708,"åİŁæĿ¥æĺ¯":110709,"ç®ĹäºĨ":110710,"é«ĺå±±":110711,"离èģĮ":110712,"çµĦç¹":110713,"çµĦç¹Ķ":110714,"å±ģèĤ¡":110715,"çϾ家":110716,"éģĩä¸Ĭ":110717,"æĺĶæĹ¥":110718,"ä¸į容":110719,"çĽij管éĥ¨éŨ":110720,"主æĦı":110721,"æµģåŁŁ":110722,"è·Įå¹ħ":110723,"èĩ³ä¸Ĭ":110724,"åĪ«è¯´":110725,"æĺ¯æ¯Ķè¾ĥ":110726,"å®ıè§Ĥç»ıæµİ":110727,"å¸Ĥåľºä¸»ä½ĵ":110728,"污æŁĵçī©":110729,"æķijæ²»":110730,"丰æĶ¶":110731,"åŃĺæĶ¾":110732,"åĩĦ":110733,"éĩijå±±":110734,"æį¢äºĨ":110735,"ä¸ĵ人":110736,"éĹľæĸ¼":110737,"æĹ¢è¦ģ":110738,"åĽ½è¶³":110739,"éļĭ":110740,"åıįåĩ»":110741,"起身":110742,"åħĪæĺ¯":110743,"å¸ĮæľĽèĥ½å¤Ł":110744,"åĪ¶è®¢":110745,"åºĹéĿ¢":110746,"åĸĢ":110747,"æķĻä½ł":110748,"éĻ῏©":110749,"åĬĽæ±Ĥ":110750,"ä¸īçϾ":110751,"çī©ä»·":110752,"丢失":110753,"å¢Ļä¸Ĭ":110754,"éĥ¨ä»½":110755,"æł·æĿ¿":110756,"ä¹ĭæĦı":110757,"ç½ijå°ıç¼ĸ":110758,"ä¸ĸä¸Ĭ":110759,"è°ĥè¯ķ":110760,"污æŁĵéĺ²æ²»":110761,"å½±éĻ¢":110762,"å®Įåħ¨åı¯ä»¥":110763,"éĢļåħ³":110764,"ä¹īåĬ¡æķĻèĤ²":110765,"没æľīåĬŀæ³ķ":110766,"èĢ¿":110767,"妳":110768,"æĹłæĥħ":110769,"å¾ĹçĽĬ":110770,"å¾ĹçĽĬäºİ":110771,"æľŁçĽ¼":110772,"娱ä¹IJåľº":110773,"çͲæĸ¹":110774,"ä¸Ģæ±½":110775,"çŰ":110776,"çĸijä¼¼":110777,"æĸ°æµªå¾®åįļ":110778,"强è¡Į":110779,"å½ĵä»ĸ":110780,"èĥº":110781,"ç͍æĪ·æıIJä¾Ľ":110782,"åĮºå§Ķ":110783,"æĦ¿æĻ¯":110784,"æĬĺæī£":110785,"失踪":110786,"è¿«åĪĩ":110787,"åŃĹæ¯į":110788,"åĴ¯":110789,"èªįèŃĺ":110790,"ä»Ģä¹ĪæĦıæĢĿ":110791,"çĽĴåŃIJ":110792,"å½ķéŁ³":110793,"建设工ç¨ĭ":110794,"ä¸ļä½Ļ":110795,"å®ŀ践活åĬ¨":110796,"çľŁç©º":110797,"çĤĸ":110798,"åľ¨è·¯ä¸Ĭ":110799,"主è¦ģåĮħæĭ¬":110800,"该æĢİä¹Ī":110801,"æĢ»æľī":110802,"æĢ§æĦŁ":110803,"æ°ijèĪª":110804,"å¼ĢåºĹ":110805,"欺éªĹ":110806,"çªģåĩ»":110807,"缺失":110808,"æī§ä¸ļ":110809,"åľ°éģĵ":110810,"å¹¶æĹł":110811,"æ°ijåĬŀ":110812,"ç»Ħç»ĩçĶŁæ´»":110813,"æĪijå¦Ī":110814,"è¨ĺèĢħ":110815,"管åζ":110816,"æī¾ä¸ª":110817,"èĹ»":110818,"çĤİçĹĩ":110819,"äºĴåĬ©":110820,"æµıè§Īåύ":110821,"çݩ家æĿ¥è¯´":110822,"éĻįä½İäºĨ":110823,"è£Ķ":110824,"æĮ£éĴ±":110825,"åķĨæľº":110826,"æĶ¹è£ħ":110827,"æµģ浪":110828,"æĶ¿æ³ķ":110829,"èĢģ头":110830,"çĶŁäº§åĴĮ":110831,"ç©Ĺ":110832,"亲çα":110833,"亲çαçļĦ":110834,"å±¥èģĮ":110835,"åŁİéĩĮ":110836,"ç»ĨåĪĨ":110837,"åĬ³åĬ¨åIJĪåIJĮ":110838,"åľ¨æĹ¥æľ¬":110839,"å¨ģå°Ķ":110840,"åį«è§Ĩ":110841,"éĢ£çµIJ":110842,"çĿĢéĩį":110843,"æĬĺ磨":110844,"åĽ¾ä¸º":110845,"çľ·":110846,"å·¥åºı":110847,"æĵģ":110848,"æĵģæľī":110849,"ç½ijç«Ļåľ°åĽ¾":110850,"çļĦä¸Ģ大":110851,"ç»Ħç»ĩå®ŀæĸ½":110852,"æĬĽå¼ĥ":110853,"åĴĮæĶ¯æĮģ":110854,"æ³ķåĪĻ":110855,"浪潮":110856,"çݰæľīçļĦ":110857,"åĩłçİĩ":110858,"为客æĪ·":110859,"åįģä¸ĩ":110860,"è¹Ħ":110861,"çªģåĩºéĹ®é¢ĺ":110862,"åıĥåĬł":110863,"éĥ½ä¼ļæľī":110864,"缤":110865,"è°ģéĥ½":110866,"æīĭåĬ¨":110867,"çĽ´è¾¾":110868,"çĤ¹å¤ļ":110869,"éĺ¶å±Ĥ":110870,"ä¸įä½³":110871,"éĤ£æ®µ":110872,"滨海":110873,"æĺ¯åĽ½åĨħ":110874,"æĪijå¸ĮæľĽ":110875,"åIJĽåŃIJ":110876,"è§ĤéŁ³":110877,"åģļé¥Ń":110878,"æ±½è»Ĭ":110879,"åħ³ç¨İ":110880,"çľ¼åīįçļĦ":110881,"æ°´éĿ¢":110882,"èĢ³æľº":110883,"追踪":110884,"æİ¨éĢģ":110885,"éĴ±åĮħ":110886,"æģ¶å¿ĥ":110887,"æµ·åŁŁ":110888,"å·į":110889,"å¼ĢæĿ¥":110890,"表æĢģ":110891,"仪表":110892,"å¹³åİŁ":110893,"åįģå¤ļå¹´":110894,"ä¹ŁæĹłæ³ķ":110895,"åħ¼é¡¾":110896,"è¡£æŁľ":110897,"æł½åŁ¹":110898,"æĪ¿æºIJ":110899,"设ç«ĭäºĨ":110900,"ä¸ĩåIJį":110901,"æķ°é¢Ŀ":110902,"è¦ģåĿļæĮģ":110903,"åIJīæŀĹçľģ":110904,"请èģĶç³»":110905,"ç»ıåİĨè¿ĩ":110906,"çļĦæľ¬è´¨":110907,"åħ¥éŨ":110908,"æľ¬æ¡Ī":110909,"çİĩè¾¾åΰ":110910,"åı°éĺ¶":110911,"éĴŀ":110912,"æĪijèĥ½":110913,"èݲèĬ±":110914,"éĴł":110915,"ä¸Ģäºĭ":110916,"åİŁæľīçļĦ":110917,"æ¯ıåĢĭ":110918,"æ¯Ķäºļ迪":110919,"æ£ĭçīĮ游æĪı":110920,"ä¸įä¼ļæľī":110921,"å½ĴæĿ¥":110922,"äºĶçϾ":110923,"è¿ĩé«ĺ":110924,"éĽ·è¾¾":110925,"ä¸Ģèµ·åİ»":110926,"æķĻ导":110927,"å°±è¯Ĭ":110928,"å°±å¾Ī":110929,"ä¸įåIJĮäºİ":110930,"俺":110931,"å¸ĸåŃIJ":110932,"æĶ¿åįıå§Ķåijĺ":110933,"çĸ«æĥħå½±åĵį":110934,"åĪĨè£Ĥ":110935,"为ä»Ģä¹Īä¼ļ":110936,"äºĶæĺŁ":110937,"å°ijåĦ¿":110938,"æĬ¢éĻ©":110939,"梦è§ģ":110940,"è®°èĢħéĩĩ访":110941,"山路":110942,"æĪij个人":110943,"æ²Ļ滩":110944,"è¹Ń":110945,"æĶ¹è®Ĭ":110946,"æĸ°åŀĭåĨł":110947,"æĸ°åŀĭåĨłçĬ¶":110948,"åĮ»æĬ¤":110949,"åĮ»æĬ¤äººåijĺ":110950,"æµ·å°Ķ":110951,"åħ³äºİæĪij们":110952,"éϤå¤ĸ":110953,"åºļ":110954,"宣åijĬ":110955,"ä¸īåįĥ":110956,"榨":110957,"ç§ijæĬĢ大åѦ":110958,"ä¸ĥåħ«":110959,"顺åºĶ":110960,"çΏçΏå¦Īå¦Ī":110961,"éĢīåıĸ":110962,"åī§çĥĪ":110963,"乡æĿijæĹħ游":110964,"积æŀģæİ¢ç´¢":110965,"表çݰ为":110966,"å¾Īæ¸ħæ¥ļ":110967,"大åĨĽ":110968,"æĿ¥ç͵":110969,"å¥ĹæĪ¿":110970,"çݰè¡Į":110971,"享åıĹåΰ":110972,"çľĭçĤ¹":110973,"åĽºå®ļèµĦ产":110974,"以人为":110975,"ä»¥äººä¸ºæľ¬":110976,"ä¸įå®Į":110977,"éĻį鼨":110978,"åģļçļĦäºĭæĥħ":110979,"å¹¶äºİ":110980,"顽强":110981,"è̏":110982,"åĺ´å·´":110983,"缸åħ³ä¿¡æģ¯":110984,"æĪij没":110985,"æĪĺçķ¥æĢ§":110986,"æĢĿ念":110987,"åĪĺå¤ĩ":110988,"åĬ©æĶ»":110989,"é£İè²Į":110990,"éĿ¢å¯¹éĿ¢":110991,"积æŀģå¼Ģå±ķ":110992,"çĸĹæķĪ":110993,"çľĭ书":110994,"缺åı£":110995,"åĽ½æ°ijç»ıæµİ":110996,"使ç͍æĿĥ":110997,"éģ¥è¿ľ":110998,"å¡«è¡¥":110999,"第ä¸ī人":111000,"åįĬå¤ľ":111001,"æŃ¦æ±īå¸Ĥ":111002,"æĪijåıijçݰ":111003,"ä¼ĺæĥłæĶ¿çŃĸ":111004,"é£İåı£":111005,"å°±ä¸įèĥ½":111006,"为主è¦ģ":111007,"æµģåĩº":111008,"å´ĩæĭľ":111009,"å¹¶ä¸įèĥ½":111010,"é«ĺä¸ī":111011,"ä¸ĸçķĮä¸ĬæľĢ":111012,"æĥ³å¿ħ":111013,"åħ¶æīĢ":111014,"åĢĻéĢī":111015,"åĢĻéĢī人":111016,"ä¸įçα":111017,"åī¯ä½ľç͍":111018,"人æ°ijæĹ¥æĬ¥":111019,"æĪijä¸įæĺ¯":111020,"å®ŀçī©":111021,"ç͵åİĤ":111022,"ä¹Łç®Ĺæĺ¯":111023,"æľīéĹľ":111024,"æľīèĥ½åĬĽ":111025,"æĮĤåľ¨":111026,"çľ¼ä¸ĭ":111027,"约翰":111028,"å°ıåѦçĶŁ":111029,"èµ·åΰäºĨ":111030,"工夫":111031,"åIJĮå¿ĥ":111032,"åĿ¦è¨Ģ":111033,"çłĮ":111034,"åıijæĮ¥äºĨ":111035,"èģĮä¸ļéģĵå¾·":111036,"è¿ĻäºĽå¹´":111037,"念头":111038,"èĢģé¼ł":111039,"åħ¨èµĦ":111040,"åħ¨èµĦåŃIJ":111041,"ä¸Ģåij³":111042,"å¤ļä¸ĩåħĥ":111043,"æł¼æľĥ":111044,"éķ¿éĢĶ":111045,"带走":111046,"èĭ±å¯¸":111047,"æĸĩä½ĵ":111048,"对ä»ĸ们":111049,"åĵŃäºĨ":111050,"å¡«æĬ¥":111051,"çīĪæĿĥ声æĺİ":111052,"çĶµçº¿":111053,"è´Ńçī©ä¸Ńå¿ĥ":111054,"饱满":111055,"ä½İ头":111056,"强迫":111057,"ä¿Ŀæ´ģ":111058,"欧åĨł":111059,"缸è¿ŀ":111060,"认è´Ń":111061,"ç쫿ĺŁ":111062,"é«ĺå°Ķ":111063,"é«ĺå°Ķ夫":111064,"èij«èĬ¦":111065,"æłĩ注":111066,"çļĦçIJĨæĥ³":111067,"æł¸éħ¸":111068,"æł¸éħ¸æ£Ģæµĭ":111069,"åĬī":111070,"ä¸Ģèάæĺ¯":111071,"æĢĿç´¢":111072,"轨迹":111073,"çĥŃ带":111074,"éĻ£":111075,"åĩĨç¡®æĢ§":111076,"æĪ´çĿĢ":111077,"åľ¨çĶŁæ´»ä¸Ń":111078,"æīĢèĥ½":111079,"æľ¯åIJİ":111080,"å¸¦ä½ł":111081,"ç¥ł":111082,"æ®ĭéħ·":111083,"ä¹Łåıªæĺ¯":111084,"çͳè´Ń":111085,"举åĬŀäºĨ":111086,"æľīæĦıä¹ī":111087,"æĹºçĽĽ":111088,"åľ¨ç¶²":111089,"åľ¨ç¶²è·¯ä¸Ĭ":111090,"å¾Ī大ç¨ĭ度":111091,"管è¾ĸ":111092,"çĸ«æĥħæľŁéĹ´":111093,"触æij¸":111094,"éĺ¶æ®µæĢ§":111095,"ä¼ļè§īå¾Ĺ":111096,"çļĦçĶ»éĿ¢":111097,"æİ¥åıĹäºĨ":111098,"表达äºĨ":111099,"éĤĵå°ı":111100,"éĤĵå°ıå¹³":111101,"åħļé£İ":111102,"åħļé£İå»īæĶ¿":111103,"åķĨåѦéĻ¢":111104,"åħijæį¢":111105,"é£Łåĵģèį¯åĵģ":111106,"éĿŀ常好çļĦ":111107,"çľ¯":111108,"纳米":111109,"åĬ¨æijĩ":111110,"åĽŀéģ¿":111111,"çľĭèijĹ":111112,"款项":111113,"åħ«å¹´":111114,"åģļ个":111115,"æĸĩæ¡£":111116,"éĩijèŀįç§ijæĬĢ":111117,"åħ¶ä¸Ńæľī":111118,"äºĨä¸Ģç³»åĪĹ":111119,"æĹĹèΰåºĹ":111120,"ç§°èµŀ":111121,"éĽ¢éĸĭ":111122,"åζåĨ·":111123,"å®¶éŨåı£":111124,"åįģå¤ļ":111125,"ä¼´ä¾£":111126,"çľĭçĹħ":111127,"æĭīçĿĢ":111128,"æīĴ":111129,"çĸ²æĥ«":111130,"å°ijæķ°æ°ijæĹı":111131,"åĽ¾å½¢":111132,"è½§":111133,"å¢ŀéĩı":111134,"饲åħ»":111135,"çģ«å±±":111136,"æ¯ı个æľĪ":111137,"ä½ľä¸ºä¸ĢåIJį":111138,"è½´æī¿":111139,"æĸĩ书":111140,"ç¼ķ":111141,"åħ·ä½ĵæĥħåĨµ":111142,"çĹĽçĤ¹":111143,"缴éĶĢ":111144,"å¡Ĭ":111145,"ä¹Łæľĥ":111146,"çĥŃæ½®":111147,"å¹³æ°ij":111148,"æ¼Ķåͱä¼ļ":111149,"æķĻçłĶ":111150,"éĢĥéģ¿":111151,"ä¸Ģè´¯":111152,"å°±è¶Ĭ":111153,"å®ŀå®ŀåľ¨":111154,"å®ŀå®ŀåľ¨åľ¨":111155,"ä¹łè¿ijå¹³æĢ»":111156,"溺":111157,"å¿ĥåºķ":111158,"éķ¿å¾ģ":111159,"媽媽":111160,"第ä¸ī次":111161,"åĩºæ¼Ķ":111162,"çĭĢæ³ģ":111163,"å°Ķæĸ¯":111164,"代çIJĨåķĨ":111165,"çĨı":111166,"çļĦ对象":111167,"ç͵éĩı":111168,"è¡ĮåĪĹ":111169,"åĽ½äºº":111170,"è·ijäºĨ":111171,"åįĶåĬ©":111172,"èIJ¥è¿IJ":111173,"å¸ĪåħĦ":111174,"榮":111175,"æĥ³åĥı":111176,"æĢ§å¼º":111177,"ç§ijåѦçłĶç©¶":111178,"å»¶å®ī":111179,"ä¸¥æł¼èIJ½å®ŀ":111180,"é¢Ĩä¼ļ":111181,"çĽ¸å·®":111182,"路人":111183,"çĶ«":111184,"æľīä»·å̼":111185,"æľīä»·å̼çļĦ":111186,"ç¾İåĽ¢":111187,"æ°ij主çĶŁæ´»":111188,"æĪijæīį":111189,"ç¾İåĽ½äºº":111190,"æ°Ķåij³":111191,"åıįå°Ħ":111192,"çļĦåĨ³å¿ĥ":111193,"大è±Ĩ":111194,"交代":111195,"è¿Ľåĩº":111196,"åıįæĬĹ":111197,"æĮĩçļĦæĺ¯":111198,"ä»·ä½į":111199,"è¿Ľé©»":111200,"ä¸ĬçϾ":111201,"ä½įåĪĹ":111202,"ä¸ŃåĽ½ä¼ģä¸ļ":111203,"çļĦ好å¤Ħ":111204,"主ç¼ĸ":111205,"汽油":111206,"ä½ĨæĪij们":111207,"æĢİä¹Īçľĭ":111208,"é»Ħå±±":111209,"å¤ļåªĴä½ĵ":111210,"åIJİåį«":111211,"èİ·å¾ĹæĽ´å¤ļ":111212,"åĬ¡å¿ħ":111213,"为å¥ijæľº":111214,"é¦ĸ饰":111215,"ä¸ĩåįļ":111216,"è¶ĬæĿ¥è¶Ĭ大":111217,"ä¸ĵ项è¡ĮåĬ¨":111218,"å¥ĭè¿Ľ":111219,"ä»įçĦ¶æĺ¯":111220,"è´¨æĦŁ":111221,"å¦Ĥæŀľä¸įæĺ¯":111222,"ç«Ļèµ·æĿ¥":111223,"ä¹¾éļĨ":111224,"åı¯æĢķçļĦ":111225,"å¯Įè´µ":111226,"æ¸ħç®Ĺ":111227,"åIJijä¸ĭ":111228,"åĢļ":111229,"çļĦçŃĶæ¡Ī":111230,"èιä¸Ĭ":111231,"çļĦ羣å®ŀæĢ§":111232,"çŃīåĬŁèĥ½":111233,"åĸľåī§":111234,"å¨ģåĬĽ":111235,"æĸ°é¢ĸ":111236,"æł¸ç͵":111237,"æĬ¥éĶĢ":111238,"æķħ乡":111239,"ä¼´éļı":111240,"éŀŃ":111241,"å¦Ĭå¨ł":111242,"åĪĨåĮĸ":111243,"æľīå¾Ī大":111244,"æĢİä¹Ī说":111245,"æĻĤ代":111246,"产åĩº":111247,"ä»ĭç»į说":111248,"å¤ĦçIJĨåύ":111249,"èĨ¨èĥĢ":111250,"åī¯å¸Ĥéķ¿":111251,"çļĦ妻åŃIJ":111252,"æł·åĵģ":111253,"åIJĮæ¯Ķä¸ĭéĻį":111254,"åħĥå·¦åı³":111255,"ç͍èĩªå·±çļĦ":111256,"é«ĺéĽĦ":111257,"æĺ¥æĻļ":111258,"ä¹Łæľīå¾Īå¤ļ":111259,"çľ¼çIJĥ":111260,"æķ£æŃ¥":111261,"ä»ĸ们éĥ½":111262,"第ä¸Ģå®¶":111263,"åĬŀ好":111264,"å®īéĺ²":111265,"ä¸Ģä¸ĩ":111266,"åľ¨éĩĮéĿ¢":111267,"éŁ³é¢ij":111268,"åı£åı·":111269,"ä¸Ģè¶Ł":111270,"ç¦ıçī¹":111271,"é³ŀ":111272,"æĥĬèī³":111273,"æĸ°å¨ĺ":111274,"绿èī²åıijå±ķ":111275,"ä¸Ńå¼ı":111276,"ä¹Łåıªæľī":111277,"çݰ身":111278,"åı¯ä¾Ľ":111279,"æ¯ıä¸Ģ个人":111280,"第ä¸īèĢħ":111281,"åľ°å½¢":111282,"éĴ¢ç»ĵæŀĦ":111283,"çĽijçĿ£æ£ĢæŁ¥":111284,"åı«æĪij":111285,"èĩ´æķ¬":111286,"æ´Ĺæīĭ":111287,"ä¸ĭè°ĥ":111288,"康çĨĻ":111289,"æĪIJ交éĩı":111290,"ä¹ŁæĪIJ为":111291,"åħīæ»ij":111292,"å®Įæķ´æĢ§":111293,"çģ¼":111294,"ç¶²éłģ":111295,"éķ¿å¯¿":111296,"éģ©ç͍":111297,"çļĦä¸Ģ项":111298,"çŀ©çĽ®":111299,"æĬĬèĩªå·±çļĦ":111300,"éĵ¶è¡Įåį¡":111301,"å°±å¿ħé¡»":111302,"ç¾İçϽ":111303,"éŀįå±±":111304,"æľ¬é¢Ĩ":111305,"ä¸Ģç¢Ĺ":111306,"æīĵæ³ķ":111307,"æĤ¨å¥½":111308,"对åŃ©åŃIJ":111309,"æĬ¥éģĵç§°":111310,"ä¼łåĩº":111311,"大èĩ£":111312,"ç¬ĭ":111313,"çĽı":111314,"é¾ļ":111315,"çĽ´çº¿":111316,"æĻºåºĵ":111317,"ç§Łè½¦":111318,"é£İåij³":111319,"çľĭä¸Ģä¸ĭ":111320,"æİ¨éĶĢ":111321,"éĥ¨éĥ¨éķ¿":111322,"è´¨éĩıåĴĮ":111323,"åĪĬçĻ»":111324,"å·¥ä¸ļåĮĸ":111325,"çİĩ为":111326,"鼶件":111327,"硬åĮĸ":111328,"ä¸Ĭåįĥ":111329,"ç»ıéªĮå̼":111330,"å¹³è¡Į":111331,"声éģĵ":111332,"æľįåĬ¡è´¨éĩı":111333,"çĶŁçĶ¢":111334,"æľĢ容æĺĵ":111335,"ä¸Ģæŀļ":111336,"å¹´æĬ¥":111337,"åħ¬ç½ij":111338,"åħ¬ç½ijå®ī":111339,"åħ¬ç½ijå®īå¤ĩ":111340,"çļĦèĥ½éĩı":111341,"å®ŀéĻħè¡ĮåĬ¨":111342,"è¦ģä¸įè¦ģ":111343,"æĹ¥æľ¬äºº":111344,"èĢ¶ç¨£":111345,"ç¼ĸåī§":111346,"æ¶©":111347,"åį°å°¼":111348,"ä¸Ĭä¸ĭ游":111349,"åĩłåı¥":111350,"ä¸Ńéĵģ":111351,"ç°¡åĸ®":111352,"èĩªå¸¦":111353,"çĶŁäºİ":111354,"ä¸Ģåı£æ°Ķ":111355,"åĭ¤å¥ĭ":111356,"éĻįä»·":111357,"å±ķçݰäºĨ":111358,"å¸ĥæĭī":111359,"ä¼ļéĢīæĭ©":111360,"çļĦç»ıåħ¸":111361,"好æľĭåıĭ":111362,"车éģĵ":111363,"æķ´åĢĭ":111364,"åľĵ":111365,"éķ¿æľŁä»¥æĿ¥":111366,"æĬķå½±":111367,"çļĩåĨł":111368,"è¿ĩ大":111369,"åijĬè¯īä»ĸ":111370,"ä¼ģä¸ļæıIJä¾Ľ":111371,"æĬ½è±¡":111372,"éĢĤ度":111373,"çļĦ女åŃ©":111374,"èµ·ä¼ı":111375,"çļĦåĬŁæķĪ":111376,"ä¸ĵ项æķ´æ²»":111377,"åı¯éĢļè¿ĩ":111378,"ä¸įåIJĮç¨ĭ度":111379,"å¼Ĥè®®":111380,"åĩĢèµĦ产":111381,"åijĹ":111382,"ä»Ģä¹Īåij¢":111383,"å·¡éĢ»":111384,"è¸ıä¸Ĭ":111385,"ä½Ĩå®ĥ":111386,"精度":111387,"管å±Ģ":111388,"第ä¸ĢåIJį":111389,"åĨħåŃĺ":111390,"æijĨåľ¨":111391,"åī©ä¸ĭ":111392,"主ä½ĵ责任":111393,"çĤ¹åįĬ":111394,"以èĩ³äºİ":111395,"åħ»èĢģä¿ĿéĻ©":111396,"æĦŁåıĹåΰäºĨ":111397,"çŁ¥åIJįçļĦ":111398,"å¯Į豪":111399,"妥åĸĦ":111400,"åŃĻåŃIJ":111401,"éĵĤ":111402,"说èĩªå·±":111403,"让æĤ¨":111404,"æķ°æİ§":111405,"çļĦçľ¼åħī":111406,"注éĶĢ":111407,"çļĦçģµéŃĤ":111408,"è¿ĺä¸įéĶĻ":111409,"éĹ®ä»ĸ":111410,"èĩªä¸»çłĶåıij":111411,"èĵĭ":111412,"ç´«èī²":111413,"åĽ½å®¶å®īåħ¨":111414,"è¾½å®ģçľģ":111415,"ä¹Łæ¯Ķè¾ĥ":111416,"ç¾İèĤ¡":111417,"ä¸įç¡®å®ļæĢ§":111418,"å¿ĥ头":111419,"æĪ³":111420,"级åĪ«çļĦ":111421,"论述":111422,"çļĦåĽŀçŃĶ":111423,"ä¿Ŀè¯ģéĩij":111424,"çŃīè¡Įä¸ļ":111425,"幸ç¦ıæĦŁ":111426,"æŃ§è§Ĩ":111427,"æľºç¥¨":111428,"派人":111429,"èĩ´åij½":111430,"åĺ´è§Ĵ":111431,"æĸ°éĹ»ä¸Ńå¿ĥ":111432,"æĶ¾å¼ĥäºĨ":111433,"å®ľå±ħ":111434,"åĨĻä¸ĭ":111435,"éĹ®çŃĶ":111436,"è¿ĻéĩĮæĺ¯":111437,"å¤ļåľ°":111438,"åĮºåŁŁåĨħ":111439,"åĸ°":111440,"çľĭä»ĸ":111441,"æī§æ³ķ人åijĺ":111442,"åĬ¨æľº":111443,"éŁ³åĵį":111444,"çļĦåij½è¿IJ":111445,"é¡¶éĥ¨":111446,"åĵŁ":111447,"éĥ½æľĥ":111448,"æīĵéĢłæĪIJ":111449,"æĦıåĽ¾":111450,"çļĸ":111451,"åĢĴåħ¥":111452,"å·´èIJ¨":111453,"åĬ©åѦ":111454,"å¤įåı¤":111455,"åIJ¯ç͍":111456,"åĽ½éĻħå¸Ĥåľº":111457,"åĤ¨èĥ½":111458,"é»ijé¾Ļæ±Łçľģ":111459,"ä¹ĺ车":111460,"è¿IJåĬ¨ä¼ļ":111461,"ä¿ĿåĪ©":111462,"çŁ³æĿIJ":111463,"çµ®":111464,"çĤĴä½ľ":111465,"çļĦä¿¡ä»»":111466,"å°±æĪIJäºĨ":111467,"åı¯è§Ĥ":111468,"çļĩä¸Ĭ":111469,"è¿Ļåĩłå¤©":111470,"ä¸ĢéĶ®":111471,"åĨ·åĨ»":111472,"ä¿Ŀåį«":111473,"æł¸æ¡ĥ":111474,"åIJĪä½ľåħ³ç³»":111475,"éĢģåĩº":111476,"æĹĹä¸ĭçļĦ":111477,"åľ¨ä¹İ":111478,"为广大":111479,"åįĪé¤IJ":111480,"ä¸ĵ访":111481,"æĪĸå°Ĩ":111482,"éĿĴå²Ľå¸Ĥ":111483,"å¥Ķè·ij":111484,"æĹ¥æĬ¥éģĵ":111485,"å¥ijåIJĪ":111486,"æĸ°æĺ¥":111487,"ä¸įå°ıå¿ĥ":111488,"两ä¸ī":111489,"æĦıæĢĿæĺ¯":111490,"åĨ·èĹı":111491,"çļĦçĹĩçĬ¶":111492,"æĢ§åij½":111493,"è¶ħæłĩ":111494,"å¯Ĩ碼":111495,"ç§ijæĬĢèĤ¡ä»½":111496,"äºĨä¸Ģæī¹":111497,"çĿ£å¯Ł":111498,"åªĴä»ĭ":111499,"å°Ħæīĭ":111500,"ä¿®åħ»":111501,"çīĩåĪ»":111502,"éĢĤåIJĪèĩªå·±":111503,"åıªè¦ģæĺ¯":111504,"åIJĥè¿ĩ":111505,"éĩijéĵ¶":111506,"缴å±ŀ":111507,"åѦéĹ®":111508,"åİĭåζ":111509,"çªĹå¤ĸ":111510,"æĶ¶åΰäºĨ":111511,"åħ¨åĽ½äººå¤§":111512,"ä½Ĩæĺ¯å¯¹äºİ":111513,"åľ¨æķ´ä¸ª":111514,"çļĦèĥĮåIJİ":111515,"åĩıå°ijäºĨ":111516,"åıįèħIJ":111517,"åıįèħIJåĢ¡":111518,"åıįèħIJåĢ¡å»ī":111519,"æĹ·":111520,"åĪĨæľŁ":111521,"åľ¨æ·±åľ³":111522,"æīĵçĿĢ":111523,"æī«ä¸Ģ":111524,"æī«ä¸Ģæī«":111525,"æĶ¿åºľéĥ¨éŨ":111526,"æİ¥è¿ŀ":111527,"å±ŀäºİèĩªå·±":111528,"åŃIJå¼¹":111529,"åIJĮæł·æĺ¯":111530,"æĢ»åħ±":111531,"车ä¼ģ":111532,"æ¢ĵ":111533,"åħ¬é¡·":111534,"åıij声":111535,"éĴĽ":111536,"èµ°åĬ¿åĽ¾":111537,"主èIJ¥":111538,"åĸĶ":111539,"æķ°æį®åĪĨæŀIJ":111540,"ä¸įè¿ľ":111541,"æľīåIJį":111542,"æľīåIJįçļĦ":111543,"åģ¿è¿ĺ":111544,"å¾Īä½İ":111545,"è®ĵ人":111546,"èĿī":111547,"é«ĺè´µ":111548,"å°ij许":111549,"æ°Ł":111550,"å¹¢":111551,"亲æĥħ":111552,"è¿Ļä»¶äºĭæĥħ":111553,"ç͍é¤IJ":111554,"缸åħ³æĸ°éĹ»":111555,"å°±åºĶ该":111556,"ç»ĪçĤ¹":111557,"æĺ¯å¤ļå°ij":111558,"çĻ»åľº":111559,"è¯ķ管":111560,"è¯ķ管婴åĦ¿":111561,"åģļ大":111562,"åģļ大åģļ强":111563,"çļĦä¾ĭåŃIJ":111564,"åħ«ä¸ª":111565,"æĺİæĹ¥":111566,"çĤ³":111567,"èµ°åİ»":111568,"éģº":111569,"墩":111570,"ä½ĵä¼ļåΰ":111571,"åĴı":111572,"ä¸ĭè¾¾":111573,"å¤įåıij":111574,"追éĢIJ":111575,"æīĵåĵį":111576,"çļĦéļ±ç§ģæ¬Ĭ":111577,"åħ·æľīä¸Ģå®ļ":111578,"è¿Ļä¹Īå¤ļå¹´":111579,"æłijæŀĹ":111580,"æľĢéķ¿":111581,"åIJĮèĥŀ":111582,"åħīæ³½":111583,"åŁŁåIJį":111584,"æĮĩåIJij":111585,"åıĹ害èĢħ":111586,"æłijèĦĤ":111587,"æľīå¤ļ大":111588,"大éĿ¢ç§¯":111589,"æĹłç¼Ŀ":111590,"æĶ¹æŃ£":111591,"æĽ´å¤ļçļĦæĺ¯":111592,"æľŁæľ«":111593,"æŃ¼":111594,"ä¹īä¹Į":111595,"éĤ£ä½ł":111596,"çļĦ第ä¸Ģ个":111597,"èĮµ":111598,"å°§":111599,"èį«":111600,"ä¸įä»ħåı¯ä»¥":111601,"æ¶Įçݰ":111602,"æĢ»éĿ¢ç§¯":111603,"æĸ°éĹ»åıijå¸ĥ":111604,"æ°ijç͍":111605,"就读":111606,"æīĵè´¥":111607,"å¤ĸè¯Ń":111608,"æĪij们ä¸Ģèµ·":111609,"é¢Ħå®ļ":111610,"çĥ¹é¥ª":111611,"æľĢ主è¦ģ":111612,"æľĢ主è¦ģçļĦ":111613,"çīĮçħ§":111614,"åĽłåħ¶":111615,"ä½İä¸ĭ":111616,"ä¼ļåIJĮ":111617,"è§ģè§£":111618,"éĹ´éļĶ":111619,"æķĻç¨ĭ":111620,"å°ī":111621,"å¸Ĥä¸Ńå¿ĥ":111622,"åħ³éĶ®æĺ¯":111623,"æµ·åįĹçľģ":111624,"çī¹åĪ«æĺ¯åľ¨":111625,"ä¸ŃåĽ½å¤§éĻĨ":111626,"åħħè¶³çļĦ":111627,"æĹ¢èĥ½":111628,"åĤ³çµ±":111629,"çijľä¼½":111630,"åħ¥åĽ´":111631,"æħ¢æħ¢åľ°":111632,"æĬ¥éħ¬":111633,"æī¹å¤į":111634,"å·¥ä¸ļåĽŃåĮº":111635,"ä¸İåıijå±ķ":111636,"èĥ¸éĥ¨":111637,"åľ¨ç½ij绾":111638,"åľ¨ç½ij绾ä¸Ĭ":111639,"交è°Ī":111640,"æĽ´æĶ¹":111641,"åįłæľīçİĩ":111642,"ä¸Ŀ绸ä¹ĭè·¯":111643,"è¡Ľ":111644,"çłĶåΤ":111645,"åĪª":111646,"åĪªéϤ":111647,"è¿Ļåıª":111648,"çļĦæ°Ķæģ¯":111649,"åĬłå·ŀ":111650,"éĴ§":111651,"çIJĨäºĭéķ¿":111652,"ä¸ĸå®¶":111653,"æµģè¡ĮçļĦ":111654,"å¾Īæľīåı¯èĥ½":111655,"们éĥ½":111656,"ç»ıèIJ¥æ¨¡å¼ı":111657,"è¡Įä¸ļä¸Ń":111658,"éĢļçŁ¥ä¹¦":111659,"åij½é¢ĺ":111660,"æľ¬ç¶²ç«Ļ":111661,"æ²Ļçī¹":111662,"åıijåħī":111663,"é«ĺä»·":111664,"å·²çĦ¶":111665,"åıĮåįģä¸Ģ":111666,"ä¸Ĭè¯ī":111667,"ç¿ħèĨĢ":111668,"è¿Ļä¸Ģå¹´":111669,"大ä¼ļä¸Ĭ":111670,"éĩī":111671,"å®Įåħ¨æĺ¯":111672,"å¾Ĺ太":111673,"ä¸ĢèĪ¬äºº":111674,"è¿ĺç®Ĺ":111675,"æĬĺåıł":111676,"æĬķæľº":111677,"çĤ¹çĩĥ":111678,"çݰéĩijæµģ":111679,"åħĶåŃIJ":111680,"ç½ijæł¼":111681,"æİ¥è¿ĩ":111682,"ä¾Ľè´§":111683,"éĺ´å½±":111684,"åİŁåħĪ":111685,"æį£":111686,"左侧":111687,"åħĭæĭī":111688,"æīĵåį¡":111689,"ç§ijæ¯Ķ":111690,"æ±ĩéĽĨ":111691,"åľ°çIJĨä½įç½®":111692,"è¯Ħå§Ķ":111693,"ç»ĵåIJĪèµ·æĿ¥":111694,"è¿Ľåħ¥åΰ":111695,"åı¯è¡Į":111696,"åı¯è¡ĮæĢ§":111697,"让å®ĥ":111698,"åĪ¶åº¦æĶ¹éĿ©":111699,"çĶĺèĤĥçľģ":111700,"åĵĹ":111701,"åģıåģı":111702,"è¡£çī©":111703,"ç¥Ŀè´º":111704,"æºIJèĩª":111705,"å¹¶ä¸į代表":111706,"åĽ½åº¦":111707,"好åĿı":111708,"æĿĸ":111709,"æĿŃå·ŀå¸Ĥ":111710,"湿度":111711,"鲸":111712,"åįļ彩":111713,"æ³°å±±":111714,"æĿijèIJ½":111715,"æĸ°èģŀ":111716,"èĤĭ":111717,"åı¤èĢģçļĦ":111718,"çļĦç§ĺå¯Ĩ":111719,"ä¸Ģ个éĹ®é¢ĺ":111720,"éģıåζ":111721,"åįĥ亿":111722,"è¿ĩ硬":111723,"å°Ħåĩ»":111724,"èĩªçĦ¶æĺ¯":111725,"产åĮº":111726,"çĤ¹çĤ¹å¤´":111727,"åı¯ä»¥å¸®åĬ©":111728,"说å®ŀ":111729,"说å®ŀè¯Ŀ":111730,"æĪijåıªæĺ¯":111731,"ä¹ĭä½Ļ":111732,"åIJĮæĹ¶ä¹Łæĺ¯":111733,"ä¸ŃåĽ½éĺŁ":111734,"建æĪIJåIJİ":111735,"ä¹IJè§Ĩ":111736,"åij¨å²ģ":111737,"èį¯åºĹ":111738,"éĩijåįİ":111739,"严éĩįå½±åĵį":111740,"è´¨åľ°":111741,"æĹħéģĬ":111742,"åħµåύ":111743,"æķĻèĤ²æķĻåѦ":111744,"离åİ»":111745,"åIJĦå¼ıåIJĦæł·":111746,"ä»ĭç´":111747,"ä»ĭç´¹":111748,"å¼Ģ头":111749,"å°Ĩèĩªå·±çļĦ":111750,"åIJ¬åĬĽ":111751,"ä¿¡æģ¯ç³»ç»Ł":111752,"ä»İæł¹æľ¬":111753,"ä»İæł¹æľ¬ä¸Ĭ":111754,"æİĮ声":111755,"欢åĸľ":111756,"å±ķåĮº":111757,"åķ¸":111758,"太å¤ļäºĨ":111759,"éĹ²ç½®":111760,"èĥ¡èIJĿåįľ":111761,"å§Ķå®£ä¼ł":111762,"å§Ķå®£ä¼łéĥ¨":111763,"åįĹéĺ³":111764,"å·ŀåĮº":111765,"ä¸İæĹ¶":111766,"ä¸İæĹ¶ä¿±":111767,"ä¸İæĹ¶ä¿±è¿Ľ":111768,"å«Įçĸij人":111769,"èī¯å¿ĥ":111770,"头顶":111771,"è´¢æĬ¥":111772,"ä½Ľæ³ķ":111773,"å¾µ":111774,"åİŁä»¶":111775,"åĭŀ":111776,"çĶ·ç¯®":111777,"å¤ĸåĽ½äºº":111778,"è¿Ŀ纪":111779,"æī¾äºĨ":111780,"æįķæįī":111781,"缸è¯Ĩ":111782,"æIJľéĽĨ":111783,"çļĦä¼Łå¤§":111784,"ä¸īç»´":111785,"å°±è¡ĮäºĨ":111786,"çĭIJæľĪ":111787,"çĭIJæľĪå±±":111788,"å¸ĮæľĽéĢļè¿ĩ":111789,"èĢĮ对äºİ":111790,"éĿ¢å°į":111791,"åĨĽåĽ¢":111792,"è¡ĹåĮº":111793,"æĤ¬æĮĤ":111794,"便ç§ĺ":111795,"æľīä¸ĢçĤ¹":111796,"ä¼ļè®®ä¸Ĭ":111797,"ä¸ĭæīĭ":111798,"廣åijĬ":111799,"äºĶè¡Į":111800,"çŃīåĢĻ":111801,"ç´§ç´§åĽ´ç»ķ":111802,"æĭ¿äºĨ":111803,"æ¡ĮéĿ¢":111804,"ç¥ŀæĥħ":111805,"éĽĦåİļ":111806,"çŀ³":111807,"楼ä¸ĭ":111808,"彪":111809,"äºĭåıij":111810,"åĨįè§ģ":111811,"é¤ĺ":111812,"é¢ĦåĶ®":111813,"åİ»çľĭçľĭ":111814,"æĪij们åºĶ该":111815,"ä¸īå®¶":111816,"æµĬ":111817,"ä¹IJéĺŁ":111818,"çľĭä¸įè§ģ":111819,"èĦijåŃIJ":111820,"æĮģæľīçļĦ":111821,"çϽèıľ":111822,"éĹªçĥģ":111823,"åĸĿæ°´":111824,"æİ§åĪ¶ç³»ç»Ł":111825,"ä¸ĵåĮº":111826,"æľĿå»·":111827,"æĪijå¿ĥéĩĮ":111828,"å±ķåİħ":111829,"èľĺèĽĽ":111830,"åĨ»ç»ĵ":111831,"粪":111832,"åºIJ":111833,"åIJij社ä¼ļ":111834,"åĨ³çŃĸéĥ¨ç½²":111835,"çŁŃæľŁåĨħ":111836,"æĸ°ä¸ļæĢģ":111837,"æľĶ":111838,"æĹ¶æĬ¥":111839,"使ä¹ĭ":111840,"åĽłåŃIJ":111841,"åıĤä¸İèĢħ":111842,"çļĦ年轻人":111843,"æīĭ表":111844,"å°ģéĶģ":111845,"为ä»Ģä¹Īä¸į":111846,"åIJ¸çĥŁ":111847,"æ¯Ĵç´ł":111848,"åĪijæ³ķ":111849,"磫æŃ£":111850,"身æĹģ":111851,"åİŁè°ħ":111852,"çĽijæĬ¤":111853,"æŃ¤å¤Ħ":111854,"éĻĤ":111855,"æŀľå®ŀ":111856,"åĮ»çĸĹæľįåĬ¡":111857,"ä¸įåIJĪçIJĨ":111858,"æIJŀ好":111859,"çļĦèĦļæŃ¥":111860,"å¤ĸå¥Ĺ":111861,"ç¶ĵéģİ":111862,"æĶ¾ç¼ĵ":111863,"åģľçķĻ":111864,"æĺŁçIJĥ":111865,"çļĦä¸ĢéĿ¢":111866,"åĩłä½ķ":111867,"è½®åĽŀ":111868,"æ¯Ľå·¾":111869,"ä¿®çIJĨ":111870,"ä¸įçŁ¥ä¸į":111871,"ä¸įçŁ¥ä¸įè§ī":111872,"æķ´ä¸ªäºº":111873,"æ¯ģçģŃ":111874,"åı°å·ŀ":111875,"使çĶ¨å¯¿åij½":111876,"é»ijçϽ":111877,"æij¸ç´¢":111878,"é¼łæłĩ":111879,"éĿ©æĸ°":111880,"麵":111881,"ä¸ĵéĹ¨ä¸º":111882,"å¾Īå¤ļæľĭåıĭ":111883,"å·¥ä½ľç»Ħ":111884,"åIJĪå½±":111885,"çĤºä»Ģ麼":111886,"æŀģ度":111887,"çļĦè¿ĽæŃ¥":111888,"å½ĵä¹ĭ":111889,"å½ĵä¹ĭæĹł":111890,"å½ĵä¹ĭæĹłæĦ§":111891,"è´´è¿ij":111892,"尺度":111893,"åľ¨çİ°åľº":111894,"éĻį临":111895,"åħ»èĢģéĩij":111896,"ç£ķ":111897,"åı¯ä»¥ä½¿":111898,"管çIJĨæ°´å¹³":111899,"æľ¬æĬ¥è®°èĢħ":111900,"æ³ķ令":111901,"åį¡è½¦":111902,"ä¸ľæµ·":111903,"å¤ļéĩį":111904,"åħ¶éĹ´":111905,"ç´Ļ":111906,"éĩįå¤§é¡¹çĽ®":111907,"æ±Ĺæ°´":111908,"ç»Ħå§Ķä¼ļ":111909,"ä¿¡æģ¯åħ¬å¼Ģ":111910,"ä¸į论æĺ¯":111911,"ä¸ĢåIJ¬":111912,"èĴ¸æ±½":111913,"æıŃç§ĺ":111914,"è¶ħéģİ":111915,"触åıij":111916,"婦":111917,"åħ³èģĶ交æĺĵ":111918,"å°±ç»Ļ大家":111919,"好ä¹ħ":111920,"åĢŁè´·":111921,"游æĪıè§Ĵèī²":111922,"å¼ĢåIJ¯äºĨ":111923,"æİł":111924,"åħļçļĦåįģä¹Ŀ":111925,"ä¸ĭ鼨":111926,"çŁŃæĹ¶éĹ´åĨħ":111927,"å¯ħ":111928,"导åħ¥":111929,"å·¥ä½ľç»ıéªĮ":111930,"ä¹Łåıªèĥ½":111931,"鼷éľĨ":111932,"è·Łè¿Ľ":111933,"åį¡éĢļ":111934,"é¢ĩæľī":111935,"æľºä½ĵ":111936,"æĪĺ士èģĮä¸ļ":111937,"女主":111938,"ä½ĵåĪ¶æľºåζ":111939,"è¶³åįı":111940,"èĪĴéĢĤçļĦ":111941,"åĢŁåı£":111942,"æī¹åΤ":111943,"æķ°å̼":111944,"諾":111945,"éĺ¿æĭī伯":111946,"åĺİ":111947,"æħ¶":111948,"达人":111949,"å¼Ģæ°´":111950,"å¤§éĽ¨":111951,"温室":111952,"ä½İè¿·":111953,"ä»įæĹ§":111954,"éªĹåŃIJ":111955,"亲å±ŀ":111956,"çIJĨæĻº":111957,"æľ¬åŁºéĩij":111958,"å¨ħ":111959,"åĨĻåŃĹæ¥¼":111960,"å¢Ļå£ģ":111961,"宵":111962,"èϽçĦ¶æĺ¯":111963,"顺çĿĢ":111964,"åħ«åį¦":111965,"åķĨç͍":111966,"ä¸į失":111967,"è¿·èĮ«":111968,"顺便":111969,"æļijæľŁ":111970,"æ¬ºè´Ł":111971,"é¢ijé¢ij":111972,"è¯¥æł¡":111973,"æĸĻçIJĨ":111974,"æ·±æĥħ":111975,"åīįéĶĭ":111976,"ä¿ĿèŃī":111977,"èģĮä¸ļçĶŁæ¶¯":111978,"åħ¬å¼Ģåıij":111979,"åħ¬å¼Ģåıijè¡Į":111980,"åħ¥æĪ·":111981,"éłĵ":111982,"å̾åIJ¬":111983,"éŃģ":111984,"æĦīæĤ¦":111985,"åĽŀåIJĪ":111986,"åħ¨åĬĽä»¥":111987,"åħ¨åĬĽä»¥èµ´":111988,"åĥ¹å̼":111989,"èĥ½åĬĽå¼º":111990,"ç»ıå¼Ģ":111991,"ç»ıå¼ĢåĮº":111992,"è¿ľæĸ¹":111993,"çļĦéģĵçIJĨ":111994,"缴åįĩ":111995,"缴åįĩæľº":111996,"为主é¢ĺçļĦ":111997,"ç»ĻæĤ¨":111998,"è¿ĺæĥ³":111999,"æ¯ĶæĪij":112000,"åĨľçī§":112001,"æµ·åºķ":112002,"çŃ¾è®¢äºĨ":112003,"对äºİæĪij们":112004,"æĹ¶è®¸":112005,"éĶ®çĽĺ":112006,"å®ŀéĻħæİ§åζ":112007,"çļĦæ¨¡æł·":112008,"åıįæĺłäºĨ":112009,"代åĬŀ":112010,"åĮ»ç͍":112011,"éĽĨç»ĵ":112012,"åıijå±ķåīįæĻ¯":112013,"æĮĩçĿĢ":112014,"åįİåĮĹ":112015,"è¿Ļåĩłä¸ª":112016,"åIJįæ°Ķ":112017,"åĤįæĻļ":112018,"èĩªåıij":112019,"æ³¢åħ°":112020,"大åĬĽæİ¨è¿Ľ":112021,"èĩªç§°":112022,"èįĨå·ŀ":112023,"æIJį害":112024,"äºĨä¸Ģåı¥":112025,"æľĢåĪĿçļĦ":112026,"éĩijèŀįå᱿ľº":112027,"æĢĢ念":112028,"è¡Įåĭķ":112029,"女æİĴ":112030,"ä¸įè§£":112031,"ä¼łéĶĢ":112032,"转载请":112033,"饰åĵģ":112034,"åıªä¸º":112035,"ä¸İä¼Ĺ":112036,"ä¸İä¼Ĺä¸įåIJĮ":112037,"èĥ½èĢĹ":112038,"èı©æıIJ":112039,"è¿ij两年":112040,"è¿Ķ乡":112041,"马ä¸Ĭå°±":112042,"äºĮçŃīå¥ĸ":112043,"水管":112044,"æ³ķåѦ":112045,"çģŃçģ«":112046,"大å§IJ":112047,"åij¨è½¬":112048,"æľīæľŁ":112049,"æľīæľŁå¾Ĵ":112050,"æľīæľŁå¾ĴåĪij":112051,"å°įæĸ¹":112052,"ç¥ŀèī²":112053,"æ²¹èĦĤ":112054,"ä¸īçĤ¹":112055,"ä¸įåĪ©äºİ":112056,"äºĭä¸ļéĥ¨":112057,"å°±è·Ł":112058,"å¼ĢæĶ¯":112059,"å°ı女åŃ©":112060,"åħ±åIJĮåĬªåĬĽ":112061,"çĶļèĩ³è¿ĺ":112062,"è¿ĻåIJį":112063,"è¿Ļç¬Ķ":112064,"çݯåį«":112065,"æľīç§į":112066,"è§ĨåĬĽ":112067,"çĨŁçŁ¥":112068,"åħ¬ç§¯éĩij":112069,"æ¶Īéĺ²å®īåħ¨":112070,"é¢ĩ为":112071,"大èħ¿":112072,"éĿ¶":112073,"çķĪ":112074,"æľįåĬ¡åĮº":112075,"å¼Ģåĩº":112076,"深度èŀįåIJĪ":112077,"æĹłå¿§":112078,"æŁ¥éĺħ":112079,"ç»Īç»ĵ":112080,"ä¿Ŀç¨İ":112081,"è¨İè«ĸ":112082,"å½ĵåģļ":112083,"è·³èĪŀ":112084,"寧":112085,"女çİĭ":112086,"è®°èĢħåľ¨":112087,"åħ¨äº§ä¸ļéĵ¾":112088,"è´¯éĢļ":112089,"åħ´ä¸ļ":112090,"éĻįåΰ":112091,"å°ģéĿ¢":112092,"åħ¨éĿ¢æİ¨è¿Ľ":112093,"奶èĮ¶":112094,"éĢīåĿĢ":112095,"äºĨä¸Ģåľº":112096,"åIJĮä¼´":112097,"议论":112098,"æIJĵ":112099,"诸èijĽ":112100,"诸èijĽäº®":112101,"å¹²åĺĽ":112102,"æµģæĦŁ":112103,"ä¸ĵä¸ļçŁ¥è¯Ĩ":112104,"ç͵ç«Ļ":112105,"åĩıå¼±":112106,"åĩºåħ¥":112107,"åIJĦçľģ":112108,"éĿŀ常é«ĺ":112109,"åľ°æ¯¯":112110,"åıijæĸĩ":112111,"çĦī":112112,"çĥ§çĥ¤":112113,"å£ģ纸":112114,"æģ¶åĮĸ":112115,"èĬ¸":112116,"èĥĸåŃIJ":112117,"çĩĴ":112118,"çľģéĴ±":112119,"çĻ¾å¼º":112120,"çIJĨ工大åѦ":112121,"éĴ¢æĿIJ":112122,"åĽ½æľīèµĦ产":112123,"æĪĺæľº":112124,"æ³Ħéľ²":112125,"åIJİéĿ¢çļĦ":112126,"æ°´èµĦæºIJ":112127,"æ¢ħèĬ±":112128,"åĨĻçĿĢ":112129,"ä¹ĭ声":112130,"æĹłåı¯":112131,"æĺİæľĿ":112132,"ç«ĭæĸ¹ç±³":112133,"ç·£":112134,"æĶ¾è¿ĩ":112135,"ç¦ıçͰ":112136,"å¾Ĺä½ı":112137,"åıĹä¼Ĺ":112138,"ä¸Ń级":112139,"çĹħåıĺ":112140,"ä¸Ģçŀ¬éĹ´":112141,"æĿĥéĩį":112142,"人æĢ§åĮĸ":112143,"åĮ»çĸĹåį«çĶŁ":112144,"ä¸įåΰä½į":112145,"æĻºèĥ½å®¶å±ħ":112146,"饮ç͍":112147,"æ¼Ķåıĺ":112148,"é«ĺç´łè´¨":112149,"ä¹Ļæĸ¹":112150,"åģľçķĻåľ¨":112151,"èİ·æī¹":112152,"ç©¿æ¢Ń":112153,"å®¢åľº":112154,"æĮ½åĽŀ":112155,"京åŁİ":112156,"çĶŁåij½åĬĽ":112157,"實éļĽ":112158,"çĩĪ":112159,"åĨįçݰ":112160,"çݰå®ŀä¸Ń":112161,"æľīä¿¡å¿ĥ":112162,"çĸıéĢļ":112163,"åĺ´åĶĩ":112164,"鼷éĶĭ":112165,"èıľåįķ":112166,"éħ¯":112167,"è¶ħé«ĺ":112168,"å¾Īé«ĺåħ´":112169,"çĶŁæ®ĸ":112170,"éĢłä»·":112171,"误åĮº":112172,"æĨĭ":112173,"好æ¶Īæģ¯":112174,"å´Ń":112175,"以èĩ´":112176,"å¼Ģçİ©ç¬ij":112177,"çĽijè§Ĩ":112178,"å·¡å¯Ł":112179,"å¾·å·ŀ":112180,"æĹ©æĹ©":112181,"éĹªç͵":112182,"æĪªåĽ¾":112183,"åı¯ä»¥æł¹æį®":112184,"æīĭèīº":112185,"æİ¥è½¨":112186,"ç§įæĹı":112187,"æĢĢéĩĮ":112188,"åİ»åĮ»éĻ¢":112189,"ä¸ĢäºĮ":112190,"å¼ĢéĺĶ":112191,"åĩıéĢŁ":112192,"ä½Ĩä»İ":112193,"éĢĻä¸Ģ":112194,"åĩıåħį":112195,"主é¢ĺæķĻèĤ²":112196,"å¼Ģ工建设":112197,"蹦":112198,"æľĪ饼":112199,"ä¸ĭæ²ī":112200,"å°Ĭ严":112201,"éĻĩ":112202,"å®ŀæľ¨":112203,"å»łåķĨ":112204,"声称":112205,"èĢĥåľº":112206,"å¸ĥé²ģ":112207,"èĩªæĿ¥":112208,"èĩªæĿ¥æ°´":112209,"éĴ¾":112210,"年以ä¸Ĭ":112211,"大åıĶ":112212,"ä»ĸå·²ç»ı":112213,"åħ¨æĿij":112214,"èģĶç³»ç͵è¯Ŀ":112215,"为导åIJij":112216,"åΤå¤Ħ":112217,"对éĺµ":112218,"缮æ¨Ļ":112219,"åIJįé¢Ŀ":112220,"客æ°Ķ":112221,"横åIJij":112222,"çŃīåĨħ容":112223,"åĩłçĤ¹":112224,"è°Ī论":112225,"ä¸įä¹ı":112226,"å±ķçݰåĩº":112227,"è¾ĥéķ¿":112228,"éĢĨ转":112229,"å°ıæĻĤ":112230,"æĺ¯å¤ļä¹Ī":112231,"æľ¬æľĪ":112232,"è¿ijè§Ĩ":112233,"æĪIJç«ĭ以æĿ¥":112234,"代表çĿĢ":112235,"æĬ¥å¤į":112236,"æĪıæĽ²":112237,"è¨ŃåĤĻ":112238,"åħ¥èĤ¡":112239,"å¾ģæľį":112240,"é«ĺåĩº":112241,"èĪŀåı°ä¸Ĭ":112242,"å¿ĥåĬ¨":112243,"两çĤ¹":112244,"缸çķ¶":112245,"èĻĽ":112246,"主页":112247,"åĩłå®¶":112248,"æĹłä¸į":112249,"åįıå®ļ":112250,"æĸIJ":112251,"å¯ĵæĦı":112252,"åħ¨çº¿":112253,"æįķé±¼":112254,"åı¯ä»¥ä»İ":112255,"æľīè¿Ļæł·çļĦ":112256,"æģ¶éŃĶ":112257,"åĮħåŃIJ":112258,"æģ¤":112259,"å¼Ģå¥ĸç»ĵæŀľ":112260,"ä¸įæŃ»":112261,"èĹį":112262,"å¼¯æĽ²":112263,"海峡":112264,"éĶĢæ¯ģ":112265,"çļĦçĭ¬çī¹":112266,"示æĦı":112267,"ä¸įèĥ½åĨį":112268,"èĥ½æĬĬ":112269,"éĺ²çº¿":112270,"ä¸įå°ijäºİ":112271,"æ±Ģ":112272,"çļĦéĤ£ä¸Ģ":112273,"羣æĥħ":112274,"åŀ®":112275,"被æīĵ":112276,"åĽ½å®ī":112277,"ç¾İå¦Ļ":112278,"è¿Ļåĩł":112279,"åĩºéģĵ":112280,"æľįåĬ¡äºİ":112281,"æĪIJæŀľè½¬åĮĸ":112282,"æīįåįİ":112283,"天é¹ħ":112284,"åĩłä¸ªäºº":112285,"åĢĺèĭ¥":112286,"èĢ½è¯¯":112287,"æĬĹæĪĺ":112288,"è¡ĮéĬ·":112289,"æĿ¥è¢Ń":112290,"åĢŁéĮ¢":112291,"èįīèİĵ":112292,"ä¸¥æł¼æī§è¡Į":112293,"举è¡ĮäºĨ":112294,"å¤ĸç±į":112295,"已达":112296,"æĿijåħļæĶ¯éĥ¨":112297,"è¡Ŀ":112298,"éĻįèĩ³":112299,"æµ·éĩı":112300,"é¤IJé¦Ĩ":112301,"æĢ¥å¿Ļ":112302,"æ·±è¿ľ":112303,"å¾Ģè¿Ķ":112304,"ç¨İåĬ¡å±Ģ":112305,"å¹¿æ³ĽåºĶç͍":112306,"è®®åijĺ":112307,"æĹłæķĮ":112308,"çľ¼åħī":112309,"çĥŃè¡Ģä¼łå¥ĩ":112310,"æŃIJ":112311,"äºĨäºĽ":112312,"è¿ĿèĥĮ":112313,"è¿Ļæĺ¯ä¸Ģç§į":112314,"ä¸į稳å®ļ":112315,"大家åĪĨ享":112316,"表çı¾":112317,"åīįåįģ":112318,"è·¯è¿ĩ":112319,"æĴ©":112320,"åIJĮæĥħ":112321,"ä¹łä¿Ĺ":112322,"åıijè´¢":112323,"åºĶæľīçļĦ":112324,"æĿİæŁIJ":112325,"èĤĽ":112326,"马åħĭ":112327,"éĢļåijĬ":112328,"巨人":112329,"ä¸ĢåĽ¢":112330,"éĢĻæ¬¡":112331,"ä¸įäºĨè§£":112332,"æĸ½è¡Į":112333,"èij¡èIJĦçīĻ":112334,"åıĺå¾ĹæĽ´åĬł":112335,"æı£":112336,"åĪĽæĸ°èĥ½åĬĽ":112337,"çķħéĶĢ":112338,"表æī¬":112339,"æ¯ĶåĪ©":112340,"æ¯ĶåĪ©æĹ¶":112341,"åĮ»çĸĹä¿ĿéĻ©":112342,"æĵį纵":112343,"伤亡":112344,"æµİå®ģ":112345,"åıĺäºĨ":112346,"æľ¬æ¬¡æ´»åĬ¨":112347,"åľŁè±ª":112348,"æĥ³åĬŀæ³ķ":112349,"æĺķ":112350,"å½ĵæĻļ":112351,"åĩºå±Ģ":112352,"çĥŃè®®":112353,"è°Īè°Ī":112354,"æĻĭåįĩ":112355,"åĬ¿å¿ħ":112356,"çϻ山":112357,"éĤ£åĦ¿":112358,"åIJĥåΰ":112359,"ä¹ĭåŁİ":112360,"å¿«æĿ¥":112361,"æ¹Ľæ±Ł":112362,"第ä¸ī个":112363,"åħ¨éĿ¢æıIJåįĩ":112364,"å¥ĸåѦ":112365,"å¥ĸåѦéĩij":112366,"æĬķåħ¥ä½¿ç͍":112367,"é½IJé²ģ":112368,"åı¯ä»¥æĬĬ":112369,"åĴĮä»ĸçļĦ":112370,"è´ŃæĪ¿èĢħ":112371,"æŃ£å¼ıåIJ¯åĬ¨":112372,"åįİæ¶¦":112373,"ä¸įæĸŃå®ĮåĸĦ":112374,"éĴ¢æĿ¿":112375,"累积":112376,"满èĦ¸":112377,"åĽĽæĸ¹":112378,"è´¢çī©":112379,"ä»ĸ们ä¼ļ":112380,"å¤ıæĹ¥":112381,"éĤ£ä¸ªäºº":112382,"éĿłçĿĢ":112383,"çĤ¹äºĨ":112384,"çĤ¹äºĨçĤ¹å¤´":112385,"æ©ĭ":112386,"åıĪ好":112387,"åıĪ好åıĪ":112388,"åıĪ好åıĪå¿«":112389,"éĺµéĺµ":112390,"å°ģ建":112391,"æľ¬çͰ":112392,"çī©ä¸ļæľįåĬ¡":112393,"èĩªè´¸åĮº":112394,"åIJı":112395,"便åĪ©åºĹ":112396,"åĽ½å®¶æłĩåĩĨ":112397,"éĿ¢ç²ī":112398,"èī°è¾Ľ":112399,"æĶ»åħ³":112400,"æīĵåĮħ":112401,"车éĺŁ":112402,"人éĢī":112403,"åı¯ä¸įæĺ¯":112404,"äºĮåįģå¹´":112405,"åIJįå¸Ī":112406,"æµ¦ä¸ľ":112407,"åħ¬è¯ģ":112408,"è¿IJéĢģ":112409,"æĺ¯æľĢ好çļĦ":112410,"æŁĶåĴĮ":112411,"çİĭæŁIJ":112412,"çĹħæĪ¿":112413,"åĨ¶éĩij":112414,"ä¸Ģä»¶äºĭæĥħ":112415,"åį¤":112416,"åı¯æİ§":112417,"çīŁ":112418,"æĭĤ":112419,"å·²äºİ":112420,"人éĢł":112421,"çĶŁçī©åĮ»èį¯":112422,"ä½ĵçݰåĩº":112423,"èĤ²åĦ¿":112424,"èĢģå®ŀ":112425,"åľĸçīĩ":112426,"諸":112427,"ç´¯äºĨ":112428,"æĦŁåħ´è¶£çļĦ":112429,"åĽ¾çīĩæĿ¥æºIJ":112430,"ä¹Łæĺ¯ä¸Ģç§į":112431,"æ¾İæ¹ĥæĸ°éĹ»":112432,"æĹ¶è¡¨ç¤º":112433,"åħīè¾ī":112434,"æĬ¥åºŁ":112435,"å²ģæĹ¶":112436,"éħ®":112437,"æ£Ģä¿®":112438,"åıĺéĢŁ":112439,"åıĺéĢŁç®±":112440,"åľ¨èģĮ":112441,"éı¡":112442,"æįĤ":112443,"çĿ£åĬŀ":112444,"æ°¸ä¸į":112445,"åģļä¸ĢäºĽ":112446,"åİĨæĹ¶":112447,"å·¥ç¨ĭæľºæ¢°":112448,"æģ°å½ĵ":112449,"å°±åľ¨äºİ":112450,"ç§°åij¼":112451,"éĢļ常æĺ¯":112452,"æł·å¼ı":112453,"åij¨ä¸Ģ":112454,"èĭ±éķij":112455,"åĿĩ线":112456,"ä¼łéĹ»":112457,"ç͍æĪ·ä½ĵéªĮ":112458,"èµŀåIJĮ":112459,"骨æĬĺ":112460,"为主ä½ĵ":112461,"æ±Łå±±":112462,"æ¸ħæľĿ":112463,"æĶĢåįĩ":112464,"ä¸įçĽ¸ä¿¡":112465,"éĿ´":112466,"æŃ¦åĬŁ":112467,"åĭ¤åĬ³":112468,"æĿ¥æī¾":112469,"å°ĨæĮģç»Ń":112470,"丫头":112471,"æ¨Ļæºĸ":112472,"裴":112473,"深深çļĦ":112474,"åŃķèĤ²":112475,"è§ĦåĪĴ建设":112476,"æ¸ħçν":112477,"ç²¾åĩĨæī¶è´«":112478,"æīĵçł´äºĨ":112479,"è¿Ļä¸Ģ天":112480,"å·¥ä½ľæĢ»ç»ĵ":112481,"æĹħç¨ĭ":112482,"举èIJ¥":112483,"æĶ¾å°Ħ":112484,"æľīåĩłä¸ª":112485,"éĿŀçī©è´¨":112486,"åIJĥå¾Ĺ":112487,"åŨ":112488,"ä¼ļåıijçĶŁ":112489,"篮æĿ¿":112490,"å¼Ģå°ģ":112491,"麻å°Ĩ":112492,"èııæ³½":112493,"ä¸įåIJĪ":112494,"ç³»åĪĹ产åĵģ":112495,"èѬå¦Ĥ":112496,"ç¾İèªī":112497,"èĩªå·±åĸľæ¬¢":112498,"交æĺĵä¸Ńå¿ĥ":112499,"åIJĪåͱ":112500,"使æĪij":112501,"åĥıç´ł":112502,"带éĺŁ":112503,"ä½Ĩ对äºİ":112504,"æĬĬè¿Ļ个":112505,"èĤĿèĦı":112506,"åįķ纯çļĦ":112507,"æĶ»åĿļæĪĺ":112508,"缼ä¼ļ":112509,"åijµæĬ¤":112510,"æªĢ":112511,"èµ¶ä¸Ĭ":112512,"æ¥Ĭ":112513,"ä¹ħäºĨ":112514,"ç¡Ŀ":112515,"çŃĶé¢ĺ":112516,"ä¿ĿæĮģçĿĢ":112517,"è§ģè¯Ĩ":112518,"çĤ¹åĦ¿":112519,"åįĬ个æľĪ":112520,"æ»ĩ":112521,"浸泡":112522,"ä¼łéĢģ":112523,"åľ¨å¸Ĥåľºä¸Ĭ":112524,"ä¹ĭ乡":112525,"çī¹éķ¿":112526,"éĽŀ":112527,"èªł":112528,"身å¤Ħ":112529,"æŁłæª¬":112530,"身穿":112531,"çľģåħ¬å®ī":112532,"çľģåħ¬å®īåİħ":112533,"åıĻåĪ©äºļ":112534,"åĩłåĪĨéĴŁ":112535,"人åĢij":112536,"åľ°æ®µ":112537,"èĩªåѦ":112538,"ä¹Łè¶ĬæĿ¥è¶Ĭ":112539,"èģĮæĿĥ":112540,"æĸ§":112541,"èĩ»":112542,"å½Ĵ纳":112543,"驾é©Ń":112544,"éĥ¨åĪĨåľ°åĮº":112545,"没æľīæĥ³åΰ":112546,"æĴĩ":112547,"ä¹Įé²ģ":112548,"ä¹Įé²ģæľ¨":112549,"ä¹Įé²ģæľ¨é½IJ":112550,"èĤ²äºº":112551,"çļĦæŃ¥ä¼IJ":112552,"å»¶æľŁ":112553,"æ²¹æ°Ķ":112554,"åģļå®Į":112555,"åľ£åľ°":112556,"丰åİļ":112557,"宽带":112558,"åı¯éĿłçļĦ":112559,"åºŃéĻ¢":112560,"åŃľ":112561,"å°ı康社ä¼ļ":112562,"å®īåħ¨ç®¡çIJĨ":112563,"年第":112564,"æİĴ污":112565,"èĥĮåĮħ":112566,"å®¶ä½ı":112567,"åħ¶å®ŀå°±æĺ¯":112568,"ä¼ļè§ģ":112569,"帮åĬ©ä¼ģä¸ļ":112570,"ç½ijè´Ń":112571,"æĺ¯ä¸įä¼ļ":112572,"飯åºĹ":112573,"æŃ»åİ»":112574,"åħįçĸ«åĬĽ":112575,"æľķ":112576,"åĸĿäºĨ":112577,"轻微":112578,"个æľĪåĨħ":112579,"ç»ĦåĽ¢":112580,"åĴĮå®ĮåĸĦ":112581,"鸽":112582,"æıIJéĢŁ":112583,"西å®īå¸Ĥ":112584,"ä¸Ńå¿ĥ主任":112585,"æĹ¶éĹ´ä¸º":112586,"æľŁæĿĥ":112587,"è¶ķ":112588,"ä¸įä»ħè¦ģ":112589,"æľįä»İ":112590,"é¡ĺæĦı":112591,"ä¸įå°ı":112592,"ä¸įå°ıçļĦ":112593,"ç°ĩ":112594,"窦":112595,"åĪĩæĪIJ":112596,"åĵĪåĪ©":112597,"å¤©çľŁ":112598,"ä¸Ģ次次":112599,"éĩijå¸ģ":112600,"æĢİä¹Īèĥ½":112601,"ç½ijè´·":112602,"ä¼ļ计å¸Ī":112603,"çŁŃ缺":112604,"对æłĩ":112605,"åıĺå¾ĹæĽ´":112606,"åīįåĩłå¤©":112607,"éĺ²æ±Ľ":112608,"彩èϹ":112609,"åĵģä½į":112610,"è¡¨æł¼":112611,"严å¯Ĩ":112612,"æ¯ĽåĪ©çİĩ":112613,"çļĦåį±å®³":112614,"å½ķåζ":112615,"æ°´åĬ¡":112616,"èĥ½å¤Łè®©":112617,"å¹³æĿ¿":112618,"ä¹³æĪ¿":112619,"è¸ıå®ŀ":112620,"é¦ĸåĪĽ":112621,"é¦Ļèķī":112622,"æĬ¥è¡¨":112623,"ä¸ĢæĬ¹":112624,"åĩºçĶŁäºİ":112625,"è²»ç͍":112626,"åĩºè®©":112627,"åIJĪæ³ķæĢ§":112628,"å°¼åħĭ":112629,"åĨ°åĨ·":112630,"é¦Ļæ°Ķ":112631,"åı·ç§°":112632,"èµ·çłģ":112633,"åŁİåİ¿":112634,"çİ©èĢį":112635,"ä¸ĬéĻIJ":112636,"ä¼ļ议精ç¥ŀ":112637,"æĹģè¾¹çļĦ":112638,"便ä¼ļ":112639,"æıŃæĻĵ":112640,"çİ©æĦı":112641,"éĽªå±±":112642,"åIJijçĿĢ":112643,"ä½ĵèĤ²åľ¨çº¿":112644,"说æĺİ书":112645,"åĮĸèĤ¥":112646,"åħļç»Ħ书记":112647,"åĬ¨äºº":112648,"ä¹ĭæīĢ":112649,"æľĪèĩ³":112650,"æľĢå¿«çļĦ":112651,"èĬĤåģĩæĹ¥":112652,"ä¸ĵåľº":112653,"èĢĥä¸Ĭ":112654,"çªŁ":112655,"é²ľè¡Ģ":112656,"è¾ĥ强çļĦ":112657,"æĤĦçĦ¶":112658,"å¤ļä¸ªåĽ½å®¶":112659,"çªĹå¸ĺ":112660,"æŀģå¤§åľ°":112661,"ä¸įç͍æĭħå¿ĥ":112662,"è¿Ļä¹Īåģļ":112663,"åĥ¹æł¼":112664,"ç¾İ丽乡æĿij":112665,"å°ıæĹ¶åĨħ":112666,"ç´§è¿«":112667,"大çģ«":112668,"èĥ³èĨĬ":112669,"æĵįä½ľç³»ç»Ł":112670,"æ®ĭçķĻ":112671,"åĨĻåĩº":112672,"ç¦ģå¿Į":112673,"åĬłçĽŁåºĹ":112674,"è¿ijçϾ":112675,"便åı¯":112676,"æķ´æĶ¹æİªæĸ½":112677,"éĩĩ访æĹ¶":112678,"åĶIJ代":112679,"æ·±åĮĸæĶ¹éĿ©":112680,"çŁ¢":112681,"éĥ½åĸľæ¬¢":112682,"è¶ĬæĿ¥è¶Ĭé«ĺ":112683,"èĬ±æľµ":112684,"头çĸ¼":112685,"å®ī康":112686,"å¢ŀéķ¿çİĩ":112687,"çľ¼çľĭ":112688,"å°±æĺ¯ä¸ºäºĨ":112689,"èĢĮ导èĩ´":112690,"åĬłå¿«å»ºè®¾":112691,"èĬ±æł·":112692,"åĨħå¿ĥçļĦ":112693,"æĺĨå±±":112694,"è³ĩæºIJ":112695,"åĽŀåΰ家":112696,"èıĬèĬ±":112697,"æ°´éĩı":112698,"å¾ģä¿¡":112699,"è¡ĮæĶ¿åĮº":112700,"ä¹ĥæĺ¯":112701,"æĬķèµĦé¡¹çĽ®":112702,"å«ģç»Ļ":112703,"ç¥ŀåľ£":112704,"稳":112705,"æľ¬æĿ¥å°±":112706,"éĢIJä¸Ģ":112707,"èģĮä¸ļæĬĢæľ¯":112708,"ä¸įèī¯ä¿¡æģ¯":112709,"æīĺè¿IJ":112710,"åIJ¯ç¤º":112711,"ä¹ĭåħ§å®¹":112712,"飶":112713,"奢åįİ":112714,"æıŃ示":112715,"æĪIJ为ä¸ŃåĽ½":112716,"æ¶Īè´¹åĵģ":112717,"åħ¬ç͍":112718,"æIJŀå®ļ":112719,"è¯·ä½ł":112720,"æŁļ":112721,"åĨħè¡£":112722,"ä½Ĩä»ĸ们":112723,"ä¿Ŀ湿":112724,"该åİ¿":112725,"饱åĴĮ":112726,"æİ¨åIJij":112727,"èµĦæĸĻæĺ¾ç¤º":112728,"ä¸įå½±åĵį":112729,"人人éĥ½":112730,"åıijå±ķ壮大":112731,"åħ»èĢģæľįåĬ¡":112732,"çĶŁæ´»æ°´å¹³":112733,"åIJĦåİ¿":112734,"ä½łéľĢè¦ģ":112735,"说çļĦæĺ¯":112736,"å¤ĸåªĴ":112737,"æŃ¤äºº":112738,"次è¦ģ":112739,"追赶":112740,"åºĶ该å¦Ĥä½ķ":112741,"æĹ¥åĩĮæĻ¨":112742,"çķ¥æľī":112743,"éĥ½æĥ³":112744,"游ä¹IJ":112745,"è¿Ļ款游æĪı":112746,"平淡":112747,"æĺ¯ä¸ĢåĢĭ":112748,"å¤ĩèĢĥ":112749,"åζæŃ¢":112750,"ä¸Ģå®ļèĥ½":112751,"å¾Ĵå¼Ł":112752,"以çĤº":112753,"åįĥåħĥ":112754,"äºĶåħŃ":112755,"迪士":112756,"迪士尼":112757,"éĺ³æĢ§":112758,"åĨ¬å¥¥ä¼ļ":112759,"å°±æĺ¯åĽłä¸º":112760,"æĮĤéĴ©":112761,"æ¦ĤåĨµ":112762,"åıªè¦ģæľī":112763,"æ²¹çĶ»":112764,"åľ°æłĩ":112765,"ä¸Ĭè°ĥ":112766,"产ä¸ļåĽŃåĮº":112767,"åħ«åįģ":112768,"棱":112769,"æ¶²æĻ¶":112770,"æĿijå§Ķä¼ļ":112771,"çŃ¾çº¦ä»ªå¼ı":112772,"è¿Ļåħ¶ä¸Ń":112773,"åĨĻéģĵ":112774,"示èĮĥåŁºåľ°":112775,"éĩİçĶŁåĬ¨çī©":112776,"鼻åŃIJä¿¡ç®±":112777,"åĽ½éĻħè´¸æĺĵ":112778,"人æĿĥ":112779,"ä¿Ŀ管":112780,"èĭ¥æĤ¨":112781,"åİĭæĬij":112782,"黼":112783,"åľ°çľĭçĿĢ":112784,"éϰ":112785,"ä¸Ģå¹´å¤ļ":112786,"ä»İ容":112787,"ä¸ŃæĸŃ":112788,"å¯Łè§ī":112789,"移交":112790,"é͝":112791,"æĪĸ许æĺ¯":112792,"ç¶ł":112793,"两项":112794,"æľĢåĸľæ¬¢":112795,"æľĢåĸľæ¬¢çļĦ":112796,"å¤ľéĩĮ":112797,"åIJĮä»ģ":112798,"åĪĽæĸ°é©±åĬ¨":112799,"è°ģèĥ½":112800,"飾":112801,"åħīåѦ":112802,"åİĦ":112803,"èĦ±é¢ĸ":112804,"èĦ±é¢ĸèĢĮåĩº":112805,"迦":112806,"æĺ¯ä¸įåı¯èĥ½":112807,"窥":112808,"èĥ½æ»¡è¶³":112809,"宽度":112810,"伦çIJĨ":112811,"åı¯ä»¥èİ·å¾Ĺ":112812,"转ä¼ļ":112813,"å±±æĿij":112814,"éĵºè®¾":112815,"åĩºåĩ»":112816,"æĸĩåĮĸèīºæľ¯":112817,"ä¼ļ议室":112818,"æŃĮ声":112819,"æ»Ķ":112820,"èIJİ缩":112821,"æľįåĬ¡åijĺ":112822,"åıij表äºĨ":112823,"æĸ¼æĺ¯":112824,"æĺİç¡®è§Ħå®ļ":112825,"ç»´å¥ĩ":112826,"水产":112827,"æĬķä¿Ŀ":112828,"éĺ´éģĵ":112829,"èµ¶å¿«":112830,"夺å¾Ĺ":112831,"ä¸ĭåįķ":112832,"çµģåħ¬åı¸":112833,"çݯç»ķ":112834,"å½Ī":112835,"ä½ľé£İ建设":112836,"æĹħ游æĻ¯åĮº":112837,"æľīæĽ´å¤ļçļĦ":112838,"丰å¯Įå¤ļ彩":112839,"çIJĨ财产åĵģ":112840,"åĩºå·®":112841,"ä»İ严治":112842,"ä»İ严治åħļ":112843,"çĽ¸å¹²":112844,"æ»ĭ润":112845,"主åĬŀæĸ¹":112846,"åī§åľº":112847,"æ»ļçIJĥ":112848,"æ©Ħæ¦Ħ":112849,"èĩªä¸»åĪĽæĸ°":112850,"éĢļå¾Ģ":112851,"æł¼å°Ķ":112852,"çļĦä¼ĺçĤ¹":112853,"èĥĮä¸Ĭ":112854,"çªľ":112855,"çĪĨåĩº":112856,"å¹³æķ´":112857,"ä¸ĢèĦļ":112858,"åħ¨ä½ĵåijĺå·¥":112859,"éĻIJå®ļ":112860,"åŁİéķĩåĮĸ":112861,"æ·³":112862,"éĢ®æįķ":112863,"è¡ĮåĬ¨è®¡åĪĴ":112864,"æīĵå¾Ĺ":112865,"åİļéĩį":112866,"纪å½ķçīĩ":112867,"åĿļä¿¡":112868,"央ä¼ģ":112869,"åĨįä¹Łä¸į":112870,"天涯":112871,"åıĤèĢĥèµĦæĸĻ":112872,"æľīæ¯Ĵ":112873,"åIJ¸çº³":112874,"è¶Ĭåıij":112875,"éĩįè¦ģæĦıä¹ī":112876,"åĽ½éĺ²éĥ¨":112877,"è¿Ļ个è¡Įä¸ļ":112878,"æĻ®æŁ¥":112879,"å¼ĤæĢ§":112880,"å»¶è¿Ł":112881,"å°ıå¹ħ":112882,"èĥħ":112883,"综åIJĪæ²»çIJĨ":112884,"æŃ£æĺ¯åĽłä¸º":112885,"产ä¸ļç»ĵæŀĦ":112886,"çłĶç©¶æĬ¥åijĬ":112887,"åģľä¸ĭ":112888,"éķ¿èĢģ":112889,"éĩĿå°į":112890,"åįĹ京å¸Ĥ":112891,"çģĮæºī":112892,"转è¿IJ":112893,"欺è¯Ī":112894,"éĢłåģĩ":112895,"åĪĨå¸ĥå¼ı":112896,"æĦŁè§¦":112897,"æĪijå½ĵæĹ¶":112898,"åıijè§ī":112899,"åĽ¾çº¸":112900,"æĶ¹èī¯":112901,"çĭłçĭł":112902,"åĨ²åĪº":112903,"æĸ°äº¬":112904,"æĸ°äº¬æĬ¥":112905,"ç¥ŀåύ":112906,"秸ç§Ĩ":112907,"çĪº":112908,"å°Ĩè¿İæĿ¥":112909,"工信":112910,"工信éĥ¨":112911,"éĻIJéĩı":112912,"æŃ¢æįŁ":112913,"åѦä¼ļäºĨ":112914,"åįİ缼":112915,"åįİçĽĽé¡¿":112916,"å¾Įä¾Ĩ":112917,"ä¸ĭéĿ¢æĺ¯":112918,"ä¸ĭéĿ¢æĺ¯å°ı":112919,"æIJ¬è¿IJ":112920,"ç¾İæľ¯é¦Ĩ":112921,"æ¸ħåĩī":112922,"å¤ļå¹´åīį":112923,"è©ŀ":112924,"åįĥç±³":112925,"表述":112926,"æ±ŁéŨ":112927,"åĬłæ²¹ç«Ļ":112928,"æľ¬èĥ½":112929,"导读":112930,"åĽ´è§Ĥ":112931,"å¹¶åIJij":112932,"åŁºæľ¬æĥħåĨµ":112933,"æīĵå¼ĢäºĨ":112934,"è¿Ļä¸ī个":112935,"æ±ķ头":112936,"强æľīåĬĽ":112937,"强æľīåĬĽçļĦ":112938,"è¿Ľåľº":112939,"ä¹Ŀæ±Ł":112940,"çIJĥæĺŁ":112941,"好çľĭçļĦ":112942,"大æĪ·":112943,"湯":112944,"å¥ĩå¦Ļ":112945,"ä¹IJåύ":112946,"æĪijçļĦå¿ĥ":112947,"çľī头":112948,"åĨľä¸ļçĶŁäº§":112949,"ç¼ĸçłģ":112950,"åŁºç¤":112951,"åŁºç¤İ":112952,"天æĸĩ":112953,"åĢĭ人è³ĩè¨Ĭ":112954,"åİ»è¿ĩ":112955,"èģĨåIJ¬":112956,"æĶ¾åģĩ":112957,"ä¸įåħ·å¤ĩ":112958,"æ·Ģç²ī":112959,"大佬":112960,"åħ¨å¤©":112961,"åħ¨éĿ¢å»ºæĪIJ":112962,"éļIJå½¢":112963,"ç¼ħç͏":112964,"åIJ³":112965,"è¡ĮæĶ¿æī§æ³ķ":112966,"åŁİåł¡":112967,"èİ«æĸ¯":112968,"èİ«æĸ¯ç§ij":112969,"æīĢæľīæĿĥ":112970,"éĽĨåľĺ":112971,"å±Ģåī¯å±Ģéķ¿":112972,"åĩłä¹İ没æľī":112973,"æ´ģåĩĢ":112974,"ç͵影èĬĤ":112975,"åŃ©ç«¥":112976,"æīĢåģļçļĦ":112977,"æ¸ħ代":112978,"æĸ°çīĪ":112979,"éĵĿåIJĪéĩij":112980,"为æĬĵ":112981,"为æĬĵæīĭ":112982,"åΤå®ļ":112983,"çī¹äº§":112984,"æīĭæ©Ł":112985,"ä¸įåı¯æĪĸ":112986,"ä¸įåı¯æĪĸ缺":112987,"å¸Ĥåľºè§Ħ模":112988,"åĿ¯":112989,"åĮ»åѦéĻ¢":112990,"å¿«è¦ģ":112991,"èĮľ":112992,"æĬĺèħ¾":112993,"äºĨè¿ĩæĿ¥":112994,"æĬ¥åijĬæľŁåĨħ":112995,"çī©ç§į":112996,"ç»Łè®¡å±Ģ":112997,"æī©å»º":112998,"æ¶ħ":112999,"责任人":113000,"éĺİ":113001,"è¯Ħè®®":113002,"å¾Ģäºĭ":113003,"æīĢ示":113004,"æķ´æ´ģ":113005,"éĹºèľľ":113006,"æĹħéĢĶ":113007,"å®ŀè®Ń":113008,"ä¹ĭç§°":113009,"巴士":113010,"éĢŁåº¦å¿«":113011,"ä¸įä»ħå¦ĤæŃ¤":113012,"å®Ŀè´µçļĦ":113013,"åºŁçī©":113014,"河水":113015,"æİ¥çº³":113016,"ç²¾æ¹Ľ":113017,"åħ¶æ¬¡æĺ¯":113018,"顺德":113019,"åħ¬åħ±åį«çĶŁ":113020,"è¤IJèī²":113021,"ä¸įæĥľ":113022,"æĬĢæľ¯æľįåĬ¡":113023,"æİ·":113024,"æ±ĤèģĮ":113025,"ä¸ī峡":113026,"æĬķåħ¥åΰ":113027,"太åIJİ":113028,"åIJ¯åĬ¨ä»ªå¼ı":113029,"缴æİ¥å½±åĵį":113030,"æĸ°æ¬¾":113031,"个乡éķĩ":113032,"çĻ¾äº¿":113033,"庫":113034,"ä¹ŁæŃ£æĺ¯":113035,"åı¶çīĩ":113036,"æľĢæĹ©çļĦ":113037,"æĪĺ绩":113038,"å·¥æľŁ":113039,"æĻļæľŁ":113040,"è¿Ļæł·è¯´":113041,"è¯įè¯Ń":113042,"ä¾Ħ":113043,"æķ£çĥŃ":113044,"éĽĨæĪIJçĶµè·¯":113045,"åIJįè¯į":113046,"æĻºåķĨ":113047,"æĭ¥åłµ":113048,"çĭĤ欢":113049,"è¿Ļèά":113050,"浴室":113051,"åijķåIJIJ":113052,"æľªæĿ¥åıijå±ķ":113053,"ä¸īä½įä¸Ģä½ĵ":113054,"åªĴé«Ķ":113055,"ä¸įå¾Ĺ转载":113056,"åĽłä¸ºå¥¹":113057,"æĺ¾ç¤ºå±ı":113058,"ä¾Ľæļĸ":113059,"éĨ«éĻ¢":113060,"æľīæĦıæĢĿ":113061,"æľīæĦıæĢĿçļĦ":113062,"娱ä¹IJåŁİ":113063,"åįµå·¢":113064,"åĪĽéĢłåĬĽ":113065,"竳èĬĤ":113066,"人大常å§Ķ":113067,"èĢĮçİ°åľ¨":113068,"å¤ĸå©Ĩ":113069,"å¢ŀæĮģ":113070,"äºĶåįĥ":113071,"èĢģå¸Ī们":113072,"æ´ĽæĿī":113073,"æ´ĽæĿī磶":113074,"æİĮæı¡äºĨ":113075,"ä¸ŃåĽ½æĸĩåĮĸ":113076,"æĸ°æĶ¿":113077,"主è¦ģç͍äºİ":113078,"åıijçĥ§":113079,"类似äºİ":113080,"åĮĹæŀģ":113081,"æĪij们认为":113082,"弥漫":113083,"åħ¨çIJĥç»ıæµİ":113084,"é¢IJ":113085,"ä¸Ģèµ·è£ħä¿®":113086,"æĶĴ":113087,"æĭīèIJ¨":113088,"帶ä¾Ĩ":113089,"åĨ·æ°´":113090,"ä¸īåĨľ":113091,"æĿ¿æĿIJ":113092,"è¿ŀè¿ŀ":113093,"éĵ®":113094,"ç»ıèIJ¥çIJĨ念":113095,"山顶":113096,"å¾Īæĥ³":113097,"çĺ«":113098,"å§ĭç»Īä¿ĿæĮģ":113099,"åľ¨å¹¿å·ŀ":113100,"ä¸įåIJĮæĦı":113101,"åıĺåİĭ":113102,"åıĺåİĭåύ":113103,"产éĶĢ":113104,"表éĿ¢ä¸Ĭ":113105,"æīĢ以ä»ĸ":113106,"ç»ıéªĮ丰å¯Į":113107,"éĥ¨å§Ķ":113108,"åħµåĽ¢":113109,"æīĢè¿°":113110,"æķ¦çħĮ":113111,"ç»ıèIJ¥èĮĥåĽ´":113112,"åı£è¯Ń":113113,"失信":113114,"æ¯ı个人çļĦ":113115,"æīĭæĮģ":113116,"æģIJæħĮ":113117,"åł¡åŀĴ":113118,"é¦ħ":113119,"éĵ¸éĢł":113120,"æĭ¿åĩºæĿ¥":113121,"æİ¢æµĭ":113122,"大家ä¸Ģèµ·":113123,"奧":113124,"å®ŀè´¨æĢ§":113125,"å°ıåĦ¿":113126,"èĩºåįĹ":113127,"èĩºåįĹå¸Ĥ":113128,"å¼ĢåıijèĢħ":113129,"åı¯æł¹æį®":113130,"ç®±åŃIJ":113131,"饺åŃIJ":113132,"å¿ĻçĿĢ":113133,"æĿ¥ä¸įåıĬ":113134,"çĽ¸ä¼ł":113135,"åĽ½ç½ij":113136,"èħ¹æ³»":113137,"è¿ĻéĩĮæľī":113138,"é£İæĻ¯åĮº":113139,"åıĤä¿Ŀ":113140,"æŃ»èĢħ":113141,"æĪ´ä¸Ĭ":113142,"æ©Łæ§ĭ":113143,"è¯ķéªĮåĮº":113144,"ä¼łæİĪ":113145,"æµ·è¾¹":113146,"泪水":113147,"缸åħ³åĨħ容":113148,"éĥijå·ŀå¸Ĥ":113149,"åħijçݰ":113150,"两åij¨":113151,"èĬľæ¹ĸ":113152,"ç͵åŃIJä¿¡æģ¯":113153,"红å¤ĸ":113154,"æĹħ游å±Ģ":113155,"å¾Ģå¾Ģä¼ļ":113156,"è¿ħçĮĽ":113157,"ä¼łçľŁ":113158,"æ¸ħæ¾Ī":113159,"å°±è¿ij":113160,"微信群":113161,"ç³»åĪĹæ´»åĬ¨":113162,"ç»ı常ä¼ļ":113163,"è§Ĥæµĭ":113164,"å¿ĥå¾Ĺä½ĵä¼ļ":113165,"éĻĪåĪĹ":113166,"åĮĹæĸĹ":113167,"è«®":113168,"諮詢":113169,"è¿ĺæĺ¯ä¼ļ":113170,"æµĭç®Ĺ":113171,"æĺŁç©º":113172,"宽容":113173,"çī©ä¸ļåħ¬åı¸":113174,"æĪĴæĮĩ":113175,"å¸ħæ°Ķ":113176,"ä¸ĢæŃ¥æŃ¥":113177,"åħ±é¸£":113178,"åĨ³ä¸į":113179,"æİ¥ç®¡":113180,"å¦ĩèģĶ":113181,"æ¯Ķåĸ»":113182,"é²ģè¿ħ":113183,"æĮģçºĮ":113184,"çĽ¸äº²":113185,"å¨ģå°¼æĸ¯äºº":113186,"ç«ĭ项":113187,"åĪĿå§ĭ":113188,"èĩªåζ":113189,"è¿Īè¿Ľ":113190,"ä¸Ĭæ±½":113191,"å®ıä¼Ł":113192,"æł¹æľ¬æ²¡æľī":113193,"æĸ°åĨłçĹħæ¯Ĵ":113194,"åĵªç§į":113195,"康åħ»":113196,"è¡°èĢģ":113197,"å½ķåĥı":113198,"é«Ķé©Ĺ":113199,"ç»ijå®ļ":113200,"é¢Ŀ头":113201,"äºĶæľĪ":113202,"èĬ±å¼Ģ":113203,"ä¸Ģ线åŁİå¸Ĥ":113204,"åĪ°åľº":113205,"æĬķéĻį":113206,"çĹĺçĹĺ":113207,"åıĹä¸įäºĨ":113208,"æīİæł¹":113209,"æĽ´ä½ķåĨµ":113210,"æĬ½æŁ¥":113211,"åĩºè·¯":113212,"审议éĢļè¿ĩ":113213,"ä¸įåĥħ":113214,"èī²è°ĥ":113215,"çϾä½Ļ":113216,"èĤłéģĵ":113217,"æ·±åİļçļĦ":113218,"马åĬĽ":113219,"æĹ©æĻļ":113220,"æŃĮèĪŀ":113221,"éĺ²æĻĴ":113222,"æľĢåIJİä¸Ģ个":113223,"樱èĬ±":113224,"å°ıä¼ĻåŃIJ":113225,"åľ¨å½ĵåľ°":113226,"å°ıä¼Ļ伴们":113227,"èµ·æºIJ":113228,"åħ¨åªĴä½ĵ":113229,"ç°½":113230,"éħ±æ²¹":113231,"æĹłè®ºå¦Ĥä½ķ":113232,"裤åŃIJ":113233,"åģľäº§":113234,"ä¸įçͱå¾Ĺ":113235,"çīµå¼ķ":113236,"ä¼łåĬ¨":113237,"ä¹Ŀé¾Ļ":113238,"åĬłåĽº":113239,"ä¹Łä¸įæķ¢":113240,"æĬĢæľ¯æĶ¯æĮģ":113241,"ä¸Ĭå²Ĺ":113242,"ç»ıéªĮåĴĮ":113243,"æł¼æŀĹ":113244,"åIJ¸éĻĦ":113245,"æľªæĪIJå¹´":113246,"奢ä¾Īåĵģ":113247,"追æį§":113248,"好ä¸į容æĺĵ":113249,"èķ´åIJ«":113250,"ä¿Ŀå®ļ":113251,"æĬ¥ä¸ļ":113252,"æµ·åĨħå¤ĸ":113253,"ä½łçİ°åľ¨":113254,"æ²¹èĢĹ":113255,"è´¨éĩı管çIJĨ":113256,"æ½ľæ°´":113257,"ä¸½æ±Ł":113258,"转åħ¥":113259,"è¿Ļä¹Īä¹ħ":113260,"æĺİ代":113261,"责任åζ":113262,"éĩįå·¥":113263,"大巴":113264,"触åıĬ":113265,"èµ·åĪĿ":113266,"大å¦Ī":113267,"æĸ¯å¡Ķ":113268,"åĨĽå·¥":113269,"书éĻ¢":113270,"峨":113271,"æİ¨çIJĨ":113272,"è¿Ļç¯ĩæĸĩ竳":113273,"è¿ģç§»":113274,"åľ¨åIJĮä¸Ģ":113275,"ç»Ĩç»Ĩ":113276,"åīĬå¼±":113277,"书æĪ¿":113278,"ç¶ĵ常":113279,"è¯ķé¢ĺ":113280,"æĤ£ä¸Ĭ":113281,"çĻ«çĹ«çĹħ":113282,"åĨ²æ´Ĺ":113283,"å¤ĸæı´":113284,"åħĭåζ":113285,"åįģæľĪ":113286,"åģļä¸įåΰ":113287,"ç¾İåĮĸ":113288,"å¦ĤæľŁ":113289,"è¿ĺéľĢ":113290,"å¤©åºľ":113291,"å°±æĦıåij³çĿĢ":113292,"çļĦç¡®æĺ¯":113293,"éªĹå±Ģ":113294,"å°ıç»ĦèµĽ":113295,"è©©":113296,"ä¹Ŀå¹´":113297,"æĻĵå¾Ĺ":113298,"çłĶ究人åijĺ":113299,"大éħĴåºĹ":113300,"ç§ijåѸ":113301,"åħŃåIJĪ":113302,"çķĮå®ļ":113303,"车载":113304,"å¼ĢçĿĢ":113305,"毫æĹłçĸij":113306,"毫æĹłçĸijéĹ®":113307,"è¿IJç»´":113308,"ç¦ģåĮº":113309,"èĦ±èIJ½":113310,"讲å¸Ī":113311,"产ä¸ļåŁºåľ°":113312,"é«ĺæĢ§èĥ½":113313,"åħī彩":113314,"çݰéĺ¶æ®µ":113315,"åĩ¿":113316,"è¾ĥå·®":113317,"饮çĶ¨æ°´":113318,"éĸĭçϼ":113319,"ç½ijåIJ§":113320,"çĮ´åŃIJ":113321,"æŃ¦æŀĹ":113322,"å®īåİ¿":113323,"ä¸įåı¯æĢĿ":113324,"ä¸įåı¯æĢĿè®®":113325,"éĬ·åĶ®":113326,"è´«ç©·":113327,"为åķ¥":113328,"éºĵ":113329,"å¹¾åĢĭ":113330,"è§Ħ模以ä¸Ĭ":113331,"æıļ":113332,"è¢«åĽ°":113333,"缺å¸Ń":113334,"å¿«é¤IJ":113335,"æĬ¢åįł":113336,"æĻŁ":113337,"å¤įæ´»":113338,"æľ¬æĬ¥è®¯":113339,"åĪĽä¸ĭ":113340,"海滩":113341,"éĩı产":113342,"å¦Ĥä½ķåİ»":113343,"车ä½į":113344,"å¯ĩ":113345,"äºĮåįģåĽĽ":113346,"ç»ıæµİæįŁå¤±":113347,"éħįå¥Ĺ设æĸ½":113348,"åŁºæľ¬éĿ¢":113349,"äºī论":113350,"就好åĥı":113351,"çłĶç©¶æĪIJæŀľ":113352,"éĻĪè¿°":113353,"æīĵåĬ¨":113354,"ä¸ĭå·´":113355,"ç§ĴéĴŁ":113356,"对人ä½ĵ":113357,"æĬĢæľ¯çłĶåıij":113358,"åİŁåŃIJ":113359,"æĺ¯ä¸Ģ项":113360,"äºĨä¸Ģ份":113361,"æĮĩçͲ":113362,"ç͍éĩı":113363,"è¿ĺä¸įå¤Ł":113364,"æĶ¿åºľéĩĩè´Ń":113365,"çŁ¥è¯ĨçĤ¹":113366,"ä¸ŃåĽ½æ¢¦":113367,"å¾Īå¼Ģå¿ĥ":113368,"礼è²Į":113369,"éĿŀ常å¤ļ":113370,"éĿŀ常å¤ļçļĦ":113371,"åĽļ":113372,"æĹħé¦Ĩ":113373,"å°½æĥħ":113374,"æŃĮåͱ":113375,"æ²Ļé¾Ļ":113376,"车åİ¢":113377,"客æµģ":113378,"åģıå·®":113379,"积累äºĨ":113380,"æ¡Ķ":113381,"çĶ»çĶ»":113382,"ä¹ŁåºĶ该":113383,"åºĶç͍ç¨ĭåºı":113384,"èĥĥèĤł":113385,"以å¾Į":113386,"豪å®ħ":113387,"æ·±åĬłå·¥":113388,"缴è¨Ģ":113389,"åĮĸçŁ³":113390,"åĽ½éģĵ":113391,"ä¸ĥ个":113392,"ä»İèĢĮ使":113393,"èĤłèĥĥ":113394,"æĹ¥è¶ĭ":113395,"çζåŃIJ":113396,"ç·©":113397,"æĭĽçīĮ":113398,"产å¦ĩ":113399,"çķªèĮĦ":113400,"æĪijéĻ¢":113401,"建çŃijå·¥ç¨ĭ":113402,"å±ķè§Īä¼ļ":113403,"å®¶éķ¿ä»¬":113404,"åĨľä½ľçī©":113405,"æĹ¥å¤ľ":113406,"æĶ»æĵĬ":113407,"è§Ħéģ¿":113408,"èĪŁå±±":113409,"便æ°ij":113410,"åħ«åŃĹ":113411,"ä¸įæĽ¾":113412,"æĶ¯éħį":113413,"çĨ¬å¤ľ":113414,"人é¡ŀ":113415,"ç´ĢéĮĦ":113416,"ç»ıèIJ¥æ´»åĬ¨":113417,"大涨":113418,"å¸Ĥå§Ķ常å§Ķ":113419,"åĪĨéIJĺ":113420,"ä¸Ģ个èģĮä¸ļ":113421,"çĹħåĽł":113422,"è¿Ļ对äºİ":113423,"ä¸įå¾Ĺä¸į说":113424,"åıijçĶµæľº":113425,"æľīæīĢ帮åĬ©":113426,"缮æłĩä»»åĬ¡":113427,"åĽłåľ°":113428,"åĽłåľ°åζ":113429,"åĽłåľ°åĪ¶å®ľ":113430,"å°Ĩè¾¾åΰ":113431,"ç²Ĺç³Ļ":113432,"ç¨³åĽº":113433,"å«£":113434,"çİ°åľ¨å¾Īå¤ļ":113435,"ä¸ĸçķĮ级":113436,"å¼łæŁIJ":113437,"çĤ¹ç¼Ģ":113438,"èijµ":113439,"社ä¼ļç»Ħç»ĩ":113440,"å¾ĢåIJİ":113441,"åĬłæģ¯":113442,"åĻªå£°":113443,"æľīåħ´è¶£":113444,"为æĤ¨æıIJä¾Ľ":113445,"æ²¹æ¼Ĩ":113446,"ç¬¬åĽĽå±Ĭ":113447,"çļĩ宫":113448,"ä¹Ĵä¹ĵ":113449,"ä¹Ĵä¹ĵçIJĥ":113450,"éļ¨èijĹ":113451,"éģ©åIJĪ":113452,"åįĹéĿŀ":113453,"æĵ´":113454,"西æ´ĭ":113455,"åĬłå¯Ĩ":113456,"æĪIJåĬŁä¸¾åĬŀ":113457,"åı£æ°´":113458,"æĪIJ年人":113459,"æīĢæıIJä¾ĽçļĦ":113460,"éļĶå£ģ":113461,"åľ¨äº¬":113462,"å½ĵåľ°æĹ¶éĹ´":113463,"çŃīåIJĦç§į":113464,"é£İæ°Ķ":113465,"å±ĭéĩĮ":113466,"ä¸ĢåŃĹ":113467,"çļĦæĹ¶éĹ´éĩĮ":113468,"åĺ¿åĺ¿":113469,"快讯":113470,"ä¸Ńåľº":113471,"ä¸Ģçĵ¶":113472,"æ»ķ":113473,"é¢Ĩè·ij":113474,"好èݱ":113475,"好èݱåĿŀ":113476,"没åħ³ç³»":113477,"åĩºå¢ĥ":113478,"ä¸įæĺ¯ä¸Ģ个":113479,"éĥ½æĺ¯éĿŀ常":113480,"éľĩåĬ¨":113481,"èİ·èĥľ":113482,"åįļå¼Ī":113483,"æĬļåħ»":113484,"对ç«ĭ":113485,"æľįåĬ¡æľºæŀĦ":113486,"è°£è¨Ģ":113487,"社ä¼ļç§ijåѦ":113488,"åIJ¬è¯´è¿ĩ":113489,"æī³":113490,"æīĵ磨":113491,"åı£æľį":113492,"好åĥıæĺ¯":113493,"以åıĬåħ¶ä»ĸ":113494,"çī¹è´¨":113495,"亲è¿ij":113496,"ä¸Ģç»ı":113497,"æ¶Ŀ":113498,"éŃĶæľ¯":113499,"éģĵ路交éĢļ":113500,"è§Ħ模æľĢ大":113501,"å®ŀæĸ½æĦıè§ģ":113502,"ä¹ŀ":113503,"ä¸Ģä¸ĸ":113504,"åŁ·è¡Į":113505,"è±Ĩçĵ£":113506,"åĪĹ为":113507,"æķħ宫":113508,"çĶŁåij½åij¨æľŁ":113509,"ä¸īç§įèģĮä¸ļ":113510,"详ç»Ĩä»ĭç»į":113511,"å®Įå¤ĩ":113512,"å²©çŁ³":113513,"éļıæīĭ":113514,"飲":113515,"æķĪæŀľåĽ¾":113516,"ç§ĭåĨ¬":113517,"åĬŁå¾·":113518,"è§Ħ竳åĪ¶åº¦":113519,"æĹ¥æ¸IJ":113520,"æīĢéľĢè¦ģ":113521,"æīĢéľĢè¦ģçļĦ":113522,"å²Ľä¸Ĭ":113523,"åĩºåľŁ":113524,"åĽ¾æĸĩ":113525,"ç§ijæĬĢè¿ĽæŃ¥":113526,"éĢļèĥĢ":113527,"èĢģ太太":113528,"èĭĹæľ¨":113529,"éĵ¶å·Ŀ":113530,"å¸IJ篷":113531,"éĿŀè¦ģ":113532,"éħįç͵":113533,"å¤Ħå¢ĥ":113534,"èĤ¡æĿĥæĬķèµĦ":113535,"ä¸Ģ缴åΰ":113536,"åĿĩçͱ":113537,"æĬĹæĹ¥":113538,"æį®ä»ĭç»į":113539,"ä½łåĸľæ¬¢":113540,"åĪĽæĸ°åŀĭ":113541,"åıĺè¿ģ":113542,"è§Ĩå¯Ł":113543,"å®Įåħ¨æ²¡æľī":113544,"åħĥæĹ¦":113545,"åı¯ä¿¡":113546,"åı¦è¡Į":113547,"æĿij级":113548,"åħ¥åľº":113549,"æIJŃæ¡£":113550,"ä¹ŁåĽłæŃ¤":113551,"æį¢æĪIJ":113552,"ä¸įè´Ł":113553,"äºĨ大éĩıçļĦ":113554,"éģĶåΰ":113555,"å¸Ĥåİ¿":113556,"å¹´è¼ķ":113557,"å¿«æīĭ":113558,"å¸Įå°Ķ":113559,"èĩªèIJ¥":113560,"éĽªèĬ±":113561,"æIJģ":113562,"çľ¼ç§ij":113563,"æŃ£ç¢º":113564,"çļĦå§¿æĢģ":113565,"åĿļå®ŀçļĦ":113566,"æĮĩ纹":113567,"æªĶæ¡Ī":113568,"ç½®äºİ":113569,"佩æľį":113570,"豪éŨ":113571,"åĵĴ":113572,"æģ°å¥½":113573,"æª¢æŁ¥":113574,"åĪĿè¡·":113575,"大åĶIJ":113576,"约ä¼ļ":113577,"èĴ¸åıij":113578,"çѹåĪĴ":113579,"å¹´ç»Ī":113580,"è¡Įæ¥Ń":113581,"åħ±éĿĴ":113582,"åħ±éĿĴåĽ¢":113583,"ä¼ļå¼ķèµ·":113584,"ä¸Ńç§ij":113585,"ä¸Ńç§ijéĻ¢":113586,"æĮ¯åĬ¨":113587,"åį´åıijçݰ":113588,"ä¸įåĬ¨äº§":113589,"èĮ¹":113590,"æĪ¿éĹ´éĩĮ":113591,"è´§å¸ģæĶ¿çŃĸ":113592,"æ²»çĻĤ":113593,"æħİéĩį":113594,"å¡ŀå°Ķ":113595,"åĽ½ç±į":113596,"åĽłæŀľ":113597,"çŃīçī¹çĤ¹":113598,"山谷":113599,"ä¸ĭè¼ī":113600,"è®ĵæĪij":113601,"饮éħĴ":113602,"è¿Ļ个游æĪı":113603,"ç»Ŀ大éĥ¨åĪĨ":113604,"åĴ¨è¯¢æľįåĬ¡":113605,"干活":113606,"è®®ä¼ļ":113607,"æ¦Ĥè¿°":113608,"åĪĨåĮº":113609,"æŃ»åIJİ":113610,"ç«ĻçĿĢ":113611,"主è¦ģé¢Ĩ导":113612,"åIJĮåŁİ":113613,"大æłij":113614,"对åѦçĶŁ":113615,"社ä¼ļä¿ĿéĻ©":113616,"å¢ŀèµĦ":113617,"主人åħ¬":113618,"å®£ä¼łæķĻèĤ²":113619,"æĸĩåĮĸ交æµģ":113620,"客æĪ¶":113621,"çŁ¥åIJįåĵģçīĮ":113622,"æ»ŀåIJİ":113623,"äºĴè¡¥":113624,"æĦŁäºº":113625,"åī¿":113626,"åIJİ代":113627,"äºī龸":113628,"æķĻèĤ²åٹè®Ń":113629,"éĿĻèĦī":113630,"ä¹ıåĬĽ":113631,"说åĩºæĿ¥":113632,"çİĭèĢħèį£èĢĢ":113633,"åĢ«":113634,"åįĩèµ·":113635,"éķģ":113636,"åĩºæ¸¸":113637,"éĢļè¡Įè¯ģ":113638,"å·¥ä½ľå²Ĺä½į":113639,"åĮłå¿ĥ":113640,"æĭ¿æĿ¥":113641,"æ´Ĺè¡£æľº":113642,"æĪijä¸įæĥ³":113643,"é¢Ħè§ģ":113644,"æ¼Ķ示":113645,"ä¸ĢçĽ´æ²¡æľī":113646,"è·Łå¥¹":113647,"对çħ§æ£ĢæŁ¥":113648,"ç°¿":113649,"ä¸ĵå¿ĥ":113650,"è®®äºĭ":113651,"åīį端":113652,"åį¡å°Ķ":113653,"è¨Ńå®ļ":113654,"设置äºĨ":113655,"å©ļ纱":113656,"åľ¨åĽ½å¤ĸ":113657,"åı³ä¾§":113658,"è³¼çī©":113659,"å¥ĩèij©":113660,"å¢ŀåĬłå̼":113661,"好è¿IJ":113662,"åĽ½éĻħæľºåľº":113663,"ä¸ĭç§°":113664,"缮åīį为æŃ¢":113665,"ç¥ŀä»Ļ":113666,"å®ĥåı¯ä»¥":113667,"æ¾Ħæ¸ħ":113668,"èĥ½ä½¿":113669,"游åĩ»":113670,"游åĩ»éĺŁ":113671,"åĩ¹":113672,"ä¸įè¦ģåĨį":113673,"åĨ³èĥľ":113674,"åĨ³æĪĺ":113675,"æĭ½":113676,"缼åħ¸":113677,"å¾Īå¥½åľ°":113678,"æľĢç¾İçļĦ":113679,"åĥļ":113680,"å·´åŁº":113681,"å·´åŁºæĸ¯åĿ¦":113682,"æľĢéĢĤåIJĪ":113683,"é«ĺèģĮ":113684,"ä¿Ŀå§Ĩ":113685,"æİĪæ¬Ĭ":113686,"说åΰè¿ĻéĩĮ":113687,"æİ¨å¼Ģ":113688,"çİĩè¾¾":113689,"ä¸īåĪĨä¹ĭä¸Ģ":113690,"管çIJĨä¸Ńå¿ĥ":113691,"交æ±ĩ":113692,"森æŀĹåħ¬åĽŃ":113693,"å¾Ģä¸Ĭ":113694,"éªijè¡Į":113695,"æį®æŃ¤":113696,"纽带":113697,"ç»ŀ":113698,"ä¸īæĸ¹":113699,"æĦıä¹īä¸ĬçļĦ":113700,"æİ¨è¿Ł":113701,"å¤ļæł·æĢ§":113702,"æĥ³èµ·äºĨ":113703,"æİĴåIJį第":113704,"å·¨é¢Ŀ":113705,"æĿŁç¼ļ":113706,"å®īå®ļ":113707,"äºĭ實":113708,"çļĦæĦ¿æľĽ":113709,"è£ħå¤ĩåζéĢł":113710,"人å±ħ":113711,"人å±ħçݯå¢ĥ":113712,"å¿ĺè®°äºĨ":113713,"该游æĪı":113714,"楼ä¸Ĭ":113715,"å¼Ģä¼ļ":113716,"æģ³":113717,"åıĭæĥħéĵ¾æİ¥":113718,"ç¡Ĵ":113719,"ç»ĻäºĪäºĨ":113720,"åģı好":113721,"åĵī":113722,"交éĢļå®īåħ¨":113723,"éĽĮ":113724,"æ²»çĹħ":113725,"è§īå¾Ĺå¾Ī":113726,"衬衫":113727,"å¿ĥæĦ¿":113728,"æ´ŀå¯Ł":113729,"æ°ijæ£Ģå¯ŁéĻ¢":113730,"æıIJçĤ¼":113731,"è¦ģè¿Ľä¸ĢæŃ¥":113732,"驾车":113733,"æĻ®æĥł":113734,"æķĸ":113735,"ç¦ıéŁ³":113736,"éĢģè¾¾":113737,"è§ĦåĪĴ设计":113738,"æīĭå¥Ĺ":113739,"å®īä¿Ŀ":113740,"è¿ĺä¸įå¦Ĥ":113741,"åīįè¿°":113742,"æłĩè®°":113743,"ç´§æİ¥çĿĢ":113744,"æ§IJ":113745,"æ·±æ·±åľ°":113746,"满满çļĦ":113747,"æĺ¥è¿IJ":113748,"æĹ¥äº§":113749,"çαæĬ¤":113750,"åħ¨æĹ¥":113751,"åħ¨æĹ¥åζ":113752,"转åĬ¨":113753,"ç¥Ńç¥Ģ":113754,"ä¹°ä¸ľè¥¿":113755,"å¯¹æľªæĿ¥":113756,"æ¶Ī失äºĨ":113757,"åļ´éĩį":113758,"ä¸īæĿ¡":113759,"éħ¸å¥¶":113760,"éĽĨåĽ¢èĤ¡ä»½":113761,"西路":113762,"åıªå¾Ĺ":113763,"éĢģåİ»":113764,"çĭłæĬĵ":113765,"åĪ©ç͍çİĩ":113766,"ä¸ĭåij¨":113767,"å¥ĭæĪĺ":113768,"æĺ¥èĬĤæľŁéĹ´":113769,"è´Łè´£ä»»":113770,"æĺĤè´µ":113771,"尾巴":113772,"ç¯ĩæĸĩ竳":113773,"åħ®":113774,"è®ĬæĪIJ":113775,"å¹¹":113776,"çĻ»éĮĦ":113777,"ä½Ī":113778,"å·¥åĮł":113779,"åĵªæĢķæĺ¯":113780,"åıįåĵį":113781,"ç§ĥ":113782,"åĩºè½¨":113783,"æĹ¥åĨĽ":113784,"åIJįèªī":113785,"æķıéĶIJ":113786,"æľįåĬ¡æ°´å¹³":113787,"çħ§å°Ħ":113788,"ä¼Ĭæĭī":113789,"ä¼Ĭæĭīåħĭ":113790,"åĨħéĺģ":113791,"èĬĴæŀľ":113792,"ä¸ĩåĪĨ":113793,"éĢĢæ¬¾":113794,"缴æĴŃéĹ´":113795,"æĭ¿åΰäºĨ":113796,"å°İèĩ´":113797,"空æ°Ķä¸Ń":113798,"客æĪ·æľįåĬ¡":113799,"è¿IJåĬ¿":113800,"ç»ĵçŁ³":113801,"ä¸įå¿ħè¦ģçļĦ":113802,"èĥ¶åĽĬ":113803,"çIJĨä¼ļ":113804,"æĬ½åĩº":113805,"空æ°Ķè´¨éĩı":113806,"æ¯ķ竣æĺ¯":113807,"åĨ·æ¼ł":113808,"ä¸Ģå¦Ĥ":113809,"ä¸Ģå¦ĤæĹ¢":113810,"ä¸Ģå¦ĤæĹ¢å¾Ģ":113811,"æĤ£çĹħ":113812,"åĬłæĮģ":113813,"èµŀåĬ©":113814,"é«®":113815,"åij½ä¸Ń":113816,"æĦıä¹īä¸Ĭ":113817,"ä¸įèĪį":113818,"å쬦":113819,"æīĵæī«":113820,"æĺŁåħī":113821,"æĸŃè£Ĥ":113822,"åħ¨å¥Ĺ":113823,"è£ģå®ļ":113824,"马åħĭæĢĿ":113825,"骨骼":113826,"ä¸Ģè·¯ä¸Ĭ":113827,"å®ļæĹ¶":113828,"å·¥ç¨ĭæĬĢæľ¯":113829,"å½¼å¾Ĺ":113830,"æ±²åıĸ":113831,"ä¸Ģè§Ī":113832,"åIJµæŀ¶":113833,"ä¿Ĺç§°":113834,"æłªæ´²":113835,"åºŁæĹ§":113836,"è¡ĮæĺŁ":113837,"åıijçĶŁåıĺåĮĸ":113838,"é¦ĸä»ĺ":113839,"åįģåĪĨéĩįè¦ģ":113840,"æĬĬè¿ĻäºĽ":113841,"ç¥ŀå·ŀ":113842,"æıIJä¾ĽåķĨ":113843,"楷":113844,"å±İ":113845,"çĬ¶åħĥ":113846,"åŁİå¢Ļ":113847,"çľĭä¸Ģçľĭ":113848,"çĶŁäº§èĥ½åĬĽ":113849,"åŁºæľ¬ä¸Ĭéĥ½":113850,"æīĵæī°":113851,"åĪĿ次":113852,"åĩºç¤º":113853,"åħ¶ä¸Ńä¸Ģ个":113854,"çĶŁæĢģç³»ç»Ł":113855,"æīĭæİĮ":113856,"æµİåįĹå¸Ĥ":113857,"åľĭåħ§":113858,"æŃ£å̼":113859,"å¹¾ä¹İ":113860,"æİ¨èįIJéĺħ读":113861,"è¿Ń代":113862,"è°ĥä¾ĥ":113863,"饮åĵģ":113864,"å¢Ļä½ĵ":113865,"åıĺçݰ":113866,"äºĨ好":113867,"äºĨ好åĩł":113868,"ä¸įçķĻ":113869,"çβ":113870,"å°½æĹ©":113871,"æŃ£åľ¨è¿Ľè¡Į":113872,"åĩºéĻ¢":113873,"æĿĢ害":113874,"æıIJ款":113875,"åıijå±ķ空éĹ´":113876,"åīį身":113877,"ä¸įæĸŃå¢ŀ强":113878,"æ·±å±Ĥ次":113879,"容纳":113880,"éĤ£ä»½":113881,"å·¥ä½ľæķĪçİĩ":113882,"æľ¬åĽ½":113883,"失èIJ½":113884,"æŃ£åĽłä¸º":113885,"èĬĤæ°´":113886,"ä¸ĭä¸Ģ代":113887,"çłĶåıijä¸Ńå¿ĥ":113888,"ä¸įçIJĨ":113889,"å®Į好":113890,"ä¿ĿæĬ¤åĮº":113891,"ç»ĵæŀĦè°ĥæķ´":113892,"å¥łå®ļ":113893,"宣称":113894,"éĺ»æĮ¡":113895,"æĴ¤ç¦»":113896,"ä¸įæĸ¹ä¾¿":113897,"åĴķ":113898,"ç¬ijäºĨç¬ij":113899,"çݯå¢ĥ污æŁĵ":113900,"ä½ıæĪ·":113901,"ç»Ŀç¼ĺ":113902,"éϤå°ĺ":113903,"é«ĺå°ļ":113904,"æĢİä¹Īåı¯èĥ½":113905,"éĿ¢èī²":113906,"åķĨæ¥Ń":113907,"çĸ¹":113908,"èµĦæºIJä¼ĺåĬ¿":113909,"è¾ĸåĮºåĨħ":113910,"èĢĢçľ¼":113911,"æij§æ¯ģ":113912,"ä¸ĸçķĮç»ıæµİ":113913,"å¼ķæĿ¥":113914,"ä¸ĢåĪĻ":113915,"æĭĩæĮĩ":113916,"æĬµå¾¡":113917,"éĽį":113918,"åĩĨå¤ĩå·¥ä½ľ":113919,"çıłä¸īè§Ĵ":113920,"ç¨ĢåľŁ":113921,"èİ·å¾ĹæĦŁ":113922,"æĪIJåĬŁçİĩ":113923,"ç½ij约":113924,"ç½ij约车":113925,"èĦIJ":113926,"æķ¬ä¸ļ":113927,"éĩijä»·":113928,"ç²¾é«ĵ":113929,"买车":113930,"åħ³åı£":113931,"åĨįå¤ļ":113932,"æŀģåĵģ":113933,"åIJĦå®¶":113934,"举æĬ¥ç͵è¯Ŀ":113935,"èļĬ":113936,"æĸ¹å½¢":113937,"ç§ijæĬĢæĪIJæŀľ":113938,"æľĢ好æĺ¯":113939,"éĹ®åĢĻ":113940,"红éħĴ":113941,"åĽĽç§į":113942,"ç¿Ĵæħ":113943,"ç¿Ĵæħ£":113944,"åŀ¦":113945,"éĤ£åıª":113946,"é¢ĨæĤŁ":113947,"çľ¼éĥ¨":113948,"æ³°å®ī":113949,"ä»»æľŁ":113950,"磨æįŁ":113951,"æĽ¿æį¢":113952,"åħ¸ç¤¼":113953,"符åIJĪæĿ¡ä»¶":113954,"è¿ĺæľīä»Ģä¹Ī":113955,"åħ±äº«åįķ车":113956,"åı¯åĪĨ为":113957,"åŃ£åIJİ":113958,"åŃ£åIJİèµĽ":113959,"举èİŀå¸Ĥ":113960,"å¿ĥæĦı":113961,"æīŃæĽ²":113962,"ä½ľä¸ºä¸Ģç§į":113963,"è¿Ļéĥ¨åĪĨ":113964,"åıĤä¸İåΰ":113965,"ç½ijçIJĥ":113966,"實çı¾":113967,"ç»Ħè£ħ":113968,"åIJijå¤ĸ":113969,"å·¥ä½ľæĸ¹æ¡Ī":113970,"åįģæĿ¡":113971,"課ç¨ĭ":113972,"颤æĬĸ":113973,"åĵ©":113974,"éĤ®å¯Ħ":113975,"亢":113976,"åħįè²»":113977,"秤":113978,"åºĶæĢ¥ç®¡çIJĨ":113979,"åĽĽäºĶ":113980,"éºĴéºŁ":113981,"å¾ĴæŃ¥":113982,"è¨ĺå¾Ĺ":113983,"çĴIJ":113984,"æĺ¯åIJ¦ä¼ļ":113985,"æĦıè§ģåıįé¦Ī":113986,"éļ¾æĢª":113987,"çªį":113988,"交æİ¥":113989,"两åįĥ":113990,"æĩīç͍":113991,"æľŁéĸĵ":113992,"æIJ¬åΰ":113993,"è®®é¢ĺ":113994,"碧æ¡Ĥ":113995,"碧æ¡ĤåĽŃ":113996,"åģļçĶŁæĦı":113997,"éĻĽä¸ĭ":113998,"è·ĭ":113999,"èĢģ人家":114000,"带åĽŀ":114001,"æŀ¸æĿŀ":114002,"è¡Įéķ¿":114003,"åĨħ容ç®Ģä»ĭ":114004,"梢":114005,"æĮĩæİ§":114006,"éĩįçĹĩ":114007,"ç½ijåıĭ们":114008,"çı¾ä»£":114009,"类产åĵģ":114010,"å¥Ķæ³¢":114011,"渺":114012,"ç²īç¢İ":114013,"è¿Ļåıªæĺ¯":114014,"æ£Ģå¯Łæľºåħ³":114015,"é½Ĭ":114016,"æĪ¿ç§Ł":114017,"å¾·æĭī":114018,"å²ģ以ä¸Ĭ":114019,"纯åĩĢ":114020,"åĪĨå¸ĥåľ¨":114021,"èĥ½å¾Ĺåΰ":114022,"ä¸įå°½":114023,"ç«ŀä»·":114024,"çļĦ带é¢Ĩ":114025,"çļĦ带é¢Ĩä¸ĭ":114026,"ä¸Ńè᝿ĿIJ":114027,"æĿijéķĩ":114028,"ä¸įåı¯éģ¿åħį":114029,"éľ²å¤©":114030,"å°ıå§ijå¨ĺ":114031,"çī©ä»¶":114032,"èijĹä½ľæĿĥ":114033,"æĭĺçķĻ":114034,"éĥ½è§īå¾Ĺ":114035,"æĽ²æĬĺ":114036,"æ·»åĬłåīĤ":114037,"åı¬åĽŀ":114038,"æīİå®ŀæİ¨è¿Ľ":114039,"æĬĦè¢Ń":114040,"åĮĸ身":114041,"缴èIJ¥":114042,"ä¹Łå¸ĮæľĽ":114043,"èį£èªīç§°åı·":114044,"åįĸç»Ļ":114045,"æľīä¸įåIJĮçļĦ":114046,"å¥ĩçī¹":114047,"éĥ½è®¤ä¸º":114048,"å¦ŀ":114049,"æĪIJéķ¿ä¸º":114050,"辩æĬ¤":114051,"主æķĻç»ĥ":114052,"æ³ķå¸ĪèģĮä¸ļ":114053,"æ¤įåħ¥":114054,"索尼":114055,"åIJ¬è¿ĩ":114056,"ä¹łæĥ¯äºĨ":114057,"夺åıĸ":114058,"éŁĵ":114059,"æľ¬è´¨ä¸Ĭ":114060,"æİ¥åĬĽ":114061,"äºij端":114062,"è¦ģåģļ好":114063,"è·¯çģ¯":114064,"åįıåIJĮåıijå±ķ":114065,"æľīå¾ħ":114066,"æ°´åŁŁ":114067,"æIJľçĭIJé¦ĸ页":114068,"è´¨éĩıå®īåħ¨":114069,"åįģäºĮäºĶ":114070,"åĵ®åĸĺ":114071,"èĵ¬åĭĥåıijå±ķ":114072,"åIJį声":114073,"身亡":114074,"çİĭåºľ":114075,"åİŁåĪĻä¸Ĭ":114076,"çĥĺå¹²":114077,"éģĹæ¼ı":114078,"éĿ¢çĽ®":114079,"åĽ½ä¼ļ":114080,"ä¸Ģ缴éĥ½æĺ¯":114081,"æľīä¸Ģä½į":114082,"éħįæľī":114083,"éĻªçĿĢ":114084,"ä¼ģåĽ¾":114085,"æĮīä¸ĭ":114086,"èĵĿåĽ¾":114087,"æ©ĺ":114088,"大å¤ļæĺ¯":114089,"辩论":114090,"æĹĭå¾ĭ":114091,"æĬ¥éĢģ":114092,"æĿ¡è§Ħå®ļ":114093,"åĬ¨éĿĻ":114094,"åĮĪ奴":114095,"æĭľè®¿":114096,"ä¸ĢåĪĢ":114097,"ä»ĸçŁ¥éģĵ":114098,"主æĿĥ":114099,"ä»ĸæĽ¾":114100,"æĴŃç§į":114101,"å£ģåŀĴ":114102,"çī¢è®°ä½¿åij½":114103,"åľ¨è¿Ļæĸ¹éĿ¢":114104,"æīĭèħķ":114105,"æĶ¯æŀ¶":114106,"ä¾Ĩèĩª":114107,"éĩįå¡ij":114108,"å¤ļå±Ĥ次":114109,"ä»ĭè´¨":114110,"éĿ¢åŃĶ":114111,"潮湿":114112,"åİ¿åŁŁ":114113,"游æĪıå½ĵä¸Ń":114114,"å£ŀ":114115,"åĪĹåĩº":114116,"èµĽåĮº":114117,"å¤ļåįĬ":114118,"éĩįçĤ¹å·¥ä½ľ":114119,"æĪij们å¿ħé¡»":114120,"æŁıæŀĹ":114121,"é²ģèĥ½":114122,"æĸ½å±ķ":114123,"åIJĦåĮº":114124,"åħįç¨İ":114125,"èµĽåIJİ":114126,"æľĢéĩįè¦ģ":114127,"ä¸Ģ个好çļĦ":114128,"è¿Ŀæ³ķè¿Ŀè§Ħ":114129,"äºĨè§£æĽ´å¤ļ":114130,"æķ¬è¯·":114131,"ç¬ijçĿĢ说":114132,"ä¸įæĸŃåıijå±ķ":114133,"æijĦå½±å¸Ī":114134,"以éĺ²":114135,"çĤ¸å¼¹":114136,"声åĵį":114137,"ç¤ģ":114138,"æĩ¿":114139,"èĪĨæĥħ":114140,"èĩªçĶ±è´¸æĺĵ":114141,"æķıæį·":114142,"ä¸ī大éĺ¶æ®µ":114143,"èĭĶ":114144,"æĹºåŃ£":114145,"ä¸į满æĦı":114146,"微信åı·":114147,"修为":114148,"çł´è£Ĥ":114149,"éĢĥ离":114150,"æ¯ıèĤ¡":114151,"è¾¾ä¸įåΰ":114152,"æ¯ıå¹´éĥ½":114153,"çģ¯ç¬¼":114154,"æŃ¤åŁºç¡Ģä¸Ĭ":114155,"åĥı个":114156,"åĪĨ娩":114157,"æĻ¾":114158,"ä¸įèĩ³äºİ":114159,"红线":114160,"误解":114161,"ä¸ľè·¯":114162,"æ·®å®ī":114163,"产åѦ":114164,"产åѦçłĶ":114165,"è»ĭ":114166,"è»ĭçĹħ":114167,"åīįæıIJæĺ¯":114168,"æ¯ıä¸Ģ天":114169,"ä¸ĥ大":114170,"æłijåı¶":114171,"èµ°å¾Ĺ":114172,"è¿Ļ两ç§į":114173,"æİıåĩº":114174,"æİIJ":114175,"é¢Ĩ导èĢħ":114176,"ä¸Ģæľµ":114177,"个å¤ļæľĪ":114178,"ä¸Ńåħ³":114179,"ä¸Ńåħ³æĿij":114180,"课åłĤæķĻåѦ":114181,"大åĴĸ":114182,"éģĭç͍":114183,"è¯ļæĦı":114184,"ç»ĦåĽ¾":114185,"è¯ķçĿĢ":114186,"ä¹Ķæ²»":114187,"è¿ĺä¸įæĺ¯":114188,"æľīæĽ´å¥½çļĦ":114189,"åIJİå¤ĩ":114190,"æĸ°çĶŁåĦ¿":114191,"æ°Ķè¡Ģ":114192,"æ²¥éĿĴ":114193,"å±ıéļľ":114194,"æ¥ŃåĭĻ":114195,"æĪij以为":114196,"éķ¿çĽ¸":114197,"èĢģçΏ":114198,"éķĩæ±Ł":114199,"æľºæ¢°è®¾å¤ĩ":114200,"ä½Ĩæĺ¯å¦Ĥæŀľ":114201,"åĿļå®ļä¸į":114202,"åĿļå®ļä¸įç§»":114203,"åĨ²éĶĭ":114204,"ç®Ģ缴æĺ¯":114205,"åĤ¨èĵĦ":114206,"纯ç͵åĬ¨":114207,"漫æŃ¥":114208,"举起":114209,"æģ¶æĢ§":114210,"è¨ĺéĮĦ":114211,"èģĮèĥ½éĥ¨éŨ":114212,"åħ¨éķ¿":114213,"鼻è¦ĸ":114214,"ä¹³èħº":114215,"ä½ķå¤Ħ":114216,"æ¶Īæŀģ":114217,"æŃ£å¤Ħäºİ":114218,"å®īå®ģ":114219,"æĪIJéķ·":114220,"åıĻè¿°":114221,"æºĥçĸ¡":114222,"ä½Ĩçİ°åľ¨":114223,"女æĺŁ":114224,"å©´å¹¼åĦ¿":114225,"æĬķèŀįèµĦ":114226,"éĹ®éĹ®":114227,"æıŃå¼Ģ":114228,"è¯ı":114229,"åIJįå½ķ":114230,"èĺijèıĩ":114231,"åIJĬé¡¶":114232,"æ¹ĸåĮº":114233,"åįĸåľº":114234,"建ç¯":114235,"建ç¯ī":114236,"èݽ":114237,"åIJ¬åIJ¬":114238,"ç«ŀäºīä¼ĺåĬ¿":114239,"åĩºä»»":114240,"æľī两ç§į":114241,"æ©±æŁľ":114242,"褪":114243,"è¯ķåį·":114244,"ç»ıæµİæĬĢæľ¯":114245,"æ·±å±Ĥ":114246,"éĩįè¦ģåĨħ容":114247,"é£İæİ§":114248,"çĬ¶æĢģä¸ĭ":114249,"éĥ¨éĸĢ":114250,"广汽":114251,"è§Ĥæij©":114252,"éģĹçķĻ":114253,"转账":114254,"æĮģä»ĵ":114255,"æĢ»è®¡":114256,"åľĺéļĬ":114257,"æĪ¿ä¸ľ":114258,"éĺĢéŨ":114259,"åħ¬åħ³":114260,"åħ³åĪĩ":114261,"èĤĺ":114262,"æķ¸æĵļ":114263,"ä¸īåįģå¹´":114264,"è§ģè¯ģäºĨ":114265,"å±Ĩ":114266,"çģ°å°ĺ":114267,"æ¦ľé¦ĸ":114268,"è¦ĨçĽĸçİĩ":114269,"ä»Ļ女":114270,"çĶŁäº§æĢ»":114271,"çĶŁäº§æĢ»å̼":114272,"æĪ¿è´·":114273,"æ±ŁåĮº":114274,"åħħçĶµæ¡©":114275,"çϾåIJĪ":114276,"確èªį":114277,"转移åΰ":114278,"éĥ½æĹłæ³ķ":114279,"纪念é¦Ĩ":114280,"çŃ¾ç½²äºĨ":114281,"å¹¶ä¸įå¤ļ":114282,"æĮł":114283,"ä¸į太好":114284,"ä¸ĸ代":114285,"误导":114286,"é«ĺ峰论åĿĽ":114287,"åħ¼å®¹":114288,"龸æ°Ķ":114289,"æĿ¥è®¿":114290,"æīĢ带æĿ¥çļĦ":114291,"æĺ¯ä¸Ģéĥ¨":114292,"æĻļé¥Ń":114293,"åİĨ代":114294,"åIJ¦åīĩ":114295,"ä¹ħä¹ħ":114296,"æľīæķĪæľŁ":114297,"诱åıij":114298,"æĢ»èµĦ产":114299,"æľ¬èº«å°±æĺ¯":114300,"çĶŁäº§åİĤå®¶":114301,"æĹ¶é«¦":114302,"èĢIJç͍":114303,"ä»İå°ıå°±":114304,"æĿ¡çº¦":114305,"èĭ±åĭĩ":114306,"ä¿Ĺè¯Ŀ说":114307,"寺åºĻ":114308,"å¿ĥçIJĨåģ¥åº·":114309,"ä»Ģä¹Īäºĭæĥħ":114310,"æ±īåŃĹ":114311,"çķĻä½ı":114312,"åįĹè·¯":114313,"ä¸ī项":114314,"丢äºĨ":114315,"æĥ³åΰäºĨ":114316,"çѹéĽĨ":114317,"éĻĦåĬłå̼":114318,"西è£ħ":114319,"ä¹ĭä½ľ":114320,"åģļçļĦäºĭ":114321,"çķ¶æĤ¨":114322,"çķ¶æĤ¨åľ¨":114323,"é¦ĸ款":114324,"ä¸įåľ¨ä¹İ":114325,"å·¥ç¨ĭæĸ½å·¥":114326,"éļIJéļIJ":114327,"åıĺ身":114328,"沿éĢĶ":114329,"æĤłæĤł":114330,"ä¿Ŀæļĸ":114331,"çĶŁæ´»åŀĥåľ¾":114332,"渤海":114333,"æŃ¦ä¾ł":114334,"女主è§Ĵ":114335,"举ä¾ĭ":114336,"æ·¨":114337,"çϽé¢Ĩ":114338,"è£ĻåŃIJ":114339,"è¿Ķè¿ĺ":114340,"è¿Īåĩº":114341,"é¾ĻéŨ":114342,"ç»ıæµİä½ĵ":114343,"æĶ¶å®ĺ":114344,"çķĮéĻIJ":114345,"è·³åĩº":114346,"åįĩå̼":114347,"绵éĺ³":114348,"çĸ¤çĹķ":114349,"çľĭæ¸ħ":114350,"æĭĴçµķ":114351,"è¥Ħéĺ³":114352,"课å¤ĸ":114353,"åŃIJåŃĻ":114354,"æŃĮè¯į":114355,"æĪIJåIJį":114356,"溶液":114357,"åĦĴå®¶":114358,"åķĨä¸ļåĮĸ":114359,"辨åĪ«":114360,"å¤ļè¾¾":114361,"ç½ijåºĹ":114362,"ä¹Ŀ大":114363,"ä¹Ŀ大精ç¥ŀ":114364,"æŃ¤ä¸¾":114365,"è¿ŀè½½":114366,"ä¸ĢåĢĭ人":114367,"è³½":114368,"æ¶µçĽĸäºĨ":114369,"è¦ıåĬĥ":114370,"åĽ½æĥħ":114371,"åį«çĶŁåģ¥åº·":114372,"积æŀģåĵįåºĶ":114373,"æĭĻ":114374,"åζåĬ¨":114375,"æĥ³è±¡åĬĽ":114376,"çļĦä¹IJè¶£":114377,"å¼łå®¶çķĮ":114378,"å´İ":114379,"éĩįåŀĭ":114380,"å¤ĸå¢Ļ":114381,"æĶ¾åѦ":114382,"è®¤çľŁåŃ¦ä¹ł":114383,"è´¬å̼":114384,"æ³ķæ¡Ī":114385,"æĬ¤èĤ¤åĵģ":114386,"éĻ·åħ¥äºĨ":114387,"请æĤ¨":114388,"åŀ¢":114389,"æķĻèĤ²èµĦæºIJ":114390,"交æĺĵå¹³åı°":114391,"æĹ¶è£ħ":114392,"ä¼łæŁĵçĹħ":114393,"æ¹ĸæ³Ĭ":114394,"èµĦ管":114395,"åݨå¸Ī":114396,"éĹľéį":114397,"éĹľéįµ":114398,"åĵĪåĵĪåĵĪ":114399,"çĽĹçªĥ":114400,"çĶľç¾İ":114401,"åºĦåĽŃ":114402,"缮åīįå·²ç»ı":114403,"è¾¹ä¸Ĭ":114404,"çģ«èĬ±":114405,"æĬ¥è®°èĢħ":114406,"æģĭæĥħ":114407,"ç´§åĩij":114408,"æ°´æµģ":114409,"è¿Ļæĺ¯æĪij们":114410,"æ³¥åľŁ":114411,"æĽ¾ä»»":114412,"æĸ¹è¨Ģ":114413,"åij¨åħŃ":114414,"åı·æ¥¼":114415,"ä¼ijåģĩ":114416,"误ä¼ļ":114417,"åĽ½åĢº":114418,"åīįå¤ķ":114419,"ä¸¤å¼ł":114420,"éĹ«":114421,"éŃĶ鬼":114422,"æĬĬæĮģ":114423,"èĬĤèĥ½çݯä¿Ŀ":114424,"æ¸ħæ´ģèĥ½æºIJ":114425,"èĤ¥æĸĻ":114426,"é«ĺé¢ij":114427,"å°±æľīäºĨ":114428,"交ä¼ļ":114429,"没éĴ±":114430,"éĽħæĢĿ":114431,"è¦ģåıĬæĹ¶":114432,"åŁ¹åħ»åѦçĶŁ":114433,"欣åĸľ":114434,"çĥŃæ°´åύ":114435,"é¾Ļæ¹ĸ":114436,"äºĮ楼":114437,"æĸ°æµªè´¢ç»ı":114438,"æĸ°åĬ¨èĥ½":114439,"èµ£å·ŀ":114440,"æĭ³å¤´":114441,"æµģåIJij":114442,"ä¹Łæĺ¯å¾Ī":114443,"åıijåĶ®":114444,"ä¸ŃåIJ«æľī":114445,"åIJĵå¾Ĺ":114446,"å·¨æĺŁ":114447,"æĹłæīĢè°ĵ":114448,"æ¯ĽåŃĶ":114449,"åħ¬åħ±äº¤éĢļ":114450,"çĤİçĥŃ":114451,"èµ·èįī":114452,"åĬłçĽŁåķĨ":114453,"说ä¸įåĩº":114454,"大åѦæ¯ķä¸ļ":114455,"å·¥ä¸ļåĽŃ":114456,"éłĺåŁŁ":114457,"åºĨåħ¸":114458,"æµģ产":114459,"èģ²éٳ":114460,"ä¼¼ä¹İæĺ¯":114461,"è´§æºIJ":114462,"æ·±åĪĩ":114463,"æ²»çĸĹæĸ¹æ³ķ":114464,"èµĦæºIJéħįç½®":114465,"ç¶²åıĭ":114466,"çĶ£":114467,"亥":114468,"èº²åľ¨":114469,"社ç§ij":114470,"è»Łé«Ķ":114471,"女è£ħ":114472,"æŃ¡è¿İ":114473,"综åIJĪå®ŀåĬĽ":114474,"æł¼å°ĩ":114475,"åħļåı²åŃ¦ä¹ł":114476,"æľĢåŁºæľ¬":114477,"æľĢåŁºæľ¬çļĦ":114478,"çľĭæľĽ":114479,"åıĹè´¿":114480,"ä¸įä»ħèĥ½":114481,"ä½ķå¿ħ":114482,"ä¸Ģ个å°ıæĹ¶":114483,"ç¾Į":114484,"æĭĽæĶ¶":114485,"çĤĴèĤ¡":114486,"æĿijå¹²éĥ¨":114487,"缸çα":114488,"æ½ľèĥ½":114489,"ä¹į":114490,"æĹ¶è¾°":114491,"欣æħ°":114492,"éĵ¶è¡Įä¸ļ":114493,"çĭŃçªĦ":114494,"éĩįçĤ¹é¢ĨåŁŁ":114495,"çݰå®ŀçĶŁæ´»":114496,"éĮ¯èª¤":114497,"æĸ°è§Ħ":114498,"滥ç͍":114499,"æĹ¶ä¸į":114500,"æĹ¶ä¸įæĹ¶":114501,"帳èĻŁ":114502,"ç¨Ģ缺":114503,"åIJij举":114504,"ä¿Ŀåģ¥åĵģ":114505,"çıŃéķ¿":114506,"äºĴåĭķ":114507,"笼罩":114508,"æ½Ľ":114509,"æļĸå¿ĥ":114510,"è½°çĤ¸":114511,"åºĨ幸":114512,"è²Įä¼¼":114513,"æĵº":114514,"èĢIJ磨":114515,"ä¸ĵä¸ļ人士":114516,"ä¸Ģèάéĥ½æĺ¯":114517,"æ¼³å·ŀ":114518,"åħ¨èĩªåĬ¨":114519,"å½ķç͍":114520,"大è·Į":114521,"æľīæķο̧":114522,"èĩªåĭķ":114523,"ä¸ī个æĸ¹éĿ¢":114524,"港åĮº":114525,"信貸":114526,"éĢļè¯Ŀ":114527,"é«ĺ涨":114528,"æ³Ħæ¼ı":114529,"éħįä¸Ĭ":114530,"åħļå·¥å§Ķ":114531,"被认为":114532,"被认为æĺ¯":114533,"ä¸įä¼ļåĨį":114534,"è°ĥåīĤ":114535,"åıĤèĤ¡":114536,"èĦ±åıij":114537,"å¿łå®ŀ":114538,"åĨħåĪĨæ³Į":114539,"ç¹ģå¿Ļ":114540,"åıĮåĪĽ":114541,"é©»æĿij":114542,"åĪĴç®Ĺ":114543,"éģİä¾Ĩ":114544,"åľ£ç»ı":114545,"èıľé¸Ł":114546,"æĭ¼å¤ļå¤ļ":114547,"ä¸ŃåĽ½æ±½è½¦":114548,"çĥŁèįī":114549,"缴æµģ":114550,"äºĨä¸Ģåı£æ°Ķ":114551,"ä½İæĪIJæľ¬":114552,"æī¾åĽŀ":114553,"èĩªåįij":114554,"總æĺ¯":114555,"æĸĩåĮĸåĪĽæĦı":114556,"天河":114557,"樱æ¡ĥ":114558,"éªijåħµ":114559,"éĩĮéĿ¢æľī":114560,"çİ®":114561,"èĥ½æī¾åΰ":114562,"éĢĥè·ij":114563,"åĪĩå°Ķ":114564,"åĪĩå°Ķ西":114565,"以ä¸ĭæĺ¯":114566,"å²³éĺ³":114567,"çļĦæ¦Ĥçİĩ":114568,"æĬµåζ":114569,"å¸ĪäºĭåĬ¡":114570,"å¸ĪäºĭåĬ¡æīĢ":114571,"åĩĨæĹ¶":114572,"屬æĸ¼":114573,"订è´Ń":114574,"åįłæį®äºĨ":114575,"ä¸ŃéĢĶ":114576,"å°ĭ":114577,"é»ij马":114578,"åİ¿åħ¬å®īå±Ģ":114579,"ä¸ĥæľĪ":114580,"èī²ç´ł":114581,"å¿ĥèĦıçĹħ":114582,"æĹ¶éĻIJ":114583,"æ¯įåħ¬åı¸":114584,"å¹ķåIJİ":114585,"ä¸Ĭæ¦ľ":114586,"å̾åIJijäºİ":114587,"纸ä¸Ĭ":114588,"æ¡ĵ":114589,"éĽĨä½ĵç»ıæµİ":114590,"æĥħå¢ĥ":114591,"è¦ģåģļåΰ":114592,"ç©į極":114593,"åıªæĢķ":114594,"æ¹ĺ西":114595,"çļ±çº¹":114596,"åħ¨åľĭ":114597,"çĦ¡è«ĸ":114598,"好æĦŁ":114599,"åįķä»·":114600,"è¿Ľç¨ĭä¸Ń":114601,"æĺĨä»ij":114602,"åĪĽå®¢":114603,"åħħæĸ¥":114604,"åħĪæĬĬ":114605,"该æĢİä¹ĪåĬŀ":114606,"åĵģå¾·":114607,"åħ¨éĿ¢åıijå±ķ":114608,"è¨ĪåĬĥ":114609,"æĢ»å·¥ä¼ļ":114610,"ä½Ľå±±å¸Ĥ":114611,"æĬĹè¡¡":114612,"å¼Ģåľº":114613,"éĴ±å¸ģ":114614,"åıĭ们":114615,"å«īå¦Ĵ":114616,"ç´¢èµĶ":114617,"è®ĬåĮĸ":114618,"æĮ¤åİĭ":114619,"æĮijè¡ħ":114620,"çŃīä¸Ģæī¹":114621,"æĿ¨æ¬¢":114622,"ä¸ĵå®¶åѦèĢħ":114623,"èĥ½è¾¾åΰ":114624,"èµ°è¿ij":114625,"è´«åĽ°åľ°åĮº":114626,"éĻIJæľŁ":114627,"ä¸į平衡":114628,"åĽ½åĨħå¸Ĥåľº":114629,"èµĽåľº":114630,"éħįèµĦ":114631,"è¦ģèĢĥèĻij":114632,"ä¸ĩåı°":114633,"æľĪæľ«":114634,"éĶ¥":114635,"åŃ«":114636,"æİ¥è§¦åΰ":114637,"åĩºäº§":114638,"æķĻåѸ":114639,"ä½ľå¼Ĭ":114640,"çļĦæľĢåIJİä¸Ģ":114641,"ä¿ĥæĪIJ":114642,"åIJ¸åıĸ":114643,"æ½ľèīĩ":114644,"被éªĹ":114645,"è¾ĵäºĨ":114646,"çĭIJçĭ¸":114647,"åįĩéĻį":114648,"è¿ĻäºĽä¸ľè¥¿":114649,"æĬķèµĦåŁºéĩij":114650,"çĶŁçī©åѦ":114651,"ç½ij绾èIJ¥éĶĢ":114652,"åIJijè®°èĢħ":114653,"èįīåľ°":114654,"æĢ¯":114655,"æľįåĬ¡èĥ½åĬĽ":114656,"éĥģéĹ·":114657,"åįķåĵģ":114658,"å¾Ĺ罪":114659,"æĺĵäºİ":114660,"个å¤ļå°ıæĹ¶":114661,"éĩįä»»":114662,"ä¸Ĭå®ĺ":114663,"æľ¬éĩij":114664,"çı¾åł´":114665,"溢价":114666,"æĺŁè¾°":114667,"æ´»åĬ¨çİ°åľº":114668,"丹麦":114669,"å¸Ŀçİĭ":114670,"æŁ¥æĺİ":114671,"åŃĺåľ¨äºİ":114672,"é¦Ļæ°´":114673,"æĬ½æ£Ģ":114674,"å®ŀéĻħä¸Ĭæĺ¯":114675,"æĸ°å¾ģç¨ĭ":114676,"è´¢åĬ¡ç®¡çIJĨ":114677,"æİĽ":114678,"åĨľåİĨ":114679,"éĥ½èĥ½å¤Ł":114680,"éĤ¯éĥ¸":114681,"çľŁå¯¦":114682,"ç»Ĭ":114683,"åĨµä¸Ķ":114684,"置身":114685,"ç¥Ī祷":114686,"çĿģå¼Ģ":114687,"æĮĩçĤ¹":114688,"å¼Ģæľº":114689,"西å®ģ":114690,"åĮĹ约":114691,"积水":114692,"åĩºåĬ¨":114693,"åıijå±ķ模å¼ı":114694,"转æĬĺ":114695,"èĢĥçĤ¹":114696,"æľīç½ijåıĭ":114697,"è´«åĽ°æĿij":114698,"æĪijä»¬çŁ¥éģĵ":114699,"åĪĨéĶĢ":114700,"å±±èĦī":114701,"æ¯ĶæĭŁ":114702,"ä¼°ç®Ĺ":114703,"æĶ¹å»º":114704,"壮è§Ĥ":114705,"ç§īæĮģ":114706,"æıª":114707,"ç¦Ģ":114708,"åĮĸåѦåĵģ":114709,"ä¸ŃåĽ½åζéĢł":114710,"ä¸Ģæŀ¶":114711,"æīįè¡Į":114712,"æĭĽå¾ħ":114713,"åıĺæį¢":114714,"åīį线":114715,"幸好":114716,"è¿Ļæł·çļĦè¯Ŀ":114717,"å¿ĥè¡Ģ管":114718,"æĢ§çĸ¾çĹħ":114719,"åħ¨èĥ½":114720,"åĪij侦":114721,"ä¿¡æģ¯åıijå¸ĥ":114722,"æĺ¾çĦ¶æĺ¯":114723,"éĿĴéĵľ":114724,"åIJĥä»Ģä¹Ī":114725,"ç͵价":114726,"æ³ķå¾ĭè§Ħå®ļ":114727,"çħ²":114728,"çĵ·åύ":114729,"èĤīç±»":114730,"æıĴåħ¥":114731,"åĹľ":114732,"è¿Łè¿Ł":114733,"ä¸ĢçĤ¹éĥ½ä¸į":114734,"è¿ĺåĮħæĭ¬":114735,"èĪįä¸įå¾Ĺ":114736,"æłĩå¿ĹæĢ§":114737,"æľĪ以æĿ¥":114738,"ç³ĸæŀľ":114739,"éĥ½åºĶ该":114740,"çݯå¢ĥåį«çĶŁ":114741,"èĪªè¡Į":114742,"éĥijéĩį":114743,"ç½ijæĬķ":114744,"åįģä½³":114745,"ç§ģä¸ĭ":114746,"æļ´è·Į":114747,"åĬłå¿«åıijå±ķ":114748,"产åĵģçłĶåıij":114749,"åĪĽéĢłåĩº":114750,"æĢ»è§īå¾Ĺ":114751,"åºķçĽĺ":114752,"èķĬ":114753,"åĩºå¸Ńä¼ļè®®":114754,"主æĿ¿":114755,"æĹ¥æĻļéĹ´":114756,"å®ĺæĸ¹å¾®åįļ":114757,"å¼ķç͍æĹ¥æľŁ":114758,"åķĻæİĪ":114759,"ç͵åŃIJ产åĵģ":114760,"è¡°éĢĢ":114761,"çķĻåŃĺ":114762,"çģ«åĬĽ":114763,"çĴ§":114764,"çļĤ":114765,"åħ¼åħ·":114766,"éĩįè¿Ķ":114767,"é¢Ĩçķ¥":114768,"åĪĩéϤ":114769,"åĨįçĶŁèĥ½æºIJ":114770,"å®ŀåľ¨å¤ª":114771,"çIJĨ论ä¸Ĭ":114772,"ä¸īå±Ĥ":114773,"ä¸ĸçķĮåIJĦåĽ½":114774,"å®ľæĺĮ":114775,"èĢ³è¾¹":114776,"宽æķŀ":114777,"æ±īæĹı":114778,"çϽçϽ":114779,"è¿ĻéĩĮéĿ¢":114780,"çĶŁæ´»ä¹łæĥ¯":114781,"èµŀèµı":114782,"çͷ士":114783,"ä¸Ńä¿Ħ":114784,"车祸":114785,"åīĤéĩı":114786,"éϤåİ»":114787,"左边":114788,"çŃijçī¢":114789,"çīĽå¸Ĥ":114790,"å®¶åĬ¡":114791,"åķĥ":114792,"ç½®æį¢":114793,"ç´«å¤ĸ":114794,"ç´«å¤ĸ线":114795,"å¾Ģåīį":114796,"åĬĽåѦ":114797,"ç´§è·Ł":114798,"缮çļĦåľ¨äºİ":114799,"ç»®":114800,"ç¥Ĥ":114801,"宣è¨Ģ":114802,"äºĮæ°§åĮĸ":114803,"äºĮæ°§åĮĸ碳":114804,"æĹłç¼ĺ":114805,"ç²¾éĢļ":114806,"診":114807,"å¼ķåıijäºĨ":114808,"æľĢåħĪ":114809,"派驻":114810,"ä¸įå¿į":114811,"æĪijçΏ":114812,"å¹´ä¸ĭåįĬå¹´":114813,"æ·ĭå·´":114814,"没éĹ®é¢ĺ":114815,"åºĹåĨħ":114816,"è·ŁæĪij说":114817,"çĶŁäº§çĶŁæ´»":114818,"è§ĤæľĽ":114819,"æ¸į":114820,"被æī§è¡Į":114821,"被æī§è¡Į人":114822,"èĪľ":114823,"æİº":114824,"ä¸Ģç§Ĵ":114825,"èįīåĿª":114826,"åij¼åĴĮ":114827,"åij¼åĴĮ浩":114828,"åij¼åĴĮ浩çī¹":114829,"人æ°ijéĵ¶è¡Į":114830,"çĦķåıij":114831,"è¯ģåĪ¸äº¤æĺĵ":114832,"çķĶ":114833,"æľºèĥ½":114834,"妾":114835,"æĻļå¹´":114836,"å·¥åķĨèģĶ":114837,"åİŁåŀĭ":114838,"è§Ĵ度çľĭ":114839,"æĬ¥ç¤¾":114840,"è¯įæĿ¡":114841,"躲éģ¿":114842,"éĩįåIJ¯":114843,"å¤ķéĺ³":114844,"èĤ¡æĿĥ转让":114845,"åľ¨ä¸Ģ":114846,"åľ¨ä¸ĢæĹģ":114847,"社ä¼ļåĮĸ":114848,"åıijå±ķåİĨç¨ĭ":114849,"æĭĸæ¬ł":114850,"使èĢħ":114851,"ä¸İåIJ¦":114852,"æĸ°å±ĢéĿ¢":114853,"ä»Ĭ天æĪij们":114854,"é½IJèģļ":114855,"对æĪij说":114856,"éĢĴ交":114857,"æľªæĽ¾":114858,"èİĬ":114859,"éĸī":114860,"亲æīĭ":114861,"è§ĴéĢIJ":114862,"æľīé»ŀ":114863,"ç¨İçİĩ":114864,"ä½İ声":114865,"é»ĺå¥ij":114866,"æĻ®æ³ķ":114867,"大ä¸ĵ":114868,"第äºĮ大":114869,"ä½ıåĿĢ":114870,"æĶ¾è¿Ľ":114871,"äºĮæĪĺ":114872,"亲身":114873,"åĽºåĮĸ":114874,"ä¸ĭ乡":114875,"åħ³éĶ®æĬĢæľ¯":114876,"åĽŀæĥ³":114877,"æĬ¥åĪĬ":114878,"æ¶ĤæĬ¹":114879,"èĹıçĿĢ":114880,"ç¥ĿæĦ¿":114881,"åįĩ温":114882,"çĶļèĩ³è¿ŀ":114883,"åħ¬åħĥåīį":114884,"ç¾İæĸ¹":114885,"è¯ļå®ŀ":114886,"æĹłåģ¿":114887,"å¥Ń":114888,"å°ıå¿ĥ翼":114889,"å°ıå¿ĥ翼翼":114890,"两æīĭ":114891,"温馨æıIJ示":114892,"ä»¿çľŁ":114893,"æĥ¶":114894,"èĥ¡åŃIJ":114895,"å·¥ä½ľç«Ļ":114896,"硬çĽĺ":114897,"ç«¿":114898,"åĤ³éĢģ":114899,"åħ¨æł¡":114900,"é²ľæ´»":114901,"çĴĢçĴ¨":114902,"ç»ĵå°¾":114903,"æį¢æĿ¥":114904,"æĪĢ":114905,"ä½İä½į":114906,"ä¸ĩåħĥ以ä¸Ĭ":114907,"åĬłåĪĨ":114908,"æİ¨ä»ĭä¼ļ":114909,"çIJĨèµĶ":114910,"å¾·å°Ķ":114911,"æĬĹè®®":114912,"æ´¼":114913,"åĸ§":114914,"åŁİéĻħ":114915,"å¾Īæ£Ĵ":114916,"人æŃ»äº¡":114917,"ä¼ļå±ķä¸Ńå¿ĥ":114918,"äºĴèģĶäºĴéĢļ":114919,"èĸĦèĨľ":114920,"éĩįé»ŀ":114921,"ç¦ģæ¯Ĵ":114922,"åĨ·ç¬ij":114923,"大家åı¯ä»¥":114924,"é¦ĸ缸":114925,"è¿ijè·Ŀ离":114926,"æµ®çݰ":114927,"ç§ĺè¯Ģ":114928,"èµ·é£ŀ":114929,"æIJ¶":114930,"羣åģĩ":114931,"æģķ":114932,"å°ıåºĹ":114933,"æ°ijçľ¾":114934,"åıijå¸ĥåħ¬åijĬ":114935,"ä¾§éĩį":114936,"å¾ĺå¾Ĭ":114937,"æĢĶ":114938,"æªIJ":114939,"æķ°çĽ®":114940,"åī¯ç§ĺ书éķ¿":114941,"两åı¥":114942,"éļIJçŀĴ":114943,"åıĮåıĮ":114944,"æīĭæĦŁ":114945,"èij¡äº¬":114946,"éģĹå¿ĺ":114947,"鬥":114948,"è¿Ļä¸ªåľ°æĸ¹":114949,"说çļĦè¯Ŀ":114950,"å·¡åĽŀ":114951,"è¿Ŀ竳":114952,"æī¾å·¥ä½ľ":114953,"æĶ¯çIJĥéĺŁ":114954,"裡éĿ¢":114955,"æĺ¾ç¤ºåĩº":114956,"èĩ³å°Ĭ":114957,"两级":114958,"åīįæ®µæĹ¶éĹ´":114959,"çĺ¦èº«":114960,"èĤ¢ä½ĵ":114961,"æ¯į親":114962,"æīĭç»Ńè´¹":114963,"汽车è¡Įä¸ļ":114964,"æİ©çĽĸ":114965,"æİ§èĤ¡éĽĨåĽ¢":114966,"åı£å¾Ħ":114967,"æĶ¿çŃĸæİªæĸ½":114968,"海绵":114969,"åħ¨éķĩ":114970,"äºĭåħ³":114971,"å¸Ńæī§è¡Į":114972,"å¸Ńæī§è¡Įå®ĺ":114973,"éĤ£æ¬¡":114974,"åı¯èĥ½åĩºçݰ":114975,"ä¸Ńå¿ĥåŁİå¸Ĥ":114976,"翻身":114977,"ä¹Łç®Ĺ":114978,"ä¾µçķ¥":114979,"åĸĩåıŃ":114980,"æ¯ı次éĥ½":114981,"è§ħ":114982,"éĻ¢éĻ¢éķ¿":114983,"å§ĭäºİ":114984,"èѦåĬ¡":114985,"è᝿ĿIJ":114986,"å±łæĿĢ":114987,"æľ¬èº«å°±":114988,"éļıæĹ¶éļı":114989,"éļıæĹ¶éļıåľ°":114990,"åĶ®åįĸ":114991,"æĹłäººé©¾é©¶":114992,"é¢ħ":114993,"åĵģ質":114994,"åĺ²ç¬ij":114995,"è·ijåİ»":114996,"åħĭéĩĮæĸ¯":114997,"çķ¸å½¢":114998,"修饰":114999,"磩éĺµ":115000,"éŁ³ä¹IJä¼ļ":115001,"æŁ³å·ŀ":115002,"齡":115003,"ä¼ļè°Ī":115004,"æŃ£çīĪ":115005,"ä¹ŁåIJĮæł·":115006,"æļ§æĺ§":115007,"è¡ĮæĶ¿éĥ¨éŨ":115008,"ä¹ĸä¹ĸ":115009,"èĤ¤èī²":115010,"æĹ¶ä»»":115011,"羣åĪĩ":115012,"æľĪä¸ĭ":115013,"æľĪä¸ĭæĹ¬":115014,"举æĸ¹è´¢å¯Į":115015,"è£ħä¿®åħ¬åı¸":115016,"éĢĢè¿ĺ":115017,"åĭĺå¯Ł":115018,"åĵ¥ä¼¦":115019,"åĵ¥ä¼¦æ¯Ķäºļ":115020,"çĭ¬ä¸Ģ":115021,"çĭ¬ä¸ĢæĹł":115022,"çĭ¬ä¸ĢæĹłäºĮ":115023,"è°ĥåij³":115024,"åİĭè¿«":115025,"åħ¨çIJĥæľĢ大":115026,"åł¡éķ¿":115027,"æĽ´ä½İ":115028,"åĪĨéĴŁåIJİ":115029,"åĽŀä¾Ĩ":115030,"åζåīĤ":115031,"åijĬè¯ī大家":115032,"çĤ¹éĴŁ":115033,"åįģä¸īå±Ĭ":115034,"åij¨åĽĽ":115035,"è¿Ļæł·ä¸Ģ":115036,"è¿Ļæł·ä¸ĢæĿ¥":115037,"èĭŁ":115038,"æľĽåİ»":115039,"æĪIJè¯Ń":115040,"å½ĵåį³":115041,"ç¬ij声":115042,"ä¹ĭåĬ¿":115043,"åĪijäºĭæ¡Īä»¶":115044,"æĮĤçĿĢ":115045,"ä½ķç§į":115046,"å°ı游æĪı":115047,"åĽ½å®¶æĪĺçķ¥":115048,"åĨ·åĨ·":115049,"å®ľå®¾":115050,"æIJºç¨ĭ":115051,"è¶ĭäºİ":115052,"åıįçľģ":115053,"常说":115054,"ä¸ĩæĪ·":115055,"åĥµå°¸":115056,"åįĥä¸ĩåĪ«":115057,"åıijçݰéĹ®é¢ĺ":115058,"åı¯çŁ¥":115059,"éŨæĪ·ç½ijç«Ļ":115060,"åģ¥åº·äº§ä¸ļ":115061,"åı³è¾¹":115062,"æµ·è¿IJ":115063,"è¿ijä¹İ":115064,"åĮ»æ²»":115065,"æĢ»ç®Ĺ":115066,"ä¸ĢåĪĨéĴŁ":115067,"æĭ§":115068,"ä¹Łæľīä¸ĢäºĽ":115069,"ä¾Ľç͵åħ¬åı¸":115070,"å»īä»·":115071,"帮ä»ĸ":115072,"æŃ¤æ¬¡æ´»åĬ¨":115073,"åıªèĥ½è¯´":115074,"èĬĭ":115075,"çīĩ段":115076,"åŃĺåľ¨éĹ®é¢ĺ":115077,"ä½łä¼ļåıijçݰ":115078,"è½®å»ĵ":115079,"ç½ijéĢļ":115080,"æ»¨æ±Ł":115081,"æİĪä¿¡":115082,"é»İæĺİ":115083,"ä¸įå±ŀäºİ":115084,"约åįł":115085,"éķ¿æ²Ļå¸Ĥ":115086,"èĥļèĥİ":115087,"åħĥä»¶":115088,"éĻĨåĨĽ":115089,"購買":115090,"æĮĩæľĽ":115091,"å®ŀä¹łçĶŁ":115092,"çī¹çĤ¹æĺ¯":115093,"çıłæ±Ł":115094,"çľĭä¸įåĩº":115095,"ä¸įè§ģäºĨ":115096,"ç¼ī":115097,"éĺµèIJ¥":115098,"åĶIJæľĿ":115099,"没å¿ħè¦ģ":115100,"åĽ½åľŁèµĦæºIJ":115101,"ç»ıæµİåѦ家":115102,"åIJĪèĤ¥å¸Ĥ":115103,"çIJ¢ç£¨":115104,"ç¡®åĪĩ":115105,"åŁİå¸Ĥåıijå±ķ":115106,"çŃ·åŃIJ":115107,"人æ°ijæľįåĬ¡":115108,"满åĪĨ":115109,"è¿·ä¿¡":115110,"ä½ľèĢħæľ¬äºº":115111,"æĸĩ竳æĿ¥æºIJ":115112,"ç«Ļç«ĭ":115113,"æŀĦæĪIJäºĨ":115114,"è¾Ľåĭ¤":115115,"è¶ħ强":115116,"éĶļ":115117,"åīįä¸īåŃ£åº¦":115118,"å°±è§īå¾Ĺ":115119,"å´ĩé«ĺ":115120,"è¶Ĭä¾Ĩ":115121,"è¶Ĭä¾Ĩè¶Ĭ":115122,"å¸ĤåľºèIJ¥éĶĢ":115123,"综åIJĪç´łè´¨":115124,"åŃļ":115125,"侮辱":115126,"äºĮåŃĹ":115127,"å·¥ä½ľä»»åĬ¡":115128,"åı²ä¸ĬæľĢ":115129,"æľĢä¼ĺ":115130,"åIJ©åĴIJ":115131,"表çϽ":115132,"èİ«åIJį":115133,"èİ«åIJįåħ¶":115134,"èİ«åIJįåħ¶å¦Ļ":115135,"å¹£":115136,"åIJĮå¿Ĺ们":115137,"建设çĶ¨åľ°":115138,"åĦĢ":115139,"éħįåģ¶":115140,"弩":115141,"åͱçīĩ":115142,"æīĭèĦļ":115143,"åħ¼ä»»":115144,"åģľæĶ¾":115145,"æŃ£å®Ĺ":115146,"æĸ°åĨľæĿij":115147,"åĤ¬çĶŁ":115148,"æīĢåŃ¦æł¡":115149,"å¿µä½Ľ":115150,"åͤéĨĴ":115151,"åħ±åĪĽ":115152,"æĭīä¸ģ":115153,"èĥĮçĿĢ":115154,"çĶŁæĢģä¿ĿæĬ¤":115155,"åı£å¤´":115156,"æĸ¹åIJijçĽĺ":115157,"調æķ´":115158,"æĭĽèģĺä¿¡æģ¯":115159,"åħ¶ä»ĸåĽ½å®¶":115160,"ç®Ģæĺĵ":115161,"åĮ¿åIJį":115162,"è¯Ħæµĭ":115163,"æĺ¯ä¸Ģ座":115164,"çīĭ":115165,"足迹":115166,"çIJĨè§£åĴĮ":115167,"æľĢåıĹ":115168,"å¿ĥè·³":115169,"çĪ¶è¦ª":115170,"éĿŀ常åĸľæ¬¢":115171,"èĭ¦éļ¾":115172,"æĬĢå¸Ī":115173,"æ°ijæĦı":115174,"æĪĺåĽ½":115175,"æĽ¿è¡¥":115176,"津贴":115177,"ä¸ŃåĽ½ä¼łç»Ł":115178,"åIJĦè¡Į":115179,"åIJĦè¡ĮåIJĦ":115180,"åIJĦè¡ĮåIJĦä¸ļ":115181,"第äºĶå±Ĭ":115182,"èį·èĬ±":115183,"æĦıèŃĺ":115184,"票价":115185,"åĪĨæµģ":115186,"æĿİçϽ":115187,"æ±ŁåĮĹ":115188,"æİĴæĸ¥":115189,"ä½ĵéĩı":115190,"åĮħåIJ«äºĨ":115191,"åĪĺæŁIJ":115192,"çݰå¦Ĥä»Ĭ":115193,"å·¥èīºåĵģ":115194,"è¿Ļç§įæĸ¹æ³ķ":115195,"åĬŀåħ¬æ¥¼":115196,"ç͵工":115197,"çħĻ":115198,"åį¡çīĩ":115199,"å¹´å¹´åºķ":115200,"ä¸ĵ项èµĦéĩij":115201,"åĮ»ç§ij":115202,"åĮ»ç§ij大åѦ":115203,"åĽŀ头çľĭ":115204,"ä¸įå±ij":115205,"èĩªé©¾":115206,"没æĶ¶":115207,"æīĵçĮİ":115208,"èĦ¸éĥ¨":115209,"åıĥèĢĥ":115210,"å°Ĩ士":115211,"è´«åĽ°äººåı£":115212,"çIJĨæĥ³ä¿¡å¿µ":115213,"é£İå°ļ":115214,"人æīįéĺŁä¼į":115215,"çij¾":115216,"æĿ¥è¿ĻéĩĮ":115217,"æ´Ĺ涤":115218,"å¹´èĸª":115219,"èĭįçϽ":115220,"ä¸ĩäºĭ":115221,"è¯¾æľ¬":115222,"åºĵéĩĮ":115223,"ç´¾":115224,"ç´¾åijĺ":115225,"èµŀç¾İ":115226,"ç©¿æĪ´":115227,"è£½ä½ľ":115228,"èµŀæĪIJ":115229,"ä¸Ģä¾§":115230,"å½ĵåľ°äºº":115231,"æĭİ":115232,"纸质":115233,"ä½Ļ个":115234,"éĶĤçĶµæ±ł":115235,"æľºåŀĭ":115236,"éĻ¢éϢ士":115237,"åģļå·¥":115238,"å¼łè´´":115239,"ç¥Ľæĸij":115240,"æ®ĸæ°ij":115241,"å¥ij约":115242,"æ¹ĺæ½Ń":115243,"æIJĸ":115244,"åŃĺè´§":115245,"交éĢļ大åѦ":115246,"è¶ģçĿĢ":115247,"æĸĩçī©ä¿ĿæĬ¤":115248,"å¤ĩæĪĺ":115249,"éĩĩ纳":115250,"åįĬæľĪ":115251,"æľĢåħ³éĶ®":115252,"æľĢåħ³éĶ®çļĦ":115253,"æİ¥éĢģ":115254,"æĶ¶åī²":115255,"åıįåĢĴ":115256,"çĥĽ":115257,"æ½Ķ":115258,"ä¼Łå¤§å¤įåħ´":115259,"çļĦè¯Ŀè¯Ń":115260,"容å¿į":115261,"å®ļéĩı":115262,"æķĹ":115263,"åĵģçīĮ形象":115264,"æīŃ转":115265,"åĽ½å®¶éĩįçĤ¹":115266,"èĨĿçĽĸ":115267,"ä¸Ģ楼":115268,"大éϏ":115269,"éĤªæģ¶":115270,"åĽŀåij³":115271,"çĮ¿":115272,"çĿ¡åīį":115273,"æĹłè¾ľ":115274,"çĹħæ¯ĴæĦŁæŁĵ":115275,"æľºæ¢°åĮĸ":115276,"çĤ¹äº®":115277,"溶解":115278,"åĩłä¹İæīĢæľī":115279,"è·ijéģĵ":115280,"ç͵è§Ĩæľº":115281,"åı¨":115282,"æijĩäºĨ":115283,"æijĩäºĨæijĩ头":115284,"èĩªè´Ł":115285,"综åIJĪåĪ©ç͍":115286,"èĩªå¦Ĥ":115287,"åİŁä¾Ĩ":115288,"ä¹Łä¸įæĥ³":115289,"èĬĤ课":115290,"è¿ĩåī©":115291,"çͲçĬ¶":115292,"çͲçĬ¶èħº":115293,"æĸ°ä¸ĸ纪":115294,"èĩªä¸»åĵģçīĮ":115295,"é«ĺå±Ĥ次":115296,"ä¸Ģè§Ĵ":115297,"è¡Įäºĭ":115298,"ç¥ĸåħĪ":115299,"å©ļåIJİ":115300,"éĹ´éļĻ":115301,"ç¼ĿéļĻ":115302,"è¿ĻæĶ¯":115303,"ä¸įæĸŃåĪĽæĸ°":115304,"å¾®åŀĭ":115305,"æĽĻåħī":115306,"享ç͍":115307,"ä¸ŃåĽ½ç§»åĬ¨":115308,"éĹŃçݯ":115309,"æī§æĦı":115310,"åıijå±ķæł¼å±Ģ":115311,"æł¸å¿ĥåĮº":115312,"éªļæī°":115313,"åħļåĴĮåĽ½å®¶":115314,"ä¸ŃåĽ½æĶ¿åºľ":115315,"帶èijĹ":115316,"ä¸ĩåįĥçĵ¦":115317,"åħ©äºº":115318,"äºİæĺ¯æĪij":115319,"åĽºä½ĵ":115320,"çªģå¦Ĥ":115321,"çªģå¦Ĥåħ¶":115322,"çªģå¦Ĥåħ¶æĿ¥":115323,"éĩĮç¨ĭç¢ij":115324,"çαç¾İ":115325,"æŁ¥éªĮ":115326,"åıĮèµ¢":115327,"éĹªåħī":115328,"楼å®ĩ":115329,"æĻı":115330,"æľīè¶³å¤ŁçļĦ":115331,"æŁĶæĢ§":115332,"ä¿¡æģ¯å®īåħ¨":115333,"管线":115334,"å¹¶ä¸įä¼ļ":115335,"åύ件":115336,"ä½łåºĶ该":115337,"çĿĢå®ŀ":115338,"æĺİæ¸ħ":115339,"æĬĹçĶŁç´ł":115340,"æīĵæŃ»":115341,"å®Įåħ¨ä¸įåIJĮ":115342,"èĬ±æ¤Ĵ":115343,"æĶ¾å®½":115344,"ä½İ端":115345,"åĽĽèĤ¢":115346,"åĮĹäº¬èµĽè½¦":115347,"éĽĨå¸Ĥ":115348,"æľªå©ļ":115349,"大å¹ħæıIJåįĩ":115350,"建çŃij设计":115351,"çĭ¬æľīçļĦ":115352,"æİ¢éĻ©":115353,"æ²³æµģåŁŁ":115354,"æħķ容":115355,"被çĽĹ":115356,"åĵºä¹³":115357,"èıģ":115358,"æĥ¬æĦı":115359,"è¶ĬæĿ¥è¶Ĭ好":115360,"广大群ä¼Ĺ":115361,"å¾·èĤ²":115362,"å¸Ĥåľºä»·æł¼":115363,"奥巴":115364,"奥巴马":115365,"èĬĤ缮ä¸Ń":115366,"两款":115367,"ä¸ĩä½Ļåħĥ":115368,"ç»´å°Ķ":115369,"çĶŁçī©ç§ijæĬĢ":115370,"åIJ¬èµ·æĿ¥":115371,"çłļ":115372,"æĭŁå®ļ":115373,"æ²¹çͰ":115374,"声èªī":115375,"建çŃijä¸ļ":115376,"éĻIJè´Ń":115377,"çīĩåŃIJ":115378,"çķľç¦½":115379,"ç½ijé¦ĸ页":115380,"ä¼Ĺçѹ":115381,"æĴŀåĩ»":115382,"åīįä¸įä¹ħ":115383,"åīįä¸ĸ":115384,"åĽĽä¸ªæĦıè¯Ĩ":115385,"æµĭç»ĺ":115386,"éĺ²ç©º":115387,"漫éķ¿çļĦ":115388,"æ²IJæµ´":115389,"æ¯Ķè¾ĥç®Ģåįķ":115390,"æµĭå®ļ":115391,"åĽŀè°ĥ":115392,"让人们":115393,"èĴĭä»ĭ":115394,"èĴĭä»ĭçŁ³":115395,"ç»ĵæĻ¶":115396,"å¢ŀæ·»äºĨ":115397,"æĿ¡è¯Ħ论":115398,"åī¯ä¼ļéķ¿":115399,"ä½ıæīĢ":115400,"ç»ĻåĩºäºĨ":115401,"è°ĥéħį":115402,"æ²ĸ":115403,"æľīç͍":115404,"æľīç͍çļĦ":115405,"ä¸ĢæĿ¡é¾Ļ":115406,"éĩİå¤ĸ":115407,"ç¼ĺåĪĨ":115408,"æ°¸è¿ľä¸įä¼ļ":115409,"æŀľæłij":115410,"大åıijå¿«ä¸ī":115411,"麻éĨī":115412,"äºijéĽĨ":115413,"åİ»åĵªéĩĮ":115414,"åħ¥å¸Ĥ":115415,"ä»»æĢ§":115416,"建档":115417,"建档ç«ĭ":115418,"建档ç«ĭåį¡":115419,"ä¸Ģ棵":115420,"社åįĢ":115421,"çĽ¸ä¼´":115422,"åļ·":115423,"å¡«åħħ":115424,"ä¸ĢæĹı":115425,"ç¾ģ":115426,"åıĸè¯ģ":115427,"èΰéĺŁ":115428,"åİĤåĮº":115429,"è¡·å¿ĥ":115430,"åıijå±ķéĺ¶æ®µ":115431,"é«ĺ强度":115432,"åĹĵåŃIJ":115433,"é¢Ĩè¡Ķ":115434,"楼主":115435,"大èĴľ":115436,"æŀķ头":115437,"粮油":115438,"é»Ħçĵľ":115439,"æĵĴ":115440,"å°ıçĭĹ":115441,"æĶ¹éĿ©å§Ķ":115442,"åįģåĪĨéĴŁ":115443,"é²ľèī³":115444,"åħ³ç¾½":115445,"çĭĢæħĭ":115446,"å®ŀç͍æĢ§":115447,"å°ijè§ģ":115448,"é£ŀæī¬":115449,"çͰéĩİ":115450,"æIJĤ":115451,"è¿Ļ个è¯į":115452,"åºĶæĢ¥é¢Ħæ¡Ī":115453,"è§Ĵ度æĿ¥çľĭ":115454,"æķ¬çķı":115455,"æ³ķå®Ŀ":115456,"åĸĦæĦı":115457,"æīĵæĸŃ":115458,"对åĨ³":115459,"çµķå°į":115460,"åĢŁæŃ¤":115461,"å¼ĢæºIJ":115462,"å°ı說":115463,"祺":115464,"å²ģ以ä¸ĭ":115465,"éĢĢå½¹åĨĽäºº":115466,"ä¸įä¹ħåīį":115467,"åĩºåİĤ":115468,"讽åĪº":115469,"æĿ¥çľĭçľĭåIJ§":115470,"éŃĶåħ½":115471,"çķĻä¸ĭæĿ¥":115472,"å±ħ室":115473,"åłħæĮģ":115474,"çľĭäºĨä¸Ģ":115475,"çľĭäºĨä¸Ģçľ¼":115476,"éĽĨåĽ¢æĹĹä¸ĭ":115477,"æĪĺæĪĺç»ĦåIJĪ":115478,"è®¤çľŁèIJ½å®ŀ":115479,"汽车产ä¸ļ":115480,"çī©çIJĨåѦ":115481,"æķµ":115482,"éĴĿ":115483,"åĽ¢éķ¿":115484,"ä¸įæĸŃæī©å¤§":115485,"èĤ©è´Ł":115486,"åıijå±ķ缮æłĩ":115487,"è³ĩéĩij":115488,"åīįç½®":115489,"ä¸ŃåĽ½åı¤ä»£":115490,"æŃ»åĪij":115491,"åħħåĪĨä½ĵçݰ":115492,"åħ³éŨ":115493,"ç¾İæĦŁ":115494,"æīĵåħ¥":115495,"æĬijéĥģçĹĩ":115496,"å°ijçĪ·":115497,"æłijæŀĿ":115498,"æ¶Īæģ¯ç§°":115499,"æ´Ľåħĭ":115500,"åį¯":115501,"è¿ĪåIJij":115502,"æİ¨åĭķ":115503,"ä»İä¸ļèĢħ":115504,"åݻ买":115505,"欢快":115506,"æĭ¥æĮ¤":115507,"马桶":115508,"æĬĬæİ§":115509,"æĶ¿åħļ":115510,"å¼łæī¬":115511,"客æłĪ":115512,"红æĺŁ":115513,"éĢģæĿ¥":115514,"åħ¨åŁŁæĹħ游":115515,"èĩªç§ģ":115516,"åįģäºĮæĿ¡":115517,"åı¹æģ¯":115518,"ä¸Ģèīĺ":115519,"ä¿Ŀè´¹":115520,"æĸ½å·¥çİ°åľº":115521,"æľī幸":115522,"ç»ŃèĪª":115523,"åı¯èĥ½æľĥ":115524,"èĥĮåıĽ":115525,"ä½£éĩij":115526,"ä¸īçŃīå¥ĸ":115527,"å¾Ī满æĦı":115528,"游æĪıåľ¬":115529,"群éĩĮ":115530,"æŀĦä»¶":115531,"åºıå¹ķ":115532,"太æ¹ĸ":115533,"æľ¨è´¨":115534,"æĻĭæ±Ł":115535,"çµĤæĸ¼":115536,"è·³è·ĥ":115537,"åĢºæĿĥ人":115538,"çŃī诸å¤ļ":115539,"æĶ¾åĩº":115540,"åħ³éĶ®æĹ¶åĪ»":115541,"æĦŁæŁĵèĢħ":115542,"é£ŀè¡Įåijĺ":115543,"èĥĨåĽº":115544,"èĥĨåĽºéĨĩ":115545,"æĬ±æŃī":115546,"åij¨äºĮ":115547,"æĸ°æĹ¶æľŁ":115548,"åĨ·éĵ¾çµģ":115549,"è¿Ļç§įæĸ¹å¼ı":115550,"该æĿij":115551,"åĽŀé¦Ī":115552,"åŁºçĿ£æķĻ":115553,"人åıĤ":115554,"æŀ¯çĩ¥":115555,"æī¹åıijå¸Ĥåľº":115556,"åħħåĪĨèĤ¯å®ļ":115557,"å¸ĤæĶ¿åįı":115558,"äºĭæ¥Ń":115559,"龸çİĭ":115560,"çĥŃæIJľ":115561,"åįģä¹Ŀ大":115562,"ä¼´æľī":115563,"ç¾İåĽ½æĢ»ç»Ł":115564,"åŁİå¸Ĥ管çIJĨ":115565,"ä¸ĭ令":115566,"èĥ¸åı£":115567,"åıªçŁ¥éģĵ":115568,"åij¨ä¸ī":115569,"ç͍æĪ¶":115570,"éѝ":115571,"å¿ĥè¡Ģ":115572,"带头人":115573,"åĮ»åĬ¡":115574,"åĮ»åĬ¡äººåijĺ":115575,"æİ§åζåύ":115576,"ä½ľåĵģåĨħ容":115577,"æĪĺåıĭ":115578,"åİĨå¹´":115579,"ä¸įåħĭ":115580,"ä¸įåħĭä¸įåıĬ":115581,"æĹ¥æŃ£å¼ı":115582,"è±IJå¯Į":115583,"ç¨İè´¹":115584,"æĹ¶æķĪ":115585,"å±ķä½į":115586,"è¡¡éĺ³":115587,"æĪ¿è²¸":115588,"çĪĨ款":115589,"ä¹IJæĦı":115590,"çͷ䏻":115591,"寬":115592,"æľĥèѰ":115593,"ä¹ĭå¤ľ":115594,"åIJĮ樣":115595,"ä¸įè¦ģ太":115596,"ä¼Ĭæĸ¯":115597,"ä¼Ĭæĸ¯åħ°":115598,"åŁºæľ¬åİŁåĪĻ":115599,"åİ»æİī":115600,"ä½İä¿Ŀ":115601,"个交æĺĵ":115602,"个交æĺĵæĹ¥":115603,"èģĬèģĬ":115604,"åĽĽä½į":115605,"åħļç»ĦæĪIJåijĺ":115606,"主è¦ģä»İäºĭ":115607,"å½±éŁ³":115608,"åĨĴåĩº":115609,"åij¼åIJ¸éģĵ":115610,"è¾¾å°Ķ":115611,"æľ¨åľ°æĿ¿":115612,"诡å¼Ĥ":115613,"çģ¯åħ·":115614,"çģ«çĥ§":115615,"è§£èĦ±":115616,"æĦĪåıij":115617,"æ¹ĸå·ŀ":115618,"é£İä¿Ĺ":115619,"æĸ°å½¢åĬ¿":115620,"æĸ°å½¢åĬ¿ä¸ĭ":115621,"è²Ŀ":115622,"èĦĵ":115623,"åĬ¨åĬĽçĶµæ±ł":115624,"é£ŀèι":115625,"飧æĢ§":115626,"åĪ©çī©":115627,"åĪ©çµ¦":115628,"ä¸į认è¯Ĩ":115629,"ç¼ĸç»ĩ":115630,"ä½ľåĿĬ":115631,"èģĮä¸ļæĬĢèĥ½":115632,"çľĭè¦ĭ":115633,"åĽ´æ£ĭ":115634,"æĺıè¿·":115635,"å½Ĵå±ŀäºİ":115636,"æĤ¬å´ĸ":115637,"éĨ«çĻĤ":115638,"å®ĭ代":115639,"åºĦæĿij":115640,"èĹķ":115641,"çĮĽçĦ¶":115642,"çĩĥæĸĻçĶµæ±ł":115643,"å®ŀä½ĵåºĹ":115644,"ä¸į足以":115645,"æĥħç·":115646,"æĥħç·Ĵ":115647,"å»ĬåĿĬ":115648,"ç͵åı°":115649,"åºĶåĬĽ":115650,"ä¸Ńå°ıåѦçĶŁ":115651,"èĥ¡åIJĮ":115652,"éī´åĪ«":115653,"åĨħç½®":115654,"乱象":115655,"æ¬ĬçĽĬ":115656,"å¼ĢæĶ¾å¼ı":115657,"åįļæĸĩ":115658,"讲课":115659,"çŃīåİŁåĽł":115660,"穷人":115661,"äº¤æĽ¿":115662,"æĬ¤çħ§":115663,"åıijå±ķæľºéģĩ":115664,"客åķĨ":115665,"åıįä¹ĭ":115666,"ç±³é¥Ń":115667,"å¹¶åıij":115668,"å¹¶åıijçĹĩ":115669,"æ±īåŃIJ":115670,"æŀľåĽŃ":115671,"对æĪijæĿ¥è¯´":115672,"åģıåIJij":115673,"æī¹ç¤º":115674,"读åIJİ":115675,"读åIJİæĦŁ":115676,"æĺİæĻº":115677,"åĽ´çĿĢ":115678,"åıį转":115679,"æĿ¨å¹Ĥ":115680,"ä¸ĵåįĸ":115681,"ä¸ĵåįĸåºĹ":115682,"åıĹéĻIJ":115683,"åºŁè¯Ŀ":115684,"æŀģå°ij":115685,"åįĪåIJİ":115686,"è¿Ľä¿®":115687,"åīĬåĩı":115688,"æľ¬ç§ijçĶŁ":115689,"ä¼ĺéĢī":115690,"åħīçħ§":115691,"åıĻäºĭ":115692,"åıĸæļĸ":115693,"åĮĹè·¯":115694,"æ¦ķ":115695,"èİĨçͰ":115696,"楼å±Ĥ":115697,"天èĬ±":115698,"天èĬ±æĿ¿":115699,"çĤľ":115700,"å·²ç»ıæľīäºĨ":115701,"è¶¾":115702,"çͳåįļ":115703,"ç͵éĺ»":115704,"åĬŁè¯¾":115705,"æŃ¥æŃ¥":115706,"éĤ£ä¹Ī容æĺĵ":115707,"æŃ¤æĸĩ":115708,"ä½°":115709,"计è¾ĥ":115710,"çīĩéĿ¢":115711,"ç͵影éĻ¢":115712,"ä¸įåħ¬å¹³":115713,"ä¸īæľŁ":115714,"æĹħ游èµĦæºIJ":115715,"å¤ļç§įå½¢å¼ı":115716,"è£Ĥç¼Ŀ":115717,"åIJİæİĴ":115718,"硬度":115719,"åĽŀæļĸ":115720,"éģĵæķĻ":115721,"è´«è¡Ģ":115722,"æ¸ħé¦Ļ":115723,"伤çĹħ":115724,"æĦı義":115725,"çļĦç¼ĺ":115726,"çļĦç¼ĺæķħ":115727,"åºĦ严":115728,"åıªæĺ¯ä¸ºäºĨ":115729,"æīĵæĬĺ":115730,"以ä¾Ĩ":115731,"滿足":115732,"çİĽä¸½":115733,"風éļª":115734,"æĸĩç§ij":115735,"éħįå¤ĩäºĨ":115736,"è¿Ľé£Ł":115737,"æ¶¡":115738,"è·¯ç¨ĭ":115739,"åı«å£°":115740,"ä¸Ńå¿ĥåŁİåĮº":115741,"æľīæīĢä¸įåIJĮ":115742,"張貼":115743,"é¢ĦæĬ¥":115744,"æľīå¤ļä¹Ī":115745,"è¿Ľè¡Įåħ¨éĿ¢":115746,"æĽ¾ç¶ĵ":115747,"ä¸ī代":115748,"å®ı大":115749,"æ¸ħæī«":115750,"éĢīåĩº":115751,"åĵªä¸Ģ个":115752,"主義":115753,"ä¾Ŀæĵļ":115754,"çļ®éĿ©":115755,"èµ¶æĿ¥":115756,"çŃĽæŁ¥":115757,"æ¨Ł":115758,"ä¿ĿèįIJ":115759,"åIJĥæĥĬ":115760,"æľĭåıĭ们对":115761,"ä»ĸæĺ¯ä¸Ģ个":115762,"åºŁæ°Ķ":115763,"æ»ħ":115764,"è´¢ç¨İ":115765,"æĿijæĿijæ°ij":115766,"èµĦäº§è´ŁåĢº":115767,"å®īå¨ľ":115768,"缮åīįåĽ½åĨħ":115769,"æĦŁè§īèĩªå·±":115770,"çµIJåIJĪ":115771,"éͦæłĩ":115772,"éͦæłĩèµĽ":115773,"æĽ´æ·±":115774,"åŁºæķ°":115775,"éħ¿éħĴ":115776,"çī¹èī²äº§ä¸ļ":115777,"åİĭå®ŀ":115778,"ä¾Ŀæ³ķ追究":115779,"æ·¡å®ļ":115780,"ç®ĢçĽ´å°±æĺ¯":115781,"å£ĵåĬĽ":115782,"æ°ijå¿ĥ":115783,"ä¸įåIJĪéĢĤ":115784,"çͱæŃ¤åı¯è§ģ":115785,"èµŀèªī":115786,"澤":115787,"åĩłå¹´åīį":115788,"åIJīä»ĸ":115789,"çł´æįŁ":115790,"è½»è½»åľ°":115791,"å²Ľå±¿":115792,"æĦıå¢ĥ":115793,"ä»Ģä¹Īåı«":115794,"åģĩè£ħ":115795,"éĢģè´§":115796,"å¹ķå¢Ļ":115797,"妥åįı":115798,"åĽ½æĹĹ":115799,"äºĨå¾Īä¹ħ":115800,"åĪĨ辨çİĩ":115801,"ç´Ķ":115802,"éĺ³åĮº":115803,"åĩŃçĿĢ":115804,"åģľè½¦ä½į":115805,"京éĥ½":115806,"éĶ£":115807,"æĵ¾":115808,"è¿ĽéŨ":115809,"åĪĺæµ·":115810,"åĽĽçº§":115811,"女足":115812,"è¡ĮæĶ¿å®¡æī¹":115813,"éģ¥æİ§":115814,"ä¸įéĮ¯":115815,"å¾Ĺå¾Ī好":115816,"ä¸ºçĽ®çļĦ":115817,"ä»įæľª":115818,"ç²¾è£ħ":115819,"éĢįéģ¥":115820,"尽头":115821,"çºłç¼ł":115822,"éłĺå°İ":115823,"æĭħè´Ł":115824,"æĪĸèĢħåħ¶ä»ĸ":115825,"åıªä¸įè¿ĩæĺ¯":115826,"åı®åĺ±":115827,"åģĩåĨĴ":115828,"æļĸæ°Ķ":115829,"çĽIJåŁİ":115830,"被è§Ĩ为":115831,"诺è´Ŀå°Ķ":115832,"ç»ĻäºĨæĪij":115833,"è¿ijåįĥ":115834,"éĩįåĽŀ":115835,"éĨĴäºĨ":115836,"çĶµè§£":115837,"忽çķ¥äºĨ":115838,"èĥĮéĥ¨":115839,"æĸĩæĺİåŁİå¸Ĥ":115840,"æºħ":115841,"è²ĵ":115842,"æĬµæĮ¡":115843,"åĸľæ¬¢åIJĥ":115844,"éĿĻéĿĻåľ°":115845,"å¾Īæ·±":115846,"åŁºç¡ĢçŁ¥è¯Ĩ":115847,"è¿ĩéĶĻ":115848,"çIJĨç§ij":115849,"交æµģåIJĪä½ľ":115850,"èĪĶ":115851,"èª¿æŁ¥":115852,"æħĪæĤ²":115853,"éĴ°":115854,"èĩ´ç͵":115855,"å®£ä¼łæ´»åĬ¨":115856,"åıĺéĩı":115857,"çļĦ人æĿ¥è¯´":115858,"æĹ¶éļĶ":115859,"ä¸įç®¡ä½ł":115860,"缸è¿ij":115861,"è´µéĩijå±ŀ":115862,"ä¹Łä¸įåı¯èĥ½":115863,"ç²īæľ«":115864,"åįĹçĵľ":115865,"çϽ马":115866,"åħīæºIJ":115867,"éĩijå¥ĸ":115868,"çĭ¬è§Ĵ":115869,"çĭ¬è§Ĵåħ½":115870,"妨ç¢į":115871,"ç»ĻåĬĽ":115872,"ä½Ĩä»į":115873,"å¼łå®¶åı£":115874,"èIJ¬åħĥ":115875,"渲æŁĵ":115876,"éķ¿å¤§äºĨ":115877,"è®°èĢħäºĨè§£":115878,"æĢĢçĿĢ":115879,"è¦ģåѦä¼ļ":115880,"游æĪı代":115881,"游æĪı代ç»ĥ":115882,"äºĮçϾ":115883,"æĦıè¯Ĩå½¢æĢģ":115884,"çݺ":115885,"计åĪĴçĶŁèĤ²":115886,"æī¾åĩĨ":115887,"åħ°èĬ±":115888,"è¿Ļ座åŁİå¸Ĥ":115889,"污泥":115890,"å®ĺæĸ¹å¾®ä¿¡":115891,"å½Ĵå±ŀ":115892,"æ°§æ°Ķ":115893,"éģİç¨ĭä¸Ń":115894,"åį°è±¡æ·±åĪ»":115895,"稳妥":115896,"çµIJæĿŁ":115897,"åŃķæľŁ":115898,"çĿĥ":115899,"åĿļåĽº":115900,"顺åĬ¿":115901,"æŀľèͬ":115902,"éĨ«å¸«":115903,"åİ®":115904,"ä¹Łæĺ¯å¦ĤæŃ¤":115905,"é¦Ĵ头":115906,"缸åĬ©":115907,"干线":115908,"ä¸Ģæľ¬ä¹¦":115909,"绥":115910,"æĮ¯å¥ĭ":115911,"èĤ¾èĦı":115912,"åĭķçī©":115913,"é£ŀè·ĥ":115914,"èıľåĵģ":115915,"å¤ļä½Ļ":115916,"å¤ļä½ĻçļĦ":115917,"éĢĿä¸ĸ":115918,"æģĭ人":115919,"å¼ĢåıijåĪ©ç͍":115920,"顺丰":115921,"éĩİå¿ĥ":115922,"æł¡å¤ĸ":115923,"æģIJé¾Ļ":115924,"éĿ¢åħ·":115925,"éķ¿è¾Ī":115926,"éļıå¤Ħ":115927,"éļıå¤Ħåı¯è§ģ":115928,"紧缺":115929,"éĩįä¸Ń":115930,"éĩįä¸Ńä¹ĭ":115931,"éĩįä¸Ńä¹ĭéĩį":115932,"奥æĸ¯":115933,"奥æĸ¯åį¡":115934,"ä¸Ģ个å¤ļ":115935,"ä¸Ģ个å¤ļæľĪ":115936,"ä¸įåı¯ç¼ºå°ij":115937,"æĸ°æł¼å±Ģ":115938,"æıIJæĮ¯":115939,"è¡Įè´¿":115940,"æ¼Ĥæµģ":115941,"èģĬåŁİ":115942,"åħ´å»º":115943,"è´¨æ£Ģ":115944,"ç§ģæľį游æĪı":115945,"æĽ´éĩįè¦ģ":115946,"è´®":115947,"çħľ":115948,"转åıĺ为":115949,"è¿Ļ两年":115950,"ä¿Ŀé²ľ":115951,"æī§æķĻ":115952,"çĥ¨":115953,"å¼Ģåıij建设":115954,"è¿IJèIJ¥ç®¡çIJĨ":115955,"误差":115956,"京åī§":115957,"å¸IJåı·":115958,"å·¥ä½ľä½ľé£İ":115959,"ä¸ĸä¿Ĺ":115960,"çϽ宫":115961,"å¤©åĽ½":115962,"å¤©åĽ½ç»§ç»Ń":115963,"å·´æĸ¯":115964,"èIJ¥åĪ©":115965,"åĵģæł¼":115966,"æĿijæ°ij们":115967,"æĪ¿è½¦":115968,"çŃīçĹĩçĬ¶":115969,"å¦Ĥå®ŀ":115970,"宸":115971,"å±Ĥ级":115972,"éĶĻè¿ĩäºĨ":115973,"ç»ĵå®ŀ":115974,"ç¬ijèĦ¸":115975,"羣å®ŀæĢ§":115976,"éĥ½å¸ĤæĬ¥":115977,"é¥Ńèıľ":115978,"åºĶ注æĦı":115979,"æĬ½çĥŁ":115980,"伪éĢł":115981,"åīįä¸Ģ天":115982,"éŃĶé¾Ļ":115983,"éŃĶé¾Ļ令çīĮ":115984,"约è°Ī":115985,"绣çѹæİ¨è¿Ľ":115986,"让ç͍æĪ·":115987,"åħ¨éĿ¢èIJ½å®ŀ":115988,"å¼Ħå¾Ĺ":115989,"è°Īæģĭçα":115990,"鸣æĪIJéķ¿":115991,"鸣æĪIJéķ¿è®°":115992,"æ´ĭæ´ĭ":115993,"çĸıæķ£":115994,"éĿ¢ç§¯çº¦":115995,"æµĵ缩":115996,"æĸ¯é¡¿":115997,"çĶŁæĢģåľĪ":115998,"æī§å¯¼":115999,"ç§»éĢģ":116000,"齿轮":116001,"æł¹æľ¬å°±ä¸į":116002,"缩åĩı":116003,"èµ°ä¸ĭåİ»":116004,"çĿ«æ¯Ľ":116005,"ä¹Łä¸įéĶĻ":116006,"åıįæĺłåĩº":116007,"èĭ¦æģ¼":116008,"缸åħ³æĶ¿çŃĸ":116009,"é«ĺ楼":116010,"ç²īèī²":116011,"æĬķèµĦé¢Ŀ":116012,"ä¸įç»ı":116013,"ä¸įç»ıæĦı":116014,"å®ģæĦ¿":116015,"èĪĮ头":116016,"æ»ĭçĶŁ":116017,"å®ģåİ¿":116018,"åīįåĪĹèħº":116019,"åĩ³":116020,"é£Łæ¬²":116021,"åıĸèĥľ":116022,"éĻ¢åŃIJ":116023,"ç´łè´¨æķĻèĤ²":116024,"滨å·ŀ":116025,"æĬ¢æĬĵ":116026,"å¼Ĥåij³":116027,"åĴļ":116028,"åĬį":116029,"宽éĺĶ":116030,"æļ´æ¶¨":116031,"æĥłåıĬ":116032,"è§Ħç¨ĭ":116033,"ä¾Ľåħ»":116034,"éĢģå¾Ģ":116035,"å±±åºĦ":116036,"举äºļ":116037,"å±ķé¦Ĩ":116038,"è§£éĶģ":116039,"æĹłè§Ĩ":116040,"éĻįèIJ½":116041,"è¿ŀäºij":116042,"è¿ŀäºij港":116043,"åıĤè°ĭ":116044,"çİĸ":116045,"ç¬ĥ":116046,"èĢĹè´¹":116047,"æī¿å¾·":116048,"社ä¼ļæķĪçĽĬ":116049,"åįĹæµ·ç½ij":116050,"åĪĽä¼¤":116051,"èIJ±":116052,"åħħæ²Ľ":116053,"ç½ijç«Ļ建设":116054,"大åºĨ":116055,"åĨįéĢł":116056,"åŃĹæł·":116057,"åħ¨æ°ijåģ¥èº«":116058,"èĮ«èĮ«":116059,"æµ®åĬ¨":116060,"åīįåı°":116061,"å¢ŀ设":116062,"éĢĽè¡Ĺ":116063,"åĢĴéĹŃ":116064,"æ³ķå¾ĭ顾éĹ®":116065,"çĸ®":116066,"çĹħçĹĩ":116067,"空åīį":116068,"请æķĻ":116069,"èĥľä»»":116070,"æĿĢèıĮ":116071,"æĪĺæĸĹæľº":116072,"ç»ĺåζ":116073,"å¤Ħæĸ¹":116074,"çªģåĽ´":116075,"çĮ«åĴª":116076,"æĬ¥åijĬæĺ¾ç¤º":116077,"ç¿Ł":116078,"çķ¶åľ°":116079,"æľĢéļ¾":116080,"纪å§Ķ书记":116081,"ä½İåİĭ":116082,"èĻļ空":116083,"è¿Ļéĥ¨ç͵影":116084,"产ä¸ļåįĩ级":116085,"è°·çα":116086,"è°·çαåĩĮ":116087,"æĬ¼éĩij":116088,"女æĸ¹":116089,"éĴ»çłĶ":116090,"æļĹæļĹ":116091,"è¿·ä½ł":116092,"æīĢè¬Ĥ":116093,"å¨ģå»ī":116094,"å¼ĢæľĹ":116095,"å²Ķ":116096,"çģ«çĤ¬":116097,"åIJĪçIJĨæĢ§":116098,"åħ¬åĬŀ":116099,"ä¼ļä¼ļéķ¿":116100,"éĺ´è°ĭ":116101,"å¼Ģå±Ģ":116102,"æĻ®éĢļè¯Ŀ":116103,"å᡿ĭī":116104,"å°ijåIJĥ":116105,"éĹªèĢĢ":116106,"æŀľæ±ģ":116107,"æī§è¡ĮåĬĽ":116108,"è°Ľ":116109,"æĬ¢åĬ«":116110,"é«ĺéĢŁåıijå±ķ":116111,"飬":116112,"åįĹæ²Ļ":116113,"é«ĺçŃīåŃ¦æł¡":116114,"æį¢ä¸ª":116115,"åı¯èĥ½åŃĺåľ¨":116116,"æĬĴ":116117,"è°±åĨĻ":116118,"被æĬĵ":116119,"æĿ¯åŃIJ":116120,"èĬĤèĥ½åĩıæİĴ":116121,"æ°ĶåĢĻåıĺåĮĸ":116122,"åĪĨåĪ¥":116123,"ä¸Ńæŀ¢":116124,"欢åij¼":116125,"åħī纤":116126,"è¿Ļ群":116127,"çľ¼çķĮ":116128,"åħ±åIJĮåıijå±ķ":116129,"çݰä»Ĭ":116130,"éĹ»è¨Ģ":116131,"çī¹èī²å°ıéķĩ":116132,"æķij人":116133,"éĻįæ°´":116134,"ä¸ĸçķĮä¸Ģæµģ":116135,"å°±é¤IJ":116136,"çŀ¥":116137,"å¤įä»ĩ":116138,"ç¾½æ¯Ľ":116139,"ç¾½æ¯ĽçIJĥ":116140,"è´©åįĸ":116141,"æºIJæ³ī":116142,"æĢ»ä½ĵè§ĦåĪĴ":116143,"åĬ¨æĦŁ":116144,"ä¸Ģ审":116145,"åĢŁéĴ±":116146,"è§ģæķĪ":116147,"èĬ±èįī":116148,"åIJĮä¸ļ":116149,"æŁ¥è©¢":116150,"åĽ½éĻħåIJĪä½ľ":116151,"ä¾ĽåĽ¾":116152,"åģ´":116153,"æłĵ":116154,"缸éĢļ":116155,"è°ĪåıĬ":116156,"è¿ĩç¨ĭå½ĵä¸Ń":116157,"é¦Ļèıĩ":116158,"åįģåĽĽæĿ¡":116159,"ä¸Ģå¼Ģå§ĭå°±":116160,"ä¸ĵåijĺ":116161,"æĺİ顯":116162,"æīĵéĢłåĩº":116163,"ä¸ĭéĿ¢æĪij们":116164,"æľºæ²¹":116165,"åı°è¯į":116166,"åŃIJå¼Ł":116167,"æľĢ常è§ģçļĦ":116168,"æĪijè®°å¾Ĺ":116169,"ç»°":116170,"æĤ¬æµ®":116171,"è¿ĺ羣æĺ¯":116172,"æĮĤåı·":116173,"åıĭåĸĦ":116174,"éĩį伤":116175,"çħ§äº®":116176,"æŃ¦èѦ":116177,"åĩºçݰéĹ®é¢ĺ":116178,"è¸Ĭè·ĥ":116179,"åľ°çIJĥä¸Ĭ":116180,"å¸Ĥ人大":116181,"åıĹ害人":116182,"å²IJ":116183,"åIJĮåѸ":116184,"éĩijèŀįå¸Ĥåľº":116185,"æľīçļĦçݩ家":116186,"å¸ĤæķĻèĤ²":116187,"å¸ĤæķĻèĤ²å±Ģ":116188,"åIJĦå¼Ĥ":116189,"ç·ļä¸Ĭ":116190,"æģº":116191,"æľī大éĩıçļĦ":116192,"åķĨæĬ¥":116193,"åįķåįķ":116194,"åħ¨é¢Ŀ":116195,"ä¾ĿæĹ§æĺ¯":116196,"好åĩłä¸ª":116197,"åĸµ":116198,"éĩįæķ´":116199,"çĶŁæ´»è´¨éĩı":116200,"æİ¢è®¿":116201,"åį°èĬ±":116202,"缼è¡Į":116203,"å¾®è§Ĥ":116204,"èĪįå¾Ĺ":116205,"åºŁå¼ĥçī©":116206,"积èĵĦ":116207,"å®ļå±ħ":116208,"æĤ¼":116209,"èĮ¸":116210,"çļĦ帮åĬ©":116211,"çļĦ帮åĬ©ä¸ĭ":116212,"亿åIJ¨":116213,"åŃĶéĽĢ":116214,"è¿ĻæĿ¡è·¯":116215,"饵":116216,"æĦĪåĬł":116217,"éķį":116218,"ä½ľæ¡Ī":116219,"èįĶæŀĿ":116220,"太å°ij":116221,"跻身":116222,"åħ¬çĽĬæ´»åĬ¨":116223,"çϽæĸij":116224,"æĬĢæľ¯æ°´å¹³":116225,"帧":116226,"æĹłçŁ¥":116227,"åºĶ该æĢİä¹Ī":116228,"éĢĢå¸Ĥ":116229,"æ¸Ń":116230,"åħ»çĮª":116231,"驼":116232,"ç¾¤å²Ľ":116233,"大åį«":116234,"ä¹ĺçĶ¨è½¦":116235,"èı²å°Ķ":116236,"è´´åIJ§":116237,"åģľä¸ĭæĿ¥":116238,"æľīæľºç»ĵåIJĪ":116239,"åĪ»èĭ¦":116240,"çļĦåľ°":116241,"çļĦåľ°æŃ¥":116242,"è¯ĬæīĢ":116243,"å¼ĢæĪĺ":116244,"èĢģçīĮ":116245,"çѹçłģ":116246,"åħ«å¤§ä»¥æĿ¥":116247,"楼æĪ¿":116248,"åŃĻæĤŁ":116249,"åŃĻæĤŁç©º":116250,"åħĴåŃIJ":116251,"第ä¸ĢæĿ¡":116252,"社交åªĴä½ĵ":116253,"æĥ³èµ·æĿ¥":116254,"大æ´ĭ":116255,"æĭ¼éٳ":116256,"è¿Ľåįļä¼ļ":116257,"è¿ĩåħ³":116258,"æ²¼":116259,"ç©¿æIJŃ":116260,"éĤ£ä¸Ģ天":116261,"çł´éŨ":116262,"æĬķæłĩ人":116263,"赢家":116264,"èĻļå¼±":116265,"æ¿ĥ":116266,"å®īæ£Ģ":116267,"客家":116268,"çĭ¬ç«ĭèij£äºĭ":116269,"æīĭåĬ¿":116270,"åīµéĢł":116271,"åľĨ满å®ĮæĪIJ":116272,"为主线":116273,"好å¥ĩå¿ĥ":116274,"é¢ĨåľŁ":116275,"çªĸ":116276,"åħ¸åŀĭæ¡Īä¾ĭ":116277,"çªģåıijäºĭä»¶":116278,"åºķæ°Ķ":116279,"头æĻķ":116280,"å®Ľå¦Ĥ":116281,"觸":116282,"æ¸ħæ·¡":116283,"åļ¼":116284,"åģľç͵":116285,"ç²īå°ĺ":116286,"éĻįä½İæĪIJæľ¬":116287,"æĶ¾æīĭ":116288,"è®°èĢħ表示":116289,"æĭĸå»¶":116290,"éªĩ":116291,"æ®ĭå¿į":116292,"çľģæķĻèĤ²":116293,"çľģæķĻèĤ²åİħ":116294,"é«ĺé¢Ŀ":116295,"éĦĻ":116296,"æ¥ŀ":116297,"åĨħç§ij":116298,"èIJ¥ä¸ļé¢Ŀ":116299,"åŁºçŁ³":116300,"æµģæ·Į":116301,"主æĹ¨":116302,"éĺIJéĩĬ":116303,"建åįİ":116304,"æĥĬåı¹":116305,"çī¢åĽºæłijç«ĭ":116306,"æĺ¯åIJ¦åŃĺåľ¨":116307,"建åĨĽ":116308,"éĽ¾éľ¾":116309,"åħ¬è®¤":116310,"åħ¬è®¤çļĦ":116311,"æ°¨åŁº":116312,"æ°¨åŁºéħ¸":116313,"åīįåĩłå¹´":116314,"åιéĤ£":116315,"æ±Łä¸ľ":116316,"å·¥æ¥Ń":116317,"ä¸ĢçĤ¹ä¹Łä¸į":116318,"修士":116319,"äºĨä¸Ģéģį":116320,"åĪģ":116321,"æ»ļæ»ļ":116322,"åĪĨæł¡":116323,"羣çα":116324,"è¡ĢèĦī":116325,"æĢ¥åī§":116326,"ä¸Ģ群人":116327,"羯":116328,"æĪIJé¾Ļ":116329,"ç²¾ç¥ŀçĹħ":116330,"缸åħ³äººåijĺ":116331,"éĿĵ丽":116332,"ä¸īåŃ£åº¦":116333,"åĪĴå®ļ":116334,"ä¸ĸçķĮ第ä¸Ģ":116335,"éĢļä¿Ĺ":116336,"åķĨä¸ļåľ°äº§":116337,"åĬŁèĥ½æĢ§":116338,"èµĦæľ¬ä¸»ä¹ī":116339,"详è§ģ":116340,"æĬĵæįķ":116341,"æĸĩæĺĮ":116342,"å®Ŀå®ī":116343,"è£ħéħįå¼ı":116344,"æºIJæºIJ":116345,"æºIJæºIJä¸įæĸŃ":116346,"çĶŁæĢķ":116347,"纵åIJij":116348,"壽":116349,"çľ¼è¢ĭ":116350,"èĤīä½ĵ":116351,"åı¤ä»Ĭ":116352,"èŀįåªĴä½ĵ":116353,"åģī":116354,"æł¼æľĥåĵ¡":116355,"çĥ·":116356,"åĬŁç͍":116357,"æīŃ磩":116358,"绿èī²éĢļéģĵ":116359,"åī§ç»Ħ":116360,"å¼±åĬ¿":116361,"è´¨éĩıéĹ®é¢ĺ":116362,"éĻIJé¢Ŀ":116363,"éªĨ":116364,"éģµä¹ī":116365,"å¯Ŀ室":116366,"æĥ³å¿µ":116367,"åł±åijĬ":116368,"ä»ħ次":116369,"ä»ħ次äºİ":116370,"èŀįåĪĽ":116371,"æĭĽèģĺä¼ļ":116372,"åºĬåŀ«":116373,"转åŀĭåıijå±ķ":116374,"ä¸ŃåĽ½çĶµä¿¡":116375,"åIJ¬è¯Ŀ":116376,"è«ĭæ±Ĥ":116377,"大éĥ¨åĪĨ人":116378,"æ´»å¾Ĺ":116379,"åĵŃæ³£":116380,"è¶Ļ":116381,"åıijçĹħçİĩ":116382,"ä¸į符":116383,"åĨĽå®ĺ":116384,"é¢Īæ¤İ":116385,"æĸ°åĨłçĸ«æĥħ":116386,"æŁ¬åŁĶ":116387,"æŁ¬åŁĶ寨":116388,"ä»»ä½ķå½¢å¼ı":116389,"人éĻħ":116390,"人éĻħåħ³ç³»":116391,"æĢ»æī¿åĮħ":116392,"å¹³åĿĩæ¯ı":116393,"æģŃåĸľ":116394,"åĦĺ":116395,"åħµé©¬":116396,"è¿Łåΰ":116397,"工伤":116398,"çīĪæĿĥå½Ĵ":116399,"çīĪæĿĥå½ĴåİŁ":116400,"æĭ¥æĬ¤":116401,"ç³Ĭæ¶Ĥ":116402,"å¹²æ¶ī":116403,"å°ijä¸įäºĨ":116404,"æĥ³æī¾":116405,"è´¹çİĩ":116406,"该éĻ¢":116407,"èŀįåĮĸ":116408,"è¿İåIJĪ":116409,"è§ĨåIJ¬èĬĤ缮":116410,"æł¼ç¶²ç«Ļ":116411,"çľīæ¯Ľ":116412,"欢è¿İ大家":116413,"å®¶åºŃæķĻèĤ²":116414,"ä¾µèļĢ":116415,"ç»Ļä½łä»¬":116416,"è¡Ģ液循çݯ":116417,"å¯Ħæīĺ":116418,"å°ĸåı«":116419,"以ä¸ĭåĩłä¸ª":116420,"è¿ĺ以为":116421,"åħ¶ä»ĸçݩ家":116422,"ç¬ijç¬ij":116423,"æīĵåIJ¬":116424,"èĩªçĦ¶ç§ijåѦ":116425,"åŁºç«Ļ":116426,"ä¹Ŀå·ŀ":116427,"ä¿Ŀ驾":116428,"ä¿Ŀ驾æĬ¤":116429,"ä¿Ŀ驾æĬ¤èĪª":116430,"æĶ¾çľ¼":116431,"çŁ¥åIJįä¼ģä¸ļ":116432,"縮":116433,"稽":116434,"æļĩ":116435,"使çĶ¨ç¶²è·¯":116436,"é¢ĦçķĻ":116437,"大象":116438,"åıijæĺİä¸ĵåĪ©":116439,"æĸĩ娱":116440,"éĢłç¦ı":116441,"湿润":116442,"éĿ¢æĿ¡":116443,"æ¶Īè´¹åįĩ级":116444,"è®Ĭå¾Ĺ":116445,"åĩłåIJį":116446,"ä»Ħ":116447,"认æ¸ħ":116448,"è¿ľæĻ¯":116449,"æıĴ座":116450,"诸侯":116451,"åıĺæĢģ":116452,"ç¦ı彩":116453,"è´§æŀ¶":116454,"失æİ§":116455,"ç§»åĬ¨ç«¯":116456,"ä¸Ĭåı¸":116457,"éĢłçº¸":116458,"å¸ĥæľĹ":116459,"çĴĩ":116460,"åı°åįĹ":116461,"åĮĹ京åĨ¬å¥¥":116462,"èĵĿçīĻ":116463,"éķ¿çŁŃ":116464,"æĬĺå°Ħ":116465,"ç»ijæŀ¶":116466,"å¯Ĵåģĩ":116467,"è½¬åŁºåĽł":116468,"æĢ¥äºİ":116469,"æŃ£åĵģ":116470,"åħħ滿":116471,"大纲":116472,"æĬĹä½ĵ":116473,"è¨ĵç·´":116474,"æĶ¶ç´§":116475,"æ¯Ķè³½":116476,"åħµåĬĽ":116477,"æľ¬æĽ¸":116478,"äºĮ代":116479,"æĢ¥è¯Ĭ":116480,"æĸĩæ¡Ī":116481,"ç»ıåķĨ":116482,"æĻ¨æĬ¥":116483,"æ£ĺ":116484,"æĢ»ä¹¦è®°åľ¨":116485,"åıĹéĤĢ":116486,"äºĶåĽĽ":116487,"å²ŃåįĹ":116488,"çαåIJĥ":116489,"åŁĥå°Ķ":116490,"å¿ĥå¢ĥ":116491,"è¦ĨçĽĸéĿ¢":116492,"å®ŀåľ¨æĺ¯å¤ª":116493,"æł¹åºķ":116494,"纷纷表示":116495,"åĹħ":116496,"éļıçĿĢæĹ¶éĹ´":116497,"åİĨåı²æĤłä¹ħ":116498,"éħī":116499,"æĢ»éĺŁ":116500,"主é¢ĺæ´»åĬ¨":116501,"éĹ®åį·":116502,"é©¿ç«Ļ":116503,"æı¡ä½ı":116504,"åı¯èĥ½å¯¼èĩ´":116505,"æ°ijéĸĵ":116506,"éĸĭåķŁ":116507,"ä½Ĩä¸įéĻIJ":116508,"ä½Ĩä¸įéĻIJäºİ":116509,"åįģéĩĮ":116510,"娥":116511,"æįŁèĢĹ":116512,"çĸı导":116513,"çݯ氧":116514,"ç¥ŀéĢļ":116515,"çαå°Ķ":116516,"çαå°Ķåħ°":116517,"æľ´å®ŀ":116518,"å¿«æĬ¥":116519,"æĶ¶åıĹ":116520,"æĪĸ許":116521,"èĥĮéĿ¢":116522,"æĸĩåĮĸä¼łåªĴ":116523,"ä¸īåĢĭ":116524,"æĶ»åĬ¿":116525,"å®ī举":116526,"å®īä¸ľå°¼":116527,"åĿĩå·²":116528,"顾èĻij":116529,"éĦŃ":116530,"è¿Ļå®¶åħ¬åı¸":116531,"åħ¬åijĬç§°":116532,"æıIJä¾Ľä¼ĺè´¨":116533,"稳æŃ¥æİ¨è¿Ľ":116534,"å¤įè¯ķ":116535,"å°Ĩé¢Ĩ":116536,"è°Īèµ·":116537,"å¨Ħ":116538,"è¿ŀ线":116539,"æ©ŁéĹľ":116540,"åºĶçĶ¨åľºæĻ¯":116541,"çĶ»åĥı":116542,"è´¢è¿IJ":116543,"ä¿Ŀéļª":116544,"çĹħçIJĨ":116545,"æ¯Ľä¸»å¸Ń":116546,"ä¸Ŀ毫ä¸į":116547,"çαå¥ĩ":116548,"çαå¥ĩèīº":116549,"ä¸ĵå®¶ç»Ħ":116550,"åij¼åͤ":116551,"éĭ¼":116552,"çģ¸":116553,"é¢ĨåħĪåľ°ä½į":116554,"æıIJæĭĶ":116555,"龸éģĵ":116556,"å±±åĿ¡":116557,"èĿİ":116558,"沸èħ¾":116559,"该项":116560,"ä»ĬçĶŁ":116561,"ä¸Ģç¯ĩæĸĩ竳":116562,"æĸ¹å¼ıè¿Ľè¡Į":116563,"é»ij客":116564,"æĶ¹åĬ¨":116565,"主é¡Į":116566,"æķ£å¸ĥ":116567,"ä»Ģä¹Īåľ°æĸ¹":116568,"åĮĸåIJĪ":116569,"åĮĸåIJĪçī©":116570,"éĿĻç͵":116571,"æĢ»æĶ¶åħ¥":116572,"å§Ķç»Ħç»ĩ":116573,"å§Ķç»Ħç»ĩéĥ¨":116574,"éĿĻæĢģ":116575,"èĢģåŃĹåı·":116576,"室åıĭ":116577,"éĥ½ä¸įæķ¢":116578,"æŀ¶åŃIJ":116579,"ç쵿ķı":116580,"审è§Ĩ":116581,"æĤ£åĦ¿":116582,"山寨":116583,"èĸªèµĦ":116584,"é©°æı´":116585,"éĥ¨åĪĨåĨħ容":116586,"好似":116587,"æĪIJåijĺåĽ½":116588,"åľ¨æĪijçľĭæĿ¥":116589,"åħ³æ³¨åº¦":116590,"éĻĪæŁIJ":116591,"è¿Ļç§įäºĭæĥħ":116592,"éĢīå®ļ":116593,"ç²¾åŃIJ":116594,"å£ģçĶ»":116595,"æ±Łæ·®":116596,"é«ĺæĺĤ":116597,"æł¼åĬĽ":116598,"輩":116599,"åѦåłĤ":116600,"æĤ¨åIJĮæĦı":116601,"ä¸ĢåĪĩéĥ½æĺ¯":116602,"潤":116603,"éĸĥ":116604,"å¸ĮæľĽèĩªå·±":116605,"ä¿ĺ":116606,"æ±Łåİ¿":116607,"æ³¾":116608,"ç§ijæķĻ":116609,"æīĵè¿Ľ":116610,"ä¸įæħİ":116611,"å¯ĴåĨ¬":116612,"æ¸Ķæ°ij":116613,"鼷æĸ¯":116614,"主宰":116615,"æĹħ游度åģĩ":116616,"ç͵åŃIJéĤ®ä»¶":116617,"æ±Ĥå©ļ":116618,"éļİæ®µ":116619,"åģ¥èº«æĪ¿":116620,"注æĺİåĩºå¤Ħ":116621,"äºĭæķħåıijçĶŁ":116622,"级以ä¸Ĭ":116623,"åŃĺæ´»":116624,"æĸ½èĤ¥":116625,"èľľèľĤ":116626,"嵩":116627,"æĮĸæİĺæľº":116628,"æĬĹæĭĴ":116629,"ä¼łå¯¼":116630,"æĺ¯ä»Ģä¹Īåij¢":116631,"ä¸Ĭå¹´åIJĮæľŁ":116632,"建åħļ":116633,"çĶŁæħĭ":116634,"ä¿Ŀä½ı":116635,"款车åŀĭ":116636,"人èĦī":116637,"éļIJèͽ":116638,"失æķĪ":116639,"éģ¿åŃķ":116640,"ç®Ģ便":116641,"è°¢è°¢ä½ł":116642,"å®Īä½ı":116643,"æĶ¾æĺł":116644,"è¨Īçķ«":116645,"çݰ代çµģ":116646,"é¤IJ廳":116647,"æķħå±ħ":116648,"大大å°ı":116649,"大大å°ıå°ı":116650,"çī¹åΫ声æĺİ":116651,"éģįåıĬ":116652,"å¿ĥçIJĨåĴ¨è¯¢":116653,"è³´":116654,"çĮ®è¡Ģ":116655,"å·²ç»ıè¾¾åΰ":116656,"æīĵæĭĽåij¼":116657,"åıĮè¾¹":116658,"ä¸Ģæĸ¹éĿ¢æĺ¯":116659,"å´ĩå°ļ":116660,"éĺ¿å¯Į":116661,"éĺ¿å¯Įæ±Ĺ":116662,"æĮģæľī人":116663,"è±ģ":116664,"é£İçŃĿ":116665,"åĬ¨èį¡":116666,"äºĨä¸Ģä¼ļ":116667,"äºĨä¸Ģä¼ļåĦ¿":116668,"ä¸ĩ象":116669,"çľĭç͵è§Ĩ":116670,"åįģä¸īæĿ¡":116671,"çĮĽçĥĪ":116672,"è¦ģä¸įçĦ¶":116673,"太æŀģæĭ³":116674,"å¼ķçĪĨ":116675,"ç»ıè¿ĩå¤ļå¹´":116676,"游æĪıéĩĮçļĦ":116677,"é¾Ļæ³ī":116678,"æłĩéħį":116679,"è®ĵä»ĸåĢij":116680,"éĢłæŀĹ":116681,"åĮºåŁŁæĢ§":116682,"亿ä¸ĩ":116683,"æĪĺçķ¥å¸ĥå±Ģ":116684,"éķĩæĶ¿åºľ":116685,"åĶ®ç¥¨":116686,"çĶŁäº§å·¥èīº":116687,"éķĩåħļå§Ķ":116688,"ä¸Ńå°ıåŀĭ":116689,"æľ¨è̳":116690,"河边":116691,"èĦ¾èĥĥ":116692,"欢è¿İæĤ¨":116693,"åıĺå¼Ĥ":116694,"缤纷":116695,"åŀĥåľ¾æ¡¶":116696,"辩è¯ģ":116697,"车åºĵ":116698,"æ¯Ķçİĩ":116699,"åħ´æĹº":116700,"详ç»ĨäºĨè§£":116701,"å®īå±ħ":116702,"çħ§æĸĻ":116703,"æĸ¹æīį":116704,"赦":116705,"åĨķ":116706,"å¥Ķèµ´":116707,"å®Ŀ鸡":116708,"åľºåĿĩ":116709,"缮åīįæŃ£åľ¨":116710,"åIJŀåϬ":116711,"è¿°èģĮ":116712,"æĩµ":116713,"å¥ĩçijŀ":116714,"ä»įå°Ĩ":116715,"èĪī辦":116716,"å·¥åķĨå±Ģ":116717,"å¡ijèĥ¶":116718,"åĬŀå®ŀäºĭ":116719,"æĸ¹æĸ¹éĿ¢":116720,"æĸ¹æĸ¹éĿ¢éĿ¢":116721,"æĸĩåĮĸèĬĤ":116722,"åħ¥èģĮ":116723,"鸥":116724,"ç©¿éĢı":116725,"ä»¥ä¹łè¿ijå¹³":116726,"åį±éļª":116727,"æľ¦èĥ§":116728,"åİĨåı²æĢ§":116729,"æķŀå¼Ģ":116730,"ä¼Ļä¼´åħ³ç³»":116731,"çŁ¿åĮº":116732,"åĽ½éĻħåľ¨çº¿":116733,"ä¼łå¥ĩéĩĮéĿ¢":116734,"è¿ijäºĽ":116735,"è¿ijäºĽå¹´":116736,"åĬ£åĬ¿":116737,"æĶ»åĩ»åĬĽ":116738,"æĻºéĢł":116739,"禧":116740,"çİĭåħĪçĶŁ":116741,"éĨ«çĶŁ":116742,"åĽĽé¡¹":116743,"å®ŀæĻ¯":116744,"åĪĿåĪĽ":116745,"å¿ĥ裡":116746,"æĻ¶ä½ĵ":116747,"交éĻħ":116748,"让æ¶Īè´¹èĢħ":116749,"课æĸĩ":116750,"æİĴæ°Ķ":116751,"å¹¶ä¸įæĦıåij³":116752,"çĽ¸å£°":116753,"第ä¸Ģå±Ĭ":116754,"åİŁèijĹ":116755,"鼾":116756,"没æľī太大":116757,"补水":116758,"çµģä¼ģä¸ļ":116759,"第äºĮæī¹":116760,"åħ¶å®ĥéĹ®é¢ĺ":116761,"æİĮéŨ":116762,"责任å¿ĥ":116763,"é¤IJåħ·":116764,"ç¾Ĭæ¯Ľ":116765,"没æľīå¿ħè¦ģ":116766,"ä¹IJåĽ¢":116767,"è¿ĽåŁİ":116768,"ä¸ĢçĤ¹åĦ¿":116769,"身形":116770,"çļ®èĤ¤çĹħ":116771,"æĺ±":116772,"å¢ŀèĩ³":116773,"è첿ĺİ":116774,"æıIJè´¨":116775,"ä½ĵèĤ²åľº":116776,"çŃ¹å»º":116777,"é¬Ĩ":116778,"车çīĮ":116779,"éļĶéŁ³":116780,"è´Łè´£åIJĮå¿Ĺ":116781,"丰ç¡ķ":116782,"ä½ĽéĻĢ":116783,"äºīåIJµ":116784,"庶":116785,"æ·¡æ°´":116786,"å°ıçĶ·åŃ©":116787,"ç§ģèĩª":116788,"åĮĸè¿Ľç¨ĭ":116789,"æĪĺ士æĿ¥è¯´":116790,"æ²¹èħ»":116791,"èĦ±è´«èĩ´å¯Į":116792,"æĹ¥å¸¸å·¥ä½ľ":116793,"交èŀį":116794,"åĨľè´¸":116795,"åĨľè´¸å¸Ĥåľº":116796,"åĵĪçĻ»":116797,"çĶµè´¹":116798,"èµĺ":116799,"åıĮèħ¿":116800,"æĵĶå¿ĥ":116801,"æĿ¥å½¢å®¹":116802,"使åij½æĦŁ":116803,"éĤ£ä¹Īç®Ģåįķ":116804,"èĬĻèĵī":116805,"åĢŁæ¬¾äºº":116806,"ç§Ģ丽":116807,"è®ĵä»ĸ":116808,"严åİīæīĵåĩ»":116809,"è³ŀ":116810,"æļ«":116811,"çħ¤æ°Ķ":116812,"çάä¸Ĭ":116813,"æ½ĩæ´Ĵ":116814,"太ä¹ħ":116815,"åij½åIJį为":116816,"è·¯çͱ":116817,"è·¯çͱåύ":116818,"驯":116819,"æıIJæĹ©":116820,"æĬĹåĩ»çĸ«æĥħ":116821,"åĩĽ":116822,"交åıĭ":116823,"éĶĢåĶ®æ¸łéģĵ":116824,"毫ä¸įçĬ¹è±«":116825,"èIJ¥åľ°":116826,"çłĶ究表æĺİ":116827,"鱼类":116828,"æį¢å±Ĭ":116829,"æİ¡åıĸ":116830,"çīĨ":116831,"缼å¼Ģ":116832,"æ²§æ¡ij":116833,"åºŃ审":116834,"ç»ıæŁ¥":116835,"åĬłå¼·":116836,"缸æ¯Ķäºİ":116837,"ä¸ĵçıŃ":116838,"ä½ĵåŀĭ":116839,"被害":116840,"被害人":116841,"æĶ¶æ¬¾":116842,"åħ·æľīèī¯å¥½":116843,"é«ĺå³°æľŁ":116844,"åģıä½İ":116845,"åĦŁ":116846,"åĨľä¸ļç§ijæĬĢ":116847,"ç®ĬæĥħåĨµ":116848,"å¦Ĥæŀľçݩ家":116849,"éķ¿çº¦":116850,"第åħŃå±Ĭ":116851,"åħ¬å¼ĢæĭĽèģĺ":116852,"åĪĩæĸŃ":116853,"迫使":116854,"çĸĹç¨ĭ":116855,"第äºĮç§į":116856,"ä¸įåħį":116857,"å¹²èѦ":116858,"çŁ³æ¦´":116859,"åĹ£":116860,"两类":116861,"çε士":116862,"åŁİ乡å±ħæ°ij":116863,"æŃ¤é¡¹":116864,"缴è¾ĸ":116865,"缴è¾ĸå¸Ĥ":116866,"åij¼åºĶ":116867,"éĴ¯":116868,"ç¦ıå¾·":116869,"æľºèº«":116870,"æĵįåľº":116871,"æ¿Ĵ临":116872,"人群ä¸Ń":116873,"èĤ¡æ°ij":116874,"åѽ":116875,"æ³ķåħ°":116876,"é¨İ":116877,"糯米":116878,"æĢ»çļĦ":116879,"æĢ»çļĦæĿ¥è¯´":116880,"åħ¸éĽħ":116881,"æĸ°éĻĪ":116882,"æĸ°éĻĪ代谢":116883,"缮çĿ¹":116884,"é¢Ħè¨Ģ":116885,"è·Įçł´":116886,"æĸ°ç¯ĩ竳":116887,"æ¯ĴæĢ§":116888,"åĸĿèĮ¶":116889,"æŁ¥èİ·":116890,"亮丽":116891,"çĶŁäº§åķĨ":116892,"æĶ¹æĪIJ":116893,"为äºĨæĽ´å¥½":116894,"深交":116895,"深交æīĢ":116896,"æİĥ":116897,"ä¹ĻèĤĿ":116898,"泸å·ŀ":116899,"åħĪè¿ĽæĬĢæľ¯":116900,"è¾ĵç»Ļ":116901,"æķ£æĪ·":116902,"æĢĿç»´æĸ¹å¼ı":116903,"åºĹ主":116904,"è°ĭæ±Ĥ":116905,"游æĪıæĬĢå·§":116906,"ä¸Ģ年级":116907,"çľ¼è§Ĵ":116908,"ä¸Ńä»ĭæľºæŀĦ":116909,"å·§åIJĪ":116910,"éĺ²çĽĹ":116911,"导è´Ń":116912,"æĪĬ":116913,"æĽ´éĢĤåIJĪ":116914,"åŁºæľ¬ä¿¡æģ¯":116915,"马ä¸ģ":116916,"åħ»æ®ĸåľº":116917,"åıįè¿ĩæĿ¥":116918,"æİ¨å´ĩ":116919,"å¯ĨåĪĩåħ³æ³¨":116920,"åŁºéĩijç»ıçIJĨ":116921,"æĮīéĶ®":116922,"åĨħéĥ¨æİ§åζ":116923,"æĪIJåijĺåįķä½į":116924,"æľ¯è¯Ń":116925,"åζæľį":116926,"åĪļéľĢ":116927,"æ£Ģç´¢":116928,"大大æıIJé«ĺ":116929,"åģ¥åº·ç®¡çIJĨ":116930,"èĩªæŃ¤":116931,"客æĪ·éľĢæ±Ĥ":116932,"丰èĥ¸":116933,"èµ·éĩį":116934,"èµ·éĩįæľº":116935,"æ¬łç¼º":116936,"æ¡ĪåŃIJ":116937,"æĥħ人èĬĤ":116938,"åħļæł¡":116939,"è¢ľ":116940,"该åī§":116941,"è¿·å¤±ä¼łå¥ĩ":116942,"ç»ļ丽":116943,"åķª":116944,"æĹłç§ģ":116945,"é̲ä¸ĢæŃ¥":116946,"第ä¸Ģ竳":116947,"åύåħ·":116948,"åĨľèµĦ":116949,"確實":116950,"åºıåĪĹ":116951,"娱ä¹IJå¹³åı°":116952,"èŀįèµĦç§Łèµģ":116953,"èµĦæºIJåħ±äº«":116954,"èģ½åΰ":116955,"æIJŀå¾Ĺ":116956,"ç»§ç»Ńä¿ĿæĮģ":116957,"åIJ¯èĴĻ":116958,"çľº":116959,"ä¸Ŀè·¯":116960,"设æĸ½å»ºè®¾":116961,"æİ¥åľ°":116962,"æİ¥åľ°æ°Ķ":116963,"第ä¸īåŃ£åº¦":116964,"åŁºè°ĥ":116965,"åıijéŁ³":116966,"社ä¼ļèµĦæľ¬":116967,"éĽĩ主":116968,"è¿ŀèĥľ":116969,"没åķ¥":116970,"廢":116971,"èµ¶èµ´":116972,"æ¼ĶåĮĸ":116973,"åı¤æĢª":116974,"çİĭçĪ·":116975,"é¢ĦåħĪ":116976,"å¼Ģåħ·":116977,"åĽŀé¦ĸ":116978,"åľ°ä¸ĭæ°´":116979,"å°ıç¼ĸä¸Ģèµ·":116980,"èµİåĽŀ":116981,"åľ°è²Į":116982,"åĪĿä¸ī":116983,"åı¯ç͍äºİ":116984,"éģĹ迹":116985,"è¿Ļæī¹":116986,"èĸªæ°´":116987,"å¿ħçĦ¶ä¼ļ":116988,"æ²½":116989,"éįĭ":116990,"第ä¸Ģéĥ¨":116991,"åĪĬçī©":116992,"å®ŀä¾ĭ":116993,"æ¸ħåĩĢ":116994,"ä¸ĬèµĽåŃ£":116995,"åĽ¾è¡¨":116996,"éĤ®è½®":116997,"åĵªè£¡":116998,"缸è§ģ":116999,"æī°ä¹±":117000,"æ¯ıæ¯ı":117001,"è¿Ļè¾ĪåŃIJ":117002,"ç¡«éħ¸":117003,"äºī缸":117004,"溯æºIJ":117005,"åĩºä¼Ĺ":117006,"çİīçŁ³":117007,"åħ±çĶŁ":117008,"æĹ¶éĹ´æ®µ":117009,"éĩįè¦ģæĮĩ示":117010,"æ¶Īè´¹éľĢæ±Ĥ":117011,"éķ¿éķ¿":117012,"éķ¿éķ¿çļĦ":117013,"å®īæĬļ":117014,"å¢ŀé«ĺ":117015,"æľ¬è½®":117016,"äº²çľ¼":117017,"é£İæ³¢":117018,"èĢģå¦Ī":117019,"æĶ¶è´¹æłĩåĩĨ":117020,"åĨħéĻĨ":117021,"æĮ¥åıij":117022,"åįĩåѦ":117023,"èĥ¸åīį":117024,"åģıè¿ľ":117025,"纯æ´ģ":117026,"æĸ½å·¥åįķä½į":117027,"身价":117028,"è´¢åĬĽ":117029,"纶":117030,"è£ħçͲ":117031,"æĺ¾ç¤ºåύ":117032,"毫åįĩ":117033,"æ·±çŁ¥":117034,"è̶ç©":117035,"è̶ç©Į":117036,"è¾ĥéĩı":117037,"åľ¨è¿ĩ渡":117038,"åľ¨è¿ĩæ¸¡æľŁ":117039,"èĮĹ":117040,"ä¸Ģ个æĺŁæľŁ":117041,"èĬ·":117042,"è´¿èµĤ":117043,"æ¿ķ":117044,"æĩĤäºĭ":117045,"ç§§":117046,"åħħå½ĵ":117047,"åĽ½ç«ĭ":117048,"èĬ±çĵ£":117049,"éĤĦè¦ģ":117050,"åħ¬åľĴ":117051,"触åĬ¨":117052,"æ³°å·ŀ":117053,"ä»Ģä¹Īæł·":117054,"æ»ĭåħ»":117055,"è¯ĦåΤ":117056,"æĮ¥æīĭ":117057,"èĦĪ":117058,"姥姥":117059,"è¿IJè´¹":117060,"æ¯ħåĬĽ":117061,"å¿ĥæĻº":117062,"ä¸įæİĴéϤ":117063,"第ä¸ī代":117064,"éĢĢè´§":117065,"æĺŁéĻħ":117066,"æ°¸åĪ©":117067,"æĬ¤åį«":117068,"çıŃ车":117069,"è¨Ģè¡Į":117070,"繪":117071,"主åĬ¨æĢ§":117072,"å·¥ç¨ĭè´¨éĩı":117073,"éĥĬåĮº":117074,"ä¸Ģæłĭ":117075,"ä½Ĩå®ŀéĻħä¸Ĭ":117076,"ä¸ī大èģĮä¸ļ":117077,"åij¼åı«":117078,"女åħĴ":117079,"è¯ģåΏæĬķèµĦ":117080,"èĢĥæħ®":117081,"çĤ«èĢĢ":117082,"治好":117083,"åĺ¶":117084,"èĥ¤":117085,"åħīä¼ıåıijç͵":117086,"åĩłæŃ¥":117087,"æīĢæīĢ":117088,"æīĢæīĢéķ¿":117089,"çħ§æł·":117090,"åĵ¥ä»¬":117091,"è¯Ľ":117092,"è¿Ļä¸ĢåĪ»":117093,"çŁ¿çī©è´¨":117094,"ä¸įå¾Ĺå·²":117095,"åIJĮ缣":117096,"ç»Ĩå¾®":117097,"è·¯èĻİ":117098,"çϾèĬ±":117099,"æ··æ²Į":117100,"ä¸Ĭæµ·è¯ģåΏ":117101,"éĢĢç¨İ":117102,"èµŀåı¹":117103,"æī®æ¼Ķ游æĪı":117104,"åIJįåĪĹ":117105,"åIJįåĪĹåīį":117106,"åIJįåĪĹåīįèĮħ":117107,"ç±³å°Ķ":117108,"ä»Ģä¹ĪåİŁåĽł":117109,"å®īåħ¨ä¿Ŀéļľ":117110,"ä¸Ģåıªæīĭ":117111,"ä¹³ä¸ļ":117112,"ä¸įçĶĺ":117113,"æĥħåķĨ":117114,"æĮ¡ä½ı":117115,"åİŁåĽłä¹ĭä¸Ģ":117116,"è¿Ļ两天":117117,"çĥĺçĦĻ":117118,"豬":117119,"ä½łä»¥ä¸º":117120,"没è§ģè¿ĩ":117121,"åĵªå®¶å¥½":117122,"åīįä»»":117123,"è¿Ľè´§":117124,"éĢĢåĽŀ":117125,"串èģĶ":117126,"èĩ³æĸ¼":117127,"åĨ°æ·ĩ":117128,"åĨ°æ·ĩæ·ĭ":117129,"æŁ¥çľĭ详æĥħ":117130,"çı¾å¯¦":117131,"æİ¨æµĭ":117132,"æİ¥æīĭ":117133,"éļ¶å±ŀäºİ":117134,"åŁİå¸Ĥ群":117135,"æĿİåħĪçĶŁ":117136,"çŁ¿æ³īæ°´":117137,"çī¹ä»·":117138,"æĽ´å¤ļ精彩":117139,"ç¨ĭå¼ı":117140,"读æĩĤ":117141,"å±ıèͽ":117142,"奥æŀĹ":117143,"奥æŀĹåĮ¹":117144,"奥æŀĹåĮ¹åħĭ":117145,"红èĸ¯":117146,"奮":117147,"å®Ŀçİī":117148,"網絡":117149,"è²§":117150,"欧å¼ı":117151,"çϽç³ĸ":117152,"èĩªçĦ¶çģ¾å®³":117153,"åijĬè¯ī她":117154,"å»ļ":117155,"çĤ¹åĩ»æŁ¥çľĭ":117156,"é£İ湿":117157,"èµĦ产éĩįç»Ħ":117158,"ä¹Łä¸įä¾ĭå¤ĸ":117159,"åįĬ个å°ıæĹ¶":117160,"åIJ¸å¼ķæĽ´å¤ļ":117161,"æĹ¶éĹ´èĬĤçĤ¹":117162,"æĶ¶çº³":117163,"åIJ¸æ¯Ĵ":117164,"èĢģ乡":117165,"çIJħ":117166,"æľĢçµĤ":117167,"åıįæĦŁ":117168,"çĶ¨å¾®ä¿¡":117169,"çĶ¨å¾®ä¿¡æī«":117170,"éĢŁçİĩ":117171,"大çĨĬçĮ«":117172,"åı¯æĥ³":117173,"åı¯æĥ³èĢĮ":117174,"åı¯æĥ³èĢĮçŁ¥":117175,"åĴ§":117176,"èµ°åħ¥":117177,"碳éħ¸":117178,"èĮĥåĨ°":117179,"èĮĥåĨ°åĨ°":117180,"被åΤ":117181,"积æŀģæİ¨åĬ¨":117182,"足足":117183,"ç²ĴåŃIJ":117184,"大å®Ĺ":117185,"大å®ĹåķĨåĵģ":117186,"ç½ij绾ç§ijæĬĢ":117187,"æĽ¼åŁİ":117188,"å·²ä¹ħ":117189,"å·²ä¹ħçļĦ":117190,"秦çļĩ":117191,"秦çļĩå²Ľ":117192,"ä»»æķĻ":117193,"å͝ç¾İ":117194,"æ·¡åĮĸ":117195,"æ¡ĤèĬ±":117196,"çŁ¥è¯ĨåĪĨåŃIJ":117197,"æĩĴå¾Ĺ":117198,"主åħ¬":117199,"设计çIJĨ念":117200,"賺":117201,"æīĢæıIJä¾Ľ":117202,"æīĢæıIJä¾Ľä¹ĭ":117203,"æĶ»åħĭ":117204,"åĤ¾":117205,"è¯Ńæ³ķ":117206,"åįĥåı¤":117207,"éĸĭæĶ¾":117208,"第ä¸ĢèĬĤ":117209,"éĤĦæ²Ĵ":117210,"éĢĥçĶŁ":117211,"æ³Ĺ":117212,"åİ¿å§Ķ书记":117213,"ä½ľèĢħæīĢæľī":117214,"çħ½":117215,"ç»ħ":117216,"æłħ":117217,"æľ´ç´ł":117218,"çijķçĸµ":117219,"åĮħåĮħ":117220,"æ°ij主åħļ":117221,"ä¸įè¿ľå¤Ħ":117222,"å¥ĩå¼Ĥ":117223,"åĺ»åĺ»":117224,"æī¼":117225,"ç¿»å¼Ģ":117226,"æĢİèĥ½":117227,"éģ´éĢī":117228,"è§£éĩĭ":117229,"å¹¼ç¨ļ":117230,"è¦ģ好好":117231,"è¶´åľ¨":117232,"ç´¢åıĸ":117233,"ç»ĪçĶŁ":117234,"åħ¨æµģç¨ĭ":117235,"éģ©çķ¶":117236,"åįıè°ĥåıijå±ķ":117237,"æĬ¥ä»ĩ":117238,"ç§ijæĬĢåĽŃ":117239,"ä»Ģä¹Īéĥ½ä¸į":117240,"æľĢåIJİä¸Ģ次":117241,"ç»Ļ人ä¸Ģç§į":117242,"æł¸å®ļ":117243,"被åĪĹåħ¥":117244,"æĦıæĥ³ä¸įåΰ":117245,"èĢĥæŁ¥":117246,"åľ¨æŃ¤ä¹ĭåīį":117247,"æīĵçIJĥ":117248,"è¶ĬæĿ¥è¶Ĭå°ij":117249,"å®ļå¾ĭ":117250,"è¡ĮæĶ¿æľºåħ³":117251,"ä½ıæĪ¿åħ¬ç§¯":117252,"å°ıå§IJå§IJ":117253,"ä¸īèı±":117254,"修补":117255,"èŀĥèŁ¹":117256,"西çͲ":117257,"æĢł":117258,"çŃīå¤ļ项":117259,"产ä¸ļéĽĨèģļ":117260,"ä»·æł¼ä¸Ĭ涨":117261,"åħ¬åħ±åľºæīĢ":117262,"è¢ĭåŃIJ":117263,"æĨ§æĨ¬":117264,"çļĦæĸ¹å¼ıæĿ¥":117265,"åĪ°è´¦":117266,"çģ½":117267,"å·´èı²":117268,"å·´èı²çī¹":117269,"æ¼Ķä¹ł":117270,"èŃ¦ç¤ºæķĻèĤ²":117271,"çķıæĥ§":117272,"å¼ķæµģ":117273,"æĶ¶æĶ¯":117274,"å±Ĥåĩº":117275,"å±Ĥåĩºä¸į":117276,"å±Ĥåĩºä¸įç©·":117277,"æijĩæ»ļ":117278,"辦çIJĨ":117279,"纵è§Ĥ":117280,"æķijæµİ":117281,"å®¶éĥ½çŁ¥éģĵ":117282,"åĮ¯":117283,"å°ı鸣":117284,"ä»»åĭĻ":117285,"计åħ¥":117286,"ç«ŀéĢī":117287,"å¼ĢèįĴæĹ¶æľŁ":117288,"åij¨æģ©":117289,"åij¨æģ©æĿ¥":117290,"交ç»ĩ":117291,"çķ¢æ¥Ń":117292,"æł¹æį®èĩªå·±":117293,"æĸ°äººçݩ家":117294,"åѵåĮĸåύ":117295,"éĩĩæļĸ":117296,"å¹³åĿĩæ°´å¹³":117297,"åħ¬å¼Ģ课":117298,"失åĪ©":117299,"伺æľį":117300,"çĬģ":117301,"忽æĤł":117302,"主è¦ģéĽĨä¸Ń":117303,"æ¤įæłij":117304,"æ¯ĹéĤ»":117305,"èĩºçģ£":117306,"åĩºåĽ½çķĻåѦ":117307,"æĬĹéľĩ":117308,"æĥ©æĪĴ":117309,"å¹´åºķåīį":117310,"åĴ¸éĺ³":117311,"æ°ijå±ħ":117312,"大çIJĨçŁ³":117313,"éĿ³":117314,"éķĸ":117315,"æ¸ħè¿ľ":117316,"è£ħè½½":117317,"èĩĢ":117318,"å½±ä¸ļ":117319,"å¼ŁåħĦ":117320,"æĤ²è§Ĥ":117321,"çĿĢçľ¼äºİ":117322,"æįįåį«":117323,"åī¥å¤º":117324,"ç¯Ĩ":117325,"å¾Īéķ¿æĹ¶éĹ´":117326,"è¥Ł":117327,"第ä¸ĢçϾ":117328,"ä¸ĢåĪĨéĴ±":117329,"æĸ°éĹ»è®°èĢħ":117330,"éķ·æľŁ":117331,"æ³ķæĪĺç»ĦåIJĪ":117332,"è°ģçŁ¥éģĵ":117333,"èħ°éĥ¨":117334,"æ±īåł¡":117335,"åħ¥çĿ¡":117336,"åįĸæİī":117337,"æ¶Īè²»èĢħ":117338,"æĥ¯ä¾ĭ":117339,"æĥ³äºĨ":117340,"æĥ³äºĨæĥ³":117341,"èĢģæĹ§å°ıåĮº":117342,"ä¼łè¨Ģ":117343,"åĪĨæķ°çº¿":117344,"æµģ泪":117345,"ç»Ħç»ĩé¢Ĩ导":117346,"äºļåĨĽ":117347,"å¢ŀå̼æľįåĬ¡":117348,"å¾¹":117349,"ä¼¶":117350,"äºĽè®¸":117351,"å¸ĥèݱ":117352,"强æĤį":117353,"宫廷":117354,"绿èĮ¶":117355,"åĮ¡":117356,"å¾ĪæŃ£å¸¸":117357,"æĺ¥å¤ı":117358,"æ¯Ļ":117359,"è¯Ħæ¯Ķ":117360,"åĩ¡äºĭ":117361,"æĬīæĭ©":117362,"åĢĴéľī":117363,"éĩį度":117364,"åįıä¼ļä¼ļéķ¿":117365,"å¿§èĻij":117366,"ä¸ĭä¸Ģç¯ĩ":117367,"沪深":117368,"æĪİ":117369,"æīĵä»Ĺ":117370,"åįĪé¥Ń":117371,"å¹´é¾Ħ段":117372,"ä¸ŃåĽ½è¶³çIJĥ":117373,"设计æĸ¹æ¡Ī":117374,"åºĶçĶ¨æŁ¥çľĭ":117375,"é¢ĦæĸĻ":117376,"åĹ¡":117377,"ç¥ĸçζ":117378,"çļĦä¸Ģåijĺ":117379,"æ´Ĺå¹²åĩĢ":117380,"åİĨåı²æĸ°":117381,"åİĨåı²æĸ°é«ĺ":117382,"çĭ¬åħ·":117383,"æħĭ度":117384,"æīĵ交":117385,"æīĵ交éģĵ":117386,"é»ĦçŁ³":117387,"çĽ¼æľĽ":117388,"çī§åľº":117389,"转弯":117390,"åįĩåįİ":117391,"åĨįä¹Łæ²¡æľī":117392,"èĭ±æīį":117393,"æĽ´åIJį为":117394,"åĢŁç͍":117395,"çºłéĶĻ":117396,"ç»Ŀ对ä¸įä¼ļ":117397,"çİĭçīĮ":117398,"çĽĨåľ°":117399,"失è°ĥ":117400,"好象":117401,"é³¥":117402,"ä¿Ŀä¿®":117403,"åĽĽä¸ªèĩªä¿¡":117404,"头çļ®":117405,"åİŁåīĩ":117406,"æĬ¥æ¡Ī":117407,"奴éļ¶":117408,"å³Ļ":117409,"è°ĥæĸĻ":117410,"ä¹Łè¨±":117411,"èIJ½åΰ":117412,"èIJ½åΰå®ŀ":117413,"èIJ½åΰå®ŀå¤Ħ":117414,"çĦļçĥ§":117415,"çĶŁæ´»çݯå¢ĥ":117416,"åºĶåıĬæĹ¶":117417,"è¶Ĭè¿ĩ":117418,"æĦŁè¬Ŀ":117419,"æĻ¯å¾·":117420,"æĻ¯å¾·éķĩ":117421,"çĬĢ":117422,"身éĤĬ":117423,"ç¨İåĬ¡æĢ»å±Ģ":117424,"åĩĢåľŁ":117425,"ä¾µåįł":117426,"åĬ¨å·¥":117427,"å¹´ä¹ĭ":117428,"å¹´ä¹ĭä¹ħ":117429,"第äºĮèĬĤ":117430,"åĬ¨çī©åĽŃ":117431,"第ä¸Ģ书记":117432,"éħļ":117433,"çĶŁäº§è®¾å¤ĩ":117434,"æŁIJç§įç¨ĭ度":117435,"åľŃ":117436,"åĩŃåĢŁçĿĢ":117437,"éĺħè§Ī":117438,"çϽæ²Ļ":117439,"æ²¹çĥŁ":117440,"çªģçł´åı£":117441,"åıĹå½±åĵį":117442,"åı¯ä»¥æĽ´å¥½":117443,"å³°å̼":117444,"æĿĤè´¨":117445,"宿è¿ģ":117446,"çĽĺæ´»":117447,"æ¿Ģèµ·":117448,"åĦ¿ç§ij":117449,"åĿIJèIJ½åľ¨":117450,"æĮªå¨ģ":117451,"æµ·å²Ľ":117452,"绣绣":117453,"éύ":117454,"ä¼ĺäºİ":117455,"å°Īå®¶":117456,"ä¸ĢéĤĬ":117457,"èIJĬ":117458,"äºĨä¸Ģåı£":117459,"æ²ĥå°Ķæ²ĥ":117460,"æŃ£å¸¸ä½¿ç͍":117461,"æĻ®éģįåŃĺåľ¨":117462,"丰满":117463,"çĶ»åį·":117464,"åºĶæĶ¶":117465,"åºĶæĶ¶è´¦":117466,"åºĶæĶ¶è´¦æ¬¾":117467,"å®Įæķ´çĥŃ":117468,"å®Įæķ´çĥŃæ¦ľ":117469,"注è§Ĩ":117470,"çĨĦ":117471,"躬":117472,"éĶĢåĶ®äººåijĺ":117473,"è¶ĭåIJij":117474,"çĦ¦æĢ¥":117475,"åįģå¹´åīį":117476,"ä¼łç»Łäº§ä¸ļ":117477,"質éĩı":117478,"åĩ¤åĩ°ç½ij":117479,"èµĦæºIJæķ´åIJĪ":117480,"æ¶Įåħ¥":117481,"æĸĩåĮĸä¼łæĴŃ":117482,"çķĮ第ä¸Ģ":117483,"æ°´æ³µ":117484,"宫殿":117485,"æİ¢å¯»":117486,"ä¿®åīª":117487,"æĦıè¦ĭ":117488,"ç´Ĭä¹±":117489,"æĽī":117490,"çĻ½è¡£":117491,"èĻİåį«":117492,"ç´§æī£":117493,"å¤Ħå¤Ħéķ¿":117494,"åĪĽå»ºå·¥ä½ľ":117495,"红æŀ£":117496,"饼干":117497,"äºĨåįĬ天":117498,"ä¼ļå½±åĵįåΰ":117499,"çĽ¸ä¿¡å¤§å®¶":117500,"èħ¾é£ŀ":117501,"å°±å¦ĤåIJĮ":117502,"ä¸ĭéĿ¢å°ıç¼ĸ":117503,"æ°ijèIJ¥ç»ıæµİ":117504,"æĻ¦":117505,"è£ħæī®":117506,"é»ijå¤ľ":117507,"常德":117508,"å·¥ä¸ļ大åѦ":117509,"æĺİçŁ¥":117510,"éĺŁåijĺ们":117511,"åIJ¬è¯¾":117512,"æ¯ıéļĶ":117513,"羣æĺ¯å¤ª":117514,"åIJĪä½ľåħ±èµ¢":117515,"çIJĨåıij":117516,"æīįå¹²":117517,"çľĭèµ·ä¾Ĩ":117518,"殿ä¸ĭ":117519,"å®īéĺ³":117520,"æīĢ产çĶŁçļĦ":117521,"éĽĩä½£":117522,"æĬ¬èµ·å¤´":117523,"æį®æĬ¥éģĵ":117524,"éļĨéĩį举è¡Į":117525,"交éĶĻ":117526,"è¶ħé¢Ŀ":117527,"åĮĸçĸĹ":117528,"é¡Ĩ":117529,"纵深":117530,"çĪ±åĽ½ä¸»ä¹ī":117531,"éĻ¢åī¯éĻ¢éķ¿":117532,"讳":117533,"羣æŃ£åģļåΰ":117534,"åѤåįķ":117535,"èĩªçĦ¶èĢĮ":117536,"èĩªçĦ¶èĢĮçĦ¶":117537,"修身":117538,"èĬ¹":117539,"æģ¯æģ¯":117540,"æģ¯æģ¯çĽ¸åħ³":117541,"é©¾æł¡":117542,"æİ©é¥°":117543,"æ³½è¿ŀ":117544,"æ³½è¿ŀæĸ¯åŁº":117545,"举æŃ¢":117546,"管çIJĨä½ĵåζ":117547,"åħ¶ä¸Ńä¹ĭä¸Ģ":117548,"æĿ¾å¼Ľ":117549,"æĭ¦æĪª":117550,"åį«åģ¥":117551,"åį«åģ¥å§Ķ":117552,"ä»İåݻ年":117553,"åĤ¢":117554,"è´Ń票":117555,"åĽ¾æłĩ":117556,"河西":117557,"æ°ijæĶ¿å±Ģ":117558,"ç§ģèIJ¥":117559,"å¤ĸåĽ½è¯Ń":117560,"干货":117561,"æĵ¦æĭŃ":117562,"åľ°ä¸Ń":117563,"åľ°ä¸Ńæµ·":117564,"æµĵæµĵ":117565,"æµĵæµĵçļĦ":117566,"å§ĭ建":117567,"å§ĭ建äºİ":117568,"ç¶ĵæŃ·":117569,"è·¯æ¼Ķ":117570,"æļ´é£İ":117571,"åŁºè¾ħ":117572,"æī¶è´«å·¥ä½ľ":117573,"ä¸Ģ缴å¤Ħäºİ":117574,"æĥħè¶£":117575,"äºĮåŃ£åº¦":117576,"åİĮæģ¶":117577,"顺åĪ©å®ĮæĪIJ":117578,"æŁ¥å°ģ":117579,"顶端":117580,"ä¸įåŃķ":117581,"ä¸Ģ大åłĨ":117582,"被æ·ĺæ±°":117583,"æĺ¯ç͍æĿ¥":117584,"æľĢåIJĪéĢĤ":117585,"äº®çľ¼":117586,"å¹¶ä¸įæĺ¯å¾Ī":117587,"ç§ijçłĶéĻ¢":117588,"ç§ijçłĶéĻ¢æīĢ":117589,"ç²Ł":117590,"é¢Īéĥ¨":117591,"é»ĺé»ĺåľ°":117592,"é«ĺä¸ŃçĶŁ":117593,"æĹıèĩªæ²»åİ¿":117594,"æķĻåŃ¦è´¨éĩı":117595,"æĪĺçģ«":117596,"åĿİåĿ·":117597,"æIJŃä¹ĺ":117598,"è¯ĹæĦı":117599,"åĪijèѦ":117600,"åĩºæ±Ĺ":117601,"åįģåħŃæĿ¡":117602,"请åıĬæĹ¶":117603,"åĨľä¸ļ大åѦ":117604,"èIJ½åı¶":117605,"æĢ»èĢĮè¨Ģ":117606,"æĢ»èĢĮè¨Ģä¹ĭ":117607,"æĿľåħ°":117608,"æĿľåħ°çī¹":117609,"éĻªä½ł":117610,"åħ¬æĬ¥":117611,"çķĻè¨ĢæĿ¿":117612,"éĺħåİĨ":117613,"ç«¶çĪŃ":117614,"ç»ĻåĪ«äºº":117615,"æĹ¥æĬ¥ç¤¾":117616,"åĿIJèIJ½":117617,"åĿIJèIJ½äºİ":117618,"éĩijåŃĹ":117619,"éĩijåŃĹå¡Ķ":117620,"åĽ¤":117621,"è¯Ŀåī§":117622,"æĮģç»Ńæİ¨è¿Ľ":117623,"æ¼ıæ°´":117624,"詳細":117625,"æĢĢæĬ±":117626,"åıĺå¹»":117627,"饥饿":117628,"éļIJ身":117629,"ä¸ªèµĽåŃ£":117630,"åĵ¡å·¥":117631,"æģ¢å¤įæŃ£å¸¸":117632,"äºĨ好å¤ļ":117633,"æĺŁå·´":117634,"æĺŁå·´åħĭ":117635,"åħīçݯ":117636,"å¸ħåĵ¥":117637,"çĻ½éĽª":117638,"ç¨įç¨į":117639,"计æıIJ":117640,"æĦĽæĥħ":117641,"éİĸ":117642,"ä¿¡éĺ³":117643,"è§Ģå¯Ł":117644,"å¦Ĥæŀľä½łæĥ³":117645,"缸æ¯Ķä¹ĭä¸ĭ":117646,"è§£å¼Ģ":117647,"æīĵåį°æľº":117648,"身躯":117649,"ç²¾ç¥ŀæĸĩæĺİ":117650,"èĤ¡æĮĩ":117651,"å¾®åĪĽ":117652,"红èĮ¶":117653,"èĩ´çĻĮ":117654,"æģ©æĸ½":117655,"èħ¿éĥ¨":117656,"大åŀĭå¤ļ人":117657,"å®īåĢį":117658,"è¾ħ导åijĺ":117659,"èĪªéģĵ":117660,"å¸ĥå°Ķ":117661,"åįĹå®ģå¸Ĥ":117662,"ä¸ĬçıŃæĹı":117663,"ä¾§ç»ĵæŀĦæĢ§":117664,"追éļı":117665,"å½ĵåľ°æĶ¿åºľ":117666,"èµ°åĩºæĿ¥":117667,"éĩijèŀįä¸ļ":117668,"ä¸Ľä¹¦":117669,"é¡¹çĽ®ç»ıçIJĨ":117670,"è¿ĩæĪ·":117671,"骨æŀ¶":117672,"è¡Ļ":117673,"ä»Ģ麽":117674,"èħĭ":117675,"è¦ģ害":117676,"åľ¨åºĬä¸Ĭ":117677,"代è¨Ģ人":117678,"並å°ĩ":117679,"åIJĦ个æĸ¹éĿ¢":117680,"è°´è´£":117681,"åħ±æĮ¯":117682,"åį³å°ĨåΰæĿ¥":117683,"èĤºçĻĮ":117684,"ä¾ĽéĶĢ":117685,"丼æŀĹ":117686,"èµĥ":117687,"åįģä½Ļå¹´":117688,"åĭĺæİ¢":117689,"飵åij³":117690,"èĭ¦ç¬ij":117691,"æľĢ大ç¨ĭ度":117692,"éĩįçĤ¹åħ³æ³¨":117693,"ä¹ĭ举":117694,"满æĢĢ":117695,"åıĹåΰ影åĵį":117696,"æĭĽæĬķæłĩ":117697,"è¡¥é½IJ":117698,"西红":117699,"è¥¿çº¢æŁ¿":117700,"鬧":117701,"è£ħåį¸":117702,"éĤ»éĩĮ":117703,"èĤĩäºĭ":117704,"æİĴæ¯Ĵ":117705,"åѤåĦ¿":117706,"鼶è·Ŀ离":117707,"å®ŀå¹²":117708,"çľĭæŁ¥çľĭ":117709,"æĶ¶è´¹ç«Ļ":117710,"ç»·":117711,"åħ¬çĽĬæĢ§":117712,"éĢĴç»Ļ":117713,"æĶ»æīĵ":117714,"æĺŁçº§éħĴåºĹ":117715,"æĺİåªļ":117716,"çį¨ç«ĭ":117717,"è¯Ŀè¯ŃæĿĥ":117718,"ä¸ĢæŃ¥ä¸ĢæŃ¥":117719,"书æ³ķå®¶":117720,"æľªç»ıæİĪæĿĥ":117721,"çŁ³èĨı":117722,"åĩŃä»Ģä¹Ī":117723,"çļĦæĹ¥":117724,"çļĦæĹ¥åŃIJéĩĮ":117725,"诱人":117726,"çϾåĪĨçϾ":117727,"èĪĪè¶£":117728,"å¼łåħĪçĶŁ":117729,"èĢģçĪ·åŃIJ":117730,"æ³¢çī¹":117731,"åŁºéĩij份é¢Ŀ":117732,"æ²Ļåıijä¸Ĭ":117733,"å¥ĭæĸĹ缮æłĩ":117734,"æ°¢èĥ½":117735,"æ²ĥå°ĶçİĽ":117736,"義åĭĻ":117737,"éŁ³ç®±":117738,"æ²ī浸":117739,"æ²īæµ¸åľ¨":117740,"èĭ±åľĭ":117741,"çģ¯çģ«":117742,"è¿Ľé¡¹":117743,"两端":117744,"ä¹Ķ丹":117745,"èĦ¸é¢Ĭ":117746,"åıijå±ķæ½ľåĬĽ":117747,"åĭķä½ľ":117748,"åĵĪä½Ľ":117749,"å®´ä¼ļ":117750,"æ§į":117751,"ç«ĭå¿Ĺ":117752,"ç¡ķ士åѦä½į":117753,"åĭĭ竳":117754,"è¿Ļåľºæ¯ĶèµĽ":117755,"æĮģå¹³":117756,"éķĢéĶĮ":117757,"èĭ±çī¹":117758,"èĭ±çī¹å°Ķ":117759,"æķĻèģĮå·¥":117760,"åĬŁåĬĽ":117761,"该æ¡Ī":117762,"ä¸Ģæ¢Ŀ":117763,"åĺīå¹´":117764,"åĺīå¹´åįİ":117765,"è¿«ä¸įåıĬ":117766,"è¿«ä¸įåıĬå¾ħ":117767,"è¿Ļ个æĹ¶ä»£":117768,"精彩æĴŃæĬ¥":117769,"人èĦ¸":117770,"人èĦ¸è¯ĨåĪ«":117771,"æ£Ģå¯Łå®ĺ":117772,"å°ıèħ¿":117773,"éĨĴ缮":117774,"åħļæĢ»":117775,"åħļæĢ»æĶ¯":117776,"æĪŁ":117777,"èĮ«çĦ¶":117778,"è±ĨæµĨ":117779,"主治":117780,"éĿĴæµ·çľģ":117781,"åĪijäºĭ责任":117782,"çł°":117783,"ä¹ĭæ¬ĬåĪ©":117784,"äºĶå®ĺ":117785,"è¿·æĥij":117786,"åħ¥åºĵ":117787,"家纺":117788,"弹簧":117789,"åįģäºĶæĿ¡":117790,"ç»Ļå®Ŀå®Ŀ":117791,"èĪªç©ºèĪªå¤©":117792,"å¾Ģå¤ĸ":117793,"å¼ķåĬĽ":117794,"çľ¼çļ®":117795,"æ¶īè¶³":117796,"æĿ¥å®¾":117797,"åľ¨çº¿è§Ĵèī²":117798,"çĥŃéĶĢ":117799,"æµģéĢĿ":117800,"泡泡":117801,"éĻįå¹ħ":117802,"è´ŁéĿ¢å½±åĵį":117803,"红楼":117804,"红楼梦":117805,"éļĶçĿĢ":117806,"侥幸":117807,"许ä¹ħ":117808,"åĴĮçĿ¦":117809,"èѽ":117810,"使ç͍èĢħæĪĸ":117811,"ä¹°åįķ":117812,"è¿´":117813,"é£İæīĩ":117814,"æķĻ師":117815,"æ¡ĮåŃIJä¸Ĭ":117816,"å¾Īæ¼Ĥ亮":117817,"åł±å°İ":117818,"第ä¸ĢåŃ£åº¦":117819,"ç©©å®ļ":117820,"æĤ²åĵĢ":117821,"çĿĢåĬĽæīĵéĢł":117822,"æĮŁ":117823,"路桥":117824,"åijIJ":117825,"åľ£è¯ŀèĬĤ":117826,"çļĩåŃIJ":117827,"ä»ĩæģ¨":117828,"éħĿéħ¿":117829,"ä¸įéĹ´":117830,"ä¸įéĹ´æĸŃ":117831,"æĮĩå°ĸ":117832,"ä¸ŃåĽ½ç½ij游":117833,"åŀ£":117834,"æĦıè§ģ建议":117835,"æ¯ħçĦ¶":117836,"亮度":117837,"èģĶè°Ĭ":117838,"å½ķåħ¥":117839,"åĦ²":117840,"å¨ĺå®¶":117841,"ç§ijå°Ķ":117842,"ä¹Łæ²¡ä»Ģä¹Ī":117843,"æł¹æį®ä¸įåIJĮ":117844,"åı¶ä¿®":117845,"å̼å®Ī":117846,"æľ«ç«¯":117847,"å΍":117848,"åĤµåĭĻ":117849,"èģ¯åIJĪ":117850,"å¥ĩå¹»":117851,"èĻļæŀĦ":117852,"é»Ħæĺı":117853,"å¹³åĿ¦":117854,"æµģæ°ĵ":117855,"æĸ°åŁºå»º":117856,"æĮ½æķij":117857,"åįİå°Ķ":117858,"åįİå°Ķè¡Ĺ":117859,"æľĢåıĹæ¬¢è¿İ":117860,"ç»Ń约":117861,"å¼Ĭ端":117862,"éŃĶæ³ķå¸Ī":117863,"éŃĶæ³ķå¸ĪåĴĮ":117864,"åħ·ä½ĵåĨħ容":117865,"çIJīçĴĥ":117866,"æī©å®¹":117867,"èĮ¶åĽŃ":117868,"主ä¹īèĢħ":117869,"ç«ĭéĿ¢":117870,"æİ¥åıĹéĩĩ访":117871,"åĩºåħ¥å¢ĥ":117872,"ç§ijåįı":117873,"éĴ³":117874,"çµIJæ§ĭ":117875,"ç»ĵæŀľæĺ¾ç¤º":117876,"åı°è´¦":117877,"å°±æĿ¥çľĭçľĭ":117878,"èĩªæķij":117879,"åıįæĩī":117880,"åİ»åĵªåĦ¿":117881,"è¿Ļé¦ĸ":117882,"è¿Ļé¦ĸæŃĮ":117883,"åIJ¬ä¼Ĺ":117884,"å¤ĸ壳":117885,"ä½ĵèĤ²é¦Ĩ":117886,"實æĸ½":117887,"èŀºä¸Ŀ":117888,"æĭīåįĩ":117889,"çĮĽåľ°":117890,"åħ¨åĽ½äººæ°ij":117891,"æĤīå°¼":117892,"æĹı群":117893,"åĽ¢åijĺ":117894,"两个å°ıæĹ¶":117895,"åľ¨çݩ家":117896,"åľ¨çݩ家ä¸Ń":117897,"çĶľçĶľ":117898,"æĬķè¡Į":117899,"åįĶæľĥ":117900,"éĻ¡":117901,"åĬłå·¥åİĤ":117902,"æ¦ĨæŀĹ":117903,"æŃ»è§Ĵ":117904,"åĨħå¹ķ":117905,"æīĢæľīæĥħèĬĤ":117906,"åĪ·åį¡":117907,"æ°´èĤ¿":117908,"èĥĥåı£":117909,"å«Įå¼ĥ":117910,"沮丧":117911,"ä¸ī年级":117912,"æ¶Ĥå±Ĥ":117913,"å¿ĥ仪":117914,"å¿ĥ仪çļĦ":117915,"å¤Ń":117916,"é¦ĸè½®":117917,"æĹłè®ºæĺ¯åħ¶":117918,"éĢıæ°Ķ":117919,"äºĮåįģäºĶ":117920,"箫":117921,"åĬŁåĬ³":117922,"çѾä¸ĭ":117923,"æ²īè¿·":117924,"æķijåij½":117925,"éĹªéĹª":117926,"åIJĥäºı":117927,"å±ķåĵģ":117928,"åį³æĹ¶åıijçĶŁ":117929,"ç¶ľ":117930,"ç¶ľåIJĪ":117931,"æłĩæĺİ":117932,"çľĭç͵影":117933,"åħ¬ç«ł":117934,"éĺ¿æ£®":117935,"éĺ¿æ£®çº³":117936,"身åĪĽéĢł":117937,"身åĪĽéĢłçļĦ":117938,"æ¸Ľå°ij":117939,"å̼å¾Ĺåħ³æ³¨":117940,"鼶åĶ®åķĨ":117941,"æįĨç»ij":117942,"è¸ıåħ¥":117943,"èĽŁ":117944,"æŁ´çº³":117945,"èĢģåħµ":117946,"绿èī²çݯä¿Ŀ":117947,"é¹Ń":117948,"éº»æľ¨":117949,"æıŃçīĮ":117950,"è¿Ļ款车":117951,"ç¾İå¾·":117952,"ç¾İå¾·åħ¬åı¸":117953,"æ¶§":117954,"è°ģçŁ¥":117955,"æ´ĭèij±":117956,"æ¯įæł¡":117957,"ä¸ĢéĹª":117958,"çͷ䏻è§Ĵ":117959,"æĹłçº¿ç͵":117960,"å±łå®°":117961,"æĺ¯éŁ©åĽ½":117962,"æĺ¯éŁ©åĽ½å¨±":117963,"容è²Į":117964,"åĿĩ使åħ¶":117965,"太快":117966,"å¹´çͱ":117967,"å¹´çĶ±çĽĽ":117968,"èĭ¦èĭ¦":117969,"åĬĽè¿ĺæĺ¯":117970,"åĬĽè¿ĺæĺ¯èĩª":117971,"æĨ©":117972,"èģ¯çµ¡":117973,"å;":117974,"åħ·æľīæĪĺ士":117975,"追éĹ®":117976,"åłĨæĶ¾":117977,"åıį驳":117978,"å®ŀäºĭæ±Ĥ":117979,"å®ŀäºĭæ±Ĥæĺ¯":117980,"åѸéĻ¢":117981,"åįģåĩłä¸ª":117982,"æķijæĬ¤":117983,"æķijæĬ¤è½¦":117984,"ç½ijç»ľä¼łæĴŃ":117985,"åįģåħ«å±Ĭ":117986,"éĥ¨åī¯":117987,"éĥ¨åī¯éĥ¨éķ¿":117988,"çĹ´è¿·":117989,"管çIJĨæĿ¡ä¾ĭ":117990,"èŀį为ä¸Ģä½ĵ":117991,"æĢ»äº§å̼":117992,"è³ĵ":117993,"ä¸ĥæĺŁ":117994,"çıŃç»Ħ":117995,"绣é¢Ĩ":117996,"请大家":117997,"éĩijéϵ":117998,"èĪħèĪħ":117999,"æµ·æ¹¾":118000,"æĸ½çŃĸ":118001,"享èªī":118002,"麥":118003,"端åįĪ":118004,"绿åŁİ":118005,"確ä¿Ŀ":118006,"å·´æĭī":118007,"åĨĴçĿĢ":118008,"æħ·æħ¨":118009,"个人è§ĤçĤ¹":118010,"ä¹Ļçĥ¯":118011,"ç¡ħè°·":118012,"éĸĭå±ķ":118013,"å°ļ书":118014,"åĿļ飧":118015,"庵":118016,"èĢģé¾Ħ":118017,"èĢģé¾ĦåĮĸ":118018,"çľ¨çľ¼":118019,"绿水":118020,"绿水éĿĴå±±":118021,"书é¦Ļ":118022,"主åĬĽåĨĽ":118023,"æīįæĺ¯çľŁæŃ£":118024,"æĬ¢åħĪ":118025,"æĪIJå°±æĦŁ":118026,"éĩįæŀĦ":118027,"éĴ¢åİĤ":118028,"æĪIJ份":118029,"èĬ±çº¹":118030,"ä¹ĭäºī":118031,"å¹²ç»Ĩèĥŀ":118032,"æĹ¢åı¯ä»¥":118033,"ç¹ģçIJIJ":118034,"æĦļèł¢":118035,"éĿŀ常æĺİæĺ¾":118036,"ä½ĵ彩":118037,"æĬĢæ³ķ":118038,"æĿĨèıĮ":118039,"å¹¿æ³Ľåħ³æ³¨":118040,"åĮĹå®ĭ":118041,"å§Ĭ妹":118042,"åįıåĬŀ":118043,"æ·®åįĹ":118044,"çĥı":118045,"æ´ĹèĦ¸":118046,"åıĹ访":118047,"åıĹ访èĢħ":118048,"éĩįè¦ģåĽłç´ł":118049,"å½±è§Ĩåī§":118050,"综èīºèĬĤ缮":118051,"èľķåıĺ":118052,"äºĮ线":118053,"äºĮ线åŁİå¸Ĥ":118054,"ä¼Ĭå§ĭ":118055,"çıĬçijļ":118056,"èĩªæŁ¥":118057,"åħ¥åĽŃ":118058,"åĩ¶æīĭ":118059,"åħ¬è¯ī":118060,"éģĩéļ¾":118061,"éĩĩçŁ¿çŃī":118062,"èĩªçIJĨ":118063,"åĸ·æ¶Ĥ":118064,"æī©åħħ":118065,"éĢıè§Ĩ":118066,"é«ĺéĢŁå¢ŀéķ¿":118067,"åĽ¾çĶ»":118068,"ç¾¹":118069,"èĤĩåºĨ":118070,"è¾ľè´Ł":118071,"èµĶä»ĺ":118072,"è·¡":118073,"åģ¥åº·æĪIJéķ¿":118074,"以ä¸ĬåѦåİĨ":118075,"åıĸå¾Ĺ以åıĬ":118076,"æ²ī积":118077,"åįģä¹Ŀå±Ĭ":118078,"缸éĹľæľįåĭĻ":118079,"æī§åĭ¤":118080,"åī¯åİ¿éķ¿":118081,"寰":118082,"åģľæ»ŀ":118083,"淹没":118084,"çŁ³çģ°":118085,"çį¸":118086,"å̦":118087,"ç¾İåªĴ":118088,"æķĻæ¡Ī":118089,"åĬłçĽĸ":118090,"åħ¬å¼ĢèµĽ":118091,"å¥łåŁº":118092,"æĺĨèĻ«":118093,"çŀħ":118094,"磷éħ¸":118095,"äºīåĪĽ":118096,"çİĭæĻĵ":118097,"ç¼ĵåĨ²":118098,"åİļåİļ":118099,"åİļåİļçļĦ":118100,"æŀ£åºĦ":118101,"ç²¾çĽĬ":118102,"ç²¾çĽĬæ±Ĥ":118103,"ç²¾çĽĬæ±Ĥç²¾":118104,"åĪĨæĶ¯æľºæŀĦ":118105,"å®ŀæĸ½ç»ĨåĪĻ":118106,"æĸ°èµĽåŃ£":118107,"總統":118108,"éĢłè¡Ģ":118109,"é¢ĩåħ·":118110,"é»ĦåŁĶ":118111,"è¡ĢèĦĤ":118112,"交éĢļå·¥åħ·":118113,"å³¥":118114,"æĹıèĩªæ²»å·ŀ":118115,"寺éĻ¢":118116,"確å®ļ":118117,"æ¦Ĥ念èĤ¡":118118,"æĦŁå®ĺ":118119,"æŁľåı°":118120,"åĶĶ":118121,"çŀŃ解並":118122,"æĢ»ä»·":118123,"åIJ¸åħ¥":118124,"æĢ¼":118125,"æĻļéĹ´":118126,"å±Ĭæ¯ķä¸ļçĶŁ":118127,"çĶŁå§ľ":118128,"éĺħ读åħ¨æĸĩ":118129,"å¾ĹåΰæľīæķĪ":118130,"æIJľæķij":118131,"åİĨæĿ¥":118132,"èŃīæĺİ":118133,"åĥ»":118134,"èĨ³é£Ł":118135,"åĦĦåħĥ":118136,"æīĵåİĭ":118137,"宾客":118138,"åķ¼":118139,"ä¸ĢçϾå¤ļ":118140,"æ·±åħ¥äººå¿ĥ":118141,"æ¢ħå·ŀ":118142,"çłĶåѦ":118143,"åħ³ä¹İ":118144,"è¼Ľ":118145,"亲åıĭ":118146,"éħįæĸĻ":118147,"æĪijçĪ±ä½ł":118148,"è´¸æĺĵæĪĺ":118149,"æľīèī²":118150,"æľīèī²éĩijå±ŀ":118151,"æįIJåĬ©":118152,"为é¦ĸ":118153,"为é¦ĸçļĦ":118154,"å¯ĮåĬĽ":118155,"çĶ·ç¥ŀ":118156,"é³³":118157,"æµĩæ°´":118158,"åIJ±":118159,"æĺİç¡®æıIJåĩº":118160,"åı¹äºĨ":118161,"åı¹äºĨåı£æ°Ķ":118162,"礼æĭľ":118163,"è¿Ļ个åIJįåŃĹ":118164,"ä¿¡å¾Ĵ":118165,"å¿Ĺ强":118166,"éĻIJæĹ¶":118167,"æĶ¶è²»":118168,"åĨľå®¶ä¹IJ":118169,"å°ıé¾ĻèϾ":118170,"èIJ½å¹ķ":118171,"æ§Ł":118172,"åѦ龸":118173,"æĪĸå¤ļ":118174,"æĪĸå¤ļæĪĸ":118175,"æĪĸå¤ļæĪĸå°ij":118176,"座è°Īä¼ļä¸Ĭ":118177,"æ¶¼":118178,"éŃĶçİĭ":118179,"å²±":118180,"é¡¶å±Ĥ":118181,"é¡¶å±Ĥ设计":118182,"èĦijåŃIJéĩĮ":118183,"éĻ¢åŃIJéĩĮ":118184,"轩è¾ķ":118185,"身å¿ĥåģ¥åº·":118186,"èħij":118187,"éĹľæ³¨":118188,"åıĤåĬłä¼ļè®®":118189,"ä¸ŃåįİæĸĩåĮĸ":118190,"追寻":118191,"å®īçĦ¶":118192,"é£Ļåįĩ":118193,"éŁŃèıľ":118194,"鸦":118195,"åĤ¨éĩı":118196,"çĶ·æĸ¹":118197,"å¤ĩ份":118198,"æijĶåĢĴ":118199,"润æ»ijæ²¹":118200,"é̼è¿ij":118201,"çͳè¯ī":118202,"鸣类":118203,"çŁ³æ²¹åĮĸå·¥":118204,"åĿļæŀľ":118205,"è¿Ļå®¶ä¼Ļ":118206,"æĭĴä¸į":118207,"羣çļ®":118208,"è·ĿéĽ¢":118209,"è¿ĺæĮº":118210,"éĽķåĥı":118211,"åĪĿæģĭ":118212,"æıIJä¾ĽæĽ´å¤ļ":118213,"æŁ¥çľĭåħ¨æĸĩ":118214,"æķ°åŃĹè´§å¸ģ":118215,"åĸīåĴĻ":118216,"åı¦ä¸Ģä½į":118217,"åĤ¬åĮĸ":118218,"åĤ¬åĮĸåīĤ":118219,"ä»İæĿ¥æ²¡":118220,"å¯ĨåĪĩ缸åħ³":118221,"éĥ¨ä¸»ä»»":118222,"产åĵģç»ıçIJĨ":118223,"並åIJĮæĦı":118224,"èIJ½åħ¥":118225,"å±ıå¹ķä¸Ĭ":118226,"åħ¬åı¸ç«łç¨ĭ":118227,"æį¢åı¥è¯Ŀ":118228,"æį¢åı¥è¯Ŀ说":118229,"ä½įæĸ¼":118230,"ä½Ķ":118231,"åĩ»æĿĢ":118232,"缸è¾ĥ":118233,"缸è¾ĥäºİ":118234,"ç²½åŃIJ":118235,"åįĹæŀģ":118236,"宫é¢Ī":118237,"è£ģåijĺ":118238,"æĺİç»Ĩ":118239,"ä»·å̼éĵ¾":118240,"åĽĽä¸ªæĸ¹éĿ¢":118241,"æĥħåĨµæĿ¥çľĭ":118242,"æĮijåīĶ":118243,"æ®ĺ":118244,"æŀģåĬĽ":118245,"çĸijéļ¾":118246,"æĬµæĬĹåĬĽ":118247,"æĢ¥éĢŁ":118248,"æĪĮ":118249,"ä½İä¼°":118250,"éĹªè¿ĩ":118251,"æģ¬":118252,"èµŀæī¬":118253,"ä»ĸå¦Ī":118254,"æĪIJ为ä¸ĢåIJį":118255,"æ´Ĺ礼":118256,"é¢Ħ计å°Ĩ":118257,"åħĪè¿Ľåįķä½į":118258,"è¼Ķ":118259,"éĢĥèĦ±":118260,"çݰåŃĺ":118261,"èĢģèĻİæľº":118262,"åįģä¸ĥæĿ¡":118263,"åı¦ä¸ĢåįĬ":118264,"温æĥħ":118265,"åī¥ç¦»":118266,"ä¸ĸè´¸":118267,"å®ĺåı¸":118268,"å¾Īå·®":118269,"éĹ´è·Ŀ":118270,"请注æĦı":118271,"åı²è¯Ĺ":118272,"åĪ©åύ":118273,"è¿IJç®Ĺ":118274,"沦为":118275,"該使ç͍èĢħ":118276,"èĮ¬":118277,"éĶ¦ç»£":118278,"åı²æĸĻ":118279,"ç쵿´»æĢ§":118280,"èģĶ社":118281,"æĹłåĬ©":118282,"æĬĹæ°§åĮĸ":118283,"èıľèĤ´":118284,"éĢłèι":118285,"æİīèIJ½":118286,"å¤įæŁ¥":118287,"åĭĥåĭĥ":118288,"åij¼å£°":118289,"給äºĪ":118290,"åIJĮäºĭ们":118291,"ç½°":118292,"è¯ķæİ¢":118293,"åħ³éĶ®åŃĹ":118294,"æįIJçĮ®":118295,"ç»Łè®¡æķ°æį®":118296,"åĪĽä½ľèĢħ":118297,"ä¸ĭåįĬ":118298,"ä¸ĭåįĬåľº":118299,"æī¿æĭħ责任":118300,"端æŃ£":118301,"ç©¿è¡£":118302,"ä¼łçIJĥ":118303,"åĬ©éķ¿":118304,"åĩ±":118305,"éķ¶åµĮ":118306,"é£ŀç¿Ķ":118307,"è¾ĵåįµ":118308,"è¾ĵåįµç®¡":118309,"ä¸ĩåħ¬éĩĮ":118310,"æİ¨å¹¿åºĶç͍":118311,"å¿«æ¨Ĥ":118312,"ç§½":118313,"èī°å·¨":118314,"åIJ¬å®Į":118315,"åĿļ硬":118316,"å¥¥åľ°":118317,"å¥¥åľ°åĪ©":118318,"é¢ĵ":118319,"èĻIJå¾ħ":118320,"ä¾Ľæ±Ĥ":118321,"éľīç´ł":118322,"伪è£ħ":118323,"ä¹¡åľŁ":118324,"åĩ¡æľ¬ç½ij":118325,"åĩ¡æľ¬ç½ij注":118326,"ä¼ĬåĪ©":118327,"è¡¡æ°´":118328,"æĽ´åĥıæĺ¯":118329,"åĪĨéĴŁå·¦åı³":118330,"è¦ı模":118331,"äºĶåĪĨéĴŁ":118332,"åºĹåĬłçĽŁ":118333,"åĽ°éĽ£":118334,"åħ³åģľ":118335,"æĢĿ绪":118336,"åĴ½åĸī":118337,"缸符":118338,"çĥ¦èºģ":118339,"æĻĤæľŁ":118340,"åijĪçı¾":118341,"è§£æķ£":118342,"诱导":118343,"éļĶçĥŃ":118344,"çĮ¶":118345,"åįĹå®ĭ":118346,"æ·±åħ¥äºĨè§£":118347,"çŃĶçĸij":118348,"æĺ¼å¤ľ":118349,"åįĥä¼ı":118350,"åĬ³åĬ¡æ´¾éģ£":118351,"红è±Ĩ":118352,"åĿıäºĭ":118353,"çĤ¹æ»´":118354,"å°±ä¸ļå²Ĺä½į":118355,"约åIJĪ":118356,"åħįéϤ":118357,"éĢĨåĬ¿":118358,"éĩįéĩijå±ŀ":118359,"å®ĺ宣":118360,"ä½İå»ī":118361,"æģ¨ä¸įå¾Ĺ":118362,"å¾Ĺ天":118363,"å¾Ĺ天çĭ¬":118364,"å¾Ĺ天çĭ¬åİļ":118365,"ä¸Ģå°ģä¿¡":118366,"æĬ½å¥ĸ":118367,"è¾Ĺ转":118368,"çķĻå®Ī":118369,"çķĻå®ĪåĦ¿ç«¥":118370,"çŃĶåį·":118371,"å·¨åŀĭ":118372,"æľĢ好ä¸įè¦ģ":118373,"æµĻæ±Łå¤§åѦ":118374,"æĨ¨":118375,"æı¡æīĭ":118376,"éĴĪç»ĩ":118377,"æİĴ骨":118378,"çĤ½":118379,"å°ģè£ħ":118380,"åįĢåŁŁ":118381,"空æ°ĶåĩĢåĮĸ":118382,"åħīå½±":118383,"åĢĴå¡Į":118384,"å§ļæĺİ":118385,"æ¤į被":118386,"åѦåīį":118387,"åѦåīįæķĻèĤ²":118388,"èĬĿåĬł":118389,"èĬĿåĬłåĵ¥":118390,"缩水":118391,"ä½Ł":118392,"åľ¨çº¿åĴ¨è¯¢":118393,"èµıæŀIJ":118394,"éĿĴèĽĻ":118395,"æĬ±ä½ı":118396,"èĮĤåIJį":118397,"åħ¨åĬĽæīĵéĢł":118398,"åįļ士åѦä½į":118399,"æ²§å·ŀ":118400,"åĻ¢":118401,"æĿĤçī©":118402,"åĪ»çĶ»":118403,"æįħ":118404,"å¾®éĩı":118405,"å¾®éĩıåħĥç´ł":118406,"ä¸ĢåĽŀäºĭ":118407,"鸡èĤī":118408,"åĪ©æ¶¦çİĩ":118409,"æīįç®Ĺ":118410,"å¾®å¦Ļ":118411,"棵æłij":118412,"贪婪":118413,"åĩıå̼":118414,"梦å¢ĥ":118415,"åı¯è§Ĩ":118416,"åı¯è§ĨåĮĸ":118417,"广大å¸Ĥæ°ij":118418,"ä¸ĵä¸ļä»İäºĭ":118419,"ç»ı纬":118420,"ç´§çĽ¯":118421,"çŁ¥å·±":118422,"è¤ļ":118423,"æĸĩåĮĸåºķèķ´":118424,"åݦéŨå¸Ĥ":118425,"临港":118426,"对åħ¶çľŁå®ŀ":118427,"岸边":118428,"è¦ĸçĤº":118429,"æĬĹçĻĮ":118430,"åĶIJå®ĩ":118431,"ä¸įå¾Ĺè¶ħè¿ĩ":118432,"å¨ģæħij":118433,"æ¡Ĩæŀ¶åįıè®®":118434,"èµ°ç§ģ":118435,"åĽ¢å§Ķ":118436,"夸大":118437,"æ¬Ħ":118438,"ç¥ŀç»ıç³»ç»Ł":118439,"æijĦå½±ä½ľåĵģ":118440,"èĬ¥":118441,"å®īåºĨ":118442,"海滨":118443,"æŀĦæĢĿ":118444,"çĮĤ":118445,"åı©":118446,"éĺIJæĺİ":118447,"éģģ":118448,"精油":118449,"ç©´ä½į":118450,"æĬ¤èº«":118451,"æĬ¤èº«ç¬¦":118452,"æĮĩå°İ":118453,"åŃĺåľ¨ä¸Ģå®ļ":118454,"å¯ĤéĿĻ":118455,"æµ·å¤ĸå¸Ĥåľº":118456,"éĿ¡":118457,"综åIJĪå¾ģ":118458,"ä¿IJ":118459,"è¨Īç®Ĺ":118460,"æĺİæľĹ":118461,"äºļè¿IJ":118462,"äºļè¿IJä¼ļ":118463,"åīįçŀ»æĢ§":118464,"åĮ®ä¹ı":118465,"产ä¸ļæī¶è´«":118466,"èĦijæµ·":118467,"èĦijæµ·ä¸Ń":118468,"åħļçļĦé¢Ĩ导":118469,"åĪĺéĤ¦":118470,"æµģæĺŁ":118471,"æĵĤ":118472,"æĶĢçĻ»":118473,"åĴĶ":118474,"ä¸Ģä¸ĭåŃIJå°±":118475,"è¯Ĭæ²»":118476,"使åĬ²":118477,"åīµä½ľ":118478,"éĵŃè®°":118479,"éĴ±è´¢":118480,"æĹ¥æĬ¥è®°èĢħ":118481,"çĥŁçģ«":118482,"èĥľè´Ł":118483,"åįļ主":118484,"ä¸ŃåĽ½èģĶéĢļ":118485,"ç½ijç«Ļé¦ĸ页":118486,"å°±å¤Ł":118487,"å°±å¤ŁäºĨ":118488,"æīijåħĭ":118489,"å±ħå§Ķä¼ļ":118490,"è°¬":118491,"å®īåħ¨äºĭæķħ":118492,"åķĨçĶ¨è½¦":118493,"循çݯç»ıæµİ":118494,"æ·¤":118495,"èĢĥè¯ģ":118496,"å®ĿèĹı":118497,"å®Įç»ĵ":118498,"çłĶåıijæĬķåħ¥":118499,"å²ij":118500,"æģŃæķ¬":118501,"离éĢĢä¼ij":118502,"水墨":118503,"å©¶":118504,"è¯Ĺåı¥":118505,"å®ģæ³¢å¸Ĥ":118506,"å¼±çĤ¹":118507,"åģľçīĮ":118508,"奶油":118509,"å¥ĩ纳河":118510,"æĨĤ":118511,"社ä¼ļå®ŀè·µ":118512,"è´Ŀ壳":118513,"çłĤæµĨ":118514,"èιåıª":118515,"宣æī¬":118516,"综åIJĪæķ´æ²»":118517,"åĤij":118518,"æ°ijæĹıæĸĩåĮĸ":118519,"éĩįçݰ":118520,"积æ·Ģ":118521,"åħ¬çĦ¶":118522,"çħī":118523,"缸èģļ":118524,"æ±¾":118525,"纹çIJĨ":118526,"çĩĥçħ¤":118527,"æŃ¤ç§į":118528,"ç¾İå¦Ĩ":118529,"åįĥçĵ¦":118530,"çIJĽ":118531,"驾驶è¯ģ":118532,"éĺ¶æ¢¯":118533,"ä¸Ŀä¸Ŀ":118534,"å¾Īå¤ļäºĭæĥħ":118535,"åħīéĺ´":118536,"èijĹä½ľæ¬Ĭ":118537,"åħ§éĥ¨":118538,"çĽ¸å¯¹æĿ¥è¯´":118539,"éĸĴ":118540,"éľĩæħij":118541,"說話":118542,"æĨij":118543,"ç«¥è£ħ":118544,"ä½ıæĪ¿åĴĮ":118545,"ä½ıæĪ¿åĴĮåŁİ":118546,"å·²ç»ıè¶ħè¿ĩ":118547,"ä¾¦å¯Ł":118548,"çŁ¿çī©":118549,"ä¾Ľå¤§å®¶":118550,"çī¹éĤĢ":118551,"ç¨ĭåºıåijĺ":118552,"çķľçī§ä¸ļ":118553,"æ°ª":118554,"çijª":118555,"åĢĴåľ¨":118556,"åĢĴåľ¨åľ°":118557,"æ¯Ģ":118558,"梯éĺŁ":118559,"æİ¥èijĹ":118560,"æĬĹèıĮ":118561,"è¤ĩ":118562,"ç¬Ļ":118563,"æ¯Ķä¸Ĭå¹´":118564,"鸡汤":118565,"åŃ¦ä¹łæĪIJ绩":118566,"æĸijæĸĵ":118567,"åħĪ导":118568,"åĪĹ举":118569,"è°ĥæŁ¥æĺ¾ç¤º":118570,"æ©«":118571,"ä¹Ŀåįģ":118572,"è°¢éŁµ":118573,"è·¨è¶Ĭå¼ı":118574,"女æĢ§æľĭåıĭ":118575,"èIJ¥åħ»ä»·å̼":118576,"å®ŀè·µç»ıéªĮ":118577,"èĭıå·ŀå¸Ĥ":118578,"çĵ¶åŃIJ":118579,"æĸ°çļĦä¸Ģ":118580,"æĸ°çļĦä¸Ģå¹´":118581,"æĺİæĻ°":118582,"å®łçα":118583,"åŃĹ第":118584,"æľĹ诵":118585,"纳æĸ¯":118586,"éĢĨè¡Į":118587,"è«ĭæĤ¨":118588,"è«ĭæĤ¨æıIJä¾Ľ":118589,"èĥ¸æĢĢ":118590,"第ä¸ĥå±Ĭ":118591,"强壮":118592,"代åŃķ":118593,"æ±¶å·Ŀ":118594,"å®¶åĸ»":118595,"å®¶åĸ»æĪ·":118596,"å®¶åĸ»æĪ·æĻĵ":118597,"èħ®":118598,"åIJ¯è¿ª":118599,"æĹłéļľç¢į":118600,"èĻķçIJĨåıĬ":118601,"æĿ¥åİĨ":118602,"å®ŀåĬ¡":118603,"ä¹Łéļıä¹ĭ":118604,"æĬĢèĥ½åٹè®Ń":118605,"åѤç«ĭ":118606,"åīģ":118607,"éĥ´å·ŀ":118608,"æĶ¶æķĽ":118609,"éł»éģĵ":118610,"èį£å¹¸":118611,"èİ«è¿ĩäºİ":118612,"æŃ¤æĻĤ":118613,"纪å§ĶçĽij":118614,"纪å§ĶçĽijå§Ķ":118615,"缸éĤ»":118616,"åı¦ä¸Ģè¾¹":118617,"çªĴæģ¯":118618,"æľīå¾Īå¤ļç§į":118619,"æ¯ıéĢ¢":118620,"éĹ®ä¸ĸ":118621,"累累":118622,"éĿĴæĺ¥æľŁ":118623,"è·¯åĨµ":118624,"åħĭèݱ":118625,"è¿Ħä»Ĭ为æŃ¢":118626,"æĥĬå¥ĩ":118627,"跨度":118628,"éħ¿éĢł":118629,"åĩĭ":118630,"è¿ijä¸īå¹´":118631,"åĨħ马":118632,"åĨħ马å°Ķ":118633,"æıį":118634,"è¿Ľå±ķæĥħåĨµ":118635,"èĮ§":118636,"æľīåºıæİ¨è¿Ľ":118637,"æĢ»åĨłåĨĽ":118638,"æĪIJ绩åįķ":118639,"éĽ»è©±åıĬ":118640,"ç´§å¯Ĩç»ĵåIJĪ":118641,"åºĬä½į":118642,"é¹Ĭ":118643,"æķ£åıijçĿĢ":118644,"åĭŁèµĦ":118645,"æ°¨éħ¸":118646,"彩ç¥ŀ":118647,"è®Ģåıĸ":118648,"éĩ῏©":118649,"ä¸ŃåŃĺåľ¨çļĦ":118650,"ç¾İéºĹ":118651,"ä¸įæĸŃå¢ŀåĬł":118652,"è½®æµģ":118653,"æİ¥åIJ¬":118654,"年产å̼":118655,"åįĥåħĭ":118656,"æĪĺåľºä¸Ĭ":118657,"çħ§é¡§":118658,"å¹²éĥ¨éĺŁä¼į":118659,"åį°ç«ł":118660,"ä¸Ģèĩ´æĢ§":118661,"è¿ŀå¤ľ":118662,"åħħè£ķ":118663,"é»ijåIJįåįķ":118664,"åĩĢæ°´":118665,"ä¸Ģ大æĹ©":118666,"åĮħ袱":118667,"çĬ¯è§Ħ":118668,"çIJĨè«ĸ":118669,"æŀģæĺĵ":118670,"骸":118671,"å¨ĺå¨ĺ":118672,"åĽ¢åľĨ":118673,"亿åħĥ以ä¸Ĭ":118674,"åĪ©ç͍æĤ¨çļĦ":118675,"带æĿ¥æĽ´å¤ļ":118676,"ä¸Ń央空è°ĥ":118677,"æľĪèĸª":118678,"çĮľæĥ³":118679,"åĪºå®¢":118680,"ä½ľæģ¯":118681,"åįķè°ĥ":118682,"äºĴåĪ©":118683,"å¦Ĥæľīä¾µæĿĥ":118684,"å°ıå·§":118685,"åįģåł°":118686,"åĵĪåĵĪåĵĪåĵĪ":118687,"è¾¹éĻħ":118688,"æłĩè¯Ń":118689,"åĪĩåħ¥çĤ¹":118690,"éĢĨè¢Ń":118691,"è¯ķåīĤ":118692,"绿è±Ĩ":118693,"è®ļ":118694,"åŁºçĿ£å¾Ĵ":118695,"壬":118696,"åħ¨æĺİæĺŁ":118697,"éĢīç§Ģ":118698,"èĪĮå°ĸ":118699,"ä¸įåIJĮç±»åŀĭ":118700,"çĥŁåĽ±":118701,"ç쵿°Ķ":118702,"åĮºç®¡å§Ķä¼ļ":118703,"åĨľåī¯":118704,"åĨľåī¯äº§åĵģ":118705,"èĶļæĿ¥":118706,"沪æĮĩ":118707,"åħ»æ®ĸæĪ·":118708,"æĸĹå¿Ĺ":118709,"é¦ĸé¢Ĩ":118710,"è¡Ģèħ¥":118711,"åĬłç´§":118712,"ä¸Ģèĩ´å¥½è¯Ħ":118713,"第ä¸īèĬĤ":118714,"æī¬å°ĺ":118715,"交éĢļæŀ¢çº½":118716,"鼶ç¢İ":118717,"é»ijæ´ŀ":118718,"çľĭä¸įæĩĤ":118719,"å±ŀå®ŀ":118720,"主åŁİåĮº":118721,"å¨Ľ":118722,"å¨Ľæ¨Ĥ":118723,"ç¬ijæĦı":118724,"èĻ¹æ¡¥":118725,"åIJĦ个çݯèĬĤ":118726,"çķ¥å¾®":118727,"èĢķèĢĺ":118728,"æľ¬åľºæ¯ĶèµĽ":118729,"æĪIJè´¥":118730,"éĢīèĤ¡":118731,"èªŀè¨Ģ":118732,"çŃĶ辩":118733,"èĩªä¹ł":118734,"棺":118735,"ä¸ĩ欧åħĥ":118736,"åģľå·¥":118737,"对åħ¶è¿Ľè¡Į":118738,"积æŀģéħįåIJĪ":118739,"ä¹¾åĿ¤":118740,"å¦ĸæĢª":118741,"èļĮåŁł":118742,"èµĦ产è¯Ħä¼°":118743,"è°ĥçļ®":118744,"éϤå¤ķ":118745,"åĽ´å¢Ļ":118746,"æľįå½¹":118747,"æ·±æ¸Ĭ":118748,"é¢Ħåζ":118749,"çĥ½":118750,"å®ī稳":118751,"建æŀĦ":118752,"çĭĻåĩ»":118753,"主åĭķ註åĨĬ":118754,"éĥ½æľīèĩªå·±":118755,"æİĴåIJį第ä¸Ģ":118756,"麻辣":118757,"çĢļ":118758,"çĥŁèĬ±çĪĨ":118759,"çĥŁèĬ±çĪĨ竹":118760,"èĩªçĦ¶ä¿ĿæĬ¤":118761,"ä»Ļå¢ĥ":118762,"为äºĨéģ¿åħį":118763,"åĨ·åºĵ":118764,"è§£æĶ¾æĢĿæĥ³":118765,"åĪĿäºĮ":118766,"ä½ĵè´´":118767,"é¦ĸå¯Į":118768,"迪æĭľ":118769,"æļĤç¼ĵ":118770,"æĶ¯æĮģåĬĽåº¦":118771,"侦æİ¢":118772,"马åĪº":118773,"åĮĹæ±½":118774,"ç¹ŀ":118775,"è°İè¨Ģ":118776,"éĢ£çºĮ":118777,"å·³":118778,"ä»»ä½ķæĹ¶åĢĻ":118779,"车èģĶç½ij":118780,"åįķ项":118781,"å¸Ńåį·":118782,"建çŃijæĿIJæĸĻ":118783,"ä¸Ńç§ĭèĬĤ":118784,"ç¡ķ士çłĶç©¶":118785,"ç§ģç«ĭ":118786,"åħļåĴĮæĶ¿åºľ":118787,"æľ¬æ¬¡äº¤æĺĵ":118788,"èººåľ¨åºĬä¸Ĭ":118789,"ç½ijåıĭè¯Ħ论":118790,"å¦Ŀ":118791,"害ç¾ŀ":118792,"åħ¬ç«ĭåĮ»éĻ¢":118793,"ä¸ŀ":118794,"çĶŁçī©è´¨":118795,"åºĶéĤĢ":118796,"æĬ½åıĸ":118797,"åĩłå¼ł":118798,"æijĺç¼ĸ":118799,"ç»ĺæľ¬":118800,"详解":118801,"强硬":118802,"æľĢåħĪè¿ĽçļĦ":118803,"æĭĽèĤ¡":118804,"æĭĽèĤ¡ä¹¦":118805,"åįĥæĸ¹":118806,"åįĥæĸ¹çϾ":118807,"åįĥæĸ¹çĻ¾è®¡":118808,"éħįéŁ³":118809,"驾çħ§":118810,"å¾ģæĪĺ":118811,"èªĵè¨Ģ":118812,"æĭľå¸Ī":118813,"æĭľå¸ĪåѦ":118814,"æĭľå¸ĪåѦèīº":118815,"æĬ±åĽ¢":118816,"ç±³ç²ī":118817,"éĿŀ常éĢĤåIJĪ":118818,"èĪªæµ·":118819,"履约":118820,"åįģåħ«æĿ¡":118821,"éĶ»éĢł":118822,"éĩįè¦ģ举æİª":118823,"åıijæĮ¥ä½ľç͍":118824,"æ·ļ":118825,"人社":118826,"人社å±Ģ":118827,"è¯ķçĤ¹å·¥ä½ľ":118828,"éĺľéĺ³":118829,"æ¡ĥåľĴ":118830,"æ°ijä¼ģ":118831,"æ´ģçϽ":118832,"贵宾":118833,"åħ¬ç¤¾":118834,"è§īæĤŁ":118835,"è®°å¿ĨåĬĽ":118836,"æľĥåĵ¡è¨»åĨĬ":118837,"æŃ¤æ¡Ī":118838,"麻çĹ¹":118839,"çıĢ":118840,"æĸ©èİ·":118841,"çĶ·åŃ©åŃIJ":118842,"å±ĢéĻIJäºİ":118843,"åĭĺæŁ¥":118844,"åIJĥ饱":118845,"èĬ¬åħ°":118846,"æ£ķèī²":118847,"ç¦ıç¥ī":118848,"çͳèĬ±":118849,"æµ·çĽĹ":118850,"èĶij":118851,"æĸĩåѸ":118852,"æ´»æĢ§çĤŃ":118853,"缴éĢļ车":118854,"è°¢éĤĢ":118855,"躺çĿĢ":118856,"åľĥ":118857,"æ¯ıæĹ¥ç»ıæµİ":118858,"åħ¬åħ±æĸĩåĮĸ":118859,"讲æķħäºĭ":118860,"å¯Łçľĭ":118861,"æĤłéĹ²":118862,"åľ°åĿª":118863,"æ¶Įçݰåĩº":118864,"é«ĺçŃīéĻ¢æł¡":118865,"èĮĦåŃIJ":118866,"éĺ²åį«":118867,"ä¾ĭè¡Į":118868,"æĺ¾éľ²":118869,"æĸ°å¸¸æĢģ":118870,"ç»Ŀä½³":118871,"å¯Įæ°ij":118872,"以人æ°ij":118873,"以人æ°ij为":118874,"éĤ¢åı°":118875,"å±ķæ¼Ķ":118876,"çϼå¸ĥ":118877,"è´Łè½½":118878,"åģı离":118879,"æ°¸éģł":118880,"éĩįè¦ģåİŁåĽł":118881,"åįıä¼ļä¼ļåijĺ":118882,"é﾿°ij":118883,"çĶŁäº§è½¦éĹ´":118884,"çģµåĬ¨":118885,"两年åīį":118886,"æĸ¹åľĨ":118887,"æ´»ä¸ĭåİ»":118888,"ä¸ĸçķĮè§Ĥ":118889,"éªĹåıĸ":118890,"ç¾İè²Į":118891,"èĥ½çľĭåĩº":118892,"çϼæı®":118893,"è§Ĥå½±":118894,"åīĥ":118895,"åIJĪèµĦåħ¬åı¸":118896,"å©§":118897,"å¹²æĹ±":118898,"åħŃ个æľĪ":118899,"尤为éĩįè¦ģ":118900,"èĤ½":118901,"ç§¦åĽ½":118902,"æīĺç¦ı":118903,"建çŃijå¸Ī":118904,"åįĩ级æĶ¹éĢł":118905,"å°ıé¢Ŀ":118906,"å°ıé¢Ŀ贷款":118907,"两个维æĬ¤":118908,"æĭįæĭį":118909,"åı¯çĸij":118910,"æį¢åıĸ":118911,"æŃ¦å£«":118912,"èµĸ以":118913,"èµĸ以çĶŁåŃĺ":118914,"æĮļ":118915,"殿åłĤ":118916,"èĩªçĦ¶çķĮ":118917,"ç£ģåľº":118918,"å¦Ĥä½ķçľĭå¾ħ":118919,"ä»ĬæĹ¥å¤´æĿ¡":118920,"è¥¿åŁŁ":118921,"èİ·è¯Ħ":118922,"é¢¨æł¼":118923,"ä¿ĦåĽ½":118924,"æīĵæĭ¼":118925,"å®£ä¼łçīĩ":118926,"å¾Īæĸ¹ä¾¿":118927,"ä¾Ľç»Ļä¾§":118928,"纪念ç¢ij":118929,"毫åħĭ":118930,"èĬ³é¦Ļ":118931,"å·¥åķĨéĵ¶è¡Į":118932,"请çĤ¹åĩ»":118933,"缪":118934,"æĹłæķ°æ¬¡":118935,"èį¯å¸Ī":118936,"èħ¸":118937,"游èīĩ":118938,"åĮ¾":118939,"å·¡èĪª":118940,"æ²»çIJĨä½ĵç³»":118941,"èIJ¥éĢłèī¯å¥½":118942,"æ··æ·Ĩ":118943,"éĢļçķħ":118944,"åĬ³ç´¯":118945,"ä»ĵä½į":118946,"å¢ŀéķ·":118947,"éļIJ约":118948,"æĿĤå¿Ĺ社":118949,"åħ»èĤ²":118950,"åı¯èĥ½åıijçĶŁ":118951,"èĢĥ試":118952,"西侧":118953,"åĬłåĢį":118954,"主æĮģåı¬å¼Ģ":118955,"çķ¢ç«Ł":118956,"éĹ®è¯¢":118957,"æµ·æ£ł":118958,"èĹ©":118959,"注æĺİæĿ¥æºIJ":118960,"æ£Ģçĸ«":118961,"请åģĩ":118962,"æĬļæij¸":118963,"èĵĦçĶµæ±ł":118964,"è·Łä¸įä¸Ĭ":118965,"çݰ代社ä¼ļ":118966,"çѹèµĦ":118967,"ä½ĵèĤ²å½©ç¥¨":118968,"延误":118969,"è¾Ľè¾£":118970,"éĿ¢å®¹":118971,"åį°è®°":118972,"çģŃ亡":118973,"ç´łé£Ł":118974,"åħ´èĩ´":118975,"éľĢè¦ģç͍":118976,"éľĢè¦ģç͍åΰ":118977,"å®Ŀå¦Ī":118978,"ç£ĭåķĨ":118979,"éļ¶å±ŀ":118980,"è´¡çĮ®åĬĽéĩı":118981,"åħ¬åħ±èµĦæºIJ":118982,"大éĺª":118983,"åĨĽè®Ń":118984,"æĤ¬å¿µ":118985,"社ä¼ļ稳å®ļ":118986,"å¹²äºĭåĪĽä¸ļ":118987,"æľīæĿ¡ä»¶":118988,"æľīæĿ¡ä»¶çļĦ":118989,"ä¸Ģå¹´ä¸Ģ度":118990,"åİ¥":118991,"强奸":118992,"豪车":118993,"æİĮæŁľ":118994,"æ°´åΩ工ç¨ĭ":118995,"峪":118996,"积æŀģä½ľç͍":118997,"æµ·æ·Ģ":118998,"æµ·æ·ĢåĮº":118999,"çĥŃæĴŃ":119000,"åĿļæĮģä¸įæĩĪ":119001,"åıĮèĦļ":119002,"绣æĪĺ":119003,"ä»»ä½ķ人éĥ½":119004,"åľ°ä¸ĭ室":119005,"åĨ¶çĤ¼":119006,"è°ħè§£":119007,"æ¸Ķèι":119008,"太éĺ³åŁİ":119009,"被æįķ":119010,"计ç®Ĺåύ":119011,"西åĮ»":119012,"èĪĴå¿ĥ":119013,"桦":119014,"éģ²":119015,"åĬij":119016,"è¨Ĺ":119017,"èݺ":119018,"åĸ¬":119019,"çĵ¯":119020,"åĺĺ":119021,"åłķ":119022,"æķĿ":119023,"åij¦":119024,"èĭŀ":119025,"æŃ¹":119026,"æĵ¬":119027,"æ£Ħ":119028,"èε":119029,"奪":119030,"çļĭ":119031,"æĶ¸":119032,"åľ©":119033,"ç¤Ļ":119034,"ç¢ĺ":119035,"éıĪ":119036,"æĦķ":119037,"ç¹³":119038,"èĺ¸":119039,"è²Ĥ":119040,"æ¼²":119041,"æij¹":119042,"æĶĿ":119043,"åŃ¢":119044,"èķŃ":119045,"騰":119046,"æ½¼":119047,"éħ°":119048,"æĴ¥":119049,"蹬":119050,"é¨Ļ":119051,"踹":119052,"éģIJ":119053,"çĺĢ":119054,"èĽ¤":119055,"æĤĸ":119056,"çĴŀ":119057,"ç£IJ":119058,"æİ°":119059,"è¾Ĭ":119060,"å¾ij":119061,"æİĸ":119062,"éģŀ":119063,"éĤ¸":119064,"éĽı":119065,"æĨİ":119066,"æľ½":119067,"çį»":119068,"ç®Ķ":119069,"褶":119070,"æļ¢":119071,"æĺµ":119072,"çıĤ":119073,"æĤ¸":119074,"åģµ":119075,"åĻľ":119076,"壯":119077,"æĴ®":119078,"æģį":119079,"å©ķ":119080,"篱":119081,"éĺĻ":119082,"çīł":119083,"è£ĺ":119084,"è³¢":119085,"éĩľ":119086,"éĵł":119087,"èİĺ":119088,"æ®Ĩ":119089,"çϏ":119090,"è´ı":119091,"ç²±":119092,"å«¡":119093,"åĨ¢":119094,"è¤Ĵ":119095,"æĩĬ":119096,"éľĵ":119097,"塵":119098,"æĭ£":119099,"å»Ł":119100,"飽":119101,"é¢Į":119102,"åļİ":119103,"æ·º":119104,"èĨł":119105,"åİŃ":119106,"åļĩ":119107,"åijĥ":119108,"çĴĭ":119109,"çѱ":119110,"æĭ·":119111,"èį§":119112,"éͰ":119113,"åѰ":119114,"èĵĵ":119115,"èĨ½":119116,"æŀī":119117,"åĸ½":119118,"çĽĶ":119119,"çŃIJ":119120,"ç¾ļ":119121,"èħĮ":119122,"辫":119123,"æ³ĵ":119124,"çͬ":119125,"èŁ²":119126,"åĸª":119127,"å¦ĵ":119128,"è¬Ģ":119129,"çĤĬ":119130,"æĽľ":119131,"æ±IJ":119132,"è´Ī":119133,"èįĢ":119134,"æĬł":119135,"碾":119136,"æ«ĥ":119137,"éŀł":119138,"èijĨ":119139,"祯":119140,"å½Ŀ":119141,"é¦į":119142,"åĮ£":119143,"æľŃ":119144,"åĿĤ":119145,"ä¿ij":119146,"èĵ®":119147,"çijĽ":119148,"æīī":119149,"èĩŁ":119150,"貫":119151,"çİ¥":119152,"æ·¼":119153,"åݲ":119154,"é³Į":119155,"å³Ń":119156,"åijĽ":119157,"é§":119158,"é§IJ":119159,"éģ·":119160,"俪":119161,"æĢĤ":119162,"è¾į":119163,"å±į":119164,"åĭģ":119165,"å¥ļ":119166,"éļħ":119167,"éĴ´":119168,"è¼Ŀ":119169,"宦":119170,"èIJĥ":119171,"çĺĭ":119172,"æĨ¶":119173,"æĤħ":119174,"è¾Ļ":119175,"åijľ":119176,"çłº":119177,"éĢŀ":119178,"æµļ":119179,"éĸ£":119180,"èĸ©":119181,"éĻĭ":119182,"çĤĻ":119183,"èªķ":119184,"丣":119185,"é¹½":119186,"ç±Į":119187,"è´°":119188,"éĭª":119189,"çľ©":119190,"æĴIJ":119191,"èĨº":119192,"éŀĺ":119193,"ç¾²":119194,"窮":119195,"ç´IJ":119196,"æ®´":119197,"纾":119198,"èºį":119199,"ç´ĭ":119200,"çĦĸ":119201,"çĶº":119202,"çī½":119203,"çĤ¯":119204,"ç¼Ķ":119205,"æ¯ĵ":119206,"嬰":119207,"梧":119208,"äºŁ":119209,"è¢ħ":119210,"çįĦ":119211,"è¿¥":119212,"æ¼¾":119213,"çĿij":119214,"績":119215,"é¦ĭ":119216,"é¤ħ":119217,"æ¹Ħ":119218,"æĺĩ":119219,"æŀŃ":119220,"èĸ°":119221,"æŁij":119222,"榻":119223,"åĻĹ":119224,"åĻ´":119225,"棣":119226,"åͧ":119227,"çĨ¹":119228,"輯":119229,"å¢Ł":119230,"é²²":119231,"æĪĽ":119232,"èī¦":119233,"èĬ®":119234,"åĺŁ":119235,"帥":119236,"å¿»":119237,"çĮĿ":119238,"寵":119239,"賦":119240,"èĽ¾":119241,"滾":119242,"çĤķ":119243,"éĵ¬":119244,"èĴ¿":119245,"éĴ¨":119246,"çĥĻ":119247,"ç²ķ":119248,"æĥ¦":119249,"溧":119250,"é¢į":119251,"éħ£":119252,"峦":119253,"ç±ģ":119254,"çĥĥ":119255,"åĨĹ":119256,"åıģ":119257,"缧":119258,"ç½µ":119259,"éĴĹ":119260,"å¬ī":119261,"è°ı":119262,"ç³§":119263,"è¾Ń":119264,"æ·¬":119265,"èŁĴ":119266,"诩":119267,"è¦ĥ":119268,"çĻĸ":119269,"é½Ĵ":119270,"çĪIJ":119271,"ç®į":119272,"ç¼İ":119273,"磺":119274,"诫":119275,"褲":119276,"æĵł":119277,"èIJ¦":119278,"çĿ¬":119279,"è°į":119280,"éĦ°":119281,"æł¾":119282,"é¡ı":119283,"縱":119284,"桨":119285,"éĨ¬":119286,"襲":119287,"讪":119288,"婺":119289,"èįŁ":119290,"åĮĿ":119291,"çĨł":119292,"èĽĬ":119293,"æ¸ļ":119294,"å´½":119295,"鲤":119296,"åķ°":119297,"åĮķ":119298,"ä¸IJ":119299,"讥":119300,"åı½":119301,"åı¼":119302,"çļ¿":119303,"è¿Ĥ":119304,"åIJĨ":119305,"å±¹":119306,"èĩ¼":119307,"讹":119308,"é©®":119309,"纫":119310,"æ±ŀ":119311,"æĬ¡":119312,"èĭĩ":119313,"åIJł":119314,"åIJŃ":119315,"åIJ®":119316,"å²ĸ":119317,"ä½ĥ":119318,"çĭĪ":119319,"åºĩ":119320,"åIJĿ":119321,"éŰ":119322,"æ±¹":119323,"忱":119324,"æĭĦ":119325,"æĭĹ":119326,"èĮī":119327,"èĭĽ":119328,"èĮģ":119329,"çŁ¾":119330,"èĻı":119331,"åij»":119332,"åĴĦ":119333,"å¿¿":119334,"èĤ®":119335,"çĭŀ":119336,"çĸŁ":119337,"çĸĻ":119338,"çĸļ":119339,"æ³ŀ":119340,"å¸ļ":119341,"å±ī":119342,"è¿¢":119343,"驹":119344,"çİ·":119345,"çıĬó":119346,"çıĬół":119347,"çıĬółĦ":119348,"çıĬółĦģ":119349,"æĮİ":119350,"æĭ´":119351,"åŀĽ":119352,"èį¤":119353,"æ®ĥ":119354,"çĽ¹":119355,"åĵĨ":119356,"è´»":119357,"毡":119358,"çĭ°":119359,"çĭ¡":119360,"æŁĴ":119361,"æģĥ":119362,"诬":119363,"è¢Ħ":119364,"诲":119365,"èļ¤":119366,"èĢĻ":119367,"åŁĤ":119368,"æįİ":119369,"æįĮ":119370,"æ¢Ĩ":119371,"éħĮ":119372,"çł¾":119373,"æ®ī":119374,"åĶł":119375,"æĻĮ":119376,"èļ£":119377,"èļª":119378,"èļĵ":119379,"鸯":119380,"åĶģ":119381,"åĶĨ":119382,"åĢĶ":119383,"èĪĢ":119384,"豺":119385,"èĥ°":119386,"鸵":119387,"鸳":119388,"é¦ģ":119389,"ç¾Ķ":119390,"æ¶£":119391,"æ¶ķ":119392,"æĤ¯":119393,"诽":119394,"è°Ĩ":119395,"ç¥Ł":119396,"绢":119397,"æįº":119398,"æį¶":119399,"æį»":119400,"æİĤ":119401,"èıł":119402,"èIJ¤":119403,"éħĹ":119404,"çľ¶":119405,"åķĦ":119406,"èļ¯":119407,"èĽĢ":119408,"åͬ":119409,"帷":119410,"éĵIJ":119411,"éĵĽ":119412,"åģİ":119413,"å¾Ļ":119414,"èĦ¯":119415,"è±ļ":119416,"çĮĸ":119417,"çĹĬ":119418,"æ¶®":119419,"æĥŃ":119420,"æĤ´":119421,"æĥĭ":119422,"è°ļ":119423,"æı©":119424,"æIJĢ":119425,"æIJĶ":119426,"æ¦Ķ":119427,"æ¤Ń":119428,"éĽ³":119429,"åĸ³":119430,"è·Ľ":119431,"èľĵ":119432,"èľĴ":119433,"é¹ĥ":119434,"éĶĦ":119435,"çĶ¥":119436,"çŃı":119437,"çĮ©":119438,"çĮ¬":119439,"çĮ¾":119440,"çĹ¢":119441,"çĹª":119442,"æĥ°":119443,"çªĺ":119444,"è°¤":119445,"éļĺ":119446,"å©¿":119447,"é¹ī":119448,"çijĻ":119449,"æĸŁ":119450,"椿":119451,"éħª":119452,"éĽ¹":119453,"åŦ":119454,"è··":119455,"è·º":119456,"è·¤":119457,"èľĪ":119458,"èľĹ":119459,"å¹Į":119460,"é¦ı":119461,"èªĬ":119462,"æ¼ĵ":119463,"è¤Ĥ":119464,"èĶĹ":119465,"èͼ":119466,"åħ¢":119467,"裳":119468,"èľ»":119469,"èĿĩ":119470,"åĺĢ":119471,"é͹":119472,"ç®ķ":119473,"箩":119474,"çĺ©":119475,"çĺŁ":119476,"æ¼±":119477,"寥":119478,"骡":119479,"æĴµ":119480,"æĴ¬":119481,"è±Į":119482,"åĺ¹":119483,"èĿł":119484,"èĿĮ":119485,"èĿĹ":119486,"èĿĻ":119487,"éķIJ":119488,"稼":119489,"ç¯ĵ":119490,"èĨĽ":119491,"鲫":119492,"çĺª":119493,"鲨":119494,"æĨĶ":119495,"ç¿©":119496,"褥":119497,"ç¼Ń":119498,"åĻ©":119499,"çĵ¢":119500,"éľİ":119501,"踱":119502,"è¹Ĥ":119503,"èŁĨ":119504,"鹦":119505,"篡":119506,"çĺ¸":119507,"窿":119508,"ç¼°":119509,"èĹIJ":119510,"è¹ĭ":119511,"èŁĭ":119512,"èŁĢ":119513,"赡":119514,"èĩĬ":119515,"é³Ħ":119516,"ç³ł":119517,"æĩ¦":119518,"åļ£":119519,"éķ°":119520,"é³į":119521,"ç°¸":119522,"çĻ£":119523,"é³ĸ":119524,"é¬ĵ":119525,"èłķ":119526,"éľ¹":119527,"èºı":119528,"黯":119529,"çĵ¤":119530,"çŁĹ":119531,"ä¹Ĥ":119532,"ä¹ľ":119533,"åħĢ":119534,"å¼ĭ":119535,"åŃij":119536,"åŃĵ":119537,"幺":119538,"äºĵ":119539,"廿":119540,"ä¸ı":119541,"åįħ":119542,"ä»ĥ":119543,"ä»ī":119544,"ä»Ĥ":119545,"åĪĪ":119546,"çĪ»":119547,"åįŀ":119548,"éĹ©":119549,"讣":119550,"夬":119551,"çĪ¿":119552,"æ¯ĭ":119553,"éĤĹ":119554,"éĤĽ":119555,"èī½":119556,"èī¿":119557,"åıµ":119558,"ä¸ķ":119559,"åĮľ":119560,"åĬ¢":119561,"åįŁ":119562,"åı±":119563,"åı»":119564,"仨":119565,"代":119566,"仡":119567,"仫":119568,"ä»ŀ":119569,"åį®":119570,"æ°IJ":119571,"çĬ°":119572,"åĪį":119573,"éĤĿ":119574,"éĤĻ":119575,"讦":119576,"è®§":119577,"讫":119578,"å°»":119579,"éĺ¡":119580,"å°ķ":119581,"å¼ģ":119582,"èĢĴ":119583,"çİİ":119584,"çİij":119585,"åľ¬":119586,"æī¦":119587,"åľª":119588,"åľ¹":119589,"æīª":119590,"åľ®":119591,"åľ¯":119592,"èĬĬ":119593,"èĬį":119594,"èĬĦ":119595,"èĬ¨":119596,"èĬij":119597,"èĬİ":119598,"èĬĹ":119599,"äºĺ":119600,"åİį":119601,"夼":119602,"æĪį":119603,"å°¥":119604,"乩":119605,"æĹ¯":119606,"æĽ³":119607,"å²Į":119608,"屺":119609,"åĩ¼":119610,"åĽ¡":119611,"éĴĩ":119612,"ç¼¶":119613,"æ°ĺ":119614,"æ°ĸ":119615,"çīĿ":119616,"ä¼İ":119617,"ä¼Ľ":119618,"ä¼¢":119619,"佤":119620,"仵":119621,"ä¼¥":119622,"ä¼§":119623,"ä¼ī":119624,"伫":119625,"åĽŁ":119626,"æ±Ĩ":119627,"åĪĸ":119628,"å¤Ļ":119629,"æĹ®":119630,"åĪİ":119631,"çĬ·":119632,"çĬ¸":119633,"èĪĽ":119634,"åĩ«":119635,"éĤ¬":119636,"饧":119637,"æ±Ķ":119638,"æ±ľ":119639,"æ±Ĭ":119640,"å¿ĸ":119641,"å¿ı":119642,"è®´":119643,"讵":119644,"è®·":119645,"èģ¿":119646,"èī®":119647,"åݾ":119648,"å¦ģ":119649,"纡":119650,"纣":119651,"纥":119652,"纨":119653,"çİķ":119654,"çİĻ":119655,"æĬŁ":119656,"æĬĶ":119657,"åľ»":119658,"åĿį":119659,"æĬĥ":119660,"ã§IJ":119661,"èĬ«":119662,"èĬ¾":119663,"èĭĪ":119664,"èĭ£":119665,"èĭĭ":119666,"èĬ¼":119667,"èĭĮ":119668,"èĭģ":119669,"èĬ©":119670,"èĬª":119671,"èĬ¡":119672,"èĬŁ":119673,"èĭĦ":119674,"èĭİ":119675,"èĭ¡":119676,"æĿĮ":119677,"æĿĵ":119678,"æĿĪ":119679,"å¿ij":119680,"åŃĽ":119681,"éĤ´":119682,"éĤ³":119683,"å¥ģ":119684,"è±ķ":119685,"å¿Ĵ":119686,"欤":119687,"轫":119688,"è¿ĵ":119689,"éĤ¶":119690,"å¿IJ":119691,"åį£":119692,"éĤº":119693,"æĹ°":119694,"åijĭ":119695,"åijĴ":119696,"åijĵ":119697,"åijĶ":119698,"åijĸ":119699,"æĹ¸":119700,"åIJ¡":119701,"èϬ":119702,"åIJ½":119703,"åIJ£":119704,"åIJ²":119705,"å¸ı":119706,"å²Ī":119707,"å²ĺ":119708,"åħķ":119709,"åĽµ":119710,"åĽ«":119711,"éĴĬ":119712,"éĴĭ":119713,"éĴĮ":119714,"è¿ķ":119715,"æ°Ļ":119716,"æ°ļ":119717,"çī¤":119718,"ä½ŀ":119719,"ä½ļ":119720,"ä½Ŀ":119721,"ä½Ĺ":119722,"å½·":119723,"ä½ĺ":119724,"ä½¥":119725,"豸":119726,"åĿĮ":119727,"èĤŁ":119728,"å¥Ĥ":119729,"åĬ¬":119730,"çĭģ":119731,"鸳":119732,"饨":119733,"饩":119734,"饫":119735,"饬":119736,"åºij":119737,"åºĭ":119738,"çĸĶ":119739,"çĸĸ":119740,"èĤĵ":119741,"éű":119742,"éĹ³":119743,"çĤĢ":119744,"æ²£":119745,"æ²ħ":119746,"æ²Ķ":119747,"沤":119748,"æ²ı":119749,"æ²ļ":119750,"汩":119751,"汨":119752,"沨":119753,"æ±´":119754,"æ²Ĩ":119755,"沩":119756,"æ³IJ":119757,"æĢĥ":119758,"æĢĦ":119759,"å¿¡":119760,"忤":119761,"忾":119762,"æĢħ":119763,"忪":119764,"æĢĨ":119765,"å¿Ń":119766,"忸":119767,"è¯Ĥ":119768,"è¯ĥ":119769,"è¯ħ":119770,"è¯ĭ":119771,"è¯Į":119772,"è¯Ĵ":119773,"éĻĤ":119774,"éĻī":119775,"妩":119776,"妪":119777,"妣":119778,"å¦Ĺ":119779,"妫":119780,"å§Ĵ":119781,"妤":119782,"åĬŃ":119783,"åĪŃ":119784,"éĤ°":119785,"çºŃ":119786,"纰":119787,"纴":119788,"çİ¡":119789,"çİŃ":119790,"çİł":119791,"çİ¢":119792,"çݦ":119793,"çĽĤ":119794,"å¿Ŀ":119795,"åĮ¦":119796,"åĿ©":119797,"æĬ¨":119798,"æĭ¤":119799,"åĿ«":119800,"æĭĪ":119801,"åŀĨ":119802,"æĬ»":119803,"åĬ¼":119804,"æĭĥ":119805,"æĭĬ":119806,"åĿ¼":119807,"åĿ»":119808,"ã§Ł":119809,"åĿ¨":119810,"åĿŃ":119811,"æĬ¿":119812,"åĿ³":119813,"èĭ·":119814,"èĭ¤":119815,"èĮı":119816,"èĭ«":119817,"èĭľ":119818,"èĭ´":119819,"èĭĴ":119820,"èĭĺ":119821,"èĮĮ":119822,"èĭ»":119823,"èĭĵ":119824,"èĮļ":119825,"èĮĨ":119826,"èĮij":119827,"èĮĵ":119828,"èĮĶ":119829,"èĮķ":119830,"èĮĢ":119831,"èĭķ":119832,"æŀ¥":119833,"æŀĩ":119834,"æĿª":119835,"æĿ³":119836,"æŀ§":119837,"æĿµ":119838,"æŀ¨":119839,"æŀŀ":119840,"æŀĭ":119841,"æĿ»":119842,"æĿ·":119843,"æĿ¼":119844,"磸":119845,"çłĢ":119846,"åγ":119847,"å¥Ħ":119848,"æ®ģ":119849,"éĥı":119850,"è½Ń":119851,"éĥħ":119852,"鸢":119853,"缱":119854,"æĺĻ":119855,"æĿ²":119856,"æĺĥ":119857,"åĴĤ":119858,"åij¸":119859,"æĺĢ":119860,"æĹ»":119861,"æĺī":119862,"çĤħ":119863,"çķĢ":119864,"èĻ®":119865,"åĴĢ":119866,"åij·":119867,"黾":119868,"åij±":119869,"åij¤":119870,"åĴĨ":119871,"åĴĽ":119872,"åij¶":119873,"åij£":119874,"åĴĿ":119875,"å²¢":119876,"岿":119877,"岬":119878,"岫":119879,"å¸Ļ":119880,"å²£":119881,"å³ģ":119882,"åĪ¿":119883,"å²·":119884,"åīĢ":119885,"å¸Ķ":119886,"å³Ħ":119887,"æ²ĵ":119888,"åĽ¹":119889,"ç½Ķ":119890,"éĴį":119891,"éĴİ":119892,"éĴı":119893,"éĴĴ":119894,"éĴķ":119895,"éĤ¾":119896,"è¿®":119897,"çī¦":119898,"竺":119899,"迤":119900,"ä½¶":119901,"ä¾ij":119902,"ä¾ī":119903,"èĩ¾":119904,"ä¾Ĺ":119905,"ä¾ı":119906,"侩":119907,"ä½»":119908,"ä½¾":119909,"侪":119910,"ä½¼":119911,"佯":119912,"侬":119913,"å¸Ľ":119914,"ä¾Ķ":119915,"å¾Ĥ":119916,"åν":119917,"éĥĦ":119918,"ç±´":119919,"çĵ®":119920,"æĪĹ":119921,"èĤ¼":119922,"äıĿ":119923,"èĤ±":119924,"èĤ«":119925,"è¿©":119926,"éĥĩ":119927,"çĭİ":119928,"çĭį":119929,"çĭĴ":119930,"åĴİ":119931,"饯":119932,"饴":119933,"åĨ½":119934,"åĨ¼":119935,"åºĸ":119936,"çĸł":119937,"çĸĿ":119938,"åħĸ":119939,"åĬ¾":119940,"ð¬ī":119941,"ð¬ī¼":119942,"çĤĺ":119943,"çĤĿ":119944,"çĤĶ":119945,"æ³Ķ":119946,"æ²Ń":119947,"æ³·":119948,"æ³±":119949,"æ³ħ":119950,"æ³ł":119951,"泺":119952,"æ³ĸ":119953,"泫":119954,"æ³®":119955,"æ²±":119956,"泯":119957,"æĢĻ":119958,"æĢµ":119959,"æĢ¦":119960,"æĢĽ":119961,"æĢı":119962,"æĢį":119963,"ã¤":119964,"ã¤ĺ":119965,"æĢ©":119966,"æĢ«":119967,"æĢ¿":119968,"å®ķ":119969,"穹":119970,"å®ĵ":119971,"è¯ĵ":119972,"è¯Ķ":119973,"è¯ĸ":119974,"è¯ĺ":119975,"æĪ¾":119976,"è¯Ļ":119977,"æĪ½":119978,"éĥĵ":119979,"è¡©":119980,"ç¥Ĩ":119981,"ç¥İ":119982,"ç¥ĩ":119983,"è¯ľ":119984,"è¯Ł":119985,"诣":119986,"诤":119987,"诧":119988,"诨":119989,"æĪķ":119990,"éĻĶ":119991,"妲":119992,"妯":119993,"å§Ĺ":119994,"å¸ij":119995,"åŃ¥":119996,"驽":119997,"èϱ":119998,"迨":119999,"ç»Ģ":120000,"ç»ģ":120001,"ç»Ĥ":120002,"é©·":120003,"驸":120004,"ç»ī":120005,"ç»Į":120006,"éªĢ":120007,"ç;":120008,"çıı":120009,"çıIJ":120010,"çıij":120011,"çݳ":120012,"顸":120013,"çıī":120014,"çıĪ":120015,"æĭ®":120016,"åŀŃ":120017,"æĮĿ":120018,"æĮŀ":120019,"åŀ¤":120020,"èµ³":120021,"è´²":120022,"åŀ±":120023,"åŀĮ":120024,"åŀ§":120025,"åŀĵ":120026,"æĮ¦":120027,"åŀł":120028,"èįļ":120029,"èįij":120030,"è´³":120031,"èįľ":120032,"èİĴ":120033,"èĮ¼":120034,"èĮ´":120035,"èĮ±":120036,"èİĽ":120037,"èįŀ":120038,"èĮ¯":120039,"èįı":120040,"èįĩ":120041,"èįĥ":120042,"èįł":120043,"èĮŃ":120044,"åŀ©":120045,"èį¥":120046,"èį¦":120047,"èį¨":120048,"èį©":120049,"åīĭ":120050,"èįª":120051,"èį¬":120052,"èį®":120053,"æŁ°":120054,"æłī":120055,"æŁĺ":120056,"æłĬ":120057,"æŁ©":120058,"æŀ°":120059,"æłĮ":120060,"æŁĻ":120061,"æŀµ":120062,"æŀ³":120063,"æŁŀ":120064,"æŁĿ":120065,"æłĢ":120066,"æŁ¢":120067,"æłİ":120068,"æŁĪ":120069,"æŁģ":120070,"æŀ·":120071,"æŁ½":120072,"åīĮ":120073,"éħĬ":120074,"éĥ¦":120075,"çĶŃ":120076,"çłĹ":120077,"çłĺ":120078,"çłĴ":120079,"æĸ«":120080,"çłŃ":120081,"çłľ":120082,"èĢ·":120083,"èĻº":120084,"æ®Ĥ":120085,"æ®ĩ":120086,"æ®Ħ":120087,"è½±":120088,"è½²":120089,"è½³":120090,"è½¶":120091,"轸":120092,"èĻ¿":120093,"æ¯ĸ":120094,"è§ĩ":120095,"å°ľ":120096,"åĵIJ":120097,"çľĦ":120098,"çľį":120099,"ðł³":120100,"ðł³IJ":120101,"éĥ¢":120102,"çľĩ":120103,"çľĬ":120104,"çľĪ":120105,"禺":120106,"åĵĤ":120107,"åĴ´":120108,"æĽ·":120109,"æĺ´":120110,"åĴ¦":120111,"åĵĵ":120112,"åĵĶ":120113,"çķİ":120114,"åij²":120115,"èĥĦ":120116,"çķĭ":120117,"çķĪ":120118,"èϼ":120119,"èĻ»":120120,"çĽħ":120121,"åĴ£":120122,"åĵķ":120123,"åīIJ":120124,"éĥ§":120125,"åĴ»":120126,"åĽ¿":120127,"åĴ¿":120128,"åĵĮ":120129,"åĵĻ":120130,"åĵļ":120131,"åĴ©":120132,"åĴ¤":120133,"åĵĿ":120134,"åĵı":120135,"åĵŀ":120136,"å³£":120137,"ç½ĺ":120138,"å³Ĵ":120139,"峤":120140,"å³ĭ":120141,"è´¶":120142,"éĴļ":120143,"éĴ¡":120144,"éĴ£":120145,"éĴ¤":120146,"éĴ«":120147,"æ°¡":120148,"çī¯":120149,"éĥľ":120150,"ç§ķ":120151,"ç§Ń":120152,"竽":120153,"ç¬Ī":120154,"俦":120155,"俨":120156,"ä¿ħ":120157,"åıŁ":120158,"åŀ¡":120159,"çī®":120160,"ä¿£":120161,"ä¿ļ":120162,"çļĪ":120163,"ä¿Ł":120164,"éĢħ":120165,"å¾ĩ":120166,"å¾ī":120167,"èĪ¢":120168,"éĥĹ":120169,"ä¿İ":120170,"éĥ¤":120171,"çΰ":120172,"éĥĽ":120173,"çĵ´":120174,"èĥ¨":120175,"èĥª":120176,"èĥĽ":120177,"èĥĤ":120178,"èĥĻ":120179,"èĥį":120180,"èĥĹ":120181,"èĥĿ":120182,"æľIJ":120183,"èĥ«":120184,"鸨":120185,"åĮį":120186,"çĭ¨":120187,"çĭ¯":120188,"é£ij":120189,"çĭ©":120190,"çĭ²":120191,"è¨ĩ":120192,"éĢĦ":120193,"æĺĿ":120194,"饷":120195,"饸":120196,"饹":120197,"åŃª":120198,"å¨Ī":120199,"庥":120200,"çĸ¬":120201,"çĸ£":120202,"çĸ¥":120203,"çĸŃ":120204,"åºł":120205,"ç«ij":120206,"é£Ĵ":120207,"éĹ¼":120208,"éĹ¾":120209,"éĹ¿":120210,"éĺĤ":120211,"ç¾ij":120212,"迸":120213,"ç±¼":120214,"éħĭ":120215,"çĤ»":120216,"çĥĢ":120217,"çĤ·":120218,"æ´±":120219,"æ´¹":120220,"æ´§":120221,"æ´Į":120222,"æµĥ":120223,"æ´ĩ":120224,"æ´Ħ":120225,"æ´Ļ":120226,"æ¶İ":120227,"æ´İ":120228,"æ´«":120229,"æµį":120230,"æ´®":120231,"æ´µ":120232,"æµĴ":120233,"æµĶ":120234,"æµķ":120235,"æ´³":120236,"æģ¸":120237,"æģĵ":120238,"æģ¹":120239,"æģ«":120240,"æģ»":120241,"æģĤ":120242,"æģª":120243,"æģ½":120244,"宥":120245,"æīĥ":120246,"衲":120247,"衽":120248,"è¡¿":120249,"è¢Ĥ":120250,"ç¥ľ":120251,"ç¥ĵ":120252,"ç¥ļ":120253,"诮":120254,"ç¥Ĺ":120255,"祢":120256,"诰":120257,"诳":120258,"鸩":120259,"æĺ¶":120260,"åĴ«":120261,"å¼Ń":120262,"çīģ":120263,"èĥ¥":120264,"éĻŁ":120265,"å§®":120266,"å¨Ĩ":120267,"å§Ŀ":120268,"å§£":120269,"å§ĺ":120270,"å§¹":120271,"羿":120272,"çĤ±":120273,"磾":120274,"ç»Ķ":120275,"éªģ":120276,"éªħ":120277,"ç»Ĺ":120278,"综":120279,"éªĪ":120280,"èĢĸ":120281,"æĮĪ":120282,"çı¥":120283,"çıĻ":120284,"顼":120285,"çı°":120286,"çı©":120287,"çı§":120288,"çı£":120289,"çıŀ":120290,"çIJ¤":120291,"çı²":120292,"æģļ":120293,"åŁķ":120294,"åŁĺ":120295,"åŁĻ":120296,"åŁļ":120297,"æĮ¹":120298,"èĢĨ":120299,"èĢĦ":120300,"åŁĴ":120301,"æįĭ":120302,"è´½":120303,"åŀ¸":120304,"æįĥ":120305,"çĽį":120306,"èį¸":120307,"èݳ":120308,"èİ´":120309,"èݪ":120310,"èİł":120311,"èİľ":120312,"èİħ":120313,"èį¼":120314,"èİ©":120315,"èį½":120316,"èݸ":120317,"èį»":120318,"èݨ":120319,"鸪":120320,"èݼ":120321,"æł²":120322,"æł³":120323,"æ¡¡":120324,"æ¡İ":120325,"æ¡¢":120326,"桤":120327,"æ¢ĥ":120328,"æłĿ":120329,"æ¡ķ":120330,"æ¡ģ":120331,"æ¡§":120332,"æ¡ħ":120333,"æłŁ":120334,"æ¡ī":120335,"æł©":120336,"éĢij":120337,"éĢĭ":120338,"å½§":120339,"鬲":120340,"è±ĩ":120341,"éħIJ":120342,"é̦":120343,"åİĿ":120344,"åѬ":120345,"çłĿ":120346,"çł¹":120347,"çł§":120348,"çł·":120349,"糣":120350,"çł¼":120351,"çł¥":120352,"çł£":120353,"åīŀ":120354,"çł»":120355,"è½¼":120356,"è½¾":120357,"è¾Ĥ":120358,"鸫":120359,"趸":120360,"é¾Ģ":120361,"鸬":120362,"èĻĶ":120363,"羬":120364,"åĶĽ":120365,"çľĻ":120366,"åĵ§":120367,"åĵ½":120368,"æĻģ":120369,"鸮":120370,"è¶µ":120371,"è¶¿":120372,"çķĽ":120373,"èļ¨":120374,"èļľ":120375,"èļį":120376,"èļĭ":120377,"èļ¬":120378,"èļĿ":120379,"èļ§":120380,"åĶ¢":120381,"åľĦ":120382,"åĶ£":120383,"åĶı":120384,"çĽİ":120385,"åĶij":120386,"å´Ĥ":120387,"å´ĥ":120388,"罡":120389,"ç½Ł":120390,"è§Ĭ":120391,"èµħ":120392,"éĴ²":120393,"éĴµ":120394,"éĴ¹":120395,"éĴº":120396,"éĴ½":120397,"éĴ¼":120398,"éĴ¿":120399,"éĵĢ":120400,"éĵĦ":120401,"éĵĨ":120402,"éĵĪ":120403,"éĵī":120404,"éĵĬ":120405,"éĵĭ":120406,"éĵĮ":120407,"éĵį":120408,"ä¥":120409,"䥽":120410,"éĵİ":120411,"æ°©":120412,"æ°¤":120413,"æ°¦":120414,"毪":120415,"èĪIJ":120416,"ç§£":120417,"ç§«":120418,"çĽī":120419,"ç¬Ħ":120420,"ç¬ķ":120421,"ç¬Ĭ":120422,"ç¬ı":120423,"ç¬Ĩ":120424,"俸":120425,"俵":120426,"åģĮ":120427,"俳":120428,"ä¿¶":120429,"å̬":120430,"åĢı":120431,"æģģ":120432,"åĢŃ":120433,"俾":120434,"åĢľ":120435,"éļ¼":120436,"éļ½":120437,"åĢĮ":120438,"åĢ¥":120439,"èĩ¬":120440,"éĥ«":120441,"å̍":120442,"è¡Ħ":120443,"é¢Ģ":120444,"å¾ķ":120445,"èĪ«":120446,"衾":120447,"èĥ¯":120448,"èĥ±":120449,"èĥ´":120450,"èĥŃ":120451,"èĦį":120452,"èĥ¼":120453,"èĦĴ":120454,"鸱":120455,"鸲":120456,"çĭ·":120457,"çĮģ":120458,"çĭ³":120459,"çĮĥ":120460,"çĭº":120461,"éĢĸ":120462,"æ¡Ģ":120463,"饽":120464,"åĩĩ":120465,"æĮĽ":120466,"亳":120467,"çĸ³":120468,"çĸ´":120469,"çĸ¸":120470,"çĸ½":120471,"çĹĪ":120472,"çĸ±":120473,"çĹĤ":120474,"çĹī":120475,"è¡®":120476,"é¢ĥ":120477,"æģ£":120478,"æĹĨ":120479,"æĹĦ":120480,"æĹĥ":120481,"éĺĥ":120482,"éĺĦ":120483,"è¨ļ":120484,"éĺĨ":120485,"æģĻ":120486,"ç²ij":120487,"çĥľ":120488,"çĥ©":120489,"çĥĬ":120490,"åī¡":120491,"éĥ¯":120492,"çĥ¬":120493,"æ¶ij":120494,"浯":120495,"æ¶ŀ":120496,"æ¶Ł":120497,"å¨ij":120498,"æ¶ł":120499,"æµŀ":120500,"æ¶ĵ":120501,"æµ¥":120502,"æ¶Ķ":120503,"æµľ":120504,"æµł":120505,"æµ£":120506,"æĤļ":120507,"æĤŃ":120508,"æĤĿ":120509,"æĤĴ":120510,"æĤĮ":120511,"æĤĽ":120512,"çªĪ":120513,"åīľ":120514,"诹":120515,"诼":120516,"è¢Ĵ":120517,"袢":120518,"诿":120519,"è°Ģ":120520,"è°Ĥ":120521,"è°Ħ":120522,"è°ĩ":120523,"å±IJ":120524,"å±Ļ":120525,"éϬ":120526,"åĭIJ":120527,"å¥ĺ":120528,"çīĤ":120529,"èļ©":120530,"éϲ":120531,"å¨Į":120532,"å¨ī":120533,"娲":120534,"娴":120535,"娣":120536,"å¨ĵ":120537,"å©Ģ":120538,"çķļ":120539,"éĢ¡":120540,"绳":120541,"éªĬ":120542,"绡":120543,"éªĭ":120544,"绦":120545,"绨":120546,"éªİ":120547,"éĤķ":120548,"鸶":120549,"å½Ĺ":120550,"èĢľ":120551,"çĦĺ":120552,"èĪĤ":120553,"çIJı":120554,"çIJĩ":120555,"麸":120556,"æı¶":120557,"åŁ´":120558,"åŁ¯":120559,"æį¯":120560,"æİ³":120561,"æİ´":120562,"åŁ¸":120563,"åŁµ":120564,"èµ§":120565,"åŁ¤":120566,"æįŃ":120567,"é̵":120568,"åŁĿ":120569,"åłĭ":120570,"åłį":120571,"æİ¬":120572,"鸷":120573,"æį½":120574,"æİĬ":120575,"åłī":120576,"æİ¸":120577,"æį©":120578,"æİ®":120579,"æĤ«":120580,"åŁŃ":120581,"åŁ½":120582,"æİĩ":120583,"æİ¼":120584,"èģĥ":120585,"èIJģ":120586,"èıĺ":120587,"åłĩ":120588,"èIJĺ":120589,"èIJĭ":120590,"èı½":120591,"èıĸ":120592,"èIJľ":120593,"èIJ¸":120594,"èIJij":120595,"棻":120596,"èıĶ":120597,"èıŁ":120598,"èIJı":120599,"èı¹":120600,"èıª":120601,"èıħ":120602,"èıĢ":120603,"èı°":120604,"èı¡":120605,"梿":120606,"æ¢ı":120607,"è§ĭ":120608,"æ¡´":120609,"æ¡·":120610,"æ£ģ":120611,"æ¡«":120612,"æ£Ĥ":120613,"åķ¬":120614,"éĥ¾":120615,"æķķ":120616,"è±ī":120617,"éĦĦ":120618,"éħŀ":120619,"ç¡İ":120620,"ç¡Ń":120621,"ç¡ĸ":120622,"ç¡Ĺ":120623,"ç¡IJ":120624,"ç¡ĩ":120625,"ç¡Į":120626,"鸸":120627,"çĵł":120628,"åĮı":120629,"åİ©":120630,"æ®Ĵ":120631,"æ®ĵ":120632,"æ®į":120633,"èµī":120634,"鼩":120635,"è¾Ħ":120636,"åłij":120637,"çľŃ":120638,"羦":120639,"åķ§":120640,"æĻ¡":120641,"æĻ¤":120642,"çľµ":120643,"åľĬ":120644,"åĸı":120645,"åķī":120646,"åĭĸ":120647,"æĻŀ":120648,"å͵":120649,"æĻĹ":120650,"åķŃ":120651,"çķ¦":120652,"趺":120653,"åķ®":120654,"è·Ħ":120655,"èļ¶":120656,"èĽĦ":120657,"èĽİ":120658,"èĽĨ":120659,"èļ°":120660,"åľī":120661,"èļ±":120662,"èĽī":120663,"èĽı":120664,"èļ´":120665,"åķģ":120666,"åķķ":120667,"åĶ¿":120668,"åķIJ":120669,"åͼ":120670,"åĶ·":120671,"åķĸ":120672,"åķµ":120673,"åķ¶":120674,"åķ·":120675,"åͳ":120676,"åͰ":120677,"åķľ":120678,"帻":120679,"å´ļ":120680,"å´¦":120681,"帼":120682,"å´®":120683,"å´¤":120684,"å´Ĩ":120685,"èµĩ":120686,"èµĪ":120687,"èµĬ":120688,"éĵij":120689,"éĵĴ":120690,"éĵĹ":120691,"éĵĻ":120692,"éĵŁ":120693,"éĵ¡":120694,"éĵ¢":120695,"éĵ£":120696,"éĵ¤":120697,"éĵ§":120698,"éĵ¨":120699,"éĵ©":120700,"éĵª":120701,"éĵ«":120702,"éĵ¯":120703,"éĵ°":120704,"éĵ±":120705,"éĵ³":120706,"éĵµ":120707,"éĵ·":120708,"çī¾":120709,"鸹":120710,"ç§¾":120711,"é̶":120712,"笺":120713,"çŃĩ":120714,"笸":120715,"笪":120716,"笮":120717,"笳":120718,"笥":120719,"笤":120720,"笳":120721,"笾":120722,"ç¬ŀ":120723,"åģ¾":120724,"åģĥ":120725,"åģķ":120726,"åģĪ":120727,"åĤĢ":120728,"åģ¬":120729,"åģ»":120730,"çļij":120731,"çļİ":120732,"鸻":120733,"å¾ľ":120734,"èΏ":120735,"èĪ»":120736,"èĪ´":120737,"èĪ·":120738,"é¾Ľ":120739,"ç¿İ":120740,"èĦ¬":120741,"èĦĺ":120742,"èĦ²":120743,"åĮIJ":120744,"çĮĹ":120745,"çĮ¡":120746,"çĮŀ":120747,"æĸĽ":120748,"çĮķ":120749,"é¦Ĺ":120750,"é¦ĥ":120751,"é¦Ħ":120752,"鸾":120753,"庹":120754,"庾":120755,"çĹĶ":120756,"çĹį":120757,"ç¿Ĭ":120758,"æĹĮ":120759,"æĹİ":120760,"袤":120761,"éĺĩ":120762,"éĺĪ":120763,"éĺī":120764,"éĺĬ":120765,"éĺĭ":120766,"éĺį":120767,"éĺı":120768,"ç¾Ł":120769,"ç²Ŀ":120770,"çĦIJ":120771,"çĦĵ":120772,"çĦĹ":120773,"æ·ħ":120774,"æ·ŀ":120775,"æ¸İ":120776,"æ¶¿":120777,"æ·ĸ":120778,"æĮ²":120779,"æ·ł":120780,"涸":120781,"æ¸ij":120782,"æ·¦":120783,"æ·Ŀ":120784,"涪":120785,"æ·Ļ":120786,"æ¶«":120787,"æ¸Į":120788,"æĤ»":120789,"æĤ±":120790,"æĥĿ":120791,"æĥĺ":120792,"æĥĨ":120793,"æĥļ":120794,"æĥĩ":120795,"æĥ®":120796,"çªķ":120797,"è°Į":120798,"æīĪ":120799,"çļ²":120800,"è°ij":120801,"è£Ĩ":120802,"袷":120803,"è£ī":120804,"è°Ĵ":120805,"è°Ķ":120806,"è°ķ":120807,"è°ĸ":120808,"è°Ĺ":120809,"è°Ļ":120810,"è°Ŀ":120811,"é̝":120812,"éĥ¿":120813,"éļĪ":120814,"ç²ľ":120815,"éļį":120816,"éļĹ":120817,"å©Ĭ":120818,"娼":120819,"å©¢":120820,"婵":120821,"èĥ¬":120822,"è¢Ī":120823,"ç¿Į":120824,"æģ¿":120825,"欸":120826,"绫":120827,"éªIJ":120828,"绯":120829,"ç»±":120830,"éªĴ":120831,"绲":120832,"éªĵ":120833,"ç»¶":120834,"绺":120835,"ç»»":120836,"绾":120837,"éªĸ":120838,"ç¼ģ":120839,"èĢł":120840,"çIJ«":120841,"çIJµ":120842,"çIJ¶":120843,"çIJ¥":120844,"çIJ¨":120845,"çIJ°":120846,"çIJ®":120847,"çIJ¯":120848,"çIJ¬":120849,"çIJļ":120850,"è¾ĩ":120851,"é¼ĭ":120852,"æı³":120853,"åłŀ":120854,"æIJ½":120855,"æı¸":120856,"æıł":120857,"åłĻ":120858,"è¶Ħ":120859,"æıĸ":120860,"é¢ī":120861,"å¡Ħ":120862,"æı¿":120863,"èĢĭ":120864,"æıĦ":120865,"èĽ©":120866,"èĽ°":120867,"å¡Ĩ":120868,"æijĴ":120869,"æıĨ":120870,"æİ¾":120871,"èģĴ":120872,"èijij":120873,"èijļ":120874,"éĿ°":120875,"éĿ¸":120876,"èij³":120877,"èijº":120878,"èij¸":120879,"èIJ¼":120880,"èij¶":120881,"èĴĮ":120882,"èijŃ":120883,"楮":120884,"棼":120885,"æ¤Ł":120886,"棹":120887,"椤":120888,"棰":120889,"èµį":120890,"æ¤ĭ":120891,"æ¤ģ":120892,"椪":120893,"æ¤IJ":120894,"é¹ģ":120895,"éħ¤":120896,"éħ¢":120897,"éħ¡":120898,"é¹Ĥ":120899,"æ®ļ":120900,"æ®Ľ":120901,"鼱":120902,"è¾ĭ":120903,"æ¤ł":120904,"è¾İ":120905,"çĿĦ":120906,"çĿĩ":120907,"çĿĥ":120908,"æĪ¢":120909,"åĸĭ":120910,"åĹĴ":120911,"åĸĥ":120912,"åĸ±":120913,"åĸ¹":120914,"æĻ·":120915,"åĸĪ":120916,"è·ĸ":120917,"è·Ĺ":120918,"è·ŀ":120919,"è·ļ":120920,"è·İ":120921,"è·ı":120922,"è·Ĩ":120923,"èĽ±":120924,"èĽ²":120925,"èĽŃ":120926,"èĽ³":120927,"èĽIJ":120928,"èĽĶ":120929,"èĽŀ":120930,"èĽ´":120931,"èĽĺ":120932,"åĸģ":120933,"åĸŁ":120934,"åķ¾":120935,"åĹĸ":120936,"åĸij":120937,"åĹŁ":120938,"åĹŀ":120939,"åĸĻ":120940,"åµĺ":120941,"åµĸ":120942,"å´´":120943,"éģĦ":120944,"è©Ī":120945,"åµİ":120946,"嵬":120947,"åµĽ":120948,"嵯":120949,"åµĿ":120950,"嵫":120951,"å¹Ħ":120952,"åµĭ":120953,"èµķ":120954,"éĵ»":120955,"éĵ¼":120956,"éĵ¿":120957,"éĶĥ":120958,"éĶĨ":120959,"éĶĩ":120960,"éĶī":120961,"éĶı":120962,"éĶij":120963,"éĶĴ":120964,"éĶĶ":120965,"éĶķ":120966,"æİ£":120967,"磬":120968,"æ°°":120969,"毳":120970,"毽":120971,"çĬĬ":120972,"çĬĦ":120973,"çĬĭ":120974,"é¹Ħ":120975,"çĬį":120976,"åµĩ":120977,"é»į":120978,"ç¨ĥ":120979,"ç¨Ĥ":120980,"çŃļ":120981,"çѵ":120982,"çŃĮ":120983,"åĤ£":120984,"åĤĪ":120985,"èĪĦ":120986,"çīį":120987,"åĤ¥":120988,"åĤ§":120989,"éģij":120990,"åĤ©":120991,"徨":120992,"åªŃ":120993,"çķ²":120994,"å¼ij":120995,"ç¿ķ":120996,"é¹Ĩ":120997,"èħĪ":120998,"èħĵ":120999,"èħĨ":121000,"èħ´":121001,"èħļ":121002,"èħ±":121003,"鱿":121004,"é²Ģ":121005,"é²Ĥ":121006,"çĮ¢":121007,"çĮ¹":121008,"çĮ¥":121009,"é£ĵ":121010,"è§ŀ":121011,"è§ļ":121012,"çĮ±":121013,"é¢İ":121014,"飧":121015,"é¦ĩ":121016,"é¦Ĭ":121017,"亵":121018,"èĦĶ":121019,"è£Ĵ":121020,"çĹ£":121021,"çŨ":121022,"çŦ":121023,"çĹŀ":121024,"çŤ":121025,"çŧ":121026,"èµĵ":121027,"竦":121028,"çĵ¿":121029,"åķ»":121030,"é¢ı":121031,"é¹ĩ":121032,"éĺij":121033,"éĺĴ":121034,"éĺķ":121035,"ç²ŀ":121036,"éģĴ":121037,"åѳ":121038,"çĦ¯":121039,"çĦľ":121040,"çĦ±":121041,"é¹Ī":121042,"渫":121043,"æ¹®":121044,"æ¹İ":121045,"æ¹ľ":121046,"æ¹į":121047,"湫":121048,"溲":121049,"æ¹Ł":121050,"æºĨ":121051,"æ¹²":121052,"æ¹Ķ":121053,"æ¹ī":121054,"渥":121055,"æ»ģ":121056,"æĦł":121057,"æĥº":121058,"æĦ¦":121059,"æĥ´":121060,"æĦĢ":121061,"æĦİ":121062,"æĦĶ":121063,"åĸ¾":121064,"å¯IJ":121065,"è°Ł":121066,"裢":121067,"è£İ":121068,"裥":121069,"祾":121070,"è°ł":121071,"è°¡":121072,"è°¥":121073,"è°§":121074,"åѱ":121075,"å¼¼":121076,"å·½":121077,"éªĺ":121078,"媪":121079,"å·¯":121080,"ç¿ļ":121081,"çļ´":121082,"éªĽ":121083,"ç¼Ĥ":121084,"ç¼ĥ":121085,"ç¼Ħ":121086,"å½ĺ":121087,"ç¼ĩ":121088,"ç¼Ī":121089,"ç¼Į":121090,"ç¼ij":121091,"ç¼Ĵ":121092,"ç¼Ĺ":121093,"飨":121094,"èĢ¢":121095,"çijģ":121096,"çijĹ":121097,"çijĦ":121098,"éģ¨":121099,"éªľ":121100,"飫":121101,"é«¡":121102,"塬":121103,"éĦ¢":121104,"è¶Ķ":121105,"è¶ij":121106,"æijħ":121107,"æijģ":121108,"èľĩ":121109,"æIJĭ":121110,"æIJª":121111,"æIJIJ":121112,"æIJĽ":121113,"æIJł":121114,"æijĪ":121115,"å½Ģ":121116,"æ¯Ĥ":121117,"æIJ¦":121118,"æIJ¡":121119,"èĵģ":121120,"æĪ¡":121121,"èĵį":121122,"éĦŀ":121123,"èĵIJ":121124,"èĵ¦":121125,"é¹ĭ":121126,"èĴ½":121127,"èĵĸ":121128,"èĵĬ":121129,"èĴ¯":121130,"èĵŁ":121131,"èĵij":121132,"èĴº":121133,"èĵł":121134,"èĴŁ":121135,"èĴ¡":121136,"èĴ¹":121137,"èĴ´":121138,"èĴĹ":121139,"èĵ¥":121140,"æ¥Ķ":121141,"æ¥Ĥ":121142,"æ¥Ŀ":121143,"楫":121144,"楸":121145,"椴":121146,"æ§Į":121147,"楯":121148,"çļĻ":121149,"æ¦Ī":121150,"æ§İ":121151,"æ¦ī":121152,"楦":121153,"楣":121154,"楹":121155,"椽":121156,"åī½":121157,"éħ©":121158,"èľĥ":121159,"ç¢Ľ":121160,"ç¢ĵ":121161,"硼":121162,"ç¢ī":121163,"ç¢ļ":121164,"ç¢ĩ":121165,"ç¢ľ":121166,"é¹Į":121167,"è¾ı":121168,"é¾ĥ":121169,"é¾ħ":121170,"訾":121171,"ç²²":121172,"çĿļ":121173,"åĹª":121174,"éŁª":121175,"åĹ·":121176,"åĹī":121177,"çĿ¨":121178,"çĿ¢":121179,"éĽİ":121180,"çĿ¥":121181,"åĹij":121182,"åĹ«":121183,"åŬ":121184,"åĹĶ":121185,"åĹĿ":121186,"æĪ¥":121187,"åĹĦ":121188,"çħ¦":121189,"æļĦ":121190,"éģ¢":121191,"æļĮ":121192,"è·¬":121193,"è·¶":121194,"è·¸":121195,"è·IJ":121196,"è·£":121197,"è·¹":121198,"èĽ¸":121199,"èľĬ":121200,"èľį":121201,"èľī":121202,"èľ£":121203,"çķ¹":121204,"èĽ¹":121205,"åĹ¥":121206,"åĹ²":121207,"åĹ³":121208,"åĹĮ":121209,"åĹį":121210,"åĹIJ":121211,"åŤ":121212,"åŵ":121213,"罨":121214,"åµĬ":121215,"åµ´":121216,"骰":121217,"éĶĹ":121218,"éĶĽ":121219,"éĶľ":121220,"éĶĿ":121221,"éĶŀ":121222,"éĶŁ":121223,"éĶ¢":121224,"é͍":121225,"éĶ©":121226,"éĶŃ":121227,"éͱ":121228,"éĽī":121229,"æ°²":121230,"çĬı":121231,"æŃĥ":121232,"ç¨ŀ":121233,"ç¨Ĺ":121234,"ç¨Ķ":121235,"çŃł":121236,"çŃ¢":121237,"çŃ®":121238,"çѲ":121239,"çīĴ":121240,"æķ«":121241,"å¾Ń":121242,"æĦĨ":121243,"èīĦ":121244,"è§İ":121245,"毹":121246,"è²Ĭ":121247,"è²ħ":121248,"è²ī":121249,"é¢Ķ":121250,"èħł":121251,"èħ©":121252,"èħ¼":121253,"èħŃ":121254,"èħ§":121255,"å¡į":121256,"媵":121257,"é²ħ":121258,"é²Ĩ":121259,"é²ĩ":121260,"é²Ī":121261,"é²ĭ":121262,"é²IJ":121263,"èĤĦ":121264,"é¹IJ":121265,"é£ķ":121266,"è§¥":121267,"éģĽ":121268,"é¦IJ":121269,"é¹ij":121270,"亶":121271,"çĺĥ":121272,"çű":121273,"çĹ¼":121274,"çĹ¿":121275,"çĺIJ":121276,"çĺģ":121277,"çĺĨ":121278,"éºĤ":121279,"æŃĨ":121280,"æĹĴ":121281,"éĺĸ":121282,"éĺĹ":121283,"ç¾§":121284,"è±¢":121285,"ç²³":121286,"çĮ·":121287,"çħ³":121288,"çħ¨":121289,"çħħ":121290,"çħĬ":121291,"çħ¸":121292,"çħº":121293,"æ»Ł":121294,"溱":121295,"æºĺ":121296,"æ¼Ń":121297,"滢":121298,"溥":121299,"溽":121300,"è£Ł":121301,"溻":121302,"溷":121303,"æ»Ĺ":121304,"滫":121305,"溴":121306,"æ»ı":121307,"æ»ĥ":121308,"滦":121309,"æºı":121310,"æ»Ĥ":121311,"æ»ĵ":121312,"æºŁ":121313,"滪":121314,"æĦ«":121315,"æħĬ":121316,"é²İ":121317,"éªŀ":121318,"çªł":121319,"窣":121320,"裱":121321,"裨":121322,"裾":121323,"裰":121324,"ç¦Ĭ":121325,"è°©":121326,"è°ª":121327,"媾":121328,"å««":121329,"媲":121330,"å«Ĵ":121331,"å«Ķ":121332,"媸":121333,"ç¼Ļ":121334,"ç¼ľ":121335,"ç¼Ľ":121336,"è¾Ķ":121337,"éªĿ":121338,"ç¼Ł":121339,"缡":121340,"ç¼¢":121341,"ç¼£":121342,"éªŁ":121343,"èĢ¥":121344,"çĴĪ":121345,"çijŃ":121346,"çįĴ":121347,"è§ı":121348,"æħĿ":121349,"å«ł":121350,"åıĨ":121351,"æij½":121352,"å¢ģ":121353,"æĴĤ":121354,"æijŀ":121355,"æĴĦ":121356,"ç¿¥":121357,"è¸ħ":121358,"æijŃ":121359,"å¢ī":121360,"å¢Ĵ":121361,"æ¦ĸ":121362,"綦":121363,"èĶ«":121364,"èĶ·":121365,"éĿº":121366,"éĿ¼":121367,"éŀħ":121368,"éĿ¿":121369,"çĶį":121370,"è͏":121371,"èĶŁ":121372,"èĶº":121373,"æĪ¬":121374,"èķĸ":121375,"èĶ»":121376,"èĵ¿":121377,"æĸ¡":121378,"é¹ķ":121379,"èĵ¼":121380,"æ¦Ľ":121381,"榧":121382,"榫":121383,"æ¦Ń":121384,"æ§Ķ":121385,"榱":121386,"æ§ģ":121387,"æ§ł":121388,"榷":121389,"åĥ°":121390,"éħ½":121391,"éħ¹":121392,"碡":121393,"碴":121394,"碣":121395,"碲":121396,"èĩ§":121397,"豨":121398,"殡":121399,"éľģ":121400,"èľļ":121401,"é¾ĩ":121402,"é¾Ī":121403,"äģ":121404,"äģĸ":121405,"çĿ½":121406,"åĺŀ":121407,"åĺĪ":121408,"åĺĮ":121409,"åĺģ":121410,"æļĿ":121411,"è¸Į":121412,"è¸ī":121413,"èľŀ":121414,"èľ¥":121415,"èľ®":121416,"èĿĪ":121417,"èľ´":121418,"èľ±":121419,"èľ©":121420,"èľ·":121421,"èľ¿":121422,"èŀĤ":121423,"èľ¢":121424,"åĺ¡":121425,"é¹Ĺ":121426,"åĺ£":121427,"åĺ¤":121428,"åĺļ":121429,"åĹ¾":121430,"åĺ§":121431,"ç½´":121432,"ç½±":121433,"å¹Ķ":121434,"å¶Ĥ":121435,"å¹Ľ":121436,"èµĻ":121437,"ç½Ĥ":121438,"骷":121439,"骶":121440,"é¹ĺ":121441,"éͲ":121442,"éĶ´":121443,"éͶ":121444,"éĶ·":121445,"é͏":121446,"é͵":121447,"éķĤ":121448,"çĬĴ":121449,"ç®IJ":121450,"箦":121451,"ç®§":121452,"箸":121453,"箬":121454,"ç®ħ":121455,"箪":121456,"箾":121457,"箢":121458,"ç®ĵ":121459,"åĥĸ":121460,"åĦĨ":121461,"åĥ³":121462,"åĥŃ":121463,"åĬģ":121464,"åĥ®":121465,"éŃĥ":121466,"éŃĨ":121467,"çĿ¾":121468,"èīĭ":121469,"éĦ±":121470,"èĨĪ":121471,"èĨij":121472,"é²ij":121473,"é²Ķ":121474,"é²ļ":121475,"é²Ľ":121476,"é²Ł":121477,"çįIJ":121478,"è§«":121479,"éĽĴ":121480,"夤":121481,"é¦ij":121482,"éĬ®":121483,"塾":121484,"çĺĮ":121485,"çĺĬ":121486,"çĺĺ":121487,"çĺĻ":121488,"æĹĸ":121489,"èĨĤ":121490,"éĺļ":121491,"éĦ¯":121492,"é²ŀ":121493,"粿":121494,"ç²¼":121495,"ç³ģ":121496,"æ§Ĭ":121497,"é¹ļ":121498,"çĨĺ":121499,"çĨ¥":121500,"æ½¢":121501,"æ¼ķ":121502,"滹":121503,"漯":121504,"æ¼¶":121505,"æ½ĭ":121506,"æ½´":121507,"漪":121508,"æ¼ī":121509,"漩":121510,"æ¾ī":121511,"æħµ":121512,"æIJ´":121513,"窨":121514,"寤":121515,"ç¶®":121516,"è°®":121517,"褡":121518,"è¤Ļ":121519,"è¤ĵ":121520,"è¤Ľ":121521,"è¤Ĭ":121522,"è°¯":121523,"è°°":121524,"è°²":121525,"å±£":121526,"é¹Ľ":121527,"嫱":121528,"å«ĸ":121529,"嫦":121530,"å«ļ":121531,"å«ĺ":121532,"é¼IJ":121533,"çŀĢ":121534,"é¹ľ":121535,"éªł":121536,"ç¼¥":121537,"缦":121538,"ç¼§":121539,"缨":121540,"骢":121541,"缫":121542,"è̦":121543,"ȩ̀":121544,"çĴľ":121545,"çĴİ":121546,"çĴģ":121547,"å¥Ń":121548,"髯":121549,"é««":121550,"æĴ·":121551,"æĴħ":121552,"èµŃ":121553,"æĴ¸":121554,"éĭĨ":121555,"æĴĻ":121556,"æĴº":121557,"å¢Ģ":121558,"èģ©":121559,"è§IJ":121560,"éŀij":121561,"èķĻ":121562,"éŀĴ":121563,"èķĪ":121564,"èķ¨":121565,"èķ¤":121566,"èķŀ":121567,"èķº":121568,"çŀ¢":121569,"èķĥ":121570,"èķ²":121571,"èµľ":121572,"æ§¿":121573,"樯":121574,"æ§Ń":121575,"æ¨Ĺ":121576,"æ¨ĺ":121577,"æ§²":121578,"éĨĮ":121579,"éĨħ":121580,"éĿ¥":121581,"éŃĩ":121582,"é¤į":121583,"ç£Ķ":121584,"ç£Ļ":121585,"éľĪ":121586,"è¾ĺ":121587,"é¾ī":121588,"é¾Ĭ":121589,"è§ij":121590,"çŀĮ":121591,"çŀĭ":121592,"çŀij":121593,"åĺŃ":121594,"åĻİ":121595,"å϶":121596,"é¢Ļ":121597,"æļ¹":121598,"åĻĺ":121599,"è¸Ķ":121600,"è¸Ŀ":121601,"è¸Ł":121602,"è¸Ĵ":121603,"踬":121604,"踮":121605,"踯":121606,"踺":121607,"è¸ŀ":121608,"èĿ½":121609,"èĿ¾":121610,"èĿ»":121611,"èĿ°":121612,"èĿ®":121613,"èŀĭ":121614,"èĿĵ":121615,"èĿ£":121616,"èĿ¼":121617,"åĺ¬":121618,"é¢ļ":121619,"åĻį":121620,"åĻĻ":121621,"åĻĮ":121622,"åĻĶ":121623,"é¢Ľ":121624,"å¹ŀ":121625,"幡":121626,"å¶Ļ":121627,"å¶Ŀ":121628,"骺":121629,"éķĬ":121630,"éķī":121631,"éķĮ":121632,"éķı":121633,"éķĴ":121634,"éķĵ":121635,"éķĶ":121636,"稷":121637,"ç®´":121638,"ç¯ij":121639,"ç¯ģ":121640,"ç¯Į":121641,"çīĸ":121642,"åĦĭ":121643,"èĻ¢":121644,"é¹ŀ":121645,"èĨĺ":121646,"é²ł":121647,"鲡":121648,"é²¢":121649,"é²£":121650,"é²¥":121651,"é²§":121652,"鲩":121653,"çįĹ":121654,"çįł":121655,"觯":121656,"é¦ĵ":121657,"é¦Ķ":121658,"麾":121659,"å»Ľ":121660,"çĺĽ":121661,"çĺ¼":121662,"çĺ¢":121663,"çĺł":121664,"é½ij":121665,"ç¾°":121666,"ð¥»":121667,"ð¥»Ĺ":121668,"ç³Į":121669,"ç³į":121670,"ç³ħ":121671,"çĨľ":121672,"çĨµ":121673,"æ¾į":121674,"æ¾Į":121675,"潸":121676,"潦":121677,"æ½²":121678,"éĭĪ":121679,"æ½Ł":121680,"潺":121681,"寮":121682,"窳":121683,"è°³":121684,"褴":121685,"è¤Ł":121686,"褫":121687,"è°µ":121688,"çĨ¨":121689,"屦":121690,"åĭ°":121691,"æĪ®":121692,"èĿ¥":121693,"缬":121694,"ç¼®":121695,"缯":121696,"骣":121697,"çķ¿":121698,"èĢ©":121699,"è̍":121700,"èĢª":121701,"çĴŁ":121702,"éĿĽ":121703,"çĴł":121704,"çĴĺ":121705,"èģ±":121706,"èŀ¯":121707,"é«»":121708,"é«Ń":121709,"髹":121710,"æĵĢ":121711,"çĶı":121712,"æĵŀ":121713,"縳":121714,"磬":121715,"é¢ŀ":121716,"èķ»":121717,"é¢Ł":121718,"èĸ¤":121719,"èĸ¨":121720,"æªł":121721,"èĸı":121722,"èĸ®":121723,"èĸľ":121724,"èĸħ":121725,"樾":121726,"æ©Ľ":121727,"æ©ĩ":121728,"樵":121729,"æªİ":121730,"橹":121731,"樽":121732,"樨":121733,"橼":121734,"墼":121735,"æ©IJ":121736,"ç¿®":121737,"éĨIJ":121738,"éĨį":121739,"éĨļ":121740,"磲":121741,"èµĿ":121742,"殪":121743,"éľı":121744,"éĮ¾":121745,"è¾ļ":121746,"éģ½":121747,"æ°ħ":121748,"çŀŁ":121749,"çŀł":121750,"çŀ°":121751,"åļĦ":121752,"åļĨ":121753,"åϤ":121754,"æļ¾":121755,"è¹Ģ":121756,"踵":121757,"踽":121758,"è¹ī":121759,"è¹ģ":121760,"èŀ¨":121761,"èŀĪ":121762,"èŀħ":121763,"èŀŃ":121764,"èŀł":121765,"èŀŁ":121766,"åϱ":121767,"åĻ«":121768,"åĻ»":121769,"åϼ":121770,"ç½¹":121771,"åľľ":121772,"ä¦":121773,"ä¦ĥ":121774,"éķĹ":121775,"éķĺ":121776,"éķļ":121777,"éķĽ":121778,"éķĿ":121779,"éķŀ":121780,"éķł":121781,"æ°ĩ":121782,"æ°Ĩ":121783,"ç©ij":121784,"ç¯Ŀ":121785,"篥":121786,"篦":121787,"篪":121788,"ç¯Ļ":121789,"çĽ¥":121790,"åĬĵ":121791,"翱":121792,"éŃī":121793,"éŃĪ":121794,"å¾¼":121795,"æŃĻ":121796,"èĨ¦":121797,"èĨĻ":121798,"é²®":121799,"é²±":121800,"é²³":121801,"é²´":121802,"é²µ":121803,"é²·":121804,"é²»":121805,"çį´":121806,"çįŃ":121807,"çį¬":121808,"éĤĤ":121809,"é¹§":121810,"廨":121811,"èµŁ":121812,"çĺ°":121813,"廪":121814,"çĺ¿":121815,"çĺµ":121816,"çĺ´":121817,"çĻĥ":121818,"çĺ³":121819,"éºĩ":121820,"éºĪ":121821,"嬴":121822,"å£ħ":121823,"ç³Ĺ":121824,"çĶij":121825,"çĩİ":121826,"çĩł":121827,"çĩĶ":121828,"çĩ§":121829,"æ¿ij":121830,"æ¿ī":121831,"æ½ŀ":121832,"æ¾§":121833,"æ¾¹":121834,"æ¾¥":121835,"æ¾¶":121836,"æ¿Ĥ":121837,"褰":121838,"窸":121839,"å¬ĸ":121840,"çĬŁ":121841,"éļ°":121842,"å¬Ĺ":121843,"颡":121844,"ç¼±":121845,"ç¼²":121846,"ç¼³":121847,"çĴ©":121848,"çĴª":121849,"èŀ«":121850,"æĵ¤":121851,"å£ķ":121852,"è§³":121853,"ç½Ħ":121854,"æĵ¢":121855,"èĸ¹":121856,"éŀ¡":121857,"éŀ¬":121858,"èĸ·":121859,"èĹĵ":121860,"èĹģ":121861,"æªĦ":121862,"檩":121863,"æĩĭ":121864,"éĨ¢":121865,"翳":121866,"ç¤ħ":121867,"磴":121868,"鹩":121869,"é¾ĭ":121870,"é¾Į":121871,"è±³":121872,"å£ij":121873,"é»»":121874,"åļı":121875,"åļħ":121876,"è¹ij":121877,"è¹Ĵ":121878,"è¹Ĭ":121879,"èŁ¥":121880,"èŀ¬":121881,"èŀµ":121882,"çĸĥ":121883,"èŀ³":121884,"èŁij":121885,"åļĵ":121886,"ç½½":121887,"ç½¾":121888,"å¶·":121889,"黾":121890,"é»Ŀ":121891,"é«ģ":121892,"é«Ģ":121893,"éķ¡":121894,"éķ¢":121895,"éķ£":121896,"éķ¦":121897,"éķ§":121898,"éķ©":121899,"éķª":121900,"éķ«":121901,"ç½ħ":121902,"ç°Į":121903,"篾":121904,"篼":121905,"ç°ĸ":121906,"ç°ĭ":121907,"é¼¢":121908,"åĦ¡":121909,"鹪":121910,"é¼¾":121911,"çļ¤":121912,"éŃį":121913,"é¾ł":121914,"ç¹ĩ":121915,"è²ĺ":121916,"éĤĪ":121917,"è²Ķ":121918,"èĩĮ":121919,"èĨ»":121920,"èĩĨ":121921,"èĩĥ":121922,"é²¼":121923,"é²½":121924,"é³Ģ":121925,"é³ĥ":121926,"é³ħ":121927,"é³ĩ":121928,"é³Ĭ":121929,"èŀ½":121930,"çĩ®":121931,"鹫":121932,"ç³ľ":121933,"縻":121934,"çĻį":121935,"éºĭ":121936,"æĩij":121937,"æ¿¡":121938,"æ¿®":121939,"æ¿ŀ":121940,"æ¿ł":121941,"濯":121942,"è¹ĩ":121943,"è¬ĩ":121944,"éĤĥ":121945,"è¥ģ":121946,"æªĹ":121947,"æĵĺ":121948,"åŃº":121949,"éļ³":121950,"嬷":121951,"èŁĬ":121952,"鹬":121953,"éįª":121954,"éıĬ":121955,"é¬Ī":121956,"é¬ĥ":121957,"çŀ½":121958,"éŀ¯":121959,"éŀ¨":121960,"éŀ«":121961,"éŀ§":121962,"éŀ£":121963,"èĹľ":121964,"èĹł":121965,"éĨª":121966,"è¹Ļ":121967,"ç¤ĵ":121968,"çĩ¹":121969,"餮":121970,"çŀ¿":121971,"æĽĽ":121972,"颢":121973,"èºĩ":121974,"è¹ļ":121975,"èŁĽ":121976,"èŁª":121977,"èŁł":121978,"èŁ®":121979,"é¹®":121980,"黳":121981,"黣":121982,"é«ħ":121983,"é«Ĥ":121984,"éķ¬":121985,"éķŃ":121986,"éķ¯":121987,"馥":121988,"ç°Ł":121989,"ç°ª":121990,"鼬":121991,"鼳":121992,"èīŁ":121993,"é³İ":121994,"é³ı":121995,"é³IJ":121996,"çĻŀ":121997,"çĻĶ":121998,"糨":121999,"蹩":122000,"éİı":122001,"éĤĭ":122002,"é¬ı":122003,"æĶī":122004,"éŀ²":122005,"éŀ´":122006,"èĹ¿":122007,"èĺ§":122008,"èĺħ":122009,"éĨ®":122010,"éĨ¯":122011,"éħĥ":122012,"éľª":122013,"éľŃ":122014,"龨":122015,"黼":122016,"åļ¯":122017,"è¹°":122018,"è¹¶":122019,"è¹½":122020,"è¹¼":122021,"è¹´":122022,"è¹¾":122023,"蹿":122024,"èłĸ":122025,"èłĵ":122026,"èŁ¾":122027,"èłĬ":122028,"黢":122029,"é«ĭ":122030,"é«Į":122031,"éķ²":122032,"ç±Ģ":122033,"é½ģ":122034,"éŃij":122035,"èī¨":122036,"é³ĵ":122037,"é³Ķ":122038,"é³ķ":122039,"é³Ĺ":122040,"é³Ļ":122041,"éıĸ":122042,"羸":122043,"ã¸Ĩ":122044,"çĢ£":122045,"çĢĽ":122046,"襦":122047,"è°¶":122048,"è¥ŀ":122049,"骥":122050,"ç¼µ":122051,"çĵĴ":122052,"æĶĺ":122053,"èĺ©":122054,"èĺĸ":122055,"éĨ´":122056,"éľ°":122057,"éħĨ":122058,"çŁį":122059,"èºħ":122060,"é¼į":122061,"å·ī":122062,"黩":122063,"黥":122064,"黪":122065,"éķ³":122066,"éķ´":122067,"é»§":122068,"çºĤ":122069,"çĴº":122070,"鼯":122071,"èĩľ":122072,"é³ľ":122073,"é³Ŀ":122074,"é³Ł":122075,"çį¾":122076,"åŃĢ":122077,"骧":122078,"çĵĺ":122079,"é¼Ļ":122080,"éĨº":122081,"礴":122082,"颦":122083,"æĽ©":122084,"é³¢":122085,"éºĿ":122086,"å¤Ķ":122087,"çĪĿ":122088,"çģı":122089,"禳":122090,"éIJ¾":122091,"ç¾¼":122092,"èł¡":122093,"è̱":122094,"é¹³":122095,"æ°į":122096,"é¥ķ":122097,"èºIJ":122098,"é«ij":122099,"éķµ":122100,"ç©°":122101,"é¥Ķ":122102,"鬻":122103,"鬣":122104,"è¶±":122105,"æĶ«":122106,"æĶ¥":122107,"颧":122108,"èºľ":122109,"é¼¹":122110,"çϝ":122111,"èł²":122112,"èł¹":122113,"èºŀ":122114,"è¡¢":122115,"çģŀ":122116,"襻":122117,"çºĽ":122118,"鬣":122119,"æĶ®":122120,"åĽĶ":122121,"é¦ķ":122122,"æĪĨ":122123,"ç΍":122124,"é½ī":122125,"äºį":122126,"å°¢":122127,"å½³":122128,"åį¬":122129,"殳":122130,"ðłĻ¶":122131,"æ¯Į":122132,"éĤĺ":122133,"æĪĭ":122134,"åľ¢":122135,"æ°ķ":122136,"ä¼ĭ":122137,"ä»Ŀ":122138,"åĨ®":122139,"æ°¿":122140,"æ±Ī":122141,"æ°¾":122142,"å¿ī":122143,"å®Ħ":122144,"ð¬£Ļ":122145,"è®±":122146,"æīŀ":122147,"åľ²":122148,"åľ«":122149,"èĬı":122150,"èĬĥ":122151,"æľ³":122152,"æľ¸":122153,"ð¨Ļ":122154,"ð¨Ļ¸":122155,"éĤ¨":122156,"åIJĴ":122157,"åIJĸ":122158,"å±¼":122159,"å±¾":122160,"辿":122161,"éĴĨ":122162,"仳":122163,"ä¼£":122164,"ä¼Ī":122165,"çĻ¿":122166,"çĶª":122167,"éĤł":122168,"çĬ´":122169,"åĨ±":122170,"éĤ¡":122171,"ð¬ĩķ":122172,"æ±ĭ":122173,"äľ":122174,"äľ£":122175,"è®»":122176,"ð¬£ŀ":122177,"åŃĸ":122178,"ð¬ĺĵ":122179,"纩":122180,"çİĴ":122181,"çİĵ":122182,"çİĺ":122183,"çİļ":122184,"åά":122185,"ð«ŃŁ":122186,"åĿľ":122187,"åĿī":122188,"æī½":122189,"ð«Ń¢":122190,"åĿĭ":122191,"æīº":122192,"ã§ij":122193,"æ¯IJ":122194,"èĬ°":122195,"èĬ£":122196,"èĭĬ":122197,"èĭī":122198,"èĬĺ":122199,"èĬ´":122200,"èĬł":122201,"ð«ĩ":122202,"ð«ĩŃ":122203,"èĬ¤":122204,"æĿķ":122205,"æĿĻ":122206,"æĿĦ":122207,"æĿ§":122208,"æĿ©":122209,"å°ª":122210,"å°¨":122211,"轪":122212,"ð«IJĦ":122213,"åĿĴ":122214,"èĬĪ":122215,"æĹ´":122216,"æĹµ":122217,"åijĻ":122218,"ãķ":122219,"ãķ®":122220,"å²į":122221,"ð«µ":122222,"𫵷":122223,"å²ł":122224,"å²ľ":122225,"åijĩ":122226,"åĨı":122227,"è§ĥ":122228,"å²Ļ":122229,"ä¼¾":122230,"ãijĩ":122231,"ä¼Ń":122232,"ä½ĸ":122233,"ä¼²":122234,"ä½ģ":122235,"é£ı":122236,"çĭĥ":122237,"éŶ":122238,"æ±§":122239,"汫":122240,"ð£²ĺ":122241,"ð£²Ĺ":122242,"æ²Ħ":122243,"æ²ĺ":122244,"ð¬ĩĻ":122245,"æ±Ń":122246,"ã³ĩ":122247,"æ²ĩ":122248,"å¿®":122249,"忳":122250,"忺":122251,"𬣡":122252,"ç¥ĥ":122253,"è¯ĩ":122254,"éĤ²":122255,"è¯İ":122256,"è¯IJ":122257,"å±ĥ":122258,"ð«¸":122259,"𫸩":122260,"å²Ĭ":122261,"éĺ½":122262,"䢺":122263,"éĺ¼":122264,"妧":122265,"å¦ĺ":122266,"ð¨ļ":122267,"ð¨ļķ":122268,"纮":122269,"驲":122270,"ð«ĺľ":122271,"纻":122272,"ð¬ĺĺ":122273,"ð«ĺĿ":122274,"纼":122275,"çݤ":122276,"çİŀ":122277,"çݱ":122278,"çİŁ":122279,"éĤ½":122280,"éĤ¿":122281,"åĿ¥":122282,"åĿ°":122283,"åĿ¬":122284,"åĿ½":122285,"å¼Ĩ":122286,"è̵":122287,"䢼":122288,"ð¦Ń":122289,"ð¦Ńľ":122290,"èĮĭ":122291,"èĭ§":122292,"èĭ¾":122293,"èĭł":122294,"æŀħ":122295,"ãŃİ":122296,"æŀĺ":122297,"æŀį":122298,"çŁ¼":122299,"磻":122300,"åĮ¼":122301,"ð¬¨Ĥ":122302,"ð¬Ģ©":122303,"ð¬Ģª":122304,"æĹ¿":122305,"æĺĦ":122306,"æĺĴ":122307,"æĺĪ":122308,"åĴī":122309,"åĴĩ":122310,"åĴį":122311,"å²µ":122312,"å²½":122313,"岨":122314,"å²ŀ":122315,"å³Ĥ":122316,"ãŁ":122317,"ãŁĥ":122318,"åĽ·":122319,"𬬩":122320,"éĴIJ":122321,"éĴĶ":122322,"éĴĸ":122323,"çī¥":122324,"ä½´":122325,"åŀĪ":122326,"ä¾ģ":122327,"ä¾¹":122328,"佸":122329,"佺":122330,"éļ¹":122331,"ãijĬ":122332,"ä¾Ĥ":122333,"ä½½":122334,"ä¾ĺ":122335,"éĥĪ":122336,"èĪł":122337,"éĥIJ":122338,"éĥĥ":122339,"æĶ½":122340,"èĤŃ":122341,"èĤ¸":122342,"èĤ·":122343,"çĭī":122344,"çĭĿ":122345,"饳":122346,"å¿ŀ":122347,"çĤĮ":122348,"çĤĨ":122349,"æ³Ļ":122350,"沺":122351,"æ³Ĥ":122352,"æ³ľ":122353,"æ³ĥ":122354,"æ³ĩ":122355,"æĢĬ":122356,"å³ĥ":122357,"穸":122358,"ç¥ĭ":122359,"ç¥Ĭ":122360,"ð«į£":122361,"𬣳":122362,"𬩽":122363,"鸤":122364,"å¼¢":122365,"弨":122366,"éĻij":122367,"𬮿":122368,"éĻİ":122369,"ð¬¯Ģ":122370,"åįº":122371,"乸":122372,"å¦Ń":122373,"å§Ī":122374,"ð«°":122375,"ð«°Ľ":122376,"迳":122377,"åıķ":122378,"𬳵":122379,"驵":122380,"𬳶":122381,"äĮ":122382,"äĮ¹":122383,"驺":122384,"ð«łĬ":122385,"ç»ĭ":122386,"ç»IJ":122387,"çłī":122388,"èĢĶ":122389,"ãĽĥ":122390,"çݶ":122391,"çıĩ":122392,"çıħ":122393,"ð¬įĽ":122394,"çıĭ":122395,"çݹ":122396,"çıĮ":122397,"çİ¿":122398,"飨":122399,"åŀļ":122400,"åŀ¯":122401,"åŀĻ":122402,"åŀ²":122403,"åŁı":122404,"åŀį":122405,"èĢĩ":122406,"é¿į":122407,"åŀİ":122408,"åŀ´":122409,"åŀŁ":122410,"åŀŀ":122411,"æĮĵ":122412,"åŀµ":122413,"åŀı":122414,"æĭ¶":122415,"èįĸ":122416,"èįģ":122417,"èįĻ":122418,"èįĽ":122419,"èĮĪ":122420,"èĮ½":122421,"èįĦ":122422,"èĮº":122423,"ð¬ľ¬":122424,"èįĵ":122425,"èĮ³":122426,"ð¦°":122427,"𦰡":122428,"èĮĽ":122429,"èįŃ":122430,"ãŃķ":122431,"æŁ·":122432,"æŁĥ":122433,"æŁĬ":122434,"æŀ¹":122435,"æłIJ":122436,"æŁĸ":122437,"éĥļ":122438,"åīħ":122439,"ä´ĵ":122440,"迺":122441,"åİĸ":122442,"çłĨ":122443,"çłij":122444,"çłĦ":122445,"èĢı":122446,"å¥ĵ":122447,"ä¶":122448,"ä¶®":122449,"è½µ":122450,"è½·":122451,"è½¹":122452,"轺":122453,"æĺº":122454,"ðª¾":122455,"𪾢":122456,"æĺ½":122457,"缷":122458,"åĴ¡":122459,"åĴº":122460,"æĺ³":122461,"æĺ£":122462,"æĺ¤":122463,"æĺ«":122464,"æĺ¡":122465,"åĴ¥":122466,"æĺª":122467,"èĻ·":122468,"èϏ":122469,"åĵĥ":122470,"å³ĺ":122471,"èĢij":122472,"å³Ľ":122473,"𪨰":122474,"å³Ĺ":122475,"å³§":122476,"帡":122477,"éĴĺ":122478,"ð«ĵ§":122479,"éĴľ":122480,"𬬮":122481,"𬬱":122482,"ð¬¬Ń":122483,"éĴª":122484,"éĴ¬":122485,"éĴŃ":122486,"磧":122487,"秬":122488,"ä¿«":122489,"èĪģ":122490,"ä¿ľ":122491,"ä¿Ļ":122492,"ä¿į":122493,"åŀķ":122494,"è¡İ":122495,"èĪ£":122496,"å¼ĩ":122497,"ä¾´":122498,"鸧":122499,"äı¡":122500,"èĥł":122501,"ð¦Ļ¶":122502,"èĥĪ":122503,"èĥ©":122504,"èĥ£":122505,"æľı":122506,"é£IJ":122507,"è¨Ħ":122508,"饻":122509,"庤":122510,"çĸ¢":122511,"çĤ£":122512,"çĤŁ":122513,"ã¶":122514,"ã¶²":122515,"æ´Ń":122516,"æ´ĺ":122517,"æ´ĵ":122518,"æ´¿":122519,"ã³ļ":122520,"æ³ļ":122521,"æµĪ":122522,"æµī":122523,"æ´¸":122524,"æ´ij":122525,"æ´¢":122526,"æ´Ī":122527,"æ´ļ":122528,"æ´º":122529,"æ´¨":122530,"æµIJ":122531,"ã³ĺ":122532,"æ´´":122533,"æ´£":122534,"æģĶ":122535,"宬":122536,"çªĢ":122537,"æīĤ":122538,"è¢Ĩ":122539,"ç¥ı":122540,"ç¥IJ":122541,"ç¥ķ":122542,"åıļ":122543,"éϧ":122544,"éĻŀ":122545,"å¨Ģ":122546,"å§ŀ":122547,"å§±":122548,"姤":122549,"å§¶":122550,"å§½":122551,"æŀ²":122552,"ç»ĸ":122553,"éªĥ":122554,"ð¬ĺ¡":122555,"𬳽":122556,"ð¬ĺ©":122557,"ð«Ħ§":122558,"å½ĸ":122559,"éªī":122560,"æģĿ":122561,"çıª":122562,"çıĽ":122563,"çı¹":122564,"çIJĬ":122565,"çݼ":122566,"çıĸ":122567,"ðªŁ":122568,"ðªŁĿ":122569,"çı½":122570,"çı¦":122571,"çı«":122572,"çıĴ":122573,"ð¬į¤":122574,"çı¢":122575,"çıķ":122576,"çıĿ":122577,"ð«Ń¼":122578,"åŁĹ":122579,"åŀ¾":122580,"åŀº":122581,"åŁĨ":122582,"åŀ¿":122583,"åŁĮ":122584,"åŁĩ":122585,"èݰ":122586,"èĮĿ":122587,"ð¬ľ¯":122588,"éĦĢ":122589,"èݶ":122590,"èİĿ":122591,"äĵĸ":122592,"èİĻ":122593,"æł»":122594,"æ¡ł":122595,"ð¬Ĥ":122596,"ð¬Ĥ©":122597,"æ¡Ħ":122598,"æ¢ł":122599,"æł´":122600,"梴":122601,"æłĴ":122602,"éħİ":122603,"éħı":122604,"ð«łĨ":122605,"çłµ":122606,"çłł":122607,"çł«":122608,"糬":122609,"ç¡ģ":122610,"æģ§":122611,"ç¿ĥ":122612,"éĥª":122613,"ð¨IJ":122614,"ð¨IJĪ":122615,"è¾Ģ":122616,"è¾ģ":122617,"ð¬Į":122618,"ð¬ĮĹ":122619,"åīķ":122620,"èµĢ":122621,"åĵ¢":122622,"æĻħ":122623,"æĻĬ":122624,"åĶĿ":122625,"åĵ³":122626,"åĵ±":122627,"åĨĶ":122628,"æĻĶ":122629,"æĻIJ":122630,"çķĸ":122631,"èļĦ":122632,"èļĨ":122633,"ð«ij":122634,"ð«ij¡":122635,"帱":122636,"å´ģ":122637,"峿":122638,"𪨶":122639,"å´Ħ":122640,"帨":122641,"å´Ģ":122642,"èµĨ":122643,"𬬸":122644,"éĴ·":122645,"𬬻":122646,"𬬹":122647,"𬬿":122648,"ð¬Ńģ":122649,"çľļ":122650,"çĶ¡":122651,"笫":122652,"åĢ»":122653,"åĢ´":122654,"èĦ©":122655,"åĢ®":122656,"åĢķ":122657,"åĢŀ":122658,"ð«¢":122659,"𫢸":122660,"åĢĵ":122661,"å̧":122662,"è¡ĥ":122663,"èĻĴ":122664,"èĪŃ":122665,"èΝ":122666,"èĪ¥":122667,"çĵŀ":122668,"鬯":122669,"鸰":122670,"èĦİ":122671,"æľĵ":122672,"èĥ²":122673,"èĻĵ":122674,"é±½":122675,"çĭ´":122676,"å³±":122677,"çĭ»":122678,"çľ¢":122679,"ð«Ĺ§":122680,"åĭį":122681,"çĹĦ":122682,"çĸ°":122683,"çĹĥ":122684,"ç«ĺ":122685,"ç¾ĸ":122686,"ç¾ĵ":122687,"æ¡Ĭ":122688,"æķī":122689,"çĥł":122690,"çĥĶ":122691,"çĥ¶":122692,"çĥ»":122693,"ð¬ĬĪ":122694,"æ¶į":122695,"浡":122696,"æµŃ":122697,"浬":122698,"æ¶Ħ":122699,"æ¶¢":122700,"æ¶IJ":122701,"æµ°":122702,"æµŁ":122703,"æµĽ":122704,"æµ¼":122705,"æµ²":122706,"æ¶ĺ":122707,"æĤĪ":122708,"æĤĥ":122709,"æĤ¢":122710,"ð¬ĴĪ":122711,"å®§":122712,"çªħ":122713,"çªĬ":122714,"çªİ":122715,"æīħ":122716,"æīĨ":122717,"袪":122718,"è¢Ĺ":122719,"袯":122720,"祧":122721,"éļº":122722,"åł²":122723,"çĸį":122724,"ð¨º":122725,"ð¨ºĻ":122726,"éĻ´":122727,"çĥĿ":122728,"çł®":122729,"ãĽļ":122730,"åĵ¿":122731,"ç¿Ģ":122732,"ç¿Ĥ":122733,"åīŁ":122734,"𬳿":122735,"ð«Ħ¨":122736,"绤":122737,"éªį":122738,"ð¬ĺ«":122739,"äĤ":122740,"äĤ®":122741,"çIJİ":122742,"çı¸":122743,"çıµ":122744,"çIJĦ":122745,"çIJĪ":122746,"çIJĢ":122747,"çıº":122748,"æİŃ":122749,"åłİ":122750,"åłIJ":122751,"åŁ¼":122752,"æİİ":122753,"åŁ«":122754,"åłĮ":122755,"æĻ¢":122756,"ð«®":122757,"ð«®ĥ":122758,"æİŀ":122759,"åŁª":122760,"壸":122761,"ãĻį":122762,"èģį":122763,"èıĿ":122764,"èIJļ":122765,"èı¥":122766,"èİ¿":122767,"äĵ«":122768,"åĭļ":122769,"äĵ¬":122770,"èIJĨ":122771,"èıĤ":122772,"èıį":122773,"èı¼":122774,"èIJ£":122775,"äĵ¨":122776,"èıī":122777,"äĵĽ":122778,"梼":122779,"梽":122780,"桲":122781,"梾":122782,"桯":122783,"梣":122784,"æ¢Į":122785,"桹":122786,"æķĶ":122787,"åİ£":122788,"ç¡Ķ":122789,"é¿İ":122790,"ç¡Ļ":122791,"ç¡ļ":122792,"ç¡Ĭ":122793,"ç¡į":122794,"åĭĶ":122795,"ä´ķ":122796,"é¾ģ":122797,"éĢ´":122798,"åĶª":122799,"åķ«":122800,"ç¿Ī":122801,"ã«":122802,"ã«°":122803,"æĻĻ":122804,"çķ¤":122805,"ð¬±ĸ":122806,"è¶¼":122807,"è·Ĥ":122808,"èĽĥ":122809,"èļ²":122810,"ð¬Ł½":122811,"èļº":122812,"åķ´":122813,"äİĥ":122814,"å´§":122815,"å´Ł":122816,"å´ŀ":122817,"å´Ĵ":122818,"å´Į":122819,"å´¡":122820,"éĵı":122821,"ð«ĵ¯":122822,"ð«Ł¹":122823,"éĵķ":122824,"ð«Ł¼":122825,"éĵĸ":122826,"éĵĺ":122827,"éĵļ":122828,"éĵŀ":122829,"éĵ¥":122830,"éĵ´":122831,"çī»":122832,"çī¿":122833,"ç¨Ĩ":122834,"笱":122835,"笯":122836,"åģ°":122837,"åģ¡":122838,"鸺":122839,"åģŃ":122840,"åģ²":122841,"åģģ":122842,"ã¿":122843,"ã¿ł":122844,"éĦħ":122845,"åģĵ":122846,"å¾Ľ":122847,"è¡Ĵ":122848,"èγ":122849,"èβ":122850,"鸼":122851,"æĤĨ":122852,"éĦĥ":122853,"çĵ»":122854,"äĿ":122855,"äĿĻ":122856,"èĦ¶":122857,"èĦŀ":122858,"èĦŁ":122859,"äı²":122860,"é±¾":122861,"çĮĩ":122862,"çĮĬ":122863,"çĮĦ":122864,"è§ĸ":122865,"ðłħ":122866,"ðłħ¤":122867,"庱":122868,"庼":122869,"庳":122870,"çĹĵ":122871,"ä´Ķ":122872,"ç««":122873,"åłĥ":122874,"éĺĮ":122875,"ç¾Ŀ":122876,"ç¾ķ":122877,"çĦĨ":122878,"çĥº":122879,"çĦĮ":122880,"æ·ı":122881,"ð¬ĩ¹":122882,"æ·Ł":122883,"æ·ľ":122884,"æ·´":122885,"æ·¯":122886,"æ¹´":122887,"æ¶´":122888,"ð¬į¡":122889,"ã¥":122890,"ã¥Ħ":122891,"æĥĽ":122892,"æĥĶ":122893,"æĤ°":122894,"æĥĻ":122895,"å¯ģ":122896,"éĢŃ":122897,"ð¬¤ĩ":122898,"ð«į¯":122899,"袼":122900,"è£Ī":122901,"祲":122902,"ð¬¤Ĭ":122903,"ð«į²":122904,"è°ŀ":122905,"èī´":122906,"弸":122907,"å¼¶":122908,"ð¬¯İ":122909,"éļĥ":122910,"å©ŀ":122911,"娵":122912,"婼":122913,"åªĸ":122914,"婳":122915,"å©į":122916,"å©Į":122917,"å©«":122918,"婤":122919,"å©ĺ":122920,"å©ł":122921,"ð¬ĺ¬":122922,"ð¬ĺŃ":122923,"ð¬´Ĥ":122924,"ð«ĺ¦":122925,"绹":122926,"ð«Łħ":122927,"ð¬ĺ¯":122928,"éªķ":122929,"ð«ĺ§":122930,"絾":122931,"çı·":122932,"çIJ²":122933,"çIJ¡":122934,"çIJŁ":122935,"çIJĶ":122936,"çIJŃ":122937,"åł¾":122938,"åł¼":122939,"æıķ":122940,"ãĻĺ":122941,"åł§":122942,"åĸĨ":122943,"åł¨":122944,"å¡ħ":122945,"åłł":122946,"çµ·":122947,"ðª£":122948,"𪣻":122949,"ð¡İ":122950,"ð¡İļ":122951,"èijľ":122952,"æĥİ":122953,"èIJ³":122954,"èijĻ":122955,"éĿ¬":122956,"èij´":122957,"èĴĩ":122958,"èĴĪ":122959,"éĦļ":122960,"èĴī":122961,"èĵĩ":122962,"èIJ©":122963,"èij°":122964,"èijİ":122965,"éĦij":122966,"èĴİ":122967,"èijĸ":122968,"èĴĦ":122969,"èIJ¹":122970,"棤":122971,"棽":122972,"棫":122973,"æ¤ĵ":122974,"æ¤ij":122975,"ð¬ĥ":122976,"ð¬ĥĬ":122977,"é¹Ģ":122978,"æ¤Ĩ":122979,"æ£ĵ":122980,"棬":122981,"棪":122982,"æ¤Ģ":122983,"æ¥Ĺ":122984,"ð¬·":122985,"ð¬·ķ":122986,"çͦ":122987,"éħ¦":122988,"è§Į":122989,"奡":122990,"çļķ":122991,"硪":122992,"欹":122993,"è©Ł":122994,"ð«IJIJ":122995,"è¾Į":122996,"æ£IJ":122997,"é¾Ĥ":122998,"ð¬¹":122999,"𬹼":123000,"黹":123001,"çīļ":123002,"çĿİ":123003,"æĻ«":123004,"æĻª":123005,"æĻ±":123006,"ð§":123007,"ð§¿":123008,"ð§¿¹":123009,"èĽij":123010,"çķ¯":123011,"æĸĿ":123012,"åĸ¤":123013,"å´¶":123014,"åµģ":123015,"ð«¶":123016,"ð«¶ĩ":123017,"å´¾":123018,"åµħ":123019,"å´¿":123020,"åµļ":123021,"ç¿Ļ":123022,"ð«ĸ®":123023,"åľĮ":123024,"åľIJ":123025,"èµij":123026,"èµĴ":123027,"é¿ı":123028,"éĵ¹":123029,"ð¬ŃĬ":123030,"éĵ½":123031,"ð¨±ĩ":123032,"ð«ĵ¶":123033,"éĶĬ":123034,"éĶį":123035,"éĶİ":123036,"ð¬Ńİ":123037,"éĶĵ":123038,"çĬĩ":123039,"é¢ĭ":123040,"ç¨Į":123041,"çŃĢ":123042,"çŃĺ":123043,"çŃľ":123044,"çŃ¥":123045,"çŃħ":123046,"åĤĥ":123047,"åĤī":123048,"ç¿Ľ":123049,"åĤĴ":123050,"åĤķ":123051,"èξ":123052,"çķ¬":123053,"ð«ĸ¯":123054,"èĦ¿":123055,"èħĺ":123056,"äIJ":123057,"äIJĥ":123058,"èħĻ":123059,"èħĴ":123060,"ð¬±Ł":123061,"é²ĥ":123062,"çĮ°":123063,"ð«Ľ":123064,"ð«ĽŃ":123065,"çĮ¯":123066,"ãº":123067,"ãºĦ":123068,"é¦ī":123069,"åĩĵ":123070,"éĦĹ":123071,"ð«·":123072,"ð«··":123073,"å»ĭ":123074,"å»Ĩ":123075,"éĦĮ":123076,"ç²¢":123077,"éģĨ":123078,"æĹIJ":123079,"𬮱":123080,"çĦŀ":123081,"ð¬Ĭ¤":123082,"欻":123083,"ð£¸":123084,"𣸣":123085,"æºļ":123086,"æºģ":123087,"æ¹Ŀ":123088,"渰":123089,"æ¹ĵ":123090,"ã´":123091,"ã´Ķ":123092,"æ¸Ł":123093,"æºł":123094,"渼":123095,"æºĩ":123096,"æ¹£":123097,"æ¹ij":123098,"æºŀ":123099,"æĦIJ":123100,"æĦĥ":123101,"æķ©":123102,"ç͝":123103,"棨":123104,"æīĬ":123105,"裣":123106,"祼":123107,"å©»":123108,"åªĨ":123109,"åªŀ":123110,"ãĽ¹":123111,"åªĵ":123112,"åªĤ":123113,"åªĦ":123114,"毵":123115,"çŁŀ":123116,"ð¬´ĥ":123117,"ð«ĺ¨":123118,"ç¼Ĭ":123119,"ç¼IJ":123120,"éªĻ":123121,"çijĥ":123122,"çijĵ":123123,"çijħ":123124,"çijĨ":123125,"ä´ĸ":123126,"çijĸ":123127,"çijĿ":123128,"çijĶ":123129,"çijĢ":123130,"ð¤§":123131,"ð¤§Ľ":123132,"çij³":123133,"çijĤ":123134,"å¶ħ":123135,"çijij":123136,"éģĺ":123137,"é«¢":123138,"å¡¥":123139,"åł½":123140,"赪":123141,"æijĽ":123142,"å¡Ŀ":123143,"æIJĴ":123144,"æIJĮ":123145,"èĴ±":123146,"èĴ¨":123147,"èĵı":123148,"èĶĢ":123149,"èĵ¢":123150,"èĵĤ":123151,"èĴ»":123152,"èĵ£":123153,"椹":123154,"楪":123155,"æ¦ĥ":123156,"æ¦ħ":123157,"æ¥Ĵ":123158,"楩":123159,"æ¦ĩ":123160,"椸":123161,"æ¥Ļ":123162,"æŃħ":123163,"ð¬ª":123164,"𬪩":123165,"ç¢ĥ":123166,"ç¢ı":123167,"ð¬ĴĶ":123168,"ç¢Ī":123169,"äĥħ":123170,"ç¡¿":123171,"éĦł":123172,"è¾Ĵ":123173,"ð¬¨İ":123174,"ð«IJĵ":123175,"é¾Ĩ":123176,"è§ľ":123177,"ä£":123178,"ä£ĺ":123179,"æļķ":123180,"é¹į":123181,"ð««":123182,"ð««ĩ":123183,"ã¬Ĭ":123184,"æļħ":123185,"è·±":123186,"èľIJ":123187,"èľİ":123188,"åµ²":123189,"èµĹ":123190,"骱":123191,"éĶĸ":123192,"ð«ĵ¹":123193,"éĶĺ":123194,"éͳ":123195,"éͧ":123196,"éĶª":123197,"ð¬Ńļ":123198,"éĶ«":123199,"éͬ":123200,"ð¬ŃĽ":123201,"ç¨ij":123202,"ç¨Ļ":123203,"äħ":123204,"äħŁ":123205,"ð¬ķ":123206,"ð¬ķĤ":123207,"çŃ»":123208,"çѼ":123209,"çѶ":123210,"çѦ":123211,"çѤ":123212,"åĤº":123213,"é¹İ":123214,"åĥĩ":123215,"èīħ":123216,"èīī":123217,"è°¼":123218,"è²Ĩ":123219,"èħ½":123220,"èħ¨":123221,"èħ¯":123222,"é²ī":123223,"é²Ĭ":123224,"é²Į":123225,"ä²Ł":123226,"ð¬¶ĭ":123227,"ð¬¶į":123228,"é²ı":123229,"éĽĬ":123230,"çĮº":123231,"é£Ķ":123232,"è§Ł":123233,"ð¦Ŀ¼":123234,"é¦Į":123235,"è£Ľ":123236,"å»Ĵ":123237,"çĺħ":123238,"éĦĺ":123239,"é¹Ĵ":123240,"éĦľ":123241,"éºĢ":123242,"éĦ£":123243,"éĺĺ":123244,"ð«Ķ¶":123245,"çħģ":123246,"çħĥ":123247,"çħ´":123248,"çħĭ":123249,"çħŁ":123250,"çħĵ":123251,"æ»ł":123252,"æºį":123253,"溹":123254,"æ»Ĩ":123255,"æ»ī":123256,"溦":123257,"溵":123258,"æ¼·":123259,"æ»§":123260,"æ»ĺ":123261,"æ»į":123262,"æĦŃ":123263,"æħ¥":123264,"æħĨ":123265,"塱":123266,"ð«ĮĢ":123267,"裼":123268,"ç¦ĭ":123269,"ç¦Ķ":123270,"ç¦ĺ":123271,"ç¦Ĵ":123272,"è°«":123273,"é¹Ķ":123274,"ð«ĸ³":123275,"æĦį":123276,"å«Ħ":123277,"媱":123278,"æĪ¤":123279,"åĭł":123280,"æĪ£":123281,"ð«ĺª":123282,"ð«ĺ¬":123283,"ç¼ŀ":123284,"è̤":123285,"çij§":123286,"ð«ŀ":123287,"ð«ŀ©":123288,"çij¨":123289,"çij±":123290,"çij·":123291,"çij¢":123292,"æĸł":123293,"æijı":123294,"å¢ķ":123295,"å¢Ī":123296,"å¢IJ":123297,"å¢ĺ":123298,"æij´":123299,"éĬİ":123300,"ð¡IJ":123301,"ð¡IJĵ":123302,"å¢ļ":123303,"æĴĸ":123304,"ðª¤":123305,"ðª¤Ĺ":123306,"éĿ½":123307,"éŀģ":123308,"èĶĮ":123309,"èĶĪ":123310,"èĵ°":123311,"è͹":123312,"èĶĬ":123313,"åĺı":123314,"榰":123315,"æ¦ij":123316,"æ§ļ":123317,"ð£Ĺ":123318,"ð£Ĺĭ":123319,"æ§ľ":123320,"æ¦į":123321,"çĸIJ":123322,"ð¬¸ĺ":123323,"éħº":123324,"éħ¾":123325,"éħ²":123326,"éħ´":123327,"碶":123328,"äĥİ":123329,"ð¬ĴĹ":123330,"碨":123331,"ð¥Ķ":123332,"ð¥Ķ²":123333,"碹":123334,"碥":123335,"åĬĤ":123336,"ð«ļĸ":123337,"ä´Ĺ":123338,"夥":123339,"çŀį":123340,"é¹ĸ":123341,"ã¬İ":123342,"è·½":123343,"èľ¾":123344,"å¹ĸ":123345,"å¶į":123346,"åľĻ":123347,"ð¨±ı":123348,"éĶº":123349,"éͼ":123350,"éͽ":123351,"ð¬Ń¤":123352,"é;":123353,"éĶ¿":123354,"éķĥ":123355,"éķĦ":123356,"éķħ":123357,"é¦Ŀ":123358,"é¹Ļ":123359,"箨":123360,"ç®ĸ":123361,"åĬĦ":123362,"åĥ¬":123363,"åĥ¦":123364,"åĥĶ":123365,"åĥİ":123366,"æ§ĥ":123367,"ãϦ":123368,"é²Ĵ":123369,"é²ķ":123370,"ð«ļķ":123371,"é²ĸ":123372,"é²Ĺ":123373,"é²ĺ":123374,"é²Ļ":123375,"ð¬¶IJ":123376,"ð¬¶ı":123377,"ð©½":123378,"𩽾":123379,"å¤IJ":123380,"çįį":123381,"é£Ĺ":123382,"ð¬¸ļ":123383,"åĩĺ":123384,"å»ij":123385,"å»Ļ":123386,"çĺĹ":123387,"çĺ¥":123388,"çĺķ":123389,"é²Ŀ":123390,"éĦ«":123391,"çĨĩ":123392,"æ¼¹":123393,"æ¼ĸ":123394,"æ½Ĩ":123395,"漤":123396,"潩":123397,"æ¼¼":123398,"æ¼´":123399,"ã½":123400,"ã½ı":123401,"æ¼Ī":123402,"æ¼ĭ":123403,"æ¼»":123404,"æħ¬":123405,"窬":123406,"çªŃ":123407,"ã®":123408,"㮾":123409,"ð¬¤Ŀ":123410,"è¤ķ":123411,"禼":123412,"ç¦ļ":123413,"éļ©":123414,"å«ķ":123415,"å«Ń":123416,"å«ľ":123417,"嫪":123418,"ð¬ĻĤ":123419,"ã»":123420,"㻬":123421,"麹":123422,"çĴĨ":123423,"漦":123424,"åıĩ":123425,"墣":123426,"墦":123427,"墡":123428,"åĬIJ":123429,"èĸģ":123430,"èķ°":123431,"èĶĥ":123432,"é¼Ĵ":123433,"æ§±":123434,"é¹Ŀ":123435,"ç£ı":123436,"ç£ī":123437,"殣":123438,"æħŃ":123439,"éľħ":123440,"æļµ":123441,"æļ²":123442,"æļ¶":123443,"踦":123444,"踣":123445,"äĹĸ":123446,"èĿĺ":123447,"èĿ²":123448,"èĿ¤":123449,"åĻĩ":123450,"åĻĤ":123451,"åĻĢ":123452,"ç½¶":123453,"å¶²":123454,"å¶ĵ":123455,"ãłĩ":123456,"å¶Ł":123457,"å¶Ĵ":123458,"éķĨ":123459,"éķĪ":123460,"éķĭ":123461,"éķİ":123462,"ð¬Ń©":123463,"éķķ":123464,"稹":123465,"åĦĩ":123466,"çļŀ":123467,"çļĽ":123468,"ä´ĺ":123469,"èīİ":123470,"èīı":123471,"é¹Ł":123472,"ð©¾ĥ":123473,"鲦":123474,"鲪":123475,"鲬":123476,"æ©¥":123477,"è§Ń":123478,"é¹ł":123479,"鹡":123480,"ç³ĩ":123481,"ç³Ī":123482,"翦":123483,"é¹¢":123484,"é¹£":123485,"çĨĽ":123486,"æ½ĸ":123487,"æ½µ":123488,"ãµ":123489,"ãµIJ":123490,"æ¾Ĥ":123491,"æ¾Ľ":123492,"çij¬":123493,"æ½½":123494,"æ½¾":123495,"æ½ı":123496,"æĨŃ":123497,"æĨķ":123498,"𬸣":123499,"æĪŃ":123500,"褯":123501,"禤":123502,"ð«į½":123503,"嫽":123504,"éģ¹":123505,"ð¬´Ĭ":123506,"çĴ¥":123507,"çĴ²":123508,"çĴĴ":123509,"æĨĻ":123510,"æĵIJ":123511,"éĦ¹":123512,"èĸ³":123513,"éŀĶ":123514,"é»ĩ":123515,"ð¬ŀ":123516,"ð¬ŀŁ":123517,"èķĹ":123518,"èĸ¢":123519,"èķ¹":123520,"æ©ŀ":123521,"æ©ij":123522,"橦":123523,"éĨij":123524,"è§±":123525,"磡":123526,"ð¥ķ":123527,"ð¥ķ¢":123528,"ç£ľ":123529,"è±®":123530,"ð«Ł¦":123531,"ð¬ºĪ":123532,"ð«łľ":123533,"é¹¾":123534,"èϤ":123535,"æļ¿":123536,"æĽĮ":123537,"æĽĪ":123538,"ã¬ļ":123539,"è¹ħ":123540,"踶":123541,"äĹĽ":123542,"èŀĹ":123543,"çĸģ":123544,"ãłĵ":123545,"幪":123546,"ðª©":123547,"ðª©ĺ":123548,"嶦":123549,"ð¬Ń¬":123550,"ð¨±ij":123551,"ð¬Ń¯":123552,"é¦ŀ":123553,"ç©Ħ":123554,"ç¯ļ":123555,"篯":123556,"ç°ī":123557,"é¼½":123558,"è¡ł":123559,"缦":123560,"èŀ£":123561,"縢":123562,"é²Ń":123563,"鲯":123564,"é²°":123565,"鲺":123566,"é²¹":123567,"ð«Ĺ´":123568,"亸":123569,"çĻĢ":123570,"çĺŃ":123571,"𬸦":123572,"ç¾±":123573,"ç³Ĵ":123574,"çĩĭ":123575,"çĨ»":123576,"çĩĬ":123577,"çĩļ":123578,"çĩı":123579,"æ¿©":123580,"æ¿ĭ":123581,"澪":123582,"æ¾½":123583,"æ¾´":123584,"æ¾Ń":123585,"æ¾¼":123586,"æĨ·":123587,"æĨº":123588,"æĩĶ":123589,"é»ī":123590,"å¬Ľ":123591,"鹨":123592,"翯":123593,"ð«Ħ·":123594,"çĴ±":123595,"𤩽":123596,"çĴ¬":123597,"çĴ®":123598,"髽":123599,"æĵ¿":123600,"èĸ¿":123601,"èĸ¸":123602,"æªij":123603,"æ«Ĩ":123604,"æªŀ":123605,"éĨ¨":123606,"ç¹Ħ":123607,"磹":123608,"磻":123609,"çŀ«":123610,"çŀµ":123611,"è¹IJ":123612,"èŁı":123613,"ãĺ":123614,"ãĺİ":123615,"ð¬Ń³":123616,"éķ¤":123617,"ð¬Ń¶":123618,"ð«Ķį":123619,"éķ¥":123620,"éķ¨":123621,"ð¬Ń¸":123622,"ð¨±Ķ":123623,"ð¬Ń¼":123624,"ð«Ķİ":123625,"磰":123626,"ç©Ļ":123627,"穾":123628,"穣":123629,"ç°ķ":123630,"ç°ĥ":123631,"ç°ı":123632,"åĦ¦":123633,"éŃĭ":123634,"æĸ¶":123635,"èīļ":123636,"𬸪":123637,"è°¿":123638,"ä²ł":123639,"ð¬¶Ł":123640,"é²¾":123641,"ð¬¶ł":123642,"鲿":123643,"é³ģ":123644,"é³Ĥ":123645,"é³Ī":123646,"é³ī":123647,"çį¯":123648,"äĹª":123649,"é¦ĺ":123650,"è¥ķ":123651,"è¥ļ":123652,"𬶨":123653,"èŀ±":123654,"çĶĵ":123655,"嬬":123656,"嬥":123657,"ð¦Ī":123658,"ð¦Ī¡":123659,"ð«Ħ¸":123660,"çĵĢ":123661,"éĩIJ":123662,"鬶":123663,"çĪĩ":123664,"éŀ³":123665,"éŀ®":123666,"ð¬Łģ":123667,"èĹŁ":123668,"èŦ":123669,"èŨ":123670,"é¹²":123671,"檫":123672,"黡":123673,"ç¤ŀ":123674,"ç¤Į":123675,"ð¥ĸ":123676,"ð¥ĸ¨":123677,"è¹¢":123678,"è¹ľ":123679,"èŁ«":123680,"äĹ´":123681,"åļļ":123682,"é«ĥ":123683,"éķ®":123684,"éķ±":123685,"éħĤ":123686,"馧":123687,"ç°ł":123688,"ç°Ŀ":123689,"ç°°":123690,"鼫":123691,"鼩":123692,"çļ¦":123693,"èĩij":123694,"ä²¢":123695,"é³ij":123696,"é³Ĵ":123697,"é¹±":123698,"鹯":123699,"çĻĹ":123700,"ð¦Ĵ":123701,"ð¦Ĵį":123702,"æĹŀ":123703,"ç¿·":123704,"åĨģ":123705,"äİĸ":123706,"çĢĶ":123707,"çĢį":123708,"çĢĮ":123709,"è¥ľ":123710,"ä´Ļ":123711,"ð¬ĻĬ":123712,"åļŃ":123713,"ã°":123714,"ã°Ģ":123715,"鬷":123716,"éĨŃ":123717,"蹯":123718,"èłĭ":123719,"翾":123720,"é³ĺ":123721,"åĦ³":123722,"åĦ´":123723,"é¼Ĺ":123724,"ð¬¶Ń":123725,"ð©¾Į":123726,"é³ļ":123727,"é³Ľ":123728,"éºij":123729,"éºĸ":123730,"èłĥ":123731,"å½Ł":123732,"嬿":123733,"é¬Ĵ":123734,"èĺĺ":123735,"æ¬Ĥ":123736,"éĨµ":123737,"颥":123738,"çĶĹ":123739,"ð¨Ł":123740,"ð¨Łł":123741,"å·ĩ":123742,"éħħ":123743,"é«İ":123744,"çĬ¨":123745,"𬶮":123746,"ð¨Ń":123747,"ð¨Ńī":123748,"ã¸Į":123749,"çĪĶ":123750,"ç̱":123751,"ç̹":123752,"ç̼":123753,"ç̵":123754,"襫":123755,"åŃħ":123756,"骦":123757,"ð¬Ļĭ":123758,"ḛ̀":123759,"ð¤«":123760,"ð¤«ī":123761,"çĵĸ":123762,"é¬ĺ":123763,"趯":123764,"ð¬ºĵ":123765,"ç½į":123766,"é¼±":123767,"é³ł":123768,"鳡":123769,"é³£":123770,"çĪŁ":123771,"çĪļ":123772,"çģĪ":123773,"éŁĤ":123774,"ç³µ":123775,"èĺ¼":123776,"礵":123777,"é¹´":123778,"èºĶ":123779,"çļŃ":123780,"é¾¢":123781,"鳤":123782,"亹":123783,"ç±¥":123784,"é¼·":123785,"ð«ļŃ":123786,"çİĥ":123787,"éĨ¾":123788,"é½ĩ":123789,"è§¿":123790,"èł¼":123791,"×§":123792,"פ":123793,"׼":123794,"×ķת":123795,"ס":123796,"×Ļ×Ŀ":123797,"צ":123798,"×Ĵ":123799,"×ĺ":123800,"×ķר":123801,"×Ŀ":123802,"×ķ׾":123803,"×ĸ":123804,"à¹Ĥ":123805,"ïº":123806,"ðŁį":123807,"ðŁIJ":123808,"×Ļר":123809,"ï»":123810,"ðŁij":123811,"ðĿIJ":123812,"ðŁı":123813,"ðŁĶ":123814,"ðŁĮ":123815,"ðŁİ":123816,"ðŁĵ":123817,"ף":123818,"ðĿij":123819,"×ķ×ĵ":123820,"ï¦":123821,"Ġ×ķ":123822,"×ķ×ij":123823,"à¸Ńà¸ĩ":123824,"ðĿĺ":123825,"×Ļת":123826,"ðĿķ":123827,"à¸Ĺีà¹Ī":123828,"ائ":123829,"ð٤":123830,"×ķף":123831,"رÙĬ":123832,"×Ļ׾":123833,"ระ":123834,"าย":123835,"ï¯":123836,"ï®":123837,"าม":123838,"âĩ":123839,"ðŁ¥":123840,"ïŃ":123841,"ðĿĻ":123842,"×ķ׳":123843,"á½":123844,"Ġ׼":123845,"ðŁļ":123846,"âļ":123847,"ï§":123848,"×ijר":123849,"×Ļ׳":123850,"á´":123851,"Ġ×Ĺ":123852,"á¼":123853,"ðĿĹ":123854,"Ġ×¢":123855,"×Ļ×Ķ":123856,"ãģ£ãģŁ":123857,"ãģĵãģ¨":123858,"á¸":123859,"ÙĬÙĨ":123860,"ãģªãģĦ":123861,"اع":123862,"ศ":123863,"à¹Īà¸ĩ":123864,"×Ļ×ĵ":123865,"×ŀש":123866,"áĪ":123867,"׳×Ļ":123868,"×Ļ×ij":123869,"ï¥":123870,"ðĿĵ":123871,"Ġ×Ļ":123872,"×ļ":123873,"ัà¸ĩ":123874,"âĵ":123875,"ï¤":123876,"ĠاÙĦØ£":123877,"าà¸ģ":123878,"à¹īà¸Ļ":123879,"à¹Ģร":123880,"×ķ×Ŀ":123881,"á¹":123882,"ึ":123883,"×Ļ×§":123884,"à¸ĭ":123885,"à¸Ħร":123886,"à¸ĺ":123887,"ัà¸ģ":123888,"ðŁķ":123889,"ÙĪÙĨ":123890,"à¸Ńย":123891,"âĬ":123892,"ðĿĴ":123893,"ĠاÙĦع":123894,"าà¸Ļ":123895,"×Ļף":123896,"ÙĦÙĬ":123897,"×Ļש":123898,"à¸Ľà¸£à¸°":123899,"à¹Ģà¸Ľ":123900,"Ġ׳":123901,"×ķס":123902,"à¸ł":123903,"ÙħÙĨ":123904,"×ķ×¢":123905,"×ķ×ŀ":123906,"âĮ":123907,"ð٧":123908,"à¹ĩà¸Ļ":123909,"à¸į":123910,"ãİ":123911,"áµ":123912,"ĠاÙĦس":123913,"×ķ×§":123914,"หล":123915,"ðŁĩ":123916,"âı":123917,"ð٦":123918,"Ġ×Ķ×ŀ":123919,"ÙĪØ§":123920,"Ġת":123921,"ר×IJ":123922,"à¸Ńà¸Ļ":123923,"ษ":123924,"à¹Īว":123925,"×ķצ":123926,"íĹ":123927,"ãĦ":123928,"ï¨":123929,"ï¹":123930,"âİ":123931,"ï²":123932,"ðĿļ":123933,"ðIJ":123934,"à¸Ħว":123935,"หà¸Ļ":123936,"Ġר":123937,"بÙĬ":123938,"รà¹Į":123939,"را":123940,"شر":123941,"×ķ×Ĺ":123942,"×ķפ":123943,"×ķש":123944,"×ķ×Ĵ":123945,"íĿ":123946,"âĽ":123947,"à¸ķิ":123948,"à¹Ģà¸ģ":123949,"ï³":123950,"ï±":123951,"à¸Ķà¹ī":123952,"ë¹":123953,"ï¬":123954,"á¿":123955,"ðŁĽ":123956,"ðĿĸ":123957,"à¹Īาà¸ĩ":123958,"ูà¹ī":123959,"Ġ×Ķ×IJ":123960,"ĠاÙĦØŃ":123961,"פר":123962,"ÙĪÙħ":123963,"à¹Ģล":123964,"íĸ":123965,"×Ļ×¢":123966,"ìĪ":123967,"íĵ":123968,"ðŁħ":123969,"áł":123970,"à¸Ħวาม":123971,"à¸Īะ":123972,"׳×Ķ":123973,"Ġ×§":123974,"à¸Ł":123975,"à¹īà¸ĩ":123976,"หม":123977,"تÙħ":123978,"׾×Ļ":123979,"ÙĬد":123980,"à¹Īà¸Ļ":123981,"×Ĺר":123982,"שר":123983,"à¹Ģà¸Ĺ":123984,"×ŀר":123985,"ëĸ":123986,"عÙĦ":123987,"×ŀ×¢":123988,"â²":123989,"׾×Ķ":123990,"Ġפ":123991,"à¸Ńà¸ģ":123992,"سÙĦ":123993,"×Ļ×ŀ":123994,"ÙĤÙĬ":123995,"íİ":123996,"تØŃ":123997,"×Ļס":123998,"×Ļ×Ĺ":123999,"íĽ":124000,"ï°":124001,"â½":124002,"áī":124003,"áĬ":124004,"á¨":124005,"Ùĩا":124006,"Ġ׾×Ķ":124007,"×ķ×IJ":124008,"Ùħا":124009,"à¹īà¸Ńà¸ĩ":124010,"رب":124011,"ĠاÙĦج":124012,"×ŀ×ĵ":124013,"ÙħÙĦ":124014,"تر":124015,"à¹Ģà¸Ķ":124016,"קר":124017,"íħ":124018,"ì¼":124019,"ê¿":124020,"ãĪ":124021,"áIJ":124022,"ðŁĹ":124023,"ê¦":124024,"áĭ":124025,"ðĿĶ":124026,"à¹Ģà¸Ľà¹ĩà¸Ļ":124027,"à¹ĥห":124028,"มา":124029,"วà¹Īา":124030,"มี":124031,"ีà¹ī":124032,"à¹Ħมà¹Ī":124033,"ÙĨÙĬ":124034,"ؤ":124035,"รา":124036,"×ķ×Ļ":124037,"ãĤĪãģĨ":124038,"ิà¸Ķ":124039,"×Ļפ":124040,"×Ĺ׾":124041,"ÙĤد":124042,"à¹Ģส":124043,"×Ļ×ĺ":124044,"à¸ģล":124045,"ר׼":124046,"×ķ׼":124047,"×Ļ׼":124048,"ëĪ":124049,"ëĥ":124050,"ðŁĸ":124051,"áħ":124052,"â¼":124053,"ãī":124054,"à¹Ħà¸Ķà¹ī":124055,"ת×Ļ":124056,"×Ļ×IJ":124057,"ĠاÙĦØ¥":124058,"à¸łà¸²":124059,"ริ":124060,"ÙĤØ©":124061,"ØŃد":124062,"ê»":124063,"ì±":124064,"ת×Ĺ":124065,"ìº":124066,"âĭ":124067,"áĦ":124068,"á¾":124069,"âµ":124070,"â¾":124071,"ĠÙĪØ§ÙĦ":124072,"׳×ķ":124073,"ÙĢ":124074,"ÙĬا":124075,"à¸ģà¹ĩ":124076,"×ŀ×Ķ":124077,"ãģĦãĤĭ":124078,"عد":124079,"ĠاÙĦÙĨ":124080,"Ġ×Ķש":124081,"ئ":124082,"ัà¹īà¸ĩ":124083,"รัà¸ļ":124084,"ÙĪÙĤ":124085,"ãģ§ãģį":124086,"à¹Ģà¸ŀ":124087,"׼׾":124088,"×ĺר":124089,"ัà¸Ķ":124090,"à¸Ńา":124091,"ì¢":124092,"à¸Ńà¸ļ":124093,"à¸ķร":124094,"à¹Ģà¸Ĭ":124095,"ìĶ":124096,"ãģĹãģ¾":124097,"ëģ":124098,"ëķ":124099,"ðŁĻ":124100,"âĴ":124101,"á¶":124102,"à¹ģล":124103,"ÙĨا":124104,"à¹ĥหà¹ī":124105,"à¹Ħà¸Ľ":124106,"×£":124107,"ัว":124108,"าà¸ĩ":124109,"×ĵר":124110,"×ij׾":124111,"פ×Ļ":124112,"Ġ×ĵ":124113,"ĠاÙĦÙģ":124114,"à¹Ģà¸Ĥ":124115,"ש×Ķ":124116,"×IJר":124117,"ë¬":124118,"ãģ«ãģª":124119,"ÑĢо":124120,"วิ":124121,"Ùħر":124122,"×IJת":124123,"Ùĥر":124124,"سب":124125,"ÙĨت":124126,"ãģĹãģĦ":124127,"اج":124128,"à¸Ńรà¹Į":124129,"ÙĥÙĦ":124130,"سÙħ":124131,"สิ":124132,"×Ļצ":124133,"ëĿ":124134,"íľ":124135,"ìī":124136,"áĨ":124137,"ÙĩÙħ":124138,"à¸Ļีà¹ī":124139,"ãģĤãĤĭ":124140,"ãģĦãģ¦":124141,"سÙĬ":124142,"׾×IJ":124143,"در":124144,"ãģļ":124145,"ÙĪØ¬":124146,"ĠاÙĦØ®":124147,"صر":124148,"íı":124149,"à¹īาà¸ĩ":124150,"ุà¸Ķ":124151,"×ķ×ĺ":124152,"×ij×¢":124153,"íĨ":124154,"à¸Ĭา":124155,"รม":124156,"ש×ŀ":124157,"×ŀס":124158,"ê´":124159,"ì´":124160,"ëľ":124161,"ì¿":124162,"ì©":124163,"ë»":124164,"â¤":124165,"ðŁĨ":124166,"áĮ":124167,"áķ":124168,"ذا":124169,"à¸Ĺำ":124170,"à¸ķà¹Ī":124171,"ĠاÙĦÙĤ":124172,"ÙĦÙĥ":124173,"ูà¹Ī":124174,"à¸Ħุ":124175,"ÙĬÙħ":124176,"׳×Ļ×Ŀ":124177,"ืà¹Īà¸Ń":124178,"ÙĪØ¹":124179,"ãĤĩ":124180,"اÙĤ":124181,"Ġ×ij×¢":124182,"à¹Ģม":124183,"جÙħ":124184,"ừ":124185,"ãģĵãģ¨ãģĮ":124186,"بد":124187,"×ķ×Ķ":124188,"ש׾":124189,"Ùĩر":124190,"à¹Ģà¸Ļ":124191,"ãģ¹":124192,"íĭ":124193,"ì»":124194,"ì½":124195,"ëŃ":124196,"ìĮ":124197,"íĢ":124198,"ëĮ":124199,"ëº":124200,"ãĬ":124201,"à¹ĥà¸Ļ":124202,"Ġ×Ĵ":124203,"à¹Ĩ":124204,"à¸Īาà¸ģ":124205,"วย":124206,"à¹ĥà¸Ĭ":124207,"à¸ĩาà¸Ļ":124208,"ĠاÙĦØ´":124209,"اØŃ":124210,"à¹īาà¸Ļ":124211,"ืà¹Īà¸Ńà¸ĩ":124212,"×IJ×Ļ":124213,"بÙĦ":124214,"ã썿ĢĿ":124215,"×ł×¡":124216,"ãģ¾ãģĽ":124217,"ÙĥÙĨ":124218,"ער":124219,"ĠاÙĦد":124220,"שת":124221,"íŀ":124222,"Ùħس":124223,"صÙĦ":124224,"×ķ׳×Ķ":124225,"ارة":124226,"ÙĦÙħ":124227,"สม":124228,"Ø£ÙĨ":124229,"תר":124230,"×IJ×ŀ":124231,"عب":124232,"خت":124233,"ãĤĥ":124234,"ì¡":124235,"ì£":124236,"ива":124237,"สั":124238,"ึà¸ģ":124239,"ì¸":124240,"ëĨ":124241,"алÑĮн":124242,"ì³":124243,"ìį":124244,"ê¼":124245,"ê½":124246,"ìı":124247,"ãĮ":124248,"ãı":124249,"ï©":124250,"êª":124251,"áİ":124252,"Ġ×ĸ":124253,"à¸ģัà¸Ļ":124254,"×Ļ×ķ":124255,"à¸Ħà¸Ļ":124256,"׳×ķת":124257,"à¸ľà¸¹à¹ī":124258,"à¹ĥà¸Ī":124259,"ãģĦãģŁ":124260,"Ù쨱":124261,"×ĺ×Ļ":124262,"צ×Ļ":124263,"ãĤĤãģ®":124264,"ĠاÙĦص":124265,"ãģ¾ãģĽãĤĵ":124266,"دة":124267,"×ij×Ļ":124268,"ĠاÙĦر":124269,"Ġ×ŀ×IJ":124270,"สำ":124271,"à¹Ģห":124272,"عر":124273,"ãģªãģı":124274,"à¸ģระ":124275,"×ij×ĵ":124276,"à¹Ģà¸Ī":124277,"×Ļ×ļ":124278,"×Ĺ×Ļ":124279,"ÙĬع":124280,"ש×ij":124281,"ÙĨØ©":124282,"ÙĪØ¶":124283,"ÙĦÙģ":124284,"ÙĢÙĢ":124285,"פע":124286,"íĪ":124287,"×ŀ×§":124288,"à¸IJ":124289,"ØŃØ©":124290,"اص":124291,"Ñĭва":124292,"à¸Ħม":124293,"วั":124294,"à¸Ľà¸¥":124295,"ìŁ":124296,"íļ":124297,"ë´":124298,"ëij":124299,"ëī":124300,"ëĩ":124301,"ì¨":124302,"ë±":124303,"ëİ":124304,"â¬":124305,"á¥":124306,"áĹ":124307,"áĽ":124308,"áį":124309,"Å©":124310,"à¸Ķี":124311,"ôi":124312,"Ġס":124313,"׾×ķ":124314,"á»Ŀi":124315,"à¸Ħุà¸ĵ":124316,"ây":124317,"à¸Ļา":124318,"×Ĺ×ĵ":124319,"×ĵ×Ļ":124320,"หา":124321,"جÙĦ":124322,"à¹Ģว":124323,"ãĤĩãģĨ":124324,"ÙħØ©":124325,"ĠاÙĦÙĥ":124326,"Ġ×Ķ×¢":124327,"جر":124328,"×ĸר":124329,"اط":124330,"×Ľ×ª":124331,"×ķ׳×Ļ×Ŀ":124332,"ØŃÙħ":124333,"ê¶":124334,"رÙĥ":124335,"Ġ×ľ×¢":124336,"×ķ×ĸ":124337,"สร":124338,"צ׾":124339,"Ø¢":124340,"است":124341,"à¹Īม":124342,"خر":124343,"צע":124344,"×Ļר×ķת":124345,"ادة":124346,"شار":124347,"×ŀ×Ĺ":124348,"íĴ":124349,"à¹Ģรีย":124350,"×Ĺ×§":124351,"اث":124352,"รà¸ĩ":124353,"à¹Ģà¸ķ":124354,"à¸Īำ":124355,"à¸Ŀ":124356,"à¹Īาย":124357,"à¸Ħล":124358,"ÙĤÙĪ":124359,"иÑĩеÑģк":124360,"à¸ĵà¹Į":124361,"ัย":124362,"Ùħع":124363,"ë¨":124364,"ë¿":124365,"ë®":124366,"ï´":124367,"ì¥":124368,"ì«":124369,"ëµ":124370,"á¡":124371,"âį":124372,"ðĵ":124373,"â°":124374,"à¸Ĥà¸Ńà¸ĩ":124375,"Ùĭ":124376,"à¸ģัà¸ļ":124377,"ãģ®ãģ§":124378,"à¹īว":124379,"à¸Ńยà¹Īาà¸ĩ":124380,"ãģŃ":124381,"á»ĩt":124382,"à¸ķà¹īà¸Ńà¸ĩ":124383,"×ŀ×Ļ":124384,"à¹ģà¸ļ":124385,"×Ĵר":124386,"ÙĪÙģ":124387,"ÙĤÙĦ":124388,"à¸łà¸²à¸ŀ":124389,"ר×Ļ":124390,"ลา":124391,"ÙĬس":124392,"Ġצ":124393,"ÙĬÙģ":124394,"Ġ×ĺ":124395,"à¸ľà¸¥":124396,"áng":124397,"รว":124398,"Ġ×ŀש":124399,"×IJ×ķת":124400,"×ĸ×Ķ":124401,"ูà¸ģ":124402,"à¸Ļัà¸ģ":124403,"اÙĨÙĬ":124404,"دا":124405,"ãģ³":124406,"׼ף":124407,"ãĤīãĤĮ":124408,"ãĤĮãģ°":124409,"תק":124410,"úc":124411,"ÙĪØ²":124412,"×Ļר×Ķ":124413,"Ġngh":124414,"ánh":124415,"Ġ×ķ×IJ":124416,"á»ħ":124417,"สุà¸Ķ":124418,"ëį°":124419,"اض":124420,"اÙĦÙĬ":124421,"بار":124422,"عÙħ":124423,"à¸ļา":124424,"تج":124425,"à¸ŀร":124426,"×ķר×Ķ":124427,"ảng":124428,"Ø®ÙĦ":124429,"à¸ī":124430,"ắc":124431,"ש×Ļ×Ŀ":124432,"íĶ":124433,"Ù쨳":124434,"×Ļ×Ĵ":124435,"пÑĢ":124436,"ĠاÙĦØ«":124437,"سط":124438,"รูà¹ī":124439,"ีà¹Īย":124440,"à¸Ńà¸Ķ":124441,"ãģªãĤĬ":124442,"×Ĵ×ĵ":124443,"ãģĦãģ¾ãģĹãģŁ":124444,"סק":124445,"خص":124446,"laÅŁ":124447,"енно":124448,"بØŃ":124449,"สà¸Ļ":124450,"ฮ":124451,"ר×IJש":124452,"ÙħÙĪ":124453,"دÙĬد":124454,"ษา":124455,"×ķ×ļ":124456,"ãĥ§ãĥ³":124457,"à¸ķุ":124458,"Ġêµ":124459,"ĠÑģво":124460,"צ×ij":124461,"à¸Ńม":124462,"à¸Ľà¸£":124463,"تع":124464,"×Ķת":124465,"اÙħÙĦ":124466,"×ŀ׳":124467,"ç¶ļ":124468,"ฤ":124469,"íį":124470,"ëĺ":124471,"ë¤":124472,"ìij":124473,"â´":124474,"ãĭ":124475,"ĠباÙĦ":124476,"á»ģu":124477,"ĠاÙĦÙĦ":124478,"à¸ķัว":124479,"ذÙĩ":124480,"ึà¸ĩ":124481,"à¹ĥà¸Ĭà¹ī":124482,"á»ĵng":124483,"à¸Ļั":124484,"มาà¸ģ":124485,"ãĥŁ":124486,"×ŀ×ķ":124487,"à¸Ĺย":124488,"á»Ļi":124489,"ằ":124490,"ảo":124491,"à¹Ĥà¸Ķ":124492,"×IJ׾":124493,"สาม":124494,"ÙĪØ¨":124495,"à¸Ĺุ":124496,"ยัà¸ĩ":124497,"עת":124498,"×ķ׳×ķת":124499,"à¸Ĥึ":124500,"à¸Ĥึà¹īà¸Ļ":124501,"à¸ģà¹Ī":124502,"ẫ":124503,"á»ijc":124504,"ãģĹãĤĩãģĨ":124505,"á»ĭch":124506,"Ġ×IJ×ķת":124507,"Ġש×IJ":124508,"׼×ķ׾":124509,"á»Ļc":124510,"عة":124511,"à¸Ĺี":124512,"à¹Ģà¸Ń":124513,"Ùĥت":124514,"ãģ»":124515,"ẻ":124516,"ìĹħ":124517,"à¸Ńà¸Ńà¸ģ":124518,"اÙĨت":124519,"à¹Ħร":124520,"Ġ×IJ×Ĺר":124521,"طر":124522,"ÙĨد":124523,"ืà¹īà¸Ń":124524,"Ø·ÙĦ":124525,"×IJ×Ķ":124526,"uyên":124527,"íĸī":124528,"×ij×Ķ":124529,"à¸Ħà¹Ī":124530,"à¸Ĭà¹Īว":124531,"ãģĤãĤĬãģ¾ãģĻ":124532,"ÙĬب":124533,"ק׾":124534,"ãĥĻ":124535,"Ä©":124536,"سر":124537,"าว":124538,"ãĤ±":124539,"à¸ļริ":124540,"ר×Ĵ":124541,"á»ĥu":124542,"ØŃت":124543,"×ķ×ŀ×Ļ":124544,"بÙĨ":124545,"êµIJ":124546,"ÄŁu":124547,"ãģªãĤĵ":124548,"×ij×§":124549,"Ġפר":124550,"ắn":124551,"ØŃÙĦ":124552,"×ij×Ĺ":124553,"ấu":124554,"×ij×ķ×ĵ":124555,"ãĥ¯":124556,"Ġ׾ק":124557,"ัà¸į":124558,"à¸ŀิ":124559,"×Ĺ×Ķ":124560,"×ĸ׼":124561,"ãĥ¼ãĥł":124562,"ÑĤелÑĮ":124563,"×ŀ×Ļ×ĵ":124564,"ÙĬØ®":124565,"ẳ":124566,"تص":124567,"à¸ĺิ":124568,"è¾¼":124569,"ìĵ":124570,"ÙĥØ©":124571,"ÙĤب":124572,"à¸Ħà¹Į":124573,"à¹īาย":124574,"à¸ĵะ":124575,"าะ":124576,"ëĴ":124577,"ê¾":124578,"ë·":124579,"ìĩ":124580,"êº":124581,"ìģ":124582,"ëĢ":124583,"ì¾":124584,"ë½":124585,"ëļ":124586,"ìŃ":124587,"ìİ":124588,"áij":124589,"ëĹ":124590,"êĴ":124591,"à¡":124592,"à¬":124593,"ðIJĮ":124594,"ãĩ":124595,"ðĿĦ":124596,"Ġ׾×IJ":124597,"ãģ¨ãģĦãģĨ":124598,"Ġnhi":124599,"×Ļ×ķת":124600,"Ġש×Ķ":124601,"à¹ģลà¹īว":124602,"Æ°á»Ľc":124603,"à¸Ķà¹īวย":124604,"à¸Ĺาà¸ĩ":124605,"×ł×ª":124606,"פת":124607,"à¹ģà¸ķà¹Ī":124608,"ưng":124609,"à¸Ńยูà¹Ī":124610,"à¹īำ":124611,"Ġ×IJ׾":124612,"ÙĥÙħ":124613,"ấp":124614,"ลà¸ĩ":124615,"ãģŁãĤģ":124616,"×Ĵ׾":124617,"หร":124618,"ĠÑĢе":124619,"à¹Ģà¸Ĥà¹īา":124620,"ÙĤر":124621,"Ġ×Ķס":124622,"ÙĪÙĬ":124623,"สามาร":124624,"สามารà¸ĸ":124625,"Äĥn":124626,"à¸Ńี":124627,"פ×ķ":124628,"×Ļ׳×ķ":124629,"วัà¸Ļ":124630,"ặc":124631,"íķĻ":124632,"×ŀת":124633,"êu":124634,"ẹ":124635,"ÙģÙĬ":124636,"×ŀצ":124637,"à¸Ħา":124638,"ãģĿãģĨ":124639,"ãĢħ":124640,"از":124641,"اÙĩ":124642,"ר×Ļ×Ŀ":124643,"ấn":124644,"หาร":124645,"ạt":124646,"ÙĨÙĩ":124647,"à¹Ģà¸Ħร":124648,"جÙĩ":124649,"׼×Ļ":124650,"ắt":124651,"à¸Ħà¹īา":124652,"رة":124653,"ãĥı":124654,"ÙĥÙĪÙĨ":124655,"ứng":124656,"Ġìļ°":124657,"ยà¹Į":124658,"à¹Īวà¸Ļ":124659,"à¸ģำ":124660,"ثر":124661,"Ñģи":124662,"ĠاÙĦØ·":124663,"Ġ×Ķצ":124664,"ĠØ·":124665,"ĠاÙĦÙĪ":124666,"ê¹Į":124667,"ØŃÙĬ":124668,"ارات":124669,"à¹Ģà¸ĭ":124670,"با":124671,"гÑĢ":124672,"รี":124673,"ืà¸Ńà¸Ļ":124674,"عت":124675,"ÙĤاÙĦ":124676,"دÙħ":124677,"Ø¡":124678,"Ġ×ŀ×§":124679,"×ĵ×Ļ×Ŀ":124680,"×¢×ľ":124681,"ãģĴ":124682,"ëĭĺ":124683,"×¢×Ķ":124684,"Ġìĸ´":124685,"ÑģÑĮ":124686,"ÙĤØ·":124687,"ãĥĽ":124688,"èĢĥãģĪ":124689,"à¹ģà¸Ļ":124690,"ÙĪØ§Øª":124691,"âu":124692,"ĠìĤ¬ëŀ":124693,"หว":124694,"ĠاÙĦØ£Ùħ":124695,"Ġ×Ķ×ŀש":124696,"بÙĪ":124697,"à¸Ĭà¸Ļ":124698,"ãĤĵãģ§ãģĻ":124699,"วà¸Ļ":124700,"à¸ģรรม":124701,"×ŀ×ķ×ĵ":124702,"ÙĥاÙĨ":124703,"×ķ×£":124704,"олог":124705,"تÙĨ":124706,"à¸ķà¹Į":124707,"ê²ĥ":124708,"ר×ĺ":124709,"ừng":124710,"×ķ×ij×Ķ":124711,"ÙħØŃ":124712,"ĠЧ":124713,"פ×Ĵ":124714,"สà¸ĸ":124715,"ãģĭãĤĬ":124716,"ınız":124717,"à¹Ģย":124718,"ãĥ¼ãĥ³":124719,"ãģĬãĤĬ":124720,"פש":124721,"ิà¸ķ":124722,"Ø·ÙĨ":124723,"×Ļת×Ļ":124724,"×IJ׳":124725,"çek":124726,"ìª":124727,"×ŀ×ij":124728,"ศา":124729,"ãĤ¹ãĤ¿":124730,"à¸ļุ":124731,"×ĵ×ijר":124732,"ãģĦãģı":124733,"สะ":124734,"à¹Ģหล":124735,"ิà¸ĩ":124736,"à¸ŀัà¸Ļ":124737,"ãģĦãģŁãģł":124738,"ãĤĤãĤī":124739,"à¹īม":124740,"ãģĵãģ¨ãģĮãģ§ãģį":124741,"ารà¹Į":124742,"ุà¸ĩ":124743,"íij":124744,"ì¯":124745,"ë¼":124746,"íĤ":124747,"ì·":124748,"ê¡":124749,"áı":124750,"áĴ":124751,"ðĿľ":124752,"á©":124753,"ðŁĦ":124754,"ðIJ¤":124755,"Ġש׾":124756,"Ġ×ŀ×Ķ":124757,"à¹ģละ":124758,"Ġ׼׾":124759,"ẽ":124760,"á»Ļng":124761,"ذÙĬ":124762,"ле":124763,"×¥":124764,"ãģªãģ©":124765,"ĠÙĪØ£":124766,"หà¸Ļà¹īา":124767,"ãģ¾ãģ§":124768,"à¸ķà¹Īà¸Ń":124769,"à¸Ĺัà¹īà¸ĩ":124770,"ãģłãģij":124771,"à¹ģà¸ļà¸ļ":124772,"à¹Ģรา":124773,"פ׾":124774,"ãģŁãģĦ":124775,"à¹Ģลย":124776,"ãģ£ãģ¦ãģĦãĤĭ":124777,"ếp":124778,"ึà¹Īà¸ĩ":124779,"ê´Ģ":124780,"ê³Ħ":124781,"׼×ķ":124782,"à¹Ģรืà¹Īà¸Ńà¸ĩ":124783,"×§×Ļ":124784,"êµŃ":124785,"פס":124786,"تÙĬ":124787,"ãĥĦ":124788,"Ġ×Ķ×Ĺ":124789,"ги":124790,"ר×IJ׾":124791,"×ŀ׾":124792,"ĠØ£ÙĬ":124793,"ĠعÙĦÙĬ":124794,"ãģĭãģ£ãģŁ":124795,"ש×Ļ":124796,"дÑĥ":124797,"×ŀף":124798,"׳×ĺ":124799,"׳×Ļת":124800,"miÅŁ":124801,"׼×Ŀ":124802,"Ġ×ijר":124803,"Ġ׾×ij":124804,"ĠÐĽ":124805,"çe":124806,"×ķ׳×Ļ":124807,"ãĤĪãģĨãģ«":124808,"פ×ķר":124809,"ãĥį":124810,"ÙĥÙĬ":124811,"×Ĺת":124812,"ÙģÙĦ":124813,"Ġ×Ķ×§":124814,"Ġ×Ķ×ij":124815,"Ġ×ŀס":124816,"à¹Īาà¸Ļ":124817,"пеÑĢ":124818,"à¹Īาว":124819,"Ġ×ij×IJ":124820,"ĠÙĪÙĩ":124821,"à¸Ļำ":124822,"Ġ×ijש":124823,"׳ק":124824,"ãģ©ãģĨ":124825,"ש×ķת":124826,"×ĵ×Ķ":124827,"à¹Ģà¸ļ":124828,"ÙĨس":124829,"Ġìļ°ë¦¬":124830,"สà¹Īวà¸Ļ":124831,"ลัà¸ĩ":124832,"جز":124833,"Ġ×Ĺ×Ļ":124834,"Ùĥثر":124835,"ละ":124836,"Ùĩد":124837,"ĠÙĪØ¨":124838,"اÙĦÙħ":124839,"à¹ģม":124840,"Æ¡i":124841,"Ġ×ij×Ĺ":124842,"ữa":124843,"à¹Ģà¸Ĺศ":124844,"à¸ķัà¹īà¸ĩ":124845,"огда":124846,"׾ק":124847,"دد":124848,"สรà¹īาà¸ĩ":124849,"à¸Ĭี":124850,"Ù쨶":124851,"à¹ģห":124852,"uyá»ĩn":124853,"รัà¸ģ":124854,"á»ĩm":124855,"สา":124856,"פק":124857,"ียà¸ĩ":124858,"à¸ķà¹Īาà¸ĩ":124859,"à¸Ħรัà¹īà¸ĩ":124860,"ØŃÙĤ":124861,"à¹Ģà¸Ńà¸ĩ":124862,"ائÙĬ":124863,"×ĺ×¢":124864,"اÙĦØ©":124865,"ิà¹Īม":124866,"ãĤ½":124867,"دÙī":124868,"Ġר×IJ":124869,"ãģ£ãģ¨":124870,"ãĥĥãĥĹ":124871,"ÙĬرة":124872,"ê±´":124873,"×ŀ×IJ":124874,"×ķ×ķ":124875,"بع":124876,"ãģ²":124877,"ราย":124878,"×ĵ×Ŀ":124879,"تÙģ":124880,"à¸ķà¸ģ":124881,"ạng":124882,"ãĤĴè¦ĭ":124883,"à¸Ĭั":124884,"Æ°á»Ł":124885,"Æ°á»Łng":124886,"جب":124887,"×ķ×ŀר":124888,"ĠìĤ¬ëŀĮ":124889,"óng":124890,"รั":124891,"Ġ×Ķ×ĸ":124892,"רצ":124893,"Ġ×Ĺ×ĵ":124894,"ذÙĦÙĥ":124895,"×ķר×Ļ":124896,"ãģ¡ãĤĥ":124897,"Ù쨹":124898,"Ġ׾צ":124899,"ái":124900,"à¹ĩà¸ļ":124901,"ãģİ":124902,"à¸ģิ":124903,"ạc":124904,"ë©°":124905,"ãģªãĤĭ":124906,"×ķ׾×Ŀ":124907,"à¹ģà¸Ĺ":124908,"×ķ×¥":124909,"меÑĤ":124910,"Ã¼ÅŁ":124911,"ÑĢÑı":124912,"à¸Ĵ":124913,"ÑģÑĤоÑı":124914,"عÙĪØ¯":124915,"Ùħار":124916,"طة":124917,"à¸ŀื":124918,"кÑĢ":124919,"à¹ģà¸ģ":124920,"à¹Ĥรà¸ĩ":124921,"×ij×Ļ×ĺ":124922,"ê²ł":124923,"×ķ׾×Ķ":124924,"ØŃر":124925,"ืà¹Īà¸Ńà¸Ļ":124926,"×ķ×ijר":124927,"×Ĺש":124928,"ãĥķãĤ¡":124929,"×ŀ×ĺ":124930,"út":124931,"Ġdön":124932,"ắng":124933,"ëłĩ":124934,"ẳng":124935,"วà¸ģ":124936,"صد":124937,"خط":124938,"à¸Ńั":124939,"ãĤıãĤĮ":124940,"سÙĦاÙħ":124941,"à¹Ģรà¹ĩ":124942,"×Ļש×Ļ":124943,"جاÙĦ":124944,"ãģijãĤĭ":124945,"à¸Ĭาà¸ķิ":124946,"ÙĪØ§ÙĤ":124947,"à¹Ĥà¸Ļ":124948,"ãģ¦ãģĹãģ¾":124949,"اعة":124950,"ãĤŃãĥ£":124951,"à¸įา":124952,"ÙĦاÙĤ":124953,"ิà¸ģ":124954,"ĠÑģов":124955,"ÑĢак":124956,"×Ļ׳×Ļ":124957,"Ã¼ÄŁ":124958,"Ã¼ÄŁÃ¼":124959,"×§×ij":124960,"à¹Īà¸Ńà¸ĩ":124961,"Ġgerçek":124962,"à¸Ĺั":124963,"ованиÑı":124964,"×ŀ׼":124965,"سة":124966,"×Ļ×£":124967,"leÅŁ":124968,"Ùħؤ":124969,"ĠìĿĺ":124970,"à¸IJาà¸Ļ":124971,"ĠÑģоб":124972,"ĠêµŃ":124973,"עצ":124974,"зв":124975,"สà¸ĩ":124976,"زÙĦ":124977,"ãģıãĤĮ":124978,"иÑĢÑĥ":124979,"تأ":124980,"полн":124981,"ìĺĢ":124982,"ÙĨØ´":124983,"׼×IJ":124984,"ÙħØ´":124985,"à¸Ķà¹Į":124986,"ÙĪÙĬÙĦ":124987,"à¹ģà¸Ĥ":124988,"ãģ£ãģ¦ãģĹãģ¾":124989,"ноÑģÑĤ":124990,"вл":124991,"ÙħÙĤ":124992,"راج":124993,"å¤ī":124994,"ëĽ":124995,"â¸":124996,"ìIJ":124997,"à»":124998,"áļ":124999,"â»":125000,"êĻ":125001,"â§":125002,"ðĴ":125003,"ðĿĩ":125004,"Ġ×IJת":125005,"ĠÙĦÙĦ":125006,"ĠØ£ÙĨ":125007,"Ġ×ķ×Ķ":125008,"ãģ«ãģ¯":125009,"Ġ×Ļש":125010,"تÙĩ":125011,"ÃŃnh":125012,"ÙĬات":125013,"Ġ×ij×ŀ":125014,"à¸Ļัà¹īà¸Ļ":125015,"à¸Ļà¹īำ":125016,"Ãło":125017,"à¸ķาม":125018,"ãģ®ãģ¯":125019,"dır":125020,"Ġnghi":125021,"ặt":125022,"×ŀ×Ļ×Ŀ":125023,"ãģ¦ãģĦãĤĭ":125024,"Ġ×ijת":125025,"หรืà¸Ń":125026,"ĠسÙĬ":125027,"ãģªãĤī":125028,"à¹Ĥà¸Ķย":125029,"ıyor":125030,"à¸Ńีà¸ģ":125031,"á»ĩnh":125032,"Ñĭм":125033,"à¸Ĺุà¸ģ":125034,"Ġ׾×Ĺ":125035,"Ġ×Ķר":125036,"Ġ×Ķ×Ļ":125037,"à¸ŀระ":125038,"à¹Ģวลา":125039,"Ġغ":125040,"ẫn":125041,"mÄ±ÅŁ":125042,"׼×Ķ":125043,"á»ijn":125044,"ãģ§ãģĹãĤĩãģĨ":125045,"ãĥ¢":125046,"à¸Ľà¸µ":125047,"ס×Ļ":125048,"ãģĵãĤį":125049,"Ġ׾פ":125050,"รà¸ĸ":125051,"ê¸Ī":125052,"à¸ģวà¹Īา":125053,"무":125054,"á»įng":125055,"ãĤĵãģ§":125056,"ãĤĪãģĨãģª":125057,"á»ĵi":125058,"ãĤ¬":125059,"สà¹Īà¸ĩ":125060,"×Ļ׳×Ķ":125061,"à¸ĸูà¸ģ":125062,"à¸Īัà¸Ķ":125063,"Ġ×Ķ×Ĵ":125064,"ãĥľ":125065,"×ŀ×ķת":125066,"ÙĪÙĥ":125067,"ëĭ¨":125068,"ĠØ«":125069,"ãģ®ãģĮ":125070,"à¹Ģหà¹ĩà¸Ļ":125071,"عا":125072,"à¸Ļิ":125073,"Åŀ":125074,"à¸Ńะ":125075,"ãģĪãĤĭ":125076,"Ø«ÙĦ":125077,"ØŃÙħد":125078,"à¹Ģà¸ģิà¸Ķ":125079,"פשר":125080,"פ×Ķ":125081,"มิ":125082,"ئÙĬس":125083,"à¸Ĺำà¹ĥหà¹ī":125084,"×¢×ĵ":125085,"ìĭ¤":125086,"à¸Ĭà¹Īวย":125087,"ĠاÙĦÙħÙĨ":125088,"زÙĬ":125089,"عÙĬ":125090,"Ġ׼×IJ":125091,"ạnh":125092,"ỹ":125093,"ãĤĵãģª":125094,"สู":125095,"צר":125096,"Æ°á»Ľng":125097,"×ķ×ķ×Ķ":125098,"à¹Ĥล":125099,"ĠاÙĦÙĩ":125100,"วา":125101,"หลาย":125102,"Ñīе":125103,"à¸Ĥà¹īà¸Ń":125104,"à¹īà¸Ńย":125105,"بط":125106,"каÑı":125107,"ĠØ¢":125108,"ĠиÑģ":125109,"ĠاÙĦغ":125110,"à¸ģา":125111,"à¸Ļà¹Īา":125112,"ÙĬÙĪ":125113,"×ij×ķר":125114,"á»ħn":125115,"วà¸ĩ":125116,"×Ļ×ĸ":125117,"ì²Ń":125118,"ним":125119,"룰":125120,"×Ĵ×ķר":125121,"صØŃ":125122,"ÙĦÙĪ":125123,"×Ĺ×ķת":125124,"สุ":125125,"رÙĬÙĤ":125126,"ס×ĺ":125127,"Ġ×ŀ×¢":125128,"ãĥĨãĤ£":125129,"à¸Ħิà¸Ķ":125130,"ãĤįãģĨ":125131,"à¹Ħล":125132,"à¸Ļà¹Į":125133,"á»ıi":125134,"ÑģÑĤÑĢо":125135,"สà¸Ķ":125136,"สาร":125137,"ÙĪÙĦØ©":125138,"ầm":125139,"รà¹Īว":125140,"รà¹Īวม":125141,"รุ":125142,"ĠاÙĦسÙĬ":125143,"ìĺģ":125144,"Ġ×ŀ×ij":125145,"פ×ĺ":125146,"à¸ķิà¸Ķ":125147,"×ĺ×Ļ×Ŀ":125148,"Ġ무":125149,"ÙĤدÙħ":125150,"ĠdÃ¼ÅŁ":125151,"ائÙĦ":125152,"мÑĭ":125153,"ØŃس":125154,"ÙĪØµ":125155,"×Ļ×§×Ķ":125156,"ãģ§ãģ¯ãģªãģĦ":125157,"à¹Ģหม":125158,"оÑĢÑĤ":125159,"íĨµ":125160,"ãģIJ":125161,"кÑĢа":125162,"ียว":125163,"عار":125164,"ئة":125165,"íĥĢ":125166,"ãģ«ãģªãĤĬ":125167,"جة":125168,"ÙĪÙĤع":125169,"ÑĮÑı":125170,"×ķצ×Ķ":125171,"ש×Ŀ":125172,"بÙĤ":125173,"Ġ×Ļ×Ķ":125174,"ÙĬØ·":125175,"ımız":125176,"деÑĢж":125177,"×Ļשר×IJ׾":125178,"غÙĬر":125179,"รà¸Ńà¸ĩ":125180,"à¹Ģรียà¸Ļ":125181,"Ġ×Ķ×ĺ":125182,"หมาย":125183,"ÙħÙĩ":125184,"اÙ쨩":125185,"ĠоÑĢг":125186,"ÙĪÙī":125187,"ãĥ©ãĤ¤":125188,"×ŀ׳×Ķ":125189,"ĠÄijo":125190,"ĠгоÑĢ":125191,"اÙħØ©":125192,"楽":125193,"Ø«ÙĬر":125194,"à¸ģิà¸Ī":125195,"á»ĵn":125196,"ÙĨب":125197,"ÑĢÑĥд":125198,"ìĹĪ":125199,"Ġ×Ĺ×ijר":125200,"ÑĢаж":125201,"ạch":125202,"تÙĪ":125203,"à¹Ĥม":125204,"×ij×Ļ×ij":125205,"ĠíĨµ":125206,"acaģı":125207,"جÙĦس":125208,"à¹Ģà¸Ľà¸¥":125209,"วà¸Ķ":125210,"à¸Ńล":125211,"ãģŁãĤĬ":125212,"à¸Ľà¸±à¸į":125213,"ĠìķĮ":125214,"عرÙģ":125215,"à¹Ħà¸Ł":125216,"أخ":125217,"å¤ļãģĦ":125218,"à¸Ķัà¸ĩ":125219,"Ø´Ùģ":125220,"ãģ£ãģ¦ãģĦãģ¾ãģĻ":125221,"×Ľ×ł×¡":125222,"ÑĨе":125223,"еÑģп":125224,"ÙħاÙħ":125225,"à¸ŀืà¹īà¸Ļ":125226,"иÑĩеÑģки":125227,"خد":125228,"ÙĥÙĪÙħ":125229,"Ġ×Ķר×IJש":125230,"تاب":125231,"é£Łãģ¹":125232,"ืà¸Ļ":125233,"оÑĢо":125234,"Ġböl":125235,"×ķ×Ĺ×ĵ":125236,"دÙĬر":125237,"ắm":125238,"دع":125239,"ãģķãģĽ":125240,"à¸ĺร":125241,"à¸ĺรรม":125242,"ãģĭãĤĤ":125243,"å¤ļãģı":125244,"rä":125245,"سع":125246,"×Ļ׾×Ķ":125247,"ضر":125248,"ĠاÙĦشر":125249,"×ĸ×ķר":125250,"×¢×ijר":125251,"ạm":125252,"алÑĮно":125253,"رÙĨ":125254,"اÙħج":125255,"׼×ļ":125256,"dıģ":125257,"ден":125258,"ضا":125259,"ÙĦÙĬÙħ":125260,"Ġê·¸ëŁ¬":125261,"تÙħاع":125262,"ارÙĬØ®":125263,"à¹Ĥà¸ķ":125264,"ĠÑģÑĢед":125265,"Ġ׳×ķס":125266,"ÙĤبÙĦ":125267,"оÑĤов":125268,"leÅŁtir":125269,"ĠмеÑģÑĤ":125270,"سÙĦÙħ":125271,"Ġעצ":125272,"ĠاÙĦسÙĦ":125273,"еÑĤÑĮ":125274,"ابة":125275,"нак":125276,"สà¸ĸาà¸Ļ":125277,"Ġ×ij׳":125278,"à¸ļัà¸Ļ":125279,"׼׳":125280,"ĠÃ¶ÄŁ":125281,"ãģ¨è¨Ģ":125282,"uyến":125283,"diÄŁ":125284,"áºŃu":125285,"ÑĢаÑģ":125286,"ãĤ·ãĥ§ãĥ³":125287,"nız":125288,"×ķ×ĵ×Ķ":125289,"تس":125290,"ÙħاÙĦ":125291,"à¹Ģหà¸ķุ":125292,"ยว":125293,"à¸ŀัà¸ģ":125294,"ãģĦãģªãģĦ":125295,"ĠкаÑĩ":125296,"ลà¹Į":125297,"×¨×Ľ×ª":125298,"ÅŁtur":125299,"×ŀ×ķס":125300,"ãģ¥":125301,"бол":125302,"عÙħاÙĦ":125303,"×ķרת":125304,"ÑĨион":125305,"ศึà¸ģ":125306,"à¸ı":125307,"ÑĢен":125308,"اسÙĬ":125309,"ائر":125310,"à¹Ĥà¸Ľà¸£":125311,"Ġseç":125312,"غÙĬ":125313,"ÑįÑĤ":125314,"енн":125315,"ãģªãģ®":125316,"×Ļש×Ķ":125317,"×Ļפ×ķר":125318,"ãģŁãĤģãģ«":125319,"زة":125320,"Ġçoc":125321,"ãĤ¯ãĥª":125322,"ÑĪен":125323,"ãĤıãģij":125324,"رÙĬد":125325,"ĠÑĢаÑģÑģ":125326,"Ùĥات":125327,"สà¸Ńà¸ļ":125328,"ceÄŁi":125329,"ãĤ¿ãĤ¤":125330,"à¸ļร":125331,"ĠاÙĦبر":125332,"׳×ķ×¢":125333,"rün":125334,"راض":125335,"ศาส":125336,"à¸ķรà¹Į":125337,"ãģįãģŁ":125338,"×ķ׾×ĵ":125339,"еÑĢи":125340,"íĹĺ":125341,"ắp":125342,"تعÙĦ":125343,"Ùĥد":125344,"иÑĤелÑĮно":125345,"Ø·Ùģ":125346,"ĠавÑĤом":125347,"Ġ×ŀצ":125348,"ÑĪиÑħ":125349,"اتÙģ":125350,"ĠÑħоÑĤ":125351,"ÙİØ§":125352,"ãģıãĤĭ":125353,"×Ķפ":125354,"à¹Ĥà¸Ĺ":125355,"à¹ģà¸ŀ":125356,"à¹Īà¸Ńย":125357,"ĠاÙĦÙħØ´":125358,"à¸ģารà¸ĵà¹Į":125359,"аниз":125360,"×Ķ׾":125361,"ظÙħ":125362,"ยุ":125363,"liÄŁ":125364,"à¹Ħà¸Ĥ":125365,"à¸ĸืà¸Ń":125366,"öz":125367,"ãģijãģ¦":125368,"à¹Ģà¸ľ":125369,"ุม":125370,"ãĥĹãĥ¬":125371,"Ġ×Ķ×IJ×Ĺר":125372,"ختÙĦÙģ":125373,"à¸İ":125374,"ÙĦاØŃ":125375,"Ġdüzen":125376,"צ×Ķ":125377,"ساء":125378,"×ķר×ļ":125379,"×ķ×ĵ×Ļ":125380,"ÑĢаÑĦ":125381,"ÅŁtır":125382,"ãģ«åħ¥":125383,"ãģĪãģ°":125384,"صÙĪÙĦ":125385,"ĠÐľÐ¾Ñģ":125386,"اÙĩر":125387,"ãģ£ãģ":125388,"ĠлÑİб":125389,"×Ļ×¢×Ķ":125390,"Ġ×Ķ×ŀ×§":125391,"สิà¸Ĺ":125392,"สิà¸Ĺà¸ĺิ":125393,"×Ļ׳×Ŀ":125394,"ÙĦاÙģ":125395,"à¸ŀัà¸Ļà¸ĺ":125396,"×ķ×IJ×Ķ":125397,"มั":125398,"à¸Ĥà¸ĵะ":125399,"доÑĢ":125400,"ãģ¨ãģª":125401,"à¸ģระà¸Ĺ":125402,"acı":125403,"×ķ׾×ķ×Ĵ":125404,"ÑĥÑĪ":125405,"ãĥ¥ãĥ¼":125406,"ãĥ¦":125407,"Ùħست":125408,"ĠaÅŁ":125409,"שק":125410,"פת×Ĺ":125411,"ายà¸Ļ":125412,"íĩ":125413,"ë¢":125414,"ï·":125415,"íī":125416,"ìµ":125417,"ì¬":125418,"ðĿĽ":125419,"ìĴ":125420,"ëĻ":125421,"ê§":125422,"áĸ":125423,"â¨":125424,"â±":125425,"áĺ":125426,"ðĸ":125427,"àł":125428,"áĶ":125429,"ðIJŃ":125430,"ững":125431,"Å©ng":125432,"Ġ×Ķת":125433,"ĠاÙĦا":125434,"Ġ×ŀת":125435,"à¸ĸึà¸ĩ":125436,"òn":125437,"á»ĭnh":125438,"нÑĭм":125439,"Ġcả":125440,"à¸Ķู":125441,"Ġà¹ģà¸ķà¹Ī":125442,"Ġ×ij×Ķ":125443,"ói":125444,"ãģ¨ãģĹãģ¦":125445,"úng":125446,"Ġذ":125447,"Ġ×Ķ׳":125448,"ĠبÙĨ":125449,"ÙĦاÙĦ":125450,"à¹Ħà¸Ĺย":125451,"á»ĩp":125452,"tı":125453,"มัà¸Ļ":125454,"ằng":125455,"á»ijt":125456,"ком":125457,"à¸ĭึà¹Īà¸ĩ":125458,"à¸Ħรัà¸ļ":125459,"à¸ļà¹īาà¸Ļ":125460,"ĠاÙĦÙĬ":125461,"lü":125462,"ÙĪØ³":125463,"ãģłãģ£ãģŁ":125464,"à¹Ģà¸ĩ":125465,"Ġê³µ":125466,"нÑĥ":125467,"ãĤĪãĤĬ":125468,"мÑĥ":125469,"à¹Ģà¸Ĥา":125470,"ãĤĢ":125471,"ние":125472,"ãģ«ãģªãĤĭ":125473,"áºŃy":125474,"ĠÙĪØ§":125475,"볤":125476,"ש×ķ":125477,"áp":125478,"×ĵ×ķ":125479,"ãģ§ãģĹãģŁ":125480,"عض":125481,"Ñģкой":125482,"æĦŁãģĺ":125483,"ÑİÑĤÑģÑı":125484,"Ġ×Ļ׼×ķ׾":125485,"ãĤĵãģł":125486,"ви":125487,"à¹Ģลà¹Īà¸Ļ":125488,"ìĿ´ëĭ¤":125489,"ĠÙĦÙĩ":125490,"à¸Ħืà¸Ń":125491,"تÙĥ":125492,"ÙħÙĥÙĨ":125493,"aģı":125494,"׳×ĵ":125495,"민":125496,"à¹Ħว":125497,"สำห":125498,"สำหรัà¸ļ":125499,"Ñģлед":125500,"tır":125501,"ĠÙĦÙĬ":125502,"ĠاÙĦعÙħÙĦ":125503,"×ij×ķת":125504,"×ij×Ļ×Ŀ":125505,"à¸Ħำ":125506,"à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩ":125507,"lıģı":125508,"ืà¸Ńà¸ĩ":125509,"جد":125510,"íŀĪ":125511,"ìĭ¬":125512,"×¢×ķת":125513,"สิà¸Ļ":125514,"Ñĩи":125515,"رض":125516,"à¹Ģà¸Ľà¸´à¸Ķ":125517,"à¸Ħà¹Īา":125518,"ìĦł":125519,"ÙĪØ±Ø©":125520,"×§×ĺ":125521,"ìľł":125522,"عÙħÙĦ":125523,"×IJ×Ļ×Ŀ":125524,"׾×Ļ×Ŀ":125525,"à¹ĥหà¸į":125526,"à¹ĥหà¸įà¹Ī":125527,"ừa":125528,"á»įi":125529,"ãģ¶":125530,"ÃŃch":125531,"ãĥĩãĤ£":125532,"×ķר×Ļ×Ŀ":125533,"Ñģо":125534,"ìķ½":125535,"ова":125536,"ÑĩаÑģÑĤ":125537,"à¹Ģà¸Īà¹īา":125538,"пÑĢо":125539,"Ġ×ŀ×Ĺ":125540,"ãĥİ":125541,"×ķ×Ļ×ķת":125542,"Ġде":125543,"ë§Ī":125544,"ì§ģ":125545,"×Ļפ×Ķ":125546,"ĠاÙĦعاÙĦÙħ":125547,"르":125548,"ר×IJ×Ķ":125549,"uyá»ĥn":125550,"×¢×Ļ":125551,"มืà¸Ń":125552,"Ø¥ÙĨ":125553,"รู":125554,"Ġز":125555,"×Ļ×ķ×Ŀ":125556,"à¸ķà¹īà¸Ļ":125557,"ãģ¦ãģĦãģ¾ãģĻ":125558,"ÙħاÙĨ":125559,"ĠÐ¥":125560,"à¸Ľà¸£à¸°à¹Ģà¸Ĺศ":125561,"ỳ":125562,"׾×ij":125563,"à¹Ģà¸Ķà¹ĩ":125564,"ãģŁãģ¡":125565,"à¸Ĺีม":125566,"à¸Ļะ":125567,"ìŰ":125568,"ĠìłĢ":125569,"ÙĦÙĩ":125570,"ợi":125571,"ĠاÙĦز":125572,"دار":125573,"ãĤ³ãĥ³":125574,"мин":125575,"à¹ģหà¹Īà¸ĩ":125576,"à¸Ķัà¸ļ":125577,"׼ר":125578,"жа":125579,"íĸĪ":125580,"×ŀ×ĸ":125581,"ợi":125582,"à¸Ķา":125583,"Ġعبد":125584,"à¹ģร":125585,"×IJתר":125586,"×¢×ł×Ļ":125587,"à¹Ģà¸Ħ":125588,"×ķצר":125589,"ì§Ģë§Į":125590,"ائÙħ":125591,"أس":125592,"uyá»ģn":125593,"Ġ×IJ׳":125594,"×Ĺ׳×ķ":125595,"×ĸ×Ļ":125596,"รà¹īาà¸Ļ":125597,"ĠÐłÐ¾Ñģ":125598,"ĠÐłÐ¾ÑģÑģ":125599,"ربÙĬØ©":125600,"tür":125601,"ãĤĭãģĵãģ¨":125602,"ظر":125603,"бÑĭ":125604,"à¸Ĺีà¹Īสุà¸Ķ":125605,"Ġצר":125606,"èĩªåĪĨ":125607,"лаÑģ":125608,"ĠÑıв":125609,"ĠÑıвлÑı":125610,"à¸ŀรà¹īà¸Ńม":125611,"à¸Ńาà¸Ī":125612,"à¸ļริà¸ģาร":125613,"Ġçı":125614,"ëįĺ":125615,"ĠاÙĦÙħست":125616,"تش":125617,"ש×ķ×ij":125618,"ãĤ´":125619,"Ġyapıl":125620,"ĠاÙĦذ":125621,"ุà¹Īม":125622,"à¸ĸà¹īา":125623,"ìĦ¤":125624,"ì°¨":125625,"ваÑĢ":125626,"à¹Ģà¸ŀิà¹Īม":125627,"Æ°á»Ľi":125628,"Ùĥس":125629,"à¸Ńยาà¸ģ":125630,"ãģ¦ãĤĤ":125631,"Ġгод":125632,"ÙĬار":125633,"à¸ķà¸Ńà¸Ļ":125634,"ĠигÑĢ":125635,"à¹Ħà¸Ķà¹īรัà¸ļ":125636,"ĠاÙĦÙħر":125637,"ÙĤت":125638,"Ġëĺ":125639,"ĠëĺIJ":125640,"ẩn":125641,"ãģĻãĤĭãģĵãģ¨":125642,"×Ĵ×Ŀ":125643,"Ġ×ij×ij":125644,"تد":125645,"ÙĪØ§Ø±":125646,"ãĤ®":125647,"пол":125648,"Ġмог":125649,"ترÙĥ":125650,"ÙĪØ«":125651,"Ġçık":125652,"اة":125653,"à¹Ģà¸Ķียว":125654,"มีà¸Ħวาม":125655,"Ġ×ŀ×Ĵ":125656,"صÙģ":125657,"ĠТак":125658,"Ġ×Ľ×ª":125659,"×Ļ×ĵ×Ļ":125660,"овоÑĢ":125661,"ầy":125662,"สิà¹Īà¸ĩ":125663,"بت":125664,"ürü":125665,"ÙĨج":125666,"หลัà¸ģ":125667,"×Ļ×Ķ×Ŀ":125668,"ÙĤص":125669,"зÑĭ":125670,"×Ľ×ª×ij":125671,"ưu":125672,"mız":125673,"ĠìĦ¸":125674,"лог":125675,"ÙħÙĬÙĦ":125676,"ÙĬج":125677,"íĴĪ":125678,"à¸ŀà¸ļ":125679,"หัว":125680,"зна":125681,"רק":125682,"à¹Ĥร":125683,"Ġ×ijס":125684,"ĠBaÅŁkan":125685,"ĠëͰ":125686,"à¸Ńัà¸Ļ":125687,"ีà¹Īยว":125688,"неÑģ":125689,"à¹Ģà¸Ķิà¸Ļ":125690,"ÙĬاÙĨ":125691,"×ķ׾×Ļ":125692,"اخت":125693,"צ×ķת":125694,"ãģĵãģĵ":125695,"ĠاÙĦاÙĨ":125696,"ĠпÑĢоÑĨ":125697,"ãģ¾ãģł":125698,"×Ľ×¡":125699,"ĠاÙĦØ¢":125700,"ÙĬز":125701,"ĠاÙĦدÙĪÙĦ":125702,"ĠíķĺëĤĺ":125703,"ضع":125704,"ê»ĺ":125705,"ÅĽwi":125706,"ยิ":125707,"ãģ¡ãĤĥãĤĵ":125708,"ĠÙħØ´":125709,"à¸ĺี":125710,"ãģ¨ãģį":125711,"׳×Ļ×ķת":125712,"Ġë¯":125713,"Ġ미":125714,"Ġsı":125715,"ëĭĪê¹Į":125716,"Ġпл":125717,"غÙĦ":125718,"à¹ģรà¸ĩ":125719,"بÙĬر":125720,"ãģĤãĤĬãģ¾ãģĽãĤĵ":125721,"ê·¼":125722,"Ġyüz":125723,"ĠdeÄŁer":125724,"åł´åIJĪ":125725,"ỡ":125726,"маÑĤ":125727,"ราà¸Ĭ":125728,"ÙĪØ±ÙĬ":125729,"жен":125730,"ãģ¾ãĤĬ":125731,"ãģ®ä¸Ń":125732,"×Ļ×ĵ×¢":125733,"à¸Ńุ":125734,"à¸ļà¸Ńล":125735,"à¸Ľà¸±à¸įหา":125736,"زÙħ":125737,"ÄŁa":125738,"à¸Ńืà¹Ī":125739,"à¸Ńืà¹Īà¸Ļ":125740,"пл":125741,"ĠнеобÑħодим":125742,"׼×ij":125743,"à¹Ģศ":125744,"קר×Ķ":125745,"ì²ĺ":125746,"볨":125747,"×ŀ×§×ķ×Ŀ":125748,"jÄħc":125749,"ÙĩÙĦ":125750,"Ġ×¢×ij×ķ×ĵ":125751,"à¹Ħมà¹ī":125752,"à¸ģลัà¸ļ":125753,"×ķ׼׾":125754,"×§×ĵ":125755,"اÙĦÙĬØ©":125756,"رÙĩ":125757,"ãģijãĤĮãģ°":125758,"ĠÙĨÙ쨳":125759,"ãĤ¢ãĥ«":125760,"ìĹĪëĭ¤":125761,"×§×ķר":125762,"неÑĢ":125763,"باب":125764,"ãĤ¶":125765,"سبب":125766,"ÙĦÙĬÙĦ":125767,"صÙĨ":125768,"صدر":125769,"ếm":125770,"à¸Ĭà¹Īวà¸ĩ":125771,"ØŃÙĨ":125772,"Ġ×ij×Ĵ":125773,"×ŀ×ķ×¢":125774,"׾×Ĺ":125775,"大ãģį":125776,"تب":125777,"неÑĤ":125778,"×Ļ×ij×Ķ":125779,"бл":125780,"ãĥĹãĥª":125781,"اصة":125782,"ãģ¤ãģij":125783,"×Ļ×ŀ×ķש":125784,"ãģĮãģĤ":125785,"ëĭ´":125786,"ãģĭãĤĤãģĹ":125787,"ãģĭãĤĤãģĹãĤĮ":125788,"ãģ¡ãĤī":125789,"×ij×ĺ":125790,"ĠbaÄŁ":125791,"×Ļ×Ĺס":125792,"×ij×ķ×¢":125793,"ลี":125794,"פע×Ļ׾":125795,"ими":125796,"gÅĤ":125797,"Ġиме":125798,"خداÙħ":125799,"×IJ×Ļר":125800,"Ġyapt":125801,"ãģ¨ãģĦ":125802,"à¸ĩà¹Īาย":125803,"׾×Ļ×ķ":125804,"ØŃدث":125805,"راÙĤ":125806,"ĠÄIJi":125807,"ادر":125808,"ãģĵãģ¨ãĤĤ":125809,"×ij×Ļר":125810,"Ġвз":125811,"ضاÙģ":125812,"ת×ķ׼":125813,"ÑĢом":125814,"رات":125815,"à¹Ģà¸Ĺà¹Īา":125816,"ãģĺãĤĥ":125817,"ãģĿãģĵ":125818,"اجتÙħاع":125819,"à¹īà¸Ńà¸Ļ":125820,"ÙĤÙħ":125821,"본":125822,"Äŀ":125823,"ש×Ļ×ķ":125824,"×ij׳×Ļ":125825,"ìľĦìĽIJ":125826,"à¹ģà¸Ī":125827,"×Ĺ×ķר":125828,"دÙĬÙĨØ©":125829,"تط":125830,"ằm":125831,"òa":125832,"ยà¸Ńà¸Ķ":125833,"Ġëĭ¹":125834,"สุà¸Ĥ":125835,"×ĵר×ļ":125836,"دÙĨ":125837,"سÙĬÙĨ":125838,"ÙĪÙĤÙģ":125839,"ÑĨÑĭ":125840,"гоÑĤов":125841,"еждÑĥ":125842,"à¸ŀวà¸ģ":125843,"اÙĤتص":125844,"اÙĤتصاد":125845,"czÄĻ":125846,"niÄĻ":125847,"ÑĢеб":125848,"ØŃÙĪ":125849,"à¸Ĺà¹Į":125850,"ãĤĪãģŃ":125851,"дж":125852,"à¸ģลà¹Īาว":125853,"دÙĬØ«":125854,"ãĤ³ãĥŁ":125855,"ÙĤÙĪÙħ":125856,"ĠتØŃ":125857,"à¹Ģà¸ķิ":125858,"اÙ쨏":125859,"à¸Īุ":125860,"رÙĬاض":125861,"×ŀש×ļ":125862,"à¹Ĥย":125863,"еÑĢе":125864,"ãģ¿ãģŁãģĦ":125865,"ìĿ´ëĿ¼":125866,"ĠاÙĦÙħÙĪ":125867,"ĠÑģÑĤо":125868,"à¹Ģรà¹ĩว":125869,"ĠдеÑĤ":125870,"ĠÑģдел":125871,"à¹Ģà¸Ĭืà¹Īà¸Ń":125872,"פ׳×Ļ":125873,"ÙĪØ¶ÙĪØ¹":125874,"×ijס":125875,"à¹ģà¸Ķ":125876,"óc":125877,"ริม":125878,"ÑĢад":125879,"ìĪł":125880,"ãĥ¼ãĤº":125881,"ãģ«ãģĬ":125882,"ино":125883,"פ×Ļ׾":125884,"à¸Ĭัà¹Īà¸Ļ":125885,"×Ĺ×ĵש":125886,"à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ":125887,"׳×Ļס":125888,"غرب":125889,"ãĤ¸ãĥ£":125890,"สัà¸ĩ":125891,"à¹Ģà¸Ĺีà¹Ī":125892,"à¹Ģà¸Ĺีà¹Īยว":125893,"ëŁ¼":125894,"à¹ģà¸Ł":125895,"ãĥ¼ãĤ·":125896,"ãĥ¼ãĤ·ãĥ§ãĥ³":125897,"Ġвозмож":125898,"جÙħÙĪØ¹":125899,"×ijר×Ļ×Ŀ":125900,"ãĥĪãĥ©":125901,"ĠкаÑĩеÑģÑĤв":125902,"Ø·ÙĬ":125903,"ÑĤÑı":125904,"צ×ķ×¢":125905,"ģını":125906,"عÙĦÙī":125907,"اذ":125908,"ÙĪØ§ÙĤع":125909,"ÙħÙĪØ§":125910,"ائÙĬÙĦ":125911,"кол":125912,"á»ģm":125913,"à¸ľà¸¥à¸´à¸ķ":125914,"×Ļ׳×ĺר":125915,"سÙĥ":125916,"ש×Ļר":125917,"ศึà¸ģษา":125918,"à¸ļั":125919,"ÑĩаÑģ":125920,"×ķפ×Ķ":125921,"×Ļפ×ķ׾":125922,"ĠاÙĦساب":125923,"رÙĬب":125924,"ĠاÙĦبÙĬ":125925,"ãĤ¹ãĥĨ":125926,"Ñĩен":125927,"à¹ģà¸ľ":125928,"Ġ׳ש":125929,"زÙĬد":125930,"ØŃاد":125931,"ëįĶ":125932,"رÙĪØ¹":125933,"à¸Ĺุà¸Ļ":125934,"สมา":125935,"czeÅĦ":125936,"×Ļ×ĵ×Ķ":125937,"ãģ§ãģĤ":125938,"Ġçocuk":125939,"خب":125940,"à¸ļาย":125941,"à¸Ľà¸£à¸°à¸Ĭา":125942,"×ŀש׾":125943,"ãģªãģĭ":125944,"à¸ģาย":125945,"ãĥģãĥ£":125946,"аÑĢи":125947,"ĠÑĩа":125948,"à¸Ķำ":125949,"à¸Ĺัà¹Īว":125950,"ÑĥÑħ":125951,"Ġöz":125952,"Ġì¢ĭ":125953,"جرÙĬ":125954,"ائÙĤ":125955,"à¸łà¸±à¸¢":125956,"طار":125957,"دارة":125958,"Ä©nh":125959,"Ø«ÙĨ":125960,"zellik":125961,"اÙĦت":125962,"Ġgeli":125963,"ãĥķãĤ©":125964,"олод":125965,"ربع":125966,"שת×ŀש":125967,"à¸ļรร":125968,"íĿ¬":125969,"Ġürün":125970,"Ġê·¸ëłĩ":125971,"ศาสà¸ķรà¹Į":125972,"ãģľ":125973,"×Ļ×ij׾":125974,"ĠпÑĢедÑģÑĤав":125975,"سطÙĬÙĨ":125976,"ãĤĴ使":125977,"ĠпомоÑī":125978,"×ķקר":125979,"ãĥ¯ãĥ¼":125980,"Ġyönet":125981,"×Ļקר":125982,"à¸Ĥา":125983,"еÑĢиал":125984,"ØŃÙģ":125985,"Ġ×Ļצ":125986,"à¸Ĺิ":125987,"売":125988,"à¸Ļà¸Ńà¸ģ":125989,"×ķ׼ר":125990,"íĻľ":125991,"á»§y":125992,"ĠاÙĦÙĤر":125993,"×Ļ×ij×ķת":125994,"ÅĽni":125995,"Ùħشار":125996,"ượt":125997,"ĠÙĦدÙĬ":125998,"ÑĤел":125999,"ĠØ¥ÙĦÙĬ":126000,"عÙĦÙĪÙħ":126001,"ìķĺ":126002,"виÑĤ":126003,"à¸Ħะ":126004,"yrı":126005,"ãģ¨ãģ£ãģ¦":126006,"à¹Ģà¸ī":126007,"à¸ĸาม":126008,"ÙĤار":126009,"عÙĦاÙħ":126010,"ặng":126011,"ÙħÙĴ":126012,"×Ļ×ŀת":126013,"سبة":126014,"ãĤ¯ãĥ©":126015,"×ķסף":126016,"ĠпÑĢин":126017,"ãģĦãĤį":126018,"ساس":126019,"عتبر":126020,"วิà¸Ĺย":126021,"วิà¸Ĺยา":126022,"سÙĥر":126023,"ãĤ·ãĥ§":126024,"ãģģ":126025,"ัà¸ģษ":126026,"×ij×ķ×Ķ":126027,"หย":126028,"ãģ¾ãĤĮ":126029,"ĠоÑĢганиз":126030,"казал":126031,"ĠÑģвÑıз":126032,"uyết":126033,"ĠпÑĢоиз":126034,"Ġ×§×ĺ":126035,"à¹ģà¸ģà¹ī":126036,"пÑĥÑģ":126037,"Ġê·¸ê²ĥ":126038,"ëĬIJ":126039,"лекÑģ":126040,"ãĥ¼ãĥĹ":126041,"à¸ķำ":126042,"ת×Ĺ×Ļ׾":126043,"à¸Ńà¸ĩà¸Ħà¹Į":126044,"ẵ":126045,"׳צ":126046,"أش":126047,"Ø´Ùĩ":126048,"ยะ":126049,"à¸ģà¸İ":126050,"ĠاÙĦإسÙĦاÙħ":126051,"едÑĮ":126052,"ãģ²ãģ¨":126053,"ëıĦë¡Ŀ":126054,"ãģ©ãģ®":126055,"Ñĥв":126056,"еÑĩение":126057,"ĠاÙĦتج":126058,"ãģ«è¡Į":126059,"Ġпозв":126060,"ãĤıãĤĬ":126061,"ÙĦاث":126062,"íķĺìĺĢ":126063,"ĠмаÑĢ":126064,"ĠkonuÅŁ":126065,"ãĥ¬ãĤ¹":126066,"ãĤĴæĮģ":126067,"ĠоÑģнов":126068,"×Ĺ×ij":126069,"ÙĪØ¬ÙĪØ¯":126070,"פ×ķף":126071,"воÑĢ":126072,"Ġник":126073,"ãģĭãĤĭ":126074,"ÅŁtırma":126075,"×Ļס×ĺ":126076,"Ø£ÙĦ":126077,"หà¹Į":126078,"иона":126079,"лÑĮн":126080,"ĠгоÑģ":126081,"ĠÐľÐ¾Ñģк":126082,"ÑĢоб":126083,"×ķ×IJ×Ļ":126084,"ãģĬãĤĬãģ¾ãģĻ":126085,"ãģ£ãģ±":126086,"кл":126087,"à¸Ļà¸Ķà¹Į":126088,"رÙĬÙģ":126089,"اسب":126090,"ĠÑĢеÑĪ":126091,"Ġдол":126092,"ãģ¹ãģį":126093,"×Ļ×ij×ķר":126094,"меÑī":126095,"ĠнаÑĪ":126096,"à¹ģà¸Ľà¸¥":126097,"ÑĢиÑĤ":126098,"кÑĥÑģ":126099,"иÑĢа":126100,"аÑĤÑĥÑĢ":126101,"ÙĪØ§ØµÙĦ":126102,"à¹Ģà¸ľà¸¢":126103,"à¸Ńำ":126104,"à¹Ģà¸ģิà¸Ļ":126105,"غÙħ":126106,"ãģĻãģİ":126107,"lıkl":126108,"ÅĦsk":126109,"견":126110,"×Ļ׼×Ķ":126111,"×Ĺש×ij":126112,"ÙĪØ±ÙĬØ©":126113,"ĠдейÑģÑĤв":126114,"×Ĺ׾×ĺ":126115,"Ġ׾×ŀ×¢":126116,"צ׾×Ļ×Ĺ":126117,"еÑĩа":126118,"ÙģØ§Ø¹":126119,"×Ĵ×Ļ×ĵ":126120,"áºŃm":126121,"ÄĻb":126122,"شع":126123,"ãģıãĤĬ":126124,"à¸ŀุ":126125,"едеÑĢ":126126,"à¸Ĥà¸Ļ":126127,"à¸Ħาร":126128,"ĠболÑĮÑĪ":126129,"ãģıãģªãĤĬ":126130,"à¸ĵา":126131,"×ĵ×ķ×Ĵ":126132,"Ġмн":126133,"ä¸ĬãģĮ":126134,"ç¶ļãģį":126135,"ฤษ":126136,"à¸Ĩ":126137,"Ø®ÙĬ":126138,"à¹Ģà¸Ĺà¸ŀ":126139,"สัม":126140,"à¹Ģสà¸Ļ":126141,"à¹Ģสà¸Ļà¸Ń":126142,"ãĥ´":126143,"ĠиÑģÑĤ":126144,"باشر":126145,"ĠÑĥÑĢов":126146,"×ŀ×ķ×ĸ":126147,"abı":126148,"waż":126149,"×ķצ×IJ×Ķ":126150,"ÑĤвеÑĢ":126151,"à¸ŀัà¸Ļà¸ĺà¹Į":126152,"׳×Ĵ×ĵ":126153,"ãĤĭãģĵãģ¨ãģĮãģ§ãģį":126154,"ĠÑĤÑĢеб":126155,"à¸ģรุà¸ĩ":126156,"ØŃتاج":126157,"à¹Ģà¸Ħล":126158,"ãĨ":126159,"ÄĻtr":126160,"Ġszczeg":126161,"Ġרש":126162,"à¸Ĺà¸ĺ":126163,"Ġнек":126164,"ĠнекоÑĤоÑĢ":126165,"вÑĪ":126166,"Ь":126167,"à¹Īวย":126168,"ลุ":126169,"бÑĢÑı":126170,"หมูà¹Ī":126171,"à¹ģà¸ķà¸ģ":126172,"ר׼×Ļ×Ŀ":126173,"Ġíĸī":126174,"ãi":126175,"Ùĥرة":126176,"âŃ":126177,"íIJ":126178,"ãį":126179,"áģ":126180,"â®":126181,"â¥":126182,"ì®":126183,"à¿":126184,"â¿":126185,"áĤ":126186,"á¤":126187,"âł":126188,"íŁ":126189,"ðIJį":126190,"ðIJ°":126191,"ðĿĨ":126192,"ðŁĪ":126193,"Ġ×¢×ľ":126194,"ĠعÙĨ":126195,"ĠÙħع":126196,"Ġ×ĸ×Ķ":126197,"ĠÙħا":126198,"ĠmÃł":126199,"Ġdụ":126200,"á»ĩc":126201,"аÑħ":126202,"sı":126203,"íķĺê³ł":126204,"Ġ×ķ×ij":126205,"ĠÐŁÐ¾":126206,"×ķתר":126207,"ĠÙĦÙħ":126208,"Ġ×ķ׾":126209,"ãģĹãģ¦ãģĦãĤĭ":126210,"Ġ×ŀ×Ļ":126211,"ĠبÙĬÙĨ":126212,"за":126213,"ĠÙĥاÙĨ":126214,"Ġ×Ķ×Ļ×Ķ":126215,"ëħĦ":126216,"×IJ×ķ":126217,"ди":126218,"ĠпеÑĢе":126219,"dı":126220,"Ġ׾ש":126221,"Ġש×ŀ":126222,"ãģĮãģĤãĤĭ":126223,"ãģĦãģĦ":126224,"ÑĢе":126225,"×§×ķ":126226,"или":126227,"ме":126228,"ÙĬت":126229,"ãģ§ãģĤãĤĭ":126230,"Ġво":126231,"à¹ĥหม":126232,"à¹ĥหมà¹Ī":126233,"Ġש×ij":126234,"Ġà¹Ĥà¸Ķย":126235,"ÙĬÙĩ":126236,"ãģ§ãģĻãģĮ":126237,"ãģ¨ãģ¯":126238,"ר×ķ":126239,"Ġà¸ĭึà¹Īà¸ĩ":126240,"ãģ§ãģįãĤĭ":126241,"мо":126242,"à¹Ģà¸ŀืà¹Īà¸Ń":126243,"צ×ķ":126244,"×ĺ×ķ":126245,"ìķĪ":126246,"Ġhá»į":126247,"à¹Ģà¸ĩิà¸Ļ":126248,"ĠاÙĦب":126249,"Ġมี":126250,"물":126251,"Ñģе":126252,"ëĵ¤ìĿ´":126253,"Ġë§IJ":126254,"ĠlỼ":126255,"aÅĤ":126256,"×Ĺ×ijר":126257,"Ġdá»±":126258,"ÙĬØ«":126259,"Ġthá»ĭ":126260,"à¸ģà¹Īà¸Ńà¸Ļ":126261,"Ġ×ij׼׾":126262,"ãģ¸":126263,"ã썿ĢĿãģĦãģ¾ãģĻ":126264,"ảnh":126265,"ยา":126266,"Ù쨧":126267,"สี":126268,"à¸ķา":126269,"ë²ķ":126270,"ãĥªãĥ¼":126271,"ราà¸Ħา":126272,"Ġ×ķ׾×IJ":126273,"ãģ¨ãģĵãĤį":126274,"à¹Ģลืà¸Ń":126275,"diÄŁi":126276,"ÙĪØ§ÙĨ":126277,"Ġ׾×Ķת":126278,"รวม":126279,"פ×Ļ×Ŀ":126280,"à¸ľà¸¡":126281,"жи":126282,"cı":126283,"ÑĢод":126284,"ĠkarÅŁÄ±":126285,"×Ĵ×ķ":126286,"ãģ«ãģ¤":126287,"ãģ«ãģ¤ãģĦãģ¦":126288,"rÃł":126289,"×Ļ×ķתר":126290,"ĠìĨĮ":126291,"×§×Ķ":126292,"ÑģÑĤво":126293,"ãģijãģ©":126294,"gé":126295,"à¸Ķà¹īาà¸Ļ":126296,"çļĦãģ«":126297,"ĠÙĬÙħÙĥÙĨ":126298,"ìĨį":126299,"ÙĬÙĥ":126300,"à¹Ħวà¹ī":126301,"Ñģкий":126302,"ìm":126303,"Ġ׾×IJ×Ĺר":126304,"à¸Ńาหาร":126305,"Ġà¹Ģà¸ŀ":126306,"ราะ":126307,"ลูà¸ģ":126308,"ÑģÑĤа":126309,"Ġìľł":126310,"ÙĤÙĪÙĦ":126311,"боÑĢ":126312,"Ñģкого":126313,"หลัà¸ĩ":126314,"à¸Ĥà¹Īาว":126315,"à¹Ģมืà¸Ńà¸ĩ":126316,"ê°ģ":126317,"tÃł":126318,"ÙĬÙĬÙĨ":126319,"عرض":126320,"ë°©":126321,"ĠëıĻ":126322,"Ġà¹Ģà¸Ľ":126323,"Ġà¹Ģà¸Ľà¹ĩà¸Ļ":126324,"çi":126325,"liÄŁi":126326,"ìĹIJê²Į":126327,"ãĤ¿ãĥ¼":126328,"Ġ×ľ×ª":126329,"פ×ķת":126330,"à¸Ĥà¸Ń":126331,"رس":126332,"ìłIJ":126333,"à¸ľà¹Īาà¸Ļ":126334,"ÑĦи":126335,"جÙĨ":126336,"ì¢ħ":126337,"Ġ×Ķפ":126338,"Ġngo":126339,"á»ĭa":126340,"Ġtá»ķ":126341,"Ġ그리":126342,"à¹Ģมืà¹Īà¸Ń":126343,"ذÙĥر":126344,"ìĸij":126345,"ìĹŃ":126346,"×ĺ׾":126347,"kı":126348,"ĠعÙħÙĦ":126349,"ĠعÙĨد":126350,"à¸ĭืà¹īà¸Ń":126351,"Ġê±°":126352,"ве":126353,"rü":126354,"à¹Ģà¸Ńา":126355,"สà¹Į":126356,"à¸Īà¸Ļ":126357,"סת":126358,"Ġgiả":126359,"ãĤĭãģ¨":126360,"à¸ģำลัà¸ĩ":126361,"ней":126362,"à¸Īริ":126363,"à¸Īริà¸ĩ":126364,"Ġëį":126365,"ĠëįĶ":126366,"à¸Ħà¹Īะ":126367,"ìn":126368,"Ġsüre":126369,"Ġquy":126370,"à¸ļาà¸ĩ":126371,"åıĸãĤĬ":126372,"ר×Ĺ":126373,"×ijת":126374,"ãģĮãģĤãĤĬãģ¾ãģĻ":126375,"רש":126376,"ìĹIJëĬĶ":126377,"Ġ×IJפשר":126378,"ayı":126379,"ãģĮãĤī":126380,"ØŃب":126381,"анÑģ":126382,"سÙĪ":126383,"ĠпÑĢе":126384,"دÙĪ":126385,"ãģ«ãĤĪ":126386,"à¹Ģà¸ģม":126387,"สูà¸ĩ":126388,"makt":126389,"maktad":126390,"maktadır":126391,"Ġönem":126392,"×Ļ×ŀ×Ļ×Ŀ":126393,"бо":126394,"ÙĪÙĬØ©":126395,"à¸£à¸¹à¸Ľ":126396,"à¹Ĥลà¸ģ":126397,"ÙħÙĬع":126398,"ÑģÑĤÑĥп":126399,"à¹Ĥà¸Ń":126400,"دÙĬÙĨ":126401,"ì¤ij":126402,"ãģĹãģı":126403,"à¹Ģสีย":126404,"вÑĭ":126405,"Ùħت":126406,"íĺĦ":126407,"ãĥIJãĥ¼":126408,"اش":126409,"קס":126410,"Ġtụ":126411,"ลà¸Ķ":126412,"Ù쨩":126413,"íijľ":126414,"رج":126415,"kÅĤad":126416,"ĠÅŁey":126417,"ĠØ£Ùħ":126418,"Ġà¹Ģม":126419,"ĠبÙĦ":126420,"ÑģкаÑı":126421,"ãģ¨ãģ®":126422,"Ġìĭ¤":126423,"ấm":126424,"หà¹īà¸Ńà¸ĩ":126425,"à¸Ĭม":126426,"dü":126427,"Ġçek":126428,"Ġê³ł":126429,"×Ĵ×ij":126430,"à¸Ĭีวิ":126431,"à¸Ĭีวิà¸ķ":126432,"Ù쨶ÙĦ":126433,"ฯ":126434,"çı":126435,"Ġبش":126436,"ĠÙĩÙĨا":126437,"ãģįãģ¾ãģĹãģŁ":126438,"tü":126439,"Ġìĺģ":126440,"ĠTürk":126441,"кÑĤ":126442,"פרס":126443,"ãģ¨ãģĦãģĨãģĵãģ¨":126444,"íĶĦ":126445,"à¹ģรà¸ģ":126446,"ר×ķף":126447,"Ġaras":126448,"×ŀצ×IJ":126449,"Ġtá»ī":126450,"سا":126451,"à¸ŀà¸Ń":126452,"ĠاÙĦÙħØŃ":126453,"ãĥ¤":126454,"ĠاÙĦاست":126455,"ÙģÙĨ":126456,"×Ļ×ŀ×Ķ":126457,"رت":126458,"ãģ¨ãĤĤ":126459,"ĠнаÑģ":126460,"пÑĢи":126461,"Ġ×Ĺ×ķ":126462,"ила":126463,"ÙĬØ´":126464,"Ġgöz":126465,"Ġ×ij׳×Ļ":126466,"ımı":126467,"ĠÑĤеÑħ":126468,"Ġhá»Ļ":126469,"غر":126470,"кон":126471,"اØŃت":126472,"Ġà¸ŀ":126473,"à¸Ńà¸Ńà¸Ļ":126474,"à¸Ńà¸Ńà¸Ļà¹Ħล":126475,"à¸Ńà¸Ńà¸Ļà¹Ħลà¸Ļà¹Į":126476,"Ñħо":126477,"Ñıв":126478,"à¹ģสà¸Ķ":126479,"à¹ģสà¸Ķà¸ĩ":126480,"à¹Ģà¸ŀียà¸ĩ":126481,"ÑĤов":126482,"اÙĬ":126483,"Ġ×Ķ×ĵ":126484,"Ġ×ķ׼":126485,"ãĤīãģĦ":126486,"×ķפף":126487,"Ġë¶Ī":126488,"ลà¸Ńà¸ĩ":126489,"طاÙĦ":126490,"Ġни":126491,"ĠÙħست":126492,"ếc":126493,"Ġש׼":126494,"ĠëķĮ문":126495,"วัà¸Ļà¸Ĺีà¹Ī":126496,"×Ļ׾×ĵ":126497,"ØŃا":126498,"еÑĨ":126499,"Ġcứ":126500,"×ĵ×ķר":126501,"ĠÙħØŃ":126502,"ר׼×ij":126503,"بÙĬع":126504,"нии":126505,"ĠاÙĦØ£ÙĪÙĦ":126506,"à¸Ħวร":126507,"ã썿ĢĿãģĨ":126508,"ĠСо":126509,"ائÙĬØ©":126510,"راء":126511,"оÑģоб":126512,"ĠبأÙĨ":126513,"×¢×ķ×ĵ":126514,"ĠÑĤе":126515,"ãģĵãģĨ":126516,"ÑģÑĤÑĢа":126517,"айн":126518,"Ġsöz":126519,"تÙĨا":126520,"à¸Ńิ":126521,"ặp":126522,"ĠìķĦëĭĪ":126523,"íķŃ":126524,"Ġר×IJש":126525,"Ġà¹Ħà¸Ķà¹ī":126526,"Ġ×Ĵ×ĵ":126527,"Ġספר":126528,"обÑīе":126529,"ĠÙĪØ¥":126530,"adaÅŁ":126531,"ãģ¡ãĤĩ":126532,"×§×ķ׾":126533,"ÑĢез":126534,"ĠdÃ¼ÅŁÃ¼n":126535,"Ġ×ij×IJ×ŀ":126536,"Ġìĸ´ëĸ":126537,"ער×ij":126538,"нее":126539,"ĠÑģÑĤÑĢан":126540,"ساÙĨ":126541,"ynı":126542,"ĠاÙĦرئÙĬس":126543,"ãģĹãģª":126544,"Ġ×ł×ª":126545,"ãģ«ãģªãģ£ãģŁ":126546,"gü":126547,"åıĹãģij":126548,"×ľ×ª":126549,"ìłĪ":126550,"ëĬĶëį°":126551,"Ø®ÙĬر":126552,"à¸ķà¹īà¸Ńà¸ĩà¸ģาร":126553,"ĠÙĦØ£ÙĨ":126554,"Ġchá»ĭ":126555,"ÙĪØ©":126556,"à¹ĥส":126557,"ë¶ĢíĦ°":126558,"íķĺë©´":126559,"ữu":126560,"à¹Ģหมืà¸Ńà¸Ļ":126561,"беÑĢ":126562,"ĠìĿ´ìļ©":126563,"ĠÑģеб":126564,"wiÄĻks":126565,"Ġ×ł×¢":126566,"ÑĤÑĥÑĢ":126567,"ĠnghÄ©":126568,"ש×ķ×ĺ":126569,"tiÄŁi":126570,"ĠdeÄŁi":126571,"×IJ×ij":126572,"Ġ×ŀ×ŀ":126573,"ãĥĹãĥŃ":126574,"waÅĤ":126575,"à¸Īึà¸ĩ":126576,"خدÙħ":126577,"×IJ×Ŀ":126578,"Ä±ÅŁÄ±":126579,"czÄħ":126580,"ר×ĵ":126581,"ĠÑĢÑĥб":126582,"خرÙī":126583,"ã쮿ĸ¹":126584,"ĠденÑĮ":126585,"×Ĺ×Ļ×Ŀ":126586,"еÑĤе":126587,"ëĤľ":126588,"×IJ×Ĵ":126589,"×¢×ķר":126590,"ë³Ħ":126591,"åIJĮãģĺ":126592,"ãĤ²":126593,"ר×ļ":126594,"×ķש×IJ":126595,"ìľ¡":126596,"اخ":126597,"צ×Ļ×Ķ":126598,"á»±a":126599,"ãģĪãģ¦":126600,"ש×Ķ×ķ":126601,"анÑĤ":126602,"ลาà¸Ķ":126603,"инг":126604,"ë¡ł":126605,"اعد":126606,"ÙĪØ³Ø·":126607,"Ġвоп":126608,"ĠвопÑĢоÑģ":126609,"ÙħÙĬÙĨ":126610,"à¸Ħà¸ĩ":126611,"×Ļר×Ļ×Ŀ":126612,"ców":126613,"격":126614,"Ġê·¸ëŁ°":126615,"Ġì§Ħ":126616,"Ġש׾×Ķ":126617,"à¹Ģริà¹Īม":126618,"à¸Ĭà¸Ńà¸ļ":126619,"деÑĤ":126620,"ÑİÑīиÑħ":126621,"à¸ļà¸Ńà¸ģ":126622,"æĢĿãģĦ":126623,"عÙĬد":126624,"ס×ŀ":126625,"×Ĵ×Ļ×¢":126626,"צ×ĵ":126627,"بات":126628,"ĠëͰëĿ¼":126629,"à¸Īัà¸ĩ":126630,"ãģłãģijãģ§":126631,"×¢×Ļר":126632,"ĠÑĩел":126633,"ĠÑĩелов":126634,"ĠÑĩеловек":126635,"ãĥĥãĥģ":126636,"à¹Ģà¸ģีà¹Īยว":126637,"à¸Ķิ":126638,"Ġפע":126639,"×Ļ×ŀ×Ļ":126640,"ë°ĺ":126641,"خار":126642,"×ij×Ļת":126643,"×¢×Ļ×Ŀ":126644,"üyor":126645,"ãĤģãģ¦":126646,"клад":126647,"Ġà¸Īาà¸ģ":126648,"à¹Ģà¸Ħย":126649,"สà¸Ńà¸ĩ":126650,"à¹ģà¸Ħà¹Ī":126651,"ẫu":126652,"หà¸Ļัà¸ĩ":126653,"ש׾×ķ×Ŀ":126654,"اÙĨÙĬØ©":126655,"åĩºä¼ļ":126656,"åĩºä¼ļãģĦ":126657,"à¸łà¸²à¸¢":126658,"à¸ļาà¸Ĺ":126659,"à¸Ĭาว":126660,"muÅŁ":126661,"Ġ׾ק×ij׾":126662,"ãĤ·ãĥ£":126663,"ĠÄ°ÅŁ":126664,"×Ĵ×ĵ×ķ׾":126665,"جعÙĦ":126666,"ë³Ģ":126667,"ยิà¹Īà¸ĩ":126668,"à¸Ļาย":126669,"à¸Ļีà¹Ī":126670,"วิà¸ĺี":126671,"ãĤīãģªãģĦ":126672,"ëłĪ":126673,"Ġë¬¸ìłľ":126674,"Ġà¸ģ":126675,"à¸Ĺำà¸ĩาà¸Ļ":126676,"à¹Ģวà¹ĩà¸ļ":126677,"ÑĦе":126678,"楽ãģĹ":126679,"สำà¸Ħ":126680,"สำà¸Ħัà¸į":126681,"رÙħ":126682,"ãģķãĤĮãģ¦":126683,"Ġобла":126684,"ר×IJ×Ļ":126685,"หมà¸Ķ":126686,"ÙĨÙĬØ©":126687,"лин":126688,"ĠeÄŁ":126689,"itim":126690,"ëł¹":126691,"صاÙĦ":126692,"ÅĽl":126693,"à¸ľà¸´à¸Ķ":126694,"ãĥŀãĥ³":126695,"åħ¥ãĤĮ":126696,"à¹Ģà¸ķà¸Ńรà¹Į":126697,"ارÙĬ":126698,"ĠЦ":126699,"dür":126700,"สวย":126701,"립":126702,"رÙĥØ©":126703,"Ġhã":126704,"×Ļת×Ķ":126705,"à¸Ĥà¸Ļา":126706,"à¸Ĥà¸Ļาà¸Ķ":126707,"à¸Īำà¸Ļ":126708,"à¸Īำà¸Ļวà¸Ļ":126709,"ש×ķ×§":126710,"Ġдом":126711,"ì±ħ":126712,"ãģĭãģij":126713,"פ×ķ׾":126714,"à¸Ĭาย":126715,"ÑģмоÑĤÑĢ":126716,"ÑģлÑĥж":126717,"ש×IJ׾":126718,"кÑĢÑĭÑĤ":126719,"Ġìŀĺ":126720,"é«ĺãģĦ":126721,"ĠÑĢÑĥк":126722,"ÙĨص":126723,"дав":126724,"ưỡ":126725,"ưỡng":126726,"راÙħ":126727,"×Ļ׳×Ļ×Ŀ":126728,"ãĥ©ãĥ¼":126729,"ëĦ¤":126730,"Ġتع":126731,"lke":126732,"好ãģį":126733,"æĮģãģ¡":126734,"Ġë§İ":126735,"Ġyük":126736,"ĠÑģоÑģÑĤав":126737,"енÑĤÑĢ":126738,"peÅĤ":126739,"à¹Ģà¸Ľà¸¥à¸µà¹Īย":126740,"à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļ":126741,"íıī":126742,"ãĤĦãģĻ":126743,"×Ĺ×ĸ":126744,"×ijר×Ķ":126745,"루":126746,"ìĶĢ":126747,"بØŃØ«":126748,"à¹Ģà¸ķà¹ĩ":126749,"ówi":126750,"بÙĩ":126751,"ãģįãģ¾ãģĻ":126752,"Ġ×¢×ŀ":126753,"×Ĵ×ķ׾":126754,"езд":126755,"ÙĬÙ쨩":126756,"สà¸Ļà¹ĥà¸Ī":126757,"Ġ×ª×ľ":126758,"ÑıÑī":126759,"ĠسÙĨ":126760,"ĠÙĪØ§ØŃد":126761,"ĠÑģм":126762,"ladı":126763,"ıld":126764,"×Ļרת":126765,"ียà¸Ļ":126766,"ת×Ĺת":126767,"Ġжиз":126768,"à¸ŀั":126769,"à¸ŀัà¸Ĵ":126770,"à¸ŀัà¸Ĵà¸Ļา":126771,"à¸Ĭิ":126772,"اخÙĦ":126773,"ãģ£ãģ¦ãģĦãģŁ":126774,"รัà¸IJ":126775,"ãĤģãĤĭ":126776,"à¹Ĥà¸ģ":126777,"ĠTá»ķ":126778,"Ġhakk":126779,"رÙģ":126780,"ìłĢ":126781,"Ñģоб":126782,"ãģªãģijãĤĮãģ°":126783,"ÙĩÙĪ":126784,"Ġë²ķ":126785,"ãĤĨ":126786,"ĠاÙĦسعÙĪØ¯":126787,"Ġ×IJתר":126788,"اغ":126789,"Ġ׾×ĵ":126790,"à¹ģà¸ķ":126791,"à¹ģà¸ķà¹Īà¸ĩ":126792,"íĮĮ":126793,"ÑĥпиÑĤÑĮ":126794,"à¸ŀืà¹īà¸Ļà¸Ĺีà¹Ī":126795,"×ijת×Ļ":126796,"à¹ĩà¸ģ":126797,"ÅĤat":126798,"Ġê°ľìĿ¸":126799,"ìłķë³´":126800,"ÑĤал":126801,"Ġgüven":126802,"Ġİl":126803,"Ġê°ģ":126804,"Ġبت":126805,"×ŀ×ķ׳×Ķ":126806,"ĠاÙĦØŃÙĥÙĪÙħ":126807,"ÙĤات":126808,"à¹ģà¸ģà¹Ī":126809,"หาà¸ģ":126810,"нÑĮ":126811,"à¸Ľà¸£à¸±à¸ļ":126812,"มาà¸ĵ":126813,"ĠнеÑģк":126814,"Ġض":126815,"สมั":126816,"สมัà¸Ħร":126817,"ãģĮãģĤãĤĬ":126818,"меÑģÑĤ":126819,"Ġ×IJצ׾":126820,"Ġкомпани":126821,"סר":126822,"ÙĬÙħØ©":126823,"ĠÑħоÑĢо":126824,"ĠÑħоÑĢоÑĪ":126825,"Ġ×Ļ×ķ×ĵ":126826,"üs":126827,"×Ĵ×Ļש":126828,"à¸ļà¸Ĺ":126829,"تÙĨظ":126830,"วาà¸ĩ":126831,"มหา":126832,"Ġ׼×ķ׾":126833,"à¸Ĥà¹īาà¸ĩ":126834,"ë°ľ":126835,"год":126836,"дан":126837,"ãģĭãĤĤãģĹãĤĮãģ¾ãģĽãĤĵ":126838,"ãģĵãģ¡ãĤī":126839,"ãĥIJãĤ¤":126840,"eceÄŁi":126841,"دÙĬدة":126842,"ÙĨÙī":126843,"Ġëĭ¤ìĿĮ":126844,"วี":126845,"غا":126846,"лиз":126847,"à¹Ģà¸Ķิ":126848,"à¹Ģà¸Ķิม":126849,"ĠÙĬست":126850,"Ġyılı":126851,"koÅĦ":126852,"ãģ§ãģĹãĤĩãģĨãģĭ":126853,"ãģĤãģª":126854,"ãģĤãģªãģŁ":126855,"ÑĨен":126856,"ĠÙĪØ²":126857,"×IJ×Ļש":126858,"à¹Īà¸Ń":126859,"رØŃ":126860,"ê´ij":126861,"ÑĢаÑģÑĤ":126862,"Ġ×Ķ׾":126863,"ãģĹãģ¦ãĤĤ":126864,"×ŀר׼":126865,"×ŀר׼×ĸ":126866,"éģķãģĦ":126867,"ãģŁãģı":126868,"ĠÑģÑĥд":126869,"веÑģÑĤи":126870,"ĠíķĦìļĶ":126871,"ãĥķãĤ§":126872,"ÑĤелÑĮно":126873,"à¹Ģà¸ŀืà¹Īà¸Ńà¸Ļ":126874,"ÅĤuż":126875,"à¹Ģà¸Ķิà¸Ļà¸Ĺาà¸ĩ":126876,"ש×ķר":126877,"Ġ×ŀ×ĵ":126878,"×ķ×¢×ľ":126879,"ÙĦاÙħ":126880,"à¹Ħà¸ĭ":126881,"лей":126882,"кÑĥÑĢ":126883,"Ả":126884,"à¸Ĺาà¸Ļ":126885,"ì§ij":126886,"ĠгоÑĢод":126887,"רס":126888,"׾×ķ×Ĵ":126889,"masını":126890,"ĠлÑĥÑĩ":126891,"ลà¹Īา":126892,"ìļ¸":126893,"ש×ĺ":126894,"ĠÐĺн":126895,"íĤ¤":126896,"ÙĪÙĦا":126897,"ìķł":126898,"ĠØ£ÙĬضا":126899,"Ùĥار":126900,"ĠاÙĦتع":126901,"สูà¹Ī":126902,"ãĤ¼":126903,"×ij×Ļ×IJ":126904,"ยà¸ģ":126905,"ĠØŃÙĤ":126906,"ربÙĬ":126907,"ãģĺãĤĥãģªãģĦ":126908,"รัà¸ģษา":126909,"ÑħодиÑĤ":126910,"à¸ķà¸Ńà¸ļ":126911,"׳×ĺ×Ļ":126912,"ĠاÙĦÙħج":126913,"تÙħع":126914,"оваÑĤÑĮ":126915,"ÙĦÙĬÙĨ":126916,"×Ļ×ŀ×ķת":126917,"Ġmù":126918,"nÄĻ":126919,"ĠدÙĬ":126920,"׼ש×Ļ×ķ":126921,"Ġhiç":126922,"ëijIJ":126923,"ÙĪØ§Ø¡":126924,"ÙĪØ·":126925,"ĠاÙĦبÙĦ":126926,"à¹ģมà¹ī":126927,"×§×ķת":126928,"ÙĪØ¬Ø¯":126929,"å§ĭãĤģ":126930,"ÙĬئة":126931,"Ġ매":126932,"صبØŃ":126933,"פ×IJ":126934,"гоÑĢ":126935,"ס×Ķ":126936,"بÙĬÙĤ":126937,"ยาà¸ģ":126938,"Ġнад":126939,"ÙĬÙij":126940,"ĠبÙĪ":126941,"ס×ķר":126942,"ÙħÙĥاÙĨ":126943,"ר×ij":126944,"×Ĵ×ĸ":126945,"צת":126946,"bilit":126947,"лаг":126948,"ĠNgo":126949,"×IJ×ķר":126950,"à¸ķà¸Ļ":126951,"íĬ¹":126952,"à¸Ĺีà¹Īà¸Ķี":126953,"à¸Ľà¸£à¸°à¸Īำ":126954,"ование":126955,"ãģĦãģ¤":126956,"ãĥĥãĤ¯ãĤ¹":126957,"åIJĪãĤı":126958,"åIJĪãĤıãģĽ":126959,"×Ļ׳×ķ×Ļ":126960,"ạy":126961,"Ø«ÙĤ":126962,"ĠпÑĢоб":126963,"ĠпÑĢоблем":126964,"ÅŁeh":126965,"ÅŁehir":126966,"عادة":126967,"اÙĨÙĪÙĨ":126968,"à¸ķัวà¹Ģà¸Ńà¸ĩ":126969,"ì¶ķ":126970,"ılan":126971,"бан":126972,"ãĥ³ãĥī":126973,"à¸Īี":126974,"Ġ×Ķש׳×Ļ":126975,"поÑĤ":126976,"×ķ׾×Ļ×Ŀ":126977,"ลัà¸ļ":126978,"ĠÑįÑĤи":126979,"×ijקש":126980,"ë¹ĦìĬ¤":126981,"à¸Ńยà¹Īาà¸ĩà¹Ħร":126982,"×Ļ׾×Ļ":126983,"à¹ĥà¸Ĭà¹Ī":126984,"ĠاÙĦÙĥÙĦ":126985,"ãĥļãĥ¼ãĤ¸":126986,"صة":126987,"ÑĤиÑĢ":126988,"ãĤĵãģ©":126989,"зÑĭк":126990,"wyż":126991,"ÙĩÙĬ":126992,"ĠÙħÙĦÙĬ":126993,"Ġвиде":126994,"ظاÙħ":126995,"داÙĪÙĦ":126996,"×ŀת×Ļ":126997,"Ġsık":126998,"à¹Ģà¸ķิม":126999,"ãĤ¢ãĤ¤":127000,"каÑħ":127001,"צ×Ļ׾":127002,"à¹Ģà¸Ĭà¹Īà¸Ļ":127003,"маг":127004,"магаз":127005,"магазин":127006,"à¸Ľà¸±":127007,"à¸Ľà¸±à¸Ī":127008,"Ġש×Ļר×ķת":127009,"ียม":127010,"ãĥĸãĥ«":127011,"ĠدÙĪÙĦ":127012,"קר×Ļ×Ŀ":127013,"ÙĩÙı":127014,"ово":127015,"Ġüret":127016,"دÙĪÙĨ":127017,"à¹ģà¸Ļว":127018,"à¹Ģà¸Ļืà¹īà¸Ń":127019,"ĠÑĦоÑĤ":127020,"ãĥĺ":127021,"ãģ¤ãģĭ":127022,"ÑıÑģ":127023,"ĠíķĺëĤĺëĭĺ":127024,"ائع":127025,"ĠплаÑĤ":127026,"ìĺĪ":127027,"ĠdostÄĻp":127028,"ÙĪØ¬Ùĩ":127029,"Ġ×Ķ×Ĺ×Ļ":127030,"׳×Ļ×§":127031,"дей":127032,"íĽĦ":127033,"ıy":127034,"بØŃر":127035,"à¹Ģสริม":127036,"Ġ׾×Ĵ":127037,"ذÙĩب":127038,"جÙĬÙĦ":127039,"رÙĥز":127040,"Ġëħ":127041,"Ġëħ¸":127042,"פ×Ļ׾×ķ":127043,"ãģ¾ãģļ":127044,"iriÅŁ":127045,"ĠÙĥÙĬÙģ":127046,"Ġ×ijצ":127047,"ĠêµIJ":127048,"ÑĢоÑģÑģ":127049,"ĠØ´ÙĬ":127050,"Ġiçer":127051,"×Ĵ×ķ×ij×Ķ":127052,"менно":127053,"×¢×ij×Ļר":127054,"×ķ×ŀ×Ķ":127055,"ãĤīãģĹãģĦ":127056,"ãģ¼":127057,"Ñīин":127058,"è²·ãģĦ":127059,"جÙħÙĪØ¹Ø©":127060,"Ġdönem":127061,"Ġ×ij×IJר":127062,"веÑģÑĤ":127063,"×ķר×ķת":127064,"سÙģ":127065,"à¹ģà¸Ĺà¸Ļ":127066,"ĠдокÑĥменÑĤ":127067,"ĠاÙĬ":127068,"جاÙĨ":127069,"צ×ķ×¢×Ļ":127070,"ĠоÑģоб":127071,"ĠاÙĦÙħس":127072,"ÑĢаб":127073,"à¸łà¸¹":127074,"à¸Ķาว":127075,"лекÑĤ":127076,"عÙĤ":127077,"×ķ×ĵ×ķת":127078,"Ġolu":127079,"ĠoluÅŁtur":127080,"ãģ¾ãģ¾":127081,"един":127082,"à¹Ģà¸Ńà¸ģ":127083,"ãĤµãĤ¤":127084,"ëĦĪ":127085,"Ø·ÙĨÙĬ":127086,"Ø·ÙĤØ©":127087,"ĠÐłÐ°Ð·":127088,"ÙĦÙij":127089,"Ñĩем":127090,"Ġ׾×ĺ":127091,"สัà¹Īà¸ĩ":127092,"سرائÙĬÙĦ":127093,"Ġפר×ĺ×Ļ":127094,"деÑģÑĮ":127095,"Ġ׳׼":127096,"اÙĨب":127097,"ÙĬاة":127098,"Ùħبر":127099,"Ġkı":127100,"à¸Ľà¸ı":127101,"à¸Ľà¸ıิ":127102,"à¸ļัà¸ķิ":127103,"×ł×ª×Ļ":127104,"ìĨ¡":127105,"راب":127106,"à¹ĥà¸ķ":127107,"à¹ĥà¸ķà¹ī":127108,"×Ļ×ł×ª":127109,"ÙĪÙĬر":127110,"Ġ×Ķ×ŀ×Ļ":127111,"ейÑĩаÑģ":127112,"×§×ķ×ij":127113,"دراس":127114,"ĠÙħÙĤ":127115,"رÙĬÙĨ":127116,"خاص":127117,"ãģĬéĩij":127118,"Ġجدا":127119,"ãģĨãģ¡":127120,"ëħ¸":127121,"ırım":127122,"æ§ĺ":127123,"ãģ«å¯":127124,"ãģ«å¯¾":127125,"ÑĨев":127126,"Ġvard":127127,"ĠÐIJн":127128,"eÄŁ":127129,"ÑģÑĤвенно":127130,"Ш":127131,"سد":127132,"à¸ģุ":127133,"à¹ģà¸ľà¸Ļ":127134,"รูà¹īส":127135,"รูà¹īสึà¸ģ":127136,"اتØŃاد":127137,"ÑijÑĤ":127138,"×Ĺ×ķ×§":127139,"ãģĻãģIJ":127140,"Ø·ÙĦاÙĤ":127141,"Ġ×§×ķ×ĵ":127142,"à¹ĥà¸Ĭà¹īà¸ĩ":127143,"à¹ĥà¸Ĭà¹īà¸ĩาà¸Ļ":127144,"ãĥ¼ãĤ¿":127145,"Ġsür":127146,"ÑĢок":127147,"ë³ij":127148,"สมาà¸Ĭ":127149,"สมาà¸Ĭิà¸ģ":127150,"ãĥķãĥ¬":127151,"è¾¼ãģ¿":127152,"ãĤ»ãĥ³":127153,"Ġê°Ģì§Ģ":127154,"à¸ľà¹īา":127155,"ÑįÑĤомÑĥ":127156,"иÑĤел":127157,"à¸łà¸±":127158,"à¸ij":127159,"ãĥĸãĥ©":127160,"×Ľ×ª×ķ×ij":127161,"׳×Ŀ":127162,"еннÑĭе":127163,"×¢×¨×Ľ×ª":127164,"ĠìĤ":127165,"ĠìĤ´":127166,"à¸Ĥà¹īา":127167,"׳×ķס":127168,"ãĥ¬ãĥĵ":127169,"ÑĢеÑģ":127170,"à¹Ģลà¸Ĥ":127171,"ثاÙĦ":127172,"ìĹĨ":127173,"ĠÑĩаÑģÑĤ":127174,"าศ":127175,"ãĥªãĤ¢":127176,"uç":127177,"×Ļ׼×ķת":127178,"ลà¹īาà¸Ļ":127179,"ië":127180,"ãĤ¸ãĤ§":127181,"à¸Īà¸Ń":127182,"ÙĪØŃØ¯":127183,"×Ļצ×ķ×ij":127184,"Ġ×ijש׾":127185,"око":127186,"ضة":127187,"ذر":127188,"ĠÑĥд":127189,"İL":127190,"×ķצ×Ļ×Ŀ":127191,"×ĸ×ŀף":127192,"à¸Ľà¸ģ":127193,"íķĻêµIJ":127194,"ساÙħ":127195,"à¹Ħà¸Ķ":127196,"ละà¹Ģà¸Ń":127197,"ละà¹Ģà¸Ńีย":127198,"ละà¹Ģà¸Ńียà¸Ķ":127199,"ảy":127200,"аÑĨион":127201,"ãĤ¹ãĤ¯":127202,"פ×ķס":127203,"รà¹Īาà¸ĩ":127204,"еннÑĭй":127205,"عÙĨ":127206,"عÙĦÙĨ":127207,"ائÙģ":127208,"dÄĻ":127209,"ؤÙĪÙĦ":127210,"׾×ķ×ķ":127211,"Ġ×ijש×ij":127212,"ä»ĬåĽŀ":127213,"ĠاÙĦجÙĨ":127214,"داد":127215,"waÄĩ":127216,"ãĥªãĥ³":127217,"ĠìŀIJìĭł":127218,"اÙĨÙĬا":127219,"ãĥ¡ãĥª":127220,"ÙĦÙĪÙĨ":127221,"à¸Ĺà¹Īà¸Ńà¸ĩ":127222,"à¸Ĺà¹Īà¸Ńà¸ĩà¹Ģà¸Ĺีà¹Īยว":127223,"اÙģÙĬ":127224,"ĠлиÑĪ":127225,"ÙħÙĬØ©":127226,"оÑĤвеÑĤ":127227,"Ñĩин":127228,"ÃĬ":127229,"ãĥ¡ãĥ³":127230,"å®Ł":127231,"éļĽãģ«":127232,"ĠÑĢай":127233,"ãĤ¦ãĥ³":127234,"×Ļר×ķש":127235,"×Ļר×ķש׾×Ļ×Ŀ":127236,"มะ":127237,"Ġara":127238,"казаÑĤÑĮ":127239,"à¸ķัà¸Ķ":127240,"ÑĥÑİÑĤ":127241,"Ġüst":127242,"×Ĵ×ķ×ij":127243,"×Ĵ×ķ×ij×ķת":127244,"malı":127245,"егод":127246,"егоднÑı":127247,"اÙģÙĤ":127248,"à¸Ĭà¹Īà¸Ńà¸ĩ":127249,"Ġözellik":127250,"×Ļצ×ķר":127251,"ĠmiÄĻd":127252,"ĠiliÅŁ":127253,"ĠнаÑħод":127254,"×¢×ĸר":127255,"×ľ×Ľ×ª":127256,"ÙĨتاج":127257,"ĠÑģем":127258,"à¸Īà¹Īาย":127259,"à¸ķรว":127260,"à¸ķรวà¸Ī":127261,"פר×ķ":127262,"à¸Ĥัà¸ļ":127263,"ãģŀ":127264,"Ġпло":127265,"колÑĮ":127266,"×ŀ×¢×ĺ":127267,"íķĺìĭľ":127268,"jÄħce":127269,"ÙĨاÙĨ":127270,"ลีà¸ģ":127271,"нÑĥÑĤ":127272,"ĠобÑĢаз":127273,"Ùĥبر":127274,"ĠاÙĦÙĪØ·ÙĨ":127275,"ãģķãģĽãģ¦":127276,"ÙĤاء":127277,"×ŀ×ĵ×Ļ׳":127278,"yü":127279,"פ×Ļת":127280,"׳×ķף":127281,"ÙħÙĨظ":127282,"หà¸Ļัà¸ģ":127283,"ìŀĪ":127284,"ãĤ«ãĥ¼ãĥī":127285,"عÙĨÙĬ":127286,"под":127287,"ضاء":127288,"à¸Ļà¸ķà¹Į":127289,"×ŀשפ":127290,"วà¹Į":127291,"ר×ķ×§":127292,"สืà¹Īà¸Ń":127293,"פק×Ļ×ĵ":127294,"ãģªãĤīãģªãģĦ":127295,"ĠìŬ룬":127296,"ÙĦج":127297,"ÑīиÑĤ":127298,"ãĥĥãĤ·":127299,"ÙĦÙĬس":127300,"ĠÙĦÙħا":127301,"ìłij":127302,"×ij×Ļף":127303,"ãĥģãĤ§":127304,"Ġgüç":127305,"Ġchứ":127306,"×ķצ×IJ":127307,"קר×ij":127308,"à¹Ĥà¸ŀ":127309,"оÑĩно":127310,"סק×Ļ":127311,"ש׾×Ŀ":127312,"صرÙģ":127313,"ĠLÃł":127314,"×¢×Ļת":127315,"á»·":127316,"à¹Ĥà¸Ńà¸ģ":127317,"à¹Ĥà¸Ńà¸ģา":127318,"à¹Ĥà¸Ńà¸ģาส":127319,"Ġ×Ķ×ĵ×ijר":127320,"à¸Ļัà¹Īà¸Ļ":127321,"زر":127322,"нако":127323,"íļį":127324,"ãĤĤãģ¡":127325,"ãĤĤãģ¡ãĤį":127326,"ãĤĤãģ¡ãĤįãĤĵ":127327,"اÙħت":127328,"عداد":127329,"инÑĭ":127330,"ÅĤyw":127331,"à¸Ħà¸ĵะ":127332,"à¸Ĺะ":127333,"ktör":127334,"×Ļ×Ĺ×Ķ":127335,"Ġме":127336,"ĠмеÑģÑı":127337,"׳×Ķ×Ĵ":127338,"ĠÑģÑĥÑīеÑģÑĤв":127339,"à¸Ļัà¸Ļ":127340,"ÑĦÑĦ":127341,"екÑĤив":127342,"عÙĦÙĪÙħات":127343,"бÑĥд":127344,"à¸Ļัà¸ģà¸ĩาà¸Ļ":127345,"หà¸Ļà¹īาà¸Ĺีà¹Ī":127346,"ÙĤÙĬÙĤ":127347,"ãĤ·ãĥ³":127348,"ãģ«éĸ¢":127349,"×IJר×Ĵ":127350,"ĠпÑĢоÑĤ":127351,"ĠпÑĢоÑĤив":127352,"ĠìŀĪìĸ´":127353,"ÙĤÙĬÙĤØ©":127354,"ìĹĩ":127355,"kür":127356,"ãģ«ãģªãĤĬãģ¾ãģĹãģŁ":127357,"ĠдеÑıÑĤ":127358,"ĠдеÑıÑĤелÑĮ":127359,"פ×ķר×ĺ":127360,"à¸Łà¹īา":127361,"à¹Ģà¸ł":127362,"ĠавÑĤомаÑĤ":127363,"×ĸ×Ļ×§":127364,"Ġolduk":127365,"عاÙħ":127366,"ĠÑĤоÑĢ":127367,"yrıca":127368,"êÌ":127369,"ãĤŃãĥ³ãĤ°":127370,"ãģ«ãģ¨ãģ£ãģ¦":127371,"à¹Ģà¸īà¸ŀ":127372,"à¹Ģà¸īà¸ŀาะ":127373,"ãģ¯ãģļ":127374,"×ŀ×IJ×Ļ":127375,"สะà¸Ķ":127376,"สะà¸Ķวà¸ģ":127377,"ìľ¼ë©°":127378,"à¸ģี":127379,"ฬ":127380,"Ġ×¢×ķש":127381,"à¸łà¸²à¸©à¸²":127382,"à¸Ĺัà¸Ļ":127383,"acakt":127384,"acaktır":127385,"اعدة":127386,"ĠÑĥÑģлÑĥг":127387,"סר×ĺ":127388,"×ķ×ŀ×ķת":127389,"×Ķ×ķר":127390,"×ŀ×ķ×ij":127391,"×ŀ×ķ×ijף":127392,"سÙĬاس":127393,"اتÙ쨧ÙĤ":127394,"×Ķצ׾":127395,"Ùħؤس":127396,"Ġpó":127397,"Ġкни":127398,"×Ļ׼×ķ׾":127399,"à¹Ģหลืà¸Ń":127400,"׼׾׼":127401,"׳×ĸ":127402,"ÑĪие":127403,"rès":127404,"ĠاÙĦØŃÙĤ":127405,"лÑıÑĢ":127406,"หà¸į":127407,"หà¸įิà¸ĩ":127408,"ר×Ĵ×Ļש":127409,"à¹Ģสà¹īà¸Ļ":127410,"ש×ij×ķף":127411,"ôtel":127412,"апÑĢ":127413,"апÑĢимеÑĢ":127414,"ابÙĦ":127415,"ĠÑĢазвиÑĤ":127416,"ĠполÑĮз":127417,"ĠСеÑĢ":127418,"×ķ×ij×Ļ":127419,"róż":127420,"ìĭŃ":127421,"ãĤ¯ãĥĪ":127422,"ãģĹãĤĪãģĨ":127423,"à¸ģรม":127424,"ØŃÙĥÙĪÙħ":127425,"à¹Ĥà¸ļ":127426,"à¸Ĺà¹īาย":127427,"ĠMá":127428,"ĠÑĤÑĭ":127429,"à¸Ħรัว":127430,"ÑĢÑĥб":127431,"ạp":127432,"ĠmÅĤ":127433,"ĠmÅĤod":127434,"ĠgörÃ¼ÅŁ":127435,"ĠgeliÅŁ":127436,"ươi":127437,"×ŀשק":127438,"ÙĢÙĢÙĢÙĢ":127439,"ราว":127440,"ãģĹãģ£":127441,"ãģĹãģ£ãģĭãĤĬ":127442,"ĠÐļон":127443,"Ġkê":127444,"à¹Ĥà¸Ĺร":127445,"èIJ½ãģ¡":127446,"åĩºãģ¦":127447,"ลัà¸ģษ":127448,"Ġ×Ĵ×ij×ķ×Ķ":127449,"ãĥĻãĥ«":127450,"ê±°ëĤĺ":127451,"ë§IJ":127452,"×Ļ׾×ĵ×Ļ×Ŀ":127453,"ĠëĦĪ":127454,"×ŀר×Ļ":127455,"รส":127456,"ãĥŃãĥ³":127457,"ило":127458,"ноÑģÑĤÑĮÑİ":127459,"×ĸר×Ĺ":127460,"пон":127461,"Ġ×Ķש׾":127462,"ê²łìĬµëĭĪëĭ¤":127463,"ĠkiÅŁ":127464,"ĠÐļи":127465,"วร":127466,"داع":127467,"ÅŁim":127468,"ÙĨÙij":127469,"ваÑĤ":127470,"راÙĥ":127471,"باÙĦ":127472,"иде":127473,"Ġ×Ķ×ŀ×Ĺ":127474,"ìĸµ":127475,"تÙģØ§Ø¹":127476,"أت":127477,"ëĬĺ":127478,"ש×Ļת":127479,"ستÙħر":127480,"ĠÑĦак":127481,"ĠاÙĦØ£ÙħرÙĬ":127482,"ëŀ¨":127483,"اسÙħ":127484,"ĠaÄŁ":127485,"Ġçev":127486,"ÙĥÙĪØ±":127487,"ãģķãģ¾":127488,"Ġçöz":127489,"Ġرس":127490,"Äħda":127491,"สà¸Ļุ":127492,"ãģĹãģ¦ãģıãĤĮ":127493,"нÑİ":127494,"leÅŁme":127495,"ãĤªãĥ³":127496,"ãģ¨ãģªãĤĬ":127497,"avaÅŁ":127498,"×ĺ×Ļ×ij":127499,"ØŃض":127500,"×ķצ×IJ×ķת":127501,"ÙĨÙħÙĪ":127502,"ıt":127503,"ĠÑħа":127504,"ĠÑħаÑĢак":127505,"ĠÑħаÑĢакÑĤеÑĢ":127506,"ĠdÅĤ":127507,"ãĥĹãĥ©":127508,"à¸Ĭุม":127509,"à¹Īà¸Ńà¸Ļ":127510,"×ķ×ij׾":127511,"Ñģол":127512,"×ĵ×Ĵ":127513,"аÑĢаÑĤ":127514,"nivers":127515,"ĠgerçekleÅŁtir":127516,"ĠاÙĦÙĦÙĬ":127517,"ระยะ":127518,"ĠÙħختÙĦÙģ":127519,"Ġgönder":127520,"ÙģØ§Ø±":127521,"doÄŁ":127522,"doÄŁan":127523,"صÙĦاØŃ":127524,"Ġyayın":127525,"ãĥĨãĥ³":127526,"รวà¸Ī":127527,"×Ļ×Ĺ×Ļ×ĵ":127528,"ünkü":127529,"ÑĨиалÑĮн":127530,"à¸ļู":127531,"มุ":127532,"hä":127533,"Ø®Ùģ":127534,"å¢Ĺ":127535,"å¢ĹãģĪ":127536,"еÑĩно":127537,"ĠاÙĦسÙĨ":127538,"à¸Ĥาว":127539,"imdi":127540,"Ы":127541,"à¸Ļà¸Ńà¸ģà¸Īาà¸ģ":127542,"à¸ļาล":127543,"תש":127544,"Ġdüzenle":127545,"мÑĭÑģл":127546,"ãģıãģª":127547,"żu":127548,"ĠwspóÅĤ":127549,"Ġназ":127550,"ındaki":127551,"ترة":127552,"ÅŁek":127553,"Ġöd":127554,"ĠÙĪÙĥ":127555,"ĠпозволÑı":127556,"Ġת×ķ׼":127557,"ÙħÙĨتج":127558,"ë§ī":127559,"ĠاÙĦØ«ÙĦاث":127560,"аÑĨиÑİ":127561,"ÙĪØ±ÙĪ":127562,"ÑĭваеÑĤ":127563,"خصص":127564,"ĠاÙĦÙģÙĦ":127565,"ĠاÙĦÙģÙĦسطÙĬÙĨ":127566,"إجر":127567,"إجراء":127568,"اÙĨتخ":127569,"اÙĨتخاب":127570,"ارÙĬØ©":127571,"×ķÖ":127572,"Ø¢ÙĨ":127573,"×ŀ×¢×ķת":127574,"Ġмал":127575,"Ġ×IJ×Ĺ":127576,"à¸Ĺà¹īà¸Ńà¸ĩ":127577,"zeÅĽ":127578,"Ġë§Įëĵ¤":127579,"رÙĬع":127580,"äºĭãĤĴ":127581,"à¸ļริหาร":127582,"׾×ŀ×Ļ×ĵ":127583,"ĠмÑĥж":127584,"ترÙĪ":127585,"ĠباÙĦØ¥":127586,"פ×Ļ×§":127587,"زÙħØ©":127588,"ĠÃ¶ÄŁrenc":127589,"ãĥ¶":127590,"اÙħعة":127591,"×§×ij×ķצ":127592,"×ŀ׳×ķת":127593,"رÙĬÙħ":127594,"Ġоказ":127595,"ãģłãģijãģ©":127596,"Ġhız":127597,"Ġש×IJת":127598,"ãĤ¢ãĥ¼":127599,"Ġmożliwo":127600,"ìĦ¼":127601,"ÙĪØ§Ø¨":127602,"огÑĢаÑĦ":127603,"ĠعبداÙĦ":127604,"ãĤĴè¡Į":127605,"بÙĬÙĦ":127606,"Ġİç":127607,"ยาย":127608,"ĠÑĥÑĩаÑģÑĤ":127609,"ÑĦеÑģÑģ":127610,"ÑĦеÑģÑģиона":127611,"Ấ":127612,"ÙĨÙĬÙĨ":127613,"عدÙĦ":127614,"สรร":127615,"دÙĬÙĦ":127616,"×ij×Ļ×§":127617,"czyÅĤ":127618,"ÑĢоме":127619,"Ġмед":127620,"ìĻĶ":127621,"ãĥ©ãĤ¤ãĥ³":127622,"ĠÑĤеп":127623,"еÑĢÑĮ":127624,"iÄŁi":127625,"вели":127626,"ÑĢиÑģÑĤ":127627,"ס×ķפ":127628,"×ŀ׾×Ĺ":127629,"ĠاÙĦØ¥ÙĨ":127630,"Ġ׾×Ķש":127631,"è¶ĬãģĹ":127632,"ĠÑĢÑĭ":127633,"×ķ×IJר":127634,"رÙĩاب":127635,"פ×ķ×IJ×Ļ":127636,"ĠгоÑģÑĥд":127637,"ĠгоÑģÑĥдаÑĢ":127638,"ĠгоÑģÑĥдаÑĢÑģÑĤв":127639,"ĠاÙĦØ£ÙħÙĬر":127640,"Ùħج":127641,"à¹Ģหมาะ":127642,"ÑĢев":127643,"à¸Ĭีà¸ŀ":127644,"ãĥķãĥĪ":127645,"иÑĩно":127646,"ĠاÙĦÙħؤ":127647,"Ġiht":127648,"íħľ":127649,"دÙĨÙĬ":127650,"رص":127651,"лаÑģÑĤ":127652,"à¹Ģหลà¹Īา":127653,"ılır":127654,"รà¸ĵà¹Į":127655,"×ŀש×Ļ×ļ":127656,"Ġdá»ĭ":127657,"Ø·Ù쨧ÙĦ":127658,"×ĺ×ķף":127659,"Ġ×ij×Ļ׳":127660,"ãģ¾ãģ£ãģŁ":127661,"ложениÑı":127662,"تØŃر":127663,"باØŃ":127664,"à¹Ģสืà¹īà¸Ń":127665,"ãģĻãģĶ":127666,"ltür":127667,"à¸ĩาม":127668,"Ġtü":127669,"ĠпÑĢим":127670,"ĠпÑĢимен":127671,"Ġhayat":127672,"ëĥIJ":127673,"ëĭĮ":127674,"׳×Ļ×ķ":127675,"веден":127676,"ìħ¨":127677,"à¸Īัย":127678,"à¸ģà¹Īà¸Ń":127679,"Ġвод":127680,"оÑģÑĤоÑı":127681,"наÑĤ":127682,"à¹ģหล":127683,"سÙħÙĬ":127684,"à¸Ķำà¹Ģà¸Ļ":127685,"à¸Ķำà¹Ģà¸Ļิà¸Ļ":127686,"wód":127687,"öyle":127688,"ãĥĢãĤ¤":127689,"ÑĪий":127690,"меÑīен":127691,"ãģĹãģ¾ãģĨ":127692,"ãĥīãĥ©":127693,"ÙĪØ¶ØŃ":127694,"à¸Ńà¸Ļุ":127695,"ĠاÙĦاجتÙħاع":127696,"laÅŁma":127697,"à¸Ħà¸Ńà¸Ļ":127698,"×ŀר×Ļ×Ŀ":127699,"ÙĨاÙħج":127700,"שר×ķת":127701,"اÙĦØ£":127702,"ĠksiÄħż":127703,"Ġан":127704,"ÑĢай":127705,"اÙĩرة":127706,"×ŀ×ĵ×Ķ":127707,"ä¸Ģç·":127708,"ä¸Ģç·Ĵ":127709,"ä¸Ģç·Ĵãģ«":127710,"ÑĢиÑĤоÑĢ":127711,"dıkl":127712,"à¹ģà¸ĸ":127713,"à¹ģà¸Ĥà¹Īà¸ĩ":127714,"екÑĤоÑĢ":127715,"×ŀסע":127716,"ÑĢакÑĤи":127717,"uÄŁu":127718,"×ķ×ijת":127719,"สูà¸ķร":127720,"ĠçalÄ±ÅŁm":127721,"ĠçalÄ±ÅŁmalar":127722,"Ġана":127723,"ãĥĽãĥ¼ãĥł":127724,"Ġbölüm":127725,"Ġبص":127726,"олоÑģ":127727,"ĠìķĬëĬĶ":127728,"à¹Īะ":127729,"ÙĪØªØ±":127730,"ä¹Ĺ":127731,"ستخداÙħ":127732,"פ×Ļ×Ļס":127733,"פ×Ļ×Ļס×ij":127734,"פ×Ļ×Ļס×ij×ķ×§":127735,"ĠкÑĢаÑģ":127736,"лик":127737,"رÙĬØŃ":127738,"×ŀש׾×Ķ":127739,"à¹Ģยีà¹Īย":127740,"à¹Ģยีà¹Īยม":127741,"виÑģ":127742,"омн":127743,"ÄŁun":127744,"ãĥŃãĥ¼ãĥ³":127745,"أتÙĬ":127746,"à¸ķรี":127747,"çͳãģĹ":127748,"تÙħر":127749,"ìĹĪìĬµëĭĪëĭ¤":127750,"ĠÙĪØºÙĬر":127751,"redni":127752,"ĠاÙĦصÙģ":127753,"ĠнаÑģÑĤоÑı":127754,"ĠнаÑģÑĤоÑıÑī":127755,"à¸ķรา":127756,"ĠÑĥÑģлов":127757,"ĠÑĥÑģловиÑı":127758,"ÑĨеп":127759,"×Ķ×Ĺ׾×ĺ":127760,"Ø·ÙĬع":127761,"ĠBakan":127762,"ĠاÙĦرÙĪ":127763,"илÑĮно":127764,"ĠмеÑĤ":127765,"à¸Ķà¸Ńà¸ģ":127766,"ãģĭãĤīãģªãģĦ":127767,"ĠпоÑģÑĤоÑı":127768,"ĠпоÑģÑĤоÑıн":127769,"ĠÑĩаÑģ":127770,"üc":127771,"wró":127772,"бÑĥÑĢ":127773,"ãĥIJãĥĥãĤ¯":127774,"ãĥ©ãĥ³ãĥī":127775,"ĠогÑĢ":127776,"สัà¸į":127777,"สัà¸įà¸įา":127778,"มัà¹Īà¸Ļ":127779,"à¸Ħà¸Ńม":127780,"alık":127781,"Ġнед":127782,"ümüz":127783,"ĠÅĽwie":127784,"ério":127785,"×Ļ×IJ×Ķ":127786,"دÙħات":127787,"ırl":127788,"ĠоÑĤз":127789,"ĠоÑĤзÑĭв":127790,"ä»ĺãģį":127791,"Ġkażde":127792,"миниÑģÑĤ":127793,"ãĤ°ãĥ«":127794,"ë°ĸ":127795,"езн":127796,"اÙĦÙģ":127797,"Ġשק׾":127798,"Ùħض":127799,"ãĥĿãĥ¼ãĥĪ":127800,"ÙħÙĨت":127801,"ÙĤÙĬاÙħ":127802,"Ø´ÙĨ":127803,"×Ļר×ķ×¢":127804,"ãĤŃãĥ£ãĥ³":127805,"доÑĢов":127806,"×ŀ×Ļת×Ļ":127807,"ÙĪÙĦÙĪØ¬":127808,"ÙĥاÙģ":127809,"ĠÑĢазлиÑĩ":127810,"иÑĤеÑĤ":127811,"нолог":127812,"ลà¸ĩà¸Ĺุà¸Ļ":127813,"ĠyaklaÅŁ":127814,"ãĥ¬ãĤ¤":127815,"ê²łëĭ¤":127816,"æ±ĤãĤģ":127817,"رÙĪÙģ":127818,"ĠíĬ":127819,"ĠíĬ¹":127820,"ãģ£ãģıãĤĬ":127821,"à¸Ħวามà¸Ħิà¸Ķ":127822,"×Ķ×Ļס×ĺ":127823,"Ø¥ÙĤ":127824,"ãģ¦ãģĦ":127825,"à¹Ĥà¸Ĭ":127826,"ĠBüyük":127827,"ĠФедеÑĢ":127828,"ÑĨин":127829,"ÑĢова":127830,"ĠاÙĦاÙĤتصاد":127831,"Ġchá":127832,"à¸ĺาà¸Ļ":127833,"ë¥ł":127834,"à¹Ħà¸ķ":127835,"ÃŃpio":127836,"Ùĭا":127837,"ĠобÑıз":127838,"Ùĩج":127839,"Ġì¤ijìļĶ":127840,"ãģ®ãģ§ãģ¯ãģªãģĦ":127841,"باراة":127842,"ãĤ¤ãĥ«":127843,"ĠноÑĢм":127844,"á»īnh":127845,"mö":127846,"möglich":127847,"ÑĨип":127848,"ãĤ¢ãĤ¯":127849,"×Ķ×Ļ":127850,"ÑĨиалÑĮно":127851,"ĠÅĽwi":127852,"تÙĤ":127853,"ĠÑģÑĤоим":127854,"بÙĬعÙĬ":127855,"Ġ׾ש×ŀ":127856,"глÑı":127857,"глÑıд":127858,"ãģ¦ãģıãĤĮ":127859,"ÄĻdzi":127860,"à¸Ĥั":127861,"à¸Ĥัà¹īà¸Ļ":127862,"Ø·ÙĤ":127863,"ĠìĹŃ":127864,"ãģ£ãģ¦ãģĹãģ¾ãģĨ":127865,"ĠdeÄŁerl":127866,"ĠdeÄŁerlendir":127867,"Ġülk":127868,"Ġмног":127869,"à¹ĭ":127870,"ë¿IJ":127871,"ĠУкÑĢа":127872,"ÄŁini":127873,"Ġбезоп":127874,"ĠбезопаÑģ":127875,"à¸Ńà¸Ńà¸ģà¹ģà¸ļà¸ļ":127876,"اظ":127877,"ØŃداث":127878,"леÑĢ":127879,"×Ļ×¥":127880,"×Ļ׳×ĺר׳×ĺ":127881,"larınız":127882,"ØŃÙĬØŃ":127883,"żeli":127884,"à¸Ńัà¸ĩ":127885,"à¸Ńัà¸ĩà¸ģ":127886,"à¸Ńัà¸ĩà¸ģฤษ":127887,"ĠоÑĤлиÑĩ":127888,"ัส":127889,"ëŀį":127890,"ожно":127891,"ãĤ¹ãĥĿ":127892,"ĠÑħоÑĩ":127893,"Ġкап":127894,"еÑĩен":127895,"ØŃÙĦØ©":127896,"ÙĬاÙĩ":127897,"нал":127898,"×ķצר×Ļ×Ŀ":127899,"Ġkald":127900,"åĥį":127901,"ĠاÙĦشخص":127902,"Ġзна":127903,"Ġwzgl":127904,"życz":127905,"ê°Ŀ":127906,"à¸ŀลัà¸ĩ":127907,"íģ¼":127908,"Ġöl":127909,"Ġbụ":127910,"Ø´Ùĩر":127911,"Ġзам":127912,"Ġдев":127913,"×Ļ×ĺת":127914,"تعÙĦÙĤ":127915,"ÙĪÙħØ©":127916,"ãĤĴä½ľ":127917,"ãģįãģ¦":127918,"íĥĿ":127919,"rasında":127920,"ãĤĴæİ¢":127921,"ĠÙħباشر":127922,"راجع":127923,"Ġвозд":127924,"ÙħØŃا":127925,"×ķשר":127926,"ĠиÑģÑĤоÑĢ":127927,"มัà¸ģ":127928,"tıģ":127929,"ثار":127930,"ترÙĨت":127931,"à¹ģà¸Ĥà¹ĩ":127932,"à¹ģà¸Ĥà¹ĩà¸ĩ":127933,"поÑĩ":127934,"Ġ×ij×IJ×ķת":127935,"ë¯Ģ":127936,"ëĿ¼ëıĦ":127937,"à¸Ĭัà¸Ķ":127938,"สà¸ķà¹Į":127939,"ãĥĭãĥĥãĤ¯":127940,"иденÑĤ":127941,"ĠгÑĢÑĥпп":127942,"تخ":127943,"áºł":127944,"ยืà¸Ļ":127945,"ยัà¸Ļ":127946,"óry":127947,"TÃľ":127948,"ãģĹãĤĥ":127949,"ĠпÑĢовед":127950,"лÑıеÑĤ":127951,"ÙħØ®":127952,"ยà¸Ńม":127953,"×Ľ×ł×¡×ª":127954,"ĠاÙĦÙħÙĨت":127955,"Ġolmad":127956,"ר׼×ĸ×Ļ":127957,"ĠвÑģÑĤÑĢ":127958,"ĠиÑģÑģлед":127959,"ÑĤвеÑĢж":127960,"بدÙĪ":127961,"еÑĢÑĤ":127962,"ï»·":127963,"±ħ":127964,"สัมà¸ŀัà¸Ļà¸ĺà¹Į":127965,"ิà¹Īà¸Ļ":127966,"צ×Ļ×ij":127967,"wiÄĻt":127968,"Ġì°¸":127969,"ĠzwiÄħz":127970,"سبÙĪØ¹":127971,"ãĥĥãĤ°":127972,"à¸Ľà¸¥à¸Ńà¸Ķ":127973,"à¸Ľà¸¥à¸Ńà¸Ķà¸łà¸±à¸¢":127974,"ãĤĤãĤĬ":127975,"ÙĤدس":127976,"Ġsprz":127977,"Ġsprzeda":127978,"Ġistedi":127979,"Ġkhu":127980,"Ġден":127981,"ĠkoÅĦ":127982,"Ġ×ij×Ĺ×Ļ":127983,"à¹Ģà¸Ĺà¹īา":127984,"×ķס×Ļ×£":127985,"ãĥĭãĥ¥ãĥ¼":127986,"ĠпÑĢедоÑģÑĤ":127987,"ĠпÑĢедоÑģÑĤав":127988,"à¹Ĥà¸Ł":127989,"év":127990,"ĠاÙĦصØŃ":127991,"صØŃاب":127992,"à¹Ģà¸Īà¹ĩà¸ļ":127993,"влек":127994,"วัà¸ķ":127995,"à¸ĸุ":127996,"ãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ":127997,"ÙĤÙĬÙĤÙĬ":127998,"×ķ×Ĺר":127999,"ÑĭÑĪ":128000,"ĠоÑĤно":128001,"ĠоÑĤноÑĪ":128002,"обилÑĮ":128003,"ÙģØŃ":128004,"ınt":128005,"ıntı":128006,"Ġ׾×ij×ĵ":128007,"íİĺìĿ´ì§Ģ":128008,"ãĥĬãĥ«":128009,"ĠÙħساء":128010,"×Ļ×ĺ×ij":128011,"ÑĮеÑĢ":128012,"ëĦ·":128013,"ÑĭÑĤа":128014,"ĠоÑĩеÑĢ":128015,"à¸Ķืà¹Ī":128016,"à¸Ķืà¹Īม":128017,"ĠNgh":128018,"تعب":128019,"ÙĦاÙĤات":128020,"×ķ׾×ķ×Ĵ×Ļ×Ķ":128021,"ĠìĿ´ê²ĥ":128022,"Ġ×Ķ×ijר":128023,"ìľµ":128024,"à¹Ģà¸Ħลืà¹Īà¸Ńà¸Ļ":128025,"ÙĩØ©":128026,"à¸Īำà¹Ģà¸Ľà¹ĩà¸Ļ":128027,"å¤īãģĪ":128028,"wiÅĽcie":128029,"chod":128030,"chodzÄħ":128031,"вÑĢо":128032,"×ŀ×Ĺ×Ļר":128033,"Ġyı":128034,"Ġyıll":128035,"ì¡Į":128036,"à¹Ħหว":128037,"ãģªãģıãģª":128038,"ĠзавиÑģ":128039,"ĠìĺĪìĪĺ":128040,"Ù쨰":128041,"á»§ng":128042,"à¸ŀุà¸Ĺà¸ĺ":128043,"зн":128044,"layan":128045,"ãĤ¡":128046,"à¸ģà¹ĩà¸ķาม":128047,"ĠsaÄŁlam":128048,"รà¸ĵ":128049,"ĠÑģиÑĤ":128050,"ĠÑģиÑĤÑĥ":128051,"ĠاÙĦتÙĨ":128052,"×Ķ×ĸ":128053,"ĠØ·ÙĪÙĬÙĦ":128054,"taÅĤ":128055,"Ġgörd":128056,"å¤īãĤı":128057,"ëĥ¥":128058,"à¸Ħà¹Īà¸Ńย":128059,"×IJ×ķ×ĺ":128060,"ëħIJ":128061,"ãĥ©ãĥ³ãĤ¹":128062,"วัà¸Ĵ":128063,"วัà¸Ĵà¸Ļ":128064,"ĠoluÅŁ":128065,"פע×ķ׾":128066,"ĠszczegóÅĤ":128067,"à¸Ħาสิ":128068,"à¸Ħาสิà¹Ĥà¸Ļ":128069,"powied":128070,"ĠÑĤеб":128071,"หà¸Ļà¹Īวย":128072,"Ġмил":128073,"ØŃÙĥ":128074,"à¸Ĺà¸Ķ":128075,"ĠмаÑĤеÑĢиал":128076,"ÅĤow":128077,"à¹Ģà¸ģีย":128078,"ĠÑģовеÑĢ":128079,"ãĤ©":128080,"à¸Ľà¸£à¸´":128081,"ĠиÑİ":128082,"наÑĩен":128083,"ÑĢенд":128084,"muÅŁtur":128085,"ĠпÑĢодÑĥк":128086,"зд":128087,"ÑıÑĤи":128088,"ÑıÑĤиÑı":128089,"à¹Ģมีย":128090,"راتÙĬج":128091,"Ġamacı":128092,"ש×ķ׾":128093,"ש×ķ׾×Ĺ":128094,"สะà¸Ńา":128095,"สะà¸Ńาà¸Ķ":128096,"פ×Ĵ×¢":128097,"عبة":128098,"dın":128099,"íħĶ":128100,"Ġ×ŀש×Ĺ×§":128101,"Ġfiyat":128102,"ĠзаÑı":128103,"ĠзаÑıв":128104,"à¹Ĥหล":128105,"à¹Ĥหลà¸Ķ":128106,"à¸ģรุà¸ĩà¹Ģà¸Ĺà¸ŀ":128107,"צ×Ļ×Ļף":128108,"ìļ±":128109,"Ùħب":128110,"Ùħباد":128111,"landır":128112,"ĠвеÑģÑĮ":128113,"Ġhük":128114,"ĠÐĴоз":128115,"ÑĩиÑĤÑĭва":128116,"วล":128117,"×ķצע":128118,"à¸Ĥà¸ĵะà¸Ĺีà¹Ī":128119,"ĠaÅŁaģı":128120,"׾×IJ×ķ×ŀ×Ļ":128121,"trzym":128122,"Ã¤ÃŁig":128123,"owoÅĽci":128124,"ãģĿãĤĤ":128125,"ĠrozwiÄħz":128126,"ĠgÅĤówn":128127,"монÑĤ":128128,"×ŀ×ķ×ŀ":128129,"ĠÑģÑĤан":128130,"ÙĦاÙĤØ©":128131,"prowad":128132,"prowadzi":128133,"ĠÑģоÑģÑĤоÑı":128134,"×Ļ×IJ×ķת":128135,"rı":128136,"gı":128137,"ãĥijãĥij":128138,"ĠналиÑĩ":128139,"×Ķצע":128140,"Ġ׳×Ķ":128141,"à¸Ħัà¸ļ":128142,"عراض":128143,"иж":128144,"ÙĩائÙĬ":128145,"ãĤīãģı":128146,"ожеÑĤ":128147,"ĠобоÑĢ":128148,"ĠобоÑĢÑĥд":128149,"أسÙĦ":128150,"à¹ĩà¸Ķ":128151,"ÑĢÑĥÑĤ":128152,"دÙĬÙħÙĤ":128153,"دÙĬÙħÙĤرا":128154,"Ġjeste":128155,"×ķ×ķ×Ļר":128156,"×ij×ĵ×Ļ×§":128157,"деÑĢжива":128158,"ãģĬãģı":128159,"ewnÄĻtr":128160,"ewnÄĻtrzn":128161,"à¸ŀฤ":128162,"Ġ×IJ×ķ×Ķ":128163,"ת×Ĺ×ķש":128164,"Ġzob":128165,"дÑĥм":128166,"ĠÑģÑĭ":128167,"ÙĬرا":128168,"ĠwiÄĻks":128169,"à¹ģà¸ķà¸ģà¸ķà¹Īาà¸ĩ":128170,"lararas":128171,"lararası":128172,"íĺĢ":128173,"ëī´":128174,"×ķ×Ĵ׾":128175,"ĠоÑĤмеÑĤ":128176,"ĠÑĢан":128177,"تÙĥÙĦ":128178,"иÑĤелÑĮн":128179,"à¸Ľà¸£à¸°à¸§à¸±":128180,"à¸Ľà¸£à¸°à¸§à¸±à¸ķิ":128181,"ìŀĸ":128182,"можно":128183,"pieczeÅĦ":128184,"pieczeÅĦst":128185,"못":128186,"ìĬ¨":128187,"×ŀס×ŀ":128188,"Ủ":128189,"ศิ":128190,"ศิล":128191,"à¸¨à¸´à¸¥à¸Ľ":128192,"ĠÅļw":128193,"ãĥĥãĤ·ãĥ§ãĥ³":128194,"unitÃł":128195,"Ġmieszka":128196,"ĠmieszkaÅĦ":128197,"przed":128198,"przedsi":128199,"przedsiÄĻb":128200,"przedsiÄĻbior":128201,"à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺิ":128202,"à¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺà¸´à¸łà¸²à¸ŀ":128203,"ยà¹Ī":128204,"ìķĻ":128205,"รวà¸Ķ":128206,"รวà¸Ķà¹Ģรà¹ĩว":128207,"å½ĵãģŁãĤĬ":128208,"älle":128209,"ÑĥеÑĤÑģÑı":128210,"ãn":128211,"ëłµ":128212,"thè":128213,"ãĤĴåĪ©ç͍":128214,"ìµľ":128215,"íĵ¨":128216,"à¸Ĺัà¸ļ":128217,"าà¸Ħม":128218,"ãģĩ":128219,"ëĤĮ":128220,"à¹Ģà¸Ľà¸¥à¹Īา":128221,"â¦":128222,"ë¾":128223,"êĢ":128224,"êĩ":128225,"â¡":128226,"ðŁŁ":128227,"ãIJ":128228,"âº":128229,"áŃ":128230,"áĻ":128231,"áĵ":128232,"á²":128233,"ðĵı":128234,"á¬":128235,"â¯":128236,"ä¨":128237,"êĿ":128238,"ê«":128239,"ðij":128240,"ðĵĥ":128241,"ðĿħ":128242,"":128244,"":128245,"":128247,"ĠعÙĦÙī":128248,"Ġmá»Ļt":128249,"ĠvỼi":128250,"Ġngưá»Ŀi":128251,"ĠØ¥ÙĦÙī":128252,"Ġnhững":128253,"Ġthá»ĥ":128254,"Ġ×IJ×ķ":128255,"Ġ×¢×Ŀ":128256,"اÙĭ":128257,"Ġà¹ģละ":128258,"ĠÙĦا":128259,"Ġnhư":128260,"ĠاÙĦتÙĬ":128261,"Ġ×Ķ×ķ×IJ":128262,"ĠÄijến":128263,"ĠØ£ÙĪ":128264,"Ġvá»ģ":128265,"ĠlÃłm":128266,"Ġsẽ":128267,"ĠcÅ©ng":128268,"Ġợ":128269,"ĠÄijó":128270,"Ġnhiá»ģu":128271,"Ġtại":128272,"Ġtrên":128273,"Ġ×Ĵ×Ŀ":128274,"ĠnhÃł":128275,"Ġ׼×Ļ":128276,"Ġsá»±":128277,"ĠÄijầu":128278,"Ġbá»ĭ":128279,"ĠÙĩذا":128280,"Ġnhất":128281,"Ġphải":128282,"Ġhiá»ĩn":128283,"Ġdụng":128284,"ĠÄijá»Ļng":128285,"ĠاÙĦÙĦÙĩ":128286,"ĠØĮ":128287,"ĠÙĥÙĦ":128288,"Ġviá»ĩc":128289,"ĠnÄĥm":128290,"Ġthì":128291,"Ġhá»įc":128292,"ĠÙĪØª":128293,"té":128294,"ĠاÙĨ":128295,"Ġtôi":128296,"Ġ×IJ׳×Ļ":128297,"Ġ׾×Ļ":128298,"Ġ×ŀ×ķ":128299,"ĠngÃły":128300,"ĠnÆ°á»Ľc":128301,"Ġ×Ķ×Ļ×IJ":128302,"Ġ×IJ×Ļ":128303,"ĠhÆ¡n":128304,"ĠÙĩذÙĩ":128305,"ĠÙĪÙĬ":128306,"ĠاÙĦذÙĬ":128307,"Ġ×ķ×ŀ":128308,"Ġgiá":128309,"Ġnhân":128310,"ĠchÃŃnh":128311,"Ġmình":128312,"ĠÐĿа":128313,"Ġthế":128314,"Ġ×Ļ×ķתר":128315,"Ġ×IJ×Ŀ":128316,"Ġnên":128317,"Ġhợ":128318,"Ġhợp":128319,"Ġcòn":128320,"ĠÙĩÙĪ":128321,"ĠcÆ¡":128322,"Ġrất":128323,"ĠViá»ĩt":128324,"Ġبعد":128325,"Ġש×Ļ":128326,"Ġthá»Ŀi":128327,"Ġcách":128328,"ĠÄijá»ĵng":128329,"Ġно":128330,"Ġtrưá»Ŀng":128331,"ØŁ":128332,"ĠÄijá»ĭnh":128333,"ĠÄijiá»ģu":128334,"×Ļ×Ļ×Ŀ":128335,"Ġthá»±c":128336,"nın":128337,"Ġhình":128338,"Ġnói":128339,"Ġcùng":128340,"Ġ×Ķ×Ķ":128341,"ĠØ¥ÙĨ":128342,"Ġ×IJ×ij׾":128343,"Ġnhưng":128344,"Ġbiết":128345,"Ġже":128346,"Ġchúng":128347,"ĠÄijang":128348,"ĠذÙĦÙĥ":128349,"Ġlên":128350,"Ġkhách":128351,"ĠnÃło":128352,"Ġsá»Ń":128353,"Ġkhác":128354,"Ġë°ı":128355,"Ġlý":128356,"×Ļ×Ļ":128357,"ĠÄijây":128358,"Ġ׾×ŀ":128359,"Ġcần":128360,"Ġtrình":128361,"Ġphát":128362,"ãģ«ãĤĤ":128363,"по":128364,"ĠnÄĥng":128365,"Ġbá»Ļ":128366,"Ġvụ":128367,"ĠÄijá»Ļ":128368,"Ñĩе":128369,"ĠnháºŃn":128370,"ĠtrÆ°á»Ľc":128371,"Ġ×¢×ĵ":128372,"ĠhÃłnh":128373,"ĠØ®ÙĦاÙĦ":128374,"Ġlượng":128375,"Ġcấp":128376,"Ġtá»±":128377,"Ġvì":128378,"Ġtư":128379,"Ġchất":128380,"Ġ׼×ŀ×ķ":128381,"Ġgì":128382,"Ġש׳":128383,"Ġtế":128384,"ת×ķ":128385,"Ġnghiá»ĩp":128386,"Ġmặt":128387,"ĠÙĥÙħا":128388,"Ġ×ij×Ļף":128389,"Ġרק":128390,"Ġthấy":128391,"Ġmáy":128392,"ĠÙģÙī":128393,"Ġdân":128394,"Ġ×IJ×Ĺ×ĵ":128395,"Ġtâm":128396,"Ġ׼×ļ":128397,"Ġ׾×ķ":128398,"во":128399,"Ġtác":128400,"ĠtoÃłn":128401,"ĠÙĪÙħ":128402,"Ġkết":128403,"Ġหรืà¸Ń":128404,"ĠÙĪØ§ÙĦÙħ":128405,"ĠÄijiá»ĥm":128406,"Ġ×ĸ×ķ":128407,"Ġ×ij×ķ":128408,"׼×ķת":128409,"Ġhá»Ļi":128410,"Ġbằng":128411,"تÙĩا":128412,"Ġ׼×ĵ×Ļ":128413,"Ġ×Ķ×Ŀ":128414,"Ġxuất":128415,"ĠÙĤد":128416,"Ġbảo":128417,"Ġtá»ijt":128418,"Ġtình":128419,"ĠÙĩÙĬ":128420,"ĠÄijá»iji":128421,"Ġthiết":128422,"Ġhiá»ĩu":128423,"Ġtiếp":128424,"Ġtạo":128425,"ת×Ķ":128426,"Ġchá»§":128427,"oÅĽÄĩ":128428,"Ġgiú":128429,"Ġgiúp":128430,"Ġý":128431,"Ġquả":128432,"Ġloại":128433,"Ġcô":128434,"Ġô":128435,"Ġông":128436,"Ġ×Ķ×ķ":128437,"ĠاÙĦÙĬÙĪÙħ":128438,"ĠtÃŃnh":128439,"га":128440,"Ġphòng":128441,"ĠÄĥn":128442,"ĠعاÙħ":128443,"Ġvá»ĭ":128444,"larını":128445,"rÃŃa":128446,"ĠtỼi":128447,"ĠÄijưá»Ŀng":128448,"ĠgiỼi":128449,"Ġbản":128450,"Ġcầu":128451,"Ġnhiên":128452,"Ġbá»ĩnh":128453,"Ġthưá»Ŀng":128454,"Ġ×IJ×Ļף":128455,"ĠÄijá»ģ":128456,"Ġhá»ĩ":128457,"Ġ×Ļשר×IJ׾":128458,"Ġquá":128459,"ĠÐĹа":128460,"ãģ®ãģ§ãģĻãģĮ":128461,"ĠÐŁÑĢи":128462,"Ġphần":128463,"ĠÙĪÙĦا":128464,"ĠlỼn":128465,"Ġtrá»ĭ":128466,"Ġcảm":128467,"Ġмо":128468,"Ġdùng":128469,"ĠاÙĦÙī":128470,"ĠعÙĦÙĬÙĩ":128471,"ĠìŀĪìĬµëĭĪëĭ¤":128472,"ÙĬÙĤ":128473,"ĠÙĤبÙĦ":128474,"Ġhoặc":128475,"ĠØŃÙĬØ«":128476,"Ġà¸Ĺีà¹Ī":128477,"ĠغÙĬر":128478,"ĠÄijại":128479,"Ġsá»ijng":128480,"нÑĭми":128481,"Ġthức":128482,"Ġפ×Ļ":128483,"ĠÄijiá»ĩn":128484,"ãģªãģĭãģ£ãģŁ":128485,"Ġgiải":128486,"Ġvẫn":128487,"ĠиÑħ":128488,"Ġönce":128489,"ĠváºŃy":128490,"Ġmuá»ijn":128491,"Ġảnh":128492,"à¹ĥà¸Ļà¸ģาร":128493,"ĠQuá»ijc":128494,"Ġkế":128495,"׳×IJ":128496,"Ġס×Ļ":128497,"Ġyêu":128498,"ãģ®ãģĭ":128499,"ĠÄijẹ":128500,"ĠÄijẹp":128501,"Ġchức":128502,"Ġyıl":128503,"ĠTürkiye":128504,"dé":128505,"ĠÙĤاÙĦ":128506,"Ġdá»ĭch":128507,"ĠolduÄŁu":128508,"Ġchá»įn":128509,"ĠتÙħ":128510,"หà¸Ļึà¹Īà¸ĩ":128511,"ãģķãĤĮãģŁ":128512,"Ġpháp":128513,"ìĽĶ":128514,"Ġtiá»ģn":128515,"ãģĹãģ¾ãģĹãģŁ":128516,"Ġש׾×IJ":128517,"ÙĦØ©":128518,"Ġ׾פ׳×Ļ":128519,"Ġ×ij×Ļת":128520,"ĠHÃł":128521,"ĠØŃت":128522,"ĠØŃتÙī":128523,"Ġ×¢×ķ×ĵ":128524,"Ġnó":128525,"Ġtháng":128526,"à¹Ģลืà¸Ńà¸ģ":128527,"ר×Ķ":128528,"ĠtÄĥng":128529,"Ġcái":128530,"Ġtriá»ĥn":128531,"Ġ×IJ×ķת×ķ":128532,"ìłģìĿ¸":128533,"ĠCông":128534,"Ġ׾×Ķ×Ļ×ķת":128535,"Ġгода":128536,"иÑİ":128537,"Ġبعض":128538,"Ġà¸ģาร":128539,"èī¯ãģĦ":128540,"ÙĪØª":128541,"Ġliên":128542,"ĠÐĿо":128543,"ĠÐĿе":128544,"çļĦãģª":128545,"ĠÙħت":128546,"ĠÑĤакже":128547,"ĠкоÑĤоÑĢÑĭе":128548,"Ġ×Ļ×ĵ×Ļ":128549,"Ġtrá»įng":128550,"ãĤµãĤ¤ãĥĪ":128551,"ìłģìľ¼ë¡ľ":128552,"ĠtáºŃp":128553,"Ġש׾×Ļ":128554,"íķĺê²Į":128555,"ĠtÃłi":128556,"ĠЯ":128557,"Ġrá»ĵi":128558,"اÙĥ":128559,"Ġthương":128560,"Ġ×Ķ×ĸ×Ķ":128561,"ĠÙĪÙħÙĨ":128562,"à¸Ĺีà¹Īมี":128563,"Ġcuá»Ļc":128564,"Ġbüyük":128565,"ãģ¨ãģĭ":128566,"Ġ×ij×Ļ×ķתר":128567,"Ġlần":128568,"Ġgöre":128569,"Ġtrợ":128570,"Ġ×ĺ×ķ×ij":128571,"ÑĤÑĮÑģÑı":128572,"Ġthá»ijng":128573,"Ġ׼ש":128574,"Ġtiêu":128575,"Ġ×ŀ×IJ×ķ×ĵ":128576,"ØĽ":128577,"kÄħ":128578,"Ġà¹ĥà¸Ļ":128579,"Ġvấn":128580,"Ġש׾×ķ":128581,"ĠÄijá»ģu":128582,"ÙģØª":128583,"Ġê²ĥìĿ´":128584,"Ġhóa":128585,"ĠاÙĦعاÙħ":128586,"ĠÙĬÙĪÙħ":128587,"кой":128588,"Ġbiá»ĩt":128589,"ÑģÑĤо":128590,"Ġ×Ķ×Ļ×ķ":128591,"à¸Ĺีà¹Īà¸Īะ":128592,"Ġ×ĵ×Ļ":128593,"Ġ×IJ×ļ":128594,"Ġán":128595,"صÙĪØ±":128596,"ĠtrÃŃ":128597,"ĠÐŁÑĢо":128598,"Ġlá»±c":128599,"ãģĹãģ¦ãģĦãģ¾ãģĻ":128600,"ĠbÃłi":128601,"Ġ×ĸ×IJת":128602,"Ġbáo":128603,"à¸ļà¸Ļ":128604,"ĠëĮĢíķľ":128605,"Ġtiế":128606,"Ġtiếng":128607,"Ġbên":128608,"ãģķãĤĮãĤĭ":128609,"sión":128610,"Ġtìm":128611,"×¢×ķ":128612,"mé":128613,"ниÑı":128614,"ãģ»ãģ©":128615,"Ġà¹Ģà¸ŀราะ":128616,"بة":128617,"Ġë¶Ħ":128618,"Ġ×IJ×ĸ":128619,"à¸Ĺà¹Īาà¸Ļ":128620,"ת×Ŀ":128621,"Ġthêm":128622,"Ġhoạt":128623,"yı":128624,"×ĸ×ķ":128625,"Ġgiá»Ŀ":128626,"Ġbán":128627,"à¸Ĥาย":128628,"Ñĩа":128629,"Ġà¹Ĩ":128630,"ĠاÙĦÙħت":128631,"ĠоÑĩенÑĮ":128632,"Ġbất":128633,"Ġtrẻ":128634,"ÑĤÑĢ":128635,"ĠØ£ÙĨÙĩ":128636,"ĠØ«Ùħ":128637,"Ġ׼×ŀ×Ķ":128638,"Ġkhó":128639,"Ġrằng":128640,"ĠÙĪÙģÙĬ":128641,"ний":128642,"ĠhoÃłn":128643,"tó":128644,"Ġ×IJשר":128645,"ĠìĥĿê°ģ":128646,"Ñģа":128647,"Ġ׼×ijר":128648,"ĠÑįÑĤом":128649,"larının":128650,"Ġchưa":128651,"зи":128652,"Ġdẫn":128653,"ĠÐļак":128654,"جÙĪ":128655,"ĠбÑĭло":128656,"ĠÙĬت":128657,"nı":128658,"ÅĤam":128659,"ĠÙĪÙĩÙĪ":128660,"×ij×ķ":128661,"пи":128662,"רת":128663,"Ġquá»ijc":128664,"жд":128665,"ĠÄijÆ¡n":128666,"Ùĥتب":128667,"Ġmắt":128668,"ระà¸ļ":128669,"ระà¸ļà¸ļ":128670,"ĠÙĥاÙĨت":128671,"Ġthân":128672,"สิà¸Ļà¸Ħà¹īา":128673,"×Ĵ×Ļ":128674,"Ġphương":128675,"à¹Ħมà¹Īà¹Ħà¸Ķà¹ī":128676,"ĠìĦ±":128677,"ĠCác":128678,"Ġ×Ķ×ŀ×ķ":128679,"ĠÑĤем":128680,"Ġ×ĵ×ķ":128681,"à¸Ńะà¹Ħร":128682,"ĠvÄĥn":128683,"ãģªãģ®ãģ§":128684,"ĠNá»Ļi":128685,"Ġ×¢×ķ":128686,"ãĤīãĤĮãĤĭ":128687,"Ġsáng":128688,"Ġgöster":128689,"ãģĵãģ¨ãĤĴ":128690,"Ġtarafından":128691,"Ġма":128692,"ĠпоÑģле":128693,"Ġ׳×Ļת":128694,"Ġ׳×Ļ×ª×Ł":128695,"ĠлеÑĤ":128696,"Ġ׾׳×ķ":128697,"ÑģÑģ":128698,"Ġ×Ļ×ķ":128699,"пе":128700,"ĠÙĪÙĦÙĥ":128701,"ĠÙĪÙĦÙĥÙĨ":128702,"ĠngoÃłi":128703,"ĠÄijá»ĭa":128704,"rzÄħd":128705,"dziaÅĤ":128706,"ĠÙħر":128707,"иÑĤÑĮÑģÑı":128708,"Ġ×IJ×Ĺר×Ļ":128709,"Ġ׾׼׾":128710,"à¸Ĥà¹īà¸Ńม":128711,"à¸Ĥà¹īà¸Ńมูล":128712,"Ġбол":128713,"Ġболее":128714,"جÙħع":128715,"леÑĤ":128716,"Ġlá»ĭch":128717,"ĠÙħØ«ÙĦ":128718,"Ġê·¸ë¦¬ê³ł":128719,"Ġthứ":128720,"ĠdeÄŁil":128721,"ÙĪØŃ":128722,"Ġש׾×ļ":128723,"ĠÙħØŃÙħد":128724,"Ġnếu":128725,"ĠÄijá»ķi":128726,"Ġvừa":128727,"Ġmá»įi":128728,"Ġони":128729,"Ġlúc":128730,"ĠÙĬÙĥÙĪÙĨ":128731,"ì§Ī":128732,"Ġש׾׳×ķ":128733,"ĠÐĶо":128734,"Ġש׳×Ļ":128735,"ลิ":128736,"×IJפשר":128737,"Ġsức":128738,"ê¶Į":128739,"Ġứng":128740,"à¹Ħมà¹Īมี":128741,"Ø·ÙĦب":128742,"ĠÑĩем":128743,"Ġchuyên":128744,"ĠthÃŃch":128745,"Ġ×ķ×Ļ":128746,"íķ©":128747,"ĠÙħصر":128748,"до":128749,"ĠÄijất":128750,"Ġchế":128751,"à¸Ĭืà¹Īà¸Ń":128752,"Ġìĭł":128753,"Ġإذا":128754,"ĠرئÙĬس":128755,"Ġש×Ļש":128756,"Ġgiảm":128757,"Ñģка":128758,"larında":128759,"Ġsợ":128760,"ĠtÃŃch":128761,"ĠÙĦÙĥÙĨ":128762,"ĠبÙħ":128763,"×¢×ķ×ij":128764,"×¢×ķ×ij×ĵ":128765,"ÅĤÄħcz":128766,"larına":128767,"Ġש×Ŀ":128768,"ĠÙĦت":128769,"Ġש×Ķ×ķ×IJ":128770,"tów":128771,"Ġëĭ¤ë¥¸":128772,"ĠØ£Ùĥثر":128773,"ãģ®ãģ§ãģĻ":128774,"׼×Ļ×Ŀ":128775,"ĠolduÄŁunu":128776,"ãģĭãģª":128777,"ãĤĤãģĨ":128778,"ÙĬØŃ":128779,"Ġnhìn":128780,"Ġnghá»ĩ":128781,"ãģ«ãģªãģ£ãģ¦":128782,"па":128783,"Ġquyết":128784,"ÙĦÙĤ":128785,"tá":128786,"Ġluôn":128787,"ĠÄijặc":128788,"Ġ×IJר":128789,"Ġtuá»ķi":128790,"são":128791,"ìϏ":128792,"رد":128793,"ĠبÙĩا":128794,"Ġ×Ķ×Ļ×ķ×Ŀ":128795,"×ķ×ķ×Ļ":128796,"ãģ§ãģĻãģŃ":128797,"ĠÑĤого":128798,"Ġthá»§":128799,"ãģĹãģŁãģĦ":128800,"رÙĤ":128801,"Ġbắt":128802,"гÑĥ":128803,"Ġtá»Ń":128804,"ÑĪа":128805,"Ġà¸Ľà¸µ":128806,"Ġ×Ķ×IJ×Ŀ":128807,"íı¬":128808,"ża":128809,"Ġ×IJת×Ķ":128810,"Ġná»Ļi":128811,"ĠphÃŃ":128812,"ĠÅŁekilde":128813,"Ġlá»Ŀi":128814,"dıģı":128815,"Ġ׼×IJף":128816,"Ġtüm":128817,"Ġmạnh":128818,"ĠMỹ":128819,"ãģĿãĤĵãģª":128820,"Ġnhá»ı":128821,"ãģªãģĮãĤī":128822,"Ġbình":128823,"ıp":128824,"à¸ŀา":128825,"ĠÄijánh":128826,"ĠÙĪÙĦ":128827,"ר×ķת":128828,"Ġ×IJ×Ļ×ļ":128829,"Ġchuyá»ĥn":128830,"Ùĥا":128831,"ãĤĮãĤĭ":128832,"à¹ģมà¹Ī":128833,"ãĤĪãģı":128834,"ĠÙĪÙĤد":128835,"íĸĪëĭ¤":128836,"ĠnÆ¡i":128837,"ãģ«ãĤĪãģ£ãģ¦":128838,"Ġviết":128839,"Ġà¹Ģà¸ŀืà¹Īà¸Ń":128840,"ëIJĺëĬĶ":128841,"ادÙĬ":128842,"ĠÙ쨥ÙĨ":128843,"ì¦Ŀ":128844,"ĠÄijặt":128845,"ĠhÆ°á»Ľng":128846,"Ġxã":128847,"Ġönemli":128848,"ãģłãģ¨":128849,"Ġmẹ":128850,"Ġ×ij×Ļ":128851,"Ġ×ĵ×ijר":128852,"ĠváºŃt":128853,"ĠÄijạo":128854,"Ġdá»±ng":128855,"ĠÑĤом":128856,"ĠÙģÙĬÙĩا":128857,"ĠجÙħÙĬع":128858,"ĠthuáºŃt":128859,"stÄĻp":128860,"Ġtiết":128861,"Ø´ÙĬ":128862,"ĠеÑīе":128863,"ãģĻãĤĭãģ¨":128864,"ĠmÃłu":128865,"ĠÑįÑĤого":128866,"Ġvô":128867,"ĠÐŃÑĤо":128868,"ĠtháºŃt":128869,"Ġnữa":128870,"Ġbiến":128871,"Ġnữ":128872,"Ġ׾׼×Ŀ":128873,"×Ļ×Ļף":128874,"Ġست":128875,"ĠÐŀÑĤ":128876,"Ġphụ":128877,"ê¹Įì§Ģ":128878,"Ġ׾×ļ":128879,"Ġkỳ":128880,"à¹ĥà¸Ħร":128881,"Ġgây":128882,"ĠÙĦÙĦÙħ":128883,"Ġtục":128884,"تÙĬÙĨ":128885,"Ġtrợ":128886,"Ġ׾פ×Ļ":128887,"Ġbá»ij":128888,"ĠÐļа":128889,"ĠÄijình":128890,"owÄħ":128891,"sında":128892,"Ġkhiến":128893,"sız":128894,"Ġкогда":128895,"×¡×ľ":128896,"ĠбÑĭл":128897,"à¸Ļà¹īà¸Ńย":128898,"обÑĢаз":128899,"Ġê²ĥìĿ´ëĭ¤":128900,"ëĵ¤ìĿĢ":128901,"ãģ¸ãģ®":128902,"Ġà¹Ģมืà¹Īà¸Ń":128903,"Ġphục":128904,"Ġ×Ĺ׾ק":128905,"Ġhết":128906,"ĠÄija":128907,"à¹Ģà¸Ķà¹ĩà¸ģ":128908,"íĺķ":128909,"lÃŃ":128910,"ê¸ī":128911,"Ġعدد":128912,"ĠÄijá»ĵ":128913,"Ġgần":128914,"Ġ×Ļ×ķ×Ŀ":128915,"ĠsÄ©":128916,"ÑĢÑıд":128917,"Ġquyá»ģn":128918,"Ġ×IJ׾×IJ":128919,"ÙĩÙħا":128920,"׳×Ļ×Ķ":128921,"׾×ķת":128922,"Ġ×Ķר×ij×Ķ":128923,"Ġtiên":128924,"Ġalın":128925,"Ġdá»ħ":128926,"人ãģĮ":128927,"ноÑģ":128928,"лÑģÑı":128929,"ĠÄijưa":128930,"สาว":128931,"иÑĢован":128932,"Ġ×ŀספר":128933,"×Ĵף":128934,"Ġkiến":128935,"ĠШ":128936,"pé":128937,"бÑĥ":128938,"овой":128939,"ба":128940,"ĠØ¥ÙĦا":128941,"×IJ׾×Ļ":128942,"Ġxây":128943,"Ġbợi":128944,"Ġש×ķ":128945,"人ãģ®":128946,"×§×Ļ×Ŀ":128947,"à¹Ģà¸Ķืà¸Ńà¸Ļ":128948,"Ġkhá":128949,"Ġ×ķ׾×Ķ":128950,"×ĵ×ķת":128951,"Ġ×¢×ij×ķר":128952,"ĠبشÙĥÙĦ":128953,"ĠÙĩÙĨاÙĥ":128954,"ÑĤÑĢа":128955,"ĠíķĺëĬĶ":128956,"รà¸Ńà¸ļ":128957,"owaÅĤ":128958,"hé":128959,"Ġdiá»ħn":128960,"Ġ×Ķ׼׾":128961,"Ġأس":128962,"Ġchuyá»ĩn":128963,"ระà¸Ķัà¸ļ":128964,"ĠNhững":128965,"Ġ×IJ×Ĺת":128966,"ĠØŃÙĪÙĦ":128967,"лов":128968,"׳ר":128969,"Ġ×ķ׳":128970,"ĠchÆ¡i":128971,"Ġiçinde":128972,"ÑģÑĤвÑĥ":128973,"Ġphá»ij":128974,"ĠÑģÑĥ":128975,"ç§ģãģ¯":128976,"Ġchứng":128977,"Ġvá»±c":128978,"à¹ģà¸Ń":128979,"ĠláºŃp":128980,"Ġtừng":128981,"å°ijãģĹ":128982,"ĠNguy":128983,"ĠNguyá»ħn":128984,"ĠÙģÙĬÙĩ":128985,"Ġба":128986,"×Ļ×Ļת":128987,"Ġ×ľ×¢×©×ķת":128988,"Ġ×ŀ׼":128989,"Ġnghiá»ĩm":128990,"Ġмного":128991,"Ġее":128992,"ëIJĺìĸ´":128993,"Ġlợi":128994,"Ġ׾׾×IJ":128995,"Ġ׼ף":128996,"ĠchÃŃ":128997,"ãģ§ãģ®":128998,"×Ĺ×ķ":128999,"ש×ķ×Ŀ":129000,"Ġ×ŀר":129001,"ĠÐĶлÑı":129002,"Åģ":129003,"Ġ׼×IJשר":129004,"ĠMá»Ļt":129005,"ĠÙĪØ§ÙĦت":129006,"ĠìĿ´ëٰ":129007,"ÅŁa":129008,"Ġchiến":129009,"Ġarasında":129010,"Ġ×ij×IJתר":129011,"ãģķãĤĮãģ¦ãģĦãĤĭ":129012,"Ø´ÙĥÙĦ":129013,"Ġtượng":129014,"Ġتت":129015,"ĠCó":129016,"Ġbá»ı":129017,"Ġtá»īnh":129018,"ĠkhÃŃ":129019,"ĠпÑĢоÑģÑĤ":129020,"ĠпÑĢоÑģÑĤо":129021,"ĠÙĪÙĤاÙĦ":129022,"Ġgiáo":129023,"ĠNếu":129024,"×IJ×ŀר":129025,"×¢×ł×Ļ×Ļף":129026,"íݸ":129027,"ÙĩدÙģ":129028,"ĠBá»Ļ":129029,"ĠbÃłn":129030,"Ġnguyên":129031,"Ġgüzel":129032,"สาย":129033,"ì²ľ":129034,"×ŀ×ķר":129035,"Ġphân":129036,"ספק":129037,"×§×ij׾":129038,"ĠاÙĦÙħتØŃ":129039,"ĠاÙĦÙħتØŃدة":129040,"ائد":129041,"Ġ×IJ×ŀר":129042,"ĠkiÅŁi":129043,"ì¤Ģ":129044,"Ġtruyá»ģn":129045,"ĠÙĦÙĩا":129046,"ĠÐľÐ°":129047,"à¸ļริษ":129048,"à¸ļริษั":129049,"à¸ļริษัà¸Ĺ":129050,"Ġש׳×Ļ×Ŀ":129051,"ĠменÑı":129052,"ÅŁe":129053,"Ġdiá»ĩn":129054,"Ġ×IJ׳×Ĺ׳×ķ":129055,"kü":129056,"Ġcá»ķ":129057,"Ġmá»Ĺi":129058,"wä":129059,"ÙħÙĬ":129060,"Ġhiá»ĥu":129061,"ëĭ¬":129062,"Ġ×Ķ×Ĺ׾":129063,"Ġtên":129064,"Ġkiá»ĩn":129065,"ÙĨÙĤÙĦ":129066,"Ġvá»ĩ":129067,"×ĵת":129068,"ĠÐłÐ¾ÑģÑģии":129069,"лÑĥ":129070,"ĠاÙĦعربÙĬØ©":129071,"ĠطرÙĬÙĤ":129072,"Ġ×Ķ×ij×Ļת":129073,"ÑģеÑĢ":129074,"Ġмне":129075,"äu":129076,"Ġtriá»ĩu":129077,"ĠÄijá»§":129078,"Ġר×ij":129079,"تÙĩÙħ":129080,"à¸ĭี":129081,"Ġì§Ģê¸Ī":129082,"liÅĽmy":129083,"دعÙħ":129084,"ãģłãĤįãģĨ":129085,"Ñģкие":129086,"Ġhá»ıi":129087,"Ġ×§×ķ":129088,"ÑĢÑĥÑģ":129089,"ÙĨظر":129090,"ãģ®ãĤĤ":129091,"Ġ×Ķ׼×Ļ":129092,"ĠìĽIJ":129093,"ÙĪÙĩ":129094,"ĠÙĪÙİ":129095,"ĠBạn":129096,"плаÑĤ":129097,"Ġ×ŀ×ŀש":129098,"лÑİб":129099,"ĠнÑĥжно":129100,"Ġthư":129101,"ãģµ":129102,"ãģıãĤīãģĦ":129103,"رش":129104,"ר×ķ×Ĺ":129105,"ĠÙĬتÙħ":129106,"Ġצר×Ļ×ļ":129107,"Ġphá":129108,"มà¸Ńà¸ĩ":129109,"Ġ×ij×IJ×ķפף":129110,"Ġcảnh":129111,"Ġíķľëĭ¤":129112,"Ġ×Ķ×ŀת":129113,"à¸ķà¹Īาà¸ĩà¹Ĩ":129114,"มีà¸ģาร":129115,"ÑģкиÑħ":129116,"ĠÐĴÑģе":129117,"ĠاÙĪ":129118,"جÙĬ":129119,"ãģĵãģ¨ãģ¯":129120,"ĠdÃłi":129121,"Ġhá»ĵ":129122,"èĩªåĪĨãģ®":129123,"à¹Ħหà¸Ļ":129124,"ëĵ¤ìĿĦ":129125,"ĠVÄĥn":129126,"Ġдаж":129127,"Ġдаже":129128,"Ñĭми":129129,"лаÑģÑĮ":129130,"ÙĬÙĪÙĨ":129131,"ÙĨÙĪ":129132,"có":129133,"ãģĹãģ¦ãģĦãģŁ":129134,"ãģłãģĭãĤī":129135,"طاÙĦب":129136,"Ġcá»Ńa":129137,"пÑĢоÑģ":129138,"ãģªãģ©ãģ®":129139,"รุà¹Īà¸Ļ":129140,"Ġchiếc":129141,"лÑĭ":129142,"ĠÑıвлÑıеÑĤÑģÑı":129143,"Ġná»ķi":129144,"ãģ®ãģĬ":129145,"Ġ×IJת×Ŀ":129146,"ĠëķĮ문ìĹIJ":129147,"à¸ģลาà¸ĩ":129148,"ĠbaÅŁka":129149,"ìĦĿ":129150,"ĠÑĨел":129151,"ÙģÙĤ":129152,"ãģ«ãĤĪãĤĭ":129153,"ÙĤا":129154,"Ġçıkar":129155,"Ġcứu":129156,"طا":129157,"Ġשת":129158,"à¹Ĥà¸Ħ":129159,"Ġ×ŀ׾":129160,"Ġ×Ķפר":129161,"Ġгде":129162,"Ġخط":129163,"åīįãģ«":129164,"cjÄĻ":129165,"Ġ×Ĺש×ķ×ij":129166,"ר×Ĵ×¢":129167,"Ġkhoảng":129168,"ĠÄijá»Ŀi":129169,"ĠÐłÐµ":129170,"Ġона":129171,"Ġ×IJ׳×ķ":129172,"ãģ®ãģ«":129173,"ĠاÙĦذÙĬÙĨ":129174,"кÑĥп":129175,"ãĤµãĥ¼ãĥ":129176,"ãĤµãĥ¼ãĥĵ":129177,"ãĤµãĥ¼ãĥĵãĤ¹":129178,"вал":129179,"ге":129180,"Ġgiữa":129181,"ĠKhông":129182,"ĠâĹĭ":129183,"à¸ģลุà¹Īม":129184,"ĠÙħÙĨذ":129185,"à¸Ńà¹Īาà¸Ļ":129186,"ĠÑģпоÑģоб":129187,"ĠÄijá»Ļi":129188,"ĠdiÄŁer":129189,"Ġà¸ĸà¹īา":129190,"ÙħØ«ÙĦ":129191,"Ġ×Ķ×IJ×Ļ":129192,"ĠدÙĪÙĨ":129193,"ÙĬراÙĨ":129194,"Ñīи":129195,"بÙĨاء":129196,"Ġآخر":129197,"ظÙĩر":129198,"Ġ×ij׼":129199,"ĠاÙĦÙħع":129200,"ãĥĴ":129201,"Ġtất":129202,"Ġmục":129203,"ĠdoÄŁru":129204,"ãģŁãĤī":129205,"Ġס×ķ":129206,"Ġxác":129207,"รà¸Ń":129208,"ĠcÄĥn":129209,"Ġонл":129210,"Ġонлайн":129211,"Ġký":129212,"Ġchân":129213,"Ġà¹Ħมà¹Ī":129214,"اØŃØ©":129215,"rán":129216,"׳×Ļ×Ļ×Ŀ":129217,"Ġ×ijף":129218,"ĠÐĸ":129219,"à¸ķรà¸ĩ":129220,"дÑĭ":129221,"Ġsắc":129222,"ÙĦت":129223,"ãĥŃãĥ¼":129224,"ĠÙĦÙĨ":129225,"Ġר×ķ":129226,"ĠdÆ°á»Ľi":129227,"à¹Ģà¸ĺ":129228,"à¹Ģà¸ĺà¸Ń":129229,"eÄŁi":129230,"Ġ×ķש":129231,"ĠÙĦØ£":129232,"Ġgặp":129233,"Ġcá»ij":129234,"ãģ¨ãģ¦ãĤĤ":129235,"رÙĪØ³":129236,"Ġ׾×Ķ×Ļ":129237,"Ġ본":129238,"ä¸ĬãģĴ":129239,"Ġmức":129240,"Ñħа":129241,"Ġìŀ¬":129242,"à¸īัà¸Ļ":129243,"ÑĢÑĥж":129244,"Ġaçık":129245,"ÙĪØ§ÙĦ":129246,"Ġ×ĸ×ŀף":129247,"人ãģ¯":129248,"عÙĬÙĨ":129249,"ÑıÑħ":129250,"Ġ×Ĵ×ĵ×ķ׾":129251,"ר×ķ×ij":129252,"gó":129253,"ëĿ¼ê³ł":129254,"ĠarkadaÅŁ":129255,"ÙĨشر":129256,"ĠгодÑĥ":129257,"ĠболÑĮÑĪе":129258,"ãģ¡ãĤĩãģ£ãģ¨":129259,"Ġcâu":129260,"Ġsát":129261,"íͼ":129262,"Ġtiến":129263,"íķ´ìķ¼":129264,"ĠÙĪØ£ÙĨ":129265,"à¸Ļาà¸Ļ":129266,"Ġ×ij×IJ×ŀצע":129267,"Ġ×ij×IJ×ŀצע×ķת":129268,"Ġ׾ר":129269,"Ġquản":129270,"ĠÙĪØ§ÙĦØ£":129271,"Ġ×IJ×ķת×Ķ":129272,"Ġìĸ´ëĸ¤":129273,"Ġê²ĥìĿĢ":129274,"ØŃسÙĨ":129275,"Ġmất":129276,"à¸Ħูà¹Ī":129277,"ãĥ¬ãĥ¼":129278,"ĠÐĶа":129279,"Ġolması":129280,"Ġthuá»Ļc":129281,"׳×Ĺ":129282,"íĨł":129283,"Ġsöyle":129284,"ãģĿãģĨãģ§ãģĻ":129285,"ĠتÙĥÙĪÙĨ":129286,"лÑĥÑĩ":129287,"׾×Ļ×ļ":129288,"ĠØ£ØŃد":129289,"лиÑģÑĮ":129290,"ĠвÑģего":129291,"Ġ×Ķר×ij":129292,"Ġ못":129293,"oÄŁ":129294,"oÄŁlu":129295,"ĠìĦł":129296,"ĠкаÑĢ":129297,"à¸łà¸²à¸Ħ":129298,"eÅĦ":129299,"Ġà¸ģà¹ĩ":129300,"Ġaynı":129301,"ĠbÃł":129302,"ãģªãĤĵãģ¦":129303,"Ġ모ëĵł":129304,"ÙĤرار":129305,"ãģĹãģªãģĦ":129306,"ĠÐĴо":129307,"ĠÙĪÙĩÙĬ":129308,"ники":129309,"ãĤĮãģŁ":129310,"Ġchuẩn":129311,"רע":129312,"Ù쨱ÙĬÙĤ":129313,"ãĤĴåıĹãģij":129314,"ĠÄijúng":129315,"бе":129316,"׼×ķ×Ĺ":129317,"пÑĥ":129318,"Ġ×ķ×Ĵ×Ŀ":129319,"×ŀ׳×Ļ":129320,"íĸ¥":129321,"צ×Ļ×Ŀ":129322,"à¸ĭิ":129323,"ÙĩÙĨ":129324,"нем":129325,"Ġ×ij×ij×Ļת":129326,"رع":129327,"Ġส":129328,"ĠÄIJÃł":129329,"íķĺëĭ¤":129330,"Ġấy":129331,"×Ĺ×ķ×ĵ":129332,"×Ĺ×ķ×ĵש":129333,"ĠÑĩеÑĢез":129334,"Ñĥл":129335,"ĠBình":129336,"Ġê²ĥìĿĦ":129337,"Ġ×Ĵר":129338,"ä»ĺãģij":129339,"×Ĺ׾ק":129340,"ĠتÙĦÙĥ":129341,"à¹ĥสà¹Ī":129342,"szÄħ":129343,"ÙĤاÙħ":129344,"دÙĪØ±":129345,"ĠÙģÙĤØ·":129346,"Ġhữu":129347,"ĠмогÑĥÑĤ":129348,"Ġgá»įi":129349,"Ġקר":129350,"à¸Īะมี":129351,"تÙĤدÙħ":129352,"Ġعبر":129353,"Ġ׾×Ķ×Ŀ":129354,"ĠÑģамо":129355,"ס×ĵר":129356,"ĠcÃłng":129357,"rÃŃ":129358,"Ġìŀ¥":129359,"ëĵ¤ìĿĺ":129360,"ĠÙĦÙĥ":129361,"поÑĢÑĤ":129362,"Ġkhả":129363,"ĠÑģебÑı":129364,"׳ף":129365,"ĠدÙĪØ±":129366,"Ġmợ":129367,"Ġcây":129368,"Ġfark":129369,"Ġfarklı":129370,"аÑİÑĤ":129371,"Ġtrá»±c":129372,"wiÄĻksz":129373,"Ġthuá»ijc":129374,"ĠتØŃت":129375,"تÙĦ":129376,"овÑĭе":129377,"ëĤł":129378,"Ġвам":129379,"بÙĦغ":129380,"Ġê°ĻìĿĢ":129381,"íĮIJ":129382,"ÙĦب":129383,"Ġnasıl":129384,"Ġодин":129385,"ман":129386,"ĠعÙĦÙĬÙĩا":129387,"би":129388,"Ġפש×ķ×ĺ":129389,"×ijר×Ļ":129390,"Ġש׳×Ķ":129391,"ĠëıĦ":129392,"ĠÄIJại":129393,"Ġ×IJ×ķת×Ŀ":129394,"ĠاÙĦØŃر":129395,"Ġбо":129396,"à¸Īุà¸Ķ":129397,"Ġrõ":129398,"ĠdeÄŁiÅŁ":129399,"Ġëĭ¨":129400,"ĠÑģлÑĥÑĩа":129401,"ĠÑģлÑĥÑĩае":129402,"Ġ×IJ׳ש×Ļ×Ŀ":129403,"×ĵ×£":129404,"ש×ijת":129405,"Ġש׾׼×Ŀ":129406,"Ġchú":129407,"ników":129408,"Ġtanı":129409,"Ġcáo":129410,"ĠÄijá":129411,"Ġ×IJ×ĵ×Ŀ":129412,"Ġê°ķ":129413,"Ġnhiá»ĩm":129414,"Ġ×ľ×¡":129415,"Ġ×Ľ×ª×ij":129416,"Ġ×Ķספר":129417,"ĠÄijÄĥng":129418,"ĠëijIJ":129419,"à¸ľà¸´":129420,"à¸ľà¸´à¸§":129421,"جا":129422,"Ġê°IJ":129423,"رأ":129424,"ستخدÙħ":129425,"ãģ«ãģªãĤĬãģ¾ãģĻ":129426,"Ġtá»·":129427,"×ĺ×ķר":129428,"говоÑĢ":129429,"ĠвоÑģ":129430,"ĠÙħÙĨÙĩا":129431,"иÑĢоваÑĤÑĮ":129432,"ĠÄijầy":129433,"׳×Ĵ":129434,"ĠÙħÙĪ":129435,"ĠÙħÙĪÙĤع":129436,"ר׼×Ļ":129437,"تÙı":129438,"모":129439,"Ġת×ķ":129440,"ÙĬاÙĭ":129441,"à¹ĥà¸Ķ":129442,"ãĤĬãģ¾ãģĻ":129443,"à¸Ńยูà¹Īà¹ĥà¸Ļ":129444,"ĠØ£ÙĪÙĦ":129445,"ĠأخرÙī":129446,"Ġcư":129447,"صار":129448,"×ŀ×Ĺש×ij":129449,"бÑĢа":129450,"ÅĦski":129451,"бÑĢ":129452,"ĠÙĬÙı":129453,"à¸ģิà¸Ļ":129454,"Ġchá»ijng":129455,"ÙħÙı":129456,"Ġà¸Ħืà¸Ń":129457,"ĠتÙĨ":129458,"tÃŃ":129459,"yÄĩ":129460,"Ġmạng":129461,"ÙģÙĪ":129462,"Ġdünya":129463,"קר×IJ":129464,"Ġק׾":129465,"ĠØŃاÙĦ":129466,"cÃŃa":129467,"Ġà¹Ģรา":129468,"Ġר×ķצ×Ķ":129469,"Ġáp":129470,"ë°ķ":129471,"اÙĤØ©":129472,"ниÑİ":129473,"Ġ×IJ׾×ķ":129474,"Ġ×ŀס×ķ":129475,"ãģ§ãģ¯ãģªãģı":129476,"Ġtrả":129477,"Ġקשר":129478,"miÅŁtir":129479,"Ġlưu":129480,"Ġhá»Ĺ":129481,"ĠбÑĭли":129482,"Ġlấy":129483,"عÙĦÙħ":129484,"Ġözel":129485,"æ°ĹãģĮ":129486,"Ġ×ĵר×ļ":129487,"Ùħد":129488,"sını":129489,"׳×ķש×IJ":129490,"rów":129491,"ÑĩеÑĢ":129492,"êµIJìľ¡":129493,"ĠÐľÐ¾":129494,"лег":129495,"ĠVỼi":129496,"วัà¸Ļà¸Ļีà¹ī":129497,"ÑİÑīие":129498,"ãģĬãģĻ":129499,"ãģĬãģĻãģĻ":129500,"ãģĬãģĻãģĻãĤģ":129501,"ëıħ":129502,"Ġ×Ļ×Ķ×Ļ×Ķ":129503,"×ŀ×ĺר":129504,"Ñıми":129505,"Ġlá»±a":129506,"ĠÄijấu":129507,"à¹Ģสียà¸ĩ":129508,"Ġtương":129509,"ëĵ±":129510,"ĠÑģÑĤаÑĢ":129511,"à¹ĥà¸ļ":129512,"วัà¸Ķ":129513,"Ġİstanbul":129514,"Ġà¸Īะ":129515,"à¸ķลาà¸Ķ":129516,"ĠبÙĬ":129517,"à¹ģà¸Ļะ":129518,"à¹ģà¸Ļะà¸Ļำ":129519,"ساعد":129520,"Ġبأ":129521,"Ġkiá»ĥm":129522,"ØŃسب":129523,"à¸Ĭัà¹īà¸Ļ":129524,"Ġ×ķ×¢×ķ×ĵ":129525,"овÑĭÑħ":129526,"оÑģнов":129527,"ĠtrÆ°á»Łng":129528,"צ×ij×¢":129529,"ĠÃŃt":129530,"Ġkỹ":129531,"cré":129532,"Ñıм":129533,"êµ°":129534,"ãģĮãģªãģĦ":129535,"ÙĬÙĦØ©":129536,"ãĥķãĤ£":129537,"رÙī":129538,"ĠÙĬجب":129539,"Ġ×IJ×£":129540,"Ġcá»±c":129541,"ãĤīãĤĮãģŁ":129542,"Ġà¸ľà¸¹à¹ī":129543,"Ġà¸Ń":129544,"larımız":129545,"Ġkadın":129546,"Ġê·¸ëŀĺ":129547,"Ġê·¸ëŀĺìĦľ":129548,"ĠëĺIJëĬĶ":129549,"ĠÄijả":129550,"ĠÄijảm":129551,"Ġ×IJ×ķ×ŀר":129552,"Ġyếu":129553,"ciÄħ":129554,"ciÄħg":129555,"Ġtá»ij":129556,"Ġש×IJ׳×Ļ":129557,"ĠdziaÅĤa":129558,"Ñīа":129559,"ĠÄijÃłn":129560,"sına":129561,"ãģĵãĤĮãģ¯":129562,"Ġ×ij׾×Ļ":129563,"Ġ×ij×Ļשר×IJ׾":129564,"лоÑģÑĮ":129565,"Ġgiữ":129566,"ê°IJ":129567,"ÑĢон":129568,"تجار":129569,"глав":129570,"вин":129571,"Ġhạn":129572,"Ġyapılan":129573,"بس":129574,"Ġà¸ŀรà¹īà¸Ńม":129575,"ê´Ģ리":129576,"mÄ±ÅŁtır":129577,"bü":129578,"rück":129579,"ĠBaÅŁkanı":129580,"ĠÙĦÙĬس":129581,"ĠsÆ¡":129582,"à¸Īัà¸ĩหว":129583,"à¸Īัà¸ĩหวัà¸Ķ":129584,"داء":129585,"Ġ×Ķ׼":129586,"vÃŃ":129587,"ש×IJר":129588,"ĠhÆ°á»Łng":129589,"Ġbóng":129590,"ĠChÃŃnh":129591,"Äħc":129592,"à¹Ģà¸ģีà¹Īยวà¸ģัà¸ļ":129593,"Ġtứ":129594,"Ġtức":129595,"ĠÑĨвеÑĤ":129596,"Ġtá»iji":129597,"ĠnghÄ©a":129598,"ÙĦاعب":129599,"دÙĦ":129600,"Ġפע×Ŀ":129601,"hör":129602,"à¸Ĭุà¸Ķ":129603,"à¸ŀู":129604,"à¸ŀูà¸Ķ":129605,"паÑģ":129606,"ĠÅŁu":129607,"ĠtÆ°á»Łng":129608,"خارج":129609,"Ġâm":129610,"ĠинÑĤеÑĢеÑģ":129611,"еннÑĭÑħ":129612,"×IJ׳×Ļ":129613,"بدأ":129614,"ëĿ¼ëĬĶ":129615,"ì¹´":129616,"æĸ¹ãģĮ":129617,"лив":129618,"Ġà¸Ħà¸Ļ":129619,"ער×ļ":129620,"à¸Ĥà¸Ńà¸ĩà¸Ħุà¸ĵ":129621,"пад":129622,"Ġcạnh":129623,"ĠëĤ¨":129624,"ĠÄijâu":129625,"Ġbiá»ĥu":129626,"ãĤĤãģĤãĤĭ":129627,"׾×Ĵ":129628,"Ġสำหรัà¸ļ":129629,"Ġxuá»ijng":129630,"ס×ķ":129631,"Ġذات":129632,"ĠÐľÐµ":129633,"عاÙĦÙħ":129634,"×IJס":129635,"بÙĬØ©":129636,"شا":129637,"ием":129638,"ĠNgưá»Ŀi":129639,"íĺij":129640,"Ñģлов":129641,"Ġпа":129642,"Ġmẫu":129643,"ĠпÑĢоÑĨеÑģÑģ":129644,"ĠNhÃł":129645,"пÑĢоиз":129646,"пÑĢоизвод":129647,"à¸łà¸²à¸¢à¹ĥà¸Ļ":129648,"Ġà¸ļาà¸Ĺ":129649,"×ŀ׳×ķ":129650,"ĠоÑĢган":129651,"רצ×ķ":129652,"×ķ×ŀ×Ļ×Ŀ":129653,"Ġyazı":129654,"Ġdù":129655,"ãĥ¬ãĥ³":129656,"ÙĪÙĦÙĬ":129657,"ยู":129658,"Ġtrò":129659,"à¹Ģà¸ŀลà¸ĩ":129660,"Ġ×ŀ׾×IJ":129661,"à¸ķล":129662,"à¸ķลà¸Ńà¸Ķ":129663,"ĠÄijạt":129664,"Ġ×Ĺ×ĵש":129665,"póÅĤ":129666,"Ġ×ŀ×ĵ×Ļ":129667,"ujÄħc":129668,"×ŀ׳×Ķ׾":129669,"Ġש×ij×ķ":129670,"Ġ×Ķ×ŀשפ×ĺ":129671,"Ġ×IJ׾×Ķ":129672,"ĠÙĪØ°ÙĦÙĥ":129673,"à¹Ģà¸ŀราะ":129674,"ĠÄijoÃłn":129675,"Ġíķ¨ê»ĺ":129676,"Ġdục":129677,"شت":129678,"Ġula":129679,"ĠulaÅŁ":129680,"Ġquý":129681,"Ġ×Ķ×Ĵ×ĵ×ķ׾":129682,"à¸ķัà¹īà¸ĩà¹ģà¸ķà¹Ī":129683,"Ġשר":129684,"Ø´Ùĩد":129685,"׳ש×Ļ×Ŀ":129686,"à¸ŀล":129687,"رÙĪØ§":129688,"ãĤĮãģ¦":129689,"ĠниÑħ":129690,"Ġдела":129691,"ãģ§ãģįãģªãģĦ":129692,"ÅĤoż":129693,"×IJ×Ĺר":129694,"ì½Ķ":129695,"ãĤ¢ãĥĥãĥĹ":129696,"دÙ쨹":129697,"Ġtiá»ĩn":129698,"Ġkhá»ı":129699,"Ġkhá»ıe":129700,"ĠاÙĦعاÙħØ©":129701,"ãģ«ãģĤãĤĭ":129702,"ĠÄijá»Ļc":129703,"족":129704,"Ġcụ":129705,"йÑĤе":129706,"Ġзакон":129707,"ĠпÑĢоекÑĤ":129708,"ìĸ¸":129709,"ÙĦØŃ":129710,"ĠçalÄ±ÅŁma":129711,"ãĤĴãģĻãĤĭ":129712,"Ñħи":129713,"عاد":129714,"Ġ׳×ŀצ×IJ":129715,"Ġר×Ļ":129716,"à¸Ńà¸Ńà¸ģมา":129717,"ĠTôi":129718,"Ġthần":129719,"ĠÙĬا":129720,"ลาย":129721,"ĠавÑĤо":129722,"Ġsıra":129723,"ĠÙĥØ«ÙĬر":129724,"ÙħÙĬز":129725,"ĠاÙĦعÙĦÙħ":129726,"æĸ¹ãģ¯":129727,"×ķ×¢×ĵ":129728,"ĠоблаÑģÑĤи":129729,"×Ļ׾×Ļ×Ŀ":129730,"ãģĮåĩº":129731,"à¸ĺุ":129732,"à¸ĺุร":129733,"à¸ĺุรà¸ģิà¸Ī":129734,"ÙĤتÙĦ":129735,"ר×IJ×ķ":129736,"Ġngu":129737,"Ġnguá»ĵn":129738,"Ġมา":129739,"Ġплан":129740,"tório":129741,"Ġcuá»iji":129742,"Ñģком":129743,"ĠاÙĦÙħاض":129744,"ĠاÙĦÙħاضÙĬ":129745,"Ġ×ij×¢×ľ":129746,"Ġר×ij×Ļ×Ŀ":129747,"ĠluáºŃn":129748,"ÙĥÙĪ":129749,"à¸Ĺัà¹īà¸ĩหมà¸Ķ":129750,"ван":129751,"Ġthoại":129752,"à¹Ħà¸Ń":129753,"биÑĢ":129754,"ĠاÙĦض":129755,"تا":129756,"ĠÑĢод":129757,"ĠVÃł":129758,"×ŀ×Ļף":129759,"ĠбÑĭла":129760,"ками":129761,"ĠÐĶе":129762,"tık":129763,"קר×Ļ":129764,"ĠeÄŁitim":129765,"ĠÙĥبÙĬر":129766,"بÙĥ":129767,"ĠÙĦÙĪ":129768,"вой":129769,"Ġãģĵãģ®":129770,"ĠÑĤÑĢÑĥд":129771,"myÅĽl":129772,"Ġsư":129773,"à¸ŀีà¹Ī":129774,"Ġà¹ģลà¹īว":129775,"×¢×§":129776,"Ġ×Ĺ×ijרת":129777,"ระหว":129778,"ระหวà¹Īาà¸ĩ":129779,"×Ļ×Ļ×Ķ":129780,"ĠاÙĦÙĨاس":129781,"ünü":129782,"Ġ׾×ŀ×Ķ":129783,"Ġchương":129784,"ĠHá»ĵ":129785,"ارت":129786,"ãĤĪãģĨãģ§ãģĻ":129787,"lá":129788,"×§×Ļ×Ļ×Ŀ":129789,"æľ¬å½ĵ":129790,"æľ¬å½ĵãģ«":129791,"ãģĵãĤĵãģª":129792,"Ñģов":129793,"Ġ×ķ×Ĺ":129794,"à¹Ģà¸ģà¹ĩà¸ļ":129795,"ĠкÑĤо":129796,"à¹Ĥรà¸Ħ":129797,"ĠشرÙĥØ©":129798,"عزÙĬ":129799,"عزÙĬز":129800,"Ø·ÙĦÙĤ":129801,"пÑĥÑģÑĤ":129802,"ÙģØªØŃ":129803,"ëŀĢ":129804,"Ġhãy":129805,"ضÙħ":129806,"린":129807,"åł´åIJĪãģ¯":129808,"ãĤªãĥ¼":129809,"Ġhắn":129810,"Ġ×IJ×ij×Ļ×ij":129811,"Ġש׾×Ķ×Ŀ":129812,"Ġ×Ķ×Ļ×Ļת×Ķ":129813,"ĠاÙĦدÙĪÙĦØ©":129814,"ĠاÙĦÙĪÙĤ":129815,"ĠاÙĦÙĪÙĤت":129816,"ãģĤãģ¾ãĤĬ":129817,"ĠtaÅŁÄ±":129818,"İN":129819,"עסק":129820,"ãģ¦ãģĦãģŁ":129821,"Ġtá»ķng":129822,"ĠاÙĦØ¥ÙĨس":129823,"ĠاÙĦØ¥ÙĨساÙĨ":129824,"ÑĢеÑĪ":129825,"Ġgái":129826,"ĠÑĨен":129827,"ĠÙģÙĤد":129828,"Ùħات":129829,"ãģķãĤĵãģ®":129830,"Ġphù":129831,"×ĺ×Ķ":129832,"ĠÙĪØ§ÙĦتÙĬ":129833,"ĠبÙĥ":129834,"ìĿ´ëĤĺ":129835,"кÑģ":129836,"ÙħÙĬر":129837,"Ġvùng":129838,"ĠاÙĦشعب":129839,"ĠNhưng":129840,"ãĥĢãĥ¼":129841,"Ġ×Ĺ×Ļ×Ļ×Ŀ":129842,"Ġشخص":129843,"×§×ķ×ĵ":129844,"ê²Ģ":129845,"עש":129846,"×¢×ķ׾×Ŀ":129847,"צ×ķר":129848,"عÙĤد":129849,"ĠiÅŁlem":129850,"Ġ×Ķ×ij×IJ":129851,"Ġdưỡng":129852,"à¸Łà¸£à¸µ":129853,"ĠphÃŃa":129854,"ãģ®ä¸Ńãģ§":129855,"Ġпи":129856,"ĠngÃłnh":129857,"нима":129858,"ĠÙĩÙĦ":129859,"Ġ×ķ×IJת":129860,"ĠÄijáng":129861,"équipe":129862,"ĠÑįÑĤоÑĤ":129863,"Ġgörev":129864,"매":129865,"Ġquân":129866,"å¼ķãģį":129867,"æĻĤãģ«":129868,"ĠبÙħا":129869,"×ŀ×Ļת":129870,"Ġülke":129871,"Ġ×ŀ×§×ķ×Ŀ":129872,"×ijף":129873,"æ°ĹæĮģãģ¡":129874,"Ġë§İìĿĢ":129875,"Ġyüksek":129876,"ÑĨенÑĤÑĢ":129877,"ĠÙħجÙĦس":129878,"ç§ģãģ®":129879,"ÙĤدر":129880,"Ġë¶Ģë¶Ħ":129881,"Ġì°¨":129882,"خرج":129883,"ãģĭãģªãĤĬ":129884,"ë³´ëĭ¤":129885,"Ġ×ŀ×Ļ×ĵ×¢":129886,"peÅĤni":129887,"Ġxá»Ń":129888,"ìĹIJìĦľëĬĶ":129889,"ĠباÙĦÙħ":129890,"ĠÙĪÙħا":129891,"ĠÑįÑĤой":129892,"بÙĬÙĨ":129893,"nü":129894,"ØŃز":129895,"ØŃزب":129896,"ĠÑĢабоÑĤа":129897,"ĠNháºŃt":129898,"ÙĦاء":129899,"Ġëĵ¤":129900,"Ġëĵ¤ìĸ´":129901,"ãĤĦãģĻãģĦ":129902,"×Ĺ×ĸ×§":129903,"Ġ×Ķ×Ĺ×ijר×Ķ":129904,"пиÑĤ":129905,"ãģĭãĤīãģ®":129906,"Ġë§IJìĶĢ":129907,"Ġפ×ķ":129908,"ÙĦÙİ":129909,"à¹Ģà¸ķà¹ĩม":129910,"ĠÐļо":129911,"Ġmówi":129912,"ĠtÃŃn":129913,"ר×Ĵש":129914,"פרק":129915,"Ġtrạng":129916,"ĠÐŀн":129917,"×Ĺ×ķ×¥":129918,"ĠعÙĨدÙħا":129919,"Ġبر":129920,"使ãģĦ":129921,"Ġrá»Ļng":129922,"ëĮĢë¡ľ":129923,"íά":129924,"Ġktórych":129925,"вид":129926,"ลูà¸ģà¸Ħà¹īา":129927,"ĠmogÄħ":129928,"Ġש×Ĺ":129929,"×ij×Ĺר":129930,"ãĥĸãĥŃãĤ°":129931,"ĠThÃłnh":129932,"Ġ×Ķר×Ļ":129933,"ĠÑģÑĤаÑĤÑĮ":129934,"ĠHá»Ļi":129935,"à¸ļà¹īาà¸ĩ":129936,"çī¹ãģ«":129937,"ĠÄIJức":129938,"èĢħãģ®":129939,"×¢×ŀ×ķ×ĵ":129940,"×ĺר×Ķ":129941,"Ð¥":129942,"ĠÙħÙħا":129943,"ĠeÅŁ":129944,"ĠнеобÑħодимо":129945,"ников":129946,"Ġüzerinde":129947,"aÅĤa":129948,"Ġchá»ĭu":129949,"ĠاÙĦدÙĬÙĨ":129950,"أخبار":129951,"ĠÄijau":129952,"ãģĮå¤ļãģĦ":129953,"jÄħcych":129954,"دخÙĦ":129955,"larınd":129956,"larından":129957,"Ġsẻ":129958,"à¸ŀิà¹Ģศ":129959,"à¸ŀิà¹Ģศษ":129960,"×ª×Ł":129961,"tıģı":129962,"ĠluáºŃt":129963,"ĠÅŀe":129964,"ãĤ«ãĥ¼":129965,"ãģ®ãģĤãĤĭ":129966,"Ġ×Ķ×IJתר":129967,"ĠاÙĦØ¢ÙĨ":129968,"ıldı":129969,"Ġáo":129970,"ĠнаÑĩал":129971,"Ġviá»ĩn":129972,"Ġ×ij×¢×ķ׾×Ŀ":129973,"знаÑĩ":129974,"×Ļ×ĺ×Ķ":129975,"кам":129976,"ĠÐĺз":129977,"à¹Ģà¸Ĥียà¸Ļ":129978,"à¸Ļà¹īà¸Ńà¸ĩ":129979,"ÑĤÑĢо":129980,"à¹Ģà¸Ł":129981,"Ġжизни":129982,"Ġสà¹Īวà¸Ļ":129983,"ĠváºŃn":129984,"Ġê´Ģ볨":129985,"Ġlâu":129986,"ס×ĺר":129987,"קש":129988,"سÙĬر":129989,"Ġ×IJ×ķת×Ļ":129990,"Ġmôi":129991,"ائب":129992,"ĠоÑģÑĤа":129993,"Ġmón":129994,"Ġ×ij×ŀ×§×ķ×Ŀ":129995,"ĠداخÙĦ":129996,"Ġ×IJ×ķר":129997,"ĠваÑģ":129998,"ÙĥØ´Ùģ":129999,"ìĺ¨":130000,"à¸ĸà¹Īาย":130001,"Ġkullanıl":130002,"Ġtô":130003,"ãģ«ãĤĪãĤĬ":130004,"ĠëĺIJíķľ":130005,"Ġ×¢×ij×ķ×ĵ×Ķ":130006,"Ġriê":130007,"Ġriêng":130008,"Ġyakın":130009,"زا":130010,"Å»":130011,"×IJ×ķ׼׾":130012,"شارÙĥ":130013,"ĠбеÑģ":130014,"×´":130015,"ĠابÙĨ":130016,"ĠTá»ķng":130017,"ÙĨظ":130018,"ÅĽwiad":130019,"ãĤµãĥ¼":130020,"หาย":130021,"ĠGün":130022,"Ġhakkında":130023,"à¹Ģà¸Ĥà¹īามา":130024,"زÙĨ":130025,"ĠÐłÐ¾":130026,"Ġbiá»ĥn":130027,"ãģ©ãģĵ":130028,"Ù쨹ÙĦ":130029,"زع":130030,"פר×ĺ":130031,"Ġ×Ķף":130032,"Ø£ÙĩÙĦ":130033,"Ġthất":130034,"ØŃÙħÙĦ":130035,"ÑĩÑĥ":130036,"ĠìĤ¬ìĭ¤":130037,"ì°¸":130038,"ĠìľĦíķ´":130039,"ÙĪØ¸":130040,"ĠÐŁÐ¾Ð´":130041,"Ġkhoản":130042,"ÑĤен":130043,"ĠÙ쨧ÙĦ":130044,"Ñģад":130045,"à¸Ļà¸Ńà¸Ļ":130046,"ĠاÙĦسعÙĪØ¯ÙĬØ©":130047,"\"ØĮ":130048,"ĠاÙĦÙĴ":130049,"ãĤīãģļ":130050,"Ġtoán":130051,"Ġchắc":130052,"׼×Ļר":130053,"méd":130054,"média":130055,"زÙĪ":130056,"Ġyanı":130057,"פ׳×Ļ×Ŀ":130058,"ØŃظ":130059,"ĠбеÑģп":130060,"ĠбеÑģплаÑĤ":130061,"ĠбеÑģплаÑĤно":130062,"ĠØ£ÙħاÙħ":130063,"à¸Ńาย":130064,"à¸Ńายุ":130065,"רשת":130066,"Ġgá»ĵ":130067,"Ġgá»ĵm":130068,"Ġuá»ijng":130069,"صب":130070,"kır":130071,"ãĥijãĥ¼":130072,"Ġ׾×ĵעת":130073,"ĠкÑĥпиÑĤÑĮ":130074,"׾×ķ×Ĺ":130075,"ÙĪØ¶Ø¹":130076,"ÙĤÙĬÙħ":130077,"à¸Ľà¸²":130078,"жив":130079,"à¸Ķิà¸Ļ":130080,"×IJ×ķפ":130081,"à¹Ģลà¹ĩà¸ģ":130082,"ãĥĥãĥī":130083,"иÑĩеÑģкиÑħ":130084,"ĠChá»§":130085,"кÑĢаÑģ":130086,"ÙĪØµÙĦ":130087,"pÅĤat":130088,"моÑĢ":130089,"Ġ×Ķ×IJ×ķ":130090,"à¸Ńิà¸Ļ":130091,"ĠíķľêµŃ":130092,"гÑĢе":130093,"Ġìłľê³µ":130094,"ì°½":130095,"Ġê°ľìĿ¸ìłķë³´":130096,"Ġnghá»ĭ":130097,"à¸ĭา":130098,"ØŃساب":130099,"ĠbyÅĤa":130100,"ÙħÙĦÙĥ":130101,"иÑĩеÑģкие":130102,"Ġbác":130103,"ضØŃ":130104,"길":130105,"ש×ŀ×¢":130106,"Ġìĸ´ëĸ»":130107,"Ġìĸ´ëĸ»ê²Į":130108,"ìĽĮ":130109,"اتÙĩ":130110,"à¹Ĥรà¸ĩà¹ģ":130111,"à¹Ĥรà¸ĩà¹ģรม":130112,"خدÙħØ©":130113,"ĠÐłÐ°":130114,"׼×ķ׾×Ŀ":130115,"×ŀש×Ĺ×§":130116,"ĠÙĪÙĥاÙĨ":130117,"ס×ķ×£":130118,"ĠاÙĦØŃÙĥÙĪÙħØ©":130119,"Ġ×ij×ĺ":130120,"ĠtráºŃn":130121,"Ġ×Ķ×¢×ķ׾×Ŀ":130122,"ĠÃŃch":130123,"tÄħ":130124,"ש×ŀ×ķ":130125,"Ġ×Ķר×IJש×ķף":130126,"Ġíķĺê³ł":130127,"ãģķãĤī":130128,"ãģķãĤīãģ«":130129,"ãģ«ãģĹãģ¦":130130,"Ġà¸ľà¸¡":130131,"ãģ®ãĤĪãģĨãģª":130132,"ĠÙĪÙĤت":130133,"ãĥįãĥĥãĥĪ":130134,"ÙĦعب":130135,"ÙĪØ´":130136,"ìĺ¬":130137,"Ġหาà¸ģ":130138,"ĠmiaÅĤ":130139,"à¸Ĺà¸Ńà¸ĩ":130140,"иÑĤа":130141,"اصر":130142,"илÑģÑı":130143,"зе":130144,"à¸Ľà¸£à¸°à¸¡à¸²à¸ĵ":130145,"ãģĿãĤĮãģ¯":130146,"Ġbır":130147,"Ġbırak":130148,"صÙĨاع":130149,"Ю":130150,"شعر":130151,"Ġ׳×Ĵ×ĵ":130152,"Ġبسبب":130153,"ãĥĿãĤ¤":130154,"ãĥĿãĤ¤ãĥ³ãĥĪ":130155,"ĠاÙĦجÙĪ":130156,"ĠнеÑģколÑĮко":130157,"Ġkiếm":130158,"ÙģÙİ":130159,"Ġضد":130160,"×ij×Ļ×ĺ×ķ×Ĺ":130161,"تابع":130162,"ÙĨز":130163,"ĠBản":130164,"Ġaçıkl":130165,"Ġaçıklama":130166,"Ġà¸Ħุà¸ĵ":130167,"à¸Ĺา":130168,"ÅĤów":130169,"طب":130170,"ÙĨØŃÙĨ":130171,"Ġ×ŀ×§×ķר":130172,"Ġİs":130173,"Ġдома":130174,"Ġวัà¸Ļ":130175,"ĠdÃłnh":130176,"Ñıн":130177,"миÑĢ":130178,"Ġmô":130179,"ĠvÃłng":130180,"صاب":130181,"sının":130182,"à¸Ħืà¸Ļ":130183,"خبر":130184,"×ĸ׼×ķ":130185,"Ġ×ŀש×Ķ×ķ":130186,"mü":130187,"Ġкомпании":130188,"Ġ×Ķ×¢×Ļר":130189,"ĠÙĥÙĪ":130190,"ÙĤÙĦب":130191,"ĠlỼp":130192,"ики":130193,"׳×ij":130194,"à¹Ĥà¸Ħร":130195,"à¹Ĥà¸Ħรà¸ĩ":130196,"à¹Ĥà¸Ħรà¸ĩà¸ģาร":130197,"×ŀ×ķ×¢×ĵ":130198,"ÑıÑĤÑģÑı":130199,"หลัà¸ĩà¸Īาà¸ģ":130200,"ениÑİ":130201,"Ġשע":130202,"ĠbÆ°á»Ľc":130203,"ãĥ¡ãĥ¼ãĥ«":130204,"ãĤĦãĤĬ":130205,"Ġ×Ļ×ķ×ĵ×¢":130206,"Ġê´Ģíķľ":130207,"ĠاÙĦØ£Ùħر":130208,"Ġbölge":130209,"ĠÑģвой":130210,"ÙĦس":130211,"Ġ×ŀ×Ļ×ķ×Ĺ×ĵ":130212,"ĠëĤ´ìļ©":130213,"ĠأجÙĦ":130214,"ĠÄIJông":130215,"Ġ×ŀ×ł×ª":130216,"Ġìĭľê°Ħ":130217,"ÙĥÙİ":130218,"ãģ¨ãģĦãģĨãģ®ãģ¯":130219,"Ġnależy":130220,"تÙĨظÙĬÙħ":130221,"ĠÑģозда":130222,"Ġphé":130223,"Ġphép":130224,"ãģ§ãģįãģ¾ãģĻ":130225,"ĠعÙĦÙħ":130226,"大ãģįãģª":130227,"ãĤ²ãĥ¼ãĥł":130228,"íħĮ":130229,"Ġ׼×ķ׾׾":130230,"ĠинÑĤеÑĢнеÑĤ":130231,"ĠTừ":130232,"ãģ¨ãģªãĤĭ":130233,"زاÙĦ":130234,"Ġktórym":130235,"Ġnhé":130236,"ìĪľ":130237,"нев":130238,"деÑĢ":130239,"ãĤ¢ãĥĹãĥª":130240,"iá»ĩu":130241,"×ij×Ļ׾":130242,"Ġتس":130243,"ĠÄIJây":130244,"ĠاÙĦخاصة":130245,"Ġà¹Ģà¸Ĭ":130246,"Ġà¹Ģà¸Ĭà¹Īà¸Ļ":130247,"صاد":130248,"Ġdạng":130249,"سعر":130250,"Ġש×Ļ×ŀ×ķש":130251,"×Ĵ×Ļ×Ŀ":130252,"ãģĮãģĤãģ£ãģŁ":130253,"пÑĢов":130254,"пÑĢовод":130255,"Ġ×IJ×Ļ׳×ķ":130256,"Ġ׾ר×IJ":130257,"Ġ׾ר×IJ×ķת":130258,"ĠØ£Ù쨶ÙĦ":130259,"ĠØŃÙĦ":130260,"ĠأبÙĪ":130261,"ê°ķ":130262,"Ġì§ij":130263,"ãģ®ãĤĪãģĨãģ«":130264,"Ġפ׳×Ļ":130265,"ס×Ļ×Ŀ":130266,"ĠÙĪÙĩذا":130267,"Ġkaç":130268,"Ġéén":130269,"Ġê±´":130270,"ë°Ķ":130271,"Ñĥз":130272,"à¸Ĥà¸Ńà¸ĩà¹Ģรา":130273,"iÅĤ":130274,"ĠÐľÑĭ":130275,"Ġchết":130276,"ĠاÙĦثاÙĨÙĬ":130277,"×IJ×§":130278,"Ġ×ķ×¢×ľ":130279,"ĠاÙĦطب":130280,"×ij×ĺ×Ĺ":130281,"ĠجدÙĬدة":130282,"ĠعدÙħ":130283,"عز":130284,"สิà¹Īà¸ĩà¸Ĺีà¹Ī":130285,"ãģĻãĤĮãģ°":130286,"ĠÄijô":130287,"ì£ł":130288,"دÙĤ":130289,"номÑĥ":130290,"Ġká»ĥ":130291,"ãĤ¢ãĥ³":130292,"å¤ļãģıãģ®":130293,"à¸Ľà¸£à¸°à¸ģ":130294,"à¸Ľà¸£à¸°à¸ģà¸Ńà¸ļ":130295,"פע×Ļ׾×ķת":130296,"ĠÑģÑĤол":130297,"mayı":130298,"ãģ¤ãģĦ":130299,"Ġyılında":130300,"Ġà¸Īึà¸ĩ":130301,"koÅĦcz":130302,"ĠThông":130303,"ĠакÑĤив":130304,"нÑģÑĤ":130305,"нÑģÑĤÑĢÑĥ":130306,"ĠÃĸz":130307,"Ġת×ŀ×Ļ×ĵ":130308,"ĠÙĥÙĨت":130309,"ÑģиÑģÑĤем":130310,"prés":130311,"présent":130312,"Ġnâ":130313,"Ġnâng":130314,"gÅĤos":130315,"ĠÙĪØ²ÙĬر":130316,"ØŃصÙĦ":130317,"ĠимееÑĤ":130318,"ØŃرÙĥØ©":130319,"à¸ŀà¹Īà¸Ń":130320,"ãĤĴãģĬ":130321,"ĠاستخداÙħ":130322,"×IJ×Ļר×ķ×¢":130323,"ä»ĸãģ®":130324,"Ġש×Ķ×Ŀ":130325,"ãģĹãģŁãĤī":130326,"ש×ŀ×Ļ":130327,"Ñģла":130328,"mı":130329,"Ġbazı":130330,"Ġíķĺì§Ģë§Į":130331,"×ĵ׾":130332,"Ġyaptıģı":130333,"ãĥĬãĥ¼":130334,"׾×Ļ׾×Ķ":130335,"ãģ¨ãģĦãģ£ãģŁ":130336,"ändig":130337,"ĠÅŁa":130338,"ĠÙģÙĬÙħا":130339,"иÑĤелÑı":130340,"×ŀ×ķש":130341,"à¸Ĥà¸Ńà¸ļ":130342,"lük":130343,"Ġhá»ĵi":130344,"Ġëªħ":130345,"ĠاÙĦÙĥØ«ÙĬر":130346,"צ×IJ":130347,"Ġhazır":130348,"طرÙģ":130349,"اÙĬا":130350,"ĠÄijôi":130351,"енд":130352,"ÙĦغ":130353,"×Ĺ×ĸ×ķר":130354,"ĠвÑģег":130355,"ĠвÑģегда":130356,"ëIJĺê³ł":130357,"×ĵ×ķ×ĵ":130358,"ана":130359,"دÙĪÙĦØ©":130360,"Ġhoạch":130361,"عÙĦا":130362,"عÙĦاج":130363,"Ġ×ķ×¢×ĵ":130364,"×Ķ×Ŀ":130365,"кий":130366,"ÙĦÙIJ":130367,"Ġ×¢×ľ×Ļ×ķ":130368,"ÑİÑīий":130369,"Ġngá»§":130370,"صÙĨع":130371,"ĠاÙĦعراÙĤ":130372,"à¸ķà¹Īà¸Ńà¹Ħà¸Ľ":130373,"ãģŁãģıãģķãĤĵ":130374,"Ġphạm":130375,"ÙĦاÙĨ":130376,"اتÙĩا":130377,"Ġböyle":130378,"تÙĨÙģÙĬ":130379,"تÙĨÙģÙĬذ":130380,"Ġש×Ķ×Ļ×IJ":130381,"ÑģÑĥ":130382,"ยาว":130383,"Ġש×ķ׳×Ļ×Ŀ":130384,"Ġ×ŀ×ķ׾":130385,"ĠÑģил":130386,"Ġ×IJ×Ĺר×Ļ×Ŀ":130387,"Ġphá»§":130388,"ÙĤطع":130389,"ĠThá»§":130390,"à¸Ľà¸£à¸°à¹Ģà¸Ĺศà¹Ħà¸Ĺย":130391,"ÙĨÙĤ":130392,"ĠÄijoạn":130393,"Ġبإ":130394,"пÑĢедел":130395,"×ķת×ķ":130396,"Ġyarı":130397,"пÑĢе":130398,"ĠczÄĻÅĽci":130399,"ØŃÙĥÙħ":130400,"×ķ׳×Ļת":130401,"×¤×¢×ľ":130402,"ãĤĴãģĹãģ¦":130403,"Ġktórzy":130404,"׾×Ŀ":130405,"ĠÄIJiá»ģu":130406,"ĠкоÑĤоÑĢаÑı":130407,"ĠìĿ´ìĥģ":130408,"ãģĤãģ£ãģŁ":130409,"Ġ×ŀ×ĵ×ķ×ijר":130410,"פ×ķ×¢×ľ":130411,"dım":130412,"éĢļãĤĬ":130413,"ĠбÑĥдÑĥÑĤ":130414,"à¹Ģวà¹ĩà¸ļà¹Ħà¸ĭ":130415,"à¹Ģวà¹ĩà¸ļà¹Ħà¸ĭà¸ķà¹Į":130416,"اخر":130417,"×Ĺ×Ļ׾":130418,"Ġ×Ļ׾":130419,"Ġ×Ļ׾×ĵ×Ļ×Ŀ":130420,"×Ĺ×Ļפ":130421,"×Ĺ×Ļפ×ķש":130422,"Ġdòng":130423,"Ġש×ĸ×Ķ":130424,"ÑĮе":130425,"ãģĤãģ¨":130426,"ìŀIJê°Ģ":130427,"×IJ×ĵ":130428,"Ġüz":130429,"Ġüzere":130430,"ظÙĦ":130431,"Ġ×IJ×ķ׾×Ļ":130432,"Ġ×ij×Ļ×ķ×Ŀ":130433,"ÙĦات":130434,"Ġmê":130435,"침":130436,"تØŃد":130437,"تØŃدث":130438,"Ġخاصة":130439,"ĠبرÙĨ":130440,"ĠبرÙĨاÙħج":130441,"ĠHÃłn":130442,"×Ĺס":130443,"ĠÙĪÙĦÙħ":130444,"×¢×Ŀ":130445,"Ġmı":130446,"à¸Łà¸±à¸ĩ":130447,"שע×Ķ":130448,"ÙĪÙģÙĤ":130449,"ס×ij×Ļר":130450,"алÑĮнÑĭй":130451,"×Ĺש×ķ×ij":130452,"ĠnÃłng":130453,"ë³¼":130454,"ĠкоÑĤоÑĢÑĭÑħ":130455,"Ġ×Ĺ×ķ×§":130456,"tör":130457,"ĠлÑĥÑĩÑĪе":130458,"ãĥijãĥ³":130459,"ลà¹Īาสุà¸Ķ":130460,"ĠجدÙĬد":130461,"ÙĬدة":130462,"à¸Ĺรà¸ĩ":130463,"ãĤĪãĤĬãĤĤ":130464,"ÙĦÙĦ":130465,"ãĤĤãģ£ãģ¨":130466,"ש×ĺ×Ĺ":130467,"Ġ×ķ×IJ×Ļ":130468,"Ġgiá»ijng":130469,"إضاÙģ":130470,"קת":130471,"ë§Ŀ":130472,"ĠzostaÅĤ":130473,"ÑĢоз":130474,"×Ļפ×Ļ×Ŀ":130475,"Ġ׼׾׾":130476,"ת×ķ׼ף":130477,"dıģını":130478,"ÙĤسÙħ":130479,"ĠÑģÑĩиÑĤ":130480,"ĠÑģÑĩиÑĤа":130481,"×ĺ×ķת":130482,"Ġưu":130483,"ĠØ¢ÙĦ":130484,"Ġмом":130485,"ĠмоменÑĤ":130486,"ĠاÙĦتعÙĦÙĬÙħ":130487,"×¢×ľ×ķת":130488,"Ġchữa":130489,"Ġyön":130490,"ĠtrÃł":130491,"ĠØŃÙĬÙĨ":130492,"à¸ĭั":130493,"ĠCá":130494,"×¢×ĸ":130495,"ĠاÙĦØ£ÙħÙĨ":130496,"cÃŃ":130497,"Ġvá»ijn":130498,"Ġà¸Ļาย":130499,"обÑĢа":130500,"×§×IJ":130501,"Ġthiếu":130502,"ãĥŀãĥ¼":130503,"สวà¸Ļ":130504,"Ġgá»Ń":130505,"Ġgá»Ńi":130506,"Ġê¹":130507,"Ġê¹Ģ":130508,"Ġthiá»ĩn":130509,"ÙĤع":130510,"wÄĻ":130511,"Ġнам":130512,"ÑĤол":130513,"Ġsân":130514,"ס×ķ×Ĵ":130515,"Ġgeçir":130516,"ÑĤон":130517,"ева":130518,"ĠÙĪØ¶Ø¹":130519,"Ġعشر":130520,"Ñģло":130521,"à¸Īัà¸ļ":130522,"ãĤ·ãĥ¼":130523,"ãĤĤãģĤãĤĬãģ¾ãģĻ":130524,"Ġvẻ":130525,"ĠÄIJá»ĥ":130526,"رÙ쨹":130527,"ĠاÙĦØ£ÙĪÙĦÙī":130528,"ÑĤаÑĢ":130529,"ãģªãģıãģ¦":130530,"ÙħÙİ":130531,"quÃŃ":130532,"×¢×ł×Ļ×Ļ׳":130533,"ген":130534,"Ġhôm":130535,"à¸Īา":130536,"ĠnhỼ":130537,"ĠاÙĦعربÙĬ":130538,"×IJף":130539,"Ġlá»Ļ":130540,"ĠjeÅĽli":130541,"à¹Ģà¸Ĺà¹Īาà¸Ļัà¹īà¸Ļ":130542,"ĠØ£ÙĨÙĩا":130543,"Ġtuy":130544,"Ġtuyá»ĩt":130545,"Ġتص":130546,"ĠتصÙĨÙĬ":130547,"ĠتصÙĨÙĬÙģ":130548,"Ġê·¸ëŁ¬ëĤĺ":130549,"оÑĨен":130550,"à¸ģิà¸Īà¸ģรรม":130551,"ãĤĦãģ£ãģ¦":130552,"Ġkhá»ıi":130553,"Ġlá»ĩ":130554,"ĠاÙĦÙħجتÙħع":130555,"à¸Ńาà¸Īà¸Īะ":130556,"à¸Īะà¹Ģà¸Ľà¹ĩà¸Ļ":130557,"овÑĭй":130558,"ר×Ŀ":130559,"รà¹īà¸Ńà¸Ļ":130560,"ש×ŀש":130561,"人ãģ«":130562,"Ġüzerine":130563,"פר×Ļ":130564,"duÄŁu":130565,"Ñĩик":130566,"Ġmùa":130567,"Ġ×ŀת×ķ×ļ":130568,"ĠcáºŃp":130569,"ĠتارÙĬØ®":130570,"×ij×ľ×ª×Ļ":130571,"Ġì¢Ģ":130572,"ÙĦع":130573,"باÙĨ":130574,"Ġchút":130575,"Ġ×Ķ×ĸ×ŀף":130576,"née":130577,"ĠLiên":130578,"ĠÙĦÙĦØ£":130579,"ØŃدÙĪØ¯":130580,"Ġ×¢×Ľ×©×Ļ×ķ":130581,"воз":130582,"Ġyaptı":130583,"Ġобо":130584,"à¹ĥหà¹īà¸ģัà¸ļ":130585,"Ġ×ij×Ķ×Ŀ":130586,"ãģıãģ¦":130587,"رأس":130588,"ĠÑģÑĢедÑģÑĤв":130589,"ĠBÃłi":130590,"ãģĵãģ¨ãģ«":130591,"ĠìĤ¬íļĮ":130592,"Ġ모ëijIJ":130593,"×ij×IJ":130594,"Ġtrắng":130595,"ĠاÙĦبÙĦد":130596,"ĠHoÃłng":130597,"либо":130598,"ĠдÑĢÑĥгиÑħ":130599,"İR":130600,"Ñĥма":130601,"ĠJeÅĽli":130602,"ãĤĤãģĹ":130603,"Ġvòng":130604,"Ġ×IJתר×Ļ×Ŀ":130605,"ĠÄijá»įc":130606,"ĠвоÑĤ":130607,"ãģłãģĮ":130608,"ë°°":130609,"à¸Ķูà¹ģล":130610,"Ġ×ŀ׼׾":130611,"ìĹIJëıĦ":130612,"газ":130613,"Ġ׳×ķספ×Ļ×Ŀ":130614,"ãģĵãģ¨ãģ§":130615,"ĠتÙĪ":130616,"ãģ§ãģĤãĤĬ":130617,"à¸Ļัà¹Īà¸ĩ":130618,"ĠможеÑĤе":130619,"szÄĻ":130620,"ãģ®ãģł":130621,"ĠÙħÙĨÙĩ":130622,"Ġbá»ķ":130623,"Ġbüt":130624,"Ġbütün":130625,"ë³´ê³ł":130626,"Ġchá»ĵng":130627,"à¹ģà¸Īà¹īà¸ĩ":130628,"ĠVì":130629,"ĠØŃر":130630,"Ġgiản":130631,"ĠÙħدÙĬÙĨØ©":130632,"تطبÙĬÙĤ":130633,"à¸Īิ":130634,"æĹ¥ãģ®":130635,"бил":130636,"à¸ģà¸Ńà¸ĩ":130637,"ê³³":130638,"ĠØ£Ùħا":130639,"ìĨIJ":130640,"Ġtrái":130641,"ĠвÑģем":130642,"ĠسÙĨØ©":130643,"ĠÑģайÑĤ":130644,"ĠгоÑĤов":130645,"пÑĭ":130646,"ĠëIJł":130647,"ĠاÙĦخط":130648,"ĠاÙĦرئÙĬسÙĬØ©":130649,"Ġíķ©ëĭĪëĭ¤":130650,"ĠìķĦëĭĪëĿ¼":130651,"ĠìĿ´ëłĩ":130652,"ĠìĿ´ëłĩê²Į":130653,")ØĮ":130654,"hält":130655,"ĠØ£Ùħر":130656,"ĠعÙħر":130657,"à¸ģà¹ĩà¸Īะ":130658,"Ġà¸Ĺำà¹ĥหà¹ī":130659,"Ġcân":130660,"Ġ×ij׾":130661,"Ġ×ij׾×ij×ĵ":130662,"פסק":130663,"ĠÙĬÙĤÙĪÙĦ":130664,"нÑĥÑĤÑĮ":130665,"à¹ģà¸Ħ":130666,"Ġקצת":130667,"Ġnằm":130668,"Ġhòa":130669,"bilitÃł":130670,"ĠìĹĨëĭ¤":130671,"Ġ׼פ×Ļ":130672,"ÑĢож":130673,"лага":130674,"Ġ×Ķש×Ļ":130675,"ĠNgoÃłi":130676,"ĠÙĪØ¬":130677,"ĠÙĪØ¬ÙĪØ¯":130678,"ĠìľĦíķľ":130679,"ĠusÅĤug":130680,"Ġtuần":130681,"dź":130682,"×ŀ×ķף":130683,"ĠاÙĦعدÙĬد":130684,"Ġchẳng":130685,"สุà¸Ĥà¸łà¸²à¸ŀ":130686,"Ġ×ij×ĵר×ļ":130687,"ĠÑģебе":130688,"ĠìŀĪìĿĦ":130689,"ĠاÙĦØŃاÙĦ":130690,"Ġdá":130691,"Ġcưá»Ŀi":130692,"Ġnghiên":130693,"ieÅĦ":130694,"ĠDương":130695,"ï¼ħ":130696,"شد":130697,"ãģĦãģ¤ãĤĤ":130698,"ĠвÑĭбоÑĢ":130699,"Ġcá»Ļng":130700,"ש×Ļ׳×ķ×Ļ":130701,"Ġchạy":130702,"Ġ×ij×¢×ľ×Ļ":130703,"اخبار":130704,"íķĺë©°":130705,"żÄħ":130706,"جاز":130707,"Ġ׳ר×IJ×Ķ":130708,"ศู":130709,"ศูà¸Ļ":130710,"ศูà¸Ļยà¹Į":130711,"×Ĵ×¢":130712,"Ġ×¢×ĵ×Ļ":130713,"Ġ×¢×ĵ×Ļ×Ļף":130714,"برا":130715,"ÑĨий":130716,"ĠÄIJá»ĵng":130717,"ÙĤاÙĨÙĪÙĨ":130718,"ĠÄijứng":130719,"ãģĹãģŁãĤĬ":130720,"Ġ×Ĺ×Ļ×Ļ":130721,"ĠëIJľ":130722,"ĠëIJľëĭ¤":130723,"ĠмеждÑĥ":130724,"à¸ŀวà¸ģà¹Ģà¸Ĥา":130725,"ĠBắc":130726,"ลำ":130727,"ë°±":130728,"ĠíĻķ":130729,"มาà¸ģม":130730,"มาà¸ģมาย":130731,"банк":130732,"à¸Ńาà¸ģาร":130733,"ĠhÃł":130734,"Ġ׾׳":130735,"à¸Ńà¸Ń":130736,"Ġë°Ķë¡ľ":130737,"лом":130738,"mática":130739,"ĠØŃد":130740,"ابت":130741,"à¸Ĺีà¹Īà¸Ļีà¹Ī":130742,"ĠcoÅĽ":130743,"ÙģÙĬدÙĬ":130744,"ÙģÙĬدÙĬÙĪ":130745,"ĠмеÑģÑĤо":130746,"Ġphút":130747,"มาà¸ģà¸ģวà¹Īา":130748,"×IJפ":130749,"بÙIJ":130750,"ĠPhú":130751,"ì±Ħ":130752,"ĠÙĪØ³ÙĦÙħ":130753,"à¸Īีà¸Ļ":130754,"поÑĤÑĢеб":130755,"Ġ×Ĺ×ĵש×ķת":130756,"Ø´ÙĪ":130757,"Ġעצ×ŀ×ķ":130758,"ĠعÙħÙĦÙĬØ©":130759,"à¸Ħุà¸ĵà¸łà¸²à¸ŀ":130760,"ãģ¾ãģĻãģĮ":130761,"دعÙĪ":130762,"طرÙĤ":130763,"à¹Ħมà¹Īà¸ķà¹īà¸Ńà¸ĩ":130764,"ë²Ķ":130765,"ìĬ¹":130766,"ĠkÃŃch":130767,"ĠìĹĨëĬĶ":130768,"ĠÑĤам":130769,"ĠÙĨØŃÙĪ":130770,"ĠاÙĦÙĤاÙĨÙĪÙĨ":130771,"×Ĺ×ķ×Ŀ":130772,"Ġkız":130773,"Ġ×ĵ×Ļף":130774,"ĠвÑĢемени":130775,"ãģ£ãģŁãĤĬ":130776,"ĠØ´Ùĩر":130777,"ĠìĦľë¹ĦìĬ¤":130778,"עש×Ķ":130779,"Ġgiác":130780,"ĠاÙĦسÙĦاÙħ":130781,"Ġ×IJש":130782,"ĠполÑĥÑĩа":130783,"à¸Īัà¸Ķà¸ģาร":130784,"коÑĢ":130785,"Ġ×Ķ×ĺ×ķ×ij":130786,"รายà¸ģาร":130787,"주ìĿĺ":130788,"à¹ģà¸ķà¹Īละ":130789,"Ġê·¸ëŁ°ëį°":130790,"à¸Ĺีà¹Īà¹Ģà¸Ľà¹ĩà¸Ļ":130791,"Ġת×ķ×ļ":130792,"بÙĬاÙĨ":130793,"ÐĻ":130794,"oÅĽciÄħ":130795,"ÑĤок":130796,"ĠÃĶ":130797,"ĠÃĶng":130798,"à¹Ħมà¹Īà¹ĥà¸Ĭà¹Ī":130799,"ãģ¿ãģ¦":130800,"ÐŁÐ¾":130801,"ĠЧÑĤо":130802,"íĻ©":130803,"×ĺ×ij×¢":130804,"меÑĤÑĢ":130805,"Ġ×ij×ŀ×Ķ":130806,"Ġ×ij×ŀ×Ķ׾":130807,"Ġ×ij×ŀ×Ķ׾×ļ":130808,"ÑĩÑĮ":130809,"קש×Ķ":130810,"знак":130811,"знаком":130812,"ujÄĻ":130813,"×Ļצר":130814,"ĠاÙĦÙħÙĦÙĥ":130815,"ıyla":130816,"×IJ×ŀת":130817,"à¸Ľà¸´à¸Ķ":130818,"×IJ×Ĺ×ĵ":130819,"راد":130820,"ĠmáºŃt":130821,"ëĭ¤ëĬĶ":130822,"Ġlạnh":130823,"ש׾×ķש":130824,"ØŃدÙĬØ«":130825,"تز":130826,"å¹´ãģ®":130827,"ĠкваÑĢ":130828,"ĠкваÑĢÑĤиÑĢ":130829,"ä½ľãĤĬ":130830,"رÙĪØ¨":130831,"ован":130832,"ĠТе":130833,"à¸Īำà¸ģ":130834,"à¸Īำà¸ģัà¸Ķ":130835,"باط":130836,"×Ĵת":130837,"ĠмаÑĪ":130838,"ĠмаÑĪин":130839,"×Ļצ×Ķ":130840,"ãģ»ãģ¨":130841,"ãģ»ãģ¨ãĤĵãģ©":130842,"ÃŃdo":130843,"ĠÑıзÑĭк":130844,"à¸ļิà¸Ļ":130845,"สà¸ĸาà¸Ļà¸Ĺีà¹Ī":130846,"ĠìĹ´":130847,"ãĤ¦ãĤ§":130848,"ĠcÃł":130849,"пан":130850,"åı£ãĤ³ãĥŁ":130851,"Ġرد":130852,"اÙĤت":130853,"ĠÙĥب":130854,"ĠÙĥبÙĬرة":130855,"ÑģÑĤал":130856,"ש×ŀ×Ĺ":130857,"posición":130858,"ĠÙħÙĦÙĬÙĪÙĨ":130859,"ĠìĿ´ìķ¼":130860,"ĠìĿ´ìķ¼ê¸°":130861,"Ġhút":130862,"ĠÅĽwiat":130863,"Ġë°©ë²ķ":130864,"ĠÑģвеÑĤ":130865,"Ġвидео":130866,"ĠاÙĦÙĨظاÙħ":130867,"Ġtrá»Ŀi":130868,"ĠëĮĢíķ´ìĦľ":130869,"ר×ŀת":130870,"تداÙĪÙĦ":130871,"×ķר×ĵ":130872,"ת×ŀ":130873,"ת×ŀ×ķ׳×ķת":130874,"Ġ×ŀף":130875,"Ġдва":130876,"Ġ×Ķ×§×ķ":130877,"æĹ¥ãģ«":130878,"Ġ×Ķ×Ĵ×Ļ×¢":130879,"à¹Ģà¸ŀิà¹Īมà¹Ģà¸ķิม":130880,"Ùħارس":130881,"Ġê²ĥìŀħëĭĪëĭ¤":130882,"ãģªãģĦãģ¨":130883,"Ġnhiá»ĩt":130884,"ëIJ©ëĭĪëĭ¤":130885,"Ġ×ij׳×ķש×IJ":130886,"Ġê°Ģìŀ¥":130887,"Ġvợ":130888,"ĠÄijóng":130889,"צ×Ļ׾×ķ×Ŀ":130890,"ê´Ģê³Ħ":130891,"ваÑı":130892,"×IJ×Ļ×ĸ":130893,"×IJ×Ļ×ĸ×Ķ":130894,"ĠÙĨظاÙħ":130895,"ÙħØŃاÙ쨏":130896,"Ġtải":130897,"기ëıĦ":130898,"à¸Ľà¸±à¸Īà¸Īุ":130899,"à¸Ľà¸±à¸Īà¸Īุà¸ļัà¸Ļ":130900,"׼×ĵ×ķר":130901,"ĠìķĦìĿ´":130902,"׼׳×Ļס":130903,"à¹Ģà¸ķร":130904,"à¹Ģà¸ķรียม":130905,"Ġngoại":130906,"ĠدÙĪÙĦار":130907,"Ġrẻ":130908,"ĠkhÄĥn":130909,"عدد":130910,"شعب":130911,"czyÄĩ":130912,"ĠاÙĦÙĥر":130913,"ĠÑĩеловека":130914,"ĠÙĪØ¥ÙĨ":130915,"×IJ×ĺ":130916,"ĠthÆ¡":130917,"ĠاÙĦرÙĬاض":130918,"опÑĢедел":130919,"опÑĢеделен":130920,"×Ķ×ŀש×ļ":130921,"ĠÐĿово":130922,"зÑĭва":130923,"ĠاÙĦدÙĪÙĦÙĬ":130924,"ĠÄijáp":130925,"ĠкÑĢед":130926,"ĠкÑĢедиÑĤ":130927,"ового":130928,"Ġmôn":130929,"à¸Ľà¸£à¸°à¹Ĥย":130930,"à¸Ľà¸£à¸°à¹Ĥยà¸Ĭà¸Ļ":130931,"à¸Ľà¸£à¸°à¹Ĥยà¸Ĭà¸Ļà¹Į":130932,"ÑģÑĤе":130933,"ĠThá»ĭ":130934,"دÙĬØ©":130935,"×ŀצ×ķ":130936,"ÙģØ§Øª":130937,"×§×ĵ×Ŀ":130938,"ìĿ´ëĿ¼ê³ł":130939,"ÙĪØ®":130940,"Ġ×Ĺ×ĸ":130941,"ĠÑĦоÑĤо":130942,"׾×Ļת":130943,"تÙİ":130944,"ÙĪØ¨Ø±":130945,"йÑĤи":130946,"ĠÃ¶ÄŁren":130947,"Ġ×Ķ×ĸ×ķ":130948,"Ġvá»įng":130949,"ÙĤÙĪØ©":130950,"ĠTây":130951,"ĠÐĿи":130952,"Ġש×ķ×ij":130953,"ãģ¨è¨ĢãĤıãĤĮ":130954,"ãģ©ãĤĵãģª":130955,"×Ĺצ×Ļ":130956,"ï½ľ":130957,"Ġ×ķ×Ķ×ķ×IJ":130958,"ä¸Ģãģ¤":130959,"ĠÑģÑĤоиÑĤ":130960,"niÄħ":130961,"×ĺר×Ļ":130962,"ĠдеÑĤей":130963,"нÑıÑĤÑĮ":130964,"ĠÑģделаÑĤÑĮ":130965,"Ġë§İìĿ´":130966,"ä½ķãģĭ":130967,"ãģĽãĤĭ":130968,"à¹Ħหม":130969,"à¸ķิà¸Ķà¸ķà¹Īà¸Ń":130970,"Ġ×ijת×Ĺ":130971,"Ġ×ijת×Ĺ×ķ×Ŀ":130972,"ìĻĦ":130973,"ì§ĢëĬĶ":130974,"ÑģÑĤаÑĤ":130975,"ÑıÑģн":130976,"üb":130977,"Ġthả":130978,"Ġ×ij×IJ×ŀת":130979,"Ġtuyến":130980,"×ĵ×Ļר×Ķ":130981,"Ġ×IJ×Ļש×Ļ":130982,"×ĸ׼ר":130983,"ãģ°ãģĭãĤĬ":130984,"Ġxét":130985,"׼×Ļ×ķ":130986,"׼×Ļ×ķ×ķף":130987,"diÄŁini":130988,"ĠاÙĦÙħÙĪØ¶ÙĪØ¹":130989,"ĠháºŃu":130990,"à¸Īาà¸ģà¸ģาร":130991,"×ijס×Ļס":130992,"Ġ×ŀ×Ĵ×Ļ×¢":130993,"×ij×Ļ×¢":130994,"ĠÙĪØ¬Ùĩ":130995,"à¹ģà¸Ķà¸ĩ":130996,"à¸Ļาà¸ĩ":130997,"ĠÅŀa":130998,"ì¡´":130999,"ë¡Ģ":131000,"à¸ķะ":131001,"Ġ×Ķ×Ĺ×Ļ×Ļ×Ŀ":131002,"ÙģÙĬد":131003,"ãģ§ãģĻãģĭãĤī":131004,"ê·ľ":131005,"źni":131006,"ĠлÑİдей":131007,"Ġyüzde":131008,"ıyorum":131009,"ĠاÙĦبØŃر":131010,"eño":131011,"паÑĢ":131012,"ÙĬÙĤØ©":131013,"обÑĢ":131014,"ר×ķ×ļ":131015,"تÙĪÙĤع":131016,"ĠاÙĦØ´ÙĬØ®":131017,"åĪĿãĤģãģ¦":131018,"ĠÑĤелеÑĦ":131019,"ĠÑĤелеÑĦон":131020,"Ġthôi":131021,"Ġ×Ļ׼×ķ׾×Ļ×Ŀ":131022,"ĠÅŁirk":131023,"ĠÅŁirket":131024,"Ġìļ°ë¦¬ê°Ģ":131025,"ĠÄijông":131026,"Ġת×ķ×ĵ×Ķ":131027,"ÑģмоÑĤÑĢеÑĤÑĮ":131028,"ĠÙĦÙĩÙħ":131029,"Ġ׾׼":131030,"ĠNó":131031,"ĠØŃاÙĦØ©":131032,"ãģĦãģij":131033,"קר×ķ":131034,"azı":131035,"ãĤ³ãĥ¼":131036,"ĠÙĦÙĦت":131037,"sınız":131038,"ĠHải":131039,"기ìĪł":131040,"ยัà¸ĩà¹Ħมà¹Ī":131041,"ëĭ¤ê³ł":131042,"פ×Ĺ":131043,"Ġ׾×Ĵ×ij×Ļ":131044,"ĠعÙĨÙĩ":131045,"Ġказ":131046,"Ġказино":131047,"بÙĪØ±":131048,"ÑĦеÑĢ":131049,"Ġê°ĻìĿ´":131050,"تسجÙĬÙĦ":131051,"ĠاÙĦÙħرÙĥز":131052,"ĠThái":131053,"даÑĤÑĮ":131054,"×ŀ×Ļ×Ļ׾":131055,"ĠpaylaÅŁ":131056,"ãģ¤ãģ®":131057,"à¹Ģรืà¸Ń":131058,"nça":131059,"׳×ķ×Ĺ":131060,"Ġ×IJפ×Ļ׾×ķ":131061,"ãģ¨èĢĥãģĪ":131062,"ãģ¨ãģĹãģ¦ãģ¯":131063,"à¹Ģà¸Īà¸Ń":131064,"×ŀפ":131065,"ĠgiriÅŁ":131066,"лиÑĤ":131067,"ÑĤелÑı":131068,"Ñijн":131069,"æ°Ĺãģ«":131070,"Ġgó":131071,"Ġgóp":131072,"åĪĩãĤĬ":131073,"Ġ×Ķ×Ĺ×ĵש":131074,"жал":131075,"Ġ×ĵעת":131076,"éģķãģĨ":131077,"à¹Ģà¸Ĥà¹īาà¹Ħà¸Ľ":131078,"Ġסר×ĺ":131079,"eña":131080,"æĸ°ãģĹãģĦ":131081,"رÙİ":131082,"ĠÐIJÑĢ":131083,"Ġphản":131084,"à¸Īะà¹Ħà¸Ķà¹ī":131085,"Ġ×ijצ×ķר×Ķ":131086,"شاÙĩ":131087,"شاÙĩد":131088,"ÙĪØ±Ø¯":131089,"à¹Ģà¸Ļืà¹Īà¸Ńà¸ĩà¸Īาà¸ģ":131090,"илиÑģÑĮ":131091,"à¹ģละà¸ģาร":131092,"Ġ×Ķ×ĸ׼":131093,"Ġ×Ķ×ĸ׼×ķ×Ļ×ķת":131094,"eiÃŁ":131095,"ãĥ¨":131096,"ìĥĪ":131097,"ĠÃĩa":131098,"Ư":131099,"ש×Ĵ":131100,"ÙĬÙĨØ©":131101,"รà¹īà¸Ńà¸ĩ":131102,"ãĤµãĥ³":131103,"ÑĢоÑģÑģий":131104,"ÑĢоÑģÑģийÑģк":131105,"aÄŁa":131106,"ĠнаÑĩина":131107,"ĠصÙĦÙī":131108,"à¸Ĺุà¸ģà¸Ħà¸Ļ":131109,"íļĮìĤ¬":131110,"ĠлиÑĨ":131111,"Ø´ÙĬر":131112,"ĠØ´ÙĬØ¡":131113,"ÙĬÙĨا":131114,"Ġפ×Ĺ×ķת":131115,"Ġiçeris":131116,"Ġiçerisinde":131117,"ĠØ£ØŃÙħد":131118,"Ġżeby":131119,"ì´Ŀ":131120,"Ġпоказ":131121,"Ġименно":131122,"หà¸Ļัà¸ĩส":131123,"หà¸Ļัà¸ĩสืà¸Ń":131124,"ĠÑĤÑĢе":131125,"สัà¸ĩà¸Ħม":131126,"Ø¥ÙIJ":131127,"ãģĮå¿ħè¦ģ":131128,"ÙĬÙijØ©":131129,"פצ":131130,"íĭ°":131131,"ĠÙħجاÙĦ":131132,"׳פש":131133,"кан":131134,"×Ĺ×ķפ":131135,"×Ĺ×ķפש":131136,"ì²ĺëŁ¼":131137,"оваÑı":131138,"зов":131139,"Ġhạ":131140,"ĠdziÄĻki":131141,"×Ļר×ķ":131142,"Ġ׾×ŀצ":131143,"Ġ׾×ŀצ×ķ×IJ":131144,"×Ļ×ĵ×ķ":131145,"Ġsợ":131146,"Ġ׾×Ķ×Ĵ×Ļ×¢":131147,"×§×ij×¢":131148,"Ġchiá»ģu":131149,"ãĥŀãĤ¤":131150,"ĠdÃłng":131151,"à¹ģà¸Łà¸Ļ":131152,"Ġüye":131153,"×Ļ׳×Ĵ":131154,"à¹Ģรียà¸ģ":131155,"ç§ģãģĮ":131156,"thé":131157,"ĠÑĦилÑĮ":131158,"ĠÑĦилÑĮм":131159,"ĠNgÃły":131160,"Ġжен":131161,"ĠженÑīин":131162,"جÙĬد":131163,"nç":131164,"à¸Ľà¸£à¸²":131165,"×Ļ×ŀ×ķ":131166,"Ġná»ģn":131167,"×IJ×ķ׾×Ŀ":131168,"ĠвозможноÑģÑĤÑĮ":131169,"Ġëĭ¤ìĭľ":131170,"è¦ĭãģŁ":131171,"à¸ĸà¸Ļ":131172,"à¸ĸà¸Ļà¸Ļ":131173,"mızı":131174,"ĠÙħجÙħÙĪØ¹Ø©":131175,"cjÄħ":131176,"ĠÐłÐ¤":131177,"à¸ģำหà¸Ļ":131178,"à¸ģำหà¸Ļà¸Ķ":131179,"ĠìĹ¬ê¸°":131180,"landı":131181,"ниÑĨ":131182,"ÑģÑĤве":131183,"Ġ×ĵ×ijר×Ļ×Ŀ":131184,"ĠskÅĤad":131185,"ãĤĬãģ¾ãģĹãģŁ":131186,"ĠоÑĤкÑĢÑĭÑĤ":131187,"нÑıÑĤ":131188,"ĠÑģвоей":131189,"à¸Īิà¸ķ":131190,"ĠкаÑĩеÑģÑĤве":131191,"ĠettiÄŁi":131192,"ìĤ¬íķŃ":131193,"ĠاÙĦÙĬÙħÙĨ":131194,"иÑĩеÑģкий":131195,"ë¸Į":131196,"Ġ×ij×IJרץ":131197,"ĠاسÙħ":131198,"ĠизвеÑģÑĤ":131199,"rão":131200,"ĠattivitÃł":131201,"à¹Ģà¸Ľà¹ĩà¸Ļà¸ģาร":131202,"ĠاÙĦدÙĥت":131203,"ĠاÙĦدÙĥتÙĪØ±":131204,"ĠÙĪØ§ØŃدة":131205,"ĠÑģÑĩеÑĤ":131206,"ĠпÑĢиÑĩ":131207,"ĠпÑĢиÑĩин":131208,"ĠÙĪØ²Ø§Ø±Ø©":131209,"Ġhuyá»ĩn":131210,"ĠÙĥتاب":131211,"à¹ģà¸Ļà¹Īà¸Ļ":131212,"à¹ģà¸Ļà¹Īà¸Ļà¸Ńà¸Ļ":131213,"Ġgünü":131214,"гÑĢÑĥз":131215,"ĠاÙĦخاص":131216,"Ġgörül":131217,"׾×ŀ×ĵ":131218,"ĠìłķëıĦ":131219,"×ķ×ij×Ļ׾":131220,"Ġ×ŀקצ×ķ×¢×Ļ":131221,"ĠоÑģобенно":131222,"à¸Ľà¸£à¸°à¸ģา":131223,"à¸Ľà¸£à¸°à¸ģาศ":131224,"acaģını":131225,"ë¶ģ":131226,"à¸łà¸¹à¸¡à¸´":131227,"ĠÑįлекÑĤ":131228,"ĠÑįлекÑĤÑĢо":131229,"Ġקש×Ķ":131230,"سÙĦØ·":131231,"à¸Ĭà¸Ļะ":131232,"×¢×Ļ׾":131233,"ĠЧе":131234,"à¹ģà¸Ļà¹Ī":131235,"lıģ":131236,"lıģın":131237,"Ġ×ŀ×¢×¨×Ľ×ª":131238,"好ãģįãģª":131239,"มาà¸ģà¸Ĥึà¹īà¸Ļ":131240,"×ŀ×¢×ijר":131241,"ĠاÙĦÙħغرب":131242,"ĠпеÑĢи":131243,"ĠпеÑĢиод":131244,"Ġnhạc":131245,"اÙĪÙĬ":131246,"ĠÙĪØ¹ÙĦÙī":131247,"أخذ":131248,"ĠCô":131249,"תר×ij×ķת":131250,"×Ĵ×Ķ":131251,"Ġktórej":131252,"×IJ×Ļת":131253,"×ij×ķ×IJ":131254,"делÑĮ":131255,"รีวิ":131256,"รีวิว":131257,"жÑĥ":131258,"Ġ×ij×Ĺ×ķ":131259,"еÑĪÑĮ":131260,"ĠØ£ÙĦÙģ":131261,"ĠاÙĦÙĪØ·ÙĨÙĬ":131262,"ĠاÙĦÙħÙĨØ·ÙĤØ©":131263,"nÄħÄĩ":131264,"Ġthiên":131265,"иÑĩеÑģкой":131266,"ĠاÙĦÙħÙĦ":131267,"ĠعÙħ":131268,"ספר":131269,"Ġnhóm":131270,"ÙĪØµÙģ":131271,"ĠChúng":131272,"ĠرÙĤÙħ":131273,"ãģ¾ãģĹãģŁãģĮ":131274,"alité":131275,"ลม":131276,"ĠëĤ´ê°Ģ":131277,"׾ק×ķ×Ĺ":131278,"ĠSÆ¡n":131279,"posição":131280,"miÄĻ":131281,"Ġtránh":131282,"ĠÄIJá»Ļ":131283,"׼×Ĺ":131284,"ãģĤãģ£ãģ¦":131285,"à¸Ńยà¹Īา":131286,"Ġ×ŀ×Ĺ×Ļר":131287,"Ġ×Ķ×Ļת×Ķ":131288,"à¸Ľà¹Īา":131289,"à¸Ńืà¹Īà¸Ļà¹Ĩ":131290,"Ø´ÙĤ":131291,"×ł×¡×Ļ":131292,"림":131293,"ãģ¦ãģĹãģ¾ãģĨ":131294,"Ġ×ŀצ×ij":131295,"ãģ«åĩº":131296,"ÙħÙĪØ§Ø·ÙĨ":131297,"ยัà¸ĩมี":131298,"алÑĮнÑĭе":131299,"sanız":131300,"إسرائÙĬÙĦ":131301,"ĠvÃłi":131302,"ì¤Ħ":131303,"ã썿ĢĿãģ£ãģ¦":131304,"×Ļ×ķ׳×Ļ":131305,"çĶŁãģį":131306,"Ġsâu":131307,"ÑĩиÑģÑĤ":131308,"Ġlá»ħ":131309,"ĠGiá":131310,"à¸Ńà¸¸à¸Ľ":131311,"à¸Ńà¸¸à¸Ľà¸ģร":131312,"à¸Ńà¸¸à¸Ľà¸ģรà¸ĵà¹Į":131313,"Ġnhẹ":131314,"rö":131315,"ס×ĺ×Ļ":131316,"ãģķãĤĵãģĮ":131317,"Ġdầu":131318,"عÙİ":131319,"ترا":131320,"×Ĵ×ĵ׾":131321,"Ġtécnica":131322,"׼׳×Ļ×Ŀ":131323,"תקש":131324,"תקש×ķרת":131325,"Ġнего":131326,"était":131327,"Ġmá»ģm":131328,"ÑģеÑĤ":131329,"ĠnháºŃt":131330,"Ġ×ŀ×¢×ľ":131331,"Ġ×Ķ×¢×ij×ķ×ĵ":131332,"Ġ×Ķ×¢×ij×ķ×ĵ×Ķ":131333,"Ġ×Ĵ×Ļ׾":131334,"ãģ¯ãģªãģĦ":131335,"ائØŃ":131336,"ĠздеÑģÑĮ":131337,"×IJ×Ļ׳×ĺר":131338,"ÙħÙIJ":131339,"Ġ×Ļ×Ĺ×ĵ":131340,"راÙģ":131341,"ì²ĺ리":131342,"×ĵ×¢×ķת":131343,"ì¹ľ":131344,"ĠТо":131345,"ĠThế":131346,"ì¶©":131347,"Ġ׳׼×ķף":131348,"عÙĬØ´":131349,"низ":131350,"ĠجاÙĨب":131351,"×ŀקצ×ķ×¢":131352,"à¹Ĥà¸ĭ":131353,"ÑģÑĥÑĤ":131354,"ìĸ´ìļĶ":131355,"ãĤĴè¦ĭãģ¦":131356,"ارد":131357,"Ġaçıl":131358,"ĠاÙĦØŃÙĬاة":131359,"à¸ģà¹ĩà¹Ħà¸Ķà¹ī":131360,"ãģĿãĤĮãĤĴ":131361,"عضÙĪ":131362,"ĠгÑĢаж":131363,"ĠгÑĢаждан":131364,"à¸Īะà¸ķà¹īà¸Ńà¸ĩ":131365,"ĠìĿ´ë٬":131366,"ĠìĿ´ë٬íķľ":131367,"Ġtrách":131368,"ÙĨÙİ":131369,"Ġkısa":131370,"ÃĶ":131371,"ÑĪка":131372,"ãģ®äºº":131373,"ĠÐŁÐ¾Ñģ":131374,"ĠÐŁÐ¾Ñģле":131375,"ÑĥлÑĮ":131376,"ÙĪØ§Ø¬Ùĩ":131377,"ÙĤرب":131378,"à¸Ľà¸ıิà¸ļัà¸ķิ":131379,"ê°Ļ":131380,"Ġ×ŀ׳":131381,"ĠÑģвои":131382,"براÙħج":131383,"ĠرÙĪ":131384,"пÑĢод":131385,"пÑĢодаж":131386,"ĠbyÅĤy":131387,"วัย":131388,"Ġgörün":131389,"ĠÃĪ":131390,"ÑİÑīим":131391,"ĠÑĤакой":131392,"ÙģÙĪØ±":131393,"ĠÙ쨹ÙĦ":131394,"Ġбел":131395,"ëIJł":131396,"erÃŃa":131397,"ĠÑģвоÑİ":131398,"Ġlã":131399,"Ġlãnh":131400,"à¹Ģà¸ŀืà¹Īà¸Ńà¹ĥหà¹ī":131401,"ÙĤÙĨ":131402,"تطÙĪÙĬر":131403,"Ġsayı":131404,"ĠÑģейÑĩаÑģ":131405,"Ġ×IJ×Ĺרת":131406,"×§×ķפ×Ķ":131407,"×§×ķרס":131408,"ĠسÙħ":131409,"Ġ×ĺ×Ļפ×ķ׾":131410,"ìĿ´ëĿ¼ëĬĶ":131411,"دراسة":131412,"èµ·ãģĵ":131413,"×Ĺ×Ļ׳":131414,"×Ĺ×Ļ׳×ķ×ļ":131415,"×ĵ×§":131416,"Ġë§ŀ":131417,"Ġкоманд":131418,"ĠÐijо":131419,"ĠигÑĢÑĭ":131420,"à¸ļี":131421,"ĠØ£Ùİ":131422,"вен":131423,"ĠاÙĦجدÙĬد":131424,"ĠÙĦØ¥":131425,"Ġ×ķ×IJ׳×Ļ":131426,"Ġ×Ķס×Ļ":131427,"иÑĩеÑģкого":131428,"رÙĪØŃ":131429,"à¸ģารศึà¸ģษา":131430,"ĠTrưá»Ŀng":131431,"игÑĢа":131432,"ılması":131433,"ĠмаÑģÑģ":131434,"ãģ¨ãģįãģ«":131435,"à¸Ĺีà¹Īà¸ľà¹Īาà¸Ļ":131436,"à¸Ĺีà¹Īà¸ľà¹Īาà¸Ļมา":131437,"ĠاÙĦسابÙĤ":131438,"Ġ×ŀ×¢×ĺ":131439,"ваÑĤÑĮ":131440,"mÃ¼ÅŁ":131441,"Ġ׾׼×ļ":131442,"Ġtá»ĭch":131443,"ÙģÙĩÙħ":131444,"تدرÙĬب":131445,"Ø´Ùĥ":131446,"Ġ×ij×ŀ×Ļ":131447,"Ġ×ij×ŀ×Ļ×ķ×Ĺ×ĵ":131448,"ÙĤطاع":131449,"ãģªãģĹ":131450,"×ķצ×Ļ×IJ":131451,"ĠÙĪØ³ÙĬ":131452,"зÑĥ":131453,"Ġyat":131454,"Ġyatırım":131455,"ë§İ":131456,"Ġthắng":131457,"ãģĬ客":131458,"ãģĬ客æ§ĺ":131459,"ĠThiên":131460,"ãģ«å¯¾ãģĹãģ¦":131461,"ÑĢиÑģ":131462,"ÙĨتائ":131463,"ÙĨتائج":131464,"Ġ×ŀשר":131465,"Ġ×ŀשר×ĵ":131466,"ĠتعاÙĦ":131467,"ĠتعاÙĦÙī":131468,"ש׳×Ļ":131469,"ÙĩاÙħ":131470,"×IJ׳ש×Ļ×Ŀ":131471,"Ġżycia":131472,"ĠÑĢÑĥблей":131473,"ÙĬض":131474,"Ġkatıl":131475,"ĠÙħÙĪØ¶ÙĪØ¹":131476,"Ġvardır":131477,"ĠÙħÙĨØ·ÙĤØ©":131478,"ĠTrần":131479,"ĠвеÑģ":131480,"üp":131481,"ÙħÙĪÙĨ":131482,"ÑĪли":131483,"Ġnóng":131484,"Ø®ÙĦÙģ":131485,"ĠСÑĤа":131486,"ĠдоÑĢ":131487,"ĠдоÑĢог":131488,"ĠwÅĤaÅĽnie":131489,"eÄŁin":131490,"Ġhiá»ĥm":131491,"ĠСам":131492,"ê»ĺìĦľ":131493,"ĠÑĦа":131494,"ãģ»ãģĨ":131495,"ãģ»ãģĨãģĮ":131496,"×ķפ×Ļ×¢":131497,"ê°Ī":131498,"دÙĪÙĦ":131499,"Ġthuê":131500,"Ġchá»Ĺ":131501,"Ġëĭ¹ìĭł":131502,"ãģijãĤĮ":131503,"ãģijãĤĮãģ©":131504,"ë³´íĺ¸":131505,"ãģķãĤĮãģ¦ãģĦãģ¾ãģĻ":131506,"Ġнадо":131507,"ĠìĤ¬ëŀĮëĵ¤":131508,"à¹Ģà¸Ĥà¸ķ":131509,"สมัย":131510,"zÅĤ":131511,"تÙĪØ±":131512,"Ġשת×Ļ":131513,"vê":131514,"Ġ×ijת×ķ×ļ":131515,"à¸Ĭัย":131516,"ãģĦãģ£ãģŁ":131517,"ìĿij":131518,"Ġtầ":131519,"Ġtầng":131520,"ש׼ר":131521,"Ġê¸Ģ":131522,"Ġ×Ķש׳×Ķ":131523,"ĠاÙĨÙĩ":131524,"ç«ĭãģ¡":131525,"rés":131526,"führen":131527,"رØŃÙħ":131528,"ê·¹":131529,"ĠâĢ«":131530,"Ġsuất":131531,"à¸Łà¸´":131532,"ÙĬÙĩا":131533,"ĠاÙĦاتØŃاد":131534,"Ġtuyá»ĥn":131535,"ãģ¾ãĤĭ":131536,"Ġmại":131537,"Ġngân":131538,"ãĤ°ãĥ©":131539,"欲ãģĹãģĦ":131540,"سار":131541,"ãĤĤãģ®ãģ§ãģĻ":131542,"кие":131543,"Ġseçim":131544,"åħ¥ãĤĬ":131545,"ãģªãģ©ãĤĴ":131546,"ÑĤÑĢи":131547,"ĠÑģпеÑĨ":131548,"Ġأد":131549,"Ġодно":131550,"ÑĪел":131551,"ãĥĩãĥ¼ãĤ¿":131552,"ãĤ·ãĤ¹ãĥĨ":131553,"ãĤ·ãĤ¹ãĥĨãĥł":131554,"è¡Įãģį":131555,"ã썿ĢĿãģ£ãģŁ":131556,"à¹Ģà¸ģิà¸Ķà¸Ĥึà¹īà¸Ļ":131557,"ĠÑĤож":131558,"ĠÑĤоже":131559,"Ġsạch":131560,"ĠÑģÑĢок":131561,"ĠклиенÑĤ":131562,"ĠÙħشرÙĪØ¹":131563,"Ġaltında":131564,"Ġì·¨":131565,"ä¸Ńãģ®":131566,"ãģķãģĽãĤĭ":131567,"ãģĻãģ¹":131568,"ãģĻãģ¹ãģ¦":131569,"ê°ľë°ľ":131570,"ĠÄijêm":131571,"ãģªãģĦãģ®ãģ§":131572,"ì²ł":131573,"×¢×ij×ĵ":131574,"Ġdấu":131575,"à¸Ħà¸Ļà¸Ĺีà¹Ī":131576,"ĠCách":131577,"تعÙĦÙĬÙħ":131578,"Ġhại":131579,"ãĤ»ãĥķãĥ¬":131580,"ĠÙĨÙ쨳Ùĩ":131581,"ĠíĨµíķ´":131582,"ÑĪло":131583,"ĠнапÑĢав":131584,"ĠнапÑĢавлен":131585,"ÑĢÑĥÑĩ":131586,"íĶĮ":131587,"Ġ×ijר×Ļ×IJ":131588,"ãģ®ãģ¿":131589,"ãģ«ãģĬãģĦãģ¦":131590,"×ij׳ק":131591,"ãĤ¨ãĥ³":131592,"Ø«ÙĦاث":131593,"Ġmỹ":131594,"ĠÑģайÑĤе":131595,"ĠемÑĥ":131596,"تغÙĬ":131597,"تغÙĬÙĬر":131598,"خصÙĪØµ":131599,"ÑĤели":131600,"Ġ×ķ׾׼ף":131601,"פע×Ŀ":131602,"ĠпоÑįÑĤомÑĥ":131603,"راÙĨ":131604,"иÑĤелей":131605,"пиÑģан":131606,"×¢×¥":131607,"ĠìĤ¬ìĹħ":131608,"Ùħز":131609,"جÙħÙĬع":131610,"ë©´ìĦľ":131611,"à¸ľà¸¥à¸´à¸ķà¸łà¸±":131612,"à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵ":131613,"à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵà¸ij":131614,"à¸ľà¸¥à¸´à¸ķà¸łà¸±à¸ĵà¸ijà¹Į":131615,"ĠпÑĢимеÑĢ":131616,"ãĤŃãĥ¼":131617,"lâ":131618,"ĠchÄĥm":131619,"缮ãģ®":131620,"ãģĦãģĭ":131621,"ãģ¨è¨ĢãģĨ":131622,"×ĸ×ķ×Ĵ":131623,"Ġ×ij×ĵ×Ļ":131624,"Ġ×ij×ĵ×Ļ×ķ×§":131625,"ãģĬåºĹ":131626,"à¸ķà¸Ńà¸Ļà¸Ļีà¹ī":131627,"Ġphá»iji":131628,"пÑĤ":131629,"สà¸Ļาม":131630,"Ø·ÙĪ":131631,"صاØŃ":131632,"صاØŃب":131633,"ĠDü":131634,"ĠDünya":131635,"Ġпока":131636,"пал":131637,"ĠÄijảo":131638,"ĠاÙĦÙģÙĪØ±":131639,"ĠاÙĦÙģÙĪØ±Ùĥس":131640,"Ġmáu":131641,"кÑĢеп":131642,"ĠاÙĦساعة":131643,"ĠгоÑĢода":131644,"Ù쨵ÙĦ":131645,"айÑĤе":131646,"Ġдог":131647,"ĠдоговоÑĢ":131648,"Ġإذ":131649,"Ġ×ij׼׾׾":131650,"ÙĬتÙĩ":131651,"×Ĵ×ijר":131652,"Ġbirç":131653,"Ġbirçok":131654,"문íĻĶ":131655,"ãģĿãģĨãģª":131656,"راØŃ":131657,"ĠÙħرة":131658,"ĠденÑĮги":131659,"fä":131660,"à¸Ĥà¹īาว":131661,"ĠÑģовÑĢем":131662,"ĠÑģовÑĢеменн":131663,"׾×Ĺ×¥":131664,"èī¯ãģı":131665,"ĠÙ쨣":131666,"Ġ×ķ×ĸ×Ķ":131667,"Ġзани":131668,"Ġзанима":131669,"Ġê°Ģì§Ģê³ł":131670,"ĠhÆ¡i":131671,"ãģªãģ®ãģĭ":131672,"ãĥĨãĥ¬ãĥĵ":131673,"Ġר×ij×ķת":131674,"à¸ķี":131675,"Ġ×ij×©×ł×ª":131676,"ĠTại":131677,"ĠthuáºŃn":131678,"Ñģел":131679,"Ñijм":131680,"dziÄĩ":131681,"ĠÑģка":131682,"ĠÑģкаÑĩ":131683,"ĠÑģкаÑĩаÑĤÑĮ":131684,"×ķ×ŀ×ķ":131685,"гла":131686,"ĠминÑĥÑĤ":131687,"åĩºãģĻ":131688,"Ġ×Ĺ×Ļ×Ļ×ij":131689,"Ġת×Ĵ×ķ×ij×Ķ":131690,"à¸£à¸¹à¸Ľà¹ģà¸ļà¸ļ":131691,"ниÑĨа":131692,"Ġİn":131693,"Ġأع":131694,"ĠضÙħÙĨ":131695,"ÙħثاÙĦ":131696,"ĠyaÅŁan":131697,"ĠìĹ°êµ¬":131698,"ĠLê":131699,"ש׾×Ĺ":131700,"ãģıãģªãĤĭ":131701,"ìĹĨìĿ´":131702,"ĠÑĤÑĢи":131703,"ĠÑĩаÑģÑĤо":131704,"ĠобÑĢаÑĤ":131705,"пло":131706,"دخ":131707,"دخÙĪÙĦ":131708,"سÙĩ":131709,"à¸Ńาà¸ģ":131710,"à¸Ńาà¸ģาศ":131711,"Ġ׼×ĸ×Ķ":131712,"Ġ×Ķעסק":131713,"ĠاÙĦØ£ÙĨ":131714,"å¹´ãģ«":131715,"עש×ķ":131716,"Ġשע×ķת":131717,"ĠmÃłn":131718,"×IJר×Ļ":131719,"sıyla":131720,"Ù쨱ÙĤ":131721,"ниÑħ":131722,"Ġتست":131723,"è¦ĭãģ¦":131724,"ØŃاÙĪÙĦ":131725,"×IJ×Ļ׼×ķת":131726,"ĠbaÅŁladı":131727,"stÄħ":131728,"stÄħpi":131729,"à¸Ĺีà¹Īà¹Ģรา":131730,"ÙĤرر":131731,"جاب":131732,"Ġ×ijר×ķר":131733,"à¹Ģà¸Ĥà¹īาà¹ĥà¸Ī":131734,"×ŀ×Ĺקר":131735,"alım":131736,"Ġס×Ļפ×ķר":131737,"ãģ§ãģĤãĤĮãģ°":131738,"Ġש×ŀ×ķר×ķת":131739,"Ġ×ķ×ŀ×Ķ":131740,"ãģĵãģĿ":131741,"idée":131742,"ä¸ĭãģķãģĦ":131743,"تÙĨاÙĪÙĦ":131744,"Ġลà¹īาà¸Ļ":131745,"Ġìļ°ë¦¬ëĬĶ":131746,"اÙĨا":131747,"ÑģÑĤой":131748,"боÑĤ":131749,"ĠyaÅŁam":131750,"köy":131751,"Ø¥ÙĦ":131752,"ÑĢÑĭв":131753,"기ìĹħ":131754,"Ġ×Ķ×ŀ×ĵ":131755,"Ġ×Ķ×ŀ×ĵ×Ļ׳×Ķ":131756,"دب":131757,"×¢×Ļ׳×Ļ":131758,"×ŀת×Ĺ":131759,"Ġפר×Ļ":131760,"ãĥĭãĥ¼":131761,"اÙħÙĬ":131762,"Ġnhằm":131763,"ãĤĮãģªãģĦ":131764,"تعرÙģ":131765,"Ġë§ĪìĿĮ":131766,"ìĵ°":131767,"Ġhấp":131768,"ר×Ĵ×Ļ׾":131769,"بÙİ":131770,"ĠrÄĥng":131771,"glÄħd":131772,"ĠÑģиÑģÑĤемÑĭ":131773,"Ġkhóa":131774,"ãģ§ãģĻãĤĪãģŃ":131775,"大ãģįãģı":131776,"기를":131777,"Ġkéo":131778,"ÙĪØ¡":131779,"جاÙħ":131780,"جاÙħع":131781,"Ġ×¢×Ļצ×ķ×ij":131782,"téri":131783,"Ġתש":131784,"Ġ×IJ×ij×Ļ":131785,"ĠChương":131786,"à¸ļริà¹Ģว":131787,"à¸ļริà¹Ģวà¸ĵ":131788,"ãģ¤ãģı":131789,"Ġ×Ĺ×ķ׾":131790,"עת×Ļ×ĵ":131791,"ש×Ļ×ŀ×Ķ":131792,"ëĤ¨":131793,"Ġש×IJ×Ļף":131794,"ĠÙĪØ§ÙĦØ¥":131795,"ÑĦа":131796,"Ġkhám":131797,"Ġ×ĺ×ķ×ij×Ķ":131798,"ĠвÑĭÑģ":131799,"ĠвÑĭÑģоко":131800,"ĠاÙĦØŃدÙĬØ«":131801,"人ãĤĤ":131802,"dÃ¼ÄŁÃ¼":131803,"×Ļ×Ĺ×ķ×ĵ":131804,"تعÙĦÙĬ":131805,"تعÙĦÙĬÙĤ":131806,"lö":131807,"تØŃدÙĬد":131808,"него":131809,"ĠÑĥдоб":131810,"Ġ׾×ŀ×Ļ":131811,"Ġר×ķצ×Ļ×Ŀ":131812,"Ġجاء":131813,"Ġ×ij×ĸ×ŀף":131814,"à¸Ľà¸ģà¸ķิ":131815,"é«ĺãģı":131816,"à¸Ľà¸¥à¸²":131817,"Ġartık":131818,"Ġbugün":131819,"ק׳×Ļ":131820,"Ġkhoá":131821,"ĠÙħرÙĥز":131822,"ĠìŀIJ기":131823,"درجة":131824,"×ŀשר×ĵ":131825,"Ġgiấy":131826,"Ġchóng":131827,"קפ":131828,"ÙĬبة":131829,"ĠczÄĻsto":131830,"вали":131831,"Ùĥب":131832,"ìŁģ":131833,"สà¸ļาย":131834,"à¸Ľà¸£à¸°à¸Ĭาà¸Ĭà¸Ļ":131835,"×Ĵ×ķ×£":131836,"ëŁī":131837,"ãģ®ãģĵãģ¨":131838,"ลà¸Ń":131839,"Ġnghá»ī":131840,"åŃIJãģ©":131841,"åŃIJãģ©ãĤĤ":131842,"à¹Ħà¸Ķà¹īà¸Ńย":131843,"à¹Ħà¸Ķà¹īà¸Ńยà¹Īาà¸ĩ":131844,"×ĵ×¢":131845,"ĠاÙĦتÙī":131846,"ĠÑģовеÑĤ":131847,"ĠqualitÃł":131848,"åĩºãģĹ":131849,"ĠÑĢÑĥков":131850,"ĠÑĢÑĥковод":131851,"รายละà¹Ģà¸Ńียà¸Ķ":131852,"ãģªãģĭãģªãģĭ":131853,"기ê´Ģ":131854,"Ġ×Ĺ×ķש":131855,"Ġ×Ĺ×ķש×ij":131856,"лоÑĤ":131857,"à¸Ļะà¸Ħรัà¸ļ":131858,"×§×ij×ķצ×Ķ":131859,"Ġthái":131860,"Ġש×ij×Ķ":131861,"ĠÑĪкол":131862,"ĠÙĦÙĥÙĦ":131863,"à¹ĥà¸Ļà¸Ĭà¹Īวà¸ĩ":131864,"ĠÙħÙĥاÙĨ":131865,"ëķĮ":131866,"Ġcải":131867,"ĠChÃŃ":131868,"ÑĥÑĩа":131869,"ìĿµ":131870,"Ġxảy":131871,"à¸Ĭà¸Ļิà¸Ķ":131872,"ĠcáºŃu":131873,"кÑĢов":131874,"ssé":131875,"ĠÙĨÙĪØ¹":131876,"ĠТа":131877,"Ø®Ùħس":131878,"פ×ķס×ĺ":131879,"Ġmắc":131880,"ĠÄijem":131881,"à¸ģารà¹ĥà¸Ĭà¹ī":131882,"ר×ķס":131883,"ĠÐĽÐµ":131884,"Ġthá»Ń":131885,"รà¹Īาà¸ĩà¸ģาย":131886,"üzü":131887,"æĹ¥æľ¬ãģ®":131888,"ê³¼ìłķ":131889,"ש×Ļ×IJ":131890,"ĠìŀĪê³ł":131891,"×ij×ķ׾":131892,"ìķħ":131893,"ĠÙĪØ§ÙĦا":131894,"ĠÐĽÐ¸":131895,"ĠвÑģÑij":131896,"Ġużytkow":131897,"×Ĺ×ķ׾":131898,"رÙ쨶":131899,"Ġsonuç":131900,"ãģĦãģ¾ãģĽãĤĵ":131901,"ìĤ¬ìĹħ":131902,"ëĪĦ":131903,"ÑĤек":131904,"ĠudziaÅĤ":131905,"лез":131906,"Ġ×Ķ×Ļ×Ļת×Ļ":131907,"ãĤīãĤĮãģ¦":131908,"ÙħسؤÙĪÙĦ":131909,"رار":131910,"ÑĤан":131911,"ĠÄijÃło":131912,"Ġר×ķ×ij":131913,"Ġ×ijש×ij×Ļ׾":131914,"ä»ĬåĽŀãģ¯":131915,"ãĤ¸ãĥ¥":131916,"Ġ×¢×ijר":131917,"ãģĽãģ¦":131918,"полÑĮ":131919,"aklı":131920,"ĠkÃŃnh":131921,"دت":131922,"ложение":131923,"ĠاÙĦÙħص":131924,"ĠاÙĦÙħصرÙĬ":131925,"à¸Īริà¸ĩà¹Ĩ":131926,"ĠاÙĦشرÙĥØ©":131927,"ĠÄijá»ı":131928,"ãĥĽãĥĨ":131929,"ãĥĽãĥĨãĥ«":131930,"Ñįкон":131931,"Ñįконом":131932,"ĠÙĪØ¹ÙĨ":131933,"Ġ×ª×ł":131934,"Ġ×ª×ł×IJ×Ļ":131935,"ĠاÙĦدÙĪÙĦÙĬØ©":131936,"Ġì§ĢìĹŃ":131937,"ãģ§ãģĻãģĭ":131938,"ĠваÑĢи":131939,"ĠваÑĢианÑĤ":131940,"ĠاÙĦعرب":131941,"ела":131942,"ĠtÆ°á»Ľng":131943,"skÄħ":131944,"Ġmặc":131945,"สัà¸ģ":131946,"ãĥĵãĥ¼":131947,"Ġ×ij×Ĵ׾":131948,"Ġ×ij×Ĵ׾׾":131949,"ãĥķãĤ¡ãĥ³":131950,"×ij×Ļצ":131951,"×ij×Ļצ×ķ×¢":131952,"лиÑģÑĤ":131953,"à¸Łà¸¸":131954,"à¸Łà¸¸à¸ķ":131955,"à¸Łà¸¸à¸ķà¸ļà¸Ńล":131956,"à¸Ŀà¹Īาย":131957,"ìŀIJìĿĺ":131958,"ĠسÙĪÙģ":131959,"Ġש×Ķת":131960,"Ġ걸":131961,"×¢×ij×ķ×ĵ":131962,"ãģĻãĤĭãģĵãģ¨ãģĮ":131963,"ĠÑĩаÑģÑĤÑĮ":131964,"ãĤ¢ãĥ¡ãĥª":131965,"ãĤ¢ãĥ¡ãĥªãĤ«":131966,"Ġtakım":131967,"ĠsỼ":131968,"ĠsỼm":131969,"שר×Ķ":131970,"è¨ĢãģĨ":131971,"лан":131972,"커":131973,"׼׳×Ķ":131974,"ÙĪÙģÙĬ":131975,"íĹĪ":131976,"luÄŁu":131977,"ĠëĮĢíķ´":131978,"Ġ׾×ij×Ļת":131979,"Ġ×Ķר×IJש×ķ׳×Ķ":131980,"صÙħ":131981,"Ġsöyled":131982,"Ġsöyledi":131983,"à¸Ľà¸²à¸ģ":131984,"Ġardından":131985,"ãģĪãģŁ":131986,"à¸Ĺัà¹Īวà¹Ħà¸Ľ":131987,"Ġ׳×ķסף":131988,"болÑĮ":131989,"ãĤĵãģ§ãģĻãģijãģ©":131990,"ĠлиÑĪÑĮ":131991,"Ġ×ij×IJ×Ļ":131992,"ĠбÑĭÑģÑĤÑĢо":131993,"สัà¸Ļ":131994,"Ġ×ijפ׳×Ļ":131995,"леÑĩ":131996,"ĠاÙĦخبر":131997,"Ġsóc":131998,"Ġthú":131999,"ĠпÑıÑĤ":132000,"ãģĬé¡ĺ":132001,"ãģĬé¡ĺãģĦ":132002,"ÑĤин":132003,"ãģ«ãģ¤ãģĦãģ¦ãģ¯":132004,"פף":132005,"ĠдвÑĥÑħ":132006,"à¸įีà¹Ī":132007,"à¸įีà¹Īà¸Ľ":132008,"à¸įีà¹Īà¸Ľà¸¸":132009,"à¸įีà¹Īà¸Ľà¸¸à¹Īà¸Ļ":132010,"опеÑĢ":132011,"ĠاÙĦبشر":132012,"ĠاÙĦÙħاÙĦ":132013,"ıyoruz":132014,"تØŃÙħÙĬÙĦ":132015,"à¸ģะ":132016,"éĸĵãģ«":132017,"×Ĺ×ķש":132018,"ĠNguyên":132019,"ãģĦãģ¦ãģĦãĤĭ":132020,"дÑĥÑĪ":132021,"שפע":132022,"ÑĪÑĥ":132023,"å®ŁéļĽãģ«":132024,"ĠÑĢайон":132025,"ĠChá»ī":132026,"ÙĨصر":132027,"Ġìļ´":132028,"Ġìļ´ìĺģ":132029,"Ġ×Ķ×ĵ×Ļף":132030,"ØŃدد":132031,"رز":132032,"ĠاÙĦدÙħ":132033,"ĠPháp":132034,"ÑĤÑģÑı":132035,"è¦ĭãģĪ":132036,"Ġtiá»ĥu":132037,"Ġsá»Ńa":132038,"аÑİÑĤÑģÑı":132039,"ĠBá":132040,"Ġ×ķ׼׾":132041,"Ðĸ":132042,"ÑĪим":132043,"ìĿ´ëĬĶ":132044,"лев":132045,"dık":132046,"Ġprésente":132047,"Ġaraç":132048,"صدÙĤ":132049,"Ġпомог":132050,"ĠاÙĦشرÙĤ":132051,"ĠÙĪØ§ÙĦذÙĬ":132052,"رÙĬا":132053,"×ij׳×ķת":132054,"Ġngá»ĵi":132055,"ר×ķפ":132056,"ר×ķפ×IJ":132057,"Ġthấp":132058,"ãĤĦãģ¯":132059,"ãĤĦãģ¯ãĤĬ":132060,"ĠاÙĦجدÙĬدة":132061,"éĿŀ常ãģ«":132062,"ÙĬÙĦÙĬ":132063,"쪽":132064,"تعاÙħÙĦ":132065,"ãģłã썿ĢĿãģĦãģ¾ãģĻ":132066,"ÙħÙħ":132067,"иÑĤели":132068,"ãĤµãĤ¤ãĤº":132069,"ادات":132070,"ĠاÙĦÙħاÙĦÙĬØ©":132071,"Ùĥاتب":132072,"кли":132073,"веÑĢÑħ":132074,"ниÑĩ":132075,"Ġ×ľ×¢×ij×ķ×ĵ":132076,"׾×Ļ×Ķ":132077,"ØŃÙİ":132078,"ãĤ¤ãĥĻ":132079,"ãĤ¤ãĥĻãĥ³ãĥĪ":132080,"Ġת×Ĵ×ķ×ij×ķת":132081,"ÑĦон":132082,"ĠдÑĢÑĥгие":132083,"×IJ×ĸ×ķר":132084,"Ġperò":132085,"ìķŀ":132086,"åĢŁãĤĬ":132087,"רצ×Ļ":132088,"×IJ×ĸ":132089,"алÑĮнÑĭÑħ":132090,"Ġê²ĥìľ¼ë¡ľ":132091,"ĠпÑĢаво":132092,"ĠاÙĦأرض":132093,"à¹Ģà¸Ĺà¸Ħ":132094,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļ":132095,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥล":132096,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥลย":132097,"à¹Ģà¸Ĺà¸Ħà¹Ĥà¸Ļà¹Ĥลยี":132098,"צר×Ļ":132099,"ĠÐļÑĥ":132100,"ılma":132101,"決ãĤģ":132102,"اÙĪ":132103,"Ġ×ĵ×§×ķת":132104,"à¸Ħรู":132105,"ĠÙħستÙĪÙī":132106,"à¸Ľà¹īà¸Ńà¸ĩ":132107,"à¸Ľà¹īà¸Ńà¸ĩà¸ģัà¸Ļ":132108,"×ĵ×ķ×ŀ×Ķ":132109,"ĠÑģегоднÑı":132110,"سÙĪÙĤ":132111,"ר×Ĺ×ķ×ij":132112,"Ġإدارة":132113,"Ñħож":132114,"éģİãģİ":132115,"à¸Ħà¸Ń":132116,"нÑĥл":132117,"×ķ׼×Ķ":132118,"ÙĪØ§ÙģÙĤ":132119,"׼׾׾":132120,"Ġ×Ķ×ĵ×ķ":132121,"ĠlÄ©nh":132122,"Ġkhảo":132123,"×IJ×ŀצע":132124,"머":132125,"Ġ׼×Ļצ":132126,"Ġ׼×Ļצ×ĵ":132127,"ĠдолжнÑĭ":132128,"หวัà¸ĩ":132129,"ãĥĩãĤ¶":132130,"ãĥĩãĤ¶ãĤ¤ãĥ³":132131,"Ġngá»Ŀ":132132,"ä¸Ńãģ«":132133,"à¸ģลัà¸ļมา":132134,"جÙħاÙĦ":132135,"à¸Ķัà¸ĩà¸ģลà¹Īาว":132136,"سÙĥÙĨ":132137,"سÙĨ":132138,"Ġözellikle":132139,"зеÑĢ":132140,"rzÄĻ":132141,"×ŀ×ķר×Ķ":132142,"Ġlạ":132143,"×ŀ×Ļ׳×Ļ":132144,"ר×Ļת":132145,"ãģĿãĤĮãģĮ":132146,"ãģĭãĤĮ":132147,"ĠÙĬÙħÙĥÙĨÙĥ":132148,"öffentlich":132149,"ган":132150,"ĠاÙĦØŃÙĦ":132151,"ĠmiÄĻdzy":132152,"ĠÑĩаÑģÑĤи":132153,"ujÄħcy":132154,"ĠbaÄŁlı":132155,"ĠiliÅŁki":132156,"ÙģØ§Ø¡":132157,"ãĥªãĥ³ãĤ°":132158,"Ġhãng":132159,"ĠконÑĤÑĢ":132160,"ĠконÑĤÑĢол":132161,"коп":132162,"ש×Ļ×¢":132163,"ש×Ļ×¢×ķר":132164,"ĠÐĴаÑĪ":132165,"Ġ×Ķתק":132166,"ÙħÙĨع":132167,"ĠpolÃŃtico":132168,"Ġголов":132169,"ĠØ¥ÙĬ":132170,"Ø¥ÙĨتاج":132171,"à¸ļิ":132172,"ĠговоÑĢ":132173,"ĠговоÑĢиÑĤ":132174,"Ġphá»ķ":132175,"ĠÑģемÑĮ":132176,"ãģ¯ãģĤãĤĬãģ¾ãģĽãĤĵ":132177,"ĠÙĪØ§Ø³Øª":132178,"×ŀשפ×ĺ":132179,"зем":132180,"×ŀ×ĵ×ijר":132181,"Ġíģ°":132182,"ĠìĿ´ë²Ī":132183,"ê°ĢëĬĶ":132184,"Ġì§ĢìĽIJ":132185,"ĠcaÅĤy":132186,"ĠgeliÅŁtir":132187,"Ñģкое":132188,"posé":132189,"Ġkhô":132190,"à¸ķิà¸Ķà¸ķาม":132191,"missão":132192,"Ġ׾×ŀר":132193,"Ġ׾×ŀר×ķת":132194,"Ġbó":132195,"à¸ķรวà¸Īสà¸Ńà¸ļ":132196,"Ġnghá»ģ":132197,"Ġбиз":132198,"ĠбизнеÑģ":132199,"ÑģÑĤеÑĢ":132200,"ÙĪÙİ":132201,"楽ãģĹãģ":132202,"楽ãģĹãģ¿":132203,"ãģĵãĤĮãģĭãĤī":132204,"wiÄħzan":132205,"สà¸Ńà¸Ļ":132206,"ÙħÙĪØ±":132207,"׳×ĵ׾":132208,"Ġ×Ķ×IJ×ĵ×Ŀ":132209,"Ġмолод":132210,"ØŃÙħا":132211,"ØŃÙħاÙĬØ©":132212,"ÑģÑĤÑĢан":132213,"Ġbuá»ķi":132214,"ת×Ļ×Ļ×Ŀ":132215,"abileceÄŁi":132216,"Lİ":132217,"à¹Ģยà¸Ńะ":132218,"à¸Īร":132219,"سÙĥاÙĨ":132220,"à¸Ļัà¸Ķ":132221,"Ġmấy":132222,"ĠÐijа":132223,"sÅĤaw":132224,"ĠÙģÙĦا":132225,"ĠкоÑĤоÑĢой":132226,"ĠплоÑī":132227,"ĠплоÑīад":132228,"ãĤĤãģĤãĤĬ":132229,"szczÄĻ":132230,"×Ļפ×ķ":132231,"ש×ŀת":132232,"owaÅĤa":132233,"Ġnông":132234,"צ×ij×IJ":132235,"ĠìŀĪìĹĪ":132236,"ãģ¾ãģ¨":132237,"ãģ¾ãģ¨ãĤģ":132238,"ÙĤÙĪØ§Øª":132239,"ãģ¿ãĤĵãģª":132240,"Ġ׼×ŀ×¢×ĺ":132241,"Ġxúc":132242,"ï¼Ĩ":132243,"rÄĻ":132244,"rÄĻcz":132245,"×ĵ×ŀ×Ļ":132246,"ĠtáºŃn":132247,"à¸Ķวà¸ĩ":132248,"ê²½ìłľ":132249,"пÑĥÑĤ":132250,"أربع":132251,"Ġ×ŀשת×ŀש":132252,"ãĤ¿ãĤ¤ãĥĹ":132253,"Ġìłľê°Ģ":132254,"Ġ׾׼ף":132255,"ĠобÑĢазом":132256,"ÙĬÙĥا":132257,"wÅĤ":132258,"wÅĤasn":132259,"ĠاÙĦÙĪØ·ÙĨÙĬØ©":132260,"بÙĬب":132261,"×ŀ׾×Ļ":132262,"кÑĢаÑĤ":132263,"기ìĹIJ":132264,"ÙĤاد":132265,"ĠÙĦدÙī":132266,"à¸Ħวามรูà¹ī":132267,"×ŀ×ĵ×Ļ׳×Ļ×ķת":132268,"겨":132269,"ĠíĺĦìŀ¬":132270,"שת×Ļ":132271,"мол":132272,"Ġmái":132273,"à¸ŀิม":132274,"à¸ŀิมà¸ŀ":132275,"à¸ŀิมà¸ŀà¹Į":132276,"หลวà¸ĩ":132277,"Ġxuyên":132278,"×Ĺסר":132279,"رÙĪÙĨ":132280,"ãģĿãģĨãģĦãģĨ":132281,"ãģĿãĤĮãģŀ":132282,"ãģĿãĤĮãģŀãĤĮ":132283,"Ġ׼ש×Ķ":132284,"ÐŁÑĢав":132285,"×ŀ×ijצע":132286,"عرب":132287,"Ġbüyü":132288,"פ×Ļת×ķ×Ĺ":132289,"à¸Īà¸ļ":132290,"ĠØ£Ùĥبر":132291,"שרת":132292,"×ŀ׼ש×Ļר":132293,"ĠÙĪÙħع":132294,"ãģ®ãģŁãĤģãģ«":132295,"à¸Ļัà¸ļ":132296,"ì°°":132297,"ãĥªãĥķãĤ©":132298,"ãĥªãĥķãĤ©ãĥ¼ãĥł":132299,"Ġcưá»Ŀng":132300,"ĠìłĢíĿ¬":132301,"ÙħÙĨظÙħØ©":132302,"Ġhiçbir":132303,"ãģ§ãģ¯ãģĤãĤĬãģ¾ãģĽãĤĵ":132304,"รà¸Ńย":132305,"ëIJľëĭ¤":132306,"ãģĻãģIJãģ«":132307,"кла":132308,"Ġürünler":132309,"Ġkiá»ĥu":132310,"ĠëĤĺëĬĶ":132311,"ÑĤки":132312,"Ñģим":132313,"Ġchá»īnh":132314,"ãĤĤãģªãģĦ":132315,"ศรี":132316,"æĽ¿ãģĪ":132317,"taÅŁ":132318,"ĠبÙĥÙĦ":132319,"Ġ×ķ×Ļש":132320,"visão":132321,"ä¼Ŀ":132322,"ä¼ĿãģĪ":132323,"ÙĦد":132324,"׾×Ļ×ŀ":132325,"׾×Ļ×ŀ×ķ×ĵ":132326,"tória":132327,"دÙij":132328,"اÙħر":132329,"Ġê·¸ëłĩê²Į":132330,"ĠmateriaÅĤ":132331,"à¸Ĺรา":132332,"à¸Ĺราà¸ļ":132333,"ã쮿ĸ¹ãģĮ":132334,"ãģ¦ãģįãģŁ":132335,"ضغ":132336,"ضغط":132337,"ĠÙĬعÙĨÙĬ":132338,"ело":132339,"×IJ×Ķ×ij×Ķ":132340,"×¢×ŀ":132341,"ÅŁÄ±k":132342,"ìŀIJëĬĶ":132343,"ãĤ¿ãĥ³":132344,"ĠbáºŃt":132345,"×ŀשפ×Ĺ×Ķ":132346,"кÑĢи":132347,"бли":132348,"สัà¸ķ":132349,"สัà¸ķวà¹Į":132350,"ĠسÙĨÙĪØ§Øª":132351,"ĠPhương":132352,"ãģ¦ãģĹãģ¾ãģ£ãģŁ":132353,"ãģªãģľ":132354,"Ġ×ij×IJ×ķ":132355,"Ġcán":132356,"سجÙĦ":132357,"Ġlẽ":132358,"ãĤ±ãĥ¼ãĤ¹":132359,"Ġ×§×Ļ×ij׾":132360,"à¸ļà¸Ĺà¸Ħวาม":132361,"Ġ×ķ׼ף":132362,"ĠпÑĢедÑģÑĤавлен":132363,"Ġná»iji":132364,"Ġcomentário":132365,"ением":132366,"Ġtá»ı":132367,"lÃł":132368,"Ġש×Ķ×Ļ×Ķ":132369,"Ñģлав":132370,"ĠاÙĦÙĪÙĦا":132371,"ĠاÙĦÙĪÙĦاÙĬات":132372,"ÙĦجÙĨØ©":132373,"×§×ķר×IJ":132374,"бÑĭÑĤ":132375,"Ġì¦":132376,"Ġì¦ī":132377,"ãģ§ãģĻãģĹ":132378,"หรืà¸Ńà¹Ħมà¹Ī":132379,"заÑīиÑĤ":132380,"ÙģÙĦسطÙĬÙĨ":132381,"Ġmiá»ħn":132382,"à¹Ģยà¹ĩà¸Ļ":132383,"ĠçalÄ±ÅŁan":132384,"×Ļ×Ĵ×Ķ":132385,"ĠEÄŁ":132386,"ĠEÄŁitim":132387,"ãĥĥãĤ·ãĥ¥":132388,"ĠопÑĭ":132389,"ĠопÑĭÑĤ":132390,"رغ":132391,"رغب":132392,"ĠÑģвоиÑħ":132393,"à¸Ľà¸£à¸°à¸ķ":132394,"à¸Ľà¸£à¸°à¸ķู":132395,"Ġ×ŀ×IJ×ĵ":132396,"׼×ķ׳×Ļ×Ŀ":132397,"à¸Ļี":132398,"ĠвÑĭÑħод":132399,"ãģ®ä¸Ńãģ«":132400,"פ׾×IJ":132401,"ĠÙĪÙĦÙĬس":132402,"פ×ķרס":132403,"פ×ķרס×Ŀ":132404,"ÙħسÙĦÙħ":132405,"Ġngôi":132406,"×ĵ×ŀ×ķת":132407,"ãĤĴ使ãģ£ãģ¦":132408,"ĠпомоÑīÑĮÑİ":132409,"أسر":132410,"блок":132411,"ÙĤÙĩ":132412,"ãģĹãģ¾ãģĦ":132413,"ãģ¨ãģĹãģŁ":132414,"ĠпеÑģ":132415,"ãĥīãĥ«":132416,"×Ĺ×Ŀ":132417,"ãģĹãģªãģĮãĤī":132418,"ĠÐŁÑĢед":132419,"ãĥģãĤ§ãĥĥãĤ¯":132420,"å¼·ãģĦ":132421,"ש×Ļר×ķת":132422,"даеÑĤ":132423,"×Ļ×ij×ķ":132424,"Ġgenç":132425,"илаÑģ":132426,"илаÑģÑĮ":132427,"ĠبÙĦد":132428,"æĤª":132429,"æĤªãģĦ":132430,"Ġ×ŀשת":132431,"æ§ĺãĢħ":132432,"æ§ĺãĢħãģª":132433,"à¸ĺรรมà¸Ĭาà¸ķิ":132434,"ĠÙĥاÙħÙĦ":132435,"ĠاÙĦسÙħ":132436,"×ij×ĺ×Ļ×Ĺ":132437,"cá":132438,"gência":132439,"ãĤ¹ãĤ¿ãĥ¼":132440,"à¸Ĺำà¸ģาร":132441,"×Ļ×ľ×ª":132442,"Ġ×Ļ×ķצ×IJ":132443,"wój":132444,"à¸ļุà¸Ħ":132445,"à¸ļุà¸Ħà¸Ħล":132446,"عتÙħ":132447,"عتÙħد":132448,"ãģĿãĤĮãģ«":132449,"ĠاÙĦتارÙĬØ®":132450,"ÙĤراء":132451,"Ġyönetim":132452,"קשר":132453,"ĠÑģпоÑĢÑĤ":132454,"Ġר×IJש×ķף":132455,"Ġseñal":132456,"Ġchắn":132457,"çĦ¡ãģĦ":132458,"ĠдоÑģÑĤаÑĤ":132459,"ĠдоÑģÑĤаÑĤоÑĩно":132460,"Ġágua":132461,"à¸ģรà¸ĵ":132462,"à¸ģรà¸ĵี":132463,"Ġ×ŀש×ķ":132464,"Ġtrải":132465,"ë²Į":132466,"ujÄħcych":132467,"ÙģØ±Ø¯":132468,"à¹ĥà¸ģล":132469,"à¹ĥà¸ģลà¹ī":132470,"ãĤĭãģ®ãģ¯":132471,"ר×ķ×ķ×Ĺ":132472,"ÙĨÙĥ":132473,"ĠاÙĦÙĨÙĤ":132474,"ãģ®ãģ§ãģĹãĤĩãģĨ":132475,"ãģ®ãģ§ãģĹãĤĩãģĨãģĭ":132476,"ÙħعرÙģ":132477,"ÙħعرÙ쨩":132478,"ÑĥÑīе":132479,"Ġ×ij×¢×Ļקר":132480,"تصÙĦ":132481,"Ġ×Ķ×IJר":132482,"Ġ×Ķ×IJרץ":132483,"ĠÅŀi":132484,"à¸Ĥาà¸Ķ":132485,"íŀĺ":132486,"ãģªãĤĵãģ¨":132487,"ĠìĤ¬ëŀij":132488,"lÃ¼ÄŁÃ¼":132489,"باء":132490,"ĠاÙĦآخر":132491,"ĠfamÃŃlia":132492,"ĠTháng":132493,"ÑīениÑı":132494,"ãĤ¯ãĥŃ":132495,"ĠThứ":132496,"æĽ¸ãģį":132497,"енной":132498,"ìŀ¡":132499,"благ":132500,"благо":132501,"пов":132502,"à¹ģว":132503,"à¸ĩà¸Ħà¹Į":132504,"à¸Ńัà¸Ļà¸Ķัà¸ļ":132505,"ãģĤãģĴ":132506,"รà¹īาย":132507,"ünün":132508,"Ġ×Ļ׼×ķ׾×Ķ":132509,"зон":132510,"ĠÐľÐ¸":132511,"маÑĤеÑĢиал":132512,"Ġë³´ë©´":132513,"ØŃÙ쨏":132514,"êÌģ":132515,"ãģ«ãģĻãĤĭ":132516,"Ġת×IJ":132517,"Ġ×Ķס×ķ":132518,"ĠÑģÑĤоÑĢ":132519,"ĠÑģÑĤоÑĢон":132520,"ãĥĪãĥĥãĥĹ":132521,"ÅĤoÅĽÄĩ":132522,"ëħ¼":132523,"ëĵĿ":132524,"ĠÙĪØ§ÙĦع":132525,"ì¶Ķ":132526,"Ġ×Ļצ×IJ":132527,"ĠÑĢаздел":132528,"алÑĮнаÑı":132529,"×IJ׳ש×Ļ":132530,"spoÅĤ":132531,"spoÅĤec":132532,"spoÅĤeczn":132533,"إعÙĦ":132534,"إعÙĦاÙĨ":132535,"ÙĤÙĪÙī":132536,"íķĺë©´ìĦľ":132537,"تطÙĪØ±":132538,"Ġsiêu":132539,"Ỽt":132540,"дви":132541,"движ":132542,"Ġquần":132543,"kıl":132544,"ĠпÑĢизна":132545,"ĠHã":132546,"ĠHãy":132547,"ĠباÙĦت":132548,"manın":132549,"ãĤ«ãĥ«":132550,"Ġká»·":132551,"ק׾×Ļ":132552,"ëIJĺì§Ģ":132553,"تعÙĦÙħ":132554,"ìĭľìĦ¤":132555,"ìĭ¶":132556,"íĺ¼":132557,"ÙĥÙĬÙģ":132558,"売ãĤĬ":132559,"วิà¸Ĭา":132560,"бал":132561,"ĠØ£ØŃ":132562,"Ġдолжен":132563,"ราà¸ĩ":132564,"ราà¸ĩวั":132565,"ราà¸ĩวัล":132566,"Ùħاء":132567,"جار":132568,"Åļ":132569,"Ġ×ŀ×IJ×ĸ":132570,"ר×ŀ×Ķ":132571,"ãģĭãĤĤãģĹãĤĮãģªãģĦ":132572,"étude":132573,"czÄħc":132574,"Ġgór":132575,"×ł×¡×Ķ":132576,"ÙħÙĬد":132577,"ĠÐŁÐµÑĢе":132578,"أخر":132579,"ãģĿãģ®å¾Į":132580,"à¹Ģà¸Ķียวà¸ģัà¸Ļ":132581,"×ŀ×Ĵ×ķ":132582,"×ŀ×Ĵ×ķ×ķף":132583,"дов":132584,"masına":132585,"×¢×ł×Ķ":132586,"ãĤ±ãĥĥãĥĪ":132587,"סע":132588,"סע×Ļ×£":132589,"ĠTư":132590,"Ġtóc":132591,"íĻľëıĻ":132592,"ĠÐŀд":132593,"ĠÐŀднако":132594,"Ġdolayı":132595,"ؤÙĥد":132596,"ê³Ħíļį":132597,"׾ר":132598,"веÑĩ":132599,"Ġkhợi":132600,"Ġthá»§y":132601,"×ĵף":132602,"รà¸ģ":132603,"à¸ļัà¸ķร":132604,"à¹Ģà¸ģà¹Īา":132605,"ĠاÙĦثاÙĦ":132606,"ĠاÙĦثاÙĦØ«":132607,"Ġpodrá":132608,"ער×Ļ":132609,"ÙĨجاØŃ":132610,"Ġkhắc":132611,"측":132612,"İM":132613,"ãĤ»ãĥĥãĥĪ":132614,"żenia":132615,"Ġ׾×Ĺ×ijר":132616,"erÃł":132617,"ì´Ī":132618,"Ġküç":132619,"Ġküçük":132620,"اتÙĩÙħ":132621,"à¸ĭà¹Į":132622,"ÙħشارÙĥØ©":132623,"ĠاÙĦبط":132624,"Ġdây":132625,"еннÑĭм":132626,"à¸Ĺีà¹Īà¹Ħมà¹Ī":132627,"ÙĤÙİ":132628,"Ġvượt":132629,"Ġtrì":132630,"ĠwpÅĤyw":132631,"AÅŀ":132632,"зо":132633,"ĠاÙĦسÙĬد":132634,"à¸Ĺะà¹Ģล":132635,"ĠÑģодеÑĢжа":132636,"عطÙĬ":132637,"ĠاÙĦعÙĨ":132638,"èĢħãģĮ":132639,"à¹Ģหà¸Ļ":132640,"à¹Ģหà¸Ļืà¸Ń":132641,"ĠbÃŃ":132642,"Ġüzerinden":132643,"ĠVÅ©":132644,"Ġnuôi":132645,"ÙĨÙħ":132646,"алÑĮного":132647,"×¢×Ļף":132648,"ØŃضر":132649,"ĠоÑĤдел":132650,"ëªĩ":132651,"ìķ¡":132652,"ĠÙĦدÙĬÙĩ":132653,"ìĻľ":132654,"Ġsektör":132655,"Ġвозможно":132656,"ĠÐĶж":132657,"Ġhô":132658,"äºĭãģĮ":132659,"иÑĢование":132660,"алÑĮной":132661,"Ġ미êµŃ":132662,"رØŃÙĦ":132663,"ĠÑįкÑģ":132664,"пÑĢавлÑı":132665,"Ġnhá»Ŀ":132666,"ĠÄijẩ":132667,"ĠÄijẩy":132668,"ÙģÙĥر":132669,"ĠÙĪØ£Ø¶Ø§Ùģ":132670,"ãĥIJãĤ¹":132671,"ת×ķ׼׳×Ļת":132672,"ÑĤелей":132673,"ĠØ¥ÙĦÙĬÙĩ":132674,"ãģ¨è¨Ģãģ£ãģ¦":132675,"Ġдве":132676,"Ġchấp":132677,"ĠLö":132678,"à¸Ħลิ":132679,"à¸Ħà¸¥à¸´à¸Ľ":132680,"ĠسÙĪØ±":132681,"ĠسÙĪØ±ÙĬا":132682,"×ŀ×Ĺ×ķ":132683,"stä":132684,"доб":132685,"Ġniá»ĩm":132686,"ãģ®å¤§":132687,"פר×ķ×Ļ×§":132688,"פר×ķ×Ļ×§×ĺ":132689,"ĠChâu":132690,"Ġ×ŀ×Ķ×Ŀ":132691,"Ñģким":132692,"ĠполÑĥÑĩиÑĤÑĮ":132693,"ÙĬÙĪÙħ":132694,"Ø«ÙĪØ±":132695,"פ×ķ׾×Ļ×ĺ":132696,"פ×ķ׾×Ļ×ĺ×Ļ":132697,"ĠмеÑģÑıÑĨ":132698,"åħ¨ãģ¦":132699,"ĠاÙĦÙħجÙĦس":132700,"ĠاÙĦتاÙĦÙĬ":132701,"Ġ×Ĺר":132702,"åIJijãģij":132703,"׼×ŀ×Ķ":132704,"бед":132705,"أعض":132706,"أعضاء":132707,"ÙĪÙĦد":132708,"วà¹Īาà¸Īะ":132709,"Ġbánh":132710,"à¸Ļิย":132711,"à¸Ļิยม":132712,"à¸Ľà¸£à¸°à¸ģัà¸Ļ":132713,"ÑģÑĤавиÑĤÑĮ":132714,"à¸ŀà¸Ļัà¸Ļ":132715,"ĠÑįÑĦÑĦ":132716,"ĠÑįÑĦÑĦекÑĤив":132717,"ĠавÑĤоÑĢ":132718,"ĠÄIJÄĥng":132719,"ĠthÆ°á»Łng":132720,"ãĤĴæĦŁãģĺ":132721,"à¸ģัà¸ļà¸ģาร":132722,"å¾Įãģ«":132723,"ĠyaÄŁ":132724,"ستاÙĨ":132725,"Ġliá»ģn":132726,"ãģĦãģ¾":132727,"iêu":132728,"à¹Ĥà¸Ķà¸Ļ":132729,"ĠÙĦذÙĦÙĥ":132730,"à¹Ĥรà¸ĩà¹Ģรียà¸Ļ":132731,"צ×Ļ×Ĵ":132732,"ĠاÙĦÙħعÙĦÙĪÙħات":132733,"ç§ģãģŁãģ¡":132734,"à¸Ĺีà¹Īà¸Ħุà¸ĵ":132735,"ãģ«ãģªãģ£ãģ¦ãģĦãĤĭ":132736,"×ŀ×ĵ×Ļ׳×Ķ":132737,"×¡×Ľ×Ŀ":132738,"Ġвне":132739,"à¸ŀà¸Ļัà¸ģà¸ĩาà¸Ļ":132740,"ÑĢей":132741,"à¹Ģà¸Īà¹īาหà¸Ļà¹īาà¸Ĺีà¹Ī":132742,"ĠHiá»ĩn":132743,"Ġmédico":132744,"ĠتØŃÙĤÙĬÙĤ":132745,"ÑĮÑĤе":132746,"miÅŁti":132747,"ÙĤÙĬادة":132748,"ãĤıãģĭãĤĬ":132749,"มาà¸Īาà¸ģ":132750,"ëħĢ":132751,"ãģ«éĸ¢ãģĻãĤĭ":132752,"×IJר×Ĵ×ķף":132753,"mètre":132754,"Ġעצ×ŀ×Ļ":132755,"ĠChúa":132756,"รูà¹īà¸Ī":132757,"รูà¹īà¸Īัà¸ģ":132758,"ì£Ħ":132759,"ëĭµ":132760,"à¹ģà¸Ĺà¹ī":132761,"Ġgeçen":132762,"Ġlança":132763,"ĠاÙĦبØŃØ«":132764,"×ĵ×ŀ×ķ":132765,"ãģ¯ãģĺ":132766,"ãģ¯ãģĺãĤģ":132767,"ĠdönÃ¼ÅŁ":132768,"è¿ijãģı":132769,"à¹Ģสม":132770,"à¹Ģสมà¸Ń":132771,"ëĿ½":132772,"Ġüç":132773,"á»ŀ":132774,"ÑĪаÑı":132775,"à¸Ĺร":132776,"ØŃÙĤÙĬÙĤØ©":132777,"à¸Ĥà¸Ńà¸ĩà¸ģาร":132778,"Ġ무ìĹĩ":132779,"Ġ×Ķ׼ר":132780,"ĠاÙĦصÙĬÙĨ":132781,"ĠлÑİди":132782,"à¸ķาย":132783,"بÙĪÙĦ":132784,"Ġviêm":132785,"Ġthiá»ĩu":132786,"à¸ģà¸Ķ":132787,"Ġ׾×ĵ×ijר":132788,"פ׳×Ķ":132789,"×IJר×ij×¢":132790,"سÙī":132791,"ĠاÙĦسÙĬاس":132792,"ĠاÙĦسÙĬاسÙĬØ©":132793,"ydı":132794,"ÙĪØŃØ¯Ø©":132795,"ĠдеÑıÑĤелÑĮноÑģÑĤи":132796,"Ġ×ķ×Ķ×ŀ":132797,"пеÑĩ":132798,"пеÑĩаÑĤ":132799,"иÑĢованиÑı":132800,"ĠÑģог":132801,"ĠÑģоглаÑģ":132802,"Ġ׼×ĵ":132803,"Ġ׼×ĵ×IJ×Ļ":132804,"ĠиÑģполÑĮзоваÑĤÑĮ":132805,"ספ×ķר×ĺ":132806,"Ġilçe":132807,"expérience":132808,"ĠThá»Ŀi":132809,"İK":132810,"à¹Ħà¸Łà¸Łà¹īา":132811,"ëĵ¤ìĹIJê²Į":132812,"à¸Ľà¸£à¸°à¹Ģà¸ł":132813,"à¸Ľà¸£à¸°à¹Ģà¸łà¸Ĺ":132814,"Ġmümk":132815,"Ġmümkün":132816,"Ġ×IJ×ķ×ª×ł×ķ":132817,"ìĦ±ìĿĦ":132818,"ĠìĿ´ìľł":132819,"زÙĬارة":132820,"Ġoldukça":132821,"rób":132822,"ĠØ£ÙĨا":132823,"Ġ×Ķ×ij×Ļ":132824,"Ñģен":132825,"×¢×Ļקר":132826,"×Ļ×ĵ×ķ×¢":132827,"dzÄħ":132828,"ÙħعÙĦÙĪÙħات":132829,"شاب":132830,"Ġparça":132831,"à¸Ļะà¸Ħะ":132832,"باس":132833,"ĠÑĤоÑĢг":132834,"ĠÑĤоÑĢгов":132835,"Ġ×Ĺ×ĵר":132836,"׼ר×ĺ":132837,"׼ר×ĺ×Ļס":132838,"ĠAyrıca":132839,"ệ":132840,"ìľ¨":132841,"ĠÑĤакие":132842,"Ġ×ŀצ×ķ×Ļ":132843,"ãĥ©ãĥ³ãĤŃãĥ³ãĤ°":132844,"ש×Ļ×ķ×ķ×§":132845,"åīįãģ®":132846,"ĠBảo":132847,"ÑīÑĥ":132848,"æĹ©ãģı":132849,"ĠPhòng":132850,"à¸ŀระราà¸Ĭ":132851,"פ×Ĺ×ķת":132852,"Ġгл":132853,"Ġглаз":132854,"à¸Ĺà¹Īา":132855,"Ġdạy":132856,"ÑĢоÑģÑĤ":132857,"à¹Ĥà¸Ķยà¹Ģà¸īà¸ŀาะ":132858,"ĠquáºŃn":132859,"Ġ×Ĺ×ijר×ķת":132860,"même":132861,"mÄ±ÅŁtı":132862,"ĠاÙĦتداÙĪÙĦ":132863,"Ġnạn":132864,"Ġ×Ķ×ĵ×Ļ":132865,"ĠاÙĦطرÙĬÙĤ":132866,"×Ĵ×ķת":132867,"Ġ×Ķ×ĵר×ļ":132868,"ujÄħce":132869,"Ġchữ":132870,"ãĤĤãģ®ãģ®":132871,"ë°Ľ":132872,"ãģķãĤĵãģ¯":132873,"Ġyardım":132874,"ĠاÙĦعÙħ":132875,"Ġì§Ħíĸī":132876,"Ġ×Ļ×Ĺ":132877,"Ġ×Ļ×Ĺס×Ļ":132878,"ĠاÙĦÙħدÙĬÙĨØ©":132879,"Ġcú":132880,"à¸ģีฬ":132881,"à¸ģีฬา":132882,"Ġniên":132883,"misión":132884,"׳×Ļס×Ļ":132885,"׳×Ļס×Ļ×ķף":132886,"ĠвозÑĢаÑģÑĤ":132887,"Ġ×¢×ķש×Ķ":132888,"ĠÙħدÙĬر":132889,"ÑıÑģÑĮ":132890,"ØŃجÙħ":132891,"íĻĺê²½":132892,"ĠاÙĦأخرÙī":132893,"uÃŁer":132894,"ĠاÙĦعاÙĦÙħÙĬØ©":132895,"ĠNgá»įc":132896,"êµIJíļĮ":132897,"ä¸Ĭãģ§":132898,"×Ļ×Ķ×ķ×ĵ":132899,"×Ļ×Ķ×ķ×ĵ×Ļ×Ŀ":132900,"Ùħساعدة":132901,"ĠжизнÑĮ":132902,"ĠпоÑĤомÑĥ":132903,"ĠاÙĦÙħÙħÙĦ":132904,"ĠاÙĦÙħÙħÙĦÙĥØ©":132905,"ĠGör":132906,"رÙIJ":132907,"×ŀ×§×ķ×ŀ×ķת":132908,"åĩºæĿ¥ãĤĭ":132909,"ÑĦÑĤ":132910,"ĠìĿ´ìłľ":132911,"ĠÑĢем":132912,"ĠÑĢемонÑĤ":132913,"ת×ķ×ļ":132914,"æĻĤãģ¯":132915,"ãĤīãĤĮãģªãģĦ":132916,"altı":132917,"å®¶ãģ®":132918,"ĠاÙĦإعÙĦاÙħ":132919,"리ëĬĶ":132920,"ãģĭãĤīãģ¯":132921,"ĠHạ":132922,"ãģĤãģ®":132923,"×ĵ×Ļ×ķף":132924,"رÙĬس":132925,"ĠsocietÃł":132926,"ĠاÙĦÙĥبÙĬر":132927,"Ġ×ij×ŀס":132928,"Ġ×ij×ŀס×Ĵר":132929,"Ġ×ij×ŀס×Ĵרת":132930,"ĠìŀĪìľ¼ë©°":132931,"Ġnặng":132932,"ÙĩÙī":132933,"ĠBÃł":132934,"×ŀר×ķ":132935,"ĠjÄĻ":132936,"ĠjÄĻzy":132937,"ĠjÄĻzyk":132938,"Ġ׼×ŀ×ķ×ijף":132939,"×¢×ľ×Ķ":132940,"à¸Ĺีà¹Īà¹Ħà¸Ķà¹ī":132941,"ãģ¾ãģĹãĤĩãģĨ":132942,"×ŀספר":132943,"ТÐŀ":132944,"سÙĬاسة":132945,"ĠкаждÑĭй":132946,"ë²ł":132947,"tım":132948,"yá»ĩn":132949,"รีà¹Ī":132950,"ĠдеÑĤÑģк":132951,"วิà¸ĺีà¸ģาร":132952,"mówi":132953,"×ĺ×¢×Ŀ":132954,"×Ķצ׾×Ĺ×Ķ":132955,"ضÙĬÙģ":132956,"ĠÑħоÑĤÑı":132957,"ãĤĵãģ§ãģĦãĤĭ":132958,"à¸Ħาà¸Ķ":132959,"à¸Ħรà¸ļ":132960,"ĠкÑĥÑĢÑģ":132961,"ĠbaÅŁarı":132962,"×ijר×ķ":132963,"ÙĬعة":132964,"ĠÐĿÑĥ":132965,"à¸Ħวามà¹Ģà¸Ľà¹ĩà¸Ļ":132966,"Ġ׾×ŀש׾":132967,"Ġì¢ĭìĿĢ":132968,"Ùħؤسس":132969,"Ùħؤسسات":132970,"Ġprécis":132971,"Ġthảo":132972,"à¸ģà¹ĩà¸Ħืà¸Ń":132973,"Ġש׼׾":132974,"führung":132975,"ãģĦãģ§":132976,"à¹ģละมี":132977,"à¸ģà¹ĩมี":132978,"Ġשש":132979,"мел":132980,"Ġкниг":132981,"ĠباÙĦÙĨ":132982,"ĠباÙĦÙĨسبة":132983,"Ġaldı":132984,"ÑĤай":132985,"Ġ×Ĺ×ĵש×Ļ×Ŀ":132986,"å®Łãģ¯":132987,"عÙĪØ§":132988,"ĠìĿĺ미":132989,"изм":132990,"ÑĢабоÑĤаÑĤÑĮ":132991,"Ù쨵":132992,"Ġ×ij׳×ķסף":132993,"ãģ¨ãģĹãģ¦ãĤĤ":132994,"à¹Ģà¸Ľà¹ĩà¸Ļà¸Ĺีà¹Ī":132995,"ĠÑģледÑĥеÑĤ":132996,"èĢĥãģĪãģ¦":132997,"Ġ׼×Ļ×ķ×Ŀ":132998,"ÑģÑĤÑĭ":132999,"׼׾׼׾×Ļ":133000,"æµģãĤĮ":133001,"ãĤĴãģ¤ãģij":133002,"ÑĩаÑĤ":133003,"×Ļ׼×ķף":133004,"×Ļר×Ļ":133005,"larıyla":133006,"ãĤ¤ãĥ¡":133007,"ãĤ¤ãĥ¡ãĥ¼ãĤ¸":133008,"׳×ĸ×§":133009,"Ġciò":133010,"Ġsın":133011,"Ġsınır":133012,"à¸Ļà¸Ħร":133013,"каÑĤ":133014,"Ġlá»Ĺi":133015,"ëŀĮ":133016,"تÙģØ§Øµ":133017,"تÙģØ§ØµÙĬÙĦ":133018,"ëĨĵ":133019,"ĠÙħض":133020,"ilmiÅŁ":133021,"بارÙĥ":133022,"ÐĿÐĺ":133023,"Ġthẩm":133024,"Ġ×IJ×ķת×ļ":133025,"ĠпÑĢиним":133026,"ĠпÑĢинима":133027,"Ġyönt":133028,"Ġyöntem":133029,"Ġ×ŀ×§×ij׾":133030,"Ġktórego":133031,"ê·Ģ":133032,"شرÙģ":133033,"داÙħ":133034,"ãģĦãĤįãģĦãĤį":133035,"ĠAlém":133036,"Ġgörü":133037,"Ġgörünt":133038,"Ġgörüntü":133039,"دس":133040,"ÑĪки":133041,"гÑĢад":133042,"Ġlạc":133043,"Ġsữa":133044,"ãĤīãĤĮãģ¾ãģĻ":133045,"oÃłi":133046,"Ñīен":133047,"ãģĭãģªãģĦ":133048,"Ġпоп":133049,"ĠпопÑĥ":133050,"ĠпопÑĥлÑıÑĢ":133051,"ĠاÙĦÙħÙĪÙĤع":133052,"räg":133053,"A":133054,"íķĦ":133055,"ãĤĴè¦ĭãĤĭ":133056,"اÙħا":133057,"ĠاÙĦØŃرب":133058,"ĠÐŁÐ°":133059,"Ġ׾×IJתר":133060,"Ġtá»ijc":133061,"×ij׾×Ķ":133062,"رئÙĬس":133063,"вÑĥ":133064,"ÙĬدÙĬ":133065,"казан":133066,"Ġ×Ĺש×ij×ķף":133067,"hôtel":133068,"×¢×ķ׳×Ķ":133069,"بÙĨÙĬ":133070,"×ŀ×ķ׾":133071,"ĠднÑı":133072,"éĽ£ãģĹãģĦ":133073,"ведениÑı":133074,"Ġ×ķ×ŀת":133075,"напÑĢимеÑĢ":133076,"ÙĤابÙĦ":133077,"Ġrésultat":133078,"ĠÑĢазвиÑĤиÑı":133079,"رÙij":133080,"ìłĦ문":133081,"ĠاÙĦÙħزÙĬد":133082,"ĠìľĦíķ´ìĦľ":133083,"ëĨį":133084,"íĻķ":133085,"ĠThiết":133086,"íĮ¨":133087,"malıdır":133088,"ĠczÅĤ":133089,"ĠczÅĤowie":133090,"ĠczÅĤowiek":133091,"ĠÙĦبÙĨ":133092,"ĠÙĦبÙĨاÙĨ":133093,"üsü":133094,"ãģªãĤĵãģł":133095,"Ġżycie":133096,"ĠÑħоÑĢоÑĪо":133097,"æĸ¹ãģ«":133098,"ëĭ¤ë©´":133099,"иÑĩеÑģкаÑı":133100,"ער×Ļ׼":133101,"ער×Ļ×Ľ×ª":133102,"ãģ¾ãģĽãĤĵãģ§ãģĹãģŁ":133103,"ĠÑģобой":133104,"Ġgá»Ĺ":133105,"ĠделаÑĤÑĮ":133106,"daÄĩ":133107,"аÑĢа":133108,"różni":133109,"à¹Ģลีà¹ī":133110,"à¹Ģลีà¹īย":133111,"à¹Ģลีà¹īยà¸ĩ":133112,"à¸Ŀาà¸ģ":133113,"ĠتÙĤ":133114,"ĠتÙĤدÙĬ":133115,"ĠتÙĤدÙĬÙħ":133116,"หà¸Ļุà¹Īม":133117,"Ġmücade":133118,"Ġmücadele":133119,"ì§Ģ를":133120,"ãĤ¤ãĤ¹":133121,"Ġأساس":133122,"jÄħcego":133123,"ĠÅŁeh":133124,"нÑĤеÑĢ":133125,"ÑĨиÑİ":133126,"ï»»":133127,"ÑİÑīего":133128,"à¹Ĥà¸Ľà¸£à¹ģ":133129,"à¹Ĥà¸Ľà¸£à¹ģà¸ģรม":133130,"ĠmieÄĩ":133131,"ØŃÙĥÙĪÙħØ©":133132,"ãģ§ãģĹãģŁãģĮ":133133,"×Ļס×Ķ":133134,"ãĤĤãģ®ãĤĴ":133135,"Ġ×ŀ×IJת":133136,"สุà¸Ķà¸Ĺà¹īาย":133137,"ĠcÅ©":133138,"ÙĨسب":133139,"ĠпÑĢоÑĩ":133140,"Ġдней":133141,"ĠÑįÑĤиÑħ":133142,"׾×ŀת":133143,"нÑıÑı":133144,"Ñįк":133145,"Ġì§ĢëĤľ":133146,"มหาวิà¸Ĺยา":133147,"มหาวิà¸Ĺยาล":133148,"มหาวิà¸Ĺยาลัย":133149,"dão":133150,"ĠMáy":133151,"ĠêµŃê°Ģ":133152,"à¸ļุรี":133153,"×Ĵ×Ļ׾":133154,"ĠÑĤÑĭÑģÑı":133155,"ĠÑĤÑĭÑģÑıÑĩ":133156,"ÙģÙĥ":133157,"ĠÐĺÑģ":133158,"è¡ĮãĤıãĤĮ":133159,"פר×ĵ":133160,"ãģ¤ãģį":133161,"à¸Ħรà¸Ńà¸ļ":133162,"à¸Ħรà¸Ńà¸ļà¸Ħรัว":133163,"à¸Ĥึà¹īà¸Ļมา":133164,"ä»ĬæĹ¥ãģ¯":133165,"ĠìĤ¬ëŀĮìĿ´":133166,"עצ×ŀ×Ķ":133167,"поÑĢ":133168,"ĠKỳ":133169,"ĠÆ¡n":133170,"ĠthÄĥm":133171,"Ù쨧ÙĤ":133172,"ãģļãģ«":133173,"Ġ׾קר":133174,"Ġ׾קר×ķ×IJ":133175,"اÙģÙĬØ©":133176,"ÙħÙİØ§":133177,"гаÑĢ":133178,"صÙĦا":133179,"صÙĦاة":133180,"Ġ×ŀ×ĸ×Ķ":133181,"lıģını":133182,"Ġ×IJ×Ļ׳×Ķ":133183,"кÑĢо":133184,"Ġngươi":133185,"Ġвним":133186,"Ġвнимание":133187,"jÄħcy":133188,"ÙĢÙĢÙĢÙĢÙĢ":133189,"ÑģÑħод":133190,"ãģªãĤĵãģĭ":133191,"×ŀ×Ļ׾":133192,"Ġ×Ķ×IJ×Ĺ":133193,"ãĤıãģªãģĦ":133194,"عسÙĥر":133195,"ĠìĦ¸ê³Ħ":133196,"ĠÑĩего":133197,"ĠÑģÑĢедÑģÑĤва":133198,"ĠÐłÐ°Ñģ":133199,"ãģªãģģ":133200,"ÙĨÙ쨳":133201,"ר×Ļ×ķף":133202,"ÑģÑĥд":133203,"ĠìĿ¸ê°Ħ":133204,"ĠاÙĦÙħÙĤبÙĦ":133205,"ÙĨعÙħ":133206,"تÙĪÙ쨱":133207,"ש×ij×¢":133208,"ılm":133209,"ılmÄ±ÅŁ":133210,"Ġ×ľ×ª×ª":133211,"تصÙģ":133212,"×Ķפ×ķ×ļ":133213,"à¹ĥà¸Ļà¸Ľà¸µ":133214,"ìĿ´ê³ł":133215,"ÙģÙĪØ²":133216,"à¸ľà¸¥à¸ĩาà¸Ļ":133217,"ĠGiáo":133218,"à¸ļà¸Ńà¸ģวà¹Īา":133219,"ĠdÄ±ÅŁ":133220,"ĠdÄ±ÅŁÄ±nda":133221,"죽":133222,"ĠdzieÅĦ":133223,"кÑĨии":133224,"иÑĨе":133225,"ãģ®ä¸Ģ":133226,"عش":133227,"пÑĢеÑģÑģ":133228,"หà¸Ļà¹Īà¸Ńย":133229,"ลัà¸ģษà¸ĵะ":133230,"ĠpossibilitÃł":133231,"à¹Ħà¸Ķà¹īรัà¸ļà¸ģาร":133232,"หยุà¸Ķ":133233,"Ġphiên":133234,"çĶŁãģ¾ãĤĮ":133235,"Ø·ÙĪÙĦ":133236,"ÑĦин":133237,"für":133238,"ØŃÙĬاة":133239,"íĸĪìĬµëĭĪëĭ¤":133240,"׼׳×ķת":133241,"à¸Ľà¸£à¸°à¸ª":133242,"à¸Ľà¸£à¸°à¸ªà¸ļ":133243,"à¸Ľà¸£à¸°à¸ªà¸ļà¸ģารà¸ĵà¹Į":133244,"ëIJĺìĹĪ":133245,"Ġkażdy":133246,"Ġluyá»ĩn":133247,"ĠоÑĢганизаÑĨии":133248,"å°ijãģªãģı":133249,"ÑģÑĤÑĢоен":133250,"Ġtécnico":133251,"×§×Ķ׾":133252,"Ġ×ķ×IJ×Ĺ":133253,"ĠعÙĦÙĬÙĥ":133254,"Ñīение":133255,"Ġ×Ķ×Ļ׾×ĵ×Ļ×Ŀ":133256,"ÙĪØ³Ø§Ø¦ÙĦ":133257,"Ġ×ķ×Ķת":133258,"تÙħÙĬز":133259,"ĠÑģказал":133260,"Ġполи":133261,"Ġ×Ķ×ŀס":133262,"ÙĦÙijÙİ":133263,"Ùħؤسسة":133264,"Ġ×ŀ×Ļ×ĵ":133265,"ãģ£ãģ¡":133266,"ĠëĦĪ무":133267,"à¸ŀี":133268,"Ġtặng":133269,"Ġtấn":133270,"רש×Ŀ":133271,"Ġmédica":133272,"Ġ×¢×ķ×ŀ":133273,"Ġ×¢×ķ×ŀ×ĵ":133274,"ÑĦоÑĢ":133275,"Ùħرة":133276,"Ġvatanda":133277,"ĠvatandaÅŁ":133278,"Ġдело":133279,"à¸Ļม":133280,"ãģ¨åIJĮãģĺ":133281,"ÙģÙī":133282,"ÑģоÑĢ":133283,"Ġ×Ķסר×ĺ":133284,"Ġépoca":133285,"ìłķì±ħ":133286,"ĠÑģвÑıзан":133287,"ضرب":133288,"ĠÙĦÙĨا":133289,"Ġużywa":133290,"ĠاÙĦجÙĬØ´":133291,"ÑİÑĢ":133292,"×ijס×ķ×£":133293,"ĠмÑĥ":133294,"ĠмÑĥзÑĭк":133295,"bilité":133296,"Ġmaç":133297,"سÙİ":133298,"تÙĦÙĥ":133299,"ãģ¬":133300,"ÙĬÙĦا":133301,"ÑĪла":133302,"ÙĢÙĢÙĢ":133303,"Ġодной":133304,"зван":133305,"ĠÑģÑĢаз":133306,"ĠÑģÑĢазÑĥ":133307,"ÙĨظÙħ":133308,"راÙĩ":133309,"ĠÙĦÙĩذا":133310,"׼×ķר":133311,"Ġ×Ķש×ij×ķ×¢":133312,"Ġ×Ķשת":133313,"ĠQuảng":133314,"ãĥ«ãĥ¼":133315,"ãģĪãģªãģĦ":133316,"×ĺ×IJ":133317,"Ġmiá»ģn":133318,"ĠPháºŃt":133319,"ĠاÙĦسÙĪÙĤ":133320,"ÄĤ":133321,"ĠاÙĦجÙħع":133322,"ĠاÙĦجÙħعة":133323,"ÑİÑīей":133324,"aÅĤem":133325,"عتÙĤد":133326,"Ø£ÙĦÙħ":133327,"Ñģке":133328,"ĠìĿ´íķ´":133329,"ÙĨسخ":133330,"è¨ĢãģĦ":133331,"добав":133332,"سبÙĤ":133333,"×¢×ķרר":133334,"ÑĤип":133335,"ãģĿãģĵãģ§":133336,"visión":133337,"عÙĪØ¯Ø©":133338,"먹":133339,"×ŀ×ĸר×Ĺ":133340,"ĠØ¥ØŃ":133341,"Ġ׾×ij×Ļף":133342,"Ġ׾צ×IJת":133343,"Ġyardı":133344,"Ġyardımc":133345,"Ġyardımcı":133346,"İZ":133347,"קפ×Ķ":133348,"tré":133349,"liÄŁini":133350,"клÑİÑĩа":133351,"Ġüretim":133352,"Ġayrı":133353,"ĠkiÅŁiler":133354,"à¸Ħà¹īà¸Ļ":133355,"à¸Ħà¹īà¸Ļหา":133356,"ĠSá»±":133357,"Ġ×Ľ×¡":133358,"Ġ×Ľ×¡×£":133359,"ĠÑĤакиÑħ":133360,"ĠXuân":133361,"Ġлег":133362,"Ġлегко":133363,"Ø«ÙĤاÙ쨩":133364,"ÐĿÐŀ":133365,"ãĤ¹ãĤ¿ãĥĥ":133366,"ãĤ¹ãĤ¿ãĥĥãĥķ":133367,"åIJĪãģĦ":133368,"Ġ×Ķש×Ļ×ŀ×ķש":133369,"manız":133370,"ĠÐĴаÑģ":133371,"gün":133372,"ìľĦìĽIJíļĮ":133373,"Ġwspóln":133374,"ĠÑģвое":133375,"íĥģ":133376,"à¹Ģà¸Ļีย":133377,"ÙĪØ¨Ø©":133378,"вÑıз":133379,"ıdır":133380,"ëIJĺìĹĪëĭ¤":133381,"ĠdeÄŁiÅŁtir":133382,"ãĤĭãģĵãģ¨ãģĮ":133383,"Ġ×Ĺ×ĵש×Ķ":133384,"ãĤīãĤĮãģ¦ãģĦãĤĭ":133385,"×Ĺ×Ļ×Ļ×ij":133386,"ĠÐļаÑĢ":133387,"׳×Ļת×ķ×Ĺ":133388,"Ġ×§×ĺף":133389,"ר×ĸ":133390,"ÙĪØº":133391,"èªŃãģ¿":133392,"ĠتÙĤÙĪÙħ":133393,"ĠÙĥاÙĦ":133394,"à¸Ŀึà¸ģ":133395,"Ġë°ľìĥĿ":133396,"ológico":133397,"راع":133398,"à¹ģà¸ģà¹īà¹Ħà¸Ĥ":133399,"ĠÑĢабоÑĤÑĥ":133400,"ÙĨÙijÙİ":133401,"à¸Ńยูà¹Īà¸Ĺีà¹Ī":133402,"ĠاÙĦثاÙĨÙĬØ©":133403,"ĠNhân":133404,"ÑħваÑĤ":133405,"öne":133406,"Ġعدة":133407,"à¹ģสà¸ĩ":133408,"ÑĤоп":133409,"пÑĥÑģка":133410,"شراء":133411,"ĠÐļом":133412,"Ġפע×ķ׾×Ķ":133413,"ìĤ¬ìĿ´":133414,"ìĤ¬ìĿ´íĬ¸":133415,"è¡Įãģ£ãģ¦":133416,"Ġ×Ķ×Ķת":133417,"ĠÑģÑĤоÑĢо":133418,"ĠÑģÑĤоÑĢонÑĭ":133419,"درس":133420,"à¸ĭู":133421,"à¸ķà¹Īำ":133422,"ĠأبÙĬ":133423,"подоб":133424,"ãģ«ãģ¦":133425,"ارتÙģØ§Ø¹":133426,"ĠÙħؤ":133427,"иков":133428,"geführt":133429,"มืà¸Ńà¸ĸืà¸Ń":133430,"ĠÙĦÙĤد":133431,"ĠØ£ÙĨÙij":133432,"سÙĬطر":133433,"ãģ¾ãģļãģ¯":133434,"ס×ĵ":133435,"ÑģколÑĮко":133436,"ãģ¿ãģŁãģĦãģª":133437,"×ĵר×Ĵ":133438,"×¢×Ļ×ĵ":133439,"à¹ĥหà¹īà¸ļริà¸ģาร":133440,"ĠÐĶи":133441,"×ij×¢×Ļ×ķת":133442,"Ġ×Ķ×Ĺ×ķ":133443,"пиÑģÑĮ":133444,"ĠاÙĦØ®ÙĦ":133445,"бав":133446,"Ġİlk":133447,"ĠاÙĦØ®Ùħ":133448,"ĠاÙĦØ®ÙħÙĬس":133449,"ĠÙĬÙĤÙĪÙħ":133450,"æĻĤãģ®":133451,"ĠsÅĤow":133452,"ĠØ£ÙĩÙħ":133453,"Ø®ÙĦÙĤ":133454,"ĠأصبØŃ":133455,"Ġchứa":133456,"Ġthác":133457,"Ù쨧ÙĦ":133458,"Ġchá»Ŀ":133459,"ĠاÙĦخار":133460,"ĠاÙĦخارج":133461,"ĠاÙĦخارجÙĬØ©":133462,"طائر":133463,"ĠtÃł":133464,"ĠtÃłu":133465,"à¸ģลà¹īà¸Ńà¸ĩ":133466,"ĠاÙĦÙħرأ":133467,"ĠاÙĦÙħرأة":133468,"åħ¨ãģı":133469,"ĠÃĸn":133470,"çļĦãģ«ãģ¯":133471,"Ġpièce":133472,"×Ĵ×Ļ×ij":133473,"ĠاÙĦÙĪØ§ÙĤع":133474,"ä»Ĭãģ®":133475,"ĠاÙĦÙħÙĤ":133476,"cznÄħ":133477,"ÙģØ¹Ø§ÙĦ":133478,"енного":133479,"ĠÑĦакÑĤ":133480,"ìĭłì²Ń":133481,"ĠÐŀни":133482,"ĠاÙĦبÙĦاد":133483,"овиÑĩ":133484,"ëıĮ":133485,"ÑĦÑĥнкÑĨи":133486,"Ġìĸ´ëĬIJ":133487,"ãĥķãĤ©ãĥ¼":133488,"dÃŃ":133489,"илоÑģÑĮ":133490,"ÙħÙī":133491,"ĠاÙĦØ£ÙħرÙĬÙĥ":133492,"ĠاÙĦØ£ÙħرÙĬÙĥÙĬØ©":133493,"×ĺ×Ļפ×ķ׾":133494,"íĶĦë¡ľê·¸":133495,"íĶĦë¡ľê·¸ëŀ¨":133496,"Ġש×ķ׳×ķת":133497,"Ø´ÙħÙĦ":133498,"ĠпаÑĢа":133499,"Ġ×Ķ×Ĺ×ķ×§":133500,"ÙĪØ²Ø§Ø±Ø©":133501,"ãģ¨ãģĻãĤĭ":133502,"Ġquảng":133503,"Ġaģır":133504,"ĠاÙĦÙĦج":133505,"ĠاÙĦÙĦجÙĨØ©":133506,"긴":133507,"ĠTân":133508,"جÙħÙĦ":133509,"дол":133510,"à¹ģà¸ŀà¸Ĺย":133511,"à¹ģà¸ŀà¸Ĺยà¹Į":133512,"Ġר×IJש×Ļ":133513,"Ñīей":133514,"Ġçevre":133515,"ĠкомплекÑģ":133516,"Ġ×ij×ŀש×ļ":133517,"Ġaltın":133518,"ĠأعÙħاÙĦ":133519,"ĠÑģвоего":133520,"ãĤĪãģĦ":133521,"×Ĺ׾×Ļ×ĺ":133522,"×ŀ×ł×¢":133523,"Ġר×ij×Ķ":133524,"ĠØ£ÙĬضاÙĭ":133525,"×ĸ׾":133526,"ĠاÙĦسÙĬاسÙĬ":133527,"æĢĿãģĨ":133528,"קרק":133529,"קרקע":133530,"ĠاÙĦÙ쨱ÙĬÙĤ":133531,"биÑĤ":133532,"ק׳×Ķ":133533,"ĠØ¥ÙĨÙĩ":133534,"ĠÐĴам":133535,"ÐłÐŀ":133536,"ãĥĪãĥª":133537,"å¿ħè¦ģãģª":133538,"Ġchâu":133539,"ç¶ļãģij":133540,"Ġçözüm":133541,"gÅĤow":133542,"عÙĤÙĦ":133543,"売ãĤĭ":133544,"iết":133545,"à¸Ĭิà¹īà¸Ļ":133546,"ĠØŃÙĤÙĪÙĤ":133547,"Ø·ÙĦع":133548,"ĠÄijen":133549,"ĠÙĥاÙ쨩":133550,"ãģ®ãģĶ":133551,"Ġë¬":133552,"Ġ물":133553,"Ġë¬¼ë¡ł":133554,"ĠرسÙĪÙĦ":133555,"зам":133556,"замен":133557,"Ġkullanıcı":133558,"×¢×ķ׾":133559,"èī²ãĢħ":133560,"ÑĪиÑĢ":133561,"Ġ×Ĺש":133562,"Ġwygl":133563,"ĠwyglÄħda":133564,"ש×Ļ×ŀ×ķש":133565,"å¿ĺãĤĮ":133566,"×¢×Ļצ×ķ×ij":133567,"ĠاÙĦسÙĪØ±ÙĬ":133568,"å°ijãģªãģĦ":133569,"ĠпоиÑģк":133570,"สำà¸Ļัà¸ģà¸ĩาà¸Ļ":133571,"Ġ×ŀצ×ĵ":133572,"ĠmÃ¼ÅŁ":133573,"ĠmÃ¼ÅŁter":133574,"ĠmÃ¼ÅŁteri":133575,"ĠÙħÙĨÙĩÙħ":133576,"à¸ķำà¹ģ":133577,"à¸ķำà¹ģหà¸Ļ":133578,"à¸ķำà¹ģหà¸Ļà¹Īà¸ĩ":133579,"ÅĽmie":133580,"Ġ×©×ł×ª":133581,"Ġ×Ķפ×Ļ":133582,"פרש":133583,"×¢×ijר×Ļת":133584,"สà¸Ļัà¸ļ":133585,"สà¸Ļัà¸ļสà¸Ļุ":133586,"สà¸Ļัà¸ļสà¸Ļุà¸Ļ":133587,"è¨Ģãģ£ãģ¦":133588,"à¸ģารà¸Īัà¸Ķ":133589,"ĠMoże":133590,"изаÑĨии":133591,"ứt":133592,"ĠÙĪØ¨Ø¹Ø¯":133593,"ĠdeÄŁild":133594,"ĠdeÄŁildir":133595,"Ġת×ŀ":133596,"Ġ×ŀ×ŀ׳×ķ":133597,"話ãĤĴ":133598,"ĠÑĨена":133599,"Ġthúc":133600,"×Ļ×ŀ×ķף":133601,"ĠBáo":133602,"ãĤĴåıĸãĤĬ":133603,"å®īãģĦ":133604,"Ġ×¢×ķש×Ļ×Ŀ":133605,"èĩªåĪĨãģĮ":133606,"lée":133607,"ãĤĭãģ®ãģ§":133608,"иÑĢÑĥеÑĤ":133609,"ãģ¦ãĤĭ":133610,"ستر":133611,"ĠاÙĦØŃÙĬ":133612,"×Ļ׾×ķת":133613,"Ġ×Ĺ×ij":133614,"ÙĤرأ":133615,"تÙħÙĥÙĨ":133616,"سائÙĦ":133617,"prüf":133618,"ãģĭãģijãģ¦":133619,"ĠÑģобÑģÑĤвенно":133620,"ĠìľĦíķĺìŬ":133621,"׾×Ļ×ĺ":133622,"ãģĮå¤ļãģı":133623,"ÙĬتÙĩا":133624,"ç«ĭãģ¦":133625,"มà¸Ńà¸ļ":133626,"ìĭľìŀ¥":133627,"оÑĢа":133628,"ĠsavaÅŁ":133629,"×ĺ×Ļ×ij×Ļ":133630,"×ij׳×ķ":133631,"Ùħاذا":133632,"기ê°Ħ":133633,"ãģªãģ©ãģ§":133634,"Ġ×ŀת×Ĺ×Ļ׾":133635,"Ġnhiá»ħ":133636,"Ġnhiá»ħm":133637,"каÑĢ":133638,"каÑĢÑĤ":133639,"Ġ׾×Ķשת×ŀש":133640,"׳×Ļ×Ĺ":133641,"ادÙĬØ©":133642,"รายà¸ĩาà¸Ļ":133643,"ĠprzykÅĤad":133644,"Ñīий":133645,"ØŃضÙĪØ±":133646,"Ġhôn":133647,"ÃĿ":133648,"ת×ķצ×IJ×ķת":133649,"رابط":133650,"Ġbếp":133651,"ĠполÑĥÑĩи":133652,"åĩºä¼ļãģĦç³»":133653,"à¸Ľà¸¥à¹Īà¸Ńย":133654,"ĠاÙĦشباب":133655,"اÙĩÙĦ":133656,"ä»Ĭãģ¾ãģ§":133657,"رجع":133658,"ãĤ¶ãĥ¼":133659,"ÙĤÙģ":133660,"ĠGroÃŁ":133661,"ĠíļĮìĽIJ":133662,"اجر":133663,"Ġ×ij×ŀקר×Ķ":133664,"Ġsegurança":133665,"fühl":133666,"ãģ¦ãģĦãģı":133667,"หมà¸Ń":133668,"ĠкоÑĤоÑĢом":133669,"ĠNÄĥm":133670,"ĠdÅĤugo":133671,"ÙħÙĨØŃ":133672,"ש×ķ×ķ×Ļ":133673,"ĠØ£ÙĬاÙħ":133674,"à¸ªà¸łà¸²à¸ŀ":133675,"rzÄħ":133676,"شرÙĥات":133677,"ãĤĴèĢĥãģĪ":133678,"даÑĢ":133679,"à¸Ľà¸£à¸°à¸Ĭุม":133680,"Ġ×ķ×IJ×ĸ":133681,"iá»ĩn":133682,"Ġtươi":133683,"ש×Ļ×Ĺ":133684,"à¸Ńà¹Īà¸Ńà¸Ļ":133685,"æĽ¸ãģĦãģ¦":133686,"Ġngữ":133687,"×ij×Ļ×ĺ×Ĺ":133688,"×ij×Ļ×ĺ×Ĺ×ķף":133689,"Ġsẵ":133690,"Ġsẵn":133691,"ì§ĢëıĦ":133692,"ĠпÑĢеп":133693,"ĠпÑĢепаÑĢаÑĤ":133694,"ĠнаÑĥÑĩ":133695,"ĠÃľnivers":133696,"ĠÃľniversites":133697,"ĠÃľniversitesi":133698,"Ġ×Ĵ×ĵ×ķ׾×Ķ":133699,"Ġ×Ķ×ł×ª":133700,"Ġ×Ķ×ł×ª×ij×¢":133701,"ãģ§ãģĤãģ£ãģŁ":133702,"ĠmiesiÄħ":133703,"ĠmiesiÄħc":133704,"гÑĢам":133705,"гÑĢамм":133706,"ĠبشأÙĨ":133707,"ĠÑħÑĢ":133708,"×§×Ļ×ĵ":133709,"×§×Ļ×ĵ×ķ×Ŀ":133710,"Ø´Ùĥر":133711,"Ġá»ķ":133712,"Ġá»ķn":133713,"ãģĮãģĤãģ£ãģ¦":133714,"ãģķãĤĮãģ¾ãģĻ":133715,"Ġ×Ĺ×ķ×ĵ":133716,"Ġ×Ĺ×ķ×ĵש×Ļ×Ŀ":133717,"ÙħÙĪØ§Ø¬Ùĩ":133718,"ÙħÙĪØ§Ø¬ÙĩØ©":133719,"أشخاص":133720,"بغ":133721,"à¹Ģรียà¸Ļรูà¹ī":133722,"ãģĹãģ¦ãģĦãģı":133723,"Ġsạn":133724,"å¿ħãģļ":133725,"׳×Ļ×Ĵ":133726,"׳×Ļ×Ĵ×ķ×ĵ":133727,"باÙĦغ":133728,"×Ĺש×ŀ":133729,"×Ĺש×ŀ׾":133730,"Ġnapraw":133731,"ĠnaprawdÄĻ":133732,"Ø´Ùĩاد":133733,"×IJ×ķ×Ķ":133734,"×IJ×ķ×Ķ×ij":133735,"иÑĨÑĭ":133736,"Ġ×Ķר׼×ij":133737,"ëŀij":133738,"Ġתע":133739,"Ġ×Ķ×Ļש":133740,"Ġ×Ķ×Ļשר×IJ":133741,"Ġ×Ķ×Ļשר×IJ׾×Ļ":133742,"Ø£ÙħÙĨ":133743,"ÑİÑīаÑı":133744,"skór":133745,"LERİ":133746,"Ġ×Ķ×IJ×Ĺר×ķף":133747,"×¢×ł×§":133748,"ĠÙĪÙĥÙĦ":133749,"ãģĵãģĵãģ§":133750,"Ġquán":133751,"liÄŁin":133752,"à¸ģà¸İหมาย":133753,"Ø·Ùħ":133754,"أجÙĩ":133755,"أجÙĩزة":133756,"ĠErdoÄŁan":133757,"ãģ§ãģĬ":133758,"ĠвÑĢа":133759,"ĠвÑĢаÑĩ":133760,"ĠPhó":133761,"à¸Ĭัà¹Īว":133762,"à¸Ĭัà¹Īวà¹Ĥม":133763,"à¸Ĭัà¹Īวà¹Ĥมà¸ĩ":133764,"Ġphúc":133765,"×Ļפ×ķת":133766,"×¢×Ļ×ķף":133767,"Ġdużo":133768,"ãĥģãĥ¼ãĥł":133769,"ĠÙĬÙİ":133770,"ĠзадаÑĩ":133771,"Ġ×Ĵ×ij×ķ×Ķ×Ķ":133772,"Ġ׼׼׾":133773,"ложен":133774,"état":133775,"ĠngÄĥn":133776,"èµ·ãģį":133777,"ĠTiến":133778,"صعب":133779,"Ġexperiência":133780,"Ø®Ùħ":133781,"à¸ģารà¸Ĺำà¸ĩาà¸Ļ":133782,"سÙĬد":133783,"ĠDá»±":133784,"ĠкоÑĤоÑĢого":133785,"ladıģı":133786,"Ġkhá»ķ":133787,"Ġê³ĦìĨį":133788,"Ñīик":133789,"สà¹Īวà¸Ļà¸ķัว":133790,"зоÑĢ":133791,"ÙĨÙı":133792,"Ġà¸Ķัà¸ĩ":133793,"Ġà¸Ķัà¸ĩà¸Ļัà¹īà¸Ļ":133794,"Ġcấu":133795,"ĠÄijá»ijc":133796,"оÑĦ":133797,"ĠاÙĦأعÙħاÙĦ":133798,"ãģªãģıãģ¦ãĤĤ":133799,"×ķ׼×Ļ×Ŀ":133800,"à¹ģà¸Ľ":133801,"ĠBên":133802,"ãĥ¯ãĥ³":133803,"Ġgiám":133804,"ĠÅŀu":133805,"Ġdáng":133806,"عÙĦÙĬ":133807,"à¹Ģà¸ģษ":133808,"à¹Ģà¸ģษà¸ķร":133809,"ÙĪØ¬Ø¨":133810,"ннÑĭе":133811,"ÙĤضاء":133812,"à¸Ħวà¸ļ":133813,"à¸Ħวà¸ļà¸Ħุ":133814,"à¸Ħวà¸ļà¸Ħุม":133815,"ãģ¤ãģ¤":133816,"ĠViá»ĩc":133817,"×ŀ×ij×ĺ":133818,"ש×Ļת×ķ×£":133819,"ĠведÑĮ":133820,"kaza":133821,"kazaÅĤ":133822,"à¸ķำรวà¸Ī":133823,"ãĤ¿ãĥ«":133824,"ĠповÑĭ":133825,"ĠповÑĭÑĪен":133826,"ĠSợ":133827,"ĠìĦ¤ëªħ":133828,"ĠÃĩünkü":133829,"ìĥĿíĻľ":133830,"Ö¾":133831,"ãĤĮãģ¦ãģĦãĤĭ":133832,"Ġ×ijר×IJש":133833,"ר×ķ×Ĵ":133834,"ĠоÑĦи":133835,"ĠоÑĦиÑĨиалÑĮн":133836,"ĠÑĥÑģÑĤанов":133837,"ĠÑĥÑģÑĤановлен":133838,"ĠاÙĦÙħصر":133839,"ĠاÙĦÙħصرÙĬØ©":133840,"ĠÐŁÐ¾ÑįÑĤомÑĥ":133841,"ÙĨصÙģ":133842,"ĠÙĪØ§ÙĦÙĨ":133843,"ĠhÃłi":133844,"à¸Ħิ":133845,"ĠAprès":133846,"ì³IJ":133847,"à¹Ģà¸ĭีย":133848,"×ĵ×ŀ×Ķ":133849,"activité":133850,"à¸Ħิà¸Ķวà¹Īา":133851,"ÑĤÑĢен":133852,"à¹Ģฮ":133853,"ãĥıãĤ¤":133854,"ãģĮå¢ĹãģĪ":133855,"еннаÑı":133856,"Ġìĺ¤ëĬĺ":133857,"ãĥ¢ãĥ³":133858,"ĠконеÑĩно":133859,"ĠÙħÙĤابÙĦ":133860,"clé":133861,"Ġhü":133862,"Ġthẳng":133863,"ìłģìĿ´":133864,"ĠÐIJлекÑģ":133865,"ĠÐIJлекÑģан":133866,"ĠÐIJлекÑģандÑĢ":133867,"ãĥŀãĥ³ãĤ·ãĥ§ãĥ³":133868,"ãģ²ãģ¨ãģ¤":133869,"ãģªãģĬ":133870,"à¹Ģà¸Īà¹īาà¸Ĥà¸Ńà¸ĩ":133871,"ëĵľë¦¬":133872,"شاء":133873,"ĠsaÄŁlık":133874,"ĠÅŁimdi":133875,"×Ļ×IJ׾":133876,"تأثÙĬر":133877,"أسب":133878,"أسباب":133879,"ĠвÑĭполнен":133880,"лок":133881,"ש×Ļ×ij×Ķ":133882,"Ġlắm":133883,"ĠTrÆ°á»Ľc":133884,"Ġ×Ķ×¢×ľ":133885,"리를":133886,"ĠÑĢеж":133887,"ĠÑĢежим":133888,"inté":133889,"intégr":133890,"×Ĵ׳×Ļ":133891,"ĠاÙĦشعر":133892,"Ġmilhões":133893,"Ġpequeño":133894,"ãĤ³ãĥ¼ãĤ¹":133895,"×ķ׼×Ĺ":133896,"à¹Ģà¸Ĭà¹īา":133897,"شرÙĤ":133898,"Ġhương":133899,"รัà¸IJà¸ļาล":133900,"à¸ģลาย":133901,"à¸ģลายà¹Ģà¸Ľà¹ĩà¸Ļ":133902,"ĠподÑħод":133903,"תש×ķ×ij×Ķ":133904,"ãģıãģªãģ£ãģ¦":133905,"ĠاÙĦØ£ÙħÙħ":133906,"ĠHá»įc":133907,"ĠwspóÅĤpr":133908,"ĠwspóÅĤprac":133909,"ÑĩÑĥв":133910,"ÑĩÑĥвÑģÑĤв":133911,"ÃŃstico":133912,"à¹Ģà¸ģาะ":133913,"ìĽĢ":133914,"Ġназад":133915,"ãĤĭãĤĪãģĨãģ«":133916,"ĠСШ":133917,"ĠСШÐIJ":133918,"мон":133919,"ĠAsÃŃ":133920,"×ķר×Ĵ":133921,"полнен":133922,"×ŀ×¡×ľ":133923,"×ŀ×¡×ľ×ķ׾":133924,"à¹Ģลืà¸Ńà¸Ķ":133925,"à¹Ģริà¹Īมà¸ķà¹īà¸Ļ":133926,"ĠاÙĦØ¥Ùħ":133927,"ĠاÙĦØ¥Ùħارات":133928,"צ×Ķר":133929,"ãĥ¡ãĥªãĥĥãĥĪ":133930,"ĠпоÑĤом":133931,"виз":133932,"ĠÙģØªØ±Ø©":133933,"å¾Įãģ®":133934,"ÐĿÐIJ":133935,"×ŀסר":133936,"ÙĬرÙĬ":133937,"pré":133938,"ĠteÅŁek":133939,"ĠteÅŁekkür":133940,"Ġödeme":133941,"داÙĨ":133942,"ãģ¾ãģĹãģ¦":133943,"缮ãģ«":133944,"ĠÑĤеÑĩение":133945,"lard":133946,"lardır":133947,"à¹Ģราà¸Īะ":133948,"ספ×Ļ":133949,"ĠÙĪÙĥذÙĦÙĥ":133950,"Ġhát":133951,"Ġtá»Ļc":133952,"à¸Ħุย":133953,"Ġbức":133954,"ØŃÙĬÙĨ":133955,"èģŀãģĦãģ¦":133956,"Ùħؤشر":133957,"ĠNhư":133958,"Ġменее":133959,"ละà¸Ħร":133960,"Ñģин":133961,"ĠÑĢек":133962,"ĠÑĢекл":133963,"ĠÑĢеклам":133964,"ĠÙģÙĩÙĪ":133965,"Ġ׾×ĸ":133966,"×Ļ׳×ķת":133967,"ĠÅŁart":133968,"ÑģÑĤавка":133969,"Ġíı¬íķ¨":133970,"ãģ«è¡Įãģı":133971,"ï¼Ŀ":133972,"ĠпозволÑıеÑĤ":133973,"Ġת×ķ׼׾×ķ":133974,"овал":133975,"صÙĦØ©":133976,"Ġ׾ש׳×ķת":133977,"ĠÐĺгÑĢ":133978,"ÙħÙĨتجات":133979,"ĠsatÄ±ÅŁ":133980,"Ñģко":133981,"ĠاÙĦØ«ÙĦاثاء":133982,"Ġ×Ķ×ĵ×ijר×Ļ×Ŀ":133983,"ãģĹãģ¾ãģĹãĤĩãģĨ":133984,"بÙĤÙī":133985,"åĬĽãĤĴ":133986,"ĠÃĩok":133987,"ãĥģãĥ¥":133988,"à¹Ģà¸Ĭืà¹īà¸Ń":133989,"ยุà¸Ħ":133990,"ศาล":133991,"Ġ×§×ķ×ĵ×Ŀ":133992,"×ĸר×Ļ×Ŀ":133993,"ãģ®åł´åIJĪ":133994,"ĠìķĬìķĺ":133995,"ãģĤãĤĬãģ¾ãģĻãģĮ":133996,"×IJשר":133997,"è¡Įãģı":133998,"ãģ»ãģĭ":133999,"æ°Ĺãģ«ãģªãĤĭ":134000,"йдеÑĤ":134001,"íķĺìĺĢëĭ¤":134002,"ستÙħرار":134003,"ĠÐŁÑĢе":134004,"ĠÑģбоÑĢ":134005,"ĠìķĦ무":134006,"ç§ģãĤĤ":134007,"عص":134008,"ĠниÑĩ":134009,"ĠниÑĩего":134010,"ĠпÑĢием":134011,"×§×ķ×ŀ":134012,"ĠìĪĺëıĦ":134013,"Ġì¡´":134014,"Ġì¡´ìŀ¬":134015,"ĠأثÙĨ":134016,"ĠأثÙĨاء":134017,"ĠÙĪØ§ÙĦØŃ":134018,"ãģĮãģ§ãģįãĤĭ":134019,"Ġת×Ķ":134020,"Ġת×Ķ×Ļ×Ķ":134021,"רף":134022,"ĠÑģвÑıзи":134023,"×Ĵשת":134024,"ÑģпекÑĤ":134025,"ס×ij×Ļ×ij":134026,"ס×ij×Ļ×ij×Ķ":134027,"ĠíķĦìļĶíķľ":134028,"تخصص":134029,"Ġжив":134030,"ĠживоÑĤ":134031,"ĠMayıs":134032,"تعا":134033,"تعاÙĪÙĨ":134034,"ĠعÙĨÙĩا":134035,"ówki":134036,"ĠاÙĦÙģÙĦسطÙĬÙĨÙĬ":134037,"ãģłãģijãģ§ãģªãģı":134038,"ìĿ¸ì§Ģ":134039,"ĠاÙĦسÙĪØ¯":134040,"ĠاÙĦسÙĪØ¯Ø§ÙĨ":134041,"إجراءات":134042,"Ġkötü":134043,"Ġ×Ļתר":134044,"×Ĵ×Ļש×Ķ":134045,"Ġצ×ķר×ļ":134046,"รà¸ĸย":134047,"รà¸ĸยà¸Ļà¸ķà¹Į":134048,"ÑħоÑĤ":134049,"ÐłÐIJ":134050,"ÙĪØ·ÙĨ":134051,"Ġsayısı":134052,"ס×Ĺר":134053,"ÙħÙĪÙĦ":134054,"ãĤĴæĮģãģ£ãģ¦":134055,"عاÙĨ":134056,"Ġtá»Ļi":134057,"ĠвÑĭÑĪе":134058,"Ġtầm":134059,"ãĥĪãĥ¬":134060,"×Ļצ×ķ":134061,"มุม":134062,"سÙĪØ¯":134063,"ìłĦìŀIJ":134064,"ãĤµãĥŃãĥ³":134065,"ìĤ°ìĹħ":134066,"ĠоÑģнован":134067,"Ø®Ù쨶":134068,"רצ×Ķ":134069,"بÙĬض":134070,"×ķÖ¹":134071,"ס×Ļ×Ļ×¢":134072,"Ġש×IJ×Ļ":134073,"ĠاÙĦÙĤرآÙĨ":134074,"ĠТакже":134075,"×ŀש×ŀ×¢×ķת":134076,"سÙĩÙĦ":134077,"Ġ×Ķ׳×Ķ":134078,"ãĤĴãģĹãģ¦ãģĦãĤĭ":134079,"×Ļ×Ļס":134080,"×Ķ×ķ×IJ":134081,"ĠBÃŃ":134082,"Ġмало":134083,"ĠëͰëĿ¼ìĦľ":134084,"Ġר×Ĺ×ij":134085,"ãģĮé«ĺãģĦ":134086,"ÙĪØ§Ø³":134087,"ìĤ¼":134088,"×ł×¢":134089,"ãģ£ãģ¡ãĤĥ":134090,"ĠTüm":134091,"à¸Ńีà¸ģà¸Ķà¹īวย":134092,"ãģĹãģ¦ãģıãģłãģķãģĦ":134093,"ÙĨشاط":134094,"ãĥĹãĥ©ãĥ³":134095,"алиÑģÑĮ":134096,"×ĵ×ľ×ª":134097,"ĠwczeÅĽ":134098,"ĠwczeÅĽniej":134099,"ĠÑįÑĤим":134100,"Ġthá»ĭt":134101,"à¸ļัà¸į":134102,"à¸ļัà¸įà¸Ĭี":134103,"ãģļãģ£ãģ¨":134104,"ÑĢин":134105,"ĠswojÄħ":134106,"íķĺëĬĶëį°":134107,"Ġë§Įëĵ¤ìĸ´":134108,"تشÙĥ":134109,"تشÙĥÙĬÙĦ":134110,"ائÙĩ":134111,"Ġ׾פ×Ĺ×ķת":134112,"ãĥĭãĥ¥":134113,"ãĥĭãĥ¥ãĥ¼ãĤ¹":134114,"׼×IJף":134115,"ãģ§ãģįãģŁ":134116,"звон":134117,"ĠstaÅĤ":134118,"×Ĺ×ijרת×Ļ":134119,"ĠأعÙĦÙĨ":134120,"à¹ģà¸ļà¸ļà¸Ļีà¹ī":134121,"بدء":134122,"ãĤģãģŁ":134123,"Ġ×ŀש×ŀ×¢×ķת":134124,"Ġ×ŀש×ŀ×¢×ķת×Ļ":134125,"örü":134126,"Ġhạnh":134127,"zähl":134128,"ĠLý":134129,"Ġ×ij×Ķת":134130,"Ġ×ij×Ķת×IJ×Ŀ":134131,"баÑĢ":134132,"ì¦Ī":134133,"ä»ĬåĽŀãģ®":134134,"Ġyü":134135,"Ġyüks":134136,"Ġyüksel":134137,"ãĤ½ãĥ¼":134138,"ãģĤãĤĮ":134139,"×ª×ľ×ŀ×Ļ×ĵ":134140,"ãģ¤ãģª":134141,"×ij׳×Ļ×Ŀ":134142,"Ġxếp":134143,"ĠмÑĥжÑĩин":134144,"ĠاÙĦÙĥتاب":134145,"׼×ŀ×ķת":134146,"Ġçe":134147,"ĠçeÅŁ":134148,"ĠçeÅŁit":134149,"ĠçeÅŁitli":134150,"×ĵ×Ļר×ķת":134151,"à¸ļุà¸į":134152,"ĠاÙĦØ¥ÙĦÙĥ":134153,"ĠاÙĦØ¥ÙĦÙĥترÙĪ":134154,"ĠاÙĦØ¥ÙĦÙĥترÙĪÙĨÙĬ":134155,"ĠباÙĦإض":134156,"ĠباÙĦإضاÙ쨩":134157,"Ġyönel":134158,"Ġyönelik":134159,"mysÅĤ":134160,"à¸Ķà¹īวยà¸ģาร":134161,"à¸ģารà¸Ĺำ":134162,"овÑĭм":134163,"أزÙħØ©":134164,"æİ¢ãģĹ":134165,"íļ¨":134166,"Ġ×ķ×IJ×Ŀ":134167,"Ġnghiêm":134168,"ÑĪин":134169,"кал":134170,"Ġcrianças":134171,"èĩªåĪĨãģ§":134172,"Ġнай":134173,"ĠнайÑĤи":134174,"ĠSá»ij":134175,"ĠÃ¶ÄŁrenciler":134176,"ãĥ¶æľĪ":134177,"Ñģан":134178,"ĠJá":134179,"ĠkonuÅŁma":134180,"شرط":134181,"ëĪĪ":134182,"arrière":134183,"ضرÙĪØ±Ø©":134184,"ãĥĶãĥ³":134185,"עשר":134186,"аÑĢÑĮ":134187,"جÙħاع":134188,"Ġdéco":134189,"Ġ×Ļ×Ķ×ķ×ĵ×Ļ":134190,"à¸ŀลาà¸Ķ":134191,"ĠÙĬÙĥÙĨ":134192,"ĠجاÙħعة":134193,"طبÙĤ":134194,"ĠboÅŁ":134195,"×ķ×ķ×IJ":134196,"×ŀ×ĵ×¢":134197,"×§×ij×ķצת":134198,"פ×Ļר":134199,"jÄħcym":134200,"Ùħشا":134201,"ÙħشاÙĥÙĦ":134202,"צפ×ķף":134203,"إست":134204,"×ŀ׼ר":134205,"سÙħع":134206,"Ġкакой":134207,"ÑĤвоÑĢ":134208,"ØŃج":134209,"ÙģØ±Ø¶":134210,"пÑĢавлен":134211,"Ġникак":134212,"Ġmiá»ĩ":134213,"Ġmiá»ĩng":134214,"Ã¼ÃŁ":134215,"иÑĢовал":134216,"׾×ŀ×ķת":134217,"次ãģ®":134218,"ÙĦØ·":134219,"à¸ķัà¸Ļ":134220,"×Ķת×Ĺ×Ļ׾":134221,"ĠfotoÄŁ":134222,"ĠfotoÄŁraf":134223,"طرØŃ":134224,"à¸Ńà¸Ńà¸ģà¹Ħà¸Ľ":134225,"Ġyên":134226,"Ġпок":134227,"ĠпокÑĥп":134228,"ĠпокÑĥпа":134229,"ÑĨÑĥ":134230,"ĠкомпÑĮÑİ":134231,"ĠкомпÑĮÑİÑĤеÑĢ":134232,"ĠاÙĦÙĥرÙĬÙħ":134233,"تصÙħ":134234,"تصÙħÙĬÙħ":134235,"Ġоказа":134236,"Ġzarówn":134237,"Ġzarówno":134238,"ëĮĢì¶ľ":134239,"ãĤ»ãĥ³ãĤ¿ãĥ¼":134240,"ĠjakoÅĽci":134241,"æĤ©":134242,"æĤ©ãģ¿":134243,"Ø£ÙĨÙĪ":134244,"Ø£ÙĨÙĪØ§Ø¹":134245,"ë¹ł":134246,"Ġìłķë§IJ":134247,"Ġkẻ":134248,"ĠÑģайÑĤа":134249,"Ġ×Ķער×ij":134250,"Ùĩز":134251,"presión":134252,"ĠÑģÑĤен":134253,"ãģ£ãģ¦ãĤĭ":134254,"Ġhızlı":134255,"ÐļÐIJ":134256,"×ŀשפ×Ĺת":134257,"ĠÙĨÙĩا":134258,"ĠÙĨÙĩاÙĬØ©":134259,"ãģ¾ãģĦ":134260,"оÑħÑĢан":134261,"รà¹īà¸Ńย":134262,"ลึà¸ģ":134263,"ĠÙĪØ¨Ø§ÙĦ":134264,"ãĤĤãģ®ãģĮ":134265,"ר׼×Ļ×ij":134266,"ãĤ¤ãĥ¤":134267,"سؤ":134268,"سؤاÙĦ":134269,"ĠÙĦØ£ÙĨÙĩ":134270,"ĠkonuÅŁtu":134271,"ÐļÑĥпиÑĤÑĮ":134272,"Ġש×IJת×Ķ":134273,"ĠÙĪØ§ÙĦس":134274,"ĠmożliwoÅĽci":134275,"Ġprób":134276,"ëͰ":134277,"ãģ©ãĤĮ":134278,"ĠÐľÐ¸Ð½":134279,"ĠоÑĢганизм":134280,"ãģ«å¯¾ãģĻãĤĭ":134281,"ĠPré":134282,"Ġprivé":134283,"chè":134284,"ãģĦãģŁãģłãģį":134285,"สà¸Ļุà¸ģ":134286,"ajÄħce":134287,"ĠDzi":134288,"ĠDziÄĻki":134289,"ÅĤatw":134290,"rän":134291,"ränk":134292,"æĿ¥ãģŁ":134293,"Ġ×Ķ×Ļ×Ķ×ķ×ĵ×Ļ":134294,"ãĤ¬ãĥ¼":134295,"ĠÑĢад":134296,"ĠÑĢади":134297,"кÑĤив":134298,"Ø£Ùĩد":134299,"Ø£ÙĩداÙģ":134300,"ש×IJ×Ļר":134301,"ãģ¦ãģĦãģªãģĦ":134302,"Ġfrüh":134303,"Ġокол":134304,"Ġоколо":134305,"Ġregião":134306,"ĠÑĩиÑģле":134307,"Ġponiew":134308,"Ġponieważ":134309,"ìĦ¼íĦ°":134310,"Ġbầu":134311,"Ġê·":134312,"Ġê·ľ":134313,"Ġê·ľìłķ":134314,"ĠHòa":134315,"ĠÑĤоÑĤ":134316,"ãĤĤå¤ļãģĦ":134317,"ĠاÙĦإسÙĦاÙħÙĬØ©":134318,"ãģĭãģĦ":134319,"Ñįн":134320,"ĠÑĥказан":134321,"ĠÑĤакое":134322,"ï¼³":134323,"ëĮĢíķĻ":134324,"ĠgeniÅŁ":134325,"ĠاÙĦØ®ÙĬ":134326,"ĠاÙĦØ®ÙĬارات":134327,"ãĤĴè¡ĮãģĨ":134328,"ש×ŀ×Ķ":134329,"ĠLÃłm":134330,"ÙĪÙĨÙĬ":134331,"Ġ×IJ׾×Ļ×ķ":134332,"Äĺ":134333,"à¹Ħมà¹Īสามารà¸ĸ":134334,"人ãģ¨":134335,"برز":134336,"×Ļס×ķ×ĵ":134337,"×Ĵ׾×Ļ":134338,"ĠÙĬÙĨا":134339,"ĠÙĬÙĨاÙĬر":134340,"ĠкаÑĢÑĤин":134341,"Ġtôn":134342,"à¹Ģà¸ģร":134343,"à¸Ħà¸Ķี":134344,"Ġ׾×IJ×ķר×ļ":134345,"ãĤĤãĤīãģĨ":134346,"ãģĭãģĭãĤĭ":134347,"ании":134348,"ĠaraÅŁtırma":134349,"ÙĦاØŃظ":134350,"ãģĦãĤĦ":134351,"ĠTÃłi":134352,"Ġà¸Ļà¸Ńà¸ģà¸Īาà¸ģ":134353,"Ġà¸Ļà¸Ńà¸ģà¸Īาà¸ģà¸Ļีà¹ī":134354,"ĠÄIJảng":134355,"ãģ£ãģ¦ãģįãģŁ":134356,"Ġà¸ĭึà¹Īà¸ĩà¹Ģà¸Ľà¹ĩà¸Ļ":134357,"Ġtả":134358,"ĠmożliwoÅĽÄĩ":134359,"ĠSản":134360,"Ġİki":134361,"Ġcắt":134362,"سأÙĦ":134363,"Ġbakım":134364,"شب":134365,"à¸ķีà¹ī":134366,"à¸ŀยาย":134367,"à¸ŀยายาม":134368,"à¸ªà¸±à¸Ľ":134369,"à¸ªà¸±à¸Ľà¸Ķา":134370,"à¸ªà¸±à¸Ľà¸Ķาหà¹Į":134371,"ë°Ģ":134372,"еÑĢÑĭ":134373,"Ġcánh":134374,"Ġthuế":134375,"تبع":134376,"ãģ«åħ¥ãĤĮ":134377,"ÑİÑģÑĮ":134378,"íļĮìĿĺ":134379,"ç°¡åį":134380,"ç°¡åįĺ":134381,"ç°¡åįĺãģ«":134382,"Ġtrúc":134383,"ĠاÙĦÙĥÙĪÙĬ":134384,"ĠاÙĦÙĥÙĪÙĬت":134385,"ãĤıãģijãģ§ãģĻ":134386,"ĠÑģвоб":134387,"ĠÑģвобод":134388,"ĠÑĥÑĩаÑģÑĤник":134389,"สิà¹īà¸Ļ":134390,"ĠпÑĢоÑĦеÑģÑģиона":134391,"ĠпÑĢоÑĦеÑģÑģионалÑĮн":134392,"ÑģпоÑĢ":134393,"×Ĺ×ķ×ij×Ķ":134394,"ÙħعÙĨÙī":134395,"ĠاÙĦÙģØªØ±Ø©":134396,"สูà¸ĩสุà¸Ķ":134397,"ãĤıãģļ":134398,"ĠÄijè":134399,"ĠÄijèn":134400,"æ¯Ķãģ¹":134401,"าà¸ĺิ":134402,"Ġmożemy":134403,"à¹ģà¸ĭ":134404,"à¸Īะà¹Ħมà¹Ī":134405,"Ġsắp":134406,"ÐļÐŀ":134407,"Ġpráctica":134408,"ÙĪÙĥاÙĦØ©":134409,"è¾¼ãĤĵãģ§":134410,"ológica":134411,"ĠеÑī":134412,"ĠеÑīÑij":134413,"تعدÙĬÙĦ":134414,"ĠØ£Ùĥد":134415,"Ġצר×Ļ׼":134416,"Ġצר×Ļ׼×Ļ×Ŀ":134417,"Ø«Ùħ":134418,"ĠкÑĢÑĥ":134419,"ĠкÑĢÑĥп":134420,"×ij×Ļ×§×ķרת":134421,"Ġì¡°ê¸Ī":134422,"ãģ¨ãģįãģ¯":134423,"Ġbạc":134424,"ĠÑĢаÑģпол":134425,"ĠÑĢаÑģполож":134426,"ĠÑĢаÑģположен":134427,"زÙĬÙĨ":134428,"ĠÐļÑĢоме":134429,"ĠاÙĦÙĨظر":134430,"×Ķ×ķ×ĵ":134431,"ĠاÙĦسبت":134432,"ã썿ĢĿãģĦ":134433,"ĠpaÅĦst":134434,"ĠpaÅĦstw":134435,"ĠÙĦÙĬست":134436,"ĠбÑĥдÑĥ":134437,"à¸Ĺัà¸Ļà¸Ĺี":134438,"ราม":134439,"ØŃصÙĪÙĦ":134440,"ãģĹãģ¦ãģıãĤĮãĤĭ":134441,"ĠاÙĦإسرائÙĬÙĦ":134442,"ĠاÙĦإسرائÙĬÙĦÙĬ":134443,"ãģĵãĤĮãģ¾ãģ§":134444,"ìĤ¬ë¥¼":134445,"Ġsürü":134446,"à¹Ģวà¸Ńรà¹Į":134447,"à¹Ģà¸ĭà¸Ńรà¹Į":134448,"Ġutilisé":134449,"ĠÑģиÑģÑĤема":134450,"Ġdwó":134451,"Ġdwóch":134452,"Ġpróprio":134453,"Ġëĵ±ìĿĦ":134454,"arrêt":134455,"ĠЧа":134456,"×IJ×ŀ׳×ķת":134457,"عارض":134458,"à¹Ģà¸ģมสà¹Į":134459,"Ġ׾×Ķ×ij×Ļף":134460,"Ġ׾×ij×Ĺ":134461,"Ġ׾×ij×Ĺ×ķר":134462,"สาà¸Ĥา":134463,"ĠÐľÐ¾Ñģкве":134464,"بعد":134465,"ĠاÙĦÙĤرار":134466,"ĠÄIJá»ĭa":134467,"Ġ×Ĺ×Ĵ":134468,"ÙģØªØ±":134469,"ÙĪÙĨØ©":134470,"Ġ×Ķ×ĸ×IJת":134471,"å¸Ĥãģ®":134472,"ãģ»ãģĹãģĦ":134473,"Ġ×ij×¢×Ļר":134474,"ĠÑĤепеÑĢÑĮ":134475,"ìĬµëĭĪê¹Į":134476,"à¹Ħมà¹Īว":134477,"à¹Ħมà¹Īวà¹Īา":134478,"à¹Ħมà¹Īวà¹Īาà¸Īะ":134479,"×ŀ×IJ×Ķ":134480,"æĥħåł±":134481,"æĥħåł±ãĤĴ":134482,"غÙĨ":134483,"ĠпоÑı":134484,"ĠпоÑıви":134485,"éģİãģĶ":134486,"تشغ":134487,"تشغÙĬÙĦ":134488,"вел":134489,"Ġ×Ĺ×ŀ":134490,"ãģ¨ãģªãĤĬãģ¾ãģĻ":134491,"ĠraÄŁ":134492,"ĠraÄŁmen":134493,"ãģĭãģ©ãģĨ":134494,"ãģĭãģ©ãģĨãģĭ":134495,"енко":134496,"ì§Ģê³ł":134497,"Ġ×IJ׾×Ļ×Ķ":134498,"ĠØ£ÙĦ":134499,"à¸Īำหà¸Ļ":134500,"à¸Īำหà¸Ļà¹Īาย":134501,"nızı":134502,"Ġ׾ק×Ĺת":134503,"Ø£ÙĩÙħ":134504,"Ø£ÙĩÙħÙĬØ©":134505,"تغÙĬر":134506,"ש×Ĺר":134507,"ס×ķפר":134508,"×ĵ×Ļר":134509,"èī¯ãģĭãģ£ãģŁ":134510,"×ŀ׾×Ĺ×ŀ×Ķ":134511,"ÑģÑĤвие":134512,"ÑĤÑĢаÑĤ":134513,"ĠاÙĦأخ":134514,"ĠاÙĦأخÙĬرة":134515,"ĠاÙĦØŃصÙĪÙĦ":134516,"Ġcrédito":134517,"צ×Ļ×¢":134518,"ãĥ¬ãĥĻãĥ«":134519,"برÙĬ":134520,"ëIJIJ":134521,"ãģłãģ£ãģ¦":134522,"ĠrealtÃł":134523,"سÙ쨱":134524,"×ķ׳×ķ":134525,"×Ĵ×ķ×ĵ":134526,"×Ĵ×ķ×ĵ׾":134527,"ฮา":134528,"ãģĹãģ¦ãģĬãĤĬãģ¾ãģĻ":134529,"ĠgÃł":134530,"Ġ׾×ijצע":134531,"å¼ķè¶ĬãģĹ":134532,"Ġ×ŀ×Ļ׾×Ļ":134533,"Ġ×ŀ×Ļ׾×Ļ×ķף":134534,"Ùħدر":134535,"Ùħدرسة":134536,"פ×ķ×ĺ":134537,"à¸Ļà¹īำมัà¸Ļ":134538,"ëģĿ":134539,"عÙĥس":134540,"ĠÙĤض":134541,"ĠÑĢÑĭб":134542,"خطط":134543,"×ŀ×ķס×ĵ":134544,"Ġ׼׾׾×Ļ":134545,"ĠкоÑĤоÑĢое":134546,"צ×Ļ×ķף":134547,"ĠмеÑģÑĤа":134548,"ãģĭãģ¤":134549,"гÑĢÑĥпп":134550,"׾×Ļ׾":134551,"ת×ķ×IJר":134552,"ë³µì§Ģ":134553,"à¹ģà¸ľà¹Īà¸Ļ":134554,"Ġ×ijעת":134555,"æĻĤéĸĵãĤĴ":134556,"ï¼£":134557,"ãģ¨ãģĦãģĨãģĵãģ¨ãģ§":134558,"Ġ׾×Ķ×§":134559,"Ġ׾×ĸ×Ķ":134560,"ĠìłĢëĬĶ":134561,"ĠاÙĦإرÙĩاب":134562,"ĠìŀĪëĬĶëį°":134563,"ĠÑĤогда":134564,"Ġ×Ķצ×Ļ":134565,"×ķ׾×ĺ":134566,"Ġרפ×ķ×IJ×Ļ":134567,"ãģĵãģ¨ãģ§ãģĻ":134568,"ĠÄijÃŃch":134569,"ØŃÙĬا":134570,"Ġ×Ķ×ŀש×Ĺ×§":134571,"ãģľãģ²":134572,"Ġ×ŀ×IJפשר":134573,"ãģ¿ãģ¾ãģĹãģŁ":134574,"ĠاÙĦØ£ÙħÙĬرÙĥÙĬ":134575,"ÙħجتÙħع":134576,"Ġساب":134577,"ĠسابÙĤ":134578,"׼×Ļ׾":134579,"Ế":134580,"ãĥªãĤ¹ãĥĪ":134581,"Ġìĥ":134582,"ĠìĥĪ":134583,"ĠìĥĪë¡ľ":134584,"ĠìĥĪë¡ľìļ´":134585,"ĠDá»ĭch":134586,"à¹Ģหมาะสม":134587,"ĠاÙĦÙĨبÙĬ":134588,"׾׾":134589,"ÙĨع":134590,"Ðĵлав":134591,"ÐĵлавнаÑı":134592,"Ùħرض":134593,"Ġ×ķ×ĵ":134594,"تÙĤÙĬ":134595,"تÙĤÙĬÙĬÙħ":134596,"Ġbảng":134597,"ĠÙģÙĤاÙĦ":134598,"×¢×ŀ×Ļ":134599,"дÑĢа":134600,"Ġsuá»ijt":134601,"سرعة":134602,"Ġcá»Ń":134603,"Ġ×Ķ×Ļ×Ĺ×Ļ×ĵ":134604,"سعÙĬد":134605,"à¸Ńาà¸Ĭีà¸ŀ":134606,"ĠسÙĪØ§Ø¡":134607,"ãĤ½ãĥķãĥĪ":134608,"ĠлиÑĩно":134609,"ĠÐļоÑĢ":134610,"اÙĩتÙħ":134611,"اÙĩتÙħاÙħ":134612,"à¸Ńà¸Ķี":134613,"à¸Ńà¸Ķีà¸ķ":134614,"ãģIJãĤīãģĦ":134615,"Ġihtiya":134616,"Ġihtiyaç":134617,"ãģ¾ãģ§ãģ®":134618,"ìĭľìĬ¤":134619,"ìĭľìĬ¤íħľ":134620,"ÑĢÑĥÑĪ":134621,"ãĤĦãģ£ãģ±":134622,"ãĤĦãģ£ãģ±ãĤĬ":134623,"кеÑĢ":134624,"Ġży":134625,"Ġżyw":134626,"клон":134627,"Ġlượt":134628,"þ":134629,"даÑĩи":134630,"türk":134631,"غÙĪ":134632,"ĠигÑĢок":134633,"Ġphê":134634,"Ġ×©×¢×ľ":134635,"ĠاÙĦÙħدÙĨÙĬ":134636,"ĠìŬ룬ë¶Ħ":134637,"ער×Ļ×Ŀ":134638,"ÑħодÑıÑĤ":134639,"Ġxứ":134640,"ÐĹа":134641,"ĠÙģØ±Øµ":134642,"à¸Īะà¸Ĺำà¹ĥหà¹ī":134643,"íģ´":134644,"×¢×ij×ķר":134645,"à¹Ģหลà¹Īาà¸Ļีà¹ī":134646,"èĢĥãģĪãĤĭ":134647,"ÑĢеÑģÑĤ":134648,"ннÑĭй":134649,"Ġcầm":134650,"داخÙĦ":134651,"ĠÙħÙĦÙĬار":134652,"ĠÐIJл":134653,"ĠвÑĢемен":134654,"à¸Ĭà¹Īวยà¹ĥหà¹ī":134655,"ר×Ļ×ķת":134656,"ëĵ¯":134657,"飲ãģ¿":134658,"׳׾":134659,"שתף":134660,"ĠاÙĦسعÙĪØ¯ÙĬ":134661,"uÃŁ":134662,"ìĿ¸ëį°":134663,"ĠìĿ¼ë°ĺ":134664,"ÅĤÄĻ":134665,"Ġmá»iji":134666,"×ŀ×Ļ׳":134667,"ĠاÙĦأطÙ쨧ÙĦ":134668,"Ġçıkan":134669,"école":134670,"×§×Ļש":134671,"×§×Ļש×ķר":134672,"ĠоÑģÑĥÑīеÑģÑĤв":134673,"ĠоÑģÑĥÑīеÑģÑĤвлÑı":134674,"×ij×IJר":134675,"à¹Ħà¸Ľà¸Ķà¹īวย":134676,"Ġ×¢×ķ׾×Ķ":134677,"à¸ģà¹ĩà¹Ħมà¹Ī":134678,"ãĥ¢ãĥĩ":134679,"ãĥ¢ãĥĩãĥ«":134680,"تØŃÙĪÙĦ":134681,"Ġодного":134682,"ת×Ĺ×Ļ×ľ×ª":134683,"Ġتخ":134684,"Ġchcia":134685,"ĠchciaÅĤ":134686,"ãĥIJãĥ³":134687,"èĢħãģ¯":134688,"ĠÙħØŃÙĦ":134689,"Ñģлож":134690,"Ñģложн":134691,"ĠtÄĻ":134692,"Ġçıkt":134693,"Ġçıktı":134694,"ĠCÆ¡":134695,"à¹Ħà¸Ķà¹īà¹Ģลย":134696,"ırken":134697,"à¹Ģà¸Ĥà¹īาสูà¹Ī":134698,"ÙħØŃÙĥ":134699,"ÙħØŃÙĥÙħØ©":134700,"à¸Ħุà¹īม":134701,"à¸Ļà¹Īาà¸Īะ":134702,"лÑİд":134703,"деÑģÑı":134704,"деÑģÑıÑĤ":134705,"ĠлÑİбой":134706,"تØŃرÙĬر":134707,"צע×ĵ":134708,"ĠеÑij":134709,"ĠاÙĦØŃÙĥÙħ":134710,"ĠصباØŃ":134711,"à¹Ģà¸ļà¸Ńรà¹Į":134712,"Ġróżnych":134713,"гиб":134714,"ĠÑģоÑĤ":134715,"ĠÑģоÑĤÑĢÑĥд":134716,"ĠÑģоÑĤÑĢÑĥдник":134717,"ĠобÑĬем":134718,"פ×ĺר":134719,"ãģĻãģĶãģı":134720,"ãģ«éĸ¢ãģĹãģ¦":134721,"вол":134722,"Ø«ÙħاÙĨ":134723,"Ġdần":134724,"æĬľ":134725,"æĬľãģij":134726,"Ġעש":134727,"Ġעש×ķ×Ļ":134728,"ס×ķף":134729,"ãģªãģ®ãģ§ãģĻ":134730,"ãģ¯ãģ©ãģĨ":134731,"×ŀער×ij":134732,"ï¼°":134733,"Ùħصر":134734,"ÙħÙĨاسب":134735,"ÙħÙĨاسبة":134736,"ä¸Ĭãģ®":134737,"×IJ×Ļש×ķר":134738,"ĠìĦ¤ì¹ĺ":134739,"×ŀ×ĵ×Ļ׳×ķת":134740,"×ŀרת":134741,"ãĤĭãģ®ãģĮ":134742,"دÙİ":134743,"ĠاÙĦشرÙĥات":134744,"ìĭľê°Ħ":134745,"ĠÑĢеÑĪение":134746,"ãģĻãĤĭãģ®ãģ¯":134747,"ĠìŀIJìĭłìĿĺ":134748,"׾×ŀ×ķ":134749,"ãģ¨ãģĵãĤįãģ§":134750,"Ġקצר":134751,"Ġmãi":134752,"Ġkültür":134753,"ãĥ©ãĤ¤ãĥĸ":134754,"à¸ľà¸¹à¹īหà¸įิà¸ĩ":134755,"æĻĤéĸĵãģĮ":134756,"клÑİÑĩи":134757,"diÄŁiniz":134758,"มาà¸ģà¹Ĩ":134759,"تØŃÙħÙĦ":134760,"Ġhạt":134761,"ãĤ¦ãĤ£":134762,"пле":134763,"×ŀ׾×IJ":134764,"ÅĤó":134765,"Ġgá»ijc":134766,"Ġ×IJ×ķ×ĵ×ķת":134767,"หวาà¸Ļ":134768,"ĠاÙĦÙĪØ²":134769,"ĠاÙĦÙĪØ²Ø±Ø§Ø¡":134770,"ëĵ¤ê³¼":134771,"ĠصØŃ":134772,"ĠصØŃÙĬÙ쨩":134773,"Ġмм":134774,"تدخÙĦ":134775,"Ġpersönlich":134776,"ĠزÙĬ":134777,"ĠزÙĬادة":134778,"ãĤ·ãĤ¢":134779,"Ġngắn":134780,"à¸Ħลิà¸ģ":134781,"Ġsông":134782,"Ġtüket":134783,"ÑįÑĦÑĦ":134784,"ÑįÑĦÑĦекÑĤ":134785,"ש×Ļ×ij":134786,"Ġاعت":134787,"تض":134788,"تضÙħÙĨ":134789,"ĠاÙĦÙħشرÙĪØ¹":134790,"Ġprodução":134791,"ĠпÑĢименÑı":134792,"ниÑĨÑĭ":134793,"주ëĬĶ":134794,"رÙı":134795,"ĠmÆ¡":134796,"Ġhayatı":134797,"ëŁ½":134798,"Ġücret":134799,"Ġyanında":134800,"Ġprática":134801,"×ij×Ļ×§×ķר":134802,"ÃľN":134803,"ÑģоÑĤ":134804,"ãĤıãģijãģ§":134805,"Ġдолго":134806,"×ª×Ľ×ķ":134807,"ĠìķĦëĭĮ":134808,"ëį°ìĿ´":134809,"Ġçiz":134810,"ĠchoÄĩ":134811,"Ġ×Ķ×Ļת":134812,"Ġ×Ķ×Ļתר":134813,"Ġsoát":134814,"׼×ij×ĵ":134815,"à¹Ģลà¹Īา":134816,"ĠдеÑĢ":134817,"ĠдеÑĢев":134818,"ãĤĴåħ¥ãĤĮ":134819,"×Ĺ×ķס":134820,"×Ĺ×ķסר":134821,"جÙĬÙĨ":134822,"tón":134823,"onné":134824,"ĠполноÑģÑĤÑĮÑİ":134825,"人ãģŁãģ¡":134826,"Ġprêt":134827,"본":134828,"Ġdécembre":134829,"cılar":134830,"Ġתת":134831,"Ġê²½ìļ°ìĹIJëĬĶ":134832,"ÙĪØ¹Ø¯":134833,"è¦ĭãĤĭ":134834,"วิà¸Īัย":134835,"ë¶Ī":134836,"زÙĪØ§":134837,"زÙĪØ§Ø¬":134838,"dì":134839,"ãģ§ãģĻãĤĪ":134840,"Ġводо":134841,"ĠÙĬÙĪØ¬Ø¯":134842,"ÑģоÑģÑĤоÑı":134843,"ÐŀС":134844,"ĠÄIJó":134845,"×Ĺפש":134846,"Ġצ×Ļ×ij×ķר":134847,"ĠاÙĦÙĤØ·":134848,"ĠاÙĦÙĤطاع":134849,"ĠимеÑİÑĤ":134850,"ĠpháºŃn":134851,"×Ľ×¡×¤×Ļ":134852,"полниÑĤелÑĮ":134853,"éĻIJãĤĬ":134854,"ĠÑģÑĢав":134855,"ĠÑģÑĢавн":134856,"ÙħاÙĦÙĥ":134857,"×ĵר×ķ×Ŀ":134858,"çļĨãģķãĤĵ":134859,"ØŃÙĤÙĤ":134860,"à¹ģหลà¹Īà¸ĩ":134861,"ĠاÙĦرسÙħÙĬ":134862,"оÑĩки":134863,"×ĺ×ij×Ĺ":134864,"Ġcanlı":134865,"Ġ׾׾":134866,"Ġ׾׾×ŀ×ķ×ĵ":134867,"×ŀ×ij×ķ":134868,"×ª×Ľ":134869,"×ª×Ľ×ł×Ļת":134870,"ĠاÙĦÙħشار":134871,"ĠاÙĦÙħشارÙĥØ©":134872,"İÅŀ":134873,"ĠسÙĬاسÙĬ":134874,"волÑĮ":134875,"ĠÑģпÑĢав":134876,"æĿ¥ãģ¦":134877,"פ×ķר×ķ×Ŀ":134878,"สำà¹Ģรà¹ĩ":134879,"สำà¹Ģรà¹ĩà¸Ī":134880,"ĠÅŁÃ¶yle":134881,"ĠzostaÅĤa":134882,"ĠHü":134883,"ר×ķש":134884,"دÙĦÙĬÙĦ":134885,"ÑĢид":134886,"שף":134887,"×ŀ×§×ķר":134888,"ĠÑĥÑĩ":134889,"ĠÑĥÑĩеб":134890,"ĠÑįÑĤа":134891,"кова":134892,"à¸ķà¸Ļà¹Ģà¸Ńà¸ĩ":134893,"ÙĨÙIJ":134894,"à¸Ńีà¸ģà¸Ħรัà¹īà¸ĩ":134895,"ระà¸ļุ":134896,"Ġdữ":134897,"ĠاÙĦØŃاÙĦÙĬ":134898,"׼×ķ׼":134899,"׼×ķ׼×ij":134900,"Ġ×ŀ×IJשר":134901,"Ġtrụ":134902,"ÑĤелем":134903,"Ġвли":134904,"ĠвлиÑı":134905,"Ġש×IJת×Ŀ":134906,"Ġuwag":134907,"ĠuwagÄĻ":134908,"×ĺ×Ļת":134909,"×IJ×ĵ×Ŀ":134910,"à¸Ķุ":134911,"Ġ×Ķ×IJ׾×Ķ":134912,"ĠkarÄ±ÅŁ":134913,"ĠÄIJá»iji":134914,"даÑİÑĤ":134915,"ãģªãģ®ãģ«":134916,"Äħcych":134917,"à¹Ģà¸Ļà¹īà¸Ļ":134918,"ãģĹãģ¦ãģĹãģ¾ãģĨ":134919,"intérieur":134920,"ĠfÃŃsica":134921,"ĠÐŁÐ¾Ð»":134922,"ãģĹãģķ":134923,"à¸Ĺำà¹Ħม":134924,"ĠLâm":134925,"ĠاÙĦÙħسÙĦÙħ":134926,"ĠاÙĦÙħسÙĦÙħÙĬÙĨ":134927,"صØŃØ©":134928,"ìĹĦ":134929,"à¹Ģà¸Ķà¹ĩà¸Ķ":134930,"ĠÑĥÑĩеÑĤ":134931,"âÌģ":134932,"ĠبÙĦا":134933,"ĠاÙĦاجتÙħاعÙĬ":134934,"פרס×Ŀ":134935,"ãĥķãĥ©":134936,"ĠÐļогда":134937,"mieÅĽci":134938,"ĠبÙĬÙĨÙħا":134939,"Ġ×ŀ×IJ×ŀר×Ļ×Ŀ":134940,"Ġ×ij×IJ×ĸ×ķר":134941,"×ķש×Ļ×Ŀ":134942,"ĠÑģдела":134943,"entrée":134944,"à¹Ģà¸Ħà¹īา":134945,"Ñĥгл":134946,"ĠاÙĦÙģÙĨÙĬ":134947,"ĠÐĴоÑĤ":134948,"à¸Ĺีà¹Īมา":134949,"×ķצ×Ĵ":134950,"ÙĤدرة":134951,"Ġ목":134952,"Ġ목ìłģ":134953,"íıīê°Ģ":134954,"ĠاÙĦأربع":134955,"ĠاÙĦأربعاء":134956,"פס×Ļ×§":134957,"ĠÑıвлÑıÑİÑĤÑģÑı":134958,"بÙĪÙĨ":134959,"ì°¾":134960,"×ŀ×¢×¨×Ľ":134961,"×ŀ×¢×¨×Ľ×ķת":134962,"ãĤ·ãĤ§":134963,"ĠباÙĦØ£":134964,"íĸĪëįĺ":134965,"ĠاÙĦبرÙĨاÙħج":134966,"ĠاÙĦØ£ØŃد":134967,"ĠmÅ©":134968,"ĠmÅ©i":134969,"паÑĤ":134970,"بث":134971,"ĠÑĨенÑĭ":134972,"Ġ×ij×ª×ľ":134973,"è¨ĢãĤıãĤĮ":134974,"ĠاÙĦÙħجاÙĦ":134975,"ĠìĦ¸ìĥģ":134976,"Ġ×Ĵ×ķפ":134977,"ĠнаÑĪей":134978,"ĠкомпаниÑı":134979,"бин":134980,"ölü":134981,"×Ļ×Ļ×ĺ":134982,"Ġ×ŀספ×Ļ×§":134983,"ยัà¸ĩà¸Ħà¸ĩ":134984,"ĠЧи":134985,"ĠанÑĤи":134986,"ĠÑģÑĢеди":134987,"สà¹Īวà¸Ļà¹ĥหà¸įà¹Ī":134988,"оÑĩка":134989,"íĬ¹ë³Ħ":134990,"วà¹Īาà¸ĩ":134991,"гоÑĢод":134992,"باÙĥ":134993,"à¹Ģสีà¹Īย":134994,"à¹Ģสีà¹Īยà¸ĩ":134995,"ãĤĤãĤīãģĦ":134996,"×§×ķ×Ŀ":134997,"ãģĽãģļ":134998,"ĠاÙĦÙĤاÙĩرة":134999,"Ġ×ij׼×ļ":135000,"ÙħشارÙĬع":135001,"باØŃØ«":135002,"ĠпоÑĩ":135003,"ĠпоÑĩÑĤи":135004,"ĠÑĦоÑĢма":135005,"Sİ":135006,"Ġ×ŀצ×Ļ×¢":135007,"ลื":135008,"ลืม":135009,"ĠÑĤеÑĢ":135010,"ĠÑĤеÑĢÑĢиÑĤоÑĢ":135011,"ĠÑĤеÑĢÑĢиÑĤоÑĢии":135012,"ĠвмеÑģÑĤ":135013,"ĠвмеÑģÑĤе":135014,"dıkları":135015,"opération":135016,"à¹Ĥห":135017,"صدÙĬ":135018,"صدÙĬÙĤ":135019,"íĸīìłķ":135020,"تجا":135021,"تجاÙĪØ²":135022,"Ġsuç":135023,"Ġarty":135024,"Ġartyku":135025,"ĠartykuÅĤ":135026,"ãĤ·ãĥ§ãĥĥãĥĹ":135027,"שפ":135028,"שפ×Ļ×¢":135029,"Ġ×Ķש×Ļר×ķת":135030,"à¹ģà¸ĸม":135031,"ë¸Ķ":135032,"ĠukÅĤad":135033,"Ġ×ķ׼×Ļ":135034,"หลาà¸ģ":135035,"หลาà¸ģหลาย":135036,"æĸ¹ãĤĤ":135037,"Ġpodróż":135038,"ĠEÄŁer":135039,"ĠкомнаÑĤ":135040,"ĠÑģамÑĭÑħ":135041,"ĠвкÑĥÑģ":135042,"беж":135043,"Ġ×ij×§×ķ":135044,"æİĽãģij":135045,"ãģ¿ãĤĭãģ¨":135046,"ĠiliÅŁkin":135047,"ĠÙĬعÙħÙĦ":135048,"ĠподаÑĢ":135049,"Ġyazılı":135050,"ãĤĴå¾Ĺ":135051,"ĠwystÄĻp":135052,"à¸Ĺีà¹Īà¹ĥà¸Ĭà¹ī":135053,"ØŃادث":135054,"ÙĪÙĬد":135055,"кÑĥлÑĮÑĤ":135056,"кÑĥлÑĮÑĤÑĥÑĢ":135057,"à¸ģารà¹ģà¸Ĥà¹Īà¸ĩ":135058,"à¸ģารà¹ģà¸Ĥà¹Īà¸ĩà¸Ĥ":135059,"à¸ģารà¹ģà¸Ĥà¹Īà¸ĩà¸Ĥัà¸Ļ":135060,"ÙħÙĪØ¸":135061,"ÙħÙĪØ¸Ùģ":135062,"ÙĬÙħÙĬ":135063,"ãĤĵãģ§ãģĻãģĮ":135064,"diÄŁim":135065,"diÄŁimiz":135066,"ĠÐŁÐµÑĢ":135067,"ĠÐŁÐµÑĢв":135068,"Ġmão":135069,"ĠÑģез":135070,"ĠÑģезон":135071,"Ġ×Ķ×ŀ×¢":135072,"ÙħجÙħÙĪØ¹Ø©":135073,"ĠинÑĦоÑĢмаÑĨии":135074,"iếc":135075,"ãng":135076,"ĠÄijấy":135077,"ãģĶç´":135078,"ãģĶç´¹":135079,"ãģĶç´¹ä»ĭ":135080,"Ġadım":135081,"à¹Ħหล":135082,"ĠпÑĢакÑĤи":135083,"ĠпÑĢакÑĤиÑĩ":135084,"ĠпÑĢакÑĤиÑĩеÑģ":135085,"ĠпÑĢакÑĤиÑĩеÑģки":135086,"ĠاÙĦÙĨÙ쨳":135087,"ĠÑĢабоÑĤе":135088,"ÙĦÙĬÙģ":135089,"ĠاÙĦجÙĨÙĪØ¨":135090,"ĠводÑĭ":135091,"ì¹Ļ":135092,"ĠмиÑĢа":135093,"ĠÄijừng":135094,"ĠпÑĢоÑĤиво":135095,"ĠÑģÑĤÑĢанÑĭ":135096,"ลู":135097,"ìĤ¶":135098,"kreÅĽl":135099,"Ġbulund":135100,"ĠbulunduÄŁu":135101,"à¹ģสà¸Ļ":135102,"ãĤ±ãĤ¢":135103,"ת×Ĺ×ķ×ŀ×Ļ":135104,"ר׼×Ķ":135105,"Ġ׾ק×ķ×Ĺ":135106,"Ġ׾ק×ķ×Ĺ×ķת":135107,"Ġ×Ľ×ª×ķ×ijת":135108,"ĠÙĦÙĥÙħ":135109,"بشر":135110,"ĠrÃłng":135111,"Ġ×ŀ×Ķ×ŀ":135112,"Ġ×IJ×Ĺר×ķת":135113,"Ġбон":135114,"ĠбонÑĥÑģ":135115,"ï½Ĺ":135116,"à¹ģยà¸ģ":135117,"ãģĤãģªãģŁãģ®":135118,"ĠÑĥÑĩаÑģÑĤие":135119,"ĠEyl":135120,"ĠEylül":135121,"ĠçalÄ±ÅŁmaları":135122,"خطر":135123,"ìĿ½":135124,"à¸ģารà¹ĥà¸Ĭà¹īà¸ĩาà¸Ļ":135125,"Ġанализ":135126,"תק×ij׾":135127,"нием":135128,"Ġİns":135129,"Ġİnsan":135130,"ĠبÙĪØ§Ø³":135131,"ĠبÙĪØ§Ø³Ø·Ø©":135132,"Ġ×ł×Ľ×ł×¡":135133,"Ġ×Ķ×ŀ×Ļ×ĵ×¢":135134,"Ġço":135135,"ĠçoÄŁu":135136,"á»ĺ":135137,"ĠêµŃ민":135138,"ãĤĤãģĦãģĦ":135139,"Ġ׼׾×Ļ":135140,"ĠÑģÑĢедне":135141,"gÅĤo":135142,"gÅĤoÅĽ":135143,"Ġnegó":135144,"Ġnegócio":135145,"ĠÑĢегиÑģÑĤ":135146,"ĠÑĢегиÑģÑĤÑĢа":135147,"ĠÑĢегиÑģÑĤÑĢаÑĨии":135148,"Ġtrá»ĵng":135149,"ĠпÑĢÑı":135150,"ĠпÑĢÑıмо":135151,"ëłĪìĿ´":135152,"Ġkém":135153,"кле":135154,"à¸Ļำมา":135155,"ĠÑĦин":135156,"ĠÑĦинанÑģ":135157,"ĠÑĦинанÑģов":135158,"Ġkiá»ĩm":135159,"ยัà¸ĩà¹Ħ":135160,"ยัà¸ĩà¹Ħà¸ĩ":135161,"ยิà¸ĩ":135162,"à¹Ĥà¸Ľ":135163,"ĠполÑĥÑĩил":135164,"×Ļ×ĸ×Ŀ":135165,"à¹ģละà¸Ħวาม":135166,"ĠвообÑīе":135167,"صÙĬر":135168,"ãĥıãĥ³":135169,"ĠاÙĦÙĤاد":135170,"ĠاÙĦÙĤادÙħ":135171,"ĠبدÙĪÙĨ":135172,"عظÙħ":135173,"×ª×ł×ķ×¢":135174,"×ª×ł×ķ×¢×Ķ":135175,"Ø£ÙħÙĦ":135176,"ãģķãģĪ":135177,"ÑĤем":135178,"ÑĤемпеÑĢ":135179,"ÑĤемпеÑĢаÑĤÑĥÑĢ":135180,"Ġ׾×Ļצ×ķר":135181,"ĠrÄĻk":135182,"رسÙĦ":135183,"ìŀIJ를":135184,"Ġ×Ļצ×Ļרת":135185,"ÙĨبÙĬ":135186,"ÑĩнаÑı":135187,"تØŃÙĦÙĬÙĦ":135188,"Ġмик":135189,"ĠмикÑĢо":135190,"ĠSöz":135191,"Ġforça":135192,"Ñģон":135193,"ĠاÙĦعرا":135194,"ĠاÙĦعراÙĤÙĬ":135195,"ĠHá»ĵng":135196,"ãģĻãĤĭãģŁãĤģãģ«":135197,"à¸Ĺีà¹Īà¸Ńยูà¹Ī":135198,"Ġ×ķ×IJ×£":135199,"صÙĬد":135200,"ĠìķĬê³ł":135201,"รัà¸ĩ":135202,"ĠاÙĦتÙĪØ§ØµÙĦ":135203,"à¹Ģมà¸ķร":135204,"ÑĥÑģÑĤÑĢой":135205,"ÑĥÑģÑĤÑĢойÑģÑĤв":135206,"mıyor":135207,"ĠباسÙħ":135208,"Ġ×ķ׼×ķ":135209,"ĠGül":135210,"á»IJ":135211,"Ãītat":135212,"غاÙĦ":135213,"Ø¥ÙĨØ´":135214,"Ø¥ÙĨشاء":135215,"Tİ":135216,"à¸Ĥà¹īาม":135217,"Ġtroch":135218,"ĠtrochÄĻ":135219,"إص":135220,"إصابة":135221,"ĠثاÙĨÙĬ":135222,"ĠاÙĦصØŃØ©":135223,"Ġ×ĸ×Ķ×ķ":135224,"jÄħcej":135225,"ãĥĢãĥ³":135226,"ìĿ¸ìĿ´":135227,"ĠволоÑģ":135228,"ëIJĺë©´":135229,"ĠzakÅĤad":135230,"ãģĻãģĵãģ¨":135231,"以ä¸Ĭãģ®":135232,"Ġ×Ķ×ŀ×§×ķ×Ŀ":135233,"ÙħشاÙĩ":135234,"ÙħشاÙĩدة":135235,"Ñĩив":135236,"بش":135237,"ยà¹īาย":135238,"Ġsürdür":135239,"ĠNẵ":135240,"ĠNẵng":135241,"ĠигÑĢаÑĤÑĮ":135242,"Ġê·¸ëŁ¬ë©´":135243,"ãĥķãĥ«":135244,"ลà¹Īะ":135245,"Ġtendrá":135246,"ĠbÃły":135247,"à¹Ģà¸Ľà¹ĩà¸Ļà¸ľà¸¹à¹ī":135248,"Ġoko":135249,"ĠokoÅĤo":135250,"wÅĤa":135251,"wÅĤaÅĽci":135252,"wÅĤaÅĽciw":135253,"æĢĿãĤı":135254,"ĠYaÅŁ":135255,"ĠBá»ĩnh":135256,"íıŃ":135257,"بÙĬد":135258,"קרף":135259,"à¹Ģศร":135260,"à¹Ģศรษ":135261,"à¹Ģศรษà¸IJ":135262,"à¹Ģศรษà¸IJà¸ģิà¸Ī":135263,"ĠاÙĦØ£ÙĪØ±ÙĪ":135264,"ĠاÙĦØ£ÙĪØ±ÙĪØ¨ÙĬ":135265,"fläche":135266,"ä¹ĹãĤĬ":135267,"Ġbá»ģn":135268,"Ùĩب":135269,"æľĢãĤĤ":135270,"Ġsaç":135271,"à¸Ńำà¹Ģà¸ł":135272,"à¸Ńำà¹Ģà¸łà¸Ń":135273,"Ġأج":135274,"ĠاÙĦداخÙĦ":135275,"ĠاÙĦداخÙĦÙĬØ©":135276,"×ĺ×ķ×ij":135277,"ãĤĤãģªãģı":135278,"ĠлиÑĨа":135279,"à¹ģลà¹īวà¸ģà¹ĩ":135280,"×ĸ׼×Ļר":135281,"ĠquÃł":135282,"ĠÙĥذÙĦÙĥ":135283,"صØŃÙģ":135284,"ĠÃĤu":135285,"ÙĪØ¨Ø§":135286,"à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļà¹ģà¸Ľà¸¥":135287,"à¹Ģà¸Ľà¸¥à¸µà¹Īยà¸Ļà¹ģà¸Ľà¸¥à¸ĩ":135288,"à¸ķัวà¸Ńยà¹Īาà¸ĩ":135289,"Ġrápida":135290,"Ġtasar":135291,"Ġtasarım":135292,"ĠعÙĦÙĬÙĩÙħ":135293,"ס×ķ׾":135294,"cılı":135295,"cılık":135296,"ĠرغÙħ":135297,"ìĭľíĤ¤":135298,"Ġ×IJ׾ק":135299,"Ġ×IJ׾ק×ĺר":135300,"Ġ×IJ׾ק×ĺר×ķ׳×Ļ":135301,"à¹ģà¸ļà¹Īà¸ĩ":135302,"Ġhạng":135303,"ãģ£ãģ¦ãģıãĤĮ":135304,"ĠÙĨتÙĬ":135305,"ĠÙĨتÙĬجة":135306,"ıklı":135307,"غاÙĨ":135308,"à¸Ĥà¹īà¸Ńà¸Ħวาม":135309,"à¸Ľà¸¥à¸²à¸¢":135310,"ĠØ£Ùħس":135311,"à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยว":135312,"à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยวà¸Ĥ":135313,"à¸Ĺีà¹Īà¹Ģà¸ģีà¹Īยวà¸Ĥà¹īà¸Ńà¸ĩ":135314,"Ġdéfin":135315,"Ġdéfini":135316,"ÙģÙĨاد":135317,"ÙģÙĨادÙĤ":135318,"à¹Ħà¸Ķà¹īวà¹Īา":135319,"ãģªãģĦãĤĪãģĨãģ«":135320,"Ġprópria":135321,"ĠPhát":135322,"ãĤĦãģĻãģı":135323,"สวยà¸ĩาม":135324,"ê³łìļĶ":135325,"ÑıеÑĤ":135326,"ãģĭãĤĤãģĹãĤĮãģ¾ãģĽãĤĵãģĮ":135327,"ترجÙħ":135328,"ĠкÑĢаÑģив":135329,"Ġ×ŀר×IJש":135330,"деж":135331,"ĠÙĬÙĪÙĨ":135332,"ĠÙĬÙĪÙĨÙĬÙĪ":135333,"ÑģкоÑĢ":135334,"ĠKasım":135335,"ê³Ħìķ½":135336,"коÑģ":135337,"ĠнаÑĢÑĥ":135338,"ĠнаÑĢÑĥÑĪен":135339,"Ġduże":135340,"accès":135341,"Ġhá»ĵng":135342,"ĠvÅ©":135343,"ãģĦãģŁãģĹãģ¾ãģĻ":135344,"Ġ×ĺ×Ļ":135345,"Ġ×ĺ×Ļ×ķ׾":135346,"lıkları":135347,"Ġquê":135348,"ëħ¸ëıĻ":135349,"ìķĶ":135350,"CIÃĵN":135351,"Ġtắc":135352,"pressão":135353,"ĠìŀĪìľ¼":135354,"สิà¸Ĺà¸ĺิà¹Į":135355,"íĥĦ":135356,"Ġ×Ķ×ŀ×ŀש׾×Ķ":135357,"å¬īãģĹãģĦ":135358,"ĠÄIJặc":135359,"ÙĨزÙĦ":135360,"ĠдÑĢÑĥгой":135361,"дÑĥÑĤ":135362,"ìĪĻ":135363,"Ġthụ":135364,"à¹Ģสร":135365,"à¹Ģสรà¹ĩ":135366,"à¹Ģสรà¹ĩà¸Ī":135367,"Ġtoplant":135368,"Ġtoplantı":135369,"×IJ×ŀף":135370,"×ķ×ľ×ª":135371,"помн":135372,"ĠyoÄŁun":135373,"ÅĦskiego":135374,"ì°©":135375,"ĠØ«ÙĦاث":135376,"ĠØ«ÙĦاثة":135377,"Ġlắng":135378,"릴":135379,"ราà¸Ĭà¸ģาร":135380,"ĠÑģлова":135381,"á»Ĩ":135382,"à¸Ķีà¸ģวà¹Īา":135383,"ãģĶãģĸãģĦãģ¾ãģĻ":135384,"Ġдиз":135385,"Ġдизайн":135386,"férence":135387,"lıklar":135388,"ãģªãĤĵãģ§ãģĻ":135389,"ajÄħcy":135390,"Ġëĭ¤ìĸij":135391,"Ġëĭ¤ìĸijíķľ":135392,"×§×Ļר":135393,"ØŃار":135394,"สูà¹ī":135395,"Ġzro":135396,"Ġzrobi":135397,"ĠzrobiÄĩ":135398,"×ŀ×Ļ׼×Ķ":135399,"à¸Ĭà¹Īวยà¹Ģหลืà¸Ń":135400,"ĠÑįÑĤÑĥ":135401,"ë´ī":135402,"楽ãģĹãģĦ":135403,"سÙĪØ±":135404,"íķĺê±°ëĤĺ":135405,"ÙħؤتÙħر":135406,"ĠpoczÄħ":135407,"ĠpoczÄħtk":135408,"ĠpoczÄħtku":135409,"ĠعربÙĬ":135410,"اÙĦأر":135411,"اÙĦأردÙĨ":135412,"à¸Ķร":135413,"Åĵuvre":135414,"ĠÙĪÙĥاÙĨت":135415,"ĠÅĽredni":135416,"خضر":135417,"Ġchuyến":135418,"нÑĤ":135419,"ĠìķĮê³ł":135420,"Ġvá»Ŀi":135421,"Ġ×ij×Ļ×ĵ×Ļ":135422,"×ŀ×ĵ×ķ×ijר":135423,"ÙĪÙ쨱":135424,"ÙĬØ¡":135425,"×ł×Ľ×¡":135426,"ĠÐĽÐ°":135427,"лон":135428,"Ġxấu":135429,"ÙģÙĬÙĨ":135430,"Ġfévrier":135431,"ĠÐŀна":135432,"ĠVá»ģ":135433,"ĠÅŁeyler":135434,"ĠполÑĥÑĩен":135435,"зад":135436,"Ġnét":135437,"à¹Ħà¸Ľà¸¢à¸±à¸ĩ":135438,"×Ĺש×ij×ķ":135439,"à¸ļัà¸Ļà¸Ĺ":135440,"à¸ļัà¸Ļà¸Ĺึà¸ģ":135441,"ĠgerçekleÅŁ":135442,"иÑĩеÑģкое":135443,"ìĪĺê°Ģ":135444,"ثبت":135445,"ãģ¤ãģ¾ãĤĬ":135446,"ĠÑĥÑģловиÑıÑħ":135447,"ëĭ¤ê°Ģ":135448,"รายà¹Ħà¸Ķà¹ī":135449,"׼×IJ×ij":135450,"à¹Ĥà¸Ľà¸£à¹Ĥม":135451,"à¹Ĥà¸Ľà¸£à¹Ĥมà¸Ĭัà¹Īà¸Ļ":135452,"jähr":135453,"jährige":135454,"ק׳×Ļ×Ŀ":135455,"×ŀ×ķ×§":135456,"×ŀ×ķ×§×ĵ":135457,"ãģ«è¡Įãģ£ãģ¦":135458,"Ø¢ÙĦ":135459,"ведение":135460,"Ġ×ľ×Ľ×ª×ķ×ij":135461,"جÙħÙĩ":135462,"جÙħÙĩÙĪØ±ÙĬØ©":135463,"à¸īà¸ļ":135464,"à¸īà¸ļัà¸ļ":135465,"ĠCòn":135466,"à¸ľà¸ªà¸¡":135467,"ãģªãģ©ãģĮ":135468,"×IJ×Ķ×ij":135469,"ĠдейÑģÑĤвиÑı":135470,"yız":135471,"à¹Ħมà¹Īà¹Ģà¸Ħย":135472,"جÙĪØ²":135473,"×Ķ×Ĺ׾×ĺ×Ķ":135474,"fällt":135475,"ãĥĵãĤ¸":135476,"ãĥĵãĤ¸ãĥį":135477,"ãĥĵãĤ¸ãĥįãĤ¹":135478,"Ġ×IJ×Ļ׳×Ŀ":135479,"ĠнаÑħодиÑĤÑģÑı":135480,"ĠdziÅĽ":135481,"ستطÙĬع":135482,"׾×Ļף":135483,"Ø®ÙĦاÙģ":135484,"ÙĩÙIJ":135485,"Ġatrás":135486,"íĺģ":135487,"ãĤĴãģĶ":135488,"Ġ×Ķ×ŀ×ķצר":135489,"ĠBakanlıģı":135490,"ÑİÑīее":135491,"ÙħÙĨاط":135492,"ÙħÙĨاطÙĤ":135493,"Ù쨝":135494,"à¸Ļำà¹Ħà¸Ľ":135495,"Ġваж":135496,"Ġважно":135497,"Ġmạch":135498,"׼׳×ķ":135499,"بعث":135500,"lanması":135501,"Ġayr":135502,"Ġayrıl":135503,"ìĤ¬íļĮ":135504,"dÃŃa":135505,"pÅĤyw":135506,"اÙħÙĬØ©":135507,"íĺľ":135508,"×IJ׳×Ĵ׾":135509,"×IJ׳×Ĵ׾×Ļת":135510,"ĠìŀĪëĭ¤ëĬĶ":135511,"Ġساعة":135512,"ĠëĤĺíĥĢ":135513,"bö":135514,"à¸Ħัà¸Ļ":135515,"ĠdziaÅĤania":135516,"Ø©Ùĭ":135517,"ĠngÅ©":135518,"׳צ×Ĺ":135519,"ãģ¯ãģĤãĤĭ":135520,"ĠyaÅŁÄ±nda":135521,"stück":135522,"caracter":135523,"caracterÃŃsticas":135524,"Ġrá»Ńa":135525,"ĠÙħختÙĦÙ쨩":135526,"ãģ«ãģĬãģijãĤĭ":135527,"à¹ģà¸ŀà¸ĩ":135528,"วิà¹Īà¸ĩ":135529,"תפ×ķ":135530,"ساÙĩÙħ":135531,"使ãģĨ":135532,"ÙĥرÙĬ":135533,"×IJפ×Ļ":135534,"...............":135535,"ĠÑĤаким":135536,"×Ļ׼×ķ×Ļ":135537,"شبÙĩ":135538,"جÙĬر":135539,"ãģĿãģ®ãģ¾ãģ¾":135540,"acjÄĻ":135541,"ĠاÙĦترÙĥ":135542,"ĠاÙĦترÙĥÙĬ":135543,"ĠпÑĢавилÑĮно":135544,"ĠتعÙħÙĦ":135545,"à¸ģลà¹īา":135546,"Ġbiên":135547,"Ġ×ij׳×Ļ×Ļת":135548,"ĠклÑĥб":135549,"Ġ×ŀש×Ķ":135550,"вÑĪий":135551,"ãģĵãģ¨ãģĮãģ§ãģįãĤĭ":135552,"à¸ŀัà¸Ļà¸ĺุ":135553,"à¸ŀัà¸Ļà¸ĺุà¹Į":135554,"ר×ķ×Ŀ":135555,"ĠاÙĦÙ쨱ÙĨ":135556,"ĠاÙĦÙ쨱ÙĨسÙĬ":135557,"à¹Ģà¸Ľà¹ĩà¸Ļà¸Ħà¸Ļ":135558,"ãģĹãģ¦ãģĬãĤĬ":135559,"Ġthầy":135560,"ãĤĵãģłãģijãģ©":135561,"ì͍":135562,"ÙħدÙĨ":135563,"تÙĪÙĨ":135564,"ĠмеÑĤал":135565,"ĠмеÑĤалл":135566,"ĠinÃŃcio":135567,"à¸Ńà¸Ńà¸ģà¸Īาà¸ģ":135568,"ëĴ¤":135569,"Ġcuá»ijn":135570,"Ġbuá»Ļc":135571,"ÙĨسÙĬ":135572,"ächt":135573,"×ŀ×Ļ׳×Ļ×Ŀ":135574,"ãģķãģ¦":135575,"ãģĮãģ§ãģį":135576,"ÑĬем":135577,"Ġtái":135578,"ĠЧÑĤ":135579,"ĠЧÑĤобÑĭ":135580,"à¸Ľà¸¥à¸¹à¸ģ":135581,"à¸Ĭุมà¸Ĭà¸Ļ":135582,"нÑģкий":135583,"Ġvững":135584,"Ġ×Ķ׾×ij":135585,"ële":135586,"Ġשע×ijר":135587,"ваÑĤÑĮÑģÑı":135588,"бой":135589,"عÙĪÙĨ":135590,"à¹ģà¸Ķà¸Ļ":135591,"Ġספר×Ļ×Ŀ":135592,"Ġtuyên":135593,"Ġnhiêu":135594,"ĠQuý":135595,"Ġhuyết":135596,"ãĤıãģĭãĤīãģªãģĦ":135597,"Ġ×ŀ׼ף":135598,"Ġ×Ķק׾":135599,"Ġ׾×IJ×ķר":135600,"ĠÄIJiá»ĩn":135601,"شؤ":135602,"شؤÙĪÙĨ":135603,"Ġ×ŀ×Ĺפש":135604,"ĠпоÑģÑĤоÑıнно":135605,"×ŀ×Ļר":135606,"ìħĶ":135607,"ÐŀÑģ":135608,"ÐŀÑģнов":135609,"×ĸ×Ļת":135610,"ĠHá":135611,"ĠÑĩаÑģов":135612,"×IJ×ķ׾×Ļ":135613,"Ġmát":135614,"خرÙĪ":135615,"خرÙĪØ¬":135616,"ÙĤضا":135617,"ÙĤضاÙĬا":135618,"à¹Ģà¸Ľà¸Ńรà¹Į":135619,"ĠÙĬÙĪÙĦ":135620,"ĠÙĬÙĪÙĦÙĬÙĪ":135621,"à¹Ĥà¸Ĺษ":135622,"׳פ׾":135623,"ת×ķש":135624,"ת×ķש×ij×Ļ":135625,"Ġvários":135626,"×ŀר×IJ×Ķ":135627,"ëĿ¼ìĿ´":135628,"ÙĨغ":135629,"×ijצע":135630,"гон":135631,"ĠÄIJược":135632,"عÙı":135633,"пÑĥÑģк":135634,"ĠÙĪØ§ÙĦÙģ":135635,"ücü":135636,"×Ļ×§×Ļ×Ŀ":135637,"ĠسبÙĬÙĦ":135638,"׾×ijף":135639,"ĠاÙĦÙĤرÙĨ":135640,"ס×ķת":135641,"ĠQuáºŃn":135642,"ãģĵãĤĮãģĮ":135643,"ãĥĸãĥ©ãĥ³ãĥī":135644,"×Ĵ×ŀר":135645,"ĠwartoÅĽci":135646,"ĠÙĪØ¨ÙĬÙĨ":135647,"Ġdạ":135648,"ÐIJв":135649,"ÐIJвÑĤо":135650,"Ġolacaktır":135651,"à¸Ļà¸Ĺà¹Į":135652,"Ùħطار":135653,"Ġ×¢×§×ij":135654,"Ġתפ":135655,"ãģĹãģ¦ãģĦãģ¦":135656,"צ×ŀ×Ĺ":135657,"à¸Īà¸Ńà¸ĩ":135658,"Ġöde":135659,"ìį¨":135660,"ÙĨاس":135661,"調ãģ¹":135662,"ĠогÑĢомн":135663,"ë³´íĹĺ":135664,"×ĺ×§":135665,"×ĺקס×ĺ":135666,"ĠbaÅŁv":135667,"ĠbaÅŁvuru":135668,"Ġpomys":135669,"ĠpomysÅĤ":135670,"ãģ«ä¹Ĺ":135671,"Ġש׼ף":135672,"ĠاÙĦÙħسؤÙĪÙĦ":135673,"Ġзан":135674,"ĠзанÑıÑĤ":135675,"Ġdương":135676,"ãĥĹãĥ¬ãĤ¤":135677,"ลà¸ļ":135678,"ÑĤика":135679,"ĠAralık":135680,"Ġнедо":135681,"Ġmá»Ļ":135682,"Ġoran":135683,"Ġoranı":135684,"Ġktór":135685,"ĠktórÄħ":135686,"Ġ×Ķ×IJ×Ĺר×ķ׳×ķת":135687,"ائÙĨ":135688,"ÅĦs":135689,"ÅĦska":135690,"åĽ½ãģ®":135691,"×ŀ×ĺ×Ļ":135692,"ĠвопÑĢоÑģÑĭ":135693,"à¸Ńà¸ĩà¸Ħà¹Įà¸ģร":135694,"×ŀ×ķצ×IJ":135695,"Ġpóź":135696,"Ġpóźniej":135697,"ש×ŀ×IJ׾":135698,"Ġkaps":135699,"Ġkapsam":135700,"Ġkapsamında":135701,"Ġmáquina":135702,"ĠÅĽwiecie":135703,"ĠhoÃłng":135704,"Ġözgü":135705,"×Ĵ×ķר×Ŀ":135706,"ãģĤãģŁãĤĬ":135707,"à¸ķัà¸Ķสิà¸Ļ":135708,"à¸ķัà¸Ķสิà¸Ļà¹ĥà¸Ī":135709,"бÑĢи":135710,"ãģ«ãģªãĤĭãģ¨":135711,"تÙĥÙĪÙĨ":135712,"Ġ×ķ×Ķ×Ļ×IJ":135713,"Ġchiếu":135714,"ÑģÑĤанав":135715,"ÑģÑĤанавли":135716,"ÑģÑĤанавлива":135717,"×ŀ×ķ×Ĵ":135718,"cité":135719,"ĠKörper":135720,"Ġש×Ĵ×Ŀ":135721,"عظ":135722,"عظÙĬÙħ":135723,"Ġ×Ķ×IJ×Ļש×Ļ":135724,"Ġmatière":135725,"ĠÙģÙĪÙĤ":135726,"Ġkto":135727,"ĠktoÅĽ":135728,"à¸Ļà¹Ĥย":135729,"à¸Ļà¹Ĥยà¸ļาย":135730,"å¾ħãģ¡":135731,"à¹Ģมà¸Ļ":135732,"à¹Ģมà¸Ļู":135733,"AÃĩÃĥO":135734,"Ġtù":135735,"Ġtùy":135736,"ãĥĪãĥ³":135737,"ĠоÑĤказ":135738,"Ġ×ŀ×ķצר":135739,"ülü":135740,"ãģķãĤĵãģ«":135741,"Ġ×Ĺ×ķ×ij":135742,"קר×Ļ×IJ×Ķ":135743,"ĠاÙĦخدÙħات":135744,"ĠÙĦÙħدة":135745,"رؤ":135746,"رؤÙĬØ©":135747,"ãĤĴè¦ĭãģ¤ãģij":135748,"à¸Łà¸²":135749,"Ġréussi":135750,"à¸Ļัà¸ģà¹Ģรียà¸Ļ":135751,"ĠÑĩиÑģл":135752,"à¸ģารà¹Ģลà¹Īà¸Ļ":135753,"Ġhazırl":135754,"Ġhazırlan":135755,"ĠпеÑĢвÑĭй":135756,"лим":135757,"ĠоÑĤзÑĭвÑĭ":135758,"ĠwyjÄħ":135759,"ĠwyjÄħtk":135760,"ĠØ£ÙĤÙĦ":135761,"ס×ļ":135762,"Ġê²°ìłķ":135763,"Ġ׾×ŀעש×Ķ":135764,"Ġlắp":135765,"à¹ģà¸ļร":135766,"à¹ģà¸ļรà¸Ļà¸Ķà¹Į":135767,"วà¹Īาà¹Ģà¸Ľà¹ĩà¸Ļ":135768,"Ġبدا":135769,"ĠبداÙĬØ©":135770,"ãģ¨ãģĦãģĨãģ®ãģĮ":135771,"иÑĩеÑģким":135772,"à¸ģารà¸ŀัà¸Ĵà¸Ļา":135773,"ĠbÃło":135774,"ĠmiaÅĤa":135775,"ywaÄĩ":135776,"ĠMärz":135777,"ĠÙĨسبة":135778,"Ġéconomique":135779,"×ĸ×ŀ":135780,"×ĸ×ŀ׳×Ļ×Ŀ":135781,"æŃ¢ãĤģ":135782,"Ġtá»§":135783,"íķĺìĭł":135784,"Ġkażdego":135785,"straÃŁe":135786,"à¸Ĭีà¹ī":135787,"à¹Ģà¸ļา":135788,"ÑĢеÑģÑĥÑĢÑģ":135789,"евой":135790,"شباب":135791,"à¸ķà¹Īาà¸ĩà¸Ľà¸£à¸°à¹Ģà¸Ĺศ":135792,"Ġ×IJ×Ļש":135793,"Ġ×IJ×Ļש×Ļת":135794,"×Ļ×ķפ":135795,"×Ļ×ķפ×Ļ":135796,"ĠìļĶ구":135797,"ì¡°ìĤ¬":135798,"ãģ£ãģŁãĤī":135799,"׾×Ļ×§":135800,"миниÑģÑĤÑĢ":135801,"ãĤĤãģ®ãģ¯":135802,"Ġlương":135803,"Ġнаи":135804,"Ġнаибол":135805,"Ġнаиболее":135806,"íİĺ":135807,"à¹ģà¸ŀà¹ī":135808,"ãĤŃãĥ¥":135809,"ĠкоÑĤоÑĢÑĭм":135810,"à¹ģà¸Ĺà¸ĩ":135811,"à¹ģà¸Ĺà¸ĩà¸ļà¸Ńล":135812,"Ġ׳×Ļ×Ķ":135813,"Ġ׳×Ļ×Ķ×ķ׾":135814,"âĤª":135815,"ĠGiải":135816,"ĠиÑģполÑĮзова":135817,"ëł¥ìĿĦ":135818,"ãģĹãģĭãĤĤ":135819,"à¸ģà¹ĩà¸ķà¹īà¸Ńà¸ĩ":135820,"ĠÑĢеб":135821,"ĠÑĢебен":135822,"ĠÑĢебенка":135823,"تÙĪØ§ØµÙĦ":135824,"ãĤ°ãĥ«ãĥ¼ãĥĹ":135825,"ãĤĦãĤī":135826,"à¹Ģà¸Ľà¸´à¸Ķà¸ķัว":135827,"бÑĢо":135828,"ë°ĸìĹIJ":135829,"ÙĨÙİØ§":135830,"×Ķ×Ĵ":135831,"×Ķ×Ĵ׳×Ķ":135832,"à¸Ĺรั":135833,"à¸Ĺรัà¸ŀ":135834,"à¸Ĺรัà¸ŀยà¹Į":135835,"Ġkhá»iji":135836,"עצ×ŀ×ķ":135837,"болезн":135838,"Ġë°ĽìķĦ":135839,"มà¸Ļ":135840,"มà¸Ļุ":135841,"มà¸Ļุษ":135842,"มà¸Ļุษยà¹Į":135843,"âĹĨ":135844,"×ŀצ׾×Ļ×Ĺ":135845,"Ñıвление":135846,"ÙħØ·ÙĦ":135847,"ÙħØ·ÙĦÙĪØ¨":135848,"خاÙĦÙģ":135849,"تÙĪÙĤÙģ":135850,"ãģ§ãģįãģ¾ãģĽãĤĵ":135851,"оÑģÑĤей":135852,"меÑĩа":135853,"기ëĬĶ":135854,"תשע":135855,"صÙĬب":135856,"Ġ×ij×¢×ķ×ĵ":135857,"à¸Ĥà¸Ńà¸ĩà¹Ģà¸Ĥา":135858,"ÑĤÑıж":135859,"ĠÑĥпÑĢав":135860,"ĠÑĥпÑĢавлениÑı":135861,"Ġgénér":135862,"ĠthÃŃ":135863,"פ×ļ":135864,"ĠرÙħض":135865,"ĠرÙħضاÙĨ":135866,"Ġtruyá»ĩn":135867,"إعداد":135868,"ãĤµãĥĿãĥ¼ãĥĪ":135869,"Ġполно":135870,"خاÙħ":135871,"ÐŁÐµÑĤ":135872,"ÐŁÐµÑĤеÑĢ":135873,"ÐŁÐµÑĤеÑĢбÑĥÑĢ":135874,"ÐŁÐµÑĤеÑĢбÑĥÑĢг":135875,"ÙħÙĨتدÙī":135876,"ãģķãĤĮãģ¾ãģĹãģŁ":135877,"ĠëĮĢíķĺìŬ":135878,"à¸ľà¸¹à¹īà¸Ĺีà¹Ī":135879,"Ġ×ŀ×IJ×ķ":135880,"׾׳×ĵ":135881,"оÑĩнÑĭе":135882,"ĠнаÑĩала":135883,"Ġ׾×Ļ׾×ĵ×Ļ×Ŀ":135884,"овое":135885,"ãģĻãĤĭãģĵãģ¨ãģ§":135886,"ĠاÙĦÙĨÙģ":135887,"ĠاÙĦÙĨÙ쨷":135888,"ìŀĪëĬĶ":135889,"غÙĨÙĬ":135890,"פ×ĵ":135891,"ãĤ¾":135892,"ĠCré":135893,"ãģ©ãģ¡ãĤī":135894,"ثاÙĨ":135895,"ÑĢабаÑĤ":135896,"ÑĢабаÑĤÑĭва":135897,"Ġê°Ļëĭ¤":135898,"à¸Īั":135899,"à¸Īัà¸ģร":135900,"Ġchụ":135901,"Ġchụp":135902,"ĠмаÑģÑĤ":135903,"ĠмаÑģÑĤеÑĢ":135904,"Ġnắm":135905,"ĠÑģÑĤали":135906,"Ġ×Ķ×IJ×Ļר×ķ×¢":135907,"ãĤ½ãĥ³":135908,"åĪĨãģĭãĤĬ":135909,"طبع":135910,"بدا":135911,"gráfico":135912,"геÑĢ":135913,"à¸Ķำà¹Ģà¸Ļิà¸Ļà¸ģาร":135914,"Ġsaldır":135915,"Ġsaldırı":135916,"вÑĪиÑħ":135917,"ãģĭãģ£ãģŁãģ§ãģĻ":135918,"Ġyapıyor":135919,"ĠاÙĦÙģØª":135920,"צרפת":135921,"здоÑĢов":135922,"×ij×¢×ľ":135923,"Ġ×IJ×ŀ×Ļת×Ļ":135924,"ĠобÑĭ":135925,"ĠобÑĭÑĩ":135926,"ĠобÑĭÑĩно":135927,"Ġ׾×ķ×ŀר":135928,"تÙĥÙĨ":135929,"تÙĥÙĨÙĪÙĦÙĪØ¬":135930,"تÙĥÙĨÙĪÙĦÙĪØ¬ÙĬا":135931,"Ġhakkı":135932,"ĠÑĢав":135933,"ĠÑĢавно":135934,"رÙĬÙĥ":135935,"Ġ×ij×ŀ×Ļ×ĵ":135936,"Ġ×ij×ŀ×Ļ×ĵ×Ķ":135937,"à¹ģà¸ģà¹īว":135938,"Ġìĸĺ":135939,"Ġìĸĺ기":135940,"ãģĹãģ¦ãģĦãģ¾ãģĹãģŁ":135941,"Ġkısm":135942,"Ġkısmı":135943,"걸":135944,"åĨħãģ®":135945,"ì§ķ":135946,"à¹Ģหมืà¸Ńà¸Ļà¸ģัà¸Ļ":135947,"ĠÙģÙIJ":135948,"ĠÙģÙIJÙĬ":135949,"ÙĤاعدة":135950,"Ġmożesz":135951,"ÙħصاÙĦ":135952,"ÙħصاÙĦØŃ":135953,"ãģ¾ãģŁãģ¯":135954,"бег":135955,"Ġsıc":135956,"Ġsıcak":135957,"ÑĩиÑģ":135958,"ÑĩиÑģлен":135959,"Ġног":135960,"ãĥģãĥ£ãĥ³":135961,"ãĥ«ãĥī":135962,"Ġgió":135963,"Ġsını":135964,"Ġsınıf":135965,"иваÑĤÑĮ":135966,"Ġquên":135967,"Ġìłģ":135968,"Ġìłģìļ©":135969,"ĠJoão":135970,"ÙģØ§Ø¯":135971,"ĠGlück":135972,"à¸Ĺà¸Ńà¸Ķ":135973,"Ġgói":135974,"ï¼Ĭ":135975,"Ġdétail":135976,"ĠدÙĬسÙħ":135977,"ĠدÙĬسÙħبر":135978,"ë¡ľìĦľ":135979,"×ŀ×ķ×Ĺ":135980,"à¹Ħฮ":135981,"ĠоÑĤд":135982,"ĠоÑĤдÑĭÑħ":135983,"Ġkhuyến":135984,"à¸Ħà¸Ńย":135985,"ĠجÙĨÙĬ":135986,"ĠجÙĨÙĬÙĩ":135987,"ĠاÙĦدÙģØ§Ø¹":135988,"à¸Ļà¹īำหà¸Ļัà¸ģ":135989,"ĠìĤ¬ëŀĮëĵ¤ìĿ´":135990,"Ġthừa":135991,"ĠÃ¶ÄŁrenci":135992,"ĠпомоÑīи":135993,"ĠczÄĻÅĽÄĩ":135994,"ש×ĺר":135995,"ĠNhi":135996,"ĠNhiá»ģu":135997,"׳צ×Ļ":135998,"ĠнаÑĪем":135999,"ĠkarÅŁÄ±laÅŁ":136000,"Ġ×Ķש׳×Ļ×Ŀ":136001,"ĠÄIJưá»Ŀng":136002,"Ġtrú":136003,"ĠÑĢазлиÑĩнÑĭÑħ":136004,"ĠاÙĦØ´Ùĩر":136005,"Ġ×ľ×¢×ķ׾×Ŀ":136006,"ØŃجر":136007,"ĠÄijá»ķ":136008,"ĠìĿĺíķ´":136009,"à¸ļà¹Īà¸Ńย":136010,"Ġ×Ķ×Ļ׾×ĵ":136011,"ãģ¨ãģªãģ£ãģŁ":136012,"Ġ×Ĺ×ķ×ķת":136013,"Ġש×Ļר×ķת×Ļ":136014,"Äħcy":136015,"سرÙĬ":136016,"Kİ":136017,"פ׳×ķ":136018,"ÑģÑĤÑĢÑĥкÑĤÑĥÑĢ":136019,"ÑĤÑĢÑĥд":136020,"Ġ×Ķקר":136021,"Ġ×Ķקר×ķ×ij":136022,"ĠtháºŃm":136023,"èģŀãģį":136024,"ÙĤÙĪÙĬ":136025,"клÑİÑĩен":136026,"ÑĤеÑħ":136027,"ÑĤеÑħнолог":136028,"è¡Įãģ£ãģŁ":136029,"Ġ×ķ×IJ×Ļף":136030,"ĠÅŁeklin":136031,"ĠÅŁeklinde":136032,"rô":136033,"ÑĢог":136034,"ĠновÑĭе":136035,"Ġס×ij×Ļ×ij":136036,"ĠtecnologÃŃa":136037,"×¡×Ľ":136038,"×¡×Ľ×ķ×Ŀ":136039,"ĠÅŀub":136040,"ĠÅŀubat":136041,"Ġ×Ķ×ŀ׾×IJ":136042,"Ġwypos":136043,"Ġwyposaż":136044,"ãģ¯ä½ķ":136045,"ãĤ¬ãĥ³":136046,"ê°ĸ":136047,"Ġкакие":136048,"Ġçocuklar":136049,"Ġ׾צ×ĵ":136050,"Ġkayıt":136051,"ĠмеÑģÑĤе":136052,"ÙħدÙĬÙĨØ©":136053,"Ġ׼×Ĵ":136054,"Ġ׼×Ĵ×ķף":136055,"ãģĹãģ¦ãĤĭ":136056,"ĠÙħاÙĬÙĪ":136057,"ãģ£ãģ¦ãģĹãģ¾ãģ£ãģŁ":136058,"ĠпÑĢогÑĢаммÑĭ":136059,"à¹ģลà¸Ļà¸Ķà¹Į":136060,"ãĥ¯ãĤ¤":136061,"ער×ķ×¥":136062,"Ñģид":136063,"ĠBöyle":136064,"Ġì²ĺìĿĮ":136065,"Ġתפק×Ļ×ĵ":136066,"ĠTrên":136067,"íĥĪ":136068,"ĠÐłÐ¾ÑģÑģий":136069,"ĠÐłÐ¾ÑģÑģийÑģкой":136070,"ĠsÃłn":136071,"Ġrègle":136072,"ĠyaklaÅŁÄ±k":136073,"à¹Ģลิà¸ģ":136074,"ĠدائÙħ":136075,"Ġ×ķ×Ĵ":136076,"ابر":136077,"Ġbè":136078,"ĠاÙĦÙĤدÙħ":136079,"ĠÑĢеÑĪениÑı":136080,"hiên":136081,"ÑĤик":136082,"ÄĦ":136083,"à¸ļรรยาà¸ģ":136084,"à¸ļรรยาà¸ģาศ":136085,"רצ×ķף":136086,"åĭķãģį":136087,"ĠGäste":136088,"Ġ기본":136089,"ĠÙĬعرÙģ":136090,"ĠSá»Ń":136091,"gÅĤÄĻb":136092,"à¹Ģà¸Ńส":136093,"×IJ×ŀ×Ļף":136094,"ĠпÑĥнк":136095,"ĠпÑĥнкÑĤ":136096,"Ġ×Ļ×ķ×ĵ×¢×Ļ×Ŀ":136097,"ãĤ«ãĥ©ãĥ¼":136098,"Ġ×ijס×ĵר":136099,"Ġbuá»ĵn":136100,"йÑĤ":136101,"йÑĤеÑģÑĮ":136102,"ãĤĴæ±ĤãĤģ":136103,"Ġ×IJ×ª×Ľ×Ŀ":136104,"Ġ모르":136105,"ظرÙĪÙģ":136106,"ÑĩеÑģÑĤво":136107,"ìĸ´ìĦľ":136108,"Ġодна":136109,"Ġkapı":136110,"Ġëħ¸ëł¥":136111,"ĠKüche":136112,"ĠاÙĦتش":136113,"Ø·ÙĬب":136114,"ĠíĬ¹íŀĪ":136115,"ĠвÑĭпÑĥÑģ":136116,"ĠвÑĭпÑĥÑģк":136117,"×ĵת×Ļ":136118,"ĠuÄŁ":136119,"ĠuÄŁra":136120,"ائÙĩا":136121,"Ġthoát":136122,"ãģªãĤĤãģ®":136123,"ÑijÑĢ":136124,"기ê°Ģ":136125,"ĠgeliÅŁme":136126,"تØŃÙĤ":136127,"تØŃÙĤÙĤ":136128,"ĠопаÑģ":136129,"бÑĢоÑģ":136130,"หุ":136131,"หุà¹īà¸Ļ":136132,"ì¼Ģ":136133,"ãĤ¹ãĥŀ":136134,"ãĤ¹ãĥŀãĥĽ":136135,"Ø£Ù쨱":136136,"Ø£ÙģØ±Ø§Ø¯":136137,"ĠThá»±c":136138,"Ġthắ":136139,"ãĥªãĥ³ãĤ¯":136140,"Ġniá»ģm":136141,"ĠHöhe":136142,"عÙħار":136143,"ÙĥÙĪØ±ÙĪÙĨ":136144,"ÙĥÙĪØ±ÙĪÙĨا":136145,"ĠÄIJến":136146,"ĠÑģамом":136147,"ĠÑĤеле":136148,"ĠÄijoán":136149,"à¸Ħวามà¸Ħิà¸Ķà¹Ģหà¹ĩà¸Ļ":136150,"ĠдиÑģк":136151,"أطÙ쨧ÙĦ":136152,"มารà¹Į":136153,"à¸Ĺหาร":136154,"à¸Ĺà¸Ļ":136155,"ĠبعÙĬد":136156,"ĠاÙĦÙĩÙĨد":136157,"åĩºãģĹãģ¦":136158,"Ġkarde":136159,"ĠkardeÅŁ":136160,"×Ķ×Ļס×ĺ×ķר":136161,"×Ķ×Ļס×ĺ×ķר×Ļ×Ķ":136162,"éģ¸ãģ³":136163,"عاÙħÙĦ":136164,"à¸Ĥยาย":136165,"Ġtürl":136166,"Ġtürlü":136167,"ĠìĿ¼ìĿ´":136168,"Ġmatéria":136169,"Ġ׼׾×ķ×ŀר":136170,"ãĥģãĥ£ãĥ¼":136171,"جÙħاعة":136172,"ĠÑģвоим":136173,"Ø¥ÙĤاÙħØ©":136174,"ä¾ĭãģĪãģ°":136175,"ساب":136176,"آخر":136177,"ÙĤدÙĬر":136178,"×IJ×ŀ×Ļ":136179,"ìĸ»":136180,"Ġ׳×ķספת":136181,"ĠÐĴлад":136182,"ĠÐĴладим":136183,"ĠÐĴладимиÑĢ":136184,"Ġestará":136185,"ãģĵãģĨãģĦãģĨ":136186,"ãĤĴ使ç͍":136187,"มาà¸ķร":136188,"มาà¸ķรà¸IJาà¸Ļ":136189,"ãģ£ãģ½":136190,"Ġnú":136191,"Ġnúi":136192,"ยาà¸ĩ":136193,"ĠاÙĦجÙĨس":136194,"Ġüstün":136195,"ëľ»":136196,"ãĤ»ãĥ«":136197,"ãģ¦ãģĦãģįãģ¾ãģĻ":136198,"Ġ×Ĺ×ķ×ĸ":136199,"Ġ×Ĺ×ķ×ĸר":136200,"ĠÐĵлав":136201,"à¹Ĥà¸Ĭà¸Ħ":136202,"íıIJ":136203,"ÙĨتظر":136204,"Ġ×Ĵ×ij×Ļ":136205,"عÙĤب":136206,"intér":136207,"intérêt":136208,"×ŀפ×Ĵ":136209,"×ŀפ×Ĵש":136210,"Ġthù":136211,"اÙģØª":136212,"Ġ×ŀשפ":136213,"Ġ×ŀשפ×ĺ×Ļ":136214,"ĠÙħÙĪØ§ÙĤع":136215,"è¦ļ":136216,"è¦ļãģĪ":136217,"×ĵ×Ļף":136218,"à¹Ģรืà¹Īà¸Ńà¸ĩราว":136219,"ãģ¾ãģĤ":136220,"Ġghế":136221,"иÑĢÑĥÑİÑĤ":136222,"à¸ģว":136223,"à¸ģวà¹īาà¸ĩ":136224,"ĠповеÑĢ":136225,"ĠповеÑĢÑħ":136226,"ĠповеÑĢÑħноÑģÑĤ":136227,"׳×ĵר":136228,"ĠконÑĨе":136229,"Ġдолжна":136230,"Ġ×Ļש×Ļר":136231,"acaģız":136232,"ìĹĶ":136233,"ĠnÃŃvel":136234,"Ġör":136235,"Ġörnek":136236,"ÙĥÙģ":136237,"ĠФедеÑĢаÑĨии":136238,"Ġ구ìĦ±":136239,"หัวà¹ĥà¸Ī":136240,"ĠVáºŃy":136241,"мед":136242,"меди":136243,"медиÑĨин":136244,"медиÑĨинÑģк":136245,"ازÙĬ":136246,"×Ĵ×ij×ķ׾":136247,"ÑĦÑĢ":136248,"Ġzusätzlich":136249,"à¸ģà¸ģ":136250,"ĠاÙĦاÙĤتصادÙĬØ©":136251,"Ġhè":136252,"luÄŁun":136253,"جÙİ":136254,"à¹Ħà¸Łà¸¥à¹Į":136255,"ÄIJT":136256,"ãģĿãģ®ä»ĸ":136257,"à¸Ĺิà¹īà¸ĩ":136258,"ĠاÙĦØ£ÙĪ":136259,"رسÙħ":136260,"æ°Ĺãģ¥":136261,"ìĿ´ë©°":136262,"ÑĮев":136263,"صط":136264,"ĠاÙĦاستث":136265,"ĠاÙĦاستثÙħار":136266,"à¸Ńาà¸Ħาร":136267,"ĠÑĤоÑĩно":136268,"ĠVân":136269,"à¸Ńร":136270,"à¸Ńรà¹Īà¸Ńย":136271,"ĠاÙĦسÙĨØ©":136272,"ĠcÆ°á»Ľi":136273,"×Ļ×Ķף":136274,"íį¼":136275,"話ãģĹ":136276,"âĹĭ":136277,"ĠìķĬìĿĢ":136278,"ãĥ¡ãĥ¼ãĤ":136279,"ãĥ¡ãĥ¼ãĤ«":136280,"ãĥ¡ãĥ¼ãĤ«ãĥ¼":136281,"ĠÑĤепло":136282,"å½¼ãĤī":136283,"Ġİz":136284,"Ġİzmir":136285,"íĻį":136286,"Ġrượ":136287,"Ġrượu":136288,"æĢĿãģĦåĩº":136289,"ĠPhạm":136290,"Ġcháu":136291,"צ×Ļ×ķת":136292,"ĠìĿ¼ë³¸":136293,"ìĤ¬ëĬĶ":136294,"ĠÑģоздан":136295,"Ġaracı":136296,"Ġער":136297,"Ġער×Ļ׼×Ķ":136298,"ĠíķĺëĤĺëĭĺìĿĺ":136299,"dziÅĤ":136300,"à¸Ľà¸£à¸°à¸ĺาà¸Ļ":136301,"ĠserÃŃa":136302,"ĠìŀĪëıĦë¡Ŀ":136303,"درج":136304,"íķľëĭ¤ëĬĶ":136305,"à¸Ńาà¸Ĺ":136306,"à¸Ńาà¸Ĺิà¸ķ":136307,"à¸Ńาà¸Ĺิà¸ķยà¹Į":136308,"ÑĤелÑĮнÑĭй":136309,"ĠخدÙħات":136310,"×ŀ׳×ĺ":136311,"Ġlược":136312,"ĠSÃłi":136313,"ĠÙĪØ§Ø¶":136314,"ĠÙĪØ§Ø¶ØŃ":136315,"غاز":136316,"ĠdoÄŁal":136317,"Ġ×ijש×Ŀ":136318,"Ġдлин":136319,"Ġإطار":136320,"Ġ×ijספר":136321,"ãĤĴä¸İ":136322,"ãĤĴä¸İãģĪ":136323,"Ġë²ķë¥ł":136324,"ĠÑĥвели":136325,"ĠÑĥвелиÑĩи":136326,"สà¹Ħà¸ķ":136327,"สà¹Ħà¸ķลà¹Į":136328,"à¹Ħà¸ģล":136329,"×ij×Ĺף":136330,"ĠìĿ´íĽĦ":136331,"Ġmunic":136332,"ĠmunicÃŃpio":136333,"تÙħØ«ÙĦ":136334,"ĠÄijáo":136335,"Hôtel":136336,"Ġlá»Ńa":136337,"ĠÄijẳng":136338,"Ñĩки":136339,"شرÙĪ":136340,"شرÙĪØ·":136341,"ĠìĿ´ë¥¼":136342,"ÙĬÙĭا":136343,"×ŀ׾×ļ":136344,"×ŀ×Ķ×Ļר×ķת":136345,"ĠобÑıзаÑĤелÑĮ":136346,"ĠобÑıзаÑĤелÑĮно":136347,"énergie":136348,"Ġmudança":136349,"Ġmụ":136350,"Ġmụn":136351,"Ġnº":136352,"ĠاÙĦتعا":136353,"ĠاÙĦتعاÙĪÙĨ":136354,"ĠاÙĦاجتÙħاعÙĬØ©":136355,"ĠплаÑģÑĤ":136356,"Ġëĵ±ìĿĺ":136357,"ãĥIJãĤ¤ãĤ¯":136358,"ÙĩجÙĪÙħ":136359,"ĠSaúde":136360,"Ġì¤ijìļĶíķľ":136361,"Ġ×Ķצ×Ļ×ij×ķר":136362,"×ª×§×Ł":136363,"ĠاÙĦعاÙĦÙħÙĬ":136364,"ĠболÑĮÑĪой":136365,"ĠÙĥÙĦÙħ":136366,"ĠÙĥÙĦÙħØ©":136367,"ãģ®ãģ§ãģ¯ãģªãģĦãģ§ãģĹãĤĩãģĨãģĭ":136368,"ĠÙħباراة":136369,"Ġש×IJ׳":136370,"Ġש×IJ׳×Ĺ׳×ķ":136371,"ãĤ¹ãĤ¿ãĤ¤ãĥ«":136372,"ĠSaÄŁ":136373,"ĠSaÄŁlık":136374,"Ġhư":136375,"׳×Ĺ×Ķ":136376,"Ġ×ijקר×ij":136377,"طعÙħ":136378,"หิà¸Ļ":136379,"à¸Ĺุà¸ģวัà¸Ļ":136380,"à¸Ħรัà¹īà¸ĩà¸Ĺีà¹Ī":136381,"ĠlÃłnh":136382,"Ġdonné":136383,"ãģĽãģĦ":136384,"جزÙĬرة":136385,"доÑĢож":136386,"ì¼ľ":136387,"تÙĨظÙĬÙģ":136388,"ãĥģãĥ§":136389,"Ġaldıģı":136390,"جاج":136391,"ĠÑĤомÑĥ":136392,"à¸Ľà¸´":136393,"Ġ×ijרשת":136394,"ãģıãģªãĤĬãģ¾ãģĻ":136395,"ĠпÑĢинÑĨип":136396,"Ġ×Ĺ׾×ķ":136397,"ëı¼":136398,"×ķ×Ĵש":136399,"سس":136400,"à¸Ľà¸¹":136401,"Ġhầu":136402,"æĦŁãģĺãĤĭ":136403,"ï¼´":136404,"دÙĪØ§":136405,"ĠÑģмог":136406,"scrição":136407,"ĠtháºŃn":136408,"Ġר×ķ×IJ×Ķ":136409,"обÑĢажен":136410,"ĠاÙĦتجارÙĬØ©":136411,"طبÙĬع":136412,"jÄħcÄħ":136413,"íĸīìľĦ":136414,"ĠновÑĭй":136415,"Ġ×ŀ×Ĺ×ĵש":136416,"æĮ¯ãĤĬ":136417,"gué":136418,"Ġ×IJ×Ļר×ķ×¢":136419,"Ġ×IJ×Ļר×ķ×¢×Ļ×Ŀ":136420,"ĠاÙĦذÙĩب":136421,"×ĵ×IJ":136422,"تاÙĨ":136423,"ãģłãģĹ":136424,"à¸Ńัà¸ķรา":136425,"à¹Ĥà¸Ī":136426,"بÙĦاد":136427,"×Ķ×Ļ×Ļ׳×ķ":136428,"ĠÑģпе":136429,"ĠÑģпеÑĨиалÑĮно":136430,"ĠÅĽwiata":136431,"ãĤĵãģ§ãģĻãĤĪ":136432,"شرÙĥØ©":136433,"ĠpÅĤyt":136434,"Ġsitué":136435,"Ġ׼×IJ׾×Ķ":136436,"ס×ijר":136437,"Ġkażd":136438,"Ġkażdym":136439,"ãĤĴæĮģãģ¤":136440,"׾×Ķ׾":136441,"׾×Ķ׾ף":136442,"ĠwÅĤas":136443,"ĠwÅĤasne":136444,"ĠsaÄŁlan":136445,"×ŀ×¢×ľ×Ķ":136446,"ĠاÙĦاÙĪÙĦ":136447,"ìĹIJìĦľëıĦ":136448,"×IJ×Ļר×ķפ×Ķ":136449,"تÙĤÙĨÙĬØ©":136450,"Ùħائ":136451,"Ùħائة":136452,"ĠcompañÃŃa":136453,"Ġsürek":136454,"Ġsürekli":136455,"ĠиÑģкÑĥÑģ":136456,"ĠиÑģкÑĥÑģÑģÑĤв":136457,"ĠBürger":136458,"ת×Ĺר":136459,"ת×Ĺר×ķת":136460,"à¸ŀรà¹īà¸Ńมà¸ģัà¸ļ":136461,"Ø´Ùħ":136462,"à¸ĸืà¸Ńวà¹Īา":136463,"è¾¼ãĤĢ":136464,"ä¼ijãģ¿":136465,"ĠاÙĦأب":136466,"ĠÑģÑĤоимоÑģÑĤÑĮ":136467,"ĠпÑĢава":136468,"mayın":136469,"หวย":136470,"ĠاÙĦطبÙĬعÙĬ":136471,"à¸Ĺีà¹Īà¸ŀัà¸ģ":136472,"ĠEstá":136473,"ÑĭваÑİÑĤ":136474,"بسÙĬ":136475,"بسÙĬØ·":136476,"Ġ×ij×¢×ijר":136477,"åı¯èĥ½ãģ§ãģĻ":136478,"Ġ×ĵ×ķ׾":136479,"Ġ×ĵ×ķ׾ר":136480,"ÙĩÙİØ§":136481,"воÑĢоÑĤ":136482,"ãģ¦ãģĦãģ¾ãģĹãģŁ":136483,"à¹Ĥà¸Ĺรศ":136484,"à¹Ĥà¸Ĺรศั":136485,"à¹Ĥà¸Ĺรศัà¸ŀ":136486,"à¹Ĥà¸Ĺรศัà¸ŀà¸Ĺà¹Į":136487,"Ġק׳":136488,"ĠاÙĦØ«ÙĨ":136489,"ĠاÙĦØ«ÙĨائÙĬØ©":136490,"Ġcoût":136491,"à¸ķิà¸Ķà¸ķัà¹īà¸ĩ":136492,"Ġörg":136493,"Ġörgüt":136494,"ĠاÙĦØ®ÙĦÙĬ":136495,"ĠاÙĦØ®ÙĦÙĬج":136496,"Ġbá»įn":136497,"×ķ׾×ķ×Ĵ×Ļ":136498,"ëŀľ":136499,"ĠÐijолÑĮ":136500,"ĠÐijолÑĮÑĪ":136501,"×Ĵ×ijר×Ļ×Ŀ":136502,"ÙĤÙĬد":136503,"×ij×Ļ×ĺ×ķ×Ļ":136504,"æīĵãģ¡":136505,"ĠolmuÅŁ":136506,"fäh":136507,"fähig":136508,"ลาà¸Ļ":136509,"ĠÙĤطر":136510,"שפ×Ķ":136511,"èªŃãĤĵãģ§":136512,"à¸Ĥวา":136513,"Ġchiếm":136514,"ãĤ¤ãĥ³ãĤ¿":136515,"ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥ":136516,"ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥį":136517,"ãĤ¤ãĥ³ãĤ¿ãĥ¼ãĥįãĥĥãĥĪ":136518,"Ġ׾ש×ŀ×ķר":136519,"ĠترÙĥ":136520,"ĠترÙĥÙĬا":136521,"ר×ķ×ĺ":136522,"ã썿ĢĿãģĦãģ¾ãģĹãģŁ":136523,"ĠاÙĦتÙĤ":136524,"Ġdư":136525,"ãģ¦ãģıãĤĮãĤĭ":136526,"ãģĹãģŁãģĵãģ¨":136527,"Ġróżne":136528,"ĠاÙĦØ·ÙģÙĦ":136529,"ĠPosté":136530,"Ġ×ŀש×ķ×Ŀ":136531,"ÑįÑĢ":136532,"ĠÑĢабоÑĤаеÑĤ":136533,"ãĤ·ãĥª":136534,"ãĤ·ãĥªãĥ¼ãĤº":136535,"Ġ×ij×Ķ×Ĺ׾×ĺ":136536,"×§×Ķ×Ļ׾×Ķ":136537,"ãĤ«ãĥ¡":136538,"ãĤ«ãĥ¡ãĥ©":136539,"O":136540,"ĠìĤ¬ìĿ´":136541,"Ġkì":136542,"ĠthÆ°á»Ľc":136543,"ضبط":136544,"ÙĤبÙĪÙĦ":136545,"åĪ¥ãģ®":136546,"Ġparticulière":136547,"ĠÑģвоем":136548,"Ġעסק":136549,"Ġעסק×Ļ×Ŀ":136550,"×ij×Ĺ×Ļר×ķת":136551,"×ij×Ļ׳×ķ":136552,"à¸ĭà¸Ń":136553,"Ġ×¢×ķ×ijר":136554,"ãģłãģ£ãģŁãģ®ãģ§":136555,"ıldıģı":136556,"Ùħدار":136557,"Ùħدارس":136558,"주ìĭľ":136559,"à¸Ńาศ":136560,"à¸Ńาศัย":136561,"Ġtấm":136562,"à¸ŀิà¸Ī":136563,"à¸ŀิà¸Īาร":136564,"à¸ŀิà¸Īารà¸ĵา":136565,"ÑĤелÑĮнÑĭе":136566,"ÑģкÑĥÑİ":136567,"ÐľÐĺ":136568,"à¹Ģà¸ģา":136569,"à¹Ģà¸ģาหล":136570,"à¹Ģà¸ģาหลี":136571,"×ĵ×Ĺ":136572,"à¹Ģà¸Ĭิà¸ĩ":136573,"ĠدÙĤÙĬÙĤØ©":136574,"íķĻìĥĿ":136575,"Ġש×IJ׾×Ķ":136576,"Ġcontrôle":136577,"Ġsituação":136578,"à¸Ĥà¸Ńà¸ĩà¸ľà¸¹à¹ī":136579,"ÙĨØ·ÙĤ":136580,"ê³¼íķĻ":136581,"หลายà¸Ħà¸Ļ":136582,"Ġnắng":136583,"ÙĤÙı":136584,"ì¡°ê±´":136585,"Ñķ":136586,"ãĥĥãģ¨":136587,"×ŀ×Ļ׾×Ķ":136588,"Grün":136589,"×Ļ×Ļ×¢":136590,"×Ļ×Ļ×¢×ķ×¥":136591,"×ŀ׳׼":136592,"ëŃIJ":136593,"×ŀ×¢×ŀ×ĵ":136594,"สำà¸Ļัà¸ģ":136595,"جدد":136596,"à¸Ħัà¸Ķ":136597,"Ġ×Ķ×ŀשפ":136598,"Ġ×Ķ×ŀשפ×Ĺ×Ķ":136599,"×ŀשק׾":136600,"ÙĦÙı":136601,"Ġtytu":136602,"ĠtytuÅĤ":136603,"ÑĪей":136604,"ĠìĿ¼ë¶Ģ":136605,"ÑĪение":136606,"Ġphóng":136607,"ĠìĹŃìĤ¬":136608,"ãĤ«ãĥ³":136609,"Ġtúi":136610,"ĠÙĨÙĪÙģ":136611,"ĠÙĨÙĪÙģÙħبر":136612,"grün":136613,"ĠاÙĦØ´ÙħاÙĦ":136614,"ÅĽwiadc":136615,"ÅĽwiadczenie":136616,"ער×Ķ":136617,"Ġ×¢×ķ×ij":136618,"Ġ×¢×ķ×ij×ĵ×Ļ×Ŀ":136619,"×ĵ×ķ×Ĵ×ŀ×IJ":136620,"ä»Ĭãģ¯":136621,"Ġvão":136622,"ĠТем":136623,"ÑģилÑĮ":136624,"Ġchợ":136625,"Ùħرا":136626,"ÙħراÙĤب":136627,"à¹Ħมà¹Īรูà¹ī":136628,"Ġرائع":136629,"×IJ׳×Ĺ׳×ķ":136630,"สà¹Īà¸ĩà¹Ģสริม":136631,"צ×Ĺ":136632,"ĠìŀĪìĸ´ìĦľ":136633,"Ġkurulu":136634,"ĠkuruluÅŁ":136635,"ĠÃĸzellik":136636,"ĠÃĸzellikle":136637,"Ġת×Ļ×§":136638,"Ġghé":136639,"ĠsprzÄĻ":136640,"ĠsprzÄĻt":136641,"ער×ķת":136642,"راØŃØ©":136643,"ãģ£ãģį":136644,"ãģ£ãģįãĤĬ":136645,"ĠìķĦëŀĺ":136646,"stituição":136647,"Ġдолжно":136648,"×Ķרש":136649,"×Ķרש×ŀ×Ķ":136650,"×Ķ׾×ļ":136651,"ãģ¡ãģª":136652,"ãģ¡ãģªãģ¿":136653,"ãģ¡ãģªãģ¿ãģ«":136654,"פ×Ĺ×ĵ":136655,"ĠاÙĦجÙħÙĬع":136656,"×ij×¢×ľ×Ļ":136657,"Ġtrùng":136658,"Ġפת×Ĺ":136659,"×ŀ׾×Ĺ×ŀת":136660,"ãĥĨãĥ¼ãĥ":136661,"ãĥĨãĥ¼ãĥŀ":136662,"Ùħتاب":136663,"Ùħتابعة":136664,"Ġ모ìĬµ":136665,"ÙĬص":136666,"åIJĪãģĨ":136667,"ĠYap":136668,"ĠYapı":136669,"ĠÑģказаÑĤÑĮ":136670,"몰":136671,"à¸Ĺีà¹Īสำà¸Ħัà¸į":136672,"ĠìĹĨìĬµëĭĪëĭ¤":136673,"Ġnhắc":136674,"Ġülkeler":136675,"Ġмногие":136676,"íķĺìħ¨":136677,"มาà¸ģà¸Ĺีà¹Īสุà¸Ķ":136678,"à¸ģà¹īา":136679,"à¸ģà¹īาว":136680,"Ġİyi":136681,"леж":136682,"лежа":136683,"ãĤ¸ãĥ§":136684,"à¸Ĺัà¸ŀ":136685,"اÙĪØ±":136686,"Ġ×Ĺ×ijר×Ļ":136687,"Ġ׾ש×Ŀ":136688,"첫":136689,"ĠTá»Ń":136690,"×ŀ×ķ׳×Ļ":136691,"ÙĤÙĪØ¯":136692,"à¸ģระà¹Ģà¸Ľ":136693,"à¸ģระà¹Ģà¸Ľà¹ĭ":136694,"à¸ģระà¹Ģà¸Ľà¹ĭา":136695,"ĠпÑĢоблемÑĭ":136696,"Ġaçıs":136697,"Ġaçısından":136698,"Ġ×Ķ×ŀ׼":136699,"ĠÙħعظÙħ":136700,"ÙĤÙĬاس":136701,"ĠпÑĢодолж":136702,"ĠпÑĢодолжа":136703,"ĠverdiÄŁi":136704,"ĠпÑĢедмеÑĤ":136705,"ãģĦãģ¾ãģĻãģĮ":136706,"ĠëĶ°ë¥¸":136707,"ĠاÙĦÙĤÙĬاÙħ":136708,"ĠØ¥ÙĦÙĬÙĩا":136709,"ТÐIJ":136710,"поз":136711,"ãĤ·ãĥ¥":136712,"ä¸ĬãģĮãĤĬ":136713,"à¹Ģà¸Ķิมà¸ŀัà¸Ļ":136714,"à¸ģุล":136715,"ØŃرÙĬØ©":136716,"×§×ij×ķצ×ķת":136717,"믿":136718,"ĠاÙĦÙħÙĨا":136719,"ĠاÙĦÙħÙĨاطÙĤ":136720,"ĠвÑĭпол":136721,"ĠвÑĭполнÑı":136722,"ãĥĭãĤ¢":136723,"Ġê²°êµŃ":136724,"×Ĺ×ķ×ŀ":136725,"×Ĺ×ķ×ŀר×Ļ×Ŀ":136726,"ĠУкÑĢаинÑĭ":136727,"หà¸Ńม":136728,"ר×Ļס":136729,"ĠÑħоÑĤел":136730,"ĠобÑĢазованиÑı":136731,"Ġkhẳng":136732,"Ġmưa":136733,"Ġgörme":136734,"Ġgüçlü":136735,"سعÙī":136736,"มัà¹Īà¸Ļà¹ĥà¸Ī":136737,"íķĺê²łìĬµëĭĪëĭ¤":136738,"ĠполÑĥ":136739,"Ġfünf":136740,"ã썿ĢĿãģ£ãģ¦ãģĦãģ¾ãģĻ":136741,"Ġê·¸ê²ĥìĿĢ":136742,"ĠdÃ¼ÅŁÃ¼nce":136743,"ìŀł":136744,"ĠHÆ°á»Ľng":136745,"ĠTiá»ĥu":136746,"Ġçift":136747,"ãģijãģ°":136748,"à¸Īà¸Ļà¸ĸึà¸ĩ":136749,"à¸Ĺำà¹Ħà¸Ķà¹ī":136750,"ĠìŀIJì²´":136751,"Ġdõ":136752,"Ġdõi":136753,"à¸Īัà¸Ļ":136754,"à¸Īัà¸Ļà¸Ĺ":136755,"à¸Īัà¸Ļà¸Ĺรà¹Į":136756,"eceÄŁini":136757,"׳×ķער":136758,"غار":136759,"ĠاÙĦØ£ÙħرÙĬÙĥÙĬ":136760,"داعش":136761,"ĠбезопаÑģноÑģÑĤи":136762,"ĠбÑİ":136763,"ĠбÑİдж":136764,"ĠбÑİджеÑĤ":136765,"ãĥĬãĤ¤":136766,"à¸ŀà¸ļวà¹Īา":136767,"daÄŁ":136768,"×IJ×ķפף":136769,"íĹĮ":136770,"ãĥĢãĤ¤ãĤ¨":136771,"ãĥĢãĤ¤ãĤ¨ãĥĥãĥĪ":136772,"ĠëĮĢíĨµ":136773,"ĠëĮĢíĨµëł¹":136774,"Dİ":136775,"Ø£ØŃداث":136776,"ĠAÄŁ":136777,"ĠAÄŁust":136778,"ĠAÄŁustos":136779,"ØŃÙĦÙĪÙĦ":136780,"ĠwÅĽ":136781,"ĠwÅĽród":136782,"ĠÑģооÑĤвеÑĤ":136783,"ĠÑģооÑĤвеÑĤÑģÑĤв":136784,"ĠÑģооÑĤвеÑĤÑģÑĤвии":136785,"ĠLuáºŃt":136786,"Ġ׼׾פ×Ļ":136787,"ĠвеÑī":136788,"ĠвеÑīеÑģÑĤв":136789,"×§×Ļ×¥":136790,"ĠبÙĩذا":136791,"عاش":136792,"à¹Ģà¸Ľà¹ĩà¸Ļà¹Ģรืà¹Īà¸Ńà¸ĩ":136793,"ТÐķ":136794,"Ġ×ij×IJ×Ļ׳×ĺר׳×ĺ":136795,"سعد":136796,"Ġ×Ķ×ĺ×Ļפ×ķ׾":136797,"פ×Ļס":136798,"à¸ĩà¹Īายà¹Ĩ":136799,"ĠGerät":136800,"׾×Ļ×ĵ×Ķ":136801,"ĠÑĢиÑģк":136802,"׾ק×Ĺ":136803,"ннаÑı":136804,"ר×Ļ×ĵ":136805,"пÑĢакÑĤи":136806,"пÑĢакÑĤик":136807,"à¸Ĥัà¹īà¸Ļà¸ķà¸Ńà¸Ļ":136808,"à¸Ļà¹Īารัà¸ģ":136809,"larınızı":136810,"à¸Ńà¸Ļุà¸įา":136811,"à¸Ńà¸Ļุà¸įาà¸ķ":136812,"ĠzdjÄĻcia":136813,"Ġbây":136814,"ÑģÑĢ":136815,"ÑģÑĢоÑĩ":136816,"ãĥĭãĥ³ãĤ°":136817,"Ġöner":136818,"Ġöneri":136819,"ĠновÑĭÑħ":136820,"دعÙĪØ©":136821,"Ġgắn":136822,"ĠاÙĦÙĦبÙĨ":136823,"ĠاÙĦÙĦبÙĨاÙĨÙĬ":136824,"ãĥĨãĤ£ãĥ¼":136825,"ĠصØŃÙĬØŃ":136826,"емÑĭÑħ":136827,"çĸ²ãĤĮ":136828,"ĠпÑĢоиÑģ":136829,"ĠпÑĢоиÑģÑħодиÑĤ":136830,"สà¸ķิ":136831,"ĠTết":136832,"Ġ×Ķ׾׾×ķ":136833,"à¹Ģรืà¹Īà¸Ńà¸ĩà¸Ļีà¹ī":136834,"×ŀ×ij׳×Ķ":136835,"Ġconteúdo":136836,"Ġاخت":136837,"ĠاختÙĬار":136838,"ÙħسÙĦ":136839,"ÙħسÙĦسÙĦ":136840,"ëıĪ":136841,"Ġ׾×Ļ×ĵ":136842,"à¸ŀิà¸ĺี":136843,"ĠÑģовÑģ":136844,"ĠÑģовÑģем":136845,"ãģĮãģĤãĤĬãģ¾ãģĹãģŁ":136846,"Ġsóng":136847,"إصÙĦاØŃ":136848,"ë§ģ":136849,"ÙģÙĬر":136850,"ĠJeżeli":136851,"ìłľëıĦ":136852,"dÅĤug":136853,"ìĥģìĿĦ":136854,"ĠcáºŃn":136855,"Ġhá»įp":136856,"أست":136857,"أستاذ":136858,"Ġ×ŀ×Ļש×Ķ":136859,"Ġ×ŀ×Ļש×Ķ×ķ":136860,"ĠdÃły":136861,"ĠchÃłng":136862,"ãģ¡ãĤĥãĤĵãģ¨":136863,"ĠÄijám":136864,"Ġswój":136865,"Ġpoderá":136866,"ĠоÑĤлиÑĩа":136867,"Ġpériode":136868,"ündig":136869,"×ĺ×¢×Ł":136870,"ÑģÑĤÑĢоиÑĤелÑĮ":136871,"רת×Ļ":136872,"Ġ×Ļ×Ķ×Ļ×ķ":136873,"×ľ×¡":136874,"ĠاÙĦÙħÙĨزÙĦ":136875,"à¸Ļิà¹īว":136876,"иÑĦика":136877,"иÑĦикаÑĨи":136878,"ðŁĺī":136879,"Ġadına":136880,"ãĢĤãĢĤãĢĤ":136881,"×IJ×Ļף":136882,"ס×Ļר":136883,"ĠÙĬعد":136884,"çŃĶãģĪ":136885,"اÙĦجز":136886,"اÙĦجزائر":136887,"енÑĮк":136888,"รห":136889,"รหัส":136890,"ĠTürkçe":136891,"꾸":136892,"Ġ×Ļ×ķ׼׾":136893,"Ġש×ķ׳×Ķ":136894,"Ġ×ij×ŀצ×ij":136895,"ĠдейÑģÑĤвиÑĤелÑĮно":136896,"ĠبأÙĨÙĩ":136897,"×ŀ×§×ĵ":136898,"Ġ×Ķשק":136899,"Ø®ÙĬارات":136900,"Ġfı":136901,"Ġfırs":136902,"Ġfırsat":136903,"ëijĺ":136904,"ĠìĦľìļ¸":136905,"Ġ×Ķ×Ĵ×ķ×£":136906,"رعا":136907,"رعاÙĬØ©":136908,"ĠKết":136909,"кÑģи":136910,"ĠÑĥÑģлÑĥги":136911,"ноÑģÑĤей":136912,"ìļ´ëıĻ":136913,"ĠобÑĬÑı":136914,"ĠобÑĬÑıвл":136915,"неж":136916,"×Ķפ×ļ":136917,"Ġ×ij×¢×Ļ׳×Ļ":136918,"ëĨĴ":136919,"ĠпÑĢоÑĨед":136920,"ĠпÑĢоÑĨедÑĥÑĢ":136921,"Ġihtiy":136922,"Ġihtiyacı":136923,"Ġë°Ķëŀį":136924,"Ġë°ĶëŀįëĭĪëĭ¤":136925,"à¸ģลัว":136926,"ĠÑģложно":136927,"×§×Ļ×Ļ×ŀת":136928,"ĠÄIJình":136929,"ĠÙħÙĦÙģ":136930,"Ġà¹Ĥà¸Ķยมี":136931,"Ġkatkı":136932,"تØŃÙĪÙĬÙĦ":136933,"à¹Ħà¸ŀ":136934,"ĠHá»į":136935,"ñe":136936,"ĠдоÑħод":136937,"Ġthoải":136938,"íķĺìŬìķ¼":136939,"ãĤ¹ãĥĿãĥ¼ãĥ":136940,"ãĤ¹ãĥĿãĥ¼ãĥĦ":136941,"ĠGòn":136942,"Ġkè":136943,"Ġkèm":136944,"é̲ãĤģ":136945,"ãĤ¹ãĥ¼ãĥ":136946,"ãĤ¹ãĥ¼ãĥij":136947,"ãĤ¹ãĥ¼ãĥijãĥ¼":136948,"ĠgiÃłu":136949,"Ġإعادة":136950,"Ġ׾×ķ×§":136951,"Ġ׾×ķ×§×Ĺ":136952,"ĠÑħоÑĩеÑĤ":136953,"×ĺ׾×ķ×ķ":136954,"×ĺ׾×ķ×ķ×Ļ×ĸ":136955,"×ĺ׾×ķ×ķ×Ļ×ĸ×Ļ×Ķ":136956,"Ġthuyết":136957,"ãģĿãĤĮãģ§":136958,"Ġvardı":136959,"à¹Ħรà¹ī":136960,"عبد":136961,"ĠRepública":136962,"ãĥ¼ãĤ¿ãĥ¼":136963,"Ġ×ŀ×IJ×ķת":136964,"à¹Ħà¸Ľà¹ģลà¹īว":136965,"Ġyapılacak":136966,"ãĤ¹ãĤ¿ãĥ¼ãĥĪ":136967,"ãģ»ãģ¼":136968,"ĠkoÅŁ":136969,"ĠмаÑĤеÑĢи":136970,"Ġsiècle":136971,"ĠاÙĦÙħختÙĦÙģ":136972,"ĠاÙĦÙħختÙĦÙ쨩":136973,"Ġ׾קר×IJ":136974,"Ġ׾קר×IJת":136975,"Ġ×Ķפ×ķ×¢×ľ":136976,"Ġtòa":136977,"ĠrÆ¡i":136978,"åij¨ãĤĬ":136979,"à¸Ŀà¸Ļ":136980,"jÅĽÄĩ":136981,"ĠìķĬìĿĦ":136982,"اÙĨتÙĤاÙĦ":136983,"ëĸł":136984,"иваеÑĤ":136985,"ãĥĪãĥ«":136986,"ĠاÙĦÙģÙĦسطÙĬÙĨÙĬØ©":136987,"à¸ģลà¹Īาววà¹Īา":136988,"اÙĥت":136989,"ĠÃĸl":136990,"ĠÑĢеÑĪи":136991,"ĠÑĢеÑĪил":136992,"Ġ׳×ķספ×ķת":136993,"Ġìłķì¹ĺ":136994,"влеÑĩен":136995,"ÙħرØŃÙĦØ©":136996,"Ġcomeça":136997,"Ġyık":136998,"ìĤ´":136999,"à¸ĺà¸Ļา":137000,"à¸ĺà¸Ļาà¸Ħาร":137001,"à¸Ńà¸Ļา":137002,"à¸Ńà¸Ļาà¸Ħ":137003,"à¸Ńà¸Ļาà¸Ħà¸ķ":137004,"Ġpequeña":137005,"ä»ķäºĭãĤĴ":137006,"ĠبذÙĦÙĥ":137007,"Ġнового":137008,"ãģĹãģ¦ãģĦãģªãģĦ":137009,"ĠاÙĦÙħÙĬاÙĩ":137010,"à¸ģà¹ĩà¹Ģà¸Ľà¹ĩà¸Ļ":137011,"ĠжÑĥÑĢ":137012,"ĠжÑĥÑĢнал":137013,"веÑģ":137014,"ختار":137015,"Ġ매ìļ°":137016,"ĠMã":137017,"ĠавÑĤомаÑĤÑĭ":137018,"ضعÙģ":137019,"ĠاÙĦÙģÙĥر":137020,"ãģ§ãģĻãģ®ãģ§":137021,"ãĥ¡ãĥ³ãĥIJãĥ¼":137022,"ĠкÑĢÑĥг":137023,"ĠاÙĦسÙĦطة":137024,"à¸Ħรัà¹īà¸ĩà¹ģรà¸ģ":137025,"à¸ģระà¸Ĺรว":137026,"à¸ģระà¸Ĺรวà¸ĩ":137027,"ÑĨов":137028,"éķ·ãģĦ":137029,"大ãģįãģĦ":137030,"ĠgeçmiÅŁ":137031,"ìĦ±ìĿ´":137032,"Ġצר×Ļ׼×Ķ":137033,"ĠмоÑī":137034,"ĠмоÑīн":137035,"Ġ×§×Ļש":137036,"Ġ×§×Ļש×ķר×Ļ×Ŀ":137037,"ĠNasıl":137038,"гÑĢан":137039,"Ġ×ŀ×ķצר×Ļ×Ŀ":137040,"Ġ×ŀס×ķ×Ĵ":137041,"Ġyür":137042,"Ġyürüt":137043,"Ġ׾×Ĺצ×ķ":137044,"×ķÖ¼":137045,"ĠìŀĪìĹĪëĭ¤":137046,"Ġterör":137047,"ĠThương":137048,"ĠÙĪÙĬÙħ":137049,"ĠÙĪÙĬÙħÙĥÙĨ":137050,"جÙĪÙĨ":137051,"ĠÙĪØºÙĬرÙĩا":137052,"×ŀפ×ķ":137053,"×Ĵ×ķר×ŀ×Ļ×Ŀ":137054,"׼×ij×Ļש":137055,"ĠاÙĦÙĦغ":137056,"ĠاÙĦÙĦغة":137057,"شرÙĥ":137058,"ĠاÙĦراب":137059,"ĠاÙĦرابع":137060,"ĠпÑĢек":137061,"ĠпÑĢекÑĢаÑģ":137062,"ĠпÑĢекÑĢаÑģн":137063,"ĠenergÃŃa":137064,"×§×ĵ×ŀ×Ļ":137065,"ãģıãģªãģ£ãģŁ":137066,"ĠÄijứ":137067,"ĠÄijứa":137068,"Servi":137069,"Serviço":137070,"Ġkaldır":137071,"åĥįãģį":137072,"Ġодеж":137073,"Ġодежд":137074,"물ìĿĦ":137075,"ãģĿãģĨãģ§":137076,"ãģĮãģĤãĤĮãģ°":137077,"ìĻķ":137078,"צ×ĵ×§":137079,"Ġartır":137080,"Ġileti":137081,"ĠiletiÅŁim":137082,"ãĤĪãģĨãģ§":137083,"ãĥĪãĥ¼":137084,"ãĤ¢ãĥĭ":137085,"ãĤ¢ãĥĭãĥ¡":137086,"×ĺ×Ļ×Ļ׾":137087,"ãĥķãĥªãĥ¼":137088,"ãĥĿãĥ³":137089,"ÐŁÑĢо":137090,"ĠعاÙĦÙĬØ©":137091,"ĠÃ¶ÄŁret":137092,"ĠÃ¶ÄŁretmen":137093,"ĠкаÑĩеÑģÑĤва":137094,"Ġ×Ķ×ĺ×ij×¢":137095,"ĠзнаÑİ":137096,"ãģ¦ãģıãĤĭ":137097,"Ġmừng":137098,"ÙħÙĪØª":137099,"ש×ķ×ŀר":137100,"×Ĺ׾×ij":137101,"ĠwzglÄĻ":137102,"ĠwzglÄĻdu":137103,"ë²Ī째":137104,"Ġtá»ĵ":137105,"Ġtá»ĵn":137106,"ãĥ¯ãĥ¼ãĤ¯":137107,"Ġpożycz":137108,"Ġpożyczk":137109,"×Ļ×ķצר×Ļ×Ŀ":137110,"ÙĥرÙħ":137111,"ĠгаÑĢ":137112,"ĠгаÑĢан":137113,"ĠгаÑĢанÑĤи":137114,"ลà¹īาà¸ĩ":137115,"ĠìĺģíĻĶ":137116,"×ĺ×Ļס":137117,"Ġthẻ":137118,"ĠìŀĪëĭ¤ê³ł":137119,"اÙĦتز":137120,"اÙĦتزاÙħ":137121,"ĠнаÑĪи":137122,"isée":137123,"ãģĵãĤĮãĤĴ":137124,"Ġmẽ":137125,"ضÙĦ":137126,"بÙĪØª":137127,"Ġ׼׼×Ķ":137128,"hợ":137129,"ĠاÙĦسÙĪØ±ÙĬØ©":137130,"Ġ×ľ×¢×ķ×ŀ":137131,"Ġ×ľ×¢×ķ×ŀת":137132,"ĠbaÅŁar":137133,"ĠbaÅŁarılı":137134,"еÑģÑĤÑĮ":137135,"à¸Ħรี":137136,"à¸Ħรีม":137137,"ĠìłĦì²´":137138,"ĠسÙĬÙĥÙĪÙĨ":137139,"Ġ×ŀ×ĵ×ķ×¢":137140,"ĠëķĮ문ìĿ´ëĭ¤":137141,"Ġcứng":137142,"gerät":137143,"ĠмиÑĢ":137144,"ĠмиÑĢе":137145,"ĠÙĥÙĬÙģÙĬØ©":137146,"Ġפר×ĺ×Ļ×Ŀ":137147,"ĠgoÅĽci":137148,"иÑĤеÑģÑĮ":137149,"ÑĥÑĪки":137150,"ؤÙħÙĨ":137151,"Ġ×IJ׼ף":137152,"ĠاÙĦرجÙĦ":137153,"Ġlá»įc":137154,"à¹Ģรียà¸ģวà¹Īา":137155,"ãģĵãģ®ãĤĪãģĨãģª":137156,"ë§Įíģ¼":137157,"ĠпеÑĩ":137158,"ÙĪÙĦات":137159,"ĠÃľye":137160,"liÄŁinde":137161,"à¸Ħะà¹ģà¸Ļ":137162,"à¸Ħะà¹ģà¸Ļà¸Ļ":137163,"ãĤĭãģĵãģ¨ãģ¯":137164,"วิà¹Ģà¸Ħร":137165,"วิà¹Ģà¸Ħราะ":137166,"วิà¹Ģà¸Ħราะหà¹Į":137167,"ĠвозможноÑģÑĤи":137168,"ĠاÙĦÙĨساء":137169,"ãĥīãĥ©ãĥŀ":137170,"Ġgüc":137171,"Ġgücü":137172,"Ġtưá»Ŀng":137173,"Ġacompaña":137174,"ãĤ¤ãĥ©":137175,"קצ×ij":137176,"ĠYö":137177,"ĠYönet":137178,"ĠYönetim":137179,"à¸ªà¸±à¸¡à¸ľ":137180,"à¸ªà¸±à¸¡à¸ľà¸±à¸ª":137181,"à¸Ļาม":137182,"ĠÄijợi":137183,"à¹ģหà¹Īà¸ĩà¸Ĭาà¸ķิ":137184,"ãģĿãĤĮãģ§ãĤĤ":137185,"ätig":137186,"ת×ķ×Ŀ":137187,"ĠbaÅŁlat":137188,"ĠвÑģей":137189,"ת×Ļ×§":137190,"ת×Ļ×§×ķף":137191,"ĠNgô":137192,"ĠGeschä":137193,"ĠGeschäfts":137194,"Ø£Ùħ":137195,"Ø£Ùħراض":137196,"à¹Ģà¸Ĺà¸Ħà¸Ļ":137197,"à¹Ģà¸Ĺà¸Ħà¸Ļิ":137198,"à¹Ģà¸Ĺà¸Ħà¸Ļิà¸Ħ":137199,"ĠменÑĮ":137200,"ĠменÑĮÑĪе":137201,"Ġölç":137202,"Ġölçü":137203,"ĠÙĬجعÙĦ":137204,"ĠÄijỡ":137205,"ש×Ļ׾":137206,"ש×Ļ׾×ķ×ij":137207,"ĠGrÃ¶ÃŁe":137208,"ĠÙĩاتÙģ":137209,"รà¹īาà¸Ļà¸Ńาหาร":137210,"×Ķ׾×Ļ׼":137211,"×Ķ׾×Ļ׼×Ļ":137212,"иÑĢÑĥÑİÑī":137213,"èĭ¥ãģĦ":137214,"ĠÃĸzel":137215,"ãģĦãģŁãĤī":137216,"à¸Ħำà¸ĸาม":137217,"ĠzostaÅĤy":137218,"Ġ×Ķס×Ļפ×ķר":137219,"×Ķ×ķ׾":137220,"×Ķ×ķ׾×ļ":137221,"à¹Ģà¸Ĭà¹Īà¸Ļà¸ģัà¸Ļ":137222,"à¹Ĥà¸Ĩ":137223,"à¹Ĥà¸Ĩษ":137224,"à¹Ĥà¸Ĩษà¸ĵา":137225,"×IJרצ×ķת":137226,"×Ĵרפ×Ļ":137227,"Ġaoût":137228,"ĠÙĬرÙĬد":137229,"تÙĪØ¬":137230,"تÙĪØ¬ÙĬÙĩ":137231,"ĠÑįÑĤап":137232,"ãĤ¹ãĤ¿ãĥ³":137233,"Ġkró":137234,"Ġkrótk":137235,"ãĤĴ使ãģĨ":137236,"ì·¨":137237,"éĸ¢ãĤı":137238,"à¸Ķà¹īวยà¸Ħวาม":137239,"à¸Ļำà¹Ģสà¸Ļà¸Ń":137240,"Ġayrıca":137241,"à¸Īà¹īาà¸ĩ":137242,"ĠÑĦоÑĤогÑĢаÑĦ":137243,"ĠвеÑĩ":137244,"ĠвеÑĩеÑĢ":137245,"åĩºãģĹãģŁ":137246,"ĠХо":137247,"Ġ×ŀר×Ĵ×Ļש":137248,"à¹ĥหà¹īà¹Ģà¸Ľà¹ĩà¸Ļ":137249,"ãĤĴ缮":137250,"ãĤĴ缮æĮĩ":137251,"׾×ŀ×Ļ×Ŀ":137252,"nÄħÅĤ":137253,"ĠÑģÑĤанд":137254,"ĠÑģÑĤандаÑĢÑĤ":137255,"ĠSüd":137256,"ĠTâm":137257,"اختبار":137258,"à¹Ģà¸ģà¸Ńรà¹Į":137259,"ÙħسرØŃ":137260,"Ġbiá»ĩn":137261,"بÙı":137262,"ĠصاÙĦ":137263,"ĠصاÙĦØŃ":137264,"ĠPhụ":137265,"íľ´":137266,"ãĥ¬ãĥĵãĥ¥ãĥ¼":137267,"Ġbụng":137268,"Ġrégime":137269,"ĠأشÙĩر":137270,"ĠÑĢабоÑĤник":137271,"à¸Ŀัà¸Ļ":137272,"اعتÙħ":137273,"اعتÙħاد":137274,"ĠзамеÑĤ":137275,"ãģ¾ãģ£ãģ¦":137276,"Ġchặt":137277,"æĿ¥ãĤĭ":137278,"ĠاÙĦÙĤÙĪØ§Øª":137279,"ãģ«åħ¥ãģ£ãģ¦":137280,"تØŃاÙĦÙģ":137281,"ÙħزÙĬد":137282,"ĠÙĬصÙĦ":137283,"ìĹ¼":137284,"à¹Ģà¸Ĭà¹ĩ":137285,"à¹Ģà¸Ĭà¹ĩà¸Ħ":137286,"Ġká»ĭ":137287,"Ġká»ĭp":137288,"ĠìķĦì§ģ":137289,"×IJ׳×Ĵ":137290,"ĠоблаÑģÑĤÑĮ":137291,"ĠpomocÄħ":137292,"Ġ×ķש׾":137293,"ëĵłì§Ģ":137294,"ĠGiám":137295,"ĠStück":137296,"Ġcháy":137297,"ĠëĤĺìĺ¤":137298,"ש×Ļ×ĺת":137299,"×ŀ×ĵר":137300,"×ŀ×ĵר×Ļ×ļ":137301,"Ġsüreç":137302,"ква":137303,"×ij׾×Ļ×Ŀ":137304,"×Ķת×Ļ":137305,"×Ķת×Ļ×Ļ×Ĺס":137306,"ÙĤباÙĦ":137307,"Ġס×ķ×Ĵ":137308,"Ġס×ķ×Ĵ×Ļ":137309,"ÑģÑĤолÑĮ":137310,"ä½ķãĤĤ":137311,"×ĸ׼×ķר":137312,"è²·ãģĨ":137313,"å®īãģı":137314,"à¸Ħรัà¹īà¸ĩà¸Ļีà¹ī":137315,"köp":137316,"ĠÑģеÑĢвиÑģ":137317,"оÑĩнÑĭÑħ":137318,"ê±°ëŀĺ":137319,"تأÙĥ":137320,"تأÙĥÙĬد":137321,"×ĵ׾ק":137322,"ĠпоÑĩем":137323,"ĠпоÑĩемÑĥ":137324,"пиÑģаÑĤÑĮ":137325,"×ijשר":137326,"ĠHÃłng":137327,"ĠTìm":137328,"Ġtrừ":137329,"ãĤ»ãĥĥãĤ¯ãĤ¹":137330,"×ķ׳×Ĵ":137331,"mızda":137332,"пÑģи":137333,"ĠìŀĪ기":137334,"Ġrút":137335,"زاÙĨ":137336,"تÙĨÙĪØ¹":137337,"ÙħÙĤا":137338,"ÙħÙĤاÙĪÙħØ©":137339,"Ġ׾צ×ķר×ļ":137340,"Ġ×ij×Ļר×ķש׾×Ļ×Ŀ":137341,"ãĥ´ãĤ£":137342,"ebile":137343,"ebileceÄŁi":137344,"ãĥ¦ãĥ¼ãĤ":137345,"ãĥ¦ãĥ¼ãĤ¶":137346,"ãĥ¦ãĥ¼ãĤ¶ãĥ¼":137347,"ãĤĴä½ľãĤĭ":137348,"ÑģмеÑĢ":137349,"ÑģмеÑĢÑĤ":137350,"Ġì§ģ":137351,"Ġì§ģìłij":137352,"ĠÐŁÐ°ÑĢ":137353,"ØŃاض":137354,"ØŃاضر":137355,"ÙħÙĥاÙģ":137356,"ÙħÙĥاÙģØŃØ©":137357,"ลิà¸Ļ":137358,"ãģ¦ãģįãģ¦":137359,"ÑĢоÑģл":137360,"ĠÄ°ÅŁte":137361,"ÙĤصÙĬر":137362,"Ġ×ij×Ĵ×Ļ׾":137363,"Ġ×ŀת×IJ×Ļ×Ŀ":137364,"Ġ×Ķ×Ĺ×ĵ":137365,"Ġ×Ķ×Ĺ×ĵש×Ķ":137366,"ר×ķ×¢":137367,"Ġproduktów":137368,"ĠÙħصدر":137369,"неÑĨ":137370,"ĠاÙĦعÙħÙĦات":137371,"Ġçıkma":137372,"ĠدبÙĬ":137373,"×§×Ļף":137374,"ת×IJר":137375,"ת×IJר×Ļ×ļ":137376,"׳×Ļ×Ļ×ĵ":137377,"صراع":137378,"lève":137379,"צ×Ļר":137380,"à¸Ķัà¸Ļ":137381,"à¹ĥหà¹īà¹Ħà¸Ķà¹ī":137382,"ãĤ¿ãĤ¤ãĥł":137383,"Ġgiảng":137384,"Ð¡ÐŁ":137385,"ĠاÙĦÙħØŃÙĦ":137386,"ĠاÙĦÙħØŃÙĦÙĬØ©":137387,"ĠTất":137388,"׾×ķ×ĺ":137389,"há»ķ":137390,"Ġaméric":137391,"Ġaméricain":137392,"Ġ×ijש׾×ij":137393,"Ġ׾×IJ×ķ×ŀ×Ļ":137394,"Ġpeça":137395,"ĠÑĢазнÑĭÑħ":137396,"ãģĦãĤĭãģ¨":137397,"ãĥĩãĥ³":137398,"סקר":137399,"Ġ×Ķ×ŀ×Ĺ×Ļר":137400,"ãģ¨ãģĦãģĨãĤĤãģ®":137401,"رتبط":137402,"ĠиÑģÑĤоÑĩ":137403,"ĠиÑģÑĤоÑĩник":137404,"สมัà¸Ħรสมาà¸Ĭิà¸ģ":137405,"Ġà¸Ĺัà¹īà¸ĩ":137406,"Ġà¸Ĺัà¹īà¸ĩà¸Ļีà¹ī":137407,"ĠTáºŃp":137408,"ãģ£ãģ¦ãģĦãģĨ":137409,"ĠاÙĦÙĪØµÙĪÙĦ":137410,"Ġdécada":137411,"ĠоÑĦоÑĢм":137412,"ĠоÑĦоÑĢмлен":137413,"สำหรัà¸ļà¸ģาร":137414,"Ġogóln":137415,"ãģĨãģ¡ãģ«":137416,"Ġvárias":137417,"ãģĻãģİãĤĭ":137418,"ÙĪÙĩا":137419,"à¹Ĥà¸Ľà¸£à¸Ķ":137420,"ĠÐłÐ¾ÑģÑģиÑı":137421,"人ãĢħ":137422,"ãģĹãģ¦ãģįãģŁ":137423,"Ġsırasında":137424,"Ġngôn":137425,"سÙĨØ©":137426,"تÙħتع":137427,"×ŀ׼×ij×Ļ":137428,"Ġnhấn":137429,"×¢×ŀ×Ļ×ĵ":137430,"Ứ":137431,"жиÑĤÑĮ":137432,"ãĤīãģĽ":137433,"gráf":137434,"gráfica":137435,"ĠÙĤÙĪÙĦ":137436,"ĠÙĤÙĪÙĦÙĩ":137437,"ëĭ¨ì²´":137438,"หà¹īา":137439,"หà¹īาม":137440,"使ãģ£ãģ¦":137441,"ת×Ļ×ij":137442,"ת×Ļ×ijת":137443,"iá»ĥu":137444,"à¹ģà¸Ĭม":137445,"à¹ģà¸Ĭà¸¡à¸Ľ":137446,"à¹ģà¸Ĭà¸¡à¸Ľà¹Į":137447,"Ậ":137448,"ĠëĤĺëĿ¼":137449,"ĠÙħباشرة":137450,"ĠtrÄĥm":137451,"سÙĥÙĪ":137452,"ĠاÙĦذÙī":137453,"Ġbiç":137454,"Ġbiçim":137455,"تراجع":137456,"ĠобеÑģп":137457,"ĠобеÑģпеÑĩ":137458,"ĠобеÑģпеÑĩива":137459,"ĠвоздÑĥÑħ":137460,"ÑĭваÑĤÑĮ":137461,"ÙĦØŃÙĤ":137462,"ĠMüdü":137463,"ĠMüdürl":137464,"ĠMüdürlÃ¼ÄŁÃ¼":137465,"Ġyaptır":137466,"Ġפרס":137467,"Ġפרס×ķ×Ŀ":137468,"Ø·ÙĪØ±":137469,"ÑģÑĤвоваÑĤÑĮ":137470,"ìŀ¥ìĿĦ":137471,"à¸Ĺีà¹Īà¸Ķีà¸Ĺีà¹Īสุà¸Ķ":137472,"à¸Ńัล":137473,"ÑĢÑİ":137474,"ÙħستÙĤبÙĦ":137475,"ÑģлÑĥÑĪ":137476,"ÑģлÑĥÑĪа":137477,"èªįãĤģ":137478,"Ġ׾×Ļ×ŀ":137479,"Ġ׾×Ļ×ŀ×ķ×ĵ×Ļ":137480,"תש×ķ×ij":137481,"תש×ķ×ij×ķת":137482,"ĠgerçekleÅŁtiril":137483,"ĠاÙĦاتÙ쨧ÙĤ":137484,"ĠÑĥÑĢовне":137485,"ĠÑĤÑĢав":137486,"Ġ×Ķ×ŀ×ķף":137487,"ØŃÙģØ§Ø¸":137488,"ĠÙħÙIJ":137489,"ĠÙħÙIJÙĨ":137490,"ĠÙħÙIJÙĨÙĴ":137491,"Ġdemás":137492,"×ŀ×ķ×ĸ×Ļ×§×Ķ":137493,"ש×Ļ×Ĺ×Ķ":137494,"Ġbú":137495,"алÑĮнÑĭм":137496,"ãĤıãģŁ":137497,"ãĤıãģŁãģĹ":137498,"ĠاÙĦÙħÙĪØ§Ø¯":137499,"×ª×Ľ×ł":137500,"×ª×Ľ×ł×ķף":137501,"ãĥŃãĥĥãĤ¯":137502,"hiếu":137503,"ĠÑĥме":137504,"ÙħØŃاÙĪÙĦØ©":137505,"×IJ×ķשר":137506,"ĠконкÑĥÑĢ":137507,"ĠконкÑĥÑĢÑģ":137508,"Ġ×ŀ×ij×Ĺ":137509,"Ġ×ŀ×ij×Ĺ×Ļ×ł×ª":137510,"Ġanlam":137511,"Ġanlamı":137512,"Ġliá»ĩt":137513,"ĠвÑħод":137514,"ĠHình":137515,"ĠÙĨÙĬ":137516,"ĠÙĨÙĬÙĪØ²":137517,"ãĤ¸ãĥ£ãĥ¼":137518,"×ij×Ļ×¥":137519,"ÑĤелÑĮнÑĭÑħ":137520,"à¸Ĺุà¸ģà¸Ńยà¹Īาà¸ĩ":137521,"ĠkiÅŁinin":137522,"Ø£Ùĥثر":137523,"ĠиÑģÑĤоÑĢии":137524,"Ġë³ĢíĻĶ":137525,"×¤×ľ×¡×ĺ":137526,"×¤×ľ×¡×ĺ×Ļ׳×Ļ":137527,"ĠÑģеÑĤ":137528,"ĠÑģеÑĤи":137529,"dıģımız":137530,"íķĺëıĦë¡Ŀ":137531,"×Ķר":137532,"×Ķר×ij×Ķ":137533,"ãģĻãĤĭãģĵãģ¨ãģ¯":137534,"Ġphiếu":137535,"تØŃسÙĬÙĨ":137536,"ĠÅĽrod":137537,"ĠÅĽrodow":137538,"ĠÅĽrodowisk":137539,"ĠÑĢаÑģÑħод":137540,"برÙĬد":137541,"ĠرÙĬ":137542,"ĠرÙĬاÙĦ":137543,"Ġ×ķ׼×ļ":137544,"ì§ĢìļĶ":137545,"׼×ŀ×ķ":137546,"Ġ×¢×ľ×Ļ×Ķ×Ŀ":137547,"fÃŃcio":137548,"Ġkararı":137549,"tıģını":137550,"ĠСов":137551,"ĠСовеÑĤ":137552,"ãģĬéĩijãĤĴ":137553,"междÑĥ":137554,"междÑĥна":137555,"междÑĥнаÑĢод":137556,"междÑĥнаÑĢодн":137557,"Ġmá»Ŀi":137558,"ĠاÙĦØ¥ÙĬر":137559,"ĠاÙĦØ¥ÙĬراÙĨÙĬ":137560,"ĠاÙĦرÙĪØ³ÙĬ":137561,"صÙĨد":137562,"صÙĨدÙĪÙĤ":137563,"ĠاÙĦØ¥ÙĨترÙĨت":137564,"Ġtắm":137565,"ĠÑĤакого":137566,"Ġ×ij׾×ķ×Ĵ":137567,"Ġücrets":137568,"Ġücretsiz":137569,"×Ĺ×ĸ×Ļר":137570,"ìĸ´ìķ¼":137571,"ĠPhần":137572,"ï¼ľ":137573,"Ġ×ĺ×ij×¢":137574,"Ġ×ĺ×ij×¢×Ļ":137575,"×IJ×ŀ×IJ":137576,"اÙĤÙĦ":137577,"Ġcondições":137578,"ÙĤاتÙĦ":137579,"ĠÑĢезÑĥлÑĮÑĤаÑĤе":137580,"ĠÑģвоими":137581,"צ×ij×Ļ×¢":137582,"géni":137583,"Ġzes":137584,"Ġzespo":137585,"ĠzespoÅĤ":137586,"ÑĪив":137587,"Ġפר×ĺ×Ļ×ķת":137588,"ÙħستشÙģ":137589,"ÙħستشÙģÙī":137590,"شرع":137591,"ĠkoÅĽci":137592,"Ġ×Ķ×IJ×Ļ׳×ĺר׳×ĺ":137593,"ĠЧеÑĢ":137594,"поÑĩÑĤ":137595,"Ġactivités":137596,"çŁ¥ãģ£ãģ¦":137597,"Ġ×ij×ĸ×Ķ":137598,"Ġyüzden":137599,"ãģªãĤĬãģ¾ãģĽãĤĵ":137600,"Ġíĺ¹":137601,"Ġíĺ¹ìĿĢ":137602,"Ġ×ŀש׳×Ķ":137603,"ĠÐĴеÑĢ":137604,"Ġ×ij×IJ×ķת×ķ":137605,"éĿ¢çϽ":137606,"éĿ¢çϽãģĦ":137607,"شرØŃ":137608,"gründe":137609,"Ù쨴":137610,"Ù쨴ÙĦ":137611,"Ġséjour":137612,"ë´IJ":137613,"Ġrôle":137614,"شعار":137615,"емÑĭе":137616,"ĠاÙĦجسÙħ":137617,"алÑĮное":137618,"Ġìĥģíĥľ":137619,"D":137620,"ë¯Ģë¡ľ":137621,"ĠÙĨÙĤØ·":137622,"ĠÙĨÙĤطة":137623,"ãģĿãģĨãģł":137624,"ãģĻãĤĭãģ®ãģĮ":137625,"หู":137626,"Ġnhá»ĭ":137627,"Ġeconómica":137628,"ס×ĺ×ķ×ĵ":137629,"ס×ĺ×ķ×ĵ׳×ĺ":137630,"มีà¹Ĥà¸Ńà¸ģาส":137631,"Ġgestão":137632,"รูà¹īวà¹Īา":137633,"Ġloạt":137634,"ĠاÙĦÙħÙı":137635,"ĠاÙĦØŃÙħÙĦ":137636,"ĠاÙĦعÙħÙĦÙĬØ©":137637,"Ġê²ĥëıĦ":137638,"ĠÐľÐ¾Ñģква":137639,"×§×ĺ×ķר":137640,"ĠподÑĢоб":137641,"ĠподÑĢобн":137642,"Ġlưng":137643,"تÙ쨳":137644,"تÙ쨳ÙĬر":137645,"ĠاÙĦبع":137646,"ĠاÙĦبعض":137647,"ئت":137648,"ÐķÐĿ":137649,"ìĹ°êµ¬":137650,"à¹ĥหà¹īà¸Ħุà¸ĵ":137651,"ãģĤãĤĬãģ¾ãģĹãģŁ":137652,"Ġbirka":137653,"Ġbirkaç":137654,"Ġİsl":137655,"Ġİslam":137656,"çĹĽãģ¿":137657,"Ġhảo":137658,"ĠмаÑı":137659,"ĠiÅŁÃ§i":137660,"ש×":137661,"ש×ģ":137662,"à¸ģารà¹Ģมืà¸Ńà¸ĩ":137663,"×ķ×Ķר":137664,"Ġchó":137665,"ëĨĢ":137666,"Ġyanlı":137667,"ĠyanlÄ±ÅŁ":137668,"幸ãģĽ":137669,"×IJר×Ĵ×ķ׳×Ļ":137670,"à¸Ńาà¸Īาร":137671,"à¸Ńาà¸Īารยà¹Į":137672,"ĠинÑĦоÑĢмаÑĨиÑİ":137673,"ÐĵÐŀ":137674,"׳×Ĺש":137675,"ĠìķĮìķĦ":137676,"ĠÑħаÑĢакÑĤеÑĢиÑģÑĤ":137677,"ĠÑħаÑĢакÑĤеÑĢиÑģÑĤик":137678,"à¸Ħุà¸ĵสามารà¸ĸ":137679,"è¦ĭãģĪãĤĭ":137680,"à¸Ĭัà¸Ķà¹Ģà¸Ī":137681,"à¸Ĭัà¸Ķà¹Ģà¸Īà¸Ļ":137682,"ĠdziaÅĤal":137683,"ĠdziaÅĤalnoÅĽci":137684,"à¹Ĥà¸ŀสà¸ķà¹Į":137685,"ĠÐļол":137686,"ĠÙģÙĩÙĬ":137687,"Ġ×ŀפ׳×Ļ":137688,"Ġ×Ķקשר":137689,"ÙħرÙĥ":137690,"ÙħرÙĥز":137691,"Ġhoá":137692,"Ġапп":137693,"ĠаппаÑĢаÑĤ":137694,"Ġpami":137695,"ĠpamiÄĻ":137696,"ĠpamiÄĻta":137697,"Ġçünkü":137698,"×ĵ×ķף":137699,"ãģ¯ãģĵãģ¡ãĤī":137700,"ĠMÃł":137701,"ĠÙĬÙĤدÙħ":137702,"ĠпÑĢез":137703,"ĠпÑĢезиденÑĤ":137704,"à¸Ńุà¸ķ":137705,"à¸Ńุà¸ķสา":137706,"à¸Ńุà¸ķสาห":137707,"à¸Ńุà¸ķสาหà¸ģรรม":137708,"ì§ĢìĽIJ":137709,"Ġ×IJפשר×ķת":137710,"schüt":137711,"schütz":137712,"ĠTiên":137713,"Ġsayılı":137714,"ĠгÑĢÑĥппÑĭ":137715,"оÑĩнÑĭй":137716,"Ġ×ľ×¢×ŀ×ķ×ĵ":137717,"ĠwrzeÅĽ":137718,"ĠwrzeÅĽnia":137719,"ĠÄIJầu":137720,"à¹Ģà¸Ĥà¹īารà¹Īวม":137721,"nızda":137722,"Ø®ÙĬص":137723,"Ġgünc":137724,"Ġgüncel":137725,"ĠÙĦÙĩذÙĩ":137726,"ĠÙĬعتبر":137727,"légi":137728,"ãĤıãģĭãĤĭ":137729,"Ġrừng":137730,"ظÙĩ":137731,"ظÙĩÙĪØ±":137732,"Ġ×ŀ×ij×Ļף":137733,"Ġ기íĥĢ":137734,"åĪĩãĤĮ":137735,"lanmÄ±ÅŁ":137736,"à¸Ĺีà¹Īมีà¸Ħวาม":137737,"Ġhá»ģ":137738,"تÙĪØ¬Ùĩ":137739,"ĠاÙĦإدارة":137740,"Ġútil":137741,"ספ×ķ":137742,"à¸Ħวามรัà¸ģ":137743,"à¹Ĥฮ":137744,"ĠполиÑĤ":137745,"ĠполиÑĤик":137746,"Ġsatın":137747,"ĠÅŀimdi":137748,"×ŀ×ķר×Ļ×Ŀ":137749,"ìķĺëĭ¤":137750,"×Ĺ×ķ×ķ":137751,"×Ĺ×ķ×ķ×Ļ×Ķ":137752,"à¸Ħà¸Ńมà¸ŀิ":137753,"à¸Ħà¸Ńมà¸ŀิว":137754,"à¸Ħà¸Ńมà¸ŀิวà¹Ģà¸ķà¸Ńรà¹Į":137755,"Ġاذا":137756,"تخاذ":137757,"ãĤ¨ãĥ«":137758,"Ġpossibilité":137759,"ยืà¸Ļยัà¸Ļ":137760,"Ġünivers":137761,"Ġüniversite":137762,"ĠاÙĦدÙĪØ±ÙĬ":137763,"ĠìķĬëĬĶëĭ¤":137764,"ĠìĦľë¡ľ":137765,"ØŃاÙĦ":137766,"Ġë¨":137767,"Ġ먼":137768,"Ġ먼ìłĢ":137769,"à¸Ĺีà¹Īà¸ĸูà¸ģ":137770,"ì§ľ":137771,"Ġskóry":137772,"лÑĮÑĨ":137773,"à¹ĥà¸Ĭà¹īà¹Ģวลา":137774,"×ijקשת":137775,"ĠذÙĪ":137776,"æĹ¥ãĢħ":137777,"ĠкоÑĤоÑĢÑĥÑİ":137778,"ĠÑĥÑĢовенÑĮ":137779,"깨":137780,"à¹Ħà¸Ĺ":137781,"ãĤµãĥĹãĥª":137782,"ãĤ¸ãĥ§ãĥ³":137783,"ãģĻãģ¹ãģį":137784,"ĠGór":137785,"ãĥĪãĤ¤":137786,"ãĥĪãĤ¤ãĥ¬":137787,"ĠyaÅŁama":137788,"Ġdá»ĭp":137789,"Ġbữa":137790,"à¸ĭุ":137791,"Ġölüm":137792,"ãģ£ãģ¦ãģıãĤĭ":137793,"à¸ģารà¸Ħà¹īา":137794,"שער":137795,"ĠÑĤипа":137796,"ĠгеÑĢ":137797,"ĠгеÑĢо":137798,"רקע":137799,"Ġuważ":137800,"Ġuważa":137801,"ש×ŀף":137802,"Ġhastalık":137803,"ãĤıãĤĮãĤĭ":137804,"baÅŁÄ±":137805,"ÑĩÑĤо":137806,"Ġ×ij×ŀר׼×ĸ":137807,"Ġìļ°ë¦¬ìĿĺ":137808,"ĠÙĥاÙĨÙĪØ§":137809,"Ġأبر":137810,"ĠأبرÙĬÙĦ":137811,"층":137812,"à¹Ħà¸Ĥà¹Ī":137813,"ĠÙĪÙĦÙĪ":137814,"à¸Ĺัว":137815,"à¸Ĺัวรà¹Į":137816,"ĠÙĪØ£Ùĥد":137817,"à¸Ĭวà¸Ļ":137818,"׾×ķ×§":137819,"æį¨":137820,"æį¨ãģ¦":137821,"Ġİçin":137822,"péri":137823,"Ġyal":137824,"Ġyalnız":137825,"ÑĮÑıн":137826,"Ġgắng":137827,"à¸ģà¹ĩยัà¸ĩ":137828,"ĠУкÑĢаин":137829,"ĠÑģами":137830,"ĠпÑĢоведен":137831,"à¸ķà¸ģà¹ģà¸ķà¹Īà¸ĩ":137832,"ĠQuân":137833,"éparation":137834,"ĠbaÅŁÄ±nda":137835,"Ġznale":137836,"Ġznaleź":137837,"ĠznaleźÄĩ":137838,"ãĤ±ãĥ¼":137839,"ãĥİãĥ¼":137840,"à¸ĸูà¸ģà¸ķà¹īà¸Ńà¸ĩ":137841,"몸":137842,"ĠëıĮ":137843,"ĠëıĮìķĦ":137844,"ĠSchüler":137845,"ĠподгоÑĤов":137846,"ĠподгоÑĤовк":137847,"عرÙĪ":137848,"عرÙĪØ¶":137849,"laÅŁtır":137850,"ĠÑģоÑģÑĤавлÑıеÑĤ":137851,"ĠпÑĢоизвод":137852,"ĠпÑĢоизводÑģÑĤва":137853,"ĠоÑģнове":137854,"ĠØ´ÙħاÙĦ":137855,"à¸ģรี":137856,"ĠgörÃ¼ÅŁme":137857,"оÑĩек":137858,"Ġ×Ĺ×ijר×Ļ×Ŀ":137859,"Ùħخاط":137860,"Ùħخاطر":137861,"ï¼Ń":137862,"רפ×IJ":137863,"ĠMẹ":137864,"ยà¸Ńมรัà¸ļ":137865,"Ġvết":137866,"خذ":137867,"ĠاÙĦتط":137868,"ĠاÙĦتطبÙĬÙĤ":137869,"à¸Ļึà¸ģ":137870,"Ġ×Ķ×Ľ×ł×¡×ª":137871,"ĠогÑĢани":137872,"ĠогÑĢаниÑĩен":137873,"ĠÃĩalÄ±ÅŁ":137874,"ĠاÙĦÙħÙĨتدÙī":137875,"à¸Īำà¸Ļวà¸Ļมาà¸ģ":137876,"ĠÑĤоÑĢÑĢ":137877,"ĠÑĤоÑĢÑĢенÑĤ":137878,"ĠìĤ´ìķĦ":137879,"à¸ŀลัà¸ĩà¸ĩาà¸Ļ":137880,"à¸Ĭัà¸Ļ":137881,"ĠÐIJндÑĢ":137882,"Ġréalisé":137883,"×ŀש×IJ":137884,"à¹ģà¸Ĭ":137885,"à¹ģà¸Ĭรà¹Į":137886,"Ġбог":137887,"มาà¹ģลà¹īว":137888,"ĠاÙĦÙĨار":137889,"Ġolmadıģı":137890,"×ĵ×¢×Ķ":137891,"ĠÑĥвеÑĢ":137892,"ĠÑĥвеÑĢен":137893,"ãĤĭãĤĤãģ®":137894,"أد":137895,"أدÙĪØ§Øª":137896,"Ġ×Ķ×ĸ×ķ×Ĵ":137897,"إعÙĦاÙħ":137898,"há»ı":137899,"ĠNähe":137900,"ĠÑĤеÑģÑĤ":137901,"Ġ×ŀ×ķ׼ר":137902,"Ġë¬¸ìłľê°Ģ":137903,"ת×ķצ×IJ×Ķ":137904,"mó":137905,"móvel":137906,"ĠاÙĦتجارة":137907,"ĠмногиÑħ":137908,"обÑīа":137909,"Ġעסק×Ļ":137910,"ĠEducação":137911,"קש×Ļ×Ŀ":137912,"établ":137913,"établissement":137914,"Ġделе":137915,"иÑĢÑĥеÑĤÑģÑı":137916,"آثار":137917,"Ġ×Ķ×ŀר׼×ĸ×Ļ":137918,"ãĥIJãĥ«":137919,"ĠвÑģÑĤÑĢеÑĩ":137920,"ãģĴãĤĭ":137921,"ĠciÄħ":137922,"ĠciÄħgu":137923,"ÙĬست":137924,"à¸łà¸²à¸§":137925,"à¸łà¸²à¸§à¸°":137926,"Ø£Ùħر":137927,"Ġожи":137928,"Ġожида":137929,"Ġá»§y":137930,"ãĥŀãĥ«":137931,"راس":137932,"оÑĩной":137933,"ת×Ĵ×ķ×ij×ķת":137934,"تعرÙĬÙģ":137935,"ĠÑģоÑĨиалÑĮно":137936,"ãĤĴéĸĭ":137937,"ĠиÑģÑģледова":137938,"Ġdú":137939,"Ġdúvida":137940,"ĠskÅĤ":137941,"ĠskÅĤada":137942,"Ġhäufig":137943,"ĠвÑĭбÑĢ":137944,"ĠвÑĭбÑĢаÑĤÑĮ":137945,"ãģ®ãģ§ãģ¯ãģªãģĦãģĭ":137946,"ĠÑģилÑĮно":137947,"ÑĤвеÑĢжден":137948,"רפ":137949,"רפ×ķ×IJ×Ķ":137950,"æĢĿãģĦãģ¾ãģĻ":137951,"ØŃرص":137952,"ש×ķתף":137953,"Ùħسجد":137954,"à¹Ĥà¸Ĭวà¹Į":137955,"емÑģÑı":137956,"вÑĪие":137957,"Ġмл":137958,"Ġмлн":137959,"Ġ׾×Ķ×ij×Ļ×IJ":137960,"ĠÙĬتعÙĦÙĤ":137961,"à¸ķูà¹ī":137962,"ĠпÑĢаз":137963,"ĠпÑĢазд":137964,"ĠпÑĢаздник":137965,"Ġнем":137966,"Ġнемного":137967,"ĠsÃłng":137968,"تÙĨسÙĬ":137969,"تÙĨسÙĬÙĤ":137970,"Ġtá»Ŀ":137971,"Ġмеди":137972,"ã쫿Ī":137973,"ã쫿λ":137974,"à¸Ħวà¹īา":137975,"ãģĭãģijãĤĭ":137976,"×ij׾×ķת":137977,"ĠÑįкÑģп":137978,"ĠÑįкÑģпеÑĢÑĤ":137979,"ĠдевÑĥÑĪ":137980,"ĠдевÑĥÑĪк":137981,"ĠØŃص":137982,"ÙĨشأ":137983,"ãģĮãģĤãĤĭãģ®ãģ§":137984,"ĠتراÙħ":137985,"ĠتراÙħب":137986,"أسÙĪØ§ÙĤ":137987,"Ġ׾פ׳×ķת":137988,"Ġاﻷ":137989,"ãģ«ãģı":137990,"ãģ«ãģıãģĦ":137991,"ĠأعÙĦÙī":137992,"Ġ׾×Ķ×ŀש×Ļ×ļ":137993,"räu":137994,"ש×ŀ×Ļ×Ŀ":137995,"åĪĨãģij":137996,"ãģĻãģ§":137997,"ãģĻãģ§ãģ«":137998,"×Ķ׾׼×Ķ":137999,"×Ĺ׾×Ļ×£":138000,"Ġì±ħ":138001,"Ġì±ħìŀĦ":138002,"à¹Ģà¸Īริ":138003,"à¹Ģà¸Īริà¸į":138004,"éģĬãģ³":138005,"جسد":138006,"สาà¸ĺ":138007,"สาà¸ĺาร":138008,"สาà¸ĺารà¸ĵ":138009,"Ġbasın":138010,"ÑĢаг":138011,"гад":138012,"ĠhoÅŁ":138013,"íķµ":138014,"×ij×Ĺ×Ļר×Ķ":138015,"×ŀס×ļ":138016,"ĠìłľíĴĪ":138017,"تÙħÙĪÙĬÙĦ":138018,"ĠLưu":138019,"ë¡ľë¶ĢíĦ°":138020,"Ġпоб":138021,"Ġпобед":138022,"ÙħÙĨذ":138023,"常ãģ«":138024,"ÙĤس":138025,"ĠاÙĦÙħصدر":138026,"ĠÙĪØ§ÙĦاست":138027,"Ġkhắp":138028,"ĠاÙĦجاÙĨب":138029,"Ġnguyá»ĩn":138030,"éĸĵéģķãģĦ":138031,"ĠÑģÑĤÑĢа":138032,"ĠÑģÑĤÑĢаÑħ":138033,"ĠÑģÑĤÑĢаÑħов":138034,"รีà¸ļ":138035,"Ġxương":138036,"Ġì°¾":138037,"Ġì°¾ìķĦ":138038,"Ġngại":138039,"гал":138040,"à¸ĭีà¹Ī":138041,"Ġ×ijפ×Ļ×Ļס×ij×ķ×§":138042,"ЦенÑĤÑĢ":138043,"Ġavaliação":138044,"Ġeconómico":138045,"×ĸף":138046,"ĠÐľÐ°Ðº":138047,"Ġinterés":138048,"à¸ģลิà¹Īà¸Ļ":138049,"ÑģÑĤÑĮÑİ":138050,"ĠÄijương":138051,"å¼·ãģı":138052,"ĠKhách":138053,"à¹Ģà¸Ļืà¹īà¸Ńหา":138054,"ĠYazı":138055,"è²·ãģ£ãģ¦":138056,"ÐłÐķ":138057,"à¹Ģà¸ŀิà¹Īมà¸Ĥึà¹īà¸Ļ":138058,"สมà¸ļู":138059,"สมà¸ļูรà¸ĵà¹Į":138060,"ĠмиÑĢов":138061,"×Ĵ׳×Ļ×Ŀ":138062,"ĠÄijức":138063,"à¸Ńารà¹Į":138064,"صاص":138065,"ãģĬãĤĪ":138066,"ãģĬãĤĪãģ³":138067,"êÌī":138068,"ĠاÙĦÙħؤتÙħر":138069,"ĠاÙĦÙħرØŃÙĦØ©":138070,"สà¸Ńà¸ļà¸ĸาม":138071,"Ġà¸Īาà¸ģà¸Ļัà¹īà¸Ļ":138072,"Ġتعد":138073,"ãģĿãģ®ãģŁãĤģ":138074,"Ġkháng":138075,"à¸Ļิà¸Ķ":138076,"ãĥĬãĥ³":138077,"ëĦ¤ìļĶ":138078,"ĠاÙĦاØŃت":138079,"ĠاÙĦاØŃتÙĦاÙĦ":138080,"ìļķ":138081,"Ġмодели":138082,"ĠпÑĢоÑĨенÑĤ":138083,"à¸ŀวà¸ģà¹Ģรา":138084,"Ġ×Ķצ×ĵ":138085,"Ġ×Ķצ×ĵ×ĵ×Ļ×Ŀ":138086,"stände":138087,"׳×Ĵר":138088,"Ġdotyc":138089,"ĠdotyczÄħ":138090,"ĠdotyczÄħce":138091,"ĠÅĽwiÄĻt":138092,"×ŀר×Ķ":138093,"ãģĻãģĶãģĦ":138094,"ãĥĩãĤ£ãĥ³ãĤ°":138095,"à¸ģารสรà¹īาà¸ĩ":138096,"ëĤ¬":138097,"Ġì°¸ìŬ":138098,"ÑģÑħ":138099,"ÑģÑħем":138100,"ÙħÙĪØ³":138101,"Ġnấu":138102,"Ġ׾×ŀ×¢×ľ×Ķ":138103,"à¹Ģà¸Ľà¹īา":138104,"à¹Ģà¸Ľà¹īาหมาย":138105,"Ġmùi":138106,"ائز":138107,"íĽĪ":138108,"×Ĺ×ij×ķר×Ķ":138109,"à¸ľà¸¹à¹īà¹ĥà¸Ĭà¹ī":138110,"Ġpaź":138111,"Ġpaździ":138112,"Ġpaździern":138113,"Ġpaździernika":138114,"ลà¸ĩà¹Ħà¸Ľ":138115,"ÙĤاع":138116,"ĠcháºŃm":138117,"Ġözellikleri":138118,"ĠÄIJo":138119,"ĠÄIJoÃłn":138120,"жение":138121,"Ġhẳ":138122,"Ġhẳn":138123,"ĠaÅŁk":138124,"ï½į":138125,"ãĥijãĤ¹":138126,"×Ķ×ķר×IJ×ķת":138127,"ĠÅ»":138128,"ĠÅ»y":138129,"×ŀ×ĸ׾":138130,"ĠÑĥкÑĢа":138131,"ĠÑĥкÑĢаин":138132,"à¹Ģà¸Ĭิ":138133,"à¹Ģà¸Ĭิà¸į":138134,"ÐłÐĺ":138135,"ĠzwiÄħzku":138136,"×Ķ×Ĺ׾×ĺת":138137,"ãĤĵãģ§ãģĻãĤĪãģŃ":138138,"ãģ¦ãģĬãĤĬ":138139,"ложиÑĤÑĮ":138140,"×ŀ×ķ׳×Ļ×Ŀ":138141,"ฮิ":138142,"ì°¬":138143,"ĠاÙĦÙħشترÙĥ":138144,"ĠdÃ¼ÅŁÃ¼k":138145,"агенÑĤ":138146,"ĠاÙĦأسبÙĪØ¹":138147,"ĠÙĤرÙĬب":138148,"инд":138149,"индив":138150,"индивид":138151,"индивидÑĥ":138152,"индивидÑĥалÑĮн":138153,"förder":138154,"Ġseçen":138155,"Ġseçenek":138156,"Ġétant":138157,"ĠлÑİбим":138158,"казÑĭваеÑĤ":138159,"วิà¸Ļ":138160,"Ġ×Ķ×ij×IJ×Ļ×Ŀ":138161,"Ġдов":138162,"ĠдоволÑĮ":138163,"ĠдоволÑĮно":138164,"×¢×ĵ×Ļ×£":138165,"Ġokre":138166,"ĠokreÅĽ":138167,"ĠokreÅĽlon":138168,"ĠترÙĬد":138169,"à¹Ģมืà¹Īà¸Ńวัà¸Ļà¸Ĺีà¹Ī":138170,"ãĤĪãģĭãģ£ãģŁ":138171,"Cumh":138172,"Cumhur":138173,"Cumhurba":138174,"CumhurbaÅŁ":138175,"CumhurbaÅŁkan":138176,"CumhurbaÅŁkanı":138177,"Ġnợ":138178,"à¸ľà¸¹à¹īà¹Ģลà¹Īà¸Ļ":138179,"Ġcomplète":138180,"à¹Ģà¸ŀศ":138181,"دÙIJ":138182,"Ġdüz":138183,"Ġdüzey":138184,"ãģ§ãģĤãĤĭãģĵãģ¨":138185,"extérieur":138186,"׳":138187,"Ġinformação":138188,"ãĤ¯ãĥªãĥĭãĥĥãĤ¯":138189,"ĠPubli":138190,"ĠPublié":138191,"ר×ķ×ĵ":138192,"à¸Ħà¸§à¸²à¸¡à¸Ľà¸¥à¸Ńà¸Ķà¸łà¸±à¸¢":138193,"ĠØ£ÙĬض":138194,"ĠØ£ÙĬضÙĭا":138195,"تسبب":138196,"ãģ¤ãĤĤãĤĬ":138197,"изма":138198,"à¸Ĥึà¹īà¸Ļà¹Ħà¸Ľ":138199,"ÙĥÙIJ":138200,"ÙĦÙĪÙħ":138201,"Ġשצר":138202,"Ġשצר×Ļ×ļ":138203,"ãģ¯ãĤĤãģ¡ãĤįãĤĵ":138204,"Ġкан":138205,"Ġканал":138206,"ãģ«ãģªãģ£ãģ¦ãģĦãģ¾ãģĻ":138207,"ĠاÙĦØ£Ùĥثر":138208,"تاØŃ":138209,"ÙĨتÙĩ":138210,"ÙĨتÙĩاء":138211,"اÙĪÙĬØ©":138212,"ĠBugün":138213,"нÑģкого":138214,"à¸Ķà¹Īวà¸Ļ":138215,"évolution":138216,"ãģ£ãģ¦ãģĦãģ¾ãģĹãģŁ":138217,"ãĤħ":138218,"ĠVương":138219,"à¸łà¸²à¸ŀย":138220,"à¸łà¸²à¸ŀยà¸Ļ":138221,"à¸łà¸²à¸ŀยà¸Ļà¸ķรà¹Į":138222,"Ġ×Ķצ׾×Ļ×Ĺ":138223,"ĠاÙĦإسÙĦاÙħÙĬ":138224,"ÙĦÙĬب":138225,"Ġedição":138226,"ÑģÑĤÑĢел":138227,"Ġkhúc":138228,"ÙĨÙħÙĪØ°":138229,"ÙĨÙħÙĪØ°Ø¬":138230,"׾צ×Ķ":138231,"ÑģÑĤавил":138232,"à¸ĸา":138233,"สรà¹īาà¸ĩà¸Ħวาม":138234,"ãģĦãģ£ãģ±":138235,"ãģĦãģ£ãģ±ãģĦ":138236,"ÑģÑĤавлен":138237,"ĠاÙĦÙĤدس":138238,"Ġngược":138239,"بخ":138240,"สหร":138241,"สหรั":138242,"สหรัà¸IJ":138243,"Ġأغ":138244,"Ġأغسط":138245,"Ġأغسطس":138246,"ãģĨãģ¾":138247,"ãģĨãģ¾ãģı":138248,"ĠêµŃìłľ":138249,"ØŃضار":138250,"Ġdừng":138251,"æĬ¼ãģĹ":138252,"تÙĪØ§":138253,"تÙĪØ§Ø¬Ø¯":138254,"ש×ŀ×Ĺ×Ķ":138255,"ãģıãĤĵ":138256,"Ġ×ijעצ":138257,"Ġ×ijעצ×Ŀ":138258,"×ŀ׳×Ļ×ķת":138259,"×ķ×Ļ×ĵ":138260,"×ķ×Ļ×ĵ×IJ×ķ":138261,"à¸Ĭิà¸ĩ":138262,"ĠpracÄĻ":138263,"ĠзаÑĤ":138264,"ĠзаÑĤем":138265,"ĠìŀIJìľł":138266,"Ġì¤Ģ":138267,"Ġì¤Ģë¹Ħ":138268,"ĠbáºŃ":138269,"ĠbáºŃc":138270,"Ġ×Ķ×ŀצ×ij":138271,"ĠÙĤÙĬÙħØ©":138272,"à¹Ģà¸Ńà¹Ģà¸Ĭ":138273,"à¹Ģà¸Ńà¹Ģà¸Ĭีย":138274,"Ġperchè":138275,"ĠاÙĦعسÙĥر":138276,"ĠاÙĦعسÙĥرÙĬØ©":138277,"جÙĬب":138278,"ëŀµ":138279,"ÙħÙĩر":138280,"ÙħÙĩرجاÙĨ":138281,"ÙħراÙĥ":138282,"ÙħراÙĥز":138283,"Ġоднако":138284,"à¸Ķีà¹Ĩ":138285,"Ġצפ×ķ":138286,"Ġkullanılan":138287,"Ġкино":138288,"ãĥĨãĤ£ãĥ³ãĤ°":138289,"ĠGiỼi":138290,"تÙĪØ²":138291,"تÙĪØ²ÙĬع":138292,"ยิà¸Ļ":138293,"ยิà¸Ļà¸Ķี":138294,"ĠcÅĵur":138295,"ĠiÅŁaret":138296,"Ġ×ij×¢×ĸר":138297,"Ġ×ij×¢×ĸרת":138298,"ĠпаÑĨи":138299,"ĠпаÑĨиенÑĤ":138300,"ãģ¿ãģŁãģĦãģ§ãģĻ":138301,"вез":138302,"лина":138303,"оде":138304,"Ġ×IJ×ķ×ª×Ł":138305,"dıģınız":138306,"ĠÐIJв":138307,"ĠÐIJвÑĤоÑĢ":138308,"ï¼®":138309,"ĠCần":138310,"ĠاÙĦاخ":138311,"ĠاÙĦاخبار":138312,"Ġê±°ìĿĺ":138313,"Ġatenção":138314,"ĠgeldiÄŁi":138315,"ãĤªãĤ¹":138316,"ãĤªãĤ¹ãĤ¹":138317,"ãĤªãĤ¹ãĤ¹ãĥ¡":138318,"евÑĭе":138319,"кÑĢÑĭл":138320,"à¹Ģà¸Ĭียà¸ĩ":138321,"à¹Ģà¸Ĭียà¸ĩà¹ĥหมà¹Ī":138322,"Ġmarço":138323,"ĠاÙĦÙħادة":138324,"Ġгол":138325,"Ġsprzedaży":138326,"Ġíķ´ê²°":138327,"ĠÐķго":138328,"ê¹Ģ":138329,"Ġ׾ק×ij×ľ×ª":138330,"ĠاÙĦÙģÙĨاÙĨ":138331,"Ġcomunicación":138332,"à¹Ģสà¹īà¸Ļà¸Ĺาà¸ĩ":138333,"íĺ¹":138334,"à¸Ĭำ":138335,"à¸Ĭำระ":138336,"Ġ׼×IJ×ŀ":138337,"Ġ׼×IJ×ŀ×ķר":138338,"à¸Ĭà¹Īาà¸ĩ":138339,"زÙĩر":138340,"Ġklientów":138341,"иваÑİÑĤ":138342,"анг":138343,"׳×ļ":138344,"Ġgá»įn":138345,"ÃľR":138346,"ìĺģìĥģ":138347,"Ġغزة":138348,"ìĿĮìĿĦ":138349,"Ġbezpo":138350,"ĠbezpoÅĽ":138351,"ĠbezpoÅĽredni":138352,"ĠاÙĦÙħÙĪØ§":138353,"ĠاÙĦÙħÙĪØ§Ø·ÙĨ":138354,"ĠاÙĦÙħÙĪØ§Ø·ÙĨÙĬÙĨ":138355,"ãĤĮãģ¾ãģĻ":138356,"ĠмаÑĤÑĩ":138357,"×IJ×ķף":138358,"ĠرسÙħÙĬ":138359,"ĠÑįкон":138360,"ĠÑįконом":138361,"ĠÑįкономиÑĩеÑģк":138362,"ãĥľãĥ¼":138363,"ĠдиÑĢ":138364,"ĠдиÑĢекÑĤоÑĢ":138365,"ĠÑģкоÑĢо":138366,"à¸ļำ":138367,"à¸ļำร":138368,"à¸ļำรุà¸ĩ":138369,"ĠÑĦÑĥÑĤ":138370,"ĠÑĦÑĥÑĤбол":138371,"Ġ×IJ×Ļ׾":138372,"Ġì¤ijêµŃ":138373,"ìľ¤":138374,"eÄŁe":138375,"à¹Ħà¸ģà¹Ī":138376,"traî":138377,"traîn":138378,"ĠÑĤÑĢÑĥб":138379,"à¹Ģà¸ļื":138380,"à¹Ģà¸ļืà¹īà¸Ńà¸ĩ":138381,"à¹ģมà¸Ļ":138382,"ĠتØŃدÙĬØ«":138383,"Ġ×Ľ×¢×ª":138384,"ØŃاسب":138385,"lıģa":138386,"×§×Ļ×Ļ×ŀ×Ļ×Ŀ":138387,"оÑģÑĤÑĮÑİ":138388,"à¸Ŀั":138389,"à¸Ŀัà¹Īà¸ĩ":138390,"شغÙĦ":138391,"ìĽ¹":138392,"Ġкаждого":138393,"Ġbölümü":138394,"หà¸Ļี":138395,"ĠistediÄŁi":138396,"Ġtrưng":138397,"ãĥĮ":138398,"ฮà¸Ń":138399,"Ø£ÙĨØ´":138400,"Ø£ÙĨشطة":138401,"ĠاÙĦÙħسÙĬ":138402,"ĠاÙĦÙħسÙĬØŃ":138403,"ลัà¸ģษà¸ĵà¹Į":138404,"Ġná»Ńa":138405,"à¸Ĺีà¹Īà¸ķà¹īà¸Ńà¸ĩà¸ģาร":138406,"ÑĪек":138407,"лÑij":138408,"Ġש×Ļ×Ķ":138409,"Ġש×Ļ×Ķ×Ļ×Ķ":138410,"Ġkhuôn":138411,"ĠÑĤÑĢебованиÑı":138412,"Ġ×ľ×¢×ĸ×ķר":138413,"ĠاÙĦعÙħر":138414,"ราà¸Ħาà¸ĸูà¸ģ":138415,"ÙĩÙıÙħÙĴ":138416,"üst":138417,"üstü":138418,"Ġденег":138419,"Ġnạ":138420,"à¸Ĥà¸Ļม":138421,"Ġблаг":138422,"Ġблагод":138423,"ĠблагодаÑĢ":138424,"ĠблагодаÑĢÑı":138425,"إسÙĦاÙħ":138426,"à¸Ļิว":138427,"çŁ¥ãĤīãģªãģĦ":138428,"Ø«ÙĤØ©":138429,"ĠголоÑģ":138430,"×IJ×ķר×Ĺ":138431,"Ġtrứng":138432,"Ġодном":138433,"ĠkoÅĦcu":138434,"Ġ×ķרק":138435,"WiÄĻ":138436,"WiÄĻcej":138437,"Ġ×IJ×Ļ׼×ķת":138438,"Ġ×IJ×Ļ׼×ķת×Ļ":138439,"ÑģоÑģ":138440,"Ġjeżeli":138441,"以ä¸ĭãģ®":138442,"å°ıãģķ":138443,"å°ıãģķãģª":138444,"ологии":138445,"ĠобÑģлÑĥж":138446,"ĠобÑģлÑĥжива":138447,"Ùĥتابة":138448,"Ġê´Ģìĭ¬":138449,"עש×Ļר":138450,"Ġarasındaki":138451,"ĠÑĢайона":138452,"ÙĪØ§Ø¬Ø¨":138453,"Ġ×ij×Ĺ×Ļ×Ļ":138454,"íķ´ì£¼":138455,"Ġgóc":138456,"айл":138457,"ĠTình":138458,"æļ®ãĤī":138459,"æļ®ãĤīãģĹ":138460,"æĻĤãģ«ãģ¯":138461,"ĠгоÑĢоде":138462,"Ġ׼×IJ×Ļ׾":138463,"Ġ׼×IJ×Ļ׾×ķ":138464,"ĠCá»Ļng":138465,"ãģ©ãģĨãģĹãģ¦ãĤĤ":138466,"×Ĺ×ķ×£":138467,"تØŃرÙĥ":138468,"ĠÑģловам":138469,"à¸Īะà¸Ĭà¹Īวย":138470,"ĠاÙĦÙħستÙĤبÙĦ":138471,"ÙĤض":138472,"ÙĤضÙĬ":138473,"×ijס×ķפ":138474,"×ijס×ķפ×ķ":138475,"iÄĻÄĩ":138476,"ĠYıl":138477,"Ø´ÙĬØ®":138478,"à¸Ħุà¸ĵà¸Īะ":138479,"ש×ŀ×ķת":138480,"Ġتعرض":138481,"Ġanálise":138482,"ĠÑģобиÑĢа":138483,"à¹Ģà¸ŀà¸Ĭ":138484,"à¹Ģà¸ŀà¸Ĭร":138485,"Ġвели":138486,"Ġвелик":138487,"สัà¹īà¸Ļ":138488,"Ġpopulação":138489,"รà¹Īวมà¸ģัà¸Ļ":138490,"×Ĺ×ŀ":138491,"×Ĺ×ŀ×Ļש×Ļ":138492,"ס×Ļס":138493,"åĨħãģ§":138494,"ĠsobÄħ":138495,"ĠYay":138496,"ĠYayın":138497,"ãĥ¡ãĥĭãĥ¥ãĥ¼":138498,"ĠпÑĢедоÑģÑĤавлÑı":138499,"ãģłã썿ĢĿãģĨ":138500,"Ġê³łê°Ŀ":138501,"Ġодним":138502,"à¹ĥà¸Ļà¹Ģรืà¹Īà¸Ńà¸ĩ":138503,"Ġsá»ķ":138504,"ĠÐĹдеÑģÑĮ":138505,"ĠизменениÑı":138506,"ĠìĿ¼ìĿĦ":138507,"ãģªãģ®ãģł":138508,"кладÑĭва":138509,"ÑĢма":138510,"Ġ×ķ×ij׼׾":138511,"تأÙħÙĬÙĨ":138512,"ĠпÑĢиÑıÑĤ":138513,"ĠпÑĢиÑıÑĤн":138514,"ÙħÙħار":138515,"ÙħÙħارسة":138516,"ãģ¨ãģªãģ£ãģ¦":138517,"ĠجÙħÙĬÙĦ":138518,"Ġì§Ī":138519,"Ġì§Ī문":138520,"Ġquestão":138521,"ié":138522,"iéndo":138523,"หà¹īà¸Ńà¸ĩà¸ŀัà¸ģ":138524,"ãĥijãĥ¼ãĥĪ":138525,"ÑĤвеÑĢжда":138526,"нÑģкой":138527,"зал":138528,"มุà¹Īà¸ĩ":138529,"á»Ĭ":138530,"Ġ×Ķ×IJ×Ĺר×ķ׳×Ķ":138531,"ĠThư":138532,"주민":138533,"ĠاÙĦعب":138534,"évén":138535,"événement":138536,"ÙĤÙĪØ§Ø¹Ø¯":138537,"دÙı":138538,"ĠìķĬìĬµëĭĪëĭ¤":138539,"Ġ보기":138540,"Ġyapılması":138541,"à¹Ģราà¸ģ":138542,"à¹Ģราà¸ģà¹ĩ":138543,"ØŃذر":138544,"ÙĤصر":138545,"ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĹãģŁ":138546,"Ġà¹Ģà¸Ľà¹ĩà¸Ļà¸ķà¹īà¸Ļ":138547,"ãģ¨ãģ«":138548,"ãģ¨ãģ«ãģĭ":138549,"ãģ¨ãģ«ãģĭãģı":138550,"нÑĨе":138551,"звÑĥк":138552,"ãģĹãĤĪãģĨãģ¨":138553,"ĠاÙĦصØŃÙĬØ©":138554,"Ġש×Ķ×Ļ×ķ":138555,"ĠDiÄŁer":138556,"ÙĤÙĦÙĤ":138557,"ãĤ¸ãĥ£ãĥ³":138558,"Ġrá»Ŀi":138559,"ĠлеÑĩ":138560,"ĠлеÑĩениÑı":138561,"تباد":138562,"تبادÙĦ":138563,"צפ×Ķ":138564,"à¸Ħวามà¹Ģหà¹ĩà¸Ļ":138565,"Ġشب":138566,"ĠشبÙĥØ©":138567,"ר×Ļ×§":138568,"Ùħعد":138569,"Ùħعدات":138570,"dıģında":138571,"Ġ×ijש׳×Ļ×Ŀ":138572,"Ġ×Ķ×Ļשר×IJ׾":138573,"Ġ×Ķ×Ļשר×IJ׾×Ļת":138574,"Ġsınav":138575,"׳צ×Ļ×Ĵ":138576,"วัà¸ķà¸ĸุ":138577,"ĠاÙĦبرÙĦÙħ":138578,"ĠاÙĦبرÙĦÙħاÙĨ":138579,"tivitÃł":138580,"ãĤĵãģłãĤįãģĨ":138581,"×§×Ļ×Ļ×ŀ":138582,"ÙĦÙĬÙĥ":138583,"ĠÄijò":138584,"ĠÄijòi":138585,"ĠÐĺнÑĤеÑĢ":138586,"ĠÐĺнÑĤеÑĢнеÑĤ":138587,"ãģ«ãģ¨ãģ£ãģ¦ãģ¯":138588,"ãģ£ãģĵ":138589,"×§×ķס":138590,"ستØŃÙĤ":138591,"æķĻãģĪãģ¦":138592,"ãĥĢãĥ¡":138593,"ĠÙħÙĨزÙĦ":138594,"à¹Ģà¸ĭà¹ĩà¸Ļ":138595,"使ãģĪãĤĭ":138596,"è¦ĭç©į":138597,"è¦ĭç©įãĤĤãĤĬ":138598,"Ø£Ùģ":138599,"Ø£ÙģÙĥار":138600,"ĠигÑĢов":138601,"ĠигÑĢовÑĭе":138602,"ĠmÄĻż":138603,"ĠmÄĻżczy":138604,"ĠmÄĻżczyzn":138605,"ĠاÙĦØŃÙĤÙĬÙĤÙĬ":138606,"عبر":138607,"׼×ķ׾׳×ķ":138608,"íĿ¥":138609,"×ŀ×IJ×ķ×Ĺר":138610,"ختص":138611,"ãĥŀãĥŀ":138612,"Ġ×IJ×Ĺ×ķ×ĸ":138613,"íĮĢ":138614,"Ġrá»iji":138615,"ĠвÑĤоÑĢ":138616,"ĠвÑĤоÑĢой":138617,"Ġlẫn":138618,"пÑĢом":138619,"пÑĢомÑĭÑĪ":138620,"пÑĢомÑĭÑĪлен":138621,"пÑĢомÑĭÑĪленн":138622,"ĠоÑĤноÑĪениÑı":138623,"Ġsứ":138624,"ĠмобилÑĮ":138625,"ĠмобилÑĮн":138626,"ĠÑįÑĤомÑĥ":138627,"Ġtạp":138628,"ĠìĤ¬ê±´":138629,"ĠìķĮ볤":138630,"ÙĥÙı":138631,"ÙĥÙıÙħÙĴ":138632,"Ġ×§×ķר×Ķ":138633,"ĠÑĦиÑĢ":138634,"ĠÑĦиÑĢм":138635,"Ġsıkıntı":138636,"׳׼":138637,"׳׼×ķף":138638,"ÙĪÙĦÙĪØ¬ÙĬ":138639,"ØŃاÙĨ":138640,"Ġloạn":138641,"Ġ×IJ×ľ×£":138642,"Ġmắn":138643,"abhäng":138644,"abhängig":138645,"ĠÑĥÑĢовнÑı":138646,"Ġ׾×ij×ĵ×ķ×§":138647,"ÙĬÙħÙĨ":138648,"layın":138649,"Ġhải":138650,"Ġзавод":138651,"ĠìķĦ주":138652,"สà¸ĸา":138653,"สà¸ĸาà¸ļัà¸Ļ":138654,"Ġgüvenlik":138655,"à¹Ģà¸Ķà¹Īà¸Ļ":138656,"×ij×ĵ×§":138657,"ĠëĪ":138658,"ĠëĪĦ":138659,"ĠëĪĦ구":138660,"éĩįè¦ģãģª":138661,"รà¸Ńà¸ĩรัà¸ļ":138662,"schlie":138663,"schlieÃŁen":138664,"Ġìĸ¼":138665,"Ġìĸ¼ë§Ī":138666,"Ġìĸ¼ë§ĪëĤĺ":138667,"ÑĤики":138668,"íķľëĭ¤ê³ł":138669,"ãģłãģ£ãģŁãĤī":138670,"Ġ×Ķ×Ļ×ĺ×ij":138671,"ãģªãģijãĤĮãģ°ãģªãĤīãģªãģĦ":138672,"âÌ":138673,"ậ":138674,"Ġphạt":138675,"akÄ±ÅŁ":138676,"ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĻ":138677,"à¹Ģà¸ĭà¹ĩ":138678,"ĠСегоднÑı":138679,"Ġinsanların":138680,"Ġdéveloppe":138681,"תפר":138682,"תפר×Ļ×ĺ":138683,"اÙĨتشار":138684,"ê°ij":138685,"François":138686,"Ø£ÙĦع":138687,"Ø£ÙĦعاب":138688,"ãĤĴè¶ħ":138689,"ãĤĴè¶ħãģĪ":138690,"Ġê°ĻìĬµëĭĪëĭ¤":138691,"ãĤ³ãĥ¬":138692,"ĠмеÑģÑıÑĨев":138693,"íĮħ":138694,"ĠاÙĦجاÙħعة":138695,"ìĿ¸íĦ°":138696,"ìĿ¸íĦ°ëĦ·":138697,"×ĵר×ķש":138698,"ĠÙĪØ£Ø´Ø§Ø±":138699,"ĠпÑĢавила":138700,"ãģĿãģĵãģ«":138701,"×Ĺ×ŀ×ĵ":138702,"à¹Ģหà¸ķุà¸ģารà¸ĵà¹Į":138703,"Ġê²½íĹĺ":138704,"ãģ¶ãĤĬ":138705,"׾ש":138706,"׾ש×ķף":138707,"à¹Ģà¸ĸ":138708,"ĠDoÄŁu":138709,"ĠиÑģполÑĮзование":138710,"ĠçocuÄŁu":138711,"магазине":138712,"ĠÄijiá»ĥn":138713,"Ġaslı":138714,"Ġaslında":138715,"Ġdoença":138716,"Ġساع":138717,"Ġساعات":138718,"ĠиÑģполÑĮзованиÑı":138719,"ר×ķצ×Ļ×Ŀ":138720,"ĠзнаÑĩиÑĤ":138721,"ĠÑĢам":138722,"ĠÑĢамкаÑħ":138723,"거리":138724,"ĠпÑĭÑĤа":138725,"ãĥģãĥ³":138726,"ĠпоÑģк":138727,"ĠпоÑģколÑĮ":138728,"ĠпоÑģколÑĮкÑĥ":138729,"إبر":138730,"إبراÙĩ":138731,"إبراÙĩÙĬÙħ":138732,"ĠÑĤÑĢеÑħ":138733,"ĠGenç":138734,"سÙĪÙģ":138735,"ĠveÃŃculo":138736,"ĠNgân":138737,"ĠоÑĩеÑĢедÑĮ":138738,"à¸Ħรึà¹Īà¸ĩ":138739,"×IJ×ij×Ļ":138740,"à¸ķà¹īม":138741,"ãĤĴè¡ĮãģĦ":138742,"ĠاÙĦسابÙĤØ©":138743,"наÑĨи":138744,"наÑĨиона":138745,"наÑĨионалÑĮн":138746,"Ġgestión":138747,"تÙĤد":138748,"ĠاÙĦبÙĬاÙĨ":138749,"ĠاÙĦبÙĬاÙĨات":138750,"ĠاÙĦاÙĨتخاب":138751,"ĠاÙĦاÙĨتخابات":138752,"à¹Ģà¸Ĭà¹Īา":138753,"×ĵ×IJ×Ĵ":138754,"Ġ׾×Ĵ×ŀר×Ļ":138755,"ĠتØŃتاج":138756,"Ġthôn":138757,"à¸ķà¹īà¸Ńà¸Ļ":138758,"à¸ķà¹īà¸Ńà¸Ļรัà¸ļ":138759,"女ãģ®":138760,"女ãģ®åŃIJ":138761,"Ġthợ":138762,"Ø·ØŃÙĨ":138763,"ารà¹Įà¸Ķ":138764,"ת×ŀ×Ļ×ĵ":138765,"ĠÑģамÑĭм":138766,"Ġìĭľíĸī":138767,"إصد":138768,"إصدار":138769,"ĠNghá»ĩ":138770,"ìķķ":138771,"سئ":138772,"سئÙĦ":138773,"à¸Ńาร":138774,"à¸Ńารม":138775,"à¸Ńารมà¸ĵà¹Į":138776,"à¹ģฮ":138777,"׳×ĺ׾":138778,"Ġì¢ĭìķĦ":138779,"×ķ׾׾":138780,"Ġ×ij×Ľ×ª×ij":138781,"ãĤ«ãĥ©":138782,"צע×Ļר×Ļ×Ŀ":138783,"تعبÙĬر":138784,"Ġ×ŀקר×Ķ":138785,"ĠÑĦакÑĤоÑĢ":138786,"ĠتÙħاÙħ":138787,"ĠتÙħاÙħا":138788,"ëįķ":138789,"Ġvưá»Ŀ":138790,"Ġvưá»Ŀn":138791,"ĠdÄ±ÅŁÄ±":138792,"ãģĦãģ¡":138793,"Ġ׾ק׳×ķת":138794,"ĠاÙĦعÙĦاÙĤات":138795,"пÑĥб":138796,"пÑĥбли":138797,"Ø¥ÙĬÙħ":138798,"Ø¥ÙĬÙħاÙĨ":138799,"à¸Ńำà¸Ļา":138800,"à¸Ńำà¸Ļาà¸Ī":138801,"åIJ«ãģ¾ãĤĮ":138802,"ãĤĭãģŁãĤģãģ«":138803,"ס×Ĵ":138804,"ס×Ĵ׳×ķף":138805,"تØŃدÙĬ":138806,"Ġauprès":138807,"ĠاÙĦجÙĩا":138808,"ĠاÙĦجÙĩاز":138809,"Ġ×ŀת×Ĺת":138810,"еннÑĥÑİ":138811,"Ġзим":138812,"à¸ģาà¹ģà¸Ł":138813,"Ġ×ijת×ķר":138814,"Ġnghè":138815,"Ġnghèo":138816,"ĠÐĽÑİ":138817,"ĠÐĽÑİб":138818,"תקצ×Ļ×ij":138819,"×ŀעש×Ķ":138820,"ĠاÙĦبÙĬت":138821,"צ×Ļפ":138822,"ĠобÑıзан":138823,"ĠMá»Ĺi":138824,"ĠТÑĥÑĢ":138825,"ĠÙĪØ¨Ø§ÙĦت":138826,"ĠÙĪØ¨Ø§ÙĦتاÙĦÙĬ":138827,"Ġdécision":138828,"Ġبد":138829,"Ġبدأت":138830,"Ġcục":138831,"Ġbask":138832,"Ġbaskı":138833,"Ġhatırl":138834,"Ġhatırla":138835,"å°ıãģķãģĦ":138836,"Ġgerçekten":138837,"à¸ľà¸±à¸ģ":138838,"åı¯èĥ½ãģª":138839,"×ŀ×IJס":138840,"ĠcrÃŃtica":138841,"ĠìĿĺìĽIJ":138842,"عÙĤÙĪØ¯":138843,"×ĺ׼׳":138844,"×ĺ׼׳×ķ׾×ķ×Ĵ×Ļ×Ķ":138845,"è¨ĢãģĪãģ°":138846,"ĠÙĤÙĨا":138847,"ĠÙĤÙĨاة":138848,"ĠìĿ´ê²ĥìĿĢ":138849,"تصر":138850,"à¸Łà¸±à¸Ļ":138851,"ĠÑĢеÑĨеп":138852,"ĠÑĢеÑĨепÑĤ":138853,"ĠبÙĨÙ쨳":138854,"ÑĢоÑĪ":138855,"ĠмаÑĢÑĤа":138856,"Ġsonras":138857,"Ġsonrası":138858,"×ķ×ijש":138859,"ãĥªãĤ¹ãĤ¯":138860,"ĠFrançais":138861,"á»ļ":138862,"ê°Ķ":138863,"Ġ×Ķ×ijר×Ļת":138864,"פ×Ļצ":138865,"פ×Ļצ×ķ×Ļ":138866,"ĠÙĦÙħاذا":138867,"ĠÐļиев":138868,"ĠÑģмÑĭÑģл":138869,"ê¸Īìľµ":138870,"ãĤ·ãĥ£ãĥ«":138871,"ãĥ©ãĤ¤ãĥĪ":138872,"ìĽĥ":138873,"×ŀ×Ĺר":138874,"ãĨį":138875,"Ġkullanım":138876,"Ġ×IJצ׾׳×ķ":138877,"ĠtÃłn":138878,"ãĥıãĥ¼":138879,"ãģ¨ãģ¨ãĤĤ":138880,"ãģ¨ãģ¨ãĤĤãģ«":138881,"ÑĢег":138882,"ÑĢеги":138883,"ÑĢегион":138884,"ãģªãģıãģªãĤĭ":138885,"Ġchảy":138886,"ĠجÙĩØ©":138887,"ÅĦskiej":138888,"à¸Ńีà¹Ģม":138889,"à¸Ńีà¹Ģมล":138890,"ãģįãģ£ãģ¨":138891,"ĠìĺĪìĤ°":138892,"Ġkitabı":138893,"Ġeducação":138894,"ĠbuluÅŁ":138895,"ологиÑı":138896,"ĠконкÑĢ":138897,"ĠконкÑĢеÑĤ":138898,"×Ĵ×Ļר":138899,"ĠпÑĢедлаг":138900,"ĠпÑĢедлагаеÑĤ":138901,"ĠYên":138902,"Ġíķľë²Ī":138903,"Ġ×ŀר׼×ĸ×Ļ":138904,"à¹Ģà¸Ľà¸´à¸Ķà¹Ģà¸ľà¸¢":138905,"ÑĤвеÑĢд":138906,"ĠHá»ĩ":138907,"ĠÐĵÑĢ":138908,"à¸Ŀà¹īา":138909,"×Ķשק":138910,"×Ķשקע×Ķ":138911,"ĠнаÑĥк":138912,"ìłIJìĿĦ":138913,"ĠнелÑĮ":138914,"ĠнелÑĮз":138915,"ĠнелÑĮзÑı":138916,"гин":138917,"ĠBöl":138918,"ĠBölge":138919,"Ġвла":138920,"ĠвлаÑģÑĤи":138921,"à¹Ģà¸Ļà¹ĩ":138922,"à¹Ģà¸Ļà¹ĩà¸ķ":138923,"골":138924,"Ġöld":138925,"Ġöldür":138926,"×Ľ×ł×¢":138927,"ĠاÙĦÙĩÙĬئة":138928,"تارÙĬØ®":138929,"ĠÐijÑĢ":138930,"ĠÑģмож":138931,"ĠÑģможеÑĤе":138932,"ĠLúc":138933,"à¹Ħà¸Ľà¸ĸึà¸ĩ":138934,"ĠBakanı":138935,"Ġerklärt":138936,"ĠÐIJна":138937,"Ġscène":138938,"åķıãģĦ":138939,"åķıãģĦåIJĪãĤıãģĽ":138940,"ÙħÙĩÙĨد":138941,"ÙħÙĩÙĨدس":138942,"Ġназвание":138943,"иваниÑı":138944,"ãĤĴå¤īãģĪ":138945,"ä»ĺãģįåIJĪ":138946,"ãĥijãĤ½":138947,"ãĥijãĤ½ãĤ³ãĥ³":138948,"æĺİãĤī":138949,"æĺİãĤīãģĭ":138950,"à¹Ģà¸Ńà¸ģสาร":138951,"à¹Ģà¸ģิà¸Ļà¹Ħà¸Ľ":138952,"леп":138953,"ãģĹãģŁãĤĤãģ®":138954,"ĠCâm":138955,"ĠCâmara":138956,"×§×ķ׾׳×ķ×¢":138957,"Ġ×ij×Ĵ×Ļף":138958,"Ġoczy":138959,"ĠoczywiÅĽcie":138960,"attivitÃł":138961,"ãĥĵãĥ¥ãĥ¼":138962,"Ġeducación":138963,"İYE":138964,"ê¹ĮìļĶ":138965,"ãĤ¨ãĥªãĤ¢":138966,"неÑģÑĤи":138967,"Ġmóg":138968,"ĠmógÅĤ":138969,"Ġ×§×ĺ׳×Ļ×Ŀ":138970,"ĠPrä":138971,"Ġ×ľ×¢×ij×ķר":138972,"بÙĨÙī":138973,"зол":138974,"золоÑĤ":138975,"ĠwnÄĻtr":138976,"ĠwnÄĻtrz":138977,"Ġconstrução":138978,"รัà¸ļรà¸Ńà¸ĩ":138979,"سجÙĨ":138980,"Ġ×§×ķ׳":138981,"ס×Ļפ×ķר":138982,"ĠÙħدÙī":138983,"رضÙī":138984,"плав":138985,"ï¼¥":138986,"Ġila":138987,"Ġilaç":138988,"ãĤĭãģ¹ãģį":138989,"ĠÙħÙĪÙĤÙģ":138990,"à¸ģรุ":138991,"à¸ģรุà¸ĵา":138992,"chodzÄħc":138993,"ĠÑĤÑĭÑģ":138994,"ÐķвÑĢо":138995,"ĠÙĬØŃدث":138996,"ãĥ¡ãĤ¤ãĥ³":138997,"ĠاÙĦصØŃÙĬ":138998,"ĠÐĶан":138999,"دعاء":139000,"ãĤ´ãĥ¼ãĥ«":139001,"×©×ł×ª×Ļ":139002,"×©×ł×ª×Ļ×Ļ×Ŀ":139003,"à¸Ķà¹īวยà¸ģัà¸Ļ":139004,"Ġolacaģı":139005,"Ġ×ij×ŀ×Ĺ×Ļר":139006,"×Ķ×§":139007,"×Ķ×§×ŀת":139008,"ãĥ¢ãĥİ":139009,"ĠçalÄ±ÅŁtı":139010,"Ġjóvenes":139011,"ãģĦãģıãĤī":139012,"ĠÙħعدÙĦ":139013,"ĠCÅ©ng":139014,"ĠSegún":139015,"Ġdönemde":139016,"Ġ׾×Ļ×ĵ×Ļ":139017,"ãģįãģ¡":139018,"ãģįãģ¡ãĤĵ":139019,"ãģįãģ¡ãĤĵãģ¨":139020,"Ù쨱ÙĨس":139021,"Ù쨱ÙĨسا":139022,"åIJijãģį":139023,"Ġcampaña":139024,"ĠÑģамоÑģÑĤоÑı":139025,"ĠÑģамоÑģÑĤоÑıÑĤелÑĮно":139026,"á»Ģ":139027,"ÙĤÙĪØ§":139028,"سÙĦاØŃ":139029,"à¸ģระà¹ģ":139030,"à¸ģระà¹ģส":139031,"ĠполÑĮзÑĥ":139032,"nqu":139033,"nquête":139034,"รà¹Īวมà¸ģัà¸ļ":139035,"ëĬIJëĥIJ":139036,"à¸Ĺีมà¸Ĭาà¸ķิ":139037,"Ġyıllık":139038,"ìĬ¬":139039,"ĠأصØŃاب":139040,"illé":139041,"Ġdóla":139042,"Ġdólares":139043,"Ġкож":139044,"Ġкожи":139045,"ลà¹īà¸Ń":139046,"à¹Ģรียà¸ļร":139047,"à¹Ģรียà¸ļรà¹īà¸Ńย":139048,"à¹Ģà¸ŀิ":139049,"à¹Ģà¸ŀิà¹Īà¸ĩ":139050,"ÑĢиÑĤоÑĢи":139051,"Ġíijľ":139052,"ĠíijľíĺĦ":139053,"ĠпеÑĢев":139054,"ĠпеÑĢевод":139055,"פ×Ĵ×Ļ×¢×Ķ":139056,"ĠdeÄŁerlendirme":139057,"ÙģØ§Ø¦":139058,"ĠвÑĭгод":139059,"ınızı":139060,"×ķ׼×Ļ×Ĺ":139061,"ĠдоÑģÑĤиг":139062,"ĠngÃłn":139063,"æĢĿãģ£ãģŁ":139064,"ĠÐķÑģÑĤÑĮ":139065,"ĠاÙĦرغÙħ":139066,"ĠzwiÄħzane":139067,"ربط":139068,"à¸Ļึà¸ĩ":139069,"Ġ׾×Ĺ×ķ×§":139070,"Ġszczególn":139071,"Ġszczególnie":139072,"ĠباستخداÙħ":139073,"ĠfÃŃsico":139074,"עס":139075,"עס×ķ×§":139076,"سÙĦÙĪÙĥ":139077,"ĠاØŃد":139078,"ÑĩÑijÑĤ":139079,"×ĸ׼×Ķ":139080,"Ġlá»ĩnh":139081,"ĠÙĪØŃØª":139082,"ĠÙĪØŃØªÙī":139083,"à¸Ħวามสามารà¸ĸ":139084,"à¸Ńยูà¹Īà¹ģลà¹īว":139085,"à¸ģารà¹Ģà¸Ķิà¸Ļà¸Ĺาà¸ĩ":139086,"تخذ":139087,"צ×Ļ×ķ×ĵ":139088,"ĠاÙĦأس":139089,"ĠاÙĦأسÙĩÙħ":139090,"Ġtá»ĩ":139091,"ãģ£ãģ¦ãģĦãģ¦":139092,"สรุ":139093,"à¸ªà¸£à¸¸à¸Ľ":139094,"ĠкомÑĦ":139095,"ĠкомÑĦоÑĢÑĤ":139096,"ìĺ¤ëĬĶ":139097,"ĠÑĢазв":139098,"ĠÑĢазвива":139099,"ланд":139100,"hänge":139101,"ĠبÙĨسبة":139102,"à¹Ģà¸Ĥียว":139103,"עצ×Ŀ":139104,"Ġ×ľ×ľ×Ľ×ª":139105,"ÑģоÑĨиалÑĮн":139106,"Ġëĭ¤ìĿĮê³¼":139107,"Ġרש×ķ×ŀ":139108,"×ŀר×Ĺ×ij":139109,"سÙĤØ·":139110,"Ġalanı":139111,"ĠÄijá»ĩ":139112,"é£Łãģ¹ãĤĭ":139113,"à¸Ķึà¸ĩ":139114,"Ġgegenüber":139115,"ĠبÙĩذÙĩ":139116,"à¸ĸืà¸Ńà¹Ģà¸Ľà¹ĩà¸Ļ":139117,"ëķħ":139118,"à¸Ħà¸Ļà¹Ħà¸Ĺย":139119,"ãĤ¢ãĤ¦":139120,"ãĤ¢ãĤ¦ãĥĪ":139121,"ศัà¸ģ":139122,"ศัà¸ģà¸Ķิ":139123,"ศัà¸ģà¸Ķิà¹Į":139124,"ÙĤÙĪØ§ÙĨ":139125,"ÙĤÙĪØ§ÙĨÙĬÙĨ":139126,"Ġhá»Ļp":139127,"ãģªãģıãģªãģ£ãģ¦":139128,"Ġ×IJ×ŀ׳":139129,"Ġ×IJ×ŀ׳×Ŀ":139130,"à¹Ģà¸ķืà¸Ńà¸Ļ":139131,"ĠзавиÑģим":139132,"ĠзавиÑģимоÑģÑĤи":139133,"ת×Ļ×IJ":139134,"ת×Ļ×IJ×ķר":139135,"å§ĭãĤģãģŁ":139136,"Ġngá»į":139137,"Ġngá»įt":139138,"íĴį":139139,"ê³¼ìŀ¥":139140,"Ġbại":139141,"ãģ§ãģįãģ¦":139142,"Ġcomeçar":139143,"à¸Ľà¸£à¸²à¸ģ":139144,"à¸Ľà¸£à¸²à¸ģà¸ı":139145,"ĠгодÑĭ":139146,"меÑģ":139147,"ĠاÙĦÙħستÙĪÙī":139148,"ĠÑģамÑĭе":139149,"ллеÑĢ":139150,"ãģ£ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĻ":139151,"ãģ¨ãģ®ãģĵãģ¨":139152,"bió":139153,"à¸ģลà¹Īà¸Ńà¸ĩ":139154,"ĠاÙĦزÙĪØ¬":139155,"ãģ«è¡Įãģ£ãģŁ":139156,"à¸Ħà¹Īà¸Ńà¸Ļ":139157,"à¸Ħà¹Īà¸Ńà¸Ļà¸Ĥà¹īาà¸ĩ":139158,"ĠbaÄŁl":139159,"ĠbaÄŁlant":139160,"ĠbaÄŁlantı":139161,"確ãģĭ":139162,"確ãģĭãģ«":139163,"ãĥľãĥ¼ãĥ«":139164,"çµĤãĤıãĤĬ":139165,"ש×ŀר":139166,"à¸Ĺีà¹Īสามารà¸ĸ":139167,"ÙĦزÙħ":139168,"даеÑĤÑģÑı":139169,"รัà¸ļà¸Ľà¸£à¸°":139170,"รัà¸ļà¸Ľà¸£à¸°à¸Ĺาà¸Ļ":139171,"å¤īãĤıãĤĬ":139172,"ï¼¢":139173,"ĠìĺĪìĪĺëĭĺ":139174,"ãĤĪãģĨãģ¨":139175,"มัà¸ģà¸Īะ":139176,"ĠHương":139177,"ÙĨÙ쨰":139178,"×ŀ×ĵ×ĵ":139179,"ĠìĿ¸ìłķ":139180,"ÑħодиÑĤÑĮ":139181,"ĠзавиÑģиÑĤ":139182,"×ķ×ĵ×Ļ×¢":139183,"ãģĵãģ¨ãģĮãģĤãĤĬãģ¾ãģĻ":139184,"عراÙĤ":139185,"سطØŃ":139186,"à¸ģำà¹Ħร":139187,"ëĵ¤ëıĦ":139188,"×Ļצ×Ļר×Ķ":139189,"ãģĨãģĵãģ¨":139190,"ÙĦاØŃÙĤ":139191,"ãģĦãĤĮãģ°":139192,"ĠиÑģполÑĮзÑĥÑİÑĤ":139193,"ĠBợi":139194,"Ġשק׾×Ļ×Ŀ":139195,"ÑĨикл":139196,"ÐIJÐŀ":139197,"Ġ×ijש׳×Ķ":139198,"ÙĨشط":139199,"Ġש×Ļ׳×ķ×Ļ":139200,"Ġש×Ļ׳×ķ×Ļ×Ļ×Ŀ":139201,"Ġpoblación":139202,"ĠHưng":139203,"ระว":139204,"ระวัà¸ĩ":139205,"رÙĬاضة":139206,"رصد":139207,"تÙĤÙĦÙĬ":139208,"تÙĤÙĦÙĬد":139209,"Ġülkem":139210,"Ġülkemiz":139211,"à¸Ĭะ":139212,"ãĤ¯ãĥªãĥ¼ãĥł":139213,"èģŀãģĦãģŁ":139214,"Ġważ":139215,"Ġważne":139216,"ê±°ëĵł":139217,"ê±°ëĵłìļĶ":139218,"×ŀ×IJ×ij×§":139219,"×Ĺ×ĵש×ķת":139220,"ĠWroc":139221,"ĠWrocÅĤaw":139222,"ĠKültür":139223,"sist":139224,"sistência":139225,"×¢×ĸר×Ķ":139226,"Ġgương":139227,"รà¹īาà¸Ļà¸Ħà¹īา":139228,"ĠÙĪØ£ÙĪØ¶ØŃ":139229,"ándose":139230,"ãĤ·ãĥ¼ãĥ³":139231,"×IJ׳ר×Ĵ":139232,"×IJ׳ר×Ĵ×Ļ×Ķ":139233,"ãģªãģĦãģ§ãģĻ":139234,"Ġkhá»§ng":139235,"Ġ문ìĦľ":139236,"Ġ×ij×ĵ×ijר":139237,"×ĵ×Ļ×ķ":139238,"×ĵ×Ļ×ķ×ķ×Ĺ":139239,"Ġrégl":139240,"ÙħÙĪØ§Ø¯":139241,"обоÑĢ":139242,"обоÑĢоÑĤ":139243,"Ġ×Ķ×ij׾":139244,"Ġ×Ķ×ij׾×ķ×Ĵ":139245,"ØŃاÙħ":139246,"ĠاÙĦعاص":139247,"ĠاÙĦعاصÙħØ©":139248,"пеÑĢаÑĤоÑĢ":139249,"تخÙĦ":139250,"تخÙĦص":139251,"ãģŁãģłãģĹ":139252,"تسÙħ":139253,"à¹Ĥรà¸ĩà¸ŀ":139254,"à¹Ĥรà¸ĩà¸ŀยา":139255,"à¹Ĥรà¸ĩà¸ŀยาà¸ļาล":139256,"ĠYük":139257,"ĠYüksek":139258,"Ġש׳×Ļת":139259,"Ġש׳×Ļ×ª×Ł":139260,"liÄŁe":139261,"Ġפת":139262,"Ġפת×ķ×Ĺ":139263,"ĠbeÄŁ":139264,"ĠbeÄŁen":139265,"Ġ×ŀ×ķר":139266,"Ġ×ŀ×ķר׼×ij":139267,"ĠرساÙĦØ©":139268,"íĨµìĭł":139269,"Ġavalia":139270,"Ġavaliações":139271,"Ġmanh":139272,"Ġmanhã":139273,"Ġìķŀ":139274,"Ġìķŀìľ¼ë¡ľ":139275,"ÙĤتر":139276,"ÙĤترØŃ":139277,"à¹Ģà¸ģืà¸Ń":139278,"à¹Ģà¸ģืà¸Ńà¸ļ":139279,"Ġproposé":139280,"Ø£Ùħا":139281,"Ø£ÙħاÙĥÙĨ":139282,"ĠÐŀÐŀ":139283,"ĠÐŀÐŀÐŀ":139284,"ÙħÙĤار":139285,"ÙħÙĤارÙĨØ©":139286,"ëĦIJ":139287,"ãģĦãģŁãģłãģı":139288,"ÙĤÙĬÙĦ":139289,"ĠнаÑĪиÑħ":139290,"ãĤ«ãĥĥãĥĹ":139291,"×Ĺ×ľ×ª":139292,"Ġëĭ¤ë§Į":139293,"à¸Ĺัà¹Īวà¹Ĥลà¸ģ":139294,"ãĥįãĤ¿":139295,"ØŃساس":139296,"ãģ«ãģªãĤĮ":139297,"جائ":139298,"جائزة":139299,"échange":139300,"économ":139301,"économie":139302,"ТÐĺ":139303,"×¡×ª×Ľ×ľ":139304,"à¸Ĺัà¹īà¸ĩสà¸Ńà¸ĩ":139305,"ĠاÙĦخاÙħ":139306,"ĠاÙĦخاÙħس":139307,"×§×ĺ×¢":139308,"auważ":139309,"à¸ľà¸¹à¹īà¸Ĭาย":139310,"à¹ģà¸Ľà¸¥à¸ģ":139311,"åIJĮæĻĤãģ«":139312,"знаниÑı":139313,"ãģĦãģŁãģłãģįãģ¾ãģĹãģŁ":139314,"Ġ×ŀ×ij׾×Ļ":139315,"à¸Ĥà¸Ńà¹ĥหà¹ī":139316,"ĠاÙĦتربÙĬØ©":139317,"Ġdécouvert":139318,"Ġżyciu":139319,"après":139320,"Ġyab":139321,"Ġyabanc":139322,"Ġyabancı":139323,"ĠbaÅŁlayan":139324,"ìĹĪëįĺ":139325,"Ġhesabı":139326,"Ġë§Įìķ½":139327,"ë§Īëĭ¤":139328,"ĠThánh":139329,"ãĥ´ãĤ¡":139330,"à¸Ľà¸£à¸±à¸ļà¸Ľà¸£":139331,"à¸Ľà¸£à¸±à¸ļà¸Ľà¸£à¸¸à¸ĩ":139332,"ĠMặc":139333,"à¹Ģหà¸ķà¸¸à¸ľà¸¥":139334,"ĠÐijез":139335,"ĠcapacitÃł":139336,"ÅĤeÅĽ":139337,"ĠпÑĢеим":139338,"ĠпÑĢеимÑĥÑīеÑģÑĤв":139339,"ĠÅļwiÄĻt":139340,"Ġpublié":139341,"×ŀעצ×ij":139342,"ÙħشارÙĥات":139343,"à¸łà¸²à¸©":139344,"à¸łà¸²à¸©à¸µ":139345,"Ġdeuxième":139346,"ĠÙħØŃاÙ쨏":139347,"ĠÙħØŃاÙģØ¸Ø©":139348,"ĠSchön":139349,"、":139350,"Ġ×Ķ×ij×¢":139351,"Ġ×Ķ×ij×¢×Ļ×Ķ":139352,"ĠÙĪØ§ÙĦÙĦÙĩ":139353,"è¨Ģãģ£ãģŁ":139354,"à¸ķà¹īาà¸Ļ":139355,"วรรà¸ĵ":139356,"à¸Ĺิศ":139357,"ĠbaÅŁÄ±na":139358,"ĠmogÄĻ":139359,"ש×Ļפ×ķר":139360,"ĠÙĪØ¹Ø¯":139361,"ĠÙĪØ¹Ø¯Ùħ":139362,"Ġhistórico":139363,"Ġkısı":139364,"ĠìĿ´ê²Į":139365,"ĠPolÃŃtica":139366,"ĠÑģиÑĤÑĥаÑĨии":139367,"ĠkoÅĦca":139368,"×ij×ĵ×Ļ×§×Ķ":139369,"ĠاÙĦسÙĬارات":139370,"ãģªãĤīãģ°":139371,"ãĤµãĥ©":139372,"ãĤĭãģĵãģ¨ãģĮãģ§ãģįãĤĭ":139373,"Ġdecisão":139374,"×ķ×ķ×ĵ":139375,"läss":139376,"lässig":139377,"Ġ׾×Ļשר×IJ׾":139378,"ĠÙĬأتÙĬ":139379,"ר×ķ×ĸ":139380,"Ã¶ÄŁ":139381,"Ã¶ÄŁret":139382,"Ã¶ÄŁretim":139383,"Ġдек":139384,"Ġдекаб":139385,"ĠдекабÑĢÑı":139386,"Ġש×Ĺ×ķר":139387,"ãģ¦ãģıãĤĮãģŁ":139388,"عبارة":139389,"Ġélectrique":139390,"ĠاÙĦتÙĨÙħÙĬØ©":139391,"جرÙī":139392,"ĠìĪĺíĸī":139393,"à¸Ĺู":139394,"ĠÑĢеалÑĮно":139395,"ÑģпоÑģоб":139396,"à¸Ħลà¹īาย":139397,"ĠسعÙĪØ¯":139398,"önü":139399,"ĠÙģÙħÙĨ":139400,"تÙĥÙĪ":139401,"تÙĥÙĪÙĬÙĨ":139402,"ĠкаÑĩеÑģÑĤво":139403,"ĠконÑĤак":139404,"ĠконÑĤакÑĤ":139405,"ĠsözleÅŁme":139406,"à¸Ńà¹īาà¸ĩ":139407,"ĠتÙĪÙģ":139408,"ĠتÙĪÙģÙĬر":139409,"×Ķ×ĸ×ĵ":139410,"×Ķ×ĸ×ĵ×ŀ׳×ķת":139411,"ĠØ·ÙĪÙĬÙĦØ©":139412,"Ġtérmino":139413,"Ġ×IJ×Ļפ×Ķ":139414,"ãĥĵãĥ«":139415,"สà¹Ĥม":139416,"สà¹Ĥมสร":139417,"ĠاÙĦاث":139418,"ĠاÙĦاثÙĨÙĬÙĨ":139419,"евиÑĩ":139420,"Ġopinión":139421,"à¸Ľà¸§à¸Ķ":139422,"åı¤ãģĦ":139423,"รà¹Īา":139424,"ĠBiaÅĤ":139425,"ĠÑģÑĤал":139426,"ĠÑģÑĤало":139427,"ólogo":139428,"ĠìķĦëĭĪëĭ¤":139429,"Ġ×IJ×Ļת":139430,"Ġ×IJ×Ļת×ķ":139431,"à¹Ģหà¹ĩà¸Ļวà¹Īา":139432,"à¸ļารà¹Į":139433,"çĦ¼":139434,"çĦ¼ãģį":139435,"ĠìĿ´ìļ©ìŀIJ":139436,"ĠнекоÑĤоÑĢÑĭе":139437,"ksz":139438,"ksztaÅĤ":139439,"ksztaÅĤc":139440,"ãĤŃãĥ£ãĥĥãĤ·":139441,"ãĤŃãĥ£ãĥĥãĤ·ãĥ³ãĤ°":139442,"ĠroÅĽ":139443,"ĠroÅĽlin":139444,"ÑĢажа":139445,"×ij׳×Ļ×Ļ×Ķ":139446,"à¸Ľà¸£à¸ªà¸´":139447,"à¸Ľà¸£à¸ªà¸´à¸ķ":139448,"Ġgördü":139449,"×ŀ׳×Ķ×Ļ×Ĵ":139450,"å¤īãĤıãģ£ãģ¦":139451,"Ġ×IJ×Ķ":139452,"Ġ×IJ×Ķ×ijת×Ļ":139453,"à¹Ģรà¹Īà¸ĩ":139454,"Ġönünde":139455,"Ġê·¸ëĥ¥":139456,"полиÑĤ":139457,"полиÑĤиÑĩеÑģк":139458,"ãĥ¡ãĥĩãĤ£":139459,"ãĥ¡ãĥĩãĤ£ãĤ¢":139460,"ĠDetay":139461,"ĠDetaylı":139462,"ĠاÙĦصÙģØŃØ©":139463,"à¸ģารà¹Ģà¸ĩิà¸Ļ":139464,"Ġìµľê·¼":139465,"׼ש׾":139466,"I":139467,"вÑĪего":139468,"íķĺìĭ¤":139469,"ĠÐŃÑĤ":139470,"ĠÐŃÑĤоÑĤ":139471,"สื":139472,"สืà¸ļ":139473,"Ġngừng":139474,"ĠдокÑĥменÑĤов":139475,"даваÑĤÑĮ":139476,"ĠاÙĦشخصÙĬØ©":139477,"Ġצע×Ļר":139478,"درÙĥ":139479,"سØŃب":139480,"à¹Ħมà¹Īà¸Ħà¹Īà¸Ńย":139481,"Ġ×Ķ×ŀ×§×ķ×ŀ×Ļ":139482,"สัà¹Īà¸ĩà¸ĭืà¹īà¸Ń":139483,"Ġê·¸ê²ĥìĿĦ":139484,"ãģĤãĤĭãģĦ":139485,"ãģĤãĤĭãģĦãģ¯":139486,"×IJ×ķ×ĺ×ķ×ij":139487,"×IJ×ķ×ĺ×ķ×ij×ķס":139488,"кÑĨион":139489,"ĠÐľÐ¾Ð¶Ð½Ð¾":139490,"ãģıãģł":139491,"ãģıãģłãģķ":139492,"ĠинÑĦоÑĢмаÑĨиÑı":139493,"ï»Ł":139494,"ĠìŀijìĹħ":139495,"Ġ×Ļ×ķסף":139496,"إدارة":139497,"ĠاÙĦØŃاج":139498,"×ł×¡×Ļ×¢×Ķ":139499,"изаÑĨиÑı":139500,"×IJ׾×ij":139501,"×IJ׾×ij×ķ×Ŀ":139502,"пед":139503,"Ġ×§×ĺ׳×Ķ":139504,"ĠÙĨÙ쨳Ùĩا":139505,"ĠMinistério":139506,"Ġпен":139507,"ĠпенÑģи":139508,"ãĥIJãĥ©ãĥ³ãĤ¹":139509,"Ġ×Ķת×ķר×Ķ":139510,"Ġtạm":139511,"ĠìĹŃìĭľ":139512,"。":139513,"Ġthá»±":139514,"Ġısı":139515,"컨":139516,"ãģĹãģ£ãģĭãĤĬãģ¨":139517,"Ġxưa":139518,"Ġcặp":139519,"×Ĺ×Ļ×ij×ķר":139520,"วัà¸Ĵà¸Ļà¸ĺรรม":139521,"stär":139522,"stärke":139523,"ĠÑģамÑĭй":139524,"pisa":139525,"pisaÄĩ":139526,"ĠoluÅŁan":139527,"ĠاÙĦØ¥ÙħاÙħ":139528,"ĠcÄĥng":139529,"Ġgünl":139530,"Ġgünlük":139531,"Ġ׳ש×IJר":139532,"Ġkhiá»ĥn":139533,"ç¶ļãģijãĤĭ":139534,"stitución":139535,"Ġcapacité":139536,"Ġjaki":139537,"ĠjakiÅĽ":139538,"вÑĪиÑģ":139539,"вÑĪиÑģÑĮ":139540,"פע×ķ׾×ķת":139541,"ĠØŃÙĬات":139542,"ĠØŃÙĬاتÙĩ":139543,"Ġникогда":139544,"ÐĽÐ¬":139545,"Ġ×Ķ×¢×ķ×ij":139546,"Ġ×Ķ×¢×ķ×ij×ĵ×Ķ":139547,"ĠchÃło":139548,"หลายà¹Ĩ":139549,"ĠÑıн":139550,"ĠÑıнваÑĢ":139551,"ĠÑıнваÑĢÑı":139552,"à¸Īำà¹Ģà¸Ľà¹ĩà¸Ļà¸ķà¹īà¸Ńà¸ĩ":139553,"Ġhöher":139554,"ãģķãĤĮãģ¦ãģĦãģŁ":139555,"สà¸ĩสั":139556,"สà¸ĩสัย":139557,"ĠاÙĦاس":139558,"ĠاÙĦاسÙĦاÙħ":139559,"ĠاÙĦØ´Ùħس":139560,"สà¸ĸาà¸Ļี":139561,"ãĤ¯ãĥ©ãĤ¹":139562,"à¸ŀรร":139563,"à¸ŀรรà¸Ħ":139564,"põ":139565,"põe":139566,"Ġporém":139567,"à¸Ľà¸£à¸°à¸ªà¸ĩ":139568,"à¸Ľà¸£à¸°à¸ªà¸ĩà¸Ħà¹Į":139569,"powiedzie":139570,"powiedzieÄĩ":139571,"ĠмогÑĥ":139572,"Ġжел":139573,"Ġжелез":139574,"ĠاÙĦØ«ÙĤ":139575,"ĠاÙĦØ«ÙĤاÙģÙĬ":139576,"ĠпÑĢавило":139577,"Ġgdyż":139578,"פש×ķ×ĺ":139579,"ÑĢабоÑĤка":139580,"ĠÙĥرة":139581,"شدد":139582,"ÙħارÙĥ":139583,"ÙħÙĥØ©":139584,"ĠподпиÑģ":139585,"×ĺ×ķ×ķ×Ĺ":139586,"ĠÅĽc":139587,"ĠÅĽcian":139588,"ĠرجاÙĦ":139589,"Ġ×ª×ľ×ķ×Ļ":139590,"иÑĪ":139591,"иÑĪÑĮ":139592,"Ġmédec":139593,"Ġmédecin":139594,"ëįĶëĿ¼ëıĦ":139595,"ĠÑĤебÑı":139596,"Ġ׾×Ķ×ķס×Ļ×£":139597,"ãģĬ話":139598,"Ġà¹ģà¸ķà¹Īà¸ģà¹ĩ":139599,"داÙģ":139600,"داÙ쨹":139601,"ĠCùng":139602,"ãĥ»ãĥ»ãĥ»ãĥ»":139603,"ê¶ģ":139604,"ĠdeberÃŃa":139605,"หà¸Ļà¹Īวยà¸ĩาà¸Ļ":139606,"ĠvaÌĢ":139607,"Ġעצ×ŀ":139608,"Ġעצ×ŀ×Ŀ":139609,"à¹Ģà¸Ĭืà¹Īà¸Ńวà¹Īา":139610,"שקע":139611,"Ġ×Ķ׼×ķ׾":139612,"Ġ×Ķ׼×ķ׾׾":139613,"нибÑĥд":139614,"нибÑĥдÑĮ":139615,"ĠëĦĪíĿ¬":139616,"ĠобÑĢаÑī":139617,"ĠобÑĢаÑīа":139618,"Ġ×¢×ij×ķ×ĵת":139619,"ĠاÙĦÙħÙĨتخب":139620,"ıyord":139621,"ıyordu":139622,"ÙĪØ°":139623,"×Ĺש×Ļ×ij×ķת":139624,"Ġ×Ķ×¢×Ļ×§":139625,"Ġ×Ķ×¢×Ļקר×Ļ":139626,"ì¢Į":139627,"ยุà¹Ĥร":139628,"ยุà¹Ĥà¸£à¸Ľ":139629,"ĠапÑĢ":139630,"ĠапÑĢелÑı":139631,"szed":139632,"szedÅĤ":139633,"дон":139634,"à¹Ģà¸ķิà¸ļ":139635,"à¹Ģà¸ķิà¸ļà¹Ĥà¸ķ":139636,"коло":139637,"Ġkażdej":139638,"帰":139639,"帰ãĤĬ":139640,"Ġмилли":139641,"Ġмиллион":139642,"ç¾İåij³ãģĹãģĦ":139643,"تÙĤار":139644,"تÙĤارÙĬر":139645,"ĠìĿ´ë£¨":139646,"ĠìĿ´ë£¨ìĸ´":139647,"Ġsprzedaż":139648,"×Ķ×ķצ×IJ×ķת":139649,"ãĤ¢ãĤ¯ãĤ»":139650,"ãĤ¢ãĤ¯ãĤ»ãĤ¹":139651,"ר×ķ×¥":139652,"ĠгоÑģÑĥдаÑĢÑģÑĤвенн":139653,"Ø£ØŃÙĥ":139654,"Ø£ØŃÙĥاÙħ":139655,"ĠoluÅŁu":139656,"ĠAç":139657,"ĠAçık":139658,"ãĤ¸ãĥ¼":139659,"ç´łæĻ´":139660,"ç´łæĻ´ãĤīãģĹãģĦ":139661,"Ġ×ijש×ij×ķ×¢":139662,"بذ":139663,"بذÙĦ":139664,"สาà¹Ģหà¸ķุ":139665,"Ġpozosta":139666,"ĠpozostaÅĤ":139667,"ØŃرÙħ":139668,"Ġimportância":139669,"leÅŁtirme":139670,"ĠдÑĢев":139671,"Ġmóvil":139672,"ĠAynı":139673,"Ġналог":139674,"Ġналогов":139675,"Ġ×Ĺ×Ļפ×Ķ":139676,"ĠÑĦоÑĢмÑĥ":139677,"à¸Ĺà¸Ķสà¸Ńà¸ļ":139678,"ĠksiÄħżki":139679,"ĠmaÅĤe":139680,"ÙħسأÙĦ":139681,"ÙħسأÙĦØ©":139682,"^^":139683,"çãeste":139684,"éviter":139685,"ĠконÑģÑĤÑĢÑĥк":139686,"ĠконÑģÑĤÑĢÑĥкÑĨи":139687,"ï¾ŀ":139688,"Ġת×ķ׼׳":139689,"ãĤ¹ãĥĪãĥ¬ãĤ¹":139690,"ĠاÙĦاÙĤتصادÙĬ":139691,"×ŀ×ĵ×Ļ":139692,"ĠwÅĤad":139693,"ĠwÅĤadz":139694,"Ø®ÙĪÙģ":139695,"ĠмаÑĤеÑĢиалов":139696,"ãģ¨ãģ£ãģ¦ãĤĤ":139697,"Ġznajdu":139698,"ĠznajdujÄħ":139699,"ÙģØ¦Ø©":139700,"ãģ©ãģ®ãĤĪãģĨãģª":139701,"æĬijãģĪ":139702,"׳×Ĺ׾":139703,"Ġdüny":139704,"Ġdünyan":139705,"Ġdünyanın":139706,"гÑĢани":139707,"гÑĢаниÑĩ":139708,"Ġ×Ķש׾×Ļש×Ļ":139709,"Ġ×Ķ×IJש":139710,"åıĬãģ³":139711,"ìĭŃìĭľ":139712,"ìĭŃìĭľìĺ¤":139713,"Ġдолл":139714,"ĠдоллаÑĢ":139715,"ĠповÑĤоÑĢ":139716,"Ġ×Ĺ×Ļ׳×Ŀ":139717,"תפת×Ĺ":139718,"Ñĥвели":139719,"ÑĥвелиÑĩен":139720,"ãĤ«ãĥª":139721,"rawid":139722,"rawidÅĤow":139723,"×ķ×ķ׾":139724,"ãĥŁãĥ¥":139725,"ì½ĺ":139726,"ĠByÅĤ":139727,"ÐľÐIJ":139728,"عÙIJ":139729,"ĠÑģовеÑĢÑĪ":139730,"ĠÑģовеÑĢÑĪенно":139731,"Ġмой":139732,"Ġ×ķ׾×IJ×Ĺר":139733,"æħ£":139734,"æħ£ãĤĮ":139735,"ØŃاÙ쨏":139736,"Ġ무ë£Į":139737,"à¸Ħà¸ĵะà¸ģรรม":139738,"à¸Ħà¸ĵะà¸ģรรมà¸ģาร":139739,"Ġìĸ´ëĶĶ":139740,"Ġdiferen":139741,"Ġdiferença":139742,"ĠاÙĦأساس":139743,"ĠاÙĦأساسÙĬØ©":139744,"Ġ׾×IJ×Ĺר×ķ׳×Ķ":139745,"ê·ł":139746,"Ġ×Ķש׳×Ļ×Ļ×Ķ":139747,"ìľĦìĽIJìŀ¥":139748,"ลุà¸ģ":139749,"çiler":139750,"Ġ×Ķ×IJ׾×ķ":139751,"èģŀãģı":139752,"Ġ×ķ×IJפ×Ļ׾×ķ":139753,"ĠÑĢеализ":139754,"ĠÑĢеализаÑĨи":139755,"ระยะà¹Ģวลา":139756,"ĠجداÙĭ":139757,"تباع":139758,"ĠvehÃŃculo":139759,"Ġдолг":139760,"à¸Ľà¸£à¸´à¸¡à¸²à¸ĵ":139761,"ì¦IJ":139762,"Ġ׾×ŀ×§×ķ×Ŀ":139763,"ĠìĤ¬ì§Ħ":139764,"à¸Ĭà¹īา":139765,"Ġ×ŀ×¢×ķ׾×Ķ":139766,"Ġgörm":139767,"Ġgörmek":139768,"ĠÙĪÙĩذÙĩ":139769,"пеÑĢв":139770,"пеÑĢвÑĭÑħ":139771,"ê·¸ëŀĺ":139772,"ĠاÙĦبرÙĬØ·":139773,"ĠاÙĦبرÙĬطاÙĨÙĬ":139774,"ĠиÑİнÑı":139775,"ĠÐĵоÑĢ":139776,"Ġ׾ש׾×Ŀ":139777,"ÐIJÐĿ":139778,"ĠназнаÑĩен":139779,"ооÑĢ":139780,"ооÑĢÑĥж":139781,"Ġözelli":139782,"ĠözelliÄŁi":139783,"Ġниже":139784,"ç¶ļãģijãģ¦":139785,"ĠаÑĢенд":139786,"Ġkatılı":139787,"Ġkatılım":139788,"ĠإطÙĦاÙĤ":139789,"ĠÙĪØ¥Ø°Ø§":139790,"ĠокÑĤÑı":139791,"ĠокÑĤÑıбÑĢÑı":139792,"à¹Ĥà¸ķà¹":139793,"à¹Ĥà¸ķà¹Ĭ":139794,"à¹Ĥà¸ķà¹Ĭะ":139795,"Ġoldukları":139796,"ÙħÙĪÙĤع":139797,"ëĤ©":139798,"ã썿ĢĿãģ£ãģ¦ãģĦãĤĭ":139799,"Ġש×Ļ׼×ķ׾":139800,"วาà¸Ķ":139801,"سÙĬÙĦ":139802,"à¸Ĥวั":139803,"à¸Ĥวัà¸į":139804,"تØŃÙĥÙħ":139805,"ìĤŃ":139806,"Ġconnaît":139807,"×ł×¤×ª×Ĺ":139808,"Ġchặ":139809,"Ġchặn":139810,"ĠÙħØŃÙħ":139811,"ĠÙħØŃÙħÙĪØ¯":139812,"ãģ´":139813,"ĠпÑĢодÑĥкÑĨии":139814,"здÑĢав":139815,"ãģĶè¦":139816,"ãģĶ覧":139817,"×IJ×ij×IJ":139818,"Ġvéritable":139819,"ĠØ·ÙģÙĦ":139820,"ãĥĪãĥ©ãĥĸãĥ«":139821,"곡":139822,"Ġת×ŀ×ķ׳×Ķ":139823,"Ġkiên":139824,"ĠÙĤادر":139825,"Ø¥ÙĤÙĦÙĬÙħ":139826,"ĠпÑĢедпÑĢи":139827,"ĠпÑĢедпÑĢиÑıÑĤиÑı":139828,"ĠbÄĥng":139829,"Ġayında":139830,"Ġgấp":139831,"еÑħал":139832,"ĠgiÃłnh":139833,"Ġдав":139834,"Ġдавно":139835,"ìĺĢëĭ¤":139836,"à¸Ļัà¸ģà¹Ģà¸ķ":139837,"à¸Ļัà¸ģà¹Ģà¸ķะ":139838,"Ùħستشار":139839,"ستراتÙĬج":139840,"ستراتÙĬجÙĬ":139841,"رÙħز":139842,"ĠtÄ©nh":139843,"ë¡Ń":139844,"ĠÑĩеÑĤ":139845,"ĠÑĩеÑĤÑĭ":139846,"ĠÑĩеÑĤÑĭÑĢе":139847,"ĠEntão":139848,"Ġصغ":139849,"ĠصغÙĬرة":139850,"×ij×Ļ×ĺ×ķ׾":139851,"خطÙĪØ·":139852,"ĠÑĢазвиÑĤие":139853,"Ġamacıyla":139854,"à¸Ĺีวี":139855,"ĠоÑģÑĤ":139856,"ĠоÑģÑĤалÑĮн":139857,"ש×ķ׾×Ĺף":139858,"Ġ׼׳×Ļס":139859,"Ġ׼׳×Ļס×Ķ":139860,"ĠdáºŃy":139861,"ĠyaÅŁayan":139862,"Ġ×ŀ×Ķ×ķ×ķ×Ķ":139863,"ĠÑĥÑģи":139864,"ĠÑĥÑģили":139865,"×ŀפ×Ļ":139866,"ĠпÑĢоведениÑı":139867,"Ġرب":139868,"ĠربÙħا":139869,"ĠاÙĦØ£ÙĪØ³Ø·":139870,"Ġìľłì§Ģ":139871,"Ġpracownik":139872,"Ġpracowników":139873,"×ŀס×ķרת":139874,"ÙĤارب":139875,"à¸Ħวามรูà¹īสึà¸ģ":139876,"à¹ģหละ":139877,"ĠاÙĦÙĨÙĤد":139878,"Ġ×IJ׾פ×Ļ":139879,"Ùħسئ":139880,"ÙħسئÙĪÙĦ":139881,"евÑĭÑħ":139882,"клÑİÑĩениÑı":139883,"×ij×Ļ׳":139884,"×ij×Ļ׳×Ļ×Ķ×Ŀ":139885,"ש×ķ×IJ×Ķ":139886,"ĠÅŁark":139887,"ĠÅŁarkı":139888,"Ġsürec":139889,"Ġsürecin":139890,"à¹Ģà¸Ħรà¸Ķ":139891,"à¹Ģà¸Ħรà¸Ķิà¸ķ":139892,"ãĥIJãĥ¬":139893,"ĠشأÙĨ":139894,"à¹Ģà¸Ńาà¹Ħวà¹ī":139895,"niÄĻcie":139896,"רצ×Ĺ":139897,"ĠaÅŁama":139898,"׳פ×Ĵ×¢":139899,"Ġthá»Ŀ":139900,"Ġkhuẩn":139901,"diÄŁinde":139902,"ÑıÑīиÑħ":139903,"ãĥĺãĥ«":139904,"Ġüberh":139905,"Ġüberhaupt":139906,"ĠÑĤÑĢебова":139907,"ĠdÅĤugi":139908,"×ĺ×Ļף":139909,"à¸Ĥà¸Ļาà¸Ķà¹ĥหà¸įà¹Ī":139910,"ĠاÙĦØ£Ùĩ":139911,"ĠاÙĦØ£ÙĩÙĦÙĬ":139912,"ĠMüd":139913,"ĠMüdürü":139914,"Ġ×Ļ×Ķ×ķ×ĵ×Ķ":139915,"ÑĭваеÑĤÑģÑı":139916,"ساط":139917,"×Ķ×ª×ł×Ķ×Ĵ":139918,"×Ķ×ª×ł×Ķ×Ĵ×ķת":139919,"à¸ģà¸²à¸£à¸ľà¸¥à¸´à¸ķ":139920,"íĴĢ":139921,"สà¸ĸาà¸Ļà¸ģารà¸ĵà¹Į":139922,"ĠоÑĦ":139923,"ĠоÑĦиÑģ":139924,"ĠÙĦعبة":139925,"ĠstronÄĻ":139926,"Ġר×IJ×ķ×Ļ":139927,"×Ĺ×ij׾":139928,"ĠÑĢÑĭн":139929,"ĠÑĢÑĭнке":139930,"Ġ׾×ŀ×¢×Ł":139931,"اسÙĦ":139932,"หัà¸Ļ":139933,"Ġ×IJ×Ĺ×Ļ":139934,"ĠпÑĢодол":139935,"ê°Ģìŀħ":139936,"Ġ×ijר×Ĺ":139937,"Ġ×ijר×Ĺ×ij×Ļ":139938,"джеÑĢ":139939,"Ġ׾×Ĺ׾":139940,"Ġ׾×Ĺ׾×ķ×ĺ":139941,"Ġ׾×Ĺ׾×ķ×ĺ×Ļף":139942,"ศาสà¸Ļา":139943,"ãĤ¢ãĤ¤ãĥĨ":139944,"ãĤ¢ãĤ¤ãĥĨãĥł":139945,"Ġפר×ķפ":139946,"جزاء":139947,"ลà¸Ńย":139948,"ĠciaÅĤa":139949,"Ġgiết":139950,"ĠзнаÑĩиÑĤелÑĮно":139951,"Ġolmadıģ":139952,"Ġolmadıģını":139953,"нд":139954,"ндекÑģ":139955,"تأÙĥد":139956,"Ġìĸ¸":139957,"Ġìĸ¸ìłľ":139958,"aydın":139959,"ãĥīãĥ¬ãĤ¹":139960,"Ġsắt":139961,"Ġíĺ¸íħĶ":139962,"Ġë¶ģ":139963,"Ġë¶ģíķľ":139964,"ãĥijãĤ¤":139965,"Ġ×ŀש×Ĺ×§×Ļ":139966,"à¸Ħà¸Ļà¸Ńืà¹Īà¸Ļ":139967,"ĠизгоÑĤов":139968,"ĠизгоÑĤовлен":139969,"à¹Ģà¸ģียร":139970,"à¹Ģà¸ģียรà¸ķิ":139971,"תקשר":139972,"ĠÑĢаÑģÑĩеÑĤ":139973,"สà¹Ģà¸ķ":139974,"Ġlänger":139975,"ĠiÅŁlet":139976,"ĠiÅŁletme":139977,"ĠعÙĦÙĬÙĨ":139978,"ĠعÙĦÙĬÙĨا":139979,"élection":139980,"ĠاÙĦغربÙĬØ©":139981,"íĭĢ":139982,"ãĤĤãĤīãģĪ":139983,"Ġкниги":139984,"أسÙħ":139985,"أسÙħاء":139986,"Ġthá»ı":139987,"Ġthá»ıa":139988,"หà¸Ļู":139989,"Ġ×ł×¢×©×Ķ":139990,"à¸łà¸²à¸¢à¹ĥà¸ķà¹ī":139991,"à¸ŀืà¸Ĭ":139992,"رÙĬØ·":139993,"ÙģÙĪØ¶":139994,"ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸãģĦãģ¾ãģĹãģŁ":139995,"ש×ĵ×Ķ":139996,"Ġngá»±c":139997,"ĠÑģеÑĢÑĮ":139998,"ĠÑģеÑĢÑĮезн":139999,"Tôi":140000,"Ġfiyatları":140001,"ĠвÑģÑİ":140002,"ĠCódigo":140003,"Ġ×Ķש×IJ":140004,"Ġ×Ķש×IJ׾×Ķ":140005,"ĠPública":140006,"إخ":140007,"إخÙĪØ§ÙĨ":140008,"ĠзаÑıвил":140009,"ãĥ¦ãĥ¼":140010,"ר×IJ×Ļת":140011,"volución":140012,"Ġszko":140013,"ĠszkoÅĤy":140014,"جرÙĬدة":140015,"Ġpensé":140016,"ìī¬":140017,"ĠBüyükÅŁehir":140018,"ĠØ£ÙħرÙĬ":140019,"ĠØ£ÙħرÙĬÙĥÙĬ":140020,"à¸Ļัà¸ģศึà¸ģษา":140021,"Ġtodav":140022,"ĠtodavÃŃa":140023,"ĠСан":140024,"ĠСанкÑĤ":140025,"íķĺìŀIJ":140026,"ØŃÙĪØ§ÙĦ":140027,"׼×ķשר":140028,"à¹Ģลยà¸Ħรัà¸ļ":140029,"Ġalgu":140030,"Ġalguém":140031,"Ù쨲":140032,"Ġçekil":140033,"Ġ×ĵר׼×Ļ×Ŀ":140034,"ãĥIJãĥ©":140035,"à¸ģà¹ĩสามารà¸ĸ":140036,"สà¹Īวà¸Ļลà¸Ķ":140037,"íı°":140038,"ĠPúb":140039,"ĠPúblico":140040,"à¹ģà¸Ļวà¸Ĺาà¸ĩ":140041,"×IJת×Ĵר":140042,"شاش":140043,"شاشة":140044,"ciÅĽni":140045,"ĠÃľrün":140046,"ÙĦÙĪØŃ":140047,"ĠاÙĦبÙĨ":140048,"ĠاÙĦبÙĨÙĥ":140049,"ì¡°ì¹ĺ":140050,"Ġorganización":140051,"ãģĤãĤĬãģĮãģ¨ãģĨãģĶãģĸãģĦãģ¾ãģĻ":140052,"sätze":140053,"ĠÑģемей":140054,"ÙĤصد":140055,"ÑģÑĤвеннÑĭе":140056,"Ġprécéd":140057,"Ġprécédent":140058,"à¸ģรุà¸ĩà¹Ģà¸Ĺà¸ŀฯ":140059,"ãģ¨è¨ĢãģĦ":140060,"×ij׳×Ļ×Ļף":140061,"ĠØŃÙĪ":140062,"ĠØŃÙĪØ§ÙĦÙĬ":140063,"סקס":140064,"ĠsaÄŁlamak":140065,"Ġ׾צ×Ļ×Ļף":140066,"×§×ĵש":140067,"Ġ×Ķ×ŀ×¢×¨×Ľ×ª":140068,"Ġ׾×Ķ×¢×ij×Ļר":140069,"Ġgünd":140070,"Ġgündem":140071,"ĠнаÑĪего":140072,"à¹ĥà¸Ļà¸ŀืà¹īà¸Ļà¸Ĺีà¹Ī":140073,"à¹Ģà¸Ħรืà¸Ń":140074,"à¹Ģà¸Ħรืà¸Ńà¸Ĥ":140075,"à¹Ģà¸Ħรืà¸Ńà¸Ĥà¹Īาย":140076,"ظاÙĩرة":140077,"ÙħÙĨظÙħ":140078,"ÙħÙĨظÙħات":140079,"Ùħتاز":140080,"追ãģĦ":140081,"dıkt":140082,"dıktan":140083,"ĠëįĶìļ±":140084,"ĠÐĿапÑĢимеÑĢ":140085,"twór":140086,"×ŀ×ķעצ×Ķ":140087,"ÙĥÙĪÙĥ":140088,"Щ":140089,"×ŀ×ĺפ׾":140090,"ólica":140091,"訪ãĤĮ":140092,"ĠëĮĢë¶Ģ":140093,"ĠëĮĢë¶Ģë¶Ħ":140094,"ãĤ¯ãĥªãĥĥãĤ¯":140095,"ãĤĴéģ¸":140096,"ãĤĴéģ¸ãģ¶":140097,"Ġpowsta":140098,"ĠpowstaÅĤ":140099,"Ġrazón":140100,"×ij×ķ×Ĺר":140101,"ĠÑģообÑīил":140102,"Ġ×§×ij×ķ×¢":140103,"rêt":140104,"à¸Ķีà¸Ĥึà¹īà¸Ļ":140105,"×ŀסע×ĵ":140106,"×ŀסע×ĵ×ķת":140107,"ĠÃĸsterreich":140108,"Ġ׳×Ĺש×ij":140109,"Ùħبادرة":140110,"ì´ī":140111,"×Ĵ׳×ĺ×Ļ":140112,"ä¿¡ãģĺ":140113,"duÄŁ":140114,"duÄŁunu":140115,"Ġphú":140116,"ĠاÙĦأخÙĬر":140117,"Ġتعتبر":140118,"landırıl":140119,"ãģ¨ãģ¯ãģĦ":140120,"ãģ¨ãģ¯ãģĦãģĪ":140121,"ĠاÙĦØ·ÙĦ":140122,"ĠاÙĦØ·ÙĦاب":140123,"ĠNº":140124,"éģ¿ãģij":140125,"اÙĦÙħع":140126,"اÙĦÙħعرÙĪÙģ":140127,"à¸ªà¸łà¸²":140128,"éĽ¢ãĤĮ":140129,"ĠпомоÑīÑĮ":140130,"ĠзнаеÑĤ":140131,"ãĥĹãĥ¬ãĤ¼":140132,"ãĥĹãĥ¬ãĤ¼ãĥ³ãĥĪ":140133,"Ġsupérieur":140134,"Ġש׾×Ļש×Ļ":140135,"ĠاÙĦÙĨÙĪØ¹":140136,"ãĤĵãģ§ãģĻãģŃ":140137,"à¸Ńà¸ļรม":140138,"Ġgiá»įng":140139,"ĠwzglÄĻd":140140,"ĠاÙĦÙģÙĤر":140141,"èrent":140142,"Ġ×ŀ×IJ×Ĺ":140143,"Ġ×ŀ×IJ×Ĺ×ķר×Ļ":140144,"×Ĵ×Ĵ":140145,"×Ļ×Ļ×ij":140146,"ÙħÙĦاب":140147,"ÙħÙĦابس":140148,"Ġhükü":140149,"Ġhükümet":140150,"Ġ×ŀ×Ĵ×Ļ×ij":140151,"ĠÐŀÑĩ":140152,"ĠÐŀÑĩенÑĮ":140153,"æĹ©ãģĦ":140154,"Ġconstrucción":140155,"Ġthượng":140156,"ï¼ĭ":140157,"Ġcoração":140158,"à¹Ģหลà¹ĩà¸ģ":140159,"ĠBaÅŁb":140160,"ĠBaÅŁbakan":140161,"éĢ£ãĤĮ":140162,"ãģĻãĤĭãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ":140163,"ĠÙĤاÙħت":140164,"ĠاÙĥثر":140165,"ÙģØ§Ø¹ÙĦ":140166,"ĠÑĦоÑĢ":140167,"ĠÑĦоÑĢÑĥм":140168,"غذÙĬ":140169,"ĠiÅŁle":140170,"ĠiÅŁleml":140171,"ĠiÅŁlemleri":140172,"ĠìĤ¬ëŀĮìĿĢ":140173,"ĠìŀijìĦ±":140174,"Ġë§Ī볨":140175,"ÙħجÙĦس":140176,"หมู":140177,"дв":140178,"двиг":140179,"двига":140180,"à¹Ģสียà¸Ĭีวิà¸ķ":140181,"×Ķתפת×Ĺ":140182,"×Ķתפת×Ĺ×ķת":140183,"ĠмеÑĤÑĢо":140184,"ĠÑģенÑĤ":140185,"ĠÑģенÑĤÑı":140186,"ĠÑģенÑĤÑıбÑĢÑı":140187,"ê³§":140188,"Ġ×ľ×¤×¢":140189,"Ġ×ľ×¤×¢×ŀ×Ļ×Ŀ":140190,"à¹Ģà¸ļีย":140191,"詳ãģĹãģı":140192,"çķ°ãģªãĤĭ":140193,"Ġİlçe":140194,"ĠAtat":140195,"ĠAtatür":140196,"ĠAtatürk":140197,"รุà¹Īà¸ĩ":140198,"Ġkaldı":140199,"Ġ주ìŀ¥":140200,"Ġprésence":140201,"Ġнаб":140202,"ĠнаблÑİ":140203,"ĠнаблÑİда":140204,"ĠÑģамого":140205,"×Ĵ×ķש":140206,"×ŀ×ĺ×ķפ":140207,"×ŀ×ĺ×ķפ׾":140208,"ĠвÑĭбиÑĢа":140209,"ĠìŀIJ리":140210,"åĪĨãģĭãĤīãģªãģĦ":140211,"ĠзÑĥб":140212,"Ġש׼×ijר":140213,"Ġدائ":140214,"ĠدائÙħا":140215,"ĠпаÑĢÑĤи":140216,"ï¼²":140217,"ĠاÙĬضا":140218,"ĠÑħоз":140219,"ĠÑħозÑı":140220,"ĠÑħозÑıй":140221,"ĠÑħозÑıйÑģÑĤв":140222,"ĠاÙĦأج":140223,"ĠاÙĦأجÙĨب":140224,"ĠاÙĦأجÙĨبÙĬØ©":140225,"ĠÐĹна":140226,"ĠApós":140227,"ĠÑįнеÑĢ":140228,"ĠÑįнеÑĢги":140229,"Ġyans":140230,"Ġyansı":140231,"ĠJusti":140232,"ĠJustiça":140233,"Ġprévu":140234,"มวล":140235,"ìŀ¥ëĭĺ":140236,"à¸ģระà¸ļ":140237,"à¸ģระà¸ļวà¸Ļ":140238,"à¸ģระà¸ļวà¸Ļà¸ģาร":140239,"×ŀ×ŀ":140240,"×ŀ×ŀ×ķצע":140241,"Ġhẹ":140242,"Ġhẹn":140243,"здание":140244,"ĠakÅŁ":140245,"ĠakÅŁam":140246,"×ĺ×ķפ":140247,"Ġgerekt":140248,"Ġgerekti":140249,"ĠgerektiÄŁini":140250,"Ġnarz":140251,"ĠnarzÄĻdzi":140252,"épo":140253,"époque":140254,"ĠThần":140255,"Ġwysoko":140256,"ĠwysokoÅĽci":140257,"à¸ľà¸¹à¹īà¸Ľ":140258,"à¸ľà¸¹à¹īà¸Ľà¹Īวย":140259,"ĠÙĬبدÙĪ":140260,"ÑĤелÑĮного":140261,"ĠвзглÑıд":140262,"ĠjednÄħ":140263,"ĠìĿĺ견":140264,"Ġà¸Ĥà¸ĵะà¸Ĺีà¹Ī":140265,"פ×Ļ×ĵ":140266,"ìĥģëĭ´":140267,"Ġmỡ":140268,"×Ķ×ŀ׾":140269,"×Ķ×ŀ׾צ×ķת":140270,"ĠÑģоÑģÑĤо":140271,"ĠÑģоÑģÑĤоиÑĤ":140272,"Ġави":140273,"Ġавиа":140274,"ĠLänder":140275,"تصÙĪÙĬر":140276,"×ŀ×ĵ×Ļ×Ķ":140277,"ìłĪì°¨":140278,"ãģ¨ãĤĬ":140279,"ãģ¨ãĤĬãģĤ":140280,"ãģ¨ãĤĬãģĤãģĪ":140281,"ãģ¨ãĤĬãģĤãģĪãģļ":140282,"ĠÑĢÑıд":140283,"ĠÑĢÑıдом":140284,"ĠNhất":140285,"ĠاÙĦÙĥاÙħÙĦ":140286,"×Ĺ׾׾":140287,"ĠGiấy":140288,"צ×ĺר":140289,"צ×ĺרף":140290,"Ġ׾×ij×ĺ׾":140291,"ĠимеÑĤÑĮ":140292,"ס×ŀ×ķ×ļ":140293,"Ġparticipação":140294,"íķľëĭ¤ë©´":140295,"ÙħÙĨتدÙĬ":140296,"ÙħÙĨتدÙĬات":140297,"ĠeÄŁlen":140298,"gänge":140299,"ربØŃ":140300,"ãĤ®ãĥ£":140301,"ĠاÙĦرÙĤÙħ":140302,"à¸ĭà¹īำ":140303,"ĠHóa":140304,"×ŀר×Ĺ×§":140305,"ØŃÙħاÙħ":140306,"بÙĪÙĥ":140307,"ĠArtÃŃculo":140308,"ãĥĦãĤ¢ãĥ¼":140309,"×Ķפ׼×Ķ":140310,"×Ĺ׾×ķף":140311,"ĠпеÑĢеÑħод":140312,"lenmiÅŁ":140313,"زراعة":140314,"Ġseñor":140315,"ãģ£ãģ¦ãģįãģ¦":140316,"إش":140317,"إشارة":140318,"ĠpodÃŃa":140319,"ĠÃľlke":140320,"нÑģкаÑı":140321,"Ġadapté":140322,"Ġdüzenlen":140323,"Ġdüzenlenen":140324,"ĠÑģÑĤала":140325,"ĠÙĬØŃتاج":140326,"Ġnier":140327,"Ġnieruch":140328,"Ġnieruchomo":140329,"ĠnieruchomoÅĽci":140330,"ãģĵãģ¨ãģĮãģĤãĤĭ":140331,"ยà¸Ńà¸Ķà¹Ģยีà¹Īยม":140332,"ĠÙħج":140333,"ĠÙħجاÙĨÙĬ":140334,"Ġзаб":140335,"Ġзабол":140336,"Ġзаболев":140337,"ĠзаболеваниÑı":140338,"ĠÅĽro":140339,"ĠÅĽrodk":140340,"ĠÅĽrodków":140341,"Ġ×Ķ׾×IJ×ķ×ŀ×Ļ":140342,"ĠdokÅĤad":140343,"ĠdokÅĤadnie":140344,"ãģŁãģıãģªãģĦ":140345,"ãģ¯ãģļãģ§ãģĻ":140346,"ã썿ĢĿãģ£ãģ¦ãģĦãģŁ":140347,"écran":140348,"ìĹħì²´":140349,"trzymaÅĤ":140350,"ÑģÑĤвеннÑĭй":140351,"ĠNotÃŃc":140352,"ĠNotÃŃcias":140353,"ÙħرÙĬ":140354,"ÙħرÙĬض":140355,"æ°Ĺè»":140356,"æ°Ĺ軽":140357,"æ°Ĺ軽ãģ«":140358,"ëĵ£":140359,"Ġ×ĵ×ķ×IJר":140360,"Ġ׾×ŀ׳":140361,"Ġ׾×ŀ׳×ķ×¢":140362,"ĠçalÄ±ÅŁÄ±yor":140363,"ĠÅŁidd":140364,"ĠÅŁiddet":140365,"ĠMặt":140366,"ĠateÅŁ":140367,"ĠполÑĥÑĩениÑı":140368,"à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩมืà¸Ń":140369,"ĠgrÃ¶ÃŁer":140370,"دائ":140371,"دائرة":140372,"Ġbulun":140373,"Ġbulunmaktadır":140374,"à¹Ģหร":140375,"à¹Ģหรีย":140376,"à¹Ģหรียà¸į":140377,"à¸Ļัà¸ģà¸Ĺà¹Īà¸Ńà¸ĩà¹Ģà¸Ĺีà¹Īยว":140378,"Ġalanında":140379,"ĠÑĥзна":140380,"ĠлеÑĩение":140381,"売ãĤĮ":140382,"Ġçevir":140383,"ĠdesteÄŁi":140384,"ĠheiÃŁt":140385,"âĸ²":140386,"ØŃØ·":140387,"à¸Ħำà¸ķà¸Ńà¸ļ":140388,"ãĤªãĥ³ãĥ©ãĤ¤ãĥ³":140389,"Ġ×ij×Ĺ×Ļ×Ļ×Ŀ":140390,"ãĥ¦ãĥĭ":140391,"Ġdüzenleme":140392,"ĠmodalitÃł":140393,"سرط":140394,"سرطاÙĨ":140395,"×ŀ׼×ķף":140396,"ĠданнÑĭй":140397,"ترت":140398,"ترتÙĬب":140399,"à¸ļาà¸ĩà¸Ħà¸Ļ":140400,"ĠÄIJá»ĭnh":140401,"มูล":140402,"มูลà¸Ħà¹Īา":140403,"ÙĨÙĤص":140404,"à¸ģารรัà¸ģษา":140405,"ĠÑĦон":140406,"ĠÑĦонд":140407,"ãĤĪãģĨãģ«ãģªãģ£ãģŁ":140408,"ÙħعاÙĦ":140409,"ÙħعاÙĦجة":140410,"ĠOsman":140411,"ĠOsmanlı":140412,"иÑĩеÑģком":140413,"à¸Ńยาà¸ģà¸Īะ":140414,"ãģķãģ¾ãģĸ":140415,"ãģķãģ¾ãģĸãģ¾":140416,"ãģķãģ¾ãģĸãģ¾ãģª":140417,"Ġת×ķ׼׾":140418,"עצ×ij":140419,"ĠاÙĦعسÙĥ":140420,"ĠاÙĦعسÙĥرÙĬ":140421,"Ġvéhic":140422,"Ġvéhicule":140423,"Ġ×Ļצ×Ĺ×§":140424,"ĠاÙĦÙĪØŃ":140425,"ĠاÙĦÙĪØŃÙĬد":140426,"ĠاÙĦعدÙĪ":140427,"ĠQuản":140428,"Ġê³µëıĻ":140429,"بدÙĦ":140430,"ĠÄijảng":140431,"Ġmá»ĩnh":140432,"Ġniezb":140433,"ĠniezbÄĻ":140434,"ĠniezbÄĻdn":140435,"Ġyayınlan":140436,"обÑīи":140437,"Ġgötür":140438,"צפ":140439,"צפ×ķ×Ļ":140440,"ĠÙĦÙĬبÙĬ":140441,"ĠÙĦÙĬبÙĬا":140442,"ØŃÙĪØ§":140443,"Ġдоб":140444,"ĠдобÑĢо":140445,"иÑĢÑĥем":140446,"ĠاÙĦØŃÙĥÙĪÙħÙĬØ©":140447,"mÃ¤ÃŁig":140448,"Ġedición":140449,"влекаÑĤелÑĮ":140450,"влекаÑĤелÑĮн":140451,"Ġ×ª×©×ľ×ķ×Ŀ":140452,"Ġ×Ķש×ķ׳×Ļ×Ŀ":140453,"มิà¸ĸุ":140454,"มิà¸ĸุà¸Ļ":140455,"มิà¸ĸุà¸Ļายà¸Ļ":140456,"é£Łãģ¹ãģ¦":140457,"ĠìĪĺì§ij":140458,"ס×ij×Ļ":140459,"ĠиÑİлÑı":140460,"Ġà¹Ħà¸Ķà¹īà¹ģà¸ģà¹Ī":140461,"׾×Ĺ×Ŀ":140462,"trä":140463,"trägt":140464,"ãģĿãĤĤãģĿãĤĤ":140465,"ÐĿÐķ":140466,"ĠвнÑĥÑĤ":140467,"ĠвнÑĥÑĤÑĢи":140468,"ãģ¨ä¸Ģç·Ĵãģ«":140469,"ãĤ«ãĥķãĤ§":140470,"Ġ×ij×Ĺ×ĵר":140471,"×Ĺ×ŀש":140472,"ãĤ¨ãĥį":140473,"ãĤ¨ãĥįãĥ«":140474,"ãĤ¨ãĥįãĥ«ãĤ®":140475,"ãĤ¨ãĥįãĥ«ãĤ®ãĥ¼":140476,"à¸Ĥà¸Ńà¸ĩà¸ķัวà¹Ģà¸Ńà¸ĩ":140477,"بÙĤاء":140478,"פס×Ļ׼":140479,"פס×Ļ׼×ķ׾×ķ×Ĵ":140480,"ãĥ¡ãĥĥ":140481,"ãĥ¡ãĥĥãĤ»":140482,"ãĥ¡ãĥĥãĤ»ãĥ¼ãĤ¸":140483,"ÙĦÙĤب":140484,"AÄŀ":140485,"שק×Ļ×¢":140486,"ÙĤساÙħ":140487,"×ĵ×ķ×Ĵ×ŀ×Ķ":140488,"æ·±ãģĦ":140489,"íĸĪëĬĶëį°":140490,"ĠrozwiÄħzanie":140491,"à¸Ļัà¹Īà¸Ļà¹Ģà¸Ńà¸ĩ":140492,"×Ļצ×ij":140493,"Ġtrông":140494,"à¹ĥà¸Ĭà¹īà¸ļริà¸ģาร":140495,"ĠاÙĦÙħÙĪØ³Ùħ":140496,"ĠдеÑĤи":140497,"ãģĹãģĭãģªãģĦ":140498,"ס×Ļף":140499,"Ġréférence":140500,"à¹ģหà¹īà¸ĩ":140501,"ãĤĤãĤīãģ£ãģŁ":140502,"Ġ׾ר׼":140503,"Ġ׾ר׼×ķש":140504,"شعÙĪØ±":140505,"ĠÐijог":140506,"Ġlazım":140507,"Ġ×Ļש׳×Ŀ":140508,"ĠпаÑĢÑĤ":140509,"ĠпаÑĢÑĤнеÑĢ":140510,"ĠÑĥника":140511,"ĠÑĥникалÑĮн":140512,"Ġmatériel":140513,"×ŀרק":140514,"Ġphưá»Ŀng":140515,"Ġзай":140516,"Ġзайм":140517,"ÙģÙĤد":140518,"UniversitÃł":140519,"×¢×¨×Ľ×Ļ×Ŀ":140520,"Ġbaño":140521,"ĠноÑı":140522,"ĠноÑıбÑĢÑı":140523,"à¸Ľà¹īาย":140524,"Ġtats":140525,"Ġtatsäch":140526,"Ġtatsächlich":140527,"ĠÑĤÑĢеÑĤÑĮ":140528,"Ñįм":140529,"ãĥĻãĥ¼ãĤ¹":140530,"Ġnhá»±a":140531,"ìĬ¤íģ¬":140532,"ĠعبداÙĦÙĦÙĩ":140533,"Ġת×ķר×Ķ":140534,"أشÙĬ":140535,"أشÙĬاء":140536,"ĠÙĦÙĦغا":140537,"ĠÙĦÙĦغاÙĬØ©":140538,"ÙħÙĪØ§ÙĤ":140539,"ÙħÙĪØ§ÙĤÙģ":140540,"ĠgÅĤówna":140541,"ĠartÄ±ÅŁ":140542,"Ġ×ŀ×§×ķ×ŀ×Ļ":140543,"ãĤ¯ãĥ©ãĥĸ":140544,"ĠسÙĪÙī":140545,"ĠìŬìĦ±":140546,"اسر":140547,"اسرائÙĬÙĦ":140548,"Ġ×ł×Ľ×ª×ij":140549,"ยà¹īà¸Ńà¸Ļ":140550,"Ġdeberá":140551,"Ġphẫu":140552,"ÑİÑīем":140553,"ĠÙĦدÙĬÙĨا":140554,"×ŀ×ĺ×Ķ":140555,"Ġ׳×ķ׾×ĵ":140556,"ĠвÑģÑĤÑĢеÑĩа":140557,"ãĤīãĤĮãģ¦ãģĦãģ¾ãģĻ":140558,"ĠcaÅĤej":140559,"ยึ":140560,"ยึà¸Ķ":140561,"поÑĤен":140562,"поÑĤенÑĨи":140563,"ĠлиÑĤ":140564,"ĠлиÑĤеÑĢ":140565,"ĠлиÑĤеÑĢаÑĤÑĥÑĢ":140566,"Ġкаждом":140567,"ĠíĮIJ":140568,"ĠíĮIJëĭ¨":140569,"à¸Īู":140570,"Ġpresença":140571,"ãģªãĤĵãģ§":140572,"ÙħÙĬاÙĩ":140573,"инÑĦоÑĢм":140574,"инÑĦоÑĢмаÑĨион":140575,"инÑĦоÑĢмаÑĨионн":140576,"ĠìŀIJìŰ":140577,"ר׼ש":140578,"Ġödül":140579,"ç¶ļãģı":140580,"ĠпÑģ":140581,"ĠпÑģиÑħ":140582,"ĠпÑģиÑħолог":140583,"تذÙĥر":140584,"Ġìŀħìŀ¥":140585,"ลà¸Ķà¹Į":140586,"ìĦłê±°":140587,"ãģ£ãģ¦ãģĬãĤĬãģ¾ãģĻ":140588,"Ġ×Ļ×¢":140589,"Ġ×Ļ×¢×§×ij":140590,"ĠاÙĦطعاÙħ":140591,"ãĥĨãĤ¹ãĥĪ":140592,"ĠTuấn":140593,"Ġparticipación":140594,"×ŀ×ķ×ŀ×Ĺ×Ķ":140595,"×Ĵרס×Ķ":140596,"ĠاÙĦتÙĨÙģÙĬ":140597,"ĠاÙĦتÙĨÙģÙĬذÙĬ":140598,"ĠбезопаÑģн":140599,"gef":140600,"gefähr":140601,"Ø´ÙĪØ±":140602,"ĠmyÅĽli":140603,"ÙĪØ§Ø´ÙĨ":140604,"ÙĪØ§Ø´ÙĨØ·ÙĨ":140605,"׳×ķסע":140606,"ÙĥÙĩ":140607,"ÙĥÙĩرب":140608,"ÙĥÙĩرباء":140609,"ĠmusiaÅĤ":140610,"ìĭ¸":140611,"ãĥĸãĥ©ãĥĥãĤ¯":140612,"Ġcréé":140613,"ÙĨÙĩار":140614,"owoÅĽÄĩ":140615,"ÙħØŃاÙĥÙħ":140616,"ĠwÅĤaÅĽ":140617,"ĠwÅĤaÅĽc":140618,"ĠwÅĤaÅĽciciel":140619,"ĠÙĬؤ":140620,"ĠÙĬؤدÙĬ":140621,"×ŀ×¢×ķ׳":140622,"×IJ×ij׾":140623,"خطأ":140624,"ĠÑħолод":140625,"×ĸ×ķ׾":140626,"ãģĵãĤĮãĤī":140627,"ãģĵãĤĮãĤīãģ®":140628,"Ġbásica":140629,"ฤà¸Ķ":140630,"ฤà¸Ķูà¸ģ":140631,"ฤà¸Ķูà¸ģา":140632,"ฤà¸Ķูà¸ģาล":140633,"èIJ½ãģ¡çĿĢ":140634,"ãģªãģĦãģĵãģ¨":140635,"صÙĪÙħ":140636,"ÙĨجØŃ":140637,"׳ק×ķ×ĵ":140638,"׳ק×ķ×ĵת":140639,"клаÑģÑģ":140640,"íķĺìĭľëĬĶ":140641,"ëĦĺ":140642,"Ġש×IJ×Ļ׳×ķ":140643,"ĠСейÑĩаÑģ":140644,"mayacaģı":140645,"Ġyapılır":140646,"ĠcategorÃŃa":140647,"عباد":140648,"ĠТеп":140649,"ĠТепеÑĢÑĮ":140650,"×Ķ×Ļס×ĺ×ķר×Ļ":140651,"hế":140652,"ãĤ³ãĥ¼ãĥī":140653,"Ġcabeça":140654,"جÙħا":140655,"جÙħاÙĩ":140656,"جÙħاÙĩÙĬر":140657,"ä½İãģĦ":140658,"ĠÑĤоваÑĢов":140659,"à¸Ĭาวà¸ļà¹īาà¸Ļ":140660,"ĠÑģÑĤанов":140661,"ĠÑģÑĤановиÑĤÑģÑı":140662,"ĠавÑĤомобилÑĮ":140663,"ĠÑģлÑĥÑĩай":140664,"à¸Ńัà¸ŀ":140665,"ĠGiriÅŁ":140666,"ĠìĿ¼ëĭ¨":140667,"ĠпÑĢоÑģ":140668,"ĠпÑĢоÑģмоÑĤÑĢ":140669,"ãģªãģıãģªãģ£ãģŁ":140670,"à¸¡à¸µà¸Ľà¸±à¸įหา":140671,"ïºİ":140672,"écoute":140673,"ĠÙħÙĪØ¬ÙĪØ¯":140674,"ĠسرÙĬع":140675,"ĠÙĪÙĩÙĨا":140676,"ĠÙĪÙĩÙĨاÙĥ":140677,"à¸Ħุà¸ĵสม":140678,"à¸Ħุà¸ĵสมà¸ļัà¸ķิ":140679,"Ġìļ°ìĦł":140680,"à¸ŀระà¸ŀุà¸Ĺà¸ĺ":140681,"好ãģ¿":140682,"ظÙĦÙħ":140683,"ĠмакÑģ":140684,"ĠмакÑģималÑĮ":140685,"ĠмакÑģималÑĮно":140686,"ãĥªãĤ¢ãĥ«":140687,"à¹ģมà¹īวà¹Īา":140688,"ĠاÙĦØŃÙĪØ§Ø±":140689,"ãĥĹãĥ©ãĤ¹":140690,"ĠعÙĦاÙĤØ©":140691,"ĠíĸīëıĻ":140692,"Ġgönderil":140693,"Ġlãi":140694,"ĠsaÄŁlıkl":140695,"ĠsaÄŁlıklı":140696,"ĠÑĪаг":140697,"Ġ×ij×IJר×Ķ":140698,"prowadziÄĩ":140699,"ãģĦãģıãģ¤ãģĭ":140700,"ĠبتارÙĬØ®":140701,"Ġ×ij×IJ×ķת×Ķ":140702,"Ġmóc":140703,"ĠÐľÐ½Ðµ":140704,"ãĥĹãĥ¬ãĥ¼":140705,"×IJ×ĸר×Ĺ":140706,"åł´åIJĪãģ«ãģ¯":140707,"使ãģĪ":140708,"à¹Ģรืà¸Ńà¸Ļ":140709,"ĠÐŁÐµÑĤ":140710,"ĠÐŁÐµÑĤÑĢ":140711,"ãģ«åħ¥ãĤĭ":140712,"Ùħادة":140713,"à¹Ģà¸ĩืà¹Īà¸Ńà¸Ļ":140714,"à¹Ģà¸ĩืà¹Īà¸Ńà¸Ļà¹Ħà¸Ĥ":140715,"ĠÑģоÑģÑĤоÑıние":140716,"ônica":140717,"ĠÑĦев":140718,"ĠÑĦевÑĢа":140719,"ĠÑĦевÑĢалÑı":140720,"Ġ×ķ×ĸ":140721,"Ġ×ķ×ĸ×IJת":140722,"à¸Ħริ":140723,"à¸Ħริส":140724,"ĠÐķÑīе":140725,"ãģ£ãģ¦ãģĹãģ¾ãģĦãģ¾ãģĹãģŁ":140726,"ĠпÑĢавиÑĤелÑĮ":140727,"ĠпÑĢавиÑĤелÑĮÑģÑĤв":140728,"Ġtäglich":140729,"Ġëĭ¹ìĭľ":140730,"×ŀ×ķ×¢×ŀ×ĵ":140731,"ĠдвоÑĢ":140732,"æīķ":140733,"æīķãģĦ":140734,"ĠÑģÑĤанеÑĤ":140735,"ĠвоздейÑģÑĤв":140736,"ĠвоздейÑģÑĤви":140737,"Ġfête":140738,"à¹Ģสา":140739,"תק×ķ×ķ×Ķ":140740,"Ġuyar":140741,"Ġuyarı":140742,"à¸ģลัà¸ļà¹Ħà¸Ľ":140743,"Ġgiưá»Ŀng":140744,"Ġва":140745,"ĠваÑĪи":140746,"ĠÄijáºŃu":140747,"ĠSpaÃŁ":140748,"ĠìķĦë§Ī":140749,"à¹Ħà¸Ķà¹īà¸ĩà¹Īาย":140750,"Ġ×Ķ×ŀ×ijקש":140751,"æĸ°ãģŁ":140752,"æĸ°ãģŁãģª":140753,"ılıyor":140754,"план":140755,"Ġ×Ķ×ijר×Ļ×IJ×ķת":140756,"ĠaÄŁrı":140757,"Ġsaygı":140758,"建ãģ¦":140759,"Ġnajwyż":140760,"Ġnajwyższ":140761,"سÙĬاسات":140762,"ãģĬå¾Ĺ":140763,"ĠاÙĦعÙĦÙĬ":140764,"ĠاÙĦعÙĦÙĬا":140765,"Ġcorazón":140766,"ì¹ĺë£Į":140767,"หัวà¸Ĥà¹īà¸Ń":140768,"ĠبØŃÙĬ":140769,"ĠبØŃÙĬØ«":140770,"звезд":140771,"بÙĪØ§Ø¨Ø©":140772,"ÐĽÐĺ":140773,"ÙĦازÙħ":140774,"Ġrozp":140775,"Ġrozpoc":140776,"ĠrozpoczÄĻ":140777,"触ãĤĮ":140778,"ĠاÙĦجÙħÙĩ":140779,"ĠاÙĦجÙħÙĩÙĪØ±":140780,"ĠspÄĻd":140781,"ĠspÄĻdz":140782,"วิà¸Ĺยาศาสà¸ķรà¹Į":140783,"иваеÑĤÑģÑı":140784,"Ġданной":140785,"Ġreprésente":140786,"ĠÄijá»ĭch":140787,"Ġ×¢×ŀ×ķ×§":140788,"à¸Ńัà¸Ļà¸ķร":140789,"à¸Ńัà¸Ļà¸ķราย":140790,"Ġestratég":140791,"Ġestratégia":140792,"padÅĤ":140793,"Ġвполн":140794,"Ġвполне":140795,"ĠпÑĢедоÑģÑĤавлен":140796,"×Ĺ׾×ķ×§":140797,"×Ĺ׾×ķקת":140798,"ãĤ¢ãĥĬ":140799,"ĠاÙĦغذ":140800,"ĠاÙĦغذائÙĬ":140801,"ĠÑĥзн":140802,"ĠÑĥзнаÑĤÑĮ":140803,"à¸ĭà¹īาย":140804,"å½ĵãģ¦":140805,"ØŃÙĬاء":140806,"Ġbásico":140807,"×§×ķ×ij×¢":140808,"ĠاÙĦÙħباراة":140809,"ĠاÙĦÙĩاتÙģ":140810,"Ġ׼׳×Ĵ×ĵ":140811,"à¸Ľà¸£à¸°à¸«à¸¢":140812,"à¸Ľà¸£à¸°à¸«à¸¢à¸±à¸Ķ":140813,"Ðļак":140814,"à¸Ĺีà¹Īà¸Ļà¹Īา":140815,"à¸Ĺีà¹Īà¸Ļà¹Īาสà¸Ļà¹ĥà¸Ī":140816,"ãģ¾ãģģ":140817,"ï½¢":140818,"Ñģкоп":140819,"Ġsonrasında":140820,"ĠurzÄħd":140821,"ĠurzÄħdzenia":140822,"׼×ķ×ķ׳":140823,"׼×ķ×ķ×ł×ª":140824,"Ġ׾×Ķת×ŀ×ķ×ĵ":140825,"Ġ׾×Ķת×ŀ×ķ×ĵ×ĵ":140826,"ĠÑģли":140827,"ĠÑģлиÑĪ":140828,"ĠÑģлиÑĪком":140829,"ĠÑģÑĤÑĥд":140830,"ĠÑģÑĤÑĥденÑĤ":140831,"Ġ×Ķ×ķ×ĵ":140832,"Ġ×Ķ×ķ×ĵ×¢×Ķ":140833,"ë¹Ħìļ©":140834,"à¸Ńยาà¸ģà¹ĥหà¹ī":140835,"Ġbá»ģ":140836,"ยุà¸Ĺà¸ĺ":140837,"ÐĺÐĿ":140838,"سائر":140839,"أصÙĪÙĦ":140840,"ĠاÙĦغرÙģ":140841,"ãģĵãģ¨ãĤĤãģĤãĤĬãģ¾ãģĻ":140842,"è¾¼ãģ¾ãĤĮ":140843,"ĠاÙĦسابع":140844,"Ġcá»§":140845,"ãģĦãģŁãģłãģĦãģŁ":140846,"ì§ĵ":140847,"ìĤ¬ë¬´":140848,"powiedź":140849,"تÙģÙĥ":140850,"تÙģÙĥÙĬر":140851,"иÑĢовки":140852,"ĠíĨµíķ´ìĦľ":140853,"ãĤ¨ãĤ¹ãĥĨ":140854,"ĠдеÑıÑĤелÑĮноÑģÑĤÑĮ":140855,"ĠданнÑĭм":140856,"Ġ×¢×ķר":140857,"Ġ×¢×ķר׼×Ļ":140858,"×ķ×ĵעת":140859,"Ġhayatını":140860,"ĠbÄħd":140861,"ĠbÄħdź":140862,"obsÅĤug":140863,"à¹Ģà¸ŀียà¸ĩà¹ģà¸Ħà¹Ī":140864,"à¸ĭà¹Īา":140865,"è²łãģij":140866,"ĠÑģÑĤÑĢем":140867,"ĠÄijá»īnh":140868,"ĠÐłÑĥÑģ":140869,"ĠNữ":140870,"Ġ׾×Ķש×Ļ×Ĵ":140871,"Ġjednoc":140872,"Ġjednocze":140873,"ĠjednoczeÅĽnie":140874,"Ġ×Ķ×Ĵ×ij×ķ×Ķ":140875,"أخÙĦاÙĤ":140876,"ĠнаÑģел":140877,"ĠнаÑģелениÑı":140878,"ĠÙĬÙĨب":140879,"ĠÙĬÙĨبغÙĬ":140880,"ãģĮãģĭ":140881,"ãģĮãģĭãģĭ":140882,"×Ĵעת":140883,"ÐŀÐł":140884,"ĠналиÑĩии":140885,"Ġë§Īì§Ģ":140886,"Ġë§Īì§Ģë§ī":140887,"ĠíĸīìĤ¬":140888,"ĠtreÅĽci":140889,"Ġê°Ģì¹ĺ":140890,"ì¦ĺ":140891,"Ġаналог":140892,"×Ķצעת":140893,"влад":140894,"владе":140895,"ĠÑģделал":140896,"Ġ׳×Ĵ×Ļש":140897,"Ġ׳×Ĵ×Ļש×ķת":140898,"полнение":140899,"à¸Ĩà¹Īา":140900,"ĠDön":140901,"׼׾׼׾×Ķ":140902,"×ŀ×ĸ×Ĵ":140903,"ÙħÙģ":140904,"ÙħÙģÙĩ":140905,"ÙħÙģÙĩÙĪÙħ":140906,"×Ķ×ĵ":140907,"×Ķ×ĵפס":140908,"×Ķ×ĵפס×Ķ":140909,"ãģĻãģİãģ¦":140910,"ĠгÑĢ":140911,"ĠгÑĢн":140912,"×ŀ×ĺ×ķס":140913,"Ġ기ìĸµ":140914,"ï¾Ł":140915,"ĠpÅĤyn":140916,"ĠGründe":140917,"ĠBücher":140918,"ĠwedÅĤug":140919,"ãģ¾ãģłãģ¾ãģł":140920,"Ġ׳×Ķ×ĵר":140921,"ĠÙĬستطÙĬع":140922,"ĠHiá»ĩp":140923,"ãĤŃãĥ£ãĥ³ãĥļ":140924,"ãĤŃãĥ£ãĥ³ãĥļãĥ¼ãĥ³":140925,"Ġthá»ķ":140926,"Ġeuropéenne":140927,"à¸ļัà¸ĩ":140928,"à¸ļัà¸ĩà¸Ħัà¸ļ":140929,"ĠszczegóÅĤowo":140930,"׳שק":140931,"ãĥķãĥ©ãĥ³ãĤ¹":140932,"×ŀ×ķ×ŀ×Ĺ×Ļ":140933,"Ġcomún":140934,"Ġçarp":140935,"ØŃتÙĬا":140936,"ØŃتÙĬاج":140937,"ØŃتÙĬاجات":140938,"ëĭ´ëĭ¹":140939,"ä½ķ度":140940,"ä½ķ度ãĤĤ":140941,"×ĵ×ij×§":140942,"ãģįãĤĮ":140943,"ãģįãĤĮãģĦ":140944,"Ġкам":140945,"ĠкамеÑĢ":140946,"ĠespecÃŃfico":140947,"Ġteléfono":140948,"à¸ķัà¹īà¸ĩà¸Ńยูà¹Ī":140949,"IÅŀ":140950,"ãģ©ãĤĵãģ©":140951,"ãģ©ãĤĵãģ©ãĤĵ":140952,"עצ×ŀ×IJ×Ļ":140953,"à¸Ķัà¸ĩà¸Ļีà¹ī":140954,"ĠÑĦоÑĢмиÑĢов":140955,"ĠÑĦоÑĢмиÑĢова":140956,"×ķ×ŀ×ij":140957,"Ġkullanımı":140958,"ÐľÐŀ":140959,"עש×Ļ":140960,"עש×Ļ×Ļ×Ķ":140961,"Ġönlem":140962,"à¹Ģà¸Ńà¹ĩ":140963,"à¹Ģà¸Ńà¹ĩม":140964,"×ŀשק×Ļ×¢":140965,"ר×Ļ×Ĺ":140966,"à¸Ĥัà¸Ķ":140967,"ĠíĻľ":140968,"ĠíĻľìļ©":140969,"à¸ĭะ":140970,"ãĤĪãģĨãģ«ãģªãĤĬãģ¾ãģĹãģŁ":140971,"ĠÑĢаÑģпÑĢ":140972,"ĠÑĢаÑģпÑĢоÑģÑĤ":140973,"ĠÑĢаÑģпÑĢоÑģÑĤÑĢан":140974,"ĠÑĢаÑģпÑĢоÑģÑĤÑĢанен":140975,"׼×Ļ×ķף":140976,"ÙĤبض":140977,"تصرÙĬØŃ":140978,"تصرÙĬØŃات":140979,"ĠоÑĢи":140980,"ĠоÑĢиг":140981,"ĠоÑĢигина":140982,"ĠоÑĢигинал":140983,"ĠاÙĦعاÙĦÙĬ":140984,"à¹ģหà¹Īà¸ĩà¸Ļีà¹ī":140985,"ãĥķãĤ¡ãĥ¼":140986,"ãģ¦ãģĦãģį":140987,"ãģ¦ãģĦãģįãģŁãģĦ":140988,"פתר":140989,"פתר×ķ׳×ķת":140990,"Ġ×ij×Ļ×Ĺ":140991,"Ġ×ij×Ļ×Ĺ×ĵ":140992,"Ġodby":140993,"ĠodbyÅĤ":140994,"ĠоÑĩеÑĢед":140995,"Ġtrương":140996,"ãĤŃãĥ³":140997,"×ŀ×ķפ":140998,"×ŀ×ķפע":140999,"ëĵľë¦½":141000,"ëĵľë¦½ëĭĪëĭ¤":141001,"à¸ŀืà¹īà¸Ļà¸IJาà¸Ļ":141002,"ìŀIJ격":141003,"ĠViá»ĩn":141004,"ĠDespués":141005,"Ġ×IJ׾×Ļ׳×ķ":141006,"Ġdurée":141007,"íĩ´":141008,"Ġmüzik":141009,"iếu":141010,"ĠÑĢазмеÑīен":141011,"ĠкÑĥд":141012,"ĠкÑĥда":141013,"غض":141014,"غضب":141015,"ĠTambém":141016,"à¸Īัà¸Ķสà¹Īà¸ĩ":141017,"à¸ģารà¹ģสà¸Ķà¸ĩ":141018,"onomÃŃa":141019,"Ġанг":141020,"Ġангли":141021,"Ġанглий":141022,"ĠанглийÑģк":141023,"Ġznal":141024,"Ġznalaz":141025,"ĠznalazÅĤ":141026,"תר×Ĵ":141027,"תר×Ĵ×ķ×Ŀ":141028,"ĠÑģнов":141029,"ĠÑģнова":141030,"ĠÑĩаÑģа":141031,"Ġcommunauté":141032,"ĠespecÃŃfica":141033,"ĠLá»ĭch":141034,"Ġlié":141035,"ÙģØ¬Ø±":141036,"à¹Ģà¸ģà¹Īà¸ĩ":141037,"عاÙĦ":141038,"عاÙĦج":141039,"Ø£ÙĨظ":141040,"Ø£ÙĨظÙħØ©":141041,"ESİ":141042,"ĠاÙĦØŃدÙĬد":141043,"à¸ŀระà¸Ńà¸ĩà¸Ħà¹Į":141044,"Ġפרשת":141045,"Ġдвиж":141046,"ĠдвижениÑı":141047,"ĠاÙĦجارÙĬ":141048,"à¸ĺาà¸Ļี":141049,"неÑģен":141050,"ĠاÙĦÙĨÙĩائÙĬ":141051,"ĠбеÑĢ":141052,"ĠбеÑĢем":141053,"ĠбеÑĢеменн":141054,"Ġdépartement":141055,"à¹Ģà¸Ĺีย":141056,"à¹Ģà¸Ĺียà¸ļ":141057,"ĠÐľÐ°ÑĢи":141058,"ĠнекоÑĤоÑĢÑĭÑħ":141059,"обеÑģп":141060,"обеÑģпеÑĩен":141061,"×Ĺ×ķ×ĸ":141062,"×Ĺ×ķ×ĸ×Ķ":141063,"ÙĨتج":141064,"à¸Īะà¹Ħà¸Ķà¹īรัà¸ļ":141065,"á»°":141066,"Ġéléments":141067,"عط":141068,"عطاء":141069,"Ġtắt":141070,"iá»ĩm":141071,"ÑİÑīиÑħÑģÑı":141072,"ãģĹãģ°":141073,"ãģĹãģ°ãĤīãģı":141074,"ĠпоможеÑĤ":141075,"à¸Ĥà¸ĵะà¸Ļีà¹ī":141076,"Ġעשר×ķת":141077,"éģķãģ£ãģ¦":141078,"ĠпÑĢог":141079,"ĠпÑĢогн":141080,"ĠпÑĢогноз":141081,"ĠtÅĤ":141082,"ĠtÅĤum":141083,"ĠtÅĤumacz":141084,"Tür":141085,"Türkiye":141086,"ãģįãģ£":141087,"ãģįãģ£ãģĭãģij":141088,"Ġ×Ķ׳×ķ׼":141089,"Ġ×Ķ׳×ķ׼×Ĺ×Ļ":141090,"ĠìĥĿìĤ°":141091,"ĠÑĦоÑĢмÑĭ":141092,"ç¾İãģĹãģĦ":141093,"à¸Ľà¸£à¸¶à¸ģ":141094,"à¸Ľà¸£à¸¶à¸ģษา":141095,"Ġlumière":141096,"ãĤªãĥ¼ãĥĹ":141097,"ãĤªãĥ¼ãĥĹãĥ³":141098,"à¸Ľà¸·à¸Ļ":141099,"วัสà¸Ķ":141100,"วัสà¸Ķุ":141101,"еÑĢÑĤв":141102,"ÙĥÙĦÙģ":141103,"ï½£":141104,"à¸ĺรรมà¸Ķา":141105,"׳×ĺר":141106,"ĠпÑĢедÑģÑĤавлÑıеÑĤ":141107,"Ġanálisis":141108,"Ġbãi":141109,"باÙĤÙĬ":141110,"à¸Ľà¸£à¸°à¹Ģà¸Ķ":141111,"à¸Ľà¸£à¸°à¹Ģà¸Ķà¹ĩà¸Ļ":141112,"ĠÑģлÑĥÑĩаÑı":141113,"ĠÑģлÑĥÑĩаÑıÑħ":141114,"ÐĽÐIJ":141115,"สัà¸ĩà¹Ģà¸ģ":141116,"สัà¸ĩà¹Ģà¸ģà¸ķ":141117,"Ġprzec":141118,"Ġprzecież":141119,"ÙħصÙĦ":141120,"ÙħصÙĦØŃØ©":141121,"ש×ķ×§×ķ׾×ĵ":141122,"ĠобоÑĢÑĥдованиÑı":141123,"ĠtrwaÅĤ":141124,"رÙĪÙħ":141125,"ìķĪëĤ´":141126,"ĠNghá»ĭ":141127,"خش":141128,"à¸ļาà¸Ħาร":141129,"à¸ļาà¸Ħารà¹Īา":141130,"ĠопÑĨион":141131,"ĠÑģозданиÑı":141132,"ãĤ³ãĤ¹ãĥĪ":141133,"Ġ×Ķ×¢×ľ×Ļ":141134,"Ġ×Ķ×¢×ľ×Ļ×ķף":141135,"läuft":141136,"ãĥĻãĤ¹ãĥĪ":141137,"Ġrê":141138,"Ġrêve":141139,"×IJ×ij×Ļ×ij":141140,"×Ļ×Ļ×ļ":141141,"ë¶Ļ":141142,"ãĤ¤ãĥ³ãĥī":141143,"ÅĤoży":141144,"ÅĤożyÄĩ":141145,"عائÙĦ":141146,"عائÙĦØ©":141147,"Ø£ÙĪØ±":141148,"Ø£ÙĪØ±Ø§ÙĤ":141149,"à¸Ĺà¹īà¸Ńà¸ĩà¸ĸ":141150,"à¸Ĺà¹īà¸Ńà¸ĩà¸ĸิà¹Īà¸Ļ":141151,"Ġähn":141152,"Ġähnlich":141153,"ãĥŁãĥĭ":141154,"à¸ľà¸¹":141155,"à¸ľà¸¹à¹īà¸Ļ":141156,"à¸ľà¸¹à¹īà¸Ļำ":141157,"ĠмаÑĤеÑĢиалÑĭ":141158,"ĠкапиÑĤ":141159,"ĠкапиÑĤал":141160,"F":141161,"Ġseçil":141162,"Ġhứng":141163,"Ġintéressant":141164,"ãģ£ãģ¦ãģĦãģı":141165,"ĠeÄŁer":141166,"ëIJĺìĹĪìĬµëĭĪëĭ¤":141167,"ĠanlaÅŁma":141168,"ãģĶåĪ©ç͍":141169,"Ġ×ij×ĸ׼":141170,"Ġ×ij×ĸ׼×ķת":141171,"ëĿ¼ë©´":141172,"ĠÙĬÙĪØ³":141173,"ĠÙĬÙĪØ³Ùģ":141174,"أسÙĦØŃØ©":141175,"ĠGefühl":141176,"ĠноÑĢмалÑĮн":141177,"ãĥĻãĥ³":141178,"ãģķãĤĮãĤĭãģĵãģ¨":141179,"ĠÐijеÑģ":141180,"ãģ¨ãģĦãģĪãģ°":141181,"ĠÙħÙĩÙħ":141182,"ĠÙħÙĩÙħØ©":141183,"ãģ§ãģĹãĤĩãģĨãģŃ":141184,"ĠêµŃëĤ´":141185,"à¹Ģมà¹ĩà¸Ķ":141186,"×ŀ×ijקר":141187,"ĠاÙĦدÙĨÙĬ":141188,"ĠاÙĦدÙĨÙĬا":141189,"à¸Ĭู":141190,"кÑĢÑĥÑĤ":141191,"Ġthoáng":141192,"Ġ׳×ĵר":141193,"Ġ׳×ĵרש":141194,"ĠÑĢаÑģÑģказал":141195,"ĠAuÃŁerdem":141196,"פ×IJר":141197,"פ×IJרק":141198,"Ġ×ŀש×Ĺ×§×Ļ×Ŀ":141199,"צר׼×Ļ×Ŀ":141200,"×ŀ×ĵ×ķ":141201,"×ŀ×ĵ×ķ×Ļ×§":141202,"èĭ¦ãģĹ":141203,"ĠÑģиг":141204,"ĠÑģигнал":141205,"ĠMá»įi":141206,"Ġtrữ":141207,"ĠnastÄĻp":141208,"ĠnastÄĻpnie":141209,"Ġì¶Ķì§Ħ":141210,"ĠاÙĦÙģÙĨد":141211,"ĠاÙĦÙģÙĨدÙĤ":141212,"koÅĦczyÅĤ":141213,"สีà¹Ī":141214,"×§×Ļ×ij":141215,"×§×Ļ×ij×ķ×¥":141216,"ĠнÑĥжнÑĭ":141217,"大åĪĩ":141218,"大åĪĩãģª":141219,"æıĽãģĪ":141220,"ת×ķס":141221,"ת×ķספת":141222,"ãģ£ãģ¦ãģĦãģªãģĦ":141223,"ĠмÑı":141224,"ĠмÑıг":141225,"ĠмÑıгк":141226,"Ġjakie":141227,"ĠjakieÅĽ":141228,"à¸ķำà¸ļ":141229,"à¸ķำà¸ļล":141230,"ĠìŀĪì§Ģ":141231,"×ij×ĺ×IJ":141232,"ĠоÑĤлиÑĩно":141233,"ÙĤÙIJ":141234,"ĠавÑĤомоб":141235,"ĠавÑĤомоби":141236,"ĠавÑĤомобилÑı":141237,"دÙĬÙħÙĤراطÙĬ":141238,"ĠاÙĦÙĪØ§":141239,"ĠاÙĦÙĪØ§ØŃد":141240,"ĠسÙĪØ±ÙĬØ©":141241,"أغÙĦ":141242,"أغÙĦب":141243,"ĠÑįкÑĢан":141244,"ãĥĹãĥ©ãĤ¤":141245,"ĠjesteÅĽ":141246,"ãĥIJãĥª":141247,"Ġ×Ķ×IJ×ķ×ķ×Ļר":141248,"ائÙĥ":141249,"à¸Ńยà¹Īาà¸ĩยิà¹Īà¸ĩ":141250,"ÑĢекÑĤ":141251,"Ġumo":141252,"Ġumoż":141253,"Ġumożli":141254,"Ġumożliw":141255,"Ġumożliwia":141256,"Ġnächste":141257,"ĠìŀĪì§Ģë§Į":141258,"ĠпÑĢедн":141259,"ĠпÑĢедназ":141260,"ĠпÑĢедназнаÑĩен":141261,"Ġmaçı":141262,"Ġpomi":141263,"ĠpomiÄĻd":141264,"ĠpomiÄĻdzy":141265,"ĠاÙĦÙĦÙĤاء":141266,"à¹Ģà¸Ķà¸Ńะ":141267,"ĠновоÑģÑĤи":141268,"×ŀ×Ĺ׾×Ķ":141269,"رÙĬاضÙĬ":141270,"à¸Ķà¸Ļ":141271,"à¸Ķà¸Ļà¸ķรี":141272,"بصر":141273,"ìĬ¤íĥĢ":141274,"scripción":141275,"Ġnapisa":141276,"ĠnapisaÅĤ":141277,"Ġ׳ש×ŀ×¢":141278,"ĠاÙĦÙħØŃÙĦÙĬ":141279,"Ġhiá»ĥn":141280,"×IJ×Ĺ":141281,"×IJ×Ĺר×IJ×Ļ":141282,"ĠгÑĢаниÑĨ":141283,"æīĭç¶ļãģį":141284,"Ùĥسب":141285,"Ġà¹ģà¸ķà¹Īà¸ĸà¹īา":141286,"à¸Ķาวà¸Ļà¹Į":141287,"à¸Ķาวà¸Ļà¹Įà¹Ĥหลà¸Ķ":141288,"ãĤĭãģĵãģ¨ãģĮãģ§ãģįãģ¾ãģĻ":141289,"åŁºæľ¬çļĦãģ«":141290,"ÙĪÙĦاد":141291,"räume":141292,"دÙģØ§Ø¹":141293,"×Ļצע":141294,"ĠOczy":141295,"ĠOczywiÅĽcie":141296,"ĠÅģ":141297,"ĠÅģa":141298,"اÙĦÙĬاب":141299,"اÙĦÙĬاباÙĨ":141300,"áºłI":141301,"ĠBirliÄŁi":141302,"×Ķ×ķצ":141303,"×Ķ×ķצ×IJת":141304,"ĠÄijua":141305,"Ġê·¸ëŁ¬ëĭĪê¹Į":141306,"Ġréalité":141307,"عÙĦاÙĤات":141308,"Jeste":141309,"JesteÅĽ":141310,"Ġмнож":141311,"ĠмножеÑģÑĤво":141312,"K":141313,"ãĥĹãĥŃãĤ¸ãĤ§":141314,"ãĥĹãĥŃãĤ¸ãĤ§ãĤ¯ãĥĪ":141315,"ĠÑĦл":141316,"ظÙĨ":141317,"×Ĵ׾×Ĵ׾":141318,"ĠmÅĤodzie":141319,"ĠmÅĤodzież":141320,"à¸Ļà¹īำà¸ķา":141321,"à¸Ļà¹īำà¸ķาล":141322,"ÐĽÐķ":141323,"×ij×ķ×ĺ":141324,"Ġ׾×Ķ×Ĵ×Ļ×ĵ":141325,"ãģĵãģ¨ãĤĤãģĤãĤĭ":141326,"زاد":141327,"×ŀ×Ļ×ĵ×¢":141328,"ĠgÅĤównie":141329,"ãĥıãĤ¦":141330,"ãĥıãĤ¦ãĤ¹":141331,"бел":141332,"Ġétape":141333,"ðŁĺĢ":141334,"ĠмоделÑĮ":141335,"aģını":141336,"ש×Ĺ×§":141337,"ש×Ĺקף":141338,"Ġniño":141339,"à¸Ĭà¹īาà¸ĩ":141340,"à¹Ģลีย":141341,"ĠÑĦоÑĢме":141342,"ĠاÙĦشرÙĬÙģ":141343,"ĠÑĥдаÑĢ":141344,"arriv":141345,"arrivée":141346,"ĠmiesiÄĻ":141347,"ĠmiesiÄĻcy":141348,"ØŃرÙĥ":141349,"ØŃرÙĥات":141350,"ĠDiá»ħn":141351,"ÐĿЫ":141352,"ãģ¾ãģ£ãģŁãģı":141353,"Ġ×Ļר×ķ×§":141354,"еÑģÑĤеÑģÑĤв":141355,"еÑģÑĤеÑģÑĤвенн":141356,"Ġê·¸ëŁ¼":141357,"ĠاÙĦÙħتÙĪ":141358,"ĠاÙĦÙħتÙĪØ³Ø·":141359,"Ġbénéfic":141360,"Ġbénéficie":141361,"Ġwybra":141362,"ĠwybraÄĩ":141363,"ĠاÙĦزÙħÙĨ":141364,"ĠпÑĢинÑı":141365,"ĠпÑĢинÑıл":141366,"Ù쨱ØŃ":141367,"Ġksz":141368,"ĠksztaÅĤ":141369,"ĠksztaÅĤt":141370,"ק׾×ĺ":141371,"×ij×ĵ×Ļקת":141372,"Ġgiấ":141373,"Ġgiấc":141374,"ĠproprietÃł":141375,"деÑĢжан":141376,"ĠKöln":141377,"ĠGüzel":141378,"×Ļפ×ķ×Ļ":141379,"ĠCuá»Ļc":141380,"ÑįÑĤаж":141381,"ترÙĥÙĬ":141382,"ترÙĥÙĬز":141383,"ложений":141384,"ĠпÑĥ":141385,"ĠпÑĥÑĤи":141386,"اختÙĦاÙģ":141387,"åĩºãģ¦ãģıãĤĭ":141388,"à¸ļุà¸ģ":141389,"âĿ¤":141390,"ÑĦан":141391,"פש×ĺ":141392,"à¸ļัà¸Ļà¹Ģà¸Ĺ":141393,"à¸ļัà¸Ļà¹Ģà¸Ĺิà¸ĩ":141394,"ĠاÙĦساد":141395,"ĠاÙĦسادس":141396,"ĠاÙĦÙĤÙĪÙħ":141397,"ĠاÙĦÙĤÙĪÙħÙĬ":141398,"Ġyönetici":141399,"ÙĩÙĪØ§Øª":141400,"ÙĩÙĪØ§ØªÙģ":141401,"Ġresponsável":141402,"ĠподдеÑĢжива":141403,"ĠاÙĦسÙĦØ·":141404,"ĠاÙĦسÙĦطات":141405,"ãģĹãģ¦ãģĬãģı":141406,"ãĥļãĥĥãĥĪ":141407,"à¸Ľà¸¸à¹Īม":141408,"ĠoglÄħda":141409,"ÙĨاÙĤ":141410,"ÙĨاÙĤØ´":141411,"à¸Ħà¸Ńà¸Ļà¹Ĥà¸Ķ":141412,"ĠMüsl":141413,"ĠMüslü":141414,"ĠMüslüman":141415,"ĠMoż":141416,"ĠMożna":141417,"Ġnumérique":141418,"Ġvá»ı":141419,"ĠسÙĬتÙħ":141420,"ĠyerleÅŁ":141421,"монÑĤаж":141422,"Ġgoût":141423,"ãģ¦ãģĬãĤĬãģ¾ãģĻ":141424,"ĠKhánh":141425,"Ġедин":141426,"ĠединÑģÑĤв":141427,"اÙĨØ®Ùģ":141428,"اÙĨØ®ÙģØ§Ø¶":141429,"ìĭľíĹĺ":141430,"Ġlặng":141431,"ĠÑĢолÑĮ":141432,"à¸ķัวà¹ģà¸Ĺà¸Ļ":141433,"à¸Ħà¹Īาà¹ĥà¸Ĭà¹ī":141434,"à¸Ħà¹Īาà¹ĥà¸Ĭà¹īà¸Īà¹Īาย":141435,"Ġverfüg":141436,"Ġverfügbar":141437,"ìĻĶëĭ¤":141438,"ãģĦãģļ":141439,"ãģĦãģļãĤĮ":141440,"ĠиÑģÑģледованиÑı":141441,"меÑīа":141442,"×Ķ×Ĺ":141443,"×Ķ×Ĺ×ĸר":141444,"à¹ģà¸Łà¸Ĭัà¹Īà¸Ļ":141445,"تصرÙģ":141446,"إرÙĩاب":141447,"ĠexercÃŃcio":141448,"Ġélev":141449,"Ġélevé":141450,"สัà¸įà¸įาà¸ĵ":141451,"ÃĸZ":141452,"ãĥĹãĥŃãĤ°":141453,"ãĥĹãĥŃãĤ°ãĥ©":141454,"ãĥĹãĥŃãĤ°ãĥ©ãĥł":141455,"ĠwewnÄĻtrzn":141456,"Ġhenüz":141457,"é£Ľãģ³":141458,"à¹Ģà¸Ķà¸Ńรà¹Į":141459,"ÑģÑĥж":141460,"ÑģÑĥжден":141461,"شعÙĪØ¨":141462,"ãģ²ãģ¨ãĤĬ":141463,"ĠwyÅĤÄħ":141464,"ĠwyÅĤÄħcznie":141465,"ĠплоÑħо":141466,"ÐĶÐķ":141467,"Ầ":141468,"ÙģØ¹Ø§ÙĦÙĬ":141469,"ÙģØ¹Ø§ÙĦÙĬات":141470,"ĠاÙĦعشر":141471,"ÑģÑĤÑĥпил":141472,"Ġyarg":141473,"Ġyargı":141474,"нÑİÑİ":141475,"×ķ×IJ×ij":141476,"Ġuç":141477,"Ġuçak":141478,"ë²½":141479,"تÙĪÙĤÙĬ":141480,"تÙĪÙĤÙĬع":141481,"Ġì¤ijìĭ¬":141482,"׳×Ļ×ķ×ķ×ĺ":141483,"Ø£ÙĥÙĦ":141484,"ç½®ãģĦãģ¦":141485,"éłĤãģį":141486,"Ġ×Ķת×ij":141487,"Ġ×Ķת×ij×Ļ×¢×Ķ":141488,"Ġdürfen":141489,"ÙħÙĤاÙĦ":141490,"ÙħÙĤاÙĦات":141491,"ĠزÙħÙĨ":141492,"à¸ŀฤศ":141493,"à¸ŀฤศà¸Ī":141494,"à¸ŀฤศà¸Īิà¸ģ":141495,"à¸ŀฤศà¸Īิà¸ģายà¸Ļ":141496,"ĠнеÑģколÑĮ":141497,"ĠнеÑģколÑĮки":141498,"ĠнеÑģколÑĮкиÑħ":141499,"Ġcriança":141500,"มิà¸ķร":141501,"×ŀ׼×Ļר×ķת":141502,"à¸ģารà¸ļริหาร":141503,"Ġtélécharg":141504,"Ġ×IJ×ķ×Ķ×ijת":141505,"ĠBüro":141506,"ä½ľãģ£ãģŁ":141507,"ĠKiÅŁi":141508,"ç¾İåij³ãģĹ":141509,"à¹Ģลยà¸Ħà¹Īะ":141510,"à¸ŀà¸ļà¸ģัà¸ļ":141511,"à¸Īà¹īา":141512,"Ġçer":141513,"Ġçerç":141514,"Ġçerçeve":141515,"ãĤĴä½ľãģ£ãģ¦":141516,"ĠпеÑĢвÑĥÑİ":141517,"×ŀצר×Ļ×Ŀ":141518,"×IJ׾×ķ×Ķ":141519,"×IJ׾×ķ×Ķ×Ļ×Ŀ":141520,"Ġagré":141521,"Ġagréable":141522,"Ġayır":141523,"İLİ":141524,"ãĤ¥":141525,"ĠíĺĦ":141526,"ĠíĺĦìĭ¤":141527,"ثاÙĦØ«":141528,"ת×ĸ":141529,"ת×ĸ×ķ׳×Ķ":141530,"ãģ¨ãģĦãģ£ãģ¦":141531,"ãģ¨ãģĦãģ£ãģ¦ãĤĤ":141532,"ĠابÙĪ":141533,"ĠÑģобак":141534,"é£Łãģ¹ãģŁ":141535,"Ġданном":141536,"à¹Ģลิ":141537,"à¹Ģลิศ":141538,"Ġíļ":141539,"Ġíļ¨":141540,"Ġíļ¨ê³¼":141541,"ãĤĤãĤīãģĪãĤĭ":141542,"׳צ׾":141543,"ÑĦик":141544,"ÑĦикÑģ":141545,"ĠjesteÅĽmy":141546,"ת×Ĺ×ķש×Ķ":141547,"à¹Ħมà¹Īà¸Ħวร":141548,"ĠØŃسÙĬÙĨ":141549,"à¸ģารลà¸ĩà¸Ĺุà¸Ļ":141550,"ë´¤":141551,"ĠÐĺменно":141552,"à¸ļà¸Ńรà¹Į":141553,"à¸ļà¸Ńรà¹Įà¸Ķ":141554,"ĠCảnh":141555,"ìĦľë¹ĦìĬ¤":141556,"Ġполов":141557,"Ġполовин":141558,"ĠзамеÑĩа":141559,"ãģĦãĤįãĤĵãģª":141560,"Ġ×ij×Ļ×§":141561,"Ġ×ij×Ļקש":141562,"лÑĥÑĪ":141563,"ãĤĴè¿İ":141564,"ãĤĴè¿İãģĪ":141565,"جرÙĬÙħØ©":141566,"Ġtây":141567,"ĠاÙĦÙĨÙĪ":141568,"ĠاÙĦÙĨÙĪÙĪÙĬ":141569,"ÃĤN":141570,"ì¿ł":141571,"หà¸Ļาว":141572,"Ġ×ij×Ĺש×ij×ķף":141573,"زار":141574,"à¸Ķาร":141575,"à¸Ķารา":141576,"ĠÅĽl":141577,"ĠÅĽlub":141578,"มีà¸Ħวามสุà¸Ĥ":141579,"Ġnhu":141580,"ĠnhuáºŃn":141581,"ÙħØŃطة":141582,"à¹Ģสืà¹īà¸Ńà¸ľà¹īา":141583,"ĠТолÑĮко":141584,"ĠÙĥس":141585,"ĠÙĥسارة":141586,"ÙħشرÙĪØ¹":141587,"niÄĻcia":141588,"×¢×Ľ×©×Ļ×ķ":141589,"تÙĦÙģ":141590,"تÙĦÙ쨲ÙĬ":141591,"تÙĦÙ쨲ÙĬÙĪÙĨ":141592,"ĠlÆ°á»Ľi":141593,"ĠÐľÐ¾ÑģквÑĭ":141594,"Ġréserve":141595,"ĠanlaÅŁ":141596,"ĠanlaÅŁÄ±l":141597,"ĠedeceÄŁi":141598,"รà¸Ńà¸ĩà¹Ģà¸Ĺà¹īา":141599,"Ġبط":141600,"ĠبطرÙĬ":141601,"ĠبطرÙĬÙĤØ©":141602,"ãģ¦ãģĹãģ¾ãģ£ãģ¦":141603,"ãĤĤãĤīãģ£ãģ¦":141604,"برج":141605,"æ±ļ":141606,"æ±ļãĤĮ":141607,"Ġchoc":141608,"Ġchocia":141609,"Ġchociaż":141610,"Ġzobac":141611,"ĠzobaczyÄĩ":141612,"пÑĢÑı":141613,"пÑĢÑıжен":141614,"ĠÑĨиÑĦ":141615,"ĠÑĨиÑĦÑĢ":141616,"Ġмам":141617,"ĠвзÑıÑĤÑĮ":141618,"Ġchạm":141619,"جسÙħ":141620,"ØŃÙħاس":141621,"à¹Ģลà¹Īม":141622,"à¸ŀิษ":141623,"×Ķפ׼×ķ":141624,"à¸Ĭà¹Īà¸Ńà¸ĩà¸Ĺาà¸ĩ":141625,"Ġвек":141626,"Ġвека":141627,"Æ¡Ìģ":141628,"Æ¡Ìģi":141629,"ĠTiá»ģn":141630,"Ġtrầm":141631,"мÑĭÑĪ":141632,"мÑĭÑĪл":141633,"ĠÑĤÑĥ":141634,"ĠÑĤÑĥÑĢиÑģÑĤ":141635,"Ġchc":141636,"ĠchcÄħ":141637,"Ġавг":141638,"ĠавгÑĥÑģÑĤ":141639,"ĠавгÑĥÑģÑĤа":141640,"ס×IJ×ķת":141641,"Ġר×Ĵ׾":141642,"à¸ľà¸¥à¸ģระà¸Ĺ":141643,"à¸ľà¸¥à¸ģระà¸Ĺà¸ļ":141644,"å¤īãĤıãĤĭ":141645,"Ġ×Ķ×IJ×Ĺר×ķ׳×Ļ×Ŀ":141646,"سÙģÙĬر":141647,"ĠÑĩаÑīе":141648,"ãģĦãĤī":141649,"ãģĦãĤīãģ£":141650,"ãģĦãĤīãģ£ãģĹãĤĥ":141651,"×ķ×ŀ׳×Ļ×Ŀ":141652,"Ġarttır":141653,"ĠChá»ĭ":141654,"Ġì¡°ì§ģ":141655,"ĠÑĥÑģпеÑħ":141656,"Ġ×¢×ķס":141657,"Ġ×¢×ķסק":141658,"ĠìĥĿëªħ":141659,"ÑĨиÑĤ":141660,"Ġregión":141661,"ÐŀÐĿ":141662,"ĠdoÄŁum":141663,"ĠyaÅŁad":141664,"ĠyaÅŁadıģı":141665,"à¸Ĺà¸Ķลà¸Ńà¸ĩ":141666,"Ġgözü":141667,"ש×Ļר×Ķ":141668,"дÑĥмал":141669,"Ġdaģı":141670,"Ġdaģıt":141671,"à¸Ĺีมà¸ĩาà¸Ļ":141672,"Ġtiá»ģm":141673,"ĠاÙĦÙĥبر":141674,"ĠاÙĦÙĥبرÙī":141675,"ì¹Ń":141676,"ĠGünc":141677,"ĠGüncelle":141678,"ĠGüncelleme":141679,"ê¹Ĭ":141680,"ĠобоÑĢÑĥдование":141681,"ĠÑĢеÑĪа":141682,"Ụ":141683,"ĠпиÑĤ":141684,"ĠпиÑĤаниÑı":141685,"à¹Ģรียà¸ļ":141686,"×Ľ×ª×Ļ×ij×Ķ":141687,"Ġпон":141688,"ĠпонÑĢав":141689,"ĠпонÑĢави":141690,"Ġ×Ķ×ķ׾×ĵ":141691,"Ġ×Ķ×ķ׾×ĵת":141692,"Ġê²ģ":141693,"Ġê²ģëĭĪëĭ¤":141694,"ĠпеÑĢвой":141695,"ãĥ©ãĤ¤ãĥķ":141696,"ĠÅŁiir":141697,"krÄĻ":141698,"krÄĻc":141699,"Ġthiá»ĥu":141700,"à¹Ģลยà¸Ĺี":141701,"à¹Ģลยà¸Ĺีà¹Ģà¸Ķียว":141702,"×ĺ×¢×ł×ķת":141703,"ائÙĩÙħ":141704,"Ġ×IJס×ķר":141705,"ĠплаÑĤеж":141706,"تردد":141707,"Ġmożliwe":141708,"ĠkhỼ":141709,"ĠkhỼp":141710,"تÙģØ§Ø¹ÙĦ":141711,"ĠÑĪколÑĮ":141712,"ĠÑĪколÑĮн":141713,"ĠÙĤصة":141714,"Ġmétier":141715,"nÄĻÅĤa":141716,"หลà¹Īà¸Ń":141717,"Ġá»§ng":141718,"Ġprzegl":141719,"ĠprzeglÄħd":141720,"ĠاÙĦÙħتعÙĦ":141721,"ĠاÙĦÙħتعÙĦÙĤØ©":141722,"ĠÑģÑĭн":141723,"Ġволн":141724,"ãĥĩãĥ¼ãĥĪ":141725,"ĠÐŃÑĤи":141726,"ĠкÑĢоме":141727,"à¸Ħารà¹Į":141728,"׳ק×ķ×ĵ×Ķ":141729,"Ġ׾ש×ŀ×ķ×¢":141730,"Ġ×ĸ×ķ׼ר":141731,"ï¼§":141732,"ÙĬÙİØ§":141733,"Ġgiá»ıi":141734,"åĥįãģı":141735,"ĠÑģни":141736,"ĠÑģнижен":141737,"à¹ģà¸Ķà¸Ķ":141738,"รุà¸Ļ":141739,"รุà¸Ļà¹ģรà¸ĩ":141740,"Ġhiá»ĩp":141741,"ografÃŃa":141742,"à¹Ģà¸Īà¸Ńรà¹Į":141743,"Ġдвиг":141744,"ĠдвигаÑĤ":141745,"ĠдвигаÑĤел":141746,"Ġüy":141747,"Ġüyeler":141748,"Ġüyeleri":141749,"ĠбÑĥк":141750,"ĠбÑĥкв":141751,"ãĤĤå¤ļãģı":141752,"Ġthiá»ĩt":141753,"ĠPaÃŃs":141754,"ĠطبÙĬعÙĬ":141755,"à¹ģà¸Īà¸ģ":141756,"ĠاÙĦصØŃÙĬØŃ":141757,"Ġappré":141758,"Ġappréci":141759,"Ġdecisión":141760,"Ġë°ĺëĵľ":141761,"Ġë°ĺëĵľìĭľ":141762,"ĠÑĤебе":141763,"ãĤ·ãĥ¼ãĤº":141764,"ãĤ·ãĥ¼ãĤºãĥ³":141765,"ĠдалÑĮн":141766,"ĠìĬ¤":141767,"ĠìĬ¤ìĬ¤":141768,"ĠìĬ¤ìĬ¤ë¡ľ":141769,"ĠThá»ĥ":141770,"ĠkarÅŁ":141771,"ĠkarÅŁÄ±s":141772,"ĠkarÅŁÄ±sında":141773,"ĠKön":141774,"ĠKönig":141775,"ивание":141776,"×ij×ķצע":141777,"глаÑģ":141778,"Ġtwó":141779,"Ġtwórc":141780,"à¸Ľà¸ģà¸Ħร":141781,"à¸Ľà¸ģà¸Ħรà¸Ńà¸ĩ":141782,"ĠGÅĤ":141783,"ĠGÅĤówn":141784,"ĠUnterstüt":141785,"ĠUnterstützung":141786,"ĠдÑĥÑħ":141787,"ĠдÑĥÑħов":141788,"Ø£ÙħاÙĨ":141789,"×Ĺשש":141790,"تظ":141791,"تظاÙĩر":141792,"ĠлÑİбом":141793,"à¸ķาร":141794,"à¸ķาราà¸ĩ":141795,"Ġkról":141796,"Ø£ØŃدث":141797,"ì¡Įëĭ¤":141798,"ÐļÑĥÑĢÑģ":141799,"ãĥĥãĥĦ":141800,"×ŀ×§×ķ×ij׾":141801,"ĠÑģимвол":141802,"Ġdésorm":141803,"Ġdésormais":141804,"wüns":141805,"wünsche":141806,"Ñĥни":141807,"ÑĥниÑĨип":141808,"ÑĥниÑĨипалÑĮн":141809,"หลัà¸ģสูà¸ķร":141810,"ÙĨتشر":141811,"Ġал":141812,"Ġалк":141813,"Ġалког":141814,"Ġалкогол":141815,"ĠÑĥÑĩиÑĤÑĭва":141816,"à¸ģำà¸ģัà¸ļ":141817,"Ġ×ľ×¤×¢×ķ׾":141818,"ĠìĹ°ê²°":141819,"sÄħd":141820,"ĠاÙĦØ£ÙĬ":141821,"ĠاÙĦØ£ÙĬاÙħ":141822,"غÙĬاب":141823,"ĠнаÑĢ":141824,"ĠнаÑĢко":141825,"×ŀ×ķ×ĵ×¢":141826,"ĠÑģеÑĢии":141827,"пиÑģÑĭва":141828,"สิว":141829,"ç¶ļãģĦãģ¦":141830,"çͳãģĹè¾¼ãģ¿":141831,"Ġ׾×Ĵר":141832,"Ġ׾×Ĵר×ķ×Ŀ":141833,"Ġдем":141834,"Ġдемо":141835,"Ġë³´ëĤ´":141836,"تÙĩدÙĬد":141837,"ĠÙħØ´ÙĬرا":141838,"Ġduy":141839,"Ġduyá»ĩt":141840,"ĠwiÄĻksze":141841,"ÙħعاÙĬ":141842,"ÙħعاÙĬÙĬر":141843,"ĠGda":141844,"ĠGdaÅĦsk":141845,"Ġrah":141846,"Ġrahats":141847,"Ġrahatsız":141848,"ר×ķצ×Ķ":141849,"lös":141850,"lösung":141851,"ĠТаким":141852,"ÑĪед":141853,"ÑĪедÑĪ":141854,"عزÙĦ":141855,"Ġרש×Ļ×ŀת":141856,"Ġ׾×Ķ×Ļ׼":141857,"Ġ׾×Ķ×Ļ×Ľ×ł×¡":141858,"ĠпÑĥÑĤ":141859,"ĠпÑĥÑĤеÑĪ":141860,"ĠпÑĥÑĤеÑĪеÑģÑĤв":141861,"ĠnotÃŃcia":141862,"ĠalÄ±ÅŁ":141863,"ĠalÄ±ÅŁver":141864,"ĠalÄ±ÅŁveriÅŁ":141865,"ĠwÅĤos":141866,"ĠwÅĤosów":141867,"Ġبغ":141868,"Ġبغداد":141869,"Ġveröffent":141870,"Ġveröffentlicht":141871,"ĠKhá":141872,"Ġtán":141873,"ëIJĺ기":141874,"Ġ방문":141875,"ÙģÙĬÙĦ":141876,"à¹Ģà¸ģิà¸Ķà¸Īาà¸ģ":141877,"åı¯æĦĽ":141878,"åı¯æĦĽãģĦ":141879,"à¸ĸุà¸ĩ":141880,"ĠzewnÄĻtrzn":141881,"à¸łà¸²à¸©à¸²à¸Ńัà¸ĩà¸ģฤษ":141882,"Ġmáxima":141883,"Ġulus":141884,"Ġuluslararası":141885,"Ġ׳×Ķ׳":141886,"à¸Ĥà¹Īาวสาร":141887,"ĠìĿĺìĤ¬":141888,"à¹Ģหลืà¸Ńà¸ĩ":141889,"ĠدÙĤ":141890,"ĠدÙĤائÙĤ":141891,"สืà¹Īà¸Ńสาร":141892,"먼":141893,"ĠÑģоÑģÑĤоÑıнии":141894,"สมาà¸Ħม":141895,"á»Ĥ":141896,"ĠÐľÐ¾Ñģков":141897,"ĠÐľÐ¾ÑģковÑģк":141898,"×ŀס×ķ×Ĵ׾":141899,"ãģĭãģĭãĤĬ":141900,"ĠTruyá»ģn":141901,"à¹ģà¸Ĥà¹ĩà¸ĩà¹ģรà¸ĩ":141902,"×ŀ×Ĺ×ĸ×Ļ×§":141903,"à¹Ĥà¸ģà¹ī":141904,"ÙĬسر":141905,"ìĶ©":141906,"×IJ×ķ×§":141907,"×IJ×ķ×§×ĺ":141908,"×IJ×ķ×§×ĺ×ķ×ijר":141909,"Ġproximité":141910,"ÙħÙĨÙĩج":141911,"ĠاÙĦجز":141912,"ĠاÙĦجزائ":141913,"ĠاÙĦجزائرÙĬ":141914,"ĠÄIJiá»ĥm":141915,"Ġденеж":141916,"Ġденежн":141917,"ÙģØŃص":141918,"Ù쨦":141919,"ĠÐijÑĥд":141920,"×Ĵ×Ļ×ĵ×ķ׾":141921,"ĠÐĴедÑĮ":141922,"عÙĦاÙħØ©":141923,"Ġ×IJ×Ĺר×ķ׳×ķת":141924,"ãģĦãģŁãģłãģĦãģ¦":141925,"سÙĦØŃ":141926,"ØŃÙĦÙħ":141927,"زÙĪØ§Ø±":141928,"Ùĥسر":141929,"×ĺקס":141930,"Ġбан":141931,"Ġбанков":141932,"ĠпÑĢож":141933,"ĠпÑĢожива":141934,"liwo":141935,"liwoÅĽci":141936,"ĠTiếp":141937,"ĠاÙĦÙħÙĨاسب":141938,"ĠاÙĦØ®ÙĬار":141939,"ãģĬãģĭ":141940,"ãģĬãģĭãģĴ":141941,"à¸Ķà¸Ńà¸ģà¹Ħมà¹ī":141942,"ämp":141943,"ämpfe":141944,"à¸ķัà¹īà¸ĩà¹ĥà¸Ī":141945,"ĠзаÑīиÑĤ":141946,"ĠзаÑīиÑĤÑĭ":141947,"ĠThưá»Ŀng":141948,"ĠصÙģ":141949,"ĠصÙģØŃØ©":141950,"×Ĺ×ķרף":141951,"ãĥIJãĥĥãĤ°":141952,"Ġ×ĵ×Ļ×Ĵ":141953,"Ġ×ĵ×Ļ×Ĵ×Ļ×ĺ":141954,"Ġ×ĵ×Ļ×Ĵ×Ļ×ĺ׾×Ļ":141955,"Ġ×Ķ×Ĺ×ķ׾×Ļ×Ŀ":141956,"веÑī":141957,"веÑīа":141958,"ĠкÑĥлÑĮÑĤ":141959,"ĠкÑĥлÑĮÑĤÑĥ":141960,"ĠкÑĥлÑĮÑĤÑĥÑĢÑĭ":141961,"ĠاÙĦاÙĨترÙĨت":141962,"Ġhöch":141963,"Ġhöchst":141964,"Ġíĺķ":141965,"Ġíĺķíĥľ":141966,"Ġвой":141967,"ĠвойнÑĭ":141968,"ÐĽÐŀ":141969,"ìĭłìļ©":141970,"Ġ×ŀ×ij×ķס":141971,"Ġ×ŀ×ij×ķסס":141972,"×ŀ׳×Ļ×¢":141973,"Ġfiyatı":141974,"ĠÑģлÑĥж":141975,"ĠÑģлÑĥжбÑĭ":141976,"à¸Ĺัศ":141977,"à¸Ĺัศà¸Ļ":141978,"ãģĵãģ¨ãģĮå¤ļãģĦ":141979,"Ġ×Ķ×ŀשת":141980,"Ġ×Ķ×ŀשת×ŀש":141981,"å¯ĦãģĽ":141982,"×ŀש׾×ķ×Ĺ":141983,"æĻĤçĤ¹":141984,"æĻĤçĤ¹ãģ§":141985,"à¸ŀรี":141986,"à¸ŀรีà¹Ģมีย":141987,"à¸ŀรีà¹Ģมียรà¹Į":141988,"à¸ŀรีà¹Ģมียรà¹Įลีà¸ģ":141989,"Ġdifficolt":141990,"ĠdifficoltÃł":141991,"ãĥ¬ãĤ¹ãĥĪ":141992,"ãĥ¬ãĤ¹ãĥĪãĥ©ãĥ³":141993,"สมà¹Ģà¸Ķà¹ĩ":141994,"สมà¹Ģà¸Ķà¹ĩà¸Ī":141995,"Ġжид":141996,"Ġжидк":141997,"ĠzupeÅĤ":141998,"ĠzupeÅĤnie":141999,"ĠÙħجر":142000,"ĠÙħجرد":142001,"ãģĮå§ĭ":142002,"ãģĮå§ĭãģ¾":142003,"ãĤŃãĥ£ãĥ©":142004,"Ġ×IJ×ķ×ķ×Ļר":142005,"ãģĬäºĴ":142006,"ãģĬäºĴãģĦ":142007,"ĠpotrÃł":142008,"ĠPaÅĦst":142009,"ĠPaÅĦstwo":142010,"ĠبÙĬاÙĨ":142011,"ĠبÙĬاÙĨات":142012,"Ġиногда":142013,"ĠÑĢа":142014,"ĠÑĢаÑģÑĤв":142015,"ĠÑĢаÑģÑĤвоÑĢ":142016,"Ġ×ĸ×ŀ׳":142017,"ยิà¹īม":142018,"ÄĨ":142019,"ãģ¾ãģķ":142020,"ãģ¾ãģķãģ«":142021,"ãĥķãĤ¡ãĤ¤ãĥ«":142022,"ĠgördÃ¼ÄŁÃ¼":142023,"สà¸ĩà¸Ħร":142024,"สà¸ĩà¸Ħราม":142025,"ĠArkadaÅŁ":142026,"ĠrozwiÄħzania":142027,"×ŀ×ķ×ĺ":142028,"piÄĻ":142029,"piÄĻt":142030,"صغر":142031,"สย":142032,"สยาม":142033,"ãĤĨãģ£ãģıãĤĬ":142034,"Ġtrần":142035,"ĠeconomÃŃa":142036,"Ġgehören":142037,"ãĤ·ãĥ§ãĥ¼":142038,"ĠsÅĤucha":142039,"à¸ŀà¸Ńà¹ĥà¸Ī":142040,"ĠоÑĤмеÑĤил":142041,"ÙĨتÙĤÙĦ":142042,"Ġpropósito":142043,"ĠваÑĪего":142044,"Ġnhắn":142045,"à¹ģà¸ĸว":142046,"ĠкомиÑģ":142047,"ĠкомиÑģÑģи":142048,"ważnie":142049,"ĠyavaÅŁ":142050,"×ŀ×Ļ×§":142051,"×ŀ×Ļ×§×ķ×Ŀ":142052,"ש×IJ×ľ×ª":142053,"Ġyıllarda":142054,"ĠЮ":142055,"ĠЮÑĢ":142056,"×ł×¡×Ļ×ij×ķת":142057,"תצ":142058,"תצ×ķ×Ĵ":142059,"ĠоднÑĥ":142060,"Ġà¸Ńยà¹Īาà¸ĩà¹Ħร":142061,"Ġà¸Ńยà¹Īาà¸ĩà¹Ħรà¸ģà¹ĩà¸ķาม":142062,"ëģ¼":142063,"à¹Ħลà¹Ī":142064,"تسÙĦÙĬÙħ":142065,"بÙĦاغ":142066,"Ġìī":142067,"Ġìī½":142068,"Ġìī½ê²Į":142069,"ãĥļãĥ³":142070,"звÑĥÑĩ":142071,"ĠWäh":142072,"ĠWährend":142073,"Ġ×Ļ×Ļת":142074,"Ġ×Ļ×Ļ×ª×Ľ×Ł":142075,"Ġkhuyên":142076,"Ġvẽ":142077,"ĠамеÑĢ":142078,"ĠамеÑĢик":142079,"ĠамеÑĢикан":142080,"ĠамеÑĢиканÑģк":142081,"عجب":142082,"ãĥĽãĥ¼ãĥłãĥļãĥ¼ãĤ¸":142083,"ĠникÑĤо":142084,"ĠÙĤÙİ":142085,"ĠÙĤÙİØ§ÙĦ":142086,"ĠÙĤÙİØ§ÙĦÙİ":142087,"ÐIJÐĹ":142088,"ÙħجÙħÙĪØ¹":142089,"ÙħجÙħÙĪØ¹Ø§Øª":142090,"ĠnecessitÃł":142091,"Ġpobli":142092,"Ġpobliżu":142093,"Ġphấn":142094,"ĠСообÑī":142095,"ÙħÙĤاط":142096,"ÙħÙĤاطع":142097,"Ġ×Ķצ×ķר×ļ":142098,"laÅŁtırma":142099,"วิà¸Ķ":142100,"วิà¸Ķี":142101,"วิà¸Ķีà¹Ĥà¸Ń":142102,"Ġ그리ìĬ¤":142103,"Ġ그리ìĬ¤ëıĦ":142104,"ãĤ¿ãĤ¤ãĥŁ":142105,"ãĤ¿ãĤ¤ãĥŁãĥ³ãĤ°":142106,"×§×ĺ×Ĵ×ķר":142107,"×§×ĺ×Ĵ×ķר×Ļ×Ķ":142108,"Ġ×Ĺ×ķפ":142109,"Ġ×Ĺ×ķפש×Ļ":142110,"أجر":142111,"Ġимени":142112,"ĠÑĢанее":142113,"à¹Ģà¸ŀืà¹Īà¸Ńà¸Ļà¹Ĩ":142114,"ĠJesús":142115,"Ñģоедин":142116,"Ñģоединен":142117,"Ġר×Ĺ×ķ×§":142118,"à¹Ĥà¸ļรา":142119,"à¹Ĥà¸ļราà¸ĵ":142120,"ĠHÆ¡n":142121,"ĠtháºŃp":142122,"تعÙĬÙĬÙĨ":142123,"ĠtartÄ±ÅŁ":142124,"ĠtartÄ±ÅŁma":142125,"ĠGespr":142126,"ĠGespräch":142127,"תר×ķפ":142128,"תר×ķפ×ķת":142129,"Ġcatégorie":142130,"ĠоказÑĭва":142131,"ĠналиÑĩие":142132,"Ġprésenté":142133,"Ġkull":142134,"Ġkulland":142135,"Ġkullandı":142136,"Ġünl":142137,"Ġünlü":142138,"ĠÙģÙĥرة":142139,"изаÑĤоÑĢ":142140,"×IJ×ķ׳":142141,"×IJ×ķ׳×Ļ×ij":142142,"×IJ×ķ׳×Ļ×ijרס":142143,"×IJ×ķ׳×Ļ×ijרס×Ļ×ĺת":142144,"ĠÑĢаÑģÑģмаÑĤ":142145,"ĠÑĢаÑģÑģмаÑĤÑĢ":142146,"ĠÑĢаÑģÑģмаÑĤÑĢива":142147,"تÙĥÙĦÙħ":142148,"ÙĥترÙĪ":142149,"ÙĥترÙĪÙĨÙĬ":142150,"ĠÑģоÑĩеÑĤ":142151,"ĠÑģоÑĩеÑĤа":142152,"ãĤĴè¦ĭãģĽ":142153,"Ġngừa":142154,"ĠÐłÐµÑģп":142155,"ĠÐłÐµÑģпÑĥб":142156,"ĠÐłÐµÑģпÑĥблик":142157,"ãĤ¦ãĤ©":142158,"ãĤ¦ãĤ©ãĥ¼":142159,"ĠÐľÐµÐ¶Ð´Ñĥ":142160,"ĠìŀĪê²Į":142161,"Ġmâ":142162,"ĠìļĶì²Ń":142163,"ضار":142164,"ลุà¹īà¸Ļ":142165,"ëĮĢíķĻêµIJ":142166,"×ĸ×Ļ׼":142167,"×ĸ×Ļ׼ר×ķף":142168,"ãĤ¹ãĥļ":142169,"ãĤ¹ãĥļãĥ¼ãĤ¹":142170,"ĠкÑĢаÑģоÑĤ":142171,"H":142172,"ê¼Ń":142173,"ãĤĴéĽĨ":142174,"ãĤĴéĽĨãĤģ":142175,"ë°Ŀ":142176,"Ġ×Ķ׳×IJ":142177,"Ġ×Ķ׳×IJש×Ŀ":142178,"Ġê°Ģìļ´":142179,"Ġê°Ģìļ´ëį°":142180,"تÙĥÙĦÙ쨩":142181,"ĠØŃÙĤÙĬÙĤÙĬ":142182,"Ġhalk":142183,"Ġhalkın":142184,"ÑİÑīÑĥÑİ":142185,"ĠÑģпин":142186,"סר×ĺף":142187,"ĠпеÑĢвого":142188,"Ġполож":142189,"ĠположиÑĤелÑĮн":142190,"Ġдл":142191,"ĠдлиÑĤелÑĮн":142192,"ĠVÄ©nh":142193,"ê´´":142194,"ĠÑģÑĭÑĢ":142195,"ĠíĨµíķĺìŬ":142196,"ë³ijìĽIJ":142197,"à¹Ĥรà¸ĩà¸ĩาà¸Ļ":142198,"รัà¸ļà¸ľà¸´à¸Ķ":142199,"รัà¸ļà¸ľà¸´à¸Ķà¸Ĭà¸Ńà¸ļ":142200,"تجÙĨب":142201,"sÅĤ":142202,"sÅĤuch":142203,"ãĤ¢ãĥ«ãĥIJ":142204,"ãĤ¢ãĥ«ãĥIJãĥł":142205,"ëī´ìĬ¤":142206,"Ġpatië":142207,"Ġpatiënt":142208,"Ġìĺ¤í":142209,"Ġìĺ¤íŀ":142210,"Ġìĺ¤íŀĪ":142211,"Ġìĺ¤íŀĪ볤":142212,"ĠDerne":142213,"ĠDerneÄŁi":142214,"wróci":142215,"wróciÄĩ":142216,"ĠобÑī":142217,"ĠобÑīеÑģÑĤв":142218,"ĠобÑīеÑģÑĤвенно":142219,"ĠêµIJìĪĺ":142220,"tıģımız":142221,"Ġ×Ķ×ŀש×Ļ×ij":142222,"körper":142223,"Ġпозвол":142224,"ĠпозволиÑĤ":142225,"ĠChiến":142226,"أخÙĪ":142227,"ĠAydın":142228,"à¸Ķà¹īาà¸Ļล":142229,"à¸Ķà¹īาà¸Ļลà¹Īาà¸ĩ":142230,"Ġdru":142231,"Ġdruż":142232,"Ġdrużyn":142233,"Ġë°ľíijľ":142234,"ĠThảo":142235,"جÙĩاد":142236,"à¸ģระà¸Ĺูà¹ī":142237,"ĠкÑĢов":142238,"ĠкÑĢови":142239,"Ġiçerik":142240,"Ġnadzie":142241,"ĠnadziejÄĻ":142242,"ĠСмоÑĤÑĢ":142243,"Ġphức":142244,"جتÙħاع":142245,"جتÙħاعÙĬØ©":142246,"компон":142247,"компоненÑĤ":142248,"Ġбил":142249,"ĠбилеÑĤ":142250,"ãĥIJãĥ³ãĥī":142251,"ĠPolÃŃcia":142252,"اÙĦتÙĩ":142253,"اÙĦتÙĩاب":142254,"ØŃرÙģ":142255,"تخط":142256,"تخطÙĬØ·":142257,"ãĤ³ãĥ¼ãĥ":142258,"ãĤ³ãĥ¼ãĥĴ":142259,"ãĤ³ãĥ¼ãĥĴãĥ¼":142260,"・・・":142261,"à¸ĭà¸Ńย":142262,"Ġcrédit":142263,"è²·ãģ£ãģŁ":142264,"ĠпоÑĢÑıд":142265,"ĠпоÑĢÑıдке":142266,"Ġphó":142267,"Ġwida":142268,"ĠwidaÄĩ":142269,"جرائÙħ":142270,"à¸ľà¸µ":142271,"ĠbÄĻdÄĻ":142272,"Ġ×ŀפת×Ĺ":142273,"ãĥijãĥ¼ãĥ":142274,"ãĥijãĥ¼ãĥĨ":142275,"ãĥijãĥ¼ãĥĨãĤ£":142276,"ãĥijãĥ¼ãĥĨãĤ£ãĥ¼":142277,"ĠKaż":142278,"ĠKażdy":142279,"ĠнеобÑħодимоÑģÑĤи":142280,"à¸Łà¸Ńรà¹Į":142281,"à¸Łà¸Ńรà¹Įม":142282,"ĠмалÑĭÑĪ":142283,"ĠплоÑĤ":142284,"ĠÑĥÑģÑĤÑĢой":142285,"ĠÑĥÑģÑĤÑĢойÑģÑĤва":142286,"à¸ĸà¸Ńà¸Ļ":142287,"ĠoluÅŁturul":142288,"ĠÅĽwiad":142289,"ĠÅĽwiadom":142290,"ÙħعÙĩد":142291,"ĠпÑĢоизведен":142292,"Æł":142293,"ר×Ļש":142294,"Ùħستث":142295,"ÙħستثÙħر":142296,"׳×Ļ×Ļר":142297,"pañ":142298,"Ġ;-)":142299,"Ġë°ľê²¬":142300,"Ġgörüyor":142301,"ÙħؤÙĦÙģ":142302,"ĠÄIJá»ģ":142303,"ĠاÙĦÙĨÙĪØ§Ø¨":142304,"×Ĺ×§×Ļר×Ķ":142305,"Ġmá»ıi":142306,"è¿°ãģ¹":142307,"ÐĿик":142308,"ìŀĸìķĦ":142309,"ìŀĸìķĦìļĶ":142310,"prowadziÅĤ":142311,"lóg":142312,"lógica":142313,"פס×ĺ":142314,"פס×ĺ×Ļ×ij׾":142315,"Ġ×ŀ×ĵ×Ķ":142316,"Ġ×ŀ×ĵ×Ķ×Ļ×Ŀ":142317,"ãģĵãģĵãģ¾ãģ§":142318,"×Ķת×Ĺ":142319,"×Ķת×Ĺ׾×Ķ":142320,"Ġפ×ķס":142321,"Ġפ×ķס×ĺ×Ļ×Ŀ":142322,"Ġнев":142323,"Ġневоз":142324,"Ġневозможно":142325,"ĠdostÄĻpny":142326,"ĠغاÙĦ":142327,"ĠغاÙĦب":142328,"ĠbezpieczeÅĦst":142329,"ĠbezpieczeÅĦstwa":142330,"åĪĨãģĭãĤĭ":142331,"ĠFührung":142332,"à¸ģีà¹ī":142333,"gemÃ¤ÃŁ":142334,"à¸Ĭà¹Īวà¸ĩà¹Ģวลา":142335,"Ġìļ°ë¦¬ëĤĺ":142336,"Ġìļ°ë¦¬ëĤĺëĿ¼":142337,"ãģ¥ãģıãĤĬ":142338,"ĠاÙĦÙħسÙĦ":142339,"ĠاÙĦÙħسÙĦØŃØ©":142340,"Ġliberté":142341,"клÑİÑĩение":142342,"Ġzamów":142343,"Ġzamówienia":142344,"รà¸ĸà¹Ħà¸Ł":142345,"Ø£ÙģÙĦ":142346,"Ø£ÙģÙĦاÙħ":142347,"Ùħراج":142348,"Ùħراجعة":142349,"Ġë¹ĦêµIJ":142350,"ĠاÙĦتاب":142351,"ĠاÙĦتابعة":142352,"Ġë§ĮëĤĺ":142353,"ĠбÑĥм":142354,"ĠбÑĥмаг":142355,"Ġgénero":142356,"Ġìŀĺ못":142357,"×ŀפ×ķר×ĺ":142358,"è²·ãģĦçī©":142359,"ĠÙĦدÙĬÙĥ":142360,"Ġ×ľ×¢×Ļת":142361,"Ġ×ľ×¢×Ļת×Ļ×Ŀ":142362,"ĠsÅĤab":142363,"ĠпÑĢедÑģÑĤавлÑı":142364,"ãĤ¿ãĤ¤ãĥĪ":142365,"ãĤ¿ãĤ¤ãĥĪãĥ«":142366,"Ùħص":142367,"ÙħصطÙģ":142368,"ÙħصطÙģÙī":142369,"Ġdifficulté":142370,"ãĥĨãĤ£ãĥĸ":142371,"ĠpewnoÅĽci":142372,"ĠpewnoÅĽciÄħ":142373,"Ġ무ìĬ¨":142374,"إرس":142375,"إرساÙĦ":142376,"ĠдалÑĮ":142377,"ĠдалÑĮÑĪе":142378,"Ġ×ľ×ł×¡":142379,"Ġ×ľ×ł×¡×ķת":142380,"หมูà¹Īà¸ļà¹īาà¸Ļ":142381,"×ŀס×ŀ׼×Ļ":142382,"أسÙĦÙĪØ¨":142383,"ĠzwÅĤ":142384,"ĠzwÅĤas":142385,"ĠzwÅĤaszc":142386,"ĠzwÅĤaszcza":142387,"ĠпÑĢеж":142388,"ĠпÑĢежде":142389,"ĠоÑĢганизаÑĨиÑı":142390,"Ġdönemin":142391,"Ġdöneminde":142392,"ĠỦ":142393,"ĠỦy":142394,"ä¸ĭãģĴ":142395,"ĠпоÑģледние":142396,"Ġgüne":142397,"ĠgüneÅŁ":142398,"Ġ×IJ×ĸר":142399,"Ġ×IJ×ĸר×Ĺ×Ļ":142400,"ãģ§ãģĤãĤįãģĨ":142401,"ĠÙĨÙĤ":142402,"ĠÙĨÙĤاط":142403,"æŃ£ãģĹãģĦ":142404,"ĠÑĢег":142405,"ĠÑĢегиона":142406,"ĠFörder":142407,"ê²½ìĺģ":142408,"dıklar":142409,"dıklarını":142410,"trzymaÄĩ":142411,"أشÙĥ":142412,"أشÙĥاÙĦ":142413,"×Ķת×IJ":142414,"×Ķת×IJ×ŀ×Ķ":142415,"à¸Ĺำà¹ĥหà¹īà¹Ģà¸ģิà¸Ķ":142416,"ĠGebä":142417,"ĠGebäude":142418,"ĠСеÑĢг":142419,"ĠСеÑĢгей":142420,"ĠздоÑĢов":142421,"ĠздоÑĢовÑĮÑı":142422,"Ġrãi":142423,"ĠпÑĢедÑĥÑģ":142424,"ĠпÑĢедÑĥÑģмоÑĤÑĢ":142425,"ĠпÑĢедÑĥÑģмоÑĤÑĢен":142426,"Ġ×Ķצ×Ļ×ij":142427,"Ġ×Ķצ×Ļ×ij×ķר×Ļ":142428,"Ġdésir":142429,"ĠноÑĩ":142430,"ĠноÑĩÑĮ":142431,"möglichkeiten":142432,"Ġ×IJ×Ĺר×ķ׳×Ļ×Ŀ":142433,"Ġsoirée":142434,"ĠNháºŃn":142435,"Ùª":142436,"à¸Ľà¸£à¸°à¸§à¸±à¸ķิศาสà¸ķรà¹Į":142437,"êµIJíĨµ":142438,"ĠأخÙĬ":142439,"Ġdécid":142440,"Ġdécidé":142441,"Ġwyja":142442,"ĠwyjaÅĽni":142443,"Ġสิ":142444,"Ġสิà¸ĩ":142445,"Ġสิà¸ĩหา":142446,"Ġสิà¸ĩหาà¸Ħม":142447,"à¹ģà¸Ńรà¹Į":142448,"หà¸Ļà¹īาà¸Īà¸Ń":142449,"סתר":142450,"Ġê¶":142451,"Ġê¶Į":142452,"Ġê¶Į리":142453,"plätze":142454,"بطÙĦ":142455,"ê±´ìĦ¤":142456,"Ġ×IJ×Ļ×ŀ×Ļ":142457,"Ġ×IJ×Ļ×ŀ×Ļ×Ļ׾":142458,"ãģ½":142459,"تراث":142460,"×IJ׾×Ļ×ŀ×ķת":142461,"ĠdisponÃŃveis":142462,"Ġzale":142463,"Ġzależy":142464,"à¸Ľà¸£à¸°à¸Ĭาสัมà¸ŀัà¸Ļà¸ĺà¹Į":142465,"ĠÅļwiat":142466,"Ġporówn":142467,"Ġporówna":142468,"Ġ׾×ĺ×ķ×ijת":142469,"×Ķ×ĸ×ŀ׳×Ķ":142470,"Ġ×Ľ×ª×ķצ×IJ×Ķ":142471,"Ġ×ijק׾":142472,"Ġ×ijק׾×ķת":142473,"ĠоÑĤкÑĢ":142474,"ĠоÑĤкÑĢÑĭва":142475,"ãĥijãĥ¯ãĥ¼":142476,"ë¿IJë§Į":142477,"ĠвÑģÑı":142478,"ĠвÑģÑıк":142479,"ãģ¨ãģªãģ£ãģ¦ãģĦãĤĭ":142480,"ĠgiáºŃn":142481,"ĠокÑĢÑĥ":142482,"ĠокÑĢÑĥжа":142483,"ĠокÑĢÑĥжаÑİÑī":142484,"ĠUniversität":142485,"ĠÑĢож":142486,"ĠÑĢожд":142487,"ĠÑĢождениÑı":142488,"Ø®ÙĬÙĦ":142489,"Ġкомпаний":142490,"ĠÑĢазлиÑĩнÑĭе":142491,"ĠЦена":142492,"׳×Ļ×ķ×ĸ":142493,"׳×Ļ×ķ×ĸ׾":142494,"׳×Ļ×ķ×ĸ׾×ĺר":142495,"Ġê³µê°Ħ":142496,"Ġê°ľëħIJ":142497,"landırma":142498,"ĠÑĥдален":142499,"à¸ŀัà¸ģà¸ľ":142500,"à¸ŀัà¸ģà¸ľà¹Īà¸Ńà¸Ļ":142501,"Ġprotección":142502,"ĠbÅĤ":142503,"ĠbÅĤÄĻd":142504,"ÃĪ":142505,"Ġíĸīë³µ":142506,"ĠÅŁÃ¼":142507,"ĠÅŁÃ¼phe":142508,"ĠíĶ":142509,"Ġíͼ":142510,"Ġíͼíķ´":142511,"Ġëĭ¤ë¥´":142512,"à¹Ħมà¹Īà¹Ģà¸ģิà¸Ļ":142513,"ãģ¿ãģª":142514,"ãģ¿ãģªãģķãĤĵ":142515,"ĠпоÑĤÑĢеб":142516,"ĠпоÑĤÑĢебиÑĤел":142517,"ĠاÙĦÙĥÙĦاÙħ":142518,"ìķĦë²Ħ":142519,"ìķĦë²Ħì§Ģ":142520,"ãĤĴ使ãģ£ãģŁ":142521,"Ġbụi":142522,"ĠпоÑĤеÑĢ":142523,"ĠпоÑĤеÑĢÑı":142524,"ĠØ¢ÙĦاÙģ":142525,"ĠнаÑģÑĤоÑıÑīее":142526,"ãģıãģªãĤĬãģ¾ãģĹãģŁ":142527,"clusão":142528,"ãĤ³ãĥĶãĥ¼":142529,"צפ×Ļ":142530,"צפ×Ļ×Ļ×Ķ":142531,"Ø®ÙĦا":142532,"Ø®ÙĦاص":142533,"ลà¹īำ":142534,"ãĥ¯ãĤ¤ãĥ³":142535,"Ġมีà¸Ļา":142536,"Ġมีà¸Ļาà¸Ħม":142537,"شخص":142538,"شخصÙĬات":142539,"Ġ×ĸ×§":142540,"Ġ×ĸ×§×ķ×§":142541,"×Ļ×Ļצ":142542,"×Ļ×Ļצ×Ĵ":142543,"èĢĥãģĪæĸ¹":142544,"Ġürünü":142545,"ĠиÑģпол":142546,"ĠиÑģполни":142547,"Ġcompañero":142548,"קצ×Ķ":142549,"×ŀ×¢×ł×Ļ×§":142550,"ÙħØŃÙħد":142551,"Ġcámara":142552,"Ġпед":142553,"Ġпедаг":142554,"Ġпедагог":142555,"маÑĢ":142556,"маÑĢк":142557,"×Ķ×ª×ł×Ĵ×ĵ":142558,"ĠìĨĮê°ľ":142559,"ĠcomunitÃł":142560,"곤":142561,"ĠNgÃłi":142562,"สà¸ĩà¸ļ":142563,"ĠmieszkaÅĦców":142564,"ĠÙĨÙĩائÙĬ":142565,"ivité":142566,"Ġиде":142567,"ĠидеалÑĮн":142568,"ĠأسبÙĪØ¹":142569,"Ġ×Ļ×¢×ľ":142570,"Ġ׾ר×IJש":142571,"Ġ׾ר×IJש×ķ׳×Ķ":142572,"ĠзапиÑģи":142573,"ĠкоÑĢпÑĥÑģ":142574,"วà¸ĩศ":142575,"วà¸ĩศà¹Į":142576,"ĠÐĶм":142577,"ĠÐĶмиÑĤ":142578,"ĠÐĶмиÑĤÑĢ":142579,"Ġkönnt":142580,"Ġbölges":142581,"Ġbölgesinde":142582,"׼×Ļ׼":142583,"׼×Ļ׼ר":142584,"ĠاÙĦإثÙĨ":142585,"ĠاÙĦإثÙĨÙĬÙĨ":142586,"Ġngá»Ļ":142587,"ì¹ł":142588,"دراج":142589,"Ġuda":142590,"ĠudaÅĤo":142591,"ìºIJ":142592,"برÙĨاÙħج":142593,"ĠÑģÑĥдеб":142594,"ĠÑģÑĥдебн":142595,"Ġzunächst":142596,"ĠEducación":142597,"ãģ¨ãģªãģ£ãģ¦ãģĦãģ¾ãģĻ":142598,"Ġ×Ķ×IJ×ŀ×Ļת×Ļ":142599,"Ġİnt":142600,"Ġİnternet":142601,"ĠcaÅĤego":142602,"ãĥĹãĥªãĥ³":142603,"إبد":142604,"إبداع":142605,"ĠпоÑĢÑĤал":142606,"à¹Ĥà¸ķà¹ī":142607,"Ġ×Ķקש×ķר":142608,"плод":142609,"ĠÙħد":142610,"ĠÙħدرÙĬد":142611,"×ŀסע×ĵ×Ķ":142612,"ĠØ´ÙĬئ":142613,"ĠØ´ÙĬئا":142614,"à¸ģà¹Īà¸Ńสรà¹īาà¸ĩ":142615,"Ġì°¸ê³ł":142616,"à¹Ģà¸Ĺร":142617,"à¹Ģà¸Ĺรà¸Ķ":142618,"Ġ×ij×ŀקר×Ļ×Ŀ":142619,"Ġbât":142620,"Ġbâtiment":142621,"åij¼ãģ³":142622,"ç´łæķµ":142623,"ç´łæķµãģª":142624,"przedsiÄĻbiorst":142625,"przedsiÄĻbiorstw":142626,"Ġ×ł×ª×ķ׳×Ļ×Ŀ":142627,"×Ĺ׾×ķ×Ŀ":142628,"รวย":142629,"ÙħÙĪØ¶ÙĪØ¹":142630,"ĠÑģобÑĢан":142631,"ведÑĥÑī":142632,"ĠÑĤеаÑĤ":142633,"ĠÑĤеаÑĤÑĢ":142634,"meye":142635,"meyeceÄŁi":142636,"ĠpieniÄħ":142637,"ĠpieniÄħd":142638,"ĠpieniÄħdze":142639,"ÑĢезиденÑĤ":142640,"ØŃصر":142641,"ìĺ¥":142642,"à¹Ģยืà¸Ńà¸Ļ":142643,"ĠÑĥни":142644,"ĠÑĥнивеÑĢ":142645,"ĠÑĥнивеÑĢÑģ":142646,"ĠÑĥнивеÑĢÑģиÑĤеÑĤ":142647,"ĠاÙĦرØŃ":142648,"ĠاÙĦرØŃÙħÙĨ":142649,"ĠÑĤеÑħнолог":142650,"ĠÑĤеÑħнологии":142651,"ìĹIJëĦĪ":142652,"ìĹIJëĦĪì§Ģ":142653,"ĠíķŃ":142654,"ĠíķŃìĥģ":142655,"à¸ĺา":142656,"à¸ĺาà¸ķุ":142657,"ĠEspañol":142658,"×ĵ×Ĵש":142659,"Ġêµī":142660,"Ġêµīìŀ¥":142661,"Ġêµīìŀ¥íŀĪ":142662,"ĠÅĤat":142663,"ĠÅĤatwo":142664,"Ġká»ĭch":142665,"إز":142666,"إزاÙĦØ©":142667,"ĠдейÑģÑĤвие":142668,"ĠsaÄŁlayan":142669,"สุà¸Ķยà¸Ńà¸Ķ":142670,"ĠzostaÄĩ":142671,"ĠdisponÃŃvel":142672,"ïºį":142673,"verständ":142674,"verständlich":142675,"twor":142676,"tworzyÄĩ":142677,"عجز":142678,"à¹Ģà¸Ĥà¹īม":142679,"ยà¹Īà¸Ńม":142680,"Ġstratég":142681,"Ġstratégie":142682,"à¸ľà¸¥à¹Ħมà¹ī":142683,"Ġê°ģì¢ħ":142684,"ĠÙħÙĪØ§":142685,"ĠÙħÙĪØ§Ø¶":142686,"ĠÙħÙĪØ§Ø¶ÙĬع":142687,"اØŃتج":142688,"اØŃتجاج":142689,"ĠẤ":142690,"ĠẤn":142691,"×ŀ×ŀש׾×Ķ":142692,"ĠÅŁekil":142693,"×ŀ×Ĺ׾":142694,"×ŀ×Ĺ׾×ķת":142695,"Ġà¸ĺ":142696,"Ġà¸ĺัà¸Ļ":142697,"Ġà¸ĺัà¸Ļวา":142698,"Ġà¸ĺัà¸Ļวาà¸Ħม":142699,"Ġìĭ¤ìłľ":142700,"Ġìĭ¤ìłľë¡ľ":142701,"ì¤ijìķĻ":142702,"ëįĶëĿ¼":142703,"ĠÑĪиÑĢ":142704,"ĠÑĪиÑĢоко":142705,"Ġsolución":142706,"วาà¸ĩà¹ģà¸ľà¸Ļ":142707,"×IJ×ķ×ĺ×ķ×ŀ":142708,"×IJ×ķ×ĺ×ķ×ŀ×ĺ×Ļ":142709,"ĠÑĢеÑģÑĤ":142710,"ĠÑĢеÑģÑĤоÑĢ":142711,"ĠÑĢеÑģÑĤоÑĢан":142712,"ëį¸":142713,"ÑĤÑĢад":142714,"ÑĤÑĢади":142715,"ÑĤÑĢадиÑĨион":142716,"ÑĤÑĢадиÑĨионн":142717,"มะà¹Ģรà¹ĩ":142718,"มะà¹Ģรà¹ĩà¸ĩ":142719,"à¹Ĥส":142720,"Ġolmasını":142721,"×ŀ×ķסר":142722,"ĠоÑĤноÑĪении":142723,"Ġê°ĢëĬ¥ìĦ±":142724,"Ġyuk":142725,"Ġyukarı":142726,"ìĨĶ":142727,"ĠÑģÑĦ":142728,"ĠÑģÑĦеÑĢе":142729,"Ġ×§×ķפ":142730,"ãĤ±ãĥ¼ãĤ":142731,"ãĤ±ãĥ¼ãĤŃ":142732,"âĢķâĢķ":142733,"ĠاÙĦØ£ÙĦÙħ":142734,"ĠاÙĦØ£ÙĦÙħاÙĨÙĬ":142735,"ẢN":142736,"ת×ķ׼׳×Ļ×ķת":142737,"ĠÑģÑĥÑīеÑģÑĤвÑĥеÑĤ":142738,"æĪijãĢħ":142739,"ĠاÙĦصادر":142740,"ĠTrá»įng":142741,"Ġад":142742,"ĠадминиÑģÑĤ":142743,"ĠадминиÑģÑĤÑĢа":142744,"ĠадминиÑģÑĤÑĢаÑĨи":142745,"ĠдÑĢÑĥгими":142746,"ÑģпеÑĪ":142747,"عÙĦاÙħات":142748,"Ġаб":142749,"ĠабÑģол":142750,"ĠабÑģолÑİÑĤ":142751,"ĠабÑģолÑİÑĤно":142752,"ฤà¸Ķู":142753,"étr":142754,"étranger":142755,"нÑıÑĤи":142756,"нÑıÑĤие":142757,"×¢×ķ׳":142758,"×¢×ķ׳ש":142759,"ĠÙĤائ":142760,"ĠÙĤائÙĦا":142761,"ĠмаÑģ":142762,"ĠмаÑģло":142763,"ãĥīãĤ¤":142764,"ãĥīãĤ¤ãĥĦ":142765,"å¿ħè¦ģãģĮãģĤãĤĬãģ¾ãģĻ":142766,"×ŀ×ķ×ĸ×Ļ×IJ":142767,"×ŀ×ķ×ĸ×Ļ×IJ×ķף":142768,"ĠNgoại":142769,"Ġkênh":142770,"à¸ģารà¸Ńà¸Ńà¸ģà¹ģà¸ļà¸ļ":142771,"×ŀפק":142772,"×ŀפק×ĵ":142773,"ÙħÙĨاز":142774,"ÙħÙĨازÙĦ":142775,"ë·°":142776,"íŤ":142777,"ÙħÙĩارات":142778,"Ġpropriété":142779,"פ×Ĵ×Ļש×Ķ":142780,"ÑĩÑĢ":142781,"ÑĩÑĢеж":142782,"ÑĩÑĢежден":142783,"×Ķ×ķצ×IJ×Ķ":142784,"ØŃÙĥÙĬÙħ":142785,"ĠíĻĪ":142786,"ĠíĻĪíİĺìĿ´ì§Ģ":142787,"åݳ":142788,"åݳãģĹãģĦ":142789,"×¢×ŀ×ĵ×Ķ":142790,"ĠAuÃŁen":142791,"سÙĪØ¡":142792,"ë¹Ī":142793,"ĠÙĪØ®":142794,"ĠÙĪØ®Ø§ØµØ©":142795,"инÑĤеÑĢ":142796,"инÑĤеÑĢеÑģ":142797,"èĩ´ãģĹãģ¾ãģĻ":142798,"Ġhüküm":142799,"à¹Ħà¸Ĥมัà¸Ļ":142800,"Ġdavran":142801,"ĠdavranÄ±ÅŁ":142802,"à¹Ģà¸ķียà¸ĩ":142803,"вÑĢем":142804,"вÑĢеменно":142805,"à¹Ģà¸Ĺศà¸ģา":142806,"à¹Ģà¸Ĺศà¸ģาล":142807,"å¼ķãģ£":142808,"å¼ķãģ£è¶ĬãģĹ":142809,"×IJר×ķ×Ĺ":142810,"×IJר×ķ×Ĺת":142811,"à¹Ģวิ":142812,"à¹Ģวิรà¹Į":142813,"à¸Ńยà¹Īาà¸ĩรวà¸Ķà¹Ģรà¹ĩว":142814,"ĠìŬíĸī":142815,"ĠÑĢанÑĮ":142816,"ĠÑĢанÑĮÑĪе":142817,"Ġzobow":142818,"ĠzobowiÄħ":142819,"ĠzobowiÄħz":142820,"Ġ×ķ׼×ŀ×ķ×ijף":142821,"ĠاÙĦÙħÙĩ":142822,"ĠاÙĦÙħÙĩÙĨÙĬ":142823,"ãĤ¢ãĤ¸":142824,"ãĤ¢ãĤ¸ãĤ¢":142825,"ë°©ìĨ¡":142826,"à¸Ńà¸Ńà¸ģà¸ģำลัà¸ĩ":142827,"à¸Ńà¸Ńà¸ģà¸ģำลัà¸ĩà¸ģาย":142828,"améli":142829,"améliorer":142830,"å½ĵãģŁãĤĬåīį":142831,"Ġregelm":142832,"ĠregelmÃ¤ÃŁig":142833,"ãģĬåĭ":142834,"ãģĬåĭ§":142835,"ãģĬåĭ§ãĤģ":142836,"Ġmưá»Ŀi":142837,"برÙħج":142838,"ĠNatürlich":142839,"ĠDÅ©ng":142840,"ĠاÙĦرجاÙĦ":142841,"Ġthép":142842,"ĠolmuÅŁtur":142843,"×ŀ×ķס×Ļ×§×Ķ":142844,"fälle":142845,"주íĥĿ":142846,"ĠاÙĦÙģØ±Øµ":142847,"ĠnajwiÄĻks":142848,"ĠnajwiÄĻkszy":142849,"ĠçaÄŁ":142850,"ĠçaÄŁrı":142851,"ì¸ł":142852,"ĠvÃŃct":142853,"ĠvÃŃctima":142854,"ĠÑģовеÑĢÑĪен":142855,"×Ķ×Ļ×Ļת×Ļ":142856,"à¹Ģà¸Ķี":142857,"à¹Ģà¸Ķีà¹ĭ":142858,"à¹Ģà¸Ķีà¹ĭยว":142859,"üyü":142860,"Ġдоп":142861,"Ġдополн":142862,"ĠдополниÑĤелÑĮно":142863,"à¹ģà¸ķà¸ģà¸ķà¹Īาà¸ĩà¸ģัà¸Ļ":142864,"Ġál":142865,"Ġálbum":142866,"à¸Ľà¸£à¸°à¸Īà¸³à¸Ľà¸µ":142867,"ĠÑĦедеÑĢ":142868,"ĠÑĦедеÑĢалÑĮн":142869,"ĠobsÅĤ":142870,"ĠobsÅĤugi":142871,"à¹Ģรืà¹Ī":142872,"à¹Ģรืà¹Īà¸Ńย":142873,"à¹Ģรืà¹Īà¸Ńยà¹Ĩ":142874,"ëģĮ":142875,"Ġnghìn":142876,"ĠBaÅŁkanlıģı":142877,"تأسÙĬ":142878,"تأسÙĬس":142879,"Ġ×ij×ij×ķקר":142880,"Ġ×¢×ij×ķ×ĵ×ķת":142881,"ĠبصÙĪØ±Ø©":142882,"ãĤıãģijãģ§ãģ¯ãģªãģĦ":142883,"führer":142884,"ãĤ¹ãĤŃ":142885,"ãĤ¹ãĤŃãĥ«":142886,"ĠاÙĦÙĤض":142887,"ĠاÙĦÙĤضÙĬØ©":142888,"ĠдолжноÑģÑĤ":142889,"ÙģØ§Ø±ÙĤ":142890,"Ġcomeçou":142891,"Ġorganisé":142892,"Ġxuân":142893,"ĠÑģообÑīаеÑĤ":142894,"ĠпÑĢид":142895,"ĠпÑĢидеÑĤÑģÑı":142896,"TÃľRK":142897,"ãĥ¬ãĥ¼ãĤ·ãĥ§ãĥ³":142898,"Không":142899,"استÙģ":142900,"استÙģØ§Ø¯Ø©":142901,"ä¸ĬãģĮãģ£ãģ¦":142902,"Ġumie":142903,"ĠumiejÄĻ":142904,"ĠumiejÄĻtn":142905,"ĠumiejÄĻtnoÅĽci":142906,"ëĤ¸":142907,"à¹Ģà¸Ļà¸Ńรà¹Į":142908,"×ĵ×ķ×ķ×Ĺ":142909,"ÃŃsimo":142910,"IÃĬ":142911,"IÃĬN":142912,"Ġalcanç":142913,"Ġà¸ķุ":142914,"Ġà¸ķุลา":142915,"Ġà¸ķุลาà¸Ħม":142916,"ש׾×ĺ×ķף":142917,"Ġélè":142918,"Ġélèves":142919,"ĠÄiju":142920,"ĠÄijuá»ķi":142921,"ĠØ£Ùģ":142922,"ĠØ£Ù쨱ÙĬ":142923,"ĠØ£Ù쨱ÙĬÙĤÙĬ":142924,"ĠØ£Ù쨱ÙĬÙĤÙĬا":142925,"ãĤĴæİ¢ãģĻ":142926,"ĠпÑĢедложениÑı":142927,"جاد":142928,"ĠÑħоÑĤÑĮ":142929,"Ñģал":142930,"Ñģалон":142931,"à¸Ľà¸£à¸°à¹Ģม":142932,"à¸Ľà¸£à¸°à¹Ģมิà¸Ļ":142933,"ãĤŃãĥĥãĥģ":142934,"ãĤŃãĥĥãĥģãĥ³":142935,"×ij×ĵ×Ļ×§×ķת":142936,"Ġchù":142937,"Ġchùa":142938,"ÐĴиде":142939,"ÐĴидео":142940,"иÑĢовка":142941,"ĠÑħоÑĤиÑĤе":142942,"Ġspécifique":142943,"รสà¸Ĭาà¸ķิ":142944,"è¾¼ãĤĵãģł":142945,"伸ãģ³":142946,"×Ķצ׾×Ĺת":142947,"ãģ©ãģ®ãĤĪãģĨãģ«":142948,"سعادة":142949,"Ġлид":142950,"ĠлидеÑĢ":142951,"มà¸ĩ":142952,"มà¸ĩà¸Ħล":142953,"ØŃاÙħÙĦ":142954,"หลุà¸Ķ":142955,"à¸Ńยà¹Īาà¸ĩà¸ķà¹Īà¸Ń":142956,"à¸Ńยà¹Īาà¸ĩà¸ķà¹Īà¸Ńà¹Ģà¸Ļืà¹Īà¸Ńà¸ĩ":142957,"ãģķãģĽãģ¦éłĤ":142958,"تسÙĪÙĬ":142959,"تسÙĪÙĬÙĤ":142960,"ĠaÅŁaģıd":142961,"ĠaÅŁaģıdaki":142962,"ĠÑĨелÑĮ":142963,"ĠÑĨелÑĮÑİ":142964,"ĠAraÅŁtırma":142965,"à¸Ĥัà¸ļรà¸ĸ":142966,"ÙĩذÙĩ":142967,"ลà¸ĩà¸Ĺะ":142968,"ลà¸ĩà¸Ĺะà¹Ģà¸ļ":142969,"ลà¸ĩà¸Ĺะà¹Ģà¸ļียà¸Ļ":142970,"تÙĥاÙħÙĦ":142971,"Ġcio":142972,"Ġcioè":142973,"ãģ¦ãģĬãģı":142974,"ĠاÙĦصØŃÙģÙĬ":142975,"ĠíĬ¹ìłķ":142976,"полниÑĤÑĮ":142977,"ãĤĵãģĺãĤĥãģªãģĦ":142978,"ãĤĵãģĺãĤĥãģªãģĦãģĭ":142979,"ĠاÙĦجÙĩ":142980,"ĠاÙĦجÙĩات":142981,"ĠÑĥÑģпеÑĪно":142982,"Ġвок":142983,"ĠвокÑĢÑĥг":142984,"ĠÑģиÑĤÑĥаÑĨиÑı":142985,"Ġ×Ķ×IJ×ŀר":142986,"Ġ×Ķ×IJ×ŀר×Ļ×§":142987,"Ġ×Ķ×IJ×ŀר×Ļ×§×IJ×Ļ":142988,"×ŀ×Ĵ×ĸ":142989,"×ŀ×Ĵ×ĸ×Ļף":142990,"ĠакÑĤÑĥ":142991,"ĠакÑĤÑĥалÑĮн":142992,"éta":142993,"étais":142994,"ĠmogÅĤa":142995,"ĠÑĤоÑĩки":142996,"Ġ×ŀ×Ķ×ŀ×¢":142997,"Ġ×ŀ×Ķ×ŀ×¢×¨×Ľ×ª":142998,"à¸¡à¸µà¸Ľà¸£à¸°à¸ªà¸´à¸Ĺà¸ĺà¸´à¸łà¸²à¸ŀ":142999,"×Ļר×Ļ×ĵ×Ķ":143000,"×Ĵר×ŀ׳":143001,"×Ĵר×ŀ׳×Ļ×Ķ":143002,"Ġглав":143003,"Ġглавное":143004,"Ġ미ëŀĺ":143005,"Ġ׳׼×ķ׳×Ķ":143006,"ĠÙĪØ·ÙĨÙĬ":143007,"opport":143008,"opportunitÃł":143009,"Ġhá»§y":143010,"ĠÙĦتØŃ":143011,"ĠÙĦتØŃÙĤÙĬÙĤ":143012,"Ġórg":143013,"Ġórgão":143014,"ãĤ¹ãĥĶ":143015,"ãĤ¹ãĥĶãĥ¼ãĥī":143016,"Ġönü":143017,"Ġönüne":143018,"ÙħعاÙħÙĦ":143019,"ש×ŀ×Ļר×Ķ":143020,"ĠвеÑģÑĮма":143021,"ĠwiÄĻkszo":143022,"ĠwiÄĻkszoÅĽÄĩ":143023,"ĠاستراتÙĬج":143024,"ĠاستراتÙĬجÙĬØ©":143025,"ĠÙ쨥":143026,"ĠÙģØ¥Ø°Ø§":143027,"à¹Ģà¸Ĭืà¹Īà¸Ńม":143028,"à¹Ģà¸Ĭืà¹Īà¸Ńมà¸ķà¹Īà¸Ń":143029,"Ġ׾פר":143030,"Ġ׾פר×ĺ×Ļ×Ŀ":143031,"ÙħضÙĬ":143032,"ĠGerçek":143033,"Ġçocukların":143034,"ÙĪØ«Ø§Ø¦ÙĤ":143035,"ĠÙħساءÙĭ":143036,"Ġunterstützt":143037,"Ġprést":143038,"Ġpréstamo":143039,"ĠÐłÐ°Ð·Ð¼ÐµÑĢ":143040,"ĠÅŁeker":143041,"Ġséculo":143042,"×ij×Ķ×Ļר":143043,"Ø´ÙĩÙĪØ±":143044,"Ġà¸Ńีà¸ģ":143045,"Ġà¸Ńีà¸ģà¸Ĺัà¹īà¸ĩ":143046,"Ġllegó":143047,"à¸¨à¸´à¸¥à¸Ľà¸°":143048,"æĪijãģĮ":143049,"æĪijãģĮå®¶":143050,"عÙĤÙĪ":143051,"عÙĤÙĪØ¨Ø§Øª":143052,"ĠFälle":143053,"ĠsÅĤuż":143054,"ĠsÅĤużb":143055,"ĠاÙĦØŃÙĤÙĪÙĤ":143056,"ĠплиÑĤ":143057,"ĠиноÑģÑĤ":143058,"ĠиноÑģÑĤÑĢан":143059,"ĠиноÑģÑĤÑĢанн":143060,"à¹ĥà¸Ļà¸Ĥà¸ĵะà¸Ĺีà¹Ī":143061,"ãĤ«ãĥĨ":143062,"ãĤ«ãĥĨãĤ´":143063,"ãĤ«ãĥĨãĤ´ãĥª":143064,"à¸Ńิส":143065,"à¸Ńิสระ":143066,"à¹Ģà¸ľà¸¢à¹ģ":143067,"à¹Ģà¸ľà¸¢à¹ģà¸ŀร":143068,"à¹Ģà¸ľà¸¢à¹ģà¸ŀรà¹Ī":143069,"ãģĬãģĦ":143070,"ãģĬãģĦãģĹãģĦ":143071,"استÙĤÙĦ":143072,"استÙĤÙĦاÙĦ":143073,"تØŃض":143074,"تØŃضÙĬر":143075,"åĬ©ãģij":143076,"ÙħراÙģÙĤ":143077,"Ġ×ĵ×ķר":143078,"Ġ×ĵ×ķרש":143079,"×ŀת×Ļ×Ļ×Ĺס":143080,"ס×Ļ׼":143081,"ס×Ļ׼×ķ×Ŀ":143082,"íĮĮíĬ¸":143083,"ĠwyÅĽ":143084,"ĠwyÅĽw":143085,"ĠwyÅĽwiet":143086,"ĠwyÅĽwietl":143087,"ĠاÙĦاÙĨساÙĨ":143088,"ĠStraÃŁen":143089,"L":143090,"ãģ«åŁº":143091,"ãģ«åŁºãģ¥":143092,"ĠcapÃŃtulo":143093,"ลุย":143094,"Ġ×Ķ×ŀקצ×ķ×¢×Ļ":143095,"ãģĤãĤĭç¨ĭ度":143096,"Ợ":143097,"ĠاÙĦÙĦا":143098,"ĠاÙĦÙĦازÙħØ©":143099,"æķĻãģĪ":143100,"Ġרש×IJ×Ļ":143101,"зав":143102,"завиÑģ":143103,"завиÑģим":143104,"à¸Ľà¸±à¸Īà¸Īัย":143105,"à¹Ģà¸ĭล":143106,"à¹Ģà¸ĭลลà¹Į":143107,"Ġdifférence":143108,"ĠAltın":143109,"ĠкÑĢай":143110,"ĠкÑĢайне":143111,"Ġзло":143112,"Ġgünümüz":143113,"ĠнаÑĤÑĥÑĢ":143114,"ĠнаÑĤÑĥÑĢалÑĮн":143115,"×Ĵ×ķ׾ש×Ļ×Ŀ":143116,"ĠкаÑĤегоÑĢ":143117,"ĠкаÑĤегоÑĢии":143118,"Ġзнак":143119,"à¸ģà¹Īà¸Ńà¸Ļหà¸Ļà¹īา":143120,"à¸ģà¹Īà¸Ńà¸Ļหà¸Ļà¹īาà¸Ļีà¹ī":143121,"ĠÙħÙĨت":143122,"ĠÙħÙĨتخب":143123,"ãĥĽãĥ¼ãĥ«":143124,"ĠевÑĢо":143125,"สว":143126,"สวม":143127,"ĠìľĦìĽIJ":143128,"ĠìľĦìĽIJëĭĺ":143129,"ĠاÙĦØŃÙĪØ«":143130,"ĠاÙĦØŃÙĪØ«ÙĬ":143131,"ĠÑģодеÑĢжиÑĤ":143132,"ãĥķãĤ¡ãĥĥãĤ·ãĥ§ãĥ³":143133,"Ġà¸ģัà¸Ļ":143134,"Ġà¸ģัà¸Ļย":143135,"Ġà¸ģัà¸Ļยายà¸Ļ":143136,"ãĤªãĥª":143137,"ãĤªãĥªãĤ¸":143138,"ãĤªãĥªãĤ¸ãĥĬãĥ«":143139,"ĠбÑĢенд":143140,"ãĤĴæĮģãģ£ãģ¦ãģĦãĤĭ":143141,"Ġinversión":143142,"Ġê°ĸ":143143,"Ġê°ĸê³ł":143144,"ĠnovitÃł":143145,"ê´Ģê´ij":143146,"Ġà¸ŀฤษ":143147,"Ġà¸ŀà¸¤à¸©à¸łà¸²":143148,"Ġà¸ŀà¸¤à¸©à¸łà¸²à¸Ħม":143149,"×ķר×Ĺ×Ļ×Ŀ":143150,"׼׾×ķ׾":143151,"Ġngạc":143152,"×Ļ×Ļש":143153,"×Ļ×Ļש×ķ×ij":143154,"fäll":143155,"fällig":143156,"ĠÑĤÑĢебÑĥеÑĤÑģÑı":143157,"Ġcará":143158,"Ġcarácter":143159,"ĠprincÃŃpio":143160,"ĠÅĤaz":143161,"ĠÅĤazien":143162,"ĠÅĤazienk":143163,"Ġgiãn":143164,"ÑģÑĤÑĢаива":143165,"Ùħساب":143166,"ÙħسابÙĤØ©":143167,"à¹Ģà¸Ħรืà¹Īà¸Ńà¸ĩà¸Ķืà¹Īม":143168,"ترÙĥÙĬب":143169,"volução":143170,"ĠÐŁÐ¾Ñĩ":143171,"ĠÐŁÐ¾Ñĩем":143172,"ĠÐŁÐ¾ÑĩемÑĥ":143173,"казалоÑģÑĮ":143174,"ĠпÑĢименениÑı":143175,"à¹Ģà¸Ĺียม":143176,"íĮĶ":143177,"à¸Ĥà¹īà¸Ńà¹Ģสà¸Ļà¸Ń":143178,"à¸Ľà¸±à¸įà¸įา":143179,"ĠобÑĥÑĩ":143180,"ĠобÑĥÑĩениÑı":143181,"ĠÑģеÑĢи":143182,"ĠÑģеÑĢиал":143183,"Ġinglés":143184,"ĠÙĦÙĥرة":143185,"Ġ×ĺ׾":143186,"Ġ×ĺ׾פ×ķף":143187,"Ġìłij":143188,"Ġìłijê·¼":143189,"×IJ×ķ×Ĵ":143190,"×IJ×ķ×Ĵ×ķס":143191,"×IJ×ķ×Ĵ×ķס×ĺ":143192,"ĠболÑĮÑĪое":143193,"ĠÐļонеÑĩно":143194,"×¢×Ļת×ķ׳":143195,"×¢×Ļת×ķ׳×IJ×Ļ":143196,"Ġкнопк":143197,"Ġзн":143198,"ĠзнаÑĤÑĮ":143199,"ĠÄijá»±":143200,"ĠÄijá»±ng":143201,"влаж":143202,"влажн":143203,"×ŀ×Ļ×ĺ×ij":143204,"ãĤ¬ãĤ¤":143205,"ãĤ¬ãĤ¤ãĥī":143206,"..........":143207,"Ġà¸ģุม":143208,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀ":143209,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļ":143210,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļà¸ĺ":143211,"Ġà¸ģà¸¸à¸¡à¸łà¸²à¸ŀัà¸Ļà¸ĺà¹Į":143212,"bez":143213,"bezpieczeÅĦst":143214,"bezpieczeÅĦstw":143215,"ãĥijãĥijæ´»":143216,"عاط":143217,"عاطÙģ":143218,"ĠÄijáºŃm":143219,"ĠзÑĢ":143220,"ĠзÑĢениÑı":143221,"Ġborç":143222,"Ġнедел":143223,"ĠнеделÑİ":143224,"Ġhá»ı":143225,"Ġhá»ıng":143226,"ìŀ¥ìķł":143227,"ìŀ¥ìķłìĿ¸":143228,"ĠاÙĦعÙĦاÙĤØ©":143229,"Ġíģ¬":143230,"Ġíģ¬ê²Į":143231,"à¹Ħรà¹Ī":143232,"à¸ļาà¸Ķ":143233,"à¸ļาà¸Ķà¹Ģà¸Īà¹ĩà¸ļ":143234,"à¸Ŀรั":143235,"à¸Ŀรัà¹Īà¸ĩ":143236,"à¸Ŀรัà¹Īà¸ĩà¹Ģศ":143237,"à¸Ŀรัà¹Īà¸ĩà¹Ģศส":143238,"רע×Ļ":143239,"רע×Ļ×ķ׳×ķת":143240,"ĠëĮ":143241,"ĠëĮĵ":143242,"ĠëĮĵê¸Ģ":143243,"Ġnajb":143244,"Ġnajbli":143245,"Ġnajbliż":143246,"Ġnajbliższ":143247,"ĠиÑģполÑĮзÑĥеÑĤÑģÑı":143248,"ĠcientÃŃf":143249,"ĠcientÃŃfico":143250,"×¢×ŀ×§":143251,"Ġgợi":143252,"Ø´ØŃÙĨ":143253,"ĠÅĽm":143254,"ĠÅĽmier":143255,"ĠÅĽmierci":143256,"à¸Ħาสิà¹Ĥà¸Ļà¸Ńà¸Ńà¸Ļà¹Ħลà¸Ļà¹Į":143257,"×Ĺש×ijת×Ļ":143258,"Ġningu":143259,"Ġninguém":143260,"è¾¼ãĤģ":143261,"ãģ·":143262,"ĠÑĥг":143263,"ĠÑĥгол":143264,"ï½°":143265,"פת×Ļ×Ĺ":143266,"פת×Ļ×Ĺת":143267,"Ġ×Ķר×IJש×ķ׳×Ļ×Ŀ":143268,"pósito":143269,"ãĤŃãĥ¬ãĤ¤":143270,"ãģ©ãģĵãĤį":143271,"à¹Ģà¸Ĺà¹Īาà¹Ħ":143272,"à¹Ģà¸Ĺà¹Īาà¹Ħหร":143273,"à¹Ģà¸Ĺà¹Īาà¹Ħหรà¹Ī":143274,"ĠинÑĤеÑĢÑĮеÑĢ":143275,"ĠØŃاج":143276,"ĠØŃاجة":143277,"สีà¸Ĥาว":143278,"ìĸ¼":143279,"Ġná»Ļ":143280,"Ġná»Ļp":143281,"ĠÃŃnd":143282,"ĠÃŃndice":143283,"สำรวà¸Ī":143284,"Ġкаждой":143285,"Ġhotéis":143286,"ĠnastÄĻ":143287,"ĠnastÄĻpn":143288,"Ġ×Ķ×§×ķ×ĵ":143289,"Ġ×Ķ×§×ķ×ĵ×Ŀ":143290,"פ×ķפ":143291,"פ×ķפ×ķ׾":143292,"פ×ķפ×ķ׾ר×Ļ":143293,"вÑĪей":143294,"ãĤ·ãĥ³ãĥĹ":143295,"ãĤ·ãĥ³ãĥĹãĥ«":143296,"ĠzdjÄĻÄĩ":143297,"ĠгÑĢÑĥппа":143298,"ĠпомеÑī":143299,"ĠпомеÑīениÑı":143300,"ãģ©ãģĨãģĦãģĨ":143301,"ĠиÑģпÑĭÑĤа":143302,"ĠogÅĤ":143303,"ĠogÅĤos":143304,"ĠogÅĤoszen":143305,"ĠogÅĤoszeni":143306,"สรà¹īาà¸ĩสรร":143307,"สรà¹īาà¸ĩสรรà¸Ħà¹Į":143308,"à¸ŀรรà¸ĵ":143309,"ĠçıkÄ±ÅŁ":143310,"ĠÑĩаÑģÑĤноÑģÑĤи":143311,"Ġ×ķ×Ļ×ķתר":143312,"ç¶ļãģįãĤĴ":143313,"ç¶ļãģįãĤĴèªŃ":143314,"ç¶ļãģįãĤĴèªŃãĤĢ":143315,"à¸ģรั":143316,"à¸ģรัม":143317,"гÑĢаÑĦ":143318,"Ġвлад":143319,"ĠвладелÑĮ":143320,"ĠвладелÑĮÑĨ":143321,"ĠistediÄŁ":143322,"ĠistediÄŁiniz":143323,"×ij×ľ×¢":143324,"×ij×ľ×¢×ĵ×Ļ":143325,"ÙħÙĪØ§Ùģ":143326,"ÙħÙĪØ§ÙģÙĤØ©":143327,"Ġ×Ļ×ķר":143328,"Ġ×Ļ×ķרק":143329,"ãĤ«ãĥ¼ãĥīãĥŃãĥ¼ãĥ³":143330,"ĠاÙĦÙħØ´ÙĥÙĦ":143331,"ĠاÙĦÙħØ´ÙĥÙĦØ©":143332,"ĠêµŃíļĮ":143333,"ספ×ĺ":143334,"ספ×ĺ×ŀ":143335,"ספ×ĺ×ŀ×ijר":143336,"Ġìĸ´ëłµ":143337,"ÙĥاÙħ":143338,"ÙĥاÙħÙĬرا":143339,"schlü":143340,"schlüsse":143341,"ĠØ«ÙĨ":143342,"ĠØ«ÙĨائÙĬ":143343,"ìī½":143344,"ĠÐŀÑģоб":143345,"ĠÐŀÑģобенно":143346,"ĠинвеÑģÑĤи":143347,"ĠинвеÑģÑĤиÑĨи":143348,"اØŃتÙħ":143349,"اØŃتÙħاÙĦ":143350,"EÄŀ":143351,"EÄŀİ":143352,"íķĺê²łëĭ¤":143353,"Ġ×IJ×ijר×Ķ":143354,"Ġ×IJ×ijר×Ķ×Ŀ":143355,"Ġ×ij×Ĺ×Ļ׳×Ŀ":143356,"Ø£ÙĪØ¶":143357,"Ø£ÙĪØ¶Ø§Ø¹":143358,"Ġdél":143359,"Ġdélai":143360,"Ġ×IJ×ķ×Ķ×ij×Ļ×Ŀ":143361,"ĠÑģоÑħ":143362,"ĠÑģоÑħÑĢ":143363,"ĠÑģоÑħÑĢани":143364,"ĠдоÑģÑĤиж":143365,"ĠдоÑģÑĤижени":143366,"สิà¹Īà¸ĩà¹ģ":143367,"สิà¹Īà¸ĩà¹ģวà¸Ķ":143368,"สิà¹Īà¸ĩà¹ģวà¸Ķล":143369,"สิà¹Īà¸ĩà¹ģวà¸Ķลà¹īà¸Ńม":143370,"ĠاÙĦÙħباشر":143371,"ĠÑĦиг":143372,"ĠÑĦигÑĥÑĢ":143373,"можем":143374,"׾×ŀ×Ļ×ĵ×Ķ":143375,"Ġciné":143376,"Ġcinéma":143377,"Ġbada":143378,"ĠbadaÅĦ":143379,"جبÙĩØ©":143380,"Ġдеп":143381,"ĠдепÑĥÑĤ":143382,"ĠдепÑĥÑĤаÑĤ":143383,"Ġdistância":143384,"ĠاÙĦÙħعار":143385,"ĠاÙĦÙħعارضة":143386,"thèse":143387,"ünc":143388,"üncü":143389,"Ġданного":143390,"ĠBelgi":143391,"ĠBelgië":143392,"Ġ×ij×ij×§":143393,"Ġ×ij×ijקש×Ķ":143394,"ยà¹Īาà¸Ļ":143395,"Ġsolução":143396,"Ġ×Ķצ×ĺר":143397,"Ġ×Ķצ×ĺרפ×ķ":143398,"ĠØ£ÙĨØŃ":143399,"ĠØ£ÙĨØŃاء":143400,"ĠدÙħØ´":143401,"ĠدÙħØ´ÙĤ":143402,"มัà¹ī":143403,"มัà¹īย":143404,"Ùħغرب":143405,"استعÙħاÙĦ":143406,"ĠSÅĤow":143407,"ĠëıĻìĭľ":143408,"ĠëıĻìĭľìĹIJ":143409,"ĠÑģоÑģ":143410,"ĠÑģоÑģед":143411,"ì²ŃìĨĮ":143412,"ì²ŃìĨĮëħĦ":143413,"ĠгÑĢаÑĦ":143414,"ĠгÑĢаÑĦик":143415,"ĠìŀijìĿĢ":143416,"Ġyeti":143417,"ĠyetiÅŁtir":143418,"ĠìĿ´ê²ĥìĿ´":143419,"หà¹Īาà¸ĩ":143420,"Ø¥ÙħÙĥاÙĨ":143421,"Ø¥ÙħÙĥاÙĨÙĬØ©":143422,"استعراض":143423,"Ùħخدر":143424,"ĠÑĩÑĥÑĤÑĮ":143425,"ÙħدÙĬر":143426,"ÙħدÙĬرÙĬØ©":143427,"Ġà¹Ģมษ":143428,"Ġà¹Ģมษายà¸Ļ":143429,"ĠмеÑħ":143430,"ĠмеÑħаниз":143431,"ĠмеÑħанизм":143432,"ĠÑģÑĥм":143433,"ĠÑģÑĥммÑĥ":143434,"Ġvö":143435,"Ġvöll":143436,"Ġvöllig":143437,"ĠдÑĢÑĥз":143438,"ĠдÑĢÑĥзÑĮÑı":143439,"ãĤĴåĪ©ç͍ãģĹãģ¦":143440,"à¸ļรรà¸Īุ":143441,"pożycz":143442,"×ŀש׼":143443,"×ŀ×©×Ľ×ł×ª":143444,"×ŀ×©×Ľ×ł×ª×IJ":143445,"Ġeuropéen":143446,"Ġproprié":143447,"Ġpropriétaire":143448,"Ġkhấu":143449,"ãģĦãģŁãģłãģijãĤĭ":143450,"Ġtecrü":143451,"Ġtecrübe":143452,"×Ķ×ij":143453,"×Ķ×ij׳×Ķ":143454,"ĠcuÌ":143455,"ĠcuÌī":143456,"ĠcuÌīa":143457,"×IJ×ķ×ķ":143458,"×IJ×ķ×ķ×Ļר×Ķ":143459,"Ġ׼×ķ׾×ķ":143460,"Ulus":143461,"Uluslararası":143462,"Ġ׳×ķת":143463,"Ġ׳×ķ×ª×Ł":143464,"ãģ«åIJij":143465,"ãģ«åIJijãģijãģ¦":143466,"ë¹Ľ":143467,"à¸Ĺัà¸ģษ":143468,"à¸Ĺัà¸ģษะ":143469,"سÙĤÙĪ":143470,"سÙĤÙĪØ·":143471,"Ġвн":143472,"ĠвнеÑĪ":143473,"ĠвнеÑĪне":143474,"Ġurz":143475,"ĠurzÄĻd":143476,"Ġámb":143477,"Ġámbito":143478,"à¸Ńà¸ĺิ":143479,"à¸Ńà¸ĺิà¸ļาย":143480,"ĠÅĤad":143481,"ĠÅĤadn":143482,"ê±´ì¶ķ":143483,"wództ":143484,"wództw":143485,"Ġquestões":143486,"Ġשק":143487,"Ġשק×Ļ×ij׾":143488,"ĠmiejscowoÅĽci":143489,"Ġвал":143490,"ĠвалÑİÑĤ":143491,"häuser":143492,"หà¸Ļà¸Ńà¸ĩ":143493,"ãģ¨åħ±":143494,"ãģ¨åħ±ãģ«":143495,"ãĥıãĥ¼ãĥī":143496,"Ġê°ľìµľ":143497,"ĠоÑģновном":143498,"ĠмÑıÑģ":143499,"اعت":143500,"اعتÙĤاÙĦ":143501,"สà¸ĸิ":143502,"สà¸ĸิà¸ķิ":143503,"Ngu":143504,"Nguá»ĵn":143505,"ĠÙħجÙĦ":143506,"ĠÙħجÙĦØ©":143507,"à¹ģà¸Ĥà¸Ļ":143508,"ĠاÙĦÙĦÙĬبÙĬ":143509,"פע×Ļ׾×ķ×Ļ×ķת":143510,"Ġ×Ķרפ×ķ×IJ×Ļ":143511,"פר×ķפ":143512,"פר×ķפ×Ļ׾":143513,"ק׾×IJ":143514,"ק׾×IJס×Ļ":143515,"ÙĥتشÙģ":143516,"ãģ«ãģªãģ£ãģ¦ãģĹãģ¾ãģĨ":143517,"à¹Ģà¸Ħลà¹ĩà¸Ķ":143518,"à¹Ģà¸Ħลà¹ĩà¸Ķลัà¸ļ":143519,"Ġì»´":143520,"Ġì»´íĵ¨":143521,"Ġì»´íĵ¨íĦ°":143522,"Ġ×Ĺ×Ļ×ķ×ij×Ļ":143523,"Ġnäm":143524,"Ġnämlich":143525,"åij¼ãģ°":143526,"åij¼ãģ°ãĤĮ":143527,"ĠÑĢол":143528,"ĠÑĢоли":143529,"Ġspécialisé":143530,"à¸Ļวัà¸ķ":143531,"à¸Ļวัà¸ķà¸ģรรม":143532,"ÙĨصÙĪØµ":143533,"пеÑĢед":143534,"пеÑĢедаÑĩ":143535,"thèque":143536,"Ġר×IJ×Ļת×Ļ":143537,"ãĥĢãĤ¦ãĥ³":143538,"ãĤıãģĭ":143539,"ãĤıãģĭãģ£ãģ¦":143540,"беÑĢеж":143541,"ĠÑģек":143542,"ĠÑģекÑĢ":143543,"ĠÑģекÑĢеÑĤ":143544,"ĠпоÑģÑĤоÑıнн":143545,"à¸Ĥà¸Ļสà¹Īà¸ĩ":143546,"Ġmük":143547,"Ġmükem":143548,"Ġmükemmel":143549,"еÑĤеÑģÑĮ":143550,"ĠاÙĦسÙĨÙĪØ§Øª":143551,"ĠìłĦíĺĢ":143552,"Ġ×Ķ×ŀ×§×ķר×Ļ":143553,"Ġmüd":143554,"Ġmüdah":143555,"Ġmüdahale":143556,"Ġwyb":143557,"Ġwybór":143558,"Ġtendência":143559,"إدار":143560,"إدارÙĬØ©":143561,"Ġunterstützen":143562,"ת×ijר":143563,"ת×ijרר":143564,"Ġdiá":143565,"Ġdiálogo":143566,"ĠÃĸnce":143567,"ĠÃĸnceki":143568,"ãĤ¹ãĥĿãĥĥãĥĪ":143569,"ëĦ£":143570,"ĠGeli":143571,"ĠGeliÅŁ":143572,"ãĤĴéĢļ":143573,"ãĤĴéĢļãģĹãģ¦":143574,"ĠFuÃŁball":143575,"Ġsalari":143576,"Ġsalarié":143577,"ĠпÑĢодÑĥкÑĤов":143578,"صÙģÙĤØ©":143579,"รวà¸ļ":143580,"รวà¸ļรวม":143581,"à¹ĥà¸Ļà¸IJาà¸Ļ":143582,"à¹ĥà¸Ļà¸IJาà¸Ļะ":143583,"Ġkayna":143584,"Ġkaynaģı":143585,"ĠìŀijíĴĪ":143586,"ĠвÑĭÑĢаж":143587,"ĠвÑĭÑĢажен":143588,"ĠÑģÑĤеп":143589,"ĠÑģÑĤепени":143590,"ĠاÙĦÙħÙĪØ¬ÙĪØ¯":143591,"ĠاÙĦÙħÙĪØ¬ÙĪØ¯Ø©":143592,"ลà¹īม":143593,"ĠnajczÄĻ":143594,"ĠnajczÄĻÅĽcie":143595,"ĠnajczÄĻÅĽciej":143596,"Ġzwy":143597,"Ġzwyk":143598,"ĠzwykÅĤ":143599,"Ġê·¸ëłĩì§Ģ":143600,"à¸ģระà¸Ī":143601,"à¸ģระà¸Īาย":143602,"Ġëĭµ":143603,"Ġëĭµë³Ģ":143604,"ĠÑĢеак":143605,"ĠÑĢеакÑĨи":143606,"ĠÅĽwież":143607,"ĠÑģÑĤоимоÑģÑĤи":143608,"ÙħÙĨاÙĤ":143609,"ÙħÙĨاÙĤØ´":143610,"ÙħÙĨاÙĤشة":143611,"ĠÑħоÑĩÑĥ":143612,"ãĥľãĥ¼ãĥī":143613,"Ġróżnic":143614,"ĠкÑĢÑĭ":143615,"ĠкÑĢÑĭÑĪ":143616,"âľĵ":143617,"ãĤ³ãĥ³ãĥĨãĥ³":143618,"ãĤ³ãĥ³ãĥĨãĥ³ãĥĦ":143619,"ĠпÑĢедпоÑĩ":143620,"×ŀר×ij×Ļת":143621,"ĠØ´Ùĥ":143622,"ĠØ´Ùĥرا":143623,"Ġдал":143624,"Ġдалек":143625,"Ġдалеко":143626,"برÙĬØ·":143627,"برÙĬطاÙĨÙĬا":143628,"عÙĨا":143629,"عÙĨاÙĬØ©":143630,"ĠÑĢаÑģÑģказ":143631,"ĠÑĢаÑģÑģказÑĭва":143632,"Ø£ÙĦÙĪ":143633,"Ø£ÙĦÙĪØ§ÙĨ":143634,"æĮģãģ£ãģ¦":143635,"æĮģãģ£ãģ¦ãģĦ":143636,"Ùħبادئ":143637,"×Ķ×¢×ijר":143638,"×Ķ×¢×ijרת":143639,"Ġyayı":143640,"Ġyayıml":143641,"Ġyayımla":143642,"mát":143643,"máticos":143644,"à¸ģัà¸ĩ":143645,"à¸ģัà¸ĩวล":143646,"Ġ×ľ×¤×ª":143647,"Ġ×ľ×¤×ª×ķ×Ĺ":143648,"à¸ŀฤà¸ķิ":143649,"à¸ŀฤà¸ķิà¸ģรรม":143650,"íĤ¬":143651,"ĠокÑĢÑĥг":143652,"Ġ×ŀצ×ķ×ķ×Ķ":143653,"ÐĽÐµÐ½Ð¸":143654,"ÐĽÐµÐ½Ð¸Ð½":143655,"ĠTriá»ģu":143656,"ãĤ³ãĥŁãĥ¥":143657,"ãĤ³ãĥŁãĥ¥ãĥĭ":143658,"ãĤ³ãĥŁãĥ¥ãĥĭãĤ±":143659,"ãĤ³ãĥŁãĥ¥ãĥĭãĤ±ãĥ¼ãĤ·ãĥ§ãĥ³":143660,"ÙĥÙĨÙĬ":143661,"ÙĥÙĨÙĬسة":143662,"ãĤĴä¸Ńå¿ĥ":143663,"ãĤĴä¸Ńå¿ĥãģ«":143664,"ĠmiÄĻdz":143665,"ĠmiÄĻdzyn":143666,"ĠmiÄĻdzynar":143667,"ĠmiÄĻdzynarod":143668,"ĠmiÄĻdzynarodow":143669,"ÙĦÙĨ":143670,"ÙĦÙĨدا":143671,"برش":143672,"برشÙĦÙĪÙĨ":143673,"برشÙĦÙĪÙĨØ©":143674,"à¸ģระà¸ķุ":143675,"à¸ģระà¸ķุà¹īà¸Ļ":143676,"Ġgı":143677,"Ġgıda":143678,"à¸Ľà¸£à¸°à¸Ĺัà¸ļ":143679,"à¸Ľà¸£à¸°à¸Ĺัà¸ļà¹ĥà¸Ī":143680,"Ġë¶Ī구":143681,"Ġë¶Ī구íķĺê³ł":143682,"ĠÙĨØ·":143683,"ĠÙĨطاÙĤ":143684,"ĠÐľÐ¾Ð¶ÐµÑĤ":143685,"Präs":143686,"Präsident":143687,"ĠÑģкоÑĢ":143688,"ĠÑģкоÑĢоÑģÑĤÑĮ":143689,"Ġ×Ķ×ij×ķקר":143690,"еÑħаÑĤÑĮ":143691,"Ġgạo":143692,"Ġש×IJ×Ļ׳×Ŀ":143693,"Ġ×ij׳×ķ×Ĵ":143694,"Ġ×ij׳×ķ×Ĵ×¢":143695,"ĠопиÑģание":143696,"Ġuczni":143697,"Ġuczniów":143698,"à¹Ģà¸Ńà¹ĩà¸Ļ":143699,"Ġتش":143700,"ĠتشرÙĬÙĨ":143701,"Ġnhãn":143702,"빨":143703,"Ġcaractère":143704,"×¢×ľ×Ļ":143705,"×¢×ľ×Ļ×Ļ×Ķ":143706,"楽ãģĹãĤģãĤĭ":143707,"ĠÑģаÑħ":143708,"ĠÑģаÑħаÑĢ":143709,"дÑĥмаÑĤÑĮ":143710,"ĠÐĴозможно":143711,"صÙĬاÙĨ":143712,"صÙĬاÙĨØ©":143713,"ömür":143714,"สล":143715,"สลà¹ĩ":143716,"สลà¹ĩà¸Ń":143717,"สลà¹ĩà¸Ńà¸ķ":143718,"롯":143719,"Ġthói":143720,"grÃ¶ÃŁe":143721,"ĠksiÄĻ":143722,"ĠksiÄĻg":143723,"ĠÑĢом":143724,"ĠÑĢоман":143725,"ÙĤاسÙħ":143726,"×ŀ×ij×ķ×Ĵ":143727,"×ŀ×ij×ķ×Ĵר×Ļ×Ŀ":143728,"besch":143729,"beschäft":143730,"beschäftig":143731,"×Ķצע×Ķ":143732,"ĠÃģrea":143733,"ĠзаÑıвк":143734,"Ĺ":143735,"ĠлÑİбого":143736,"Ġม":143737,"Ġมà¸ģร":143738,"Ġมà¸ģราà¸Ħม":143739,"ÑĦиз":143740,"ÑĦизиÑĩеÑģк":143741,"инÑĦ":143742,"инÑĦек":143743,"инÑĦекÑĨи":143744,"اÙĦØ·":143745,"اÙĦطائÙģ":143746,"Ġколл":143747,"ĠколлекÑĤив":143748,"езжа":143749,"ĠسبØŃ":143750,"ĠسبØŃاÙĨ":143751,"ĠسبØŃاÙĨÙĩ":143752,"schlä":143753,"schläge":143754,"Ġди":143755,"Ġдиаг":143756,"ĠдиагноÑģÑĤ":143757,"ĠоÑĤмеÑĤиÑĤÑĮ":143758,"ТЬ":143759,"ĠاÙĦدر":143760,"ĠاÙĦدراسÙĬ":143761,"עצ×ŀ":143762,"עצ×ŀ×IJ×ķת":143763,"Ġdémarch":143764,"Ġdémarche":143765,"Ġ×ĺ×ķ×¢":143766,"Ġ×ĺ×ķ×¢×Ł":143767,"Ġfuncionários":143768,"ỵ":143769,"׾׼×IJ":143770,"׾׼×IJ×ķר×Ķ":143771,"à¸ĭà¹Ī":143772,"à¸ĭà¹Īà¸Ńม":143773,"ĠÑĩÑĥв":143774,"ĠÑĩÑĥвÑģÑĤво":143775,"âĸ¼":143776,"пÑĥÑī":143777,"пÑĥÑīен":143778,"ĠмеÑĢ":143779,"ĠмеÑĢоп":143780,"ĠмеÑĢопÑĢи":143781,"ĠмеÑĢопÑĢиÑıÑĤиÑı":143782,"Ġuçu":143783,"ĠuçuÅŁ":143784,"ãĤĴåĪ©ç͍ãģĻãĤĭ":143785,"aÄŁ":143786,"aÄŁlı":143787,"ìĺĪìĪł":143788,"à¹ģยà¹Ī":143789,"ĠاÙĦÙĥÙħ":143790,"ĠاÙĦÙĥÙħبÙĬ":143791,"ĠاÙĦÙĥÙħبÙĬÙĪØªØ±":143792,"تÙĪÙĬ":143793,"تÙĪÙĬتر":143794,"à¹Ģà¸Ĭีà¹Īยว":143795,"à¹Ģà¸Ĭีà¹Īยวà¸Ĭา":143796,"à¹Ģà¸Ĭีà¹Īยวà¸Ĭาà¸į":143797,"á»Ķ":143798,"Ġhiếm":143799,"ذاÙĥرة":143800,"Ġ×Ķ×ŀ×Ļ×ķ×Ĺ×ĵ":143801,"ĠìĪľ":143802,"ĠìĪľê°Ħ":143803,"ĠKı":143804,"ĠKısa":143805,"ĠgeleceÄŁi":143806,"пÑĢоÑĦеÑģÑģиона":143807,"пÑĢоÑĦеÑģÑģионал":143808,"Ġogó":143809,"Ġogóle":143810,"ĠgÅĤów":143811,"ĠgÅĤówne":143812,"ĠÑģÑĤилÑĮ":143813,"×IJפ׾":143814,"×IJפ׾×Ļ×§":143815,"×IJפ׾×Ļקצ×Ļ×Ķ":143816,"สมารà¹Į":143817,"สมารà¹Įà¸Ĺ":143818,"สมารà¹Įà¸Ĺà¹Ĥà¸Ł":143819,"สมารà¹Įà¸Ĺà¹Ĥà¸Łà¸Ļ":143820,"Ġthánh":143821,"ÐŁÐ¾Ð´":143822,"ÐŁÐ¾Ð´ÑĢоб":143823,"ÐŁÐ¾Ð´ÑĢобнее":143824,"ĠاÙĦتÙĪÙĨ":143825,"ĠاÙĦتÙĪÙĨسÙĬ":143826,"Ġbahçe":143827,"à¹ģà¸ģà¹īà¸Ľà¸±à¸įหา":143828,"éducation":143829,"europ":143830,"europä":143831,"europäische":143832,"ĠKsi":143833,"ĠKsiÄĻ":143834,"ĠëĦĺ":143835,"ĠëĦĺìĸ´":143836,"Ġvüc":143837,"Ġvücud":143838,"Ġyayg":143839,"Ġyaygın":143840,"Ġniekt":143841,"Ġniektóry":143842,"Ġniektórych":143843,"ãģŃãģĩ":143844,"Ġкаж":143845,"ĠкажеÑĤÑģÑı":143846,"каж":143847,"кажеÑĤ":143848,"ĠاÙĦدÙĬÙħÙĤرا":143849,"ĠاÙĦدÙĬÙħÙĤراط":143850,"ĠاÙĦدÙĬÙħÙĤراطÙĬØ©":143851,"æŃ©":143852,"æŃ©ãģĦãģ¦":143853,"Ġvaz":143854,"Ġvazge":143855,"Ġvazgeç":143856,"ĠминималÑĮ":143857,"ĠминималÑĮн":143858,"ãĥijãĤ¿":143859,"ãĥijãĤ¿ãĥ¼ãĥ³":143860,"ĠëĬ":143861,"ĠëĬIJ":143862,"ĠëĬIJëĤĮ":143863,"ãģ¡ãĤĩãģĨ":143864,"ãģ¡ãĤĩãģĨãģ©":143865,"Ġà¸ģร":143866,"Ġà¸ģรà¸ģà¸İ":143867,"Ġà¸ģรà¸ģà¸İาà¸Ħม":143868,"تجدÙĬد":143869,"ĠشاÙħÙĦ":143870,"หลัà¸ģà¸IJาà¸Ļ":143871,"ĠмаÑĢÑĪ":143872,"ĠмаÑĢÑĪÑĢÑĥÑĤ":143873,"ĠvÃŃt":143874,"ĠvÃŃtima":143875,"Ġquizá":143876,"aygı":143877,"×ĵ×ijר×Ļ×ķ":143878,"Ġизд":143879,"Ġиздели":143880,"ĠизделиÑı":143881,"пла":143882,"плаÑĩ":143883,"плаÑĩива":143884,"ä»»ãģĽ":143885,"Ġéquipé":143886,"ä¹ħãģĹãģ":143887,"ä¹ħãģĹãģ¶":143888,"ä¹ħãģĹãģ¶ãĤĬ":143889,"ĠкаÑĤ":143890,"ĠкаÑĤал":143891,"ĠкаÑĤалог":143892,"สà¹īม":143893,"ĠÑĢей":143894,"ĠÑĢейÑĤ":143895,"ĠÑĢейÑĤинг":143896,"Ġthuyá»ģn":143897,"ĠاÙĦÙħÙĤدس":143898,"espère":143899,"ãģ«åħ¥ãģ£ãģŁ":143900,"หมายà¹Ģลà¸Ĥ":143901,"ת×Ĺ×ķשת":143902,"à¸Ļà¹Īะ":143903,"ĠpeÅĤ":143904,"ĠpeÅĤne":143905,"Ġpérd":143906,"Ġpérdida":143907,"หมวà¸Ķ":143908,"หมวà¸Ķหมูà¹Ī":143909,"иÑĩеÑģкÑĥÑİ":143910,"çµĤãĤı":143911,"çµĤãĤıãģ£ãģŁ":143912,"Ġ×Ĵ×ķ×Ĵ׾":143913,"à¸Ĺำà¸Ħวาม":143914,"à¸Ĺำà¸Ħวามสะà¸Ńาà¸Ķ":143915,"Hotéis":143916,"ĠзаÑĢ":143917,"ĠзаÑĢегиÑģÑĤ":143918,"ĠзаÑĢегиÑģÑĤÑĢи":143919,"ĠзаÑĢегиÑģÑĤÑĢиÑĢова":143920,"ĠÑģобÑĭÑĤи":143921,"ĠÑģобÑĭÑĤиÑı":143922,"Ġ×ĸ׼×IJ":143923,"ÙħÙĨظÙĪÙħØ©":143924,"Ġ×Ķ×ŀצ":143925,"Ġ×Ķ×ŀצ×Ļ×IJ×ķת":143926,"ÙħÙĥÙĪÙĨ":143927,"ÙħÙĥÙĪÙĨات":143928,"ä¸ĬãģĮãĤĭ":143929,"ĠmÄĻ":143930,"ĠmÄĻsk":143931,"หรืà¸Ńà¹Ģà¸Ľà¸¥à¹Īา":143932,"ëĤ®":143933,"Ġnoktas":143934,"Ġnoktası":143935,"ĠболÑĮÑĪим":143936,"ĠлÑĥÑĩÑĪиÑħ":143937,"Ø´ÙĩÙĬد":143938,"à¸Ńำà¸Ļ":143939,"à¸Ńำà¸Ļวย":143940,"à¸Ńำà¸Ļวยà¸Ħวาม":143941,"à¸Ńำà¸Ļวยà¸Ħวามสะà¸Ķวà¸ģ":143942,"Ġев":143943,"ĠевÑĢ":143944,"ĠевÑĢоп":143945,"ĠевÑĢопей":143946,"à¸īาย":143947,"ìĦŃ":143948,"ÙħÙ쨧":143949,"ÙħÙ쨧ÙĪØ¶":143950,"ÙħÙ쨧ÙĪØ¶Ø§Øª":143951,"ë¹Į":143952,"赤ãģ¡ãĤĥãĤĵ":143953,"ĠÑĥдалоÑģÑĮ":143954,"ĠХоÑĤ":143955,"ĠХоÑĤÑı":143956,"przedsiÄĻbiorc":143957,"ĠHôm":143958,"íķĺìĺĢìĬµëĭĪëĭ¤":143959,"Ġнаг":143960,"ĠнагÑĢÑĥз":143961,"ĠнагÑĢÑĥзк":143962,"Ġ×ij×Ļ׳׾×IJ×ķ×ŀ×Ļ":143963,"Ġê°ĢëĬ¥íķľ":143964,"ĠHữu":143965,"à¸Ńุà¸Ķ":143966,"à¸Ńุà¸Ķม":143967,"ת×ķפ":143968,"ת×ķפע×Ķ":143969,"ĠmiÅĤo":143970,"ĠmiÅĤoÅĽci":143971,"ksiÄħż":143972,"ksiÄħżka":143973,"ĠاÙĦÙĦعبة":143974,"à¸īาà¸ģ":143975,"สะสม":143976,"×ŀתר":143977,"×ŀתר×Ĺש":143978,"Ġlégère":143979,"Ġ׾צפ":143980,"Ġ׾צפ×Ļ×Ķ":143981,"ĠиÑģÑĤоÑĢиÑı":143982,"ĠãĥĪãĥ©":143983,"ĠãĥĪãĥ©ãĥĥãĤ¯":143984,"ĠãĥĪãĥ©ãĥĥãĤ¯ãĥIJãĥĥãĤ¯":143985,"Ġка":143986,"ĠкаÑĦе":143987,"×ŀס×ŀ×ļ":143988,"Ġcüm":143989,"Ġcümle":143990,"à¹Ģà¸Ħลืà¹Īà¸Ńà¸Ļà¹Ħหว":143991,"ãģĬãģĿ":143992,"ãģĬãģĿãĤīãģı":143993,"ìŀIJëıĻ":143994,"ìŀIJëıĻì°¨":143995,"à¸Ńัà¸ķ":143996,"à¸Ńัà¸ķà¹Ĥà¸Ļ":143997,"à¸Ńัà¸ķà¹Ĥà¸Ļมั":143998,"à¸Ńัà¸ķà¹Ĥà¸Ļมัà¸ķิ":143999,"ĠÅŁik":144000,"ĠÅŁikay":144001,"ĠÅŁikayet":144002,"extrême":144003,"krä":144004,"kräfte":144005,"ëĤĻ":144006,"íķij":144007,"ì²Ļ":144008,"íĺĪ":144009,"ì°į":144010,"âĻ¡":144011,"ìŀĶ":144012,"뢰":144013,"íĿĶ":144014,"íĿIJ":144015,"âĩĴ":144016,"ë§Ľ":144017,"ìĬĪ":144018,"á»Ĵ":144019,"ìĺµ":144020,"âĹİ":144021,"íĤ¨":144022,"ê¿Ī":144023,"ì΍":144024,"ìĽ¨":144025,"ë§¥":144026,"ï½Ģ":144027,"J":144028,"Ẩ":144029,"ãħİ":144030,"ÑĹ":144031,"ìĦ¬":144032,"ì¹¼":144033,"ï¼¶":144034,"ìĽł":144035,"룴":144036,"Åĥ":144037,"ëĤ¼":144038,"ëĭIJ":144039,"â̹":144040,"ë¦Ń":144041,"ì§IJ":144042,"â̤":144043,"Ãħ":144044,"뾨":144045,"íĦ¸":144046,"íľĺ":144047,"ê²ģ":144048,"ë´ħ":144049,"Ãĺ":144050,"ëŃĶ":144051,"ëĺij":144052,"âĹĩ":144053,"ìĹĺ":144054,"ï»´":144055,"ë§¹":144056,"ï¾Ŀ":144057,"ìĬ·":144058,"íĥķ":144059,"ï¼ł":144060,"ì»´":144061,"ëłĮ":144062,"ì½ľ":144063,"ﻹ":144064,"ãħł":144065,"졸":144066,"ëħ¹":144067,"âĤº":144068,"âĸ¶":144069,"íĥIJ":144070,"êµ´":144071,"íij¸":144072,"ÑĶ":144073,"íͽ":144074,"Ðħ":144075,"ë°¤":144076,"Ôģ":144077,"첨":144078,"ì¶ĺ":144079,"ë²Ĺ":144080,"멸":144081,"ï¼»":144082,"ï¼½":144083,"ï¼·":144084,"ì°Į":144085,"ÃĴ":144086,"íı´":144087,"ìĵ¸":144088,"ì´Į":144089,"ëģĶ":144090,"ëĶ©":144091,"ëĩĮ":144092,"ë©Ģ":144093,"벨":144094,"ï¼µ":144095,"ë§¡":144096,"ëĭ«":144097,"฿":144098,"ãģ±":144099,"ìĩ¼":144100,"ìºł":144101,"뮤":144102,"ê±±":144103,"컬":144104,"âĦĥ":144105,"ëͱ":144106,"ëĥĪ":144107,"ìĭ±":144108,"íĻĪ":144109,"ëŀIJ":144110,"ìħĢ":144111,"ìłł":144112,"ÐĨ":144113,"ëłī":144114,"ï½ħ":144115,"ï½ı":144116,"íĻĢ":144117,"뼰":144118,"á»®":144119,"íĤ¹":144120,"ê½ĥ":144121,"ﻤ":144122,"ïºĶ":144123,"꺼":144124,"ìķī":144125,"âϦ":144126,"ï½ģ":144127,"ìĵ´":144128,"ãĢī":144129,"ì°®":144130,"ì¤ĺ":144131,"Ừ":144132,"ëģĦ":144133,"ëIJ¨":144134,"ìķĮ":144135,"íĿĺ":144136,"íħIJ":144137,"ãĢĪ":144138,"겪":144139,"ëĭ¥":144140,"ê²¼":144141,"á»Į":144142,"맨":144143,"ëģĬ":144144,"벤":144145,"ëijĶ":144146,"íĿ¡":144147,"Ử":144148,"ë¬ĺ":144149,"ãģī":144150,"ëŀ«":144151,"íĶĪ":144152,"íħį":144153,"ìŀĥ":144154,"ï½ī":144155,"ìģľ":144156,"âĸ½":144157,"묻":144158,"âĸ³":144159,"X":144160,"ìģĺ":144161,"ì¶°":144162,"ìĬ´":144163,"ìķ±":144164,"ìĩĦ":144165,"Ắ":144166,"ï´¿":144167,"ï´¾":144168,"âĤ½":144169,"ëĦĵ":144170,"룩":144171,"쳤":144172,"ê´ľ":144173,"ÃĻ":144174,"Ỿ":144175,"ï¿£":144176,"ëĵŃ":144177,"ë©ĺ":144178,"ê»´":144179,"ëł´":144180,"Ðĥ":144181,"묵":144182,"ì§Ŀ":144183,"ãģº":144184,"ðŁĺĤ":144185,"ëŀ¬":144186,"ìłĬ":144187,"ê´Ħ":144188,"ìŀĬ":144189,"íŀĮ":144190,"ìĦ¯":144191,"âĪĢ":144192,"âĸ¡":144193,"ëĢĮ":144194,"ëŀĻ":144195,"ï½ĥ":144196,"Ặ":144197,"ï¾Ħ":144198,"ïºĺ":144199,"ë¹¼":144200,"ÃĮ":144201,"âĸ·":144202,"ê¸į":144203,"ë©ĭ":144204,"ãģĥ":144205,"ìĺĨ":144206,"ìĺ®":144207,"몬":144208,"롤":144209,"볬":144210,"ëĬ¦":144211,"âĸª":144212,"ì¼ĵ":144213,"ìľĪ":144214,"ì§§":144215,"ï½½":144216,"ëĥī":144217,"ï¾Į":144218,"ëĺIJ":144219,"ï¼ĥ":144220,"á»Ħ":144221,"ì´¬":144222,"춤":144223,"ï¼¹":144224,"ï»Ń":144225,"âĤ«":144226,"ï½ĩ":144227,"ìĺ·":144228,"ëĸ¨":144229,"âī«":144230,"릿":144231,"⾨":144232,"Ù±":144233,"쯤":144234,"ê¹Ķ":144235,"ðŁĺĬ":144236,"ìĪ«":144237,"ê³±":144238,"êµ³":144239,"ï½ĭ":144240,"à¸Į":144241,"Äł":144242,"ë͏":144243,"ë°ij":144244,"ìħĭ":144245,"íİ´":144246,"âľħ":144247,"íĥij":144248,"ëĪĩ":144249,"íı¼":144250,"ðŁĺį":144251,"ìĺĽ":144252,"ﻣ":144253,"Ñĺ":144254,"ì©Į":144255,"ë¦ħ":144256,"ìĿį":144257,"ク":144258,"ëįľ":144259,"ãģħ":144260,"íݼ":144261,"ëĭĿ":144262,"ë¿Į":144263,"ì¼°":144264,"ìĭ«":144265,"ë°¥":144266,"íĽĮ":144267,"ì¨Į":144268,"ë¹Ļ":144269,"ï½İ":144270,"ë´Ħ":144271,"ìĦ¹":144272,"ï½²":144273,"ìĮĵ":144274,"Òij":144275,"ë°į":144276,"ëłĢ":144277,"íĨ¤":144278,"ッ":144279,"ë¤Ħ":144280,"꽤":144281,"ï½Ĵ":144282,"ìķ¨":144283,"ï½¼":144284,"ê¹IJ":144285,"íģIJ":144286,"âĦĸ":144287,"맺":144288,"ﺮ":144289,"ëħģ":144290,"겸":144291,"ï»ł":144292,"íĬľ":144293,"Ź":144294,"ë¥Ń":144295,"ëĪī":144296,"ï½Ķ":144297,"íĮ¬":144298,"ìŀĩ":144299,"ï¬ģ":144300,"ﻨ":144301,"ëij¥":144302,"ëŀĦ":144303,"Ù¬":144304,"íĭ´":144305,"ìŀī":144306,"Ú¾":144307,"ìĽħ":144308,"ï»®":144309,"ëĭī":144310,"âīª":144311,"âĹĦ":144312,"ëĪĮ":144313,"íĽ¼":144314,"ì¤į":144315,"Ÿ":144316,"줬":144317,"ì¾Į":144318,"ï½ĵ":144319,"ï¾Ĭ":144320,"ðŁı»":144321,"ï¾ī":144322,"Ðģ":144323,"íĺIJ":144324,"ï¾Ļ":144325,"꼬":144326,"íŀIJ":144327,"âĢ¥":144328,"ëŁŃ":144329,"ë§ŀ":144330,"ìĥ¤":144331,"ïºĴ":144332,"íĭ±":144333,"ë½ij":144334,"Ãķ":144335,"âĪļ":144336,"ëĤĦ":144337,"ê¹Ŀ":144338,"ëĨĪ":144339,"Ẻ":144340,"ìħĪ":144341,"ìĮį":144342,"âĢ¡":144343,"ï¼±":144344,"ìģ¨":144345,"âĺº":144346,"ëĴ·":144347,"ìĺ³":144348,"ðŁijį":144349,"몽":144350,"ëĤŃ":144351,"ïºŃ":144352,"ë©Ī":144353,"á»Ī":144354,"íķĢ":144355,"ëĭĻ":144356,"ë¦ĩ":144357,"ìķ¤":144358,"ìį¼":144359,"ãĥµ":144360,"Ñ£":144361,"ìľĹ":144362,"âŃIJ":144363,"ï¾ĺ":144364,"íŬ":144365,"ê¾¼":144366,"ìķĹ":144367,"ï»Į":144368,"ê±·":144369,"ëħķ":144370,"롱":144371,"ìķĬ":144372,"ï¾Ģ":144373,"ìĩł":144374,"íĮ©":144375,"ﺪ":144376,"ë§Ļ":144377,"_":144378,"ê¿Ķ":144379,"íİľ":144380,"룸":144381,"íĶĶ":144382,"ﻳ":144383,"ëıķ":144384,"ìĭ¼":144385,"á»İ":144386,"ë§ĺ":144387,"ì¢ĭ":144388,"íĨ¡":144389,"ï½±":144390,"íĿij":144391,"Ỹ":144392,"ì¦Į":144393,"칸":144394,"ëŃĺ":144395,"ï¾Ĺ":144396,"ï»ĭ":144397,"íĬĢ":144398,"ë¥Ļ":144399,"콩":144400,"ëģĹ":144401,"ëį´":144402,"ìħľ":144403,"¸":144404,"ë»IJ":144405,"ìĥµ":144406,"ê²IJ":144407,"ëĵ¬":144408,"룰":144409,"ãħĭ":144410,"ìĹī":144411,"á»ĸ":144412,"ëĦĮ":144413,"ï½¶":144414,"ë´ĩ":144415,"ëĤ³":144416,"ãĤľ":144417,"ëĸ»":144418,"íİĢ":144419,"ëį©":144420,"íķ¸":144421,"÷":144422,"ê¼¼":144423,"ëĶľ":144424,"ë°´":144425,"ë©į":144426,"âĹ¯":144427,"ìĹij":144428,"ìϼ":144429,"ïºij":144430,"ë¶ķ":144431,"롬":144432,"ï½Į":144433,"íĨ¨":144434,"ﺴ":144435,"ëłĺ":144436,"ê°¤":144437,"ìβ":144438,"Ñĵ":144439,"ìħī":144440,"ï»ĵ":144441,"ëĪĶ":144442,"ëį§":144443,"â̼":144444,"ﻲ":144445,"ê°±":144446,"ê¿Ģ":144447,"ëĭ·":144448,"Ẹ":144449,"Ẫ":144450,"ÆĴ":144451,"ëį¤":144452,"ìĪŃ":144453,"ï½Ĥ":144454,"ï½Ī":144455,"Åł":144456,"룬":144457,"ѵ":144458,"ëĸ¡":144459,"ëĥĦ":144460,"ìĦ°":144461,"ëĵĪ":144462,"ï¾ĥ":144463,"ëĩ¨":144464,"ï½IJ":144465,"êµ½":144466,"ìĹ½":144467,"ëĤĢ":144468,"묶":144469,"ï½·":144470,"ìıŁ":144471,"íĺĶ":144472,"ê¼Ī":144473,"ëģĪ":144474,"ì¥IJ":144475,"ïºĹ":144476,"ÄĮ":144477,"ëĪł":144478,"ëĸ¼":144479,"íĢ´":144480,"âī¥":144481,"ëĭŃ":144482,"ì±Ļ":144483,"ê»ı":144484,"멤":144485,"ìĥĺ":144486,"ëį®":144487,"룡":144488,"ìĤ½":144489,"ãĪľ":144490,"Ĩ":144491,"â̧":144492,"コ":144493,"Ä£":144494,"ì¦ī":144495,"ï¼¼":144496,"Û©":144497,"âĪĻ":144498,"ë°ı":144499,"ë¹ħ":144500,"ðŁĺĽ":144501,"íĪ´":144502,"ðŁĴķ":144503,"ãĢĴ":144504,"ìŀĺ":144505,"ﺤ":144506,"ï½ĸ":144507,"멾":144508,"ë²¼":144509,"ëĿĦ":144510,"ëļľ":144511,"ï»ĺ":144512,"ìĥĮ":144513,"ï½Ħ":144514,"ì©Ķ":144515,"ï½Ļ":144516,"ﺩ":144517,"Ûŀ":144518,"âĺİ":144519,"ìł¤":144520,"ëIJ©":144521,"ÅĿ":144522,"âŀ¡":144523,"ï»§":144524,"Ðı":144525,"ì«ĵ":144526,"ê³½":144527,"Éij":144528,"ãĥ²":144529,"ëĤ«":144530,"ë¦ī":144531,"ì¢ģ":144532,"ë°Ń":144533,"ðŁĺģ":144534,"ë¹µ":144535,"첩":144536,"컵":144537,"ðŁĺĺ":144538,"ë±ħ":144539,"âīĪ":144540,"ë¹ļ":144541,"ï»ľ":144542,"ðŁĻı":144543,"íģ°":144544,"ìĦŀ":144545,"ï¾ļ":144546,"ìĺ¹":144547,"ë¼Ī":144548,"ëĤ¯":144549,"ëŀ©":144550,"íļ¡":144551,"ï½ķ":144552,"íĥĵ":144553,"ëĿł":144554,"ê³ģ":144555,"ëĵĢ":144556,"ìĹł":144557,"Z":144558,"ë§ij":144559,"ëĭ¿":144560,"쿨":144561,"ãİ¡":144562,"ÐĬ":144563,"íĦ±":144564,"Ũ":144565,"ﺳ":144566,"ï¾ı":144567,"âĭħ":144568,"ê¼´":144569,"âī¤":144570,"íĮģ":144571,"Ω":144572,"궤":144573,"ìĪį":144574,"âľ¿":144575,"콤":144576,"ëĪħ":144577,"íĨ±":144578,"ãħľ":144579,"áIJħ":144580,"ÅĴ":144581,"ðŁijī":144582,"ﻦ":144583,"Ъ":144584,"ë¥ľ":144585,"íķ«":144586,"ï¾ĭ":144587,"âĻ«":144588,"ê¹ľ":144589,"ë°¸":144590,"ëĶĺ":144591,"íĿī":144592,"ï¾ģ":144593,"ï¾Ľ":144594,"볼":144595,"ê²¹":144596,"쿼":144597,"ﻬ":144598,"âŀ¤":144599,"ðŁĻģ":144600,"ïºł":144601,"ëĨ¨":144602,"믹":144603,"ê¸ĭ":144604,"ë»Ķ":144605,"ê¹ĥ":144606,"ëijij":144607,"íĭ¸":144608,"íİĻ":144609,"âŀĸ":144610,"ãĥ½":144611,"ì§ļ":144612,"ャ":144613,"ﻥ":144614,"íĮ½":144615,"âĢĴ":144616,"ìĮĢ":144617,"ìŃī":144618,"ëļ±":144619,"ãĤŀ":144620,"íĭĪ":144621,"ãĤIJ":144622,"ëīĺ":144623,"Σ":144624,"ê³°":144625,"ë¹Ĺ":144626,"ï¾İ":144627,"ðŁĺŃ":144628,"íĿł":144629,"ìĹ¿":144630,"ê°ļ":144631,"ì¤Į":144632,"ë§µ":144633,"ï½³":144634,"ãģ¢":144635,"ï»Ĺ":144636,"âī¦":144637,"Ú¤":144638,"ëłģ":144639,"ê¼½":144640,"ﻫ":144641,"âī§":144642,"ì´Ľ":144643,"ìłĿ":144644,"Ằ":144645,"âĻ£":144646,"ìºĺ":144647,"âĪĩ":144648,"ê²ī":144649,"ë°Ł":144650,"ï»Ķ":144651,"íĸĩ":144652,"âĸĴ":144653,"ðŁijı":144654,"Ãŀ":144655,"ðŁĺĨ":144656,"ﺼ":144657,"âĿĹ":144658,"ìºĶ":144659,"칩":144660,"ëĸ¤":144661,"ëĥħ":144662,"âĶľ":144663,"ï½»":144664,"ÎĶ":144665,"áĥ¦":144666,"ìŀİ":144667,"âĺĢ":144668,"âμ":144669,"ðŁĶ¥":144670,"ë°Į":144671,"ìłĸ":144672,"íĹĽ":144673,"Îķ":144674,"ïºĥ":144675,"ë¶ī":144676,"âĪŀ":144677,"íĥŃ":144678,"Ãĭ":144679,"âģĦ":144680,"ãħĩ":144681,"ëĦ¥":144682,"ëĭ®":144683,"ëł·":144684,"íĮĿ":144685,"캡":144686,"ë·Ķ":144687,"ì©į":144688,"íĤ´":144689,"ëļ«":144690,"âĵĴ":144691,"íķį":144692,"âĻĤ":144693,"ï¾Ĩ":144694,"âĨ©":144695,"ìį©":144696,"ïºķ":144697,"íĿĻ":144698,"Ñľ":144699,"íĤ·":144700,"íĿ°":144701,"íĥ±":144702,"ëķIJ":144703,"ï¾Ĵ":144704,"×ĥ":144705,"ëĮĦ":144706,"ìĺ´":144707,"ìķµ":144708,"ê¹¥":144709,"ëŀŃ":144710,"쪼":144711,"ãİĿ":144712,"ðŁĺħ":144713,"ëıĭ":144714,"몫":144715,"ﺸ":144716,"뮬":144717,"ë²ħ":144718,"ëijł":144719,"ìħ°":144720,"ì»·":144721,"ëĶª":144722,"ëħĶ":144723,"ãħ¡":144724,"ìĶ»":144725,"íķı":144726,"ëį±":144727,"ﺨ":144728,"ï¾į":144729,"ï½µ":144730,"ì¢Ģ":144731,"íİĮ":144732,"ï»°":144733,"ﺣ":144734,"Æ£":144735,"ðŁ¤£":144736,"ï·º":144737,"ëĤļ":144738,"âĭĨ":144739,"ë³į":144740,"ðŁĺĦ":144741,"ìĸĢ":144742,"ìĻł":144743,"ëĨĶ":144744,"íŨ":144745,"ï»Ľ":144746,"ï»Ŀ":144747,"á»¶":144748,"ìĸĺ":144749,"ìİĦ":144750,"ÚĨ":144751,"ï»ŀ":144752,"ëĢIJ":144753,"ê²Ķ":144754,"ﻵ":144755,"âŦ":144756,"íļŁ":144757,"ê¹ģ":144758,"ê°ĵ":144759,"ëĶ´":144760,"ìıĺ":144761,"ëļĿ":144762,"ỳ":144763,"ëŀ´":144764,"ëĦī":144765,"âĺŀ":144766,"ï½ĺ":144767,"Ž":144768,"ë¦İ":144769,"âĸ¬":144770,"ëŃī":144771,"âĩĽ":144772,"ìį¬":144773,"ïºŁ":144774,"Ëľ":144775,"ë¶ĵ":144776,"ìĽ°":144777,"Åľ":144778,"ëŃĩ":144779,"Ỳ":144780,"Ëļ":144781,"ëķĢ":144782,"âĺij":144783,"ðŁı¼":144784,"ìĸ½":144785,"âĮĴ":144786,"Ðİ":144787,"ɾ":144788,"íĮ¡":144789,"ï¾ħ":144790,"ìŀŃ":144791,"ィ":144792,"칫":144793,"ìľĮ":144794,"ÒĽ":144795,"굿":144796,"ëĭ¦":144797,"âĶĶ":144798,"ï¾ij":144799,"ì§ĸ":144800,"ìºĦ":144801,"ãĢĥ":144802,"ʼ":144803,"ê²Ł":144804,"ï½§":144805,"Ä¢":144806,"íİł":144807,"ë§·":144808,"ê°ĩ":144809,"ìĭ¹":144810,"ðŁĴ¦":144811,"ï¾ľ":144812,"ëĬĻ":144813,"벡":144814,"Å¿":144815,"ðŁĺĭ":144816,"ðŁĴª":144817,"ì¿Ħ":144818,"ë©ķ":144819,"ìѤ":144820,"ëĬĦ":144821,"ðŁĮ¸":144822,"ãĤĿ":144823,"Çİ":144824,"ï½ļ":144825,"ÄĹ":144826,"ëģĵ":144827,"ê¶IJ":144828,"áµī":144829,"ãĥĤ":144830,"ê»į":144831,"ðŁĺ¦":144832,"ãĢĿ":144833,"ð٤Ĺ":144834,"ÑŁ":144835,"ìĹİ":144836,"âľĮ":144837,"ìīIJ":144838,"ÃĨ":144839,"íĹIJ":144840,"ðŁİī":144841,"Îij":144842,"ï½Ń":144843,"ðŁĴĻ":144844,"ìĽ¬":144845,"íĢĺ":144846,"ﻢ":144847,"ðŁĺİ":144848,"íij¼":144849,"íĿ©":144850,"ï»Ħ":144851,"íħĢ":144852,"ëłIJ":144853,"쥬":144854,"Ðĭ":144855,"ìĥ·":144856,"뾬":144857,"ðŁĺĥ":144858,"ëĦ¬":144859,"륨":144860,"ìĽį":144861,"ï½Ĩ":144862,"ï½´":144863,"ãĥħ":144864,"Ãı":144865,"ﻪ":144866,"âĻł":144867,"ëĬ¬":144868,"ë±Ģ":144869,"ë°ĭ":144870,"ìĥĢ":144871,"ï½¾":144872,"ëĤ±":144873,"컸":144874,"ðŁĴĸ":144875,"ðŁijĮ":144876,"Ñŀ":144877,"ì§±":144878,"ËĨ":144879,"ðŁĵļ":144880,"âŃķ":144881,"ï¬Ĥ":144882,"ﻡ":144883,"ëij¬":144884,"íμ":144885,"âĸ¸":144886,"ê°¯":144887,"ê¹ħ":144888,"ï½®":144889,"ëĺ¥":144890,"Ä¡":144891,"íĮŁ":144892,"ÐĮ":144893,"ìĨŁ":144894,"ïºĵ":144895,"ﻼ":144896,"ÃĽ":144897,"ãĥ¾":144898,"ëĮĵ":144899,"íĴĭ":144900,"ìķĵ":144901,"ï½¹":144902,"ëĤ¡":144903,"ðŁijĩ":144904,"Ẽ":144905,"ãĢŁ":144906,"ðŁĮŁ":144907,"íĥł":144908,"ãĢĨ":144909,"âĢŁ":144910,"ë¸IJ":144911,"ðŁĮ¹":144912,"ìł¼":144913,"ðŁĵĮ":144914,"ìͬ":144915,"âĹĢ":144916,"ðŁĴĵ":144917,"ê¹İ":144918,"ìĤIJ":144919,"ìĶĮ":144920,"ÑĽ":144921,"âĶĪ":144922,"ë²³":144923,"ãİŀ":144924,"Õ¡":144925,"íĤµ":144926,"ð٤Ķ":144927,"ëĢĶ":144928,"ìĬIJ":144929,"íĻī":144930,"⾦":144931,"ëľ¯":144932,"ìł¯":144933,"ëͧ":144934,"Φ":144935,"ËĪ":144936,"ìī¼":144937,"âĹĬ":144938,"ëľ©":144939,"ëľ°":144940,"ï¾IJ":144941,"ë¿Ķ":144942,"ìĹ®":144943,"ì·Į":144944,"ﺧ":144945,"ÎĴ":144946,"ëµĻ":144947,"ï»Ĭ":144948,"ì°Ķ":144949,"íİĦ":144950,"ðŁĴĹ":144951,"Ẵ":144952,"ì°¢":144953,"íľ¼":144954,"ê½Ĥ":144955,"ì±Ķ":144956,"ìī´":144957,"âĸ¾":144958,"íΰ":144959,"ëĭĽ":144960,"âĿ£":144961,"ェ":144962,"ðŁĴľ":144963,"Ëĺ":144964,"ãħ¤":144965,"âĨĹ":144966,"íĸĦ":144967,"âϬ":144968,"ìķ°":144969,"ïºľ":144970,"âī¡":144971,"ãĢĵ":144972,"ìij¥":144973,"íĮį":144974,"íīģ":144975,"ë»Ĺ":144976,"íľł":144977,"íľ©":144978,"âľĪ":144979,"íĢĦ":144980,"ìĸĩ":144981,"ì¢ĩ":144982,"íŀĻ":144983,"몹":144984,"ãĤĽ":144985,"ðŁĺ±":144986,"ëįŁ":144987,"à¹ħ":144988,"êµ¶":144989,"Ù«":144990,"ìĶģ":144991,"âľª":144992,"ï¾Ī":144993,"ðŁĻĮ":144994,"âļ¡":144995,"Îļ":144996,"ì¼Ī":144997,"ï¾Ķ":144998,"ï¾Ĥ":144999,"êµī":145000,"ﺻ":145001,"ðŁĴĭ":145002,"á¹£":145003,"ÓĻ":145004,"ìĨľ":145005,"ìĹ£":145006,"âľ©":145007,"ìľĻ":145008,"ﺰ":145009,"Ẳ":145010,"ìŀ£":145011,"âĿĮ":145012,"âĺģ":145013,"ìķİ":145014,"Ľ":145015,"Ûģ":145016,"ãĦ±":145017,"ëŁ¿":145018,"íĮ¸":145019,"ê½ī":145020,"ìıł":145021,"ðŁįĢ":145022,"âĨĶ":145023,"ëŃ¡":145024,"ï»ģ":145025,"ï¼Ħ":145026,"ðŁĴ¥":145027,"âĺĽ":145028,"íĹ·":145029,"ëij¡":145030,"Îł":145031,"Τ":145032,"âĦĵ":145033,"ﺷ":145034,"ÎĻ":145035,"ëıĶ":145036,"짤":145037,"âĶĥ":145038,"ãĦ·":145039,"ÇĴ":145040,"ðŁ¥°":145041,"ëĶķ":145042,"ìļ¥":145043,"ì¸Ħ":145044,"íĽĶ":145045,"ïºĩ":145046,"ﺬ":145047,"ðŁĺ¢":145048,"빡":145049,"ì͹":145050,"ų":145051,"ËĿ":145052,"íİij":145053,"ï¾ĵ":145054,"ðŁĴļ":145055,"ëĬij":145056,"꺾":145057,"íĨ°":145058,"ÿ":145059,"ÐĦ":145060,"ëĮIJ":145061,"ë½Ģ":145062,"ì·Ħ":145063,"ðŁĵį":145064,"ðŁĻĪ":145065,"âĹĪ":145066,"ê¿ĩ":145067,"ì¼Ħ":145068,"íİ«":145069,"ðŁĩ·":145070,"âĶĭ":145071,"âļł":145072,"ë±ī":145073,"ìį°":145074,"ìĻĪ":145075,"ɪ":145076,"ïºĭ":145077,"ðŁĺľ":145078,"ÎŁ":145079,"ðŁĻĤ":145080,"âļ½":145081,"ÅĪ":145082,"ë¹Ķ":145083,"íĮľ":145084,"à¹ı":145085,"ìĸ¹":145086,"íĪŃ":145087,"ðŁ¥ĩ":145088,"ãĦ´":145089,"ëĶ¥":145090,"ìŃĪ":145091,"âĪĨ":145092,"ëĸ³":145093,"ë±ĥ":145094,"ìŀ¦":145095,"ï»IJ":145096,"Îľ":145097,"âľ§":145098,"Ïį":145099,"ìłĵ":145100,"âĹķ":145101,"ëĴĢ":145102,"ï»Ģ":145103,"ðŁĶ´":145104,"ê½ģ":145105,"ëĮĪ":145106,"ëİĮ":145107,"ãĤİ":145108,"â¦ģ":145109,"ì½§":145110,"ﯾ":145111,"âĿ¯":145112,"à¸ħ":145113,"ðŁĻĦ":145114,"âĿĢ":145115,"ðŁĶ¹":145116,"âĩIJ":145117,"êµµ":145118,"âĩĶ":145119,"ë¶IJ":145120,"ðŁĴĽ":145121,"ξ":145122,"íĥ¬":145123,"âĿĦ":145124,"Ò£":145125,"ã̰":145126,"âĪij":145127,"âĺ¼":145128,"âīł":145129,"Ò¯":145130,"ﺯ":145131,"꿨":145132,"âľĸ":145133,"Êĸ":145134,"íĢĢ":145135,"ê¾Ģ":145136,"íĹĿ":145137,"âĶ£":145138,"ãİľ":145139,"ëĶĽ":145140,"뾸":145141,"ﺫ":145142,"ê¿°":145143,"ðŁĩ¹":145144,"ÇIJ":145145,"ÛĴ":145146,"룻":145147,"ïºĸ":145148,"Ñļ":145149,"ëĬł":145150,"Ûķ":145151,"깡":145152,"ë¿ľ":145153,"ì²¼":145154,"ï¨ij":145155,"륵":145156,"ìį¸":145157,"íħħ":145158,"íij¹":145159,"ÖĢ":145160,"ï³Į":145161,"ãħ£":145162,"ìij¤":145163,"ì½ķ":145164,"ëķł":145165,"ðŁĮ¿":145166,"íĥĶ":145167,"ìĽģ":145168,"ζ":145169,"âŀľ":145170,"ìĬĺ":145171,"íĽĹ":145172,"ë©§":145173,"ìīĺ":145174,"Õ¶":145175,"á¹ĩ":145176,"ðŁİģ":145177,"ソ":145178,"ï¼Ĥ":145179,"á¼IJ":145180,"âľķ":145181,"âŀ¢":145182,"ëĦ¨":145183,"컫":145184,"ì¯Ķ":145185,"ì°ľ":145186,"ðŁĴ°":145187,"íħĿ":145188,"ãİı":145189,"ë³¶":145190,"Òĵ":145191,"âĨ³":145192,"ìĥ´":145193,"íģĺ":145194,"âĸĢ":145195,"ë²Ļ":145196,"à¸ĥ":145197,"á½¶":145198,"Äķ":145199,"â¬ĩ":145200,"ë¤ĺ":145201,"ðŁİµ":145202,"âľļ":145203,"ïºı":145204,"Ρ":145205,"âĹī":145206,"ðŁĴ«":145207,"ÐĪ":145208,"ìĸĦ":145209,"ì§Ļ":145210,"ï»ĥ":145211,"ðĿijĴ":145212,"ëŃĦ":145213,"âĿ¥":145214,"âĿĸ":145215,"âĺĿ":145216,"ʹ":145217,"ḥ":145218,"âĢ¿":145219,"ãħħ":145220,"ê¸ģ":145221,"ëķ¡":145222,"ëį¥":145223,"âĪ©":145224,"ê»Ħ":145225,"ë®Į":145226,"Ò±":145227,"âĪĹ":145228,"ëłĻ":145229,"ïºĮ":145230,"ËIJ":145231,"ðŁĺ³":145232,"ðŁij©":145233,"ðŁİ¶":145234,"쿵":145235,"ðŁ¤©":145236,"ê·¤":145237,"ëĮĶ":145238,"ïºIJ":145239,"Ïİ":145240,"ì¶¥":145241,"ï½Ĭ":145242,"á¹Ń":145243,"뤼":145244,"âĸ«":145245,"ì§ł":145246,"á¼Ģ":145247,"ê»ij":145248,"ëĮģ":145249,"í̏":145250,"âĻĽ":145251,"ðŁĴŀ":145252,"âĸ°":145253,"ðĿijĸ":145254,"ëĿ¤":145255,"द":145256,"ì´ĺ":145257,"ðŁĺĩ":145258,"ëͤ":145259,"ÎĹ":145260,"ðŁĻĩ":145261,"ËĽ":145262,"ì©¡":145263,"âΧ":145264,"Õ¥":145265,"ÑĻ":145266,"ëIJ¬":145267,"ëĸĦ":145268,"ðŁĮ·":145269,"ìĹĮ":145270,"ðŁĺ¥":145271,"ëĪ´":145272,"ï»ļ":145273,"ÉĽ":145274,"ïºĦ":145275,"ï»ı":145276,"ÅĮ":145277,"ë²ļ":145278,"ìĭ£":145279,"ïºĢ":145280,"Îĵ":145281,"ðŁĺĮ":145282,"ËĻ":145283,"ëŀı":145284,"ðŁĶ¸":145285,"ðŁĵ·":145286,"ëģ½":145287,"íģ½":145288,"ðŁĴ¡":145289,"ðŁĮ±":145290,"ëºı":145291,"ìģł":145292,"ìĥIJ":145293,"ëıĹ":145294,"츰":145295,"ëĪķ":145296,"ÎĿ":145297,"âģī":145298,"ðŁĮ¼":145299,"íĮł":145300,"âĭ¯":145301,"áĥĺ":145302,"⾤":145303,"ê±Ķ":145304,"íĮİ":145305,"ðŁĴ¯":145306,"ìıĻ":145307,"íĹī":145308,"ÙŃ":145309,"ì½°":145310,"ﺿ":145311,"ï»±":145312,"ì±Į":145313,"âĺķ":145314,"ðŁİĢ":145315,"ÄĿ":145316,"ë°§":145317,"ìĤ¿":145318,"áijķ":145319,"ðŁįĥ":145320,"âĩ¨":145321,"ÎĽ":145322,"ë§´":145323,"ë³ķ":145324,"áijIJ":145325,"âĸĵ":145326,"ðĿijľ":145327,"âĻ»":145328,"íĤ¥":145329,"Õ¸":145330,"ãα":145331,"ëºĢ":145332,"첸":145333,"ïºĽ":145334,"ðŁıĨ":145335,"ðŁĩª":145336,"âĿĵ":145337,"ÄĢ":145338,"ì½¥":145339,"ðŁĩ§":145340,"á½·":145341,"âľĤ":145342,"ìŀ¼":145343,"ï§¡":145344,"ðŁĵ¸":145345,"âϝ":145346,"ÉĶ":145347,"ὸ":145348,"âĮª":145349,"ï»ĸ":145350,"不":145351,"âļ«":145352,"âĶĹ":145353,"ðŁĮĪ":145354,"ﻩ":145355,"ðŁĵ²":145356,"ÏĪ":145357,"ðŁĺ¡":145358,"ðĿijİ":145359,"ìľ½":145360,"짬":145361,"ì§Ĭ":145362,"á½³":145363,"ìĮ¤":145364,"ëĤį":145365,"âīĴ":145366,"ðŁij¨":145367,"âĺĺ":145368,"Ó©":145369,"âĤĵ":145370,"âĪĤ":145371,"ï¹ģ":145372,"ðŁĴIJ":145373,"íħĥ":145374,"ðŁı½":145375,"ê·Ħ":145376,"ðŁĺı":145377,"ðŁĮº":145378,"ðŁĺĶ":145379,"ォ":145380,"âľİ":145381,"ëµĪ":145382,"ðŁĩ¸":145383,"âĢ£":145384,"âŀĶ":145385,"ëĺĺ":145386,"ìĥ¬":145387,"Êĥ":145388,"â¬ħ":145389,"ì©IJ":145390,"ðŁĻĨ":145391,"ðŁİĦ":145392,"ľ":145393,"⣶":145394,"áĥIJ":145395,"âĺ»":145396,"ì±ķ":145397,"ìģ©":145398,"ë½ķ":145399,"캣":145400,"ðŁijĪ":145401,"ðŁĻĭ":145402,"ï¾ĸ":145403,"Òļ":145404,"Õ«":145405,"ìĮĪ":145406,"ë²§":145407,"ðŁĩ®":145408,"ï½Ŀ":145409,"ðŁįģ":145410,"ìĹ¥":145411,"ij":145412,"ë½IJ":145413,"íį½":145414,"íĽij":145415,"âĤ¹":145416,"ãħģ":145417,"ìͽ":145418,"ðŁĶģ":145419,"य":145420,"ê¾¹":145421,"ëīľ":145422,"âĹ¡":145423,"íķĮ":145424,"Îĺ":145425,"룹":145426,"ìĻĵ":145427,"ðŁĩ¦":145428,"ðŁijĢ":145429,"âĶĮ":145430,"ῦ":145431,"ëĦĽ":145432,"ìĦ£":145433,"ìŃĻ":145434,"ï±ł":145435,"Îŀ":145436,"Ê»":145437,"á¿¶":145438,"âĿĿ":145439,"ê±Ģ":145440,"ëĸ´":145441,"ãĦ¹":145442,"ðŁĴİ":145443,"Ϲ":145444,"âĽħ":145445,"ï»ķ":145446,"ãĥ±":145447,"ï½Ľ":145448,"ëĮķ":145449,"ë¹½":145450,"ì¥Ķ":145451,"쿤":145452,"ðŁĸ¤":145453,"ÑĴ":145454,"ê¹į":145455,"ëİĢ":145456,"ìĭ¯":145457,"뻤":145458,"ðŁĵŀ":145459,"ðŁĵ£":145460,"ðŁĺĿ":145461,"ìį¹":145462,"ìĹ¡":145463,"ì°IJ":145464,"á½IJ":145465,"ï»Ī":145466,"âľį":145467,"Äı":145468,"ðŁĮŀ":145469,"âĦ¦":145470,"ê½Ŀ":145471,"ë»ĺ":145472,"ìα":145473,"âĶĺ":145474,"ðŁĮ»":145475,"âĤ´":145476,"âŀ¨":145477,"íIJģ":145478,"ê¶Ī":145479,"âĺ¢":145480,"ðŁĺĪ":145481,"ゥ":145482,"âĦĹ":145483,"ê°Ń":145484,"ê°¸":145485,"ë»ij":145486,"쥴":145487,"컥":145488,"ï¤Ĭ":145489,"ï»Ĵ":145490,"ðŁĺķ":145491,"âĺĶ":145492,"ìĺIJ":145493,"ðŁļĹ":145494,"ëĹĦ":145495,"ë§ı":145496,"Õ½":145497,"âĸ»":145498,"⣵":145499,"ìī°":145500,"ï»ij":145501,"âĻ©":145502,"Î¥":145503,"ðŁĺ£":145504,"âĬĤ":145505,"ãħĤ":145506,"ìħ¸":145507,"íıĦ":145508,"âľ½":145509,"ì¦Ļ":145510,"âĸ£":145511,"ê±į":145512,"ê¿ĭ":145513,"ì«Ħ":145514,"ìºĩ":145515,"ðŁĩµ":145516,"ðŁijij":145517,"âľĺ":145518,"ðĿijĽ":145519,"ìį½":145520,"ìºī":145521,"וּ":145522,"ðŁĶº":145523,"âĦ®":145524,"íĥ¤":145525,"ðŁĩº":145526,"ðŁĴµ":145527,"íħ¨":145528,"ï½ij":145529,"Ψ":145530,"ìĥ¹":145531,"ìĸķ":145532,"ì¹µ":145533,"ðŁĵ±":145534,"व":145535,"ðŁijĬ":145536,"ðŁĴĦ":145537,"ðŁĴĿ":145538,"ãĮĶ":145539,"ìĻģ":145540,"Ðĩ":145541,"à®IJ":145542,"âĸ¹":145543,"á´Ľ":145544,"âĹĺ":145545,"뺨":145546,"íĥī":145547,"ìĸĮ":145548,"ðŁIJ¶":145549,"ãĤij":145550,"Ëĩ":145551,"Åı":145552,"á½¹":145553,"ìħ§":145554,"ï¹°":145555,"ðĿij¡":145556,"ðŁĶĿ":145557,"ðŁĺ»":145558,"ðŁĴĥ":145559,"ðŁ¤¦":145560,"ðŁįĴ":145561,"í̵":145562,"âľĨ":145563,"ë¹´":145564,"理":145565,"ï»Ļ":145566,"á´Ĺ":145567,"ðŁĮ´":145568,";":145569,"ëĮij":145570,"ì¨ĭ":145571,"쵸":145572,"ðŁİĪ":145573,"ðŁıł":145574,"á½±":145575,"ÛĨ":145576,"á¿ĸ":145577,"âĢĽ":145578,"ì°¼":145579,"íķ¥":145580,"íĹ´":145581,"ðŁĩ¬":145582,"ì°Ŀ":145583,"âĪł":145584,"ï¼ĩ":145585,"âĬĻ":145586,"âĿij":145587,"ëĦĭ":145588,"ëŀĹ":145589,"ë°ī":145590,"ìĹĬ":145591,"ì¢Ĩ":145592,"íĮ¥":145593,"ï°²":145594,"ðŁĵĸ":145595,"ðŁĺ®":145596,"âļª":145597,"ðŁĺļ":145598,"âĿŀ":145599,"ðĿijŁ":145600,"ðŁİĤ":145601,"Åķ":145602,"áIJĪ":145603,"꺽":145604,"ì±ł":145605,"ïºĿ":145606,"ê¿ī":145607,"áĥł":145608,"ðŁıĥ":145609,"ðŁĴ¸":145610,"âĿģ":145611,"âĹ¾":145612,"Úª":145613,"á¹ĥ":145614,"íĬ¬":145615,"ðŁĩ±":145616,"íİŃ":145617,"ðŁĺŀ":145618,"ë¾°":145619,"á¹Ľ":145620,"뼸":145621,"âĿĤ":145622,"êĴ³":145623,"âĶIJ":145624,"íĵ°":145625,"âŀł":145626,"ê´ĺ":145627,"ëħĺ":145628,"뻥":145629,"ì¾ħ":145630,"ðŁĺIJ":145631,"âĪª":145632,"ðŁijģ":145633,"âĪ´":145634,"âĹģ":145635,"ëºIJ":145636,"ìŀ¤":145637,"ì±Ĺ":145638,"ðŁı¾":145639,"Χ":145640,"á½»":145641,"âŀ¥":145642,"ìŁĪ":145643,"ï»ī":145644,"âĸĮ":145645,"ãĥ®":145646,"ðŁ¤¤":145647,"âĩĵ":145648,"ì¼ł":145649,"á´ı":145650,"맬":145651,"뻣":145652,"ðŁĴ¬":145653,"ðŁįĵ":145654,"ĸ":145655,"Ù¹":145656,"Ê¿":145657,"á½°":145658,"ëķľ":145659,"ì°¡":145660,"ì°»":145661,"íİį":145662,"ðŁİ¯":145663,"ðŁįĤ":145664,"ðŁij§":145665,"âĻ¢":145666,"áĨŀ":145667,"âϧ":145668,"âļľ":145669,"âľī":145670,"ëĵ¦":145671,"ëŃ£":145672,"ìĪı":145673,"ìĵ±":145674,"ÅŃ":145675,"ÊĬ":145676,"âĴ¸":145677,"âĩ©":145678,"ðŁĴĶ":145679,"Õµ":145680,"Ðī":145681,"Ò»":145682,"ë§£":145683,"ìĽľ":145684,"ì¿¡":145685,"íĽħ":145686,"íĽ¤":145687,"ﺢ":145688,"âľĭ":145689,"âĪĪ":145690,"ðŁĮį":145691,"Êľ":145692,"ëĬª":145693,"ëĴ¹":145694,"ﺲ":145695,"âĸĦ":145696,"ãħĪ":145697,"ëļ¤":145698,"íİ©":145699,"â΍":145700,"ðŁ¤ª":145701,"áĥļ":145702,"ê³¶":145703,"íĬķ":145704,"ðŁĺ¬":145705,"âĪ«":145706,"ðŁijĭ":145707,"ÒIJ":145708,"íĬ¿":145709,"ðŁĶµ":145710,"ðŁĴ¨":145711,"ðŁĮĻ":145712,"ëĩ©":145713,"âľ³":145714,"ë¨ģ":145715,"ëºĦ":145716,"ìĻij":145717,"ìºħ":145718,"íıĪ":145719,"ðĿijĻ":145720,"ðŁĴĺ":145721,"ãİ¥":145722,"âĿı":145723,"âľ°":145724,"ﯿ":145725,"ëµIJ":145726,"ì¼IJ":145727,"ﺱ":145728,"Õ´":145729,"ï¬Ģ":145730,"âľ´":145731,"ð٤Ń":145732,"ðŁijĨ":145733,"âĽĶ":145734,"ê·ĵ":145735,"ìĮĮ":145736,"ðŁ¤·":145737,"ÛĶ":145738,"ðŁ§¡":145739,"ðŁĺĵ":145740,"Îĸ":145741,"âı°":145742,"ê²ľ":145743,"ëĭ³":145744,"ëİħ":145745,"ë°Ī":145746,"ï®IJ":145747,"ðŁı¡":145748,"âĨª":145749,"âĵĶ":145750,"âľĬ":145751,"ϲ":145752,"ÜIJ":145753,"ðŁĩ³":145754,"ÖĤ":145755,"âľı":145756,"ìĸĹ":145757,"ì«Ļ":145758,"ðŁĺ²":145759,"ÄŃ":145760,"âĻŃ":145761,"âĶı":145762,"âĹĮ":145763,"ðŁĺ¯":145764,"áµĴ":145765,"íĬł":145766,"Ä·":145767,"Êģ":145768,"à¤Ł":145769,"á¹ģ":145770,"á¼°":145771,"á¿Ĩ":145772,"â«":145773,"⫸":145774,"ëį«":145775,"ì³ĩ":145776,"켤":145777,"íĽ¨":145778,"ðŁĴŁ":145779,"ÊĢ":145780,"ʳ":145781,"ëĵIJ":145782,"âķ°":145783,"âĿĩ":145784,"ÇĢ":145785,"ÇĶ":145786,"É´":145787,"âĺļ":145788,"âĺľ":145789,"ê¶Ĥ":145790,"ì«Ĵ":145791,"ì±Ī":145792,"ðŁĩ¨":145793,"ðŁİ¥":145794,"ðŁĵĿ":145795,"ħ":145796,"ðĿijIJ":145797,"ÛĪ":145798,"ब":145799,"ì¬IJ":145800,"íĹ¥":145801,"âύ":145802,"ðŁį´":145803,"ï¹ı":145804,"Ëĭ":145805,"ðŁ¥º":145806,"âĸ¨":145807,"íĻĭ":145808,"âĪħ":145809,"ëģĻ":145810,"ëŀł":145811,"ìĨ¥":145812,"âĢĸ":145813,"ð٤ĺ":145814,"ðŁIJ»":145815,"áµķ":145816,"ÇĿ":145817,"âĺı":145818,"ïºļ":145819,"ï»Ĥ":145820,"ðŁļ©":145821,"ìĪŁ":145822,"ËĬ":145823,"⤵":145824,"ðŁĴ§":145825,"ãħį":145826,"ë©©":145827,"Ƭ":145828,"Îĩ":145829,"âĩ§":145830,"âĵļ":145831,"ìĤ¯":145832,"ìΝ":145833,"ëĨĭ":145834,"âľ¯":145835,"ðŁļĢ":145836,"Úĺ":145837,"Ú¨":145838,"âľŃ":145839,"ê²ħ":145840,"íĮ°":145841,"íľĻ":145842,"ðŁĮĬ":145843,"ðŁİĵ":145844,"ðŁĺĻ":145845,"Ëĥ":145846,"ðŁĴģ":145847,"ðŁijİ":145848,"âĺ¹":145849,"ðŁĺ«":145850,"ðŁĴ»":145851,"ëĤµ":145852,"ìĿĬ":145853,"íĮ»":145854,"Ò³":145855,"á½²":145856,"âŀŀ":145857,"ëĤij":145858,"ëĿĪ":145859,"죤":145860,"ﻯ":145861,"ðŁĩ©":145862,"ðŁ¥³":145863,"âĴ¼":145864,"ð٦ĭ":145865,"âĺĤ":145866,"ðŁĺ°":145867,"ðŁĻĥ":145868,"ðŁĺĴ":145869,"Ûİ":145870,"Ïķ":145871,"Ḥ":145872,"룽":145873,"ìĬ¥":145874,"ðĿijī":145875,"ÉIJ":145876,"ðŁįİ":145877,"âķ¯":145878,"âķ¹":145879,"າ":145880,"ï¾ł":145881,"ë¹ķ":145882,"ïºĨ":145883,"ʺ":145884,"Ó§":145885,"âĨł":145886,"ëĥĩ":145887,"ìİĪ":145888,"ìŁ¤":145889,"ï±¢":145890,"âķ¬":145891,"âĺł":145892,"ðŁİĬ":145893,"ãįį":145894,"ãİİ":145895,"âĺ°":145896,"âľĥ":145897,"ãħī":145898,"ë¯Ī":145899,"빤":145900,"ìıŃ":145901,"ðĿij¢":145902,"ðŁIJ¾":145903,"Åĭ":145904,"ðŁij¶":145905,"âĶĽ":145906,"ï¿¢":145907,"áĥ¡":145908,"ļ":145909,"ÅĨ":145910,"ÑIJ":145911,"ìĥĽ":145912,"ìĺĮ":145913,"챤":145914,"íħģ":145915,"íļĥ":145916,"ï³Ĭ":145917,"ðĿijĶ":145918,"ðŁĩ«":145919,"âĭ°":145920,"ðŁĺ¨":145921,"âĤ©":145922,"Õ¬":145923,"á¸į":145924,"á»´":145925,"âĨĺ":145926,"âĺ¯":145927,"ãħı":145928,"ìł¬":145929,"âĻĶ":145930,"ðŁĶĶ":145931,"ðŁĺł":145932,"ðŁĻĬ":145933,"à®ľ":145934,"á¹ħ":145935,"âĹIJ":145936,"âĿĪ":145937,"âŀ½":145938,"ìĥħ":145939,"ðĿijł":145940,"Æ¢":145941,"âĭĻ":145942,"ê°Ľ":145943,"ëĿµ":145944,"ë£Ł":145945,"ìıľ":145946,"ïºģ":145947,"ðŁĴŃ":145948,"âĬĥ":145949,"ðŁIJ°":145950,"ãħĮ":145951,"Üĵ":145952,"âŀķ":145953,"á½ģ":145954,"ìķ³":145955,"ðĿijĿ":145956,"ðŁİ¬":145957,"É¡":145958,"à¤Ĺ":145959,"áIJī":145960,"ì©ľ":145961,"ì¶§":145962,"ï³ī":145963,"ï»ħ":145964,"ðĿIJŀ":145965,"श":145966,"ðŁĵ¢":145967,"ðŁįĭ":145968,"ðŁĴħ":145969,"ï¾ķ":145970,"â¬Ĩ":145971,"âε":145972,"ð٤ij":145973,"áĥ£":145974,"ÆĦ":145975,"ѹ":145976,"á¼Ķ":145977,"ê°ł":145978,"ê´Į":145979,"ê·IJ":145980,"뼴":145981,"ì±ĺ":145982,"ï®Ń":145983,"ﺹ":145984,"ﺾ":145985,"âľĹ":145986,"âĿ¦":145987,"ðŁij¦":145988,"áĥĹ":145989,"Ù²":145990,"á½´":145991,"âĪı":145992,"âľ®":145993,"ê¹°":145994,"ë²µ":145995,"ìĦĢ":145996,"ì©Ŀ":145997,"ïºŀ":145998,"ﺽ":145999,"ðŁĩŃ":146000,"ËĤ":146001,"ðŁįij":146002,"ðŁįĮ":146003,"ðŁĶ»":146004,"깬":146005,"ìĬŃ":146006,"ìľ·":146007,"ðŁĽij":146008,"ǧ":146009,"ë¼Ľ":146010,"ﺡ":146011,"ﺺ":146012,"ðĿijļ":146013,"ðŁĵ¦":146014,"ðŁĶİ":146015,"ðŁĹĵ":146016,"áĥĶ":146017,"âľĴ":146018,"âľ¡":146019,"ðŁĮµ":146020,"âĶķ":146021,"ëĢĿ":146022,"ðŁįĬ":146023,"âĺĥ":146024,"ìĺħ":146025,"ব":146026,"ð٦ģ":146027,"âݯ":146028,"ðŁIJķ":146029,"Ñ¿":146030,"।":146031,"à¼ĭ":146032,"ê·Ī":146033,"ì«Į":146034,"ðŁĩ°":146035,"âĿī":146036,"ì«Ģ":146037,"íĿĦ":146038,"ðĿIJ¢":146039,"ðŁļ¨":146040,"âϤ":146041,"ðŁĺ©":146042,"ðŁįį":146043,"ðŁĺij":146044,"ðŁļļ":146045,"ÖĦ":146046,"ë«":146047,"뫼":146048,"à¤ı":146049,"á¿·":146050,"âĮ©":146051,"âĺIJ":146052,"âŀ£":146053,"긱":146054,"꼿":146055,"ëĦĿ":146056,"ìı´":146057,"ìļ¤":146058,"쿱":146059,"íİIJ":146060,"ðŁĴ¢":146061,"ì´IJ":146062,"âĩij":146063,"âĶĵ":146064,"âģ¾":146065,"ÜĿ":146066,"ðŁį°":146067,"â´°":146068,"Æı":146069,"ÏŁ":146070,"Úº":146071,"Ûĥ":146072,"áĦĴ":146073,"âĪŁ":146074,"âĿį":146075,"ãĦ²":146076,"ìľħ":146077,"ì¤ı":146078,"ðŁĩ²":146079,"êºĦ":146080,"ðŁİ¤":146081,"âľ£":146082,"â¸Ŀ":146083,"︵":146084,"ວ":146085,"áĢĻ":146086,"âķł":146087,"Õ¯":146088,"âı©":146089,"ðĿij£":146090,"ðŁĴ£":146091,"Åĺ":146092,"à¥IJ":146093,"âģĥ":146094,"âĮĺ":146095,"ê»Į":146096,"ìĮĶ":146097,"ðĿijĺ":146098,"ð٤ĵ":146099,"Õ¿":146100,"à¤Ń":146101,"âĮļ":146102,"âľĿ":146103,"ðŁIJ¼":146104,"ËĮ":146105,"âķļ":146106,"ï¦Ĺ":146107,"âĿķ":146108,"âķ£":146109,"ðŁIJ±":146110,"த":146111,"Ѿ":146112,"à¤ļ":146113,"à¤ľ":146114,"ìĪĦ":146115,"ìļľ":146116,"ðŁİ®":146117,"ÉĴ":146118,"Ú·":146119,"àºį":146120,"âĨµ":146121,"âĪĺ":146122,"âĿĬ":146123,"ë¿į":146124,"ìIJĪ":146125,"ìļĺ":146126,"쯧":146127,"íĥ¯":146128,"ìĸı":146129,"︰":146130,"ðŁĩ¯":146131,"ð٧ļ":146132,"ðŁĺµ":146133,"ðŁĺ·":146134,"ðŁĮ³":146135,"ລ":146136,"Äī":146137,"Ä¥":146138,"âľ¶":146139,"῾":146140,"âĬ±":146141,"âĺ¾":146142,"ê°ī":146143,"ê¼°":146144,"ëºij":146145,"ðŁĶĬ":146146,"ðŁĸIJ":146147,"Ť":146148,"Ò«":146149,"à®®":146150,"âĮĪ":146151,"âĹĹ":146152,"ëĦµ":146153,"ëħľ":146154,"ëľ¹":146155,"ðĿij¥":146156,"ðŁĴ¿":146157,"ðŁĽĴ":146158,"ÊĴ":146159,"áŀĵ":146160,"ðŁIJĿ":146161,"ð٦Ħ":146162,"ðŁį·":146163,"âĺŁ":146164,"︶":146165,"ðŁ¤Ł":146166,"Ô±":146167,"âĨ²":146168,"âĪİ":146169,"âľ«":146170,"ëĩ½":146171,"ëıIJ":146172,"ëķĦ":146173,"靈":146174,"ï§Ŀ":146175,"ïºĻ":146176,"ðŁij»":146177,"ðŁĵº":146178,"êµ¼":146179,"ìĮ©":146180,"ðŁĮ²":146181,"ȱ":146182,"íĶķ":146183,"ðŁĺ¤":146184,"ãĮ¢":146185,"ÊĶ":146186,"ड":146187,"á¼Ī":146188,"ëİĥ":146189,"멱":146190,"ë®Ī":146191,"ðĿIJ«":146192,"âĬķ":146193,"ëĥł":146194,"뻬":146195,"íĭĶ":146196,"Õ¤":146197,"á¼±":146198,"âľ¥":146199,"âĺĦ":146200,"âĪ¥":146201,"âļķ":146202,"ðŁijĦ":146203,"ðŁİħ":146204,"àºĻ":146205,"âͬ":146206,"á½µ":146207,"Õ¾":146208,"Öģ":146209,"âĹĶ":146210,"ê¿į":146211,"ëĸµ":146212,"ë©İ":146213,"ë®´":146214,"ìķ´":146215,"áĥľ":146216,"ἡ":146217,"âĶĬ":146218,"âķ®":146219,"âĹ¼":146220,"ðŁį¾":146221,"ðŁĽį":146222,"ðŁijĹ":146223,"ð٤ŀ":146224,"âľĦ":146225,"ÕĢ":146226,"ল":146227,"Ëī":146228,"⣨":146229,"į":146230,"ÏĬ":146231,"á´ľ":146232,"ë¹³":146233,"ï³ĭ":146234,"ï¿ł":146235,"Ī":146236,"âĤ¸":146237,"âľ±":146238,"ê»IJ":146239,"ëĭ»":146240,"맸":146241,"ìŀ¿":146242,"쩨":146243,"ìŃIJ":146244,"ì°¿":146245,"íħŁ":146246,"ðĿIJ§":146247,"ðĿijij":146248,"ðŁĮİ":146249,"ðŁĵ®":146250,"ðŁķĶ":146251,"âĹĻ":146252,"âĹ»":146253,"âŀ§":146254,"ìŁĿ":146255,"⾬":146256,"ãĥ°":146257,"âģĪ":146258,"âĵĺ":146259,"ðŁĴĮ":146260,"ï¬ĥ":146261,"àºĶ":146262,"ìͰ":146263,"ðŁĺª":146264,"×Ģ":146265,"ìĥ¨":146266,"ïŃĭ":146267,"ðŁįķ":146268,"ðŁĺ´":146269,"ϳ":146270,"á¼Ħ":146271,"á½ħ":146272,"âĩ¢":146273,"âķŃ":146274,"ìĺ»":146275,"íĬ¤":146276,"Üĺ":146277,"⤴":146278,"âĹį":146279,"áŀŁ":146280,"ðŁįº":146281,"áŀļ":146282,"ðŁıĬ":146283,"ðŁIJ·":146284,"ÊĮ":146285,"ὺ":146286,"âģ»":146287,"ê½Į":146288,"ëĪĹ":146289,"ëĹı":146290,"ì¿°":146291,"í̼":146292,"íįħ":146293,"ï·²":146294,"ðŁĮı":146295,"ðŁį«":146296,"ðŁį³":146297,"ðŁİ°":146298,"ðŁij°":146299,"ðŁĴ²":146300,"á¥Ļ":146301,"ðŁIJŁ":146302,"ï¿¡":146303,"ðŁĹ£":146304,"ðŁįľ":146305,"âľ²":146306,"ãİ¢":146307,"ðŁĶ°":146308,"Ἰ":146309,"á½ij":146310,"Äİ":146311,"áĦĢ":146312,"âĻķ":146313,"ëłĿ":146314,"ìĪ´":146315,"ïŃŃ":146316,"Óľ":146317,"ÔĢ":146318,"ëĢľ":146319,"ëĥĶ":146320,"ìĬĽ":146321,"ì«ij":146322,"캥":146323,"캬":146324,"ðĿij¦":146325,"ðŁĶ¶":146326,"쾨":146327,"ðĿIJļ":146328,"ðŁį»":146329,"ðŁĴį":146330,"ðŁ¤¡":146331,"ðŁķĬ":146332,"â½ĩ":146333,"âĵIJ":146334,"ðŁįŃ":146335,"ðŁįª":146336,"ðŁĶĨ":146337,"Ò¡":146338,"á´ĩ":146339,"ÉĹ":146340,"ÜĶ":146341,"âĦİ":146342,"âĿĥ":146343,"ëĹĢ":146344,"ï²Ķ":146345,"ïºĪ":146346,"ðĿIJ»":146347,"ðŁĴĬ":146348,"ðŁļ«":146349,"Ѱ":146350,"ѳ":146351,"ष":146352,"âĹł":146353,"ðŁij¤":146354,"ï¾ĩ":146355,"âĺĵ":146356,"ðŁįµ":146357,"ðŁ¤¨":146358,"âĸŃ":146359,"à®´":146360,"Ü¢":146361,"ܬ":146362,"à´®":146363,"ðŁķº":146364,"Ô¹":146365,"Õ£":146366,"à´¯":146367,"á´Ģ":146368,"âĮī":146369,"âľIJ":146370,"âŀ¦":146371,"ê¹½":146372,"ëĮľ":146373,"ðŁı¥":146374,"ðŁĵ©":146375,"Ò¹":146376,"Óĺ":146377,"à¤ħ":146378,"âĿ§":146379,"ÆĹ":146380,"âĹ½":146381,"ðŁij«":146382,"ðŁİ§":146383,"ðŁij£":146384,"âľ»":146385,"ðŁĻħ":146386,"ðŁĺĸ":146387,"ðŁĴ®":146388,"ະ":146389,"ðŁĶľ":146390,"ðŁįĦ":146391,"ð٤Ŀ":146392,"áĥĿ":146393,"áŀĢ":146394,"âĩ¦":146395,"ʾ":146396,"Ò®":146397,"Õ¼":146398,"à¤Ĩ":146399,"âĹħ":146400,"âļĵ":146401,"âļĸ":146402,"ê¿©":146403,"ë¯Ħ":146404,"ìIJIJ":146405,"ìŀ°":146406,"ì§Ń":146407,"íĭĭ":146408,"íݨ":146409,"íϧ":146410,"ï²ij":146411,"ðŁİĹ":146412,"Ù³":146413,"ðŁij¸":146414,"ম":146415,"ðŁijķ":146416,"Úµ":146417,"â̾":146418,"âŀ°":146419,"ðŁij¯":146420,"ðŁİ¼":146421,"ðŁıģ":146422,"ĺ":146423,"Êı":146424,"Ú³":146425,"âı±":146426,"ê½Ī":146427,"ëĿĮ":146428,"ìĮī":146429,"ìĹ·":146430,"ìŀ´":146431,"íĹ¹":146432,"íľ¨":146433,"ðĿĹ²":146434,"ðŁĮIJ":146435,"ðŁİĻ":146436,"ðŁıµ":146437,"íĽĻ":146438,"ðĿijħ":146439,"ðŁĺ¶":146440,"âĵħ":146441,"âķ¥":146442,"ðŁįı":146443,"ï¦İ":146444,"Õ©":146445,"ðĿIJĦ":146446,"Ó£":146447,"Ú¿":146448,"âĻļ":146449,"ðŁĶĹ":146450,"ḫ":146451,"âĭ®":146452,"âĸ¦":146453,"âĽ½":146454,"âľµ":146455,"ãħĨ":146456,"ãħĬ":146457,"ëĦĻ":146458,"ëĿ¨":146459,"ë¥Ħ":146460,"ìĦ¦":146461,"ì§°":146462,"ì§¹":146463,"íīĪ":146464,"ï§ij":146465,"ï»ĩ":146466,"ðŁĮ¾":146467,"ðŁıĸ":146468,"ðŁIJij":146469,"ðŁĴ³":146470,"ðŁĵĨ":146471,"Ûĩ":146472,"Üķ":146473,"á½½":146474,"ëĦľ":146475,"à´²":146476,"à´³":146477,"àºŃ":146478,"áĥĽ":146479,"âĿĶ":146480,"âijħ":146481,"áĥ¥":146482,"ðŁĵħ":146483,"âŀ³":146484,"á´µ":146485,"﹡":146486,"ï¹¶":146487,"ÎĨ":146488,"थ":146489,"áīµ":146490,"âĿĻ":146491,"âĿ±":146492,"ëīł":146493,"ëİł":146494,"ëıĽ":146495,"ë¿ħ":146496,"ì͏":146497,"íij¯":146498,"íŀī":146499,"íŀĽ":146500,"ï§Ħ":146501,"ïŃĺ":146502,"ﺦ":146503,"ﻸ":146504,"ðĿijĤ":146505,"ðĿijı":146506,"Ïij":146507,"Úł":146508,"áĢĶ":146509,"áŀĶ":146510,"á¹¢":146511,"ëĦ¸":146512,"ðĿIJ¨":146513,"ðŁĩ´":146514,"Õ°":146515,"ðŁijł":146516,"ðŁįĨ":146517,"ðŁıĢ":146518,"ðŁijIJ":146519,"ðŁįĩ":146520,"ðŁIJ£":146521,"áĪŃ":146522,"ܪ":146523,"ðŁĮĢ":146524,"áŀĺ":146525,"âĩĦ":146526,"ðĿIJĢ":146527,"ÊĻ":146528,"âͼ":146529,"ðŁı¿":146530,"Æ·":146531,"Èł":146532,"ѽ":146533,"âĤ¨":146534,"ê´Ń":146535,"ê¹»":146536,"ë͍":146537,"ìĪĢ":146538,"ì¾°":146539,"íĨĪ":146540,"ï®§":146541,"ﯽ":146542,"ðŁĶħ":146543,"ðŁĶ®":146544,"Å¢":146545,"ʰ":146546,"Ѹ":146547,"ण":146548,"âĬĹ":146549,"ëªĦ":146550,"ï¹·":146551,"ïºħ":146552,"ðĿIJµ":146553,"ðŁĮ¶":146554,"ðŁĵ°":146555,"ðŁĶ·":146556,"ðŁĸĴ":146557,"ðŁ¤²":146558,"ëī©":146559,"ðŁİĨ":146560,"ð٧IJ":146561,"ðŁį®":146562,"âĨº":146563,"âĿ¢":146564,"ðŁijª":146565,"ðŁij±":146566,"âĨ¡":146567,"áŀı":146568,"Úķ":146569,"ðŁį¹":146570,"ðŁĴĢ":146571,"Ë®":146572,"Ó¨":146573,"Öħ":146574,"à¤ĩ":146575,"âĤ¡":146576,"âĪķ":146577,"âĺī":146578,"ê¹¼":146579,"ê¼IJ":146580,"콸":146581,"ðĿIJ¬":146582,"ðŁıħ":146583,"ðŁijĻ":146584,"ðŁĴī":146585,"ð٤Ļ":146586,"Èĺ":146587,"ɳ":146588,"ɹ":146589,"Ùº":146590,"áĢĦ":146591,"ῳ":146592,"âļĺ":146593,"âĿĨ":146594,"ëĨī":146595,"ìĸį":146596,"ìĺĩ":146597,"ì¥ĺ":146598,"íĸħ":146599,"íĻij":146600,"ï®Ĭ":146601,"ï¿Ń":146602,"ðĿĴIJ":146603,"ðĿĹ¢":146604,"ðŁĶĸ":146605,"ðŁĶ¨":146606,"ðŁļij":146607,"ðŁļ²":146608,"Ƹ":146609,"âĹ¥":146610,"ðĿIJŃ":146611,"ðŁį½":146612,"âĹij":146613,"âĵĩ":146614,"ðŁĶ±":146615,"âľ¼":146616,"ï¹ĥ":146617,"âķ±":146618,"ãĢĹ":146619,"ðŁıĭ":146620,"ðŁļ´":146621,"ðĿIJ®":146622,"Äļ":146623,"Õı":146624,"Ķ":146625,"áĥij":146626,"Ṭ":146627,"ÄĪ":146628,"ÄĴ":146629,"Ò°":146630,"Óķ":146631,"âIJ":146632,"âIJ£":146633,"âĹ¢":146634,"âļĻ":146635,"ãħĹ":146636,"ê°¬":146637,"곪":146638,"ê»Ģ":146639,"ëĦ´":146640,"ëİģ":146641,"ëĿĶ":146642,"묽":146643,"ëŃį":146644,"ìĩ³":146645,"ì°¹":146646,"íĮ¹":146647,"íŀĿ":146648,"ï®ĭ":146649,"ï¶Ī":146650,"ðĿĴĤ":146651,"ðŁ¥Ģ":146652,"ð٦ħ":146653,"Êĺ":146654,"á¼ij":146655,"âģİ":146656,"ðŁįŀ":146657,"âĨĸ":146658,"âĨĻ":146659,"ðŁİĥ":146660,"âĦ¡":146661,"âĭ±":146662,"ðŁĶį":146663,"ನ":146664,"áµĥ":146665,"âĶ«":146666,"⦿":146667,"ðŁĩ»":146668,"Ƥ":146669,"Òı":146670,"Ò·":146671,"Ûī":146672,"à®ķ":146673,"ḳ":146674,"בּ":146675,"ðŁĨĶ":146676,"ÚŃ":146677,"Û¦":146678,"áħ¡":146679,"âĦ¹":146680,"ê¿İ":146681,"ëķĶ":146682,"ë¼ī":146683,"ìļ§":146684,"ì²µ":146685,"ì´¨":146686,"íĬĪ":146687,"íĸIJ":146688,"ðĿĹĺ":146689,"ðŁĩ¿":146690,"ðŁİĸ":146691,"ðŁijħ":146692,"ðŁĵĺ":146693,"ðŁļĻ":146694,"ðŁĽµ":146695,"à¶½":146696,"⼵":146697,"ðĿIJ³":146698,"ðĿIJ¸":146699,"âļĶ":146700,"ðŁijŃ":146701,"Óij":146702,"â͝":146703,"ðŁħ¿":146704,"ðŁĺ¹":146705,"ï¿«":146706,"⼤":146707,"ðŁĴĩ":146708,"ðŁĵİ":146709,"ðŁĸĭ":146710,"স":146711,"ðĿIJį":146712,"IJ":146713,"Ïĭ":146714,"Ѭ":146715,"Ú¬":146716,"ÜĴ":146717,"á´¬":146718,"ï¨Ħ":146719,"É£":146720,"Ëij":146721,"ϵ":146722,"ÒĿ":146723,"Û¥":146724,"Üł":146725,"à¹Ľ":146726,"áĥķ":146727,"áĬķ":146728,"á¾¶":146729,"âĤ·":146730,"âĩ¾":146731,"âķ©":146732,"âĸIJ":146733,"âĺª":146734,"âĺ®":146735,"âĿļ":146736,"âĿŃ":146737,"âŀ±":146738,"âµİ":146739,"ãıĬ":146740,"ë©ĵ":146741,"ìĹ¾":146742,"ìªĦ":146743,"íĵĮ":146744,"íķ¼":146745,"ïѬ":146746,"ðĿijĨ":146747,"ðĿijŀ":146748,"ðĿĸĬ":146749,"ðŁİ¸":146750,"ðŁıĦ":146751,"ðŁijµ":146752,"ðŁĴł":146753,"ðŁĶĺ":146754,"ðŁ¥Ĥ":146755,"Ū":146756,"à·ĥ":146757,"á´¼":146758,"âĬ°":146759,"ë³ı":146760,"ë´£":146761,"ï¥ľ":146762,"ðŁĵĪ":146763,"ðŁķ¯":146764,"ð٧Ģ":146765,"âĻIJ":146766,"ðŁĨĹ":146767,"ðŁĵķ":146768,"ð٧ģ":146769,"Ü«":146770,"âĿIJ":146771,"Õķ":146772,"à½ķ":146773,"âŀĿ":146774,"à¦ķ":146775,"ðĿIJ¶":146776,"É¢":146777,"ÎĦ":146778,"áĨ¢":146779,"âĤ±":146780,"Õį":146781,"à¡ķ":146782,"á´°":146783,"ḩ":146784,"⼷":146785,"âĿ®":146786,"ê¡ĵ":146787,"ëı¤":146788,"ëĹIJ":146789,"ëµĮ":146790,"ìijĪ":146791,"íı¿":146792,"íŵ":146793,"ðĿIJİ":146794,"ðŁĨĺ":146795,"ðŁıŁ":146796,"É¥":146797,"Õ»":146798,"à¡Ķ":146799,"à¤ĸ":146800,"á´¸":146801,"âİĻ":146802,"âİ¥":146803,"âı³":146804,"ëģķ":146805,"ëĬī":146806,"ì¡į":146807,"칡":146808,"禮":146809,"ï¬Ł":146810,"ﮫ":146811,"ﮯ":146812,"ï±ĥ":146813,"ï·»":146814,"ﺵ":146815,"ðĿĹĶ":146816,"ðĿĹ¡":146817,"ðŁİ¨":146818,"ðŁĶĴ":146819,"ÚĽ":146820,"ध":146821,"âŀ¹":146822,"áĢĢ":146823,"ðŁįħ":146824,"âŤ":146825,"à¤ł":146826,"ðŁIJ¥":146827,"áĥĴ":146828,"ðŁıĿ":146829,"ðŁį¼":146830,"ãĮ§":146831,"âĿĽ":146832,"ðŁIJĪ":146833,"য":146834,"áĢŀ":146835,"ãĢĸ":146836,"áŀĻ":146837,"প":146838,"ÕĨ":146839,"âĬĨ":146840,"âľ¾":146841,"ðŁIJĹ":146842,"ﹿ":146843,"Ħ":146844,"ÜŁ":146845,"à²ł":146846,"ಥ":146847,"áŀī":146848,"á´¥":146849,"á´©":146850,"á½Ģ":146851,"ὡ":146852,"âĨķ":146853,"âŀ¯":146854,"ê¡ij":146855,"ëij£":146856,"ë±Į":146857,"ìĪij":146858,"ìľĶ":146859,"ìŀ½":146860,"ì¨į":146861,"ðĿijĢ":146862,"ðŁĮĮ":146863,"ðŁį¦":146864,"ðŁį©":146865,"ðŁIJļ":146866,"ðŁĵĴ":146867,"ðŁĵ¹":146868,"ðŁ¥ij":146869,"Äĭ":146870,"ËĹ":146871,"Ñ«":146872,"Õ¢":146873,"Ú°":146874,"âĮĢ":146875,"âĹĤ":146876,"âĹ£":146877,"⾼":146878,"âĿĴ":146879,"âĿĺ":146880,"âŀĻ":146881,"âŀ²":146882,"ãİį":146883,"ê¡IJ":146884,"ëŀĸ":146885,"ìĬĿ":146886,"ìĽ¤":146887,"ì¡ĭ":146888,"쨰":146889,"íĹĻ":146890,"兩":146891,"ï³į":146892,"ï»İ":146893,"ðĿijĵ":146894,"ðŁĵĬ":146895,"ðŁļ¼":146896,"ï¦ģ":146897,"ðĿķĴ":146898,"ðŁijľ":146899,"ðŁij¿":146900,"ðŁĩ½":146901,"à·Ħ":146902,"âĸ´":146903,"ãįī":146904,"âĬĩ":146905,"ðŁ§¸":146906,"Ú¡":146907,"â¾ĥ":146908,"ðŁĹ»":146909,"âĵij":146910,"ðŁ¤¸":146911,"ðŁ¤¯":146912,"êĴ°":146913,"ðĿIJĵ":146914,"âĶ´":146915,"êĴ±":146916,"áĢĺ":146917,"âĽĦ":146918,"ï¹¹":146919,"ÓĶ":146920,"áĥ±":146921,"Ü¡":146922,"ßŀ":146923,"âĻı":146924,"⾸":146925,"ìij¨":146926,"ðĿIJĿ":146927,"ðĿIJ¥":146928,"ðŁįī":146929,"ðŁij¼":146930,"ðŁ¥Ŀ":146931,"ÆĶ":146932,"ݬ":146933,"फ":146934,"àºļ":146935,"á´´":146936,"á½ĸ":146937,"âĤ¶":146938,"âİ¢":146939,"âĿħ":146940,"⣫":146941,"ãİĽ":146942,"뮨":146943,"ëºĮ":146944,"ë¼ĺ":146945,"ìĨĿ":146946,"ìľ³":146947,"ìŀĮ":146948,"ì£Ĺ":146949,"ìªĺ":146950,"컹":146951,"ï·¼":146952,"ïºĤ":146953,"ðĿIJ´":146954,"ðĿIJ¼":146955,"ðŁĮļ":146956,"ðŁı«":146957,"ðŁĴ¤":146958,"ðŁĴ¶":146959,"ðŁĴ¼":146960,"Êķ":146961,"ʽ":146962,"â²Ł":146963,"ãīł":146964,"ê¡Ĵ":146965,"ëľĢ":146966,"ìĥ¾":146967,"츤":146968,"ï¥ģ":146969,"ðĿļĬ":146970,"ðŁļĥ":146971,"âŀĽ":146972,"ìħ´":146973,"áĦĭ":146974,"âĩĹ":146975,"ï§·":146976,"âĺĸ":146977,"ðŁIJ¦":146978,"⸾":146979,"ðŁĴ´":146980,"ð٤ļ":146981,"ãĬĹ":146982,"âĮĽ":146983,"áĪĽ":146984,"༺":146985,"â½ī":146986,"ðŁı¢":146987,"âĵŀ":146988,"âĺ½":146989,"ãĢĻ":146990,"ðŁ¤®":146991,"ÅIJ":146992,"áĥ¬":146993,"ðĿĹ»":146994,"ðŁįĸ":146995,"ÆĬ":146996,"ÊŁ":146997,"ßĭ":146998,"à¤ĭ":146999,"áµĶ":147000,"á¿ĥ":147001,"âĦī":147002,"âĮĭ":147003,"âı²":147004,"âĵĪ":147005,"âĵ¢":147006,"âķĶ":147007,"âļij":147008,"âĿĭ":147009,"âĿİ":147010,"⵾":147011,"âµ£":147012,"ëĴĪ":147013,"ëľģ":147014,"ë¶ĩ":147015,"ìį»":147016,"ìĺŃ":147017,"ì§¢":147018,"íĹĢ":147019,"ï§Ĭ":147020,"טּ":147021,"ﱡ":147022,"ðĿIJº":147023,"ðĿij§":147024,"ðĿĺ¦":147025,"ðŁĵ¥":147026,"ðŁĺŁ":147027,"ðŁ¥IJ":147028,"Äĸ":147029,"ɨ":147030,"áĢIJ":147031,"áĥĵ":147032,"áºĵ":147033,"á¼¶":147034,"á½Ħ":147035,"âĤ¤":147036,"âĮľ":147037,"âĮŁ":147038,"âİł":147039,"⼸":147040,"âµį":147041,"âµı":147042,"âµĵ":147043,"ãĢĺ":147044,"ë·¸":147045,"íħ¼":147046,"ï¦Į":147047,"ïŃĦ":147048,"ïŃİ":147049,"ðĿĻļ":147050,"ðĿļĺ":147051,"à¼ĵ":147052,"ëŃħ":147053,"áIJĽ":147054,"ãݾ":147055,"ï¨Ģ":147056,"ðŁĹ½":147057,"âĻŀ":147058,"Ëĸ":147059,"âĹŀ":147060,"ðŁ¤«":147061,"ðŁĺĹ":147062,"ヲ":147063,"ðŁ¤¢":147064,"âģĩ":147065,"ã̵":147066,"ðŁįĶ":147067,"áĬł":147068,"ðŁĺ¼":147069,"ðĿĹ®":147070,"ðŁIJ³":147071,"ðĿIJĭ":147072,"ðŁĨļ":147073,"ðŁĶĽ":147074,"Ñ»":147075,"ܨ":147076,"ல":147077,"âľŀ":147078,"âµĻ":147079,"êµ£":147080,"츨":147081,"ðĿIJľ":147082,"ðĿĺ°":147083,"ðŁĶ½":147084,"Ç»":147085,"Ç¿":147086,"Êĩ":147087,"ÎIJ":147088,"ÐĢ":147089,"Ñ¡":147090,"Ѳ":147091,"ÒĴ":147092,"Ù¶":147093,"ßķ":147094,"à¶±":147095,"áIJģ":147096,"âģŀ":147097,"âĸ§":147098,"âĽĪ":147099,"âľľ":147100,"âľ¹":147101,"âŁ¹":147102,"â¤ĩ":147103,"ê²Ĭ":147104,"ê¾ľ":147105,"ë¯IJ":147106,"ë³IJ":147107,"ìħ©":147108,"ìIJ¬":147109,"ìij¹":147110,"ï¤Ķ":147111,"ï¦ļ":147112,"ï¬ł":147113,"ïŃĶ":147114,"ﺶ":147115,"ðĿĴı":147116,"ðĿĸĨ":147117,"ðĿŶ":147118,"ðŁıĤ":147119,"ðŁIJ½":147120,"ðŁĴ©":147121,"ðŁĵ½":147122,"ðŁĹ¨":147123,"ðŁĹº":147124,"ðŁĺ¸":147125,"ðŁ¥§":147126,"ÅĹ":147127,"Êİ":147128,"ÒĻ":147129,"ײ":147130,"à¤Ī":147131,"á¼´":147132,"á¿ij":147133,"âµī":147134,"ãħĵ":147135,"ì½´":147136,"ðĿĸĵ":147137,"ðŁĵĹ":147138,"ðŁĶª":147139,"ðŁĸį":147140,"ÏĴ":147141,"ðŁij¬":147142,"áĥĻ":147143,"âĨ¬":147144,"âͤ":147145,"âĽ¹":147146,"âĻŁ":147147,"ðŁļ¶":147148,"ðŁij¾":147149,"âĪĭ":147150,"ðŁIJ¯":147151,"à¼İ":147152,"âľ·":147153,"ï¨Ļ":147154,"âĶ»":147155,"ðŁij¹":147156,"áĦī":147157,"ສ":147158,"â¾ı":147159,"â½ħ":147160,"ãİĸ":147161,"Ñ´":147162,"Õ®":147163,"Ú¼":147164,"áĢķ":147165,"áĨ¼":147166,"ëŃı":147167,"ðŁIJ¸":147168,"ðŁļ£":147169,"ÆĿ":147170,"Ô»":147171,"áĥ¢":147172,"ðŁį¯":147173,"ɦ":147174,"Õ¦":147175,"âĻĭ":147176,"שׂ":147177,"ðĿŦ":147178,"Çļ":147179,"ɱ":147180,"à¤ī":147181,"á´Ħ":147182,"âĻĵ":147183,"⼰":147184,"âŁª":147185,"ëĥĺ":147186,"뢸":147187,"ìĤij":147188,"ï®Ķ":147189,"ðĿķĸ":147190,"ðĿŧ":147191,"ðŁĩ¼":147192,"ðŁĵĭ":147193,"ðŁļľ":147194,"ðŁ¥¤":147195,"Ä®":147196,"Å·":147197,"ßĬ":147198,"॥":147199,"ப":147200,"áŀĦ":147201,"áµĢ":147202,"á¸ħ":147203,"á¼¢":147204,"âĪĿ":147205,"âĬ¹":147206,"âĴ¶":147207,"âķ´":147208,"⼱":147209,"âĽ³":147210,"âĽº":147211,"âŀŁ":147212,"ãıĦ":147213,"ê¸Ķ":147214,"ê¹Ł":147215,"ëĩ°":147216,"ë¹»":147217,"ìĤ¥":147218,"ìĽ»":147219,"ì°Ł":147220,"íĥ°":147221,"íĨº":147222,"íļ½":147223,"老":147224,"量":147225,"ï³Ŀ":147226,"ðĿIJ¦":147227,"ðĿĴľ":147228,"ðĿĴŁ":147229,"ðĿļĹ":147230,"ðŁİŃ":147231,"ðŁıĵ":147232,"ðŁı³":147233,"ðŁıº":147234,"ðŁIJį":147235,"ðŁijĥ":147236,"ðŁĴı":147237,"ð٤ĸ":147238,"ðŁ¤µ":147239,"Õ²":147240,"âµĶ":147241,"ëĺ¬":147242,"念":147243,"ÊĤ":147244,"áĨ«":147245,"áŀij":147246,"ðĿĸİ":147247,"ðĿĹĸ":147248,"áĦĥ":147249,"âĩł":147250,"áĢ¡":147251,"à½Ħ":147252,"âŀ¸":147253,"ï¦Ļ":147254,"âĩļ":147255,"ðŁIJ¬":147256,"ðŁIJ¢":147257,"â¾Ĵ":147258,"ðŁIJ¤":147259,"ðŁĶ«":147260,"ãĢŀ":147261,"︺":147262,"ðŁĺº":147263,"â½´":147264,"ðŁĨķ":147265,"âģ¿":147266,"ðŁį¨":147267,"à²ķ":147268,"ðŁļĺ":147269,"áŀħ":147270,"à¦ħ":147271,"áŀ¢":147272,"à¨ľ":147273,"âļĮ":147274,"ã̽":147275,"à·´":147276,"âĵĽ":147277,"áĢľ":147278,"ìĨ¨":147279,"Ë©":147280,"ÜĹ":147281,"âĭ¼":147282,"ðŁĻī":147283,"ÅĬ":147284,"Éĵ":147285,"ʲ":147286,"ΰ":147287,"Ѽ":147288,"Ô¿":147289,"à¡IJ":147290,"à¼ľ":147291,"ས":147292,"á¶ľ":147293,"âĤ²":147294,"âĨ¨":147295,"âĬ¥":147296,"âķ§":147297,"âĻľ":147298,"ãĭ¡":147299,"ë´¬":147300,"ë¶ij":147301,"ìī¿":147302,"ìİħ":147303,"ìł±":147304,"ì°§":147305,"ﲡ":147306,"ðĿĴĽ":147307,"ðĿķ£":147308,"ðĿĹľ":147309,"ðŁį²":147310,"ðŁİ©":147311,"ðŁIJIJ":147312,"ðŁIJł":147313,"ðŁij½":147314,"ðŁĴij":147315,"ðŁĵľ":147316,"ðŁķµ":147317,"ðŁļĮ":147318,"ðŁĽ£":147319,"Êĭ":147320,"Ó¯":147321,"Ù¸":147322,"ßĶ":147323,"ßĻ":147324,"à¡ĵ":147325,"á´į":147326,"ḿ":147327,"âıº":147328,"âĸ¥":147329,"뤽":147330,"íľij":147331,"ðĿIJ¹":147332,"ðĿĸĶ":147333,"ðĿļİ":147334,"ðŁĵĦ":147335,"ðŁ¦·":147336,"Æĥ":147337,"à¦Ł":147338,"âĮĤ":147339,"âĺŃ":147340,"â²ļ":147341,"ëĿķ":147342,"ðŁİ£":147343,"à®ĩ":147344,"à½Ĩ":147345,"áħµ":147346,"áĹľ":147347,"â̽":147348,"âĮ£":147349,"âģ½":147350,"ðŁĵ¬":147351,"ðŁ¤§":147352,"âĩª":147353,"â½£":147354,"âĹŁ":147355,"ï¨Ĺ":147356,"êĴª":147357,"ðŁĽĢ":147358,"ÇĤ":147359,"ðŁ¥¶":147360,"ðŁİį":147361,"ï¿©":147362,"ðŁijĴ":147363,"áµĪ":147364,"︿":147365,"áħ©":147366,"⾦":147367,"à°¤":147368,"á´ĸ":147369,"ਬ":147370,"àºĹ":147371,"༻":147372,"Ѻ":147373,"ਪ":147374,"á´³":147375,"ðĿIJĪ":147376,"à»Ģ":147377,"á´¿":147378,"âĤį":147379,"âĩ¡":147380,"âĽª":147381,"ðĿIJĤ":147382,"ðĿĴķ":147383,"ðŁIJľ":147384,"Êį":147385,"ѱ":147386,"à½ĥ":147387,"ë®IJ":147388,"ìĽ¡":147389,"ìľģ":147390,"ðĿIJ¿":147391,"ðĿķł":147392,"ðŁijĽ":147393,"ƪ":147394,"Ϻ":147395,"Ó¬":147396,"Ù¿":147397,"Ý£":147398,"àªī":147399,"ஹ":147400,"à½ij":147401,"áĨ¯":147402,"áµĩ":147403,"âĩ¥":147404,"âıª":147405,"âϰ":147406,"âļŃ":147407,"âļ¾":147408,"ãħĦ":147409,"ḛ̂":147410,"ê°Ĺ":147411,"ê²ĭ":147412,"ê²»":147413,"ê¶ľ":147414,"ê¼ĩ":147415,"ê½¹":147416,"ëĤŁ":147417,"ëħĪ":147418,"ëĭ¢":147419,"ë§Ł":147420,"ëªĨ":147421,"ëµĢ":147422,"ì½±":147423,"íĩĺ":147424,"íľľ":147425,"ï§¾":147426,"ï±µ":147427,"ï²¢":147428,"ﲤ":147429,"ðĿĴĬ":147430,"ðĿĺ¯":147431,"ðŁįĹ":147432,"ðŁıį":147433,"ðŁIJĺ":147434,"ðŁĵ¡":147435,"ðŁĶŀ":147436,"ðŁ¤³":147437,"ðŁ¥ģ":147438,"ðŁ¥Ĺ":147439,"ð٦Ĭ":147440,"ĵ":147441,"Ʀ":147442,"ǵ":147443,"ɯ":147444,"Îı":147445,"ÕĦ":147446,"Ü¥":147447,"à½ģ":147448,"ᨳ":147449,"âķ«":147450,"ãİī":147451,"ë·´":147452,"ìĨİ":147453,"ìİĮ":147454,"죵":147455,"íĽł":147456,"離":147457,"ï³ı":147458,"ﻺ":147459,"ðĿijģ":147460,"ðĿijĩ":147461,"ðĿĴĨ":147462,"ðŁİł":147463,"ðŁIJĶ":147464,"ðŁijŁ":147465,"Åĸ":147466,"à¤Į":147467,"á¾½":147468,"ê¦Ĵ":147469,"à®Ł":147470,"á´±":147471,"ðŁı°":147472,"ðŁIJŀ":147473,"à½Ģ":147474,"áĢħ":147475,"âĬ¿":147476,"ðŁIJ§":147477,"áĽģ":147478,"â¼Ī":147479,"âĶ¿":147480,"ðŁ¥´":147481,"⼿":147482,"ðŁ§ľ":147483,"ãħ¿":147484,"âĦ«":147485,"ã̳":147486,"ãĬĻ":147487,"â¼Ģ":147488,"怜":147489,"ðŁı¬":147490,"ðŁĵ»":147491,"áĬĽ":147492,"áĦħ":147493,"àºĬ":147494,"àºĽ":147495,"áħ³":147496,"ðŁij®":147497,"à®±":147498,"âĺĩ":147499,"ðĿIJı":147500,"à´µ":147501,"à»ģ":147502,"à½ı":147503,"ར":147504,"ᥱ":147505,"âĤ£":147506,"復":147507,"ïŃĻ":147508,"ï´©":147509,"ï¹Ĥ":147510,"ðŁį£":147511,"ðŁķ¹":147512,"Ïĸ":147513,"ම":147514,"ຢ":147515,"áĭŃ":147516,"âİĿ":147517,"âĹĿ":147518,"âĻĪ":147519,"âĻİ":147520,"ê½¥":147521,"ì³Ķ":147522,"ì¼ij":147523,"ï±°":147524,"ðĿijĥ":147525,"ðŁĮª":147526,"ðŁį¡":147527,"Åİ":147528,"ʦ":147529,"ѧ":147530,"Óİ":147531,"Ô´":147532,"ÚĪ":147533,"ßĵ":147534,"ß§":147535,"à¤Ķ":147536,"áĪ«":147537,"áε":147538,"áĹ©":147539,"á´ł":147540,"á¼ł":147541,"âĢĹ":147542,"âģij":147543,"âĦı":147544,"âĸĩ":147545,"â²£":147546,"ãĦ³":147547,"ãī®":147548,"ê³Ĺ":147549,"ëĦĴ":147550,"ëĸ«":147551,"ë¡Ħ":147552,"ë¹°":147553,"ë½ģ":147554,"ìĦģ":147555,"ìĮĺ":147556,"ìŁĮ":147557,"ì³ī":147558,"ì¼ķ":147559,"כּ":147560,"ï³İ":147561,"ﹸ":147562,"ï¹¾":147563,"ðĿIJĨ":147564,"ðĿij·":147565,"ðĿĽ¼":147566,"ðŁİı":147567,"ðŁİŀ":147568,"ðŁIJĻ":147569,"ðŁijĤ":147570,"ðŁĵģ":147571,"ðŁĸ±":147572,"ðŁļį":147573,"ðŁļ§":147574,"ðŁĽ¡":147575,"ð٤Ĵ":147576,"ðŁ¥ŀ":147577,"ðŁ¥©":147578,"ð٦Ģ":147579,"ð٦ĸ":147580,"Ë¢":147581,"Üļ":147582,"வ":147583,"áĢģ":147584,"áī°":147585,"âıŃ":147586,"âĻ¿":147587,"ê³ĺ":147588,"ëıĿ":147589,"ëķĥ":147590,"ìħĮ":147591,"ìĴ¸":147592,"ìĽŁ":147593,"íħĦ":147594,"íľ«":147595,"ï§ĺ":147596,"↓":147597,"ðŁı·":147598,"ðŁĶ§":147599,"ðŁ¥Ī":147600,"Æĸ":147601,"áŀĩ":147602,"áŀĸ":147603,"âģº":147604,"âĹľ":147605,"âŀ©":147606,"ê¦Ń":147607,"ëϤ":147608,"ïѼ":147609,"ðĿĻĸ":147610,"ðĿĻ£":147611,"ðĿϤ":147612,"ðŁĮĿ":147613,"ðŁĶij":147614,"ðŁĽł":147615,"àºĩ":147616,"âĺ£":147617,"ãĦ¨":147618,"ðĿĸĹ":147619,"Óĵ":147620,"âĨ£":147621,"ðŁ¥ī":147622,"ðŁĮł":147623,"ðŁĺ½":147624,"ãİł":147625,"ŧ":147626,"ðŁIJĴ":147627,"ï§IJ":147628,"ðŁĺ¿":147629,"âά":147630,"ðŁIJ®":147631,"⣱":147632,"ಡ":147633,"â¾¼":147634,"à°²":147635,"˶":147636,"âĸ¿":147637,"ÕĪ":147638,"áŀİ":147639,"áħ¥":147640,"áŀĹ":147641,"Õ§":147642,"ð٤IJ":147643,"ðŁįł":147644,"ত":147645,"ය":147646,"âĻį":147647,"ìĺĻ":147648,"íĺĵ":147649,"ﹺ":147650,"ðŁĽ³":147651,"Åī":147652,"á´İ":147653,"âıľ":147654,"âͳ":147655,"긷":147656,"ì¡Ķ":147657,"ðĿĴĪ":147658,"ðĿĴį":147659,"ðĿĴ¹":147660,"ðĿĵĩ":147661,"ðĿķŁ":147662,"ðĿĹ¹":147663,"ðŁĮħ":147664,"ðŁı´":147665,"ÄĶ":147666,"Ĥ":147667,"ŵ":147668,"Ǿ":147669,"Ïŀ":147670,"϶":147671,"Ô³":147672,"ÜĨ":147673,"ß©":147674,"à¡Ĵ":147675,"à¤ĺ":147676,"à¶ļ":147677,"à½ĸ":147678,"áģĬ":147679,"áĥŀ":147680,"áĦĤ":147681,"áĭ«":147682,"á´º":147683,"ḣ":147684,"Ḫ":147685,"á¹Ĥ":147686,"á¼·":147687,"á¿ĩ":147688,"âĩĮ":147689,"âı¬":147690,"âĻĮ":147691,"⮣":147692,"â´»":147693,"ⵣ":147694,"ê¦ķ":147695,"ꦪ":147696,"ꦮ":147697,"ê²Ħ":147698,"ê¾IJ":147699,"ëĥij":147700,"ëķĭ":147701,"롸":147702,"ë¬Ģ":147703,"ìĩ¤":147704,"ìĪ©":147705,"ìľķ":147706,"ìŃĺ":147707,"ì·°":147708,"ì·¸":147709,"íľĢ":147710,"藍":147711,"ï§į":147712,"ï±Ħ":147713,"ï³ij":147714,"ðĿIJ¤":147715,"ðĿĴĵ":147716,"ðĿĴ¶":147717,"ðĿĹ¼":147718,"ðĿĻĬ":147719,"ðŁĩ¾":147720,"ðŁĮĽ":147721,"ðŁĮ®":147722,"ðŁİĩ":147723,"ðŁİ²":147724,"ðŁıĽ":147725,"ðŁij¥":147726,"ðŁij´":147727,"ðŁĴĨ":147728,"ðŁĵĤ":147729,"ðŁĵ§":147730,"ðŁķIJ":147731,"ðŁĸķ":147732,"ðŁĺ§":147733,"ðŁĻĢ":147734,"ðŁļĴ":147735,"ðŁĽ«":147736,"ðŁ¤ł":147737,"ðŁ¥ļ":147738,"ðŁ¥Ľ":147739,"ðŁ¥£":147740,"ǯ":147741,"ȧ":147742,"ÎĬ":147743,"Ò²":147744,"×°":147745,"Ûij":147746,"áĥ©":147747,"áĦĮ":147748,"áĪį":147749,"áī¥":147750,"áıĤ":147751,"âģ±":147752,"âĬ¢":147753,"âĹĵ":147754,"âĿ°":147755,"ë¿¡":147756,"ìĽ©":147757,"íģŃ":147758,"íĨ³":147759,"íĬĦ":147760,"íĵ¸":147761,"北":147762,"若":147763,"ï±IJ":147764,"ﱯ":147765,"ï³ļ":147766,"ðĿĸĺ":147767,"ðĿĺĢ":147768,"ðŁIJĬ":147769,"ðŁIJĮ":147770,"ðŁijļ":147771,"ðŁĵĥ":147772,"ðŁļĽ":147773,"ðŁļª":147774,"ðŁ¤°":147775,"Ä´":147776,"áĥ®":147777,"áŨ":147778,"âĻ®":147779,"â²ŀ":147780,"ãĪĶ":147781,"ìħį":147782,"ãħĥ":147783,"率":147784,"ມ":147785,"Õİ":147786,"Õº":147787,"⬼":147788,"⽤":147789,"ðĿIJ²":147790,"âŀµ":147791,"áĢĽ":147792,"âĶħ":147793,"âĨŁ":147794,"â¼Ĭ":147795,"ðŁĮ½":147796,"ðŁļ¿":147797,"ï¦Ĭ":147798,"ãĦ£":147799,"⼩":147800,"ï©Ľ":147801,"ðŁį±":147802,"⾨":147803,"à´¤":147804,"áŀģ":147805,"àºŀ":147806,"Êļ":147807,"ðĿIJĴ":147808,"à´±":147809,"áŀľ":147810,"ன":147811,"à°Ĺ":147812,"à´ļ":147813,"âĩ£":147814,"ï¦ķ":147815,"Õħ":147816,"Æĺ":147817,"âĤ¦":147818,"âĶĦ":147819,"ï¦Ł":147820,"嶺":147821,"ðĿIJģ":147822,"ðĿIJĥ":147823,"ðŁį¸":147824,"ðŁIJ²":147825,"Ŷ":147826,"Éĸ":147827,"ßĺ":147828,"ฦ":147829,"à½Ķ":147830,"áĨ·":147831,"âģķ":147832,"âĵĤ":147833,"âĿľ":147834,"便":147835,"אַ":147836,"ðĿĹĿ":147837,"ðĿĹ¿":147838,"ðŁİ¾":147839,"ðŁĹĿ":147840,"ð٦Į":147841,"Æħ":147842,"Ǫ":147843,"ÒĹ":147844,"ÜĽ":147845,"ßł":147846,"à¡ij":147847,"áī£":147848,"áĬŃ":147849,"ṡ":147850,"âŀ¼":147851,"âŀ¾":147852,"â´±":147853,"ãī¡":147854,"곯":147855,"ë½Ī":147856,"ìĤĺ":147857,"ìīij":147858,"ì«ĺ":147859,"íĮĥ":147860,"íϰ":147861,"ï¤Ĺ":147862,"ðŁĮ¬":147863,"ðŁĮ°":147864,"ðŁį¤":147865,"Ä»":147866,"Åĩ":147867,"ƨ":147868,"Éķ":147869,"Ò¢":147870,"Òº":147871,"Öį":147872,"×±":147873,"Ú±":147874,"Ú½":147875,"ÛIJ":147876,"à¤Ľ":147877,"à·Ģ":147878,"à¹ļ":147879,"ຫ":147880,"á´¹":147881,"á½Ķ":147882,"á¾³":147883,"âĤĴ":147884,"âĨ´":147885,"âĩĿ":147886,"âīħ":147887,"âĮ¨":147888,"âĵĵ":147889,"âĸ¢":147890,"âļ¬":147891,"âŀŃ":147892,"â²Ĵ":147893,"ãİ¿":147894,"ê¿´":147895,"ëα":147896,"ëį¬":147897,"ëİIJ":147898,"ëIJ«":147899,"ëĶ«":147900,"ë±ģ":147901,"ìĥ¥":147902,"íĮ¼":147903,"ïŃĵ":147904,"ﮥ":147905,"ï²°":147906,"ðĿIJĩ":147907,"ðĿIJij":147908,"ðĿijĮ":147909,"ðĿĵª":147910,"ðĿķļ":147911,"ðĿĺª":147912,"ðĿĺ¼":147913,"ðĿļĽ":147914,"ðŁĩ¶":147915,"ðŁĮĦ":147916,"ðŁĮķ":147917,"ðŁĮ¤":147918,"ðŁĮ§":147919,"ðŁį¬":147920,"ðŁİĭ":147921,"ðŁİ»":147922,"ðŁı¨":147923,"ðŁIJĩ":147924,"ðŁijĵ":147925,"ðŁĵIJ":147926,"ðŁĵĻ":147927,"ðŁĶ¼":147928,"ðŁķĴ":147929,"ðŁĸı":147930,"ðŁĸ¥":147931,"ðŁ¤¬":147932,"ðŁ¥Ĭ":147933,"ðŁ¥Ĵ":147934,"ßĮ":147935,"àºĦ":147936,"á¼µ":147937,"âķ¡":147938,"Ⲥ":147939,"â´¼":147940,"âµ¢":147941,"ãΝ":147942,"ëĵ¸":147943,"ëŁĩ":147944,"ëºį":147945,"ðĿϧ":147946,"ðŁįĪ":147947,"ðŁĶ¬":147948,"ðŁĸĬ":147949,"ðŁ¤¾":147950,"Ë¡":147951,"Ü©":147952,"âĮ¡":147953,"âŃij":147954,"Ⲧ":147955,"ë©ī":147956,"ì¼Ń":147957,"¦":147958,"ðĿĴİ":147959,"ðĿĹ¥":147960,"ðŁIJµ":147961,"ðŁķ¶":147962,"ðŁķ¸":147963,"ðŁ¤ľ":147964,"Õª":147965,"áĪĭ":147966,"ðŁ¥µ":147967,"ï°ģ":147968,"áµIJ":147969,"âķĵ":147970,"áĢĸ":147971,"âĭĪ":147972,"Éŀ":147973,"âŀ®":147974,"॰":147975,"ãĨģ":147976,"ðŁĴ±":147977,"ðŁıŃ":147978,"áĨ¨":147979,"ðŁįļ":147980,"ð٦IJ":147981,"á´»":147982,"âĺĮ":147983,"à´ķ":147984,"Õ±":147985,"áħ®":147986,"ðĿIJĮ":147987,"Ŧ":147988,"àºķ":147989,"âľĻ":147990,"˳":147991,"Ôµ":147992,"âķĴ":147993,"ðĿĹĹ":147994,"ðĿĹł":147995,"Úļ":147996,"ধ":147997,"âĨĿ":147998,"âĻī":147999,"ãĮ»":148000,"ì¹Ĭ":148001,"ðĿĹº":148002,"ð٧ĺ":148003,"ì³£":148004,"ï¬Ŀ":148005,"ðŁijº":148006,"ÇŁ":148007,"ÎĪ":148008,"Ϋ":148009,"Ñ¥":148010,"Ô²":148011,"Õ¨":148012,"ܦ":148013,"à¦Ĩ":148014,"থ":148015,"áIJ¢":148016,"á¼ģ":148017,"á¼ĺ":148018,"ἦ":148019,"âĵĿ":148020,"ãΰ":148021,"ãİĹ":148022,"겡":148023,"ë¨Ģ":148024,"ì£Ķ":148025,"ì´¤":148026,"ìµĿ":148027,"ï§´":148028,"ïŃĬ":148029,"ï²Ł":148030,"ðĿIJ·":148031,"ðĿijĭ":148032,"ðĿĵī":148033,"ðĿĺµ":148034,"ðŁĴ·":148035,"ðŁĽ©":148036,"ðŁ§¹":148037,"ÅĶ":148038,"Êŀ":148039,"Ë¥":148040,"ÎĮ":148041,"Ñ©":148042,"ÓIJ":148043,"Ół":148044,"Úij":148045,"ÚĴ":148046,"ߨ":148047,"àªĪ":148048,"áIJĥ":148049,"ṯ":148050,"âĤĭ":148051,"âĤµ":148052,"âĦħ":148053,"âĦł":148054,"âĪ£":148055,"âīº":148056,"âī»":148057,"âĬĽ":148058,"âĮIJ":148059,"âİĵ":148060,"âĺ¸":148061,"âĻĴ":148062,"âļĴ":148063,"âľĩ":148064,"âľł":148065,"â´·":148066,"âµĸ":148067,"ãĦ¸":148068,"ãī¢":148069,"ãī°":148070,"êĩ´":148071,"ê´¸":148072,"êºł":148073,"ëĤı":148074,"ëĤ¢":148075,"ëIJĢ":148076,"뺴":148077,"ìĥľ":148078,"ìįħ":148079,"줫":148080,"챦":148081,"ìºij":148082,"ì¼ģ":148083,"쿳":148084,"íĤģ":148085,"íħ¡":148086,"íĴĤ":148087,"íĴī":148088,"íľĦ":148089,"ïŃª":148090,"ﮬ":148091,"ﯦ":148092,"ﱪ":148093,"ï²ı":148094,"ï´Ģ":148095,"ï»Ĩ":148096,"₩":148097,"ðĿijĹ":148098,"ðĿĸĻ":148099,"ðŁĮ¡":148100,"ðŁįĿ":148101,"ðŁį§":148102,"ðŁİ«":148103,"ðŁıĺ":148104,"ðŁıª":148105,"ðŁIJĭ":148106,"ðŁIJĽ":148107,"ðŁIJº":148108,"ðŁijĸ":148109,"ðŁijŀ":148110,"ðŁij·":148111,"ðŁĵĢ":148112,"ðŁĶĦ":148113,"ðŁĶĮ":148114,"ðŁķĻ":148115,"ðŁĻį":148116,"ðŁĻİ":148117,"ð٦į":148118,"ǰ":148119,"ÉŁ":148120,"ÊĨ":148121,"Ô¼":148122,"Úľ":148123,"ড":148124,"শ":148125,"áĴĥ":148126,"Ἡ":148127,"âĵķ":148128,"â²Ī":148129,"ê°°":148130,"ê¹ł":148131,"êºħ":148132,"ëĦ¹":148133,"ë¯ĵ":148134,"íIJĪ":148135,"ï§¶":148136,"ï®ij":148137,"ﲨ":148138,"ðĿĴī":148139,"ðĿĴĶ":148140,"ðĿŨ":148141,"ðĿĻŀ":148142,"ðĿļĴ":148143,"ðĿļķ":148144,"ðŁIJİ":148145,"ð٤ķ":148146,"ð٧Ķ":148147,"ϰ":148148,"ÔĿ":148149,"âĮĬ":148150,"âĴ¾":148151,"ãī£":148152,"ïŃ©":148153,"ðĿļŀ":148154,"Êij":148155,"দ":148156,"áĦĩ":148157,"âīĥ":148158,"â²Ģ":148159,"ìŁİ":148160,"ðĿij¶":148161,"ðĿĵ²":148162,"ðŁİ·":148163,"ðŁļ¹":148164,"àºģ":148165,"áłł":148166,"ãĦļ":148167,"ðŁIJ¿":148168,"áĽļ":148169,"âķ³":148170,"ðŁIJŃ":148171,"âĴ¹":148172,"ðĿĸļ":148173,"âĻĸ":148174,"ãβ":148175,"âĨ¾":148176,"áĦĨ":148177,"âķĽ":148178,"ð٤į":148179,"â½¥":148180,"ðŁĮ¨":148181,"âĪ®":148182,"ãĮĺ":148183,"ãįij":148184,"ï¹Ģ":148185,"âĵĹ":148186,"âĬĦ":148187,"ðŁı¹":148188,"ËĴ":148189,"ðŁ¤±":148190,"ãıľ":148191,"ðŁİĮ":148192,"ï¥Ń":148193,"ণ":148194,"ðŁİ¹":148195,"ãĬŁ":148196,"à´°":148197,"ðĿIJĶ":148198,"à´¨":148199,"à½ļ":148200,"âľº":148201,"Õ·":148202,"ðŁij³":148203,"à¦ľ":148204,"âĺĭ":148205,"âĻĬ":148206,"ãĢĽ":148207,"Èĭ":148208,"à®°":148209,"áĥ¨":148210,"âĦķ":148211,"íijĢ":148212,"ðĿĵĥ":148213,"ð٦Ķ":148214,"Ä¿":148215,"ÅĢ":148216,"Ƴ":148217,"Éļ":148218,"Öĥ":148219,"Ü£":148220,"ߣ":148221,"à¦Ń":148222,"à§¡":148223,"à¶»":148224,"ຣ":148225,"à½ĩ":148226,"Ḩ":148227,"á½Ī":148228,"⽬":148229,"ê¡Ķ":148230,"ì³Ħ":148231,"ï¨ī":148232,"ðĿIJ¡":148233,"ðĿĺ¢":148234,"ðŁį¿":148235,"ðŁİŁ":148236,"ðŁıī":148237,"ðŁĶIJ":148238,"ðŁļħ":148239,"ðŁ¤½":148240,"Æį":148241,"Ç«":148242,"ǽ":148243,"Èļ":148244,"Îī":148245,"Ó¤":148246,"Óª":148247,"ÕĬ":148248,"Ù¼":148249,"Ú´":148250,"ßĿ":148251,"à¶ľ":148252,"á¼ķ":148253,"á¿¥":148254,"âİŀ":148255,"ãĢļ":148256,"ãī¤":148257,"곸":148258,"ê·ģ":148259,"ëĵĦ":148260,"ëĵķ":148261,"ì¨Ķ":148262,"챨":148263,"ðĿIJ¾":148264,"ðĿij»":148265,"ðĿͼ":148266,"ðĿķĿ":148267,"ðĿĺŃ":148268,"ðŁĨĻ":148269,"ðŁĵ¤":148270,"ðŁĶŁ":148271,"ðŁĹ¼":148272,"Äľ":148273,"Æģ":148274,"Æ¿":148275,"dz":148276,"Ç·":148277,"Éĥ":148278,"Éł":148279,"Êī":148280,"ʧ":148281,"˲":148282,"Ï´":148283,"Õģ":148284,"Õŀ":148285,"Öĩ":148286,"ÛĤ":148287,"Ûĵ":148288,"ßĹ":148289,"ߦ":148290,"হ":148291,"ள":148292,"à´¸":148293,"à»Ĥ":148294,"áĪĿ":148295,"áĪª":148296,"áĭµ":148297,"áIJĬ":148298,"áĴª":148299,"áļĸ":148300,"áŀĽ":148301,"á´¢":148302,"áµı":148303,"áµŃ":148304,"á¶«":148305,"á¸ı":148306,"áºĴ":148307,"á¼¥":148308,"á½ķ":148309,"á½¼":148310,"âĤĬ":148311,"âĦĤ":148312,"âĦ©":148313,"âĩī":148314,"âī£":148315,"âĮł":148316,"âİŁ":148317,"âı®":148318,"âķĺ":148319,"âĹĸ":148320,"âĺ©":148321,"âĻij":148322,"âϲ":148323,"âļĽ":148324,"ãĦŁ":148325,"ãī±":148326,"ãİļ":148327,"ê¡ķ":148328,"êªĸ":148329,"ê°¹":148330,"ê²Ĩ":148331,"êµĦ":148332,"ëĩ¬":148333,"ëĭ¯":148334,"ëıł":148335,"ëĴ¬":148336,"ëĸĪ":148337,"ëĸ½":148338,"ëĺĶ":148339,"ëŀ¸":148340,"ë¸ħ":148341,"뻳":148342,"ë¿Ł":148343,"ìĤµ":148344,"ìĬī":148345,"ìľ°":148346,"ìłĭ":148347,"ìłĶ":148348,"쥡":148349,"ìŃĿ":148350,"켬":148351,"íĪĩ":148352,"íīľ":148353,"íįĦ":148354,"íĽ¾":148355,"íĿ£":148356,"朗":148357,"勞":148358,"ï¦ľ":148359,"獵":148360,"ï§ľ":148361,"ï¨Ī":148362,"שׁ":148363,"הּ":148364,"ïѽ":148365,"ï®ī":148366,"ï¯ŀ":148367,"ï°Ĵ":148368,"ï±ĩ":148369,"ï¿Ħ":148370,"ðĿIJħ":148371,"ðĿijĦ":148372,"ðĿijº":148373,"ðĿĴĹ":148374,"ðĿĵ®":148375,"ðĿķĽ":148376,"ðĿķŀ":148377,"ðĿĸij":148378,"ðĿĺģ":148379,"ðĿĺĨ":148380,"ðĿĺ¶":148381,"ðĿĻ¢":148382,"ðĿļľ":148383,"ðŁĮĥ":148384,"ðŁĮ¦":148385,"ðŁįŁ":148386,"ðŁİİ":148387,"ðŁıĻ":148388,"ðŁIJ©":148389,"ðŁIJ«":148390,"ðŁIJ´":148391,"ðŁijĶ":148392,"ðŁĵī":148393,"ðŁĵĽ":148394,"ðŁĶī":148395,"ðŁĸ¼":148396,"ðŁĹĥ":148397,"ðŁĹ¯":148398,"ðŁļĩ":148399,"ðŁļIJ":148400,"ðŁļµ":148401,"ðŁ¤¶":148402,"ðŁ¥ĭ":148403,"ðŁ¥ĵ":148404,"ðŁ¥®":148405,"ð٦İ":148406,"ðŁ¦ł":148407,"ð٧Ĵ":148408,"ðŁ§¨":148409,"ÆIJ":148410,"Çį":148411,"ÓĢ":148412,"ÔĽ":148413,"ರ":148414,"à´Ļ":148415,"áĢĴ":148416,"ê²Ŀ":148417,"ê¹¹":148418,"ë©¥":148419,"ìĸĶ":148420,"ï¤ģ":148421,"ï¤ı":148422,"ï¦ī":148423,"ï¦ĵ":148424,"ï§ī":148425,"ï²Ŀ":148426,"ðĿĹŀ":148427,"ðĿű":148428,"ðŁĮĭ":148429,"ðŁį¶":148430,"à¦ļ":148431,"ìķľ":148432,"ðĿIJ¯":148433,"ðĿļĿ":148434,"à°¨":148435,"à½ĺ":148436,"à½ł":148437,"á¡¥":148438,"á¾°":148439,"âģį":148440,"âͰ":148441,"⬾":148442,"ðĿIJł":148443,"ðĿij¯":148444,"ðĿĹĽ":148445,"ðĿĵ»":148446,"ðĿĸĪ":148447,"âŀ»":148448,"áŀł":148449,"⡱":148450,"â»ij":148451,"ðŁ§µ":148452,"廉":148453,"ðŁijĺ":148454,"ãĤĶ":148455,"â¼Ł":148456,"ãĬ¤":148457,"ï¦Ŀ":148458,"ãĮ¦":148459,"â̏":148460,"ðŁĶĻ":148461,"ã¹":148462,"㹦":148463,"ï¹ħ":148464,"ï©Į":148465,"ãī¨":148466,"︽":148467,"âį¥":148468,"ðŁļī":148469,"ðŁ¥ľ":148470,"âĵľ":148471,"â»Ŀ":148472,"ï¨ľ":148473,"ðŁĴĴ":148474,"áĦij":148475,"â¾ŀ":148476,"ï¨ģ":148477,"à´ª":148478,"áĦİ":148479,"âŀ´":148480,"ষ":148481,"áħ¬":148482,"áŀ§":148483,"âĨ¢":148484,"âķ¦":148485,"âľij":148486,"ˬ":148487,"ÕIJ":148488,"à¼Ķ":148489,"ʤ":148490,"˨":148491,"à¤ŀ":148492,"à»ĥ":148493,"à¼ļ":148494,"âĵ¥":148495,"âķľ":148496,"ðŁIJĸ":148497,"á¼Ļ":148498,"ἤ":148499,"ìĨ°":148500,"ÈĤ":148501,"ʱ":148502,"à®ļ":148503,"áĥ§":148504,"á´ĭ":148505,"á´®":148506,"âĿ¡":148507,"âŀ·":148508,"ëĿ¡":148509,"ï§¢":148510,"ﯡ":148511,"ðĿķķ":148512,"ðŁħ°":148513,"ðŁ¦¸":148514,"Ǹ":148515,"Óŀ":148516,"Ô¶":148517,"ÖĨ":148518,"Úģ":148519,"Ûĭ":148520,"áİ¥":148521,"᾿":148522,"âĶŃ":148523,"âĶ®":148524,"êĢĢ":148525,"ê±ĺ":148526,"ëIJŃ":148527,"ë½Ħ":148528,"ìĶIJ":148529,"ì¸Į":148530,"íģł":148531,"íϱ":148532,"ï¥ī":148533,"ï¨ĸ":148534,"ðĿij´":148535,"ðĿĸĴ":148536,"ðĿĺ¨":148537,"ðĿļĮ":148538,"ðŁIJ¡":148539,"ðŁij¢":148540,"ðŁĵĶ":148541,"Åħ":148542,"Æİ":148543,"È©":148544,"Òª":148545,"Ôĥ":148546,"áĥ«":148547,"á¸ĩ":148548,"⼣":148549,"ê»Ń":148550,"ë¨Ħ":148551,"ìŁĢ":148552,"줴":148553,"íļIJ":148554,"盧":148555,"ðŁŁ¢":148556,"Ƨ":148557,"ȼ":148558,"ÊĿ":148559,"ËĦ":148560,"Ëħ":148561,"Ëį":148562,"˧":148563,"Ò¥":148564,"ÕĶ":148565,"Øı":148566,"ؼ":148567,"ßIJ":148568,"ßľ":148569,"à¤ĵ":148570,"à¦Ļ":148571,"à®ĵ":148572,"à¶´":148573,"à¼į":148574,"à¼Ĵ":148575,"ལ":148576,"áĢĤ":148577,"áĢĬ":148578,"áĦĦ":148579,"áĪĺ":148580,"áĭĬ":148581,"áĮį":148582,"áijĭ":148583,"áŀĤ":148584,"áł¢":148585,"á¡Ŀ":148586,"á´¦":148587,"áµį":148588,"ᵨ":148589,"ḡ":148590,"ḯ":148591,"á¼£":148592,"âģĤ":148593,"âĦĺ":148594,"âĦľ":148595,"âĦ³":148596,"âĦµ":148597,"âĨ¦":148598,"âĩĨ":148599,"âĪ·":148600,"âĬļ":148601,"âĮ«":148602,"âĮ¯":148603,"âİĽ":148604,"âİľ":148605,"âݤ":148606,"âݦ":148607,"âİ®":148608,"âijī":148609,"âĶī":148610,"âķĻ":148611,"âĸĤ":148612,"âĹŃ":148613,"âĺĬ":148614,"âĺį":148615,"âĺĴ":148616,"âļĨ":148617,"⼧":148618,"âĽ²":148619,"âŀĺ":148620,"â¥Ħ":148621,"â´³":148622,"â´½":148623,"âµĪ":148624,"ãī¯":148625,"ãİij":148626,"㧬":148627,"êϬ":148628,"ê§ģ":148629,"곬":148630,"ê´ŀ":148631,"ê»ľ":148632,"ëħĵ":148633,"ëĭ¼":148634,"ëįĸ":148635,"ëĸ±":148636,"ëĿ°":148637,"롹":148638,"뢴":148639,"ë£Ģ":148640,"뤳":148641,"ë¨ķ":148642,"ëŃ¥":148643,"ìĦ¶":148644,"ìħ¤":148645,"ìĮķ":148646,"ìįª":148647,"ìı©":148648,"ìĴĢ":148649,"ì͝":148650,"ìĿĶ":148651,"ìĿľ":148652,"ìłŃ":148653,"짦":148654,"쨩":148655,"첬":148656,"ì³¥":148657,"켯":148658,"íĢ«":148659,"íĢŃ":148660,"íĥ¸":148661,"íĵģ":148662,"íķ¬":148663,"íŸ":148664,"íĽķ":148665,"íľŃ":148666,"íĿĹ":148667,"ï¤Į":148668,"浪":148669,"ï§¿":148670,"ï¬Ħ":148671,"ï¬ħ":148672,"ïŃij":148673,"ïŃ«":148674,"ïŃº":148675,"ï®Ĥ":148676,"ﮢ":148677,"ﮨ":148678,"ï°İ":148679,"ï°ł":148680,"ï²£":148681,"ï³IJ":148682,"ï³Ĵ":148683,"ï³ĺ":148684,"ï³ľ":148685,"ï¹¼":148686,"│":148687,"ðĿIJ©":148688,"ðĿĴļ":148689,"ðĿķĶ":148690,"ðĿķ¤":148691,"ðĿĸĮ":148692,"ðĿĹ£":148693,"ðĿŰ":148694,"ðĿĹ´":148695,"ðĿĺĤ":148696,"ðĿĺ¥":148697,"ðĿĺ®":148698,"ðĿĺ¸":148699,"ðĿĻĢ":148700,"ðĿĽ¾":148701,"ðĿľı":148702,"ðŁĮģ":148703,"ðŁĮľ":148704,"ðŁĮ¥":148705,"ðŁĮ¯":148706,"ðŁįIJ":148707,"ðŁİĴ":148708,"ðŁıĶ":148709,"ðŁıķ":148710,"ðŁı®":148711,"ðŁIJĤ":148712,"ðŁIJī":148713,"ðŁIJ¹":148714,"ðŁĶķ":148715,"ðŁĶļ":148716,"ðŁķij":148717,"ðŁķ£":148718,"ðŁĹŀ":148719,"ðŁĹ¡":148720,"ðŁĹ¿":148721,"ðŁļĨ":148722,"ðŁļĬ":148723,"ðŁļĵ":148724,"ðŁļķ":148725,"ðŁļ¾":148726,"ðŁĽģ":148727,"ðŁĽİ":148728,"ðŁĽı":148729,"ðŁ¤´":148730,"ðŁ¥ķ":148731,"ðŁ¥ĸ":148732,"ðŁ¥ł":148733,"ðŁ¥¥":148734,"ð٦Ĩ":148735,"ð٦ī":148736,"ð٦ļ":148737,"ð٧ij":148738,"ðŁ§¥":148739,"ðŁ§¿":148740,"Ű":148741,"ƺ":148742,"ɧ":148743,"àªĩ":148744,"ண":148745,"áĪĪ":148746,"áĬ¤":148747,"áĭ®":148748,"áĮĪ":148749,"áĮµ":148750,"ᥲ":148751,"âĵŁ":148752,"êϳ":148753,"ê°Ĭ":148754,"ëķģ":148755,"ëķ¨":148756,"ìĬģ":148757,"例":148758,"גּ":148759,"ðĿĸį":148760,"ðĿĺĮ":148761,"ðĿĺ³":148762,"ðĿĻ©":148763,"ðŁįĻ":148764,"ðŁĸĸ":148765,"áī³":148766,"áĭ¨":148767,"áĸĩ":148768,"áŀĮ":148769,"á¹§":148770,"âķª":148771,"âŀļ":148772,"â²ĺ":148773,"êķ":148774,"êķ¥":148775,"路":148776,"ﮣ":148777,"ï¯ł":148778,"ðĿĴĸ":148779,"ðĿķĺ":148780,"ðĿĸĩ":148781,"ðĿĹŁ":148782,"ðĿĹª":148783,"ðĿĹ¯":148784,"ðĿĻł":148785,"ðŁĵı":148786,"à¦Ĺ":148787,"âĴ»":148788,"â²ł":148789,"ðĿĵµ":148790,"Ê£":148791,"à°ľ":148792,"áĬ¢":148793,"áŀIJ":148794,"ḷ":148795,"âĦĽ":148796,"âĩĢ":148797,"âĩĬ":148798,"êĴ¦":148799,"ê¦ł":148800,"ﮤ":148801,"ðŁįĽ":148802,"ðŁ¤Ľ":148803,"ᨾ":148804,"âŀº":148805,"áķ¯":148806,"áĽı":148807,"âĩĤ":148808,"â͹":148809,"âĻĹ":148810,"ðŁĸ¨":148811,"ê¦ı":148812,"ર":148813,"áļ¨":148814,"ðŁ¤¥":148815,"ðŁ§¢":148816,"ãIJĤ":148817,"ãĦ¥":148818,"ðŁĸĮ":148819,"â¼Ĵ":148820,"ãĬ§":148821,"âį©":148822,"ð٦ij":148823,"âĶ·":148824,"ï©IJ":148825,"ï©¡":148826,"ðĵĪ":148827,"ðĵĪĴ":148828,"â»Ħ":148829,"ï¨Ĵ":148830,"âĦª":148831,"Ò§":148832,"ÚĮ":148833,"â̶":148834,"âºł":148835,"â»ģ":148836,"âĨ¸":148837,"áĦIJ":148838,"ãħIJ":148839,"à»Ħ":148840,"áĹª":148841,"âĨ¼":148842,"âĩĭ":148843,"âĩĺ":148844,"âĮij":148845,"âĸ©":148846,"ðĿIJĹ":148847,"ÄĬ":148848,"à¦ī":148849,"ìīł":148850,"ɤ":148851,"ßį":148852,"ßı":148853,"áµĹ":148854,"âĤ¥":148855,"âĵī":148856,"âĶł":148857,"â͍":148858,"âķĦ":148859,"ä¤":148860,"ä¤Ģ":148861,"껸":148862,"ï®ģ":148863,"ðĵĤ":148864,"ðĵĤĥ":148865,"ð٦ķ":148866,"ÆĽ":148867,"à¦ĩ":148868,"ãıĺ":148869,"﮼":148870,"Úĵ":148871,"ÚĿ":148872,"à¦ĵ":148873,"ද":148874,"á´ħ":148875,"á½Ļ":148876,"âģ¼":148877,"âĸİ":148878,"⼩":148879,"äĶ":148880,"äĶĢ":148881,"뻡":148882,"ìĽ½":148883,"íģĦ":148884,"良":148885,"ï±ī":148886,"ï¹»":148887,"ðĿĸĭ":148888,"ðĿĻĪ":148889,"ðĿĻª":148890,"ðĿ϶":148891,"ðŁIJĦ":148892,"ðŁIJĨ":148893,"áİ¢":148894,"á¸Į":148895,"âĿ´":148896,"ðŁı¸":148897,"ÈĿ":148898,"ɸ":148899,"Îħ":148900,"Ïľ":148901,"Ó¢":148902,"Õ¹":148903,"à´ħ":148904,"àºĪ":148905,"áĭ°":148906,"áijİ":148907,"áłµ":148908,"á¡ł":148909,"á´ī":148910,"ḵ":148911,"á¿´":148912,"âĵ£":148913,"âͶ":148914,"⽯":148915,"ê²¥":148916,"ê¿ĺ":148917,"ëģİ":148918,"ëİĪ":148919,"ë͝":148920,"ë²°":148921,"ìĺ¯":148922,"ìĽ¸":148923,"ìŀĹ":148924,"ì§ĺ":148925,"쬬":148926,"ì·¬":148927,"íģħ":148928,"íĵĶ":148929,"íĽĿ":148930,"冷":148931,"魯":148932,"沈":148933,"ï¯ĸ":148934,"ðĿĵħ":148935,"ðĿĻĦ":148936,"ðŁĵ¶":148937,"ðŁĹĴ":148938,"ðŁ¥Ķ":148939,"ðŁ¥Ń":148940,"Å®":148941,"Å´":148942,"Æī":148943,"Æ«":148944,"Çģ":148945,"Ç£":148946,"Ǻ":148947,"Ǽ":148948,"Èį":148949,"ȯ":148950,"Éľ":148951,"ʬ":148952,"Ëģ":148953,"ˤ":148954,"˵":148955,"ÏĽ":148956,"Ò¤":148957,"Ò¬":148958,"Óı":148959,"ÓĽ":148960,"Ó¡":148961,"Ó³":148962,"ÔĮ":148963,"Ô¬":148964,"Õ³":148965,"Ù»":148966,"Úī":148967,"Ú§":148968,"Üľ":148969,"ߪ":148970,"à¤Ŀ":148971,"à¦Ľ":148972,"à¨Ĩ":148973,"àªķ":148974,"ડ":148975,"à®İ":148976,"à°¬":148977,"ൻ":148978,"ർ":148979,"à¶ł":148980,"à¶Ń":148981,"à¶¶":148982,"à·Ĩ":148983,"༽":148984,"áĢļ":148985,"áħ¢":148986,"áĨ¸":148987,"áĪĢ":148988,"áĪķ":148989,"áΰ":148990,"áī¡":148991,"áī¤":148992,"áĬ¦":148993,"áĬ«":148994,"áĭĭ":148995,"áĭį":148996,"áݯ":148997,"áijŃ":148998,"áķĹ":148999,"᣼":149000,"á¥Ĵ":149001,"á©ī":149002,"áŃº":149003,"á´¡":149004,"áµĺ":149005,"ᵼ":149006,"á¶ł":149007,"á¸ģ":149008,"á¸ĭ":149009,"á¹Ļ":149010,"á¹Ŀ":149011,"Ṧ":149012,"áºħ":149013,"á¼Ĥ":149014,"á½ĥ":149015,"á½į":149016,"á½§":149017,"á¾·":149018,"â̵":149019,"âĤİ":149020,"âĦĿ":149021,"âħĢ":149022,"âĨŀ":149023,"âĨ§":149024,"âĩħ":149025,"âĪĥ":149026,"âīı":149027,"âī½":149028,"âĬŀ":149029,"âĬ¡":149030,"âĬ§":149031,"âĬ¶":149032,"âĭĦ":149033,"âİĴ":149034,"âİ¡":149035,"âİ£":149036,"âݪ":149037,"âıİ":149038,"âĵĥ":149039,"âĵĸ":149040,"âĵ¨":149041,"âķĭ":149042,"âķĸ":149043,"âķ¢":149044,"âķ²":149045,"âĸĨ":149046,"âĸĬ":149047,"âĸį":149048,"âĸ®":149049,"âĺ¡":149050,"âĺ¦":149051,"âĺ±":149052,"âĺ¿":149053,"âĻĺ":149054,"âĻĿ":149055,"âļ°":149056,"âĽij":149057,"âŀª":149058,"â¤Ŀ":149059,"⤢":149060,"⤷":149061,"â§«":149062,"â¨Ń":149063,"⨯":149064,"â±£":149065,"â²İ":149066,"⵼":149067,"ãħĶ":149068,"ãĪı":149069,"ãī²":149070,"ãī³":149071,"ãĬij":149072,"ãĭĽ":149073,"ãİIJ":149074,"겤":149075,"ê·¿":149076,"ê¹ŀ":149077,"껨":149078,"ê¼į":149079,"꿸":149080,"ëĥ¬":149081,"ëĩIJ":149082,"ëĭł":149083,"ëį¯":149084,"ëĹĮ":149085,"ëĹij":149086,"ë¥Ģ":149087,"ëªĥ":149088,"몯":149089,"뱡":149090,"ë³ĵ":149091,"ë³½":149092,"뵾":149093,"ìĤ³":149094,"ìħ¥":149095,"ìĩ½":149096,"ìı¨":149097,"ìı¸":149098,"ìķį":149099,"ìĸĸ":149100,"ìŁ¨":149101,"ì¢ĥ":149102,"ì¢į":149103,"ì¥ij":149104,"ì§¼":149105,"ì©ĥ":149106,"ì®ľ":149107,"쮸":149108,"ì³ij":149109,"ì´¥":149110,"ì¾ĥ":149111,"íħ¦":149112,"íĪ¿":149113,"íĵ½":149114,"íķ³":149115,"íĸı":149116,"íĹł":149117,"íĿ«":149118,"ï¤ĵ":149119,"ï¤ĺ":149120,"ï¥İ":149121,"略":149122,"ï¦ħ":149123,"尿":149124,"ï§ĩ":149125,"ï¬Ĩ":149126,"דּ":149127,"ï®ĩ":149128,"ï®Ī":149129,"ï®Ŀ":149130,"ﮩ":149131,"ï®±":149132,"ï¯ĺ":149133,"ï¯Ļ":149134,"ﯢ":149135,"ﯣ":149136,"ﯤ":149137,"ﯥ":149138,"ï±Ĥ":149139,"ï²Ĩ":149140,"ﲪ":149141,"ï´¼":149142,"ïºī":149143,"ïºĬ":149144,"ﺥ":149145,"ðĿij¨":149146,"ðĿij©":149147,"ðĿij²":149148,"ðĿĴĮ":149149,"ðĿĴª":149150,"ðĿĴ®":149151,"ðĿĵĤ":149152,"ðĿĵĪ":149153,"ðĿĵ¯":149154,"ðĿ͍":149155,"ðĿķĢ":149156,"ðĿķĨ":149157,"ðĿķ¦":149158,"ðĿķ§":149159,"ðĿķ«":149160,"ðĿķ·":149161,"ðĿŵ":149162,"ðĿŸ":149163,"ðĿĺĦ":149164,"ðĿĺĻ":149165,"ðĿĺł":149166,"ðĿĺ¬":149167,"ðĿĻį":149168,"ðĿĻij":149169,"ðĿĻ¡":149170,"ðĿύ":149171,"ðĿĻ·":149172,"ðĿļį":149173,"ðĿĽ¿":149174,"ðŁĥ":149175,"ðŁĥı":149176,"ðŁħĺ":149177,"ðŁī":149178,"ðŁīij":149179,"ðŁİ¡":149180,"ðŁİª":149181,"ðŁİ±":149182,"ðŁİ³":149183,"ðŁİº":149184,"ðŁıİ":149185,"ðŁıĹ":149186,"ðŁıļ":149187,"ðŁıŀ":149188,"ðŁı¦":149189,"ðŁı§":149190,"ðŁIJģ":149191,"ðŁIJħ":149192,"ðŁIJĵ":149193,"ðŁĴĤ":149194,"ðŁĵij":149195,"ðŁĵĵ":149196,"ðŁĵ¨":149197,"ðŁĵ«":149198,"ðŁĶĭ":149199,"ðŁĶŃ":149200,"ðŁĶ¯":149201,"ðŁķĹ":149202,"ðŁļĤ":149203,"ðŁļ¢":149204,"ðŁļ¦":149205,"ðŁļ¬":149206,"ðŁĽĭ":149207,"ðŁĽĮ":149208,"ðŁĽ¬":149209,"ðŁĽ¶":149210,"ðŁŁ¡":149211,"ðŁ¥ĺ":149212,"ðŁ¥Ł":149213,"ðŁ¥¦":149214,"ð٦ĩ":149215,"ð٦Ī":149216,"ð٧Ĭ":149217,"ð٧Ĺ":149218,"ðŁ§¤":149219,"Ê·":149220,"˹":149221,"á¹ļ":149222,"á½¥":149223,"âĦŁ":149224,"겯":149225,"껫":149226,"ë°·":149227,"ìĥĨ":149228,"ìĽĿ":149229,"ì¨ī":149230,"ì«ı":149231,"ï¯ķ":149232,"ðĿľĭ":149233,"ɲ":149234,"ÒŃ":149235,"ÓĪ":149236,"à½Ľ":149237,"áĭĵ":149238,"áĻŃ":149239,"áł©":149240,"á¹®":149241,"âĦĴ":149242,"âĨ»":149243,"âµĥ":149244,"ë̍":149245,"ëł§":149246,"ìī¥":149247,"ìĮľ":149248,"ìŶ":149249,"ì¨Ī":149250,"쪾":149251,"íı½":149252,"íļĶ":149253,"íĽµ":149254,"露":149255,"ï¦IJ":149256,"ï§Ĺ":149257,"ï§ļ":149258,"אָ":149259,"ðĿIJĬ":149260,"ðĿķĹ":149261,"ðĿĹļ":149262,"ðĿļĸ":149263,"ðŁħ´":149264,"Èĥ":149265,"ÉĿ":149266,"ϱ":149267,"ÓĹ":149268,"ढ":149269,"áħł":149270,"áī¦":149271,"áijĮ":149272,"áĴ¼":149273,"áŀ¡":149274,"᳨":149275,"áłŃ":149276,"á¨ħ":149277,"á¨Ķ":149278,"á´ĺ":149279,"ᶦ":149280,"á¸İ":149281,"á¼ħ":149282,"á¼¹":149283,"âĨ¯":149284,"âĵİ":149285,"ãıĮ":149286,"êī":149287,"êīĤ":149288,"ëĨ§":149289,"ëĿ±":149290,"좡":149291,"íν":149292,"ï¤ĩ":149293,"ï¤Ľ":149294,"ðĿIJķ":149295,"ðĿĵ¸":149296,"ðĿĵ¼":149297,"ðĿĹķ":149298,"ðĿĺĪ":149299,"ðŁı£":149300,"ðŁı¤":149301,"ðŁĹĦ":149302,"Ñ·":149303,"Òł":149304,"áµĸ":149305,"Ἠ":149306,"ë¬Ħ":149307,"ï°´":149308,"âν":149309,"ÕŃ":149310,"Ú¹":149311,"à¥Ł":149312,"áĢĨ":149313,"áŀĴ":149314,"ã̶":149315,"ꦫ":149316,"ï¸ĵ":149317,"ðĿIJĽ":149318,"ðĿĺĹ":149319,"ðŁıľ":149320,"ì«Ń":149321,"ð٧ŀ":149322,"à½Ĥ":149323,"âĨ¿":149324,"âĩı":149325,"âĵģ":149326,"âͧ":149327,"âķģ":149328,"âķ¤":149329,"ê¦Ĺ":149330,"ꦤ":149331,"ðŁıĪ":149332,"áŀķ":149333,"Ô½":149334,"àªĹ":149335,"à¬Ĩ":149336,"âķķ":149337,"ï½ł":149338,"⼦":149339,"⼯":149340,"â¾·":149341,"âĶĸ":149342,"à¬ĵ":149343,"âĺĹ":149344,"âįĭ":149345,"ï¨Ŀ":149346,"â¼¥":149347,"寧":149348,"âĦĬ":149349,"ãĢ´":149350,"âį¢":149351,"ð¡Ī":149352,"ð¡Ī½":149353,"難":149354,"ãĢ»":149355,"ãıĥ":149356,"說":149357,"ï¨ĺ":149358,"ðŁIJĥ":149359,"ðŁĨĸ":149360,"ðŁĹ¾":149361,"ãĦĩ":149362,"Þĭ":149363,"â¼¼":149364,"ï¨Ń":149365,"ÞĢ":149366,"ÞĦ":149367,"ÞĪ":149368,"ÞIJ":149369,"âĮĦ":149370,"â»ĺ":149371,"ãŁ¢":149372,"áħ§":149373,"ðIJĮ¿":149374,"Ë»":149375,"à²Ĺ":149376,"áĢĩ":149377,"áŀĬ":149378,"âķĩ":149379,"ãĩ¼":149380,"ãݰ":149381,"ÕĴ":149382,"ÜĪ":149383,"ߥ":149384,"à¿IJ":149385,"áĢŁ":149386,"âĨ¥":149387,"âķĮ":149388,"â½Ģ":149389,"â½°":149390,"â¾Ĭ":149391,"äĦ":149392,"äĦĢ":149393,"ðĵIJ":149394,"ðĵIJį":149395,"ðŁİ¦":149396,"âĤ¯":149397,"âĬĺ":149398,"âĦį":149399,"ʵ":149400,"Ѷ":149401,"Úĥ":149402,"à¦Ķ":149403,"à´¦":149404,"áݶ":149405,"áĵķ":149406,"Ṩ":149407,"âĤł":149408,"âĩ°":149409,"âĹĴ":149410,"â¿Ĭ":149411,"ê·±":149412,"ì¹ķ":149413,"íĪ©":149414,"ïŃĢ":149415,"ðĿĴ¸":149416,"ðĿĵĬ":149417,"ðĿĺ©":149418,"Ǧ":149419,"É«":149420,"áĬ¨":149421,"ȹ":149422,"ʯ":149423,"Ϊ":149424,"ÚĢ":149425,"áĮ¸":149426,"áİ»":149427,"áıķ":149428,"áı´":149429,"á²Ĥ":149430,"Ὠ":149431,"âıĿ":149432,"âĺĻ":149433,"ëĥ¨":149434,"ëĦ¼":149435,"ëĪĻ":149436,"ë£ħ":149437,"ìͼ":149438,"ìķĿ":149439,"ìļ¬":149440,"ìľ±":149441,"ï¥Ĥ":149442,"惡":149443,"יּ":149444,"ïŃģ":149445,"ï³Ī":149446,"ðĿĶħ":149447,"ðĿĺ¤":149448,"ðĿĻı":149449,"ðĿĻĻ":149450,"ðŁķī":149451,"ð٧Ļ":149452,"á¸ij":149453,"ê´¼":149454,"ëģį":149455,"ëĹ´":149456,"ëĿ³":149457,"ë°ŀ":149458,"ë°¢":149459,"ëµĺ":149460,"ìĤĶ":149461,"ìĦĦ":149462,"ì¼ļ":149463,"íĢł":149464,"íĬ±":149465,"íĮĸ":149466,"ï¤ij":149467,"領":149468,"隸":149469,"ï´į":149470,"ðĿĺ·":149471,"Ĭ":149472,"Ŭ":149473,"ÆĢ":149474,"Æĭ":149475,"Æľ":149476,"Çij":149477,"Çĺ":149478,"Çŀ":149479,"Ç¥":149480,"Ç®":149481,"ɰ":149482,"ɶ":149483,"É·":149484,"ɽ":149485,"ÊĪ":149486,"ÊIJ":149487,"Ëİ":149488,"ËŁ":149489,"˦":149490,"˯":149491,"ÏIJ":149492,"Ïĵ":149493,"Ï¢":149494,"Ϥ":149495,"Ϫ":149496,"ÏŃ":149497,"Ï®":149498,"Ï»":149499,"Ñł":149500,"ÑŃ":149501,"Ò¨":149502,"ÓĿ":149503,"Ô¡":149504,"Ô·":149505,"Õī":149506,"Õĵ":149507,"Õĸ":149508,"Õļ":149509,"ÕĿ":149510,"Öİ":149511,"Ø¿":149512,"Úħ":149513,"Úį":149514,"ÚĶ":149515,"ÛĬ":149516,"Û¾":149517,"ÜĻ":149518,"ÝĴ":149519,"Ýĺ":149520,"ßĴ":149521,"ßĸ":149522,"à¤Ĭ":149523,"à¤IJ":149524,"à¦ı":149525,"à¦ĸ":149526,"à§Ł":149527,"મ":149528,"હ":149529,"à®ħ":149530,"à®Ĩ":149531,"à°¡":149532,"à°°":149533,"à²ļ":149534,"ಮ":149535,"ಯ":149536,"à´Ł":149537,"à´·":149538,"ൾ":149539,"à¶ij":149540,"à¶ŀ":149541,"༼":149542,"à½ĵ":149543,"áĢĵ":149544,"áĤ¦":149545,"áĥĸ":149546,"áĥŃ":149547,"áĥ¯":149548,"áħ¨":149549,"áħª":149550,"áĨ°":149551,"áĪģ":149552,"áĪİ":149553,"áĪĵ":149554,"áĪ¥":149555,"áβ":149556,"áĪ´":149557,"áĪ»":149558,"áīł":149559,"áī²":149560,"áī¶":149561,"áĬ£":149562,"áĬ¥":149563,"áĬª":149564,"áĭĺ":149565,"áĭ²":149566,"áĭ¶":149567,"áĮ£":149568,"áį¡":149569,"áį£":149570,"áݬ":149571,"áݾ":149572,"áIJ¡":149573,"áķķ":149574,"áĸ±":149575,"áĹIJ":149576,"áĹŃ":149577,"áĺī":149578,"áļ±":149579,"ἣ":149580,"áŀ¥":149581,"áŁĶ":149582,"áł£":149583,"áłª":149584,"áł°":149585,"áł´":149586,"á¤ĸ":149587,"ᥣ":149588,"á®":149589,"᮳":149590,"á¯":149591,"á¯Ļ":149592,"á°":149593,"á°į":149594,"á´Ĭ":149595,"á´¾":149596,"áµģ":149597,"áµİ":149598,"áµŀ":149599,"ᵤ":149600,"á¶ħ":149601,"á¶ĺ":149602,"á¶Ł":149603,"á¶¢":149604,"ᶤ":149605,"á¶±":149606,"á¶»":149607,"á¸ī":149608,"á¸ŀ":149609,"Ḻ":149610,"á¹ĵ":149611,"á¹Ĺ":149612,"Ṫ":149613,"áºĬ":149614,"áºı":149615,"áºĽ":149616,"á¼ĥ":149617,"á¼Į":149618,"Ἷ":149619,"á½Ĥ":149620,"á½ĵ":149621,"á½Ĺ":149622,"ὦ":149623,"á¾±":149624,"á¾´":149625,"á¿ĺ":149626,"á¿Ł":149627,"Ὸ":149628,"âģĺ":149629,"âĤij":149630,"âĤĽ":149631,"âĤ¿":149632,"âĦĩ":149633,"âĦŀ":149634,"âĦ±":149635,"âĩŁ":149636,"âĩ²":149637,"âΤ":149638,"âζ":149639,"âīĤ":149640,"âī¾":149641,"âĬ¨":149642,"âĬ³":149643,"âĬ·":149644,"âĭĮ":149645,"âĭĺ":149646,"âĮķ":149647,"âĮ¥":149648,"âĮµ":149649,"âĮº":149650,"âį£":149651,"âį²":149652,"âįµ":149653,"âİĩ":149654,"âıĥ":149655,"âıIJ":149656,"âıł":149657,"âı¤":149658,"âı¶":149659,"âı¸":149660,"âı¹":149661,"âijĤ":149662,"âĴ·":149663,"âĴº":149664,"âĵ¡":149665,"âĵ¤":149666,"â;":149667,"âĸĺ":149668,"âĸµ":149669,"âĹª":149670,"âĹ·":149671,"âĺ¨":149672,"âĺ«":149673,"âĺ²":149674,"âĺ³":149675,"âĻĨ":149676,"âļ¤":149677,"âļ¥":149678,"âĽĵ":149679,"⼴":149680,"âĽ¾":149681,"âŀ«":149682,"âŀ¿":149683,"⣷":149684,"â¤ij":149685,"⤫":149686,"⤶":149687,"⤽":149688,"⧪":149689,"â¨Ģ":149690,"⩽":149691,"⬡":149692,"⬢":149693,"⬤":149694,"â²ĸ":149695,"Ⲫ":149696,"âµĢ":149697,"⸮":149698,"⸽":149699,"ãĢł":149700,"ãĢ·":149701,"ãĦĮ":149702,"ãĦĺ":149703,"ãħij":149704,"ãĪİ":149705,"ãĪIJ":149706,"ãĬľ":149707,"ãĮĵ":149708,"ãĮł":149709,"ãİŁ":149710,"ãݤ":149711,"ãݧ":149712,"㬮":149713,"äĪ":149714,"äĪĢ":149715,"ä°":149716,"ä°Ģ":149717,"êħ":149718,"êħī":149719,"êĩĹ":149720,"êĪ":149721,"êĪį":149722,"ê§Ĥ":149723,"ê§Ĭ":149724,"êªĢ":149725,"ê²Ī":149726,"ê²į":149727,"ê³Ģ":149728,"êµł":149729,"ê½IJ":149730,"ê¾Ī":149731,"꿱":149732,"ëĥı":149733,"ëĦij":149734,"ëħ¤":149735,"ëĩ¸":149736,"ëμ":149737,"ëīħ":149738,"ëĬ£":149739,"ëĭº":149740,"ëįŀ":149741,"ëIJĮ":149742,"ëķ¸":149743,"ëĺł":149744,"ëĻĩ":149745,"ëĻĪ":149746,"ëľ½":149747,"ëŀĶ":149748,"ëłľ":149749,"ë£IJ":149750,"ë§Ģ":149751,"ë§Ĭ":149752,"ëªĢ":149753,"ë¬Ń":149754,"믾":149755,"ë³ľ":149756,"ë´Ĭ":149757,"ëµī":149758,"ë·ľ":149759,"ë¸Ģ":149760,"ë¹ĭ":149761,"ìģĦ":149762,"ìĤ£":149763,"ìĤ»":149764,"ìĦµ":149765,"ìħĴ":149766,"ìīĪ":149767,"ìīĶ":149768,"ìĬĮ":149769,"ìĬĻ":149770,"ìIJ´":149771,"ìĵº":149772,"ìķļ":149773,"ìķº":149774,"ìĸľ":149775,"ìĹª":149776,"ìĺľ":149777,"ìϤ":149778,"ìļĽ":149779,"ìļº":149780,"ìĿħ":149781,"ìĿı":149782,"ìĿŃ":149783,"ìĿ¶":149784,"ìłĽ":149785,"ì¡Ī":149786,"ì¢ī":149787,"ì¢Ķ":149788,"ì©ł":149789,"ìŃĮ":149790,"쯩":149791,"ì´£":149792,"ì¸ķ":149793,"ì¹Ł":149794,"쾡":149795,"ì¿Ļ":149796,"íģĩ":149797,"íģī":149798,"íĩĢ":149799,"íζ":149800,"íĸij":149801,"íĸ¤":149802,"íĹħ":149803,"íľı":149804,"íĿĿ":149805,"ï¤Ĵ":149806,"ï¤ķ":149807,"郎":149808,"ï¥ħ":149809,"ï¥ĩ":149810,"ï¥ı":149811,"ï¥ļ":149812,"ï¥Ł":149813,"ï¦Ħ":149814,"ï¦Ī":149815,"令":149816,"囹":149817,"零":149818,"ï§ģ":149819,"ï§ĥ":149820,"ï§Ķ":149821,"ï§ł":149822,"ï§£":149823,"ï§®":149824,"ïŃIJ":149825,"ïŃĸ":149826,"ïѦ":149827,"ïŃ´":149828,"ïѵ":149829,"ïѶ":149830,"ïѸ":149831,"ï®Į":149832,"ï®İ":149833,"ï®ŀ":149834,"ï®Ł":149835,"ﮡ":149836,"ﮪ":149837,"ï¯Ķ":149838,"ï¯Ĺ":149839,"ï¯ļ":149840,"ï¯Ľ":149841,"ï¯Ŀ":149842,"ï¯Ł":149843,"ﯧ":149844,"ﯨ":149845,"ﯫ":149846,"ﯯ":149847,"ﯰ":149848,"ﯱ":149849,"ﯲ":149850,"ﯳ":149851,"ﯴ":149852,"ﯵ":149853,"ﯶ":149854,"ï°Ģ":149855,"ï±ħ":149856,"ï±Ķ":149857,"ï±´":149858,"ï²ģ":149859,"ï³ķ":149860,"ï·½":149861,"ï¸ķ":149862,"︱":149863,"ï¹£":149864,"ï¹½":149865,"ï»į":149866,"ï¾±":149867,"ðĿIJĻ":149868,"ðĿIJ½":149869,"ðĿij¤":149870,"ðĿij®":149871,"ðĿijµ":149872,"ðĿĴĥ":149873,"ðĿĴĦ":149874,"ðĿĵŃ":149875,"ðĿĵ·":149876,"ðĿĶĸ":149877,"ðĿĶŀ":149878,"ðĿĶ¢":149879,"ðĿͦ":149880,"ðĿͬ":149881,"ðĿķĦ":149882,"ðĿķĬ":149883,"ðĿķİ":149884,"ðĿķĻ":149885,"ðĿķľ":149886,"ðĿķŃ":149887,"ðĿķ³":149888,"ðĿķ¸":149889,"ðĿķ¾":149890,"ðĿĸī":149891,"ðĿĸı":149892,"ðĿĺĩ":149893,"ðĿĺī":149894,"ðĿĺĸ":149895,"ðĿĺĽ":149896,"ðĿĺŀ":149897,"ðĿĺ«":149898,"ðĿĺ¾":149899,"ðĿĻĩ":149900,"ðĿĻī":149901,"ðĿĻĭ":149902,"ðĿĻİ":149903,"ðĿĻĺ":149904,"ðĿĻ¥":149905,"ðĿļĥ":149906,"ðĿļIJ":149907,"ðĿļĶ":149908,"ðĿľĥ":149909,"ðŁĦ·":149910,"ðŁħĿ":149911,"ðŁħ¾":149912,"ðŁĨĤ":149913,"ðŁĨĵ":149914,"ðŁĮĤ":149915,"ðŁĮĨ":149916,"ðŁĮī":149917,"ðŁĮij":149918,"ðŁĮĺ":149919,"ðŁĮ©":149920,"ðŁĮ«":149921,"ðŁį¢":149922,"ðŁį¥":149923,"ðŁİĽ":149924,"ðŁİ¢":149925,"ðŁİ´":149926,"ðŁij¡":149927,"ðŁĴ¾":149928,"ðŁĵŃ":149929,"ðŁĶĪ":149930,"ðŁĶ¦":149931,"ðŁĶ²":149932,"ðŁĶ³":149933,"ðŁķĵ":149934,"ðŁķķ":149935,"ðŁķĺ":149936,"ðŁķŁ":149937,"ðŁķ·":149938,"ðŁĹ³":149939,"ðŁļĦ":149940,"ðŁļĶ":149941,"ðŁļĸ":149942,"ðŁĽIJ":149943,"ðŁĽ¤":149944,"ðŁĽ¸":149945,"ðŁł":149946,"ðŁł³":149947,"ðŁ¤¹":149948,"ðŁ¥ĥ":149949,"ðŁ¥¨":149950,"ðŁ¥ª":149951,"ðŁ¥¾":149952,"ð٦ĥ":149953,"ð٦Ĵ":149954,"ð٦Ļ":149955,"ðŁ¦¶":149956,"ðŁ§ł":149957,"ðŁ§ª":149958,"ð٧Ń":149959,"ðŁ§²":149960,"ð£·":149961,"ð£·Ń":149962,"ð¦ĺ":149963,"ð¦ĺĴ":149964,"Æij":149965,"ÇĻ":149966,"È®":149967,"Øł":149968,"ÚĦ":149969,"ÜĢ":149970,"ߢ":149971,"áīĢ":149972,"áĬIJ":149973,"áİł":149974,"áºŀ":149975,"ëĪŀ":149976,"ëķŁ":149977,"ë£ģ":149978,"ë¤Ĺ":149979,"ìĦ¥":149980,"ìħij":149981,"ìĸIJ":149982,"ìĽĽ":149983,"ì£ķ":149984,"íİı":149985,"íĽĵ":149986,"梁":149987,"ï³Ľ":149988,"ï´«":149989,"ðĸ§":149990,"ðĸ§·":149991,"ðĿķģ":149992,"ðŁIJª":149993,"ðŁĴĪ":149994,"ðŁĵł":149995,"ðŁķĽ":149996,"ðŁķ´":149997,"ÑĿ":149998,"ÓĬ":149999,"ॲ":150000,"પ":150001,"áĥ¤":150002,"áįIJ":150003,"á¶°":150004,"á¼Ŀ":150005,"Ὡ":150006,"âĭĭ":150007,"âĴ½":150008,"âϾ":150009,"â½Ķ":150010,"⾯":150011,"ãĦĴ":150012,"ãħļ":150013,"ëIJį":150014,"ë·ģ":150015,"ìĭĢ":150016,"ìļĿ":150017,"쥰":150018,"캴":150019,"íĭī":150020,"íĿ½":150021,"ï¦Ģ":150022,"樂":150023,"ï§ħ":150024,"ï§ĵ":150025,"ïѝ":150026,"ï®Ĩ":150027,"ðIJ¤ķ":150028,"ðĿIJŁ":150029,"ðĿĴħ":150030,"ðĿĵľ":150031,"ðĿͰ":150032,"ðĿĶ»":150033,"ðĿĺį":150034,"ðĿϝ":150035,"ðŁĦ½":150036,"ðŁħĤ":150037,"ðŁħĶ":150038,"ðŁħ½":150039,"ðŁĵ´":150040,"ð٧ĸ":150041,"ÓĴ":150042,"Ḳ":150043,"ëī¼":150044,"Çı":150045,"Èĵ":150046,"ʸ":150047,"ÕĤ":150048,"Ûħ":150049,"ß¡":150050,"ߣ":150051,"ய":150052,"à°Ī":150053,"ಸ":150054,"ຮ":150055,"à¼ķ":150056,"áĢİ":150057,"áĨ¡":150058,"áIJĭ":150059,"áIJķ":150060,"áij¯":150061,"áŀĨ":150062,"á¨ķ":150063,"á©Ī":150064,"âģħ":150065,"âĨļ":150066,"âĶİ":150067,"âł©":150068,"â²Ĥ":150069,"â²Ķ":150070,"Ⲩ":150071,"ãĬļ":150072,"íĵ²":150073,"ðĿijĪ":150074,"ðĿij¬":150075,"ðĿij¹":150076,"ðĿĴ¾":150077,"ðĿĵ±":150078,"ðĿĵ½":150079,"ðĿķ¯":150080,"ðĿķ»":150081,"ðĿĺ½":150082,"ðĿļĨ":150083,"ðŁĦ°":150084,"ðŁIJ¨":150085,"Òķ":150086,"à²ħ":150087,"ï¨Ĩ":150088,"ðĿij°":150089,"ðŁĦ¸":150090,"Ôİ":150091,"Øį":150092,"Ùµ":150093,"ಶ":150094,"áĢĪ":150095,"áĺĹ":150096,"᳸":150097,"á¡¡":150098,"ᨲ":150099,"á©ģ":150100,"á´·":150101,"áµ§":150102,"âķ¨":150103,"âļģ":150104,"â¾Ŀ":150105,"ã̼":150106,"ãĦı":150107,"êĴ«":150108,"ꦥ":150109,"ꦩ":150110,"ꦲ":150111,"ìĺ¼":150112,"íĵIJ":150113,"ðĵĩ":150114,"ðĵĩ¼":150115,"ðĿķ¿":150116,"ðŁĽ´":150117,"먾":150118,"ವ":150119,"à´İ":150120,"à¼Ģ":150121,"âĩĸ":150122,"ãĪ«":150123,"âĵĢ":150124,"áħ´":150125,"áļ¾":150126,"áĽŀ":150127,"Ἣ":150128,"ᥴ":150129,"âĨĽ":150130,"âĨ¶":150131,"âĩ¤":150132,"âķŁ":150133,"âĺ·":150134,"âļIJ":150135,"ðŁ§´":150136,"á¹³":150137,"âĶį":150138,"âĶĴ":150139,"âĶ©":150140,"âͦ":150141,"â¾µ":150142,"àªľ":150143,"ત":150144,"âĩĻ":150145,"âͱ":150146,"âķĢ":150147,"â½Ĭ":150148,"ï½Ł":150149,"ଡ":150150,"ðł®":150151,"ðł®·":150152,"âķĥ":150153,"â°Ķ":150154,"ãĬ¦":150155,"ðŁİIJ":150156,"ãĩ°":150157,"â¼Ŀ":150158,"â¾Ķ":150159,"â½Ĵ":150160,"âłĴ":150161,"都":150162,"ï©Ĵ":150163,"免":150164,"ï©ĸ":150165,"ðĵı¸":150166,"ãĮĥ":150167,"ðĸ¤":150168,"ðĸ¤IJ":150169,"ï¦Ń":150170,"âĬħ":150171,"â¾³":150172,"ä´¥":150173,"ï©ķ":150174,"ðŁĮĶ":150175,"áŀĭ":150176,"âļį":150177,"â¼ĭ":150178,"ãİĺ":150179,"ðIJĮ²":150180,"É©":150181,"áİij":150182,"âĨ®":150183,"âĩĥ":150184,"âļİ":150185,"ãĩ±":150186,"ãĭ©":150187,"ãĮ¶":150188,"êĻª":150189,"ëݬ":150190,"ï¨IJ":150191,"ï¨Ľ":150192,"ï©Ĭ":150193,"ï©į":150194,"ðĵħ":150195,"ðĵħº":150196,"Ï¡":150197,"Èij":150198,"ÉĤ":150199,"Ôĵ":150200,"ßİ":150201,"à´§":150202,"áĢī":150203,"áĢĭ":150204,"áĢij":150205,"áĢł":150206,"áļĻ":150207,"á¨Ħ":150208,"ᨩ":150209,"ᨹ":150210,"á©ĵ":150211,"ᬾ":150212,"á´Ļ":150213,"áµij":150214,"âĤŃ":150215,"âĨ°":150216,"âľģ":150217,"â½IJ":150218,"ãĭ¯":150219,"ãĮ½":150220,"íĨ¢":150221,"錄":150222,"ðŁĤ":150223,"ðŁĤ»":150224,"ÈĴ":150225,"ͺ":150226,"Ô¥":150227,"Õij":150228,"Ú¶":150229,"à§İ":150230,"à¶®":150231,"àºĸ":150232,"àºľ":150233,"ຽ":150234,"áĥ»":150235,"áħ¯":150236,"áĭŀ":150237,"áĸķ":150238,"á´Ī":150239,"á¶Ĩ":150240,"Ḿ":150241,"á¹¼":150242,"Ῠ":150243,"âĦĭ":150244,"âĦŃ":150245,"âα":150246,"âĮĵ":150247,"âĶĩ":150248,"âĶ¢":150249,"â±®":150250,"â²Ħ":150251,"ãĩ¾":150252,"ãά":150253,"븡":150254,"ìIJī":150255,"íĻĽ":150256,"ðĿķª":150257,"ƹ":150258,"Ͳ":150259,"Óģ":150260,"Û¼":150261,"ফ":150262,"áħŁ":150263,"áīĨ":150264,"áįĪ":150265,"áºĸ":150266,"á½ī":150267,"â͏":150268,"⽩":150269,"êľ":150270,"êľ¥":150271,"êµħ":150272,"ëĤĶ":150273,"ëĦł":150274,"ëĩĹ":150275,"ëĻĿ":150276,"ìļ¯":150277,"ìļ·":150278,"ìŁĽ":150279,"ì·IJ":150280,"íŁ¬":150281,"íŁ®":150282,"íŁ°":150283,"ï¦Ĩ":150284,"鈴":150285,"ï²ŀ":150286,"ﳤ":150287,"ï³¥":150288,"ðIJĮ¸":150289,"ðĿĶı":150290,"ðĿķ®":150291,"ðĿĺ£":150292,"à¦Ī":150293,"âıı":150294,"ãĦĸ":150295,"ê²ĩ":150296,"ëĸĺ":150297,"ëľ·":150298,"ëŀĴ":150299,"ë¡ĵ":150300,"ë¢ī":150301,"ë£ĥ":150302,"ë§ĭ":150303,"ë²ĭ":150304,"ìĤ·":150305,"ìĪķ":150306,"ìĮ¨":150307,"ìĵ»":150308,"ìĸĬ":150309,"ìϬ":150310,"ìĿ»":150311,"ì¦ģ":150312,"쵤":150313,"ì·ĥ":150314,"íĢľ":150315,"íħī":150316,"íįł":150317,"íıħ":150318,"íij±":150319,"íķķ":150320,"íĸł":150321,"íĿķ":150322,"ÆĻ":150323,"Æļ":150324,"Æŀ":150325,"Çĥ":150326,"ÇĬ":150327,"Çľ":150328,"Ǥ":150329,"ÇŃ":150330,"ǹ":150331,"ÈĢ":150332,"Èģ":150333,"Èħ":150334,"Èī":150335,"ÈĹ":150336,"ÈŁ":150337,"Ȥ":150338,"È¥":150339,"Ȩ":150340,"ȵ":150341,"Ⱥ":150342,"È»":150343,"ÉĮ":150344,"É®":150345,"Êħ":150346,"Ê¥":150347,"ʨ":150348,"Ëĵ":150349,"ËĶ":150350,"Ëł":150351,"Ë£":150352,"˸":150353,"Í´":150354,"ÏĹ":150355,"Ïĺ":150356,"ÏĻ":150357,"Ïļ":150358,"ÏĿ":150359,"Ϩ":150360,"Ϭ":150361,"Ͼ":150362,"Ï¿":150363,"Ѫ":150364,"ÒĢ":150365,"Òľ":150366,"Ò¼":150367,"Ò½":150368,"ÓĤ":150369,"Óħ":150370,"Óĩ":150371,"Óį":150372,"Óĸ":150373,"ÓŁ":150374,"Ó«":150375,"Ó±":150376,"ÔĨ":150377,"Ôĩ":150378,"Ôº":150379,"Õĭ":150380,"Öī":150381,"ØĪ":150382,"ØĬ":150383,"ؽ":150384,"ؾ":150385,"Ù·":150386,"ÚĤ":150387,"ÚĬ":150388,"Úĸ":150389,"ÚĹ":150390,"Ú£":150391,"Ú«":150392,"Ú¸":150393,"ÛĢ":150394,"Ûį":150395,"Û½":150396,"Üī":150397,"ܤ":150398,"ݧ":150399,"Ý´":150400,"Þĥ":150401,"Þ¤":150402,"Þ¥":150403,"ßļ":150404,"߼":150405,"ߤ":150406,"àłį":150407,"àłĵ":150408,"àł³":150409,"à¡¢":150410,"à¥ł":150411,"à§ł":150412,"৺":150413,"à¨Ĭ":150414,"à¨IJ":150415,"ਮ":150416,"ਯ":150417,"ਰ":150418,"ਸ":150419,"àªĨ":150420,"ળ":150421,"વ":150422,"ઽ":150423,"à¬Į":150424,"à¬ĺ":150425,"ଽ":150426,"à®ĥ":150427,"ஸ":150428,"à°Ĩ":150429,"à°ķ":150430,"à°¦":150431,"à²Ĩ":150432,"à²Ĭ":150433,"à²Į":150434,"à²IJ":150435,"à²Ľ":150436,"ತ":150437,"ದ":150438,"ಪ":150439,"ಲ":150440,"ಹ":150441,"à´Ĩ":150442,"à´ı":150443,"à´Ĺ":150444,"à´«":150445,"à´¹":150446,"ൺ":150447,"ൽ":150448,"à¶ħ":150449,"à¶Ĭ":150450,"à¶Ķ":150451,"à¶§":150452,"à¶«":150453,"à¶°":150454,"à¼Ħ":150455,"à¼ħ":150456,"à¼Ĭ":150457,"à½Ļ":150458,"ཡ":150459,"ཧ":150460,"à¿Ģ":150461,"à¿Ļ":150462,"áĢĿ":150463,"á̧":150464,"áĢ©":150465,"áĢ¿":150466,"áģµ":150467,"áĤģ":150468,"áĤ½":150469,"áĥĤ":150470,"áĥª":150471,"áĦĬ":150472,"áĦ¢":150473,"áħ¦":150474,"áħŃ":150475,"áĨ®":150476,"áĨ±":150477,"áĨ»":150478,"áĩ":150479,"áĩĤ":150480,"áĪħ":150481,"áĪī":150482,"áĪĮ":150483,"áĪIJ":150484,"áĪĴ":150485,"áĪĻ":150486,"áĪļ":150487,"áĪľ":150488,"áĪŀ":150489,"áĪ©":150490,"áγ":150491,"áĪº":150492,"áν":150493,"áīħ":150494,"áī¢":150495,"áī±":150496,"áī´":150497,"áĬĥ":150498,"áĬį":150499,"áĬĸ":150500,"áĬ®":150501,"áĬ¸":150502,"áĭĽ":150503,"áĭĿ":150504,"áĭ³":150505,"áĮģ":150506,"áĮħ":150507,"áĮ¥":150508,"áĮ¦":150509,"áĮ¨":150510,"áįĬ":150511,"áįį":150512,"áįķ":150513,"áįĸ":150514,"áį¢":150515,"áį¤":150516,"áİĴ":150517,"áݪ":150518,"áıģ":150519,"áıIJ":150520,"áıŁ":150521,"áIJĤ":150522,"áIJĸ":150523,"áIJĿ":150524,"áIJŀ":150525,"áIJŁ":150526,"áIJł":150527,"áijĸ":150528,"áĴĭ":150529,"áĴį":150530,"áĴ¡":150531,"áĵ«":150532,"áĶķ":150533,"áķĭ":150534,"áķij":150535,"áķĻ":150536,"áķļ":150537,"áķĽ":150538,"áķ¤":150539,"áķ¦":150540,"áķ®":150541,"áķ¼":150542,"áĸĵ":150543,"áĹĹ":150544,"áĹ¢":150545,"áĹ¯":150546,"áĹ·":150547,"áĺĦ":150548,"áĺij":150549,"áĽĤ":150550,"áĽĻ":150551,"áŀį":150552,"áłĨ":150553,"áł¡":150554,"᳦":150555,"áł®":150556,"áł¯":150557,"áł²":150558,"áł·":150559,"á¡į":150560,"á¡ŀ":150561,"ᡤ":150562,"á¡´":150563,"ᡵ":150564,"á¤ĵ":150565,"á¥ĸ":150566,"ᥰ":150567,"ᨦ":150568,"ᨧ":150569,"ᨨ":150570,"ᨪ":150571,"ᨬ":150572,"ᨯ":150573,"ᨳ":150574,"ᨵ":150575,"á©ĥ":150576,"á¬ķ":150577,"áŃ£":150578,"á±":150579,"á±ļ":150580,"á²ł":150581,"á´ĵ":150582,"á´¶":150583,"áµĤ":150584,"áµĮ":150585,"áµ¥":150586,"áµ´":150587,"á¶ĩ":150588,"á¸Ī":150589,"ḳ":150590,"ḧ":150591,"Ḵ":150592,"Ḿ":150593,"á¹Ģ":150594,"á¹ĸ":150595,"á¹Ł":150596,"á¹ł":150597,"ṫ":150598,"á¹±":150599,"á¹·":150600,"ṿ":150601,"áºĦ":150602,"áºį":150603,"áºij":150604,"áºĹ":150605,"á¼ī":150606,"á¼ĵ":150607,"á¼Ń":150608,"á½ĭ":150609,"á½Ĵ":150610,"á½ł":150611,"á½£":150612,"á¾Ħ":150613,"á¾ı":150614,"á¾ij":150615,"á¾Ĺ":150616,"ᾦ":150617,"á¾§":150618,"á¾¾":150619,"á¿Ħ":150620,"á¿ĵ":150621,"á¿¡":150622,"Ῥ":150623,"âģļ":150624,"âĤĮ":150625,"âĦģ":150626,"âĦĶ":150627,"âĦ£":150628,"âĦ§":150629,"âĦ¯":150630,"âĦ°":150631,"âĦ´":150632,"âħħ":150633,"âĨľ":150634,"âĨ«":150635,"âĨŃ":150636,"âĨ±":150637,"âĨ¹":150638,"âĨ½":150639,"âĩĩ":150640,"âĩľ":150641,"âĩµ":150642,"âĪī":150643,"âĪĬ":150644,"âĪĸ":150645,"âĪľ":150646,"âξ":150647,"âīĢ":150648,"âīĭ":150649,"âīĮ":150650,"âīĵ":150651,"âīľ":150652,"âī´":150653,"âī¿":150654,"âĬĬ":150655,"âĬĭ":150656,"âĬĶ":150657,"âĬĸ":150658,"âĬ£":150659,"âĬ¦":150660,"âĭİ":150661,"âĭª":150662,"âĭ²":150663,"âĮ¦":150664,"âĮ§":150665,"âįº":150666,"âİĪ":150667,"âݨ":150668,"âݬ":150669,"âݳ":150670,"âݼ":150671,"âݾ":150672,"âıĮ":150673,"âıļ":150674,"âı«":150675,"âı¯":150676,"âıµ":150677,"âĴľ":150678,"âĴĿ":150679,"âĴ«":150680,"âĵĦ":150681,"âĵĬ":150682,"âĵĻ":150683,"âĵ©":150684,"âĶij":150685,"âĶĻ":150686,"âĶļ":150687,"âĶ¥":150688,"âķħ":150689,"âķī":150690,"âķį":150691,"âķı":150692,"âķŀ":150693,"âĸļ":150694,"âĸ¯":150695,"âĹĥ":150696,"âĹļ":150697,"âŬ":150698,"âĹ´":150699,"âĺĪ":150700,"âĺ¤":150701,"âĺ¥":150702,"âĺ§":150703,"âĺ¬":150704,"âĻģ":150705,"âϱ":150706,"âļĥ":150707,"âļĦ":150708,"âļħ":150709,"âļı":150710,"âļļ":150711,"âļŀ":150712,"âļŁ":150713,"âļ±":150714,"âļ²":150715,"âľĢ":150716,"⾣":150717,"âľ¢":150718,"âĿµ":150719,"âŁ¡":150720,"⣦":150721,"⣧":150722,"âŁ³":150723,"âŁ¾":150724,"âŁ¿":150725,"âłĩ":150726,"â¤Ħ":150727,"⤺":150728,"â¥Ĥ":150729,"⥹":150730,"â§ī":150731,"â§¼":150732,"â§½":150733,"â¨į":150734,"â¬Ĭ":150735,"⬣":150736,"âŃŀ":150737,"â®ŀ":150738,"⮳":150739,"â¯Ī":150740,"â¯ij":150741,"ⱳ":150742,"â±±":150743,"â²Ń":150744,"â´¹":150745,"âµķ":150746,"⸾":150747,"⺫":150748,"â¼Ĩ":150749,"â¼ł":150750,"â½Ł":150751,"â½¼":150752,"â¾Ľ":150753,"â¾§":150754,"â¿ĥ":150755,"â¿»":150756,"ãĤķ":150757,"ãĤŁ":150758,"ãĦĽ":150759,"ãĦ¡":150760,"ãĦ¶":150761,"ãĦº":150762,"ãħĴ":150763,"ãħŁ":150764,"ãĨĢ":150765,"ãĩ»":150766,"ãĪij":150767,"ãĪŃ":150768,"ãĪ®":150769,"ãγ":150770,"ãι":150771,"ãī¥":150772,"ãī¦":150773,"ãī¹":150774,"ãī¿":150775,"ãĬŀ":150776,"ãĬ¨":150777,"ãĭij":150778,"ãĭ¥":150779,"ãĭ´":150780,"ãĭº":150781,"ãİĦ":150782,"ãİķ":150783,"ãݯ":150784,"ãıĤ":150785,"ãıĪ":150786,"ãıĵ":150787,"ãıĸ":150788,"ãı±":150789,"ãIJ±":150790,"ãŁģ":150791,"ã¢":150792,"㢨":150793,"ã¨":150794,"㨳":150795,"㫪":150796,"ã«´":150797,"ã¶³":150798,"㺾":150799,"äĢ":150800,"äĢĢ":150801,"äĭ":150802,"äĭĮ":150803,"äĮĢ":150804,"äIJĢ":150805,"äłĢ":150806,"äł":150807,"äł¼":150808,"ä§":150809,"ä§ŀ":150810,"䨰":150811,"䨺":150812,"ä´Ģ":150813,"ä·":150814,"ä·ħ":150815,"ä·¸":150816,"êĤ":150817,"êĤ«":150818,"êĮ":150819,"êĮ¼":150820,"êį":150821,"êį²":150822,"êĴµ":150823,"êĵ":150824,"êĵ½":150825,"êĻŃ":150826,"êĿĽ":150827,"êĿ¥":150828,"êŀ":150829,"êŀĬ":150830,"ê¦Ĩ":150831,"ê¦ĩ":150832,"ê¦Ł":150833,"ꦨ":150834,"ê§Ī":150835,"ê©":150836,"ê©Ł":150837,"êªĭ":150838,"êªij":150839,"êªķ":150840,"êªĹ":150841,"êªľ":150842,"ꪮ":150843,"ꪱ":150844,"ꪻ":150845,"ꪼ":150846,"ê«Ģ":150847,"ê«Ŀ":150848,"ê°ĥ":150849,"ê°ĺ":150850,"ê±ľ":150851,"ê²ĵ":150852,"ê²ļ":150853,"ê³Ļ":150854,"ê³¾":150855,"ê´Ĺ":150856,"ê´Ļ":150857,"êµĽ":150858,"ê¶ĥ":150859,"ê¶ķ":150860,"궨":150861,"긩":150862,"긿":150863,"ê¹Ħ":150864,"ê¹Ĩ":150865,"ê¹ī":150866,"ê¹ĵ":150867,"ê¹¢":150868,"ê¹£":150869,"깸":150870,"꺳":150871,"ê¿ı":150872,"ê¿ķ":150873,"ê¿§":150874,"ëĢ©":150875,"ëģħ":150876,"ëĥµ":150877,"ëĦĸ":150878,"ëĦĹ":150879,"ëĦ¢":150880,"ëħĤ":150881,"ëĨIJ":150882,"ëĩľ":150883,"ëĪĭ":150884,"ëĪļ":150885,"ëīį":150886,"ëī¨":150887,"ëĬļ":150888,"ëĬ¡":150889,"ëĭľ":150890,"ëĭª":150891,"ëĮĺ":150892,"ëĮ¤":150893,"ëĮ¸":150894,"ëİŁ":150895,"ëı¨":150896,"ëIJĦ":150897,"ëIJı":150898,"ëIJ´":150899,"ëIJ¸":150900,"ëijģ":150901,"ëij¿":150902,"ëĴ¨":150903,"ëĵ·":150904,"ëĶ®":150905,"ëͲ":150906,"ëķ§":150907,"ëĸĶ":150908,"ëĸª":150909,"ëĺŃ":150910,"ëļĢ":150911,"ëļł":150912,"ëĽĶ":150913,"뼩":150914,"ëľħ":150915,"ëŀķ":150916,"ëŀ°":150917,"ëŁIJ":150918,"ëł¡":150919,"ë¡ŀ":150920,"ë¡£":150921,"롵":150922,"ë£Ħ":150923,"ë£į":150924,"뤳":150925,"ë¦į":150926,"ë¦ı":150927,"릳":150928,"ë§Ħ":150929,"ë§Ĩ":150930,"ë§į":150931,"ë§ľ":150932,"ë§«":150933,"ë§»":150934,"먮":150935,"ë©Ĥ":150936,"ë©Ń":150937,"몴":150938,"묾":150939,"묳":150940,"묫":150941,"묾":150942,"ëѬ":150943,"ë®ĺ":150944,"뮹":150945,"ë¯ķ":150946,"ë¯ľ":150947,"ë°¨":150948,"ë°ª":150949,"ë±Ķ":150950,"ë²ĺ":150951,"ë²Ľ":150952,"ë²±":150953,"ë²´":150954,"ë´½":150955,"뵤":150956,"뵨":150957,"ë·Ĺ":150958,"ë·ĺ":150959,"ë¸ĵ":150960,"븾":150961,"빪":150962,"ëºĥ":150963,"ëºĺ":150964,"뺵":150965,"ë»´":150966,"ë¼IJ":150967,"ë¾Ķ":150968,"ìģŃ":150969,"ìĤł":150970,"ìĤ®":150971,"ìĥı":150972,"ìĥĻ":150973,"ìĦº":150974,"ìħ¢":150975,"ìĨĢ":150976,"ìĨħ":150977,"ìĨ¤":150978,"ìĨ¦":150979,"ìĨ¬":150980,"ìĩ±":150981,"ìε":150982,"ìĭ¨":150983,"ìĭ´":150984,"ìĮ°":150985,"ìįľ":150986,"ìİĹ":150987,"ìİĺ":150988,"ìݼ":150989,"ìijī":150990,"ìijĿ":150991,"ìij»":150992,"ìĴĶ":150993,"ìĴ¯":150994,"ìĵ©":150995,"ìķIJ":150996,"ìķĸ":150997,"ìĸł":150998,"ìĸ¾":150999,"ìĹĥ":151000,"ìĹĹ":151001,"ìĹľ":151002,"ìŨ":151003,"ìĺĤ":151004,"ìĺĦ":151005,"ìĺı":151006,"ìĺ¾":151007,"ìĺ¿":151008,"ìľ§":151009,"ìĿIJ":151010,"ìĿĸ":151011,"ìĿ·":151012,"ìŀį":151013,"ìŀı":151014,"ìŀ¨":151015,"ìŀª":151016,"ìŀ³":151017,"ìł¡":151018,"ìł´":151019,"ìł¹":151020,"ì¡Ģ":151021,"졪":151022,"졵":151023,"ì¢IJ":151024,"좨":151025,"ì£Į":151026,"ì£Ļ":151027,"죳":151028,"ì¦ij":151029,"ì§¥":151030,"ì§´":151031,"ì§¾":151032,"ì¨ĵ":151033,"ì¨ķ":151034,"ì©°":151035,"ì©»":151036,"쩼":151037,"ìªĹ":151038,"ì¬Ķ":151039,"ì¬ĺ":151040,"ì®®":151041,"ì¯ķ":151042,"ì¯ĺ":151043,"ì°İ":151044,"ì°¯":151045,"ì±ĥ":151046,"ì±µ":151047,"ì²§":151048,"ì²®":151049,"첯":151050,"쳬":151051,"ì´ĭ":151052,"ì´¢":151053,"ìµ¥":151054,"ì¶£":151055,"ì¸Ī":151056,"ì¸Ļ":151057,"캤":151058,"ìºŃ":151059,"컽":151060,"ì¼Ļ":151061,"콬":151062,"ì¾Ģ":151063,"ì¿ħ":151064,"쿽":151065,"íĢħ":151066,"íģ¦":151067,"íĤħ":151068,"íĥ¶":151069,"íĥ¹":151070,"íĦĶ":151071,"íħ£":151072,"íĨĦ":151073,"íĨ§":151074,"íĨ¹":151075,"íĩ¼":151076,"íī¤":151077,"íĬ½":151078,"íĭĤ":151079,"íĭij":151080,"íįĪ":151081,"íįĻ":151082,"íį¿":151083,"íݶ":151084,"íIJĿ":151085,"íĴľ":151086,"íĵĿ":151087,"íĵª":151088,"íĵ±":151089,"íĵ·":151090,"íĵ¼":151091,"íĶĻ":151092,"íĶł":151093,"íķļ":151094,"íķĽ":151095,"íķŀ":151096,"íķŁ":151097,"íķ§":151098,"íķ¶":151099,"íĸĬ":151100,"íĸĭ":151101,"íĸį":151102,"íĸĶ":151103,"íĸĺ":151104,"íĸ¡":151105,"íĸ¬":151106,"íĹ£":151107,"íĹ¿":151108,"íĺĸ":151109,"íĺŃ":151110,"íļ°":151111,"íĽį":151112,"íĽ½":151113,"íĿŁ":151114,"íĿŃ":151115,"íĿ´":151116,"íŀľ":151117,"ï¤ī":151118,"ï¤Ń":151119,"爐":151120,"蘆":151121,"祿":151122,"ï¥Ģ":151123,"ï¥ij":151124,"ï¥Ĵ":151125,"ï¥ķ":151126,"ï¥ĺ":151127,"ï¥Ļ":151128,"參":151129,"塞":151130,"殺":151131,"勵":151132,"ï¦ĭ":151133,"ï¦ı":151134,"ï¦Ķ":151135,"ï¦ĸ":151136,"ï¦ĺ":151137,"ï¦Ľ":151138,"ï¦ł":151139,"瑩":151140,"羚":151141,"了":151142,"僚":151143,"料":151144,"ï§Ĩ":151145,"ï§ĸ":151146,"ï§Ľ":151147,"ï§ŀ":151148,"ï§Ł":151149,"ï§§":151150,"ï§³":151151,"狀":151152,"ï§½":151153,"ï¨ĥ":151154,"ï¨ļ":151155,"諸":151156,"ï©Ł":151157,"ﬤ":151158,"שּׁ":151159,"לּ":151160,"ïŃĴ":151161,"ïŃķ":151162,"ïŃĽ":151163,"ïŃĿ":151164,"ïŃŀ":151165,"ïŃŁ":151166,"ïѤ":151167,"ïѧ":151168,"ïѨ":151169,"ïŃ®":151170,"ïѰ":151171,"ïѱ":151172,"ïŃ·":151173,"ïѹ":151174,"ïŃ»":151175,"ï®Ģ":151176,"ï®ĥ":151177,"ï®Ħ":151178,"ï®ħ":151179,"ï®į":151180,"ï®Ĵ":151181,"ï®ĵ":151182,"ï®ķ":151183,"ﮦ":151184,"ï®®":151185,"ï®°":151186,"ï¯ĵ":151187,"ï¯ľ":151188,"ﯩ":151189,"ﯪ":151190,"ﯬ":151191,"ï¯Ń":151192,"ﯮ":151193,"ﯷ":151194,"ﯹ":151195,"ﯻ":151196,"ﯼ":151197,"ï°ĥ":151198,"ï°Į":151199,"ï°IJ":151200,"ï°ĺ":151201,"ï°Ļ":151202,"ï°ľ":151203,"ï°ŀ":151204,"ï°¢":151205,"ï°®":151206,"ï°°":151207,"ï°¼":151208,"ï°¿":151209,"ï±Ģ":151210,"ï±ģ":151211,"ï±Ī":151212,"ï±ĭ":151213,"ï±ı":151214,"ï±Ń":151215,"ï²Ģ":151216,"ï²ĩ":151217,"ï²Ī":151218,"ï²ĭ":151219,"ï²İ":151220,"ï²Ĵ":151221,"ï²ľ":151222,"ï²ł":151223,"ﲬ":151224,"ï²»":151225,"ï³ĩ":151226,"ï³Ķ":151227,"ï³£":151228,"ﳫ":151229,"ï´ĺ":151230,"ï´°":151231,"ï´½":151232,"ï¶":151233,"ï¶°":151234,"ï¸ĸ":151235,"︴":151236,"︹":151237,"ï¹į":151238,"ï¹Ĺ":151239,"ï¹¢":151240,"﹤":151241,"﹩":151242,"ï¹±":151243,"ï¾°":151244,"ï¿Ĥ":151245,"ï¿®":151246,"ðIJĮ°":151247,"ðIJĮ¹":151248,"ðIJĮº":151249,"ðIJĮ½":151250,"ðIJįĤ":151251,"ðIJįĥ":151252,"ðIJįĦ":151253,"ðIJİ":151254,"ðIJݹ":151255,"ðIJ¤Ĥ":151256,"ðIJ¤į":151257,"ðIJ¤ı":151258,"ðIJ¤ĵ":151259,"ðIJŃī":151260,"ðIJŃį":151261,"ðIJ°ĩ":151262,"ðIJ°°":151263,"ðijĤ":151264,"ðijĤĦ":151265,"ðijĺ":151266,"ðijĺģ":151267,"ðĴĢ":151268,"ðĴ̏":151269,"ðĴģ":151270,"ðĴģº":151271,"ðĴĦ":151272,"ðĴĦ·":151273,"ðĴĬ":151274,"ðĴĬij":151275,"ðĴĭ":151276,"ðĴĭĹ":151277,"ðĴĮ":151278,"ðĴĮ¨":151279,"ðĵĥ¢":151280,"ðĵĥ°":151281,"ðĸł":151282,"ðĸłļ":151283,"ðĿĦĥ":151284,"ðĿĦħ":151285,"ðĿĦķ":151286,"ðĿĦĻ":151287,"ðĿĦ±":151288,"ðĿĦ´":151289,"ðĿĦ¹":151290,"ðĿħİ":151291,"ðĿħª":151292,"ðĿĨ£":151293,"ðĿĨ³":151294,"ðĿĨ¹":151295,"ðĿĩĬ":151296,"ðĿĩĹ":151297,"ðĿĩļ":151298,"ðĿĩľ":151299,"ðĿĩł":151300,"ðĿIJī":151301,"ðĿIJĸ":151302,"ðĿIJĺ":151303,"ðĿIJ£":151304,"ðĿIJ±":151305,"ðĿijĬ":151306,"ðĿijŃ":151307,"ðĿij¼":151308,"ðĿij½":151309,"ðĿĴ°":151310,"ðĿĴ·":151311,"ðĿĴ¿":151312,"ðĿĵģ":151313,"ðĿĵĭ":151314,"ðĿĵİ":151315,"ðĿĵĴ":151316,"ðĿĵĺ":151317,"ðĿĵ¢":151318,"ðĿĵ¦":151319,"ðĿĵ«":151320,"ðĿĵ¿":151321,"ðĿĶİ":151322,"ðĿͱ":151323,"ðĿĶ´":151324,"ðĿĶ·":151325,"ðĿ͏":151326,"ðĿͽ":151327,"ðĿķĤ":151328,"ðĿķĥ":151329,"ðĿķĭ":151330,"ðĿķı":151331,"ðĿķIJ":151332,"ðĿķ¥":151333,"ðĿķ´":151334,"ðĿķº":151335,"ðĿĸIJ":151336,"ðĿĸĽ":151337,"ðĿĸĿ":151338,"ðĿĸŀ":151339,"ðĿĹ©":151340,"ðĿĹ³":151341,"ðĿĹ½":151342,"ðĿĺĬ":151343,"ðĿĺĭ":151344,"ðĿĺĶ":151345,"ðĿĺ±":151346,"ðĿĺ´":151347,"ðĿĺ¿":151348,"ðĿĻĴ":151349,"ðĿĻĿ":151350,"ðĿĻŁ":151351,"ðĿϬ":151352,"ðĿĻŃ":151353,"ðĿĻ»":151354,"ðĿϾ":151355,"ðĿļĪ":151356,"ðĿļĭ":151357,"ðĿļij":151358,"ðĿļŁ":151359,"ðĿļł":151360,"ðĿļ£":151361,"ðĿĽ½":151362,"ðĿľĤ":151363,"ðĿľĶ":151364,"ðĿľĻ":151365,"ðŁĢ":151366,"ðŁĢĦ":151367,"ðŁĦ²":151368,"ðŁĦ¶":151369,"ðŁħIJ":151370,"ðŁħĸ":151371,"ðŁħļ":151372,"ðŁħĽ":151373,"ðŁħ¦":151374,"ðŁħ¶":151375,"ðŁħ»":151376,"ðŁħ¼":151377,"ðŁĨĥ":151378,"ðŁĨĨ":151379,"ðŁĨİ":151380,"ðŁĪ¯":151381,"ðŁĪ²":151382,"ðŁĪ¹":151383,"ðŁĮĩ":151384,"ðŁĮĵ":151385,"ðŁįĺ":151386,"ðŁİij":151387,"ðŁİ¿":151388,"ðŁıı":151389,"ðŁıĴ":151390,"ðŁı©":151391,"ðŁı¯":151392,"ðŁIJĢ":151393,"ðŁijĿ":151394,"ðŁĴ¹":151395,"ðŁĴº":151396,"ðŁĵŁ":151397,"ðŁĵª":151398,"ðŁĵ¼":151399,"ðŁĶĢ":151400,"ðŁĶĤ":151401,"ðŁĶĥ":151402,"ðŁĶĩ":151403,"ðŁĶĵ":151404,"ðŁĶ¢":151405,"ðŁĶ¤":151406,"ðŁĶ©":151407,"ðŁķĸ":151408,"ðŁķļ":151409,"ðŁķľ":151410,"ðŁķĿ":151411,"ðŁķŀ":151412,"ðŁķł":151413,"ðŁķ¢":151414,"ðŁķ³":151415,"ðŁĸĩ":151416,"ðŁĸij":151417,"ðŁĸ¶":151418,"ðŁĹģ":151419,"Ѩ":151420,"Úİ":151421,"á¡Į":151422,"Ḱ":151423,"áºĢ":151424,"á¼®":151425,"á½Ŀ":151426,"âĦ¬":151427,"âļ§":151428,"⼤":151429,"㳬":151430,"êĻĭ":151431,"ê¸ij":151432,"ëĶī":151433,"ëĹį":151434,"ë¡ij":151435,"ë¯ij":151436,"ë»ħ":151437,"ë¼Ŀ":151438,"ìĦIJ":151439,"ìī¡":151440,"ìĭ²":151441,"ìı±":151442,"ìŤ":151443,"ìĿ©":151444,"ìĿ¿":151445,"ìŁĻ":151446,"ìł°":151447,"ì¥ī":151448,"íĬŃ":151449,"íķ®":151450,"ï®ı":151451,"ðŁħ±":151452,"ðŁĨĴ":151453,"ðŁķĭ":151454,"Éĺ":151455,"Êĵ":151456,"Õĥ":151457,"à´´":151458,"à½ħ":151459,"áĨº":151460,"áĪĬ":151461,"á΍":151462,"áξ":151463,"áīIJ":151464,"áĮĥ":151465,"áĮ½":151466,"áĶŃ":151467,"áłĤ":151468,"ᳬ":151469,"ᨸ":151470,"á©ĭ":151471,"á¶ı":151472,"á¾Ķ":151473,"á¿IJ":151474,"á¿ļ":151475,"âĻĻ":151476,"âļĤ":151477,"âļĹ":151478,"â¡¢":151479,"⤦":151480,"ëĸ°":151481,"ë¤Ĥ":151482,"ë§ł":151483,"ë±ĭ":151484,"ë±IJ":151485,"ìĽ¢":151486,"ìľ¾":151487,"ì³ħ":151488,"ì»ģ":151489,"íģ»":151490,"íĥĻ":151491,"íĵĸ":151492,"íĵŃ":151493,"íķ±":151494,"íĽľ":151495,"ï¤ħ":151496,"ï¤Ĩ":151497,"ï¦ĥ":151498,"ï§©":151499,"ï¨Ĥ":151500,"ðIJ¤Ķ":151501,"ðIJŃĵ":151502,"ðIJ°¼":151503,"ðĿĵŀ":151504,"ðĿĵ°":151505,"ðĿĻľ":151506,"ðĿļģ":151507,"ðŁħ¢":151508,"ðŁıĩ":151509,"Ȳ":151510,"ʶ":151511,"ÔĪ":151512,"Ôij":151513,"Ýĵ":151514,"Ý¥":151515,"à¤ij":151516,"ॱ":151517,"à¬ī":151518,"à°³":151519,"à°µ":151520,"à²Ł":151521,"áĢı":151522,"áģ¼":151523,"áī¨":151524,"áĬĴ":151525,"áĭ©":151526,"áĮĦ":151527,"áĮĶ":151528,"áIJ§":151529,"áĴĮ":151530,"áĶħ":151531,"áĶĬ":151532,"áłĦ":151533,"á¨ģ":151534,"á¸ĥ":151535,"ḻ":151536,"âĶŀ":151537,"âĺµ":151538,"âļ£":151539,"â²¢":151540,"ãĪª":151541,"ä¶µ":151542,"ê²Ļ":151543,"ê²´":151544,"ê³Ĥ":151545,"롼":151546,"ìĨĬ":151547,"ì¼ĩ":151548,"íĭį":151549,"íĵ¬":151550,"íĵ®":151551,"íĵ¶":151552,"íĵ»":151553,"臘":151554,"ï¥ł":151555,"辰":151556,"ïѲ":151557,"ðIJŃĬ":151558,"ðIJ±ħ":151559,"ðĸ¥":151560,"ðĸ¥¨":151561,"ðĿij³":151562,"ðĿĵķ":151563,"ðĿĵ¬":151564,"ðĿĵ¹":151565,"ðĿĵ¾":151566,"ðĿĶĵ":151567,"ðĿķį":151568,"ðĿķ¡":151569,"ðĿķ±":151570,"ðĿĸĸ":151571,"ðĿĺı":151572,"ðĿĺIJ":151573,"ðĿĺļ":151574,"ðĿĻ®":151575,"ðĿϰ":151576,"ðĿϏ":151577,"ðĿĻº":151578,"ðĿϼ":151579,"ðĿϽ":151580,"ðĿĻ¿":151581,"ðĿļĦ":151582,"ðĿļı":151583,"ðŁħħ":151584,"ðŁħĵ":151585,"ÆĪ":151586,"àłĮ":151587,"áϳ":151588,"áļĮ":151589,"áĽħ":151590,"áĽIJ":151591,"á¤Ĭ":151592,"á¸Ĭ":151593,"âͽ":151594,"âķĬ":151595,"âĽĩ":151596,"âĽı":151597,"âĿª":151598,"âĿ«":151599,"⣰":151600,"ãĦį":151601,"ãĦĵ":151602,"ãĦ§":151603,"ãħĸ":151604,"ãī«":151605,"ê¦Ķ":151606,"ï±Ĭ":151607,"àºĤ":151608,"áħ£":151609,"á¥Ķ":151610,"ᥤ":151611,"âĨ¤":151612,"âĨ·":151613,"âĩŀ":151614,"âĸ¤":151615,"âŀ¶":151616,"ãμ":151617,"嘆":151618,"ðĵı§":151619,"âͲ":151620,"âĢ´":151621,"âĴŁ":151622,"âĴ¡":151623,"â°Ĥ":151624,"â°į":151625,"â°İ":151626,"â°IJ":151627,"â°ij":151628,"â°Ł":151629,"â°ł":151630,"â°¡":151631,"â¼Ń":151632,"ãĬ¥":151633,"âĴł":151634,"⽺":151635,"ãĩº":151636,"ãĩ½":151637,"ï¨Ĭ":151638,"áķ·":151639,"âį¨":151640,"âºŁ":151641,"â½Ĺ":151642} \ No newline at end of file